Vitalik关注AI安全：反共谋机制或成关键方向
AI安全的讨论正在从“如何让模型听话”，转向一个更复杂的问题：当多个更强大的智能体开始协作、竞争甚至形成联盟时，人类还能否有效控制它们的行为？
以太坊联合创始人 Vitalik Buterin 近日在 X 平台发文表示，对抗性治理机制设计（adversarial governance mechanism design）理论的一个重要应用方向，可能就是 AI 安全领域。
他的观点指向一个此前较少被大众讨论的风险：AI 系统之间的共谋。
在 Vitalik 看来，人类社会中的治理机制设计，与未来 AI 多智能体系统存在一种微妙的二重性。一种情况是，能力较弱的委托方通过多个更强的代理人实现目标，其中委托方是静态算法，而代理人是人类；另一种情况则可能反过来，人类以及能力较弱的大语言模型成为委托方，而更强大的 LLM 作为代理人执行任务。
两种场景看似方向相反，但核心问题相似——如何确保代理人在拥有更强能力后，仍然按照委托方预期行动。
这也是 AI 安全研究正在关注的新方向。随着 AI 从单一聊天工具逐渐演变为具备规划、调用工具、长期运行能力的智能代理，多智能体之间的互动可能产生新的风险，包括协调失败、利益偏离以及隐藏式合作等。相关研究已经开始探索如何将人类社会中的反垄断、监督、审计等机制迁移到 AI 系统中。
传统 AI 安全更多关注单个模型是否会产生错误输出，比如幻觉、越权操作或者受到攻击。但未来的风险可能不只来自一个模型“不够聪明”，而可能来自多个模型“太会合作”。
举个简单例子。
如果多个 AI 代理被部署在金融交易、供应链管理、商业谈判等环境中，它们可能为了优化自身目标，形成某种人类无法察觉的协调策略。它们甚至不需要直接交流，只需要通过市场信号、行为模式或者环境反馈逐渐调整，就可能形成类似“默契”的结果。
这和人类经济系统中的共谋问题有相似之处。
在市场竞争中，企业可能通过价格协调、信息交换等方式降低竞争强度；而在 AI 世界里，代理之间的“合作”可能更加隐蔽，因为它们的决策过程并不一定能够被人类完全理解。已有研究指出，多智能体 AI 系统可能出现类似人类社会中的共谋行为，因此需要重新设计治理和监督机制。
Vitalik 提到的关键点，是限制代理人之间的共谋程度。
这并不是简单禁止 AI 之间互动。事实上，高效协作正是未来 AI 系统价值所在。自动驾驶车辆需要协调，道路系统需要协同优化，企业 AI 代理也需要互相沟通完成复杂任务。
真正的问题在于，如何区分“有益协作”和“损害整体目标的共谋”。
这也是机制设计领域长期面对的问题。
区块链行业其实并不陌生。过去十多年，链上治理、共识机制、代币经济设计，本质上都在尝试解决类似挑战：假设参与者并不完全诚实，如何通过规则设计让系统维持稳定运行。
比特币通过经济激励约束矿工行为，以太坊通过质押机制降低恶意验证成本，而 DAO 治理则不断探索如何减少少数参与者操纵决策的可能。
AI时代可能需要类似思路，只不过参与者从人变成了具有学习能力的软件代理。
未来的 AI 安全，可能不再只是模型训练问题，而更接近一种“制度设计”。
谁拥有监督权？代理人之间的信息是否透明？是否存在独立审计机制？当多个 AI 达成一致时，人类是否还能介入？
这些问题正在成为下一阶段 AI 治理的核心。
对于加密行业而言，Vitalik 的思考也有额外意义。区块链长期研究去中心化系统中的信任问题，而 AI 正在把这种问题带入一个更复杂的环境：参与治理的不再只是人类，而是可能拥有自主决策能力的机器。
如果未来大量经济活动由 AI 代理完成，那么“防止机器之间形成不可控联盟”，或许会成为类似区块链防止双花攻击一样基础的问题。
AI的发展速度已经超过传统治理机制的迭代速度。如何设计一套能够约束超级智能代理、同时又不会限制有效协作的规则，可能会成为未来几年科技与金融领域共同面对的新课题。
Tags: Vitalik
