美英拟限制超级AI开发，监管争夺升温
人工智能竞赛正在进入一个更敏感的阶段。过去几年，各国政府讨论的重点更多集中在数据隐私、算法透明和模型滥用风险，而如今，部分政策制定者开始把目光投向更远的方向——是否应该限制一种可能超过人类认知能力的“超级智能”。
据《时代》报道，美国参议员 Bernie Sanders 计划提出《Ban Artificial Superintelligence Act》，希望禁止开发超越人类智能水平的 AI 系统，并在安全规则建立前暂停部分高级 AI 研究。与此同时，英国议员 Alex Sobel 也在英国下议院推动相关议案，试图成为 G7 国家议会中首个针对“superintelligent AI”提出限制措施的案例。
这类讨论已经不再只是科技圈内部的争论，而逐渐进入国家安全和全球治理领域。
两项提案的核心思路较为接近：推动建立国际层面的监管框架，对超级人工智能研发设置红线，并赋予政府更多监测和干预能力。支持者认为，如果未来出现能力远超现有大模型的新型 AI 系统，传统监管方式可能无法及时应对。
过去几年，OpenAI、Google、Anthropic 等公司持续扩大模型规模，行业竞争逻辑从“谁拥有更好的聊天机器人”逐渐转向“谁能够率先构建通用人工智能基础设施”。模型参数、训练数据和算力投入不断提升，也让部分研究者开始担忧，技术迭代速度可能快于社会治理能力。
这也是为什么“暂停”或者“限制”超级 AI 开发的声音重新出现。
不过，监管方案在执行层面面临巨大挑战。AI 研发不像核武器项目那样容易被物理隔离，一个模型架构、训练方法或者开源代码都可能跨境传播。即使某个国家选择限制本土企业研发，也很难完全阻止其他地区继续推进。
ControlAI 参与了相关法案起草工作，该组织认为，建立针对超级智能的监管体系应成为未来 AI 治理的重要起点。支持这一方向的研究人员也提出，如果缺少约束，高级 AI 系统可能被用于破坏关键基础设施、发动大规模网络攻击，甚至产生人类难以控制的风险。
前 OpenAI 员工 Daniel Kokotajlo 以及 AI 安全领域学者 Stuart Russell 此前均表达过类似担忧。他们认为，随着 AI 能力不断提升，问题已经不只是模型是否“可靠”，而是人类是否能够保持对高度自主系统的控制。
但另一面，科技行业内部也存在不同声音。一些研究人员担心，过早设定过于严格的限制，可能减缓 AI 在医疗、科研、能源优化等领域的应用速度，同时让技术竞争转移到监管较弱的地区。
事实上，超级 AI 监管正在成为一场新的全球技术博弈。美国和英国近年来都希望在人工智能治理规则制定中占据主导位置，而欧盟已经通过《人工智能法案》建立了分级监管体系。不同地区对于风险、创新和国家竞争力之间的平衡，仍然没有形成统一答案。
对于 AI 企业而言，未来几年可能不只是算力和人才的竞争，也会是合规能力的竞争。谁能够在技术推进和风险控制之间找到新的平衡，将决定下一阶段人工智能产业格局。
