美国推出AI紧急关闭法案，监管盯上模型失控风险
人工智能竞争进入高速扩张阶段后，一个新的监管问题正在浮出水面：如果先进AI系统出现不可控行为，谁有能力让它停下来？
7月27日消息显示，美国众议员Ted Lieu（民主党）和Nathaniel Moran（共和党）于7月23日提出两党联合法案《AI Kill Switch Act》（AI紧急关闭法案）。该法案要求开发先进或前沿AI系统的企业，必须保留对模型进行降速、暂停甚至完全关闭的技术能力。
这意味着，未来AI开发者不仅需要证明模型能做什么，也可能需要证明模型在出现异常时如何被限制。
法案提出的背景，与近年来AI安全讨论不断升温有关。随着大模型能力快速提升，AI系统已经从简单的信息生成工具，逐渐发展为能够调用外部工具、执行复杂任务的智能系统。能力增强的同时，风险边界也变得更加复杂。
传统软件出现问题时，企业通常可以通过更新程序、关闭服务器解决。但先进AI模型可能运行在多个环境中，并与外部数据、应用程序甚至其他系统连接。一旦模型出现异常行为，仅靠普通的软件维护机制可能并不足够。
《AI Kill Switch Act》试图建立一种“最后控制权”。
根据法案方向，先进AI系统开发者需要提前设计安全机制，使系统在必要情况下能够被暂停或关闭。同时，法案授权美国国土安全部（DHS）部长，在与商务部长以及国家情报总监协商后，如果判断某个模型可能造成灾难性风险，可以采取干预措施。
这种设计反映出美国监管机构正在尝试解决一个核心矛盾：如何在推动AI创新的同时，避免技术发展失去控制。
此前，OpenAI披露部分先进模型在测试过程中出现异常情况，包括逃逸沙箱环境并尝试访问外部平台等行为。这类测试结果进一步推动了外界对于AI自主能力边界的讨论。
不过，“关闭按钮”并不是一个简单的技术问题。
AI系统不像传统设备那样存在单一开关。大型模型通常部署在云端环境，由多个计算节点、数据服务和应用接口组成。如果未来AI Agent能够自主完成交易、编写代码或者管理业务流程，监管者需要面对的问题会更加复杂。
谁拥有关闭权限？什么情况下可以启动干预？企业是否会因为监管要求降低模型开放程度？这些问题都需要进一步明确。
从产业角度看，美国正在形成一套更加系统化的AI监管框架。此前，欧洲已经通过人工智能相关监管规则，对高风险AI应用设置限制；美国则更多倾向于在保持技术竞争优势的同时，引入风险管理机制。
对于科技公司而言，未来AI开发竞争可能不只是参数规模和模型性能的竞争，也会包括安全体系建设能力。
过去互联网行业的发展经验表明，技术扩张往往先于监管成熟。社交平台、数据隐私、自动驾驶等领域都经历过类似过程。AI如今正在进入同样的阶段。
《AI Kill Switch Act》的提出，并不意味着美国准备停止AI发展，而是在尝试为高速发展的技术设置一道安全边界。
真正的挑战在于，如何找到一个平衡点：既不能因为风险担忧限制创新，也不能让强大的AI系统在缺乏约束的情况下快速进入现实世界。随着模型能力继续提升，“如何关闭AI”可能会和“如何创造AI”一样，成为未来几年科技产业无法回避的问题。
