摩根大通警告AI风险，Anthropic模型引发监管关注
AI能力提升的速度，正在让金融界和政府重新讨论一个过去更像科幻的问题：当一个足够强大的人工智能系统落入普通用户手中，风险边界在哪里？
7月16日，摩根大通CEOJamie Dimon表示，Anthropic旗下Mythos人工智能模型带来的风险已经成为“现实问题”，美国政府目前正在高度关注这一领域。
戴蒙并不是在讨论一般意义上的AI应用风险，而是在关注更先进模型可能带来的能力外溢。
过去一年，生成式AI的发展重点主要集中在效率提升、企业自动化和内容生成。但随着模型能力增强，安全研究人员开始关注另一面：如果AI能够自主发现软件漏洞、生成攻击代码，甚至帮助非专业人员完成复杂技术操作，网络安全风险可能出现新的变化。
Anthropic此前曾表示，Mythos模型在发现软件漏洞方面表现非常突出，以至于公司认为不适合直接向公众开放。这类表述迅速引发行业讨论，因为它涉及AI安全领域最核心的问题之一——能力越强的模型，是否也意味着更大的滥用可能。
戴蒙在参议员Dave McCormick主持的宾夕法尼亚防务与创新峰会上表示，将先进AI系统完全开放给大众使用存在风险。他甚至将这种情况比喻为“把弹道导弹交到个人手中”。
这一比喻虽然具有明显冲击力，但背后的担忧并非没有现实基础。
网络安全行业已经观察到，AI正在降低攻击门槛。过去，复杂网络攻击往往需要专业团队长期准备，而生成式AI可能帮助更多人快速编写代码、分析漏洞、伪造信息或者实施自动化攻击。
对于大型金融机构而言，这类风险尤其敏感。
银行系统本身就是全球网络攻击的重要目标。摩根大通每年投入大量资金建设安全体系，拥有庞大的技术团队和基础设施。因此，戴蒙关注的不只是AI是否会替代员工，而是AI是否会改变金融行业面对的安全环境。
不过，AI风险讨论也存在另一层复杂性。
如果过度限制先进模型开放，可能影响企业创新和科研发展。当前科技公司都在竞争下一代AI能力，而模型训练、应用开发和生态建设都需要一定程度的开放环境。
因此，监管机构面临的难题并不是简单禁止，而是如何区分正常使用和高风险能力释放。
类似问题已经出现在自动驾驶、生物技术以及网络安全工具领域。技术本身并不一定危险，关键在于谁能够使用、如何使用，以及是否存在有效的约束机制。
对于Anthropic这样的AI公司而言，模型安全评估正在成为产品发布流程中的重要环节。过去，企业主要关注模型性能，比如回答能力、推理能力和商业价值；如今，安全边界也成为竞争的一部分。
戴蒙的警告，也反映出传统行业巨头对AI发展的态度正在变化。
大型企业并不排斥人工智能，相反，它们正在积极部署AI工具。但与此同时，它们也意识到，未来AI可能不仅改变生产效率，还会改变风险结构。
从金融到国防，从软件安全到企业运营，AI正在进入一个新的阶段：能力提升带来的价值越来越明显，而如何控制能力扩散带来的风险，也成为下一阶段产业发展的核心问题。
Mythos事件只是一个缩影。随着更强大的模型不断出现，关于开放、安全和监管之间的争论，可能还会持续升温。
