Anthropic首席执行官呼吁政府拥有封锁"危险"AI系统的权力

Anthropic公司首席执行官达里奥·阿莫迪（Dario Amodei）正在呼吁美国政府封锁危险人工智能模型的部署，就像阻止不安全飞机起飞一样。

阿莫迪在其个人博客上发表的最新文章中表示，有必要对前沿AI系统进行强制性的第三方审计，并建议政府在发现不可接受的风险时有权关闭相关系统。与此同时，他呼吁政府为那些因AI崛起而遭受经济损失的群体提供更多经济支持。

阿莫迪提出的AI安全方案比大多数人的建议更为激进，甚至超越了美国总统唐纳德·特朗普上周发布的行政令。该行政令要求情报机构参与对新模型的风险测试。阿莫迪建议，政府应根据模型训练过程所投入的计算资源规模对其进行审计。他提出设立一个"算力门槛"，一旦某个新模型超过这一特定算力水平，在公开发布之前将自动触发对其能力的独立调查。

这篇文章确定了需要评估的四个具体风险类别：网络安全漏洞、生物武器能力、加速危险领域自动化研究的潜力，以及模型超出人类控制范围的可能性。一旦审计人员认定某模型在上述任一领域存在不可接受的风险，阿莫迪希望政府能够阻止其部署。

阿莫迪表示，现有的航空、汽车和药品监管框架应成为AI监管的参考模型。他写道："我认为，至少在当前这个指数级发展阶段，最恰当的类比对象是汽车、飞机或药品——这些都是现代经济不可或缺的强大技术，但若设计或操作不当，也可能造成大量人员伤亡。"

阿莫迪提出的框架远比特朗普6月2日发布的行政令更为深远。总统的行政令仅鼓励AI企业在公开发布前一个月自愿与政府审计人员共享模型，并强调情报界应参与测试新模型的网络安全漏洞，但并未强制执行任何规定，也未引入强制性测试机制。

Anthropic的首席执行官措辞则更为强硬，文中没有提及"自愿"二字，要求的不是合作，而是合规。特朗普的行政令依赖情报机构，而阿莫迪则要求赋予独立审计机构实质性的否决权。

Anthropic长期以来一直推动对AI实施更严格的管控。早在2023年9月，该公司就发布了《负责任扩展政策》，此后多次更新，引入了AI安全等级（ASL）等概念，构建了一套随AI模型能力提升而分级管理风险的框架体系。该公司还表态支持其他相关立法，例如加利福尼亚州的SB 53法案。

除安全问题外，阿莫迪还警告称，AI的兴起对劳动力市场造成的冲击可能远比以往的技术革新更为深远，持续时间也可能更长。他写道："在这样的世界里，核心挑战不是如何激励增长，而是如何让所有人都能共享发展红利。"

阿莫迪表示，他长期以来一直对AI取代就业发出警告，并非出于"末日预言者"的心态，而是希望"政策制定者和私营部门能够拥有最充分的机会来适应并做出回应"。

他在文章中呼吁政府收集更多数据以追踪AI导致的就业流失情况，并出台有利于促进就业的激励措施，以帮助减缓这一趋势。他还希望政府研究"全民基本收入"等机制，以应对就业流失持续加剧、劳动力需求长期下降的局面。他补充称，相关资金可通过对"相关企业"征税或提高资本利得税来筹集。

Q&A

Q1：阿莫迪提出的AI安全审计框架具体包含哪些内容？

A：阿莫迪建议设立"算力门槛"，一旦新模型的训练算力超过该阈值，就会自动触发独立调查。审计重点涵盖四大风险类别：网络安全漏洞、生物武器能力、加速危险领域自动化研究的潜力，以及模型超出人类控制的风险。若审计认定存在不可接受的风险，政府有权阻止该模型公开部署。

Q2：阿莫迪的方案与特朗普AI行政令有什么区别？

A：两者存在明显差异。特朗普的行政令鼓励AI企业在发布前自愿共享模型，侧重情报机构参与测试，且无强制执行机制。而阿莫迪的方案不设"自愿"选项，要求强制合规，并主张赋予独立审计机构实质性否决权，整体力度远超行政令。

Q3：阿莫迪对AI冲击就业问题有哪些政策建议？

A：阿莫迪呼吁政府收集更多数据以追踪AI导致的就业流失情况，并推出促进就业的激励措施。若就业流失持续加剧，他还建议探索"全民基本收入"机制，资金来源可考虑对AI相关企业征税或提高资本利得税。