高盛CEO对Anthropic的Mythos AI风险"高度警觉"

高盛首席执行官大卫·所罗门表示，他对Anthropic旗下Mythos AI模型的能力"高度警觉"，并在该公司发出网络安全风险警告后，正与其"密切"合作。

这家美国银行一直在持续关注人工智能领域的快速发展动态，包括大语言模型的演进，将其纳入防御黑客攻击的整体安全战略之中。

"显然，大语言模型正在快速迭代，在美国政府和模型开发商的协助下，我们对这些新模型不断增强的能力保持着高度关注。"所罗门在周一的业绩电话会议上对分析师表示。

他提到的合作方包括Anthropic——Claude系列AI工具的开发商。上周，该公司宣称其最新模型Mythos因能够发现IT系统漏洞而构成前所未有的安全风险。

"AI模型的代码能力已经达到了一个新高度，除极少数顶尖专家外，它在发现和利用软件漏洞方面已能超越绝大多数人类。"Anthropic上周三在一篇博客文章中写道，"由此引发的后果——无论是对经济、公共安全还是国家安全——都可能极为严峻。"

所罗门在周一表示："我们了解Mythos及其能力……我们已经获取了该模型，正在与Anthropic以及所有安全供应商紧密协作，尽可能地驾驭前沿技术能力。这将持续是我们工作的重要重心。"

"我们高度重视网络安全与基础设施韧性的强化建设。这是我们持续投入的能力建设的一部分，并且正在加快投资步伐。"

此前，美国财政部长斯科特·贝森特已于上周召集所罗门及其他美国大型银行高管赴华盛顿，专门就Mythos模型展开讨论。

此次会议重点关注所谓"系统重要性银行"的负责人——监管机构认为，这类银行一旦发生重大运营中断乃至倒闭，将对金融稳定构成威胁。

周一，英国政府人工智能安全研究院（AISI）警告称，与此前的模型相比，Mythos在网络威胁层面是一次"重大升级"。

AISI指出，Mythos能够在无需人工干预的情况下，独立执行需要多个步骤的攻击操作，并自主发现IT系统中的安全弱点。通常情况下，这些任务需要专业人员耗费数天才能完成。Mythos是首个成功完成AISI设计的32步网络攻击模拟任务的AI模型，在10次尝试中有3次成功解决了该挑战。

AISI表示，Mythos看似已具备自主攻击规模较小、防护薄弱的IT系统的能力，但由于测试环境缺乏防御工具等安全机制，目前尚无法确定其是否能够攻破防护完善的系统。

AISI的博客文章最后发出警告：未来的高级AI模型只会在Mythos的基础上持续进化，因此"现在投资网络防御至关重要"。

英国监管机构预计将在未来数周内，就Mythos的风险问题与英国各大银行高管及政府官员展开专项沟通。由各银行首席执行官以及财政部、英格兰银行、金融行为监管局和国家网络安全中心官员共同组成的跨市场运营韧性小组（CMorg），预计将在未来两周内召开会议。

英格兰银行负责CMorg相关事务的沟通工作，目前对此不予置评。

Q&A

Q1：Mythos AI模型存在哪些具体的网络安全风险？

A：根据Anthropic和英国AISI的评估，Mythos AI模型能够在无需人工干预的情况下，自主发现和利用软件漏洞，执行需要多个步骤的网络攻击操作。通常需要专业人员数天才能完成的任务，Mythos可以独立完成。它是首个成功完成AISI设计的32步网络攻击模拟任务的AI模型，在10次尝试中有3次成功。目前评估认为它能攻击防护薄弱的小型系统，但对防护完善系统的攻击能力尚不明确。

Q2：高盛是如何应对Mythos AI带来的安全威胁的？

A：高盛CEO大卫·所罗门表示，高盛已经获取了Mythos模型，并正与Anthropic及所有安全供应商展开密切合作，以充分掌握和驾驭前沿AI能力。与此同时，高盛也在持续加大对网络安全和基础设施韧性建设的投资力度，将其列为公司重要战略重心。

Q3：英国政府和监管机构对Mythos AI的风险态度如何？

A：英国政府人工智能安全研究院（AISI）已于近期发出警告，认为Mythos在网络威胁层面较此前模型有显著提升。英国监管机构还计划在未来数周内与各大银行高管及政府官员专门讨论Mythos的风险问题，跨市场运营韧性小组（CMorg）预计两周内将召开相关会议。