美国财政部长斯科特·贝森特与美联储主席杰罗姆·鲍威尔本周召集银行高管举行会议,据彭博社报道,两人在会上鼓励这些高管使用Anthropic推出的全新Mythos模型,以检测潜在的安全漏洞。
目前,摩根大通是被列为Mythos初始合作机构中唯一一家有权访问该模型的银行,但据悉,高盛、花旗集团、美国银行和摩根士丹利也正在对Mythos进行测试。
Anthropic本周正式发布了该模型,但同时表示将暂时限制访问权限。原因之一在于,Mythos在发现安全漏洞方面的能力过于强大——尽管该模型并非专门针对网络安全场景进行训练。对此,也有观点认为这不过是一种市场炒作,或者说是一种颇为聪明的企业销售策略。
值得注意的是,这一消息颇为出人意料。目前,Anthropic正就美国国防部将其列为供应链风险的认定一事与特朗普政府对簿公堂。此次认定的导火索,是双方围绕Anthropic限制政府使用其AI模型的相关条款谈判破裂。
与此同时,据《金融时报》报道,英国金融监管机构也正在就Mythos模型可能带来的潜在风险展开讨论。
Q&A
Q1:Anthropic的Mythos模型有什么特别之处?
A:Mythos是Anthropic推出的一款AI模型,其最突出的特点是在发现网络安全漏洞方面表现异常出色,即便该模型并非专门为网络安全场景设计和训练的。正因为其能力过强,Anthropic目前对访问权限进行了严格限制,仅开放给少数合作机构。部分业内人士认为这是市场炒作,也有人认为这是一种精明的企业销售策略。
Q2:哪些银行正在测试Mythos模型?
A:目前,摩根大通是Anthropic官方公布的初始合作机构中唯一有权访问Mythos模型的银行。但据报道,高盛、花旗集团、美国银行和摩根士丹利也在对该模型进行测试,此次测试据悉与美国财政部长及美联储主席召集银行高管的会议有关。
Q3:Anthropic与特朗普政府之间的法律纠纷是怎么回事?
A:美国国防部将Anthropic列为供应链风险,起因是双方在谈判过程中就Anthropic限制政府使用其AI模型的相关条款未能达成一致。对此,Anthropic选择通过法律途径应对,目前正与特朗普政府对簿公堂。这一背景使得政府官员同时鼓励银行测试Mythos模型的消息显得格外引人关注。
好文章,需要你的鼓励
这项来自明尼苏达大学等机构的研究发现,大语言模型在强化学习后训练中,只需训练中间少数几层即可匹配甚至超越全参数训练效果,且这一规律跨模型、跨任务高度稳定,为更高效的AI训练策略提供了新思路。
本文介绍VIBE框架,一套通过开放式任务评估大型音频语言模型声音诱发偏见的系统,测试12个模型后发现每个模型均存在显著性别或口音偏见。