Anthropic宣布Claude Fable 5回归计划及安全漏洞详情

美国政府解除出口管制后,Anthropic宣布Fable 5于7月1日正式回归Claude平台。订阅用户在7月7日前可使用最高50%的周额度,此后将改为按使用量计费。企业标准用户则从即日起直接按量付费。Anthropic还披露了此前"越狱"事件详情,并推出改进版安全分类器,可拦截99%以上的相关问题请求,同时宣布在HackerOne上线漏洞提交项目,并呼吁建立行业统一的AI安全监管框架。

在美国政府于周二解除对Fable 5的出口管制后,Anthropic随即宣布将于7月1日(周三)正式恢复该模型的访问服务。目前,该公司已就具体恢复流程及此前导致美国商务部对Claude Fable 5与Claude Mythos 5实施出口管制的"越狱"事件(Anthropic更倾向于将其称为"绕过")披露了更多细节。

回归时间线与访问规则

7月1日起,Fable 5将重新上线Claude平台、Claude.ai、Claude Code及Claude Cowork,面向全球Pro、Max、Team和Enterprise计划的用户开放。不过,也有一些限制需要注意:7月7日之前,订阅制用户每周最多可将50%的使用额度用于Fable 5。7月7日之后,该模型将仅可通过使用积分访问,计费标准与Anthropic API计划的访问费率相同。

更新:北京时间7月2日凌晨,Fable 5已确认恢复上线。

对于标准版Enterprise用户,Fable 5自始至终不在其常规额度之内,将立即通过使用积分计费。高级版Enterprise席位用户可享有短暂的过渡期——在7月7日之前,仍可通过订阅计划使用Fable 5。

Fable 5最初计划于6月9日至6月22日提供免费访问服务。

对于通过AWS、谷歌云及Microsoft Foundry访问Fable 5的开发者,访问权限也将很快恢复。

在定价方面,Anthropic此前对Fable 5的收费标准为每百万输入Token 10美元、每百万输出Token 50美元,此次回归后该定价预计不会发生变化。

安全漏洞溯源

在此次更新中,Anthropic也就事件起因披露了更多信息。公司证实,亚马逊的研究人员"发现了一种绕过Fable 5安全防护机制的方法:通过特定提示词,诱导模型识别出若干软件漏洞"。在其中一个案例中——似乎也是唯一一例——研究人员成功让该模型演示了如何利用该漏洞。

Anthropic表示,其已与政府及包括亚马逊在内的合作伙伴共同审查了这份报告,并发现其他模型同样能够找到报告中涉及的漏洞,包括Claude Opus 4.8、GPT-5.5和Kimi K2.7。测试还显示,包括Claude Haiku 4.5在内的基础模型,同样能够推演出该漏洞的利用方式。

Anthropic强调,"报告中描述的技术并未暴露任何Mythos级别的独特网络攻击能力",而仅仅是刚好落在Fable 5安全机制触发阈值以下的边界情况。

安全分类器升级

Fable 5下线后,Anthropic与政府合作,训练了一个改进版安全分类器——这是一套能够检测用户是否在尝试诱导模型生成有害内容的系统,现在也能够拦截此类请求。实质上,公司适当扩大了模型主动拦截请求的范围,将更多处于灰色地带的内容纳入拦截范围。

"新分类器意味着亚马逊报告中描述的特定技术,在超过99%的情况下都会被拦截。"Anthropic在公告中写道,并指出虽然模型仍不会拦截所有低风险的网络防御能力,但应能拦截其中大多数有害请求。公司表示,"有意将安全分类器的触发范围设定在一批已知极可能属于正当请求的范围内",以提升安全余量。

值得关注的是,Fable 5上线之初就有用户反映,该模型会误拦截一些完全无害的请求。面对更严格的防护机制,这一问题将如何演变,仍有待观察。Anthropic在公告中也对此有所暗示:"新分类器的代价是,在日常编码和调试任务中,会更频繁地将正当请求误判为违规请求。与我们所有的安全防护机制一样,我们将持续优化,以更准确地区分真实滥用与合法请求,减少误判。"

这,似乎正是Anthropic为让Fable 5回归而付出的代价。

与此前一样,Fable 5仍会将有问题的请求转发给Opus 4.8处理——而Anthropic自己也承认,这一模型同样能够复现Fable 5的上述行为。这其中的逻辑耐人寻味。

漏洞评分框架提案

由于整个事件的起因在外界看来相对有限,Anthropic也借此次公告提出了一套用于评估越狱风险的评分框架,评估维度包括:越狱所解锁的能力增益、该增益适用于多少种不同的网络攻击场景、将其武器化的难易程度,以及发现和获取该技术的难度。

公司坦承,该框架目前仍在探索阶段,各项标准如何具体打分、如何相互权衡,尚无定论。

为持续监控自家模型的安全状态,Anthropic正在组建一支7×24小时全天候监控漏洞提交渠道的专项团队,并将在HackerOne平台上线新项目,供研究人员提交潜在漏洞。

行业协作与监管呼吁

在政府合作层面,Anthropic表示将继续与国家网络总监办公室、科学技术政策办公室、财政部和商务部保持协作,重点围绕白宫《促进先进人工智能创新与安全》行政令所确立的框架展开工作。

"我们希望,这种合作以及我们提出的行业共识框架,能够成为整个行业系统性规则的基础,甚至为全球有效协调AI风险与收益提供模板雏形。"Anthropic在公告中写道,并表示希望这些规则"以强有力的监管形式加以确立,并平等适用于所有前沿模型开发者"。

Anthropic长期以来都是AI安全监管的积极倡导者,这一立场并不令人意外。不过值得注意的是,公司此番明确呼吁将相关规则同样适用于竞争对手——其背后的考量,不难想象。

Q&A

Q1:Claude Fable 5恢复上线后,订阅用户的使用限制是什么?

A:7月1日起,Fable 5重新上线,Pro、Max、Team和Enterprise计划用户均可使用。但在7月7日之前,订阅用户每周最多可将50%的使用额度用于Fable 5。7月7日之后,Fable 5将仅可通过使用积分访问,计费标准与Anthropic API计划相同,即每百万输入Token 10美元、每百万输出Token 50美元。标准版Enterprise用户自始不在常规额度内,需立即通过积分计费。

Q2:导致Fable 5被下线的安全漏洞具体是什么问题?

A:亚马逊研究人员发现了一种绕过Fable 5安全防护的方法,通过特定提示词诱导模型识别软件漏洞,并在至少一个案例中成功让模型演示了漏洞利用方式。Anthropic调查后发现,Claude Opus 4.8、GPT-5.5、Kimi K2.7等多个模型同样能复现类似行为,且该技术并未暴露任何Mythos级别的独特网络攻击能力,只是刚好落在Fable 5安全机制的触发阈值以下。

Q3:Anthropic为防止Fable 5再次出现越狱问题做了哪些改进?

A:Anthropic与政府合作训练了改进版安全分类器,能够拦截超过99%的亚马逊报告中描述的特定攻击技术。同时,公司有意扩大了拦截范围,将更多灰色地带请求纳入其中,但这也导致日常编码和调试任务中误判率有所上升。此外,Anthropic还组建了7×24小时漏洞监控团队,并在HackerOne平台上线了新的漏洞提交项目。

来源:The New Stack

0赞

好文章,需要你的鼓励

2026

07/13

09:00

分享

点赞

邮件订阅