Anthropic Fable 5悄然降级引发网络热议，安全限制究竟该如何拿捏？

今年4月，Anthropic在Project Glasswing框架下推出了Mythos模型。Project Glasswing是由多家顶级科技机构与Anthropic联合发起的合作项目，旨在发现并修复互联网基础设施中的安全漏洞。由于能够发现未知漏洞的工具同样可以被用于恶意攻击，Mythos的使用权限被严格限定在特定机构范围内。

Mythos和Glasswing的能力远超Anthropic专为Opus设计的Claude Security工具——后者虽然可以扫描代码库并协助排查问题，但功能相对有限。就在本周早些时候，Anthropic正式发布了Fable（即"Fable 5"），本质上是Mythos的一个受限版本。

Anthropic明确表示，Fable不会支持网络安全、生物学和化学领域中某些存在风险的研究方向。

然而，部分业内人士对这些安全声明持审慎态度。安全分析公司Exabeam的高级威胁研究工程师Sally Vincent通过电子邮件表示："对于抗越狱能力的声明，应保持适度谨慎。这些评估结果仅代表某一时间节点的状态，而攻击者始终在持续进化。"

尽管如此，Anthropic对防止用户制造生物武器的态度十分明确。当系统检测到此类请求时，Claude会从Fable降级至Opus级别，并且会明确告知用户降级已发生。

然而，针对某些特定类型的研究任务，例如超高性能芯片设计或前沿级别大语言模型的开发，Fable却选择了沉默处理。与其他被标记的任务一样，它同样会将模型从Fable降级到Opus，但这一次，用户没有收到任何通知。准确来说，这里需要补充一个细节。

在长达319页的Fable与Mythos系统卡片中，确实有一处提到了在处理此类项目时会发生降级，并说明该行为不会对用户可见。但在实际使用界面上，降级发生时没有任何提示。对于那些没有仔细阅读全部319页文档的用户来说，降级在任何情况下都不会有任何显示。

用户以为自己在使用Fable进行测试并获取结果，实际上得到的却是Opus级别的输出。

此举随即引发强烈反弹。《财富》杂志将这一行为描述为"秘密破坏"；《连线》也对这一静默降级机制进行了报道，同样指出这可能对AI研究人员造成干扰。

SANS Institute首席AI官兼研究负责人Rob T. Lee同时担任外国情报监视法院技术顾问及美国战略与国际研究中心网络力量生成委员会委员。他在发给ZDNET的邮件中表示，Fable 5是"一个新颖且聪明的解决方案，但它终将遭到攻击。那道阻止恶意使用的防线，同时也封堵了合法的防御性研究。"

他在亲身使用该平台后形成了这一判断——当他尝试用Fable构建数字取证技能时，系统将他降级至Opus 4.8。"不管这是不是阻止恶意行为者的聪明办法，它都让负责构建下一代工具的防御者失去了获取新防御能力的机会，"他说。

Lee还认为，这款新模型可能已经落入不法之手，因为类似情况在过去已经发生过。

更值得关注的是他对Mythos模型访问限制问题的看法——威胁并不仅来自AI本身的能力，人为因素同样不可忽视。"即便在Glasswing框架内，访问权限已受到限制和监控。但这些机构各自拥有数千名员工，其中任何一人都可能被收买并将访问权限转交给犯罪组织，或者其中早已潜伏着朝鲜行为者，"他说。

面对舆论压力，Anthropic给出了有针对性的回应。ZDNET向该公司进行了求证，对方提供了官方声明：

"我们正在调整Fable 5针对前沿大语言模型开发的安全保护机制，使其变得可见。从本周起，被标记的请求将明确回退至Opus 4.8。通过API提交的被标记请求将返回拒绝原因，每次触发时用户都能看到相关提示。"

Anthropic表示，现行的安全保护措施"仅涵盖少数几类特定任务，例如前沿规模大语言模型的数据处理流程，以及面向某些非标准芯片的内核开发"。该公司措辞颇为强硬，带有几分民族主义色彩："这些保护措施能够防止境外对手以可能引发严重安全风险的方式使用我们最强大的模型。"

与此同时，关于中国基础模型的进展同样值得关注。目前，有研究人员正在测试中国推出的若干基础模型，例如清华大学孵化的Z.ai（原名智谱AI，也是中国首家公开上市的基础模型公司）所推出的GLM-5.1。虽然其能力尚不及Fable 5甚至Opus，但该模型免费可用，且运行正常。

对于Fable 5的访问限制，Anthropic表示："美国及其盟友在前沿芯片及运行这些芯片所需的高度优化软件方面占据优势。这些保护措施确保Claude不会被用于削弱这一优势——例如被用于优化对手开发的芯片。"

IAPP AI治理中心（一家隐私专业人士协会）执行总监Ashley Casovan对Anthropic将Mythos暂缓发布以"在软件中设置必要护栏"的做法给予了积极评价，同时也指出"我们尚未亲眼目睹这些模型在如此大规模发布时可能产生的实际影响"。

Zero Networks（网络分段安全厂商）现场CTO Chris Boehm则将此次成果定性为"克制"而非"蛮力"：Anthropic"将其约束成了足够安全可以广泛发布的形式"。他通过邮件表示，这一做法带来的价值在于规模化效应——普通防御者终于能够以媲美攻击者的速度运作，"前提是安全保护措施能够真正发挥作用，这也是我接下来会持续关注模型卡片的原因"。

此外，Anthropic还提到，这些限制"同样有助于维护我们的服务条款——该条款禁止使用我们的模型开发竞争性AI系统，这在主流AI提供商中是一项通行限制"。

然而，此次事件真正值得关注的地方，是Anthropic并非一味坚守立场、拒绝外界的声音。它选择了倾听，并作出了道歉：

"我们在权衡取舍上做出了错误的判断，并为未能找到正确平衡而致歉。构建这些安全保护机制是一项复杂的技术挑战：随着我们持续优化分类器以应对新威胁，用户可能会遇到更多误判情况。我们正在尽快减少这些情况的发生。"

Anthropic也坦诚分享了其最初决策的逻辑。在决定是否公开降级提示时，该公司面临两难抉择。其发言人表示："隐藏式保护措施更难被探测和绕过，这意味着保护措施的覆盖范围可以更加精准。"然而，正如我们所见，这些隐藏保护措施在数小时内就遭到了识破。

Anthropic也承认误判风险的存在。"当前数据显示，分类器触发约0.05%的任务，影响不足0.05%的用户。可见的保护措施需要更宽泛的覆盖面才能保持稳健，这会导致更多请求被错误标记。但这并不影响绝大多数编码和机器学习工作，"该公司表示。

Cato Networks（安全厂商）威胁情报副总裁Etay Maor认为，Fable 5的防护机制足以抵御机会性攻击者，但"资金充裕、目标坚定的攻击者"不会因为遭遇障碍就轻易放弃。"复杂威胁行为者不会因为一种手段被封堵就停下来。当直接利用变得更困难时，他们会转向其他方式，例如上下文操控、请求分解、抽象化技术或能力蒸馏，"他在邮件中说道。

误判问题同样令人担忧。"当分类器过于严格时，误判开始出现。那些旨在阻止恶意行为的控制措施，同样可能妨碍正当用户将模型用于有益目的，"Maor表示。

还有一个问题同步浮出水面，那就是Anthropic针对Mythos级别模型的数据保留政策。

据路透社报道，Anthropic对提示词和响应内容保留30天（违规内容保留时间更长）的政策，已促使微软限制员工使用相关产品，并组建法务团队对该政策进行评估。

但这并非Mythos或Fable专属的问题，只是恰好在Fable降级风波期间一同进入公众视野。Anthropic在其众多产品中均存在数据保留机制，其中大多数可以通过零数据保留协议来运行。

关键的差异在于，Fable和Mythos是例外。在Anthropic的业务合作协议（BAA）覆盖模型页面上，这一区别有明确说明：这两款模型要求30天的数据保留期限，无法以零数据保留方式运行，因为安全分类器依赖这些数据才能正常工作。

正是这个无法关闭的开关——而非30天本身——据报道触发了微软法务团队的介入。无论如何，本周围绕30天数据保留引发的争议，既不是Fable专属问题，也并非新近出现的情况。

让我们把目光拉回到本文的核心议题：那个引发轩然大波的隐性降级机制。

"从企业角度来看，30天数据保留要求值得重视。处于受监管行业的组织，在敏感环境中开始使用这些模型之前，需要明确了解哪些数据被保留，以及这是否符合其合规和法律要求，"Cato Networks的Maor表示。

回顾这一切，真正引人深思的是：几乎没有人质疑Fable本身的技术实力。

争论的焦点完全集中在那道"枷锁"上。一方认为限制过于严苛，阻止攻击者的防线同样绊倒了本该构建下一代工具的防御者和研究人员，误判问题更是雪上加霜。另一方则认为这道限制意义有限——有备而来的对手自会另辟蹊径，相关能力已在其他实验室流传，而且正如Lee所指出的，面对数千名员工和内部威胁，任何限制措施都难以真正奏效。

此外，也有专家对Anthropic给予真诚认可，认为公司在不鲁莽的前提下发布了如此强大的模型，前提当然是安全保护措施能够切实发挥作用。事实上，这份认可确实是Anthropic应得的。

本次事件的核心主题由此清晰呈现：这些专家对于Fable的限制是过松、过紧还是恰到好处，看法各异，但他们都一致认同，这场讨论的焦点是限制本身，而非模型的智能水平。对于一个以道德寓意命名的模型而言，这或许再合适不过了。

Q&A

Q1：Anthropic Fable 5的隐性降级机制是什么？为什么会引发争议？

A：Fable 5在检测到敏感研究请求（如前沿大语言模型开发或特殊芯片内核开发）时，会自动将模型从Fable降级至Opus 4.8，但不会告知用户。这意味着用户以为在使用Fable进行测试，实际得到的是能力较弱的Opus级别输出。这一行为虽记录在319页的系统文档中，但在用户界面上毫无提示，引发了研究人员和业界的强烈反弹，媒体将其称为"秘密破坏"。

Q2：Fable 5的安全限制对防御性网络安全研究有什么影响？

A：部分专家认为影响不容忽视。SANS Institute的Rob T. Lee在使用Fable尝试构建数字取证工具时，系统将其降级至Opus 4.8。他指出，阻止恶意使用的同一道防线，也将负责构建下一代防御工具的研究人员拒之门外，导致合法防御能力的发展受阻。Cato Networks的Etay Maor也提醒，过于严格的分类器会产生误判，误伤正当用户。

Q3：Anthropic对Fable 5和Mythos模型实行30天数据保留政策，会带来哪些风险？

A：Anthropic规定Fable和Mythos模型的提示词与响应内容须保留30天，且无法通过零数据保留协议豁免，因为安全分类器依赖这些数据运行。这一政策已促使微软限制员工使用并启动法务评估。对于受监管行业的企业来说，需要在使用前明确评估数据保留内容是否符合其合规与法律要求，尤其是在涉及敏感业务场景时。