政府究竟如何判定OpenAI前沿模型可以安全发布？

OpenAI正在向公众全面推出其最新的大语言模型Sol。Sol的能力被认为至少与Anthropic的Fable模型不相上下，而Fable的能力（或所有权问题）曾让白宫如此紧张，以至于该模型一度被禁止公开访问。

那么，这些模型究竟是如何获得发布许可的？简短的回答是：没人真正清楚。

乔治城大学安全与新兴技术中心高级研究分析师Mina Narayanan在接受TechCrunch采访时坦言："坦率地说，我对那些具体流程没有足够的了解，所以我确实没有足够的信息来判断相关程序是否充分。Anthropic确实表示他们曾与政府进行沟通，并开发了一个分类器用于检测越狱尝试，同时实施了防御性缺口策略以防止未来的越狱行为，但政府与Anthropic和OpenAI之间的对话究竟是什么样的，目前仍不得而知。"

前特朗普政策顾问、现供职于OpenAI的Dean W. Ball，在上月的时事通讯中写道："没有人知道获得许可证需要满足哪些要求。"

Databricks、Perplexity和Laude Institute联合创始人、计算机科学家Andy Konwinski表示，他从未与任何真正了解这一流程的人交谈过，即便是前沿实验室的员工也不例外。"这在根本上是个问题，"他告诉TechCrunch，"不管安全与否，关键在于谁有权做决定——谁来把关、谁来决定权限？"

特朗普政府执政一年半后，尽管——或者如批评者所言，正是因为——行业人士主导了政策制定，如何推进的问题依然没有清晰答案。上月，经过数周内部博弈，一项行政令终于发布，为评估前沿模型规划了路线图，但除了明确某些机制不会存在之外，具体细节尚未填充。上月卸任白宫AI高级顾问的前Andreessen Horowitz合伙人Sriram Krishnan在接受《金融时报》采访时表示："不会有针对AI的FDA（食品药品监督管理局）。"

值得注意的是，各方对于哪类模型需要接受政府审查、由哪个机构负责评估，至今仍未达成共识。目前，商务部下属的AI标准与创新中心似乎正在主导这项工作，但行政令要求六个内阁机构在8月初前确定最终流程。在此期间形成的种种做法，充其量只是临时应对之策。

OpenAI首席执行官萨姆·奥特曼在CNBC上表示，相关流程涉及与商务部长霍华德·卢特尼克、财政部长斯科特·贝森特以及美国国家网络安全总监肖恩·凯恩克罗斯等官员的沟通，但参与测试模型的专家是谁、如何开展测试，目前均不透明。OpenAI拒绝向TechCrunch透露政府流程的细节，但指向了最新模型安全卡中由英国AI安全研究所、SecureBio和Irregular等机构开展的多项外部评估结果。

与Anthropic发布Fable的流程类似，OpenAI在面向大众发布前，已向政府和部分特定用户提前开放了模型访问权限，但这些用户的身份及遴选标准并未对外披露。该公司在6月下旬的一篇博客文章中表示，"我们认为这种政府访问流程不应成为长期默认做法"，并表示将与政府合作探索不同的推进路径。

然而，这些对话的背景颇为微妙——据报道，奥特曼曾向特朗普政府的"特朗普账户"计划提出让渡高达5%的OpenAI股权；OpenAI总裁格雷格·布罗克曼则是特朗普中期政治运营中已知最大的公开捐款人。对外部观察者而言，很难将这些活动与政府对Sol明显宽松的监管态度截然分开。

而Anthropic的Fable则经历了截然不同的遭遇——由于美国政府禁止外国人使用该模型，它曾被短暂下架，原因既有对用户越狱模型以获取黑客攻击能力的实质性担忧，也有Anthropic与特朗普政府之间的关系摩擦。出口禁令的威胁，或许也促使OpenAI在配合政府（尚不明朗的）要求方面表现得更为积极。

从行业角度来看，宽松的监管态度或许令人欣喜，但这种依赖与政府官员私人关系的模式，只会带来不确定性和错误激励。

Konwinski告诉TechCrunch，他担心真正的技术专家——"安全研究员、对齐研究员、可解释性研究员，以及数据领域人才和各技术层级的从业者"——在模型发布流程中发挥的作用远远不够。

Konwinski主张建立"开放公地"模式，以实现安全与创新的真正平衡。他援引FDA、美国国立卫生研究院或国家实验室等机制作为参考——这些机构汇聚研究人员、政府官员和私营企业，共同就安全问题形成共识。

这在一定程度上折射出资本主义激励机制的深层逻辑——这一逻辑驱动AI研究人员走过了十余年的历程，也在马斯克挑战OpenAI公司架构的诉讼中得到了充分呈现。Ball指出，AI商业的本质要求企业在模型发布后、相对竞争对手仍具优势的短暂窗口期内，尽快收回大部分训练成本。"即便动机良好，公司运营程序中也内置了清晰的法律义务和受托责任，"Konwinski补充道。

Ball在其文章中认为，未来的出路在于由政府授权的第三方审计机构对前沿实验室的安全方法进行评估。Konwinski同样看好新型机构形式，例如专注型研究组织，这类机构能够帮助来自学术界和非营利领域的独立专家获得前沿模型的访问权限并开展评估。

目前，AI开发领域的保密状态不会消散，但这也将为一个美国公众日益持怀疑态度的行业埋下政治隐患。威斯康星大学麦迪逊分校计算机科学教授Remzi Arpaci-Dusseau上周在Open Frontier大会上表示："没有人感觉到，是负责任的人在推动这些变革向前发展。"

在同一场活动上，Two Sigma创始人、计算机科学家David Siegel请与会者"设想这样一种局面——我认为这将非常糟糕——少数几家公司掌控这项技术；政府在其秘密实验室中评估这项技术是否适合使用；而普通公众和科学界对这一切几乎毫不知情。"

而眼下，这似乎已无需想象。

Q&A

Q1：OpenAI的Sol模型是如何获得政府发布许可的？

A：目前外界对此知之甚少。OpenAI首席执行官萨姆·奥特曼表示，相关流程涉及与商务部长、财政部长等官员的沟通，并引用了英国AI安全研究所等机构的外部评估结果，但测试专家的身份和具体测试方式均未对外公开。连前沿实验室内部员工都不清楚整个流程，前特朗普政策顾问Dean W. Ball也直言"没有人知道获得许可证需要满足哪些要求"。

Q2：为什么Anthropic的Fable模型曾被禁止公开访问？

A：Fable被短暂下架，主要有两方面原因：一是美国政府禁止外国人使用该模型，担忧用户通过越狱手段获取黑客攻击能力；二是Anthropic与特朗普政府之间存在关系摩擦。这一事件也侧面说明，不同公司与政府的关系亲疏，可能直接影响其模型所受到的监管力度。

Q3：谁应该负责审查和评估前沿AI模型的安全性？

A：目前美国商务部下属的AI标准与创新中心正在主导相关工作，但各方尚未就评估主体和标准达成共识。行政令要求六个内阁机构在8月初前确定最终流程。研究人员Konwinski建议参照FDA或国立卫生研究院的模式，建立汇聚研究者、政府和企业的开放机构；Ball则倾向于由政府授权的第三方审计机构来承担这一职责。