Anthropic一直以谨慎的AI公司形象示人。该公司发布详细的AI风险研究,聘用了该领域一些顶尖的研究人员,并一直在积极倡导构建如此强大技术所应承担的责任——如此积极,以至于目前正与国防部展开激烈争论。然而在周二,公司内部有人忘记了检查某个选项。
值得注意的是,这是一周内的第二次事故。上周四,《财富》杂志报道称,Anthropic意外地将近3000个内部文件公开,其中包括一篇描述公司尚未发布的强大新模型的博客草稿。
周二发生的具体情况如下:当Anthropic推出其Claude Code软件包的2.1.88版本时,意外包含了一个文件,暴露了近2000个源代码文件和超过51.2万行代码——基本上是其最重要产品之一的完整架构蓝图。安全研究员邹朝帆几乎立即发现了这一问题,并在X平台上发布了相关信息。Anthropic对多家媒体的声明相当平淡:这是由人为错误造成的发布打包问题,不是安全漏洞。我们猜测,在公司内部,情况可能没有这么平静。
Claude Code并非次要产品。它是一个命令行工具,让开发者能够使用Anthropic的AI来编写和编辑代码,已经变得足够强大,令竞争对手不安。据《华尔街日报》报道,OpenAI在向公众发布仅六个月后就停止了其视频生成产品Sora,将重点转向开发者和企业市场——部分原因正是为了应对Claude Code日益增长的势头。
泄露的内容并非AI模型本身,而是围绕模型的软件架构——告诉模型如何行为、使用什么工具以及限制在哪里的指令。开发者几乎立即开始发布详细分析,其中一位将该产品描述为生产级开发者体验,而不仅仅是API的包装器。
这次泄露是否会产生持久影响,最好留给开发者来判断。竞争对手可能会发现这些架构很有启发性;同时,这个领域发展迅速。
无论如何,在Anthropic的某个地方,你可以想象有一位非常有才华的工程师在这一天剩余的时间里静静地想知道自己是否还有工作。我们只能希望这不是上周末那位工程师或工程团队。
Q&A
Q1:Claude Code是什么产品?有什么重要性?
A:Claude Code是Anthropic开发的命令行工具,让开发者能够使用该公司的AI来编写和编辑代码。它已经变得足够强大,令竞争对手不安。据报道,OpenAI甚至因为Claude Code的竞争压力而停止了视频生成产品Sora,将重点转向开发者市场。
Q2:Anthropic这次泄露了什么内容?
A:当Anthropic推出Claude Code软件包的2.1.88版本时,意外暴露了近2000个源代码文件和超过51.2万行代码,基本上是其最重要产品之一的完整架构蓝图。泄露的是围绕AI模型的软件架构,包括告诉模型如何行为、使用什么工具以及限制条件的指令。
Q3:这是Anthropic第一次出现信息泄露事故吗?
A:不是的,这是一周内的第二次事故。上周四,《财富》杂志报道称Anthropic意外地将近3000个内部文件公开,其中包括一篇描述公司尚未发布的强大新模型的博客草稿。连续的泄露事件对这家以谨慎著称的AI公司来说确实不寻常。
好文章,需要你的鼓励
牛津大学提出PHYSIFORMER,一种扩散变换器模型,通过三维网格顶点轨迹直接在世界坐标空间预测刚性与弹性物体的物理运动,一次性生成全序列轨迹,超越自回归基线。
随着医疗数据数字化与互操作性的进步,跨机构纵向患者数据的研究应用成为可能。本研究通过对20位领域专家的访谈,识别出8种数据收集方法,涵盖智能手机应用、结构化数据导出、区域/全国研究查询及聚合数据源等。研究发现,各方法均有其优缺点,无单一最优方案。参与者中介交换方式可绕过复杂治理安排,但存在数据缺口;全国性网络尚不支持研究查询。公共政策的持续推进将对该领域发展起关键作用。
研究发现主流奖励模型对同等质量答案给出差异悬殊的分数,并提出"奖励聚类"算法通过蒙特卡洛随机失活将连续分数离散化,在不重训模型的前提下有效减少AI训练中的奖励作弊现象。