就在上周末,美国政府以国家安全为由,强制要求Anthropic下架其两款最新模型Fable 5和Mythos 5。起因是亚马逊研究人员据称发现了绕过Fable 5安全防护机制的方法。
然而,多位网络安全研究人员随后联名发表公开信,批评此举存在风险,Anthropic方面也指出,同样的越狱方式同样存在于其他模型之中。这究竟是真实的安全隐患,还是Anthropic与特朗普政府之间复杂关系的又一次交锋?
在TechCrunch《Equity》播客的本期节目中,主持人Anthony Ha、Sean O'Kane和Rebecca Bellan深入探讨了这次封禁对基于Anthropic平台进行开发的开发者意味着什么,对关注其IPO进程的观察者又将产生怎样的影响,以及为何这次封禁反而可能在无意间对该公司形成利好,同时还回顾了本周其他重要科技新闻。
欢迎在YouTube、Apple Podcasts、Overcast、Spotify及各大播客平台订阅《Equity》,也可在X和Threads平台通过@EquityPod关注节目动态。
Q&A
Q1:美国政府为什么要封禁Anthropic的Fable 5和Mythos 5模型?
A:美国政府援引国家安全方面的顾虑,强制要求Anthropic下架Fable 5和Mythos 5两款最新模型。直接导火索是亚马逊研究人员据称发现了可以绕过Fable 5安全防护机制的方法。不过,Anthropic本身也指出,类似的越狱方式同样存在于其他AI模型中,多名网络安全研究人员也联名发表公开信,对此次封禁行动提出批评。
Q2:此次封禁对Anthropic的开发者和IPO有什么影响?
A:此次封禁对依赖Anthropic平台进行产品开发的开发者造成了直接冲击,相关应用和服务可能面临中断或调整的压力。与此同时,对于正在关注Anthropic上市进程的投资者和市场观察人士来说,此事件也增加了不确定性。不过也有观点认为,这次封禁反而可能在无意间提升了Anthropic的品牌知名度和公众关注度,形成一定的变相利好效应。
Q3:网络安全研究人员为何反对美国政府的封禁决定?
A:多位网络安全研究人员联名签署公开信,认为美国政府此次强制下架Anthropic模型的做法存在风险且欠妥当。他们的核心论据在于:Fable 5所存在的越狱漏洞,并非该模型独有,同样的安全问题在业内其他模型中也普遍存在,因此单独针对Anthropic进行封禁,并不能真正解决安全隐患,反而可能带来其他负面影响。
好文章,需要你的鼓励
今天讲的出海案例是依米康,这家数据中心温控与液冷设备厂商正在把泰国纳入海外交付体系,并用生产线、总装车间和焓差实验室承接算力设施订单。
BioMatrix是首个将分子序列、分子三维结构、蛋白质序列、蛋白质三维结构和自然语言统一在单一语言模型中的生物基础模型,在80项任务中77项达到最优或第二优。
美国远程医疗巨头Hims & Hers完成对澳大利亚竞争对手Eucalyptus的收购后,正式进军英国、德国、日本等市场。公司肥胖症业务负责人Craig Primack博士表示,肥胖症是慢性、复发性疾病,需综合治疗方案而非单纯开药。远程医疗能填补NHS等公共医疗体系的服务缺口,为患者提供药物、营养、运动及生活方式的全方位支持,并在GP停诊时提供及时的医疗咨询。
浙江大学提出SKILLHARNESS框架,通过为AI电脑助手的每项技能附加安全边界,从成功、失败和风险三类经历中学习,使AI在动态危险环境中安全高效地完成任务。