上周末,美国政府以国家安全为由,强制要求Anthropic下架其两款最新模型Fable 5和Mythos 5。此次封禁的导火索,是亚马逊研究人员据称发现了一种绕过Fable 5安全护栏的方法。
然而,此后多位网络安全研究人员联名签署公开信,批评这一举措存在风险。Anthropic方面也指出,类似的破解方式同样存在于其他模型中。因此,外界不禁质疑:这究竟是真正的安全隐患,还是Anthropic与特朗普政府之间紧张关系的又一次摩擦?
在TechCrunch的Equity播客本期节目中,主持人Anthony Ha、Sean O'Kane和Rebecca Bellan对此次封禁事件进行了深入解读,探讨了它对基于Anthropic平台进行开发的开发者意味着什么,对关注其IPO进程的投资者有何影响,以及为何这一事件反而可能在无意间对Anthropic有所裨益。
本期节目完整内容还涵盖以下话题:
英国针对16岁以下用户的社交媒体禁令,为何可能是两害相权取其轻的选择
SpaceX收购Cursor一事,透露出xAI的战略布局与能力短板
杰夫·贝索斯斥资120亿美元押注实体AI领域,旗下初创公司Prometheus致力于打造"人工工程师"
Q&A
Q1:美国政府为何要求Anthropic下架Fable 5和Mythos 5模型?
A:美国政府以国家安全为由,在亚马逊研究人员据称发现可绕过Fable 5安全护栏的方法后,强制要求Anthropic下架这两款模型。但Anthropic本身也指出,类似的破解方式在其他AI模型中同样存在,因此业界对此次封禁是否出于真实安全考量存在争议。
Q2:网络安全研究人员对此次封禁有何反应?
A:多位网络安全研究人员在封禁令发布后联名签署了一封公开信,明确批评该举措具有危险性。他们认为,仅针对Anthropic模型的封禁并不能从根本上解决安全问题,因为类似漏洞在业内其他主流模型中同样存在。
Q3:此次封禁事件对Anthropic的IPO进程有何影响?
A:根据Equity播客的分析,此次封禁事件虽然对Anthropic造成了一定冲击,但也有观点认为这反而可能意外地对公司有所帮助。具体而言,封禁带来的高度关注可能提升了Anthropic的品牌曝光度,不过其对IPO进程的实际影响仍有待市场进一步观察。
好文章,需要你的鼓励
今天讲的出海案例是依米康,这家数据中心温控与液冷设备厂商正在把泰国纳入海外交付体系,并用生产线、总装车间和焓差实验室承接算力设施订单。
BioMatrix是首个将分子序列、分子三维结构、蛋白质序列、蛋白质三维结构和自然语言统一在单一语言模型中的生物基础模型,在80项任务中77项达到最优或第二优。
美国远程医疗巨头Hims & Hers完成对澳大利亚竞争对手Eucalyptus的收购后,正式进军英国、德国、日本等市场。公司肥胖症业务负责人Craig Primack博士表示,肥胖症是慢性、复发性疾病,需综合治疗方案而非单纯开药。远程医疗能填补NHS等公共医疗体系的服务缺口,为患者提供药物、营养、运动及生活方式的全方位支持,并在GP停诊时提供及时的医疗咨询。
浙江大学提出SKILLHARNESS框架,通过为AI电脑助手的每项技能附加安全边界,从成功、失败和风险三类经历中学习,使AI在动态危险环境中安全高效地完成任务。