Anthropic旗下最新AI模型Mythos因潜在安全风险被拒绝公开发布,这一事件再次引发外界对人工智能开发速度与安全管控能力的广泛关注。
Anthropic是Claude聊天机器人背后的美国科技公司。该公司于近日证实,正在调查一份报告,报告显示有人曾未经授权访问Mythos模型。这一疑似安全事件,令业界对科技企业能否将高风险AI产品牢牢锁定在公众视野之外产生了深深的忧虑。
Mythos究竟是什么
Mythos是Anthropic开发的最新一代AI模型。与面向公众开放的Claude系列不同,Mythos目前被Anthropic列为不宜公开发布的高风险产品。Anthropic认为,该模型一旦流入公众领域,将对全球网络安全构成实质性威胁。
为何拒绝公开发布
Anthropic做出这一决定的核心原因在于Mythos可能被滥用于网络攻击或其他危害性活动。随着大语言模型能力持续跃升,部分前沿模型已具备协助发动复杂网络攻击的潜力,这使得安全边界的划定愈发困难。
未经授权访问事件的影响
此次疑似未经授权访问Mythos的事件,进一步暴露了AI行业在安全管控方面的薄弱环节。即便是选择不公开发布的高风险模型,依然面临内部泄露或外部入侵的现实风险。这一事件促使外界重新审视:在AI能力快速扩张的当下,科技公司是否具备足够完善的安全机制,来防止最危险的AI产品落入不法之手。
Q&A
Q1:Mythos AI模型为什么不对公众开放?
A:Anthropic认为Mythos对全球网络安全构成威胁,一旦公开可能被用于网络攻击等危害性活动。与面向公众的Claude系列不同,Mythos被列为高风险产品,因此Anthropic决定不予公开发布,以防止其被滥用。
Q2:Mythos遭未经授权访问事件是怎么回事?
A:有报告显示,一群人曾未经授权访问了Mythos模型。Anthropic于近日证实正在调查这一事件。该事件引发了外界对AI公司能否有效管控高风险产品、防止其流入公众领域的担忧。
Q3:Mythos事件对AI行业安全管控有什么警示意义?
A:Mythos疑似泄露事件表明,即便AI公司主动选择不公开高风险模型,仍面临内部泄露或外部入侵的风险。这促使业界重新审视AI开发速度与安全机制之间的平衡,科技公司是否具备足够完善的安全手段来管控最危险的AI产品,成为亟待解决的问题。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。