未来的 AI 是否会“有意识”,并以类似人类的方式体验世界?目前没有有力的证据表明会这样,但 Anthropic 并未排除这种可能性。
周四,该 AI 实验室宣布已启动一项研究计划,目的是调查并为应对所谓“模型福利”做好准备。作为这一努力的一部分,Anthropic 表示将探索如何判断 AI 模型的“福利”是否值得受到道德关注、模型可能出现的“痛苦迹象”的潜在重要性,以及可能采取的“低成本”干预措施等问题。
在 AI 社区内,关于模型是否展现出任何人类特性以及我们应如何“对待”它们,存在着重大分歧。
许多学者认为,现今的 AI 无法接近人类的意识或体验,未来也不一定能做到。我们所熟知的 AI,本质上是一个统计预测引擎。它实际上并没有按照传统意义上的“思考”或“感觉”。通过在无数文本、图像等示例中进行训练,AI 学习了各种模式,有时能以有用的方式进行外推来解决任务。
正如伦敦国王学院专注于 AI 的研究员 Mike Cook 最近在接受 TechCrunch 采访时所说,一个模型无法“反对”其“价值”的改变,因为模型本身没有价值。将其描述为拥有价值,就是在将人类的属性投射到该系统上。
“任何将 AI 系统拟人化到这种程度的人,要么是在博取关注,要么就是严重误解了他们与 AI 的关系,”Cook 说道。“一个 AI 系统是在优化它的目标,还是在‘获取自身的价值’?这只取决于你如何描述它,以及你想用多么华丽的语言来形容它。”
另一位研究人员、MIT 的博士生 Stephen Casper 在接受 TechCrunch 采访时表示,他认为 AI 仅仅是一个“模仿者”,它“会进行各种胡编乱造”,并说出“各种无聊的话”。
然而,还有科学家坚持认为 AI 确实具有价值以及其他类似于人类道德决策的成分。一项来自 AI 研究组织 AI Safety Center 的研究表明,AI 拥有一种价值系统,可能在某些情境下使其优先考虑自己的福祉而不是人类的利益。
Anthropic 一直在为其模型福利倡议打基础。去年,该公司聘请了首位专职“AI 福利”研究员 Kyle Fish,以制定 Anthropic 以及其他公司应如何处理这一问题的指导方针。(Fish 目前正领导这项新的模型福利研究计划,他在接受 《纽约时报》 采访时表示,他认为 Claude 或其他 AI 当下拥有意识的可能性为 15%。)
在周四的博客文章中,Anthropic 承认,目前尚无科学共识证明当前或未来的 AI 系统是否可能具有意识或体验到需要道德关注的感受。
“鉴于此,我们将以谦逊的态度,并尽可能少地做出假设来探讨这一课题,”该公司表示。“我们认识到,随着这一领域的发展,我们需要定期修正我们的观点。”
好文章,需要你的鼓励
周一AWS美东数据中心DNS故障导致数百万用户和上千家企业断网,Reddit、Snapchat、银行和游戏平台均受影响。专家认为这凸显了冗余备份的重要性,CIO需要根据业务关键性进行风险评估,优先保护核心系统。单一供应商策略仍可行,但需通过多区域部署分散风险,建立故障转移计划。金融、医疗等高风险行业需更高冗余级别。
上海AI实验室等机构联合提出FrameThinker框架,革命性地改变了AI处理长视频的方式。该系统采用"侦探式"多轮推理,先快速扫描全视频获得概览,再有针对性地深入分析关键片段。通过两阶段训练和认知一致性验证,FrameThinker在多个视频理解基准测试中准确率平均提升10.4%,计算效率提高20倍以上,为AI视频理解领域带来突破性进展。
英国政府发布新的反勒索软件指导文件,旨在解决供应链安全薄弱环节。该指南与新加坡当局联合制定,帮助组织识别供应链问题并采取实际措施检查供应商安全性。英国国家网络安全中心过去一年处理了204起"国家重大"网络安全事件。指南强调选择安全可靠的供应商、加强合同网络安全条款、进行独立审计等措施,以提升供应链韧性和防范网络攻击。
复旦大学团队创建MedQ-Bench基准,首次系统评估AI模型医学影像质量评估能力。研究覆盖五大成像模式,设计感知-推理双层评估体系,意外发现医学专用AI表现不如通用AI。结果显示最佳AI模型准确率仅68.97%,远低于人类专家82.50%,揭示了AI在医学影像质控应用中的现实挑战和改进方向。