心理学家长期以来一直在争论,人类思维能否用一套统一的理论来解释,还是注意力、记忆等不同功能需要分别研究。如今,人工智能正以一种全新的方式加入这场讨论,为探索思维运作机制提供了新的视角。
2025年7月,《自然》杂志发表了一项研究,介绍了一个名为"Centaur"的AI模型。该模型基于标准大语言模型构建,并通过心理学实验数据进行微调,旨在模拟人类认知行为。据报道,Centaur在包括决策、执行控制等160项认知任务中表现出色,研究结果引发广泛关注,被视为AI系统向更广泛复现人类思维迈进的重要一步。
新研究提出质疑
然而,近期发表于《国家科学评论》的一项研究对上述结论提出了挑战。浙江大学的研究人员认为,Centaur看似亮眼的表现,可能源于过拟合问题——也就是说,模型并非真正理解任务本身,而是通过识别训练数据中的规律来复现预期答案。
为了验证这一假设,研究人员设计了多个全新的评估场景。其中一个示例中,研究人员将原本描述具体心理学任务的多项选择提示,替换为"请选择选项A"这一简单指令。如果模型真正理解了任务,理应始终选择选项A。然而,Centaur依然选出了原始数据集中的"正确答案"。
这一行为表明,模型并没有在理解问题的含义,而是依赖所学习的统计规律来"猜测"答案。研究人员将此比作一个靠死记题目格式拿高分、却根本不懂所学内容的学生。
对AI评估方式的重要启示
这一发现提醒我们,在评估大语言模型的能力时需要保持审慎。尽管这类系统在数据拟合上表现出色,但其"黑盒"特性使人们难以判断它们是如何得出输出结果的,进而可能引发幻觉或误解等问题。因此,通过多样化、严谨的测试来判断模型是否真正具备其所呈现的能力,至关重要。
真正的挑战:语言理解能力
尽管Centaur被定位为一个能够模拟人类认知的模型,但其最大的局限似乎恰恰在于语言理解能力——具体表现为难以识别并回应问题背后的真实意图。该研究表明,实现真正的语言理解,可能是开发能够更全面模拟人类认知的AI系统所面临的最核心挑战之一。
Q&A
Q1:Centaur模型是什么?它在心理学研究中有什么用?
A:Centaur是一个基于大语言模型构建、并通过心理学实验数据微调的AI模型,由2025年7月《自然》杂志发表的研究介绍。它被设计用来模拟人类认知行为,在决策、执行控制等160项认知任务中据报表现良好,被视为AI复现人类思维的重要探索。
Q2:Centaur被质疑存在什么问题?
A:浙江大学研究人员认为Centaur存在过拟合问题。测试中,当原有任务描述被替换为"请选择选项A"这类简单指令后,模型并没有选A,而是继续输出原数据集中的"正确答案",说明它只是在识别数据规律、"猜"答案,并非真正理解问题含义,类似靠死记题型应试而非真正掌握知识的学生。
Q3:评估大语言模型能力时应该注意什么?
A:大语言模型的"黑盒"特性使人们难以判断模型的推理过程,容易出现幻觉或误解。因此在评估模型能力时,需要设计多样化、严谨的测试场景,而不能仅依赖单一数据集上的表现,以确认模型是否真正具备所呈现的认知或理解能力。
好文章,需要你的鼓励
大众汽车旗下ID. Polo与Cupra Raval已在西班牙马托雷尔工厂正式下线投产。两款车型起售价分别为24,995欧元和26,000欧元,均基于MEB+平台打造,搭载37kWh或52kWh电池组,续航里程最高可达454公里。这是大众"电动城市车家族"系列的首批产品,预计今年夏末秋初开始交付。大众集团通过跨品牌资源整合,实现约6亿欧元的成本节约,后续还将推出ID. Cross等新成员。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
三星宣布将于6月8日起为Samsung Health应用推出重磅功能更新,赶在Galaxy Watch 9传闻发布之前落地。新版本将引入多项AI驱动的生物特征分析功能,包括:综合心率、血氧、皮肤温度等数据的每日活力评分(Vitals)、结合体成分数据评估长期心脏健康的心脏健康评分、优化训练强度的每日有氧负荷追踪,以及横向对比用户群体的健身指数。此外,应用界面将重新划分为睡眠、营养、活动、正念和体征五大板块,并新增抗氧化指数、年龄指数和听力保护等个性化功能。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。