麻省理工学院的科学家们发现,使用大语言模型会导致学习能力"可能下降"。
本周《时代》杂志报道了该研究团队的发现。在一篇预印本论文中,科学家们详细介绍了这项为期数月研究的新数据。
麻省理工学院团队邀请了54名来自波士顿地区的参与者在20分钟内写一篇短文。参与者被分为三组:第一组在没有任何外部帮助的情况下写作,第二组可以使用搜索引擎,第三组使用ChatGPT。
研究人员重复进行了四次实验。在第四次实验中,使用ChatGPT的参与者与独立写作的参与者互换角色。第四次测试在第一次测试四个月后进行。
研究人员在论文中写道:"虽然最初的好处很明显,但正如我们在4个月的过程中所证明的,大语言模型组的参与者在各个层面——神经、语言、评分——都比仅使用大脑组的参与者表现更差。"
麻省理工学院团队通过参与者佩戴的脑电图(EEG)头戴设备收集测试数据。这些设备使用电极测量佩戴者的大脑活动。研究人员还向参与者提出了一系列问题,以补充头戴设备收集的数据。
脑电图设备使用一种称为dDTF(动态定向传递函数)连接性的指标来测量佩戴者的认知负荷。该指标描述了不同大脑区域相互作用的强度。据研究人员称,使用大语言模型的参与者在写作时的dDTF连接性比没有使用ChatGPT的参与者低55%。
配备大语言模型的组在写作练习中也表现出较低的额中线θ活动。额中线θ脑电波与涉及集中注意力的认知活动相关。研究人员发现:"在仅使用大脑组中突出的θ连接在大语言模型组中相对较弱或缺失。"
在项目的后续阶段,麻省理工学院团队要求研究参与者引用他们文章中的内容。使用大语言模型的组在这项任务上的表现不如其他两组。此外,该组参与者报告对他们所写文章的"感知所有权"较低。
研究人员写道:"基于我们研究的结果,我们证明了学习能力可能下降这一紧迫问题。这些发现支持一种教育模式,即延迟AI集成,直到学习者进行了充分的自主认知努力。这种方法可能会促进即时工具效率和持久的认知自主性。"
好文章,需要你的鼓励
PDF协会在欧洲会议上宣布,将在PDF规范中添加对JPEG XL图像格式的支持。尽管Chromium团队此前将该格式标记为过时,但此次纳入可能为JXL带来主流应用机会。PDF协会CTO表示,选择JPEG XL作为支持HDR内容的首选解决方案。该格式具备广色域、超高分辨率和多通道支持等优势,但目前仍缺乏广泛的浏览器支持。
Meta研究团队发现仅仅改变AI示例间的分隔符号就能导致模型性能产生高达45%的巨大差异,甚至可以操纵AI排行榜排名。这个看似微不足道的格式选择问题普遍存在于所有主流AI模型中,包括最先进的GPT-4o,揭示了当前AI评测体系的根本性缺陷。研究提出通过明确说明分隔符类型等方法可以部分缓解这一问题。
Ironclad OS项目正在开发一个新的类Unix操作系统内核,面向小型嵌入式系统,计划支持实时功能。该项目的独特之处在于采用Ada编程语言及其可形式化验证的SPARK子集进行开发,而非常见的C、C++或Rust语言。项目还包含运行在Ironclad内核上的完整操作系统Gloire,使用GNU工具构建以提供传统Unix兼容性。
香港中文大学研究团队开发出CALM训练框架和STORM模型,通过轻量化干预方式让40亿参数小模型在优化建模任务上达到6710亿参数大模型的性能。该方法保护模型原生推理能力,仅修改2.6%内容就实现显著提升,为AI优化建模应用大幅降低了技术门槛和成本。