大语言模型如ChatGPT的兴起引发了广泛担忧,《纽约杂志》最近一篇文章形象地描述为"每个人都在通过作弊混过大学"。现在,OpenAI正在推出一种新的"学习模式",该公司声称这种模式不是为学生提供答案或代替他们完成作业,而是帮助他们"建立对复杂主题的深度理解"。
学习模式并非全新的ChatGPT模型,而是一系列"定制系统指令",OpenAI表示这些指令是"与教师、科学家和教育专家合作编写的,体现了支持深度学习的核心行为准则"。与标准ChatGPT可能提供的常规主题总结不同——OpenAI一位员工将其比作"迷你教科书章节"——学习模式以"脚手架式"结构缓慢展开新信息。该模式设计为采用苏格拉底式风格提出"引导性问题",并定期进行"知识检查"和个性化反馈,确保用户理解后再继续。
目前尚不清楚有多少学生会使用这种引导式学习工具,而不是直接要求ChatGPT从一开始就生成答案。
在Ars Technica参加的早期演示中,学习模式对"教我博弈论"的请求首先询问用户对该主题的整体熟悉程度以及将如何使用这些信息。ChatGPT介绍了一些核心博弈论概念的简短概览,然后暂停提问,再提供相关的现实世界例子。
在另一个涉及经典"火车速度"数学问题的例子中,学习模式抵制了模拟学生多次直接要答案的尝试,而是试图温和地将对话重新引导到如何使用现有信息来得出答案。OpenAI代表告诉Ars,如果反复询问,学习模式最终会提供直接解决方案,但默认行为更符合苏格拉底式辅导风格。
全天候智能导师
OpenAI表示,在构建学习模式时,受到了"高级用户"的启发,这些用户已经在尝试通过特定提示将ChatGPT改造成个人导师或考试准备工具。通过学习模式,OpenAI表示希望让技术能力较弱的用户也能获得"一个永远不会厌倦他们问题的个人导师"。
OpenAI表示与教育专家合作,这些专家评估了该模式的行为,并为模型提供了理想导师在特定情况下如何回应的"黄金示例"。该公司还咨询了提前获得新功能使用权限的大学生群体。
在Ars参加的新闻发布会上,一些学生热情地谈论学习模式推动他们获取下一个重要知识点的能力,以及使用该工具时对自己学习能力获得的信心。一名学生谈到了去助教办公室寻求帮助时的脆弱和尴尬感,以及通过ChatGPT随时获得数小时辅导的灵活性。
可信度如何?
熟悉大语言模型长期存在编造虚假信息倾向的人可能不愿意使用这类模型作为学习辅助工具。在新闻稿中,OpenAI承认当前的学习模式提示"在对话中会导致一些不一致的行为和错误"。
尽管如此,公司发言人告诉Ars,学习模式的幻觉风险较低,因为模型以较小的信息块处理信息,并在过程中进行校准。
虽然学习模式并非专门为解决ChatGPT被用于作业作弊的担忧而设计,但发言人告诉Ars,它可以帮助缓解教育工作者对学生仅仅使用大语言模型逃避自主学习的担忧。学习模式将在"几周内"添加到ChatGPT Edu产品中,供希望为学生提供不同AI体验的订阅学校使用。
目前,OpenAI表示专门的学习模式系统提示是未来将类似行为"直接训练到主要模型中"的"第一步"。
好文章,需要你的鼓励
微软近年来频繁出现技术故障和服务中断,从Windows更新删除用户文件到Azure云服务因配置错误而崩溃,质量控制问题愈发突出。2014年公司大幅裁减测试团队后,采用敏捷开发模式替代传统测试方法,但结果并不理想。虽然Windows生态系统庞大复杂,某些问题在所难免,但Azure作为微软核心云服务,反复因配置变更导致客户服务中断,已不仅仅是质量控制问题,更是对公司技术能力的质疑。
Meta研究团队发现仅仅改变AI示例间的分隔符号就能导致模型性能产生高达45%的巨大差异,甚至可以操纵AI排行榜排名。这个看似微不足道的格式选择问题普遍存在于所有主流AI模型中,包括最先进的GPT-4o,揭示了当前AI评测体系的根本性缺陷。研究提出通过明确说明分隔符类型等方法可以部分缓解这一问题。
当团队准备部署大语言模型时,面临开源与闭源的选择。专家讨论显示,美国在开源AI领域相对落后,而中国有更多开源模型。开源系统建立在信任基础上,需要开放数据、模型架构和参数。然而,即使是被称为"开源"的DeepSeek也并非完全开源。企业客户往往倾向于闭源系统,但开源权重模型仍能提供基础设施选择自由。AI主权成为国家安全考量,各国希望控制本地化AI发展命运。
香港中文大学研究团队开发出CALM训练框架和STORM模型,通过轻量化干预方式让40亿参数小模型在优化建模任务上达到6710亿参数大模型的性能。该方法保护模型原生推理能力,仅修改2.6%内容就实现显著提升,为AI优化建模应用大幅降低了技术门槛和成本。