麻省理工学院AI与计算研讨会：技术进步中不可或缺的人文因素

4月30日，麻省理工学院施瓦茨曼计算学院旗下的"计算的社会与伦理责任"（SERC）项目举办了一场全天候学术研讨会，深入探讨人工智能如何重塑世界以及由此引发的社会影响。

本次研讨会涵盖多个议题，包括SERC最新种子基金获得者的研究报告（涉及空气污染预测与负责任的计算机视觉应用），以及关于AI对齐与AI在教育领域应用的专题讨论。康奈尔大学计算机科学与信息科学蒂施大学讲席教授、MIT 1996届博士毕业生Jon Kleinberg发表了主旨演讲。活动同期举办了海报展示环节，SERC学者项目的学生研究员在此展示了全年的研究成果。

SERC联席副院长、哲学教授Brian Hedden表示："MIT在AI和计算如何造福人类方面开展了大量出色的研究，看到社区对这些前沿成果如此热情，令人深受鼓舞。"

SERC联席副院长、J.C. Penney管理学讲席教授Nikos Trichakis指出："随着计算与AI深度融入社会各个层面，SERC的使命就是确保伦理反思与技术进步同步推进。本次研讨会展示了MIT正在开展的各类研究，也为社区提供了一个深入探讨计算未来责任担当的平台。"

让AI与人类价值观对齐，但该对齐哪些价值观

AI对齐与道德融合面临的挑战，在于如何将"人类价值观"注入一项强大且快速演进的技术之中。谁来决定哪些价值观和理性判断应被纳入伦理框架？在将这些价值观从用户传递到机器的过程中，如何防止信息失真？

这些问题由MIT电气工程与计算机科学（EECS）系副教授Dylan Hadfield-Menell在其主持的跨学科讨论中提出。

Google DeepMind哲学家兼研究科学家Iason Gabriel以法官为例阐述了自己的观点："你希望法官具备良好品格，但仍能依规裁判。他应是一个理性之人，未必是历史上最完美的人。对于AI而言，将其建模为完美存在并不合适——AI应该按照我们的指令行事，同时用自身的'品格'来诠释我们的道德价值观。"

MIT施瓦茨曼计算学院与EECS政治学助理教授Bailey Flanigan将讨论推进了一步。在她看来，AI对齐最核心的问题在于"从根本上厘清，谁有权利治理不同类型的AI系统"。

同场参与讨论的还有政治学副教授Bernado Zacka。面对AI发展的强劲势头与复杂的制度设计，Zacka表示："最紧迫的问题之一，是理解我们正在取代的那些系统所蕴含的智慧，以及它们为何以特定方式运作。"

随着AI部署压力与日俱增，人们时常感觉像是在飞行途中临时组装飞机。尽管如此，参与讨论的学者总体上对AI对齐的发展走向持乐观态度，并强调人的因素在塑造这些系统过程中至关重要。

"减负工具"还是"能力提升器"

随着各阶段学生开始使用AI，如何在保持学术严谨性的同时，以负责任的方式引入AI工具，成为亟待回答的问题。在AI与教育专题讨论中，MIT教职人员与Gemini教育部门负责人Marta McAlister共同探讨了AI在课堂中的实际应用现状，以及如何在契合教学目标的前提下让AI真正服务于学习。

MIT人工智能教学使用特设委员会联席主席、教授Eric Klopfer和Samuel Madden将讨论聚焦于一个核心困境：AI究竟是在帮助学生减轻负担，还是在辅助学生搭建知识框架。

Madden教授描述了认知挣扎的学习过程——学习往往在反复试错中完成。他说："学生现在遇到瓶颈时，第一反应就是问AI。他们不认为这是在突破自我，也并没有真正掌握所要考查的技能。"问题由此转变为：教师如何保留适度的认知挑战，使其刚好足以对抗学生借助AI"走捷径"的冲动。

Klopfer教授也表达了类似的担忧：批判性思维正逐渐从学生的工作输出中淡出。关于如何让教学内容维持足够的挑战性，他建议从整体课程体系入手，"一些核心内容必须被精简。我们一直在增加，而非筛选或删减。"

讨论主持人、教学系统实验室主任Justin Reich指出，尽管青少年普遍认为AI用于学习有一定弊端，但这并不能阻止他们的使用行为。然而，如果邀请学生参与讨论AI的应用方式，并与教师开展更具反思性的交流，学生或许能更有意识地选择使用这些工具的方式与原因。

总体而言，AI工具的应用方式不应"一刀切"。MIT媒体实验室教授Pat Pataranutaporn表示："AI并非铁板一块。它可以、也应该针对不同目的进行差异化设计，例如促进创造力和批判性思维。我们的评估方式不应只关注答案的对错，而应思考在当今时代，学习对学生而言真正意味着什么。"

模拟人类推理，与真正的人类推理究竟有何不同

在题为"AI的世界模型与我们的世界模型"的主旨演讲中，Kleinberg援引国际象棋大师与电影案例，深入分析了AI系统由于其世界模型与人类认知存在偏差，而导致协作失败的若干情形。

Kleinberg以国际象棋为例：现代象棋引擎已具备超越人类的竞技水平，但当与人类搭档协作时，其策略往往难以被人类伙伴理解或预判，交接环节由此产生困惑。他还借用电影《魔戒：护戒使者》中的场景加以说明——身为强大法师的甘道夫将一项极为危险的任务托付给一群毫无经验的冒险者，而众所周知，这支队伍在突然失去甘道夫的引导后，陷入了一段极度混乱的困境。

"人机协作团队的风险在于：当人类接手时，算法知道下一步该做什么，但人类并不知道，"Kleinberg解释道。

这些类比揭示了AI认知世界的方式——通过预测模拟、模式识别与约束条件来模拟人类推理——与人类与生俱来的具身知识和经验之间的本质差异，也引发了一个更深层的追问：这些系统是否真正理解自己所运行的世界？但问题的另一面同样值得思考：如果棋局最终依然以将杀告终，这种差异是否还重要？

Q&A

Q1：MIT的SERC项目主要研究哪些议题？

A：MIT的SERC（计算的社会与伦理责任）项目聚焦于AI与计算对社会的深远影响，涵盖AI对齐（如何让AI遵循人类价值观）、AI在教育中的应用、空气污染预测、负责任的计算机视觉部署等多个研究方向。该项目旨在推动伦理反思与技术进步同步发展，并通过年度研讨会为学界提供交流平台。

Q2：AI对齐最大的挑战是什么？

A：AI对齐面临的核心挑战在于：谁有权决定将哪些人类价值观和道德标准植入AI系统，以及如何在价值观从用户传递到机器的过程中避免信息失真。研究者认为，AI不应被建模为完美存在，而应像一个理性的人，依指令行事，同时用"品格"来诠释道德价值观。此外，治理权的归属问题也是当前最紧迫的挑战之一。

Q3：AI在教育中使用会影响学生的学习能力吗？

A：MIT教授的研究表明，当学生遇到学习困难时，首先求助AI会导致认知挣扎过程被跳过，从而阻碍真正的技能习得和批判性思维发展。教师们建议，应将AI设计为辅助学生搭建知识框架的工具，而非单纯的"减负器"，同时鼓励学生参与关于AI使用方式的反思性讨论，以培养其主动选择工具的意识与能力。