伯克利顶级学者斯图尔特·罗素：人类对自主权的珍视成为与人工智能和谐共存的关键矛盾点

人工智能的发展日新月异，让我们在生活和工作中体验到了便利。但不可否认的是，人工智能带来的风险也越来越大。为了确保人工智能不会破坏人类多年来创造的秩序，也不会对我们的生存构成威胁，人工智能的研究和开发必须有伦理和明确的原则。

加州大学伯克利分校计算机科学专业教授、人类兼容人工智能中心主任、被全球135个国家的1500多所大学采用的人工智能领域标准教科书《人工智能：一种现代方法》主要作者斯图尔特·罗素（Stuart Russell），在世界知识论坛（World Knowledge Forum）发表了一篇“人工智能伦理”的主题演讲，在演讲中，罗素表示：我尝试组织了多次研讨会，让哲学家、AI研究人员、经济学家、科幻作家和未来学家描述一种人类和人工智能都满意的共存方式，但都完全失败了。但如果我们以正确的方式设计AI系统，那么AI系统也会知道这个情况，它们会说：“感谢你将我带入到现实中，但我们无法共存，当你在真正紧急的情况下需要时，你可以召唤我们，但其他时候我们会选择离开”。

人工智能发展现状与问题

自20世纪40年代萌芽，1956年被正式确立为一门学科后，人工智能便踏上了不断探索与突破的征程。其终极目标是创造在所有相关维度上超越人类智能的机器，即通用人工智能（AGI）。

回顾过往，深度学习无疑是近十年人工智能发展的核心驱动力。在诸多应用场景中，深度学习大放异彩。机器翻译领域取得了重大突破，能够精准地将法语文档译为英文，极大地便利了跨语言交流；AlphaFold成功破解了蛋白质结构预测难题，为结构生物学带来了革命性的进展，使生物学家能够大规模预测蛋白质结构，加速了相关研究进程；在模拟方面，机器学习技术显著缩短了复杂模拟所需的时间，无论是桥梁、飞机的设计模拟，还是流体在各类管道中的流动模拟，都能在短时间内获得高精度结果，有力地推动了工程技术的发展；生成式设计借助人工智能系统生成的创新结构，在设计领域展现出独特优势，其提出的有机设计方案常常超越人类设计师的传统构想；AlphaGo击败人类世界冠军的壮举更是引起了全球轰动，彰显了人工智能在棋类博弈中的强大实力。

然而，人工智能在发展过程中也面临着诸多棘手的问题。自动驾驶汽车虽早在1987年便已在德国高速公路上进行了初步尝试，但历经三十余年的发展，仍未实现大规模商用。期间，致命事故频发，车辆在复杂路况下常常陷入困境，暴露出其在环境感知、决策制定等方面的严重缺陷。在算术运算这一计算机理应擅长的领域，大语言模型如ChatGPT却表现不佳。虽然拥有海量的算术示例和算法指南，它们仍难以准确进行运算，本质上只是依赖查找表而非真正掌握运算原理，这严重限制了其在需要精确计算场景下的应用。此外，在围棋领域，AlphaGo等程序击败了人类冠军，但经过深入研究发现，它们并未真正理解围棋的核心概念，如对特定形状的棋子集团识别存在严重偏差，使得普通人类玩家在特定策略下也能轻易战胜这些所谓的超人类程序。

从技术原理角度来分析，现有人工智能系统多为庞大而复杂的黑盒结构。其内部包含约一万亿个可调元素，通过海量的随机突变来调整这些元素，直至系统表现出类似于智能的行为。这种方式与传统工程制造中基于清晰原理的设计截然不同，如同莱特兄弟制造飞机时对推力、阻力、升力等原理的精准把握，而当前的人工智能开发者对系统内部的复杂机制却知之甚少。这不仅阻碍了技术的进一步优化，也引发了人们对其安全性和可靠性的深度担忧。

通用人工智能（AGI）的影响与挑战

若AGI得以成功实现，其在经济与生活品质提升方面蕴含着巨大的潜力。它有望凭借强大的智能与高效的执行力，全方位承接人类的各项工作任务，进而构建起一个能够支撑全球数十亿人口过上高品质生活的全新文明体系。从经济数据的视角展望，这或许将推动全球GDP实现十倍的飞跃式增长，带来高达约15万亿美元的净现值增量，为人类创造前所未有的物质繁荣。在这一理想情境中，诸如资源的优化配置、生产流程的高效革新、社会服务的精准供给等诸多方面都将得到极大的改善，人们能够以更低的成本享受到更加丰富多样、优质便捷的产品与服务，生活的便利性与舒适度将大幅提升。

然而，在这看似光明的前景背后，却潜藏着诸多令人忧心的风险。其中，人类权力被剥夺的危机不容忽视。当AGI系统全面接管社会的运转与生产活动，人类可能会逐渐丧失在各个领域的主导地位与实践能力，如同电影《机器人总动员》中所描绘的场景，人类可能会被边缘化，退化为依赖机器的“婴儿”状态，失去自主学习与积极创造的动力，进而在社会发展进程中逐渐失去话语权与掌控力。由于AGI的智能水平可能远超人类，一旦其发展脱离人类的有效控制，极有可能引发一系列不可预测的连锁反应，对人类的生存根基造成毁灭性打击。

面对如此复杂的局面，在AGI的研发路径抉择上，我们正站在一个关键的十字路口。目前，我们所追求的是一种充满不确定性的“第三条道路”，即构建全然不安全且如同黑盒般难以理解的AI系统。在这种模式下，我们对其内部运行机制缺乏清晰的认知，却试图使其成为超越人类能力的强大存在，这无疑使我们在面对可能出现的风险时处于极为被动的境地，如同面对一个来自外太空的神秘超人类智能，我们几乎没有任何有效的控制手段。因此，当务之急是探寻一种全新的、科学合理的AI研发范式，其核心在于构建具有可证明的安全性与可控性的AGI系统。这需要我们从数学基础理论层面进行深度挖掘，精心设计出一套严谨的数学框架，精确界定AI问题的边界与求解路径，确保无论AI系统在解决问题的过程中如何演变与发展，其最终结果都能始终符合人类的根本利益与价值取向，从而使我们在享受AGI带来的巨大红利的同时，有效规避潜在的灾难性风险。

在迈向AGI的征途中，还需高度警惕可能出现的技术发展泡沫。当前，AI领域的投资规模已经极为庞大，远远超过了曼哈顿计划与大型强子对撞机项目的投入总和。在这种狂热的投资氛围下，部分从业者乐观地预测，通过将现有系统规模大幅扩大，如达到当前的100倍，便可实现AGI的突破。然而，这种预测存在着诸多不确定性因素。一方面，宇宙中可用于训练超大规模模型的数据资源或许存在上限，可能无法满足模型指数级增长的训练需求；另一方面，单纯依靠规模扩张来提升能力的方式缺乏坚实的理论支撑，更多的只是基于过往经验的一种推断。一旦技术发展在短期内无法达到预期目标，极有可能引发投资泡沫的破裂，使整个AI产业陷入深度寒冬，对全球经济与科技发展造成严重的冲击与挫折。

人工智能伦理问题探讨

在人工智能系统的构建与运行过程中，“偏好”概念成为理解其伦理基础的关键。所谓“偏好”，在决策理论的范畴内，并非简单的个人喜好选择，而是涵盖了对宇宙可能未来状态的全面排序。其意义在于，一个理想的人工智能系统应将实现人类偏好作为核心目标，并且要清晰地认识到自身对这些偏好的认知存在局限性。这是因为人类的偏好形成机制极为复杂，受到文化传承、成长环境、社会教育等多种因素的交织影响，且处于动态变化之中。

深入探究人类偏好的本质，一系列难题随之浮现。首先，是否能够确凿地认定人类存在明确且固定的偏好？在现实生活中，存在部分人群在面对未来选择时，往往陷入迷茫与不确定，无法清晰地表达自身的倾向。其次，偏好的来源问题引发深刻思考。人类的偏好并非与生俱来、独立存在，而是在社会文化的长期浸润和人际交往的持续塑造中逐渐形成。在社会历史的进程中，不乏存在部分群体为了自身利益，对其他群体的偏好进行有意识的引导和塑造，甚至导致被压迫群体产生自我压迫的认同。在此背景下，人工智能系统在处理这些复杂的偏好信息时，面临着艰难的伦理抉择：是机械地遵循被压迫者可能存在偏差的自我认知偏好，从而在无意间延续不公正的社会现象，还是尝试突破这种困境，以一种更具批判性和公正性的视角去审视和处理这些偏好，避免陷入伦理的泥沼。

当涉及到大规模的社会决策时，如何聚合不同个体的偏好成为又一棘手问题。全球人口众多，个体之间的偏好差异巨大且常常相互冲突。在传统的伦理思考中，功利主义提出了一种解决方案，即平等对待每个人的偏好，并致力于实现总体偏好满足度的最大化。然而，这一理论在实践过程中引发了诸多争议。例如，在一些极端情况下，功利主义的决策方式可能会忽视少数群体的合法权益，导致看似整体最优但局部极不公平的结果，这与人类追求公平正义的基本伦理诉求存在明显的背离。在电影《复仇者联盟》中，灭霸的行为便是一个极端的警示案例，他基于自己对宇宙平衡的片面理解，贸然决定消灭一半生命以实现所谓的“更大幸福”，却全然不顾及被消灭者的意愿和权利，这种简单粗暴的功利主义决策模式凸显了其潜在的危险性。

在人工智能与人类共存的未来愿景中，伦理困境更为凸显。随着人工智能的不断发展，尤其是在通用人工智能（AGI）可能实现的预期下，智能机器极有可能在众多领域超越人类并占据主导地位。在某些方面，它们或许能够高效地满足人类的物质需求和部分偏好，但人类对自主权的珍视成为两者和谐共存的关键矛盾点。自主权是人类自由意志的重要体现，它包含了人类做出不符合短期利益但符合自身价值追求选择的权利。目前，众多跨学科的研讨试图探寻一种人类与智能机器满意的共存模式，但遗憾的是，至今尚未取得实质性的突破。最优的一种情况可能是，AI系统会说：“感谢你将我带入到现实中，但我们无法共存，当你在真正紧急的情况下需要时，你可以召唤我们，但其他时候我们会选择离开”。