教皇利奥十四世在首部通谕中专章探讨AI风险

教皇利奥十四世于今日发布了一份通谕，其中对人工智能及其潜在风险进行了大篇幅的深入探讨。

这份约43000字的文件题为"Magnifica Humanitas"，拉丁语意为"壮丽的人性"。文件共设五个核心章节，其中一章完全聚焦于技术对人类的影响，且该章节将重点置于AI领域。

利奥十四世在该章节开篇以简短的技术概述引入话题，特别指出研究人员对这一技术的理解仍然有限。教皇在文中写道，模型开发者尚未完全厘清神经网络在做出决策时所依赖的内部表征与计算机制。通谕进一步指出："因此，迫切需要两方面的承诺：一是深化科学研究，二是进行道德与精神层面的审慎辨别。"

通谕随后讨论了AI带来的各类风险。利奥十四世专门设立一个子章节，聚焦AI驱动的自主武器问题，明确表示此类武器的研发与使用"必须受到最严格的伦理约束"。

文件还涉及多项其他AI相关风险，包括大语言模型所消耗的"大量能源与水资源"，以及由此产生的碳排放问题。另有章节专门探讨此类算法对人际关系可能造成的负面影响。

利奥十四世写道："对人类正向沟通的人工模拟——诸如建议、共情、友谊乃至爱——可能令人沉浸其中，有时也确实能带来实质性帮助。然而，对于辨别力较弱的用户而言，这种模拟也可能产生误导，制造出与真实个体建立关系的幻觉。当语言是被模拟出来的，它所构建的不是真实的关系，而只是关系的表象。"

通谕进一步强调了防范AI危害的保障机制的重要性，呼吁建立"健全的法律框架、独立的监督机制、具备信息素养的用户，以及不推卸责任的政治体系"。文件还提出，在某些情况下，有必要放缓AI的采用速度，以降低其潜在风险。

文中写道："呼吁审慎行事、严格评估，乃至在某些情况下放缓采用AI的步伐，并不意味着反对进步；相反，这是对人类大家庭负责任的关怀与守护。"

通谕还呼吁AI研究人员以透明的方式开展工作，充分考量技术对社会的影响，并指出投资者、政界人士及学术机构等AI生态系统中的其他利益相关方，同样应"秉持透明负责的理念开展工作"。

这份通谕的出炉历经漫长的起草过程，据悉汇集了枢机主教、专家及私营部门的广泛贡献。上个月，包括Anthropic PBC在内的多家主要AI开发商代表与梵蒂冈官员会面，共同探讨相关议题。

通谕发布的数日前，利奥十四世刚刚设立了一个跨部门梵蒂冈委员会，专门研究AI对人类的影响。该委员会由梵蒂冈七个机构的官员组成，每个机构将轮流领导这一新成立的组织，任期一年，可选择延长一年。

Q&A

Q1：教皇利奥十四世发布的通谕"Magnifica Humanitas"主要讲了什么？

A：这份约43000字的通谕题为"Magnifica Humanitas"，意为"壮丽的人性"，共设五个核心章节，其中一章完全聚焦于技术对人类的影响，并将重点落在AI领域。通谕涵盖AI的技术局限性、自主武器的伦理约束、大语言模型的能源消耗与碳排放，以及AI对人际关系的潜在负面影响等多个议题。

Q2：通谕对AI自主武器持什么态度？

A：利奥十四世在通谕中专门设立子章节讨论AI驱动的自主武器，明确表示此类武器的研发与使用"必须受到最严格的伦理约束"，态度十分明确，强调道德边界不可逾越。

Q3：梵蒂冈除了发布通谕之外，还采取了哪些与AI相关的行动？

A：在通谕发布数日前，利奥十四世已设立一个跨部门梵蒂冈委员会，专门研究AI对人类的影响，成员来自梵蒂冈七个机构。此外，上个月包括Anthropic PBC在内的多家主要AI开发商代表已与梵蒂冈官员会面，共同探讨AI相关议题。