Hinton 预测 AI 或导致人类灭绝。以下是应对之策

Geoffrey Hinton，被誉为人工智能的"教父"之一，认为在未来 30 年内，AI 导致人类灭绝的可能性为 10% 到 20%。这位英国-加拿大计算机科学家在 BBC 广播 4 台节目中表示："我们从未需要应对比自己更聪明的事物。你能举出多少例子，一个不那么聪明的东西能控制一个更聪明的东西？"Hinton 的评估凸显了采取紧急行动的必要性，并引发了关于我们如何开发和管理 AI 的深刻问题。

降低风险

应对 AI 的存在性风险需要聚焦三个方面：监管、全球合作和创新教育。以人类生存为核心，我们认识到 AI 发展不再是一个小众关切，而是一个普遍的迫切需求。

我们需要制定类似 1968 年《不扩散核武器条约》规模的监管和国际条约。即便达成这一目标，法律框架的作用也是有限的。教育成为保障人类未来最有力的工具。通过我所称的"无限教育"，我们可以培养人类价值观、创造力和伦理思维，以补充而非与智能机器竞争。

培养适应能力

我们需要一个能够与技术进步共同演进的教育系统，而不是过时的有限教育模式。我们需要一种强调适应性和终身好奇心的教育理念。教育应旨在丰富 AI 难以轻易复制的人类品质，如同理心、伦理判断和品格发展。我们应该培养能够与 AI 共存的一代人，而不是填补 AI 留下的空白。

同样重要的是，在整个课程中教授伦理学将使学生能够认识和应对 AI 的潜在陷阱。《国际 STEM 教育期刊》的一篇文章强调了将伦理框架融入 AI 学习的紧迫性。这种方法不仅解决了算法偏见和意外后果等问题，还培养了未来领导者的责任感，弥合了快速技术创新与社会福祉之间的鸿沟。

协作而非竞争

AI 素养正迅速成为任何有意义的教育改革的基础。我们需要为年轻人提供在 AI 迅速重塑行业的世界中茁壮成长所需的技能。

根据世界经济论坛的数据，到 2027 年可能会出现 6900 万个与 AI 相关的工作岗位。利用这些机会不仅需要编程能力或数据分析技能，还需要创业思维和持续自我成长的坚定承诺。教育机构必须将自身转变为价值创造的中心，为学生应对不确定性做好准备，同时赋予他们在日益由 AI 驱动的环境中做出有意义贡献的能力。

监管与全球行动

Hinton 呼吁采取有力的监管措施，这一呼吁在联合国等国际机构中得到了支持。在经济利益常常掩盖伦理考虑的世界中，全球监督至关重要。政策需要激励有益的 AI 研究，同时对有害应用（如自主武器系统）设置障碍。类似于政府间气候变化专门委员会 (IPCC) 的模式可以使各国协调一致，制定保护人类利益高于短期利益的集体标准。

拥抱无限教育的愿景

现在不是因恐惧而退缩的时候。"无限教育"方法确保最终目标不仅仅是超越机器，而是不断发展人类潜能。这种思维方式培养了应对 AI 最深刻挑战所不可或缺的韧性和创新能力。

实现这一愿景需要系统性改革。学校必须摒弃狭隘的考试评估指标，转向考虑问题解决、团队合作和领导力等创业技能的整体评估。教育工作者的持续专业发展同样至关重要，确保他们充分了解 AI 的风险和可能性，以负责任地指导学生。最重要的是，社区需要将教育视为不仅是职业准备，更是终身成长和公民贡献的基础。

如果我们真的面临 10% 到 20% 的灭绝风险，那么采用"无限"教育方法意味着我们可以塑造一个 AI 增强人类进步而非威胁人类的未来。

这不仅仅是为了在 AI 革命中生存。而是要在其中蓬勃发展。通过深思熟虑的监管、全球合作和大胆的教育改革，我们可以确保 AI 的强大能力服务于我们的崇高理想，而不是破坏我们的生存。Hinton 的警告应该激励我们采取迅速而果断的行动。它应该激发一个新时代，在这个时代，技术和人类在共同价值观和保护我们共同未来的坚定承诺的指引下，协调前进。