Leap 2025 大会：AI 潜力巨大但可能威胁社会根基？

在 2 月举办的沙特阿拉伯 Leap 2025 大会上，该国宣布了对人工智能 (AI) 的巨额投资。会议的主要内容围绕 AI 的关键问题展开，包括企业如何从 AI 中获取商业价值、开发代理型 AI 的挑战，以及机器人和因果 AI 的远期发展等。

会议还讨论了需要关注 AI 将如何改变社会，以及如何确保它成为促进而非破坏社会凝聚力的力量。

代理型 AI 需要常识 沙特数据和 AI 管理局 (SDAIA) 国家 AI 中心首席执行官 Yaser Al-Onaizan 重点关注代理型 AI 这一下一步发展方向。

他表示："大语言模型理解语言的构建方式和人们生成的序列。但 AI 的愿景是融入我们日常生活的方方面面。它需要是无形的，不能太突兀——它应该倾听你，理解你，有时甚至不需要你开口就能根据你的意愿行事。例如，你可以与模型互动，它不仅能为你提供航班信息，还能帮你预订航班或酒店。"

Al-Onaizan 指出，挑战在于让 AI 能够代表人类工作并做出正确决定，理解"常识"，使其自主决策能够符合委托人的实际需求。

从代理型 AI 到因果 AI Jazz Computing 创始人 Lamia Youseff 是 AI 和云计算领域的行业思想领袖，曾在 Google、Microsoft、Facebook 和 Apple 等公司工作，也在斯坦福、MIT 和 UCSB 等学术研究机构任职。

她将 AI 的发展分为几个阶段和拐点：

企业级 AI - 大数据通过收集海量数据进行分析铺平了道路。企业级 AI 引入优化并带来了"新产品和服务的浪潮"。

代理型 AI - 未来两年的下一步发展将带来能够接受命令、与大语言模型对话、将命令分解为步骤并采取行动的代理。

机器人和人形机器 - 这需要在通信和机器理解人类语言方面有重大创新，将大语言模型与机器人技术结合，比如无人驾驶汽车，最关键的是要能够在三维世界中互动。

因果 AI - 能够预测极其复杂的现实世界事件，如股市波动。

为企业开启 AI 潜力 其他发言者则关注如何从 AI 中获取商业价值。其中包括专注于企业级大语言模型应用的加拿大公司 Cohere 的 CEO Aiden Gomez。

他致力于通过帮助构建应用程序栈来使大语言模型对企业有用。

"你必须具备技术能力，需要是开发人员，才能在这个模型之上构建东西，在另一端创造价值，"他说。

挑战包括如何降低 AI 与内部系统集成的门槛，以及当 AI 走出概念验证阶段并接触最敏感的客户数据时的安全问题。

"企业界最需要的是能够即插即用的好解决方案，"他说。"企业采用 AI 的障碍在于如何安全地部署，这意味着完全私有化部署。然后我们才能开始将人类的工作转移到这些模型上。要想成功，它们需要能够使用现今人类完成工作所用的系统，并将生成式 AI 与内部软件和系统集成。"

Gomez 补充道："当人们只是在测试技术时，安全性并不是那么重要，因为他们没有将关键数据输入这些系统。现在，我们正在走出概念验证阶段，进入生产阶段，这些模型正在接触最敏感的客户数据，所以安全性成为首要考虑。"

他也指出代理型 AI 是下一个阶段，需要解决一些挑战。第一是推理模型的使用，第二是从经验中学习。

"想想推理是什么，"Gomez 说。"现在的情况是，你可以问模型 1+1 等于多少，也可以让它证明费马最后定理，模型会花同样的时间回答这两个问题，这毫无道理。"

"有了推理能力，你可以在不同难度的问题上投入不同的精力。这样我们就能以更有效率、更有成效的方式处理问题。这对代理型 AI 来说是一个重大突破。你希望代理能够思考问题并真正进行推理，"他补充道。

"第二件事是从经验中学习。对于人类来说，当你告诉他们'你做错了，这是改正的方法'，他们会记住并永远不再犯同样的错误。当模型具备通过与用户互动来从经验中学习的能力时，就能实现仅通过互动来教导模型的可能。"

AI：我们不能对危险保持被动 最后，联合国数据、分析和新兴技术主管 Lambert Hogenhout 警告说，如果我们对 AI 采取被动态度，它可能会对人类社会造成危险。换句话说，如果不加控制，AI 有能力削弱人类主体性，甚至成为对抗我们的力量。

他认为 AI 带来的主要风险包括对以下方面的威胁：

自主性 - AI 让你更有能力，几乎完美，但这意味着你此后必须与 AI 互动才能成为它塑造的那个人。

身份 - 如果 AI 掌握了足够的个人信息，它甚至有能力构建某人性格的复制品。这将身份盗窃推向了新的高度。

目标 - 如果 AI 取代了许多工作，人类还剩下什么，我们如何确保专注于人类擅长的领域，如合作和创造力？

幸福感和社会联系 - 人类感到幸福和与社会保持联系非常重要。如果这被破坏，就会出现问题。

"AI 为我们提供了许多改善业务和私人生活的方式，"Hogenhout 说。"但从长远来看，比如 20 年后，没人能预测世界会是什么样子。"

"有些人持非常积极的观点，认为机器人会完成工作，而我们可以整天打高尔夫或看有趣的电影。但悲观的观点认为我们将失去人生目标，对人类来说生活将变得相当悲惨，除了少数 AI 亿万富翁之外。"

Hogenhout 指出智能手机如何改变了一切，AI 很可能也会如此。

首先，他谈到了自主性的问题。

"我一直希望在回复朋友的消息时能更幽默，给老板写邮件时能更有说服力。借助 AI 的帮助，我确实可以做到。但这意味着我每次沟通都要依赖 AI，当每个人都这样做，当每个人都变得完美时，你能承受不使用它、成为唯一一个未增强的人类吗？我们将被迫用 AI 增强自己。"

关于身份，Hogenhout 谈到 AI 有潜力全面克隆一个人的性格。

"如果有人拿走我写过的所有东西——电子邮件、帖子，一切——它就知道如何像我一样回应？事实上，已经有公司在这么做了。"

"有一个名为 Hereafter 的应用程序是为老年人设计的。例如，你的祖父可以接受采访，并添加关于他生活的信息。然后，一旦祖父去世，你的手机上就会有祖父的声音，你可以问他超级碗或足球比赛的事，它会完全按照祖父会回答的方式回应。"

Hogenhout 说，这就引出了一个问题：如果身份可以如此轻易地被复制到声音和观点的层面，那么是什么让我们与众不同？

他说："目前，我们太过被动。我们只是在等待下一个令人惊叹的 AI 系统出现。我们没有思考这将如何影响我们的生活。"

最后，Hogenhout 探讨了目标这个问题。

"我们生活的意义来自于我们所做的工作，但很明显很多工作都将被取代。诚然，我们经常做一些愚蠢的事情，但我们也有令人难以置信的技能和能力，"他说。

"创造力使我们作为物种独一无二。我们也有不接受现实原样的特质。但我们不仅仅是创新者。我认为我们非常善于合作。我们都聚集在这个会议上是有原因的，因为我们想互相学习。这些联系在社会中非常重要。"

"对我们来说，做出决定和感受成就感很重要。我们要确保 AI 增进生命连接，确保我们不被淘汰，它能创造一个好的社会。一个有许多人被排除在外的社会是行不通的。这会产生问题，"Hogenhout 补充道。

他的结论是，AI 将以重大方式改变我们，但我们需要确保我们采取主动行动。否则，将大量人类排除在由 AI 增强生活的核心之外的潜在可能性将导致社会破裂，从而产生问题。

"目前，我认为我们太过被动。我们只是在等待下一个令人惊叹的 AI 系统出现。我们没有提前思考，思考这将如何影响我们的生活。"