超级智能究竟长什么样？

随着我们逐步接近人工智能的某个临界点，“超级智能”这一词不断出现。

大家很容易随便提起这个词，讨论人工智能何时会比人类更聪明，但超级智能究竟长什么样呢？

为了找出答案，我采访了一组建设者和物理学家，我们讨论了当前正在进行哪些努力能够支持超级智能的实现。这些是一些主要主题。

增强科学发现

当今科技界最大的想法之一就是重新构建科学研究本身的过程。

Geoffrey von Maltzahn 是 Flagship Pioneering 团队的一员，他们旗下的一个项目 Lila Sciences 正在着手创建“自动科学系统”，正如他所说，这一系统将允许人工智能接管科学发现的“各个环节”。

他进一步澄清说： “ 它能够调用工具，模拟世界的运行方式，提出一个卓越的假设，自动设计出决定性的实验， 并在现实中验证这一假设。”

以从编码感觉到外包为类比，von Maltzahn 谈到，尽管人类水平的智能支撑着一切，但我们可以将自动化成果应用于材料科学、化学和生命科学等方面。

他建议，这将产生真正积极的效果，部分原因在于人类在科学探索中固有的局限性。

他说：“我们的身体和大脑都并非为科学研究而设计，尤其是从原子层面了解世界运行规律这方面，就如同数学一样。尽管我们的头脑尽力去理解……在生命科学、化学、材料等领域中，我们的大脑往往难以深刻理解其中的奥妙……而机器在识别这些模式方面要优秀得多……这对我们熟悉的每一个科技领域都意味着极其惊人的影响。”

数学的力量

超级智能可能具备的另一个重要特性是：它在数学运算方面将表现卓越，甚至能以更直观、抽象的方式进行推导。

Axiom 公司首席执行官 Carina Hong 讲述了这一点。Axiom 是一家致力于量化超级智能登月计划的公司，她提到模式匹配并不等于推理，传统模型在展示推导过程方面表现欠佳。

她说：“大语言模型尽管在训练后取得了所有这些惊人的突破，但在进行证明方面依然表现得相当糟糕。它们会给出一个数值答案。实际上，在美国邀请赛数学考试中，它们的表现非常出色，前沿的大语言模型可以取得 96% 的得分。然而，当你要求模型展示它的证明过程时，得分就降到了 5%，究竟为啥会有如此大的不同？原因在于我们训练它们的方式……我们在 Axiom 想要构建的，是通过编程语言训练机器，使其能够掌握形式证明的语言。”

她表示，这将使人类对这些引擎的结果产生信任，并使这个世界变得“数学充盈”。

技术系统与分布

这其中还有一个方面是系统的构建。

Riccardo Sabbatini 是一名数字建模专家，主要从事药物发现等工作。

他谈到了为实现全自动机器人化奠定基础的系统，这一系统能够让数百万个分子实验实现完全无人参与。

他说：“我看到从现在到超级智能到来的一个过渡时刻，”他将这一阶段称为“感觉智能”的时代。

他说：“看看今天的程序员，现在他们不必每三秒就去 Stack Overflow 上搜寻答案，也不需要不断从自己以前的代码中复制粘贴，在你屏幕右侧打开一个大语言模型：这个模型会为你完成大约 80% 的重复性代码编写工作。”

你可以观看视频，视频中对概率数据库设计、高斯曲线以及人工智能数学的演变等内容也进行了额外的科学评估。

把握时机

讨论中有一个轶事，Sabbatini 谈到图像生成模型总是显示同一时间——10:10。

他说，这种情况很顽固，原因在于大语言模型从互联网上获取的训练集数据。

他在一个实验中解释道：“当用户要求生成一张下午2:25的手表图片时，（生成的手表）永远不会显示2:25。它们总会显示10:10；原因在于，全球绝大多数甚至全部的手表照片都是在10:10拍摄的。”

他提出，这与广告宣传有关，因为人们喜爱看到的手表表盘都是10:10。

他说：“因此，全世界的手表必须定格在10:10，无论你拥有再经典的模拟手表，都无法出现‘2:25’的状态。这是多么离奇的一种简单概念学习现象啊。”

这说明了人工智能当前的一些盲点，专家们建议，随着超级智能的发展，这些问题最终可能会得到解决。

而 von Maltzahn 关于科学发现速度的那番话则极其引人深思。

极速科学

他推理道，借助这些新工具，我们能够加速科学的进程，摆脱以往人类在科研上所面临的时间限制：过去需要一年左右才能验证的真理，现在有了人工智能便可以大大缩短时间。

如果你每天都能实现一项突破性的科学发现，而且过程非常轻松，那会怎样呢？

von Maltzahn 解释道：“人脑对世界运行规律的理解仅仅是一个极其微小的部分。事实上，为了理解这些规律，我们不得不将世界划分成无数细分的专业领域。所以，我相信像想象力和对新奇事物的追求将会在人类的贡献中保留一段时间。”

他说：“我相信科学将变得更加有趣。如果我们将爱迪生的‘1%灵感，99%努力’投入到一个新的范式中……就能提升科学家的生活质量，并很可能大幅提高科研产出。”

他谈到了以全新方式获取稀土金属，以及完善一种将改变供应链和科学方法的新化学体系，暗示着“文明的国内生产总值”正依赖于这一全新范式。

他认为，我们曾经历过无数的技术革命，但这是第一次智能革命。那么，接下来会发生什么呢？

超级智能世界中的人类角色

von Maltzahn 在讨论变化时提出的一个观点是，如果人工智能能够做得更好，我们人类在项目中的所有智力贡献都将不再安全。

他说：“我们没人真正知道，在智能水平上升并将想象力或……逻辑推导能力所吞噬的过程中，究竟哪部分先到来。但很可能存在一个粗略的界限：当我们试图在知识宝库中搜索信息的时候，那部分信息要么已经被淹没，要么几乎会马上被淹没。”

这又把我带回了关于就业岗位流失这一永恒的话题，以及我们如何围绕这些技术重新构建社会秩序的问题。

我们似乎隐约意识到必须进行一次重构，但对于在一个由高效人工智能主导的商业世界中，人们将从事什么样的工作，却没有太多清晰的认识。

无论如何，我们可以预见一个全新时代科学的到来，以及它将为我们带来的一切。这也是每个年轻人在学习和为职业生涯做准备时应该思考的问题——同时也是每个公共规划者（或创新者、企业家）在试图理解未来方向时必须关注的事情。