超强AI系统会是什么样子？

想象一下，你即将拜访"AI超级大脑"，它控制着各种系统：邮政服务、公用事业、政府系统、商业运营等。当你走进指挥室时，会看到一个巨大美丽的大脑，闪烁着生动的色彩，一束束线缆将其连接到网络中。

但是，让我揭开这个引人入胜的愿景的帷幕，因为根据不少专家的观点，这并不是通用人工智能的真实模样。

相反，随着我们接近技术奇点，一些顶尖学者认为，你看到的更像是互联网的可视化形态：这里发生着一些事情，那里发生着另外一些事情，高效的通道实时连接着所有组件，整个系统运转如瑞士手表般精准。

明斯基的心智理论

如果你经常阅读这个博客，可能已经厌倦了我反复引用MIT大师马文·明斯基及其著作《心智社会》中的观点。明斯基经过深入思考和研究后提出，人脑虽然是一个单一的生物器官，但不是一台计算机，而是由许多不同的"机器"相互连接组成的系统。

你可能会认为这是一个语义概念：我们知道皮层如何工作，大脑两半球如何协调，以及杏仁核等子器官的作用。但这并非明斯基在其论著中给我们的全部启示：他引入了"k线"或知识线的概念，即我们记忆事物的轨迹。这类似于互联网上数据包的下一跳传输路径。

明斯基还提及了一些人称之为"意义内在性"的概念——意义不是数据中固有的，而是从我们的处理过程中产生的。

在我看来，这很有禅意——实际上，如果你查找"内在性"这个词的含义，会发现它某种程度上与"超越性"相对：不是超越某物，而是深入其内部。

这很有道理，我认为它为我们观察AI提供了另一个有用的视角。当人们争论AI是否"真实"或"有感知能力"时，我会说在某些方面，石头激起的涟漪比石头本身更真实——AI的"现实性"在于我们如何处理其产品。

公平地说，随着智能体的演进，它们也会在其他方面变得相当真实。它们将全天候执行任务、操控系统，深入到数字触角能够触及的任何地方。

这正是我想要介绍阿比谢克·辛格在IIA四月份演讲的原因。辛格以相当引人注目的方式谈论了我们对新数字"物种"智能的可能反应。

三重难题

辛格谈到了智能中的"三重难题"：三个理念或目标的交集。一个是可扩展性，另一个是合作或协调，第三个是异质性：每个智能体完成的任务有多么不同？它们之间的可替代性如何？

辛格举了鸟群和狼群的例子。鸟类高度同质化，在一个非常大且可扩展的群体中以某种统一的方式运作。

而狼群，他说，不会如此扩展。

"个体承担不同的角色和责任，"他说，"但同时，它们不是大规模运作的……而使我们人类这个物种与众不同的是，我们既能做到高度异质性，又能实现可扩展性。"

他提到了分布式系统理论（如数据库）中使用的CAP定理，该定理表明在一致性、可用性和分区容错性这三个标准中，数据库一次只能满足其中两个。

"你在这三者之间遇到了三重难题，"他说，"结果是我们有一个类似的三重难题。它与分布式系统不完全对应，但在这个生态系统中有类似的概念，不同的智能物种试图相互合作。"

引入CHAOS

辛格接着引用了混沌理论及其对这项研究的贡献。

"我将向你们介绍混沌理论2.0，它是在这些协调智能体的背景下提出的，"他解释道。"我们在集中式系统中看到的是，一旦你试图实现其中两个标准，就会失去另一个，克服这个三重难题的一种方法——虽然不是完全解决，但至少可以跨越边界——就是以去中心化的方式运作。"

他认为，仅仅去中心化是不够的。

"你需要开发算法和协议，真正让你能够以去中心化的方式实现这三个目标，"他说。"我们解决这个三重难题的方法是通过两个理念：本地协议和涌现行为。"

在这里，辛格阐述了我在文章开头以自己的方式提出的观点，也许他表达得更加清楚：

"理解这两种思维模式如何结合的一种方式就是我们现在解决智能问题的方式，"他说。"一种是一个大型科技公司拥有一个巨大的大脑，能够同时完成所有任务。另一种从去中心化角度来看，是许多小型大脑相互交互。单个小脑都不够强大，但通过我之前提到的那些协议，它们共同产生了涌现现象。"

然后，有趣的是，他触及了我上面提到的相同观点，即任务的异质性可能是一个语义概念，因为在那个大脑内部，许多不同的事情同时发生。换句话说，由于大脑解剖结构，脑细胞并不完全可替代。

"这种大脑方法也有三重难题的概念，但是以分形的方式，"他指出，"在那个大型神经网络内部，你有大量参数——它们相互协调，解决不同的子任务，这就是为什么你有异质性。"

观看辛格讲述金融市场、社会规范和知识转移的视频片段，你会看到这些理念在现实生活中的更多实际应用。他还提到了智能体系统与早期互联网之间的相似性，当时人们必须通过HTTP、SSL等协议来解决网络连接问题。辛格提到了模型上下文协议MCP，果然，他提到了NANDA这个缩写，它代表MIT自己构建AI智能体互联网协议的项目。