当AI开始自我构建，会发生什么？

理查德·索彻长期以来一直是AI领域的重要人物，最广为人知的是创立了早期聊天机器人初创公司You.com，以及更早之前在Imagenet方面的研究工作。如今，他正以一家名为Recursive Superintelligence的旧金山初创公司加入当前这一代以研究为核心的AI创业浪潮。该公司于本周三正式宣布从隐秘状态走向公众视野，并已获得6.5亿美元融资。

与索彻共同创立这家公司的，还有一批著名AI研究人员，包括彼得·诺维格（Peter Norvig）和Cresta联合创始人蒂姆·石（Tim Shi）。他们共同致力于打造一种能够递归自我改进的AI模型——该模型可以自主识别自身的弱点，并在无需人工介入的情况下重新设计自身以弥补这些不足。这一目标长期以来被视为当代AI研究领域的"圣杯"。

公司发布消息后，笔者通过视频会议与索彻进行了一次深度对话，探讨了Recursive公司独特的技术路径，以及他为何不将这个新项目归类为"新实验室"——这是业界对一批优先推进研究而非产品开发的新一代AI初创公司的非正式称呼。

以下访谈经过编辑，以提升简洁性与清晰度。

递归（Recursion）这个概念近来被频繁提及，似乎是不同机构的普遍目标。你们的独特方法是什么？

我们的独特之处在于利用"开放性"（open-endedness）来实现递归自我改进，这是目前尚无人真正实现的目标。很多人已经认为，只要让AI自动执行研究任务，就算是递归自我改进了。比如让AI去优化另一个东西——可以是某个机器学习系统，也可以是一封信——但那只是"改进"，不是"递归自我改进"。

我们的核心目标，是在规模化层面构建真正意义上的递归自我改进超级智能，也就是说，从研究想法的构思、实施到验证，整个过程都实现自动化。

首先是AI研究方向的自动化，随后是任何类型的研究，甚至最终延伸到物理领域。但当AI用于改进自身时，其效果尤为强大，因为它会逐渐形成一种对自身不足的全新"自我意识"。

"开放性"这个词是否有特定的技术含义？

确实有。我们的联合创始人之一蒂姆·罗克特舍尔（Tim Rocktaschel）曾在Google DeepMind主导开放性与自我改进团队，尤其参与了世界模型Genie 3的研究——这是开放性的一个典型范例。你可以向它描述任何概念、任何世界、任何智能体，它都能将其创建出来，而且是可交互的。

在生物进化中，动物不断适应环境，其他生物再反向适应这种适应。这一过程可以持续数十亿年，并不断产生新的有趣事物——我们的眼睛就是这样演化出来的。

另一个例子是蒂姆提出的"彩虹团队"（rainbow teaming）概念。你听说过"红队测试"（red teaming）吗？

在网络安全领域，这指的是——

对，在大语言模型的应用场景中也需要红队测试。基本原理是：你尝试诱导大语言模型告诉你如何制作炸弹，同时确保它不会真的这样做。

人类可以花很长时间思考AI不应该说什么，但如果用第二个AI来测试第一个AI呢？让第二个AI专门负责诱导第一个AI说出所有可能的有害内容，两者之间进行数百万次迭代对抗。

这样一来，两个AI实现了协同进化：一个不断发起攻击，并从多个不同角度持续尝试，这也正是"彩虹"比喻的由来。随后你可以对第一个AI进行"免疫"，使其越来越安全。这一想法由蒂姆·罗克特舍尔提出，目前已被各大主流实验室广泛采用。

你们怎么判断什么时候算"完成"了？我猜这个过程永远不会真正结束。

确实，这类目标永远不会"完成"。智能可以无限提升，编程能力、数学能力都可以持续增强。智能确实存在某种理论上限，我目前正在尝试将其形式化，但那些上限数值是天文数字，我们距离那些极限还非常遥远。

作为"新实验室"，你们应该在做大型机构没有做的事情。这是否意味着你认为现有的主要AI实验室按照目前的方式无法实现递归自我改进（RSI）？

我不便评论其他机构的做法，但我认为我们的方向确实不同。我们真正拥抱"开放性"这一理念，整个团队都专注于这一愿景，并且在该领域深耕研究、发表论文已逾十年。团队成员有着切实推动行业进步并落地产品的记录。蒂姆·石将Cresta打造成了独角兽企业，乔什·托宾（Josh Tobin）是OpenAI最早的员工之一，后来主导了Codex团队和深度研究团队。

说实话，我对"新实验室"这个标签有些抵触。我不希望我们只是一个实验室，我希望它成为一家真正有竞争力的公司，打造出人们真心喜爱、对人类产生积极影响的优秀产品。

那么你们计划什么时候推出第一款产品？

这个问题我想了很多。团队进展非常顺利，我们可能会提前原定时间表。可以确定的是，产品会有，而且等待周期是以季度计，而不是以年计。

关于递归自我改进有一种观点认为：一旦这类系统建立起来，算力将成为唯一重要的资源。系统运行越快，自我改进越快，人类的外部干预将变得无足轻重，竞争将归结为谁能投入更多计算资源。你认为我们是否正在走向那样的未来？

算力的重要性不容小觑。我认为未来有一个极为关键的问题将摆在人类面前：我们愿意花费多少算力，去解决哪些问题？面对这种癌症和那种病毒，你想先解决哪个？愿意为它投入多少算力？这最终将演变为一个资源分配问题，也将成为世界上最重要的议题之一。

Q&A

Q1：Recursive Superintelligence公司的递归自我改进目标与其他AI实验室有何不同？

A：Recursive Superintelligence采用"开放性"（open-endedness）方法来实现递归自我改进，而非简单让AI执行自动研究任务。其目标是让整个研究过程——从构思、实施到验证——完全自动化，并让AI在无需人工干预的情况下识别和修复自身弱点。创始人表示，团队在该领域已深耕十年，方向与主流实验室有所不同。

Q2："彩虹团队"技术是什么原理，有什么实际应用？

A："彩虹团队"（rainbow teaming）是一种让两个AI相互对抗协同进化的安全测试技术。一个AI专门负责从多个角度诱导另一个AI产生有害输出，通过数百万次迭代，不断发现安全漏洞；被攻击的AI则通过这一过程实现"免疫"，变得越来越安全。该技术由联合创始人蒂姆·罗克特舍尔提出，目前已被各大主流AI实验室广泛采用，常用于大语言模型的安全对齐领域。

Q3：Recursive Superintelligence公司何时会推出产品？

A：根据创始人理查德·索彻的表述，由于团队进展超出预期，产品发布时间线可能早于最初规划。他明确表示，等待周期是"以季度计，而非以年计"，并强调公司不仅是一个研究实验室，也致力于打造真正具有商业价值、对用户有实际帮助的产品。