今年10月,OpenAI高级研究科学家、德扑AI之父Noam Brown,曾在美国旧金山举办的TED AI大会上提出了一个惊人的理论——让AI模型思考20秒所带来的性能提升,相当于将模型扩大100,000倍并训练100,000倍的时间。
Noam所指的技术便是System 1/2 thinking,也是OpenAI最新模型o1正在使用的技术。
谷歌DeepMind研究人员则直接把这项技术集成到AI Agent中开发了Talker-Reasoner框架,让其具备“快”、“慢”两种拟人化思考方式。这对于解决复杂、冗长的任务来说帮助巨大,也突破了传统AI Agent执行业务流程的方法,极大提升了效率。
像人类一样思考——快、慢思维
在介绍谷歌的双思维AI Agent之前,「AIGC开放社区」先为大家简单介绍一下System 1/2的快、慢思维的由来和技术特性,对于理解Talker-Reasoner框架很有帮助。
快、慢思维最早是由诺贝尔经济学奖得主-丹尼尔·卡内曼在其著作《思考,快与慢》中提出,并被广泛接受为理解人类思维的一种重要理论框架。
这两种思维方式分别被称为“System1”和“System 2”,它们各自承担着不同的认知任务,并以独特的方式影响着我们的决策过程。
System 1,所谓的“快思考”,是一种自动化的、迅速的思维模式,几乎不需要消耗大量的认知资源,也不需要个体付出明显的努力。
当我们面对一个熟悉的场景或问题时,System1会迅速作出反应,提供即时的答案或解决方案。例如,当我们看到一辆车突然向我们驶来时,我们会本能地做出躲避的动作;或者当我们听到一个笑话时,我们可能会立即感到好笑并发出笑声。
这些反应都是System1在起作用的结果,它依赖于直觉和经验积累,能够在短时间内处理大量信息,但同时也可能因为缺乏深入分析而产生偏见或错误判断。
相比之下,System2则代表着“慢思考”,这是一种更为复杂和谨慎的思维过程。System2负责执行那些需要更多注意力和努力的任务,如解决复杂的数学问题、进行逻辑推理或是制定长期计划等。
如果你使用过OpenAI的o1或者国内的Deepseek、阿里最新开源的QwQ-32B模型,它们在执行超复杂问题时,便会进入短暂的思考时间。
System2的特点在于其能够对信息进行细致的分析和评估,从而得出更加准确和全面的结论。然而,由于这种思考方式需要消耗较多的认知资源,所以比System1要慢得多。
此外,在面对紧急情况或压力较大的情境下,System2的表现可能会受到影响,导致决策效率降低。
谷歌双思维AI Agent——Talker-Reasoner
而谷歌DeepMind研究人员提出的Talker-Reasoner中,巧妙地将System1/2集成到了AI Agent上。
Talker-Reasoner架构的核心思想是将AI Agent分为两个独立的模块:Talker和Reasoner。这两个模块分别对应于人类的System 1和System 2,各自承担着不同的任务和功能。
Talker模块,类似于System 1,负责快速、直观的对话生成,它能够迅速响应用户的需求,生成自然语言的回答。而Reasoner模块,类似于System 2,负责复杂的多步推理和规划,它需要更多的时间和计算资源来处理复杂的任务,如调用外部工具、检索信息和解决问题。
在Talker模块中,AI Agent被设计为能够理解和处理自然语言,生成连贯和自然的对话。这需要AI Agent具备强大的语言理解和生成能力,以及对上下文的敏感性。Talker模块需要能够快速地从记忆中提取相关信息,以支持其对话生成。
这种记忆可以是对话历史、用户偏好或其他相关信息。Talker模块的设计使其能够模拟人类的直觉反应,即使在信息不完全的情况下也能做出合理的回应。
与Talker模块的快速反应不同,Reasoner模块的设计重点在于深度思考和复杂问题解决。Reasoner模块需要能够执行多步推理,这可能涉及到对大量信息的分析和处理。它需要调用各种工具和数据库,以获取外部知识,支持其推理过程。
Reasoner模块还需要能够形成和更新关于用户状态的信仰,这些信仰以结构化语言对象的形式存储在记忆中。这种信仰建模是Reasoner模块的关键特征,它使得AI Agent能够更好地理解用户的需求和意图,从而提供更准确的服务。
在实际应用中,Talker和Reasoner模块之间的交互是通过记忆来实现的。Reasoner模块负责生成新的信仰状态,并将其存储在记忆中。Talker模块在需要时从记忆中检索这些信仰状态,以支持其对话生成。
这种设计允许Talker模块即使在Reasoner模块尚未完成其推理过程时,也能够继续与用户进行互动。该分工类似于人类的大脑,System 1始终活跃,而System 2则在需要时介入。
Talker-Reasoner测试数据
为了测试Talker-Reasoner的双思维性能,研究人员用这个开发了一个睡眠辅导Agent。在这个场景中,AI Agent需要与用户进行对话,提供关于改善睡眠习惯的建议和计划。
Talker模块负责与用户的直接互动,而Reasoner模块则负责制定和调整睡眠辅导计划。这种分工使得AI Agent能够同时进行快速的对话和复杂的规划,提高了用户体验。
在测试中,Talker模块通过一系列指令编码专家知识,指导其完成睡眠辅导的各个阶段。这些指令不仅包括了与用户互动的规则,还包括了睡眠辅导的具体步骤和策略。Talker模块需要能够理解和回应用户的需求,同时保持对话的连贯性和自然性。
Reasoner模块则需要根据用户的反馈和需求,调整和优化睡眠辅导计划。这可能涉及到调用外部资源,如睡眠相关的研究和建议,以及根据用户的具体情况制定个性化的计划。Reasoner模块的设计使其能够处理复杂的逻辑和推理,为用户提供最合适的建议。
在实际对话中,Talker和Reasoner模块的协同工作被证明是有效的。Talker模块能够流畅地与用户对话,而Reasoner模块则能够根据用户的反馈调整和优化辅导计划。这种分工执行使得AI Agent能够同时处理快速的对话和复杂的规划,极大提高了用户体验。
论文地址:https://arxiv.org/abs/2410.08328v1
好文章,需要你的鼓励
智谱AI率先推出了 AutoGLM,试图打造一款能够理解、规划、执行,并最终实现“无人驾驶”操作系统的 AI Agent。
该处理器采用16nm工艺技术设计,拥有 48 个ARM Cortex-A75内核,六通道DDR4 3200 MHz 内存 - 每插槽高达 768 GB(每通道 128 GB)
谷歌DeepMind研究人员则直接把这项技术集成到AI Agent中开发了Talker-Reasoner框架,让其具备“快”、“慢”两种拟人化思考方式。
数据密集型工作负载的激增,导致计算系统需要处理的数据量大幅增加。这种不断拓展的数据环境,迫切需要具备更大容量和更高带宽的