尽管我们有时称Gemini和ChatGPT等聊天机器人为"机器人",但生成式AI正在真正的物理机器人中发挥越来越重要的作用。继今年早些时候发布Gemini Robotics后,谷歌DeepMind现在推出了一款新的设备端VLA(视觉语言动作)模型来控制机器人。与之前的版本不同,这个版本不依赖云端组件,让机器人能够完全自主运行。
谷歌DeepMind机器人部门负责人Carolina Parada表示,这种AI机器人方法可以让机器人在复杂环境中更加可靠。这也是谷歌机器人模型的首个版本,开发者可以根据特定用途对其进行调优。
机器人技术对AI来说是一个独特的挑战,因为机器人不仅存在于物理世界中,还会改变其环境。无论是让机器人移动积木还是系鞋带,都很难预测机器人可能遇到的每种情况。传统的通过强化学习训练机器人动作的方法非常缓慢,但生成式AI允许更大程度的泛化。
"它利用Gemini的多模态世界理解能力来完成全新的任务,"Carolina Parada解释道。"这使得Gemini不仅能够生成文本、写诗、总结文章,还能编写代码、生成图像,同样也能生成机器人动作。"
通用机器人,无需云端支持
在之前的Gemini Robotics版本中(这仍然是谷歌机器人技术的"最佳"版本),平台运行混合系统,机器人上有一个小模型,云端运行一个更大的模型。你可能看过聊天机器人在生成输出时"思考"几秒钟,但机器人需要快速反应。如果你告诉机器人拾取并移动物体,你不希望它在生成每个步骤时暂停。本地模型允许快速适应,而基于服务器的模型可以帮助处理复杂的推理任务。谷歌DeepMind现在将本地模型作为独立的VLA发布,它的表现出人意料地强大。
新的Gemini Robotics设备端模型的准确性仅略低于混合版本。据Parada介绍,许多任务可以直接使用。"当我们与机器人互动时,发现它们在理解新情况方面能力惊人,"Parada告诉Ars。
通过发布带有完整SDK的模型,团队希望开发者能为Gemini驱动的机器人提供新任务并展示新环境,这可能会揭示模型标准调优无法处理的动作。使用SDK,机器人研究人员能够仅用50到100次演示就让VLA适应新任务。
在AI机器人技术中,"演示"与其他AI研究领域有所不同。Parada解释说,演示通常涉及远程操作机器人——手动控制机械设备完成任务来调优模型,使其能够自主处理该任务。虽然合成数据是谷歌训练的一个要素,但它不能替代真实数据。"我们仍然发现,对于最复杂、最精细的行为,我们需要真实数据,"Parada说。"但通过仿真可以做很多事情。"
然而,这些高度复杂的行为可能超出了设备端VLA的能力范围。它应该能够毫无问题地处理简单动作,如系鞋带(这对AI机器人来说传统上是一项困难任务)或折叠衬衫。但是,如果你想让机器人为你制作三明治,它可能需要更强大的模型来进行必要的多步推理,将面包放在正确的位置。
团队认为Gemini Robotics设备端版本非常适合云连接不稳定或不存在的环境。在本地处理机器人的视觉数据对隐私保护也更有利,例如在医疗环境中。
构建安全机器人
无论是提供危险信息的聊天机器人还是像终结者一样的机器人,AI系统的安全性始终是一个关注点。我们都见过生成式AI聊天机器人和图像生成器在输出中产生虚假信息,驱动Gemini Robotics的生成系统也不例外——模型不是每次都能做对,但给模型一个带有冰冷金属抓手的物理实体让问题变得更加棘手。
为确保机器人行为安全,Gemini Robotics采用多层方法。"通过完整的Gemini Robotics,你连接到一个能够推理什么是安全行为的模型,"Parada说。"然后让它与实际产生选项的VLA对话,接着VLA调用低级控制器,后者通常具有安全关键组件,比如可以施加多大力量或手臂可以多快移动。"
重要的是,新的设备端模型只是一个VLA,所以开发者需要自己构建安全机制。不过,谷歌建议他们复制Gemini团队的做法。建议早期测试程序中的开发者将系统连接到标准的Gemini Live API,其中包含安全层。他们还应该实施低级控制器进行关键安全检查。
任何有兴趣测试Gemini Robotics设备端版本的人都应申请加入谷歌的可信测试程序。谷歌的Carolina Parada表示,过去三年中机器人技术取得了许多突破,这只是开始——当前发布的Gemini Robotics仍基于Gemini 2.0。Parada指出,Gemini Robotics团队通常比Gemini开发落后一个版本,而Gemini 2.5被认为在聊天机器人功能方面有了巨大改进。也许机器人也会如此。
好文章,需要你的鼓励
Anthropic推出首个行业定制版AI产品Claude for Financial Services,专为金融行业打造。该服务基于Claude企业版,提供更高使用限制、内置数据连接器以及提示词库。新版本预装了连接FactSet、PitchBook等金融数据提供商的MCP连接器,并包含实施支持。针对金融分析师工作负载大的特点,该服务显著提升了速率限制,同时提供提示词库帮助用户更好地构建查询。
Skywork AI推出的第二代多模态推理模型R1V2,通过创新的混合强化学习方法,成功解决了AI"慢思考"策略在视觉推理中的挑战。该模型在保持强大推理能力的同时有效控制视觉幻觉,在多项权威测试中超越同类开源模型,某些指标甚至媲美商业产品,为开源AI发展树立了新标杆。
多年来,Cursor、Windsurf和GitHub Copilot等代码编辑工具一直是AI编程的标准。但随着代理AI能力增强,AI系统正从处理代码转向直接与系统终端交互。Anthropic、DeepMind和OpenAI都推出了命令行编程工具。终端工具采用更广阔视角,不仅关注代码,还涉及整个程序运行环境,包括DevOps任务。研究显示传统代码助手可能降低效率,而Warp等终端工具在TerminalBench基准测试中表现出色,能够自主处理开发者的非编码工作。
这项由北京大学等多所高校联合完成的研究,首次对OpenAI GPT-4o的图像生成能力进行了全面评估。研究团队设计了名为GPT-ImgEval的综合测试体系,从文本转图像、图像编辑和知识驱动创作三个维度评估GPT-4o,发现其在所有测试中都显著超越现有方法。研究还通过技术分析推断GPT-4o采用了自回归与扩散相结合的混合架构,并发现其生成图像仍可被现有检测工具有效识别,为AI图像生成领域提供了重要的评估基准和技术洞察。