在可能是 CES 历史上观众最多的主题演讲中,Nvidia CEO 黄仁勋在座无虚席的 Michelob Ultra 体育场发布了一系列令人目不暇接的新技术。从面向消费者的新款 GeForce RTX 50 系列游戏显卡,到基于公司最新 Blackwell GPU 技术的安全自动驾驶平台 Thor,以及更多产品。然而,一项名为 Cosmos 的新型 Nvidia 生成式 AI 技术,可能因其复杂性被一些人忽略,但在我看来,它是另一个重要亮点。我甚至敢说,如果 Cosmos 按照公司的设想发展,它可能成为推动 Nvidia 机器人和自动驾驶业务腾飞的助推器。
理解 Nvidia Cosmos 物理 AI
Nvidia 将 Cosmos 称为"加速物理 AI 开发的平台"。简单来说,物理 AI 可以理解为任何机器人背后的大脑,无论是设计用于最优化适应我们生活世界的人形机器人、工厂自动化机器人,还是为在道路上运载人类或各类货物而优化的自动驾驶汽车。然而,训练机器人 AI 需要大量的人力和资源投入,通常需要捕获、标注和分类数百万小时的真实环境中的人类互动,或者在全球实际道路上行驶数百万英里。
Nvidia Cosmos 旨在通过一系列称为"世界基础模型" (WFM) 的技术来部分解决这个资源问题。这些 AI 神经网络可以为虚拟环境的未来状态生成具有准确物理特性的视频 - 可以称之为多元宇宙。这听起来很深奥,但实际上相当直观。WFM 类似于大语言模型,但与用于自然语言识别、生成和翻译的 LLM 不同,WFM 利用文本、图像、视频内容和运动数据来生成模拟虚拟世界和虚拟世界互动,具有准确的空间感知、物理特性和物理交互,甚至物体永久性。例如,如果工厂里的螺栓从桌子上滚落,即使当前摄像机视角看不到,AI 模型也知道它仍然存在,可能只是掉在地板上。
跟上了吗?很好,因为接下来会更有趣。这种用于训练物理 AI 或机器人的新型合成数据生成方式需要基于真实数据才能准确。换句话说,输入错误的数据意味着模型会产生幻觉或在生成机器人 AI 训练数据时不可靠。这就是 Nvidia 几年前宣布的 Omniverse 平台发挥作用的地方。
Cosmos 与 Nvidia Omniverse 数字孪生集成
Nvidia 的 Omniverse 数字孪生操作系统允许来自任何行业的公司和开发者在一个环境中模拟产品、工厂、机器人、车辆等,该环境设计用于连接行业标准工具,从计算机辅助设计到动画等。实际上,Nvidia 在 CES 2025 上还发布了新的 Omniverse "蓝图",以帮助开发者模拟工厂和仓库的机器人车队 (称为 Mega)、自动驾驶模拟、用于大规模工业数字孪生的 Apple Vision Pro 头显空间流媒体,以及实时计算机辅助工程和物理可视化。公司还为 OpenUSD(通用场景描述)提供免费教程,这是支撑 Omniverse 并允许集成行业标准工具和内容的语言。Nvidia 宣布多个主要企业正在采用其 Omniverse 平台,从用于半导体 EDA 设计工具的 Cadence,到用于计算流体动力学的 Altair 和 Ansys 等。
回到 Cosmos,我们现在可以看到 Nvidia 在机器人物理 AI 方面的完整解决方案正在成形。Cosmos 模型从真实世界的数字化版本获取输入,然后生成 AI 训练内容。根据黄仁勋在主题演讲中透露,虽然 Cosmos 模型是通过训练 2000 万小时的视频数据开发的,但希望在自己的数字孪生和数据上训练物理或机器人 AI 的开发者可以在 Omniverse 中进行模拟,然后让 Cosmos 播放出这些机器人 AI 可以训练的各种合成现实。
Cosmos 会成为 Nvidia 的又一个 CUDA 时刻吗?
此时,我知道你在想什么。在模拟数据和模拟世界中训练机器人,会出什么问题?毫无疑问,这项技术仍处于初期阶段,但俗话说得好,万事开头难。机器学习虽然容易产生幻觉,需要有防护措施 (Nvidia 在这方面有完善的工具和政策),但其优势在于可以不断训练,直到确信达到正确结果。而且机器不需要睡觉或喝咖啡休息,更不用说它比手动在人类生成和分类的内容上训练 AI 效率高得多。
话说回来,多年前,当 Nvidia 首次发布其 CUDA 编程语言,引发了 GPU 加速器上机器学习的时代时,公司采取了类似约翰尼苹果籽的策略,向各行各业的开发者提供工具,最终使其成为数据中心 AI 工作负载加速的事实标准。对于 Cosmos,Nvidia 再次在其开放模型许可下免费向开发者提供这些生成式 AI 世界基础模型,可以在 Hugging Face 或公司自己的 NGC 目录库访问。这些模型也将很快作为优化的 Nvidia 推理微服务 (NIM) 提供,所有这些都将在其 DGX 数据中心 AI 平台上加速,并在 AI 边缘设备、机器人和自动驾驶车辆中使用其 AGX Drive Orin 和 Thor 汽车计算平台。或者,正如黄仁勋和公司所称的"Nvidia 机器人 3 计算解决方案"。
Nvidia 指出,物理 AI 领域的几个大牌玩家已经采用了 Cosmos,从人形机器人公司如 1X 和 XPENG,到用于通用机器人的 Hillbot 和 SkildAI,再到网约车巨头 Uber,后者正在将 Cosmos 与其海量驾驶数据集结合使用,帮助为自动驾驶行业构建 AI 模型。
将这称为 Nvidia 的另一个"CUDA 时刻"可能有点牵强,但这家 AI 领域的全球领导者刚刚为物理 AI 开发者推出了一些非常强大的新工具,而且是免费的。我个人认为这是黄仁勋和他的 AI 魔法师团队的又一个高明之举。我们将拭目以待 Cosmos 会将这个机器人 AI 多元宇宙带向何方,这将是一个令人着迷的过程。
好文章,需要你的鼓励
生成式AI的兴起让谷歌和Meta两大科技巨头受益匪浅。谷歌母公司Alphabet第三季度广告收入同比增长12%达742亿美元,云服务收入增长33%至151.5亿美元,季度总收入首次突破千亿美元大关。Meta第三季度收入512.5亿美元,同比增长26%。两家公司都将大幅增加AI基础设施投资,Meta预计2025年资本支出提升至700亿美元,Alphabet预计达910-930亿美元。
上海交通大学团队提出EPIC框架,通过渐进一致性蒸馏技术解决多模态AI的计算效率问题。该方法采用师生教学和分层压缩策略,让AI模型逐步适应视觉令牌压缩,在保留128个视觉令牌时仍达到完整模型准确率,同时计算量减少83.9%,为资源受限环境下的AI部署提供了实用解决方案。
谷歌DeepMind开发的多智能体AI系统通过让多个AI代理相互协作、讨论和辩论来解决复杂问题。该系统在医疗领域表现出色,能够在两天内完成人类十年的研究成果,包括发现新的药物重新定位候选物和治疗方案。AI临床医生"Amy"不仅能生成更好的诊断方案,还表现出比人类医生更强的同理心。这项技术有望在十年内实现零边际成本的全球医疗服务普及。
香港大学团队发明了一种"乐高式"机器人AI组合技术,能够将多个不同的AI模型巧妙组合,产生超越任何单个模型的性能。该技术通过数学方法证明了模型组合的有效性,并在真实机器人上验证成功。这种方法不需要重新训练,成本低廉,可兼容各种不同类型的AI模型,为构建更智能可靠的机器人系统提供了全新思路。