现实世界始终处于运动之中。为了实现自主运行,物理AI系统——包括机器人、自动驾驶汽车和智能空间——不仅需要理解它们所看到的内容以及导致这些现象发生的原因,还需要预测接下来可能发生什么。
在仓库中,机器人可能会遇到从未见过的物体配置。在道路上,自动驾驶汽车可能需要在行人从停放的车辆之间走出时做出反应。而在工厂里,安全系统必须预测叉车的行进方向,而不仅仅是检测到它的存在。
在现实世界中捕捉和重现这些场景既缓慢又昂贵,而且往往无法大规模重复。
NVIDIA Cosmos 3正是为此而生。这款全新的世界基础模型在今天于台北COMPUTEX举办的NVIDIA GTC大会上发布,它将视觉推理和多模态生成能力整合在单一模型中,涵盖文本、视频、图像、环境声音和动作,帮助开发者创建具有物理上下文的世界数据。
Q&A
Q1:NVIDIA Cosmos 3是什么?
A:NVIDIA Cosmos 3是一款世界基础模型,它将视觉推理和多模态生成能力整合在单一模型中,能够处理文本、视频、图像、环境声音和动作等多种模态,帮助开发者为物理AI系统创建具有物理上下文的世界数据。
Q2:物理AI系统为什么需要预测能力?
A:物理AI系统如机器人、自动驾驶汽车和智能空间需要在现实世界中自主运行。它们不仅要理解当前看到的内容和原因,还需要预测接下来可能发生的情况,以便做出正确的决策和反应,比如应对突然出现的行人或预测叉车的行进方向。
Q3:为什么在现实世界中训练物理AI系统很困难?
A:在现实世界中捕捉和重现训练场景既缓慢又昂贵,而且往往无法大规模重复。比如仓库中的特殊物体配置或道路上的突发情况,这些场景难以在真实环境中反复创建用于训练。
好文章,需要你的鼓励
美国最高法院以6比3的投票结果,裁定手机位置信息受第四修正案隐私权保护。法院认为,用户在使用谷歌等科技公司服务时,并非主动共享位置数据,因此执法机构在申请地理围栏搜查令时,必须证明存在"合理犯罪嫌疑"并获得法院批准。此裁决虽未完全禁止地理围栏搜查令,但对其使用范围加以限制,对美国执法实践及隐私保护具有深远影响。
南加州大学团队发现语音抑郁检测领域存在数据漏洞,并提出CLeaD跨语言对比对齐框架,揭示模型规模越大跨语言性能越差的反直觉规律。
佛罗里达州男子Angelo Martino以网络安全公司勒索软件谈判员身份为掩护,与黑客合谋部署BlackCat勒索软件攻击美国企业,被判处逾五年有期徒刑。美国司法部同时没收其逾1000万美元加密货币及资产。Martino与Kevin Martin、Ryan Goldberg三人于2023年联手实施多起攻击,其中一次成功勒索约120万美元后三人平分。BlackCat曾于2024年2月入侵医疗巨头Change Healthcare,导致逾1.92亿人敏感数据外泄。
KAIST等机构提出3D HAMSTER,通过为视觉语言模型加入深度编码器和几何重建损失,让机器人规划器直接输出三维轨迹,解决了分层机器人系统中规划与执行的维度不匹配问题,显著提升了操作鲁棒性。