随着AI图像和视频生成公司Runway加入越来越多的初创公司和大型科技公司行列,推出其首个世界模型,世界模型发布竞赛正式拉开帷幕。该公司表示,这个名为GWM-1的模型通过逐帧预测工作,创建具有物理理解能力的仿真,并且了解世界如何随时间实际运行。
世界模型是一种AI系统,它学习世界运行方式的内部仿真,因此可以进行推理、规划和行动,而无需针对现实生活中每种可能的场景进行训练。
本月早些时候,Runway推出了Gen 4.5视频模型,在Video Arena排行榜上超越了谷歌和OpenAI。该公司表示,其GWM-1世界模型比谷歌的Genie-3和其他竞争对手更"通用"。该公司将其定位为一个可以创建仿真来训练不同领域智能体的模型,如机器人技术和生命科学。
该公司首席技术官Anastasis Germanidis在直播中说:"要构建世界模型,我们首先需要构建一个真正出色的视频模型。我们相信构建世界模型的正确路径是教会模型直接预测像素,这是实现通用仿真的最佳方式。在足够的规模和正确的数据下,你可以构建一个对世界运行方式有充分理解的模型。"
Runway发布了新世界模型的特定版本,称为GWM-Worlds、GWM-Robotics和GWM-Avatars。
GWM-Worlds是该模型的一个应用程序,让用户创建交互式项目。用户可以通过提示或图像参考设置场景,当您探索空间时,模型会生成具有几何、物理和光照理解的世界。该公司提到仿真以24fps和720p分辨率运行。Runway表示,虽然Worlds对游戏很有用,但它也非常适合教授智能体如何在物理世界中导航和行为。
通过GWM-Robotics,该公司旨在使用合成数据,并添加新参数如变化的天气条件或障碍物。Runway表示,这种方法还可以揭示机器人在不同场景下何时以及如何违反政策和指令。
Runway还在GWM-Avatars下构建逼真的虚拟形象来模拟人类行为。D-ID、Synthesia、Soul Machines甚至谷歌等公司都致力于创建看起来真实的人类虚拟形象,并在通信和培训等领域工作。
该公司指出,从技术上讲,Worlds、Robotics和Avatars是独立的模型,但最终计划将所有这些合并为一个模型。
除了发布新的世界模型外,该公司还在更新本月早些时候发布的基础Gen 4.5模型。新更新为模型带来了原生音频和长篇多镜头生成功能。该公司表示,使用这个模型,用户可以生成一分钟的视频,具有角色一致性、原生对话、背景音频和各种角度的复杂镜头。该公司说,您还可以编辑现有音频和添加对话。此外,您可以编辑任意长度的多镜头视频。
Gen 4.5更新使Runway更接近竞争对手Kling的一体化视频套件,后者也在本月早些时候推出,特别是在原生音频和多镜头叙事方面。这也表明视频生成模型正在从原型转向生产就绪工具。Runway更新的Gen 4.5模型对所有付费计划用户可用。
该公司表示将通过SDK提供GWM-Robotics。它补充说,正在与多家机器人公司和企业就GWM-Robotics和GWM-Avatars的使用进行积极对话。
Q&A
Q1:GWM-1世界模型是什么?它有什么特殊功能?
A:GWM-1是Runway发布的首个世界模型,通过逐帧预测工作,能够创建具有物理理解能力的仿真,了解世界如何随时间实际运行。它比谷歌的Genie-3等竞争对手更"通用",可以创建仿真来训练机器人技术和生命科学等不同领域的智能体。
Q2:GWM-Worlds应用程序能做什么?
A:GWM-Worlds让用户创建交互式项目,可以通过提示或图像参考设置场景。当用户探索空间时,模型会生成具有几何、物理和光照理解的世界,仿真以24fps和720p分辨率运行,适合游戏开发和教授智能体在物理世界中的导航行为。
Q3:Runway Gen 4.5模型更新增加了哪些新功能?
A:更新后的Gen 4.5模型增加了原生音频和长篇多镜头生成功能,用户可以生成一分钟的视频,具有角色一致性、原生对话、背景音频和各种角度的复杂镜头。还可以编辑现有音频、添加对话,以及编辑任意长度的多镜头视频。
好文章,需要你的鼓励
研究人员基于Meta前首席AI科学家Yann LeCun提出的联合嵌入预测架构,开发了名为JETS的自监督时间序列基础模型。该模型能够处理不规则的可穿戴设备数据,通过学习预测缺失数据的含义而非数据本身,成功检测多种疾病。在高血压检测中AUROC达86.8%,心房扑动检测达70.5%。研究显示即使只有15%的参与者有标注医疗记录,该模型仍能有效利用85%的未标注数据进行训练,为利用不完整健康数据提供了新思路。
西湖大学等机构联合发布TwinFlow技术,通过创新的"双轨道"设计实现AI图像生成的革命性突破。该技术让原本需要40-100步的图像生成过程缩短到仅需1步,速度提升100倍且质量几乎无损。TwinFlow采用自我对抗机制,无需额外辅助模型,成功应用于200亿参数超大模型,在GenEval等标准测试中表现卓越,为实时AI图像生成应用开辟了广阔前景。
AI云基础设施提供商Coreweave今年经历了起伏。3月份IPO未达预期,10月收购Core Scientific计划因股东反对而搁浅。CEO Michael Intrator为公司表现辩护,称正在创建云计算新商业模式。面对股价波动和高负债质疑,他表示这是颠覆性创新的必然过程。公司从加密货币挖矿转型为AI基础设施提供商,与微软、OpenAI等巨头合作。对于AI行业循环投资批评,Intrator认为这是应对供需剧变的合作方式。
中山大学等机构联合开发的RealGen框架成功解决了AI生成图像的"塑料感"问题。该技术通过"探测器奖励"机制,让AI在躲避图像检测器识别的过程中学会制作更逼真照片。实验显示,RealGen在逼真度评测中大幅领先现有模型,在与真实照片对比中胜率接近50%,为AI图像生成技术带来重要突破。