突发新闻:又一科技巨头加速其 AI 研发进程。这一次的主角是 Meta,据路透社报道,该公司正在测试其首款自研的 AI 训练芯片。此举旨在降低其庞大的基础设施成本,并减少对 NVIDIA 的依赖 (据说 NVIDIA 经常让扎克伯格说出"成人用语")。如果一切顺利,Meta 希望能在 2026 年将其用于训练。
据报道,Meta 已开始小规模部署这款专用加速器芯片,该芯片专门设计用于 AI 任务 (因此比通用型 NVIDIA GPU 更节能)。在完成首次"流片"后,公司随即开始部署。流片是硅芯片开发中的一个阶段,即将完整设计送去进行制造测试。
该芯片属于 Meta Training and Inference Accelerator (MTIA) 系列,这是该公司专注于生成式 AI、推荐系统和高级研究的自研芯片系列。
去年,该公司开始使用 MTIA 芯片进行推理,这是 AI 模型在后台进行的预测过程。Meta 已开始在 Facebook 和 Instagram 的新闻推送推荐系统中使用推理芯片。据路透社报道,该公司计划也开始使用训练芯片。两种芯片的长期计划据称是从推荐系统开始,最终用于像 Meta AI 聊天机器人这样的生成式产品。
在 2022 年订购了价值数十亿美元的 GPU 后,该公司成为 NVIDIA 最大的客户之一。这是 Meta 的一个转折点,此前该公司放弃了一款在小规模测试部署中失败的自研推理芯片——这与现在正在进行的训练芯片测试类似。
好文章,需要你的鼓励
新加坡国立大学研究团队开发了名为IEAP的图像编辑框架,它通过将复杂编辑指令分解为简单原子操作序列解决了当前AI图像编辑的核心难题。研究发现当前模型在处理不改变图像布局的简单编辑时表现出色,但在需要改变图像结构时效果差。IEAP框架定义了五种基本操作,并利用思维链推理技术智能分解用户指令,实验证明其性能显著超越现有方法,尤其在处理复杂多步骤编辑时。
Character AI的研究者开发出TalkingMachines系统,通过自回归扩散模型实现实时音频驱动视频生成。研究将预训练视频模型转变为能进行FaceTime风格对话的虚拟形象系统。核心创新包括:将18B参数的图像到视频DiT模型改造为音频驱动系统、通过蒸馏实现无错误累积的无限长视频生成、优化工程设计降低延迟。系统可让多种风格的虚拟角色与人进行自然对话,嘴型与语音同步,为实时数字人交互技术开辟了新可能。
这项由中国人民大学高瓴人工智能学院研究团队发表的研究解决了大语言模型评判中的自我偏好问题。研究提出了DBG分数,通过比较模型给自身回答的分数与黄金判断的差异来测量偏好度,有效分离了回答质量与自我偏好偏差。实验发现,预训练和后训练模型都存在自我偏好,但大模型比小模型偏好度更低;调整回答风格和使用相同数据训练不同模型可减轻偏好。研究还从注意力分析角度揭示了自我偏好的潜在机制,为提高AI评判客观性提供了重要指导。
这篇研究提出了DenseDPO,一种改进视频生成模型的新方法,通过三大创新解决了传统方法中的"静态偏好"问题:使用结构相似的视频对进行比较,采集细粒度的时序偏好标注,并利用现有视觉语言模型自动标注。实验表明,DenseDPO不仅保留了视频的动态性,还在视觉质量方面与传统方法相当,同时大大提高了数据效率。这项技术有望推动AI生成更加自然、动态的视频内容。