AI初创公司 Stability AI 推出了 Stable Audio Open Small,一款“立体声”音频生成 AI 模型。公司宣称该模型是市场上速度最快的,同时高效到足以在智能手机上运行。
Stable Audio Open Small 是 Stability AI 与处理器制造商 Arm 合作的结晶。Arm 生产许多平板、手机及其他移动设备内的处理器。虽然已有不少利用 AI 技术生成音频的应用(如 Suno 和 Udio),但大多数依赖云端处理,这意味着它们无法离线使用。
Stability 同时宣称,Stable Audio Open Small 的训练数据集完全由免版权音频库 Free Music Archive 和 Freesound 中的歌曲构成。这与前述 Suno 和 Udio 的训练数据集形成了对比,后者据称包含受版权保护的内容,从而带来知识产权风险。
Stable Audio Open Small 拥有 341 百万个参数,并经过针对 Arm CPU 的优化。(参数,有时也称作“权重”,是指导模型行为的内部组件。)该模型专为快速生成短音频样本和音效(例如,鼓点及乐器即兴旋律)而设计。Stability AI 表示,它可以在智能手机上于不到 8 秒内生成多达 11 秒的音频。
该模型并非没有局限性。Stable Audio Open Small 目前仅支持英文提示,并且 Stability 在其文档中指出,该模型无法生成逼真的人声或高质量的歌曲。Stability 警告称,模型在不同音乐风格上的表现也存在差异,这主要是由于训练数据偏向西方音乐所致。
对于开发者而言,另一个潜在问题在于 Stable Audio Open Small 的使用条款较为严格。研究人员、爱好者以及年收入不足 100 万美元的企业可以免费使用,但开发者和年收入超过 100 万美元的组织则必须支付 Stability 的企业许可费用。
作为背后支持的公司,Stability 以其热门图像生成模型 Stable Diffusion 闻名。去年,在包括 Eric Schmidt 和 Napster 创始人 Sean Parker 在内的投资者试图扭转局面时,Stability 获得了新一轮资金。据称,该公司联合创始人及前 CEO Emad Mostaque 管理不善,导致公司陷入财务困境、员工纷纷辞职、与 Canva 的合作流产,以及投资者对公司前景日益担忧。
在过去几个月中,Stability 已聘请新 CEO,并邀请电影制片人 James Cameron 加入董事会,同时发布了数款全新的图像生成模型。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。