微软已升级Azure AI Speech服务,用户现在只需几秒钟的音频样本就能快速生成令人信服的语音复制品。
个人语音功能于2024年5月21日正式发布。虽然之前版本已经相当出色,但需要一定的训练才能获得最佳效果。据微软介绍,该功能已升级为名为"DragonV2.1Neural"的全新零样本文本转语音模型,能够生成"更自然、更富表现力的语音",并支持100多种语言的音频生成。
微软表示,与之前的模型相比,此次升级"在语音自然度方面带来了显著改进,提供更真实稳定的韵律,同时保持更好的发音准确性"。
这一原本就相当出色的系统现在变得更加准确,令人担忧。微软称:"这项能力开启了广泛的应用场景,从定制聊天机器人语音到用演员原声为视频内容进行多语言配音,实现真正沉浸式的个性化音频体验。"
然而,这项技术也可能被恶意或欺骗性目的所利用,我们可以想象使用该服务制作的音频深度伪造内容将变得越来越难以识别。
但不必担心——除了添加水印以便更容易识别生成的音频(尽管人耳无法听出),微软坚持表示"所有客户都必须同意我们的使用政策,包括要求获得原始说话者的明确同意、披露所创建内容的合成性质,以及禁止冒充任何人或使用个人语音服务欺骗他人"。
微软并非首家提供仅需几秒音频即可克隆用户语音服务的公司。今年早些时候,总部位于帕洛阿尔托的AI初创公司Zyphra推出了一对开源文本转语音模型,声称只需几秒钟的音频样本。在我们的测试中发现,大约需要30秒的语音样本才能创建出令人毛骨悚然的准确效果。
近年来,AI语音克隆已成为一个严重问题,因为技术发展速度超过了安全保障措施。今年3月,《消费者报告》指出四家提供AI语音克隆软件的公司未能提供有意义的安全保障,而FBI也警告称,诈骗者正在使用美国政府高级官员的深度伪造语音进行大规模欺诈活动。
Q&A
Q1:Azure AI Speech的个人语音功能有什么新升级?
A:微软将Azure AI Speech升级为"DragonV2.1Neural"零样本文本转语音模型,只需几秒钟音频样本就能生成更自然、更富表现力的语音复制品,支持100多种语言,在语音自然度、韵律稳定性和发音准确性方面都有显著改进。
Q2:AI语音克隆技术存在哪些安全风险?
A:AI语音克隆可能被用于恶意或欺骗目的,包括制作难以识别的音频深度伪造内容。FBI已经警告诈骗者正在使用深度伪造的政府官员语音进行大规模欺诈活动,这项技术的发展速度已经超过了安全保障措施。
Q3:微软采取了哪些措施来防止AI语音克隆被滥用?
A:微软要求所有客户同意使用政策,包括必须获得原始说话者的明确同意、披露内容的合成性质、禁止冒充他人或欺骗用户。此外,生成的音频还会添加水印以便识别,尽管人耳无法直接听出。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。