微软已升级Azure AI Speech服务,用户现在只需几秒钟的音频样本就能快速生成令人信服的语音复制品。
个人语音功能于2024年5月21日正式发布。虽然之前版本已经相当出色,但需要一定的训练才能获得最佳效果。据微软介绍,该功能已升级为名为"DragonV2.1Neural"的全新零样本文本转语音模型,能够生成"更自然、更富表现力的语音",并支持100多种语言的音频生成。
微软表示,与之前的模型相比,此次升级"在语音自然度方面带来了显著改进,提供更真实稳定的韵律,同时保持更好的发音准确性"。
这一原本就相当出色的系统现在变得更加准确,令人担忧。微软称:"这项能力开启了广泛的应用场景,从定制聊天机器人语音到用演员原声为视频内容进行多语言配音,实现真正沉浸式的个性化音频体验。"
然而,这项技术也可能被恶意或欺骗性目的所利用,我们可以想象使用该服务制作的音频深度伪造内容将变得越来越难以识别。
但不必担心——除了添加水印以便更容易识别生成的音频(尽管人耳无法听出),微软坚持表示"所有客户都必须同意我们的使用政策,包括要求获得原始说话者的明确同意、披露所创建内容的合成性质,以及禁止冒充任何人或使用个人语音服务欺骗他人"。
微软并非首家提供仅需几秒音频即可克隆用户语音服务的公司。今年早些时候,总部位于帕洛阿尔托的AI初创公司Zyphra推出了一对开源文本转语音模型,声称只需几秒钟的音频样本。在我们的测试中发现,大约需要30秒的语音样本才能创建出令人毛骨悚然的准确效果。
近年来,AI语音克隆已成为一个严重问题,因为技术发展速度超过了安全保障措施。今年3月,《消费者报告》指出四家提供AI语音克隆软件的公司未能提供有意义的安全保障,而FBI也警告称,诈骗者正在使用美国政府高级官员的深度伪造语音进行大规模欺诈活动。
Q&A
Q1:Azure AI Speech的个人语音功能有什么新升级?
A:微软将Azure AI Speech升级为"DragonV2.1Neural"零样本文本转语音模型,只需几秒钟音频样本就能生成更自然、更富表现力的语音复制品,支持100多种语言,在语音自然度、韵律稳定性和发音准确性方面都有显著改进。
Q2:AI语音克隆技术存在哪些安全风险?
A:AI语音克隆可能被用于恶意或欺骗目的,包括制作难以识别的音频深度伪造内容。FBI已经警告诈骗者正在使用深度伪造的政府官员语音进行大规模欺诈活动,这项技术的发展速度已经超过了安全保障措施。
Q3:微软采取了哪些措施来防止AI语音克隆被滥用?
A:微软要求所有客户同意使用政策,包括必须获得原始说话者的明确同意、披露内容的合成性质、禁止冒充他人或欺骗用户。此外,生成的音频还会添加水印以便识别,尽管人耳无法直接听出。
好文章,需要你的鼓励
很多人担心被AI取代,陷入无意义感。按照杨元庆的思路,其实无论是模型的打造者,还是模型的使用者,都不该把AI放在人的对立面。
MIT研究团队提出递归语言模型(RLM),通过将长文本存储在外部编程环境中,让AI能够编写代码来探索和分解文本,并递归调用自身处理子任务。该方法成功处理了比传统模型大两个数量级的文本长度,在多项长文本任务上显著优于现有方法,同时保持了相当的成本效率,为AI处理超长文本提供了全新解决方案。
谷歌宣布对Gmail进行重大升级,全面集成Gemini AI功能,将其转变为"个人主动式收件箱助手"。新功能包括AI收件箱视图,可按优先级自动分组邮件;"帮我快速了解"功能提供邮件活动摘要;扩展"帮我写邮件"工具至所有用户;支持复杂问题查询如"我的航班何时降落"。部分功能免费提供,高级功能需付费订阅。谷歌强调用户数据安全,邮件内容不会用于训练公共AI模型。
华为研究团队推出SWE-Lego框架,通过混合数据集、改进监督学习和测试时扩展三大创新,让8B参数AI模型在代码自动修复任务上击败32B对手。该系统在SWE-bench Verified测试中达到42.2%成功率,加上扩展技术后提升至49.6%,证明了精巧方法设计胜过简单规模扩展的技术理念。