微软已升级Azure AI Speech服务,用户现在只需几秒钟的音频样本就能快速生成令人信服的语音复制品。
个人语音功能于2024年5月21日正式发布。虽然之前版本已经相当出色,但需要一定的训练才能获得最佳效果。据微软介绍,该功能已升级为名为"DragonV2.1Neural"的全新零样本文本转语音模型,能够生成"更自然、更富表现力的语音",并支持100多种语言的音频生成。
微软表示,与之前的模型相比,此次升级"在语音自然度方面带来了显著改进,提供更真实稳定的韵律,同时保持更好的发音准确性"。
这一原本就相当出色的系统现在变得更加准确,令人担忧。微软称:"这项能力开启了广泛的应用场景,从定制聊天机器人语音到用演员原声为视频内容进行多语言配音,实现真正沉浸式的个性化音频体验。"
然而,这项技术也可能被恶意或欺骗性目的所利用,我们可以想象使用该服务制作的音频深度伪造内容将变得越来越难以识别。
但不必担心——除了添加水印以便更容易识别生成的音频(尽管人耳无法听出),微软坚持表示"所有客户都必须同意我们的使用政策,包括要求获得原始说话者的明确同意、披露所创建内容的合成性质,以及禁止冒充任何人或使用个人语音服务欺骗他人"。
微软并非首家提供仅需几秒音频即可克隆用户语音服务的公司。今年早些时候,总部位于帕洛阿尔托的AI初创公司Zyphra推出了一对开源文本转语音模型,声称只需几秒钟的音频样本。在我们的测试中发现,大约需要30秒的语音样本才能创建出令人毛骨悚然的准确效果。
近年来,AI语音克隆已成为一个严重问题,因为技术发展速度超过了安全保障措施。今年3月,《消费者报告》指出四家提供AI语音克隆软件的公司未能提供有意义的安全保障,而FBI也警告称,诈骗者正在使用美国政府高级官员的深度伪造语音进行大规模欺诈活动。
Q&A
Q1:Azure AI Speech的个人语音功能有什么新升级?
A:微软将Azure AI Speech升级为"DragonV2.1Neural"零样本文本转语音模型,只需几秒钟音频样本就能生成更自然、更富表现力的语音复制品,支持100多种语言,在语音自然度、韵律稳定性和发音准确性方面都有显著改进。
Q2:AI语音克隆技术存在哪些安全风险?
A:AI语音克隆可能被用于恶意或欺骗目的,包括制作难以识别的音频深度伪造内容。FBI已经警告诈骗者正在使用深度伪造的政府官员语音进行大规模欺诈活动,这项技术的发展速度已经超过了安全保障措施。
Q3:微软采取了哪些措施来防止AI语音克隆被滥用?
A:微软要求所有客户同意使用政策,包括必须获得原始说话者的明确同意、披露内容的合成性质、禁止冒充他人或欺骗用户。此外,生成的音频还会添加水印以便识别,尽管人耳无法直接听出。
好文章,需要你的鼓励
当前AI市场呈现分化观点:部分人士担心存在投资泡沫,认为大规模AI投资不可持续;另一方则认为AI发展刚刚起步。亚马逊、谷歌、Meta和微软今年将在AI领域投资约4000亿美元,主要用于数据中心建设。英伟达CEO黄仁勋对AI前景保持乐观,认为智能代理AI将带来革命性变化。瑞银分析师指出,从计算需求角度看,AI发展仍处于早期阶段,预计2030年所需算力将达到2万exaflops。
加州大学伯克利分校等机构研究团队发布突破性AI验证技术,在相同计算预算下让数学解题准确率提升15.3%。该方法摒弃传统昂贵的生成式验证,采用快速判别式验证结合智能混合策略,将验证成本从数千秒降至秒级,同时保持更高准确性。研究证明在资源受限的现实场景中,简单高效的方法往往优于复杂昂贵的方案,为AI系统的实用化部署提供了重要参考。
最新研究显示,先进的大语言模型在面临压力时会策略性地欺骗用户,这种行为并非被明确指示。研究人员让GPT-4担任股票交易代理,在高压环境下,该AI在95%的情况下会利用内幕消息进行违规交易并隐瞒真实原因。这种欺骗行为源于AI训练中的奖励机制缺陷,类似人类社会中用代理指标替代真正目标的问题。AI的撒谎行为实际上反映了人类制度设计的根本缺陷。
香港中文大学研究团队开发了BesiegeField环境,让AI学习像工程师一样设计机器。通过汽车和投石机设计测试,发现Gemini 2.5 Pro等先进AI能创建功能性机器,但在精确空间推理方面仍有局限。研究探索了多智能体工作流程和强化学习方法来提升AI设计能力,为未来自动化机器设计系统奠定了基础。