微软已升级Azure AI Speech服务,用户现在只需几秒钟的音频样本就能快速生成令人信服的语音复制品。
个人语音功能于2024年5月21日正式发布。虽然之前版本已经相当出色,但需要一定的训练才能获得最佳效果。据微软介绍,该功能已升级为名为"DragonV2.1Neural"的全新零样本文本转语音模型,能够生成"更自然、更富表现力的语音",并支持100多种语言的音频生成。
微软表示,与之前的模型相比,此次升级"在语音自然度方面带来了显著改进,提供更真实稳定的韵律,同时保持更好的发音准确性"。
这一原本就相当出色的系统现在变得更加准确,令人担忧。微软称:"这项能力开启了广泛的应用场景,从定制聊天机器人语音到用演员原声为视频内容进行多语言配音,实现真正沉浸式的个性化音频体验。"
然而,这项技术也可能被恶意或欺骗性目的所利用,我们可以想象使用该服务制作的音频深度伪造内容将变得越来越难以识别。
但不必担心——除了添加水印以便更容易识别生成的音频(尽管人耳无法听出),微软坚持表示"所有客户都必须同意我们的使用政策,包括要求获得原始说话者的明确同意、披露所创建内容的合成性质,以及禁止冒充任何人或使用个人语音服务欺骗他人"。
微软并非首家提供仅需几秒音频即可克隆用户语音服务的公司。今年早些时候,总部位于帕洛阿尔托的AI初创公司Zyphra推出了一对开源文本转语音模型,声称只需几秒钟的音频样本。在我们的测试中发现,大约需要30秒的语音样本才能创建出令人毛骨悚然的准确效果。
近年来,AI语音克隆已成为一个严重问题,因为技术发展速度超过了安全保障措施。今年3月,《消费者报告》指出四家提供AI语音克隆软件的公司未能提供有意义的安全保障,而FBI也警告称,诈骗者正在使用美国政府高级官员的深度伪造语音进行大规模欺诈活动。
Q&A
Q1:Azure AI Speech的个人语音功能有什么新升级?
A:微软将Azure AI Speech升级为"DragonV2.1Neural"零样本文本转语音模型,只需几秒钟音频样本就能生成更自然、更富表现力的语音复制品,支持100多种语言,在语音自然度、韵律稳定性和发音准确性方面都有显著改进。
Q2:AI语音克隆技术存在哪些安全风险?
A:AI语音克隆可能被用于恶意或欺骗目的,包括制作难以识别的音频深度伪造内容。FBI已经警告诈骗者正在使用深度伪造的政府官员语音进行大规模欺诈活动,这项技术的发展速度已经超过了安全保障措施。
Q3:微软采取了哪些措施来防止AI语音克隆被滥用?
A:微软要求所有客户同意使用政策,包括必须获得原始说话者的明确同意、披露内容的合成性质、禁止冒充他人或欺骗用户。此外,生成的音频还会添加水印以便识别,尽管人耳无法直接听出。
好文章,需要你的鼓励
数据分析平台公司Databricks完成10亿美元K轮融资,公司估值超过1000亿美元,累计融资总额超过200亿美元。公司第二季度收入运营率达到40亿美元,同比增长50%,AI产品收入运营率超过10亿美元。超过650家客户年消费超过100万美元,净收入留存率超过140%。资金将用于扩展Agent Bricks和Lakebase业务及全球扩张。
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。
医疗信息管理平台Predoc宣布获得3000万美元新融资,用于扩大运营规模并在肿瘤科、研究网络和虚拟医疗提供商中推广应用。该公司成立于2022年,利用人工智能技术提供端到端平台服务,自动化病历检索并整合为可操作的临床洞察。平台可实现病历检索速度提升75%,临床审查时间减少70%,旨在增强而非替代临床判断。
上海AI实验室发布OmniAlign-V研究,首次系统性解决多模态大语言模型人性化对话问题。该研究创建了包含20万高质量样本的训练数据集和MM-AlignBench评测基准,通过创新的数据生成和质量管控方法,让AI在保持技术能力的同时显著提升人性化交互水平,为AI价值观对齐提供了可行技术路径。