YouTube推出面部识别检测系统阻止AI深度伪造视频

AI内容在过去几年中在互联网上大量涌现，但那些早期手部变异的拙劣合成已经演变成难以与现实区分的合成图像和视频。作为这一问题的推动者之一，谷歌有责任在YouTube上控制AI视频。为此，该公司已开始推出其承诺的创作者相似度检测系统。

谷歌强大且免费提供的AI模型助长了AI内容的兴起，其中一些旨在传播虚假信息和骚扰个人。创作者和网红担心他们的品牌可能会被大量AI视频所玷污，这些视频显示他们说话和做从未发生过的事情——甚至立法者也对此感到担忧。谷歌在AI内容的价值上下了很大赌注，因此许多人想要的从YouTube禁止AI内容根本不会发生。

今年早些时候，YouTube承诺提供工具来标记平台上的面部盗用AI内容。相似度检测工具类似于网站的版权检测系统，现在已经从最初的小组测试者扩展开来。YouTube表示已通知第一批符合条件的创作者可以使用相似度检测，但感兴趣的用户需要向谷歌提供更多个人信息才能获得AI深度伪造的保护。

目前，相似度检测是有限测试中的测试版功能，因此并非所有创作者都会在YouTube工作室中看到它作为选项。当它出现时，将隐藏在现有的"内容检测"菜单中。在YouTube的演示视频中，设置流程似乎假设频道只有一个需要保护相似度的主持人。该人员必须验证其身份，这需要政府身份证照片和面部视频。目前尚不清楚为什么YouTube需要这些数据，因为人们已经发布了带有容易被盗用面孔的视频，但规则就是规则。

无保证承诺

注册后，YouTube将标记来自其他频道中似乎有用户面孔的视频。YouTube的算法无法确定什么是AI视频，什么不是。因此，一些面部匹配结果可能是来自在合理使用准则下使用短片段的频道的误报。

如果创作者确实发现AI深度伪造，他们可以添加一些详细信息并在几分钟内提交报告。如果视频包含从创作者频道复制且不符合合理使用准则的内容，YouTube建议还要提交版权删除请求。然而，仅仅因为某人的相似度出现在AI视频中并不一定意味着YouTube会删除它。

YouTube发布了审核员在决定是否批准删除请求时会考虑的因素概要。例如，标记为AI的恶搞内容或具有不现实风格的视频可能不符合删除门槛。另一方面，您可以安全地假设显示某人支持产品或从事非法活动的逼真AI视频将违反规则并从YouTube上删除。

虽然这可能是创作者现在面临的新兴问题，但YouTube上的AI内容可能很快就会加速发展。谷歌最近推出了新的Veo 3.1视频模型，支持肖像和横向AI视频。该公司此前承诺将Veo与YouTube集成，使人们更容易制作可能包含真实人物描述的AI内容。

谷歌的竞争对手OpenAI通过其Sora AI视频应用程序和支持它的新Sora 2模型获得了成功（至少在受欢迎程度方面）。这可能推动谷歌加速其YouTube的AI计划，但正如我们在Sora中看到的那样，人们喜欢让公众人物做奇怪的事情。受欢迎的创作者可能必须开始像定期提交DMCA撤下请求一样定期提交AI相似度投诉。

Q&A

Q1：YouTube的相似度检测系统是什么？

A：YouTube的相似度检测系统是一个类似于版权检测系统的工具，用于标记平台上使用创作者面部相似度的AI视频。创作者需要通过提供政府身份证照片和面部视频来验证身份，然后系统会自动标记其他频道中出现其面孔的视频。

Q2：YouTube会自动删除所有包含他人面孔的AI视频吗？

A：不会。YouTube的算法只能标记可能包含相似面孔的视频，但不能确定什么是AI视频。审核员会根据多个因素决定是否删除，比如标记为AI的恶搞内容可能不会被删除，但显示某人支持产品或从事非法活动的逼真AI视频会被删除。

Q3：创作者如何使用YouTube的相似度检测功能？

A：目前该功能还在有限测试阶段，只有被通知的符合条件的创作者可以在YouTube工作室的"内容检测"菜单中找到它。创作者需要验证身份后，如果发现AI深度伪造视频，可以添加详细信息并提交报告，整个过程只需几分钟。