Meta因强烈反对撤回Instagram深度伪造功能更新

在遭遇强烈抗议后，Meta迅速撤回了其Instagram最新AI更新中最具争议的部分。用户将不再能够轻易创建其他Instagram用户的深度伪造内容。

Meta于上周五在其公告博客的更新中写道："我们听到了反馈，认为这项功能未能达到预期效果，因此该功能已不再可用。"

上周，Meta为了证明其在生成式AI领域数十亿美元投入的价值，将最新的AI图像模型引入了Instagram平台。该更新新增了一项功能，允许用户"标记"任何公开的Instagram账号，并将这些真实用户纳入生成的照片级逼真AI图像中——这实质上就是在创建深度伪造内容。

Meta当时提供了两种退出选项，但许多用户对系统默认将所有人设置为"同意参与"的做法感到愤慨。代表演员群体、长期致力于保护艺术家肖像权不受AI公司侵害的工会SAG-AFTRA发表声明称："非自愿数字复制品的危险已广为人知，一项助长此类行为的功能是极不明智的。我们对该功能的下线表示赞赏，这是负责任的举措。"

随着AI图像和视频模型的持续演进，仅凭肉眼辨别内容真假变得愈发困难。不可见水印技术和更醒目的AI内容标注，是科技公司正在探索的两种帮助用户区分AI内容的方法。然而，在大量AI生成内容泛滥的环境下，辨别真伪依然是一大难题。而Instagram上仍在运行的图像创建与编辑AI工具，或许只会让这一问题进一步恶化。

Q&A

Q1：Meta为什么撤回Instagram的深度伪造功能？

A：Meta在推出允许用户用AI生成他人逼真图像的功能后，遭到了大量用户和机构的强烈反对。主要争议在于，该功能默认将所有用户设置为"同意参与"，而非让用户主动选择加入。演员工会SAG-AFTRA等机构批评这一做法助长了非自愿数字复制行为，Meta随后宣布下线该功能。

Q2：SAG-AFTRA对Meta的深度伪造功能持什么态度？

A：SAG-AFTRA明确反对该功能，并发表声明指出，非自愿数字复制品的危险已广为人知，鼓励此类行为的功能是极不明智的。该工会长期致力于保护艺术家的肖像权不受AI公司侵害，并对Meta最终下线该功能表示赞赏，认为这是负责任的做法。

Q3：目前有哪些方法可以帮助用户识别AI生成的内容？

A：目前科技公司主要采用两种方式帮助用户辨别AI内容：一是嵌入不可见的数字水印，二是为AI生成内容添加更醒目的标注说明。然而，随着AI图像和视频模型的快速发展，仅凭肉眼辨别真假内容愈发困难，在AI生成内容大量涌现的环境下，这些措施的效果依然有限。