Meta推出AI图像工具Muse Image,公开账号需注意隐私风险

Meta发布全新AI图像模型Muse Image,支持生成和编辑图像,已登陆Meta AI应用、Instagram和WhatsApp。该模型可处理复杂请求、创建合成照片并编辑现有图像。值得注意的是,公开Instagram账户的用户面临被他人"深度伪造"的风险——任何人只需在提示词中标注用户名,即可在一分钟内生成逼真的AI合成图像。用户可前往Instagram设置关闭内容复用权限以降低风险。

Meta发布了一款新的AI图像生成与编辑模型。是的,它可以直接在Instagram上使用。但如果你拥有公开账号,现在就需要调整隐私设置,以免在不知情的情况下成为他人AI创作的对象。

这款模型名为Muse Image,是Meta超级智能实验室旗下Muse Spark系列模型中首个面向创意领域的产品。Meta在一篇博客文章中表示,该模型能够处理更复杂的请求、创建合成照片以及编辑现有图像。目前已可在Meta AI应用、Instagram和WhatsApp上使用,未来还计划扩展至Facebook、Messenger以及广告主业务。

Meta首席执行官马克·扎克伯格在本周二通过自己的Instagram账号展示了新模型的能力,包括该模型为Instagram Stories提供支持的30种全新AI编辑特效——涵盖多个扎克伯格"克隆体"的图像、与AI负责人王晓冠合拍的360度全景画面,以及与Meta首席技术官安德鲁·博斯沃思合拍的曝光人像模式。

用AI将用户和朋友置入创意场景并非Meta的首创。2024年,OpenAI推出视频应用Sora时也曾以此作为卖点,但该产品最终遭遇失利,并因轻松生成深度伪造内容而招致普通用户和名人的强烈批评。Meta这款新模型同样面临类似风险。

暂且不论这款新模型可能加剧Instagram上的AI垃圾内容泛滥问题,也不论用户上传至Meta AI应用的图片会被用于改进Meta服务这一事实,有一个重要细节是所有拥有公开Instagram账号的用户都必须了解的:如果你年满18岁且账号为公开状态,任何拥有Meta AI账号的用户都可以在AI图像生成提示中"标记"你,从而生成包含你本人肖像的高度逼真AI图像——也就是通常所说的深度伪造内容(Deepfake)。

如何防止自己成为Deepfake的对象

记者亲身测试了这款新模型,以评估生成Deepfake内容究竟有多容易。CNET的同事阿布拉尔·阿尔-赫提拥有一个公开Instagram账号,记者仅用不到一分钟的时间,通过在提示词中输入她的Instagram用户名,就成功生成了一张她扮成海盗的AI图像。当记者以同样方式尝试标记自己的私密Instagram账号时,Meta AI则无法完成请求。

Meta向CNET确认,拥有公开Instagram账号的创作者可以通过一个设置开关,阻止他人使用自己的肖像生成AI内容。操作路径为:进入Instagram"设置"→"分享与再利用"→关闭"允许他人在Instagram及Meta AI功能中再利用你的内容"。该控制项可分别针对帖子和Reels视频进行调整。私密账号则默认不允许任何人使用其内容进行混剪或创作。(测试结束后,阿尔-赫提已关闭了该权限。)

此外,当你在Meta AI应用中首次将自己标记进图像请求时,系统也会引导你完成一些步骤,帮助应用识别你的身份。这包括拍摄一张你的面部照片,以及可选上传三张本人照片。在此过程中,你可以选择允许谁使用你的肖像,选项包括仅限本人、你批准的粉丝、互相关注的用户或所有人。你可以在应用中通过"设置"→"你的肖像"来调整这些选项。

这些控制功能对于职业创作者和网红来说尤为重要,因为他们的姓名和肖像就是品牌资产,也是谋生的核心。Meta表示,其模型内置了保护机制,旨在防止生成违法、滥用或诽谤性内容。但正如我们在Sora事件中所见,有动机的恶意行为者仍有可能绕过模型的安全防护。Meta的防线能否经受住考验,还需时间检验。

Q&A

Q1:Muse Image模型目前在哪些平台上可以使用?

A:目前Muse Image已上线Meta AI应用、Instagram和WhatsApp,用户可以在这些平台上使用该模型生成和编辑AI图像。Meta还计划未来将其扩展至Facebook、Messenger以及广告主业务,但具体时间尚未公布。

Q2:Instagram公开账号用户该如何防止自己的肖像被用于生成Deepfake内容?

A:拥有公开Instagram账号的用户,可进入Instagram"设置"→"分享与再利用",关闭"允许他人在Instagram及Meta AI功能中再利用你的内容"选项,即可阻止他人用你的肖像生成AI图像。私密账号则默认受到保护,无需额外操作。

Q3:Meta AI应用中的肖像权限设置有哪些选项?

A:在Meta AI应用中,用户首次标记自己时需完成人脸拍摄等验证步骤。完成后可在"设置"→"你的肖像"中选择允许谁使用你的肖像,选项包括仅限本人、你批准的粉丝、互相关注的用户或所有人,用户可根据需要随时调整。

来源:cnet

0赞

好文章,需要你的鼓励

2026

07/08

15:29

分享

点赞

邮件订阅