Meta发布了一款新的AI图像生成与编辑模型。是的,它可以直接在Instagram上使用。但如果你拥有公开账号,现在就需要调整隐私设置,以免在不知情的情况下成为他人AI创作的对象。
这款模型名为Muse Image,是Meta超级智能实验室旗下Muse Spark系列模型中首个面向创意领域的产品。Meta在一篇博客文章中表示,该模型能够处理更复杂的请求、创建合成照片以及编辑现有图像。目前已可在Meta AI应用、Instagram和WhatsApp上使用,未来还计划扩展至Facebook、Messenger以及广告主业务。
Meta首席执行官马克·扎克伯格在本周二通过自己的Instagram账号展示了新模型的能力,包括该模型为Instagram Stories提供支持的30种全新AI编辑特效——涵盖多个扎克伯格"克隆体"的图像、与AI负责人王晓冠合拍的360度全景画面,以及与Meta首席技术官安德鲁·博斯沃思合拍的曝光人像模式。
用AI将用户和朋友置入创意场景并非Meta的首创。2024年,OpenAI推出视频应用Sora时也曾以此作为卖点,但该产品最终遭遇失利,并因轻松生成深度伪造内容而招致普通用户和名人的强烈批评。Meta这款新模型同样面临类似风险。
暂且不论这款新模型可能加剧Instagram上的AI垃圾内容泛滥问题,也不论用户上传至Meta AI应用的图片会被用于改进Meta服务这一事实,有一个重要细节是所有拥有公开Instagram账号的用户都必须了解的:如果你年满18岁且账号为公开状态,任何拥有Meta AI账号的用户都可以在AI图像生成提示中"标记"你,从而生成包含你本人肖像的高度逼真AI图像——也就是通常所说的深度伪造内容(Deepfake)。
如何防止自己成为Deepfake的对象
记者亲身测试了这款新模型,以评估生成Deepfake内容究竟有多容易。CNET的同事阿布拉尔·阿尔-赫提拥有一个公开Instagram账号,记者仅用不到一分钟的时间,通过在提示词中输入她的Instagram用户名,就成功生成了一张她扮成海盗的AI图像。当记者以同样方式尝试标记自己的私密Instagram账号时,Meta AI则无法完成请求。
Meta向CNET确认,拥有公开Instagram账号的创作者可以通过一个设置开关,阻止他人使用自己的肖像生成AI内容。操作路径为:进入Instagram"设置"→"分享与再利用"→关闭"允许他人在Instagram及Meta AI功能中再利用你的内容"。该控制项可分别针对帖子和Reels视频进行调整。私密账号则默认不允许任何人使用其内容进行混剪或创作。(测试结束后,阿尔-赫提已关闭了该权限。)
此外,当你在Meta AI应用中首次将自己标记进图像请求时,系统也会引导你完成一些步骤,帮助应用识别你的身份。这包括拍摄一张你的面部照片,以及可选上传三张本人照片。在此过程中,你可以选择允许谁使用你的肖像,选项包括仅限本人、你批准的粉丝、互相关注的用户或所有人。你可以在应用中通过"设置"→"你的肖像"来调整这些选项。
这些控制功能对于职业创作者和网红来说尤为重要,因为他们的姓名和肖像就是品牌资产,也是谋生的核心。Meta表示,其模型内置了保护机制,旨在防止生成违法、滥用或诽谤性内容。但正如我们在Sora事件中所见,有动机的恶意行为者仍有可能绕过模型的安全防护。Meta的防线能否经受住考验,还需时间检验。
Q&A
Q1:Muse Image模型目前在哪些平台上可以使用?
A:目前Muse Image已上线Meta AI应用、Instagram和WhatsApp,用户可以在这些平台上使用该模型生成和编辑AI图像。Meta还计划未来将其扩展至Facebook、Messenger以及广告主业务,但具体时间尚未公布。
Q2:Instagram公开账号用户该如何防止自己的肖像被用于生成Deepfake内容?
A:拥有公开Instagram账号的用户,可进入Instagram"设置"→"分享与再利用",关闭"允许他人在Instagram及Meta AI功能中再利用你的内容"选项,即可阻止他人用你的肖像生成AI图像。私密账号则默认受到保护,无需额外操作。
Q3:Meta AI应用中的肖像权限设置有哪些选项?
A:在Meta AI应用中,用户首次标记自己时需完成人脸拍摄等验证步骤。完成后可在"设置"→"你的肖像"中选择允许谁使用你的肖像,选项包括仅限本人、你批准的粉丝、互相关注的用户或所有人,用户可根据需要随时调整。
好文章,需要你的鼓励
Zscaler测试发现,多款主流大语言模型驱动的自主AI智能体存在间接提示注入(IPI)漏洞。测试涵盖26个LLM,其中Llama3和Gemini部分版本被列为"易受攻击",而低版本模型有时表现优于高端版本。专家指出,攻击面源于Transformer架构本身,无法有效区分可信指令与不可信内容。若该漏洞被利用于采购、支付等企业流程,损失规模将远超测试场景中的小额欺诈。
华中科技大学等机构构建SciIR框架,通过8万张科学图像数据集和原子化评测基准,系统解决AI生成科学示意图时"外表合理、内核错误"的核心难题。
ECMA国际已于6月30日正式批准ECMAScript 2026规范,即JavaScript编程语言规范第17版。此版本新增多项实用功能,包括:Math.sumPrecise用于高精度数值求和;Iterator.concat用于迭代器序列化;Array.fromAsync支持从异步来源构建数组;Error.isError用于识别错误对象;Map和WeakMap新增默认值检索方法;Uint8Array支持十六进制与Base64字符串互转;JSON.parse新增源段访问参数;JSON.rawJSON可精细控制原始值的序列化输出。
韩国科学技术院提出RAHA方法,将图文数据提升到双曲空间,通过范围-残差子空间分解实现选择性语义压缩,用极少合成数据高效训练图文检索模型。