Google 正在通过为使用其强大的 Reimagine 工具编辑的图片添加不可见的数字水印,使人们更容易识别已经被 AI 修改过的图片。
Reimagine 是随 Pixel 9 系列推出的 Google Photos Magic Editor 功能的一部分,它允许用户圈选图片中的任何区域,并通过输入简单的文本提示将其转换成任何想要的内容。这些 AI 生成的编辑通常既有创意又有趣,但也可能具有误导性,因为很难分辨什么是真实的,什么是虚假的。
Google Photos:AI 生成的图片将被加上水印
根据最近的 Google Photos 博客文章透露,使用 Reimagine 处理的图片将使用 Google DeepMind 的 SynthID 技术接收一个不可见的嵌入式水印,这将提醒其他人存在 AI 驱动的修改。如果图片包含 SynthID 水印,你可以通过检查其关联的"关于此图片"信息来确认。
如果图片是使用 Google 的 AI 工具编辑的,这些信息将使在社交媒体或通过消息应用发送的虚假图片更容易被发现。
例如,使用 Reimagine 编辑的图片将在 Google Photos 中显示"AI 信息"部分,注明"来源:使用 Google AI 编辑,数字源类型:使用生成式 AI 编辑"。你也可以在 Google Photos 之外查看这些信息:如果有人向你发送可疑照片,只需使用圈选搜索来检查图片并查找上述 AI 生成的元素。
SynthID 水印只能通过特定的解码软件读取,肉眼无法看见。由于它们构成图像本身的一部分,比普通的图像标签更难移除,而普通标签任何人都可以轻易从图像文件中删除,无论是故意还是在使用不保留这些标签的软件时意外删除。
Google 已经在使用 SynthID 为其 Imagen 图像生成工具创建的图片加水印。现在,它已将该功能添加到用户使用 Reimagine 编辑的图片中,无论是否为 AI 生成。Reimagine 目前仅在 Pixel 9 系列及更新机型上可用,但所有设备都可以读取 SynthID 水印。
Google Photos AI 水印 — 一个不完美的解决方案
SynthID 水印设计为能够抵抗日常编辑和操作,很难移除。然而,反复编辑可能导致它们退化。此外,Google 指出,细微的编辑,如"更改图像背景中小花的颜色",可能仍会漏过水印,因为这些变化可能太小,SynthID 无法检测到。
除了图像外,SynthID 还可以为音频、文本和视频加水印。用于编码和解码文本 SynthID 水印的软件已经公开可用,但 Google 目前仍对其基于图像的水印工具保密。这种方法有助于减缓那些可能开发规避技术的人的进度,但也意味着在没有公开审查的情况下,我们无法得知 Google 可能会在不可见的 SynthID 水印中嵌入哪些其他信息。
好文章,需要你的鼓励
一旦人工智能达到通用智能(AGI)或超级智能(ASI)水平,人类将无法逆转回传统AI。AGI与人类智力相当,ASI则超越人类智慧。由于人类会对此类AI产生依赖,且AGI/ASI具备自我保护能力,通过全球禁令、内置终止开关或控制措施都难以有效阻止。AI末日论者担心existential风险,而AI加速主义者认为将解决人类问题。唯一可能的逆转机会是AGI/ASI主动选择关闭自己以拯救人类。
新加坡国立大学研究团队开发了SPIRAL框架,通过让AI与自己对弈零和游戏来提升推理能力。实验显示,仅训练AI玩简单扑克游戏就能让其数学推理能力提升8.6%,通用推理提升8.4%,且无需任何数学题目作为训练材料。研究发现游戏中的三种推理模式能成功转移到数学解题中,为AI训练提供了新思路。
开源加密初创公司ZamaSAS宣布完成5700万美元B轮融资,专注于为区块链和AI应用构建全同态加密技术以保护隐私。本轮融资由BlockchangeVentures和PanteraCapital共同领投,使公司总融资超过1.5亿美元,估值突破10亿美元。同时,Zama推出保密区块链协议公开测试网,允许开发者在以太坊上构建私密通信应用。
同济大学团队开发的GIGA-ToF技术通过融合多帧图像的"图结构"信息,创新性地解决了3D相机噪声问题。该技术利用图像间的不变几何关系,结合深度学习和数学优化方法,在合成数据集上实现37.9%的精度提升,并在真实设备上展现出色泛化能力,为机器人、AR和自动驾驶等领域提供更可靠的3D视觉解决方案。