那些不记取微软Recall教训的人,注定会重蹈覆辙。
如今,这句话同样适用于OpenAI。该公司近日悄然推出了一项名为Chronicle的实验性预览功能,采用选择性加入机制。Chronicle的设计目的是捕获用户屏幕画面,并将这些图像提供给OpenAI的Codex智能体,从而获取更多上下文信息。
"Chronicle通过用户屏幕上的内容来增强Codex的记忆能力,"该公司在官方文档中解释道,"当您向Codex发出提示时,这些记忆可以帮助它了解您正在处理的内容,让您无需反复重申背景信息。"
对于那些已经遗忘或错过了当时风波的人,有必要回顾一下:微软于2024年推出了一项名为Recall的Windows功能,该功能每隔几秒钟就会对用户的桌面环境截图,并将结果保存到磁盘上。其核心理念是为Copilot服务提供更多上下文信息,使其更加实用。
然而,网络安全社区随即强烈反弹,将Recall描述为键盘记录器、隐私噩梦和潜在的法律隐患。在遭受数月的公众批评之后,微软不得不对该功能进行了若干修改,以平息外界的不满。
尽管如此,浏览器厂商Brave后来推出了Recall截图拦截功能。这一举措的意义显而易见——此前有测试发现,尽管Recall内置了所谓的敏感信息过滤机制,但仍会保存包含信用卡号和密码的图像。
OpenAI或许已经忘记了微软当年所受的声誉重创,也可能认为模型的需求优先于那些在意安全与隐私的少数用户,又或者这家AI公司已经将自我折磨视为一种公关策略。
Chronicle的文档本周刚一出现,安全研究员Michael Taggart便迅速注意到了其与Recall的相似之处,并写道:"天哪,OpenAI重新发明了Recall,只不过这次是macOS版本。"
从积极的一面看,Chronicle是自愿选择的功能,且目前仅在macOS平台的Codex应用中提供。
但反对的理由更为充分。OpenAI的文档中明确指出了以下问题:"在启用前,请注意Chronicle会快速消耗速率限制配额,会增加提示注入的风险,并且会以未加密的形式在您的设备上存储记忆内容。"
也就是说,该功能会更快地耗尽Codex的速率限制,会通过可能包含恶意指令的屏幕截图增加用户遭受提示注入攻击的风险,还会将选定的截图数据发送至OpenAI服务器,通过光学字符识别(OCR)和其他上下文提取方式生成本地记忆文件。这实在算不上什么令人心动的卖点。
好在本地图像的存储时间较短——OpenAI表示截图仅保留六个小时。
但通过OCR文本提取从这些图像中获得的数据,可能会以"记忆"的形式持续存在更长时间——这些基于Markdown格式的文本文件会在后续会话中继续调用相关信息。
OpenAI对记忆生成流程的描述有所省略。该公司表示,屏幕截图会临时存储在设备本地,随后被传输至其服务器进行处理,生成"记忆"内容,再存回设备本地。
文档中声称,传输至OpenAI的屏幕截图不会用于模型训练或长期存储——除非法律另有要求。然而,由OCR提取生成的"记忆"文本是否存储于公司服务器,或在法律授权要求下是否可能被存储,目前仍不明朗。《The Register》已就此向OpenAI寻求澄清,如有回复将及时更新报道。
无论如何,屏幕截图虽然短暂,但存储在记忆目录($CODEX_HOME/memories_extensions/chronicle/)中的文本内容将一直保留,直至用户主动删除。值得注意的是,使用Chronicle的用户在后续与Codex交互时,可能会通过调用这些存储记忆而再次向OpenAI分享曾捕获的内容。
OpenAI确实承认Chronicle存在一定风险:"屏幕截图目录和记忆目录中可能包含敏感信息。请确保不要与他人共享这些内容,同时请注意,您计算机上的其他程序也可以访问这些文件。"
警告已经发出:这把瞄准自己的枪,终究会打中自己的脚。
Q&A
Q1:Chronicle功能是什么,它是如何运作的?
A:Chronicle是OpenAI推出的一项实验性预览功能,采用选择性加入机制,目前仅适用于macOS平台的Codex应用。它会定期捕获用户的屏幕画面,将截图发送至OpenAI服务器进行处理,通过OCR等技术提取上下文信息,生成文本记忆文件存储在本地设备上。这些记忆文件可在用户与Codex智能体交互时自动调用,使其无需反复说明工作背景。
Q2:Chronicle存在哪些隐私和安全风险?
A:Chronicle主要面临三类风险:第一,截图功能会快速消耗Codex的速率限制配额;第二,屏幕截图可能包含恶意指令,增加提示注入攻击的风险;第三,本地记忆文件以未加密方式存储,其他程序也可访问。此外,虽然截图仅保留六小时,但由OCR提取的文本记忆文件会长期留存,且目前尚不明确这些文本数据是否会在法律要求下被存储于OpenAI服务器。
Q3:Chronicle与微软的Recall功能有何相似之处?
A:两者在核心机制上高度相似,都通过定期截取用户屏幕来获取上下文信息,并将其提供给AI助手使用。微软Recall于2024年推出后,因被安全社区批评为"键盘记录器"和"隐私噩梦"而饱受争议,甚至被发现在开启敏感信息过滤的情况下仍保存了信用卡号和密码图像。安全研究员Michael Taggart在Chronicle文档发布后,直接将其称为"macOS版的Recall"。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。