那些不记取微软Recall教训的人,注定会重蹈覆辙。
如今,这句话同样适用于OpenAI。该公司近日悄然推出了一项名为Chronicle的实验性预览功能,采用选择性加入机制。Chronicle的设计目的是捕获用户屏幕画面,并将这些图像提供给OpenAI的Codex智能体,从而获取更多上下文信息。
"Chronicle通过用户屏幕上的内容来增强Codex的记忆能力,"该公司在官方文档中解释道,"当您向Codex发出提示时,这些记忆可以帮助它了解您正在处理的内容,让您无需反复重申背景信息。"
对于那些已经遗忘或错过了当时风波的人,有必要回顾一下:微软于2024年推出了一项名为Recall的Windows功能,该功能每隔几秒钟就会对用户的桌面环境截图,并将结果保存到磁盘上。其核心理念是为Copilot服务提供更多上下文信息,使其更加实用。
然而,网络安全社区随即强烈反弹,将Recall描述为键盘记录器、隐私噩梦和潜在的法律隐患。在遭受数月的公众批评之后,微软不得不对该功能进行了若干修改,以平息外界的不满。
尽管如此,浏览器厂商Brave后来推出了Recall截图拦截功能。这一举措的意义显而易见——此前有测试发现,尽管Recall内置了所谓的敏感信息过滤机制,但仍会保存包含信用卡号和密码的图像。
OpenAI或许已经忘记了微软当年所受的声誉重创,也可能认为模型的需求优先于那些在意安全与隐私的少数用户,又或者这家AI公司已经将自我折磨视为一种公关策略。
Chronicle的文档本周刚一出现,安全研究员Michael Taggart便迅速注意到了其与Recall的相似之处,并写道:"天哪,OpenAI重新发明了Recall,只不过这次是macOS版本。"
从积极的一面看,Chronicle是自愿选择的功能,且目前仅在macOS平台的Codex应用中提供。
但反对的理由更为充分。OpenAI的文档中明确指出了以下问题:"在启用前,请注意Chronicle会快速消耗速率限制配额,会增加提示注入的风险,并且会以未加密的形式在您的设备上存储记忆内容。"
也就是说,该功能会更快地耗尽Codex的速率限制,会通过可能包含恶意指令的屏幕截图增加用户遭受提示注入攻击的风险,还会将选定的截图数据发送至OpenAI服务器,通过光学字符识别(OCR)和其他上下文提取方式生成本地记忆文件。这实在算不上什么令人心动的卖点。
好在本地图像的存储时间较短——OpenAI表示截图仅保留六个小时。
但通过OCR文本提取从这些图像中获得的数据,可能会以"记忆"的形式持续存在更长时间——这些基于Markdown格式的文本文件会在后续会话中继续调用相关信息。
OpenAI对记忆生成流程的描述有所省略。该公司表示,屏幕截图会临时存储在设备本地,随后被传输至其服务器进行处理,生成"记忆"内容,再存回设备本地。
文档中声称,传输至OpenAI的屏幕截图不会用于模型训练或长期存储——除非法律另有要求。然而,由OCR提取生成的"记忆"文本是否存储于公司服务器,或在法律授权要求下是否可能被存储,目前仍不明朗。《The Register》已就此向OpenAI寻求澄清,如有回复将及时更新报道。
无论如何,屏幕截图虽然短暂,但存储在记忆目录($CODEX_HOME/memories_extensions/chronicle/)中的文本内容将一直保留,直至用户主动删除。值得注意的是,使用Chronicle的用户在后续与Codex交互时,可能会通过调用这些存储记忆而再次向OpenAI分享曾捕获的内容。
OpenAI确实承认Chronicle存在一定风险:"屏幕截图目录和记忆目录中可能包含敏感信息。请确保不要与他人共享这些内容,同时请注意,您计算机上的其他程序也可以访问这些文件。"
警告已经发出:这把瞄准自己的枪,终究会打中自己的脚。
Q&A
Q1:Chronicle功能是什么,它是如何运作的?
A:Chronicle是OpenAI推出的一项实验性预览功能,采用选择性加入机制,目前仅适用于macOS平台的Codex应用。它会定期捕获用户的屏幕画面,将截图发送至OpenAI服务器进行处理,通过OCR等技术提取上下文信息,生成文本记忆文件存储在本地设备上。这些记忆文件可在用户与Codex智能体交互时自动调用,使其无需反复说明工作背景。
Q2:Chronicle存在哪些隐私和安全风险?
A:Chronicle主要面临三类风险:第一,截图功能会快速消耗Codex的速率限制配额;第二,屏幕截图可能包含恶意指令,增加提示注入攻击的风险;第三,本地记忆文件以未加密方式存储,其他程序也可访问。此外,虽然截图仅保留六小时,但由OCR提取的文本记忆文件会长期留存,且目前尚不明确这些文本数据是否会在法律要求下被存储于OpenAI服务器。
Q3:Chronicle与微软的Recall功能有何相似之处?
A:两者在核心机制上高度相似,都通过定期截取用户屏幕来获取上下文信息,并将其提供给AI助手使用。微软Recall于2024年推出后,因被安全社区批评为"键盘记录器"和"隐私噩梦"而饱受争议,甚至被发现在开启敏感信息过滤的情况下仍保存了信用卡号和密码图像。安全研究员Michael Taggart在Chronicle文档发布后,直接将其称为"macOS版的Recall"。
好文章,需要你的鼓励
企业AI搜索公司Glean宣布年度经常性收入(ARR)达3亿美元,较15个月前的1亿美元增长三倍。尽管谷歌、微软、OpenAI等科技巨头纷纷入局企业AI搜索市场,Glean凭借"上下文图谱"技术深度理解企业业务需求,并帮助客户显著降低AI计算成本。该公司提供按用量计费和混合定价两种模式,客户涵盖Databricks、Reddit、Pinterest及三星等企业。Glean上轮融资后估值达72亿美元。
香港中文大学与MiniMax提出ClaimDiff-RL框架,将图像描述的AI训练从整体打分升级为逐条核查,有效解决了传统方式导致AI"少说保平安"的问题,同时在多项基准测试上超越Gemini-3-Pro-Preview。
杰夫·贝索斯旗下的蓝色起源公司在佛罗里达卡纳维拉尔角进行静态点火测试时,新格伦重型火箭发生爆炸。这是美国历史上最大规模的火箭爆炸之一,也是蓝色起源公司遭遇的最严重失败。所有人员安全,但该事故可能导致新格伦火箭项目长期暂停。此前该火箭已成功完成三次发射,并实现了助推器回收和重复使用。
ParaVT是一个由南洋理工等多校联合提出的并行视频工具调用框架,通过让AI同时分析多段视频并引入PARA-GRPO算法解决训练中的格式崩溃与工具跳过问题,在六项长视频理解测试中平均提升约7.9%。