在谈及ChatGPT和Claude等聊天机器人的隐私问题时,Signal总裁梅雷迪思·惠特克(Meredith Whittaker)直言不讳地表示:"它们不是你的朋友,不是有意识的存在,也不是有感知能力的对话者。"
惠特克在接受彭博社专访时,就政策、隐私及Signal相关议题发表了上述看法。她坦承自己偶尔也会使用AI工具处理一些日常文档格式,但强调:"我不会向它们提问。我对自己的思考和写作非常认真,不希望在梳理一个想法的过程中,被一个只会将现有内容平均化的系统所左右或遮蔽。"
对于微软AI首席执行官穆斯塔法·苏莱曼(Mustafa Suleyman)所描绘的场景——用户今年可以让微软Copilot全权负责圣诞购物——惠特克提出了强烈质疑。她指出,这种Copilot监听家庭群聊以判断每个人心愿的方式,意味着将"信用卡、浏览器、Signal账户、代替自己给家人发消息的权限、家庭住址以及日历"等一切敏感信息拱手相让。
"你所描述的,是一个能够跨越多个应用与服务、实施广泛渗透的系统,"惠特克说,"就Signal而言,这实际上构成了一种后门访问。"
Q&A
Q1:梅雷迪思·惠特克为什么说AI聊天机器人"不是你的朋友"?
A:惠特克认为,AI聊天机器人既没有意识,也没有感知能力,不是真正意义上的对话伙伴。更重要的是,用户在与它们交互时,往往需要让渡大量个人隐私数据。她本人虽偶尔用AI处理文档格式,但刻意避免向其提问,以免自己的独立思考被AI"平均化"的输出所取代。
Q2:微软Copilot全权代理购物为什么会引发隐私担忧?
A:惠特克指出,让Copilot负责圣诞购物,意味着该系统需要监听家庭群聊、访问信用卡信息、浏览器数据、Signal通讯内容,并获得代发消息、读取家庭住址和日历的权限。这种跨平台、跨应用的广泛访问权限,实质上构成了一种系统性隐私侵入,在Signal的语境下甚至相当于开了一道"后门"。
Q3:Signal对AI与隐私的立场是什么?
A:Signal一贯强调用户隐私保护,其总裁惠特克对AI工具介入私人通讯持高度警惕态度。她认为,任何需要访问Signal内容的AI系统,都可能破坏端对端加密通讯的安全基础,构成变相的后门访问,这与Signal的核心理念直接相悖。
好文章,需要你的鼓励
今天讲的出海案例是生产微型扬声器、受话器和音响产品的豪声电子,其计划投资2500万泰铢的泰国音响类电声工厂已经进入初步投产阶段。
SIEVE是一种面向机器人模仿学习的数据筛选方法,通过发现可复用行为原语和转换接口,用50%数据和训练量超越全量训练效果。
马萨诸塞大学从数学角度证明,MaxSim评分策略在理论能力上超越传统单向量内积方法,并提出Signed MaxSim扩展,显著改善否定查询性能。