AI正在渗透到我们生活的方方面面,从手机应用到搜索引擎,甚至是汽车驾驶系统。如今连网络浏览器都开始内置AI助手和聊天机器人,这表明人们使用互联网搜索和获取信息的方式与几年前相比已经发生了根本性变化。
然而,AI工具越来越多地要求获得用户个人数据的广泛访问权限,声称这是其正常运行所必需的。这种级别的数据访问既不正常,也不应该被视为理所当然。
不久之前,当一个看似无害的免费"手电筒"或"计算器"应用试图请求访问你的联系人、照片甚至实时位置数据时,我们都会质疑其动机。这些应用可能并不需要这些数据来实现功能,但如果它们认为可以通过变现你的数据来赚钱,就会提出这些请求。
如今的AI其实也没什么不同。
以Perplexity最新推出的AI驱动网络浏览器Comet为例。Comet允许用户通过其内置的AI搜索引擎寻找答案,并自动化处理日常任务,如总结邮件和日历事件。
在最近的实际体验中,TechCrunch发现,当Perplexity请求访问用户的Google日历时,该浏览器会要求获得用户Google账户的广泛权限,包括管理草稿和发送邮件的能力、下载联系人、查看和编辑所有日历上的事件,甚至包括复制整个公司员工目录的权限。
Perplexity声称大部分数据都存储在用户设备本地,但用户仍然在授予该公司访问和使用个人信息的权利,包括用于改进其为所有人提供的AI模型。
Perplexity并非唯一要求访问用户数据的公司。有一种AI应用的趋势,它们承诺通过转录通话或工作会议来节省时间,但这需要AI助手访问用户的实时私人对话、日历、联系人等信息。Meta也一直在测试其AI应用可以请求访问的数据边界,包括访问用户相机胶卷中尚未上传的照片。
Signal总裁Meredith Whittaker最近将使用AI智能体和助手比作"把你的大脑装进罐子里"。Whittaker解释了一些AI产品如何承诺完成各种日常任务,比如在餐厅预订桌位或预订音乐会门票。但要做到这一点,AI会说它需要你的许可来打开浏览器加载网站(这可能让AI访问你存储的密码、书签和浏览历史)、需要信用卡来进行预订、需要你的日历来标记日期,还可能要求打开你的联系人,这样你就可以与朋友分享预订信息。
使用依赖于你数据的AI助手存在严重的安全和隐私风险。在允许访问的那一刻,你就立即且不可逆转地交出了那个时间点你最个人信息的完整快照的权利,包括你的收件箱、消息和可以追溯数年的日历条目等等。所有这些都是为了执行一个表面上为你节省时间的任务——或者用Whittaker的话说,让你不必主动思考这件事。
你还授予了AI智能体代表你自主行动的权限,这需要你对一项本来就容易出错或完全编造信息的技术给予极大的信任。使用AI还需要你信任开发这些AI产品的追求利润的公司,这些公司依赖你的数据来尝试让他们的AI模型表现更好。当事情出错时(而且经常出错),AI公司的人工审核人员查看你的私人提示以找出问题所在是常见做法。
从安全和隐私的角度来看,将AI连接到你最个人数据的简单成本效益分析表明,放弃对你最私密信息的访问权限是不值得的。任何要求这种级别权限的AI应用都应该让你警铃大作,就像手电筒应用想要随时知道你的位置一样。
考虑到你交给AI公司的大量数据,问问自己从中得到的回报是否真的值得。
好文章,需要你的鼓励
法国人工智能公司Mistral AI宣布完成17亿欧元(约20亿美元)C轮融资,由荷兰半导体设备制造商ASML领投。此轮融资使Mistral估值从去年的60亿美元翻倍至137亿美元。英伟达、DST Global等知名投资机构参投。作为欧洲领先的AI开发商,Mistral凭借先进的多语言大模型与OpenAI等美国公司竞争,其聊天机器人Le Chat具备语音模式等功能。
腾讯ARC实验室推出AudioStory系统,首次实现AI根据复杂指令创作完整长篇音频故事。该系统结合大语言模型的叙事推理能力与音频生成技术,通过交错式推理生成、解耦桥接机制和渐进式训练,能够将复杂指令分解为连续音频场景并保持整体连贯性。在AudioStory-10K基准测试中表现优异,为AI音频创作开辟新方向。
VAST Data收购了成立仅数月的初创公司Red Stapler,该公司由NetApp资深团队创立。Red Stapler创始人兼CEO Jonsi Stefansson将担任VAST云解决方案总经理,负责超大规模云战略。Red Stapler拥有6名开发人员,开发了跨SaaS交付、API集成、监控等功能的云控制平面和服务交付平台,将加速VAST AI OS在超大规模和多云环境中的部署,深化与全球领先超大规模云服务商的合作关系。
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。