Meta员工在工作中的电脑操作,如今已被纳入公司AI智能体的训练数据。据路透社报道,Meta正在美国员工的电脑上部署一款名为"模型能力计划"(Model Capability Initiative,MCI)的工具,该工具运行于工作相关的应用程序和网站中,会记录鼠标移动、点击操作、键盘输入以及不定期截图等行为数据。
这些数据将用于训练Meta的AI模型,帮助其学习人类操作电脑的方式,包括自动处理员工日常所执行的各类工作任务。路透社称,MCI采集的数据不会"用于员工绩效评估"。
Meta发言人Tracy Clayton在向媒体发表的声明中表示:"如果我们要构建能帮助人们完成日常电脑任务的智能体,我们的模型就需要真实的人机交互样本——比如鼠标移动、按钮点击和下拉菜单操作等。为此,我们正在推出一款内部工具,用于在特定应用程序中捕获此类输入,以辅助模型训练。我们已建立相关保障机制以保护敏感内容,所采集的数据也不会用于任何其他目的。"
Meta首席技术官Andrew Bosworth于周一向员工发送内部备忘录,宣布将扩大内部数据采集范围,MCI即是其中一项举措,服务于Meta的"智能体转型加速器"(Agent Transformation Accelerator,ATA)项目。Bosworth在备忘录中写道:"我们正在构建的愿景是:智能体承担主要工作,而我们的职责是引导、审查并帮助其持续改进。"
然而,据悉MCI在内部引发了强烈反弹。有员工在回复公告备忘录时表示:"这让我非常不舒服,我们怎么选择退出?"对此,Bosworth回应称:"在公司配发的工作笔记本电脑上,该功能没有退出选项。"
Q&A
Q1:Meta的"模型能力计划"(MCI)具体会收集哪些数据?
A:MCI工具部署在Meta美国员工的工作电脑上,运行于工作相关的应用程序和网站中,会记录员工的鼠标移动轨迹、点击行为、键盘输入内容以及不定期截图。这些数据将专门用于训练Meta的AI模型,使其能更好地模拟人类操作电脑的方式,Meta表示已建立保护机制以防止敏感内容泄露,且数据不会用于员工绩效评估或其他目的。
Q2:Meta员工可以拒绝被MCI监控吗?
A:不可以。据报道,Meta首席技术官Andrew Bosworth在内部备忘录中明确表示,员工无法在公司配发的工作笔记本电脑上选择退出MCI监控。这一回应是在有员工公开表达不适并询问退出方式后给出的。目前,该政策已在内部引发强烈反弹,但公司暂无开放退出选项的计划。
Q3:Meta收集员工电脑操作数据的目的是什么?
A:Meta收集员工电脑操作数据,是为了训练能够自动完成工作任务的AI智能体。公司希望通过真实的人机交互数据,让AI模型学会像人类一样操作电脑,例如点击按钮、移动鼠标和使用下拉菜单等。这一举措隶属于Meta的"智能体转型加速器"项目,CTO Bosworth表示,未来愿景是由智能体主导完成大部分工作,人类则负责指导、审查与优化。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。