Meta为其AI模型找到了一个新的训练数据来源:自己的员工。该公司计划利用从员工鼠标移动和键盘输入中采集的数据,以构建更强大、更高效的人工智能系统。
这一消息由路透社率先报道,揭示了科技公司为寻找新训练数据来源所付出的努力。训练数据是AI模型的核心驱动力,帮助程序更有效地执行任务并响应用户查询。
Meta发言人在接受TechCrunch采访时发表了以下声明:
"如果我们要构建帮助人们通过计算机完成日常任务的智能体,我们的模型就需要真实的示例来了解人们实际上是如何使用计算机的——比如鼠标移动、点击按钮和操作下拉菜单等。为此,我们正在推出一款内部工具,用于在特定应用程序中捕获此类输入,以帮助我们训练模型。我们已建立相应的保障措施来保护敏感内容,且这些数据不会用于任何其他用途。"
这一趋势似乎揭示了AI行业令人担忧的隐私问题。昔日的企业内部通信正日益成为新型企业供应链的原材料。就在上周,有报道指出,一些老牌初创公司的企业通信内容——包括Slack存档、Jira工单及其他内部通信平台的记录——正遭到挖掘,并被转化为AI训练素材。
Q&A
Q1:Meta为什么要记录员工的鼠标移动和键盘输入?
A:Meta希望构建能帮助人们通过计算机完成日常任务的智能体,因此模型需要真实的人机交互示例,例如鼠标移动、按钮点击和下拉菜单操作等。通过内部工具采集员工的实际操作行为,可以为AI模型提供更贴近真实使用场景的训练数据。
Q2:Meta采集员工数据是否会涉及隐私泄露风险?
A:Meta表示已建立相应保障措施以保护敏感内容,且所采集数据仅用于训练模型,不会用于其他用途。不过,此举也反映出AI行业在训练数据来源方面日益凸显的隐私隐患,员工的操作行为数据正逐渐成为企业AI研发的重要原材料。
Q3:科技公司目前还在通过哪些途径获取AI训练数据?
A:除采集员工操作数据外,据报道部分科技公司还在挖掘老牌初创公司的企业内部通信内容,包括Slack存档、Jira工单及其他内部消息平台的记录,并将这些内容转化为AI模型的训练素材。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。