据路透社报道,AI平台Clarifai已删除其用于训练人脸识别AI的300万张照片,这批照片据称来源于交友软件OkCupid。与此同时,该公司还删除了所有使用上述数据训练的AI模型。
根据美国联邦贸易委员会(FTC)的调查,Clarifai于2014年向OkCupid发出数据共享请求,而OkCupid的多名高管此前曾对该公司进行投资。报道显示,OkCupid随后向Clarifai提供了用户上传的照片及部分人口统计和地理位置数据。然而,根据OkCupid自身的隐私政策,此类行为本应被明确禁止。
法庭文件显示,Clarifai创始人兼首席执行官Matthew Zeiler在一封发给OkCupid联合创始人Maxwell Krohn的邮件中写道:"我们正在收集数据,刚刚意识到OkCupid肯定拥有海量的优质数据可以利用。"
尽管这一事件发生在约12年前,FTC直到2019年才启动正式调查。起因是《纽约时报》的一篇报道提及Clarifai曾使用OkCupid的图片,构建了一款能够根据面部特征估算用户年龄、性别及种族的AI工具。
FTC与OkCupid的母公司Match Group已于上月达成和解。和解时,OkCupid与Match Group并未承认存在违反自身隐私政策、欺骗用户的行为,但Clarifai确认删除相关数据一事,间接印证了该公司确实获取了上述照片。FTC还指控Match Group与OkCupid自2014年起蓄意隐瞒上述行为,并试图阻碍调查。
截至发稿,OkCupid与Clarifai均未回复相关媒体的置评请求。
由于FTC对此类初次违规行为无权直接处以罚款,该机构最终裁定,永久禁止OkCupid与Match Group在数据收集及共享方面进行虚假陈述,或协助他人进行虚假陈述。换言之,上述两家公司被明令禁止从事FTC本已不允许的此类行为。
Q&A
Q1:Clarifai为什么要删除这300万张照片?
A:Clarifai删除这批照片,是因为这些图片来自交友软件OkCupid,而OkCupid在未充分告知用户的情况下将其上传照片及相关数据提供给Clarifai,违反了自身的隐私政策。FTC对此展开调查,并与OkCupid母公司Match Group达成和解,Clarifai随后确认已删除相关数据及基于这些数据训练的AI模型。
Q2:FTC对OkCupid和Match Group做出了哪些处罚?
A:由于此次属于初次违规行为,FTC无权直接对其处以罚款。但FTC裁定,永久禁止OkCupid与Match Group在数据收集和共享方面进行虚假陈述,或协助他人进行虚假陈述。此外,FTC还指控两家公司自2014年起蓄意隐瞒相关行为并阻碍调查。
Q3:Clarifai用OkCupid的照片训练了什么AI功能?
A:Clarifai利用这批照片训练了一款人脸识别AI工具,该工具能够根据用户的面部特征估算其年龄、性别及种族信息。这一情况在2019年被《纽约时报》报道后,引起FTC关注并正式启动调查。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。