美国国会议员已致函社交媒体公司Meta,要求其就在智能眼镜中引入面部识别技术的提案作出解释,议员们认为这些计划危及公民的隐私和民权。
民主党参议员已致函Meta董事长兼首席执行官马克·扎克伯格,警告称这些"独特危险"的计划可能加速大规模监控的"正常化"。
他们警告说,智能眼镜可能在人们不知情的情况下捕获数千人的图像,并立即将其与姓名、工作场所或个人档案关联,使人们面临被跟踪、骚扰和针对性恐吓的风险。
Meta的计划最初由《纽约时报》披露,在美国联邦机构使用面部识别工具识别参与合法抗议活动人员后,引发了特别关注,而合法抗议受到第一修正案保护。
"面部识别工具的滥用表明,实时身份识别技术如何容易被重新用于阻止政治表达、针对弱势群体和压制合法异议",信函中表示。
Meta的隐私记录受到质疑
马萨诸塞州民主党参议员埃德·马基以及俄勒冈州的罗恩·怀登和杰夫·默克利指出了Meta在保护用户隐私方面的不良记录,正如《计算机周刊》此前报道的那样,这经常导致该公司面临批评。
根据《纽约时报》报道的泄露备忘录,有人建议Meta在"一个动态的政治环境中"发布该产品,"许多预计会攻击我们的民间社会团体会将资源集中在其他关注点上"。
参议员们表示,这些披露表明Meta认识到面部识别的严重民权风险,并计划通过在"世界被特朗普政府的日常混乱分散注意力"时推出技术来限制审查。
参议员们指出,Meta在2021年放弃了Facebook平台上的面部识别功能,理由是对使用面部识别技术的更广泛伦理担忧。该技术用于在用户选择加入服务时自动标记图片和视频中的人物。该公司在同年就在智能眼镜上引入面部识别进行了内部讨论,但决定不继续推进。
"五年后,Meta似乎不再担心这些社会关切",参议员们写道,"据报道正计划在最危险的场景之一部署面部识别技术:智能眼镜。"
对面部识别与档案关联的担忧
参议员们表示,他们特别担心面部识别与社交媒体档案的整合将允许用户即时访问个人的姓名或社交媒体档案。
"这种实时身份识别将大大降低人肉搜索和持续跟踪的门槛,使恶意行为者能够在几秒钟内将工作场所的面孔、姓名或在线存在联系起来",他们说。
他们警告说,允许陌生人"无障碍访问"人们身份的详细信息,会带来严重的"跟踪、骚扰和针对性恐吓风险,特别是对女性、LGBTQ+个人和其他弱势群体"。
参议员们正在寻求Meta的答案,包括该公司如何从被智能眼镜捕获的人那里获得适当同意、他们的生物识别数据将存储多长时间,以及捕获的数据是否会用于训练机器学习或面部识别算法。
他们还寻求Meta的保证,包括是否计划上传已知个人的图像以创建个性化的面部识别数据库,是否计划将智能眼镜捕获的图像与Instagram和Facebook上的档案匹配,以及这些平台的用户是否有选择退出其数据用于面部识别的选项。
参议员们要求Meta披露其打算采取哪些步骤来确保面部识别系统不会不成比例地伤害有色人种、移民、宗教少数群体、LGBTQ+个人或其他弱势人群,以及是否打算与执法机构(包括国土安全部)分享智能眼镜收集的信息。
Q&A
Q1:Meta智能眼镜的面部识别功能有什么风险?
A:智能眼镜可能在人们不知情的情况下捕获数千人的图像,并立即将其与姓名、工作场所或个人档案关联,使人们面临被跟踪、骚扰和针对性恐吓的风险,特别是对女性、LGBTQ+个人和其他弱势群体构成威胁。
Q2:Meta之前有过类似的面部识别技术吗?
A:Meta在2021年放弃了Facebook平台上的面部识别功能,理由是对使用面部识别技术的更广泛伦理担忧。该技术曾用于在用户选择加入服务时自动标记图片和视频中的人物,但公司最终决定停止使用。
Q3:美国议员对Meta智能眼镜面部识别技术提出了哪些具体要求?
A:议员们要求Meta解释如何获得被拍摄者的适当同意、生物识别数据的存储时间、是否会与执法机构分享数据、用户是否可以选择退出面部识别功能,以及如何确保系统不会不成比例地伤害弱势群体等问题。
好文章,需要你的鼓励
企业谈AI基础设施时,注意力往往首先集中在模型、GPU和算力集群上。但当大模型应用走向规模化推理,一个瓶颈开始浮现:算力采购完成,并不意味着Token能够被稳定、低成本、可控地交付出去。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。