Meta于周二宣布,将开始使用AI技术扫描照片和视频,通过视觉线索判断用户是否未满13岁,并对相关账户进行处理。这些视觉线索包括人物的身高和骨骼结构等特征。
Meta在官方博客中强调:"我们想明确说明,这并非人脸识别技术。我们的AI会分析照片中的整体特征和视觉线索,例如身高或骨骼结构,以估算人物的大致年龄段,而不会识别图像中的具体个人。通过将这些视觉信息与文本内容及用户行为分析相结合,我们能够大幅提升识别和移除未成年账户的能力。"
目前,该视觉分析系统已在部分国家上线运行,Meta表示正在推进更大范围的全面部署。
Meta称,这一系统是其防止13岁以下未成年人使用Facebook和Instagram平台系列举措的重要组成部分。相关举措还包括利用AI对整个用户资料进行分析,寻找上下文线索,例如生日庆祝内容或提及学校年级的信息。该公司会在帖子、评论、个人简介、图片说明等多种内容形式中搜索此类信号。Meta还计划未来将这一技术扩展至Instagram直播和Facebook群组等更多应用场景。
一旦Meta判定某用户可能为未成年人,将暂停其账户,用户需要通过公司的年龄验证流程证明自己的年龄,否则账户将被永久删除。
此次公告发布前数周,新墨西哥州陪审团裁定Meta因误导消费者、危害儿童安全,须支付3.75亿美元民事罚款,并被要求对平台进行根本性改革。对此,Meta甚至以退出该州社交媒体服务作为回应。
值得关注的是,上述案件只是Meta及其他大型科技公司在儿童安全领域面临的众多诉讼之一。
Meta同日还宣布,将在欧盟27个国家及巴西推广一项自动将青少年纳入更严格"青少年账户"管理模式的Instagram功能。青少年账户为用户提供更严格的使用体验,附加多项保护措施,包括仅接受已关注或已建立连接的用户发送的私信、屏蔽有害评论,以及默认将账户设为私密状态。
此外,Meta表示将在美国首次把这一功能扩展至Facebook平台,并计划于今年6月向英国和欧盟地区推出。
Q&A
Q1:Meta的AI是如何识别未成年用户的?
A:Meta的AI会通过扫描用户上传的照片和视频,分析身高、骨骼结构等视觉特征来估算用户的大致年龄段。同时结合文本内容分析,例如帖子、评论、个人简介中的生日庆祝或提及学校年级等信息,以及用户的行为数据,综合判断用户是否为未满13岁的未成年人。这一技术不属于人脸识别,不会识别具体个人身份。
Q2:账户被Meta认定为未成年人后会怎样?
A:如果Meta判定某个账户的使用者可能是未成年人,会先暂停该账户的正常使用。账户持有人需要通过Meta提供的年龄验证流程来证明自己已达到使用年龄,若无法完成验证,账户将被永久删除。
Q3:Meta的"青少年账户"功能有哪些保护措施?
A:Meta的"青少年账户"为用户提供更严格的使用体验,主要保护措施包括:私信仅限已关注或已建立连接的用户发送、自动屏蔽有害评论、账户默认设置为私密模式等。目前该功能已扩展至欧盟27个国家和巴西的Instagram平台,并首次在美国Facebook上线。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。