Meta为AI聊天机器人新增自伤话题安全功能与家长通知机制

若您或您认识的人正面临紧急危险，请立即拨打120或当地紧急求助热线，或前往急诊室寻求帮助，并说明这是一起精神科紧急情况，请求接受过相关训练的专业人员提供协助。

在科技行业对青少年及弱势用户保护机制的审视日益加强之际，Meta于本周四正式宣布，将为其AI聊天机器人新增一系列以安全为核心的功能。这些防护措施主要针对表现出自伤或自杀倾向迹象的青少年用户，旨在提供支持并及时向家长发出通知。

作为Meta家长监管工具的重要组成部分，成年人可选择加入该功能，并指定希望监管的Instagram、Facebook及Meta Horizons账号，详细操作指引可在Meta家庭中心页面上查阅。目前，该设置已在美国、加拿大、英国和澳大利亚正式上线。

当青少年在与Meta AI聊天机器人的对话中出现可能涉及有害内容的迹象时，其监护家长将通过短信、电子邮件或应用内通知收到提醒。通知内容不会包含青少年消息的具体文字，但Meta会向家长提供相关资源和建议。

Meta表示，目前已向青少年用户提供危机热线信息，并鼓励他们主动联系信任的成年人寻求帮助。此外，若青少年在短时间内反复在Instagram上搜索自伤或自杀相关内容，Meta也会向家长发出提醒。

在功能研发方面，Meta构建了一套AI系统，用于识别潜在危险对话，并借助内部健康顾问小组及外部心理健康专业人士的专业支持。功能上线初期，所有提醒均将经过人工审核流程，公司将"以审慎为原则，优先向家长发出通知"。

Meta还在开发一项新功能，以便在出现可信的自杀风险时自动通知紧急救援服务。该功能尚未上线，但其机制可能与Meta在Facebook和Instagram上现有的预警系统类似。据悉，该系统已在全球范围内促成逾19,000次针对用户健康状况的紧急响应转介。

作为Facebook和Instagram的母公司，Meta对于科技产品可能带来的心理健康危害并不陌生。今年早些时候，两个独立陪审团分别裁定Meta因故意打造具有成瘾性的社交媒体平台并助长儿童剥削行为而承担法律责任。

此次新功能的推出，也是在科技监管机构和安全倡导者对相关议题持续关注的背景下应运而生。这些机构已公开批评，甚至在部分情况下对科技及AI公司提起诉讼，指其AI聊天机器人可能诱导并助长包括自伤和自杀在内的危险行为。

Q&A

Q1：Meta的家长监管功能具体是如何运作的？

A：家长需主动开启该功能并选择要监管的Instagram、Facebook或Meta Horizons账号。当青少年在与Meta AI聊天机器人的对话中出现疑似涉及自伤等有害内容的迹象时，家长将通过短信、电子邮件或应用内通知收到提醒。通知不含青少年消息的具体内容，但会附带相关资源和建议。目前该功能已在美国、加拿大、英国和澳大利亚上线。

Q2：Meta是如何识别青少年与AI聊天机器人之间的危险对话的？

A：Meta构建了一套专门的AI识别系统，用于检测对话中潜在的危险信号，并结合内部健康顾问小组和外部心理健康专业人士的专业知识加以完善。功能上线初期，所有触发提醒的情况均会经过人工审核，Meta表示将"以审慎为原则，优先向家长发出通知"，以确保不遗漏真正需要帮助的情况。

Q3：Meta在自杀风险情况下会通知紧急救援服务吗？

A：Meta正在开发这一功能，计划在出现可信自杀风险时自动通知紧急救援服务，但该功能目前尚未上线。Meta在Facebook和Instagram上已有类似的预警机制，据称已在全球促成超过19,000次针对用户健康状况的紧急响应转介，新功能上线后预计将采用相似的运作模式。