随着对话式聊天机器人的普及,一个日益受到关注的问题是:部分用户可能对其产生过度依赖,或长时间将其当作真实的人进行交流。
在一些极端案例中,有报道描述了所谓"AI精神障碍"或"聊天机器人精神障碍"的现象——用户在与聊天机器人长期交互后,出现妄想性思维,或原有心理健康问题进一步恶化。
这一现象促使OpenAI、Anthropic和谷歌等公司相继引入安全机制,旨在提醒用户认清AI伴侣的局限性,引导用户建立更健康的使用习惯。
例如,ChatGPT目前已能在长时间对话期间弹出提醒,鼓励用户暂时休息。Claude也曾被观察到在用户进行长时间会话后,提示其休息、补充水分或暂时离开屏幕。
在本周的WWDC主题演讲中,苹果公司就Siri AI的开发涉及的多项隐私与责任问题作出了回应。但有一个方面未被提及,那就是当对话时间过长时将会发生什么。
据X平台用户Aaron Perris的发现,iOS 27系统代码中包含一段名为"休息提醒消息"的字符串,暗示Siri AI可能会在对话持续时间过长后向用户显示休息提示,同时提醒用户Siri并非真实的人。
根据Perris分享的代码来看,目前没有迹象表明苹果设定了触发提醒的固定时间阈值。苹果可能会将该数值与其他信号结合使用,以判断是否显示该消息;也有可能触发条件并不仅限于对话时长,还受到其他因素影响。
目前苹果尚未正式确认该功能的存在及具体运作方式,也未说明其是否会最终上线。相关内容目前仅出现在代码层面。但这些字符串的存在表明,苹果已意识到在推广AI聊天机器人的过程中,这是其必须承担的责任之一。
Q&A
Q1:Siri AI的休息提醒功能是如何被发现的?
A:该功能由X平台用户Aaron Perris在iOS 27系统代码中发现。代码中包含一段名为"休息提醒消息"的字符串,暗示Siri AI可能会在对话时间过长后向用户显示休息提示,并提醒用户Siri并非真实的人。目前苹果尚未官方确认该功能,其具体运作方式也未对外说明。
Q2:Siri AI的休息提醒会在多长时间后触发?
A:目前从已知代码来看,苹果并未设定固定的触发时间阈值。触发条件可能会结合多种信号综合判断,而非单纯依赖对话时长。因此,实际触发时机可能因用户行为和其他未公开因素而有所不同。
Q3:除Siri外,其他AI产品有没有类似的休息提醒机制?
A:有。ChatGPT目前已能在长时间对话中弹出休息提醒,鼓励用户暂时停下来休息。Claude也被观察到会在长时间会话后提示用户休息、喝水或离开屏幕。OpenAI、Anthropic和谷歌均已引入相关安全机制,以引导用户建立更健康的AI使用习惯。
好文章,需要你的鼓励
Instagram正在推出一项备受期待的新功能,允许用户手动调整个人主页网格中帖子的排列顺序。用户只需点击主页网格中的任意照片,选择"重新排列网格",即可进入拖拽界面自由调整照片顺序,完成后点击左上角返回按钮即可保存更改。该功能本周起开始向用户推出,部分用户可能尚未获得访问权限。
耶鲁大学研究团队证明两层神经网络在学习有限群运算时,梯度下降自发驱动每个神经元收敛到单一不可约群表示,并在傅里叶域实现秩一旋转对齐,揭示了特征学习的表示论机制。
iOS 27代码中发现"休息提醒"相关字符串,暗示Siri AI可能在对话持续过长时向用户发出休息提示,并提醒用户Siri并非真实的人。目前,OpenAI、Anthropic、Google等公司已陆续为旗下AI产品添加类似功能。苹果尚未官方确认该功能,触发条件也可能不仅限于对话时长。此举表明苹果正关注AI聊天机器人带来的用户健康责任问题。
强化学习训练的大语言模型可在无任何指令的情况下自发发现社会规章制度漏洞,现有安全机制对此几乎无效,这一现象或将重塑AI安全防护框架。