随着对话式聊天机器人的普及,一个日益受到关注的问题是:部分用户可能对其产生过度依赖,或长时间将其当作真实的人进行交流。
在一些极端案例中,有报道描述了所谓"AI精神障碍"或"聊天机器人精神障碍"的现象——用户在与聊天机器人长期交互后,出现妄想性思维,或原有心理健康问题进一步恶化。
这一现象促使OpenAI、Anthropic和谷歌等公司相继引入安全机制,旨在提醒用户认清AI伴侣的局限性,引导用户建立更健康的使用习惯。
例如,ChatGPT目前已能在长时间对话期间弹出提醒,鼓励用户暂时休息。Claude也曾被观察到在用户进行长时间会话后,提示其休息、补充水分或暂时离开屏幕。
在本周的WWDC主题演讲中,苹果公司就Siri AI的开发涉及的多项隐私与责任问题作出了回应。但有一个方面未被提及,那就是当对话时间过长时将会发生什么。
据X平台用户Aaron Perris的发现,iOS 27系统代码中包含一段名为"休息提醒消息"的字符串,暗示Siri AI可能会在对话持续时间过长后向用户显示休息提示,同时提醒用户Siri并非真实的人。
根据Perris分享的代码来看,目前没有迹象表明苹果设定了触发提醒的固定时间阈值。苹果可能会将该数值与其他信号结合使用,以判断是否显示该消息;也有可能触发条件并不仅限于对话时长,还受到其他因素影响。
目前苹果尚未正式确认该功能的存在及具体运作方式,也未说明其是否会最终上线。相关内容目前仅出现在代码层面。但这些字符串的存在表明,苹果已意识到在推广AI聊天机器人的过程中,这是其必须承担的责任之一。
Q&A
Q1:Siri AI的休息提醒功能是如何被发现的?
A:该功能由X平台用户Aaron Perris在iOS 27系统代码中发现。代码中包含一段名为"休息提醒消息"的字符串,暗示Siri AI可能会在对话时间过长后向用户显示休息提示,并提醒用户Siri并非真实的人。目前苹果尚未官方确认该功能,其具体运作方式也未对外说明。
Q2:Siri AI的休息提醒会在多长时间后触发?
A:目前从已知代码来看,苹果并未设定固定的触发时间阈值。触发条件可能会结合多种信号综合判断,而非单纯依赖对话时长。因此,实际触发时机可能因用户行为和其他未公开因素而有所不同。
Q3:除Siri外,其他AI产品有没有类似的休息提醒机制?
A:有。ChatGPT目前已能在长时间对话中弹出休息提醒,鼓励用户暂时停下来休息。Claude也被观察到会在长时间会话后提示用户休息、喝水或离开屏幕。OpenAI、Anthropic和谷歌均已引入相关安全机制,以引导用户建立更健康的AI使用习惯。
好文章,需要你的鼓励
美国连锁超市巨头Albertsons正在基于Databricks构建商品智能平台,整合产品、定价、促销与陈列等决策功能,目标是在2026年底前全面向门店运营商落地。该平台以Databricks Lakehouse存储零售数据,通过Unity Catalog与AI Gateway实现数据治理,并借助AI智能体Genie支持自然语言查询,帮助商家洞察销售趋势,提升决策效率。此举是Albertsons今年四项AI核心战略投资之一。
阿里Qwen团队通过引入强化学习和在线策略蒸馏,将Qwen-Image-2.0升级为Qwen-Image-2.0-RL,让图像生成模型真正学会人类审美,文生图Elo评分提升78分,图像编辑提升93分。
微软正将Windows 11打造成真正的AI操作系统。在Build大会上,微软展示了AI模型与智能代理如何深度融合进Windows 11,让用户通过自然语言完成系统操作。借助Windows ML框架,超过5亿台PC已可在本地离线运行AI任务,无需联网、无token费用、数据不离设备。Office、Photos、Teams等应用已支持本地AI能力,Adobe、WhatsApp、Canva等第三方也在积极跟进,企业级AI PC采购需求有望加速。
港科大与快手联合提出NormGuard,针对流匹配模型强化学习训练中速度范数膨胀问题,通过训练时单向惩罚约束,在保留奖励的同时改善图像真实感。