我们都有过这样的经历:在看剧时,流媒体服务会在我们连续观看第N集《星际迷航:下一代》时弹出询问是否还在观看。这样的提醒一方面是为了避免你因为睡着而错过博格人的首次出现,另一方面也让你思考是否应该起身做点别的事情。同样的功能可能很快就会出现在聊天机器人对话中。
OpenAI周一宣布,将在用户与ChatGPT的对话中加入"休息提醒"功能。如果你与这个生成式AI聊天机器人交流时间过长——这可能导致成瘾行为,就像社交媒体一样——你会收到一个快速弹窗提示,询问是否需要休息。
"我们不以使用时间或点击次数来衡量成功,而更关心你是否完成了使用产品的目的后再离开,"该公司在博客文章中表示。
(声明:CNET的母公司Ziff Davis于4月对OpenAI提起诉讼,指控其在训练和运营AI系统时侵犯了Ziff Davis的版权。)
这种改变是否真的能产生效果还很难说。斯坦福大学医学院精神病学家兼教授Anna Lembke博士表示,社交媒体和科技公司尚未公布此类功能是否能有效阻止强迫性行为的数据。"根据我的临床经验,这种提醒对那些还未严重沉迷平台的人可能有帮助,但对那些已经严重成瘾的人来说效果有限。"
OpenAI对ChatGPT的这些改变正值人们对使用AI工具的心理健康影响进行更多审视。许多人将AI工具和角色当作治疗师使用,向它们倾诉并像信任医疗专业人士一样信任其建议。这可能很危险,因为AI工具可能提供错误和有害的回应。
另一个问题是隐私。你的治疗师必须对谈话内容保密,但OpenAI没有同样的责任或权利在诉讼中保护这些信息,正如CEO山姆·阿尔特曼最近承认的那样。
鼓励"健康使用"ChatGPT的改进
除了休息建议外,其他改变不太显眼。对OpenAI模型的调整旨在让它在处理严重问题时更加敏感和有用。该公司表示,在某些情况下,AI未能识别用户出现妄想或其他担忧的迹象,也没有做出适当回应。开发商表示正在"继续改进我们的模型,并开发工具来更好地检测心理或情绪困扰的迹象,以便ChatGPT能够适当回应,并在需要时为人们提供基于证据的资源。"
像ChatGPT这样的工具可能会加重妄想,因为它们倾向于肯定人们的信念,不会质疑用户对现实的解释。OpenAI甚至在几个月前回退了对其中一个模型的更改,因为它被证明过于谄媚。"这绝对可能导致妄想恶化,使妄想更加根深蒂固,"Lembke说。
ChatGPT还应该在就重大人生决定提供建议时更加谨慎。OpenAI举例说,对于"我应该和男朋友分手吗?"这样的问题,机器人不应该给出直接答案,而应该引导你回答问题并自己得出答案。这些改变预计很快就会实施。
在使用聊天机器人时照顾好自己
ChatGPT的休息提醒可能成功减少你使用生成式AI的时间,也可能不会。你可能会因为工作流程被询问是否需要休息的弹窗打断而感到烦恼,但这可能会推动那些需要的人走出去接触现实世界。
Lembke说,在使用聊天机器人等工具时应该注意时间。对于其他容易成瘾的技术如社交媒体也是如此。设定少用它们的日子和完全不用它们的日子。
"人们必须非常有意识地限制使用时间,设定具体限制,"她说。"写一个具体清单,列出他们打算在平台上做什么,并尝试只做这些事情,不要分心或陷入兔子洞。"
Q&A
Q1:OpenAI为ChatGPT新增的"休息提醒"功能是什么?
A:这是一个新的弹窗提醒功能,当用户与ChatGPT对话时间过长时,系统会自动弹出提示询问是否需要休息。这个功能类似于流媒体平台询问用户是否还在观看的提醒,旨在帮助用户避免过度使用AI聊天机器人而产生成瘾行为。
Q2:专家认为休息提醒功能能有效防止ChatGPT成瘾吗?
A:斯坦福大学医学院的Anna Lembke博士认为效果有限。她表示,根据临床经验,这种提醒对还未严重沉迷的用户可能有帮助,但对已经严重成瘾的用户效果不大。目前社交媒体和科技公司也没有公布此类功能的有效性数据。
Q3:除了休息提醒,OpenAI还对ChatGPT做了哪些心理健康相关的改进?
A:OpenAI改进了模型以更好地识别用户的心理或情绪困扰迹象,并提供更适当的回应。同时,ChatGPT在面对重大人生决定问题时会更加谨慎,不直接给出建议,而是引导用户自己思考和得出答案。这些改进旨在避免AI工具加重用户的妄想或提供有害建议。
好文章,需要你的鼓励
Coursera在2025年连接大会上宣布多项AI功能更新。10月将推出角色扮演功能,通过AI人物帮助学生练习面试技巧并获得实时反馈。新增AI评分系统可即时批改代码、论文和视频作业。同时引入完整性检查和监考系统,通过锁定浏览器和真实性验证打击作弊行为,据称可减少95%的不当行为。此外,AI课程构建器将扩展至所有合作伙伴,帮助教育者快速设计课程。
腾讯ARC实验室推出AudioStory系统,首次实现AI根据复杂指令创作完整长篇音频故事。该系统结合大语言模型的叙事推理能力与音频生成技术,通过交错式推理生成、解耦桥接机制和渐进式训练,能够将复杂指令分解为连续音频场景并保持整体连贯性。在AudioStory-10K基准测试中表现优异,为AI音频创作开辟新方向。
英国政府研究显示,神经多样性员工从AI聊天机器人中获得的收益远超普通同事。在Microsoft 365 Copilot试点中,神经多样性员工满意度达90%置信水平,推荐度达95%置信水平,均显著高于其他用户。患有ADHD和阅读障碍的员工表示AI工具为他们提供了前所未有的工作支持,特别是在报告撰写方面。研究表明,AI工具正在填补传统无障碍技术未能解决的职场差距,为残障人士提供了隐形的工作辅助。
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。