英国NHS聊天机器人过于强势,或导致患者回避癌症筛查预约

英国萨里大学一项针对300名使用AI聊天机器人Asa预约宫颈癌筛查患者的研究发现,聊天机器人的沟通方式与其功能同等重要。患者对友好、尊重选择的语言反应积极,但过度发送消息、强硬提醒及模糊人机边界的行为会令患者产生抵触。研究人员指出,在医疗场景中,AI透明度至关重要,若患者因聊天机器人感到压迫或不信任而退出,医疗服务将彻底失去这部分用户。

在英国大力推进医疗服务数字化的背景下,一项最新研究对将重要患者预约工作交由聊天机器人处理提出了警示。

该研究发表于语言学期刊《Lingua》,由萨里大学研究人员主导,共调查了300名曾使用名为Asa的聊天机器人预约宫颈癌筛查的患者。研究结果显示,AI助手的沟通方式与其实际功能同等重要。

研究团队由萨里大学跨文化传播学副教授多丽丝·迪波尔德(Doris Dippold)带领,研究发现:患者普遍对亲切、尊重选择的语言回应积极,但"过度发送消息、强制性提醒,以及模糊人机边界的行为"则会让患者产生抵触情绪。

迪波尔德表示:"我们的分析表明,拟人化设计并非在所有情况下都有正面效果。类人特征确实有助于建立信任感,但当其与患者在医疗环境中对透明度的期望产生冲突时,反而会削弱聊天机器人本应建立的信任。"

理解这一现象至关重要。英国2023至2024年度宫颈癌筛查参与率已下滑逾5%,少数族裔群体在筛查项目中的参与率长期偏低。而Asa聊天机器人正是专为解决这一问题而设计的。此外,鉴于AI助手将在NHS服务中扮演越来越重要的角色——英国政府已将数字化医患互动列为医疗改革的核心支柱——这一问题更值得高度关注。

Asa由SPRYT公司开发,获得制药企业默沙东(MSD)资金支持,是首个获得NHS批准的基于WhatsApp的AI预约调度应用,曾在NHS北伦敦中部整合医疗委员会(ICB)成功完成试点。该聊天机器人允许患者像与人工前台沟通一样进行交互,用户无需下载新应用或登录网站,即可随时通过WhatsApp完成预约、改期或取消。

萨里大学的研究整体上发现,Asa用户对该聊天机器人评价较为正面,使用了"友好"、"亲切"、"不强迫"等词汇。部分用户表示,AI呈现出的女性化角色使他们更容易透露敏感信息,例如因月经而需要取消预约。Asa在敏感医疗场景中所提供的匿名性也受到用户认可。

然而,研究同样揭示了若干"摩擦点":许多患者认为24小时内发送的后续消息过于打扰,并将"我们来为您预约吧"等祈使句式描述为"强迫性的",而非友好提示。对于有心理健康问题、神经多样性状况或繁重照护责任的患者,这种负面感受尤为强烈。

此外,患者还对Asa缺乏双向对话表示不满——当AI对用户提问没有回应,或不提供提问机会时,用户体验明显下降。

与此同时,不少受访者表达了对使用Asa的伦理顾虑,包括数据安全、身份冒充,以及拟人化特征带来的人机边界模糊等问题。

研究指出,聊天机器人的设计应超越"帮助患者完成任务"这一单一目标,重点关注以下几项核心要素:赋予患者决策掌控感、具备适当的回应能力、保持尊重的沟通语气、确保公平性,以及——最为关键的——对底层技术保持透明。

迪波尔德强调:"在医疗AI中,让患者感到被看见、被重视、获得情感支持,不是锦上添花的功能,而是实现医疗可及性的基本条件。如果患者因为聊天机器人过于强势或缺乏可信度而选择退出,医疗服务就会彻底失去这部分群体。"

Q&A

Q1:Asa聊天机器人是什么?主要用来做什么?

A:Asa是由SPRYT公司开发、获得制药企业默沙东资金支持的AI聊天机器人,是首个获得NHS批准的基于WhatsApp的AI预约调度应用。它允许患者通过WhatsApp随时预约、改期或取消宫颈癌筛查等医疗检查,无需下载新应用或登录网站,交互方式类似与人工前台沟通。

Q2:聊天机器人的哪些行为会让患者产生抵触情绪?

A:研究发现,24小时内频繁发送的后续提醒消息令患者感到打扰;"我们来为您预约吧"等祈使句式被描述为强迫性而非友好;AI无法回应用户提问也引发不满。此外,拟人化特征带来的人机边界模糊,以及对数据安全和身份冒充的顾虑,也是患者常见的负面感受,有心理健康问题或神经多样性状况的患者对这些问题尤为敏感。

Q3:医疗领域的聊天机器人设计应注重哪些关键原则?

A:研究指出,医疗聊天机器人的设计应超越单纯的任务完成目标,重点关注五个方面:赋予患者决策掌控感、具备适当回应能力、保持尊重的沟通语气、确保服务公平性,以及对底层AI技术保持透明。研究者强调,让患者感到被重视和获得情感支持,是实现医疗可及性的基本条件,而非附加功能。

来源:Pharmaphorum

0赞

好文章,需要你的鼓励

2026

06/15

16:12

分享

点赞

邮件订阅