AI、信任与变革：英国NHS安全采用AI需要什么

当下，临床医生承受着日益加剧的压力，面临着医疗承载力的挑战以及不断扩展的循证医学知识体系。在保持安全、高质量医疗服务的同时，跟上新指南、新研究和最佳实践的步伐，已成为各国卫生系统面临的共同难题。尽管AI被视为缓解这些压力的潜在方案，但围绕AI工具在医疗保健领域应用的可靠性、透明度和安全性，仍存在诸多疑虑。

对于一个通常对新技术持谨慎态度、采纳速度较慢的行业而言，AI工具正以惊人的速度进入临床场景。这种变化值得欢迎，但也带来了新的紧迫课题：如何确保这些解决方案安全、透明并受到适当监管。在英国，这种紧迫性因NHS英格兰《十年健康计划》而进一步加强。该计划明确提出了从医院医疗向社区医疗的战略转变、从模拟系统向数字系统的迁移，以及对预防的更强关注。

技术被定位为推动这一转型的关键支撑，其愿景包括将AI嵌入临床路径、增强NHS App功能，以及部署环境AI以减轻临床医生的行政负担。然而，随着AI在国家卫生系统优先事项中日益深入嵌入，建立清晰且负责任的边界变得越来越重要。如果缺乏这些边界，大规模的安全且一致的采用将难以实现。

构建安全、可扩展临床级AI的核心支柱

要交付让临床医生能够信任并大规模放心使用的AI，必须建立稳固的基础。在评估某款AI工具是否适合医疗保健应用时，有几个核心支柱应被视为"信任"清单。

透明性和可追溯性是医疗AI工具的根本要求。临床医生需要了解AI生成的答案信息来源何处，并能够访问构建该回答所依据的原始证据。希望在临床实践中探索使用AI工具的医生应关注那些能够提供清晰引用的模型。这使医生能够验证输出结果、运用专业判断，并对诊疗决策保持负责。

同样重要的是了解AI工具背后的证据和内容来源，以及这些输入如何经过临床验证。安全的临床AI必须建立在严谨、经过同行评审的医学全文内容之上，且来源于可信渠道。对于那些从未经验证的开放访问在线来源抓取信息的通用AI工具，必须保持警惕，尤其是在虚假信息广泛传播的当下。维护证据的完整性，对于保障临床判断并建立对AI辅助决策的信心至关重要。

在处理患者数据时，必须使用具备安全、隐私优先设计的AI工具。有效的采用依赖于强大的隐私控制、患者信息保护以及为临床环境合规性设计的安全功能。这些措施有助于建立公众信任，并满足NHS等大型卫生系统的期望。

最后，能够实现工作流程整合并具备直观易用特性的工具最有可能被广泛采用。基于API的集成、移动友好界面以及语音转文字功能等特性，有助于降低认知负担并节省时间。

安全扩展AI：卫生系统所需的条件

随着AI在大型卫生系统中的应用不断扩展，人们的关注点正越来越多地转向支持负责任、系统级部署所需的架构。NHS等机构需要明确的治理框架，以界定责任、监督和可接受使用范围。与现有数字健康标准对齐的结构化临床安全测试，对于在系统扩展前识别风险至关重要。

互操作性是另一关键因素。AI工具必须与现有电子健康档案和数字基础设施无缝协作，以避免碎片化和重复。与此同时，持续的员工培训也必不可少，以建立数字素养，并确保临床医生理解AI赋能系统的能力与局限。

尽管兴趣日益增长，但准备度仍然较低。爱思唯尔的研究发现，全球范围内只有三分之一的临床医生表示其所在机构提供了关于AI使用的良好指导和培训，相近比例的人认为其机构具备充分的治理机制。在英国，准备度更低，仅17%的临床医生反映得到了良好的机构指导或培训，27%的人认为其机构有强有力的AI治理结构。

要建立信心，必须与既定的临床指南保持一致、实施过程透明，并就AI系统如何被验证和监控进行清晰沟通。否则，规模化推广将面临碎片化风险——在复杂的国家级系统中，采纳程度不均、标准参差不齐。

在AI时代建立信任与清晰度

AI要真正支持临床医生并改善患者护理，必须展现出透明性、证据完整性和对安全的坚定承诺。信任并非仅靠技术先进性建立，而需要通过尊重临床专业知识和患者需求的一致、负责任的实施来形成。

随着NHS致力于利用数字技术和AI推动系统级变革、减轻行政负担、实现更主动的预防性医疗，信任已成为基础性要求，而非可有可无的附加项。

展望未来，卫生系统可以通过将AI采用建立在清晰、负责任的框架之上，来充分实现国家计划中所设定的全部益处。通过使技术与临床工作流程对齐、投资于治理和培训、并在每个阶段保持透明，AI可以发展成为医疗服务的可信伙伴，而非额外的风险。

关于作者

Rahul Goyal博士是爱思唯尔EMEALAAP区域的首席临床高管，负责推动临床战略和数字健康创新。作为一名在英国接受培训的家庭医生，他拥有近二十年的临床经验，至今仍在英国执业。此前，他曾担任Malaffi（阿布扎比健康信息交换平台）临床参与与采用高级副总裁，以及Mediclinic的首席医疗信息官，领导以医生为中心的电子健康档案及相关技术的采用。Goyal博士被HIMSS评为"未来50位临床领导者"之一，将一线临床专业知识与数字化转型领导力相结合。

Q&A

Q1：NHS十年健康计划中提到的AI应用方向有哪些？

A：NHS英格兰十年健康计划提出了将AI嵌入临床路径、增强NHS App功能、部署环境AI以减轻临床医生行政负担等方向，同时推动从医院医疗向社区医疗转变、从模拟系统向数字系统迁移，并更加注重预防性医疗。

Q2：评估医疗AI工具是否安全可信，应关注哪些核心要素？

A：主要有四个核心要素：一是透明性和可追溯性，能提供清晰的引用来源；二是证据来源经过临床验证，基于严谨的同行评审医学内容；三是具备安全、隐私优先的设计，保护患者数据；四是支持工作流程整合并具备直观易用的功能。

Q3：英国临床医生对AI的准备度如何？

A：根据爱思唯尔的调研，全球仅约三分之一的临床医生表示其机构提供了良好的AI使用指导和培训。英国的情况更不乐观，只有17%的医生反映获得了良好的机构指导或培训，27%的人认为机构具备强有力的AI治理结构。