据《卫报》调查发现,谷歌AI概览功能在回应某些健康相关查询时提供误导性信息后,该公司似乎已经移除了部分查询的AI概览功能。
例如,《卫报》最初报道称,当用户询问"肝功能血液检测的正常范围是什么"时,系统会显示未考虑国籍、性别、种族或年龄等因素的数值,这可能导致用户误以为自己的检测结果是健康的,而实际情况并非如此。
目前,《卫报》表示,"肝功能血液检测的正常范围是什么"和"肝功能测试的正常范围是什么"这两个查询的AI概览已被移除。然而,该媒体发现这些查询的变体,如"肝功能检测参考范围"或"肝功能测试参考范围",仍可能产生AI生成的摘要。
当我在《卫报》发布报道几小时后的今天早上尝试这些查询时,所有查询都没有显示AI概览,不过谷歌仍然提供了在AI模式下询问相同问题的选项。在多个案例中,排名第一的搜索结果实际上就是《卫报》关于移除AI概览的那篇文章。
谷歌发言人向《卫报》表示,该公司不会"对搜索中的个别移除行为发表评论",但会致力于"进行广泛的改进"。该发言人还表示,内部临床医生团队审查了《卫报》强调的查询内容,发现"在许多情况下,这些信息并不不准确,而且也得到了高质量网站的支持"。
TechCrunch已联系谷歌寻求进一步评论。去年,该公司宣布推出旨在改善医疗保健用例中谷歌搜索体验的新功能,包括改进的概览和以健康为重点的AI模型。
英国肝脏信托基金会传播与政策主管瓦妮莎·赫布迪奇向《卫报》表示,移除AI概览是"极好的消息",但她补充说:"我们对此更大的担忧是,这只是针对单个搜索结果的细枝末节,谷歌可以关闭该查询的AI概览,但这并没有解决健康领域AI概览的更大问题。"
Q&A
Q1:谷歌为什么要移除某些医疗查询的AI概览功能?
A:因为《卫报》调查发现,谷歌AI概览在回应某些健康相关查询时提供了误导性信息。例如在肝功能检测正常范围的查询中,显示的数值未考虑国籍、性别、种族或年龄等因素,可能导致用户误判自己的健康状况。
Q2:谷歌是否完全移除了所有医疗相关查询的AI概览?
A:没有完全移除。目前只移除了部分查询的AI概览,如"肝功能血液检测的正常范围"等。但这些查询的变体形式仍可能产生AI生成的摘要,谷歌仍保留在AI模式下询问的选项。
Q3:医疗专业人士如何看待谷歌移除部分医疗查询AI概览的做法?
A:英国肝脏信托基金会认为这是好消息,但也指出了更深层的问题。他们认为这只是针对单个搜索结果的处理,并没有从根本上解决健康领域AI概览可能带来的更广泛问题。
好文章,需要你的鼓励
人工智能开发商Anthropic为其旗舰聊天机器人Claude推出新的医疗健康功能,用户现在可以与服务共享医疗记录以更好地了解自己的健康状况。Claude可以连接官方医疗记录和苹果健康等健身应用,进行更个性化的健康对话。新功能现已向美国的Claude Pro和Max订阅用户开放。公司强调该工具不用于诊断或治疗建议,而是帮助用户理解复杂医疗报告,为医患沟通做准备,并承诺严格保护用户隐私数据。
上海AI实验室联合团队开发RoboVIP系统,通过视觉身份提示技术解决机器人训练数据稀缺问题。该系统能生成多视角、时间连贯的机器人操作视频,利用夹爪状态信号精确识别交互物体,构建百万级视觉身份数据库。实验显示,RoboVIP显著提升机器人在复杂环境中的操作成功率,为机器人智能化发展提供重要技术突破。
谷歌发布通用商务协议(UCP)开放商务标准,旨在让AI智能体自动化整个购物流程,从产品发现到支付再到售后服务。该协议与Shopify、Target、沃尔玛等零售商合作开发,支持AI智能体协同处理客户购买流程各环节。谷歌还推出品牌商业智能体和直接优惠工具,优化AI搜索中的购物体验。麦肯锡预测智能体商务到2030年将成长为3万亿美元市场。
英伟达研究团队提出GDPO方法,解决AI多目标训练中的"奖励信号坍缩"问题。该方法通过分别评估各技能再综合考量,避免了传统GRPO方法简单相加导致的信息丢失。在工具调用、数学推理、代码编程三大场景测试中,GDPO均显著优于传统方法,准确率提升最高达6.3%,且训练过程更稳定。该技术已开源并支持主流AI框架。