如今,越来越多的人通过互联网和远程医疗等技术获取医疗服务和建议。
但是,考虑到 AI 生成的虚假新闻和错误信息在网上大量涌现,这是否可能会危及我们的健康?
在深度伪造技术盛行的时代,这是一个我们必须正面应对的严峻问题。深度伪造技术可以生成高度逼真的 AI 内容,展示从未发生过的事情或人们从未说过的话。
大多数人最初接触深度伪造是通过一些病毒式传播的娱乐内容,比如 DeepFake Tom Cruise。但其阴暗面涉及政治操纵、选举干预、阴谋论和非自愿色情内容。
然而,一些最阴险的用途越来越多地出现在医疗保健领域,而在这个领域,准确的事实信息和信任对于良好的治疗效果至关重要。
从虚假名人代言到有害的 AI 生成医疗建议,深度伪造是否正在助长一波可能严重损害我们健康的虚假信息浪潮?
深度伪造信息如何危害健康?
虚假名人代言一直是网络上的问题——正如 Oprah 多年来一直在谈论她对假冒减肥药和保健品广告的不满。但在现在这个几乎任何人都能轻易在几秒钟内制作出令人信服的视频的时代,这个问题被大大放大了。
Tom Hanks 就是一位不得不公开发出警告的知名人士,他表示那些宣传"神奇疗法和神药"的深度伪造视频都是假的,可能会危害健康。
如果你本来就不会相信 Tom Hanks 给出的医疗建议,那么一位著名的电视医生呢?已经出现过多起利用知名专业人士的深度伪造视频,诱导观众购买糖尿病和高血压的仿冒药或非法药物的案例。
慈善机构也可能成为目标——在澳大利亚,维多利亚州糖尿病协会表示,专家推荐用保健品替代糖尿病医疗治疗的视频是深度伪造的。
深度伪造健康虚假信息中出现的人物甚至不需要是真实的,只要看起来值得信任就行。TikTok 上出现了一波虚假且潜在危险的医疗建议视频,《纽约邮报》的调查发现,这些完全虚构人物的假视频只需在应用程序上点击几下就能创建。
人们也担心深度伪造可能被用来传播关于流行病和疫苗等公共卫生问题的错误信息。虚假名人或医疗专业人士传播的虚假信息可能会影响人们对戴口罩或洗手等公共卫生建议的遵守程度,降低这些措施的有效性。
深度伪造对医疗保健的威胁特别令人担忧,因为信任的重要性。毕竟,一个不信任医疗专业人员的社会可能很快就会出现健康问题。如果人们真的难以区分真实的医疗建议和危险的虚假信息,对所有人的后果都可能很严重。
如何在深度伪造虚假信息时代保持健康
重要的是要记住,深度伪造技术现在最容易被发现和识破。明天,像所有的 AI 一样,它会变得更加复杂。
如果你已经在想,在一个 Oprah Winfrey 和 Tom Hanks 试图用错误建议害你的世界里该如何生存,这确实是一个可怕的前景。
一些地区的立法者开始着手应对这一挑战。欧盟 AI 法案、中国的生成式 AI 管理办法和美国各州的法律都包含了旨在防止危害的措施。
但就像其他数字犯罪的激增一样——网络钓鱼诈骗、勒索软件等——法律的作用是有限的。作为一种进入门槛极低的国际犯罪,它不太可能很快被根除。
对我们大多数人来说,答案在于我们自己,这意味着我们需要承担起发展自己的批判性思维和深度伪造时代生存技能的责任。
首先要了解威胁。如果香港一家公司的员工知道这是一个日益常见的诈骗手段,她可能就不会按照伪造的 CEO 语音指示将 2500 万美元转给骗子。
你还需要提高验证信息的能力,检查来源的可靠性,并注意观察技术上的迹象,判断你所看到的内容是否有问题。这些迹象通常包括不自然的面部动作或音视频不匹配的情况。
即使在最好的情况下,浏览网上与健康、运动和饮食相关的海量内容、帮助和建议也是一个挑战。由于深度伪造的出现,这变得更加棘手。但通过了解威胁并采取一些步骤来帮助我们区分事实和虚构,我们都能保护自己和他人免受伤害。
好文章,需要你的鼓励
数据分析平台公司Databricks完成10亿美元K轮融资,公司估值超过1000亿美元,累计融资总额超过200亿美元。公司第二季度收入运营率达到40亿美元,同比增长50%,AI产品收入运营率超过10亿美元。超过650家客户年消费超过100万美元,净收入留存率超过140%。资金将用于扩展Agent Bricks和Lakebase业务及全球扩张。
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。
医疗信息管理平台Predoc宣布获得3000万美元新融资,用于扩大运营规模并在肿瘤科、研究网络和虚拟医疗提供商中推广应用。该公司成立于2022年,利用人工智能技术提供端到端平台服务,自动化病历检索并整合为可操作的临床洞察。平台可实现病历检索速度提升75%,临床审查时间减少70%,旨在增强而非替代临床判断。
上海AI实验室发布OmniAlign-V研究,首次系统性解决多模态大语言模型人性化对话问题。该研究创建了包含20万高质量样本的训练数据集和MM-AlignBench评测基准,通过创新的数据生成和质量管控方法,让AI在保持技术能力的同时显著提升人性化交互水平,为AI价值观对齐提供了可行技术路径。