一项发表在《社会》(Societies) 期刊上的新研究探讨了人们对人工智能工具日益增长的依赖可能会如何削弱批判性思维能力,特别是通过认知卸载这一现象。这项研究对于那些在法律和司法鉴定等高风险领域依赖 AI 的专业人士具有重要启示,因为过度依赖技术可能导致严重后果。
正如我上月报道的那样,专家证人和律师在法律环境中使用 AI 是一个不断增长的趋势,但如果在缺乏充分监督或验证的情况下使用这些工具,就会带来风险。这项研究进一步强调了这种做法的危险性,突出表明 AI 的便利性可能会降低人类决策和批判性分析的质量。
关于认知卸载和 AI 的研究发现
该研究对 666 名来自不同人口背景的参与者进行了调查,以评估 AI 工具对批判性思维能力的影响。主要发现包括:
认知卸载:经常使用 AI 的用户更倾向于将思维任务转移出去,依赖技术来解决问题和做出决策,而不是进行独立的批判性思考。
技能退化:长期来看,过度依赖 AI 工具的参与者在批判性评估信息或得出细致结论方面的能力有所下降。
代际差距:相比年长群体,年轻参与者表现出对 AI 工具更大的依赖性,这引发了对专业知识和判断力长期影响的担忧。
研究人员警告说,虽然 AI 可以简化工作流程并提高生产力,但过度依赖可能会造成"知识鸿沟",使用户失去验证或质疑这些工具输出结果的能力。
当专业人士盲目信任 AI 输出而不验证其准确性时,他们可能会引入错误,这会破坏案件,损害声誉,并削弱人们对其专业知识的信任。任何需要判断力和专业知识的职业都可能陷入认知卸载的陷阱,正如最近的研究所表明的那样。如果缺乏充分的人工监督,AI 工具可能不仅会增强工作流程,还可能损害专家们应该维护的卓越标准。
这个问题并不仅限于法庭。然而,我经常撰写和讨论法庭、保险和司法鉴定领域的 AI 应用。这些严重依赖人类专业知识的行业正在努力应对 AI 带来的潜在利益、挑战和未知因素。考虑到这些行业固有的高风险,它们可以成为未来风险和挑战的"预警信号"。
法律和司法领域的 AI 应用分析
虽然 AI 可以协助数据分析或案件准备,但人们越来越担心专家和律师可能过度依赖这些工具而不充分验证其准确性。当法律或司法鉴定领域的专业人士过度依赖 AI 工具时,他们就会承担内在风险。
未经验证的数据:AI 工具可能会产生看似合理但实际错误的输出,比如在法律程序中出现伪造证据或不准确计算的案例。
专业知识的退化:随着时间推移,将复杂任务外包给 AI 的习惯可能会削弱批判性评估或质疑证据的能力。
责任感降低:对 AI 的盲目信任会转移个人责任,造成错误被忽视或忽略的危险先例。
AI 和人类专业知识:需要平衡
研究的一个关键结论是,AI 应该被视为增强人类能力的工具,而不是取代它们。为确保这种平衡:
专业知识必须领先:人类专业知识必须保持决策的基石。AI 输出应始终由经过培训的专业人员验证和理解其背景。
批判性思维至关重要:用户需要批判性地参与 AI 生成的数据,质疑其有效性并考虑其他解释。
监管和培训是必要的:随着 AI 变得越来越普遍,各行业必须制定稳健的使用标准,并确保专业人士接受培训,了解其潜力和局限性。
无论是在日常任务还是法律和司法鉴定等高风险领域,人的因素对于确保准确性、责任性和道德完整性仍然至关重要。如果没有适当的监督和批判性参与,我们可能会损害专业人士应该维护的专业知识和信任标准。
好文章,需要你的鼓励
CoreWeave发布AI对象存储服务,采用本地对象传输加速器(LOTA)技术,可在全球范围内高速传输对象数据,无出口费用或请求交易分层费用。该技术通过智能代理在每个GPU节点上加速数据传输,提供高达每GPU 7 GBps的吞吐量,可扩展至数十万个GPU。服务采用三层自动定价模式,为客户的AI工作负载降低超过75%的存储成本。
IDEA研究院等机构联合开发了ToG-3智能推理系统,通过多智能体协作和双重进化机制,让AI能像人类专家团队一样动态思考和学习。该系统在复杂推理任务上表现优异,能用较小模型达到卓越性能,为AI技术的普及应用开辟了新路径,在教育、医疗、商业决策等领域具有广阔应用前景。
谷歌DeepMind与核聚变初创公司CFS合作,运用先进AI模型帮助管理和改进即将发布的Sparc反应堆。DeepMind开发了名为Torax的专用软件来模拟等离子体,结合强化学习等AI技术寻找最佳核聚变控制方式。核聚变被视为清洁能源的圣杯,可提供几乎无限的零碳排放能源。谷歌已投资CFS并承诺购买其200兆瓦电力。
上海人工智能实验室提出SPARK框架,创新性地让AI模型在学习推理的同时学会自我评判,通过回收训练数据建立策略与奖励的协同进化机制。实验显示,该方法在数学推理、奖励评判和通用能力上分别提升9.7%、12.1%和1.5%,且训练成本仅为传统方法的一半,展现出强大的泛化能力和自我反思能力。