凯捷研究院一项针对大型企业的调研显示,尽管使用人工智能自动化重复性业务任务能带来显著成本节约,但目前改进的任务相对简单。调研中相当数量的商业领袖表示,他们更倾向于专有AI实施方案而非开源替代品。
该调研涵盖1607名来自全球收入至少10亿美元企业的高管,结果显示商业领袖通过AI和生成式AI实现了客户运营成本40%的降幅。受访高管还实现了人员运营成本26%的削减、财务会计成本24%的降低,以及供应链和采购成本21%的减少。
作为行业中代理AI潜力的例证,凯捷突出介绍了塔可钟母公司百胜集团,该公司在全球运营6万家餐厅。公司引入AI驱动的餐厅管理系统来跟踪员工出勤、规划轮班模式,并根据市场条件建议调整营业时间。
虽然这些案例展现了AI和生成式AI提升商业效率的潜力,但研究发现受访者报告的收益很大一部分与自动化直接、重复性任务相关。凯捷认为,这表明受访高管对AI和生成式AI的使用代表早期阶段效率提升,而非长期变革性影响。
成本节约需要与运行AI系统的成本进行权衡。凯捷研究院指出,查询训练模型的价格正在急剧下降。例如,OpenAI的GPT 3.5从每百万令牌20美元降至0.07美元,而GPT-4在一年内从15美元降至0.12美元。
模型剪枝、量化和蒸馏等技术可用于减少AI模型的规模和复杂性。凯捷研究院指出,这些优化模型需要更少的计算资源,从而降低推理成本。除了更高效的算法外,凯捷研究院表示,高效的硬件利用、推理请求的批处理、基于当前需求动态调整计算资源的扩展,以及节能算法可以显著降低AI模型的功耗。
然而,尽管DeepSeek等开源模型已被证明能在不影响性能的情况下实现11倍的计算成本削减,并能解决许多组织面临的先进硬件瓶颈,但调研显示商业高管对开源AI的热情不如专有AI模型。
尽管开源AI模型在性能和成本方面的优势不断增加,凯捷报告称绝大多数高管仍继续偏爱专有AI实施方案。四分之三的受访高管偏好专有模型,其中43%选择超大规模云服务商开发的模型,另有三分之一选择小众供应商的模型。
凯捷发现,对专有模型和AI系统的偏好在那些已扩大AI和生成式AI投资的组织中尤为强烈。报告作者认为,这表明了一个明确趋势,即转向提供强大支持、安全性和集成能力的可信企业级AI产品。
发表在凯捷研究院《AI实践报告》中的研究结果,识别出了阻碍企业采用开源模型的一系列权衡因素,包括需要更强的技术专业知识、潜在的安全漏洞暴露,以及依赖社区驱动支持可能影响更新周期和文档质量。
凯捷商业服务首席执行官奥利弗·普费尔表示:"生成式AI和代理AI能够真正变革商业服务——实现从传统成本导向模型向AI赋能的价值和洞察驱动业务的转变。那些采用以数据和AI为核心的集成方法的企业,将能够实现真正互联、无摩擦的企业运营。"
不过,他指出研究表明组织在扩大AI代理部署时面临诸多障碍。"采用务实方法、培养对AI的信任并创建强大的数据基础,将在将商业服务转变为推动任何企业的战略动力方面发挥重要作用。"
好文章,需要你的鼓励
科技泡沫并非世界末日,从经济角度看,泡沫是押注过大导致供过于求。AI泡沫问题复杂在于AI软件开发节奏与数据中心建设周期的时间错配。甲骨文关联数据中心获180亿美元信贷,Meta承诺三年内投入6000亿美元基础设施。麦肯锡调查显示企业虽广泛使用AI但规模有限,多数仍持观望态度。微软CEO表示更担心数据中心空间不足而非芯片短缺,电力需求成为新瓶颈。
香港中文大学研究团队开发的Search-R3系统成功解决了大语言模型推理与搜索分离的问题,通过两阶段训练让AI在深度思考过程中直接生成搜索向量。该系统在多个领域测试中显著超越现有方法,特别是启用推理后性能提升明显,为AI系统设计提供了推理与搜索统一的新范式,展现了从专门化向通用化发展的重要方向。
Goodfire.ai研究人员首次发现AI语言模型中记忆和推理功能通过完全独立的神经通路运作。研究显示,移除记忆通路后,模型丧失97%的训练数据复述能力,但逻辑推理能力几乎完全保留。令人意外的是,算术运算与记忆共享神经通路而非推理通路,这可能解释了AI模型在数学方面的困难。该技术未来有望用于移除版权内容或敏感信息而不损害模型核心功能。
这项由ETH苏黎世等机构发表的突破性研究首次系统性揭示了优化器选择对AI模型量化性能的重大影响。研究团队发现传统的异常值理论完全失效,并开发了革命性的ABC分解框架来准确预测量化后性能。实验证明Shampoo优化器在量化场景下表现最优,该发现为AI模型的实际部署提供了重要指导,有望让AI技术在资源受限设备上发挥更大作用。