凯捷研究院一项针对大型企业的调研显示,尽管使用人工智能自动化重复性业务任务能带来显著成本节约,但目前改进的任务相对简单。调研中相当数量的商业领袖表示,他们更倾向于专有AI实施方案而非开源替代品。
该调研涵盖1607名来自全球收入至少10亿美元企业的高管,结果显示商业领袖通过AI和生成式AI实现了客户运营成本40%的降幅。受访高管还实现了人员运营成本26%的削减、财务会计成本24%的降低,以及供应链和采购成本21%的减少。
作为行业中代理AI潜力的例证,凯捷突出介绍了塔可钟母公司百胜集团,该公司在全球运营6万家餐厅。公司引入AI驱动的餐厅管理系统来跟踪员工出勤、规划轮班模式,并根据市场条件建议调整营业时间。
虽然这些案例展现了AI和生成式AI提升商业效率的潜力,但研究发现受访者报告的收益很大一部分与自动化直接、重复性任务相关。凯捷认为,这表明受访高管对AI和生成式AI的使用代表早期阶段效率提升,而非长期变革性影响。
成本节约需要与运行AI系统的成本进行权衡。凯捷研究院指出,查询训练模型的价格正在急剧下降。例如,OpenAI的GPT 3.5从每百万令牌20美元降至0.07美元,而GPT-4在一年内从15美元降至0.12美元。
模型剪枝、量化和蒸馏等技术可用于减少AI模型的规模和复杂性。凯捷研究院指出,这些优化模型需要更少的计算资源,从而降低推理成本。除了更高效的算法外,凯捷研究院表示,高效的硬件利用、推理请求的批处理、基于当前需求动态调整计算资源的扩展,以及节能算法可以显著降低AI模型的功耗。
然而,尽管DeepSeek等开源模型已被证明能在不影响性能的情况下实现11倍的计算成本削减,并能解决许多组织面临的先进硬件瓶颈,但调研显示商业高管对开源AI的热情不如专有AI模型。
尽管开源AI模型在性能和成本方面的优势不断增加,凯捷报告称绝大多数高管仍继续偏爱专有AI实施方案。四分之三的受访高管偏好专有模型,其中43%选择超大规模云服务商开发的模型,另有三分之一选择小众供应商的模型。
凯捷发现,对专有模型和AI系统的偏好在那些已扩大AI和生成式AI投资的组织中尤为强烈。报告作者认为,这表明了一个明确趋势,即转向提供强大支持、安全性和集成能力的可信企业级AI产品。
发表在凯捷研究院《AI实践报告》中的研究结果,识别出了阻碍企业采用开源模型的一系列权衡因素,包括需要更强的技术专业知识、潜在的安全漏洞暴露,以及依赖社区驱动支持可能影响更新周期和文档质量。
凯捷商业服务首席执行官奥利弗·普费尔表示:"生成式AI和代理AI能够真正变革商业服务——实现从传统成本导向模型向AI赋能的价值和洞察驱动业务的转变。那些采用以数据和AI为核心的集成方法的企业,将能够实现真正互联、无摩擦的企业运营。"
不过,他指出研究表明组织在扩大AI代理部署时面临诸多障碍。"采用务实方法、培养对AI的信任并创建强大的数据基础,将在将商业服务转变为推动任何企业的战略动力方面发挥重要作用。"
好文章,需要你的鼓励
微软高级软件工程师Alice Vinogradova将自己用SAP ABAP语言编写的向量数据库ZVDB移植到了搭载Z80处理器的经典计算机Sinclair ZX Spectrum上。她发现ABAP(1983年)和Z80(1976年)几乎是同时代产物,都诞生于内存珍贵、每个字节都很重要的计算时代。通过应用Z80优化技术,尽管时钟频率相差857倍,但代码运行速度仅慢3-6倍。她认为这些老式优化技术具有普遍适用性,在现代硬件上依然有效。
这项由东京科学技术大学等机构联合发布的研究提出了UMoE架构,通过重新设计注意力机制,实现了注意力层和前馈网络层的专家参数共享。该方法在多个数据集上显著优于现有的MoE方法,同时保持了较低的计算开销,为大语言模型的高效扩展提供了新思路。
韩国电子巨头三星宣布收购美国西雅图数字健康技术公司Xealth,进一步扩大在健康领域的布局。Xealth专注于帮助医疗专业人员将数字健康技术整合到日常实践中,与70多家数字健康技术供应商合作,应用覆盖美国500多家医院。此次收购将推动三星向连接医疗保健平台转型,结合其在传感器技术和可穿戴设备方面的优势,完善Samsung Health平台功能。
小米团队开发的MiMo-7B模型证明了AI领域"小而精"路线的可行性。这个仅有70亿参数的模型通过创新的预训练数据处理、三阶段训练策略和强化学习优化,在数学推理和编程任务上超越了320亿参数的大模型,甚至在某些指标上击败OpenAI o1-mini。研究团队还开发了高效的训练基础设施,将训练速度提升2.29倍。该成果已完全开源,为AI民主化发展提供了新思路。