当 OpenAI 在 12 月发布其 o3 "推理"AI 模型时,该公司与设计用于测试高性能 AI 的 ARC-AGI 基准测试的创建者合作,展示了 o3 的能力。几个月后,这些结果被修正,现在看起来比最初的结果略显逊色。
上周,负责维护和管理 ARC-AGI 的 Arc Prize Foundation 更新了 o3 的近似计算成本。该组织最初估计,他们测试的表现最好的 o3 配置版本 o3 high,解决单个 ARC-AGI 问题的成本约为 3,000 美元。现在 Arc Prize Foundation 认为这个成本要高得多 - 可能每个任务约 30,000 美元。
这次修正值得注意,因为它说明了当今最先进的 AI 模型在某些任务上可能会产生多么高的费用,至少在早期阶段是这样。OpenAI 尚未对 o3 定价 - 甚至还没有发布它。但 Arc Prize Foundation 认为 OpenAI 的 o1-pro 模型定价是一个合理的参考。
需要说明的是,o1-pro 是 OpenAI 迄今为止最昂贵的模型。
Arc Prize Foundation 的联合创始人 Mike Knoop 告诉 TechCrunch:"我们认为 o1-pro 是更接近 o3 真实成本的参考...这是由于测试时使用的计算量造成的。但这仍然只是一个参考,我们在排行榜上将 o3 标记为预览状态,以反映在官方定价公布之前的不确定性。"
考虑到该模型据报道使用的计算资源量,o3 high 的高价格并非不可思议。根据 Arc Prize Foundation 的数据,在处理 ARC-AGI 时,o3 high 使用的计算量是计算量最低的配置 o3 low 的 172 倍。
此外,关于 OpenAI 考虑为企业客户推出昂贵计划的传言已经流传了一段时间。3 月初,The Information 报道称,该公司可能计划对专门的 AI "代理"(如软件开发者代理)收取高达每月 20,000 美元的费用。
有人可能会说,即使是 OpenAI 最昂贵的模型,其成本也远低于典型的人类承包商或员工的费用。但正如 AI 研究员 Toby Ord 在 X 平台上指出的那样,这些模型可能并不那么高效。例如,o3 high 在 ARC-AGI 中需要对每个任务尝试 1,024 次才能获得最佳分数。
好文章,需要你的鼓励
苏州大学研究团队提出"语境降噪训练"新方法,通过"综合梯度分数"识别长文本中的关键信息,在训练时强化重要内容、抑制干扰噪音。该技术让80亿参数的开源模型在长文本任务上达到GPT-4o水平,训练效率比传统方法高出40多倍。研究解决了AI处理长文档时容易被无关信息干扰的核心问题,为文档分析、法律研究等应用提供重要突破。
在Cloudera的“价值观”中,企业智能化的根基可以被概括为两个字:“源”与“治”——让数据有源,智能可治。
清华大学团队首次揭示了困扰AI训练领域超过两年的"幽灵故障"根本原因:Flash Attention在BF16精度下训练时会因数字舍入偏差与低秩矩阵结构的交互作用导致训练崩溃。研究团队通过深入分析发现问题源于注意力权重为1时的系统性舍入误差累积,并提出了动态最大值调整的解决方案,成功稳定了训练过程。这项研究不仅解决了实际工程问题,更为分析类似数值稳定性挑战提供了重要方法论。