法国AI初创公司Mistral AI以前所未有的透明度量化了人工智能的环境代价,发布了似乎是首个大语言模型的全面生命周期评估。该公司对其Mistral Large 2模型的详细分析显示,仅训练阶段就在18个月内产生了20,400吨二氧化碳当量排放,并消耗了281,000立方米的水资源。
这一披露正值企业面临双重压力之际——既要实施AI以保持竞争力,又要履行可持续发展承诺。该审计为决策者提供了先前被行业不透明所掩盖的具体数据点,使技术采用策略更加明智。
Mistral的评估数据展示了AI的资源密集性。训练这个拥有1230亿参数的模型需要相当于4,500辆汽油动力汽车运行一年的能源,而水资源消耗相当于填满112个奥运会标准游泳池。通过Mistral的Le Chat助手进行的每次查询产生1.14克二氧化碳当量,消耗45毫升水,大致相当于种植一个小萝卜。
更重要的是,分析揭示运营阶段对环境的影响更大。训练和推理占水资源消耗的85%,远超硬件制造或数据中心建设的环境成本。这种运营主导意味着随着模型使用规模扩大,环境成本会持续累积。
Mistral的研究确定了可行的环境影响减少策略。地理位置对碳足迹有显著影响,在可再生能源和气候较凉爽地区训练的模型排放明显较低。研究表明模型大小与环境成本之间存在强相关性,较大模型在等效token生成时的环境影响约高一个数量级。
这些发现提出了具体的优化方法。企业可以通过为特定用例选择适当规模的模型而非默认使用更大的通用系统来减少环境影响。分组查询的连续批处理技术可以最小化计算浪费,而在清洁能源电网地区部署模型可以大幅减少碳排放。
Mistral的披露策略与竞争对手有显著不同。虽然OpenAI首席执行官Sam Altman最近声称ChatGPT查询每次仅消耗0.32毫升水,但缺乏详细方法使有意义的比较变得困难。这种透明度差距为愿意提供全面环境数据的公司创造了机会,使它们能够在竞争中脱颖而出。
该审计确立了环境透明度作为企业AI市场的关键差异因素。随着可持续发展指标越来越影响采购决策,提供详细环境影响数据的供应商在企业销售周期中获得优势。这种透明度使更复杂的供应商评估成为可能,平衡性能需求与环境成本。
对技术高管而言,Mistral的审计提供了先前不可获得的决策标准。组织现在可以将环境影响纳入AI采购决策,与性能和成本等传统指标并列。这些数据使包含环境外部性的更复杂总拥有成本计算成为可能。
展望未来,环境性能可能与计算性能一样成为选择AI供应商的关键因素。现在建立环境会计实践的组织将随着监管要求扩大和利益相关者审查加强而处于有利地位。Mistral审计表明详细的环境测量是可行的,这可能使其他供应商在企业市场中的不透明度变得越来越站不住脚。
好文章,需要你的鼓励
Allen AI研究所联合多家顶尖机构推出SAGE智能视频分析系统,首次实现类人化的"任意时长推理"能力。该系统能根据问题复杂程度灵活调整分析策略,配备六种智能工具进行协同分析,在处理10分钟以上视频时准确率提升8.2%。研究团队创建了包含1744个真实娱乐视频问题的SAGE-Bench评估平台,并采用创新的AI生成训练数据方法,为视频AI技术的实际应用开辟了新路径。
联想推出新一代NVMe存储解决方案DE6600系列,包含全闪存DE6600F和混合存储DE6600H两款型号。该系列产品延迟低于100微秒,支持多种连接协议,2U机架可容纳24块NVMe驱动器。容量可从367TB扩展至1.798PiB全闪存或7.741PiB混合配置,适用于AI、高性能计算、实时分析等场景,并配备双活控制器和XClarity统一管理平台。
中科院团队首次系统评估了AI视觉模型在文本压缩环境下的理解能力,发现虽然AI能准确识别压缩图像中的文字,但在理解深层含义、建立关联推理方面表现不佳。研究通过VTCBench测试系统揭示了AI存在"位置偏差"等问题,为视觉文本压缩技术的改进指明方向。