数据中心正在“激活”核电。
谷歌近日正与美国和其他国家的公用事业公司合作,评估将核能作为其数据中心的一种可能能源来源。
微软日前宣布与美国三哩岛核电站签订了一项为期20年的能源采购协议,所有电力都将被用于驱动AI数据中心和云服务。而这并非微软首次用核电为数据中心功能,早在去年夏季,微软便与星座能源公司签署合作协议,后者将通过旗下核电设施为微软位于弗吉尼亚州的数据中心供电。
甲骨文董事长兼联合创始人拉里o埃里森也在近期宣布,甲骨文已经获得了建造三座核反应堆的许可,这些是为AI数据中心供电的小型模块化核反应堆。
亚马逊云科技在今年3月,以6.5亿美元价格收购了宾夕法尼亚州的一座核电驱动的数据中心。
OpenAI同样在押注核电,如其与美国奥克洛公司达成协议,在爱达荷州东南部建造了一个小型核电站为其旗下数据中心提供电力。今年春天,OpenAI高管还在东京与日本官员举行会议,打算建设由核电站供电的数据中心。
……
据《华尔街日报》7月报道,全美约1/3核电站所有者都在与科技公司就新建数据中心的电力供应进行谈判。
高速发展的AI需要庞大的算力支撑,这催生出海量的电力需求。数据显示,2023年数据中心的耗电量达到500TWhr,相当于全球能耗的2%,需要快速增长下,预计到2030年数据中心的耗电量将占到全球能耗的7%。
能源供应正成为AI发展的“瓶颈”。OpenAI首席执行官山姆·奥特曼、英伟达CEO黄仁勋、特斯拉CEO马斯克、Arm首席执行官Rene Haas等科技大佬在多个不同场合均表达了关于能源供给不足、电力短缺的观点。
核能能量巨大、稳定,且是一种清洁能源,能够满足数据中心的电力需求,在美国电网规划较为老旧、电力供应紧张的现状下,美国巨头公司将更多目光投向核电,在数据中心上推行“核电直供”,以推进AI发展。
不过,核能也有其问题,厦门大学中国能源政策研究院院长林伯强表示,核电供应在稳定性上优于风能和太阳能,但是,将核电用于数据中心并不是一个简单的经济上的问题,而是涉及社会、政治等各方面复杂的问题,尤其会面临来自民间的抵制。
此外,核电从选址到建设再到发电周期相当漫长,至少在十年之久,指望十年后的核电解决问题也不现实。因此,即便将核电划入AI数据中心的供电来源中,美国电力紧张的局面短时间内依然无法缓解。在新增负荷持续增长的背景下,美国电力供需紧张、电价上涨或将成为一个长期持续趋势。目前来看,美国人工智能发展电力短期的重心还是油和气。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。