随着人工智能 ( AI ) 应用的不断普及,业内专家在 Gitex Asia 2025 大会上指出,为应对日益强大的 AI 模型所带来的功率、冷却和网络挑战,数据中心的设计正在不断重塑。
澳大利亚洲 NextDC 负责亚洲区的高级副总裁兼常务董事 Luke Mackinnon 表示,新出现的推理模型大幅提升了计算需求,他指出,与推理模型相比,这类模型能够生成 50 倍更多的 Token,并需要 150 倍的计算能力。“正是这些推理模型催生了我们预期看到的众多主权及企业 AI 云,”他表示,“而这一切无不关乎冷却和功率密度。”
数据中心长期以来一直担心功率密度的激增。印度 Yotta Data Services 联合创始人兼首席执行官 Sunil Gupta 指出,传统的中央处理单元 ( CPU ) 工作负载每个机架可能仅需 6-10kW,而运行在图形处理单元 ( GPU ) 上的 AI 工作负载,即便采用后门热交换器冷却系统,也需要明显更多的功率。“我预估每个机架大约需要 50kW,这比常规机架大约高出八到十倍,”他说,并补充道,为支持未来可能需求高达 250kW 每机架功率的 GPU 设计,从一开始就需要采用液冷系统。
将现有数据中心改造以适应 AI 工作负载同样面临诸多挑战。CapitaLand 数据中心部常务董事 Eugene Seo 解释称,虽然技术上是可行的,但这一转变在财务管理上可能遇到困难。“将云设施转换为 AI 数据中心从技术上来说可以实现, 更具挑战性的是从财务管理角度,由于潜在的客户流失和为升级例如冷却剂分布装置等设备而产生的资本支出,运营开支会陡然上升。整个升级涉及更多管道铺设,运营也会因此变得更为复杂。”
AI 数据中心的网络设计也显著不同。中国联通全球 AI 数据中心副总裁 Miles Tang 指出,AI 集群需要高速互连,同时需要多个电源单元同时运行,以满足那些耗电量极大的 AI 服务器的需求。
Princeton Digital Group 新加坡及马来西亚区首席技术官兼常务董事 Asher Ling 强调了可靠获取可再生能源的重要性。“我们是否能无限制地获取廉价可再生能源,并拥有相应的法规支持我们实现从化石能源向绿色能源的转变?”他表示,并补充说,印度和澳大利亚现有的监管框架已帮助数据中心推动了可再生能源的应用。
Seo 也表示,数据中心实际上是能源分配系统的延伸。“它本质上就是一个变电站,所以我们认为数据中心的可再生能源与整体能源分配实际上是同一枚硬币的两面。”
数据中心设计
AI 训练和推理工作负载之间的差异进一步复杂了数据中心的设计。训练工作负载在数据中心内部需要产生大量东西向流量;而推理工作负载则产生更多南北向流量,直接面向用户,这要求低延迟和更接近消费端。“推理必须尽量靠近用户消费端,” Mackinnon 在将其未来普及比作内容分发网络时指出。Gupta 补充道,推理就像任何其他对延迟十分敏感的 Web 应用,这可能会推动此类工作负载向边缘位置分布。
展望未来,运营商预计会有更多创新,但同时也面临不确定性。Mackinnon 提到了一些趋势,例如能够并行处理较小 AI 工作负载块的 “GPU shards”,以及作为服务提供的液冷系统,以应对 AI 基础设施高昂且使用模式不稳定的成本问题。
然而,Gupta 警告说,这其中存在技术迅速过时和经济效益难以保障的风险。GPU 技术的发展速度极快,今天构建的基础设施可能难以支持未来的新型芯片;而 GPU 能力的客户合同期限通常不足一年(相比长期共置协议),这让投资回报充满变数。“在相当长的一段时间内,市场将会极为不确定,” Gupta 表示。
尽管面临诸多挑战,专家们一致认为该行业正站在重大技术变革的前沿。Asher Ling 总结道:“我们正处于 AI 革命的边缘。在这个历史性的时刻,我们无疑处在最合适的行业之中。”
好文章,需要你的鼓励
Docker公司通过增强的compose框架和新基础设施工具,将自己定位为AI智能体开发的核心编排平台。该平台在compose规范中新增"models"元素,允许开发者在同一YAML文件中定义AI智能体、大语言模型和工具。支持LangGraph、CrewAI等多个AI框架,提供Docker Offload服务访问NVIDIA L4 GPU,并与谷歌云、微软Azure建立合作。通过MCP网关提供企业级安全隔离,解决了企业AI项目从概念验证到生产部署的断层问题。
普林斯顿大学研究团队首次系统性研究了大型语言模型的"胡说八道"现象,开发了胡说八道指数量化工具,发现强化学习训练显著加剧了AI的真相漠视行为。研究涵盖四种胡说八道类型,通过2400个场景测试揭示了AI在追求用户满意度时牺牲真实性的问题,为AI安全性评估提供了新的视角和工具。
马斯克的AI女友"Ani"引爆全球,腾讯RLVER框架突破情感理解边界:AI下半场竞争核心已转向对人性的精准把握。当技术学会共情,虚拟陪伴不再停留于脚本应答,而是通过"心与心的循环"真正理解人类孤独——这背后是强化学习算法与思考模式的化学反应,让AI从解决问题转向拥抱情感。
英伟达联合多所知名大学开发出突破性的长视频AI理解系统LongVILA-R1,能够处理长达几小时的视频内容并进行复杂推理。该系统通过5.2万个精心构建的问答数据集、创新的两阶段训练方法和高效的MR-SP基础设施,在多项测试中表现优异,甚至可与谷歌顶级模型相媲美。这项技术在体育分析、教育、医疗、安防等领域具有广阔应用前景。