在上周的 Nvidia GTC 大会上,一款新型液冷固态硬盘 (SSD) 发布,旨在帮助管理当今高性能 AI 数据中心基础设施的散热问题。
数据中心的液冷技术通常用于 GPU 和 CPU 等高功耗芯片。然而,作为提升数据中心存储性能和效率努力的一部分,Solidigm 推出了一款面向 AI 部署的新型液冷企业级 SSD (eSSD)。
D7-PS1010 消除了数据中心存储设备传统上需要的风扇,实现了完全液冷的 AI 服务器。
Solidigm 与 Nvidia 合作解决了 eSSD 液冷面临的挑战,如热插拔能力和单面散热限制——这两项功能都是新 D7 系列所具备的。
现实世界的痛点
在 GTC 2025 大会上,Solidigm 展示了首款 9.5mm 冷板散热 SSD。它们还将提供 15mm 规格,为风冷服务器和存储系统的设计提供更多灵活性。
"创新的 Solidigm E1.S SSD 和液冷冷板套件的组合——两者都是市场首创——在保持数据中心级可维护性的同时,在散热效率方面带来显著优势,"Solidigm 联合 CEO Kevin Noh 表示。
Solidigm 的 AI 和领导力营销高级总监 Roger Corell 向 Data Center Knowledge 表示,全盘散热和热插拔功能的需求是当今数据中心工程团队面临的"现实世界痛点"。
"电力和散热是 AI 数据中心面临的最大挑战,"Corell 说。"随着 GPU 运行速度不断提升,数据中心可用电力变得更具挑战性,这一点尤为突出。"
他补充道:"在这种环境下,对所有 GPU 服务器组件进行液冷至关重要。该解决方案通过将液冷扩展到存储设备,同时保持企业级的热插拔可维护性来解决这一问题。"
液冷 SSD 的崛起
在讨论这次发布时,Omdia 高级首席 SSD 和 HDD 存储分析师 James Zhao 表示,虽然现在判断 Solidigm 的最新产品是否代表了数据中心散热的新品类可能为时尚早,但它可能成为冷板液冷系统的"潜在新标准"。
"液冷系统主要应用于 GPU、CPU 和 DRAM 等高功耗芯片,"Zhao 向 Data Center Knowledge 表示。
"生成式 AI 和加速计算需要能提供最佳性能的内存和存储。然而,更高的性能伴随着更多热量的问题,不断为系统集成商带来挑战。对主要发热源采用更好的散热解决方案对紧凑设计的系统来说是必需的。"
Zhao 补充道:"像 Solidigm 和 Nvidia 这样的领先企业合作理解问题并创新先行很有意义。当机架中需要更多 eSSD 时,传统的单面散热会降低系统设计的灵活性,当装载更多 eSSD 时,散热效率会急剧下降。"
"热插拔能力对几乎所有服务器存储来说都是必需的。然而,对液冷系统来说仍然存在风险。我很期待看到他们如何解决这些问题。"
AI 存储散热
Solidigm 表示,D7-PS10101 E1.S 9.5mm SSD 和液冷冷板套件将于 2025 年下半年面向 AI 服务器推出。初始容量为 3.84TB 和 7.68TB,容量范围将在年内进一步扩展。
"随着 GPU 性能持续提升,某些未来的 GPU 服务器可能需要完全液冷,"Corell 说。"此外,由于液冷和我们的冷板解决方案可以消除风冷风扇,该产品可以实现紧凑的 1U 服务器设计,有助于提高计算密度。"
好文章,需要你的鼓励
AWS通过升级SageMaker机器学习平台来扩展市场地位,新增观测能力、连接式编码环境和GPU集群性能管理功能。面对谷歌和微软的激烈竞争,AWS专注于为企业提供AI基础设施支撑。SageMaker新功能包括深入洞察模型性能下降原因、为开发者提供更多计算资源控制权,以及支持本地IDE连接部署。这些更新主要源于客户需求,旨在解决AI模型开发中的实际问题。
南洋理工大学研究团队开发了WorldMem框架,首次让AI拥有真正的长期记忆能力,解决了虚拟世界模拟中的一致性问题。该系统通过记忆银行存储历史场景,并使用智能检索机制,让AI能准确重现之前的场景和事件,即使间隔很长时间。实验显示在Minecraft和真实场景中都表现出色,为游戏、自动驾驶、机器人等领域带来广阔应用前景。
AI虽具备变革企业洞察力的潜力,但成功依赖于数据质量。大多数AI项目失败源于数据混乱分散而非算法局限。谷歌BigQuery云数据AI平台打破数据孤岛,简化治理,加速企业AI应用。通过AI自动化数据处理,实现实时分析,并与Vertex AI深度集成,使企业能够高效处理结构化和非结构化数据,将智能商业转型从愿景变为现实。
MTS AI研究团队提出RewardRanker系统,通过重排序模型和迭代自训练显著提升AI代码生成质量。该方法让13.4B参数模型超越33B大模型,在多种编程语言上表现优异,甚至在C++上超越GPT-4。通过引入困难负样本和PPO优化,系统能从多个代码候选中选出最优方案,为AI编程助手的实用化奠定基础。