AI 推理模型和智能代理正在改变各个行业,但要充分发挥其潜力并实现规模化,需要海量的计算能力和优化的软件支持。"推理"过程涉及多个模型,会生成大量额外的 Token,需要具备高速通信、内存和计算能力相结合的基础设施,以确保实时、高质量的结果。
为满足这一需求,CoreWeave 推出了基于 NVIDIA GB200 NVL72 的实例,成为首个将 NVIDIA Blackwell 平台推向市场的云服务提供商。
借助机架级 NVIDIA NVLink 连接的 72 个 NVIDIA Blackwell GPU 和 36 个 NVIDIA Grace CPU,以及可通过 NVIDIA Quantum-2 InfiniBand 网络扩展至 110,000 个 GPU,这些实例提供了构建和部署下一代 AI 推理模型和智能代理所需的规模和性能。
CoreWeave 上的 NVIDIA GB200 NVL72
NVIDIA GB200 NVL72 是一个液冷的机架级解决方案,具有 72 GPU NVLink 域,使这 72 个 GPU 能够作为一个巨大的 GPU 协同工作。
NVIDIA Blackwell 具有多项技术突破,可加速推理 Token 的生成,提升性能的同时降低服务成本。例如,第五代 NVLink 在单个 72 GPU NVLink 域中提供 130TB/s 的 GPU 带宽,第二代 Transformer 引擎支持 FP4,在保持高精度的同时实现更快的 AI 性能。
CoreWeave 的托管云服务组合专为 Blackwell 打造。CoreWeave Kubernetes Service 通过公开 NVLink 域 ID 优化工作负载编排,确保在同一机架内高效调度。基于 Kubernetes 的 Slurm (SUNK) 支持拓扑块插件,实现跨 GB200 NVL72 机架的智能工作负载分配。此外,CoreWeave 的可观察性平台提供 NVLink 性能、GPU 利用率和温度的实时洞察。
CoreWeave 的 GB200 NVL72 实例配备 NVIDIA Quantum-2 InfiniBand 网络,为最多 110,000 个 GPU 的集群提供每 GPU 400Gb/s 的带宽。NVIDIA BlueField-3 DPU 还为这些实例提供加速的多租户云网络、高性能数据访问和 GPU 计算弹性。
面向企业 AI 的全栈加速计算平台
NVIDIA 的全栈 AI 平台将尖端软件与基于 Blackwell 的基础设施相结合,帮助企业构建快速、准确且可扩展的 AI 智能代理。
NVIDIA Blueprints 提供预定义、可定制、即可部署的参考工作流,帮助开发人员创建实际应用。NVIDIA NIM 是一组易于使用的微服务,用于安全、可靠地部署高性能 AI 推理模型。NVIDIA NeMo 包含用于训练、定制和持续改进现代企业用例 AI 模型的工具。企业可以使用 NVIDIA Blueprints、NIM 和 NeMo 为其专用 AI 智能代理构建和微调模型。
这些软件组件都是 NVIDIA AI Enterprise 软件平台的一部分,是大规模部署智能代理 AI 的关键推动力,可以在 CoreWeave 上轻松部署。
将下一代 AI 引入云端
NVIDIA GB200 NVL72 实例在 CoreWeave 上的全面可用,标志着两家公司在将最新加速计算解决方案引入云端方面合作的最新进展。随着这些实例的推出,企业现在可以获得支持下一波 AI 推理模型和智能代理所需的规模和性能。
客户现在可以通过 CoreWeave Kubernetes Service 在 US-WEST-01 区域使用 gb200-4x 实例 ID 开始配置 GB200 NVL72 实例。
好文章,需要你的鼓励
Luminary Cloud宣布完成7200万美元B轮融资,专注开发"物理AI"技术。该公司云原生平台可将仿真速度提升100倍,利用物理信息模型实时预测汽车、飞机等产品性能。公司推出针对特定行业的预训练模型,包括与本田合作的汽车设计模型和与Otto航空合作的飞机开发模型。融资由西门子风投领投,将用于扩大研发团队和市场销售。
香港中文大学联合上海AI实验室推出Dispider系统,首次实现AI视频"边看边聊"能力。通过创新的三分式架构设计,将感知、决策、反应功能独立分离,让AI能像人类一样在观看视频过程中进行实时交流,在StreamingBench测试中显著超越现有系统,为教育、娱乐、医疗、安防等领域的视频AI应用开启新可能。
伦敦量子动态科技公司宣布交付业界首台采用传统半导体制造工艺的量子计算机。该系统已安装在英国国家量子计算中心,使用标准化300毫米硅晶圆,是首台自旋量子比特计算机。系统采用CMOS技术,占地约三个19英寸服务器机架,具备数据中心友好特性。公司开发的可扩展瓦片架构支持大规模生产,未来可扩展至每个量子处理单元数百万量子比特,为商业化应用奠定基础。
Atla公司发布Selene Mini,这是一个仅有80亿参数的AI评估模型,却在11个基准测试中全面超越GPT-4o-mini。通过精心的数据筛选和创新训练策略,该模型不仅能准确评判文本质量,还能在医疗、金融等专业领域表现出色。研究团队将模型完全开源,为AI评估技术的普及和发展做出贡献。