AI 推理模型和智能代理正在改变各个行业,但要充分发挥其潜力并实现规模化,需要海量的计算能力和优化的软件支持。"推理"过程涉及多个模型,会生成大量额外的 Token,需要具备高速通信、内存和计算能力相结合的基础设施,以确保实时、高质量的结果。
为满足这一需求,CoreWeave 推出了基于 NVIDIA GB200 NVL72 的实例,成为首个将 NVIDIA Blackwell 平台推向市场的云服务提供商。
借助机架级 NVIDIA NVLink 连接的 72 个 NVIDIA Blackwell GPU 和 36 个 NVIDIA Grace CPU,以及可通过 NVIDIA Quantum-2 InfiniBand 网络扩展至 110,000 个 GPU,这些实例提供了构建和部署下一代 AI 推理模型和智能代理所需的规模和性能。
CoreWeave 上的 NVIDIA GB200 NVL72
NVIDIA GB200 NVL72 是一个液冷的机架级解决方案,具有 72 GPU NVLink 域,使这 72 个 GPU 能够作为一个巨大的 GPU 协同工作。
NVIDIA Blackwell 具有多项技术突破,可加速推理 Token 的生成,提升性能的同时降低服务成本。例如,第五代 NVLink 在单个 72 GPU NVLink 域中提供 130TB/s 的 GPU 带宽,第二代 Transformer 引擎支持 FP4,在保持高精度的同时实现更快的 AI 性能。
CoreWeave 的托管云服务组合专为 Blackwell 打造。CoreWeave Kubernetes Service 通过公开 NVLink 域 ID 优化工作负载编排,确保在同一机架内高效调度。基于 Kubernetes 的 Slurm (SUNK) 支持拓扑块插件,实现跨 GB200 NVL72 机架的智能工作负载分配。此外,CoreWeave 的可观察性平台提供 NVLink 性能、GPU 利用率和温度的实时洞察。
CoreWeave 的 GB200 NVL72 实例配备 NVIDIA Quantum-2 InfiniBand 网络,为最多 110,000 个 GPU 的集群提供每 GPU 400Gb/s 的带宽。NVIDIA BlueField-3 DPU 还为这些实例提供加速的多租户云网络、高性能数据访问和 GPU 计算弹性。
面向企业 AI 的全栈加速计算平台
NVIDIA 的全栈 AI 平台将尖端软件与基于 Blackwell 的基础设施相结合,帮助企业构建快速、准确且可扩展的 AI 智能代理。
NVIDIA Blueprints 提供预定义、可定制、即可部署的参考工作流,帮助开发人员创建实际应用。NVIDIA NIM 是一组易于使用的微服务,用于安全、可靠地部署高性能 AI 推理模型。NVIDIA NeMo 包含用于训练、定制和持续改进现代企业用例 AI 模型的工具。企业可以使用 NVIDIA Blueprints、NIM 和 NeMo 为其专用 AI 智能代理构建和微调模型。
这些软件组件都是 NVIDIA AI Enterprise 软件平台的一部分,是大规模部署智能代理 AI 的关键推动力,可以在 CoreWeave 上轻松部署。
将下一代 AI 引入云端
NVIDIA GB200 NVL72 实例在 CoreWeave 上的全面可用,标志着两家公司在将最新加速计算解决方案引入云端方面合作的最新进展。随着这些实例的推出,企业现在可以获得支持下一波 AI 推理模型和智能代理所需的规模和性能。
客户现在可以通过 CoreWeave Kubernetes Service 在 US-WEST-01 区域使用 gb200-4x 实例 ID 开始配置 GB200 NVL72 实例。
好文章,需要你的鼓励
Gartner预测,到2030年所有IT工作都将涉及AI技术的使用,这与目前81%的IT工作不使用AI形成鲜明对比。届时25%的IT工作将完全由机器人执行,75%由人类在AI辅助下完成。尽管AI将取代部分入门级IT职位,但Gartner认为不会出现大规模失业潮,目前仅1%的失业由AI造成。研究显示65%的公司在AI投资上亏损,而世界经济论坛预计AI到2030年创造的就业机会将比消除的多7800万个。
Meta与特拉维夫大学联合研发的VideoJAM技术,通过让AI同时学习外观和运动信息,显著解决了当前视频生成模型中动作不连贯、违反物理定律的核心问题。该技术仅需添加两个线性层就能大幅提升运动质量,在多项测试中超越包括Sora在内的商业模型,为AI视频生成的实用化应用奠定了重要基础。
人工智能正从软件故事转向AI工厂基础,芯片、数据管道和网络协同工作形成数字化生产系统。这种新兴模式重新定义了性能衡量标准和跨行业价值创造方式。AI工厂将定制半导体、低延迟结构和大规模数据仪器整合为实时反馈循环,产生竞争优势。博通、英伟达和IBM正在引领这一转变,通过长期定制芯片合同和企业遥测技术,将传统体验转化为活跃的数字生态系统。
上海AI实验室发布OmniAlign-V研究,首次系统性解决多模态大语言模型人性化对话问题。该研究创建了包含20万高质量样本的训练数据集和MM-AlignBench评测基准,通过创新的数据生成和质量管控方法,让AI在保持技术能力的同时显著提升人性化交互水平,为AI价值观对齐提供了可行技术路径。