AI 推理模型和智能代理正在改变各个行业,但要充分发挥其潜力并实现规模化,需要海量的计算能力和优化的软件支持。"推理"过程涉及多个模型,会生成大量额外的 Token,需要具备高速通信、内存和计算能力相结合的基础设施,以确保实时、高质量的结果。
为满足这一需求,CoreWeave 推出了基于 NVIDIA GB200 NVL72 的实例,成为首个将 NVIDIA Blackwell 平台推向市场的云服务提供商。
借助机架级 NVIDIA NVLink 连接的 72 个 NVIDIA Blackwell GPU 和 36 个 NVIDIA Grace CPU,以及可通过 NVIDIA Quantum-2 InfiniBand 网络扩展至 110,000 个 GPU,这些实例提供了构建和部署下一代 AI 推理模型和智能代理所需的规模和性能。
CoreWeave 上的 NVIDIA GB200 NVL72
NVIDIA GB200 NVL72 是一个液冷的机架级解决方案,具有 72 GPU NVLink 域,使这 72 个 GPU 能够作为一个巨大的 GPU 协同工作。
NVIDIA Blackwell 具有多项技术突破,可加速推理 Token 的生成,提升性能的同时降低服务成本。例如,第五代 NVLink 在单个 72 GPU NVLink 域中提供 130TB/s 的 GPU 带宽,第二代 Transformer 引擎支持 FP4,在保持高精度的同时实现更快的 AI 性能。
CoreWeave 的托管云服务组合专为 Blackwell 打造。CoreWeave Kubernetes Service 通过公开 NVLink 域 ID 优化工作负载编排,确保在同一机架内高效调度。基于 Kubernetes 的 Slurm (SUNK) 支持拓扑块插件,实现跨 GB200 NVL72 机架的智能工作负载分配。此外,CoreWeave 的可观察性平台提供 NVLink 性能、GPU 利用率和温度的实时洞察。
CoreWeave 的 GB200 NVL72 实例配备 NVIDIA Quantum-2 InfiniBand 网络,为最多 110,000 个 GPU 的集群提供每 GPU 400Gb/s 的带宽。NVIDIA BlueField-3 DPU 还为这些实例提供加速的多租户云网络、高性能数据访问和 GPU 计算弹性。
面向企业 AI 的全栈加速计算平台
NVIDIA 的全栈 AI 平台将尖端软件与基于 Blackwell 的基础设施相结合,帮助企业构建快速、准确且可扩展的 AI 智能代理。
NVIDIA Blueprints 提供预定义、可定制、即可部署的参考工作流,帮助开发人员创建实际应用。NVIDIA NIM 是一组易于使用的微服务,用于安全、可靠地部署高性能 AI 推理模型。NVIDIA NeMo 包含用于训练、定制和持续改进现代企业用例 AI 模型的工具。企业可以使用 NVIDIA Blueprints、NIM 和 NeMo 为其专用 AI 智能代理构建和微调模型。
这些软件组件都是 NVIDIA AI Enterprise 软件平台的一部分,是大规模部署智能代理 AI 的关键推动力,可以在 CoreWeave 上轻松部署。
将下一代 AI 引入云端
NVIDIA GB200 NVL72 实例在 CoreWeave 上的全面可用,标志着两家公司在将最新加速计算解决方案引入云端方面合作的最新进展。随着这些实例的推出,企业现在可以获得支持下一波 AI 推理模型和智能代理所需的规模和性能。
客户现在可以通过 CoreWeave Kubernetes Service 在 US-WEST-01 区域使用 gb200-4x 实例 ID 开始配置 GB200 NVL72 实例。
好文章,需要你的鼓励
当前企业面临引入AI的机遇与挑战。管理层需要了解机器学习算法基础,包括线性回归、神经网络等核心技术。专家建议从小规模试点开始,优先选择高影响用例,投资数据治理,提升员工技能。对于影子IT现象,应将其视为机会而非问题,建立治理流程将有效工具正式化。成功的AI采用需要明确目标、跨部门协作、变革管理和持续学习社区建设。
这项由东京科学技术大学等机构联合发布的研究提出了UMoE架构,通过重新设计注意力机制,实现了注意力层和前馈网络层的专家参数共享。该方法在多个数据集上显著优于现有的MoE方法,同时保持了较低的计算开销,为大语言模型的高效扩展提供了新思路。
美国垃圾收集行业2024年创收690亿美元,近18万辆垃圾车每周运营六至七天,每日停靠超千次。设备故障成为行业最大隐性成本,每辆车年均故障费用超5000美元。AI技术通过实时监控传感器数据,能提前数周预测故障,优化零部件库存管理,减少重复维修。车队报告显示,预测性维护每辆车年节省高达2500美元,显著提升运营效率和服务可靠性。
小米团队开发的MiMo-7B模型证明了AI领域"小而精"路线的可行性。这个仅有70亿参数的模型通过创新的预训练数据处理、三阶段训练策略和强化学习优化,在数学推理和编程任务上超越了320亿参数的大模型,甚至在某些指标上击败OpenAI o1-mini。研究团队还开发了高效的训练基础设施,将训练速度提升2.29倍。该成果已完全开源,为AI民主化发展提供了新思路。