什么是 AI 工厂，为什么 Nvidia 押注它？

在最近的 Nvidia GTC 大会上，高管和演讲者频繁提到 AI 工厂这个概念。在 Nvidia CEO 黄仁勋两小时的主题演讲中强调了这一点，使其成为会后备受关注的热门话题之一。

Nvidia 将 AI 工厂视为大规模创建 AI 系统的范式。这个概念类比于工业生产过程：原始数据作为输入，通过计算进行加工，最终通过洞察和智能模型产出有价值的产品。

在本文中，我将深入探讨 Nvidia 的 AI 工厂及其工业化生产智能的愿景。

AI 工厂 - 数据转化为智能的地方

从本质上讲，AI 工厂是一个专门的计算基础设施，旨在通过管理整个 AI 生命周期（从数据摄入、训练到微调和大规模推理）来从数据中创造价值。在传统工厂中，原材料被转化为成品。而在 AI 工厂中，原始数据被大规模转化为智能。这意味着 AI 工厂的主要输出是洞察力或决策，通常以 AI token 吞吐量来衡量 —— 本质上是 AI 系统产生驱动业务行为的预测或响应的速率。

与运行混合工作负载的通用数据中心不同，AI 工厂是专门为 AI 而建的。它在一个屋檐下编排整个 AI 开发流程，大大缩短了价值实现时间。黄仁勋强调，Nvidia 本身已经"从销售芯片发展到构建大规模 AI 工厂"，将 Nvidia 描述为一家建设这些现代工厂的 AI 基础设施公司。

AI 工厂不仅仅是存储和处理数据 —— 它们生成以文本、图像、视频和研究成果形式呈现的 token。这种转变代表着从简单地基于训练数据集检索数据，到使用 AI 生成定制内容的转变。对于 AI 工厂来说，智能不是副产品，而是主要输出，通过 AI token 吞吐量来衡量 —— 即驱动决策、自动化和全新服务的实时预测。

投资 AI 工厂的公司的目标是将 AI 从长期研究项目转变为竞争优势的直接驱动力，就像工业工厂直接贡献收入一样。简而言之，AI 工厂愿景将 AI 视为一个生产可靠、高效和规模化智能的生产过程。

驱动 AI 计算需求的三大扩展定律

生成式 AI 在不断发展。从基本的 token 生成到高级推理，语言模型在三年内显著成熟。新一代 AI 模型需要提供前所未有的规模和能力的基础设施，这由三个关键扩展定律驱动：

预训练扩展： 更大的数据集和模型参数可以产生可预测的智能增益，但需要海量计算资源。在过去五年中，预训练扩展使计算需求增加了 5000 万倍。

后训练扩展： 为特定现实应用微调 AI 模型在 AI 推理阶段需要比预训练多 30 倍的计算量。随着组织为其独特需求调整现有模型，对 AI 基础设施的累积需求急剧增加。

测试时扩展（长思考）： 高级 AI 应用（如代理 AI 或物理 AI）需要迭代推理，在选择最佳响应之前探索多个可能的响应。这比传统推理多消耗 100 倍的计算资源。

传统数据中心无法高效处理这些指数级需求。AI 工厂专门设计用于优化和维持这种大规模计算需求，为 AI 推理和部署提供理想的基础设施。

AI 工厂的基础 - GPU、DPU 和网络

建设 AI 工厂需要强大的硬件支撑。Nvidia 通过先进的芯片和集成系统提供"工厂设备"。每个 AI 工厂的核心都是高性能计算 —— 特别是 Nvidia 的 GPU，它们在 AI 所需的并行处理方面表现出色。自 2010 年代 GPU 进入数据中心以来，它们彻底改变了吞吐量，每瓦特和每美元的性能比纯 CPU 服务器高出数个数量级。

今天的旗舰数据中心 GPU，如 Nvidia 的 Hopper 和更新的 Blackwell 架构，被称为这场新工业革命的引擎。这些 GPU 通常部署在 Nvidia DGX 系统中，这是一种即插即用的 AI 超级计算机。事实上，由多个 DGX 服务器组成的集群 Nvidia DGX SuperPOD 被描述为企业的"即插即用 AI 工厂的典范"。它将 Nvidia 最好的加速计算打包成一个即用型 AI 数据中心，类似于 AI 计算的预制工厂。

除了原始计算能力外，AI 工厂的网络结构也至关重要。AI 工作负载涉及在分布式处理器之间快速移动海量数据。Nvidia 通过 NVLink 和 NVSwitch 等技术解决这个问题 —— 这些高速互连让服务器内的 GPU 能以极高带宽共享数据。为了跨服务器扩展，Nvidia 提供超高速网络的 InfiniBand 和 Spectrum-X 以太网交换机，通常与 BlueField 数据处理单元配合使用，以分担网络和存储任务。这种端到端的高速连接方法消除了瓶颈，使数千个 GPU 能够作为一台巨型计算机协同工作。本质上，Nvidia 将整个数据中心视为新的计算单元，将芯片、服务器和机架紧密互连，使 AI 工厂能作为一个庞大的超级计算机运行。

Nvidia 技术栈中的另一个硬件创新是 Grace Hopper Superchip，它将 Nvidia Grace CPU 与 Nvidia Hopper GPU 结合在一个封装中。这种设计通过 NVLink 提供 900 GB/s 的芯片间带宽，为 AI 应用创建统一的内存池。通过紧密耦合 CPU 和 GPU，Grace Hopper 消除了处理器之间传统的 PCIe 瓶颈，实现更快的数据传输和更大的内存模型。例如，基于 Grace Hopper 构建的系统在 CPU 和 GPU 之间的吞吐量比标准架构高 7 倍。

这种集成对 AI 工厂很重要，因为它确保了饥饿的 GPU 永远不会缺乏数据。总的来说，从 GPU 和 CPU 到 DPU 和网络，Nvidia 的硬件组合（通常组装成 DGX 系统或云服务）构成了 AI 工厂的物理基础设施。

软件栈 - CUDA、Nvidia AI Enterprise 和 Omniverse

仅有硬件是不够的 —— Nvidia 的 AI 工厂愿景包括一个端到端的软件栈来利用这个基础设施。基础是 CUDA，Nvidia 的并行计算平台和编程模型，允许开发者利用 GPU 加速。CUDA 和 CUDA-X 库（用于深度学习、数据分析等）已成为 GPU 计算的通用语言，使在 Nvidia 硬件上高效运行 AI 算法变得更容易。数千个 AI 和高性能计算应用程序都建立在 CUDA 平台上，这使其成为深度学习研究和开发的首选平台。在 AI 工厂的背景下，CUDA 提供了在新一代 AI 工厂的"工厂车间"中最大化性能的底层工具。

在这个基础之上，Nvidia 提供 Nvidia AI Enterprise，这是一个云原生软件套件，用于简化企业的 AI 开发和部署。Nvidia AI Enterprise 将超过 100 个框架、预训练模型和工具（全部针对 Nvidia GPU 优化）整合到一个具有企业级支持的统一平台中。它加速了 AI 流程的每个步骤，从数据准备和模型训练到推理服务，同时确保生产使用的安全性和可靠性。实际上，AI Enterprise 就像 AI 工厂的操作系统和中间件。它提供即用型组件，如 Nvidia Inference Microservices（可快速部署以服务应用程序的容器化 AI 模型）和用于定制大语言模型的 Nvidia NeMo 框架。通过提供这些构建块，AI Enterprise 帮助公司加快 AI 解决方案的开发并顺利从原型过渡到生产。

Nvidia 的软件栈包括用于管理和编排 AI 工厂运营的工具。例如，Nvidia Base Command 和来自 Run:AI 等合作伙伴的工具帮助在集群中调度作业、管理数据并在多用户环境中监控 GPU 使用情况。Nvidia Mission Control（基于 Run:AI 技术构建）提供单一窗口来监督工作负载和基础设施，具有优化利用率和确保可靠性的智能。这些工具为运行 AI 工厂的任何人带来类似云的敏捷性，使得即使是较小的 IT 团队也能高效运营超级计算机规模的 AI 集群。

另一个关键元素是 Nvidia Omniverse，它在 AI 工厂愿景中扮演着独特的角色。Omniverse 是一个模拟和协作平台，允许创作者和工程师构建数字孪生 —— 具有物理精确模拟的真实系统的虚拟副本。对于 AI 工厂，Nvidia 推出了 Omniverse Blueprint for AI Factory Design and Operations，使工程师能在部署硬件之前在虚拟环境中设计和优化 AI 数据中心。换句话说，Omniverse 让企业和云提供商能将 AI 工厂（从冷却布局到网络）模拟为 3D 模型，在安装单个服务器之前虚拟测试和排除故障。这降低了风险并加快了新 AI 基础设施的部署。除了数据中心设计，Omniverse 还用于在逼真的虚拟世界中模拟机器人、自动驾驶汽车和其他 AI 驱动的机器。这对于在机器人和汽车等行业开发 AI 模型非常有价值，有效地充当 AI 工厂的模拟工作室。通过将 Omniverse 与其 AI 技术栈集成，Nvidia 确保 AI 工厂不仅仅是为了更快地训练模型，还通过数字孪生模拟弥合了与现实世界部署之间的差距。

AI 工厂是生成式 AI 的未来

黄仁勋将 AI 定位为类似电力或云计算的工业基础设施 —— 不仅仅是一个产品，而是一个将驱动从企业 IT 到自动化工厂的一切的核心经济驱动力。这代表着由生成式 AI 驱动的新工业革命。

Nvidia 的 AI 工厂软件栈涵盖从底层 GPU 编程 (CUDA) 到综合企业平台 (AI Enterprise) 和模拟工具 (Omniverse)。这种端到端的方法为采用 AI 工厂模型的组织提供了一站式生态系统。他们可以获得 Nvidia 硬件并利用 Nvidia 优化的软件来管理数据、训练、推理甚至虚拟测试，并保证兼容性和支持。这确实类似于一个集成的工厂车间，每个组件都经过精细调整以协同工作。Nvidia 及其合作伙伴不断用新功能增强这个技术栈。结果是一个坚实的软件基础，使数据科学家和开发人员能够专注于创建 AI 解决方案，而不是纠结于基础设施问题。