DiffusionGemma：谷歌发布突破左右序列处理限制的新 AI 模型

即便是当今最强大的大语言模型，在处理任务时依然像在键盘上逐字输入一样，按照从左到右的顺序依次生成内容。然而在本地单用户运行场景中，这种顺序处理方式往往会导致 GPU 和 TPU 资源大量闲置。

对此，谷歌推出了 DiffusionGemma，希望借此突破这一瓶颈。这款全新的实验性开放模型采用扩散（diffusion）技术，能够同时生成整段文本，而非逐 Token 依次输出，生成速度"极为迅速"。谷歌表示，与依赖顺序处理的自回归模型相比，这项技术可将推理速度提升 4 倍。

这一技术还有助于降低用户成本。科技分析师 Carmi Levy 指出，现有的按 Token 计费模式"对效率不够高的 AI 方案会产生额外的成本负担"。而 DiffusionGemma"可能开启新一代以任务为导向的高效解决方案，在不大幅增加运营预算的前提下扩展算力空间"。

DiffusionGemma 基于谷歌的 Gemma 4 系列以及 Gemini Diffusion 研究成果构建，是一款拥有 260 亿参数的混合专家（MoE）模型，专为最大化文本输出生成效率而设计。

该模型从根本上改变了模型对硬件的利用方式，让处理器在每个处理周期内承担更大的工作量，能够按序起草完整的 256 Token 段落。谷歌表示，这使模型在 GPU 上的文本生成速度最高可提升 4 倍。推理时仅激活 38 亿个参数，经过量化后，可在 Nvidia RTX 5090 等高端消费级 GPU 的 18GB 显存内运行。

谷歌研究科学家 Brendan O'Donoghue 和 Sebastian Flennerhag 在博客中写道："这就好比将模型推理从单一的顺序打字机，升级为能同时印出整版文字的大型印刷机。"

AI 图像生成器从纯粹的随机"视觉噪声"出发，经过反复迭代优化，最终生成完整图像，这一过程即为"扩散"。DiffusionGemma 将同样的方式应用于文本生成：它不按顺序生成 Token，而是从一块"随机占位 Token 的画布"开始，经过多轮处理，识别出最相关的上下文 Token，再以此为基础优化其余内容。

该模型具备自我修正能力，通过置信度评分在下一轮处理中重新评估 Token。O'Donoghue 和 Flennerhag 解释道："模型会对自身输出进行迭代优化，能够一次性对整段文本进行审查，并实时纠正错误。"

两位研究员还介绍，DiffusionGemma 具备双向注意力机制，"每次前向传播可并行生成 256 个 Token，使每个 Token 都能关注到其他所有 Token"。这一特性在非线性任务场景中尤为突出，例如数学图表、代码填充和行内编辑等。

DiffusionGemma 针对 Nvidia 的完整硬件体系进行了优化，既兼容消费级设备，也适用于基于 Hopper 和 Blackwell 架构的高性能企业级系统。

该模型以 Apache 2.0 许可证发布，开发者可自由使用、修改、分发和商业化，并可搭配自己习惯的工具使用。它支持在 GPU 上本地运行，也可通过 Google Cloud Model Garden 或 Nvidia NIM 在云端部署，目前已在 Hugging Face、GitHub 和 vLLM 上提供，对开源库 llama.cpp 的支持也即将推出。

DiffusionGemma 尤其适合"对速度要求较高"的本地工作流，例如非线性文本结构生成，并解锁了谷歌所称的"全新模型行为模式"，包括多模态理解以及近实时生成和渲染代码。

Levy 表示："DiffusionGemma 特别适合交互式编码和编辑场景，其高效特性支持快速处理和多次迭代。"他还指出，该模型可在 18GB 显存内运行，且能部署在常见的本地 GPU 上，有望为严重依赖实时交互和本地处理的客服类工作负载带来明显优势。

Levy 补充道："DiffusionGemma 还集成了思考模式，在问题求解方面表现尤为出色。"例如，该模型经过微调后可以解数独，而这对自回归模型来说通常是一大挑战，因为每个 Token 都依赖于未来的 Token。Levy 认为，这一能力"相当直观地"展示了该模型解决复杂问题的潜力。

谷歌也坦承，DiffusionGemma 主要面向特定工作流，存在"明显的取舍"。该模型专为小批量推理、低延迟、高速生成等场景设计，适合在"单台高性能加速器"上运行中低批量任务。

在高 QPS 云端服务环境中（即基础设施需每秒处理数万乃至数十万个请求并保持超低延迟），DiffusionGemma 的并行处理优势将"逐渐减弱"，甚至可能带来更高的服务成本。此外，其整体输出质量也低于面向最高质量应用场景构建的标准 Gemma 4。

不过，Levy 指出，尽管 DiffusionGemma"在某些工作负载下精度略低于其他模型"，但通过后续的优化迭代可以弥补这一不足。他还表示，虽然谷歌未公开具体的运行成本，但这显然是一次以效率为核心的布局："在能够充分发挥其架构优势的工作负载场景下，DiffusionGemma 似乎具备降低处理开销和相关成本的潜力。"

Q&A

Q1：DiffusionGemma 和普通大语言模型有什么区别？

A：普通大语言模型按照从左到右逐 Token 生成文本，而 DiffusionGemma 借鉴图像扩散技术，从随机占位 Token 的"画布"出发，经多轮处理同时生成整段文本。这种方式让 GPU 在每个处理周期承担更多工作，推理速度最高可比自回归模型快 4 倍，同时支持双向注意力机制，更擅长处理非线性任务。

Q2：DiffusionGemma 对硬件的要求高吗？

A：DiffusionGemma 的硬件门槛相对适中。它是一个 260 亿参数的混合专家模型，但推理时只激活 38 亿个参数，经过量化后可以在 18GB 显存内运行，兼容 Nvidia RTX 5090 等高端消费级 GPU，同时也支持 Hopper、Blackwell 等企业级硬件。此外，它还可以通过 Google Cloud Model Garden 或 Nvidia NIM 在云端部署。

Q3：DiffusionGemma 适合哪些应用场景？有哪些局限？

A：DiffusionGemma 适合本地部署的速度敏感型场景，例如交互式编码、代码填充、行内编辑、数学图表处理以及客服实时交互等。其局限在于：在高 QPS 云端服务环境中并行优势减弱，整体输出质量也低于标准 Gemma 4，在追求最高输出质量的应用中不占优势。