不需要云端：NVIDIA 推出以游戏为中心的本地 AI 聊天机器人

NVIDIA 近年来随着其加速 AI 的 GPU 变得价值连城而声势大涨。大多数人使用 NVIDIA 的 GPU 玩游戏，但为什么不能两者兼顾呢？NVIDIA 刚刚发布了实验性的 G-Assist AI，这是一款可以同时运行的 AI，它在你的 GPU 本地运行，帮助你优化电脑并充分利用游戏性能。这款工具可以做一些很棒的事情，但 NVIDIA 并不是在开玩笑地说这是一个实验性工具。

G-Assist 可在 NVIDIA 桌面应用程序中使用，由一个浮动覆盖窗口组成。调用覆盖窗口后，你可以通过打字或语音与 G-Assist 交互，以检查系统状态或调整设置。你可以询问诸如"DLSS 帧生成是如何工作的？"这样的基本问题，它还可以控制一些系统级设置。

通过调用 G-Assist，你可以获得系统运行状况的详细报告，包括 G-Assist 即时创建的自定义数据图表。你还可以要求 AI 调整你的机器，例如为特定游戏优化设置，或打开/关闭某些设置。G-Assist 甚至可以在你选择的情况下为 GPU 超频，并附带预期性能提升的图表。

NVIDIA 去年展示了 G-Assist 的一些令人印象深刻的功能，这些功能与正在进行的游戏紧密相连。那个版本的 G-Assist 能够观察你的游戏并提供如何达成下一个目标的建议。遗憾的是，在公开版本中，游戏集成非常有限，仅支持少数几款游戏，如《方舟：生存进化》。

不过，它支持多个第三方插件，可以控制罗技 G、海盗船、微星和 Nanoleaf 的外围设备。例如，G-Assist 可以与微星主板通信以控制散热配置，或者与罗技 G 通信更改 LED 设置。

本地 AI 的潜力

在 PC 制造商竞相推出 AI 笔记本电脑的同时，NVIDIA 偶尔会提醒大家，配备真正 GPU 的计算机才是终极 AI PC。然而，利用这一优势的机会并不多，导致大多数 AI 工具仍在云端运行。NVIDIA 之前发布了通用的 ChatRTX 应用程序，但 G-Assist 专注于更可能拥有强大 GPU 的游戏玩家。

NVIDIA 表示，G-Assist 依赖于为本地操作优化的小型语言模型（SLM）。默认文本安装需要 3GB 存储空间，添加语音控制后增加到 6.5GB。你需要拥有至少 12GB RAM 的 GeForce RTX 30、40 和 50 系列 GPU。GPU 越强大，G-Assist 运行越快。笔记本 GPU 的支持将在稍后推出，但很少有笔记本 GPU 能够支持 G-Assist。

G-Assist 在你的 GPU 上运行而非云端，但你可能同时也在使用这个 GPU 运行游戏。我们使用 RTX 4070 进行了测试，与模型交互时 GPU 使用率明显spike。在 GPU 上执行推理以从模型生成输出的过程很慢，并可能导致游戏性能大幅下降。在最高设置下运行《博德之门 3》并非完全无法玩，但在 G-Assist 处理期间，帧率下降了约 20%。如果你的 GPU 已经在苦苦维持帧率，G-Assist 只会让情况变得更糟。在游戏之外，G-Assist 运行速度要快得多，但如果你打算经常使用，你需要一个非常强大的 GPU。

G-Assist 目前还很慢且存在 bug，你可能暂时不会想依赖它。自己调整大多数系统和游戏设置仍然更快。然而，这是朝着在你的硬件上运行 AI 模型迈出的一步有趣尝试。未来的 GPU 可能足够快，能够同时运行游戏和语言模型，但就目前而言，这只是一个有趣的实验。