智能体系统在生产环境中的常见故障点

一个团队发布了新的智能体功能，在演示环境中运行顺畅。然而一周后进入生产环境，一次常规的集群部署完成后，智能体立刻"失忆"，丢弃了尚未完成的任务，并在系统记录中留下了孤立的残余变更，用户体验随之崩溃。这个功能，实际上已经宣告失败。

大多数工程团队耗费过多时间在处理这类问题上，而非推进真正的创新。

各类规模的组织每天都在面对类似的情况。团队往往第一时间归咎于大语言模型，认为是模型出现了幻觉或丢失了上下文。但查看日志后往往会发现，模型本身的表现完全符合预期。一旦智能体具备了实际执行能力，故障定位就变得更加困难，团队需要深入分析其底层执行层。

执行成熟度矩阵：评估智能体系统的可靠性

智能体系统的韧性，取决于其输入和执行顺序所能提供的保障能力。当智能体的任务是长时运行、分布式且具有实际影响时，核心问题在于：系统能提供哪些执行保障？

团队可以通过一个执行成熟度矩阵，从以下四个独立维度评估系统能力。这个矩阵并非线性的成熟路径，因为真实系统的演进很少如此整齐。矩阵的目的在于揭示哪项能力正在制约系统表现。落实这些保障，需要端到端的运维自动化：包括基础设施的配置、任务路由、沙箱生命周期管理、容量伸缩、环境清理，以及在基础设施本身故障时的自动恢复，而不依赖人工干预或隐性经验。例如，若某台服务器在任务执行中途崩溃，系统应自动将智能体迁移到健康服务器，从中断处继续执行，而非重头开始。

执行持久性：在原始状态下，状态数据存储于内存中，进程崩溃将导致上下文和待处理的工具调用全部丢失。在成熟状态下，每一步都持久化保存，系统清楚地知道已发生了什么、当前正在进行什么，以及接下来必须做什么。

任务时长：原始系统只能处理单个开放会话中持续数秒的任务；成熟系统则支持持久化定时器、不占用线程的持久等待、轮询、定期任务、人工审批、长时工具调用以及可恢复的工作流。智能体与子智能体可在故障前后持续通信，任务可安全运行数天乃至数月。

托管与隔离：在成熟系统中，执行 Shell 命令、CLI 调用等高风险操作需在经过配置和隔离的环境中进行，并具备完整的生命周期管理机制。

服务质量（QoS）：缺乏流量控制的系统在并发峰值期间会出现不可预测的性能下降、局部故障甚至全面中断。成熟系统能够处理背压、优先级调度、跨调用方与租户的公平性、速率限制、配额管理、故障隔离以及可预期的降级行为，系统可以决定谁在何时获得多少资源。

安全性、身份认证、可观测性和成本控制等维度，贯穿上述四个轴线，而非单独列于矩阵之中。当操作涉及高风险场景时，执行层面的强制约束至关重要：如果一个智能体有权转移资金，审批流程必须在结构层面加以强制保障，而非依赖提示词中的一句建议。

生产环境的现状与差距

大多数生产级智能体系统在托管与隔离方面表现最为成熟。许多团队已具备某种形式的执行框架、云端运行环境、沙箱机制和生命周期管理，但执行可靠性的整体水平仍远远不够。

智能体系统不只是一个智能体循环，而是一组工作流的集合：包括协调工具调用、管理状态、连接各步骤的控制平面代码。无论代码由工程师手动编写，还是由智能体动态生成，如今大量代码都是一次性的，依赖于临时会话的持续存活。底层的持久化执行层，能够将工作流转变为持久自动化，不受代码来源影响——任务要么保证完成，要么明确报错；系统在崩溃后可恢复执行，定时器具备持久性，子智能体可在故障前后保持通信。

执行层是智能体可靠运行的基础

智能体系统正在快速演进。如果每个应用都必须自行实现持久化、重试、定时器、恢复、版本管理和协调逻辑，团队要么因此放慢速度，要么在生产环境中遭遇失败，更多情况下是两者兼而有之。

团队需要停止在每个新的智能体代码库中重复构建可靠性基础设施，应当将更多精力投入到产品行为本身，而非维持这些行为在故障条件下正常运转所需的底层机制。

智能体框架定义了智能体做什么，持久化执行层则确保这些工作在基础设施故障时依然可恢复、可扩展。随着模型承担越来越多具有实际影响的任务，执行层将决定它们能否安全地完成这些任务，并具备持续支撑所需的可靠保障。

作者：Max Fateev，Temporal 联合创始人兼 CTO。他拥有 20 年 AWS、谷歌和 Uber 的从业经历，曾主导 AWS SQS 消息存储及 Simple Workflow 服务的开发，并在 Uber 联合创建了 Temporal 的前身 Cadence。如今，Temporal 每天为 Stripe、Datadog、Snapchat 等企业运行数百万个高可靠、高扩展性的工作流。

Q&A

Q1：智能体系统在生产环境中最常见的故障原因是什么？

A：很多团队第一反应是怀疑大语言模型出现幻觉或丢失上下文，但实际查看日志后往往发现模型表现正常。真正的问题通常出在底层执行层，比如状态未持久化、任务依赖临时会话存活、基础设施崩溃后无法自动恢复等。智能体一旦具备实际执行能力，故障定位就需要深入分析执行层，而非仅看模型输出。

Q2：执行成熟度矩阵的四个维度分别是什么？

A：执行成熟度矩阵从四个独立维度评估智能体系统：一是执行持久性，即状态是否在崩溃后仍能保留；二是任务时长，即系统能否支持持续数天甚至数月的长时任务；三是托管与隔离，即高风险操作是否在受控环境中执行；四是服务质量（QoS），即系统能否在并发峰值时稳定运行，支持优先级调度和故障隔离。

Q3：持久化执行层对智能体系统有什么作用？

A：持久化执行层能将工作流转变为持久自动化，无论代码由人工编写还是智能体生成。它保证任务要么完成、要么明确报错，支持崩溃后自动恢复、持久定时器以及子智能体在故障前后的持续通信。有了它，团队无需在每个新项目中重复构建可靠性基础设施，可以专注于产品功能本身。