Salesforce与Databricks发布智能体AI治理工具

Salesforce和Databricks于近日相继推出智能体AI治理功能，旨在为企业快速部署智能体工作流的过程中提供更完善的管控机制。

就在本周早些时候，AWS也发布了智能体注册中心（Agent Registry）——一个用于统一托管、构建和管理跨框架、跨设计智能体的集中化平台。

这些产品的密集发布，折射出业界对收紧智能体AI访问权限的迫切需求。当前，企业普遍同时使用多款智能体产品，并通过多个试点项目寻找最佳应用场景和投资回报。然而，这一模式也容易导致智能体数量失控蔓延，带来安全隐患和高昂运营成本。

Salesforce在公告中指出，快速演进的AI格局需要精细化的管控能力才能实现规模化落地。两家公司均将上述新功能集成到各自的现有产品中——分别是Salesforce的Agent Fabric和Databricks的AI Gateway。

"AI智能体如今已能在多个模型和系统之间协调编排多步骤工作流，而在每个环节几乎都会接触到敏感数据。"Databricks在公告中表示。

Salesforce方面，Agent Fabric新增功能允许用户在多大语言模型技术栈中统一管理Token及合规事项，并支持为智能体配置特定权限。Salesforce表示，该功能可针对资金划转、法律审查等敏感任务进行定制化配置。此外，旗下Agent Broker产品也新增了允许用户定义固定交接规则的功能，同时由大语言模型负责推理判断。

Databricks对AI Gateway的功能扩展，则使用户能够管控大语言模型的访问权限、规范智能体调用API的方式，并针对不同智能体的内部系统访问范围制定相应策略。AI Gateway还将在其Unity Catalog中记录每次请求所产生的美元成本，以应对外界对AI支出日益严格的审查。

Info-Tech研究集团研究总监托马斯·兰德尔在接受电子邮件采访时表示，正在寻找最合适治理方案的CIO应首先评估自身现有的技术架构。

"如果你深度植根于Salesforce生态系统，那么选择Salesforce提供的智能体治理工具会更为合理，而不必引入一个需要额外承担实施成本、集成成本乃至架构调整的独立工具。"他说。

兰德尔还指出，CIO在与供应商沟通并进行选型时，必须清晰界定自己希望解决的具体应用场景。由于智能体AI及其治理策略正处于高速发展阶段，大多数工具在功能上会趋于同质化。他建议将企业最核心的四个应用场景提供给供应商，让其展示产品在真实条件下的实际效果。

兰德尔还建议技术负责人将FinOps（财务运营）与智能体治理视为一体，因为智能体工作流本身具有可变的成本结构。

"一个将自身定位为智能体控制平台的供应商，必须能够为所有在管智能体、模型和工具——包括第三方组件——生成统一的成本账本。"他说。

Q&A

Q1：Salesforce的Agent Fabric新增了哪些治理功能？

A：Salesforce的Agent Fabric新增了跨多大语言模型技术栈的统一Token管理与合规功能，并支持为智能体配置特定操作权限。这意味着企业可以针对资金划转、法律审查等高敏感性任务进行精细化定制，降低数据泄露和越权操作的风险。此外，旗下Agent Broker产品还允许用户设定固定的任务交接规则，由大语言模型负责推理部分，实现人机协作的有效分工。

Q2：企业在选择智能体AI治理工具时应该怎么做？

A：Info-Tech研究集团研究总监托马斯·兰德尔建议，企业应首先评估自身现有技术架构，选择与已有生态系统契合度高的产品，避免引入额外的集成和迁移成本。同时，CIO应明确希望解决的核心应用场景，建议将企业最重要的四个场景提交给候选供应商，要求其展示产品在真实条件下的表现，而非仅依赖功能列表进行比较。

Q3：Databricks的AI Gateway扩展了哪些功能？

A：Databricks扩展后的AI Gateway支持用户管控大语言模型的访问权限、规范智能体调用API的方式，并可针对不同智能体设定其能够访问的内部系统范围。此外，AI Gateway还会在Unity Catalog中记录每次请求的美元成本，帮助企业在AI支出日益受到审查的背景下实现精细化的财务管理，将智能体治理与FinOps有效结合。