红帽收购Chatterbox Labs加强AI治理能力

红帽公司周二宣布收购位于伦敦的AI公司Chatterbox Labs，该公司专注于提供模型测试和生成式AI防护栏服务。交易条款暂未披露。

红帽表示，此次收购将为其AI产品组合增加自动化AI风险评估、安全测试和治理能力。

红帽AI工程和产品策略副总裁Steven Huels在博客文章中写道："企业正以极快速度将AI从实验室推向生产环境，这提升了对可信、安全和透明AI部署的紧迫性需求。"

红帽此次收购发出信号，表明安全、信任和治理正在成为争夺企业支出的AI提供商的基本要求。该交易为公司产品组合提供了额外的透明度和治理能力。

Chatterbox Labs的AI风险指标旨在帮助组织根据国际法规验证其数据和模型，为稳健性、公平性和可解释性提供模型无关的测试。

作为交易的一部分，红帽将获得"AI安全"能力，包括生成式AI防护栏、模型透明度、预测AI验证和执行仪表板。

此次收购还建立在10月推出的红帽AI 3基础上，引入了智能体AI和模型上下文协议的能力，这是由Anthropic开发的开放标准，已被快速采用。

对红帽而言，这类产品填补了关键空白，因为公司将AI从实验推向生产，并开始依赖直接与客户和核心业务流程交互的系统，引发了对偏见、模型漏洞和监管风险的担忧。

此举也正值治理难以跟上采用步伐之际。

10月发布的EY调查发现，虽然超过五分之三的组织遭受了至少100万美元的AI相关风险损失，但治理为此类威胁提供了可衡量的缓冲。同一调查发现，具有明确负责任AI原则的组织比没有正式框架的组织风险减少30%。

然而，意识只是缓慢转化为实际行动，Collibra调查发现不到一半的技术决策者已正式制定治理政策和框架。

Q&A

Q1：红帽为什么收购Chatterbox Labs？

A：红帽收购Chatterbox Labs是为了加强其AI产品组合的治理能力，获得自动化AI风险评估、安全测试和治理功能，帮助企业在将AI从实验室推向生产环境时确保安全、透明和可信的部署。

Q2：Chatterbox Labs提供什么AI服务？

A：Chatterbox Labs是一家专注于AI模型测试和生成式AI防护栏的公司，其AI风险指标可以帮助组织根据国际法规验证数据和模型，提供模型无关的稳健性、公平性和可解释性测试。

Q3：企业在AI治理方面面临什么挑战？

A：企业面临的主要挑战是治理难以跟上AI采用步伐。调查显示超过五分之三的组织遭受了至少100万美元的AI相关风险损失，但不到一半的技术决策者制定了正式的治理政策和框架。