Tenet Security正式成立,专注防御企业AI智能体安全威胁

前思科AI安全研究人员Barak Sternberg与Nevo Poran联合创立Tenet Security,并正式推出专为保护自主AI智能体设计的安全平台。该平台核心技术"智能体侧模拟"可在AI智能体操作生产系统前预判其行为风险,提前拦截恶意动作。公司研究发现企业实际运行的AI智能体数量往往是安全团队掌握数量的5倍,并揭示了一种名为"智能体劫持"的新型攻击手法。Tenet已获得600万美元种子轮融资。

前思科AI安全研究人员近日联合创立了一家新公司,专门应对一个在一年前几乎还不存在的问题:如何保护企业交由AI智能体管控的核心系统安全。

Tenet Security今日正式发布了一款平台,旨在拦截恶意AI智能体行为,防止其进入生产系统。该平台的核心技术名为"智能体侧仿真"(Agent-Side Simulation),能够在智能体与实时基础设施交互之前,预测并模拟其可能采取的下一步行动。

一旦某条执行路径被判定存在风险,Tenet将在损害发生之前介入,并生成一份详细说明为何该操作被拦截的追踪报告。现有大多数安全工具仅在可疑行为发生后才触发告警,而Tenet的目标是在智能体真正采取行动之前,率先发现并遏制问题。

当前,越来越多的企业正赋予AI智能体真实的自主操作权限,包括运行代码、访问数据库以及直接修改线上系统。然而,一旦智能体在环境中运行,安全团队往往难以追踪其具体行为。Tenet指出,企业实际运行的AI智能体数量,往往是安全团队所掌握数量的五倍之多。

"AI智能体可能是企业数十年来见过的最大生产力突破,这也正是各组织争相快速部署的原因,"Tenet联合创始人兼首席执行官Barak Sternberg表示,"但与此同时,我们正进入一个自主智能体以大多数安全工具从未设计应对的方式,与系统、数据及其他智能体进行交互的全新时代。"

Sternberg与Nevo Poran共同创立了Tenet。两人均为攻击性安全研究人员,此前曾在思科AI Defense部门工作,深入研究攻击者如何入侵自主系统。更早之前,两人共同运营了网络安全公司Wild Pointer,该公司曾实现七位数年收入,客户涵盖多家财富500强企业。Sternberg与Poran均曾在DEF CON和Black Hat等顶级安全会议上发表演讲。

此次正式发布,是在公司旗下Tenet Threat Labs的研究基础上推进的。该实验室将一类新型攻击命名为"智能体劫持"(agentjacking),其核心手法是操控AI智能体执行攻击者预设的指令。

攻击者将恶意指令隐藏在智能体可能读取的内容中,例如电子邮件、日志条目或数据库记录。当智能体读取到这些内容时,隐藏指令便会接管并重定向智能体的后续行为。Tenet表示,该公司在逾100个企业环境中测试了这一攻击方式,发现数千家组织存在被攻击的风险,而传统安全工具均未能检测到该威胁——因为智能体所执行的操作均在其被授权的范围之内,并未触发任何告警。

早期部署案例已印证了这一问题的严峻程度。在法律行业中,一家年经常性收入达10亿美元的企业,在使用该平台的六个月内,智能体部署数量从2个增长至逾20个,期间成功拦截了超过10次攻击企图,其中包括一次严重的跨站脚本攻击。另有一家财富1000强客户,在单个周末内被Tenet发现有一个失控智能体消耗了数万美元的Token资源。

"我们日益发现,AI智能体本身正在成为攻击路径的一部分,"Poran表示,"唯一能够捕获这些威胁的时机,是在运行时、在智能体决定采取行动的那一刻。"

本次发布获得了600万美元种子轮融资的支持,资金将用于产品研发、Tenet Threat Labs扩张以及北美市场业务拓展。本轮融资由SentinelOne早期投资方The Westly Group领投,MizMaa Ventures参投。Tenet的顾问团队包括Robinhood Markets前首席信息安全官David Schwed,以及纽约梅隆银行前首席信息安全官Rick Scott。

Q&A

Q1:Tenet Security的"智能体侧仿真"技术是如何工作的?

A:智能体侧仿真(Agent-Side Simulation)是Tenet Security的核心技术,它会在AI智能体与实际生产系统交互之前,预先模拟智能体可能采取的下一步行动。如果某条执行路径被判定存在风险,系统会在损害发生前主动介入并阻止,同时生成一份详细说明拦截原因的追踪报告。这与传统安全工具"事后告警"的方式不同,Tenet强调的是"事前预防"。

Q2:"智能体劫持"攻击是怎么回事,为什么传统安全工具检测不到?

A:"智能体劫持"(agentjacking)是Tenet Threat Labs定义的一类新型攻击。攻击者将恶意指令隐藏在AI智能体会读取的内容中,比如电子邮件、日志条目或数据库记录。智能体读取后,隐藏指令就会接管并重定向其行为。传统安全工具之所以无法检测,是因为智能体执行的操作仍在其被授权范围内,不会触发任何告警机制。Tenet在超过100个企业环境中测试后,发现数千家机构面临此类风险。

Q3:Tenet Security目前有哪些真实客户案例?

A:Tenet公开了两个早期部署案例。一是法律行业中一家年经常性收入10亿美元的企业,六个月内智能体部署数量从2个增至20余个,期间平台拦截了超过10次攻击,包括一次严重的跨站脚本攻击。二是一家财富1000强企业,平台在单个周末内发现一个失控的AI智能体消耗了数万美元的Token资源,及时阻止了进一步损失。

来源:SiliconANGLE

0赞

好文章,需要你的鼓励

2026

06/17

21:58

分享

点赞

邮件订阅