前思科AI安全研究人员近日联合创立了一家新公司,专门应对一个在一年前几乎还不存在的问题:如何保护企业交由AI智能体管控的核心系统安全。
Tenet Security今日正式发布了一款平台,旨在拦截恶意AI智能体行为,防止其进入生产系统。该平台的核心技术名为"智能体侧仿真"(Agent-Side Simulation),能够在智能体与实时基础设施交互之前,预测并模拟其可能采取的下一步行动。
一旦某条执行路径被判定存在风险,Tenet将在损害发生之前介入,并生成一份详细说明为何该操作被拦截的追踪报告。现有大多数安全工具仅在可疑行为发生后才触发告警,而Tenet的目标是在智能体真正采取行动之前,率先发现并遏制问题。
当前,越来越多的企业正赋予AI智能体真实的自主操作权限,包括运行代码、访问数据库以及直接修改线上系统。然而,一旦智能体在环境中运行,安全团队往往难以追踪其具体行为。Tenet指出,企业实际运行的AI智能体数量,往往是安全团队所掌握数量的五倍之多。
"AI智能体可能是企业数十年来见过的最大生产力突破,这也正是各组织争相快速部署的原因,"Tenet联合创始人兼首席执行官Barak Sternberg表示,"但与此同时,我们正进入一个自主智能体以大多数安全工具从未设计应对的方式,与系统、数据及其他智能体进行交互的全新时代。"
Sternberg与Nevo Poran共同创立了Tenet。两人均为攻击性安全研究人员,此前曾在思科AI Defense部门工作,深入研究攻击者如何入侵自主系统。更早之前,两人共同运营了网络安全公司Wild Pointer,该公司曾实现七位数年收入,客户涵盖多家财富500强企业。Sternberg与Poran均曾在DEF CON和Black Hat等顶级安全会议上发表演讲。
此次正式发布,是在公司旗下Tenet Threat Labs的研究基础上推进的。该实验室将一类新型攻击命名为"智能体劫持"(agentjacking),其核心手法是操控AI智能体执行攻击者预设的指令。
攻击者将恶意指令隐藏在智能体可能读取的内容中,例如电子邮件、日志条目或数据库记录。当智能体读取到这些内容时,隐藏指令便会接管并重定向智能体的后续行为。Tenet表示,该公司在逾100个企业环境中测试了这一攻击方式,发现数千家组织存在被攻击的风险,而传统安全工具均未能检测到该威胁——因为智能体所执行的操作均在其被授权的范围之内,并未触发任何告警。
早期部署案例已印证了这一问题的严峻程度。在法律行业中,一家年经常性收入达10亿美元的企业,在使用该平台的六个月内,智能体部署数量从2个增长至逾20个,期间成功拦截了超过10次攻击企图,其中包括一次严重的跨站脚本攻击。另有一家财富1000强客户,在单个周末内被Tenet发现有一个失控智能体消耗了数万美元的Token资源。
"我们日益发现,AI智能体本身正在成为攻击路径的一部分,"Poran表示,"唯一能够捕获这些威胁的时机,是在运行时、在智能体决定采取行动的那一刻。"
本次发布获得了600万美元种子轮融资的支持,资金将用于产品研发、Tenet Threat Labs扩张以及北美市场业务拓展。本轮融资由SentinelOne早期投资方The Westly Group领投,MizMaa Ventures参投。Tenet的顾问团队包括Robinhood Markets前首席信息安全官David Schwed,以及纽约梅隆银行前首席信息安全官Rick Scott。
Q&A
Q1:Tenet Security的"智能体侧仿真"技术是如何工作的?
A:智能体侧仿真(Agent-Side Simulation)是Tenet Security的核心技术,它会在AI智能体与实际生产系统交互之前,预先模拟智能体可能采取的下一步行动。如果某条执行路径被判定存在风险,系统会在损害发生前主动介入并阻止,同时生成一份详细说明拦截原因的追踪报告。这与传统安全工具"事后告警"的方式不同,Tenet强调的是"事前预防"。
Q2:"智能体劫持"攻击是怎么回事,为什么传统安全工具检测不到?
A:"智能体劫持"(agentjacking)是Tenet Threat Labs定义的一类新型攻击。攻击者将恶意指令隐藏在AI智能体会读取的内容中,比如电子邮件、日志条目或数据库记录。智能体读取后,隐藏指令就会接管并重定向其行为。传统安全工具之所以无法检测,是因为智能体执行的操作仍在其被授权范围内,不会触发任何告警机制。Tenet在超过100个企业环境中测试后,发现数千家机构面临此类风险。
Q3:Tenet Security目前有哪些真实客户案例?
A:Tenet公开了两个早期部署案例。一是法律行业中一家年经常性收入10亿美元的企业,六个月内智能体部署数量从2个增至20余个,期间平台拦截了超过10次攻击,包括一次严重的跨站脚本攻击。二是一家财富1000强企业,平台在单个周末内发现一个失控的AI智能体消耗了数万美元的Token资源,及时阻止了进一步损失。
好文章,需要你的鼓励
苹果已开始在印度分阶段恢复Apple账户的信用卡支付功能,用户可绑定Visa和Mastercard信用卡及借记卡,用于购买iCloud+、Apple Music订阅及App Store应用。此前,由于印度储备银行于2021年推出新的周期性支付监管框架,苹果于2022年5月暂停了该支付方式。此次恢复标志着苹果在适应各国本地化监管要求方面的持续努力,同时也引发外界对苹果是否将在印度推出Apple Pay的新猜测。
DSpark是DeepSeek与北京大学提出的投机解码框架,通过半自回归生成和置信度调度验证两项创新,将DeepSeek-V4用户生成速度提升60%至85%。
Bookshop.org创始人Andy Hunter证实,与Kobo的合作集成将于今年落地。此前该计划历经多次推迟,网页措辞一度从"2026年"改为"未来某时"。Hunter表示,双方已就商业条款达成一致,工程团队正将资源重新投入Kobo支持开发,但尚无具体上线日期。该集成将支持数字版权管理要求,让用户通过Bookshop.org购买电子书,同时支持独立书店。
CGGS是华南理工大学与西湖大学联合提出的以自我为中心三维场景生成框架,通过一致性增强多视角扩散模型、光流深度估计和互信息几何优化,实现高保真文本驱动3D场景生成。