身份验证初创公司Vouched Identity Inc.在从Spring Rock Ventures获得1700万美元A轮融资后,将注意力从人类身份验证转向专注于人工智能智能体的身份验证。
该初创公司以提供数字身份验证工具而闻名,其软件用于扫描个人自拍照片并与提供的护照、驾驶执照等文件进行比较,以验证人们的真实身份。
但让它与其他身份验证提供商区别开来的是,它现在专注于识别AI智能体。随着这些基于生成式AI构建的自主软件系统越来越多地接管网络,为人类用户完成任务、预订假期等,企业迫切需要能够识别它们并确保它们可以被信任。
这正是Vouched试图通过其"了解你的智能体"(Know Your Agent)产品所做的事情,这是一套用于验证AI智能体身份和监控其行为的工具。它还运营着一个名为"了解该智能体"(Know That Agent)的庞大AI智能体数据库,允许企业检查访问其网站的每个智能体的声誉。
该初创公司相信它为电子商务和数字市场等受监管行业的企业提供了急需的服务。通过其平台,公司可以识别访问其服务的AI智能体并持续监控其行为,具有检查其凭据、风险级别和持续合规性的特定模块。
Know Your Agent套件提供两个主要工具。第一个是Agent Shield,旨在帮助企业识别访问其网站的AI智能体而不是人类。它识别AI智能体代表人类行动的每个会话,帮助网站运营商了解他们正在经历多少智能体流量。每当AI智能体访问网站时,它都会为该智能体创建一个会话ID,以便公司可以确定它们在其网站上采取什么样的行动。
Vouched首席执行官Peter Horadan告诉SiliconANGLE,没有其他公司能够提供这种区分AI智能体和人类用户的能力。"没有既定的机制,所以我们创建了一个专有的启发式方法,它的工作原理很像垃圾邮件检测,"他解释说。"我们和行业中的一些其他公司都提出了识别智能体的新协议,但现在还很早,这些协议都还没有被采用。"
第二个工具称为Agent Bouncer,它支持模型上下文协议等开放框架,以促进智能体生态系统中的互操作性和信任。这里的想法是保护免受恶意活动的侵害。
当AI智能体连接到MCP服务器或网关以便在特定网站上采取行动时,Agent Bouncer将识别该智能体是什么,决定它是否值得信任,确定它代表谁行动,然后确保个人已明确授权智能体采取这些行动。
Horadon说,与AI智能体相关的主要风险之一是它们可能协助所谓的"网络钓鱼"攻击,网络犯罪分子试图窃取用户的密码和其他私人信息。此外,他说一些公司员工会主动向AI智能体提供工作登录凭据,以使他们的工作更容易,而不考虑该智能体是否可以信任。
"这是安全协议的惊人违规,"他声称。"如果你是员工,你在未经授权的情况下将工作凭据交给第三方,你可能会也应该被解雇。"
对企业的另一个风险是,他们的客户也可能将登录凭据交给AI智能体,导致看起来像是由合法人类用户下的欺诈性订单。Horadon说,Vouched可以通过阻止这些恶意智能体在其网站上采取行动来防止这种情况发生。他说,它还可以帮助保护企业机密,指出智能体交互中完全缺乏隐私。
"你给AI智能体的任何东西都没有隐私,"Horadon说。"纽约时报对OpenAI有活跃的传票,可以检索任何聊天记录,无论是否机密。如果你的员工将凭据交给ChatGPT,这就相当于将你的潜在客户名单、客户名单或任何其他机密信息发送给纽约时报。"
由于这些风险,Horadan说,任何希望使用AI智能体的公司都需要确保它可以信任它们,这就是其识别和验证工具发挥作用的地方。"我们正在加倍投入KYA对可信自主智能体的愿景,并扩展我们的平台以匹配快速发展的数字世界的步伐,"他说。
凭借本轮融资,Vouched打算在其KYA套件的能力基础上继续发展,扩大其KTA数据库,并与更多行业合作伙伴合作,帮助确保未来智能体驱动交互的安全性。
Q&A
Q1:Vouched的"了解你的智能体"产品是什么?
A:"了解你的智能体"(Know Your Agent)是Vouched开发的一套用于验证AI智能体身份和监控其行为的工具。它包含Agent Shield和Agent Bouncer两个主要工具,可以帮助企业识别访问其网站的AI智能体,检查智能体的凭据、风险级别和持续合规性。
Q2:AI智能体会带来哪些安全风险?
A:AI智能体可能协助网络钓鱼攻击,窃取用户密码和私人信息。员工可能主动向AI智能体提供工作登录凭据,违反安全协议。客户也可能将登录凭据交给智能体,导致欺诈性订单。此外,AI智能体交互缺乏隐私保护,机密信息可能被泄露。
Q3:Agent Shield和Agent Bouncer有什么区别?
A:Agent Shield主要用于识别访问网站的AI智能体而不是人类用户,为每个智能体创建会话ID以监控其行为。Agent Bouncer则专注于保护免受恶意活动侵害,当智能体连接服务器时,它会识别智能体身份、判断可信度,并确保用户已明确授权智能体采取相应行动。
好文章,需要你的鼓励
瑞典央行与金融机构及国家安全部门深化合作,共同应对网络威胁。今年5月,瑞典遭遇大规模分布式拒绝服务攻击,政府和金融机构受到严重冲击。总理克里斯特松承诺增加资金支持,建立更强大的公私合作伙伴关系。央行将举办第二届在线网络安全挑战峰会,鼓励金融机构提升网络安全能力。瑞典金融协会敦促建立危机管理机制,与国家网络安全中心等机构协调配合。
字节跳动发布Seedream 4.0多模态图像生成系统,实现超10倍速度提升,1.4秒可生成2K高清图片。该系统采用创新的扩散变换器架构,统一支持文字生成图像、图像编辑和多图合成功能,在两大国际竞技场排行榜均获第一名,支持4K分辨率输出,已集成至豆包、剪映等平台,为内容创作带来革命性突破。
工作压力源于大脑储存混乱而非系统。本文介绍5个ChatGPT提示词,帮你将工作压力转化为结构化行动:优先级排序任务清单、快速撰写专业邮件回复、从冗长文档中提取关键信息、生成问题解决方案、高效准备会议内容。通过系统化处理工作事务,将分散的精力转为专注执行,让大脑专注于决策而非重复劳动。
红帽公司研究团队提出危险感知系统卡(HASC)框架,为AI系统建立类似"体检报告"的透明度文档,记录安全风险、防护措施和问题修复历史。同时引入ASH识别码系统,为AI安全问题建立统一标识。该框架支持自动生成和持续更新,与ISO/IEC 42001标准兼容,旨在平衡透明度与商业竞争,建立更可信的AI生态系统,推动行业协作和标准化。