身份验证初创公司Vouched Identity Inc.在从Spring Rock Ventures获得1700万美元A轮融资后,将注意力从人类身份验证转向专注于人工智能智能体的身份验证。
该初创公司以提供数字身份验证工具而闻名,其软件用于扫描个人自拍照片并与提供的护照、驾驶执照等文件进行比较,以验证人们的真实身份。
但让它与其他身份验证提供商区别开来的是,它现在专注于识别AI智能体。随着这些基于生成式AI构建的自主软件系统越来越多地接管网络,为人类用户完成任务、预订假期等,企业迫切需要能够识别它们并确保它们可以被信任。
这正是Vouched试图通过其"了解你的智能体"(Know Your Agent)产品所做的事情,这是一套用于验证AI智能体身份和监控其行为的工具。它还运营着一个名为"了解该智能体"(Know That Agent)的庞大AI智能体数据库,允许企业检查访问其网站的每个智能体的声誉。
该初创公司相信它为电子商务和数字市场等受监管行业的企业提供了急需的服务。通过其平台,公司可以识别访问其服务的AI智能体并持续监控其行为,具有检查其凭据、风险级别和持续合规性的特定模块。
Know Your Agent套件提供两个主要工具。第一个是Agent Shield,旨在帮助企业识别访问其网站的AI智能体而不是人类。它识别AI智能体代表人类行动的每个会话,帮助网站运营商了解他们正在经历多少智能体流量。每当AI智能体访问网站时,它都会为该智能体创建一个会话ID,以便公司可以确定它们在其网站上采取什么样的行动。
Vouched首席执行官Peter Horadan告诉SiliconANGLE,没有其他公司能够提供这种区分AI智能体和人类用户的能力。"没有既定的机制,所以我们创建了一个专有的启发式方法,它的工作原理很像垃圾邮件检测,"他解释说。"我们和行业中的一些其他公司都提出了识别智能体的新协议,但现在还很早,这些协议都还没有被采用。"
第二个工具称为Agent Bouncer,它支持模型上下文协议等开放框架,以促进智能体生态系统中的互操作性和信任。这里的想法是保护免受恶意活动的侵害。
当AI智能体连接到MCP服务器或网关以便在特定网站上采取行动时,Agent Bouncer将识别该智能体是什么,决定它是否值得信任,确定它代表谁行动,然后确保个人已明确授权智能体采取这些行动。
Horadon说,与AI智能体相关的主要风险之一是它们可能协助所谓的"网络钓鱼"攻击,网络犯罪分子试图窃取用户的密码和其他私人信息。此外,他说一些公司员工会主动向AI智能体提供工作登录凭据,以使他们的工作更容易,而不考虑该智能体是否可以信任。
"这是安全协议的惊人违规,"他声称。"如果你是员工,你在未经授权的情况下将工作凭据交给第三方,你可能会也应该被解雇。"
对企业的另一个风险是,他们的客户也可能将登录凭据交给AI智能体,导致看起来像是由合法人类用户下的欺诈性订单。Horadon说,Vouched可以通过阻止这些恶意智能体在其网站上采取行动来防止这种情况发生。他说,它还可以帮助保护企业机密,指出智能体交互中完全缺乏隐私。
"你给AI智能体的任何东西都没有隐私,"Horadon说。"纽约时报对OpenAI有活跃的传票,可以检索任何聊天记录,无论是否机密。如果你的员工将凭据交给ChatGPT,这就相当于将你的潜在客户名单、客户名单或任何其他机密信息发送给纽约时报。"
由于这些风险,Horadan说,任何希望使用AI智能体的公司都需要确保它可以信任它们,这就是其识别和验证工具发挥作用的地方。"我们正在加倍投入KYA对可信自主智能体的愿景,并扩展我们的平台以匹配快速发展的数字世界的步伐,"他说。
凭借本轮融资,Vouched打算在其KYA套件的能力基础上继续发展,扩大其KTA数据库,并与更多行业合作伙伴合作,帮助确保未来智能体驱动交互的安全性。
Q&A
Q1:Vouched的"了解你的智能体"产品是什么?
A:"了解你的智能体"(Know Your Agent)是Vouched开发的一套用于验证AI智能体身份和监控其行为的工具。它包含Agent Shield和Agent Bouncer两个主要工具,可以帮助企业识别访问其网站的AI智能体,检查智能体的凭据、风险级别和持续合规性。
Q2:AI智能体会带来哪些安全风险?
A:AI智能体可能协助网络钓鱼攻击,窃取用户密码和私人信息。员工可能主动向AI智能体提供工作登录凭据,违反安全协议。客户也可能将登录凭据交给智能体,导致欺诈性订单。此外,AI智能体交互缺乏隐私保护,机密信息可能被泄露。
Q3:Agent Shield和Agent Bouncer有什么区别?
A:Agent Shield主要用于识别访问网站的AI智能体而不是人类用户,为每个智能体创建会话ID以监控其行为。Agent Bouncer则专注于保护免受恶意活动侵害,当智能体连接服务器时,它会识别智能体身份、判断可信度,并确保用户已明确授权智能体采取相应行动。
好文章,需要你的鼓励
瑞士政府正式发布了自主研发的人工智能模型,该模型完全基于公共数据进行训练。这一举措标志着瑞士在AI技术自主化方面迈出重要一步,旨在减少对外国AI技术的依赖,同时确保数据安全和隐私保护。该模型的推出体现了瑞士对发展本土AI能力的战略重视。
腾讯混元等机构联合提出PREF-GRPO方法,首次采用成对偏好比较替代传统评分,成功解决AI图像生成中的奖励欺骗问题。同时构建UNIGENBENCH评测基准,包含600测试案例和27个细粒度评价维度,为行业提供更精确的模型评估标准。实验显示新方法在多项指标上显著优于传统方法,特别在复杂任务上提升明显。
安克旗下智能家居品牌Eufy发布了最新款安防摄像头产品,该设备采用先进的全景监控技术,能够实现360度无死角覆盖,同时监控多个区域。这款摄像头配备了高清成像系统和智能识别功能,可为用户提供更全面的家庭或办公场所安全保护,标志着智能安防设备在监控范围和效率方面的重要技术突破。
蚂蚁集团与西湖大学联合开发的AWORLD开源框架,通过分布式并行训练将AI助手的练习效率提升14.6倍,成功将Qwen3-32B模型在GAIA测试中的准确率从21.59%提升至32.23%,在最困难任务上甚至超越了GPT-4o等商业AI产品,为"从练习中学习"的AI训练理念提供了实用解决方案。