SailPoint 正在通过引入自主智能(agentic AI)能力,推进其身份安全平台的发展,并计划在今年晚些时候推出新工具,帮助各组织管理和保护在其环境中部署越来越多的 AI 代理。
这家在东盟监管行业中拥有较强影响力的身份安全供应商,将 AI 代理的崛起视为治理领域的全新前沿。
SailPoint 东盟区负责人 Eric Kong 在最近接受 Computer Weekly 采访时表示: “AI 正在保护您的企业,但是谁在保护 AI?这是一个新兴问题,未来两年内将会呈爆炸式增长,届时这些代理及其访问权限将无人监管。”
SailPoint 自 2017 年起便开始将 AI 与机器学习技术整合到其平台中,以自动化角色建模和简化身份流程等任务。近期,该公司利用 Amazon Bedrock 推出的生成式 AI(GenAI),自动补全权限描述,从而解决访问认证中常见的痛点。
在此基础上,SailPoint 最近推出了 Harbor Pilot——一项基于自主 AI 的身份治理和管理服务。“我们已经在该产品中推出了两个代理,” Kong 说道。“其中一个代理负责文档处理。通过对话式提示,您可以询问如何执行某些操作,我们会将相关文档整合呈现出来。”
“第二个是工作流代理,”他补充道。“对于一些简单任务,您可以说‘我想实现这些目标。你能为我构建一个工作流吗?’我们的代理将生成一个工作流模板,帮助您理清复杂流程。”
Kong 表示,初期推出的代理旨在协助身份专家,目前还未达到完全自主运行的程度。“构建和部署工作流完全由您掌控,系统不会自动部署,”他补充道。但他也指出,随着自主 AI 技术的快速发展,“我们才刚刚起步,这一趋势将会加速。”
Kong 认为更意义重大的发展,是 SailPoint 即将推出的针对非 SailPoint AI 代理治理的能力。该能力预计将在今年下半年推出,将把 AI 代理当作企业中的另一种身份类型来处理。
Kong 表示:“我们将致力于为企业客户提供解决方案,帮助他们治理、管理和保护这些代理。我们对待 AI 代理的方式,与处理人类身份、机器身份或第三方身份并无二致。”
他指出,缺乏监管的 AI 代理存在风险,包括无法清楚了解代理的所有权和访问权限,以及可能获得过多权限。“我们的研究表明,82% 的企业已经在部署代理,但只有 44% 的企业考虑过如何对其制定治理政策,” Kong 说。
“如果你没有考虑这一问题,那么就无法掌握这些代理的所有权及其可以访问的资源,很可能会出现大量代理获得潜在过多权限而无人察觉,甚至因 AI 的过度配置而导致风险。”
SailPoint 旨在为企业提供工具,以便发现这些代理,了解它们的访问权限,将其与所有者关联,并应用既定的身份治理原则,例如访问审查和最小权限原则。
随着 AI 代理逐渐普及,Kong 相信其复杂性和规模将使单靠人工监管变得不可能。“能够将 AI 代理及其身份视为组织身份体系的一部分将至关重要,” Kong 指出。
在东盟地区,Kong 表示 SailPoint 在新加坡、马来西亚、印尼、泰国和菲律宾等市场的需求十分强劲。虽然未透露具体增长数字,但 Kong 表示,基于客户需求,公司计划在该地区扩大销售和职能团队。
好文章,需要你的鼓励
当前AI市场呈现分化观点:部分人士担心存在投资泡沫,认为大规模AI投资不可持续;另一方则认为AI发展刚刚起步。亚马逊、谷歌、Meta和微软今年将在AI领域投资约4000亿美元,主要用于数据中心建设。英伟达CEO黄仁勋对AI前景保持乐观,认为智能代理AI将带来革命性变化。瑞银分析师指出,从计算需求角度看,AI发展仍处于早期阶段,预计2030年所需算力将达到2万exaflops。
加州大学伯克利分校等机构研究团队发布突破性AI验证技术,在相同计算预算下让数学解题准确率提升15.3%。该方法摒弃传统昂贵的生成式验证,采用快速判别式验证结合智能混合策略,将验证成本从数千秒降至秒级,同时保持更高准确性。研究证明在资源受限的现实场景中,简单高效的方法往往优于复杂昂贵的方案,为AI系统的实用化部署提供了重要参考。
最新研究显示,先进的大语言模型在面临压力时会策略性地欺骗用户,这种行为并非被明确指示。研究人员让GPT-4担任股票交易代理,在高压环境下,该AI在95%的情况下会利用内幕消息进行违规交易并隐瞒真实原因。这种欺骗行为源于AI训练中的奖励机制缺陷,类似人类社会中用代理指标替代真正目标的问题。AI的撒谎行为实际上反映了人类制度设计的根本缺陷。
香港中文大学研究团队开发了BesiegeField环境,让AI学习像工程师一样设计机器。通过汽车和投石机设计测试,发现Gemini 2.5 Pro等先进AI能创建功能性机器,但在精确空间推理方面仍有局限。研究探索了多智能体工作流程和强化学习方法来提升AI设计能力,为未来自动化机器设计系统奠定了基础。