对于企业而言,AI治理始终是一场追赶游戏。模型更新与迭代以极快的速度推进,往往在治理框架尚未经过实战检验之前便已过时。
为突破这一困局,OpenAI正式推出了"活跃会话"(Active Sessions)功能。这一全新的ChatGPT安全特性允许用户通过简洁的界面查看并退出一个或多个登录会话。该功能现已向所有ChatGPT账户和工作区类型开放,包括个人账户和托管工作区。专家认为,对于目前每月活跃用户已达10亿的OpenAI而言,这是一次重要进展。
SOCRadar首席信息安全官Ensar Seker指出,此前企业对于用户在哪些设备上登录的可见性十分有限,往往只能依赖密码重置或账户层面的整体操作来强制重新验证身份。"细粒度的会话控制是一种更高效、更低干扰的方式。从治理角度看,会话透明度有助于提升问责能力,并为后续调查提供支撑。"
活跃会话功能允许管理员查看ChatGPT、Codex及API平台上已知的浏览器和应用会话,具体信息包括:设备与浏览器信息、大致地理位置、登录日期与时间、设备是否受信任,以及当前是否为活跃会话。
用户可通过"设置"→"安全"→"活跃会话"路径访问该功能,随后可退出特定会话、从受信任服务中移除设备,也可选择退出所有会话(即在所有设备上终止会话),但该操作最多需要30分钟才能完全生效。
不过,OpenAI特别说明,会话详情可能"不完全准确或存在缺失",且该功能存在一定局限:它无法显示或管理已连接的应用程序或第三方应用会话、通过第三方服务的登录记录、Codex CLI会话,以及近期已退出的会话。此外,活跃会话功能不适用于已与企业单点登录(SSO)关联的账户,包括SAML和OpenID Connect(OIDC)协议。
尽管活跃会话是安全与治理层面的重要进展,专家们也指出,这一功能较为基础,且姗姗来迟。
Beauceron Security的David Shipley表示:"OpenAI为管理员提供终止ChatGPT活跃会话的能力,这其实是许多平台早已具备的功能,应该更早推出,但亡羊补牢为时不晚。"他还指出,从安全角度来看,OpenAI在防止ChatGPT被威胁行为者用于托管恶意软件方面还有更大的改进空间,而这正是当前企业面临的最新威胁。
SOCRadar的Seker也强调,这类可见性与监督能力正是企业多年来对SaaS平台的普遍期望。"它让管理员和用户能够迅速识别未经授权的访问,终止过期会话,并降低账户在未被察觉的情况下持续遭受威胁的风险。"
上周,OpenAI在ChatGPT应用程序和API中更新了GPT-5.5 Instant版本,旨在"提升响应风格与质量"。该版本于今年5月初作为GPT-5.3 Instant的继任版本推出,OpenAI称其"整体更智能"且产生幻觉的频率更低。据OpenAI介绍,此次更新使GPT-5.5 Instant"更易于阅读,日常对话更加自然,在实际辅助任务中节奏更合理,并减少了过长或大量使用列表符号的回复"。
然而,即便有了活跃会话等工具,企业在应对持续不断的模型迭代更新时,依然面临严峻的治理挑战。Beauceron的Shipley直言,这种状态根本难以为继:"面对一个非确定性系统,你该如何构建合理的测试方案?"
SOCRadar的Seker指出,许多组织在将模型投入生产前,会进行安全性、合规性和业务可行性测试。但问题在于,"当模型行为在同一版本系列下发生变化时,此前记录的假设可能已不再准确反映实际性能"。
"AI治理的最大挑战不在于模型的采用,而在于模型的变更,"Seker说,"大多数组织能够完成一次性的模型评估,但很少有组织具备持续评估模型随时间演进的能力。"
他指出,这对受监管行业尤为棘手,因为这些行业对可审计性、可重复性和变更管理有着严格要求。即便是有益的改进,如果组织未能清楚了解变更内容与时间,也可能引发治理问题。
Info-Tech Research Group咨询研究员Valence Howden指出,企业往往无法及时评估模型迭代对自身边界的影响,更糟糕的是,许多企业甚至对此毫不知情。他表示,最初企业面临的最大挑战集中在使用哪个AI模型、该模型的功能以及所有权归属上,而持续的迭代更新则会模糊这些边界,同时加深对第三方工具和实践的依赖,而这往往超出了企业自身的资源承受能力。
"如果在更新被纳入之前无法选择退出,企业实际上是在用自己的客户给这些更新做红队测试,"Howden说。
SOCRadar的Seker表示,当前安全团队正承受巨大压力,他们被要求在维持合规、风险管理和业务连续性的同时,还要应对快速演进的模型、不断涌现的新功能以及持续变化的模型行为。"治理之所以困难,是因为企业评估的不再是一个静态产品,"他说,"而是一项持续演进的服务,其能力、集成方式和用户行为的变化速度,远超传统安全审查周期所能承载的节奏。"
Info-Tech的Howden对此表示认同,并指出企业现有的治理实践,尤其是在问责机制和风险管理方面,普遍存在明显不足。"在本就做得不好的事情上,要突然变得得心应手,谈何容易,"他说,"而且企业受到速度和创新的双重激励,往往将治理视为一种束缚,甚至根本不愿涉及。"
Seker最后建议,企业应将AI模型视为持续演进的活体系统,而非固定的软件版本来对待。安全与治理项目应涵盖持续验证、监控和定期重新评估,而不能仅仅依赖一次性审批流程。企业还应对供应商建立明确的变更管理预期,包括要求其在模型更新、行为变化及对现有工作流程的潜在影响方面保持透明。
"有效的AI治理,越来越依赖于对变更的可见性,而不仅仅是对风险的可见性,"Seker说。
Q&A
Q1:OpenAI的活跃会话功能具体能做什么?
A:活跃会话功能允许用户和管理员查看ChatGPT、Codex及API平台上的所有已知登录会话,包括设备与浏览器信息、大致地理位置、登录时间等详情。用户可退出特定会话或一次性退出所有会话,也可移除受信任设备。该功能可通过"设置→安全→活跃会话"路径访问,但不支持通过企业SSO登录的账户,也无法管理第三方应用会话。
Q2:活跃会话功能有哪些局限性?
A:该功能存在几项明确限制:首先,会话详情可能不完全准确;其次,它无法显示或管理第三方应用会话、通过第三方服务的登录记录、Codex CLI会话及近期已退出的会话;此外,与企业单点登录(SSO)关联的账户,包括SAML和OIDC协议,均不支持该功能。退出所有会话的操作也可能需要长达30分钟才能完全生效。
Q3:企业在AI模型持续迭代中面临哪些治理挑战?
A:核心挑战在于模型变更而非模型采用。许多企业在模型首次部署时能完成评估,但缺乏持续跟踪模型演进的能力。当模型行为在同一版本系列下悄然改变时,原有的测试假设可能失效。对于受监管行业而言,这一问题尤为突出。专家建议企业将AI模型视为持续演进的系统,建立持续验证、监控机制,并要求供应商在模型更新时保持充分透明。
好文章,需要你的鼓励
牛津大学提出PHYSIFORMER,一种扩散变换器模型,通过三维网格顶点轨迹直接在世界坐标空间预测刚性与弹性物体的物理运动,一次性生成全序列轨迹,超越自回归基线。
随着医疗数据数字化与互操作性的进步,跨机构纵向患者数据的研究应用成为可能。本研究通过对20位领域专家的访谈,识别出8种数据收集方法,涵盖智能手机应用、结构化数据导出、区域/全国研究查询及聚合数据源等。研究发现,各方法均有其优缺点,无单一最优方案。参与者中介交换方式可绕过复杂治理安排,但存在数据缺口;全国性网络尚不支持研究查询。公共政策的持续推进将对该领域发展起关键作用。
研究发现主流奖励模型对同等质量答案给出差异悬殊的分数,并提出"奖励聚类"算法通过蒙特卡洛随机失活将连续分数离散化,在不重训模型的前提下有效减少AI训练中的奖励作弊现象。