对于企业而言,AI治理始终是一场追赶游戏。模型更新与迭代以极快的速度推进,往往在治理框架尚未经过实战检验之前便已过时。
为突破这一困局,OpenAI正式推出了"活跃会话"(Active Sessions)功能。这一全新的ChatGPT安全特性允许用户通过简洁的界面查看并退出一个或多个登录会话。该功能现已向所有ChatGPT账户和工作区类型开放,包括个人账户和托管工作区。专家认为,对于目前每月活跃用户已达10亿的OpenAI而言,这是一次重要进展。
SOCRadar首席信息安全官Ensar Seker指出,此前企业对于用户在哪些设备上登录的可见性十分有限,往往只能依赖密码重置或账户层面的整体操作来强制重新验证身份。"细粒度的会话控制是一种更高效、更低干扰的方式。从治理角度看,会话透明度有助于提升问责能力,并为后续调查提供支撑。"
活跃会话功能允许管理员查看ChatGPT、Codex及API平台上已知的浏览器和应用会话,具体信息包括:设备与浏览器信息、大致地理位置、登录日期与时间、设备是否受信任,以及当前是否为活跃会话。
用户可通过"设置"→"安全"→"活跃会话"路径访问该功能,随后可退出特定会话、从受信任服务中移除设备,也可选择退出所有会话(即在所有设备上终止会话),但该操作最多需要30分钟才能完全生效。
不过,OpenAI特别说明,会话详情可能"不完全准确或存在缺失",且该功能存在一定局限:它无法显示或管理已连接的应用程序或第三方应用会话、通过第三方服务的登录记录、Codex CLI会话,以及近期已退出的会话。此外,活跃会话功能不适用于已与企业单点登录(SSO)关联的账户,包括SAML和OpenID Connect(OIDC)协议。
尽管活跃会话是安全与治理层面的重要进展,专家们也指出,这一功能较为基础,且姗姗来迟。
Beauceron Security的David Shipley表示:"OpenAI为管理员提供终止ChatGPT活跃会话的能力,这其实是许多平台早已具备的功能,应该更早推出,但亡羊补牢为时不晚。"他还指出,从安全角度来看,OpenAI在防止ChatGPT被威胁行为者用于托管恶意软件方面还有更大的改进空间,而这正是当前企业面临的最新威胁。
SOCRadar的Seker也强调,这类可见性与监督能力正是企业多年来对SaaS平台的普遍期望。"它让管理员和用户能够迅速识别未经授权的访问,终止过期会话,并降低账户在未被察觉的情况下持续遭受威胁的风险。"
上周,OpenAI在ChatGPT应用程序和API中更新了GPT-5.5 Instant版本,旨在"提升响应风格与质量"。该版本于今年5月初作为GPT-5.3 Instant的继任版本推出,OpenAI称其"整体更智能"且产生幻觉的频率更低。据OpenAI介绍,此次更新使GPT-5.5 Instant"更易于阅读,日常对话更加自然,在实际辅助任务中节奏更合理,并减少了过长或大量使用列表符号的回复"。
然而,即便有了活跃会话等工具,企业在应对持续不断的模型迭代更新时,依然面临严峻的治理挑战。Beauceron的Shipley直言,这种状态根本难以为继:"面对一个非确定性系统,你该如何构建合理的测试方案?"
SOCRadar的Seker指出,许多组织在将模型投入生产前,会进行安全性、合规性和业务可行性测试。但问题在于,"当模型行为在同一版本系列下发生变化时,此前记录的假设可能已不再准确反映实际性能"。
"AI治理的最大挑战不在于模型的采用,而在于模型的变更,"Seker说,"大多数组织能够完成一次性的模型评估,但很少有组织具备持续评估模型随时间演进的能力。"
他指出,这对受监管行业尤为棘手,因为这些行业对可审计性、可重复性和变更管理有着严格要求。即便是有益的改进,如果组织未能清楚了解变更内容与时间,也可能引发治理问题。
Info-Tech Research Group咨询研究员Valence Howden指出,企业往往无法及时评估模型迭代对自身边界的影响,更糟糕的是,许多企业甚至对此毫不知情。他表示,最初企业面临的最大挑战集中在使用哪个AI模型、该模型的功能以及所有权归属上,而持续的迭代更新则会模糊这些边界,同时加深对第三方工具和实践的依赖,而这往往超出了企业自身的资源承受能力。
"如果在更新被纳入之前无法选择退出,企业实际上是在用自己的客户给这些更新做红队测试,"Howden说。
SOCRadar的Seker表示,当前安全团队正承受巨大压力,他们被要求在维持合规、风险管理和业务连续性的同时,还要应对快速演进的模型、不断涌现的新功能以及持续变化的模型行为。"治理之所以困难,是因为企业评估的不再是一个静态产品,"他说,"而是一项持续演进的服务,其能力、集成方式和用户行为的变化速度,远超传统安全审查周期所能承载的节奏。"
Info-Tech的Howden对此表示认同,并指出企业现有的治理实践,尤其是在问责机制和风险管理方面,普遍存在明显不足。"在本就做得不好的事情上,要突然变得得心应手,谈何容易,"他说,"而且企业受到速度和创新的双重激励,往往将治理视为一种束缚,甚至根本不愿涉及。"
Seker最后建议,企业应将AI模型视为持续演进的活体系统,而非固定的软件版本来对待。安全与治理项目应涵盖持续验证、监控和定期重新评估,而不能仅仅依赖一次性审批流程。企业还应对供应商建立明确的变更管理预期,包括要求其在模型更新、行为变化及对现有工作流程的潜在影响方面保持透明。
"有效的AI治理,越来越依赖于对变更的可见性,而不仅仅是对风险的可见性,"Seker说。
Q&A
Q1:OpenAI的活跃会话功能具体能做什么?
A:活跃会话功能允许用户和管理员查看ChatGPT、Codex及API平台上的所有已知登录会话,包括设备与浏览器信息、大致地理位置、登录时间等详情。用户可退出特定会话或一次性退出所有会话,也可移除受信任设备。该功能可通过"设置→安全→活跃会话"路径访问,但不支持通过企业SSO登录的账户,也无法管理第三方应用会话。
Q2:活跃会话功能有哪些局限性?
A:该功能存在几项明确限制:首先,会话详情可能不完全准确;其次,它无法显示或管理第三方应用会话、通过第三方服务的登录记录、Codex CLI会话及近期已退出的会话;此外,与企业单点登录(SSO)关联的账户,包括SAML和OIDC协议,均不支持该功能。退出所有会话的操作也可能需要长达30分钟才能完全生效。
Q3:企业在AI模型持续迭代中面临哪些治理挑战?
A:核心挑战在于模型变更而非模型采用。许多企业在模型首次部署时能完成评估,但缺乏持续跟踪模型演进的能力。当模型行为在同一版本系列下悄然改变时,原有的测试假设可能失效。对于受监管行业而言,这一问题尤为突出。专家建议企业将AI模型视为持续演进的系统,建立持续验证、监控机制,并要求供应商在模型更新时保持充分透明。
好文章,需要你的鼓励
今天讲的出海案例是深圳的精品纸包装龙头裕同科技,把工厂开到墨西哥瓜达拉哈拉,紧贴着北美的服务器与AI硬件客户做本地化交付。
英伟达推出OmniDreams,一个基于Cosmos扩散模型微调的自动驾驶生成式世界模型,可实时生成逼真驾驶视频,支持极端天气等长尾场景的闭环仿真测试。
Google于今年4月推出了Gemini Mac专属应用,但两个月后来看,该应用存在明显不足。作者更倾向于使用Safari的"添加到Dock"功能来运行Gemini网页版,原因包括:支持Command+N快速开启多个聊天窗口、部分对话线程在Mac应用中无法正常使用,以及Mac应用存在图标显示问题。更严重的是,Gemini Mac应用会在用户不知情的情况下安装后台程序,且被删除后还会自动恢复,引发用户强烈不满。
谷歌研究院与康奈尔大学联合提出"Sleep"框架,受人类睡眠启发,通过记忆巩固与做梦两阶段让AI大模型持续学习、抵抗遗忘并自我提升。