随着AI智能体在智能手机和工业设备中的应用日益广泛,新加坡电信运营商StarHub正在研发一项全球首创的基于SIM卡的智能体治理服务,旨在针对失控AI智能体行为提供实时"断路"能力。
该项目目前处于概念验证阶段,计划于今年年中开展试验。其核心目标是解决由高级AI模型驱动、能够自主决策并执行任务的AI智能体所带来的网络安全盲区问题。
StarHub首席技术官沃尔坎·塞文迪克近日接受《Computer Weekly》采访时表示,普通消费者对于在自己设备上运行的AI智能体数量几乎毫无概念。
"在不远的将来,一部手机上可能会同时运行超过1000个智能体,帮助用户处理各种任务,让生活更加便捷,"塞文迪克说,"但风险在于,这些智能体在后台实时做着什么?"
塞文迪克警告称,若缺乏有效防护,AI智能体可能悄然获取用户的个人身份信息,例如云端照片或银行账户信息,用于训练外部模型或将敏感数据分享给不明第三方。
为降低上述风险,StarHub正在构建一套信任层机制,利用移动SIM卡永久只读的特性,为用户设备上运行的每一个AI智能体分配唯一的实时身份标识。该机制将公开智能体所通信的IP地址、所共享的数据内容以及所使用的提示词。
一旦某个AI智能体出现恶意行为,StarHub可即时切断其网络连接。该公司还部署了多种规模的编排模型,用于驱动"守护型智能体",对其移动、宽带及电视网络中所有AI智能体的行为实施监控。塞文迪克指出:"人类无法用自己的感知来理解AI,只有用AI才能理解AI。"
在企业应用层面,基于SIM卡的治理服务具有重要价值,尤其对关键基础设施而言意义深远。塞文迪克列举了多个应用场景,涵盖自动驾驶汽车、机器人手术以及制药生产等领域。
"如果一台内置了运行智能体的制造机器人发生故障,整条生产线都将停摆,可能造成数十亿美元的损失,"他表示,"作为值得信赖的电信合作伙伴,我们可以提前感知任何异常行为,并切断机器人之间的连接,从而避免影响生产线的正常运转。"
鉴于任何系统都并非无懈可击,StarHub还在与保险合作伙伴洽谈,探讨为该服务提供承保的可能性。StarHub的目标是将这项服务商业化,推出"AI信任套餐",在AI智能体发生数据泄露等事件时,为个人用户和企业提供相应的财务保障。
为支撑智能体AI所带来的海量数据需求,StarHub已着手强化网络基础设施。传统互联网使用场景以数据下载为主,而AI智能体则需要持续上传信息以实现相互通信并完成各项任务。
塞文迪克指出,现有网络架构在设计上普遍侧重下行传输,而非上行传输,而AI智能体对上行流量的占用将持续增加。"我们正在基于上行流量对网络进行重新优化,对网络的各个环节进行调整,使其更趋于平衡,"他补充道。
目前,StarHub已与新加坡资讯通信媒体发展局(IMDA)展开沟通,后者对该服务表示出浓厚兴趣。
"所有人都相信AI智能体会正常运行,不会出现任何问题,但我对此并不确定,因为智能体的数量正在大幅增长,"塞文迪克表示,"我们希望在用户无感知的情况下,提供一套信任层机制来守护他们的安全。"
Q&A
Q1:StarHub的SIM卡身份认证服务是如何保护用户安全的?
A:StarHub利用SIM卡永久只读的特性,为设备上运行的每个AI智能体分配唯一实时身份标识,可追踪智能体通信的IP地址、共享的数据内容及使用的提示词。一旦检测到恶意行为,StarHub可即时切断该智能体的网络连接,防止个人信息或敏感数据被泄露给未知第三方。
Q2:SIM卡治理服务在企业和工业场景中有哪些具体应用?
A:在企业和工业领域,该服务可广泛应用于自动驾驶汽车、机器人手术和制药生产等关键基础设施场景。以制造业为例,若内置AI智能体的工业机器人出现异常,StarHub可提前感知并切断机器人间的连接,避免整条生产线停摆,从而防止数十亿美元级别的损失。
Q3:StarHub的"AI信任套餐"具体提供哪些保障?
A:"AI信任套餐"是StarHub计划推出的商业化服务,旨在为个人用户和企业提供财务保障。当AI智能体发生数据泄露等安全事件时,用户可获得相应赔付。StarHub目前正与保险合作伙伴洽谈承保事宜,以确保该套餐在提供技术防护的同时,也具备完善的风险兜底机制。
好文章,需要你的鼓励
企业AI搜索公司Glean宣布年度经常性收入(ARR)达3亿美元,较15个月前的1亿美元增长三倍。尽管谷歌、微软、OpenAI等科技巨头纷纷入局企业AI搜索市场,Glean凭借"上下文图谱"技术深度理解企业业务需求,并帮助客户显著降低AI计算成本。该公司提供按用量计费和混合定价两种模式,客户涵盖Databricks、Reddit、Pinterest及三星等企业。Glean上轮融资后估值达72亿美元。
香港中文大学与MiniMax提出ClaimDiff-RL框架,将图像描述的AI训练从整体打分升级为逐条核查,有效解决了传统方式导致AI"少说保平安"的问题,同时在多项基准测试上超越Gemini-3-Pro-Preview。
杰夫·贝索斯旗下的蓝色起源公司在佛罗里达卡纳维拉尔角进行静态点火测试时,新格伦重型火箭发生爆炸。这是美国历史上最大规模的火箭爆炸之一,也是蓝色起源公司遭遇的最严重失败。所有人员安全,但该事故可能导致新格伦火箭项目长期暂停。此前该火箭已成功完成三次发射,并实现了助推器回收和重复使用。
ParaVT是一个由南洋理工等多校联合提出的并行视频工具调用框架,通过让AI同时分析多段视频并引入PARA-GRPO算法解决训练中的格式崩溃与工具跳过问题,在六项长视频理解测试中平均提升约7.9%。