AI工具存在严重安全脆弱性，治理刻不容缓

企业AI工具在网络攻击面前仍然极易受损，尽管各大企业正在竞相扩大AI工具的应用范围。网络安全公司Zscaler在周二发布的威胁报告中指出了这一问题。

报告发现，企业正在向AI工具投入大量数据，"这让AI平台成为全球网络犯罪分子更大的攻击目标"。

Zscaler建议企业关注可见性、实时防护和一致的治理控制措施。

Zscaler报告中最引人注目的发现是许多AI系统的脆弱性。研究人员写道："它们几乎立即就会出现故障。当运行完整的对抗性扫描时，关键漏洞会在几分钟内暴露出来——有时甚至更快。"在Zscaler对25个企业环境进行的红队演练中，AI系统出现首次重大故障的中位时间为16分钟，而在90分钟内，90%的系统都出现了故障。在一个案例中，系统仅用一秒钟就出现了故障。

研究人员观察到的故障类别包括有偏见和偏题的回复、URL验证失败以及隐私泄露。报告警告："模型仍然可能被迫暴露敏感数据或参与有害的工作流程。"

在72%的企业环境中，Zscaler对AI系统的首次测试就发现了关键漏洞。

报告指出，对首席信息安全官来说，教训是"从第一天起就存在关键风险，即使在成熟的环境中也是如此"，安全人员需要不断测试其系统并应用严格的治理协议。

与此同时，Zscaler对其云环境中2025年近万亿次AI数据交易的分析显示了一些积极信号。企业的安全策略阻止了大约40%的AI交易尝试，Zscaler认为这反映了"治理的实际效果……因为领导者在创新速度和风险承受能力之间寻求平衡"。

Zscaler在2025年观察到的9893亿次AI交易比2024年增长了91%，该公司追踪了来自3400多种不同AI工具的活动。

美国约占交易总量的38%，其次是印度（14%）和加拿大（5%）。金融和制造业连续第三年在AI使用方面处于领先地位，在2025年分别占AI交易的23%和20%。

Q&A

Q1：Zscaler的报告显示AI系统有多脆弱？

A：报告显示AI系统极其脆弱。在25个企业环境的测试中，AI系统出现首次重大故障的中位时间仅为16分钟，90分钟内90%的系统都出现故障。最快的情况下，系统仅用一秒钟就出现故障。在72%的企业环境中，首次测试就发现了关键漏洞。

Q2：企业如何平衡AI创新与安全风险？

A：根据Zscaler的分析，企业安全策略阻止了约40%的AI交易尝试，这反映了企业在治理方面的实际行动。企业正在创新速度和风险承受能力之间寻求平衡，通过严格的治理协议和持续的系统测试来管控风险。

Q3：2025年全球AI工具使用情况如何？

A：2025年AI交易量达到9893亿次，比2024年增长91%，涉及3400多种不同AI工具。美国占交易总量的38%，印度占14%，加拿大占5%。金融业和制造业连续第三年领先，分别占AI交易的23%和20%。