ESET安全专家：不必惧怕"AI终结者"，但需警惕智能体风险

网络安全公司ESET的首席安全布道师托尼·安斯科姆希望所有人都能冷静下来。"我交谈过的一些人认为，'AI正在攻击我们'，"安斯科姆在最近接受Computer Weekly采访时表示，"并非如此。我们还远没有到终结者的时代。"

现实情况是，现代网络罪犯并未部署无所不能的数字对手，而是将AI工具融入日常攻击流程，以提升效率——起草毫无破绽的钓鱼邮件、模拟高管的通讯风格、自动扫描泄露的账户凭证。

安斯科姆认为，黑客迟迟未将完全自主的AI模型用于网络攻击，根本原因在于经济账："现成的低垂果实已经足够多了。"他指出，基本的互联网扫描就能持续发现防护薄弱的远程访问系统和VPN。"目前仍有大量组织公开暴露自身的安全漏洞，这意味着网络罪犯的机会已经多到用不完。"

然而，下一代AI驱动恶意软件的种子已经开始萌发，有时甚至是意外播下的。安斯科姆提到，纽约某大学的研究人员近期开发出一种概念验证型恶意软件，该软件利用AI提示机制运行。一旦进入系统，它能动态分析数字环境，实时重写自身代码，并自主决定是否窃取数据。然而，研究人员无意间将源代码发布到了一个公开的恶意软件测试数据库中。

"一旦你将某样东西公开，别人就可以拿走它、逆向工程、修改并为己所用，"安斯科姆说道，"网络罪犯的工作就这样被人帮着做完了。"

尽管主流黑客尚未使用此类工具，ESET的研究人员已开始追踪与国家背景相关的黑客组织中出现的类似高级战术。

内部威胁不可忽视

对于首席信息安全官（CISO）而言，外部黑客只是挑战的一半。在来自CEO和董事会的巨大压力下，许多高层领导正在加码押注AI以保持竞争优势。

安斯科姆指出，当前最直接的风险来自于好意满满的员工——他们习惯将敏感的企业数据或客户信息粘贴到生成式AI工具中，这可能在无意间触碰隐私法规的红线。

为此，安斯科姆呼吁CISO尽快建立明确的治理政策，规范ChatGPT、Microsoft Copilot等工具的使用方式，防止员工将敏感的个人或企业数据提交给公共模型。

谈及AI智能体，安斯科姆指出，由于智能体具有自主行动能力，其部署可能扩大企业的攻击面，无意间为敏感数据开了后门，或为恶意行为者提供横向移动的通道。

为降低上述风险，安全团队需要改变对AI软件的定位——与其将其视为传统代码，不如将其当作数字员工来管理。"你需要为智能体设置权限，就像为员工设置访问权限限制一样，"安斯科姆说，"在某种程度上，你需要像对待真人一样对待它们。"

随着AI风险的不断累积，CISO的职责边界也在悄然演变。"我认为CISO正在迅速转型为业务运营负责人，他们需要深入理解企业的业务流程和运营逻辑，才能真正做到有效防护，"安斯科姆观察到。

在运营层面，安全运营中心（SOC）正越来越多地依赖机器学习与AI对海量遥测数据进行过滤，避免人工分析师被数据洪流淹没。AI系统承担起"调查员"的角色，负责收集证据、标记异常、生成概率评分，而最终针对复杂威胁的研判，则由人工分析师来完成。

不过，对于缺乏专职安全分析团队的中小企业而言，安斯科姆建议可以考虑将安全工作外包给托管检测与响应（MDR）服务商，而非将安全工具简单地当作合规清单来打钩了事。"你不能部署完端点检测与响应（EDR）工具就置之不理，这不是一个复选框，它需要持续管理和运营，否则就形同虚设，"他补充道。

打破围绕AI的存在主义恐惧

归根结底，安斯科姆希望将围绕AI的存在主义恐惧与现实剥离开来。他以印度政府在新德里火车站使用人脸识别技术为例——该项目在短短数周内成功识别并帮助数千名失踪儿童与父母团聚。"我们不应该惧怕技术，我们应该确保负责任地使用它，"他说。

他认为，负责任的一部分，就是要给那些制造公众焦虑的营销噱头降温。"我最近看到一款烤箱，声称使用AI来烹饪晚餐，"他举例说，这台烤箱实际上只是用了一个基本的湿度传感器来判断蛋糕是否烤熟，"那是一张查询表，根本不是AI。'AI'这个词的滥用，只会加剧公众的恐慌情绪。"

Q&A

Q1：AI目前在网络攻击中真正被用来做什么？

A：目前网络罪犯主要将AI用于提升攻击效率，例如自动生成高度逼真的钓鱼邮件、模拟高管身份发送欺诈信息，以及自动扫描和匹配泄露的账户凭证。完全自主的AI攻击模型尚未被主流黑客广泛使用，因为现有的低成本攻击手段已经足够奏效，网络罪犯暂时没有动力升级到更复杂的自主AI攻击方式。

Q2：企业部署AI智能体时，有哪些安全风险需要注意？

A：AI智能体因具有自主行动能力，可能扩大企业的攻击面，带来两类主要风险：一是无意间为敏感数据的访问开放了通道；二是可能为恶意攻击者提供在系统内横向移动的机会。安全团队应像管理员工访问权限一样为智能体设置明确的权限边界，将其视作"数字员工"进行管理，而非普通软件代码。

Q3：中小企业没有专职安全团队，该怎么做好网络安全防护？

A：对于缺乏专职安全分析师的中小企业，ESET建议考虑将安全工作外包给托管检测与响应（MDR）服务商。同时要避免将安全工具当作合规清单对待，例如部署了端点检测与响应（EDR）工具后就不再管理。安全工具需要持续运营和维护，否则即便部署了相关产品，实际防护效果也会大打折扣。