什么是数字防御 AI 代理？

我们正处于代理式 AI 的新时代，这意味着每个人都在探索如何利用 AI 代理为自己谋取优势。

从某种简单的角度来看，这意味着公司正在试图利用 AI 代理进行销售，而政府则在利用 AI 代理来执行它们一贯的职能。一些消费者权益倡导者认为，那些频繁遭到企业和政府活动针对的个人，需要拥有自己的 AI 代理来保护自己。

今年在 Imagination in Action 活动中，当 Alex “Sandy” Pentland 登台演讲时，他正是在讨论这一类问题。

他说：“他们会试图入侵我，对我做坏事。它们还会在政治上左右我的思想，诸如此类。我的回答是：我需要一个 AI 代理来保护我。我需要一个站在我这一边的存在，能帮助我处理退换货、避免骗局，以及类似的各种问题。”

Pentland 所描述的理念是，你的 AI 代理会应对所有针对你的其他代理行为，并代表你进行干预。

你的数字防御者

在网络上，很少讨论以 AI 代理形式存在的个人“数字防御者”的概念。虽然 Pentland 的视频有所介绍，但在研究论文、企业网站，甚至 Consumer Reports（稍后会详细讨论）中，都鲜少涉及这类具体项目。

从某种意义上说，这就像在法庭上拥有一名公设辩护人。既然有法律行动对你不利，你就需要自己的代表为你辩护。虽然有些人可能会因报酬低、人员不足或其他问题而称这些律师为“公共伪装者”，但希望 AI 代理能在全球范围内发挥更高效的作用。

这也有点类似于消费者报告——Pentland 曾提到，Consumer Reports 利用民意调查等工具，已经开展了 80 年左右的类似工作。

他说：“这就是我们在汽车上安装安全带的原因。在 Consumer Reports，他们会召集所有员工，进行测试等工作以筛选出好产品。而我所期望的正是如此：我需要有个人站在我这一边。”

另一种类似的想法是由一家名为 Twine 的公司开发的网络安全代理，其目的是保护人们免受网络攻击。

不过，抛开这些不谈，Pentland 的想法仍然处于起步阶段。

获取认同

实际上，他演讲中最引人注目的一部分是关于各路商界人士齐聚一堂，共同讨论个人 AI 防御代理的议题。

他说：“我们有 C 级高管代表，每个主要 AI 生产商的 AI 产品负责人，都在提前一周通知后赶来。我们还有所有负责信用卡等业务的支付人员（ who handle ）也都出席了，还有所有系统部门的人员也全部到场。你会发现，这个小房间里聚集的 C 级高管，比你这一生中见过的还要多——这些非常忙碌的人仅在提前一周的通知下就赶来了。”

他认为，正是出于巨大的责任问题促使他们参与讨论。

他说：“如果他们要部署这些系统，并且与您进行互动，他们最好不能作弊，绝不能带有偏见，也不能欺骗您。他们面临着巨大的责任，包括法律责任与声誉风险。他们必须公平地帮助您处理事务，否则最终会陷入集体诉讼。这正是他们所期望的——他们希望有人打造一个标准化、最佳实践的个人代理。”

他还提到几个前提条件：这种代理系统必须经过法律层面的测试，理想情况下，应托管于学术界以凸显其公正性。他说，尽管最佳实践固然重要，但公司和其他相关方实际上更需要一个标准，因为标准才是万无一失的。

众包 AI 保护

Pentland 还谈到了一种数字民粹主义，这种理念吸引了那些相信“人多力量大”的人。

他说：“你只是你而已，但如果有一百万个你，或者一千万个你，都在努力争取优质待遇、避免骗局、填写那份法律文件，那么实际上你可以拥有与最优结果竞争的 AI。这样一来，你个人的数据问题也就基本得到了解决。”

对年轻人的建议

在回答提问时，Pentland 给刚起步的年轻人提出了一些建议。其中一部分内容涉及如何解决这些防御代理将如何运作的重大问题。

他说：“我怎么知道什么对我有利，什么是我真正需要的？”他提出了一些关键问题，即 AI 代理如何根据用户的偏好和福祉，正确地定位其作用方向。

他还提到了有关如何将多个代理整合在一起，以构建他所称的“网络效应”的问题，从而放大一个互联代理系统所具备的整体能力。

另外，他还谈到了另一种博弈论观点，即仅凭微小的调整就可能轻易打乱整个局面。

总的来说，Pentland 认为，一个不怀好意的行为者只需“微微走极端”，就能通过一些微小的改变引发连锁反应，从而使系统失去平衡。

他举了交通拥堵的例子：最开始只是密集车流中的一辆车改变了行驶行为。他断言，这种博弈论效应必须在我们构建数字防御代理网络时被充分考虑。

综上所述，现在思考构建这些数字防御代理或许是个不错的主意。它们可能一开始并不完美，但可能正是我们应对利用当今最强大技术的黑客大军所需的防御措施。这一理念也回馈到了关于开源与闭源模型、以及工具何时应向全世界公开使用的辩论中。必须严防那些可能危及系统运行的不法分子。在加密货币时代，我们曾有 51% 攻击的概念，即一旦有人掌控了某个区块链项目超过一半的控制权，他们便能无例外地获得绝对控制权。

我们应对 AI 责任问题的解决方案可能正是如此。请继续关注这类研究的深入发展。