Anthropic发布更安全的Claude Code"自动模式"避免大规模文件删除等AI问题

Anthropic开始在Claude Code中预览"自动模式"功能。该公司将这一新功能描述为应用默认行为与"危险跳过权限"命令之间的中间路径。应用的默认行为是Claude需要为每个文件写入和bash命令请求批准，而一些编程人员使用"危险跳过权限"命令让聊天机器人更加自主地运行。

启用自动模式后，分类器系统会指导Claude，允许它执行被认为安全的操作，同时在判断Claude可能执行风险操作时重定向聊天机器人采取不同方法。在设计这个系统时，Anthropic的目标是减少Claude执行大规模文件删除、提取敏感数据或执行恶意代码的可能性。

当然，没有系统是完美的，Anthropic也发出了相应警告。"分类器可能仍然会允许一些风险操作：例如，如果用户意图不明确，或者如果Claude对您的环境没有足够的上下文来了解某个操作可能会产生额外风险。"公司写道。

虽然Anthropic没有提及作为自动模式灵感的具体事件，但最近亚马逊遭受的13小时AWS宕机事件可能让公司印象深刻。据报道，该事件是在亚马逊的一个AI工具删除了托管环境后发生的。亚马逊将这一特定事件归咎于人为错误，称涉及事件的工作人员"拥有超出预期的更广泛权限"。

团队计划用户今天开始可以预览自动模式，该功能将在未来几天向企业用户和API用户推出。

Q&A

Q1：Claude Code的自动模式是什么功能？

A：Claude Code的自动模式是一个安全功能，它通过分类器系统指导Claude执行被认为安全的操作，同时在判断可能存在风险时重定向聊天机器人采取不同方法，目标是减少大规模文件删除、敏感数据提取或恶意代码执行的可能性。

Q2：自动模式和默认模式有什么区别？

A：默认模式下Claude需要为每个文件写入和bash命令请求用户批准，而自动模式提供了一个中间路径，允许Claude在分类器判断安全的情况下自主执行操作，避免了频繁的权限请求。

Q3：自动模式完全安全吗？会不会出现问题？

A：不完全安全。Anthropic警告分类器可能仍然会允许一些风险操作，特别是在用户意图不明确或Claude对环境缺乏足够上下文了解的情况下，可能无法准确判断某个操作是否会产生额外风险。