"穴居人"提示词能省Token,但远不如宣称的那么多

JetBrains测试发现,所谓"穴居人"提示风格——要求AI编程助手使用简短电报式语言、去除对话填充词——确实能减少token使用量,但实际效果远低于宣传数据。测试基于86个真实软件工程任务,结果显示输出token减少约8.5%,远低于项目声称的65%。此外,简短提示并不能大幅降低成本,因为编程代理的token消耗主要来自读取项目文件、推理任务和生成代码,而非对话文本本身。

希望降低 AI 编程工具成本的开发者,越来越多地转向"穴居人(Caveman)"提示词风格。这种方式要求编程助手使用简短、电报式的语言进行交流,避免不必要的客套和废话。其背后逻辑很简单:更少的文字意味着更少的 Token,从而为大规模部署 AI 智能体的企业降低推理成本。

IDE 开发商 JetBrains 的最新测试证实,以病毒式传播的开源 Caveman 项目为代表的简洁提示词风格,确实能在不影响编程性能的前提下减少 Token 用量。然而,该公司发现,实际节省的幅度远低于支持者所声称的数字。

JetBrains 使用开源评估框架 Harbor 以及 SkillsBench 中的任务进行测试,结果发现 Caveman 技术将输出 Token 的使用量减少了约 8.5%,远低于其宣称的 65%。

JetBrains 在 Claude Code 上针对 86 个真实软件工程任务进行了对比基准测试,对比了使用与未使用 Caveman 提示词风格的编程会话。

JetBrains 工程师 Denis Shiryaev 在一篇博客文章中写道,最初仅对 10 个任务进行评估时,节省幅度约为 30%,但随着测试的推进,这一比例下降至约 8.5%,表明 Caveman 技术在更广泛、更具代表性的工作负载中效果并不突出。

Caveman 开源项目认为,如果智能体去掉回复中的客套内容、改用简短的电报式语言进行交流,节省下来的 Token 输出在规模化应用中能带来可观的成本节约。

然而,Shiryaev 表示,这一假设并未充分考虑现代编程智能体实际使用 Token 的方式。

他指出,虽然简短的提示词和回复确实能减少与用户之间的文字交换量,但在智能体编程工作流中,Token 消耗的大头来自读取项目文件、推理任务逻辑、调用工具以及生成代码,仅靠精简对话语言所能带来的整体节省效果十分有限。

此外,Shiryaev 还指出,对于企业而言,将 Token 节省直接转化为运营成本的降低,并不总是一件简单的事。

他表示,尽管在单个编程任务中,Caveman 技术通常能带来更低的成本,但在一项依赖项审计任务触发了 Claude Code 的长上下文定价区间后,Caveman 测试的全套基准累计成本反而更高。同一任务在早期基线测试中也产生了类似的成本异常,这表明该异常反映的是工作负载本身的特性,而非提示词技术所致。

不过,JetBrains 的测试结果并非全盘否定 Caveman 技术。

Shiryaev 表示,测试未发现 Caveman 提示词风格对任务成功率、代码质量或执行时间有任何可检测的影响,这说明尽管该提示词风格未能带来其支持者所声称的显著 Token 节省,但也没有损害编程智能体的实际效能。

除了单纯的成本节约讨论,此次测试的发现还为日益增多的提示词工程技术研究增添了新的维度。这些技术旨在降低 AI 推理成本,除 Caveman 项目外,数据分析师 Drona Reddy 基于 Markdown 的提示词技术等方案也声称能实现可观的 Token 节省。

就目前而言,企业及其管理者应将此类提示词工程技术视为有待验证的优化手段,而非可直接采用的既定假设,最终能否实现所承诺的节省效果,还需由实际生产工作负载来检验。

Q&A

Q1:Caveman 提示词技术实际能节省多少 Token?

A:根据 JetBrains 的测试,Caveman 提示词技术实际将输出 Token 用量减少了约 8.5%,远低于其宣称的 65%。初期仅测试 10 个任务时,节省幅度约为 30%,但随着测试扩展到 86 个真实工程任务后,这一比例明显下降,说明该技术在更广泛的工作负载中效果有限。

Q2:使用 Caveman 提示词会影响代码质量或任务成功率吗?

A:根据 JetBrains 的测试结果,Caveman 提示词风格对任务成功率、代码质量和执行时间均无可检测的负面影响。也就是说,虽然它节省 Token 的效果不如宣传的那么显著,但也不会让 AI 编程智能体的实际表现变差,对日常开发工作基本没有干扰。

Q3:为什么 Caveman 技术节省的 Token 比预期少那么多?

A:主要原因在于,智能体编程工作流中 Token 的消耗大头并不来自对话性语言,而是来自读取项目文件、逻辑推理、工具调用和代码生成等环节。仅靠精简回复中的客套话,能影响的 Token 比例本就有限,因此整体节省幅度远低于理论预期。

来源:InfoWorld

0赞

好文章,需要你的鼓励

2026

07/10

15:20

分享

点赞

邮件订阅