希望降低 AI 编程工具成本的开发者,越来越多地转向"穴居人(Caveman)"提示词风格。这种方式要求编程助手使用简短、电报式的语言进行交流,避免不必要的客套和废话。其背后逻辑很简单:更少的文字意味着更少的 Token,从而为大规模部署 AI 智能体的企业降低推理成本。
IDE 开发商 JetBrains 的最新测试证实,以病毒式传播的开源 Caveman 项目为代表的简洁提示词风格,确实能在不影响编程性能的前提下减少 Token 用量。然而,该公司发现,实际节省的幅度远低于支持者所声称的数字。
JetBrains 使用开源评估框架 Harbor 以及 SkillsBench 中的任务进行测试,结果发现 Caveman 技术将输出 Token 的使用量减少了约 8.5%,远低于其宣称的 65%。
JetBrains 在 Claude Code 上针对 86 个真实软件工程任务进行了对比基准测试,对比了使用与未使用 Caveman 提示词风格的编程会话。
JetBrains 工程师 Denis Shiryaev 在一篇博客文章中写道,最初仅对 10 个任务进行评估时,节省幅度约为 30%,但随着测试的推进,这一比例下降至约 8.5%,表明 Caveman 技术在更广泛、更具代表性的工作负载中效果并不突出。
Caveman 开源项目认为,如果智能体去掉回复中的客套内容、改用简短的电报式语言进行交流,节省下来的 Token 输出在规模化应用中能带来可观的成本节约。
然而,Shiryaev 表示,这一假设并未充分考虑现代编程智能体实际使用 Token 的方式。
他指出,虽然简短的提示词和回复确实能减少与用户之间的文字交换量,但在智能体编程工作流中,Token 消耗的大头来自读取项目文件、推理任务逻辑、调用工具以及生成代码,仅靠精简对话语言所能带来的整体节省效果十分有限。
此外,Shiryaev 还指出,对于企业而言,将 Token 节省直接转化为运营成本的降低,并不总是一件简单的事。
他表示,尽管在单个编程任务中,Caveman 技术通常能带来更低的成本,但在一项依赖项审计任务触发了 Claude Code 的长上下文定价区间后,Caveman 测试的全套基准累计成本反而更高。同一任务在早期基线测试中也产生了类似的成本异常,这表明该异常反映的是工作负载本身的特性,而非提示词技术所致。
不过,JetBrains 的测试结果并非全盘否定 Caveman 技术。
Shiryaev 表示,测试未发现 Caveman 提示词风格对任务成功率、代码质量或执行时间有任何可检测的影响,这说明尽管该提示词风格未能带来其支持者所声称的显著 Token 节省,但也没有损害编程智能体的实际效能。
除了单纯的成本节约讨论,此次测试的发现还为日益增多的提示词工程技术研究增添了新的维度。这些技术旨在降低 AI 推理成本,除 Caveman 项目外,数据分析师 Drona Reddy 基于 Markdown 的提示词技术等方案也声称能实现可观的 Token 节省。
就目前而言,企业及其管理者应将此类提示词工程技术视为有待验证的优化手段,而非可直接采用的既定假设,最终能否实现所承诺的节省效果,还需由实际生产工作负载来检验。
Q&A
Q1:Caveman 提示词技术实际能节省多少 Token?
A:根据 JetBrains 的测试,Caveman 提示词技术实际将输出 Token 用量减少了约 8.5%,远低于其宣称的 65%。初期仅测试 10 个任务时,节省幅度约为 30%,但随着测试扩展到 86 个真实工程任务后,这一比例明显下降,说明该技术在更广泛的工作负载中效果有限。
Q2:使用 Caveman 提示词会影响代码质量或任务成功率吗?
A:根据 JetBrains 的测试结果,Caveman 提示词风格对任务成功率、代码质量和执行时间均无可检测的负面影响。也就是说,虽然它节省 Token 的效果不如宣传的那么显著,但也不会让 AI 编程智能体的实际表现变差,对日常开发工作基本没有干扰。
Q3:为什么 Caveman 技术节省的 Token 比预期少那么多?
A:主要原因在于,智能体编程工作流中 Token 的消耗大头并不来自对话性语言,而是来自读取项目文件、逻辑推理、工具调用和代码生成等环节。仅靠精简回复中的客套话,能影响的 Token 比例本就有限,因此整体节省幅度远低于理论预期。
好文章,需要你的鼓励
OpenAI推出企业级智能体平台ChatGPT Work,可跨应用自动执行多步骤工作任务,生成文档、演示文稿及电子表格等业务内容。同步推出的GPT-5.6系列模型涵盖Sol、Terra、Luna三档,主打"更低成本、更强性能"。Sol在编码、网络安全及复杂推理基准测试中表现突出,定价为每百万输入tokens 5美元。新模型还支持Microsoft 365、Google Drive等企业应用集成,并引入max与ultra两种推理模式以应对复杂工作负载。
斯坦福与UC伯克利提出LLM-as-a-Verifier框架,通过提取AI模型内部概率分布生成连续评分,在代码、机器人、医疗领域均达到最优性能,且无需额外训练。
大疆发布AP100降落伞,专为旗舰级Matrice 400企业无人机设计。该配件重约935克,支持自动与手动两种部署方式,可在600毫秒内触发展开,将无人机下降速度控制在每秒5米以内。AP100作为独立安全模块运行,配备独立飞控、传感器及备用电容,断电后仍可持续工作一小时。此外,内置飞行终止系统可在展开前切断电机,防止螺旋桨缠绕。该配件还支持欧盟EASA和英国CAA的C5/C6等级合规认证,适用于超视距飞行任务,防护等级IP55,适应-20°C至50°C宽温环境。
字节跳动Seed团队发现AI智能体在真实环境中学习的进步曲线精确遵循对数S形规律,R?达0.998,且前沿模型的学习速度每三个月翻倍。