希望降低 AI 编程工具成本的开发者,越来越多地转向"穴居人(Caveman)"提示词风格。这种方式要求编程助手使用简短、电报式的语言进行交流,避免不必要的客套和废话。其背后逻辑很简单:更少的文字意味着更少的 Token,从而为大规模部署 AI 智能体的企业降低推理成本。
IDE 开发商 JetBrains 的最新测试证实,以病毒式传播的开源 Caveman 项目为代表的简洁提示词风格,确实能在不影响编程性能的前提下减少 Token 用量。然而,该公司发现,实际节省的幅度远低于支持者所声称的数字。
JetBrains 使用开源评估框架 Harbor 以及 SkillsBench 中的任务进行测试,结果发现 Caveman 技术将输出 Token 的使用量减少了约 8.5%,远低于其宣称的 65%。
JetBrains 在 Claude Code 上针对 86 个真实软件工程任务进行了对比基准测试,对比了使用与未使用 Caveman 提示词风格的编程会话。
JetBrains 工程师 Denis Shiryaev 在一篇博客文章中写道,最初仅对 10 个任务进行评估时,节省幅度约为 30%,但随着测试的推进,这一比例下降至约 8.5%,表明 Caveman 技术在更广泛、更具代表性的工作负载中效果并不突出。
Caveman 开源项目认为,如果智能体去掉回复中的客套内容、改用简短的电报式语言进行交流,节省下来的 Token 输出在规模化应用中能带来可观的成本节约。
然而,Shiryaev 表示,这一假设并未充分考虑现代编程智能体实际使用 Token 的方式。
他指出,虽然简短的提示词和回复确实能减少与用户之间的文字交换量,但在智能体编程工作流中,Token 消耗的大头来自读取项目文件、推理任务逻辑、调用工具以及生成代码,仅靠精简对话语言所能带来的整体节省效果十分有限。
此外,Shiryaev 还指出,对于企业而言,将 Token 节省直接转化为运营成本的降低,并不总是一件简单的事。
他表示,尽管在单个编程任务中,Caveman 技术通常能带来更低的成本,但在一项依赖项审计任务触发了 Claude Code 的长上下文定价区间后,Caveman 测试的全套基准累计成本反而更高。同一任务在早期基线测试中也产生了类似的成本异常,这表明该异常反映的是工作负载本身的特性,而非提示词技术所致。
不过,JetBrains 的测试结果并非全盘否定 Caveman 技术。
Shiryaev 表示,测试未发现 Caveman 提示词风格对任务成功率、代码质量或执行时间有任何可检测的影响,这说明尽管该提示词风格未能带来其支持者所声称的显著 Token 节省,但也没有损害编程智能体的实际效能。
除了单纯的成本节约讨论,此次测试的发现还为日益增多的提示词工程技术研究增添了新的维度。这些技术旨在降低 AI 推理成本,除 Caveman 项目外,数据分析师 Drona Reddy 基于 Markdown 的提示词技术等方案也声称能实现可观的 Token 节省。
就目前而言,企业及其管理者应将此类提示词工程技术视为有待验证的优化手段,而非可直接采用的既定假设,最终能否实现所承诺的节省效果,还需由实际生产工作负载来检验。
Q&A
Q1:Caveman 提示词技术实际能节省多少 Token?
A:根据 JetBrains 的测试,Caveman 提示词技术实际将输出 Token 用量减少了约 8.5%,远低于其宣称的 65%。初期仅测试 10 个任务时,节省幅度约为 30%,但随着测试扩展到 86 个真实工程任务后,这一比例明显下降,说明该技术在更广泛的工作负载中效果有限。
Q2:使用 Caveman 提示词会影响代码质量或任务成功率吗?
A:根据 JetBrains 的测试结果,Caveman 提示词风格对任务成功率、代码质量和执行时间均无可检测的负面影响。也就是说,虽然它节省 Token 的效果不如宣传的那么显著,但也不会让 AI 编程智能体的实际表现变差,对日常开发工作基本没有干扰。
Q3:为什么 Caveman 技术节省的 Token 比预期少那么多?
A:主要原因在于,智能体编程工作流中 Token 的消耗大头并不来自对话性语言,而是来自读取项目文件、逻辑推理、工具调用和代码生成等环节。仅靠精简回复中的客套话,能影响的 Token 比例本就有限,因此整体节省幅度远低于理论预期。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。