AWS在Bedrock中推出高级提示词优化工具

AWS近日在Amazon Bedrock中新增了一项提示词优化工具。Amazon Bedrock是AWS旗下用于构建、部署和扩展生成式AI应用的全托管服务。

这款名为Amazon Bedrock高级提示词优化（Advanced Prompt Optimization）的工具，可通过Bedrock控制台访问。AWS在一篇博文中介绍，该工具旨在自动优化提示词，以提升多个大语言模型在准确性、一致性和效率方面的表现。

该工具的工作原理是：首先依据用户自定义的数据集和评估指标对提示词进行评估，再对其进行改写，最多可针对五个推理模型完成优化；随后对优化后的版本与原始版本进行跨模型基准测试，帮助开发者识别出适用于特定工作负载的最佳配置。

目前，该工具已在多个AWS区域正式上线，覆盖美国东部、美国西部、孟买、首尔、新加坡、悉尼、东京、加拿大（中部）、法兰克福、爱尔兰、伦敦、苏黎世以及圣保罗等地区。

AWS表示，企业客户的计费方式将依据优化过程中Bedrock模型推理所消耗的Token数量计算，沿用标准Bedrock推理工作负载的按Token计价标准。

分析人士指出，该工具专注于自动化提示词优化，有助于企业应对运营层面的挑战，尤其是在生产环境中扩展生成式AI工作负载所带来的成本压力。

Avasant研究总监Gaurav Dewan表示："企业对此类工具的需求，是由成本压力与AI规模化扩展的运营复杂性共同推动的，而非某单一因素所致。"

他补充说："随着企业将生成式AI工作负载从试验阶段推向生产环境，推理支出正迅速成为董事会层面关注的议题。即便是提示词效率上的小幅提升，在应用大规模运行时，也能对运营成本产生可量化的影响。"

他进一步指出，延迟问题也正成为一项关键指标，尤其是在面向用户的AI服务中，响应速度变慢会直接影响用户采用率。提示词优化有助于在质量、延迟和成本之间实现更系统化的权衡，而不再依赖反复试错的方式。

灰猎犬研究（Greyhound Research）首席分析师Sanchit Vir Gogia则表示，企业日益广泛地采用多模型AI策略，也在进一步推动对自动化提示词优化工具的需求。

他说，随着企业寻求根据成本、性能和治理要求灵活切换模型，多模型采用趋势正在加速，提示词优化对于确保应用和工作流在不同模型间迁移时不出现行为不一致或性能下降的问题，变得越来越重要。

事实上，在企业将生成式AI部署推向落地的背景下，AWS并非唯一瞄准提示词优化赛道的厂商。谷歌云已在其Gemini企业智能体平台中提供类似的提示词优化工具，可利用评估数据集和指标自动优化提示词并进行跨模型基准测试；微软Azure AI Foundry也提供类似能力，聚焦于提示词编排、评估流水线、变体测试以及企业AI应用的工作流基准测试。

Gogia认为，超大规模云厂商之间日益激烈的竞争，折射出一场围绕企业AI运营层控制权的更深层较量——这一层面涉及AI系统在规模化场景下的评估、监控、治理、优化、迁移、安全和管理。

在他看来，AWS正通过将多模型访问与提示词优化、评估、迁移支持及治理能力相结合，将Amazon Bedrock打造为这一运营层的核心平台。

与此同时，Gemini企业智能体平台（前身为Google Vertex AI）正依托其AI与分析生态系统发力，微软Azure AI正将AI治理融入企业软件工作流，OpenAI和Anthropic则在强化以开发者为中心的评估与提示词工具，并将其与各自的模型生态深度绑定。

Gogia还补充道，Databricks和Snowflake等平台正将AI可观测性和治理能力更紧密地嵌入企业数据环境，而LangSmith等框架和Promptfoo等开源工具则凭借更强的可移植性和模型中立性，吸引着寻求灵活性的企业用户。

Q&A

Q1：Amazon Bedrock高级提示词优化工具是什么？它能解决什么问题？

A：Amazon Bedrock高级提示词优化工具是AWS新推出的一项功能，可自动评估并改写提示词，针对最多五个推理模型进行优化，并通过基准测试帮助开发者找到最佳配置。它主要解决企业在生产环境中扩展生成式AI时面临的成本压力、延迟问题和多模型管理复杂性。

Q2：Amazon Bedrock高级提示词优化工具的收费方式是什么？

A：该工具按照优化过程中消耗的Token数量计费，沿用标准Amazon Bedrock推理工作负载的按Token计价标准。也就是说，使用该工具进行优化时产生的模型推理Token消耗，与正常调用Bedrock模型的费率一致，不额外设置独立定价。

Q3：Amazon Bedrock高级提示词优化工具和谷歌、微软的同类产品有何区别？

A：三家厂商均提供提示词优化能力，但侧重点各有不同。AWS将其与多模型访问、评估、迁移支持和治理功能整合，主打全面的企业AI运营层；谷歌云在Gemini企业智能体平台中提供类似工具，依托AI与分析生态；微软Azure AI Foundry则更注重提示词编排、评估流水线和企业软件工作流集成。