AWS Machine Learning Blog· Sai Pavan Kasani·· 3 天前AI 评分54
影响 Amazon Bedrock 成本的四个推理请求设置
Four Amazon Bedrock inference choices that affect cost
AI 导读
AWS 官方博客梳理了 Amazon Bedrock 中四项影响推理成本的请求级设置,分别是提示词缓存时长、服务层级、推理强度和 maxTokens。文中给出实测数据,例如 Claude Opus 5 的智能体任务把推理强度从 low 提到 high 后输出 token 中位数增加 169%,Nova 2 Lite 的 Flex 层级费率为 Standard 费率的一半。
来源:AWS Machine Learning Blog · aws.amazon.com