指南●●○4 分钟 · +40 XP
AI agent 的成本控制
Agent 很容易变贵——token 数 × 迭代次数 × subagent 数量。几个简单的调节点能帮上忙。
Agent 为什么会变贵
一次单独的 chat 调用通常花不了多少钱。但 agent 往往会连续多次调用模型——用于规划、工具调用、中间步骤,有时还会同时用上多个 subagent。成本会成倍增加:每次调用的 token 数 × 迭代次数 × 并行 subagent 的数量。
调节点 1:预算和上限
设置硬性上限——最大迭代次数、每个任务的最大 token 预算,或每次运行的最大花费。这样一来,一个卡住的 agent 就不会让成本无限增长。
调节点 2:模型路由
不是每个子任务都需要最贵的模型。简单、机械性的步骤(格式化、简短总结)可以交给更便宜的小模型,复杂的规划则留给更贵的模型。
调节点 3:保持上下文精简
每次调用带上的上下文(文件、历史记录)越多,输入 token 就越多——而且是每一步都会产生。只分享相关片段,而不是整个文件或完整的聊天记录,能直接省钱。
调节点 4:用量监控
关注实际消耗了多少 token——按任务、按天、按用户统计。没有监控的话,你往往要等账单来了才发现成本爆了。
示例
概念示例:一个负责 code review 的 agent,被设定最多 10 轮迭代和每次运行的成本上限——一旦超出,它会受控地停下来,而不是无限跑下去。
小测验
为什么 agent 往往比单次 chat 请求更贵?
来源
- Anthropic 文档:价格 ↗ claude.com
- OpenAI:API Pricing ↗ openai.com