promptgarden 🌱
🌍 DE
指南●●○4 分钟 · +40 XP

AI agent 的成本控制

Agent 很容易变贵——token 数 × 迭代次数 × subagent 数量。几个简单的调节点能帮上忙。

Agent 为什么会变贵

一次单独的 chat 调用通常花不了多少钱。但 agent 往往会连续多次调用模型——用于规划、工具调用、中间步骤,有时还会同时用上多个 subagent。成本会成倍增加:每次调用的 token 数 × 迭代次数 × 并行 subagent 的数量。

调节点 1:预算和上限

设置硬性上限——最大迭代次数、每个任务的最大 token 预算,或每次运行的最大花费。这样一来,一个卡住的 agent 就不会让成本无限增长。

调节点 2:模型路由

不是每个子任务都需要最贵的模型。简单、机械性的步骤(格式化、简短总结)可以交给更便宜的小模型,复杂的规划则留给更贵的模型。

调节点 3:保持上下文精简

每次调用带上的上下文(文件、历史记录)越多,输入 token 就越多——而且是每一步都会产生。只分享相关片段,而不是整个文件或完整的聊天记录,能直接省钱。

调节点 4:用量监控

关注实际消耗了多少 token——按任务、按天、按用户统计。没有监控的话,你往往要等账单来了才发现成本爆了。

示例

概念示例:一个负责 code review 的 agent,被设定最多 10 轮迭代和每次运行的成本上限——一旦超出,它会受控地停下来,而不是无限跑下去。

小测验

为什么 agent 往往比单次 chat 请求更贵?

来源

相关主题

Token——为什么它们要花钱 ●○○Context Window(上下文窗口) ●○○什么是 subagent? ●●○