AI Agent 成本控制实战：从失控到可控

在控制成本之前，先搞清楚钱花在哪里。 **AI Agent 的主要成本来源：** 1. LLM 调用费用（占比 70-85%） - 输入 Token（Prompt）：按 Token 计费 - 输出 Token（Completion）：按 Token 计费，通常比输入贵 2-4 倍 - 不同模型价格差异巨大：GPT-4 是 GPT-3.5 的 20-30 倍 2. 工具调用费用（占比 10-20%） - 搜索引擎 API 调用 - 数据库查询费用 - 外部 API 调用 3. 基础设施费用（占比 5-10%） - 服务器/函数计算托管 - 向量数据库存储 - 日志和监控 **典型 AI Agent 成本拆解（以 10 万次对话/月为例）：** - 提示词输入：平均 2000 Token/次 → 约 $80-120/月 - 模型输出：平均 500 Token/次 → 约 $50-80/月 - 工具调用：平均 3 次/对话 → 约 $20-30/月 - 基础设施：向量搜索 + 存储 → 约 $30-50/月 - **总计：约 $180-280/月** **成本失控的常见场景：** - ❌ Agent 陷入死循环，不断调用 LLM - ❌ 每次对话都传完整历史，Token 用量翻倍 - ❌ 使用顶级模型处理简单任务 - ❌ 没有缓存机制，相同问题重复计算 - ❌ 工具调用失败后不做缓存，反复重试 💡 先做成本建模再开发：用最坏情况估算上限，做好预算告警。 💡 不同模型分层使用：简单任务用小模型，复杂任务用大模型。