动手实战 · 从能跑的 Demo 到能用的产品

定时任务的成本陷阱

Agent 定时跑任务,上下文是累积还是重建?一个选择差 10 倍成本

本页解决的问题

先给结论

「定时任务的成本陷阱」要解决的关键问题是什么?

Agent 定时跑任务,上下文是累积还是重建?一个选择差 10 倍成本

判断标准

让这个结论先证明自己值得留下。 把这一页当成决策工具,而不是需要背下来的定义。把概念连到一个真实任务、一个可观察结果,以及一个能改变你判断的失败上。

下一步

写下一个问题:试完这个方法后,你能用什么证据回答它?

常见误区

结论听起来很完整,却没有检查最关键的假设。

复用会话 vs 新建会话
复用旧会话
第 1 次第 12 次第 24 次
$7.20
24h 总成本
$0.60
最后一次成本
每次新建会话
第 1 次第 12 次第 24 次
$0.72
24h 总成本
$0.03
每次成本
拖动「运行天数」看差异

成本计算器

7
24
$50.4
复用会话总成本
$5.0
新建会话总成本
10x
成本倍数差
为什么复用会话成本会滚雪球

上下文累积过程

1
第 1 次执行:上下文 = System Prompt + 本次对话 ≈ 2,000 token
2
第 2 次执行:上下文 = 第 1 次的全部 + 本次对话 ≈ 4,000 token
3
第 10 次执行:上下文 = 前 9 次全部 + 本次 ≈ 20,000 token
4
第 24 次执行:上下文 = 前 23 次全部 + 本次 ≈ 48,000 token。每次请求都要为这些历史 token 付费!
新建会话 = 每次都从零开始。第 24 次的成本和第 1 次一模一样,因为不带任何历史上下文。定时任务不需要记忆:每次整理当前的新闻就够了,不需要知道昨天整理过什么。
定时任务每次新建会话,别复用旧的。这个选择可以让月账单差 10 倍。大多数定时任务不需要上下文记忆,新建会话既便宜又稳定。

「复用会话 vs 新建会话」如何改变一次回答

「Agent 定时跑任务,上下文是累积还是重建?一个选择差 10 倍成本」说明,模型处理的不是我们眼中的“字数”,而是一段段 Token。Token 的切分方式会影响输入长度、上下文能放下多少内容,以及一次请求要花多少计算。

长度、信息量和上下文不是一回事

当「Agent 定时跑任务,上下文是累积还是重建?一个选择差 10 倍成本」变长时,先要分清三件事:文字被切成多少 Token、哪些内容真正参与当前判断、以及旧内容是否已经超出上下文窗口。删掉重复说明通常比单纯把窗口开得更大更有效。

先保留会改变判断的内容

可以用「Agent 定时跑任务,上下文是累积还是重建?一个选择差 10 倍成本」做一次对照:保留同样的问题,分别删掉重复背景、压缩格式和移除无关历史,比较答案质量、延迟与 Token 数量。

从「复用会话 vs 新建会话」走到「拖动「运行天数」看差异」

「复用会话 vs 新建会话」先把问题落在「复用旧会话 第 1 次 第 12 次 第 24 次 $7.20 24h 总成本 $0.60 最后一次成本 每次新建会话 第 1 次 第 12 次 第 24 次 $0.72 24h 总成本 $0.03 每次成本」上;到了「拖动「运行天数」看差异」,讨论继续推进到「成本计算器 运行天数: 7 每天执行: 24 次 $50.4 复用会话总成本 $5.0 新建会话总成本 10x 成本倍数差」。两段连起来,重点就不只是记住一个结论,而是看清它成立所依赖的条件。

把这条判断带到下一个场景

处理长文本时,先保留会改变结论的内容,再决定如何压缩格式和历史;上下文更长只有在新增信息真正有用时才值得付出代价。

  • 「复用会话 vs 新建会话」:复用旧会话 第 1 次 第 12 次 第 24 次 $7.20 24h 总成本 $0.60 最后一次成本 每次新建会话 第 1 次 第 12 次 第 24 次 $0.72 24h 总成本 $0.03 每次成本
  • 「拖动「运行天数」看差异」:成本计算器 运行天数: 7 每天执行: 24 次 $50.4 复用会话总成本 $5.0 新建会话总成本 10x 成本倍数差
  • 「为什么复用会话成本会滚雪球」:上下文累积过程 1 第 1 次执行:上下文 = System Prompt + 本次对话 ≈ 2,000 token 2 第 2 次执行:上下文 = 第 1 次的全部 + 本次对话 ≈ 4,000 token 3 第 10 次执行:上下文 = 前 9 次全部 + 本次 ≈ 20,000 token 4 第 24 次执行:上下文 = 前 23 次全部 + 本次 ≈ 48,000 token 。每次请求都要为这些历史 t…

最后的「为什么复用会话成本会滚雪球」把讨论落到「上下文累积过程 1 第 1 次执行:上下文 = System Prompt + 本次对话 ≈ 2,000 token 2 第 2 次执行:上下文 = 第 1 次的全部 + 本次对话 ≈ 4,000 token 3 第 10 次执行:上下文 = 前 9 次全部 + 本次 ≈ 20,000 token 4 第 24 次执行:上下文 = 前 23 次全部 + 本次 ≈ 48,000 token 。每次请求都要为这些历史 t…」。回看这条线索时,最值得保留的是:当输入、规模或风险改变,哪些判断需要重新做一遍。

标记为已学完 阅读进度会自动记录
← 上一篇下一篇 →

继续阅读

同一条线上的下一篇。

文章讨论

读到这里,留下一个判断。

把刚想明白的地方、还没想通的问题,留给下一位一起学习的人。

正在讨论 定时任务的成本陷阱 从能跑的 Demo 到能用的产品
3条讨论文章讨论 · 与共学社区同步
在共学社区查看
AM
Asha Morgan内容编辑
观点实践记录

我把这篇文章里的一个判断改写成了今天可以验证的小实验。比记住结论更有用的是,知道下一步要观察什么。

文章讨论7 有帮助
LH
Lin Harper独立开发者
观点观点

读完以后我先回头找它成立的条件,而不是直接把方法搬进项目。这个顺序让后面的取舍清楚很多。

文章讨论5 有帮助
KM
Kiki Moore产品运营
问题问题

如果把这个判断放到真实工作里,最先需要补的约束是什么?我想知道从阅读到第一次实践之间,哪一步最值得先做。

文章讨论4 有帮助