自我改进 · 当 Harness 开始自我改进

立三条长跑规矩

上下文占用曲线与压缩阈值演示;三档任务:找到失忆轮次、写三条规矩、跑通落盘再读回

本页解决的问题

先给结论

「立三条长跑规矩」要解决的关键问题是什么?

上下文占用曲线与压缩阈值演示;三档任务:找到失忆轮次、写三条规矩、跑通落盘再读回

判断标准

跟着交接处走,不要只看 Demo。 系统是否可靠,往往取决于模型、工具、状态、权限和人的交接处。把每次交接都当成可以观察、测试和恢复的地方。

下一步

为一个自动化步骤写清输入、负责人、审批和恢复动作。

常见误区

一次运行成功了,却说不清发生了什么,也无法安全重放。

实战主线第五格:短跑成绩有了,现在练马拉松
M0
想清楚它替你干什么
M1
能稳定说人话
M2
能动手干活
M3
改好改坏能量化
M4
长跑不失忆
M5
过程可复现
先看清楚 · 失忆是一条能画出来的曲线

用户说「它聊着聊着变笨了」,背后是一条很具体的曲线:上下文占用一轮一轮往上爬,爬满之后系统只能悄悄扔东西。扔的往往是最早的消息,也就是你一开始交代的那些最重要的规矩。

连续对话 20 轮,上下文占用怎么走

上下文占用 85% 压缩阈值
不做任何管理,第 14 轮就撞上阈值。之后每一轮都在悄悄丢最早的消息,用户的感受就是「它把我最开始说的话忘了」。

三条规矩,对应三种失忆

压缩阈值管「爆掉才处理」:占用到线就压,别等报错。

永不删除清单管「压缩压过头」:用户的原话、定好的需求、安全约束,这些进了摘要就找不回来,必须钉死在上下文里。

落盘笔记管「跨会话失忆」:重要结论写进文件,下次开工先读文件。这就是这一章说的「文件系统持久记忆」,也是 Harness 自我改进的起点。它连自己上次学到什么都记得住,才谈得上改进自己。

动手清单 · 挑一个开始,勾掉它

这一章的动手清单

0 / 3 已完成

找到它开始失忆的那一轮

15 分钟 所有人

翻出你和 AI 最长的一次对话,从头读到尾,找到它第一次忘掉前面交代过的事是在第几轮。记下这个数,这就是你的 Agent 在没有任何管理时的真实续航。

什么算做完了
你能说出「大概第 N 轮,它忘了 XX」。说不出说明你的对话还不够长。那也是个有用的结论:你的场景暂时用不到压缩,先别过度设计。

写下你的三条长跑规矩

1 小时 Agent 要跑长任务

对着你的场景把三条规矩写具体:占用到百分之多少触发压缩、哪些内容永远不进压缩区(列清单,别写「重要内容」这种废话)、什么结论要落盘成文件。写完贴进你的 Agent 配置或系统提示词里。

什么算做完了
三条都有具体的数字或清单,且「永不删除清单」里至少包含:用户原话的关键约束、M0 定下的需求定义。

跑通一次「落盘再读回」

半天 要跨会话干活

让 Agent 在干完一件事后把结论写进一个固定文件(叫它工作笔记),然后关掉会话、开个全新的,第一句就让它读这个文件继续干。新会话能无缝接上,你就亲手实现了这一章讲的结构化笔记模式,最朴素也最管用的长期记忆。

什么算做完了
新会话里它没有问任何「上次干到哪了」之类的废话,直接从断点继续。做到这一步,M4 就立住了。

把三条规矩存进建造日志

M4 要记的是:失忆轮次、三条规矩原文、落盘笔记放在哪。下一格是最后一格:把整个过程变成别人也能复现的规范。

去填 M4

「先看清楚 · 失忆是一条能画出来的曲线」怎样变成可执行的指令

「用户说「它聊着聊着变笨了」,背后是一条很具体的曲线: 上下文占用一轮一轮往上爬,爬满之后系统只能悄悄扔东西 。扔的往往是最早的消息,也就是你一开始交代的那些最重要的规矩」强调的不是某句神奇咒语,而是信息是否足够让模型判断“为谁做、要完成什么、什么结果算合格”。

背景决定方向,限制决定边界

从「永不删除清单 管「压缩压过头」:用户的原话、定好的需求、安全约束,这些进了摘要就找不回来,必须钉死在上下文里」可以看出,一个有效请求至少要把任务、受众、输入材料、输出形式和限制条件分开。少了背景,模型只能猜;少了验收标准,即使文字流畅也无法判断是否完成任务。

继续加字不一定继续变好

把「M4 要记的是:失忆轮次、三条规矩原文、落盘笔记放在哪。下一格是最后一格:把整个过程变成别人也能复现的规范」变成一个小练习:只改背景、要求、限制中的一项,保留其他内容不动,观察哪一层真正改变了结果。

从「先看清楚 · 失忆是一条能画出来的曲线」走到「动手清单 · 挑一个开始,勾掉它」

「先看清楚 · 失忆是一条能画出来的曲线」先把问题落在「用户说「它聊着聊着变笨了」,背后是一条很具体的曲线: 上下文占用一轮一轮往上爬,爬满之后系统只能悄悄扔东西 。扔的往往是最早的消息,也就是你一开始交代的那些最重要的规矩」上;到了「动手清单 · 挑一个开始,勾掉它」,讨论继续推进到「翻出你和 AI 最长的一次对话,从头读到尾,找到它 第一次忘掉前面交代过的事 是在第几轮。记下这个数,这就是你的 Agent 在没有任何管理时的真实续航」。两段连起来,重点就不只是记住一个结论,而是看清它成立所依赖的条件。

把这条判断带到下一个场景

写请求时也应逐层补齐:先说任务和受众,再给材料和输出要求,最后加上限制与验收方式;一次只改变一层,才能知道哪项信息起了作用。

  • 「先看清楚 · 失忆是一条能画出来的曲线」:用户说「它聊着聊着变笨了」,背后是一条很具体的曲线: 上下文占用一轮一轮往上爬,爬满之后系统只能悄悄扔东西 。扔的往往是最早的消息,也就是你一开始交代的那些最重要的规矩
  • 「动手清单 · 挑一个开始,勾掉它」:翻出你和 AI 最长的一次对话,从头读到尾,找到它 第一次忘掉前面交代过的事 是在第几轮。记下这个数,这就是你的 Agent 在没有任何管理时的真实续航
  • 「最后的要点」:M4 要记的是:失忆轮次、三条规矩原文、落盘笔记放在哪。下一格是最后一格:把整个过程变成别人也能复现的规范

最后的「最后的要点」把讨论落到「M4 要记的是:失忆轮次、三条规矩原文、落盘笔记放在哪。下一格是最后一格:把整个过程变成别人也能复现的规范」。回看这条线索时,最值得保留的是:当输入、规模或风险改变,哪些判断需要重新做一遍。

标记为已学完 阅读进度会自动记录
← 上一篇下一篇 →

继续阅读

同一条线上的下一篇。

文章讨论

读到这里,留下一个判断。

把刚想明白的地方、还没想通的问题,留给下一位一起学习的人。

正在讨论 立三条长跑规矩 当 Harness 开始自我改进
3条讨论文章讨论 · 与共学社区同步
在共学社区查看
AM
Asha Morgan内容编辑
观点实践记录

我把这篇文章里的一个判断改写成了今天可以验证的小实验。比记住结论更有用的是,知道下一步要观察什么。

文章讨论7 有帮助
LH
Lin Harper独立开发者
观点观点

读完以后我先回头找它成立的条件,而不是直接把方法搬进项目。这个顺序让后面的取舍清楚很多。

文章讨论5 有帮助
KM
Kiki Moore产品运营
问题问题

如果把这个判断放到真实工作里,最先需要补的约束是什么?我想知道从阅读到第一次实践之间,哪一步最值得先做。

文章讨论4 有帮助