Harness 核心 · 模型周围的 Harness

总结(下)· 实战 + 成本

安全防御 / 成本优化 / 用 AI 的正确姿势 / 下一步学习路径

本页解决的问题

先给结论

「总结(下)· 实战 + 成本」要解决的关键问题是什么?

安全防御 / 成本优化 / 用 AI 的正确姿势 / 下一步学习路径

判断标准

让这个结论先证明自己值得留下。 把这一页当成决策工具,而不是需要背下来的定义。把概念连到一个真实任务、一个可观察结果,以及一个能改变你判断的失败上。

下一步

写下一个问题:试完这个方法后,你能用什么证据回答它?

常见误区

结论听起来很完整,却没有检查最关键的假设。

模块三
⚙️
模块三 · AI 能干什么 · 多少钱
自动化与成本意识
Agent 概念
能规划、能用工具、能自主行动
Agent = Plan + Tool + Memory + Act。不只是聊天,可以调接口、写文件、循环执行。但也会失败、打转,需要脚手架兜底。
成本意识
多轮对话是指数增长的
每轮都把完整历史带进去 → Token 越累越多,费用越来越贵。10 轮对话的成本可能是第 1 轮的 5-10 倍,必须主动设计压缩策略。
成本优化
五层框架,综合降低 70-90%
模型路由(简单任务用轻量模型)→ 语法层(精简格式)→ 语义层(压缩内容)→ 输出层(约束输出)→ KV Cache(固定前缀)。
常见误区:以为 AI 成本是固定的。实际上产品设计决策决定了成本高低
模块四
🛡️
模块四 · 安全合规与红线意识
产品该在哪里设防
Prompt 注入
用户输入可以覆盖你的系统指令
模型看到的是一整条 Message,无法区分系统指令和用户输入。恶意用户可以用精心构造的输入,让模型做你不想让它做的事。
三层防御
输入层 → 提示词层 → 输出层
输入层过滤关键词和异常结构;提示词层加角色锁定和约束声明;输出层检测是否泄露了系统 Prompt。三层都要,缺一层就有漏洞。
产品红线
不能靠「写了禁止」就算安全
合规边界、品牌风险、竞品信息:Prompt 里写「不许说」只是第一道防线,随时可以被绕过。必须在产品层加技术拦截。
你已经掌握的能力
理解 LLM 原理 识别并缓解幻觉 会写 Prompt 看懂 Agent 架构 建立成本意识 掌握安全红线
课程全部完结 · 恭喜完成产品经理的第一节 AI 课

「模块三」为什么要看操作

「安全防御 / 成本优化 / 用 AI 的正确姿势 / 下一步学习路径」把结构落到了一个具体动作。这里真正要比较的不是名词谁更高级,而是数据如何被放置,以及最常发生的操作需要走多远。

读懂结构,要同时看访问方式和变化方式

「安全防御 / 成本优化 / 用 AI 的正确姿势 / 下一步学习路径」揭示了一个容易被忽略的取舍:按位置读取、按键查找、从两端进出、插入新元素和遍历关系,适合的组织方式并不相同。一个结构在某个操作上很快,不代表它在所有操作上都快。

把规模和更新频率一起算进去

实践时可以把「安全防御 / 成本优化 / 用 AI 的正确姿势 / 下一步学习路径」当作边界提醒:先写下数据量、最常用的操作和允许的延迟,再看 AI 给出的结构是否真的匹配。

从「模块三」走到「模块四」

「模块三」先把问题落在「⚙️ 模块三 · AI 能干什么 · 多少钱 自动化与成本意识 Agent 概念 能规划、能用工具、能自主行动 Agent = Plan + Tool + Memory + Act 。不只是聊天,可以调接口、写文件、循环执行。但也会失败、打转,需要脚手架兜底。 成本意识 多轮对话是指数增长的 每轮都把完整历史带进去 → Token 越累越多,费用越来越贵 。10 轮对话的成本可能是第 1 轮的 5-10 倍,必须主动…」上;到了「模块四」,讨论继续推进到「🛡️ 模块四 · 安全合规与红线意识 产品该在哪里设防 Prompt 注入 用户输入可以覆盖你的系统指令 模型看到的是一整条 Message, 无法区分系统指令和用户输入 。恶意用户可以用精心构造的输入,让模型做你不想让它做的事。 三层防御 输入层 → 提示词层 → 输出层 输入层 过滤关键词和异常结构; 提示词层 加角色锁定和约束声明; 输出层 检测是否泄露了系统 Prompt。三层都要,缺一层就有漏洞。 产品红…」。两段连起来,重点就不只是记住一个结论,而是看清它成立所依赖的条件。

把这条判断带到下一个场景

遇到一个新的数据结构时,不要从定义开始背。先写出最频繁的操作,再估计数据量和更新方式,最后检查结构是否让这三个条件同时成立。

  • 「模块三」:⚙️ 模块三 · AI 能干什么 · 多少钱 自动化与成本意识 Agent 概念 能规划、能用工具、能自主行动 Agent = Plan + Tool + Memory + Act 。不只是聊天,可以调接口、写文件、循环执行。但也会失败、打转,需要脚手架兜底。 成本意识 多轮对话是指数增长的 每轮都把完整历史带进去 → Token 越累越多,费用越来越贵 。10 轮对话的成本可能是第 1 轮的 5-10 倍,必须主动…
  • 「模块四」:🛡️ 模块四 · 安全合规与红线意识 产品该在哪里设防 Prompt 注入 用户输入可以覆盖你的系统指令 模型看到的是一整条 Message, 无法区分系统指令和用户输入 。恶意用户可以用精心构造的输入,让模型做你不想让它做的事。 三层防御 输入层 → 提示词层 → 输出层 输入层 过滤关键词和异常结构; 提示词层 加角色锁定和约束声明; 输出层 检测是否泄露了系统 Prompt。三层都要,缺一层就有漏洞。 产品红…

最后的「最后把结论落到实践」把讨论落到「安全防御 / 成本优化 / 用 AI 的正确姿势 / 下一步学习路径」。回看这条线索时,最值得保留的是:当输入、规模或风险改变,哪些判断需要重新做一遍。

标记为已学完 阅读进度会自动记录
← 上一篇下一篇 →

继续阅读

同一条线上的下一篇。

文章讨论

读到这里,留下一个判断。

把刚想明白的地方、还没想通的问题,留给下一位一起学习的人。

正在讨论 总结(下)· 实战 + 成本 模型周围的 Harness
3条讨论文章讨论 · 与共学社区同步
在共学社区查看
AM
Asha Morgan内容编辑
观点实践记录

我把这篇文章里的一个判断改写成了今天可以验证的小实验。比记住结论更有用的是,知道下一步要观察什么。

文章讨论7 有帮助
LH
Lin Harper独立开发者
观点观点

读完以后我先回头找它成立的条件,而不是直接把方法搬进项目。这个顺序让后面的取舍清楚很多。

文章讨论5 有帮助
KM
Kiki Moore产品运营
问题问题

如果把这个判断放到真实工作里,最先需要补的约束是什么?我想知道从阅读到第一次实践之间,哪一步最值得先做。

文章讨论4 有帮助