大模型原理 · 产品下面的模型

汇总(下)· 缓解策略 + 决策框架

四种缓解策略对比 / 常见误区清单 / 方案选择判断矩阵

本页解决的问题

先给结论

「汇总(下)· 缓解策略 + 决策框架」要解决的关键问题是什么?

四种缓解策略对比 / 常见误区清单 / 方案选择判断矩阵

判断标准

让这个结论先证明自己值得留下。 把这一页当成决策工具,而不是需要背下来的定义。把概念连到一个真实任务、一个可观察结果,以及一个能改变你判断的失败上。

下一步

写下一个问题:试完这个方法后,你能用什么证据回答它?

常见误区

结论听起来很完整,却没有检查最关键的假设。

三 · 四种缓解策略
🛡️
四种缓解策略
按场景选择,组合使用最佳
首选方案
Prompt Engineering
角色 + 约束 + 示例 + CoT。成本最低,优先使用。

局限:无法注入模型不知道的新知识。
私有知识/实时数据
RAG 检索增强
分块→Embedding→向量检索→注入Prompt。不是"让模型学",是"临时给小抄"。

代价:延迟 + 检索质量 + 维护成本。
调整输出多样性
Temperature / Top-P
T=0 每次一样,T=1 正常采样,T>1 更随机。

误区:不是越高越聪明,越低越蠢。控制随机性,不是智能。
高风险/强合规场景
HITL 人工审核
AI 生成 → 人工审核 → 用户可见。冷启动期必备兜底。

代价:人力成本 + 响应延迟。
四 · AI PM 认知框架
🎯
AI PM 认知框架
带走这些判断,做更好的产品决策
"调高 Temperature 就更聪明" 只是更随机,不是更智能
"RAG = 让模型学习文档" 只是运行时临时注入上下文
"模型在调用 API" 模型只是输出了格式化文字
"重新训练就能修复错误" Prompt 先试,成本低 100 倍
Prompt 够用 知识在训练数据里,格式 / 风格 / 语气问题
需要 RAG 私有知识库、实时数据、知识截止日期后的内容
需要微调 固定专业领域风格、推理范式需要改变
需要 HITL 高风险输出、品牌声誉、医疗/法律合规要求
带走这句话
大模型本质是超大型概率预测机器。理解它的局限,才能正确发挥它的优势。

「三 · 四种缓解策略」为什么能找到相关内容

「四种缓解策略对比 / 常见误区清单 / 方案选择判断矩阵」把检索问题从“把资料存起来”推进到“怎样找到真正相关的资料”。这一步决定了 RAG、推荐和以图搜图最后交给模型的输入质量。

相似度不是答案,召回之后还要核对

在「四种缓解策略对比 / 常见误区清单 / 方案选择判断矩阵」对应的流程里,Embedding 负责把对象放到可比较的语义空间,近邻索引负责减少搜索范围,最终的回答仍然依赖召回片段是否覆盖问题、距离指标是否合适,以及内容有没有过期。

先区分找得到和找得准

把「四种缓解策略对比 / 常见误区清单 / 方案选择判断矩阵」落成一次小测试:准备几条有明确答案的查询,记录召回的相关性、遗漏和无关结果,再决定是否需要换切分方式、索引或重排。

从「三 · 四种缓解策略」走到「四 · AI PM 认知框架」

「三 · 四种缓解策略」先把问题落在「🛡️ 四种缓解策略 按场景选择,组合使用最佳 首选方案 Prompt Engineering 角色 + 约束 + 示例 + CoT。成本最低,优先使用。 局限: 无法注入模型不知道的新知识。 私有知识/实时数据 RAG 检索增强 分块→Embedding→向量检索→注入Prompt。不是"让模型学",是"临时给小抄"。 代价: 延迟 + 检索质量 + 维护成本。 调整输出多样性 Temperature / Top-…」上;到了「四 · AI PM 认知框架」,讨论继续推进到「🎯 AI PM 认知框架 带走这些判断,做更好的产品决策 ❌ "调高 Temperature 就更聪明" → 只是更随机,不是更智能 ❌ "RAG = 让模型学习文档" → 只是运行时临时注入上下文 ❌ "模型在调用 API" → 模型只是输出了格式化文字 ❌ "重新训练就能修复错误" → Prompt 先试,成本低 100 倍 Prompt 够用 知识在训练数据里,格式 / 风格 / 语气问题 需要 RAG 私有…」。两段连起来,重点就不只是记住一个结论,而是看清它成立所依赖的条件。

把这条判断带到下一个场景

检索系统也可以这样看:先确定什么算相关,再观察召回是否覆盖问题,最后检查排序、切分和时效性有没有把真正有用的内容挤出去。

  • 「三 · 四种缓解策略」:🛡️ 四种缓解策略 按场景选择,组合使用最佳 首选方案 Prompt Engineering 角色 + 约束 + 示例 + CoT。成本最低,优先使用。 局限: 无法注入模型不知道的新知识。 私有知识/实时数据 RAG 检索增强 分块→Embedding→向量检索→注入Prompt。不是"让模型学",是"临时给小抄"。 代价: 延迟 + 检索质量 + 维护成本。 调整输出多样性 Temperature / Top-…
  • 「四 · AI PM 认知框架」:🎯 AI PM 认知框架 带走这些判断,做更好的产品决策 ❌ "调高 Temperature 就更聪明" → 只是更随机,不是更智能 ❌ "RAG = 让模型学习文档" → 只是运行时临时注入上下文 ❌ "模型在调用 API" → 模型只是输出了格式化文字 ❌ "重新训练就能修复错误" → Prompt 先试,成本低 100 倍 Prompt 够用 知识在训练数据里,格式 / 风格 / 语气问题 需要 RAG 私有…

最后的「最后把结论落到实践」把讨论落到「四种缓解策略对比 / 常见误区清单 / 方案选择判断矩阵」。回看这条线索时,最值得保留的是:当输入、规模或风险改变,哪些判断需要重新做一遍。

标记为已学完 阅读进度会自动记录
← 上一篇下一篇 →

继续阅读

同一条线上的下一篇。

文章讨论

读到这里,留下一个判断。

把刚想明白的地方、还没想通的问题,留给下一位一起学习的人。

正在讨论 汇总(下)· 缓解策略 + 决策框架 产品下面的模型
3条讨论文章讨论 · 与共学社区同步
在共学社区查看
AM
Asha Morgan内容编辑
观点实践记录

我把这篇文章里的一个判断改写成了今天可以验证的小实验。比记住结论更有用的是,知道下一步要观察什么。

文章讨论7 有帮助
LH
Lin Harper独立开发者
观点观点

读完以后我先回头找它成立的条件,而不是直接把方法搬进项目。这个顺序让后面的取舍清楚很多。

文章讨论5 有帮助
KM
Kiki Moore产品运营
问题问题

如果把这个判断放到真实工作里,最先需要补的约束是什么?我想知道从阅读到第一次实践之间,哪一步最值得先做。

文章讨论4 有帮助