产品下面的模型
一条可以继续验证的思路
幻觉与四种应对
这里有 6 篇文章,从一个词走向真实工作里的选择;先读懂,再决定要不要使用。
阅读线程开放
6篇札记
阅读方式先找到你卡住的地方,再顺着证据和取舍走
每篇可以独立阅读,也可以沿着这条线程继续。
产品下面的模型无需登录
本页解决的问题
先给结论什么是「幻觉与四种应对」,它会影响哪些 AI 决策?
三类典型幻觉:事实错误 / 自信编造 / 知识截止 本页把相关概念、常见误区和实践文章放在同一条阅读线程里。
判断标准
先判断你卡在定义、选择还是验证,再从下方 6 篇文章中选择最接近的一篇。
下一步
从「大模型幻觉演示」开始,读完后用自己的任务复述结论。
常见误区
不要把同一主题下的所有方法当成可互换方案;输入、风险和验收标准变化时,答案也会变化。
这条问题线程
把一个词放回它真正影响的选择里。
案例
大模型幻觉演示
三类典型幻觉:事实错误 / 自信编造 / 知识截止
产品下面的模型 3 min →
概念
应对 1:Prompt Engineering
约束指令 + 局限性:模型不知道自己不知道什么
产品下面的模型 3 min →
交互
应对 2:RAG 检索增强生成
真实文档注入上下文,5 步交互流程动画,对比有无 RAG 的差异
产品下面的模型 3 min →
PM 进阶
RAG 的代价与优化策略
成本分析表 + 关键词触发 / 模型路由 / 语义缓存 / 精准切块四种策略
产品下面的模型 3 min →
交互
应对 3:Temperature & Top-P
拖动滑块,实时看概率分布和输出变化
产品下面的模型 3 min →
概念
应对 4:评测 + 人工审核
外部纠错层,冷启动阶段兜底策略(HITL)
产品下面的模型 3 min →