零基础入门 · 先把 AI 的雾气拨开

英伟达为什么那么值钱?

AI 时代的卖铲人:一个博士逐题算 vs 一万个小学生同时算,看懂显卡为什么是抢手货

本页解决的问题

先给结论

英伟达为什么那么值钱?

AI 时代的卖铲人:一个博士逐题算 vs 一万个小学生同时算,看懂显卡为什么是抢手货

判断标准

让这个结论先证明自己值得留下。 把这一页当成决策工具,而不是需要背下来的定义。把概念连到一个真实任务、一个可观察结果,以及一个能改变你判断的失败上。

下一步

写下一个问题:试完这个方法后,你能用什么证据回答它?

常见误区

结论听起来很完整,却没有检查最关键的假设。

一句话回答

AI 训练要同时做海量的简单算术,显卡天生擅长人海战术;全世界都在抢算力,英伟达是这轮淘金潮里最大的卖铲人

打个比方 · 淘金潮与卖铲人

当年淘金热有个经典观察:冲进金矿的人未必挖到金子,在路口卖铲子和牛仔裤的人先发了财。今天的 AI 就是新一轮淘金潮:

⛏️

淘金的人

全世界的公司都冲进来训模型、做应用,都想挖到自己的金子。谁能挖到,现在还说不准。

🛒

铲子

挖金子得先有工具。AI 的工具是算力,主要就是一排排装满显卡的机房。没铲子,再好的想法也开不了工。

💰

卖铲人

不管谁最后挖到金子,铲子人人都得买。英伟达卖的就是这把铲子,而且几乎是独一家,想买还得排队。

训练一个大模型,光算力开销就在几十万到上亿的量级,这些钱大头流向了同一家公司。淘金的人越多、越疯狂,卖铲人越值钱。

来场比赛 · 一位博士 vs 一万名小学生

那为什么非要显卡?电脑里原本的处理器(CPU)也很强啊。因为两者的强法不一样:CPU 像一位博士,什么难题都会,但一次专注做一道;显卡(GPU)像一万名小学生,每人只会简单算术,但能同时开工。AI 训练要算的恰好是海量的简单乘加,正对小学生的胃口。点下面开赛,亲眼看看。

🎓CPU · 一位博士
逐题精算,一次只做一道
剩余题目:24
一道道磨,终于算完了
🧒GPU · 一万名小学生
题目简单,全员同时开工
剩余题目:24
唰,一眨眼全算完了
题目简单但数量巨大时,一万名同时开工的小学生完胜一位博士。AI 训练要算的,正是这种题,而且是天文数字的量。
为什么别家追不上

造出性能接近的芯片,别家未必做不到。难追的是另一样东西:多年积累的软件工具链和生态。全世界的 AI 开发者写程序,用的那套工具默认长在英伟达的地基上;换一家的芯片,等于让所有人搬家重装修,光有房子没人愿意来。硬件可以砸钱造,生态只能靠时间长。这就是它的护城河。

这和你有什么关系

关系很直接:算力贵,是所有 AI 服务收费的根源。你每次和 AI 对话,按 Token 计的费里摊着显卡的折旧和机房的电费;生成一张图贵几十倍,也是因为图要算的量比文字大得多。理解了铲子有多贵,就理解了账单为什么长那样。

顺带解释一个新闻高频词:公司之间比拼「算力储备」「囤了多少张卡」,说的就是谁家铲子多。铲子多,训练快、服务稳,招开发者也容易,这是 AI 时代新的家底。

「打个比方 · 淘金潮与卖铲人」要放回选型约束

「AI 训练要同时做 海量的简单算术 ,显卡天生擅长人海战术;全世界都在抢算力,英伟达是这轮淘金潮里 最大的卖铲人」说明,模型、许可证、接入方式和榜单都只是信息,不是脱离场景的答案。真正的选择取决于任务、数据边界、延迟、质量下限和运行成本。

先写淘汰条件,再看最高分

「当年淘金热有个经典观察:冲进金矿的人未必挖到金子, 在路口卖铲子和牛仔裤的人先发了财 。今天的 AI 就是新一轮淘金潮」涉及的比较,至少要使用同一组真实输入,并同时观察正确性、失败方式、响应时间和费用。一个在公开榜单上领先的模型,可能因为许可证、隐私要求或峰值延迟不适合你的任务。

  • 显卡赢在并行 :一万名小学生同时算简单题,完胜一位博士逐题精算
  • 卖铲人逻辑 :淘金的人未必赚钱,铲子人人都得买
  • 生态是护城河 :开发者都在它的工具链上盖房,搬家成本太高

没有测试集,就没有可靠的赢家

以「关系很直接: 算力贵,是所有 AI 服务收费的根源 。你每次和 AI 对话,按 Token 计的费 里摊着显卡的折旧和机房的电费;」为起点,选几条真正会影响决策的输入,写下一个会改变选择的反例;这比记住一次排名更能支持下一次判断。

从「打个比方 · 淘金潮与卖铲人」走到「来场比赛 · 一位博士 vs 一万名小学生」

「打个比方 · 淘金潮与卖铲人」先把问题落在「当年淘金热有个经典观察:冲进金矿的人未必挖到金子, 在路口卖铲子和牛仔裤的人先发了财 。今天的 AI 就是新一轮淘金潮」上;到了「来场比赛 · 一位博士 vs 一万名小学生」,讨论继续推进到「那为什么非要显卡?电脑里原本的处理器(CPU)也很强啊。因为两者的强法不一样: CPU 像一位博士 ,什么难题都会,但一次专注做一道; 显卡(GPU)像一万名小学生 ,每人只会简单算术,但能同时开工。AI 训练要算的恰好是海量的简单乘加,正对小学生的胃口。点下面开赛,亲眼看看」。两段连起来,重点就不只是记住一个结论,而是看清它成立所依赖的条件。

把这条判断带到下一个场景

做模型选择时,先用真实任务写出不能妥协的条件,再用同一组输入比较质量、失败方式、延迟、许可和成本;榜单只适合作为起点。

  • 「打个比方 · 淘金潮与卖铲人」:当年淘金热有个经典观察:冲进金矿的人未必挖到金子, 在路口卖铲子和牛仔裤的人先发了财 。今天的 AI 就是新一轮淘金潮
  • 「来场比赛 · 一位博士 vs 一万名小学生」:那为什么非要显卡?电脑里原本的处理器(CPU)也很强啊。因为两者的强法不一样: CPU 像一位博士 ,什么难题都会,但一次专注做一道; 显卡(GPU)像一万名小学生 ,每人只会简单算术,但能同时开工。AI 训练要算的恰好是海量的简单乘加,正对小学生的胃口。点下面开赛,亲眼看看
  • 「最后的要点」:算力成本最终摊进你的账单 :每次对话、每张图,都有铲子的折旧

最后的「最后的要点」把讨论落到「算力成本最终摊进你的账单 :每次对话、每张图,都有铲子的折旧」。回看这条线索时,最值得保留的是:当输入、规模或风险改变,哪些判断需要重新做一遍。

✅ 这一页想和你分享的

  • 显卡赢在并行:一万名小学生同时算简单题,完胜一位博士逐题精算
  • 卖铲人逻辑:淘金的人未必赚钱,铲子人人都得买
  • 生态是护城河:开发者都在它的工具链上盖房,搬家成本太高
  • 算力成本最终摊进你的账单:每次对话、每张图,都有铲子的折旧
标记为已学完 阅读进度会自动记录
← 上一篇下一篇 →

继续阅读

同一条线上的下一篇。

文章讨论

读到这里,留下一个判断。

把刚想明白的地方、还没想通的问题,留给下一位一起学习的人。

正在讨论 英伟达为什么那么值钱? 先把 AI 的雾气拨开
3条讨论文章讨论 · 与共学社区同步
在共学社区查看
AM
Asha Morgan内容编辑
观点实践记录

我把这篇文章里的一个判断改写成了今天可以验证的小实验。比记住结论更有用的是,知道下一步要观察什么。

文章讨论7 有帮助
LH
Lin Harper独立开发者
观点观点

读完以后我先回头找它成立的条件,而不是直接把方法搬进项目。这个顺序让后面的取舍清楚很多。

文章讨论5 有帮助
KM
Kiki Moore产品运营
问题问题

如果把这个判断放到真实工作里,最先需要补的约束是什么?我想知道从阅读到第一次实践之间,哪一步最值得先做。

文章讨论4 有帮助