引子:ENIAC占据了一整间房
1946年,世界上第一台通用电子计算机ENIAC诞生。它重30吨,占地167平方米,耗电150千瓦——相当于一栋小型办公楼。而它的算力,大约是你现在手上那块Apple Watch的百万分之一。
80年后,驱动GPT-4训练的算力集群,相当于把几十万个ENIAC浓缩到一座数据中心里。这章我们就来讲——这中间到底发生了什么。
2.1 摩尔定律:改变世界的最强预测
1965年,英特尔联合创始人戈登·摩尔做出一个预言:集成电路上的晶体管数量,每18-24个月就会翻一倍。
这个预测惊人地持续了50年。它意味着:
| 年份 | 晶体管数(单芯片) | 类比 |
|---|---|---|
| 1971 | Intel 4004 2300 | 一滴水 |
| 1993 | Intel Pentium 310万 | 一杯水 |
| 2010 | Intel Core i7 11.7亿 | 一个浴缸 |
| 2022 | Apple M1 Ultra 1140亿 | 一个游泳池 |
2.2 从CPU到GPU:一场意外造出的AI引擎
2.2.1 CPU:通用但不擅长AI
CPU(中央处理器)像一个优秀的全科医生——什么都能看,但每个专科都不是最顶尖。它擅长处理顺序任务:做一步,再做下一步。
AI训练需要的是并行处理——同时执行成千上万个简单运算。CPU不够用。
2.2.2 GPU:从游戏显卡到AI神器
GPU(图形处理器)最初是为游戏设计的——渲染3D画面需要同时计算数百万个像素的颜色。这个「并行计算」的特性,恰好也是AI训练所需的。
2009年,斯坦福大学的一个研究组发现,用GPU训练神经网络比CPU快70倍。AI界从此进入GPU时代。
2.2.3 英伟达的万亿之路
| 时间 | 事件 | 意义 |
|---|---|---|
| 1999 | 英伟达发明GPU | 最初只为游戏 |
| 2006 | 发布CUDA平台 | 让GPU可编程,埋下AI伏笔 |
| 2012 | AlexNet用GPU训练 | 深度学习爆发,GPU需求暴增 |
| 2023 | 英伟达市值破1万亿美元 | 全球第一家芯片万亿公司 |
| 2024 | 市值破3万亿 | 超越苹果,全球第二 |
英伟达的崛起是一个「二十年磨一剑」的故事:2006年不被看好的CUDA投资,最终让它成为AI时代的「卖铲人」。
2.3 TPU和NPU:专为AI定制的芯片
GPU虽然好用,但毕竟是为游戏设计的。于是出现了专为AI设计的芯片:
| 芯片 | 全称 | 开发者 | 特色 |
|---|---|---|---|
| TPU | Tensor | Processing | |
| Unit高效 | 专为TensorFlow优化,训练和推理都 | ||
| NPU | Neural | Processing | |
| Unit华为/苹果/高通 低功耗,适合手机端AI | |||
| 昇腾 | Ascend | 华为 | 国产替代,应对芯片禁令 |
2.4 芯片禁令对中国AI的影响
2022年10月,美国禁止英伟达向中国出口高端AI芯片A100和H100。这对中国AI发展意味着什么?
影响 实际情况
短期冲
击 算力供给受限,训练大模型更贵、更慢
长期刺
激 推动国产芯片研发,华为昇腾/寒武纪加速替代
实际效
果
DeepSeek-V3用受限芯片照样训练出顶级模型,证明算法优化可以部分弥补算力差距
2.5 今天的算力有多强?
| 时期 | 训练一个ImageNet模型 | 训练GPT-4 |
|---|---|---|
| 算力需求 | 1-10 GPU·天 ~25,000 | GPU·90天 |
| 电费 | 几百元 | ~6300万元 |
| 时间 | 1-2天 | 3个月 |
| 人类对比 | 一个医学生1年的学习量 | 一个医学生几百辈子的学习量 |
一句话感受:训练一次GPT-4消耗的电力,足够一辆电动汽车绕地球赤道行驶约6300圈。
2.6 本章小结
| 要点 | 记住这个 |
|---|---|
| 摩尔定律 | 算力每18个月翻倍,持续了50年 |
| GPU革命 | 游戏显卡意外成为AI引擎 |
| 英伟达 | 二十年布局,万亿市值 |
| 专用芯片 | TPU/NPU让AI算力更便宜 |
| 芯片禁令 | 短期受限,长期推动国产替代 |
| 趋势 | 算力成本持续下降,AI只会越来越普及 |
本章初稿,待浩哥审阅。下一章:数据的洪流——互联网如何喂养AI。