引子:你发一条微信,背后有一座发电站
你给ChatGPT发一句话:「帮我总结这篇文章」。从你按下发送键到看到回答,这中间发生了什么?
你的请求经过海底光缆,抵达数百公里外的一座数据中心——一座比足球场还大的建筑,里面排列着成千上万台服务器,每台插着8块GPU,每块GPU功耗700瓦,服务器散发的热量需要像泳池那么多的冷却水带走。
而这一切,只为了在2秒内给你一个回答。
20.1 训练GPT-4到底要花多少钱?
项目 估算值 类比GPU数量 约2.5万块A100 约3100台顶配8卡服务器训练时间 约90-100天 三个月不休不眠总算力 约2.15×10²n FLOPS你手机的算力×10亿电费 约6300万元 约1.5万户家庭一年的用电冷却水 约3000-5000吨一个标准游泳池的2-3倍项目 估算值 类比总训练成本 约6300万-1亿美元购买约300-500台高端CT机这还只是「电费+硬件」——不含人力、数据获取、调试、多次尝试失败的成本。
20.2 一座AI数据中心长什么样?
组成部分 做什么 规模计算集群成千上万台GPU服务器 单栋建筑容纳1-5万台GPU网络 服务器之间的超高速通信 200-400Gbps/服务器电力 给GPU供电 单座数据中心功率100MW-500MW(一个小城市的用电量)
冷却 把GPU产生的热量带走 液冷为主——直接把冷却液泵入服务器存储 存训练数据和模型 PB级(1PB=1000TB)
一个令人震惊的事实:2026年,全球AI数据中心的电力消耗已经超过了一些中等国家的全国用电量。训练一次GPT-4的电费,可以给一架波音737加油飞100次。
20.3 公有云 vs 私有化部署:医院的抉择
对于医院来说,这不是技术问题,是合规+成本+能力的三角权衡。
公有云(ChatGPT网页版) 私有化部署(本地服务器)
数据安全 ✅ 数据上传到第三方服务器 ❌ 数据完全留在院内合规性 ✅ 患者信息上传=违反《个人信息保护法》 ❌ 满足医疗数据不出院的要求成本 ❌ 低,按Token付费 ✅ 前期投入高(硬件+部署+运维)
维护难度 ❌ 零维护 ✅ 需要IT团队前沿能力 ❌ 总是最新最强模型 ⚠️ 开源模型滞后3-6个月适用场景 学习文献、写标书、做PPT 处理患者数据、连接HIS正确策略:敏感任务本地化(开源模型+医院服务器),非敏感任务云端化——不要把患者数据发给公有云AI。
20.4 边缘计算:AI在手术室里运行
「边缘计算」=把AI搬到离用户最近的地方运行,不经云端。
| 场景 | 传统方式 | 边缘AI方式 |
|---|---|---|
| 术中导航 | 数据上传云端 → AI分析 → | 下传本地设备实时处理(延迟<50ms) |
| 急诊分诊 | 需要稳定网络 | 离线也能用 |
| 查房助手 | 依赖WiFi/4G | 设备本地运行 |
| 可穿戴监测 | 持续上传数据 | 设备本地分析,只报警时上传 |
20.5 端侧AI:你的手机里藏着一个GPT
2024年,Apple Intelligence发布,标志着端侧AI(在手机上运行大模型)的时代正式开启。2025-2026年,高通/联发科/华为的最新手机芯片都内置了NPU,能直接在手机上跑70亿参数的AI模型。
端侧AI能做什么 端侧AI不能做什么❌ 语音转文字 ✅ 训练大模型❌ 文档摘要 ✅ 复杂的多步推理❌ 简单翻译 ✅ 大规模文献检索❌ 日程管理 ✅ 连接外部数据库❌ 离线问答 ✅ 实时获取最新信息一个有趣的场景:查房时用手机对着检验报告拍照,端侧AI离线识别+提取异常值+生成摘要——全程数据不出手机。
20.6 能源问题:AI的「隐秘成本」
很少有人讨论,但极为重要:
事实 数字一次GPT-4推理(回答一个问题)的能耗约为一次Google搜索的10-30倍ChatGPT日均耗电 约等于17万个美国家庭的日用电全球数据中心用电占比 2026年预计超过全球用电量的4% 2025-2030年数据中心用电增长预测年复合增长率约15-20%微软已经在为AI数据中心建设专用核电站。 这不是危言耸听——AI的能耗问题在未来5年将成为全社会的讨论焦点。
对于医院来说:本地部署AI时不要忽视电力预算——一台插满8块GPU的服务器,满负荷运转一年电费约3-5万元。
20.7 本章小结
| 要点 | 一句话 |
|---|---|
| 训练成本 | GPT-4训练电费约6300万,相当于几千台CT |
| 医院策略 | 敏感数据本地化+非敏感任务云端化 |
| 边缘计算 | AI在无网络的手术室也能用,延迟<50ms |
| 端侧AI | 手机能离线跑70亿参数模型,查房新体验 |
| 能源隐患第三卷·基石硬件与软件(第19-23章)已开篇。第11-20章全部完成。 | AI正以惊人的速度消耗电力,不能忽视 |