数据的洪流：互联网如何喂养AI

引子：GPT-3「读过」什么？

GPT-3的训练数据包含约570GB的纯文本。听起来不大？换算成书：约3000亿个单词——相当于一个人每天读一本书，连续读300万年的量。

这就是「大数据」的含义——不是「数据很多」，而是「数据多到人类无法靠自身来理解和消化」。AI恰好相反：数据越多，它越强。

3.1 从KB到PB：数据的指数爆炸

时代 个人存储 全球数据总量1980s 360KB软盘 约0.01EB 2000s 80GB硬盘 约50EB 2020s 2TB云盘 约120ZB（120,000EB）

1ZB = 10亿TB。2025年全球每天产生的数据量，超过人类从古代到2003年产生的数据总和。

3.2 结构化 vs 非结构化：为什么病历让AI头疼

医疗数据的最大矛盾：最有临床价值的信息（主诉、现病史、手术记录、查房记录）

往往是非结构化的自由文本，而AI最难处理的就是自由文本。

这也是为什么NCRC投入巨资建设CBD数据库（33.9万例结构化病例）

——把非结构化变成结构化，是AI落地医学的第一步。

3.3 医疗数据的特殊性

普通互联网数据 医疗数据可公开 高度隐私，受法律严格保护可自由流动 孤岛化——每家医院的数据不互通噪声多但可清洗 噪声多且清洗时可能丢失临床关键信息标注成本低（普通人可标注） 标注成本极高（必须医生标注）

错误影响有限 一个错误可能影响诊疗决策

3.4 数据如何变成AI的知识

互联网文本（海量公开文本）
→ 数据清洗（去重、过滤垃圾信息、格式化）
→ Token化（切分成AI可读的语义原子，见第7章）
→ 模型训练（反复阅读，调整参数，见第8章）
→ 形成知识（内化为模型权重）

3.5 本章小结

本章初稿，待浩哥审阅。