深度学习讲解者图鉴:全球与中文圈最出圈的 9 位导读人
论文原文负责「正确」,讲解者负责「讲得让人懂」。这份图鉴盘点国际上与中文圈最出圈的深度学习讲解者:他们是谁、代表作在哪、怎么与本站的 i 系列解读搭配使用,最后附上一条从零搞懂 Transformer 的最短学习路径。
为什么值得认识他们
深度学习的经典论文大多写得很省:默认你熟悉前置工作、数学符号从简、直觉一笔带过。于是这个领域形成了一个特殊的生态位——讲解者。他们不一定是论文作者本人,却能把论文「翻译」成图、动画、逐行代码或者一门课。一份图解的阅读量常常超过原文一个数量级。
下面的 9 位是国际与中文圈公认出圈的代表。每人给三样东西:身份背景、代表作入口(链接均已验证可访问)、以及与本站解读页的关联。
国际篇
Christopher Olah
colah.github.io 博主 · Distill 期刊创办人之一 · 现任 Anthropic,做神经网络可解释性
公认的「用图讲深度学习」天花板。一篇《Understanding LSTM Networks》用「传送带与阀门」的类比把 LSTM 的门结构讲成了图解科普的范本,十年后仍是入门标准读物。
- 博客:colah.github.io
- 代表作:Understanding LSTM Networks(2015)
- Distill 期刊(已停更但存档全开):distill.pub
本站关联:i12 理解 LSTM 解读的正是这篇原文。
Jay Alammar
图解机器学习博主 ·「Illustrated」系列作者
最贴近「给每篇大模型经典配图解」定位的人:《The Illustrated Transformer》《The Illustrated GPT-2》起,几乎所有大模型里程碑都有他的图解版,被大量课程与论文直接引用。
本站关联:读 i16 Attention Is All You Need 前先看 Illustrated Transformer 建立直觉,效果最好。
Andrej Karpathy
OpenAI 创始成员 · 前 Tesla AI 负责人 · CS231n 讲师
「教学型工程师」的典范:博客图文经典,YouTube 频道《Neural Networks: Zero to Hero》从零手写反向传播、直到一行行搭出 GPT,是目前最有影响力的代码向课程之一。
- 主页:karpathy.ai
- 课程:Neural Networks: Zero to Hero(YouTube 频道)
- CS231n 讲义:cs231n.github.io
本站关联:i11 RNN 的惊人有效性 解读的就是他的博客原文;i07 CS231n 是这门课的解读。
Lilian Weng
前 OpenAI 研究员 · Lil'Log 博主
以长文综述著称:注意力机制、扩散模型、Agent 框架等主题的系统性长文是很多研究者的标准参考资料,兼顾综述广度与文献细节。
- 博客:lilianweng.github.io(Lil'Log)
- 值得先读:注意力综述、扩散模型综述、LLM Agent 综述(站内目录按主题排列)
本站关联:本站的注意力与推理系统主题(i15、i16)读完后,适合用她的对应综述做延伸。
Sasha Rush
哈佛教授 ·《The Annotated Transformer》作者
「论文逐行变代码」路线的开创者:《The Annotated Transformer》把 Attention Is All You Need 的每一段公式旁边放上可运行的 PyTorch 实现,成为论文精读与实现之间的标准桥梁。
本站关联:i17 Annotated Transformer 解读的正是这篇。
3Blue1Brown(Grant Sanderson)
数学动画作者(严格说不是教授)
用自研动画引擎把神经网络、反向传播、注意力机制做成可视化经典,是无数人的深度学习第一课。动画的直觉价值在「反向传播」这种纯文字难讲的主题上尤其突出。
- 官网(含文字互动版):神经网络系列
- YouTube:@3blue1brown
本站关联:他的反向传播动画适合作为整个 i 系列的前置直觉课。
Michael Nielsen
科学家 · 科普作家 · 交互式出版先驱
免费在线书《Neural Networks and Deep Learning》是最早的深度学习系统免费教程之一,书中「边读边动手」的交互式章节是交互式科普的先声。
本站关联:适合零基础读者在读 i06 AlexNet 之前补齐卷积网络直觉。
中文圈篇
李宏毅
台大教授
机器学习课程图文并茂还全是梗,每年随当年热点更新(从 Transformer 到扩散模型到 Agent),B 站与 YouTube 上的搬运与正版合集都是现象级,公认的中文入门首选。
- 课程主页(讲义与录像汇总):speech.ee.ntu.edu.tw/~hylee
- YouTube:@HungyiLeeNTU
- B 站:搜索「李宏毅 机器学习」近年课程合集
本站关联:他的课程讲完的模型,本站 i 系列基本都配了解读页,可作为「课后精读」材料。
与本站 i 系列的搭配阅读
一个实用结论:本站 i11、i12、i17 三篇解读页的原作者(Karpathy、Olah、Rush)正是上面国际篇的前几位——他们既是被解读的原作者,也是讲解者生态里的顶流。推荐搭配如下:
| 本站解读页 | 建议先读 / 配套 | 讲解者 |
|---|---|---|
| i07 CS231n | CS231n 课程讲义 | Karpathy |
| i11 RNN 的惊人有效性 | The Unreasonable Effectiveness of RNNs | Karpathy |
| i12 理解 LSTM | Understanding LSTM Networks | Olah |
| i16 Attention Is All You Need | The Illustrated Transformer | Alammar |
| i17 Annotated Transformer | The Annotated Transformer | Rush |
使用建议:先用图解或动画建立直觉(Alammar、3Blue1Brown),再回本站读论文级解读(i 系列),需要逐行实现时走 Annotated 与 Zero to Hero(Rush、Karpathy)。中文读者可以在任意环节换用李宏毅的课程或李沐的精读视频替代。
从零搞懂 Transformer:最短学习路径
如果只为一件事来这个站——搞懂 Transformer 架构——业界的讲解者们已经把路铺好了。按下面顺序走,每一步都踩在上一步建立的直觉上:
- 看图建立直觉:The Illustrated Transformer(Jay Alammar)。把注意力画成「每个词环顾四周」的图解,30 分钟建立整体图景,是业界公认的第一站。
- 动画补数学直觉(可选):3Blue1Brown 的神经网络与注意力系列。把注意力权重、矩阵乘法与词向量的关系做成可视化,适合对「Q/K/V 到底在算什么」没有感觉的读者。
- 读原文:Attention Is All You Need(arXiv:1706.03762)。带着第 1 步的图回去读,陌生的只剩符号而不是概念;配套本站 i16 逐节解读。
- 逐行读代码:The Annotated Transformer(Sasha Rush)。论文每一段旁边放着可运行的 PyTorch,读完等于用代码把论文复述了一遍;配套本站 i17 解读。
- 亲手从零搭一个:Karpathy《Let's build GPT: from scratch, in code, spelled out》(Zero to Hero 系列)。从空文件开始手写一个能训练的小 GPT,配套仓库 ng-video-lecture 与 nanoGPT。这一步做完,Transformer 对你就不再是「听说过」。
- 补细节与延伸:The Illustrated GPT-2(看清解码器栈怎么一层层接龙)、Attention? Attention!(Lilian Weng)(注意力变体系统综述)、Karpathy 的 Intro to Large Language Models(一小时讲座,把 GPT 放进大模型全景)。
中文替代方案:第 1-2 步的直觉环节可以换李沐团队的《注意力机制》章节(D2L 中文版,图文+代码),或李宏毅课程里 Transformer 对应讲次;第 5 步之后回本站 i16、i17 做论文级精读。
全部入口汇总
- Olah:colah.github.io · Distill
- Alammar:jalammar.github.io
- Karpathy:karpathy.ai · YouTube
- Weng:Lil'Log
- Rush:The Annotated Transformer
- 3Blue1Brown:3blue1brown.com · YouTube
- Nielsen:Neural Networks and Deep Learning
- 李宏毅:课程主页 · YouTube
- 李沐:B 站「跟李沐学AI」 · D2L 中文版