深度学习讲解者图鉴:全球与中文圈最出圈的 9 位导读人

论文原文负责「正确」,讲解者负责「讲得让人懂」。这份图鉴盘点国际上与中文圈最出圈的深度学习讲解者:他们是谁、代表作在哪、怎么与本站的 i 系列解读搭配使用,最后附上一条从零搞懂 Transformer 的最短学习路径。

为什么值得认识他们

深度学习的经典论文大多写得很省:默认你熟悉前置工作、数学符号从简、直觉一笔带过。于是这个领域形成了一个特殊的生态位——讲解者。他们不一定是论文作者本人,却能把论文「翻译」成图、动画、逐行代码或者一门课。一份图解的阅读量常常超过原文一个数量级。

下面的 9 位是国际与中文圈公认出圈的代表。每人给三样东西:身份背景、代表作入口(链接均已验证可访问)、以及与本站解读页的关联。

国际篇

Christopher Olah

colah.github.io 博主 · Distill 期刊创办人之一 · 现任 Anthropic,做神经网络可解释性

公认的「用图讲深度学习」天花板。一篇《Understanding LSTM Networks》用「传送带与阀门」的类比把 LSTM 的门结构讲成了图解科普的范本,十年后仍是入门标准读物。

本站关联:i12 理解 LSTM 解读的正是这篇原文。

Jay Alammar

图解机器学习博主 ·「Illustrated」系列作者

最贴近「给每篇大模型经典配图解」定位的人:《The Illustrated Transformer》《The Illustrated GPT-2》起,几乎所有大模型里程碑都有他的图解版,被大量课程与论文直接引用。

本站关联:读 i16 Attention Is All You Need 前先看 Illustrated Transformer 建立直觉,效果最好。

Andrej Karpathy

OpenAI 创始成员 · 前 Tesla AI 负责人 · CS231n 讲师

「教学型工程师」的典范:博客图文经典,YouTube 频道《Neural Networks: Zero to Hero》从零手写反向传播、直到一行行搭出 GPT,是目前最有影响力的代码向课程之一。

本站关联:i11 RNN 的惊人有效性 解读的就是他的博客原文;i07 CS231n 是这门课的解读。

Lilian Weng

前 OpenAI 研究员 · Lil'Log 博主

以长文综述著称:注意力机制、扩散模型、Agent 框架等主题的系统性长文是很多研究者的标准参考资料,兼顾综述广度与文献细节。

本站关联:本站的注意力与推理系统主题(i15、i16)读完后,适合用她的对应综述做延伸。

Sasha Rush

哈佛教授 ·《The Annotated Transformer》作者

「论文逐行变代码」路线的开创者:《The Annotated Transformer》把 Attention Is All You Need 的每一段公式旁边放上可运行的 PyTorch 实现,成为论文精读与实现之间的标准桥梁。

本站关联:i17 Annotated Transformer 解读的正是这篇。

3Blue1Brown(Grant Sanderson)

数学动画作者(严格说不是教授)

用自研动画引擎把神经网络、反向传播、注意力机制做成可视化经典,是无数人的深度学习第一课。动画的直觉价值在「反向传播」这种纯文字难讲的主题上尤其突出。

本站关联:他的反向传播动画适合作为整个 i 系列的前置直觉课。

Michael Nielsen

科学家 · 科普作家 · 交互式出版先驱

免费在线书《Neural Networks and Deep Learning》是最早的深度学习系统免费教程之一,书中「边读边动手」的交互式章节是交互式科普的先声。

本站关联:适合零基础读者在读 i06 AlexNet 之前补齐卷积网络直觉。

中文圈篇

李宏毅

台大教授

机器学习课程图文并茂还全是梗,每年随当年热点更新(从 Transformer 到扩散模型到 Agent),B 站与 YouTube 上的搬运与正版合集都是现象级,公认的中文入门首选。

本站关联:他的课程讲完的模型,本站 i 系列基本都配了解读页,可作为「课后精读」材料。

李沐

亚马逊资深首席科学家

「跟李沐学AI」论文精读系列的作者:一篇篇带读 Transformer、ResNet、BERT 等经典,兼具作者视角与工程判断;《动手学深度学习》(D2L)中文版作者之一。

本站关联:他的论文精读视频与本站解读页是「先看视频、再来读字」的天然搭档。

与本站 i 系列的搭配阅读

一个实用结论:本站 i11、i12、i17 三篇解读页的原作者(Karpathy、Olah、Rush)正是上面国际篇的前几位——他们既是被解读的原作者,也是讲解者生态里的顶流。推荐搭配如下:

使用建议:先用图解或动画建立直觉(Alammar、3Blue1Brown),再回本站读论文级解读(i 系列),需要逐行实现时走 Annotated 与 Zero to Hero(Rush、Karpathy)。中文读者可以在任意环节换用李宏毅的课程或李沐的精读视频替代。

从零搞懂 Transformer:最短学习路径

如果只为一件事来这个站——搞懂 Transformer 架构——业界的讲解者们已经把路铺好了。按下面顺序走,每一步都踩在上一步建立的直觉上:

  1. 看图建立直觉:The Illustrated Transformer(Jay Alammar)。把注意力画成「每个词环顾四周」的图解,30 分钟建立整体图景,是业界公认的第一站。
  2. 动画补数学直觉(可选):3Blue1Brown 的神经网络与注意力系列。把注意力权重、矩阵乘法与词向量的关系做成可视化,适合对「Q/K/V 到底在算什么」没有感觉的读者。
  3. 读原文:Attention Is All You Need(arXiv:1706.03762)。带着第 1 步的图回去读,陌生的只剩符号而不是概念;配套本站 i16 逐节解读。
  4. 逐行读代码:The Annotated Transformer(Sasha Rush)。论文每一段旁边放着可运行的 PyTorch,读完等于用代码把论文复述了一遍;配套本站 i17 解读。
  5. 亲手从零搭一个:Karpathy《Let's build GPT: from scratch, in code, spelled out》(Zero to Hero 系列)。从空文件开始手写一个能训练的小 GPT,配套仓库 ng-video-lecture 与 nanoGPT。这一步做完,Transformer 对你就不再是「听说过」。
  6. 补细节与延伸:The Illustrated GPT-2(看清解码器栈怎么一层层接龙)、Attention? Attention!(Lilian Weng)(注意力变体系统综述)、Karpathy 的 Intro to Large Language Models(一小时讲座,把 GPT 放进大模型全景)。

中文替代方案:第 1-2 步的直觉环节可以换李沐团队的《注意力机制》章节(D2L 中文版,图文+代码),或李宏毅课程里 Transformer 对应讲次;第 5 步之后回本站 i16、i17 做论文级精读。