📗 图解深度学习

照着《图解深度学习》（[日] 山下隆义 著，张弥 译，人民邮电出版社，全彩印刷）做的自学笔记 —— 它是 图解机器学习 的下一本：上一本讲传统算法为什么长这个样子——把误差写成平方、给参数加约束；这一本接着往下走一级：**当特征不再由人挑，而是网络自己学，会发生什么。**所以上一本里那些核技巧、稀疏约束、降维，到这里全部换成同一件事——一层层可微的变换，加上反向传播把梯度送回去。全书三块 8 章 51 篇：从神经元到网络（第 1~2 章，先把「一个神经元就是个加权求和加阈值」说透，再把反向传播的链式法则一个个偏导算出来，落到随机梯度下降和学习率怎么选）；三种深度积木（第 3~5 章，卷积核怎样靠权值共享省参数、受限玻尔兹曼机怎样靠能量函数做无监督、自编码器怎样把「压缩再还原」当训练目标）；训练技巧与工具（第 6~8 章，数据不够怎么造、激活函数怎么换、Dropout 和 DropConnect 怎么随机扔，以及当年的 Theano／Caffe／Chainer／TensorFlow 各是什么路数）。本课是 原理课，Demo 全部手写网络、numpy 真跑：前向传播自己写矩阵乘，反向传播自己推链式法则，卷积自己写滑窗，池化自己写取最大，受限玻尔兹曼机自己写吉布斯采样和对比散度，自编码器自己写编码解码两组权重。教材附的 60 段代码一行没抄——书里的公式全部重新用 numpy 实现了一遍，输出数字也都是当场跑出来的。第七章讲的那批框架（Theano／Pylearn2／Caffe／DIGITS／Chainer）今天的沙箱里一个都装不上，那一章按「原理＋当年怎么用」写，如实说明。大白话、不跳步骤、必带生活比喻、常见误区、可折叠自测题。

内容来自我的 Obsidian 自学笔记 · 全书规划 8 章 51 篇，已完成第 1~3 章（22 篇） · 更新中 🚧