AI相关

DiT 学习。

ViT 学习。

LoRA 机理学习。

GPT-3 拆解。

BERT 拆解。

GPT-2 拆解。

Latent Diffusion and Stable Diffusion.

U-Net 的像素级预测。

扩散模型采样加速。

学习 Diffusion 结构和原理。

Transformer 架构学习。

走进 Self-Attention，学习 QKV。

解决生成模型的工程调优问题。

Attention is all you need.

RNN 时代的自回归生成。

在 Diffusion 之前：PixelRNN、VAE 和 GAN 的路线之争。

ResNet：论文拆解学习。

LSTM 如何用门控和加法通道缓解长序列记忆问题。

RNN 的典型任务形态。

RNN 的训练问题。

we need memory!

从规则网格走向图结构，理解 GNN 的消息传递。

CNN in elsewhere.

CNN 的风格迁移尝试。

卷积核到底学到了什么。

卷积网络 is for 图像任务。

从全连接网络走向结构设计。

一些让训练更稳定的小技巧。

Test Bad，打击小镇做题家。

Adam 的家族发展史。

从 SGD 到 Adam 的优化器进化史。

更换激活函数，解决梯度消失问题。

反向传播的具体公式推导。

重生之我在富士康管理流水线。

为什么深度学习突然可行。

为什么神经网络需要变深。

从感知机走到深度学习的基本范式。

从逻辑回归的边界走到神经网络。

学习什么是 Sigmoid，以及它在逻辑回归中的应用。

判别模型：直接学习分类边界。

从贝叶斯公式理解概率生成模型。

分类问题：新场景，新模型。

从偏差、方差到正则化和交叉验证，问题其实都是泛化。

梯度下降是在往哪走：学习率相关算法（初级版）。

学明白线性回归这条线。

重新理解机器学习，机器在学什么。