Python
打好语言与工程基础
✦
正在生长的知识路径
机器学习
理解数据、特征与评估
深度学习
追踪张量与训练流程
RAG
连接知识与真实场景
Agent
让系统可靠地行动
os.getenv()为什么能传两个参数，get不是只取一个值吗？
第一个参数说明要查哪个环境变量，第二个参数提供查不到时的默认值；函数接收两个参数，但最终只返回一个结果。
AdaGrad如何根据梯度平方和自动调整学习率？
区分基础学习率与每个参数的有效学习率，并解释AdaGrad为什么越训练越慢。
梯度平方丢失方向后，Adam怎样同时决定方向和步长？
Adam用m保存带符号的梯度平均，用v保存梯度平方平均，两份状态各司其职。
Adam与AdamW有什么区别，为什么要解耦权重衰减？
两者的Adam更新相同，真正区别在于weight decay是否先混入梯度和自适应状态。
✎
全部笔记→最近整理的笔记
01
神经网络中的正向传播与反向传播：从数值计算到矩阵公式
从两层神经网络的具体数值出发，推导链式法则、矩阵梯度、Softmax 交叉熵与 PyTorch 自动微分。
继续阅读02Transformer 矩阵与维度完整讲解（整合版）
从 Token 输入、Q/K/V、多头注意力到 Transformer Block 与 KV Cache，系统追踪矩阵运算和维度变化。
继续阅读03Python 四种核心容器怎么选
从顺序、可变性、去重和键值映射出发，建立列表、元组、集合和字典的选择逻辑。
继续阅读04PyTorch 训练流程：数据最终去了哪里
从 Dataset、DataLoader 到 Model、Loss 与 Optimizer，追踪一次训练迭代的输入、输出和参数更新。
继续阅读KEEP LEARNING · KEEP BUILDING