梯度下降介绍1

想象你被蒙住眼睛站在一座山的某个位置，目标是找到山谷的最低点。你会怎么做？用脚感受一下哪个方向是下山最陡的方向，然后朝那个方向迈出一步。重复，直到你感觉四周都是平地。

梯度下降介绍2

梯度下降就是将上文中的“摸索下山”的过程数学化、自动化。梯度下降是机器学习和深度学习中最核心、最重要的优化算法。它的目标是找到一个函数（通常是损失函数）的最小值。

李永乐讲人工智能-原理

李永乐讲人工智能-卷积神经网络

transformers神经网络-核心