项目Github地址：https://github.com/joyehuang/minimind-notes问题场景：深层网络的数值不稳定想象你在搭建一个 8 层的神经网络。随着层数加深，你会遇到两个致命问题：问题 1：梯度消失Layer1:激活标准差=1.04Layer2:激活标准差=0.85Layer3:激活标准差=0.62Layer minimind系统学习教程 - 基础组件01：归一化（Normalization）
项目Github地址：https://github.com/joyehuang/minimind-notes问题场景：深层网络的数值不稳定想象你在搭建一个 8 层的神经网络。随着层数加深，你会遇到两个致命问题：问题 1：梯度消失Layer1:激活标准差=1.04Layer2:激活标准差=0.85Layer3:激活标准差=0.62Layer