标签: 反向传播 - 文档

反向传播共 2 篇文章

为什么反向传播的链式法则与正向传播方向相反：计算图求导顺序

2026-07-05 06:43:25

为什么反向传播的链式法则与正向传播方向相反：计算图求导顺序理解神经网络如何学习，关键在于掌握反向传播算法。一个核心困惑是：为什么计算梯度的链式法则，其顺序与数据的正向流动方向相反？本文将通过计算图这一直观工具，拆解其背后的逻辑。 1. 理解计算图：一切操作的舞台首先，我们需要一个清晰的“舞台”来

反向传播链式法则计算图

34 0

为什么残差连接能解决梯度消失：恒等映射的梯度高速公路

2026-06-26 14:41:08

为什么残差连接能解决梯度消失：恒等映射的梯度高速公路深度神经网络的训练曾有一个拦路虎：当网络堆叠得非常深时，底层的参数几乎学不到东西。这被称为“梯度消失”。残差连接的出现，像为梯度修建了一条高速公路，一举解决了这个问题。理解问题：传统网络中的“梯度消失” 在反向传播算法中，梯度是损失函数对网络参

残差连接梯度消失恒等映射

43 0

反向传播 共 2 篇文章