2.3反向传播:导数、偏导数、梯度 ①导数:f(x)y=1im(x+A(=im f(x)-f(x-△x) →00 △x ②偏导数 偏导数表示固定面上一点的切线斜率 通常只关心x轴和y轴方向的偏导数 假设f是一个多元函数,f(x,y)=x2+xy+y2 ∫在x轴方向的偏导数为=3x 在点(1,1,3)处x轴方向的偏导数是为3 ③梯度 是一个向量(矢量) 梯度即某一点最大的方向导数 沿梯度方向函数有最大的变化率(正向增加,逆向减少) 在某点为极大值或极小值只有当在该点的每个偏导数等于0才有可能,也就是说梯度等于02.3 反向传播：导数、偏导数、梯度 ①导数：𝑓 𝑥 ′ = lim 𝑛→∞ 𝑓 𝑥+∆𝑥 −𝑓(𝑥) ∆𝑥 = lim 𝑛→∞ 𝑓(𝑥)−𝑓(𝑥−∆𝑥) ∆𝑥 ②偏导数： - 偏导数表示固定面上一点的切线斜率 - 通常只关心 x 轴和 y 轴方向的偏导数 - 假设 𝑓 是一个多元函数，𝑓 𝑥, 𝑦 = 𝑥 2 + 𝑥𝑦 + 𝑦 2 - 𝑓 在 x 轴方向的偏导数为 𝜕𝑓 𝜕𝑥 = 3𝑥 - 在点(1,1,3)处 x 轴方向的偏导数是为3 ③梯度： - 是一个向量(矢量) - 梯度即某一点最大的方向导数 - 沿梯度方向函数有最大的变化率(正向增加，逆向减少) - 在某点为极大值或极小值只有当在该点的每个偏导数等于0才有可能，也就是说梯度等于0