正在加载图片...
伴随方法 z即之前的h 若损失函数L定义如下:(z1为神经网络的输出) Let》=L(心f,toan)=L(ODESole(.)foi.on aLaL aLaL 反向传播的目标是求出 Oz(to),80,Oto'Ot 伴随项定义为a(t)=-L/z(t)相当于隐层的梯度。 则由链式法则可以旅出 =-a(t)Of(z(t).t.0) OZ 这其实也是一个ODE,初值为L/z(t),通过反向求解这 个ODE即可求得 aL 8z(to) 解另一个oDE胎-[广agrr0无 08 aL 可求得伴随方法 若损失函数L定义如下:(zt_1为神经网络的输出) 反向传播的目标是求出 伴随项定义为 相当于隐层的梯度。 则由链式法则可以推出 这其实也是一个ODE,初值为 ,通过反向求解这 个ODE即可求得 解另一个ODE 可求得 z即之前的h
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有