隐含状态梯度，h ·目标函数 aL=20l0o1=240n080,w+0n8h.ma4 t=1 、梯度递归 owhr=owf(xr h-1,w)+Onf(x h-1:w)owhi-1 wfhi-1,w） i-t t D2L.ai 隐含状态梯度 • 目标函数 • 梯度递归 ∂wht ∂wL = T ∑ t=1 ∂wl(yt , ot ) = T ∑ t=1 ∂ot l(yt , ot ) [∂wg(ht ,w) + ∂ht g(ht ,w)∂wht] ∂wht = ∂w f(xt , ht−1,w) + ∂h f(xt , ht−1,w)∂wht−1 = 1 ∑ i=t i ∏ j=t ∂h f(xj , hj−1,w) ∂w f(xi , hi−1,w)