正在加载图片...
介绍-基本思想 dh(t) f(h(t),t,0) dt 这是一个常微分方程(ODE)。f是神 Residual Network ODE Network 经网络,该方法相当于用神经网络 对隐藏层的导数进行建模。 输入层视作h(O),为微分方程的初值 条件。以此条件解方程可得h(①,对 应于一般神经网络的隐藏状态。 不过此时神经网络的隐藏层是连续 -5 的,层数为无穷多。 Input/Hidden/Output Input/Hidden/Output h(T)对应于一般神经网络的输出层结 Figure 1:Left:A Residual network defines a discrete sequence of finite transformations. 果。它可以由已经发展成熟的常微 Right:A ODE network defines a vector 分方程求解器计算出来。并且求解 field,which continuously transforms the state 过程能自适应迭代步长,允许调整 Both:Circles represent evaluation locations. 输出结果的精度。介绍 – 基本思想 这是一个常微分方程(ODE)。f是神 经网络,该方法相当于用神经网络 对隐藏层的导数进行建模。 输入层视作h(0),为微分方程的初值 条件。以此条件解方程可得h(t),对 应于一般神经网络的隐藏状态。只 不过此时神经网络的隐藏层是连续 的,层数为无穷多。 h(T)对应于一般神经网络的输出层结 果。它可以由已经发展成熟的常微 分方程求解器计算出来。并且求解 过程能自适应迭代步长,允许调整 输出结果的精度
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有