正在加载图片...
应用:监督学习 论文做的第一个实验是手写数字分类。 1-Layer MLP是最原始的神经网络多层感知机(隐层300个 神经元)LeCun et al..(1998)]。 ResNet是6个残差模块的残差网络。ODE-Net将ResNet中 的网络替换成单个ODE模块,并使用本文的伴随方法进 行训练。RK-Net和ODE-Net结构一致,但使用传统的 Runge-Kutta方法求解ODE。 L是神经网络的总层数。工是ODE求解时的评估次数,类 似于深度。结果表明ODE-Net与RK-Net能在参数更少的 情况下达到与ResNet差不多的性能。 Test Error Params Memory Time 1-Layer MLPt 1.60% 0.24M ResNet 0.41% 0.60M O(L) O(L) RK-Net 0.47% 0.22M O(L) O() ODE-Net 0.42% 0.22M 0(1) o()应用:监督学习 论文做的第一个实验是手写数字分类。 1-Layer MLP是最原始的神经网络多层感知机(隐层300个 神经元)[LeCun et al. (1998)]。 ResNet是6个残差模块的残差网络。ODE-Net将ResNet中 的网络替换成单个ODE模块,并使用本文的伴随方法进 行训练。RK-Net和ODE-Net结构一致,但使用传统的 Runge-Kutta方法求解ODE。 L是神经网络的总层数。L෨是ODE求解时的评估次数,类 似于深度。结果表明ODE-Net与RK-Net能在参数更少的 情况下达到与ResNet差不多的性能
<<向上翻页向下翻页>>
©2008-现在 cucdc.com 高等教育资讯网 版权所有