值越接近于1时,表示记忆体保留的信息就越多,当函数值接近于0时,表示记忆体丢弃的 信息就越多。航班信息较多且存在很多的无用信息,此时可以将部分信息丢失。 输入门,同样通过一个激活函数来实现 =gmod(W×S-+U1x,+b,) (2) 决定了当前时刻的输入航班信息x,即此刻有多少信息能被加入到记忆信息流中, 其中, sigmoid决定了什么值需要更新。 候选门,它用来计算当前的输人与过去的记忆所具有的信息总量,其计算过程如式 (3)所示: C,=tanh(×s,+U,×x,+b,) 记忆的更新由两部分构成:第一部分是通过忘记门过滤过去的部分记忆,大小为: f,×C-1,:第二部分是添加当前的新增数据信息,添加的比例由输入门控制,大小为 ×C,。将这两部分进行组合,得到更新后的记忆信息C,为 C,:+i,×C 经过前三个门后,可以确定传递信息的删除和增加,即可以进行“细胞状态”的更新。 输出门,它控制有多少记忆信息将被用于下一阶段的更新中,即是由C,求解S,的过 程,输出门的计算公式满足式(5): O,,=sigmoid(W XS-Li+U Xxi+b) (5) 因此,时空相关性被集成在2D的LSM网络中。预测结果根据历史流量数据和不同机场之 间的相互作用而决定。训练过程如下:(a)将训练集作为输入,采用基于梯度优化的反向传 播法,通过最小化目标函数,利用LSTM训练第一层;(b)将第一层的输出作为第二层的输入 进行训练;(c)对于接下来的隐含层,同样采用(b)的方法进行迭代:(d)通过贪婪的分 层无监督学习算法对整个网络进行微调 本文时空LSIM网络延误预测算法实现步骤如下(图5): 步骤1:获取数据集,共计4年的数据,随机将其中80%作为训练数据,20%作为测试数 据。对所得数据进行数据质量分析,其次进行数据预处理,对机场航班延误的影响因素进 行特征提取,以机场一小时延误为时间间隔,将时间变量进行0-1编码,出发延误和到达延 误时间进行归一化。 步骤2:训练LSIM网络,构建延误预测模型,进行预测,其实现步骤如下: 步骤2.1:随机初始化权重矩阵和偏置向量,并且前向计算每个神经元的输出值。 步骤2.2:使用基于梯度优化的反向传播方法训练参数,以最小化损失函数为目标,反 向计算每个神经元的误差项值。与循环神经网络一样,LSTM误差项的反向传播也是包括两值越接近于1时，表示记忆体保留的信息就越多，当函数值接近于0时，表示记忆体丢弃的 信息就越多。航班信息较多且存在很多的无用信息，此时可以将部分信息丢失。 输入门，同样通过一个激活函数来实现： , , 1, , , , ( ) T T t j ij t j ij tj ij i sigmoid W s U x b = × + ×+ − （2） 决定了当前时刻的输入航班信息 t j , x ，即此刻有多少信息能被加入到记忆信息流中， 其中，sigmoid决定了什么值需要更新。 候选门，它用来计算当前的输人与过去的记忆所具有的信息总量，其计算过程如式 （3）所示： ' , , 1, , , , tanh( T T C Ws U xb t j = × + ×+ cj t j cj tj cj − ） （3） 记忆的更新由两部分构成:第一部分是通过忘记门过滤过去的部分记忆，大小为： tj t j , 1, f C× − ；第二部分是添加当前的新增数据信息，添加的比例由输入门控制，大小为： ' tj tj , , i C× 。将这两部分进行组合，得到更新后的记忆信息Ct j , 为: ' CfCiC t j tj ， = + , t-1,j , , × × tj tj （4） 经过前三个门后，可以确定传递信息的删除和增加，即可以进行“细胞状态”的更新。 输出门，它控制有多少记忆信息将被用于下一阶段的更新中，即是由Ct j , 求解 t j , s 的过 程，输出门的计算公式满足式（5）： , , 1, , , , ( ) T T t j oj t j oj tj oj o sigmoid W s U x b = × + ×+ − （5） 因此，时空相关性被集成在2D的LSTM网络中。预测结果根据历史流量数据和不同机场之 间的相互作用而决定。训练过程如下：（a）将训练集作为输入，采用基于梯度优化的反向传 播法，通过最小化目标函数，利用LSTM训练第一层；（b）将第一层的输出作为第二层的输入， 进行训练；（c）对于接下来的隐含层，同样采用（b）的方法进行迭代；（d）通过贪婪的分 层无监督学习算法对整个网络进行微调。 本文时空LSTM网络延误预测算法实现步骤如下（图5）： 步骤1：获取数据集，共计4年的数据，随机将其中80%作为训练数据，20%作为测试数 据。对所得数据进行数据质量分析，其次进行数据预处理，对机场航班延误的影响因素进 行特征提取，以机场一小时延误为时间间隔，将时间变量进行0-1编码，出发延误和到达延 误时间进行归一化。 步骤2：训练LSTM网络，构建延误预测模型，进行预测，其实现步骤如下： 步骤2.1：随机初始化权重矩阵和偏置向量，并且前向计算每个神经元的输出值。 步骤2.2：使用基于梯度优化的反向传播方法训练参数，以最小化损失函数为目标，反 向计算每个神经元的误差项值。与循环神经网络一样，LSTM误差项的反向传播也是包括两