许力等：基于一维卷积神经网络的儿童睡眠分期 ·1257 “eature extraction EEG epoch Sleep staging results Flatten 536 1536 图31D-CNN模型 Fig.3 1D-CNN model 由于1D-CNN的输入是30s为一个epoch的 眠分期系统，方便医生的使用，如图4所示，该图 数据，即1×3840一维时间序列，因此在模型中使 展示了一段时长为60s的多导睡眠图，图中展示 用了1D卷积核.一维卷积运算过程定义为： 了前8个通道的生物电信号，即2个眼电通道与 6个脑电通道，并用颜色区分了不同的睡眠分期， =+=12,N-d+1( 可以看到，该60s由一个N2期的后半部分、一个 完整的W期和一个N1期的开始部分组成 式中，是第1层上输出要素的第i个像素，心和 b分别表示第1层的卷积核的权重向量和偏倚参 3实验过程 数，d表示卷积核的大小，N表示输入特征向量 3.1数据集 的长度，f()表示卷积层的激活函数 本研究中使用的数据集来自首都医科大学附 第一和第二卷积层分别使用大小为1×22和 属北京儿童医院，数据集包括来自14位受试者的 1×5的大卷积核，而第三到第五卷积层使用大小 PSG记录.每位受试者至少记录6条EEG通道， 为1×3的小卷积核.在第一，第二和第五卷积层之 2条EOG通道.原始数据集epoch数量为14383， 后，本研究利用大小为1×3的maxpooling层来减 重叠、平衡后的epoch数量为30195 少特征图的尺寸.将最后一个最大池化层的生成 3.2实验环境 的特征图展平为一维向量.该向量被送到全连接 数据预处理和功能提取部分是在PyCharm 层以进行二进制分类，并获得最终的识别结果.本 2020.1.2环境中在具有64 GB RAM的AMD Ryzen7- 研究选择RLU(整流线性单位)作为激活函数，其 3700x@3.60GHz上实现的.深度学习实验是在 定义如下： NVIDIA GeForce RTX2080Ti上利用tensorflow框 f=68 (2) 架在Python环境中进行的 3.3实验参数 批处理归一化层位于第一卷积层之后，该层 数据预处利用kaiming初始化器2四初始化1D- 可以归一化特征激活，从而减少内部协变量偏移 CNN中的权重参数，这可以提高模型的收敛速度 批处理规范化定义如下： 使用Adam优化器21以0.00001学习率进行参数 元=B (3) 优化.批处理大小为256个.在此研究中使用了交 叉熵损失函数，其定义为： yi=yxi+B (4) En=- N p&In(yk)+(1-pk)In(1-y&) (5) 式中，B代表包含m个样本的小批量，和σ分别 代表B的均值和方差.1是数值稳定性的常数， 式中，Em是基本的交叉嫡损失函数，N是训练样本 y和B分别是训练过程中计算出的比例和移位参 的数量，和P4分别表示样本的真实标签和预测 数，有关详细信息，请参见文献[21] 标签 2.3睡眠分期系统 为了防止过度拟合问题，本研究使用了dropout 针对现实需求，以PyQt为基础，设计开发了睡 和L2正则化方法.Dropout可以在训练过程中以EEG epoch 128@ 1×22 192@ 1×5 384@ 1×5 Max pooling Max pooling Feature extraction 256@ 1×3 256@ 1×3 Max pooling Sleep staging results Classification 5 512 1536 128 1536 Flatten 图 3    1D-CNN 模型 Fig.3    1D-CNN model 由于 1D-CNN 的输入是 30 s 为一个 epoch 的 数据，即 1×3840 一维时间序列，因此在模型中使 用了 1D 卷积核. 一维卷积运算过程定义为： y l i = f   ∑ d n=1 ω l n · y l−1 n+i +b l   ,i = 1,2,··· ,N −d +1 （1） y l i ω l n b l y l−1 i f(·) 式中， 是第 l 层上输出要素的第 i 个像素， 和 分别表示第 l 层的卷积核的权重向量和偏倚参 数 ， d 表示卷积核的大小，N 表示输入特征向量 的长度， 表示卷积层的激活函数. 第一和第二卷积层分别使用大小为 1×22 和 1×5 的大卷积核，而第三到第五卷积层使用大小 为 1×3 的小卷积核. 在第一，第二和第五卷积层之 后，本研究利用大小为 1×3 的 maxpooling 层来减 少特征图的尺寸. 将最后一个最大池化层的生成 的特征图展平为一维向量. 该向量被送到全连接 层以进行二进制分类，并获得最终的识别结果. 本 研究选择 ReLU（整流线性单位）作为激活函数，其 定义如下： f = { x, x > 0 0, x ⩽ 0 （2） 批处理归一化层位于第一卷积层之后，该层 可以归一化特征激活，从而减少内部协变量偏移. 批处理规范化定义如下： x¯ = xi −µB √ σ 2 B +λ （3） yi = γx¯i +β （4） σ 2 式中， B B 代表包含 m 个样本的小批量，μB 和 分别 代表 B 的均值和方差. λ 是数值稳定性的常数， γ 和 β 分别是训练过程中计算出的比例和移位参 数，有关详细信息，请参见文献 [21]. 2.3    睡眠分期系统 针对现实需求，以 PyQt 为基础，设计开发了睡 眠分期系统，方便医生的使用，如图 4 所示，该图 展示了一段时长为 60 s 的多导睡眠图，图中展示 了前 8 个通道的生物电信号，即 2 个眼电通道与 6 个脑电通道，并用颜色区分了不同的睡眠分期， 可以看到，该 60 s 由一个 N2 期的后半部分、一个 完整的 W 期和一个 N1 期的开始部分组成. 3    实验过程 3.1    数据集 本研究中使用的数据集来自首都医科大学附 属北京儿童医院，数据集包括来自 14 位受试者的 PSG 记录. 每位受试者至少记录 6 条 EEG 通道， 2 条 EOG 通道. 原始数据集 epoch 数量为 14383， 重叠、平衡后的 epoch 数量为 30195. 3.2    实验环境 数据预处理和功能提取部分是 在 PyCharm 2020.1.2 环境中在具有 64 GB RAM 的 AMD Ryzen7- 3700x@3.60 GHz 上实现的. 深度学习实验是在 NVIDIA GeForce RTX 2080 Ti 上利用 tensorflow 框 架在 Python 环境中进行的. 3.3    实验参数 数据预处利用 kaiming 初始化器[22] 初始化 1D￾CNN 中的权重参数，这可以提高模型的收敛速度. 使用 Adam 优化器[23] 以 0.00001 学习率进行参数 优化. 批处理大小为 256 个. 在此研究中使用了交 叉熵损失函数，其定义为： En = − 1 N ∑ N k=1 pk ·ln(yk)+(1− pk)ln(1−yk) （5） 式中，En 是基本的交叉熵损失函数，N 是训练样本 的数量，yk 和 pk 分别表示样本的真实标签和预测 标签. 为了防止过度拟合问题，本研究使用了 dropout 和 L2 正则化方法. Dropout 可以在训练过程中以 许    力等： 基于一维卷积神经网络的儿童睡眠分期 · 1257 ·