第6期 许敏，等：一种具有迁移学习能力的RBF-NN算法及其应用 ·963· 目标域场景数据集，并分别在源领域模型预测、 目标域数据集训练、目标域数据集和源领域历史 -x sin ==…=0.9 x sinx 数据集合并训练以及目标域数据集和源领域历史 )=0.8x sinr 4 ---1=0.7rs1n 知识迁移学习训练4种情况下进行。E-TLRBF隐 2 含层节点数为15，需确定的参数有4个，h设置为 0 从1~10之间按对数等分的30个值，C在集合 -2 {1,10,100,500,1000)中取值，s在集合0,10°，10-， 10-7,106中取值，1在集合1,3,5，…，39中取值，参 数最终值通过网格搜索策略5重交叉验证确定。 -10 0 10 表1给出了各种算法在模拟数据集上的泛化性能 图3目标域场景函数和源域场景函数 比较。图4给出了相关系数为0.75时的其中一组 Fig.3 Target domain functions and source domain func- 数据集的训练结果。 tions 表1各种算法在模拟数据集上的泛化性能比较 Table 1 Comparison of generalization performance of various algorithms on artificial data sets DS,性能 DS2性能 DS1+DS2性能 DS2+历史知识性能 系数 RBF RBF RBF s-TLRBF 0.9 0.1061 0.3343±0.1007 0.1189±0.0057 0.0756±0.0079 0.85 0.1660 0.3374牡0.1686 0.1676±0.0117 0.1091±0.0187 0.8 0.2368 0.3213±0.1334 0.2228±0.0505 0.1155±0.0528 0.75 0.3185 0.3645±0.1508 0.3189±0.0470 0.1203±0.0140 0.7 0.4127 0.3618±0.1833 0.3849±0.0189 0.1322±0.0663 0.65 0.5219 0.3713±0.1953 0.5190±0.0836 0.1546±0.0698 8 一DS,测试集 一DS,测试集 6 DS DS 对DS,建模 …对DS,建模 0 -10 10 -10 10 (a)源领域RBF神经网铬模型预测 b)基于目标域数据集RBF神经网络建模 -DS,测试集 -DSz测试集 +DS …迁移学习建模 …将DS+DS合并建模 10 5 10 0. 10 (©)基于源领域和目标域数据集合并建模 (d)基于目标域数据集和源领域知识建模 图4相关系数为0.75时，各算法性能 Fig.4 The performance of each algorithm on r is 0.75ε-TLRBF {1,10,100,500,1 000} ε {0,10−9 ,10−8 , 10−7 ,10−6 } λ {1,3,5,··· ,39} 目标域场景数据集，并分别在源领域模型预测、 目标域数据集训练、目标域数据集和源领域历史 数据集合并训练以及目标域数据集和源领域历史 知识迁移学习训练 4 种情况下进行。 隐 含层节点数为 15，需确定的参数有 4 个，h 设置为 从 1~10 之间按对数等分的 30 个值，C 在集合 中取值， 在集合 中取值， 在集合 中取值，参 数最终值通过网格搜索策略 5 重交叉验证确定。 表 1 给出了各种算法在模拟数据集上的泛化性能 比较。图 4 给出了相关系数为 0.75 时的其中一组 数据集的训练结果。 −10 −5 0 5 10 −6 −4 −2 0 2 4 6 8 x y y=x sin y=0.9x sinx y=0.8x sinx y=0.7x sinx 图 3 目标域场景函数和源域场景函数 Fig. 3 Target domain functions and source domain func￾tions 表 1 各种算法在模拟数据集上的泛化性能比较 Table 1 Comparison of generalization performance of various algorithms on artificial data sets 系数r DS1 性能 DS2 性能 DS1+DS2 性能 DS2+历史知识性能 RBF RBF RBF ε-TLRBF 0.9 0.106 1 0.334 3±0.100 7 0.118 9±0.005 7 0.075 6±0.007 9 0.85 0.166 0 0.337 4±0.168 6 0.167 6±0.011 7 0.109 1±0.018 7 0.8 0.236 8 0.321 3±0.133 4 0.222 8±0.050 5 0.115 5±0.052 8 0.75 0.318 5 0.364 5±0.150 8 0.318 9±0.047 0 0.120 3±0.014 0 0.7 0.412 7 0.361 8±0.183 3 0.384 9±0.018 9 0.132 2±0.066 3 0.65 0.521 9 0.371 3±0.195 3 0.519 0±0.083 6 0.154 6±0.069 8 −10 −5 0 5 10 −6 −4 −2 0 2 4 6 8 x y DS2 测试集 DS1 对 DS1 建模 (a) 源领域 RBF 神经网络模型预测 DS2 测试集 DS1 DS2 将 DS1+DS2 合并建模 −10 −5 0 5 10 −6 −8 −4 −2 0 2 4 6 8 x y (c) 基于源领域和目标域数据集合并建模 −10 −5 0 5 10 −6 −4 −2 0 2 4 6 8 x y DS2 测试集 DS2 对 DS2 建模 (b) 基于目标域数据集 RBF 神经网络建模 −10 −5 0 5 10 −6 −4 −2 0 2 4 6 8 x y DS2 测试集 DS2 迁移学习建模 (d) 基于目标域数据集和源领域知识建模 图 4 相关系数为 0.75 时，各算法性能 Fig. 4 The performance of each algorithm on r is 0.75 第 6 期 许敏，等：一种具有迁移学习能力的 RBF-NN 算法及其应用 ·963·