第7章典型神经网络
7.1单神经元网络 1神经元模型 图7-1中u为神经元的内部状态，8，为阈值，x,为 输入信号，j=1,…,n,W为表示从单元u到单元u的 连接权系数，S:为外部输入信号。 图7-1神经元模型可描述为：
i u i j 1,,n wij j x i u j u i s
7.1单神经元网络 X1 W2 8 yi 51 图7-1单神经元模型
7.1单神经元网络 Net,=∑w,x,+&,-8 u;f(Net, y;=g(u)=h(Net) 通常情况下，取 8(u)=u1 即 y;=f(Net,)
( ) ( ) i i i y g u h Net i ij j i i j Net w x s ( ) i i u f Net i i g(u ) u ( ) i i y f Net
7.1单神经元网络 2.常用的神经元非线性特性有以下3种： (1)阈值型 1 Net,>0 f(Ne)= Net≤0 1.0 0 Net; 图7-2阈值型函数
1 0 ( ) 0 0 i i i Net f Net Net
7.1单神经元网络 (2)分段线性型 0 Net;>Netio f(Net)=kNet; Neto Net;Neti Net,≥Netu 0 Nefgo Nefi1 Net; 图73分段线性函数
0 0 max 0 ( ) i i i i i i il i il Net Net f Net kNet Net Net Net f Net Net
7.1单神经元网络 (3)Sigmoidi函数型 f(Neti)= 1+e T 1.0 0.5 Net; 图7-4 Sigmoid函数
TNet i i e f Net 1 1 ( )
7.2BP神经元网络 1986年，Rumelhart等提出了误差反向传播神经 网络，简称BP网络(Back Propagation),该网络 是一种单向传播的多层前向网络。 误差反向传播的BP算法简称BP算法，其基本思 想是梯度下降法。它采用梯度搜索技术，以期使网络 的实际输出值与期望输出值的误差均方值为最小
7.2.1BP网络结构 含一个隐含层的BP网络结构如图7-5所 示，图中1为输入层神经元，j为隐层神 经元，k为输出层神经元
7.2.1 BP网络结构 i j k 含一个隐含层的BP网络结构如图7-5所 示，图中 i 为输入层神经元，j 为隐层神 经元，k 为输出层神经元
W的 输入层 隐层 输出层 节点 节点 节点
图7-5 BP神经网络结构