二、小脑模型连接控制器(CMAC)网络 原理:从小脑活动只获取启发 )小脑从各种传感器获得信号、反馈和命令,构成地址,地址 的内容形成各种所需的动作 2)输出的动作只限制在最活跃神经中的一个小子集,绝大多数 神经元都受到抑制。 传感信号 运动轨迹 命令 地址内容 执行器 反馈
二、小脑模型连接控制器（CMAC）网络 原理：从小脑活动只获取启发 1）小脑从各种传感器获得信号、反馈和命令，构成地址，地址 的内容形成各种所需的动作。 2）输出的动作只限制在最活跃神经中的一个小子集，绝大多数 神经元都受到抑制。 地址内容 执行器 运动轨迹 反馈 传感信号 命令
实现二个映射 f∫:S→A g 54 输出 P=f(s) 输入状态空间概念存贮空间 实际存贮器
输入状态空间 概念存贮空间 实际存贮器 输出 实现二个映射 f : S A g: A P P = f(s)
激活的单元数为4即C=4一般C=4-256 泛化 存贮压缩 散列编码 人&楼 P=F(s 输入向量S 地址表 随机表格 联想单元 权值表
输 入 向 量 S 随机表格 地址表 联想单元 权值表 P=F(s) 泛化 存贮压缩 散列编码 激活的单元数为4,即C= 4,一般C = 4-256 5
三个特点: 1)利用散列编码( Hash Coding)进行多对少的映射; 2)通过对输入分布式测量信号的编码,使输出具有泛化和插 值能力; 3)通过监督学习,修改地址的内容和连接权值,使之逼成任意 非线性函数。(见图) 映射:通过特殊的编码方式实现 ·使输入空间中,相同或相距不远的输入向量,有相同的输岀 泛化 使输入空间中,不同或相距远的输入向量,有不同的输出 分类
三个特点： 1） 利用散列编码（Hash Coding）进行多对少的映射； 2）通过对输入分布式测量信号的编码，使输出具有泛化和插 值能力； 3）通过监督学习，修改地址的内容和连接权值，使之逼成任意 非线性函数。 映射：通过特殊的编码方式实现： （见图） • 使输入空间中，相同或相距不远的输入向量，有相同 的输出 —— 泛化 • 使输入空间中，不同或相距远的输入向量，有不同 的输出 —— 分类
CMAC学习方法: (1)给定期望的输出函数F即: P=F(S) D 尸为期望函数 (2)对输入空间每一点,计算实际输出 pκ=F(s1)k=1,2,…,n(输出向量的维数 i=1,2,…,N(输入向量的维数) P=F(S) Px=Axt K 1K , a2K 9 Wk =(Wik, W2k 对n维输出P向量,应有n个实际存贮器
CMAC 学习方法： ⑴ 给定期望的输出函数 F 即： P = F（S ） p i = F (si ) P 为期望函数 ⑵ 对输入空间每一点，计算实际输出 pK= F（si） k = 1，2，…,n (输出向量的维数) i = 1, 2,…,N (输入向量的维数) P = F（S ） PK = AKW T K AK =（a1K ，a2K ，…ank） Wk = (w1k , w2k ,…,wn k) 对 n 维输出 P 向量，应有 n 个实际存贮器。 3
(3)比较P和Pk使|p-pk|≤a 如果不满足,按下式更改和修正权值巩 Wh=W*+I(P: W*)/N]xmk △=W+1-W 其中:是地址Wk中第l+1次迭代的权值(新) W是地址W中第Ⅰ次迭代的权值(旧) 括号中是平均误差 m是修正因子 (4)重复以上步骤,直至误差达到规定值
⑶ 比较 Pk 和 P k 使 | pk - p k | ek 如果不满足，按下式更改和修正权值 W： 其中： 是地址 中第 次迭代的权值（新） 是地址 中第 次迭代的权值（旧） 括号中是平均误差 是修正因子。 ⑷ 重复以上步骤，直至误差达到规定值。 ( ) k l k l k k n k j k k j k l k l W W W W W P W N m = − = + − + + 1 1 * 1 / k Wl+1 k W k Wl k W mk l +1 l
编码方法把S=(51,52,,s)变成二进制变量 规则a)对每一个输入量,m:只能有A个1 b)相邻的输入,只有1位不同 m的每一个1,对应s的变化范围。 S的大小 A1= 4 f 123456789 a100000000 b1100000 C111 d111100000 e011110000 001111000 8000111100 h00001 0000 j00000 k000000011 10000 00000 11 00 1111 0111 0001
编码方法 a b c d e f g h i j k l 1 1 1 1 1 0 0 0 0 0 0 0 0 2 0 1 1 1 1 0 0 0 0 0 0 0 3 0 0 1 1 1 1 0 0 0 0 0 0 4 0 0 0 1 1 1 1 0 0 0 0 0 5 0 0 0 0 1 1 1 1 0 0 0 0 6 0 0 0 0 0 1 1 1 1 0 0 0 7 0 0 0 0 0 0 1 1 1 1 0 0 8 0 0 0 0 0 0 0 1 1 1 1 0 9 0 0 0 0 0 0 0 0 1 1 1 1 S的大小 m * i 把S=（s1 ，s2 ，…sN）变成二进制变量 mi * 规则: a) 对每一个输入量, mi *只能有|Ai * |个1; b) 相邻的输入，只有1位不同； c) mi *的每一个1， 对应si的变化范围。 |Ai * |= 4
一维向量 二维向量(45种组合) a be d a bc d ABCD bcde bede BCDE cdef cdef CDEF def 4 defg DEFG efg h eig fg hi 5 EFGH 7ghij hiik S1, 4= aDbEcFdG ijk jkI S2,,5=bEcFdGeH
Si mi * 1 a b c d 2 b c d e 3 c d e f 4 d e f g 5 e f g h 6 f g h i 7 g h i j 8 h i j k 9 i j k l 一维向量 二维向量（45种组合） S1 mi * 1 a b c d 2 b c d e 3 c d e f 4 d e f g 5 e f g h 6 f g h i 7 g h i j 8 h i j k 9 i j k l S2 mi * 1 ABCD 2 BCDE 3 CDEF 4 DEFG 5 EFGH S1，4 = aDbEcFdG S2，5 = bEcFdGeH
这种编码方法的特点 1)相邻的向量其编码只有1位不同; 2)相近的向量其汉明距随向量之间的距离增加而增加, 超过一定距离其汉明距就保持不变 汉明距=H1 i k=1 Hij=a-A. A H1=|A|—实现分类(AA|=0) H1<|A——实现泛化(A’A|≠0)
这种编码方法的特点： 1）相邻的向量其编码只有1 位不同； 2）相近的向量其汉明距随向量之间的距离增加而增加， 超过一定距离其汉明距就保持不变。 汉明距= Hij = = N k Sik 1 Sjk - Hij = | A* | - | Ai * Aj * | Hij = | A* | —— 实现分类（| Ai * Aj * | = 0） Hij | A* | —— 实现泛化（| Ai * Aj * | 0）
如何选择|A? A的大小确定了S的变化范围,在A1一定 的情况下,S的变化范围也影响s;m的分辨 率。举例:|A|=4 分辨率=1.0 分辨率 =045 a b c S1变化范围1-9 b 2 bcd b c cd e 2.0 cde de fg ei g 5 efg h 3.0 g h 3.5 fg hi g ghI h gnIl ikS.变化范围105045hijk kI k
如何选择| A* | ？ |A* |的大小确定了Si的变化范围，在|A* | 一定 的情况下，Si的变化范围也影响si mi的分辨 率。举例： |A* |=4 S1 m* 1 a b c d 2 b c d e 3 c d e f 4 d e f g 5 e f g h 6 f g h i 7 g h i j 8 h i j k 9 i j k l 分辨率=1.0 分辨率 =0.5 S1变化范围:1-9 S2变化范围:1.0-5.0 S1 m * 1 a b c d 1.5 b c d e 2.0 c d e f 2.5 d e f g 3.0 e f g h 3.5 f g h i 4.0 g h i j 4.5 h i j k 5.0 i j k l