第12卷第3期 智能系统学报 Vol.12 No.3 2017年6月 CAAI Transactions on Intelligent Systems Jun.2017 D0I:10.11992/is.201605010 网络出版地址：http:/kns.cmki.ne/kcms/detail/23.1538.TP.20170705.1657.010.html REM记忆模型在图像分类识别中的应用 姜英，王延江 (中国石油大学信息与控制工程学院，山东青岛266580) 摘要：尝试将认知心理学中的记忆模型与图像学习识别联系在一起，研究基于REM(retrieving effective from memory)记忆模型的视觉图像存储与识别方法。采用方向梯度直方图(HOG)和局部二进模式(LBP)生成图像特征 向量，并对每个特征向量中的每一个分量按概率进行复制，允许错误复制，最后采用Bayesian决策计算被探测图像特 征向量与已学习图像集特征向量的平均似然比值，根据该值判断被探测图像是否已学习过。实验结果表明，提出的 算法不仅对同一个物体的小幅度旋转图像具有很好的识别效果，同时对同一类别物体图像识别也具有较好的效果， 而且其虚报率远远低于其他识别方法。 关键词：图像识别；i记忆建模；HOG特征；LBP特征；Bayesian决策 中图分类号：TP391文献标志码：A文章编号：1673-4785(2017)03-0310-08 中文引用格式：姜英，王延江.REM记忆模型在图像分类识别中的应用[J].智能系统学报，2017,12(3)：310-317. 英文引用格式：JIANG Ying,WANG Yanjiang.Application of REM memory model in image recognition and classification[J]. CAAI transactions on intelligent systems,2017,12(3):310-317. Application of REM memory model in image recognition and classification JIANG Ying,WANG Yanjiang (College of Information and Control Engineering,China University of Petroleum,Qingdao 266580,China) Abstract:We attempt to combine a memory model with image learning and recognition and to research the application of the REM model in image recognition and classification.An image feature vector was obtained by histograms of oriented gradients (HOG)and local binary pattern (LBP)operators;every component of a feature vector was copied with a certain probability,allowing for an error-prone copy of the studied vector.Finally, Bayesian decision theory was applied for calculating the average likelihood ratio between the feature vector of the probe image and that of the studied image set.The value of the ratio was used to decide whether the probe image had been studied.Experimental results demonstrate that the proposed method can gain a good recognition effect not only for the classification of the same object with small rotation angles but also for the recognition of the same category object.Moreover,the false rate is far lower than that of other classification methods. Keywords:image recognition;memory modeling;HOG feature;LBP feature;Bayesian decision 视觉图像的分类与识别研究是计算机视觉研 网络分类器[3-)，SVM支持向量机分类器s)、卷积神 究、模式识别与机器学习领域内的一个非常活跃的 经网络分类器[6)]、ELM极限学习机[]及稀疏编码方 方向，其在许多领域中应用广泛，如银行系统的人 法等。为获得良好的图像分类效果，研究者们在设 脸识别、防御系统的行人检测与跟踪、交通系统的 计图像分类方法及改进分类准确性方面都做了大 车牌检测与车辆跟踪等。近年来，图像分类山吸引 量工作。例如，稀疏编码方法已被证实在图像分类 了研究者们的注意，关于视觉图像识别与分类的各 中具有优秀的分类性能，基于该方法的许多改进的 种理论与算法层出不穷，如最近邻分类器】、神经 稀疏编码方法也被相继提出，如SRC方法[)、CRC 方法)、RSC方法[1o]及RLRC方法)等。尽管现 收稿日期：2016-05-13.网络出版日期：2017-07-05. 基金项目：国家自然科学基金项目(61271407,61301242)：山东省自然 有的许多算法在图像分类方面表现突出，但目前已 科学基金项目(ZR2013FQ015):中央高校基本科研业务费专 有的识别分类算法大多侧重于“区别”，忽视了“认 项资金资助项目(14CX06066A). 通信作者：王延江.E-mail:yjwang@upc.sdu.cm 识”，即侧重将某一类物体与有限类已学过物体进
第 １２ 卷第 ３ 期 智 能 系 统 学 报 Ｖｏｌ．１２ №．３ ２０１７ 年 ６ 月 ＣＡＡＩ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｉｎｔｅｌｌｉｇｅｎｔ Ｓｙｓｔｅｍｓ Ｊｕｎ． ２０１７ ＤＯＩ：１０．１１９９２ ／ ｔｉｓ．２０１６０５０１０ 网络出版地址：ｈｔｔｐ： ／ ／ ｋｎｓ．ｃｎｋｉ．ｎｅｔ ／ ｋｃｍｓ／ ｄｅｔａｉｌ ／ ２３．１５３８．ＴＰ．２０１７０７０５．１６５７．０１０．ｈｔｍｌ ＲＥＭ 记忆模型在图像分类识别中的应用 姜英，王延江 （中国石油大学 信息与控制工程学院，山东 青岛 ２６６５８０） 摘 要：尝试将认知心理学中的记忆模型与图像学习识别联系在一起，研究基于 ＲＥＭ （ ｒｅｔｒｉｅｖｉｎｇ ｅｆｆｅｃｔｉｖｅ ｆｒｏｍ ｍｅｍｏｒｙ）记忆模型的视觉图像存储与识别方法。 采用方向梯度直方图（ＨＯＧ）和局部二进模式（ＬＢＰ）生成图像特征 向量，并对每个特征向量中的每一个分量按概率进行复制，允许错误复制，最后采用 Ｂａｙｅｓｉａｎ 决策计算被探测图像特 征向量与已学习图像集特征向量的平均似然比值，根据该值判断被探测图像是否已学习过。 实验结果表明，提出的 算法不仅对同一个物体的小幅度旋转图像具有很好的识别效果，同时对同一类别物体图像识别也具有较好的效果， 而且其虚报率远远低于其他识别方法。 关键词：图像识别；记忆建模；ＨＯＧ 特征；ＬＢＰ 特征；Ｂａｙｅｓｉａｎ 决策 中图分类号：ＴＰ３９１ 文献标志码：Ａ 文章编号：１６７３－４７８５（２０１７）０３－０３１０－０８ 中文引用格式：姜英， 王延江． ＲＥＭ 记忆模型在图像分类识别中的应用［Ｊ］． 智能系统学报， ２０１７， １２（３）： ３１０－３１７． 英文引用格式：ＪＩＡＮＧ Ｙｉｎｇ， ＷＡＮＧ Ｙａｎｊｉａｎｇ． Ａｐｐｌｉｃａｔｉｏｎ ｏｆ ＲＥＭ ｍｅｍｏｒｙ ｍｏｄｅｌ ｉｎ ｉｍａｇｅ ｒｅｃｏｇｎｉｔｉｏｎ ａｎｄ ｃｌａｓｓｉｆｉｃａｔｉｏｎ［ Ｊ］． ＣＡＡＩ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｉｎｔｅｌｌｉｇｅｎｔ ｓｙｓｔｅｍｓ， ２０１７， １２（３）： ３１０－３１７． Ａｐｐｌｉｃａｔｉｏｎ ｏｆ ＲＥＭ ｍｅｍｏｒｙ ｍｏｄｅｌ ｉｎ ｉｍａｇｅ ｒｅｃｏｇｎｉｔｉｏｎ ａｎｄ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ＪＩＡＮＧ Ｙｉｎｇ，ＷＡＮＧ Ｙａｎｊｉａｎｇ （Ｃｏｌｌｅｇｅ ｏｆ Ｉｎｆｏｒｍａｔｉｏｎ ａｎｄ Ｃｏｎｔｒｏｌ Ｅｎｇｉｎｅｅｒｉｎｇ， Ｃｈｉｎａ Ｕｎｉｖｅｒｓｉｔｙ ｏｆ Ｐｅｔｒｏｌｅｕｍ， Ｑｉｎｇｄａｏ ２６６５８０， Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｗｅ ａｔｔｅｍｐｔ ｔｏ ｃｏｍｂｉｎｅ ａ ｍｅｍｏｒｙ ｍｏｄｅｌ ｗｉｔｈ ｉｍａｇｅ ｌｅａｒｎｉｎｇ ａｎｄ ｒｅｃｏｇｎｉｔｉｏｎ ａｎｄ ｔｏ ｒｅｓｅａｒｃｈ ｔｈｅ ａｐｐｌｉｃａｔｉｏｎ ｏｆ ｔｈｅ ＲＥＭ ｍｏｄｅｌ ｉｎ ｉｍａｇｅ ｒｅｃｏｇｎｉｔｉｏｎ ａｎｄ ｃｌａｓｓｉｆｉｃａｔｉｏｎ． Ａｎ ｉｍａｇｅ ｆｅａｔｕｒｅ ｖｅｃｔｏｒ ｗａｓ ｏｂｔａｉｎｅｄ ｂｙ ｈｉｓｔｏｇｒａｍｓ ｏｆ ｏｒｉｅｎｔｅｄ ｇｒａｄｉｅｎｔｓ （ＨＯＧ） ａｎｄ ｌｏｃａｌ ｂｉｎａｒｙ ｐａｔｔｅｒｎ （ＬＢＰ） ｏｐｅｒａｔｏｒｓ； ｅｖｅｒｙ ｃｏｍｐｏｎｅｎｔ ｏｆ ａ ｆｅａｔｕｒｅ ｖｅｃｔｏｒ ｗａｓ ｃｏｐｉｅｄ ｗｉｔｈ ａ ｃｅｒｔａｉｎ ｐｒｏｂａｂｉｌｉｔｙ， ａｌｌｏｗｉｎｇ ｆｏｒ ａｎ ｅｒｒｏｒ⁃ｐｒｏｎｅ ｃｏｐｙ ｏｆ ｔｈｅ ｓｔｕｄｉｅｄ ｖｅｃｔｏｒ． Ｆｉｎａｌｌｙ， Ｂａｙｅｓｉａｎ ｄｅｃｉｓｉｏｎ ｔｈｅｏｒｙ ｗａｓ ａｐｐｌｉｅｄ ｆｏｒ ｃａｌｃｕｌａｔｉｎｇ ｔｈｅ ａｖｅｒａｇｅ ｌｉｋｅｌｉｈｏｏｄ ｒａｔｉｏ ｂｅｔｗｅｅｎ ｔｈｅ ｆｅａｔｕｒｅ ｖｅｃｔｏｒ ｏｆ ｔｈｅ ｐｒｏｂｅ ｉｍａｇｅ ａｎｄ ｔｈａｔ ｏｆ ｔｈｅ ｓｔｕｄｉｅｄ ｉｍａｇｅ ｓｅｔ． Ｔｈｅ ｖａｌｕｅ ｏｆ ｔｈｅ ｒａｔｉｏ ｗａｓ ｕｓｅｄ ｔｏ ｄｅｃｉｄｅ ｗｈｅｔｈｅｒ ｔｈｅ ｐｒｏｂｅ ｉｍａｇｅ ｈａｄ ｂｅｅｎ ｓｔｕｄｉｅｄ．Ｅｘｐｅｒｉｍｅｎｔａｌ ｒｅｓｕｌｔｓ ｄｅｍｏｎｓｔｒａｔｅ ｔｈａｔ ｔｈｅ ｐｒｏｐｏｓｅｄ ｍｅｔｈｏｄ ｃａｎ ｇａｉｎ ａ ｇｏｏｄ ｒｅｃｏｇｎｉｔｉｏｎ ｅｆｆｅｃｔ ｎｏｔ ｏｎｌｙ ｆｏｒ ｔｈｅ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｏｆ ｔｈｅ ｓａｍｅ ｏｂｊｅｃｔ ｗｉｔｈ ｓｍａｌｌ ｒｏｔａｔｉｏｎ ａｎｇｌｅｓ ｂｕｔ ａｌｓｏ ｆｏｒ ｔｈｅ ｒｅｃｏｇｎｉｔｉｏｎ ｏｆ ｔｈｅ ｓａｍｅ ｃａｔｅｇｏｒｙ ｏｂｊｅｃｔ． Ｍｏｒｅｏｖｅｒ， ｔｈｅ ｆａｌｓｅ ｒａｔｅ ｉｓ ｆａｒ ｌｏｗｅｒ ｔｈａｎ ｔｈａｔ ｏｆ ｏｔｈｅｒ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｍｅｔｈｏｄｓ． Ｋｅｙｗｏｒｄｓ：ｉｍａｇｅ ｒｅｃｏｇｎｉｔｉｏｎ； ｍｅｍｏｒｙ ｍｏｄｅｌｉｎｇ； ＨＯＧ ｆｅａｔｕｒｅ； ＬＢＰ ｆｅａｔｕｒｅ； Ｂａｙｅｓｉａｎ ｄｅｃｉｓｉｏｎ 收稿日期：２０１６－０５－１３． 网络出版日期：２０１７－０７－０５． 基金项目：国家自然科学基金项目（ ６１２７１４０７，６１３０１２４２）；山东省自然 科学基金项目（ＺＲ２０１３ＦＱ０１５）；中央高校基本科研业务费专 项资金资助项目（１４ＣＸ０６０６６Ａ）． 通信作者：王延江．Ｅ⁃ｍａｉｌ： ｙｊｗａｎｇ＠ ｕｐｃ．ｅｄｕ．ｃｎ． 视觉图像的分类与识别研究是计算机视觉研 究、模式识别与机器学习领域内的一个非常活跃的 方向，其在许多领域中应用广泛，如银行系统的人 脸识别、防御系统的行人检测与跟踪、交通系统的 车牌检测与车辆跟踪等。 近年来，图像分类［１］ 吸引 了研究者们的注意，关于视觉图像识别与分类的各 种理论与算法层出不穷，如最近邻分类器［２］ 、神经 网络分类器［３－４］ 、ＳＶＭ 支持向量机分类器［５］ 、卷积神 经网络分类器［６］ 、ＥＬＭ 极限学习机［７］及稀疏编码方 法等。 为获得良好的图像分类效果，研究者们在设 计图像分类方法及改进分类准确性方面都做了大 量工作。 例如，稀疏编码方法已被证实在图像分类 中具有优秀的分类性能，基于该方法的许多改进的 稀疏编码方法也被相继提出，如 ＳＲＣ 方法［８］ 、ＣＲＣ 方法［９］ 、ＲＳＣ 方法［１０］ 及 ＲＬＲＣ 方法［１１］ 等。 尽管现 有的许多算法在图像分类方面表现突出，但目前已 有的识别分类算法大多侧重于“区别”，忽视了“认 识”，即侧重将某一类物体与有限类已学过物体进
第3期 姜英，等：REM记忆模型在图像分类识别中的应用 ·311· 行区分。然而人类认识事物的过程侧重于对某一 习、存储与提取方法。 类物体与无限类未知物体的区分，只在细小之处重 1图像特征表达 视“区别”（如区别桌子与椅子或者鱼与海豚等）。 对于首次遇到的从未学习过的物体，传统的模式识 图像特征提取在视觉图像学习过程中起着非 别方法会将其归类于某一个已学习的类别。但是 常关键的作用。近几年来，许多特征提取算法被陆 同样情况下，人类对首次遇到的新物体的直接反应 续提出并被应用于物体识别、如方向梯度直方图 是从未见过或者不认识该物体，而不是直接判断其 (HOG)等)、局部二值模式(LBP)[2]、尺度不变特 属于哪一类已经学习过的物体。众所周知，计算机 征转换(SIFT)【2、加速鲁棒特征(SURF)[2]等。其 视觉研究的主要目标是使计算机能像人类一样轻 中HOG算子能很好地描述局部目标的表现与形状， 易地识别视觉图像。神经生理学、心理学以及认知 LBP算子具有灰度尺度不变性和旋转不变性，本文 科学研究表明12-]，人类能够轻易地将目标从周围 将这两种算子同时应用于图像特征提取以描述图 环境中识别出来与人类记忆机制有着非常密切的 像的形状与纹理特征。 联系。人们所看到的和所经历的都要经过记忆系 1.1HOG特征 统的处理。当认知新的事物时，与该事物相关的记 方向梯度直方图(histogram of oriented gradient, 忆信息就会被提取出来，从而加快认知的过程并适 HOG)特征是由N.Dalal等2]提出的一种物体特征 应新的环境。然而，在人脑记忆过程中信息是如何 描述子，其通过计算和统计图像局部区域的梯度方 被加工、存储和提取的仍然不得而知。Murdock[ 向直方图来构成特征。HOG特征提取算法的具体 认为现代人脑记忆建模理论至少要解释4个问题： 实现过程如图1所示。 信息是如何被表达、被存储与提取的信息的种类， 输入图像 存储与提取运算的本质以及信息存储的格式。围 绕这些问题研究人员提出了包括情景记忆、语义记 归一化图像 忆以及神经计算在内的记忆建模理论。Raaijmakers 等u)提出了SAM模型，所存储的信息用“记忆影 计算每个像素点的梯度方向与幅值 像”表达，能解释记忆研究中的列表强度效应、列表 对每个cll块的梯度直方图进行规定权重的投影 长度效应以及近因效应等，但无法解释镜像效应； 对每个重叠block块内的cell进行对比度归一化 Hintzman等[i6)提出的MINERVA2模型首次将情景 记忆与语义记忆联合用于提取建模，没有考虑列表 所有blok块内的直方图向量组成一个大的HOG特征向量 强度效应以及镜像效应：Shiffrin等]提出的REM 记忆模型，采用Bayesian理论计算线索与记忆影像 图1HOG特征提取算法流程 的似然度，用于匹配搜索。上述情景记忆模型均假 Fig.1 The flow chart of HOG algorithm 设识别判断是在整体匹配相似度强度的基础上完 1.2LBP特征 成的，其中REM记忆模型的突出性不仅因为其坚实 局部二值模式(LBP)是由T.Ojala、M.Pietikainen 的数学基础，也源于其可以解释情景记忆研究中出 和D.Harwood提出的一种灰度尺度不变性和旋转不 现的许多现象，如列表长度、列表强度与词汇频率 变性的纹理算子[)。原始LBP算子不能满足不同 效应等。REM模型对情景记忆研究中的列表强度 尺寸和频率纹理的需要，研究人员对其进行各种改进 效应、列表长度效应、词汇频率效应以及镜面效应 与优化，如半径为R的圆形区域内含有P个采样点 与正态ROC斜率效应的解释不仅吸引了众多研究 的LBP算子及LBP旋转不变算子]。T.Ojalat列 人员对REM模型的进一步研究-2]，也引起了我 定义了一个等价模式，模式数量减少为种，特征向量 们的思考一能否将记忆模型应用于图像识别分 维数更少，减少了高频噪声带来的影响。 类中。目前大多数记忆模型均采用词汇列表的学 本文采用的LBP特征提取算法过程如下： 习方式，对自然图像的学习和分类研究得很少，因 1)对图像中的每一个像素点，定义圆形邻域窗 此本文尝试将REM模型引入视觉图像的存储与识 口，每个像素的灰度值与其相邻的8个像素的灰度值 别，并提出一种基于REM记忆模型的视觉图像的学 比较，若周围像素值大于中心像素值，则该像素点的
行区分。 然而人类认识事物的过程侧重于对某一 类物体与无限类未知物体的区分，只在细小之处重 视“区别”（如区别桌子与椅子或者鱼与海豚等）。 对于首次遇到的从未学习过的物体，传统的模式识 别方法会将其归类于某一个已学习的类别。 但是 同样情况下，人类对首次遇到的新物体的直接反应 是从未见过或者不认识该物体，而不是直接判断其 属于哪一类已经学习过的物体。 众所周知，计算机 视觉研究的主要目标是使计算机能像人类一样轻 易地识别视觉图像。 神经生理学、心理学以及认知 科学研究表明［１２－１３］ ，人类能够轻易地将目标从周围 环境中识别出来与人类记忆机制有着非常密切的 联系。 人们所看到的和所经历的都要经过记忆系 统的处理。 当认知新的事物时，与该事物相关的记 忆信息就会被提取出来，从而加快认知的过程并适 应新的环境。 然而，在人脑记忆过程中信息是如何 被加工、存储和提取的仍然不得而知。 Ｍｕｒｄｏｃｋ ［１４］ 认为现代人脑记忆建模理论至少要解释 ４ 个问题： 信息是如何被表达、被存储与提取的信息的种类， 存储与提取运算的本质以及信息存储的格式。 围 绕这些问题研究人员提出了包括情景记忆、语义记 忆以及神经计算在内的记忆建模理论。 Ｒａａｉｊｍａｋｅｒｓ 等［１５］提出了 ＳＡＭ 模型，所存储的信息用“记忆影 像”表达，能解释记忆研究中的列表强度效应、列表 长度效应以及近因效应等，但无法解释镜像效应； Ｈｉｎｔｚｍａｎ 等［１６］提出的 ＭＩＮＥＲＶＡ ２ 模型首次将情景 记忆与语义记忆联合用于提取建模，没有考虑列表 强度效应以及镜像效应；Ｓｈｉｆｆｒｉｎ 等［１７］ 提出的 ＲＥＭ 记忆模型，采用 Ｂａｙｅｓｉａｎ 理论计算线索与记忆影像 的似然度，用于匹配搜索。 上述情景记忆模型均假 设识别判断是在整体匹配相似度强度的基础上完 成的，其中 ＲＥＭ 记忆模型的突出性不仅因为其坚实 的数学基础，也源于其可以解释情景记忆研究中出 现的许多现象，如列表长度、列表强度与词汇频率 效应等。 ＲＥＭ 模型对情景记忆研究中的列表强度 效应、列表长度效应、词汇频率效应以及镜面效应 与正态 ＲＯＣ 斜率效应的解释不仅吸引了众多研究 人员对 ＲＥＭ 模型的进一步研究［１８－２１］ ，也引起了我 们的思考———能否将记忆模型应用于图像识别分 类中。 目前大多数记忆模型均采用词汇列表的学 习方式，对自然图像的学习和分类研究得很少，因 此本文尝试将 ＲＥＭ 模型引入视觉图像的存储与识 别，并提出一种基于 ＲＥＭ 记忆模型的视觉图像的学 习、存储与提取方法。 １ 图像特征表达 图像特征提取在视觉图像学习过程中起着非 常关键的作用。 近几年来，许多特征提取算法被陆 续提出并被应用于物体识别、如方向梯度直方图 （ＨＯＧ）等［２２］ 、局部二值模式（ＬＢＰ） ［２３］ 、尺度不变特 征转换（ＳＩＦＴ） ［２４］ 、加速鲁棒特征（ＳＵＲＦ） ［２５］ 等。 其 中 ＨＯＧ 算子能很好地描述局部目标的表现与形状， ＬＢＰ 算子具有灰度尺度不变性和旋转不变性，本文 将这两种算子同时应用于图像特征提取以描述图 像的形状与纹理特征。 １．１ ＨＯＧ 特征 方向梯度直方图（ｈｉｓｔｏｇｒａｍ ｏｆ ｏｒｉｅｎｔｅｄ ｇｒａｄｉｅｎｔ， ＨＯＧ）特征是由 Ｎ．Ｄａｌａｌ 等［２２］ 提出的一种物体特征 描述子，其通过计算和统计图像局部区域的梯度方 向直方图来构成特征。 ＨＯＧ 特征提取算法的具体 实现过程如图 １ 所示。 图 １ ＨＯＧ 特征提取算法流程 Ｆｉｇ．１ Ｔｈｅ ｆｌｏｗ ｃｈａｒｔ ｏｆ ＨＯＧ ａｌｇｏｒｉｔｈｍ １．２ ＬＢＰ 特征 局部二值模式（ＬＢＰ）是由 Ｔ．Ｏｊａｌａ、Ｍ．Ｐｉｅｔｉｋäｉｎｅｎ 和 Ｄ． Ｈａｒｗｏｏｄ 提出的一种灰度尺度不变性和旋转不 变性的纹理算子［２３］ 。 原始 ＬＢＰ 算子不能满足不同 尺寸和频率纹理的需要，研究人员对其进行各种改进 与优化，如半径为 Ｒ 的圆形区域内含有 Ｐ 个采样点 的 ＬＢＰ 算子及 ＬＢＰ 旋转不变算子［２６］ 。 Ｔ． Ｏｊａｌａ ［２７］ 定义了一个等价模式，模式数量减少为 种，特征向量 维数更少，减少了高频噪声带来的影响。 本文采用的 ＬＢＰ 特征提取算法过程如下： １）对图像中的每一个像素点，定义圆形邻域窗 口，每个像素的灰度值与其相邻的 ８ 个像素的灰度值 比较，若周围像素值大于中心像素值，则该像素点的 第 ３ 期 姜英，等：ＲＥＭ 记忆模型在图像分类识别中的应用 ·３１１·
·312· 智能系统学报 第12卷 位置被标记为1，否则为0。这样可产生8位二进制 特征值向量的一个不完整且容易出错的复制。本文 数，即得到该窗口中心像素点的初始LBP值。 试图借鉴REM模型对单词的存储学习过程来模拟人 2)不断旋转圆形邻域得到一系列初始定义的 脑对图像的学习过程，有概率地对图像的特征向量进 LBP值，取最小值作为该像素点的LBP值。 行复制，同时在复制过程中允许出现错误值。 3)统计LBP值对应的二进制数从0~1或1~0 从图像库中选取图像，提取图像LBP与HOG特 跳变的次数，根据跳变次数确定其属于哪一种LBP 征，将其分别写成行向量形式并连接起来生成图像特 模式，共有P+1=9种模式，得到的模式数值即为像素 征向量。HOG特征是由小数组成的，并不是非负整 点的LBP值。 数，为方便REM模型的计算，在实验中简单地对该特 4)图像中所有像素点的LBP值组合起来形成一 征扩大10倍并四舍五入。每学习一次图像特征向 个LBP特征矩阵，即为该图像的LBP特征。 量，对于那些还没有存储任何信息的位置，存储新信 2REM模型在视觉图像的表达、 息的概率为u·。注意到，一旦某个值被存储，之后该 值不会改变。如果对某个特征有存储，其特征值从已 存储与提取中的应用 学向量中正确复制的概率是c,以1-c的概率根据P 认知记忆的快速提取模型一REM模型是 [V=j]=(1-g)g,j=1,2,…,∞随机取值，并允许偶 Shiffrin等[1997年提出的一个用于识别单词的记 然选取正确值的可能性。 忆模型，该模型采用Bayesian理论计算线索与记忆影 用V={V,=12N标记所有已学习图像的特征 像的似然度，用于匹配搜索。该模型能够解释许多情 集，其中V,表示已学习图像集合中第j副图像L的特 景记忆研究中的一些科学现象，如列表强度效应、列 征向量，N为已学习图像集合中的图像个数。 表长度效应、词汇频率效应、镜面效应与正态ROC斜 2.2提取 率效应；其与SAM、MINERVA2模型的主要区别之一 给定要检测的图像It,将其特征向量Va与V= 在于，其实现了似然率的贝叶斯计算，是国际上公认 {V1.2…进行匹配，匹配结果为D={D,=12…, 的最好的记忆模型之一。 其中D,为被检测图像特征与第j个视觉图像特征的 REM记忆模型被提出之后，研究人员陆续对 匹配结果。用s图像表示与被检测图像相同的存储 REM模型进行研究。Stams等18]通过对编码与提取 图像，d图像表示除被检测图像之外的其他视觉图像 过程中的项目强度的控制，对比研究了REM模型与 的存储图像。 BCDMEM模型对提取过程中项目强度对误报率降低 被检测图像I与第j幅已存储图像I,的匹配过 的解释说明。Cox等I]在REM与RCA-REM模型基 程的关键步骤是，计算似然率入，即在观测结果D,基 础上提出一个新认知记忆模型，证实了即使在任务、 础上第j幅图像为s图像与d图像的概率比值： 学习因素、刺激及其他因子变化情况下，所提方法都 P(D S) 有可能获得合理的认知决策。Criss等[0]对比了 入= P(D:N) REM模型与SLiM(the subjective likelihood model)模 型，发现REM模型预测的误报率较高；M.Montenegro (1-c)%Πe+(1-c)g(1-g)- (1) keM g(1-g)'g 等2研究了REM模型的解析表达式，文中引入 式中：S,为第j副图像为s图像的事件；V为第j副图 Fourier变换，给出REM模型的FT积分方程，导出在 像为d图像的事件：M为非零特征值与被检测向量特 给定参数值下模型预测的命中率与误报率的双积分 征值匹配的目录；V为第j副图像中第k个特征值； 形式的解析表达式，同时发现其具有与BCDMEM模 nn为V与V不匹配的非零特征值个数；g为几何分 型相同的一些性质：模型是不确定的，除非其中的一 布参数。 个参数固定为一个预设值，向量长度参数是不可忽略 2.3 Bayesian决策 的参数。 给定探测图像I,将其与所有已学习图像I= 2.1特征表达与存储 {L=1.2.…进行匹配与不匹配比较，计算对应的似然 REM模型指出人脑记忆由图像构成，每幅图像 值入={入1，入2，…，入x},进而得到被检测图像为旧的 是由一个特征值向量表示的，并且最终存储结果是对 而非新的概率为
位置被标记为 １，否则为 ０。 这样可产生 ８ 位二进制 数，即得到该窗口中心像素点的初始 ＬＢＰ 值。 ２）不断旋转圆形邻域得到一系列初始定义的 ＬＢＰ 值，取最小值作为该像素点的 ＬＢＰ 值。 ３）统计 ＬＢＰ 值对应的二进制数从 ０ ～ １ 或 １ ～ ０ 跳变的次数，根据跳变次数确定其属于哪一种 ＬＢＰ 模式，共有 Ｐ＋１＝ ９ 种模式，得到的模式数值即为像素 点的 ＬＢＰ 值。 ４）图像中所有像素点的 ＬＢＰ 值组合起来形成一 个 ＬＢＰ 特征矩阵，即为该图像的 ＬＢＰ 特征。 ２ ＲＥＭ 模型在视觉图像的表达、 存储与提取中的应用 认知记忆的快速提取模型———ＲＥＭ 模型是 Ｓｈｉｆｆｒｉｎ 等［１７］ １９９７ 年提出的一个用于识别单词的记 忆模型，该模型采用 Ｂａｙｅｓｉａｎ 理论计算线索与记忆影 像的似然度，用于匹配搜索。 该模型能够解释许多情 景记忆研究中的一些科学现象，如列表强度效应、列 表长度效应、词汇频率效应、镜面效应与正态 ＲＯＣ 斜 率效应；其与 ＳＡＭ、ＭＩＮＥＲＶＡ２ 模型的主要区别之一 在于，其实现了似然率的贝叶斯计算，是国际上公认 的最好的记忆模型之一。 ＲＥＭ 记忆模型被提出之后，研究人员陆续对 ＲＥＭ 模型进行研究。 Ｓｔａｍｓ 等［１８］ 通过对编码与提取 过程中的项目强度的控制，对比研究了 ＲＥＭ 模型与 ＢＣＤＭＥＭ 模型对提取过程中项目强度对误报率降低 的解释说明。 Ｃｏｘ 等［１９］在 ＲＥＭ 与 ＲＣＡ⁃ＲＥＭ 模型基 础上提出一个新认知记忆模型，证实了即使在任务、 学习因素、刺激及其他因子变化情况下，所提方法都 有可能获得合理的认知决策。 Ｃｒｉｓｓ 等［２０］ 对比了 ＲＥＭ 模型与 ＳＬｉＭ（ｔｈｅ ｓｕｂｊｅｃｔｉｖｅ ｌｉｋｅｌｉｈｏｏｄ ｍｏｄｅｌ）模 型，发现 ＲＥＭ 模型预测的误报率较高；Ｍ．Ｍｏｎｔｅｎｅｇｒｏ 等［２１］研究了 ＲＥＭ 模型的解析表达式，文中引入 Ｆｏｕｒｉｅｒ 变换，给出 ＲＥＭ 模型的 ＦＴ 积分方程，导出在 给定参数值下模型预测的命中率与误报率的双积分 形式的解析表达式，同时发现其具有与 ＢＣＤＭＥＭ 模 型相同的一些性质：模型是不确定的，除非其中的一 个参数固定为一个预设值，向量长度参数是不可忽略 的参数。 ２．１ 特征表达与存储 ＲＥＭ 模型指出人脑记忆由图像构成，每幅图像 是由一个特征值向量表示的，并且最终存储结果是对 特征值向量的一个不完整且容易出错的复制。 本文 试图借鉴 ＲＥＭ 模型对单词的存储学习过程来模拟人 脑对图像的学习过程，有概率地对图像的特征向量进 行复制，同时在复制过程中允许出现错误值。 从图像库中选取图像，提取图像 ＬＢＰ 与 ＨＯＧ 特 征，将其分别写成行向量形式并连接起来生成图像特 征向量。 ＨＯＧ 特征是由小数组成的，并不是非负整 数，为方便 ＲＥＭ 模型的计算，在实验中简单地对该特 征扩大 １０ 倍并四舍五入。 每学习一次图像特征向 量，对于那些还没有存储任何信息的位置，存储新信 息的概率为 ｕ ∗ 。 注意到，一旦某个值被存储，之后该 值不会改变。 如果对某个特征有存储，其特征值从已 学向量中正确复制的概率是 ｃ，以 １－ｃ 的概率根据 Ｐ ［Ｖ＝ｊ］ ＝ （１－ｇ） ｊ－１ ｇ，ｊ ＝ １，２，…，¥随机取值，并允许偶 然选取正确值的可能性。 用 Ｖ＝｛Ｖｊ｝ｊ ＝ １，２，…，Ｎ标记所有已学习图像的特征 集，其中 Ｖｊ表示已学习图像集合中第 ｊ 副图像 Ｉｊ 的特 征向量，Ｎ 为已学习图像集合中的图像个数。 ２．２ 提取 给定要检测的图像 Ｉｔｅｓｔ，将其特征向量 Ｖｔｅｓｔ与Ｖ＝ ｛Ｖｊ｝ｊ ＝ １，２，…，Ｎ进行匹配，匹配结果为 Ｄ ＝ ｛Ｄｊ ｝ｊ ＝ １，２，…，Ｎ， 其中 Ｄｊ 为被检测图像特征与第 ｊ 个视觉图像特征的 匹配结果。 用 ｓ 图像表示与被检测图像相同的存储 图像，ｄ 图像表示除被检测图像之外的其他视觉图像 的存储图像。 被检测图像 Ｉｔｅｓｔ与第 ｊ 幅已存储图像 Ｉｊ 的匹配过 程的关键步骤是，计算似然率 λｊ，即在观测结果 Ｄｊ 基 础上第 ｊ 幅图像为 ｓ 图像与 ｄ 图像的概率比值： λｊ ＝ Ｐ（Ｄｊ Ｓｊ） Ｐ（Ｄｊ Ｎｊ） ＝ （１ － ｃ） ｎｊｑ ∏ｋ∈Ｍ ｃ ＋ （１ － ｃ）ｇ （１ － ｇ） Ｖｋｊ －１ ｇ （１ － ｇ） Ｖｋｊ －１ （１） 式中：Ｓｊ 为第 ｊ 副图像为 ｓ 图像的事件；Ｎｊ为第 ｊ 副图 像为 ｄ 图像的事件；Ｍ 为非零特征值与被检测向量特 征值匹配的目录；Ｖｋｊ为第 ｊ 副图像中第 ｋ 个特征值； ｎｊｑ为 Ｖｊ与 Ｖｔｅｓｔ不匹配的非零特征值个数；ｇ 为几何分 布参数。 ２．３ Ｂａｙｅｓｉａｎ 决策 给定探测图像 Ｉｔｅｓｔ，将其与所有已学习图像 Ｉ ＝ ｛Ｉｊ｝ｊ ＝ １，２，…，Ｎ进行匹配与不匹配比较，计算对应的似然 值 λ＝｛λ１ ，λ２ ，…，λＮ ｝，进而得到被检测图像为旧的 而非新的概率为 ·３１２· 智 能 系 统 学 报 第 １２ 卷
第3期 姜英，等：REM记忆模型在图像分类识别中的应用 ·313· P(O)P(D O) 从Col-20图像数据库中选取已学习图像，本文 中= P(O D) P(D) P(DO) 选择了15个不同项目的图像，构成图3所示已学习 P(N D) P(N)P(DN) P(D N) 图像集。图3中大写英文字母(A~0)分别代表不同 P(D) 项目图像的序号。 P(D S)P(S) 1 P(D S) P(D N) N P(D N) ANACIN P(D,lS)ΠP(D,lN) 三nNn网 B P(DS,)1 G H 若中>1，那么认为被检测的图像为已学习的图 像，同时认为该图像匹配最大入，值对应第j幅图像； 反之认为被检测图像是新的，从未学习过。 如果被检测图像是已学习过图像的极小变化如 M N 旋转之后的图像，由于当前图像特征向量的提取技术 图3已学习图像集 限制，被检测图像与对应的已学习过图像的特征向量 Fig.3 The studied images set 中部分特征值并不一致。而原REM模型中的复制过 接着从数据库中选取被测试图像，被测试图像根 程亦会导致不一致特征值的个数增加，计算似然率时 据实验需要选取图4所示几组图像。 会有很多1-℃项相乘，使得入≤1，故本文忽略了该复 制过程。同时，由于所提取的特征值包含LBP特征， 而LBP特征向量中值为8对应的是像素不变区域， 故同时忽略特征值为0与8的区域。我们用图2简 (a)“新”图像 单地解释该记忆模型过程，其中参数采用g=0.4,c= 0.7。 已学习图像 特征向量 10684532701530 (b)“旧”图像 被检测图像特征向量 1048453 匹配结果 1m 06q 8 4m 5m 3m2q 7q 0 1q 5m 3q 0 每个特征的 概率 1.4510.314.176.492.780.30.310.36.490.31 ANACIN 似然率 2=11.77 入30.18 概率 =(1+元，)/2=5.98 (c)已学习项目的旋转图像 判决 >1,故回应“旧”，且与第1幅图像匹配 图2改进的图像特征存储提取数值例子 Fig.2 An improved numerical example for the storage and retrieval of the image feature (d)已学习项目旋转图像组I 3实验结果 ANACIN ANACIN ANACIN ANACIN ANACIN 为验证本文所提方法的有效性，在Matlab编程 环境下，先后对哥伦比亚大学Coil-20图像数据库[2] (e)已学习项目旋转图像组Ⅱ 与加州福尼亚理工大学Caltech-256数据库]中的图 像进行实验测试。 3.1Coil-20数据库实验结果 Coil-20数据库由20个不同对象的旋转图像构 成，每个对象在水平方向上旋转360°，并每隔5°拍摄 ()已学习项目旋转图像组Ⅲ 一张照片，故每个项目有72幅图像，每幅图像的像素 图4被测试图像集 为128×128。 Fig.4 The probe images set
ϕ ＝ Ｐ（Ｏ Ｄ） Ｐ（Ｎ Ｄ） ＝ Ｐ（Ｏ）Ｐ（Ｄ Ｏ） Ｐ（Ｄ） Ｐ（Ｎ）Ｐ（Ｄ Ｎ） Ｐ（Ｄ） ＝ Ｐ（Ｄ Ｏ） Ｐ（Ｄ Ｎ） ＝ ∑ Ｎ ｊ ＝ １ Ｐ（Ｄ Ｓｊ）Ｐ（Ｓｊ） Ｐ（Ｄ Ｎ） ＝ ∑ Ｎ ｊ ＝ １ １ Ｎ Ｐ（Ｄ Ｓｊ） Ｐ（Ｄ Ｎ） ＝ １ Ｎ∑ Ｎ ｊ ＝ １ Ｐ（Ｄｊ Ｓｊ）∏ｉ≠ｊ Ｐ（Ｄｉ Ｎｉ） Ｐ（Ｄｊ Ｎｊ）∏ｉ≠ｊ Ｐ（Ｄｉ Ｎｉ） ＝ １ Ｎ∑ Ｎ ｊ ＝ １ Ｐ（Ｄｊ Ｓｊ） Ｐ（Ｄｊ Ｎｊ） ＝ １ Ｎ λｊ 若 ϕ＞１，那么认为被检测的图像为已学习的图 像，同时认为该图像匹配最大 λｊ 值对应第 ｊ 幅图像； 反之认为被检测图像是新的，从未学习过。 如果被检测图像是已学习过图像的极小变化如 旋转之后的图像，由于当前图像特征向量的提取技术 限制，被检测图像与对应的已学习过图像的特征向量 中部分特征值并不一致。 而原 ＲＥＭ 模型中的复制过 程亦会导致不一致特征值的个数增加，计算似然率时 会有很多 １－ｃ 项相乘，使得 λ≪１，故本文忽略了该复 制过程。 同时，由于所提取的特征值包含 ＬＢＰ 特征， 而 ＬＢＰ 特征向量中值为 ８ 对应的是像素不变区域， 故同时忽略特征值为 ０ 与 ８ 的区域。 我们用图 ２ 简 单地解释该记忆模型过程，其中参数采用 ｇ ＝ ０．４，ｃ ＝ ０．７。 图 ２ 改进的图像特征存储提取数值例子 Ｆｉｇ．２ Ａｎ ｉｍｐｒｏｖｅｄ ｎｕｍｅｒｉｃａｌ ｅｘａｍｐｌｅ ｆｏｒ ｔｈｅ ｓｔｏｒａｇｅ ａｎｄ ｒｅｔｒｉｅｖａｌ ｏｆ ｔｈｅ ｉｍａｇｅ ｆｅａｔｕｒｅ ３ 实验结果 为验证本文所提方法的有效性，在 Ｍａｔｌａｂ 编程 环境下，先后对哥伦比亚大学 Ｃｏｉｌ⁃２０ 图像数据库［２８］ 与加州福尼亚理工大学 Ｃａｌｔｅｃｈ⁃２５６ 数据库［２９］中的图 像进行实验测试。 ３．１ Ｃｏｉｌ⁃２０ 数据库实验结果 Ｃｏｉｌ⁃２０ 数据库由 ２０ 个不同对象的旋转图像构 成，每个对象在水平方向上旋转 ３６０°，并每隔 ５°拍摄 一张照片，故每个项目有 ７２ 幅图像，每幅图像的像素 为 １２８ ´１２８。 从 Ｃｏｉｌ⁃２０ 图像数据库中选取已学习图像，本文 选择了 １５ 个不同项目的图像，构成图 ３ 所示已学习 图像集。 图 ３ 中大写英文字母（Ａ～Ｏ）分别代表不同 项目图像的序号。 图 ３ 已学习图像集 Ｆｉｇ．３ Ｔｈｅ ｓｔｕｄｉｅｄ ｉｍａｇｅｓ ｓｅｔ 接着从数据库中选取被测试图像，被测试图像根 据实验需要选取图 ４ 所示几组图像。 （ａ）“新”图像 （ｂ）“旧”图像 （ｃ）已学习项目的旋转图像 （ｄ）已学习项目旋转图像组Ⅰ （ｅ） 已学习项目旋转图像组Ⅱ （ｆ） 已学习项目旋转图像组Ⅲ 图 ４ 被测试图像集 Ｆｉｇ．４ Ｔｈｅ ｐｒｏｂｅ ｉｍａｇｅｓ ｓｅｔ 第 ３ 期 姜英，等：ＲＥＭ 记忆模型在图像分类识别中的应用 ·３１３·
·314. 智能系统学报 第12卷 由于特征向量维数比原REM模型中单词特征 维数大得多，计算似然率过程中会出现多个1-c项 相乘，导致入≤1，最终会影响到识别效果，故将中 值扩大到100倍。表1是利用本文所提算法对6组 实验图像运行得到的识别结果。 表1Coil-20数据库实验结果 9 10 12 13 Table 1 The experimental result on the Coil-20 database 图像组第1幅第2幅第3幅第4幅第5幅 (a)新V新V新V新V新√ 15 16 17 18 19 20 (b)(AL)V(BA)V(DB)V(KD)V (KL)V 图6 Caltech-256数据库中被检测图像集 (c)(A)V(B)V新×新×新× Fig.6 The probe images set on the Caltech-256 database (a)(A)V (A)V (A)V (A)V (A)V 利用本文所提算法并将LBP特征值扩大两倍， (e)(E)√(E)V(E)V新×新× 中值扩大105倍的实验结果由表2给出。 表2 Caltech-256数据库实验结果 (n (1)V (1)V (1)V (1)V 新× Table 2 The result on the Caltech-256 database 表1中大写字母代表测试图象对应的已学习图 图像 结论 图像 结论 像序号，“√”说明识别正确，“×”说明判别错误。很 1 (a)v 11 新V 显然，图像组(a)、(b)识别效果不错：图像组(c)由 2 新× 12 新V 5副已学习项目的旋转图像组成，只有2副图像被 新× 13 新√ 正确识别为已学习图像，即图像发生旋转时识别效 4 (j)V 14 新 果变差。通过对图像组(d)、(e)、(f)的测试实验发 (g)V 小 新V 现，随着图像旋转角度增加，算法识别率降低。导 6 (e)v 16 新 V 致识别效果不理想的原因在于，尽管采用的LBP算 7 新× 17 新 子具有旋转不变性，但是当旋转角度超过一定范围 (d)v 18 新 之后算子不能很好地刻画图像特征。 9 (i)v 9 新V 3.2 Caltech-256数据库实验结果 10 新× 20 新V Caltech-256数据库来自加利福利亚理工学院， 对于前10副“旧”的图像，其中有7副图像被 该数据库共有29780副图像，包含了256个不同图 正确识别出来，其余3副图像被错误地判断为 像项目类别，每个图像类别包含不少于80幅属于该 “新”，后10副图像都被正确地判断为“新”。该实 类别的不同图像，这些图像属于同一类，但并不是 验说明，本文所提的基于REM记忆模型的图像识别 完全相同的项目，实验选择的已学习图像列表如图 算法不止对同一个物体的识别有效，也为同一类物 5所示。 体的识别方法给出了一个新思路。 3.2.1实验参数对识别率的影响 为说明中值和LBP特征向量的倍数变化对 a)棒球棒 (b)双简镜(c)保龄球(d)平底锅 (c)ak47 Caltech-256数据库实验结果的影响，本文采用多组 中值和LBP变化数据进行实验，实验结果如图7。 图7分别描述了在不同中值和LBP特征倍数 情况下的图像击中率P:、虚报率P。、识别率与ROC 曲线。3种曲线分别代表中值扩大100,102,1010 ()背包 (g)卡特曼h)手电筒 ()地球 ()头盔 倍之后的实验结果。不论中值被扩大多少倍，随着 图5 Caltech-256数据库中已学习图像集 LBP特征倍数的增加，击中率都在增加，但同时虚 Fig.5 The studied images set on the Caltech-256 database 报率也在增加。当LBP倍数为2时，识别率取得最 从数据库中选取20副被测试图像，包含10副 大值，即不论b值被扩大多少倍，LBP特征被扩大2 已学习过类别的图像与10副新类别的图像，如图6 倍时图像识别率都最高。很明显，中值被扩大101 所示。 倍时的识别率较其他情况的识别率低，其余两种情
由于特征向量维数比原 ＲＥＭ 模型中单词特征 维数大得多，计算似然率过程中会出现多个 １－ｃ 项 相乘，导致 λ≪１ ，最终会影响到识别效果，故将 ϕ 值扩大到 １０ １００倍。 表 １ 是利用本文所提算法对 ６ 组 实验图像运行得到的识别结果。 表 １ Ｃｏｉｌ⁃２０ 数据库实验结果 Ｔａｂｌｅ １ Ｔｈｅ ｅｘｐｅｒｉｍｅｎｔａｌ ｒｅｓｕｌｔ ｏｎ ｔｈｅ Ｃｏｉｌ⁃２０ ｄａｔａｂａｓｅ 图像组 第 １ 幅 第 ２ 幅 第 ３ 幅 第 ４ 幅 第 ５ 幅 （ａ） 新 √ 新 √ 新 √ 新 √ 新 √ （ｂ） （ＡＬ） √ （ＢＡ） √ （ＤＢ） √ （ＫＤ） √ （ＫＬ） √ （ｃ） （Ａ） √ （Ｂ） √ 新 × 新 × 新 × （ｄ） （Ａ） √ （Ａ） √ （Ａ） √ （Ａ） √ （Ａ） √ （ｅ） （Ｅ） √ （Ｅ） √ （Ｅ） √ 新 × 新 × （ｆ） （Ｉ） √ （Ｉ） √ （Ｉ） √ （Ｉ） √ 新 × 表 １ 中大写字母代表测试图象对应的已学习图 像序号，“√”说明识别正确，“×”说明判别错误。 很 显然，图像组（ａ）、（ｂ）识别效果不错；图像组（ ｃ）由 ５ 副已学习项目的旋转图像组成，只有 ２ 副图像被 正确识别为已学习图像，即图像发生旋转时识别效 果变差。 通过对图像组（ｄ）、（ｅ）、（ｆ）的测试实验发 现，随着图像旋转角度增加，算法识别率降低。 导 致识别效果不理想的原因在于，尽管采用的 ＬＢＰ 算 子具有旋转不变性，但是当旋转角度超过一定范围 之后算子不能很好地刻画图像特征。 ３．２ Ｃａｌｔｅｃｈ⁃２５６ 数据库实验结果 Ｃａｌｔｅｃｈ⁃２５６ 数据库来自加利福利亚理工学院， 该数据库共有２９ ７８０副图像，包含了 ２５６ 个不同图 像项目类别，每个图像类别包含不少于 ８０ 幅属于该 类别的不同图像，这些图像属于同一类，但并不是 完全相同的项目，实验选择的已学习图像列表如图 ５ 所示。 图 ５ Ｃａｌｔｅｃｈ⁃２５６ 数据库中已学习图像集 Ｆｉｇ．５ Ｔｈｅ ｓｔｕｄｉｅｄ ｉｍａｇｅｓ ｓｅｔ ｏｎ ｔｈｅ Ｃａｌｔｅｃｈ－２５６ ｄａｔａｂａｓｅ 从数据库中选取 ２０ 副被测试图像，包含 １０ 副 已学习过类别的图像与 １０ 副新类别的图像，如图 ６ 所示。 图 ６ Ｃａｌｔｅｃｈ⁃２５６ 数据库中被检测图像集 Ｆｉｇ．６ Ｔｈｅ ｐｒｏｂｅ ｉｍａｇｅｓ ｓｅｔ ｏｎ ｔｈｅ Ｃａｌｔｅｃｈ⁃２５６ ｄａｔａｂａｓｅ 利用本文所提算法并将 ＬＢＰ 特征值扩大两倍， ϕ 值扩大 １０ ７５倍的实验结果由表 ２ 给出。 表 ２ Ｃａｌｔｅｃｈ－２５６ 数据库实验结果 Ｔａｂｌｅ ２ Ｔｈｅ ｒｅｓｕｌｔ ｏｎ ｔｈｅ Ｃａｌｔｅｃｈ⁃２５６ ｄａｔａｂａｓｅ 图像 结论 图像 结论 １ （ａ） √ １１ 新 √ ２ 新 × １２ 新 √ ３ 新 × １３ 新 √ ４ （ｊ） √ １４ 新 √ ５ （ｇ） √ １５ 新 √ ６ （ｃ） √ １６ 新 √ ７ 新 × １７ 新 √ ８ （ｄ） √ １８ 新 √ ９ （ｉ） √ １９ 新 √ １０ 新 × ２０ 新 √ 对于前 １０ 副“旧”的图像，其中有 ７ 副图像被 正确识别出来， 其余 ３ 副图像被错误地判断为 “新”，后 １０ 副图像都被正确地判断为“新”。 该实 验说明，本文所提的基于 ＲＥＭ 记忆模型的图像识别 算法不止对同一个物体的识别有效，也为同一类物 体的识别方法给出了一个新思路。 ３．２．１ 实验参数对识别率的影响 为说明 ϕ 值和 ＬＢＰ 特征向量的倍数变化对 Ｃａｌｔｅｃｈ⁃２５６ 数据库实验结果的影响，本文采用多组 ϕ 值和 ＬＢＰ 变化数据进行实验，实验结果如图 ７。 图 ７ 分别描述了在不同 ϕ 值和 ＬＢＰ 特征倍数 情况下的图像击中率 ＰＨ 、虚报率 ＰＦ 、识别率与 ＲＯＣ 曲线。 ３ 种曲线分别代表 ϕ 值扩大 １０ ５０ ，１０ ７２ ，１０ １００ 倍之后的实验结果。 不论 ϕ 值被扩大多少倍，随着 ＬＢＰ 特征倍数的增加，击中率都在增加，但同时虚 报率也在增加。 当 ＬＢＰ 倍数为 ２ 时，识别率取得最 大值，即不论 ϕ 值被扩大多少倍，ＬＢＰ 特征被扩大 ２ 倍时图像识别率都最高。 很明显，ϕ 值被扩大 １０ １００ 倍时的识别率较其他情况的识别率低，其余两种情 ·３１４· 智 能 系 统 学 报 第 １２ 卷
第3期 姜英，等：REM记忆模型在图像分类识别中的应用 ·315· 况下的识别率相近。观察3个实验的ROC曲线下 LBP特征值被扩大两倍且中值扩大105倍时，实验 的面积(AUC)进行比较，很明显中值被扩大105倍 识别效果达到最佳。 时ROC曲线下的面积最大，即实验准确性最佳。当 1.0 1.0 px101 0.8 0.8 中x101网 0.6 0.6 bx100 0.4 Φx105 0.4 0.2 x10% 0 0.2 1.0 15 2.0 2.5 3.0 1.0 1.5 2.0 2.5 3.0 LBP倍数 LBP倍数 (a)击中率曲线 (b)虚报率曲线 1.0 x109 1.0[x10 0.9 x10 0.8 ×10 0.8 米 0.7 0.6 Φx10 中x10@ 0.6 0.4 0.5 0.2 1.0 1.5 2.0 2.5 3.0 0 0.2 0.40.60.81.0 LBP倍数 P (c)识别率曲线 (dROC曲线 图7不同中值与LBP倍数变化下的实验曲线 Fig.7 The hit and false rate curve under the varying value of and LBP 3.2.2与SRC算法的实验性能对比 3.2.3与支持向量机(SVM)算法的实验性能对比 实验采用的SRC算法[)]描述如下：所有已学习 为进一步说明所提方法的有效性，对比了本文 图像特征向量被标记为X,对每一个探测图像特征 所提算法与支持向量机(SVM)算法在Caltech-256 向量记为Y,求解如下最优问题： 数据库上的识别分类性能。实验中选取图5所示的 min ll Y-XHI (3) 训练图像，即分别属于10个不同类别的10幅图像。 然后计算F=‖Y-XH‖，i=1,2,…,并搜索最小 对测试图像集，选取20个不同类别(10个已学习类 值F。给定阈值入，若F>入，那么该被探测图像 别与10个新类别)的100幅图像，每个类别分别选 被认为是新的：若F≤入，则反馈结果为已学过的， 取5幅图像，实验参数选取c=0.3,g=0.4,实验结果 并且与F对应的图像匹配。 如表4所示。 从表3中可以看出，SRC算法在A=290时的击 表4本文方法与SM算法在Caltech-256数据库实验对比 中率P:与本文算法相同，但是其虚报率P。高达 Table 4 Performance comparison between the proposed 7/10,远高于本文算法的虚报率。 method and the SVM method on the Caltech-256 表3本文方法与SRC算法在Caltech-2S6数据库实验对比 database % Table 3 Performance comparison between the proposed method 实验方法 Pa P and the SRC method on the Caltech-256 database 本文方法 68 0 实验方法 Pu Pr SVM 64 100 本文方法 7/10 0/10 很明显，对已学习过的类别，本文算法有着很 SRC(A=270) 5/10 2/10 好的识别率，并且对从未学习过的类别的虚报率为 SRC(A=280) 6/10 3/10 0,即拒识率达到100%，而SVM算法的虚报率高 SRC(λ=290) 7/10 7/10 达100%
况下的识别率相近。 观察 ３ 个实验的 ＲＯＣ 曲线下 的面积（ＡＵＣ）进行比较，很明显 ϕ 值被扩大 １０ ７５倍 时 ＲＯＣ 曲线下的面积最大，即实验准确性最佳。 当 ＬＢＰ 特征值被扩大两倍且 ϕ 值扩大 １０ ７５倍时，实验 识别效果达到最佳。 图 ７ 不同 Φ 值与 ＬＢＰ 倍数变化下的实验曲线 Ｆｉｇ．７ Ｔｈｅ ｈｉｔ ａｎｄ ｆａｌｓｅ ｒａｔｅ ｃｕｒｖｅ ｕｎｄｅｒ ｔｈｅ ｖａｒｙｉｎｇ ｖａｌｕｅ ｏｆ Φ ａｎｄ ＬＢＰ ３．２．２ 与 ＳＲＣ 算法的实验性能对比 实验采用的 ＳＲＣ 算法［８］描述如下：所有已学习 图像特征向量被标记为 Ｘ，对每一个探测图像特征 向量记为 Ｙ，求解如下最优问题： ｍｉｎ Ｈ ‖Ｙ － ＸＨ‖２ ２ （３） 然后计算 Ｆ ＝ ‖Ｙ－ＸｉＨｉ‖２ ２ ，ｉ ＝ １，２，…，并搜索最小 值 Ｆｍｉｎ 。 给定阈值 λ，若 Ｆｍｉｎ＞λ，那么该被探测图像 被认为是新的；若 Ｆｍｉｎ≤λ，则反馈结果为已学过的， 并且与 Ｆｍｉｎ对应的图像匹配。 从表 ３ 中可以看出，ＳＲＣ 算法在 λ ＝ ２９０ 时的击 中率 ＰＨ 与本文算法相同，但是其虚报率 ＰＦ 高达 ７ ／ １０，远高于本文算法的虚报率。 表３ 本文方法与 ＳＲＣ 算法在 Ｃａｌｔｅｃｈ⁃２５６ 数据库实验对比 Ｔａｂｌｅ ３ Ｐｅｒｆｏｒｍａｎｃｅ ｃｏｍｐａｒｉｓｏｎ ｂｅｔｗｅｅｎ ｔｈｅ ｐｒｏｐｏｓｅｄ ｍｅｔｈｏｄ ａｎｄ ｔｈｅ ＳＲＣ ｍｅｔｈｏｄ ｏｎ ｔｈｅ Ｃａｌｔｅｃｈ⁃２５６ ｄａｔａｂａｓｅ 实验方法 ＰＨ ＰＦ 本文方法 ７ ／ １０ ０ ／ １０ ＳＲＣ（λ＝ ２７０） ５ ／ １０ ２ ／ １０ ＳＲＣ（λ＝ ２８０） ６ ／ １０ ３ ／ １０ ＳＲＣ（λ＝ ２９０） ７ ／ １０ ７ ／ １０ ３．２．３ 与支持向量机（ＳＶＭ）算法的实验性能对比 为进一步说明所提方法的有效性，对比了本文 所提算法与支持向量机（ ＳＶＭ） 算法在 Ｃａｌｔｅｃｈ⁃２５６ 数据库上的识别分类性能。 实验中选取图 ５ 所示的 训练图像，即分别属于 １０ 个不同类别的 １０ 幅图像。 对测试图像集，选取 ２０ 个不同类别（１０ 个已学习类 别与 １０ 个新类别）的 １００ 幅图像，每个类别分别选 取 ５ 幅图像，实验参数选取 ｃ ＝ ０．３，ｇ ＝ ０．４，实验结果 如表 ４ 所示。 表４ 本文方法与 ＳＶＭ 算法在 Ｃａｌｔｅｃｈ⁃２５６ 数据库实验对比 Ｔａｂｌｅ ４ Ｐｅｒｆｏｒｍａｎｃｅ ｃｏｍｐａｒｉｓｏｎ ｂｅｔｗｅｅｎ ｔｈｅ ｐｒｏｐｏｓｅｄ ｍｅｔｈｏｄ ａｎｄ ｔｈｅ ＳＶＭ ｍｅｔｈｏｄ ｏｎ ｔｈｅ Ｃａｌｔｅｃｈ⁃２５６ ｄａｔａｂａｓｅ ％ 实验方法 ＰＨ ＰＦ 本文方法 ６８ ０ ＳＶＭ ６４ １００ 很明显，对已学习过的类别，本文算法有着很 好的识别率，并且对从未学习过的类别的虚报率为 ０，即拒识率达到 １００％，而 ＳＶＭ 算法的虚报率高 达 １００％。 第 ３ 期 姜英，等：ＲＥＭ 记忆模型在图像分类识别中的应用 ·３１５·
·316 智能系统学报 第12卷 collaborative representation:Which helps face recognition[C// 4 结束语 International Conference on Computer Vision,2011:471-478. 在人脑认知记忆模型启发下将图像学习识别 [10]YANG M,ZHANG L YANG J,ZHANG D.Robust sparse 与REM模型结合在一起，验证了REM记忆模型可 coding for face recognition[C]//IEEE Computer Society 以用于自然图像的存储与提取。实验结果证实了， Conference on Computer Vision and Pattern Recognition (CVPR),2011,42(7):625-632. 所提方法能够实现在小幅度旋转情况下的简单图 [11]SCHOLKOPF B,PLATT J,HOFMANN T.Sparse representation 像的识别任务与简单类别图像的分类任务。同时 for signal classification[J.Advances in neural information 与SRC、SVM算法的实验对比结果说明，本文方法 processing systems,2007,19:609-616. 的虚报率远低于SRC与SVM方法。但由于现有特 [12]WANG Y.Formal description of the cognitive process of 征提取方法限制，及REM模型本身对特征表达采用 memorization[M]//Transactions on Computational Science 非负整数的这种要求均限制了图像分类识别率。 V.Springer Berlin Heidelberg,2009:81-98. 因此如何对大范围旋转变化图像提取恰当的特征 [13]WANG Y,CHIEW V.On the cognitive process of human 向量改进图像特征表达，同时改进REM模型的特征 problem solving[J].Cognitive systems research,2010,11 表达存储方法，以提高图像识别率是下一步的研究 (1):81-92 重点。 [14]MURDOCK BB.A theory of the storage and retrieval of item and associative information[J].Psychological review, 参考文献： 1982,89(6):609-626. [15]RAAIJMAKERS J G W,SHIFFRIN R M.SAM:a theory of [1]XU Y,ZHANG B,ZHONG Z.Multiple representations and probabilistic search of associative memory[J].Psychology of sparse representation for image classification[].Pattern learning and motivation,1980,14:207-262. recognition letters,2015,68:9-14. [16 HINTZMAN D L.Judgments of frequency and recognition [2]HELLMAN M E.The nearest neighbor classification rule with a memory in a multiple-trace model[.Psychological review, reject option[J].IEEE transactions on systems science and cy- 1988,95(4):528-551. bernetics,1970.6(3):179-185. [17]SHIFFRIN R M,STEYVERS M.A model for recognition [3]DENOEUX T.A neural network classifier based on Dempster- memory:REM-retrieving effectively from memory[J].Psy- Shafer theory[]IEEE transactions on systems man and cy- chonomic bulletin and review,1997,4(2):145-166. bernetics-Part A systems and humans,2010,30(2):131-150 [18]STARN J J,WHITE C N,RATCLIFF R.A direet test of [4]DAVTALAB R,DEZFOULIAN M H,MANSOORIZADEH the differentiation mechanism:REM,BCDMEM,and the M.Multi-level fuzzy min-max neural network classifier[J]. strength-based mirror effect in recognition memory[J]. IEEE transactions on neural networks and learning systems, Journal of memory and language,2010,63(1):18-34. 2014,25(3):470-482. [19]COX G E,SHIFFRIN R M.Criterion Setting and the [5]CHANG CC,LIN C J.LIBSVM:a library for support dynamics of recognition memory [J].Topics in cognitive vector machines[J].ACM transactions on intelligent systems science,2012,4(1):135-150. and technology,2011,2(3):389-396. [20]CRISS A H,MCCLELLAND J L.Differentiating the differ- [6]SIMONYAN K,ZISSERMAN A.Very deep convolutional entiation models:a comparison of the retrieving effectively networks for large-scale image recognition [J].Computer from memory model (REM)and the subjective likelihood science,2014. model SLiM)[J ]Journal of memory and language, [7]HUANG G B.What are extreme learning machines?Filling 2006,55(4):447-460. the gap between Frank Rosenblatt's dream and John von [21]MONTENEGRO M,MYUNG J 1,PITT M A.Analytical Neumann's puzzle[J].Cognitive computation,2015,7(3) expressions for the REM model of recognition memory[]]. 263-278. Journal of mathematical psychology,2014,60 (3): [8]WRIGHT J,YANG A Y,GANESH A,et al.Robust face 23-28. recognition via sparse representation[J].IEEE transactions [22]DALAL N,TRIGGS B.Histograms of oriented gradients for on pattern analysis and machine intelligence,2008,31(2) human detection[C]//Computer Vision and Pattern Rec- 210-227. ognition.IEEE Computer Society Conference,on,2005: [9]ZHANG L,YANG M,FENG X.Sparse representation or 886-893
４ 结束语 在人脑认知记忆模型启发下将图像学习识别 与 ＲＥＭ 模型结合在一起，验证了 ＲＥＭ 记忆模型可 以用于自然图像的存储与提取。 实验结果证实了， 所提方法能够实现在小幅度旋转情况下的简单图 像的识别任务与简单类别图像的分类任务。 同时 与 ＳＲＣ、ＳＶＭ 算法的实验对比结果说明，本文方法 的虚报率远低于 ＳＲＣ 与 ＳＶＭ 方法。 但由于现有特 征提取方法限制，及 ＲＥＭ 模型本身对特征表达采用 非负整数的这种要求均限制了图像分类识别率。 因此如何对大范围旋转变化图像提取恰当的特征 向量改进图像特征表达，同时改进 ＲＥＭ 模型的特征 表达存储方法，以提高图像识别率是下一步的研究 重点。 参考文献： ［１］ＸＵ Ｙ， ＺＨＡＮＧ Ｂ， ＺＨＯＮＧ Ｚ． Ｍｕｌｔｉｐｌｅ ｒｅｐｒｅｓｅｎｔａｔｉｏｎｓ ａｎｄ ｓｐａｒｓｅ ｒｅｐｒｅｓｅｎｔａｔｉｏｎ ｆｏｒ ｉｍａｇｅ ｃｌａｓｓｉｆｉｃａｔｉｏｎ［Ｊ］． Ｐａｔｔｅｒｎ ｒｅｃｏｇｎｉｔｉｏｎ ｌｅｔｔｅｒｓ， ２０１５， ６８： ９－１４． ［２］ＨＥＬＬＭＡＮ Ｍ Ｅ． Ｔｈｅ ｎｅａｒｅｓｔ ｎｅｉｇｈｂｏｒ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｒｕｌｅ ｗｉｔｈ ａ ｒｅｊｅｃｔ ｏｐｔｉｏｎ［Ｊ］． ＩＥＥＥ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｓｙｓｔｅｍｓ ｓｃｉｅｎｃｅ ａｎｄ ｃｙ⁃ ｂｅｒｎｅｔｉｃｓ， １９７０， ６（３）： １７９－１８５． ［３］ＤＥＮＯＥＵＸ Ｔ． Ａ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ ｃｌａｓｓｉｆｉｅｒ ｂａｓｅｄ ｏｎ Ｄｅｍｐｓｔｅｒ⁃ Ｓｈａｆｅｒ ｔｈｅｏｒｙ［Ｊ］． ＩＥＥＥ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｓｙｓｔｅｍｓ ｍａｎ ａｎｄ ｃｙ⁃ ｂｅｒｎｅｔｉｃｓ⁃Ｐａｒｔ Ａ ｓｙｓｔｅｍｓ ａｎｄ ｈｕｍａｎｓ， ２０１０， ３０（２）： １３１－１５０． ［４］ ＤＡＶＴＡＬＡＢ Ｒ， ＤＥＺＦＯＵＬＩＡＮ Ｍ Ｈ， ＭＡＮＳＯＯＲＩＺＡＤＥＨ Ｍ． Ｍｕｌｔｉ⁃ｌｅｖｅｌ ｆｕｚｚｙ ｍｉｎ⁃ｍａｘ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ ｃｌａｓｓｉｆｉｅｒ［ Ｊ］． ＩＥＥＥ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ ａｎｄ ｌｅａｒｎｉｎｇ ｓｙｓｔｅｍｓ， ２０１４， ２５（３）： ４７０－４８２． ［５］ ＣＨＡＮＧ Ｃ Ｃ， ＬＩＮ Ｃ Ｊ． ＬＩＢＳＶＭ： ａ ｌｉｂｒａｒｙ ｆｏｒ ｓｕｐｐｏｒｔ ｖｅｃｔｏｒ ｍａｃｈｉｎｅｓ［Ｊ］．ＡＣＭ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｉｎｔｅｌｌｉｇｅｎｔ ｓｙｓｔｅｍｓ ａｎｄ ｔｅｃｈｎｏｌｏｇｙ， ２０１１， ２（３）： ３８９－３９６． ［６］ ＳＩＭＯＮＹＡＮ Ｋ， ＺＩＳＳＥＲＭＡＮ Ａ． Ｖｅｒｙ ｄｅｅｐ ｃｏｎｖｏｌｕｔｉｏｎａｌ ｎｅｔｗｏｒｋｓ ｆｏｒ ｌａｒｇｅ⁃ｓｃａｌｅ ｉｍａｇｅ ｒｅｃｏｇｎｉｔｉｏｎ ［ Ｊ ］． Ｃｏｍｐｕｔｅｒ ｓｃｉｅｎｃｅ， ２０１４． ［７］ ＨＵＡＮＧ Ｇ Ｂ． Ｗｈａｔ ａｒｅ ｅｘｔｒｅｍｅ ｌｅａｒｎｉｎｇ ｍａｃｈｉｎｅｓ？ Ｆｉｌｌｉｎｇ ｔｈｅ ｇａｐ ｂｅｔｗｅｅｎ Ｆｒａｎｋ Ｒｏｓｅｎｂｌａｔｔｓ ｄｒｅａｍ ａｎｄ Ｊｏｈｎ ｖｏｎ Ｎｅｕｍａｎｎｓ ｐｕｚｚｌｅ［Ｊ］． Ｃｏｇｎｉｔｉｖｅ ｃｏｍｐｕｔａｔｉｏｎ， ２０１５， ７（３） ２６３－２７８． ［８］ ＷＲＩＧＨＴ Ｊ， ＹＡＮＧ Ａ Ｙ， ＧＡＮＥＳＨ Ａ， ｅｔ ａｌ． Ｒｏｂｕｓｔ ｆａｃｅ ｒｅｃｏｇｎｉｔｉｏｎ ｖｉａ ｓｐａｒｓｅ ｒｅｐｒｅｓｅｎｔａｔｉｏｎ［ Ｊ］． ＩＥＥＥ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｐａｔｔｅｒｎ ａｎａｌｙｓｉｓ ａｎｄ ｍａｃｈｉｎｅ ｉｎｔｅｌｌｉｇｅｎｃｅ， ２００８， ３１（２） ２１０－２２７． ［９］ ＺＨＡＮＧ Ｌ， ＹＡＮＧ Ｍ， ＦＥＮＧ Ｘ． Ｓｐａｒｓｅ ｒｅｐｒｅｓｅｎｔａｔｉｏｎ ｏｒ ｃｏｌｌａｂｏｒａｔｉｖｅ ｒｅｐｒｅｓｅｎｔａｔｉｏｎ： Ｗｈｉｃｈ ｈｅｌｐｓ ｆａｃｅ ｒｅｃｏｇｎｉｔｉｏｎ［Ｃ］ ／ ／ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ Ｖｉｓｉｏｎ， ２０１１： ４７１－４７８． ［１０］ＹＡＮＧ Ｍ， ＺＨＡＮＧ Ｌ ＹＡＮＧ Ｊ， ＺＨＡＮＧ Ｄ． Ｒｏｂｕｓｔ ｓｐａｒｓｅ ｃｏｄｉｎｇ ｆｏｒ ｆａｃｅ ｒｅｃｏｇｎｉｔｉｏｎ ［ Ｃ］ ／ ／ ＩＥＥＥ Ｃｏｍｐｕｔｅｒ Ｓｏｃｉｅｔｙ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ Ｖｉｓｉｏｎ ａｎｄ Ｐａｔｔｅｒｎ Ｒｅｃｏｇｎｉｔｉｏｎ （ＣＶＰＲ）， ２０１１， ４２（７）： ６２５－６３２． ［１１］ＳＣＨＯＬＫＯＰＦ Ｂ， ＰＬＡＴＴ Ｊ， ＨＯＦＭＡＮＮ Ｔ． Ｓｐａｒｓｅ ｒｅｐｒｅｓｅｎｔａｔｉｏｎ ｆｏｒ ｓｉｇｎａｌ ｃｌａｓｓｉｆｉｃａｔｉｏｎ［Ｊ］． Ａｄｖａｎｃｅｓ ｉｎ ｎｅｕｒａｌ ｉｎｆｏｒｍａｔｉｏｎ ｐｒｏｃｅｓｓｉｎｇ ｓｙｓｔｅｍｓ， ２００７， １９： ６０９－６１６． ［１２］ ＷＡＮＧ Ｙ． Ｆｏｒｍａｌ ｄｅｓｃｒｉｐｔｉｏｎ ｏｆ ｔｈｅ ｃｏｇｎｉｔｉｖｅ ｐｒｏｃｅｓｓ ｏｆ ｍｅｍｏｒｉｚａｔｉｏｎ［Ｍ］ ／ ／ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｃｏｍｐｕｔａｔｉｏｎａｌ Ｓｃｉｅｎｃｅ Ｖ． Ｓｐｒｉｎｇｅｒ Ｂｅｒｌｉｎ Ｈｅｉｄｅｌｂｅｒｇ， ２００９： ８１－９８． ［１３］ＷＡＮＧ Ｙ， ＣＨＩＥＷ Ｖ． Ｏｎ ｔｈｅ ｃｏｇｎｉｔｉｖｅ ｐｒｏｃｅｓｓ ｏｆ ｈｕｍａｎ ｐｒｏｂｌｅｍ ｓｏｌｖｉｎｇ［Ｊ］． Ｃｏｇｎｉｔｉｖｅ ｓｙｓｔｅｍｓ ｒｅｓｅａｒｃｈ， ２０１０， １１ （１）： ８１－９２． ［１４］ＭＵＲＤＯＣＫ Ｂ Ｂ． Ａ ｔｈｅｏｒｙ ｏｆ ｔｈｅ ｓｔｏｒａｇｅ ａｎｄ ｒｅｔｒｉｅｖａｌ ｏｆ ｉｔｅｍ ａｎｄ ａｓｓｏｃｉａｔｉｖｅ ｉｎｆｏｒｍａｔｉｏｎ［Ｊ］． Ｐｓｙｃｈｏｌｏｇｉｃａｌ ｒｅｖｉｅｗ， １９８２， ８９（６）： ６０９－６２６． ［１５］ＲＡＡＩＪＭＡＫＥＲＳ Ｊ Ｇ Ｗ， ＳＨＩＦＦＲＩＮ Ｒ Ｍ． ＳＡＭ： ａ ｔｈｅｏｒｙ ｏｆ ｐｒｏｂａｂｉｌｉｓｔｉｃ ｓｅａｒｃｈ ｏｆ ａｓｓｏｃｉａｔｉｖｅ ｍｅｍｏｒｙ［Ｊ］． Ｐｓｙｃｈｏｌｏｇｙ ｏｆ ｌｅａｒｎｉｎｇ ａｎｄ ｍｏｔｉｖａｔｉｏｎ， １９８０， １４： ２０７－２６２． ［ １６ ］ ＨＩＮＴＺＭＡＮ Ｄ Ｌ． Ｊｕｄｇｍｅｎｔｓ ｏｆ ｆｒｅｑｕｅｎｃｙ ａｎｄ ｒｅｃｏｇｎｉｔｉｏｎ ｍｅｍｏｒｙ ｉｎ ａ ｍｕｌｔｉｐｌｅ⁃ｔｒａｃｅ ｍｏｄｅｌ ［Ｊ］． Ｐｓｙｃｈｏｌｏｇｉｃａｌ ｒｅｖｉｅｗ， １９８８， ９５（４）： ５２８－５５１． ［１７］ ＳＨＩＦＦＲＩＮ Ｒ Ｍ， ＳＴＥＹＶＥＲＳ Ｍ． Ａ ｍｏｄｅｌ ｆｏｒ ｒｅｃｏｇｎｉｔｉｏｎ ｍｅｍｏｒｙ： ＲＥＭ⁃ｒｅｔｒｉｅｖｉｎｇ ｅｆｆｅｃｔｉｖｅｌｙ ｆｒｏｍ ｍｅｍｏｒｙ［Ｊ］． Ｐｓｙ⁃ ｃｈｏｎｏｍｉｃ ｂｕｌｌｅｔｉｎ ａｎｄ ｒｅｖｉｅｗ， １９９７， ４（２）： １４５－１６６． ［１８］ＳＴＡＲＮ Ｊ Ｊ， ＷＨＩＴＥ Ｃ Ｎ， ＲＡＴＣＬＩＦＦ Ｒ． Ａ ｄｉｒｅｃｔ ｔｅｓｔ ｏｆ ｔｈｅ ｄｉｆｆｅｒｅｎｔｉａｔｉｏｎ ｍｅｃｈａｎｉｓｍ： ＲＥＭ， ＢＣＤＭＥＭ， ａｎｄ ｔｈｅ ｓｔｒｅｎｇｔｈ⁃ｂａｓｅｄ ｍｉｒｒｏｒ ｅｆｆｅｃｔ ｉｎ ｒｅｃｏｇｎｉｔｉｏｎ ｍｅｍｏｒｙ ［ Ｊ ］． Ｊｏｕｒｎａｌ ｏｆ ｍｅｍｏｒｙ ａｎｄ ｌａｎｇｕａｇｅ， ２０１０， ６３（１）： １８－３４． ［１９］ ＣＯＸ Ｇ Ｅ， ＳＨＩＦＦＲＩＮ Ｒ Ｍ． Ｃｒｉｔｅｒｉｏｎ Ｓｅｔｔｉｎｇ ａｎｄ ｔｈｅ ｄｙｎａｍｉｃｓ ｏｆ ｒｅｃｏｇｎｉｔｉｏｎ ｍｅｍｏｒｙ ［ Ｊ］． Ｔｏｐｉｃｓ ｉｎ ｃｏｇｎｉｔｉｖｅ ｓｃｉｅｎｃｅ， ２０１２， ４（１）： １３５－１５０． ［２０］ＣＲＩＳＳ Ａ Ｈ，ＭＣＣＬＥＬＬＡＮＤ Ｊ Ｌ． Ｄｉｆｆｅｒｅｎｔｉａｔｉｎｇ ｔｈｅ ｄｉｆｆｅｒ⁃ ｅｎｔｉａｔｉｏｎ ｍｏｄｅｌｓ： ａ ｃｏｍｐａｒｉｓｏｎ ｏｆ ｔｈｅ ｒｅｔｒｉｅｖｉｎｇ ｅｆｆｅｃｔｉｖｅｌｙ ｆｒｏｍ ｍｅｍｏｒｙ ｍｏｄｅｌ （ＲＥＭ） ａｎｄ ｔｈｅ ｓｕｂｊｅｃｔｉｖｅ ｌｉｋｅｌｉｈｏｏｄ ｍｏｄｅｌ （ ＳＬｉＭ） ［ Ｊ ］． Ｊｏｕｒｎａｌ ｏｆ ｍｅｍｏｒｙ ａｎｄ ｌａｎｇｕａｇｅ， ２００６， ５５（４）： ４４７－４６０． ［２１］ＭＯＮＴＥＮＥＧＲＯ Ｍ， ＭＹＵＮＧ Ｊ Ｉ， ＰＩＴＴ Ｍ Ａ． Ａｎａｌｙｔｉｃａｌ ｅｘｐｒｅｓｓｉｏｎｓ ｆｏｒ ｔｈｅ ＲＥＭ ｍｏｄｅｌ ｏｆ ｒｅｃｏｇｎｉｔｉｏｎ ｍｅｍｏｒｙ［Ｊ］． Ｊｏｕｒｎａｌ ｏｆ ｍａｔｈｅｍａｔｉｃａｌ ｐｓｙｃｈｏｌｏｇｙ， ２０１４， ６０ （ ３ ）： ２３－２８． ［２２］ＤＡＬＡＬ Ｎ， ＴＲＩＧＧＳ Ｂ． Ｈｉｓｔｏｇｒａｍｓ ｏｆ ｏｒｉｅｎｔｅｄ ｇｒａｄｉｅｎｔｓ ｆｏｒ ｈｕｍａｎ ｄｅｔｅｃｔｉｏｎ［Ｃ］ ／ ／ Ｃｏｍｐｕｔｅｒ Ｖｉｓｉｏｎ ａｎｄ Ｐａｔｔｅｒｎ Ｒｅｃ⁃ ｏｇｎｉｔｉｏｎ． ＩＥＥＥ Ｃｏｍｐｕｔｅｒ Ｓｏｃｉｅｔｙ Ｃｏｎｆｅｒｅｎｃｅ， ｏｎ， ２００５： ８８６－８９３． ·３１６· 智 能 系 统 学 报 第 １２ 卷
第3期 姜英，等：REM记忆模型在图像分类识别中的应用 ·317· [23]OJALA T,HARWOOD I.A Comparative study of texture [29]GRIFFIN G,HOLUB A,PERONA P.Caltech-256 object measures with classification based on feature distributions category dataset[R].Pasadena:California Institute of Tech- [J].Pattern recognition,1996,29(1):51-59. nology,2007. [24]LOWE D G.Distinctive image features from scale-invariant 作者简介： keypoints[J].International journal of computer vision, 姜英，女，1985年生，博士研究生， 2004,60(2):91-110. 主要研究方向为计算机视觉、认知记忆 [25]BAY H,TUYTELAARS T,VAN GOOL L.SURF:speeded 建模。 up robust features[].Computer vision and image under- standing,2006,110(3):404-417. [26]PIETIKAINEN M,OJALA T,XU Z.Rotation-invariant texture classification using feature distributions[.Pattern recognition, 2000,33(1):43-52 王延江.男.1966年生.教授.博士 [27]OJALA T,PIETIKAINEN,MAENPAA T.Multiresolution 生导师，主要研究方向为模式识别与智 gray-scale and rotation invariant texture classification with 能信息处理、人脑记忆计算建模以及人 local binary patterns[J].IEEE transactions on pattern a- 脑结构与功能网络连接分析。主持多 nalysis and machine intelligence,2002,24(7):971-987. 项国家自然科学基金项目、山东省自然 [28]NENE A S,NAYAR S K,MURASE H.Columbia object 科学基金项目，发表学术论文100余 image library COIL-20)[R].CUCS-005-96,1996. 篇，其中被SCI,EI检索40余篇。 2017第13届中国智能系统会议 The Chinese Intelligent Systems Conference (CISC) 中国智能系统会议是由中国人工智能学会智能空天系统专业委员会发起的系列学术会议，其宗旨是为本领 域的专家学者、研究生以及工程技术人员提供一个学术交流的平台，以推动我国智能系统相关理论、技术与应用 的发展。第13届中国智能系统会议(CISC2017)将于2017年10月14-15日在黑龙江省牡丹江市召开。本次会 议由中国人工智能学会主办，中国人工智能学会智能主天系统专业委员会协办，牡丹江师范学院与北京航空航天 大学承办。会议论文集将由Springer出版社在Lecture Notes in Electrical Engineering系列正式出版，EI收录。热 忧欢迎海内外广大同仁踊跃投稿井出席本届会议，交流学术成果。 主办单位：中国人工智能学会 协办单位：中国人工智能学会智能主天系统专业委员会 承办单位：牡丹江师范大学、北京航空航天大学 会议主席：贾英民，北京航空航天大学、杨敬民，牡丹江师范学院 征文范围： S01多智能体系统 S13智能交通与控制 S02网络控制 S14预测与学习控制 S03智能机器人 S15信息获取与信息融合 S04复杂系统与群集行为 S16飞行器导航、靠Ⅱ导与控制 S05事件与数据驱动控制 S17混杂与离散事件系统 S06拟人系统与人工生命 S18智能制造与云制造 S07鲁棒与自适应控制 S19高超声速飞行器控制 S08大数据与脑科学 S20电力系统及其自动化 S09过程控制 S21模糊系统与神经网络 S10非线性与变结构控制 S22航天智能发射系统 S11智能传感器与检测技术 S23其他 S12嵌入式系统与无线传感网络 会议网站：http:/sias.buaa.edu.cn/info/1007/1132.htm
［２３］ＯＪＡＬＡ Ｔ， ＨＡＲＷＯＯＤ Ｉ． Ａ Ｃｏｍｐａｒａｔｉｖｅ ｓｔｕｄｙ ｏｆ ｔｅｘｔｕｒｅ ｍｅａｓｕｒｅｓ ｗｉｔｈ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｂａｓｅｄ ｏｎ ｆｅａｔｕｒｅ ｄｉｓｔｒｉｂｕｔｉｏｎｓ ［Ｊ］． Ｐａｔｔｅｒｎ ｒｅｃｏｇｎｉｔｉｏｎ， １９９６， ２９（１）： ５１－５９． ［２４］ＬＯＷＥ Ｄ Ｇ． Ｄｉｓｔｉｎｃｔｉｖｅ ｉｍａｇｅ ｆｅａｔｕｒｅｓ ｆｒｏｍ ｓｃａｌｅ⁃ｉｎｖａｒｉａｎｔ ｋｅｙｐｏｉｎｔｓ ［ Ｊ ］． Ｉｎｔｅｒｎａｔｉｏｎａｌ ｊｏｕｒｎａｌ ｏｆ ｃｏｍｐｕｔｅｒ ｖｉｓｉｏｎ， ２００４， ６０（２）：９１－１１０． ［２５］ＢＡＹ Ｈ， ＴＵＹＴＥＬＡＡＲＳ Ｔ， ＶＡＮ ＧＯＯＬ Ｌ． ＳＵＲＦ： ｓｐｅｅｄｅｄ ｕｐ ｒｏｂｕｓｔ ｆｅａｔｕｒｅｓ ［ Ｊ］． Ｃｏｍｐｕｔｅｒ ｖｉｓｉｏｎ ａｎｄ ｉｍａｇｅ ｕｎｄｅｒ⁃ ｓｔａｎｄｉｎｇ， ２００６， １１０（３）： ４０４－４１７． ［２６］ＰＩＥＴＩＫＡＩＮＥＮ Ｍ， ＯＪＡＬＡ Ｔ， ＸＵ Ｚ． Ｒｏｔａｔｉｏｎ⁃ｉｎｖａｒｉａｎｔ ｔｅｘｔｕｒｅ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｕｓｉｎｇ ｆｅａｔｕｒｅ ｄｉｓｔｒｉｂｕｔｉｏｎｓ［Ｊ］． Ｐａｔｔｅｒｎ ｒｅｃｏｇｎｉｔｉｏｎ， ２０００， ３３（１）： ４３－５２． ［２７］ＯＪＡＬＡ Ｔ， ＰＩＥＴＩＫＡＩＮＥＮ， ＭＡＥＮＰＡＡ Ｔ． Ｍｕｌｔｉｒｅｓｏｌｕｔｉｏｎ ｇｒａｙ⁃ｓｃａｌｅ ａｎｄ ｒｏｔａｔｉｏｎ ｉｎｖａｒｉａｎｔ ｔｅｘｔｕｒｅ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｗｉｔｈ ｌｏｃａｌ ｂｉｎａｒｙ ｐａｔｔｅｒｎｓ［ Ｊ］． ＩＥＥＥ ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ ｐａｔｔｅｒｎ ａ⁃ ｎａｌｙｓｉｓ ａｎｄ ｍａｃｈｉｎｅ ｉｎｔｅｌｌｉｇｅｎｃｅ， ２００２， ２４（７）： ９７１－９８７． ［２８］ＮＥＮＥ Ａ Ｓ， ＮＡＹＡＲ Ｓ Ｋ， ＭＵＲＡＳＥ Ｈ． Ｃｏｌｕｍｂｉａ ｏｂｊｅｃｔ ｉｍａｇｅ ｌｉｂｒａｒｙ （ＣＯＩＬ⁃２０）［Ｒ］． ＣＵＣＳ⁃００５⁃９６， １９９６． ［２９］ＧＲＩＦＦＩＮ Ｇ， ＨＯＬＵＢ Ａ， ＰＥＲＯＮＡ Ｐ． Ｃａｌｔｅｃｈ⁃２５６ ｏｂｊｅｃｔ ｃａｔｅｇｏｒｙ ｄａｔａｓｅｔ［Ｒ］． Ｐａｓａｄｅｎａ： Ｃａｌｉｆｏｒｎｉａ Ｉｎｓｔｉｔｕｔｅ ｏｆ Ｔｅｃｈ⁃ ｎｏｌｏｇｙ， ２００７． 作者简介： 姜英，女，１９８５ 年生，博士研究生， 主要研究方向为计算机视觉、认知记忆 建模。 王延江，男，１９６６ 年生，教授，博士 生导师，主要研究方向为模式识别与智 能信息处理、人脑记忆计算建模以及人 脑结构与功能网络连接分析。 主持多 项国家自然科学基金项目、山东省自然 科学基金项目，发表学术论文 １００ 余 篇，其中被 ＳＣＩ、ＥＩ 检索 ４０ 余篇。 ２０１７ 第 １３ 届中国智能系统会议 Ｔｈｅ Ｃｈｉｎｅｓｅ Ｉｎｔｅｌｌｉｇｅｎｔ Ｓｙｓｔｅｍｓ Ｃｏｎｆｅｒｅｎｃｅ （ＣＩＳＣ） 中国智能系统会议是由中国人工智能学会智能空天系统专业委员会发起的系列学术会议，其宗旨是为本领 域的专家学者、研究生以及工程技术人员提供一个学术交流的平台，以推动我国智能系统相关理论、技术与应用 的发展。 第 １３ 届中国智能系统会议（ＣＩＳＣ＇ ２０１７） 将于 ２０１７ 年 １０ 月 １４－１５ 日在黑龙江省牡丹江市召开。 本次会 议由中国人工智能学会主办，中国人工智能学会智能主天系统专业委员会协办，牡丹江师范学院与北京航空航天 大学承办。 会议论文集将由 Ｓｐｒｉｎｇｅｒ 出版社在 Ｌｅｃｔｕｒｅ Ｎｏｔｅｓ ｉｎ Ｅｌｅｃｔｒｉｃａｌ Ｅｎｇｉｎｅｅｒｉｎｇ 系列正式出版， ＥＩ 收录。 热 忱欢迎海内外广大同仁踊跃投稿井出席本届会议，交流学术成果。 主办单位：中国人工智能学会 协办单位：中国人工智能学会智能主天系统专业委员会 承办单位：牡丹江师范大学、北京航空航天大学 会议主席：贾英民，北京航空航天大学、杨敬民，牡丹江师范学院 征文范围： Ｓ０１ 多智能体系统 Ｓ０２ 网络控制 Ｓ０３ 智能机器人 Ｓ０４ 复杂系统与群集行为 Ｓ０５ 事件与数据驱动控制 Ｓ０６ 拟人系统与人工生命 Ｓ０７ 鲁棒与自适应控制 Ｓ０８ 大数据与脑科学 Ｓ０９ 过程控制 Ｓ１０ 非线性与变结构控制 Ｓ１１ 智能传感器与检测技术 Ｓ１２ 嵌入式系统与无线传感网络 Ｓ１３ 智能交通与控制 Ｓ１４ 预测与学习控制 Ｓ１５ 信息获取与信息融合 Ｓ１６ 飞行器导航、靠 ＩＪ 导与控制 Ｓ１７ 混杂与离散事件系统 Ｓ１８ 智能制造与云制造 Ｓ１９ 高超声速飞行器控制 Ｓ２０ 电力系统及其自动化 Ｓ２１ 模糊系统与神经网络 Ｓ２２ 航天智能发射系统 Ｓ２３ 其他 会议网站：ｈｔｔｐ： ／ ／ ｓｉａｓ．ｂｕａａ．ｅｄｕ．ｃｎ ／ ｉｎｆｏ ／ １００７ ／ １１３２．ｈｔｍ 第 ３ 期 姜英，等：ＲＥＭ 记忆模型在图像分类识别中的应用 ·３１７·
