统计学习方法即机器学习方法，是计算机及其应用领域的一门重要学科。本书分为监督学习和无监督学习两篇，全面系统地介绍了统计学习的主要方法。包括感知机、k近邻法、朴素贝叶斯法、决策树、逻辑斯谛回归与最大熵模型、支持向量机、提升方法、EM算法、隐马尔可夫模型和条件随机场，以及聚类方法、奇异值分解、主成分分析、潜在语义分析、概率潜在语义分析、马尔可夫链蒙特卡罗法、潜在狄利克雷分配和PageRank算法等

6.1 机器学习概述 6.2 符号学习 6.3 神经网络学习 6.4 知识发现与数据挖掘

9.1 机器学习概述 9.2 符号学习 9.3 神经网络学习 9.4 知识发现与数据挖掘

9.1 机器学习概述 9.2 符号学习 9.3 神经网络学习 9.4 知识发现与数据挖掘

6.1 机器学习概述 6.2 符号学习 6.3 神经网络学习 6.4 知识发现与数据挖掘

第1章 绪论 2 第2章 机器学习概述 22 第3章 线性模型 53 第4章 前馈神经网络 78 第5章 卷积神经网络 105 第6章 循环神经网络 129 第7章 网络优化与正则化 153 第8章 注意力机制与外部记忆 192 第9章 无监督学习 213 第10章 模型独立的学习方式 228 第11章 概率图模型 253 第12章 深度信念网络 288 第13章 深度生成模型 308 第14章 深度强化学习 329 第15章 序列生成模型 355

无监督学习任务 基于原型的学习方法 EM算法 动态聚类方法 新方法

3.1 简介 定义：概念学习是指从有关某个布尔函数的输入输出训练 样例中推断出该布尔函数。 3.2 概念学习任务

概述 关注的问题 一些概念及记号 可学习性 什么是“学习” 什么是“可学习的” 假设空间复杂性对可学习性的影响 有限假设空间 无限假设空间：基于VC维的分析 无限假设空间：基于Rademacher复杂度的分析 稳定性

一. 示例学习的问题描述（见表2.1,表2.2） 二. 决策树学习（ID3算法） 1. 学习效果的衡量标准（示例学习的优化问题） 2. ID3算法： 输入：例子集（正例、反例）；