第一讲机器学习概述
第⼀讲 机器学习概述
大纲 ·1.1机器学习概念的引出 ·1.2机器学习的发展历史 ·1.3机器学习与人工智能 ·1.4为什么要深度学习？ 广东工业大学李东
⼤纲 • 1.1 机器学习概念的引出 • 1.2 机器学习的发展历史 • 1.3 机器学习与⼈⼯智能 • 1.4 为什么要深度学习？ ⼴东⼯业⼤学 李东
机器学习概念的引出 >机器学习(Machine Learning)是计算机科学的子领域，也是人工智能的一个分支和 实现方式。Tom Mitchell在他l997年出版的《Machine Learning》一书中指出机器 学习这门学科所关注的是计算机程序如何随着经验积累自动提高性能。同时给出 了形式化的描述：对于某类任务T和性能度量P,如果一个计算机程序在T上以P衡 量的性能随着经验E而自我完善，那么就称这个计算机程序在从经验E学习。 >机器学习是一门用来设计算法的学科，这些算法能够从数据中构造预测和描述模 型。 >机器学习主要的理论基础涉及到概率论、数理统计、数值逼近、最优化理论、计 算复杂理论等，核心要素是数据、算法和模型。 广东工业大学李东
机器学习概念的引出 Ø 机器学习(Machine Learning)是计算机科学的⼦领域，也是⼈⼯智能的⼀个分⽀和 实现⽅式。Tom Mitchell在他1997年出版的《Machine Learning》⼀书中指出机器 学习这⻔学科所关注的是计算机程序如何随着经验积累⾃动提⾼性能。同时给出 了形式化的描述：对于某类任务T和性能度量P，如果⼀个计算机程序在T上以P衡 量的性能随着经验E⽽⾃我完善，那么就称这个计算机程序在从经验E学习。 Ø 机器学习是⼀⻔⽤来设计算法的学科，这些算法能够从数据中构造预测和描述模 型。 Ø 机器学习主要的理论基础涉及到概率论、数理统计、数值逼近、最优化理论、计 算复杂理论等，核⼼要素是数据、算法和模型。 ⼴东⼯业⼤学 李东
机器学习的抽象 >机器学习的任务是学习大量数据中隐藏的模式，利用这种模式 可以对新的样本进行判别和预测（泛化性）。 历史数据 经验 分类 练 归钠 (Classification） F(x) 输入 模型 预测未知 新的 输入 预测 属性 问 规律 未来 预测 (Estimation) 广东工业大学李东
机器学习的抽象 ⼴东⼯业⼤学 李东 Ø 机器学习的任务是学习大量数据中隐藏的模式，利用这种模式 可以对新的样本进行判别和预测（泛化性）。 x F(x) y { 预测 (Estimation) 分类 (Classification)
机器学习与人工智能 ·人工智能(artificial intelligence,Al) 就是让机器具有人类的智能。 ·“计算机控制”+“智能行为” ·人工智能这个学科的诞生有着明确的标志性事件，就是1956年的 达特茅斯(Dartmouth)会议。在这次会议上，“人工智能"被提出 并作为本研究领域的名称。 人工智能就是要让机器的行为看起来就像是人所表现出的智能行为一样。 John McCarthy (1927-2011)
机器学习与⼈⼯智能 • ⼈⼯智能（artificial intelligence，AI）就是让机器具有⼈类的智能。 • “计算机控制”+“智能⾏为” • ⼈⼯智能这个学科的诞⽣有着明确的标志性事件，就是1956年的 达特茅斯（Dartmouth）会议。在这次会议上，“⼈⼯智能”被提出 并作为本研究领域的名称。 ⼈⼯智能就是要让机器的⾏为看起来就像是⼈所表现出的智能⾏为⼀样。 John McCarthy（1927-2011）
图灵测试 “一个人在不接触对方的情况下，通过一 种特殊的方式，和对方进行一系列的问 答。如果在相当长时间内，他无法根据 这些问题判断对方是人还是计算机，那 么就可以认为这个计算机是智能的”。 Alan Turing ---Alan Turing [1950] 《Computing Machinery and Intelligence》 哥形
图灵测试 Alan Turing “⼀个⼈在不接触对⽅的情况下，通过⼀ 种特殊的⽅式，和对⽅进⾏⼀系列的问 答。如果在相当⻓时间内，他⽆法根据 这些问题判断对⽅是⼈还是计算机，那 么就可以认为这个计算机是智能的”。 ---Alan Turing [1950] 《Computing Machinery and Intelligence》
人工智能的研究领域 ·让机器具有人类的智能 ·机器感知（计算机视觉、语音信息处理） ·学习（模式识别、机器学习、强化学习） ·语言（自然语言处理） ·记忆（知识表示） ·决策（规划、数据挖掘）
⼈⼯智能的研究领域 • 让机器具有⼈类的智能 • 机器感知（计算机视觉、语⾳信息处理） • 学习（模式识别、机器学习、强化学习） • 语⾔（⾃然语⾔处理） • 记忆（知识表示） • 决策（规划、数据挖掘）
发展历史 推理期 知识期 学习期 1940 1945 19501955 1960 1965 19701975 1980 1985 1990 1995 20002005 达特茅斯余议 神经网络重新流行 图灵机 深度学习的兴起 Rosenblatt 知识系统兴起 专家系统兴起 MeCulloch和Pitts 统计机器学习兴起 提出人工神经元网络 提出“感知器” (支持向量机等)
发展历史
机器学习、人工智能和数据挖掘 神经计算 模式识别 深度学》 数据挖掘 机器学习 人工智能
机器学习、人工智能和数据挖掘
机器学习、人工智能和数据挖掘 >机器学习是人工智能的一个分支，它是实现人工智能的一个核心技术， 即以机器学习为手段解决人工智能中的问题。机器学习是通过一些让 计算机可以自动“学习"的算法并从数据中分析获得规律，然后利用规律 对新样本进行预测。 ~数据挖掘是从大量的业务数据中挖掘隐藏、有用的、正确的知识促进 决策的执行。数据挖掘的很多算法都来自于机器学习，并在实际应用 中进行优化。机器学习最近几年也逐渐跳出实验室，解决从实际的数 据中学习模式，解决实际问题。数据挖掘和机器学习的交集越来越大
机器学习、人工智能和数据挖掘 Ø 机器学习是⼈⼯智能的⼀个分⽀，它是实现⼈⼯智能的⼀个核⼼技术， 即以机器学习为⼿段解决⼈⼯智能中的问题。机器学习是通过⼀些让 计算机可以⾃动“学习”的算法并从数据中分析获得规律，然后利⽤规律 对新样本进⾏预测。 Ø 数据挖掘是从⼤量的业务数据中挖掘隐藏、有⽤的、正确的知识促进 决策的执⾏。数据挖掘的很多算法都来⾃于机器学习，并在实际应⽤ 中进⾏优化。机器学习最近⼏年也逐渐跳出实验室，解决从实际的数 据中学习模式，解决实际问题。数据挖掘和机器学习的交集越来越⼤