普适机器学习 (Pervasive Machine Learning
普适机器学习 (Pervasive Machine Learning)
机器学习 机器学习是人工智能的核心研究领域之· 任何一个没有学习能力的系统都很难被认为是一个 真正的智能系统 经典定义:利用经验改善系统自身的性能 随着该领域的发展,主要做智能数据分析 并已成为智能数据分析技术的源泉之 典型任务:预测(例如:天气预报)
机器学习是人工智能的核心研究领域之一 任何一个没有学习能力的系统都很难被认为是一个 真正的智能系统 经典定义：利用经验改善系统自身的性能 随着该领域的发展，主要做智能数据分析 并已成为智能数据分析技术的源泉之一 典型任务：预测（例如：天气预报） 机器学习
机器学习与数据挖掘 数据挖掘 数据分析技术 数据管理技术 机器学习数据库
数据挖掘 机器学习 数据库 数据分析技术 数据管理技术 机器学习与数据挖掘
机器学习的重要性 工业过信息 程控制 安全 …机器人遥感信 息处理 生物 计算 ■■■ 分子 行星 信息学金融学 生物学地质学 机器学习 美国航空航天局JPL实验室的科学家在《 Science》 (2001年9月)上撰文指出:机器学习对科学研究 的整个过程正起到越来越大的支持作用, 该领域 在今后的若干年内将取得稳定而快速的发展
美国航空航天局JPL实验室的科学家在《Science》 （2001年9月）上撰文指出：机器学习对科学研究 的整个过程正起到越来越大的支持作用，……，该领域 在今后的若干年内将取得稳定而快速的发展 生物 信息学 计算 金融学 分子 生物学 行星 地质学 …… 工业过 程控制 …… 机器人 遥感信 息处理 信息 安全 机 器 学 习 机器学习的重要性
例子1:网络安全 如何检测? 入侵检测: °历史数据:以往的正常 访问模式及其表现、以往 是否是入侵?是何种入侵?的入侵模式及其表现 对当前访问模式分类 这是一个典型的机器学习 问题 常用技术 神经网络决策树 支持向量机贝叶斯分类器 k近邻序列分析聚类
入侵检测： 是否是入侵？是何种入侵？ 如何检测？ •历史数据：以往的正常 访问模式及其表现、以往 的入侵模式及其表现…… •对当前访问模式分类 这是一个典型的机器学习 问题 常用技术： 神经网络 决策树 支持向量机 贝叶斯分类器 k近邻 序列分析 聚类 …… …… 例子1：网络安全
美国的PAL计划 DARPA2003年开始启动PAL( Perceptive Assistant that learns)计划 5年期,首期(1-1.5年)投资2千9百万美元 以机器学习为核心的计划(涉及到A的其他分支,如 知识表示和推理、自然语言处理等);包含2个子计划 目标: is expected to yield new technology of significant value to the military, business, and academic sectors develop software that will help decision-makers manage their complex worlds of multiple simultaneous tasks and unexpected events
美国的PAL计划 DARPA 2003 年 开 始 启 动 PAL （ Perceptive Assistant that Learns）计划 5年期，首期（1-1.5年）投资2千9百万美元 以机器学习为核心的计划（涉及到AI的其他分支，如 知识表示和推理、自然语言处理等）；包含2个子计划 目标： “is expected to yield new technology of significant value to the military, business, and academic sectors” “develop software that will help decision-makers manage their complex worlds of multiple simultaneous tasks and unexpected events
美国的PAL计划: RADAR子计划 RADaR(Reflective Agents with Distributed Adaptive Reasoning),承担单位为CMU,首期 7百万美元 目标:“ the system will help busy managers to cope with time-consuming tasks RADAR must learn by interacting with its human master and by accepting explicit advice and instruction
RADAR (Reflective Agents with Distributed Adaptive Reasoning)，承担单位为CMU，首期 7百万美元 目标：“the system will help busy managers to cope with time-consuming tasks” “RADAR must learn by interacting with its human master and by accepting explicit advice and instruction” 美国的PAL计划：RADAR子计划
美国的PAL计划:CALO子计划(1) CALO (Cognitive Agent that Learns and Observes) 承担单位为SR,首期2千2百万美元 除SR|外,这个子计划的参加单位有20家: Boeing, CMU, Dejima Inc, Fetch Tech Inc GATech, MiT, Oregon hsU, Stanford, sUNY Stony Brook, UC Berkeley, UMass, UMich UPenn. Rochester. USC. UT Austin. UW Yale CALO无疑是PAL中更核心的部分
CALO (Cognitive Agent that Learns and Observes)， 承担单位为SRI，首期2千2百万美元 除SRI外，这个子计划的参加单位有20家： Boeing, CMU, Dejima Inc., Fetch Tech Inc., GATech, MIT, Oregon HSU, Stanford, SUNYStony Brook, UC Berkeley, UMass, UMich, UPenn, Rochester, USC, UT Austin, UW, Yale, … CALO无疑是PAL中更核心的部分 美国的PAL计划：CALO子计划(1)
美国的PAL计划:CALO子计划(2) 目标:“ the name CALo was inspired by the Latin word calonis, which means soldiers assistant the calo software. which will learn by working with and being advised by its users, will handle a broad range of interrelated decision-making tasks.It will have the capability to engage in and carry out routine tasks, and to assist when the unexpected happens 从CALO的目标来看, DARPA已经开始把机器学习 技术的重要性放到了国家安全的角度来考虑
美国的PAL计划：CALO子计划 (2) 目标： “the name CALO was inspired by the Latin word ‘calonis’ , which means ‘soldier’s assistant’” “the CALO software, which will learn by working with and being advised by its users, will handle a broad range of interrelated decision-making tasks … It will have the capability to engage in and carry out routine tasks, and to assist when the unexpected happens” 从CALO的目标来看，DARPA已经开始把机器学习 技术的重要性放到了国家安全的角度来考虑
美国的PAL计划:CALO子计划(3) CALO Learning Relational: Learn relationships among entities Category: Learn relevant Sequential: Learn the dynamic structure of groupings for ongoing activity of the user observed information Procedural: Learn to handle Language: Learn new / Observation Refl ction new tasks through planning information from text and Inferential: Reason to learn utterances new facts Inference Perceptual: Learn to associate images and sounds with other knowledge Long-Term Interaction Memory Situational/Episodic Advice: Learn from Mel the user
美国的PAL计划：CALO子计划(3)