概率统计是从数量上来研究随机现象统计规律的,为了便于 数学上的推导和计算,必须把随机事件数量化,由于随机因素 的影响,使试验出现各种不同的结果,因而用来描述随机事件 量也随着以偶然的方式取不同的值,当把一个随机试验的不同 结果用一个变量来表示时,便得到随机变量。 引入随机变量之后,使我们有可能利用数学分析 的方法来研究随机试验。随机变量是研究随机试验 的有效工具

南京大学：《概率论与数理统计 Probability and Statistics》课程教学资源（PPT课件讲稿）Lecture 06 概率化方法（主讲：唐斌）

南京大学：《概率论与数理统计 Probability and Statistics》课程教学资源（PPT课件讲稿）Lecture 02 几何概型、条件概率与独立性

南京大学：《概率论与数理统计 Probability and Statistics》课程教学资源（PPT课件讲稿）Lecture 01 引言、概率论基本概念、古典概型

 内容1：概率论  内容2：贝叶斯定理  内容3：随机变量及其期望与方差

概率论与数理统计是研究随机现象统计 规律性的学科.随机现象的规律性只有在相 同的条件下进行大量重复试验时才会呈现出 来.也就是说,要从随机现象中去寻求必然 的法则,应该研究大量随机现象

概率空间 随机变量与分布函数 数字特征、矩母函数与特征函数 收敛性 独立性与条件期望

1 概率密度估计 2 最大似然估计 例 1 均值和方差的无偏与有偏估计 什么是高斯分布 ML 的全局最优？ 二元函数局部最优条件 例 2 3 最大后验概率估计 例 3 4 贝叶斯估计 例 4 5 期望最大化 EM EM 在高斯混合模型中的应用

1 一个例子 2 最小二乘法 3 从线性到非线性：用线性模型 4 概率解释 最大似然估计 最大后验概率估计 正则化效果 5 偏置-方差困境 损失函数的第一步分解 损失函数的第二步分解 对多个数据集的简单总结

1-1设英文字母E出现的概率为0.105,x出现的概率为0.002。试 求E及x的信息量