第二章大样本oLS
第二章 大样本OLS
主要内容 21为什么需要大样本理论 22随机序列的收敛 23大数定律与中心极限定理 24统计量的大样本性质 25随机过程的性质 26大样本OLS的假定及估计量的性质 27大样本OLS的 stata实例
2 主要内容 2.1 为什么需要大样本理论 2.2 随机序列的收敛 2.3 大数定律与中心极限定理 2.4 统计量的大样本性质 2.5 随机过程的性质 2.6 大样本OLS的假定及估计量的性质 2.7 大样本OLS的stata实例
2.1为什么需要大样本理论 “大样本理论”( large sample theory),也称“渐 近理论”( asymptotic theory),研究当样本容量趋向 无穷大时统计量的性质 大样本理论已成为当代计量经济学的主流方法,原因 如下 (1)小样本理论的假设过强 首先,小样木理论的严格外生性假设要求解释变量与 所有的扰动项均正交(不相关)
2.1 为什么需要大样本理论 “大样本理论”(large sample theory),也称“渐 近理论”(asymptotic theory),研究当样本容量 趋向 无穷大时统计量的性质。 大样本理论已成为当代计量经济学的主流方法,原因 如下。 (1)小样本理论的假设过强。 首先,小样本理论的严格外生性假设要求解释变量与 所有的扰动项均正交(不相关)。 3
其次,小样本理论假定扰动项为正态分布,而大样本 理论无此限制。 (2)在小样本理论的框架下,须研究统计量的精确分布 ( exact distribution),但常难以推导(即使在正态分布的假 设之下)。 根据大样本理论,只要研究统计量的大样本分布,即 当n→0时的渐近分布,相对容易推导(可使用大数定律 与中心极限定理)
其次,小样本理论假定扰动项为正态分布,而大样本 理论无此限制。 (2)在小样本理论的框架下,须研究统计量的精确分布 (exact distribution),但常难以推导(即使在正态分布的假 设之下)。 根据大样本理论,只要研究统计量的大样本分布,即 当 时的渐近分布,相对容易推导(可使用大数定律 与中心极限定理)。 4
(3)使用大样本理论的代价是要求样本容量较大,以便 大数定律与中心极限定理可以起作用。 大样本理论对于样本容量的要求,一般认为至少,最 好在100以上。现代的数据集越来越大,经常成百上千 在当代计量实践中,研究人员一般用大样本理论;小 样本OLS已很少使用
(3)使用大样本理论的代价是要求样本容量较大,以便 大数定律与中心极限定理可以起作用。 大样本理论对于样本容量的要求,一般认为至少 ,最 好在100以上。现代的数据集越来越大,经常成百上千。 在当代计量实践中,研究人员一般用大样本理论;小 样本OLS已很少使用。 5
22随机序列的收敛 ◆2.2.1依概率收敛 ◆2.2.2依均方(期望)收敛 ◆2.2.3依分布收敛
2.2 随机序列的收敛 2.2.1 依概率收敛 2.2.2 依均方(期望)收敛 2.2.3 依分布收敛 6
2.2.1依概率收敛 定义随机序列{x}n依概率收敛( converge in probability 于常数a,记为 plim x2=a或xn2)a,如果对于任意6 当n→时,都有himP(x-a>)=0 n→00 {亡 任意给定很小的正数ε>0,当n越来越大时,随机变量 n落在区间(a-,a+)之外的概率收敛于0。 当n变大时,x远离常数a的可能性越来越小,变得几乎 不可能
2.2.1 依概率收敛 定义随机序列 依概率收敛(converge in probability) 于常数a,记为 或 ,如果对于任意 ,当 时,都有 任意给定很小的正数 ,当n越来越大时,随机变量 落在区间 之外的概率收敛于0。 当n变大时, 远离常数a的可能性越来越小,变得几乎 不可能。 7
2.2.2依均方(期望)收敛 定义如果随机序列{xn}的期望收敛于a,即imE(x)=a →0 而方差收敛于0,即iVar(x)=0,则称{x}依均方 n→0 收敛于常数a,记为xnm>a 通过切比雪夫不等式,可以证明,依均方收敛意味着 依概率收敛。 不等式P{x2e}≤或P{x<a2/- 成立
2.2.2 依均方(期望)收敛 定义 如果随机序列 的期望收敛于a,即 ;而方差收敛于0,即 ,则称 依均方 收敛于常数a,记为 。 通过切比雪夫不等式,可以证明,依均方收敛意味着 依概率收敛。 不等式 或 成立。 8
当的均值越来越趋于a,而方差越来越小并趋于0时 就有 pIimx=a,即在极限处x退化为常数a n→ 即,依均方收敛必然依概率收敛。 反之,依概率收敛并不意味着均方收敛 回到{xn}报从两点分布的例子,即x取值为0的概率 为1-(1m),而取值为n的概率为(1/m)。虽然xn依概率收 敛到0,但x并不依均方收敛到0,因为此序列的期望恒 等于1
当 的均值越来越趋于a,而方差越来越小并趋于0时 ,就有 ,即在极限处 退化为常数a。 即,依均方收敛必然依概率收敛。 反之,依概率收敛并不意味着均方收敛。 回到 服从两点分布的例子,即 取值为0的概率 为 ,而取值为n的概率为 。虽然 依概率收 敛到0,但 并不依均方收敛到0,因为此序列的期望恒 等于1。 9
imE(xn)=lim0·1 1≠0(2.6) n→00 n→00 随着n->∞,随机序列x,取值大于0的概率越来越 小(为1/n),但一旦取值为正数,则很大(等于n),故此序 列的期望始终为1 10
(2.6) 随着 ,随机序列 取值大于0的概率越来越 小(为1/n),但一旦取值为正数,则很大(等于n),故此序 列的期望始终为1。 10