Logistic回归 参考: 4 piled linear statistical models,由Ner等著 Categorical Data analysis,由 Agresti著 幻灯片由 Elizabeth newton(美国麻省理工学院)制作
1 Logistic 回归 参考: Appiled Linear Statistical Models,由Neter等著 Categorical Data Analysis,由Agresti著 幻灯片由Elizabeth Newton(美国麻省理工学院)制作
Logistic I归 当响应变量是定性变量时的非线性模型 两种可能的结果,成功或失败,患病的或没 有患病的,出席的或缺席的 实例:CAD(y)是年龄,体重,性别,吸烟 历史,血压的函数 ·吸烟者或不吸烟者是家庭历史,同年龄组行 为,收入,年龄的函数 今年购买一辆汽车是收入,当前汽车的使用 年限,年龄的函数 E Newton
2 Logistic 回归 • 当响应变量是定性变量时的非线性模型 • 两种可能的结果,成功或失败,患病的或没 有患病的,出席的或缺席的 • 实例:CAD(y/n)是年龄,体重,性别,吸烟 历史,血压的函数 • 吸烟者或不吸烟者是家庭历史,同年龄组行 为,收入,年龄的函数 • 今年购买一辆汽车是收入,当前汽车的使用 年限,年龄的函数 E Newton
二元结果的响应函数 Y=Bo+B,x+8 EY)=Bo+B,X, P(Y=1)=丌 P(Y=0)=1-丌 E{Y}=1(x)+0(1-x1)= EY3=Bo+B1X,=T E Newton
3 二元结果的响应函数 E Newton
当响应是二元时的特殊问题 对响应函数的约束: 0≤E{Y}=π=<1 非标准化的误差项: 当Y:=1:E1=1-6X 当Y;=0E=BX1 非恒量的误差方差: Var Y =varG=T I-TI) E Newton
4 当响应是二元时的特殊问题 对响应函数的约束: 非标准化的误差项: 当 当 非恒量的误差方差: E Newton
Logistic响应函数 E{Y}= exp(Bo+B,X) 1+exp( 0+BX) T(1+exp(Bo+B,X)=exp(BoB,X) 丌+7exp(0+BX)=eXp(风+A1X) 丌=eXp(+月1X)-rexp(G6+A1X) =(1-)eXp(0+B1X) 丌 exp(Bo+B, X) log Bo+B,X E Newton
5 Logistic 响应函数 E Newton
Logistic响应函数的例子 图中横坐标为:年龄;纵坐标为:CAD的概率 8丈 ooooooooooooo sn5n0500808008034 E Newton
6 Logistic 响应函数的例子 E Newton 图中横坐标为:年龄;纵坐标为:CAD的概率
Logistic响应函数的性质 log(/(1-m)=对数转换,对数发生比 丌/(1-m)=发生比 随着x的值从-∞变化到∞, Logit从-0 变化到 E Newton
7 Logistic 响应函数的性质 =对数转换,对数发生比 =发生比 随着x的值从 变化到 ,Logit 从 变化到 −∞ ∞ log( /(1 )) π −π π /(1 ) −π −∞ ∞ E Newton
似然函数 PY=1) P(Y=0)=1 概率分布函数:f(Y)=x(1-x),Y=01=12n 因为Y是独立的,联合概率分布函数为 g(Y1…Yn) n n =1(1i oggy…)=g-)091z) E Newton
8 似然函数 概率分布函数: 因为 是独立的,联合概率分布函数为: E Newton
似然函数(续) 0-)=+8X 丌 丌 1+0/A+X 0Y+).+0+× E Newton
9 似然函数(续) E Newton
多元 Logistic回归的似然性 0gL()=∑△yX)-∑0g1+exp2月X eXp(∑x 6B=2yx-2 1+exp(∑6x) exp∑X 似然方程:∑yx=∑x 1+6xp(∑x Xy=Xy E Newton
10 多元Logistic回归的似然性 似然方程: E Newton