第10章--多重共线性.ppt

单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,*,第,10,章 多重共线性,multicollinearity,10.1,多重共线性的性质,含义：原意是指回归模型的解释变量之间存在,“完 全”,或准确的线性关系。如：,现在,多重共线性还用来泛指诸,X,变量之间有交互 相关，但又非完全相关：,见,P,320,Ballentine Map,引起,多重共线性的原因,(montgormery&peak),数据采集,所用的方法,:,限于一个范围,模型或从中取样的总体受到约束,：,如做电力消费（,Y,）对收入（,X,2,）和住房面积（,X,3,）回归时，可能,X,2,高的,X,3,也大,模型设定,:,如在模型中加入多项式,数据范围小等,一个过度决定的模型,：回归元个数大于观测次数,时间序列中回归元有相同的时间趋势,10.2,出现完全,多重共线性时的估计问题,在完全,多重共线性的情况下，,回归系数是不确定,的，其标准误是无穷大。对于三变量回归：,由第,7,章可知：,回归系数衡量的是,X,2,或,X,3,对,Y,的净影响，,X,2,和,X,3,是完全共线性的，就不能把每个,X,对,Y,的偏影响分离出来,10.3,不完全多重共线性的估计问题,假定不完全多重共线性的形式为：,这种情形下，回归系数是可以估计的：,如果,v,i,足够小，以至于接近于零，则（,10.3.1,）表示几乎完全共线性。这时我们又回到（,10.2.2,）的不定式情形。,比较,10.4,多重共线性的理论后果,在近似多重共线性的情形下，,OLS,估计量仍然是无偏的,。但是，无偏性只是一种多维样本,（,multisample,）,或重复抽样的性质,(,与,微数缺测性,的对应,),（观察次数刚好超过参数数）,共线性,并不破坏最小方差性质,。但是，这并不意味着，在任意给定的样本中，一个,OLS,估计量的方差一定是小的。仍然,是,BLUE,多重共线性本质上,是一种样本现象,。即使总体不存在共线性，由于抽样方法或小样本问题也可能带来多重共线性问题。例如：,一般地，收入高的人也更富裕，很难分开二者的各自影响,10.5,多重共线性的,实际后果,OLS,估计量的大方差与协方差,随着,r,23,增大，方差增大，协方差的也增大。增大的速度用,方差膨胀因子,(VIF,variance-inflating factor),衡量：,由此可见：,一般：,方差膨胀系数的倒数称为容许度（,TOL,）,2.,更宽的置信区间,标准误增大，则有关总体参数的置信区间随之变大。,在高度多重共线性的情形下，增加了接受错误假设的概率（第二类错误）,见,P,328,TABLE,10-2,见,P,327,表,10-1,3.“,不显著”的,t,比率,将这一,t,值和临界,t,值相比较，即,t,检验,高度共线性使估计的标准误增加很快，,t,值迅速变小。因而，容易接受总体参数为零的虚拟假设,4.,值高而显著的,t,值少,但是，个别偏回归系数的,t,检验可能并不显著,这就是多重共线性的一个,信号,5.,OLS,估计量及其标准误对数据的微小变化很敏感,P,329,例子,Goldberger,认为微数缺测性（,micronumerosity,）是一个重要的问题,微数缺测性：,狭义是指样本大小,n,等于零的情形,广义是指观测次数刚刚超过待估参数个数,10.6,消费支出与收入和财富的关系,P331 ep10.1 s,数据表,10-5,95%CI,VariableCoefficientLowHigh,C24.774738.80760940.74186,X20.941537-1.0043082.887383,X3-0.042435-0.2331760.148307,Ep10.2,美国的消费函数,Table10-7,10.7,侦察多重共线性的经验规则,只要愿意，就可以测度多元回归中任一样本中共线性的显现程度,克曼塔,值高而显著的,t,比率少,值比较高，比如大于,0.8,F,检验一般会拒绝所有偏回归系数同时为零，但是，,t,检验却可能表明，没有或极少偏回归系数是统计上显著的,回归元之间有高度的两两相关,高的零阶相关（比如，大于,0.8,）是多重共线性存在的,充分条件,，但非必要条件。即使零阶（简单）相关系数较低（比如，小于,0.5,），多重共线性仍然可能存在,检查偏相关,辅助回归,做每一个,X,i,对其余,X,的回归，计算判定系数,服从自由度为,k-2,和,n-k+1,的,F,分布,F,i,大于给定显著性水平的,F,临界值，则,X,i,和其余,X,之间存在共线性,F,i,小于给定显著性水平的,F,临界值，则,X,i,和其余,X,之间不存在共线性，可以把,X,i,保留在模型中。,特征值、病态系数,=,k,在,（,100,1000,）之间，中等共线性，或,CI,大于,30,，严重共线,容许度与方差膨胀因子,其中 是回归元,X,i,的偏回归系数，是,X,j,对其余（,k-2,）个回归元的辅助回归的,其中，,VIF,j,是方差膨胀因子,VIF,j,越大，变量,X,j,与其余变量的共线性越严重,经验规则：,VIF,大于,10,（大于,0.90,）,认为是高度共线性,容许度,（,tolerance,）,:,无共线性，则,TOL,j,=1,完全共线性，则,TOL,j,=0,图,10-4,10.8,补救措施：无为而治或经验程序,先验信息,做消费,Y,对收入,X,2,和,X,3,的回归中，如果事先得知,，则可以变为如下回归,横截面与时间序列数据并用,其中，,Y,汽车需求，,P,价格，,I,收入，,t,时间,一般地，价格和收入之间存在共线性,Tobin,提出：利用横截面数据估计收入弹性，得,再做回归：,这样，就能得到较准确的价格弹性,剔除变量或设定误差,面对严重的共线性，最简单的方法就是去掉某些变量。,但是剔除变量会导致设定误差。实际中，需要权衡利弊。,变量代换,如果关系式：,在,t,时刻成立，则在,t-1,时刻有：,（,10.8.1,）减去,(10.8.2),得：,即使,X,2,和,X,3,的水平值是高度相关的，其一阶差分回归可能不存在多重共线性,补充新数据,在三变量回归中，有：,样本增大，一般地说会增大，上述方差会降低，从而降低标准误，对参数的估计会更加准确。,10.10,郎利数据,练习,P355,10.26-10.34,无多重共线性时的参数估计：,返回,