chapter9 模型设定.ppt

Click to edit Master title style,Click to edit Master text styles,Second level,Third level,Fourth level,Fifth level,*,第九章 模型设定和数据问题的深入探讨,9.1函数形式误设,9.2对无法观测解释变量使用代理变量,9.3随机斜率模型,9.4有测量误差时OLS的性质,9.5数据缺失、非随机样本和异常观测,9.1函数形式的误设,回忆经典线性模型中一个隐含的,假设：回归模型是正确设定的,如果模型未被正确设定，那么我们就遇到,“,模型设定误差,”,或,“,模型设定偏误,”,.,1.我们如何发现模型是,“,正确的,”,?,2.我们经常会遇到哪些类型的,“,模型设定误差,”,?,3.设定误差的后果有哪些?,4.如何检验设定误差?,5.采取那些补救措施？,6.如何评价几个表现不相上下的模型的优劣？,9.1.1模型选择准则,数据容纳性,：从模型所作出的预测符合逻辑,与理论一致,回归元的弱外生性,：解释变量与误差不相关,参数不变性,：参数值稳定，否则预测会困难,表现出数据的协调性,：残差必须完全随机,模型具有包容性,：其他模型都不可能再改进我们的模型。,9.1.2模型设定误差的类型及危害,遗漏有关变量很可能产生偏误,包含一个无关变量估计量方差变大,采用了错误的函数形式,测量误差,对随机误差项不正确的设定,随机误差项是以乘积形式进入模型，还是以相加形式进入模型。,9.1.3模型设定误差的检验9.1.3.1检验是否含有无关变量,通过t-检验去检验一个变量参数的显著性。,通过F-检验去检验一组变量参数的显著性。,注意，并不能完全依赖统计检验，,还要注意经济或实际上的显著性。,9.1.3.2检验遗漏变量和函数形式误设,残差分析：可用于检验遗漏变量和函数形式误设,逐渐趋于真实模型,回归设定误差检验（RESET）,思路：,如果下面的模型满足MLR.4,那么如果在模型中添加自变量的非线性关系应该是不显著的。,RESET检验的过程：,考虑扩大方程,y=,b,0,+,b,1,x,1,+,b,k,x,k,+,d,1,2,+,d,1,3,+u,检验H,0,:,d,1,=0,d,2,=0,注意：FF,2,n-k-3,or LM,2,2,自由度：,n-k-1-2,Example：住房价格方程,比较两个模型的RESET统计量：,Price=,b,0,+,b,1,lotsize+,b,2,sqrft+,b,3,bdrms+u,F=4.67，p=0.012,lPrice=,b,0,+,b,1,llotsize+,b,2,l,sqrft+,b,3,bdrms+u,F=2.56，p=0.084,被拒绝,不能被拒绝,9.1,小结：,RESET检验的,优势是不需要设立对立模型,RESET检验的重要缺陷是如果方程被拒绝，它不能告诉我们,应该如何修正我们的错误模型。,9.1.,4,对非嵌套模型的检验,如果我们要在下列两个非嵌套模型中选择：,我们可以使用两类方法,判别方法,检验方法,判别方法,两个模型优劣判断必须基于相同的因变量,然后基于R,2,或调整的R,2,来判断,还有其他准则可以用以判断：赤池信息准则（AIC）、施瓦兹信息准则（SIC）和马娄斯的C,p,准则,赤池信息准则（AIC）,对模型中增加回归元施加了更严厉的惩罚,在比较两个模型时，具有最低AIC的模型优先,AIC的优越性在于，不仅适用于样本内预测，还适用于预测样本外模型的表现。,嵌套模型、非嵌套模型都适用。,施瓦兹信息准则（SIC）,对模型中增加回归元施加了比AIC更严厉的惩罚,SIC的值越低越好,SIC也可以用于比较模型在样本内与样本外的预测表现。,马娄斯的C,p,准则（软件不能给出）,若模型有p个回归元，则,若模型是正确设定的，则,注：上述几个准则，不存在谁更优于谁,检验方法,方法一,：（Mizon and Richard，1986）,分别检验：,综合模型,检验（2）,检验（1）,这种检验程序存在的问题,（1）（2）两模型中的回归元如果存在高度相关，则综合模型就存在高度多重共线性。这可能使正确模型中的参数检验不显著。,（2）的拟合值,方法二：戴维森-麦金农,J,检验,思想：如果（1）正确，那么（2）中的拟合值y在（1）中作为解释变量时应该是不显著的。,对模型,检验：,对模型,检验：,不能拒绝则说明1兼容,2,（1）的拟合值,不能拒绝则说明2兼容1,评价,J,检验：,可能两个模型都被拒绝，或都没有被拒绝。,那么我们就得不到明确的答案。,检验中拟合值的t统计量是渐近的服从t分布的，因此，在小样本中，J检验会过多的拒绝真模型。,9.2对无法观测的解释变量使用代理变量9.2.1代理变量和植入解,考虑工资模型,如果因为无法观测而放入误差项，则可能会导致严重偏误，这时考虑代理变量IQ,可以测量，与无法观测的变量高度相关,无法观测的变量,遗漏变量问题的植入解,是无偏估计量吗?,植入解得到无偏估计量的假设：,u与x,1,、x,2,、x,3,*,以及x,3,都不相关,v,3,与x,1,、x,2,、x,3,都不相关,E(,x,3,*|,x,1,x,2,x,3,)=E(,x,3,*|,x,3,)=,d,0,+,d,3,x,3,y,=(,b,0,+,b,3,d,0,)+,b,1,x,1,+,b,2,x,2,+,b,3,d,3,x,3,+(,u,+,b,3,v,3,),新截距,代理变量的斜率,新误差项,无偏估计量,代理变量只与x,3,有关，与其他自变量无关,如果代理变量与其他自变量也相关，则会出现偏误！,偏误,9.3,9.2.2用滞后因变量作为代理变量,如果无法确定遗漏变量的代理变量究竟应该是什么，那么可以选择较早时期的因变量作为代理变量。,例如，某些城市过去有较高的犯罪率，同时导致现在和过去犯罪率很高的无法观测因素中，许多都是相同的。,预计它们的符号应该是？,Example：城市犯罪率,Crime表示人均犯罪次数，unem表示城市失业率，expend表示执法的人均支出，crime,-1,表示以前某个年度的犯罪率,自变量,(1),(2),unem,-0.029,(0.032),0.009,(0.020),Log（expend）,0.203,（0.173）,-0.140,（0.109）,Log（crime,-1,）,_,1.194,（0.132）,截距,3.34,(1.25),0.076,(0.821),n,46,46,R,2,0.057,0.680,9.3随机斜率模型,如果一个变量的偏效应是随某些无法观测的因素而变化的，这就会产生,随机斜率模型,。,例如：工资方程,对于不同的人，多读一年书的偏效应是不同的取决于个人能力,对于没有读过书的人，工资水平是不同的取决于个人能力,对于我们的n个观测者：,我们有n个a,i,，,=E（a,i,）,我们有n个b,i,，,=E(b,i,),对于某个观测者，如果a,i,=,+c,i,，,b,i,=,+d,i,其随机斜率模型为：,y=,a,i,+,b,i,x,i,=,+c,i,+(,+d,i,)x,i,=,+,x,i,+u,i,其中u,i,=c,i,+d,i,x,i,平均边际效应,平均截距,随机斜率模型可以写为常系数模型，但是其误差与x有关异方差,随机斜率模型是否有偏？,E(u,i,|x)=E(c,i,|x)+x,i,E(d,i,|x),=E(,a,i,|x)-,+x,i,E(,b,i,|x)-,如果,E(,a,i,|x)=,，E(,b,i,|x)=,则,E(u,i,|x)=0,u,i,=c,i,+d,i,x,i,注意到：a,i,=,+c,i,，b,i,=,+d,i,注意,=E(a,i,)，,=E(b,i,),允许斜率因人而异，但只要他们的均值独立于解释变量，则OLS估计量就是无偏的,9.4有测量误差时OLS的性质,测量误差是模型设定偏误的又一种情况,测量误差来自于两种情况,1.因变量的测量误差,2.自变量的测量误差,9.4.1因变量中的测量误差,测量误差的例子：我们想要“家庭年收入”，但是被调查者只为我们提供了家庭成员的工资总收入，实际上投资收益被忽略了，此时产生了测量误差。,令y*表示因变量的真实值，y表示观测值,测量误差e=y-y*,存在测量误差会导致OLS估计量的性质发生什么变化？,测量误差的均值为0，且测量误差和解释变量无关,对于真实情况（满足高斯-马尔科夫假定）,而我们回归的方程为,如果也满足满足高斯-马尔科夫假定，则估计量是有效地，即 E（e|x）=0,存在测量误差时，误差方差会增大。,小结：,如果因变量的测量误差与解释变量系统相关，则会导致OLS的偏误。,如果测量误差只是一个与解释变量无关的随机误差，则OLS完全适用,，但会加大估计量的方差,。,9.4.2解释变量中的测量误差,令x*表示因变量的真实值，x表示观测值,对于解释变量x,1,的测量误差e,1,=x,1,-x,1,*,假设E（e,1,）=0,E（u-,1,e,1,|x,）=0?,0(根据假定),e,1,=x,1,-x,1,*,自变量测量误差在两类假定下的影响,保证了估计量的一致性,误差方差加大,假定一：,Cov（x,1,，e,1,）=0,E（u-,1,e,1,|x,1,）=0,Var（u-,1,e,1,）Var（u）,假定二,（经典变量误差假定CEV）：,Cov（x,1,*,，e,1,）=0,Cov（x,1,，e,1,）=E（x,1,e,1,）,=E（x,1,*,e,1,）+E（e,1,2,）=Var(e,1,),Cov（x,1,，u-,1,e,1,）=-,1,Var(e,1,),在CEV假定下，OLS将给出有偏的不一致的估计量,在CEV假定下的偏误,回忆第5章渐进偏误的定义：,在CEV假定下的偏误,衰减偏误,小结：,如果自变量存在测量误差，且满足CEV，则估计量会产生衰减偏误。,但如果测量误差的方差Var（e,1,）相对于自变量真实值的方差Var（x,1,*,）很小的话，则测量误差不会导致很大偏差。,这时，我们可以忽略自变,量测量误差导致的偏误。,但困难在于,Var（e,1,）,和,Var（x,1,*,）,不易观测。,另一种方法是使用工具变量或代理变量，它们与观测值X高度相关，但与方程误差和测量误差（,、e,）都不相关。那么我们就能得到,的一致估计。,因此，自变量的观测值要尽量准确。,也比较困难,9.5数据缺失、非随机样本和异常观测9.5.1数据缺失（missing data）,如果一个观测缺失了其因变量或一个自变量，那么这个观测就不能用于多元回归分析。,如果数据是随机缺失的，那么除了减少了样本容量而导致估计量没有那么准确以外，不会引起任何偏误。,9.5.2非随机样本,如果数据缺失是非随机的，那么将导致样本变为非随机样本。,在婴儿出生的数据集中，如果受教育程度低的人,缺失数据的概率大。,违背MLR.2,外生样本选择不会有偏误,内生样本选择会有偏误,外生样本选择：基于自变量,例如,内生样本选择：基于因变量,例如,假设我们针对35岁以上的人群调查，则得到非随机样本不会导致偏误,假设我们针对财富不足25万的人群调查，也得到非随机样本导致偏误,9.5.3异常观测,异常观测值也可以定义为残差很大的观测值。,如果将一个观测从数据集中去掉会使得OLS估计量发生很大变化，则这个观测就是异常观测。,这个很大的残差会因为它,和回归线的垂直距离很大,而把回归线向自己拉近，,从而改变回归线的斜率。,异常数据的性质,对所有数据的OLS线,除去异常观测值的OLS线,不是异常观测值,是异常观测值,由于OLS是对残差平方进行最小化，所以OLS估计量对异常观测值十分敏感。,一组观测值中可能不止一个异常观测值。,不加思索的将异常观测值从样本中去掉不是明智的选择。除非异常观测是由于记录发生错误而导致，否则异常观测值可能记录了其他观测值不具备的信息。,一些检验可以帮助筛选异常值,定义一个虚拟变量，当使用异常观测值时取值为1.这个虚拟变量的系数用以度量是否使用异常值所得到的回归线之间的差异。,对这个系数检验显著性。,学生化残差,异常观测值的处理,既然OLS由于对残差平方最小化而导致对异常观测值比较敏感，那么对残差的绝对值最小化而得到的估计值将对异常观测值不那么敏感。,但这种估计值不总是一致估计量，且不可能是无偏估计量。,最小绝对离差估计,某些函数形式对异常观测值不敏感,