含MA误差的线性模型的经验似然推断.pdf
《含MA误差的线性模型的经验似然推断.pdf》由会员分享,可在线阅读,更多相关《含MA误差的线性模型的经验似然推断.pdf(11页珍藏版)》请在咨信网上搜索。
1、第 41 卷 第 3 期2023 年 5 月 广西师范大学学报(自然科学版)Journal of Guangxi Normal University(Natural Science Edition)Vol.41 No.3May 2023DOI:10.16088/j.issn.1001-6600.2022070601http:蒙海珍,张正家,秦永松.含 MA 误差的线性模型的经验似然推断J.广西师范大学学报(自然科学版),2023,41(3):144-154.MENG HZ,ZHANG Z J,QIN Y S.Empirical likelihood inference for linear m
2、odels with MA errorsJ.Journal of Guangxi Normal University(Natural ScienceEdition),2023,41(3):144-154.含 MA 误差的线性模型的经验似然推断蒙海珍,张正家,秦永松(广西师范大学 数学与统计学院,广西 桂林 541006)摘 要:采用拟极大似然估计方法获得含 MA 误差的线性模型估计方程。为了能够使用经验似然方法,先利用鞅差序列将估计方程中的二次型转化为线性形式;再构造关于模型参数的经验似然比统计量,在一定假设条件下证明该统计量渐近服从卡方分布;模拟结果表明,在参数置信域的覆盖率方面,经验似然方
3、法比参数似然方法更接近置信水平。关键词:线性模型;MA 模型;鞅差序列;经验似然 中图分类号:O212.7 文献标志码:A 文章编号:1001-6600(2023)03-0144-11线性模型在统计学中已然是应用最为广泛的模型之一,对于线性模型,常见的参数估计方法有最小二乘、极大似然、岭估计、M 估计、Bayes 估计等,其中最小二乘估计法占有中心地位,这些方法基本上是在假设误差为独立同分布的情形下进行研究的。然而,在实际中,特别是经济数据中,误差往往存在相依性。相依误差有很多种,比如负相关(negatively associated,NA)序列、m 序列、混合序列、混合序列和时间序列等,其中
4、时间序列是根据动态数据反映系统动态结构和规律的数据。时间序列分析是统计学中很常见的分析方法,在商业、经济、金融、军事、气象预报和工业自动化等领域应用广泛,所以含时间序列误差的线性模型的研究具有重要的理论价值和现实意义。经验似然(empirical likelihood,EL)是由 Owen1-2在完整样本下提出的一种重要的非参数估计方法,王启华3总结了经验似然方法的优点,即有类似于 bootstrap 的抽样特性,用经验似然方法构造的置信域具有域保持性、变换不变性及置信域的形状由数据自行决定、Bartlett 纠偏性等。此外,经验似然方法还具有不需要构造枢轴统计量的优点,因而不需要估计其方差,
5、而方差估计往往比较复杂。因此,经验似然方法被统计学者们广泛应用于各种统计模型中。1991 年,Owen4将经验似然应用于独立误差的线性模型中;Qin 等5构造了一般情况下的经验似然估计函数,从此,经验似然得到更广泛应用。Kolaczyk6在假设误差为独立情形下将经验似然应用于广义线性模型;Wang 等7-8在假设误差为独立情形下利用经验似然方法分别讨论固定设计和随机设计情形的部分线性回归模型;薛留根等9在假设误差为独立情形下,利用经验似然方法构造了部分线性单指标模型中的未知参数的置信区域。上述研究成果都是在假设误差为独立情形下获得的,众多学者对各种相依误差下的线性模型也进行了讨论,例如:Qin
6、 等10将经验似然应用于误差为 m-相依序列情形下的线性模型;于卓熙11将经验似然分别应用于误差是 NA 序列、m-相依序列的部分线性模型;范国良等12将经验似然应用于线性过程误差下的部分线性回归模型;骆丽骏13、李晓妍14分别将经验似然应用于线性过程误差下的非参数模型和部分线性 EV(errors in variables)模型;马昀蓓15、侯文等16讨论了误差为鞅差序列情形下的线性模型的经验似然估计;李英华17研究了强混合样本随机缺失的情况下,采用随机补足方式获得“完全样本”后对总体均值进行经验似然统计推断;江志强等18讨论了鞅差误差下部分函数线性收稿日期:2022-07-06 修回日期:
7、2022-08-22基金项目:国家自然科学基金(12061017,12161009);广西高校中青年教师科研基础能力提升项目(2022KY0049);广西师范大学数学与统计学院研究生创新计划项目(YJSCXP202106)通信作者:张正家(1982),男,广西贺州人,广西师范大学讲师,博士。E-mail:http:模型的经验似然推断;周婷等19、曾庆樊等20讨论了空间面板数据模型的经验似然推断,都是采用拟极大似然方法获得经验似然的得分函数,再利用鞅差变换方法将估计方程中的线性-二次型转换为线性形式。学者们还将经验似然推广到时间序列中,比如 Chuang 等21讨论了自回归模型的经验似然推断;李
8、凯等22对二阶部分线性自回归时间序列模型的未知参数进行经验似然估计,并且证明参数估计的渐近正态性和相合性;陈惠汝23讨论了 AR(p)模型的经验似然统计诊断;Qin24研究了空间自回归模型的经验似然推断;于卓熙11将经验似然分别应用于误差是 MA()序列、ARCH(1)序列的部分线性模型;Li 等25讨论了 MA 模型的经验似然;Monti26应用 Whittle 估计方法研究 ARMA 模型;Li 等27讨论了 ARMA 模型中部分参数的经验似然估计;张海祥等28将经验似然应用于平稳 ARIMA 模型;陈燕红29分别对 MA 模型、ARMA 模型进行经验似然统计推断;Chan 等30将经验似
9、然推广到 GARCH 模型。经验似然方法在时间序列中的应用已获得丰硕成果,但是从已有研究来看,仍未发现有关含 MA 误差的线性模型的论文,而 MA 模型是时间序列中三大线性模型之一,本文探讨含 MA 误差的线性模型的经验似然推断。本文余下部分的结构如下:第 1 章是主要方法和结果;第 2 章是数值模拟结果;第 3 章是结语;所有引理和和定理的证明在附录中给出。1 主要方法和结果考虑如下线性模型y=X+e,ei=i+1i-1+qi-q,1in。(1)式中:y=(y1,y2,yn)T是 n1 维观测值;X=(x1,x2,xn)T是 nm 固定设计矩阵;=(1,2,m)T是 m1 维系数向量;e=(
10、e1,e2,en)T是 n1 维不可观测的随机误差;1,2,q为未知参数;正整数q 是 MA 模型的阶数;i是独立同分布且具有非退化密度函数的序列,满足E(i)=0,Var(i)=20。假设ei满足模型(1)中的 MA 过程,=(1,2,q,2)T,0=1,模型(1)的参数为=(,)TRm+q+1,则 y 的期望为 E(y)=X,协方差矩阵为 n=(cov(ei,ej)nn,式中cov(ei,ej)=2qs=|i-j|ss-|i-j|,|i-j|q,0,|i-j|q。假设ei服从正态分布,该假设仅用于推导经验似然比统计量,不用于本文的主要结论。于是,的拟对数似然函数为Ln()=-n2log(2
11、)-12log n-12(y-X)T-1n(y-X)。对上式的参数求偏导得Ln()=122XT-1ny-2XT-1nX()=122XT-1n(y-X)()=XT-1ne。(2)Ln()k=-121/n()n/k()-12(y-X)T-1n/k()(y-X)=-121/n()ntr-1nn/k()()()-12eT-1nn/k()-1n()e=-12tr-1nn/k()()+12eT-1nn/k()-1ne541广西师范大学学报(自然科学版),2023,41(3)J1-J2,1kq+1。(3)令(n)=(1-q,2-q,n)T,(i)=(0,0,q,0,0,0)T,式中 q是向量(i)的第 i
12、个分量,则ei=T(i)(n),1in,e=(e1,e2,en)T=(T(1)(n),T(2)(n),T(n)(n)T=(1),(2),(n)T(n)=AT(n)。式中 A=(1),(2),(n),从而,J1=12eT-1nn/k()-1ne=12T(n)A-1nn/k()-1nAT(n)=12T(n)Bk,n(n)。式中 Bk,n=A-1nn/k()-1nAT。J2=12tr-1nn/k()()=12tr-1nn/k()n-1n()=12tr-1nn/k()2ATA-1n()=122tr A-1nn/k()-1nAT()=122tr(Bk,n)。令上述偏导数等于 0,可获得如下估计方程XT-
13、1nAT(n)=0,(4)T(n)Bk,n(n)-2tr(Bk,n)=0。(5)记 gi是矩阵 XT-1nAT的第 i 列向量,bki,j是矩阵 Bk,n的第 i 行第 j 列的元素,i是向量(n)的第 i 个元素,并且规定当求和的上标小于 1 时,该求和值为 0。为了能够使用经验似然方法,需要将式(5)中的线性-二次型转化为线性形式,这时需要引入文献31中的鞅差序列。定义-域:F0=,Fi=(1-q,2-q,i),1-qin。令Mi,kn=bki,i(2i-2)+2ii-1j=1-qbki,jj。(6)则 Fi-1Fi,Mi,kn是 Fi-可测的,并且 E(Mi,kn|Fi-1)=0。因此M
14、i,kn,Fi,1-qin构成一个鞅差序列,且T(n)Bk,n(n)-2tr(Bk,n)=ni=1-qMi,kn。(7)根据式(6)、(7),有Ln()k=ni=1-qMi,kn,1 k q+1,所以得分函数为i()=giib1,ii(2i-2)+2ii-1j=1-qb1,ijjbq+1,ii(2i-2)+2ii-1j=1-qbq+1,ijj(m+q+1)1,于是,的经验似然比函数为 R()=suppi,1-qinni=1-q(n+q)pi(),式中pi满足pi 0,1-q i n,ni=1-qpi=1,ni=1-qpii()=0。由拉格朗日乘子法有pi=1n+q11+T()i(),1-qin
15、。(8)则 的经验似然比统计量为641http:l()=-2logR()=2ni=1-qlog1+T()i(),式中()Rm+q+1是以下方程的解1n+qni=1-qi()1+T()i()=0。(9)本文记号:j=E(j1),j=3,4;Vdiag(H)表示由矩阵 H 的对角线上的元素构成的列向量;a 表示向量a 的 L2范数。为了获得经验似然比统计量 l()的渐近分布,需要如下假设条件:(A1)i,1-qin 是独立同分布的随机变量序列,均值为 0,方差有限,且存在 0,使E|1|4+。(A2)(i)-1n和n/k的行和与列和均一致有界;(ii)矩阵 X 的元素一致有界。(A3)存在常数 c
16、1、c2,使得 0c1min(n+q)-1m+q+1()max(n+q)-1m+q+1()c2 0,使得sup1in,n1E(|ni|4+1);(C2)对所有1i,jn,n1,anij=anji,sup1jn,n1ni=1anij0,使得 supn1n-1ni=1bni2+20,满足 n-12Qnc,则Qn-QnQndN(0,1)。引理 22 令 1,2,n是一个平稳的随机变量序列,且存在常数 s0,使 E(|1|s),那么max1in|i|=o(n1/s)。a.s.引理 3 在假设(A1)(A4)下,当 n时,有Zn=max1-qini()=op(n+q)2/(4+1),a.s.(11)74
17、1广西师范大学学报(自然科学版),2023,41(3)-1/2m+q+1ni=1-qi()d N(0,Im+q+1),(12)(n+q)-1ni=1-qi()Ti()=(n+q)-1m+q+1+op(1),(13)ni=1-qi()3=Op(n+q),(14)式中 m+q+1见式(10)。定理 1 在假设(A1)(A4)下,当 n时,有l(0)d2m+q+1,式中2m+q+1表示自由度为 m+q+1 的卡方分布。考虑假设检验H0 =0,H1 0。在 H0成立的条件下,取定显著性水平(01),u(m+q+1)是自由度为 m+q+1 的卡方分布的上侧 分位数,且满足 P2m+q+1u(m+q+1)
18、=1-,基于定理 1,参数 的置信水平为 1-的渐近置信域为 l()u(m+q+1)。如果感兴趣的参数只是,可以令 l()=2logR()-2logR(,),式中、分别是 和 的经验似然估计值,根据文献5,有如下结论:在(A1)(A4)的假设下,当 n时,有l(0)d2m,参数 的置信水平为 1-的渐近置信域为 l()u(m)。2 数值模拟通过数值模拟,比较经验似然(EL)方法和参数似然比(LR)方法在参数置信域的覆盖率方面的效果,0是 的真实值,在大样本情况下,参数似然比(LR)LR(0)=2(Ln()-Ln(0)渐近服从卡方分布,式中 Ln是 的拟对数似然函数,基于 LR 方法,置信水平为
19、 1-的置信域为 LR()u(m+q+1)。模拟采用的模型是 yi=xi+ei,ei=i+1i-1+2i-2,式中(x1,x2,xn)产生于正态分布 N(0,1),=3,1=1/2,2=1/3,i分别来自 N(0,1)、t(5)、exp(1)-1 和24-4,置信水平 1-=0.95,样本个数 n 分别取100、200、300、400、500、1 000,基于 1 000 次模拟,分别计算 EL 和 LR 的覆盖率,结果见表 1。由表 1 可以看出,当 i服从正态分布时,随着样本量的增大,EL 和 LR 方法的覆盖率逐渐增大,当 n大于 200 时,二者的覆盖率都接近 0.95;值得注意的是,
20、当 i服从 t(5)、exp(1)-1 或24-4 时,EL 所得的覆盖率比 LR 的更接近置信水平 0.95。综上,在白躁声分布未知的情况下,本文所给出的方法更优于参数似然方法。3 结语本文将经验似然方法应用到含 MA 误差的线性模型中,采用拟极大似然方法获得估计方程,将估计方程的线性-二次型转化为鞅差的线性形式,再构造参数的经验似然比统计量,在一定假设条件下,证明该统计量的极限分布为卡方分布。数值模拟表明,在不确定样本分布的情况下,用经验似然方法比参数似然841http:比方法的效果更好。表 1 EL 和 LR 置信域的覆盖率Tab.1 Coverage probabilities of
21、the EL and LR confidence regionsinELLRinELLRN(0,1)1000.9030.9042000.9390.9493000.9420.9504000.9440.9505000.9390.9461 0000.9450.943t(5)1000.8560.8442000.8890.8313000.9080.8414000.9250.8345000.9360.8301 0000.9310.821exp(1)-11000.7880.7802000.8660.7583000.8880.7724000.9190.7835000.9200.7781 0000.9460.7
22、7724-41000.8540.8512000.9000.8573000.9170.8644000.9200.8495000.9310.8571 0000.9460.875附录 引理 3 和定理 1 的证明引理 3 的证明 先证式(11)。Zn max1-qinmax1-qingii,max1-qinb1i,i(2i-2)+2ii-1j=1-qb1i,jj,max1-qinbq+1,i,i(2i-2)+2ii-1j=1-qbq+1,i,jj。由假设(A1)、(A2)和引理 2,有max1-qingii=max1-qingiop(n+q)1/(4+)=op(n+q)1/(4+),max1-qin
23、bki,i(2i-2)=max1-qinbki,iop(n+q)2/(4+)=op(n+q)2/(4+),max1-qinii-1j=1-qbki,jj(max1-qini)2 max1-qini-1j=1-qbki,j=op(n+q)2/(4+),1 k q+1,所以 Zn=op(n+q)2/(4+),式(11)得证。下证式(12)。给定 l=(l1,lq+2)TRm+q+1,l=1,l1Rm,l2,l3,lq+2R,有lTi()=lT1gii+q+1k=1lk+1bki,i(2i-2)+2ii-1j=1-qbki,jj(),所以ni=1-qlTi()=ni=1-qlT1gii+ni=1-q
24、q+1k=1lk+1(bki,i(2i-2)+2ii-1j=1-qbki,jj)。(15)令 Qn=ni=1-qnj=1-quijij+ni=1-qvii,式中uij=q+1k=1lk+1bki,j,vi=lT1gi。为了获得 Qn的渐近分布,需要验证假设(C1)和(C2)成立。显然由假设(A1)可知(C1)成立,下面验证假设(C2)成立。根据假设(A2),得941广西师范大学学报(自然科学版),2023,41(3)ni=1-quij=ni=1-qq+1k=1lk+1bki,j=q+1k=1lk+1q+1k=1bki,j C,(16)(n+q)-1ni=1-qvi3=(n+q)-1ni=1-q
25、lT1gi3 Cmax1inxi3max1in(ni=1-qdik)3 C,(17)式中:xi是矩阵 XT的第 i 列向量;dik是-1nAT的第(i,k)个元素。由式(16)、(17)知 Qn满足假设(C2),故Qn-QnQndN(0,1)。接下来计算 Qn和 Qn。Qn=E(Qn)=E(ni=1-qnj=1-quijij+ni=1-qvii)=2ni=1-quii。Qn=Var(ni=1-qnj=1-quijij+ni=1-qvii)=Varni=1-quii2i+2ni=1-qi-1j=1-quijij+ni=1-qvii()=ni=1-qu2ii(4-4)+44ni=1-qi-1j=1
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- MA 误差 线性 模型 经验 推断
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。