数值分析：第三章 曲线拟合的最小二乘 函数平方逼近初步.ppt

,*,单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,第三章 曲线拟合的最小二乘,函数平方逼近初步,Numerical Value Analysis,一,.,问题的提出,插值法是使用插值多项式来逼近未知或复杂函数的，,它 要求插值函数与被插函数在插值节点上函数值相同，,而在其他点上没有要求。在非插值节点上有时函数值,会相差很大。若要求在被插函数的定义区间上都有,较好的近似，就是最佳逼近问题。,必须找到一种度量标准来衡量什么是最佳逼近,.,最佳逼近是在函数空间,M,中选,P(x),满足,但由于绝对值函数不宜进行分析运算,常将上式化为,来讨论，于是最佳逼近问题变为最佳平方逼近问题,这即为连续函数的最佳平方逼近,.,对于离散的问题,最佳平方逼,近,问题为,:,就是常说的曲线拟合的最小二乘法,.,最佳逼近,二,.,预备知识,内积,:,常采用的内积与范数,实例：考察某种纤维的强度与其拉伸倍数的关系,下表是实际测定的,24,个纤维样品的强度与相应的拉伸倍数是记录,:,一,.,实例讲解,3.2,数据拟合,(,最小二乘法,),纤维强度随拉伸,倍数增加而增加,并且,24,个点大致分,布在一条直线附近,-(1),必须找到一种度量标准来衡量什么曲线最接近所有数据点,.,这就是所谓的,曲线拟合,问题！,就是从数据集 中找出总体规律，并构造一条,能反映这种规律的曲线。这里不要求曲线严格通过,数据点，但希望曲线能尽量地靠近数据点，也就是,误差按某种标准达到最小。,二、,问题的提法,定义,平方误差,(,偏差平方和,):,我们选取的度量标准是,-(2),-(3),三、法方程组,由,可知,因此可假设,因此求最小二乘解转化为,二次函数,由多元函数取极值的必要条件,得,即,-(4),即,引入记号,则由内积的概念可知,-(5),-(6),显然内积满足交换律,方程组,(4),便可化为,-(7),将其表示成矩阵形式,-(8),并且其系数矩阵为对称阵,.,根据,Cramer,法则,法方程组有唯一解,即,是,的最小值,所以,因此,作为一种简单的情况,基函数之间的内积为,平方误差,例,1.,回到本节开始的实例,，从散点图可以看出,纤维强度和拉伸倍数之间近似与线性关系,故可选取线性函数,为拟合函数，其基函数为,建立法方程组,根据内积公式，可得,法方程组为,解得,平方误差为,拟合曲线与散点,的关系如右图,:,四、加权最小二乘法,各点的重要性可能是不一样的,权,:,即权重或者密度，统称为权系数,.,定义加权,平方误差为,-(9),使得,由多元函数取极值的必要条件,得,即,引入记号,定义加权内积,-(10),矩阵形式,(,法方程组,),为,方程组,(10),式化为,-(11),-(12),平方误差为,作为特殊情形,用多项式作拟合函数的法方程组为,-(13),3.3,连续函数的最佳平方逼近,1.,最佳平方逼近问题,-(14),2.,解法,(,法方程,),-(15),最小二乘法方法评注,曲线拟和的最小二乘法是实验数据处理的常用方法。最佳逼近可以在一个区间上比较均匀的逼近函数且具有方法简单易行，实效性大，应用广泛等特点。但当法方程组阶数较高时，往往出现病态。因此必须谨慎对待和加以巧妙处理。有效方法之一是引入正交多项式以改善其病态性。,指数模型和双曲线模型,-,线性化拟合,超定方程组的最小二乘解,See you next chapter!,应用数值分析,复习题：,例题,3.2.2,；,习题,3.1,、,3.6,、,3.9,