基于前馈型神经网络解变系数分数阶积分微分方程.pdf

第43卷第3期2023年5月DOI:10.13954/ki.hdu.2023.03.011杭州电子科技大学学报（自然科学版）Journal of Hangzhou Dianzi University(Natural Sciences)Vol.43 No.3May 2023基于前馈型神经网络解变系数分数阶积分微分方程杨刘盼，郭安祺，邵新平（杭州电子科技大学理学院，浙江杭州310 0 18)摘要：为了研究变系数分数阶积分微分方程的数值解，提出了一种基于Bernstein多项式的前馈型神经网络求解变系数分数阶Fredholm积分微分方程的方法。首先，根据Caputo分数阶导数的定义，将变系数分数阶的积分微分方程转化为Bernstein多项式空间上的矩阵形式；然后，将Bernstein多项式的系数作为权重，构造前馈型神经网络，采用梯度下降法对权重进行学习，从而得到近似解；接着，从理论上证明了该前馈型神经网络的收敛性；最后，通过数值实例分析验证了提出方法的有效性。关键词：Bernstein多项式；神经网络；分数阶积分微分；变系数中图分类号：0 2 4文献标志码：A文章编号：10 0 1-9146（2 0 2 3)0 3-0 0 7 6-0 70 引 言分数阶积分微分方程是众多物理现象的建模工具。但是，大多数情况下，求分数阶积分微分方程解析解非常困难。现阶段，对分数阶Volterra-Fredholm积分微分方程和分数阶Fredholm积分微分方程的数值解法主要有同伦分析法1、改进的Laplace分解法2、Adomian分解法3、Legendre多项式近似法41等，这些方法的主要特点是将求解分数阶Volterra-Fredholm积分微分方程和分数阶Fredholm积分微分方程归结为求解一个代数方程，大大降低了求解难度。此外，Bernstein多项式在数学的各个领域扮演着重要角色，在微积分方程和近似解中都会使用Bernstein多项式5-7。相较于Legendre 多项式、Chebyshev多项式和Laguerre多项式等，Bernstein多项式构造简单，且拥有成熟的逼近估计阶理论。随着神经网络研究的不断发展，计算技术的不断提高，基函数神经网络的逼近功能成为求解微积分方程数值解的热门算法之一。Jafarian等9提出一种基于神经网络和幂级数相结合的方法用于求解分数阶Fredholm积分微分方程，具有较高的计算精度；李娜等10 I 提出一种基于函数逼近的Chebyshev神经网络求解非线性Fredholm积分方程的方法，与现有算法比较，Chebyshev神经网络误差稳定，更有效地逼近精确解。与数值求解方法相比，神经网络具有良好的泛化能力和较高的计算精度。本文提出一种基于Bernstein多项式的前馈型神经网络求解变系数分数Fredholm积分微分方程的新方法，将Bernstein多项式的系数作为权重，构造前馈型神经网络，采用梯度下降法学习权重，得到近似解。1预备知识本文求解的变系数分数阶Fredholm积分微分方程如下：2a.(a)Du(s)-fk(a,1)u()dl=g(a)(1)i=0式中,初值条件u(0)=bj,j=0,1,2,r1,r-10,k(,t)为区域0,收稿日期：2 0 2 2-0 3-2 5基金项目：国家自然科学基金资助项目（117 0 1133）作者简介：杨刘盼（1996 一），女，研究方向：积分微分方程的数值解。E-mail:。通信作者：邵新平，副教授。研究方向：微积分方程数值解、并行计算。E-mail:。第3期t0,NE N+,nN时,|B,(f,a)-f(r)0,有DB(r(+1-)式中，N。=0,1,2,）,N=（1,2,3，），表示大于的最小整数，表示小于的最大整数。C为常数时,DC=0。更多性质可参考文献12。2分数阶微积分的Bernstein多项式矩阵运算对于变系数的分数阶Fredholm积分微分方程a()Du()+b()DPu()=k(c,t)u(t)dt+g()任意函数u（）ECo,1,都可用Bernstein多项式近似为：u(r)B,(u;z)=ZCha(1-a)-u,(k/n)则式(5)表示为：a()Dak=0k(,t)2cht(1-t)-u,(k/n)d+g(a)u(k/n)(a()D-C2*(1-2)*+b(r)DCr*(1-)*-k=0k(,t)Cht*(1-t)-/dt)=g()对式（7）的微分部分DC（1一）和DC（1一),由二项式定理(1-)-k=2C-1-k-(1)2可得：Ca(1-)-k=DCh(1-)-k=Dr杨刘盼，等：基于前馈型神经网络解变系数分数阶积分微分方程B,(f;)=Cha*(1-)f(k/n)k=0为二项式系数。Bernstein多项式是逼近连续函数的一系列多项式。若f(）是0,1df()d.c1T(+1)k=0Chak(1-)ku,(k/n)+b()De77（2)=nE N(3)(t)0n1k0n-k2CC1-(1)2*+4q=02C,C1-(-1)a+一k(4)(5)(6)(7)(8)(9)(10)78其中=，,k=0,1,2，,n。由Caputo分数阶导数的定义，式（10）可转化为如下矩阵形式：DC(1-)-,DC,(1-)-,DC(1-)=D iCDPC(1-)-,DPC(1-)-,.,DC(1-)-|=D,C(-1)C;C-。(-1)C;C,-。其中,C=(-1)*C.C-。：L(-1)CC。Di=Da(l,?,.x)=Dz=D(1,c,?,.x)=运用Bernstein配点法将式（7）转化为矩阵形式。取m十1个配置点，将式（11）、式（12）和式（13）代人式（7），得到：式中,G=APiC+BP,C-J,W=(wo,i,Wz,w,)T,W=u,(k/n),H=a(ao)00a(i)a(a2,A0k(ro,t)C,t(1-t)-dtJ0k(i,t)C,t(1-t)-dtJ杭州电子科技大学学报（自然科学版）00(-1)C,C%-10(-1)C;C,-1(-1)C,C%2(-1)-1C,C;F1(-1)CC2r(1+1)0，r(1+1-)r(I p1+1)r(II+1-)l=0,1,mmGW=H00k(ro,t)C,tl(1-t)-1dt0k(i,t)C,tl(1-t)-1Jdt02023年(11)(12)000(-1)C.Cnr(n+1)T(n+1-)r(n+1)g(co),g(ci),0b(co)0b(ai)b(a2),B=00a(m),j=。(13)(14)00000b(am)k(o,t)C,t(1-t)Jdt0k(ci,t)Cit(1-t)-dtk(m,t)C,to(1-t)-dt0r(1+1)00r(1+1-)(1+1)00Pi：r(1+1-k(m,t)C,tl(1-t)-1Jdtk(m,t)C,t(1-t)-Jdtr(n+1)r(n+1-)F(n+1)r(n+1-)r(1+1)00r(I 1+1-)T(I 1+1)00F(I 1+1-)00P2r(I 1+1-)r(I 1+1)00r(1+1-)r(n+1)mr(n+1-)r(n+1)r(n+1-)r(1+1)r(n+1)r(n+1-)：r(n+1)j-r(n+1-)m,n第3期3基基于Bernstein多项式的前馈型神经网络本文采用Bernstein函数扩展块作为神经网络的隐含层，w=un（k/n）作为Bernstein函数扩展块到输出层的权重，输人向量=（c o，1，a m）进人输人层后，通过Bernstein函数扩展块到输出层，进行Bernstein多项式的展开，构造了基于Bernstein多项式的前馈型神经网络，其网络拓扑结构如图1所示。输入层XoXXm取损失函数为杨刘盼，等：基于前馈型神经网络解变系数分数阶积分微分方程Bernstein函数扩展块Cx(1-x)C,x(1-x,)-1C,x;(1-x)Cx(1-x)图1基于Bernstein多项式的前馈型神经网络拓扑结构79u.(0/n)u(1/n)u,(2/n)u,(n/n)u,(i/n)(k+1)=u,(iln)(k)+u,(iln)(k)输出层B,(u,x,)Ek(a,t)Cht*(1-t)-Jdt)-g(a,)将损失函数转化为矩阵形式，E：2将配置点;作为神经网络的输入向量，对权重W进行学习，在损失函数最小化的约束下，使得神经网络获得较高的逼近精度。采用梯度下降法对式（14）进行求解，并按以下规则对权重W进行迭代更新，(16)AW(i)=-n aW(i)aE+W(i-1)式中，i为迭代次数，E0,1）为动量项系数，n为神经网络学习率。综上所述，本文提出的基于Bernstein多项式的前馈型神经网络权重W学习算法流程如下。（1）令0，n 0,设定目标误差Emax0,随机初始化权重W。（2)i：=0,其中i为学习算法的迭代次数，误差E设置为0。（3）i：=i 十1,对未知函数进行计算：（a）通过输入向量和权重W计算神经网络的当前输出向量；（b）通过输出向量计算神经网络的当前误差E；(c）利用损失函数和梯度下降法调整权重W。（4）如果EEmax，将E设为0，返回步骤3，开始新的训练周期；如果E0 即mx(cfc)2,误差函数序列(E(W(i)是单调递减，故0 n25数值实例通过求解2 个变系数分数阶Fredholm积分微分方程来验证本文提出的基于Bernstein多项式构造的前馈型神经网络求解变系数分数阶积分微分方程的可行性和有效性。例1变系数分数阶Fredholm积分微分方程如下：(2+1)D1.5 u(a)+(+1)D(r)=frcos(+t)u(t)dt+g(r)且u(0）=0,u(1）（0）=1,方程的精确解为u（）=re*。Be r n s t e i n 多项式阶数n分别为7,8，9，10,11时，采用本文提出的基于Bernstein多项式构造的前馈型神经网络求解方程，得到数值解与精确解的误差如表1所示。表1n=7,8,9,10,11时，本文方法求得的数值解与精确解的误差780.14.2834X10-90.21.408 210-80.33.6516X10-80.44.6591X10-80.56.5631X10-80.69.4920X10-80.71.0834X10-70.81.133 710-70.91.5740X10-7从表1可以看出，随着Bernstein多项式阶数n的增大，数值解越来越逼近精确解，说明采用本文方法求解变系数分数阶积分微分方程的可行性和有效性。例2 变系数分数阶Fredholm积分微分方程如下：杭州电子科技大学学报（自然科学版）E(W(i+1)E(W(i)-HHaE2Gaw(i)2aE2Bernstein多项式阶数n91.8046X10-97.824 2X10-122.361 110-91.654 6X10-113.117 7X10-92.7427X10-113.751 1X10-95.393 3X10-113.8435X10-97.6177X10-114.303 6X10-98.621 910-114.9675X10-91.1661X10-104.723710-91.326 210-105.5164X10-91.481 510-102023年12H2(GW(i)-H)GT(GW(i)-H)aE2E2aw(i)101.487 710-122.094.9 X10-122.711 6X10-122.905 9X10-123.488 6X10-123.658 910-123.8279X10-124.387 3X10-124.138 910-12。证毕。112.0609X10-132.610 3 X10-153.783 2X10-142.820 6X10-143.588 0X10-143.8675X10-143.0096X10-143.727 710-142.931910-14第3期杨刘盼，等：基于前馈型神经网络解变系数分数阶积分微分方程81xD2.5u()+2D1.5u()=Je(+t)u(t)dt+表2 n=7时，不同方法求得的数值解与精确解的误差4310元V元且u(0)=0,(1)（0）=0,u(2)（0）=2,方程的精确解为u（）=。当多项式阶数n=7时，分别采用Legendre多项式近似法6 和本文提出的基于Bernstein多项式构造前馈型神经网络的方法求解方程，得到数值解与精确解的误差如表2 所示。0.10.20.30.40.50.60.70.80.9从表2 可以看出，与Legendre多项式近似法6 相比，本文提出的基于Bernstein多项式的前馈型神经网络的逼近精度更高。当Bernstein多项式阶数n=6时，采用本文方法进行求解，得到近似解与精确解、误差函数与迭代次数的关系如图2 所示。1.0n=6数值解0.9精确解0.80.70.60.50.40.30.20.10.00.0图2 n=6时，本文方法求得的近似解与精确解、误差函数与选代次数的关系由图2 可以看出，采用本文方法求得的近似解拟合效果很好。同时，当Bernstein多项式阶数n=6，送代次数在50 次内，误差函数迅速下降，最后趋于稳定，进一步验证了本文方法的可行性与有效性。6结束语本文提出一种基于Bernstein多项式的前馈型神经网络解变系数分数阶Fredholm积分微分方程的方法。运用导数阶导数的性质和矩阵运算，将求解方程转化为Bernstein多项式空间上的矩阵形式，并将Bernstein多项式系数作为权重，构造前馈型神经网络，提高了逼近精度。目前，变系数分数阶积分微分方程的相关研究较少，今后将继续深人研究此类问题，得到更有价值的方法用于求解变系数分数阶积分微分方程。本文方法2.881310-93.427310-93.878 710-94.2235X10-94.373 210-94.275 6X10-93.9248X10-93.324 0X10-92.4573X10-90.20.4(a)近似解与精确解Legendre 近似法6 1.121510-52.0513X10-51.107 810-41.285 4X10-52.343110-51.0033X10-32.123710-52.241 9X10-52.0468X10-590807060504030201000.60.8n=635302520151051.050100150200250300350400450500送代次数(b)误差函数与迭代次数的关系5010015082参考文献1J HAMOUD A,GHADLE K.Usage of the homotopy analysis method for solving fractional Volterra-Fredholmintegro-differential equation of the second kindJJ.Tamkang Journal of Mathematics,2018,49(4):301-315.2J HAMOUD A,GHADLE K.Modified Laplace decomposition method for fractional Volterra-Fredholm integro-differentialequationsJJ.Journal of Mathematical Modeling,2018,6(1):91-104.3J HAMOUD A,GHADLE K.The approximate solutions of fractional integro-differential equations by using modifiedAdomian decomposition methodJJ.Khayyam Journal of Mathematics,2019,5(1):21-39.4陈一鸣，孙慧，刘乐春，等.Legendre 多项式求解变系数的分数阶Fredholm积分微分方程J.山东大学学报（理学版）,2 0 13,48(6)：8 0-8 6.5J ORDOKHANI Y,DAVAEI FAR S.Application of the Bernstein polynomials for solving the nonlinear Fredholmintegro-differential equationsJ.Journal of Applied Mathematics and Bioinformatics,2011,1(2):13-31.6J BEHIRY S H.Solution of nonlinear Fredholm integro-differential equations using a hybrid of block pulse functionsand normalized Bernstein polynomialsJJ.Journal of Computational and Applied Mathematics,2014,260:258-265.7J KADKHODA,N.A numerical approach for solving variable order differential equations using Bernstein polynomialsEJJ.Alexandria Engineering Journal,2020,59(5):3041-3047.8J USTA F.Numerical analysis of fractional Volterra integral equations via Bernstein approximation methodLJJ.Journal of Computational and Applied Mathematics,2021,384(1):113198.9 JAFARIAN A,MEASOOMY NIA S.An application of ANNs on power series method for solving fractionalFredholm type integro-differential equationsJJ.Neural,Parallel,and Scientific Computations,2016,24:369-380.10 李娜，韩惠丽，房彦兵.基于Chebyshev神经网络的非线性Fredholm积分方程数值解法J.吉林大学学报（理学版），2 0 2 0,58（2)：2 7 7-2 8 4.11郭存娣.伯恩斯坦多项式与其所逼近的连续函数J.西安工程科技学院学报，2 0 0 0，14（3：32 5-32 6.12 梁家辉.Caputo分数阶导数的一些性质J.数学的实践与认识，2 0 2 1,51（9）：2 56-2 6 9.杭州电子科技大学学报（自然科学版）2023年Solving fractional integro-differential equation with variablecoefficients based on feedforward neural networkYANG Liupan,GUO Anqi,SHAO Xinping(School of Sciences,Hangzhou Dianzi University,Hangzhou Zhejiang 310018,China)Abstract:In order to study the numerical solutions of fractional integro-differential equation withvariable coefficients,a feedforward neural network based on Bernstein polynomials is proposed tosolve fractional Fredholm integro-differential equation with variable coefficients.According to thedefinition of Caputos fractional derivative,the Fractional integro-differential equation with variablecoefficients is converted into the matrix form in Bernsteins polynomial space.The feedforward neuralnetwork is constructed by taking the coefficients of Bernstein polynomials as weights of the network.The approximate solution is obtained by gradient descent method and the convergence of the neuralnetwork is proved theoretically.Finally,numerical examples are given to illustrate the effectiveness ofthe proposed method.Key words:Bernstein polynomial;neural network;fractional integral and differential;variable coeffi-cient