基于分布式贝叶斯隐马尔可夫回归的动态软测量建模方法.pdf

利用软测量技术实时预测化工过程中的关键参数对生产过程的在线监测、自动控制、实时优化具有十分重要的意义。为此，提出了一种基于隐马尔可夫模型的动态软测量建模方法。首先，针对数据规模大导致模型计算效率低和数据缺失导致数据无法充分利用的问题，提出了一种基于分布式贝叶斯隐马尔可夫回归的预测模型；其次，针对该模型进一步提出了一种能够获得精确后验分布的分布式训练方法。最后，利用蜡油加氢过程对所提方法的有效性进行了验证。关键词：化工过程；动态建模；贝叶斯隐马尔可夫回归；软测量；分布式计算中图分类号：TK 314 文献标志码：A文章编号：0438-1157（2023）06-2495-08Dynamic soft sensor modeling method based on distributed Bayesian hidden Markov regressionSHAO Weiming1,HAN Wenxue1,SONG Wei2,YANG Yong3,CHEN Can2,ZHAO Dongya1(1 College of New Energy,China University of Petroleum,Qingdao 266580,Shandong,China;2 SINOPEC Qingdao Refining&Chemical Co.,Ltd.,Qingdao 266500,Shandong,China;3 Technical Detection Center,Shengli Oil Field of SINOPEC,Dongying 257000,Shandong,China)Abstract:Real-time prediction of key parameters in the chemical process by using soft sensing technology is of great significance for on-line monitoring,automatic control,and real-time optimization of production process.Therefore,a dynamic soft sensor modeling method based on hidden Markov model is proposed.Firstly,aiming at the problem of low computational efficiency caused by large data scales and insufficient utilization of data due to missing data,a predictive model based on distributed Bayesian hidden Markov regression is proposed.Then,a distributed training method that can obtain accurate posterior distribution is proposed for model training.Finally,the effectiveness of the proposed model is verified by the wax oil hydrogenation process.Key words:chemical processes;dynamic modeling;Bayesian hidden Markov regression;soft sensors;distributed computingDOI：10.11949/0438-1157.20230360收稿日期：2023-04-10 修回日期：2023-05-13通信作者：赵东亚（1975），男，博士，教授，第一作者：邵伟明（1986），男，博士，副教授，基金项目：国家自然科学基金项目(62173344，61973315)引用本文：邵伟明,韩文学,宋伟,杨勇,陈灿,赵东亚.基于分布式贝叶斯隐马尔可夫回归的动态软测量建模方法J.化工学报,2023,74(6):2495-2502Citation：SHAO Weiming,HAN Wenxue,SONG Wei,YANG Yong,CHEN Can,ZHAO Dongya.Dynamic soft sensor modeling method based on distributed Bayesian hidden Markov regressionJ.CIESC Journal,2023,74(6):2495-2502研究论文第74卷化 工 学 报引言在化工生产过程中，及时跟踪一类关键参数（如电化学废水中的离子浓度、合成氨过程的一氧化碳浓度以及污水处理过程中的水质指标等）对产品质量监测、“卡边”控制与实时优化具有十分重要的意义1-3。由于实验室化验分析时延大、在线分析仪表投资和维护成本高昂等问题，利用软测量技术对这类参数进行实时估计越来越受到企业的认可。软测量技术通过建立易测变量（如温度、压力等）与关键变量（即难测变量，如反应物浓度）之间的数学模型，对关键变量进行实时估计或预测4-5。化工过程一般具有很强的动态特性6，但多数软测量模型为静态模型，如主成分分析（principal component analysis,PCA）模型7、偏最小二乘（partial least squares,PLS）模型8以及高斯混合模型及其拓展模型等9-11。静态软测量模型经历动态过程时，预测效果通常较差。因此，开发针对动态过程的软测量模型在实际应用中具有很大的潜力。常用的动态软测量模型主要分为两类，第一类是基于有限脉冲响应的模型，如动态 PCA 模型、动态 PLS 模型等12-14，这类方法通过对静态数据的增广来描述过程动态特性；另一类则是基于状态空间描述的模型，这类方法利用隐变量之间的信息传播捕捉过程动态特性，典型的模型包括隐马尔可夫模型（hidden Markov model,HMM）15、线性动态系统16-17、概率慢特征分析18-19以及部分的神经网络模型（如循环神经网络20、长短时间记忆21等）。化工生产过程除了具有动态特性外，工况的变化使得数据不再服从高斯分布。HMM由于能同时有效地处理过程的动态特性与非高斯特性，因而在动态过程软测量建模中获得了广泛的应用。例如，刘国海等22利用连续HMM面向发酵过程建立软测量模型，用于测量红霉素发酵过程中的菌体浓度。Liu等15提出了一种基于HMM软测量模型用于测量丙烯酸制备过程中丙烯醛的转化率。Shao等23针对非高斯动态特性以及关键变量缺失问题，提出了一种基于变分贝叶斯框架的半监督隐马尔可夫软测量模型。朱熀秋等24利用改进的连续HMM建立了磁轴承转子位移的软测量模型用于解决传感器成本高、体积大以及可靠性差等问题。Xiao等25提出了一种基于期望最大化算法的分布式半监督HMM用于估计低温变换单元中的一氧化碳浓度。Wang等26针对非高斯离群动态数据，提出了一种鲁棒的贝叶斯HMM。除此之外，Wang等27提出了一种基于HMM的过程监测方法，并通过Tennessee Eastman仿真平台进行了验证。尽管研究者对 HMM 的应用做出了许多拓展，然而，HMM在当前基于工业互联网平台的软测量应用中仍然存在一些问题尚未得到解决。随着工业互联网平台技术的发展与应用，获取大规模数据已不再是难题。虽然这些数据蕴含着丰富的信息，成为HMM获得高精度的前提，但也给HMM的应用带来了新的挑战。首先，面对大规模的化工过程时间序列数据，传统的训练方式中串行的前向与后向学习导致HMM的训练效率非常低下。此外，用于收集数据的传感器和数据传输系统容易发生故障，导致数据缺失，致使所收集的大规模时间序列数据链出现断裂。传统HMM训练方法只能利用局部的连续时间序列数据，无法充分利用收集到的全部数据，导致软测量模型的预测精度不高。针对上述问题，本文提出一种基于分布式贝叶斯隐马尔可夫回归（distributed Bayesian hidden Markov regression,Dis-BHMR）模型的软测量建模方法。进一步针对Dis-BHMR的训练过程提出一种精确的变量后验分布求解方法，并进行严格的理论推导与证明。最后，利用蜡油加氢过程对所提方法的有效性进行验证。1 分布式贝叶斯隐马尔可夫回归模型1.1 模型结构假设xn Rq和yn R分别为第n个样本的输入变量和输出变量，并将其表示为dn=(xn,yn)。整体数据集则可以表示为D=d1,d2,dN，其中N为样本数量。图 1为 Dis-BHMR 概率图模型。可以看出，首先需要将数据集划分为M组，且每一组的数据均为连续的时间序列数据。数据划分方式有两种，如果数据本身是连续时间序列数据，可以对数据进行平均划分，用以保证模型的训练时间最短；如果数据是非连续数据，则可通过人工将数据集在断点处自然划分。将第m(1 m M)组数据表示为Dm=d()m1,第6期d()m2,d()mNm，其中Nm为第m组数据的样本数量。对每个观测量样本d()mn(1 n Nm)引入具有k个离散状态的隐变量z()mnz()mn=(z()mn1,z()mn2,z()mnk)(1)式中，z()mnk0,1，1kK，且满足k=1Kz()mnk=1的约束。隐变量的条件分布设为p(z()m1|)=k=1Kz()m1kk(2)p(z()mn|z()mn-1,A)=j=1Kk=1KAz()mnkz()mn-1,jjk(3)观测变量的条件分布设为p(d()mn|z()mn,)=k=1KN()d()mn|k,kz()mnk(4)式中，N()是高斯分布的概率密度函数；k、k分别是相应的高斯分布的均值和协方差矩阵。Dis-BHMR中参数的先验分布分别设为p()=Dir(|a0)k=1Ka0-1k(5)p(A)=j=1KDir()Aj|b0j=1Kk=1KAb0-1jk(6)p(,)=k=1Kp()k,k=k=1KN()k|m0,()0k-1W(k|W0,v0)(7)式中，Dir()为狄利克雷分布的概率密度函数；W()为威沙特分布的概率密度函数。为简洁表示，将隐变量与模型参数统一记为=Z,A,。1.2 模型训练记模型参数的后验分布为q()，并假设q()可以分解为q()=q(Z)q()q(A)q(,)(8)Dis-BHMR模型中随机变量的联合分布为lnp(D,)=m=1Mn=1Nmlnp()d()mn|z()mn,+m=1Mn=1Nmlnp()z()mn|z()mn-1,A+m=1Mp()z()m1|+lnp()+lnp()+lnp(,)(9)基于变分推框架28，可得到模型参数,A,的变分后验q*()、q*(A)以及q*(k,k)。具体来说q*()=Dir(|a)(10)式 中，a=(a1,a2,ak)，ak=a0+m=1Mz()m1k，代表变量的期望。q*(A)=j=1KDir()Aj|Bj(11)式中，Bj=(Bj1,Bj2,BjK)，Bjk=b0+m=1Mm=2Nmz()mnkz()mn-1,j。q*(k,k)=N(k|mk,()kk-1)W(k|Wk,vk)(12)其中k=0+m=1Mn=1Nmz()mnkmk=()0m0+m=1Mn=1Nmz()mnkd()mnkW-1k=W-10+m=1Mn=1Nmz()mnkd()mn()d()mnT+0m0mT0-kmkmTkvk=v0+m=1Mn=1Nmz()mnk(13)利用模型参数,A,的变分后验，可得到隐变量的后验分布p(z()m1)=p(z()m1|)q*()d=(14)式中，k=akk=1Kak。同理，可得p(z()mn|z()mn-1)=p(z()mn|z()mn-1,A)q*(A)dA=A(15)p(d()mn|z()mn)=k=1Kp()d()mn|z()mnk=1,k,kq*(k,k)dkdk=k=1KSt()d()mn|mk,k,k(16)式中，Ajk=Bjkk=1KBjk；St()为学生 t 分布的概率密度函数；k=kWk()1+-1k，k=vk+1-D，D为观测变量的维度。针对第m组数据，做如下分解图1 分布式贝叶斯隐马尔可夫回归概率图表示Fig.1 Probabilistic graphical representation of the Dis-VBHMR2497第74卷化 工 学 报p(z()mn|Dm)=p()d()m1,d()m2,d()mn,z()mnp()d()m1,d()m2,d()mn()z()mn p()d()mn+1,d()mn+2,d()mNm|z()mnp()d()mn+1,d()mn+2,d()mNm|d()m1,d()m2,d()mn()z()mn(17)求解(z()mn)的前向学习公式为(z()mn)=1c()d()mnp(d()mn|z()mn)z()mn-1(z()mn-1)p()z()mn|z()mn-1 (18)式中，c(d()mn)为式中的标准化项，具体表达式为c(d()mn)=p(d()mn|d()m1,d()m2,d()mn-1)=z()mnp()d()mn|z()mnz()mn-1()z()mn-1p()z()mn|z()mn-1(19)当n=1时(z()m1)=p(z()m1|d()m1)=1c()d()m1p(d()m1|z()m1)p(z()m1)(20)式中，c(d()m1)=p(d()m1)=z()m1p()d()m1|z()m1p()z()m1。求解(z()mn)的后向学习表达式为(z()mn)=1c()d()mn+1z()mn+1(z()mn+1)p(d()mn+1|z()mn+1)p()z()mn+1|z()mn (21)由 式（17）可 知，当n=Nm时，p(z()mNm|Dm)=(z()mNm)，则(z()mNm)=1(22)在完成前向与后向的学习后，可得到隐变量的联合后验分布表达式p(z()mn-1,z()mn|Dm)=1c()d()mn(z()mn-1)(z()mn)p(d()mn|z()mn)p(z()mn|z()mn-1)(23)通过式（17）和式（23）可以得到z()mn=p(z()mnk=1|Dm)z()mn-1,z()mn=p(z()mn-1,j=1,z()mnk=1|Dm)(24)在Dis-BHMR模型中，难以获取精确的变分下界，因此，利用完整数据的似然函数代替变分下界，其具体表达式为J()i)=m=1Mn=1Nmlnp()d()mn|d()m1,d()m2,d()mn-1=m=1Mc()d()mNm (25)式中，()i为在迭代i次时得到的参数。似然函数随着迭代次数单调递增，因此 Dis-BHMR模型的迭代收敛条件可以设置为J()()i-J()()i-1J()()i-1(26)式中，是人为设定的收敛阈值。1.3 关键参数在线预测在完成训练模型训练阶段后，利用所得参数进行在线预测。假设xn是在线预测阶段n时刻的输入变量，xn对应的隐变量zn=zn1,zn2,znkT。利用前向学习的方式可得(zn)=1c()xnp(xn|zn)zn-1(zn-1)p()zn|zn-1(27)其中，c(xn)可由式（19）得到。模型训练阶段得到的参数k=mk=xkyk,k=L-1k=xkxykyxkyk(28)式中，Lk=()vk+1-D Wk()1+-1k。第k个组分中输出变量y关于输入变量x 的条件分布为pk(yn|xn)=N(yn|y|xk,-1y|xk)(29)式中，p()=Gam(|v2,v2)，Gam()为伽马分布的概率密度函数。y|xk=yk+yxk(xk)-1(xn-xk)y|xk=yk-yxk(xk)-1xyk(30)因此，yn的估计值为yn=Eyn=k=1K(zn)y|xk(31)2 案例研究蜡油加氢工艺（wax oil hydrogenation process,WOHP）是炼油厂中去除蜡油中硫、氮、氧等杂质的重要手段。蜡油加氢工艺流程如图2所示，各区蜡油进入缓冲罐后，经过过滤器去除杂质，再与氢气混合后进入加热炉，然后进入反应器，在催化剂的作用下进行加氢反应。反应后的产品经过分离装置进行脱硫和氢气的回收操作，最终得到石脑油、柴油和尾油等产品。尾油中的硫含量是评价尾油质量的关键参数，因此需要对尾油中的硫含量进行监测和控制，以保证产品质量。工厂中尾油中的硫含量往往通过实验室化验分析或质谱仪来测量（图2中Y），前者存在时间延迟大的问题，而后者虽然可以降低测量时延，但存在维护成本高和精度漂移等问题。因此，利用软测量技术对加氢尾油的硫含量进行在线预测，一方面，可以对加氢尾油的产品质量进行实时监测;另一方面，通过对比实时预测数据与质谱仪的测量结果，实现对质谱仪精度的在第6期线校验。基于工艺原理与专家经验，选取了13个易测的过程变量V1V13作为输入变量（图2），输入变量的具体含义如表1所示。图3为蜡油加氢工艺部分输入变量和输出变量的概率密度图，可以看出这些变量的分布几乎没有呈现正态分布或近似正态分布，而是呈现各种强非高斯分布（例如多峰特性），表明该过程的生产数据具有很强的非高斯特性。除了采用Dis-BHMR模型之外，同时选取了并行 狄 利 克 雷 过 程 混 合 模 型29（parallel-Dirichlet process mixture model,P-DPMM）、回声状态网络（echo state network,ESN）模型30以及集中式 BHMR三种相关模型作为对比。由于该工艺流程复杂，所收集的数据带有时间延迟，因此，在构建软测量模型之前需要对输入变量的时延进行优化31。为量化四种模型的计算效率和预测精度，选用模型训练时间（model training time,MTT）用于衡量模表1WOHP中硫含量软测量模型的输入变量Table 1Input variables of soft sensor model for sulfur content in WOHP输入变量V1V2V3V4V5V6V7V8V9V10V11V12V13含义罐区蜡油流量减压蜡油流量焦化蜡油流量加热炉燃料气流量反应蜡油流量混合氢流量反应器入口温度反应器床层温度1反应器床层温度2反应器床层温度3急冷氢流量急冷氢温度反应器出口温度图2 蜡油加氢工艺流程简图Fig.2 Diagram of the WOHP-2-101V200.20.40.60.8概率密度-2-1012V500.20.40.6概率密度-2-101V700.51.0概率密度-2-1012V1100.20.40.6概率密度-1012V1300.10.20.30.4概率密度-2-1012Y00.10.20.30.4概率密度(a)(b)(c)(d)(e)(f)图3WOHP中部分输入变量和输出变量的概率密度图Fig.3Probability density plots of partial input and output variables in WOHP2499第74卷化 工 学 报型的训练效率，均方根误差（root mean square error，RMSE）和决定系数（coefficient of determination,R2）则用于评价四种模型的预测精度，如式（32）所示。RMSE=1Ntstn=1Ntst()yn-yn2R2=1-n=1Ntst()yn-ynn=1Ntst()yn-y(32)式中，yn代表第n个测试集样本的真实值；yn代表第n个测试集样本的预测值；Ntst为测试集数据样本的数量；y 代表测试集中真实值的平均值。从蜡油加氢工艺集散控制系统的数据库中共收集到10062个样本，如图4所示（以标准化的急冷氢流量为例）。将所有样本分为 3部分，即训练集（前8062个样本）、校验集（中间1000个样本）以及测试集（最后1000个样本）分别用于模型训练、模型参数选择以及模型性能测试。从图4可以看出，由于设备通信故障导致长时间的缺失值（306 min），如图4中椭圆处所示。因此在去除缺失值后，训练集中实际可用的数据被自然划分为两组，分别由3928和4032个连续样本组成。集中式的BHMR模型只能利用其中一组数据进行训练，因此得到两个BHMR 模型，分别记为 BHMR-1与 BHMR-2。Dis-BHMR模型则可以实现对两组数据的有效融合，从而充分利用全部的动态数据。同时，为验证 Dis-BHMR的运算效率以及对数据的利用程度，在进行计算时将训练集分别平均划分为 5、10、15 和 20等份。不同模型对尾油硫含量的预测结果如图 5 所示，其中对所预测的硫含量进行了缩放。通过对比图 5(a)、(b)、(e)，可以直观地看出 Dis-BHMR 模型对尾油硫含量的预测效果优于P-DPMM和ESN模型。另一方面，P-DPMM模型虽然能够很好地处理非高斯特性，但相比动态的ESN和Dis-BHMR，精度并不高，表明该蜡油加氢过程具有很强的动态特性。此外，尽管三个模型都用了全部的训练集样本，但Dis-BHMR 模型在尾油硫含量的预测中更具有优势。通过对比图5(c)(e)，可以看出Dis-BHMR模型对真实硫含量的跟踪效果优于只利用部分数据训练的BHMR-1和BHMR-2。表2中对4种软测量模型的预测精度进行了量化，以 M=20 为例，Dis-BHMR 相比于 P-DPMM、ESN、BHMR-1 和 BHMR-2，将预测精度分别提升了 21.9%、19.0%、24.1%和18.6%。表2中还统计了各种模型的训练时间，其中P-DPMM的初始隐状态数量设为20，并行计算从机的02004006008001000测试集样本序列0.40.60.8硫含量真实值预测值(a)P-DPMM 02004006008001000测试集样本序列0.40.60.8硫含量真实值预测值(b)ESN02004006008001000测试集样本序列0.40.60.8硫含量真实值预测值(c)BHMR-1 02004006008001000测试集样本序列0.40.60.8硫含量真实值预测值(d)BHMR-2 02004006008001000测试集样本序列0.40.60.8硫含量真实值预测值(e)Dis-BHMR(M=20)图54种软测量模型对硫含量的预测结果Fig.5Predictions of the sulfur content by four soft sensor models图4 蜡油加氢工艺数据缺失说明与数据集划分Fig.4 Description of missing data of the WOHP and data set 第6期数量设为20；ESN的储存池神经元数量设置为200，泄漏率设置为 10%；BHMR-1/2 和 Dis-BHMR 的收敛阈值设置为10-3，隐状态数量的候选范围设置为K 1,2,10。由表 2 的训练时间可以看出 Dis-BHMR模型使用了全部的训练集，但模型训练效率明显高于利用部分数据的 BHMR-1和 BHMR-2模型。其中在训练Dis-BHMR模型过程中，将数据集平均划分为5、10、15和20组，从表2中可以看出，随着数据分组数量的增加，Dis-BHMR模型预测效果出现轻微波动，其原因可能是不同的数据划分方式，对整体数据的动态特性产生了一定的影响。整体来讲，Dis-BHMR模型的训练效率随着数据分组的增加不断提高，而精度基本不变，其决定系数R2高于 0.75。除此之外，图 6比较了 Dis-BHMR 模型与两个集中式 BHMR在单次训练过程中所花费的训练时间。可以看出，随着隐状态数量 K的增加，BHMR-1和BHMR-2的训练时间显著增加，而Dis-BHMR 训练时间的增加程度相对有限，说明 Dis-BHMR对于大规模强非高斯时间序列数据的训练过程具有巨大的计算优势。3 结论在大规模动态非高斯数据建模过程中，针对模型训练效率低下以及数据缺失的问题，本文提出了一种基于Dis-RHMR的动态软测量建模方法；提出了一种能够获得隐变量精确后验分布的分布式训练方法；利用蜡油加氢工艺对该模型的预测效果和计算效率进行了检验，并将Dis-BHMR与相关模型进行了比较。主要结论如下。（1）本文所提出的Dis-BHMR模型能够在保证预测精度的前提下极大提高模型的训练效率，同时，Dis-BHMR能够有效融合不连续的时间序列数据，相比于串行BHMR模型在预测精度方面具有较高的优势。（2）本文提出的Dis-BHMR模型在有足够的分布式从机时可以显著提高训练效率，特别是在处理大规模高隐藏状态的非高斯数据时有着明显的计算优势。参考文献1秦美华,朱红求,李勇刚,等.基于STA-K均值聚类的电化学废水处理过程离子浓度软测量J.化工学报,2019,70(9):3458-3464.Qin M H,Zhu H Q,Li Y G,et al.Soft-sensor method for ion concentration of electrochemical wastewater treatment based on STA-K-means clusteringJ.CIESC Journal,2019,70(9):3458-3464.2Li Y G,Han W X,Shao W M,et al.Virtual sensing for dynamic industrial process based on localized linear dynamical system models with time-delay optimizationJ.ISA Transactions,2023,133:505-517.3闻超垚,周平.污水处理过程出水水质稀疏鲁棒建模J.自动化学报,2022,48(6):1469-1481.Wen C Y,Zhou P.Sparse robust modeling of effluent quality indices in wastewater treatment processJ.Acta Automatica Sinica,2022,48(6):1469-1481.4Ge Z Q,Song Z H,Ding S X,et al.Data mining and analytics in the process industry:the role of machine learningJ.IEEE Access,2017,5:20590-20616.5周乐,沈程凯,吴超,等.深度融合特征提取网络及其在化工过程软测量中的应用J.化工学报,2022,73(7):3156-3165.Zhou L,Shen C K,Wu C,et al.Deep fusion feature extraction network and its application in chemical process soft sensingJ.CIESC Journal,2022,73(7):3156-3165.6孙凯,隋璘,张芳芳,等.基于非负绞杀与长短期记忆神经网络的动态软测量算法J.控制理论与应用,2023,40(1):83-93.Sun K,Sui L,Zhang F F,et al.Dynamic soft sensor algorithm 246810隐状态数量K01020304050训练时间/sBHMR-1BHMR-2Dis-BHMR图6 隐状态数量对模型训练时间的影响Fig.6 Influence of the number of hidden states on the training time of the model表24种软测量模型对硫含量的预测精度和模型训练时间Table 2Prediction accuracy and model training time of sulfur content by four soft sensor models软测量模型P-DPMMESNBHMR-1BHMR-2Dis-BHMR数据分组数M11115101520RMSE0.04420.04260.04550.04240.03550.03450.03410.0345R20.63920.66470.61740.66740.76700.78040.78500.7796MTT/s19.94088.4688185.5044196.9019100.923354.453735.907428.14232501第74卷化 工 学 报based on nonnegative garrote and long short-term memory neural networkJ.Control Theory&Applications,2023,40(1):83-93.7Khine K L,Nyunt T S.Predictive geospatial analytics using principal component regressionJ.International Journal of Electrical and Computer Engineering(IJECE),2020,10(3):2651-2658.8Liu J X,Sun D S,Chen J H.Comparative study on wavelet functional partial least squares soft sensor for complex batch processesJ.Chemical Engineering Science,2022,254:117601.9Shao W M,Ge Z Q,Song Z H.Soft-sensor development for processes with multiple operating modes based on semisupervised Gaussian mixture regressionJ.IEEE Transactions on Control Systems Technology,2019,27(5):2169-2181.10Shao W M,Ge Z Q,Song Z H,et al.Nonlinear industrial soft sensor development based on semi-supervised probabilistic mixture of extreme learning machinesJ.Control Engineering Practice,2019,91:104098.11Wang J B,Shao W M,Song Z H.Robust inferential sensor development based on variational Bayesian students-t mixture regressionJ.Neurocomputing,2019,369:11-28.12Dong Y N,Qin S J.A novel dynamic PCA algorithm for dynamic data modeling and process monitoringJ.Journal of Process Control,2018,67:1-11.13Shang C,Huang X L,Suykens J A K,et al.Enhancing dynamic soft sensors based on DPLS:a temporal smoothness regularization approachJ.Journal of Process Control,2015,28:17-26.14Shao W M,Han W X,Li Y G,et al.Enhancing the reliability and accuracy of data-driven dynamic soft sensor based on selective dynamic partial least squares modelsJ.Control Engineering Practice,2022,127:105292.15Liu S T,Gao X W,He H F,et al.Soft sensor modelling of acrolein conversion based on hidden Markov model of principle component analysis and fireworks algorithmJ.The Canadian Journal of Chemical Engineering,2019,97(12):3052-3062.16Ge Z Q,Chen X R.Dynamic probabilistic latent variable model for process data modeling and regression applicationJ.IEEE Transactions on Control Systems Technology,2019,27(1):323-331.17Zhou L,Zheng J Q,Ge Z Q,et al.Multimode process monitoring based on switching autoregressive dynamic latent variable modelJ.IEEE Transactions on Industrial Electronics,2018,65(10):8184-8194.18Shang C,Huang B,Yang F,et al.Probabilistic slow feature analysis-based representation learning from massive process data for soft sensor modelingJ.AIChE Journal,2015,61(12):4126-4139.19Ma Y J,Huang B.Bayesian learning for dynamic feature extraction with application in soft sensingJ.IEEE Transactions on Industrial Electronics,2017,64(9):7171-7180.20邵伟明,葛志强,李浩,等.基于循环神经网络的半监督动态软测量建模方法J.电子测量与仪器学报,2019,33(11):7-13.Shao W M,Ge Z Q,Li H,et al.Semisupervised dynamic soft sensing approaches based on recurrent neural networkJ.Journal of Electronic Measurement and Instrumentation,2019,33(11):7-13.21Yuan X F,Li L,Shardt Y A W,et al.Deep learning with spatiotemporal attention-based LSTM for industrial soft sensor model developme