基于宽度学习系统的仓储粮情风险点预测模型.pdf
《基于宽度学习系统的仓储粮情风险点预测模型.pdf》由会员分享,可在线阅读,更多相关《基于宽度学习系统的仓储粮情风险点预测模型.pdf(9页珍藏版)》请在咨信网上搜索。
1、2023 年 6 月第 44 卷第 3 期河南工业大学学报(自然科学版)Journal of Henan University of Technology(Natural Science Edition)Jun.2023Vol.44 No.3收稿日期:2022-07-17基金项目:粮食信息处理与控制教育部重点实验室开放基金项目(KFJJ-2021-103);河南省高等学校重点科研项目(22A510014);河南省高校青年骨干教师培育项目(2020GGJS084);河南工业大学青年骨干教师培育项目作者简介:廉飞宇(1970),男,河南郑州人,副教授,研究方向为智能信息处理。通信作者:付麦霞,副教
2、授,E-mail:。基于宽度学习系统的仓储粮情风险点预测模型廉飞宇,秦瑶,付麦霞河南工业大学 信息科学与工程学院,粮食信息处理与控制教育部重点实验室,河南 郑州 450001摘要:及时的仓储粮情预测是保证储粮安全的必要手段。目前,传统预测方法多从某一侧面对仓储粮情进行预测,无法实现对仓储粮情风险的精准综合评估,而深度学习方法则存在着所需训练样本数量巨大、训练难度高、时间长等瓶颈问题。针对这一现状,采用基于宽度学习的特征提取与融合方法,以及基于增量学习的训练方法(增强节点和输入数据增量算法),结合粮情数据的多模态特征,在宽度学习系统现有框架的基础上,提出了基于宽度学习系统的粮情风险预测模型。结果
3、表明,与现有深度学习模型相比,在不降低预测准确度的前提下,预测模型大大节省了模型训练时间,降低了训练难度。预测模型成为深度学习模型的一种有效替代方案。关键词:粮情风险点;宽度学习系统;多模态数据;增量学习;典型相关性分析中图分类号:TS210文献标志码:A文章编号:1673-2383(2023)03-0104-09DOI:10.16433/j.1673-2383.2023.03.014Risk point prediction model of warehouse grain situation based on broad learning systemLIAN Feiyu,QIN Yao,
4、FU MaixiaCollege of Information Science and Engineering,Key Laboratory of Grain Information Processing and Control,Ministry of Education,Henan University of Technology,Zhengzhou 450001,ChinaAbstract:Timely forecast of stored grain condition is a necessary means to ensure the safety of stored grain.A
5、t present,traditional forecasting methods mostly predict the stored grain situation from one side,and cannot achieve accurate comprehensive assessment of the risk of stored grain situation.However,deep learning methods have bottleneck problems such as a large number of required training samples,high
6、 train-ing difficulty and long training time.In view of this situation,by using the feature extraction and fusion method based on broad learning and the training method based on incremental learning,and combined with the multi-modal characteristics of grain situation data,a grain situation risk pred
7、iction model was proposed on the basis of the existing framework of the broad learning system.The results showed that,compared with the existing deep learning model,the training difficulty and time-consuming of the model were greatly reduced without reducing the accuracy of prediction.The predictive
8、 model proposed in the paper may be an effective alternative to deep learning models.Key words:grain situation risk point;broad learning system;multi-modal data;incremental learning;canonical correlation analysis粮食储备是保证我国粮食安全的重要举措。为了保证储粮安全,除了要实时监测储粮状态(简称粮情),还需要及时地预测仓储粮情的变化趋势。仓储粮情风险点预测,就是要预测一个时第 44 卷
9、第 3 期廉飞宇,等:基于宽度学习系统的仓储粮情风险点预测模型间点,储粮到了这个时间点,极有可能发生霉变和品质劣变而导致不可食用,必须进行人工处理。仓储粮情风险点的预测准确度与多种因素有关。相关研究表明,仓储粮情预测是一个十分复杂的问题1,也是目前粮食储藏领域迫切需要解决的关键科技问题。对于预测问题,传统机器学习的方法有线性回归(LR)、支 持 向 量 回 归(SVR)2、随 机 森林3、ARIMA4、灰色预测模型5、BPNN6等,已经在很多领域得到了广泛应用。然而,粮情数据是十分复杂的,既有静态数据,又有动态数据,数据量庞大,数据的属性多样、特征多样,基于传统机器学习方法的预测模型很难对多源
10、的大量粮情数据做出有效处理,从而导致这类预测模型通常只能采用部分数据对仓储粮情进行片面的预测,难以满足对“仓储粮情风险点”预测的实际需要。目前,深度学习算法得到了很大的发展和广泛的应用,其突出的优势在于可以自主地学习样本中隐含的深层次抽样特征,能够大大提高模型预测性能,从而成为构建仓储粮情风险点预测模型的一个不错的选择7-8。深度神经网络的发展得益于高性能图形处理单元(GPU)的应用,但 GPU 是较昂贵的计算资源,在面临大数据训练时,深度神经网络需要学习的权重参数非常多,且由于其较多的中间层,使得深度神经网络在应用 BP 算法进行训练时不仅十分耗时,而且也易于碰到梯度消失或梯度爆炸的问题。粮
11、情数据属于大数据,数据不仅维数高、规模大,而且大多呈动态增长态势,这无疑给利用粮情大数据训练基于深度学习的粮情风险点预测模型带来了巨大的困难。因此,构建一种简洁的、易于训练的神经网络模型,使其能够在保证模型精度的前提下,适应大规模动态粮情数据的建模和训练是十分必要的。宽度学习 9-11的提出从理论上为神经网络的出现提供了可能。采用宽度学习方式的神经网络称为宽度学习系统(broad learning system,BLS),它是在原有浅层神经网络的基础上,把网络向宽度方向拓展,并且把隐藏层拓展为由特征节点和增强节点组成的级联结构。宽度学习系统的训练通过对隐藏层到输出层的权重求伪逆完成,大大快于梯
12、度下降法的求解速度,同时,宽度学习系统还可采用增量学习的方法快速更新模型12。由于宽度学习系统的这些优势,使其一经提出就受到重视,并已被成功应用于图像分类13-14、模式识别15、电力预测16、智能交通17等领域。作者基于现有的宽度学习基本理论,采用基于宽度学习的特征提取与融合方法,以及基于增量学习的训练方法,结合粮情数据的多模态特征,提出了基于宽度学习系统的粮情风险预测模型,有效地改善了深度学习方法模型复杂、训练速度慢、所需数据集规模大等不足,可作为粮情风险预测的一个可行的替代方案。1宽度学习系统1.1宽度学习系统基本网络结构宽度学习系统(BLS)是在 RVFLNN(随机向量函数链式神经网络
13、)18的基础上产生的,其网络结构如图 1 所示。BLS 的网络结构仍沿袭了传统的浅层神经网络的 3 层结构,不同的是 BLS 对其隐藏层进行了宽度方向的拓展,即隐藏层由多组特征节点和增强节点组成。需要说明的是,输入数据 X 不是直接与特征节点相连,而是经过某种映射后作为特征节点的值。图 1宽度学习系统的基本网络结构Fig.1Basic structure of broad learning system1.2输入层在 BLS 输入层,神经元个数等于输入数据的属性数。如输入数据有 M 个属性,则第 i 个输入数据可表示为向量 xi=(xi1,xi2,xiM)。如果一共有 N 条这样的输入数据,则
14、有 N 个 M 维的输入向量,可 用 矩 阵 表 示 为 X=(x1,x2,xi,xN)T。BLS 对输入数据 X 进行批量处理,送入特征节点进行变换。由于输入数据的各属性具有不同的类型,为了方便处理,输入的原始数据一般都要经过归一化处理。1.3隐藏层1.3.1特征节点由图 1 可知,BLS 的隐藏层是一个由特征节点层和增强节点层构成的级联结构。设其特征节点层由 n 组节点 Z1,Z2,Zn组成,且第 Zi组节点又由 q 个神经元组成,则输入数据 X 经过 Zi501河南工业大学学报(自然科学版)2023 年的特征映射后可表示:Zi=i(XWei+ei),i=1,2,n,(1)式中:i是激活函
15、数,可以选用常见的 Sigmoid 函数、ReLU 函数等,各组映射的激活函数可以不同;Wei RM q是网络的权重矩阵,初始值可随机产生;ei RN q是偏置矩阵,初始值也是随机的,并且这两个矩阵可通过稀疏自编码器微调以提取输入数据中更为稀疏的特征。1.3.2增强节点BLS 的增强节点层可表示为 H1,H2,Hm,假设其中的第 j 组增强节点 Hj包含了 r 个神经元,则有来自特征节点层的矩阵 Zn,经增强节点层后可得:Hj=j(ZnWhj+hj),j=1,2,m,(2)式中:j为激活 函数,可以 选 用 Sigmoid 函 数、ReLU 函数等;Whj RNqr为权重矩阵;hj RN r为
16、偏置矩阵,其初始值均为随机值。1.4输出层BLS 的输出层既可以处理回归问题也可以处理分类问题。对于分类问题,BLS 可采用独热码进行标签编码。如输入样本 xi的标签为 yi=(yi1,yi2,yiQ),Q 为 类 别 数,则 独 热 码 0,0,1,0 表示输入样本是第 3 类。所有的标签可表示:Y=(y1,y2,yi,yN)T,(3)式中:Y 为标签矩阵。输入 样 本 X 经 过 BLS 后,得 到 输 出 概 率矩阵:Y=(y1,y2,yi,yN)T,(4)式中:yi表示样本 xi的标签是 yi的概率。1.5BLS 的建模和求解在 BLS 中,只有权重矩阵 Wm需要训练,减少了 BLS
17、的 训 练 量。BLS 的 训 练 基 于 以 下 目 标函数:argminWmY-Y22+2Wm22(),(5)式中:Y-Y22表示训练误差,训练过程是使其最小化的过程;为正则化系数,取值范围为 0 1;2Wm22是正则化项,用于防止模型过拟合。2BLS 的改进 增量学习增量学习是指当有新增样本时,模型必须重新进行训练,而只需针对新增数据做增量的训练或局部的更新,这种训练方式可以使模型的更新更快捷,模型更新的代价也更小。文献19提出了动态更新的神经网络训练算法,该算法通过求取伪拟矩阵20,给出了在有新增输入数据时,连接权重的快速更新方法。此后,增量学习也应用到了随机森林21、SVM22等机器
18、学习算法中,逐渐成为机器学习领域中的一种重要的学习方法。将增强节点增量算法(EIBLS)和输入数据增量算法(IIBLS)用于改进传统宽度学习系统,以提高BLS 模型分类精度。2.1EIBLS 算法EIBLS 算法是保持网络中特征节点数量不变,增加增强节点的数量,以达到提升模型特征提取能力的学习算法,算法示意如图 2 所示。图 2BLS 的增强节点增量算法Fig.2Enhanced node incremental algorithm of BLS当模型增加了若干个增强节点,模型的隐藏层矩阵将由 A=ZnHm 扩展为 Am+1=A|(ZnWm+1+m+1),其中 Wm+1和 m+1是新增的权重矩
19、阵和偏置矩阵,是激活函数,符号“”表示两矩阵并置。由伪拟运算得到隐藏层矩阵的伪拟矩阵:(Am+1)+=A+-DBTBT,(6)式 中:D=A+(ZnWhm+1+hm+1);BT=C+,C 0(1+DTD)-1BTA+,C=0,C=(ZnWhm+1+hm+1)-AD,C+为矩阵 C 的伪逆。根据式(5)、(6),将隐藏层与输出层的连接权重 Wm+1更新:Wm+1=Wm-DBTYBTY。(7)2.2IIBLS 算法传统深度学习模型在输入数据增加时一般需要重新训练模型,费时费力;宽度学习模型在处理这一问题上表现了特殊的优势,可以采用IIBLS 算法快速更新模型。如图 3 所示,设 BLS 新增的数据
20、为 Xa,Amn为601第 44 卷第 3 期廉飞宇,等:基于宽度学习系统的仓储粮情风险点预测模型原有的隐藏层矩阵,包括 n 组特征映射和 m 组增强映射。因新增的数据导致隐藏层更新:Ax=(XaWe1+e1),(XaWen+en)(ZnxWh1+h1),(ZnxWhm+hm),(8)式中:Znx=(XaWe1+e1),(XaWen+en)是原有 BLS 特征节点的更新部分;Wei,Whj,ei,hj是随机生成的矩阵。更新后的隐藏层矩阵:xAmn=AmnATx,(9)对应的伪逆矩阵:(xAmn)+=(Amn)+-BDTB,(10)式中:DT=ATx(Amn)+;BT=C+,C 0(1+DTD)
21、-1(Amn)+D,C=0,C=ATx-DTAmn。将最终权重xWmn更新:xWmn=Wmn+(YTa-ATxWmn)B,(11)式中:YTa为新增数据 Xa对应的标签。图 3BLS 的输入数据增量算法Fig.3Input data increment algorithm of BLS3基于 BLS 的粮情风险预测模型基于 BLS 的粮情风险预测模型框架如图 4所示。仓储粮情数据是以温度、湿度、气体组成、虫情等多种模态形式存在的。通过融合多种模态的信息进行机器学习是模型构建的必要步骤。但现有宽度学习系统及其改进算法在进行模式分类或预测时还都是只针对单模态的数据。结合粮情数据的多模态特征,在宽度
22、学习系统现有框架的基础上,提出基于宽度学习系统的粮情风险预测模型,模型如图 4 所示。该模型旨在通过学习和融合多种模态的数据以提高预测精度。由图 4 可知,粮情风险预测模型在宽度学习系统的基础上增加了典型相关性分析(CCA)模块和特征融合节点。首先对多种模态的粮情数据进行初步的特征提取,然后输入到相关性分析图 4仓储粮情风险预测模型框架Fig.4Framework of warehouse grain situation risk prediction model模块进行相关性学习,再经过特征融合节点进行特征的融合,最后经输出层实现模式分类。该模型的优势在于相比于单一模态的分类模型,可以通过充
23、分利用多模态的融合特征得到更高的分类性能。CCA 可以对两个数据集进行融合降维,把两个不同模态的数据集按照某一关联规则映射到同一个数据空间,如果是多个模态的数据集,可以采用级联的方式进行融合和映射。CCA 的数学定义如下:假设两个 n 维的数据集 X=x1,x2,xn,Y=y1,y2,yn,通过映射基向量 u 和 v 的变换后,分别得到新的坐标空间,定义数据集 X 和 Y 的相关性参数:=maxu,vuTxyvuTxxuvTyyv,(12)式中:xy和xx、yy分别为类间和类内协方差矩阵,即xy=ExyT=1nni=1xiyiTxx=ExxT=1nni=1xixiTyy=EyyT=1nni=1
24、yiyiT。(13)式(13)的相关计算实际上是一个优化问题,可以转化为特征值的求解问题。假定模型的输入样本数为 N,其特征节点和增强节点个数分别为 N1和 N2,则一种模态数据的特征表达式:X1=Z1H1,它由一个宽度学习单元生成,其特征节点和增强节点分别可表示:Z1=zizi RN1,i=1,N 和H1=hjhj RN1,j=1,N;同理,另一种模态数701河南工业大学学报(自然科学版)2023 年据的特征表达式、特征节点和增强节点可以表示:X2=Z2H2,Z2=zi|zi RN2,i=1,N和 H2=hjhjRN2,j=1,N,由另一个宽度学习单元生成。为了更好地学习两种模态数据的共同特
25、征,需要先将它们混合再输入融合节点层。考虑到处理的方便性,仅简单地将两种模态的数据并联起来,作为最后提取的总特征和融合节点的净输入,即FN 2(N1+N2)=X1N(N1+N2)X2N(N1+N2)。(14)显然,F 就是融合节点层的新输入。为了更好地融合不同模态的数据,引入融合节点映射层,借鉴传统神经网络的非线性拟合将不同模态特征抽象融合,最后利用输出矩阵进行特征学习,以提高模型分类性能。假定融合层节点的个数为 N3,则融合节点层输出:TN N3=(FN 2(N1+N2)W2(N1+N2)N3t+bNt N3),(15)式中:()是一个 S 型非线性激活函数;Wt为融合节点层的权重;bt表示
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 宽度 学习 系统 仓储 风险 预测 模型
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。