欢迎来到咨信网! | 成为共赢成为共赢 咨信网助力知识提升 | 自信网络旗下运营:咨信网 自信AI创作助手 自信AI导航
咨信网
全部分类
  • 包罗万象   教育专区 >
  • 品牌综合   考试专区 >
  • 管理财经   行业资料 >
  • 环境建筑   通信科技 >
  • 法律文献   文学艺术 >
  • 学术论文   百科休闲 >
  • 应用文书   研究报告 >
  • ImageVerifierCode 换一换
    首页 咨信网 > 资源分类 > PDF文档下载
    分享到微信 分享到微博 分享到QQ空间

    基于可变时序移位Transformer-LSTM的集成学习矿压预测方法.pdf

    • 资源ID:577521       资源大小:5.41MB        全文页数:7页
    • 资源格式: PDF        下载积分:10金币
    微信登录下载
    验证码下载 游客一键下载
    账号登录下载
    三方登录下载: QQ登录
    二维码
    微信扫一扫登录
    下载资源需要10金币
    邮箱/手机:
    验证码: 获取验证码
    温馨提示:
    支付成功后,系统会自动生成账号(用户名为邮箱或者手机号,密码是验证码),方便下次登录下载和查询订单;
    支付方式: 支付宝    微信支付   
    验证码:   换一换

    开通VIP
     
    账号:
    密码:
    验证码:   换一换
      忘记密码?
        
    声明    |    会员权益      获赠5币      写作写作
    1、填表:    下载求助     索取发票    退款申请
    2、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
    3、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
    4、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
    5、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
    6、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
    7、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。

    基于可变时序移位Transformer-LSTM的集成学习矿压预测方法.pdf

    1、基于可变时序移位 TransformerLSTM 的集成学习矿压预测方法李泽西(西安科技大学通信与信息工程学院,陕西西安710054)摘要:现有的矿压预测模型多为依赖固定长度时序序列特征的单一预测模型,难以准确捕捉矿压时序数据的复合特征,影响矿压预测的准确度。针对该问题,提出一种基于可变时序移位 Transformer长短时记忆(LSTM)的集成学习矿压预测方法。基于拉依达准则和拉格朗日插值法,剔除矿压监测数据中的异常值,插入缺失值,并进行归一化预处理;提出可变时序移位策略,划分不同尺度的矿压时序数据,避免固定长度时序序列可能存在的数据偏移问题;在此基础上,构建基于 TransformerLS

    2、TM 的集成学习矿压预测模型,通过结合注意力机制和准确的时序特征表示能力,多层次捕捉矿压变化规律的动态特征,采用集成学习的投票算法,联合预测矿压数据,克服单一预测模型的局限性。实验结果表明:采用集成学习的投票算法可降低矿压预测平均绝对误差(MAE)和均方根误差(RMSE)的波动性,有效减小不同尺度特征序列对矿压预测结果的敏感性影响;TransformerLSTM 模型在 2 个综采工作面顶板矿压数据集上预测结果的 MAE 较 Transformer 模型分别提高了 8.9%和 9.5%,RMSE 分别提高了 12.7%和 16.5%,且高于反向传播(BP)神经网络模型和 LSTM 模型,有效提

    3、升了矿压预测准确度。关键词:矿压预测;可变时序移位;TransformerLSTM 模型;集成学习;投票算法中图分类号:TD323文献标志码:AEnsemblelearningminepressurepredictionmethodbasedonvariabletimeseriesshiftTransformer-LSTMLIZexi(CollegeofCommunicationandInformationTechnology,XianUniversityofScienceandTechnology,Xian710054,China)Abstract:Theexistingminepressu

    4、repredictionmodelsaremostlysinglepredictionmodelsthatrelyonfixedlengthtimeseriesfeatures.Itisdifficulttoaccuratelycapturethecompositefeaturesofminepressuretimeseriesdata,whichaffectstheaccuracyofminepressureprediction.Tosolvethisproblem,anensemblelearningminepressurepredictionmethodbasedonvariableti

    5、meseriesshiftTransformer-longshort-timememory(LSTM)isproposed.BasedontheLaidacriterionandLagrangepolynomialmethod,theoutliervaluesintheminepressuremonitoringdataareeliminated,andthemissingvaluesareinserted.Thennormalizedpreprocessingisperformed.Thepaperproposesavariabletimeseriesshiftstrategytodivid

    6、eminepressuretimeseriesdataatdifferentscales.Itavoidspotentialdatashiftissuesthatmayexistinfixedlengthtimeseries.Onthisbasis,theensemblelearningmine pressure prediction model based on Transformer-LSTM is constructed.By combining the attentionmechanism and the accurate time series feature representat

    7、ion capability,the dynamic features of the minepressurechangelawarecapturedatmultiplelevels.Thevotingalgorithmofensemblelearningisusedtojointlypredicttheminepressuredatatoovercomethelimitationsofasinglepredictionmodel.Theexperimentalresultsshowthatthevotingalgorithmofensemblelearningcanreducethevola

    8、tilityofmeanabsoluteerror(MAE)and收稿日期:2023-05-10;修回日期:2023-07-10;责任编辑:李明。作者简介:李泽西(2001),男,湖北孝感人,研究方向为人工智能、电子信息技术在煤矿领域的应用,E-mail:。引用格式:李泽西.基于可变时序移位 TransformerLSTM 的集成学习矿压预测方法J.工矿自动化,2023,49(7):92-98.LIZexi.EnsemblelearningminepressurepredictionmethodbasedonvariabletimeseriesshiftTransformer-LSTMJ.Jo

    9、urnalofMineAutomation,2023,49(7):92-98.第49卷第7期工矿自动化Vol.49No.72023年7月JournalofMineAutomationJul.2023文章编号:1671251X(2023)07009207DOI:10.13272/j.issn.1671-251x.18142root mean square error(RMSE)of mine pressure prediction.It effectively reduces the sensitivity impact ofdifferentscalefeatureseriestothemin

    10、epressurepredictionresults.ComparedwiththeTransformermodel,theMAEoftheTransformer-LSTMmodelspredictionresultsontworoofminepressuredatasetsoffullymechanizedworkingfacesimprovesby8.9%and9.5%respectively,andtheRMSEhasincreasedby12.7%and16.5%respectively.Theaboveindexesarealsohigherthanthoseofbackpropag

    11、ation(BP)neuralnetworkmodelandLSTMmodel.Themethodproposedinthepapereffectivelyimprovestheaccuracyofminepressureprediction.Key words:mine pressure prediction;variable time series shift;Transformer-LSTM model;ensemblelearning;votingalgorithm 0引言随着煤炭开采深度的增加,矿压显现规律的研究仍是煤炭开采的重要课题。矿压是煤矿生产中不可避免的问题,其变化规律的研究

    12、能够揭示煤炭开采的物理本质和变形机制1,为煤矿安全生产提供科学依据。因此,针对矿压预测问题的研究持续受到关注2。目前,矿压预测方法已由早期的物理力学、统计学等方法3逐步转变为以浅层神经网络预测模型4-5、深度神经网络预测模型和其他类别机器学习模型6-8为主的预测方法。国内外学者针对综采工作面矿压预测问题进行了大量研究工作,主要分为 3 类:基于物理理论的矿压预测方法。惠艳荔9利用电磁辐射技术预测采煤工作面的矿压,通过对采煤机推进过程中产生的采动应力分布情况进行分析,成功预测了矿压发生的情况。李静等10提出了一种基于 CT 技术的矿压灾害预测方法,利用 CT 技术反演待开采工作面的应力场,预测可

    13、能发生矿压事故的区域范围,并实时监测和分析矿震特征,提前预报矿压事故的发生。基于模糊数学的矿压预测方法。LiYe 等11利用模糊认知图技术构建了一种矿压预测模型,在引入遗漏正则化和权重正则化基础上,提出了实数编码遗传算法,用于矿压预测。霍丙杰等12建立了矿压显现分级预测指标体系,并利用模糊数学理论构建了矿压显现强度分级预测模型,能够准确刻画坚硬顶板厚煤层的矿压显现特征。基于机器学习的矿压预测方法。赵铭生等13利用遗传算法优化反馈神经网络,建立了矿压毁坏高度的预测模型,在矿压破坏深度预测方面具有更高的预测精度。赵毅鑫等14基于实测矿压数据,利用长短时记忆(LongShort-TermMemory

    14、,LSTM)模型对工作面支架工作阻力、初次来压与周期来压等矿压显现规律进行分析,实验结果表明该方法较基于反馈神经网络的预测方法具有更高的准确性。曾庆田等15提出了融合相邻多架影响的 Prophet+LSTM 矿压数据预测模型,通过数字信号处理技术减少噪声和随机误差,结合 Prophet和 LSTM 模型特性,通过添加额外回归变量融合相邻支架矿压数据,构建组合模型,实现工作面矿压预测,通过实验验证了该模型优于反馈神经网络和自回 归 积 分 滑 动 平 均 模 型(AutoregressiveIntegratedMovingAverageModel,ARIMA),具有更强的稳定性和准确性。李泽萌1

    15、6研究了 LSTM 模型时间窗设置对综采工作面矿压预测精度的影响,通过优化历史数据和预测数据长度,显著提高了预测结果的准确性。目前,基于机器学习的矿压预测方法已广泛应用于采矿领域。矿压数据具有时序性和非线性特性,其变化受多种因素(采煤工艺、地质条件等)的影响。而基于机器学习的矿压预测方法大多采用单一预测模型,较依赖固定长度时序序列特征,难以有效捕捉其复合特征,影响矿压预测的准确度。为解决该问题,本文以综采工作面实测的顶板矿压数据为研究对象,提出了一种基于可变时序移位 TransformerLSTM 的集成学习矿压预测方法:基于拉依达准则和拉格朗日插值法,剔除矿压监测数据中的异常值,插入缺失值,

    16、并进行归一化数据预处理;提出可变时序移位策略,通过划分不同尺度的矿压时序数据,避免固定长度时序序列可能存在的数据偏移问题;构建基于 TransformerLSTM 的集成学习矿压预测模型,通过多层次捕捉矿压变化规律的动态特征,联合预测矿压数据,克服了单一预测模型的局限性。1矿压预测方法基于可变时序移位 TransformerLSTM 的集成学习矿压预测方法主要包括矿压数据预处理、基于可变时序移位的矿压数据划分、基于 TransformerLSTM 模型的集成学习矿压预测 3 个部分,如图 1所示。1.1矿压数据预处理现代化煤矿企业在井下施工时通常会配备监测系统,可实时记录开采环境及设备状态参数

    17、。但当监测设备发生系统故障或受到其他因素干扰时,监测数据可能会受到显著的扰动,产生与真实值存在2023年第7期李泽西:基于可变时序移位 TransformerLSTM 的集成学习矿压预测方法93较大差异的异常数据,影响监测数据后续应用。因此,需对监测数据进行针对性的预处理和数据清洗。采用拉依达准则17检测矿压数据中的异常值,其对于大量的矿压监测数据具有显著效果。该方法通过计算数据的标准偏差,并根据一定的概率设置范围实现异常数据检测。超过该范围的误差称为严重误差,达到这种严重误差的数据即为异常数据。异常值检测公式为=vuuuuutni=1(xix)2n1(1)|xix|3(2)nxiix式中:为

    18、标准偏差;为矿压数据总数;为第 个矿压数据;为矿压数据的算术平均值。煤矿井下监测设备易受到干扰,引起系统操作故障,甚至使传感器脱离系统,导致矿压监测数据缺失。采用拉格朗日插值方法18插值缺失的矿压数据,从而减小误差,提高数据的完整性和准确性。在此基础上,考虑矿压为多变量数据,存在不同量纲和数值的差异,直接应用会对模型训练和测试造成影响。因此,采用数据归一化方法(式(3)将矿压样本数据映射到0,1区间,保证不同变量之间的数值范围相同,减小对于数据的偏好和权重分配,保证模型预测的精度和稳定性。xi=xixminxmaxxmin(3)xiixminxmax式中:为第 个矿压数据的归一化值;为矿压数据

    19、最小值;为矿压数据最大值。1.2基于可变时序移位的矿压数据划分考虑矿压数据通常包含复杂的时间序列模式和周期性变化,提出一种可变时序移位策略,避免固定长度时序序列可能存在的数据偏移问题。P=X1,X2,Xn Xm假设综采工作面某液压支架监测数据含 n 个按时间顺序排列的数据,时间序列为,为该支架在 m 时刻的矿压监测值,m=1,2,PP(m)=Xmt+1,Xmt+2,Xm1,Xmn。若以 m 时刻为当前时刻,则矿压数据 前 t 时刻的时间序列可表示为。为了划分可变时序移位的矿压数据,以 m 时刻监测数据为基础,通过移动非固定长度的窗口,获取不同尺度的时序序列:y1=X1,X2,Xmy2=X2,X

    20、3,Xm.yk=Xk,Xk+1,Xm(4)yk式中为尺度 k 的时序序列。进行矿压预测时,将不同尺度的时序序列依次注入基于 TransformerLSTM 的集成学习矿压预测模型。1.3基于 TransformerLSTM 的集成学习矿压预测模型Transformer 模型是一种基于自注意力机制的序列建模模型,由编码块和解码块组成,每个块都由多个独立的编码层(Encoder)或解码层(Decoder)堆叠构成19。每个编码层包含多头注意力层(Multi-HeadAttention)、全 连 接 层(FFN)和 正 则 化 层(Add&Norm),而每个解码层则包含 2 个多头注意力层。Tran

    21、sformer 模型采用位置编码(PositionalEncoding)策略获取输入序列中的相对位置信息,通过多头注意力机制实现在不同子空间上关注不同的细节信息。LSTM 模 型 是 一 种 循 环 神 经 网 络(RecurrentNeuralNetwork,RNN)的变体,专门设计用于处理和建模具有时序特征的序列数据20。相较于其他类型的 RNN 模型,LSTM 模型能够更好地捕捉时序数据中的长期依赖关系,保证模型的准确性,目前已广泛应用于矿压预测。为了更好地捕捉时序数据中潜在的矿压变化规律,基于传统 Transformer 模型结构,将解码器修改为全连接层,并在解码器中引入 1 个 LS

    22、TM 模块,构建了 TransformerLSTM 模型,如图 2 所示。在此基础上,将不同尺度的矿压数据分别注入Transformer 模型的多头注意力机制中,然后计算不矿压数据可变时序移位的序列划分基于 TransformerLSTM 的集成学习矿压预测模型TransformerLSTM 模型集成学习预测值 Y1预测值 Y2预测值 Yk投票算法矿压预测403530矿压/MPa真实值预测值2520220 222 224测试数据序号226 228 230EncoderAdd&NormAdd&NormAdd&NormAdd&NormMulti-HeadAttentionPositionalEnc

    23、odingFeedForwardtFeedForwardLSTMDecoderLinear时序移位序列 1X1,X2,Xm Xm+1X2,X3,Xm Xm+1Xk,Xk+1,Xm Xm+1序列 2序列 k不同尺度的时序序列数据预处理异常值处理缺失值处理图1基于可变时序移位 TransformerLSTM 的集成学习矿压预测方法Fig.1EnsemblelearningminepressurepredictionmethodbasedonvariabletimeseriesshiftTransformer-LSTM94工矿自动化第49卷同时序序列的特征权重。这些权重用于局部注意力机制,以便模型在

    24、每个时间点仅关注该尺度内时序数据的局部矿压变化特征,最终捕捉到不同尺度下的多层次矿压变化特征。在上述过程中,通过采用相对位置编码,使 Transformer 模型能够对时序数据进行编码。由此,可将不同尺度的时序数据特征通过 Transformer 模型输出,并利用拼接方式实现矿压变化特征的向量表示,以便后续矿压预测。具体过程如下。XmXm1)对于输入的时序数据 Xm,将其分解成不同尺度的时序序列片段,每个片段在时间维度上关注某个局部时序序列特征,由此得到时序序列矩阵。将注入 Transformer模型中的多头注意力机制,得到局部特征表示 Am。Am=MultiHeadAttention(Xm)

    25、(5)SmM(m)2)分别计算不同时序序列的特征权重,用于计算局部自注意力分数。Sm=Softmax(ReLU(WqAm)TWkAm)(6)M(m)=nm=1SmWvAm(7)Wq,Wk,Wv式中为权重矩阵。3)将 Transformer 模型输出的各特征向量进行拼接,构成不同尺度下矿压数据的特征向量表示 H。4)将特征向量表示 H 注入 LSTM 模型,进一步抽取时序特征。Ytm=LSTM(H,Wm,Yt1m,m)(8)YtmLSTM()Wmm式中:为 t 时刻的隐藏状态;为 LSTM 模型的时序特征提取函数;为 LSTM 模型训练过程中学习的参数矩阵;为 LSTM 模型的超参数。p1,p2

    26、,pm通过上述过程,针对不同尺度的矿压序列可得预测值。引入集成学习方式,通过投票算法计算出最终矿压预测结果:p=1mmj=1pj(9)采用集成学习的投票算法可克服单一预测模型自身的局限性,提高矿压预测的准确性和稳定性。2实验及结果分析2.1数据集采用某煤矿 2 个不同位置的综采工作面上液压支架压力采集器监测数据进行实验。2 个综采工作面均布置 121 台液压支架。从 1 号液压支架开始,每间隔 5 台液压支架装设 1 台压力采集器,监测液压支架左右柱压力,并以此作为 1 个矿压测站。1 个工作面上共设置 25 个测站,局部如图 3 所示。胶带运输巷综采工作面13 号测站12 号测站11 号测站

    27、10 号测站9 号测站8 号测站7 号测站6 号测站5 号测站4 号测站3 号测站2 号测站1 号测站61 号架56 号架51 号架46 号架41 号架36 号架31 号架26 号架21 号架16 号架11 号架6 号架1 号架辅助运输巷图3综采工作面矿压测站局部布置Fig.3Locallayoutofminepressuremeasuringstationsinfullymechanizedworkingface通过分析综采工作面各液压支架压力实测数据发现,工作面两侧液压支架压力监测数据明显小于中间数据。这与文献21中“顶板岩层OX型破断规律对液压支架工作阻力的影响”相符,即工作面中部液压支

    28、架的工作阻力明显比工作面上部和下部液压支架的工作阻力大。因此,分别将 2 个综采工作面中部 13 号测站的监测数据作为时序矿压数据预测的研究对象,构建数据集 1 和数据集 2。对矿压数据进行预处理之后,数据集 1 共有 15640 条矿压数据,数据集 2 共有 20360 条矿压数据。基于上述2 个数据集,验证本文方法的预测效果。部分矿压监测数据见表 1。实测矿压数据由6 个字段组成:时间、支架编号、采集器编号、左柱压力、右柱压力、整架压力。其中,时间表示压力采集器采集数据的时间点;支架编号表示液压支架序号;采集器编号表示该液压支架上压力采集器的编号;左柱压力表示在同一时间下压力采集器所采集的

    29、液Add&NormEncoderFFNAdd&NormMulti-HeadAttentionPositional EncodingInputAdd&NormLinear&SoftmaxOutputFFNAdd&NormDecoderLSTM图2TransformerLSTM 模型结构Fig.2Transformer-LSTMmodelstructure2023年第7期李泽西:基于可变时序移位 TransformerLSTM 的集成学习矿压预测方法95压支架左柱油缸压力;右柱压力表示采集的液压支架右柱油缸压力;整架压力表示在当前时间点该液压支架所受的工作阻力,可根据左右柱压力来计算,即pall=

    30、pl+pr2(10)式中 pall,pl,pr分别为整架压力、左柱压力、右柱压力。表113 号测站部分矿压监测数据Table1PartofmeasuredminepressuredataofNo.13station时间支架编号采集器编号左柱压力/MPa右柱压力/MPa整架压力/MPa20200506T12:25:00611322.4019.3020.8520200506T12:30:00611322.1018.6020.3520200506T12:35:00611322.1018.1020.1020200506T12:40:00611321.9017.2019.5520200506T12:45

    31、:00611321.9016.7019.30在每条矿压数据中,pall,pl,pr与检测时间相对应,因此均为时序矿压数据。整架压力表示液压支架在不同时刻承受的负荷,将其作为预测指标。2.2评价指标选择平均绝对误差(MeanAbsoluteError,MAE)和均方根误差(RootMeanSquareError,RMSE)对模型预测精度进行评价。EMAE=1nnt=1|pt pt|(11)ERMSE=vt1nnt=1(pt pt)2(12)pt pt式中:EMAE,ERMSE分别为预测结果的 MAE 和 RMSE;为 t 时刻矿压真实值;为 t 时刻矿压预测值。通常来说,MAE 和 RMSE 越

    32、小,表示模型预测精度越高,模型预测效果越好。2.3对比实验对不同矿压序列下的预测指标进行可视化分析,结果如图 4 所示。可看出针对可变尺度的矿压数据,矿压预测结果的 MAE 和 RMSE 波动明显,说明不同尺度的时序特征序列对于矿压预测的准确度有较大的敏感性。因此,采用集成学习的投票算法对多个预测结果进行融合平均,以降低不同尺度的特征序列因噪声等因素对矿压预测结果产生的干扰。基于该算法得到的矿压预测结果总体趋势与未采用该算法时近似,但波动明显减小,有效降低了不同尺度对矿压预测结果的敏感性影响,保证矿压预测准确度。1.251.301.20MAE/MPa1.151.102046810可变序列尺度未

    33、使用投票算法使用投票算法12141618202.2252.1752.125RMAE/MPa2.0752.0252046810可变序列尺度未使用投票算法使用投票算法1214161820图4不同矿压序列的预测结果Fig.4Predictionresultsofdifferentminepressureseries选择反向传播(BackPropagation,BP)神经网络13、LSTM14、Transformer22作为对比模型,与TransformerLSTM 模型的矿压预测结果进行对比。为了避免模型在训练过程中发生过拟合或欠拟合等情况,根据数据集规模、数据特征等因素设置各模型参数,使用网格搜索

    34、方法和交叉验证法进行参数调优23。BP 神经网络模型和 LSTM 模型的初始化参数:epochs 为 100,batch_size 为 64,选择 ReLU 激活函数,以 Adam 优化算法为模型优化器。Transformer模型和 TransformerLSTM 模型的初始化参数:epochs为 100,batch_size 为 64,n_heads 为 10,选择 Gelu 激活函数。在 2 个数据集上进行模型训练和测试时,每个数据集均选取 90%数据作为训练集,剩余10%作为测试集。采用训练集训练各模型,之后采用测试集数据对模型的预测性能进行评价。以区间在 200400 的 200 个测

    35、试数据为例,其预测结果如图 5 所示,评价指标见表 2。从图 5 可看出:BP 神经网络模型的预测值与真实值之间误差较大;Transformer 模型因具有自注意力机制,可同时关注序列中的所有位置,更好地捕捉全局信息,使模型更加全面地理解序列,对于时序矿压数据具有较好的预测精度;LSTM 模型具有较好的时间序列预测能力,对于矿压预测的准确率较高;TransformerLSTM 模型利用 Transformer 模型的自注意力机制来获取时序数据的潜在变化规律,并利用 LSTM 模型实现长期时序数据依赖关系的特征,使得预测值最接近真实值,预测效果最优。96工矿自动化第49卷从表 2 可看出:Tra

    36、nsformerLSTM 模型在数据集 1 上 预 测 结 果 的 MAE 和 RMSE 分 别 为 1.196,2.136MPa,较 Transformer 模型分别减小 8.9%,12.7%,在 数 据 集 2 上 的 MAE 和 RMSE 分 别 为 0.742,1.512MPa,较 Transformer 模型分别减小 9.5%,16.5%;与其他 3 种模型相比,TransformerLSTM 模型矿压预测结果的 MAE 和 RMSE 最低,表明该模型预测精度最高。3结论1)构建可变时序移位策略对矿压时序数据进行不同尺度的划分,避免了固定长度时序序列可能存在的数据偏移问题,可适应不同

    37、时间段内矿压数据的变化速度、幅度和模式,为准确捕捉矿压变化规律特征提供数据支持。2)通过融合 Transformer 和 LSTM 模型,学习矿压时序数据中的时序特征和前后矿压数据之间的依赖关系,解决了单一矿压预测模型较难准确刻画时序序列复合特征的问题,提高了矿压预测模型的准确度。3)采用现场数据建立了 2 个数据集,验证基于可变时序移位 TransformerLSTM 模型的矿压预测性能。2 个数据集预测结果的MAE 分别较Transformer模型提高了 8.9%和 9.5%,RMSE 分别提高了 12.7%和 16.5%,有效提升了矿压预测精度。4)未来将重点研究矿压的分阶段预测模型,并

    38、构建高效的预测机制,实现在准确预测矿压的同时,实时进行矿压灾害预警。参考文献(References):钱鸣高,许家林,王家臣.再论煤炭的科学开采J.煤炭学报,2018,43(1):1-13.QIANMinggao,XUJialin,WANGJiachen.FurtheronthesustainableminingofcoalJ.JournalofChinaCoalSociety,2018,43(1):1-13.1冀汶莉,刘艺欣,柴敬,等.基于随机森林的矿压预测方法J.采矿与岩层控制工程学报,2021,3(3):71-81.JIWenli,LIUYixin,CHAIJing,etal.Minep

    39、ressurepredictionmethodbasedonrandomforestJ.JournalofMining and Strata Control Engineering,2021,3(3):71-81.2曹富荣,吴学松,传金平,等.冲击危险区域震动波CT反演探测技术应用J.煤炭科技,2021,42(2):67-71,76.CAO Furong,WU Xuesong,CHUAN Jinping,et al.Application of CT inversion detection technology forshock wave in hazardous area of rock b

    40、urstJ.CoalScience&Technology Magazine,2021,42(2):67-71,76.3常峰.基于GABP神经网络的工作面顶板矿压预测模型应用研究D.徐州:中国矿业大学,2019.CHANG Feng.Application research of the predictionmodelforthecoalworkingfaceroofpressurebasedonGA-BPneuralnetworksD.Xuzhou:ChinaUniversityofMiningandTechnology,2019.4FENG Xiating,WANG Yongjia,YAO

    41、Jianguo.Aneural network model for real-time roof pressureprediction in coal minesJ.International Journal ofRockMechanicsandMiningScience&GeomechanicsAbstracts,1996,33(6):647-653.5柴敬,王润沛,杜文刚,等.基于XGBoost的光纤监测矿压时序预测研究J.采矿与岩层控制工程学报,2020,2(4):64-71.CHAIJing,WANGRunpei,DUWengang,etal.Study6200010真实值BP 神经网

    42、络预测值LSTM 预测值Transformer 预测值TransformerLSTM 预测值20304050矿压/MPa225250275(a)数据集 130032535037540020010真实值BP 神经网络预测值LSTM 预测值Transformer 预测值TransformerLSTM 预测值203040152535矿压/MPa225250275(b)数据集 2300325350375400测试数据序号测试数据序号图5不同模型的部分矿压预测结果Fig.5Partpredictionresultsofminepressurebydifferentmodels表2不同模型预测结果的评价指

    43、标Table2Evaluationindexcomparisonofpredictionresultsofdifferentmodels数据集模型MAE/MPaRMSE/MPa数据集1BP神经网络2.2143.756LSTM1.8473.632Transformer1.3132.447TransformerLSTM1.1962.136数据集2BP神经网络1.3332.755LSTM1.2052.764Transformer0.8201.810TransformerLSTM0.7421.5122023年第7期李泽西:基于可变时序移位 TransformerLSTM 的集成学习矿压预测方法97on

    44、timeseriespredictionofrockpressurebyXGBoostinopticalfibermonitoringJ.JournalofMiningandStrataControlEngineering,2020,2(4):64-71.程敬义,万志军,PENGSydS,等.基于海量矿压监测数据的采场支架与顶板状态智能感知技术J.煤炭学报,2020,45(6):2090-2103.CHENG Jingyi,WAN Zhijun,PENG Syd S,et al.Technology of intelligent sensing of longwall shieldsuppor

    45、tsstatusandroofstratabasedonmassiveshieldpressure monitoring dataJ.Journal of China CoalSociety,2020,45(6):2090-2103.7徐刚,范志忠,张春会,等.宏观顶板活动支架增阻类型 与 预 测 模 型 J.煤 炭 学 报,2021,46(11):3397-3407.XU Gang,FAN Zhizhong,ZHANG Chunhui,et al.Supportincreasingresistanceformsofmacroscopicroofsupport and its predicti

    46、on modelJ.Journal of ChinaCoalSociety,2021,46(11):3397-3407.8惠艳荔.电磁辐射技术在采煤工作面矿压预测中的应用J.煤炭技术,2013,32(12):73-75.HUI Yanli.Application of electromagnetic radiationtechnologyinminepressureobservationatcoalfaceJ.CoalTechnology,2013,32(12):73-75.9李静,何江,巩思园,等.上覆遗留煤柱作用下冲击矿压预测预警案例研究J.煤炭学报,2016,41(增刊2):305-31

    47、0.LIJing,HEJiang,GONGSiyuan,etal.Casestudyonprediction and warning of rock burst under overlyingpillarJ.JournalofChinaCoalSociety,2016,41(S2):305-310.10LI Ye,SHI Xiaohu.Mine pressure prediction studybasedonfuzzycognitivemapsJ.InternationalJournalof Computational Intelligence and Applications,2020,19

    48、(3):1-13.11霍丙杰,荆雪冬,于斌,等.坚硬顶板厚煤层采场来压强度分级预测方法研究J.岩石力学与工程学报,2019,38(9):1828-1835.HUO Bingjie,JING Xuedong,YU Bin,et al.Aclassification forecasting method for the weightingintensity of stopes of thick coal seams with hardroofsJ.Chinese Journal of Rock Mechanics andEngineering,2019,38(9):1828-1835.12赵铭生,

    49、刘守强,纪润清,等.基于遗传算法优化BP神经网络的华北型煤田矿压破坏带深度预测J.矿业研究与开发,2020,40(6):89-93.ZHAOMingsheng,LIUShouqiang,JIRunqing,etal.DepthpredictionofminingpressurefailurezoneinnorthChinacoalfieldbasedonBPneuralnetworkoptimizedbygeneticalgorithmJ.MiningResearchandDevelopment,2020,40(6):89-93.13赵毅鑫,杨志良,马斌杰,等.基于深度学习的大采高工作面矿压预

    50、测分析及模型泛化J.煤炭学报,2020,45(1):54-65.14ZHAOYixin,YANGZhiliang,MABinjie,etal.Deeplearningpredictionandmodelgeneralizationofgroundpressure for deep longwall face with large miningheightJ.JournalofChinaCoalSociety,2020,45(1):54-65.曾庆田,吕珍珍,石永奎,等.基于Prophet+LSTM模型的煤矿井下工作面矿压预测研究J.煤炭科学技术,2021,49(7):16-23.ZENGQin


    注意事项

    本文(基于可变时序移位Transformer-LSTM的集成学习矿压预测方法.pdf)为本站上传会员【自信****多点】主动上传,咨信网仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知咨信网(发送邮件至1219186828@qq.com、拔打电话4008-655-100或【 微信客服】、【 QQ客服】),核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
    温馨提示:如果因为网速或其他原因下载失败请重新下载,重复下载【60天内】不扣币。 服务填表




    页脚通栏广告
    关于我们 - 网站声明 - 诚招英才 - 文档分销 - 便捷服务 - 联系我们 - 成长足迹

    Copyright ©2010-2024   All Rights Reserved  宁波自信网络信息技术有限公司 版权所有   |  客服电话:4008-655-100    投诉/维权电话:4009-655-100   

    违法和不良信息举报邮箱:help@zixin.com.cn    文档合作和网站合作邮箱:fuwu@zixin.com.cn    意见反馈和侵权处理邮箱:1219186828@qq.com   | 证照中心

    12321jubao.png12321网络举报中心 电话:010-12321  jubao.png中国互联网举报中心 电话:12377   gongan.png浙公网安备33021202000488号  icp.png浙ICP备2021020529号-1 浙B2-20240490   



    关注我们 :gzh.png  weibo.png  LOFTER.png