改进残差网络和迁移学习的齿轮箱故障诊断.pdf
《改进残差网络和迁移学习的齿轮箱故障诊断.pdf》由会员分享,可在线阅读,更多相关《改进残差网络和迁移学习的齿轮箱故障诊断.pdf(6页珍藏版)》请在咨信网上搜索。
1、国防交通工程与技术 年 月 卷期收稿日期:基金项目:国家自然科学基金()第一作者简介:王一帆(),男,硕士研究生,研究方向为机电系统故障诊断.q q c o m改进残差网络和迁移学习的齿轮箱故障诊断王一帆,郝如江(石家庄铁道大学机械工程学院,河北 石家庄 )摘要:针对齿轮箱故障诊断问题,提出一种基于多尺度特征提取与融合混合注意力机制的残差网络模型.该模型直接对原始振动信号进行特征提取,通过增加混合注意力机制来增加网络深度,提取关键信息,提高网络稳定性与故障识别准确率;串联首层多尺度特征提取模块,增加网络宽度,提取不同频率特征值的同时避免了梯度爆炸问题,最终故障诊断精度达到;通过噪声实验,验证网
2、络具有较强鲁棒性.网络使用迁移学习的方式,解决了实际工业中数据量不足的问题,并验证了网络的泛化能力.所提网络具有公开性与实用性.关键词:残差网络;迁移学习;齿轮箱;故障诊断;混合注意力机制D O I:/j g j g y a t 中图分类号:T P ;TH 文献标识码:A文章编号:()齿轮箱是旋转机械的重要部件,主要由齿轮与轴承组成;齿轮与轴承的健康状态对旋转机械的安全运转起着至关重要的作用,对其进行故障诊断具有重要意义.目前齿轮箱故障诊断方法主要分为传统信号处理方法和智能诊断方法.传统信号方法以时频信号分解为基础,主要包含小波变换、变分模态分解、经验模态分解等.文献 以小波变换为基础对采集到
3、的轴承信号进行预处理,最后进行分类;文献 提出一种通过算法优化卷积神经网络权重的方法来进行轴承故障诊断.上述方法虽取得了一定故障识别效果,但均需提前处理数据,在此过程需要人为筛选,过于依赖人工经验,过程较为繁琐.近些年随着人工智能的发展,深度学习逐渐成为新的故障 诊 断 方 式.卷 积 神 经 网 络(C o n v o l u t i o n a lN e u r a l N e t w o r k,C NN)、B P神 经 网 络(B a c kP r o p a g a t i o n)、残差网络(R e s i d u a lN e u r a ln e t w o r k,R e s
4、 N e t)等神经网络在故障诊断领域的应用取得了较好效果.文献 提出一种基于L e N e t 的轴承故障诊断方法,是很好的尝试;文献 提出麻雀算法优化支持向量机的诊断方法,不需对数据预处理,但只适用于小样本数据,对大批量数据处理较为困难;文献 提出基于迁移学习和C NN的故障诊断方法,但网络较为简单,泛化性能较差.针对上述问题,提出一种基于改进残差网络和迁移学习的齿轮箱故障诊断方法.该方法不需对数据进行预处理,降低了对人工经验的依赖性.使用多尺度特征提取模块与混合注意力机制(C o n v o l u t i o n a lB l o c kA t t e n t i o nM o d u
5、 l e,C B AM)对残差网络进行优化,使得网络对齿轮箱故障诊断达到较高准确率.使用迁移学习模型,模拟现实中故障数据较少情况与变负载工况,验证网络泛化性,证明网络具有实用价值.基础理论残差网络残差神经网络由H e 等首次提出,核心概念在于使用了跳跃连接(S k i pC o n n e c t i o n),其由许多残差块(R e s i d u a lB l o c k)堆叠而成,残差块由普通神经网络加恒等映射组成.随后H e等人又在R e s N e t的基础上提出了R e s N e t V,将B N层和激活函数放在了卷积层前,增长了恒等映射范围,使信息传递通畅;由于将B N层与激活
6、函数放在了卷积层之前,达到预激活的目的,使得网络更加稳定,同时起到了正则化的作用.混合注意力机制注意力机制是机器学习中一种辅助算法,用于模仿人类视觉神经和人脑系统,在机器学习中自我感知重点,减少无用信息干扰,从而达到聚焦信息的目的.在机器学习中添加注意力机制可以提高神经网络的特征提取能力,有益于提高机器性能.混合注意力机制由通道注意力与空间注意力串联融合而成.C B AM是一种端到端的通用模块,可以无缝集 研究R e s e a r c ha n dD e s i g n与设计国防交通工程与技术 年 月 卷期成到卷积神经网络中,使得它有很大的通用性.通道注意力机制公式如下:MC(F)(M L
7、P(A v g P o o l(F)M L P(M a x P o o l(F)(W(W(FCa v g)W(W(FCm a x)()式中:ML P为两层的神经网络;F为输入特征;为s i g m o i d函数;W和W分别代表权重.空间注意力机制公式如下:MS(F)(f (A v g P o o l(F);M a x P o o l(F)(f (FSa v g;FSm a x)()式中:f 为大小的卷积核.整体混合注意力机制运行过程:F MC(F)F,F MS(F)F()式中:表示逐元素的乘法;F 为输入特征经过通道注意力机制后的特征;F 为最终输出.将C B AM添 加 到R e s N
8、e t V 块 中,形 成C B AM R e s N e t V 结构块来构建神经网络,C B AM结构使资源合理分配在空间和通道中,使网络性能更加稳定;其轻量化的特点也不会使网络变得冗余,将C B AM R e s N e t V 模块应用到齿轮箱的故障诊断中,增加了网络深度,增加少量运算的同时可以提高故障 识 别 准 确 率,具 有 一 定 实 用 性.C B AM R e s N e t V 结构块模型如图所示.?BN/Relu?BN/Relu?图C B AM R e s N e t V 网络结构多尺度特征提取模块卷积神经网络中卷积层的运算作用是进行特征提取.不同大小的卷积核感受野大小
9、不同,所提取到的特征也有所差别.使用不同大小卷积核提取不同特征,对网络性能有不同影响,使故障识别准确率有不同结果.提出一种融合多尺度特征提取模块的神经网络,利用多尺度特征提取模块中不同大小卷积核来提取不同频率特征值,通过增加网络宽度来增加对数据的特征提取,计算量同直列卷积一样,但有效避免出现梯度爆炸现象,拓宽了特征提取范围.多尺度特征提取模块中使用并行多分支网络,同一支路中进行两组卷积运算,两组卷积核大小数量一致,进一步挖掘数据特征的同时使网络更加稳定.最后将多通道分别提取的特征进行融合,再作为新的输入输入到接下来的神经网络中.多尺度特征提取模块结构如图所示.?BNBN?1BN?2?3BN?1
10、BN?2BN?3concat图多尺度模块结构迁移学习迁移学习用在卷积神经网络中的主要目的是为了将在源域学到的知识应用到目标域的相同或不同任务中.运行方式为使用源域数据对原始神经网络模型训练与保存,冻结相关网络层与隐藏层参数(包含权重、偏置等)并保留,将目标域数据输入,解冻网络层,输出任务.本文使用直推式迁移学习,源域和目标域不同,学习任务相同,均是对数据进行分类.网络模型的建立多尺度特征提取残差网络将多 尺 度 特 征 提 取 模 块 添 加 到C B AM R e s N e t V 网络中,形成新的混合注意力机制与多尺度特征提取残差网络.多尺度块放到首层卷积之后,输入数据经过首层卷积再输入
11、到多尺度块,学习提取多组不同特征再融合,防止有效信息丢失.数据经过多尺度块再输入到两个C B AM R e s N e t V 块中,经过全局平均池化(GA P)来减少网络参数,使网络轻量化且保留特征,输出新的、数据量较少的特征;再经过D r o p o u t函数对神经网络隐藏层神经元进行随机失活,削减神经元权重,提高网络泛化能力,最后再通过D e n s e层输出不同故障分类.网络参数见表.迁移学习网络模型使用源域数据对网络完成训练后,冻结混合注意力机制和多尺度特征提取残差网络的中间层,保留各层网络权重与偏置;通过迁移学习,将目标域输入到解冻参数的网络中进行分类任务.迁移网络具体结构如图所
12、示.实验结果分析实验数据实验是在动力传动故障诊断综合实验台(D r i v e t r a i nD y n a m i c sS i m u l a t o r,D D S)完成.实验台主要由电机、二级平行轴齿轮箱、传感器、磁粉制动器 研究与设计改进残差网络和迁移学习的齿轮箱故障诊断王一帆等国防交通工程与技术 年 月 卷期表多尺度块网络参数结构卷积核大小输出大小激活函数卷积一/R e l u卷积一/R e l u多尺度块卷积二/R e l u卷积三/R e l uC B AM R e s N e tV 块卷积 /卷积 /卷积二/R e l uC B AM R e s N e tV 块卷积 /
13、卷积 /GA P D e n s e R e l uD r o p o u tD e n s e S o f t m a x?BN?CBAM-ResNetV2?1BN?CBAM-ResNetV2?2BN/ReluGAPDenseDense?,?,?,?,?图改进残差网络迁移学习模型等部分组成,如图所示.驱动电机转频设置 H z,齿轮箱零负载,采样频率设置为 H z.本次试验共采取十种不同工况,每种工况采集 个样本,每个样本包含 个数据点,共计 个样本.所采集到的样本数据按照的比例划分为训练集和测试集,按照数字编码对十类工况分别制作标签.实验结果将数据集输入到多尺度特征提取残差网络中,网络设置迭
14、代次数 次,b a t c hs i z e设置,学习率设置 ,优化器选择A d a m.得到最终损失函数和准确率曲线如图、图所示.为了防止出现偶然现象,进行平行试验次,结?图D D S实验台2.01.5?1.00.50.0?020406080100?;?。?:图多尺度特征提取残差网络损失曲线?;?。?:?1.00.80.60.40.204020?6080100图多尺度特征提取残差网络精度曲线果取平均值.次试验中,故障识别准确率均达到了,说明多尺度特征提取残差网络对齿轮箱故障有不错的识别能力.添加与残差网络、C B AM R e s N e t V 网络消融实验对比,与C NN网络、A l e
15、 x N e t网络横向实验对比,结果如表所示.多尺度特征提取残差网络达到了最高故障识别准确率,证明了对残差网络改进的正确性,也证明了所提网络的优越性.通过改变多尺度特征提取残差网络中多尺度 特 征 提 取 模 块 位 置,将 其 分 别 放 置 于 两 个C B AM R e s N e t V 模块中间与后面,故障识别准确率分别为 与,与放于首层差别不大,需进一步进行噪声实验来验证网络模型性能.表不同网络准确率网络类型准确率/网络类型准确率/多尺度残差 C B AM R e sN e t V R e s N e t C NN A l e x N e t t S N E可视化使用t S N
16、E对数据进行降维可视化,可以更直 研究与设计改进残差网络和迁移学习的齿轮箱故障诊断王一帆等国防交通工程与技术 年 月 卷期接观察特征聚类结果,图中不同颜色的点代表不同故障类型,各坐标无实际意义.7.55.02.50.02.55.07.57.5 2.5 2.5 7.55005050050500505005010050050100 50 050?:(a)?(b)?(c)?(d)?0;1;2;3;4;5;6;7;8;9。图不同层网络可视化由图可知,数据在输入到网络之前是随机分布的,各种类型的故障混叠堆积在一起;输入数据在经过多尺度块特征提取后,相同数据点有了一定的聚集程度,说明多尺度模块对数据有一定
17、特征提取能力;随后数据输入到第一个C B AM R e s N e t V 模块中,此时的数据已大致聚集在一起,但仍有小部分不同的数据混叠,证明C B AM R e s N e t V 模块对数据分 类 有 不 错 的 效 果,此 时 叠 加 一 个C B AM R e s N e t V 模块,进一步提高模型准确率;最后数据经由两个C B AM R e s N e t V 模块后到达输出层,所有相同数据均已聚集在一起,说明网络已经达到数据分类的目的.对混合注意力机制和多尺度特征提取残差网络不同层进行t S N E可视化,证明了其对齿轮箱故障分类聚集有良好的效果.模型抗噪能力研究为进一步验证网
18、络模型的抗噪能力与鲁棒性,增加噪声实验.对D D S试验台数据增加信噪比(S N R)为、d B的随机噪声,数据集大小保持不变.将添加完噪声的数据集分别输入到不同网络模型中进行对比实验验证,结果如图所示.1009080706050?/%4224?;CBAM-ResNetV2;ResNet;AlexNet;CNN。?/dB?:图不同信噪比下不同网络准确率由图可知,在信噪比为d B时各个网络诊断效果最差,但多尺度特征提取残差网络故障识别准确率仍能达到,;在几个网络中,其准确率仍为最高,较其他网络准确率百分点分别高、.C B AM R e s N e t V 网络在各个信噪比环境下故障识别准确率略低
19、于多尺度特征提取残 差网络,但 均远高于其 他网络,说明C B AM R e s N e t V 模块具有良好的抗噪声能力.而多尺度特征提取残差网络在以上不同信噪比环境下,故障识别准确率均高于,说明在噪声环境下,多尺度特征提取块仍有利于故障信号提取.在信噪比为d B环境下,将多尺度特征提取块分别放置于两个C B AM R e s N e t V 模块中间与后面,故障识别准确率分别为 与 ,说明多尺度特征提取模块放于网络前才能达到最好效果,验证了本文所提模型正确性,最终说明所提网络具有良好的抗噪能力和鲁棒性.基于迁移学习的网络应用与泛化性能研究凯斯西储大学轴承数据(CWRU)为了将所改进网络应用
20、到实际中,使用凯斯西储大学公开轴承数据 作为迁移学习源域数据,D D S实验台模拟现实滚动轴承工况作为目标域数据,通过迁移学习进行故障诊断.实验所使用轴承为S K F ,转速为 r/m i n,对应载荷h p(h p kW),采样频率 k H z.选取十类数据,包含故障尺寸为 mm、mm、mm的轴承滚动体、外圈、内圈故障数据和一组正常数据.每种故障类型样本选取 个,每个数据样本取 个点.训练集和测试集比例按照划分,共计 个样本数据.迁移学习应用实验验证为了模拟实际工业中滚动轴承故障数据不足的情况,源域 使用西储大学 公开数据,目标域使用D D S实验台三类滚动轴承故障数据和一类正常工况数据模拟
21、现实工况.目标域数据大小进行缩减,每类故障采集 个样本,共计 个样本,每个样本采集 个数据点,按照数字对四类轴承故障进行标签编码.设置迭代次数为 次,优化器选择a d a m函数,b a t c hs i z e大小,学习率为 ,最终迁移学习故障诊断损失函数与精度曲线如图、图 所示.迁移学习下多尺度特征提取残差网络对齿轮箱的故障识别准确率达到了 ,运行速度为 m s/e p o c h;而普通多尺度特征提取网络中,运行速度为s/e p o c h.由于迁移学习网络模型 研究与设计改进残差网络和迁移学习的齿轮箱故障诊断王一帆等国防交通工程与技术 年 月 卷期是已经训练好的,目标域测试集故障识别准
22、确率从 以上的较高准确率开始,收敛速度快,不需模型二次训练,大幅度提高了故障识别速度,在模拟现实工业中表现良好,更利于实际应用.50403020100?1.41.21.00.80.60.40.20.0?;?。?:图迁移学习下模型损失曲线?1.00.90.80.70.60.50.401020304050?;?。?:图 迁移学习下模型精度曲线迁移学习下网络泛化能力验证为了进行网络模型的泛化性能研究,使用CW RU数据中心不同负载下的数据制作不同工况数据集进行变负载工况交叉实验.数据采样频率为 k H z,电机转速分别为 、r/m i n,对应载荷为、h p,每种负载下设定十种不同工况,每种工况取
23、个样本,每个样本采 个数据点,运行速度s/e p o c h.迁移学习源域和目标域工况设置与结果如表所示.表迁移学习下交叉实验识别准确率源域负载/h p目标域负载/h p 由表可知,迁移学习下改进的残差网络对变负载工况下的故障识别准确率基本都达到了 以上,具有良好的故障识别效果,网络泛化能力强,可以应对变负载工况环境,有一定的实际应用价值.结束语针对齿轮箱故障识别问题,提出的基于混合注意力机制与多尺度特征提取残差网络模型具有如下特性:()该模型不需对数据提前处理,增加网络的宽度来避免出现梯度爆炸现象,同时大幅提高了故障识别准确率,达到了,优于其他网络;噪声环境下表现良好,有良好的抗噪声能力与较
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 改进 网络 迁移 学习 齿轮箱 故障诊断
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。