基于并行CNN和Transformer的脑电降噪网络.pdf
《基于并行CNN和Transformer的脑电降噪网络.pdf》由会员分享,可在线阅读,更多相关《基于并行CNN和Transformer的脑电降噪网络.pdf(14页珍藏版)》请在咨信网上搜索。
1、文章编号:1003-0530(2023)08-1419-14第 39 卷 第 8 期2023 年8 月信号处理Journal of Signal ProcessingVol.39 No.8Aug.2023基于并行CNN和Transformer的脑电降噪网络尹瑾1 刘爱萍1 李畅2 钱若兵3 陈勋1,3(1.中国科学技术大学电子工程与信息科学系,安徽合肥 230027;2.合肥工业大学生物医学工程系,安徽合肥 230009;3.中国科学技术大学附属第一医院神经外科癫痫中心,安徽合肥 230001)摘 要:脑电图(electroencephalography,EEG)是一种反映大脑皮层电生理活动的
2、技术,经常用于生物医学领域的各种应用中,但其采集过程容易受到多种噪声的污染,这些噪声会影响EEG信号的准确性和可靠性,因此脑电降噪是EEG分析中必不可少的一步。目前,基于深度学习的方法在多个基准数据集中已展现出优于传统方法的降噪性能,然而现有的基于深度学习的方法仍存在以下问题:现有的网络结构在设计时没有充分考虑信号的时序依赖性。由于不同伪影信号具有不同的形态特征,仅考虑局部或全局的时序依赖性,难以在多种伪影移除任务上获得理想的降噪效果。基于此,本文设计了一种新的脑电降噪网络CTNet。CTNet采用了CNN-Transformer结构,通过结合CNN和Transformer的优点提取潜在的判别
3、性特征,具体来说,CNN单元和Transformer单元分别用于提取局部和全局的时序依赖性特征,通过结合局部和全局的特征更好地抑制伪影信号。为了评估CTNet在EEG降噪方面的性能,本文在四种不同的伪影移除任务上对其进行了评估,实验结果表明,CTNet在各种噪声条件下均具有较强的噪声抑制能力。在公开数据集上的实验结果表明,CTNet在多种伪影上均可获得最低的RRMSE、最高的CC和SNR,如在 EMG 伪影移除任务中,相比于 NovelCNN,CTNet 的 RRMSE 降低了 8.67%,CC 增加了 1.41%,SNR 增加了7.06%,上述实验结果证实了该网络在脑电降噪任务上的优越性。关
4、键词:深度神经网络;脑电图;脑电降噪;脑电伪影移除中图分类号:TN911.7;R741.044 文献标识码:A DOI:10.16798/j.issn.1003-0530.2023.08.008引用格式:尹瑾,刘爱萍,李畅,等.基于并行 CNN 和 Transformer 的脑电降噪网络 J.信号处理,2023,39(8):1419-1432.DOI:10.16798/j.issn.1003-0530.2023.08.008.Reference format:YIN Jin,LIU Aiping,LI Chang,et al.A parallel CNN and Transformer net
5、work for EEG denoisingJ.Journal of Signal Processing,2023,39(8):1419-1432.DOI:10.16798/j.issn.1003-0530.2023.08.008.A Parallel CNN and Transformer Network for EEG DenoisingYIN Jin1 LIU Aiping1 LI Chang2 QIAN Ruobing3 CHEN Xun1,3(1.The Department of Electronic Engineering and Information Science,Univ
6、ersity of Science and Technology of China,Hefei,Anhui 230027,China;2.The Department of Biomedical Engineering,Hefei University of Technology,Hefei,Anhui 230009,China;3.The Epilepsy Center,Department of Neurosurgery,The First Affiliated Hospital of University of Science and Technology of China,Hefei,
7、Anhui 230001,China)Abstract:Electroencephalography(EEG)is a powerful technology used to reflect the electrophysiological activity of the cerebral cortex.It is frequently employed in the field of biomedicine for a variety of applications.However,during the acquisition process,EEG signals are often co
8、ntaminated with various artifacts,such as muscle activity,eye movements,and heart activity.These artifacts can significantly degrade the quality of the EEG signals,which can adversely affect the subsequent analysis.As a result,artifact removal is an essential step in EEG signal analysis.As of now,de
9、ep learning-based 收稿日期:2023-03-02;修回日期:2023-06-15基金项目:国家重点研发计划(2021YFF1200600);国家自然科学基金面上项目(32271431);国家优秀青年科学基金(61922075)信号处理第 39 卷methods have demonstrated better denoising performance than traditional methods in several benchmark datasets.However,existing deep learning-based methods still have th
10、e following limitation.Specifically,the existing network structures are not fully considered temporal characteristics of the signals.Different artifacts have distinct morphological characteristics,so it is challenging to obtain ideal denoising performance on various artifacts by relying solely on ei
11、ther local or global temporal dependencies.To address the above issue,this paper designed a novel EEG denoising network,named CTNet.CTNet adopted the CNN-Transformer structure,which combined the advantages of convolutional neural networks(CNNs)and Transformers to extract potential discriminative fea
12、tures.The CNN unit and the transformer unit are responsible for extracting local and global temporal features,respectively.The network obtained better artifact suppression ability by combining local and global temporal features.To evaluate the performance of CTNet in EEG denoising tasks,we evaluated
13、 the performance of CTNet on four different artifact removal tasks.The experimental results demonstrated that CTNet had strong noise suppression ability under various noise conditions.Furthermore,the proposed network outperformed existing methods and obtained the lowest root mean square error(RRMSE)
14、,maximum correlation coefficient(CC),and maximum signal-to-noise ratio(SNR)on various artifacts.For example,in the task of removing electromyography artifacts,CTNet achieved an 8.67%reduction in RRMSE,a 1.41%improvement in CC,and a 7.06%improvement in SNR compared to NovelCNN.In conclusion,the exper
15、imental results verified the superiority of CTNet in EEG denoising tasks,making it a promising approach for improving the quality and reliability of EEG analysis.Key words:deep neural network;electroencephalogram;electroencephalography denoising;electroencephalography artifact removal1引言脑信号可以提供丰富的生理
16、、心理和病理信息1-2,它可以通过多种方式获得,如功能性磁共振成像、脑电图(electroencephalography,EEG)和皮层脑电图等3。与其他采集方式相比,EEG具有时间分辨率高、易携带和安全性强等优点4,已成为目前应用最广的大脑活动测量技术,广泛应用于癫痫检测5、情绪识别6和危重病人监护7等领域,然而脑电活动容易受到不同噪声的污染,如眼电(electrooculography,EOG),肌电(electromyography,EMG)和心电(electrocardiography,ECG)等8,这些噪声会影响EEG信号的准确性和可靠性,因此移除脑电伪影是EEG应用中至关重要的一步
17、。脑电降噪旨在移除脑电信号中的伪影信号并保留潜在的大脑活动信号,多年来已研究出多种降噪方法,可分为传统方法和深度学习方法两大类。传统的脑电降噪方法包括:回归9、盲源分离10、小波分解11、经验模态分解(empirical mode decomposition,EMD)12和混合的方法13等。回归的方法利用参考通道估计伪影的影响,之后从受污染的脑电信号中减去估计的伪影信号,从而获得降噪后的脑电。盲源分离方法将噪声信号分解成不同的分量,移除与伪影有关的分量后重建脑电信号,常见的盲源分离方法包括独立分量分析(independent component analysis,ICA)14、典型相关分析(c
18、anonical correlation analysis,CCA)15和独立向量分析16等。盲源分离方法的主要限制是需要人工检查来识别伪影分量,且很难应用于单通道和少通道脑电信号中8。为了解决上述不足,研究人员提出了几种分解的方法,如小波分解11和经验模态分解12等。小波分解将信号分解为近似小波系数和细节小波系数,通过消除伪影相关系数并重建获得降噪后的脑电。经验模态分解将含噪脑电信号分解为多个本征模函数,去除被视为噪声的本征模函数分量之后对剩余分量进行重建。为了更好地抑制伪影,研究人员提出了一些混合的方法,如 EMD-CCA13、wavelet-ICA17和EMD-ICA18等。随着深度学习
19、方法被成功应用于多种计算机视觉任务上,研究人员开始将深度神经网络引入脑电降噪领域。早期的脑电降噪网络主要是一些浅层的网络,如Nguyen等人19针对小波阈值方法的缺陷,提出小波神经网络,该网络利用多层感知器来代替阈值函数,在他们后来的工作中20,Nguyen等人基于小波神经网络和稀疏自编码器提出了一种新的无监督方法。小波神经网络降噪效果虽然优于小波阈值法,但其降噪效果仍然有待进一步提高21。之后,研究人员开始尝试更深更有效的脑电1420第 8 期尹瑾 等:基于并行CNN和Transformer的脑电降噪网络降噪网络,如Yang等人22提出一种深度学习网络;Nagar 等人23尝试使用卷积自编码
20、器进行伪影移除;Sawangjai等人21引入生成对抗网络;Sun等人24提出了一种一维残差卷积神经网络;Zhang等人25公布了四个基准网络,包括全连接网络、两个卷积网络和一个循环神经网络,然而四个基准网络中的两个卷积网络在EMG伪影移除任务中存在过拟合问题,因此在他后来的工作中26,为EMG伪影设计了一种新的卷积神经网络 NovelCNN;Pu等人27提出了一种基于Transformer的降噪网络。总的来说,基于深度神经网络的方法可以在没有先验知识的前提下自动从原始数据提取特征,在多个脑电降噪数据集上获得了优于传统方法的性能25。然而现有方法通常使用单一网络结构来完成降噪任务,如卷积网络或
21、Transformer,由于脑电和伪影信号具有不同的形态特征,仅考虑局部或全局的时序依赖性,难以在多种伪影移除任务上均获得理想的降噪效果。针对上述问题,本文设计了一个名为CTNet的新网络,该网络考虑到脑电信号和伪影信号可以通过集成多种复杂的特征来更好地分离,因此结合CNN和 Transformer的优点同时提取信号的局部和全局的时序依赖性特征,更好地处理不同伪影的移除任务。2本文方法本文提出的网络架构如图1所示,它主要包含三个模块:预处理模块、CNN-Transformer模块和解码模块。预处理模块用于对初始脑电信号进行特征编码,之后送入CNN-Transformer模块提取判别性特征,最终
22、经过解码模块映射回原始维度,生成降噪后脑电。2.1预处理模块预处理模块用于对输入原始脑电信号进行特征提取。给定样本对(X,Y|X R1 T,Y R1 T),预处理模块包括两层卷积核为1 3的卷积层和一层最大池化层,输出通道为32,每一层卷积层后添加了归一化层(batch normalization,BN)和线性激活层(leaky rectified linear units,LRelu),整个预处理过程如下:Z0=gp(X)(1)上式中,gp()表示预处理模块的映射函数,Z0表示预处理模块的输出,即第一个CNN-Transformer模块的输入。2.2CNN-Transformer模块CNN-
23、Transformer 模块包括 CNN 单元、Transformer单元和特征融合层。在现有的脑电降噪任务图1CTNet的网络架构Fig.1The network architecture of the CTNet1421信号处理第 39 卷中,多个已有的工作表明直接使用卷积层移除肌电伪影,可能会出现过拟合问题,因此CNN单元包含两层卷积层和一层最大池化层,最大池化层用于提高模型泛化能力。为了提高特征提取能力,每个CNN单元的第一层卷积层的输出通道变为输入的两倍。Transformer 单元包含一个多头自注意力模块(multi-head self-attention,MHSA),一个前馈网络
24、(feed forward,FF)和一个步长为 2的卷积层,其中步长为2的卷积层主要用于与CNN单元保持同样的特征维度。假定Zl-1表示第l个CNN-Transformer模 块 中 的 输 入,其 中l 1,L 且L表 示 CNN-Transformer模块个数。首先对Zl-1进行转置,将转置后经过层归一化的特征图用Ml表示。假设MHSA模块有H个头并行运行,则对第h个头的Ml得到的查询、键和值可以表示为Qh,Kh,Vh,则:Qh=MlWQh,Kh=MlWKh,Vh=MlWVh(2)式(2)中,h=1,2,H,WQh、WKh和WVh表示线性映射,文中H被设置为8。之后对信号的全局时序依赖关系
25、建模:Attention(Qh,Kh,Vh)=Softmax(QhKThd)Vh(3)上式中 Softmax是激活函数,d表示归一化因子,拼接所有头的输出,通过投影矩阵W获得最终输出,即令headh=Attention(Qh,Kh,Vh),则:MHSA(Ml)=head1;headHW(4)前馈网络由两个全连接层组成,这两个全连接层具有相同的输入和输出维度,全连接层之间由swish激活层分隔开来。特征融合层用于对CNN单元和Transformer单元的特征进行特征交互,特征融合层包括级联操作和卷积层,假定第l个CNN-Transformer模块中CNN单元的输出为Fcl,Transformer
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 并行 CNN Transformer 脑电降噪 网络
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。