基于生成对抗数据增强支持向量机的小样本信号调制识别算法.pdf
《基于生成对抗数据增强支持向量机的小样本信号调制识别算法.pdf》由会员分享,可在线阅读,更多相关《基于生成对抗数据增强支持向量机的小样本信号调制识别算法.pdf(10页珍藏版)》请在咨信网上搜索。
1、基于生成对抗数据增强支持向量机的小样本信号调制识别算法谢智东谭信*袁昕旺杨刚韩裕(军事科学院国防科技创新研究院北京100071)摘要:着眼于解决小样本信号调制识别问题,该文首先研究了利用支持向量机(SVM)进行分类识别的理论可行性;其次根据统计学习理论,对利用生成对抗网络(GAN)生成数据增强支持向量机分类识别能力进行了理论分析;最后通过构建包含层归一化的深度卷积生成对抗网络(LDCGAN),与普通深度卷积生成对抗网络相比,其生成数据映射至高维空间后特征更加明显,更有利于支持向量机的分类,实验验证了该生成对抗网络生成数据可以在小样本条件下实现对支持向量机分类识别能力的有效增强。关键词:生成对抗
2、网络;支持向量机;小样本;调制识别中图分类号:TP391.4;TN911.3文献标识码:A文章编号:1009-5896(2023)06-2071-10DOI:10.11999/JEIT220624Small Sample Signal Modulation Recognition Algorithm Based onSupport Vector Machine Enhanced by GenerativeAdversarial Networks Generated DataXIEZhidongTANXinYUANXinwangYANGGangHANYu(College of National
3、Defense Technology and Innovation,Academic of Military Science,Beijing 100071,China)Abstract:Focusingonsolvingtheproblemofsmallsamplesignalmodulationrecognition,thetheoreticalfeasibilityofusingSupportVectorMachine(SVM)formodulationrecognitionisinvestigatedfirstly;Secondly,basedonstatisticallearningt
4、heory,atheoreticalanalysisofusingGenerativeAdversarialNetworks(GAN)generateddatatoenhancetheclassificationabilityofSVMisconducted;Andfinally,aDeepConvolutionalGenerativeAdversarialNetworkbasedonLayernormalization(LDCGAN)isconstructed,whosegenerateddatahasmoreobviousfeaturesthanDeepConvolutionalGener
5、ativeAdversarialNetworks(DCGAN)aftermappingtoahigh-dimensionalspace,sothegenerateddataismoreconducivetotheclassificationofSVM.TheexperimentsverifythatLDGANgenerateddatacanachieveaneffectiveenhancementoftheclassificationabilityofSVMundertheconditionofsmallsamples.Key words:GenerativeAdversarialNetwor
6、ks(GAN);SupportVectorMachine(SVM);Smallsamples;Modulationrecognition1 引言信号调制识别即对已接收信号分析处理,进而判断其调制方式,它是信号识别的一个重要环节,是电磁环境感知的基础,也是进一步进行环境治理、电子对抗等的前提。此领域的研究已经十分深入,包括基于似然函数的识别方法、基于手动提取特征的方法等,特别是基于深度学习的自动调制识别研究发展迅速,与传统方法相比,其利用深度神经网络提取深层特征的强大能力,可以实现良好的识别效果。尽管这些方法表现出出色的性能,但其大多数基于有足够标签数据这个前提,这恰恰又是实际应用中难以实现的。
7、因此,对小样本信号的调制识别研究就更加具有实际意义。支持向量机(SupportVectorMachine,SVM)作为建立在统计学习理论中VC维(Vapnik-Chervonenkisdimension)理论和结构风险最小化原理基础上的机器学习方法,有着坚实的理论基础,其在解决小样本、非线性和高维模式识别问题中表现出许多特有的优势1,并在很大程度上克服了“维数灾难”和“过拟合”等问题,也广泛应用于信号调制识别领域。支持向量机可以将原始数据映射至高维空间,通过划分超平面实现分类,支持向量所确定的超平面之间间隙越大,分类识别效果越明显2,一般而言,超平面的确定仅需少量样本数据即可完成,因此支持向量
8、机适于解决小样本问题3。收稿日期:2022-05-17;改回日期:2022-10-07;网络出版:2022-10-11*通信作者:谭信第45卷第6期电子与信息学报Vol.45No.62023年6月JournalofElectronics&InformationTechnologyJun.2023Remp(w)nL(yi,f(xi,w)=0根据统计学习理论,要实现结构风险最小化,需在经验风险和置信范围之间折衷,支持向量机使用的思路是设计函数集的某种结构使每个子集中都能取得最小的经验风险(如使训练误差为0),然后只需选择适当的子集使置信范围最小4。置信范围的选择难以量化,在传统方法中,选择学习模型
9、和算法的过程就是调整置信范围的过程,如果模型比较适合现有的训练样本,则默认置信范围可以被接受并取得比较好的结果4。在此基础上再考虑经验风险最小化,由统计学习理论中经验风险公式(1)4可知,在进行分类识别时,需尽量减小经验风险值,方可实现较好效果,有两种方式可以达到该目的,一是适当增大训练样本数量;二是提高单个样本分类正确率,使,在支持向量机中则表现为最大化超平面边距3Remp(w)=1nni=1L(yi,f(xi,w)(1)(x1,y1)(x2,y2).(xn,yn)nL(yi,f(xi,w)其中,是 个独立同分布训练样本,表示单个样本是否成功分类L(y,f(x,w)=0,y=f(x,w)1,
10、y=f(x,w)(2)目前利用支持向量机进行调制识别的研究主要聚焦于最大化超平面边距,即提高单个样本分类正确率。文献5提出一种基于互信息和模糊支持向量机6的雷达信号调制识别方法,通过对每个输入样本点附加模糊隶属度,减少噪声样本点对超平面划分的影响,从而提高样本点分类正确率,仿真中分类器的综合识别准确率超过78%。文献7对仿真信号提取4阶、8阶累积量和循环谱的特征参数,利用决策树孪生支持向量机进行识别分类,孪生支持向量机8增加了超平面数量,通过生成不平行的超平面,使每个超平面尽量靠近每一类样本点,并尽可能远离其他类样本点,减小超平面划分过程中噪声样本点的影响,提高了分类准确率,当光信噪比为5dB
11、时,光调制信号的平均识别精度达到94%以上。文献9通过改进核函数,优化高维空间中样本点映射位置,增大超平面边距,有效提高了调制识别准确率。文献1014提取信号的高阶统计量等特征参数,再利用支持向量机识别分类,本质上是选取有助于超平面划分的样本点,均取得良好效果。根据统计学习理论,还可通过适当增大样本数量来提高支持向量机分类识别准确率,根据式(1)可知,(1)只有在数据分布相同的情况下,适当增大数据样本方可有效;(2)样本数量越少时,增加同分布样本提升效果越好,这有助于解决小样本问题。针对信号调制识别的此类研究较少,主要聚焦于半监督学习,文献15首先利用模糊C均值聚类算法对无标签数据进行聚类,提
12、高独立同分布样本数据量,再利用线性支持向量机识别分类,取得了8类信号每类200条标签数据在信噪比4dB时约95%的识别准确率;文献16利用K-means聚类算法对无标签数据添加标签,扩充独立同分布的样本数据,再利用改进的半监督支持向量机进行识别,取得了4类雷达信号每类500条数据在信噪比015dB约92%的综合识别准确率。半监督学习可以扩充标签数据量,但也必须建立在足够样本的基础之上。生成对抗网络(GenerativeAdversarialNet-works,GAN)17自提出以来研究丰富,其对抗过程是一个极大极小博弈的问题,优化目标是达到纳什均衡18,显著优点便是可以生成与真实数据分布一致的
13、数据样本19,为解决小样本问题提供了一种新的思路。本文将生成对抗网络与支持向量机相结合,通过网络对抗生成与真实数据同分布的样本,减少支持向量机统计学习的经验风险值,从而提高小样本信号调制识别准确率。2 深度卷积生成对抗网络和支持向量机2.1 深度卷积生成对抗网路生成对抗网络自2014年首次提出,其中深度卷积生成对抗网络(DeepConvolutionalGenerativeAdversarialNetworks,DCGAN)20在基本生成对抗网络基础上进行了经验性优化,网络结构更加丰富。但其并没有在GAN的基础上针对损失函数进行改进,当生成网络损失函数等价于JS散度(Jensen-Shanno
14、ndivergence)时,在真实数据分布和生成数据分布没有重叠或者仅有可忽略重叠条件下,JS散度将会固定为一个常数,无法反映其远近,导致梯度消失;当生成网络损失函数等价于相对熵(Kullback-Leiblerdivergence,KL)散度时,对生成网络的惩罚不平衡将导致梯度不稳定以及样本多样性不足21。2.2 支持向量机本文采用经典1对1支持向量机(one-versus-oneSVMs)算法进行多分类信号识别。本方法在每两类间训练1个分类器,当对一个未知样本进行分类时,每个分类器都对其类别进行判断,并为相应的类别投票,最后得票最多的类别即作为该未知样本的类别。高斯核式(3)可以将原始特征
15、空间映射至无限维度特征空间,为核函数参数,值较小时映射空间维度低,值较大时映射空间维度高。利用原2072电子与信息学报第45卷始I/Q信号数据集研究小样本问题,数据样本量少,低维空间难以分类,支持向量机适于采用 值较大的高斯核函数K(x,z)=exp(x z222)(3)3 生成对抗数据增强支持向量机的调制识别算法本文提出层归一化的深度卷积生成对抗网络(DeepConvolutionalGenerativeAdversarialNet-worksbaedonLayernormalization,LDCGAN),用于扩充与真实信号同分布的数据样本,通过与SVM相结合,实现对小样本信号的有效调制识
16、别。3.1 LDCGAN网络设计LDCGAN网络具体设计如表1所示,在DCGAN基础上主要完成了4个方面的改进:(1)使用零填充操作(ZeroPadding)。对于输入尺寸为10242的I/Q信号而言,宽度仅为2,如不使用补零操作,其卷积之后的输出尺寸将会变小,边缘信息将会弱化。因此在鉴别网络中突出零填充操作的使用,有助于更好地保留头部、尾部信息以及同相分量和正交分量的相关信息。(2)使用全局平均池化层(GlobalAveragePoo-ling)。传统卷积神经网络中全连接层所占参数比例可以达到整个网络的80%,变相弱化了卷积层的特征表征能力,同时容易产生过拟合现象。卷积层与全局平均池化层22
17、的结合将大大减少鉴别网络参数,降低过拟合风险,增强卷积层的特征表征能力。(3)使用具有梯度惩罚的基于推土机距离原理的生成对抗网络(WassersteinGANwithGradientPenalty,WGAN-GP)损失函数。基本生成对抗网络的损失函数无法有效衡量原始样本分布与生成样本分布两者距离,故一直存在梯度消失的风险,WGAN损失函数使用推土机距离(WassersteinDistance)表征两者分布差距,但其权重剪枝23操作容易发生权重集中问题,限制了深度神经网络强大拟合能力的发挥。WGAN-GP损失函数在WGAN基础之上解决了此问题,使得网络拟合能力得到增强,同时其对样本采样后插值数据
18、求梯度的操作避免了对整个样本空间求解梯度,网络模型收敛更为迅速。(4)使用层归一化(LayerNormalization)。WGAN-GP损失函数实现了对样本进行独立的梯度惩罚。批归一化(BatchNormalization)层的特征归一化值包含批量样本信息,与WGAN-GP损失函数对样本独立惩罚相冲突,无法应用在鉴别网络中。为突出样本特征,本文考虑在鉴别网络中使用Layer-Normalization24层,对单个样本中所有维度特征归一化。表 1 LDCGAN整体网络结构生成网络鉴别网络输入输出维度输入输出维度Noise=Input(shape=(100,)(None,100)Input(s
19、hape=(1024,1,1)(None,1024,2,1)Dense(2562128,activation=relu)(None,65536)Con2D(16,(2,2),padding=same,strides=2),LeakyReLU(alpha=0.2)(None,512,1,16)Reshape(256,2,128)(None,256,2,128)LayerNormalization(None,512,1,16)UpSampling2D(2,1)(None,512,2,128)Con2D(32,(2,1),padding=same,strides=(2,1),LeakyReLU(al
20、pha=0.2)(None,256,1,32)Conv2D(128,(2,1),strides=1,padding=same,activation=relu)(None,512,2,128)LayerNormalization(None,256,1,32)BatchNormalization(None,512,2,128)ZeroPadding2D(padding=(1,1),(1,1)(None,258,3,32)UpSampling2D(2,1)(None,1024,2,128)Con2D(64,(2,2),padding=valid,strides=1),LeakyReLU(alpha=
21、0.2)(None,257,2,64)Conv2D(64,(2,1),strides=1,padding=same,activation=relu)(None,1024,2,64)LayerNormalization(None,257,2,64)BatchNormalization(None,1024,2,64)Con2D(128,(2,2),padding=same,strides=2),LeakyReLU(alpha=0.2)(None,129,1,128)Conv2D(32,(2,1),strides=1,padding=same,activation=relu)(None,1024,2
22、,32)LayerNormalization(None,129,1,128)BatchNormalization(None,1024,2,32)Con2D(256,(2,1),padding=same,strides=1),LeakyReLU(alpha=0.2)(None,129,1,256)Conv2D(1,(2,1),strides=1,padding=same,activation=tanh)(None,1024,2,1)GlobalAveragePooling2D()(None,256)Dense(1)(None,1)第6期谢智东等:基于生成对抗数据增强支持向量机的小样本信号调制识别
23、算法20733.2 LDCGAN-SVM信号调制识别算法针对小样本条件下的信号调制识别,首先利用LDCGAN完成对小样本I/Q信号数据集的扩充,真实样本与扩充样本混合组成数据集,以训练集/测试集比例8/2划分实验,测试集中保证仅有真实样本(真实样本数量无法达到整体数据量20%时缺省),再利用支持向量机进行分类,具体算法流程如图1。(1)初始化LDCGAN中生成网络和鉴别网络参数;(2)输入噪声经生成网络生成样本数据,把生成样本与真实样本一同喂入鉴别网络,固定生成网络,训练优化鉴别网络,使鉴别网络有效识别真伪;(3)固定鉴别网络,多次输入噪声生成样本数据,鉴别后梯度更新生成网络参数,提高生成样本
24、仿真度;(4)多次迭代训练步骤2、步骤3,更新网络参数后,鉴别网络将处于无法有效分辨生成样本和真实样本的状态,训练完成,保存网络及参数。m nmn(5)重复步骤14次,完成对种调制类型 种信噪比的I/Q信号样本扩充;(6)混合真实样本与扩充样本,在保证测试集全为真实样本的前提下,划分训练集/测试集=8:2,真实样本不足时缺省,利用支持向量机进行识别分类。4 小样本信号扩充及识别实验4.1 数据集与实验环境实验采用DeepSig:RADIOML2018.01A(NEW)数据集25,为便于对生成样本直观分析,选取其中幅移键控信号(4ASK)、正交相移键控信号(QPSK)、调频信号(FM)、载波存在
25、的双边带调幅信号(AM-DSB-WC)4种调制方式10dB,8dB,8dB,10dB共11种信噪比下数据,每种信号在每个信噪比下共有4 096条数据,每条数据包含I/Q两路信号,每路信号包含1 024个采样点。本文讨论研究小样本信号问题,故在每种信号每个信噪比下4 096条数据中随机抽取400条以下数据实验。所有实验均基于Python实现,采用Keras深度学习框架,硬件平台CPU为Intel(R)i9-9920X3.50GHz24,GPU为GeForceRTX2080Ti,操作系统Ubuntu20.01.2LTS。4.2 SVM与其他传统机器学习算法对比实验在4ASK,QPSK,FM,AM-
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 生成 对抗 数据 增强 支持 向量 小样 信号 调制 识别 算法
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。