基于深度学习与狮群SVM算法的遥感场景分类.pdf
《基于深度学习与狮群SVM算法的遥感场景分类.pdf》由会员分享,可在线阅读,更多相关《基于深度学习与狮群SVM算法的遥感场景分类.pdf(12页珍藏版)》请在咨信网上搜索。
1、 第6 1卷 第4期吉 林 大 学 学 报(理 学 版)V o l.6 1 N o.4 2 0 2 3年7月J o u r n a l o f J i l i nU n i v e r s i t y(S c i e n c eE d i t i o n)J u l y 2 0 2 3d o i:1 0.1 3 4 1 3/j.c n k i.j d x b l x b.2 0 2 2 2 3 0基于深度学习与狮群S VM算法的遥感场景分类王李祺1,侯宇超2,高 翔1,谭秀辉1,程 蓉1,王 鹏1,白艳萍1,2(1.中北大学 数学学院,太原0 3 0 0 5 1;2.中北大学 信息与通信工程学
2、院,太原0 3 0 0 5 1)摘要:针对高分辨遥感图像样本量小,以及传统优化支持向量机(S VM)算法易陷入局部最优解、寻优速度慢等问题,提出一种基于深度迁移学习与狮群优化S VM(L S O-S VM)算法对遥感图像场景进行分类.首先,通过自适应对比度增强图像后利用颜色聚合向量提取图像颜色特征;其次,利用3种预训练网络分别提取图像的迁移学习深度特征;最后,将手工提取的图像特征与用3种预训练网络获取的特征使用系列特征融合方法进行融合,并将其输入L S O-S VM进行图像场景分类.结果表明,该算法解决了小样本情况下深度学习较难训练及传统优化S VM算法易陷入局部最优解、寻优速度慢的问题.在8
3、 0%的训练条件下,数据集U CM L a n d-U s e和R S S C N 7的分类精度分别达到9 9.5 2%和9 8.5 7%.关键词:遥感图像;图像分类;迁移学习;狮群优化算法;颜色聚合向量中图分类号:T P 7 5 1 文献标志码:A 文章编号:1 6 7 1-5 4 8 9(2 0 2 3)0 4-0 8 6 3-1 2R e m o t eS e n s i n gS c e n eC l a s s i f i c a t i o nB a s e do nD e e pL e a r n i n ga n dL i o nS w a r mS VM A l g o r
4、i t h mWANGL i q i1,HOUY u c h a o2,GAOX i a n g1,T ANX i u h u i1,CHE NGR o n g1,WANGP e n g1,B A IY a n p i n g1,2(1.S c h o o l o fM a t h e m a t i c s,N o r t hU n i v e r s i t yo fC h i n a,T a i y u a n0 3 0 0 5 1,C h i n a;2.S c h o o l o fI n f o r m a t i o na n dC o mm u n i c a t i o nE
5、 n g i n e e r i n g,N o r t hU n i v e r s i t yo fC h i n a,T a i y u a n0 3 0 0 5 1,C h i n a)收稿日期:2 0 2 2-0 5-2 0.第一作者简介:王李祺(1 9 9 6),男,汉族,硕士研究生,从事机器学习、数字图像处理与模式识别的研究,E-m a i l:1 0 2 3 2 5 2 9 0 1q q.c o m.通信作者简介:白艳萍(1 9 6 2),女,汉族,博士,教授,从事现代优化理论与方法、神经网络算法及应用的研究,E-m a i l:b a i y p 6 6 61 6 3.c o
6、 m.基金项目:国家自然科学基金(批准号:6 1 7 7 4 1 3 7)、山西省基础研究计划项目(批准号:2 0 2 1 0 3 0 2 1 2 2 4 1 9 5;2 0 2 1 0 3 0 2 1 2 2 4 2 1 2;2 0 2 1 0 3 0 2 1 2 2 3 1 8 9;2 0 2 1 0 3 0 2 1 2 3 0 1 9)和山西省回国留学人员科研项目(批准号:2 0 2 0-1 0 4;2 0 2 1-1 0 8).A b s t r a c t:A i m i n ga tt h ep r o b l e mo ft h es m a l ls a m p l es i
7、z eo fh i g h-r e s o l u t i o nr e m o t es e n s i n gi m a g e sa n dt r a d i t i o n a l o p t i m i z e ds u p p o r tv e c t o rm a c h i n e(S VM)a l g o r i t h m se a s i l yf a l l i n gi n t ol o c a lo p t i m aa n ds l o w o p t i m i z a t i o ns p e e d,w ep r o p o s e da na l g o
8、r i t h m b a s e do nd e e pt r a n s f e rl e a r n i n ga n dl i o ns w a r m o p t i m i z a t i o n S VM(L S O-S VM)t o c l a s s i f y r e m o t es e n s i n gi m a g es c e n e.F i r s t l y,a f t e re n h a n c i n gt h e i m a g e t h r o u g ha d a p t i v ec o n t r a s t,c o l o ra g g r
9、 e g a t i o nv e c t o r sw e r eu s e dt oe x t r a c t i m a g ec o l o r f e a t u r e s.S e c o n d l y,t h r e ek i n d so f p r e t r a i n e dn e t w o r k sw e r eu s e d t oe x t r a c t t h e t r a n s f e r l e a r n i n gd e p t hf e a t u r e so f i m a g e s.F i n a l l y,t h em a n u
10、 a l l ye x t r a c t e di m a g ef e a t u r e sa n dt h ef e a t u r e so b t a i n e du s i n gt h r e ep r e t r a i n e dn e t w o r k sw e r e f u s e db yu s i n gas e r i e so f f e a t u r e f u s i o nm e t h o d s,a n d i n p u t t e dt h e mi n t oL S O-S VMf o r i m a g es c e n ec l a
11、s s i f i c a t i o n.T h er e s u l t ss h o wt h a tt h ea l g o r i t h ms o l v e st h ep r o b l e m so fd i f f i c u l t yi n d e e pl e a r n i n gt r a i n i n gi ns m a l ls a m p l es i t u a t i o n sa n dt h et e n d e n c yo ft r a d i t i o n a l o p t i m i z e dS VM a l g o r i t h
12、m st of a l l i n t ol o c a lo p t i m aa n ds l o ws e a r c hs p e e d.U n d e r8 0%t r a i n i n gc o n d i t i o n s,t h ec l a s s i f i c a t i o na c c u r a c yo f U CM L a n d-U s ea n d R S S C N 7d a t a s e t sr e a c h e s9 9.5 2%a n d9 8.5 7%,r e s p e c t i v e l y.K e y w o r d s:r
13、e m o t es e n s i n gi m a g e;i m a g ec l a s s i f i c a t i o n;t r a n s f e rl e a r n i n g;l i o ns w a r m o p t i m i z a t i o na l g o r i t h m;c o l o rc o h e r e n c ev e c t o r随着遥感和卫星技术的快速发展,获取的高分辨率图像越来越多1,遥感图像场景分类逐渐成为遥感图像领域的研究热点.基于深度学习的分类方法通常需要大量的带标记样本,而获取带标记的样本非常困难,使得这类方法效果不理想2.
14、针对上述问题,研究小样本条件下的遥感图像分类方法具有重要意义3-4.迁移学习是一种利用已有的知识对不同但相近领域问题进行求解的机器学习算法5,其将在自然图像等数据集中学习到的知识迁移到遥感图像等较小样本的学习任务中,已成为目前解决遥感图像样本量较少的主流方法6.目前,主流的深度迁移学习算法主要包括基于特征的迁移或者网络的迁移和基于结构的迁移7-8.其中将预训练的网络对遥感图像特征提取应用到场景分类中是最直接的迁移策略.余东行等9提出了一种结合卷积神经网络(C NN)与集成学习的遥感影像场景分类方法,利用预训练模型提取同一图像多个高层语义特征;Amm o u r等1 0先用预训练的网络进行特征提
15、取,然后在数据域分类上采用两个非对称网络结合的方法进行训练;H a n等1 1利用改进的A l e x N e t网络并结合空间金字塔池化方法(S P P)防止网络迁移过程中的过渡拟合;T u n等1 2提出了一种混合预训练VG G 1 6-C NN-S VM分类器模型,能在少量样本下较好地提取图像特征;L i m a等1 3系统性地评估了迁移学习在卷积神经网络中的应用,结果表明,从更大、更通用的自然图像数据集上训练的模型中迁移学习的性能优于直接从较小的遥感数据集上进行迁移学习.深度学习图像分类中,分类器的选择与设计至关重要1 4.研究表明,将C NN提取的深层特征进行不同方式的特征融合并 输
16、入支持向 量机(S VM)进 行分类,效果优于直 接使用C NN分类1 5.G i r s h i c k等1 6利用深度学习进行目标检测时,用S VM分类器代替全连接层后接S o f t m a x进行输出,取得了更佳的效果;S a r a等1 7研究表明,在高维、少量的样本条件下,S VM的泛化能力优于K-最近邻、随机森林等分类器.尽管S VM在许多领域都有较好的性能,但其分类效果很大程度上依赖核参数g和惩罚因子c的选择.遗传算法(GA)、粒子群优化(P S O)算法等传统优化算法在S VM参数优化中存在易陷入局部最优解和寻优速度慢等问题1 8.L i u等1 9提出了一种狮群优化算法(L
17、 S O),相比GA和P S O等传统优化算法,具有较好的全局收敛性、鲁棒性以及高维复杂函数寻优能力.基于上述研究,本文提出一种基于深度学习与狮群优化S VM算法的方法用于遥感图像场景分类.首先,使用自适应对比度增强算法(A C E)2 0,在增强图像后通过颜色聚合向量(C C V)2 1提取图像颜色特征;其次,利用预训练网络G o o g l e N e t2 2,R e s N e t 1 0 12 3和VG G-1 62 4分别提取遥感图像深度特征;最后,将这些特征自适应融合,并输入L S O-S VM进行遥感图像场景分类.1 基本原理1.1 自适应对比度增强A C E算法将一张图像分为
18、低频和高频两部分,在增强表示细节的高频部分后,对图像进行重组得到增强图像.但在彩色图像中需先将图像转换成H S I色彩空间,再对亮度通道I进行增强后合并通道,最后转换回R G B空间.假设一张图像中第i行、第j列的像素点表示为x(i,j),在以(i,j)为中心、窗口大小为(2n+1)(2n+1)的区域内,分别计算局部均值Mx(i,j)和方差2x(i,j):Mx(i,j)=1(2n+1)2i+nk=i-nj+nl=j-nx(k,l),(1)468 吉 林 大 学 学 报(理 学 版)第6 1卷 2x(i,j)=1(2n+1)2i+nk=i-nj+nl=j-n(x(k,l)-Mx(i,j)2.(2
19、)求得局部均值和标准差后,对图像进行增强,计算公式为I(i,j)=Mx(i,j)+Gi j(x(i,j)-Mx(i,j),(3)Gi j=M(i,j),01,(4)其中:I(i,j)表示增强后的像素值;Gi j表示高频部分的增益系数;M表示以点(i,j)为中心、窗口大小为(2n+1)(2n+1)区域的局部均值;为系数参数.1.2 颜色聚合向量颜色特征受图像自身的尺寸、视角、方向的影响较小,因此具有较高的鲁棒性.针对颜色直方图和颜色矩的特征无法表达图像色彩空间位置的缺点,本文采用C C V提取图像颜色特征.首先对图像进行均匀量化,使图像中只剩n个颜色区间;然后对重新量化后的像素值矩阵,根据像素间
20、的连通性把图像n个区间分别划分为若干个连通区域,统计每个独立连通区域中的像素数,如果 该区域内的像素数大于设置的阈值,则将该区域内的像素作为聚合像素,否则作为非聚合像素;最后将每个区间内的连通区域分为颜色聚合向量和颜色非聚合向量.图像的颜色聚合向量可表示为(1,1),(2,2),(n,n),其中i,i分别表示直方图第i个区间中聚合像素和非聚合像素的数量,n表示直方图区间个数.1.3 狮群优化算法L i u等1 9基于狮群中狮王、母狮和幼狮的自然分工,提出了一种群智能优化算法L S O.该算法的主要思想如下.设在D维搜索空间中有一个由N只狮子组成的群体,其中成年狮子数量为n=N(2nN/2),且
21、其中只有一只雄狮,幼狮的数量为N-n,是成年狮在狮群中所占的比例.设第i(1iN)只狮子的位置为xi=(xi1,xi2,xi D).捕猎过程中雄狮在最优食物周围小范围移动,按xk+1i=gk(1+pki-gk)(5)更新自身位置;母狮在捕猎过程中需和另一只母狮协作,按xk+1i=pki+pkc2(1+f)(6)更新自身位置;幼狮按xki=pki+gk2(1+c),0q13,pkm+pki2(1+c),13q23,g k+pki2(1+c),23q1(7)更新自身位置,其中:表示根据标准正态分布产生的随机数;pki表示第i只狮子第k代的历史最优位置;gk表示第k代群体最优位置;pkc表示从第k代
22、母狮群中随机挑选一个协作伙伴的历史最佳位置;pkm表示幼狮跟随母狮的第k代历史最佳位置;q为根据均匀分布产生的随机值;f为母狮移动范围扰动因子,计算公式为f=0.1(h i g h-l o w)e x p-3 0tT1 0,(8)c为幼狮移动范围扰动因子,计算公式为c=T-tT,(9)g k为第i只幼狮在捕猎范围内被驱赶的位置,计算公式为568 第4期 王李祺,等:基于深度学习与狮群S VM算法的遥感场景分类 g k=l o w-h i g h-gk,(1 0)h i g h和l o w分别表示狮子活动范围空间各维度的最小值均值和最大值均值,T为群体最大迭代次数,t为当前迭代次数.1.4 支持
23、向量机S VM是一种常用的二分类或多分类模型2 5,对于输入空间中的非线性分类问题,通常设训练集T=(x1,y1),(x2,y2),(xn,yn),其中xi为第i张图片的特征向量,yi为第i张图片的标签.由于在线性支持向量机学习的对偶问题中,目标函数和分类决策函数都只涉及实例与实例之间的内积,所以不需要显式地指定非线性变换,而是用核函数替换其中的内积.因此在构造求解最优化问题时,需引入适当的(x,x)和惩罚参数C,公式如下:m a xli=1i-12li=1lj=1ijyiyj(x,x),s.t.li=1iyi=0,0iC,i=1,2,l,(1 1)得到最优解*=(*1,*2,*l)T.任意选
24、取*的一个分量,计算阈值:b*=yj-li=1yi*i(x,xi),(1 2)分类决策函数为f(x)=s g nli=1*iyi(x,xi)+b()*,(1 3)其中s g n为符号函数.2 本文方法设计本文方法主要包括预处理、图像特征提取融合、L S O-S VM分类3个阶段.整体方法流程如图1所示.预处理阶段通过自适应直方图均衡化(AHE)增强图像细节信息和图像缩放.特征提取融合阶段分以下两方面:1)利用C C V提取图像颜色空间特征;2)利用3种预训练模型,在保留除最后分类层外所有参数的同时,加入不同维度的全连接层以便提取同一图像不同维数的特征.L S O-S VM分类阶段将融合特征输入
25、L S O-S VM分类器中,最终得到场景图像的分类结果.图1 本文方法流程F i g.1 F l o wc h a r t o fp r o p o s e dm e t h o d2.1 预处理预处理主要包括数据增强和数据标准化.为提高颜色特征对图像的表达能力,使用A C E增强图像细节信息,并根据采用网络模型的输入大小,将训练图像和测试图像缩放到适合的尺寸对数据进行标准化.668 吉 林 大 学 学 报(理 学 版)第6 1卷 2.2 特征提取融合高分辨率遥感图像场景分类方法的特征提取策略主要分为以下两类:基于手工的特征提取和基于数据驱动的特征提取2 6.本文方法同时使用两者进行特征提取
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 深度 学习 SVM 算法 遥感 场景 分类
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。