生物视觉启发的低照度视频自适应增强设计与FPGA加速实现.pdf
《生物视觉启发的低照度视频自适应增强设计与FPGA加速实现.pdf》由会员分享,可在线阅读,更多相关《生物视觉启发的低照度视频自适应增强设计与FPGA加速实现.pdf(10页珍藏版)》请在咨信网上搜索。
1、生物视觉启发的低照度视频自适应增强设计与FPGA加速实现张显石宋健宋泗锦李永杰*(电子科技大学生命科学与技术学院成都610054)摘要:该文基于现场可编程门阵列实现了受生物视觉机制启发的夜间图像增强模型,实时高效地对夜间低照度视频图像进行自适应增强。受初级视觉系统中大小细胞通路启发,该文采取独立的两条通路分别处理结构与细节信息,获得了较好的处理效果与处理效率。为了实现对高清视频的实时增强,基于现场可编程门阵列对该文算法进行了加速实现。通过滑动数据窗并行处理、相邻帧信息共享、多通道并行化等硬件设计保证高数据吞吐量。该设计在XC7Z100现场可编程门阵列上达到对1080P60Hz彩色视频增强的实时
2、性要求。与本领域已有设计相比,该文设计具有更高的数据吞吐量,适用于高分辨率实时图像增强应用。关键词:生物视觉计算模型;图像增强;现场可编程门阵列中图分类号:TN911.73文献标识码:A文章编号:1009-5896(2023)08-2739-10DOI:10.11999/JEIT221346Design of Biological-inspired Low-light Video Adaptive Enhancementand FPGA Accelerated ImplementationZHANGXianshiSONGJianSONGSijinLIYongjie(School of Life
3、 Sciences and Technology,University of Electronic Science andTechnology of China,Chengdu 610054,China)Abstract:Anighttimeimageenhancementmodelisproposedinthispaper,whichisinspiredbybiologicalvisionmechanismandimplementedonFieldProgrammableGateArrays(FPGA)forreal-timeenhancementoflow-lightvideosandim
4、ages.InspiredbytheMidgetcellsandtheParasolcellsintheearlyvisualsystem,theproposedmethodprocessesthestructureanddetailinformationthroughtwoindependentpathwaysrespectively,andobtainsaniceeffectandefficiency.Toachievereal-timeenhancementofhigh-resolutionvideos,thispaperimplementstheproposedmethodonFiel
5、dProgrammableGateArrays.Highdatathroughputisensuredthroughhardwaredesignsuchasslidingdatawindowparallelprocessing,adjacentframeinformationsharing,andmulti-channelparallelization.ImplementedonFieldProgrammableGateArraysXC7Z100,theproposeddesignachievesprocessing60framespersecondfor1 024768RGBimages.C
6、omparedwithexistingdesignsinthisfield,theproposeddesignhashigherdatathroughputandissuitableforhigh-resolutionreal-timeimageenhancementapplications.Key words:Biologicalvisioncomputationmodel;Imageenhancement;FieldProgrammableGateArrays(FPGA)1 引言近年来,基于图像/视频获取信息的计算机视觉技术在自动驾驶、智慧城市、智能家居、安防监控等诸多领域得到广泛应用。然
7、而,在照明不足(如夜间低光照场景)或不均场景中(如光源只覆盖部分区域场景),摄像头采集到的图像或视频往往受照度不足、强噪声以及不均匀照度等因素影响1,质量较低,计算机难以从中获取足够信息,严重限制了计算机视觉技术在相关场景中的实际应用。因此,对此类图像/视频进行自适应增强的预处理技术有助于计算机视觉在真实世界的实际落地,具有重要现实意义。传统夜间低照度图像增强方法大致可分为空间域和频率域两大类。代表性的空间域增强方法有对比度拉伸、直方图均衡化等。其中,基于直方图均衡化的方法由于其简单易行的概念取得了极大发展。但由于缺乏位置信息表达,这类方法在增强图收稿日期:2022-10-27;改回日期:20
8、23-07-13;网络出版:2023-07-19*通信作者:李永杰基金项目:四川省中央引导地方科技发展专项(#2022ZYD0112),四川省自然科学基金(2022NSFSC0527)FoundationItems:SichuanScienceandTechnologyProgram(#2022ZYD0112),TheNaturalScienceFoundationofSichuanProvince(2022NSFSC0527)第45卷第8期电子与信息学报Vol.45No.82023年8月JournalofElectronics&InformationTechnologyAug.2023像对比
9、度的同时往往也存在增强过度、噪声放大、失真等问题2,3。频率域增强方法通常采用特殊设计的滤波器将图像分解为低频结构层和高频细节层,在增强亮度的同时抑制噪声,但存在锐度损失、图像漂白、伪影等问题,同时色调再现性较差46。基于视网膜皮层理论(Retinex)衍生的各种图像增强算法是此类方法的代表。Li等人7关注低光照场景中捕获图像的噪声问题,利用结构信息建立鲁棒的Retinex模型,对受强噪声干扰的弱光图像具有良好的增强效果。Jiang等人8则采用掩码加权最小二乘法保留细节并抑制高频细节层中的噪声和伪影。Guo等人9引入颜色恒常问题中的白板假设和去雾问题中的暗通道先验假设,利用先验结构细化初始照明
10、图,并从中获得最终增强。随着深度学习的不断发展,RetinexNet,KinD等结合深度神经网络与Retinex理论的方法正不断涌现1014。同样受生物视觉机制启发,Zhang等人15模拟视网膜水平通路对垂直通路的调控作用完成局部亮度调整;Yang等人4模拟具有较大感受野的伞型神经节细胞和感受野较小的侏儒型神经节细胞,分离处理视觉信息中的不同组分,并在后续工作中利用神经网络模拟了视网膜Naka-Rushton响应曲线的自适应过程16;Liu等人17重新思考了人眼空间频率特性,通过实验探索了感受野大小、图像空间频率和光照增强特性之间的关系,根据信息熵空间频率自适应调整神经元感受野大小,使其能够在
11、感知全局一致性的同时完成局部细节增强。近期,立足真实世界,面向高级语义任务的低照度图像增强研究越来越受到重视。Hai等人18采用真实世界搜集的大规模成对低/正常照度图像代替合成图像进行训练,使用图像空间信息提高对比度,频率信息保留细节,具有较强的泛化能力;Wu等人19通过语义感知知识引导框架在特征空间整合语义先验,保持实例的颜色一致性,避免不同语义区域在照度调整过程中出现颜色偏离;Futschik等人20提出光扩散模型,针对性地处理阴影区域而非整个场景,极大提高了后续几何估计、语义分割等高级计算机视觉任务的鲁棒性。在生产生活实际应用中,图像/视频增强单元需要在保证效果的同时,兼顾实时性、稳定性
12、、便捷性等不同要求。基于中央处理器的图像/视频增强单元受限于串行执行的特点,难以支撑数据吞吐量较大的场景。基于图像处理器的图像/视频增强单元得益于并行计算的特点,能够更好地满足实时性要求,但功耗与成本较高,不适合在边缘计算场景中大规模部署。相较而言,基于现场可编程逻辑门阵列(FieldProgrammableGateArray,FPGA)的图像/视频增强单元兼顾实时性与能效比,以相对较低的成本提供同等水平的结果,长期以来一直吸引着国内外学者的关注。基于Spartan3FPGA平台,Urea等人21受视网膜机制启发,设计实现了一种以减轻眩光为特色的色调映射算子。基于Virtex5FPGA平台,L
13、apray等人22实现了Duan等人提出的基于直方图均衡化的低亮度图像增强方法。基于Virtex6FPGA平台,Caada等人23实现了Zuiderveld等人提出的对比度受限自适应直方图均衡化方法,Joseph等人24实现了自适应Gamma校正。基于Kintex7FPGA平台,Ambalathankandy等人25实现了经典的局部直方图均衡化算法。基于CycloneIIIFPGA平台,Yang等人26在对数域实现从全局细化到局部的亮度调整,Shahnovich等人27将全局亮度调整和局部对比度增强相结合,Am-balathankandy等人28实现了Hor等人提出的指数增强算法。本文受生物视
14、觉机制启发,在Yang等人42020年工作的基础上进行改进,提出一种夜间低照度视频图像自适应增强设计,并通过数据缓存滑动窗、帧共享、合并同类项卷积计算器等并行化硬件设计完成资源占用率低、数据吞吐量大的FPGA实现。本文工作包括:(1)对Yang等人4的夜间图像增强算法进行改进,保证效果的同时极大地降低运算复杂度,成倍缩减计算时间;(2)在FPGA硬件平台上并行化实现该算法,加速优化后的算法实现满足1080P60Hz输入彩色视频流的实时增强处理。2 本文算法2.1 对Yang等人4夜间图像增强模型的改进Yang等人4的夜间图像增强算法流程如图1所示。该算法利用全变分分解将输入图像分解为结构层和细
15、节层,分别送入结构通路和细节通路进行处理。在结构通路,彩色图像由RGB颜色空间转入HSV颜色空间,再利用HSV空间亮度通道的全局与局部的均值和方差计算全局和局部的适应因子,在经典Naka-Rushton亮度归一化公式中引入空间依赖关系。考虑到亮度归一化可能带来的对比度损失,模拟视网膜双极细胞感受野的高斯差分算子以增强局部对比度。最后,在图像由HSV空间转换回RGB空间前,引入一个额外的颜色校正模板,以避免由亮度调整带来的浦金野位移。在细节通路,局部能量被用于进行噪声估计,指导噪声压缩。最后,结构通路和细节通路根据用户控制参数加权融合,获得增强后的输出图像。尽管Yang等人4的算法兼顾亮度调整与
16、噪声抑2740电子与信息学报第45卷制,对夜间低照度图像的增强效果在非深度学习的传统算法中名列前茅。但其计算复杂度较高,在主流个人电脑上(IntelCorei7-12700K3.60GHz中央处理器,32GB内存)上,处理一张1 0801920像素的高清彩色图片耗时超过12s,难以实时处理高清视频流。对Yang等人4的算法代码进行分析,发现其结构通路的计算耗时约占计算总时间的50%,图像分解部分的计算耗时约占计算总时间的45%,其余部分的计算耗时约占计算总时间的5%。在结构通路中,Yang等人在Naka-Rushton公式中引入了根据全局方差计算的指数项n以调整亮度响应曲线的斜率。本文作者对H
17、DRPS29,LOL10,SCIE30等多个图像库的数千张高动态范围图像和低亮度图像测试发现,对于绝大多数图像,其指数项n的取值通常在1到1.2之间,对亮度曲线斜率改变不大。因此,本文移除Naka-Rushton公式中的该指数项,在保证增强效果的同时减少计算量。在图像分解部分,Yang等人采用全变分分解将输入图像分解为结构层和细节层,该过程涉及迭代优化,计算耗时较长。本文采用式(1)所示高斯滤波替代Yang等人方法中的全变分分解完成图像分解,以减少计算量。Icb(x,y)=(Ic G)(x,y)G(x,y)=12exp(x2+y22)(1)Ic(x,y)Icb(x,y)G(x,y)(x,y)式
18、中*表示卷积运算,表示输入图像,表示结构层信息,表示标准差为1的2维高斯滤波器,表示像素点坐标。经过上述修改,本文算法在保留Yang等人夜间图像视频增强模型优点的同时,极大地减少了计算量,在主流个人电脑上处理一张1 0801920像素高清图片的时间消耗从超过12s降低到7s左右。尽管修改后算法的计算速度有了极大提升,但仍难以满足实时处理高清视频流的需求。为进一步加速计算,本文以FPGA为平台,通过比特位并行计算、多行卷积数据并行计算、不同模块并行执行、不同通路并行处理等并行化措施,对算法进行加速优化实现。2.2 夜间低照度视频图像增强算法的FPGA实现本文采用米联客MZ7100FA开发板(核心
19、芯片XC7Z100-2FFG900I)作为夜间低照度图像增强算图1Yang等人4夜间图像增强模型的算法原理框架第8期张显石等:生物视觉启发的低照度视频自适应增强设计与FPGA加速实现2741法的FPGA实现平台,使用Verilog语言编写代码。为降低功耗,本文实现以外部视频流为使能信号。当外部视频输入FPGA时,使能信号有效,图像增强单元开始工作。该FPGA实现模块划分如图2所示,主要模块包括:数据缓存模块、结构通路和细节通路分离模块、结构通路亮度适应模块、结构通路细节锐化模块、结构通路颜色校正模块、细节通路噪声抑制模块、图像重建模块。2.2.1 数据缓存模块数据缓存模块包含寄存器阵列,寄存器
20、写入地址生成器,寄存器读取地址生成器和像素窗生成器,通过高度复用的方式提供局部数据,为并行卷积计算提供支撑。本算法中多处涉及卷积操作,处理数据量大,消耗资源多,时钟占用久。以1515像素的单通道卷积为例,假定采用常规的输入顺序地址递增方式存取输入的像素值,一个时钟周期只能获取一个数据,完成一次卷积运算需要消耗1515个时钟周期,消耗时间过长。为解决该问题,本文利用多个寄存器组成阵列对卷积计算中所需的多行数据进行存储,实现卷积并行计算。在本实现中,1515卷积操作需要的15行图像数据被分别依次存入由15个深度为1920的寄存器所组成的阵列中,每个时钟周期都能从该阵列中获取15个相邻的一列像素。在
21、此基础上,利用像素窗滑动机制,使相邻像素在计算卷积时,复用1514个像素数据构造其各自的图2夜间图像增强算法的FPGA实现2742电子与信息学报第45卷1515卷积像素窗,每个时钟周期更新15个像素数据,输出一个卷积结果,相比单寄存器顺序存取方式显著加快了处理速度。寄存器写入地址生成器生成写入地址,并根据写入地址向寄存器中存入输入数据。写入地址分为列地址和行地址。列地址模为1920,随时钟递增,每个时钟加1;行地址模为16,列地址累加到1919时行地址加1。寄存器读取地址生成器生成读取地址,像素窗生成模块根据该地址从寄存器中取出数据。读取地址为列地址,模为1920,随时钟递增,每个时钟加1。像
22、素窗生成器根据读取地址从寄存器读出数据到缓冲像素窗,再在使能信号控制下复制给输出像素窗,形成最终输出。像素窗生成器在寄存器阵列写满7行数据之后启动。当第8行第1个数据输入时,生成模块根据读取地址从前8个寄存器(对应输入视频图像的前8行)中读出8个数据,依次填入到缓冲像素窗最右1列下8行。同时,缓冲像素窗最右1列上8行填零。此后每个时钟周期,缓冲像素窗中已有数据左移1列,新读入数据填入最右列。如此8个时钟周期后,缓冲像素窗中获取到输入图像的88像素点(其余位置填0),初始化完成(此时像素窗中心点为图像左上角第1个像素),缓冲像素窗中内容复制给输出像素窗,输出像素窗再输出到后续计算模块。当缓冲像素
23、窗右边缘向右滑动到图像边缘,读取完前8行中最后1列数据后,下一时钟周期,输出像素窗不再从缓冲像素窗中复制数据,而是将已有数据左移1列,最右列填零处理后输出到后续计算模块。同时,缓冲像素窗复位并下移1行,根据读取地址从前9个寄存器(对应输入视频图像的前9行)中读出9个数据,依次填入到像素窗最右一列下9行。如此8个时钟周期后,缓冲像素窗中获取到输入图像的89像素点(其余位置填0),像素窗中心点移动到图像第2行第1个像素,缓冲像素窗中内容重新复制给输出像素窗输出到后续计算模块,如此往复循环。当行号大于16时,该模块根据行号模16结果调整读取数据在像素窗中填充位置。例如,当第18行数据输入时,18模1
24、6等于2,因此像素窗从上到下依次填充第315号、第1号、第2号寄存器数据。当像素窗下边缘向下滑动出图像边缘(即像素窗中心点到达1 074行第1列)后,缓冲像素窗只从寄存器中读取数据填充前15行数据,最后1行填零处理。当像素窗中心点到达1 075行第1列后,缓冲像素窗最后2行填零。如此往复,直至像素窗中心点到达1 080行1920列后,像素窗复位,开始新一帧数据处理。2.2.2 结构通路和细节通路分离模块结构通路和细节通路分离模块由数据缓存模块和卷积计算单元组成,采用R,G,B三通道并行处理方式以节省时间。本算法采用高斯滤波,滤波器参数沿中线和对角线对称,因此只需要保存全部参数的1/8参与卷积计
25、算即可。同时,参数中远离中心位置存在大量零值,这些零值对应的像素值无需送入后续乘法/加法器进行处理。基于以上特点,卷积计算单元首先根据滤波器参数对应的像素窗位置进行分组,滤波器参数零值对应的像素被直接丢弃,具有相同滤波参数的像素被分为一组,先累加求和再与对应的滤波器参数相乘,再将乘积累加后输出。为了简化布线难度,提高信号稳定性,累加操作采用树形加法器组完成。2.2.3 结构通路亮度适应模块结构通路亮度适应模块由颜色空间转换、帧信息共享、全局/局部适应因子计算、全局/局部适应因子权值计算等单元组成,根据图像的均值和标准差对图像亮度进行调整。全局适应因子需要根据整帧图像的平均值和标准差进行计算。其
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 生物 视觉 启发 照度 视频 自适应 增强 设计 FPGA 加速 实现
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。