一种智能视觉计算服务的调度系统和实现方法.pdf
《一种智能视觉计算服务的调度系统和实现方法.pdf》由会员分享,可在线阅读,更多相关《一种智能视觉计算服务的调度系统和实现方法.pdf(6页珍藏版)》请在咨信网上搜索。
1、28通信热点DOI:10.3969/j.issn.1006-6403.2023.07.007一种智能视觉计算服务的调度系统和实现方法陆小慧刘勇研究并提供了一种智能视觉计算服务的调度系统和实现方法,是一种用于实时或离线状态下进行视频图像分析的图像结构化大数据实现方法和系统,涉及人工智能领域的机器视觉应用。本文提供的系统和实现方法可广泛应用于智能视频监控、视频内容分析、图片检索等多种应用场景之中。陆小慧中兴通讯股份有限公司,高级工程师,南京邮电大学毕业,长期从事大数据及移动互联网的研究,包括机器视觉、大数据分析、分布式计算等。已申请国内专利 6 项、国际专利 4 项;已发表学术论文 4 篇。刘勇中
2、兴通讯股份有限公司,高级工程师,南京邮电大学毕业,先后从事电信级智能网平台及业务、分布式计算、大数据业务平台、人工智能等平台和产品的研发工作;研究方向为大数据平台及业务、数据挖掘、智能问答、视频分析及图像识别等。已申请国内专利 15 项、国际专利 8 项;已发表学术论文 4 篇。关键词:计算机视觉 机器视觉 感知智能 视频分析 图像分析摘要1 研究背景随着深度学习技术的发展,在掀起第三次人工智能热潮的同时,也使得计算机视觉技术在目标分析,如车辆分析、人脸识别、人形分析等领域的应用成为可能,进一步提升了计算机视觉应用产品的智能化特征。比如:基于车牌的自动检测和识别技术已经替代了传统的停车场出入管
3、理系统;人脸识别也已经在金融等领域替代了传统的身份认证方式。然而,基于深度学习的目标(人脸、人形、车辆、车牌等)检测和识别技术存在的一个缺陷就是对计算资源的能力要求非常高。对于简单的深度学习网络模型计算,CPU 的时延可以接受,但是对复杂网络模型的计算,CPU 计算效率极其低下,无法达到商用的实时性要求。GPU 和 FPGA的计算性能远远超过 CPU;然而,GPU 成本高昂,FPGA的算法移植实施周期较长,对研发人员的技能要求也比较高。如何高效、充分地利用计算机系统的计算资源,既要满足商用中不同应用场景的实时性要求,又要满足用来运行基于深度学习的网络计算服务,是智能视觉相关产品交付中面临的一个
4、重大的挑战。2 系统定义与关键技术本文研究的目的在于,提供一种基于异构硬件计算资29一种智能视觉计算服务的调度系统和实现方法通信热点2023.07 广东通信技术源的深度学习智能视觉计算服务的调度系统及服务实现方法,以便针对不同应用场景的要求、不同的深度学习计算服务,提供满足性能、时延和成本要求的综合的系统部署和运行方案。本文研究采用图 1 所示技术方案,系统包括:图 1 智能视觉服务系统示意图智能视觉服务管理引擎:根据基于深度学习的视觉服务计算复杂度、性能指标、实现模式,来确定不同类型的服务是否能够运行在 CPU、GPU、FPGA 等不同的异构计算固件上。这些视觉计算服务包括但不限于人脸检测、
5、人脸特征计算、人体属性识别、车辆识别、车牌识别、异常行为检测等计算机智能视觉服务。智能视觉应用引擎:实现基于智能服务的业务应用,结合业务场景,定义业务实现流程,通过对智能服务能力的调用来实现智能视觉应用功能。智能视觉服务调度引擎:根据不同的业务场景和业务性能指标要求,将不同的业务能力请求下发到对应的深度学习能力引擎上去完成计算。同时,在批量服务计算场景下,可以根据视觉服务计算引擎的忙闲程度、响应时间自适应地调度服务计算请求。智能视觉服务计算引擎:基于深度学习实现的服务能力引擎,支持运行 在异构计算单位 CPU、GPU 和 FPGA等固件之上。可以支持同一种深度学习服务能力以多实例方式同时运行在
6、不同的固件之上。利用本系统方法的数据处理方法包括以下步骤:步骤(1):智能视觉服务在异构计算单元上的部署。智能视觉服务管理引擎根据业务确定的指标要求,结合各个视觉服务的计算性能指标,分别在 CPU、GPU 和FPGA 上启动多个相同的或者不同的服务计算实例,并且确保内存、显存等计算资源可以支撑这些服务实例的运行资源要求。步骤(2):在智能视觉服务部署成功之后,智能视觉应用引擎开始对外提供服务,它负责接收业务请求,并结合业务场景进行业务流程的编排和调度控制。比如,对于智能视频监控场景,智能视觉应用引擎需要在得到解码后的视频帧时,先调用人脸检测服务,再通过人脸跟踪算法实现人脸轨迹跟踪,接着调用人脸
7、特征计算服务获取人脸特征值,最终调用人脸检索服务定位人脸对应的人的身份。当然,智能视觉应用引擎在调用后端的智能服务时,需要通过智能视觉服务调度引擎来确定将服务调用请求转发给哪个异构计算单元上部署的服务计算实例。步骤(3):智能视觉服务调度引擎在接收到智能视觉应用引擎的服务计算请求时,根据该请求所要求的业务指标(如时延许可度),结合各个异构计算单元上运行的服务实例计算能力及其忙闲程度,将服务计算请求调度到后端的智能视觉服务计算引擎上,运行服务计算实例。步骤(4):智能视觉服务计算引擎上运行的服务计算实例,在接收到服务计算请求时,完成相应的服务计算。视觉服务计算引擎需要定时将各个异构计算单元的资源
8、使用情况定时上报给智能视觉服务调度引擎,以便供智能视觉服务调度引擎去做服务调度决策。此外,智能视觉服务计算引擎还具备自动的资源更新功能。由于智能视觉计算服务在处理不同大小的批量图片计算请求之后,随着时间的推移,不同的异构计算单元内会存在无效的资源占用情况,比如内存和显存,如果不采用有效的办法及时处理,必将影响计算引擎的稳定性和计算效率。为此,本文系统中,实现了一个自动的智能视觉服务计算引擎资源更新功能,当检测到异构计算单元上的资源占用情况达到一定的阈值,或者经过一定的时间间隔之后,计算引擎会分批将不同的服务计算实例进行资源刷新,使得在不影响系统业务功能的情况下,及时释放所占用的无效资源。与现有
9、技术相比较,本文系统支持同时利用异构计算单元 GPU、CPU、FPGA 等固件来运行基于深度学习实现的智能视觉服务,有效提升整个系统的运行能力和运行效率,也可以有效降低整个系统的硬件成本。30通 信 热 点通信热点其次,本文实现的智能视觉应用系统,可以进行精细化的智能视觉服务计算调度。可以根据业务场景及其时延要求,结合运行在异构计算单元上的不同智能视觉服务计算的性能指标,提供匹配的智能视觉计算实例为其服务,既不影响用户体验,也能在资源受限的条件下提供最佳业务功能保障。最后,本文提供的方法实现了异构计算单元的服务资源更新机制,可以有效解决智能视觉服务计算长时间运行所产生的无线资源占用问题,进一步
10、提升了系统的运行效率和运行稳定性。3 具体实施方式为了便于本领域研究人员的理解,下面结合智能视频监控场景实例对本文研究的系统和方法作进一步的描述。同时,我们结合计算资源的处理能力和匹配情况,约定 FPGA 运用于人脸检测服务,约定 CPU 运用于人脸跟踪服务,约定 GPU 运用于计算量最大的人脸特征计算服务。当然,这个是系统后台可以进行配置的,各计算资源也可以交叉使用,但不是最佳资源分配。实例 1:智能视频监控场景,下面结合图 2 对本系统数据处理方法进行说明。图 2 智能视频监控场景服务;(3)智能视觉服务管理引擎,起 N 路 GPU 人脸特征计算服务;(4)智能视觉应用引擎,解码出视频帧;
11、(5)智能视觉应用引擎,向智能视觉调度引擎发起人脸检测请求;(6)智能视觉调度引擎,从 N 路 FPGA 人脸检测服务中选一路空闲的做人脸检测;(7)智能视觉服务计算引擎,选中的某一路 FPGA人脸检测服务进行人脸检测计算,将计算结果返回给智能视觉调度引擎。(8)智能视觉调度引擎,将检测出的人脸结果返回给智能视觉应用引擎;(9)智能视觉应用引擎,向智能视觉调度引擎发起人脸跟踪请求;(10)智能视觉调度引擎,从 N 路 CPU 人脸跟踪服务中选一路空闲的做人脸跟踪;(11)智能视觉服务计算引擎,选中的某一路 CPU人脸跟踪服务进行人脸跟踪计算,将计算结果返回给智能视觉调度引擎。(12)智能视觉调
12、度引擎,将跟踪到的目标结果返回给智能视觉应用引擎;(13)智能视觉应用引擎,向智能视觉调度引擎发起人脸特征计算请求;(14)智能视觉调度引擎,从 N 路 GPU 人脸特征计算服务中选一路空闲的人脸特征计算;(15)智能视觉服务计算引擎,选中的某一路 GPU人脸特征计算服务进行人脸特征计算,将计算结果返回给智能视觉调度引擎。(16)智能视觉调度引擎,将计算的特征值结果返回给智能视觉应用引擎;(17)智能视觉应用引擎,调用人脸检索服务查找到对应人的身份。实例 2:正脸检测场景,下面结合图 3 对本系统数据处理方法进行说明。(1)智能视觉服务管理引擎,起 N 路 GPU 正脸检测服务;(2)智能视觉
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 一种 智能 视觉 计算 服务 调度 系统 实现 方法
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。