基于“CPU GPU”的人工智能运行平台的实时监控方法.pdf
《基于“CPU GPU”的人工智能运行平台的实时监控方法.pdf》由会员分享,可在线阅读,更多相关《基于“CPU GPU”的人工智能运行平台的实时监控方法.pdf(5页珍藏版)》请在咨信网上搜索。
1、第 卷第期年月计算技术与自动化C o m p u t i n gT e c h n o l o g ya n dA u t o m a t i o nV o l ,N o J u n 收稿日期:作者简介:吴文炤(),男,福建福州人,硕士研究生,研究方向:深度学习,图像识别,语音识别等在电力领域的研究与应用.通信联系人,E m a i l:z w u w e n c o m文章编号:()D O I:/j c n k i j s j s y z d h 基于“C P UG P U”的人工智能运行平台的实时监控方法吴文炤,王卫卫,邱镇,郭庆,程琳(国网信息通信产业集团有限公司,北京 ;安徽继远软件有
2、限公司,安徽 合肥 )摘要:人工智能运行平台监控的实时性要求相当高,单C P U难以满足实时人工智能运行平台的实际应用要求.为了改善人工智能运行平台的监控效率,设计了基于“C P UG P U”的人工智能运行平台的实时监控方法.首先分析了当前人工智能运行平台的监控研究进展,然后设计了人工智能运行平台整体流程,采用G P U作为加速部分,配合C P U共同承担实时监控任务,最后进行了仿真对比测试,相对于单C P U,C P UG P U的平台监控速度更快,可以满足平台实时控制要求,具有更高的实际应用价值.关键词:人工智能;中央处理器;图形处理器;对比测试;实时控制中图分类号:T P 文献标识码:
3、AR e a l t i m eM o n i t o r i n gM e t h o do fA IO p e r a t i o nP l a t f o r mB a s e do n“C P U G P U”WU W e n z h a o,WANG W e i w e i,Q I UZ h e n,GUOQ i n g,CHE NGL i n(S t a t eG r i dI n f o r m a t i o n&T e l e c o mm u n i c a t i o nG r o u pC o,L t d,B e i j i n g ,C h i n a;A n h u
4、 i J i y u a nS o f t w a r eC o,L T D,H e f e i,A n h u i ,C h i n a)A b s t r a c t:T h e r e a l t i m em o n i t o r i n gr e q u i r e m e n t so f t h ea r t i f i c i a l i n t e l l i g e n c eo p e r a t i o np l a t f o r ma r eq u i t eh i g h As i n g l eC P Uc a nn o tm e e t t h e r e
5、a l t i m e r e q u i r e m e n t s o f t h e a r t i f i c i a l i n t e l l i g e n c e o p e r a t i o np l a t f o r m I no r d e r t o i m p r o v e t h em o n i t o r i n ge f f i c i e n c yo f t h e a r t i f i c i a l i n t e l l i g e n c e o p e r a t i o np l a t f o r m,a r e a l t i m
6、em o n i t o r i n gm e t h o do f t h e a r t i f i c i a l i n t e l l i g e n c e o p e r a t i o np l a t f o r mb a s e do n“C P UG P U”i sd e s i g n e d F i r s t l y,t h em o n i t o r i n gr e s e a r c hp r o g r e s so f t h ec u r r e n t a r t i f i c i a l i n t e l l i g e n c eo p e
7、r a t i o np l a t f o r mi sa n a l y z e d,t h e n t h e o v e r a l l f r a m e w o r ko f t h e a r t i f i c i a l i n t e l l i g e n c e o p e r a t i o np l a t f o r mi s d e s i g n e d,w h i c hu s e sG P Ua s t h e a c c e l e r a t i o np a r ta n dc o o p e r a t e sw i t hC P Ut o j o
8、 i n t l yu n d e r t a k e t h e r e a l t i m em o n i t o r i n g t a s k F i n a l l y,t h e s i m u l a t i o nc o m p a r i s o n t e s t i sc a r r i e do u t C o m p a r e dw i t ha s i n g l eC P U,t h ep l a t f o r mm o n i t o r i n g s p e e do fC P UG P Ui s f a s t e r,w h i c hc a nm
9、 e e t t h e r e a l t i m e c o n t r o l r e q u i r e m e n t so f t h ep l a t f o r ma n dh a sh i g h e rp r a c t i c a l a p p l i c a t i o nv a l u e K e yw o r d s:a r t i f i c i a l i n t e l l i g e n c e;c e n t r a l p r o c e s s i n gu n i t;g r a p h i c sp r o c e s s i n gu n i
10、t;c o m p a r a t i v e t e s t;r e a l t i m ec o n t r o l近年来,我国人工智能技术应用广泛,就当前人工智能平台的应用领域而言,其已经成为网络数据引擎、数据整合计算、金融数据统计等多样数据分析的核心.在数据流分析处理性能开发中,数据交互的多样性使平台运行过程中的数据流各不相同,不同类型的数据流之间存在节点类型差异,正常流量特征与异常流量特征之间存在差异,数据流的差异化监控是判定平台运行健康与否的关键,因此在平台监控方法设计研究上,诸多研究人员及学者不断提出新的解决方法与算法.但就目前人工智能平台面临的问题,主要在于不同链路层网络拓扑结
11、构过于复杂,导致不同层级上的流量异常数第 卷第期吴文炤,等:基于“C P UG P U”的人工智能运行平台的实时监控方法据在监控过程中无法跨资源监控,加之软件与硬件处理算法的不同,难免会出现局部流量溢出,监控精度降低的问题.因此,有必要利用现有资源,通过C P UG P U的方式,提出一种全新的监控方法,用以解决上述问题.基于“C P UG P U”的人工智能运行平台异构并行数据调度分析根据C P UG P U的双路数据链路流量监控特点,首先对人工智能平台运行过程中,并行数据进行异构数据调度分析.从链路的每一个节点入手,通过差分多次动态调度,对C P U与G P U资源调度浮点数据进行资源调度
12、分析,从而获得存在差异的异构并行数据特征.以下为具体实现步骤,其中,将平台链路中任意一个调度节点定义为分析计算节点.()对人工智能平台整个所有节点进行集合整理,将调度矩阵下发至对应节点,获取节点对应矩阵后的变化数据,将数据分至C P U与G P U进行异构分析,获得并行资源节点的调度消耗;()根据上述获得的并行资源节点的调度消耗,计算获得每一个节点在调度过程中的个体计算能力、数据交互系数比值以及资源类别综合交互能力,并将其设定为并行异构数据的全局分析系数.通过并行异构数据的全局分析系数,对C P U与G P U内部资源调度消耗进行全局异构算力分析,得到二者的内部浮点计算下的调度值;()将所得调
13、度值进行单位化处理,得到关于节点调度性能矩阵,根据矩阵动态不规则性对其进行能力划分;()在划分的节点中,根据不同节点在并行交互过程中发送请求数据计算能力的不同,将其按照对应比例分发至相应算力区块,对应算力越高,说明其匹配的节点算力加权系数越大,在整个并行交互过程中,承担的C P U与G P U算力负载越大.因此,每一个节点会发出多次请求以平衡自身数据计算带来的负载,避免数据节点出现长尾现象;()为了适应C P UG P U的双路并行特点,在调度分析过程中,所得节点分析通道阈值对应两个存储阵列,根据分析节点动态调度矩阵变化的不同,动态切换存储阵列系数,以此保持全局请求任务节点的调度正常,其实现过
14、程可以通过函数关系式描述为:SWe()d o()式中,S为调度任务;W为全局调度节点集合;e为参与调度计算的与C P U、G P U浮点计算相关的节点;d为节点调度矩阵;o为矩阵变化系数;由此可以得到并行异构节点的判定函数为:ifSx,SxSnxn nxn()式中,i为存储阵列;f为存储阵列中的并行节点;S为存储于第存储阵列内的调度任务;S为存储于第存储阵列内的调度任务;Sn为两个存储阵列交替变化n次后所在存储阵列内的调度任务;x为节点并行算力对应的异构权值.当监控窗口打开时,C P U与G P U的监控能力根据当前全局节点对应的调度任务数量、队列状态以及网络开销程度进行异构数据的判断;当节点
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于“CPU GPU”的人工智能运行平台的实时监控方法 基于 CPU GPU 人工智能 运行 平台 实时 监控 方法
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。