TinyML的研究现状及展望_吴建邦.pdf
《TinyML的研究现状及展望_吴建邦.pdf》由会员分享,可在线阅读,更多相关《TinyML的研究现状及展望_吴建邦.pdf(5页珍藏版)》请在咨信网上搜索。
1、敬请登录网站在线投稿()年第期 的研究现状及展望吴建邦,邱天,张昕,吴佩雯,林晓燕,符晓,李牧云,宁洪龙(五邑大学 智能制造学部,江门 ;华南理工大学 高分子光电材料与器件研究所发光材料与器件国家重点实验室 材料科学与工程学院)基金 项 目:年 江 门 市 创 新 实 践 博 士 后 课 题 研 究 资 助 项 目();广东省重点领域研发计划()。摘要:从微型机器学习的定义、优点、当前存在问题等方面做简要介绍;从专属或通用的微型机器学习部署方式、基于 或者 的微处理器设计、基于神经架构搜索的部署算法等方面存在的问题进行讨论,并介绍研究现状。对微型机器学习的未来发展进行展望,认为未来需要功能齐全
2、的微型机器学习部署框架、硬件研究更多是基于 与硬件神经网络加速单元组成微处理器,并探讨如何提高搜索效率、减少神经架构搜索的耗时等。最后在上述基础上针对如何完善和发展微型机器学习生态提出思考。关键词:微型机器学习;微处理器;神经架构搜索中图分类号:文献标识码:,(,;,):,:;引言 年,近百家家企业的多名工程师参与了微型机器学习(,)首届峰会,本届峰会得出了个重要结论:对许多公司来说,可以部署微型机器学习的硬件越来越好,并且新的架构(例如内存计算)即将出现;在低至 及以下的算法方面,网络和模型取得了重大进展;视觉和音频领域的低功耗应用在技术进步和生态系统发展方面显示出增长的势头。这个结论表明机
3、器学习运行在超低功耗设备的条件已趋向于成熟。年第三届 峰会已经有上千个商家和上万名开发者参加,微型机器学习正成为物联网研究和开发的热点之一。微型机器学习的研究为超低功耗设备(功耗在毫瓦级别或以下)带来机器学习的推理,具有低功耗、部署成本低、低延迟、保护隐私等优势,但在部署上还有很多复杂的问题需要解决。首先面临的就是微控制器上的内存和存储空间有限问题,一般微控制器的内存范围为 ,存储空间范围为,比移动设备和云端 少了个数量级以上。现有的机器学习模型很难直接在微控制器上运行。其次,微控制器的型号众多,即使有了可在微控制器上运行的模型,还要解决如何把模型部署在不同微控制器上的问题。本文对微型机器学习
4、部署方式、微处理器设计、部署算法等领域的研究现状进行了调研,对微型机器学习研究 年第期 领域的研究现状进行总结和展望,并对如何完善和发展微型机器学习生态提出思考,帮助对微型机器学习感兴趣的研究者更快了解此领域。部署方式随着微型机器学习研究的深入,为了更高效地部署机器学习算法,研究人员提出了两种部署方式。第一种是建立和完善 部署框架,通过部署框架来转换已经训练好的模型,让模型在不同微控制器上部署运行,如谷歌的 、等。第二种是对特定的微控制器提供机器学习优化库,提供函数优化和运算加速能力,方便开发者在微控制器上部署机器学习算法,如 的 、的 等。谷歌团队针对当前 框架存在的问题,如模型无法在多个嵌
5、入式硬件架构中部署、缺乏从培训到部署的平台和工具等,开发了 (),的应用程序工作流程如图所示。第一步是在内存中创建一个活动的神经网络模型对象;第二步是提供一个连续的内存来容纳中间结果和解释器需要的其他变量;第三步是创建解释器实例,将模型、操作符解析器和内存作为参数提供给解释器;第四步是执行,应用程序检索用于解释器来执行模型计算的内存区域指针。最后,在计算所有操作之后,解释器将控制返回给应用程序。已经在许多基于 架构的微处理器中广泛部署,也可以用于其他架构,包括 、等。图应用程序工作流程 是嵌入式机器学习开发平台,全球很多企业都在这个平台上搭 建 了 机 器 学 习 项 目。平台支持 、探索套件
6、等微控制器开发设备,在 平台完成数据处理和分析、模型训练、部署模型等工作。是 专门为 系列微控制器优化神经网络相关功能的集合库。内核由两部分组成:和 。负责实现神经网络层的函数操作,如卷积、池化、全连接和激活。包括实用函数,如数据转换和激活函数表。为了达到优化神经网络的目的,对神经网络的关键函数进行计算加速,如采用位或者 位的定点计算替代浮点计算,并且通过调用 或者 内部的 指令功能来提高计算的并行性以达到最好的性能。是意法半导体()公司的一套软件,能够自动转换并将深度神经网络部署到意法半导体的 系列微控制器上。支持部署 和 等 框 架 的 深 度 神 经 网 络 模 型。还包含了一个测试应用
7、程序,可以使用真实的测试数据集对目标模型进行评估,提供推断时间、和 使用的指标,而无需编写任何一行代码。微处理器从微型机器学习研究角度来看,未来用于微型机器学习的微处理器由通用处理器和专用的机器学习加速单元组成。目前,用于微型机器学习研究的微处理器有的基于 系列设计,有的基于 开源处理器设计。基于 的微处理器 系列只开源了 和 处理器,在此上面做硬件协加速器的研究不多。杨凯歌为加速 神经网络的前向传播过程,设计了一个基于 处理器 的集成可编程控制神经网络加速器,在手写数字识别上比 仿真运算速度快 倍。因此,在 系列上做基于微型机器学习的微处理器研究更多的是 自身在研究。公司为了满足 处理器等低
8、功耗嵌入式系统运行机器学习的需求,设计出矢量扩展技术,称为 。使用 技 术 的 处 理 器,其 神 经 网 络 处 理 性 能 是 处理器的 倍。除此之外,专门为微控制 器 设 计 了 首 款 ,称 为 。支持各种流行的神经网络,可用于音频处理、语音识别、图像分类和对象检测等应用。与敬请登录网站在线投稿()年第期 系列处理器组成新的微控制器,如图所示。图基于 的 微控制器 基于 的微处理器在 年 指令集由加州大学伯克利分校提出,总结了传统指令集的优缺点,优化了传统指令集设计的不合理之处,其开源特性保证了它可以随时调整现有的设 计。现 在 基 于 的 开 源 处 理 器 有 蜂 鸟 、等,研究人
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- TinyML 研究 现状 展望 建邦
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。