体系化人工智能技术(Holistic-AI)技术探索.pdf
《体系化人工智能技术(Holistic-AI)技术探索.pdf》由会员分享,可在线阅读,更多相关《体系化人工智能技术(Holistic-AI)技术探索.pdf(40页珍藏版)》请在咨信网上搜索。
1、体系化人工智能(Holistic AI)技术探索中国移动研究院 张世磊2023.11.24日趋泛在的智能化需求和智能化技术赋能成本高之间的矛盾日趋泛在的智能化需求智能化技术赋能成本高企业智能化需求持续增长0900180020192022中国移动商用落地的智能化项目数量三年增长100多倍核心技术研发成本高GPT-3大模型训练成本费用成本460万美元时间成本1 GPU 355年典型AI商用定制化项目成本构成定制化研发部署交付测试售后运维售前解决方案数据采集合同验收需求沟通定制化、商务、运维成本高性能自动化降成本人工智能的应用需求复杂、迭代优化、运营成本数据成本、算法成本算力成本、人才成本提高定制化
2、任务性能提供技术基础弱人工智能弱人工智能 强人工智能强人工智能 (限定领域、人工参与)(限定领域、人工参与)(通用领域、(通用领域、自动化)自动化)A Survey on Large Language Model based Autonomous Agents自动机器学习自动机器学习LLM单模型的通用化单模型的通用化基于基于AI任务的任务的自动化自动化LLM使能的使能的自主智能体自主智能体神经网络架构神经网络架构搜索搜索业务本身是规模化的:平台化:实用便捷的工具,运营运维共性能力:合理评估AI能力的可达性,构建可达的共性AI能力客户规模,经济规模支撑环境适宜:选择环境,培育环境平台型产品个 九
3、天深度学习平台 九天AI能力平台 智能交互平台 可视化建模平台 智能推荐平台 网络智能化平台 九天毕昇教育平台通用能力网络智能化能力簇核心能力 个智能语音机器视觉自然语言理解智能推荐智能数据分析感知智能预测智能决策智能诊断智能控制智能规模化应用 个大屏数字内容推荐-服务家庭7600+万户-观看率提升42%-单省收入赋能 7000+万甘肃智能客服智能基站节电智慧党建-服务 2500 万甘肃百姓-6000 万关系政务知识图谱-事项覆盖率 100%-29 省全网部署-单站减排 300 千克/年-单站节电量提升 8%-10%-服务 16 万党员-构建超 5 万条知识点数据库-知识检索效率提升 90%C
4、HBN赋能价值赋能价值服务外部客户服务客户服务内部客户云端能力调用次数边端能力调用次数管理领域(M)网络领域(N)政企领域(B)家庭领域(H)10086智能客服-服务10+亿客户-峰值月交互量 2.1 亿次-问题一次解决率 94.2%个人领域(C)城市AI平台(合作)基础大模型:加快构建适用于泛场景的自主可控通用基础大模型,打造通用智能底座行业大模型:聚焦供给侧,加快构建行业大模型,加速国民经济主体行业的智能化转型升级,促进我国整体生产力跃升L1行业大模型衍 生支 撑L0基础大模型语言大模型视觉大模型语音大模型政务模型交通模型.政府治理能源模型工业生产.民生服务医疗模型司法模型.通信特色网络模
5、型客服模型.结构化数据大模型多模态大模型基于体系化人工智能的智力运营行业智能化应用大小模型安全评测数据评测算力基础数据基础网络基础性能评测物联网模型以九天基础模型为基础,联合通信、能源、航空等行业的骨干企业,共建共享九天众擎基座大模型人 工 智 能 训 推 技 术 服 务 平 台测评系统智算引擎通 信九 天 基 础 模 型基础设施算 力 网 络大 规 模 智 算 中 心数 据 汇 聚 平 台能 源航 空医 疗政 务建 筑交通运输冶 金通常需要在满足计算、传输、安全、可控性等多项约束前提下,组合使用多个模型或能力,包括基础模型、行业模型或面向特定任务的小模型,并能够端到端优化服务于业务目标网络问
6、题投诉 级联优化3700+支撑生产1000+AI能力7+万亿累计调用次数体系化人工智能(Holistic AI,HAI)是中国移动研究院九天团队原创技术的攻关方向,依托泛在的网络和AI算力,在开放环境中实现对AI能力进行灵活且高效的配置、调度、训练和部署,以满足日益丰富的数智化业务需求,同时确保AI业务可信可控安全,其主要特征为AI服务大闭环、AI能力原子化重构、网络原生AI及安全可信AI。根据智能化业务需求,按需对AI能力进行调度、配置和运行监控,使其能在最合理的算网资源上运行和服务行业及个人客户AI 核心能力及模型提供方泛AI算力提供方泛在网络资源提供方大闭环泛AI算力云/网/边/端/GP
7、U/ASIC/NPU/CPU/业务可信体系化AI OS可信可信AI能力大闭环原子化网络原生1、“大闭环”(Big Loop AI)“大闭环”AI以业务端到端的大闭环优化为目标,重点攻关多能力级联与并联优化、开放动态环境中AI能力优化的基础理论和技术,从而达到AI产业闭环。2、AI技术原子化重构(Atomized AI)AI能力依据高复用、易调度、自闭环、易适配等原则进行原子化拆解和重构。一个典型的原子化AI能力包含通用智能层、适配层、接口层,通用智能层可多个能力共享。AI原子化重构是体系化人工智能得以实现的基础。3、网络原生(Network Native AI)网络原生AI将AI能力与算力通过
8、标准化的方式接入网络、按需调度,重点攻关AI模型自动伸缩的理论和机制,制定AI计算资源、数据、模型、能力、服务的功能、流程、接口和计量的标准,实现AI能力在网云边端弹性部署、计算和迭代。4、安全可信(Trusted AI)AI数据、模型、能力、业务的安全可信是体系化人工智能服务的重要基础,重点攻关AI服务可追溯、可互信、可审计、抗攻击的基础理论与方法。Vector DBLong-term memoryHai大模型task instances pool思维链任务分解部署应用适配及优化开放动态环境优化原子能力区解决方案原子能力区模型算法蒸馏定制区.功能区n模型类1模型类n模型类N行业区n场景类1场
9、景类n场景类N任务区n需求1需求n需求N模型服务提供商Standardization&Trusted AI assessment 需求可追溯、可计量 HAI protocol分层次多粒度的原子AI能力市场服务计量、评估、回收动态测量评估能力空间能力更新注册其中:是一个复杂的函数,表示体系化人工智能的内部逻辑和流程。数据集 D=d1,d2,,每个数据d都有一个类型 0,1,2,,表示文本、图像和语音等异构数据类型。模型集 M=1,2,,每个模型都有一个类型 0,1,2,,表示分类模型、预测模型和生成模型等不同模型。原子能力集 =1,2,,是第个能力,表示语音识别,语音增强,图像分割,机器翻译等不
10、同的能力。真实环境数据分布集 P=1,2,,每个分布都有一个类型 0,1,2,,表示高斯分布、均匀分布和其他复杂分布。原子化评估集E=1,2,,每个评估都有一个指标 0,1,2,,表示不同的评估指标。标准规范入库集S=s1,2,,每个入库都有一个条件 0,1,2,,表示入库准则。真实场景数据漂移集F=1,2,,每个漂移 都有一个类型 0,1,2,表示协变量漂移、先验漂移和概念漂移等。数据传输的演化更新集U=1,2,,每个更新都有一个方法 0,1,2,,表示校准模型、和主动学习或迁移学习等方式。用户需求服务集 =1,2,,表示用户提出动态的需求和任务;是一个动态的集合。为算力存储资源、网络资源,
11、以及数据隐私等各种资源约束阈值;表示每个流程中对应消耗和占据的资源函数。max(,)s.t.(,)其中:端到端跨模态异构数据建模:(D,M);模型学习机理的优化建模:(,);模型的原子化表征和建模:(M,E);模型的标准规范入库:(M,S);数据漂移的优化建模:(D,F);模型数据传输的演化更新:(M,F,U);运行架构优化建模:(,),如何在资源约束和安全可信的前提下的完成整体业务流程。max(,)考虑体系化人工智能的内部流程和逻辑,进一步可以将 分解为以下几个子函数:.(,)n 原子化n 端到端优化n 基于大模型的调度体系Fig1.体系化原子模型示意图(HAI Atomic Model,H
12、AI-AM)其中绿色部分为其中一条可能的路径原则(1)重用度高(2)输入输出清晰,功能清晰(3)不过于细小导致模型协同成本高于计算成本(4)适合于独立攻关(5)和基础模型能力互补模型介绍 模型的类型(通用型,特定任务型),模型结构及参数量,应用领域,模态,构建时长及机构功能描述主要完成的功能描述和列表输入输出输入输出样例可以是一对多,一对一,多对一等组合接口模型的前向和后向接口及信息适配器适配器选择性能准确率性能,准确率,及测试方法约束应用环境的约束条件。One-Shot Pruning for Fast-adapting Pre-trained Models on Devices,Haiya
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 体系化 人工智能 技术 Holistic AI 探索
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【Stan****Shan】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【Stan****Shan】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。