金融数据中心人工智能算力建设指引 2023.pdf
《金融数据中心人工智能算力建设指引 2023.pdf》由会员分享,可在线阅读,更多相关《金融数据中心人工智能算力建设指引 2023.pdf(65页珍藏版)》请在咨信网上搜索。
1、 金融数据中心 人工智能算力建设指引 北京金融科技产业联盟 2023 年 8 月 IV 前前 言言 人工智能基础设施作为“新基建”的重要组成部分,是数字化走向智能化的核心力量,是金融机构智慧再造的关键载体。近年来,我国发布多项政策文件,进一步明确人工智能的发展规划,对人工智能算力建设指出方向。2021 年底,中国人民银行发布金融科技发展规划(20222025 年),提出抓住全球人工智能发展新机遇,以人为本全面推进智能技术在金融领域深化应用,着力打造场景感知、人机协同、跨界融合的智慧金融新业态,实现金融服务全生命周期智能化。人工智能算力数据中心是以数据中心为基础的人工智能基础设施。具体来说,人工
2、智能数据中心是在超算中心和云计算数据中心大规模并行计算和数据处理的技术架构基础之上,通过大数据和深度学习技术保障其高效、安全运营,以人工智能专用芯片为计算算力底座,融合公共算力服务、数据开放共享、智能生态建设、产业创新聚集“四位一体”的综合平台,可提供算力、数据和算法等人工智能全栈能力,是当前人工智能快速发展和应用所依托的新型算力基础设施。“数据、算法、算力、开放平台”是人工智能基础设施的核心内容,其中算力包括 AI 芯片、AI 平台、智能计算中心等产品,提供高性能、低成本、绿色的计算能力是算力建设的关键目标。本报告阐述了国内外人工智能算力建设情况,梳理了当前金 V 融数据中心人工智能算力建设
3、面临的挑战,从整体上提出人工智能算力数据中心的架构,围绕基建、硬件及软件基础设施给出了人工智能算力建设指引,并进一步分析了传统与新型算力、数据中心算力与边缘算力、算力与网络等关键技术的协同建设问题,探索了人工智能算力数据中心绿色低碳运维模式,最后通过成功案例展望未来,以期为金融机构数据中心建设人工智能算力基础设施提供指引与参考。关键词:关键词:人工智能、AI 算力、人工智能算力数据中心、AI 使能软件、AI 开发框架 VI 目目 录录 第一章 发展背景和研究目标.1 一、发展背景.1(一)国家政策及“十四五”规划要求.1(二)金融科技发展的基础支撑.4(三)国内外当前 AI 算力建设情况.4
4、二、研究目标.9 第二章 面临的挑战和难点.10 一、整体看.10(一)数据中心 AI 算力发展不均衡.10(二)数据中心 AI 计算能力不足.10(三)数据中心 AI 算力连接和协同能力不强.10(四)数据中心 AI 算力调度不灵活.11 二、分层看.11(一)数据中心选址问题(L0 层).11(二)能耗及供电问题(L1 层).12(三)AI 算力底座与周边设备及网络的问题(L2 层).12(四)支持不同业务场景的 AI 应用问题(L3 层).13 第三章 建设指引.14 一、人工智能算力数据中心架构.14(一)总体架构.14(二)分层布局.15 二、基建基础设施层(L0-L1).20 三、
5、硬件基础设施层(L2).20(一)AI 芯片.20(二)AI 服务器.21(三)AI 计算子系统.22 四、软件基础设施层(L3).22 VII(一)芯片使能软件.22(二)AI 开发框架.23(三)使能软件.23 第四章 建设协同.30 一、整体原则.30 二、传统算力与新型算力协同.30(一)算力产品特征.30(二)算力协同建设.32 三、数据中心算力与边缘算力协同.37 四、算力与网络协同.39(一)广域算力网络架构.40(二)广域算力网络关键技术.43(三)数据中心算力网络关键技术.44(四)算力网络协同关键技术.46(五)算力网络数字化能力.47 第五章 运维和节能管理.49 一、运
6、维管理.49(一)人员组织.49(二)日常运行维护.50 二、节能管理.50 第六章 成功案例和未来展望.53 一、成功案例.53(一)工商银行基于高性能网络的中高算力集群探索.53(二)蚂蚁集团 AI 算力端云协同发展实践.54(三)网商银行基于卫星遥感的 AI 算力服务农村金融实践.56 二、未来展望.57(一)AI 算力的建设需求快速提升.57(二)AI 算力的金融价值不断凸显.58 参考文献.60 1 第一章 发展背景和研究目标 一、发展背景(一)国家政策及“十四五”规划要求 人工智能基础设施是“新基建”的重要组成部分,是数字化走向智能化的核心力量,是金融机构智慧再造的关键载体。“数据
7、、算法、算力、开放平台”是人工智能基础设施的核心内容,其中算力包括 AI 芯片、AI 平台、智能计算中心等产品,提供高性能、低成本、绿色的计算能力是算力建设的关键目标。近年来,我国发布多项政策文件,进一步明确人工智能的发展规划,对人工智能算力建设指出方向。人工智能已上升为国家战略,人工智能的发展迎来重大机遇。表 1 汇总了近年来国家和相关部委发布的人工智能及算力相关政策。表 1 人工智能及算力相关政策 时间时间 内容内容 2017 年 3 月 国务院总理李克强 2017 年政府工作报告,指出要加快培育壮大包括人工智能在内的新兴产业,“人工智能”首次被写入了国家政府工作报告。2017 年 7 月
8、 国务院出台新一代人工智能发展规划,提出三步走的战略目标。2017 年 12月 工业和信息化部印发促进新一代人工智能产业发展三年行动计划(20182020 年),明确了到 2020 年人工智能在推动战略性新兴产业总体突破、推进供给侧结构性改革、振兴实体经济、建设制造强国和网络强国方面的重大作用和具体目标。2 时间时间 内容内容 2018 年 3 月 国务院总理李克强在十三届全国人大一次会议作政府工作报告时表示,要加强新一代人工智能研发应用,在医疗、养老、教育、文化、体育等多领域推进“互联网+”。2018 年 5 月 习近平总书记在两院院士大会上指出,“要推进人工智能同实体经济深度融合,做大做强
9、数字经济。”2018 年 12月 中央经济工作会议,重新定义了基础设施建设,把 5G、人工智能、工业互联网、物联网定义为“新型基础设施建设”。2019 年 3 月 国务院总理李克强在2019 年国务院政府工作报告中明确提出深化人工智能等研发应用。紧扣国家发展战略,加强新一代信息基础设施建设。2019 年 7 月 中央政治局会议,强调要加快推进信息网络等新型基础设施建设。2020 年 3 月 中共中央政治局常务委员会召开会议再次强调“新基建”,要求加强人工智能等新型基础设施建设。2020 年 4 月 国家发改委首次明确“新基建”范围,强调数据中心、智能计算中心就是算力基础设施的代表。2020 年
10、 7 月 国家标准化管理委员会、中央网信办、国家发展改革委、科技部、工业和信息化部印发 国家新一代人工智能标准体系建设指南,指导人工智能标准化工作有序开展。2020 年 10月 科技部印发国家新一代人工智能创新发展试验区建设工作指引(修订版),明确要布局建设 20 个左右国家人工智能创新发展试验区。2020 年 11月 2020 年 11 月 17 日,国家信息中心信息化和产业发展部发布智能计算中心规划建设指南,对智能计算中心的概念、内涵、技术架构、投建运模式等进行全面解读。3 时间时间 内容内容 2021 年 3 月 国务院发布中华人民共和国国民经济和社会发展第十四个五年规划和 2035 年
11、远景目标纲要,提出要强化国家战略科技力量,加强原创性引领性科技攻关。新一代人工智能作为重要的科技攻关领域,重点投入前沿基础理论突破,专用芯片研发,深度学习框架等开源算法平台构建,学习推理与决策、图像图形、语音视频、自然语言识别处理等领域创新。2021 年 5 月 国家发展改革委、中央网信办、工业和信息化部、国家能源局联合印发全国一体化大数据中心协同创新体系算力枢纽实施方案,明确在京津冀、长三角、粤港澳大湾区、成渝,以及贵州、内蒙古、甘肃、宁夏等地布局建设全国一体化算力网络国家枢纽节点(以下简称“国家枢纽节点”)。在金融行业,银保监会于 2019 年发布关于推动银行业和保险业高质量发展的指导意见
12、,提出既要充分利用人工智能强化业务管理,改进服务质量,降本增效,又要发挥人工智能在打击非法集资、反洗钱、反欺诈等方面的积极作用。在相关宏观政策的指导下,各地结合自身区域特点和行业发展状况因地制宜出台相关政策推动智能金融的特色化发展,相关行业标准规范逐步完善。2021 年,中国人民银行发布 人工智能算法金融应用评价规范(JR/T 02212021),规定了人工智能算法在金融领域应用的基本要求、评价方法、判定准则。金融行业以智能化为目标,提升金融数字化水平,通过业务流程自动化降低人力成本,4 通过解决信息不对称问题弥合数据信息差,通过个性化的千人千面提供普惠金融服务,从而实现业务的增长、风险成本的
13、降低、运营成本的改善。(二)金融科技发展的基础支撑 金融科技发展提出人工智能、大数据分析等场景,响应金融监管政策的要求。2021 年 12 月,中国人民银行印发金融科技发展规划(20222025 年),提出“坚持发展与监管两手抓,推动金融科技在实体经济的沃土中落地生根。大数据、云计算、人工智能、区块链等技术金融应用成效显著。金融服务覆盖面逐步扩大,优质金融产品供给不断丰富,金融惠民利企水平持续提升。”人工智能作为金融机构数字化转型的重要手段,助力金融行业在产品设计、市场营销、风险控制、客户服务以及其他支撑性业务领域和场景中实现整体升级。金融科技发展规划(20222025 年)在“智慧为民”基本
14、原则中,提出“抓住全球人工智能发展新机遇,以人为本全面推进智能技术在金融领域深化应用,强化科技伦理治理,着力打造场景感知、人机协同、跨界融合的智慧金融新业态,实现金融服务全生命周期智能化,切实增强人民群众获得感、安全感和幸福感”,加快金融服务智慧再造,提升数字绿色的服务体系中的智能应用水平。(三)国内外当前 AI 算力建设情况 1.1.国内外算力规模发展国内外算力规模发展 5 2020 年全球算力总规模达到 429EFlops1,增速达到 39%,其中基础算力规模为 313EFlops,AI 算力规模为 107EFlops,超算算力规模(换算为 FP32)为 9EFlops。预估未来五年全球算
15、力规模将以超过 50%的速度增长,到 2025 年整体规模将达到3300EFlops。全球算力竞争激烈,基础算力方面以中国和美国为第一梯队,其中美国占 43%份额,中国占 26%份额。智能算力方面,中国智能算力占算力的比重由 2016 年的 3%提升至 2020 年41%,以人工智能算力数据中心为代表的 AI 算力基础设施发展迅猛。2020 全球计算力指数评估报告显示“全球计算力水平top5 行业分别是互联网、制造、金融、政府和电信”,金融行业综合排名进入前三。2.2.金融业务应用系统需求金融业务应用系统需求 在新一轮科技革命和产业变革的背景下,金融科技蓬勃发展,人工智能、大数据、云计算、物联
16、网等信息技术与金融业务深度融合,为金融发展提供源源不断的创新活力。同时 2020 全球计算力指数评估报告显示“金融行业信息化和数字化起步较早,金融行业因对算力的稳定性、可靠性、实时性、安全性等方面要求较高,对于算力的投资规模处于行业领先水平且比较稳定。从全球来看,金融行业是人工智能算力投资最大的传统行业,据IDC数据,全球 AI 算力支出的 24.9%来自金融行业,人工智能作为金融行业数字化转型过程的关键部分,被广泛用于反欺诈、风险 1 EFlops:百亿亿次,Flops 指的是每秒浮点运算次数,E 代表的是一百京,一个 EFLOPS(exaFLOPS)等于每秒一百京(=1018)次的浮点运算
17、。6 管控、合规管理、运营流程、自动化客服、智能 CRM 和量化交易等领域,辅助金融企业降低成本、提升效率和提高客户体验”。人工智能应用对算力最大的挑战来自数据中心的模型训练。具有海量参数的模型训练几乎完全依赖于核心数据中心的算力支撑。比如 2020 年微软发布的智能感知计算模型 Turing-NLG,参数量高达到 175 亿;OpenAI 发布的 GPT-3 模型,参数量更达到 1750 亿,是 GPT-2 的 100 余倍。由于其庞大的参数体量,在给人工智能应用提供便利的同时,对 AI 算力提出了更高的要求。尤其是在金融行业数字化转型的浪潮中,人工智能的算法越来越依赖于算力的发展。3.3.
18、国内金融业国内金融业AIAI典型业务场景典型业务场景 人工智能与金融行业深度融合,金融行业数字化、智能化改革已经初见成效,金融人工智能整体呈现业务智能价值创造,全面覆盖产品设计、市场营销、风险控制、客户服务等主流业务场景。从技术价值来看,人工智能技术正逐步解决行业痛点问题,在实现业务流程自动化、弥合信息差、构建普惠金融方面发挥着关键作用,已经在获取增量业务、降低风险成本、改善运营成本、提升客户满意度方面进入价值创造阶段。从应用场景来看,以机器学习、机器视觉、生物特征识别、知识图谱等技术赋能的金融行业,衍生出智慧网点、量化交易、智能投顾、智能风控等多个典型场景。表 2 列举了 AI 算力金融行业
19、应用的十大典型业务场景。7 表 2 AI 算力金融行业应用的典型业务场景 场景名称场景名称 描述描述 智慧网点 场景:场景:标配“无人、无证、无卡”,提供普惠金融服务、财富管理服务、智慧金融服务、国际业务等服务。技术:技术:依托身份识别、数字人、人脸识别、语音识别等技术提供服务。数字员工 场景:场景:模拟人工完成图像识别、关键信息提取、数据录入、报表生成、行为分析、合规分析、结果决策等。技 术:技 术:光 学 识 别 技 术 OCR(Optical Character Recognition)、RPA(Robotic Process Automation)技术、数字人、NLP(Natural
20、Language Processing)技术、图像分类。智能客服 场景:场景:广泛应用于各类金融机构,提供 24 小时不间断问答服务。技术:技术:依托自然语言理解、语音识别、RPA、知识图谱、NLP 等技术提供智能交互服务。量化交易 场景及技术:场景及技术:依托先进的数学模型替代人为的主观判断,量化交易有很多种,包括跨平台搬砖、趋势交易、对冲等。跨平台搬砖是指当不同目标平台价差达到一定金额,在价高的平台卖出,在价低的平台买入。智能身份识别 场景及技术:场景及技术:人脸识别、声纹识别、静脉识别、指纹识别等。8 场景名称场景名称 描述描述 智能投研 场景:场景:B 端金融机构用户,整合各类研报数据
21、。并自动撰写研报,给出机构投资意见。技术:技术:智能投研依赖知识图谱和深度学习技术的进一步发展,通过智能数据收集、清洗、分析,实现对投资标的的发展趋势判断与风险预测。智能投顾 场景:场景:通过一系列智能算法综合评估用户的风险偏好、投资目标、财务状况等基本信息,并结合现代投资组合理论为用户提供自动化、个性化的理财方案。其实质是利用机器模拟理财顾问的个人经验。技术:技术:核心环节包括用户画像、大类资产配置(投资标的选择)、投资组合构建和动态优化等。智能营销 场景:场景:聚焦存贷款产品营销、信用卡分期、理财产品、节假日关怀等。技术:技术:依托推荐引擎和机器学习技术,通过分析用户数据并聚类用户特征,做
22、到“千人千面”的智能推送。利用知识图谱和自然语言处理等技术建立客户画像,实现精准的营销定位与需求挖掘。智能风控 场景:场景:聚焦金融业交易等风险防控场景,如支付、信贷,反洗钱等。技术:技术:依托机器学习和知识图谱等技术,通过数据驱动风险管理与运营优化。智能反欺诈 场景:场景:主要集中在支付和金融账户登录等场景。技术:技术:包括人脸识别、声纹识别、指纹识别、虹膜识别、光学识别等。9 二、研究目标 本课题的研究目标分为两方面。一是一是基于当前金融机构积极探索和建设新型人工智能业务系统及人工智能算力数据中心的情况,广泛吸取金融行业目前较为优秀的建设经验和解决方案,编制研究报告,为金融机构数据中心建设
23、人工智能算力基础设施提供指引与参考。二是二是在完成研究报告的基础上,进一步编制相关标准,以规范金融数据中心人工智能算力基础设施建设。10 第二章 面临的挑战和难点 一、整体看(一)数据中心 AI 算力发展不均衡 在当今金融业庞大的数据处理量面前,数据中心规模总量和能耗总量不断增长,而且 AI 算力业务天然存在波动,存在部分能耗闲置现象。数据中心特别是西部地区一些数据中心算力资源未能充分利用的问题也常被业内专家提及。我国东部算力资源紧张与西部算力需求不足的问题并存,区域数字基础设施和应用空间布局亟待优化。数字化时代的今天,“东数西算”备受瞩目,他与“南水北调、西电东送、西气东输”一样,成为国家级
24、的超级工程,也是解决算力发展不均衡的基本国策。(二)数据中心 AI 计算能力不足 伴随数据的激增和算法的日益复杂,算力将成为决定人工智能发展上限的重要因素。人工智能算力数据中心能耗总量较大,且保持不断增长。以人工智能专用芯片为计算算力底座,在其上开发的 AI 框架、AI 应用呈现出多样化、复杂化、碎片化的态势。电力的潜能已经全被释放,算力的潜能随着数据的产生和数字化的进展,还会持续释放。合理架构网络,优化算法,运用新技术使得软硬件不断推陈出新,使算力不断指数级提升,从而满足智能应用的多元化需求。(三)数据中心 AI 算力连接和协同能力不强 在全产业数字化转型的大形势下,新兴技术应用成为算力提
25、11 升最主要的驱动力,尤其是人工智能带动的 AI 算力需求。政府、企业一同建设,集约化不够,利用率有限,成本居高。并且算力服务器成本居高不下,尤其 AI 算力服务器。如果建成人工智能算力数据中心,实现设备网络共享,降低成本,可以发挥我国的制度和行业优势。如何实现人工智能算力数据中心间互联,分支边缘算力互联,第三方算力协同互联,AI 算力物联终端互联,这是一个体系化的布局。政策性设计为基础,其中资源匹配、网络部署、算力对接等都是本课题研究的重点。(四)数据中心 AI 算力调度不灵活 在国家碳达峰、碳中和的目标下,实现在不同数据中心间算力协同调度、削峰填谷、精细化能耗控制的要求。算力的灵活调度尤
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 金融数据中心人工智能算力建设指引 2023 金融 数据中心 人工智能 建设 指引
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【Stan****Shan】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【Stan****Shan】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。