【倚天实例迁移课程】演讲材料合集.pdf
《【倚天实例迁移课程】演讲材料合集.pdf》由会员分享,可在线阅读,更多相关《【倚天实例迁移课程】演讲材料合集.pdf(272页珍藏版)》请在咨信网上搜索。
1、【倚天实例迁移课程倚天实例迁移课程】演讲材料合集倚天倚天CPUCPU架构以及产品特性介绍架构以及产品特性介绍杨平超平头哥倚天解决方案架构师Contents内容提纲倚天倚天710710芯片概述芯片概述0102倚天倚天710710的主要特点的主要特点03倚天倚天710710应用落地介绍应用落地介绍倚天倚天710710芯片概述芯片概述01ARMARM服务器芯片发展历程服务器芯片发展历程2008201120122013201620172018201920212023ARM 参与投资 StartupCalxedaARM 发布ARMv8 架构AMCC 公布自研架构 GeneARM V8发布一年后,ARM推
2、出A57 重核Marvell Armada XP 4 核 系列CPUBroadcomVulcanQualcomm Server CPU announcedAWSGraviton2发布阿里巴巴开始自研ARM服务器CPU阿里倚天710量产AWSGraviton3宣布第一波浪潮(20082013)Arm v7 32bit初创为主因为性能问题很快落下帷幕第二波浪潮(20112018)Arm v8 64bit 2018年底发布Arm SBSA主流芯片厂下场遭遇生态瓶颈,缺少兼容软硬件第三波浪潮(2019)Arm v9 Neoverse云厂商下场业务场景驱动主流性能 定制化设计Ampere UltraMa
3、x 发布Google,Microsoft陆续宣布自研服务器CPU计划倚天倚天710710芯片规格芯片规格 双 DIE结构,每个DIE 360 毫米2 两个DIE 600 亿晶体管 业界首次使用ARM V9架构和CPU 核 Perseus 主频:3GHz 8 Channel DDR5 x4800 96 Lane PCIe 5.0 Max Power:300 W倚天主要特点倚天主要特点02倚天倚天710710:云原生高性价比:云原生高性价比CPUCPUX16X16X1664 coresdie0X16X16X1664 coresdie1倚天710 一个die有64个物理N2(perseus)core
4、,1颗CPU有2个die 128 core 一个die包含4个DDR5/DDR4 channels,1颗CPU有8个 channels 一个die包含48个pcie5.0 lanes,1颗CPU有96个lanes 每个core包含64KB的Icache和64KB Dcache,包含1MB的L2 cache 支持SVE/SVE2(2x128bit),以提升HPC、AI类工作负载的性能体验 提供硬件支持的安全特性和RAS、MPAM等功能,以保护平台和数据的安全和完整性 提供有竞争力的能效比算力64MB L364MB L3倚天倚天CPU N2 coreCPU N2 core架构优势架构优势V9新增M
5、OP cache(通俗称L0 cache),MOP Cache的好处是如果在里面找到需要的指令,前面的电路模块都可以暂时由MOP Cache来替代,可以节省功耗提升性能。V9的综合性能得到了极大的增强,相对V8有40+%的性能提升。CPU 的 cache 往往是分多级的金字塔模型,如上图,L1 最靠近CPU,访问延迟最小,但 cache的容量也最小 预取就是预先把程序需要的数据搬移到缓存中,而不必等到缓存缺失时再去搬运 V9新增Temporal预取算法增强了指针追踪类应用的预取,提升了Redis类应用性能有预取无预取倚天倚天CPUCPU核特点:核特点:SVE2SVE2加速引擎加速引擎ALUCa
6、cheAssisted instructionFrequencyCPU utility SVE包含以下关键特性:Scalable vectors Per-lane predication Gather-load and scatter-store Speculative vectorization Horizontal and serialized vector operations SVE2在SVE基础上扩展了SVE指令集,从而进一步提升HPC和ML领域的处理能力;SVE2可以增强ML机器学习、DSP信号处理能力,提升了未来5G、虚拟现实、增强现实以及CPU本地运行ML的性能,未来还会继续提
7、升AI人工智能性能;SVE2和Matrix乘法可以极大地简化软件生态系统,并允许计算工作负载以更统一的方法向前迈进;倚天架构特点:高密计算更稳定不降频倚天架构特点:高密计算更稳定不降频124681012C8y-x2649.889.639.599.59.59.599.46C7-x26412.7511.978.577.357.227.177.029.889.639.599.59.59.599.4612.7511.978.577.357.227.177.0202468101214fps/coreEncoding for X264 FPS Per vCPU倚天710X86ALUCacheAssiste
8、d instructionFrequencyCPU utility视频编码数据压缩科学计算AI推理 多任务高负荷场景,倚天性能线性度表现更好,支持高负载运行 低功耗设计,无需降频控制TDP 典型场景:ALUCacheAssisted instructionFrequencyCPU utility倚天架构特点:独享物理coreALU*4vcpu1vcpu2vcpu1vcpu2InstructionPipelinePipelineALUALUALUInstructionX86YitianInstructionvcpu1vcpu2vcpu2L1/2CacheL1/2CacheL1/2Cachevcp
9、u1Cache容量容量:L1 64K+64K,L2 1M per core时延:L1 4 cycle,L2 10 cycle,x86持平ALUCacheAssisted instructionFrequencyCPU utility倚天架构特点:独享L1/L2 cacheX86YitianCache容量X86YitianG7主频GHz百分比睿频3.5100%基频2.983%降频2.34567%G8y主频GHz百分比基频3100%集团业务平均峰值(无混部)App、RDS数据库 视频云=70%,超算=95%DBCPU utility50%安全水位17%睿频-基频16%基频-降频17%ALU/Cac
10、he争抢30%健康水位20%突发水位CPU utility70%安全水位50%健康水位30%预留水位20%突发水位30%=睿频能力+HT争抢 增加占用率,业务性能很少提高安全水位提升后收益=70%50%=140%WebAppALUCacheAssisted instructionFrequencyCPU utility倚天重新定义安全水位效率提升40%倚天倚天710710精简的架构和先进的工艺降低云数据中心精简的架构和先进的工艺降低云数据中心TCOTCO0.9360.49870.311x86-AARM-A倚天710W/SpecCPU 下图是倚天跟竞对的单位算力的功耗对比。倚天采用Arm精简指令
11、架构,加上先进的工艺/封装,极限功耗300w,实际应用中功耗大约在100w150w之间,功耗优势明显 下图是某数据中心在一定的生命周期内所支付的所有费用按照各个要素的占比分析图,从中可以看出电费占比约20%,倚天功耗优势将进一步降低TCO数据中心TCO(Total Cost ofOwnership)模型TCO=CapEx+Opex=Ci+Cs+Cn+Cp+CmCapEX:Cost of Infrastructure 机房/机位成本,Cost of Servers 服务器成本,Cost of Network网络成本。OpEX:Cost of Power 电费,Cost of Maintenanc
12、e 维护/运维费用TCO breakdown17%50%5%20%8%Cost of InfrastructureCost of ServersCost of NetworkCost of PowerCost of Maintenance云原生CPU:基于CIPU的倚天ECS硬件架构CIPU倚天倚天ESSDVPC低延时NVMe以CIPU为核心系统架构硬件架构高密度:通过阿里云CIPU实现整机核的高密度,可达256core,未来会更高高性能:采用双单路架构避免了多路互联的性能损耗和跨numa访问高可靠:爆炸半径减半:独立OS,独立PCB软硬件故障互补影响eRDMADDR5PCIePCIe200G
13、倚天倚天710710应用落地应用落地03倚天CPU全栈技术优化大数据网络中断优化Linux 内核配置优化应用配置加速软件加速倚天 CPUCIPU芯片OS+编译器ECS boost核心加速PAAS数据库视频WEBAI/HPC以客户体验为中心,打通基于CIPU+倚天CPU的全栈生态链,针对用户的应用进行端到端优化AlinuxDragonwell JDKcentosptg_optimizeZLIB/LZ4/ZSTDH264/H265X-SIMD基础加速压缩视频SIMD计算YCL行业场景生态迁移应用构建工具倚天迁移适配工具倚天社区大数据EMRODPS视频/图片视频云Web/安全ALBCFW数据库RDS
14、云原生ACK倚天CPU业务应用情况阿里云产品on 倚天 ECS集团业务on 倚天ECS客户业务on 倚天ECSRDSACKEMR视频云电商蚂蚁ODPS存储广告短视频游戏大数据目前已有多款PaaS产品适配倚天ECS产品,即开即用,屏蔽生态差异RDS数据库实现性价比超越x86 25%,比国外顶尖云友商同类产品性能优50%EMR 10 TB数据量下,倚天架构下的集群Hive任务耗时相对X86架构下的集群减少约20%,Spark任务耗时相对减少约15%,Trino任务耗时相对减少约10%倚天ECS实例已经有效支持阿里618,99大促以及双十一压测等多个活动,涉及电商,数据库,存储蚂蚁支付多个业务场景。
15、其中电商核心交易系统相比于x86竞对产品有20%30%的成本优势。倚天ECS实例在ODPS大数据业务侧相比x86竞品有30%以上性能优势X短视频客户,基于自身业务测试视频编解码场景,性能收益高达30%以上,性价比收益高达80%+Y游戏客户,基于自身游戏对于计算和网络的高要求,倚天c8y在客户实测中跑分是X86架构同级的120%,综合性价比近乎200%倚天的持续优化和演进倚天的持续优化和演进更极致的芯片优化和整机性能CPU核心主频DDR5软件优化Kernel,JVM更广泛的阿里云产品适配及相关优化下一代倚天产品在研,进步从未停止2021.112022.2.202022.11.11倚天710芯片发
16、布公有云倚天云实例邀测集团电商双十一规模上线G8y倚天云实例正式上线2022.11.15Arm Neoverse软件生态介绍别再平安谋科技(Arm China)高级软件经理Arm Neoverse Introduction01Arm Neoverse Software Ecosystem02Arm Neoverse Software Migrations03Contents目录课程提纲01 Arm Neoverse Introduction25Transforming the cloud to edge infrastructure with Arm ecosystemEnabling par
17、tners to innovate and design a diverse set of solutions that solve complex compute challengesRobust Arm hardware and software ecosystem from the best design tools to the most advanced process nodesArms open standards and RAN initiatives make it the preferred architecture for 5G core networks for tel
18、co operators and vendorsBest-in-class performance,compute density,and co-design aspects make Arm-based Fugaku the#1 supercomputer in the worldArm ensures a cloud-native experience across a diverse and secure IoT and edge ecosystem with Project CassiniGreater performance and lower power consumption i
19、s driving cloud providers like AWS to adopt ArmData consumption is revolutionizing the infrastructureCloud Data Cloud Data CentersCentersEdgeEdgeEdgeEdgeEdgeEdgeArm Neoverse Momentum in Infrastructure:2018-Today201820192020 20212022Arm Neoverse momentum for 2022Clouds everywhere are deploying Arm-ba
20、sed serversArm Neoverse Platform RoadmapArm Neoverse Software EcosystemCloud Native Software Development on Arm 100s of OSS ProjectsNative Build100+ISVsCommercial Support100K+Docker Hub Images1M+CI/CD Build Minutes per MonthPerformanceScalable Neoverse CPU Cores EfficiencyBest$/throughput in the ind
21、ustryPlatform DiversityWidest possible choice of Edge Platforms OptimizationPurpose built use cases Arm Software Ecosystem DevelopmentMake Arm Neoverse the leading architecture of choice from Edge to the CloudOPEN-SOURCE LEADERSHIPMajor Arm R&D contributions across the ecosystemSOFTWARE PARTNERSHIPS
22、ISVs for Cloud,Edge and Telco DeploymentsFRICTIONLESS DEVELOPMENTEnable developer tools&platforms Drone.ioActionsGoogle Container Optimized OS15+Yearsof Investment100+ISVsCommercial Support100s of OSSNative Build Projects100K+DockerHub Images Cloud Leaders Accelerating Software on ArmArm Software Ec
23、osystemC/C+/Fortran toolchain for Neoverse PlatformsNeoverse IP PlatformGCC10N1/V1V1/N2V1/N2Poseidon and future coresN2/DemeterGNU Toolchain(GCC,Glibc,and GDB)+10%SpecInt17Arm v8.6-v9.0SVE2 support LLVM 10/11LLVM Toolchain(Clang,LLDB)Armv8.6-v9.0 SVE asmN1 support20.xArm Compiler for Linux(for HPC u
24、sers)(Arm Compiler+Arm Perf Libraries)+5%to 46%for HPC workloadsSVE2 supportSparse matrix librariesGCC11SVE2 improvementsV1 and N2 supportLLVM 11/12Armv8.7-v9.1+2-5%SpecInt17V1 and N2 support21.xSVE/2 improvementsLLVM 11 basedGCC12Armv8.8-v9.3SVE2 code-gen+%Intrinsic perf+%Auto-vec at-O2LLVM 13/14Ar
25、mv8.8-v9.3+3%SpecInt17SVE2 auto-vectorization22.xV1 supportSVE/2 improvementsLLVM 13 based compilersBLAS/LAPACK improvementsGCC13Armv8.9-v9.4SVE2 code-gen+%LLVM 15/16Armv8.9-v9.4SVE2 core scheduling modelComplex number auto-vec23.xDemeter supportLLVM 16 based compilersArmPL Batched/Sparse functionsG
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 倚天实例迁移课程 实例 迁移 课程 演讲 材料
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【Stan****Shan】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【Stan****Shan】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。