计算机系统结构第3章(流水技术与流水处理机).pptx
《计算机系统结构第3章(流水技术与流水处理机).pptx》由会员分享,可在线阅读,更多相关《计算机系统结构第3章(流水技术与流水处理机).pptx(129页珍藏版)》请在咨信网上搜索。
1、【学习目标学习目标】1.理理解解指指令令交交叉叉方方式式的的工工作作原原理理,以以及及处处理理机机处处理理机机在在结结构构上上必须解决的问题必须解决的问题.2.掌掌握握流流水水方方式式的的工工作作原原理理,掌掌握握利利用用时时空空图图计计算算流流水水线线的的吞吞吐吐率率、加加速速比比和和效效率率的的方方法法;了了解解从从不不同同角角度度对对流流水水线线的的分类及其定义分类及其定义,了解消除流水线瓶颈的方法了解消除流水线瓶颈的方法.3.掌掌握握单单功功能能非非线线性性流流水水线线的的最最优优调调度度方方法法,求求解解最最优优调调度度及及其其流流水水线线的的吞吞吐吐率率、加加速速比比和和效效率率的
2、的方方法法.了了解解双双功功能能非非线线性流水线的最优调度方法及无冲突调度的实现方法性流水线的最优调度方法及无冲突调度的实现方法.4.掌握流水线发生局部相关和全局相关的原因及其处理方法掌握流水线发生局部相关和全局相关的原因及其处理方法.5.理理解解超超标标量量处处理理机机、超超流流水水线线处处理理机机、超超标标量量超超流流水水线线处处理理机机三三种种处处理理机机在在指指令令级级上上并并行行的的工工作作原原理理,以以及及它它们们分分别别相对于标量流水处理机加速比的计算方法相对于标量流水处理机加速比的计算方法.6.了解超长指令字处理机的基本工作原理了解超长指令字处理机的基本工作原理.7.了了解解向
3、向量量的的3种种处处理理方方式式,掌掌握握向向量量流流水水处处理理机机上上的的一一串串向向量量指指令令序序列列的的指指令令并并行行和和指指令令链链接接的的条条件件,以以及及计计算算指指令令序序列执行时间的方法列执行时间的方法.3.13.1指令重叠与先行控制指令重叠与先行控制提高处理机执行指令速度的途径提高处理机执行指令速度的途径,通常有三种途径:(1)提高处理机的工作频率提高处理机的工作频率(2)采用采用RISC技术减少指令执行的平均周期数技术减少指令执行的平均周期数(3)多条指令并行执行多条指令并行执行指令级并行技术指令级并行技术流水线处理机或超流水线处理机流水线处理机或超流水线处理机(su
4、per pipelining processor)多操作部件处理机或超标量处理机多操作部件处理机或超标量处理机(superscalar)3.1.1指令的顺序执行方式与重叠执行方式指令的顺序执行方式与重叠执行方式3.1.2.先行控制技术先行控制技术超长指令字超长指令字(Very Long Instruction Word,VLIW)技术技术取指令取指令:指令计指令计数器数器访问访问主存主存取出一取出一条指令条指令指令寄指令寄存器存器分析分析指令指令:操作码译码操作码译码形成操作数地址形成操作数地址读取操作数读取操作数(从主存或寄存器从主存或寄存器)指令指令执行执行:完成指令规定的功能完成指令规定
5、的功能结果写入主存或寄存器结果写入主存或寄存器三个三个阶段阶段都可都可能访能访问主问主存存指令的顺序执行方式与重叠执行方式指令的顺序执行方式与重叠执行方式1.指令的顺序执行方式指令的顺序执行方式 一条指令执行过程指令执行过程:一条指令的执行分为三个阶段:取指令、分析与执行取指令、分析与执行.指令的顺序执行方式与重叠执行方式指令的顺序执行方式与重叠执行方式1.指令的顺序执行方式指令的顺序执行方式 指令之间顺序串行指令之间顺序串行,且指令内的各阶段之间也是且指令内的各阶段之间也是顺序串行的方式顺序串行的方式.如果取指、分析、执行如果取指、分析、执行3个阶段所需时间均为个阶段所需时间均为t,那么顺序
6、执行那么顺序执行n条指令所用的时间为条指令所用的时间为:=3nt 顺序执行方式的优点指令之间相互关联关系易于顺序执行方式的优点指令之间相互关联关系易于控制和处理控制和处理,结构设计与组成实现简便易行结构设计与组成实现简便易行.缺点是执行的速度慢缺点是执行的速度慢,系统各部件的利用率低系统各部件的利用率低.取指令i分析i执行i取指令i+1分析i+1执行i+1 一次重叠方式是指第i条指令和第i+1条指令的执行有一段的执行是重叠的。例如第i条指令的执行指令阶段同时也是第i+1条指令的取指令阶段.p一次重叠执行方式一次重叠执行方式假设执行一条指令的三个过程的时间都为假设执行一条指令的三个过程的时间都为
7、t,可以看出:,可以看出:除了第一条指令外,每经过两段就会完成一条指令。除了第一条指令外,每经过两段就会完成一条指令。指令的顺序执行方式与重叠执行方式指令的顺序执行方式与重叠执行方式2.2.指令的重叠执行方式指令的重叠执行方式优点优点:一是提高了功能部件的利用率一是提高了功能部件的利用率;二是明显提高了指令的执行速度。二是明显提高了指令的执行速度。缺点缺点:需要增加一些硬件需要增加一些硬件;控制过程比较复杂控制过程比较复杂.p一次重叠执行方式一次重叠执行方式2.2.指令的重叠执行方式指令的重叠执行方式 两次重叠方式和一次重叠方式的道理是一样的,不过重叠的是指令的两个阶段.p两次重叠执行方式两次
8、重叠执行方式如果执行一条指令的三个过程所用的时间相等,则执行n条指令的时间为:执行执行n条指令所用的时间条指令所用的时间优缺点优缺点:执行时间缩短了将近三分之二。处理机的机构要作比较大的改变,要采用先行控制方式.T=(2+n)t2.指令的重叠执行方式指令的重叠执行方式3.1.2 先行控制技术先行控制技术 采用二次重叠执行方式,在处理机中同时有三条指令分别在取指令、分析和执行。要使指令能够正确地重叠执行,必须解决如下两个问题:第一,为了实现取指令,分析指令和执行指令同时进行,需要有独立的取指令部件、指令分析部件和指令执行部件。因此,要把顺序执行方式中的一个集中的指令控制器,分解成三个相对独立的控
9、制器,它们是:存储控制器,简称存控;指令控制器,简称指控;运算控制器,简称运控。n需要解决的问题:需要解决的问题:第二,要解决访问主存储器的冲突问题。例如,取指令时要访问主存储器,分析指令时可能要取操作数,执行指令时可能要向主存储器写运算结果。常规的主存储器体系结构无法实现指令的重叠执行。先行控制技术先行控制技术n需要解决的问题:需要解决的问题:如何解决如何解决p把主存储器分成两个独立编址的存储器,一个专门存放指令,称为指令存储器,简称指存;另一个专门存放操作数,称为数据存储器,简称数存。两个存储器可以同时独立访问;这样,就解决了取指令和读操作数的冲突。p指令和数据仍然混合存放在同一个主存储器
10、内,采用低位交叉存取方式,在一个存储器周期中可以访问多个存储单元。如果处理机同时执行的取指令和读操作数所访问的不是同一个存储体,则可以实现指令重叠执行。如果正好访问同一个存储体,则指令无法重叠执行。先行控制技术先行控制技术n解决访问存储器冲突的方法:解决访问存储器冲突的方法:先行控制技术先行控制技术p采用先行控制技术的处理机结构采用先行控制技术的处理机结构主存储器存储控制器先行指令缓冲栈先行读数栈后行写数栈指令分析器先行操作栈运算控制器运算器通用寄存器先行指令缓冲栈先行指令缓冲栈 作为主存与指令分析器之间之间的缓冲部件作为主存与指令分析器之间之间的缓冲部件,用以平滑主存和指令分析器的工作速度的
11、差异用以平滑主存和指令分析器的工作速度的差异.先行操作栈先行操作栈 是指令分析器与运算控制器之间的一个缓冲存储是指令分析器与运算控制器之间的一个缓冲存储器器,由指令分析器对指令进行预处理后送入先行操作栈由指令分析器对指令进行预处理后送入先行操作栈.各种运算各种运算型指令、移位指令、数据传输指令等都要处理成型指令、移位指令、数据传输指令等都要处理成RR型指令型指令,为了为了与指令系统中原有的与指令系统中原有的RR型指令相区别型指令相区别,通常将送入先行操作栈的通常将送入先行操作栈的指令称为指令称为RR*型指令型指令.运算控制器从先行操作栈取出运算控制器从先行操作栈取出RR*型指令型指令,运算器需
12、要的操作数来自先行读数栈或通用寄存器运算器需要的操作数来自先行读数栈或通用寄存器.先行控制技术先行控制技术p采用先行控制技术的处理机结构采用先行控制技术的处理机结构主存储器存储控制器先行指令缓冲栈先行读数栈后行写数栈指令分析器先行操作栈运算控制器运算器通用寄存器先行读数栈先行读数栈 是主存和运算器之间的一种缓冲存储器是主存和运算器之间的一种缓冲存储器,用来平滑运算器与主存的工作速度差异用来平滑运算器与主存的工作速度差异.对于先行的指令对于先行的指令而言而言,是把后续的指令要用到的操作数是把后续的指令要用到的操作数“先行先行”从主存读取从主存读取,所以称为先行读数栈所以称为先行读数栈,原来要访存
13、取操作数变为访问先行原来要访存取操作数变为访问先行读数栈中的寄存器读数栈中的寄存器,大大加快了指令的执行速度大大加快了指令的执行速度.先行控制技术先行控制技术p采用先行控制技术的处理机结构采用先行控制技术的处理机结构主存储器存储控制器先行指令缓冲栈先行读数栈后行写数栈指令分析器先行操作栈运算控制器运算器通用寄存器后行写数栈后行写数栈 当指令分析器遇到向主存写数的指令当指令分析器遇到向主存写数的指令,则把形成的则把形成的主存有效地址送入后行写数栈的后行地址缓冲器中主存有效地址送入后行写数栈的后行地址缓冲器中,并把预处理好并把预处理好的的RR*型指令送入先行操作栈型指令送入先行操作栈,这条这条RR
14、*型指令中的目标寄存器就型指令中的目标寄存器就是后行写数栈的缓冲寄存器编号是后行写数栈的缓冲寄存器编号.当运算器执行这条当运算器执行这条RR*型指令时型指令时,把原定写到主存中去的数据送入后行写数栈的相应后行数据缓冲把原定写到主存中去的数据送入后行写数栈的相应后行数据缓冲寄存器中即可寄存器中即可,而由后行写数栈负责把数据缓冲器中的数据按地址而由后行写数栈负责把数据缓冲器中的数据按地址缓冲器中的主存地址送入主存缓冲器中的主存地址送入主存.这样这样,运算器不必等待数据写回主存运算器不必等待数据写回主存,就可以继续执行后续指令就可以继续执行后续指令.因此因此,后行写数栈也是主存与运算器之后行写数栈也
15、是主存与运算器之间的一种缓冲存储器间的一种缓冲存储器.先行控制技术先行控制技术p采用先行控制技术的处理机结构采用先行控制技术的处理机结构主存储器存储控制器先行指令缓冲栈先行读数栈后行写数栈指令分析器先行操作栈运算控制器运算器通用寄存器 可以看出可以看出,先行控制技术实质上是缓冲技术和预处理技术相结合先行控制技术实质上是缓冲技术和预处理技术相结合的技术的技术.通过对指令和数据的预处理和缓冲通过对指令和数据的预处理和缓冲,使指令分析器和指令使指令分析器和指令执行部件能够独立地工作执行部件能够独立地工作,并始终处于忙碌状态并始终处于忙碌状态,从而大大提高了从而大大提高了指令重叠执行的速度指令重叠执行
16、的速度.通常把先行指令缓冲栈、先行读数栈、先行操作栈和后行写数通常把先行指令缓冲栈、先行读数栈、先行操作栈和后行写数栈统称为先行控制器栈统称为先行控制器.先行控制器与指令分析器一起构成先行控先行控制器与指令分析器一起构成先行控制方式中的指令控制部件制方式中的指令控制部件.而原来的运算器及运算控制器一起组而原来的运算器及运算控制器一起组成指令执行部件成指令执行部件.3.2 流水线的分类与性能3.2.1.流水线的分类与时空图流水线的分类与时空图3.2.2线性流水线的性能计算线性流水线的性能计算1.流水线的分类流水线的分类2.时空图时空图1.吞吐率吞吐率2.加速比加速比3.效率效率 流水线可按不同的
17、观点进行分类,一般来说流水线可以分为如下几种类型:(1)线性流水线和非线性流水线线性流水线和非线性流水线按照流水线的各个功能段之间是否有反馈信号分类n线性流水线线性流水线(linear pipelining)是指流水线的各段串行连接,数据从流水线的一端进入,从另一端输出,在各个功能段流过时仅流过一次,没有反馈回路。流水线的分类流水线的分类(1)线性流水线和非线性流水线线性流水线和非线性流水线非线性流水线非线性流水线 流水线中除有串行连接的通路处,还有反馈回路或前馈回路。下面的非线性流水线带有反馈回线。流水线的分类流水线的分类(2)单功能流水线和多功能流水线 这是按照流水线所完成的功能来分类的。
18、单功能流水线单功能流水线,是指只能完成一种固定功能的流水线。要完成多种功能,可采用多个单功能流水线。多功能流水线多功能流水线,是指同一流水线的各个段之间可以进行不同的连接,从而使流水线在不同的时间,或者在同一时间完成不同的功能。流水线的分类流水线的分类(3)部件级、处理机级及系统级流水线部件级、处理机级及系统级流水线 是按照流水线使用的级别来进行分类。部件级流水线部件级流水线,又叫运算操作流水线。它是指部件内部各子部件组成的流水线.如指令分析部件中各子部件组成的指令分析部件流水线。处理机级流水线处理机级流水线,又叫指令流水线。它是指处理机内各部件之间的流水线,把执行指令的过程按照流水方式处理,
19、取指部件、指令分析部件和指令执行部件组成的指令流水线。处理机间级流水线处理机间级流水线,又叫宏流水线。它是由两个以上的处理机串行地对同一数据流进行处理,每个处理机对数据流的不同部分分别进行处理。流水线的分类流水线的分类(4)静态流水线和动态流水线静态流水线和动态流水线在多功能流水线中,按照同一时间内是否能够连接成多种方式,同时执行多种功能来分类:静态流水线静态流水线,是指在同一时间内,流水线的各段只能按同一种功能的连接方式工作。动态流水线动态流水线,是指在同一时间内,当某些段上在实现某种运算(如定乘)时,另一些段却在实现另一种运算(如浮加),这样就不是非得相同运算的一串操作才能流水处理。流水线
20、的分类流水线的分类(5)(5)标量流水处理机与向量处理机标量流水处理机与向量处理机 流水处理机按是否具有向量数据表示和相应的流水处理机按是否具有向量数据表示和相应的向量指令向量指令,可分为标量流水处理机和向量流水处理可分为标量流水处理机和向量流水处理机机.标量流水处理机标量流水处理机(Scalar Pipeline(Scalar Pipeline Processor),Processor),只有流水线只有流水线,没有向量数据表示和相应没有向量数据表示和相应的向量指令的向量指令.向量流水处理机是向量数据表示与向量指令流向量流水处理机是向量数据表示与向量指令流水线的结合水线的结合.流水线的分类流水
21、线的分类 流水线的工作常用“时空图”来描述,用横轴代表时间,纵轴表示流水线的各功能部件。规格化规格化1规格化规格化2规格化规格化3规格化规格化4规格化规格化52.时空图时空图(Time-Space Diagram)流水线的分类与时空图流水线的分类与时空图n四段浮点加法器流水线时空图四段浮点加法器流水线时空图p加法器流水线加法器流水线:求阶差求阶差对阶对阶尾数加尾数加规格化规格化入入出出p时空图时空图求阶差求阶差1求阶差求阶差2求阶差求阶差3求阶差求阶差4求阶差求阶差5对阶对阶1对阶对阶2对阶对阶3对阶对阶4对阶对阶5尾数加尾数加1尾数加尾数加2尾数加尾数加3尾数加尾数加4尾数加尾数加5空间空间
22、时间时间0n多功能流水线的时空图多功能流水线的时空图时空图时空图输入输入求阶差求阶差对阶对阶尾数加尾数加规格化规格化尾数乘尾数乘累加累加输出输出A B输入输入求阶差求阶差对阶对阶尾数加尾数加规格化规格化尾数乘尾数乘累加累加输出输出A B输入输入求阶差求阶差对阶对阶尾数加尾数加规格化规格化尾数乘尾数乘累加累加输出输出A B输入输入求阶差求阶差对阶对阶尾数加尾数加规格化规格化尾数乘尾数乘累加累加输出输出A Bp流水线流水线g=f(A,B)定点乘定点乘浮点加浮点加浮点点积浮点点积123n-1n123n-1nn多功能流水线的时空图多功能流水线的时空图p静态时空图静态时空图空间空间输出输出累加累加尾数乘
23、尾数乘规格化规格化尾数加尾数加对阶对阶求阶差求阶差输入输入123n-1n123n-1n123n-1n123n-1n浮点加浮点加时间时间1234123121定点乘定点乘123n-1n123n-1nn多功能流水线的时空图多功能流水线的时空图p动态时空图动态时空图空间空间输出输出累加累加尾数乘尾数乘规格化规格化尾数加尾数加对阶对阶求阶差求阶差输入输入123n-1n123n-1n123n-1n123n-1n浮点加浮点加时间时间123456123451234123定点乘定点乘吞吐率吞吐率 流水线的吞吐率流水线的吞吐率(throughput rate,),是指单位,是指单位时间内流水线完成的任务数或输出的
24、结果时间内流水线完成的任务数或输出的结果.分子表示n个任务,分母表示完成n个任务所用的时间。线性流水线的性能计算线性流水线的性能计算(1)各段执行时间相的吞吐率各段执行时间相的吞吐率.输入连续任务情况下完成n个连续任务需要的总时间为:Tk=(k+n-1)Dt k为流水线的段数,D t为时钟周期流水线的吞吐率流水线的吞吐率从流水线的输出端看从流水线的输出端看,用用k个周期输出第一个任务个周期输出第一个任务,以后是每个时以后是每个时钟周期输出一个任务钟周期输出一个任务,即用即用n-1个时钟完成其余的个时钟完成其余的 n-1个任务个任务.从输入端看从输入端看,因为是任务之间隔一个时钟周期因为是任务之
25、间隔一个时钟周期,因此要用因此要用n个时个时钟周期向流水线输入钟周期向流水线输入n个任务,另外还要用个任务,另外还要用k-1个时钟周期为个时钟周期为流水线的排空时间(即最后一个任务出流水线)流水线的排空时间(即最后一个任务出流水线)输输出出端端输输入入端端各段执行时间相等,输入连续任务各段执行时间相等,输入连续任务 吞吐率:吞吐率:最大吞吐率与吞吐率之间的关系最大吞吐率与吞吐率之间的关系最大吞吐率为最大吞吐率为:结论结论:流水线的实际吞吐率与哪些因素有关流水线的实际吞吐率与哪些因素有关?吞吐率吞吐率(2)流水线各段执行时间不相等流水线各段执行时间不相等37吞吐率为:吞吐率为:最大吞吐率为:最大
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 计算机系统 结构 流水 技术 处理机
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【可****】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【可****】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。