计算机效能.ppt

按一下以編輯母片標題樣式,計算機組織,*,按一下以編輯母片,第二層,第三層,第四層,第五層,計算機效能,計算機結構,(第四章,第六,七週,),1,謬論及陷阱(,Fallacies and Pitfalls),電腦的架構已無法再進步,&,創新機型不需預測未來可能的進步,事實上成本效能比才是真正硬體發展上的真正考量,2,計算機組織,第四章:計算機的效能,計算機的五大組成要件,3,計算機組織,本章重點,討論如何測量描述及總結效能,介紹會影響計算機效能的主要因子有哪些,檢測硬體效能常常是決定一個具有軟硬體的系統效率,4,計算機組織,先定義甚麼是效能(,Performance)?,當我們說有一台電腦的效能比另外一台電腦好，這意味著甚麼？,下列哪一架飛機有最好的效能,協和(,concord),會比747快多少?,747會比道格拉斯大多少?,Airplane Passengers Range(mi)Speed (mph)p*mph,Boeing 737-1003754630610228,750,Boeing 7474704150610286,700,BAC/,Sud,Concorde13240001350178,200,Douglas DC-8-50146872054479,424,5,計算機組織,電腦的執行效能：時間,時間,時間,回應時間(延遲,),我的工作要等多少時間到開始執行,?,執行一個工作要花多久時間?我一定要等多久才能完成資料庫的查詢,?,總處理能力(,Throughput),一次可以執行多少個工作,?,甚麼是平均執行速度?,多少工作量將要完成,?,假使我們將電腦升級換了一個新,CPU,那我們增加了甚麼,?,假如我們在實驗室內再採購了一台新的電腦,那我們增加了甚麼,?,6,計算機組織,經過時間(,Elapsed Time),計算所有可能要花去的時間(磁碟與記憶體的處理及輸出入等,),是有用的數據,但常常沒有被拿來做比較用,花去在中央處理器的時間(,CPU time),沒有計算輸出入或花掉在其他程式的時間,可以被切開成系統時間(,System Time),及使用者時間(,User Time),重點是是使用者的,CPU time,中央處理器消耗在執行我們這個程式的時間,執行時間(,Execution Time),7,計算機組織,在機器,X,上執行某個程式的效能,Performance,X,=1/Execution,time,X,機器,X,比機器,Y,快,n,倍,Performance,X,/,Performance,Y,=n,問題:,machine A runs a program in 20 seconds,machine B runs the same program in 25 seconds,Performance,A,/,Performance,B,=,(1/Execution time,A,)/(1/Execution,time,B,)=,Execution,time,B,/Execution,time,A,=,25/20=1.25,書上有關效能的定義,8,計算機組織,中央處理器的,Clock Cycle,我們也常用時鐘週期來衡量效能,時鐘的,tick,代表何時開始動作,(,抽象定義):,cycle time=time between ticks=seconds per cycle,clock rate(frequency)=cycles per second (1 Hz.=1 cycle/sec),A 200 MHz.clock has a cycle time,time,9,計算機組織,公式告訴我們,所以要提昇效能,(,假設其他要考慮的因素都相同)，可以考慮,_,一個程式所需的時鐘週期或者,_ the clock cycle time,再來換一種方式是 _,the clock rate.,如何提昇效能？,10,計算機組織,是否可以假設執行指令的個數與所要花去的,clock cycles,是一樣的,這個假設是錯的,在不同的機器上,不同的指令會花去不同的時間,Why?,hint:,請記住這些,指令都是機器語言,並不是一行行的,C,程式,time,1,st,instruction,2,nd,instruction,3,rd instruction,4,th,5,th,6,th,.,一個程式究竟需要多少時鐘週期?,11,計算機組織,不同的指令需要不同的時鐘週期,乘法要比加法花的時間週期多,浮點運算要比整數運算多耗時間週期,記憶體的存取要比暫存器的存取多花時間週期,重點是改變了週期時間常常改變不同指令所需的週期數,(more later),time,12,計算機組織,一個常用的軟體在,clock rate,為400,Mhz.,的,A,電腦上執行花了10秒,.,我們正嘗試要幫助一個電腦設計師來,建立一部可以6,(Homework 2,6,改成,3),秒鐘執行完畢剛才那個程式的新電腦,B,.,設計師可以用新的也可能昂貴的技術來提昇,clock rate,但也提醒我們這樣的提昇將會影響中央處理器設計的其它部份,使得在,相同的程式下,B,機器要花相對於機器,A 1.2,倍的時間來完成,.,若要完成前述的目標,那我們要告訴設計師,新機器的,clock rate,該是多少,別慌張,可以輕易地由前面所學的基本概念來解決,範例：,13,計算機組織,範例及作業解答,課本範例解答,CPU,執行時間,A,=(CPU clock,cycles,A,)/(clock,rate,A,),10,秒,=,(CPU clock,cycles,A,)/(400*10,6,cycles/second,),CPU clock,cycles,A,=,10,seconds,*400*10,6,cycles/second,=4000*10,6,CPU,執行時間,B,=(1.2*CPU clock,cycles,A,)/(Clock,rate,B,),6 seconds=(1.2*4000*10,6,cycles)/(Clock,rate,B,),Clock,rate,B,=(1.2*4000*10,6,cycles)/6seconds=800MHz,Homework,Clock,rate,B,=(1.2*4000*10,6,cycles)/3seconds=1600MHz=1.6GHz,14,計算機組織,一個待執行的程式將需要,某個數目的指令,(machine instructions),某個數目的週期,(clock cycles),某個數目的秒數,(seconds),描述這些有關數量單位的辭典,:,週期時間,cycle time(seconds per cycle),時鐘速率,clock rate(cycles per second),CPI(cycles per instruction),一個指令的平均週期數,a floating point intensive application might have a higher CPI,MIPS(millions of instructions per second),每秒百萬指令數,this would be higher for a program using simple instructions,現在我們應瞭解了週期,15,計算機組織,效能,效能是由執行時間來決定,有沒有其它變因是相等於效能?,多少週期來執行程式,?,(cycles),程式中有多少指令?,(instructions),一秒中有幾個週期?,(clock rate),一個指令平均週期數,?(cycles per instruction,CPI),每秒平均指令數?,普遍的陷阱:想想這些看起來很像是會影響效能的變因,實際上是不是,?,16,計算機組織,假設相同指令集架構(,ISA),下的兩種機器設計,對,某一個程式的執行,Machine A has a clock cycle time of 10,ns,.and a CPI of 2.0,Machine B has a clock cycle time of 20,ns,.and a CPI of 1.2,那一台機器比較快,而且快多少?,假使有兩台機器有相同的,ISA,下面的那個計算效能值不變,(e.g.,clock rate,CPI,execution time,#of instructions,MIPS:million,instructions per second)?,CPI,範例,17,計算機組織,效能比較,因為是同樣的程式在不同的機器上執行,所以執行的指令數相同,但執行時間不同,假設這個程式有,I,個指令數,CPU clock,cycles,A,=I*2.0,CPU clock,cycles,B,=I*1.2,CPU time=CPU clocks cycles*clock cycle time,CPU,performance,A,/CPU,performance,B,=,Execution,B,/,Execution,A,=(1.2*20)/(2*10)=1.2,18,計算機組織,時間才是完整及可靠的效能測量,19,計算機組織,每個指令的,CPI,不盡相同,一個撰寫編譯,(Compiler),的設計師嘗試在某一台機器上寫兩套不同的指令執行順序,基於硬體的製作有三種類型的指令,:Class A,Class B,and Class C,它們分別需要一個,兩個,及三個週期,.,第一個指令執行順序包含了,5,個指令,:Class,A,有,2,個,Class B,有,1,個而,Class C,有,2,個,.,第二個指令執行順序包含了,6,個指令,:Class,A,有,4,個,Class B,有,1,個而,Class C,有,1,個,.,那一個指令執行順序比較快,?,快多少,?CPI,各是多少,?,指令數的計算範例,20,計算機組織,範例計算過程,CPU clock cycles,1,=(2*1)+(1*2)+(2*3)=10,CPU clock cycles,2,=(4*1)+(1*2)+(1*3)=9,CPI=(CPU clock cycles)/(Instruction count),CPI,1,=10/5=2,CPI,2,=9/6=1.5,只用,instruction count,來判斷,performance,是很危險的,即使,clock rate,相同,因為指令混用的關係造成,CPI,的變化,instruction count,與,CPI,同時都要比較,21,計算機組織,執行一個真正的程式是決定效能的最佳選擇,使用可以能到達預期測試工作量的應用程式,或者是特定類別的應用程式,例如,:,編譯器,/,編輯器,科學計算應用程式,繪圖應用程式等,小的測量程式,對開發及設計新機器的人來說是好用的,也比較容易標準化,容易被濫用誤用,性能測量的程式,(Benchmarks),22,計算機組織,System Performance Evaluation Cooperative,眾多公司已同意的一套真正的應用程式及相關的輸入,還是會被濫用誤用,(Intels“other”bug),有價值的效能指標,(,也常被,compiler technology,拿來做效能判斷,),SPEC Benchmark,23,計算機組織,SPEC 89,Compiler“enhancements”and performance,24,計算機組織,SPEC 95,25,計算機組織,SPEC 95,是不是讓,clock rate,加倍,效能就會跟著加倍呢,?,有沒有一台機器有較慢的,clock rate,確有較好的效能,?,26,計算機組織,Execution Time After Improvement,=,Execution Time Unaffected,+,(,Execution Time Affected,/,Amount of Improvement,),範例:假使一個程式在一台機器上執行花了,100,秒,其中的,80,秒是消耗在乘法運算上,如果我們要這個程式比原來快四倍,我們必須在乘法運算上速度提升是多少,?,假如要提升五倍呢,?,原理,:,讓常用的運算加快,Amdahls Law(,定律,),27,計算機組織,效能對特定的程式的有特定意義的,對總結效能來說,以總執行時間來做衡量標準是具有其一致性的,對一個給好的機器架構來說,效能的增加是來自,增加,clock rate(,沒有引起,CPI,反效果的條件下,),處理內部組織的提升使得具有較低的,CPI,編譯器的效能提升使得,CPI,亦或是,instruction count,也都降低,請記住,28,計算機組織,謬論,:,期待提升機器某一方面的效能就能提升機器全面的效能,You should not always believe everything you read!Read carefully!(see newspaper articles,e.g.,Exercise 2.37),請記住,29,計算機組織,有兩個不同的編譯器在一台,100MHz,的機器上正在進行測試,這台機器有三類指令,:Class A,Class B,and Class C,分別需要,1,2,及,3,個週期來完成,這兩個編譯器同時要用來將一個大型軟體編譯產生組合指令,.,第一組編譯出來的指令有,5,百萬個,Class A,的指令,1,百萬個,Class B,指令,and 1,百萬個,Class C,指令,.,第二組編譯出來的指令有一千萬個,Class A,的指令,1,百萬個,Class B,指令,and 1,百萬個,Class C,指令,以,MIPS,來做效能測量,哪一組,compiler,比較快,?,以時間來看,哪一組比較快,?,作業,3,有關以,MIPS,測量效能,30,計算機組織,假設我們將一台機器的浮點運算的速度提升的五倍,如果再還沒有提升之前一個基準測量程式的執行時間是十秒鐘,那麼當這十秒中有一半的時間是消耗在執行浮點運算上,經由浮點運算速度提升後,真正的速度提升是多少倍,?,我們正在找一個基準測量程式來展現我們如上述新的浮點運算效能,而且測量結果是效能提升了,3,倍,.,某個測量程式在舊的浮點運算硬體上執行花了,100,秒,那麼浮點運算必須擔負的執行時間是多少,這樣才會達到效能的,3,倍提升,?,作業,4,Amdahls Law(,定律,),31,計算機組織,Is a 32-bit ALU as fast as a 1-bit ALU?,Is there more than one way to do addition?,two extremes:ripple carry and sum-of-products,Can you see the ripple?How could you get rid of it?,c,1,=b,0,c,0,+a,0,c,0,+,a,0,b,0,c,2,=b,1,c,1,+a,1,c,1,+,a,1,b,1,c,2,=,c,3,=b,2,c,2,+a,2,c,2,+,a,2,b,2,c,3,=,c,4,=b,3,c,3,+a,3,c,3,+,a,3,b,3,c,4,=,Not feasible!Why?,Problem:ripple carry adder is slow,An approach in-between our two extremes,Motivation:,If we didnt know the value of carry-in,what could we do?,When would we always generate a carry?,g,i,=a,i,b,i,When would we propagate the carry?,p,i,=a,i,+b,i,Did we get rid of the ripple?,c,1,=g,0,+p,0,c,0,c,2,=g,1,+p,1,c,1,c,2,=,c,3,=g,2,+p,2,c,2,c,3,=,c,4,=g,3,+p,3,c,3,c,4,=,Feasible!Why?,Carry-lookahead adder,Cant build a 16 bit adder this way.(too big),Could use ripple carry of 4-bit CLA adders,Better:use the CLA principle again!,Use principle to build bigger adders,