TWI525538B - 超級乘加(super madd)指令技術 - Google Patents

超級乘加(super madd)指令技術 Download PDF

Info

Publication number
TWI525538B
TWI525538B TW101148673A TW101148673A TWI525538B TW I525538 B TWI525538 B TW I525538B TW 101148673 A TW101148673 A TW 101148673A TW 101148673 A TW101148673 A TW 101148673A TW I525538 B TWI525538 B TW I525538B
Authority
TW
Taiwan
Prior art keywords
instruction
vector
field
register
unit
Prior art date
Application number
TW101148673A
Other languages
English (en)
Other versions
TW201346739A (zh
Inventor
傑瑟斯 科貝爾
安德魯T 佛西斯
羅傑 伊斯帕沙
曼奈爾 費德南茲
湯瑪斯D 福萊柴爾
Original Assignee
英特爾公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 英特爾公司 filed Critical 英特爾公司
Publication of TW201346739A publication Critical patent/TW201346739A/zh
Application granted granted Critical
Publication of TWI525538B publication Critical patent/TWI525538B/zh

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/30003Arrangements for executing specific machine instructions
    • G06F9/30007Arrangements for executing specific machine instructions to perform operations on data operands
    • G06F9/3001Arithmetic instructions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/30003Arrangements for executing specific machine instructions
    • G06F9/30007Arrangements for executing specific machine instructions to perform operations on data operands
    • G06F9/30018Bit or string instructions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/30003Arrangements for executing specific machine instructions
    • G06F9/30007Arrangements for executing specific machine instructions to perform operations on data operands
    • G06F9/30036Instructions to perform operations on packed data, e.g. vector, tile or matrix operations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/30098Register arrangements
    • G06F9/30101Special purpose registers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/30145Instruction analysis, e.g. decoding, instruction word fields
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/38Concurrent instruction execution, e.g. pipeline, look ahead
    • G06F9/3885Concurrent instruction execution, e.g. pipeline, look ahead using a plurality of independent parallel functional units
    • G06F9/3893Concurrent instruction execution, e.g. pipeline, look ahead using a plurality of independent parallel functional units controlled in tandem, e.g. multiplier-accumulator
    • G06F9/3895Concurrent instruction execution, e.g. pipeline, look ahead using a plurality of independent parallel functional units controlled in tandem, e.g. multiplier-accumulator for complex operations, e.g. multidimensional or interleaved address generators, macros

Description

超級乘加(SUPER MADD)指令技術 發明領域
本發明之領域大體而言係有關於計算系統,且更具體而言係有關於超級乘加指令。
發明背景
圖1示出由半導體晶片上之邏輯電路實行的處理核心100之高階圖。該處理核心包括管線101。該管線由多個級段組成,每一級段係設計來執行多步驟處理程序中的一特定步驟,完全執行一程式碼指令需要該多步驟處理程序。此等級段通常至少包括:1)指令擷取及解碼;2)資料擷取;3)執行;4)回寫。執行級段對資料執行特定操作,其中該特定操作係由在先前級段中(例如上述步驟1)中)擷取及解碼的指令予以識別,該資料係由相同指令予以識別且係在另一先前級段中(例如上述步驟2)中)擷取。被操作的資料通常擷取自(通用)暫存器儲存空間102。在操作完成時產生的新資料亦通常被「回寫」至暫存器儲存空間(例如在上述步驟4)中)。
與執行級段相關聯之邏輯電路通常由多個「執行 單元」或「功能單元」103_1至103_N組成,每一「執行單元」或「功能單元」係設計來執行其自有之獨特操作子集(例如,第一功能單元執行整數數學操作,第二功能單元執行浮點指令,第三功能單元執行自/至快取記憶體/記憶體的載入/儲存操作,等)。由所有功能單元執行之所有操作的集合對應於處理核心100所支援的「指令集」。
如下兩種類型的處理器架構在電腦科學領域中已得到廣泛認可:「純量」及「向量」。純量處理器係設計來執行對單個資料集執行操作的指令,而向量處理器係設計來執行對多個資料集執行操作的指令。圖2A及圖2B呈現比較實例,該實例演示純量處理器與向量處理器之間的基本差異。
圖2A示出純量AND(與)指令之實例,其中對單個運算元集合A以及B一起進行AND運算,以得出單數(或「純量」)結果C(亦即,AB=C)。相反,圖2B示出向量AND指令之實例,其中並行地分別對兩個運算元集合A/B以及D/E一起進行AND運算,以同時產生向量結果C、F(亦即,A.AND.B=C且D.AND.E=F)。作為一術語,「向量」為具有多個「元件」之資料元件。例如,向量V=Q,R,S,T,U具有五個不同元件:Q、R、S、T以及U。示範性向量V之「大小」為五(因為其具有五個元件)。
圖1亦展示存在向量暫存器空間107,其與通用暫存器空間102不同。具體而言,通用暫存器空間102名義上用來儲存純量值。因而,當任何執行單元執行純量操 作時,該等執行單元名義上使用自通用暫存器儲存空間102調入的運算元(且將結果回寫至通用暫存器儲存空間中)。相反,當任何執行單元執行向量操作時,該等執行單元名義上使用自向量暫存器空間107調入的運算元(且將結果回寫至向量暫存器空間中)。記憶體之不同區域可同樣經分配來儲存純量值及向量值。
亦應注意,遮罩邏輯104_1至104_N及105_1至105_N存在於進入功能單元103_1至103_N之個別輸入端及來自功能單元103_1至103_N的個別輸出端處。在各種實行方案中,對於向量運算而言,該等層中事實上僅一者得以實行-雖然此並非為嚴格要求(儘管未於圖1中繪示,但可設想的是,僅執行純量而非向量運算之執行單元無需具有任何遮罩層)。對於使用遮罩之任何向量指令,輸入遮罩邏輯104_1至104_N及/或輸出遮罩邏輯105_1至105_N可用來控制針對向量指令有效地操作哪一個元件。在此,遮罩向量係讀取自遮罩暫存器空間106(例如,與讀取自向量暫存器儲存空間107之輸入運算元向量一起讀取)且呈現至遮罩邏輯層104、105中之至少一者。
在執行向量程式碼之過程中,各向量指令不必要求全資料字。例如,用於一些指令之輸入向量可僅為8個元件,用於其他指令之輸入向量可為16個元件,用於其他指令之輸入向量可為32個元件,等等。因此,遮罩層104/105用來識別一組具有全向量資料字的元件,該等元件適用於一特定指令以便實現跨越數個指令的不同向量大小。通 常,對於各向量指令,遮罩暫存器空間106中保持的一特定遮罩型樣藉由該指令調出,自遮罩暫存器空間擷取且提供至遮罩層104/105之任一者或兩者來「允許」用於特定向量操作之正確元件集。
依據本發明之一實施例,係特地提出一種處理核心,其包含:執行單元邏輯電路,其具有執行一單個指令之以下各者:a)一第一暫存器,其儲存一第一向量輸入運算元V1[ ];b)一第二暫存器,其儲存一第二向量輸入運算元V2[ ];c)一第三暫存器,其儲存一第三向量輸入運算元V3[ ];d)一第四暫存器,其儲存含有純量輸入運算元a及b之一緊縮資料結構;e)一乘法器,其執行操作(a*V2[ ])+(b*V3[ ])+V1[ ]。
100‧‧‧處理核心
101‧‧‧管線
102‧‧‧(通用)暫存器儲存空間
103_1-103_N‧‧‧功能單元/執行單元
104_1-104_N、105_1-105_N‧‧‧遮罩邏輯
106‧‧‧遮罩暫存器空間
107‧‧‧向量暫存器空間
309~312‧‧‧暫存器
313‧‧‧熔合乘法器/乘法器
309‧‧‧結果暫存器
314、316‧‧‧選擇邏輯
315、317‧‧‧華萊士樹電路
318‧‧‧加法器
600‧‧‧一般向量友善指令格式
605‧‧‧非記憶體存取
610‧‧‧非記憶體存取、完全捨位控制型操作
612‧‧‧非記憶體存取、寫入遮罩控制、部分捨位控制型操作
615‧‧‧資料轉換型操作
617‧‧‧非記憶體存取、寫入遮罩控制、vsize型操作
620‧‧‧記憶體存取
625‧‧‧記憶體存取、暫時
627‧‧‧記憶體存取、寫入遮罩控制
630‧‧‧記憶體存取、非暫時
640‧‧‧格式欄位
642‧‧‧基本操作欄位
644‧‧‧暫存器位址欄位
646‧‧‧修飾符欄位
650‧‧‧擴增操作欄位
652‧‧‧α欄位
652A‧‧‧RS欄位
652A.1‧‧‧捨位
652A.2‧‧‧資料轉換
652B‧‧‧收回提示欄位
652B.1‧‧‧暫時
652B.2‧‧‧非暫時
652C‧‧‧寫入遮罩控制(Z)欄位
654‧‧‧β欄位
654A‧‧‧捨位控制欄位
654B‧‧‧資料轉換欄位
654C‧‧‧資料調處欄位
656‧‧‧抑制所有浮點異常(SAE)欄位
657A‧‧‧RL欄位
657A.1‧‧‧捨位欄位
657A.2‧‧‧向量長度(VSIZE)
657B‧‧‧廣播欄位
658‧‧‧捨位操作控制欄位
659A‧‧‧捨位操作欄位
659B‧‧‧向量長度欄位
660‧‧‧比例欄位
662A‧‧‧位移欄位
662B‧‧‧位移因數欄位
664‧‧‧資料元件寬度欄位
668‧‧‧類別欄位
668A‧‧‧類別A
668B‧‧‧類別B
670‧‧‧寫入遮罩欄位
672‧‧‧立即欄位
674‧‧‧完整的運算碼欄位
700‧‧‧特定向量友善指令格式
702‧‧‧EVEX前綴
705‧‧‧REX欄位
710‧‧‧REX’欄位
715‧‧‧運算碼對映欄位
720‧‧‧EVEX.vvvv欄位
725‧‧‧前綴編碼欄位
730‧‧‧實際運算碼欄位
740‧‧‧MOD R/M欄位
742‧‧‧MOD欄位
744‧‧‧Reg欄位
746‧‧‧R/M欄位
754‧‧‧SIB.xxx
756‧‧‧SIB.bbb
800‧‧‧暫存器架構
810‧‧‧向量暫存器
815‧‧‧寫入遮罩暫存器
825‧‧‧通用暫存器
845‧‧‧純量浮點堆疊暫存器檔案
850‧‧‧MMX緊縮整數平板暫存器檔案
900‧‧‧處理管線
902‧‧‧擷取級段
904‧‧‧長度解碼級段
906‧‧‧解碼級段
908‧‧‧分配級段
910‧‧‧重新命名級段
912‧‧‧排程級段
914‧‧‧暫存器讀取/記憶體讀取級段
916‧‧‧執行級段
918‧‧‧回寫/記憶體寫入級段
922‧‧‧異常處置級段
924‧‧‧確認級段
930‧‧‧前端單元
932‧‧‧分支預測單元
934‧‧‧指令快取記憶體單元
936‧‧‧指令轉譯後備緩衝器(TLB)
938‧‧‧指令擷取單元
940‧‧‧解碼單元
950‧‧‧執行引擎單元
952‧‧‧重新命名/分配器單元
954‧‧‧引退單元
956‧‧‧排程器單元
958‧‧‧實體暫存器檔案單元
960‧‧‧執行叢集
962‧‧‧執行單元
964‧‧‧記憶體存取單元
970‧‧‧記憶體單元
972‧‧‧資料TLB單元
974‧‧‧資料快取記憶體單元
976‧‧‧L2快取記憶體單元
990‧‧‧處理器核心
1000‧‧‧指令解碼器
1002‧‧‧互連網路
1004‧‧‧L2快取記憶體局域子集
1006‧‧‧L1快取記憶體
1006A‧‧‧L1資料快取記憶體
1008‧‧‧純量單元
1010‧‧‧向量單元
1012‧‧‧純量暫存器
1014‧‧‧向量暫存器
1020‧‧‧拌和單元
1022A、1022B‧‧‧數值轉換單元
1024‧‧‧複製單元
1026‧‧‧寫入遮罩暫存器
1028‧‧‧寬度為16之ALU
1100‧‧‧處理器
1102A-N‧‧‧核心
1104A-N‧‧‧快取記憶體單元
1106‧‧‧共享快取記憶體單元
1108‧‧‧專用邏輯
1110‧‧‧系統代理
1112‧‧‧環式互連單元
1114‧‧‧整合型記憶體控制器單元
1116‧‧‧匯流排控制器單元
1200‧‧‧系統
1210、1215‧‧‧處理器
1220‧‧‧控制器集線器
1240‧‧‧記憶體
1245‧‧‧共處理器
1250‧‧‧輸入/輸出集線器
1260‧‧‧輸入/輸出(I/O)裝置
1290‧‧‧圖形記憶體控制器集線器(GMCH)
1295‧‧‧連接
1300‧‧‧第一更特定的示範性系統
1314、1414‧‧‧I/O裝置
1315‧‧‧額外處理器
1316‧‧‧第一匯流排
1318‧‧‧匯流排橋接器
1320‧‧‧第二匯流排
1322‧‧‧鍵盤及/或滑鼠
1324‧‧‧音訊I/O
1327‧‧‧通訊裝置
1328‧‧‧儲存單元
1330‧‧‧指令/程式碼及資料
1332、1334‧‧‧記憶體
1338‧‧‧共處理器
1339‧‧‧高效能介面
1350‧‧‧點對點互連
1352、1354、1386、1388‧‧‧P-P介面
1370‧‧‧第一處理器
1372‧‧‧整合型記憶體控制器(IMC)單元
1376、1378‧‧‧點對點(P-P)介面
1380‧‧‧第二處理器
1382‧‧‧整合型記憶體控制器(IMC)單元
1390‧‧‧晶片組
1394、1398‧‧‧點對點介面電路
1396‧‧‧介面
1400‧‧‧第二更特定的示範性系統
1415‧‧‧舊式I/O裝置
1500‧‧‧系統單晶片
1502‧‧‧互連單元
1510‧‧‧應用處理器
1520‧‧‧共處理器
1530‧‧‧靜態隨機存取記憶體(SRAM)單元
1532‧‧‧直接記憶體存取(DMA)單元
1540‧‧‧顯示單元
1602‧‧‧高階語言
1604‧‧‧x86編譯器
1606‧‧‧x86二進位碼
1608‧‧‧替代性指令集編譯器
1610‧‧‧替代性指令集二進位碼
1612‧‧‧指令轉換器
1614‧‧‧不具有至少一個x86指令集核心之處理器
1616‧‧‧具有至少一個x86指令集核心之處理器
在隨附圖式之各圖中藉由實例而非限制來說明本發明,其中相似參考符號指示類似元件,且其中:圖1展示出處理器管線;圖2A及圖2B比較純量與向量運算;圖3A展示可執行VSMADD指令之執行單元內的邏輯電路之實施例;圖3B展示用於VSMADD指令之操作之方法;圖4展示在立即運算元欄位中包括純量運算元編碼資料及符號控制資料的指令格式;圖5A展示可執行VFMMADD指令之執行單元 內的邏輯電路之實施例;圖5B展示用於VFMMADD指令之操作之方法;圖6A至圖6B係例示根據本發明之實施例之一般向量友善指令格式及其指令模板的方塊圖;圖7A係例示根據本發明之實施例之示範性特定向量友善指令格式的方塊圖;圖7B係例示根據本發明之一實施例之特定向量友善指令格式700的欄位的方塊圖,該等欄位組成完整的運算碼欄位674;圖7C係例示根據本發明之一實施例之特定向量友善指令格式700的欄位的方塊圖,該等欄位組成暫存器索引欄位644;圖7D係例示根據本發明之一實施例之特定向量友善指令格式700的欄位的方塊圖,該等欄位組成擴增操作欄位650;圖8係根據本發明之一實施例之暫存器架構的方塊圖;圖9A係例示根據本發明之實施例之如下兩者的方塊圖:示範性循序(in-order)管線,以及示範性暫存器重新命名亂序(out-of-order)發佈/執行管線;圖9B係例示如下兩者之方塊圖:循序架構核心的示範性實施例,以及示範性暫存器重新命名亂序發佈/執行架構核心,上述兩者將包括於根據本發明之實施例的處理器中;
圖10A至圖10B例示出更特定的示範性循序核心架構之方塊圖,該核心將係晶片中的若干邏輯區塊(包括相同類型及/或不同類型的其他核心)中之一者;圖11係根據本發明之實施例之處理器的方塊圖,該處理器可具有一個以上核心,可具有整合型記憶體控制器,且可具有整合型圖形元件(graphics);圖12係根據本發明之一實施例之示範性系統的方塊圖;圖13係根據本發明之一實施例之第一更特定的示範性系統之方塊圖;圖14係根據本發明之一實施例之第二更特定的示範性系統之方塊圖;圖15係根據本發明之一實施例之SoC(系統單晶片)的方塊圖;圖16係對照根據本發明之實施例之軟體指令轉換器的用途之方塊圖,該轉換器係用以將來源指令集中之二進位指令轉換成目標指令集中之二進位指令。
詳細說明
圖3A及圖3B展示「超級」MADD指令(VSMADD)之描繪,該指令執行操作V1[ ]=((a*V2[ ])+(b*V3[ ])+V1[ ]),其中,V1[ ]係輸入向量及結果向量,V2[ ]及V3[ ]係輸入向量,且a及b係純量。如圖3A中所觀察的,執行操作之執行單元採用呈VSMADD R1;R2;R3;R4/M之形 式的指令格式技術。在如此進行時,指令格式分別代表:i)暫存器之位址R1,其中輸入運算元V1[ ]係自該位址中提供且操作之結果儲存至該位址(該結果對應於具有更新值的V1[ ]);ii)兩個分開的輸入運算元暫存器位址R2及R3,該等輸入運算元暫存器位址分別儲存輸入運算元V2[ ]、V3[ ];以及iii)第四輸入運算元位址R4或M,該輸入運算元位址界定發現純量a及b中每一者所在之暫存器或記憶體儲存位置。
用於VSMADD指令之形式格式可為VSMADD R1;k;z;R2;R3;R4/M,其中k對應於遮罩向量且z對應於位元選擇,該位元選擇確定是歸零遮蔽還是合併遮蔽適用。若遮罩位元為零,則歸零遮蔽將零寫入至目的地,而合併遮蔽保留目的地不改變。在又一實施例中,僅使用寫入遮罩(圖1之層105)作為架構之部分。為簡單起見,此描述之剩餘部分將主要參考VSMADDR1;R2;R3;R4/M格式。
在一實施例中,參考R1;R2;R3及R4中每一者對應於圖1之位置向量暫存器空間104。類似地,M對應於記憶體中儲存向量值之位置。在一實施例中,純量值a及b係自名義上用來儲存向量之儲存空間R4/M中呼叫。亦即,VSMADD指令具有五個輸入運算元(V1[ ]、V2[ ]、V3[ ]、a及b),但僅消耗三個輸入資料來源(例如,三個暫存器或兩個暫存器及一記憶體位置)。
為實現輸入資訊之緊密,如圖3A中所觀察的, 純量a及b經「緊縮」至同一輸入資料結構中,以自單個來源有效提供兩個純量。值得注意地,含有R4/M中之純量值a及b之「緊縮」資料結構或類向量資料結構不必具有與由指令呼叫出之其他向量的大小相同的向量大小。因此,與每一輸入運算元係具有相同大小之向量的典型向量指令不同,VSMADD指令之結構考慮到一可能性:輸入運算元V1[ ]、V2[ ]、V3[ ]之一分組將各自為具有第一大小(機器支援之任何向量大小)之向量,而另一輸入運算元實質上係具有不同的、第二大小(兩個)的向量。
如圖3A中所觀察的,用於VSMADD指令之執行單元資源包含暫存器309、暫存器310、暫存器311及暫存器312,來分別容納V1[ ]、V2[ ]、V3[ ]以及a及b純量。執行單元資源進一步包括熔合乘法器313。輸出結果自乘法器313傳遞至結果暫存器309。在一實施例中,熔合乘法器313實質上包括兩個「並排」乘法器,該等乘法器各自由其自有的個別選擇邏輯314、選擇邏輯316(產生部分積項)及其自有的個別華萊士(Wallace)樹電路315、華萊士樹電路317(或其他適合的加法器電路)組成,來使部分積相加。使用「並排」方法,項(a* V2[ ])與項(b*V3[ ])可大體上同時計算。
參看圖3A,「左半」乘法器由選擇邏輯314及華萊士樹電路315組成。選擇邏輯314構造(a*V2[ ])乘法之部分積,且華萊士樹電路315對此等部分積求和來確定(a*V2[ ])之最終積。類似地,「右半」乘法器由選擇邏輯316 及華萊士樹電路317組成。選擇邏輯316構造(b*V3[ ])乘法之部分積,且華萊士樹電路317對此等部分積求和來確定(b*V3[ ])之最終積。接著由「底部」加法器318將(a*V2[ ])之最終積及(b*V3[ ])之最終積與輸入項V1[ ]相加,以產生最終結果V1[ ]。
如以上描述之熔合乘法對應於加法器318處的 單個捨位。此處,至少對於浮點運算元而言,圖3A中觀察到的V2[ ]、V3[ ]、a、b、c輸入值對應於尾數值。實現乘法之指數加法由加法電路執行,該加法電路在圖3A中未展示。給定執行單元作為整體可操作的不同輸入值之動態範圍,考慮到輸入值之個別指數值,圖3A之尾數值可需要移位來實現正確對準。此移位可在諸如底部加法器318之加法級段中產生捨位誤差。
如以上論述之熔合乘法與一方法相比可將加法 捨位誤差最小化至單個捨位誤差,該方法(例如,經由微碼操作)「循環兩次」穿過同一乘法累加電路,進而串接兩個分開的捨位誤差(例如,第一循環確定(a*V2[ ])+V1[ ](產生之第一捨位誤差)及第二循環確定(b*V3[ ])且將(b*V3[ ])與(a*V2[ ])+V1[ ]相加(產生之第二捨位誤差)。應中肯地指出,循環兩次穿過同一乘法電路之方法雖然串接捨位誤差,但對於各種應用程式而言可為足夠的,因此可視為本發明之一實施例。在一實施例中,兩個不同的操作碼由下層指令集用來指定是否將要使用熔合乘法或「循環兩次」。
在圖3A中,輸入向量V1[ ]係提供至底部加法 器318但可替代地輸入華萊士樹315、華萊士樹316之一(取決於華萊士樹之大小)。亦可想像,一些額外或替代方法可選擇來將來自左部分積及右部分積之部分積混合至同一華萊士樹結構中,使得左華萊士樹315與右華萊士樹317之間的區別模糊(例如,具有預對準尾數及額外管線級段)。
在一實施例中,基於資料類型,存在VSMADD 指令之不同「特點」。例如,根據一實施例,適用處理器之指令集架構經設計來支援用於向量操作之VSMADDPS(向量單精度)及VSMADDPD(向量雙精度)。
在另一實施例中,執行單元資源經設計來不僅支 援向量指令而且亦支援純量指令SMADD。亦即,執行資源亦執行函數(a*A)+(b*B)+C,其中A、B及C係純量輸入運算元。此處,向量暫存器(圖3A中未展示)之低序位元可與暫存器309、暫存器310、暫存器311及暫存器312中每一者關聯,且以如圖3A中觀察之相同方式路由傳遞至執行單元邏輯。
使用符號控制,VSMADD指令及SMADD指令 可更一般地對於向量指令陳述為V1[ ]=+/-(a*V2[ ])+/-(b*V3[ ])+/-V1[ ],且對於純量指令陳述為C=+/-(a*A)+/-(b*B)+/-C。此處,額外立即運算元(例如,imm8)包含於指令格式中來指定每一項之符號。例如,在VSMADD之狀況下,指令格式呈VSMADD R1;k;R2;R3;R4/M;I之形式,其中I係立即運算元。在一實施例中,立即運算元之三個位元用來指定項(a*V2[ ])、項(b*V3[ ])及項V1[ ] 中每一者之正號或負號。
將五個輸入運算元緊縮至以提供至多三個輸入 運算元為目標而設計之指令格式中的問題係指定「額外」運算元之編碼。具體而言,指令執行邏輯需要知道a及b純量中每一者之大小及/或在提取自R4/M之資料結構內該等純量的邊界在何處。在一實施例中,如圖4中所觀察的,此資訊以及前述符號控制資訊呈現於立即運算元(例如,x86或相容指令格式中之imm8)中。立即運算元係一變數,該變數在運轉時間前已知且可因此在編譯/代碼構造過處理期間直接嵌入指令中。如此,在VSMADD指令之編譯期間,將界定可在自R4/M擷取的緊縮資料結構中何處分別發現a及b純量中每一者之資訊直接嵌入立即運算元欄位中之指令中。
圖5A及圖5B展示另一「超級」MADD指令 (VFMMADD)之描繪,該指令執行操作V1[ ]=(a*V2[ ])+(b*V3[ ]),其中,V1[ ]係結果向量,V2[ ]及V3[ ]係輸入向量,且a及b係純量。如圖4中所觀察的,執行操作之執行單元採用呈VFMMADD R1;R2;R3;R4/M之形式的指令格式技術。在如此進行時,指令格式分別代表:i)暫存器之位址R1,其中儲存操作之結果;ii)兩個分開的輸入運算元暫存器位址R2及R3,該等輸入運算元暫存器位址分別儲存輸入運算元V2[ ],V3[ ];以及iii)第四輸入運算元位址R4或M,該輸入運算元位址界定發現純量a及b中每一者所在之暫存器或記憶體儲存位置。
如圖5A及圖5B中所觀察的,除不存在輸入加數V1[ ]之外,VFMMADD指令可實質上與以上描述之VSMADD指令相同。
示範性指令格式
本文中描述之指令之實施例可以不同格式來體現。另外,下文詳述示範性系統、架構及管線。可在此等系統、架構及管線上執行指令之實施例,但不限於詳述之彼等系統、架構及管線。
一般向量友善指令格式
向量友善指令格式係適合於向量指令的指令格式(例如,存在特定針對向量運算的某些欄位)。雖然描述了經由向量友善指令格式支援向量運算及純量運算兩者的實施例,但替代性實施例僅使用向量運算向量友善指令格式。
圖6A至圖6B係例示根據本發明之實施例之一般向量友善指令格式及其指令模板的方塊圖。圖6A係例示根據本發明之實施例之一般向量友善指令格式及其類別A指令模板的方塊圖;而圖6B係例示根據本發明之實施例之一般向量友善指令格式及其類別B指令模板的方塊圖。具體而言,一般向量友善指令格式600,針對其定義了類別A及類別B指令模板,兩個指令模板皆包括非記憶體存取605指令模板及記憶體存取620指令模板。在向量友善指令格式的情況下,術語一般代表不與任何特定指令集相關的指令格式。
雖然將描述的本發明之實施例中,向量友善指令 格式支援以下各者:64個位元組的向量運算元長度(或大小)與32個位元(4個位元組)或64個位元(8個位元組)的資料元件寬度(或大小)(且因此,64個位元組的向量由16個雙字大小的元件或者8個四字大小的元件組成);64個位元組的向量運算元長度(或大小)與16個位元(2個位元組)或8個位元(1個位元組)的資料元件寬度(或大小);32個位元組的向量運算元長度(或大小)與32個位元(4個位元組)、64個位元(8個位元組)、16個位元(2個位元組)或8個位元(1個位元組)的資料元件寬度(或大小);以及16個位元組的向量運算元長度(或大小)與32個位元(4個位元組)、64個位元(8個位元組)、16個位元(2個位元組)或8個位元(1個位元組)的資料元件寬度(或大小);但替代性實施例可支援更大、更小及/或不同的向量運算元大小(例如,256個位元組的向量運算元)與更大、更小及/或不同的資料元件寬度(例如,128個位元(16個位元組)的資料元件寬度)。
圖6A中的類別A指令模板包括:1)在非記憶體 存取605指令模板內,展示出非記憶體存取、完全捨位(full round)控制型操作610指令模板及非記憶體存取、資料轉換型操作615指令模板;以及2)在記憶體存取620指令模板內,展示出記憶體存取、暫時625指令模板及記憶體存取、非暫時630指令模板。圖6B中的類別B指令模板包括:1)在非記憶體存取605指令模板內,展示出非記憶體存取、寫入遮罩控制、部分捨位控制型操作612指令模板及非記憶體存取、寫入遮罩控制、vsize型操作617指令模板;以 及2)在記憶體存取620指令模板內,展示出記憶體存取、寫入遮罩控制627指令模板。
一般向量友善指令格式600包括以下欄位,下文 按圖6A至圖6B中例示之次序列出該等欄位。結合上文關於VPLANE指令之論述,在一實施例中,參考下文在圖6A至圖6B及圖7中提供的格式細節,可利用非記憶體存取指令類型605或記憶體存取指令類型620。可在下文描述之暫存器位址欄位644中指定第一、第二及第三輸入運算元R2 R3 R4/M及目的地R1之位址。在另一實施例中,第一來源運算元V1[ ]之大小係編碼於Reg_欄位744中;第二來源運算元V2[ ]之大小係編碼於VVVV欄位720中且純量a、b、c之大小/位置係編碼於imm8欄位772中。在一實施例中,imm8之位元[3]及[7:4]係如上文所述用來編碼a及b純量,且imm8之位元[2:0]用於上文所述之符號控制。
格式欄位640-在此欄位中的特定值(指令格式識 別符值)獨特地識別向量友善指令格式,且因此識別呈向量友善指令格式的指令在指令串流中的出現。因而,此欄位在以下意義上來說係選擇性的:僅具有一般向量友善指令格式之指令集並不需要此欄位。
基本操作欄位642-其內容辨別不同的基本操作。
暫存器索引欄位644-其內容(直接或經由位址產生)指定來源及目的地運算元之位置,在暫存器或記憶體中。此等包括充足數目個位元,以自PxQ(例如,32x512、16x128、32x1024、64x1024)暫存器檔案選擇N個暫存器。 雖然在一實施例中,N可至多為三個來源及一個目的地暫存器,但替代性實施例可支援更多或更少的來源及目的地暫存器(例如,可支援至多兩個來源,其中此等來源中之一者亦可充當目的地,可支援至多三個來源,其中此等來源中之一者亦可充當目的地,可支援至多兩個來源及一個目的地)。
修飾符欄位646-其內容區分呈一般向量友善指 令格式的指定記憶體存取之指令的出現與不指定記憶體存取之指令的出現;即,區分非記憶體存取605指令模板與記憶體存取620指令模板。記憶體存取操作讀取及/或寫入至記憶體階層(在一些情況下,使用暫存器中的值來指定來源及/或目的地位址),而非記憶體存取操作不讀取及/或寫入至記憶體階層。雖然在一實施例中此欄位亦在執行記憶體位址計算的三種不同方式之間進行選擇,但替代性實施例可支援執行記憶體位址計算的更多、更少或不同的方式。
擴增操作欄位650-其內容辨別除基本操作外還 將執行多種不同操作中之哪一者。此欄位係內容脈絡特定的。在本發明之一實施例中,此欄位分成類別欄位668、α(alpha)欄位652及β(beta)欄位654。擴增操作欄位650允許在單個指令而不是2個、3個或4個指令中執行各組常見操作。
比例欄位660-其內容允許針按比例縮放索引欄位之內容以用於記憶體位址產生(例如,針對使用2比例*索引+基址之位址產生)。
位移欄位662A-其內容被用作記憶體位址產生之部分(例如針對使用2比例*索引+基址+位移之位址產生)。
位移因數欄位662B(請注意,位移欄位662A緊靠在位移因數欄位662B上方的並列定位指示使用一個欄位或另一個欄位)-其內容被用作記憶體位址產生之部分;其指定位移因數,將按記憶體位址之大小(N)按比例縮放該位移因,其中N係記憶體存取中之位元組之數目(例如,針對使用2比例*索引+基址+按比例縮放後的位移的位址產生)。忽略冗餘的低位位元,且因此,將位移因數欄位之內容乘以記憶體運算元總大小(N)以便產生將用於計算有效位址的最終位移。N的值由處理器硬體在執行時間基於完整的運算碼欄位674(本文中稍後描述)及資料調處欄位654C予以判定。位移欄位662A及位移因數欄位662B在以下意義上來說係選擇性的:該等欄位不用於非記憶體存取605指令模板,及/或不同實施例可僅實施該兩個欄位中之一者或不實施該兩個欄位。
資料元件寬度欄位664-其內容辨別將使用許多資料元件寬度中之哪一者(在一些實施例中,針對所有指令;在其他實施例中,僅針對該等指令中之一些)。此欄位在以下意義上來說係選擇性的:若使用運算碼之某一態樣支援僅一個資料元件寬度及/或支援多個資料元件寬度,則不需要此欄位。
寫入遮罩欄位670-其內容以每資料元件位置為基礎控制目的地向量運算元中之該資料元件位置是否反映 基本操作及擴增操作的結果。類別A指令模板支援合併-寫入遮蔽,而類別B指令模板支援合併-寫入遮蔽及歸零-寫入遮蔽兩者。在合併時,向量遮罩允許保護目的地中之任何元件集合,以免在任何操作(由基本操作及擴增操作指定)執行期間更新;在另一實施例中,在對應的遮罩位元為0時,保持目的地之每一元件的舊值。相反地,當歸零時,向量遮罩允許目的地中之任何元件集合在任何操作(由基本操作及擴增操作指定)執行期間被歸零;在一實施例中,在對應的遮罩位元為0值時,將目的地之一元件設定為0。此功能性之一子集係控制被執行之操作的向量長度(即,被修改之元件(自第一個至最後一個)之跨度)之能力;然而,被修改之元件不一定連續。因此,寫入遮罩欄位670允許部分向量運算,其中包括載入、儲存、算術、邏輯等。雖然所描述的本發明之實施例中,寫入遮罩欄位670的內容選擇許多寫入遮罩暫存器中之一者,其含有將使用之寫入遮罩(且因此,寫入遮罩欄位670的內容間接識別將執行之遮蔽),但替代性實施例改為或另外允許寫入遮罩欄位670的內容直接指定將執行之遮蔽。
立即欄位672-其內容允許指定立即。此欄位在以下意義上係選擇性的:在不支援立即的一般向量友善格式之實行方案中不存在此欄位,且在不使用立即的指令中不存在此欄位。
類別欄位668-其內容區分不同類別的指令。參看圖6A至圖6B,此欄位之內容在類別A指令與類別B指令 之間進行選擇。在圖6A至圖6B中,使用圓角正方形來指示欄位中存在特定值(例如,在圖6A至圖6B中針對類別欄位668分別為類別A 668A及類別B 668B)。
類別A指令模板
在類別A非記憶體存取605指令模板的情況 下,α欄位652被解譯為RS欄位652A,其內容辨別將執行不同擴增操作類型中之哪一者(例如,針對非記憶體存取、捨位型操作610指令模板及非記憶體存取、資料轉換型操作615指令模板,分別指定捨位652A.1及資料轉換652A.2),而β欄位654辨別將執行指定類型之操作中之哪一者。在非記憶體存取605指令模板的情況下,比例欄位660、位移欄位662A及位移比例欄位662B不存在。
非記憶體存取指令模板-完全捨位控制型操作
在非記憶體存取完全捨位控制型操作610指令模板中,β欄位654被解譯為捨位控制欄位654A,其內容提供靜態捨位。雖然在本發明之所描述實施例中,捨位控制欄位654A包括抑制所有浮點異常(SAE)欄位656及捨位操作控制欄位658,但替代性實施例可支援可將兩個此等概念編碼至同一欄位中或者僅具有此等概念/欄位中之一者或另一者(例如,可僅具有捨位操作控制欄位658)。
SAE欄位656-其內容辨別是否要停用異常事件報告;當SAE欄位656的內容指示啟用了抑制時,特定指令不報告任何種類之浮點異常旗標且不提出任何浮點異常處置程式。
捨位操作控制欄位658-其內容辨別要執行一組捨位操作中之哪一者(例如,捨進(Round-up)、捨去(Round-down)、向零捨位(Round-towards-zero)及捨位至最近數值(Round-to-nearest))。因此,捨位操作控制欄位658允許以每指令為基礎改變捨位模式。在本發明之一實施例中,其中處理器包括用於指定捨位模式之控制暫存器,捨位操作控制欄位650的內容置換(override)該暫存器值。
非記憶體存取指令模板-資料轉換型操作
在非記憶體存取資料轉換型操作615指令模板中,β欄位654被解譯為資料轉換欄位654B,其內容辨別將執行許多資料轉換中之哪一者(例如,非資料轉換、拌和、廣播)。
在類別A記憶體存取620指令模板的情況下,α欄位652被解譯為收回提示(eviction hint)欄位652B,其內容辨別將使用收回提示中之哪一者(在圖6A中,針對記憶體存取、暫時625指令模板及記憶體存取、非暫時630指令模板,分別指定暫時652B.1及非暫時652B.2),而β欄位654被解譯為資料調處欄位654C,其內容辨別將執行許多資料調處操作(亦稱為原指令(primitive))中之哪一者(例如,非調處;廣播;來源的上轉換;及目的地的下轉換)。記憶體存取620指令模板包括比例欄位660,且選擇性地包括位移欄位662A或位移比例欄位662B。
向量記憶體指令在有轉換支援的情況下執行自記憶體的向量載入及至記憶體的向量儲存。如同常規向量 指令一樣,向量記憶體指令以逐個資料元件的方式自記憶體傳遞資料/傳遞資料至記憶體,其中實際被傳遞之元件係由被選為寫入遮罩之向量遮罩的內容指定。
記憶體存取指令模板-暫時
暫時資料係可能很快被再使用以便足以受益於快取的資料。然而,此係提示,且不同處理器可以不同方式實施提示,其中包括完全忽略該提示。
記憶體存取指令模板-非暫時
非暫時資料係不可能很快被再使用以便足以受益於第一階快取記憶體中之快取的資料,且應被賦予優先權來收回。然而,此係提示,且不同處理器可以不同方式實施提示,其中包括完全忽略該提示。
類別B指令模板
在類別B指令模板的情況下,α欄位652被解譯為寫入遮罩控制(Z)欄位652C,其內容辨別由寫入遮罩欄位670控制之寫入遮蔽應為合併還是歸零。
在類別B非記憶體存取605指令模板的情況下,β欄位654之部分被解譯為RL欄位657A,其內容辨別將執行不同擴增操作類型中之哪一者(例如,針對非記憶體存取、寫入遮罩控制、部分捨位控制型操作612指令模板及非記憶體存取、寫入遮罩控制、VSIZE型操作617指令模板,分別指定捨位657A.1及向量長度(VSIZE)657A.2),而β欄位654之剩餘部分辨別將執行指定類型之操作中之哪一者。在非記憶體存取605指令模板的情況下, 比例欄位660、位移欄位662A及位移比例欄位662B不存在。
在非記憶體存取、寫入遮罩控制、部分捨位控制 型操作610指令模板中,β欄位654之剩餘部分被解譯為捨位操作欄位659A,且異常事件報告被停用(特定指令不報告任何種類之浮點異常旗標且不提出任何浮點異常處置程式)。
捨位操作欄位659A-就像捨位操作欄位658一 樣,其內容辨別要執行一組捨位操作中之哪一者(例如,捨進、捨去、向零捨位及捨位至最近數值)。因此,捨位操作控制欄位659A允許以每指令為基礎改變捨位模式。在本發明之一實施例中,其中處理器包括用於指定捨位模式之控制暫存器,捨位操作控制欄位650的內容置換該暫存器值。
在非記憶體存取、寫入遮罩控制、VSIZE型操作 617指令模板中,β欄位654之剩餘部分被解譯為向量長度欄位659B,其內容辨別將對許多資料向量長度中之哪一者執行(例如,128、256或512個位元組)。
在類別B記憶體存取620指令模板的情況下,β 欄位654之部分被解譯為廣播欄位657B,其內容辨別是否將執行廣播型資料調處操作,而β欄位654之剩餘部分被解譯為向量長度欄位659B。記憶體存取620指令模板包括比例欄位660,且選擇性地包括位移欄位662A或位移比例欄位662B。
關於一般向量友善指令格式600,完整的運算碼 欄位674被展示出為包括格式欄位640、基本操作欄位642及資料元件寬度欄位664。雖然展示出的一實施例中,完整的運算碼欄位674包括所有此等欄位,但在不支援所有此等欄位的實施例中,完整的運算碼欄位674不包括所有此等欄位。完整的運算碼欄位674提供運算碼(opcode)。
擴增操作欄位650、資料元件寬度欄位664及寫入遮罩欄位670允許以一般向量友善指令格式以每指令為基礎來指定此等特徵。
寫入遮罩欄位與資料元件寬度欄位的組合產生具型式之指令,因為該等指令允許基於不同資料元件寬度來應用遮罩。
在類別A及類別B中所建立的各種指令模板在不同情形中有益。在本發明之一些實施例中,不同處理器或處理器內的不同核心可僅支援類別A,僅支援類別B,或支援上述兩種類別。舉例而言,意欲用於通用計算的高效能通用亂序核心可僅支援類別B,主要意欲用於圖形及/或科學(通量)計算之核心可僅支援類別A,且意欲用於上述兩種計算的核心可支援上述兩種類別(當然,具有來自兩種類別之模板及指令的某種混合但不具有來自兩種類別之所有模板及指令的核心在本發明之範圍內)。單個處理器亦可包括多個核心,所有該等核心支援相同類別,或其中不同核心支援不同類別。舉例而言,在具有分開的圖形及通用核心之處理器中,主要意欲用於圖形及/或科學計算之圖形核心中之一者可僅支援類別A,而通用核心中之一或多者 可為僅支援類別B的高效能通用核心,其具有亂序執行及暫存器重新命名,意欲用於通用計算。不具有分開的圖形核心之另一處理器可包括支援類別A及類別B兩者的一或多個通用循序或亂序核心。當然,在本發明之不同實施例中,來自一個類別的特徵亦可實施於另一類別中。用高階語言撰寫之程式將被翻譯(例如,即時編譯或靜態編譯)成各種不同可執行形式,其中包括:1)僅具有目標處理器所支援執行之類別的指令之形式;或2)具有替代性常式且具有控制流碼之形式,其中該等常式係使用所有類別的指令之不同組合來撰寫的,該控制流碼基於當前正在執行該碼的處理器所支援之指令來選擇要執行的常式。
示範性特定向量友善指令格式
圖7係例示根據本發明之實施例之示範性特定 向量友善指令格式的方塊圖。圖7展示出特定向量友善指令格式700,該格式在以下意義上係特定的:其指定欄位之位置、大小、解譯及次序以及彼等欄位中之一些的值。特定向量友善指令格式700可用來擴展x86指令集,且因此,該等欄位中之一些與現有x86指令集及其擴展(例如AVX)中所使用的欄位類似或相同。此格式保持與現有x86指令集以及擴展的前綴編碼欄位、實際運算碼位元組欄位、MOD R/M欄位、SIB欄位、位移欄位及立即欄位一致。從圖6之欄位例示圖7之欄位對映至該等欄位中。
應理解,雖然出於說明目的在一般向量友善指令 格式600的情況下參考特定向量友善指令格式700來描述 本發明之實施例,但除非主張,否則本發明不限於特定向量友善指令格式700。例如,一般向量友善指令格式600考量了各種欄位之各種可能大小,而特定向量友善指令格式700被示出為具有特定大小的欄位。藉由特定實例,雖然在特定向量友善指令格式700中將資料元件寬度欄位664說明為一個位元的欄位,但本發明不限於此(亦即,一般向量友善指令格式600考量了資料元件寬度欄位664之其他大小)。
一般向量友善指令格式600包括以下欄位,下文 按圖7中例示之次序列出該等欄位。
EVEX前綴(位元組0-3)702-以四位元組形式予 以編碼。
格式欄位640(EVEX位元組0,位元[7:0])-第一 位元組(EVEX位元組0)係格式欄位640,且其含有0x62(在本發明之一實施例中,用來辨別向量友善指令格式的獨特值)。
第二至第四位元組(EVEX位元組1-3)包括提供 特定能力之許多位元欄位。
REX欄位705(VEX位元組1,位元[7-5])由 EVEX.R位元欄位(EVEX位元組1,位元[7]-R)、EVEX.X位元欄位(EVEX位元組1,位元[6]-X)及657BEX位元組1,位元[5]-B)組成。EVEX.R、EVEX.X及EVEX.B位元欄位提供的功能性與對應的VEX位元欄位相同,且係使用1的補數形式予以編碼,亦即,ZMM0係編碼為1111B,ZMM15 係編碼為0000B。指令之其他欄位如此項技術中已知的來編碼暫存器索引之下三個位元(rrr、xxx及bbb),因此藉由增添EVEX.R、EVEX.X及EVEX.B而形成Rrrr、Xxxx及Bbbb。
REX’欄位610-此係REX’欄位610之第一部分, 且係用來編碼擴展式32暫存器組的上16或下16個暫存器之EVEX.R’位元欄位(EVEX位元組1,位元[4]-R’)。在本發明之一實施例中,以位元反轉格式儲存此位元與如下文所指示之其他位元,以區別於(以熟知的x86 32位元模式)BOUND指令,其實際運算碼位元組為62,但在MOD R/M欄位(下文描述)中不接受MOD欄位中的值11;本發明之替代性實施例不以反轉格式儲存此位元與下文所指示之其他位元。使用值1來編碼下16個暫存器。換言之,藉由組合EVEX.R’、EVEX.R及來自其他欄位的其他RRR,形成R’Rrrr。
運算碼對映欄位715(EVEX位元組1,位元 [3:0]-mmmm)-其內容編碼隱式引導運算碼位元組(0F、0F 38或0F 3)。
資料元件寬度欄位664(EVEX位元組2,位元 [7]-W)-係由符號EVEX.W表示。EVEX.W用來定義資料類型之細微度(大小)(32位元的資料元件或64位元的資料元件)。
EVEX.vvvv 720(EVEX位元組2,位元[6:3]-vvvv) -EVEX.vvvv的作用可包括以下各者:1)EVEX.vvvv編碼以 反轉(1的補數)形式指定的第一來源暫存器運算元,且針對具有兩個或兩個以上來源運算元的指令有效;2)EVEX.vvvv編碼針對某些向量移位以1的補數形式指定的目的地暫存器運算元;或3)EVEX.vvvv不編碼任何運算元,該欄位得以保留且應包含1111b。因此,EVEX.vvvv欄位720編碼以反轉(1的補數)形式儲存的第一來源暫存器指定符之4個低位位元。取決於指令,使用額外的不同EVEX位元欄位將指定符大小擴展成32個暫存器。
EVEX.U 668類別欄位(EVEX位元組2,位元 [2]-U)-若EVEX.U=0,則其指示類別A或EVEX.U0;若EVEX.U=1,則其指示類別B或EVEX.U1。
前綴編碼欄位725(EVEX位元組2,位元 [1:0]-pp)-提供基本操作欄位之額外位元。除了以EVEX前綴格式提供對舊式SSE指令的支援,此亦具有緊縮SIMD前綴的益處(不需要一個位元組來表達SIMD前綴,EVEX前綴僅需要2個位元)。在一實施例中,為了以舊式格式及EVEX前綴格式支援使用SIMD前綴(66H、F2H、F3H)之舊式SSE指令,將此等舊式SIMD前綴編碼至SIMD前綴編碼欄位中;且在執行時間將其展開成舊式SIMD前綴,然後提供至解碼器之PLA(因此PLA可執行此等舊式指令的舊式格式及EVEX格式兩者,而無需修改)。雖然較新的指令可直接使用EVEX前綴編碼欄位之內容作為運算碼擴展,但某些實施例以類似方式展開以獲得一致性,但允許此等舊式SIMD前綴指定不同含義。替代性實施例可重新 設計PLA來支援2位元的SIMD前綴編碼,且因此不需要該展開。
α欄位652(EVEX位元組3,位元[7]-EH;亦稱 為EVEX.EH、EVEX.rs、EVEX.RL、EVEX.寫入遮罩控制及EVEX.N;亦由α說明)-如先前所描述,此欄位係內容脈絡特定的。
β欄位654(EVEX位元組3,位元[6:4]-SSS,亦 稱為EVEX.s2-0、EVEX.r2-0、EVEX.rr1、EVEX.LL0、EVEX.LLB;亦由βββ說明)-如先前所描述,此欄位係內容脈絡特定的。
REX’欄位610-此係REX’欄位之剩餘部分,且係 可用來編碼擴展式32暫存器組的上16或下16個暫存器之EVEX.V’位元欄位(EVEX位元組3,位元[3]-V’)。以位元反轉格式儲存此位元。使用值1來編碼下16個暫存器。換言之,藉由組合EVEX.V’、EVEX.vvvv,形成V’VVVV。
寫入遮罩欄位670(EVEX位元組3,位元 [2:0]-kkk)-其內容如先前所描述指定寫入遮罩暫存器中之暫存器的索引。在本發明之一實施例中,特定值EVEX.kkk=000之特殊作用係暗示不對特定指令使用寫入遮罩(此可以各種方式來實施,其中包括使用硬連線(hardwired)至所有硬體的寫入遮罩或繞過(bypass)遮蔽硬體之硬體)。
實際運算碼欄位730(位元組4)亦稱為運算碼位 元組。在此欄位中指定運算碼之部分。
MOD R/M欄位740(位元組5)包括MOD欄位 742、Reg欄位744及R/M欄位746。如先前所描述,MOD欄位742的內容區分記憶體存取操作與非記憶體存取操作。Reg欄位744之作用可概述為兩種情形:編碼目的地暫存器運算元或來源暫存器運算元,或者被視為運算碼擴展且不用來編碼任何指令運算元。R/M欄位746之作用可包括以下各者:編碼參考記憶體位址之指令運算元,或者編碼目的地暫存器運算元或來源暫存器運算元。
比例、索引、基址(SIB)位元組(位元組6)-如先前所描述,比例欄位650的內容係用於記憶體位址產生。SIB.xxx 754及SIB.bbb 756-此等欄位之內容已在先前關於暫存器索引Xxxx及Bbbb提到。
移位欄位662A(位元組7-10)-當MOD欄位742含有10時,位元組7-10係移位欄位662A,且其與舊式32位元的位移(disp32)相同地起作用,且在位元組細微度上起作用。
位移因數欄位662B(位元組7)-當MOD欄位742含有01時,位元組7係位移因數欄位662B。此欄位之位置與舊式x86指令集8位元的位移(disp8)相同,其在位元組細微度上起作用。因為disp8經正負號擴展,所以disp8僅可解決在-128與127位元組之間的位移;就64個位元組的快取列(cache line)而言,disp8使用8個位元,該等位元可被設定為僅四個實際有用的值-128、-64、0及64;因為常常需要更大範圍,所以使用disp32;然而,disp32需要4 個位元組。與disp8及disp32相比,位移因數欄位662B係disp8之重新解譯;當使用位移因數欄位662B時,實際位移係由位移因數欄位的內容乘以記憶體運算元存取之大小(N)判定。此類型之位移被稱為disp8*N。此減少了平均指令長度(單個位元組用於位移,但具有大得多的範圍)。此壓縮位移係基於如下假設:有效位移係記憶體存取之細微度的倍數,且因此,不需要編碼位址位移之冗餘低位位元。換言之,位移因數欄位662B替代了舊式x86指令集8位元的位移。因此,位移因數欄位662B的編碼方式與x86指令集8位元的位移相同(因此ModRM/SIB編碼規則無變化),其中唯一例外為,disp8超載(overload)至disp8*N。換言之,編碼規則或編碼長度無變化,而僅僅係硬體對位移值的解譯有變化(硬體需要按記憶體運算元之大小來按比例縮放該位移以獲得逐個位元組的位址位移)。
立即欄位672如先前所描述而操作。
完整的運算碼欄位
圖7B係例示特定向量友善指令格式700的欄位之方塊圖,該等欄位組成根據本發明之一實施例之完整的運算碼欄位674。具體而言,完整的運算碼欄位674包括格式欄位640、基本操作欄位642及資料元件寬度(W)欄位664。基本操作欄位642包括前綴編碼欄位725、運算碼對映欄位715及實際運算碼欄位730。
暫存器索引欄位
圖7C係例示特定向量友善指令格式700的欄位 之方塊圖,該等欄位組成根據本發明之一實施例之暫存器索引欄位644。具體而言,暫存器索引欄位644包括REX欄位705、REX’欄位710、MODR/M.reg欄位744、MODR/M.r/m欄位746、VVVV欄位720、xxx欄位754及bbb欄位756。
擴增操作欄位
圖7D係例示特定向量友善指令格式700的欄位 之方塊圖,該等欄位組成根據本發明之一實施例之擴增操作欄位650。當類別(U)欄位668含有0時,其表示EVEX.U0(類別A 668A);當其含有1時,其表示EVEX.U1(類別B 668B)。當U=0且MOD欄位742含有11(表示非記憶體存取操作)時,α欄位652(EVEX位元組3,位元[7]-EH)被解譯為rs欄位652A。當rs欄位652A含有1(捨位652A.1)時,β欄位654(EVEX位元組3,位元[6:4]-SSS)被解譯為捨位控制欄位654A。捨位控制欄位654A包括一個位元的SAE欄位656及兩個位元的捨位操作欄位658。當rs欄位652A含有0(資料轉換652A.2)時,β欄位654(EVEX位元組3,位元[6:4]-SSS)被解譯為三個位元的資料轉換欄位654B。當U=0且MOD欄位742含有00、01或10(表示記憶體存取操作)時,α欄位652(EVEX位元組3,位元[7]-EH)被解譯為收回提示(EH)欄位652B且β欄位654(EVEX位元組3,位元[6:4]-SSS)被解譯為三個位元的資料調處欄位654C。
當U=1時,α欄位652(EVEX位元組3,位元 [7]-EH)被解譯為寫入遮罩控制(Z)欄位652C。當U=1且 MOD欄位742含有11(表示非記憶體存取操作)時,β欄位654之部分(EVEX位元組3,位元[4]-S0)被解譯為RL欄位657A;當RL欄位657A含有1(捨位657A.1)時,β欄位654之剩餘部分(EVEX位元組3,位元[6-5]-S2-1)被解譯為捨位操作欄位659A,而RL欄位657A含有0(VSIZE 657.A2)時,β欄位654之剩餘部分(EVEX位元組3,位元[6-5]-S2-1)被解譯為向量長度欄位659B(EVEX位元組3,位元[6-5]-L1-0)。當U=1且MOD欄位742含有00、01或10(表示記憶體存取操作)時,β欄位654(EVEX位元組3,位元[6:4]-SSS)被解譯為向量長度欄位659B(EVEX位元組3,位元[6-5]-L1-0)及廣播欄位657B(EVEX位元組3,位元[4]-B)。
示範性暫存器架構
圖8係根據本發明之一實施例之暫存器架構800的方塊圖。在所說明之實施例中,有32個向量暫存器810,其寬度為512個位元;此等暫存器被稱為zmm0至zmm31。下16個zmm暫存器的低位256個位元覆疊在暫存器ymm0-16上。下16個zmm暫存器的低位128個位元(ymm暫存器的低位128個位元)覆疊在暫存器xmm0-15上。特定向量友善指令格式700如下表中所說明對此等覆疊暫存器檔案進行操作。
換言之,向量長度欄位659B在最大長度與一或多個其他較短長度之間進行選擇,其中每一此種較短長度係前一長度的一半長度;且不具有向量長度欄位659B的指令模板對最大向量長度進行操作。另外,在一實施例中,特定向量友善指令格式700之類別B指令模板對緊縮或純量單精度/雙精度浮點資料及緊縮或純量整數資料進行操作。純量操作係對zmm/ymm/xmm暫存器中之最低位資料元件位置執行的操作;較高位資料元件位置保持與其在指令之前相同或歸零,此取決於實施例。
寫入遮罩暫存器815-在所說明之實施例中,有8個寫入遮罩暫存器(k0至k7),每一寫入遮罩暫存器的大小為64個位元。在替代實施例中,寫入遮罩暫存器815的大小為16個位元。如先前所描述,在本發明之一實施例中,向量遮罩暫存器k0無法用作寫入遮罩;當通常將指示k0之編碼被用於寫入遮罩時,其選擇固線式寫入遮罩0xFFFF,從而有效停用對該指令之寫入遮蔽。
通用暫存器825-在所說明之實施例中,有十六個64位元的通用暫存器,該等暫存器與現有的x86定址模式 一起用來定址記憶體運算元。藉由名稱RAX、RBX、RCX、RDX、RBP、RSI、RDI、RSP以及R8至R15來參考此等暫存器。
純量浮點堆疊暫存器檔案(x87堆疊)845,上面混疊有MMX緊縮整數平板暫存器檔案850-在所說明之實施例中,x87堆疊係八個元件的堆疊,用來使用x87指令集擴展對32/64/80個位元的浮點資料執行純量浮點運算;而MMX暫存器用來對64個位元的緊縮整數資料執行運算以及保存運算元,該等運算元係用於在MMX暫存器與XMM暫存器之間執行的一些運算。
本發明之替代性實施例可使用更寬或更窄的暫存器。另外,本發明之替代性實施例可使用更多、更少或不同的暫存器檔案或暫存器。
示範性核心架構、處理器及電腦架構
可出於不同目的以不同方式且在不同處理器中實施處理器核心。舉例而言,此類核心的實行方案可包括:1)意欲用於通用計算的通用循序核心;2)意欲用於通用計算的高效能通用亂序核心;3)主要意欲用於圖形及/或科學(通量)計算的專用核心。不同處理器之實行方案可包括:1)CPU,其包括意欲用於通用計算的一或多個通用循序核心及/或意欲用於通用計算的一或多個通用亂序核心;以及2)共處理器,其包括主要意欲用於圖形及/或科學(通量)的一或多個專用核心。此等不同處理器導致不同電腦系統架構,該等架構可包括:1)共處理器在與CPU分離之晶片上; 2)共處理器與CPU在同一封裝中,但在單獨的晶粒上;3)共處理器與CPU在同一晶粒上(在此情況下,此共處理器有時被稱為專用邏輯,諸如整合型圖形及/或科學(通量)邏輯,或被稱為專用核心);以及4)系統單晶片(system on a chip),其在與所描述CPU(有時被稱為應用核心或應用處理器)相同的晶粒上包括上述共處理器及額外功能性。接下來描述示範性核心架構,後續接著對示範性處理器及電腦架構的描述。
示範性核心架構
循序及亂序核心方塊圖
圖9A係例示根據本發明之實施例之如下兩者的方塊圖:示範性循序管線,以及示範性暫存器重新命名亂序發佈/執行管線。圖9B係例示如下兩者之方塊圖:循序架構核心的示範性實施例,以及示範性暫存器重新命名亂序發佈/執行架構核心,上述兩者將包括於根據本發明之實施例的處理器中。圖9A至圖9B之實線方框例示循序管線及循序核心,虛線方框之選擇性增添說明暫存器重新命名亂序發佈/執行管線及核心。考慮到循序態樣係亂序態樣之子集,將描述亂序態樣。
在圖9A中,處理管線900包括擷取級段902、長度解碼級段904、解碼級段906、分配級段908、重新命名級段910、排程(亦稱為分派或發佈)級段912、暫存器讀取/記憶體讀取級段914、執行級段916、回寫/記憶體寫入級段918、異常處置級段922及確認級段924。
圖9B示出處理器核心990,其包括耦接至執行 引擎單元950之前端單元930,且執行引擎單元950及前端單元930兩者皆耦接至記憶體單元970。處理器核心990可為精簡指令集計算(RISC)核心、複雜指令集計算(CISC)核心、極長指令字(VLIW)核心,或者混合式或替代性核心類型。作為另一選擇,核心990可為專用核心,諸如網路或通訊核心、壓縮引擎、共處理器核心、通用計算圖形處理單元(GPGPU)核心、圖形核心或類似者。
前端單元930包括耦接至指令快取記憶體單元 934之分支預測單元932,指令快取記憶體單元934耦接至指令轉譯後備緩衝器(TLB)936,指令TLB 936耦接至指令擷取單元938,指令擷取單元938耦接至解碼單元940。解碼單元940(或解碼器)可解碼指令,且產生一或多個微操作、微碼進入點、微指令、其他指令或其他控制信號作為輸出,上述各者係自原始指令解碼所得,或以其他方式反映原始指令,或係由原始指令導出。可使用各種不同機構來實施解碼單元940。合適的機構之實例包括(但不限於)查找表、硬體實行方案、可規劃邏輯陣列(PLA)、微碼唯讀記憶體(ROM)等。在一實施例中,核心990包括儲存用於某些巨集指令(macroinstruction)之微碼的微碼ROM或其他媒體(例如在解碼單元940中,或者在前端單元930內)。解碼單元940耦接至執行引擎單元950中的重新命名/分配器單元952。
執行引擎單元950包括重新命名/分配器單元 952,其耦接至引退(retirement)單元954及一或多個排程器單元956之集合。排程器單元956表示任何數目個不同排程器,其中包括保留站、中央指令視窗等。排程器單元956耦接至實體暫存器檔案單元958。實體暫存器檔案單元958中之每一者表示一或多個實體暫存器檔案,其中不同的實體暫存器檔案單元儲存一或多個不同的資料類型,諸如純量整數、純量浮點、緊縮整數、緊縮浮點、向量整數、向量浮點、狀態(例如,指令指標器,即下一個待執行指令的位址)等。在一實施例中,實體暫存器檔案單元958包含向量暫存器單元、寫入遮罩暫存器單元及純量暫存器單元。此等暫存器單元可提供架構性向量暫存器、向量遮罩暫存器及通用暫存器。引退單元954與實體暫存器檔案單元958重疊,以說明可實施暫存器重新命名及亂序執行的各種方式(例如,使用重新排序緩衝器及引退暫存器檔案;使用未來檔案、歷史緩衝器及引退暫存器檔案;使用暫存器對映及暫存器集區)。引退單元954及實體暫存器檔案單元958耦接至執行叢集960。執行叢集960包括一或多個執行單元962之集合及一或多個記憶體存取單元964之集合。執行單元962可執行各種運算(例如,移位、加法、減法、乘法)且對各種類型之資料(例如,純量浮點、緊縮整數、緊縮浮點、向量整數、向量浮點)進行執行。雖然一些實施例可包括專門針對特定功能或功能集合之許多執行單元,但其他實施例可包括僅一個執行單元或多個執行單元,該等執行單元均執行所有功能。排程器單元956、實體暫存器檔案單 元958及執行叢集960被示出為可能係多個,因為某些實施例針對某些類型之資料/運算產生單獨的管線(例如,純量整數管線、純量浮點/緊縮整數/緊縮浮點/向量整數/向量浮點管線,及/或記憶體存取管線,其中每一管線具有其自有之排程器單元、實體暫存器檔案單元及/或執行叢集;且在單獨的記憶體存取管線的情況下,所實施的某些實施例中,唯有此管線之執行叢集具有記憶體存取單元964)。亦應理解,在使用單獨的管線之情況下,此等管線中之一或多者可為亂序發佈/執行而其餘管線可為循序的。
記憶體存取單元964之集合耦接至記憶體單元 970,記憶體單元970包括耦接至資料快取記憶體單元974的資料TLB單元972,資料快取記憶體單元974耦接至2階(L2)快取記憶體單元976。在一示範性實施例中,記憶體存取單元964可包括載入單元、儲存位址單元及儲存資料單元,其中每一者耦接至記憶體單元970中的資料TLB單元972。指令快取記憶體單元934進一步耦接至記憶體單元970中的2階(L2)快取記憶體單元976。L2快取記憶體單元976耦接至一或多個其他階快取記憶體且最終耦接至主記憶體。
藉由實例,示範性暫存器重新命名亂序發佈/執 行核心架構可將管線900實施如下:1)指令擷取938執行擷取級段902及長度解碼級段904;2)解碼單元940執行解碼級段906;3)重新命名/分配單元952執行分配級段908及重新命名級段910;4)排程器單元956執行排程級段 912;5)實體暫存器檔案單元958及記憶體單元970執行暫存器讀取/記憶體讀取級段914;執行叢集960執行執行級段916;6)記憶體單元970及實體暫存器檔案單元958執行回寫/記憶體寫入級段918;7)異常處置級段922中可涉及各種單元;及8)引退單元954及實體暫存器檔案單元958執行確認級段924。
核心990可支援一或多個指令集(例如,x86指令 集(以及一些擴展,較新版本已新增該等擴展);MIPS Technologie公司(Sunnyvale,CA)的MIPS指令集;ARM Holdings公司(Sunnyvale,CA)的ARM指令集(以及選擇性的額外擴展,諸如NEON)),其中包括本文中所描述之指令。在一實施例中,核心990包括支援緊縮資料指令集擴展(例如,AVX1、AVX2及/或先前所描述之某種形式的一般向量友善指令格式(U=0及/或U=1))的邏輯,進而允許使用緊縮資料來執行許多多媒體應用所使用的操作。
應理解,該核心可支援多執行緒處理 (multithreading)(執行操作或執行緒之兩個或兩個以上並行集合),且可以各種方式完成此支援,其中包括經時間切割之多執行緒處理、同時多執行緒處理(其中單個實體核心針對該實體核心同時在多執行緒處理的各執行緒中之每一者提供一邏輯核心)或上述各者之組合(例如,經時間切割之擷取及解碼以及隨後同時的多執行緒處理,諸如在Intel®超多執行緒處理(Hyperthreading)技術中)。
雖然在亂序執行的情況下描述暫存器重新命 名,但應理解,暫存器重新命名可用於循序架構中。雖然處理器之所說明實施例亦包括單獨的指令與資料快取記憶體單元934/974以及共享的L2快取記憶體單元976,但替代性實施例可具有用於指令與資料兩者的單個內部快取記憶體,諸如1階(L1)內部快取記憶體或多階內部快取記憶體。在一些實施例中,系統可包括內部快取記憶體與外部快取記憶體之組合,外部快取記憶體在核心及/或處理器外部。或者,所有快取記憶體可在核心及/或處理器外部。
特定示範性循序核心架構
圖10A至圖10B例示更特定的示範性循序核心架構之方塊圖,該核心將係晶片中的若干邏輯區塊(包括相同類型及/或不同類型的其他核心)中之一者。邏輯區塊經由高頻寬互連網路(例如環形網路)與一些固定功能邏輯、記憶體I/O介面及其他必要的I/O邏輯通訊,此取決於應用。
圖10A係根據本發明之實施例的單個處理器核心及其至晶粒上互連網路1002的連接以及其2階(L2)快取記憶體局域子集1004之方塊圖。在一實施例中,指令解碼器1000支援x86指令集與緊縮資料指令集擴展。L1快取記憶體1006允許對快取記憶體進行低延時存取,存取至純量單元及向量單元中。雖然在一實施例中(為了簡化設計),純量單元1008及向量單元1010使用單獨的暫存器組(分別使用純量暫存器1012及向量暫存器1014),且在純量單元1008與向量單元1010之間傳遞的資料被寫入至記憶體,然後自1階(L1)快取記憶體1006被讀回,但本發明之替代性 實施例可使用不同方法(例如,使用單個暫存器組,或包括允許在兩個暫存器檔案之間傳遞資料而無需寫入及讀回的通訊路徑)。
L2快取記憶體局域子集1004係全域L2快取記憶體之部分,全域L2快取記憶體分成單獨的局域子集,每個處理器核心一個局域子集。每一處理器核心具有至其自有之L2快取記憶體局域子集1004的直接存取路徑。處理器核心所讀取之資料係儲存於其自有之L2快取記憶體子集1004中且可被快速存取,此存取係與其他處理器核心存取其自有之局域L2快取記憶體子集1004並行地進行。由處理器核心所寫入之資料係儲存於其自有之L2快取記憶體子集1004中且必要時自其他子集清除掉。環形網路確保共享資料之同調性。環形網路係雙向的,以允許諸如處理器核心、L2快取記憶體及其他邏輯區塊之代理在晶片內彼此通訊。每一環形資料路徑在每個方向上的寬度係1012個位元。
圖10B係根據本發明之實施例的圖10A中之處理器核心之部分的展開圖。圖10B包括L1快取記憶體1004之L1資料快取記憶體1006A部分,以及關於向量單元1010及向量暫存器1014之更多細節。具體而言,向量單元1010係寬度為16之向量處理單元(VPU)(參見寬度為16之ALU 1028),其執行整數、單精度浮點數及雙精度浮點數指令中之一或多者。VPU支援由拌和單元1020對暫存器輸入進行拌和、由數值轉換單元1022A-B進行數值轉換,以及由複 製單元1024對記憶體輸入進行複製。寫入遮罩暫存器1026允許預測所得向量寫入。
具有整合型記憶體控制器及圖形元件的處理器
圖11係根據本發明之實施例之處理器1100的方塊圖,該處理器可具有一個以上核心,可具有整合型記憶體控制器,且可具有整合型圖形元件。圖11中的實線方框例示處理器1100,其具有單個核心1102A、系統代理1110、一或多個匯流排控制器單元1116之集合,而虛線方框之選擇性增添例示替代性處理器1100,其具有多個核心1102A-N、位於系統代理單元1110中的一或多個整合型記憶體控制器單元1114之集合,以及專用邏輯1108。
因此,處理器1100之不同實行方案可包括:1)CPU,其中專用邏輯1108係整合型圖形及/或科學(通量)邏輯(其可包括一或多個核心),且核心1102A-N係一或多個通用核心(例如,通用循序核心、通用亂序核心、上述兩者之組合);2)共處理器,其中核心1102A-N係大量主要意欲用於圖形及/或科學(通量)之專用核心;以及3)共處理器,其中核心1102A-N係大量通用循序核心。因此,處理器1100可為通用處理器、共處理器或專用處理器,諸如網路或通訊處理器、壓縮引擎、圖形處理器、GPGPU(通用圖形處理單元)、高通量多重整合核心(MIC)共處理器(包括30個或更多核心)、嵌入式處理器或類似者。處理器可實施於一或多個晶片上。處理器1100可為一或多個基板之部分及/或可使用許多處理技術(例如BiCMOS、CMOS或NMOS) 中之任一者將處理器1100實施於一或多個基板上。
記憶體階層包括該等核心內的一或多階快取記 憶體、一或多個共享快取記憶體單元1106之集合、耦接至整合型記憶體控制器單元1114之集合的外部記憶體(圖中未示)。共享快取記憶體單元1106之集合可包括一或多個中階快取記憶體,諸如2階(L2)、3階(L3)、4階(L4),或其他階快取記憶體、末階快取記憶體(LLC),及/或上述各者之組合。雖然在一實施例中,環式互連單元1112對整合型圖形邏輯1108、共享快取記憶體單元1106之集合及系統代理單元1110/整合型記憶體控制器單元1114進行互連,但替代性實施例可使用任何數種熟知技術來互連此等單元。在一實施例中,在一或多個快取記憶體單元1106與核心1102A-N之間維持同調性。
在一些實施例中,核心1102A-N中之一或多者 能夠進行多執行緒處理。系統代理1110包括協調並操作核心1102A-N之彼等組件。系統代理單元1110可包括,例如,功率控制單元(PCU)及顯示單元。PCU可為調節核心1102A-N及整合型圖形邏輯1108之功率狀態所需要的邏輯及組件,或者包括上述邏輯及組件。顯示單元係用於驅動一或多個外部已連接顯示器。
核心1102A-N就架構指令集而言可為同質的或 異質的;即,核心1102A-N中之兩者或兩者以上可能能夠執行同一指令集,而其他核心可能僅能夠執行該指令集之子集或不同的指令集。
示範性電腦架構
圖12至圖15係示範性電腦架構之方塊圖。此項 技術中已知的關於以下各者之其他系統設計及組配亦適合:膝上型電腦、桌上型電腦、手持式PC、個人數位助理、工程工作站、伺服器、網路裝置、網路集線器(network hub)、交換器(switch)、嵌入式處理器、數位信號處理器(DSP)、圖形裝置、視訊遊戲裝置、機上盒(set-top box)、微控制器、行動電話、攜帶型媒體播放器、手持式裝置,以及各種其他電子裝置。一般而言,能夠併入如本文中所揭示之處理器及/或其他執行邏輯的多種系統或電子裝置通常適合。
現在參考圖12,所展示為根據本發明之一實施 例之系統1200的方塊圖。系統1200可包括一或多個處理器1210、1215,該等處理器耦接至控制器集線器1220。在一實施例中,控制器集線器1220包括圖形記憶體控制器集線器(GMCH)1290及輸入/輸出集線器(IOH)1250(上述兩者可位於單獨的晶片上);GMCH 1290包括記憶體控制器及圖形控制器,記憶體1240及共處理器1245耦接至該等控制器;IOH 1250將輸入/輸出(I/O)裝置1260耦接至GMCH 1290。或者,記憶體控制器及圖形控制器中之一者或兩者整合於(如本文中所描述之)處理器內,記憶體1240及共處理器1245直接耦接至處理器1210,且控制器集線器1220與IOH 1250位於單個晶片中。
圖12中用間斷線表示額外處理器1215之可選擇 性質。每一處理器1210、1215可包括本文中所描述之處理 核心中之一或多者且可為處理器1100之某一版本。
記憶體1240可為,例如,動態隨機存取記憶體 (DRAM)、相位變化記憶體(PCM),或上述兩者之組合。對於至少一個實施例,控制器集線器1220經由以下各者與處理器1210、1215通訊:諸如前端匯流排(FSB)之多分支匯流排(multi-drop bus)、諸如快速路徑互連(QuickPath Interconnect;QPI)之點對點介面,或類似連接1295。
在一實施例中,共處理器1245係專用處理器, 諸如高通量MIC處理器、網路或通訊處理器、壓縮引擎、圖形處理器、GPGPU、嵌入式處理器或類似者。在一實施例中,控制器集線器1220可包括整合型圖形加速器。
就優點量度範圍而言,實體資源1210與1215 之間可能有各種差異,其中包括架構特性、微架構特性、熱特性、功率消耗特性及類似者。
在一實施例中,處理器1210執行控制一般類型資料處理操作的指令。共處理器指令可嵌入該等指令內。處理器1210認定此等共處理器指令係應由已附接之共處理器1245執行的類型。因此,處理器1210在共處理器匯流排或其他互連上發佈此等共處理器指令(或表示共處理器指令的控制信號)至共處理器1245。共處理器1245接受並執行接收到之共處理器指令。
現在參考圖13,所展示為根據本發明之一實施例之第一更特定的示範性系統1300的方塊圖。如圖13中所示,多處理器系統1300係點對點互連系統,且包括第一 處理器1370及第二處理器1380,該等處理器經由點對點互連1350予以耦接。處理器1370及1380中之每一者可為處理器1100之某一版本。在本發明之一實施例中,處理器1370及1380分別為處理器1210及1215,而共處理器1338為共處理器1245。在另一實施例中,處理器1370及1380分別為處理器1210共處理器1245。
所展示處理器1370及1380分別包括整合型記憶 體控制器(IMC)單元1372及1382。處理器1370亦包括點對點(P-P)介面1376及1378,作為其匯流排控制器單元的部分;類似地,第二處理器1380包括P-P介面1386及1388。處理器1370、1380可使用P-P介面電路1378、1388經由點對點(P-P)介面1350交換資訊。如圖13中所示,IMC 1372及1382將處理器耦接至各別記憶體,亦即,記憶體1332及記憶體1334,該等記憶體可為局部地附接至各別處理器之主記憶體的部分。
處理器1370、1380各自可使用點對點介面電路 1376、1394、1386、1398經由個別P-P介面1352、1354與晶片組1390交換資訊。晶片組1390可選擇性地經由高效能介面1339與共處理器1338交換資訊。在一實施例中,共處理器1338係專用處理器,諸如高通量MIC處理器、網路或通訊處理器、壓縮引擎、圖形處理器、GPGPU、嵌入式處理器或類似者。
在任一處理器中或兩個處理器外部,可包括共享 快取記憶體(圖中未示),而該共享快取記憶體經由P-P互連 與該等處理器連接,以使得當處理器被置於低功率模式中時,可將任一處理器或兩個處理器之局域快取記憶體資訊儲存在該共享快取記憶體中。
晶片組1390可經由介面1396耦接至第一匯流排 1316。在一實施例中,第一匯流排1316可為周邊組件互連(PCI)匯流排,或者諸如高速PCI匯流排或另一第三代I/O互連匯流排之匯流排,但本發明之範疇不限於此。
如圖13中所示,各種I/O裝置1314以及匯流排 橋接器1318可耦接至第一匯流排1316,匯流排橋接器1318將第一匯流排1316耦接至第二匯流排1320。在一實施例中,一或多個額外處理器1315(諸如,共處理器、高通量MIC處理器、GPGPU、加速器(諸如,圖形加速器或數位信號處理(DSP)單元)、場可規劃閘陣列,或任何其他處理器)耦接至第一匯流排1316。在一實施例中,第二匯流排1320可為低針腳數(LPC)匯流排。各種裝置可耦接至第二匯流排1320,其中包括,例如,鍵盤及/或滑鼠1322、通訊裝置1327,以及儲存單元1328(諸如磁碟機或其他大容量儲存裝置),在一實施例中,儲存單元1328可包括指令/程式碼及資料1330。此外,音訊I/O 1324可耦接至第二匯流排1320。請注意,其他架構係可能的。例如,代替圖13之點對點架構,系統可實施多分支匯流排或其他此種架構。
現在參考圖14,所展示為根據本發明之一實施例之第二更特定的示範性系統1400的方塊圖。圖13及圖14中的相似元件帶有相似參考數字,且圖14已省略圖13 之某些態樣以避免混淆圖14之態樣。
圖14例示處理器1370、1380分別可包括整合型 記憶體及I/O控制邏輯(「CL」)1372及1382。因此,CL 1372及1382包括整合型記憶體控制器單元且包括I/O控制邏輯。圖14例示不僅記憶體1332、1334耦接至CL 1372、1382,而且I/O裝置1413耦接至控制邏輯1372、1382。舊式I/O裝置1415耦接至晶片組1390。
現在參考圖15,所展示為根據本發明之一實施例之SoC 1500的方塊圖。圖11中的類似元件帶有相似參考數字。此外,虛線方框係更先進SoC上之選擇性特徵。在圖15中,互連單元1502耦接至以下各者:應用處理器1510,其包括一或多個核心202A-N之集合及共享快取記憶體單元1106;系統代理單元1110;匯流排控制器單元1116;整合型記憶體控制器單元1114;一或多個共處理器1520之集合,其可包括整合型圖形邏輯、影像處理器、音訊處理器及視訊處理器;靜態隨機存取記憶體(SRAM)單元1530;直接記憶體存取(DMA)單元1532;以及用於耦接至一或多個外部顯示器的顯示單元1540。在一實施例中,共處理器1520包括專用處理器,諸如網路或通訊處理器、壓縮引擎、GPGPU、高通量MIC處理器、嵌入式處理器或類似者。
本文中揭示之機構的實施例可硬體、軟體、韌體或者此類實施方法之組合來實施。本發明之實施例可實施為在可規劃系統上執行之電腦程式或程式碼,可規劃系統 包含至少一個處理器、一儲存系統(包括依電性及非依電性記憶體及/或儲存元件)、至少一個輸入裝置及至少一個輸出裝置。
可將程式碼(諸如圖13中例示之程式碼1330)應 用於輸入指令,用來執行本文中所描述之功能且產生輸出資訊。可將輸出資訊以已知方式應用於一或多個輸出裝置。出於本申請案之目的,處理系統包括具有處理器之任何系統,諸如數位信號處理器(DSP)、微控制器、特殊應用積體電路(ASIC)或微處理器。
程式碼可以高階程序性或物件導向式程式設計 語言來實施,以便與處理系統通訊。必要時,程式碼亦可以組合語言或機器語言來實施。事實上,本文中所描述之機構的範疇不限於任何特定的程式設計語言。在任何情況下,該語言可為編譯語言或解譯語言。
至少一個實施例之一或多個態樣可藉由儲存於 機器可讀媒體上之代表性指令來實施,機器可讀媒體表示處理器內的各種邏輯,該等指令在由機器讀取時使機器製造邏輯來執行本文中所描述之技術。此類表示(「稱為IP核心」)可儲存於有形的機器可讀媒體上,且可供應給各種用戶端或製造設施以載入至實際上製造該邏輯或處理器的製造機中。
此等機器可讀儲存媒體可包括(但不限於)由機 器或裝置製造的非暫時性有形物品配置,其中包括:儲存媒體,諸如硬碟、任何其他類型之碟片(包括軟碟片、光碟、 光碟片-唯讀記憶體(CD-ROM)、可重寫光碟片(CD-RW)及磁光碟)、半導體裝置(諸如唯讀記憶體(ROM)、隨機存取記憶體(RAM)(諸如動態隨機存取記憶體(DRAM)、靜態隨機存取記憶體(SRAM))、可抹除可規劃唯讀記憶體(EPROM)、快閃記憶體、電氣可抹除可規劃唯讀記憶體(EEPROM)、相位變化記憶體(PCM)、磁性或光學卡),或者適合於儲存電子指令的任何其他類型之媒體。
因此,本發明之實施例亦包括含有指令或含有諸 如硬體描述語言(HDL)之設計資料的非暫時性有形機器可讀媒體,其中設計資料定義本文中所描述之結構、電路、設備、處理器及/或系統特徵。此類實施例亦可被稱為程式產品。
仿真(包括二進位轉譯、程式碼漸變(code morphing)等)
在一些情況下,可使用指令轉換器將指令自來源指令集轉換成目標指令集。例如,指令轉換器可將指令轉譯(例如,使用靜態二進位轉譯、包括動態編譯之動態二進位轉譯)、漸變、仿真或以其他方式轉換成將由核心處理的一或多個其他指令。指令轉換器可以軟體、硬體、韌體或其組合來實施。指令轉換器可位於處理器上、位於處理器外部,或部分位於處理器上而部分位於處理器外部。
圖16係對照根據本發明之實施例之軟體指令轉換器的用途之方塊圖,該轉換器係用以將來源指令集中之二進位指令轉換成目標指令集中之二進位指令。在所例示 之實施例中,指令轉換器係軟體指令轉換器,但指令轉換器或者可以軟體、韌體硬體、或其各種組合來實施。圖16展示出,可使用x86編譯器1604來編譯用高階語言1602撰寫的程式以產生x86二進位碼1606,x86二進位碼1606自然可由具有至少一個x86指令集核心之處理器1616執行。具有至少一個x86指令集核心之處理器1616表示可執行與具有至少一個x86指令集核心之Intel處理器大體相同的功能之任何處理器,上述執行係藉由相容地執行或以其他方式處理以下各者:(1)Intel x86指令集核心之指令集的大部分或(2)旨在在具有至少一個x86指令集核心之Intel處理器上運行的應用程式或其他軟體之目標碼版本,以便達成與具有至少一個x86指令集核心之Intel處理器大體相同的結果。x86編譯器1604表示可操作以產生x86二進位碼1606(例如目標碼)之編譯器,其中x86二進位碼1606在經額外連結處理或未經額外連結處理的情況下可在具有至少一個x86指令集核心之處理器1616上執行。類似地,圖16展示出,可使用替代性指令集編譯器1608來編譯用高階語言1602撰寫的程式以產生替代性指令集二進位碼1610,替代性指令集二進位碼1610自然可由不具有至少一個x86指令集核心之處理器1614(例如,具有多個核心的處理器,該等核心執行MIPS Technologie公司(Sunnyvale,CA)之MIPS指令集,及/或該等核心執行ARM Holdings公司(Sunnyvale,CA)之ARM指令集)執行。使用指令轉換器1612將x86二進位碼1606轉換成自然可由不具有一個x86指令 集核心之處理器1614執行的碼。此轉換後的碼不可能與替代性指令集二進位碼1610相同,因為能夠實現此操作的指令轉換器很難製作,然而,轉換後的碼將完成一般操作且由來自替代性指令集之指令構成。因此,指令轉換器1612表示經由仿真、模擬或任何其他處理程序來允許不具有x86指令集處理器或核心的處理器或其他電子裝置執行x86二進位碼1606的軟體、韌體、硬體或其組合。
309~312‧‧‧暫存器
313‧‧‧熔合乘法器/乘法器
309‧‧‧結果暫存器
314、316‧‧‧選擇邏輯
315、317‧‧‧華萊士樹電路
318‧‧‧加法器

Claims (18)

  1. 一種處理核心,其包含:a)一第一暫存器,其用以儲存一第一向量輸入運算元V1[ ];b)一第二暫存器,其用以儲存一第二向量輸入運算元V2[ ];c)一第三暫存器,其用以儲存一第三向量輸入運算元V3[ ];d)一第四暫存器,其用以儲存含有純量輸入運算元a及b之一緊縮資料結構;以及e)一執行單元,其包括一乘法器,該執行單元用以執行一指令以實行一操作(a*V2[ ])+(b*V3[ ])+V1[ ]。
  2. 如申請專利範圍第1項之處理核心,其中該乘法器具有接收V2[ ]之一第一輸入端、接收a之一第二輸入端、接收V3[ ]之一第三輸入端及接收b之一第四輸入端,使得(a*V2[ ])及(b*V3[ ])係大體上同時計算。
  3. 如申請專利範圍第1項之處理核心,其中該執行單元包括循環穿過該乘法器兩次之微碼,一第一循環用來計算(a*V2[ ])及一第二循環用來計算(b*V3[ ])。
  4. 如申請專利範圍第1項之處理核心,其中該指令分別識別用於由該乘法器產生之該(a*V2[ ])項、該(b*V3[ ])項及該V1[ ]項中每一者的一符號。
  5. 如申請專利範圍第4項之處理核心,其中該等符號係提供於一立即運算元中。
  6. 如申請專利範圍第1項之處理核心,其中在該緊縮資料結構內的a及b之個別位置係從置放於用於該操作的一指令之一立即運算元中之資訊而被確定。
  7. 一種於一處理器中之方法,其包含:執行一管線中之一指令,該指令之該執行包括:載入一第一向量運算元V1[ ];載入一第二向量運算元V2[ ];載入一第三向量運算元V3[ ];載入含有純量值a及b之一緊縮資料結構;以及計算V1[ ]=(a*V2[ ])+(b*V3[ ])+V1[ ]。
  8. 如申請專利範圍第7項之方法,其進一步包含大體上同時計算(a*V2[ ])+(b*V3[ ])。
  9. 如申請專利範圍第7項之方法,其進一步包含在一第一微碼循環中計算(a*V2[ ])及在一第二微碼循環中計算(b*V3[ ])。
  10. 如申請專利範圍第7項之方法,其進一步包含對結果V1[ ]施加一寫入遮罩。
  11. 如申請專利範圍第7項之方法,其中該指令在一立即值中提供足以自該緊縮資料結構單獨提取a及b中每一者之資訊。
  12. 如申請專利範圍第7項之方法,其中該指令係自亦允許 兩個向量來源運算元及一目的地運算元之一指令格式而被構造。
  13. 一種處理核心,其包含:a)一第一暫存器,其用以儲存一第一向量輸入運算元;b)一第二暫存器,其用以儲存一第二向量輸入運算元;c)一第三暫存器,其用以儲存含有純量輸入運算元a及b之一緊縮資料結構;以及d)一執行單元包括一乘法器,該執行單元用以執行一指令以實行一操作:(a*(第一向量輸入運算元))+(b*(第二向量運算元))。
  14. 如申請專利範圍第13項之處理核心,其中該乘法器具有接收該第一向量輸入運算元之一第一輸入端、接收a之一第二輸入端、接收該第二向量輸入運算元之一第三輸入端及接收b之一第四輸入端,使得(a*(第一向量輸入運算元))及(b*(第二向量輸入運算元))係大體上同時計算。
  15. 如申請專利範圍第13項之處理核心,其中該執行單元包括循環穿過該乘法器兩次之微碼,一第一循環來計算(a*(第一向量輸入運算元))及一第二循環來計算(b*(第二向量輸入運算元))。
  16. 如申請專利範圍第13項之處理核心,其中在該緊縮資 料結構內的a及b之個別位置係從置放於該指令的一立即運算元中之資訊而被確定。
  17. 如申請專利範圍第16項之處理核心,其中用於(a*(第一向量輸入運算元))及(b*(第二向量運算元))中每一者之符號值係在該立即運算元中被指定。
  18. 如申請專利範圍第13項之處理核心,其中用於(a*(第一向量輸入運算元))及(b*(第二向量運算元))中每一者之符號值係在該指令的一立即運算元中被指定。
TW101148673A 2011-12-23 2012-12-20 超級乘加(super madd)指令技術 TWI525538B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2011/067091 WO2013095614A1 (en) 2011-12-23 2011-12-23 Super multiply add (super madd) instruction

Publications (2)

Publication Number Publication Date
TW201346739A TW201346739A (zh) 2013-11-16
TWI525538B true TWI525538B (zh) 2016-03-11

Family

ID=48669254

Family Applications (1)

Application Number Title Priority Date Filing Date
TW101148673A TWI525538B (zh) 2011-12-23 2012-12-20 超級乘加(super madd)指令技術

Country Status (4)

Country Link
US (1) US9733935B2 (zh)
CN (2) CN104011665B (zh)
TW (1) TWI525538B (zh)
WO (1) WO2013095614A1 (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9330028B2 (en) * 2014-03-27 2016-05-03 Intel Corporation Instruction and logic for a binary translation mechanism for control-flow security
US20160188327A1 (en) * 2014-12-24 2016-06-30 Elmoustapha Ould-Ahmed-Vall Apparatus and method for fused multiply-multiply instructions
US9898286B2 (en) 2015-05-05 2018-02-20 Intel Corporation Packed finite impulse response (FIR) filter processors, methods, systems, and instructions
GB2548600B (en) * 2016-03-23 2018-05-09 Advanced Risc Mach Ltd Vector predication instruction
US10817802B2 (en) * 2016-05-07 2020-10-27 Intel Corporation Apparatus for hardware accelerated machine learning
GB2553783B (en) * 2016-09-13 2020-11-04 Advanced Risc Mach Ltd Vector multiply-add instruction
US11023231B2 (en) * 2016-10-01 2021-06-01 Intel Corporation Systems and methods for executing a fused multiply-add instruction for complex numbers
US10296338B2 (en) * 2016-12-09 2019-05-21 Intel Corporation System, apparatus and method for low overhead control transfer to alternate address space in a processor
US10534838B2 (en) * 2017-09-29 2020-01-14 Intel Corporation Bit matrix multiplication
US11455142B2 (en) * 2019-06-05 2022-09-27 International Business Machines Corporation Ultra-low precision floating-point fused multiply-accumulate unit
CN111008003B (zh) * 2019-09-24 2023-10-13 上海寒武纪信息科技有限公司 数据处理器、方法、芯片及电子设备
CN116594693B (zh) * 2023-07-04 2023-09-22 中国兵器科学研究院 一种空间远距离传输数据编解码指令集系统及计算系统

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5226171A (en) * 1984-12-03 1993-07-06 Cray Research, Inc. Parallel vector processing system for individual and broadcast distribution of operands and control information
US5838984A (en) * 1996-08-19 1998-11-17 Samsung Electronics Co., Ltd. Single-instruction-multiple-data processing using multiple banks of vector registers
US6523055B1 (en) * 1999-01-20 2003-02-18 Lsi Logic Corporation Circuit and method for multiplying and accumulating the sum of two products in a single cycle
GB2389433B (en) * 2002-06-08 2005-08-31 Motorola Inc Bit exactness support in dual-mac architecture
US8037119B1 (en) 2006-02-21 2011-10-11 Nvidia Corporation Multipurpose functional unit with single-precision and double-precision operations
GB2464292A (en) 2008-10-08 2010-04-14 Advanced Risc Mach Ltd SIMD processor circuit for performing iterative SIMD multiply-accumulate operations
US9104510B1 (en) * 2009-07-21 2015-08-11 Audience, Inc. Multi-function floating point unit
US8577950B2 (en) 2009-08-17 2013-11-05 International Business Machines Corporation Matrix multiplication operations with data pre-conditioning in a high performance computing architecture
GB2474901B (en) * 2009-10-30 2015-01-07 Advanced Risc Mach Ltd Apparatus and method for performing multiply-accumulate operations
US9792117B2 (en) * 2011-12-08 2017-10-17 Oracle International Corporation Loading values from a value vector into subregisters of a single instruction multiple data register
US9792115B2 (en) 2011-12-23 2017-10-17 Intel Corporation Super multiply add (super MADD) instructions with three scalar terms

Also Published As

Publication number Publication date
TW201346739A (zh) 2013-11-16
US20140052968A1 (en) 2014-02-20
CN107102844B (zh) 2021-06-08
CN107102844A (zh) 2017-08-29
CN104011665A (zh) 2014-08-27
US9733935B2 (en) 2017-08-15
CN104011665B (zh) 2017-05-31
WO2013095614A1 (en) 2013-06-27

Similar Documents

Publication Publication Date Title
TWI517031B (zh) 用於呈現各別複數之複數共軛根之向量指令
TWI525538B (zh) 超級乘加(super madd)指令技術
TWI470544B (zh) 用以響應於單一指令而執行橫向加法或減法之系統、裝置及方法
TWI524266B (zh) 用以偵測向量暫存器內相等元素之裝置及方法
TWI517038B (zh) 用於在多維度陣列中之元件偏移計算的指令
TWI517041B (zh) 有條件的傳播在單一指令多重資料/向量執行中之評估值的裝置與方法
TWI501147B (zh) 用於從通用暫存器至向量暫存器的廣播之裝置及方法
TWI483185B (zh) 具三個純量項之超級乘加(超級乘加(super MADD))指令
TWI517039B (zh) 用以對緊縮資料執行差異解碼之系統,設備,及方法
TWI498815B (zh) 用以響應於單一指令而執行橫向部分和之系統、裝置及方法
TWI499976B (zh) 用以產生整數序列的方法、設備、系統及製造物品
TWI498816B (zh) 用於設定輸出遮罩之方法、製造物品及設備
TWI663545B (zh) 執行置換運算的處理器
TWI473015B (zh) 執行向量頻率擴展指令之方法、處理器核心以及製品
TWI481991B (zh) 改良型排列指令之裝置及方法
CN111177648A (zh) 用于执行16位浮点向量点积指令的系统和方法
TW201640331A (zh) 用於向量索引載入和儲存之方法和設備
TW201346744A (zh) 遮蔽排列指令的裝置及方法
KR102460268B1 (ko) 큰 정수 산술 연산을 수행하기 위한 방법 및 장치
TWI482086B (zh) 用以於緊縮資料元件上執行差分編碼之系統、裝置及方法
TWI567640B (zh) 用於不引發算術旗標的三輸入運算元加法指令之方法及處理器
TW201331831A (zh) 用以基於兩個來源寫入遮罩暫存器而產生相依向量之系統、裝置及方法
TWI490781B (zh) 用於選擇向量運算之元素的裝置及方法
TW201732571A (zh) 用於獲得偶數和奇數資料元素的系統、裝置及方法
TWI497411B (zh) 用於決定一值是否在一範圍內之指令的裝置及方法