TW476915B - Method and apparatus for thread switching within a multithreaded processor - Google Patents

Description

Λ7 B7 五 、發明說明（ 本發明一般係有關多線程處 理杰之領域，而更特別地 經濟部智慧財產局員工消費合作社印製 係有關一種在一多$程卢理哭φ叫文狩別地， 用之方法及裝置。處〇執行上下文（或線程）切與 董jg背景 近來已將多線程處理器設計 逐漸引人注音乏女斗士 υ叩r生此的一種 心、万式。處理器内之多線程特別提供了f有 效使用各種處理哭咨馮、说山 捉扒了更有 内之埶… ，力，尤其是更有效利用處理器 , 逑耳。很特別地，藉由將多線程加入處理哭之執 :=則Γ特定線程處理中由於停滯或其它延:而閒 、:；0:週期可用以服務另一線程。一特定線程處理之停 理器管路内之多個事件而起。舉例而t，在一線 ，、含指令q速緩衝記體資料未取得或轉移遺漏預測 亦即’長期等待時間作業）在典型上會導致相關線程停滯 〈處理。長期等待時間作制執行邏輯效率之負面影響是 T近來已凌焉圮憶體存取及擷取速率的提升之執行邏輯產 量之增加而益形惡化6 ,由冲夕曰遍的作業系統（例如：Windows Unix 作業系統)對此等多線程應用提供支援之觀點看來，多線 程電腦應用亦日漸普及。多線程電腦應用在多媒體領域上 特別有效率。 根據在相關聯處理器内使用之線程交錯或切換方式，多 、’泉私處理斋可廣泛地分成兩類（亦即，精細或粗糙設計）。 精細多線程設計支援處理器内之多重主動線程且典型上以 4-

I-請先閱讀背面之注意事項再填寫本頁)

--------訂---------線I 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐） 經濟部智慧財產局員工消費合作社印製 476915 A7 -------— R7__ 五、發明說明（2 ) 逐週爲基礎交錯二不同之線程。粗糙多線程設計典型上在 一長期等待時間事件發生（例如，高速緩衝钯憶體未取得 貝料）時父錯不同線程之指令。在1996年5月之第23屆 遂AS際研之第2G3-2 12頁上由Eiek=^TZT J〇h_ns〇n R.等人所著「商業應用環境下多線程單一處理器 足砰估」一文中討論了粗糙多線程設計。在1994年麻薩諸 塞州Norwell市之Kluwer學術出版公司由R a Jannuci等人 編輯而成的支線程電腦、續1:最新科技概要之第ΐ67-2ϋα 頁上由Laud on J· ; Gupta Α.等人所著「多重上下文處理哭 设計t結構與實作之協定」一文中進一步討論了精細與粗 糙設計間之，區別Laudon尚提出一種結合精細設計之逐週 切換與粗糙設計之全管路.式連鎖之交錯方式（或分段方 式）。到最後，Laudon提出一使得在特定數目週期中無法 使用某一特殊線程（或上下文）之Γ壓制」（back 〇ff)指令。 此一「壓制」指令可於預定之事件發生（例如，高速緩衝 記憶體未取得資料）時提出。依此方式，Laud〇n僅使得線 程之一無法使用即可避免須執行實務之線程切換。 發明概述 根據本發明，提供了 一種在多線程處理器中進行線程切 換作業之方法。來自多線程處理器内之指令資訊源對於第 一線程之第一預定的指令資訊量之分配係受偵測。響應於 對第一線程之第一預定的指令資訊量分配之偵測，開始了 自該指令資訊源對第二線程之指令資訊分配p 捉對附圖及其後之細述，本發明之其它特色將極爲明 -5- 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐） --------------------訂---------線· (請先閱讀背面之注意事項再填寫本頁} 五、發明說明（3

經濟部智慧財產局員工消費合作社印製 顯。凰式簡述 =例子且不限於附圖中之圖面説明本發明 <參考數字表示相似的元件，卫其中： 相门 圖1馬可貫？本發明之處理器示範管路之方塊圖。 圖2示出可實現本於昍 、 衾月<一般用途多線42微處理器形 又處理器示範具體實施例之方塊圖。 、圖3一馬7ΤΓ於一圖2〈一般甩途微處理器内之微指令轉換引 〈不範具體實施例之細部架構方塊圖。 回 丁範的多線程微處理器之選定的組餘方挽 圖，且特別地説明如同渴龉μ八M I槐 衝能力之各種功能單元刀割以併人多線程而提供緩 衝圖/、示/根據本發明的—個具體實施例之示範指令串 衝益（細邵結構及架構方塊圖。 甲 ，發明示範具體實施例之線程切 季耳又遴輯組件方塊圖。 之= 泉二根二本發明示範具體實施例在多線程處理器 7 一月^'寺，決疋起始線程之方法流程圖。 =二出根據本發明示範具體實施例對 =程之轉移指令分配，在多線程處理器内進行；； 換作業义万法流程圖。 仃、，泉矛王 圖9不出根據本發明示範具體實施 停滞時，在多線程處理器内進行線程切=期寺待 程圖。 资忭菜 < 户 式 擎 請 先 閱 背 之 注 意 事 項 再 4赢 本 頁i 緩 邏 内 之 切 時 法流 線 本紙張—尺度適用 297公釐） A7 五、發明說明（ 4 B7 經濟部智慧財產局員工消費合作社印製 圖10示出根據本發明 除時，在多線程.處理哭貫施例在發生内部管路清 圖。 °。内進行線程切換作業之方法流程 圖11示出根據本發明亍r m — 程「無資料流動」狀、、尸^具體貫施例在發生對-特定線 換作業之方法流程圖“線程處理器内進行線程切 圖=根據本發明示範具體實 态至一指令預解碼器 拍7 _，k衝 配時’在多線程處理哭内.、:」程广預定指令資訊量之分 圖。 。。内進仃線程切換作業之方法流程 圖1 3示出根據本菸日一一 除時，在多線=:，具體實施例在發生外部管路清 圖。 i备内進行線程切換作業之方法流 圖1 4示出根據本發明示蝴命 指令串内之插入的流程時，；1…例在偵測目前線程 拖你f、、 、在夕線私處理器内進行線程 換作業之方法流程圖。 圖15A及15B爲顯示根據本發明之線程切換控制邏輯 個別不軏具體實施例結構之概要示意圖，在圖6中係以 塊圖形式示出的。 ' 圖1 6爲根據本發明示範具體實施例將-1流程標記（或插 入的流程）插入一指令串之邏輯概要示意圖' 詳細説明 所説明者爲一種在多線程處甚„器内線程切換風之方法 。爲了解的，在下列將述及許多特硃 程 之 切 之 方 及 之 . --------訂---------線# (請先閱讀背面之注意事項再填寫本頁) 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐） 476915 A7 B7 經濟部智慧財產局員工消費合作社印製 五、發明說明（5 細:，俾徹底瞭解本發明。總之，對熟知此項技藝之人士 而言，沒有這些特殊細節本發明也可實現將是很明顯的。 、爲了本規範之目的，「分配（dispatch)」乙字應涵括從一 位置或功I單iL之具正的資赶傳送或傳播，以及在準備眞 正的貪料J秦送或傳播之歩壤。例如，「分配」乙字應包括 依特殊次序之資料移動或者㈣一儲存位置或緩衝：傳播 之準備狀態。 圖1爲顯示可於其内寬現本發明之處理器管丨〇之示範具 骨豆貫施例之向膛方塊圖。爲了本規範之目的，「處理器 (processor)」乙字肩用來稱呼可執行一指令（例如巨或微; 令）序列之任何機器，且應用以包括，但並不限於一般用 途微處理‘器、特殊用途微處理器、圖形控釗器、聲音控制 器、多媒體控制器及微控制器。再者，「處理器」一詞尤 ”應用以稱呼合成指会箠雹腦（c〇mplex %

Computers，下文簡稱CISC)、減縮指令集電腦（Reduad

Instruction Set Computers，下文簡稱RISC)、或極長指令字 (Very Long instruction w〇rd，下文簡稱 vuw)處理器。管 1 0包含許多管路級，由取得管路級12開始，在此級將擷 取指令（例如巨指令）並加入管路丨〇。舉例严言，可從與處 理器一體或密切關聯之高速緩邀記憶體擷取或經一處理器 匯流排從外部主記憶體擷取巨指令。巨指令從取得管路級 1 2傳播至解碼管路級i 4，在此級巨指令被轉譯成通於在 處·理器内執行之微指令（亦稱爲「微碼」）。然後微指令向 -8- 本_纽綱+@_ii^|(CNS)A4 規格⑽ x 297 公髮）------ · --------訂---------線"^· (請先閱讀背面之注意事項再填寫本頁) 476915 A7 B7 五、發明說明（6 ) (請先閱讀背面之注意事項再填寫本頁) 下游傳播至分配管路級1 6，在該級根據可甩性I霞求將處 理器資源分配至各顧微指令。在退出退離管路級2 〇之煎： 則在執行級1 8執行微指令。 毯^理器架構 圖2爲示出可實現本發明之一般用途微處理器3 〇形式之 處理器示範具體袁施例之方垛圖。下述係多線程（下文簡 Μ T )處理器説明微處理器3 〇，因而可同時處理多重指令 線程ί或上下文）。總之，下所提供規範中之許多内文並非 專對多線程處理器，而可在單一線程處理器中找到其應 用。在一示範具體實施例中，微處理器3 〇可包含執行In— 架構指令集之Intel架構（下文簡稱ία)微處理器。 微處理器30包含一依序前端及一失序後端。該依序前端 包括一匯流排介面單元32，該單元係做爲微處理器3〇與 一可使用微處理器3 0之電腦系統之其它組件（例如，主記 憶體）間之通路。至此爲止，匯流排介面單元3 2將微處理 器3 0耦合至一處理器匯流排（未示出），經該匯流排微處理 器30可接收以及傳播資料及控制資訊。匯流排介面單元 經濟部智慧財產局員工消費合作社印製 3 2包括控制處理器匯流攝上通訊之前側匯流排”⑺加以心 Bus，下文簡稱FSB)邏輯34。匯流排介面單元32尚包含對 處理态匯流排上之通訊提供緩衝功能之匯流排佇列3 6。所 顯π之匯流排介面單元32係用以接收來自記憶體執行單元 4 2之匯流排需求3 8及送出監視或匯流排回返4 〇至記憶體 執行單元42，記憶體執行單元4 2提供了微處理器3 〇内之區 域記憶能力。記憶體執行單元4 2包括一統合資料及指令緩 9- 本紙張尺度適用中國國家標準（CNS)A4規格（21() χ 297公爱） 476915 A7 B7 經濟部智慧財產局員工消費合作社印製 五、發明說明（7 衝記憶體44、—資料轉換查詢緩衝器（Translati〇n

Lookaside Buffer ’下文簡稱τ LJB ) 4 6以及記憶體排邏輯 4 8。d 體執行單元4 2接收來自微指令轉換引擎5 4之指 令取得需求5 0並將原始指令5 2 (亦即編碼之巨指令）傳送 至械指令轉換引擎5 4，微指令轉換引擎5 4將收到之巨指 令轉譯成對應之微指会集。關於微指令鎳換引擎54之其它 細節説明如下。 解碼後之指令（亦即微指令）從微指令轉換引擎5 4送至追蹤 傳运引擎6 0。追蹤傳送引擎6 〇包含一追蹤緩衝記憶體 6 2、 追縱轉移預測（下文簡稱B T B ) 6 4、一微碼排序器 6 6及一微碼（U0P)佇列6 8。追蹤傳送引擎6 0係做爲微指令 緩衝冗憶體’且爲用於下游執行單元7〇的微指令之主要來 源。在處理器管路内提供微指令缓衝記憶功能後，追蹤傳 运引擎6—0 α及尤其是追蹤緩衝記憶體6 2容許撬開微指令 轉換引擎5 4完成之轉換工作，以提供相當遙之微指令頻帶 寬。在一示範具體實施例中，追蹤緩衝記憶體6 2可包含一 個2 5 6組8線之關聯記憶體。在本示範具體實施例中， 「追縱（trace)」一詞可認定爲存於追1緩衝記憶體6 2的登 綠内之微指令序列，各登綠包含了指標，以前引及進行含 追縱之微指令。依此方式，追蹤緩衝記媳體6 2協助高效能 之排序’因而爲了獲得後續的微指令，在目前的存取宣成 之前’可知即將存取的下一登綠之位址。追蹤可看成是以 追縱頭相互區隔之指令「區段（blocks)」，且在遇及一間 接轉移或達到許多目前臨界狀況（例如：可由單一追蹤涵 10- 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐） ---7-----------------訂---------線 (請先閱讀背面之注意事項再填寫本頁) 經濟部智慧財產局員工消費合作社印製 476915 五、發明說明（8) 括之條件轉移數目或可包4 、 之一而終止。 一換…微指令之最大數目) =緩衝記憶體轉移預測器64提供了與追縱緩衝記㈣ 62·内又追蹤相關之區域 / =序.66將微指令供予微物“8,然後微指合從 j入—失序㈣行叢集。因此微處理器30可視爲具有 匕叾匯况排介面單元3 2、， 。— ’、 換引擎54及追縱傳送引擎6。:：：…42、微指令轉 述之失序㈣。 依相端，以及將於下詳 ::碼仔列68分配之微指令係由失序1集71接收，失 序叢木71包含一排程器72、一 哭 ^ ^ 曰仔叩改名夺7 4、一分配 口口 正緩衝洛7 8及一重運作佇列δ 0。排程器7 2勹 括一組迎站，並用以規劃及分配由執行單元 ζ 指令:暫存器改名器74對隱藏之整數及浮點暫存器（可^ 二處理器3㈣行Inte_指令集之八個^ 存^<任一個或八個暫存器之任一個）執行暫存器改名之 功能。分配器76根據可用性及需求將執行單元及 V之資'f配至微指令。若是資源不足以處理-微投ί 日:，分配器76負責引發一停潘信號82，該信號經追縱ς 迗引擎6〇傳送至微指令轉換?1擎54(如在Μ所示者）。已 ^有由苇存备改名器7 4調整其等來源區域之微指令係以I 確的程式次序置於重整緩衝器78中。當重整緩衝器78^ =微指令已’執行完成並準屬退省時，則.其等將從重整锾衝 w 7 8中私除。重運作作列8 〇將擬重新運作之微指令傳送 *7 --------^--------- (請先閱讀背面之注意事項再填寫本頁) -11 經濟部智慧財產局員工消費合作社印製 476915 A7 ------B7____ 五、發明說明（9 ) 至執行單元7〇。 所示之執行單元7 〇包括一浮點I行引擎8 4、一奴奴1 y 正数執 仃引擎8 6及一 〇位準資料緩衝記憶體。在一個由微處理 為3 〇執行Intel架構指令集之示範具體實施例中，浮點執<一 引擎8 4尚可執行MMX⑧指今。 微指令轉換引擎 圖3爲有關微指令轉換引擎5 4之示範县體實施例架構更 詳細之方塊圖。微指今轉換引擎5 4有效地做爲追蹤緩衝記 憶體之Γ遺漏處理器」，乃因其在追蹤緩衝記憶體未取得 資料時將微指令傳送至追蹤緩衝記憶體6 2。至此爲止，在 一追縱緩衝記憶體未取得資料之情況，微指令轉換引擎54 動作以提供取得及解碼之管路級丨2及1 4。所示之微指令 轉換引擎5 4包括一下一指令指標（next instructi〇n p〇inter， 下文簡稱N I P ) 1 〇 〇、一指令TLB 1 02、一轉移預測器1 Q4、 一指令串鍰衝器1 0 6、一指令預解碼器} 〇 8、一指令操縱 邏輯1 1 0、一指令解碼器丨丨2及一轉移位址計算器丨丨4。 NIP 1〇〇、TLB 102、轉移預測器1 04及指令串緩衛n 1 〇 6 合起來構成一轉_〜移預測單元（branch predicti〇n仙忖，下文 簡稱BPU)99。指令解碼器丨丨2及轉移位址計算器丨丨4合起 來形成一指令翻譯（下文簡稱I X)單元1 1 3。 下一指令指標1 0 〇對統合緩衝鸠憶體4 4提出下一指令需 求。在此不範具體實施例中，微處理器3 〇包含一可處理二 線程之多線程微處理器，下一指全指標1〇〇可包含一多工 器（multiplexer，下文簡未顯示），在第一抑或第 -12- 本紙張尺度適用中國國家標準（CNS)A4規格（21〇 X 297公爱） ----7-----------------訂---------線 (請先閱讀背面之注意事項再填寫本頁) 476915

二線程相關聯的指令指標之間做選擇，以納入其所提出之 下一指令需求中。在一個具體實施例中，若對兩個線程之 才曰令均有需求，且該二線程用之指令串缓街器丨〇 6資源迷 未耗^盡，則下一指令指標丨0良將以逐週（「乒乓」）方式交 熬、第一及第二線程之下一指令需求。依初始需求位址是否 在3 2位元組或μ位元組對齊線之上半部，下一指令指標 而求可爲1 6、3 2或6 4位元組者。在一追蹤緩衝記憶體未 取得貪料需求爲最鬲優先序之重新引導需求時，下一指令 指標100可由轉換預測器1〇4、轉移位址計算器丨」‘或: 追縱緩衝記憶體6 2,·羞新導。 田下一扎令指標1 〇 〇對統合緩衝記憶體4 4下了指令需求 時，將產生一與該指令需求相關聯並做爲有關指令需求的 「‘ Π己」之一位元「需求識別符」。當送回響應於一指令 而求之貝料時，統合緩衝記憶體4 4併同該資料送回下列標 記或識別符： 1 ·下一指令指標1 Q CL練提供之Γ需求識別」； 2 *識別回返的貧訊塊之三位元「資訊塊識別符」；及 3 ·識別回返資赴所屬線程之「線裎識別符」。 下一指今需求係從下一指令指標i 〇 〇傳送至指令丁lB 102，TLB 102執行位址檢視作業並將實際位址傳送至統合 之緩衝記憶體4 4。統合缓衝記憶體4 4將對應之巨指令傳 送至扣♦串緩衝态1 〇 6。各個下一指令需求亦直接地從下 一才曰々才曰“ 1 〇 〇傳送至指令串緩衝器1 〇 6，俾容許指令串 緩衝器1 0 6識別來自統合緩衝記憶體4 4所收到的巨指令所 -13- 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公爱） 「靖先閱讀背面之注意事項再填寫本頁) 訂· ί線一 經濟部智慧財產局員工消費合作社印製 經濟部智慧財產局員工消費合作社印製 476915 A7 -—~^__ 五、發明說明（11 ) 屬又線程。然後由指令串緩衝器丨〇 6發出第一及第二線程 兩者又巨指令至指令預解碼器丨〇 8，該解碼器將對收到的 (巨指令之）指令_進行許多的長度計算及位元組標記作 業。很特別地，指令預解碼器i 〇 8產生了尤其產龙 傳送至指令操縱邏輯11〇的指令串中巨指令之位元組標記 向量序列。然後指令操縱邏輯Η 〇使用τ指令之位元Z標 。己向里序列。然後指令操縱邏輯j丄〇使用了位元組標記向 量將離巨指令引導至指令解碼器丨丨2，以便進行解碼。巨 指令亦從指令操縱邏輯丨丨〇傳送至轉移位址計算器1 1 4， 以便進行轉移位址計算。复後微指令從指令解碉器1 U落 至追縱傳送引擎Μ。 多線程之會施 在圖2所7JT微處理器3 〇之示範具體實施例中，將注意到 具=有限的資源重複或複製。冑了在一處理器中提供^線 程能力，而在該處理器中具有有限的功能單元.複製，則須 在線程間實施某一裎度之實禪共用。將樂見到所採用之資 源共用方式是與處理器可同時處理之線程數目有關。因爲 在一處理器功能單元典型上提供了某些緩衝（或儲存）功能 性及傳播功能性，資源共用之立式可看成是包含（1)儲存 及（2)處理/傳播頻帶寬共用之成份。舉例而言，在支援兩 個線程同時處理之處理器中，在各種功能單元内之緩衝器 貧源可在二線程間做邏輯上分割及分1。同樣地，在兩個 功能單元間用做資源傳播的路徑所提供之頻帶寬必須在二 線程間劃分及分配。因爲這些資源共用的方式可在處理器 -14- 本紙張尺度適用中國國家標準（CNS)^^21〇 χ 297公釐）------- · --------^--------- (請先閱讀背面之注意事項再填寫本頁) A7 B7 經濟部智慧財產局員工消費合作社印製 五、發明說明（12) 管路内之許多位I採用，根攄祛 很跟特疋位置之指令及特性，在 此等之各個位置可採用不同之资 1 U足貝源共用方式。將樂見到基 於可變的功能性及運作特性， 巧卜行『生，不同的資源共用方式可適於 不同的位置。 圖4爲示於圖3的微處理哭3 〇的％ & 王j 0的4疋組件之方塊圖，並 描述在邏輯上分割以納入兩個 1U、·泉心（耶即第0線程及第1線 程）可提供緩衝能力之各種功姅语一 $ 功此早兀。對一功蚯單元Μ衛 (或儲存）裝置之二線程邏輯分刻 、 、科刀剳可由將缓衝資源内的第一 預定登錄組分配至第一線程乃炫免、之、 求％及、k衝貧源内的第二預定登錄 組分配至第：線程來完成。很特別地，此可由提供兩對讀 寫指標來達成，第一對讀寫指標係與第一線程有關，而第 二讀寫指標係與二線程相關。第一組讀寫指標可限制在緩 衝貝源内帛@疋數目之登錄，而第二組讀寫指標可限制 在緩衝資源内第二預定數目之登錄。在示範具體實施例 中，所π出芡指令串緩衝器丨〇 6、追蹤緩衝記億體6 2及指 令佇列1 0 3可提供在第一與第二線程間邏輯上分割之儲存 容量。 現知於下更詳細討論在處理器内功能單元間路徑之頻帶 寬分配方式。 指令串緩衝器 參照圖3，指令串缓衝器丨〇 6將一指今串加入單一指令 解碼為1 1 2 (亦即無解碼器複製）。爲了有效率地使用此單 一解碼資源，希望確保以有效率的方式劃分及分配在指今 串緩衝器1 0 6與指令解碼器丨丨2間路徑之頻帶寬以及指令 -15- 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐） •---·---------¾--- (請先閱讀背面之注意事項再填寫本頁) 訂---------線. A7 A7 種對 五、發明說明（13) 解碼备1 1 2之「解碼頻帶寬丨 來自指令串緩衝哭所以本發明提出了〆裡別 法。此一線程切換。方0二:兩個指令串實施線程切换之方 指令㈣H1U之速率1 2 I兩個線程之各線程指令加A 程切換目標之線程切換演譯：明尋求實現意阃遠成下列線 • 僅在另一線程且右 器1…之資料時=:::送(例如:從指令串缓衡 到後端===的線程時齡：當目前的線程收 ·===保證在魏遂後切換前於下游的管路内麒 程切換β 確保在執行從目前線程至目標線程之線 •其它線程(例如：僅在目前線程之 :二貝W已傳送至處理器管路而未呼求任何其它的 、.泉私切換機構時進行線程切換作業）.及 切換之計罰（例如：在找出可引發線程切換作 現/Λ的轉移〈前’發出預定之最小指令資訊量）。 ::參私用於選擇儲存在指令串緩衝器】“ 説：:；Γ令解碼器112之線程資料之示範具體實二 處理總之’將很快地樂見到本發明之内容可玛在 ;-右5内又任飪位置，俾做線程切換或交錯.。圖5爲 Π:::Τ器106其結構及架構更詳細= 很特別地，所示之指令串緩衝器丨〇6包括一具有4個 本紙張尺Ιϋ?ϋϋ·準(CNS)A4規格⑵〇 ： Ϊ --------訂---------線 C請先閲讀背面之注意事項再填寫本頁) 經濟部智慧財產局員工消費合作社印製 -16- 476915 A7 B7 經濟部智慧財產局員工消費合作社印製 五、發明說明（14) 登錄120(登錄〇v登錄3)之儲存行到，該等登綠在邏輯上 分割成專用以儲存—第一線程（第。線程)指令之第一分割 1 2 2以及專用以儲存—第二線程（第1線程）指令之第二分 ^ 124。、在一個示範具體實施例中，登錄12〇之各登綠可 谷、’内8個資Λ塊’因而指令_緩衝器丨〇 6對每一線程提供 1 6個資料緩衝記憶塊。 才曰7串4衝為1 〇 6尚包含一控制著資料入及讀土邏蛑分 割122及124之分配區段I。。 刀割1 2 2及1 2 4各具有含於分配區段1 2 5内之個別分配 遴輯1 2 6。各分配邏輯丨2 6包含一寫入指標丨2 8及一讀出 指標1 3 〇，各引用相關聯之分割1 2 2或1 2 4内之一個登綠 120。各分配邏輯126接收一來自統合緩衝記憶體44之指 令串’並根據線程見範將指令爭資饥皂（亦即8位元組）寫 入第一或第二分割1 2 2或1 2 4之登錄1—2 0。很特別地，由 查與各資教塊相關聯之「旅毯識赳符」，各分配邏輯 1 2 6可決足要從統合緩衝記憶體4 4所收到之資料窟入那— 個分割。 各分配邏雜L JL6將來自個別分割1 2 2或1 2 4之資料輸出 至一 MUX 132，該MUX基於由線程切換控制邏輯丨3 6發出 之線私選擇k號1 3 4而在分割1 22龜1 2 4的輸出之間做選 擇。因此’在本發明之示範具體實施例中t，實施缓兹交錯 或切換方式者爲線程切換控制邏輯丨3 6。再者，所示之線 程切換控制邏輯1 3 6用以監視分割1 2 2或1 2 4之各分割細 由線路1 3 8及1 4 0之輸出，俾能決定一資料塊何時從分割 1 2 2或1 2 4之任一分割受分配，並識剋受分配之資料塊來 -17 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐） ----j-----------------訂---------線 (請先閱讀背面之注意事項再填寫本頁) 476915 經濟部智慧財產局員工消費合作社印製 A7 五、發明說明（15) 自这些^的那一個。然後MlJX 132έί選定之資料塊輸出 在處理為官路内向下游傳送至指令預解碼器I 〇 8，而最後 傳至指令解碼器1 1 2解碼。 圖ό爲説明線程切換控制邏輯1 3 6的邏輯組件之方塊 圖很特別地，所不之線程切換控制邏輯1 3 6包括閒置切 換邏輯1 50、轉移切換邏輯丨52、長期等待停滯邏輯 1 5 4、内邵清除邏輯丨5 6、無資料流動邏輯1 5 8、強迫線 程改變邏輯160、外部清除邏輯162及插入流程邏輯 16 4 ^圖6所示邏輯1 50-1 64之各邏輯離散時，如將於下 说明的’在各邏輯間可有顯著的組件共用。邏輯㈠ 之各邏輯實施一可使得至MUX 132之選擇信號丨34發出或 撤回因而引起以上述方式做線程切換之特殊功能。在邏輯 150-164之各邏輯包含之功能將參照在圖7-14提供之流程圖 做説明。一特殊示範具體實施例之細節係參照圖15_16做 説明。 間置切換邏輯（1 5 0) 在全部線程閒置之情況，閒置切換邏輯丨5 〇決定要選出 許多線程的那一個做爲起兹線程。圖7爲根據本發明之示 範具fl豆貫施例所示出當一多線程處理器中之兩個線程閒置 時決足起始線程之方法2 0 0之流程圖。將樂見到方法2 〇 q 亦可找到在一支援超過兩個線程的多線程處理器中之應 用。在閒置切換邏輯1 5 0中可實施方法2 〇 〇。方法2 〇 〇始 於具有閒置線程狀況之步驟2 0 2，其中兩個線程（亦即， 第0線程及11)均閒置。在步驟2 04，基於（僅做爲例子）在 18 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐） —*-----------------訂---------線 (請先閱讀背面之注意事項再填寫本頁) 476915 Λ7

器 之 段 移 號 經濟部智慧財產局員工消費合作社印製 476915 A7 _ B7 五、發明說明（17) 之轉移指令序列（或分配），在多線程處理器中進行線程切 換作業之方法2 2 0之流程圖。方法2 2 0始於步驟2 2 2，在 該步驟一轉移指令由從行列之邏輯分割1 2 2或1 2 4 (例如： 從分配至第〇線程之邏轉分割1 2 2 )發出之分配區段丨2 5排 序。線程切換控制邏輯丨3 6，而尤其是轉移切換邏輯i 5 2 接收來自圖5所示分配區段1 2 5之轉移識別作_發 224 (BPsbsawbranch) 〇 分配區段1 2 5發出轉移識別信號2 2 4以識別已由轉移預 測單元99預測之轉移指令是受取用。很特別地，轉移預測 器1 〇 4將利用任何一個已知的預測數目及方法或演譯（例 如·基於相關轉移指令之有記綠之接移i定）對特定之轉 移指令是否將被取用或不取用做預測。然後氇移預測 1 〇 4將设定與有關指令相關聯之位元，並以處理管路内 才曰々下游以及「需求識別符」傳送，俾能與由分配區 5相關之分配關聯。應注意到僅對預測要被取用之轉π 指令發出轉移識別信號224，而非對被預測不被取用者發 出該信號。總之，在一本發明之替代具體實施例中，當Λ 逢已做任何預測之轉移指令時，可發出轉移識別信 224 〇 固示出轉私識別k號2 2 4做爲至及閘2 2 5之輸入。 在决定I 2 2 6，就目前線程（第〇線程）之預定最小指令資 =量（例如：預定之最小資訊塊數目）是否已從指令串緩衝 :;〇6分配(或送出)做決定。在此端，並參考圖“a，切 遴輯136包括一資訊塊送出增量器2 2 8形式之計數 --------------------訂---------線 (請先閱讀背面之注意事項再填寫本頁) -20

476915 經濟部智慧財產局員工消費合作社印製 A7 - B7 五、發明說明（18) 器，該增量器維持了線程切換之前從指令串緩衝器1 〇 6之 目前邏輯分割122或124分配之資訊塊計數。接收三個輸 入之及問2 3 0之輸出將增量資訊塊送出增量器228。分配 區段1 2 5發出一 B P準備信號2 3 2以指示一資訊塊準備從相 關邏輯分割1 2 2或1 2 4分配。與登錄（來自線程切換控制邏 輯1 3 6 )相關之線程信號2 3 4識別了準備受分配之資訊塊所 屬之線程（因而邏輯分割丨^或丨24)。_N〇T (1以&⑴信號 2 3 6指出在指令操縱邏輯丨丨〇未遭遇停滯狀況。在信號 2 3 2 - 2 3 6發出時，及閘2 3 〇之輸出發生且資訊塊送出增量

器2 2 8增量，以便記錄從指令串緩衝器丨〇 6分配之資訊塊 之排序。 A 線程切換控制邏輯1 3 6尚包含一「轉移切換前資訊塊」 暫存器2 3 8，在本發明的一個具體實施例中，該暫存器可 經控制暫存器匯流排2 4 0做程式規劃以儲存預定的資訊塊 數目之表示，在響應於轉移指令之線程切換作業發生之 削，咸等資汛塊須從指令串緩衝器1 〇 6予以排序。在本發 明 < 一替代具體實施例中，表示預定的資訊塊數目之値可 用固定線路程式。切換控制邏輯i 3 6尚包含一比較器 242，它將對增量器2 2 8及暫存器2 3 8之輸出^行比 業’當增量器228指示値超過暫存器238中之儲存値時， 比較器242將發出一信號至及閘244。比較器242之輸出 信號發出係對應於在圖8中決定盒2 2 6之正決定。 及閘2 3 0亦提供輸入至及閘225，而及閘2 3 0輸出之發生 以及轉移識別信號224之發出引起及閘2 2 5之輸出（亦^， -21 - 本紙張尺度國家標準（CNS)A4規格（210 X 297公釐） ----.------------------訂---------線 (請先閱讀背面之注意事項再填寫本頁} A7 B7 五、發明說明（19〕 經濟部智慧財產局員工消費合作社印製 轉移送出信號2 2 7 )做爲及問？ 9」、μ ”7、政山主 川馬及閘2 2 4〈輸入。轉移送出信號 2 2 7 1發出表示在步驟2 2 2偵測的事件發生。 在決疋盒2 2 6之正面法索你 、 向，矢疋後，万法2 2 0進行至決定各 2 4 8，在該處將就一替代埯裎 皿 田 代、、泉私（例如：第1線程）之預定最 小才曰令貧訊量（例如：預定之芒 t疋 < 取小貧訊塊數目）是否未定且 ==指t串緩衝器1〇6之遇輯分害之分配做成 之二」令串緩衝器1〇6内已對目標線程儲不足夠 扎々貝Λ時此I定有利於防止並 ，、焱生線紅切換，以確保 對此一目標線程之線程切換。 掉較再供給目前線程指…=地，-線程切換會用 一 求担扣7心潛在所需之時計週期。舉例 而…線程切換作業可能需要六個週期，而對在三個 計週期内收到目前線程之指令資訊存有高度可能性。 例圖Μ ’ ί程切換控制邏輯136之示範具體實 °。「切換則貧訊塊未定」暫存器，該暫存哭可經 =暫存器㈣排24Q做程式規勒儲存—表示目標線程 Η二、弟1線Mm小資訊塊數目，在料-線程 刀至孩目標線程之前應儲存在—行列分割（例如：分 在本發明之—替代具體實施例中，表示此預 的貧訊塊數目之値可再次囿仝姑μ J 人用固疋線路程式。線程切換控 :輯⑴亦包括—「計數資訊塊未定」增量器2 5 2,該 ^料儲存於指令串緩衝器⑽中的目標線程（亦即 4疋目:的線程)之資訊塊數目計數。當從統合缓衝記憶 Μ到（才曰令貧訊塊被指定至緩衝器1〇6中的一個登 時’分配區段⑴所發出之「㈣送出資訊塊未定」信 時 割 定 制 增 不 體 綠 號 —------------------訂---------線 (請先閱讀背面之注意事項再填寫本頁) I紙張尺度適财關家鮮（CNS)A4規格（21〇·; -22- 決 少 五、發明說明（2〇) ，"知曰量i曰量态2 5 2。分配區線1 2 5利用上述所討論並 與$應於下一指令需求而擷取的各資訊塊相關之「線程識 ^付^，以識別一特定資訊拖是否用於目標線程，而非用 、”、，泉程比較為2 5 6比較了存於暫存器2 5 〇中及增量 = 2 5 2中之個別値，當增量器2 5 2維持之値超過存於暫存 °° 2 5 〇中之値時，該比較器發出一輸出信號至及閘2 4 4。 車又w 2 5 6車則出信號之發出係對應於圖8所示決定盒2 4 8之 正決定。 在夬足盒248之正面決定之後，方法22〇進行至決定盒 =6 0，在該處將就目前線程之預定指令資訊量是否已排入 微處理器30的管路做成決定。此決定有利於確保在線程切 ί作業^前/目前的線程之順向進行。在一個使用Intel架 (下又簡稱IA)指令集之本發明示範具體實施例中，將就 目前線程之三個指令資訊塊是否已销純成決定，此將 保證對目前的線程至少有一個完整指令。 —在本發明之替代具體實施例中，在決定盒26〇所做之 疋可免除對轉移指令排序之偵測，轉移指令本身構成至 個整之指令，確保符合在決定盒2 6 〇之法定。 參考圖1 5 A，線程切換控制邏輯丨3 6之示範具體膏施 可包含一比較器2 6 2，以確定「資訊塊送出」增量哭2 所維持之計數値是否大於或等》卜預定的最小曰値里「例 :在本發明之替代具體貫施例中，此預定之最小値可阿 可程式化或固定線程程式。若增量器2 2 8所維持之値是等 於或超過預定之最小値，比較器2 6 2發出一輸出信號至 -----------·1111111 ^ . — — I I I I 1 I (請先閱讀背面之注意事項再填寫本頁) 經濟部智慧財產局員工消費合作社印製 例 2 8 如 爲 及 -23 經濟部智慧財產局員工消費合作社印製 476915 A7 -------_______ 五、發明說明（21) 閘2 4 4。比較咨2 6 2輸出信號之發出對應於圖8所示決人 2 6 0之正決定。 益 在決足盒2 6 0之正面決定之後，則在步驟2 64進行線程 =·換作業，決定盒2 2 6、2 4 8及2 6 0所代表之條件俱已符 口。在另—方面，若決定盒2 2 6、2 4 8 ,或26 0所代表條件 t任一個條件無法符合，則維持在步驟2 6 6之目前線程選 擇。然後方法2 2 0在步驟2 6 8終止。 耳 將樂於見到步驟2 2 2與決定盒2 26、24 8及26〇所代表之 條件表7F至圖1 5 A所示及閘2 4 4之四個輸入，且當這些條 件均符合時，及閘244將發出輸出並供予輸入至^問 2 4 5。或閘2 4 5之輸出產生了從線程切換控制邏輯丨3 6輸 出之線程選擇信號135。或閘2 4 5之輸出發生係對應於^ 步驟264之線程切換作業之執行。 在月本發明之上述具體實施例係以增量器U 8、「轉 移切換前資訊塊」暫存器2 3 8及比較器242來實現時，將 很陕地可見到可以一減量器取代增量器2 2 8來實現本發 明，當發生線程切換時，該減量器會被預先載入暫存器 2 3 8所含之値。在此具體實施例中，每次從指令串緩衝器 6之目則輯分割丨2 2或1 2 4分配一資訊塊減量該減量 ”、：後減量發出一輸出信號（對應於在先前所述具體實 ，例中比較器242之輸出信號）以表示在決定盒2 2 6之正決 定在此具體貫施例中，該減量器亦可爲及閘2 3 〇之輸出 所減量。 長期等待停滞邏輯（1 5 4) -24- 本紙張尺度細巾國國家標準（CNS)A4規格（210一X 297公爱了 --------1--------- (請先閱讀背面之注意事項再填寫本頁) A7 A7 B7 五、發明說明（22、丨 由於可用在客& ^ & 扣人由\ 處理器之處理器管路中一祛 、 H刀配之資源有限，且亦由於轉移之、 心 記憶體資料未取；p ^夕·^返漏預測及緩衝

aa ^ 飪，在此一處理器管路内之停I 口很早U 的。特別參考示於 ^心知哪疋很千凡 7 6決足可用於從柃 j t生的疋为配态 、Μτ列6 8收到的特定線程指令（玄g卩n护人、 足不充足資# a丨2 相7 (亦即你U日令） ^ 1 Η Ρ .在預約站或重整緩衝器7 8内第0線 牙王努弟1線裎間邏轉 下，分配器76特別料V、：曰存為或登綠）。在此情況 特力J對一線程發出一停滞作 經追蹤傳送引擎60綠…, 佇卬仏唬82，孩仏唬 傳运至微指令接揸引擎5 4。在對一特 定線程發出如此的僖、、狀产嘹Q。咕 手 在對特 _ , . T⑱仏唬8 2時，將希望執行線程切換作 ^。在處理器管停滞之情況，長期等翁停滯邏輯！Η包本 實施線程切換作業之電路。 口 ==根據本發明之示範具體實施例，在發生長期 、+ T W歹’如·因貧源無法使用、轉移遺漏預測或緩衝 j L、把未取#貝料導致處理器管路之停滯）時多線程處理 w内進m切換作業▲法2 8 G之流程圖。方法2 s 〇始於 步驟2 82,在該處已制到—停滯狀況。如上述之説明， 可由決足示於圖2之特定線程停滯信號8 2之發出以偵測此 :停滯狀況。替代性地，可由決定例如由分配器76、追蹤 ，k衝圮憶體6 2 (兩者均稱爲「後端」停滯）、指令解碼器 112或指令操縱邏輯11〇發出之其它停滯信號之發生而偵測 泫停箒狀況。在步驟2 8 2偵測到停滯後，於步骤2 就是 否已經歷預定最小時計週期數目做成決定。參考圖1 5，線 程切換控制邏輯1 3 6之示範實施可包含一「長期等待計 -25- 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐） (請先閱讀背面之注意事項再填寫本頁) ίφ^--------訂---------線·！ 經濟部智慧財產局員工消費合作社印製 476915 經濟部智慧財產局員工消費合作社印製 A7 B7 五、發明說明（23) 數」暫存為2 8 6，該暫存器可經由控制暫存匯流排2 4 〇做 程式規劃以儲存表示此預定最小之時計週期數目値，該週 期數爲容許象程切換至目標線程之前自停滯偵測後必須經 歷又時間。在本發明之替代具體實施例中，表示此一預之 取小時計週期數目値可爲固定線路程式者。切換控制邏輯 2 8 2偵測到停滞已經歷之時計週期數目之計數。在處理器 管路停滯時，各時計週期發出之Γ I X停滞」或指令轉譯 停滯信號2 9 0將增量該增量器2 8 8。增量器2 8 8係由當停 W已克服時所撤消之「TCFB停滯」信號2 9 2之消除而重 疋。「TCFB停滯」信號2 9 2係由一追蹤緩衝記憶體充填緩 衝器（Trace Cache Fill Buffer，下文簡稱TCFB)(未示出）所 發出，TCFB將一分配停滯信號5 8從追蹤傳送引擎6 〇向上 游傳迗至微指令轉換引擎5 4。比較器2 9 4比較了存於暫存 器2 8 6及增量器2 8 8中之個別値，當增量器2ss維持之値 超過存於暫存器2 8 6之値時，比較器2 9 4發出輸出信號至 及閘296。比較器2 9 4輸出信號之發出係對應於圖績示決 定盒284之正決定。 若在決定盒2 84決定了未經歷預定之時計週期數目，則 在步驟2 8 5維持目前之線程選擇，且方法28〇圈回至決 盒 2 84 〇 在決定盒2 84之正面決定之後，方法28〇進行至失定盒 2 84，在錢將就目前線程之預定最小指令資訊量是，、已 排入微處理器3〇之管路敗成決定。如同上述關於圖^示 決定盒260之説明，係由「資訊塊送出」增量器2 2 8及比 -26 本紙張尺度適用中國國家標準（CNS)A4規格(210x297公釐7" —------------------訂---------線 (請先閱讀背面之注意事項再填寫本頁) 476915 A7 B7 經濟部智慧財產局員工消費合作社印製 五、發明說明（24) 較态2 6 2之組合做成此決定。比較器2 6 2提供一輸入至及 P甲1 2 9 6，-旦目前線程之預定資訊塊數目已排入微處理器 管路，則比較器2 6 2之輸出發生。 及閘2 9 6之輸出信號2 9 7傳送至轉移位址計算器ιΐ4， 然後孩計算器決足了已切換的線程（亦即目前線程）之重户欠 指令指標並對目前線程撤消轉移位址清除（ba清除）^ 號。在更一般之層面，當發生線程』刀換時，需要一指令/旨 標以識別重啓已發生切換的1猛之位置。此一指令指二; 爲被預測爲取用之轉移指令目嫖，在此情況係由^移 切換邏輯152提供該指令指標；（2)由微碼提供；或（3)由 轉移位址計算器1 1 4提供（如同剛在上面所討論之情況）。 在決定盒2 9 8之正面決定之後，進而在決定盒3〇〇對是 否已經發出指令轉譯後端清除信號3 〇 2做成夬定。若是如 此，則在步驟3 0 3進行線程切換。替代性地，在決定盒 2 9 8抑或3 0 0之負面決定之後，在步驟3〇4維持目前之: 程選擇。方法2 8 0則終止於步驟3 q 6。 为部清除遥輯（1 5 6) 内β官路清除作業係由微指令轉換引擎5 4本身呼求 的，此與k微指令轉換引擎5 4外部（例如：從「核歲」清 除作業形#之退離邏輯）呼求之外部清除相反。因爲做2 與目d線程相闞聯狀況而呼求清除狀況具有很高之機率，、' 對線程切換作業言此種清除作業是所期望之事件，而替代 線程可做好在管路中處理之準備（例如：已充填之^衝 器）0 -27- 本紙張尺度適用中國國家標準（⑶―規格⑽χ 297公髮 --1-----------------^--------- (請先閱讀背面之注意事項再填寫本頁) A7 B7 經濟部智慧財產局員工消費合作社印製 五、發明說明（25) ==根據本發明示範具體實施例，在發生峨 流ΙΓ Γ線程處現器中進行線程切換作業之方法31〇 L王圖。万法3 ! 〇始於 號的發生。表考在琢處已偵測到清除信 實、A ^ 乂圖A所717的切換控制邏輯130之示範具 :列’此可由偵測指令轉譯轉移位址計算器清除 叫信號3〇2之發出而實現之。很特別地，所示 w3Q2提供輸人至及心14，及間3i4尚收 =56之輸入。如上述之説明，當由「計數資訊塊未 ^冒量器252所記錄之指令串緩衝器…中之資訊塊未 t目超過存於「切換前資訊塊未定」暫存器25〇中之値 、比車乂态2 5 6〈輸出發生。因此，比較器2 5 6輸出發生 以代表方法31〇之线盒316所代表狀況之正決定，並後 在步碟318進行線程切換作業。很特别地，當及問31^之 兩個輸人均發生時，M及，14之輸出發生並依次提供一 發生的？入至或問24 5。在另一方面，若在決定盒316做 了負決足，則在步驟3 2 〇維持目前之線程選擇。然後方法 3 1 0終止於步驟3 2 2。 無資料流動遴鲺Γ 在目前線程發生1位準緩衝記憶體未取得資料之情況， 典型上需要相當大之時計週期數目以完成長期等待作業。 若符合圖9所示流程圖指定之長期等待作業之條件，在此 情況下長期等待邏輯丨5 4可引發線程切換作業。總之，若 不符合長期等待作業之全部條件，長期等待邏輯丨5 4將不 會引發線程切換作業。在此情況下，需要一替代邏輯。 -28 本紙張尺度適用中國國家標準（CNS)A4規格（21〇 x 297公釐） --I-----------------^--------- (請先閱讀背面之注意事項再填寫本頁) A7 五、發明說明（26 ) 經濟部智慧財產局員工消費合作社印製 圖1 1爲示出根據本於 — 處理器内的特定線程：「：範具體貫施例在發生對多線程 處理器内進行線；貝枓=」狀況時’在多緣程 始於步驟3 3 2 ,在_^業〈万法33G流程圖。方法33〇 .,_ 處偵測到對目前線程無指令從统合續 衝記憶體44流至指合隹p 7攸、无口、犮 -―曰油〜 ▽串1^衝器1〇6。參考圖15A，在一個 不範具體實施例中，^叮丄 社 1UI — 此可由當指令串供至指令串緩衝器 母…十週期，統合緩衝記憶體4續發出資料流動 / 4 (發生（或撤消）而加以偵測。「無資料流動」狀 況亦可以至指令預解碼器1〇8的資料流動鎖定做偵測，因 :此意1從統合緩衝記憶體44至指令串緩衝以06之資料 w動鎖疋。「然貧料流動」狀況亦可以至指令預解碼器 1 〇 8的貝料泥動鎖定做偵測，因爲此意指從統合緩衝記憶 體44至指令串緩衝器106之資料流動鎖定。 在决足益3 3 6 ’就從統合緩衝記憶體4 4至指令串緩衝 10 ό <典資料流動是否已經過了遺定最小時計週期數目 成决走。至此爲止，圖1 5 Α所示之線程切換控制邏輯1 包括一「無資料流動」計數器3 3 8，該計數器在表示目 線程無指令串至指令串缓衝器丨〇 6之資料流動信號3 3 4 撤消的每一循序時計週期會增量。當從指令串緩衝器1 至指令預解碼器丨〇 8之資料流動恢復發生時，信號a 3 發出將重定計數器3 3 8。信號3 3 5可響應於信號2 3 — 2 3 6 (亦即BP準備及NOT IS停滞信號）執行之及閘功能而 生。邏輯1 3 6尚包含一「無資料流動週期」暫存器340 該暫存器可經控制暫存器匯流排2 4 0做程式规劃，以儲 器 做 3 6 前 被 06 5之 2及 發 存 (請先間讀背面之注意事項再填寫本頁) 訂---------線秦 -29- 本紙張尺度適用中國國家標準（CNS)A4規格（21〇 χ 297公釐） 476915 A7 B7__ 五、發明說明（27) 表示在可偵測到無資料流動狀旯之前預定之最小時計週期 數目値。在一本發明之替代具體實施例中，表示此預定時 計週期數目之値可爲固定線路程式。計數器3 3 8及暫存器 3 40提供輸入至比較器3 4 2，當計數器3 3 8維持之値超過 存於暫存器340内之値時，比較器3 4 2發出一輸出至及閘 3 4 4。比較益3 4 2 (輸出信號之發生對應於風丨1雄示生定 盒3 3 6之正決定。 在決定盒3 3 6負決定之情況，方法3 3 〇進纡至維持段前 線程選擇之步壤3 4 5。 在決足盒3 3 6之正面決定之後，方法3 3 〇進行至實行決 疋盒3 4 6及3 4 8之決定，該等決定係與圖8所示方法2 2 〇之 決定盒24 8及2 6 0所做之決定一致的。因此，亦示出在決 定盒3 4 6及3 4 8實行決定的比較器2 5 6及2 6 2之輸出，以 k供輸入至及閹3 4 4。及閘3 4 4之輸出再次提供輸入至或 閘245。此提供若在決定盒336、346及348發生正面決 定時，在方法3 3 0之步驟3 5 0進行線程切換作業之邏輯實 現。替代性地，若在決定盒3 3 ό、3 4 6或3 4 8之任一個發 生了負決定，則在步驟3 5 2維持目前之線程選擇。然後方 法3 3 0在步驟3 5 4終止。 遂迫線程改變邏輯（1 6 0、 在某些情況下，可遇到尤其是線性的，亦即不含許多轉 移指令之指令串（包含第一抑或第二線程）。假設無任一上 述或下列所討論之其它狀況發生，可想.像到若無引發線程 切換之事件發生，此一線性線程將耗去不相稱比例之處理 -30- 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐） (請先閱讀背面之注意事項再填寫本頁) 訂----- 線 經濟部智慧財產局員工消費合作社印製 A7 五、發明說明（28 ) B7 經濟部智慧財產局員工消費合作社印製 貝源爲了防止此一線性線程過度使用處理器資源，本 二^ ^出了對來自一資源(類如指令串緩衝器1 0 6 )的單一 、羅之預足扣令I詋1排序或分配後引發線程切換作業之 。圖12爲示出根據本發明之示範具體實施例，對一特定線 孝（例如·第〇線程）從指令串緩衝器1 〇 6至指令預解碼哭 :二之預定指令資訊量排顧分配)時，在-多線程處： ::進行線程切換作業之方法3 6 0流程圖。方法36〇起始 、；=I 3—6 2，在琢處選取了一特定線程（例如：第〇線程） 炙扣7貝Λ，俾仗揭令串緩衝器丨〇 6排序及分配。此選 可由線程切換控制邏輯⑴輸MMUX132之線程 號1 3 4之狀態來表示。 ° 在決定盒3 6 4 ’將就目前線程（例如：第0線程）之預定最 大指令資訊量是否已從指令串緩衝器1()6排序做成決定。 示於圖15A之示範線程切換控制邏輯136包含一「資源奢 夕私式」I存态3 6 6，琢暫存器可經由控制暫存器g流排 2 4 0做程式規劃以儲在矣+ _ . ^ - 者存表不一可在線程切換作業引發前 指令串緩衝器1G6排序之特定線程之預定最大資訊塊數曰 値。在本發明之替代具體實施例中，表示此預定最大資訊 塊數目（値可關定線路程式。「資源奢侈程式」暫存 3 6 6及維持特足線程從緩衝器1()6發出之資訊塊數目 「資訊塊送出」增量器2 2 8提供了至比較器川之輸入 當增里益228輸出値超過存於「資源奢侈程式」暫存 3 66中之値時’比較器3 6 8發出輸出至及閘3 44。因此 訂 從 固 器 之 器 本紙張尺度適用中國國家標準 -31 476915 A7 B7 五、發明說明（29) 經濟部智慧財產局員工消費合作社印製 比較器3 6 8其輸出信號之發出係對應於圖以示 之正決定。 |364 所示之及閘3 44輸出提供了至或閘2 4 5之輸入， 供了一「插入FTC」輸出434。 若在決足盒3 64做了負面決定，方法3⑹進赶至步驟 37〇，在該處維持了目前之線程選擇，其後方法3 6 0圈迴 至決定盒3 6 4。 在決足盒364之正面決定之後，方法36〇進行至實施在 決疋盒3 7 2及3 7 4之決定，該等決定係與圖8所示方法2 2 〇 之決足盒2 4 8及2 6 0所做決定一致的。因此，實現決定盒 3 7 2及3 7 4做成之決定所示之比較器2 5 6及2 6 2輸 了至及閘3 44之輸入。 ^ 在決定盒3 3 6、3 4 6及3 4 8之正面決定，一流動標記（或 「插入的流動」）（例如：100)被插入從指令串緩衝器 106所分配之指令串。很特別地，因線程切換作業可能已 在不完整之指令上發生，將需要轉移位址計算器丨丨4重啓 目前線程之取得，所以插入之流動是必要的。在此情況， 轉移預測單元1 1 3將插入之流動插入指令串以指出論迫之 線程改變。插入之流動县有發生的F〇rceU〇PValid。插入之 泥動僅在已經排程之資訊塊即將從指令申緩衝器1 〇 6送至 指令預解碼器1 〇 8之後才插入。一旦相資訊塊受分配後， 插入之流動多工化成一？〇1：(^。〇?\/^(^01*攔（611¥61^一111!'〇襴）。 至此爲止，參考示出在指令串緩衝器1 〇 6内之示範行列分 刻1 2 2中儲存的資訊塊用之envent jnf〇攔之圖1 6。所示之 且亦提 (請先閱讀背面之注意事項再填寫本頁) 訂---- s'. 32- 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐） 經濟部智慧財產局員工消費合作社印製 476915 A7 --------B7____ 五、發明說明（3〇) 插入FIC 1輸出4 3 4是用以動作，以在（1 )分割 122中旦錄12〇内所存資訊塊之价糊i2i目前内容 與(2)插入之流動4 5 2間做選擇。在輸出2“是在比較器 3 6 8之輸出發出後發生之情況，插入之流動々”將被插入 來自刀1 2 2所分配到的資訊塊化卜欄i 2工。 然後喜應於及閘3 4 4輸出之發出而發生之選擇信號1 3 4 在步驟3 7 6進行線程切換作業。替代性地，若在決定盒 3 6 4 3 7 2或3 7 4之任一個發生負面決定，在步驟3 7 8維 持目則又線程選擇。然後方法3 6 〇在步驟3 8 〇終止。 ,由於發生線程切換之資料塊並無可提供某些線程切換作 業預音之特殊或差別的特色，由強迫線程改變邏輯1 6 〇所 引起之、’泉私切換作業異於在本規範中所討論之其它線程切 換作業。尤其是在線程切換控制邏輯丨3 6中之其它邏輯 1 5 0-164所執行之線程切換作業係附帶著一個使得線程切 換作業開始之條件，因而不須警告影響到之硬體。指令操 縱邏輯1 1 0之設置無法處理突然及未預期之線程切換作 業因而插入之流動標記提供一種通知指令操縱邏輯 1 1 0已在上游發生的線程切換作業之機制。 再者，對於強迫之線程改變，如同在本規範踩封論之其 Έ：線程切換作業，需要一「再啓動」指令指標。因強迫之 線程改變邏輯1 6 〇強迫了指令流動之中斷，故希望供予再 啓動扎標之微碼與下一指令指標1 〇 〇相對立。 ί卜部清除遂轅Π 62) 如上述關於内部清除邏輯丨5 6之説明，斗萍清除是從微 -33- 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐） —------------------^--------- (請先閱讀背面之注意事項再填寫本頁) 476915

五、發明說明（31) 指令轉換引擎5 4之外部呼求的。 圖1 3爲示出根據本發明示範具體實施例，在發生外部管 路清除時於多線程處理器中進行線程切換作業之方支4〇〇 流.程圖。方法40 0始於步驟4 0 2，在該處偵測到一外部清 ，信號發生。參考圖15A所示線程切換控制邏輯136之示 範具體實施例，其可由偵測提供至或閘2 4 5直接輸入之追 蹤緩衝記憶體/微指令轉換引擎清除信號「TCmitecle^」 404之發出而實施。因此，信號4〇4之發生將引起圖5所示 從線程切換控制邏輯丨3 6傳送至Μυχ 132之線程選擇信號 1 3 4之發生。此係在方法4 〇 〇之步驟4 〇 6反映出來，其後 該方法終止於步驟4 Q 8。 插入流程邏輟（164) 在微指令轉換引擎54内，當圖3所击之指令轉換查詢緩 衝态（Instruction Translation Lookaside Buffer，下文簡稱 ITLB) 102記綠了頁次遺漏，一流動標記（亦稱爲「插入之 流動」）被插入指令串以標記此事件。此頁次遺漏導致頁 次遺漏處理器（未示出）用掉高達i 5 〇個時計週期（僅當做舉 例）進订相當長4頁次行進作業。對於在目前線程之指令 串發生了頁次遺漏之多線程處理器中，將有利於進行線程 切換作業俾容許一替代線程使用頁次行進作業引入之等待 時間。如上所説明者，插入流程邏輯丨6 4提供了在頁次遺 漏發生時實施及進行線程切換功能之邏輯示範具體會施 例0 除頁次遺漏外’可導致插入流程的其它事件爲此項技藝 -34- 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐） (請先閱讀背面之注意事項再填寫本頁) -J · 訂 線 . 經濟部智慧財產局員工消費合作社印製 4/〇y〇 五、發明說明（32) 經濟部智慧財產局員工消費合作社印製 所熟知者或特殊之微處理器架構。 二圖14爲示出根據本發明之示範具體實施例，在偵 」泉私足扣令串中（插入流程（僅做爲舉例，該插入流程 二ITLB 1 02上之頁次遺漏）時，於多線程處理器中進行 泉裎切換作業之方法4 2 〇流程圖。方法4 2 〇始於在步驟 422對目前線裎（例如：第〇線程）之選擇。此選擇可由從 線程切換控制邏輯136輸出至Μυχ 132的線程選擇信^ 13 4之狀態表示。在決定盒42 4，就目前線程指令串内指^ 7 澤事件「IT+ventid」攔4 2 6是否指出一插.入流程（例 如：不具有，0000或，0111値）做成決定。很特別地，在指 轉譯事件欄42 6内出現之上述數値可表示無插入之流程 參考1 5 A，所示之攔4 2 6將輸入至一對比較器（或其 邏輯）42 8及4 3 0，以決定趙42 6是否包含’〇〇〇〇抑或，〇1 値。若是如此，比較器4 2 8或4 3 0發出一輸出至反或 4 3 2 ’其輸出提供一輸入至或亂2 4 5。 在決定盒4 3 6，可視需要菰a標絲程（μ如：第丨線程） 預定最小指令資訊量是否可用在從指令串緩衝器1 〇 6分 做成決定。可利用反或閘4 3 2之輸出及比較器26 2之輪 做成此決定。 在決定盒424及4 3 6做了正決定之後，然後可在步 4 3 8進行線程切換作業。很特別地，反或閘4 3 2發出之 出經或閘2 4 5傳送以引起選擇信號1 3 4可對應於在步 4 3 8進之線程切換作業。替代性地，若在決定盒4 2 4 4 3 6之任一個做了負決定，患在步驟4 4 0維持目前線程 -35 本紙張尺度適用中國國家標準（CNS)A4規格（210 x 297公釐） 令 它 11 之 出 驟 輸 驟 或 選 1 --------^--------- (請先閱讀背面之注意事項再填寫本頁) 476915 A7 B7 五、發明說明（33) 擇。然後方法4 2 0在步驟4 4 2终止。 鼓論 、上關方'圖1 5所纣淪之線程切換 _ 具體實施例中，所描述之許多邏輯15〇16=耳_； 扼 孓:暫：器及比較器之組合實現的。在本發:用 只犯例中，這些邏輯的某些或全部可使職量器來余現肢 ::量器將從一預定的、可程式化之値減量 ：：

時發出信號。此一具體實施例示於圖l5B。 々I 摘要而言，上述線程切換邏輯136是很 供很多爲響應於有利於執料程切㈣業之事件發 用。於貫現及進行線程切換作業之彈性機構。再者，藉 私式化參數〈涵括’本發明容許對種種的情況及考量修改 =周㈣換機構。舉例而言，當執行一種類型之應用 時（例如：夕媒體應用），希望將線程切換機構之參數嗖定 ^與當執行不同類型應用（例如：文字處理應用）時相異之 線 線程切換邏輯136適用於多線程處理器中路徑（在來源資 源與目的資源之間)頻帶寬及/或處理資源之時間切割。在 上，之線程切換邏輯丨3 6係用來分配從一指令事緩衝器至 -指令預解碼器的兩個線程之指令資訊睦，將極易見到本 發明内容可用以分配一處理器管路内任一資源至任一目的 的多個線程之指令資訊。 、因而，已説明了一種用於多線程處理器中邀程切換之方 法及裝置。雖然係參考挂定之示範具體實施例説明本發 明，不過可對這些夬體實施例做各種修改變更而不偏離本 -36- 本紙張尺度適财關i_i^s)A4規格咖χ挪公爱「 476915 A7 _B7_ 五、發明說明（34 ) - 發明之廣泛精神及範圍將是很明顯的。因此，該規範及附 圖都認定爲係例證而非限制性之意義。 經濟部智慧財產局員工消費合作社印製 37- ---------------------訂---------線 (請先閱讀背面之注意事項再填寫本頁) 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐）

Claims (1)

1. 、申請專利範圍 ’—種在多線程處理器中 法包含： 進订、，泉程切換作業之方法，讀方 偵測來自多線程處理哭 ^ 之~ Μ π、 内—指令資訊源對一第〜％ # 弟一預足指令資訊量之分配；及 忒I 鲁應於對第一線程之第—、 剛，開始對-來自該指令資‘兑令資訊量分配之價 分配。 貝汛源艾弟二線程之指令資訊 2.如申請專利範圍第i 預金0人… 去，其中對第一線程之第 t、疋扣令貧訊量分配 罘〜 户斤八和、斤 1貝，則包含維持從該指令資訊資、店 斤刀配又弟一線程離散之 A源 齡也、』匕A 7貝通I計數，以及決宏 3 t;，資訊量計數何時超過-第-預定臨界値 專！範圍第2項之方法，其中對第-線程離散、 才日令貧訊量分配之計數， 嗎政< ^^ ^ ^ ^ 匕3在自孩指令資訊源之_邱 4 ^令^財之分料，增量-計數器。 味政 外·如申請專利範圍第2項之 >入次、B 又万法，其中對第一線程離勒> 曰7貝λ夏分配之計數， —〈 散指令資訊量之分配時，：：在末自爾貧訊源之離 里心刀阢日守，減量一計數器。 5·如申請專利範圍第1項 ,, 万去’其中該偵測包本A 7 私式化儲存單元内容與一擗 匕口在—可 曰 十數备内谷間執行比較作 業孩計數器維持來自該指令資訊源所分配之：：乍 之離散指令資訊量之計數。 足弟一線程 6·如申請專利範圍第1項 ^ w /+ / ，/、中该债測包.含將預定 ^界値《可程式化儲存單 射九疋 佶^ ^ , 存載入—減量詁數器做爲初始 値，並偵測該減量計數器暫存器何時爲零値。馬 本紙張尺度冗用中國國家 ------mt----------------訂---------線 f請先閱讀背面之注音？事項再填寫本頁) 經濟部智慧財產局員工消費合作社印製 -38 - 476915 A8 B8 C8 D8 六 申睛專利範圍 經濟部智慧財產局員工消費合作社印製 7·如申請專利範圍第1項之方法，其中該指令資訊源包含 一儲存單元，該單元受分割以將第一線程之指令資訊ς 存在一第一分割及第二線程之指令資訊存於_第二L 割，且其中對第二線程指令資訊分配之開始包含操刀 程選擇邏輯以選擇來自指令資訊源之第二分割而=第二 分剳之指令資訊做分配。 8.如申凊專利範圍第1項之方法，包括決定第二線程之第 一預走指令資訊量是否可用於從指令資訊源之分配，且 =當第二線程之第二預定指令資訊量可甩於分配時才開 始來自孩指令資訊源第二線程之指令資訊分配。 9·如申請專利範圍第8項之方法，其中該指令資訊源包含 一儲存單元，且其史篇二線程之第二預定指全資訊量是 否可用於從指令資訊源分配之決定，包含維持該儲存單 元所收入之第二線程離散指令資訊量計數，並決定該儲 存單元所收入之離散指令資孤量計數何時超過一第二預 定臨界値。 10·如申凊專利範圍第1項之方法，包括決定第一線程之一 弟二預定指令資訊量是否已從該指令資訊源分配，且僅 當第一線程之第三預定指令資訊量已從該指令資訊源 分配時才開始來自該指令資訊源第二線程之指令資訊 配。 11.如申請專利範圍第1 〇項之方法，其中該第三預定指令 訊量等於或大於第一指令組的全指令之最小指令資訊 量0 -39- 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐） -------------魏 (請先閱讀背面之注意事項再填寫本頁) 訂---------線· 党 分 資 經濟部智慧財產局員工消費合作社印製 476915 A8 B8 C8 D8 六、申請專利範圍 12. 如申請專利範圍第1 0項之方法，其中第一線程之第三預 定指令資訊量是否已從該指令資訊源分配之決定，包含 計數來自該指令資訊源之第一線程離散指令資訊量之分 配，並決定從該指令資訊源所分配之離散指令資訊量計 數是否超過一第三預定臨界値。 13. 如申請專利範圍第1項之方法，包括在開始對來自該指 令資訊源之第二線程做指令資訊分配之前，將一流動標 記插入含來自該指令資訊源分配之第一線程指令資訊之 指令串。 14. 如申請專利範圍第1項之方法，包括決定第一線程之一 第四預定指令資訊量是否已從該指令資訊源分配，且若 如此的話，則偵測將從指令資訊源分配之第一線程指令 資訊内之轉移指令，且響應，於轉移指令之偵測，開始對 來自該指令資訊源第二線程指令資訊之分配。 15. 如申請專利範圍第1 4項之方法，包含偵測來自指令資訊 源第一線程之一第四預定指令資訊量之分配，響應於對 該第四預定指令資訊量分配之偵測，檢查接著將受分配 之第一線程指令資訊以識別一轉移指令，並響應於對即 將受分配之第一線程指令資訊内轉移指令之識別，開始 對來自該指令資訊源第二線程指令資訊之分配。 16. 如申請專利範圍第1 5項之方法，其中對第一線程之第四 預定指令資訊量分配之偵測，包含計數來自該指令資訊 源第一線程離散指令資訊量之分配，並決定該離散資訊 量之計數何時超過一第四預定臨界値。 -40- 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公釐） * . _ i-----------------··---訂---------線-------- (請先閱讀背面之注意事項再填寫本頁) 476915 As劭C8D8 六、申請專利範圍 17·如申請專利範圍第！項 器之處理器管路中第 ^ c套偵測菽多線程處理 停滞狀況之偵測後：：： = :况，偵測在接著該 並響應於該第-預定時„ =歷定時：間隔， 孩指令資訊源第二線程指令資訊之分配。，^對來自 18.如申請專利範圍第1 中從-上诱偵測在處理器眷路 訊之流動ί2入！指令資訊源並無第，指令資 , 二〜‘接著無該指令資訊流動之偵測後何時 已經歷了一第二預定時間間隔，並響應於該第二預定時 間間隔經歷之偵測，開始對來自該指令資訊源第二線程 指令資訊之分配。 19·如申請專利範圍第丨項之方法，.包括偵測在該指令資訊 源收到之第一 |泉程指令資訊中之流動標記，並響應於，該 流動標記之偵測，開始對來自該指令資訊源策二線程指 令資訊之分配。 20.如申請專利範圍笨丨項之方法，其中該流動標記指出j 該指令資訊源之處理器管路上游中之一位置發生置农遺 漏0 J. I -----r---訂---------線 i^w. (請先閱讀背面之注意事項再填寫本頁) 經濟部智慧財產局員工消費合作社印製 -41 本紙張尺度適用中國國家標準（CNS)A4規格（210 X 297公爱）