TW200301423A - Multi-bank scheduling to improve performance on tree accesses in a DRAM based random access memory subsystem - Google Patents

Description

經濟部智慧財產局員工消費合作社印製 A7 B7 五、發明説明（1 ) 發明領域 本發明通常是關於局速記憶系統以及，更特別是，以 近SRAM效能而使用DRAM的記憶系統。 發明背景 網路處理器通常控制實際傳送媒介間的封包流，如非 同步轉送模式（A T Μ )網路或同步光學網路（$〇n e T )的實 體層部分，以及路由器中的交換組織或其它類型的封包交 換。網路處理器的儲存技術利用DRAM (動態隨機存取記憶 體）以用低功率消耗提供大儲存容量。然而，隨著處理器 及記憶匯流排的速度持續地增加，所以也有記憶存取速度 需求以符合整個系統效能需要。SRAM (同步隨機存取記憶 體）的速度可提供這些速度。然而，SRAM記憶容量典型是 較D R A Μ記憶體低一級。而且，S R A Μ典型有較D R A Μ高兩級 的功率消耗的需要。所以，想要利用DR AM達成SRAM效能 〇 網路處理器內或除此以外的DRAM典型係以多記憶排建 構。在指定的其中之一排內對位址或多個位址的連續讀取 或寫入存取將需要等待經需要的存取預先指示處理的完成 隨機循環時間Trc。然而，甚至對不同排內相同位址的連續 存取不經歷此Trc等待時間，Trc等待時間在此亦稱爲排衝突 處罰。靜態隨機存取記憶體（SRAM )避免排衝突處罰在一 起。也就是，記憶體中任何位址可以固定時間存取不必遭 受DRAM有關的Trc等待時間。 (請先閱讀背面之注意事項再填寫本頁)

本紙張尺度適用中國國家標隼（CNS ) A4規格（210X297公釐） -5- 200301423 A7 B7 五、發明説明（2 ) (請先閲讀背面之注意事項再填寫本頁) 習知技藝中已知的一些的dram特別被組構以減少上述 的Trc等待時間。例如，所謂的快速循環DRAM ( FCDRAM ) 特別是指表示最小的Trc。FCDRAM更特別的範例，來自東 芝的商品，係由零件編號TC59LM814CFT-50確定。在此特別 類型的FCDRAM中，隨機循環時間Trc被限制成5T，其中T表 示記憶時脈周期。記憶存取，讀或寫，需要兩個時脈周期 ，且最大資料吞吐量係由使用所謂的”四爆發”模式達成。例 如，使用200MHz記憶時脈及以四排組構的FCDRAM，各排 包括各16位元的字元組的4M記憶體，記憶時脈周期T是5奈 秒且Trc是25奈秒，且使用四爆發模式的最大資料吞吐量是 接近每秒6.4十億位元（Gbps )。然而，如果連續記憶存取 回到相同四排的其中之一，資料吞吐量被減至接近2.5 Gbps ，當作Trc等待時間的結果。 自前述已明顯，改進DRAM基礎的記憶架構的需求存在 ’對於與網路處理器或其它處理裝置一起使用，其可提供 D R A Μ的儲存容量且低功率消耗優點，同時，在效能方面也 提供SDAM的優點。 經濟部智慧財產局員工消費合作社印製 發明槪要 在本發明的數種特性及優點間是使用DRAM記憶體達成 近SRAM效能的方法。在示範實施例中，發明使用最佳效能 的FCRAM (快速循環DRAM )。然而，本發明經由多排規劃 的方法提供如此高速記憶效能以在DRAM基礎的隨機存取記 憶次系統的樹存取上減少時間需要。 -6 - 本紙張尺度適用中國國家標準（CNS )八4規格（210X297公釐） 200301423 Α7 Β7 五、發明説明（3 ) 在示例格式中，至少兩獨立的FCRAM通道係以獨立的 位址資料控制線用以達成1 〇 g b p s吞吐量。第一通道〇記憶體 的整個資料係複製在第二通道1記憶體中。記憶控制器對隨 意的位址AO，Al，A2，A3，A4等接收一連串存取讀取要求 且對平衡負載及最小化排衝突的兩通道規劃一連串要求。 控制器維護多序列，各通道一排FCR AM記憶體。自樹引擎 的§買取位址係決定以擷取排位址，且該要求係儲存在適當 的排序列中。控制器也維護每一通道每一排一個排衝突計 數器，該計數器係在讀取要求已被發送至適當的排後載入 Trc値。所有排衝突計數器係在各時脈中減少且當排衝突計 數器是0時，對應的排變可用。控制器也對最後服務的序列 維護一個指標。 在各時脈上控制器自下一可用的排序列派遣要求，以 循環排班（r 〇 u n d r 〇 b i η )方式，自最後服務的序列開始，即 ，使用工作保存循環排班演算法，至當時可用的通道〇或通 道1。如果排序列是非空的且對應的排衝突計數器是〇，則 它是可用的。如果要求可被發送且所存取的排不忙，則通 道是可用的。如果無一排列序是可用的，則無要求被發送 至 FCRAM。 圖式的簡要說明 確信爲新發明的特性特別係在附加申請專利範圍提及 。然而，發明本身，它的結構及操作方法，也許最好由參 考下列說明及附圖來了解。 本紙張尺度適用中國國家標準（CNS ) Α4規格（210Χ297公釐） (請先閱讀背面之注意事項再填寫本頁) •裝· 、1Τ 經濟部智慧財產局員工消費合作社印製 經濟部智慧財產笱員工消費合作社印製 200301423 A7 B7 五、發明説明（4 ) 圖1是表示資料流的區塊介面圖。 圖2是發送樹引擎要求的狀態圖。 圖3是規劃存取要的狀態圖。 符號說明 103 樹引擎 104 TRE要求 FIFO 106 樹記億控制器 107 通道0快速循環DRAM 108 通道1快速循環DRAM 105 TRE讀取 FIFO 101 主機介面 100 主機介面 發明的詳細說明 經發表係使用預期的樹記憶使用率大於9 5 %讀取且少於 5%寫入的DRAM記憶體的近SRAM效能的方法。同時這些方 法係可應用至任何DRAM記憶體，相信最佳效能係使用雙資 料率FCRAM (快速循環DRAM)如東芝TC59LM814/06CFT獲 得。在此特別的FCRAM中，有5 ns的小隨機循環時間（Trc )。這些裝置的記憶存取（讀或寫）需要兩個時脈周期。 對此裝置最大資料吞吐量係由使用四爆發模式達成。例如 ’四爆發模式中200MHz X 4M xl6位元FCDRAM達成接近 6.4 Gbps的最大資料吞吐量。爆發模式作業的細節係在由裝 本紙^度適用巾B國家標隼（CNS ) A4規格（210X297公釐)7^· "—'" (請先閲讀背面之注意事項再填寫本頁)

200301423 A7 B7 五、發明説明（5 ) 置的製造商提供的規格文件中提到。 (請先閱讀背面之注意事項再填寫本頁) 在由本發明完成的樹記憶結構中，DRAM，如上述的 FCRAM，係以排組織。對這些排內的位址的連續記憶存取 需要等待隨機循環時間的終結。隨機循環時間（Trc )是預 先指示以完成需要的時間，即，在各對排讀取或寫入後， 排必需被更新。然而，對不同排的位址的連續記憶存取不 是由隨機循環時間限制。 實質上達成隨機存取量，使用FCRAM不必排衝突處罰 ，係由儲存不同排中同一資料複本且發送連續記憶存取要 求至不同排而完成。資料複本需求的最小數目係由隨機循 環時間對隨機排存取延遲的比例而定，如以下等式所示： (Trc/Trbd) ^ 25ns/10ns=3排 其中：Trc = 5T，

Trbd 二 10 ns ，且 T =記憶時脈周期。 經濟部智慧財產局員工消費合作社印製 兩個獨立的FCRAM通道係用以達成1〇 Gbps讀取吞吐量 ，各有它自己的位址資料控制線。總共需要6個記憶排；3 排在通道0且3排在通道1。6排都包含同樣的資料。然而， 將理解大於10 Gbps吞吐量可係使用其它通道及排組合達成 。兩通道的使用係僅作爲示例用而說明且不將被解釋作限 制發明於此實施例。 如圖1表示，樹引擎103發送一連串存取讀取要求（TRE 要求FIFO 104)至樹記憶控制器106。直至每200 1^1^核心時 脈速度或每5.0奈秒一要求也許係由樹引擎1〇3產生。通道〇 本紙張尺度適用中國國家標準（CNS ) A4規格（210X297公釐） 20030K23 A7 B7 五、發明説明（6 ) (請先閲讀背面之注意事項再填寫本頁) FCRAM 107及通道〇 FCRAM 108是獨立的。因此，樹記憶控 制器106可使用通道〇 FCRAM 107及通道0 FCRAM 108執行每 5 ns—記憶讀取的平均。雙時脈同步係對TRE要求FIFO 104 使用以傳送讀取要求至樹記憶控制器106及TRE讀取FIFO 105以傳回資料至樹引擎1〇3。 圖2及3是此方法利用的同時發生狀態機。在圖2的狀態 圖中’樹引擎要求係發送至適當的排列序（BQi )。第二狀 態指定兩通道的其中之一間的通道序列（QC )且增加排索 引。 同時其它通道組合是可能的，此實施例使用下列通道 排組合： CH0-B0 CH1-B0 CH0-B1 CH1-B1 CH2-B0 CH2-B1 經濟部智慧財產局員工消費合作社印製 決定更新中斷是否作用的檢查必需於發送存取要求前 執行。如果更新中斷是作用中，更新順序係同時發送至兩 通道。當更新中斷是作用中時，存取要求被阻斷。 爲了最佳化效率，寫入樹記憶控制器106在爆發中發生 。主機介面1 0 1於執行寫操作前發送序列於主機要求FIF〇 1 0 1的64位元字元組。經序列的資料量係視主機處理器而定 -10- 本紙張尺度適用中國國家標隼（CNS ) A4規格（210X297公嫠） 00301423 A7

。一種製作可能是連續32位元字元組形成64位元資料字元 組的32 X 32位元FIFO。 所有讀取存取要求都被隔斷以執行寫入執行。接著， 連_的3 2位兀字兀組被結合以形成6 4位元字元組。檢杳被 執行以決定64位元字元組是否可被形成。如果此字元組不 能在該時被形成，主機要求FIFO被阻斷且樹引擎讀取要求 繼續。如果64位元字元組可在該時被形成，資料係同時寫 入通道0及通道1且完成對樹記憶控制器1 06的寫入執行。 如圖3表不’更新順序等待直到所有排是無作用，宜可 到5時脈循環。下列順序被重複直到FIFO的所有資料字元組 被寫入記憶體： 1. 如果更新中斷作用中’完成更新順序， 2. 發送位址且寫64位元資料至CH0-B0及CH1-B0 3. 發送位址且寫64位元資料至CH0-B1及CH1-B1 4. 發送位址且寫64位元資料至CH0-B2及CH1-B2 本發明使用在DRAM基礎上之隨機存取記憶次系統之樹 存取上改善效能的多排規劃。獨立通道0 FCR AM 107及通道1 FCRAM108被使用。通道1記憶體係通道0整個記憶體的複製 圖1的樹記憶控制器106對隨意的位址AO，Al，A2，A3 ，A4等接收一連串存取讀取要求。它也對平衡負載及最小 化排衝突的兩通道（即，通道〇 FCRAM107及通道1 FCRAM1 08 )規劃一連串要求。樹言己憶控制器1〇6維護各 FCRAM排的序列。樹引擎103解碼讀取位址且儲存要求在適 (請先閱讀背面之注意事項再填寫本頁) 裝· 訂 經濟部智慧財產局員工消費合作社印製 本紙張尺度適用中國國家標準（CNS ) A4規格（210X297公釐） -11 - 20030K23 A7 B7 五、發明説明（8 ) 當排序列。 (請先閱讀背面之注意事項再填寫本頁) 對於圖3表示的各通道維護一個排衝突計數器。在讀取 要求被發送至適當的排後，排衝突計數器被重置成依往下 數用的計數器的類型且零偵測是否被閂而定的値。該値也 許是Trc値或Trc加/減1。所有排衝突計數器係在各時脈循環 中減少。當排衝突計數器爲〇時，對應的排變可用。樹記憶 控制器1 06以循環排班演算法規劃的支援而維護最後服務的 序列的指標。 對於各時脈循環，樹記憶控制器1 06自最後服務的序列 開始自下一可用的排序列派遣要求至可用的通道（即，通 道0 FCRAM107及通道1 FCRAM108 )。如果排序列是非空的 且對應的排衝突計數器是0，則它是可用的。如果要求可被 發送且所存取的排不忙，則通道是可用的。如果無一排列 序是可用的，則無要求被發送至FCRAM ( 107及108 )。樹 記憶控制器1 0 6檢查更新中斷。如果更新中斷作用中，更新 要求被服務。在服務後，可發送讀取要求。 經濟部智慧財產局員工消費合作社印製 寫入樹記憶控制器106在爆發中發生以最佳化效率。主 機介面101於執行寫操作前發送序列於主機要求FIFO 101的 64位元字元組。經序列的資料量係視主機處理器而定。一 種製作可能是連續3 2位元字元組形成64位元資料字元組的 32 X 32位元FIFO。主機讀取資料FIFO 102傳回資料至主機 介面100。 所有讀取存取要求都被隔斷以執行寫入執行。接著， 連續的32位元字元組被結合以形成64位元字元組。檢查被 -12- 本紙張尺度適用中國國家標隼（CNS ) A4規格（210X297公釐） 200301::23 A7 B7 五、發明説明（9 ) 執行以決定64位元字元組是否可被形成。如果此字元組不 能在該時被形成，主機要求FIFO被阻斷且樹引擎讀取要求 繼續直到主機發送剩下的字元組。更新及讀取存取係交替 的。如圖3表示，狀態機規劃自BQ至FCRAM通道0或通道1的 要求。更新順序如下： 1. 如果更新中斷作用中，完成更新順序， 2. 如果特定排在通道0或通道1忙碌時，設存取未決旗標 ，該旗標阻斷自正派遣至兩通道的特定排的讀取存取 (其它排可繼續被存取）。 3. 等待排衝突計數器到達〇且完成寫至兩通道。 當僅發明的某些較佳特性已由示例的方式展示時，許 多更改及改變對那些熟知此技藝之人將發生。因此，可了 解本申請專利範圍係想要涵蓋所有落在發明的實際精神內 這樣的更改及改變。 (請先閱讀背面之注意事項再填寫本頁) 裝- 經濟部智慧財產局員工消費合作社印製 本纸張尺度適用中國國家標準（CNS ) A4規格（210X297公釐） -13 -

Claims (1)

1. 20030K23 A8 B8 C8 D8 六、申請專利範圍 1 1·一種記憶體管理的方法，包含： (請先閲讀背面之注意事項再填寫本頁) 提供組織成獨立通道的多排記憶裝置，其中各排記憶 裝置包含複製資料； 提供控制對各通道的各排的資料讀取及寫入存取的樹 記憶控制器； 建立各通道的各排的排列序作爲表示排可用性； 發送讀取或寫入要求至樹記憶控制器； 在樹記憶控制器檢查中，通道的各排的可用性； 識別第一個可用的排；以及 執行自第一個可用的排的讀取要求。 2.如申請專利範圍第1項的方法，其中寫入存取的執行步 驟包括： 阻斷所有讀取存取； 確認待寫的資料對於經選擇的記憶體字元組長度是完 整的； 等待各排列序以指示所有排的排可用性； 經濟部智慧財產局員工消費合作社印製 同時地初始化經完成的資料字元組的爆發模式轉移至 所有排。 3 ·如申請專利範圍第1項的方法，其中記憶裝置包含動 態隨機存取記憶（dram )裝置。 4 ·如申請專利範圍第1項的方法，其中記憶裝置包含快 速循環隨機存取記憶（FCRAM)裝置。 5 ·如申請專利範圍第1項的方法，其中記憶裝置的排係 組織成兩獨立通道。 -14- 本紙張尺度適用中國國家標準（CNS ) A4規格（210X297公釐） 200301423 A8 B8 C8 D8 六、申請專利範圍 2 6·—種記憶體管理系統，包含： (請先閱讀背面之注意事項再填寫本頁) 組織成獨立通道的多排記憶裝置，其中各排記憶裝置 包含複製資料； 控制對各通道的各排的資料讀取及寫入存取的樹記憶 控制器； 各通道的各排的排列序作爲表示排可用性；以及 發送讀取或寫入要求至樹記憶控制器的機構，該控制 器決定讀取資料及執行自第一個可用的排的讀取要求的排 可用性。 7 ·如申請專利範圍第6項的系統，其中控制器在寫入要 求的處理期間中止所有讀取要求。 8 ·如申請專利範圍第7項的系統，其中控制器同時地寫 至所有記憶排。 9 ·如申請專利範圍第8項的系統，其中所有記憶排包含 一致的資料。 10.如申請專利範圍第6項的系統，其中記憶排包含動態 隨機存取記憶裝置。 經濟部智慧財產局員工消費合作社印製 1 1·如申請專利範圍第6項的系統，其中記憶排包含快速 循環隨機存取記憶裝置。 12·如申請專利範圍第6項的系統，其中記憶裝置的排係 以兩獨立通道建構。 13.如申請專利範圍第6項的系統，其中記憶排的最小數 目係由隨機循環時間對隨機排存取延遲的比例決定。 本紙張尺度適用中國國家標準（CNS ) A4規格（210X297公釐） -15 -