TW201201104A - Applying policies to schedule network bandwidth among virtual machines - Google Patents

Description

201201104 六、發明說明： 【發明所屬之技術領域】 本發明係關於施加用以排程在虛擬機器之間的 寬之政策。 、 ’ I先前技術】 大規模網路系統為用於商業及操作功能之執行應用程 式與維護資料之各種環境中的普通平臺。舉例而言，資 料中心（例如’實體雲端計算基礎設施）可同時：複: 個客戶提供各種服務（例如’網頁應用程式、電子郵件 服務、搜尋引擎服務等等）。通常，該等大規模網路系統 包含分散在整個資料中心之大量資源，其中每一資源類 似於在實體節點或主機上執行之實體機器或虛擬機器 (Virtual Machine; VM)。當資料中心代管多個租戶（例 如’客戶程式）時，將該等資源自相同資料中心最佳地 分配至不同的租戶。 通常’多個VM將在計算網路或資料中心内同時執行 在相同實體節點上。共享一共用實體節點之該等物可 經分配至不同的租戶且在不同時間可能需要不同數量之 資源舉例而έ ’通常僅將一個網路卡安裝至實體節點， ’、中該網路卡具有有限數量之網路頻寬。當-個租戶需 要同數里之資源以完成特定任務時，在實體節點上執行 之租戶的VM中之-者可藉由發送其上之大量封包而潛 在地加載網路卡，從而防止在該實體節點上執行之其他 201201104 VM公平地共享其資源。 因此，因為處理能力在資料中心内之最佳分配通常涉 及將複數個VM置放於單個實體節點上，且因為該等謂 需要資源（例如’網路頻寬）來實現大部分操作，所以 藉由實行對=貝源消耗的限制而允許相同實體節點上之 VM公平地共享該網路頻寬的機制將幫助減少對可用資 源的加載並將幫助維持提供給資料中心之租戶的高服務 品質。 [發明内容】 提供此【發明内容】以用簡化形式介紹下文在【實施 方式】中進一步描述之概念。此【發明内容】並非意欲 識別所主張標的之關鍵特徵或本質特徵，亦並非音欲用 作決定所主張標的之範料援助^ ^欲用 本發明之實施例提供-種允許常駐於一共用實體節點 上之虛擬機器(VM)公平地共享由實體節點提供之資源 (例如：網路頻寬）的機制。通常，公平地共享資源涉 及：實行對資源消耗的限制以改良對該網路頻寬的加載 或改良對已向資料中心之租戶保證之服務品質的不利影 響，其中該等VM常駐於該資料中心中。 在一示例性實施<列巾，限制之實行可涉及：提供一管 理公用程式（例如’第5圖至第7圖之排程器4〇"，該 管理公用程式根據政策，藉由將該網路頻寬分配至共享 實體機器上之該等VM中之每_者而動態地控制倾經 201201104 驗。換言之，該管理公用程式可容許實體機器所有者， 或貝料中心之租戶能夠配置控制網路頻寬之VM使用的 政策。除充當接受由一或多個實體指定之政策的介面以 外，該管理公用程式可實施該等政策以便VM具備特定 的服務品質（例如，向每—VM所保證之最小/最大網路 頻寬）。 在實施該等政策之一個實例中，該管理公用程式可採 用用於控制自該等VM發送之訊務量的速率限制技術。 舉例而言，一種速率限制技術可指示當自VM之資料流 率比當前分配給VM之資料流率消耗更少資源時’將資 料封包自VM自由地傳送至網路。通常’分配資源由與 該VM相關聯之政策指定。另一速率限制技術可指示當 該VM正試圖利用比當前分配至該VM之更多資源時， 丟棄或延遲資料封包。 如下文將更充分描述的，可在實體節點上實施一組令 牌桶（token-bucket)佇列及排程器以實現該等速率限制 技術。 實現該等速率限制技術最初可涉及：排程器檢查寫入 δ ’”勺之或多個服務品質（Quality of Service; Q〇S)政 朿其中5亥合約管理網路資源向資料中心之客戶端或租 戶的分配。隨後，該排程器可部分地基於客戶端合約之 Q〇s政策將令牌存放於令牌桶佇列中。如本文所描述 的’將令牌桶佇列指派給在實體節點上樣例化的VM， 該實體節點亦由其他VM所共享。 201201104 隨後，排程器可檢查令牌桶佇列以確定該vm之狀 態。舉例而言，當存放之令牌未自切桶㈣中耗盡時， 該排程可偵測出該VM正處於閒置狀態。與此相反，排 程盗可基於自令牌桶彳宁列巾存放之令牌的耗m貞測出 該VM正處於有效狀態，其中根據該VM之資料流率自 令牌桶件列中抽出存放之令牌的—部分。在此實例中， 排知益可基於QGS政策及基於餘留於令牌桶仔列中的所 存放令牌之—部分將令牌重新載人至令牌桶㈣中。因 此，結合令牌桶佇列使用排程器來分配網路頻寬可在該 :VM之間維持公平性’同時最大化實體節點上之傳輪 量0 【實施方式】 在本文中特定地描述本發明之實施例的標的以滿足法 定要求。然而，該描述本身並非意欲限制本專利之範疇。 貫清為發明者已預期結合其他當前技術或未來技術， 亦可以其他方式實施所主張標的，以包含不同步驟或類 、；在本文件中描述之步驟的步驟之組合。此外，儘管 術語「步驟j及/或「方塊」在本文中可用於暗示所用方 法之不同7L素，但該等術語將不應被理解為意味著本文 揭示的各種步驟之間的任何特定次序，除非或除了當明 確地描述個別步驟之次序之外。 本發明之實施例係關於用於與控制網路邊緣處之訊務 不同的向封包源（例如，在實體節點上樣例化之虛擬機 201201104 益（VMS))施加節流控制的方法、電腦系統及電腦可讀 、體在操作巾，該施加之節流控制可根據彼此相關 聯之合約叶量來自VM t資料流。在—示例性實施例 Ί量涉及延遲傳遞超過由合約明確表達之—或多個 —策的彼等封包。舉例而言’可藉由暫時儲存或「進入 仔列」延遲封包的令牌替列來實施計量。通常，該等 令牌桶仔列擔當先進先出（First_InFirst 〇ut;FiF〇m 衝器’忒等緩衝器保留延遲封包直至將網路頻寬分配給 ^遲封包之該等VM。在足夠的網路頻寬分配之 後’令牌㈣列設計成釋放將傳遞至封包關的目的地 之延遲封包。 在一態樣中，本發明之實施例係關於具有在其上實施 之電腦可執行指令的一戋多個 4夕個電細可讀取媒體，當執行 該等電腦可執行指令時，執行—㈣於計量源自在單個 實體節點上樣例化之複數個物之各種封包資料流的方 法。最初’該方法包含檢杳耷人 3钿笪冩入合約之一或多個服務品 备（Q o S)政來之步驟。通當，兮人认狀 韦該σ約官理網路資源向客戶 端之分配。隨後，可都公砧I/ 」丨刀地基於客戶端合約之一或多個 Q〇s政策將令牌存放於令牌 一 7砰桷杆列中。如第4圖至第ό 圖中所示，將令牌桶㈣指派給在實體節點上樣例化之 VM。可基於自令牌桶佇列中在

中存放之令牌的耗盡將該VM 識別為已呈現有效狀態。（當在有效狀態中時，根據該 VM之資料流率自令牌財列中抽出所存放之令牌的一 部分。）該方法可進—步包含部分地基於⑷QoS政策及 201201104 /或〇)餘留於令牌桶作 ~歹丨中的所存放令牌之一部分而將 令牌重新裁入至令牌桶於 砰補仵列t的步驟。 在另態樣中’本發明之實施例係關於一種能夠利用 由資料中心之租戶指令— 疋之—或多個政策來計量將封包自 VM注入至網路之读座认# 迷羊的電腦系統。該電腦系統包含具 有在其上實施之電腦軟體組件的電腦儲存媒體。電腦軟 體組件包含以下組件：第_ VM、第二VM、第一令牌桶 仔列、第二令牌桶仔列及排程器。帛-VM及第二VM 在相同實體即點上經樣例化。將第—令牌桶仔列指派給 第VM，而將第二令牌桶佇列指派給第二VM。如本文 所使用’ 4常第—令牌桶件列及第二令牌桶仔列表示定 位於貫體節點上之不同的記憶體緩衝器。 排程器經配置以讀取分別與第一 VM及第二VM相關 聯之第一客戶端合約及第二客戶端合約。該排程器進一 步旎夠根據寫入第一客戶端合約之政策將第一數量之令 牌存放於第一令牌桶佇列中。類似地，該排程器可根據 第二客戶端合約内之政策將第二數量之令牌存放於第二 令牌桶佇列中。如本文所使用，通常第一數量之令牌及 第一數量之令牌各自分別表示分配給第一 VM及第二 VM的網路頻寬之一部分。通常，令牌之第一數量與第 二數量基於在第一 VM與第二VM之間網路頻寬分配的 差異而具有不同的值。 在另一態樣中：本發明之實施例係關於一種用於對本 發明之VM之資料流率強加限制的電腦化方法。在一實 201201104 施例中，該方法涉及自排程器接受第一存放之令牌。通 常，在第一存放内提供之令牌的數量基於以下各項中之 至少一者.當則維持於令牌桶佇列内之令牌、與令牌桶 佇列相關聯之分配給本發明之VM的網路頻寬，或者如 本發明之VM分配給定位於共用實體節點上之其他 的網路頻寬。 該方法可進一步涉及根據本發明之VM之資料流率消 耗令牌的步驟，以及在大體上耗盡該等令牌之後動態地 計量資料流率的步驟。在本發明之實例中，計量過程可 包含將資料流内之封包轉發至網路介面組件，在該等令 牌大體上自令牌桶仔列耗盡之前接收該等封包，或者使 資料流内之在該等令牌大體上自令牌㈣列耗盡之後接 收的封包進人作列。在令牌桶㈣自排程器中接受第二 存放之令牌之後，假設第二存放内之令牌在數量上足以 分散由令牌桶仵列保留的封包，則可將該等進人仔列封 包轉發至網路介面組件。 已簡短地對本發明之實施例之概要進行了描述，下文 將描述適合於實施本發明之實施例之示例性操作環境。 特定言之，示例性操作環境支援藉由實行對資源消耗之 限制而允許常駐於共用實體節點上之VM公平地共享網 路頻寬的機制之功能性；因此，改良對網路頻寬之過度 耗盡或改良對經由服務合約向VM保證之服務品質的不 利影響。 大體參閱圖式 且特定言之最初參閲第 1圖，圖示用 10 201201104 :實施士發明之實施例的示例性操作環境且大體將其指 定為計算設備1GG。計算設備⑽僅為適合的計算環境 之一個實似並非意欲建議對本發明之實施例之使用範 齊或功能性的任何限制。計算環境⑽亦不應被理解為 具有與所示之任何一個組件或組件之組合相關的任何相 依性或要求。 可在電腦代碼或機器可用指令之大體上下文中描述本 發月之實她例’忒等機器可用指令包含由電腦或其他機 器（諸如個人資料助理或其他手持設備）執行之電腦可 執行指令’諸如程式組件。通常，包含常式、程式、物 2、組彳、資料結構及其類似物之程式組件代表執行特 疋任務或者實施特定抽象資料類型的代碼。可在各種系 統配置中實現本發明之實施例，該等系統配置包含手持 設備、消費性電子產品、通用電腦、專用計算設備等等。 亦可在由經由通訊網路鏈接之遠端處理設備執行任務之 分散式計算環境中實現本發明之實施例。 a 繼續參閱第1圖，計算設備⑽包含直接或者間接耗 接如下設備之匯流排11G:記憶冑112、—或多個處理器 U4、一或多個呈現組件116、輸入/輸出（1/〇)埠 組件120及說明性電源供應器122。匯流排丨1〇表示什 麼可為一或多個匯流排（諸如位址匯流排、資料匯流排 或者其組合）。儘管為清楚起見使用線來圖示第丨圖之各 種方塊，但實際上描繪各種組件並非如此清楚，且比喻 地說該等線將更精確地為灰色且模糊的。例如，吾人可 11 201201104 將呈現組件（諸如，顯示設備）認為是ί/ο纟且件。又， 處理器具有記憶體。本文之發明者認識到，其為此項技 術之本質且重申第！圖之圖示僅說明可與本發明之一或 多個實施例結合使用的示例性計算設備。不對諸如「工 作站」、「伺服器」、「膝上型電腦」、「㈣設備」等種類 加以區別，因為所有設備已預期在第i圖之範疇内，且 參考「電腦」或者「計算設備」。 通常’計算設備⑽包含各種電腦可讀取媒體。舉例 而言（但並非限制）’電腦可讀取媒體可包括隨機存取記 憶體（Random Access Mem〇ry;編）；唯讀記憶體

Only Μ⑽ry; R0M);電子可抹除可程式唯讀記憶體 (Electronically Erasable Programmable Read 〇nly Memory; EEPR0M);快閃記憶體或者其他記憶體技術； CDR〇M、數位多功能光碟（Digita丨 Versatile Disk; DVD) 或者其他光學或全像媒體；磁帶盒、磁帶、磁碟儲存器 或其他磁性儲存設備或者可用於編碼所要資訊且可由計 算設備100存取之任何其他媒體。 圯憶體112包含呈揮發性記憶體及/或非揮發性記憶 體形式之電腦儲存媒體。該記憶體可為可移除的、不可 移除的或者其組合。示例性硬體設備包含固態記憶體、 硬驅動機、光碟機等等。計算設備1〇〇包含自各種實體 (諸如，記憶體112或I/O組件！ 2〇 )中讀取資料之一 或多個處理器。呈現組件丨16將資料指示呈現給使用者 或其他設備。示例性呈現組件包含顯示設備、揚聲器、 12 201201104 卩、-且件、振動組件等等。J/Ο埠1 1 8允許計算設備i 〇〇 在邏輯上耦接至包含1/0組件120之其他設備其中一 些设備可為内建式的。說明性組件包含麥克風、控制桿、 遊戲板圓盤式衛星電視天線、掃描器、印表機、無線 設備等等。 參閱第1圖及第2圖，第1圖之示例性計算設備i 〇 〇 可實施第一實體節點255及/或第二實體節點265。此 外，虛擬機器230、虛擬機器235、虛擬機器27〇及/或 虛擬機器275中之-或多者可包含第！圖之記憶體ιι2 的一部分及/或第1圖之處理器i 14的—部分。類似地， 第4圖至第6圖之令牌桶佇列23丨、令牌桶佇列236、令 牌桶佇列271及/或令牌桶佇列276可包含第i圖之記憶 體112的一部分及/或第}圖之處理器114的一部分。 現轉至第2圖，圖示根據本發明之—實施例的方塊 圖，該方塊圖圖示經配置以將網路頻寬分配至資料中心 225内之虛擬機器23 0、虛擬機器23 5、虛擬機器27〇及 虛擬機器275以供各種服務應用使用的示例性雲端計算 平臺200。舉例而言，服務應用29〇包含分別在實體節 點2 5 5及實體節點2 5 6上樣例化之虛擬機器2 3 5及虛擬 機器270 ’以支援服務應用290的功能性。應理解並瞭 解的是，第2圖中所示之雲端計算平臺2〇〇僅為一個適 合的計算系統環境之實例且並非意欲提出對本發明之實 施例之使用範嘴或者功能性的任何限制，舉例而言，雲 端計算平臺200可為公用雲端、私密雲端或者專用雲 13 201201104 端。不應將雲端計算平臺200理解為具有與其中所示之 任何單個組件或者組件之組合相關的任何相依性或要 求。此外，儘管為清楚起見使用線來圖示第2圖之各種 方塊，但實際上描繪各種組件並非如此清楚，且比喻地 說該等線將更精確地為灰色且模糊的。此外，可使用任 何數量之實體機器、虛擬機器、資料中心、端點或者其 組合來達成本發明之實施例之範疇内的所要功能性。 雲端计异平臺200包含資料中心225，其經配置以代 管及支援由資料中心、225之租戶/客戶擁有的服務應用 (例如，服務應用290 )之虛擬機器23〇'虛擬機器235、 虛擬機器270及虛擬機器275或者端點的操作。本文所 使用之用語「服務應用」廣泛地代表在資料中心225之 上執行或者在資料中心225内存取儲存位置的任何軟體 或軟體之部分。在一實施例中’虛擬機器23〇、虛擬機 器235、虛擬機器27〇及虛擬機器275中之一或多者可 表不部分軟體、組件程式或者參與服務應用之角色的實 例。在另一實施例中，虛擬機器23〇、虛擬機器235、虛 擬機器270及虛擬機n 275中之一或多者可表示能由服 務應用存取的儲存資料。應理解並瞭解的是，第2圖中 所示之虛擬機器230、虛擬機器235、虛擬機器270及虛 擬機器275僅為用以支援服務應用之適合部分的實例且 並非意欲提出對本發明之實施例之使用範疇或者功能性 的任何限制。 通吊虛擬機器230、虛擬機器235、虛擬機器270 201201104 :虛擬機器275係基於對服務應用實行之需求（例如， 地理負載之數量）來樣例化並指定給_服務應用。如本 文所使用’用語「虛擬機器」並非意謂限制，且可代表 t何軟體、應用程式、作業系統或者處理單元執行之程 式，以構成服務應用之功能性的基礎n虛擬機器 3〇、虛擬機g 235、虛擬機器27〇及虛擬機g 275可包 含資料中心、225内之處理容量、儲存位置及其他資產以 適當地支援服務應用。 在操作中，虛擬機器230、虛擬機器加、虛擬機器 二〇及虛擬機器275被動態地分配實體節點255及實體 節點265之資源（例如，網路介面卡之網路頻寬）以滿 足當前的處理負載’同時亦滿足客戶端合約之q〇s政策 211及QoS政策22卜在一實例中，體系控制器 c〇ntr〇iler)210負責將該等Qos政策211及Q〇s政策22i 刀別自動地下推至排程器20 1及排程器2〇2。舉例而言， 體系控制器210可依靠服務模型（例如，由擁有該服務 應用之客戶設計的）來將關於如何及何時分配資源（諸 如處理容量）之導引提供至虛擬機器23〇、虛擬機器 235、虛擬機器270及虛擬機器275。在另一實例中，體 系控制器210可經配置以剖析服務等級協定 (Service-Level Agreement; SLA)以便識別將哪些保證提 供至哪些客戶及提供至執行客戶之服務應用的哪些組 件。3亥等保證可以QoS政策211及Q〇s政策221之形式 傳遞至排私201及排程202。在操作中，排程写2〇1 15 201201104 及排程器202經由令牌桶佇列實施QoS政策211及QoS 政策221 (下文中論述）。 如本文所使用，術語「排程器」並非意謂限制，但可 涵蓋藉由自集中式公用程式（例如，體系控制器2 1 〇 ) 接收心令及貫施該寻指令内之Q〇S政策來促進網路頻寬 管理的任何機制。在一示例性實施例中，排程器20丨及 排程器202可監視源自實體節點255及實體節點265上 之每一 VM的資料流，並將資料流與Q〇s政策進行比較 以達成將適當數量之網路頻寬分配至虛擬機器23〇、虛 擬機器235、虛擬機器270及虛擬機器275。在電腦網路 連接（例如，封包交換電信網路）領域中，訊務工程用 語「QoS政策」代表用於實施VM間的資源保留及分佈 的藍圖。通常，「服務品質（Q〇S)」代表將不同優先級提 供至不同服務應用、應用組件（例如，VM )、使用者或 者資料流的能力，以便保證特定的效能位準。例如，固 定位元率可保證在特定上下文中用於特定VM。因此， 將Q〇s政策211&Qos政策221之保證有利地用作用於 將資源排程給使用者的準則，該等使用者共享有限容量 貫體卽點内之相同網路資源。 斯上尸/T s餘述，可在第 ，八不一員隨郎；1¾ 一65内將資源動態地分配至一或多個VM。根據本發明之 實施例’實體節點255及實體節點265可表示任何 之計算設# ’例如，個人電腦、桌上型電腦、膝上型; 腦、行動設備、消費性電子設備、飼服器、第i圖之， 16 201201104 算設備1 00等等。在一實例中，實體節點255及實體節 點265分別代管及支援虛擬機器230、虛擬機器235、虛 Μ機态270及虛擬機器275之操作，同時代管開拓用於 支杈資料中心225之其他租戶的其他虛擬機器（未圖 示）’其中該等租戶包含由不同客戶擁有之其他服務應用 的端點。 在一態樣中，VM、在雲端計算平臺2〇〇之上下文内操 作，且因此該等VM可在實體節點内進行内部地通訊， 經由連接在實體節點255及實體節點265上進行通訊， 使該等連接動態地橫貫資料中心225，並且在外部經由 實體網路拓撲到達遠端網路之資源（例如，第3圖中企 業專用網路325之資源330 )。該等連接可涉及經由網路 雲端（未圖示）使在資料中心225之實體資源上分散之 VM互連。網路雲端使該等資源互連以使得一個νΜ可 認出另一個VM之位置以便在其間建立通訊。舉例而 σ .周路雲端可經由使服務應用290之VM 23 5與VM 270連接的通道來建立此通訊。舉例而言，該等通道可 包含（並非限制）一或多個區域網路（Local AreaNetwork; LAN)及/或廣域網路（Wide八⑽㈣霜让；wan)。該等網 路連接環境在辦公室、企業級電腦網路、網内網路及網 際網路中很普遍。因此，本文將不再對網路作進-步地 描述。 轉至第3圖，圖示根據本發明之一實施例的方塊 圖°亥方塊圖圖不具有建立於其中之兩個VM 270及275 17 201201104 的示例性分散式計算環境 兄。最初，分散式曾 300包含實體網路38〇， ^ -亥實體網路380包含企 路325及雲端計算平臺 止業專用.，用 ^ ^ 室2〇0,如參閱第2圖所論述。如 本文所使用，用語「實體_ % ’·路」並非意謂限制，彳曰可涵 蓋有形機構及裝備（例如， 彳一』 光纖線路、電路盒、開關、 天線、IP路由器等等） 無形的通訊及載波，其促 進在地理上遠端位置處端 嶷鸲點之間的通訊。舉例而言，實 體網路380可包含在網際 T、、周路内使用的，或者可用於促 進不同網路間的通訊的任 4 U有線或無線技術。 通常’資料中心225 之客戶經常需要在其令資源上執 行之服務應用以與正在另— ^位置執行之軟體進行互動， s亥軟體諸如為企業專用網路 & 325 ^如本文所使用，用語 「企業專用網路」通常代表由带 农^ 6十鼻平臺200之客戶 或客戶端管理的伺服器，复 ，、在地理上遠離資料中心 225。在第3圖所示之實施例 列宁’企業專用網路325包含 由雲端計算平臺200之客戶 谷戶鸲官理的資源，諸如資源 330。通常，該等資源代管及 文挺由客戶擁有之服務應用 之組件的操作。

如元件符號315所圖示，右眘A 在貫體網路380内建立一網 路。通常，網路3 1 5經建立以楠… 思且以傳送端點之間的封包。舉 例而言’網路3 15用以傳送右埜 _ Λ ^ 号迗在第二貫體節點255上樣例 化之VM 270與VM 275之問的私a „ •^间的封包316及資源330。在 操作中，VM 270與VM 275兩者比π太& β人Μ — 叫有皆可產生包含封包的資 料流。計量虛擬機器270之第一咨刺+ Λ . ^ ^ 資枓流以及虛擬機器275 18 201201104 之第二資料流的網路介面控制器 c〇ntroller; NIC)佇列可截取此等資料流。通常，nic佇 列320用作内部濾波器，其可控制地將第一資料流及第 一 >料k之封包轉發至網路介面組件3 1 〇。 在將經計量的資料流傳達至網路介面組件31〇之後， 網路介面組件3 1 0將資料流之封包3丨6釋放至網路3 i 5 中，其中網路介面組件3丨0可經配置為網路配接器或者 網路介面卡。換言之，網路介面組件3丨〇自NIC佇列32〇 接收經汁董的第一資料流及經計量的第二資料流，並自 第二實體節點255釋放控制的訊務量，該訊務包括經計 量之第一資料流及第二資料流内的封包3丨6。在其他實 施例（未圖示）中，可在虛擬機器27〇及虛擬機器275 自身内建立網路介面控制器之虛擬化實施（virtuaHzed

Implementation of The Network Interface Controller; VNIC)，以自動調節輸出封包之速率。 如上文所提及，網路3丨5受其可用網路頻寬限制，同 時第二實體節.點255配置有特定數量之資源（例如，網 路介面組件310之有限處理容量）。因此，若沒有額外機 制用來公平地分散網路頻寬及/或將資源置放於適當位 置，則VM 270及VM 275可在不考慮預定qoS政策的 情況下爭用網路頻寬及/或資源。舉例而言，一旦在網路 315上建立連接，則虛擬機器27〇可能試圖以獨立於其 他用法之方式消耗所有的網路頻寬，從而使虛擬機器 275之效能降級，而虛擬機器275亦試圖將封包發送至 19 201201104 知點。因此，本發明々_ y 11

月之不例性實施例引入指派給每一 VM 之令牌桶作列，兮望 ^ 等7牌桶仔列利用由資料中心2 2 5之

定之Q〇S政策計量將封包自VM注入至網路315 的速率。— + A 令，閱第4圖至第7圖直接描述該等令 牌桶仔列。 …常貝源330及資料十心' 225包含某一形式的計算 早％ (例如’中央處理單元、微處理器等等），或者與該 計算單元鏈接’以支援在其上執行之VM270及VM275 ^或組件的操作。如本文所使用，用語「計算單元」通 Μ表具有處理能力及儲存記憶體的專用計算設備，其 支援或多個作業系統或者其他基礎軟體。在一實例 中-十算單元配置有整合至或可操作地搞接至資源别 及資料中心225之有形硬體元件或機器，以使每一設備 能夠執行各種過減操作。在另—實财，計算單元可 涵蓋耦接至由資源330及資料中心225中之每一者調節 之電腦可唄取媒體的處理器（未圖示）。通常，電腦可讀 取媒體至少暫時地儲存由處理器執行之複數個電腦軟體 組件（例如，物270及謂275 )。如本文所使用，術 語「處理器」並#意謂限制且可涵蓋在計算容量中操作 之計算單元之任何元件。在該容量中’處理器可配置為 處理指令之有形物件。在一示例性實施例令，處理可涉 及提取、解碼/解釋、執行及回寫指令。 現轉至第4圖’圖示根據本發明之—實施例的方塊 圖，該方塊圖圖示分別在VM 23〇、VM 235、vm 27〇及 20 201201104 VM 275與其相應的令牌桶佇列231、令牌桶佇列2%、 令牌桶佇列271及令牌桶佇列276之間的各種資料流。 取初，該複數個VM各自常駐於單個實體節點4〇〇上。 因此，VM 230、VM 235、VM 270 及 VM 275 不得不公 平地共享網路資源，諸如網路鏈路/連接或者供應至其的 頻寬。 提供路由組件41〇,路由組件41〇瞭解VM 23〇、vm 235、VM 270及VM 275與其分別指派的令牌桶佇列 231、令牌桶佇列236、令牌桶佇列271及令牌桶佇列276 之間的映射。在操作中’路由組件4! 〇經配置以在偵測 到或多個VM試圖將資料流傳輸至實體節點4〇〇外部 之端點之後存取映射，且經配置以基於映射將資料流路 由至-或多個令牌桶佇列。舉例而言，路由組件41〇可 操取資料流、將資料流源識別為虛擬機器，及利用 映射以決定應將資料流傳遞至令牌桶佇列231，其中將 令牌桶仵列231指派給虛擬機器230。 通节在將負料流内之封包定址至實體節點彻外部之 目的地時應用上文描述的實施例。若將f料流内之封包 定址至實體節點彻内部之目的地，則路由組件41〇可 直接將封包路由至目標VM。舉例而言，若vm 23〇試圖 字封已傳達至VM 235 ’則路由組件4ί()可將封包傳送 ^ Μ 235而不經過指派給VM 230之令牌桶佇列23 j， 藉此對7牌桶仵列23 i之喃合進行略過及排除。此係歸 因於當在内部傳輸封包時缺之網路頻寬的消耗。 21 201201104 在實體節點400上提供排程器4(H。通常，排程器4〇ι 表示基於各種標準將網路頻寬動態地分配至vm 23〇、 VM 235、VM 270及VM 275的局部VM管理軟體。在 實施例中，藉由一對一關係將排程器樣例化於實體節點 上。如上文所提及，排程器401維持Q〇s政策211、Q〇s 政策212及QoS政策2丨3,將該等q〇s.政策自維持主要 客戶端或用戶’及包含Q0S政策、Q〇s政策以2及 QoS政策213之合約的體系控制器（未圖示）下推。除 QoS政策211、QoS政策212及QoS政策213之外，其 他資訊（例如，Q〇S政策的變化）可在不同時段（例如， 規則間隔或者在接收更新之後）自體系控制器遷移至排 程器401。在一實例中，可經由使用者模式API實現對 客戶端合約的更新’該使用者模式API允許管理者將

QoS 政策指定用於 VM 230、VM 235、VM 270 及 VM 275。舉例而言’可在使用者模式API處輸入相對權重 或絕對頻寬之值。「相對權重」及「絕對頻寬」為用於用 來分配網路頻寬之獨立、互斥方案中的變數，對此下文 中將更詳細地論述。

在操作中’排程器401能夠檢查寫入一或多個客戶端 合約之QoS政策211、QoS政策212及QoS政策213。 如上文所論述，客戶端合約管理將網路資源分配至VM

230、VM 235、VM 270 及 VM 275 (因為 VM 235 及 VM 270為共用服務應用（參見第2圖之元件符號290)之組 件，所以QoS政策212管理網路頻寬至VM 235及VM 22 201201104 270之分配。）在對qos政策211、q〇s政策212及q〇s 政策213檢查之後’排程器4〇1可部分地基於q〇s政策 211、QoS政策212及Q0S政策213將令牌存放於令牌 桶仔列23 1 '令牌桶佇列236、令牌桶佇列271及令牌桶 佇列276中。如本文所使用，術語「令牌」並非意謂限 制，且可涵蓋分配給一或多個VM之一部分網路頻寬的 任何表示。 根據所存放之令牌提供令牌桶佇列23 i、令牌桶佇列 236、令牌桶佇列271及令牌桶佇列276以分別強加對自 其相應VM 230、VM 235、VM27〇及VM 275之資料流 率的限制。現將參閱第7圖及第9圖來論述強加對資料 流率之限制的過程。第9圖圖示描繪用於限制資料流率 之示例性方法_的流程圖，而第7圖圖示用於基於在 其中存放之令牌732、令牌733及切734計量資料流 之令牌桶仔列則的方塊圖。最初，方法_涉及自排 程器接受第-存放之令牌（例如，令牌η?、令牌 733及令牌734)’如在方塊91〇所指示。通常，在第一 存放内提供之令牌的數量基於以下各項中之至少一者： 當前維持於令牌桶仔列71〇内之令牌732、令牌733及 令牌734、與令牌桶件列7丨〇相 τ /1 υ相關聯之分配給本發明之 VM 230的網路頻寬，或者 飞考如本發明之VM 230分配給定 位於共用實體節點400上之盆仙νλ/Γ Α I具他VM的網路頻寬。 方法900可進一步涉及以下半跑. 下步驟：根據本發明之VM 之資料流率消耗令牌732、 物之 7砰733及令牌734 (參 23 201201104 見方塊⑽’以及在大體上耗盡令牌732、令牌η 令牌734之後動態地計量資料流率（參見方塊930 )。在 本發明之實射，計量過程可包含將資料流内之封包轉 發至網路介面組件31G，在令牌732、令牌733及令牌 734大體上自7牌桶佇列71〇耗盡之前接收該等封包， 如方塊940所指示，或者當令牌732、令牌733及令牌 734已大體上自令牌桶仔列71Q消耗時可使資料流内 之後續封包進入佇列，如方塊950所指示。 舉例而言’令牌㈣列71G可包含令牌組件73〇，其 週期性地接收由排程器4〇1存放於其中之大量令牌（例 如，令牌732、令牌733及令牌734)，並根據vm 23〇 之資料流率消耗該等令牌。特定言之，如第7圖中所示， 當VM 230將資料流傳輸至令牌桶佇列71〇時，在將封 包722、封包723及封包724自佇列組件72〇釋放之前 自々牌組件730中扣除規定數量之令牌732、令牌733 及令牌734。佇列組件720用以在令牌組件73〇維持不 足數量之令牌用於消耗時使由令牌桶佇列7丨〇接收之封 包在内部進入佇列《如圖所示’在封包722、封包723 及封包724消耗當前存放之程式包732、程式包733及 程式包734之後封包721不具有相應令牌。因此，佇列 組件720將排除對封包721之釋放直至將足夠令牌重新 載入至令牌組件730中之時為止。 在令牌桶佇列7 10之令牌組件73〇自排程器401接受 另一個存放令牌之後，可自佇列組件720釋放進入佇列 24 201201104 封包721。此外，假設後續存放内之令牌數量足以分散 由令牌桶佇列710保留的封包721，則可將封包721轉 發至網路介面組件31〇。在方塊960處，在方法9〇〇内 指示該程序。 轉至第4圖至第6圖，現將論述與絕對頻寬及相對權 重有關之方案。最初’用於分散網路資源之「絕對頻寬 方案」涉及將特定數量之令牌分配至VM，而不管該等 網路資源目前正由佔據相同實體節點之其他vm所使 用。舉例而言’若實體節點400具有1〇Μβ可用網路資 源’則可將4MB之絕對值分配給VM27()。如上文所論 述’ 之分配可涉及將大量令牌存放於等於4_之 令牌桶仵列271中。若其他VM 23〇、VM 235或vm 275 中之一者呈現閒置狀態（停止使用網路資源），則 將被持續分配一致的4 MB網路資源。 在其他實施例中，用於分散網路資源之「相對權重方 案」涉及將大量令牌分配至VM，其與網路資源目前正 ^ '、他VM所使用有關。舉例而 3 ’參閱第5圖，若實體銘赴曰+ 只遐即點400具有1〇 mb可用網路 資源’則可將3 MB之相斟佶八献s ή 和對值为配至VM 275，其中權重 為1/3的可用頻寬。如圖所 固所不，剩餘之有效VM 230及 VM 235亦具備1/3 (亦即，箱中萬丄*、 J即’預疋義比率）之可用頻寬的 權重。3 MB之相對值的分西斗 刀配，步及將大量令牌存放於各自 等於3 MB之令牌桶佇不丨丨0 Q ^ 歹J 23卜令牌桶佇列236及令牌桶 佇列276中》 25 201201104 如所圖示’ VM 270已呈現閒置狀態（停止使用網路 資源）。因此’根據相對權重方案，在處於有效狀態之 VM 230、VM 23 5及VM 275之間分割最初分配給VM 270 之網路資源。然而，在實施例中，q〇s政策可為處於閒 置狀態内之VM保留特定數量之頻寬。不可將該保留之 頻寬分配給處於有效狀態之VM。在第5圖所示之情況 中’為VM 270保留1 MB ;因此，所分配之網路資源僅 可組合成9 MB。應注意，當設定Q〇s政策時，實體節 點400上之所有VM的總存量不能大於供應至其的可用 頻寬。 當分散令牌時，可週期性地（例如，2〇 ms )引動排程 器401，或者在事件發生之後動態地觸發排程器4〇1，以 重新載入指派給仍處於有效狀態中之VM的令牌桶佇 列。排程器401可基於常駐於其所指派的令牌桶佇列中 之未使用的令牌偵測已呈現閒置狀態之彼等VM。因 此，如上文所論述，排程器401可避免重新載入處於閒 置狀態中之VM之令牌桶佇列，而是可基於其Q〇s政策 保留令牌。 於Q〇S政策之指令將該等網路資源或令牌分 VM。舉例而言，參閱第6圖， 可用頻寬，但VM 235在3 MB 十’該覆蓋提供資料流可消耗二 甚至在一部分可用頻寬仍未經^ 此外，排程器401可覆蓋網路資源或大量令牌，可基 配給特定

26 201201104 的VM)時亦為如此。 現轉至第8圖，圖示根據本發明之一實施例的流程 圖，該流程圖圖示用於計量源自在單個實體節點上樣例 化之複數個VM之各種封包資料流的示例性方法8〇〇。 最初，方法800包含檢查寫入合約之一或多個Q〇s政策 的步驟如方塊810所指示。通常，該合約管理網路資 源向客戶端之分配。接著，可部分地基於客戶端合約之 QoS政策將令牌存放於令牌桶作列中如方塊所指 示如第4圖至第6圖中所示，將令牌桶佇列指派給在 實體節點上樣例化之VM。可基於自令牌桶仔列中所存 放令牌的耗盡將VM識別為已呈現有效狀態，如方塊83〇 所指不。（當在有效狀態中時，根據該VM中之資料流率 自令牌桶符列抽出所存放之令牌的—部分。）方法_ 可進步包含以下步驟：根據Q〇S政策、餘留於令牌桶 佇列中之所存放令牌的—部分或者其他標準，將令牌重 新載入至令牌桶佇列中，如方塊84〇所指示。 已就特定實施例描述本發明之實施例，該等實施例在 各個方面意欲是說明性的而非限制性的。在不脫離本發 明之範#的情況下，替代實施例對於與本發明之實施例 有關的一般技術者而言將變得顯而易見。 自上述内容可見，本發明非常適合於達到上文閣述之 所有目的及目標’以及對於线及方法而言皆為明顯且 固有的其他優點。應理解，特定的特徵及次組合具有實 用性且可在不參考其他特徵及次組合的情況下加以使 27 201201104 用。此為申請專利範圍所涵蓋且在申請專利範圍之範疇 内0 【圖式簡單說明】 在下文中參閱附圖詳細地描述本發明之實施例，其中： 第1圖為適用於實施本發明之實施例之示例性計算環 境的方塊圖； 第2圖為圖示示例性雲端計算平臺的方塊圖，該雲端 計算平臺適用於實施本發明之實施例，並經配置以在資 料中心之實體節點内分配頻寬； 第3圖為圖示根據本發明之一實施例之傳達至外部端 點之實體節點内的組件之示例性分散式計算環境的方塊 圖； 之一實施例之在虛 上之相應令牌桶佇 第4圖至第6圖為圖示根據本發明 擬機(VMs)與常駐於單個實體節點 列之間的各種資料流的方塊圖； 第7圖為根據本發明之實施例之基於在令牌桶 存放之令牌而計量資料流之令牌桶佇列的方塊圖； 第8圖為圖示根據本發 在單個實體節點上樣例化 流之示例性方法的流程圖 量源自 包資料 明之一實施例之用於計 之複數個VM的各種封 :以及 一實施例之用於對本發明 示例性方法的流程圖。 第9圖為圖示根據本發明之 之VM之資料流率強加限制的 【主要元件符號說明】 28 201201104 100 計算設備 110 匯流排 112 記憶體 114 處理器 116 呈現組件 118 I/O埠 120 I/O組件 122 電源供應器 200 雲端計算平臺 201 排程器 202 排程器 210 體系控制器 211 QoS政策 212 QoS政策 213 QoS政策 221 QoS政策 225 資料中心 230 虛擬機器/VM 23 1 令牌桶彳宁列 235 虛擬機器/VM 23 6 令牌桶佇列 255 第一實體節點 265 第二實體節點 270 虛擬機器/VM 271 令牌桶佇列 275 虛擬機器/VM 276 令牌桶彳宁列 290 服務應用 300 計算環境 310 網路介面組件 315 網路 316 封包 320 NIC佇列 325 企業專用網路 330 資源 380 實體網路 400 實體節點 401 排程器 410 路由組件 710 令牌桶佇列 720 仔列組件 721 封包 722 封包 723 封包 724 封包 730 令牌組件 73 2 令牌 733 令牌 29 201201104 7 34 令牌 800 方法 810 方塊 820 方塊 830 方塊 840 方塊 900 方法 910 方塊 920 方塊 930 方塊 940 方塊 950 方塊 960 方塊 30

Claims (1)

1. 201201104 七、申請專利範圍： 1. 一種具有在其上實施之電腦可執行指令的電腦可讀取媒 體’當執行該等電腦可執行指令時執行一方法，該方法 用於汁里源自在一單個實體節點上樣例化之複數個虛擬 機器（VMs)之各種封包資料流，該方法包括以下步驟： 檢查寫人一合約之—或多個服務品質（QoS)政策，其令該合 約管理網路資源向一第一客戶端之分配； 部分地基於該第一客戶端合約之該一或多個QoS政策將令 牌存放於—第—令牌桶仔列中，其中將該第-令牌桶仵 列指派給在該實體節點上樣例化之一第一 vm ; 基於自該第-令牌桶仔列中該等所存放之令牌的一耗㈣ 測㈣-VM處於—有效狀態中，其中根據該第一謂 之該資料w之-速率自該第—令牌桶仵列抽出該等所存 放之令牌的—部分；以及 部分地基於該一或多個Q〇S政策 列中之該等所存玫之令牌的一 第一令牌桶佇列中。 或多個QoS政策及餘留於該第 一令牌桶佇 部分將令牌重新載入至該 其中該方法進一步 2·如請求項1所述之電腦可讀取媒體 一令牌桶佇列中之玆笠π 士 .. 包括以下步驟： 基於未使用該第一

   該第一 VM處於—閒置狀態 自其傳輸封包時不自該第一 31 201201104 令牌；以及 部分地基於該第一 VM之該閒置狀態避免 至該第一令牌桶佇列中。 將令牌重新載入 3.如請求項2所述之電腦可讀取媒體 約之一或多個QoS政策之步驟包括 VM已呈現該閒置狀態時決定保留 列的令牌之一最小數量。 ’其中檢查寫入一合 以下步驟：在該第一 用於該第一令牌桶佇 4..如請求項1所述之電腦可讀取媒體， 以下步驟： 該方法進一步包括 檢查寫入一第二客戶端合約之—或 第一客戶端合約管理網路資源向 之一第二VM之分配；以及 多個QoS政策，其中該 在該實體節點上樣例化 4刀地基於該第—客戶端合約之該—或多個⑽政策將令 牌料於-第二令牌桶件列中，其中將該第二令牌桶仔 列指派給該第二VM。 ” ν林冠，具〒將今砰孖 一第一令牌桶佇列_ θ 乂驟包括以下步驟：將一第 1之令牌存放於該第— 7牌桶佇列令，其中將令牌 ；第一令牌桶仔列中 盔旦 之乂驟包括以下步驟：將一 數里之令牌存放於該第-人 $鬼θ 一 7牌桶佇列中，且其申令, 該第-數量與該第二數量的值不同。 32 201201104 6.如請求ji 4所戒夕帝hw，· d

   一客戶端合約指定的該第一 VM。 〜數量為 给由該第 如睛求項4所述之電腦可讀取媒-基於與該第一 VM相關聯之—第

   第二VM相關聯之一第二權重的關係，且其中第二了 及該第二權重分別由該第一客戶端合約及該 =重 合約指定。 一客戶端 8.如請求項5所述之電腦可讀取媒體，該方法進—步包括 以下步驟： 識別當前在一網路介面組件處可用之網路頻寬，其中該網 "面組件用以控制自該實體節點至一網路之一訊務

   網路頻寬以決定將該第一數量之令牌存放於該 第一令牌桶佇列中。 π求項8所述之電腦可讀取媒體，該方法進一步包括 以下步驟：

   Μ第一客戶端之S亥一或多個Q0|g政策以決定將一 量之令牌存放於該第一令牌桶佇列中；以及 令牌桶佇列抽出該最大數量之令牌之後覆蓋該第 33 201201104 一 VM之該資料流率。 10. 如請求項9所述之電腦可讀取媒體，其中當該第—VM 已呈現一有效狀態且將足夠的網路頻寬識別為當前可用 於該網路介面組件時將該最大數量之令牌存放於該第一 令牌桶件列中。 11. 一種能夠利用由一資料中心之租戶指定的—或多個政 桌來。十里將封包自一虛擬機器注入一網路之一速率的電 腦系統，該電腦系統包括具有其上實施之複數個電腦軟 體組件的一電腦儲存媒體，該等電腦軟體組件包括： 一第一 VM，其在一實體節點上樣例化； 一第二VM，其在該實體節點上樣例化； 一第一令牌桶佇列，其指派給該第—VM; 第一令牌桶佇列，其指派給該第二VM，其十該第一令 牌桶仔列及該第一令牌桶仔列表示定位於該實體節點上 之不同的記憶體緩衝器；以及 卜程器其凟取分別與該第一 VM及該第二vm相關聯 之第一客戶端合約及一第二客戶端合約、根據該第一 客戶為0約内之該一或多個政策將一第一數量之令牌存 放於該第—令牌桶佇列中，以及根據該第二客戶端合約 人之°亥或多個政策將一第二數量之令牌存放於該第二 二牌桶仔列中’其中該第一數量之令牌及該第二數量之 V牌各自表不分別分配給該第一 VM及該第二VM之網 34 201201104 路頻寬的—部分’且其中令牌之該第—數量與該第二數 量的值不同。 12.如請求項11所述之電腦系統，i 八丁 β弟一 vm在將一 第一資料流之該等封包自該實體節點釋放之前將封包之 該第-資料流傳輸至該第-令牌財列，且其中該第二 :M在將一第二資料流之該等封包自該實體節點釋放之 前將封包之該第二資料流傳輪至該第二令牌桶仔列。 13·如請求項12所述之電腦系統，其中在接收該第一資料 流之後，該第一令牌桶仵列為該第—資料流内之每一封 包扣除存放於其中之-規定數量的令牌，且其中在接收 該第二資料流之後，該第二令牌桶仵列為該第二資料流 内之每-封包扣除存放於其中之一規定數量的令牌。 14.如請求項13所述之電腦系統，該等電腦軟體組件進一 2括-路由組件，當該第_VM試圖將該第一資料流 傳輸至該實體節點之外的一端點時該路由組件存取該第 與該第一令牌桶仵列之間的一映射，且基於該映 μ第一資料流路由至該第一令牌桶佇列。 15二：項14所述之電腦系統’其中當該第-VM試圖 =1料流直接傳輸至該第二物時，該路由組件 將“第1料流自第一 VM路由至該第二⑽不經過 35 201201104 S亥第一令牌桶行列。 16. 如請求項is所述之電腦系統，該等電腦軟體組件進— 步包括一網路介面控制器（NIC)佇列，其計量該第一令牌 桶仵列之該第一資料流以及該第二令牌桶佇列之該第二 資料流。 17. 如請求項μ所述之電腦系統，該等電腦軟體組件進— 步包括一網路介面組件，其自該NIC佇列接收該經計量 之第一資料流及該經計量之第二資料流，以及自該實體 節點釋放一控制的訊務量，該訊務包括在該經計量之第 一資料流及該經計量之第二資料流内的該等封包。 18. 如請求項13所述之電腦系統，其中該第一令牌桶件列 包含一令牌組件，其根據該第一資料流之一速率週期性 地接收該所存放的第一數量之令牌，並消耗維持於其中 之該等令牌。 19. 如請求項18所述之電腦系統，其中該第一令牌桶佇列 包含一佇列組件，其在該令牌組件維持一不足數量之令 牌用於消耗時使由此接收的在該第一資料流内傳輪之封 包在内部進入 >(宁列。 20. —種用於對一本發明之虛擬機器（VM)之一資料流率強 36 201201104 加-限制的電腦化方法，該方法包括以下步驟： 自-排程器接受一第一存放之令牌中在該第—存放内 提供之令牌的一數量係基於以下各項中之至少—者：當 前維持在-令牌替列内之令牌、分配給與該令牌桶: 列相關聯之該本發明之VM的網路頻寬，或者如該本發 明之VM分配給定位於一共用實體節點上之其他乂厘的 網路頻寬； ^ 根據該本發明之VM之該資料流的一速率消耗該等令牌； 以及 7 ， 在大體上耗盡該等令牌之後動態地計量該資料流率，其中 計量之步驟包括以下步驟： ^ ⑷將該資料流内之封包轉發至—網路介面組件，在將 該等令牌自言亥令牌桶仵列大體上耗盡t前接收該等 封包； (b)使該資料流内之封包進入佇列，在將該等令牌自該 令牌桶佇列大體上耗盡之後接收該等封包；以及 ⑷在該令牌桶仔列自該排程器接受—第二存玫的令牌 之後’將該等進入佇列的封包轉發至該網路介面組 件。 、’ 37