TWI425421B - Load Balancing Design Method of Virtual Machine in Cloud Computing Environment - Google Patents

Description

雲端運算環境下虛擬機器之負載平衡設計方法

本發明係關於一種負載平衡設計方法，尤其指的是一種在雲端運算環境下，規劃各虛擬機器之間負載平衡之設計方法。

雲端運算被視為繼Web 2.0之後，下一波資訊科技產業的重要商機。根據估計，未來五年全球雲端運算市場規模將達到九百五十億美元，占全世界軟體市場的12%。國內大廠或研究單位如中華電信、趨勢科技、工研院等，國外大廠如Google、Yahoo、Amazon、Microsoft、IBM等，紛紛投入大量經費研究雲端運算的技術或創新的商業經營模式。

雲端運算最大的特點是所有的資訊資源都可以用服務的方式出現，使用者藉由任何上網的機制即可方便地租用這些服務，不需投入大量的資金在硬體設施上，且服務租用以量計價，也就是說可以隨著使用者的動態需求租用多或少的服務，服務費用就是以使用量為基礎來計算。

常見的雲端運算服務有三種，使用者可依據他所需要的資訊資源控制程度租用合適的服務，而相對於雲端運算的產業就有三級分層：雲端軟體、雲端平台及雲端設備。上層分級：雲端軟體Software as a Service(SaaS)打破以往大廠壟斷的局面，所有人都可以在上面自由揮灑創意，提供各式各樣的軟體服務。參與者：世界各地的軟體開發者；中層分級：雲端平台Platform as a Service(PaaS)打造程式開發平台與作業系統平台，讓開發人員可以透過網路撰寫程式與服務，一般消費者也可以在上面執行程式。參與者：Google、微軟、蘋果、Yahoo!；下層分級：雲端設備Infrastructure as a Service(IaaS)將基礎設備(如IT系統、資料庫等)整合起來，像旅館一樣，分隔成不同的房間供企業租用。參與者：Intel、IBM、戴爾、昇陽、惠普、亞馬遜。

亞馬遜的EC2是透過虛擬化技術達成快速虛擬機器佈署的功能。使用者可以租用一台虛擬機器做開發程式測試，或多台虛擬機器做分散式計算以處理大量的網頁或生物分子資料。使用虛擬化技術的優點是可以快速的移動虛擬機器到任何可以使用的實體機器，因此，一台實體機器將不再受限於單一作業系統環境。

再者，雲端運算另外又可分為三種運算模式，第一種為私有雲(private cloud)，使用者能在企業範圍內使用雲端運算服務，即是在企業防火牆保護下進行存取服務，應用程式可轉移至私有雲，不管存放於何處皆能夠提供使用者進行資料存取與使用各項服務，可動態部署與彈性化調度資源，因此，私有雲能容納更多合法的應用程式，讓使用者能從虛擬位址直接執行應用程式；第二種公有雲(public cloud)，是在企業範圍外進行存取服務，能從相同的虛擬位址使用原本在私有雲所提供的服務，沒有地域方面的限制；第三種混合方式能讓使用者在企業內部與外部進行資料存取與使用各項服務，因此能在運算資源不足的情況下，延伸內部的雲端運算服務以進行公有雲服務。

上述亞馬遜的EC2即屬公有雲，需跨國大企業才可能建置完成，而中小型企業在企業內部可建立私有雲以達成伺服器統合(server consolidation)的目標。

私有雲對於必須維護敏感性資料之安全與可用的企業來說，不失為一種解決方法。根據國內研究單位的分析，由於台灣的資訊業者有很強的硬體競爭優勢，因此適合開發私有雲資訊設備，例如一卡車內有1000台硬體主機，在軟、硬體配置完整下可以整卡車電腦的輸出。

現今的電腦主機多為多核心(multi-core)主機，因此非常適合在單一實體機器下跑多個虛擬機器，這是私有雲及公有雲不可避免的應用趨勢。然而，如何設定多台虛擬機器的實體資源使用限制，例如某一虛擬機器是否讓它擁有其他虛擬機器的兩倍CPU資源等等，使得各虛擬機器都能達成效益最大化是系統管理上很重要且現實的問題。目前的技術水平及學術研究大多著重於單一作業系統下的多工(multi-process)負載平衡，也就是說如何設定作業系統資源使得在它上面執行的多個工作能夠達到效益最大化，而對於雲端環境下各虛擬機器如何作有效的資源分配以達運作最佳化效果則皆未有突破，故有研究開發之必要。

有鑑於上述課題，本發明之目的為提供一種雲端運算環境下虛擬機器之負載平衡設計方法，藉由虛擬機器的效能模式分析及尋求多個效能模式的最佳非支配解，以達成虛擬機器之負載平衡。

緣是，為達上述目的，本發明之雲端運算環境下虛擬機器之負載平衡設計方法係包括有：透過對複數個虛擬機器的監視器之排程器參數設定及實驗設計以取得該些虛擬機器之複數個效能指標資料；藉由該些效能指標資料搭配迴歸技術演算法以建立該些虛擬機器之效能模式函數；藉由該些效能模式函數搭配多目標最佳化技術以求得複數個非支配解；以及藉由該些非支配解所對應之該些排程器參數設定，以作為該些虛擬機器負戴平衡之資源設定。

綜上所述，本發明雲端運算環境下虛擬機器之負載平衡設計方法具有進步的實驗設計以收集虛擬機器效能指標的方法、進步的迴歸技術以建立虛擬機器效能模式函數的方法，及多目標決策和進步的演算法以找到負 載平衡所需之虛擬機器監視器的排程器參數設定，藉此而能達到雲端運算環境中虛擬機器之負載平衡設計之功效。

以下將參照相關圖式，說明依據本發明較佳實施例之一種雲端運算環境下虛擬機器之負載平衡設計方法。

請參閱第1圖所示，為本發明虛擬機器之負載平衡設計方法之流程圖。圖中所示本發明係包括有流程A~D：流程A，透過對複數個虛擬機器的監視器之排程器參數設定及實驗設計以取得該些虛擬機器之複數個效能指標資料；流程B，藉由該些效能指標資料搭配迴歸技術演算法以建立該些虛擬機器之效能模式函數；流程C，藉由該些效能模式函數搭配多目標最佳化技術以求得複數個非支配解；以及流程D，藉由該些非支配解所對應之該些排程器參數設定，以作為該些虛擬機器負戴平衡之資源設定。

以下，即針對上述流程A~D之內容作一技術介紹，並於各技術介紹後舉例說明之：

流程A：透過對複數個虛擬機器的監視器之排程器參數設定及實驗設計以取得該些虛擬機器之複數個效能指標資料。在較佳的實施方式下，係於該虛擬機器監視器(Virtual Machine Monitor，以下簡稱VMM)的排程 器之複數個可調參數之不同設定下啟動該些虛擬機器執行所要做的工作，並收集工作的執行效能。例如，假設一台實體主機上要同時執行兩台虛擬機器(VM1及VM2)，其中VM1以計算工作為主，VM2以網路工作為主，則在設定該VMM排程器的該些可調參數之後，執行VM1及VM2的工作並收集VM1的計算效能及VM2的網路效能，接著，變動該VMM排程器的該些可調參數後再次執行VM1及VM2並收集資料，如此一來，即可得到在不同的VMM排程器參數設定下之VM1的計算效能與VM2的網路效能。

流程B：藉由該些效能指標資料搭配迴歸技術演算法以建立該些虛擬機器之效能模式函數。流程A所收集的效能指標資料僅能提供流程A所設計的VMM排程器之參數設定下的效能指標，而在負載平衡的需求或其他的應用環境，我們也希望能獲得流程A所沒有考慮之VMM排程器參數設定下的效能結果，但這可以透過迴歸技術來解決。實際的方式如下，以流程A收集的效能指標資料為訓練資料，採用效果最佳的迴歸技術演算法尋求迴歸模式為該些虛擬機器基於該VMM排程器之可調參數的效能模式函數，而此所使用的迴歸技術演算法，依實際經驗來說，以使用多核支持向量迴歸(multi-kernel support vector regression)技術演算法而能提供最佳之迴歸效果。

流程C：藉由該些效能模式函數搭配多目標最佳化技術以求得複數個非支配解。更進一步的說，就是利用流程B建立的該些虛擬機器效能模式函數，例如，VM1的計算效能模式函數及VM2的網路效能模式函數，及多目標最佳化技術尋找非支配解所形成之柏拉圖前緣(Pareto front)。在此非支配解為一個可能的該VMM排程器之參數設定，對被它所支配的解而言，它在每個效能指標上都有較佳的結果，但是若與另一非支配解相比，則兩個非支配解必定在某個效能指標上有其較佳的結果。非支配解是在多目標決策下所能做的最好決策，它讓一個非支配解在某個決策目標有它獨特的優勢。例如，假設流程B建立VM1的計算效能模式函數為Cal(x)，以及VM2的網路效能模式函數為Net(x)，x是該VMM排程器之該些可調參數。假設u和v是兩個非支配解，且w被u所支配，則Cal(u)>=Cal(w)且Net(u)>=Net(w)；若以u和v來說，如果Cal在u上比較佳，則Net會在v上比較佳；反之，若Cal在v上比較佳，則Net會在u上比較佳，也就是說這兩個非支配解有它們各自獨特較佳的目標值。另外值得一提的是，由於多目標最佳化問題之柏拉圖前緣搜尋一般來說是很困難的，因此我們可以使用演化式計算來解決這個問題。

流程D：藉由該些非支配解所對應之該些排程器參數設定，以作為該些虛擬機器負戴平衡之資源設定。流 程C中所找到的柏拉圖前緣之非支配解所對應的VMM排程器可調參數皆可拿來做虛擬機器負載平衡的資源設定。例如，假設某一非支配解對應之VMM排程器參數設定為VM1獲得的CPU資源為VM2的兩倍及VM2獲得的記憶體資源為VM1的兩倍，則我們可以依此設定該VMM排程器以達成VM1及VM2的效能最佳化。多個非支配解可以讓使用者有更多的選擇空間來負載平衡該些虛擬機器。

綜上所述，本發明所使用的步驟可以指引雲端運算服務提供者如何從收集虛擬機器效能資料開始做起，再利用迴歸技術建立虛擬機器的效能模式函數，之後使用多目標最佳化技術尋求多個效能模式函數的非支配解，以達成雲端運算環境中虛擬機器之負載平衡設計。

以上所述僅為舉例性，而非為限制性者。任何未脫離本發明之精神與範疇，而對其進行之等效修改或變更，均應包含於後附之申請專利範圍中。

圖1 為本發明雲端運算環境下虛擬機器之負載平衡設計方法之流程圖。

Claims (3)

1. 一種雲端運算環境下虛擬機器之負載平衡設計方法，其包括：透過對複數個虛擬機器的監視器之排程器之複數個可調參數之複數個設定及實驗設計以取得該些虛擬機器之複數個效能指標資料；藉由該些效能指標資料搭配迴歸技術演算法以建立該些虛擬機器基於該排程器之該些可調參數之效能模式函數；藉由該些效能模式函數搭配多目標最佳化技術以求得複數個非支配解；以及藉由該些非支配解所對應之該些排程器參數設定，以作為該些虛擬機器負戴平衡之資源設定。
2. 如申請專利範圍第1項所述之雲端運算環境下虛擬機器之負載平衡設計方法，其中係先設定該排程器之該些可調參數後，再藉由執行該些虛擬機器之工作以收集該些效能指標資料。
3. 如申請專利範圍第1項所述之雲端運算環境下虛擬機器之負載平衡設計方法，其中係使用多核支持向量迴歸(mul ti-kernel support vector regression)技術演算法以建立該些虛擬機器之效能模式函數。