TW201514712A - 一種雲端應用服務負載傾向分析與資源調配方法 - Google Patents

Abstract

一種雲端應用服務負載傾向分析與資源調配方法，利用應用服務連線數與其運行環境可量測參數建立矩陣模型並配合負載傾向分析系統，依據特定時間內的紀錄統計，分析應用服務運行的負載程度與其傾向特性，依分析結果決定較適資源擴充方式，或是中低負載程度進行資源回收，並且結合資源項目調配系統調度明確的資源項目以滿足應用服務的特性，調度資源的方式，包括記憶體空間增加與回收、計算單元處理速度與數量的調整、檔案存取速度的調整、網路流向的調整、應用服務節點的增加與回收，藉以達成與滿足應用服務所設定的服務能量與效能標的。

Description

一種雲端應用服務負載傾向分析與資源調配方法

本發明係關於應用在雲端產業的平台服務(PaaS)層的應用服務效能標的管理，該技術主要是進行應用服務的負載分析、依應用服務特性最適的方式調配資源的一種雲端應用服務負載傾向分析與資源調配方法。

按，根據新聞與近年Computex展覽的資料顯示，近年來雲端服務為IT熱門討論話題，並且演進為多元化發展，應用於各行各業，例如個人雲、娛樂雲、政府雲、儲存雲等，而IaaS、PaaS打造雲端應用的基礎服務架構，扮演著雲端應用服務(SaaS)穩定成長的長期幕後推手，打造人們科技便利與智慧生活的環境。

因此雲端服務負載及資源調配變成相對重要，中華民國專利公開第201308073號，專利名稱：「自動監控與及時資源提供系統」，該篇專利專利之技術特徵為：量測叢集服務內虛擬機的負載程度並配合監控政策，再以叢集內的虛擬機為資源單位進行調配；然而，該篇專利無法透過分析精確表明應用服務真正所需要的資源。

本案發明人鑑於上述習用的各項缺點，乃亟思加以改良創新，並經多年苦心孤詣潛心研究後，終於成功研發完成本件一種雲端應用服務負載傾向分析與資源調配方法。

本發明之目的即在於提供一種雲端應用服務負載傾向分析與資源調配方法，在虛擬化環境下設計雲端應用服務與資源管理平台構成的Client/Server架構，其中雲端應用服務執行於運行環境節點，可以是虛擬機或是多個運行程序構成的叢集應用服務，透過網路與Server端雲端資源管理平台進行溝通(系統架構圖，見圖一)，量測回報代理具備量測蒐集模組與智慧型回報模組，負責蒐集與回報量測數據、負載傾向分析系統具備監控數據儲存模組、傾向分析模組與連線數監視模組，負責數據分級儲存、負載傾向項目分析與應用服務的連線數監視，資源項目調配系統具備資源平衡模組與資源配置模組負責接收資源項目調配任務，進行資源平衡性調配任務。

本發明之次一目的係在於提供一種雲端應用服務負載傾向分析與資源調配方法，利用應用服務連線數配合資源項目的歷史負載程度，分析出應用服務於低、中、高負載運行時傾向特性與需要的資源項目，進一步提供資源項目調配系統明確與精準的資源調配項目與標的，藉以達成與滿 足應用服務所設定的服務能量與效能標的。

本發明之另一目的係在於提供一種雲端應用服務負載傾向分析與資源調配方法，以虛擬化的資源管理能夠有所依據實現最適當且有效的平衡調配，增加資源調配的效益。

可達成上述發明目的之一種雲端應用服務負載傾向分析與資源調配方法，包括有：一量測回報代理，包含一量測蒐集模組及一智慧型回報模組，該量測蒐集模組應用服務運行環境內主動蒐集所量測的監控數據，依應用服務的連線數為索引建立負載數據矩陣儲存於本地端，而該智慧型回報模組於運行環境節點內，在可傳遞網路訊息的負載程度下，定時回報雲端資源管理平台；一雲端資源管理平台，包含有一負載傾向分析系統及一資源項目調配系統並分別與網路及虛擬資源集群連結；一負載傾向分析系統，包含一監控數據儲存模組、一傾向分析模組及一連線數監視模組，該監控數據儲存模組綜合應用服務的連線數量，自動定義高、中、低負載級距並可依最多連線數動態調整級距的定義，以高、中、低負載級距作為分類索引，儲存所收到的監控項目數據，該傾向分析模組依連線數高、中、低負載級距分析其應用服務於不同負載情況下需要的資源項目，具體化地建立明確資源項目配置措施，而該連線數監視模組取得應用服務的連線數，於應用服 務連線數不同負載情況下，觸發資源項目調配系統；一資源項目調配系統，包含一資源平衡模組及一資源配置模組，該資源平衡模組依雲端機房內的虛擬資源分配情況，於平衡物理實體機的原則下，明確識別出閒置可重複使用的虛擬資源項目，而該資源配置模組負責實際動態提升或擴展分配虛擬資源項目至雲端應用服務運行環境。

藉此本發明提出一種雲端應用服務負載傾向分析與資源調配之應用方法，其步驟包含有：步驟1：量測蒐集模組建立分級索引矩陣數據資料，依應用服務的連線數為索引建立負載數據矩陣儲存於本地端；步驟2：智慧型回報模組依運行節點環境負載程度，不影響應用服務效能下，自動適應性回報傳遞蒐集監控數據；步驟3：監控數據儲存模組依連線數與歷史負載程度，自動依連線數分級高、中、低負載程度；步驟4：傾向分析模組依連線數與各個資源項目的負載程度，配合分析演算法或是經驗歷程，歸納出雲端應用服務的負載傾向與需求；步驟5：傾向分析模組依應用服務的負載傾向，明確表示出虛擬資源的需求項目與措施；步驟6：連線數監視模組即時取得雲端應用服務 的總連線數的負載程度臨界值並自動觸發調配措施；步驟7：資源配置模組收到調配措施，依資源項目的需求通知資源平衡模組，進行尋找與識別具體的虛擬資源項目；步驟8：資源平衡模組接收到尋找資源項目的訊息，在不影響其它應用服務運行狀態下，識別擴展使用或回收再利用的資源項目；步驟9：資源配置模組取得具體的資源項目實際進行擴展資源項目至雲端應用服務或是由雲端應用服務回收資源項目。

10‧‧‧雲端應用服務

11‧‧‧量測回報代理

110‧‧‧量測蒐集模組

111‧‧‧智慧型回報模組

20‧‧‧雲端資源管理平台

21‧‧‧負載傾向分析系統

210‧‧‧監控數據儲存模組

211‧‧‧傾向分析模組

213‧‧‧連線數監視模組

22‧‧‧資源項目調配系統

221‧‧‧資源平衡模組

222‧‧‧資源配置模組

30‧‧‧虛擬資源集群

31~36‧‧‧資源項目

圖1為本發明一種雲端應用服務負載傾向分析與資源調配方法之系統架構圖。

圖2為該一種雲端應用服務負載傾向分析與資源調配方法之系統模組圖。

圖3為該一種雲端應用服務負載傾向分析與資源調配方法之調配流程圖。

請參閱圖1，本發明所提供之一種雲端應用服務負載傾向分析與資源調配方法，主要包括有：一量測回報代理11，包含一量測蒐集模組110 及一智慧型回報模組111，該量測蒐集模組110應用服務運行環境內主動蒐集所量測的監控數據，依應用服務的連線數為索引建立負載數據矩陣儲存於本地端，而該智慧型回報模組111於運行環境節點內，在可傳遞網路訊息的負載程度下，定時回報雲端資源管理平台20；一雲端資源管理平台20，包含有一負載傾向分析系統21及一資源項目調配系統22並分別與網路及虛擬資源集群30連結；一負載傾向分析系統21，包含一監控數據儲存模組210、一傾向分析模組211及一連線數監視模組213，該監控數據儲存模組210綜合應用服務的連線數量，自動定義高、中、低負載級距並可依最多連線數動態調整級距的定義，以高、中、低負載級距作為分類索引，儲存所收到的監控項目數據，該傾向分析模組211依連線數高、中、低負載級距分析其應用服務於不同負載情況下需要的資源項目，具體化地建立明確資源項目配置措施，而該連線數監視模組213取得應用服務的連線數，於應用服務連線數不同負載情況下，觸發資源項目調配系統22；一資源項目調配系統22，包含一資源平衡模組221及一資源配置模組222，該資源平衡模組221依雲端機房內的虛擬資源分配情況，於平衡物理實體機的原則下，明確識別出閒置可重複使用的虛擬資源項目31~36，而該資源配 置模組222負責實際動態提升或擴展分配虛擬資源項目31~36至雲端應用服務10運行環境。

是以透過上述系統構件，本發明進一步提供一種雲端應用服務負載傾向分析與資源調配之應用方法，其步驟包含有：步驟1(301)：量測蒐集模組110建立分級索引矩陣數據資料，依應用服務的連線數為索引建立負載數據矩陣儲存於本地端；步驟2(302)：智慧型回報模組111依運行節點環境負載程度，不影響應用服務效能下，自動適應性回報傳遞蒐集監控數據；步驟3(303)：監控數據儲存模組210依連線數與歷史負載程度，自動依連線數分級高、中、低負載程度；步驟4(304)：傾向分析模組211依連線數與各個資源項目的負載程度，配合分析演算法或是經驗歷程，歸納出雲端應用服務10的負載傾向與需求；步驟5(305)：傾向分析模組211依應用服務的負載傾向，明確表示出虛擬資源的需求項目與措施；步驟6(306)：連線數監視模組213即時取得雲端應用服務10的總連線數的負載程度臨界值並自動觸發調配措施；步驟7(307)：資源配置模組222收到調配措施， 依資源項目的需求通知資源平衡模組221，進行尋找與識別具體的虛擬資源項目31~36；步驟8(308)：資源平衡模組221接收到尋找資源項目的訊息，在不影響其它應用服務運行狀態下，識別擴展使用或回收再利用的資源項目；步驟9(309)：資源配置模組222取得具體的資源項目實際進行擴展資源項目至雲端應用服務10或是由雲端應用服務10回收資源項目。

如此，在虛擬化環境下設計雲端應用服務10與資源管理平台構成的Client/Server架構，其中雲端應用服務10執行於運行環境節點，可以是虛擬機或是多個運行程序構成的叢集應用服務，透過網路與Server端雲端資源管理平台20進行溝通(系統架構圖，見圖一)，量測回報代理11具備量測蒐集模組110與智慧型回報模組111，負責蒐集與回報量測數據、負載傾向分析系統21具備監控數據儲存模組210、傾向分析模組211與連線數監視模組213，負責數據分級儲存、負載傾向項目分析與應用服務的連線數監視，資源項目調配系統22具備資源平衡模組221與資源配置模組222負責接收資源項目調配任務，進行資源平衡性調配任務。

由雲端應用服務10運行環境主動蒐集所量測的監控數據，依應用服務的連線數為索引建立數據矩陣儲存於本地端，當於運行環境可傳遞網路訊息的負載程度下，定時 性回報應用服務管理平台。

當負載傾向分析系統21收到Client叢集節點回報的量測數值後，先由監控數據儲存模組210綜合應用服務的連線數量，自動定義高、中、低負載級距並可依最多連線數動態調整級距的定義，以高、中、低負載級距作為分類索引，儲存所收到的監控項目數據，進而由負載傾向分析模組211依連線數高、中、低負載級距分析其應用服務於不同負載情況下真正所需要的資源項目，可能是需要較多工的CPU、較快的檔案存取速度、較多的記憶體空間、較大的網路頻寬、較多的平行處理節點等，具體化地建立明確資源項目配置措施。

有了負載傾向分析模組211產出明確的資源項目調配措施後，連線數監視模組213即時監視與取得應用服務的連線數，於應用服務連線數達到高負載情況下，觸發資源項目調配系統22，由資源平衡模組221依雲端機房內的虛擬資源分配情況，在平衡物理實體機的原則下，明確找出閒置可使用虛擬資源項目31~36，由資源配置模組222動態提升或擴展分配至雲端應用服務10運行環境，而於低負載時，即時釋放虛擬資源項目31~36給其它應用服務或是下次高峰負載時調用。

而本發明實際運用方式已雲端樂透開獎系統為應用服務做為範例。

參閱圖一所示為系統架構圖與圖二所示為系統模組圖，雲端樂透開獎系統運行於雲端應用服務10，配合雲端資源管理平台20與量測蒐集模組110主動蒐集雲端樂透開獎系統連線數與其運行環境負載數據，而智慧型回報模組111於適當負載下，定時回報蒐集的量測數據至監控數據儲存模組210。

雲端資源管理平台20之傾向分析模組211，基於蒐集到的監控數據與連線數，進行負載傾向分析，本實例提出雲端樂透開獎系統於高負載情況下，分析出其負載傾向特性為需要平行運算能量與查詢結果快取的需求，以滿足雲端樂透開獎系統，於開獎後的大量查詢行為。

資源項目調配系統22之資源平衡模組221與資源配置模組222，尋求閒置可使用且不干擾其它運行環境的虛擬資源，並配置給高負載時的雲端樂透開獎系統。並在中、低負載時進行資源回收與釋放給其它需要的運行環境。

參閱圖三所示為應用服務負載傾向分析與資源調配流程圖，以下詳細說明。

步驟1(301)：量測蒐集模組110蒐集雲端樂透開獎系統運行節點的環境負載數據，並依其用戶連線數為索引儲存於本地節點。

步驟2(302)：智慧型回報模組111於運行環境節點內，回報傳遞蒐集的量測數據至監控數據儲存模組210。 回傳雲端樂透開獎系統運行節點的負載數據。

步驟3(303)：監控數據儲存模組210綜合雲端樂透開獎系統連線數總量自動調整並分類高、中、低為負載程度。

步驟4(304)：監控數據儲存模組210依高、中、低負載程度作為索引分類，建立與儲存雲端樂透開獎系統的監控數據，並通知傾向分析模組211。

步驟5(305)：傾向分析模組211依高、中、低負載程度的監控數據與歷史細目，分析雲端樂透開獎系統服務的負載特性，建立明確資源項目調配措施，例如雲端樂透開獎系統於高負載連線數需求時，記憶體用量變大需要加大記憶體以快取使用者查詢結果，運行節點網路流量滿載，需要擴展運行節點增加網路流量滿載處理能量。

步驟6(306)：連線數監視模組213即時監視與取得應用服務的連線數，在雲端樂透開獎系統不同負載情況下，通知資源配置模組222，觸發資源別調配措施。

步驟7(307)：資源項目調配系統22收到資源項目調配措施，呼叫資源平衡模組221尋求適當虛擬資源項目31~36。

步驟8(308)：資源平衡模組221收到虛擬資源項目31~36要求，在平衡物理實體機的原則下，明確找出閒置可使用的虛擬資源項目31~36，並通知資源配置模組222以 進行虛擬資源項目31~36配置。

步驟9(309)：資源配置模組222收到明確虛擬資源項目31~36，實際進行動態提升或擴展分配虛擬資源項目31~36至應用服務運行環境，進行增加運行節點記憶體容量與擴增運行節點加入應用服務行列，實際進行動態提升或擴展分配虛擬資源項目31~36至雲端樂透開獎系統運行環境。

本發明所提供之一種雲端應用服務負載傾向分析與資源調配方法，與其他習用技術相互比較時，更具有下列之優點：本發明提供雲端應用服務，分析負載程度與所需的虛擬資源項目，並配合其服務流量需求，提升虛擬資源項目的擴展與回收的分配效益。

本發明讓雲端應用服務運行環境的資源管理者，明確的平衡分配虛擬資源項目，解決閒置虛擬資源的耗費並合理適當分配給需要用的應用服務。

本發明讓雲端應用服務的提供者，提供應用服務的特性統計與負載分析，並能藉此發明，清楚了解雲端機房實體資源不足或過剩的項目，精準購置硬體設備與調整實體機房服務能量。

上列詳細說明係針對本發明之一可行實施例之具體說明，惟該實施例並非用以限制本發明之專利範圍，凡未脫離本發明技藝精神所為之等效實施或變更，均應包含於 本案之專利範圍中。

綜上所述，本案不但在空間型態上確屬創新，並能較習用物品增進上述多項功效，應已充分符合新穎性及進步性之法定發明專利要件，爰依法提出申請，懇請 貴局核准本件發明專利申請案，以勵發明，至感德便。

10‧‧‧雲端應用服務

11‧‧‧量測回報代理

20‧‧‧雲端資源管理平台

21‧‧‧負載傾向分析系統

22‧‧‧資源項目調配系統

30‧‧‧虛擬資源集群

31~36‧‧‧資源項目

Claims (2)

1. 一種雲端應用服務負載傾向分析與資源調配方法，包括：一量測回報代理，包含一量測蒐集模組及一智慧型回報模組，該量測蒐集模組應用服務運行環境內主動蒐集所量測的監控數據，依應用服務的連線數為索引建立負載數據矩陣儲存於本地端，而該智慧型回報模組於運行環境節點內，在可傳遞網路訊息的負載程度下，定時回報雲端資源管理平台；一雲端資源管理平台，包含有一負載傾向分析系統及一資源項目調配系統並分別與網路及虛擬資源集群連結；一負載傾向分析系統，包含一監控數據儲存模組、一傾向分析模組及一連線數監視模組，該監控數據儲存模組綜合應用服務的連線數量，自動定義高、中、低負載級距並可依最多連線數動態調整級距的定義，以高、中、低負載級距作為分類索引，儲存所收到的監控項目數據，該傾向分析模組依連線數高、中、低負載級距分析其應用服務於不同負載情況下需要的資源項目，具體化地建立明確資源項目配置措施，而該連線數監視模組取得應用服務的連線數，於應用服務連線數不同負載情況下，觸發資源項目調配系統；一資源項目調配系統，包含一資源平衡模組及一資源配置模組，該資源平衡模組依雲端機房內的虛擬資源分配情 況，於平衡物理實體機的原則下，明確識別出閒置可重複使用的虛擬資源項目，而該資源配置模組負責實際動態提升或擴展分配虛擬資源項目至雲端應用服務運行環境。
2. 一種雲端應用服務負載傾向分析與資源調配之應用方法，其步驟包含有：步驟1：量測蒐集模組建立分級索引矩陣數據資料，依應用服務的連線數為索引建立負載數據矩陣儲存於本地端；步驟2：智慧型回報模組依運行節點環境負載程度，不影響應用服務效能下，自動適應性回報傳遞蒐集監控數據；步驟3：監控數據儲存模組依連線數與歷史負載程度，自動依連線數分級高、中、低負載程度；步驟4：傾向分析模組依連線數與各個資源項目的負載程度，配合分析演算法或是經驗歷程，歸納出雲端應用服務的負載傾向與需求；步驟5：傾向分析模組依應用服務的負載傾向，明確表示出虛擬資源的需求項目與措施；步驟6：連線數監視模組即時取得雲端應用服務的總連線數的負載程度臨界值並自動觸發調配措施；步驟7：資源配置模組收到調配措施，依資源項目的需求通知資源平衡模組，進行尋找與識別具體的虛擬資源項目；步驟8：資源平衡模組接收到尋找資源項目的訊息，在不 影響其它應用服務運行狀態下，識別擴展使用或回收再利用的資源項目；步驟9：資源配置模組取得具體的資源項目實際進行擴展資源項目至雲端應用服務或是由雲端應用服務回收資源項目。