TWI591487B - The system automatically expands the method - Google Patents

The system automatically expands the method Download PDF

Info

Publication number
TWI591487B
TWI591487B TW104122574A TW104122574A TWI591487B TW I591487 B TWI591487 B TW I591487B TW 104122574 A TW104122574 A TW 104122574A TW 104122574 A TW104122574 A TW 104122574A TW I591487 B TWI591487 B TW I591487B
Authority
TW
Taiwan
Prior art keywords
service
network
load
host
hosts
Prior art date
Application number
TW104122574A
Other languages
English (en)
Other versions
TW201702900A (zh
Inventor
Kuan Lin Chiu
Fang-Fu Zeng
Hui-Ru Huang
Original Assignee
Senao Networks Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Senao Networks Inc filed Critical Senao Networks Inc
Priority to TW104122574A priority Critical patent/TWI591487B/zh
Priority to US15/206,504 priority patent/US20170019300A1/en
Publication of TW201702900A publication Critical patent/TW201702900A/zh
Application granted granted Critical
Publication of TWI591487B publication Critical patent/TWI591487B/zh

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0805—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability
    • H04L43/0817—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability by checking functioning

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Computer And Data Communications (AREA)

Description

系統自動擴展之方法
本發明是有關於一種系統自動擴展之方法，特別是指一種用於管理服務主機的系統自動擴展之方法。
雲端服務現已無所不在的服務人們生活，透過網路存取，遠端資料得以便捷無縫隙的出現在身邊，達到真正物聯網通訊。對於服務提供者而言，不再需要花費大筆硬體建置成本即可使用軟體指令建置足夠數量的虛擬或真實服務主機提供服務。習知用於提供雲端服務的主機系統包含複數服務主機進行分流，並採用預先規劃的方式以人為推估最大所需要的服務主機的數量。然而，網路服務負載量的特性是會因為地域及時間因素而使得部分時間的服務負載量較低，或部分時間服務負載量較高甚至滿載。因此，如何提供一種依當前營運狀況有效配置服務主機的數量，以維持較低的服務營運成本便成為一個重要的課題。
因此，本發明之目的，即在提供一種用於雲端服務之主機管理的系統自動擴展之方法。
於是，本發明系統自動擴展之方法，適用於一包含複數服務主機之主機系統。每一服務主機可用於提供網路服務且該等服務主機之其中至少一個已用於提供網路服務。該系統自動擴展之方法包含以下步驟：(a)藉由該主機系統設定每一服務主機的最高允許服務負載量；(b)藉由該主機系統監控已用於提供網路服務之每一服務主機的當前的網路負載量，並計算一目前負載量，該目前負載量等於已用於提供網路服務之每一服務主機的當前的網路負載量之和；及(c)藉由該主機系統根據該目前負載量，及已用於提供網路服務之每一服務主機的網路負載量與最高允許服務負載量，調整該等服務主機中用於提供網路服務的主機數量。
在一些實施態樣中，其中，在步驟(c)中，包含下列子步驟：(c-1)當該目前負載量大於已用於提供網路服務之每一服務主機的最高允許服務負載量之和時，該主機系統啟用該等服務主機中未用於提供網路服務之其中一者，用於提供網路服務；及(c-2)當已用於提供網路服務之服務主機的數量為複數，且已用於提供網路服務之服務主機的其中一者的網路負載量小於一動態監控參數時，該主機系統選擇該等已用於提供網路服務之服務主機的其中一者，不用於提供網路服務，並將所選擇的其中該者的網路負載量轉移至其他還用於提 供網路服務的服務主機，該主機系統所選擇的其中該者的網路負載量，不得超過系統的剩餘可服務負載量，定義系統的剩餘可服務負載量為已用於提供網路服務之服務主機的其餘者最高允許服務負載量總和與網路負載量總和之差。
在一些實施態樣中，其中，在步驟(c-2)中，該動態監控參數相關於已用於提供網路服務之每一服務主機的當前的網路負載量之平均。
在一些實施態樣中，其中，在步驟(c-2)中，當已用於提供網路服務之服務主機的數量為複數，且已用於提供網路服務之服務主機的其中該者的網路負載量小於該動態監控參數且超過一預設時間時，該主機系統選擇該等已用於提供網路服務之服務主機中，網路負載量最小的服務主機為其中該者，不用於提供網路服務。
在一些實施態樣中，其中，在步驟(c-2)中，該主機系統所選擇的其中該者的網路負載量，以平均分配或加權分配的方式被轉移至其他還用於提供網路服務的服務主機。
在一些實施態樣中，還包含步驟(d)，該步驟(d)包括重複步驟(b)及(c)。
本發明之功效是藉由該主機系統監控該等服務主機的網路負載量，並根據該等已用於提供網路服務之服務主機的網路負載量之和、已用於提供網路服務之每一服務主機的最高允許服務負載量、及該動態監控參數，調整 該等服務主機中用於提供網路服務的主機數量，以有效率地配置服務主機而能維持高品質雲端網路服務及較低的營運成本。
S1~S4‧‧‧步驟
S31~S32‧‧‧步驟
T1_U‧‧‧最高允許服務負載量
T2_U‧‧‧最高允許服務負載量
T1_L‧‧‧最低允許服務負載量
T2_L‧‧‧最低允許服務負載量
L1‧‧‧網路負載量
L2‧‧‧網路負載量
本發明之其他的特徵及功效，將於參照圖式的實施方式中清楚地呈現，其中：圖1是一流程圖，說明本發明系統自動擴展之方法的一實施例之步驟；圖2是一示意圖，輔助圖1說明該實施例所適用的一主機系統如何增加服務主機之數量的一態樣；及圖3是一示意圖，輔助圖1說明該實施例所適用的該主機系統如何減少服務主機之數量的另一態樣。
參閱圖1，本發明系統自動擴展之方法之實施例，適用於一包含複數服務主機之主機系統。每一服務主機可用於提供網路服務，如公有雲端服務及私有雲端服務，且該等服務主機之其中至少一個已用於提供網路服務。該系統自動擴展之方法包含步驟S1~S4，其中，步驟S3包括子步驟S31及子步驟S32。特別值得一提的是：在本實施例中，該主機系統的該等服務主機是用於提供雲端服務，但不在此限。
於步驟S1，藉由該主機系統設定每一服務主機的最高允許服務負載量及最低允許服務負載量。特別要補 充說明的是：每一服務主機之最高允許服務負載量及最低允許服務負載量的設定無相依性，且最高允許服務負載量大於最低允許服務負載量。此外，服務負載量係指評估營運穩定度所需之因子，可為多種類型因子，該因子資訊之取得可為服務主機自身收集或由第三方主機提供。
於步驟S2，藉由該主機系統監控已用於提供網路服務之每一服務主機的當前的網路負載量，並計算一目前負載量。該目前負載量等於已用於提供網路服務之每一服務主機的當前的網路負載量之和。
於步驟S3，藉由該主機系統根據該目前負載量，及已用於提供網路服務之每一服務主機的網路負載量、最高允許服務負載量與最低允服務負載量，調整該等服務主機中用於提供網路服務的主機數量。
於步驟S31，當該主機系統判斷該目前負載量大於已用於提供網路服務之每一服務主機的最高允許服務負載量之和時，該主機系統啟用該等服務主機中未用於提供網路服務之其中一者，用於提供網路服務。
於步驟S32，當已用於提供網路服務之服務主機的數量為複數，且已用於提供網路服務之服務主機的其中一者的網路負載量小於一動態監控參數且超過一預設時間時，該主機系統選擇該等已用於提供網路服務之服務主機的其中一者，不用於提供網路服務，並將所選擇的其中該者的網路負載量以平均分配或加權分配的方式轉移至其他還用於提供網路服務的服務主機。該主機系統所選擇的其 中該者的網路負載量，不得超過已用於提供網路服務之服務主機的其餘者的剩餘可服務負載量之和，定義剩餘可服務負載量為最高允許服務負載量與網路負載量之差。該動態監控參數相關於已用於提供網路服務之每一服務主機的當前的網路負載量之平均。在本實施例中，該主機系統選擇該等已用於提供網路服務之服務主機中，網路負載量最小的服務主機為其中該者，不用於提供網路服務。該動態監控參數為已用於提供網路服務之每一服務主機的當前的網路負載量之平均，且可週期性透過計算當前負載量進行更新，並不需要預設數值。
於步驟S4，藉由該主機系統重複執行步驟S2、S3、S31、及S32，直到沒有服務主機可被選擇關閉也沒有服務主機可被選擇啟用。
以下為方便說明起見，以該主機系統包含二服務主機，即一第一服務主機及一第二服務主機為例作說明。
參閱圖1與圖2，圖2說明該主機系統如何增加服務主機之數量的一態樣。假定該主機系統的網路負載量定義為可接受連線數量，於圖2中的二方塊分別表示該第一服務主機及該第二服務主機所能處理的最大網路負載量，其最大網路負載量相關於每一服務主機可接受之最大連線數量，例如為10,000。該主機系統設定該第一服務主機及該第二服務主機的最高允許服務負載量T1_U、T2_U例如分別為9,000及8,500，一般來說，為保持系統穩定，最高允 許服務負載量會小於最大網路負載量。該第一服務主機及該第二服務主機的最低允許服務負載量T1_L、T2_L例如分別為300及300，當一服務主機的網路負載量低於其最低允許服務負載量時，該主機系統控制該服務主機操作於一休眠或關機的省電狀態。假設該主機系統的該第一服務主機已用於提供網路服務，該第二服務主機尚未提供網路服務而處於該省電狀態。當該主機系統監控該第一服務主機的網路負載量變為L1時，因為該第二服務主機的網路負載量為零，此時的該目前負載量也等於L1，且該主機系統判斷該目前負載量L1大於已用於提供網路服務之每一服務主機的最高允許服務負載量之和，也就是大於該第一服務主機的最高允許服務負載量，即L1>T1_U，因此，該主機系統選擇該等服務主機中未用於提供網路服務之其中一者，即該第二服務主機，由省電狀態喚醒並用於提供網路服務，使網路負載量進行分流，則該第一服務主機的網路負載量將可以回到小於該最高允許服務負載量T1_U。
參閱圖1與圖3，圖3說明該主機系統如何減少服務主機之數量的另一態樣。類似圖2，圖3中的二方塊也分別表示該第一服務主機及該第二服務主機所能處理的最大網路負載量。假設該主機系統的該第一服務主機及該第二服務主機都已用於提供網路服務。當該主機系統監控該第一服務主機及該第二服務主機的網路負載量分別為L1及L2時，即5,500及3000，此時的該目前負載量等於L1+L2，如8500，且該主機系統判斷該目前該第二服務主機的網路 負載量L2小於該動態監控參數，即L2<(L1+L2)/2，也就是3000<4250，其中，分母為2是已用於網路服務之主機數量，且第二服務主機的網路負載量可交由該第一服務主機之剩餘服務負載量繼續服務，即L2<(T1_U-L1)，也就是3000<3500，上述過程持續達該預設時間，如300秒。因此，該主機系統選擇該等已用於提供網路服務之服務主機的其中一者，且將該者，如該第二服務主機，所處理的網路負載量交由該第一服務主機處理，並控制該第二服務主機不用於提供網路服務，以改變為處於該省電狀態。
特別補充說明的是：該系統自動擴展之方法可以由該主機系統的該等服務主機之其中一者，例如該者是一操作於一主控模式(Master)的服務主機來執行，該系統自動擴展之方法也可以由一不提供網路服務的電子設備，如另一虛擬電腦主機系統來執行，不在此限。
綜上所述，藉由該主機系統執行該系統自動擴展之方法，以即時地監控該等服務主機的網路負載量，並根據該等已用於提供網路服務之服務主機的網路負載量之和、已用於提供網路服務之每一服務主機的網路負載量、最高允許服務負載量、及該動態監控參數等資訊，調整該等服務主機中用於提供網路服務的主機數量，以有效率且即時地配置服務主機的數量，故確實能達成本發明之目的。
惟以上所述者，僅為本發明之較佳實施例而已，當不能以此限定本發明實施之範圍，凡是依本發明申請專 利範圍及專利說明書內容所作之簡單的等效變化與修飾，皆仍屬本發明專利涵蓋之範圍內。
S1~S4‧‧‧步驟
S31~S32‧‧‧步驟

Claims (6)

  1. 一種系統自動擴展之方法，適用於一包含複數服務主機之主機系統，每一服務主機可用於提供網路服務且該等服務主機之其中至少一個已用於提供網路服務，該系統自動擴展之方法包含以下步驟：(a)藉由該主機系統設定每一服務主機的最高允許服務負載量；(b)藉由該主機系統監控已用於提供網路服務之每一服務主機的當前的網路負載量，並計算一目前負載量，該目前負載量等於已用於提供網路服務之每一服務主機的當前的網路負載量之和；及(c)藉由該主機系統根據該目前負載量，及已用於提供網路服務之每一服務主機的網路負載量與最高允許服務負載量，調整該等服務主機中用於提供網路服務的主機數量。
  2. 如請求項1所述的系統自動擴展之方法，其中，在步驟(c)中，包含下列子步驟：(c-1)當該目前負載量大於已用於提供網路服務之每一服務主機的最高允許服務負載量之和時，該主機系統啟用該等服務主機中未用於提供網路服務之其中一者，用於提供網路服務；及(c-2)當已用於提供網路服務之服務主機的數量為複數，且已用於提供網路服務之服務主機的其中一者的網路負載量小於一動態監控參數時，該主機系統選擇該 等已用於提供網路服務之服務主機的其中一者，不用於提供網路服務，並將所選擇的其中該者的網路負載量轉移至其他還用於提供網路服務的服務主機，該主機系統所選擇的其中該者的網路負載量，不得超過系統的剩餘可服務負載量，定義系統的剩餘可服務負載量為已用於提供網路服務之服務主機的其餘者的最高允許服務負載量總和與網路負載量總和之差。
  3. 如請求項2所述的系統自動擴展之方法，其中，在步驟(c-2)中，該動態監控參數相關於已用於提供網路服務之每一服務主機的當前的網路負載量之平均。
  4. 如請求項3所述的系統自動擴展之方法，其中，在步驟(c-2)中，當已用於提供網路服務之服務主機的數量為複數，且已用於提供網路服務之服務主機的其中該者的網路負載量小於該動態監控參數且超過一預設時間時，該主機系統選擇該等已用於提供網路服務之服務主機中，網路負載量最小的服務主機為其中該者，不用於提供網路服務。
  5. 如請求項4所述的系統自動擴展之方法，其中，在步驟(c-2)中，該主機系統所選擇的其中該者的網路負載量，以平均分配或加權分配的方式被轉移至其他還用於提供網路服務的服務主機。
  6. 如請求項5所述的系統自動擴展之方法，還包含步驟(d)，該步驟(d)包括重複步驟(b)及(c)。
TW104122574A 2015-07-13 2015-07-13 The system automatically expands the method TWI591487B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
TW104122574A TWI591487B (zh) 2015-07-13 2015-07-13 The system automatically expands the method
US15/206,504 US20170019300A1 (en) 2015-07-13 2016-07-11 Method and system for auto distribution of workload among a plurality of servers which run web services

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
TW104122574A TWI591487B (zh) 2015-07-13 2015-07-13 The system automatically expands the method

Publications (2)

Publication Number Publication Date
TW201702900A TW201702900A (zh) 2017-01-16
TWI591487B true TWI591487B (zh) 2017-07-11

Family

ID=57776000

Family Applications (1)

Application Number Title Priority Date Filing Date
TW104122574A TWI591487B (zh) 2015-07-13 2015-07-13 The system automatically expands the method

Country Status (2)

Country Link
US (1) US20170019300A1 (zh)
TW (1) TWI591487B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109495306B (zh) * 2018-11-27 2022-02-01 平安科技（深圳）有限公司 一种业务网络的扩容方法及设备
CN113822485B (zh) * 2021-09-27 2023-10-20 国网山东省电力公司泗水县供电公司 一种配电网调度任务优化方法及系统

Also Published As

Publication number Publication date
TW201702900A (zh) 2017-01-16
US20170019300A1 (en) 2017-01-19

Similar Documents

Publication Publication Date Title
CN108965485B (zh) 容器资源的管理方法、装置和云平台
US8473768B2 (en) Power control apparatus and method for cluster system
US9154549B2 (en) Dynamic server farms
US8817817B2 (en) Method for ethernet power savings on link aggregated groups
KR100968202B1 (ko) 소비전력 감소를 위한 클러스터 시스템 및 그의 전원 관리방법
CN107241374B (zh) 负载平衡系统、负载平衡装置及拓朴管理方法
US8054598B1 (en) Negotiating capacity allocation among distributed current protection devices
CN102646062A (zh) 一种云计算平台应用集群弹性扩容方法
WO2018121334A1 (zh) 一种提供网页应用服务的方法、装置、电子设备及系统
CN108334405A (zh) 频率异构cpu，频率异构实现方法、装置及任务调度方法
WO2016172848A1 (zh) 一种调整云计算中虚拟资源的方法及装置
JP2010161501A (ja) ネットワークの管理システム及び管理方法
TWI591487B (zh) The system automatically expands the method
US20120277921A1 (en) Cross-profile coordination of energy consumption policies
JP6414456B2 (ja) 需要家装置、電力消費管理装置、電力消費管理システム、電力消費管理方法および電力消費管理プログラム
JP6263995B2 (ja) 情報処理システム、管理装置、情報処理システムの制御方法及び管理装置の制御プログラム
US20170308137A1 (en) System and method for rack over provisioning and intelligent power management
JP5150598B2 (ja) ネットワーク管理装置
JP2015011365A (ja) プロビジョニング装置、システム、プロビジョニング方法、および、プロビジョニングプログラム
US10171572B2 (en) Server pool management
CN105591790B (zh) 数据通信连接池管理装置
US8452848B1 (en) Facilitating secure 24x7 on-demand service availability while minimizing power consumption and power load spikes
TWI774934B (zh) 伺服器系統、伺服器裝置及伺服器裝置的功耗管理方法
JP6543090B2 (ja) 負荷分散装置、負荷分散方法及びプログラム
WO2020258569A1 (zh) 一种整机箱功耗的分配方法、系统、装置及可读存储介质

Legal Events

Date Code Title Description
MM4A Annulment or lapse of patent due to non-payment of fees