TWI474673B - 工作負載分配裝置及其工作負載分配方法 - Google Patents

工作負載分配裝置及其工作負載分配方法 Download PDF

Info

Publication number
TWI474673B
TWI474673B TW101145819A TW101145819A TWI474673B TW I474673 B TWI474673 B TW I474673B TW 101145819 A TW101145819 A TW 101145819A TW 101145819 A TW101145819 A TW 101145819A TW I474673 B TWI474673 B TW I474673B
Authority
TW
Taiwan
Prior art keywords
processor
workload
servers
performance indicator
weight
Prior art date
Application number
TW101145819A
Other languages
English (en)
Other versions
TW201424292A (zh
Inventor
Cheng Jen Tang
Chi Cheng Chuang
Wei Sen Lin
Yu Sheng Chiu
Original Assignee
Inst Information Industry
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Inst Information Industry filed Critical Inst Information Industry
Priority to TW101145819A priority Critical patent/TWI474673B/zh
Priority to CN201210534834.1A priority patent/CN103853614B/zh
Priority to US13/714,037 priority patent/US8832269B2/en
Publication of TW201424292A publication Critical patent/TW201424292A/zh
Application granted granted Critical
Publication of TWI474673B publication Critical patent/TWI474673B/zh

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Debugging And Monitoring (AREA)
  • Multi Processors (AREA)

Description

工作負載分配裝置及其工作負載分配方法
本發明提供一種工作負載分配裝置及其工作負載分配方法。更具體而言，本發明提供一種關於透過演算法選擇機制為複數個伺服器分配工作負載之工作負載分配裝置及其工作負載分配方法。
為因應現代網路快速、穩定及多元化的要求，伺服器叢集技術已廣泛被使用。藉由複數台伺服器所組成的伺服器叢集(Cluster)，可有效提高伺服器的高度調適性，並達成擴充執行效能等等優點。然而，隨著伺服器叢集技術的發展，如何有效地將工作負載分配至伺服器叢集內的多個伺服器中，也變得更加重要且複雜。
對於傳統的伺服器叢集而言，在分配工作負載至伺服器叢集內的多個伺服器時，大多只會配置一種演算法作為工作負載的分配準則，例如透過：隨機法(Random)、輪詢法(Round-Robin)、最少連線法(Least-Connection)及加權法(Weighted)等等。再者，在分配工作負載至伺服器叢集內的多個伺服器時，通常會因應不同的工作負載分配目標，例如；負載平衡、提升效率、提升服務品質等等，決定一種較適用的演算法。
然而，處於伺服器叢集中的伺服器，經常會受到多個無法預期的變數的影響，這將使得只設置一種演算法作為工作負載的分配準則，並無法應付這些變數所造成的問題。舉例而言，當伺服器 叢集應用於電力負載分配的情況時，若僅使用一種演算法作為負載分配的準則，一旦影響伺服器叢集中的伺服器的變數改變或增加，例如電價、電流量、延遲時間或任務量等等變數，原本選用的演算法將無法有效地進行負載分配。於是，伺服器叢集中的伺服器將面臨工作負載分配失衡、工作負載分配效率減低等問題。
另一方面，當工作負載分配目標轉變時，原本設置的演算法大多無法滿足新的工作負載分配目標。舉例而言，當伺服器叢集應用於電力負載分配的情況時，若工作負載分配目標由負載平衡轉變為節省能源，則原本為了滿足負載平衡所配置的演算法，將難以繼續滿足節省能源。換言之，為了特定的工作負載分配目標，設置特定的演算法，是傳統的伺服器叢集在進行工作負載分配時，所慣用的技術手段。
綜上所述，傳統的工作負載分配並無法因應各種不同的情況，而作出適應性地改變。有鑑於此，如何適應性地將工作負載分配至伺服器叢集內的多個伺服器，確為所屬技術領域中亟需克服的重要問題。
本發明之主要目的在於適應性地將工作負載分配至伺服器叢集內的多個伺服器。因此，本發明提供一種工作負載分配裝置及其工作負載分配方法。進一步言，本發明針對伺服器叢集內的多個伺服器的運作狀態進行監視，以取得該等伺服器的運作狀態，並根據該等伺服器的運作狀態，針對複數個演算法建立一平均性能指標表。本發明對該平均性能指標表進行正規化，並建立與該平 均性能指標表相對應的一加權分配表。本發明透過該已正規化的性能指標表與該加權分配表，作為一演算法選擇機制，以自該等演算法中選出最適合當下進行工作負載分配之一候選演算法。
本發明透過監視該等伺服器的運作狀態，可即時因應該等伺服器的運作狀態的變化而選擇不同的演算法，並據以改變分配工作負載至該等伺服器的方式，故可有效改善該等伺服器突然受到多個無法預期的變數所造成的影響。再者，本發明可透過加權分配表進行適應性地調整上述演算法選擇機制，以於工作負載分配目標改變時，即時且適應性地選擇出最適合的演算法進行工作負載的分配。總言之，本務明可適應性地將工作負載分配至伺服器叢集內的多個伺服器。
為達上述目的，本發明提供了一種工作負載分配裝置，包含一監控器、一處理器及一分配器。該監控器用以監控複數個伺服器之運作狀態。該處理器電性連接至該監控器，用以執行下列操作：根據該等伺服器之運作狀態，針對複數個演算法建立一平均性能指標表；正規化該平均性能指標表；根據該已正規化性能指標表及一相對應的權重分配表而計算各該演算法之一基準值；以及根據該等基準值自該等演算法選擇一候選演算法。該分配器電性連接至該處理器，用以根據該候選演算法，分配一工作負載至該等伺服器。
為達上述目的，本發明更提供了一種工作負載分配方法，包含下列步驟：(a)使一監控器監控複數個伺服器之運作狀態； (b)使一處理器根據該等伺服器之運作狀態，針對複數個演算法建立一平均性能指標表，其中該處理器電性連接至該監控器(c)使該處理器正規化該平均性能指標表；(d)使該處理器根據該已正規化性能指標表及一相對應的權重分配表，計算各該演算法之一基準值；(e)使該處理器根據該等基準值自該等演算法選擇一候選演算法；以及(f)使一分配器根據該候選演算法，分配一工作負載至該等伺服器，其中該分配器電性連接至該處理器。
在參閱圖式及隨後所描述的實施方式後，所屬技術領域具有通常知識者便可瞭解本發明的技術手段及相關實施態樣。
本發明的內容可透過以下實施例來解釋，但本發明的實施例並非用以限制本發明必須在如以下實施例中所述的任何特定的環境、應用或方式方能實施。因此，以下實施例的說明僅在於闡釋本發明，而非用以限制本發明。在以下實施例及圖式中，與本發明非直接相關的元件已省略而未繪示，且繪示於圖式中的各元件之間的尺寸比例僅為了便於理解，而非用以限制為本發明實際的實施比例。
本發明的第一實施例如第1圖所示，其為描繪一工作負載分配裝置1之示意圖，包含一監控器11、一處理器13及一分配器15。處理器13分別與監控器11及分配器15電性連接。於本實施例中，如第1圖所示，處理器13可被設置於分配器15中，但不限於此。 於其他實施例，監控器11、處理器13及分配器15亦可透過不同的硬體實施，或全部整合在同一硬體中。
如第1圖所示，一伺服器叢集20可包含複數個伺服器，例如一第一伺服器22及一第二伺服器24等等。為了易於說明，以下提及第一伺服器22及一第二伺服器24即可視為伺服器叢集20所包含的複數個伺服器，惟此說明方式並非用以限制本發明之實施態樣。
監控器11可透過有線傳輸或無線傳輸之方式與伺服器叢集20進行通訊及資料傳遞。因此，在監控器11與第一伺服器22及第二伺服器24建立連線後，可進一步監控第一伺服器22及第二伺服器24之運作狀態。透過監控器11的上述運作，處理器13可持續地取得第一伺服器22及第二伺服器24當下的運作狀態。
根據第一伺服器22及第二伺服器24當下的運作狀態，處理器13可針對複數個演算法建立一平均性能指標表。根據使用者的需求，該等演算法可選自，例如但不限於：輪詢法(Round-Robin，RR)、隨機法(Random，RND)、最小功耗節點優先法(Least Energy First，LEF)、最少待執行任務數量優先法(Least Pending First，LPF)、最低能量/利用率比率優先法(Least Energy-to-Utilization First，LEUF)、最低時間/任務率優先法(Least Time-to-Task First，LTTF)及最低待執行任務數量/任務數量優先法(Least Pending-Task-to-Task First，LPFFT)等等。
以下將以電力工作負載之分配為例作進一步說明，惟此範例並非用以限定本發明之可實施態樣。請參考第2圖之表格T21，其 繪示了一種平均性能指標表的態樣，其中第一欄為可選擇的演算法類別，而第二欄至第七欄為對應至該等可選擇的演算法的平均參數，依序為平均功耗(單位為瓦特)、平均利用率(單位為百分比)、平均延遲時間(單位為秒)、平均未處理任務數量、平均已完成任務數量及平均能量(單位為度)。應理解，上述平均性能指標表亦可包含其他欄位，用以描述其他平均參數，並不受限於此所述。
上述平均性能指標表中各個欄位所記錄的數值，皆是處理器13根據監控器11監控伺服器叢集20之複數個伺服器所得的運作狀態所建立的，其中平均性能指標表的更新時間，可根據使用者的需求、伺服器叢集20的運作狀態、處理器13及監控器11本身的設定及運作方式等等因素而設定。舉例而言，可以每隔1小時更新一次，也可每隔24小時更新一次。
第2圖的表格T21中各個欄位所記錄的數值僅用以說明，而非用以限定本發明之可實施態樣。進一步言，在建立上述平均性能指標表後，處理器13即可得知該等可選擇的演算法，當各自對伺服器叢集20之複數個伺服器進行負載分配時，所相對應產生的平均參數值為何。
舉例而言，當採用最小功耗節點優先法(即LEF)時對伺服器叢集20之複數個伺服器進行負載分配時，該等伺服器的平均功耗、平均利用率、平均延遲時間、平均未處理任務數量、平均已完成任務數量及平均能量分別為1785.13瓦特、15.77%、4.24秒、636.27、2177.12及0.45度。基於上述說明，本領域具有通常知識 者應可理解其他可選擇的演算法與該等平均參數之間的對應關係，於此不再贅述。
在獲得表格T21中所列之該等平均參數值後，處理器13將以一正規化分佈方法，針對表格T21中所列之該等平均參數值進行正規化，以建立一已正規化性能指標表。該已正規化性能指標表可包含複數個參考欄位，各個參考欄位具有對應至可選擇的該等演算法之複數個參考參數。
對於電力負載分配而言，負載數值、延遲數值以及任務數值為常見的參考參數。因此，處理器13在針對表格T21中所列之該等平均參數值進行正規化時，可以負載數值、延遲數值以及任務數值作為正規化的依據，進而建立如第2圖之表格T22所示的已正規化性能指標表。
請參閱第2圖之表格T22，其繪示了一種已正規化性能指標表的態樣，其中第一欄為可選擇的演算法類別，而第二欄至第四欄為對應至該等可選擇的演算法的參考參數，依序為負載數值、延遲數值以及任務數值。應理解，上述已正規化性能指標表亦可包含其他欄位，用以描述其他參考參數，並不受限於此所述。
如何將第2圖之表格T21所示的平均性能指標表正規化為第2圖之表格T22所示的已正規化性能指標表已為本領域具有通常知識者所熟知，於此不再贅述。另外，以負載數值、延遲數值以及任務數值作為正規化的依據僅為了易於說明，而非用以限定本發明之可實施態樣。
第2圖的表格T22中各個欄位所記錄的數值僅用以說明，而非用以限定本發明之可實施態樣。進一步言，在建立上述已正規化性能指標表後，處理器13即可得知該等可選擇的演算法，當各自對伺服器叢集20之複數個伺服器進行負載分配時，在負載、延遲及任務三個指標上的參考數值為何。
舉例而言，當採用最小功耗節點優先法(即LEF)時對伺服器叢集20之複數個伺服器進行負載分配時，該等伺服器的負載數值、延遲數值以及任務數值分別為98.38、2.8及3.54。於本實施例，當參考數值愈高，則表示在該項參考指標上的優先權越高。舉例而言，相對於其他可選擇的演算法，最小功耗節點優先法在負載數值指標上的優先權極高(表示功率消耗低)，但其在延遲數值指標上的優先權極低(表示處理時間慢)，且在任務數值指標上的優先權也極低(表示任務處理量低)。基於上述說明，本領域具有通常知識者應可理解其他可選擇的演算法與該等參考參數之間的對應關係，於此不再贅述。
於其他實施例，工作負載分配裝置1更可包含一儲存器(未繪示於圖)，且該儲存器與處理器13電性連結，並用以暫時或長時間儲存第2圖之表格T21所示的平均性能指標以及第2圖之表格T22所示的已正規化性能指標表。
處理器13在建立第2圖之表格T22所示的已正規化性能指標表後，可進一步建立相對應於該已正規化性能指標表的一個權重分配表。如同上述，由於該已正規化性能指標表包含一負載欄位、一延遲欄位及一任務欄位，故該權重分配表包含一負載權重欄 位、一延遲權重欄位及一任務權重欄位。應理解，當該已正規化性能指標表包含不同的參考參數欄位時，該權重分配表將相應地具有不同的權重欄位。
處理器13可根據第2圖之表格T22所示的該已正規化性能指標表及該權重分配表，計算各該可選擇的演算法之一基準值(Benchmark)，並根據該等基準值自該等可選擇的演算法中選擇一候選演算法，其中該候選演算法即為當下最適合進行工作負載分配之演算法。
於本實施例，處理器13可根據下式，計算相應於各該演算法之一基準值：NPI W =NPI L ×W L +NPI D ×W D +NPI T ×W T (1)其中NPI W 為相應於各該可選擇的演算法之基準值，NPI L 、NPI D 以及NPI T 分別為相應於各該演算法之參考參數，也就是負載數值、延遲數值以及任務數值；W L 、W D 以及W T 分別為相應於NPI L 、NPI D 以及NPI T 之負載權重、延遲權重及任務權重。於其他實施例，在不違背本發明之精神的前提下，處理器13亦可根據其他方程式，計算相應於各該演算法之一基準值。
根據上述方程式(1)，處理器13可計算各該可選擇的演算法之一基準值(Benchmark)。換言之，各該可選擇的演算法之基準值是根據相對各該演算法之該負載數值與該負載權重之乘積、該延遲數值與該延遲權重之乘積及該任務數值與該任務權重之乘積之相加之和計算而來。
茲以第3圖之表格T31與表格T32為例做進一步說明，其中第3圖之表格T31為一個相對應於第2圖之表格T22之權重分配表，T32為一個相對應於第3圖之表格T31之基準值對應表。
表格T31為一權重分配表，且該權重分配表中各個欄位的權重數值，也就是負載權重、延遲權重及任務權重，是可根據使用者需求進行調整。為了說明，本實施例採用了兩組不同的權重分配，即權重A及權重B。權重A之負載權重、延遲權重及任務權重分別設定為1、1及1，而權重B之負載權重、延遲權重及任務權重分別為10、1及1。應理解，權重A及權重B的權重分配僅為了易於說明，而非用以限定本發明之可實施態樣。
如第3圖之表格T31與表格T32所示，當採用權重A的權重分配方式，各該可選擇的演算法之基準值將列示於表格T32之基準值A欄位內，而當採用權重B的權重分配方式，各該可選擇的演算法之基準值將列示於表格T32之基準值B欄位內。於本實施例，基準值越高，則表示相對應的演算法具有越高的優先權，也就是越適合作為後續工作負載分配之候選演算法。
當採用權重A的權重分配方式時，相對於其他可選擇的演算法，最低待執行任務數量/任務數量優先法(即LPFFT)可具有最高的基準值，也就是218.89。換言之，此時選擇最低待執行任務數量/任務數量優先法作為後續工作負載分配之候選演算法為最佳的選擇。相似地，當採用權重A的權重分配方式時，相對於其他可選擇的演算法，最小功耗節點優先法(即LEF)可具有最高的基準值，也就是990.14。換言之，此時選擇最小功耗節點優先法 作為後續工作負載分配之候選演算法為最佳的選擇。
在處理器13因應不同的權重分配方式，選擇出該候選演算法後，分配器15將利用該候選演算法將客戶端C要求的一工作負載分配至伺服器叢集20中之複數個伺服器中，包含第一伺服器22及第二伺服器24。應理解，上述工作負載可以包含複數個工作任務，也可以單指一個工作任務，且二者皆為本發明的可實施態樣。
本發明之第二實施例同樣為一工作負載分配裝置。本質上，本實施例所述的工作負載分配裝置可視為第一實施例所述之工作負載分配裝置1相同，且能執行工作負載分配裝置1所能執行之所有運作，因此，以下敘述將著重於強調二者之相異處。有關本實施例與第一實施例之相同處，請參閱第一實施例及其相關圖式之說明；且在未特別強調的情況下，本實施例所述的各個元件可視為第一實施例中所述的相對應元件。
於本實施例中，同樣以電力工作負載之分配為例進一步說明如下。本實施例所述的工作負載分配裝置可包含一監控器、一處理器及一分配器，其中該處理器分別與該監控器及該分配器電性連接。本實施例與第一實施例之不同處為，本實施例所述的處理器還可根據一需量反應方案(Demand Response Program)建立如第3圖之表格T31所示之權重分配表。更詳細來說，本實施例所述的處理器可根據該需量反應方案，調整表格T31所示之權重數值(即負載權重、延遲權重及任務權重)，以適應地應付不同的工作負載分配目標。
為了易於說明，上述需量反應方案僅考慮包含一緊急用電定價 (Critical Peak Pricing，CPP)及一分時用電定價(Time-of-Use Pricing，TOU Pricing)，其中分時用電定價更包含一尖峰用電定價及一離峰用電定價。應理解，於其他實施例，上述需量反應方案更可包含其他定價、或採用其他定價作為需量反應方案。
茲以第4圖之表格T41與表格T42為例進一步說明，其中第4圖之表格T41為一個相對應於第2圖之表格T22之權重分配表，T42為一個相對應於第4圖之表格T41之基準值對應表。
如第4圖之表格T41所示，不同的需量反應方案可設定不同的權重分配，其中：對應至緊急用電定價之負載權重、延遲權重及任務權重分別設定為10、1及1；對應至尖峰用電定價之負載權重、延遲權重及任務權重分別設定為5、1及1；以及對應至離峰用電定價之負載權重、延遲權重及任務權重分別設定為2.5、1及1。
隨著需量反應方案的不同，工作負載的分配目標將可能改變。舉例而言，當需量反應方案為緊急用電定價(即高電價)時，工作負載的分配目標需要的是選擇出最節省功耗的演算法，故緊急用電定價之負載權重設定為10，而其延遲權重及任務權重皆設定為1以滿足解省能源之分配目標。相似地，因應尖峰用電定價以及離峰用電定價，工作負載的分配目標可能改變，而本實施例所述的處理器仍可適應地調整權重的分配，使分配器15可適應地分配工作負載至伺服器叢集20中之複數個伺服器中。
如第4圖之表格T42所示，當需量反應方案為緊急用電定價時，最小功耗節點優先法(即LEF)的基準值最高。換言之，相對於 其他可選擇的演算法，最小功耗節點優先法的優先權最高，最適合作為後續分配工作負載之候選演算法。當需量反應方案為尖峰用電定價時，最小功耗節點優先法(即LEF)的基準值依舊是最高。換言之，相對於其他可選擇的演算法，最小功耗節點優先法的優先權最高，最適合作為後續分配工作負載之候選演算法。然而，當需量反應方案為離峰用電定價時，最低待執行任務數量/任務數量優先法(即LPFFT)的基準值最高。換言之，相對於其他可選擇的演算法，最低待執行任務數量/任務數量優先法的優先權最高，最適合作為後續分配工作負載之候選演算法。
據此，於該緊急用電定價或該尖峰用電定價之使用期間，本實施例所述的分配器將根據最小功耗節點優先法，將客戶端C要求的工作負載分配至伺服器叢集20中之複數個伺服器，包含第一伺服器22或第二伺服器24。另外，於該離峰用電定價之使用期間，本實施例所述的分配器將根據最低待執行任務數量/任務數量優先法，將客戶端C要求的工作負載分配至伺服器叢集20中之複數個伺服器，包含第一伺服器22或第二伺服器24。
於其他實施例，本實施例所述的處理器還可根據使用者需求設定一服務品質門檻值。舉例而言，服務品質門檻值可以設定為如第2圖之表格T22所示的延遲數值以及任務數值相加總和的下限值，例如設定為20。如此，當需量反應方案為緊急用電定價或時尖峰用電定價，原本候選的演算法應為最小功耗節點優先法(即LEF)，但因最小功耗節點優先法之延遲數值(即2.8)以及任務數值(即3.54)的總和僅為6.34(即2.8+3.54)，並未達所設定的 服務品質門檻值，故本實施例所述的處理器會進一步作以下處理。
具體而言，本實施例所述的處理器13將重新調整權重分配表的權重分配比例，例如降低負載權重並提升延遲權重以及任務權重的比例，使得最小功耗節點優先法之延遲數值以及任務數值得以提升。當然，此時最小功耗節點優先法之負載數值可能降低。透過持續的迭代運算，本實施例所述的處理器將可自該等可選擇的演算法中，選出滿足服務品質門檻值之候選演算法。然後，本實施例所述的分配器將根據滿足服務品質門檻值之候選演算法，將客戶端C要求的工作負載分配至伺服器叢集20中之複數個伺服器，包含第一伺服器22或第二伺服器24。應理解，上述服務品質門檻值的定義及設定值僅為本發明之一種實施態樣，並非用以限定本發明之可實施態樣。
本發明的第三實施例如第5圖所示，其描繪一種工作負載分配方法，適用於一工作負載分配裝置，該工作負載分配裝置包含一監控器、一處理器以及一分配器，其中該處理器分別電性連接至該監控器及該分配器。本質上，本實施例所述的工作負載分配裝置可視為第一實施例所述的工作負載分配裝置1。
如第5圖所示，工作負載分配方法首先執行步驟S500，使該監控器監控複數個伺服器之運作狀態。再來，執行步驟S510，使該處理器根據該等伺服器之運作狀態，針對複數個演算法建立一平均性能指標表，其中該平均性能指標表包含對應至各該演算法之該等伺服器之複數個平均參數。該等平均參數可包含但不限於：平均功耗、平均利用率、平均延遲時間、平均未處理任務數量、 平均已完成任務數量及平均能量之其中之一或其組合。
接著，執行步驟S520，使該處理器正規化該平均性能指標表，其中該已正規化性能指標表包含對應至各該演算法之該等伺服器之複數個參考值。之後，執行步驟S530，使該處理器根據該已正規化性能指標表及一相對應的權重分配表，計算各該演算法之一基準值，其中該權重分配表包含複數個相對應於該等參考值之權重。然後，執行步驟S540，使該處理器根據該等基準值自該等演算法選擇一候選演算法。最後，執行步驟S550，使該分配器根據該候選演算法，分配一工作負載至該等伺服器。
於其他實施例，上述該等參考值可包含一負載數值、一延遲數值及一任務數值，且該權重分配表包含分別對應至該負載數值、該延遲數值及該任務數值之一負載權重、一延遲權重及一任務權重。如此，上述該等基準值可為該等伺服器之該相對應負載數值與該負載權重之乘積、該相對應延遲數值與該延遲權重之乘積及該相對應任務數值與該任務權重之乘積之相加之和。
除了上述步驟，本實施例所述的工作負載分配方法亦能執行第一實施例所描述的工作負載分配裝置1的所有操作及產生相對應的所有功能，且所屬技術領域具有通常知識者可直接了解本實施例所述的工作負載分配方法如何基於第一實施例的揭露內容執行此等操作及產生此等功能，於此不再贅述。
本發明的第四實施例如第6圖所示，其描繪一種工作負載分配方法，適用於一工作負載分配裝置。該工作負載分配裝置包含一監控器、一處理器以及一分配器，其中該處理器分別電性連接至 該監控器及該分配器。本質上，本實施例所述的工作負載分配裝置可視為第二實施例所述的工作負載分配裝置1。本實施例之工作負載分配方法之步驟S500、S510、S520、S540及S550與第三實施例之該等步驟相同，因此，以下敘述將著重於二者之相異處。有關本實施例與第三實施例之相同之處，請參閱第三實施例之相關說明。
本實施例所述的工作負載分配方法，於執行步驟S530之前，可選擇地先執行步驟S525，使該處理器根據一需量反應方案建立一權重分配表，其中該權重分配表與該已正規化性能指標表相對應。然後，執行步驟S530，使該處理器根據該已正規化性能指標表及在步驟S525所建立的該權重分配表，計算各該演算法之一基準值。本實施例所述的需量反應方案可包含但不限於：一緊急用電定價及一分時用電定價之其中之一，其中分時用電定價更分為一尖峰用電定價及一離峰用電定價。
另一方面，本實施例所述的工作負載分配方法，於執行步驟S540與執行步驟S550之間，可先執行步驟S545，使該處理器判斷該候選演算法是否符合一服務品質門檻值。若判斷結果為否，則回到步驟S525，使該處理器根據該需量反應方案重新建立一權重分配表；若判斷結果為是，則執行步驟S550。
於其他實施例，上述服務品質門檻值，可以設定為延遲數值以及任務數值之總和的下限值，並於步驟S545，使該處理器判斷相應於該候選演算法之延遲數值以及任務數值的總和是否低於該服務品質門檻值。若判斷結果為否，則使處理器重新設定該權重分 配表，並回到步驟S530；若判斷結果為是，則執行步驟S550。
除了上述步驟，本實施例所述的工作負載分配方法亦能執行第二實施例所描述的工作負載分配裝置的所有操作及產生所對應的所有功能，且所屬技術領域具有通常知識者可直接了解本實施例所述的工作負載分配方法如何基於第二實施例的揭露內容執行此等操作及產生此等功能，於此不再贅述。
綜上所述，本發明提供了一種工作負載分配裝置及其工作負載分配方法。進一步言，本發明針對伺服器叢集內的多個伺服器的運作狀態進行監視，以取得該等伺服器的運作狀態，並根據該等伺服器的運作狀態，針對複數個演算法建立一平均性能指標表。本發明對該平均性能指標表進行最佳化，並建立與該平均性能指標表相對應的一加權分配表。本發明透過該已正規化的性能指標表與該加權分配表，作為一演算法選擇機制，以自該等演算法中選出最適合當下進行工作負載分配之一候選演算法。
本發明透過監視該等伺服器的運作狀態，可即時因應該等伺服器的運作狀態的變化而選擇不同的演算法，並據以改變分配工作負載至該等伺服器的方式，故可有效改善該等伺服器突然受到多個無法預期的變數所造成的影響。再者，本發明可透過加權分配表進行適應性地調整上述演算法選擇機制，以於工作負載分配目標改變時，即時且適應性地選擇出最適合的演算法進行工作負載的分配。總言之，本發明提供了可適應性地將工作負載分配至伺服器叢集內的多個伺服器之工作負載分配裝置及其工作負載分配方法。
上述實施例所闡述的內容僅用以例舉本發明的部分可實施態樣，以及闡釋本發明的技術特徵，並非用以限制本發明的實質保護範疇。因此，任何熟悉本技術領域者可輕易完成的改變或均等性的安排均屬於本發明所主張的範圍，且本發明的權利保護範圍實以申請專利範圍為準。
1‧‧‧工作負載分配裝置
11‧‧‧監控器
13‧‧‧處理器
15‧‧‧分配器
20‧‧‧伺服器叢集
22‧‧‧第一伺服器
24‧‧‧第二伺服器
C‧‧‧客戶端
RR‧‧‧輪詢法
RND‧‧‧隨機法
LEF‧‧‧最小功耗節點優先法
LPF‧‧‧最少待執行任務數量優先法
LEUF‧‧‧最低能量/利用率比率優先法
LTTF‧‧‧最低時間/任務率優先法
LPFFT‧‧‧最低待執行任務數量/任務數量優先法
T21~T42‧‧‧表格
第1圖為本發明之第一實施例的工作負載分配裝置的示意圖；第2圖為本發明之第一實施例的一種平均性能指標表及其正規化性能指標表；第3圖為本發明之第一實施例的權重分配表及其基準值對應表；第4圖為本發明之第二實施例的權重分配表及其基準值對應表；第5圖為本發明之第三實施例所述的工作負載分配方法的流程圖；以及第6圖為本發明之第四實施例所述的工作負載分配方法的流程圖。

Claims (10)

  1. 一種工作負載分配裝置，包含：一監控器，用以監控複數個伺服器之運作狀態；一處理器，電性連接至該監控器，並用以執行下列操作：根據該等複數個伺服器之運作狀態，針對複數個演算法建立一平均性能指標表；正規化該平均性能指標表；根據該已正規化性能指標表及一相對應的權重分配表，計算各該演算法之一基準值(Benchmark)；以及根據該等基準值自該等演算法選擇一候選演算法；以及一分配器，電性連接至該處理器，並用以根據該候選演算法，分配一工作負載(Workload)至該等複數個伺服器。
  2. 如請求項1所述的工作負載分配裝置，其中該處理器根據一需量反應方案(Demand Response Program)，建立該權重分配表。
  3. 如請求項2所述的工作負載分配裝置，其中該平均性能指標表包含對應至各該演算法之該等複數個伺服器之複數個平均參數。
  4. 如請求項3所述的工作負載分配裝置，其中該已正規化性能指標表包含對應至各該演算法之該等複數個伺服器之複數個參考值，且該權重分配表包含複數個相對應於該等參考值之權重。
  5. 如請求項4所述的工作負載分配裝置，其中對應至各該演算法 之該基準值為該已正規化性能指標表中相對應的各該參考值與該權重分配表中相對應的各該權重之乘積之相加之和。
  6. 一種工作負載分配方法，包含下列步驟：(a)使一監控器監控複數個伺服器之運作狀態；(b)使一處理器根據該等複數個伺服器之運作狀態，針對複數個演算法建立一平均性能指標表，其中該處理器電性連接至該監控器；(c)使該處理器正規化該平均性能指標表；(d)使該處理器根據該已正規化性能指標表及一相對應的權重分配表，計算各該演算法之一基準值；(e)使該處理器根據該等基準值自該等演算法選擇一候選演算法；以及(f)使一分配器根據該候選演算法，分配一工作負載至該等複數個伺服器，其中該分配器電性連接至該處理器。
  7. 如請求項6所述的工作負載分配方法，其中於該步驟(d)之前更包含下列步驟：(d0)使該處理器根據一需量反應方案，建立該權重分配表。
  8. 如請求項7所述的工作負載分配方法，其中該平均性能指標表包含對應至各該演算法之該等複數個伺服器之複數個平均參數。
  9. 如請求項8所述的工作負載分配方法，其中該已正規化性能指標表包含對應至各該演算法之該等複數個伺服器之複數個參考值，且該權重分配表包含複數個相對應於該等參考值之權 重。
  10. 如請求項9所述的工作負載分配方法，其中對應至各該演算法之該基準值為該已正規化性能指標表中相對應的各該參考值與該權重分配表中相對應的各該權重之乘積之相加之和。
TW101145819A 2012-12-06 2012-12-06 工作負載分配裝置及其工作負載分配方法 TWI474673B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
TW101145819A TWI474673B (zh) 2012-12-06 2012-12-06 工作負載分配裝置及其工作負載分配方法
CN201210534834.1A CN103853614B (zh) 2012-12-06 2012-12-12 工作负载分配装置及其工作负载分配方法
US13/714,037 US8832269B2 (en) 2012-12-06 2012-12-13 Workload dispatch device and workload dispatch method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
TW101145819A TWI474673B (zh) 2012-12-06 2012-12-06 工作負載分配裝置及其工作負載分配方法

Publications (2)

Publication Number Publication Date
TW201424292A TW201424292A (zh) 2014-06-16
TWI474673B true TWI474673B (zh) 2015-02-21

Family

ID=50861301

Family Applications (1)

Application Number Title Priority Date Filing Date
TW101145819A TWI474673B (zh) 2012-12-06 2012-12-06 工作負載分配裝置及其工作負載分配方法

Country Status (3)

Country Link
US (1) US8832269B2 (zh)
CN (1) CN103853614B (zh)
TW (1) TWI474673B (zh)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104731660B (zh) * 2014-12-31 2018-01-12 北京天诚盛业科技有限公司 数据分配方法、装置和系统
CN106612381B (zh) * 2015-10-27 2020-01-17 中国移动通信集团天津有限公司 一种坐席管理方法及其装置
CN107153630B (zh) * 2016-03-04 2020-11-06 阿里巴巴集团控股有限公司 一种机器学习系统的训练方法和训练系统
TW201820246A (zh) * 2016-11-23 2018-06-01 財團法人資訊工業策進會 取得用電戶之負載運作機率之方法及取得用電戶群組之負載運作機率之方法
US11144828B2 (en) 2017-06-09 2021-10-12 Htc Corporation Training task optimization system, training task optimization method and non-transitory computer readable medium for operating the same
CN109961250A (zh) * 2017-12-26 2019-07-02 顺丰科技有限公司 一种物流收派员任务分配方法及装置、设备、存储介质
CN108845876B (zh) * 2018-04-09 2022-03-04 创新先进技术有限公司 一种业务分配的方法及装置
CN109558247A (zh) * 2018-12-09 2019-04-02 江苏华存电子科技有限公司 一种避免权重失衡之自动动态调整权重数值轮替模块设计
CN109614235A (zh) * 2018-12-09 2019-04-12 江苏华存电子科技有限公司 一种可线上自动动态调变权重的轮替模块设计
CN110532077B (zh) * 2019-08-22 2021-12-07 腾讯科技（深圳）有限公司 任务处理方法、装置及存储介质
CN111929496A (zh) * 2020-09-05 2020-11-13 广州天萌建筑设计有限公司 办公建筑独立房间能耗采集、监测、分析及报警系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI305099B (en) * 2004-07-13 2009-01-01 Aruze Corp Media communication apparatus
TWI318542B (en) * 2003-05-16 2009-12-11 Ibm Method and apparatus for load sharing in wireless access networks based on dynamic transmission power adjustment of access points
TWI324715B (en) * 2005-03-04 2010-05-11 Intel Corp Controlling sequence of clock distribution to clock distribution domains
TWI326539B (zh) * 2006-11-17 2010-06-21 Inventec Appliances Corp
US20110261811A1 (en) * 2010-04-26 2011-10-27 International Business Machines Corporation Load-balancing via modulus distribution and tcp flow redirection due to server overload

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6263368B1 (en) 1997-06-19 2001-07-17 Sun Microsystems, Inc. Network load balancing for multi-computer server by counting message packets to/from multi-computer server
US6574474B1 (en) * 1999-05-20 2003-06-03 Avaya Technology Corp. Load balancing for cellular and wireless systems
EP1557986A1 (en) * 2004-01-22 2005-07-27 Alcatel Multi-criteria load balancing device for a network equipment of a communication network
US7885398B2 (en) * 2006-03-06 2011-02-08 Alcatel Lucent Multiple criteria based load balancing
BRPI0818024A2 (pt) * 2007-10-22 2015-03-24 Prad Res & Dev Ltd Método para caracterização tridimensional de um reservatório usando medições de perfilagem durante a perfuração de um poço horizontal ou com alta inclinação, método para caracterização tridimensional de um reservatório durante de um poço horizontal ou com alta inclinação através de um reservatório, sistema para caracterização tridimensional de um reservatório durante a perfuração de um poço horizontal ou com alta inclinação através de um reservatório.
US20100057625A1 (en) 2008-09-03 2010-03-04 International Business Machines Corporation Negotiation of power rates based on dynamic workload distribution
US8214843B2 (en) 2008-09-03 2012-07-03 International Business Machines Corporation Framework for distribution of computer workloads based on real-time energy costs
US8458500B2 (en) 2009-11-30 2013-06-04 International Business Machines Corporation Server allocation to workload based on energy profiles
CN101753444B (zh) * 2009-12-31 2012-01-18 卓望数码技术（深圳）有限公司 一种负载均衡方法和负载均衡装置
CN101945407B (zh) * 2010-10-22 2012-11-28 东南大学 一种应用于移动业务内容监控的负载均衡方法
US10652318B2 (en) * 2012-08-13 2020-05-12 Verisign, Inc. Systems and methods for load balancing using predictive routing

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI318542B (en) * 2003-05-16 2009-12-11 Ibm Method and apparatus for load sharing in wireless access networks based on dynamic transmission power adjustment of access points
TWI305099B (en) * 2004-07-13 2009-01-01 Aruze Corp Media communication apparatus
TWI324715B (en) * 2005-03-04 2010-05-11 Intel Corp Controlling sequence of clock distribution to clock distribution domains
TWI326539B (zh) * 2006-11-17 2010-06-21 Inventec Appliances Corp
US20110261811A1 (en) * 2010-04-26 2011-10-27 International Business Machines Corporation Load-balancing via modulus distribution and tcp flow redirection due to server overload

Also Published As

Publication number Publication date
US8832269B2 (en) 2014-09-09
CN103853614B (zh) 2017-03-29
CN103853614A (zh) 2014-06-11
TW201424292A (zh) 2014-06-16
US20140164599A1 (en) 2014-06-12

Similar Documents

Publication Publication Date Title
TWI474673B (zh) 工作負載分配裝置及其工作負載分配方法
US9546795B2 (en) Arrangement for managing data center operations to increase cooling efficiency
Shen et al. An efficient and trustworthy resource sharing platform for collaborative cloud computing
US7467291B1 (en) System and method for calibrating headroom margin
JP5621287B2 (ja) 負荷分散システムおよびコンピュータプログラム
US20090119233A1 (en) Power Optimization Through Datacenter Client and Workflow Resource Migration
KR101941282B1 (ko) 가상 데스크톱 서비스 제공 방법 및 장치
JP2015506526A5 (zh)
CN109388488B (zh) 计算机系统中的功率分配
CN108170517A (zh) 一种容器分配方法、装置、服务器及介质
US20120166825A1 (en) Controlling the Power Consumption of Computers
Wang et al. A power and thermal-aware virtual machine allocation mechanism for cloud data centers
Liao et al. Auto-scaling strategy for amazon web services in cloud computing
Kaaouache et al. An energy-efficient VM placement method for cloud data centers using a hybrid genetic algorithm
Choudhary et al. Improved virtual machine migration approaches in cloud environment
CN117785465A (zh) 一种资源调度方法、装置、设备及存储介质
Wang et al. Effects of correlation-based VM allocation criteria to cloud data centers
Nguyen et al. A multi-resource selection scheme for Virtual Machine consolidation in Cloud data centers
JP5699589B2 (ja) 処理割り当て装置、処理割り当てシステム、処理割り当て方法、処理割り当てプログラム
Zhu et al. Load balancing algorithm for web server based on weighted minimal connections
JP5920358B2 (ja) 給電制御装置、給電制御方法、及びプログラム
Justafort et al. Performance-aware virtual machine allocation approach in an intercloud environment
Msadek et al. Trust-enhanced self-configuration for organic computing systems
KR101340118B1 (ko) 소비전력 추정 장치 및 그 방법
Aswal A comparative study of resource allocation strategies for a green cloud