TW201824822A - 分段式處理請求的負載平衡系統及其方法 - Google Patents

Abstract

一種分段式處理請求的負載平衡系統及其方法，透過負載平衡端將來自瀏覽端的請求分配至各接收端，並且由接收端將請求增加至處理端的任務隊列，使處理端以先進先出的方式執行任務隊列中的請求，並且根據資源額度是否額滿生成相應訊息以寫入結果文件，以及提供瀏覽端查詢結果文件以確認請求的執行結果，用以提高系統負載能力之技術功效。

Description

分段式處理請求的負載平衡系統及其方法

本發明涉及一種負載平衡系統及其方法，特別是將請求分為二階段處理之分段式處理請求的負載平衡系統及其方法。

近年來，隨著網際網路的普及與蓬勃發展，各種網路服務便如雨後春筍般出現，其中又以電子商務最受矚目。

一般而言，為了促銷或推廣等目的，電子商務通常會舉辦限時或限量的活動以提升關注及購買力。然而，此一方式容易導致在短暫的時間內湧入大量的請求封包，造成系統負載大幅增加而不堪負荷的情況發生，甚至因為系統的運算資源耗盡而當機，因此，具有系統負載能力不佳之問題。

有鑑於此，便有廠商提出負載平衡的技術，透過多台伺服器分散負載來避免運算資源耗盡。然而，此一方式隨著請求封包的數量增加，伺服器的數量也必須逐步增加，所以需要耗費大量的硬體成本，在實現上及管理上皆具有侷限性，因此，仍然無法有效解決系統負載能力不佳的問題。

綜上所述，可知先前技術中長期以來一直存在系統負載能力不佳之問題，因此實有必要提出改進的技術手段，來解決此一問題。

本發明揭露一種分段式處理請求的負載平衡系統及其方法。

首先，本發明揭露一種分段式處理請求的負載平衡系統，此系統包含：瀏覽端、接收端、負載平衡端及處理端。其中，瀏覽端用以傳送請求，以及查詢結果文件；接收端用以將每一請求依序增加至任務隊列，並且在每一請求增加至任務隊列後，傳送相應請求的確認訊息至相應的所述瀏覽端；負載平衡端用以接收來自所述瀏覽端的所述請求，並且持續將所述請求分別傳送至所述接收端其中之一；處理端具有任務隊列，用以根據先進先出的方式處理在任務隊列中的每一請求，當處理端確認資源額度為未額滿時，生成相應所述請求的成功訊息並寫入結果文件，當處理端確認資源額度為額滿時，生成相應所述請求的失敗訊息並寫入結果文件，並且允許所述瀏覽端查詢結果文件以確認結果。

另外，本發明揭露一種分段式處理請求的負載平衡方法，應用在具有瀏覽端、接收端、負載平衡端及處理端的網路環境中，其步驟包括：瀏覽端傳送請求；負載平衡端接收來自瀏覽端的所述請求，並且持續將所述請求分別傳送至所述接收端其中之一；接收端將每一請求依序增加至處理端的任務隊列，並且在每一請求增加至任務隊列後，傳送相應請求的確認訊息至相應的所述瀏覽端；處理端根據先進先出的方式處理在任務隊列中的每一請求，當處理端確認資源額度為未額滿時，生成相應所述請求的成功訊息並寫入結果文件，當處理端確認資源額度為額滿時，生成相應所述請求的失敗訊息並寫入結果文件；以及處理端允許所述瀏覽端查詢結果文件以確認結果。

本發明所揭露之系統與方法如上，與先前技術的差異在於本發明是透過負載平衡端將來自瀏覽端的請求分配至各接收端，並且由接收端將請求增加至處理端的任務隊列，使處理端以先進先出的方式執行任務隊列中的請求，並且根據資源額度是否額滿生成相應訊息以寫入結果文件，以及提供瀏覽端查詢結果文件以確認請求的執行結果。

透過上述的技術手段，本發明可以達成提高系統負載能力之技術功效。

以下將配合圖式及實施例來詳細說明本發明之實施方式，藉此對本發明如何應用技術手段來解決技術問題並達成技術功效的實現過程能充分理解並據以實施。

在說明本發明所揭露之分段式處理請求的負載平衡系統及其方法之前，先對本發明所自行定義的名詞作說明，本發明所述的資源額度是指預先設定的商品或服務之數量，亦可稱為限量商品或服務，例如：優惠券數量、按摩服務次數等等。

以下配合圖式對本發明分段式處理請求的負載平衡系統及其方法做進一步說明，請先參閱「第1圖」，「第1圖」為本發明分段式處理請求的負載平衡系統之系統方塊圖，此系統包含：瀏覽端110、接收端120、負載平衡端130及處理端140。其中，瀏覽端110為具有網路連線能力的計算機裝置，如：個人電腦、平板電腦、智慧型手機、個人數位助理等等，並且能夠透過瀏覽器（Browser）瀏覽網頁、傳送請求及查詢處理端140的結果文件。

接收端120用以將每一個請求依序增加至處理端140的一個任務隊列（Task Queues），並且在每一請求增加至任務隊列後，傳送相應此請求的確認訊息至相應的所述瀏覽端110。具體而言，接收端120並不執行接收到的請求，而是將接收到的請求傳送至處理端140以增加至一個任務隊列中，並且在完成增加後，反饋確認訊息至發出此請求的瀏覽端110。如此一來，瀏覽端110即可得知請求已被接收。特別要說明的是，在此階段瀏覽端110尚無法確認請求已被同意，僅得知請求已被接收。在實際實施上，接收端120無法將所述請求增加至處理端140的任務隊列時，可產生取消訊息並傳送至相應的所述瀏覽端110已告知其請求雖被接收但無法被處理。

負載平衡端130用以接收來自瀏覽端110的請求，並且持續將所述請求分別傳送至所述接收端120其中之一。在實際實施上，負載平衡端130可透過輪流排程（Round-Robin, RR）、權重輪流排程（Weight Round Robin, WRR）、等待時間排程（Writing Time, WT）等等排程演算法將請求分配至各接收端120，特別要說明的是，任何應用在負載平衡的排程演算法皆不脫離本發明的應用範疇。另外，所述請求可至少包含來源地址及識別碼，以便負載平衡端130根據來源地址及識別碼自所述接收端選擇其中之一以傳送請求，舉例來說，假設有三個接收端，當來源地址為台灣且根據識別碼判斷為貴賓會員時，將請求傳送至第一個接收端；當來源地址為台灣且根據識別碼判斷為一般會員時，將請求傳送至第二個接收端；當以上皆非時，將請求傳送至第三個接收端。

處理端140具有任務隊列，用以根據先進先出（First In First Out, FIFO）的方式處理在任務隊列中的每一請求，當處理端140確認資源額度為未額滿時，生成相應所述請求的成功訊息並寫入結果文件，當處理端140確認資源額度為額滿時，生成相應所述請求的失敗訊息並寫入結果文件，並且允許所述瀏覽端110查詢結果文件以確認結果。在實際實施上，資源額度預設一個數值，當生成成功訊息的次數與此數值相等時，資源額度設定為額滿，舉例來說，假設資源額度預設為數值5，當生成五次成功訊息時，資源額度即由數值5改設為額滿。另外，當處理端140確認資源額度為額滿時，仍然允許寫入任務隊列，或者不允許所述接收端120將請求增加至任務隊列中，並且刪除任務隊列中的所有請求。

接著，請參閱「第2圖」，「第2圖」為本發明分段式處理請求的負載平衡方法之方法流程圖，應用在具有瀏覽端110、負載平衡端130、接收端120及處理端140的網路環境中，其步驟包括：瀏覽端110傳送請求（步驟210）；負載平衡端130接收來自所述瀏覽端110的所述請求，並且持續將所述請求分別傳送至所述接收端120其中之一（步驟220）；接收端120將每一請求依序增加至處理端140的任務隊列，並且在每一請求增加至任務隊列後，傳送相應此請求的確認訊息至相應的所述瀏覽端110（步驟230）；處理端140根據先進先出的方式處理在任務隊列中的每一請求，當處理端140確認資源額度為未額滿時，生成相應所述請求的成功訊息並寫入結果文件，當處理端140確認資源額度為額滿時，生成相應所述請求的失敗訊息並寫入結果文件（步驟240）；處理端140允許所述瀏覽端110查詢結果文件以確認結果（步驟250）。透過上述步驟，即可透過負載平衡端130將來自瀏覽端110的請求分配至各接收端120，並且由接收端120將請求增加至處理端140的任務隊列，使處理端140以先進先出的方式執行任務隊列中的請求，並且根據資源額度是否額滿生成相應訊息以寫入結果文件，以及提供瀏覽端110查詢結果文件以確認請求的執行結果。

以下配合「第3圖」至「第5圖」以實施例的方式進行如下說明，請先參閱「第3圖」，「第3圖」為應用本發明進行線上搶購之示意圖。假設發售限量的優惠券，可預先在處理端140將優惠券的數量設為資源額度（例如：數值50），當瀏覽端110開啟瀏覽器300透過網路150進行線上搶購時，即可在商品區塊310中看到商品名稱（例如：優惠券），以及在顯示數量處看到資源額度。當瀏覽端110的使用者點選搶購元件321時，瀏覽端110會發出交易的請求至負載平衡端130，由負載平衡端130選擇將此請求分配至所述接收端120其中之一。然後，收到此請求的接收端120會將此請求增加至處理端140的任務隊列，並且傳送確認訊息至相應的瀏覽端110告知此請求已被接收。接下來，處理端140以先進先出的方式依序執行任務隊列中，來自各接收端120的請求，當處理端140確認資源額度為未額滿（即優惠券尚有餘額）時，生成相應所述請求的成功訊息並寫入結果文件，當處理端140確認資源額度為額滿（即優惠券已售完）時，生成相應所述請求的失敗訊息並寫入結果文件。當瀏覽端110欲確認是否成功購買時，透過網路150瀏覽處理端140查詢結果文件以確認結果。如此一來，即可將搶購流程分成兩部分，第一部分為接收請求，第二部分為處理請求，由於接收端120僅接收請求並回傳確認訊息，不需執行請求並回覆執行結果，所以處理速度非常迅速，導致瀏覽端110能夠立即獲得請求被接收的回應，避免連線持續被占用等候執行結果的情況，假設瀏覽端110欲得知請求的執行結果，只要再透過網路150瀏覽處理端140查詢結果文件即可。

如「第4圖」所示意，「第4圖」為應用本發明查詢結果文件之示意圖。前面提到，假設瀏覽端110欲得知請求的執行結果，只要再透過網路150瀏覽處理端140查詢結果文件即可。以資源額度為數值50為例，當處理端140根據資源額度是否額滿生成相應訊息寫入結果文件後，瀏覽端110可透過如「第4圖」所示意的瀏覽器400登入處理端140以查詢結果文件410，而基於隱私保護或商業資訊的保護，還可以將敏感資訊以符號「*」遮蔽。假設處理端140仍持續寫入結果文件410，使用者亦可透過點選重新整理元件420的方式更新顯示的結果文件410。另外，除了如「第4圖」所示意顯示完整的結果文件410之外，亦可根據登入的帳號顯示結果文件410中相應的訊息，舉例來說，假設瀏覽端110登入的帳號為「vip02」，在登入後可以僅顯示「序號：02；訊息：成功；會員：vip02」。

如「第5圖」所示意，「第5圖」為應用本發明查詢結果文件之另一示意圖。在實際實施上，處理端140產生結果文件的方式可針對不同的瀏覽端110產生相應的結果文件，也就是說，結果文件中僅包含對應瀏覽端的成功訊息或失敗訊息，而不會存在其它瀏覽端的成功訊息或失敗訊息。當瀏覽端110接收到確認訊息後，瀏覽端110的瀏覽器400可如「第5圖」所示意，通過輪詢（Polling）的方式連線至處理端140查詢對應自己本身的結果文件510並進行顯示。

綜上所述，可知本發明與先前技術之間的差異在於透過負載平衡端將來自瀏覽端的請求分配至各接收端，並且由接收端將請求增加至處理端的任務隊列，使處理端以先進先出的方式執行任務隊列中的請求，並且根據資源額度是否額滿生成相應訊息以寫入結果文件，以及提供瀏覽端查詢結果文件以確認請求的執行結果，藉由此一技術手段可以解決先前技術所存在的問題，進而達成提高系統負載能力之技術功效。

雖然本發明以前述之實施例揭露如上，然其並非用以限定本發明，任何熟習相像技藝者，在不脫離本發明之精神和範圍內，當可作些許之更動與潤飾，因此本發明之專利保護範圍須視本說明書所附之申請專利範圍所界定者為準。

110‧‧‧瀏覽端

120‧‧‧接收端

130‧‧‧負載平衡端

140‧‧‧處理端

300、400‧‧‧瀏覽器

310‧‧‧商品區塊

321‧‧‧搶購元件

410、510‧‧‧結果元件

420‧‧‧重新整理元件

步驟210‧‧‧瀏覽端傳送至少一請求

步驟220‧‧‧負載平衡端接收來自所述瀏覽端的所述請求，並且持續將所述請求分別傳送至多個接收端其中之一

步驟230‧‧‧接收端將每一請求依序增加至處理端的一任務隊列，並且在每一請求增加至該任務隊列後，傳送相應該請求的一確認訊息至相應的所述瀏覽端

步驟240‧‧‧該處理端根據先進先出的方式處理在該任務隊列中的每一請求，當該處理端確認一資源額度為未額滿時，生成相應所述請求的一成功訊息並寫入該結果文件，當該處理端確認該資源額度為額滿時，生成相應所述請求的一失敗訊息並寫入該結果文件

步驟250‧‧‧該處理端允許所述瀏覽端查詢該結果文件以確認結果

第1圖為本發明分段式處理請求的負載平衡系統之系統方塊圖。 第2圖為本發明分段式處理請求的負載平衡方法之方法流程圖。 第3圖為應用本發明進行線上搶購之示意圖。 第4圖為應用本發明查詢結果文件之示意圖。 第5圖為應用本發明查詢結果文件之另一示意圖。

Claims (10)

1. 一種分段式處理請求的負載平衡系統，該系統包含： 至少一瀏覽端，每一瀏覽端用以傳送至少一請求，以及查詢一結果文件； 多個接收端，用以將每一請求依序增加至一任務隊列，並且在每一請求增加至該任務隊列後，傳送相應該請求的一確認訊息至相應的所述瀏覽端； 一負載平衡端，用以接收來自所述瀏覽端的所述請求，並且持續將所述請求分別傳送至該些接收端其中之一；以及 一處理端，該處理端具有該任務隊列，用以根據先進先出的方式處理在該任務隊列中的每一請求，當該處理端確認一資源額度為未額滿時，生成相應所述請求的一成功訊息並寫入該結果文件，當該處理端確認該資源額度為額滿時，生成相應所述請求的一失敗訊息並寫入該結果文件，並且允許所述瀏覽端查詢該結果文件以確認結果。
2. 根據申請專利範圍第1項之分段式處理請求的負載平衡系統，其中所述請求至少包含一來源地址及一識別碼，該負載平衡端根據該來源地址及該識別碼自該些接收端選擇其中之一傳送所述請求。
3. 根據申請專利範圍第1項之分段式處理請求的負載平衡系統，其中該資源額度預設一數值，當生成該成功訊息的次數與該數值相等時，該資源額度設定為額滿。
4. 根據申請專利範圍第1項之分段式處理請求的負載平衡系統，其中該處理端確認該資源額度為額滿時，不允許所述接收端將所述請求增加至該任務隊列中，並且刪除該任務隊列中的所有請求。
5. 根據申請專利範圍第1項之分段式處理請求的負載平衡系統，其中所述接收端無法將所述請求增加至該任務隊列時，產生一取消訊息並傳送至相應的所述瀏覽端。
6. 一種分段式處理請求的負載平衡方法，應用在具有至少一瀏覽端、一負載平衡端、多個接收端及一處理端的網路環境中，其步驟包括： 所述瀏覽端傳送至少一請求； 該負載平衡端接收來自所述瀏覽端的所述請求，並且持續將所述請求分別傳送至該些接收端其中之一； 接收端將每一請求依序增加至該處理端的一任務隊列，並且在每一請求增加至該任務隊列後，傳送相應該請求的一確認訊息至相應的所述瀏覽端； 該處理端根據先進先出的方式處理在該任務隊列中的每一請求，當該處理端確認一資源額度為未額滿時，生成相應所述請求的一成功訊息並寫入該結果文件，當該處理端確認該資源額度為額滿時，生成相應所述請求的一失敗訊息並寫入該結果文件；以及 該處理端允許所述瀏覽端查詢該結果文件以確認結果。
7. 根據申請專利範圍第6項之分段式處理請求的負載平衡方法，其中所述請求至少包含一來源地址及一識別碼，該負載平衡端根據該來源地址及該識別碼自該些接收端選擇其中之一傳送所述請求。
8. 根據申請專利範圍第6項之分段式處理請求的負載平衡方法，其中該資源額度預設一數值，當生成該成功訊息的次數與該數值相等時，該資源額度設定為額滿。
9. 根據申請專利範圍第6項之分段式處理請求的負載平衡方法，其中該處理端確認該資源額度為額滿時，不允許所述接收端將所述請求增加至該任務隊列中，並且刪除該任務隊列中的所有請求。
10. 根據申請專利範圍第6項之分段式處理請求的負載平衡方法，其中所述接收端無法將所述請求增加至該任務隊列時，產生一取消訊息並傳送至相應的所述瀏覽端。