TW201419809A - 一種具高度適應性交談管理機制之遠端管理系統 - Google Patents

Abstract

本發明提供一種具高度適應性交談管理機制之遠端管理系統，透過一適應性回饋交談管理決定伺服器分別連接數個客戶端和叢集節點，該AFSMD伺服器包括一交談識別對應管理員，以負責記錄交談與被導向叢集節點之對應關係；一決策分數產生器，係負責產生一決策分數，用以決定當次交談所需採取之交談管理方式；一交談連線次數查詢，係負責與一儲存裝置溝通，並取得某一客戶端交談連線之總數；一叢集節點溝通介面，係用於負責與叢集節點溝通，另亦負責告知叢集節點是否需要複製此次交談的內容；以及一交談管理決策控制器，以負責整個交談管理之決策流程使之達成更有效率之管理方式。

Description

一種具高度適應性交談管理機制之遠端管理系統

本發明係有關一種具高度適應性交談管理機制之遠端管理系統。

隨著寬頻網路的普及化，目前在網際網路上所提供的網路服務也愈來愈多，其中在Web上所提供的Web服務(Web Service)則佔了大部份的數量；另一方面，越來越多的網站或是公司，也準備往這個方向來提供相關網路服務。目前一般的網路服務，從以前的純文字型態方式提供資訊(例如：.html等)，包含圖形和影像，到之後所延伸出來的多媒體影音和即時影音播放，乃至於目前網路上所提供的網路購物(e-commerce)等，都顯示網路已從單純的提供資訊，演化到提供Web服務與消費的世代，Web服務已成為各家網站必需擁有的一個領域，藉此來提供使用者各種的服務，以增加自己網站的多元化。

傳統的網路服務，一般稱為無狀態服務(stateless service)；所謂無狀態服務是一種在使用者和伺服器之間的互動為單向的，主要是使用者到特定的網站上尋找並下載想要的服務，網站的內容則是類似純文字的靜態檔案資訊，如.html的文件，包括：文件、文章、新聞、影像、動畫...等；但相對於無狀態服務，目前的網路服務大多為有狀態服務或稱為全狀態服務(stateful service)，所謂有狀 態服務也就是依據使用者所要求的內容，產生相對應的回應給使用者；因此，不同的使用者所提出的要求，網站也會根據使用者之前的記錄而分別產生不同的回應給使用者，亦可稱為基於交談的服務(session-based service)，例如：購物、搜尋引擎等服務。這些網路服務所提供的服務，通常是根據使用者的需求而不同，當網站接收到使用者的要求或是使用者所給的參數後，網站透過這些要求或參數，產生出相對應的服務或結果給使用者。因此，針對不同的使用者所發出不同的要求，網站也會提供不同的網路服務。其中這些要求都是基於交談的服務的形式。基於交談的服務根據使用者所要求的內容，產生相對應的回應給使用者，不同的使用者所提出的要求，網站也會根據使用者之前的記錄而分別產生不同的回應。所以，在網站利用交談(session，或稱會期)提供服務給使用者，以及使用者利用交談向網站提出要求的關係，使得交談在網路上變的越來越重要。另一方面，網路OSI(Open System Interconnection Reference Model)模型亦清楚定義交談層(Session Layer)與其重要性。針對開放式網路架構所制定的電腦互連標準，透過此觀念描述，協調各種網路功能發展時的標準制定。其中交談層(Session Layer)這個層級負責建立網路連線，等到資料傳輸結束時，再將連線中斷。運作過程宛如召集多人開會(建立連線)，然後彼此之間意見交換(資料傳輸)，待完成後，再宣布散會(中斷連線)，因此，目前有愈來愈多的應用服務會運作在交談層上。基 於這些原因，交談管理(session management)於目前網路服務之重要性日益彰顯。

此外，隨著電信服務不斷增加，許多電信和網通業者逐步透過遠端網路管理設備方式，用以減少人力成本。在遠端網路管理中，多數管理協定或應用軟體均基於HTTP通訊協定開發而成，因此HTTP裡的交談管理便成為決定遠端管理效率的重要因素之一。

另一方面，目前交談亦被廣泛應用於叢集式(cluster)運算管理系統中，叢集系統的構成方式有許多種，其中最為廣泛使用的是以負載平衡(load balancer)伺服器102為中心之架構，如第一圖所示。由外部收到的客戶端101需求(client request)，待負載平衡伺服器102收到後，根據本身的負載平衡(load balancing)機制，決定要把該需求分配給其後端的那一個叢集節點(cluster node)103伺服器去執行。被指定的叢集節點103伺服器在收到需求後，便處理該需求所要求的工作，結束後直接把結果回應給客戶端(client)101。

其中負載平衡伺服器中的負載平衡機制之工作在於決定客戶端需求該送給那一個後端叢集節點伺服器去執行，同時最重要的工作是希望達到後端各叢集節點伺服器之間負載的平衡，也考量到整體的效能(performance)、生 產量(throughput)、資源利用率(utilization)，或其他重點的要求。因此，負載平衡機制的好壞直接影響到整個管理系統的效率。

舉凡現今所常見的各負載平衡機制，大體上可分為靜態及動態兩大類。在靜態負載平衡機制中，當其在分配工作時，並不會考慮後端伺服器的狀態，如各伺服器的負載情況、硬碟中的資料內容分佈、運算能力等，而是直接依照自身的判斷決定要將工作轉發到哪一台工作伺服器上。因此，此類型的演算法，主要有輪流式(round robin)、隨機式(random)此兩大代表種類。而在動態負載平衡機制方面，當其在分配工作時，會考慮後端伺服器的狀態來分配工作，與靜態方式比較起來，比較屬於智慧型，因為其能考慮後端伺服器的狀態，才有可能針對即時的系統資訊，做出最好的分配決策。屬於此類型的負載平衡機制，包括基於內容(content-based)、區域性察覺(locality-aware request distribution)、加權式輪流(weighted round robin)、最少連線(least connection)、適應性(adaptive)等機制。不管是靜態或動態演算法，在不同的系統下，皆有其應用價值，然而，單只是改善負載平衡機制，並無法提升整體叢集架構的效率。

若想提升整體叢集架構的效率，必須從最根本的交談管理下去著手，因為在叢集架構中，其最基本的組成份子 為交談連線工作，因此，只有針對每一次的交談管理，依照當下的管理環境，進行最好的交談決策，才可以從根源處去改善整體叢集架構的效率。目前依照交談管理的機制，主要可分為兩大類：第一類為高度黏著式交談管理機制，其具有單點失敗(single point of failure)特性，但無複製交談資訊(session information)到其它伺服器之機制，因此當該工作交易之伺服器非預期性無法提供服務時，例如交談中任一連接失敗(connection fail)時，交談便無法轉移給其他伺服器，無法繼續服務該客戶端，所以整個交談便無法再繼續執行來提供服務，因此，此種機制不具有錯誤回復能力；另一類為多點複製式交談管理機制，其運用多播(multicast)方法，大量複製交談資訊到其它伺服器，透過應用此反覆性複製交談資訊到其他伺服器之機制，來達到失敗移轉(fail over)的效果，但此種機制容易造成網路負載，並提高整體管理之花費。有鑑於此，如何設計一種具適應性交談管理機制，以有效降低系統網路成本，提高遠端管理整體效率，使得遠端管理更為便利，更間接促使相關產業蓬勃發展，是極為重要的議題。

基於上述習知技術之缺失，本發明之主要目的在於提供一種具高度適應性交談管理機制：其運用適應性技術，每次可動態依據管理環境，產生適宜之交談管理方式，並允許每次的交談，可進行動態的管理轉換機制； 並應用自我學習機制，可依照成功連線狀態與次數，進一步修正交談管理演算法。

本發明之一實施例揭露一種具高度適應性交談管理機制之遠端管理系統架構，透過一適應性回饋交談管理決定(Adaptive Feedback Session Management Decision,AFSMD)伺服器分別連接1至數個客戶端，以及1至數個叢集節點，該適應性回饋交談管理決策(AFSMD)伺服器包括一交談識別對應管理員(Session ID Map Manager)，以負責記錄交談與被導向叢集節點之對應關係；一決策分數產生器(Decision Grade Producer)，係負責產生決策分數，用以決定當次交談所需採取之交談管理方式；一交談連線次數查詢(Session Connection Number Query，SCNQ)，係負責與一儲存裝置溝通，並取得某一客戶端交談連線之總數；一叢集節點溝通介面(Cluster Node Communication Interface)，係用於負責偵測所有之叢集節點是否正常運作，並與叢集節點溝通，且根據一負載平衡之規則，將來自客戶端的連線轉送給某一台叢集節點，並取得交談識別碼，另亦負責告知叢集節點是否需要複製此次交談的內容；以及一交談管理決策控制器(Session Management Decision Controller)，分別連接於該交談識別對應管理員、決策分數產生器、交談連線次數查詢和叢集節點溝通介面，以負責整個交談管理之決策流程，包含適應性交談管理決策(Adaptive Session Management Decision)演算法，係 動態地根據決策分數產生器所產生之決策分數來決定採取不同的交談管理方式，另外並記錄叢集節點成功與失敗的次數，用以修正決策分數因子，使之達成更有效率之管理方式。

本發明之另一實施例揭露一種具高度適應性交談管理方法，適用於一基於交談的服務系統，該基於交談的服務系統包含1至數個客戶端，以及1至數個叢集節點；該具高度適應性交談管理方法包括下列步驟：分派給叢集節點故障因子一初始值；接著系統將接受來自客戶端之一個連線請求，並檢視此次連線請求內容是否包含任一交談識別(session ID)之資料；若沒有交談識別之資料，則依照交談前之交談管理決策演算法決定出此一交談連線之管理方式；若有交談識別之資料，則執行交談中之交談管理決策演算法，以決定後續之交談連線管理方式；依照一交談識別對應決策(Session ID Map Manager)中之對應交談管理方式，將此連線請求轉給相對應之叢集節點處理；以及更新失敗率、叢集節點故障因子，再繼續接受下一個連線請求，直到所有連線請求結束。

本發明之另一實施例揭露一種適應性回饋交談管理決定裝置，可連接於至少一個客戶端與至少一個叢集節點，該適應性回饋交談管理決定裝置包含：一交談識別對 應管理員，以負責記錄交談與被導向叢集節點之對應關係；一決策分數產生器，係負責產生決策分數，用以決定當次交談所需採取之交談管理方式；一交談連線次數查詢，係負責與一儲存裝置溝通，並取得某一客戶端交談連線之總數；一叢集節點溝通介面，係用於負責偵測所有之叢集節點是否正常運作，並與叢集節點溝通，且根據一負載平衡之規則，將來自客戶端的連線轉送給某一台叢集節點，並取得交談識別碼，另亦負責告知叢集節點是否需要複製此次交談的內容；以及一交談管理決策控制器，分別連接於該交談識別對應管理員、決策分數產生器、交談連線次數查詢和叢集節點溝通介面，以負責整個交談管理之決策流程，包含適應性交談管理決策演算法，係動態地根據決策分數產生器所產生之決策分數來決定採取不同的交談管理方式，另外並記錄叢集節點成功與失敗的次數，用以修正決策分數因子。

本發明之另一實施例揭露一種具高度適應性交談管理方法，可執行於一適應性回饋交談管理決定裝置，該適應性回饋交談管理決定裝置連接於至少一個客戶端與至少一個叢集節點，該具高度適應性交談管理方法包括下列步驟：分派給叢集節點故障因子一初始值；接受來自客戶端之一個連線請求，並檢視此次連線請求內容是否包含任一交談識別之資料；若沒有交談識別之資料，則依照交談前之交談 管理決策演算法決定出此一交談連線之管理方式；若有交談識別之資料，則執行交談中之交談管理決策演算法，以決定後續之交談連線管理方式；依照一交談識別對應管理員中之對應交談管理方式，將此連線請求轉給相對應之叢集節點處理；更新失敗率、叢集節點故障因子；以及再繼續接受下一個連線請求，直到所有連線請求結束；其中，該至少一個客戶端可透過該適應性回饋交談管理決定裝置間接地與該至少一個叢集節點建立連線，該適應性回饋交談管理決定裝置係負責將來自至少一個客戶端的連線請求分配至該至少一個叢集節點，並將該至少一個叢集節點的執行結果傳回至少一個客戶端，以進行交談管理。

茲配合下列圖示、實施例之詳細說明及申請專利範圍，將上述及本揭露之其他優點詳述於後。

第二圖所示為本發明之一種交談管理系統架構示意圖，透過一適應性回饋交談管理決定(Adaptive Feedback Session Management Decision,AFSMD)伺服器202分別連接1至數個客戶端201，以及1至數個叢集節點203，該適應性回饋交談管理決策(AFSMD)伺服器202係為一台具有高度適應性交談管理功能之負載平衡伺服器，用於負 責平衡負載，並接受來自客戶端的連線請求，再根據負載平衡的規則將此連線轉送給某一台遠端管理伺服器叢集節點；另還會以高度適應性的方式來進行交談管理。

該適應性回饋交談管理決策(AFSMD)伺服器202包括一交談識別對應管理員(Session ID Map Manager)2021，以負責記錄交談與被導向叢集節點之對應關係，其中該交談識別的對應關係可儲存於一交談識別對應關係表；一決策分數產生器(Decision Grade Producer)2022，係負責產生決策分數，用以決定當次交談所需採取之交談管理方式；一交談連線次數查詢(Session Connection Number Query，SCNQ)2023，係負責與一儲存裝置溝通，並取得某一客戶端交談連線之總數；一叢集節點溝通介面(Cluster Node Communication Interface)2024，係用於負責偵測所有之叢集節點是否正常運作，並與叢集節點溝通，且根據一負載平衡之規則，將來自客戶端的連線轉送給某一台叢集節點，並取得交談識別碼，另亦負責告知叢集節點是否需要複製此次交談的內容；以及一交談管理決策控制器(Session Management Decision Controller)2025，分別連接於該交談識別對應管理員2021、決策分數產生器2022、交談連線次數查詢2023和叢集節點溝通介面2024，以負責整個交談管理之決策流程，包含適應性交談管理決策(Adaptive Session Management Decision)演算法，係動態地根據決策分數產 生器所產生之決策分數來決定採取不同的交談管理方式，另外並記錄叢集節點成功與失敗的次數，用以修正決策分數因子，使之達成更有效率之管理方式。

更進一步地，交談管理決策控制器2025係控制交談識別對應管理員2021之取得及記錄交談的識別；交談管理決策控制器2025係控制決策分數產生器2022以計算一複製決策分數RG、一隨機值R、一改變比例值CR以及一複製改變比例值RCR；交談管理決策控制器2025係控制交談連線次數查詢2023以取得一交談連線次數N並更新一失敗率；交談管理決策控制器2025係控制叢集節點溝通介面2024以獲知叢集節點是否處於正常狀態，並將連線要求連同一複製旗幟導向適當的叢集節點。

值得注意的是，交談連線次數查詢2023可更進一步包括一儲存各客戶端交談連線數的資料庫，以儲存資訊包含各客戶端預計於下個交談會建立的連線總數，或是透過一代理(proxy)連線該資料庫連結。

第三圖所示為本發明之一種具高度適應性交談管理方法，適用於一基於交談的服務系統，該基於交談的服務系統包含1至數個客戶端，以及1至數個叢集節點；例如，該方法可執行於第二圖中所示之適應性回饋交談管理決策(AFSMD)伺服器102中。

如第三圖所示，該具高度適應性交談管理方法包括下列步驟：步驟301係初始化，例如，分派給叢集節點故障因子一初始值。在步驟302中，該基於交談的服務系統接受來自客戶端之一個連線請求，並檢視此次連線請求內容是否包含任一交談識別(session ID)之資料，如步驟303所示；若沒有交談識別之資料，則依照交談前之交談管理決策演算法決定出此一交談連線之管理方式，如步驟304所示；若有交談識別之資料，則執行交談中之交談管理決策演算法，以決定後續之交談連線管理方式，如步驟305所示。步驟306係依照一交談識別對應管理員(Session ID Map Manager)中之對應交談管理方式，將此連線請求轉給相對應之叢集節點處理。步驟307則是更新失敗率、叢集節點故障因子；以及步驟308，若是該交談尚未結束，則再繼續接受下一個連線請求，直到所有連線請求結束。

值得注意的是，在步驟303所檢視的連線請求內容是否包含任一交談識別之資料，就是判定該連線請求是否為一新的交談，或是現有一交談中的連線請求。若無交談識別之資料，表示應建立一個新的交談，因此進行步驟304，依照交談前之交談管理決策演算法決定出此一交談連線之管理方式；反 之，若為既存的交談，則進行步驟305，執行交談中之交談管理決策演算法，以決定後續之交談連線管理方式。在執行步驟304或步驟305後，再繼續進行步驟306依照步驟304或步驟305中所決定之交談管理方式，將此連線請求轉給相對應之叢集節點處理。步驟307中之叢集節點故障因子與失敗率等參數，都是本發明用來進行適應性交談管理方法時需要參考的參數，因此須持續動態地更新，以維持參數的精確性。

第四圖所示為第三圖之步驟304依照交談前之交談管理決策演算法決定出此一交談連線之管理方式的詳細流程。如第四圖所示，步驟401係先取得一連線總數N，意即取得此交談連線所包含之連線總數。步驟402係產生一複製決策分數RG與一隨機值R；意即，依照連線總數N與叢集節點故障因子(F_CNC)產生出一複製決策分數RG，並隨機產生一介於0與1之間的隨機值R。步驟403則是判斷R值是否小於複製決策分數RG；若是，則進行步驟405，將一複製旗號(RF)設為假(false)，並執行步驟406以記錄此交談識別與叢集節點之關係；否則，進行步驟404，將複製旗號(RF)設為真(true)。在步驟404或步驟406後，則是進行步驟407以更新交談識別的對應關係，並結束本程序之依照交談前之交談管理決策演算法決定出此一交談連線之管理方 式(第三圖之步驟304)。

值得注意的是，在步驟402依照連線總數N與叢集節點故障因子產生出一複製決策分數RG，並隨機產生一介於0與1之間的隨機值R連線總數N，其中，該複製決策分數值(RG)，其值與該叢集節點故障因子成反比，並與該連線總數N成次方比，並於步驟403則是判斷R值是否小於複製決策分數RG；因此，在此流程中，是否要複製交談至其它叢集節點的決策會受到連線總數N大小的影響。

第五圖所示為第三圖之步驟305執行交談中之交談管理決策演算法，以決定後續之交談連線管理方式的詳細流程。如第五圖所示，步驟501係判別該交談識別的複製旗號是否為真；或是，進行步驟502以產生一改變比例值(CR)，並產生一介於0至1之間之一複製改變比例值(RCR)，其中，該改變比例值(CR)的值與叢集節點故障因子成正比，並與連線總數N成平均分佈對應比之關係；否則，結束本程序之執行交談中之交談管理決策演算法，以決定後續之交談連線管理方式(第三圖之步驟305)。步驟503係判別比較改變比例值CR是否小於複製改變比例值RCR；若是，進行步驟504以複製旗號設為假；否則，結束本程序之執行交談中之交談管理決策演算法，以決定後續之交談連線管理方式(第 三圖之步驟305)。步驟505則是刪去複製的交談，意即，移除其他叢集節點上的交談複製，並記錄交談識別與叢集節點之關係，且更新交談識別對應關係，並前往執行第四圖之步驟406，記錄此交談識別與叢集節點之關係。

第六圖所示為第四圖之詳細流程的一實施例示意圖。如前所述，是否要複製交談至其它叢集節點的決策會受到連線總數N大小的影響。當連線總數N為一較大值時，適應性回饋交談管理決策(AFSMD)伺服器202會將依客戶端的連線請求，建立一交談識別與叢集節點之對應關係，例如，該交談識別為123456、並將其複製旗幟設為真(true)、將其導向節點設為不定(N/A)。適應性回饋交談管理決策伺服器202並透過叢集節點複製交談至多個節點，例如，在本實施例中，該交談123456被複製至三個叢集節點，意即，叢集節點1、叢集節點2、叢集節點3。

第七圖所示為第五圖之詳細流程的一實施例示意圖。如第七圖所示，在收到交談識別123456的連線請求後，依據步驟503判別改變比例值CR小於複製改變比例值RCR；於是進行步驟504以複製旗號設為假，以及步驟505移除其他叢集節點上的交談複製，並記錄交談識別與叢集節點之關係，且更新交談識別對應關係，意即，將導向叢集節點更新為叢集節點1。

根據本發明的一種具高度適應性交談管理系統，本發明進行模擬實驗以評估其執行成效，以證明本發明之演算法機制在不同之叢集節點故障率之下具有較好的記憶體消耗與消耗時間趨勢。模擬實驗的參數係藉由觀察一般實際網路環境回應情形，並參考BroadBand Forum TR-069交談管理運作模式來作為設定依據，其詳細設定如下：

-客戶端模擬數量：1萬台。

-叢集節點模擬數量：1,000台。

-模擬遠端管理工作數：500萬個。

-每次交談連線數產生之基底為：均值為17、標準差為3之高斯分布。

-叢集節點故障率為0.1%~5%之間。

-模擬時間參數：

‧每個連線花費時間：均值為100、標準差為20之高斯分布，單位ms。

‧每個交談建立花費時間：均值為1000、標準差為200之高斯分布，單位ms。

‧每次複製交談的花費時間：均值為100、標準差為20之高斯分布，單位ms。

每份交談資訊記憶體儲存空間：均值為200、標準差為50之高斯分布，以位元組為單位。

另外，關於Adaptive Session Management Decision演算法部分，本模擬實驗所使用的相關模擬實驗環境與參數設定，詳細如下所示。

-FR更新方式：»FR=失敗次數/連線總數

-F_CNC更新方式：»F_CNC=(前一次F_CNC+FR)/2

-RCR=0.015

-RG、CR產生方式：

»CR=F_CNC/Y

其中

其中δ=N/3,N為本次連線的序號

其中在此模擬實驗中，所使用之亂數產生基底為：利用JAVA Random物件中之nextDouble與nextGaussian所產生之亂數。

第八圖所示為本發明之模擬實驗結果的隨故障率變化之記憶體空間消耗趨勢曲線圖。如第八圖所示，傳統多 點複製式交談管理機制，不管其叢集節點故障率為何，皆維持一定的記憶體消耗空間，這也是因為其固定運用複製機制之原因所造成；另一方面，傳統高度黏著式交談管理機制在叢集節點故障率低於1.1%時，雖具有較低之記憶體消耗空間，但隨著叢集節點故障率增加時，其記憶體消耗空間便隨之增加，並呈現快速成長之趨勢，反觀本發明的適應性機制，其隨著叢集節點故障率增加時，呈現平緩的成長趨勢，並且當叢集節點故障率接近9%左右，其記憶體消耗空間便優於傳統的高度黏著式交談管理機制。

第九圖所示為本發明之模擬實驗結果的隨故障率變化之消耗時間趨勢曲線圖。如第九圖所示，隨故障率變化之消耗時間趨勢圖，可以很明顯看出傳統高度黏著式交談管理機制的缺點，其隨著叢集節點故障率增加時，消耗時間便呈現快速成長的趨勢；反觀本發明和傳統多點複製式交談管理機制，則是呈現平緩的成長趨勢，但本發明的適應性機制在低故障率時，其消耗時間則優於傳統多點複製式交談管理機制。

因此，本發明之一種具高度適應性交談管理機制之遠端管理系統，確能藉所揭露之技藝，達到所預期之目的與功效，符合發明專利之新穎性，進步性與產業利用性之要件。

以上所述者皆僅為本揭露實施例，不能依此限定本揭露實施之範圍。大凡本發明申請專利範圍所作之均等變化與修飾，皆應屬於本發明專利涵蓋之範圍。

101‧‧‧客戶端

102‧‧‧負載平衡伺服器

103‧‧‧叢集節點

201‧‧‧客戶端

202‧‧‧適應性回饋交談管理決定伺服器

2021‧‧‧交談識別對應管理員

2022‧‧‧決策分數產生器

2023‧‧‧交談連線次數查詢

2024‧‧‧叢集節點溝通介面

2025‧‧‧交談管理決策控制器

203‧‧‧叢集節點

301‧‧‧初始化

302‧‧‧接受一連線請求

303‧‧‧有交談識別碼？

304‧‧‧依交談前之交談管理決策演算法，決 定此交談連線管理方式

305‧‧‧執行交談中之管理決策演算法

306‧‧‧將連線請求轉給叢集節點

307‧‧‧更新失敗率固障因子

308‧‧‧交談結束

401‧‧‧取得連線總數(N)

402‧‧‧產生複數決策非樹(RG)與一值R

403‧‧‧R<RG

404‧‧‧將交談識別的複製旗幟設為真

405‧‧‧將交談識別的複製旗幟設為假

406‧‧‧記錄交談旗識別與叢集節點之關係

407‧‧‧更新交談識別對應

501‧‧‧交談識別的複製旗幟為真？

502‧‧‧產生CR值

503‧‧‧CR<RCR？

504‧‧‧將交談識別的複製旗幟設為假

505‧‧‧刪去複製的交談

第一圖所示為習知以負載平衡伺服器為中心之叢集式運算管理系統架構示意圖。

第二圖所示為本發明之一種具高度適應性交談管理機制之遠端管理系統示意圖。

第三圖所示為本發明之一種具高度適應性交談管理方法。

第四圖所示為第三圖之步驟304依照交談前之交談管理決策演算法決定出此一交談連線之管理方式的詳細流程。

第五圖所示為第三圖之步驟305執行交談中之交談管理決策演算法，以決定後續之交談連線管理方式的詳細流程。

第六圖所示為第四圖之詳細流程的一實施例示意圖。

第七圖所示為第五圖之詳細流程的一實施例示意圖。

第八圖所示為本發明之模擬實驗結果的隨故障率變化之記憶體空間消耗趨勢曲線圖。

第九圖所示為本發明之模擬實驗結果的隨故障率變化之消耗時間趨勢曲線圖。

201‧‧‧客戶端

202‧‧‧適應性回饋交談管理決定伺服器

2021‧‧‧交談識別對應管理員

2022‧‧‧決策分數產生器

2023‧‧‧交談連線次數查詢

2024‧‧‧叢集節點溝通介面

2025‧‧‧交談管理決策控制器

203‧‧‧叢集節點

Claims (26)

1. 一種具高度適應性交談管理機制之遠端管理系統，包含：至少一個客戶端；至少一個叢集節點；以及一適應性回饋交談管理決定伺服器，連接於該至少一個客戶端與該至少一個叢集節點，該適應性回饋交談管理決定伺服器更包括：一交談識別對應管理員，以負責記錄交談與被導向叢集節點之對應關係；一決策分數產生器，係負責產生決策分數，用以決定當次交談所需採取之交談管理方式；一交談連線次數查詢，係負責與一儲存裝置溝通，並取得某一客戶端交談連線之總數；一叢集節點溝通介面，係用於負責偵測所有之叢集節點是否正常運作，並與叢集節點溝通，且根據一負載平衡之規則，將來自客戶端的連線轉送給某一台叢集節點，並取得交談識別碼，另亦負責告知叢集節點是否需要複製此次交談的內容；以及一交談管理決策控制器，分別連接於該交談識別對應管理員、決策分數產生器、交談連線次數查詢和叢集節點溝通介面，以負責整個交談管理之決策流程，包含適應性交談管理決策演算法，係動態地根據決策分數產生器所產生之決策分數來決定採取不同的交談管 理方式，另外並記錄叢集節點成功與失敗的次數，用以修正決策分數因子。
2. 如申請專利範圍第1項所述之具高度適應性交談管理機制之遠端管理系統，其中該交談管理決策控制器係控制該交談識別對應管理員之取得及記錄交談的識別；該交談管理決策控制器係控制該決策分數產生器以計算一複製決策分數RG、一隨機值R、一改變比例值CR以及一複製改變比例值RCR；該交談管理決策控制器係控制該交談連線次數查詢以取得一交談連線次數N並更新一失敗率；該交談管理決策控制器係控制該叢集節點溝通介面以獲知叢集節點是否處於正常狀態，並將連線要求連同一複製旗幟導向適當的叢集節點。
3. 如申請專利範圍第2項所述之具高度適應性交談管理機制之遠端管理系統，其中該交談連線次數查詢可更進一步包括一儲存各客戶端交談連線數的資料庫，以儲存資訊包含各客戶端預計於下個交談會建立的連線總數。
4. 如申請專利範圍第2項所述之具高度適應性交談管理機制之遠端管理系統，其中該交談連線次數查詢可透過一代理連線至一儲存各客戶端交談連線數的資料庫，該資料庫可儲存資訊包含各客戶端預計於下個交談會建立的連線總數。
5. 一種具高度適應性交談管理方法，可執行於一 適應性回饋交談管理決定伺服器，適用於一基於交談的服務系統，該基於交談的服務系統包含至少一個客戶端，以及至少一個叢集節點，該具高度適應性交談管理方法包括下列步驟：分派給叢集節點故障因子一初始值；接著系統將接受來自客戶端之一個連線請求，並檢視此次連線請求內容是否包含任一交談識別之資料；若沒有交談識別之資料，則依照交談前之交談管理決策演算法決定出此一交談連線之管理方式；若有交談識別之資料，則執行交談中之交談管理決策演算法，以決定後續之交談連線管理方式；依照一交談識別對應管理員中之對應交談管理方式，將此連線請求轉給相對應之叢集節點處理；更新失敗率、叢集節點故障因子；以及再繼續接受下一個連線請求，直到所有連線請求結束；其中，該至少一個客戶端可透過該適應性回饋交談管理決定伺服器間接地與該至少一個叢集節點建立連線，該適應性回饋交談管理決定伺服器係負責將來自至少一個客戶端的連線請求分配至該至少一個叢集節點，並將該至少一個叢集節點的執行結果傳回該至少一個客戶端，以進行交談管理。
6. 如申請專利範圍第5項所述之具高度適應性交談 管理方法，其中該依照交談前之交談管理決策演算法決定出此一交談連線之管理方式的步驟包含下列步驟：取得一交談連線所包含之連線總數N；依照該連線總數N與一叢集節點故障因子(F_CNC)產生出一複製決策分數，並隨機產生一介於0與1之間的隨機值R；判斷R值是否小於複製決策分數；若是，則將一複製旗號設為假，並記錄此交談識別與叢集節點之關係；否則，將該複製旗號設為真；更新交談識別的對應關係。
7. 如申請專利範圍第5項所述之具高度適應性交談管理方法，其中該執行交談中之交談管理決策演算法，以決定後續之交談連線管理方式的步驟更包含下列步驟：判別該交談識別的複製旗號是否為真；若是，產生一改變比例值，並產生一介於0至1之間之一複製改變比例值；否則，結束本程序；判別該改變比例值是否小於複製改變比例值；若是，將複製旗號設為假；否則，結束本程序；移除其他叢集節點上的交談複製，並記錄交談識別與 叢集節點之關係，且更新交談識別對應關係，並記錄此交談識別與叢集節點之關係。
8. 如申請專利範圍第5項所述之具高度適應性交談管理方法，其中該交談識別為每一次交談建立之唯一識別碼。
9. 如申請專利範圍第5項所述之具高度適應性交談管理方法，其中該交談識別對應管理員係負責記錄交談與被導向叢集節點之對應關係。
10. 如申請專利範圍第5項所述之具高度適應性交談管理方法，其中該失敗率為總失敗次數與總連線次數之比例。
11. 如申請專利範圍第6項所述之具高度適應性交談管理方法，其中該複製決策分數值，其值與該叢集節點故障因子成反比，並與該連線總數N成次方比。
12. 如申請專利範圍第7項所述之具高度適應性交談管理方法，其中該改變比例值的值與叢集節點故障因子成正比，並與連線總數N成平均分佈對應比之關係
13. 申請專利範圍第6項所述之具高度適應性交談管理方法，其中該複製旗號若為真，表示該交談有被複製至其他叢集節點；反之，該複製旗號若為假，表示該交談沒被複製至其他叢集節點。
14. 一種適應性回饋交談管理決定裝置，可連接於至少 一個客戶端與至少一個叢集節點，該適應性回饋交談管理決定裝置包含：一交談識別對應管理員，以負責記錄交談與被導向叢集節點之對應關係；一決策分數產生器，係負責產生決策分數，用以決定當次交談所需採取之交談管理方式；一交談連線次數查詢，係負責與一儲存裝置溝通，並取得某一客戶端交談連線之總數；一叢集節點溝通介面，係用於負責偵測所有之叢集節點是否正常運作，並與叢集節點溝通，且根據一負載平衡之規則，將來自客戶端的連線轉送給某一台叢集節點，並取得交談識別碼，另亦負責告知叢集節點是否需要複製此次交談的內容；以及一交談管理決策控制器，分別連接於該交談識別對應管理員、決策分數產生器、交談連線次數查詢和叢集節點溝通介面，以負責整個交談管理之決策流程，包含適應性交談管理決策演算法，係動態地根據決策分數產生器所產生之決策分數來決定採取不同的交談管理方式，另外並記錄叢集節點成功與失敗的次數，用以修正決策分數因子。
15. 如申請專利範圍第14項所述之適應性回饋交談管理決定裝置，其中該交談管理決策控制器係控制該交談識別對應管理員之取得及記錄交談的識別；該交談管理決策控制器係控制該決策分數產生器以計算一 複製決策分數RG、一隨機值R、一改變比例值CR以及一複製改變比例值RCR；該交談管理決策控制器係控制該交談連線次數查詢以取得一交談連線次數N並更新一失敗率；該交談管理決策控制器係控制該叢集節點溝通介面以獲知叢集節點是否處於正常狀態，並將連線要求連同一複製旗幟導向適當的叢集節點。
16. 如申請專利範圍第15項所述之適應性回饋交談管理決定裝置，其中該交談連線次數查詢可更進一步包括一儲存各客戶端交談連線數的資料庫，以儲存資訊包含各客戶端預計於下個交談會建立的連線總數。
17. 如申請專利範圍第15項所述之適應性回饋交談管理決定裝置，其中該交談連線次數查詢可透過一代理連線至一儲存各客戶端交談連線數的資料庫，該資料庫可儲存資訊包含各客戶端預計於下個交談會建立的連線總數。
18. 一種具高度適應性交談管理方法，可執行於一適應性回饋交談管理決定裝置，該適應性回饋交談管理決定裝置連接於至少一個客戶端與至少一個叢集節點，該具高度適應性交談管理方法包括下列步驟：分派給叢集節點故障因子一初始值；接受來自客戶端之一個連線請求，並檢視此次連線請求內容是否包含任一交談識別之資料； 若沒有交談識別之資料，則依照交談前之交談管理決策演算法決定出此一交談連線之管理方式；若有交談識別之資料，則執行交談中之交談管理決策演算法，以決定後續之交談連線管理方式；依照一交談識別對應管理員中之對應交談管理方式，將此連線請求轉給相對應之叢集節點處理；更新失敗率、叢集節點故障因子；以及再繼續接受下一個連線請求，直到所有連線請求結束；其中，該至少一個客戶端可透過該適應性回饋交談管理決定裝置間接地與該至少一個叢集節點建立連線，該適應性回饋交談管理決定裝置係負責將來自至少一個客戶端的連線請求分配至該至少一個叢集節點，並將該至少一個叢集節點的執行結果傳回至少一個客戶端，以進行交談管理。
19. 如申請專利範圍第18項所述之具高度適應性交談管理方法，其中該依照交談前之交談管理決策演算法決定出此一交談連線之管理方式的步驟包含下列步驟：取得一交談連線所包含之連線總數N；依照該連線總數N與一叢集節點故障因子(F_CNC)產生出一複製決策分數，並隨機產生一介於0與1之間的隨機值R；判斷R值是否小於複製決策分數； 若是，則將一複製旗號設為假，並記錄此交談識別與叢集節點之關係；否則，將該複製旗號設為真；更新交談識別的對應關係。
20. 如申請專利範圍第18項所述之具高度適應性交談管理方法，其中該執行交談中之交談管理決策演算法，以決定後續之交談連線管理方式的步驟更包含下列步驟：判別該交談識別的複製旗號是否為真；若是，產生一改變比例值，並產生一介於0至1之間之一複製改變比例值；否則，結束本程序；判別該改變比例值是否小於複製改變比例值；若是，將複製旗號設為假；否則，結束本程序；移除其他叢集節點上的交談複製，並記錄交談識別與叢集節點之關係，且更新交談識別對應關係，並記錄此交談識別與叢集節點之關係。
21. 如申請專利範圍第18項所述之具高度適應性交談管理方法，其中該交談識別為每一次交談建立之唯一識別碼。
22. 如申請專利範圍第18項所述之具高度適應性交談管理方法，其中該交談識別對應管理員係負責記錄交談與被導向叢集節點之對應關係。
23. 如申請專利範圍第18項所述之具高度適應性交談管理方法，其中該失敗率為總失敗次數與總連線次數之比例。
24. 如申請專利範圍第19項所述之具高度適應性交談管理方法，其中該複製決策分數值，其值與該叢集節點故障因子成反比，並與該連線總數N成次方比。
25. 如申請專利範圍第20項所述之具高度適應性交談管理方法，其中該改變比例值的值與叢集節點故障因子成正比，並與連線總數N成平均分佈對應比之關係
26. 申請專利範圍第19項所述之具高度適應性交談管理方法，其中該複製旗號若為真，表示該交談有被複製至其他叢集節點；反之，該複製旗號若為假，表示該交談沒被複製至其他叢集節點。