TW201931145A

TW201931145A - 動態工作移轉方法及伺服器

Info

Publication number: TW201931145A
Application number: TW107100259A
Authority: TW
Inventors: 陳律翰; 王慶堯
Original assignee: 財團法人工業技術研究院
Priority date: 2018-01-04
Filing date: 2018-01-04
Publication date: 2019-08-01
Also published as: CN110012044A; TWI689823B; US10764359B2; CN110012044B; US20190208006A1

Abstract

一種動態工作移轉方法及伺服器。此方法包括以下步驟：定時蒐集並記錄網路中多個節點的網路資源，所述節點包括雲端節點及多個邊緣節點；於第一時間點接收第一工作的請求，而依據各節點於第一時間點的網路資源計算將第一工作配置到各節點的成本，以配置第一工作於第一目標節點；於第二時間點接收第二工作的請求，而依據各節點於第一時間點的網路資源計算將第二工作配置到各節點的成本，決定適於配置第二工作的第二目標節點並判斷是否需轉移第一工作；以及根據判斷結果配置第二工作並維持或移轉第一工作。

Description

動態工作移轉方法及伺服器

本發明是有關於一種工作轉移方法及裝置，且特別是有關於一種動態工作轉移方法及伺服器。

過去十年，由於網路技術的發展以及雲端服務產業的興起，提供了大量多元的資訊應用服務。然而，隨著物聯網（Internet of Things，IoT）技術的興起，聯網設備愈來愈多，當大量物聯網裝置同時聯網時，將可能造成網路資源（如頻寬、儲存空間、CPU運算能力）大量消耗，使得雲端運算（Cloud Computing）面臨挑戰。

邊緣運算（Edge Computing）被提出來以減輕雲端運算的負擔。詳細來說，邊緣運算是一種就近運算的概念，將運算能更靠近資料源所在的本地區網內運算，盡可能的不用將資料回傳至雲端中，以減少資料往返雲端的等待時間與降低網路頻寬成本。除此之外，適當地佈局多個邊緣節點也可以增加擴展性（Scalability）與可靠度（Reliability）。

當然，並不是全部的資料都能放在本地端來進行運算。舉例來說，有些資料需要更進一步的進行分析與判斷，並且需要傳至雲端中加以進行處理，或是作為長期存取的使用。因此，有必要因應當前的工作（Job）需求，適當配置網路節點以處理所有工作。

本發明提供一種動態工作移轉方法及伺服器，依據網路中所有工作的特性、需求與網路資源，重新配置處理各工作的網路節點，可提升整體運算及網路傳輸效能。

本發明的動態工作移轉方法，適用於雲與邊緣運算架構下的雲端節點，此方法包括以下步驟：定時蒐集並記錄網路中多個節點的網路資源，多個節點包括雲端節點及多個邊緣節點；於第一時間點接收第一工作的請求，而依據各節點於第一時間點的網路資源計算將第一工作配置到各節點的成本，以配置第一工作於節點中的第一目標節點；於第二時間點接收第二工作的請求，而依據各節點於第一時間點的網路資源計算將第二工作配置到各節點的成本，決定適於配置第二工作的第二目標節點並判斷是否需轉移第一工作，其中第二時間點在該第一時間點之後；根據判斷結果配置第二工作並維持或移轉第一工作。

本發明伺服器適於作為雲與邊緣運算架構下的雲端節點。此伺服器包括通訊裝置、儲存裝置以及處理器。其中，通訊裝置連接網路，並與網路中的多個邊緣節點進行通訊。處理器耦接至通訊裝置與儲存裝置，執行儲存裝置中記錄的程式以：利用通訊裝置定時蒐集網路中多個節點的網路資源並記錄於儲存裝置中，多個節點包括雲端節點及多個邊緣節點；利用通訊裝置於第一時間點接收第一工作的請求，而依據各節點於第一時間點的網路資源計算將第一工作配置到各節點的成本，以配置第一工作於節點中的第一目標節點；利用通訊裝置於第二時間點接收第二工作的請求，而依據各節點於第一時間點的網路資源計算將第二工作配置到各節點的成本，決定適於配置第二工作的第二目標節點並判斷是否需轉移第一工作，其中第二時間點在第一時間點之後；根據判斷結果配置第二工作並維持或移轉第一工作。

基於上述，本發明的動態工作移轉方法及伺服器主要是藉由定時蒐集網路中多個節點的網路資訊，以在接收到第一工作的請求時，依據當下各節點的網路資源，配置此第一工作。而當接收到第二工作的請求時，依據配置第一工作前各節點的網路資源，重新計算出將此第二工作配置到各節點所需要的成本，藉以決定此第二工作所適合配置的節點，並判斷是否需將第一工作轉移至其它的節點中。透過上述的方法，本發明的伺服器可在接收到新的工作請求時，依據網路上所有工作的特性、需求及網路資源，重新配置用以處理各個工作的節點，藉此達到提升整體運算及網路傳輸效能的目的。

為讓本發明的上述特徵和優點能更明顯易懂，下文特舉實施例，並配合所附圖式作詳細說明如下。

在伺服器透過網路來進行傳輸的過程中，當通訊裝置偵測到新的工作請求需要被執行時，本發明提出了一種動態工作移轉的方法，使得伺服器可以利用處理器來依據網路中所有工作的特性、需求及網路資源，來重新配置處理特定限制之工作的網路節點，達到動態資源使用最佳化之目的，藉以提升網路整體運算及傳輸效能。

圖1是依照本發明一實施例所繪示之伺服器100的方塊圖。在本實施例中，伺服器100適用於作為雲與邊緣運算架構下的雲端節點，並且包括通訊裝置110、儲存裝置120以及處理器130。其中，通訊裝置110可以連接至網路，藉以透過與網路連線的方式，來與網路中的多個邊緣節點進行通訊。處理器130分別耦接至通訊裝置110與儲存裝置120，並且用以執行儲存裝置120中所記錄的程式。

在本實施例中，通訊裝置110例如是支援乙太網路（Ethernet）等有線網路連結的網路卡或是支援電機和電子工程師協會（Institute of Electrical and Electronics Engineers，IEEE）802.11n/b/g等無線通訊標準的無線網路卡，其可透過有線或無線方式連接網路並與網路上的裝置交換資料。儲存裝置120可以例如是任何型態的固定式或可移動式隨機存取記憶體（random access memory，RAM）、唯讀記憶體（read-only memory，ROM）、快閃記憶體（flash memory）、可變電阻式記憶體（Resistive Random-Access Memory，RRAM）、鐵電隨機存取記憶體（Ferroelectric RAM，FeRAM）、磁阻隨機存取記憶體（MagnetoresistiveRAM，MRAM）、相變式隨機存取記憶體（Phase changeRAM，PRAM)、導通微通道記憶體（Conductive bridge RAM，CBRAM) 、動態隨機存取記憶體（Dynamic Random Access Memory，DRAM），但不限於此。處理器130可以例如是中央處理單元（Central Processing Unit，CPU），或是其他可程式化之一般用途或特殊用途的微處理器（Microprocessor）、數位信號處理器（Digital Signal Processor，DSP）、可程式化控制器、特殊應用積體電路（Application Specific Integrated Circuit，ASIC）或其他類似元件或上述元件的組合，但不限於此。

圖2是依照本發明一實施例所繪示之網路架構200的示意圖。在圖2中，網路架構200包括雲端節點210、多個邊緣節點220～240以及多個用戶裝置U1～U8，其中雲端節點210例如以圖1中的伺服器100實施。以下請同時參照圖1以及圖2，在本實施例中，雲端節點210會定時蒐集網路上邊緣節點220～240及其本身的網路資源，並記錄所蒐集的網路資源（例如記錄於儲存裝置120）。邊緣節點220～240分別是鄰近用戶裝置U1～U8的節點，其可就近處理用戶裝置U1～U8所提出的工作。詳言之，雲端節點210可經由網路接收用戶裝置U1～U8所發出的工作請求，藉以根據先前蒐集的網路資源，對各個節點（包括雲端節點210及邊緣節點220～240）中的網路資源與資料特性進行計算與評估，進而將這些工作配置到最適合的節點來進行處理。

圖3是依照本發明一實施例所繪示之動態工作移轉方法的流程圖。以下請同時參照圖1以及圖3，本實施例的方法適用於圖1的伺服器100，以下即搭配伺服器100中的各項元件說明本發明之動態工作移轉方法的詳細步驟。

在步驟S310中，處理器130可以利用通訊裝置110來定時蒐集並記錄網路中多個節點的網路資源，其中，這些網路資源可以是網路上的雲端節點與多個邊緣節點。針對上述步驟S310的實施方式，請同時參照圖4，圖4是依照本發明一實施例所繪示之多個節點相互交換網路資源的網路架構400的示意圖。在本實施例中，網路架構400包括雲端節點410、多個邊緣節點420～440以及第一、第二用戶裝置J1、J2。

詳細來說，上述的網路資源可以由各個邊緣節點420～440分別透過定時廣播活動訊號（Heartbeat）來與其它節點進行訊息交換，藉以取得與其它節點之間的傳輸延遲（Latency）。各個邊緣節點420～440在取得傳輸延遲的資訊之後，還會將本身的網路資源回報至雲端節點410中，使雲端節點410可以針對各個邊緣節點420～440的網路資源與資料特性進行計算與評估。除此之外，雲端節點410由第一、第二用戶裝置J1、J2接收的第一工作J_t 以及第二工作J_t+1 中，分別具有設定檔（Profile），此設定檔記錄著第一工作J_t 或第二工作J_t+1 的延遲時間、頻寬、功率以及儲存空間。其中，設定檔中的數字（1、3）分別表示各條件（延遲時間、頻寬、功率或儲存空間）的重要性或權重。透過這個設定檔，可以使處理器130獲得這些工作所需要的工作條件。

同樣請參照圖1以及圖3，在步驟S320中，處理器130可以利用通訊裝置110於第一時間點接收第一工作的請求，而依據各節點於第一時間點的網路資源來計算出將第一工作配置到各節點的成本，以將第一工作配置於這些節點中的第一目標節點。

詳細來說，圖5是依照本發明一實施例所繪示之計算配置工作到網路架構500中各節點的成本的示意圖。在本實施例中，網路架構500包括雲端節點510、多個邊緣節點520～540以及第一、第二用戶裝置J1、J2。在圖5中，處理器130可以依據各節點（邊緣節點520～540以及雲端節點510）於第一時間點（t）的網路資源，分別計算出將第一工作J_t 配置到這些節點所需的傳輸成本、計算成本及儲存成本。處理器130可進一步計算出這些傳輸成本、計算成本及儲存成本加權後的總和，以作為將第一工作J_t 配置到這些節點的成本。舉例來說，對於某一節點，可藉由將第一工作J_t 配置到此節點所需的傳輸成本C_T 、計算成本C_C 及儲存成本C_S 分別乘上權重w ₁ 、w ₂ 、w ₃ ，而獲得將第一工作J_t 配置到此節點的總成本C_sum ，其公式如下：。

其中，為了避免單一節點的網路資源數值過高（例如雲端節點的儲存空間遠高於邊緣節點）以致影響成本的平衡計算，處理器130例如是透過正規化各節點的網路資源，以轉換為傳輸成本C_T 、計算成本C_C 及儲存成本C_S 。

舉例來說，儲存成本與各節點的儲存空間成反比，即儲存空間愈大，儲存成本愈低。假設各邊緣節點520～540以及雲端節點510的儲存空間的比例為3：3：5：10，則其對應的儲存成本的比例為正規化後的1/3：1/3：1/5：1/10，即10：10：6：3。另一方面，傳輸成本與傳輸的延遲時間為正比的關係，而與傳輸頻寬則為反比的關係，即延遲時間愈久，傳輸成本愈高；傳輸頻寬愈大，傳輸成本愈低。因此，綜合考量上述延遲時間、傳輸頻寬與傳輸成本的關係，可計算出各邊緣節點520～540以及雲端節點510的傳輸成本的比例為2：3：7：10。此外，計算成本與各節點的計算能力成反比，即計算能力愈好，計算成本愈低，據此可計算出各邊緣節點520～540以及雲端節點510的傳輸成本的比例為5：4：5：4。

請再次參照圖3，在步驟S330中，處理器130可以利用通訊裝置110於第二時間點接收第二工作的請求，而依據各節點於第一時間點的網路資源，來計算出將此第二工作配置到各節點的成本，以決定適於配置此第二工作的第二目標節點，並且判斷是否需轉移上述的第一工作，從而在步驟S340中，根據判斷結果來配置第二工作並維持或移轉第一工作。其中，上述的第二時間點是在第一時間點之後。

詳細來說，在接收到第二工作的請求時，網路中適於處理該第二工作的最佳節點可能是尚未被配置工作的節點，但也可能是已被配置用來處理第一工作的節點。為了避免因為該最佳節點被第一工作占用，以致第二工作被迫分配到次佳節點，而不能達到資源分配最佳化，在本實施例中，當處理器130利用通訊裝置110於第二時間點接收到來自用戶裝置所發出的新的第二工作的請求時，處理器130會追溯回（接收到第一工作時的）第一時間點，而根據第一時間點的網路資源，重新計算出將此第二工作配置到各個節點的成本，據以將第二工作配置到最為適合的節點。同時，處理器130也依據此計算結果來判斷是否需要轉移先前的第一工作。即，若適於處理第二工作的最佳節點為先前被配置用以處理第一工作的節點，則可進一步考量將該第一工作轉移到其他節點的成本，來決定是否需要轉移第一工作。

詳細來說，圖6是依照本發明一實施例所繪示之判斷是否需轉移工作的方法流程圖。以下請同時參照圖1以及圖6。在步驟S610中，處理器130會判斷決定適於配置第二工作的第二目標節點是否與先前被配置用以處理第一工作的第一目標節點相同。

若第二目標節點與第一目標節點不同，在步驟S620中，則處理器130無需移轉第一工作，因此將第二工作配置到第二目標節點，而不移轉第一工作。反之，若第二目標節點與第一目標節點相同，在步驟S630中，處理器130會進一步判斷於第一時間點時，將第二工作配置到第一目標節點的成本是否大於將第一工作配置到第一目標節點的成本。執行步驟S640，反之，則執行步驟S650。

若上述步驟S630的判斷結果為是，則處理器130執行步驟S640，依據各節點於第二時間點的網路資源重新計算將第二工作配置到各節點的成本，以配置第二工作於第三目標節點，並且不移轉第一工作。詳細來說，處理器130依據第二時間點所計算出第二工作配置到各節點的成本，以使處理器130可以將此第二工作配置到所需成本最小的節點。

若上述步驟S630的判斷結果為否，則處理器130執行步驟S650，依據於第一時間點將第一工作配置到第一目標節點的鄰近節點的成本以及於第二時間點將第一工作維持在第一目標節點的成本，來將第一工作移轉至鄰近節點中的第四目標節點或不移轉第一工作。

舉例來說，圖7是依照本發明一實施例所繪示之判斷是否需轉移工作的網路架構700的示意圖。在本實施例中，網路架構700包括雲端節點710、多個邊緣節點720～740以及第一、第二用戶裝置J1、J2。假設雲端節點710於第一時間點t將第一用戶裝置J1的第一工作J_t 配置到邊緣節點730。而當雲端節點710於第二時間點t+1接收到第二用戶裝置J2的第二工作J_t+1 的請求時，由於處理器130判斷第二工作J_t+1 配置於邊緣節點730的成本小於第一工作J_t 配置於邊緣節點730所需要的成本，因此，於第二時間點t+1時，處理器130會將第二工作J_t+1 配置到邊緣節點730中。在此情況下，處理器130將會判斷第一工作J_t 配置到其他節點（雲端節點710或邊緣節點720～740）所需要的成本，以將第一工作J_t 配置到所需成本最小的節點。

換言之，此時雲端節點710會進一步計算出，於第一時間點將第一工作J_t 配置於（邊緣節點730相鄰的）雲端節點710或邊緣節點720、740所需的成本，同時也計算出於第二時間點將第一工作J_t 配置於邊緣節點730所需的成本。若處理器130依據這些計算結果中判斷將第一工作J_t 配置於邊緣節點730的相鄰節點的成本較低，則處理器130會將第一工作J_t 移轉至其它的節點中（如，雲端節點710以及邊緣節點720、740中的其中之一）。反之，若處理器130判斷將第一工作J_t 維持於邊緣節點730的成本較低，則處理器130會將第一工作J_t 維持由邊緣節點730處理。

需說明的是，在一實施例中，處理器130在因應第二工作J_t+1 的請求而移轉工作時，例如僅會移轉距離第二工作J_t+1 為k個節點個數（hop）內的工作，意即處理器130僅移轉所配置節點至第二工作J_t+1 的發送端之間經過的節點個數在k之內的工作，其中k為正整數。

此外，在上述實施例中，第一工作是指第二工作的前一個工作。而在另一實施例中，第一工作也可以是第二工作之前第n個工作，其中n為正整數。也就是說，當處理器130接收到新的工作時，例如會回溯到先前第n個工作配置前的時間點，而以當時的網路資源重新評估適於處理此第n個工作到目前接收到的新工作之間多個工作的節點，並重新配置用以處理這些工作的節點，藉此可進一步提升整體運算及網路傳輸效能。

綜上所述，本發明的動態工作移轉方法及伺服器除了利用成本函數提供負載平衡的機制外，更在接收到新工作時，回溯到先前配置其他工作時的網路資源，而重新統籌配置處理這些工作的節點。且有鑑於重新配置所有工作所涉及的複雜度較高，本發明例如針對重新配置的工作的空間（即距離新工作的發送端的節點個數）以及時間（即回溯及重新配置的工作數目）做限制，來達到動態資源使用最佳化的目的。

雖然本發明已以實施例揭露如上，然其並非用以限定本發明，任何所屬技術領域中具有通常知識者，在不脫離本發明的精神和範圍內，當可作些許的更動與潤飾，故本發明的保護範圍當視後附的申請專利範圍所界定者為準。

100‧‧‧伺服器

120‧‧‧儲存裝置

130‧‧‧處理器

200、400、500、700‧‧‧網路架構

210、410、510、710‧‧‧雲端節點

220～240、420～440、520～540、720～740‧‧‧邊緣節點

U1～U8、J1、J2‧‧‧用戶裝置

J_t‧‧‧第一工作

J_t+1‧‧‧第二工作

t‧‧‧第一時間點

t+1‧‧‧第二時間點

S310～S340‧‧‧動態工作移轉方法的步驟

S610～S650‧‧‧判斷是否需轉移工作的方法的步驟

圖1是依照本發明一實施例所繪示之伺服器的方塊圖。圖2是依照本發明一實施例所繪示之網路架構的示意圖。圖3是依照本發明一實施例所繪示之動態工作移轉方法的流程圖。圖4是依照本發明一實施例所繪示之多個節點相互交換網路資源的網路架構的示意圖。圖5是依照本發明一實施例所繪示之計算配置工作到網路架構中各節點的成本的示意圖。圖6是依照本發明一實施例所繪示之判斷是否需轉移工作的方法流程圖。圖7是依照本發明一實施例所繪示之判斷是否需轉移工作的網路架構的示意圖。

Claims

一種動態工作移轉方法，適用於雲與邊緣運算架構下的雲端節點，該方法包括以下步驟：定時蒐集並記錄網路中多個節點的網路資源，所述多個節點包括所述雲端節點及多個邊緣節點；於第一時間點接收第一工作的請求，而依據各所述節點於該第一時間點的網路資源計算將該第一工作配置到各所述節點的成本，以配置該第一工作於所述節點中的第一目標節點；於第二時間點接收第二工作的請求，而依據各所述節點於該第一時間點的網路資源計算將該第二工作配置到各所述節點的成本，決定適於配置該第二工作的第二目標節點並判斷是否需轉移該第一工作，其中該第二時間點在該第一時間點之後；以及根據判斷結果配置該第二工作並維持或移轉該第一工作。
如申請專利範圍第1項所述的動態工作移轉方法，其中判斷是否需轉移該第一工作的步驟包括：判斷所決定適於配置該第二工作的第二目標節點是否與該第一目標節點相同；若不同，配置該第二工作於該第二目標節點，並不移轉該第一工作；若相同，判斷於該第一時間點將該第二工作配置到該第一目標節點的成本是否大於將該第一工作配置到該第一目標節點的成本；若是，依據各所述節點於該第二時間點的網路資源重新計算將該第二工作配置到各所述節點的成本，以配置該第二工作於第三目標節點，並不移轉該第一工作；以及若否，依據於該第一時間點將該第一工作配置到該第一目標節點的鄰近節點的成本以及於第二時間點將該第一工作維持在該第一目標節點的成本，移轉該第一工作至所述鄰近節點中的第四目標節點或不移轉該第一工作。
如申請專利範圍第1項所述的動態工作移轉方法，其中所述網路資源包括由各所述邊緣節點藉由定時與其他節點交換訊息而取得的與各所述其他節點間的傳輸延遲。
如申請專利範圍第1項所述的動態工作移轉方法，其中依據各所述節點於該第一時間點的網路資源計算將該第一工作配置到各所述節點的成本的步驟包括：依據各所述節點於該第一時間點的網路資源，分別計算將第一工作配置到該節點所需的傳輸成本、計算成本及儲存成本，並計算所述傳輸成本、所述計算成本及所述儲存成本加權後的總和，作為將該第一工作配置到該節點的成本。
如申請專利範圍第4項所述的動態工作移轉方法，其中依據各所述節點於該第一時間點的網路資源，分別計算將第一工作配置到該節點所需的傳輸成本、計算成本及儲存成本的步驟包括：正規化各所述節點的所述網路資源，以轉換為所述傳輸成本、所述計算成本及所述儲存成本。
如申請專利範圍第1項所述的動態工作移轉方法，其中該第一工作為該第二工作之前第n個工作，其中n為正整數。
如申請專利範圍第1項所述的動態工作移轉方法，其中根據判斷結果配置該第二工作並維持或移轉該第一工作的步驟包括：僅移轉所配置節點至該第二工作的發送端之間經過的節點個數在k之內的工作，其中k為正整數。
一種伺服器，適於作為雲與邊緣運算架構下的雲端節點，包括：通訊裝置，連接網路，並與該網路中的多個邊緣節點進行通訊；儲存裝置；以及處理器，耦接至所述通訊裝置與所述儲存裝置，執行所述儲存裝置中記錄的程式以：利用所述通訊裝置定時蒐集該網路中多個節點的網路資源並記錄於所述儲存裝置中，所述多個節點包括所述雲端節點及所述多個邊緣節點；利用所述通訊裝置於第一時間點接收第一工作的請求，而依據各所述節點於該第一時間點的網路資源計算將該第一工作配置到各所述節點的成本，以配置該第一工作於所述節點中的第一目標節點；利用所述通訊裝置於第二時間點接收第二工作的請求，而依據各所述節點於該第一時間點的網路資源計算將該第二工作配置到各所述節點的成本，決定適於配置該第二工作的第二目標節點並判斷是否需轉移該第一工作，其中該第二時間點在該第一時間點之後；以及根據判斷結果配置該第二工作並維持或移轉該第一工作。
如申請專利範圍第8項所述的伺服器，其中所述處理器包括：判斷所決定適於配置該第二工作的第二目標節點是否與該第一目標節點相同；若不同，所述處理器配置該第二工作於該第二目標節點，並不移轉該第一工作；若相同，所述處理器判斷於該第一時間點將該第二工作配置到該第一目標節點的成本是否大於將該第一工作配置到該第一目標節點的成本；若是，則所述處理器依據各所述節點於該第二時間點的網路資源重新計算將該第二工作配置到各所述節點的成本，以配置該第二工作於第三目標節點，並不移轉該第一工作；以及若否，則所述處理器依據於該第一時間點將該第一工作配置到該第一目標節點的鄰近節點的成本以及於第二時間點將該第一工作維持在該第一目標節點的成本，移轉該第一工作至所述鄰近節點中的第四目標節點或不移轉該第一工作。
如申請專利範圍第8項所述的伺服器，其中所述網路資源包括由各所述邊緣節點藉由定時與其他節點交換訊息而取得的與各所述其他節點間的傳輸延遲。
如申請專利範圍第8項所述的伺服器，其中所述處理器包括依據各所述節點於該第一時間點的網路資源，分別計算將第一工作配置到該節點所需的傳輸成本、計算成本及儲存成本，並計算所述傳輸成本、所述計算成本及所述儲存成本加權後的總和，作為將該第一工作配置到該節點的成本。
如申請專利範圍第11項所述的伺服器，其中所述處理器包括正規化各所述節點的所述網路資源，以轉換為所述傳輸成本、所述計算成本及所述儲存成本。
如申請專利範圍第8項所述的伺服器，其中該第一工作為該第二工作之前第n個工作，其中n為正整數。
如申請專利範圍第8項所述的伺服器，其中所述處理器僅移轉所配置節點至該第二工作的發送端之間經過的節點個數在k之內的工作，其中k為正整數。