TWI693845B

TWI693845B - 分派方法及邊緣計算系統

Info

Publication number: TWI693845B
Application number: TW107145893A
Authority: TW
Inventors: 周永明; 朱峰森
Original assignee: 未來市股份有限公司
Priority date: 2018-12-19
Filing date: 2018-12-19
Publication date: 2020-05-11
Also published as: TW202025799A

Abstract

一種分派方法，應用於一邊緣計算系統，包括一邊緣計算裝置以及一行動裝置。該分派方法包括該行動裝置透過一連線傳送一資源詢問訊息至該邊緣計算裝置，其中該連線包括一無線連線，該連線的一單向傳輸延遲小於10毫秒，該資源詢問訊息用來詢問該邊緣計算裝置具有何種類型的資源；該邊緣計算裝置傳送對應於該資源詢問訊息的一資源回覆訊息；以及當該資源回覆訊息指出該邊緣計算裝置包括具有該第二類型處理器的該第二計算裝置時，該行動裝置決定分派該第二類型計算工作至該第二計算裝置。

Description

分派方法及邊緣計算系統

本發明係指一種分派方法及邊緣計算系統，尤指一種可取得邊緣計算的資源型態資訊的分派方法及邊緣計算系統。

邊緣計算(Edge Computing)近年來吸引許多目光，相較於雲端計算，邊緣計算通常設置於基地台附近，而邊緣計算裝置與使用者之間的傳輸延遲(latency)通常較雲端計算裝置與使用者之間的傳輸延遲小很多。因此，邊緣計算裝置適用於進行及時應用程式的運算工作。

於某些情況中，某些邊緣計算裝置可具有額外的處理器，如圖形處理器(Graphic Processing Unit，GPU)或是張量處理器(Tensor Processing Unit，TPU)。然而，行動裝置不確定邊緣計算裝置具有哪種類型的處理器。舉例來說，行動裝置不知道邊緣計算裝置具有GPU而可以有效率地執行三維繪圖運算。為了避免延遲風險，行動裝置不會將三維繪圖運算交給邊緣計算裝置來處理，而使整體邊緣計算系統的效益降低。

因此，本發明之主要目的即在於提供一種可取得邊緣計算的資源型態資訊的分派方法及邊緣計算系統，以改善習知技術的缺點。

本發明實施例揭露一種分派方法，應用於一邊緣計算系統，包括一邊緣計算裝置以及一行動裝置，該邊緣計算裝置包括一第一計算裝置及一第二計算裝置中至少一者，該行動裝置具有欲分派的一第一類型計算工作以及一第二類型計算工作，其中該第一計算裝置具有一第一類型處理器但不具有一第二類型處理器，該第二計算裝置具有該第一類型處理器以及該第二類型處理器，該方法包括該行動裝置透過一連線傳送一資源詢問訊息至該邊緣計算裝置，其中該連線包括一無線連線，該連線的一單向傳輸延遲小於10毫秒，該資源詢問訊息用來詢問該邊緣計算裝置具有何種類型的資源；該邊緣計算裝置傳送對應於該資源詢問訊息的一資源回覆訊息，其中該資源回覆訊息指出該邊緣計算裝置是否包括具有該第二類型處理器的該第二計算裝置；以及當該資源回覆訊息指出該邊緣計算裝置包括具有該第二類型處理器的該第二計算裝置時，該行動裝置決定分派該第二類型計算工作至該邊緣計算裝置；其中，相較於該第二類型處理器，該第一類型處理器更適合執行該第一類型計算工作；相較於該第一類型處理器，該第二類型處理器更適合執行該第二類型計算工作。

本發明實施例揭露一種邊緣計算系統，包括一行動裝置，具有欲分派的一第一類型計算工作及一第二類型計算工作，用來透過一連線傳送一資源詢問訊息至該邊緣計算裝置，其中該連線包括一無線連線，該連線的一單向傳輸延遲小於10毫秒，該資源詢問訊息用來詢問該邊緣計算裝置具有何種類型的資源；以及一邊緣計算裝置，包括一第一計算裝置及一第二計算裝置中至少一者，用來傳送對應於該資源詢問訊息的一資源回覆訊息，其中該資源回覆訊息指出該邊緣計算裝置是否包括具有該第二類型處理器的該第二計算裝置，該第一計算裝置具有一第一類型處理器但不具有一第二類型處理器，該第二計算裝置具有該第一類型處理器以及該第二類型處理器；其中，當該資源回覆訊息指出該邊緣計算裝置包括具有該第一類型處理器及該第二類型處理器的該第二計算裝置時，該行動裝置決定分派該第二類型計算工作至該邊緣計算裝置；其中，相較於該第二類型處理器，該第一類型處理器更適合執行該第一類型計算工作；相較於該第一類型處理器，該第二類型處理器更適合執行該第二類型計算工作。

本發明實施例揭露一種行動裝置，應用於一邊緣計算系統，其中，該邊緣計算系統包括一邊緣計算裝置，該邊緣計算裝置包括一第一計算裝置及一第二計算裝置中至少一者，該第一計算裝置具有一第一類型處理器但不具有一第二類型處理器，該第二計算裝置具有該第一類型處理器以及該第二類型處理器；其中，該行動裝置透過一連線傳送一資源詢問訊息至該邊緣計算裝置，該連線包括一無線連線，該連線的一單向傳輸延遲小於10毫秒，該資源詢問訊息用來詢問該邊緣計算裝置具有何種類型的資源；其中，該邊緣計算裝置傳送對應於該資源詢問訊息的一資源回覆訊息，其中該資源回覆訊息指出該邊緣計算裝置是否包括具有該第二類型處理器的該第二計算裝置；其中，當該資源回覆訊息指出該邊緣計算裝置包括具有該第二類型處理器的該第二計算裝置時，該行動裝置決定分派該第二類型計算工作該邊緣計算裝置；其中，相較於該第二類型處理器，該第一類型處理器更適合執行該第一類型計算工作；相較於該第一類型處理器，該第二類型處理器更適合執行該第二類型計算工作。

10:邊緣計算系統

11:有線連線

12:邊緣計算裝置

120:第一計算裝置

122:第二計算裝置

13:無線連線

14:行動裝置

15:連線

16:基站

20:分派流程

202~212:步驟

第1圖為本發明實施例一邊緣計算系統之示意圖。

第2圖為本發明實施例一分派流程之示意圖。

第3圖為第2圖分派流程之示意圖。

第1圖為本發明實施例一邊緣計算系統10之示意圖。邊緣計算系統10包括一邊緣計算裝置12以及一行動裝置14。行動裝置14可為一智慧型手機、一平板電腦、一筆記型電腦、一虛擬實境(Virtual Reality，VR)裝置、一擴增實境(Augmented Reality，AR)裝置、一混合實境(Mixed Reality，MR)裝置、一延展實境(Extended Reality，XR)裝置或一車用裝置(設置於車上的電子裝置)，但不限於此。邊緣計算裝置12可為一電腦叢集(Computer Cluster)或是一叢集計算系統(Clustered Computing System)。邊緣計算裝置12可包括一第一計算裝置120及一第二計算裝置122中至少一者。第一計算裝置120及(或)第二計算裝置122可為一電腦或一伺服器，其可設置於一基站16附近。邊緣計算裝置12與基站16之間可透過有線連線相互連接，也就是說，邊緣計算裝置12與基站16之間可具有一有線連線11。基站16可為一大型基地台(或演進節點B(eNodeB))、一微型基地台(Femto Base Station)或是一無線存取點(Access Point，AP)。行動裝置14位於基站16的服務區域/範圍中而被基站16服務，也就是說，行動裝置14與基站16透過一空氣介面或一無線連線13相互進行通訊，其中無線連線13可為5G無線通訊系統而具有低傳輸延遲(Latency)。具體來說，邊緣計算裝置12與行動裝置14之間的一連線15可包括有線連線11以及無線連線13，而邊緣計算裝置12與行動裝置14之間的一單向傳輸延遲(其可為由行動裝置14至邊緣計算裝置12的傳輸延遲或是由邊緣計算裝置12至行動裝置14的傳輸延遲)小於10毫秒。因連線15的傳輸延遲夠小，行動裝置14可以將至少一部分的計算工作交給邊緣計算裝置12執行，特別是即時應用程式的計算工作。

於一實施例中，第一計算裝置120可具有一第一類型處理器但不具有一第二類型處理器，第二計算裝置122可同時具有第一類型處理器以及第二類型處理器。第一類型處理器可為一中央處理器(CPU)，而第二類型處理器可為一圖形處理器(GPU)或一張量處理器(TPU)。

在此情形下，行動裝置14可分派一第一類型計算工作(其為一即時應用程式)至邊緣計算裝置12，並讓邊緣計算裝置12利用其CPU執行第一類型計算工作，其中第一類型計算工作可適合用一般用途的CPU來執行。舉例來說，於自動駕駛汽車的應用/場景中，行動裝置14可設置於自駕車上，而第一類型計算工作可為根據自駕車上攝影機捕捉的影像來進行的一碰撞偵測運算，而碰撞偵測運算較適合用一般用途CPU來執行。

另一方面，行動裝置14可取得關於邊緣計算裝置12是否包括第二計算裝置122的資訊，並且，當邊緣計算裝置12包括第二計算裝置122時，行動裝置14可將一第二類型計算工作交給邊緣計算裝置12並讓邊緣計算裝置12的第二計算裝置122利用其第二類型處理器執行第二類型計算工作，其中第二類型計算工作較適合用第二類型處理器來執行。舉例來說，對一VR應用/場景來說，行動裝置14可為一實境呈現裝置(如一VR裝置)，而第二類型計算工作為一VR彩現(VR Rendering)運算，其較適合用GPU來執行。如此一來，當行動裝置14知道邊緣計算裝置12具有GPU時，行動裝置14所需耗費的計算量(特別是對應於第二類型計算工作的計算量)可由邊緣計算裝置12來分攤，而可得到更佳的效能(例如降低行動裝置14所消耗的功率或得到較佳的執行效率)。反之，當行動裝置14知道邊緣計算裝置12不具有GPU時，行動裝置14可以不分派第二類型計算工作給邊緣計算裝置12，以例如避免邊緣計算裝置12無法在可容忍的延遲內完成被分派的運算工作。

第2圖為本發明實施例一分派流程20之示意圖，第3圖為分派流程20之示意圖。分派流程20為讓行動裝置14知道邊緣計算裝置12是否具有該第二計算裝置的一規約(protocol)。分派流程20包括以下步驟：

步驟202：行動裝置透過一連線，傳送一資源詢問訊息至邊緣計算裝置。

步驟204：該邊緣計算裝置傳送對應於該資源詢問訊息的一資源回覆訊息，其中該資源回覆訊息指出該邊緣計算裝置是否具有該第二計算裝置。

步驟206：當該資源回覆訊息指出該邊緣計算裝置具有該第二計算裝置時，該行動裝置決定分派該第二類型計算工作至該邊緣計算裝置。

步驟208：(此步驟為選擇性的)在該行動裝置分派該第二類型計算工作至該邊緣計算裝置之前，該行動裝置傳送一資源請求訊息至該邊緣計算裝置的該第二計算裝置，其中該資源請求訊息包括欲使用該第二類型處理器的一確認請求。

步驟210：(此步驟為選擇性的)在該行動裝置分派該第二類型計算工作至該邊緣計算裝置之前，該行動裝置傳送對應於該第二類型計算工作的一參數至該邊緣計算裝置的該第二計算裝置。

步驟212：該行動裝置分派該第二類型計算工作至該邊緣計算裝置。

於步驟202中，行動裝置14可透過連線15傳送一資源詢問訊息RI至邊緣計算裝置12。資源詢問訊息RI用來詢問邊緣計算裝置12具有何種類型的資源，也就是說，資源詢問訊息RI包括一詢問訊息，該詢問訊息用來詢問邊緣計算裝置12是否包括具有第二計算裝置122。資源詢問訊息RI及(或)該詢問訊息的格式並未有所限。

於步驟204中，在邊緣計算裝置12收到資源詢問訊息RI之後，邊緣計算裝置12做出回應並傳送對應於資源詢問訊息RI的一資源回覆訊息RR。若邊緣計算裝置12具有第一計算裝置120但不具有第二計算裝置122，則資源回覆訊息RR為“否”。若邊緣計算裝置12具有第二計算裝置122但不具有第一計算裝置120，則資源回覆訊息RR為“是”。若邊緣計算裝置12同時具有第一計算裝置及第二計算裝置122，則資源回覆訊息RR為“是”。

於一實施例中，資源回覆訊息RR指出邊緣計算裝置12包括第一計算裝置120的數量及第二計算裝置122的數量。舉例來說，資源回覆訊息RR指出在邊緣計算裝置12中，第一計算裝置120的數量為五個且第二計算裝置122的數量為八個。藉由準確得知第一計算裝置120的數量及第二計算裝置122的數量，行動裝置14可更精準地估算邊緣計算裝置12的能力。

於步驟206中，當行動裝置14收到資源回覆訊息RR之後，行動裝置14根據資源回覆訊息，決定是否分派第二類型計算工作至第二計算裝置122。

詳言之，第一類型計算工作較適合由第一類型處理器來執行(例如在前述例子中，自動駕駛汽車的碰撞偵測運算較適合由一般用途CPU處理)，第二類型計算工作較適合由第二類型處理器來執行(例如在前述例子中，VR彩現運算較適合由GPU處理)，且只有第二計算裝置122具有第二類型處理器。因此，當該資源回覆訊息RR指出邊緣計算裝置12具有第二計算裝置122時，就代表邊緣計算裝置12中至少一部分的計算裝置有第二類型處理器，使得邊緣計算裝置12適合被分派第二類型計算工作。反之，當該資源回覆訊息RR指出邊緣計算裝置12不具有第二計算裝置122時，就代表邊緣計算裝置12中所有的計算裝置都沒有第二類型處理器，使得邊緣計算裝置12可能不適合被分派第二類型計算工作。

於步驟208中，在行動裝置14決定要分派第二類型計算工作(如VR彩現運算)至邊緣計算裝置12之後，行動裝置14傳送一資源請求訊息RSR至邊緣計算裝置12，其中資源請求訊息RSR包括欲使用第二類型處理器(如GPU)的一確認請求。當邊緣計算裝置12收到資源請求訊息RSR時，邊緣計算裝置12可檢視其第二類型處理器是否有空閒的運算資源(以執行第二類型計算工作)，並傳送對應於資源請求訊息RSR的一確認訊息ACK_R至行動裝置14。藉由該確認請求，行動裝置14可得知第二類型處理器的使用率是否過高，使得邊緣計算裝置12可能不適合被分派第二類型計算工作或只能處理某部分的第二類型計算工作。於另一實施例中，行動裝置14同時傳送資源詢問訊息RI及資源請求訊息RSR。

於步驟210中，行動裝置14傳送對應於第一類型計算工作的一第一參數及對應於第二類型計算工作的一第二參數中之至少一者至邊緣計算裝置12。舉例來說，假設第一類型計算工作為碰撞偵測運算，該第一參數可為一車輛健康度參數、道路狀況參數或衛星定位參數。再舉一例，假設第二類型計算工作為VR彩現運算，該第二參數可為一螢幕大小或是行動裝置14的一螢幕解析度。藉由該第一參數及該第二參數，邊緣計算裝置12可以更清楚得知行動裝置14的裝置參數或狀況參數，從而提高邊緣計算裝置12的效能(例如藉由統計分析或機器學習的演算法，來加快運算速度或減少消耗)。於另一實施例中，行動裝置14同時傳送資源詢問訊息RI及該些參數。

於步驟212中，該行動裝置分派第二類型計算工作至該邊緣計算裝置。

於一實施例中，行動裝置可設置成根據資源回覆訊息RR來決定是否分派第一類型計算工作至該邊緣計算裝置。例如，當資源回覆訊息RR指示邊緣計算裝置12同時具有第一計算裝置及第二計算裝置時，行動裝置14分派第一類型計算工作及第二類型計算工作至邊緣計算裝置12。又例如，當資源回覆訊息RR指示邊緣計算裝置12具有第一計算裝置但不具有第二計算裝置時，行動裝置14分派第一類型計算工作但不分派第二類型計算工作至邊緣計算裝置12。

於另一實施例中，該行動裝置可設置成無論該邊緣運算裝置是否具有第一計算裝置，行動裝置皆分派或皆不分派第一類型計算工作至該邊緣計算裝置。亦即，行動裝置也可設置成不根據資源回覆訊息RR來決定是否分派第一類型計算工作至該邊緣計算裝置。

現有技術中，行動裝置不確定邊緣計算裝置具有何種類型的處理器。相較之下，本發明的行動裝置可取得邊緣計算裝置的資源類型的資訊，因此，本發明的行動裝置可交付一特定類型計算工作至一特定處理器，其中該特定類型計算工作適合由該特定處理器來執行，如此一來，邊緣計算裝置可分攤行動裝置對應於該特定類型計算工作的運算量，降低行動裝置的功耗。

綜上所述，本發明的行動裝置可取得邊緣計算裝置的資源類型的資訊並交付特定類型計算工作(例如即時運算應用程式)至特定處理器，其中該特定類型計算工作適合由該特定處理器來執行，如此一來，邊緣計算裝置可分攤行動裝置對應於該特定類型計算工作的運算量，降低行動裝置的功耗。以上所述僅為本發明之較佳實施例，凡依本發明申請專利範圍所做之均等變化與修飾，皆應屬本發明之涵蓋範圍。

20:分派流程

202~212:步驟

Claims

一種分派方法，應用於一邊緣計算系統，包括一邊緣計算裝置以及一行動裝置，該邊緣計算裝置包含一第一計算裝置及一第二計算裝置中至少一者，該行動裝置具有欲分派的一第一類型計算工作以及一第二類型計算工作，其中該第一計算裝置具有一第一類型處理器但不具有一第二類型處理器，該第二計算裝置具有該第一類型處理器以及該第二類型處理器，該方法包括：該行動裝置透過一連線傳送一資源詢問訊息至該邊緣計算裝置，其中該連線包括一無線連線，該連線的一單向傳輸延遲小於10毫秒，該資源詢問訊息用來詢問該邊緣計算裝置具有何種類型的資源；該邊緣計算裝置傳送對應於該資源詢問訊息的一資源回覆訊息，其中該資源回覆訊息指出該邊緣計算裝置是否具有該第二計算裝置；當該資源回覆訊息指出該邊緣計算裝置包括具有該第二類型處理器的該第二計算裝置時，該行動裝置決定分派該第二類型計算工作至該邊緣計算裝置；以及在該行動裝置分派該第二類型計算工作至該邊緣計算裝置之前，該行動裝置傳送對應於該第二類型計算工作的一第二參數至該邊緣計算裝置；其中，相較於該第二類型處理器，該第一類型處理器更適合執行該第一類型計算工作；相較於該第一類型處理器，該第二類型處理器更適合執行該第二類型計算工作。
如請求項1所述的方法，其中該第一類型處理器為一中央處理器(CPU)，該第二類型處理器為一圖形處理器(GPU)或一張量處理器(TPU)。
如請求項1所述的方法，其中該第一類型計算工作及該第二類型計算工作皆為即時應用程式。
如請求項1所述的方法，另包括：當該資源回覆訊息指出該邊緣計算裝置具有該第一計算裝置時，分派該第一類型計算工作至該邊緣計算裝置。
如請求項1所述的方法，另包括：在該行動裝置分派該第二類型計算工作至該邊緣計算裝置之前，該行動裝置傳送一資源請求訊息至該邊緣計算裝置的該第二計算裝置，其中該資源請求訊息包括欲使用該第二類型處理器的一確認請求。
如請求項4所述的方法，另包括：在該行動裝置分派該第一類型計算工作至該邊緣計算裝置之前，該行動裝置傳送對應於該第一類型計算工作的一第一參數至該邊緣計算裝置。
一種邊緣計算系統，包括：一行動裝置，具有欲分派的一第一類型計算工作及一第二類型計算工作，用來透過一連線傳送一資源詢問訊息至該邊緣計算裝置，其中該連線包括一無線連線，該連線的一單向傳輸延遲小於10毫秒，該資源詢問訊息用來詢問該邊緣計算裝置具有何種類型的資源；以及一邊緣計算裝置，包括一第一計算裝置及一第二計算裝置中至少一者，用來傳送對應於該資源詢問訊息的一資源回覆訊息，其中該資源回覆訊息指出該邊緣計算裝置是否具有該第二計算裝置，該第一計算裝置具有一第一類型處理器但不具有一第二類型處理器，該第二計算裝置具有該第一類型處理器以及該第二類型處理器；其中，當該資源回覆訊息指出該邊緣計算裝置具有該第二計算裝置時，該行動裝置決定分派該第二類型計算工作至該邊緣計算裝置，且在該行動裝置分派該第二類型計算工作至該邊緣計算裝置之前，該行動裝置傳送對應於該第二類型計算工作的一第二參數至該邊緣計算裝置；其中，相較於該第二類型處理器，該第一類型處理器更適合執行該第一類型計算工作；相較於該第一類型處理器，該第二類型處理器更適合執行該第二類型計算工作。
如請求項7所述的邊緣計算系統，其中該第一類型處理器為一中央處理器(CPU)，該第二類型處理器為一圖形處理器(GPU)或一張量處理器(TPU)。
如請求項7所述的邊緣計算系統，其中該第一類型計算工作及該第二類型計算工作皆為即時應用程式。
如請求項7所述的邊緣計算系統，其中當該資源回覆訊息指出該邊緣計算裝置具有該第一計算裝置時，該行動裝置分派該第一類型計算工作至該邊緣計算裝置。
如請求項7所述的邊緣計算系統，其中在該行動裝置決定分派該第二類型計算工作至該邊緣計算裝置之前，該行動裝置傳送一資源請求訊息至該邊緣計算裝置的該第二計算裝置，該資源請求訊息包括欲使用該第二類型處理器的一請求。
如請求項10所述的邊緣計算系統，其中在該行動裝置分派該第一類型計算工作至該邊緣計算裝置之前，該行動裝置傳送對應於該第一類型計算工作的一第一參數至該邊緣計算裝置。
一種行動裝置，應用於一邊緣計算系統，其中，該邊緣計算系統包括一邊緣計算裝置，該邊緣計算裝置包括一第一計算裝置及一第二計算裝置中至少一者，該第一計算裝置具有一第一類型處理器但不具有一第二類型處理器，該第二計算裝置具有該第一類型處理器以及該第二類型處理器；其中，該行動裝置透過一連線傳送一資源詢問訊息至該邊緣計算裝置，該連線包括一無線連線，該連線的一單向傳輸延遲小於10毫秒，該資源詢問訊息用來詢問該邊緣計算裝置具有何種類型的資源；其中，該邊緣計算裝置傳送對應於該資源詢問訊息的一資源回覆訊息，其中該資源回覆訊息指出該邊緣計算裝置是否具有該第二計算裝置；其中，當該資源回覆訊息指出該邊緣計算裝置包括具有該第二類型處理器的該第二計算裝置時，該行動裝置決定分派該第二類型計算工作至該邊緣計算裝置；其中，在該行動裝置分派該第二類型計算工作至該邊緣計算裝置之前，該行動裝置傳送對應於該第二類型計算工作的一第二參數至該邊緣計算裝置；以及其中，相較於該第二類型處理器，該第一類型處理器更適合執行該第一類型計算工作；相較於該第一類型處理器，該第二類型處理器更適合執行該第二類型計算工作。
如請求項13所述的行動裝置，其中該第一類型處理器為一中央處理器(CPU)，該第二類型處理器為一圖形處理器(GPU)或一張量處理器(TPU)。
如請求項13所述的行動裝置，其中該第一類型計算工作及該第二類型計算工作皆為即時應用程式。
如請求項13所述的行動裝置，其中當該資源回覆訊息指出該邊緣計算裝置包括具有該第一計算裝置時，該行動裝置分派該第一類型計算工作至該邊緣計算裝置。
如請求項13所述的行動裝置，其中在該行動裝置分派該第二類型計算工作至該邊緣計算裝置之前，該行動裝置傳送一資源請求訊息至該邊緣計算裝置的該第二計算裝置，該資源請求訊息包括欲使用該第二類型處理器的一確認請求。
如請求項16所述的行動裝置，其中在該行動裝置分派該第一類型計算工作至該邊緣計算裝置之前，該行動裝置傳送對應於該第一類型計算工作的一第一參數至該邊緣計算裝置。