TWI470567B - 考慮耗時與耗電的卸載運算量的決策方法與運算系統 - Google Patents

考慮耗時與耗電的卸載運算量的決策方法與運算系統 Download PDF

Info

Publication number
TWI470567B
TWI470567B TW101103616A TW101103616A TWI470567B TW I470567 B TWI470567 B TW I470567B TW 101103616 A TW101103616 A TW 101103616A TW 101103616 A TW101103616 A TW 101103616A TW I470567 B TWI470567 B TW I470567B
Authority
TW
Taiwan
Prior art keywords
unit
computing
task
unloading
perform
Prior art date
Application number
TW101103616A
Other languages
English (en)
Other versions
TW201333839A (zh
Inventor
Ying Dar Lin
Ting Jun Huang
Yuan Cheng Lai
Tsung Hsien Chu
Original Assignee
Univ Nat Chiao Tung
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Univ Nat Chiao Tung filed Critical Univ Nat Chiao Tung
Priority to TW101103616A priority Critical patent/TWI470567B/zh
Priority to US13/477,063 priority patent/US8943348B2/en
Publication of TW201333839A publication Critical patent/TW201333839A/zh
Application granted granted Critical
Publication of TWI470567B publication Critical patent/TWI470567B/zh

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26—Power supply means, e.g. regulation thereof
    • G06F1/32—Means for saving power
    • G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3234—Power saving characterised by the action undertaken
    • G06F1/329—Power saving characterised by the action undertaken by task scheduling
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5094—Allocation of resources, e.g. of the central processing unit [CPU] where the allocation takes into account power or heat criteria
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/509—Offload
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Description

考慮耗時與耗電的卸載運算量的決策方法與運算系統
本發明是有關於一種卸載運算量的技術，且特別是有關於一種同時考慮耗時與耗電的卸載運算量的決策方法與使用此方法的系統。
隋著網路速度越來越快，以及行動裝置越來越普及，雲端運算的技術也越來越重要。雲端運算的主要目的就是要將一裝置上的運算量透過網路卸載至其他運算能力較強的伺服器，如此一來可能可以減少此裝置上的運算時間與耗電。然而，並不是每個運算任務都適合被卸載至網路上的一伺服器。這是由於要將運算任務卸載至伺服器，還必須消耗其他的電力與運算時間來傳輸此運算任務。另一方面，由於一般運算系統或是行動裝置上會配置多個運算單元，因此另一種卸載的方式是將運算任務卸載至相同裝置的其他運算單元。
一般來說，適合被卸載至伺服器的運算任務需要有幾個特性，即運算量大且資料量小。例如，若在行動裝置上執行一個下棋的遊戲，要卸載至一伺服器所需要傳輸的資料量僅是描述整個棋盤的資料，但所需要的運算量卻可能非常大。因此，此下棋的遊戲便適合卸載至一遠端的伺服器。而適合卸載至相同裝置上其他運算單元的運算任務，卻可能需要具備不同的特性。因此，如何能夠同時考慮耗電與運算時間，並將運算任務適當的卸載到一伺服器或一運算單元，為此領域研究人員所關心的問題。
本發明一實施例提出了一種卸載運算量的決策方法與使用此方法的運算系統，可以同時考慮耗電與耗時來決定是否要卸載一運算任務。
本發明提出一種考慮耗時與耗電的卸載運算量的決策方法，用於一運算系統。此運算系統包括多個運算單元且耦接至至少一伺服器。此卸載運算量的決策方法包括：取得一運算任務；從運算系統的一影響因子表中取得多個靜態影響因子；以及蒐集多個動態影響因子。此卸載運算量的決策方法還包括：根據這些動態影響因子與靜態影響因子，產生各個運算單元與各個伺服器執行運算任務所需的耗電量與運算時間；根據這些耗電量與運算時間，計算出各個運算單元與各個伺服器執行運算任務的成本數值；根據這些成本數值，判斷由一目標單元來執行運算任務，此目標單元是上述運算單元與伺服器的其中之一；以及，將運算任務傳送至所決定出的目標單元，由目標單元執行運算任務。
在本發明的一實施例中，上述從運算系統的影響因子表中取得靜態影響因子的步驟還包括：判斷運算系統是否已產生影響因子表；以及，若運算系統尚未產生影響因子表，則建立影響因子表。
在本發明的一實施例中，上述將運算任務傳送至目標單元，由目標單元執行運算任務的步驟之後還包括：根據目標單元執行運算任務的結果，更新影響因子表。
在本發明的一實施例中，上述根據耗電量與運算時間，計算出各個運算單元與各個伺服器執行運算任務的成本數值的步驟包括：根據方程式(1)、(2)與(3)來計算成本數值，
其中，cpu為運算單元中的一主要運算單元。p為一比較運算單元，此比較運算單元是運算單元的其中之一或者是伺服器的其中之一。CP 為比較運算單元的成本數值。為比較運算單元執行運算任務所需的運算時間。為比較運算單元執行運算任務所需的耗電量。為主要運算單元執行運算任務所需的運算時間。為主要運算單元執行運算任務所需的耗電量。α為一個大於等於0且小於等於1的實數；以及，將成本數值最小的比較運算單元設定為目標單元。
以另外一個角度來說，本發明還提出一種運算系統。此運算系統包括網路介面，記憶體，多個運算單元，一卸載決策單元。其中，網路介面是用以連接至至少一個伺服器。記憶體中儲存了一個影響因子表。卸載決策單元是耦接至網路介面、記憶體與運算單元，用以接收一運算任務。其中，卸載決策單元會從影響因子表中取得多個靜態影響因子，並且蒐集多個動態影響因子。卸載決策單元會根據所取得的動態影響因子與靜態影響因子，產生各個運算單元與各個伺服器執行運算任務所需的耗電量與運算時間。卸載決策單元會根據耗電量與運算時間，計算出各個運算單元與各個伺服器執行運算任務的成本數值。卸載決策單元還會根據所計算出的成本數值，判斷由一目標單元來執行運算任務，此目標單元為運算單元與伺服器的其中之一。卸載決策單元會將運算任務傳送至目標單元，由目標單元執行運算任務。
在本發明的一實施例中，上述卸載決策單元還用以判斷運算系統是否已產生影響因子表，若運算系統尚未產生影響因子表，則卸載決策單元會建立影響因子表。
在本發明的一實施例中，上述動態影響因子包括運算任務的運算量、各個伺服器的一伺服器運算速度以及網路速度。
在本發明的一實施例中，上述靜態影響因子包括記憶體速度與各個運算單元的一運算單元運算速度。
在本發明的一實施例中，上述卸載決策單元還用以根據目標單元執行運算任務的結果，更新影響因子表。
在本發明的一實施例中，上述卸載決策單元還用以根據上述的方程式(1)、(2)與(3)來計算成本數值，並將成本數值最小的比較運算單元設定為目標單元。
基於上述，本發明所提出的運算系統與卸載運算量的決策方法，可以同時考慮耗電與運算時間，並根據一個變數來將耗電與運算時間產生出成本數值。使用者可以調整此變數來計算出不同的成本數值。根據此成本數值，可以適當的決定是否要卸載運算任務。
為讓本發明之上述特徵和優點能更明顯易懂，下文特舉實施例，並配合所附圖式作詳細說明如下。
圖1是根據一實施例說明運算系統的方塊圖。
請參照圖1。運算系統100是耦接至伺服器140，且接收運算任務120，並決定運算任務120是否要卸載至伺服器140。或者是，運算系統100中包括了多個運算單元，運算系統100是用以決定運算任務120是要由哪一個運算單元來執行。特別的是，運算系統100可以同時考慮伺服器140或運算系統中的多個運算單元，用以決定運算任務120是否要卸載到伺服器140或是上述多個運算單元的其中之一。在本實施例中，運算系統100是一個行動裝置，例如為智慧型手機。然而，在其他實施例中，運算系統100也可以是桌上型電腦或是筆記型電腦，本發明應不在此限。
運算任務120例如為一個矩陣相乘運算或是三維影像繪圖的運算，本發明並不限制運算任務120的內容。
而伺服器140例如為一個大型的運算裝置，擁有比運算系統100好的運算能力。然而，發明並不限制伺服器140的規模與運算能力。另一方面，在其他實施例中，運算系統100也可耦接至數目更多的伺服器，運算系統100可以決定運算任務120是要卸載是哪一個伺服器。本發明並不限制運算系統100耦接至的伺服器的數量。
運算系統100包括運算單元102、運算單元104、網路介面106、卸載決策單元108以及記憶體160。
運算單元102例如為中央處理器(central processing unit,CPU)，為運算系統100主要的運算單元。而運算單元104例如為圖形處理器(Graphics Processing Unit,GPU)，用以處理特定的運算。然而，本發明也可以將運算單元104設定為主要的運算單元，且運算單元104也可以是一微處理器(microprocessor)。在其他實施例中，運算單元102與運算單元104也可以是同一個處理器的兩個核心，本發明並不限制運算單元102與運算單元104的種類。另一方面，在本實施例中運算系統100包括兩個運算單元，然而在其他實施例中運算系統100也可以包括數目更多的運算單元，運算系統100可以決定要將運算任務120分配給哪一個運算單元來執行，本發明並不限制運算單元的個數。
網路介面106是用以耦接至伺服器140。例如，網路介面106是符合WiFi的網路介面卡。然而，網路介面106也可以是符合其他網路協定或其他通訊協定的裝置，本發明並不在此限。
記憶體160是用以儲存運算系統100的資料，例如為動態隨機存取記憶體(dynamic random access memory,DRAM)。然而，記憶體160也可以是靜態隨機存取記憶體，硬碟，非揮發性的快閃記憶體，本發明並不在此限。特別的是，記憶體160中儲存了影響因子表162。影響因子表162是用以儲存多個靜態影響因子。這些靜態影響因子是不容易隨著時間或環境而改變，但會影響計算運算任務120所需的耗電與運算時間的變數。例如，靜態影響因子為運算單元102、104的運算單元運算速度(例如，運算單元102的時脈頻率(clock frequency))。或者，靜態影響因子也可以是記憶體160的記憶體速度，例如，記憶體160的頻寬(bandwidth)。運算系統100可以根據影響因子表162中的靜態影響因子，來決定運算任務120要卸載至哪一個運算單元或者是伺服器。
卸載決策單元108是耦接至運算單元102、運算單元104、記憶體160以及網路介面106。例如，卸載決策單元108是一個特殊應用積體電路(Application-specific integrated circuit,ASIC)。然而，卸載決策單元108也可以是微處理器，本發明並不限制卸載決策單元的種類。卸載決策單元108是用以接收運算任務120，並決定運算任務120是要由哪一個運算單元或是伺服器來執行。在另一個實施例中，卸載決策單元108所執行的功能也可以被實作為程式碼，由一運算單元來執行。
具體來說，卸載決策單元108會先從影響因子表162中取得靜態影響因子。例如，卸載決策單元108會取得運算單元102、104的運算速度，與記憶體160的記憶體速度。由於這些靜態影像因子並不會經常改變，例如，記憶體160的頻寬為固定值，因此運算系統100是將這些靜態影響因子儲存在記憶體160的影響因子表中。另一方面，卸載決策單元108還會判斷運算系統100是否以建立了影響因子表162。若卸載決策單元108判斷影響因子表162尚未被建立，則會建立一個新的影響因子表162，並蒐集靜態影響因子來儲存至影響因子表162中。
卸載決策單元108還會蒐集多個動態影響因子，這些動態影響因子是可能會隨著時間或是環境而改變的變數。例如，動態影響因子為伺服器140的伺服器運算速度、網路速度與運算任務120的運算量。由於網路上的各種狀態變化非常快，因此電腦裝置100連線至網路的速度可能隨時都在改變。例如，運算系統100所送出封包的路徑可能經過一段時間之後就會改變。或者，在一實施例中，運算系統100是透過無線網路連線至伺服器140，而無線網路的通訊品質也會不斷的改變。因此，卸載決策單元108會先取得目前的網路速度。另一方面，伺服器140的運算速度也可能不斷改變。例如，在某些時間有許多使用者都將運算卸載到伺服器140，使得伺服器140的負載增加，藉此使得運算系統100所能分配到的運算資源減少。因此，卸載決策單元108還會取得伺服器140目前的運算速度。最後，運算任務120的運算量也可能不是固定。例如，運算任務120是一個矩陣相乘的運算，然而所相乘的矩陣大小卻不固定，使得做矩陣相乘所需的運算量也不相同。也就是說，卸載決策單元108可以根據目前運算系統100的狀況，取得多個會影響計算的動態影響因子。
在取得上述的靜態影響因子與動態影響因子以後，卸載決策單元108會根據這些動態影響因子與靜態影響因子來產生運算單元102、104與伺服器140執行運算任務120所需的耗電量與運算時間。舉例來說，當運算單元102的運算單元運算速度較低時，運算單元102執行運算任務120所需的運算時間便較長。當目前的網路速度較慢時，要卸載運算任務120至伺服器140所需的耗電量與運算時間都會增加。或者是，當運算任務120的運算量較大時，如果將運算任務120卸載至伺服器140，運算系統100便不需要消耗用以執行運算任務120的電力。然而，如果將運算任務120卸載至伺服器140，運算系統100便需要額外消耗電力來傳送運算任務120。卸載決策單元108會產生每個運算單元與伺服器執行運算任務120所需的耗電量與運算時間，藉此判斷由哪一個運算單元或伺服器來執行運算任務120。
接著，卸載決策單元108會根據所產生的耗電與運算時間，計算出各個運算單元102、104與伺服器140執行運算任務120的成本數值。此成本數值是用以表示運算單元或伺服器執行運算任務120時所付出的代價為多少。
卸載決策單元108會將運算系統100中的一個運算單元設定為主要的運算單元，例如，運算單元102。接著，卸載決策單元108會以運算單元102執行運算任務120所需的耗電與運算時間為基準，來計算出其他運算單元或伺服器的成本數值。詳細來說，卸載決策單元108是根據下列方程式(1)、(2)與(3)來計算出各個運算單元與伺服器的成本數值。
其中，cpu是運算系統100的一個主要運算單元，在本實施例中為運算單元102。p為一比較運算單元，此比較運算單元是運算單元102或運算單元103的其中之一，或者是伺服器140。也就是說，比較運算單元是用來與主要運算單元102比較，並計算出比較運算單元的成本數值。CP 即是此比較運算單元的成本數值。為比較運算單元執行運算任務所120需的運算時間。為比較運算單元執行運算任務所需的耗電量。為主要運算單元執行運算任務120所需的運算時間。為主要運算單元執行運算任務120所需的耗電量。最後，α為一個大於等於0且小於等於1的實數，可以由使用者來調整。
方程式(1)所代表的意義是計算出比較運算單元執行運算任務120所需的運算時間與主要運算單元的運算時間之間的差距。方程式(2)所代表的意義是計算出比較運算單元執行運算任務120所需的耗電與主要運算單元的耗電之間的差距。結合方程式(1)、(2)與(3)，其所代表的意思是，當一個比較運算單元執行運算任務120所消耗的運算時間與耗電越少時，所計算出的成本數值便越低。並且，成本數值是運算時間與耗電分別乘上α與1-α之後的相加。因此，當使用者覺得運算時間比較重要時，便可以調整α為較大的值。當使用者覺得耗電比較重要時，便可以調整α為較小的數值。舉例來說，若運算系統100是一個行動裝置，由於行動裝置上的電池容量有限，此時便可以將α調整為較小的數值，此時便比較有機會將運算任務120卸載給耗電較小的比較運算單元(例如，伺服器140)來執行。在另一實施例中，運算系統100是一個桌上型電腦，擁有比行動裝置更好的運算能力。此時使用者在意的是運算時間，因此可以將α調整為較大的數值。然而，α可以是隨著需要而調整的數值，本發明並不限制α的數值。
根據方程式(1)、(2)與(3)，卸載決策單元108會選擇成本數值最小的一個比較運算單元(即，運算單元102、104或伺服器140的其中之一)作為一目標單元。此目標單元便是要用以執行運算任務120的運算單元或是伺服器。因此，卸載決策單元108會進一步的將運算任務120傳送至所決定出的目標單元，由目標單元執行運算任務120。若目標單元是伺服器140，卸載決策單元108便會透過網路介面106將運算任務傳送至伺服器140。
當目標單元執行完運算任務120以後，卸載決策單元108會根據目標單元執行運算任務120的結果來更新影響因子表162。例如，卸載決策單元108會更新影響因子表162中的靜態影響因子，並且由於靜態影響因子可能只有一部份有改變，因此卸載決策單元108只需要更新影響因子表162的一部份資料，不需要將運算結果全部重新寫入。
圖2是根據一實施例說明卸載決策單元的運作流程圖。
請參照圖2。在步驟S202中，卸載決策單元108會判斷影響因子表是否存在。若是則進行步驟S208，否則進行步驟S204。
步驟S204中，卸載決策單元108會建立影響因子表。接著在步驟S206中，卸載決策單元108會將運算任務傳送至主要運算單元，由主要運算單元執行運算任務。
在步驟S208中，卸載決策單元108會取得動態影響因子與靜態影響因子。接著在步驟S210中，卸載決策單元108會根據動態影響因子與靜態影響因子來產生各個運算單元與伺服器的成本數值。步驟S212中，卸載決策單元108根據成本數值決定出目標單元。步驟S214中，卸載決策單元108會判斷目標單元是否為主要運算單元，若是則進行步驟S206，否則進行步驟S216。
步驟S216中，卸載決策單元108會將運算任務卸載至主要運算單元以外的運算單元或伺服器以執行運算任務。在步驟S218中，卸載決策單元108會取得目標單元執行運算任務的結果，並根據運算結果來更新影響因子表。最後，會結束圖2的流程。
然而，圖2中各步驟以詳細說明如上，在此便不再贅述。
另一方面，本發明還提出一種卸載運算量的決策方法。圖3是根據一實施例說明卸載運算量的決策方法的流程圖。
請參照圖3。在步驟S302中，取得一運算任務。在步驟S304中，從運算系統的一影響因子表中取得多個靜態影響因子。在步驟S306中，蒐集多個動態影響因子。在步驟S308中，根據動態影響因子與靜態影響因子，產生各個運算單元與各個伺服器執行運算任務所需的耗電量與運算時間。在步驟S310中，根據耗電量與運算時間，計算出各個運算單元與各個伺服器執行運算任務的成本數值。在步驟S312中，根據成本數值，判斷由一目標單元來執行運算任務，其中目標單元為運算單元與伺服器的其中之一。在步驟S314中，將運算任務傳送至目標單元，由目標單元執行運算任務。
值得注意的是，步驟S304與步驟S306的執行順序可以互換，本發明並不在此限。並且，圖3中各步驟已詳細說明如上，在此便不再贅述。
綜上所述，本發明實施例所提出的運算系統與卸載運算量的決策方法，可以根據各個運算單元與伺服器執行運算任務的耗電量與運算時間來決定出一個成本數值。並且，使用者可以調整一個變數來控制耗電量與運算時間之間的重要性。根據此變數與成本數值，可以根據不同的情況，適當的決定是否要將運算任務卸載至其他運算單元或伺服器。
雖然本發明已以實施例揭露如上，然其並非用以限定本發明，任何所屬技術領域中具有通常知識者，在不脫離本發明之精神和範圍內，當可作些許之更動與潤飾，故本發明之保護範圍當視後附之申請專利範圍所界定者為準。
100‧‧‧運算系統
102‧‧‧運算單元
104‧‧‧運算單元
106‧‧‧網路介面
108‧‧‧卸載運算單元
120‧‧‧運算任務
140‧‧‧伺服器
160‧‧‧記憶體
162‧‧‧影響因子表
S202、S204、S206、S208、S210、S212、S214、S216、S218‧‧‧卸載運算單元運作的各步驟
S302、S304、S306、S308、S310、S312、S314‧‧‧卸載運算量的決策方法的各步驟
圖1是根據一實施例說明運算系統的方塊圖。
圖2是根據一實施例說明卸載決策單元的運作流程圖。
圖3是根據一實施例說明卸載運算量的決策方法的流程圖。
S302、S304、S306、S308、S310、S312、S314．．．卸載運算量的決策方法的各步驟

Claims (10)

  1. 一種考慮耗時與耗電的卸載運算量的決策方法，用於一運算系統，其中該運算系統包括多個運算單元且耦接至至少一伺服器，該決策方法包括：取得一運算任務；從該運算系統的一影響因子表中取得多個靜態影響因子；蒐集多個動態影響因子；根據該些動態影響因子與該些靜態影響因子，產生各該些運算單元與各該些伺服器執行該運算任務所需的一耗電量與一運算時間；根據該些耗電量與該些運算時間，計算出各該些運算單元與各該些伺服器執行該運算任務的一成本數值；根據該些成本數值，判斷由一目標單元來執行該運算任務，其中該目標單元為該些運算單元與該些伺服器的其中之一；以及將該運算任務傳送至該目標單元，由該目標單元執行該運算任務，其中根據該些耗電量與該些運算時間，計算出各該些運算單元與各該些伺服器執行該運算任務的該成本數值的步驟包括：根據方程式(1)、(2)與(3)來計算該成本數值， 其中，cpu為該些運算單元中的一主要運算單元，p為一比較運算單元，該比較運算單元是該些運算單元的其中之一或者是該些伺服器的其中之一，CP 為該比較運算單元的該成本數值，為該比較運算單元執行該運算任務所需的該運算時間，為該比較運算單元執行該運算任務所需的該耗電量，為該主要運算單元執行該運算任務所需的該運算時間，為該主要運算單元執行該運算任務所需的該耗電量，α為大於等於0且小於等於1的實數；以及將該成本數值最小的該比較運算單元設定為該目標單元。
  2. 如申請專利範圍第1項所述之卸載運算量的決策方法，其中從該運算系統的該影響因子表中該些靜態影響因子的步驟還包括：判斷該運算系統是否已產生該影響因子表；以及若該運算系統尚未產生該影響因子表，則建立該影響因子表。
  3. 如申請專利範圍第1項所述之卸載運算量的決策方法，其中該些動態影響因子包括該運算任務的一運算量、各該些伺服器的一伺服器運算速度以及至少一網路速度。
  4. 如申請專利範圍第1項所述之卸載運算量的決策方法，其中各該些靜態影響因子包括一記憶體速度與各該些運算單元的一運算單元運算速度。
  5. 一種考慮耗時與耗電的卸載運算量的決策方法，用於一運算系統，其中該運算系統包括多個運算單元且耦接至至少一伺服器，該決策方法包括：取得一運算任務；從該運算系統的一影響因子表中取得多個靜態影響因子；蒐集多個動態影響因子；根據該些動態影響因子與該些靜態影響因子，產生各該些運算單元與各該些伺服器執行該運算任務所需的一耗電量與一運算時間；根據該些耗電量與該些運算時間，計算出各該些運算單元與各該些伺服器執行該運算任務的一成本數值；根據該些成本數值，判斷由一目標單元來執行該運算任務，其中該目標單元為該些運算單元與該些伺服器的其中之一；以及將該運算任務傳送至該目標單元，由該目標單元執行該運算任務，其中將該運算任務傳送至該目標單元，由該目標單元執行該運算任務的步驟之後還包括：根據該目標單元執行該運算任務的結果，更新該影響因子表。
  6. 一種運算系統，包括：一網路介面，用以連接至至少一伺服器；一記憶體，其中儲存一影響因子表； 多個運算單元；以及一卸載決策單元，耦接至該網路介面、該記憶體與該些運算單元，用以接收一運算任務，其中該卸載決策單元從該影響因子表中取得多個靜態影響因子，其中該卸載決策單元蒐集多個動態影響因子，其中該卸載決策單元根據該些動態影響因子與該些靜態影響因子，產生各該些運算單元與各該些伺服器執行該運算任務所需的一耗電量與一運算時間，其中該卸載決策單元根據該些耗電量與該些運算時間，計算出各該些運算單元與各該些伺服器執行該運算任務的一成本數值，其中該卸載決策單元根據該些成本數值，判斷由一目標單元來執行該運算任務，其中該目標單元為該些運算單元與該些伺服器的其中之一，其中該卸載決策單元將該運算任務傳送至該目標單元，由該目標單元執行該運算任務，其中該卸載決策單元還用以根據方程式(1)、(2)與(3)來計算該成本數值， 其中，cpu為該些運算單元中的一主要運算單元，p為一比較運算單元，該比較運算單元是該些運算單元的其中之一或 者是該些伺服器的其中之一，CP 為該比較運算單元的該成本數值，為該比較運算單元執行該運算任務所需的該運算時間，為該比較運算單元執行該運算任務所需的該耗電量，為該主要運算單元執行該運算任務所需的該運算時間，為該主要運算單元執行該運算任務所需的該耗電量，α為大於等於0且小於等於1的實數，該卸載決策單元還用以將該成本數值最小的該比較運算單元設定為該目標單元。
  7. 如申請專利範圍第6項所述之運算系統，其中該卸載決策單元還用以判斷該運算系統是否已產生該影響因子表，若該運算系統尚未產生該影響因子表，則該卸載決策單元建立該影響因子表。
  8. 如申請專利範圍第6項所述之運算系統，其中該些動態影響因子包括該運算任務的一運算量、各該些伺服器的一伺服器運算速度以及至少一網路速度。
  9. 如申請專利範圍第6項所述之運算系統，其中各該些靜態影響因子包括一記憶體速度與各該些運算單元的一運算單元運算速度。
  10. 一種運算系統，包括：一網路介面，用以連接至至少一伺服器；一記憶體，其中儲存一影響因子表；多個運算單元；以及一卸載決策單元，耦接至該網路介面、該記憶體與該些運算單元，用以接收一運算任務， 其中該卸載決策單元從該影響因子表中取得多個靜態影響因子，其中該卸載決策單元蒐集多個動態影響因子，其中該卸載決策單元根據該些動態影響因子與該些靜態影響因子，產生各該些運算單元與各該些伺服器執行該運算任務所需的一耗電量與一運算時間，其中該卸載決策單元根據該些耗電量與該些運算時間，計算出各該些運算單元與各該些伺服器執行該運算任務的一成本數值，其中該卸載決策單元根據該些成本數值，判斷由一目標單元來執行該運算任務，其中該目標單元為該些運算單元與該些伺服器的其中之一，其中該卸載決策單元將該運算任務傳送至該目標單元，由該目標單元執行該運算任務，其中該卸載決策單元還用以根據該目標單元執行該運算任務的結果，更新該影響因子表。
TW101103616A 2012-02-03 2012-02-03 考慮耗時與耗電的卸載運算量的決策方法與運算系統 TWI470567B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
TW101103616A TWI470567B (zh) 2012-02-03 2012-02-03 考慮耗時與耗電的卸載運算量的決策方法與運算系統
US13/477,063 US8943348B2 (en) 2012-02-03 2012-05-22 Method and system for offloading a computation to other computing units in the same device or to a server on a network based upon a computing time and a power consumption of each of the computing units and the server

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
TW101103616A TWI470567B (zh) 2012-02-03 2012-02-03 考慮耗時與耗電的卸載運算量的決策方法與運算系統

Publications (2)

Publication Number Publication Date
TW201333839A TW201333839A (zh) 2013-08-16
TWI470567B true TWI470567B (zh) 2015-01-21

Family

ID=48903983

Family Applications (1)

Application Number Title Priority Date Filing Date
TW101103616A TWI470567B (zh) 2012-02-03 2012-02-03 考慮耗時與耗電的卸載運算量的決策方法與運算系統

Country Status (2)

Country Link
US (1) US8943348B2 (zh)
TW (1) TWI470567B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9992306B2 (en) * 2012-12-21 2018-06-05 E*Trade Financial Corporation Dynamic execution
US10097989B2 (en) 2012-12-21 2018-10-09 E*Trade Financial Corporation Dynamic communication
US9378063B2 (en) * 2013-10-15 2016-06-28 Qualcomm Incorporated Mobile coprocessor system and methods
CN105704181A (zh) 2014-11-26 2016-06-22 国际商业机器公司 管理移动设备中的任务的方法和装置
WO2017067586A1 (en) * 2015-10-21 2017-04-27 Deutsche Telekom Ag Method and system for code offloading in mobile computing
US11184423B2 (en) 2018-10-24 2021-11-23 Microsoft Technology Licensing, Llc Offloading upload processing of a file in a distributed system using a key that includes a hash created using attribute(s) of a requestor and/or the file
DE102019206923B3 (de) 2019-05-13 2020-08-13 Volkswagen Aktiengesellschaft Verfahren zum Ausführen einer Anwendung auf einer verteilten Systemarchitektur
CN112486313B (zh) * 2019-09-11 2024-03-26 华为技术有限公司 终端的节电方法和装置
CN112231009B (zh) * 2020-09-17 2024-04-16 浙江工业大学 一种能量捕获网络模型任务计算卸载决策与调度方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW200949752A (en) * 2008-02-22 2009-12-01 Asyst Technologies VAO productivity suite
TWM398145U (en) * 2010-08-11 2011-02-11 qing-wen Yang Portable full screen electronic apparatus with computer processing capability
TW201137776A (en) * 2009-12-23 2011-11-01 Ibm A method and system to dynamically off-loading of batch workload a computing center to external cloud services

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7734726B2 (en) * 2001-11-27 2010-06-08 International Business Machines Corporation System and method for dynamically allocating processing on a network amongst multiple network servers
US7636372B2 (en) 2003-12-19 2009-12-22 Broadcom Corporation Method and system for providing smart offload and upload
US8595289B2 (en) * 2010-09-21 2013-11-26 Telefonaktiebolaget L M Ericsson (Publ) Cloud phone with distributed processing

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW200949752A (en) * 2008-02-22 2009-12-01 Asyst Technologies VAO productivity suite
TW201137776A (en) * 2009-12-23 2011-11-01 Ibm A method and system to dynamically off-loading of batch workload a computing center to external cloud services
TWM398145U (en) * 2010-08-11 2011-02-11 qing-wen Yang Portable full screen electronic apparatus with computer processing capability

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Antti P. Miettinen and Jukka K. Nurminen, "Energy efficiency of mobile clients in cloud computing.", In Proceedings of the 2nd USENIX conference on Hot topics in cloud computing (HotCloud'10), 2010-06-22, USENIX Association, Berkeley, CA, USA @2010 *

Also Published As

Publication number Publication date
TW201333839A (zh) 2013-08-16
US8943348B2 (en) 2015-01-27
US20130205158A1 (en) 2013-08-08

Similar Documents

Publication Publication Date Title
TWI470567B (zh) 考慮耗時與耗電的卸載運算量的決策方法與運算系統
CN110908667B (zh) 神经网络联合编译的方法、装置和电子设备
CN111176820B (zh) 一种基于深度神经网络的边缘计算任务的分配方法及装置
US20150312166A1 (en) Software load balancer to maximize utilization
CN110519370B (zh) 一种基于设施选址问题的边缘计算资源分配方法
US20220004858A1 (en) Method for processing artificial neural network, and electronic device therefor
CN113660325B (zh) 一种基于边缘计算的工业互联网任务卸载策略
CN110415160B (zh) 一种gpu拓扑分区方法与装置
US9324177B2 (en) Generation of intermediate images for texture compression
CN112506584A (zh) 资源文件加载方法、装置、设备、存储介质以及产品
CN110719335B (zh) 天基云雾计算架构下的资源调度方法、系统和存储介质
CN112104693A (zh) 非均匀移动边缘计算网络的任务卸载方法及装置
CN111158893B (zh) 应用于雾计算网络的任务卸载方法、系统、设备及介质
CN114154392A (zh) 基于区块链和联邦学习的模型共建方法、装置及设备
US20230024977A1 (en) Method of processing data, data processing device, data processing program, and method of generating neural network model
CN114285766B (zh) 一种网络带宽检测方法、装置、电子设备和存储介质
EP3479235A1 (en) Real-time application behavior changes
CN110290556B (zh) 一种基于最优控制变分法的资源负载均衡调度方法
KR20190114541A (ko) 애플리케이션 오프로딩 장치 및 방법
Zhan et al. A comparative evaluation of computation offloading for mobile applications
US9455868B2 (en) Formation of guilds in a cloud computing environment
US20240020510A1 (en) System and method for execution of inference models across multiple data processing systems
CN111435938B (zh) 一种数据请求的处理方法、装置及其设备
CN114003386A (zh) 移动终端任务执行模式确定方法、装置、设备及介质
CN113900779A (zh) 任务执行方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
MM4A Annulment or lapse of patent due to non-payment of fees