TWI760951B - 運算資源配置和管理方法及代理伺服器 - Google Patents
運算資源配置和管理方法及代理伺服器 Download PDFInfo
- Publication number
- TWI760951B TWI760951B TW109142299A TW109142299A TWI760951B TW I760951 B TWI760951 B TW I760951B TW 109142299 A TW109142299 A TW 109142299A TW 109142299 A TW109142299 A TW 109142299A TW I760951 B TWI760951 B TW I760951B
- Authority
- TW
- Taiwan
- Prior art keywords
- computing
- task
- unit
- service
- information
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer And Data Communications (AREA)
Abstract
本發明涉及一種運算資源配置和管理方法及代理伺服器。所述方法包括:與遠端的運算請求端和運算服務端建立通信連接,生成運算管理記錄,運算管理記錄至少包括運算請求端的運算請求單元和運算服務端的運算服務單元的身份資訊;接收來自運算請求單元的運算任務;根據運算任務和運算管理記錄分配運算任務給運算服務端的運算服務單元,並根據分配結果得到分配資訊;發送所述分配資訊給發送所述運算任務的運算請求單元;接收運算服務單元發送的對應於所述運算任務的任務進度資訊;及根據所述任務進度資訊更新所述運算管理記錄。
Description
本發明涉及工業運算資料處理領域,尤其涉及一種運算資源配置和管理方法及代理伺服器。
產品加工後需要進行外觀品質或幾何形狀等檢測。現有技術中可由光學、影像運算請求端進行圖像取像檢測並經由自動光學檢測(Automatic optical inspection,AOI)軟體或人工智慧模型檢測出產品的外觀品質是否達到標準。然而,隨著運算請求端需求的日益增加,會造成運算設備的數量、能源及成本的消耗及運算設備的資源利用率的降低。
鑒於以上內容,有必要提供一種運算資源配置和管理方法及代理伺服器,使其高效地利用運算服務端的運算設備,從而節約能源及提高運算設備的資源利用率。
本申請第一方面提供一種運算資源配置和管理方法,用以管理遠端的運算任務,包括:與遠端的運算請求端和運算服務端建立通信連接,所述運算請求端包括至少二個運算請求單元,所述運算服務端包括至少二個運算服務單元;生成運算管理記錄,所述運算管理記錄至少包括所述運算請求單元和所述運算服務單元的身份資訊;接收來自運算請求單元的運算任務;
根據所述運算任務和所述運算管理記錄分配所述運算任務給所述運算服務端的其中一或多個所述運算服務單元,並根據分配結果得到分配資訊;發送所述分配資訊給發送所述運算任務的運算請求單元;接收所述一或多個所述運算服務單元發送的對應於所述運算任務的任務進度資訊;及根據所述任務進度資訊更新所述運算管理記錄。
優選地,所述根據所述運算任務需求和所述運算管理記錄分配所述運算任務給所述運算服務端的其中一或多個所述運算服務單元的步驟包括:確定所述運算任務對應的運算請求單元;根據所述運算管理記錄判斷所述運算任務對應的任務規範;及根據所述任務規範選擇運算能力和服務狀態匹配的運算服務單元。
優選地,所述接收對應於所述運算任務的任務進度資訊的步驟還包括:從一或多個所述運算服務單元接收所述運算任務的運算結果;及從所述運算請求單元接收所述運算任務的服務確認資訊。
優選地,所述根據所述運算任務和所述運算管理記錄分配所述運算任務給所述運算服務端的其中一或多個運算服務單元還包括:判斷所述運算服務單元的連接狀態是否為第一連接狀態;當所述運算服務單元的連接狀態不是第一連接狀態時,發送狀態更新請求給所述連接狀態為第二連接狀態的運算服務單元;確認所述運算服務單元的連接狀態更新為第一連接狀態;分配所述運算任務給所述運算服務單元;及發送更新的分配資訊給第一運算請求單元。
優選地,所述根據所述連接狀態更新所述運算管理記錄的步驟還包括:判斷所述運算服務單元的服務狀態是否為第一連接狀態;及當所述運算服務單元的服務狀態不是第一連接狀態時,發送狀態更新請求使所述運算服務單元進入第二連接狀態。
本申請第二方面提供一種代理伺服器,所述電子設備包括處理器和電連接於所述處理器且存儲有電腦可讀程式的記憶體,所述處理器用於執行所述記憶體中存儲的計算可讀機程式時實現上述運算資源配置和管理方法。
本發明根據所述運算任務和所述運算管理記錄分配運算任務給所述運算服務端的其中一或多個所述運算服務單元,並根據分配結果得到分配資訊;從而高效地利用運算服務端的運算設備,實現節約能源及提高運算設備的資源利用率。
1:運算請求端
2:代理伺服器
3:運算服務端
11:第一通信單元
12:記憶體
13:處理器
14:運算請求單元
201:第二通信單元
202:存儲單元
21:處理單元
22:檢測與運算管理單元
221:任務生成器
222:第一設備監測任務容器
223:第二設備監測任務容器
224:第三設備監測任務容器
225:事件處理器
226:運行狀態記錄器
227:設備狀態收集與發送器
228:運算資源接收器
24:檢測及運算任務待處理管理單元
25:檢測及運算任務完成管理單元
31:第三通信單元
32:存儲單元
33:處理單元
34:運算服務單元
100:運算資源配置和管理系統
501:第一通信模組
502:第二通信模組
503:記錄生成模組
504:第一接收模組
505:分配模組
506:發送模組
507:第二接收模組
508:更新模組
509:監測模組
S701~S708:步驟
圖1為本發明一實施方式中運算資源配置和管理方法的應用環境圖。
圖2為本發明一實施方式中運算請求端的硬體結構圖。
圖3為本發明一實施方式中代理伺服器的硬體結構圖。
圖4為本發明一實施方式中檢測與運算管理單元的功能模組圖。
圖5為本發明一實施方式中運算服務端的硬體結構圖。
圖6為本發明一實施方式中運算資源配置和管理系統的功能模組圖。
圖7為本發明一實施方式中運算資源配置和管理方法的流程圖。
如下具體實施方式將結合上述附圖進一步說明本發明。
下面將結合本發明實施例中的附圖,對本發明實施例中的技術方案進行清楚、完整地描述,顯然,所描述的實施例僅僅是本發明一部分實施例,而不是全部的實施例。基於本發明中的實施例,本領域普通技術人員在沒有做出創造性勞動前提下所獲得的所有其他實施例,都屬於本發明保護的範圍。
需要說明的是,當一個元件被稱為“電連接”另一個元件,它可以直接在另一個元件上或者也可以存在居中的元件。當一個元件被認為是“電連接”另一個元件,它可以是接觸連接,例如,可以是導線連接的方式,也可以是非接觸式連接,例如,可以是非接觸式耦合的方式。
除非另有定義,本文所使用的所有的技術和科學術語與屬於本發明的技術領域的技術人員通常理解的含義相同。本文中在本發明的說明書中所使用的術語只是為了描述具體的實施例的目的,不是旨在於限制本發明。本文所使用的術語“及/或”包括一個或多個相關的所列項目的任意的和所有的組合。
下面結合附圖,對本發明的一些實施方式作詳細說明。在不衝突的情況下,下述的實施例及實施例中的特徵可以相互組合。
請參考圖1,所示為本發明一實施方式中運算資源配置和管理方法的應用環境圖,所述方法應用在運算請求端1、代理伺服器2及運算服務端3中。運算請求端1與代理伺服器2通信連接,及代理伺服器2與運算服務端3通信連接。代理伺服器2接收運算請求端1發送的運算任務及運算服務端3發送的運算能力資訊分配運算資源及運算模式,及控制運算服務端2按照運算資源及運算模式對運算請求端1的運算任務進行服務。本實施方式中,運算請求端1可以為用於檢測產品或零部件的外觀運算請求端,代理伺服器2為單機電腦、工作站、單個伺服器或雲平臺伺服器,運算服務端3為工作站、單個伺服器或雲平臺伺服器。
請參考圖2,所示為本發明一實施方式中運算請求端1的硬體結構圖。運算請求端1包括第一通信單元11、記憶體12、處理器13及至少兩個運
算請求單元14。第一通信單元11用於與代理伺服器2及運算服務端3通信連接。本實施方式中,第一通信單元11可以為WIFI通信模組或3G/4G/5G通信模組。本實施方式中,運算請求單元14用於向代理伺服器2發送運算任務。本實施方式中,處理器13可以是中央處理單元(Central Processing Unit,CPU),還可以是其他通用處理器、數位訊號處理器(Digital Signal Processor,DSP)、專用積體電路(Application Specific Integrated Circuit,ASIC)、現成可程式設計閘陣列(Field-Programmable Gate Array,FPGA)或者其他可程式設計邏輯器件、分立門或者電晶體邏輯器件、分立硬體元件等。處理器13可以是微處理器或者是任何常規的處理器等,處理器13也可以是運算請求端1的控制中心,利用各種介面和線路連接整個運算請求端1的各個部分。本實施方式中,記憶體12用於存儲資料及/或軟體代碼。記憶體12可以為運算請求端1中的內部存儲單元,例如運算請求端1中的硬碟或記憶體。在另一實施方式中,記憶體12也可以為運算請求端1中的外部存放裝置,例如運算請求端1上配備的插接式硬碟,智慧存儲卡(Smart Media Card,SMC),安全數位(Secure Digital,SD)卡,快閃記憶體卡(Flash Card)等。
請參考圖3,所示為本發明一實施方式中代理伺服器2的硬體結構圖。代理伺服器2包括第二通信單元201、存儲單元202、處理單元21及檢測與運算管理單元22、檢測及運算任務待處理管理單元24、檢測及運算任務完成管理單元25。第二通信單元201用於與運算請求端1及運算服務端3通信連接。本實施方式中,第二通信單元201可以為WIFI通信模組或3G/4G/5G通信模組。本實施方式中,處理單元21可以是中央處理模組,還可以是其他通用處理器、數位訊號處理器、專用積體電路、現成可程式設計閘陣列或者其他可程式設計邏輯器件、分立門或者電晶體邏輯器件、分立硬體元件等。處理單元21可以是微處理器或者是任何常規的處理器等,處理單元21還可以是代理伺服器2的控制中心,利用各種介面和線路連接整個代理商伺服器2的各個部分。本實施方式中,存儲單元202用於存儲資料及/或軟體代碼。存儲單元202可以為代理商
伺服器2中的內部存儲單元,例如代理商伺服器2中的硬碟或記憶體。在另一實施方式中,存儲單元202也可以為代理商伺服器2中的外部存放裝置,例如代理商伺服器2上配備的插接式硬碟,智慧存儲卡,安全數位卡,快閃記憶體卡等。
本實施方式中,檢測與運算管理單元22支援熱插拔(Hot plug)功能,能夠有效的管理增加或減少運算請求端1及/或運算服務端3,並無須重新設定或重新開機代理伺服器2,並且在服務增加或減少時會根據運算請求端1的運算任務與運算服務端3的運算能力資訊重新進行資源與效率適化的處理。請參考圖4,所示為本發明一實施方式中檢測與運算管理單元22的功能模組圖。本實施方式中,檢測與運算管理單元22包括任務生成器221、第一設備監測任務容器222、第二設備監測任務容器223、第三設備監測任務容器224、事件處理器225、運行狀態記錄器226、設備狀態收集與發送器227及運算資源接收器228。
本實施方式中,任務生成器221用於當代理伺服器2與運算請求端1或運算服務端3建立新連接時,根據運算請求端1或運算服務端3的設備資訊生成對應的監測任務或運算管理記錄,並將生成的監測任務或運算管理記錄放入對應的設備監測任務容器中及寫入運行狀態記錄器226。第一設備監測任務容器222用於對運算請求端1進行持續每秒發送心跳包確認運算請求端1的網路連接狀態,並接收運算請求端1回復的運行狀態。本實施方式中,運算請求端1回復的運行狀態包括運行中、等待、異常。第二設備監測任務容器223用於對運算服務端3進行持續每秒發送心跳包確認運算服務端3的網路連接狀態,並接收運算服務端3回復的運行狀態。本實施方式中,運算服務端3回復的運行狀態包括運行中、等待、異常。本實施方式中,第三設備監測任務容器224用於對休眠中的運算服務端3保持與代理伺服器2的連接資訊進行記錄,且當需要喚醒休眠的運算服務端3時可發送喚醒命令給休眠的運算服務端3以啟動運算服務端3,並從第三設備監測任務容器224中解除加入的運算服務端3,使運算服務端3進入第二設備監測任務容器223。事件處理器225用於當運算請求端1或運
算服務端3出現連接斷開、心跳無回應、網路故障斷線的離線狀態時,將運算請求端1或運算服務端3對應的事件從對應的監測任務容器中移除,並將離線狀態寫入運行狀態記錄器226中。本實施方式中,運行狀態記錄器226用於記錄運算請求端1或運算服務端3出現的連接斷開、心跳無回應、網路故障斷線等離線狀態,以方便工作人員檢查確認運算請求端1或運算服務端3的異常狀態。設備狀態收集與發送器227用於每秒收集在第一設備監測任務容器222、第二設備監測任務容器223、第三設備監測任務容器224內的運算請求端1或運算服務端3的清單及運算請求端1或運算服務端3的運行狀態。本實施方式中,運算請求端1的清單包括運算請求單元清單。運算服務端3的清單包括運算服務單元清單,和運算任務列表。
本實施方式中,當首次運行時,運行狀態記錄器226會將運算請求端1或運算服務端3的清單與運行狀態發送給處理單元21,之後當清單與運行狀態有變動時(如連接斷開、心跳無回應、網路故障斷線等),發送運算請求端1或運算服務端3的新的清單與運行狀態給處理單元21。運算資源接收器228用於接收來自處理單元21發送的動態分配運算資源及效能適化資訊,並當檢測運算需求超過110%時及檢測到存在休眠中的運算服務裝置時,由第三設備監測任務容器224喚醒所述運算服務裝置。
請參考圖5,所示為本發明一實施方式中運算服務端3的硬體結構圖。運算服務端3包括第三通信單元31、存儲單元32、處理單元33及至少兩個運算服務單元34。第三通信單元31用於與運算請求端1及代理伺服器2通信連接。本實施方式中,第三通信單元31可以為WIFI通信模組或3G/4G/5G通信模組。本實施方式中,運算服務單元34用於接收代理伺服器2分配的運算任務。本實施方式中,處理單元33可以是中央處理模組,還可以是其他通用處理器、數位訊號處理器、專用積體電路、現成可程式設計閘陣列或者其他可程式設計邏輯器件、分立門或者電晶體邏輯器件、分立硬體元件等。處理單元33可以是微處理器或者是任何常規的處理器等。本實施方式中,存儲單元32用於存儲資
料及/或軟體代碼。存儲單元32可以為運算服務端3中的內部存儲單元,例如運算服務端3中的硬碟或記憶體。在另一實施方式中,存儲單元32也可以為運算服務端3中的外部存放裝置,例如運算服務端3上配備的插接式硬碟,智慧存儲卡,安全數位卡,快閃記憶體卡等。
請參考圖6,所示為本發明一實施方式中運算資源配置和管理系統100的功能模組圖。本實施方式中,運算資源配置和管理系統100包括一個或多個模組,一個或者多個模組運行在代理伺服器2中。本實施方式中,運算資源配置和管理系統100包括第一通信模組501、第二通信模組502、記錄生成模組503、第一接收模組504、分配模組505、發送模組506、第二接收模組507、更新模組508及監測模組509。本實施方式中,第一通信模組501、第二通信模組502、記錄生成模組503、第一接收模組504、分配模組505、發送模組506、第二接收模組507、更新模組508存儲在代理伺服器2的存儲單元201中,並被處理單元21調用執行。本發明所稱的模組是指能夠完成特定功能的一系列電腦程式指令段,比程式更適合於描述軟體在運算資源配置和管理系統100中的執行過程。在其他實施方式中,第一通信模組501、第二通信模組502、記錄生成模組503、第一接收模組504、分配模組505、發送模組506、第二接收模組507、更新模組508及監測模組509為內嵌或固化在代理伺服器1中的程式段或代碼。
第一通信模組501用於控制代理伺服器2與遠端的運算請求端1通信連接。
本實施方式中,第一通信模組501控制代理伺服器2接收運算請求端1的運算請求單元14發送的包含第一驗證資訊的第一請求連接命令;檢測第一請求連接命令中的第一驗證資訊與存儲在代理伺服器2中的第一預設驗證資訊是否一致;當第一請求連接命令中的第一驗證資訊與第一預設驗證資訊一致時控制代理伺服器2與運算請求端1連接。本實施方式中,運算請求端1根據配置在運算請求端1中的配置文檔發送包含第一驗證資訊的第一請求連接命令給代理伺服器2,其中第一驗證資訊為驗證碼,驗證碼由字母與數位組成。本實
施方式中,運算請求端1提供一個驗證介面(圖中未示)供用戶設定第一請求連接命令的驗證碼。
本實施方式中,當第一請求連接命令中的第一驗證資訊與第一預設驗證資訊不一致時,運算請求端1再次發送第一請求連接命令給代理伺服器2,及第一通信模組501判斷第一驗證資訊與第一預設驗證資訊不一致的發生次數;當第一驗證資訊與第一預設驗證資訊不一致的發生次數超過第一預設次數時停止運算請求端1與代理伺服器2的連接。本實施方式中,所第一預設次數可以根據實際需要進行設置。例如,第一預設次數可以為5次。
第二通信模組502用於控制代理伺服器2與遠端的運算服務端3通信連接。
本實施方式中,第二通信模組502接收運算服務端3的運算服務單元34發送的包含第二驗證資訊的第二請求連接命令;代理伺服器2檢測第二請求連接命令中的第二驗證資訊與存儲在代理伺服器2中的第二預設驗證資訊是否一致;若第二驗證資訊與第二預設驗證資訊一致時控制代理伺服器2與運算服務端3連接。本實施方式中,運算服務端3根據配置在運算服務端3中的配置文檔發送包含第二驗證資訊的第二請求連接命令給代理伺服器2,其中,第二驗證資訊為驗證碼,驗證碼由字母與數位組成。
本實施方式中,當第二請求連接命令中的第二驗證資訊與第二預設驗證資訊不一致時,運算服務端3再次發送第二請求連接命令給代理伺服器2,及第二通信模組502判斷第二驗證資訊與第二預設驗證資訊不一致的發生次數;當第二驗證資訊與第二預設驗證資訊不一致的發生次數超過第二預設次數時停止運算請求端1與代理伺服器2的連接。本實施方式中,第二預設次數可以根據實際需要進行設置。例如,所述第二預設次數可以為10次。
記錄生成模組503用於生成運算管理記錄,運算管理記錄至少包括運算請求單元14和運算服務單元34的身份資訊。
第一接收模組504用於接收運算請求端1發送的運算任務運算服務端。
本實施方式中,第一接收模組504將運算任務傳輸至代理伺服器2中的檢測與運算管理單元22進行存儲與管理。
本實施方式中,當運算請求端1與代理伺服器2連接後,運算請求端1獲取所述運算任務並將所述運算任務通過運算請求單元14發送給代理伺服器2進行管理。本實施方式中,所述運算任務包括,但不限於待檢測圖像、運算模型、運算設備的需求等級。
本實施方式中,代理伺服器2接收到運算請求端1發送的運算任務後傳送至檢測與運算管理單元22中。檢測與運算管理單元22每秒更新所述運算任務存入運算請求單元清單中。
分配模組505根據所述運算任務和所述運算管理記錄分配運算任務給所述運算服務端的其中一或多個運算服務單元34,並根據分配結果得到分配資訊。
本實施方式中,分配模組505根據所述運算管理記錄確認可執行任務的一或多個運算服務單元34,及分配所述運算任務給可執行任務的運算服務單元34。在具體實施方式中,分配模組505分配所述運算任務給無任務執行中的運算服務單元34。
本實施方式中,所述運算管理記錄至少還包括對應於各運算請求單元14的任務資料資訊和任務規範資訊,和對應於各運算服務單元34的運算能力資訊和服務狀態資訊。本實施方式中,分配模組505確定所述運算任務對應的運算請求單元14;根據所述運算管理記錄判斷所述運算任務對應的任務規範;及根據所述任務規範選擇運算能力和服務狀態匹配的運算服務單元34。本實施方式中,當運算服務端3與代理伺服器2連接後,運算服務端3將所述運算能力及服務狀態發送給代理伺服器2進行管理。本實施方式中,所述運算能力包括運算服務端3所能計算的模型專案、模型計算速率。本實施方式中,第一接收
模組504還用於接收所述運算能力和服務狀態並將接收的所述運算能力和服務狀態傳輸至所述代理伺服器中的檢測與運算管理單元22進行存儲與管理。檢測與運算管理單元22每秒更新所述運算能力及服務狀態並存入運算服務單元清單中,並根據所述運算任務、所述運算能力及服務狀態進行效能優化任務匹配運算得到匹配的運算服務單元34。
本實施方式中,分配模組505根據所述運算任務和所述任務規範判斷所述運算任務的運算複雜度;及根據運算複雜度和運算能力判斷所述運算任務的任務執行模式。本實施方式中,所述運算複雜度包括運算任務完成的周期時間(Cycle Time,CT)、運算請求端1與運算服務端3的匹配方式、任務優先順序、運算請求單元14的數量、任務結果精確度。
本實施方式中,分配模組505根據運算複雜度和運算能力將單臺運算服務端3與單臺運算請求端1進行匹配;控制運算服務端3為與運算服務端3相匹配的運算請求端1進行運算服務;判斷單臺運算服務端3的計算時間是否滿足所述運算任務的CT;當單臺運算服務端3的計算時間滿足所述運算任務的CT時採用全運算模式,其中所述全運算模式是指將運算請求端1中的全部檢測資料進行100%的運算;當運算服務端3的計算時間沒有滿足所述運算任務的CT時採用重點計算模式,其中所述重點計算模式是指對運算請求端1中的70%的高級別檢測資料進行運算。
在一實施方式中,分配模組505根據運算複雜度和運算能力將兩臺以上運算服務端3與單臺運算請求端1進行匹配;控制與運算請求端1相匹配的所有運算服務端3為運算請求端1進行運算服務;判斷單臺運算服務端3的計算時間是否滿足所述運算任務的CT;當單臺運算服務端3的計算時間滿足所述運算任務的CT時採用全運算模式進行一對二分散運算,其中所述採用全運算模式進行一對二分散運算是指將運算請求端1中的全部檢測資料劃分為兩組,每一組資料通過一個運算服務端3進行100%的運算;否則採用重點計算模式進行一對二分散運算,其中採用重點計算模式進行一對二分散運算是指將運算請求
端1中的全部檢測資料劃分為兩組,每一組資料通過一個運算服務端3對該組中的70%的高級別檢測資料進行運算。
在一實施方式中,分配模組505根據運算複雜度和運算能力將兩臺以上運算請求端1與單臺運算服務端3進行匹配;控制運算服務端3為與運算服務端3相匹配的所有運算請求端1進行運算服務;判斷運算服務端3的計算時間是否滿足所述運算任務的CT;當運算服務端3的計算時間滿足所述運算任務的CT時根據優先順序分別採用全運算模式對所有與運算服務端3相匹配的運算請求端1進行運算服務;當運算服務端3的計算時間沒有滿足所述運算任務的CT時根據優先順序分別採用重點計算模式對所有與運算服務端3相匹配的運算請求端1進行運算服務。
本實施方式中,分配模組505檢測運算請求端1的數量大於運算服務端3的數量時不進行效能優化計算;當檢測運算請求端1的數量小於運算服務端3的數量且所有運算請求端1的運算需求量小於所有運算服務端3的計算量時不進行效能優化計算。
發送模組506發送所述分配資訊給發送所述運算任務的運算請求單元14。
本實施方式中,發送模組506還用於發送所述運算服務的分配資訊給所述運算服務單元34。
第二接收模組507接收所述一或多個所述運算服務單元34發送的對應於所述運算任務的任務進度資訊。本實施方式中,所述第二接收模組507從一或多個所述運算服務單元34接收所述運算任務的運算結果;及從運算請求單元14接收所述運算任務的服務確認資訊。本實施方式中,所述從運算請求單元14接收所述運算任務的服務確認資訊的步驟還包括:從一或多個所述運算服務單元34接收服務完成資訊;發送所述服務完成資訊給運算請求單元14;及接收運算請求單元14發送的運算任務的服務確認資訊。
更新模組508根據所述任務進度資訊更新所述運算管理記錄。
監測模組509用於監測運算服務端3的運算服務單元34的連接狀態。更新模組508根據所述連接狀態更新所述運算管理記錄。本實施方式中,更新模組508判斷所述連接狀態為第一連接狀態的運算服務單元34的運算能力是否滿足所述運算任務需求;當所述第一連接狀態的運算服務單元34不滿足所述運算任務時,發送狀態更新請求給所述連接狀態為第二連接狀態的運算服務單元34;確認所述連接狀態為第二連接狀態的運算服務單元34的連接狀態更新為第一連接狀態;及分配所述運算任務給狀態更新後的運算服務單元34。本實施方式中,所述第一連接狀態為所述運算服務單元34與代理伺服器2連接且未休眠的狀態,所述第二連接狀態為所述運算服務單元34與代理伺服器2連接且休眠的狀態。
在具體實施方式中,更新模組508判斷所述運算服務單元34的連接狀態是否為第一連接狀態;當所述運算服務單元的連接狀態不是第一連接狀態時,發送狀態更新請求給所述連接狀態為第二連接狀態的運算服務單元34;確認所述運算服務單元34的連接狀態更新為第一連接狀態;及分配所述運算任務給所述運算服務單元34。本實施方式中,所述第一連接狀態為所述運算服務單元34與代理伺服器2連接的狀態,所述第一連接狀態為所述運算服務單元34與代理伺服器2斷開連接的狀態。
在一實施方式中,更新模組508判斷所述運算服務單元的服務狀態是否為第一連接狀態;當所述運算服務單元34的服務狀態不是第一連接狀態時,發送狀態更新請求使所述運算服務單元進入第二連接狀態。在具體實施方式中,更新模組508判斷所述運算服務單元34不處於第一服務狀態是否超過預設時間閾值;及在所述運算服務單元34不處於第一服務狀態超過預設時間閾值時發送狀態更新請求使所述運算服務單元進入第二連接狀態。本實施方式中,所述第一連接狀態為所述運算服務單元34與代理伺服器2連接且未休眠的狀態,所述第二連接狀態為所述運算服務單元34與代理伺服器2連接且休眠的狀態。
請參考圖7,所示為本發明一實施方式中運算資源配置和管理方法的流程圖。根據不同需求,所述流程圖中步驟的順序可以改變,某些步驟可以省略或合併。所述方法包括如下步驟。
步驟S701,與遠端的運算請求端1通信連接。
本實施方式中,代理伺服器2接收運算請求端1的運算請求單元14發送的包含第一驗證資訊的第一請求連接命令;檢測所述第一請求連接命令中的第一驗證資訊與存儲在代理伺服器2中的第一預設驗證資訊是否一致;當所述第一請求連接命令中的第一驗證資訊與所述第一預設驗證資訊一致時控制代理伺服器2與運算請求端1連接。本實施方式中,運算請求端1根據配置在運算請求端1中的配置文檔發送包含第一驗證資訊的第一請求連接命令給代理伺服器2,其中所述第一驗證資訊為驗證碼,所述驗證碼由字母與數位組成。本實施方式中,運算請求端1提供一個驗證介面供使用者設定所述第一請求連接命令的驗證碼。
本實施方式中,當所述第一請求連接命令中的第一驗證資訊與所述第一預設驗證資訊不一致時,運算請求端1再次發送第一請求連接命令給代理伺服器2,及代理伺服器2判斷所述第一驗證資訊與所述第一預設驗證資訊不一致的發生次數;當所述第一驗證資訊與所述第一預設驗證資訊不一致的發生次數超過第一預設次數時停止運算請求端1與代理伺服器2的連接。本實施方式中,所述第一預設次數可以根據實際需要進行設置。例如,所述第一預設次數可以為5次。
步驟S702,與遠端的運算服務端3通信連接。
本實施方式中,代理伺服器2與運算服務端3通信連接包括:代理伺服器2接收運算服務端3的運算服務單元34發送的包含第二驗證資訊的第二請求連接命令;代理伺服器2檢測所述第二請求連接命令中的第二驗證資訊與存儲在代理伺服器2中的第二預設驗證資訊是否一致;若所述第二驗證資訊與所述第二預設驗證資訊一致時控制代理伺服器2與運算服務端3連接。本實施
方式中,運算服務端3根據配置在運算服務端3中的配置文檔發送包含第二驗證資訊的第二請求連接命令給代理伺服器2,其中,所述第二驗證資訊為驗證碼,所述驗證碼由字母與數位組成。
本實施方式中,當所述第二請求連接命令中的第二驗證資訊與所述第二預設驗證資訊不一致時,運算服務端3再次發送第二請求連接命令給代理伺服器2,及代理伺服器2判斷所述第二驗證資訊與所述第二預設驗證資訊不一致的發生次數;當所述第二驗證資訊與所述第二預設驗證資訊不一致的發生次數超過第二預設次數時停止運算請求端1與代理伺服器2的連接。本實施方式中,所述第二預設次數可以根據實際需要進行設置。例如,所述第二預設次數可以為10次。
步驟S703,生成運算管理記錄,所述運算管理記錄至少包括運算請求單元14和所述運算服務單元34的身份資訊。
步驟S704,接收運算請求端1發送的運算任務。
本實施方式中,代理伺服器2將所述運算任務傳輸至代理伺服器2中的檢測與運算管理單元22進行存儲與管理。
本實施方式中,當運算請求端1與代理伺服器2連接後,運算請求端1獲取所述運算任務並將所述運算任務通過運算請求單元14發送給代理伺服器2進行管理,並將運算任務記錄在檢測與運算管理單元22的運算任務清單中。本實施方式中,所述運算任務包括,但不限於待檢測圖像、運算模型、運算設備的需求等級。
本實施方式中,代理伺服器2接收到運算請求端1發送的運算任務後傳送至檢測與運算管理單元22中。檢測與運算管理單元22每秒更新所述運算任務存入運算請求單元清單中。
步驟S705,根據所述運算任務和所述運算管理記錄分配運算任務給所述運算服務端的其中一或多個運算服務單元34,並根據分配結果得到分配資訊。
本實施方式中,所述根據所述運算任務和所述運算管理記錄分配運算任務給所述運算服務端的其中一或多個運算服務單元34包括:根據所述運算管理記錄確認可執行任務的一或多個運算服務單元34,及分配所述運算任務給可執行任務的運算服務單元34。在具體實施方式中,所述分配所述運算任務給可執行任務的運算服務單元34的步驟還包括:分配所述運算任務給無任務執行中的運算服務單元34。
本實施方式中,所述運算管理記錄至少還包括對應於各運算請求單元14的任務資料資訊和任務規範資訊,和對應於各運算服務單元34的運算能力資訊和服務狀態資訊。本實施方式中,所述根據所述運算任務需求和所述運算管理記錄分配所述運算任務給運算服務端3的其中一或多個運算服務單元34,並根據分配結果得到分配資訊包括:確定所述運算任務對應的運算請求單元14;根據所述運算管理記錄判斷所述運算任務對應的任務規範;及根據所述任務規範選擇運算能力和服務狀態匹配的運算服務單元34。本實施方式中,當運算服務端3與代理伺服器2連接後,運算服務端3將所述運算能力及服務狀態發送給代理伺服器2進行管理。本實施方式中,所述運算能力包括運算服務端3所能計算的模型專案、模型計算速率。本實施方式中,代理伺服器2還用於接收所述運算能力和服務狀態並將接收的所述運算能力和服務狀態傳輸至代理伺服器2中的檢測與運算管理單元22進行存儲與管理。檢測與運算管理單元22每秒更新所述運算能力及服務狀態並存入運算服務單元清單中,並根據所述運算任務、所述運算能力及服務狀態進行效能優化任務匹配運算得到匹配的運算服務單元34。
本實施方式中,當運算服務端3與運算請求端1連接後,運算請求端1將所述任務資料資訊和所述任務規範資訊發送給代理伺服器2進行管理。代理伺服器2用於接收所述任務資料資訊和所述任務規範資訊並將接收的所述任務資料資訊和所述任務規範資訊傳輸至代理伺服器2中的檢測與運算管理單元22進行存儲與管理。檢測與運算管理單元22每秒更新所述任務資料資訊和所
述任務規範資訊並存入運算請求單元清單中。所述根據所述任務規範選擇運算能力和服務狀態匹配的運算服務單元34包括:根據所述運算任務和所述任務規範判斷所述運算任務的運算複雜度;及根據運算複雜度和運算能力判斷所述運算任務的任務執行模式。本實施方式中,所述運算複雜度包括運算任務完成的周期時間(Cycle Time,CT)、運算請求端1與運算服務端3的匹配方式、任務優先順序、運算請求單元14的數量、任務結果精確度。
本實施方式中,所述根據運算複雜度和運算能力判斷所述運算任務的任務執行模式包括:根據運算複雜度和運算能力將單臺運算服務端3與單臺運算請求端1進行匹配;控制運算服務端3為與運算服務端3相匹配的運算請求端1進行運算服務;判斷單臺運算服務端3的計算時間是否滿足所述運算任務的CT;當單臺運算服務端3的計算時間滿足所述運算任務的CT時採用全運算模式,其中所述全運算模式是指將運算請求端1中的全部檢測資料進行100%的運算;當運算服務端3的計算時間沒有滿足所述運算任務的CT時採用重點計算模式,其中所述重點計算模式是指對運算請求端1中的70%的高級別檢測資料進行運算。
在一實施方式中,所述根據運算複雜度和運算能力判斷所述運算任務的任務執行模式包括:根據運算複雜度和運算能力將兩臺以上運算服務端3與單臺運算請求端1進行匹配;控制與運算請求端1相匹配的所有運算服務端3為運算請求端1進行運算服務;判斷單臺運算服務端3的計算時間是否滿足所述運算任務的CT;當單臺運算服務端3的計算時間滿足所述運算任務的CT時採用全運算模式進行一對二分散運算,其中所述採用全運算模式進行一對二分散運算是指將運算請求端1中的全部檢測資料劃分為兩組,每一組資料通過一個運算服務端3進行100%的運算;否則採用重點計算模式進行一對二分散運算,其中採用重點計算模式進行一對二分散運算是指將運算請求端1中的全部檢測資料劃分為兩組,每一組資料通過一個運算服務端3對該組中的70%的高級別檢測資料進行運算。
在一實施方式中,所述根據運算複雜度和運算能力判斷所述運算任務的任務執行模式包括:根據運算複雜度和運算能力將兩臺以上運算請求端1與單臺運算服務端3進行匹配;控制運算服務端3為與運算服務端3相匹配的所有運算請求端1進行運算服務;判斷運算服務端3的計算時間是否滿足所述運算任務的CT;當運算服務端3的計算時間滿足所述運算任務的CT時根據優先順序分別採用全運算模式對所有與運算服務端3相匹配的運算請求端1進行運算服務;當運算服務端3的計算時間沒有滿足所述運算任務的CT時根據優先順序分別採用重點計算模式對所有與運算服務端3相匹配的運算請求端1進行運算服務。
本實施方式中,所述根據運算複雜度和運算能力判斷所述運算任務的任務執行模式包括:檢測運算請求端1的數量大於運算服務端3的數量時不進行效能優化計算;當檢測運算請求端1的數量小於運算服務端3的數量且所有運算請求端1的運算需求量小於所有運算服務端3的計算量時不進行效能優化計算。
步驟S706,發送所述分配資訊給發送所述運算任務的運算請求單元14。
本實施方式中,所述發送所述分配資訊給發送所述運算任務的運算請求單元14還包括:發送所述運算服務的分配資訊給所述運算服務單元34。
步驟S707,接收所述一或多個所述運算服務單元34發送的對應於所述運算任務的任務進度資訊。本實施方式中,所述接收所述一或多個所述運算服務單元34發送的對應於所述運算任務的任務進度資訊包括:從一或多個所述運算服務單元34接收所述運算任務的運算結果;及從運算請求單元14接收所述運算任務的服務確認資訊。本實施方式中,所述從運算請求單元14接收所述運算任務的服務確認資訊的步驟還包括:從一或多個所述運算服務單元34接收服務完成資訊;發送所述服務完成資訊給運算請求單元14;及接收運算請求單元14發送的運算任務的服務確認資訊。
步驟S708,根據所述任務進度資訊更新所述運算管理記錄。
本實施方式中,所述方法還包括:監測運算服務端3的運算服務單元34的連接狀態。代理伺服器2根據所述連接狀態更新所述運算管理記錄。本實施方式中,所述根據所述運算任務和所述運算管理記錄分配所述運算任務給運算服務端3的其中一或多個運算服務單元34的步驟還包括:判斷所述連接狀態為第一連接狀態的運算服務單元34的運算能力是否滿足所述運算任務需求;當所述第一連接狀態的運算服務單元34不滿足所述運算任務時,發送狀態更新請求給所述連接狀態為第二連接狀態的運算服務單元34;確認所述連接狀態為第二連接狀態的運算服務單元34的連接狀態更新為第一連接狀態;及分配所述運算任務給狀態更新後的運算服務單元34。本實施方式中,所述第一連接狀態為所述運算服務單元34與代理伺服器2連接且未休眠的狀態,所述第二連接狀態為所述運算服務單元34與代理伺服器2連接且休眠的狀態。
在一實施方式中,所述根據所述運算任務和所述運算管理記錄分配所述運算任務給所述運算服務端的其中一或多個運算服務單元包括:判斷所述運算服務單元34的連接狀態是否為第一連接狀態;當所述運算服務單元的連接狀態不是第一連接狀態時,發送狀態更新請求給所述連接狀態為第二連接狀態的運算服務單元34;確認所述運算服務單元34的連接狀態更新為第一連接狀態;及分配所述運算任務給所述運算服務單元34。本實施方式中,所述第一連接狀態為所述運算服務單元34與代理伺服器2連接的狀態,所述第二連接狀態為所述運算服務單元34與代理伺服器2斷開連接的狀態。
在一實施方式中,所述根據所述連接狀態更新所述運算管理記錄還包括:判斷所述運算服務單元的服務狀態是否為第一連接狀態;當所述運算服務單元34的服務狀態不是第一連接狀態時,發送狀態更新請求使所述運算服務單元進入第二連接狀態。所述發送狀態更新請求使所述運算服務單元進入第二連接狀態的還包括:判斷所述運算服務單元34不處於第一服務狀態是否超過預設時間閾值;及在所述運算服務單元34不處於第一服務狀態超過預設時間閾
值時發送狀態更新請求使所述運算服務單元進入第二連接狀態。本實施方式中,所述第一連接狀態為所述運算服務單元34與代理伺服器2連接且未休眠的狀態,所述第二連接狀態為所述運算服務單元34與代理伺服器2連接且休眠的狀態。
本實施方式中,所述運算任務包括檢測圖像及所述待檢測圖像中的瑕疵預選區域的座標位置資訊。本實施方式中,運算請求端1根據運算請求端1產生的檢測圖像及所述待檢測圖像中的瑕疵預選區域的座標位置資訊後產生第一運算任務,並將所述第一運算任務發送給代理伺服器2的檢測及運算任務待處理管理單元24。代理伺服器2的檢測及運算任務待處理管理單元24根據所述第一運算任務向運算服務端3的運算任務待處理管理單元34確認運算任務清單中是否有與所述第一運算任務相同的重複專案及是否提供運算服務單元清單,其中所述運算服務單元清單中包括可提供運算服務的運算裝置資訊。其中,運算服務端3的運算能力資訊包括所述運算服務單元清單中提供運算服務的運算裝置資訊。檢測及運算任務待處理管理單元24接收到所述運算任務待處理管理單元34回復的無重複專案及提供運算服務單元清單的確認結果後根據所述待檢測圖像、所述待檢測圖像中的瑕疵預選區域的座標位置資訊、所述運算服務單元清單利用動態分配運算資源及效能優化的規則確定出運算服務單元資訊作為所述運算資源,並將所述運算服務單元資訊發送給運算請求端1。運算請求端1接收到所述運算服務單元資訊後將所述待檢測圖像、所述待檢測圖像中的瑕疵預選區域的座標位置資訊及所述運算服務單元資訊發送給運算服務端3。本實施方式中,運算請求端1還用於將所述待檢測圖像、所述待檢測圖像中的瑕疵預選區域的座標位置資訊及所述運算服務單元資訊發送給代理伺服器2中的檢測及運算任務完成管理單元25以確保所述待檢測圖像及所述待檢測圖像中的瑕疵預選區域的座標位置資訊已進行發送動作。所述運算服務端3接收到運算請求端1發送的所述待檢測圖像、所述待檢測圖像中的瑕疵預選區域的座標位置資訊及所述運算服務單元資訊後發出一接收完成資訊給檢測及運算任務完成管理
單元25以確保所述待檢測圖像中的瑕疵預選區域的座標位置資訊已進行接收動作。
所述運算服務端3還用於根據所述運算服務單元資訊調用與所述運算服務單元資訊對應的運算服務單元對所述待檢測圖像與所述待檢測圖像中的瑕疵預選區域的座標位置資訊進行運算處理得到運算處理結果;將運算完成資訊發送給代理伺服器2的檢測及運算任務完成管理單元24。所述檢測及運算任務完成管理單元24將所述運算完成資訊發送給運算請求端1。運算請求端1根據所述運算完成資訊等待運算服務端3的通知接收運算服務端3發送的運算處理結果。運算服務端3將所述運算處理結果發送給運算請求端1。當運算請求端1接收到運算服務端3發送的運算處理結果時將接收完成資訊發送給所述檢測及運算任務完成管理單元24以確保所述運算處理結果由運算服務端3發送給運算請求端1。
本實施方式中,運算請求端1與代理伺服器2之間的資料傳送、代理伺服器2與運算服務端3之間的資料傳輸、運算請求端1與運算服務端3之間的資料傳輸通過資料加密的方式傳輸。
本實施方式中,代理伺服器2還用於接收新增的運算請求端1根據配置在運算請求端1中的配置文檔發送的包含第一驗證資訊的第一請求連接命令;檢測所述第一請求連接命令中的第一驗證資訊與存儲在代理伺服器2的檢測服務連接授權單元(圖中未示)中的第一預設驗證資訊是否一致;當所述第一請求連接命令中的第一驗證資訊與所述第一預設驗證資訊一致時控制代理伺服器2與運算請求端1連接;及根據運算請求端1的設備資訊生成對應的監測任務,並將生成的任務放入第一設備監測任務容器222中。
本實施方式中,代理伺服器2還用於接收新增的運算服務端3根據配置在運算服務端3中的配置文檔發送的包含第二驗證資訊的第二請求連接命令;檢測所述第二請求連接命令中的第二驗證資訊與存儲在代理伺服器2的運算服務連接授權單元21中的第二預設驗證資訊是否一致;當所述第二請求連
接命令中的第二驗證資訊與所述第二預設驗證資訊一致時控制代理伺服器2與運算服務端3連接;及根據運算服務端3的設備資訊生成對應的監測任務,並將生成的任務放入第二設備監測任務容器223中。
代理伺服器2還用於通過第一設備監測任務容器222接收運算請求端1回復的關機狀態資訊。本實施方式中,第一設備監測任務容器222向運算請求端1持續每秒發送心跳包以確認運算請求端1的網路連接狀態,並接收運算請求端1回復的關機狀態資訊。代理伺服器2控制代理伺服器2的運行狀態記錄器226記錄運算請求端1的關機狀態資訊;控制設備狀態收集與發送器227根據運算請求端1的關機狀態資訊從運算請求端1的清單中移除運算請求端1以對運算請求端1的清單進行更新得到更新後的運算請求端1的清單;根據更新後的所述清單中的運算請求端1的運算任務與運算服務端3的運算能力資訊重新進行資源與效率適化的處理。
代理伺服器2還用於通過第二設備監測任務容器223偵測到運算服務端3沒有回饋狀態資訊時,例如,第二設備監測任務容器223向運算服務端3持續每秒發送心跳包以確認運算服務端3回饋的網路連接狀態,並能夠接收運算服務端3回復的狀態資訊。代理伺服器2控制運行狀態記錄器226記錄運算服務端3回饋的狀態資訊,控制設備狀態收集與發送器227根據運算服務端3回饋的狀態資訊從運算服務端3的清單中移除運算服務端3以對運算服務端3的清單進行更新。代理伺服器2根據運算請求端1的運算任務及更新後的所述清單中的運算服務端3的運算能力資訊重新進行資源與效率適化的處理。
本實施方式中,當運算服務端3在預設時間範圍內沒有任務時,運算服務端3向代理伺服器2發送休眠通知並進入休眠。代理伺服器2還用於通過第三設備監測任務容器224偵測運算服務端3發送的休眠通知,根據所述休眠通知刪除與運算服務端3對應的第二設備監測任務容器223,新增一個與運算服務端3對應的第三設備監測任務容器224,並將新增的第三設備監測任務容器224記錄在運行狀態記錄器226中;將運行狀態記錄器226中的休眠的運算服務
端3作為待喚醒的運算服務端3;根據確定出的待喚醒的運算服務端3喚醒所述待喚醒的運算服務端3,將與所述待喚醒的運算服務端3對應的第三設備監測任務容器224移除,並新增與所述待喚醒的運算服務端3對應的第二設備監測任務容器223。
以上實施例僅用以說明本發明的技術方案而非限制,儘管參照以上較佳實施例對本發明進行了詳細說明,本領域的普通技術人員應當理解,可以對本發明的技術方案進行修改或者等同替換都不應脫離本發明技術方案的精神和範圍。
S701~S708:步驟
Claims (15)
- 一種運算資源配置和管理方法,用以管理遠端的運算任務,其改良在於,所述方法包括:與遠端的運算請求端和運算服務端建立通信連接,所述運算請求端包括至少二個運算請求單元,所述運算服務端包括至少二個運算服務單元;生成運算管理記錄,所述運算管理記錄至少包括所述運算請求單元和所述運算服務單元的身份資訊;接收來自運算請求單元的運算任務;根據所述運算任務和所述運算管理記錄分配所述運算任務給所述運算服務端的其中一或多個所述運算服務單元,包括:確定所述運算任務對應的運算請求單元;根據所述運算管理記錄判斷所述運算任務對應的任務規範;根據所述運算任務和所述任務規範判斷所述運算任務的運算複雜度;根據運算複雜度和運算能力判斷所述運算任務的任務執行模式;根據分配結果得到分配資訊;發送所述分配資訊給發送所述運算任務的運算請求單元,包括:發送所述運算任務的分配資訊給所述運算服務單元;接收所述一或多個所述運算服務單元發送的對應於所述運算任務的任務進度資訊;及根據所述任務進度資訊更新所述運算管理記錄。
- 如請求項1所述之運算資源配置和管理方法,其中,所述與遠端的運算請求端和運算服務端建立通信連接包括:接收來自所述運算請求單元和/或運算服務單元的請求連接命令,所述請求連接命令包含第一驗證資訊;檢測所述驗證資訊與預設驗證資訊是否一致;及 當所述驗證資訊與所述預設驗證資訊一致時,與所述運算請求單元和/或運算服務單元建立連接。
- 如請求項1所述之運算資源配置和管理方法,其中,所述運算管理記錄至少還包括對應於各運算請求單元的任務資料資訊和任務規範資訊,和對應於各運算服務單元的運算能力資訊和服務狀態資訊。
- 如請求項3所述之運算資源配置和管理方法,其中,所述運算管理記錄包括運算請求單元清單,所述運算請求單元清單記錄有所述運算請求單元的身份資訊、所述任務資料資訊和所述任務規範資訊,運算服務單元清單,所述運算服務單元清單記錄有所述運算服務單元的身份資訊、所述運算能力資訊和所述服務狀態資訊,和運算任務清單,所述運算任務清單記錄有所述運算任務。
- 如請求項3所述之運算資源配置和管理方法,其中,所述運算複雜度包括至少下列一者:運算任務完成的周期時間、所述運算請求端與所述運算服務端的匹配方式、任務優先順序、所述運算請求單元的數量、任務結果精確度。
- 如請求項1所述之運算資源配置和管理方法,其中,所述根據所述運算任務和所述運算管理記錄分配所述運算任務給所述運算服務端的其中一或多個運算服務單元的步驟還包括:根據所述運算管理記錄確認可執行任務的一或多個運算服務單元;及分配所述運算任務給可執行任務的運算服務單元。
- 如請求項6所述之運算資源配置和管理方法,其中,所述分配所述運算任務給可執行任務的運算服務單元的步驟還包括:分配所述運算任務給無任務執行中的運算服務單元。
- 如請求項1所述之運算資源配置和管理方法,其中,所述接收對應於所述運算任務的任務進度資訊的步驟還包括:從一或多個所述運算服務單元接收所述運算任務的運算結果;及 從所述運算請求單元接收所述運算任務的服務確認資訊。
- 如請求項8所述之運算資源配置和管理方法,其中,所述從所述運算請求單元接收所述運算任務的服務確認資訊的步驟還包括:從一或多個所述運算服務單元接收服務完成資訊;發送所述服務完成資訊給所述運算請求單元;及接收所述運算請求單元發送的運算任務的服務確認資訊。
- 如請求項1所述之運算資源配置和管理方法,其中,所述方法還包括:監測所述運算服務端的運算服務單元的連接狀態和服務狀態;及根據所述連接狀態和服務狀態更新所述運算管理記錄。
- 如請求項10所述之運算資源配置和管理方法,其中,所述根據所述運算任務和所述運算管理記錄分配所述運算任務給所述運算服務端的其中一或多個運算服務單元還包括:判斷所述連接狀態為第一連接狀態的運算服務單元的運算能力是否滿足所述運算任務;當所述第一連接狀態的運算服務單元不滿足所述運算任務時,發送狀態更新請求給所述連接狀態為第二連接狀態的運算服務單元;確認所述連接狀態為第二連接狀態的運算服務單元的連接狀態更新為第一連接狀態;及分配所述運算任務給狀態更新後的運算服務單元。
- 如請求項10所述之運算資源配置和管理方法,其中,所述根據所述運算任務和所述運算管理記錄分配所述運算任務給所述運算服務端的其中一或多個運算服務單元還包括:判斷所述運算服務單元的連接狀態是否為第一連接狀態;當所述運算服務單元的連接狀態不是第一連接狀態時,發送狀態更新請求給所述連接狀態為第二連接狀態的運算服務單元; 確認所述運算服務單元的連接狀態更新為第一連接狀態;分配所述運算任務給所述運算服務單元;及發送更新的分配資訊給第一運算請求單元。
- 如請求項10所述之運算資源配置和管理方法,其中,所述根據所述連接狀態更新所述運算管理記錄的步驟還包括:判斷所述運算服務單元的服務狀態是否為第一連接狀態;及當所述運算服務單元的服務狀態不是第一連接狀態時,發送狀態更新請求使所述運算服務單元進入第二連接狀態。
- 如請求項13所述之運算資源配置和管理方法,其中,所述發送狀態更新請求使所述運算服務單元進入第二連接狀態的步驟還包括:判斷所述運算服務單元不處於第一服務狀態是否超過預設時間閾值;及在所述運算服務單元不處於第一服務狀態超過預設時間閾值時發送狀態更新請求使所述運算服務單元進入第二連接狀態。
- 一種代理伺服器,其改良在於,所述代理伺服器包括處理器和電連接於所述處理器且存儲有電腦可讀程式的記憶體,所述處理器用於執行所述記憶體中存儲的電腦可讀程式時實現如請求項1至14中任一項所述之運算資源配置和管理方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911415136.8A CN111198765B (zh) | 2019-12-31 | 2019-12-31 | 运算资源分配和管理方法及代理服务器 |
CN201911415136.8 | 2019-12-31 |
Publications (2)
Publication Number | Publication Date |
---|---|
TW202127250A TW202127250A (zh) | 2021-07-16 |
TWI760951B true TWI760951B (zh) | 2022-04-11 |
Family
ID=70746609
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW109142299A TWI760951B (zh) | 2019-12-31 | 2020-12-01 | 運算資源配置和管理方法及代理伺服器 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111198765B (zh) |
TW (1) | TWI760951B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111813544B (zh) * | 2020-06-19 | 2024-07-12 | 华控清交信息科技(北京)有限公司 | 计算任务的处理方法、装置、调度及管理系统和介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060041647A1 (en) * | 2004-08-17 | 2006-02-23 | Michael Perham | System and method for profiling messages |
CN102947798A (zh) * | 2010-05-14 | 2013-02-27 | 国际商业机器公司 | 计算机系统、方法及程序 |
TWI454949B (zh) * | 2011-12-26 | 2014-10-01 | Ind Tech Res Inst | 分散式資源管理系統及其分散式資源管理方法 |
TW201915893A (zh) * | 2017-10-09 | 2019-04-16 | 香港商阿里巴巴集團服務有限公司 | 資料請求處理、詢問消息處理方法、裝置以及設備 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5325525A (en) * | 1991-04-04 | 1994-06-28 | Hewlett-Packard Company | Method of automatically controlling the allocation of resources of a parallel processor computer system by calculating a minimum execution time of a task and scheduling subtasks against resources to execute the task in the minimum time |
CN101290509B (zh) * | 2007-04-19 | 2012-01-18 | 中兴通讯股份有限公司 | 一种嵌入式系统低功耗实时任务的调度方法 |
CN101403982B (zh) * | 2008-11-03 | 2011-07-20 | 华为技术有限公司 | 一种多核处理器的任务分配方法和系统 |
US10083047B2 (en) * | 2011-06-14 | 2018-09-25 | Samsung Electronics Co., Ltd. | System and method for executing multiple tasks in a mobile device |
US9535758B2 (en) * | 2013-09-05 | 2017-01-03 | International Business Machines Corporation | Managing data distribution to networked client computing devices |
US9778957B2 (en) * | 2015-03-31 | 2017-10-03 | Stitch Fix, Inc. | Systems and methods for intelligently distributing tasks received from clients among a plurality of worker resources |
-
2019
- 2019-12-31 CN CN201911415136.8A patent/CN111198765B/zh active Active
-
2020
- 2020-12-01 TW TW109142299A patent/TWI760951B/zh active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060041647A1 (en) * | 2004-08-17 | 2006-02-23 | Michael Perham | System and method for profiling messages |
CN102947798A (zh) * | 2010-05-14 | 2013-02-27 | 国际商业机器公司 | 计算机系统、方法及程序 |
TWI454949B (zh) * | 2011-12-26 | 2014-10-01 | Ind Tech Res Inst | 分散式資源管理系統及其分散式資源管理方法 |
TW201915893A (zh) * | 2017-10-09 | 2019-04-16 | 香港商阿里巴巴集團服務有限公司 | 資料請求處理、詢問消息處理方法、裝置以及設備 |
Also Published As
Publication number | Publication date |
---|---|
CN111198765A (zh) | 2020-05-26 |
TW202127250A (zh) | 2021-07-16 |
CN111198765B (zh) | 2023-08-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10785088B2 (en) | Management method and management apparatus of internet of things and internet of things system | |
WO2019153505A1 (zh) | 一种故障修复数据包的发布方法及服务器 | |
CN109040200B (zh) | 物联网设备的接入方法及装置 | |
CN105049268A (zh) | 分布式计算资源分配系统和任务处理方法 | |
US11379264B2 (en) | Advanced cloud architectures for power outage mitigation and flexible resource use | |
WO2017177806A1 (zh) | 一种管理资源的方法和装置 | |
CN112669149A (zh) | 一种区块链的共识方法、装置、服务器及存储介质 | |
CN114978883B (zh) | 网络唤醒的管理方法、装置、电子设备及存储介质 | |
CN116541227B (zh) | 故障诊断方法、装置、存储介质、电子装置及bmc芯片 | |
TWI760951B (zh) | 運算資源配置和管理方法及代理伺服器 | |
CN116719700B (zh) | 服务器主机系统的硬件分区的监测方法及装置 | |
CN105512188A (zh) | 数据连接方法和数据连接系统 | |
CN111405052A (zh) | 基于端口预测的p2p穿透方法、电子设备及介质 | |
CN115543746A (zh) | 图形处理器监测方法、系统、装置及电子设备 | |
CN104834584A (zh) | 一种监测主机硬件负载的方法和系统 | |
WO2020098266A1 (zh) | 一种异常响应的方法及设备 | |
CN111343700A (zh) | 无线传感网络通信方法 | |
CN114243914B (zh) | 电力监控系统 | |
JP2024521582A (ja) | 分散ワークロードを処理する方法及びシステム | |
CN114780270A (zh) | 内存故障处理方法和装置、电子设备及计算机可读存储介质 | |
CN114301857A (zh) | 一种基于物联网的水表通讯方法及装置 | |
CN113961489A (zh) | 数据访问的方法、装置、设备及存储介质 | |
CN113128297A (zh) | 一种设备对接方法、装置、电子设备及存储介质 | |
CN110602187A (zh) | 终端共享方法、装置及设备 | |
CN114328549B (zh) | 数据处理方法、装置、电子设备及存储介质 |