TWI721464B - 深度學習程式配置方法、裝置、電子設備及存儲介質 - Google Patents
深度學習程式配置方法、裝置、電子設備及存儲介質 Download PDFInfo
- Publication number
- TWI721464B TWI721464B TW108121866A TW108121866A TWI721464B TW I721464 B TWI721464 B TW I721464B TW 108121866 A TW108121866 A TW 108121866A TW 108121866 A TW108121866 A TW 108121866A TW I721464 B TWI721464 B TW I721464B
- Authority
- TW
- Taiwan
- Prior art keywords
- container
- deep learning
- learning program
- server
- mapping
- Prior art date
Links
Images
Landscapes
- Stored Programmes (AREA)
Abstract
本發明涉及一種深度學習程式配置方法、裝置、電子設備及存儲介質。所述方法包括：容器管理器獲取深度學習程式；容器管理器從獲取的所述深度學習程式中解析出性能指標並將所述性能指標發送給伺服器；所述伺服器根據所述性能指標確定硬體設定及容器映射，根據確定的所述硬體設定及所述容器映射生成一包含所述伺服器名稱的容器映射標籤，並將所述容器映射標籤發送給所述容器管理器；及所述容器管理器在確定所述容器映射標籤中包含有所述伺服器的名稱時根據所述容器映射標籤中的硬體設定及容器映射部署所述深度學習程式所對應的容器。
Description
本發明涉及深度學習領域，具體涉及一種深度學習程式配置方法、裝置、電子設備及存儲介質。
目前，現有的深度學習應用程式的資源利用率的優化藉由代碼優化方法實現優化深度學習應用程式的資源利用率，然而該種資源利用率優化方法耗時，造成深度學習應用程式的開發生命週期過長。
鑒於以上內容，有必要提出一種深度學習程式配置方法、裝置、電子設備及電腦可讀存儲介質以減少深度學習程式的優化資源利用率的時間，及縮短深度學習應用程式的開發生命週期。
一種深度學習程式配置方法，所述方法包括：容器管理器獲取深度學習程式；容器管理器從獲取的所述深度學習程式中解析出性能指標並將所述性能指標發送給伺服器；
所述伺服器根據所述性能指標確定硬體設定及容器映射，根據確定的所述硬體設定及所述容器映射生成一包含所述伺服器名稱的容器映射標籤，並將所述容器映射標籤發送給所述容器管理器；及所述容器管理器接收到所述容器映射標籤後判斷所述容器映射標籤中是否包含有所述伺服器的名稱，當確定所述容器映射標籤中包含有所述伺服器的名稱時根據所述容器映射標籤中的硬體設定及容器映射部署所述深度學習程式所對應的容器。
優選地，所述伺服器根據所述性能指標確定硬體設定及容器映射包括：所述伺服器根據所述性能指標藉由預設規則確定硬體設定及容器映射以使得所述深度學習程式在利用所述硬體設定及容器映射封裝程式後執行時間最小。
優選地，所述預設規則為：當所述性能指標中的前向傳播時間處於第一閾值範圍時，設定硬體設定為將CPU與圖形處理器的通訊模式設定為nvlink通訊模式，及設定所述容器映射為配置應用程式介面；當所述性能指標中的前向傳播時間處於第二閾值範圍時將所述CPU與所述圖形處理器的通訊模式設定為pciex2通訊模式，及設定所述容器映射為配置應用程式介面。
優選地，所述伺服器根據所述性能指標確定硬體設定還包括：所述伺服器根據所述性能指標確定CPU的核數量、記憶體容量及影像處理器的數量。
優選地，所述伺服器根據所述性能指標確定硬體設定及容器映射包括：
所述伺服器根據所述性能指標藉由機器學習的方法確定硬體設定及容器映射以使得深度學習程式在利用所述硬體設定及容器映射封裝程式後執行時間最小。
優選地，所述容器管理器從獲取的所述深度學習程式中解析出性能指標包括：所述容器管理器利用事件跟蹤工具來解析出所述深度學習程式中的性能指標，其中，所述事件跟蹤工具可以是SOFA工具或Flame Graph工具。
優選地，所述性能指標包括前向傳播時間、後向傳播時間、主機到圖形處理器的資料複製時間、圖形處理器到主機的資料複製時間。
申請的第二方面提供一種深度學習程式配置裝置，所述裝置包括：獲取模組，應用在容器管理器中，用於獲取深度學習程式；解析模組，應用在所述容器管理器中，用於從獲取的所述深度學習程式中解析出性能指標並將所述性能指標發送給伺服器；標籤生成模組，應用在所述伺服器中，用於根據所述性能指標確定硬體設定及容器映射，根據確定的所述硬體設定及所述容器映射生成一包含所述伺服器名稱的容器映射標籤，並將所述容器映射標籤發送給所述容器管理器；及部署模組，應用在所述容器管理器中，用於接收到所述容器映射標籤後判斷所述容器映射標籤中是否包含有所述伺服器的名稱，當確定所述容器映射標籤中包含有所述伺服器的名稱時根據所述容器映射標籤中的硬體設定及容器映射部署所述深度學習程式所對應的容器。
本申請的協力廠商面提供一種電子設備，所述電子設備包括處理器，所述處理器用於執行記憶體中存儲的電腦程式時實現所述深度學習程式配置方法。
本申請的第四方面提供一種電腦可讀存儲介質，其上存儲有電腦程式，所述電腦程式被處理器執行時實現所述深度學習程式配置方法。
本發明中，伺服器根據深度學習程式的性能指標確定硬體設定及容器映射，容器管理器根據所述伺服器確定硬體設定及容器映射部署所述深度學習程式所對應的容器，減少了深度學習程式的優化資源利用率的時間，並縮短了深度學習應用程式的開發生命週期。
1:容器管理器
2:伺服器
40:深度學習程式配置裝置
401:獲取模組
402:解析模組
403:標籤生成模組
404:部署模組
7:電子設備
71:記憶體
72:處理器
73:電腦程式
S11~S14:步驟
圖1是本發明一實施方式中深度學習程式配置方法的流程圖。
圖2是本發明一實施方式中深度學習程式配置方法的應用環境示意圖。
圖3是本發明一實施方式中深度學習程式配置裝置的示意圖。
圖4是本發明一實施方式中電子設備的示意圖。
為了能夠更清楚地理解本發明的上述目的、特徵和優點，下面結合附圖和具體實施例對本發明進行詳細描述。需要說明的是，在不衝突的情況下，本申請的實施例及實施例中的特徵可以相互組合。
在下面的描述中闡述了很多具體細節以便於充分理解本發明，所描述的實施例僅僅是本發明一部分實施例，而不是全部的實施例。基於本發明中的實施例，本領域普通技術人員在沒有做出創造性勞動前提下所獲得的所有其他實施例，都屬於本發明保護的範圍。
除非另有定義，本文所使用的所有的技術和科學術語與屬於本發明的技術領域的技術人員通常理解的含義相同。本文中在本發明的說明書中所使用的術語只是為了描述具體的實施例的目的，不是旨在於限制本發明。
優選地，本發明深度學習程式配置方法應用在一個或者多個電子設備中。所述電子設備是一種能夠按照事先設定或存儲的指令，自動進行數值計算和/或資訊處理的設備，其硬體包括但不限於微處理器、專用積體電路(Application Specific Integrated Circuit，ASIC)、可程式設計閘陣列(Field-Programmable Gate Array，FPGA)、數文書處理器(Digital Signal Processor，DSP)、嵌入式設備等。
所述電子設備可以是桌上型電腦、筆記型電腦、平板電腦及雲端伺服器等計算設備。所述設備可以與使用者藉由鍵盤、滑鼠、遙控器、觸控板或聲控設備等方式進行人機交互。
實施例1
圖1是本發明一實施方式中深度學習程式配置方法的流程圖。根據不同的需求，所述流程圖中步驟的順序可以改變，某些步驟可以省略。
參閱圖1所示，所述深度學習程式配置方法具體包括以下步驟：
步驟S11、容器管理器1獲取深度學習程式。
請參考圖2，所示為本發明一實施方式中學習程式配置方法的應用環境圖。本實施方式中，所述方法應用在容器管理器1及伺服器2中。本實施方式中，所述容器管理器1藉由虛擬本地網路(Virtual Local Network，VLAN)與伺服器2通訊連接。本實施方式中，所述容器管理器1可以為Kubernetes或KubeFLow容器管理器，所述伺服器2可以為伺服器集群或雲伺服器。本實施方式中，所述深度學習程式存儲在一容器中，所述容器管理器1從所述容器
中獲取所述深度學習程式。本實施方式中，所述深度學習程式可以為深度學習應用程式。
步驟S12、容器管理器1從獲取的所述深度學習程式中解析出性能指標並將所述性能指標發送給所述伺服器2。
本實施方式中，所述容器管理器1利用事件跟蹤工具來解析出所述深度學習程式中的性能指標。其中，所述事件跟蹤工具可以是SOFA(Swarm-Oriented Function Call Analysis)工具或Flame Graph工具。本實施方式中，深度學習程式對應的性能指標包括，但不限於前向傳播時間(Forward propagation time,FW)、後向傳播時間(Backward propagation time,BW)、主機到圖形處理器(Graphics Processing Unit,GPU)的資料複製時間、GPU到主機的資料複製時間。具體的，所述容器管理器1利用事件跟蹤工具藉由Http網頁協定的函數PUT：performance metrics{ }解析出所述深度學習程式中的前向傳播時間、後向傳播時間、CPU到圖形處理器的資料複製時間、圖形處理器到主機的資料複製時間等性能參數。在解析出所述深度學習程式中的性能指標後，所述容器管理器1藉由RESTfull介面API以JSON格式將解析的性能指標發送給所述伺服器2。
步驟S13、所述伺服器2根據所述性能指標確定硬體設定及容器映射，根據確定的所述硬體設定及容器映射生成一包含所述伺服器2名稱的容器映射標籤，並將所述容器映射標籤發送給所述容器管理器1。
本實施方式中，所述伺服器2根據所述性能指標確定硬體設定及容器映射包括：所述伺服器2根據所述性能指標藉由預設規則確定硬體設定及容器映射以使得深度學習程式在利用所述硬體設定及容器映射封裝程式後執行時間最小。具體的，所述預設規則為：當所述性能指標中的前向傳播時間處於第一閾值範圍時，設定硬體設定為將CPU與圖形處理器的通訊模式設定為nvlink
通訊模式，及設定容器映射為配置應用程式介面(Application Programming Interface,API)；當所述性能指標中的前向傳播時間處於第二閾值範圍時將CPU與圖形處理器的通訊模式設定為pciex2通訊模式，及設定容器映射為配置應用程式介面。本實施方式中，所述第一預設閾值範圍小於第二預設閾值範圍，所述第一預設閾值範圍及第二預設範圍可以根據實際需要進行設置。
本實施方式中，所述伺服器2根據所述性能指標確定硬體設定還包括：所述伺服器2根據所述性能指標確定CPU的核數量、記憶體容量及影像處理器的數量。
在另一實施方式中，所述伺服器2根據所述性能指標確定硬體設定及容器映射包括：所述伺服器2根據所述性能指標藉由機器學習的方法確定硬體設定及容器映射以使得深度學習程式在利用所述硬體設定及容器映射封裝程式後執行時間最小。本實施方式中，所述機器學習方法為聚類或決策樹等機器學習方法。
步驟S14、所述容器管理器1接收到所述容器映射標籤後判斷所述容器映射標籤中是否包含有所述伺服器的名稱，當確定所述容器映射標籤中包含有所述伺服器的名稱時根據所述容器映射標籤中的硬體設定及容器映射部署所述深度學習程式所對應的容器。
本發明中，伺服器2根據深度學習程式的性能指標確定硬體設定及容器映射，容器管理器1根據所述伺服器2確定硬體設定及容器映射部署所述深度學習程式所對應的容器，減少了深度學習程式的優化資源利用率的時間，並縮短了深度學習應用程式的開發生命週期。
實施例2
圖3為本發明一實施方式中深度學習程式配置裝置40的示意圖。
在一些實施例中，所述深度學習程式配置裝置40運行於電子設備中。所述深度學習程式配置裝置40可以包括多個由程式碼段所組成的功能模組。所述深度學習程式配置裝置40中的各個程式段的程式碼可以存儲於記憶體中，並由至少一個處理器所執行，以執行深度學習程式配置的功能。
本實施例中，所述深度學習程式配置裝置40根據其所執行的功能，可以被劃分為多個功能模組。參閱圖3所示，所述深度學習程式配置裝置40可以包括獲取模組401、解析模組402、標籤生成模組403及部署模組404。本發明所稱的模組是指一種能夠被至少一個處理器所執行並且能夠完成固定功能的一系列電腦程式段，其存儲在記憶體中。在一些實施例中，關於各模組的功能將在後續的實施例中詳述。
所述獲取模組401，應用在所述容器管理器1中，用於獲取深度學習程式。
本實施方式中，所述容器管理器1藉由虛擬本地網路與伺服器2通訊連接。本實施方式中，所述容器管理器1可以為Kubernetes或KubeFLow容器管理器，所述伺服器2可以為伺服器集群或雲伺服器。本實施方式中，所述深度學習程式存儲在一容器中，所述獲取模組401從所述容器中獲取所述深度學習程式。本實施方式中，所述深度學習程式可以為深度學習應用程式。
所述解析模組402應用在容器管理器1中，用於從獲取的所述深度學習程式中解析出性能指標並將所述性能指標發送給所述伺服器2。
本實施方式中，所述解析模組402利用事件跟蹤工具來解析出所述深度學習程式中的性能指標。其中，所述事件跟蹤工具可以是SOFA(Simple Object-oriented and Flexible Architecture)工具或Flame Graph工具。本實施方式中，深度學習程式對應的性能指標包括，但不限於前向傳播時間(Forward propagation time,FW)、後向傳播時間(Backward propagation time,BW)、
主機到圖形處理器(Graphics Processing Unit,GPU)的資料複製時間、GPU到主機的資料複製時間。具體的，所述解析模組402利用事件跟蹤工具藉由Http網頁協定的函數PUT：performance metrics{ }解析出所述深度學習程式中的前向傳播時間、後向傳播時間、CPU到圖形處理器的資料複製時間、圖形處理器到主機的資料複製時間等性能參數。在解析出所述深度學習程式中的性能指標後，所述解析模組402藉由RESTfull介面API以JSON格式將解析的性能指標發送給所述伺服器2。
所述標籤生成模組403應用在所述伺服器2，用於根據所述性能指標確定硬體設定及容器映射，根據確定的所述硬體設定及容器映射生成一包含所述伺服器2名稱的容器映射標籤，並將所述容器映射標籤發送給所述容器管理器1。
本實施方式中，所述標籤生成模組403根據所述性能指標確定硬體設定及容器映射包括：所述標籤生成模組403根據所述性能指標藉由預設規則確定硬體設定及容器映射以使得深度學習程式在利用所述硬體設定及容器映射封裝程式後執行時間最小。具體的，所述預設規則為：當所述性能指標中的前向傳播時間處於第一閾值範圍時，設定硬體設定為將CPU與圖形處理器的通訊模式設定為nvlink通訊模式，及設定容器映射為配置應用程式介面(Application Programming Interface,API)；當所述性能指標中的前向傳播時間處於第二閾值範圍時將CPU與圖形處理器的通訊模式設定為pciex2通訊模式，及設定容器映射為配置應用程式介面。本實施方式中，所述第一預設閾值範圍小於第二預設閾值範圍，所述第一預設閾值範圍及第二預設範圍可以根據實際需要進行設置。
本實施方式中，所述標籤生成模組403根據所述性能指標確定硬體設定還包括：所述標籤生成模組403根據所述性能指標確定CPU的核數量、記憶體容量及影像處理器的數量。
在另一實施方式中，所述標籤生成模組403根據所述性能指標確定硬體設定及容器映射包括：所述標籤生成模組403根據所述性能指標藉由機器學習的方法確定硬體設定及容器映射以使得深度學習程式在利用所述硬體設定及容器映射封裝程式後執行時間最小。本實施方式中，所述機器學習方法為聚類或決策樹等機器學習方法。
所述部署模組404應用在容器管理器1中，用於接收到所述容器映射標籤後判斷所述容器映射標籤中是否包含有所述伺服器的名稱，當確定所述容器映射標籤中包含有所述伺服器的名稱時根據所述容器映射標籤中的硬體設定及容器映射部署所述深度學習程式所對應的容器。
本發明中，伺服器2根據深度學習程式的性能指標確定硬體設定及容器映射，容器管理器1根據所述伺服器2確定硬體設定及容器映射部署所述深度學習程式所對應的容器，減少了深度學習程式的優化資源利用率的時間，並縮短了深度學習應用程式的開發生命週期。
實施例3
圖4為本發明電子設備7較佳實施例的示意圖。
所述電子設備7包括記憶體71、處理器72以及存儲在所述記憶體71中並可在所述處理器72上運行的電腦程式73。所述處理器72執行所述電腦程式73時實現上述深度學習程式配置方法實施例中的步驟，例如圖1所示的步驟S11~S14。或者，所述處理器72執行所述電腦程式73時實現上述深度學習程式配置裝置實施例中各模組/單元的功能，例如圖3中的模組401~404。
示例性的，所述電腦程式73可以被分割成一個或多個模組/單元，所述一個或者多個模組/單元被存儲在所述記憶體71中，並由所述處理器72執行，以完成本發明。所述一個或多個模組/單元可以是能夠完成特定功能的一系列電腦程式指令段，所述指令段用於描述所述電腦程式73在所述電子設備7中的執行過程。例如，所述電腦程式73可以被分割成圖3中的獲取模組401、解析模組402、標籤生成模組403及部署模組404，各模組具體功能參見實施例二。
本實施方式中，所述電子設備7包括容器管理器1及伺服器。在其他實施方式中，所述電子設備7可以是雲端伺服器等計算設備。本領域技術人員可以理解，所述示意圖僅僅是電子設備7的示例，並不構成對電子設備7的限定，可以包括比圖示更多或更少的部件，或者組合某些部件，或者不同的部件，例如所述電子設備7還可以包括輸入輸出設備、網路接入設備、匯流排等。
所稱處理器72可以是中央處理模組(Central Processing Unit，CPU)，還可以是其他通用處理器、數位訊號處理器(Digital Signal Processor，DSP)、專用積體電路(Application Specific Integrated Circuit，ASIC)、現成可程式設計閘陣列(Field-Programmable Gate Array，FPGA)或者其他可程式設計邏輯器件、分立門或者電晶體邏輯器件、分立硬體元件等。通用處理器可以是微處理器或者所述處理器72也可以是任何常規的處理器等，所述處理器72是所述電子設備7的控制中心，利用各種介面和線路連接整個電子設備7的各個部分。
所述記憶體71可用於存儲所述電腦程式73和/或模組/單元，所述處理器72藉由運行或執行存儲在所述記憶體71內的電腦程式和/或模組/單元，以及調用存儲在記憶體71內的資料，實現所述計電子設備7的各種功能。所述記憶體71可主要包括存儲程式區和存儲資料區，其中，存儲程式區可存儲作業系統、至少一個功能所需的應用程式(比如聲音播放功能、圖像播放功能等)等；存儲資料區可存儲根據電子設備7的使用所創建的資料等。此外，記憶體
71可以包括高速隨機存取記憶體，還可以包括非易失性記憶體，例如硬碟、記憶體、插接式硬碟，智慧存儲卡(Smart Media Card,SMC)，安全數位(Secure Digital,SD)卡，快閃記憶體卡(Flash Card)、至少一個磁碟記憶體件、快閃記憶體器件、或其他易失性固態記憶體件。
所述電子設備7集成的模組/單元如果以軟體功能模組的形式實現並作為獨立的產品銷售或使用時，可以存儲在一個電腦可讀取存儲介質中。基於這樣的理解，本發明實現上述實施例方法中的全部或部分流程，也可以藉由電腦程式來指令相關的硬體來完成，所述的電腦程式可存儲於一電腦可讀存儲介質中，所述電腦程式在被處理器執行時，可實現上述各個方法實施例的步驟。其中，所述電腦程式包括電腦程式代碼，所述電腦程式代碼可以為原始程式碼形式、物件代碼形式、可執行檔或某些中間形式等。所述電腦可讀介質可以包括：能夠攜帶所述電腦程式代碼的任何實體或裝置、記錄介質、U盤、移動硬碟、磁碟、光碟、電腦記憶體、唯讀記憶體(ROM，Read-Only Memory)、隨機存取記憶體(RAM，Random Access Memory)、電載波信號、電信信號以及軟體分發介質等。需要說明的是，所述電腦可讀介質包含的內容可以根據司法管轄區內立法和專利實踐的要求進行適當的增減，例如在某些司法管轄區，根據立法和專利實踐，電腦可讀介質不包括電載波信號和電信信號。
在本發明所提供的幾個實施例中，應該理解到，所揭露的電子設備和方法，可以藉由其它的方式實現。例如，以上所描述的電子設備實施例僅僅是示意性的，例如，所述模組的劃分，僅僅為一種邏輯功能劃分，實際實現時可以有另外的劃分方式。
另外，在本發明各個實施例中的各功能模組可以集成在相同處理模組中，也可以是各個模組單獨物理存在，也可以兩個或兩個以上模組集成在
相同模組中。上述集成的模組既可以採用硬體的形式實現，也可以採用硬體加軟體功能模組的形式實現。
對於本領域技術人員而言，顯然本發明不限於上述示範性實施例的細節，而且在不背離本發明的精神或基本特徵的情況下，能夠以其他的具體形式實現本發明。因此，無論從哪一點來看，均應將實施例看作是示範性的，而且是非限制性的，本發明的範圍由所附權利要求而不是上述說明限定，因此旨在將落在權利要求的等同要件的含義和範圍內的所有變化涵括在本發明內。不應將權利要求中的任何附圖標記視為限制所涉及的權利要求。此外，顯然“包括”一詞不排除其他模組或步驟，單數不排除複數。電子設備權利要求中陳述的多個模組或電子設備也可以由同一個模組或電子設備藉由軟體或者硬體來實現。第一，第二等詞語用來表示名稱，而並不表示任何特定的順序。
最後應說明的是，以上實施例僅用以說明本發明的技術方案而非限制，儘管參照較佳實施例對本發明進行了詳細說明，本領域的普通技術人員應當理解，可以對本發明的技術方案進行修改或等同替換，而不脫離本發明技術方案的精神和範圍。
S11~S14:步驟
Claims (10)
- 一種深度學習程式配置方法，其改良在於，所述方法包括：容器管理器獲取深度學習程式；容器管理器從獲取的所述深度學習程式中解析出性能指標並將所述性能指標發送給伺服器；所述伺服器根據所述性能指標確定硬體設定及容器映射，根據確定的所述硬體設定及所述容器映射生成一包含所述伺服器名稱的容器映射標籤，並將所述容器映射標籤發送給所述容器管理器；及所述容器管理器接收到所述容器映射標籤後判斷所述容器映射標籤中是否包含有所述伺服器的名稱，當確定所述容器映射標籤中包含有所述伺服器的名稱時根據所述容器映射標籤中的硬體設定及容器映射部署所述深度學習程式所對應的容器。
- 如請求項1所述的深度學習程式配置方法，其中，所述伺服器根據所述性能指標確定硬體設定及容器映射包括：所述伺服器根據所述性能指標藉由預設規則確定硬體設定及容器映射以使得所述深度學習程式在利用所述硬體設定及容器映射封裝程式後執行時間最小。
- 如請求項2所述的深度學習程式配置方法，其特徵在於，所述預設規則為：當所述性能指標中的前向傳播時間處於第一閾值範圍時，設定硬體設定為將CPU與圖形處理器的通訊模式設定為nvlink通訊模式，及設定所述容器映射為配置應用程式介面；當所述性能指標中的前向傳播時間處於第二閾 值範圍時將所述CPU與所述圖形處理器的通訊模式設定為pciex2通訊模式，及設定所述容器映射為配置應用程式介面。
- 如請求項2所述的深度學習程式配置方法，其特徵在於，所述伺服器根據所述性能指標確定硬體設定還包括：所述伺服器根據所述性能指標確定CPU的核數量、記憶體容量及影像處理器的數量。
- 如請求項2所述的深度學習程式配置方法，其特徵在於，所述伺服器根據所述性能指標確定硬體設定及容器映射包括：所述伺服器根據所述性能指標藉由機器學習的方法確定硬體設定及容器映射以使得深度學習程式在利用所述硬體設定及容器映射封裝程式後執行時間最小。
- 如請求項1所述的深度學習程式配置方法，其特徵在於，所述容器管理器從獲取的所述深度學習程式中解析出性能指標包括：所述容器管理器利用事件跟蹤工具來解析出所述深度學習程式中的性能指標，其中，所述事件跟蹤工具可以是SOFA工具或Flame Graph工具。
- 如請求項1所述的深度學習程式配置方法，其特徵在於，所述性能指標包括前向傳播時間、後向傳播時間、主機到圖形處理器的資料複製時間、圖形處理器到主機的資料複製時間。
- 一種深度學習程式配置裝置，其改良在於，所述裝置包括：獲取模組，應用在容器管理器中，用於獲取深度學習程式；解析模組，應用在所述容器管理器中，用於從獲取的所述深度學習程式中解析出性能指標並將所述性能指標發送給伺服器； 標籤生成模組，應用在所述伺服器中，用於根據所述性能指標確定硬體設定及容器映射，根據確定的所述硬體設定及所述容器映射生成一包含所述伺服器名稱的容器映射標籤，並將所述容器映射標籤發送給所述容器管理器；及部署模組，應用在所述容器管理器中，用於接收到所述容器映射標籤後判斷所述容器映射標籤中是否包含有所述伺服器的名稱，當確定所述容器映射標籤中包含有所述伺服器的名稱時根據所述容器映射標籤中的硬體設定及容器映射部署所述深度學習程式所對應的容器。
- 一種電子設備，其改良在於：所述電子設備包括處理器，所述處理器用於執行記憶體中存儲的電腦程式時實現如請求項1至7中任一項所述深度學習程式配置方法。
- 一種電腦可讀存儲介質，其上存儲有電腦程式，其改良在於：所述電腦程式被處理器執行時實現如請求項1至7中任一項所述深度學習程式配置方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| TW108121866A TWI721464B (zh) | 2019-06-21 | 2019-06-21 | 深度學習程式配置方法、裝置、電子設備及存儲介質 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| TW108121866A TWI721464B (zh) | 2019-06-21 | 2019-06-21 | 深度學習程式配置方法、裝置、電子設備及存儲介質 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| TW202101474A TW202101474A (zh) | 2021-01-01 |
| TWI721464B true TWI721464B (zh) | 2021-03-11 |
Family
ID=75234657
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| TW108121866A TWI721464B (zh) | 2019-06-21 | 2019-06-21 | 深度學習程式配置方法、裝置、電子設備及存儲介質 |
Country Status (1)
| Country | Link |
|---|---|
| TW (1) | TWI721464B (zh) |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180293498A1 (en) * | 2016-01-27 | 2018-10-11 | Bonsai AI, Inc. | For hiearchical decomposition deep reinforcement learning for an artificial intelligence model |
| TWI640933B (zh) * | 2017-12-26 | 2018-11-11 | 中華電信股份有限公司 | 基於類神經網路之兩段式特徵抽取系統及其方法 |
| CN108958892A (zh) * | 2018-08-14 | 2018-12-07 | 郑州云海信息技术有限公司 | 一种创建用于深度学习作业的容器的方法和装置 |
| CN109189401A (zh) * | 2018-07-06 | 2019-01-11 | 曙光信息产业(北京)有限公司 | 一种深度学习框架的部署方法以及系统 |
| WO2019103978A1 (en) * | 2017-11-22 | 2019-05-31 | Amazon Technologies, Inc. | Packaging and deploying algorithms for flexible machine learning |
| CN109885389A (zh) * | 2019-02-19 | 2019-06-14 | 山东浪潮云信息技术有限公司 | 一种基于容器的并行深度学习调度训练方法及系统 |
-
2019
- 2019-06-21 TW TW108121866A patent/TWI721464B/zh active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20180293498A1 (en) * | 2016-01-27 | 2018-10-11 | Bonsai AI, Inc. | For hiearchical decomposition deep reinforcement learning for an artificial intelligence model |
| WO2019103978A1 (en) * | 2017-11-22 | 2019-05-31 | Amazon Technologies, Inc. | Packaging and deploying algorithms for flexible machine learning |
| TWI640933B (zh) * | 2017-12-26 | 2018-11-11 | 中華電信股份有限公司 | 基於類神經網路之兩段式特徵抽取系統及其方法 |
| CN109189401A (zh) * | 2018-07-06 | 2019-01-11 | 曙光信息产业(北京)有限公司 | 一种深度学习框架的部署方法以及系统 |
| CN108958892A (zh) * | 2018-08-14 | 2018-12-07 | 郑州云海信息技术有限公司 | 一种创建用于深度学习作业的容器的方法和装置 |
| CN109885389A (zh) * | 2019-02-19 | 2019-06-14 | 山东浪潮云信息技术有限公司 | 一种基于容器的并行深度学习调度训练方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| TW202101474A (zh) | 2021-01-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10943191B2 (en) | Designer tool for managing cloud computing services | |
| US20200097391A1 (en) | Agentless distributed monitoring of microservices through a virtual switch | |
| US8874704B2 (en) | Semi-automatic discovery and generation of useful service blueprints | |
| CN111767143A (zh) | 交易数据处理方法、装置、设备及系统 | |
| CN109766097A (zh) | Ui生成方法、装置、电子设备及计算机可读存储介质 | |
| WO2019090993A1 (zh) | 监控系统的部署方法、装置、计算机设备及存储介质 | |
| US10592312B2 (en) | Message oriented middleware with integrated rules engine | |
| WO2018210096A1 (zh) | 一种基于规则引擎的规则配置方法、终端、设备以及存储介质 | |
| CN110347383A (zh) | 跨平台桌面应用的前端开发方法及装置 | |
| CN112612452A (zh) | 一种api平台实现方法、装置、设备及存储介质 | |
| WO2023221416A1 (zh) | 信息生成方法、装置、设备以及存储介质 | |
| US10516729B2 (en) | Dynamic graph adaptation for stream processing over hybrid, physically disparate analytics platforms | |
| US8914815B2 (en) | Automated framework for tracking and maintaining kernel symbol list types | |
| US9111009B2 (en) | Self-parsing XML documents to improve XML processing | |
| CN112114931B (zh) | 深度学习程序配置方法、装置、电子设备及存储介质 | |
| TWI721464B (zh) | 深度學習程式配置方法、裝置、電子設備及存儲介質 | |
| CN113902387A (zh) | 一种工作流的处理方法、装置及电子设备 | |
| CN111324645B (zh) | 区块链的数据处理方法及装置 | |
| CN111104198A (zh) | 一种提高扫描系统插件运行效率的方法、设备及介质 | |
| US20230114321A1 (en) | Cloud Data Ingestion System | |
| CN110647546A (zh) | 第三方规则引擎生成方法及装置 | |
| US20200403887A1 (en) | Method for managing software service, and server | |
| CN113934453B (zh) | 风险检测方法、装置及存储介质 | |
| CN110096504B (zh) | 流式事件特征匹配方法及装置 | |
| CN116827770A (zh) | 一种智能加速设备管理方法、装置、设备及介质 |