JP2022058328A - 分散型モデルトレーニング装置および方法、電子機器、記憶媒体、ならびに、コンピュータプログラム - Google Patents
分散型モデルトレーニング装置および方法、電子機器、記憶媒体、ならびに、コンピュータプログラム Download PDFInfo
- Publication number
- JP2022058328A JP2022058328A JP2021107863A JP2021107863A JP2022058328A JP 2022058328 A JP2022058328 A JP 2022058328A JP 2021107863 A JP2021107863 A JP 2021107863A JP 2021107863 A JP2021107863 A JP 2021107863A JP 2022058328 A JP2022058328 A JP 2022058328A
- Authority
- JP
- Japan
- Prior art keywords
- distributed
- trainer
- parameter
- model
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012549 training Methods 0.000 title claims abstract description 161
- 238000000034 method Methods 0.000 title claims abstract description 80
- 238000004590 computer program Methods 0.000 title claims abstract description 14
- 230000008569 process Effects 0.000 claims abstract description 26
- 230000006870 function Effects 0.000 claims description 22
- 238000004891 communication Methods 0.000 claims description 20
- 230000002776 aggregation Effects 0.000 claims description 4
- 238000004220 aggregation Methods 0.000 claims description 4
- 230000005540 biological transmission Effects 0.000 claims description 4
- 230000000875 corresponding effect Effects 0.000 description 30
- 238000012545 processing Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 239000000835 fiber Substances 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/20—Ensemble learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/56—Provisioning of proxy services
- H04L67/566—Grouping or aggregating service requests, e.g. for unified processing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Description
Claims (16)
- 互いに独立した、分散型リーダと、分散型トレーナと、分散型パラメータサーバとを含み、
前記分散型リーダのうちのリーダは、トレーニングサンプルを取得し、取得したトレーニングサンプルを前記分散型トレーナのうちの対応するトレーナにロードするように構成されており、
前記分散型トレーナのうちのトレーナは、ロードされたトレーニングサンプルに基づいてモデルをトレーニングし、勾配情報を取得するように構成されており、
前記分散型パラメータサーバのうちのパラメータサーバは、前記分散型トレーナの勾配情報に基づいて初期モデルのパラメータを更新し、トレーニング済みターゲットモデルを取得するように構成される、
分散型モデルトレーニング装置。 - 分散型パラメータプロセッサと、分散型コミュニケータとをさらに含み、
前記分散型パラメータプロセッサのうちのパラメータプロセッサは、前記分散型トレーナのパラメータと勾配の送受信および集約とを実行するように構成されており、
前記分散型コミュニケータのうちのコミュニケータは、前記分散型トレーナと前記分散型パラメータサーバとの間のパラメータと勾配のデータやりとりに使用される、
請求項1に記載の分散型モデルトレーニング装置。 - 前記分散型リーダのうちのリーダと前記分散型トレーナのうちの対応するトレーナは、マルチスレッド完全非同期方式でデータやりとりを実行する、
請求項1に記載の分散型モデルトレーニング装置。 - 前記分散型リーダのうちのリーダの各読み出しスレッドは、トレーニングサンプルをそれぞれ取得し、取得したトレーニングサンプルを各読み出しスレッドに1対1対応する情報キューにロードして、このリーダに対応するトレーナの各トレーニングスレッドが対応する情報キューからトレーニングサンプルを取得できるようにする、
請求項3に記載の分散型モデルトレーニング装置。 - 前記初期モデルのパラメータは、所定の方式で目標数量部に分けられ、前記目標数量部は、前記分散型パラメータサーバのうちのパラメータサーバの数を表し、
前記分散型パラメータサーバのうちの各パラメータサーバは、前記目標数量部のパラメータを1数量部ずつ順次格納する、
請求項1に記載の分散型モデルトレーニング装置。 - 前記分散型トレーナのうちのトレーナは、パラメータ識別子に基づいて、このトレーナとのデータやりとりを実行する前記分散型パラメータサーバのうちのターゲットパラメータサーバを確定するようにさらに構成されており、
前記分散型コミュニケータのうちのコミュニケータは、前記分散型トレーナのうちのトレーナとこのトレーナに対応するターゲットパラメータサーバとのデータやりとりを実行するようにさらに構成される、
請求項5に記載の分散型モデルトレーニング装置。 - ユーザとデータやりとりするためのインターフェースを提供するように構成されるリークインターフェースモジュールをさらに含む、
請求項2に記載の分散型モデルトレーニング装置。 - 互いに独立した、分散型リーダと、分散型トレーナと、分散型パラメータサーバとを含む複数の分散型機能モジュールに、初期モデルのトレーニングプロセスを割り当て、前記複数の分散型機能モジュール間の通信インターフェースを確定することと、
前記分散型リーダのうちのリーダは、トレーニングサンプルを取得し、取得したトレーニングサンプルを前記分散型トレーナのうちの対応するトレーナにロードすることと、
前記分散型トレーナのうちのトレーナは、ロードされたトレーニングサンプルに基づいてモデルをトレーニングし、前記分散型トレーナと前記分散型パラメータサーバとの間のデータやりとりによって、トレーニング済みターゲットモデルを取得することと、を含む、
分散型モデルトレーニング方法。 - 前記複数の分散型機能モジュールは分散型パラメータプロセッサと、分散型コミュニケータとをさらに含み、
前記分散型モデルトレーニング方法は、
前記分散型トレーナのうちのトレーナは、ロードされたトレーニングサンプルに基づいてモデルをトレーニングし、前記分散型トレーナと前記分散型パラメータサーバとの間のデータやりとりによって、トレーニング済みターゲットモデルを取得することは、
前記分散型トレーナのうちのトレーナのモデルトレーニングプロセス中に、分散型パラメータプロセッサのうちのパラメータプロセッサを介して、前記分散型トレーナのパラメータと勾配の送受信および集約を実行することと、
前記分散型コミュニケータのうちのコミュニケータを介して、前記分散型トレーナと前記分散型パラメータサーバとの間のパラメータと勾配のデータやりとりを実行し、前記データやりとりによって、トレーニング済みターゲットモデルを取得することと、をさらに含む、
請求項8に記載の分散型モデルトレーニング方法。 - 前記分散型リーダのうちのリーダと前記分散型トレーナのうちの対応するトレーナは、マルチスレッド完全非同期方式でデータやりとりを実行する、
請求項8に記載の分散型モデルトレーニング方法。 - 前記分散型リーダのうちのリーダは、トレーニングサンプルを取得し、取得したトレーニングサンプルを前記分散型トレーナのうちの対応するトレーナにロードすることは、
前記分散型リーダのうちの各リーダについて、このリーダのうちの各読み出しスレッドが、トレーニングサンプルをそれぞれ取得し、取得したトレーニングサンプルを各読み出しスレッドに1対1対応する情報キューにロードして、このリーダに対応するトレーナの各トレーニングスレッドが対応する情報キューからトレーニングサンプルを取得できるようにすることを含む、
請求項10に記載の分散型モデルトレーニング方法。 - 前記初期モデルのパラメータを所定の方式で、前記分散型パラメータサーバのうちのパラメータサーバの数を表す目標数量部に分けることと、
前記分散型パラメータサーバのうちの各パラメータサーバを介して、前記目標数量部のパラメータを1数量部ずつ順次格納することと、をさらに含む、
請求項8に記載の分散型モデルトレーニング方法。 - 前記分散型トレーナと前記分散型パラメータサーバとの間のデータやりとりによって、トレーニング済みターゲットモデルを取得することは、
前記分散型トレーナのうちの各トレーナについて、パラメータ識別子に基づいて、このトレーナとのデータやりとりを実行する前記分散型パラメータサーバのうちのターゲットパラメータサーバを確定することと、
このトレーナとこのトレーナに対応するターゲットパラメータサーバとの間のデータやりとりによって、トレーニング済みターゲットモデルを取得することと、を含む、
請求項12に記載の分散型モデルトレーニング方法。 - 少なくとも1つのプロセッサと、
前記少なくとも1つのプロセッサに通信可能に接続されたメモリと、を含み、
前記メモリには前記少なくとも1つのプロセッサによって実行可能な指令が記憶されており、前記指令が前記少なくとも1つのプロセッサによって実行されると、前記少なくとも1つのプロセッサに請求項8~13のいずれか一項に記載の分散型モデルトレーニング方法を実行させるようにすることを特徴とする電子機器。 - コンピュータ指令が記憶されている非一時的コンピュータ可読記憶媒体であって、
前記コンピュータ指令は請求項8~13のいずれか一項に記載の分散型モデルトレーニング方法をコンピュータに実行させるように構成されることを特徴とする、非一時的コンピュータ可読記憶媒体。 - プロセッサによって実行されると、請求項8~13のいずれか一項に記載の分散型モデルトレーニング方法を実行するコンピュータプログラム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011502120.3A CN112561079A (zh) | 2020-12-18 | 2020-12-18 | 分布式的模型训练装置、方法及计算机程序产品 |
CN202011502120.3 | 2020-12-18 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022058328A true JP2022058328A (ja) | 2022-04-12 |
JP7454529B2 JP7454529B2 (ja) | 2024-03-22 |
Family
ID=75063508
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021107863A Active JP7454529B2 (ja) | 2020-12-18 | 2021-06-29 | 分散型モデルトレーニング装置および方法、電子機器、記憶媒体、ならびに、コンピュータプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US20210326762A1 (ja) |
EP (1) | EP4016398A1 (ja) |
JP (1) | JP7454529B2 (ja) |
KR (1) | KR20210090122A (ja) |
CN (1) | CN112561079A (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112884086B (zh) * | 2021-04-06 | 2022-08-30 | 北京百度网讯科技有限公司 | 模型训练方法、装置、设备、存储介质以及程序产品 |
CN114083770B (zh) * | 2021-10-29 | 2024-03-22 | 北京百度网讯科技有限公司 | 工艺参数调整及模型训练方法、装置、设备与存储介质 |
CN114091589B (zh) * | 2021-11-11 | 2022-08-09 | 北京百度网讯科技有限公司 | 模型训练方法、装置、电子设备及介质 |
CN114726861B (zh) * | 2022-04-02 | 2023-07-18 | 中国科学技术大学苏州高等研究院 | 基于空闲服务器的模型聚合加速方法和装置 |
KR20240041716A (ko) * | 2022-09-23 | 2024-04-01 | 삼성전자주식회사 | 모바일 장치 및 그 동작 방법 |
CN115827261B (zh) * | 2023-01-10 | 2023-05-19 | 北京燧原智能科技有限公司 | 基于分布式网络的数据同步方法、装置、服务器及介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150324690A1 (en) * | 2014-05-08 | 2015-11-12 | Microsoft Corporation | Deep Learning Training System |
US20180331897A1 (en) * | 2016-01-30 | 2018-11-15 | Huawei Technologies Co.,Ltd. | Method and device for training model in distributed system |
US20190325302A1 (en) * | 2018-04-23 | 2019-10-24 | EMC IP Holding Company LLC | Implementing parameter server in networking infrastructure for high-performance computing |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11144828B2 (en) * | 2017-06-09 | 2021-10-12 | Htc Corporation | Training task optimization system, training task optimization method and non-transitory computer readable medium for operating the same |
CN109754060B (zh) * | 2017-11-06 | 2023-08-25 | 阿里巴巴集团控股有限公司 | 一种神经网络机器学习模型的训练方法及装置 |
CN110414687A (zh) * | 2019-07-12 | 2019-11-05 | 苏州浪潮智能科技有限公司 | 一种用于深度学习框架分布式训练的方法和装置 |
CN110502544A (zh) * | 2019-08-12 | 2019-11-26 | 北京迈格威科技有限公司 | 数据整合方法、分布式计算节点及分布式深度学习训练系统 |
-
2020
- 2020-12-18 CN CN202011502120.3A patent/CN112561079A/zh active Pending
-
2021
- 2021-06-11 EP EP21179147.0A patent/EP4016398A1/en active Pending
- 2021-06-17 US US17/351,194 patent/US20210326762A1/en active Pending
- 2021-06-29 KR KR1020210084640A patent/KR20210090122A/ko unknown
- 2021-06-29 JP JP2021107863A patent/JP7454529B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150324690A1 (en) * | 2014-05-08 | 2015-11-12 | Microsoft Corporation | Deep Learning Training System |
US20180331897A1 (en) * | 2016-01-30 | 2018-11-15 | Huawei Technologies Co.,Ltd. | Method and device for training model in distributed system |
US20190325302A1 (en) * | 2018-04-23 | 2019-10-24 | EMC IP Holding Company LLC | Implementing parameter server in networking infrastructure for high-performance computing |
Also Published As
Publication number | Publication date |
---|---|
US20210326762A1 (en) | 2021-10-21 |
EP4016398A1 (en) | 2022-06-22 |
KR20210090122A (ko) | 2021-07-19 |
JP7454529B2 (ja) | 2024-03-22 |
CN112561079A (zh) | 2021-03-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112561078B (zh) | 分布式的模型训练方法及相关装置 | |
JP2022058328A (ja) | 分散型モデルトレーニング装置および方法、電子機器、記憶媒体、ならびに、コンピュータプログラム | |
JP7433373B2 (ja) | 深層学習モデルの分散トレーニング方法、装置、電子機器、記憶媒体およびコンピュータプログラム | |
EP3913545A2 (en) | Method and apparatus for updating parameter of multi-task model, and electronic device | |
WO2023201981A1 (zh) | 混合专家模型实现方法、系统、电子设备及存储介质 | |
CN113570033B (zh) | 神经网络处理单元、神经网络的处理方法及其装置 | |
CN112631775A (zh) | 模型训练方法、装置、电子设备和计算机可读存储介质 | |
JP2023533404A (ja) | 駆動可能3dキャラクター生成方法、装置、電子機器、及び記憶媒体 | |
WO2023165058A1 (zh) | 存储器模型的镜像存储实现方法、装置及存储介质 | |
JP7412489B2 (ja) | 連合学習方法及び装置、電子機器、記憶媒体ならびにコンピュータプログラム | |
CN114937478B (zh) | 用于训练模型的方法、用于生成分子的方法和装置 | |
CN114841341B (zh) | 图像处理模型训练及图像处理方法、装置、设备和介质 | |
CN113570067B (zh) | 分布式系统的同步方法、装置 | |
CN113673476B (zh) | 人脸识别模型训练方法、装置、存储介质与电子设备 | |
CN113408304B (zh) | 文本翻译方法、装置、电子设备及存储介质 | |
JP7265618B2 (ja) | 深層学習トレーニングタスクに向けたプロセッサメモリを最適化するための方法及び装置 | |
CN113344213A (zh) | 知识蒸馏方法、装置、电子设备及计算机可读存储介质 | |
CN115034198B (zh) | 语言模型中嵌入模块计算优化的方法 | |
CN115860114B (zh) | 深度学习模型的训练方法、装置、电子设备及存储介质 | |
CN115660034B (zh) | 分布式模型训练的方法、装置和系统 | |
CN113570034B (zh) | 处理装置、神经网络的处理方法及其装置 | |
US20230244974A1 (en) | Quantum state processing method, computing device and storage medium | |
JP7343637B2 (ja) | データ処理方法、装置、電子機器及び記憶媒体 | |
CN114723069A (zh) | 参数更新方法、装置和电子设备 | |
JP2022093331A (ja) | 点群データ処理方法、装置、電子デバイス、記憶媒体、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220210 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230131 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230307 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230518 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20230905 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231214 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20231225 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240305 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240311 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7454529 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |