JP2020060922A - ハイパーパラメータチューニング方法、装置及びプログラム - Google Patents
ハイパーパラメータチューニング方法、装置及びプログラム Download PDFInfo
- Publication number
- JP2020060922A JP2020060922A JP2018191250A JP2018191250A JP2020060922A JP 2020060922 A JP2020060922 A JP 2020060922A JP 2018191250 A JP2018191250 A JP 2018191250A JP 2018191250 A JP2018191250 A JP 2018191250A JP 2020060922 A JP2020060922 A JP 2020060922A
- Authority
- JP
- Japan
- Prior art keywords
- hyperparameter
- user program
- program
- tuning method
- machine learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
Abstract
Description
20 ハイパーパラメータチューニングプログラム
100 ハイパーパラメータチューニング装置
101 プロセッサ
102 メモリ
103 ハードディスク
104 I/Oインタフェース
Claims (13)
- プロセッサにより実行されるステップからなるハイパーパラメータチューニング方法であって、
ユーザプログラムに記述されたハイパーパラメータ取得コードに従って生成されたハイパーパラメータ取得要求を受信するステップと、
前記ユーザプログラムに対するハイパーパラメータの適用履歴に基づき前記ユーザプログラムに前記ハイパーパラメータを提供するステップと、
前記ハイパーパラメータが適用されたユーザプログラムの評価結果を取得するステップと、
を有するハイパーパラメータチューニング方法。 - 前記ハイパーパラメータ取得コードは、制御構造を利用して記述される、請求項1記載のハイパーパラメータチューニング方法。
- 前記ユーザプログラムは、前記記述された制御構造に従って前記提供されたハイパーパラメータの次に取得すべきハイパーパラメータを決定し、前記決定されたハイパーパラメータに対するハイパーパラメータ取得要求を生成する、請求項2記載のハイパーパラメータチューニング方法。
- 前記ユーザプログラムは、機械学習モデルを学習するためのものである、請求項1乃至3何れか一項記載のハイパーパラメータチューニング方法。
- 前記ハイパーパラメータ取得要求は、制御構造に従って前記機械学習モデルのタイプと、前記機械学習モデルの個々のタイプに特有のハイパーパラメータとを要求する、請求項4記載のハイパーパラメータチューニング方法。
- 前記ハイパーパラメータ取得コードは、
前記機械学習モデルの構造を規定するハイパーパラメータを設定するためのモジュールと、
前記機械学習モデルの学習処理を規定するハイパーパラメータを設定するためのモジュールと、
を含む、請求項4又は5記載のハイパーパラメータチューニング方法。 - 前記ハイパーパラメータを提供するステップは、所定のハイパーパラメータ選択アルゴリズムに従って選択されたハイパーパラメータを提供する、請求項4乃至6何れか一項記載のハイパーパラメータチューニング方法。
- 前記所定のハイパーパラメータ選択アルゴリズムは、前記ハイパーパラメータの適用履歴の下で取得した前記機械学習モデルの精度を利用したベイズ最適化に基づく、請求項7記載のハイパーパラメータチューニング方法。
- 前記所定のハイパーパラメータ選択アルゴリズムは、ランダムサーチに基づく、請求項7記載のハイパーパラメータチューニング方法。
- 前記ユーザプログラムの評価結果は、前記機械学習モデルの精度を含む、請求項4乃至9何れか一項記載のハイパーパラメータチューニング方法。
- 終了条件を充足するまで、前記受信するステップ、前記提供するステップ及び前記取得するステップを繰り返すステップを更に有する、請求項1乃至10何れか一項記載のハイパーパラメータチューニング方法。
- プロセッサと、
前記プロセッサに結合され、前記プロセッサのワーキングメモリとして機能するメモリと、
を有し、
前記プロセッサは、
ユーザプログラムに記述されたハイパーパラメータ取得コードに従って生成されたハイパーパラメータ取得要求を受信し、
前記ユーザプログラムに対するハイパーパラメータの適用履歴に基づき前記ユーザプログラムに前記ハイパーパラメータを提供し、
前記ハイパーパラメータが適用されたユーザプログラムの評価結果を取得するハイパーパラメータチューニング装置。 - ユーザプログラムに記述されたハイパーパラメータ取得コードに従って生成されたハイパーパラメータ取得要求を受信する処理と、
前記ユーザプログラムに対するハイパーパラメータの適用履歴に基づき前記ユーザプログラムに前記ハイパーパラメータを提供する処理と、
前記ハイパーパラメータが適用されたユーザプログラムの評価結果を取得する処理と、
をプロセッサに実行させるハイパーパラメータチューニングプログラム。
Priority Applications (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018191250A JP6892424B2 (ja) | 2018-10-09 | 2018-10-09 | ハイパーパラメータチューニング方法、装置及びプログラム |
DE112019005048.6T DE112019005048T5 (de) | 2018-10-09 | 2019-10-04 | Hyperparameteroptimierungsverfahren, -vorrichtung und -programm |
CN201980066202.7A CN112823362A (zh) | 2018-10-09 | 2019-10-04 | 超参数调整方法、装置以及程序 |
PCT/JP2019/039338 WO2020075644A1 (ja) | 2018-10-09 | 2019-10-04 | ハイパーパラメータチューニング方法、装置及びプログラム |
JP2020151465A JP7301801B2 (ja) | 2018-10-09 | 2020-09-09 | ハイパーパラメータチューニング方法、装置及びプログラム |
US17/221,060 US20210224692A1 (en) | 2018-10-09 | 2021-04-02 | Hyperparameter tuning method, device, and program |
JP2023101841A JP2023123636A (ja) | 2018-10-09 | 2023-06-21 | ハイパーパラメータチューニング方法、装置及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018191250A JP6892424B2 (ja) | 2018-10-09 | 2018-10-09 | ハイパーパラメータチューニング方法、装置及びプログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020151465A Division JP7301801B2 (ja) | 2018-10-09 | 2020-09-09 | ハイパーパラメータチューニング方法、装置及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020060922A true JP2020060922A (ja) | 2020-04-16 |
JP6892424B2 JP6892424B2 (ja) | 2021-06-23 |
Family
ID=70165176
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018191250A Active JP6892424B2 (ja) | 2018-10-09 | 2018-10-09 | ハイパーパラメータチューニング方法、装置及びプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US20210224692A1 (ja) |
JP (1) | JP6892424B2 (ja) |
CN (1) | CN112823362A (ja) |
DE (1) | DE112019005048T5 (ja) |
WO (1) | WO2020075644A1 (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020123270A (ja) * | 2019-01-31 | 2020-08-13 | 株式会社日立製作所 | 演算装置 |
KR102314847B1 (ko) * | 2021-03-30 | 2021-10-19 | 주식회사 솔리드웨어 | 최적모델탐색방법 및 그 장치 |
JP2022033695A (ja) * | 2020-12-22 | 2022-03-02 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | モデルを生成するための方法、装置、電子機器、記憶媒体、及びコンピュータプログラム製品 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11657118B2 (en) * | 2019-05-23 | 2023-05-23 | Google Llc | Systems and methods for learning effective loss functions efficiently |
CN112015749B (zh) * | 2020-10-27 | 2021-02-19 | 支付宝(杭州)信息技术有限公司 | 基于隐私保护更新业务模型的方法、装置及系统 |
CN112862107A (zh) * | 2021-01-26 | 2021-05-28 | 贝式计算(天津)信息技术有限公司 | 自动建模运行系统及运行方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017049677A (ja) * | 2015-08-31 | 2017-03-09 | 富士通株式会社 | 機械学習管理プログラム、機械学習管理装置および機械学習管理方法 |
-
2018
- 2018-10-09 JP JP2018191250A patent/JP6892424B2/ja active Active
-
2019
- 2019-10-04 WO PCT/JP2019/039338 patent/WO2020075644A1/ja active Application Filing
- 2019-10-04 CN CN201980066202.7A patent/CN112823362A/zh active Pending
- 2019-10-04 DE DE112019005048.6T patent/DE112019005048T5/de active Pending
-
2021
- 2021-04-02 US US17/221,060 patent/US20210224692A1/en active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017049677A (ja) * | 2015-08-31 | 2017-03-09 | 富士通株式会社 | 機械学習管理プログラム、機械学習管理装置および機械学習管理方法 |
Non-Patent Citations (1)
Title |
---|
須賀 亮介ほか: "誰もが悩む性能問題の基礎から学ぶ まずはここからDBチューニング", DB MAGAZINE, vol. 第18巻, JPN6020010000, 1 January 2009 (2009-01-01), pages 30 - 38, ISSN: 0004279867 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020123270A (ja) * | 2019-01-31 | 2020-08-13 | 株式会社日立製作所 | 演算装置 |
JP7059214B2 (ja) | 2019-01-31 | 2022-04-25 | 株式会社日立製作所 | 演算装置 |
JP2022033695A (ja) * | 2020-12-22 | 2022-03-02 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | モデルを生成するための方法、装置、電子機器、記憶媒体、及びコンピュータプログラム製品 |
JP7304384B2 (ja) | 2020-12-22 | 2023-07-06 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | モデルを生成するための方法、装置、電子機器、記憶媒体、及びコンピュータプログラム製品 |
KR102314847B1 (ko) * | 2021-03-30 | 2021-10-19 | 주식회사 솔리드웨어 | 최적모델탐색방법 및 그 장치 |
WO2022211179A1 (ko) * | 2021-03-30 | 2022-10-06 | 주식회사 솔리드웨어 | 최적모델탐색방법 및 그 장치 |
Also Published As
Publication number | Publication date |
---|---|
CN112823362A (zh) | 2021-05-18 |
US20210224692A1 (en) | 2021-07-22 |
DE112019005048T5 (de) | 2021-07-01 |
JP6892424B2 (ja) | 2021-06-23 |
WO2020075644A1 (ja) | 2020-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2020075644A1 (ja) | ハイパーパラメータチューニング方法、装置及びプログラム | |
CN111652380B (zh) | 针对机器学习算法进行算法参数调优的方法及系统 | |
US11531926B2 (en) | Method and apparatus for generating machine learning model by using distributed computing framework | |
US20190278600A1 (en) | Tiled compressed sparse matrix format | |
US10754709B2 (en) | Scalable task scheduling systems and methods for cyclic interdependent tasks using semantic analysis | |
CN110168578A (zh) | 具有任务特定路径的多任务神经网络 | |
US20190362222A1 (en) | Generating new machine learning models based on combinations of historical feature-extraction rules and historical machine-learning models | |
US7418434B2 (en) | Forward-chaining inferencing | |
US10956417B2 (en) | Dynamic operation scheduling for distributed data processing | |
CN111105029B (zh) | 神经网络的生成方法、生成装置和电子设备 | |
US20200279187A1 (en) | Model and infrastructure hyper-parameter tuning system and method | |
CN111966361B (zh) | 用于确定待部署模型的方法、装置、设备及其存储介质 | |
US11216752B1 (en) | Optimizing machine learning models | |
US20230394110A1 (en) | Data processing method, apparatus, device, and medium | |
JP2023123636A (ja) | ハイパーパラメータチューニング方法、装置及びプログラム | |
WO2018192479A1 (en) | Adaptive code generation with a cost model for jit compiled execution in a database system | |
JP2017058848A (ja) | 情報処理システム、情報処理方法、及び、プログラム | |
JP6977733B2 (ja) | パラメータ最適化装置、パラメータ最適化方法、及びプログラム | |
EP4339843A1 (en) | Neural network optimization method and apparatus | |
US20220326665A1 (en) | Control system, and control method | |
Xu et al. | Iterative learning control (ILC) guided reinforcement learning control (RLC) scheme for batch processes | |
US20210124566A1 (en) | Branch objects for dependent optimization problems | |
JPWO2011016281A1 (ja) | ベイジアンネットワーク構造学習のための情報処理装置及びプログラム | |
JP7127686B2 (ja) | 仮説推論装置、仮説推論方法、及びプログラム | |
US20220414404A1 (en) | Storage medium, model generation method, and information processing apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200131 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200131 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20200131 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20200203 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200317 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200518 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200609 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200909 |
|
C60 | Trial request (containing other claim documents, opposition documents) |
Free format text: JAPANESE INTERMEDIATE CODE: C60 Effective date: 20200909 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20200923 |
|
C21 | Notice of transfer of a case for reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C21 Effective date: 20200929 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20201120 |
|
C211 | Notice of termination of reconsideration by examiners before appeal proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C211 Effective date: 20201201 |
|
C22 | Notice of designation (change) of administrative judge |
Free format text: JAPANESE INTERMEDIATE CODE: C22 Effective date: 20210126 |
|
C302 | Record of communication |
Free format text: JAPANESE INTERMEDIATE CODE: C302 Effective date: 20210319 |
|
C13 | Notice of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: C13 Effective date: 20210323 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210325 |
|
C22 | Notice of designation (change) of administrative judge |
Free format text: JAPANESE INTERMEDIATE CODE: C22 Effective date: 20210406 |
|
C23 | Notice of termination of proceedings |
Free format text: JAPANESE INTERMEDIATE CODE: C23 Effective date: 20210413 |
|
C03 | Trial/appeal decision taken |
Free format text: JAPANESE INTERMEDIATE CODE: C03 Effective date: 20210518 |
|
C30A | Notification sent |
Free format text: JAPANESE INTERMEDIATE CODE: C3012 Effective date: 20210518 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210527 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6892424 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |