JP7348444B2 - 機械学習モデルのハイパーパラメータ最適化過程の分析と調整のためのチューニングアルゴリズム認識視覚化方法 - Google Patents
機械学習モデルのハイパーパラメータ最適化過程の分析と調整のためのチューニングアルゴリズム認識視覚化方法 Download PDFInfo
- Publication number
- JP7348444B2 JP7348444B2 JP2021016212A JP2021016212A JP7348444B2 JP 7348444 B2 JP7348444 B2 JP 7348444B2 JP 2021016212 A JP2021016212 A JP 2021016212A JP 2021016212 A JP2021016212 A JP 2021016212A JP 7348444 B2 JP7348444 B2 JP 7348444B2
- Authority
- JP
- Japan
- Prior art keywords
- hyperparameter
- hyperparameters
- algorithm
- search
- visualizing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000004422 calculation algorithm Methods 0.000 title claims description 109
- 238000000034 method Methods 0.000 title claims description 100
- 238000010801 machine learning Methods 0.000 title claims description 88
- 230000008569 process Effects 0.000 title claims description 52
- 238000005457 optimization Methods 0.000 title claims description 43
- 238000004458 analytical method Methods 0.000 title description 28
- 238000007794 visualization technique Methods 0.000 title description 8
- 238000012800 visualization Methods 0.000 claims description 45
- 238000012544 monitoring process Methods 0.000 claims description 12
- 230000003993 interaction Effects 0.000 claims description 11
- 230000006872 improvement Effects 0.000 claims description 9
- 239000011159 matrix material Substances 0.000 claims description 8
- 238000004364 calculation method Methods 0.000 claims description 5
- 238000004590 computer program Methods 0.000 claims description 5
- 230000003213 activating effect Effects 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 25
- 238000003860 storage Methods 0.000 description 14
- 238000012545 processing Methods 0.000 description 13
- 238000004891 communication Methods 0.000 description 12
- 230000004083 survival effect Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 230000002085 persistent effect Effects 0.000 description 3
- 238000010845 search algorithm Methods 0.000 description 3
- PCSKDXWCLQXURQ-UHFFFAOYSA-N 2-amino-1-(4-bromo-2,5-dimethoxyphenyl)ethanol Chemical compound COC1=CC(C(O)CN)=C(OC)C=C1Br PCSKDXWCLQXURQ-UHFFFAOYSA-N 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 238000003062 neural network model Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000003542 behavioural effect Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 238000011112 process operation Methods 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/02—Knowledge representation; Symbolic representation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- User Interface Of Digital Computer (AREA)
- Testing And Monitoring For Control Systems (AREA)
Description
120:プロセッサ
210:視覚化部
220:最適化部
Claims (19)
- コンピュータシステムが実行するハイパーパラメータ調整方法であって、
前記コンピュータシステムは、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも1つのプロセッサを含み、
前記ハイパーパラメータ調整方法は、
ハイパーパラメータの組み合わせを探索するためのアルゴリズムを利用して探索された複数のハイパーパラメータの組み合わせの学習モデルに基づき、アルゴリズムの探索過程を視覚化する段階、および
前記視覚化されたアルゴリズムの探索過程によってハイパーパラメータまたはハイパーパラメータ組み合わせの重要度を分析し、学習モデルの性能と関連のあるハイパーパラメータの情報をガイドする段階であって、前記アルゴリズムを利用して探索されたハイパーパラメータ探索空間と前記ハイパーパラメータに対して構成された設定情報の組み合わせを平行座標グラフ上に位置させ、前記ハイパーパラメータの相対的な重要度を前記平行座標グラフの周辺に反映させた図形形態のインタフェースを視覚化する段階を含む、ガイドする段階
を含む、ハイパーパラメータ調整方法。 - 前記視覚化する段階は、
ハイパーパラメータの組み合わせを探索するための自動化された機械学習アルゴリズムを利用する段階
を含む、請求項1に記載のハイパーパラメータ調整方法。 - 前記視覚化する段階は、
前記アルゴリズムを利用して探索されたハイパーパラメータ探索空間に対する設定情報を構成するように前記複数のハイパーパラメータの組み合わせの学習モデルに基づき、前記アルゴリズムの性能および前記アルゴリズムの構成を診断するためのアルゴリズムの探索過程を視覚化する段階
を含む、請求項1に記載のハイパーパラメータ調整方法。 - 前記ガイドする段階は、
前記ハイパーパラメータを示すそれぞれのユーザインタフェースを前記平行座標グラフに構成し、前記構成されたそれぞれのユーザインタフェースを前記ハイパーパラメータの相対的な重要度にしたがって予め設定された方向から位置させ、前記位置させたそれぞれのユーザインタフェースに対応して前記平行座標グラフの座標を並べる段階
を含む、請求項1乃至3のいずれか1項に記載のハイパーパラメータ調整方法。 - 前記ガイドする段階は、
前記ハイパーパラメータを示すそれぞれのユーザインタフェースに対するユーザとの相互作用により、前記ハイパーパラメータをアクティブ化させる段階
を含む、請求項4に記載のハイパーパラメータ調整方法。 - 前記ガイドする段階は、
前記ユーザが選択したユーザインタフェースに対応するハイパーパラメータの相対的な重要度値を数値化し、前記選択されたハイパーパラメータを示すユーザインタフェースを拡大し、前記選択されたハイパーパラメータと関連性のある他のハイパーパラメータを関連性の値にしたがって配置し、前記選択されたハイパーパラメータに対する設定値の範囲を平行座標グラフと複数のバーで構成された視覚化モジュールによって視覚化する段階
を含む、請求項5に記載のハイパーパラメータ調整方法。 - 前記ガイドする段階は、
前記ハイパーパラメータの重要度算出結果をマトリックス形態によって視覚化する段階
を含む、請求項6に記載のハイパーパラメータ調整方法。 - 前記ガイドする段階は、
前記マトリックス形態で構成された各行に、前記ハイパーパラメータまたは前記ハイパーパラメータの組み合わせの重要度と前記重要度の信頼値を視覚化し、ユーザからの相互作用によって前記各行がアクティブ化することにより、前記重要度に対する詳細情報を提供する段階
を含む、請求項7に記載のハイパーパラメータ調整方法。 - 前記ガイドする段階は、
前記ハイパーパラメータのタイプにしたがい、前記ハイパーパラメータに対する詳細情報を互いに異なるプロットによって視覚化する段階
を含む、請求項8に記載のハイパーパラメータ調整方法。 - 前記視覚化する段階は、
前記学習モデルの性能更新を確認するためのモニタリングビューを提供し、ユーザによって設定情報が構成された、自動化された機械学習アルゴリズムの性能更新記録を折れ線グラフによって視覚化する段階
を含む、請求項1に記載のハイパーパラメータ調整方法。 - 前記視覚化する段階は、
前記自動化された機械学習アルゴリズムが探索ロジックを繰り返すことによって探索ロジックのインデックスをx軸に表現し、前記自動化された機械学習アルゴリズムによって探索された学習モデルの性能をy軸に表現し、探索ロジックを繰り返すことによって各インデックスで探索された学習モデルを前記x軸とy軸の値にしたがって折れ線グラフの座標上に点で位置させる段階
を含む、請求項10に記載のハイパーパラメータ調整方法。 - 前記視覚化する段階は、
前記アルゴリズムの性能を確認するための探索ヒストリービューを提供し、自動化された機械学習アルゴリズムを実行する前に設定されたハイパーパラメータ探索空間に基づいて複数のプロットを構成し、前記構成された複数のプロットのそれぞれのプロットによってハイパーパラメータの探索空間に対する探索ヒストリーを可視化する段階
を含む、請求項1に記載のハイパーパラメータ調整方法。 - 前記視覚化する段階は、
前記構成された複数のプロットを学習モデルの性能向上モニタリングビューのx軸と一致させて自動化された機械学習アルゴリズムの探索ロジックのインデックスを表現し、y軸にハイパーパラメータ探索空間の範囲を表現し、探索ロジックを繰り返すことによって各インデックスで探索された学習モデルをハイパーパラメータの値にしたがって座標上に点で位置させる段階
を含む、請求項12に記載のハイパーパラメータ調整方法。 - 前記視覚化する段階は、
前記構成された複数のプロットでハイパーパラメータのタイプによって学習モデルに対応するそれぞれの点が重なる場合、斥力を加えて点を位置させる段階
を含む、請求項13に記載のハイパーパラメータ調整方法。 - 前記視覚化する段階は、
前記自動化された機械学習アルゴリズムの探索ロジック特性にしたがい、点線と曲線を利用して学習モデルに対応するそれぞれの点を連結して学習モデルとの関係を視覚化する段階
を含む、請求項13に記載のハイパーパラメータ調整方法。 - 請求項1~15のうちのいずれか一項に記載のハイパーパラメータ調整方法を前記コンピュータシステムに実行させる、コンピュータプログラム。
- 請求項1~15のうちのいずれか一項に記載のハイパーパラメータ調整方法をコンピュータに実行させるためのプログラムが記録されている、非一時的なコンピュータ読み取り
可能な記録媒体。 - コンピュータシステムであって、
メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも1つのプロセッサ
を含み、
前記少なくとも1つのプロセッサは、
ハイパーパラメータの組み合わせを探索するためのアルゴリズムを利用して探索された複数のハイパーパラメータの組み合わせの学習モデルに基づき、前記アルゴリズムの探索過程を視覚化する視覚化部、および
前記視覚化されたアルゴリズムの探索過程によってハイパーパラメータまたはハイパーパラメータの組み合わせの重要度を分析し、学習モデルの性能と関連のあるハイパーパラメータの情報をガイドする最適化部であって、前記アルゴリズムを利用して探索されたハイパーパラメータ探索空間と前記ハイパーパラメータに対して構成された設定情報の組み合わせを平行座標グラフ上に位置させ、前記ハイパーパラメータの相対的な重要度を前記平行座標グラフの周辺に反映させた図形形態のインタフェースを視覚化する、最適化部
を含む、コンピュータシステム。 - 前記視覚化部は、
ハイパーパラメータの組み合わせを探索するための自動化された機械学習アルゴリズムを利用することを特徴とする、
請求項18に記載のコンピュータシステム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200133210A KR102560042B1 (ko) | 2020-10-15 | 2020-10-15 | 기계 학습 모델의 초매개변수(hyperparameter) 최적화 과정의 분석과 조정을 위한 튜닝 알고리즘 인식 시각화 방법 |
KR10-2020-0133210 | 2020-10-15 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022065599A JP2022065599A (ja) | 2022-04-27 |
JP7348444B2 true JP7348444B2 (ja) | 2023-09-21 |
Family
ID=81386197
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021016212A Active JP7348444B2 (ja) | 2020-10-15 | 2021-02-04 | 機械学習モデルのハイパーパラメータ最適化過程の分析と調整のためのチューニングアルゴリズム認識視覚化方法 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP7348444B2 (ja) |
KR (1) | KR102560042B1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116992253A (zh) * | 2023-07-24 | 2023-11-03 | 中电金信软件有限公司 | 与目标业务关联的目标预测模型中超参数的取值确定方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190236487A1 (en) | 2018-01-30 | 2019-08-01 | Microsoft Technology Licensing, Llc | Machine learning hyperparameter tuning tool |
US20200097847A1 (en) | 2018-09-21 | 2020-03-26 | Gloudera, lnc. | Hyperparameter tuning using visual analytics in a data science platform |
-
2020
- 2020-10-15 KR KR1020200133210A patent/KR102560042B1/ko active IP Right Grant
-
2021
- 2021-02-04 JP JP2021016212A patent/JP7348444B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190236487A1 (en) | 2018-01-30 | 2019-08-01 | Microsoft Technology Licensing, Llc | Machine learning hyperparameter tuning tool |
US20200097847A1 (en) | 2018-09-21 | 2020-03-26 | Gloudera, lnc. | Hyperparameter tuning using visual analytics in a data science platform |
Non-Patent Citations (1)
Title |
---|
PARK Heungseok et al.,HyperTendril: Visual Analytics for User-Driven Hyperparameter Optimization of Deep Neural Networks,IEEE Transactions on Visualization and Computer Graphics [online],2020年10月13日,vol. 27, no. 2,pp. 1407-1416,[2022年11月10日検索],インターネット<URL : https://ieeexplore.ieee.org/document/9222338> |
Also Published As
Publication number | Publication date |
---|---|
KR20220049737A (ko) | 2022-04-22 |
KR102560042B1 (ko) | 2023-07-27 |
JP2022065599A (ja) | 2022-04-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11720822B2 (en) | Gradient-based auto-tuning for machine learning and deep learning models | |
JP6555411B2 (ja) | 情報処理方法および情報処理装置 | |
JP7041473B2 (ja) | 複雑なグラフ検索のための局所的な視覚グラフ・フィルタ | |
EP2591413A2 (en) | Visualizing expressions for dynamic analytics | |
US11989657B2 (en) | Automated machine learning pipeline for timeseries datasets utilizing point-based algorithms | |
JP7389522B2 (ja) | 高速スクリーニングのためのドメイン固有言語インタープリタ及び対話型視覚インターフェース | |
JP7245961B2 (ja) | 対話型機械学習 | |
US11995547B2 (en) | Predicting and visualizing outcomes using a time-aware recurrent neural network | |
JP2024511171A (ja) | 動作認識の方法および装置 | |
JP2023544335A (ja) | 機械学習モデルの適応訓練システム及び方法 | |
CN114897173A (zh) | 基于变分量子线路确定PageRank的方法及装置 | |
JP7348444B2 (ja) | 機械学習モデルのハイパーパラメータ最適化過程の分析と調整のためのチューニングアルゴリズム認識視覚化方法 | |
JP2022539290A (ja) | ディープラーニングのためのビジュアルプログラミング | |
JP2022006178A (ja) | 深層モデル可視化データの処理方法、装置及び電子機器 | |
JP7317979B2 (ja) | ピラミッドレイヤのアーキテクチャを生成するためのシステムおよび方法 | |
US20220044136A1 (en) | Automated data table discovery for automated machine learning | |
Nakariyakul | Suboptimal branch and bound algorithms for feature subset selection: A comparative study | |
US10839936B2 (en) | Evidence boosting in rational drug design and indication expansion by leveraging disease association | |
US20210232607A1 (en) | Apparatuses, methods, and computer program products for data perspective generation and visualization | |
JP7463560B2 (ja) | 自動機械学習:統合され、カスタマイズ可能、及び拡張可能なシステム | |
JP6810780B2 (ja) | Cnn基盤イメージ検索方法および装置 | |
Mohit et al. | Classification of complex UCI datasets using machine learning algorithms using hadoop | |
US20240095277A1 (en) | Exploration of large-scale data sets | |
US20230177388A1 (en) | Visualization and editing of machine learning models | |
Singh et al. | Design a multi-objective optimization with dynamic and global filter pruning strategy for convolutional neural network |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210204 |
|
A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20210204 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20210414 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20210412 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220412 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220704 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230613 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20230710 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20230809 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230810 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20230809 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7348444 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |