JP2019175513A - 情報処理方法および情報処理装置 - Google Patents
情報処理方法および情報処理装置 Download PDFInfo
- Publication number
- JP2019175513A JP2019175513A JP2019128361A JP2019128361A JP2019175513A JP 2019175513 A JP2019175513 A JP 2019175513A JP 2019128361 A JP2019128361 A JP 2019128361A JP 2019128361 A JP2019128361 A JP 2019128361A JP 2019175513 A JP2019175513 A JP 2019175513A
- Authority
- JP
- Japan
- Prior art keywords
- neural network
- network
- information processing
- search
- processing method
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/086—Learning methods using evolutionary algorithms, e.g. genetic algorithms or genetic programming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/12—Computing arrangements based on biological models using genetic models
- G06N3/126—Evolutionary algorithms, e.g. genetic algorithms or genetic programming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biophysics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Physiology (AREA)
- Genetics & Genomics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Description
1.本開示に係るネットワーク構造の探索
1.1.ニューラルネットワークとは
1.2.ニューラルネットワークの生成
1.3.本開示に係るシステム構成例
1.4.本開示に係る情報処理装置10
1.5.本開示に係る情報処理サーバ30
2.第1の実施形態
2.1.第1の実施形態に係るニューラルネットワークの生成
2.2.パレート最適解の更新によるネットワーク構造の探索
2.3.本実施形態に係る探索の効果
3.第2の実施形態
3.1.本実施形態に係る予測誤差の測定
3.2.ネットワーク構造に係る特徴量ベクトルの算出
3.3.本実施形態に係る探索の効果
3.4.本開示に係る探索の設定
4.ハードウェア構成例
5.まとめ
<<1.1.ニューラルネットワークとは>>
ニューラルネットワークとは、人間の脳神経回路を模したモデルであり、人間が持つ学習能力をコンピュータ上で実現しようとする技法である。上述したとおり、ニューラルネットワークは学習能力を有することを特徴の一つとする。ニューラルネットワークでは、シナプスの結合によりネットワークを形成した人工ニューロン(ノード)が、学習によりシナプスの結合強度を変化させることで、問題に対する解決能力を獲得することが可能である。すなわち、ニューラルネットワークは、学習を重ねることで、問題に対する解決ルールを自動的に推論することができる。
ここで、本開示に係るニューラルネットワークの生成について、概要を説明する。上述したとおり、本開示に係る情報処理方法では、元となる評価済のニューラルネットワーク(以降、シードネットワーク、とも呼ぶ)から、ネットワーク構造の異なる別のニューラルネットワークを生成すること可能である。また、後述するように、本開示に係る情報処理方法は、パレート最適解に係るニューラルネットワークから、ネットワーク構造の異なる別のニューラルネットワークを生成することができる。
次に、本開示に係る情報処理方法を実施するためのシステム構成例について説明する。上述したとおり、本開示に係る情報処理方法は、評価済みのニューラルネットワークから、ネットワーク構造の異なる別のニューラルネットワークを生成すること、を特徴の一つとする。また、本開示に係る情報処理方法では、生成されたニューラルネットワークの評価結果を取得し、当該取得結果に基づいて、評価済のニューラルネットワークに係るパレート最適解を更新することが可能である。すなわち、本開示に係る情報処理方法では、生成された別のニューラルネットワークの評価結果が、評価済みのニューラルネットワークの評価結果を上回る場合、上記の別のニューラルネットワークをパレート最適解として更新することができる。さらに、本開示に係る情報処理方法は、パレート最適に係るニューラルネットワークから、ネットワーク構造の異なる別のニューラルネットワークを生成することができる。すなわち、本開示に係る情報処理方法では、パレート最適解として更新された上記の別のニューラルネットワークを、評価済のニューラルネットワークとして新たな別のニューラルネットワークを生成することが可能である。
次に、本開示に係る情報処理装置10について詳細に説明する。本開示に係る情報処理装置10は、ユーザによるニューラルネットワークの指定を受け付ける機能を有する。また、情報処理装置10は、評価済のニューラルネットワークに係るパレート最適解の提示を制御する機能を有する。すなわち、本開示に係る情報処理装置10は、指定されたシードネットワークから生成された別のニューラルネットワークの評価結果に基づいて更新されるパレート最適解をユーザに提示することができる。
表示部110は、情報処理装置10の各構成により制御される情報を表示する機能を有する。本開示において、表示部110は、特に、評価済のニューラルネットワークに係るパレート最適解を表示する機能を有してよい。上記の機能は、例えば、CRT(Cathode Ray Tube)ディスプレイ装置、液晶ディスプレイ(LCD:Liquid Crystal Display)装置、OLED(Organic Light Emitting Diode)装置により実現されてもよい。また、表示部110は、ユーザからの情報入力を受け付ける入力部としての機能を有してもよい。入力部としての機能は、例えば、タッチパネルにより実現され得る。
入力部120は、ユーザからの情報入力を受け付け、情報処理装置10の各構成に入力情報を引き渡す機能を有する。本開示において、入力部120は、特に、シードネットワークを指定するユーザの操作を受け付け、当該操作に基づく入力情報を後述するフォーム制御部130に引き渡す機能を有してよい。上記の機能は、例えば、キーボードやマウスにより実現されてもよい。
フォーム制御部130は、シードネットワークの指定やパレート最適解の提示を行うためのフォームを制御する機能を有する。具体的には、フォーム制御部130は、入力部120から取得したユーザの入力情報に基づいて、シードネットワークの指定や、フォームの表示制御を行うことができる。
サーバ通信部140は、ネットワーク20を介して、情報処理サーバ30との情報通信を行う機能を有する。具体的には、サーバ通信部140は、フォーム制御部130の制御に基づいて、上記フォームに係る情報を情報処理サーバ30に送信する。また、サーバ通信部140は、情報処理サーバ30から取得した情報をフォーム制御部130に引き渡す。本開示において、サーバ通信部140は、特に、パレート最適解に係る情報を情報処理サーバ30から取得し、フォーム制御部130に引き渡してよい。
次に、本開示に係る情報処理サーバ30について詳細に説明する。本開示に係る情報処理サーバ30は、評価済のニューラルネットワークから、ネットワーク構造の異なる別のニューラルネットワークを生成する情報処理装置である。また、情報処理サーバ30は、生成されたニューラルネットワークの評価結果を取得し、当該評価結果に基づいて、評価済のニューラルネットワークに係るパレート最適解を更新する機能を有する。また、情報処理サーバ30は、上記のパレート最適解に係るニューラルネットワークから、ネットワーク構造の異なる別のニューラルネットワークを生成することができる。
生成部310は、元となるネットワークからネットワーク構造の異なる別のニューラルネットワークを生成する機能を有する。生成部310は、シードネットワークやパレート最適解に係るニューラルネットワークから、ネットワーク構造の異なる別のニューラルネットワークを生成してよい。生成部310は、例えば、上述した突然変異及び交叉を含む遺伝的操作により、ネットワーク構造の異なる別のニューラルネットワークを生成することができる。また、生成部310は、例えば、入力されたネットワークのネットワーク構造を変化させるニューラルネットワークを用いて、ネットワーク構造の異なる別のニューラルネットワークを生成することができる。
評価部320は、生成されたニューラルネットワークの評価結果を取得する機能を有する。評価部320は、例えば、生成されたニューラルネットワークをクラウド上のコンピューティングリソースに実行させ、上記の評価結果を取得してもよい。また、評価部320は、エミュレータやネットワーク20を介して接続される各種のデバイスにニューラルネットワークを実行させ、評価結果を取得してもよい。
装置通信部330は、ネットワーク20を介して、情報処理装置10との情報通信を行う機能を有する。具体的には、装置通信部330は、生成部310により生成されたニューラルネットワークに係る情報や、評価部320が更新したパレート最適解に係る情報を情報処理装置10に送信する。また、装置通信部330は、情報処理装置10から、ユーザが指定したシードネットワークの情報や、ファイルのダウンロード要求を受信する。
<<2.1.第1の実施形態に係るニューラルネットワークの生成>>
続いて、本開示の第1の実施形態に係るニューラルネットワークの生成について、詳細に説明する。本実施形態に係る情報処理サーバ30は、情報処理装置10からユーザが指定したシードネットワークの情報を取得し、当該シードネットワークに基づいて、ネットワーク構造の異なる別のニューラルネットワークを生成することができる。また、本実施形態に係る情報処理サーバ30は、パレート最適解に係るニューラルネットワークから、ネットワーク構造の異なる別のニューラルネットワークを生成することができる。
以下、図5を参照して、情報処理サーバ30の生成部310によるニューラルネットワークの生成について説明する。図5は、生成部310によるニューラルネットワーク生成の流れを示すフローチャートである。
続いて、本実施形態に係る突然変異によるネットワーク生成の流れについて説明する。図6は、生成部310による突然変異を用いたネットワーク生成を説明するためのフローチャートである。すなわち、図6に示すフローチャートは、図5に示したステップS1102における生成部310の詳細な制御を示している。図6を参照すると、本実施形態に係る突然変異は、レイヤーの挿入、レイヤーの削除、レイヤー種類の変更、パラメータの変更、グラフ分岐、グラフ分岐の削除を含んでよい。
続いて、本実施形態に係る交叉によるネットワーク生成の流れについて説明する。図7は、生成部310による交叉を用いたネットワーク生成を説明するためのフローチャートである。すなわち、図7に示すフローチャートは、図5に示したステップS1103における生成部310の詳細な制御を示している。
次に、本実施形態に係るパレート最適解の更新によるネットワーク構造の探索について詳細に説明する。本実施形態に係る評価部320は、生成部310が生成したニューラルネットワークの評価結果を取得し、当該評価結果に基づいて、評価済のニューラルネットワークに係るパレート最適解を更新することができる。すなわち、本実施形態に係る情報処理方法では、演算量または誤差のいずれか一方を小さくするネットワークをパレート最適解として更新する。
ここで、図8A〜8Cを参照し、本実施形態に係るネットワーク構造の探索過程について例を挙げて説明する。図8A〜8Cは、評価部320によるパレート最適解の更新を段階的に示した図である。図8A〜8Cは、情報処理装置10の表示部110に表示される、ニューラルネットワークの評価結果に基づいたトレードオフ情報であってよい。すなわち、本実施形態に係る情報処理方法では、ネットワーク構造の探索過程をビジュアライズし、当該情報をリアルタイムにユーザに提示することが可能である。
以上、本実施形態に係る探索過程のビジュアライズについて述べた。続いて、本実施形態に係る探索結果の提示例について詳細に説明する。図9は、ネットワーク構造の探索が終了した際に、ユーザに提示されるフォームの構成例を示す図である。
以上、本実施形態に係るネットワーク構造の探索について説明した。続いて、本実施形態に係る探索の効果について説明する。
図10A及び図10Bは、図1に示したシードネットワークSNを基に探索されたネットワーク構造の構成例を示す図である。図10Aを参照すると、探索後のニューラルネットワークMN3では、シードネットワークSNに比べ、「Conv1」や「Pool2」に係るパラメータ数が変化していることがわかる。
続いて、本実施形態に係る情報処理方法の評価結果について述べる。図11A及び図11Bは、手書き数字認識データセットMNISTを用いた本実施形態に係る情報処理方法の評価結果を示すグラフである。
<<3.1.本実施形態に係る予測誤差の測定>>
以上、本開示の第1の実施形態に係る情報処理方法について説明した。続いて、本開示の第2の実施形態に係る情報処理方法について詳細に説明する。本開示の第2の実施形態に係る情報処理方法では、生成されたニューラルネットワークの予測誤差を測定し、当該予測誤差に基づいて選択したニューラルネットワークの評価結果を取得すること、を特徴の一つとする。すなわち、本実施形態に係る情報処理方法では、事前の誤差予測に基づいて取得した別のニューラルネットワークの評価結果と評価済のニューラルネットワークの評価結果とを比較することができる。上記の予測誤差には、予測された学習誤差または予測されたヴァリデーション誤差のうち少なくとも一方に係る値が含まれてよい。すなわち、本実施形態に係る情報処理方法は、生成されたニューラルネットワークのうち、最も小さい誤差が期待できるネットワークを選択的に評価することで、探索効率を向上させることが可能である。
上述したとおり、本実施形態に係る情報処理方法は、生成されたニューラルネットワークの予測誤差を測定し、最も小さい誤差が期待できるネットワークを選択的に評価することができる。図12は、本実施形態に係る評価対象の選択を説明するための概念図である。
続いて、本実施形態に係るガウシアンプロセスを利用した予測誤差の測定について説明する。上述したとおり、本実施形態に係る情報処理方法では、生成されたニューラルネットワークの予測誤差を測定することができる。この際、評価部320は、ネットワーク構造を特徴量ベクトル化し、当該特徴量ベクトルからエラーを回帰することで、予測誤差の測定を行ってよい。すなわち、本実施形態に係る評価部320は、評価済のネットワークの特徴量ベクトルと誤差から定義されるガウシアンプロセスにより、予測誤差を測定することができる。
以上、本実施形態に係るガウシアンプロセスによる予測誤差の測定について述べた。上述したとおり、本実施形態に係る評価部320は、予測された誤差の平均及び分散と、演算量と、に基づいて評価対象とするネットワークを選択してよい。この際、評価部320は、予測誤差の分布と演算量とに基づいて、評価対象を決定することができる。評価部320は、例えば、パレート最適解に係る境界線を更新する面積の期待値に基づいて、評価対象とするニューラルネットワークを選択してもよい。具体的には、評価部320は、生成されたネットワークの予測誤差の平均及び分散から上記の期待値を積分で求め、期待値が最大となるネットワークを選択することができる。これにより、本実施形態に係る情報処理方法では、より誤差が小さく、より演算量の少ないネットワークを効率的に探索することができる。
次に、本実施形態に係る特徴量ベクトルの算出について詳細に説明する。上述したとおり、本実施形態に係る情報処理方法では、生成されたネットワークのネットワーク構造に基づいて、当該ネットワーク構造の特徴量ベクトルを算出することができる。この際、評価部320は、以下の数式(1)を用いて、特徴量ベクトルを算出してよい。
続いて、本実施形態に係るnet2vecの詳細について説明する。本実施形態に係るnet2vecは、レイヤーの出現頻度、レイヤーの出現位置に係るヒストグラム、出現位置ごとの分岐数、及び出現位置ごとの主要パラメータの統計量に基づいて、特徴量ベクトルを算出することができる。
続いて、本実施形態に係るnet2vecの評価結果について述べる。図15〜図17は、第1の実施形態に係る情報処理方法において、MNISTデータセットを用いて探索を行った際に得られた評価実験の結果を示している。なお、図15〜図17に示す評価結果は、前853データを処理して得られた結果である。
以上、本実施形態に係るネットワーク構造の探索について説明した。続いて、本実施形態に係る探索の効果について説明する。
図18A〜図18Cは、第1及び第2の実施形態に係るネットワーク探索の過程を比較した図である。図18A〜図18Cでは、図中左に第1の実施形態に係る探索画面EMが、図中右に第2の実施形態に係る探索画面BOがそれぞれ示されている、また、探索画面EM及びBOでは、縦軸に誤差が、横軸に乗加算回数が示されている。
続いて、本実施形態に係る情報処理方法の評価結果について述べる。図19A〜図19Dは、第1及び第2の実施形態に係るネットワーク構造の探索結果と探索試行回数との関係を示すグラフである。すなわち、図19A〜図19Dは、第1及び第2の実施形態に係る情報処理方法により、学習精度と演算量の両方を考慮して探索を行った結果を示している。なお、図19A〜図19Dでは、横軸に探索試行回数が示されている。
次に、本開示に係る探索の設定について説明する。本開示に係るネットワーク構造の探索は、ユーザによる種々の設定を受け付けてよい。図20は、本開示の探索に係る設定画面の一例である。ここで、図20に示す例は、情報処理装置10の表示部110に表示される画面例であってよい。
次に、本開示に係る情報処理装置10及び情報処理サーバ30に共通するハードウェア構成例について説明する。図21は、本開示に係る情報処理装置10及び情報処理サーバ30のハードウェア構成例を示すブロック図である。図21を参照すると、情報処理装置10及び情報処理サーバ30は、例えば、CPU871と、ROM872と、RAM873と、ホストバス874と、ブリッジ875と、外部バス876と、インターフェース877と、入力装置878と、出力装置879と、ストレージ880と、ドライブ881と、接続ポート882と、通信装置883と、を有する。なお、ここで示すハードウェア構成は一例であり、構成要素の一部が省略されてもよい。また、ここで示される構成要素以外の構成要素をさらに含んでもよい。
CPU871は、例えば、演算処理装置又は制御装置として機能し、ROM872、RAM873、ストレージ880、又はリムーバブル記録媒体901に記録された各種プログラムに基づいて各構成要素の動作全般又はその一部を制御する。
ROM872は、CPU871に読み込まれるプログラムや演算に用いるデータ等を格納する手段である。RAM873には、例えば、CPU871に読み込まれるプログラムや、そのプログラムを実行する際に適宜変化する各種パラメータ等が一時的又は永続的に格納される。
CPU871、ROM872、RAM873は、例えば、高速なデータ伝送が可能なホストバス874を介して相互に接続される。一方、ホストバス874は、例えば、ブリッジ875を介して比較的データ伝送速度が低速な外部バス876に接続される。また、外部バス876は、インターフェース877を介して種々の構成要素と接続される。
入力装置878には、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチ、及びレバー等が用いられる。さらに、入力装置878としては、赤外線やその他の電波を利用して制御信号を送信することが可能なリモートコントローラ(以下、リモコン)が用いられることもある。
出力装置879には、例えば、CRT(Cathode Ray Tube)、LCD、又は有機EL等のディスプレイ装置、スピーカ、ヘッドホン等のオーディオ出力装置、プリンタ、携帯電話、又はファクシミリ等、取得した情報を利用者に対して視覚的又は聴覚的に通知することが可能な装置である。
ストレージ880は、各種のデータを格納するための装置である。ストレージ880としては、例えば、ハードディスクドライブ(HDD)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス、又は光磁気記憶デバイス等が用いられる。
ドライブ881は、例えば、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリ等のリムーバブル記録媒体901に記録された情報を読み出し、又はリムーバブル記録媒体901に情報を書き込む装置である。
リムーバブル記録媒体901は、例えば、DVDメディア、Blu−ray(登録商標)メディア、HD DVDメディア、各種の半導体記憶メディア等である。もちろん、リムーバブル記録媒体901は、例えば、非接触型ICチップを搭載したICカード、又は電子機器等であってもよい。
接続ポート882は、例えば、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)、RS−232Cポート、又は光オーディオ端子等のような外部接続機器902を接続するためのポートである。
外部接続機器902は、例えば、プリンタ、携帯音楽プレーヤ、デジタルカメラ、デジタルビデオカメラ、又はICレコーダ等である。
通信装置883は、ネットワークに接続するための通信デバイスであり、例えば、有線又は無線LAN、Bluetooth(登録商標)、又はWUSB(Wireless USB)用の通信カード、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、又は各種通信用のモデム等である。
以上説明したように、本開示に係る情報処理方法は、評価済みのニューラルネットワークから、ネットワーク構造の異なる別のニューラルネットワークを生成すること、を特徴の一つとする。また、本開示に係る情報処理方法では、生成されたニューラルネットワークの評価結果を取得し、当該取得結果に基づいて、評価済のニューラルネットワークに係るパレート最適解を更新することが可能である。さらに、本開示に係る情報処理方法は、パレート最適に係るニューラルネットワークから、ネットワーク構造の異なる別のニューラルネットワークを生成することができる。係る構成によれば、環境に応じたネットワーク構造をより効率的に探索することが可能となる。
(1)
プロセッサが、評価済のニューラルネットワークから、ネットワーク構造の異なる別のニューラルネットワークを生成することと、
生成されたニューラルネットワークの評価結果を取得することと、
生成されたニューラルネットワークの評価結果に基づいて、評価済のニューラルネットワークに係るパレート最適解を更新することと、
前記パレート最適解に係るニューラルネットワークから、ネットワーク構造の異なる別のニューラルネットワークを生成することと、
を含む、
情報処理方法。
(2)
遺伝的操作により、前記別のニューラルネットワークを生成する、
前記(1)に記載の情報処理方法。
(3)
前記遺伝的操作は、突然変異または交叉のうち少なくとも一方を含む、
前記(2)に記載の情報処理方法。
(4)
前記突然変異は、レイヤーの挿入、レイヤーの削除、レイヤー種類の変更、パラメータの変更、グラフ分岐、またはグラフ分岐の削除を含む、
前記(3)に記載の情報処理方法。
(5)
前記評価結果は、演算量、及び学習誤差またはヴァリデーション誤差のうち少なくとも一方を含む、
前記(1)〜(4)のいずれかに記載の情報処理方法。
(6)
生成されたニューラルネットワークの予測誤差を測定すること、
をさらに含み、
前記予測誤差は、予測された学習誤差または予測されたヴァリデーション誤差のうち少なくとも一方に係る値を含み、
前記評価結果を取得することは、前記予測誤差に基づいて選択したニューラルネットワークの前記評価結果を取得すること、を含む、
前記(1)〜(5)のいずれかに記載の情報処理方法。
(7)
生成されたニューラルネットワークに係るネットワーク構造の特徴量に基づいて前記予測誤差を測定する、
前記(6)に記載の情報処理方法。
(8)
前記予測誤差は、予測された誤差の平均及び分散を含み、
前記評価結果を取得することは、前記予測された誤差の平均及び分散と、演算量と、に基づいて選択したニューラルネットワークの前記評価結果を取得すること、を含む、
前記(6)または(7)に記載の情報処理方法。
(9)
前記評価結果を取得することは、前記パレート最適解に係る境界線を更新する面積の期待値に基づいて選択したニューラルネットワークの前記評価結果を取得すること、を含む、
前記(8)に記載の情報処理方法。
(10)
前記ネットワーク構造の特徴量は、レイヤーの出現頻度、レイヤーの出現位置に係るヒストグラム、前記出現位置ごとの分岐数、または前記出現位置ごとの主要パラメータの統計量のうち少なくとも1つに基づいて算出される、
前記(7)〜(9)のいずれかに記載の情報処理方法。
(11)
前記パレート最適解に係るニューラルネットワークから選択した候補をユーザに提示すること、
をさらに含み、
前記候補は、最高性能、中間解、または最小演算量に係るニューラルネットワークのうち少なくとも1つを含む、
前記(5)〜(10)のいずれかに記載の情報処理方法。
(12)
入力されたニューラルネットワークのネットワーク構造を変化させるニューラルネットワークを用いて、別のニューラルネットワークを生成する、
前記(1)〜(11)のいずれかに記載の情報処理方法。
(13)
前記予測誤差を測定することは、入力されたニューラルネットワークのネットワーク構造を認識するニューラルネットワークを用いて前記予測誤差を測定すること、を含む、
前記(6)〜(10)のいずれかに記載の情報処理方法。
(14)
評価済のニューラルネットワークから、ネットワーク構造の異なる別のニューラルネットワークを生成する生成部と、
生成されたニューラルネットワークの評価結果を取得する評価部と、
を備え、
前記評価部は、生成されたニューラルネットワークの評価結果に基づいて、評価済のニューラルネットワークに係るパレート最適解を更新し、
前記生成部は、前記パレート最適解に係るニューラルネットワークから、ネットワーク構造の異なる別のニューラルネットワークを生成する、
情報処理装置。
(15)
ユーザによるニューラルネットワークの指定を受け付ける入力部と、
評価済のニューラルネットワークに係るパレート最適解の提示を制御する制御部と、
を備え、
前記制御部は、前記ユーザにより指定されたニューラルネットワークから生成された別のニューラルネットワークの評価結果に基づいて更新されるパレート最適解を提示する、
情報処理装置。
(16)
プロセッサが、一のニューラルネットワークからネットワーク構造の異なる別のニューラルネットワークを生成することと、
生成された前記別のニューラルネットワークの評価結果が、前記一のニューラルネットワークの評価結果を上回る場合、前記別のニューラルネットワークをパレート最適解として更新することと、
を含む、
情報処理方法。
(17)
前記評価結果は、演算量または誤差のうち少なくともいずれか一方を含み、
前記パレート最適解として更新することは、前記演算量または誤差のいずれか一方を小さくすることをさらに含む、
前記(16)に記載の情報処理方法。
(18)
前記別のニューラルネットワークを生成することは、遺伝的操作により前記別のニューラルネットワークを生成すること、をさらに含み、
前記遺伝的操作は、突然変異または交叉のうち少なくとも一方を含む、
前記(16)または(17)に記載の情報処理方法。
(19)
前記パレート最適解として更新することは、事前の誤差予測に基づいて取得した別のニューラルネットワークの評価結果と前記一のニューラルネットワークの評価結果とを比較すること、をさらに含む、
前記(16)〜(18)のいずれかに記載の情報処理方法。
(20)
前記パレート最適解として更新された前記別のニューラルネットワークを、前記一のニューラルネットワークとして新たな別のニューラルネットワークを生成すること、
をさらに含む、
前記(16)〜(19)のいずれかに記載の情報処理方法。
110 表示部
120 入力部
130 フォーム制御部
140 サーバ通信部
20 ネットワーク
30 情報処理サーバ
310 生成部
320 評価部
330 装置通信部
Claims (6)
- プロセッサが、一のニューラルネットワークからネットワーク構造の異なる別のニューラルネットワークを生成することと、
生成された前記別のニューラルネットワークの評価結果が、前記一のニューラルネットワークの評価結果を上回る場合、前記別のニューラルネットワークをパレート最適解として更新することと、
を含む、
情報処理方法。 - 前記評価結果は、演算量または誤差のうち少なくともいずれか一方を含み、
前記パレート最適解として更新することは、前記演算量または誤差のいずれか一方を小さくすることをさらに含む、
請求項1に記載の情報処理方法。 - 前記別のニューラルネットワークを生成することは、遺伝的操作により前記別のニューラルネットワークを生成すること、をさらに含み、
前記遺伝的操作は、突然変異または交叉のうち少なくとも一方を含む、
請求項1に記載の情報処理方法。 - 前記パレート最適解として更新することは、事前の誤差予測に基づいて取得した別のニューラルネットワークの評価結果と前記一のニューラルネットワークの評価結果とを比較すること、をさらに含む、
請求項1に記載の情報処理方法。 - 前記パレート最適解として更新された前記別のニューラルネットワークを、前記一のニューラルネットワークとして新たな別のニューラルネットワークを生成すること、
をさらに含む、
請求項1に記載の情報処理方法。 - ユーザによるニューラルネットワークの指定を受け付ける入力部と、
評価済のニューラルネットワークに係るパレート最適解の提示を制御する制御部と、
を備え、
前記制御部は、前記ユーザにより指定されたニューラルネットワークから生成された別のニューラルネットワークの評価結果に基づいて更新されるパレート最適解を提示する、
情報処理装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016045614 | 2016-03-09 | ||
JP2016045614 | 2016-03-09 | ||
JP2018503999A JP6555411B2 (ja) | 2016-03-09 | 2016-11-28 | 情報処理方法および情報処理装置 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018503999A Division JP6555411B2 (ja) | 2016-03-09 | 2016-11-28 | 情報処理方法および情報処理装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2019175513A true JP2019175513A (ja) | 2019-10-10 |
JP2019175513A5 JP2019175513A5 (ja) | 2020-01-09 |
JP6922945B2 JP6922945B2 (ja) | 2021-08-18 |
Family
ID=59789126
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018503999A Active JP6555411B2 (ja) | 2016-03-09 | 2016-11-28 | 情報処理方法および情報処理装置 |
JP2019128361A Active JP6922945B2 (ja) | 2016-03-09 | 2019-07-10 | 情報処理方法 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018503999A Active JP6555411B2 (ja) | 2016-03-09 | 2016-11-28 | 情報処理方法および情報処理装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20180365557A1 (ja) |
EP (1) | EP3428856A4 (ja) |
JP (2) | JP6555411B2 (ja) |
WO (1) | WO2017154284A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7311700B1 (ja) | 2022-07-11 | 2023-07-19 | アクタピオ,インコーポレイテッド | 情報処理方法、情報処理装置および情報処理プログラム |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10949736B2 (en) * | 2016-11-03 | 2021-03-16 | Intel Corporation | Flexible neural network accelerator and methods therefor |
US20180330272A1 (en) * | 2017-05-09 | 2018-11-15 | Microsoft Technology Licensing, Llc | Method of Adding Classes to Classifier |
JP6694197B2 (ja) * | 2017-09-28 | 2020-05-13 | 良徳 若林 | 学習ネットワーク生成装置、及び学習ネットワーク生成プログラム |
KR102227906B1 (ko) * | 2017-12-29 | 2021-03-16 | 주식회사 아임클라우드 | 자동 학습 데이터 생성을 통한 모델 학습 시스템 및 방법 |
JP6901423B2 (ja) * | 2018-03-12 | 2021-07-14 | Kddi株式会社 | 情報処理装置、情報処理端末、及びプログラム |
US20210019122A1 (en) | 2018-03-28 | 2021-01-21 | Sony Corporation | Information processing method, information processing apparatus, and program |
US20210019628A1 (en) * | 2018-07-23 | 2021-01-21 | Intel Corporation | Methods, systems, articles of manufacture and apparatus to train a neural network |
CN112513886B (zh) * | 2018-08-03 | 2024-03-22 | 索尼公司 | 信息处理方法、信息处理装置和信息处理程序 |
JP6697042B2 (ja) * | 2018-08-31 | 2020-05-20 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像システム、固体撮像方法及びプログラム |
JP6925474B2 (ja) * | 2018-08-31 | 2021-08-25 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像装置、情報処理システム、固体撮像装置の動作方法及びプログラム |
US20200143243A1 (en) * | 2018-11-01 | 2020-05-07 | Cognizant Technology Solutions U.S. Corporation | Multiobjective Coevolution of Deep Neural Network Architectures |
US11556778B2 (en) * | 2018-12-07 | 2023-01-17 | Microsoft Technology Licensing, Llc | Automated generation of machine learning models |
CN113383347A (zh) * | 2019-02-15 | 2021-09-10 | 三菱电机株式会社 | 信息处理装置、信息处理方法和信息处理程序 |
WO2020176435A1 (en) * | 2019-02-25 | 2020-09-03 | Google Llc | Systems and methods for producing an architecture of a pyramid layer |
WO2020198520A1 (en) | 2019-03-27 | 2020-10-01 | Cognizant Technology Solutions U.S. Corporation | Process and system including an optimization engine with evolutionary surrogate-assisted prescriptions |
US11461657B2 (en) * | 2019-05-10 | 2022-10-04 | Fujitsu Limited | Data augmentation in training deep neural network (DNN) based on genetic model |
CN114080612A (zh) * | 2019-07-22 | 2022-02-22 | 索尼集团公司 | 信息处理方法、信息处理设备和程序 |
CN112884118A (zh) * | 2019-11-30 | 2021-06-01 | 华为技术有限公司 | 神经网络的搜索方法、装置及设备 |
CN111339713B (zh) * | 2020-03-13 | 2023-09-26 | 上海电气风电集团股份有限公司 | 风电场的优化设计方法、系统、电子设备和存储介质 |
WO2021252734A1 (en) * | 2020-06-11 | 2021-12-16 | DataRobot, Inc. | Systems and methods for managing machine learning models |
US11775841B2 (en) | 2020-06-15 | 2023-10-03 | Cognizant Technology Solutions U.S. Corporation | Process and system including explainable prescriptions through surrogate-assisted evolution |
CN115917558A (zh) * | 2020-09-10 | 2023-04-04 | 艾佐斯株式会社 | 超参数调整装置、记录有超参数调整程序的非暂时性记录介质以及超参数调整程序 |
US20220198260A1 (en) * | 2020-12-22 | 2022-06-23 | International Business Machines Corporation | Multi-level multi-objective automated machine learning |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05108593A (ja) * | 1991-10-14 | 1993-04-30 | Sanyo Electric Co Ltd | ニユーロ開発支援装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH096881A (ja) * | 1995-06-15 | 1997-01-10 | Toyo Electric Mfg Co Ltd | ニューラルネットワーク |
JP2001331780A (ja) * | 2000-05-24 | 2001-11-30 | Fujitsu Ltd | 進化型問題解決装置及び記録媒体 |
JP2002288625A (ja) * | 2001-03-28 | 2002-10-04 | Mitsubishi Heavy Ind Ltd | 多目的最適化方法、プログラムおよびプラン立案装置 |
JP2004163446A (ja) * | 2002-09-24 | 2004-06-10 | Japan Science & Technology Agency | タブ譜自動作成方法、タブ譜自動作成プログラム及びそのプログラムを記録した記録媒体 |
US7280987B2 (en) * | 2004-03-26 | 2007-10-09 | Halliburton Energy Services, Inc. | Genetic algorithm based selection of neural network ensemble for processing well logging data |
-
2016
- 2016-11-28 EP EP16893608.6A patent/EP3428856A4/en not_active Ceased
- 2016-11-28 US US16/060,628 patent/US20180365557A1/en not_active Abandoned
- 2016-11-28 WO PCT/JP2016/085249 patent/WO2017154284A1/ja active Application Filing
- 2016-11-28 JP JP2018503999A patent/JP6555411B2/ja active Active
-
2019
- 2019-07-10 JP JP2019128361A patent/JP6922945B2/ja active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH05108593A (ja) * | 1991-10-14 | 1993-04-30 | Sanyo Electric Co Ltd | ニユーロ開発支援装置 |
Non-Patent Citations (2)
Title |
---|
JIN, YAOCHU, ET AL.: "Neural Network Regularization and Ensembling Using Multi-objective Evolutionary Algorithms", PROCEEDINGS OF THE 2004 CONGRESS ON EVOLUTIONARY COMPUTATION (IEEE CAT. NO.04TH8753), JPN6019010882, 3 September 2004 (2004-09-03), US, pages 1 - 8, ISSN: 0004407128 * |
ROSALES-PEREZ, ALEJANDRO, ET AL.: "A hybrid surrogate-based approach for evolutionary multi-objective optimization", 2013 IEEE CONGRESS ON EVOLUTIONARY COMPUTATION, JPN6020048282, 15 July 2013 (2013-07-15), pages 2548 - 2555, ISSN: 0004407129 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7311700B1 (ja) | 2022-07-11 | 2023-07-19 | アクタピオ,インコーポレイテッド | 情報処理方法、情報処理装置および情報処理プログラム |
Also Published As
Publication number | Publication date |
---|---|
EP3428856A1 (en) | 2019-01-16 |
US20180365557A1 (en) | 2018-12-20 |
JP6555411B2 (ja) | 2019-08-07 |
JP6922945B2 (ja) | 2021-08-18 |
WO2017154284A1 (ja) | 2017-09-14 |
EP3428856A4 (en) | 2019-04-10 |
JPWO2017154284A1 (ja) | 2019-01-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6555411B2 (ja) | 情報処理方法および情報処理装置 | |
JP2024026276A (ja) | 機械学習モデルにおいて動的外れ値偏り低減を実装するように構成されるコンピュータベースシステム、コンピュータコンポーネント及びコンピュータオブジェクト | |
JP6954003B2 (ja) | データベースのための畳み込みニューラルネットワークモデルの決定装置及び決定方法 | |
JP2019139792A (ja) | 情報処理方法および情報処理装置 | |
JP2019164839A (ja) | 情報処理方法および情報処理装置 | |
CN111708876B (zh) | 生成信息的方法和装置 | |
CN109685204B (zh) | 图像处理方法及装置、存储介质及电子设备 | |
JP2012058972A (ja) | 評価予測装置、評価予測方法、及びプログラム | |
KR102170968B1 (ko) | 머신 러닝 기반의 근사모델 구축 방법 및 시스템 | |
TWI828109B (zh) | 用於組織分割之機器學習模型的交互式訓練 | |
WO2019100635A1 (zh) | 自动化测试脚本的编辑方法、装置、终端设备及存储介质 | |
US11900052B2 (en) | Automatic generation of transformations of formatted templates using deep learning modeling | |
CN114648681B (zh) | 一种图像生成方法、装置、设备及介质 | |
CN113939870A (zh) | 为基于生成和检索的应用学习有效音乐特征的技术 | |
US20220366257A1 (en) | Small and Fast Video Processing Networks via Neural Architecture Search | |
CN113330462A (zh) | 使用软最近邻损失的神经网络训练 | |
Taylor et al. | Interactive multiobjective optimisation: Preference changes and algorithm responsiveness | |
WO2020121450A1 (ja) | 情報処理装置、情報処理方法、記録媒体 | |
US11521353B2 (en) | Automated processing for determination of a volume of an object in a digital environment | |
JP7348444B2 (ja) | 機械学習モデルのハイパーパラメータ最適化過程の分析と調整のためのチューニングアルゴリズム認識視覚化方法 | |
Hemmat et al. | Feedback-guided Data Synthesis for Imbalanced Classification | |
JP2023520313A (ja) | 不確定区間を有する性能予測の生成 | |
JPWO2012032747A1 (ja) | 特徴点選択システム、特徴点選択方法および特徴点選択プログラム | |
CN113128677A (zh) | 模型生成方法和装置 | |
JP7379300B2 (ja) | 推定装置、推定方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191121 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20191121 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201125 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201215 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210215 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210323 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210521 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210629 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210712 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6922945 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |