JP7047283B2 - 情報処理装置、方法、及びプログラム - Google Patents
情報処理装置、方法、及びプログラム Download PDFInfo
- Publication number
- JP7047283B2 JP7047283B2 JP2017161476A JP2017161476A JP7047283B2 JP 7047283 B2 JP7047283 B2 JP 7047283B2 JP 2017161476 A JP2017161476 A JP 2017161476A JP 2017161476 A JP2017161476 A JP 2017161476A JP 7047283 B2 JP7047283 B2 JP 7047283B2
- Authority
- JP
- Japan
- Prior art keywords
- learning
- neural network
- pipeline
- error
- information processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Analysis (AREA)
- Image Processing (AREA)
Description
図15に、パイプライン学習、通常学習、及びパイプライン学習と通常学習とを組み合わせた学習(本実施形態に係る方法)についてのシミュレーション結果を示す。
学習パターンを用いてニューラルネットワークを学習させる際に、パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、学習の進捗に関する指標に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える学習部
を備える情報処理装置。
前記学習部は、前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、学習パターンを前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差が予め定められた出力誤差に関する閾値より小さい場合に、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記1に記載の情報処理装置。
前記学習部は、前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、学習パターンを前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す前時刻の出力誤差と現時刻の前記出力誤差との間の比較結果に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記2に記載の情報処理装置。
前記学習部は、複数の前記学習パターンによる学習を表すエポックを用いた前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、前記エポックの複数の前記学習パターンの各々を前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差の総和を表す誤差積分が、予め定められた誤差積分に関する閾値より小さい場合に、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記2に記載の情報処理装置。
前記学習部は、複数の前記学習パターンによる学習を表すエポックを用いた前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、前記エポックの複数の前記学習パターンの各々を前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差の総和を表す現時刻の誤差積分と現時刻の前記誤差積分との間の比較結果に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記2に記載の情報処理装置。
前記学習部は、前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、前記学習パターンとは異なる、期待値が付与されたテスト用パターンを前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差を表すテスト誤差が予め定められたテスト誤差に関する閾値より小さい場合に、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記2に記載の情報処理装置。
前記学習部は、前記学習の進捗に関する指標としての、前記学習パターンとは異なる、期待値が付与されたテスト用パターンを前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差を表す前時刻のテスト誤差と現時刻の前記テスト誤差との間の比較結果に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記2に記載の情報処理装置。
学習パターンを用いてニューラルネットワークを学習させる際に、第1のパイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、学習の進捗に関する指標に応じて、前記第1のパイプライン学習とは前記ニューラルネットワークの各レイヤーの学習の並列の度合いが異なる第2のパイプライン学習による前記ニューラルネットワークの学習に切り替える学習部
を備える情報処理装置。
学習パターンを用いてニューラルネットワークを学習させる際に、パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、学習の進捗に関する指標に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
処理をコンピュータに実行させるためのプログラム。
前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、学習パターンを前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差が予め定められた出力誤差に関する閾値より小さい場合に、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記9に記載のプログラム。
前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、学習パターンを前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す前時刻の出力誤差と現時刻の前記出力誤差との間の比較結果に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記9に記載のプログラム。
複数の前記学習パターンによる学習を表すエポックを用いた前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、前記エポックの複数の前記学習パターンの各々を前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差の総和を表す誤差積分が、予め定められた誤差積分に関する閾値より小さい場合に、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記9に記載のプログラム。
複数の前記学習パターンによる学習を表すエポックを用いた前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、前記エポックの複数の前記学習パターンの各々を前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差の総和を表す現時刻の誤差積分と現時刻の前記誤差積分との間の比較結果に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記9に記載のプログラム。
前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、前記学習パターンとは異なる、期待値が付与されたテスト用パターンを前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差を表すテスト誤差が予め定められたテスト誤差に関する閾値より小さい場合に、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記9に記載のプログラム。
学習パターンを用いてニューラルネットワークを学習させる際に、パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、学習の進捗に関する指標に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
処理をコンピュータに実行させるための情報処理方法。
前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、学習パターンを前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差が予め定められた出力誤差に関する閾値より小さい場合に、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記16に記載の情報処理方法。
前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、学習パターンを前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す前時刻の出力誤差と現時刻の前記出力誤差との間の比較結果に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記17に記載の情報処理方法。
複数の前記学習パターンによる学習を表すエポックを用いた前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、前記エポックの複数の前記学習パターンの各々を前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差の総和を表す誤差積分が、予め定められた誤差積分に関する閾値より小さい場合に、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記17に記載の情報処理方法。
複数の前記学習パターンによる学習を表すエポックを用いた前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、前記エポックの複数の前記学習パターンの各々を前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差の総和を表す現時刻の誤差積分と現時刻の前記誤差積分との間の比較結果に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
付記17に記載の情報処理方法。
学習パターンを用いてニューラルネットワークを学習させる際に、パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、学習の進捗に関する指標に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
処理をコンピュータに実行させるためのプログラムを記憶した記憶媒体。
12 学習パターン記憶部
14 学習部
16 誤差記憶部
18 モデル記憶部
50 コンピュータ
51 CPU
52 メモリ
53 記憶部
59 記録媒体
60 情報処理プログラム
Claims (10)
- 学習パターンを用いてニューラルネットワークを学習させる際に、パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、学習の進捗に関する指標に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える学習部
を備える情報処理装置。 - 前記学習部は、前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、学習パターンを前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差が予め定められた出力誤差に関する閾値より小さい場合に、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
請求項1に記載の情報処理装置。 - 前記学習部は、前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、学習パターンを前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す前時刻の出力誤差と現時刻の前記出力誤差との間の比較結果に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
請求項1に記載の情報処理装置。 - 前記学習部は、複数の前記学習パターンによる学習を表すエポックを用いた前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、前記エポックの複数の前記学習パターンの各々を前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差の総和を表す誤差積分が、予め定められた誤差積分に関する閾値より小さい場合に、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
請求項1に記載の情報処理装置。 - 前記学習部は、複数の前記学習パターンによる学習を表すエポックを用いた前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、前記エポックの複数の前記学習パターンの各々を前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差の総和を表す前時刻の誤差積分と現時刻の前記誤差積分との間の比較結果に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
請求項1に記載の情報処理装置。 - 前記学習部は、前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、前記学習の進捗に関する指標としての、前記学習パターンとは異なる、期待値が付与されたテスト用パターンを前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差を表すテスト誤差が予め定められたテスト誤差に関する閾値より小さい場合に、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
請求項1に記載の情報処理装置。 - 前記学習部は、前記学習の進捗に関する指標としての、前記学習パターンとは異なる、期待値が付与されたテスト用パターンを前記ニューラルネットワークへ入力したときの出力値と期待値との間の誤差を表す出力誤差を表す前時刻のテスト誤差と現時刻の前記テスト誤差との間の比較結果に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
請求項1に記載の情報処理装置。 - 前記学習部は、前記パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返す際に、第1のパイプライン学習によって前記ニューラルネットワークを学習させ、学習の進捗に関する指標に応じて、前記第1のパイプライン学習とは前記ニューラルネットワークの各レイヤーの学習の並列の度合いが異なる第2のパイプライン学習による前記ニューラルネットワークの学習に切り替えた後に、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
請求項1~請求項7の何れか1項に記載の情報処理装置。 - 学習パターンを用いてニューラルネットワークを学習させる際に、パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、学習の進捗に関する指標に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
処理をコンピュータに実行させるためのプログラム。 - 学習パターンを用いてニューラルネットワークを学習させる際に、パイプライン学習によって前記ニューラルネットワークを学習させることを繰り返し、学習の進捗に関する指標に応じて、前記パイプライン学習とは異なる通常学習による前記ニューラルネットワークの学習に切り替える、
処理をコンピュータに実行させるための情報処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017161476A JP7047283B2 (ja) | 2017-08-24 | 2017-08-24 | 情報処理装置、方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017161476A JP7047283B2 (ja) | 2017-08-24 | 2017-08-24 | 情報処理装置、方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019040365A JP2019040365A (ja) | 2019-03-14 |
JP7047283B2 true JP7047283B2 (ja) | 2022-04-05 |
Family
ID=65726535
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017161476A Active JP7047283B2 (ja) | 2017-08-24 | 2017-08-24 | 情報処理装置、方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7047283B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20230040914A1 (en) * | 2019-12-25 | 2023-02-09 | Nec Corporation | Learning device, learning method, and learning program |
JP7485512B2 (ja) | 2019-12-26 | 2024-05-16 | キヤノンメディカルシステムズ株式会社 | 医用情報処理装置、医用情報処理方法、及び医用情報処理プログラム |
CN113222118B (zh) * | 2021-05-19 | 2022-09-09 | 北京百度网讯科技有限公司 | 神经网络训练方法、装置、电子设备、介质和程序产品 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017138867A (ja) | 2016-02-05 | 2017-08-10 | 富士通株式会社 | 演算処理回路、および情報処理装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0583217B1 (en) * | 1992-08-11 | 2000-05-10 | Hitachi Europe Limited | Optimisation of feedforward neural networks |
-
2017
- 2017-08-24 JP JP2017161476A patent/JP7047283B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017138867A (ja) | 2016-02-05 | 2017-08-10 | 富士通株式会社 | 演算処理回路、および情報処理装置 |
US20170228634A1 (en) | 2016-02-05 | 2017-08-10 | Fujitsu Limited | Arithmetic processing circuit and information processing apparatus |
Non-Patent Citations (1)
Title |
---|
竹谷 史生, 外5名,"自己組織化学習アルゴリズムのFPGAシステムによる高速化",情報処理学会研究報告,日本,社団法人情報処理学会,1998年12月11日,Vol. 98, No. 113,pp.23-30 |
Also Published As
Publication number | Publication date |
---|---|
JP2019040365A (ja) | 2019-03-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6620439B2 (ja) | 学習方法、プログラム及び学習装置 | |
JP7047283B2 (ja) | 情報処理装置、方法、及びプログラム | |
US20190130277A1 (en) | Ensembling of neural network models | |
JP2023139057A (ja) | リソース制約付きニューラルネットワークアーキテクチャ検索 | |
TW202111613A (zh) | 評估材料機械性質的機器學習技術 | |
WO2015118686A1 (ja) | 階層型ニューラルネットワーク装置、判別器学習方法および判別方法 | |
JP6579198B2 (ja) | リスク評価方法、リスク評価プログラム及び情報処理装置 | |
US11755904B2 (en) | Method and device for controlling data input and output of fully connected network | |
JP7131393B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
US20180082167A1 (en) | Recurrent neural network processing pooling operation | |
JP2021086371A (ja) | 学習プログラム、学習方法および学習装置 | |
JP6325762B1 (ja) | 情報処理装置、情報処理方法、および情報処理プログラム | |
JP6528884B1 (ja) | 学習プログラム、学習方法、及び情報処理装置 | |
CN106662867A (zh) | 使用条件模型来迁移故障样本以用于机器状况监视 | |
KR102255470B1 (ko) | 인공신경망 모델의 검증 방법 및 장치 | |
CN114154615A (zh) | 基于硬件性能的神经架构搜索方法和设备 | |
JP7272121B2 (ja) | 演算処理装置、制御方法、及び制御プログラム | |
TW202143042A (zh) | 感測數據智能檢測方法與系統 | |
JP2024003643A (ja) | ニューラルネットワークの学習方法、コンピュータプログラム、及び余寿命予測システム | |
US8726100B2 (en) | Non-transitory computer-readable recording medium in which a failure analyzing program is recorded, failure analyzing apparatus, and method for analyzing failure | |
CN111738407A (zh) | 一种基于深度学习的钟差预测方法、装置、介质及终端 | |
WO2009107313A1 (ja) | 確率モデル選択装置、確率モデル選択方法、およびプログラム | |
JP2009187288A (ja) | プロジェクト変調検出方法およびプロジェクト変調検出装置 | |
JP7274441B2 (ja) | 学習装置、学習方法および学習プログラム | |
KR102272189B1 (ko) | 인공지능을 이용하여 소리를 생성하는 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200514 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210426 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210525 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210721 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211207 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220124 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220222 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220307 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7047283 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |