JP7462206B2 - 学習装置、学習方法、及び学習プログラム - Google Patents
学習装置、学習方法、及び学習プログラム Download PDFInfo
- Publication number
- JP7462206B2 JP7462206B2 JP2020014223A JP2020014223A JP7462206B2 JP 7462206 B2 JP7462206 B2 JP 7462206B2 JP 2020014223 A JP2020014223 A JP 2020014223A JP 2020014223 A JP2020014223 A JP 2020014223A JP 7462206 B2 JP7462206 B2 JP 7462206B2
- Authority
- JP
- Japan
- Prior art keywords
- label
- learning
- occurrence frequency
- prototype
- predicted
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 38
- 230000008569 process Effects 0.000 claims description 27
- 238000004364 calculation method Methods 0.000 claims description 15
- 230000008859 change Effects 0.000 claims description 14
- 230000007423 decrease Effects 0.000 claims description 14
- 230000004044 response Effects 0.000 claims description 6
- 239000013598 vector Substances 0.000 description 53
- 241000220225 Malus Species 0.000 description 22
- 238000012545 processing Methods 0.000 description 21
- 238000004891 communication Methods 0.000 description 20
- 241001672694 Citrus reticulata Species 0.000 description 13
- 241000220324 Pyrus Species 0.000 description 10
- 230000002860 competitive effect Effects 0.000 description 10
- 241000219094 Vitaceae Species 0.000 description 9
- 235000021021 grapes Nutrition 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 235000014443 Pyrus communis Nutrition 0.000 description 6
- 210000002569 neuron Anatomy 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 5
- 235000021016 apples Nutrition 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 235000021017 pears Nutrition 0.000 description 4
- 235000009754 Vitis X bourquina Nutrition 0.000 description 3
- 235000012333 Vitis X labruscana Nutrition 0.000 description 3
- 240000006365 Vitis vinifera Species 0.000 description 3
- 235000014787 Vitis vinifera Nutrition 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000001364 causal effect Effects 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Landscapes
- Image Analysis (AREA)
Description
(1)学習データの入力特徴量に相当する入力ベクトルxが入力層に入力される。
(2)競合層において、入力層から得られた入力ベクトルxと最近傍にあるプロトタイプベクトルのラベルLが「勝者」に決定される。
(3)入力ベクトルxのラベルL(x)と「勝者」に決定されたプロトタイプベクトルのラベルLとが同一であった場合は、プロトタイプベクトルを学習率に応じて入力ベクトルに近づける。入力ベクトルxのラベルL(x)と「勝者」に決定されたプロトタイプベクトルのラベルLとが異なる場合はプロトタイプベクトルを学習率に応じて入力ベクトルから遠ざける。
(4)上記(1)~(3)の処理を繰り返してプロトタイプベクトルを学習する。
図1は、実施形態に係る学習装置の概要を説明するための説明図である。実施形態に係る学習装置は、例えば、パーソナル・コンピュータ(Personal Computer、PC)である。実施形態に係る学習装置は、サーバ装置、タブレット端末又はタブレットPC等の電子計算機であってもよい。
図2は、学習装置1のブロック図である。
図6は、学習装置1による学習処理を示すフローチャートである。図6に示す学習処理は、予め記憶部12に記憶されている制御プログラムに基づいて、主に処理部20により、学習装置1の各要素と協働して実行される。
学習装置1は、確信度Riを使用して自律的に学習率αiを更新するので、学習精度を向上させるために適切な学習率を設定するために学習処理を繰り返す必要がなく、学習効率が向上する。
学習装置1は、LVQニューラルネットワークを学習モデルとして使用するが、実施形態に係る学習装置は、学習率を使用してオンライン機械学習が可能な学習モデルを学習モデルとして使用してもよい。また、学習装置1は、学習モデル120を記憶部12に記憶するが、実施形態に係る学習装置は、使用する学習モデルを記憶部に記憶せずにインターネット及びLAN等の通信網を介して通信可能に接続されたサーバに記憶された学習モデルを使用してもよい。
21 学習データ取得部
22 予測ラベル取得部
23 共起頻度変更部
24 学習率更新部
25 プロトタイプ特徴量更新部
26 確信度演算部
27 学習率演算部
120 学習モデル
Claims (10)
- 入力特徴量が入力された学習モデルによって出力された予測ラベルと前記入力特徴量に関連付けられた教師ラベルとが一致した頻度を少なくとも示す共起頻度情報、プロトタイプラベル、及び前記プロトタイプラベルに対応するプロトタイプ特徴量をそれぞれが含む複数のプロトタイプを記憶する記憶部と、
前記入力特徴量を示す入力特徴量データと、前記教師ラベルを示す教師ラベルデータとを含む学習データを取得する学習データ取得部と、
前記学習モデルを使用して、前記予測ラベルを取得する予測ラベル取得部と、
少なくとも前記教師ラベルと前記予測ラベルとの間の一致度に基づいて、前記共起頻度情報を変更する共起頻度変更部と、
前記プロトタイプ特徴量を更新するときに使用される学習率を、変更された前記共起頻度情報に基づいて更新する学習率更新部と、
前記学習率に基づいて、前記プロトタイプ特徴量を更新するプロトタイプ特徴量更新部と、
を有することを特徴とする学習装置。 - 前記共起頻度情報は、
前記予測ラベルが前記教師ラベルに一致した頻度を示す第1共起頻度と、
前記予測ラベルが前記教師ラベルに一致しなかった頻度を示す第2共起頻度と、
を含む、請求項1に記載される学習装置。 - 前記学習率更新部は、前記第1共起頻度と前記第2共起頻度の合計の頻度における前記第1共起頻度の比率が増加するに従って前記学習率が低下するように、前記学習率を更新する、請求項2に記載される学習装置。
- 前記第1共起頻度は、前記学習モデルが予測する予測ラベルが前記プロトタイプラベルに一致し、且つ、前記予測ラベルが前記教師ラベルに一致した頻度を示し、
前記第2共起頻度は、前記学習モデルが予測する予測ラベルが前記プロトタイプラベルに一致し、且つ、前記予測ラベルが前記教師ラベルに一致しなかった頻度を示し、
前記共起頻度情報は、
前記学習モデルが予測する予測ラベルが前記プロトタイプラベルに一致せず、且つ、前記予測ラベルが前記教師ラベルに一致した頻度を示す第3共起頻度と、
前記学習モデルが予測する予測ラベルが前記プロトタイプラベルに一致せず、且つ、前記予測ラベルが前記教師ラベルに一致しなかった頻度を示す第4共起頻度と、
を更に含む、請求項2に記載される学習装置。 - 前記学習率更新部は、前記第1共起頻度、前記第2共起頻度、前記第3共起頻度及び前記第4共起頻度の合計の頻度における前記第1共起頻度及び前記第4共起頻度の合計の比率が増加するに従って前記学習率が低下するように、前記学習率を更新する、請求項4に記載される学習装置。
- 前記学習率更新部は、
変更された前記共起頻度情報に基づいて、前記入力特徴量と関連付けられた前記教師ラベルを、前記入力特徴量の入力に応じて前記学習モデルが前記予測ラベルとして出力する確度を示す確信度を演算する確信度演算部と、
前記確信度から、前記学習モデルが学習するときに使用される学習率を演算する学習率演算部と、
を有する請求項1~5の何れか一項に記載される学習装置。 - 前記学習率演算部は、前記確信度が上昇するに従って前記学習率が低下するように前記学習率を演算する、請求項6に記載される学習装置。
- 前記プロトタイプ特徴量更新部は、前記複数のプロトタイプの全てに対応する前記学習率を変更する、請求項1~5の何れか一項に記載される学習装置。
- 入力特徴量が入力された学習モデルによって出力された予測ラベルと前記入力特徴量に関連付けられた教師ラベルとが一致した頻度を少なくとも示す共起頻度情報、プロトタイプラベル、及び前記プロトタイプラベルに対応するプロトタイプ特徴量をそれぞれが含む複数のプロトタイプを記憶する記憶部を有する学習装置に学習モデルを学習させる学習方法であって、
入力特徴量を示す入力特徴量データと、前記入力特徴量と関連付けられた教師ラベルを示す教師ラベルデータとを含む学習データを取得し、
前記学習モデルを使用して、前記予測ラベルを取得し、
少なくとも前記教師ラベルと前記予測ラベルとの間の一致度に基づいて、前記共起頻度情報を変更し、
前記プロトタイプ特徴量を更新するときに使用される学習率を、変更された前記共起頻度情報に基づいて更新し、
前記学習率に基づいて、前記プロトタイプ特徴量を更新する、
ことを含むことを特徴とする学習方法。 - 入力特徴量が入力された学習モデルによって出力された予測ラベルと前記入力特徴量に関連付けられた教師ラベルとが一致した頻度を少なくとも示す共起頻度情報、プロトタイプラベル、及び前記プロトタイプラベルに対応するプロトタイプ特徴量をそれぞれが含む複数のプロトタイプを記憶する記憶部を有する学習装置に学習モデルを学習させる制御プログラムであって、
入力特徴量を示す入力特徴量データと、前記入力特徴量と関連付けられた教師ラベルを示す教師ラベルデータとを含む学習データを取得し、
前記学習モデルを使用して、前記予測ラベルを取得し、
少なくとも前記教師ラベルと前記予測ラベルとの間の一致度に基づいて、前記共起頻度情報を変更し、
前記プロトタイプ特徴量を更新するときに使用される学習率を、変更された前記共起頻度情報に基づいて更新し、
前記学習率に基づいて、前記プロトタイプ特徴量を更新する、
処理を前記学習装置に実行させることを特徴とする学習プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020014223A JP7462206B2 (ja) | 2020-01-30 | 2020-01-30 | 学習装置、学習方法、及び学習プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020014223A JP7462206B2 (ja) | 2020-01-30 | 2020-01-30 | 学習装置、学習方法、及び学習プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021120825A JP2021120825A (ja) | 2021-08-19 |
JP7462206B2 true JP7462206B2 (ja) | 2024-04-05 |
Family
ID=77270274
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020014223A Active JP7462206B2 (ja) | 2020-01-30 | 2020-01-30 | 学習装置、学習方法、及び学習プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7462206B2 (ja) |
-
2020
- 2020-01-30 JP JP2020014223A patent/JP7462206B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2021120825A (ja) | 2021-08-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7273108B2 (ja) | モデルトレーニング方法、装置、電子デバイス、記憶媒体、プログラム | |
US11544573B2 (en) | Projection neural networks | |
US11651211B2 (en) | Training of neural network based natural language processing models using dense knowledge distillation | |
WO2019091020A1 (zh) | 权重数据存储方法和基于该方法的神经网络处理器 | |
US20180018555A1 (en) | System and method for building artificial neural network architectures | |
WO2022068623A1 (zh) | 一种模型训练方法及相关设备 | |
CN116415654A (zh) | 一种数据处理方法及相关设备 | |
CN113609965B (zh) | 文字识别模型的训练方法及装置、存储介质、电子设备 | |
US20220392585A1 (en) | Method for training compound property prediction model, device and storage medium | |
JP6172317B2 (ja) | 混合モデル選択の方法及び装置 | |
EP3649582A1 (en) | System and method for automatic building of learning machines using learning machines | |
US9436912B1 (en) | Symmetric schema instantiation method for use in a case-based reasoning system | |
JP2022020006A (ja) | ニューラルネットワークモデルの事前トレーニング方法、装置、電子機器及び媒体 | |
JP2021086371A (ja) | 学習プログラム、学習方法および学習装置 | |
WO2024114659A1 (zh) | 一种摘要生成方法及其相关设备 | |
CN114528387A (zh) | 基于对话流自举的深度学习对话策略模型构建方法和系统 | |
CN116992008B (zh) | 知识图谱多跳问答推理方法、装置和计算机设备 | |
US20240046128A1 (en) | Dynamic causal discovery in imitation learning | |
CN116186295B (zh) | 基于注意力的知识图谱链接预测方法、装置、设备及介质 | |
JP7462206B2 (ja) | 学習装置、学習方法、及び学習プログラム | |
CN116739154A (zh) | 一种故障预测方法及其相关设备 | |
WO2023045949A1 (zh) | 一种模型训练方法及其相关设备 | |
CN113361621B (zh) | 用于训练模型的方法和装置 | |
CN112348161A (zh) | 神经网络的训练方法、神经网络的训练装置和电子设备 | |
JP2021135683A (ja) | 学習装置、推論装置、学習方法及び推論方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230106 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20231212 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231219 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240110 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240305 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240314 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7462206 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |