JP7314328B1 - 学習システム、学習方法及び学習プログラム - Google Patents
学習システム、学習方法及び学習プログラム Download PDFInfo
- Publication number
- JP7314328B1 JP7314328B1 JP2022002464A JP2022002464A JP7314328B1 JP 7314328 B1 JP7314328 B1 JP 7314328B1 JP 2022002464 A JP2022002464 A JP 2022002464A JP 2022002464 A JP2022002464 A JP 2022002464A JP 7314328 B1 JP7314328 B1 JP 7314328B1
- Authority
- JP
- Japan
- Prior art keywords
- node
- distance
- input data
- control unit
- learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/088—Non-supervised learning, e.g. competitive learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
図16に示すように、まず、初期ノードを設定する(ステップS01)。具体的には、入力データD(i)(ここで、i=1~M)の中からランダムに2個を選択し、初期ノードと設定する。この場合、データインデックスi=1とする。
ここでは、図17(a)に示すように、D(i)に最も近いノードn1(第1勝者、距離d1)と2番目に近いノードn2(第2勝者、距離d2)を求める。
距離d1が基準距離よりも長い場合(ステップS03において「YES」の場合)には、D(i)をノードに更新する(ステップS04)。そして、勝者ノードに基づいて、n1をn2に,D(i)をn1に更新する。更に、パスの活性値の初期化(As(n1,:)=0)を行なう。
一方、距離d1が基準距離以下の場合(ステップS03において「NO」の場合)には、ノード位置及びパス活性値を更新する(ステップS05)。
図1~図12に従って、学習システム、学習方法及び学習プログラムを具体化した一実施形態を説明する。本実施形態では、自己組織化マップを、オンライン(リアルタイム)で生成する場合を想定する。ここでは、パスとノードに年齢を導入し、活性度=活性値/年齢が閾値以下のノードとパスを削除する。
(ハードウェア構成例)
図2は、ユーザ端末10、支援サーバ20等として機能する情報処理装置H10のハードウェア構成例である。
(2)各種処理のうち少なくとも一部の処理を実行する1つ以上の専用のハードウェア回路、或いは
(3)それらの組み合わせ、を含む回路(circuitry)
プロセッサは、CPU並びに、RAM及びROM等のメモリを含み、メモリは、処理をCPUに実行させるように構成されたプログラムコード又は指令を格納している。メモリすなわちコンピュータ可読媒体は、汎用又は専用のコンピュータでアクセスできるあらゆる利用可能な媒体を含む。
図1を用いて、ユーザ端末10、支援サーバ20の機能を説明する。
ユーザ端末10は、本システムを利用するユーザが用いるコンピュータ端末である。
学習部211は、自己組織化マップを生成する処理を実行する。
出力部212は、自己組織化マップを出力する処理を実行する。
更に、学習結果記憶部23には、ノード削除閾値、パス削除閾値が記録される。ノード削除閾値、パス削除閾値は、自己組織化マップの更新時のノードやパスの存否を判定するために用いられる。
次に、図3を用いて、マップ生成処理を説明する。ここでは、支援サーバ20の制御部21の取得部210は、ユーザ端末10から入力データを取得する。そして、取得部210は、入力データを入力データ記憶部22に記録する。
ここでは、まず、支援サーバ20の制御部21は、各データ間の距離の算出処理を実行する(ステップS201)。具体的には、制御部21の学習部211は、すべての2つの入力データD(i)の組み合わせの距離を算出する。
この場合、図5に示すように、各データ間の距離(d12,d13,…,d23,…)を算出した距離テーブル500を作成する。
まず、支援サーバ20の制御部21は、i=1から、順次、入力データD(i)を処理対象として特定して、以下の処理を繰り返す。
以上の処理を、全ての入力データについて繰り返して実行する。
図7を用いて、初期ノードの設定処理(ステップS307)を説明する。
一方、終了と判定した場合(ステップS405において「YES」の場合)、支援サーバ20の制御部21は、初期ノードの設定処理(ステップS307)を終了する。
ここでは、支援サーバ20の制御部21は、ノード活性度のソート処理を実行する(ステップS501)。具体的には、制御部21の学習部211は、ノード活性度Arate_W(i)を降順に並べ替える。
次に、支援サーバ20の制御部21は、最大距離より遠いかどうかについての判定処理を実行する(ステップS104)。具体的には、制御部21の学習部211は、最寄りのノードとの距離d1と最大距離dmaxとを比較する。
図9(b)に示すように、ノードn1,n2をそれぞれノードn2,n3として、入力データD(i)をノードn1として追加している。
この場合には、オンライン学習処理を終了する。
一方、終了でないと判定した場合(ステップS112において「NO」の場合)、支援サーバ20の制御部21は、「i=i+1」としてステップS103以降の処理を繰り返す。
(1-1)本実施形態においては、支援サーバ20の制御部21は、入力データの解析処理を実行する(ステップS101)。これにより、ノード間の最大距離dmaxを算出することができる。
(1-3)本実施形態においては、距離d1が最大距離より遠い場合(ステップS104において「YES」の場合)、支援サーバ20の制御部21は、新規ノードの追加処理を実行する(ステップS105)。次に、支援サーバ20の制御部21は、ノード及びパスの情報初期化処理を実行する(ステップS106)。これにより、入力に応じて、新たなノードを設定することができる。
図10に示すマップ600に対して、2次元データにESOMを適用する。
図11は、ESOMにおいて、パスの削除間隔を変更してクラスタリングを行なった結果である。図11(a)はパスの削除間隔が「20ステップ」、図11(b)は「30ステップ」、図11(c)は「40ステップ」である。この場合、削除間隔によりクラスタリング(グレーの濃度)の結果がかなり異なる。このため、妥当な削除間隔が特定し難いため、試行錯誤が必要になる。
次に、図13に従って、学習システム、学習方法及び学習プログラムを具体化した第2実施形態を説明する。第1実施形態では、教師なし学習について説明した。第2実施形態では、教師あり学習に適応するように変更した構成であり、上記第1実施形態と同様の部分については、同一の符号を付し、その詳細な説明を省略する。この場合には、学習時に、説明変数と目的変数をカップリングしたデータセットを用いて、自己組織化マップを作成する。
まず、支援サーバ20の制御部21は、入力データの取得処理を実行する(ステップS601)。具体的には、制御部21の学習部211は、説明変数及び目的変数からなる入力データを取得する。そして、学習部211は、説明変数の変数値と目的変数の変数値とを結合して、入力データを構成する。
次に、支援サーバ20の制御部21は、説明変数と目的変数の調整処理を実行する(ステップS603)。具体的には、制御部21の学習部211は、学習の精度を検証する。そして、学習の精度が基準値に達していない場合には、学習部211は、学習のハイパーパラメータである調整係数を変更して、マップ生成処理(ステップS602)を繰り返す。この繰り返しにより、学習の精度が基準値以上の最適値を探す交差検証を実行する。これにより、目的変数の変数値に調整係数を乗算して目的変数の影響を調整する。
次に、図14に従って、学習システム、学習方法及び学習プログラムを具体化した第3実施形態を説明する。第2実施形態では、教師あり学習について説明した。第3実施形態では、検証用データを用いて、ノード位置を調整するように変更した構成であり、上記第2実施形態と同様の部分については、同一の符号を付し、その詳細な説明を省略する。学習時に、説明変数と目的変数をカップリングして、自己組織化マップを作成する。
ここでは、ノード毎、検証用データ毎に以下の処理を繰り返す。
まず、支援サーバ20の制御部21は、検証用データについて、予測値の算出処理を実行する(ステップS701)。具体的には、制御部21の取得部210は、検証用データの説明変数値を、自己組織化マップに入力する。次に、出力部212は、最も近接するノード(最近接ノード)を特定する。そして、出力部212は、最近接ノードの目的変数値を予測値として取得する。
次に、支援サーバ20の制御部21は、移動ベクトルの平均ベクトルの算出処理を実行する(ステップS704)。具体的には、制御部21の学習部211は、以下の式を用いて移動ベクトルdVi,meanを算出する。
次に、支援サーバ20の制御部21は、移動ベクトルを用いてノード調整処理を実行する(ステップS705)。具体的には、制御部21の学習部211は、調整係数を乗算した移動ベクトルdVi,meanを用いて、ノードを移動させる。
一方、精度が向上しておらず、収束と判定した場合(ステップS707において「YES」の場合)、支援サーバ20の制御部21は、マップ調整処理を終了する。
・上記第1実施形態では、オンライン学習処理を実行する。自己組織化マップを生成できれば、オンライン処理に限定されるものではなく、バッチ処理によって生成した自己組織化マップを用いて、クラスタリングを行なうようにしてもよい。
・上記第1実施形態では、支援サーバ20の制御部21は、入力データの解析処理を実行する(ステップS101)。ここで、最大距離dmaxを算出する。最大距離dmaxは、入力データを代表する統計値であれば、算出方法は限定されない。また、最大距離dmaxの初期値を予め設定しておき、入力データ数の増加に応じて再計算してもよい。
この場合、最も近いノードn1にパスにより接続している他のノードを利用して、複数のノードを特定してもよい。
ここでは、検証用データ毎に以下の処理を繰り返す。
まず、支援サーバ20の制御部21は、ステップS701と同様に、検証用データについて、予測値の算出処理を実行する(ステップS801)。
次に、支援サーバ20の制御部21は、パス寄与の算出処理を実行する(ステップS803)。具体的には、制御部21の学習部211は、以下の差分を用いてパス寄与dAk,lを算出する。
次に、支援サーバ20の制御部21は、ノードの寄与の合計処理を実行する(ステップS804)。具体的には、制御部21の学習部211は、以下の式を用いてノードの寄与の合計dASiを算出する。
Claims (9)
- 自己組織化マップを生成する制御部を備えた学習システムであって、
前記制御部が、
入力データに対して、既存ノードの中で近接ノードを特定し、
前記入力データと前記近接ノードの中で最寄りノードとの距離を算出し、
前記距離が最大距離よりも大きい場合には、前記入力データを用いて新規ノードを前記既存ノードに追加し、前記近接ノードと前記新規ノードとの距離に応じて、前記新規ノード及び前記近接ノードの活性値及び年齢を更新し、
前記距離が最大距離以下の場合には、前記入力データと前記近接ノードとの距離に応じて、前記近接ノードの位置、活性値及び年齢を更新し、
各ノードの活性値及び各パスの活性値を用いて、前記年齢から活性度を算出し、前記算出した活性度に応じて、前記ノード及び各パスの存否を決定して、自己組織化マップを生成することを特徴とする学習システム。 - 前記制御部が、
前記入力データの各要素データにおいて、他の要素データまでの距離が近い順に、所定個の距離を特定し、
前記特定した距離の統計値により、前記最大距離を算出することを特徴とする請求項1に記載の学習システム。 - 前記制御部が、
前記入力データの各要素データを用いて、順次、距離が前記最大距離未満の他の要素データを特定し、
前記各要素データと前記他の要素データとの距離に応じて、各要素データの活性値及び年齢を算出し、
各ノードの活性値と前記年齢とから活性度を算出し、前記算出した活性度に応じて、初期の前記既存ノードを決定することを特徴とする請求項2に記載の学習システム。 - 前記入力データとして、説明変数値と目的変数値とを組み合わせたデータセットを用いることを特徴とする請求項1~3の何れか一項に記載の学習システム。
- 前記制御部が、
前記入力データを用いて生成した自己組織化マップにおいて、検証用データの説明変数値に応じたノードの説明変数値を予測し、
前記検証用データの説明変数値と、前記予測した説明変数値との差分に応じて、前記自己組織化マップを構成するノードを移動させることを特徴とする請求項4に記載の学習システム。 - 前記制御部が、
前記入力データを用いて生成した自己組織化マップにおいて、検証用データの説明変数値に応じた各ノードの寄与に応じて説明変数値を予測し、
前記検証用データの説明変数値と、前記予測した説明変数値との差分に応じて、前記自己組織化マップのノードを移動させることを特徴とする請求項4に記載の学習システム。 - 前記制御部が、
前記入力データを用いて生成した自己組織化マップにおいて、検証用データの説明変数値に応じた各ノード及びパスの寄与に応じて説明変数値を予測し、
前記各ノード及びパスの寄与に応じて、前記ノード及びパスを削除することを特徴とする請求項4に記載の学習システム。 - 制御部を備えた学習システムを用いて、自己組織化マップを生成する方法であって、
前記制御部が、
入力データに対して、既存ノードの中で近接ノードを特定し、
前記入力データと前記近接ノードの中で最寄りノードとの距離を算出し、
前記距離が最大距離よりも大きい場合には、前記入力データを用いて新規ノードを前記既存ノードに追加し、前記近接ノードと前記新規ノードとの距離に応じて、前記新規ノード及び前記近接ノードの活性値及び年齢を更新し、
前記距離が最大距離以下の場合には、前記入力データと前記近接ノードとの距離に応じて、前記近接ノードの位置、活性値及び年齢を更新し、
各ノードの活性値及び各パスの活性値を用いて、前記年齢から活性度を算出し、前記算出した活性度に応じて、前記ノード及び各パスの存否を決定して、自己組織化マップを生成することを特徴とする学習方法。 - 制御部を備えた学習システムを用いて、自己組織化マップを生成するためのプログラムであって、
前記制御部を、
入力データに対して、既存ノードの中で近接ノードを特定し、
前記入力データと前記近接ノードの中で最寄りノードとの距離を算出し、
前記距離が最大距離よりも大きい場合には、前記入力データを用いて新規ノードを前記既存ノードに追加し、前記近接ノードと前記新規ノードとの距離に応じて、前記新規ノード及び前記近接ノードの活性値及び年齢を更新し、
前記距離が最大距離以下の場合には、前記入力データと前記近接ノードとの距離に応じて、前記近接ノードの位置、活性値及び年齢を更新し、
各ノードの活性値及び各パスの活性値を用いて、前記年齢から活性度を算出し、前記算出した活性度に応じて、前記ノード及び各パスの存否を決定して、自己組織化マップを生成する手段として機能させるための学習プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022002464A JP7314328B1 (ja) | 2022-01-11 | 2022-01-11 | 学習システム、学習方法及び学習プログラム |
PCT/JP2022/047954 WO2023136119A1 (ja) | 2022-01-11 | 2022-12-26 | 学習システム、学習方法及び学習プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022002464A JP7314328B1 (ja) | 2022-01-11 | 2022-01-11 | 学習システム、学習方法及び学習プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP7314328B1 true JP7314328B1 (ja) | 2023-07-25 |
JP2023106654A JP2023106654A (ja) | 2023-08-02 |
Family
ID=87279061
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022002464A Active JP7314328B1 (ja) | 2022-01-11 | 2022-01-11 | 学習システム、学習方法及び学習プログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP7314328B1 (ja) |
WO (1) | WO2023136119A1 (ja) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012084117A (ja) | 2010-09-13 | 2012-04-26 | Tokyo Institute Of Technology | 属性の学習及び転移システム、認識器生成装置、認識器生成方法及び認識装置 |
JP2019191895A (ja) | 2018-04-24 | 2019-10-31 | 株式会社日立ソリューションズ | データ分析システム及びデータ分析方法 |
-
2022
- 2022-01-11 JP JP2022002464A patent/JP7314328B1/ja active Active
- 2022-12-26 WO PCT/JP2022/047954 patent/WO2023136119A1/ja unknown
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012084117A (ja) | 2010-09-13 | 2012-04-26 | Tokyo Institute Of Technology | 属性の学習及び転移システム、認識器生成装置、認識器生成方法及び認識装置 |
JP2019191895A (ja) | 2018-04-24 | 2019-10-31 | 株式会社日立ソリューションズ | データ分析システム及びデータ分析方法 |
Non-Patent Citations (1)
Title |
---|
叶内 円ほか,自己組織化写像の拡張によるモーションキャプチャシステムの頑健化,情報処理学会研究報告,日本,社団法人情報処理学会,2008年05月01日,Vol.2008, No.36,pp.137-144 |
Also Published As
Publication number | Publication date |
---|---|
WO2023136119A1 (ja) | 2023-07-20 |
JP2023106654A (ja) | 2023-08-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220391707A1 (en) | Knowledge sharing for machine learning systems | |
JP2020021496A (ja) | データ識別器訓練方法、データ識別器訓練装置、プログラム及び訓練方法 | |
JP6950756B2 (ja) | ニューラルネットワークのランク最適化装置および最適化方法 | |
JP7473511B2 (ja) | 学習装置、学習方法および学習プログラム | |
Querbes et al. | Complexity and demographic explanations of cumulative culture | |
Yamany et al. | Multi-objective cuckoo search optimization for dimensionality reduction | |
JP7314328B1 (ja) | 学習システム、学習方法及び学習プログラム | |
JP6494005B1 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP7263567B1 (ja) | 情報選択システム、情報選択方法及び情報選択プログラム | |
JP7341195B2 (ja) | 分類装置、分類方法および分類プログラム | |
JP7458352B2 (ja) | 学習装置、学習方法および学習プログラム | |
US20220198329A1 (en) | Information processing apparatus, information processing method, and information processing program | |
JP7359493B2 (ja) | ハイパーパラメータ調整装置、ハイパーパラメータ調整プログラムを記録した非一時的な記録媒体、及びハイパーパラメータ調整プログラム | |
JP7468088B2 (ja) | 画像処理システム、及び画像処理プログラム | |
JP7420775B2 (ja) | 学習装置、学習方法および学習プログラム | |
Hoang et al. | Towards parallel NSGA-II: An island-based approach using fitness redistribution strategy | |
US20220083824A1 (en) | Execution control apparatus, execution control method, and a non-transitory computer-readable storage medium | |
Bevilacqua et al. | Bayesian Gene Regulatory Network Inference Optimization by means of Genetic Algorithms. | |
CN116341675A (zh) | 计算机可读记录介质、信息处理设备和信息处理方法 | |
Singh et al. | Enhanced Metaheuristic Based Hyper-Parameters Tuning for Learning Models | |
Maxwell | Better, Faster Optimisation | |
Narzisi | An experimental multi-objective study of the SVM model selection problem | |
JP2022150947A (ja) | 学習モデルのハイパーパラメータ決定方法、ハイパーパラメータ決定装置、及び、生産スケジュール作成システム | |
JP2022081335A (ja) | 予測規則校正システム、および予測規則校正方法 | |
Gateratanakul et al. | Knowledge Sharing in Cooperative Compact Genetic Algorithm |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220111 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230404 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230605 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230627 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230712 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7314328 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |