JP2008250856A - 学習装置、学習方法、及びプログラム - Google Patents

Abstract

【課題】規模拡張性があり、同時に、汎化特性を有するパターン学習モデルを得る。
【解決手段】学習モジュール１０₁ないし１０_Nは、入力データを用いて、パターン学習モデルの複数のモデルパラメータを更新する更新学習を行う。モデルパラメータ共有部２０は、学習モジュール１０₁ないし１０_Nに、モデルパラメータを共有させる。すなわち、モデルパラメータ共有部２０は、例えば、学習モジュール１０₁ないし１０_Nの各学習モジュールが更新したモデルパラメータを、学習モジュール１０₁ないし１０_Nそれぞれが更新したモデルパラメータの重み付け平均値によって補正することにより、学習モジュール１０₁ないし１０_Nに、その学習モジュール１０₁ないし１０_Nそれぞれが更新したモデルパラメータを共有させる。本発明は、例えば、時系列パターンの学習等に適用できる。
【選択図】図１

Description

本発明は、学習装置、学習方法、及びプログラムに関し、特に、規模拡張性があり、かつ、汎化特性を有するパターン学習モデルを得ることができるようにする学習装置、学習方法、及びプログラムに関する。

パターンを学習するパターン学習モデルとしては、例えば、RNN(Recurrent Neural Network)やRNNPB(Recurrent Neural Net with Parametric Bias)等がある。このようなパターン学習モデルの学習のスキームは、「局所表現」スキームと「分散表現」スキームとに分類される。

「局所表現」スキームでは、複数のパターンが、パターン学習モデルの学習（パターン学習モデルが有するモデルパラメータの更新）を行う複数の学習モジュールにおいてそれぞれ学習され、これにより、１つの学習モジュールで、１つのパターンが記憶される。

また、「分散表現」スキームでは、複数のパターンが、１つの学習モジュールにおいて学習され、これにより、１つの学習モジュールで、複数のパターンが同時に記憶される。

「局所表現」スキームでは、１つの学習モジュールで、１つのパターンが記憶される、つまり、１つのパターン学習モデルが、１つのパターンを学習するので、ある学習モジュールと、他の学習モジュールとの間で、パターンの記憶の干渉が少なく、パターンの記憶の安定性が高い。そして、「局所表現」スキームは、学習モジュールを追加することにより、新たなパターンを学習することが容易に行うことができるという規模拡張性に優れる。

但し、「局所表現」スキームでは、１つのパターン学習モデルが、１つのパターンを学習する、つまり、パターンの記憶が、複数の学習モジュールでそれぞれ独立に行われるため、複数の学習モジュールそれぞれでのパターンの記憶間の関係性の構造化（共通化）による汎化特性を得ること、すなわち、例えば、ある学習モジュールに記憶されたパターンとも異なり、他の学習モジュールに記憶されたパターンとも異なるが、それらの両方のパターンの、いわば中間のパターンを生成するようなこと等はできない。

一方、「分散表現」スキームでは、１つの学習モジュールで、複数のパターンが記憶される、つまり、１つのパターン学習モデルが、複数のパターンを学習するので、１つの学習モジュール内での複数のパターンの記憶間の干渉によって、その記憶間の共通化による汎化特性を得ることができる。

但し、「分散表現」スキームでは、パターンの記憶の安定性が低いため、規模拡張性がない。

ここで、特許文献１には、あるパターンを学習するRNNと、そのパターンと相関がある他のパターンを学習するRNNとの２つのRNNのコンテキストどうしの誤差に基づいて、その２つのRNNのコンテキストを変化させて、RNNの学習を行うこと、及び、その学習後の２つのRNNのうちの一方のコンテキストを、他方のRNNのコンテキストとして用いて、つまり、一方のRNNのコンテキストを、他方のRNNのコンテキストに影響させて、出力データを生成すること（RNNの入力層に入力データを入力し、その入力データに対応する出力データを、RNNの出力層から出力すること）が記載されている。

また、非特許文献１には、言語のパターンを学習するRNNPBと、動作のパターンを学習するRNNPBとの２つのRNNPBのPBどうしの差に基づいて、その２つのRNNPBをPBを変化させて、RNNPBの学習を行うこと、及び、その学習後の２つのRNNPBのうちの一方のPBを、他方のPBに影響させて、出力データを生成することが記載されている。

特開2002-024795号公報 Yuuya Sugita, Jun Tani, "Learning Semantic Combinatoriality from the Interaction between Linguistic and Behavioral Processes", Adaptive Behavior, Vol. 13, No. 1, 33-52 (2005)

以上のように、従来のパターン学習モデルの学習では、規模拡張性があるパターン学習モデルを得るか、又は汎化特性を有するパターン学習モデルを得ることはできるが、規模拡張性があり、同時に、汎化特性を有するパターン学習モデルを得ることは困難である。

本発明は、このような状況に鑑みてなされたものであり、規模拡張性があり、同時に、汎化特性を有するパターン学習モデルを得ることができるようにするものである。

本発明の一側面の学習装置、又は、プログラムは、複数のモデルパラメータを有し、パターンを学習するパターン学習モデルの学習を行う学習装置、又は、学習装置として、コンピュータを機能させるプログラムであり、入力データを用いて、パターン学習モデルの複数のモデルパラメータを更新する更新学習を行う複数の学習モジュールと、前記複数の学習モジュールの２以上の学習モジュールに、前記モデルパラメータを共有させるモデルパラメータ共有手段とを備える学習装置、又は、学習装置として、コンピュータを機能させるプログラムである。

本発明の一側面の学習方法は、複数のモデルパラメータを有し、パターンを学習するパターン学習モデルの学習を行う学習方法であり、入力データを用いて、パターン学習モデルの複数のモデルパラメータを更新する更新学習を行う複数の学習モジュールそれぞれが、前記更新学習を行い、前記複数の学習モジュールの２以上の学習モジュールに、前記モデルパラメータを共有させるステップを含む学習方法である。

本発明の一側面においては、入力データを用いて、パターン学習モデルの複数のモデルパラメータを更新する更新学習を行う複数の学習モジュールそれぞれにおいて、前記更新学習が行われ、前記複数の学習モジュールの２以上の学習モジュールにおいて、前記モデルパラメータが共有される。

本発明の一側面によれば、規模拡張性があり、同時に、汎化特性を有するパターン学習モデルを得ることができる。

以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書又は図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書又は図面に記載されていることを確認するためのものである。従って、明細書又は図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。

本発明の一側面の学習装置、又は、プログラムは、
複数のモデルパラメータを有し、パターンを学習するパターン学習モデルの学習を行う学習装置（例えば、図１の学習装置）、又は、学習装置として、コンピュータを機能させるプログラムであり、
入力データを用いて、パターン学習モデルの複数のモデルパラメータを更新する更新学習を行う複数の学習モジュール（例えば、図１の学習モジュール１０₁ないし１０_N）と、
前記複数の学習モジュールの２以上の学習モジュールに、前記モデルパラメータを共有させるモデルパラメータ共有手段（例えば、図１のモデルパラメータ共有部２０）と
を備える学習装置、又は、学習装置として、コンピュータを機能させるプログラムである。

本発明の一側面の学習方法は、
複数のモデルパラメータを有し、パターンを学習するパターン学習モデルの学習を行う学習方法であり、
入力データを用いて、パターン学習モデルの複数のモデルパラメータを更新する更新学習を行う複数の学習モジュールそれぞれが、前記更新学習を行い（例えば、図２のステップＳ１２）、
前記複数の学習モジュールの２以上の学習モジュールに、前記モデルパラメータを共有させる（例えば、図２のステップＳ１３）
ステップを含む学習方法である。

以下、図面を参照して、本発明の実施の形態について説明する。

図１は、本発明を適用した学習装置の一実施の形態の構成例を示している。

図１において、学習装置は、複数であるN個の学習モジュール１０₁ないし１０_Nと、モデルパラメータ共有部２０とから構成される。

学習モジュール１０_i(i=1,2,・・・,N)は、パターン入力部１１_i、モデル学習部１２_i、及びモデル記憶部１３_iから構成され、入力データを用いて、パターン学習モデルの複数のモデルパラメータ（学習リソース）を更新する更新学習を行う。

すなわち、パターン入力部１１_iには、モデル記憶部１３_iに記憶されたパターン学習モデルに獲得（学習）させるパターン（カテゴリ）の入力データが、パターン学習モデルの学習に用いる学習データとして供給される。

パターン入力部１１_iは、そこに供給される学習データを、パターン学習モデルの学習に適切な形のデータにする処理をして、モデル学習部１２_iに供給する。すなわち、例えば、学習データが時系列のデータである場合には、パターン入力部１１_iは、例えば、その時系列のデータを、固定の長さに区切って、モデル学習部１２_iに供給する。

モデル学習部１２_iは、パターン入力部１１_iからの学習データを用いて、モデル記憶部１３_iに記憶されたパターン学習モデルの複数のモデルパラメータを更新する更新学習を行う。

モデル記憶部１３_iは、複数のモデルパラメータを有し、パターンを学習するパターン学習モデルを記憶する。すなわち、モデル記憶部１３_iは、パターン学習モデルの複数のモデルパラメータを記憶する。

ここで、パターン学習モデルとしては、例えば、時系列のパターンである時系列パターンや、時間変化する力学系を表すダイナミクスを学習（獲得）（記憶）するモデル等を採用することができる。

時系列パターンを学習するモデルとしては、例えば、HMM(Hidden Markov Model)等があり、ダイナミクスを学習するモデルとしては、例えば、RNN，FNN(Feed Forward Neural Network)，RNNPB等のニューラルネットワークや、SVR(Support Vector Regression)等がある。

例えば、HMMについては、HMMにおいて状態が遷移する確率を表す状態遷移確率や、状態が遷移するときに、HMMからある観測値が出力される確率を表す出力確率、又は確率密度を表す出力確率密度関数が、HMMのモデルパラメータである。

また、例えば、ニューラルネットワークについては、ニューロンに相当するユニット（ノード）において、他のユニットからの入力に付されるウエイト（重み）が、ニューラルネットワークのモデルパラメータである。

なお、HMMの状態遷移確率や、出力確率、又は出力確率密度関数、ニューラルネットワークのウエイトは、いずれも複数存在する。

モデルパラメータ共有部２０は、N個の学習モジュール１０₁ないし１０_Nのうちの、２以上の学習モジュールに、モデルパラメータを共有させる共有処理を行う。モデルパラメータ共有部２０が共有処理を行うことにより、N個の学習モジュール１０₁ないし１０_Nのうちの、２以上の学習モジュールは、モデルパラメータを共有する。

なお、以下では、説明を簡単にするため、モデルパラメータ共有部２０は、N個の学習モジュール１０₁ないし１０_Nのすべてに、モデルパラメータを共有させる共有処理を行うこととする。

次に、図２のフローチャートを参照して、図１の学習装置が行う、パターン学習モデルを学習する学習処理について説明する。

ステップＳ１１において、学習モジュール１０_iのモデル学習部１２_iは、モデル記憶部１３_iに記憶されたモデルパラメータを、例えば、乱数等によって初期化して、処理は、ステップＳ１２に進む。

ステップＳ１２では、学習モジュール１０_iが、その学習モジュール１０_iで学習すべき学習データが供給（入力）されるのを待って、その学習データを用いて、モデルパラメータを更新する更新学習を行う。

すなわち、ステップＳ１２では、学習モジュール１０_iにおいて、パターン入力部１１_iが、学習モジュール１０_iに供給された学習データを、必要に応じて処理し、モデル学習部１２_iに供給する。

さらに、ステップＳ１２では、モデル学習部１２_iが、パターン入力部１１_iからの学習データを用いて、モデル記憶部１３_iに記憶されたパターン学習モデルの複数のモデルパラメータを更新する更新学習を行い、その更新学習によって得られた新たな複数のモデルパラメータによって、モデル記憶部１３_iの記憶内容を更新する（上書きする）。

ここで、ステップＳ１１及びＳ１２の処理は、N個の学習モジュール１０₁ないし１０_Nのすべてで行われる。

ステップＳ１２の後、処理は、ステップＳ１３に進み、モデルパラメータ共有部２０は、N個の学習モジュール１０₁ないし１０_Nのすべてに、モデルパラメータを共有させる共有処理を行う。

すなわち、学習モジュール１０_iが有する複数のモデルパラメータのうちの、例えば、m番目のモデルパラメータに注目すると、モデルパラメータ共有部２０は、N個の学習モジュール１０₁ないし１０_Nそれぞれのm番目のモデルパラメータに基づいて、学習モジュール１０₁のm番目のモデルパラメータを補正する。

さらに、モデルパラメータ共有部２０は、N個の学習モジュール１０₁ないし１０_Nそれぞれのm番目のモデルパラメータに基づいて、学習モジュール１０₂のm番目のモデルパラメータを補正し、以下、同様にして、学習モジュール１０₃ないし１０_Nそれぞれのm番目のモデルパラメータを補正する。

以上のように、モデルパラメータ共有部２０が、学習モジュール１０_iのm番目のモデルパラメータを、N個の学習モジュール１０₁ないし１０_Nそれぞれのm番目のモデルパラメータに基づいて補正することで、N個の学習モジュール１０₁ないし１０_Nのm番目のモデルパラメータのそれぞれは、N個の学習モジュール１０₁ないし１０_Nのm番目のモデルパラメータのすべての影響を受ける（N個の学習モジュール１０₁ないし１０_Nのm番目のモデルパラメータのそれぞれに、N個の学習モジュール１０₁ないし１０_Nのm番目のモデルパラメータのすべてを影響させる）。

このように、複数の学習モジュールのモデルパラメータすべてを、その複数の学習モジュールのモデルパラメータのそれぞれに影響させること（複数の学習モジュールのモデルパラメータのそれぞれが、その複数の学習モジュールのモデルパラメータすべての影響を受けること）が、複数の学習モジュールによるモデルパラメータの共有である。

モデルパラメータ共有部２０は、ステップＳ１３において、学習モジュール１０_iのモデル記憶部１３_iに記憶された複数のモデルパラメータのすべてを対象に、共有処理を行い、その共有処理によって得られたモデルパラメータによって、モデル記憶部１３₁ないし１３_Nの記憶内容を更新する。

ステップＳ１３の後、処理は、ステップＳ１４に進み、図１の学習装置は、学習の終了条件が満たされているかどうかを判定する。

ここで、ステップＳ１４での学習の終了条件としては、例えば、学習の回数、つまり、ステップＳ１２及びＳ１３が繰り返された回数が、あらかじめ定められた所定の回数となったことや、あらかじめ用意された学習データのすべてを用いて、ステップＳ１２の更新学習が行われたこと、あるいは、ある入力データに対して出力されるべき出力データの真値が分かっている場合に、その入力データに対してパターン学習モデルから出力される出力データの、真値に対する誤差が所定値以下であること、等を採用することができる。

ステップＳ１４において、学習の終了条件が満たされていないと判定された場合、処理は、ステップＳ１２に戻り、以下、同様の処理が繰り返される。

また、ステップＳ１４において、学習の終了条件が満たされていると判定された場合、処理は終了する。

次に、図３は、パターン学習モデルとして、RNNPBを採用した場合の、図１の学習装置の構成例を示している。

なお、図３においては、学習モジュール１０_iのパターン入力部１１_i及びモデル学習部１２_iの図示を省略してある。

モデル記憶部１３_iには、RNNPB（を定義するモデルパラメータ）が記憶されている。ここで、モデル記憶部１３_iに記憶されたRNNPBを、以下、適宜、RNNPB#iとも記載する。

RNNPBは、入力層、隠れ層（中間層）、及び出力層により構成されている。入力層、隠れ層、及び出力層は、それぞれ任意の数の、ニューロンに相当するユニットにより構成されている。

RNNPBでは、入力層の一部のユニットである入力ユニットに、時系列データ等の入力データx_tが入力（供給）される。ここで、入力データx_tとしては、例えば、画像や音声の特徴量や、ロボットの手や足に相当する部分の動きの軌道等を採用することができる。

また、入力層の、入力データx_tが入力される入力ユニット以外のユニットの一部であるPBユニットには、PB(Parametric Bias)が入力される。PBによれば、同一の状態のRNNPBに対して、同一の入力データx_tが入力されても、PBを変更することにより、異なる出力データx^* _t+1を得ることができる。

入力層の、入力データx_tが入力される入力ユニット以外のユニットの残りであるコンテキストユニットには、出力層の一部のユニットより出力される出力データが、内部状態を表すコンテキストとしてフィードバックされる。

ここで、時刻tの入力データx_tが入力層の入力ユニットに入力されるときに入力層のPBユニットとコンテキストユニットに入力される時刻tのPBとコンテキストを、それぞれ、PB_tとc_tと記載する。

隠れ層のユニットは、入力層に入力される入力データx_t，PB_t，コンテキストc_tを対象として、所定のウエイト（重み）を用いた重み付け加算を行い、その重み付け加算の結果を引数とする非線形関数の演算を行って、その演算結果を、出力層のユニットに出力する。

出力層の一部のユニットからは、上述したように、次の時刻t+1のコンテキストc_t+1となる出力データが出力され、入力層にフィードバックされる。また、出力層の残りのユニットからは、例えば、入力データx_tに対応する出力データとして、その入力データx_tの次の時刻t+1の入力データx_t+1の予測値x^* _t+1が出力される。

ここで、RNNPBでは、ユニットへの入力が重み付け加算されるが、この重み付け加算に用いられるウエイト（重み）が、RNNPBのモデルパラメータである。RNNPBのモデルパラメータとしてのウエイトには、入力ユニットから隠れ層のユニットへのウエイト、PBユニットから隠れ層のユニットへのウエイト、コンテキストユニットから隠れ層のユニットへウエイト、隠れ層のユニットから出力層のユニットへのウエイト、及び、隠れ層のユニットからコンテキストユニットへのウエイトの５種類がある。

パターン学習モデルとして、以上のようなRNNPBを採用した場合、モデルパラメータ共有部２０には、RNNPBのモデルパラメータとしてのウエイトを、学習モジュール１０₁ないし１０_Nに共有させるウエイトマトリクス共有部２１が設けられる。

ここで、RNNPBのモデルパラメータとしてのウエイトは、複数あるが、その複数のウエイトをコンポーネントとするマトリクスを、ウエイトマトリクスという。

ウエイトマトリクス共有部２１は、モデル記憶部１３₁ないし１３_Nに記憶されたRNNPB#1ないしRNNPB#Nの複数のモデルパラメータとしてのウエイトマトリクスすべてを、学習モジュール１０₁ないし１０_Nのそれぞれに共有させる。

すなわち、RNNPB#iのウエイトマトリクスをw_iと表すこととすると、ウエイトマトリクス共有部２１は、ウエイトマトリクスw_iを、N個の学習モジュール１０₁ないし１０_Nそれぞれのウエイトマトリクスw₁ないしw_Nのすべてに基づいて補正することで、ウエイトマトリクスw_iに、ウエイトマトリクスw₁ないしw_Nのすべてを影響させる共有処理を行う。

具体的には、ウエイトマトリクス共有部２１は、例えば、次式（１）に従い、RNNPB#iのウエイトマトリクスw_iを補正する。

・・・（１）

ここで、式（１）において、△w_iは、ウエイトマトリクスw_iを補正する補正成分であり、例えば、式（２）に従って求められる。

・・・（２）

式（２）において、β_ijは、RNNPB#iのウエイトマトリクスw_iに、RNNPB#j(j=1,2,・・・,N)のウエイトマトリクスw_jを影響させる度合いを表す係数である。

したがって、式（２）の右辺のサメーションΣβ_ij(w_j-w_i)は、係数β_ijを重みとした、RNNPB#iのウエイトマトリクスw_jに対するRNNPB#1ないしRNNPB#Nのウエイトマトリクスw₁ないしw_Nそれぞれの偏差（差分）の重み付け平均値を表し、α_iは、その重み付け平均値Σβ_ij(w_j-w_i)を、ウエイトマトリクスw_iに影響させる度合いを表す係数である。

係数α_i及びβ_ijとしては、例えば、0.0より大で1.0より小の値を採用することができる。

式（２）によれば、係数α_iが小であるほど、いわば共有が弱くなり（ウエイトマトリクスw_iが受ける重み付け平均値Σβ_ij(w_j-w_i)の影響が小さくなり）、係数α_iが大であるほど、いわば共有が強まる。

なお、ウエイトマトリクスw_iの補正の方法は、式（１）に限定されるものではなく、例えば、式（３）に従って行うことが可能である。

・・・（３）

ここで、式（３）において、β_ij ^'は、RNNPB#iのウエイトマトリクスw_iに、RNNPB#j(j=1,2,・・・,N)のウエイトマトリクスw_jを影響させる度合いを表す係数である。

したがって、式（３）の右辺の第２項におけるサメーションΣβ_ij ^'w_jは、係数β_ij ^'を重みとした、RNNPB#1ないしRNNPB#Nのウエイトマトリクスw₁ないしw_Nの重み付け平均値を表し、α_i ^'は、その重み付け平均値Σβ_ij ^'w_jを、ウエイトマトリクスw_iに影響させる度合いを表す係数である。

係数α_i ^'及びβ_ij ^'としては、例えば、0.0より大で1.0より小の値を採用することができる。

式（３）によれば、係数α_i ^'が大であるほど、共有が弱くなり（ウエイトマトリクスw_iが受ける重み付け平均値Σβ_ij ^'w_jの影響が小さくなり）、係数α_i ^'が小であるほど、共有が強まる。

次に、図４のフローチャートを参照して、パターン学習モデルとして、RNNPBを採用した場合の、図１の学習装置の学習処理について説明する。

ステップＳ２１において、学習モジュール１０_iのモデル学習部１２_iは、モデル記憶部１３_iに記憶されたRNNPB#iのモデルパラメータであるウエイトマトリクスw_iを、例えば、乱数等によって初期化して、処理は、ステップＳ２２に進む。

ステップＳ２２では、学習モジュール１０_iが、その学習モジュール１０_iで学習すべき学習データx_tが入力されるのを待って、その学習データx_tを用いて、モデルパラメータを更新する更新学習を行う。

すなわち、ステップＳ２２では、学習モジュール１０_iにおいて、パターン入力部１１_iが、学習モジュール１０_iに供給された学習データx_tを、必要に応じて処理し、モデル学習部１２_iに供給する。

さらに、ステップＳ２２では、モデル学習部１２_iが、パターン入力部１１_iからの学習データx_tを用いて、モデル記憶部１３_iに記憶されたRNNPB#iのウエイトマトリクスw_iを更新する更新学習を、例えば、BPTT(Back-Propagation Through Time)法により行い、その更新学習によって得られた新たなモデルパラメータとしてのウエイトマトリクスw_iによって、モデル記憶部１３_iの記憶内容を更新する。

ここで、ステップＳ２１及びＳ２２の処理は、N個の学習モジュール１０₁ないし１０_Nのすべてで行われる。

また、BPTT法については、例えば、特開2002-236904号公報等に記載されている。

ステップＳ２２の後、処理は、ステップＳ２３に進み、モデルパラメータ共有部２０のウエイトマトリクス共有部２１は、N個の学習モジュール１０₁ないし１０_Nのすべてに、ウエイトマトリクスw₁ないしw_Nのすべてを共有させる共有処理を行う。

すなわち、ステップＳ２３において、ウエイトマトリクス共有部２１は、例えば、式（２）に従い、モデル記憶部１３₁ないし１３_Nに記憶されたウエイトマトリクスw₁ないしw_Nを用いて補正成分△w₁ないし△w_Nをそれぞれ求め、その補正成分△w₁ないし△w_Nにより、モデル記憶部１３₁ないし１３_Nに記憶されたウエイトマトリクスw₁ないしw_Nを、式（１）に従ってそれぞれ補正する。

ステップＳ２３の後、処理は、ステップＳ２４に進み、図１の学習装置は、学習の終了条件が満たされているかどうかを判定する。

ここで、ステップＳ２４での学習の終了条件としては、例えば、学習の回数、つまり、ステップＳ２２及びＳ２３が繰り返された回数が、あらかじめ定められた所定の回数となったことや、ある入力データx_tに対してRNNPB#iが出力する出力データx^* _t+1、すなわち、入力データx_t+1の予測値x^* _t+1の、入力データx_t+1に対する誤差が所定値以下であること、等を採用することができる。

ステップＳ２４において、学習の終了条件が満たされていないと判定された場合、処理は、ステップＳ２２に戻り、以下、同様の処理、すなわち、ウエイトマトリクスw_iの更新学習と、共有処理とが交互に繰り返される。

また、ステップＳ２４において、学習の終了条件が満たされていると判定された場合、処理は終了する。

以上のように、規模拡張性に優れた複数の学習モジュール１０₁ないし１０_Nそれぞれにおいて、モデルパラメータを共有しながら、その複数の学習モジュール１０₁ないし１０_Nそれぞれのモデルパラメータを更新する更新学習を行うことにより、１つの学習モジュールだけで行われる学習で得られる汎化特性が、複数の学習モジュール１０₁ないし１０_Nの全体で得ることができ、その結果、規模拡張性があり、同時に、汎化特性を有するパターン学習モデルを得ることができる。

すなわち、多くのパターンを獲得（記憶）することができ、かつ、複数のパターンの共通性を獲得することができる。さらに、複数のパターンの共通性を獲得することで、その共通性に基づいて、未学習のパターンの認識や生成を行うことが可能となる。

具体的には、学習データとして、例えば、N種類の音韻の音声データを、N個の学習モジュール１０₁ないし１０_Nにそれぞれ与えて、パターン学習モデルの学習を行った場合に、そのパターン学習モデルによれば、学習に用いられていない時系列パターンの音声データの認識や生成を行うことができる。さらに、例えば、学習データとして、例えば、ロボットのアームを駆動するための、N種類の駆動データを、N個の学習モジュール１０₁ないし１０_Nにそれぞれ与えて、パターン学習モデルの学習を行った場合に、そのパターン学習モデルによれば、学習に用いられていない時系列パターンの駆動データの生成を行うことができ、その結果、ロボットは、教えられていないアームの動きをすることが可能となる。

また、学習後のパターン学習モデルによれば、パターン学習モデル間のモデルパラメータ（リソース）どうしの距離に基づいて、パターン学習モデルどうしの類似性を評価し、類似性が高いパターン学習モデルどうしをクラスタとして、パターンのクラスタリングを行うことができる。

次に、図５ないし図９を参照して、本件発明者が行った、図１の学習装置による学習処理（以下、適宜、共有学習処理という）のシミュレーションの結果について説明する。

図５は、共有学習処理で学習を行ったパターン学習モデルについての各データを示している。

なお、シミュレーションでは、パターン学習モデルとして、２つのPBが入力層に入力され、３つのコンテキストが入力層にフィードバックされる９個のRNNPB#1ないしRNNPB#9を採用し、学習データとして、３つのパターンP#1,P#2,P#3の時系列データのそれぞれに、異なる３つのノイズN#1,N#2,N#3のそれぞれを重畳して得られる９個の時系列データを用いた。

また、RNNPB#1には、パターンP#1の時系列データにノイズN#1を重畳して得られる時系列データを、RNNPB#2には、パターンP#1の時系列データにノイズN#2を重畳して得られる時系列データを、RNNPB#2には、パターンP#1の時系列データにノイズN#3を重畳して得られる時系列データを、それぞれ、学習データとして与えた。

同様に、RNNPB#4には、パターンP#2の時系列データにノイズN#1を重畳して得られる時系列データを、RNNPB#5には、パターンP#2の時系列データにノイズN#2を重畳して得られる時系列データを、RNNPB#6には、パターンP#2の時系列データにノイズN#3を重畳して得られる時系列データを、それぞれ、学習データとして与え、RNNPB#7には、パターンP#3の時系列データにノイズN#1を重畳して得られる時系列データを、RNNPB#8には、パターンP#3の時系列データにノイズN#2を重畳して得られる時系列データを、RNNPB#9には、パターンP#3の時系列データにノイズN#3を重畳して得られる時系列データを、それぞれ、学習データとして与えた。

なお、更新学習は、入力データx_tに対してRNNPBが出力する出力データとしての、入力データx_t+1の予測値x^* _t+1の、入力データx_t+1に対する誤差（予測誤差）を小さくするように行った。

図５上から１番目は、学習後のRNNPB#1ないしRNNPB#9に、学習時に与えられた学習データを入力データとして与えたときに、RNNPB#1ないしRNNPB#9それぞれが出力する出力データ(output)と、その出力データの予測誤差(error)とを示している。

図５上から１番目において、予測誤差は、ほぼ0になっており、したがって、RNNPB#1ないしRNNPB#9は、入力データ、つまり、学習時に与えられた学習データとほぼ一致する出力データを出力する。

図５上から２番目は、学習後のRNNPB#1ないしRNNPB#9が、図５上から１番目に示した出力データを出力するときの、３つのコンテキストの時間変化を示している。

また、図５上から３番目は、学習後のRNNPB#1ないしRNNPB#9が、図５上から１番目に示した出力データを出力するときの、２つのPB（以下、適宜、２つのPBそれぞれを、PB#1，PB#2と記載する）の時間変化を示している。

図６は、学習後のRNNPB#1ないしRNNPB#9のうちの、例えば、５番目のRNNPB#5が、各値のPB#1，PB#2に対して出力する出力データを示している。

なお、図６では、横軸がPB#1を表し、縦軸がPB#2を表している。

図６によれば、RNNPB#5は、PB#1が0.6程度のときに、学習時に与えられた学習データとほぼ一致する出力データを出力しており、これにより、RNNPB#5は、学習時に与えられた学習データのパターンP#2を獲得していることが分かる。

また、RNNPB#5は、PB#1が0.6より小さいときに、RNNPB#1ないしRNNPB#3に学習させたパターンP#1や、RNNPB#7ないしRNNPB#9に学習させたパターンP#3に類似する時系列データを出力しており、これにより、RNNPB#5が、RNNPB#1ないしRNNPB#3が獲得したパターンP#1や、RNNPB#7ないしRNNPB#9が獲得したパターンP#3の影響を受け、いわば、RNNPB#5に対して学習時に与えられた学習データのパターンP#2が、RNNPB#1ないしRNNPB#3が獲得したパターンP#1や、RNNPB#7ないしRNNPB#9が獲得したパターンP#3の方向に変形していくときに現れる中間のパターンをも獲得していることが分かる。

さらに、RNNPB#5は、PB#1が0.6より大であるときに、９個のRNNPB#1ないしRNNPB#9のいずれにも学習させていないパターンの時系列データを出力しており、これにより、RNNPB#5が、RNNPB#1ないしRNNPB#3が獲得したパターンP#1や、RNNPB#7ないしRNNPB#9が獲得したパターンP#3の影響を受け、いわば、RNNPB#5に対して学習時に与えられた学習データのパターンP#2が、RNNPB#1ないしRNNPB#3が獲得したパターンP#1や、RNNPB#7ないしRNNPB#9が獲得したパターンP#3の方向とは逆方向に変形していくときに現れるパターンをも獲得していることが分かる。

次に、図７は、９個のRNNPB#1ないしRNNPB#9それぞれのウエイトマトリクスどうしの相関としての距離、すなわち、例えば、ウエイトマトリクスを構成する各ウエイトをコンポーネントとするベクトルの空間における、そのベクトルどうしの距離を表す長方形状のマップを示している。

なお、ウエイトマトリクスどうしの距離が小であるほど、その２つのウエイトマトリクスどうしの相関が高い。

図７のマップでは、横軸と縦軸のそれぞれに、９個のRNNPB#1ないしRNNPB#9それぞれのウエイトマトリクスをとって、その横軸のウエイトマトリクスと、縦軸のウエイトマトリクスとの距離が、濃淡で示されており、濃い（黒い）部分ほど、距離が小であることを表す（淡い（白い）部分ほど、距離が大であることを表す）。

図７において、横×縦が５×３個のマップのうちの、左上のマップは、学習の回数が0回目であるときのウエイトマトリクスどうしの距離、すなわち、初期化がされたウエイトマトリクスどうしの距離を示しており、マップにおいて、対角線上に並ぶ、同一のRNNPB#iのウエイトマトリクスどうしの距離だけが小になっている。

以下、図７では、右に行くほど、そして、下に行くほど、学習が進行したときのマップが示されており、右下のマップが、学習の回数が1400回目であるときのウエイトマトリクスどうしの距離を示している。

図７によれば、学習が進行するにつれ、同一のパターンP#1の時系列データを学習したRNNPB#1ないしRNNPB#3のウエイトマトリクスどうしの距離、同一のパターンP#2の時系列データを学習したRNNPB#4ないしRNNPB#6のウエイトマトリクスどうしの距離、及び、同一のパターンP#3の時系列データを学習したRNNPB#7ないしRNNPB#9のウエイトマトリクスどうしの距離が小さくなることが分かる。

図８は、図５ないし図７の場合とは別の時系列データを用いて学習を行ったRNNPBのウエイトマトリクスどうしの相関としての距離を表す、図７と同様のマップを示している。

なお、図８のマップを作成するシミュレーションでは、図９に示す５種類のパターンP#1,P#2,P#3,P#4,P#5の時系列データのそれぞれに、異なる４つのノイズN#1,N#2,N#3,N#4のそれぞれを重畳して得られる２０個の時系列データを用意し、各時系列データを、１つのRNNPBに学習させた。したがって、図８のマップを作成するシミュレーションで用いたRNNPBは、２０個のRNNPB#1ないしRNNPB#20である。

また、学習では、RNNPB#1ないしRNNPB#4には、パターンP#1の時系列データを、RNNPB#5ないしRNNPB#8には、パターンP#2の時系列データを、RNNPB#9ないしRNNPB#12には、パターンP#3の時系列データを、RNNPB#13ないしRNNPB#16には、パターンP#4の時系列データを、RNNPB#17ないしRNNPB#20には、パターンP#5の時系列データを、それぞれ与えた。

図８左の５×３個のマップは、共有が弱い場合、すなわち、20個のRNNPB#1ないしRNNPB#20のウエイトマトリクスw₁ないしw₂₀それぞれに、その２０個のウエイトマトリクスw₁ないしw₂₀のすべてを影響させる度合いが小さい場合、具体的には、式（２）の係数α_iが小である場合（α_iがほぼ0である場合）のマップを示している。

また、図８右の５×３個のマップは、共有が強い場合、すなわち、20個のRNNPB#1ないしRNNPB#20のウエイトマトリクスw₁ないしw₂₀それぞれに、その２０個のウエイトマトリクスw₁ないしw₂₀のすべてを影響させる度合いが大きい場合、具体的には、式（１）の係数α_iが小でない場合のマップを示している。

共有が弱い場合も強い場合も、学習の回数が0回目であるときの左上のマップでは、対角線上に並ぶ、同一のRNNPB#iのウエイトマトリクスどうしの距離だけが小になっている。

そして、共有が弱い場合には、図８左に示すように、学習が進行しても、ウエイトマトリクスどうしの距離に、特に傾向は現れないが、共有が強い場合には、図８右に示すように、同一のパターンの時系列データを学習したRNNPBの間で、ウエイトマトリクスどうしの距離が小さくなることが分かる。

したがって、共有処理によって、複数の学習モジュールをまたいで分散表現が形成され、複数のRNNPBが汎化特性を有するようになっていることが分かる。

なお、モデル学習部１２_iによるモデルパラメータの更新学習の方法、及び、モデルパラメータ共有部２０による共有処理の方法は、上述した方法に限定されるものではない。

また、本実施の形態では、モデルパラメータ共有部２０による共有処理において、N個の学習モジュール１０₁ないし１０_Nのすべてに、モデルパラメータとしてのウエイトマトリクスを共有させるようにしたが、その他、例えば、N個の学習モジュール１０₁ないし１０_Nのうちの一部だけに、モデルパラメータとしてのウエイトマトリクスを共有させることが可能である。

さらに、本実施の形態では、モデルパラメータ共有部２０による共有処理において、学習モジュール１０_iに、複数のモデルパラメータとしての、ウエイトマトリクスを構成する複数のウエイトすべてを共有させるようにしたが、共有処理では、ウエイトマトリクスを構成する複数のウエイトすべてではなく、そのうちの一部のウエイトだけを共有させるようにすることが可能である。

また、N個の学習モジュール１０₁ないし１０_Nのうちの一部だけに、ウエイトマトリクスを構成する複数のウエイトのうちの一部のウエイトだけを共有させることも可能である。

次に、上述した一連の処理は、ハードウェアにより行うこともできるし、ソフトウェアにより行うこともできる。一連の処理をソフトウェアによって行う場合には、そのソフトウェアを構成するプログラムが、汎用のコンピュータ等にインストールされる。

そこで、図１０は、上述した一連の処理を実行するプログラムがインストールされるコンピュータの一実施の形態の構成例を示している。

プログラムは、コンピュータに内蔵されている記録媒体としてのハードディスク１０５やROM１０３に予め記録しておくことができる。

あるいはまた、プログラムは、フレキシブルディスク、CD-ROM(Compact Disc Read Only Memory)，MO(Magneto Optical)ディスク，DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体１１１に、一時的あるいは永続的に格納（記録）しておくことができる。このようなリムーバブル記録媒体１１１は、いわゆるパッケージソフトウエアとして提供することができる。

なお、プログラムは、上述したようなリムーバブル記録媒体１１１からコンピュータにインストールする他、ダウンロードサイトから、ディジタル衛星放送用の人工衛星を介して、コンピュータに無線で転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送し、コンピュータでは、そのようにして転送されてくるプログラムを、通信部１０８で受信し、内蔵するハードディスク１０５にインストールすることができる。

コンピュータは、CPU(Central Processing Unit)１０２を内蔵している。CPU１０２には、バス１０１を介して、入出力インタフェース１１０が接続されており、CPU１０２は、入出力インタフェース１１０を介して、ユーザによって、キーボードや、マウス、マイク等で構成される入力部１０７が操作等されることにより指令が入力されると、それにしたがって、ROM(Read Only Memory)１０３に格納されているプログラムを実行する。あるいは、また、CPU１０２は、ハードディスク１０５に格納されているプログラム、衛星若しくはネットワークから転送され、通信部１０８で受信されてハードディスク１０５にインストールされたプログラム、またはドライブ１０９に装着されたリムーバブル記録媒体１１１から読み出されてハードディスク１０５にインストールされたプログラムを、RAM(Random Access Memory)１０４にロードして実行する。これにより、CPU１０２は、上述したフローチャートにしたがった処理、あるいは上述したブロック図の構成により行われる処理を行う。そして、CPU１０２は、その処理結果を、必要に応じて、例えば、入出力インタフェース１１０を介して、LCD(Liquid Crystal Display)やスピーカ等で構成される出力部１０６から出力、あるいは、通信部１０８から送信、さらには、ハードディスク１０５に記録等させる。

ここで、本明細書において、コンピュータに各種の処理を行わせるためのプログラムを記述する処理ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいは個別に実行される処理（例えば、並列処理あるいはオブジェクトによる処理）も含むものである。

また、プログラムは、１のコンピュータにより処理されるものであっても良いし、複数のコンピュータによって分散処理されるものであっても良い。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであっても良い。

なお、図１の学習装置は、モデルパラメータ共有部２０が、複数の学習モジュール１０₁ないし１０_Nに、モデルパラメータを共有させる、つまり、各学習モジュール１０_iにおけるパターン学習モデルとしてのRNNPB#iのモデルパラメータであるウエイトマトリクスw_iに、学習モジュール１０₁ないし１０_NそれぞれにおけるRNNPB#1ないしPNNPB#Nのウエイトマトリクスw₁ないしw_Nを影響させる点で、RNNの学習時に、２つのRNNのコンテキストどうしの誤差に基づいて、その２つのRNNのコンテキストを変化させる、つまり、各RNNのコンテキストに、２つのRNNのコンテキストを影響させる特許文献１に記載の技術と共通する。

しかしながら、図１の学習装置では、影響を受けるのが、モデルパラメータであるウエイトマトリクスである点で、モデルパラメータではなく、内部状態であるコンテキストが影響を受ける特許文献１に記載の技術と相違する。

すなわち、例えば、関数で表現されるパターン学習モデルを例にすれば、パターン学習モデルのモデルパラメータは、そのパターン学習モデルを表現する関数を定義する、学習によって求められる定数（例えば、入力がuと、出力がyと、内部状態がxと、それぞれ表されるシステムをモデル化する状態方程式y=Cx+Du、及びx'=Ax+Bu（x'はxの微分を表す）を例にすれば、A,B,C,Dにあたる）であり、そもそも定数ではない内部状態（状態方程式の例では、内部状態x）とは異なる。

同様に、図１の学習装置は、各学習モジュール１０_iにおけるパターン学習モデルとしてのRNNPB#iのモデルパラメータであるウエイトマトリクスw_iに、学習モジュール１０₁ないし１０_NそれぞれにおけるRNNPB#1ないしPNNPB#Nのウエイトマトリクスw₁ないしw_Nを影響させる点で、RNNPBの学習時に、２つのRNNPBのPBどうしの差に基づいて、その２つのRNNPBのPBを変化させる、つまり、各RNNPBのPBに、２つのRNNPBのPBを影響させる非特許文献１に記載の技術と共通する。

しかしながら、図１の学習装置では、影響を受けるのが、モデルパラメータであるウエイトマトリクスである点で、モデルパラメータではなく、内部状態である（あるいは、内部状態に相当する）PBが影響を受ける非特許文献１に記載の技術と相違する。

すなわち、上述したように、パターン学習モデルのモデルパラメータとは、パターン学習モデルを表現する関数を定義する、学習によって求められる定数であり、定数ではない内部状態とは異なる。

そして、モデルパラメータは、パターン学習モデルを表現する関数を定義する、学習によって求められる定数であるがゆえに、学習時は、学習をしようとするパターンに対応する値になるように更新（変更）されるが、出力データを生成するとき（パターン学習モデルとしてのRNNPBの入力層に入力データを入力し、その入力データに対応する出力データを、RNNPBの出力層から出力するとき）には、変更されない。

一方、特許文献１に記載の技術が対象としているコンテキスト、及び、非特許文献１に記載の技術が対象としているPBは、モデルパラメータとは異なる内部状態であるがゆえに、学習時は勿論、出力データを生成するときも変更される。

以上のように、図１の学習装置は、特許文献１及び非特許文献１に記載の技術のいずれとも相違し、その結果、規模拡張性があり、同時に、汎化特性を有するパターン学習モデルを得ることができる。

すなわち、図１の学習装置では、例えば、図１１に示すように、RNNPBなどのパターン学習モデルのモデルパラメータを共有させる。

その結果、図１の学習装置によれば、図１２に示すように、規模拡張性に優れるが、汎化特性に欠ける「局所表現」スキームと、汎化特性があるが、規模拡張性に欠ける「分散表現」スキームとの２種類の学習の両方の長所を有する、いわば「中間表現」スキームの学習を行い、規模拡張性があり、同時に、汎化特性を有するパターン学習モデルを得ることができる。

なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。

本発明を適用した学習装置の一実施の形態の構成例を示すブロック図である。 学習装置の学習処理を説明するフローチャートである。 パターン学習モデルとして、RNNPBを採用した場合の学習装置の構成例を示すブロック図である。 パターン学習モデルとして、RNNPBを採用した場合の学習装置の学習処理を説明するフローチャートである。 シミュレーションの結果を示す図である。 シミュレーションの結果を示す図である。 シミュレーションの結果を示す図である。 シミュレーションの結果を示す図である。 シミュレーションに用いた時系列データを示す図である。 本発明を適用したコンピュータの一実施の形態の構成例を示すブロック図である。 RNNPBのモデルパラメータの共有を模式的に示す図である。 「局所表現」スキーム、「分散表現」スキーム、及び「中間表現」スキームの学習の関係を模式的に示す図である。

符号の説明

１０₁ないし１０_N 学習モジュール， １１₁ないし１１_N パターン入力部， １２₁ないし１２_N モデル学習部， １３₁ないし１３_N モデル記憶部， ２０ モデルパラメータ共有部， ２１ ウエイトマトリクス共有部， １０１ バス， １０２ CPU， １０３ ROM， １０４ RAM， １０５ ハードディスク， １０６ 出力部， １０７ 入力部， １０８ 通信部， １０９ ドライブ， １１０ 入出力インタフェース， １１１ リムーバブル記録媒体

Claims (8)

1. 複数のモデルパラメータを有し、パターンを学習するパターン学習モデルの学習を行う学習装置において、
   入力データを用いて、パターン学習モデルの複数のモデルパラメータを更新する更新学習を行う複数の学習モジュールと、
   前記複数の学習モジュールの２以上の学習モジュールに、前記モデルパラメータを共有させるモデルパラメータ共有手段と
   を備える学習装置。
2. 前記パターン学習モデルは、時系列パターン、又はダイナミクスを学習するモデルである
   請求項１に記載の学習装置。
3. 前記パターン学習モデルは、HMM(Hidden Markov Model)，RNN(Recurrent Neural Network)，FNN(Feed Forward Neural Network)，SVR(Support Vector Regression)、又はRNNPB(Recurrent Neural Net with Parametric Bias)である
   請求項１に記載の学習装置。
4. 前記モデルパラメータ共有手段は、複数の学習モジュールのすべて、又は一部に、前記モデルパラメータを共有させる
   請求項１に記載の学習装置。
5. 前記モデルパラメータ共有手段は、前記複数の学習モジュールの２以上の学習モジュールに、前記複数のモデルパラメータのすべて、又は一部を共有させる
   請求項１に記載の学習装置。
6. 前記モデルパラメータ共有手段は、前記２以上の学習モジュールの各学習モジュールが更新したモデルパラメータを、前記２以上の学習モジュールそれぞれが更新したモデルパラメータの重み付け平均値によって補正することにより、前記２以上の学習モジュールに、その２以上の学習モジュールそれぞれが更新したモデルパラメータを共有させる
   請求項１に記載の学習装置。
7. 複数のモデルパラメータを有し、パターンを学習するパターン学習モデルの学習を行う学習方法において、
   入力データを用いて、パターン学習モデルの複数のモデルパラメータを更新する更新学習を行う複数の学習モジュールそれぞれが、前記更新学習を行い、
   前記複数の学習モジュールの２以上の学習モジュールに、前記モデルパラメータを共有させる
   ステップを含む学習方法。
8. 複数のモデルパラメータを有し、パターンを学習するパターン学習モデルの学習を行う学習装置として、コンピュータを機能させるプログラムにおいて、
   入力データを用いて、パターン学習モデルの複数のモデルパラメータを更新する更新学習を行う複数の学習モジュールと、
   前記複数の学習モジュールの２以上の学習モジュールに、前記モデルパラメータを共有させるモデルパラメータ共有手段と
   して、コンピュータを機能させるプログラム。

Images