JP2024037650A - 破滅的忘却の発生を抑えつつ、転移学習を行う方法、情報処理装置及びプログラム - Google Patents

Abstract

【課題】破滅的忘却が発生することを抑えつつ転移学習を行う技術を提供する。【解決手段】方法は、第Ｔタスクの学習において、第Ｔ学習セットを用いて判定した第１重み係数の第１勾配と、第１重み係数の重要度パラメータと、に基づき、第１重み係数を調整することと、第Ｔ学習セットを用いた学習が完了した後に、複数の層の内の第１重み係数を含む第１層に含まれる、第１重み係数を含む複数の第２重み係数それぞれの第２勾配を第Ｔ学習セットに基づき判定し、複数の第２重み係数それぞれの第２勾配に基づき、第Ｔ＋１タスクの学習において使用する第１重み係数の重要度パラメータを求めることと、を含む。【選択図】図６

Description

本開示は、深層学習（Ｄｅｅｐ Ｌｅａｒｎｉｎｇ）技術に関し、より詳しくは、破滅的忘却（Ｃａｔａｓｔｒｏｐｈｉｃ Ｆｏｒｇｅｔｔｉｎｇ）の発生を抑えつつ転移学習（Ｔｒａｎｓｆｅｒ Ｌｅａｒｎｉｎｇ）を行う技術に関する。

例えば、ニューラルネットワークを使用して、画像認識、文書分類、行動認識、行動予測の様な様々な処理が行われている。ニューラルネットワークは、複数の層の接続により構成され、各層は、１つ以上のユニットを含む。ユニットは、ニューロンとしても参照され得る。第１層の各ユニットには、ニューラルネットワークの入力値が入力される。残りの層の各ユニットには、１つ前の層の１つ以上のユニットの出力値が入力値として入力される。各ユニットは、ユニットの各入力値に対応する重み係数を有する。各ユニットは、各入力値に対して対応する重み係数を乗じ、重み係数を乗じた値の和に基づき出力値を求める。各ユニットの各入力値に対応する重み係数は、単に、パラメータとも呼ばれ得る。但し、本開示においては、"重み係数"との用語を使用する。最後の層以外の層の各ユニットは、その出力値を１つ後の層の１つ以上のユニットに出力する。最後の層のユニットの出力値は、ニューラルネットワークの出力値となる。なお、最後の層のユニットの後段に分岐を設け、最後の層のユニットの出力値を、複数のヘッドそれぞれに出力し、各ヘッドの出力をニューラルネットワークの出力値とすることもできる。各ヘッドは、１つ以上の層を有し得る。

ニューラルネットワークを様々なタスクに使用するため、例えば、学習が行われる。学習とは、タスクに対応する学習データのセット（以下、学習セットと表記する。）を用いて各ユニットの重み係数を当該タスクに最適化する処理である。例えば、画像から対象物Ａ、Ｂ、Ｃを認識するタスクのため、対象物Ａ、Ｂ、Ｃの多数の画像を含む学習セットが用意される。そして、学習セット内の画像の画像データを順にニューラルネットワークに入力し、ニューラルネットワークの出力値を求める（順方向伝搬）。これらの出力値の誤差を所定の誤差関数（損失関数としても参照され得る。）に基づき評価し、所謂、誤差逆伝搬法により、最後の層のユニットから順にユニットの誤差量を求め、ユニットの誤差量から当該ユニットの各重み係数の"勾配"を求める。各重み係数は、対応する勾配に基づき変更／調整される（逆方向伝搬）。学習セットを用いて、順方向伝搬と、それに続く逆方向伝搬を繰り返すことで、各ユニットの重み係数はタスクに最適化される。

深層学習においては、破滅的忘却という現象が知られている。例えば、画像認識を例にすると、ある学習セットにより対象物Ａ、Ｂ、Ｃを識別可能なニューラルネットワークに対して、対象物Ｄ及びＥを更に認識可能とするために、対象物Ｄ及びＥの画像を含む別の学習セットで学習を行うと、対象物Ａ、Ｂ、Ｃの識別精度が劣化する現象が破滅的忘却である。

非特許文献１（以下、ＨＡＴ技術）は、破滅的忘却を抑える技術を開示している。

Ｊｏａｎ Ｓｅｒｒa ａｎｄ Ｄiｄａｃ Ｓｕｒiｓ ａｎｄ Ｍａｒｉｕｓ Ｍｉｒｏｎ ａｎｄ Ａｌｅｘａｎｄｒｏｓ Ｋａｒａｔｚｏｇｌｏｕ．Ｏｖｅｒｃｏｍｉｎｇ Ｃａｔａｓｔｒｏｐｈｉｃ Ｆｏｒｇｅｔｔｉｎｇ ｗｉｔｈ Ｈａｒｄ Ａｔｔｅｎｔｉｏｎ ｔｏ ｔｈｅ Ｔａｓｋ． Ｉｎ Ｐｒｏｃ． ｏｆ ＩＣＭＬ，２０１８．

具体的には、ＨＡＴ技術においては、新しいタスク（例えば、対象物Ｄ及びＥを識別するタスク）の学習において、過去に学習したタスク（例えば、対象物Ａ、Ｂ、Ｃを識別するタスク）に重要な重み係数の更新を遮断することにより破滅的忘却を抑えている。

一方、過去に学習したタスクの知識を、新しく学習するタスクに転移させることで、新しく学習するタスクの性能を向上させる、所謂、転移学習が注目されている。

ここで、ＨＡＴ技術が開示する様に、過去に学習したタスクに重要な重み係数の更新を遮断すると、転移学習が阻害され得る。

本開示は、破滅的忘却が発生することを抑えつつ転移学習を行う技術を提供する。

本開示の一態様によると、第１学習セットから第Ｔ－１学習セット（Ｔは２以上の整数）を順に使用することで、第１タスクから第Ｔ－１タスクを順に学習したニューラルネットワークに対して、第Ｔ学習セットを使用して第Ｔタスクを学習させるために情報処理装置が実行する方法が提供される。前記ニューラルネットワークは、複数の層を含み、前記複数の層それぞれは複数のユニットを含む。前記複数のユニットそれぞれは、ユニットの各入力に関連付けられた重み係数と、前記重み係数の重要度を示す重要度パラメータと、を有する。前記方法は、前記第Ｔタスクの学習において、前記第Ｔ学習セットを用いて判定した第１重み係数の第１勾配と、前記第１重み係数の前記重要度パラメータと、に基づき、前記第１重み係数を調整することと、前記第Ｔ学習セットを用いた学習が完了した後に、前記複数の層の内の前記第１重み係数を含む第１層に含まれる、前記第１重み係数を含む複数の第２重み係数それぞれの第２勾配を前記第Ｔ学習セットに基づき判定し、前記複数の第２重み係数それぞれの前記第２勾配に基づき、第Ｔ＋１タスクの学習において使用する前記第１重み係数の前記重要度パラメータを求めることと、を含む。

本開示の説明に使用する例示的なニューラルネットワークの構成図。 順方向伝搬時の１つのユニットの機能ブロック図。 逆方向伝搬時の１つのユニットの機能ブロック図。 情報処理装置のハードウェア構成を示す図。 情報処理装置の機能ブロック図。 学習部が実行する学習処理のフローチャート。

以下、添付図面を参照して実施形態を詳しく説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定するものではなく、また実施形態で説明されている特徴の組み合わせの全てが発明に必須のものとは限らない。実施形態で説明されている複数の特徴のうち二つ以上の特徴が任意に組み合わされてもよい。また、同一若しくは同様の構成には同一の参照番号を付し、重複した説明は省略する。

図１は、本実施形態の説明に使用するニューラルネットワークの構成図である。なお、図１は、タスク＃１～タスク＃Ｔ－１（Ｔは２以上の整数）の計Ｔ－１個のタスクの学習が終了した際のニューラルネットワークの構成を示している。ニューラルネットワークは、レイヤ部１００と、ヘッド部２００と、を有する。ヘッド部２００は、過去に学習したタスクそれぞれに対応して設けられたヘッドを有し、よって、本例では、ヘッド＃１～ヘッド＃Ｔ－１の計Ｔ－１個のヘッドを有する。ヘッド＃ｔ（ｔは１～Ｔ－１までの整数）は、タスク＃ｔに対応する。

レイヤ部１００は、第１層から第Ｌ層（Ｌは３以上の整数）の計Ｌ個の層を有する。本実施形態において各層は、Ｎ個（Ｎは２以上の整数）のユニットを有する。以下では、第ｌ層（ｌは、１～Ｌまでの整数）のｎ番目（ｎは、１～Ｎまでの整数）のユニットを、ユニット＃ｌｎと表記する。第１層の各ユニットにはニューラルネットワークの入力値が入力される。第２層から第Ｌ層の各ユニットには、１つ前の層の総てのユニットの出力値が入力される。第Ｌ層の各ユニットの出力値は、ヘッド部２００のヘッド＃１～ヘッド＃Ｔ－１それぞれに出力される。ヘッド＃１～ヘッド＃Ｔ－１の構成は、レイヤ部１００の構成と同様であり得る。但し、層の数や、１つの層におけるユニット数は、レイヤ部１００とは異なり得る。ヘッド＃１～ヘッド＃Ｔ－１の出力が、ニューラルネットワークの出力となる。

なお、図１のニューラルネットワークは例示であり、ニューラルネットワークの構成は図１に示すものに限定されない。例えば、第１層から第Ｌ－１層の各ユニットの出力は、次の層の一部のユニットに入力されるものであっても良い。また、各層のユニット数は同じでなくても良い。さらに、本実施形態のニューラルネットワークは、各タスクに対応するヘッド＃ｔを有するヘッド部２００を設けているが、ヘッド部２００を有さないものであっても良い。

上述した様に、図１のニューラルネットワークは、（Ｔ－１）個の学習セットにより学習が行われている。以下の説明において、タスク＃ｔの学習に使用した学習セットを学習セット＃ｔと表記する。

発明を限定しない具体的な例として、タスク＃１は、例えば、画像から対象物Ａ１、Ａ２、Ａ３を認識するものであり、タスク＃２は、画像から、対象物Ａ１、Ａ２、Ａ３とは異なる対象物Ｂ１、Ｂ２を認識するものである。以下同様に、タスク＃３～＃Ｔ－１は、画像から所定の対象物を認識するものである。なお、ニューラルネットワークが行う処理は、画像認識に限定されず、文書分類、行動認識、行動予測といった様々なものであり得る。

以下では、学習セット＃Ｔにより、新たなタスク＃Ｔの学習を行う場合を例にして本開示の説明を行う。なお、タスク＃Ｔの学習の開始時における、レイヤ部１００とヘッド部２００の各重み係数は、タスク＃Ｔ－１の学習が完了した時点の値に設定される。また、タスク＃Ｔの学習のため、ヘッド部２００には、ヘッド＃Ｔが追加される。タスク＃Ｔの学習の開始時におけるヘッド＃Ｔの各重み係数の初期値は、任意の方法で設定される。

タスク＃Ｔの学習は、通常の学習と同様に、学習セット＃Ｔのデータを順にニューラルネットワークに入力してニューラルネットワークの出力値を求める（順方向伝搬）ことと、ニューラルネットワークの出力値に基づき各ユニットの重み係数を更新する（逆方向伝搬）ことと、を有する。なお、順方向伝搬及び逆方向伝搬における各ユニットの動作は同様であるため、以下では、ユニット＃ｌｎでの動作について説明する。なお、ヘッド部２００の各ヘッドにおける各ユニットについても同様である。

図２は、順方向伝搬時におけるユニット＃ｌｎの動作を説明するための機能ブロック図である。ニューロン部１０１には、第（ｌ－１）層のユニット＃（ｌ－１）１～ユニット＃（ｌ－１）Ｎより、入力値Ｉ_{ｌ－１，１}～Ｉ_{ｌ－１，Ｎ}が入力される。ニューロン部１０１は、入力値Ｉ_{ｌ－１，１}～Ｉ_{ｌ－１，Ｎ}それぞれに対応する重み係数Ｗ_{ｌ－１，１}～Ｗ_{ｌ－１，Ｎ}を有し、入力値Ｉ_{ｌ－１，１}～Ｉ_{ｌ－１，Ｎ}それぞれに対して対応する重み係数を乗じて加算することで出力値О_ｌ，ｎを求める。出力値О_ｌ，ｎは、ユニット＃（ｌ＋１）１～ユニット＃（ｌ＋１）Ｎ又はヘッド＃１～ヘッド＃Ｔに出力される。

図３は、逆方向伝搬時におけるユニット＃ｌｎの動作を説明するための機能ブロック図である。誤差判定部２０１には、ユニット＃（ｌ＋１）１～ユニット＃（ｌ＋１）Ｎそれぞれから誤差量Δ_{ｌ＋１，１}～Δ_{ｌ＋１，Ｎ}が入力される。誤差判定部２０１は、入力された誤差量に基づきユニット＃ｌｎの誤差量Δ_ｌ，ｎを求める。ユニット＃ｌｎの誤差量Δ_ｌ，ｎは、ユニット＃（ｌ－１）１～ユニット＃（ｌ－１）Ｎに出力される。この処理は、通常の誤差逆伝搬法での処理と同様である。

勾配判定部２０２は、ユニット＃ｌｎの誤差量Δ_ｌ，ｎに基づきニューロン部１０１が保持する重み係数Ｗ_{ｌ－１，ｎ}の勾配Ｇ_{ｌ－１，ｎ}を求める。この処理も通常の誤差逆伝搬法での処理と同様である。

重要度パラメータ保持部２０３は、ニューロン部１０１が保持する各重み係数Ｗ_{ｌ－１，ｎ}に関連付けられた重要度パラメータγ^Ｍａｘ _{ｌ－１，ｎ}を保持している。重要度パラメータγ^Ｍａｘ _{ｌ－１，ｎ}は、０以上、かつ、１未満の値であり、関連付けられた重み係数Ｗ_{ｌ－１，ｎ}が過去タスク（タスク＃１～タスク＃Ｔ－１）において重要であるほど、値が大きくなる。重要度パラメータγ^Ｍａｘ _{ｌ－１，ｎ}の算出については後述する。

乗算部２０６は、重み係数Ｗ_{ｌ－１，ｎ}の勾配Ｇ_{ｌ－１，ｎ}に（１－γ^Ｍａｘ _{ｌ－１，ｎ}）を乗じた値を、重み係数Ｗ_{ｌ－１，ｎ}の更新後の勾配Ｇ´_{ｌ－１，ｎ}として重み係数調整部２０５に出力する。重み係数調整部２０５は、勾配Ｇ´_{ｌ－１，ｎ}に基づき重み係数Ｗ_{ｌ－１，ｎ}を更新する。

上述した様に、重要度パラメータγ^Ｍａｘ _{ｌ－１，ｎ}は、重み係数Ｗ_{ｌ－１，ｎ}が過去タスク（タスク＃１～タスク＃Ｔ－１）において重要であるほど、値が大きくなる。したがって、（１－γ^Ｍａｘ _{ｌ－１，ｎ}）の値は、重み係数Ｗ_{ｌ－１，ｎ}が過去タスクにおいて重要であるほど、値が小さくなる。よって、重み係数Ｗ_{ｌ－１，ｎ}が過去タスクにおいて重要であるほど、更新後の勾配Ｇ´_{ｌ－１，ｎ}は小さくなり、重み係数Ｗ_{ｌ－１，ｎ}の更新は抑制される。これにより、破滅的忘却の発生を抑制できる。

また、ＨＡＴ技術では、過去に学習したタスクに重要な重み係数の更新を遮断するため、新しくタスクを学習する毎に、全体の重み係数に対する更新されない重み係数の割合が増加し、よって、ニューラルネットワークの新しいタスクに対する表現能力が低下してしまう。一方、本実施形態の重要度パラメータγ^Ｍａｘ _{ｌ－１，ｎ}は１未満であり、よって、（１－γ^Ｍａｘｌ－１，ｎ）の値は０より大きい。したがって、各重み係数は、新しいタスクの学習においても更新され、ニューラルネットワークの表現能力の低下を抑えることができる。

情報処理装置は、タスク＃Ｔの学習において、上記順方向伝搬と逆方向伝搬を繰り返し行う。なお、繰り返しの回数は、所定の回数とすることができる。或いは、繰り返しの回数は、損失の値や各ユニットの重み係数が収束するまでとすることができる。

情報処理装置は、タスク＃Ｔの学習が完了すると、タスク＃Ｔ＋１の学習の際に使用する重要度パラメータγ^Ｍａｘ _{ｌ－１，ｎ}の算出を行う。

以下、タスク＃Ｔ＋１の学習の際に使用する重要度パラメータγ^Ｍａｘ _{ｌ－１，ｎ}の算出について説明する。なお、１つの重み係数に関連付けられた重要度パラメータの算出方法は、ニューラルネットワークの各重み係数について同様である。したがって、以下では、タスク＃Ｔの学習が終了した時点の１つの重み係数について、タスク＃Ｔ＋１の学習の際に使用する重要度パラメータの算出方法について説明する。以下では、表記の簡略化のため、説明対象の重み係数をＷと表記し、算出する重要度パラメータをγ^Ｍａｘと表記する。

また、以下の説明においては、レイヤ部１００と、ヘッド＃ｔを１つの関数として関数ｆ^ｔと表記する。つまり、関数ｆ^ｔは、レイヤ部１００に入力した値を引数としたときの、ヘッド＃ｔが出力する出力値を求める関数である。なお、説明は省略するが、各ヘッドのユニットの重み係数に関連付けられた重要度パラメータの算出方法についても同様である。

タスク＃Ｔの学習の終了時点における重み係数Ｗのタスク＃ｔに対する第１重要度γ^ｔは、以下の式で計算される。

式（１）において、Ｌは誤差関数であり、ｘ^Ｔは、学習セット＃Ｔの入力データであり、ｙ^Ｔは、入力データｘ^Ｔに対する正解データである。式（１）において、関数Ｎｏｒｍの引数は、重み係数Ｗの勾配である。関数Ｎｏｒｍは、関数ｔａｎｈの引数の絶対値が無限大となることを抑えるためのものであり、例えば、以下の関数を使用することができる。

式（２）において、ｍｅａｎ（ｐ）は、ｐの平均値であり、ｖａｒ（ｐ）は、ｐの分散であり、εは、関数ｔａｎｈの引数の絶対値が無限大となることを抑えるための極めて小さい所定値である。

なお、第１重要度γ^ｔの計算は層単位で行う。つまり、重み係数Ｗが第ｌ層のユニットに対応する場合、関数Ｎｏｒｍを求めるために使用する平均値及び分散は、第ｌ層のＮ個のユニットそれぞれの重み係数に対応する。なお、本例において、１つの層のＮ個のユニットそれぞれは、Ｎ個の重み係数に関連付けられるため、平均値及び分散を求める重み係数の数はＮ^２である。

式（１）において、関数ｔａｎｈは、重み係数Ｗの勾配を０以上、かつ、１未満の値に正規化するものである。

情報処理装置は、タスク＃１～タスク＃Ｔそれぞれについて第１重要度γ^１～γ^Ｔを求め、その内の最大値をγ^{Ｔ，Ｍａｘ}として、この最大値γ^{Ｔ，Ｍａｘ}を記録する。したがって、情報処理装置は、タスク＃Ｔの学習が完了した時点において、最大値γ^{１，Ｍａｘ}～最大値γ^{Ｔ，Ｍａｘ}の計Ｔ個の最大値を記録している。情報処理装置は、最大値γ^{１，Ｍａｘ}～最大値γ^{Ｔ，Ｍａｘ}の内の最大値を、タスク＃Ｔ＋１の学習で使用する重み係数Ｗの重要度パラメータγ^Ｍａｘとする。

なお、タスク＃Ｔで使用した重み係数Ｗの重要度パラメータは、最大値γ^{１，Ｍａｘ}～最大値γ^{Ｔ－１，Ｍａｘ}の内の最大値である。したがって、情報処理装置は、最大値γ^{Ｔ，Ｍａｘ}と、タスク＃Ｔで使用した重み係数Ｗの重要度パラメータとの内の大きい方を、タスク＃Ｔ＋１の学習で使用する重み係数Ｗの重要度パラメータγ^Ｍａｘとし得る。この場合、情報処理装置は、過去の最大値γ^{１，Ｍａｘ}～最大値γ^{Ｔ，Ｍａｘ}の総てを記録する必要はなく、学習処理が終了した時点において計算した、次の学習処理で使用する最新の重要度パラメータのみを記録すれば良い。

重み係数Ｗの重要度パラメータγ^Ｍａｘは、タスク＃１～タスク＃Ｔそれぞれにおける重み係数Ｗの重要度の最大値である。本実施形態では、この重要度に応じて、タスク＃Ｔ＋１の学習における重み係数Ｗの更新を抑制する。より詳しくは、タスク＃１～タスク＃Ｔの内の少なくとも１つにおける重要度が高い程、タスク＃Ｔ＋１の学習における重み係数Ｗの更新量を小さくする。

この構成により、過去タスクにおいて重要な重み係数Ｗの更新量が小さくなり、破滅的忘却の発生を抑制することができる。

なお、ＨＡＴ技術では、過去タスクにおいて重要な重み係数Ｗの更新量を略０にしているため、当該重み係数Ｗは、タスク＃Ｔ＋１の学習時には更新されず、効率的な知識転移（転移学習）の妨げとなっていた。

一方、本実施形態の重要度パラメータγ^Ｍａｘの値は、重み係数Ｗの重要度に応じて０以上、かつ、１未満の範囲で連続的に変化する。したがって、該重み係数Ｗは、タスク＃Ｔ＋１の学習時にも更新され、よって、知識転移（転移学習）が促進される。逆に、本実施形態では、過去のタスクにおいて重要な重み係数Ｗであっても、その重要度に応じて更新するため、タスク＃Ｔ＋１の学習により、過去タスクの性能が向上する、所謂、後方移転（Ｂａｃｋｗａｒｄ Ｔｒａｎｓｆｅｒ）が生じ得るという利点を有する。

図４は、本実施形態による情報処理装置１のハードウェア構成図である。情報処理装置１は、１つ以上のプロセッサ１１と、揮発性及び不揮発性メモリを含む記憶デバイス１２と、キーボード、マウス、ディスプレイ等の入出力インタフェース１３と、を有する。１つ以上のプロセッサ１１が記憶デバイス１２に格納されたプログラムを実行することで、図５に示す機能ブロックが実現される。

以下、図５に示す情報処理装置１の機能ブロックについて説明する。モデル格納部１６は、モデル情報を格納している。モデル情報は、レイヤ部１００の複数の層の各ユニットの各重み係数や、各ユニット間の接続関係等の情報を含む。また、モデル情報は、ヘッド部２００の各ヘッドの数や、各ヘッドの１つ以上の層の各ユニットの各重み係数等の情報を含む。履歴格納部１７は、例えば、タスク＃Ｔ－１の学習が終了した時点においては、各重み係数について、最大値γ^{１，Ｍａｘ}～最大値γ^{Ｔ－１，Ｍａｘ}を格納している。

学習部１５は、タスク＃Ｔの学習において、上述した順方向伝搬と逆方向伝搬を繰り返し行ってタスク＃Ｔの学習を行う。また、タスク＃Ｔの学習が完了すると、上述した様に、各重み係数について、タスク＃Ｔ＋１の学習の際に使用する重要度パラメータγ^Ｍａｘを求めて、モデル格納部１６に格納する。

図６は、タスク＃Ｔの学習の際に学習部１５が実行する処理のフローチャートである。Ｓ１０において、学習部１５は、各重み係数の重要度パラメータに基づき各重み係数の勾配を調整しながら学習セット＃Ｔにより学習を行う。

学習セット＃Ｔによる学習が完了すると、学習部１５は、Ｓ１１で、各重み係数について、タスク＃１～タスク＃Ｔそれぞれの第１重要度γ^１～γ^Ｔを求め、Ｓ１２で、各重み係数について、第１重要度の最大値γ^{Ｔ，Ｍａｘ}を求めて、履歴格納部１７に格納する。

学習部１５は、Ｓ１３において、各重み係数について、履歴格納部１７に格納されている最大値γ^{１，Ｍａｘ}～γ^{Ｔ，Ｍａｘ}の最大値を判定し、判定した最大値をタスク＃Ｔ＋１の学習において使用する重要度パラメータに設定する。重要度パラメータは、モデル格納部１６に設定される。

なお、情報処理装置として機能させるプログラムは、例えば、非一時的なコンピュータ可読記憶媒体に格納されて配布され得る。

発明は上記の実施形態に制限されるものではなく、発明の要旨の範囲内で、種々の変形・変更が可能である。

Claims (9)

1. 第１学習セットから第Ｔ－１学習セット（Ｔは２以上の整数）を順に使用することで、第１タスクから第Ｔ－１タスクを順に学習したニューラルネットワークに対して、第Ｔ学習セットを使用して第Ｔタスクを学習させるために情報処理装置が実行する方法であって、
   前記ニューラルネットワークは、複数の層を含み、前記複数の層それぞれは複数のユニットを含み、
   前記複数のユニットそれぞれは、ユニットの各入力に関連付けられた重み係数と、前記重み係数の重要度を示す重要度パラメータと、を有し、
   前記方法は、
   前記第Ｔタスクの学習において、前記第Ｔ学習セットを用いて判定した第１重み係数の第１勾配と、前記第１重み係数の前記重要度パラメータと、に基づき、前記第１重み係数を調整することと、
   前記第Ｔ学習セットを用いた学習が完了した後に、前記複数の層の内の前記第１重み係数を含む第１層に含まれる、前記第１重み係数を含む複数の第２重み係数それぞれの第２勾配を前記第Ｔ学習セットに基づき判定し、前記複数の第２重み係数それぞれの前記第２勾配に基づき、第Ｔ＋１タスクの学習において使用する前記第１重み係数の前記重要度パラメータを求めることと、
   を含む、方法。
2. 請求項１に記載の方法であって、
   前記第１重み係数を調整することは、
   前記第Ｔ学習セットを用いて判定した前記第１重み係数の前記第１勾配を、前記第１重み係数の前記重要度パラメータに基づき調整して第３勾配を求めることと、
   前記第３勾配に基づき、前記第１重み係数を調整することと、
   を含み、
   前記第３勾配の絶対値は、前記第１勾配の絶対値より小さく、
   前記第３勾配と前記第１勾配との差は、前記第１重み係数の前記重要度パラメータが示す前記第１重み係数の重要度が高い程、大きくなる、方法。
3. 請求項１に記載の方法であって、
   前記第Ｔ＋１タスクの学習において使用する前記第１重み係数の前記重要度パラメータを求めることは、
   前記複数の第２重み係数それぞれの前記第２勾配に基づき、前記第１重み係数の前記第２勾配を正規化すること、を含む方法。
4. 請求項３に記載の方法であって、
   前記第１重み係数の前記第２勾配の絶対値は、０以上、かつ、１未満の値に正規化される、方法。
5. 請求項３に記載の方法であって、
   前記第１重み係数の前記第２勾配を正規化することは、前記複数の第２重み係数それぞれの前記第２勾配の平均値と分散とを求めることを含む、方法。
6. 請求項３に記載の方法であって、
   前記第Ｔ＋１タスクの学習において使用する前記第１重み係数の前記重要度パラメータは、前記第１重み係数の正規化した前記第２勾配と、前記第Ｔタスクの学習において使用した前記第１重み係数の前記重要度パラメータとの内の大きい方である、方法。
7. 請求項３に記載の方法であって、
   前記複数の層は、前記第１タスクから前記第Ｔタスクそれぞれに対応する前記ニューラルネットワークの出力を行うための第１ヘッドから第Ｔヘッドを有し、
   前記第Ｔ＋１タスクの学習において使用する前記第１重み係数の前記重要度パラメータを求めることは、
   前記第Ｔ学習セットによる第ｔヘッド（ｔは、１からＴまでの整数）の出力に基づき、前記複数の第２重み係数それぞれの第ｔタスクにおける第４勾配を判定することと、
   前記複数の第２重み係数それぞれの前記第ｔタスクにおける前記第４勾配に基づき、前記第１重み係数の前記第ｔタスクにおける前記第４勾配を正規化することと、
   前記第１タスクから前記第Ｔタスクそれぞれの正規化した前記第４勾配の内の最大値を判定することと、を含み、
   前記第１重み係数の正規化した前記第２勾配は、前記最大値である、方法。
8. １つ以上のプロセッサを有する装置の前記１つ以上のプロセッサで実行されると、前記装置に請求項１から７のいずれか１項に記載の方法を実行させる、プログラム。
9. 情報処理装置であって、
   １つ以上のプロセッサと、
   前記１つ以上のプロセッサによって実行可能なプログラムを格納する記憶デバイスと、
   を備え、
   前記記憶デバイスは、第１学習セットから第Ｔ－１学習セット（Ｔは２以上の整数）を使用することで、第１タスクから第Ｔ－１タスクを順に学習したニューラルネットワークの複数の層それぞれに含まれる複数のユニットそれぞれについて、ユニットの各入力に関連づけられた重み係数と、前記重み係数の重要度を示す重要度パラメータと、をさらに格納しており、
   前記１つ以上のプロセッサは、前記プログラムを実行することで、第Ｔ学習セットを使用して第Ｔタスクを前記ニューラルネットワークに学習させる学習処理を前記情報処理装置に実行させ、
   前記学習処理は、
   前記第Ｔ学習セットを用いて判定した第１重み係数の第１勾配と、前記第１重み係数の前記重要度パラメータと、に基づき、前記第１重み係数を調整することと、
   前記第Ｔ学習セットを用いた学習が完了した後に、前記複数の層の内の前記第１重み係数を含む第１層に含まれる、前記第１重み係数を含む複数の第２重み係数それぞれの第２勾配を前記第Ｔ学習セットに基づき判定し、前記複数の第２重み係数それぞれの前記第２勾配に基づき、第Ｔ＋１タスクの学習において使用する前記第１重み係数の前記重要度パラメータを求めることと、
   を含む、情報処理装置。

Images