JP2000112915A - 学習装置 - Google Patents

Abstract

(57)【要約】 【課題】 学習の偏りによる局所解の収束を抑制す
ることにある。 【解決手段】 学習データを保存するデータ保存手段１
と、この保存される学習データを入力データとし、多項
式の演算またはニューラルネットワークによる演算を行
う学習装置本体部２，７と、この演算出力と学習データ
の教師信号との出力誤差をもとに、現在設定レベルを満
たすか否かを判断する多段階設定レベルの評価関数レベ
ルチェック手段４と、前記現在設定レベルが最終目標レ
ベルを満足するか否かを判断する学習終了チェック手段
５と、この学習終了チェック手段から満足しない結果が
得られたとき、前記設定レベルをより激しい設定レベル
に変更し、かつ、更新継続を指示する評価関数目標レベ
ル更新手段６と、この更新指示に従って前記多項式のパ
ラメータまたはニューラルネットワークの重み係数を更
新する学習更新アルゴリズム３，８とを設けた学習装置
である。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、複数のパラメータ
をもつ多項式やニューラルネットワークを用いた学習装
置に関する。

【０００２】

【従来の技術】近年、各種の産業分野でニューラルネッ
トワークの応用研究が盛んに行われている。これらネッ
トワークの研究対象は、階層型のニューラルネットワー
クが最も多く、その学習方法もバックプロパゲーション
法（誤差逆伝播法）が多く用いられている。

【０００３】ところで、このようなバックプロパゲーシ
ョン法は、局所解に陥ることが多く、適切な解答が得ら
れないという問題がある。そこで、かかる問題を克服す
るために、重みの更新式を変えたり、局所部分に陥入っ
たときにある確率のもとに脱出を試みる確率的なアルゴ
リズムを入れるなどの方法が考え出されている。

【０００４】

【発明が解決しようとする課題】しかしながら、以上の
ような方法では、アルゴリズムが非常に複雑になるなど
の課題を抱えており、未だ改良の余地が残されている。
また、道路交通関係でもニューラルネットワークが使用
されている。特に、非線形である交通流特性を学習する
ためにニューラルネットワークが利用されることが多い
が、学習の精度や局所解の問題などから、未だ決め手と
なるところまできておらず、この分野でも改良の余地が
残されている。

【０００５】従って、従来のニューラルネットワークを
用いた学習方法は、学習時に局所解に陥りやすいとか、
局所解に陥ることを回避するために重みの更新式や確率
的なアルゴリズムの改良がなされているが、アルゴリズ
ムが複雑化するなどの課題があり、さらに道路交通関係
に応用する場合にも同様の問題を抱えている。

【０００６】本発明は上記事情にかんがみてなされたも
ので、局所解に陥りにくい学習を実現する学習装置を提
供することにある。また、本発明の他の目的は、全ての
学習データの出力誤差を抑えるように学習し、学習デー
タに偏りのないように学習する学習装置を提供すること
にある。

【０００７】

【課題を解決するための手段】上記課題を解決するため
に、本発明は、学習データを保存する学習データ保存手
段と、この保存手段に保存される学習データを入力デー
タとし、複数のパラメータをもつ多項式の演算またはニ
ューラルネットワークによる演算を行う学習装置本体部
と、この学習装置本体部の演算出力と前記学習データで
ある教師信号との出力誤差をもとに、評価関数の現在設
定レベルを満たすか否かをチェックする多段階設定レベ
ルをもつ評価関数レベルチェック手段と、この評価関数
レベルチェック手段において現在設定レベルを満たす状
態にあるとき、前記現在設定レベルが最終目標レベルを
満足するか否かを判断し、満足するときに学習終了とす
る学習終了チェック手段と、この学習終了チェック手段
から満足しない結果が得られたとき、前記評価関数レベ
ルチェック手段の設定レベルを所定の取決めに従ってよ
り激しい設定レベルに変更し、かつ、更新継続を指示す
る評価関数目標レベル更新手段と、この更新手段の更新
継続に従って出力誤差が小さくなるように前記多項式の
パラメータまたはニューラルネットワークの重み係数を
更新する学習更新アルゴリズムとを設けた学習装置であ
る。

【０００８】この発明は、以上のような手段を講じたこ
とにより、評価関数レベルチェック手段は、多項式の演
算またはニューラルネットワークによる演算の出力と学
習データである教師信号との出力誤差をもとに、現在設
定レベルを満たすか否かをチェックし、満たしている場
合には学習終了チェック手段は現在設定レベルが最終目
標レベルを満足するか否かを判断し、満足できない場合
にはより激しい設定レベルに変更し、多項式のパラメー
タまたはニューラルネットワークの重み係数を更新し、
学習を繰り返すので、極端なパラメータや重み係数の変
更を抑えられ、局所解の収束を抑制でき、最適な学習を
実現できる。

【０００９】また、別の発明は、交通流データを学習デ
ータとして使用する場合には交通流データを正規化する
ことにより、学習ややり易いとか、学習に適するデータ
とすることができる。

【００１０】さらに、別の発明は、各学習データごとの
入力データごとに多項式の演算またはニューラルネット
ワークによる演算を行い、各演算結果と前記各学習デー
タである教師信号との出力誤差およびこれら各出力誤差
から各パラメータ更新分または各重み係数更新分を求め
る各入力学習データ毎の更新分演算手段を設け、これら
の更新分演算手段からの出力誤差の合計が最終目標レベ
ルを満足するとき、最終目標レベルを満足するか否かを
判断し、満足しないときに各学習データに対する各パラ
メータ更新分または各重み係数更新分の合計を求め、こ
の合計に基づいて各多項式のパラメータまたは各ニュー
ラルネットワークの重み係数を更新することにより、学
習レベル全てに対して一様に学習を進めることができ、
学習の偏りによる局所解の収束を回避できる。

【００１１】

【発明の実施の形態】以下、本発明装置の実施の形態に
ついて図面を参照して説明する。 （実施の形態１）図１は請求項１に係わる学習装置の一
実施の形態を示すブロック構成図である。

【００１２】同図において１は各種のシステムデータ、
センサ信号、教師信号などの学習元データ（以下、学習
データと呼ぶ）を保存する学習データ保存手段であっ
て、この保存されている学習データは複数のパラメータ
をもつ多項式を演算する多項式演算部２に導入され、ま
た教師信号として出力される。この多項式演算部２の演
算結果と教師信号との出力誤差はパラメータ更新アルゴ
リズム３および評価関数チェック手段４に送られる。

【００１３】このパラメータ更新アルゴリズム３は、例
えばカルマンフィルタなどが設けられ、出力誤差が小さ
くなるように多項式演算部２の多項式のパラメータを更
新する機能をもっている。

【００１４】前記評価関数チェック手段４は、予め複数
段階の設定レベルが設定され、出力誤差をもとに評価関
数が現在設定レベルを満足しているか否かをチェックす
る。この評価関数は一般的には出力誤差の絶対値が使用
されることが多く、本装置においても同様であると考え
るものとする。従って、評価関数チェックは、出力誤差
の絶対値が現在設定レベルより小さいか否かをチェック
する。

【００１５】５は学習の終了か否かをチェックする学習
終了チェック手段であって、評価関数チェック手段４の
出力である現在設定レベルが最終目標レベルを満足して
いるかどうかをチェックし、そのチェック結果を評価関
数目標レベル更新手段６に送出するとともに、満足して
いるときに学習終了とする。

【００１６】この評価関数目標レベル更新手段６は、学
習終了チェック手段５から満足していないという結果を
受けたとき、評価関数レベルチェック手段４に対し、学
習の指標とする評価関数の設定レベルとして１段階激し
い設定レベルへの変更指示を出し、かつ、パラメータ更
新を指示する信号をパラメータ更新アルゴリズム３に送
出する機能をもっている。従って、パラメータ更新アル
ゴリズム３は、パラメータの更新指示を受ける限り、出
力誤差が小さくするように多項式演算部２の多項式のパ
ラメータを更新し学習を継続する。

【００１７】次に、以上のような学習装置の動作につい
て説明する。予め学習データ保存手段１に保存されてい
る学習データを入力データとし、多項式演算部２が下記
（１）式で表す多項式の演算を行う。

【００１８】 Ｙ(i) ＝α１・Ｘ１(i) ＋α２・Ｘ２(i) ＋α３・Ｘ３(i) ＋……＋αｎ・Ｘｎ(i) …（１） Ｙ(i) ：ｉ番目の学習データに対する多項式の出力
（演算結果） α１〜αｎ：パラメータ（可変） Ｘ１(i) 〜Ｘｎ(i) ：ｉ番目の学習データ（入力デー
タ） その後、多項式演算部２によって演算された演算結果と
学習データ保存手段１に保存されている学習データの教
師信号とを用いて、下記（２）式により出力誤差を求め
る。

【００１９】 Ｅ(i) ＝Ｔ(i) −Ｙ(i) …（２） Ｅ(i) ：ｉ番目の学習データに対する出力誤差 Ｔ(i) ：ｉ番目の学習データの教師信号 Ｙ(i) ：ｉ番目の学習データに対する多項式の出力（演
算結果） 以上のようにして求められた出力誤差はパラメータ更新
アルゴリズム３および評価関数レベルチェック手段４に
送られる。パラメータ更新アルゴリズム３は評価関数目
標レベル更新手段６からパラメータ更新不要の指示を受
けるまで、出力誤差が小さくなる方向に多項式のパラメ
ータを更新する。

【００２０】この評価関数レベルチェック手段４は、出
力誤差が現在設定レベルより小さいか否かをチェックす
るものであって、出力誤差が現在設定レベルを満たして
いないとき、パラメータ更新アルゴリズム３にて現在設
定レベルのまま、多項式のパラメータの更新を行う。一
方、出力誤差が現在設定レベルより小さく、現在設定レ
ベルを満たしていると判断したとき、その判断結果を学
習終了チェック手段５に送出する。

【００２１】この学習終了チェック手段５は、現在設定
レベルが最終目標の設定レベルを満足しているかどうか
をチェックし、満足していれば学習終了とし、満足して
いないとき，つまり学習未終了とする結果信号を評価関
数目標レベル更新手段６に送出する。

【００２２】評価関数目標レベル更新手段６は、学習終
了チェック手段５から満足していない結果信号を受ける
と、１段階激しい学習の指標とする評価関数の設定レベ
ルに変更させるための指示を評価関数レベルチェック手
段４に出す。評価関数レベルチェック手段４は、再度出
力誤差が１段階激しい現在設定レベルよりも小さいか否
かをチェックする。一般的には、評価関数である出力誤
差の絶対値を小さくすることが学習の目的であることが
多いので、現在設定レベルに対し、例えば１／２とか、
１／５程度小さくした設定レベルに変更し、出力誤差が
新たな現在設定レベルより小さいか否かをチェックす
る。

【００２３】一方、評価関数目標レベル更新手段６は、
目標となる設定レベルが更新された後には更新された設
定レベルをもとにパラメータ更新をパラメータ更新アル
ゴリズム３に指示する。ここで、パラメータ更新アルゴ
リズム３は、多項式の演算出力が教師信号に近づくよう
に、多項式のパラメータを更新する。

【００２４】以上のような一連の動作は、学習データ全
てに対し、学習終了条件を満たすまで継続する。図２は
請求項１に係わる学習装置の他の実施の形態を示すブロ
ック構成図である。

【００２５】この実施の形態は、多項式演算部２および
パラメータ更新アルゴリズム３に代えてニューラルネッ
トワーク７およびニューラルネットワーク学習アルゴリ
ズム８を用いた構成例であり、その他の構成は図１とほ
ぼ同様の構成であるので、図１と同じ構成部分には同一
符号に添字ａを付し、その詳しい説明は省略する。

【００２６】このニューラルネットワーク７は、入力
層，中間層，出力層の３層からなる階層型ニューラルネ
ットワークやフィードバック要素を含むリカレント型ニ
ューラルネットワーク等があるが、一般的には階層型が
多く使用されているので、ここでは階層型ニューラルネ
ットワークを用いた場合について説明する。

【００２７】以下、図２に示す装置の動作を説明する。
ニューラルネットワーク７は、学習データ保存手段１に
保存されている学習データを入力データとし、順次重み
係数を可変し下記する演算を実行し、演算結果を出力す
る。

【００２８】 ＹＮ(i) ＝ＮＮ｛ＸＮ１(i) ，ＸＮ２(i) ，…，ＸＮｎ(i) ，ｗ｝…（３） ＹＮ(i) ：ｉ番目の学習データに対するネットワー
クの出力 ｗ ：重み係数（ここでは総括してｗとするが、複
数個ある） ＸＮ１(i) 〜ＸＮｎ(i) ：ｉ番目の学習データのニュー
ラルネットワークに対する入力 この（３）式の演算によってニューラルネットワーク７
の出力を得た後、教師信号を用いて、下記（４）式によ
り出力誤差を求め、ニューラルネットワーク学習アルゴ
リズム８および評価関数レベルチェック手段４ａに送出
する。

【００２９】 Ｅ(i) ＝ＴＮ(i) −ＹＮ(i) …（４） Ｅ(i) ：ｉ番目の学習データに対する出力誤差 ＴＮ(i) ：ｉ番目の学習データの教師信号 ＹＮ(i) ：ｉ番目の学習データに対するニューラルネ
ットワークの出力 ここで、評価関数レベルチェック手段４ａ、学習終了チ
ェック手段５ａおよび評価関数目標レベル更新手段６ａ
の動作は図１と同様であるので、ここではその説明は省
略する。

【００３０】前記ニューラルネットワーク学習アルゴリ
ズム８は、出力誤差に基づいて重み係数の更新分を演算
し、ニューラルネットワーク７の重み係数を更新する。
ここで、ニューラルネットワーク学習アルゴリズム８
は、階層型の場合には一般的にはバックプロパゲーショ
ン法（誤差逆伝播法）が用いられる。

【００３１】従って、以上のような実施の形態によれ
ば、予め評価関数レベルチェック手段４，４ａに多段階
の設定レベルを設定し、最初は最も大きな設定レベルを
設定し、出力誤差が設定レベルを満たすか否かをチェッ
クし、満たす場合には学習終了でないことを前提に順次
激しい方向に設定レベルを変更し、出力誤差が小さくな
るように多項式のパラメータまたはニューラルネットワ
ーク７の重み係数を更新し学習するので、学習初期段階
におけるパラメータまたは重み係数の集中を回避し、局
所解に陥りにくい状態で学習することができる。 （実施の形態２）図３は請求項２に係わる学習装置の一
実施の形態を示す構成図である。

【００３２】この実施の形態は交通流特性の学習に図１
または図２に示す学習装置を適用する例である。本装置
においては、交通流を調査する場所に所要とする計測器
等を設置し、これら計測器により交通量、密度、空間平
均速度等の交通流データを計測し、交通流データ保存手
段１１に保存する。この交通流データ保存手段１１に
は、計測器等から入手したある一定の過去交通流データ
（例えば過去２時間分，過去１日分，過去１週間分等）
および現在交通流データ（例えば交通量，密度，空間平
均速度等）が保存される。

【００３３】データ正規化手段１２は、交通流データ保
存手段１１に保存されている交通流データを正規化し、
学習用のデータに正規化したデータを作成する。ここ
で、対象とする学習データとしては図１に示す多項式演
算部２またはニューラルネットワーク７の入力データお
よび教師信号を含むものである。

【００３４】正規化の方法としては、例えば関数変換に
より正規分布に変換する手法が用いられる。例えば交通
流データを例にとると、交通流データＱの最大値Ｑmax
（考えられるデータの最大値＋αもしくは入手データ内
の最大値＋α）と最小値Ｑmin （考えられるデータの最
小値＋αもしくは入手データ内の最小値＋α）を決定
し、全ての学習データがある一定の範囲Ｒmin 〜Ｒmax
内に収まるようにデータ変換を行うものである。

【００３５】例えば学習データとして例えば交通量デー
タＱ、密度データＫ、空間平均速度データＶが存在する
場合、以下のようなステップにより正規化を行う。 ステップ１：各交通流データの最大値、最小値を決定す
る。

【００３６】交通量データの最大値Ｑmax 、最小値Ｑmi
n 、密度データの最大値Ｋmax 、最小値Ｋmin 、空間平
均速度データの最大値Ｖmax 、最小値Ｖmin を決定す
る。 ステップ２：学習データを納めたい範囲を決定する。

【００３７】学習データを納めたい範囲の最大値Ｒmax
、最小値Ｒmin を決定する。一般的にはＲmin ＝−Ｒm
ax である。 ステップ３：各交通流データがＲmax 〜Ｒmin に収まる
ように正規化する。

【００３８】先ず、各種のデータを±１に座標変換す
る。例えば交通量データの場合、正規化係数ＲＧq 、交
通量データの中点Ｑ0 とすると、それぞれ下記演算式に
より求める。

【００３９】 正規化係数ＲＧq ＝（｜Ｑmax −Ｑmin ｜）／２ …（５） 中点Ｑ0 ＝Ｑmax −ＲＧq …（６） よって、交通量データＱは下記の（７）式により±１の
範囲に変換できる。

【００４０】 Ｑ′＝（Ｑ−Ｑ0 ）／ＲＧq …（７） ±１位内のデータに変換後、Ｑ′にＲmax を掛け合わせ
ることにより、目標の正規化範囲のデータに変換する。
ここでは、Ｒmin ＝−Ｒmax とする。

【００４１】図４は正規化の状態をイメージで表した図
である。縮尺等は特に考慮していない。この際、±１に
変換するための元データによっては微小な違いがでない
場合があるので、この場合には±１００に変換したり、
変換後に違いが出るように学習データを選択する必要が
ある。また、変換後のデータとしてはデータ間の違いが
顕著に現れるように学習データを選択する必要がある。

【００４２】このような正規化作業は他の種類のデータ
（例えば密度や速度等）に対しても同様に行う。つま
り、学習データにおける入力データおよび教師信号の正
規化を行うことになる。

【００４３】以上のようにして正規化された学習データ
は多項式演算部２またはニューラルネットワーク７の入
力データおよび教師信号として用い、多項式演算または
ニューラルネットワーク７による演算を実施し、これら
の演算結果と教師信号との出力誤差を取出す。そして、
図１または図２に示す評価関数レベルチェック手段４ま
たは４ａは、得られた出力誤差が現在設定レベルを満た
すか否かを判断し、満たさない場合にはアルゴリズム
３，８が出力誤差を小さくするように多項式のパラメー
タまたはニューラルネットワーク７の重み係数を更新
し、一方、出力誤差が現在設定レベルを満たす場合には
学習を終了する。

【００４４】その他の動作は図１、図２の装置と同様で
あり、ここではその説明は省略する。従って、以上のよ
うな実施の形態によれば、交通流データとして様々な各
種のデータが存在する場合でも、正規化し、同じ範囲の
データとすることにより、効率よく実施の形態１の学習
装置を使用することができる。また、学習データである
入力データと教師信号とを同じ範疇に正規化しているの
で、学習しやすいといった利点がある。

【００４５】さらに、正規化の際、ニューラルネットワ
ーク７の学習にとって都合が良いように正規化すること
ができる。例えば交通量データの分布状況を調べ、前述
した（６）式の中点に当たる値を、最頻値にし、正規分
布となるように変換を行う。

【００４６】よって、図１または図２の学習装置を交通
流特性の学習に適用すれば、複雑なアルゴリズムを採用
するなく、交通流特性を最適に学習できる。 （実施の形態３）図５は請求項３に係わる学習装置の一
実施の形態を示す構成図である。

【００４７】この実施の形態は全ての学習データに対し
て一様に出力誤差が少なくなるように学習する例であ
る。この学習装置は、図１，図２と同様な学習データ保
存手段１と、各学習データ１，２，…，ｎごとに設けら
れたパラメータ更新分演算手段１４−１，１４−２，
…，１４−ｎと、全ての学習データに対する出力誤差の
絶対値を合計演算する出力誤差絶対値合計手段１５と、
この出力誤差絶対値合計手段１５の出力である演算合計
値を基に学習終了か否かをチェックする学習終了チェッ
ク手段１６と、各学習データに対する各パラメータ更新
分を合計演算するパラメータ更新分合計手段１７と、こ
の各パラメータ更新分合計に基づいて各多項式演算部２
−１，２−２，…，２−ｎのパラメータを更新する多項
式パラメータ更新手段１８とによって構成されている。

【００４８】前記パラメータ更新分演算手段１４−１，
１４−２，…，１４−ｎは、各学習データ１，２，…，
ｎ入力信号ごとの多項式演算部２−１，２−２，…，２
−ｎの他、これら多項式演算部の演算結果と各学習デー
タ１，２，…，ｎ教師信号とから出力誤差を求める出力
誤差演算部と、これら出力誤差演算部から得られる出力
誤差から各パラメータ更新分を求めるパラメータ更新分
演算部１９−１，１９−２，…，１９−ｎとが設けられ
ている。

【００４９】次に、図５に示す装置の動作について説明
する。各パラメータ更新分演算手段１４−ｉ（ｉ＝１，
２，…，ｎ）は、学習データ保存手段１からｉ番目の学
習データｉの入力データを入手し、多項式演算部２−ｉ
にて多項式の演算を実行し、その演算結果を出力する。
そして、この演算出力と学習データｉの教師信号とから
ｉ番目の学習データに対する出力誤差を演算する。さら
に、このｉ番目の学習データに対する出力誤差を基にｉ
番目の学習データに対する各パラメータ更新分を演算す
る。これら演算動作は全ての学習データ１，２，…，ｎ
に対して行い、各学習データ１，２，…ｎに対する出力
誤差が出力誤差絶対値合計手段１５に送られ、また各学
習データ１，２，…ｎに対する各パラメータ更新分がパ
ラメータ更新分合計手段１７に送られる。

【００５０】この出力誤差絶対値合計手段１５は、各パ
ラメータ更新分演算手段１４−１，１４−２，…，１４
−ｎにて演算される全ての学習データ１，２，…，ｎに
対する出力誤差の絶対値を合計して学習終了チェック手
段１６に送出する。

【００５１】この学習終了チェック手段１６は、出力誤
差絶対値の合計を基に学習終了か否かをチェックする。
この学習終了チェックに関しては、図１，図２の学習終
了チェック手段５，５ａと同様に合計値が予め定める最
終目標設定値を満足しているかどうかをチェックし、満
足していれば学習を終了し、満足していない場合にはパ
ラメータ更新分合計手段１７に学習未終了を通知する。

【００５２】ここで、パラメータ更新分合計手段１７
は、満足していない学習未終了の通知を受けると、パラ
メータ更新分演算部１９−１，１９−２，…，１９−ｎ
により演算された全ての学習データに対するパラメータ
更新分を各パラメータ毎に合計し、その後、多項式パラ
メータ更新手段１８は各パラメータ毎のパラメータ更新
分の合計を基に多項式のパラメータを更新する。

【００５３】以上のような一連の処理は学習終了条件を
満たすまで学習を繰り返す。図６は請求項３に係わる学
習装置の他の実施の形態を示す構成図である。この実施
の形態は、多項式演算に代えてニューラルネットワーク
７−１，７−２，…，７−ｎを用いた例である。

【００５４】この学習装置は、各パラメータ更新分演算
手段１４−１，１４−２，…，１４−ｎに代えて重み係
数更新分演算手段２０−１，２０−２，…，２０−ｎを
設け、また各パラメータ更新分演算部１９−１，１９−
２，…，１９−ｎに代えて各重み係数更新分演算部２１
−１，２１−２，…，２１−ｎを設けたものであるさら
に、図５と同様に出力誤差絶対値合計手段１５ａ、学習
終了チェック手段１６ａ、重み係数更新分合計手段２２
およびニューラルネットワーク重み係数更新手段２３が
設けられている。

【００５５】このような学習装置によれば、重み係数更
新分演算手段２０−ｉ（ｉ＝１，２，…，ｎ）では、学
習データ保存手段１よりｉ番目の学習データｉの入力デ
ータを入手し、ニューラルネットワーク７−ｉにて重み
係数のもとに演算を実行し、その演算結果を出力する。
そして、この演算出力と学習データｉの教師信号とから
ｉ番目の学習データに対する出力誤差を演算する。さら
に、このｉ番目の学習データに対する出力誤差を基にｉ
番目の学習データに対する各重み係数更新分を演算す
る。これらの演算動作は全ての学習データ１，２，…，
ｎに対して行い、各学習データ１，２，…ｎに対する出
力誤差が出力誤差絶対値合計手段１５ａに送られ、また
各学習データ１，２，…ｎに対する各重み係数更新分が
重み係数更新分合計手段２２に送られる。

【００５６】この出力誤差絶対値合計手段１５ａは、重
み係数更新分演算手段２０−１，２０−２，…，２０−
ｎにて演算される全ての学習データ１，２，…，ｎに対
する出力誤差の絶対値を合計して学習終了チェック手段
１６ａに送出する。

【００５７】この学習終了チェック手段１６ａは、出力
誤差絶対値の合計を基に学習終了か否かをチェックす
る。この学習終了チェックは図５と同じ動作を行い、満
足していれば学習を終了し、満足していない場合には重
み係数更新分合計手段２２に学習未終了を通知する。

【００５８】ここで、重み係数更新分合計手段２２は、
学習未終了の通知を受けると、各重み係数更新分演算部
２１−１，２１−２，…，２１−ｎにより演算された全
ての学習データに対する重み係数更新分を各重み係数毎
に合計し、その後、ニューラルネットワーク重み係数更
新手段２３にて各重み係数毎の重み係数更新分の合計を
基にニューラルネットワーク７−１，７−２，…，７−
ｎの重み係数を更新する。

【００５９】以上のような一連の処理は学習終了条件を
満たすまで学習を繰り返す。従って、以上のような実施
の形態によれば、対象となる学習データ全てに対して一
様に出力誤差を抑えるように学習を進めることができ、
学習のかたよりや学習の偏りによる局所解への収束を減
らすことができる。 （実施の形態４）図７は請求項４に係わる学習装置の一
実施の形態を示すブロック構成図である。

【００６０】この実施の形態は図１の構成と図５の構成
とを組合わせた例である。この学習装置は、図５と同様
の学習データ保存手段１およびパラメータ更新分演算手
段１４−１，１４−２，…，１４−ｎの他、各学習デー
タに対する出力誤差の絶対値を合計演算する出力誤差絶
対値合計手段１５、この合計手段１５の出力誤差絶対値
の合計を基に評価関数の現在設定レベルを満足している
か否かをチェックする評価関数レベルチェック手段４
ｂ、学習終了チェック手段５ｂ、学習終了でないときに
評価関数レベルチェック手段４ｂに対して順次より激し
い設定レベルへの変更指示を送出し、またパラメータ更
新分合計手段１７ａに対してパラメータ更新を指示する
評価関数目標レベル更新手段６ｂ、各学習データに対す
る各パラメータ更新分を合計演算するパラメータ更新分
合計手段１７ａおよび多項式パラメータ更新手段１８ａ
によって構成されている。

【００６１】次に、以上のような装置の動作について説
明する。先ず、各パラメータ更新分演算手段１４−１，
１４−２，…，１４−ｎから各学習データに対する出力
誤差が得られると、出力誤差絶対値合計手段１５では各
学習データに対する出力誤差絶対値の合計演算を行い、
評価関数レベルチェック手段４ｂに送出する。

【００６２】この評価関数レベルチェック手段４ｂは、
出力誤差絶対値合計手段１５から得られる出力誤差絶対
値の合計を基に評価関数の現在設定レベルを満足してい
るか否かについてチェックする。

【００６３】この評価関数レベルチェック手段４ｂにお
いて現在設定レベルを満たしていると判断されたとき、
学習終了チェック手段５ｂにて現在設定レベルが最終目
標の設定レベルを満足しているか否かをチェックし、満
足していれば学習を終了させる。現在設定レベルが最終
目標の設定レベルを満足していない場合、評価関数目標
レベル更新手段６ｂは、学習の指標とする評価関数の設
定レベルの変更指示を評価関数レベルチェック手段４ｂ
に送出する。

【００６４】この評価関数レベルチェック手段４ｂは、
変更指示を受けると前回の設定レベルよりも１段階激し
い設定レベルに変更し、当該設定レベルを満たすか否か
をチェックする。

【００６５】また、評価関数目標レベル更新手段６ｂ
は、学習終了チェック手段５ｂから満足していない結果
を受けると、パラメータ更新分合計手段１７ａにパラメ
ータの更新継続を通知する。

【００６６】ここで、パラメータ更新分合計手段１７ａ
は、パラメータ更新分演算部１９−１，１９−２，…，
１９−ｎにより演算される全ての学習データに対するパ
ラメータ更新分を各パラメータ毎に合計する。その後、
多項式パラメータ更新手段１８ａは各パラメータ毎の合
計に基づいて各多項式演算部２−１，２−２，…のパラ
メータを更新する。

【００６７】以上のような一連の処理は学習終了条件を
満たすまで学習を繰り返し続ける。図８は請求項４に係
わる学習装置の他の実施の形態を示す構成図である。こ
の実施の形態は、図１の構成と図６の構成とを組合わせ
た例であり、パラメータ更新分演算手段１４−１，１４
−２，…，１４−ｎに代えてニューラルネットワーク７
−１，７−２，…，７−ｎおよび各重み係数更新分演算
部２１−１，２１−２，…，２１−ｎをもつ重み係数更
新分演算手段２０−１，２０−２，…，２０−ｎを設け
たものであり、重み係数を扱うことを除けば、図７と同
様の動作を行う。

【００６８】以下、ニューラルネットワークを用いる学
習装置（図２、図６および図８）の学習処理動作につい
て図９を参照して説明する。 ステップＳ１：各重み係数更新分演算手段２０−１，２
０−２，…，２０−ｎは学習データ保存手段１に保存さ
れている学習データを呼び出す。この学習データは入力
データと教師信号とにより構成され、複数の入力データ
と教師信号との組によって構成される。入力データはニ
ューラルネットワーク７−１，７−２，…，７−ｎの入
力となり、これらニューラルネットワーク７−１，７−
２，…，７−ｎは、ニューラルネットワーク出力が教師
信号に近づくように学習を行う。

【００６９】ステップＳ２：各重み係数更新分演算手段
２０−１，２０−２，…，２０−ｎは学習データを呼び
出した後、学習データに対する出力誤差の演算および重
み係数更新分の演算を行う。

【００７０】この重み係数更新分演算手段２０−ｉ（ｉ
＝１，２，…）の演算処理は図１０に示す通りである。
つまり、学習データ保存手段１から得られる学習データ
のうち、１組目の学習データの入力データをニューラル
ネットワーク７に入力し、重み係数をのもとに演算を実
行する。そして、ニューラルネットワーク７の出力ＹＮ
(1) と学習データの中の１組目の学習データの教師信号
ＴＮ１とを用いて出力誤差Ｅを演算する（Ｓ１１〜Ｓ１
４）。ここで、ニューラルネットワーク７の出力の演算
は前記（３）式を用いて行い、出力誤差の演算は例えば
前記（４）式を用いて行う。

【００７１】次に、出力誤差をもとに、ニューラルネッ
トワーク出力が教師信号に近づくための重み係数ｗ１，
ｗ２，…，ｗｍの更新すべき量△ｗ１，△ｗ２，…，△
ｗｍを演算する。この演算方法は、例えばバックプロパ
ゲーション法を用い、出力誤差の各重み係数に対する偏
微分を演算することにより求めることが可能である（Ｓ
１５〜Ｓ１８）。例えば１組目の学習データに対する重
み係数の更新すべき量（更新分）は下記式等を用いて求
める（Ｓ２０〜Ｓ２２）。

【００７２】

【数１】

【００７３】ｗｊ：重み係数（ｊ＝１〜ｍ） △ｗｊ：重み係数ｗｊの更新分（ｊ＝１〜ｍ） αｊ ：パラメータ Ｅ(1) ：１組目の学習データに対する出力誤差 学習データの全てに対し、上記演算を行い、学習データ
全てに対する出力誤差（Ｓ１１〜Ｓ１４，Ｓ１９）およ
び重み係数更新分の演算を行う（Ｓ１５〜Ｓ２３）。 ステップＳ３：出力誤差の絶対値の合計および学習のレ
ベルチェック。この出力誤差の絶対値の合計は下記
（９）式を用いて求める。

【００７４】

【数２】

【００７５】以上のようにして演算された出力誤差絶対
値の合計をもとに、評価関数レベルチェック手段４ａ，
４ｃが現在設定レベルＬを満足しているか否かをチェッ
クする。ここでは、学習の進度を判断する指標となる評
価関数を出力誤差の絶対値の合計Ｅａｌｌを総学習デー
タ数で割り算したものを使用する。このＥａｌｌを総学
習データ数で割ったものが現在の設定レベルＬ以下であ
るか否かをチェックする。Ｌ以下の場合には（Ｅａｌｌ
＜Ｌ）、ステップＳ４に進む。Ｌ以上の場合（Ｅａｌｌ
＞Ｌ）にはステップＳ５に進む。

【００７６】ステップＳ４：ここでは、学習終了チェッ
ク手段５ｃにて最終目標レベルのチェックを行う。つま
り、ステップＳ３において満足されたと判断された現在
設定レベルが学習の最終目標であるか否かをチェックす
る。最終目標である場合には学習を終了とする。最終目
標でない場合にはステップＳ６に進む。

【００７７】ステップＳ５：ステップＳ３におけるレベ
ルチェックにて現在設定レベルが満足されていなかった
とき、ステップＳ２において演算された前学習データに
対する各重み係数の更新分を各重み係数毎に合計したも
のをもとに、重み係数の更新を行う。重み係数の更新は
例えば（１０）式のように行う。

【００７８】 ｗｊ＝ｗｐｊ＋△ｗａｌｌｊ …（１０） ｗｊ ：重み係数（ｊ＝１〜ｍ） ｗｐｊ：更新する前の重み係数（ｊ＝１〜ｍ） △ｗａｌｌｊ：重み係数ｗｊの更新分を全学習データ分
を合計したもの（ｊ＝１〜ｍ） また、下記（１１）式のように慣性項を追加する方法も
一般である。

【００７９】 ｗｊ＝ｗｐｊ＋△ｗａｌｌｊ＋βｊ△ｗｐａｌｌｊ …（１１） 但し、上式において△ｗｐａｌｌｊ：前回更新したとき
の重み係数ｗｊの更新分を全学習データ分合計したもの
（ｊ＝１〜ｍ）、βｊ：パラメータである。

【００８０】そして、以上のようにして重み係数の更新
後はステップＳ２に戻る。 ステップＳ６：ステップＳ４において最終目標レベルを
満足したいない場合には、１段階激しい設定レベルに変
更する。ここでは、評価関数（出力誤差絶対値の合計値
を総学習データ数で割ったもの）が小さくなるように学
習を進めていることから、１段階激しいレベル、例えば
現在設定レベルの１／２または１／５等に変更し、この
レベル更新後にはステップＳ２に戻る。

【００８１】以上のようにしてステップＳ１〜Ｓ６まで
の処理は学習が終了するまで繰り返し実行する。従っ
て、以上のような実施の形態によれば、対象となる学習
データ全てに対して一様に学習を進めることができ、学
習データによる学習のかたまりや学習の偏りによる局所
解への収束が従来より減少させることができる。

【００８２】また、学習を数段階のレベルに分けること
により、極端な重み係数の変更を少くすることができ、
ニューロン素子の出力の飽和を減少でき、局所解への収
束が従来よりも大幅に減らすことができる。

【００８３】なお、本実施の形態だけでなく、他の実施
の形態においてもニューラルネットワークを用いたもの
には同様の効果を奏することができる。 （実施の形態５）図１１は請求項５に係わる学習装置の
一実施の形態を示す構成図である。

【００８４】この実施の形態は、図７、図８に示す装置
を交通流特性の学習に適用した例である。この交通流特
性を学習する学習装置は、図３と全く同様な構成であっ
て、過去および現在の交通流データを保存する交通流デ
ータ保存手段１１と、この保存手段１１に保存されてい
る交通流データを、パラメータ更新分演算手段１４−
１，…または重み係数更新分演算手段２０−１，…の学
習に最適とする学習データ（入力データおよび教師信
号）に正規化する正規化手段１２とが設けられ、ここで
正規化された学習データは入力データおよび教師信号と
して用いられる。

【００８５】なお、正規化方法は前述した通りである。
従って、以上のような実施の形態によれば、交通流デー
タとして各種のデータが存在する場合でも、正規化し、
同じ範囲のデータとすることにより、効率良く学習装置
に適用できる。また、学習データである入力信号および
教師信号を同じ範疇で正規化するので、学習がやりやす
い等の効果を有する。

【００８６】さらに、正規化の際、ニューラルネットワ
ーク７の学習にとって取扱い易いように正規化できる。 （実施の形態６）図１２は請求項６に係わる学習装置の
一実施の形態を示す構成図である。

【００８７】この実施の形態は、交通流データの他、走
行所要時間データを用いて正規化し、図７、図８の学習
装置に適用する例である。具体的には、過去および現在
の交通流データを保存する交通流データ保存手段１１、
計測器などから得られる過去および現在の走行所要時間
データを保存する走行所要時間データ保存手段２６およ
びこれら保存手段１１，２６に保存されている交通流デ
ータ、走行所要時間データを学習用に正規化するデータ
正規化手段１２ａが設けられ、ここで正規化された学習
データは図７、図８の入力データおよび教師は信号とし
て用いるものである。

【００８８】従って、以上のような実施の形態によれ
ば、交通流データだけでなく、走行所要時間データ等の
入力データおよび出力データに各種のデータが存在する
場合でも、正規化し、同じ範囲のデータとすることによ
り、図７，図８に示す装置の学習に効率良いデータを提
供できる。また、学習データである入力データ（ここで
は交通流データ）と教師信号（ここでは走行所要時間デ
ータ）とを同じ範疇で正規化しているので、学習がやり
やすいという利点がある。 （その他の実施の形態）上記実施の形態では、交通流デ
ータ、走行所要時間データ等（必ず正のデータ）の交通
関係データについて述べたが、学習データに正負が混在
している場合でも、正規化を適切に行うことにより、図
７、図８に示す装置に適用可能である。

【００８９】また、学習データは複数の入力データと教
師信号との組みでできているものを対象としたが、これ
を１グループとし、複数の学習データグループに対して
も適用できる。この場合には、学習したいデータを特徴
のある学習データグループに分割し学習を行うことが有
効である。例えば交通流データを例にとると、学習デー
タグループを、平日データ、休日データ、休日前デー
タ、連休データ等のグループに分割し、それぞれの学習
データグループを学習し終わるまで学習を続ければよ
い。

【００９０】

【発明の効果】以上説明したように本発明によれば、学
習を数段階のレベルに分け、極端なパラメータや重み係
数の変更を抑えつつより激しいレベルを設定しながら学
習でき、例えばニューロン素子の出力の飽和を抑制し、
従来と比較し局所解への収束を減らすことができる。

【００９１】また、対象となる学習データ全てに対して
一様に学習を進めることができ、学習データによる学習
の偏りや、学習の偏りによる局所解への収束を抑制でき
る。さらに、交通流データとして各種のデータが存在す
る場合でも、正規化し、同じ範囲のデータとすることに
より、効率良く学習装置に適用できる。また、学習デー
タである入力信号および教師信号を同じ範疇で正規化す
るので、学習がやりやすい等の効果を有する。

【図面の簡単な説明】

【図１】 請求項１に係わる学習装置の一実施の形態を
示すブロック構成図。

【図２】 請求項１に係わる学習装置の他の実施の形態
を示すブロック構成図。

【図３】 請求項２に係わる学習装置の一実施の形態を
示すブロック構成図。

【図４】 正規化のイメージを表す図。

【図５】 請求項３に係わる学習装置の一実施の形態を
示すブロック構成図。

【図６】 請求項３に係わる学習装置の他の実施の形態
を示すブロック構成図。

【図７】 請求項４に係わる学習装置の一実施の形態を
示すブロック構成図。

【図８】 請求項４に係わる学習装置の他の実施の形態
を示すブロック構成図。

【図９】 ニューラルネットワークを用いた学習装置の
動作を説明するフローチャート。

【図１０】 全学習データに対する重み係数更新分を求
めるフローチャート。

【図１１】 請求項５に係わる学習装置の一実施の形態
を示すブロック構成図。

【図１２】 請求項６に係わる学習装置の他の実施の形
態を示すブロック構成図。

【符号の説明】

１…学習データ保存手段 ２…多項式演算部 ３…パラメータ更新アルゴリズム ４，４ａ…評価関数レベルチェック手段 ５，５ａ…学習終了チェック手段 ６，６ａ…評価関数目標レベル更新手段 ７…ニューラルネットワーク ８…ニューラルネットワーク学習アルゴリズム １４−１，１４−２，… …パラメータ更新分演算手段 １５，１５ａ…出力誤差絶対値合計手段 １６，１６ａ…学習終了チェック手段 １７…パラメータ更新分合計手段 １８…多項式パラメータ更新手段 ２０−１，２０−２，… …重み係数更新分演算手段 ２２…重み係数更新分合計手段 ２３…ニューラルネットワーク重み係数更新手段

Claims (6)

【特許請求の範囲】
1. 【請求項１】 学習データを保存する学習データ保存手
   段と、 この保存手段に保存される学習データを入力データと
   し、複数のパラメータをもつ多項式の演算またはニュー
   ラルネットワークによる演算を行う学習装置本体部と、 この学習装置本体部の演算出力と前記学習データである
   教師信号との出力誤差をもとに、評価関数の現在設定レ
   ベルを満たすか否かをチェックする多段階設定レベルを
   もつ評価関数レベルチェック手段と、 この評価関数レベルチェック手段において現在設定レベ
   ルを満たす状態にあるとき、前記現在設定レベルが最終
   目標レベルを満足するか否かを判断し、満足するときに
   学習終了とする学習終了チェック手段と、 この学習終了チェック手段から満足しない結果が得られ
   たとき、前記評価関数レベルチェック手段の設定レベル
   を所定の取決めに従ってより激しい設定レベルに変更
   し、かつ、更新継続を指示する評価関数目標レベル更新
   手段と、 この更新手段の更新継続に従って出力誤差が小さくなる
   ように前記多項式のパラメータまたはニューラルネット
   ワークの重み係数を更新する学習更新アルゴリズムとを
   備えたことを特徴とする学習装置。
2. 【請求項２】 請求項１に記載する学習装置において、 交通流データを保存する交通流データ保存手段と、この
   交通流データ保存手段に保存されている交通流データを
   正規化し、入力データおよび教師信号をもつ学習データ
   を取得するデータ正規化手段とを設けたことを特徴とす
   る学習装置。
3. 【請求項３】 学習データを保存する学習データ保存手
   段と、 この保存手段に保存される各学習データごとに入力デー
   タとし、それぞれ複数のパラメータをもつ多項式の演算
   またはニューラルネットワークによる演算を行い、各演
   算結果と前記各学習データである教師信号との出力誤差
   およびこれら各出力誤差から各パラメータ更新分または
   各重み係数更新分を求める各入力学習データ毎の更新分
   演算手段と、 これら更新分演算手段からの出力誤差を合計演算する出
   力誤差合計手段と、 この出力誤差合計手段からの出力誤差の合計値が最終目
   標レベルを満足するか否かを判断し、満足するときに学
   習終了とする学習終了チェック手段と、 この学習終了チェック手段から満足しない結果が得られ
   たとき、各入力学習データ毎更新分演算手段からの各学
   習データに対する各パラメータ更新分または各重み係数
   更新分の合計を求める更新分合計手段と、 この更新分合計手段によって得られる各パラメータ更新
   分または各重み係数更新分の合計に基づいて前記多項式
   のパラメータまたはニューラルネットワークの重み係数
   を更新する更新手段とを備えたことを特徴とする学習装
   置。
4. 【請求項４】 学習データを保存する学習データ保存手
   段と、 この保存手段に保存される各学習データごとに入力デー
   タとし、それぞれ複数のパラメータをもつ多項式の演算
   またはニューラルネットワークによる演算を行い、各演
   算結果と前記各学習データである教師信号との出力誤差
   およびこれら各出力誤差から各パラメータ更新分または
   各重み係数更新分を求める各入力学習データ毎の更新分
   演算手段と、 これら更新分演算手段からの出力誤差を合計する出力誤
   差合計手段と、 この出力誤差合計手段からの出力誤差の合計値が評価関
   数の現在設定レベルを満たすか否かをチェックする多段
   階の設定レベルをもつ評価関数レベルチェック手段と、 この評価関数レベルチェック手段において現在設定レベ
   ルを満たす状態にあるとき、前記現在設定レベルが最終
   目標レベルを満足するか否かを判断し、満足するときに
   学習終了とする学習終了チェック手段と、 この学習終了チェック手段から満足しない結果が得られ
   たとき、前記評価関数レベルチェック手段の設定レベル
   を所定の取決めに従ってより激しい設定レベルに変更
   し、かつ、更新継続を出力する評価関数目標レベル更新
   手段と、 この更新手段から更新継続を受けたとき、前記更新分演
   算手段からの各学習データに対する各パラメータ更新分
   または各重み係数更新分の合計を求める更新分合計手段
   と、 この更新分合計手段によって得られる各パラメータ更新
   分または各重み係数更新分の合計に基づいて前記多項式
   のパラメータまたはニューラルネットワークの重み係数
   を更新する更新手段とを備えたことを特徴とする学習装
   置。
5. 【請求項５】 請求項３または請求項４に記載する学習
   装置において、 交通流データを保存する交通流データ保存手段と、この
   交通流データ保存手段に保存されている交通流データを
   正規化し、入力データおよび教師信号をもつ学習データ
   を取得するデータ正規化手段とを設けたことを特徴とす
   る学習装置。
6. 【請求項６】 請求項３または請求項４に記載する学習
   装置において、 交通流データを保存する交通流データ保存手段と、走行
   所要時間データを保存する走行所要時間データ保存手段
   と、これら交通流データおよび走行所要時間データを正
   規化し、入力データおよび教師信号をもつ学習データを
   取得するデータ正規化手段とを設けたことを特徴とする
   学習装置。