JPH0887589A - パターン学習方法 - Google Patents

Abstract

(57)【要約】 （修正有） 【目的】 対象物の角度の変化や回転にも対応した判別
を行うことができるように、対象となるパターンをView
-Invariantに学習することができる方法を提供する。 【構成】 ステップ１において画像中の全ての画素を均
等に学習対象とするために、画像中の画素を一つずつラ
ンダムに選び、ステップ２において選ばれた画素の座標
値を２次元状に分布するニューラルネットワークに呈示
して、この座標値と最も近い値を結合重み値として持つ
最適マッチング細胞を探し、ステップ３において隣接細
胞について各細胞の担当する特徴の抽出を行う。ステッ
プ４において最適マッチング細胞とその隣接細胞の持つ
結合重み値を、選ばれた画素の座標値に近づけるように
学習を行う。次に、ステップ５において学習が収束した
か否かの判断がなされ、収束してしない場合は再度ステ
ップ１からステップ４を繰り返し、収束している場合
は、学習を終了させる。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、ニューラルネットワー
クのパターン学習方法に関し、特に詳細にはニューラル
ネットワークの多数の細胞に、所定の特徴部分を有する
顔等のパターンをその角度や回転に対して不変に（View
-Invariant）学習させる方法に関するものである。

【０００２】

【従来の技術】物体の判別を行うモデルの研究において
従来的な手法では実現が難しかった課題として、対象と
する物体の角度や回転に不変（View-Invariant）な判別
がある。このようなView-Invariantな判別を行うことが
できれば、対象とする物体がいかなる方向を向いていて
も良好な物体の判別を行うことができるが、従来の画像
処理の手法（例えばテンプレートマッチングによる手
法）では、対象物のモデルが固定されているため、物体
の様々な変化に対応することができなかった（高木、下
田、画像処理ハンドブック、pp172-205 、1991、東京大
学出版）。

【０００３】このような問題を解決するための手段とし
て、近年人間の脳の仕組みを人工的に模倣したモデルが
提案されている。例えば、ガボール関数を利用した手法
による歪みに強いモデル（J.Buhmann,J.Lange,and C.vo
n dor Malaburg,DistortionInvariant Object Recognit
ion by Matching Hierarchically labeled Graphs.IJCN
N 1989,Vol.1,Jun.1989,155-159 ）、高次ネットを用い
た位置、尺度、回転に対してインバリアントなモデル
（MAX B Reid,Lilly Spirkovska,and Ellen Ochoa,Simu
ltaneous position scale and rotation invariant pat
tern classification using third-order networks,Ne
ural Networks,voll,NO.3,July1989）が提案されてい
る。

【０００４】また、学習モデルとして、コホーネンの自
己組織化マッピング(T.Kohonen Self-Organization an
d Associative Memory, Spriger-Verlag 1984)が挙げら
れる。コホーネンの自己組織化マッピングとはトポロジ
カルなマッピングを自己組織化で学習するモデルであ
る。ここでトポロジカルなマッピングとは、例えば、人
間が外界から受け取った信号、すなわち、あるパターン
を、その序列を反映しながらある種の規則に従って、皮
質上の神経細胞に割り当てていることを意味している。

【０００５】

【発明が解決しようとする課題】しかしながら、上述し
たBuhmann のモデルは対象物の回転に対応しておらず、
さらにReidらのモデルは入力パターンの次元が増加する
と結合爆発が起きてしまう欠点があった。また、脳の持
つ自己組織化的な能力を忠実に模倣したモデルではな
く、脳にこのような仕組みが実際に存在するか否かも疑
問である。また、上述したコホーネンの自己組織化マッ
ピングにおいては、対象とするパターンのトポロジカル
なマッピングを行うことができるものの対象とするパタ
ーンを View-Invariant に学習する課題への適応はほと
んどなされていなかった。

【０００６】本発明は上記事情に鑑み、対象物の角度の
変化や回転にも対応した判別を行うことができるよう
に、対象となるパターンをView-Invariantに学習するこ
とができるパターン学習方法を提供することを目的とす
るものである。

【０００７】

【課題を解決するための手段】本発明によるパターン学
習方法は、複数の画素からなる所定の特徴部分を有する
パターンを、該所定の特徴部分の学習を担当するととも
に、該特徴部分の座標値を記憶する結合重みを有する複
数の細胞からなるニューラルネットワークに学習させる
パターン学習方法であって、前記パターンの画素をラン
ダムに一つ選択し、該選択された画素の座標値を前記ニ
ューラルネットワークに呈示し、該呈示された画素の座
標値に最も近い結合重み値を有する細胞と該細胞に隣接
する所定範囲の隣接領域内に存在する細胞とを選択し、
該選択された各細胞が有する前記結合重み値を、前記呈
示された画素の座標値に近づくように該各細胞に学習さ
せ、前記パターンの画素の選択、前記画素の座標値のニ
ューラルネットワークへの呈示、前記細胞の選択、およ
び前記学習を前記ニューラルネットワークの各細胞が学
習を終了するまで繰り返し行うことを特徴とするもので
ある。

【０００８】また、前記選択された細胞に前記画素の座
標値の学習を、前記選択された各細胞が担当する前記所
定の特徴部分の候補を前記パターンから回転、角度に対
して不変に抽出し、該抽出された特徴部分候補と前記呈
示された画素が表す前記所定の特徴部分との反応値が大
きいほど、前記選択された各細胞の結合重み値が前記座
標値により近い値となるように行うことが好ましい。

【０００９】さらに、前記所定の特徴部分の学習を担当
する前記ニューラルネットワークの細胞の分布位置が、
該特徴部分の相対的位置関係に基づいて予め定められて
いることが好ましい。

【００１０】また、前記ニューラルネットワークの細胞
が有する結合重み値の初期値として、前記パターンの中
心の画素の座標値に所定値を加えた値を用いることが好
ましい。

【００１１】さらに、前記パターンが顔画像であって、
前記所定の特徴部分が目、輪郭および口であるようにし
てもよい。

【００１２】さらに、前記輪郭の学習を担当する細胞
が、前記ニューラルネットワークの細胞の周方向に弾性
力を持って結合されていることが好ましい。

【００１３】また、前記学習の初期の段階において、ニ
ューラルネットワークの細胞に前記目および前記輪郭の
み学習させ、前記パターンの画素の選択、前記画素の座
標値のニューラルネットワークへの呈示、前記細胞の選
択、および前記学習を所定回数繰り返した後に、前記輪
郭の学習を担当する細胞の一部を前記口の学習を担当す
る細胞に変化させることが好ましい。

【００１４】

【作用】本発明によるパターン学習方法は、所定の特徴
部分の学習を担当する細胞を持つニューラルネットワー
クに、入力されるパターン（画像）の画素を一つずつラ
ンダムに選択してその画素の座標値を呈示し、この値に
最も近い結合重み値を有する最適マッチング細胞に学習
させるとともに、この細胞に隣接する所定範囲内に存在
する隣接細胞にもこの画素の座標値を学習させるという
コホーネンの自己組織化のアルゴリズムを利用したもの
である。

【００１５】そして、このコホーネンの自己組織化のア
ルゴリズムに加えて、学習の際には、入力されるパター
ンから学習を行う細胞が担当する特徴部分を回転や角度
に不変に抽出し、その呈示された画素が表す特徴部分と
の反応値が大きいほど、呈示された画素の座標値をこの
細胞に強く学習させることとした。このように、ニュー
ラルネットワークの細胞に呈示された画素の座標値を、
その担当する特徴部分への反応値が大きいほど強く学習
させることは、その特徴部分が呈示される頻度（出現確
率）が大きいほど強く学習することと等価な手続きを与
えることとなる。そしてこのような学習の結果、各細胞
は呈示されるパターンにおいて担当する特徴部分の位置
に対応した結合重み値を持つこととなる。しかも、ニュ
ーラルネットワークは学習の際に相対位置関係のみによ
り拘束されるため、パターンが回転していたり、角度が
変化している場合であっても、その回転、角度に拘らず
特徴部分の位置を学習する、ビューインバリアント(Vie
w Invariant ）な学習を行うことができる。

【００１６】また、特徴部分を学習するニューラルネッ
トワークの細胞の分布位置を、担当する特徴部分の相対
的位置関係に基づいて予め定めておくことによりニュー
ラルネットワークの学習を効率よく行うことができる。

【００１７】さらに、学習毎に特徴部分を抽出するので
はなく、特徴部分を学習前に予め抽出しておき、学習時
にはその抽出された結果のみを用いて学習することによ
り、計算時間を節約することができる。

【００１８】また、各細胞が学習前に有する座標値の初
期値として、パターンの中心の画素位置の座標値に所定
値を加えた座標値を用いることにより、全ての細胞に学
習の機会が均等に与えられることとなり、呈示されるパ
ターンの回転や角度の変化に拘らずビューインバリアン
トにパターンの特徴部分を学習できる。

【００１９】さらに、パターンを顔画像とし、特徴部分
を顔画像中の目、輪郭および口とすることにより、これ
ら特徴部分の学習を顔の回転や角度の変化に拘りなくビ
ューインバリアントに行うことができる。

【００２０】また、目および輪郭の学習を担当するニュ
ーラルネットワークの細胞の分布位置を、目および輪郭
の相対的位置関係に基づいて定めることにより、入力パ
ターンの特徴部分の位置関係を反映したニューラルネッ
トワークに対してパターンの特徴部分の位置関係を学習
させることとなるため、ニューラルネットワークの学習
を効率よく行うことができる。

【００２１】さらに、この場合、パターンの呈示および
学習を所定回数繰り返した後に輪郭を担当する細胞の一
部を口を担当する細胞に変化させることにより、予め口
を担当する細胞が定められている場合と比べて、ニュー
ラルネットワークの各細胞の学習の自由度が大きなもの
となり、学習されたニューラルネットワークの細胞の結
合関係が複雑になる（ねじれる）ことを防止することが
できる。

【００２２】さらに、輪郭を担当する細胞が、ニューラ
ルネットワークの周方向に弾性力を持って結合されてい
るものとすることにより、輪郭の位置を学習するにつれ
て各細胞が均等な間隔で輪郭の位置を学習するようにな
り、背景の影響を受けにくく、かつより滑らかな輪郭の
学習を行うことができる。

【００２３】

【実施例】以下図面を参照して本発明の実施例について
説明する。

【００２４】図１は本発明によるパターン学習方法の基
本的概念を表すフローチャートである。図１に示すよう
に、本発明によるパターン学習方法は、ステップ１にお
いて画像中の全ての画素を均等に学習対象とするため、
画像中の画素を一つずつランダムに選択し、次いでステ
ップ２において選択された画素の座標値をニューラルネ
ットワークに呈示して、この座標値と最も近い値を結合
重み値として持つ最適マッチング細胞を探し、ステップ
３において最適マッチング細胞とその隣接細胞について
各細胞が担当する特徴の抽出を行う。そして、ステップ
４において最適マッチング細胞とその隣接細胞の持つ結
合重み値を、選ばれた画素の座標値に近づけるように学
習を行う。この際、選ばれた画素が表す特徴部分と細胞
が担当する特徴部分との反応値が大きいほど強く学習が
行われることとする。次に、ステップ５において学習が
収束したか否かの判断がなされ、収束してしない場合は
再度ステップ１からステップ４を繰り返し、収束してい
る場合は、ステップ６において学習を終了させるもので
ある。

【００２５】ここで、上記フローチャートにおいては、
各細胞の担当する特徴の抽出を学習毎に行っているが、
これは学習前に予め行い、学習時にはその抽出結果のみ
を用いて学習を行うようにしてもよい。以下の実施例に
おいては後者の手法を用いることとする。

【００２６】なお、本発明による実施例においては、以
下に説明するニューラルネットワークに画像１が学習さ
れるものである。

【００２７】図２は本発明によるパターン学習方法によ
り学習がなされるニューラルネットワークを表す図であ
る。なお、本実施例においては、学習がなされる画像は
人間の顔であり、顔の特徴部分として、目、顔の輪郭お
よび口を用いるものとする。図２に示すように本発明に
よるパターン学習方法により学習がなされるニューラル
ネットワーク２は、16×16個の計256 個の細胞が２次元
状に結合してなるものであり、その中心付近の6 ×6 個
の細胞が目の学習を担当する細胞３であり、その周囲の
全ての細胞が輪郭の学習を担当する細胞４である。

【００２８】ここで、輪郭の学習を担当する細胞４は、
ニューラルネットワーク２の周方向に弾性力によりリン
グ状に抑制し合いリングネットを構成している。したが
って、本実施例においては、図２において破線で示すよ
うに、輪郭を学習する５重のリングネット４Ａ〜４Ｅが
目を担当する細胞３の周囲を取り囲む構成となってい
る。また、ニューラルネットワーク２の各細胞の結合重
み初期値は、学習すべき与えられた画像１の中心位置の
画素値に、小さなランダム値を加えた値に設定される。

【００２９】次いで、特徴部分の抽出について説明す
る。

【００３０】まず、与えられた画像１において目と考え
られる小塊成分の検出がなされる。図３は、与えられた
画像１から目と考えられる小塊成分の検出を行うための
ステップを表す図である。まず、与えられた画像１か
ら、複数の方向性を有する目の形状と適合する成分を複
数の方向毎に抽出する。これは、図４に示すような目と
考えられる小塊成分に反応しやすい、小塊成分検出マス
ク10と、与えられた画像１とのコンボリューションおよ
び非線形処理により得られる。以下、その詳細について
説明する。

【００３１】図４に示すような小塊成分検出マスク10
は、目の形の強度変化に反応し易いように、マスク10の
負の部分が目の形に合うように楕円形をなしており、こ
の楕円の長手方向が、図４の状態を０度としたときに、
30度，60度，90度，120 度，150 度の６方向を向いた６
つの小塊成分検出マスク10Ａ〜10Ｆを用いて、与えられ
た学習すべき画像１をコンボリューションするものであ
る。ここで、この小塊成分検出マスク10は、人間の脳の
網膜神経節細胞または外側膝状体の細胞に相当するもの
であり、ＤＯＧ関数により作成されるものである。この
ＤＯＧ関数は、以下の式で表される。

【００３２】

【数１】

【００３３】ここで、式(1) におけるθの初期値を０，
30，60，90，120 ，150 度の各値に設定することによ
り、楕円の長手方向が、０，30，60，90，120 ，150 度
傾いた小塊成分検出マスク10Ａ〜10Ｆを作成することが
できるものである（便宜上、各マスクをそれぞれ０度方
向のマスク，30度方向のマスク……150 度方向のマスク
と呼ぶ）。

【００３４】このような小塊成分検出マスク10Ａ〜10Ｆ
で与えられた画像１をコンボリューションおよび非線形
処理することにより、与えられた画像１からそれぞれの
小塊成分検出マスク10Ａ〜10Ｆに適合した成分11Ａ〜11
Ｆが検出される。

【００３５】なお、与えられた画像１において、目と考
えられる小塊成分は与えられた画像１の中心付近に存在
することが多く、また与えられた画像１の中心付近の情
報がより重視されるため、検出された成分11Ａ〜11Ｆの
中心付近の情報を強調するマスクにより成分11Ａ〜11Ｆ
の中心付近の情報が強調されるとともに、方向的競合が
なされ、中心付近が強調された成分が得られる。ここで
方向的競合とは各特定角度の成分11Ａ〜11Ｆの同じ位置
の画素同志を競合させ、最も大きい値を有する画素のみ
を勝ち残らせることをいう。例えば、特定の角度の成分
の左下角を原点としたｘ−ｙ座標を考えたとき、画素
(0，0)について考えると、各成分11Ａ〜11Ｆの画素(0，
0)のうち、最も大きい値を有する小塊成分の画素が選択
されるのである。この方向的競合を各成分11Ａ〜11Ｆの
すべての画素について行うとともに中心付近の情報の強
調を行うと、中心付近が強調された成分13が得られるこ
ととなるここで、中心を強調するマスクとしては図５に
示すマスク12のように、以下の式に示すような中心に向
って単調増加する関数が考えられる。

【００３６】

【数２】

【００３７】ここで、上述したようにして抽出された中
心付近が強調された成分13は、目と考えられる小塊成分
のみならず、与えられた画像１の輪郭成分をも含んでい
るものであるため、この成分13から輪郭成分の除去が行
われる。この輪郭成分の除去は、成分13から輪郭成分が
抽出され、この輪郭成分を成分13から除去することによ
って行われる。

【００３８】図６は、本発明の実施例における輪郭成分
の検出を説明するための図である。まず、図３における
中心を強調された成分13から、６方向の角度の輪郭の直
線が各方向毎に抽出される。これは、図７に示すような
特定角度の直線検出マスク14と成分13とのコンボリュー
ションおよび非線形処理によって得られる。以下、その
詳細について説明する。

【００３９】図７に示すような特定角度の直線検出マス
ク14は、直線に反応し易いように、マスク14の正の部分
が直線に適合するように細長楕円形状をなしており、さ
らに、負の部分が正の部分の両側に分布するように選択
されている。このマスク14に十分な方位選択性を持たせ
るにはこのような負の部分が不可欠である。そしてこの
細長楕円の長手方向が、図７の状態を０度としたとき
に、30度，60度，90度，120 度，150 度の６方向を向い
た６つの特定の角度の直線検出マスク14Ａ〜14Ｆを用い
て、成分13をコンボリューションするものである。ここ
で、このマスクは、大脳視覚野の単純型細胞に相当する
ものであり、ガボール関数により作成されるものであ
る。このガボール関数は以下の式で表される。

【００４０】

【数３】

【００４１】ここで、式(3) における実数部分である

【００４２】

【数４】

【００４３】を用いて特定の角度の直線検出マスク14を
作成するものである。さらに、この式(4) における
ｋ_x ，ｋ_y の初期値により、細長楕円の長手方向が０，
30，60，90，120 ，150 度傾いたマスク14Ａ〜14Ｆを作
成することができるのである。

【００４４】なお、特定の角度の直線検出マスク14Ａ〜
14Ｆの受容野サイズは、成分13のうち、必要とされる輪
郭成分以外の細い輪郭成分には反応しにくいように定め
られている。すなわち、マスク14Ａ〜14Ｆは成分13のう
ち、目と考えられる小塊成分には反応し難く、かつ、必
要な輪郭成分には反応し易いのである。このようにマス
ク14Ａ〜14Ｆの受容野サイズを定めることにより、背景
の存在にかかわらず良好に目と考えられる小塊成分を検
出できるのである。

【００４５】このような特定の角度の直線検出マスク14
Ａ〜14Ｆで成分13をコンボリューションすることによ
り、成分13から各マスク14Ａ〜14Ｆに適合した特定角度
の輪郭成分15Ａ〜15Ｆが抽出される。

【００４６】ここで、前述した小塊検出マスク10Ａ〜10
Ｆおよび特定の角度の直線検出マスク14Ａ〜14Ｆによ
る、与えられた画像１および成分11Ａ〜11Ｆのコンボリ
ューションおよび非線形処理は以下の式により行われて
いる。

【００４７】

【数５】

【００４８】次いで、各特定角度の輪郭成分15Ａ〜15Ｆ
の同じ位置の画素同志を競合させ、最も大きい値を有す
る画素のみを勝ち残らせる方向的競合を行う。例えば、
特定の角度の輪郭成分の左下角を原点としたｘ−ｙ座標
を考えたとき、画素(0，0)について考えると、各輪郭成
分15Ａ〜15Ｆの画素(0，0)のうち、最も大きい値を有す
る輪郭成分の画素が選択されるのである。この方向的競
合を各輪郭成分15Ａ〜15Ｆのすべての画素について行う
と、輪郭成分16が勝ち残り、これにより与えられた画像
１の輪郭成分が抽出されたこととなる。

【００４９】しかしながら、各輪郭成分15Ａ〜15Ｆは６
つの方向毎に検出されているため、方向的競合により勝
ち残った輪郭成分16における輪郭は滑らかにつながって
いないものである。そこで、ボカしマスクにより輪郭成
分16をコンボリューションし、輪郭成分16をボカした成
分18を作成し、輪郭を滑らかにする。

【００５０】このようにして、輪郭成分をボカした成分
18を作成し、次いで作成された成分18が図３に示すよう
に成分13から減算されることにより、成分13より輪郭成
分が除去されて、目の形に反応していると思われる小塊
成分19が抽出される。なお、成分13から成分18を減算す
る際には、対応する成分の最大値が等しい値となるよう
に正規化されて減算が行われる。

【００５１】この段階において、抽出された特徴部分
は、目の形に反応していると思われる小塊成分19および
画像１の輪郭成分16である。

【００５２】次いで、口領域の抽出について説明する。

【００５３】図８は与えられた画像１の口領域を抽出す
るステップを表す図である。図８に示すように、まず与
えられた画像１を、ＹＩＱ基底に変換する。ここでＹＩ
Ｑ基底とは、Ｒ（赤）、Ｇ（緑）、Ｂ（青）カラー画像
に対し、

【００５４】

【数６】

【００５５】なる変換を行った結果がＹＩＱ基底となる
ものであり、テレビの色信号と輝度信号とを分けるよう
な場合に用いられているものである。

【００５６】ここで、このＹＩＱ基底において、Ｑ成分
画像中では顔の唇部分が最も明るく反応することが知ら
れている（小林，中村，森島，原島，“顔画像からの唇
の特徴点抽出法”，信学全大春，D-329,Mar.1990.)。す
なわち、ＹＩＱ基底のＱ成分は、色空間の中で赤みのあ
るような紫色の部分に最も反応し易く、緑の部分に反応
し難いものである。したがって、ＹＩＱ基底のＱ成分は
顔の中で唇の部分に最も明るく反応するのである。この
ように、与えられた画像１をＹＩＱ基底に変換し、Ｑ成
分画像20を得る。

【００５７】このようにして得られた画像19，16，20，
では、各特徴部分が存在すると考えられる画素が明るく
反応する結果となる。（便宜上、今後の説明では画像19
を目画像、画像16を輪郭画像、画像20を口画像と呼ぶこ
ととする。） 次いで抽出された特徴部分の学習について説明する。図
２に示すニューラルネットワーク２の各細胞は、前述し
た目画像19、輪郭画像16、口画像20の３つの画像の反応
値に応じて、与えられた画像１の特徴部分の座標値を学
習する。すなわち、目の学習を担当する目担当細胞３は
目画像19に従い、輪郭（口）の学習を担当する輪郭
（口）担当細胞４は輪郭画像16および口画像20に従い学
習を行う。

【００５８】ここで、図２に示すニューラルネットワー
ク２の各細胞は、コホーネンの自己組織化にしたがって
学習されるものであり、自己組織化の過程で細胞が相対
的な位置関係でのみ抑制されるものである。したがっ
て、これにより本発明の特徴であるビューインバリアン
トなマッピングが実現可能となる。そして各細胞は入力
された画像の選ばれた画素の座標値を学習する結合重み
値を有しており、その値が学習に従い変化していくもの
である。すなわち、入力される画像１の左下角を原点と
したｘ−ｙ座標を考えたとき、画像１が128 ×128 の画
素からなるとすると、（0 ，0)〜（128 ，128 ）を学習
する結合重み値をニューラルネットワーク２の各細胞は
有するのである。そして、入力された画像において、特
徴部分への反応が大きい、すなわち、特徴部分の出現確
率が高い画素の座標値をより強く学習していくのであ
る。

【００５９】図９はニューラルネットワークの学習の過
程を説明するための図である。図９においては、図２に
示すニューラルネットワーク２の各細胞が結合重み値と
して学習した値を画像上にプロットし、隣同士に分布す
る細胞を結んで示している。

【００６０】まず、学習前の段階では、ニューラルネッ
トワーク２の各細胞の結合重みは入力される画像１の中
央の画素の座標値に小さなランダム値を加えた初期値を
有しているため、各細胞は画像１の略中心の画素の座標
値を学習していることと同一の状態にある。

【００６１】そして、ニューラルネットワーク２に画像
１が入力されると以下のようにニューラルネットワーク
２の各細胞は学習を進める。

【００６２】ニューラルネットワーク２の各細胞に入力
画像中の画素のうちランダムに選ばれた１つの画素の座
標値が呈示される。そして、呈示された画素の座標値と
一番近い値の結合重み値を有する細胞が最適マッチング
細胞として選択され、最適マッチング細胞とその隣接細
胞が呈示された画素の座標値を学習する。最適マッチン
グ細胞を探す計算は、以下の式により行われる。

【００６３】 Ｘ_c (t) ＝min _i ｛‖Ｘ_i (t) −Ｉ(t) ‖｝ …(7) 但し、Ｘ：細胞の結合重み値 Ｉ：呈示された画素の座標値 ｃ：最適マッチング位置 ｔ：離散時間 式(7) により選択された最適マッチング細胞とその隣接
細胞は、以下の式(8)により、現在有する結合重み値を
画素の座標値に近づけるように学習を行う。

【００６４】

【数７】

【００６５】また、隣接細胞は最適マッチング細胞を中
心とした所定内の細胞（例えば最適マッチング細胞を中
心とする５×５個の細胞の範囲内）である。このように
式(8)，(9) および(10)に従って各細胞が有する結合重
み値を更新することにより、その値が少しずつ担当する
特徴部分の座標値に近づいていく。

【００６６】そして、上述した入力画像中の画素の座標
値の呈示を複数回繰り返して行うことにより、画像中の
全ての画素の座標値が均等に各細胞に呈示され、さら
に、式(7) 〜(10)により各細胞が有する重みが更新され
ていく。

【００６７】ここで、式(9) が式(8) に与える影響につ
いて説明する。式(8) により、呈示された画素の座標値
が最適マッチング細胞とその隣接細胞に学習されていく
が、このときに前述した細胞が担当する特徴部分への反
応値の大きさ、すなわち、担当する特徴の出現確率の大
きさを、呈示された画素の座標値の学習にどう反映する
かが式(9) によって定められる。すなわち、呈示された
画素が表す特徴部分と、学習を行う細胞が担当する特徴
との反応値（出現確率）が高いほど式(9) の値を大きく
し、反応値（出現確率）が低いほど式(9) の値を小さく
する。このようにすることにより、例えば学習を行う細
胞が担当する特徴が目で、呈示される画素が表す目画像
19との反応値が高いとき、その選択された細胞について
は、呈示される画素の座標値における担当する特徴の反
応値が大きいから、この場合式(9) の値は大きくなる。
式(9) の値が大きくなると、選択された細胞の結合重み
値が選ばれた画素の座標値に大きく近づくように学習さ
れるため、これを繰り返し行うことにより、担当する特
徴部分への反応値が大きい画素の座標値を細胞が強く学
習することとなる。

【００６８】ここで、式(9) のprob(i) は、図10に示す
ようなシグモイド関数となる。したがって、例えば反応
値が大きい画素が学習すべき画素として選ばれた場合、
この画素の座標値を学習する細胞は大きく結合重み値が
更新され、反応値が小さい画素が選択された場合、この
画素の座標値を学習する細胞はほとんど結合重み値が更
新されない。このように式(9) のprob(i) の値を定める
ことにより、効率良く各細胞の学習を進めていくことが
できる。

【００６９】次いで式(8) におけるｋ(t) ・ΔＷの項に
ついて説明する。ニューラルネットワーク２の輪郭担当
細胞は、前述したようにニューラルネットワーク２の周
方向に弾性力を有するように抑制し合って結合している
が、この弾性力が式(8) におけるｋ(t) ・ΔＷの項によ
り与えられる。ここで、式(10)はいわゆる２次微分の形
を表す式となっているため、項ｋ(t) ・ΔＷを加えて細
胞の学習を進めていくと、リングネット４Ａ〜４Ｅ上の
各細胞は、入力される画像の画素の座標値を等間隔で滑
らかに学習していくこととなる。そして、この項ｋ(t)
・ΔＷを30万回学習を行った後に加えるようにすること
により、学習回数40万回以降では図９に示すようにリン
グネット４Ａ〜４Ｅ上の各細胞は等間隔で滑らかになる
ように学習すべき画像１の画素の座標値を学習してい
く。

【００７０】ここで、図９においては、学習回数85万回
後に口を担当する細胞が発生するが、以下この口の学習
を担当する細胞について説明する。口担当細胞は前述し
た輪郭担当細胞４が変化することにより発生するもので
あり、学習の最初の段階においては存在しないものであ
る。これは、学習の最初の段階から口担当細胞を定めて
おくと輪郭担当細胞の分布が回転に対して非対称になっ
てしまい、細胞の初期重み値によっては学習結果がねじ
れた形になってしまうことが起きてしまうからである。
したがって、学習の途中から輪郭担当細胞を口担当細胞
に変化させるようにしたものである。

【００７１】口担当細胞は以下のようにして発生する。
ニューラルネットワーク２の学習が行われている際、輪
郭担当細胞４は、輪郭画像とともに口画像20も担当する
こととする。そして、学習の段階で、輪郭担当細胞４
は、学習には使用しないが口画像20のprob(i) も計算す
ることとする。そして、その計算結果を記憶しておき、
学習85万回目にそれ以前の所定の学習回数間において最
もprob(i) の総和が大きかった輪郭担当細胞を中心とし
て、所定範囲内の細胞を口担当細胞に変化させるのであ
る。そして口担当細胞が発生する85万回目以降の学習で
は、口担当細胞が口画像20に従い、選ばれた画素の座標
値を学習して行くのである。

【００７２】そして、上述したように目画像19を担当す
る目担当細胞３、輪郭画像16および口画像20の学習を担
当する輪郭（口）担当細胞４の学習を進め、100 万回学
習後には、図９に示すように目担当細胞３は入力される
画像１の目の位置に対応する画素の座標値を学習し、輪
郭担当細胞４は輪郭の位置に対応する画素の座標値を学
習し、口担当細胞は口の位置に対応する画素の座標値を
学習し、この段階で各細胞の学習は収束し、学習が終了
する。

【００７３】このようにして学習した結果を利用するこ
とにより、ビューインバリアントな、すなわち対象物の
角度の変化や回転にも対応できる様々な判別、識別シス
テムを構築することができる。例えば、与えられたパタ
ーンが顔である場合、顔であるか否かの判別、あるいは
個人個人の顔の認識、さらには様々な表情の顔の認識を
もビューインバリアントに行うことが可能となる。

【００７４】なお、上記実施例についてはパターンを顔
として顔の目、輪郭および口を学習させる場合について
説明したが、これに限定されるものではなく、特徴部分
を有する他のいかなるパターンをも学習させることがで
きるものである。

【００７５】

【発明の効果】以上詳細に説明したように、本発明によ
るパターン学習方法は、学習をすべきパターンの回転や
角度の変化に拘らず、ビューインバリアントにパターン
の特徴部分の位置関係を学習することができる。このた
め、この学習結果を用いて入力されたパターンの判別や
認識、例えば入力パターンが顔画像である場合は顔であ
るか否かの判別、表情の認識、個人個人の顔の認識等を
ビューインバリアントに行うことが可能となる。

【図面の簡単な説明】

【図１】本発明によるパターン学習方法の基本的概念を
表すフローチャート

【図２】本発明によるパターン学習方法により学習がな
されるニューラルネットワークを表す図

【図３】与えられた画像から目の形状と適合する小塊成
分の検出を行うためのステップを表す図

【図４】目の形状と適合する小塊成分の検出を行うため
のマスクを表す図

【図５】中心を強調するマスクを表す図

【図６】与えられた画像から輪郭成分の検出を行うため
のステップを表す図

【図７】特定角度の輪郭成分の検出を行うためのマスク
を表す図

【図８】与えられた画像から口成分の検出を行うための
ステップを表す図

【図９】顔の特徴を表すマップの学習段階を説明するた
めの図

【図１０】シグモイド関数を表す図

【図１１】顔の特徴を表すマップの学習段階を説明する
ための図

【符号の説明】

１ 与えられた画像 ２ ニューラルネットワーク ３ 目の学習を担当する細胞 ４ 輪郭（口）の学習を担当する細胞 ４Ａ〜４Ｅ リングネット 10 目と考えられる小塊成分検出マスク（小塊成分検
出マスク） 14 特定の角度の輪郭成分検出マスク 16′，18 輪郭成分 20 口と考えられる小塊成分検出マスク

───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.⁶ 識別記号 庁内整理番号 ＦＩ 技術表示箇所 Ｇ０６Ｔ 7/00

Claims (7)

【特許請求の範囲】
1. 【請求項１】 複数の画素からなる所定の特徴部分を有
   するパターンを、該所定の特徴部分の学習を担当すると
   ともに、該特徴部分の座標値を記憶する結合重みを有す
   る複数の細胞からなるニューラルネットワークに学習さ
   せるパターン学習方法であって、 前記パターンの画素をランダムに一つ選択し、 該選択された画素の座標値を前記ニューラルネットワー
   クに呈示し、 該呈示された画素の座標値に最も近い結合重み値を有す
   る細胞と該細胞に隣接する所定範囲の隣接領域内に存在
   する細胞とを選択し、 該選択された各細胞が有する前記結合重み値を、前記呈
   示された画素の座標値に近づくように該各細胞に学習さ
   せ、 前記パターンの画素の選択、前記画素の座標値のニュー
   ラルネットワークへの呈示、前記細胞の選択、および前
   記学習を前記ニューラルネットワークの各細胞が学習を
   終了するまで繰り返し行うことを特徴とするパターン学
   習方法。
2. 【請求項２】 前記選択された細胞に前記画素の座標値
   の学習を、 前記選択された各細胞が担当する前記所定の特徴部分の
   候補を前記パターンから回転、角度に対して不変に抽出
   し、 該抽出された特徴部分候補と前記呈示された画素が表す
   前記所定の特徴部分との反応値が大きいほど、前記選択
   された各細胞の結合重み値が前記座標値により近い値と
   なるように行うことを特徴とする請求項１記載のパター
   ン学習方法。
3. 【請求項３】 前記所定の特徴部分の学習を担当する前
   記ニューラルネットワークの細胞の分布位置が、該特徴
   部分の相対的位置関係に基づいて予め定められているこ
   とを特徴とする請求項１または２記載のパターン学習方
   法。
4. 【請求項４】 前記ニューラルネットワークの細胞が有
   する結合重み値の初期値として、前記パターンの中心の
   画素の座標値に所定値を加えた値を用いることを特徴と
   する請求項１、２または３記載のパターン学習方法。
5. 【請求項５】 前記パターンが顔画像であって、前記所
   定の特徴部分が目、輪郭および口であることを特徴とす
   る請求項１から４のいずれか１項記載のパターン学習方
   法。
6. 【請求項６】 前記輪郭の学習を担当する細胞が、前記
   ニューラルネットワークの細胞の周方向に弾性力を持っ
   て結合されていることを特徴とする請求項５記載のパタ
   ーン学習方法。
7. 【請求項７】 前記学習の初期の段階において、ニュー
   ラルネットワークの細胞に前記目および前記輪郭のみ学
   習させ、前記パターンの画素の選択、前記画素の座標値
   のニューラルネットワークへの呈示、前記細胞の選択、
   および前記学習を所定回数繰り返した後に、前記輪郭の
   学習を担当する細胞の一部を前記口の学習を担当する細
   胞に変化させることを特徴とする請求項５または６記載
   のパターン学習方法。