JPH0721378A - 階層型ニューラルネットワーク画像識別装置および識別方法 - Google Patents
階層型ニューラルネットワーク画像識別装置および識別方法Info
- Publication number
- JPH0721378A JPH0721378A JP5149510A JP14951093A JPH0721378A JP H0721378 A JPH0721378 A JP H0721378A JP 5149510 A JP5149510 A JP 5149510A JP 14951093 A JP14951093 A JP 14951093A JP H0721378 A JPH0721378 A JP H0721378A
- Authority
- JP
- Japan
- Prior art keywords
- image
- neural network
- pattern
- learning
- teacher signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Image Analysis (AREA)
Abstract
(57)【要約】
【目的】 設定が難しい画像パターンの教師信号を自動
的に設定できる階層型ニューラルネットワーク画像識別
装置を提供する。 【構成】 識別対象の画像を撮像する画像撮像装置と、
撮像された画像から階層型ニューラルネットワークへの
画像パターンを生成する画像処理装置と、生成さた像パ
ターンを記憶する画像パターン記憶装置と、この記憶装
置から取り出された画像パターンと該画像パターンに対
する教師信号を組とし取り込み学習する階層型ニューラ
ルネットワーク演算装置と、学習により得られたニュー
ラルネットワーク各層間の結合係数の修正値を格納する
学習結果記憶装置とを備えた階層型ニューラルネットワ
ーク画像識別装置において、画像パターン記憶装置に記
憶された画像パターンから画像パターン間距離を算出
し、その距離に基づき教師信号を作成する教師信号作成
装置を設ける。
的に設定できる階層型ニューラルネットワーク画像識別
装置を提供する。 【構成】 識別対象の画像を撮像する画像撮像装置と、
撮像された画像から階層型ニューラルネットワークへの
画像パターンを生成する画像処理装置と、生成さた像パ
ターンを記憶する画像パターン記憶装置と、この記憶装
置から取り出された画像パターンと該画像パターンに対
する教師信号を組とし取り込み学習する階層型ニューラ
ルネットワーク演算装置と、学習により得られたニュー
ラルネットワーク各層間の結合係数の修正値を格納する
学習結果記憶装置とを備えた階層型ニューラルネットワ
ーク画像識別装置において、画像パターン記憶装置に記
憶された画像パターンから画像パターン間距離を算出
し、その距離に基づき教師信号を作成する教師信号作成
装置を設ける。
Description
【０００１】
【産業上の利用分野】本発明は、階層型ニューラルネッ
トワーク画像識別装置および識別方法に係り、特に画像
パターンを識別する上で画像パターン間の距離から教師
信号を自動的に設定して学習させ画像パターンを識別す
る階層型ニューラルネットワーク画像識別装置および識
別方法に関する。
トワーク画像識別装置および識別方法に係り、特に画像
パターンを識別する上で画像パターン間の距離から教師
信号を自動的に設定して学習させ画像パターンを識別す
る階層型ニューラルネットワーク画像識別装置および識
別方法に関する。
【０００２】
【従来の技術】図４に模式的に示すように階層型ニュー
ラルネットワークは、１個の入力層１０１、複数個（同
図では１個としている）の中間層１０２、１個の出力層
１０３と各層間の結合係数１０４および１０５から構成
される。画像パターンなどの学習用入力信号１０７は入
力層１０２に入力され、同時に学習用入力信号１０７に
対応する教師信号１０８は出力層１０３に学習用入力信
号１０７と組にして与える。出力層の実際の出力が教師
信号１０８に近づくように、各層間の結合係数１０４、
１０５を修正する。修正においては出力層の実際の出力
と教師信号の差を誤差評価部１０６で判定し、その差が
ある許容範囲に収まるまで学習用入力信号１０７と教師
信号１０８の組を繰り返し入力して結合係数の修正を行
なう。この修正過程は学習と呼ばれる。学習が完了した
後は、識別用画像パターンを入力すると階層型ニューラ
ルネットワークは学習結果である結合係数を用いて、教
師信号に相当する値を識別信号として出力する。図５
（Ａ）および図５（Ｂ）に階層型ニューラルネットワー
クにより画像パターンを学習・識別させる構成図を示
す。図５（Ａ）は学習過程を示している。ＶＴＲなどの
画像撮像装置２０１から識別対象の画像データが読み取
られ、画像処理装置２０２で処理されて階層型ニューラ
ルネットワークの入力信号として学習用画像パターンが
生成され、画像パターン記憶装置２０３に格納される。
一方、学習用画像パターンに対応した教師信号が設定さ
れ教師信号記憶装置２０５に格納される。階層型ニュー
ラルネットワーク演算装置２０６では、画像パターン記
憶装置２０３と教師信号記憶装置２０５から、学習用画
像パターンと教師信号を組として取り出し、さきに述べ
たような学習を実行する。学習が完了すると層間の結合
係数が学習結果として学習結果記憶装置２０７に格納さ
れる。学習結果を用いて、新たに入力される識別用画像
パターンを識別する場合を図５（Ｂ）に示す。画像撮像
装置２０１、画像処理装置２０２、画像パターン記憶装
置２０３までの処理、動作は図５（Ａ）と同じである。
階層型ニューラルネットワーク演算装置２０６は学習結
果記憶装置２０７に格納されている結合係数を取り込
み、画像パターン記憶装置２０３に格納されている識別
すべき画像パターンを入力して、教師信号に相当する識
別信号２０８を出力する。
ラルネットワークは、１個の入力層１０１、複数個（同
図では１個としている）の中間層１０２、１個の出力層
１０３と各層間の結合係数１０４および１０５から構成
される。画像パターンなどの学習用入力信号１０７は入
力層１０２に入力され、同時に学習用入力信号１０７に
対応する教師信号１０８は出力層１０３に学習用入力信
号１０７と組にして与える。出力層の実際の出力が教師
信号１０８に近づくように、各層間の結合係数１０４、
１０５を修正する。修正においては出力層の実際の出力
と教師信号の差を誤差評価部１０６で判定し、その差が
ある許容範囲に収まるまで学習用入力信号１０７と教師
信号１０８の組を繰り返し入力して結合係数の修正を行
なう。この修正過程は学習と呼ばれる。学習が完了した
後は、識別用画像パターンを入力すると階層型ニューラ
ルネットワークは学習結果である結合係数を用いて、教
師信号に相当する値を識別信号として出力する。図５
（Ａ）および図５（Ｂ）に階層型ニューラルネットワー
クにより画像パターンを学習・識別させる構成図を示
す。図５（Ａ）は学習過程を示している。ＶＴＲなどの
画像撮像装置２０１から識別対象の画像データが読み取
られ、画像処理装置２０２で処理されて階層型ニューラ
ルネットワークの入力信号として学習用画像パターンが
生成され、画像パターン記憶装置２０３に格納される。
一方、学習用画像パターンに対応した教師信号が設定さ
れ教師信号記憶装置２０５に格納される。階層型ニュー
ラルネットワーク演算装置２０６では、画像パターン記
憶装置２０３と教師信号記憶装置２０５から、学習用画
像パターンと教師信号を組として取り出し、さきに述べ
たような学習を実行する。学習が完了すると層間の結合
係数が学習結果として学習結果記憶装置２０７に格納さ
れる。学習結果を用いて、新たに入力される識別用画像
パターンを識別する場合を図５（Ｂ）に示す。画像撮像
装置２０１、画像処理装置２０２、画像パターン記憶装
置２０３までの処理、動作は図５（Ａ）と同じである。
階層型ニューラルネットワーク演算装置２０６は学習結
果記憶装置２０７に格納されている結合係数を取り込
み、画像パターン記憶装置２０３に格納されている識別
すべき画像パターンを入力して、教師信号に相当する識
別信号２０８を出力する。
【０００３】
【発明が解決しようとする課題】以上が階層型ニューラ
ルネットワークの基本的な動作であるが、ここで問題と
されることは、図４の階層型ニューラルネットワークの
学習において、学習用画像パターン１０７と組で入力さ
れる教師信号１０８の一般的な設定法がまだ確立されて
いないことである。そのためニューラルネットワーク適
用問題ごとに教師信号１０８を試行錯誤的に設定してい
るのが現状である。教師信号の設定の仕方によっては学
習の収束に時間がかかったり、最悪の場合、収束しなか
ったりすることもある。また、学習が収束しても画像パ
ターン識別が成功しないことも起こり得る。特に、学習
用画像パターンを入力信号として用いる場合は、一旦学
習用画像パターンをディスプレイ等に表示するか、複写
機で印刷するかして視覚的に確認しながら、その画像パ
ターンに対する教師信号を設定する必要がある。その場
合、設定すべき教師信号の値をどのように決めるかは難
しい問題であった。本発明はこのように設定が難しい画
像パターンの教師信号を自動的に設定することを可能と
し、上記課題を解決することを目的とする。
ルネットワークの基本的な動作であるが、ここで問題と
されることは、図４の階層型ニューラルネットワークの
学習において、学習用画像パターン１０７と組で入力さ
れる教師信号１０８の一般的な設定法がまだ確立されて
いないことである。そのためニューラルネットワーク適
用問題ごとに教師信号１０８を試行錯誤的に設定してい
るのが現状である。教師信号の設定の仕方によっては学
習の収束に時間がかかったり、最悪の場合、収束しなか
ったりすることもある。また、学習が収束しても画像パ
ターン識別が成功しないことも起こり得る。特に、学習
用画像パターンを入力信号として用いる場合は、一旦学
習用画像パターンをディスプレイ等に表示するか、複写
機で印刷するかして視覚的に確認しながら、その画像パ
ターンに対する教師信号を設定する必要がある。その場
合、設定すべき教師信号の値をどのように決めるかは難
しい問題であった。本発明はこのように設定が難しい画
像パターンの教師信号を自動的に設定することを可能と
し、上記課題を解決することを目的とする。
【０００４】
【課題を解決するための手段】上記目的を達成するため
本願の第１の発明は、識別対象の画像を撮像する画像撮
像装置と、撮像された画像から階層型ニューラルネット
ワークへの画像パターンを生成する画像処理装置と、生
成された画像パターンを記憶する画像パターン記憶装置
と、この記憶装置から取り出された画像パターンと該画
像パターンに対する教師信号を組として取り込み学習す
る階層型ニューラルネットワーク演算装置と、学習によ
り得られたニューラルネットワーク演算装置と、学習に
より得られたニューラルネットワーク各層間の結合係数
の修正値を格納する学習結果記憶装置とを備えた階層型
ニューラルネットワーク画像識別装置において、前記画
像パターン記憶装置に記憶された画像パターンからパタ
ーン間距離を算出し、その距離に基づき上記教師信号を
作成する教師信号作成手段を設けたことを特徴とする階
層型ニューラルネットワーク画像識別装置に関する。
本願の第１の発明は、識別対象の画像を撮像する画像撮
像装置と、撮像された画像から階層型ニューラルネット
ワークへの画像パターンを生成する画像処理装置と、生
成された画像パターンを記憶する画像パターン記憶装置
と、この記憶装置から取り出された画像パターンと該画
像パターンに対する教師信号を組として取り込み学習す
る階層型ニューラルネットワーク演算装置と、学習によ
り得られたニューラルネットワーク演算装置と、学習に
より得られたニューラルネットワーク各層間の結合係数
の修正値を格納する学習結果記憶装置とを備えた階層型
ニューラルネットワーク画像識別装置において、前記画
像パターン記憶装置に記憶された画像パターンからパタ
ーン間距離を算出し、その距離に基づき上記教師信号を
作成する教師信号作成手段を設けたことを特徴とする階
層型ニューラルネットワーク画像識別装置に関する。
【０００５】第２の発明は、撮像された識別対象画像か
ら階層型ニューラルネットワークへの画像パターンを生
成する画像処理装置と、生成された画像パターンと該画
像パターンに対する教師信号とを取り入れ学習しニュー
ラルネットワーク各層間の結合係数を修正するととも
に、修正後に取り入れられた識別対象画像に対する識別
結果を出力する階層型ニューラルネットワーク演算装置
とを備えた階層型ニューラルネットワーク識別装置にお
いて、前記生成された画像パターンからパターン間距離
を計算してその最小距離をもつ２個のパターンを求める
手段と、この２個のパターンに対する他の画像パターン
との距離の総和を比較して総和が大きい方のパターンを
基底画像パターンとして設定する手段と、基底パターン
と他の画像パターンとの距離をそれら距離中の最大距離
で除して正規化する手段と、正規化した値にパターン数
を掛けた後まるめて整数化する手段と、整数化した値を
ビット位置とするビット値を〔１〕とし他のビット値は
すべて
ら階層型ニューラルネットワークへの画像パターンを生
成する画像処理装置と、生成された画像パターンと該画
像パターンに対する教師信号とを取り入れ学習しニュー
ラルネットワーク各層間の結合係数を修正するととも
に、修正後に取り入れられた識別対象画像に対する識別
結果を出力する階層型ニューラルネットワーク演算装置
とを備えた階層型ニューラルネットワーク識別装置にお
いて、前記生成された画像パターンからパターン間距離
を計算してその最小距離をもつ２個のパターンを求める
手段と、この２個のパターンに対する他の画像パターン
との距離の総和を比較して総和が大きい方のパターンを
基底画像パターンとして設定する手段と、基底パターン
と他の画像パターンとの距離をそれら距離中の最大距離
で除して正規化する手段と、正規化した値にパターン数
を掛けた後まるめて整数化する手段と、整数化した値を
ビット位置とするビット値を〔１〕とし他のビット値は
すべて
〔０〕とする教師信号ベクトルとする手段とから
なる教師信号作成装置を設けたことを特徴とする階層型
ニューラルネットワーク画像識別装置に関する。
なる教師信号作成装置を設けたことを特徴とする階層型
ニューラルネットワーク画像識別装置に関する。
【０００６】第３の発明は、画像撮像装置により識別対
象画像を撮像し、撮像画像から階層型ニューラルネット
ワーク演算装置への画像パターンを作成し、この画像パ
ターンと該画像パターンに対する教師信号を階層型ニュ
ーラルネットワーク演算装置に取り込み学習して該装置
のニューラルネットワーク各層間の結合係数を修正し、
学習後の階層型ニューラルネットワーク演算装置に識別
対象画像に基づく画像パターンを入力して、識別結果を
識別信号として出力する階層型ニューラルネットワーク
画像識別方法において、前記学習をする際に作成された
画像パターンからパターン間距離を計算し、計算された
パターン間距離に基づき教師信号を作成し、この教師信
号を前記ニューラルネットワーク演算装置の学習用教師
信号とすることを特徴とする階層型ニューラルネットワ
ーク画像識別方法に関する。
象画像を撮像し、撮像画像から階層型ニューラルネット
ワーク演算装置への画像パターンを作成し、この画像パ
ターンと該画像パターンに対する教師信号を階層型ニュ
ーラルネットワーク演算装置に取り込み学習して該装置
のニューラルネットワーク各層間の結合係数を修正し、
学習後の階層型ニューラルネットワーク演算装置に識別
対象画像に基づく画像パターンを入力して、識別結果を
識別信号として出力する階層型ニューラルネットワーク
画像識別方法において、前記学習をする際に作成された
画像パターンからパターン間距離を計算し、計算された
パターン間距離に基づき教師信号を作成し、この教師信
号を前記ニューラルネットワーク演算装置の学習用教師
信号とすることを特徴とする階層型ニューラルネットワ
ーク画像識別方法に関する。
【０００７】
【実施例】本発明は、階層型ニューラルネットワークの
学習用画像パターンが与えられた時、画像パターン間の
パターン距離から自動的に教師信号を生成し、学習用画
像パターンと組合わせてニューラルネットワークに入力
し、学習を行なわせることを特長としている。以下、具
体的に説明する。一般にイメージスキャナーなどの画像
読取装置やＶＴＲカメラ等の撮画装置から得られる２次
元画像パターンは、座標（ｘ，ｙ）におけるデータｂ
（ｘ，ｙ）から構成される。ビットマップの場合はｂ
（ｘ，ｙ）は０か１の２値であり、２５６階調の濃淡画
像の場合はｂ（ｘ，ｙ）は、０〜２５６の整数値、色彩
画像の場合は原色Ｒ（赤）、Ｇ（緑）、Ｂ（青）に関し
て０〜２５６の整数値をもつｂ（ｘ，ｙ）が３組とな
る。ここで、データｂ（ｘ，ｙ）から構成されるｎ個の
画像パターンＰ1 〜Ｐn を考える。まず、各画像パター
ン間の距離を計算する。パターン間の距離の計算方法
は、「画像解析ハンドブック」（高木幹雄、下山陽永監
修；東京大学出版会）や「自己組織化と連想記憶」
（Ｔ．コホネン著、中谷和夫監訳；シュプリンガー・フ
ェアラーク東京）などの文献で説明されているハミング
距離、ユークリッド距離、チェブシェフ距離など各種の
方法があるが、その方法は本発明では問わない。説明の
簡単のため、パターンＰi とＰj の距離をＤijと表記す
る。いうまでもなくＤij＝Ｄjiである。画像パターンＰ
1 〜Ｐn の各パターン間の距離の計算結果は、図３
（Ａ）のようなマトリックスで表わされる。図３（Ａ）
は５個のパターンＰ1〜Ｐ5 の場合で、例えばＰ2 とＰ
4 の距離Ｄ24が２１であることを示している。なお、Ｄ
ij＝Ｄji（ij＝1 〜５）であるので、図３（Ａ）の対角
線の下半分は省略してよい。つぎに、得られたパターン
間距離のＤij（ij＝１〜ｎ）の中で最小の距離を求め
る。パターンＰX （例えばＰ3 ）とパターンＰy （例え
ばＰ4 ）の距離が最小であるとすると、ｎ個のパターン
の中でＰx （Ｐ3 ）とＰy （Ｐ4 ）が最も類似している
ことを示す。パターンＰx （Ｐ3 ）と他のパターンとの
距離の総和Ｓx （１１１）とパターンＰy （Ｐ4 ）と他
のパターンとの距離の総和Ｓ y （８７）とを求め、総和
の大きい方のパターンをここでは基底パターンと呼ぶ。
図３（Ａ）の例では、Ｄ34＝１６が最小値であるのでＰ
3 と他のパターンとの総和Ｓ3 （１１１）およびＰ4 と
他のパターンとの総和Ｓ4 （８７）を求める。総和Ｓ3
は図３（Ａ）において横の欄のＰ3 から下方に、２８、
４３とたどり、対角線上の０に達して右折し、１６、２
４と進んで右端に至るルートで得られる各距離を加算し
ていけばパターンＰ3 に対するＰ1 〜Ｐ5 の距離の総和
Ｓ3 として１１１を得る。Ｐ4 に対するＰ1 〜Ｐ5 の距
離の総和Ｓ4 も各同様なルートを通って距離１９、２
１、１６、０、３１を加算した値８７となる。これよ
り、総和Ｓ3 がＳ4 より大きいのでＰ3 が基底パターン
である。ここで改めて基底パターンと他パターンとの距
離をＤＩＳj （ｊ＝１〜ｎ）と表わす。このＤＩＳ
j （ｊ＝１〜ｎ）の中から最大の距離を探す。いまＤＩ
Ｓz （ＤＩＳ2 ）が最大とすると、パターンＰ
z （Ｐ2 ）が基底パターンに対し最も類似度の低いパタ
ーンであることを表わしている。つぎに各パターン距離
ＤＩＳj （ｊ＝１〜ｎ）を最大距離ＤＩＳz （４３）で
除して正規化する。さらに正規化パターン距離ＤＩＳj
／ＤＩＳz （ｊ＝１〜ｎ）にパターン個数ｎを掛けてｎ
倍し、その値ｎ・ＤＩＳ j ／ＤＩＳz （ｊ＝１〜ｎ）を
４捨５入する。また、ｎ・ＤＩＳj ／ＤＩＳz ＝０．０
に対しては１とする。このような処理により得られる値
をＢj （ｊ＝１〜ｎ）とすると、Ｂj （ｊ＝１〜ｎ）は
１からｎの間の整数になる。以上の処理を図３（Ａ）の
例を用いて説明する。基底パターンＰ3 に対するＰ1 〜
Ｐ5 の距離ＤＩＳ1 〜ＤＩＳ5 を図３（Ｂ）のＤＩＳj
欄に示す。この中の最大値ＤＩＳ2（＝４３）でＤＩＳ
1 〜ＤＩＳ5 を除して正規化した値ＤＩＳj ／ＤＩＳ2
（ｊ＝１〜５）を同図のその下のＤＩＳj ／ＤＩＳz 欄
に示す。各正規化した値にパターン個数ｎ（＝５）を掛
けた値ＤＩＳj ／ＤＩＳz ・５（ｊ＝１〜５）をその下
のｎ・ＤＩＳj ／ＤＩＳz 欄に記載する。これらの値を
４捨５入し、特にＤＩＳ3 の値０．０に対しては１とす
る。こうして得られたＢj （ｊ＝１〜５）を最下のＢj
欄に示す。これから、Ｂj （ｊ＝１〜５）は１と５の間
に振り分けられることがわかる。こうして得られたＢj
（ｊ＝１〜ｎ）を以下のように教師信号の生成に利用す
る。まず、学習用パターンＰk に対する教師パターンを
Ｔk とする。学習パターンの個数がｎである場合は、１
個の教師パターンをｎビットからなるビット列で構成さ
れる教師ベクトルＴk ＝（ａ1 ，ａ2 ，ａ3 ，…ａn ）
tで表わす。ここにｔは転置を表わし、またａ1 ，ａ2
などは０か１であり、この値を以下に述べる方法で決定
する。すなわち、Ｔk ＝（ａ1 ，ａ2 ，ａ3 ，…ａ n ）
t のＢk 番目のビット位置の値を「１」とし、他の全て
のビット位置の値は「０」に設定する。Ｔ1 の場合は、
Ｂ1 ＝４であるからａ1 ，ａ2 ，ａ3 およびａ5 は
「０」で、ａ4 のみ「１」とする。これによりＴ1 ＝
（０，０，０，１，０）t が得られる。同様に、Ｔ2 〜
Ｔ5 について求めると、図３（Ｃ）のような教師信号の
マトリックスが作成され、これを教師信号とする。
学習用画像パターンが与えられた時、画像パターン間の
パターン距離から自動的に教師信号を生成し、学習用画
像パターンと組合わせてニューラルネットワークに入力
し、学習を行なわせることを特長としている。以下、具
体的に説明する。一般にイメージスキャナーなどの画像
読取装置やＶＴＲカメラ等の撮画装置から得られる２次
元画像パターンは、座標（ｘ，ｙ）におけるデータｂ
（ｘ，ｙ）から構成される。ビットマップの場合はｂ
（ｘ，ｙ）は０か１の２値であり、２５６階調の濃淡画
像の場合はｂ（ｘ，ｙ）は、０〜２５６の整数値、色彩
画像の場合は原色Ｒ（赤）、Ｇ（緑）、Ｂ（青）に関し
て０〜２５６の整数値をもつｂ（ｘ，ｙ）が３組とな
る。ここで、データｂ（ｘ，ｙ）から構成されるｎ個の
画像パターンＰ1 〜Ｐn を考える。まず、各画像パター
ン間の距離を計算する。パターン間の距離の計算方法
は、「画像解析ハンドブック」（高木幹雄、下山陽永監
修；東京大学出版会）や「自己組織化と連想記憶」
（Ｔ．コホネン著、中谷和夫監訳；シュプリンガー・フ
ェアラーク東京）などの文献で説明されているハミング
距離、ユークリッド距離、チェブシェフ距離など各種の
方法があるが、その方法は本発明では問わない。説明の
簡単のため、パターンＰi とＰj の距離をＤijと表記す
る。いうまでもなくＤij＝Ｄjiである。画像パターンＰ
1 〜Ｐn の各パターン間の距離の計算結果は、図３
（Ａ）のようなマトリックスで表わされる。図３（Ａ）
は５個のパターンＰ1〜Ｐ5 の場合で、例えばＰ2 とＰ
4 の距離Ｄ24が２１であることを示している。なお、Ｄ
ij＝Ｄji（ij＝1 〜５）であるので、図３（Ａ）の対角
線の下半分は省略してよい。つぎに、得られたパターン
間距離のＤij（ij＝１〜ｎ）の中で最小の距離を求め
る。パターンＰX （例えばＰ3 ）とパターンＰy （例え
ばＰ4 ）の距離が最小であるとすると、ｎ個のパターン
の中でＰx （Ｐ3 ）とＰy （Ｐ4 ）が最も類似している
ことを示す。パターンＰx （Ｐ3 ）と他のパターンとの
距離の総和Ｓx （１１１）とパターンＰy （Ｐ4 ）と他
のパターンとの距離の総和Ｓ y （８７）とを求め、総和
の大きい方のパターンをここでは基底パターンと呼ぶ。
図３（Ａ）の例では、Ｄ34＝１６が最小値であるのでＰ
3 と他のパターンとの総和Ｓ3 （１１１）およびＰ4 と
他のパターンとの総和Ｓ4 （８７）を求める。総和Ｓ3
は図３（Ａ）において横の欄のＰ3 から下方に、２８、
４３とたどり、対角線上の０に達して右折し、１６、２
４と進んで右端に至るルートで得られる各距離を加算し
ていけばパターンＰ3 に対するＰ1 〜Ｐ5 の距離の総和
Ｓ3 として１１１を得る。Ｐ4 に対するＰ1 〜Ｐ5 の距
離の総和Ｓ4 も各同様なルートを通って距離１９、２
１、１６、０、３１を加算した値８７となる。これよ
り、総和Ｓ3 がＳ4 より大きいのでＰ3 が基底パターン
である。ここで改めて基底パターンと他パターンとの距
離をＤＩＳj （ｊ＝１〜ｎ）と表わす。このＤＩＳ
j （ｊ＝１〜ｎ）の中から最大の距離を探す。いまＤＩ
Ｓz （ＤＩＳ2 ）が最大とすると、パターンＰ
z （Ｐ2 ）が基底パターンに対し最も類似度の低いパタ
ーンであることを表わしている。つぎに各パターン距離
ＤＩＳj （ｊ＝１〜ｎ）を最大距離ＤＩＳz （４３）で
除して正規化する。さらに正規化パターン距離ＤＩＳj
／ＤＩＳz （ｊ＝１〜ｎ）にパターン個数ｎを掛けてｎ
倍し、その値ｎ・ＤＩＳ j ／ＤＩＳz （ｊ＝１〜ｎ）を
４捨５入する。また、ｎ・ＤＩＳj ／ＤＩＳz ＝０．０
に対しては１とする。このような処理により得られる値
をＢj （ｊ＝１〜ｎ）とすると、Ｂj （ｊ＝１〜ｎ）は
１からｎの間の整数になる。以上の処理を図３（Ａ）の
例を用いて説明する。基底パターンＰ3 に対するＰ1 〜
Ｐ5 の距離ＤＩＳ1 〜ＤＩＳ5 を図３（Ｂ）のＤＩＳj
欄に示す。この中の最大値ＤＩＳ2（＝４３）でＤＩＳ
1 〜ＤＩＳ5 を除して正規化した値ＤＩＳj ／ＤＩＳ2
（ｊ＝１〜５）を同図のその下のＤＩＳj ／ＤＩＳz 欄
に示す。各正規化した値にパターン個数ｎ（＝５）を掛
けた値ＤＩＳj ／ＤＩＳz ・５（ｊ＝１〜５）をその下
のｎ・ＤＩＳj ／ＤＩＳz 欄に記載する。これらの値を
４捨５入し、特にＤＩＳ3 の値０．０に対しては１とす
る。こうして得られたＢj （ｊ＝１〜５）を最下のＢj
欄に示す。これから、Ｂj （ｊ＝１〜５）は１と５の間
に振り分けられることがわかる。こうして得られたＢj
（ｊ＝１〜ｎ）を以下のように教師信号の生成に利用す
る。まず、学習用パターンＰk に対する教師パターンを
Ｔk とする。学習パターンの個数がｎである場合は、１
個の教師パターンをｎビットからなるビット列で構成さ
れる教師ベクトルＴk ＝（ａ1 ，ａ2 ，ａ3 ，…ａn ）
tで表わす。ここにｔは転置を表わし、またａ1 ，ａ2
などは０か１であり、この値を以下に述べる方法で決定
する。すなわち、Ｔk ＝（ａ1 ，ａ2 ，ａ3 ，…ａ n ）
t のＢk 番目のビット位置の値を「１」とし、他の全て
のビット位置の値は「０」に設定する。Ｔ1 の場合は、
Ｂ1 ＝４であるからａ1 ，ａ2 ，ａ3 およびａ5 は
「０」で、ａ4 のみ「１」とする。これによりＴ1 ＝
（０，０，０，１，０）t が得られる。同様に、Ｔ2 〜
Ｔ5 について求めると、図３（Ｃ）のような教師信号の
マトリックスが作成され、これを教師信号とする。
【０００８】以下、本発明の画像識別装置の実施例を図
面を用いて説明する。全体構成図を図１に示す。本図は
図５（Ａ）に教師信号自動作成装置２０４を追加した構
成になっている。この教師信号自動作成装置２０４が本
発明を実施した具体例である。図１の動作は図５
（Ａ）、図５（Ｂ）で説明したものと基本的に同じであ
る。すなわち、ＶＴＲなどの画像撮像装置２０１から識
別対象の画像データが読み取られ、画像処理装置２０２
で処理されて階層型ニューラルネットワークの入力信号
として画像パターンが生成され、画像パターン記憶装置
２０３に格納される。教師信号自動作成装置２０４は画
像パターン記憶装置２０３から画像パターンＰ j （ｊ＝
１〜ｎ）を読み取り、図２に示す処理フローに従って画
像パターンＰj（ｊ＝１〜ｎ）を処理し、教師信号を自
動生成する。図２の処理フローは、既述した内容をフロ
ーで表現したものであるので以下簡単に説明する。ステ
ップ５０１で画像パターン記憶装置２０３からｎ個の画
像パターンＰj （ｊ＝１〜ｎ）を読み取る。ステップ５
０２では各画像パターンの相互間の距離を計算する。画
像パターンＰ1 〜Ｐn の各パターン間の距離の計算結果
は図３（Ａ）のようなマトリックスで表わされる。つぎ
にステップ５０３で、パターン間距離のＤij（ij＝１〜
ｎ）の中で最小の距離を求める。最小の距離をもつパタ
ーンをＰx 、Ｐy とする。ステップ５０４でパターンＰ
x と他のパターンとの距離の総和ＳX とパターンＰy と
他のパターンとの距離の総和Ｓy とを求める。総和を求
める場合、すでに説明したように、距離マトリックスに
おいて、該当するパターンの欄から対角線まで下り、そ
こから右折して右端にいたるルート上の距離値を加算す
れば得られる。ステップ５０５で総和Ｓx と総和Ｓy を
比較し、大きい方の総和を有するパターンを基底パター
ンと決定する。つぎのステップ５０６では基底パターン
と他パターンとの間の距離ＤＩＳj （ｊ＝１〜ｎ）の中
から最大の距離を探し、各パターン距離ＤＩＳj （ｊ＝
１〜ｎ）をその最大距離ＤＩＳz で除して正規化する。
面を用いて説明する。全体構成図を図１に示す。本図は
図５（Ａ）に教師信号自動作成装置２０４を追加した構
成になっている。この教師信号自動作成装置２０４が本
発明を実施した具体例である。図１の動作は図５
（Ａ）、図５（Ｂ）で説明したものと基本的に同じであ
る。すなわち、ＶＴＲなどの画像撮像装置２０１から識
別対象の画像データが読み取られ、画像処理装置２０２
で処理されて階層型ニューラルネットワークの入力信号
として画像パターンが生成され、画像パターン記憶装置
２０３に格納される。教師信号自動作成装置２０４は画
像パターン記憶装置２０３から画像パターンＰ j （ｊ＝
１〜ｎ）を読み取り、図２に示す処理フローに従って画
像パターンＰj（ｊ＝１〜ｎ）を処理し、教師信号を自
動生成する。図２の処理フローは、既述した内容をフロ
ーで表現したものであるので以下簡単に説明する。ステ
ップ５０１で画像パターン記憶装置２０３からｎ個の画
像パターンＰj （ｊ＝１〜ｎ）を読み取る。ステップ５
０２では各画像パターンの相互間の距離を計算する。画
像パターンＰ1 〜Ｐn の各パターン間の距離の計算結果
は図３（Ａ）のようなマトリックスで表わされる。つぎ
にステップ５０３で、パターン間距離のＤij（ij＝１〜
ｎ）の中で最小の距離を求める。最小の距離をもつパタ
ーンをＰx 、Ｐy とする。ステップ５０４でパターンＰ
x と他のパターンとの距離の総和ＳX とパターンＰy と
他のパターンとの距離の総和Ｓy とを求める。総和を求
める場合、すでに説明したように、距離マトリックスに
おいて、該当するパターンの欄から対角線まで下り、そ
こから右折して右端にいたるルート上の距離値を加算す
れば得られる。ステップ５０５で総和Ｓx と総和Ｓy を
比較し、大きい方の総和を有するパターンを基底パター
ンと決定する。つぎのステップ５０６では基底パターン
と他パターンとの間の距離ＤＩＳj （ｊ＝１〜ｎ）の中
から最大の距離を探し、各パターン距離ＤＩＳj （ｊ＝
１〜ｎ）をその最大距離ＤＩＳz で除して正規化する。
【０００９】つぎにステップ５０７では、正規化パター
ン距離ＤＩＳj ／ＤＩＳｚ（ｊ＝１〜ｎ）にパターン個
数ｎを掛けてｎ倍し、その値ｎ・ＤＩＳj ／ＤＩＳｚ
（ｊ＝１〜ｎ）を４捨５入する。また、ｎ・ＤＩＳj ／
ＤＩＳｚ＝０．０に対しては１を加える。こうして得ら
れた値をＢj （ｊ＝１〜ｎ）とする。つぎのステップ５
０８では、学習用パターンＰk に対する教師パターンＴ
k ＝（ａ1 ，ａ2 ，ａ3，…ａn ）t のＢk 番目のビッ
ト位置の値を「１」とし、他の全てのビット位置の値は
「０」に設定する。こうして教師信号ベクトルを生成す
る。最後のステップ５０９では、ステップ５０８で得ら
れた教師信号ベクトルをｎ個まとめて、図３（Ｃ）の例
のような教師信号マトリックスとして図１に示される教
師信号記憶装置２０５に格納する。階層型ニューラルネ
ットワーク演算装置２０６では、画像パターン記憶装置
２０３から画像パターンを読み取ると同時に、これまで
に説明した処理によって生成された教師信号マトリック
スが格納されている教師信号記憶装置２０５から教師信
号を取り出し、さきに述べたような学習を実行する。学
習が完了すると層間の結合係数が学習結果として学習結
果記憶装置２０７に格納される。以上が本発明の実施例
であり、これまで設定に苦労した特に画像パターンに関
する教師信号を本発明により自動的に行なうことが可能
になった。
ン距離ＤＩＳj ／ＤＩＳｚ（ｊ＝１〜ｎ）にパターン個
数ｎを掛けてｎ倍し、その値ｎ・ＤＩＳj ／ＤＩＳｚ
（ｊ＝１〜ｎ）を４捨５入する。また、ｎ・ＤＩＳj ／
ＤＩＳｚ＝０．０に対しては１を加える。こうして得ら
れた値をＢj （ｊ＝１〜ｎ）とする。つぎのステップ５
０８では、学習用パターンＰk に対する教師パターンＴ
k ＝（ａ1 ，ａ2 ，ａ3，…ａn ）t のＢk 番目のビッ
ト位置の値を「１」とし、他の全てのビット位置の値は
「０」に設定する。こうして教師信号ベクトルを生成す
る。最後のステップ５０９では、ステップ５０８で得ら
れた教師信号ベクトルをｎ個まとめて、図３（Ｃ）の例
のような教師信号マトリックスとして図１に示される教
師信号記憶装置２０５に格納する。階層型ニューラルネ
ットワーク演算装置２０６では、画像パターン記憶装置
２０３から画像パターンを読み取ると同時に、これまで
に説明した処理によって生成された教師信号マトリック
スが格納されている教師信号記憶装置２０５から教師信
号を取り出し、さきに述べたような学習を実行する。学
習が完了すると層間の結合係数が学習結果として学習結
果記憶装置２０７に格納される。以上が本発明の実施例
であり、これまで設定に苦労した特に画像パターンに関
する教師信号を本発明により自動的に行なうことが可能
になった。
【００１０】
【発明の効果】これまで一般的な設定法がまだ確立され
ていない学習用画像パターンと組で入力される教師信号
を学習用画像パターン間の距離から統一的な方法で自動
生成することが可能となり、ニューラルネットワークの
学習の収束がよくなり、収束時間が短くなり、収束失敗
となるケースが防止できるようになった。
ていない学習用画像パターンと組で入力される教師信号
を学習用画像パターン間の距離から統一的な方法で自動
生成することが可能となり、ニューラルネットワークの
学習の収束がよくなり、収束時間が短くなり、収束失敗
となるケースが防止できるようになった。
【図１】本発明の実施例を示す図。
【図２】本発明における教師信号作成フロー図。
【図３】本発明における教師信号作成処理内容を示す
図。
図。
【図４】階層型ニューラルネットワークの基本動作説明
図。
図。
【図５】本発明を適用するニューラルネットワーク画像
識別装置の説明図。
識別装置の説明図。
２０１…画像撮像装置、２０２…画像処理装置、２０３
…画像パターン記憶装置、２０４…教師信号自動作成装
置、２０５…教師信号記憶装置、２０６…階層型ニュー
ラルネットワーク演算装置、２０７…学習結果記憶装
置。
…画像パターン記憶装置、２０４…教師信号自動作成装
置、２０５…教師信号記憶装置、２０６…階層型ニュー
ラルネットワーク演算装置、２０７…学習結果記憶装
置。
Claims (3)
- 【請求項１】 識別対象の画像を撮像する画像撮像装置
と、撮像された画像から階層型ニューラルネットワーク
への画像パターンを生成する画像処理装置と、生成され
た画像パターンを記憶する画像パターン記憶装置と、こ
の記憶装置から取り出された画像パターンと該画像パタ
ーンに対する教師信号を組として取り込み学習する階層
型ニューラルネットワーク演算装置と、学習により得ら
れたニューラルネットワーク演算装置と、学習により得
られたニューラルネットワーク各層間の結合係数の修正
値を格納する学習結果記憶装置とを備えた階層型ニュー
ラルネットワーク画像識別装置において、前記画像パタ
ーン記憶装置に記憶された画像パターンからパターン間
距離を算出し、その距離に基づき上記教師信号を作成す
る教師信号作成手段を設けたことを特徴とする階層型ニ
ューラルネットワーク画像識別装置。 - 【請求項２】 撮像された識別対象画像から階層型ニュ
ーラルネットワークへの画像パターンを生成する画像処
理装置と、生成された画像パターンと該画像パターンに
対する教師信号とを取り入れ学習しニューラルネットワ
ーク各層間の結合係数を修正するとともに、修正後に取
り入れられた識別対象画像に対する識別結果を出力する
階層型ニューラルネットワーク演算装置とを備えた階層
型ニューラルネットワーク識別装置において、前記生成
された画像パターンからパターン間距離を計算してその
最小距離をもつ２個のパターンを求める手段と、この２
個のパターンに対する他の画像パターンとの距離の総和
を比較して総和が大きい方のパターンを基底画像パター
ンとして設定する手段と、基底パターンと他の画像パタ
ーンとの距離をそれら距離中の最大距離で除して正規化
する手段と、正規化した値にパターン数を掛けた後まる
めて整数化する手段と、整数化した値をビット位置とす
るビット値を〔１〕とし他のビット値はすべて〔０〕と
する教師信号ベクトルとする手段とからなる教師信号作
成装置を設けたことを特徴とする階層型ニューラルネッ
トワーク画像識別装置。 - 【請求項３】 画像撮像装置により識別対象画像を撮像
し、撮像画像から階層型ニューラルネットワーク演算装
置への画像パターンを作成し、この画像パターンと該画
像パターンに対する教師信号を階層型ニューラルネット
ワーク演算装置に取り込み学習して該装置のニューラル
ネットワーク各層間の結合係数を修正し、学習後の階層
型ニューラルネットワーク演算装置に識別対象画像に基
づく画像パターンを入力して、識別結果を識別信号とし
て出力する階層型ニューラルネットワーク画像識別方法
において、前記学習をする際に作成された画像パターン
からパターン間距離を計算し、計算されたパターン間距
離に基づき教師信号を作成し、この教師信号を前記ニュ
ーラルネットワーク演算装置の学習用教師信号とするこ
とを特徴とする階層型ニューラルネットワーク画像識別
方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP5149510A JPH0721378A (ja) | 1993-06-21 | 1993-06-21 | 階層型ニューラルネットワーク画像識別装置および識別方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP5149510A JPH0721378A (ja) | 1993-06-21 | 1993-06-21 | 階層型ニューラルネットワーク画像識別装置および識別方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH0721378A true JPH0721378A (ja) | 1995-01-24 |
Family
ID=15476722
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP5149510A Pending JPH0721378A (ja) | 1993-06-21 | 1993-06-21 | 階層型ニューラルネットワーク画像識別装置および識別方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH0721378A (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111382866A (zh) * | 2018-12-27 | 2020-07-07 | 瑞萨电子株式会社 | 用于机器学习的系统和方法 |
-
1993
- 1993-06-21 JP JP5149510A patent/JPH0721378A/ja active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111382866A (zh) * | 2018-12-27 | 2020-07-07 | 瑞萨电子株式会社 | 用于机器学习的系统和方法 |
| US11568226B2 (en) | 2018-12-27 | 2023-01-31 | Renesas Electronics Corporation | System and method for machine-learning |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JPH04332089A (ja) | 指紋データの登録方法 | |
| US5041916A (en) | Color image data compression and recovery apparatus based on neural networks | |
| JPH0721378A (ja) | 階層型ニューラルネットワーク画像識別装置および識別方法 | |
| JPH06113139A (ja) | 画像２値化装置 | |
| JP3344731B2 (ja) | 栗の形状識別方法 | |
| JP3279099B2 (ja) | マーク認識装置およびマーク認識方法 | |
| JP2023003764A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
| JP2022150562A (ja) | 画像処理装置、画像処理方法およびプログラム | |
| CN112184835A (zh) | 一种钢琴键盘图像的形变恢复方法及系统 | |
| JPH07220066A (ja) | 画像処理装置 | |
| JP2606815B2 (ja) | 画像処理装置 | |
| CN117474932B (zh) | 对象分割方法和装置、电子设备及存储介质 | |
| KR102583160B1 (ko) | X-ray 이미지의 노듈위치 결정방법 | |
| JPH02140886A (ja) | 画像の前処理装置 | |
| JPH06187456A (ja) | ニューラルネットワーク画像認識方法および装置 | |
| JPH0567209A (ja) | 色識別装置 | |
| JPH0554195A (ja) | 文字認識装置 | |
| JP3136595B2 (ja) | 領域分離方法 | |
| JP2000251057A (ja) | 入力機器用色再現方法及び装置、並びにこの方法のプログラムを記録した記録媒体 | |
| JP2647455B2 (ja) | 網点領域分離装置 | |
| JPH08138025A (ja) | 画像識別パラメータの決定方法及び画像認識方法 | |
| JP2023129970A (ja) | 印刷画像の欠陥判別装置、およびその判別方法 | |
| JPH02105272A (ja) | 画像処理装置 | |
| JPH06309455A (ja) | 画像２値化処理装置 | |
| JP3324726B2 (ja) | 画像認識装置 |