JPH0333968A - ニューラルネツトを用いた情報処理システム及びパターン認識システム - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔産業上の利用分野〕 本発明は、画像Ｐ！識表装置係わり、特にニューラルネ
ットワークを応用した画像認識装置に関する。

〔従来の技術〕

脳の神経回路網を模擬したニューラルネットワークは、
ネットワークに、入力データとその入力データに対する
ネットワークの出力期待値（以下。

教師データと呼ぶ）を教えるだけで、そのデータから所
定のカテゴリーに分類、識別する認識アルゴンリズムを
構築できる能力を備えている。そのため１画像認識や音
声認識などのパターン認識分野への応用が活発に進めら
れている。特に、画像認識においては、従来認識対象が
変わるごとに画像処理のエキスパートがヒユーリスティ
ックな手法で認識アルゴリズムを開発しなければならな
いのが大きな問題点であったが、ニューラルネットワー
クを適用すると認識対象をニューラルネットワークに教
えるだけでよいため、認識アルゴリズム開発の簡単化及
び期間短縮を図ることができる。

しかし、従来のニューラルネットワークは、パーソナル
コンピュータやワークステーションにニューラルネット
ワークの構造（Ｍ数、各層のニューロン数、など）を定
義するニューラルネットワーク定義部とキーボードやフ
ァイルから読み込んだ学習データ（入力データと教師デ
ータが対となったデータ）を用いた学習あるいは学習済
みのニューラルネットワークを用いた想起を行う演算部
とで実現されていた。この種の装置としては、例えば、
電子情報通信学会　技術研究報告　ＰＲＵ８８−８５や
日経コンピュータ１９８ｇ、３．１４Ｐ、　１０３など
に記載のものが挙げられる。

〔発明が解決しようとする課題〕

上記従来技術は、ニューラルネットワークの構造を定義
する部分とニューラルネットワークで学習、想起を行う
演算部で構成されていたため、上記従来技術を画像認識
などの具体的なアプリケーションに適用する場合、ニュ
ーラルネットワークの学習に際しては、学習データ（入
力データと教師データが対になったデータ）の作成やそ
の学習データのニューラルネットワークへの入力方法な
どが十分配慮されておらず、また実用システムとして運
用する際には学習機能が冗長機能になるという問題があ
った。

本発明の目的は、このような問題点を取り除き。

アプリケーション毎に異なる学習データを容易に作成、
及びニューラルネットワークに入力でき、で学習が実行
でき、かつ、実用システムへの移行も容易なニューロ応
用情報処理システムを提供することにある。

〔課題を解決するための手段〕

上記目的を達成するために、ニューラルネットワークの
学習部をパーソナルコンピュータやワークステーション
などの計算機システムで、ニューラルネットワークが学
習するための学習データの作成部及び学習済みニューラ
ルネットワークを用いた想起部を画像認識装置あるいは
音声認識装置などのパターン認識装置で実現し、ニュー
ラルネットワークの構造（層数、各層毎のニューロン数
など）の定義や編集、ニューラルネットワークの学習状
況のモニタリングなどの機能の一部あるいは全てを前記
計算機システム及びパターン認識装置のニューラルネッ
トワーク管理部で実現する。

更に、計算機とパターン認識装置に通信部を設けて両者
を通信ケーブルで接続できるようにしたものである。

〔作用〕

パターン認識装置上のニューラルネットワーク管理部は
、パターン認識装置で扱う認識対象（数字、英数字、音
声など）に応じたニューラルネットワーク構造情報を作
成する。次に、学習データ作成部は、！Ｆ！１％！対象
から学習に必要なデータを抽出して、そのデータと認識
対象のカテゴリーを示す教師データとを対にして学習デ
ータを作成する。

その後、ニューラルネットワーク管理部は、作成したニ
ューラルネットワーク構造情報と学習データ作成部で作
成した学習データを通信部及び通信ケーブルを介して計
算機に転送する。

一方、計算機側では、ニューラルネットワーク管理部は
、送られてきたニューラルネットワーク構造情報と学習
データを学習部に渡す。学習部は、これらのデータを基
に学習を行って、ニューロン間の結合の重みを計算して
、認識対象に適したニューラルネットワークを４４築す
る。このとき、ニューラルネットワーク管理部は、ニュ
ーラルネットワークの学習状況を、例えば、重みの変化
や学習回数の変化などを表示することができる。

学習が終了した場合、ニューラルネットワーク管理部は
、学習部で決定したニューロン間の重みを通信部及び通
信ケーブルを介してパターン認識装置に転送する。

最後に、パターン認識装置に実現した想起部は、最初に
ニューラルネットワーク管理部で作成したニューラルネ
ットワーク構造情報と計算機から転送されてきた重みを
用いて認識対象をカテゴリーに判別、分類する。

このように各部が動作するようにしたので、ニューラル
ネットワークで学習する場合はパターン認識装置と計算
機とを通信で接続することにより学習の高速化が図れ、
また、学習が終了した場合は計算機を切り離してパタ−
ン認識装置２０独で処理する低価格な実用システムが実
現できる。

〔実施例〕

以下、本発明の一実施例を第１図により説明する。

第１図で、２０はパターン認識装置、３ｏは計算機シス
テム、１−１及び１−２はニューラルネットワーク管理
部、２は学習部、−３は想起部、４−１及び４−２は通
信部、４ｏは通信ケーブル、５は学習データ作成部、１
０はユーザーアプリケーション、６はハードディスク、
フロッピーディスクなどの記録媒体を示している。また
、第１図で、実現で示した矢印６１，６２，６３，６４
゜６５は学習データやニューラルネットワークの構造情
報などのデータの流れを表わしている。

第１図は、ニューラルネットワークを応用する場合に必
須の基本機能の中で、学習データ作成部５及び想起部３
をパターン認識装置２０に、そして学習部を計算機シス
テム３０にそれぞれ機能分散し、パタ−ン認識装置２０
と計算機システム３０を通信ケーブル４０で接続した構
成を示している。

このような構成によれば、パターン認識装置２０と計算
機システム３０との間の通信ケーブル４０の接続または
切り離しを行うことで、下記に述べる（１）学習フェー
ズ、（２）運用フェーズが容易に実現できる。

（１）学習フェーズ・・・これは、パターンｖ！、識装
置２０のアプリケーションに適したニューラルネットワ
ークを学習によって構築するフェーズで、この場合はパ
ターン認識装置２０と計算機システム３０を通信ケーブ
ル４０で接続する。そして、ユーザーアプリケーション
】Ｏが作成した入力データを基にパターン認識装置２０
内の学習データ作成部５で学習データを作成し、作成し
た学習データを通信部４−１から通信ケーブル４０を介
して計算機システム３０内の通信部４−２に転送する０
通信部４−２は、送られてきた学習データをニューラル
ネットワーク管理部１−２に送る。ニューラルネットワ
ーク管理部１−２では、学習データの管理を行うととも
に学習データを学習部２に供給する。学習部２で学習を
行った後決定した荷重係数は、ニューラルネットワーク
管理部１−２が通信部４−２に転送要求を発行すること
で通信ケーブル４０を介してパターン認識装置２０に転
送する。

（２）運用フェーズ・・・これは、通信ケーブル４ｏを
切り離して、パターン認識装置２０単体で（１）の学習
フェーズで送られてきたー荷重係数を用いてニューラル
ネットワークで想起、認識を行うフェーズである。

第１図の構成によれば、学習の高速化と実用システムの
低価格化を両立することができる。更に。

第１図は、パターン認識装置２０と計算機システム３０
の１対１の接続であるが、例えば、第２図に示すように
１台の計算機システム３０とｎ台のパターン認識装置２
０−１〜２０−ｎを通信ネットワーク５０で接続した大
規模な機能分散システムも構築することができる。

また、機能分散の方法も第１図の構成だけでなく１例え
ば第３図（、）〜（Ｑ）の形態が考えられる。第３図（
ａ）は、第１図の構成において計算機システム３０に更
に想起部３−１を追加したもので、計算機システム３０
でも学習済みのニューラルネットワークを用いて想起が
実行できるようにしたものである。次に、第３図（ｂ）
は、第１図のパターン認識装置２０内にある想起部３を
計算機システム３０側で実現した構成で、本構成では想
起も計算機システム３０で実行してその結果のみをパタ
ーン認識装置２０に転送するものである。この構成では
、計算機システム３０とパターン認識装置２０を切り離
すことはできないが、学習及び想起の画処理の高速化が
可能である。

最後に、第３図（ｃ）は第１図の各部を１つのシステム
１０にまとめたものである。

第１図、第２図及び第３図（ａ）、（ｂ）のシステム形
態を実現するため１例えば第４図に示すデータフォーマ
ットに従ってパターン認識装置２０と計算機システム３
０はデータ交換を行う。第３図（ｃ）についても、同様
のデータフォーマットで管理できる。

第４図で、制御情報としては例えば第５図に示すように
データの種別、転送要求、受信要求及びパターン認識装
置に割付けられたアドレスなどが考えられる。また、デ
ータ領域に格納されるデータとしては、例えば第６図（
ａ）〜（ｄ）に示すような４種類のデータ構成が考えら
れる。

第６図（ａ）は、データ領域に学習データを格納したも
ので、第１１ｍ〜第３図のシステムに共通に用いられる
。第６図（ｂ）は、学習データにネットワークの構造情
報を付加したもので、例えば第２図のように複数のアプ
リケーションを行うパターン認識装置２０−１〜２０−
　ｎが共通の計算機システム３０を使う場合に用いられ
、このとき計算機システム３０はネットワーク構造情報
に基づいてニューラルネットワークを構成し、−緒に送
られてきた学習データで学習する。

次に、第６図（ｃ）は、（ａ）、（ｂ）の計算機システ
ム３０が学習データで学習した後のニューラルネットワ
ークの荷重係数をパターン認識装置に転送する場合に用
いる。（ｂ）の場合の転送先のパターン認識装置は、制
御情報に書かれたアドレスに一致するパターン認識装置
となる。

第６図（ｄ）は、想起に必要な入力データを想起部に転
送する場合に用いる。

最後に、第６図（ｅ）は、第３図（ｂ）の構成の場合の
ように第６図（ｄ）で送られてきた入力データに基づい
て想起した結果をパターン認識装置２０に転送する場合
に用いる。

次に、第６図（ａ）〜（ｅ）に示すデータで特に重要な
ニューラルネットワークの構造情報や学習データをどの
ように作成していくかについて、第１図のシステム構成
を例に以下説明する。

第１図で、パターン認識装置２０及び計算機３０の各シ
ステムを管理するのが、ニューラルネットワーク管理部
１−１．１−２で、学習部２、想起部３１通信部４−１
．４−２及び学習データ作成部５を制御するとともに、
ニューラルネットワークの構造の編集や学習の進行状況
などのモニタリングなどマンマシンインターフェースの
機能も対話型に実行する。上述した機能を全てニューラ
ルネットワーク管理部１−１及び１−２に実現する必要
はなく、例えばパターン認識装置２０のニューラルネッ
トワーク管理部１−１には学習の進行状況のモニタリン
グは不要である。しがし、機能をモジュール化しておく
ことで必要々機能を取捨選択してニューラルネットワー
ク管理部１−１．１−２を構成することができるため、
以下では全ての機能がニューラルネットワーク管理部上
−１，１−２に実現されている場合を基に説明する。ま
た、以下ではパターン認識装置２ｏは画像認識装置を想
定して説明する。

まず、ニューラルネットワーク管理部１−１゜１−２の
動作の一例を第７図に示す。第７図で、［］で示したＳ
Ｌ、Ｓ３．Ｓ４，８６〜Ｓｌｌは、サブルーチン化され
た機能モジュールである。以下、第７図の流れを参照し
て第１図の各部の動作を説明する。

まず、第１図のシステムの起動指令（例えば、電源の投
入など）が発生すると、ニューラルネットワーク管理部
１−１．１−２は第７図の初期設定Ｓ１の処理を実行す
る。初期設定ＳＬでは、ワークエリアの確保、定数設定
などの処理を行う。

起動指令を受けたときは、終了ではないので次に初期画
面表示設定処理Ｓ３を実行してオペレータからのコマン
ド入力待ち処理Ｓ４を行う。初期画面表示設定処理Ｓ３
で表示する初期画面の一例として第８図のような画面が
考えられる。画面の上部に矩形のコマンド入力覧を設け
、これを複数に分割して編集、学習、想起あるいは終了
など次に実行可能な機能を表示する。オペレータは、こ
れらの機能の１つを例えばマウスなどで選択する。

コマンド入力待ち処理Ｓ４で、オペレータが終了を選択
したごとを検知すると、第１図のニューラルネットワー
ク管理部１−１．１−２は、第７図の８５の処理に示す
ように選択された機能に従って各々の機能モジュールを
実行する。以下、「編集」、「学習」、「想起」の順に
第を図のシステムの動作を説明する。

まず、「編集」が選択されると、ニューラルネットワー
ク管理部１−１．１−２は、編集モード画面表示処理Ｓ
６を実行し、例えば第９図に示すような編集モード画面
を表示する。第９図では、編集機能が選択されたことを
表わすためコマンド入力覧の斜線で示した編集の領域の
色を変えるあるいは白黒反転して表示している。そして
、編集モードで行える機能り、ネットワーク編集、２゜
学習データ作成も同１１：′Ｆに表示しである。ここに
示した機能は、ニューラルネットワークりの構造や学習
データの作成などアプリケーション毎に適したニューラ
ルネッ１−ワーク構造を構築していく」二で必要ｆＪ二
機能を上位概念でまとめて列早したものであり、何らこ
れにこだわるものではない０例えば。

１、ネツ１〜ワーク編集、２．学習データ作成を構成す
る下位の機能をそのまま表示してもよい。

この「編集」で定義されたニューラルネットワークの構
造（層数１層毎のニューロン数など）や学習データなど
は、第１図のニューラルネットワーク管理部１−１．１
−２の管理下に直れ、学習部２．想起部３２通信部４−
１．，４−２に供給される。

このニューラルネットワークの構造を定義する情報及び
学習データのフォーマットとしては、例えば第１Ｏ図及
び第１１図に示すものが考えられる。第１０図は、ニュ
ーラルネットワークの構造情報を示したもので、ＣＩは
第１０図の構造を持つニューラルネットワークの名称を
定義するもので、第８図のコマンド入力覧の「編集」、
「学習」。

「想起」は全てこのニューラルネットワーク名称に基づ
いて行われる。Ｃ２は、構築するニューラルネットワー
クの型を定義する領域で、ランメルハート型、ポツプフ
ィールド型などを指定する。

Ｃ３は、誤差逆伝播（パックプロパゲーション）による
学習演算の繰り返し回数の上限値を設定する領域である
。Ｃ４及びＣ５は、パックプロパゲーションに使われる
学習定数、安定化定数を設定する領域で、学習定数、安
定化定数は文献（合原−幸著二二ューラルコンピュータ
東京電機大学出版局）Ｐ、１１３に記載のニューロン間
の荷重係数６τ＝ｆ’ｔ（。ｌ：ｌ）Ｘ、Ｎ＋”。：τ
”、−（２）イスク、フロッピーディスク）に記録され
ているネットワーク構造情報の中から「ネットワーク名
称」の欄に指定された名称に一致するネットワーク情報
を捜す。また、「入力モード」で外部装置が選択される
と、第１図に示すシステムと同様な機能を持った他シス
テムからネットワーク構造情報を入力する。

編集が終了したネットワーク構造情報のプリント出力の
選択もできる。また、ネットワーク表示を「する」を選
択すると作成したネットワーク構造情報にもとづいてネ
ットワークを表示できる。

このように、「ネツトワー９名称」、「入力モート」、
「プリン！・出力」、及び「ネットワーク表示」の設定
が終了したあと、コマンド欄の「実行」を選択すると、
第工２図の枠内に第１０図に示すネットワーク構造情報
の各項目を表示し、既に各項目にデータが設定されてい
る場合はその内容も表示する。その後、各項目を修正す
ることができる。ここで、ｒネットワーク表示」で「す
る」を選択しである場合、入力されたネットワーク構造
情報に基づいて第１３図（ａ）に示すようにネットワー
クを表示することができる。更に、拡大コマンドを選択
すると例えばマウスで指定された部分の拡大表示（第１
３図（ｂ））することができ、このとき、ニューロン間
の荷重係数やニューロンのしきい値などを修正すること
ができる。第１３図（ｂ）では、ニューロンが属する層
番号（ｉ、ｉ＋１）と層内の番号（ｋ、ｊ）を表示する
ようにしている。

編集が終了した場合は、「終了」を選択することで第９
図の編集モート初期画面に戻る。このとき、「プリント
出力」で「する」を選択しである場合は、編集対象にし
たネットワーク構造情報をプリント出力する。

次に、学習データの作成方広について説明する。

学習データの作成は、第９図の編集モード初期画面で「
学習データ作成」を選択することにより行われる。但し
、第１図では学習データ作成機能が動作するのは画像認
識装置２０側だけである。学習データの作成」機能の選
択は、マウスあるいはキーボードより行う。本機能が選
択されると、例えば第１４図に示す画面を表示する。第
１４図の画面においても第Ｉ２図と同様にコマンド入力
欄の空白部に「２．学習データ作成」を表示し、階層構
造化されたシステムの中でのオペレータの置かれた環境
把握の一助としている。

また、このとき「ニューラルネットワーク名称」。

「入力モード」及び「プリント出力」のメニューを表示
して、オペレータの入力を促す。ここで、「ニューラル
ネットワーク名称」に入力する名称は、学習の対象とな
るニューラルネットワークの名称で既にネットワークの
構造情報が定義されている必要がある。次に、「入力モ
ード」ではキーボードから入力して学習データを作成す
るかあるいはユーザアプリケーションで作成した学習デ
ータを入力するかを選択する。このユーザアプリケーシ
ョン（ここでは画像処理）による学習データ作成の一例
を第１５図に示す。

第１５図（ａ）はユーザーアプリケーション１０の構成
とニューラルネットワーク管理部１−１との接続方法の
一例を示した図である。ユーザーアプリケーション１０
は入力データ作成部１０１と認識１０５から成り、これ
らはニューラルネットワーク管理部１−１と共通テーブ
ル（入力データテーブル２００と想起結果テーブル２０
１）を介して接続するようにしている。

入力データテーブル２００や想起結果テーブル２０１は
、学習データ作成部５や想起部３からアクセスできる。

第１５図（ｂ）は、自動車のナンバーから入力データを
作成する例で、まず、前処理１０２でナンバープレート
を抽出して各ナンバーを切り出す、次に切り出されたナ
ンバーから特徴抽出１０３で特徴量を抽出する。本入力
データ作成部１０１の特長は、前処理１０２で切り出し
たナンバーの画像データ（２値画像、濃淡画像）やナン
バーから抽出した特徴量だけでなくこれらを混合したデ
ータを入力データにできることである。作成した入力デ
ータは、ニューラルネットワーク管理部１−１内の入力
データテーブル２００に格納されて学習データ作成部５
に渡される。学習データ作成部５で、この入力データに
教師データ（オペレータから与えられる）を追加して学
習データとして第１１図のように登録する。

また、作成した学習データを第１１図に示すフォーマッ
トでプリント出力することもできる。

このように「ニューラルネットワーク名称」、ｒ入力モ
ード」及び「プリント出力」の各項目について設定した
後、コマンド入力欄の「実行」を選択すると第１４図の
画面の中央部の枠内に示すように第１１図の学習データ
テーブルの内容が表示される。枠内の左側にはネットワ
ーク名称、現在の学習データの個数、入力層ニューロン
数及び出力層ニューロン数が表示され、右側には既に作
成された学習データの内容とその番号及び新規作成する
学習データを入力するための入カニリアを表示する。こ
れらの学習データは、上下方向に任意にスクロールでき
、任意の学習データ番号の学習データの内容を確認する
ことができる。

ところで、画像認識は通常、次の２つの方式が用いられ
る。すなわち、 （１）認識対象の２次元配列された画像データを標準パ
ターンとして用意し、この標準パターンと入力画像とを
比較し、最も類似度の高い標準パターンを認識結果とす
るパターンマツチング方式 （２）認識対象の画像から、認識対象の特徴ｆｆ１（例
えば、濃度頻度分布、面積、周囲長、傾き、など）を抽
出し、これらの特徴量から判別水を用いた認識あるいは
特徴軸空間にマツピングして標準パターンとの距離を計
算して最小距離の標準パターンを認識結果とする特徴量
方式である。一方、ニューラルネットワークは、入力層
の入力ニューロンに２次元配列の画像データを入力する
ことによりパターンマツチング方式として動作し、また
、特徴量を入力することにより特徴量方式として動作す
る。すなわち、ニューラルネットワークは、パターンマ
ツチング方式と特徴量方式の両者の認識方式を合わせ持
つという性質を有する。したがって、この性質を利用し
て、ニューラルネットワークに２次元配列の画像データ
と特徴量を混合したデータを入力することにより、特徴
量で大局的に判断し画像データで局所的に判断して認識
することができる。そのため、第１図の学習データ作成
部５に第１５図に示すような学習データ作成機構を設け
る。第１５図で、１００は認識対象（この例では数字）
を含んだ入力画像、１０１は学習データ作成部である。

学習データ作成部１０１は、画像の前処理１０２、特徴
抽出１０３及び混合１０４の各機能から成る。

例えば、第１５図の入力画像１００に対しては次のよう
に処理されて学習データが作成される。

まず、前処理１０２を行って入力画像１００から数字の
みの画像を作成し、次に、その画像から特徴抽出１０３
により各数字毎の特徴量を抽出する。

その後、オペレータが指定した制御指令に基づいて、前
処理１０２で−得られた画像データのみ、特徴抽出１０
３で得られた特徴量のみ、あるいは両者を混合したデー
タを混合部１０４で選択して出力し、このデータとオペ
レータより与えられる教師データを対にして学習データ
を作成する。

学習データの作成が終了した後、第１４図のコマンド入
力欄の「転送」を選択すると作成した学習データとネッ
トワーク名称、入力層ニューロン数、出力層ニューロン
数などの情報を合わせて計算機システム３０に転送する
。

次に、第８図の初期画面で「学習」を選択すると例えば
第１６図に示すような画面が表示される。

ここで、学習対象のニューラルネットワークの名称と学
習データの番号を入力して、コマンド入力欄の「実行」
あるいは「再実行」を選択することで学習が実行される
。学習データの番号は、複数個指定することができる。

「実行」あるいは「再実行」のコマンドの違いは、学習
対象のニューラルネットワークのニューロン間の荷重係
数の初期値として次のどれを選ぶかを切り換えることで
ある。

（１）「実行」・・・ニューラルネットワーク編集で指
定した初期荷重係数設定方法に従って設定された初期値
を用いる。

（２）「再実行」・・・「実行」あるいは「再実行」で
学習して修正された荷重係数を初期値として用いる。

「実行」コマンドを設けたことにより、同一初期荷重係
数を用いて、学習定数、安定化定数などの条件を変えた
場合のニューラルネットワークを比較評価することがで
きる。

また、学習終了後のニューラルネットワークの表示、学
習後の荷重係数のプリント出力及び荷重係数の変化状態
のグラフ表示を制御できる。ニューラルネットワークを
表示した場合は、第１３図のように表示され、このとき
ニューロンの興奮の度合や荷重係数の値に応じて色やａ
淡で表示し、また、興奮度合い及び荷重係数の値の大き
いニューロンやニューロン間の接続線をブリンク表示す
る。

コマンド入力欄の「格納」を選択すると学習が終了した
ニューラルネットワークの荷重係数をファイルに退避す
ると同時に画像認識袋［２０に転送する。「終了」を選
択すると「学習」モードを終了して、第８図の初期画面
に戻る。

最後に、第８図の初期画面でコマンド入力欄の「想起」
を選択すると、例えば第１７図に示すような画面が表示
される。但し、「想起」を実行するときは、画像認識袋
［２０にニューラルネットワークの荷重係数が転送され
ている必要がある。

想起を行うのに用いるニューラルネットワーク名称を指
定し９次に「モード」としてニューラルネットワークの
入力データとしてユーザアプリケーションで作成するか
あるいは既に作成した学習データの中の入力データを用
いるかを選択する。

その後、コマンド入力欄の「実行」を選択するとモード
で指定された入力データを用いて想起の処理が実行され
、想起結果が「結果ウィンドウ」欄に表示される。この
とき、「結果のプリン１−出力」で「する」が選択され
ている場合は、想起結果を画面表示だけでなくプリント
出力する。また、「ネットワーク表示」で「する」が選
択されている場合は、第１３図に示すようにニューラル
ネットワークが表示され、学習時と同様にニューロンの
興奮の度合いに応じて色あるいは濃淡で表示するととも
にブリンク表示する。

本実施例によれば、マンマシン性よくニューラルネット
ワークの構築、評価ができる学習環境と、想起結果をビ
ジュアルに確認できる実用システムを簡単に＊ｉ’；ｃ
することができる。

次に、本実施例の一応用として、自動車のナンバー認識
システムの構成を第■８図に示す。第１８図で、２０は
画像認識装置、３０はワークステーション、７はＴＶカ
メラ、１０は自動車のナンバー認識を行うユーザアプリ
ケーションである。

ユーザアプリケーション１０は、前処理１０２、特徴抽
出１０３と認識１０５の３つの手段で構成される。第１
８図のシステムの処理は、２つの）ニーズに従って実行
される。まず、ニューラルネットワークで学習する学習
フェーズでは、第１８図の実線の矢印（→）に従って処
理され、次に、自動車のナンバ認識をオンラインで処理
する運用フェーズでは、第１８図の破線の矢印（−＞）
に従って処理される。

学習フェーズでは、ＴＶカメラ７で撮影した画像をユー
ザアプリケーション１０で前処理１０２と特徴抽出１０
３を行って、ナンバープレートからナンバーの切り出し
及びそのナンバーの特徴量を抽出する。そして、その特
徴量を学習データとしてワークステーション３０に通信
ケーブル４０を介して転送する。ワークステーション３
０は、転送されてきた学習データを用いて学習２を実行
する。学習が終了した後、荷重係数を画像認、！ｉ！！
装置２ｏに転送する。

次に、運用フェーズでは、ワークステーション３０を切
り離し１画像認識装置２０単独で次のように動作する。

ＴＶカメラ７で撮影した画像をユーザーアプリケーショ
ン１０で処理して、ナンバーの特徴量を抽出し、第１５
図（ａ）の入力データテーブル２００に格納して想起部
３に渡す。想起部３では先に転送されてきた荷重係数を
基に想起を行い、各出力ニューロンの出力値を想起結果
テーブルに格納する。

そして、認識１０５でその想起結果テーブル２０１を参
照して最も大きい値を出力したニューロンから各カテゴ
リー（本例では（ＯＩ〜′９′）に分類する。この様子
を第１９図に示す。第１９図では入力層、中間層及び出
力層の３層から成るニューラルネットワークで学習した
後、そのニューラルネットワークを用いてナンバープレ
ート内のナンバー′７′の画像から抽出した特徴量で想
起３を行ったところであり、出力層の′７′のニューロ
ンが最大の出力値を出して興奮している。

第１８図のシステムによれば、！ｊ！識対象すなわち自
動車のナンバーから抽出した特徴量を学習データとして
いるため、ナンバーの２次元配列された画像データ（２
値画像データ、濃淡画像データ）を学習データとして用
いる場合に比べてニューラルネットワークを構成するニ
ューロン数を少なくできるため、学習の時間や想起の時
間を高速化できる効果がある。

しかし、２次元配列された画像データを学習データとし
て用いると、学習、想起の時間は長くなるが、上記で述
べた特徴量に何を用いるかを考えなくてもよいという効
果があるため、第１８図のシステムで学習データ作成部
５の前処理１０３で切り出したナンバーの画像データ（
２値画像データ、濃淡画像データ）を学習データとする
構成も考えられる。

〔発明の効果〕

本発明によれば、パターン認識装置は学習データの作成
とニューラルネットワークを用いた想起ができ、また計
算機システムはニューラルネットワークの学習ができ、
かつパターン認識装置と計算機システｔ・、とを通信で
接続することができるので、ニューラルネットワークの
学習の高速化とニューラルネットワークを用いたパター
ン認識の実用システムの低価格化を実現できる。

【図面の簡単な説明】

第１図は本発明の一実施例を表わすシステム構成図、第
２図は本発明を大意化したシステム構成図、第３図は本
発明の他の実施例を表わすシステム構成図、第４図は本
発明で用いるデータフォーマットを表わす図、第５図は
第４図の制御情報の内容の一例を示す図、第６図は第５
図の具体例を示す図、第７図は本発明の動作フローチャ
ートを表わす図、第８図は本発明を起動したときの初期
画面を表わす図、第９図は第８図の編集モードの。 切期画面を表わす図、第１０図は本発明で用いるニュー
ラルネットワークの構造情報を示す図、第１１図は本発
明で用いる学習データのフォーマットを表わす図、第１
２図はニューラルネットワーク編集モードの画面を表わ
す図、第１３図はニューラルネットワークの表示例を示
す図、第１４図は学習データ作成モードの画面を示す図
、第１５図はユーザアプリケーションの例を示す図、第
１６図は学習モードの画面を示す図、第１７図は想起モ
ードの両面を示す図、第１８図は本発明を自動車のナン
バー認識に応用したときのシステム構成を表わす図、第
１９図は第１８図のシステムでナンバー゛７′を想起し
ている様子を示す図である。 １−１．１−２・・・ニューラルネットワーク管理部、
２・・・学習部、３・・・想起部、４−１．４−２・・
・通信部、５・・・学習データ作成部、２０・・・パタ
ーン認識装置。 ３０・・・計算機システム、 ４０・・・通信ケープ 第 ２ 図 第 図 第 ３ 図 （ｃ） ０ 第 図 第 図 ／認識装置アドレス 第 図 第 ７ 図 第 図 第 図 第 １０図 第１１ 図 第 ２ 図 第 ５ 図 （ａ） 第１５ 図 （ｂ）

Claims (1)

1. 【特許請求の範囲】 １、少なくともニューラルネットワークが学習するため
   の学習データを作成する学習データ作成手段と、前記学
   習データにより学習を終了した前記ニューラルネットワ
   ークを用いて、ある入力データから出力データを出力す
   る想起手段とを有する第一の演算装置と、 少なくとも前記学習データ作成手段により作成された学
   習データを取り込み、学習を実行する学習手段を有する
   第二の演算装置と、 前記第一、第二の演算装置間での相互通信を可能とする
   通信手段とから成ることを特徴とするニューラルネット
   を用いた情報処理システム。 ２、少なくともニューラルネットワークが学習するため
   の学習データを作成する学習データ作成手段と、前記学
   習データにより学習を終了した前記ニューラルネットワ
   ークを用いて、ある入力データから出力データを出力す
   る想起手段とを有し、パターン認識を行なうパターン認
   識装置と、 少なくとも前記学習データ作成手段により作成された学
   習データを用いて、学習を実行する学習手段を有する演
   算装置と、 前記パターン認識装置及び前記演算装置間での相互通信
   を可能とする通信手段とから成ることを特徴とするニュ
   ーラルネットを用いたパターン認識システム。 ３、前記ニューラルネットワークの学習時においては、
   前記パターン認識装置が有する学習データ作成手段によ
   り作成された学習データは、前記通信手段を介して前記
   演算装置に転送され、該転送された学習データを用いて
   前記演算装置はニューラルネットワークの学習を行い、
   該学習の結果決定されたニューロン間の荷重係数を前記
   通信手段を介して前記パターン認識装置に転送すること
   を特徴とする特許請求の範囲第２項記載のニューラルネ
   ットを用いたパターン認識システム。 ４、前記ニューラルネットワークの学習時において、前
   記学習データ及びニューラルネットワークの構成情報を
   前記演算装置に前記転送手段を介して転送することを特
   徴とする特許請求の範囲第２項記載のニューラルネット
   ワークを用いたパターン認識システム。 ５、前記演算装置は、少なくとも学習手段と想起手段と
   から成ることを特徴とする特許請求の範囲第２項乃至第
   ４項記載のニューラルネットワークを用いたパターン認
   識システム。 ６、少なくともニューラルネットワークが学習するため
   の学習データを作成する学習データ作成手段と、前記学
   習データにより学習を終了した前記ニューラルネットワ
   ークを用いて、ある入力データから出力データを出力す
   る想起手段とを有し、画像認識を行なう画像認識装置と
   、少なくとも前記学習データ作成手段により作成された
   学習データを用いて、学習を実行する学習手段を有する
   演算装置と、 前記画像認識装置及び前記演算装置間での相互通信を可
   能とする通信手段とから成ることを特徴とするニューラ
   ルネットを用いた画像認識システム。 ７、特許請求の範囲第６項において、 前記画像認識装置が有する前記学習データ作成手段は、
   認識対象の２次元配列された画像データ、前記認識対象
   から抽出した特徴量または、前記２次元配列された画像
   データ及び前記特徴量を混合したデータを選択すること
   により前記学習データを作成することを特徴とするニュ
   ーラルネットワークを用いた画像認識システム。 ８、少なくとも前記学習又は想起に用いたニューラルネ
   ットワークの構成を表示する表示手段を有することを特
   徴とする特許請求の範囲第６項乃至第７項記載のニュー
   ラルネットワークを用いた画像認識システム。 ９、前記表示手段によつて表示されたニューラルネット
   ワークの構成の所定の部分を拡大表示する拡大表示手段
   と、少なくとも前記拡大表示されたニューラルネットワ
   ークに対してニューロンのしきい値の修正、ニューロン
   間の荷重係数の修正及びニューロン間の接続の切断のう
   ち一を実行するニューラルネットワーク修正手段を有す
   ることを特徴とする特許請求の範囲第８項記載のニュー
   ラルネットワークを用いた画像認識システム。 １０、前記ニューラルネットワークの構成を表示する表
   示手段は、少なくともニューロンの興奮の度合いに応じ
   て色または明るさを変化させて表示する手段及び前記興
   奮の度合いの大きいニューロンをブリンク表示するブリ
   ク表示手段のうち一方を有することを特徴とする特許請
   求の範囲第８項乃至第９項記載のニューラルネットワー
   クを用いた画像認識システム。 １１、前記画像認識装置は、入力データを作成する入力
   データ作成手段及び前記想起手段によるそうき想起結果
   を用いて認識を行う認識手段とから成るユーザーアプリ
   ケーションと、前記アプリケーションと前記学習データ
   作成手段及び前記想起手段との接続を可能とするインタ
   ーフェース手段とを有することを特徴とする特許請求の
   範囲第６項乃至第１０項記載のニューラルネットワーク
   を用いた画像認識システム。 １２、特許請求の範囲第１１項において、 前記インターフェース手段は、共通テーブルであること
   を特徴とするニューラルネットワークを用いた画像認識
   システム。 １３、ナンバープレートを含む自動車を撮影しその画像
   を入力する撮像手段と、 前記ユーザーアプリケーション内に、前記撮像手段によ
   り入力された画像からナンバープレートを抽出し、この
   抽出したナンバープレートからナンバーを切り出す前処
   理手段と、前記前処理により切り出されたナンバーから
   特徴量を抽出する特徴抽出手段とを設け、 前記特徴抽出手段により抽出された特徴量を用いて前記
   学習手段により学習し、且つ前記抽出された特徴量を用
   いて前記想起手段により想起することを特徴とする特許
   請求の範囲第１１項乃至第１２項記載のニューラルネッ
   トワークを用いた画像認識システム。 １４、ナンバープレートを含む自動車を撮影しその画像
   を入力する撮像手段と、 前記ユーザーアプリケーション内に、前記撮像手段によ
   り入力された画像からナンバープレートを抽出し、この
   抽出したナンバープレートからナンバーを切り出す前処
   理手段を設け、前記前処理手段による切り出されたナン
   バーの前記２次元配列データを用いて前記学習手段によ
   り学習し、且つ前記切り出されたナンバーの前記２次元
   配列データを用いて前記想起手段により想起することを
   特徴とする特許請求の範囲第１１項乃至第１２項記載の
   ニューラルネットワークを用いた画像認識システム。