JPH05128083A - 信号処理装置 - Google Patents

Abstract

(57)【要約】 【目的】 多数のニューロン素子の結合によるニューラ
ルネットワークの接続状態の判断を容易かつ正確に行な
え、保守性を高めること。 【構成】 神経細胞の働きを模倣した多数のニューロン
素子を網状に結合させたニューラルネットワーク４を用
いた信号処理装置６において、各ニューロン素子に識別
用ＩＤを設定保持させておく一方、ニューラルネットワ
ーク４内における各ニューロン素子の接続情報を記憶手
段７に記憶させておき、ニューラルネットワーク４の動
作開始時又は動作中の任意時に、記憶手段７に記憶され
ている接続情報と、各ニューロン素子から出力させた識
別用ＩＤに基づく実際の接続情報とを管理手段７により
比較してニューラルネットワーク４の状態をチェックす
るようにした。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、生物の神経細胞の働き
を模倣したニューロン素子を多数結合させて構成したニ
ューラルネットワークを利用して、ロボット制御、文字
・画像或いは音声認識等を行なうようにした信号処理装
置に関する。

【０００２】

【従来の技術】近年、従来のノイマン型コンピュータの
ような逐次処理では、処理手順を明らかにできないと
か、或いは、数値化するのが困難である、といった問題
に対処するため、生物の情報処理機構、即ち脳の機能を
模倣しようとする試みが注目を集めている。

【０００３】生物の脳は、多数の神経細胞、即ちニュー
ロンからなっている。このようなニューロンを互いに接
続して網状にしたニューラルネットワークの形で用い
る。

【０００４】ここに、ニューロンを半導体で形成したニ
ューロンチップを多数接続したニューラルネットワーク
については、特開平２−９８７７１号公報や特開平２−
１７８７５８号公報に示されている。

【０００５】前者の特開平２−９８７７１号公報は、ニ
ューロチップ内のＲＯＭに学習用データを書込んでおく
ことでニューラルネットが学習を行なえるようにしたも
のである。この場合、学習結果（結合係数）はコンデン
サの電荷量とされている。追加学習が必要な場合には、
ニューロチップ内のＲＡＭに追加学習用のデータを書込
む。このようなニューロチップを接続してニューラルネ
ットワークを構成したものである。

【０００６】後者の特開平２−１７８７５８号公報は、
外部のメモリ、例えばＳＲＡＭに結合係数を記憶させて
おき、同じく外部の演算手段により行なわれる学習の結
果により、この結合係数を書換えることで、学習可能な
ニューラルネットワークを構成したものである。

【０００７】さらには、伝達する信号をパルス密度で取
扱うものとし、内部にメモリと学習回路とを持つことで
自己学習を可能としたニューロ素子を用いて並列処理可
能にネットワーク構成したニューラルネットワークも本
出願人により提案されている。

【０００８】

【発明が解決しようとする課題】例えば、階層型ネット
ワークと称されるニューラルネットワーク１の構造例を
図３に示す。図中、白丸で示す部分が各々ニューロン素
子２を表す。ニューロンをデバイス化した時、複数のニ
ューロンが１つのデバイスに搭載されていてもよい。と
ころが、図３からも判るように、ニューラルネットワー
ク１を構成するニューロン素子２は一般に多数であり、
それらの結合３も、ニューラルネットワーク１内部に多
数存在し、それらが全て正常に接続されているか否かの
確認は非常に煩雑である。

【０００９】即ち、接続状態の確認方式として、ニュー
ラルネットワーク１に既知の入力データを与え、得られ
る出力を予め計算で求めておいた答えと比較する方式が
あるが入力データの全ての組合せをテストすることは殆
ど不可能である。まして、ニューラルネットワークは、
よい意味での冗長性があるため、予想と異なる出力が得
られた場合、一部のニューロン間の接続が間違っていて
も、間違っている個所を特定するのが極めて困難であ
り、不確実な動作をした場合の原因究明が非常に困難
で、場合によっては間違ったことすら気付かないおそれ
がある。

【００１０】

【課題を解決するための手段】請求項１記載の発明で
は、神経細胞の働きを模倣した多数のニューロン素子を
網状に結合させたニューラルネットワークを用いた信号
処理装置において、前記各ニューロン素子に識別用ＩＤ
を設定保持させた。この際、請求項２記載の発明では、
識別用ＩＤをニューロン素子外部から設定自在とし、ま
た、請求項３記載の発明では、識別用ＩＤをニューロン
素子外部に対して出力自在とした。

【００１１】また、請求項４記載の発明では、ニューラ
ルネットワーク内における各ニューロン素子の接続情報
を記憶した記憶手段を設け、請求項５記載の発明では、
各ニューロン素子に、自己のニューロン素子に対する他
のニューロン素子の接続情報を記憶した記憶手段を設け
た。

【００１２】さらに、請求項６記載の発明では、ニュー
ラルネットワークの動作開始時又は動作中の任意時に、
記憶手段に記憶されている接続情報と、各ニューロン素
子から出力させた識別用ＩＤに基づく実際の接続情報と
を比較して前記ニューラルネットワークの状態をチェッ
クする管理手段を設けた。

【００１３】

【作用】各ニューロン素子に識別用ＩＤを設定保持させ
ておくことにより、ニューラルネットワーク上での実際
のニューロン素子の接続状態に関する情報を容易に得る
ことができ、ニューロン素子間の接続状態を管理又は検
査することで、その適否を容易に判断でき保守しやすい
ものとなる。特に、使用しようとするニューラルネット
ワーク内における各ニューロン素子の接続状態を記憶手
段に記憶させておき、又は、各ニューロン素子毎にその
ニューロン素子に対して接続すべきニューロン素子の接
続情報を記憶手段に記憶させておくことにより、実際の
接続状態との対比によるネットワーク構成状態の把握が
容易かつ正確となる。

【００１４】

【実施例】本発明の第一の実施例を図１に基づいて説明
する。まず、使用しようとするニューラルネットワーク
４は制御装置５に接続されて信号処理装置６が構成され
ている。ここに、ニューラルネットワーク４は多数のニ
ューロン素子を網状に結合させたもので、任意の形態を
とり得るが、例えば図３に示したような階層型ネットワ
ーク構成とされる。しかして、前記制御装置５内にはニ
ューラルネットワーク４内における各ニューロン素子の
接続情報（設計された情報）を記憶して記憶手段及び管
理手段となる接続情報管理手段７が設けられ、前記ニュ
ーラルネットワーク４にも接続されている。一方、ニュ
ーラルネットワーク４内の各ニューロン素子には、各ニ
ューロン素子（デバイス）に固有の識別用ＩＤが設定保
持されている。識別用ＩＤの設定は外部から行ない得る
もので、デバイスにスイッチを設けてスイッチの切換え
により設定してもよく、ＩＤを書込んだＲＯＭを搭載さ
せてもよく、或いは、ＩＤ用のＲＡＭを搭載させておき
このＲＡＭに書込むようにしてもよい。

【００１５】このような構成により、接続情報管理手段
７に記憶したニューロン素子の接続情報と、ニューラル
ネットワーク４における実際の接続情報とを比較対比す
ることにより、このニューラルネットワーク４が設計通
りに構成されているかをチェックすることができる。

【００１６】まず、接続情報管理手段７から各ニューロ
ン素子にそのニューロン素子に接続されているニューロ
ン素子の識別用ＩＤを知らせるように、指令を順次送
る。このような指令を受けて各ニューロン素子内の識別
用ＩＤは外部に読出せるので、接続情報管理手段７はあ
るニューロン素子に接続されている全てのニューロン素
子を知ることができる。このように収集した実際の接続
情報を、予めこの接続情報管理手段７に記憶されている
接続情報と比較することで、ニューラルネットワーク４
内のニューロン素子間の接続状態の可否（正否）を判断
することができる。

【００１７】ここに、各ニューロン素子の識別用ＩＤ
を、各ニューロン素子内のＲＡＭに書込むことにより、
接続情報の変更は容易に行なえるので、ニューラルネッ
トワーク４の構造は随時変更し得るものである。

【００１８】また、ニューラルネットワーク４の動作開
始時に限らず、ニューラルネットワーク４の動作中でも
任意時（適時或いは一定間隔毎に）、このようにニュー
ラルネットワーク４の接続状態（構成状態）を監視する
ことで、この信号処理装置６の保守を容易かつ確実に行
なうことができ、この信号処理装置６の扱う信号の信頼
性を高めることができる。

【００１９】つづいて、本発明の第二の実施例を図２に
より説明する。本実施例は、ニューラルネットワーク４
を構成する各ニューロン素子８自体に、そのニューロン
素子８に対して接続すべき他のニューロン素子８の識別
用ＩＤを接続情報（設計された接続情報）として記憶す
る記憶手段となる接続情報記憶手段９を設けたものであ
る。この接続情報記憶手段９も、識別用ＩＤの場合と同
様に、外部スイッチ、ＲＯＭ、ＲＡＭなどの手段により
容易に実現し得る。

【００２０】このような構成において、所望の接続が終
了した時点で、各ニューロン素子８の接続情報記憶手段
９に記憶されている接続情報と、実際に接続されている
ニューロン素子８の接続情報とを比較する。これは、接
続情報記憶手段９がニューロン素子８の識別用ＩＤを読
出すようにしてもよく、或いは、接続情報記憶手段９が
格納している自己の識別用ＩＤを出力するようにしても
よい。比較手段は接続情報記憶手段９に並設されていて
もよく、或いは、外部に一括して設けられていてもよ
い。この比較結果により、ニューラルネットワーク４に
おけるニューロン素子８間の接続状態の正否を容易に判
断できる。

【００２１】ところで、各ニューロン素子の内部状態
（入力信号でもよい）の読出しと、出力信号の制御を可
能とし、任意のニューロン素子に既知の信号を出力さ
せ、このニューロン素子に接続されているべきニューロ
ン素子の入力信号を読出すことで、ニューロン素子間の
接続状態の正否を判断することもできる。この場合に
は、各ニューロン素子に接続情報記憶手段９を備える必
要はない。代わりに、外部から入力信号のモニタ及び出
力信号の制御を行なえる機構を付加すればよい。また、
任意のニューロン素子のセレクトは、前述したように識
別用ＩＤを各ニューロン素子が持つので、容易になし得
る。

【００２２】また、接続情報管理手段７や接続情報記憶
手段９を用いて、図１や図２の構成により、ニューラル
ネットワーク４の接続状態を診断する場合、図３に示し
たような３層の階層型ネットワークであれば、第１層に
属するニューロン素子の識別用ＩＤと第３層に属するニ
ューロン素子の識別用ＩＤとは重複しても構わない。こ
れは、第１層と第３層とではニューロン素子間の直接の
接続がなく、同時に同じ識別用ＩＤを参照することはな
いからである。もっとも、このような階層型ネットワー
ク構成が例えば４層構造の場合であれば、第２層のニュ
ーロン素子と第４層のニューロン素子とに同じ識別用Ｉ
Ｄを割り振ることには注意を要する。これは、第１層‐
第２層間と同じような接続が、第３層‐第４層間でも行
なわれる可能性があり、両者の区別が困難な場合がある
からである。何れにしても、大規模なニューラルネット
ワークを構築する際には、各ニューロン素子に付与する
識別用ＩＤが多数になるのを抑えるため、上記のように
ネットワーク間の接続を考慮して、支障ない範囲で重複
した識別用ＩＤを付与することで、ニューロン素子が識
別用ＩＤ用に持つメモリ容量を減らすこともできる。

【００２３】

【発明の効果】本発明は、上述したように、各ニューロ
ン素子に識別用ＩＤを設定保持させたので、ニューラル
ネットワーク上での実際のニューロン素子の接続状態に
関する情報を容易に得ることができ、これに基づきニュ
ーロン素子間の接続状態を管理又は検査することで、そ
の適否を容易に判断でき保守しやすいものとなり、特
に、このような識別用ＩＤを外部から設定自在としたの
で、接続情報の変更も容易であり、ニューラルネットワ
ークの構造変更も容易となり、また、使用しようとする
ニューラルネットワーク内における各ニューロン素子の
接続状態を記憶手段に記憶させておき、又は、各ニュー
ロン素子毎にそのニューロン素子に対して接続すべきニ
ューロン素子の接続情報を記憶手段に記憶させておくこ
とにより、管理手段を用いて、実際の接続状態との対比
によるネットワーク構成状態の把握を容易かつ正確に行
ない、保守性を高めることができる。

【図面の簡単な説明】

【図１】本発明の第一の実施例を示す概略ブロック図で
ある。

【図２】本発明の第二の実施例を示す模式図である。

【図３】階層型ネットワーク構成例を示す模式図であ
る。

【符号の説明】

４ ニューラルネットワーク ７ 記憶手段＆管理手段 ８ ニューロン素子 ９ 記憶手段

───────────────────────────────────────────────────── フロントページの続き (72)発明者 古川 達也 東京都大田区中馬込１丁目３番６号 株式 会社リコー内

Claims (6)

【特許請求の範囲】
1. 【請求項１】 神経細胞の働きを模倣した多数のニュー
   ロン素子を網状に結合させたニューラルネットワークを
   用いた信号処理装置において、前記各ニューロン素子に
   識別用ＩＤを設定保持させたことを特徴とする信号処理
   装置。
2. 【請求項２】 識別用ＩＤをニューロン素子外部から設
   定自在としたことを特徴とする請求項１記載の信号処理
   装置。
3. 【請求項３】 識別用ＩＤをニューロン素子外部に対し
   て出力自在としたことを特徴とする請求項１又は２記載
   の信号処理装置。
4. 【請求項４】 ニューラルネットワーク内における各ニ
   ューロン素子の接続情報を記憶した記憶手段を設けたこ
   とを特徴とする請求項１，２又は３記載の信号処理装
   置。
5. 【請求項５】 各ニューロン素子に、自己のニューロン
   素子に対する他のニューロン素子の接続情報を記憶した
   記憶手段を設けたことを特徴とする請求項１，２又は３
   記載の信号処理装置。
6. 【請求項６】 ニューラルネットワークの動作開始時又
   は動作中の任意時に、記憶手段に記憶されている接続情
   報と、各ニューロン素子から出力させた識別用ＩＤに基
   づく実際の接続情報とを比較して前記ニューラルネット
   ワークの状態をチェックする管理手段を設けたことを特
   徴とする請求項４又は５記載の信号処理装置。