JPH01241666A - 信号記号混在型神経回路網 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔色男の目的〕 （窒業上の利用分野） この発明は１文字認識、　ｌｊ！ｉｔ象理解、音声認識
システムなどの信号から記号に至るまでの情報処理シス
テムに適用される信号記号混在型神経回路網に関する。

（従来の技術） 文字、音声１１暉などの認識、理解システムは。

これまで多り０）研究が行なわれてきた。一部は、ある
限定された環境υ中で実際に商品として利用されている
。しかしこれらは人間と比較すると処理速度や柔軟性に
３いてυ）なり省っている。このような状況υ中からよ
り入間に近い処理方式として最近神経回路網によるアプ
ローチが注目されている。神経回Ｍ補は、＠６図にボす
ように神経素子とよばれるユニットを情報処理ツ）県立
として、　　゛これを多数暗唱ｒヒし結倉したも力であ
る５入力信号Ｘ　”　（Ｘｌ　、Ｘ＠＋・・・、ｘｎ）
で文字、音声などのパターンを表現し、これを神経回路
網に入力すると各神経素子の演算が行なわれ、出力信号
ｙｌ＝（ｙｔ−ｙｌ、・・・、ｙｍ）を得る。あらかじ
め結合係数Ｕ＝（Ｕｉ　ｊ　）　、ＶＶ＝（Ｗｉ　ｊ　
）ｆｉ−適当に与えたり、または人カバターンを何度も
繰り返し入力して学習させることにより、処理速度の速
い柔軟な（入カバターンが多少異なっていても同じ結果
を出す）システムを構築することができる。

しρ）しなからこｎ電での神経回路網を構成した神経素
子は１ぎ号（数ＩＩＩ！　）を入力して、素子内部で演
算を行ない信号（ａ値）を出力する％のであった。そし
て数１直を記号として意味づけることは。

最後に人間が結果をみて判断する小、そＣ１）数置を記
号に置き直すか力いずれかであった。例えば文字パター
ンを入力して出カバターンとして得られたｙ」　を人間
がこれならばｌ　Ａ　ｌだとかＩＢｌだとか判断した。

あるいはテーブルυ形でｙ」と出力用文字夕１ｊとの対
応をつけて最淡にテーブルを使ってｙのかわりに対応す
る文字列を出力していた。

あるいはまた記号を入力して素子内部で推論を行ない、
記号を出力するものも従来技術の中で利用されている７
例えば神経回路網とは異なる分野であるが、プログラミ
ング言語の中Ｄオブジェクト指向［ｉは、メツセージ（
記号）を受けとり、何か別のメツセージを出力したりあ
る手続きを実行したりするもので、この枠組の中にある
並列型のプロダクシ■ンも同様である。

しかしこのような素子を利用したシステムは、信号を処
理するものと記号を処理するものとにはうきりと分けら
れている。あるシステムは、信号を信号に変換する神経
素子だけを使っているし。

あるシステムは、記号を記号−こ変換する神経素子だけ
を使っている。両方の素子を使っている場合も中間に信
号を記号に変換するインタフェースをおいて、＠手が信
号処理の素子、後半が記号処理を使う構成になっている
。

記号処理を数置で表現すればインタフェースは不用にな
るが、この場合には、本来記号的なものを′ａＩｉｌｔ
表現してしまうＱノでわかりにくくなる。

以上のように神経回路網で信号から記号までを−ｔして
表現する方法はこれまで存在していないという間呟があ
った。

（発明が解決しようとする課ｌ） 以上述べた様に従来方式では、神経回路網の枠の中でこ
れまで信号処理と記号処理と別々に行なわれていたため
に信号処理から記号処理まで一貫して、しかもわつ）り
やすく表現することができな７））りた。

本発明は、こＤような欠点￥：解決し、より人間の情報
部１に近い、より柔軟な情報処理システムを神経回路網
で表現することを目的とする。

〔色明の？、１成〕 （ｇ＠を解決するための手段） 本発明は、これまでの神経素子に新たに２つのタイプカ
神経素子を追７１［１する。即ち１号を記号−ζ変１処
する神経素子と記号から信号を出力する神経素子である
。前者は素子内部で演算を行ない、後者は推論を行なう
。ζαらのタイプの？？＠素子を追７１１１して、神４
１．！２ｉ路、澗を構成する。

（作用） このようにして構成された神経回路網では、内部で自由
に信号→記号、記号→信号の変換ができるため、信号処
理から信号処理に至るまでを一貫して表視することがで
きる。またネットワークの結合を工夫することにより、
信号が記・号処理を記号が信号処理を互いに補い会うこ
とも容易に表現できるようになる。

（実施列） ＠１図に本発明の一′５１！施例の傳成例を示す。ｌは
、信号を信号に変換する神経素子噛、２は信号を記号１
こ変換する神経素子嗜である。ここでは３噛であるが層
数はいくつでもよい。３は情報処理７）基本ユニットで
ある神経素子である。４は、神経素子と神経素子を結ぶ
結合である。

結合が信号を通すも力である場合には各結合線に結付係
数が定義される。

入力信号はＸｌ　ｅ　Ｘ茸＋・・・ＩＸｎで、出力は記
号５ａｔＳ１　ｍ・・・、Ｓｓである。

第６図の従来の神経回路網との違いは、神経素子が従来
は信号から信号へ変換する神経素子だけ構成されていた
のに対し１本色男では記号を記号へ変換する神経素子を
きむことである。（後者３タイプＣｖ神１４素子は第１
図には記していない。）第２図は信号・記号変換神経素
子の構成図、第３図は記号・信号変換神経素子７）構成
図である。図示されるよう−こ前者は信号演算部と記号
生成部。

後者は記号推論部と信号生成部をよんでいる。ここで記
号推論部と１号演算部、記号生成部、信号生！茂部り機
能をまとめると次のようになる。

Ｉａｌ記号推論部 ここでは、いわゆるｌ　ｆ　−ｔ　ｈ　ｅ　ｎ　”４　
’））ルールとこれを実行する推論エンジンが組込まれ
ている。これは、従来カプロダクシ１／システムと同じ
である。

複数の入力記号と１ｆ−ｔｈｅｎ型ルールρ）ら新たな
記号を生成する生成される記号は、複数であってもよい
。

（′ｂ）信号演算部 ここでは、信号を処理する演算機能（四則ｔＬ積分、微
分など）が組込まれている。複数の入力信号に対してＩ
′ｉｉ［′ｘをほどこし新たな信号を生成する。（生成
される嚇会は複数であってもよい。）ｆｃ）記号生成部
、信号生成部 ここでは記号、信号を生成するため力テーブルがある。

入力をＫｅｙとしてこのテーブルを検索することで対応
する記号、信号を生成する。

以下具体的に列をあげて説明する。

ある限られた範囲では１文字パターンの認識を神経回路
網で実現できることが知られている。例えば第６図で入
力信号ペクト／’　Ｘａ　ｅ　’）Ｃｂ　ｅ　Ｘｅ　＋
　ｘｄ　ｌ　ｘｅをそれぞれ文字１ａ１，１ｂｌ、ｌｃ
ｌ、Ｉｄｌ、１．１のパターンを異境したベクトルとす
る。Ｘａに対しｙａ＝（１＃　ｏ”・ｅ　ｏ　）　ｅ　
ｘ　ｂに対しｙｂ＝ｃ、０ｅｌｅＯ−＊０）ｅｘＣに対
してｙｃ＝（ＯｍＯｅＬｗＯ＊−’＋ｄ）ｅｙｄに対し
ｙｄ＝（ＯｔＯ，０ｓｌ（Ｌ・・’０）＋ｘｅに対しｙ
ｅ＝（０，０゜０、Ｏ，１，０，・・・、Ｏ）をそれぞ
れ出力信号として出力するようにＵ、Ｗを設定すること
ができる。

これと同じことを７ａ、・・・７＠’Ｊ）かわりに第１
図ηＳ、”’−Ｓｓ　として、ｘａに対して８１　＝’
　ａ　’　ｓ　Ｓ１＝・−＝Ｓ、　＝Ｏ＋　ｘ　ｂに対
してＳｌ　＝　’　ｂ　’　ｅ　８１　＝８１　＝”’
Ｓ、＝Ｏ，・・・、・・・と設定する。

通常５Ｘ６図の神経素子では、ｙを出力する嗜はＤ杉で
あるから、第１図で８１を出力するためには、信号演算
部には上記演算を信号演算部にもたせ、記号生成部は％
ＳＩ　を出力する神経素子に対しては ｉ　ｆ　（７，＝ｌ　）　ｔｈｅｎＳＢ　（＝　　’ａ
’というルールをもたせればよいｌ、（（は代入を表わ
す）８ｍ−８ｍ−・・・に対しても同様なルール１ｆ（
ｙｌ＝ｌ）ｔｈｅｎ　Ｓｌぐ、１ｂ１ｉｆ（ｙ＠＝ｌ）
ｔｈｅｎ　ｓ、　（＝’　ｃ　’ｉ　ｆ（ｙ　４＝１　
）　ｔｈｅｎ　Ｓ４ぐ、１ｄｌｉｆ（ｙ、＝１）ｔｈｅ
ｎ　Ｓｓぐ１ｅＩとそれぞれもたせればよい。以上が最
も簡単な実施例である。

本角明は、さまざまな応用例が考えら１するつまず神経
素子の変形例として、第４図に示すように記号を受けと
り、信号および記号を同時に出力する神経素子がある。

この変形は信号・記号変換神経素子に対しても考えられ
る。これを使った実施例として、第５図に示す神経回路
網を考えよう。

第５図υ回路網は第１図の構成の回路網り段半（第３層
）につながるも力とする。５＝（Ｓ＋−・・・、Ｓ、）
（？！ｒＳｉは記号を表わす）を入力記号として受けと
る＠４曖は嘉４図のタイプの神経素子とする。

この１の出力は第５＠に対しては信号を、第６ｔ−１こ
対しては、記号を出力するものである。即ち＄５１は、
信号・信号変換神経素子で構成され、＠６１１は、記号
・記号変換素子でＷＩＩ戎されるもυとする。

Ｓ＠刀大入力受ける＠４１Ｄ神経素子を例にとってそ（
７）動作を記述する。

記号推論部 １ｆ（３１＝　’　ｃ　’　）　ｔｈｅｎ（ｐ＋＠ｐａ
ｔｔｅｒｎＣ″ａｎｄｑ（＝’ｃ’） 信号・記号生成部 信号生成部はｐ　７７）［（”　ｐａｔｔｅｒｎ　Ｃ”
という文字列）から信号の直ｖｐを検索して定める。こ
こでは例えばｖｐ＝２とする。

記号生成部は、ｑの直をそのまま保持するにとどめる。

出力信号送信部、出力記号送信部 生成された信号ｖｐおよびｑｏ）［を各納会を通じてそ
れぞれ＠５１１．　第６＠に出力する。第６１釦こは文
字１ｃＩが送られる。

このような構成において結局外部入力信号としてＸＣが
入力されると第３１ｉ１からＳ、＝ｌｃｌの文字が出力
され（池の８１はＯ）、第ｓ＋１には、大文字のＩＣＩ
が入力記号として入力される。第４ｒ１１と第５層の間
の結合係数を適当に設足して８けば＠５Ｎ１の出カバタ
ーンとして大文字Ｉ　ＣＩのパターンが得られる。

このようにパターンの認ａＸｏＺら記号の生成、変換、
異なるパターンの生成などが同一の神経回路網の枠の中
で記述処理することができる。

ただこれらの構成は、記号を全く使わずに構成すること
も可能である。しかし、記号を筺わないとその動作の５
ｒｉ認、修正、追加などが非常に困鼎になる。例えばあ
る数［１が１文字ＩＣ１を認識したことを示すものなの
か、ある信号のレベルを示すものなのかが１回路が複雑
になると全くわからなくなってしまう。従ってこれを区
別し、記号としての意味をもつ場合には、記号として扱
えるようにする方がよい。

安するＩｃ、本発明は、その髪旨を逸脱しない範囲で種
々変形して実施することができる。

〔発明の効果〕

本発明によれば、これまで別々に行なわれていた信号処
理システムと記号処理システムを統合し。

−貞した知的システムを容易に作成することが可能にな
る。また記号レベルの処理を無理矢理数置表現に置き直
すこともないのでシステムの切作罐認、修正、追加など
が容易である。また神経回路網の重要な特徴である学習
機能が匣えるので、より人間に近い柔軟なシステムの開
発にその効果は絶大である。

【図面の簡単な説明】

第１図は本発明の第一の実施例の構成例を示す図、第２
因は同実施例での信号・記号変換神経素子２Ｊ　＠　Ｆ
ｉｉ図、第３図は同実施例での記号・信号変換神経素子
の構成図、第４図は−ｆ？！明の第二の実施例での記号
と信号と記号とに変換する神経素子の構成図、第５図は
本発明の第二の実１例の構成例を示す図、第６図は従来
力神経回路網のＩＩＩ成例を示す図である。 ｌ・・・信号・信号に換神経稟子１．２・・・信号・記
号変換神経黒子１，３・・・神経素子、４・・・納会。 代理人　弁理士　　則　近　慝　右 同　　松山光之 第１ＩＩ 第２図 第３図 第４図 第５図 第６図

Claims (2)

【特許請求の範囲】
1. （１）多入力多出力の情報処理変換素子を互いに結合し
   階層化した神経回路網において、複数の入力信号を受け
   とる入力信号受信部と、その入力信号に基づいて演算を
   行なう信号演算部と、演算結果に基づいて対応する記号
   を生成する記号生成部と、生成された記号を複数の結合
   されている神経素子に出力する出力記号送信部とを具備
   した神経素子を構成要素として、もつことを特徴とした
   信号記号混在型神経回路網。
2. （２）多入力多出力の情報処理変換素子を互いに結合し
   階層化した神経回路網において、複数の入力記号を受け
   とる入力記号受信部と、その入力信号に基づいて推論を
   行なう記号推論部と、推論結果に基づいて対応する信号
   を生成する信号生成部と、生成された信号を複数の結合
   されている神経素子に出力する出力信号送信部とを具備
   した神経素子を構成要素として、もつことを特徴とした
   信号記号混在型神経回路網。