JPH0567064A - 神経回路網自動構築システム - Google Patents

Abstract

(57)【要約】 【目的】論理型知識処理システムを用いて柔軟かつ適応
的に神経回路網を自動構築することのできる神経回路網
自動構築システムを提供する。 【構成】センサ解釈器１３により構築対象神経回路網１
０の学習状態に対応するセンサリデータをセンサ解釈器
１３に組み込んだセンサリデータ解釈用神経回路網１３
により解釈して論理データとしてエキスパートシステム
１４に入力し、このエキスパートシステム１４により構
築対象神経回路網１０を収束させる修正を推論し、この
推論にしたがってコントロール実行器１５により構築対
象神経回路網１０の学習を制御する学習制御器１２およ
び構築対象神経回路網１０の構造を修正する構造修正器
１６を制御する。また、エキスパートシステム１４は推
論制御用神経回路網１８１を組み込んだ推論制御器１８
と統合される。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】この発明は所望の神経回路網を自
動構築する神経回路網自動構築システムに関し、特に論
理型知識処理装置と神経回路網とを統合して構成した神
経回路網自動構築システムに関する。

【０００２】

【従来の技術】一般に、神経回路網を構築するには、神
経回路網のモデル、このモデルに付随するパラメータ値
などを、処理を行うべきデータを解析して学習的に決定
しなければならない。しかし、従来、この神経回路網モ
デル、このモデルに付随するパラメータ値などを決定す
る作業は、人間の経験的な勘に頼って人手によって行わ
れており、このため神経回路網の構築には多くの経験を
必要とすると共に、多大な労力と時間を要していた。

【０００３】また、この神経回路網の構築を自動的に行
う装置も提案されているが、これらの装置は神経回路網
の学習を効率良く行うための経験則が得られる毎にその
制御プログラムを作り直す必要があり、実用に耐え得る
ものではなかった。

【０００４】そこで、エキスパートシステムに代表され
る論理型知識処理システムを用いて神経回路網を自動構
築するシステムが考えられている。しかし、この種の論
理型知識処理システムは、一般に論理データベースで知
識処理を行うものであるので、画像、計測器からの信号
といったセンサリデータを含む経験則をルールで表現す
るのが困難であり、神経回路網構築に有効な経験則をル
ールとしてシステムに組か込むことが難しく、このため
論理型知識処理システムを用いて神経回路網を自動構築
する満足すべきシステムは未だ知られていない。

【０００５】

【発明が解決しようとする課題】上述の如く、従来、神
経回路網の構築作業は、人間の経験的な勘に頼って人手
によって行われていたため、このため神経回路網の構築
には多くの経験を必要とすると共に、多大な労力と時間
を要し、また、神経回路網の構築を自動的に行う装置も
提案されているが、これらの装置は神経回路網の学習を
効率良く行うための経験則が得られる毎にその制御プロ
グラムを作り直す必要があり、実用に耐え得るものでは
なく、また、エキスパートシステムに代表される論理型
知識処理システムを用いて神経回路網を自動構築する試
みもあるが、論理型知識処理システムは、論理データベ
ースで知識処理を行うものであるので、神経回路網が処
理するセンサリデータをルールで表現するのが難しく、
このため論理型知識処理システムを用いて神経回路網を
自動構築する満足すべきシステムは未だ知られていなか
った。

【０００６】そこで、この発明は、論理型知識処理シス
テムを用いて柔軟かつ適応的に神経回路網を自動構築す
ることのできる神経回路網自動構築システムを提供する
ことを目的とする。

【０００７】

【課題を解決するための手段】上記目的を達成するた
め、この発明は、構築対象神経回路網の学習データを蓄
積する学習データベース手段と、前記学習データベース
手段から所定の学習データを選択して前記構築対象神経
回路網に教示するとともに該構築対象神経回路網の学習
時に用いるパラメータの設定を行う学習制御手段と、セ
ンサリデータ解釈用神経回路網を有し、前記構築対象神
経回路網の学習状態を監視し、該学習状態に対応するセ
ンサリデータを入力して該センサリデータに対応する論
理データを形成する解釈手段と、前記解釈手段で形成さ
れて論理データを入力し、予め格納されたルールを実行
することにより前記構築対象神経回路網を収束させる修
正を推論する論理型知識処理手段と、前記構築対象神経
回路網の構造を修正する構造修正手段と、前記論理型知
識処理手段の推論結果に対応して前記学習制御手段およ
び前記構造修正手段を制御するコントロール実行手段と
を具備したことを特徴とする。

【０００８】

【作用】本発明では、解釈手段により構築対象神経回路
網の学習状態に対応するセンサリデータを該解釈手段の
センサリデータ解釈用神経回路網により解釈して論理デ
ータとして論理型知識処理手段に入力し、この論理型知
識処理手段により構築対象神経回路網を収束させる修正
を推論し、この推論にしたがってコントロール実行手段
により構築対象神経回路網の学習を制御する学習制御手
段および構築対象神経回路網の構造を修正する構造修正
手段を制御する。これにより論理型知識処理システムを
用いて柔軟かつ適応的に神経回路網を自動構築すること
が可能となる。

【０００９】ここで、コントロール実行手段は、論理型
知識処理手段の推論結果を入力して学習制御手段および
構造修正手段を制御する制御信号を形成する論理式解釈
用神経回路網を含むように構成してもよく、また、論理
型知識処理手段は、解釈手段で形成された論理データが
書き込まれるワーキングメモリと、構築対象神経回路網
を収束させるためのルールが格納されるプロダクション
メモリと、ワーキングメモリに格納された論理データを
監視し、プロダクションメモリに格納されたルールの中
から条件が充足しているルールを検索実行する推論エン
ジンとを具備して構成され、この構成において、ワーキ
ングメモリおよびプロダクションメモリを監視し、実行
されたルールおよびワーキングメモリの状態を示す信号
を出力するルール監視手段と、プロダクションメモリに
格納されたルールに対応する素子を有するとともに、ル
ール監視手段の出力信号に対応して前記素子間の連結の
強さを変更し、プロダクションメモリにおいて複数のル
ールの条件が同時に充足してしまった場合は、１つのル
ールを選択推論してその推論結果を前記推論エンジンに
伝える推論制御用神経回路網とを更に備えて構成しても
よい。

【００１０】

【実施例】以下、この発明に係わる神経回路網自動構築
システムの一実施例を図面を参照して説明する。

【００１１】図１は、この発明の神経回路網自動構築シ
ステムの一実施例をブロック図で示したものである。図
１において、１０はこの実施例のシステムにおいて自動
構築する構築対象神経回路網であり、この構築対象神経
回路網１０の学習データは学習データベース１１に格納
されている。この実施例のシステムは学習データベース
１１に格納されているデータが正しく認識できるように
構築対象神経網１０を自動構築する。

【００１２】学習制御器１２は、学習データベース１１
に格納されている学習データから所望の学習データを選
択し、これを構築対象神経回路網１０に教示すると共
に、構築対象神経回路網１０の学習時に用いる各種パラ
メータ値の設定を行う。この学習データベース１１から
の学習データを選択およびパラメータ値の設定は後述す
るコントロール実行器１５からの制御信号により行われ
る。

【００１３】センサ解釈器１３は、構築対象神経回路網
１０の学習の進行状況および学習が遅れているデータを
監視し、その結果を後述するエキスパートシステム１４
の構成要素であるワーキングメモリ１４２に論理式で記
録される。すなわち、構築対象神経回路網１０からの入
力信号には学習データの収束性を表わす数値データが含
まれており、センサ解釈器１３にはこの数値データを後
述するエキスパートシステム１４で処理できる論理式に
変換するセンサリデータ解釈用神経回路網１３１が組み
込まれており、センサ解釈器１３は、上記数値データを
このセンサリデータ解釈用神経回路網１３１で論理式に
変換して後述するエキスパートシステム１４のワーキン
グメモリ１４２に記録する。

【００１４】実施例では、センサリデータ解釈用神経回
路網１３１は３層の層状ネトワークで構成されており、
構築対象神経回路網１０からセンサ解釈器１３に送られ
てくる学習回数と誤差データから現状のパラメータ設定
で学習を継続した場合に、「収束する」、「収束しな
い」、「収束する可能性がある」、「不明」に振り分け
る。この振り分けた結果はセンサ解釈器１３を通じて対
応する論理式に変換され、ワーキングメモリ１４２に記
録される。

【００１５】センサリデータ用データベース１３２は、
前記学習回数と前記誤差データおよびそれらを解釈した
結果の論理式を記憶するためのデータベースである。セ
ンサリデータ解釈用神経回路網１３１が正しくない解釈
を行った場合に、センサ解釈器１３はセンサリデータ用
データベース１３２に記録されている情報を用いて、セ
ンサリデータ解釈用神経回路網１３１を修正する。

【００１６】エキスパートシステム１４は、推論エンジ
ン１４１、ワーキングメモリ１４２、プロダクションメ
モリ１４３を有し、プロダクションメモリ１４３には、
種々の状況において構築対象神経回路網１０の学習を効
率よく収束させるための経験則がＩＦ…ＴＨＥＮ…形式
のルールで記述されている。推論エンジン１４１は、常
にワーキングメモリ１４２に記録されている事項を監視
し、プロダクションメモリ１４３に記述されているルー
ルで条件部が充足しているものを検索し、そのルールを
実行する。

【００１７】コントロール実行器１５は、エキスパート
システム１４のワーキングメモリ１４２を監視し、ワー
キングメモリ１４２に予め定義された論理式が記録され
た時点でその論理式に対応した信号を形成し、この信号
を構造修正器１６および学習制御器１２に送出する。

【００１８】構造修正器１６は、構築対象神経回路網１
０を構成する素子数、各素子間の連結の有無などの構造
を編集するもので、コントロール実行器１５から送出さ
れた信号に対応して構築対象神経回路網１０の学習の収
束が容易になるように構築対象神経回路網１０の構造を
編集修正する。

【００１９】また、学習制御器１２もコントロール実行
器１５から送出された信号に対応して構築対象神経回路
網１０の学習の収束が容易になるように構築対象神経回
路網１０の学習方法を修正する。

【００２０】なお、図１において実線でしめす矢印は制
御信号の流れを示し２重線でしめす矢印はデータの流れ
を示す。

【００２１】このような構成によると、エキスパートシ
ステム１４に構築対象神経回路網１０から得た数値デー
タに定性的な解釈を与えてエキスパートシステム１４に
伝えることができ、神経回路網構築のための経験則をエ
キスパートシステム１４に記述することで、柔軟かつ適
応的な神経回路網の構築を自動化することが可能とな
る。

【００２２】図２は、エキスパートシステム１４におけ
る柔軟かつ適応的な解釈を更に有効に行うことができる
ように、エキスパートシステム１４における推論過程に
神経回路網を組み込んだこの発明の他の実施例を示した
ものである。この図２に示す実施例は図１に示した実施
例の構成に、ルール監視器１７、推論制御器１８、推論
制御用神経回路網１８１およびルール適用結果データベ
ース１８２を付加することにより構成される。

【００２３】ここで、ルール監視器１７は、エキスパー
トシステム１４のワーキングメモリ１４２およびプロダ
クションメモリ１４３を監視し、実行されたルールの番
号およびワーキングメモリ１４２の状態を推論制御器１
８に伝達する。

【００２４】推論制御用神経回路網１８１は、プロダク
ションメモリ１４３に記述された各ルールに対応する複
数の素子を有し、ルール監視器１７からの伝達内容に対
応して各素子間の連結の強さを変更する。そして、ワー
キングメモリ１４２に記録されている事項がプロダクシ
ョンメモリ１４３に記述されている同時に２つ以上のル
ールの条件部を充足した場合は、条件部を充足したルー
ルの内の１つのルールを選択して、この選択結果を推論
制御器１８を通して推論エンジン１４１に伝える。推論
エンジン１４１は、この推論制御器１８から伝えられた
１つのルールを実行する。

【００２５】このような構成によると、広範囲の問題を
柔軟かつ適応的に解決することが可能になる。

【００２６】図３は、図２に示したコントロール実行器
１５内に論理式解釈用神経回路網１５１を組み込んだこ
の発明の更に他の実施例を示したものである。この実施
例では、論理式解釈用神経回路網１５１によりエキスパ
ートシステム１４のワーキングメモリ１４２に記録され
た論理式を解釈して構造修正器１６および学習制御器１
２を制御する信号を形成する。

【００２７】論理式解釈用データベース１５２は、ワー
キングメモリ１４２に記録された論理式と論理式解釈用
神経回路網１５１に入力される実数値ベクトルの対応
表、および論理式解釈用神経回路網１５１への入力と、
それに対応する論理式解釈用神経回路網１５１の制御信
号出力が記録されている。実施例では論理式解釈用神経
回路網１５１への入力は５次元の実数値ベクトルとなっ
ている。したがって、論理式解釈用データベース１５２
には、例えば、ワーキングメモリ１４２に「素子を１つ
増加させよ」を意味する論理式Ｘが書かれた場合に、コ
ントロール実行器１５は論理式解釈用データベース１５
２の前記対応表より論理式Ｘに対応する実数値ベクトル
を同定し、論理式解釈用神経回路網１５１に入力する。
論理式解釈用神経回路網１５１の制御信号出力はコント
ロール実行器１５を通じて構造修正器１６、学習制御器
１２に伝達される。論理式解釈用神経回路網１５１が正
しくない制御信号を出力した場合、コントロール実行器
１５は論理式解釈用データベース１５に記録された論理
式解釈用神経回路網１５１の入力と制御信号出力の情報
を用いて論理式解釈用神経回路網１５１を修正する。

【００２８】このような構成によると、構造修正器１６
および学習制御器１２の柔軟かつ適応的制御が可能にな
る。

【００２９】

【発明の効果】以上説明したようにこの発明によれば、
論理型知識処理装置と神経回路網とを統合したシステム
により神経回路網を自動構築するように構成したので、
構築対象神経回路網の状態を示す数値データの定性的な
解釈が可能になると共に、柔軟かつ適応的な神経回路網
の自動構築が可能になるという効果を奏する。

【図面の簡単な説明】

【図１】この発明の神経回路網自動構築システムの一実
施例を示すブロック図。

【図２】この発明の神経回路網自動構築システムの他の
実施例を示すブロック図。

【図３】この発明の神経回路網自動構築システムの更に
他の実施例を示すブロック図。

【符号の説明】

１０ 構築対象神経回路網 １１ 学習データベース １２ 学習制御器 １３ センサ解釈器 １４ エキスパートシステム １５ コントロール実行器 １６ 構造修正器 １７ ルール監視器 １８ 推論制御器 １３１ センサリデータ解釈用神経回路網 １３２ センサリデータ解釈用データベース １５１ 論理式解釈用神経回路網 １５２ 論理式解釈用データベース １８１ 推論制御用神経回路網 １８２ ルール適用結果データベース

Claims (4)

【特許請求の範囲】
1. 【請求項１】 構築対象神経回路網の学習データを蓄積
   する学習データベース手段と、 前記学習データベース手段から所定の学習データを選択
   して前記構築対象神経回路網に教示するとともに該構築
   対象神経回路網の学習時に用いるパラメータの設定を行
   う学習制御手段と、 センサリデータ解釈用神経回路網を有し、前記構築対象
   神経回路網の学習状態を監視し、該学習状態に対応する
   センサリデータを入力して該センサリデータに対応する
   論理データを形成する解釈手段と、 前記解釈手段で形成されて論理データを入力し、予め格
   納されたルールを実行することにより前記構築対象神経
   回路網を収束させる修正を推論する論理型知識処理手段
   と、 前記構築対象神経回路網の構造を修正する構造修正手段
   と、 前記論理型知識処理手段の推論結果に対応して前記学習
   制御手段および前記構造修正手段を制御するコントロー
   ル実行手段と、 を具備したことを特徴とする神経回路網自動構築システ
   ム。
2. 【請求項２】 前記コントロール実行手段は、前記論理
   型知識処理手段の推論結果を入力して前記学習制御手段
   および前記構造修正手段を制御する制御信号を形成する
   論理式解釈用神経回路網を含む請求項１記載の神経回路
   網自動構築システム。
3. 【請求項３】 前記論理型知識処理手段は、 前記解釈手段で形成された論理データが書き込まれるワ
   ーキングメモリと、 前記構築対象神経回路網を収束させるためのルールが格
   納されるプロダクションメモリと、 前記ワーキングメモリに格納された論理データを監視
   し、前記プロダクションメモリに格納されたルールの中
   から条件が充足しているルールを検索実行する推論エン
   ジンとを具備する請求項１記載の神経回路網自動構築シ
   ステム。
4. 【請求項４】 前記ワーキングメモリおよび前記プロダ
   クションメモリを監視し、実行されたルールおよびワー
   キングメモリの状態を示す信号を出力するルール監視手
   段と、 前記プロダクションメモリに格納されたルールに対応す
   る素子を有するとともに、前記ルール監視手段の出力信
   号に対応して前記素子間の連結の強さを変更し、前記プ
   ロダクションメモリにおいて複数のルールの条件が同時
   に充足してしまった場合は、１つのルールを選択推論し
   てその推論結果を前記推論エンジンに伝える推論制御用
   神経回路網とを更に備える請求項３記載の神経回路網自
   動構築システム。