JP3270070B2 - ニューラルネットワークシステム - Google Patents

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】この発明は、連立方程式などの複
数の制約式をニューラルネットワーク上で表現し、該制
約を解消するニューラルネットワークシステムに関する
ものである。

【０００２】

【従来の技術】従来、制約および制約解消に基づく問題
解決（制約指向と呼ぶ）は人工知能システムにおける強
力な枠組であると考えられ、設計問題、画像理解、計画
問題などに幅広く応用されつつある。また、論理プログ
ラミングとの融合により制約論理プログラミングという
新たなパラダイムが生み出され、利用されてきた（共立
出版知識情報処理シリーズ別巻２「制約論理プログラミ
ング」）。

【０００３】ここで、ニューラルネットワークは、脳の
神経系をモデル化したメカニズムにおいて情報処理を行
なうものであり、ニューロンをモデル化した複数の計算
要素（以下、ノードという）がシナプスをモデル化した
リンクによって結合されていて、それらの複数のニュー
ロンの相互作用によって処理が行なわれていくものであ
る。中でも代表的な相互結合型ネットワークは統計力学
的にはスピン系モデルとほぼ等価であり、そのアナロジ
ーからある種のネットワークでは、状態変化とともに必
ず減少するようなエネルギー関数及び状態変化を定義で
きることから並列な制約解消が行なえるため、Ｊ．Ｊ．
ＨｏｐｆｉｅｌｄおよびＤ．Ｗ．Ｔａｎｋによって巡回
セールスマン問題（以下、ＴＳＰという）に適用された
のをきっかけに、制約充足問題、組合せ最適化問題など
への適用に関する研究が幅広く行なわれており、これら
のニューラルネットワークは特にＨｏｐｆｉｅｌｄネッ
トワークとも呼ばれている。

【０００４】即ち、ノード数をＮ、ｉ（１≦ｉ≦Ｎ）番
目のノードの閾値をＩｉ、ｉ番目からｊ（１≦ｊ≦Ｎ）
番目のノードへのリンクの重みをＴｉｊ（ただしＴｉｊ
＝Ｔｊｉ（ｉ≠ｊ），Ｔｉｉ＝０である）、ｉ番目のノ
ードの出力をＶｉとするとき、前記Ｈｏｐｆｉｅｌｄネ
ットワークのエネルギー関数は一般に次式で表され、こ
れが状態変化とともに減少し、エネルギー極小の状態へ
と進み、場合によってはエネルギー最小の状態に到達す
る。

【０００５】

【数１】

【０００６】そこで、ある最適化問題に対し、その変数
を適当に当該ネットワークの各ノードに割り当て、問題
によって定まる制約条件を満たしながらコストを最小と
する時にエネルギー最小となるようエネルギー関数を定
め、それに基づいて各ノード間のリンクの重みを定めて
おけば、その最適化問題は前記Ｈｏｐｆｉｅｌｄネット
ワークで表現されることになる。

【０００７】次に、具体例として、「“ニューラル”カ
ンピュテイション オブ ディシジョンズ イン オプ
ティミゼイション プロブレムズ」，バイオロジカル
サイバネティクス（「“Ｎｅｕｒａｌ ”Ｃｏｍｐｕｔ
ａｔｉｏｎ ｏｆ Ｄｅｃｉｓｉｏｎｓ ｉｎ Ｏｐｔ
ｉｍｉｚａｔｉｏｎ Ｐｒｏｂｌｅｍｓ 」，Ｂｉｏｌ
ｏｇｉｃａｌ Ｃｙｂｅｒｎｅｔｉｃｓ ），ｐｐ．１
４１−１５２，１９８５に示された、Ｈｏｐｆｉｅｌｄ
ネットワークを用いて前記ＴＳＰを解く場合について説
明する。このＴＳＰはｎ都市を１人のセールスマンが巡
回する最短距離を求めるものであり、ここでは、各都市
を巡った後に元の都市に戻ってくるものとし、これを組
合せ的に解くための計算量はＮＰ完全である。

【０００８】まず、この問題を解くためのＨｏｐｆｉｅ
ｌｄネットワークを設定するために、Ｎ＝ｎ×ｎ個のノ
ードを用意する。各ノードの出力をＶｘｉ（０＜Ｖｘｉ
＜１；０＜ｘ，ｉ＜ｎ）とし、Ｖｘｉが１に近ければ
（活性化しているならば）都市ｘをｉ番目に訪れること
を表すとネットワークのエネルギー関数を次のように定
める。

【０００９】

【数２】

【００１０】この数２において、右辺第１項は同じ都市
を２度回ることがないという制約、第２項は同時に２つ
の都市を訪れることはないという制約、第３項は活性化
したノードがｎ個でなければならないという制約をそれ
ぞれ表している。また、ｄｘｙは都市ｘと都市ｙの間の
距離であり、第４項は巡回する行程が短くなればなるほ
ど小さくなるので、最適化に寄与する項となる。なお、
Ａ，Ｂ，Ｃ，Ｄは各制約項の重みづけを表す。

【００１１】このとき、数１から

【００１２】

【数３】

【００１３】

【数４】

【００１４】

【数５】

【００１５】とすれば当該Ｈｏｐｆｉｅｌｄネットワー
クは数２で表されるエネルギー関数を持つことになる
（ただし定数の差は無視する）。しかし、数１からもわ
かるように、エネルギー関数が２次まででしか定義でき
ないため、制約条件はエネルギーを最小化するという形
でしか表現できないという大きな制約が課せられてい
た。

【００１６】

【発明が解決しようとする課題】制約指向は問題表現の
柔軟性をもたらす一方、該問題の規模が大きくなるとと
もに、制約の伝搬が複雑になるため、効率のよい制約解
消系の開発ができなかった。Ｈｏｐｆｉｅｌｄネットワ
ークを用いた制約解消系ではＴＳＰなど特定の問題に対
するネットワークの構成は可能だが、一般的な制約問題
を解くための構成手続は確立されておらず、また、表現
可能な制約条件もエネルギー関数の形式により制限され
るなどの課題があった。

【００１７】この発明は上記のような課題を解消するた
めになされたもので、広範囲な複数の制約式をニューラ
ルネットワーク上で表現して並列実行を可能にすること
で、効率的、かつ柔軟な制約解消を実現するニューラル
ネットワークシステムを得ることを目的とする。

【００１８】

【課題を解決するための手段】この発明に係るニューラ
ルネットワークシステムは、外部からの状態設定が可能
で、かつ複数の入力信号を加算した和信号を非線形処理
して出力する複数のノード間を、一方のノードから出力
された信号に外部からの設定可能な重みを乗じて他方の
ノードへ出力するリンクによりそれぞれ双方向に結合し
てなるニューラルネットワークと、論理式若しくは整数
式又は両者の組み合わせからなる複数の 制約式が与えら
れると、単一の数学的関係を示す素制約式の組み合わせ
として各制約式を解釈すると共に、各素制約式中の変数
及び／又は定数とノードとの対応付け及びこれらのリン
クの重みを各素制約式ごとに設定したネットワーク対応
情報をそれぞれ生成し、これらネットワーク対応情報を
用いて各素制約式の組み合わせとして複数の制約式を同
時にニューラルネットワーク上に表現する制約解釈手段
と、制約解釈手段によってニューラルネットワーク上に
表現された制約式中の変数の値を管理しながら、該制約
式による制約解消を実行し、変数値が所定値となると制
約解消計算の終了判定を行って制約解消の結果を出力す
る制約解消実行手段とを備えるものである。

【００１９】この発明に係るニューラルネットワークシ
ステムは、制約解釈手段が、ネットワーク対応情報を用
いて複数の制約式をニューラルネットワーク上に表現す
るにあたり、各制約式の重要度に応じてネットワーク対
応情報におけるリンクの重みに関する情報を変更するも
のである。

【００２０】

【作用】この発明における制約解釈手段は、ニューラル
ネットワーク上の各ノードで、与えられた複数の制約式
中の変数及び定数を表現し、複数の制約式中に含まれる
加算、減算、乗算、ブール演算を解釈し、前記変数及び
定数を表現する各ノード間のリンクの重みを設定するこ
とで、前記ニューラルネットワーク上に複数の制約式を
表現して並列実行を可能にしたので、効率的な制約解消
が可能となる。

【００２１】この発明における制約解釈手段は、各制約
式の重要度を解釈して前記複数の制約式中の変数及び定
数を表現する各ノード間のリンクの重みを設定すること
で、前記ニューラルネットワーク上に複数の制約式を表
現して並列実行を可能にしたので、効率的、かつ柔軟な
制約解消が可能となる。

【００２２】

【実施例】以下、この発明の一実施例を図について説明
する。図１はこの発明の一実施例によるニューラルネッ
トワークシステムの構成を示すブロック図である。

【００２３】図において、１１はニューラルネットワー
ク１５上のノードであり、このモデルとしては、連続時
間の微分方程式に従うとするものなどもあるが、この実
施例では離散時間で定義されたものを扱うことにする。
なお、連続時間モデルでも同様の議論が可能である。即
ち、ニューラルネットワーク１５の計算は各ノード１１
が非同期にそれぞれ複数の入力信号を加算し、その和信
号ｘに対してシグモイド関数

【００２４】

【数６】

【００２５】あるいは、ステップ関数

【００２６】

【数７】

【００２７】で表されるような特性関数を適用し、その
結果を出力する。また、これら特性関数はノードごとに
選択可能であり、入力に対して非線形で単調非減少であ
ることが特徴である。

【００２８】また、１２は一方のノード１１から出力さ
れた信号に外部から設定された重みを乗じて他方のノー
ド１１に出力するリンク、１３は与えられた複数の制約
式中の変数及び定数をノード１１の集合で表現し、該各
ノード１１で表現されている変数値を制約解消の計算中
観察しながら（外部より変数値が束縛されていれば各ノ
ード１１を所定の方法に従って固定する）、その変化が
一定量以下となった時、制約解消の計算が終了したと判
断すると、制約解消の結果を外部に出力する変数管理器
（制約解消実行手段）、１４は与えられた複数の制約式
を解釈し、各ノード１１間のリンクの重みを設定する制
約解釈器（制約解釈手段）、１５はニューラルネットワ
ークであり、前記複数のノード１１間を前記リンク１２
でそれぞれ双方向に結合して構成されている。

【００２９】次に動作について説明するが、まず、前記
変数管理器１３の動作について説明する。与えられた複
数の制約式の変数及び定数を表現する各ノード１１の特
性関数として数６を値域が（−１，１）となるように変
形した

【００３０】

【数８】

【００３１】を便宜上用いることにする。そして、これ
ら変数及び定数は、その値がブール値であれば１つのノ
ードによって表現され、例えば、その出力が１に近い時
にブール値の“１”を、−１に近いときに“０”を表す
こととし、また、その値が非負整数であれば、それを表
現するのに十分なビット数のノードを用いて、これを表
現する。この各ビットに対応したノード１１の意味とし
ては、例えば、前記ブール値におけるものと同様に考え
ることとし、例えば、定数５は３つのノードで表現さ
れ、それぞれの出力は変数管理器１３によって１，−
１，１に固定されることになる。なお、変数も同様にし
て表現されるが、必要なノード数はその値域から前述し
たように定めなければならない。また、このようにして
割り当てられたノード１１を変数ノードと呼び、１つの
定数もしくは変数を表すノード１１の集合を、混乱の生
じる恐れのない限り単に定数もしくは変数と呼ぶことと
する。変数は外部からの要求によりある値に束縛されう
る。このとき、変数管理器１３は定数と同様の方法で、
対応する変数ノードの出力を設定し、固定する。

【００３２】次に、制約解釈器１４が与えられた複数の
制約式を解釈し、各リンク１２の重みを設定する動作に
ついて説明する。

【００３３】ここでは、その前提としてまず、複数の制
約式をいかに同一のニューラルネットワーク１５上に表
現するかを図２を用いて説明する。実際には個々の制約
式はさらに原始的な制約の組み合わせとして表現される
ため、仮想的に「プレーン」（ネットワーク対応情報）
というものを導入する。これらプレーン２３は原始的制
約に対応するものであり、各プレーン２３には仮想ノー
ド２１と仮想リンク２２が存在する。各仮想ノード２１
及び仮想リンク２２は実際のニューラルネットワーク１
５上のノード１１及びリンク１２に対応している。そし
て、仮に各仮想リンク２２の重みが定まったとすると、
実際のリンク１２の重みは各プレーン２３上の対応する
仮想リンク２２の重みの和として決定される。

【００３４】次に、制約解釈器１４が前記原始的制約か
ら対応するプレーンの仮想リンク２２の重みをいかに決
定するかを図３〜図７を用いて説明する。まず、２変数
（あるいは１つの変数と１つの定数）間の等値関係の場
合について説明するが、図３に示すように、あるプレー
ン３３上の対応するビットの２つの仮想ノード３１ａ，
３１ｂを結ぶ仮想リンク３２ａ，３２ｂが重み１をもつ
ように設定する（なお、図中の（仮想）リンクの重みを
その横に記した数字で表すことがある）。このプレーン
３３において、そのように設定された仮想リンク３２
ａ，３２ｂがどのように機能するかを説明する。対にな
った仮想ノードの一方３１ａの出力が仮に−１に固定さ
れたとする。すると、もう一方の仮想ノード３１ｂへの
入力として−１×１＝−１が加わることになる。このこ
とはノード１１の特性関数が単調非減少であるため、そ
のノード１１の出力は減少し、−１に近付くことにな
り、両ノード１１の出力が近付いていく。逆の場合も同
様である。

【００３５】次に、原始的制約として数９のようなブー
ル演算を含む例について説明する。

【００３６】

【数９】

【００３７】ここで、Ａ，Ｂ，Ｃはブール変数とする。
また、これらブール変数はそれぞれ１つのノードで表現
され、この対応したプレーンの例が図４である。ここ
で、プレーン４３には各変数を表す変数ノード４１ａ，
４１ｂ，４１ｃのほかに、このプレーン４３のために特
別に割り当てられる補助ノード４４ａ，４４ｂ、そして
しきい作用を実現するためにニューラルネットワーク１
５に１つだけ存在する特別なノード（以下、閾値ノード
という）に対応した仮想ノード４５がある。この閾値ノ
ードの出力は常に１に固定されている。これらの仮想ノ
ードの間を結ぶ仮想リンク４２の重みは図中に示す通り
であり、補助ノード４４ａの特性関数としては前記数７
の値域を変更した

【００３８】

【数１０】

【００３９】を選択する。また、前記補助ノード４４ａ
は閾値ノードからの入力−１．５が常にあるので、変数
ノード４１ａと変数ノード４１ｂの出力の和が１．５を
超えると（例えばＡ，Ｂともに１のとき）、変数ノード
４１ｃの出力を１にしようとし、超えなければ−１にし
ようとする。もう一つの補助ノード４４ｂの特性関数と
しては前記数７を用いる。変数ノード４１ｃの出力が１
に近い時は変数ノード４１ａ，４１ｂの出力を１にしよ
うとするが、変数ノード４１ｃの出力が−１に近い時は
出力が０となるため、変数ノード４１ａ，４１ｂの出力
に寄与することはなく、それらの出力は他のプレーンの
制約によって定まることになる。なお、他のブール演算
の例についても同様であるが、ここでは省略する。

【００４０】次に、加算を含む制約式の例について説明
する。この制約式を表現するためには２種類の原始制約
を組合せる必要があるため、まず１ビットの変数４つが

【００４１】

【数１１】

【００４２】という制約を持つ場合を考える。ただし、
桁あふれはここでは無視することとし、このような制約
を表すプレーンを図５に示す。この図５では変数ノード
５１ａ，５１ｂ，５１ｃ，５１ｄに対応し、それぞれ補
助ノード５４ａ，５４ｂ，５４ｃ，５４ｄがついてお
り、これらの補助ノードの特性関数としては前記数１０
を用いる。そして、Ａ，Ｂ，Ｃがそれぞれ１，０，１の
時Ｄがどうなるかを考えると、変数ノード５１ａ，５１
ｂ，５１ｃの出力はそれぞれ１，−１，１であるから補
助ノード５４ｄへの入力の総和は

【００４３】 １×１＋（−１）×１＋１×１＝１

【００４４】となり、同様に数１０にしたがって補助ノ
ード５４ｄの出力は１となる。これにより、変数ノード
５１ｄへの入力は

【００４５】 １×１＋（−１）×１＋１×１＋１×（−２）＝−１

【００４６】となる。ただし、左辺第４項は補助ノード
５４ｄによるものである。従って、変数ノード５１ｄの
出力は−１に近付くことになる。なお、この制約を表す
プレーン５３を４ノード加算プレーンということにする
と、この４ノード加算プレーンの１つの変数ノード５１
ｄと対応した補助ノード５４ｄ及びそれらから出入りす
る仮想リンクを削除することにより、３ノード加算プレ
ーンも構成可能である。

【００４７】次に、以下のように１ビットの変数３つを
加えた時の桁あふれを表す制約の場合について説明す
る。

【００４８】Ａ＋Ｂ＋Ｃの桁あふれがＤ

【００４９】ここで、変数Ｄまたは１ビットの変数であ
り、図６にこのためのプレーンを示す。この図６では、
それぞれの変数に対応した変数ノード６１ａ，６１ｂ，
６１ｃ，６１ｄの他に前記数７及び数１０の特性関数を
それぞれ持つ補助ノード６４ａ，６４ｂ及び閾値ノード
６５が存在する。また、変数ノード６１ａ，６１ｂ，６
１ｃより補助ノード６４ａに向かう仮想リンクによって
変数ノード６１ａ，６１ｂ，６１ｃの出力の和が正の時
（例えばＡ，Ｂ，Ｃのうち２つ以上が１の場合）に補助
ノード６４ａの出力を１に近付けようとし、そうでなけ
れば補助ノード６４ａの出力を−１に近付けようとす
る。この補助ノード６４ａの出力はそのまま変数ノード
６１ｄ（特に、キャリーノードという）の出力を左右す
るので、該補助ノード６４ｂが発火する典型的な場合は
キャリーノードの出力が１で、しかも、変数ノード６１
ａ，６１ｂ，６１ｃの出力の和が負の時である。すなわ
ち、桁あふれが出ているにもかかわらず他の変数の和が
桁あふれを出すほどではない場合に相当し、補助ノード
６４ｂは他の変数ノードの出力を１に近付けようとす
る。この制約を表すプレーン６３を３ノードキャリープ
レーンということにすると、変数ノード６１ｃ及びそこ
からの出入りする仮想リンクを削除することにより、２
ノードキャリープレーンを構成することができる。

【００５０】次に、前述したような２つの原始的制約を
組み合わせることにより、加算、減算、乗算を表現する
場合について説明するが、ここでは、２ビットの変数
Ａ，Ｂ，Ｃの間に次の制約式を表現するものを示すにと
どめる。

【００５１】

【数１２】

【００５２】例えば、それぞれの変数を表すノードを上
位ビットからａ０，ａ１，ｂ０，ｂ１，ｃ０，ｃ１と
し、上位ビット及び下位ビットからの桁あふれを表す補
助ノードをそれぞれｄ０，ｄ１とする。これら各ビット
に対して次のようにプレーンを生成していく。 （１） 前記ノードａ１，ｂ１，ｃ１に対して３ノード
加算プレーンを構成する。 （２） 前記ノードａ１，ｂ１，に対し補助ノードｄ１
キャリーノードとする２ノードキャリープレーンを構
成する。 （３） 前記ノードａ０，ｂ０，ｃ０及び補助ノードｄ
１に対し前記補助ノードｄ０をキャリーノードとする３
ノードキャリープレーンを構成する。なお、不等式の扱
いについては適当なビット数を持つ仮変数（非負整数を
値として持つ）を導入することにより解決する。例えば

【００５３】

【数１３】

【００５４】は、仮変数Ｃを導入することにより、以下
のような形に変換した上で前述したようなプレーンで表
現する。

【００５５】

【数１４】

【００５６】以上のように、１つの制約式は１つ以上の
プレーンで表現され、それぞれ設定された各プレーンの
仮想リンク２２の重みから実際のリンク１２の重みが決
定され、ニューラルネットワーク１５が構成される。複
数の制約式を同時に扱う場合も、それらから生成される
全プレーンから、同様に構成すれば良い。次に変数管理
器１３によって変数の値の束縛が行なわれた後、ニュー
ラルネットワーク１５の計算が開始される。その終了判
定は変数管理器１３が行ない、その後、結果を外部に伝
達する。

【００５７】次に、複数の制約式にそれぞれ重みづけを
行う場合は、各プレーンｉにおける仮想リンクの重みＷ
ｉを単に加え合せるのではなく、対応する制約式の重要
度Ｓｉに応じて重みづけを行ないながら加えて実際のリ
ンクの重みＷを得る。

【００５８】

【数１５】

【００５９】これによって例えば、矛盾した制約式を扱
うことも可能となる。同一変数ノードに対する各プレー
ンからの正負の入力がちょうど打ち消し合うと、計算が
望ましくない状態で終了することもある。すなわち、変
数ノードの出力が０となって、対応する変数の値が決定
できない場合がある。これを避けるためには、対等に各
プレーンを扱うのではなく、微妙に差をつけることが望
ましい。あるいは、実行時に動的にリンクの重みに揺ら
ぎを与えることも効果的である。これは何らかの原因で
正負の入力が打ち消し合うことを避けるためである。

【００６０】ここまでは、プレーンを仮想的なものとし
て扱っていたが、複数のプレーンに関与する変数ノード
に対してそれぞれプレーンノードと呼ばれ、特性関数と
して恒等関数

【００６１】

【数１６】

【００６２】をもつ特別なノードを付加することによ
り、図７に示すように制約式の重要度の変更などによる
リンクの重みの再計算の際の計算量を低減することがで
きる。すなわち、変数ノード７１ｃは２つのプレーン７
６ａ，７６ｂに関与し、それぞれにおける仮想ノード７
３ｃａ，７３ｃｂはそれぞれ変数ノード７１ａ，７１ｂ
の仮想ノード７３ａ，７３ｂと仮想リンク７４ａ，７４
ｂで結ばれている。この２つの仮想リンク７４ａ，７４
ｂの重みがＷａ，Ｗｂであったとする。このとき実際の
ニューラルネットワーク１５において、変数ノード７１
ａ，７１ｂと変数ノード７１ｃの間にそれぞれプレーン
ノード７５ａ，７５ｂをおく。変数ノード７１ａ，７１
ｂとプレーンノード７５ａ，７５ｂの間のリンク７２
ａ，７２ｂの重みはそのままＷａ，Ｗｂとし、プレーン
ノード７５ａ，７５ｂと変数ノード７１ｃの間のリンク
７６ａ，７６ｂの重みを各プレーンに対応した制約式の
重要度とする。プレーンノードの特性関数が恒等関数で
あったことを考えれば、このようにネットワークを構成
することにより、数１５は等価的に実現される。これに
より、重要度の変更はリンク７６ａ，７６ｂの重みを変
更するだけでよいことになる。また、重みづけをしなが
ら加算するといった変更は不要となるため、特に時間と
ともに重要度に揺らぎを加える場合などには効果的であ
る。

【００６３】計算の初期の間は（も同様に）のμ_０の値
を大きくしておき、徐々に下げていくシャープニングと
呼ばれる技法も有効である。これは入力０付近での特性
関数の傾きを徐々に大きくしていくことに相当する。こ
れによって徐々に変数ノードの出力は１か−１に近付い
ていくことになるため、ニューラルネットワーク１５の
計算が解を表わさないような（変数ノードの出力が−１
にも１にも近付いていないために０を表わしているのか
１を表わしているのかわからないような）不適当な状態
に停留することを防ぐことになる。また該変数ノードの
出力の変化が最初から大きいとニューラルネットワーク
１５において局所的な解が生じ、それらの間に矛盾が生
じることがあった場合には、その解消に時間がかかるこ
とも考えられるので、最初のうちにμ０の値を大きくし
ておけば変数ノードの出力の変化が小さいので、制約全
体を満たす状態へ進みやすくなる。

【００６４】

【発明の効果】以上のように、この発明によれば、外部
からの状態設定が可能で、かつ複数の入力信号を加算し
た和信号を非線形処理して出力する複数のノード間を、
一方のノードから出力された信号に外部からの設定可能
な重みを乗じて他方のノードへ出力するリンクによりそ
れぞれ双方向に結合してなるニューラルネットワーク
と、論理式若しくは整数式又は両者の組み合わせからな
る複数の制約式が与えられると、単一の数学的関係を示
す素制約式の組み合わせとして各制約式を解釈すると共
に、各素制約式中の変数及び／又は定数とノードとの対
応付け及びこれらのリンクの重みを各素制約式ごとに設
定したネットワーク対応情報をそれぞれ生成し、これら
ネットワーク対応情報を用いて各素制約式の組み合わせ
として複数の 制約式を同時にニューラルネットワーク上
に表現する制約解釈手段と、制約解釈手段によってニュ
ーラルネットワーク上に表現された制約式中の変数の値
を管理しながら、該制約式による制約解消を実行し、変
数値が所定値となると制約解消計算の終了判定を行って
制約解消の結果を出力する制約解消実行手段とを備える
ので、従来技術で説明したＨｏｐｆｉｅｌｄネットワー
クより広い範囲の制約式を取り扱うことができ、しか
も、制約解消の計算は並列実行が可能なため、効率よく
制約解消を行うことができるという効果がある。

【００６５】この発明によれば、制約解釈手段が、ネッ
トワーク対応情報を用いて複数の制約式をニューラルネ
ットワーク上に表現するにあたり、各制約式の重要度に
応じてネットワーク対応情報におけるリンクの重みに関
する情報を変更するので、前記制約式の重要度に応じて
リンクの重みを設定できることから、より柔軟な制約解
消を実現することができるという効果がある。

【図面の簡単な説明】

【図１】この発明の一実施例によるニューラルネットワ
ークシステムの構成を示すブロック図である。

【図２】この発明の一実施例によるニューラルネットワ
ークシステムの構成概念を示す図である。

【図３】この発明の一実施例によるニューラルネットワ
ークシステムにより２変数の等値関係を表現したプレー
ンの構成図である。

【図４】この発明の一実施例によるニューラルネットワ
ークシステムにより論理積を含むブール制約を表現した
プレーンの構成図である。

【図５】この発明の一実施例によるニューラルネットワ
ークシステムにより１ビット変数Ａ，Ｂ，Ｃ，Ｄにおけ
る「Ａ＋Ｂ＋Ｃ＝Ｄ（mod2）」という制約を表現したプ
レーンの構成図である。

【図６】この発明の一実施例によるニューラルネットワ
ークシステムにより１ビット変数Ａ，Ｂ，Ｃ，Ｄにおけ
る「Ａ＋Ｂ＋Ｃの桁あふれがＤである」という制約を表
現したプレーンの構成図である。

【図７】この発明の一実施例によるニューラルネットワ
ークシステムにより制約式の重要度の変更時におけるリ
ンクの重みの再計算量を低減させるネットワークの構成
概念を示す図である。

【符号の説明】

１１ ノード １２ リンク １３ 変数管理器 １４ 制約解釈器 １５ ニューラルネットワーク

───────────────────────────────────────────────────── フロントページの続き (72)発明者 小船 隆一 尼崎市塚口本町８丁目１番１号 三菱電 機株式会社 中央研究所内 (72)発明者 横田 隆史 尼崎市塚口本町８丁目１番１号 三菱電 機株式会社 中央研究所内 (72)発明者 阿部 一裕 尼崎市塚口本町８丁目１番１号 三菱電 機株式会社 中央研究所内 (56)参考文献 特開 平２−210574（ＪＰ，Ａ) 甘利俊一・監訳，ＰＤＰモデル −認 知科学とニューロン回路網の探索−」, 日本，産業図書株式会社・発行，1989年 ２月27日，初版，ｐｐ．332−333 福井、川上，「電力系統の負荷融通問 題におけるホップフィールド型ニューラ ルネットワークの適用」，電気学会論文 誌Ｄ，日本，社団法人電気学会・発行, 1991年１月20日，Ｖｏｌ．111，Ｎｏ. １，ｐｐ．10−19，特許庁ＣＳＤＢ文献 番号：ＣＳＮＴ199901322001 三浦、亀山、樋口，「離散時間ニュー ラルネットワークに基づく連立一次方程 式求解並列処理システム」，計測自動制 御学会論文集，日本，1990年，Ｖｏｌ. 26，Ｎｏ．12，ｐｐ．103−108，特許庁 ＣＳＤＢ文献番号：ＣＳＮＴ 199901620013 (58)調査した分野(Int.Cl.⁷，ＤＢ名) G06N 1/00 - 7/00 G06G 7/60 G06F 17/10 G06F 17/60 G06F 19/00 G06F 9/44 ＪＩＣＳＴファイル（ＪＯＩＳ) ＣＳＤＢ（日本国特許庁)

Claims (2)

(57)【特許請求の範囲】
1. 【請求項１】 外部からの状態設定が可能で、かつ複数
   の入力信号を加算した和信号を非線形処理して出力する
   複数のノード間を、一方のノードから出力された信号に
   外部からの設定可能な重みを乗じて他方のノードへ出力
   するリンクによりそれぞれ双方向に結合してなるニュー
   ラルネットワークと、論理式若しくは整数式又は両者の組み合わせからなる複
   数の制約式が与えられると、単一の数学的関係を示す素
   制約式の組み合わせとして各制約式を解釈すると共に、
   前記各素制約式中の変数及び／又は定数と前記ノードと
   の対応付け及びこれらのリンクの重みを前記各素制約式
   ごとに設定したネットワーク対応情報をそれぞれ生成
   し、これらネットワーク対応情報を用いて前記各素制約
   式の組み合わせとして前記複数の制約式を同時に前記ニ
   ューラルネットワーク上に表現する制約解釈手段と、 前記制約解釈手段によって前記ニューラルネットワーク
   上に表現された前記制約式中の変数の値を管理しなが
   ら、該制約式による制約解消を実行し、前記変数値が所
   定値となると制約解消計算の終了判定を行って前記制約
   解消の結果を出力する制約解消実行手段 とを備えたニュ
   ーラルネットワークシステム。
2. 【請求項２】 制約解釈手段は、ネットワーク対応情報
   を用いて複数の制約式をニューラルネットワーク上に表
   現するにあたり、各制約式の重要度に応じて前記ネット
   ワーク対応情報におけるリンクの重みに関する情報を変
   更することを特徴とする請求項１記載のニューラルネッ
   トワークシステム。