JPH04130952A - しきい値論理回路網とその学習法 - Google Patents
しきい値論理回路網とその学習法Info
- Publication number
- JPH04130952A JPH04130952A JP2253674A JP25367490A JPH04130952A JP H04130952 A JPH04130952 A JP H04130952A JP 2253674 A JP2253674 A JP 2253674A JP 25367490 A JP25367490 A JP 25367490A JP H04130952 A JPH04130952 A JP H04130952A
- Authority
- JP
- Japan
- Prior art keywords
- threshold
- value
- differential value
- function
- weighted sum
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 32
- 230000006870 function Effects 0.000 claims abstract description 72
- 239000000654 additive Substances 0.000 claims 1
- 230000000996 additive effect Effects 0.000 claims 1
- 230000000644 propagated effect Effects 0.000 abstract 1
- 238000010586 diagram Methods 0.000 description 6
- 238000007796 conventional method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 241000282412 Homo Species 0.000 description 1
- 101100523539 Mus musculus Raf1 gene Proteins 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 210000004958 brain cell Anatomy 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- OVBPIULPVIDEAO-LBPRGKRZSA-N folic acid Chemical compound C=1N=C2NC(N)=NC(=O)C2=NC=1CNC1=CC=C(C(=O)N[C@@H](CCC(O)=O)C(O)=O)C=C1 OVBPIULPVIDEAO-LBPRGKRZSA-N 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 238000002945 steepest descent method Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000004260 weight control Methods 0.000 description 1
Abstract
(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。
め要約のデータは記録されません。
Description
【発明の詳細な説明】
（産業上の利用分野）
本発明はしきい値論理回路の学習法、特にノ＜・ツクプ
ロパゲーション法により学習を行なうしきい値論理回路
網とその学習法に係わる。
ロパゲーション法により学習を行なうしきい値論理回路
網とその学習法に係わる。
（発明の背景）
従来の計算機はＡＮＤまたはＯＲ回路を組み合わせた論
理回路システムで構築されている。これらの計算機は極
めて高速に動作し、人間の計算能力を遥かに上回る性能
を発揮し、社会に貢献していることは周知の事実である
。しかし、従来の計算機は、人間が日常行なっている認
識動作、判断動作には不適当であることも次第に明らか
になってきた。このため、認識、判断に好適な計算機を
構築する目的で、人間の脳細胞にューロン）を手本にし
てしきい値論理回路とそれを使って計算機システム技術
が例えば、せ利俊−「神経回路網の数理」産業図書、昭
和５３年、Ｌ、Ｄ、 Ｊａｃｋｌｅｌ。
理回路システムで構築されている。これらの計算機は極
めて高速に動作し、人間の計算能力を遥かに上回る性能
を発揮し、社会に貢献していることは周知の事実である
。しかし、従来の計算機は、人間が日常行なっている認
識動作、判断動作には不適当であることも次第に明らか
になってきた。このため、認識、判断に好適な計算機を
構築する目的で、人間の脳細胞にューロン）を手本にし
てしきい値論理回路とそれを使って計算機システム技術
が例えば、せ利俊−「神経回路網の数理」産業図書、昭
和５３年、Ｌ、Ｄ、 Ｊａｃｋｌｅｌ。
Ｒ，Ｅ、 Ｈｏｗａｒｄ、 Ｈ，Ｐ、 Ｃｒａｆ、 Ｂ
、 Ｓｔｒａｕｇｈｎ、 ａｎｄ Ｊ。
、 Ｓｔｒａｕｇｈｎ、 ａｎｄ Ｊ。
Ｄ、 Ｄｅｎｋｅｒ、“Ａｒｔｉｆｉｃｉａｌ ｎｅｕ
ｒａｌ ｎｅｔｗｏｒｋｓ ｆｏｒｃｏｍｐｕｔｉｎｇ
、 Ｊｏｕｒｎａｌ ｏｆ Ｖａｃｕｕｍ Ｓｃ
ｉｅｎｃｅＴｅｃｈｎｏｌｏｇｙ Ｂ４（１）、 Ｊ
ａｎ／Ｆｅｂ、 １９８６． ｐｐ、 ６１−６３
に開示されている。
ｒａｌ ｎｅｔｗｏｒｋｓ ｆｏｒｃｏｍｐｕｔｉｎｇ
、 Ｊｏｕｒｎａｌ ｏｆ Ｖａｃｕｕｍ Ｓｃ
ｉｅｎｃｅＴｅｃｈｎｏｌｏｇｙ Ｂ４（１）、 Ｊ
ａｎ／Ｆｅｂ、 １９８６． ｐｐ、 ６１−６３
に開示されている。
以下に、しきい値論理回路の動作説明を行い、本発明の
位置付けを明らかにする。第２図はしきい値論理回路の
動作を示す図である。しきい値論理回路はしきい部１０
１重み部２０、複数個の入力端子１０１、入力線１０２
と少なくとも１個の出力線１０３を持つ回路である。し
きい値論理回路では、複数の入力端子に信号Ｘｉが印加
され、その信号Ｘｉの重み加算料ΣＷｉＸｉがしきい値
Ｔを超えれば出力は“１”に、それ以外は“θ″になる
論理動作を行なう。ここで、Ｗｉは重みを表わす。しき
い値論理回路の特徴は学習機能にある。即ち、学習によ
り、重みＷｉを変化させ、最終的に目的に適応した回路
システムを構築する。従って、しきい値論理回路を構成
するには、入力信号の重み加算を行ない素子をスイッチ
させる機能だけでな（、重みＷｉを変化させる学習機能
を持たなければならない。通常、この重みを制御端子１
０４から入力する重み制御信号で制御する。
位置付けを明らかにする。第２図はしきい値論理回路の
動作を示す図である。しきい値論理回路はしきい部１０
１重み部２０、複数個の入力端子１０１、入力線１０２
と少なくとも１個の出力線１０３を持つ回路である。し
きい値論理回路では、複数の入力端子に信号Ｘｉが印加
され、その信号Ｘｉの重み加算料ΣＷｉＸｉがしきい値
Ｔを超えれば出力は“１”に、それ以外は“θ″になる
論理動作を行なう。ここで、Ｗｉは重みを表わす。しき
い値論理回路の特徴は学習機能にある。即ち、学習によ
り、重みＷｉを変化させ、最終的に目的に適応した回路
システムを構築する。従って、しきい値論理回路を構成
するには、入力信号の重み加算を行ない素子をスイッチ
させる機能だけでな（、重みＷｉを変化させる学習機能
を持たなければならない。通常、この重みを制御端子１
０４から入力する重み制御信号で制御する。
通常、複雑な論理関数を実現するには第２図に示すしき
い値論理回路を多段に複雑に組み合わせる。該重みを更
新する学習は、論理関数の出力信号とその時に期待され
る出力信号（教師信号）を比較して、その誤差を基に重
みを変える学習方法が用いられる。第３図は第２図のし
きい値論理回路を接続した論理関数の構造例を示してお
り、３個のしきい部１０と２個の重み部２０から構成さ
れている。ここで、ｊ番目のしきい部の入力重み加算料
ΣＷ＋＋ ｙ＋をＵ、とし、しきい関数をｆ（Ｕ、）、
出力信号をｙｌとする。本発明での着目点は重みを変更
する学習法にある。いくつかある学習法の内でパックプ
ロパゲーション法は最も有効な手段として認められてい
る。このパックプロパゲーション法は最も有効な手段と
して認められている。
い値論理回路を多段に複雑に組み合わせる。該重みを更
新する学習は、論理関数の出力信号とその時に期待され
る出力信号（教師信号）を比較して、その誤差を基に重
みを変える学習方法が用いられる。第３図は第２図のし
きい値論理回路を接続した論理関数の構造例を示してお
り、３個のしきい部１０と２個の重み部２０から構成さ
れている。ここで、ｊ番目のしきい部の入力重み加算料
ΣＷ＋＋ ｙ＋をＵ、とし、しきい関数をｆ（Ｕ、）、
出力信号をｙｌとする。本発明での着目点は重みを変更
する学習法にある。いくつかある学習法の内でパックプ
ロパゲーション法は最も有効な手段として認められてい
る。このパックプロパゲーション法は最も有効な手段と
して認められている。
このパックプロパゲーション法は例えば、中野薫「ニュ
ーロコンピュータの基礎」コロナ社（１９９０年４月）
他に詳しく記載されている。パックプロパゲーション法
では、（１）式に示される、各種入力パターンにおける
論理関数の出力信号と教師信号の誤差の２乗和（誤差関
数）Ｅを最小にするように重みを変える。
ーロコンピュータの基礎」コロナ社（１９９０年４月）
他に詳しく記載されている。パックプロパゲーション法
では、（１）式に示される、各種入力パターンにおける
論理関数の出力信号と教師信号の誤差の２乗和（誤差関
数）Ｅを最小にするように重みを変える。
Ｅ＝Σ （ｙ 、 −ｙ 、）２／２ ・
・・・・ （１）ここで、ｙ２は論理関数の出力信号で
あり、ｙ。
・・・・ （１）ここで、ｙ２は論理関数の出力信号で
あり、ｙ。
はその時の教師信号である。重みの変更は最急降下法に
より（２）式で表わされる。
より（２）式で表わされる。
ここでεは収束の度合を決めるパラメータである。
従来の方法では、複雑に接続されている回路網では（２
）式（ＤａＥ／ａＷ、、は例えば（３） （４）式に示
す方法で求める。
）式（ＤａＥ／ａＷ、、は例えば（３） （４）式に示
す方法で求める。
・・・・・ （４）
この従来方法では重みの変更に最小項を得るのに４回の
乗算を必要としていた。一般に乗算は加算に比べ複雑で
あり、計算結果を得るのに多くの時間を必要とする。こ
のため重みを更新するためのハードウェア、ソフトウェ
アの構成が複雑になり、更新のために多（の処理時間を
必要とする欠点がある。従来技術では学習機能をソフト
ウェアで実現していたが、学習速度の高速化、高効率化
を図るためには学習機能を含めハードウェアでニューロ
システムを実現しなければならない。この場合、ハード
ウェアで重みを更新する処理系を実現するには乗算の回
数が少ないほど有利である。
乗算を必要としていた。一般に乗算は加算に比べ複雑で
あり、計算結果を得るのに多くの時間を必要とする。こ
のため重みを更新するためのハードウェア、ソフトウェ
アの構成が複雑になり、更新のために多（の処理時間を
必要とする欠点がある。従来技術では学習機能をソフト
ウェアで実現していたが、学習速度の高速化、高効率化
を図るためには学習機能を含めハードウェアでニューロ
システムを実現しなければならない。この場合、ハード
ウェアで重みを更新する処理系を実現するには乗算の回
数が少ないほど有利である。
また、学習機能を有するしきい値論理回路の単位を規定
し、該単位を複数個並べて各種の論理関数を実現するこ
とは論理回路のりピータビリティイをあげハードウェア
の設計や検査を容易にする。
し、該単位を複数個並べて各種の論理関数を実現するこ
とは論理回路のりピータビリティイをあげハードウェア
の設計や検査を容易にする。
（発明の目的）
本発明の目的は、バックプロパゲーション法による重み
の更新方法で乗算回数を少なくし、簡単な構成で高速に
重みを変えられるしきい値論理回路の学習方法を提供し
、しきい値論理回路を使った高速かつ多機能の学習を行
なう認識、判断機能に優れた計算機を実現することにあ
る。
の更新方法で乗算回数を少なくし、簡単な構成で高速に
重みを変えられるしきい値論理回路の学習方法を提供し
、しきい値論理回路を使った高速かつ多機能の学習を行
なう認識、判断機能に優れた計算機を実現することにあ
る。
（発明の概要）
この目的の為に、本発明では学習機能を有するしきい値
論理回路の単位を規定し、該単位を複数個並べて論理関
数を実現するしきい値論理回路網であって、（１）式で
表わされる誤差関数を入力信号の重み加算料Ｕ、に着目
して展開し、好適にはしきい値開数ｆ（Ｕ＋）を２本の
指数関数の合成で表わすことを特徴とする。
論理回路の単位を規定し、該単位を複数個並べて論理関
数を実現するしきい値論理回路網であって、（１）式で
表わされる誤差関数を入力信号の重み加算料Ｕ、に着目
して展開し、好適にはしきい値開数ｆ（Ｕ＋）を２本の
指数関数の合成で表わすことを特徴とする。
（発明の実施例）
以下に実施例を用いて本発明を説明する。
第１図は本発明による学習方法を示している。
第１図に示す学習方法で、誤差関数、及び重みの更新方
法は（１）式、（２）式で表わされる。本発明では誤差
関数の微分値δＥ／δＷ１１を入力信号の重み加算料Ｕ
、に着目して展開し、（５）式、（６）式で表わす。
法は（１）式、（２）式で表わされる。本発明では誤差
関数の微分値δＥ／δＷ１１を入力信号の重み加算料Ｕ
、に着目して展開し、（５）式、（６）式で表わす。
・・・・・ （６）
（５）式、（６）式から明らかな様に、誤差関数の微分
値ａＢ／ａＷ、、を得るのに３回の乗算でよい。また誤
差関数Ｅの重み加算料Ｕによる微分ａＥ／ａＵは各しき
い値論理回路でその値を保持しておけば、その値を使っ
て内部のＢＥｌａＵ値を（６）式をつかって出力端から
逆伝般させることができる。第１図は本発明による、（
５）式、（６）式による重み更新法を実現する回路構成
の実施例である。第１図の実施例では、各しきい値論理
回路は重み部２０ｊｉ、しきい部１０ｊと誤差関数の重
み加算料による微分値ａＥ／ａＵ、の保持部３０ｊ、し
きい植機係数部４０ｊ１乗算器５０ ｊｉ、乗算器６０
ｋｊから構成される。乗算器６０ｋｊは逆伝般される誤
差関数の重み加算器よる微分値ａＥｌａＵｋ、重みＷｋ
、、しきい植機係数ｆ’（Ｕ、）の積を計算し、その値
を微分値ａ Ｅｒａ Ｕ、の保持部３０ｊに累積加算す
る。また、乗算器５０ｊｉは前段の出力ｙ１と該微分値
ａＥ／ａＨの積を計算し、その値を使って重みＬｉを更
新する。第１図の実施例では、例えば、微分値δＥ／δ
Ｕ１の保持部３０ｊはレジスタと加算器からなるアキュ
ムレータで、しきい植機係数部４０ｊは関数発生器また
はテーブルで、重み部２０ｊｉはアキュムレータまたは
加減カウンタで実現できることは明かであり、さらに専
用のハードウェアを用いることもできる。
値ａＢ／ａＷ、、を得るのに３回の乗算でよい。また誤
差関数Ｅの重み加算料Ｕによる微分ａＥ／ａＵは各しき
い値論理回路でその値を保持しておけば、その値を使っ
て内部のＢＥｌａＵ値を（６）式をつかって出力端から
逆伝般させることができる。第１図は本発明による、（
５）式、（６）式による重み更新法を実現する回路構成
の実施例である。第１図の実施例では、各しきい値論理
回路は重み部２０ｊｉ、しきい部１０ｊと誤差関数の重
み加算料による微分値ａＥ／ａＵ、の保持部３０ｊ、し
きい植機係数部４０ｊ１乗算器５０ ｊｉ、乗算器６０
ｋｊから構成される。乗算器６０ｋｊは逆伝般される誤
差関数の重み加算器よる微分値ａＥｌａＵｋ、重みＷｋ
、、しきい植機係数ｆ’（Ｕ、）の積を計算し、その値
を微分値ａ Ｅｒａ Ｕ、の保持部３０ｊに累積加算す
る。また、乗算器５０ｊｉは前段の出力ｙ１と該微分値
ａＥ／ａＨの積を計算し、その値を使って重みＬｉを更
新する。第１図の実施例では、例えば、微分値δＥ／δ
Ｕ１の保持部３０ｊはレジスタと加算器からなるアキュ
ムレータで、しきい植機係数部４０ｊは関数発生器また
はテーブルで、重み部２０ｊｉはアキュムレータまたは
加減カウンタで実現できることは明かであり、さらに専
用のハードウェアを用いることもできる。
従来技術によっバックプロパゲーション法ではしきい値
関数ｆ （Ｕ）を（７）式で示すフェルミ関数を採用す
る方法が提案されている。
関数ｆ （Ｕ）を（７）式で示すフェルミ関数を採用す
る方法が提案されている。
Ｙ＝ ｆ（Ｕ）＝ １／（１＋Ｅｘｐ（刊））
−−−−−（７）この関数を使った場合、その微係数
ｆ’ （［１）は（８）式で表わされる。
−−−−−（７）この関数を使った場合、その微係数
ｆ’ （［１）は（８）式で表わされる。
ｆ’ （Ｕ）＝ ｙ（１−Ｙ ）
・・・・・ （８）
しきい値関数に（７）式を使った場合、その微係数はｙ
の乗算を含む関数で煩雑であり、ハードウェアで実現す
るには多くの回路が必要である。この欠点を無くすため
本発明では、しきい値関数ｆ（Ｕ）を（９）式に示す、
２個の指数関数を合成した関数で表わす。
の乗算を含む関数で煩雑であり、ハードウェアで実現す
るには多くの回路が必要である。この欠点を無くすため
本発明では、しきい値関数ｆ（Ｕ）を（９）式に示す、
２個の指数関数を合成した関数で表わす。
ｙ＝ｆ（Ｕ）＝Ｅｘｐ（Ｕ／α）／２ ；［１＜
。
。
＝１−Ｅｘｐ（−Ｕ／α）／２ ； Ｕ≧０ −−
− （９）（８）式と（９）式で表わされる２個のしき
い値関数を第４図に比較して第４図では（９）式はα＝
１の場合を示している。αを選択すれば両式はほぼ一致
させることが出来る。（９）式のしきい値関数を使うと
、その微係数はα０）式で表わせる。
− （９）（８）式と（９）式で表わされる２個のしき
い値関数を第４図に比較して第４図では（９）式はα＝
１の場合を示している。αを選択すれば両式はほぼ一致
させることが出来る。（９）式のしきい値関数を使うと
、その微係数はα０）式で表わせる。
ｆ’ （Ｕ）＝Ｍｉｎ（ｙ、 ｔ−ｙ ）／ａ
−−−−（１０）（１０）式から明かな様に、
微係数ｆ’ （Ｕ）はｙそのものか、その加減算で表わ
すことができる。従ってこの場合、第１図に示すしきい
値論理回路を更に簡略化出来る。第５図は０口）式のし
きい値関数を使った場合のしきい値論理回路の実施例で
ある。第５図の構成では、第１図のしきい植機係数部４
０ｊをスイッチ４６ｊと減算器４５ｊで構成する。
−−−−（１０）（１０）式から明かな様に、
微係数ｆ’ （Ｕ）はｙそのものか、その加減算で表わ
すことができる。従ってこの場合、第１図に示すしきい
値論理回路を更に簡略化出来る。第５図は０口）式のし
きい値関数を使った場合のしきい値論理回路の実施例で
ある。第５図の構成では、第１図のしきい植機係数部４
０ｊをスイッチ４６ｊと減算器４５ｊで構成する。
該減算器４５ｊではｉ−ｙを算出する。更にスイッチ４
６ｊでｙまたはｔ−ｙを選択し該乗算器６０ｋｊに出力
する。第５図での採用している減算器は乗算器より回路
構成が簡単であり、回路構成を簡略化出来ることは明か
。
６ｊでｙまたはｔ−ｙを選択し該乗算器６０ｋｊに出力
する。第５図での採用している減算器は乗算器より回路
構成が簡単であり、回路構成を簡略化出来ることは明か
。
第６図は第５図の構成を更に簡単化した実施例である。
しきい値関数として（９）式を使うと、誤差関数の微分
値δＥ／θＵ、は０口式で表わされる。
値δＥ／θＵ、は０口式で表わされる。
従って、この場合は重みＷ、を変化させるため゛変化量
ｙ、ａＥ／ＪＵｈを使って、誤差関数の微分値ａＥｌａ
Ｕ、の加算値を計算できる。第６図の実施例では、重み
Ｗ、の加算量を計算する乗算器５０ｋｊの出力と減算器
７０ｋｊで出力される該出力と誤差関数の微分値ａＥ／
ａＵ、の差をスイッチ７１ｋｊで選択して該しきい値関
数の微係数とする方法である。この場合、該乗算器６０
ｋｊは２個号の乗算を行なえばよく、第５図に比べて乗
算回数を１回生なくすることが出来る。
ｙ、ａＥ／ＪＵｈを使って、誤差関数の微分値ａＥｌａ
Ｕ、の加算値を計算できる。第６図の実施例では、重み
Ｗ、の加算量を計算する乗算器５０ｋｊの出力と減算器
７０ｋｊで出力される該出力と誤差関数の微分値ａＥ／
ａＵ、の差をスイッチ７１ｋｊで選択して該しきい値関
数の微係数とする方法である。この場合、該乗算器６０
ｋｊは２個号の乗算を行なえばよく、第５図に比べて乗
算回数を１回生なくすることが出来る。
以上の説明ではしきい値θを一定とした。一方、高い学
習効果をあげるにはしきい値θの学習が必要である。し
きい値をθ１とすればＵ、はし式で表される。
習効果をあげるにはしきい値θの学習が必要である。し
きい値をθ１とすればＵ、はし式で表される。
Ｕ、＝ΣＷ、１ｙ１−θ、 ・・・・・ （１２）し
きい値の学習法は（１９式で表される。
きい値の学習法は（１９式で表される。
ここで、ａＥ／ａθ、は（１４）式で表される。
（１４）式より、しきい値θ、は誤差関数の微分値ＢＥ
／δＵ、を使って更新すればよい。ここで、（１４１式
の誤差関数の微分値ａＥ／ａＵ、は（６）式で表される
。第７図は（１３）式で表される学習方法によるしきい
値θ１の学習を行うしきい論理回路の実施例である。第
７図の実施例では、しきい部３０の中にあるしきい値θ
、を保持するしきい値保持部８゜ｊの値を誤差関数の微
分値ａＥ／θＵ１を使って更新する方法である。
／δＵ、を使って更新すればよい。ここで、（１４１式
の誤差関数の微分値ａＥ／ａＵ、は（６）式で表される
。第７図は（１３）式で表される学習方法によるしきい
値θ１の学習を行うしきい論理回路の実施例である。第
７図の実施例では、しきい部３０の中にあるしきい値θ
、を保持するしきい値保持部８゜ｊの値を誤差関数の微
分値ａＥ／θＵ１を使って更新する方法である。
以上説明したごとく、学習機能を有するしきい値論理回
路を１個の単位として規定する事ができ、該しきい値論
理回路を多数個直列並列に並べて実現した論理関数の学
習法を実現できる。本発明では学習機能を有するしきい
値論理回路をハードウェアで実現でき、高速かつ効率の
良い学習が実現できる。
路を１個の単位として規定する事ができ、該しきい値論
理回路を多数個直列並列に並べて実現した論理関数の学
習法を実現できる。本発明では学習機能を有するしきい
値論理回路をハードウェアで実現でき、高速かつ効率の
良い学習が実現できる。
以上の説明では、ハードウェアによるしきい値論理回路
とその学習方法を説明したが、ソフトウェアで本方法を
実行できることは明か。
とその学習方法を説明したが、ソフトウェアで本方法を
実行できることは明か。
（発明の効果）
以上説明したごとく、本発明を用いれば、高速のジョセ
フソンスイッチング回路で、学習機能を有する、しきい
値論理回路を構成できる。従って、本発明により、しき
い値論理回路を使った、認識判断を実行するのに好適な
高速計算機を実現できる。故に、本発明はこの高度の認
識判断を行なう高速計算機の実現に必要不可欠である。
フソンスイッチング回路で、学習機能を有する、しきい
値論理回路を構成できる。従って、本発明により、しき
い値論理回路を使った、認識判断を実行するのに好適な
高速計算機を実現できる。故に、本発明はこの高度の認
識判断を行なう高速計算機の実現に必要不可欠である。
第１図は本発明による学習機能付しきい値論理回路の実
施例の概略図、第２図はしきい値論理回路の動作説明図
、第３図はしきい値論理回路の接続を示す図、第４図は
しきい値開数例を示すグラフ、第５図及び第６図は本発
明によるしきい値論理回路例の概略図、第７図はしきい
値の学習方法を示す図である。 １０・・・しきい部、２０・・・重み部、３゜・・・誤
差関数の微分値保持部、４ｏ・・・しきい値関数微係数
部、５０・・・乗算器、６ｏ・・・乗算器、４５・・・
減算器、４６・・・スイッチ、７０・・・減算器、７１
φ・・スイッチ、１０１・・・入力端子、１０２・・・
入力線、１０３・・・出力線、１０４・・・制御端子。 第１図 制御 第２図 Ｕｉ＝ΣＷｉ立 ｙＪ＝ｆ （Ｕ７） 第３図 第６図 第７図
施例の概略図、第２図はしきい値論理回路の動作説明図
、第３図はしきい値論理回路の接続を示す図、第４図は
しきい値開数例を示すグラフ、第５図及び第６図は本発
明によるしきい値論理回路例の概略図、第７図はしきい
値の学習方法を示す図である。 １０・・・しきい部、２０・・・重み部、３゜・・・誤
差関数の微分値保持部、４ｏ・・・しきい値関数微係数
部、５０・・・乗算器、６ｏ・・・乗算器、４５・・・
減算器、４６・・・スイッチ、７０・・・減算器、７１
φ・・スイッチ、１０１・・・入力端子、１０２・・・
入力線、１０３・・・出力線、１０４・・・制御端子。 第１図 制御 第２図 Ｕｉ＝ΣＷｉ立 ｙＪ＝ｆ （Ｕ７） 第３図 第６図 第７図
Claims (5)
- （１）入力信号の重み加算和と該重み加算和をしきい値
と比較して予め定められたしきい値関数に従って出力信
号を出力するしきい値論理回路であって、誤差信号の該
重み加算和による微分値を保持する機能と該しきい値関
数の微分値を出力する機能を有し、前段の出力信号と自
己の該誤差信号の重み加算和による微分値の積で該重み
値を更新する機能と後段の誤差信号の重み加算和による
微分値と重み値と自己の該しきい値関数の微分値の積を
自己の該誤差信号の重み加算和による微分値に累積加算
する機能を有するしきい値論理回路を複数個接続したこ
とを特徴とするしきい値論理回路網。 - （２）特許請求の範囲第（１）項のしきい値論理回路網
であって、該しきい値を誤差信号の該重み加算和による
微分値を使って更新する事を特徴とするしきい値論理回
路網。 - （３）特許請求の範囲第（１）項のしきい値論理回路網
であって、該しきい値関数が２本の指数関数の合成であ
り、該しきい値論理関数の微分値が該しきい値論理回路
の出力値またはその加減値で表わされることを特徴とす
るしきい値論理回路網。 - （４）特許請求の範囲第（３）項のしきい値論理回路網
であって、後段の重み値を変更する値を使って自己の誤
差信号の重み加算和による微分値を更新する事を特徴と
するしきい値論理回路網。 - （５）入力信号の重み加算和と該重み加算和をしきい値
と比較して予め定められたしきい値関数に従って、出力
信号を出力するしきい値論理回路を複数個接続したしき
い値論理回路網における学習法であって、後段の誤差信
号の重み加算和による微分値と重み値と自己の該しきい
値関数の微分値を自己の該誤差信号の重み加算和による
微分値として累積加算し、前段の出力信号と自己の該誤
差信号の重み加算和による微分値の積で重み値を更新す
ることを特徴とするしきい値論理回路網における学習法
。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2253674A JPH04130952A (ja) | 1990-09-21 | 1990-09-21 | しきい値論理回路網とその学習法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2253674A JPH04130952A (ja) | 1990-09-21 | 1990-09-21 | しきい値論理回路網とその学習法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH04130952A true JPH04130952A (ja) | 1992-05-01 |
Family
ID=17254590
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2253674A Pending JPH04130952A (ja) | 1990-09-21 | 1990-09-21 | しきい値論理回路網とその学習法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH04130952A (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2016197389A (ja) * | 2015-04-03 | 2016-11-24 | 株式会社デンソーアイティーラボラトリ | 学習システム、学習プログラムおよび学習方法 |
-
1990
- 1990-09-21 JP JP2253674A patent/JPH04130952A/ja active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2016197389A (ja) * | 2015-04-03 | 2016-11-24 | 株式会社デンソーアイティーラボラトリ | 学習システム、学習プログラムおよび学習方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Patra et al. | Identification of nonlinear dynamic systems using functional link artificial neural networks | |
| Lee et al. | The Chebyshev-polynomials-based unified model neural networks for function approximation | |
| Ritter et al. | An introduction to morphological neural networks | |
| Lee et al. | Identification and control of dynamic systems using recurrent fuzzy neural networks | |
| Patra et al. | Nonlinear dynamic system identification using Legendre neural network | |
| JP2747104B2 (ja) | ニューラルネットワーク | |
| JPH07114524A (ja) | 信号処理装置 | |
| EP0519501B1 (en) | A control method using neural networks and a voltage/reactive power controller for a power system | |
| Zhao et al. | Fuzzy adaptive fault-tolerant control of multi-agent systems with interactions between physical coupling graph and communication graph | |
| Chang et al. | The optimization of control parameters: finite-time bipartite synchronization of memristive neural networks with multiple time delays via saturation function | |
| JPH04130952A (ja) | しきい値論理回路網とその学習法 | |
| Kuroe et al. | A learning method of nonlinear mappings by neural networks with considering their derivatives | |
| JP3508783B2 (ja) | パルス密度型信号処理回路網における結合係数更新方法並びに結合係数更新装置 | |
| Cheng | Derivation of the backpropagation algorithm based on derivative amplification coefficients | |
| Sudharsanan et al. | Supervised training of dynamical neural networks for associative memory design and identification of nonlinear maps | |
| Lin et al. | On the existence of the exact solution of quaternion-valued neural networks based on a sequence of approximate solutions | |
| Kouhara et al. | Learning algorithm based on moderationism for multi-layer neural networks | |
| Ghorbani et al. | Incremental communication for multilayer neural networks | |
| Fujita | A method for designing the internal representation of neural networks | |
| Ansari et al. | Adaptive stack filtering by LMS and perceptron learning. | |
| Jin et al. | Distributed adaptive neural anti-disturbance cooperative control of high-order MIMO nonlinear multi-agent systems | |
| Ceylan et al. | Comparison of complex-valued neural network and fuzzy clustering complex-valued neural network for load-flow analysis | |
| Patra et al. | Chebyschev functional link artificial neural networks for nonlinear dynamic system identification | |
| Piazza et al. | Neural network complexity reduction using adaptive polynomial activation functions | |
| Malhotra et al. | Evaluation of electronic artificial neural network implementations |