JPH064691A - アナログニューラルネットワーク素子の試験方法 - Google Patents

アナログニューラルネットワーク素子の試験方法

Info

Publication number
JPH064691A
JPH064691A JP16464892A JP16464892A JPH064691A JP H064691 A JPH064691 A JP H064691A JP 16464892 A JP16464892 A JP 16464892A JP 16464892 A JP16464892 A JP 16464892A JP H064691 A JPH064691 A JP H064691A
Authority
JP
Japan
Prior art keywords
value
circuit
input
output
testing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP16464892A
Other languages
English (en)
Inventor
Kazuhiro Noguchi
一博 野口
Shigeki Aizawa
茂樹 相沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP16464892A priority Critical patent/JPH064691A/ja
Publication of JPH064691A publication Critical patent/JPH064691A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Tests Of Electronic Circuits (AREA)

Abstract

(57)【要約】 【目的】 アナログニューラルネットワーク素子を構成
する各乗算回路、しきい値回路及び非線形関数発生回路
の出力特性を直接測定する。 【構成】 乗算回路、しきい値回路、及び非線形関数発
生回路を有し、かつ、該乗算回路に加える重み値及びし
きい値回路に加えるしきい値を個別に制御可能なアナロ
グニューラルネットワーク素子の試験方法であって、前
記乗算回路が接続される出力が、予め定められた値に等
しくなるように、該出力に接続されるしきい値回路に加
えるしきい値を調整し、この時のしきい値を測定するこ
とにより該乗算回路の入出力特性を試験する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、集積化されたアナログ
ニューラルネットワーク素子の試験方法に関するもので
ある。
【0002】
【従来の技術】図7は、従来の3層ニューラルネットワ
ークの構成を示す模式図であり、11-1〜11-4は信号入力
端子、12は入力層、13は中間層、14は出力層、15
-1〜15-4は信号出力端子を示す。また、16はニューロ
ン素子である。
【0003】図8は、前記ニューロン素子16の構成を
示す模式図である。ニューロン素子16は、図8に示す
ように、大きく積和演算部16-1と関数出力部16-2とに分
かれる。積和演算部16-1では、複数の入力I1,I2,・・
・Inのそれぞれに異なった重みW1,W2・・・Wnを掛け合
わせ、これらを加算した値に、前記の入力によって変動
しないしきい値θをさらに加算した値を出力する。関数
出力部16-2は、前記積和演算部16-1の出力に関数処理
を施し、その結果を出力する。この時、一般には同一の
結果を複数出力する。結局、ニューロン素子16の出力
O(O1,O2・・・On)は、
【0004】
【数1】
【0005】で表される。
【0006】ここで、関数fは、一般に単調な関数であ
り、入力に対して非線形な特性を持つ。通常はシグモイ
ド関数と呼ばれる以下の形の関数S(x)(数2)が用
いられる。
【0007】
【数2】
【0008】ただし、sは関数の傾きの急峻さを決める
パラメータである。
【0009】図8のニューロン素子16を、図7のよう
に層状に配置し、各層間のニューロン同士を結合するこ
とによって多層型ニューラルネットワークが構成され
る。このニューラルネットワークは、ある入力に対する
望ましい出力と実際の出力との差分から各ニューロン素
子16の重み及びしきい値を修正し、種々の入力に対し
てそれに対応した望ましい出力を常に得られるようにす
ることができる。これがニューラルネットワークの学習
機能であり、学習機能を持つことによって、ニューラル
ネットワークは様々な技術分野でその適用が図られるよ
うになった。
【0010】図9は、従来のアナログニューラルネット
ワーク素子の構成例を示す模式図であり、21は素子へ
の入力信号の入力端子、22は素子への重み入力端子、
23は出力信号の出力端子である。また、24は乗算回
路であり、入力される入力信号と重みに比例した出力を
発生する。25はしきい値回路であり、しきい値に相当
する出力を付加する。26は加算回路であり、乗算回路
24及びしきい値回路25の出力を加算した結果を出力
する。27は非線形関数発生回路であり、加算回路26
の出力に対する非線形関数値を信号出力端子23に出力
する。各乗算回路24及びしきい値回路25の出力電流
は、加算回路26を介して加算され、非線形関数発生回
路27によって処理され、出力される。
【0011】一般に、こうしたアナログニューラルネッ
トワーク素子の各乗算回路24、しきい値回路25及び
非線形関数発生回路27の特性には、オフセット等のば
らつきが存在する。このため、こうした素子を使用する
際には、各内部回路の特性を予め測定し、その測定結果
に応じて素子に与える入力、重み、しきい値を補正する
必要がある。
【0012】
【発明が解決しようとする課題】ところで、アナログニ
ューラルネットワーク素子の各乗算回路24、しきい値
回路25の出力は、非線形関数発生回路27を介して外
部に取り出されるため、その出力を直接測定することは
できず、非線形関数発生回路27を通過した形でしか測
定できない。
【0013】また、非線形関数発生回路27自身にもば
らつきがあるため、その出力から各乗算回路24、しき
い値回路25の出力を正確に測定することは困難であ
る。そこで、従来、この様なアナログニューラルネット
ワーク素子では、素子と同一のチップ内に、直接出力を
測定可能な乗算回路24等を、素子内の回路とは別に予
め作製しておき、素子の完成後に、この別に作製した回
路の特性を測定して、その結果から推定する方法が採ら
れていた。
【0014】しかし、この方法は、素子内で動作するす
べての乗算回路24等の特性を直接に測定していないた
め、素子内の回路の特性を正確に評価できないという問
題があった。
【0015】本発明は、前記問題点を解決するためにな
されたものであり、本発明の目的は、アナログニューラ
ルネットワーク素子を構成する各乗算回路、しきい値回
路及び非線形関数発生回路の出力特性を直接測定する試
験方法を提供することにある。
【0016】
【課題を解決するための手段】前記目的を達成するため
に、本発明の(1)の手段は、乗算回路、しきい値回
路、及び非線形関数発生回路を有し、かつ、該乗算回路
に加える重み値及びしきい値回路に加えるしきい値を個
別に制御可能なアナログニューラルネットワーク素子の
試験方法であって、前記乗算回路が接続される出力が、
予め定められた値に等しくなるように、該出力に接続さ
れるしきい値回路に加えるしきい値を調整し、この時の
しきい値を測定することにより該乗算回路の入出力特性
を試験することを最も主要な特徴とする。
【0017】本発明の(2)の手段は、前記(1)の手
段のアナログニューラルネットワーク素子の試験方法で
あって、前記乗算回路の重みを変化させても、素子出力
が予め定められた値に等しくなるようなしきい値が変化
しない該乗算回路の入力を求めることにより、該乗算回
路の入力オフセットを試験することを特徴とする。
【0018】本発明の(3)の手段は、前記(1)の手
段のアナログニューラルネットワーク素子の試験方法で
あって、前記乗算回路の入力を変化させても、素子出力
が予め定められた値に等しくなるようなしきい値が変化
しない該乗算回路の重みを求めることにより、該乗算回
路の重みオフセットを試験することを特徴とする。
【0019】本発明の(4)の手段は、前記(1)の手
段のアナログニューラルネットワーク素子の試験方法で
あって、前記乗算回路に予めオフセットを補償した論理
値0に対応する入力を加え、素子出力が、前記非線形関
数回路に0に相当する入力があった場合の出力値に等し
くなるようなしきい値回路へのしきい値入力を求めるこ
とにより、該しきい値回路のオフセットを試験すること
を特徴とする。
【0020】本発明の(5)の手段は、前記(1)の手
段のアナログニューラルネットワーク素子の試験方法で
あって、前記乗算回路の1つに予めオフセットを補償し
た、ある論理値αに対応する入力を加え、しきい値回路
へのしきい値入力が−αの場合に、素子の出力が、前記
非線形関数回路に0に相当する入力があった場合の出力
値に等しくなるような、該乗算回路の重みを求めること
により、重み論理値1に対応する該乗算回路への重み入
力を試験することを特徴とする。
【0021】本発明の(6)の手段は、前記(1)の手
段のアナログニューラルネットワーク素子の試験方法で
あって、前記乗算回路に予めオフセットを補償した論理
値0に対応する入力を加え、前記非線形関数発生回路の
出力と、前記しきい値回路のしきい値入力との関係から
該非線形関数発生回路の入出力特性を試験することを特
徴とする。
【0022】
【作用】前述の手段によれば、乗算回路が接続される出
力が、予め定められた値に等しくなるように、該出力に
接続されるしきい値回路に加えるしきい値を調整し、こ
の時のしきい値を測定することにより、該乗算回路の入
出力特性を試験するので、アナログニューラルネットワ
ーク素子を構成する各乗算回路、しきい値回路及び非線
形関数発生回路の出力特性を直接測定することができ
る。
【0023】すなわち、本発明は、ニューラルネットワ
ーク素子内で動作する乗算回路等の特性を、その出力を
バランスさせるしきい値回路の入力から評価するもので
あり、素子内で動作する回路の特性を直接評価する点で
従来技術とは明確に異なるものである。
【0024】
【実施例】以下、図面を参照して、本発明の実施例を詳
細に説明する。
【0025】前述した説明で明らかなように、出力Oが
O=f(0)となるようにしきい値θを調整すると、こ
の時のθは、θ=−Σiiiとなる。従って、i≠j
であるようなIi及びwiがすべて0であれば、前記の調
整されたしきい値から、j番目の乗算回路の入出力特性
を求めることができる。
【0026】図1は、本発明による各乗算回路の入力オ
フセットの試験方法の一実施例を示すフローチャートで
あり、入力Ii及び出力Ojに接続する乗算回路の試験方
法を示している。
【0027】まず、ステップ101で、Ii以外の入力
をすべて論理値0に対応する値に設定する。また、出力
jに接続する乗算回路で試験すべきもの以外の重み値
をすべて論理値0に設定する。この場合、各設定値が若
干のオフセットを含んでいても構わない。この設定が終
了したら、ステップ102で、入力Iiを適当な値に設
定し、ステップ103で、試験すべき乗算回路に、ある
重み値wijを加えた時の出力Ojの論理値がf(0)と
なるようなしきい値θ’の値を測定する。ステップ10
4で、この測定を重み値wijを変化させながら繰り返
し、重み値wijの論理値0の近傍でのdθ’/dwij
求める。ステップ105,106で、このdθ’/dw
ijの測定を入力Iiを変えて実行し、dθ’/dwij
0となるIiの値を求める。
【0028】前記の方法で求められた入力Iiは、重み
値wijを変化させても出力Ojの値を変化させない入力
値に対応する。すなわち、この入力Iiは試験すべき乗
算回路に対する論理値0の入力に対応する。従って、こ
の入力Iiと、乗算回路設計上の論理値0に対応する入
力値との差が、この乗算回路の入力オフセットとなる
(ステップ107)。
【0029】図2は、前記Oj=f(0)を満たすしき
い値θ’を求める方法の一実施例として、2分法による
場合の処理手順を示すフローチャートである。
【0030】まず、ステップ201で、θ1に対応する
出力がf(0)より小さく、かつθ2に対応する出力が
f(0)より大きくなるように設定する。その後、ステ
ップ202で、θ0=(θ1+θ2)/2として、ステッ
プ203,204,205,206,207,208
で、θ0に対応する出力OjがOj>f(0)ならばθ2
θ0とし、Oj<f(0)ならばθ1=θ0とする操作を繰
り返す。この時、関数fが単調であるため、Oj=f
(0)を満足するしきい値θ’は、常にθ1<θ’<θ2
を満足する。また、一回の操作でθ2−θ1の値は1/2
となるため、この操作を繰り返すことにより、θ1、θ2
はともにある値に収束し、結果的にθ’も収束する(ス
テップ209)。
【0031】また、前記の2分法による方法は、dθ’
/dwijの値が入力Iiの値に対して単調な関数となる
ため、dθ’/dwij=0となるIiの値を求める場合
にも適用できる。
【0032】図3は、本発明による各乗算回路の重み値
のオフセットの試験方法の一実施例を示すフローチャー
トであり、入力Ii、出力Ojに接続する乗算回路の試験
方法を示している。
【0033】まず、ステップ301で、Ii以外の入力
をすべて論理値0に対応する値に設定する。また、出力
jに接続する乗算回路で試験すべきもの以外の重み値
をすべて論理値0に設定する。この場合、各設定値が若
干のオフセットを含んでいても構わない。この設定が終
了したら、ステップ302で、試験すべき乗算回路の重
みwijを適当な値に固定し、ステップ303で、試験す
べき乗算回路に入力Iiを加えた時の出力Ojの論理値が
f(0)となるようなしきい値θ’の値を測定する。測
定には、図2に示した2分法がそのまま適用できる。ス
テップ304で、この測定を入力Iiを変化させながら
繰り返し、Iiの論理値0の近傍でのdθ’/dIiを求
める。ステップ305,306で、このdθ’/dIi
の測定を、重み値wijを変えて実行し、dθ’/dIi
=0となるwijの値を求める。この場合にも、前記と同
様に2分法を用いることができる。
【0034】前記の方法で求めた重みwijは、入力Ii
を変化させても出力Ojの値を変化させない重みに対応
する。すなわち、この重みwijは試験すべき乗算回路に
対する論理値0の重みに対応する。従って、この重みw
ijと、乗算回路設計上の論理値0に対応する重みとの差
が、この乗算回路の重みオフセットとなる(ステップ3
07)。
【0035】図4は、本発明によるしきい値回路のオフ
セットの試験方法の一実施例を示すフローチャートであ
り、出力Ojに接続するしきい値回路の試験方法を示し
ている。
【0036】まず、ステップ401で、すべての入力
を、この入力と、出力Ojに接続する乗算回路のオフセ
ットを補償した論理値0に対応する値に設定する。ま
た、出力Ojに接続するすべての乗算回路の重みのオフ
セットを補償した論理値0に対応する値に設定する。こ
れらのオフセットは、前記で説明した方法で測定するこ
とができる。以上の設定が終了したら、ステップ402
で出力Ojの論理値がf(0)となるようなしきい値
θ’の値を測定する。測定には、図2に示した2分法が
そのまま適用できる、ここで得られたしきい値θ’は、
試験すべきしきい値回路に対する論理値0のしきい値に
対応する。従って、このしきい値θ’と、しきい値回路
設計上の論理値0に対応するしきい値との差が、このし
きい値回路の重みオフセットとなる(ステップ40
3)。
【0037】図5は、本発明による乗算回路の論理値1
に対応する重み値の試験方法の一実施例を示すフローチ
ャートであり、入力Ii、出力Ojに接続する乗算回路の
試験方法を示している。
【0038】まず、ステップ501で、すべての入力I
i及び重みwijをオフセット補正した論理値0に設定す
る。その後、ステップ502で、入力Iiをある論理値
α(≠0)に設定する。そして、ステップ503で、重
み値wijを設定し、出力Ojの論理値がf(0)となる
しきい値θ’を求める。ステップ504,505で、こ
の求めた出力Ojの論理値がf(0)となるしきい値
θ’が、θ’=−αを満たすように重み値wijを調整す
る。この時の重み値wijが試験すべき乗算回路の論理値
1に対応する重みとなる(ステップ506)。
【0039】図6は、本発明による非線形関数発生回路
の試験方法の一実施例を示すフローチャートである。
【0040】まず、ステップ601ですべての入力Ii'
及び重みwi'jをオフセット補正した論理値0に設定す
る。次に、ステップ602で試験すべき非線形関数発生
回路に接続されているしきい値回路のしきい値θjを変
化させ、しきい値θjの論理値θ’と出力Ojの関係を求
める。次に、必要があれば、その測定結果から関数の形
を決定する特徴パラメータの値を求める。一例として、
関数形がシグモイド関数S(x)(数2)であれば、パ
ラメータsの値を最小2乗法等によって求め、その値か
ら試験すべき非線形関数発生回路の特性を評価すること
ができる(ステップ603)。
【0041】以上、本発明を実施例を用いて具体的に説
明したが、本発明は、前記実施例に限定されるものでは
なく、その要旨を逸脱しない範囲において種々変更し得
ることはいうまでもない。
【0042】
【発明の効果】以上、説明したように、本発明の試験法
によれば、アナログニューラルネットワーク素子を構成
する各乗算回路、しきい値回路、及び非線形関数発生回
路の出力特性を、当該回路に接続されるしきい値入力の
値を媒介として、直接測定することができる。
【図面の簡単な説明】
【図1】 本発明による各乗算回路の入力オフセットの
試験方法の一実施例を示すフローチャート、
【図2】 本実施例のOj=f(0)を満たすしきい値
θ’を求める方法の一実施例として、2分法による場合
の処理手順を示すフローチャート、
【図3】 本発明による各乗算回路の重み値のオフセッ
トの試験方法の一実施例を示すフローチャート、
【図4】 本発明によるしきい値回路のオフセットの試
験方法の一実施例を示すフローチャート、
【図5】 本発明による乗算回路の論理値1に対応する
重み値の試験方法の一実施例を示すフローチャート、
【図6】 本発明による非線形関数発生回路の試験方法
の一実施例を示すフローチャート、
【図7】 従来の3層ニューラルネットワークの構成を
示す模式図、
【図8】 従来のニューロン素子の構成を示す模式図、
【図9】 従来のアナログニューラルネットワーク素子
の構成例を示す模式図。
【符号の説明】
11-1〜11-4…信号入力端子、12…入力層、13…中間
層、14…出力層、15-1〜15-4…信号出力端子、16…
ニューロン素子、16-1…積和演算部、16-2…関数出力
部、21…信号入力端子、22…重み入力端子、23…
信号出力端子、24…乗算回路、25…しきい値回路、
26…加算回路、27…非線形関数発生回路。

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】 乗算回路、しきい値回路、及び非線形関
    数発生回路を有し、かつ、該乗算回路に加える重み値及
    びしきい値回路に加えるしきい値を個別に制御可能なア
    ナログニューラルネットワーク素子の試験方法であっ
    て、前記乗算回路が接続される出力が、予め定められた
    値に等しくなるように、該出力に接続されるしきい値回
    路に加えるしきい値を調整し、この時のしきい値を測定
    することにより該乗算回路の入出力特性を試験すること
    を特徴とするアナログニューラルネットワーク素子の試
    験方法。
  2. 【請求項2】 前記請求範囲第1項に記載のアナログニ
    ューラルネットワーク素子の試験方法であって、前記乗
    算回路の重みを変化させても、素子出力が予め定められ
    た値に等しくなるようなしきい値が変化しない該乗算回
    路の入力を求めることにより、該乗算回路の入力オフセ
    ットを試験することを特徴とするアナログニューラルネ
    ットワーク素子の試験方法。
  3. 【請求項3】 前記請求範囲第1項に記載のアナログニ
    ューラルネットワーク素子の試験方法であって、前記乗
    算回路の入力を変化させても、素子出力が予め定められ
    た値に等しくなるようなしきい値が変化しない該乗算回
    路の重みを求めることにより、該乗算回路の重みオフセ
    ットを試験することを特徴とするアナログニューラルネ
    ットワーク素子の試験方法。
  4. 【請求項4】 前記請求範囲第1項に記載のアナログニ
    ューラルネットワーク素子の試験方法であって、前記乗
    算回路に予めオフセットを補償した論理値0に対応する
    入力を加え、素子出力が、前記非線形関数回路に0に相
    当する入力があった場合の出力値に等しくなるような、
    しきい値回路へのしきい値入力を求めることにより、該
    しきい値回路のオフセットを試験することを特徴とする
    アナログニューラルネットワーク素子の試験方法。
  5. 【請求項5】 前記請求範囲第1項に記載のアナログニ
    ューラルネットワーク素子の試験方法であって、前記乗
    算回路の1つに予めオフセットを補償した、ある論理値
    αに対応する入力を加え、しきい値回路へのしきい値入
    力が−αの場合に、素子の出力が、前記非線形関数回路
    に0に相当する入力があった場合の出力値に等しくなる
    ような、該乗算回路の重みを求めることにより、重み論
    理値1に対応する該乗算回路への重み入力を試験するこ
    とを特徴とするアナログニューラルネットワーク素子の
    試験方法。
  6. 【請求項6】 前記請求範囲第1項に記載のアナログニ
    ューラルネットワーク素子の試験方法であって、前記乗
    算回路に予めオフセットを補償した論理値0に対応する
    入力を加え、前記非線形関数発生回路の出力と、前記し
    きい値回路のしきい値入力との関係から該非線形関数発
    生回路の入出力特性を試験することを特徴とするアナロ
    グニューラルネットワーク素子の試験方法。
JP16464892A 1992-06-23 1992-06-23 アナログニューラルネットワーク素子の試験方法 Pending JPH064691A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP16464892A JPH064691A (ja) 1992-06-23 1992-06-23 アナログニューラルネットワーク素子の試験方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP16464892A JPH064691A (ja) 1992-06-23 1992-06-23 アナログニューラルネットワーク素子の試験方法

Publications (1)

Publication Number Publication Date
JPH064691A true JPH064691A (ja) 1994-01-14

Family

ID=15797178

Family Applications (1)

Application Number Title Priority Date Filing Date
JP16464892A Pending JPH064691A (ja) 1992-06-23 1992-06-23 アナログニューラルネットワーク素子の試験方法

Country Status (1)

Country Link
JP (1) JPH064691A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017033337A1 (ja) * 2015-08-27 2017-03-02 株式会社日立製作所 情報処理方法及び装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017033337A1 (ja) * 2015-08-27 2017-03-02 株式会社日立製作所 情報処理方法及び装置
JPWO2017033337A1 (ja) * 2015-08-27 2018-08-02 株式会社日立製作所 情報処理方法及び装置

Similar Documents

Publication Publication Date Title
JP3672336B2 (ja) アナログ集積回路のための試験プランを発生する方法
JPH09257553A (ja) 自重測定装置
JP3331668B2 (ja) 非線形演算ユニットおよびそれによる情報処理装置
JPH04227575A (ja) 論理回路シミュレーション方法
JPH064691A (ja) アナログニューラルネットワーク素子の試験方法
JP7164489B2 (ja) 演算システムおよび方法
JP3047950B2 (ja) 放射ノイズのシミュレーション方法
US6985017B2 (en) Method and system for pulse waveform variable edge control
JP3181018B2 (ja) 気象予測装置
JP2912285B2 (ja) アナログ・デジタル混在回路の過渡解析方法
JP2722906B2 (ja) 未知数量推定方法およびその装置
JPH08153148A (ja) アナログニューラルネットワーク学習回路
Martínez-Nieto et al. An accurate analysis method for complex IC analog neural network-based systems using high-level software tools
JP2809168B2 (ja) タイミング検証方法
JPH07110826A (ja) ミックスモードシミュレーション方法
TWI836273B (zh) 誤差校正裝置及方法
US20230103493A1 (en) Method and system for creating dipole moment model
JP2003152079A (ja) 基準電圧発生機構、基準電圧発生機構の設計方法、及び基準電圧発生機構の設計装置
JP3812979B2 (ja) 過渡解析方法及び記憶媒体
JPH05268086A (ja) ニューロンアナログ・ディジタル変換器
JPH1062463A (ja) 生体信号測定用電極の接触抵抗測定方法
JPH02105258A (ja) 回路シミュレーション方式
JP2017091346A (ja) インダクタのシミュレーションモデル
RU2540823C1 (ru) Нейросетевой преобразователь кода в частоту
JPH0561850A (ja) 階層型ニユーラルネツトワークおよびその学習方法