JPH04113481A - ニューラルネットワーク型データ処理装置の製造方法 - Google Patents

ニューラルネットワーク型データ処理装置の製造方法

Info

Publication number
JPH04113481A
JPH04113481A JP23258290A JP23258290A JPH04113481A JP H04113481 A JPH04113481 A JP H04113481A JP 23258290 A JP23258290 A JP 23258290A JP 23258290 A JP23258290 A JP 23258290A JP H04113481 A JPH04113481 A JP H04113481A
Authority
JP
Japan
Prior art keywords
input
neural network
self
output
resistance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP23258290A
Other languages
English (en)
Inventor
Keiichi Matsushima
松島 恵一
Atsuhiko Noda
野田 敦彦
Okiyoshi Sakurada
桜田 興宜
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Graphtec Corp
Original Assignee
Graphtec Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Graphtec Corp filed Critical Graphtec Corp
Priority to JP23258290A priority Critical patent/JPH04113481A/ja
Publication of JPH04113481A publication Critical patent/JPH04113481A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 [産業上の利用分野] この発明はニューラルネットワーク型データ処理装置を
製造するニューラルネットワーク型データ処理装置の製
造方法に関するものである。
[従来の技術] 第2図は従来のニューラルネットワーク型データ処理装
置の構成を示すブロック図で、図において(1)は入力
パターン、(2)は入力層、(3)は中間層、(4)は
出力層、(5)は誤差検出手段、(6)は教師入力、(
7)はフィードバック制御手段である。
入力層(2〉、中間層(3)、出力層(4)は、ニュー
ロン(neuron、神経単位)の各層における細胞体
に相当し、その出力は軸索に相当し、軸索の末端はシナ
プス(synapse)と呼ばれ次の層の入力となる。
入力パターン(1)に対し、入力層(2)、中間層(3
)を経て出力層(4)にそれぞれの出力を出すが、操作
員が教師出力(6)として正しい出力を入れてやると、
誤差検出手段(5)とフィードバック制御手段(7)と
を動作させてシナプス荷重を調整して誤差を最小にする
ようにフィードバック制御し、調整したシナプス荷重の
値を保持しており、次回に類似の入力パターン(1)が
与えられた時は教師人力(6)がなくても正しい出力を
出す自己学習能力を持っている。このようなニューラル
ネットワーク型データ処理装置はその自己学習能力を用
いてパターン認識などのデータ処理に用いられる。
第3図はニューロンに相当する電気回路の一例を示す接
続図で、(10)は演算増幅器、(11a>、(llb
)、、(llc)、  (lln’)はそれぞれ入力端
子、(12a)、(12b)、(12c)、(12n)
はそれぞれ入力抵抗、(13)はフィードバック抵抗、
(14)は出力端子、(15)はバイアス電源、(16
)は基準電圧設定用の可変抵抗である。なお、抵抗(1
2a)、(12b)、(12c)、(12n)、(13
)。
(16)は、全て外部から調整可能なように構成されて
いる。
第3図に示す可変抵抗(12a) 、  (’12b、
) 。
(12c)、(12n)は、第2図において入力パター
ン(1)と入力層(2)の間、入力層(2)と中間層(
3)の間、中間層(3)と出力層(4)の間を接続する
シナプス荷重に相当し、フィードバック制御手段(7)
によりその抵抗値が制御される。
通常の場合、第3図の演算増幅器(10)の出力端子(
14)の電圧は、ステップ関数時には論理値「1」、か
「0」の2値信号で表される場合と、シグモイド関数時
には連続値1〜Oの間が表される。教師人力(6)も2
値信号または1〜Oの連続値で表される。
また、演算増幅器(10)の一方の入力として加える電
圧を閾値電圧といい、閾値電圧の値は抵抗(16)で調
整する。フィードバック抵抗(13〉と閾値電圧とは設
計により予め定めておくか、操作者が調整する場合が多
く、フィードバック制御手段(7)によって自動的に調
整されるのはシナプス荷重に相当する各入力抵抗である
第3図に示す回路全体は一種の加算回路であり、従って
入力層(2)、中間層(3)、出力層(4)は、演算増
幅器で構成する加算回路であると言うことができる。
[発明が解決しようとする課題] 上記のような従来のニューラルネットワーク型データ処
理装置は以上に説明した通りであるが、多数の可変抵抗
とこれらの可変抵抗をフィードバック調整するための手
段とを備えていなければならず、装置が複雑高価になり
、大型になるという問題がある。
然しながら、−度自己学習を済ませた後は類似のデータ
処理に関しては自己学習の必要がなく、従って誤差検出
手段、フィードバック制御手段の必要がなくなり、全て
の入力抵抗を固定抵抗で置き換えることができる。
この発明はかかる課題を解決するなめになされたもので
、所望の種類のデータ処理を実行する小型で安価なニュ
ーラルネットワーク型データ処理装置の製造方法を得る
ことを目的としている。
[課題を解決するための手段] この発明に係わるニューラルネットワーク型データ処理
装置の製造方法は、所望の種類のデータ処理を実行する
装置の設計を決定するために、自己学習能力を有する装
置を用い、設計が決定した装置は自己学習能力を持たな
い装置としな。
[作用] 十分な自己学習によって各入力抵抗の抵抗値を決定した
のち、その決定した抵抗値を有する固定抵抗を用いて装
置を製造するので、装置が小型で安価なものとなる。
そして装置の設計のために必要な自己学習能力を有する
装置は1台あれば、各種類のデータ処理に適する装置の
設計が可能となる。
[実施例] 以下、この発明の実施例を図面を用いて説明する。第1
図はこの発明の一実施例を示すブロック図あり、(ll
a)、(llb>、(]、1c)(lld)、(lie
)、(Ilf)、(1,1g)(llh)、(lli)
はそれぞれ入力端子、(20a)、(20b)、(20
c)、(20d)(20e)はそれぞれ入力層、(40
a)、(40b)、(40c)、(40d)はそれぞれ
出力層、  (50a)、   (50b)、   (
50c)、   (50d)はそれぞれ出力端子で゛あ
る。
また、入力層および出力層の小さな半月型の区画で示す
ものは出力端子であり、その他の部分は入力端子である
第1図に示す装置は、例えは画像信号について第1図の
下欄に示す状態で注目画素eとその周辺画素a、b、c
、d、f、g、h、iとの関係から注目画素eの論理を
決定する処理装置であるとする。すなわち、例えば出力
端子(50a)には注目画素の論理が、出力端子(50
b)には注目画素の点のX方向の濃度微分(変化しない
とき論理「1」、変化があるとき論理「0」)が、出力
端子(50c)には注目画素の点のY方向の濃度微分(
変化しないとき論理「1」、変化があるとき論理「O」
)か出力される。
この発明の製造方法では、まず自己学習能力を有する装
置(以下、原装置という)を製作する。
原装置では、(20a)〜(20e)と(40a)〜(
40d)は全て第3図に示すように構成されており、第
1図には示してないが、第1図に示す誤差検出手段(5
)、教師入力(6)、フィードバック制御手段(7)を
備えている。
入力パターン(1)として既知の画像信号を入力すると
、例えば注目画素の論理、注目画素のX方向微分の論理
、注目画素のY方向微分の論理などが出力端子から出力
される。既知の画像信号に対するこれらの論理は既知で
あるから、この既知の論理を教師入力(6)として入力
すると、原装置は誤差検出手段(5)およびフィードバ
ック制御手段(7)の動作くこれらの動作は一般にコン
ピュータによってプログラム制御される)によって各入
力抵抗の値を自動調整して誤差をなくす方向への制御が
行われる。これか自己学習工程である。
自己学習工程の中で、操作員は各部の出力論理を観察し
ながら、各加算回路のフィードバック抵抗(13)の値
および各演算増幅器(10)の閾値電圧の値を調整する
ことかできる。これを調整工程という。
同一種類のデータ処理に属する複数種類の入力パターン
(1)について、自己学習工程と調整工程とを繰り返す
ことによって上記原装置の各可変抵抗の値、各閾値電圧
の値について最適値を測定することができる。これを部
品定数測定工程といつ。
部品定数測定工程で決定された値を用い、第1図の誤差
検出手段(5)、教師人力(6)、フィードバック制御
手段(7)が無く、且つ全ての抵抗が固定抵抗てあり、
全ての閾値電圧が固定電圧である実用処理装置を製作す
る。実用処理装置は小型で安価で使用容易なものとなり
、目的とするデータ処理に関しては自己学習済みの原装
置と同様の性能を有することになる。
[発明の効果コ この発明は以上説明したように、所望の種類のデータ処
理に関してはニューラルネットワーク型に構成され、十
分に自己学習を済ませた装置と同一性能を有する装置を
安価にかつ小型に製造できるという効果がある。
【図面の簡単な説明】
第1図はこの発明の一実施例を示すブロック図、第2図
は従来の装置の構成を示すブロック図、第3図はニュー
ロンに相当する電気回路の一例を示す接続図。 11a、llb、llc、lid、lie、IIf、l
1g、llh、lli・・・入力端子、20a、20b
、20c、20d、20e −演算増幅器で構成する加
算回路の入力層、40a。 40b、40c、4’Od・・・演算増幅器で構成する
加算回路の出力層、5・・・誤差検出手段、7・・・フ
ィードバック制御手段。 なお、各図中同一符号は同一または相当部分を示すもの
とする。

Claims (1)

  1. 【特許請求の範囲】  ニューラルネットワークの細胞体に相当する部分に演
    算増幅器で構成する加算回路を用い各演算増幅器の閾値
    電圧と各加算回路のフィードバック抵抗を外部から調整
    可能に構成し、該ニューラルネットワークのシナプシス
    荷重を各加算回路への入力抵抗とし、各入力抵抗は外部
    から調整可能に構成し、該ニューラルネットワークには
    自己出力と当該出力に対応する教師入力とを比較して誤
    差を検出し、この検出した誤差により上記各入力抵抗フ
    ィードバック抵抗,閾値電圧をフィードバック制御する
    フィードバック制御手段を付加して自己学習可能なニュ
    ーラルネットワークを構成する工程(ハードによるもの
    以外にソフトによるシュミレーションも含む)、 この自己学習可能なニューラルネットワークを用い、所
    望の種類のデータ処理に対する入力パターンであって出
    力の既知な入力パターンを入力し、そのニューラルネッ
    トワークの出力と教師入力を比較して、その差を誤差入
    力として上記フィードバック制御手段により上記各入力
    抵抗を自動調整し、誤差が無くなるまで学習する自己学
    習工程、上記自己学習工程における上記各加算回路の出
    力を操作員が観察して当該加算回路のフィードバック抵
    抗と当該演算増幅器の閾値電圧とを調整する調整工程、 上記所望の種類のデータ処理に属する複数種類の入力パ
    ターンについて上記自己学習工程と上記調整工程とを繰
    り返して上記自己学習可能なニューラルネットワークの
    各加算回路のフィードバック抵抗の値、各演算増幅器の
    閾値電圧の値、および各入力抵抗の値を測定する部品定
    数測定工程、この部品定数測定工程により測定した部品
    定数を用い、各加算回路のフィードバック抵抗と各入力
    抵抗とは固定抵抗により、各演算増幅器の基準電圧は固
    定電圧により、上記所望の種類のデータ処理を行うニュ
    ーラルネットワークを組み立てる組み立て工程、 を備えたニューラルネットワーク型データ処理装置の製
    造方法。
JP23258290A 1990-09-04 1990-09-04 ニューラルネットワーク型データ処理装置の製造方法 Pending JPH04113481A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP23258290A JPH04113481A (ja) 1990-09-04 1990-09-04 ニューラルネットワーク型データ処理装置の製造方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP23258290A JPH04113481A (ja) 1990-09-04 1990-09-04 ニューラルネットワーク型データ処理装置の製造方法

Publications (1)

Publication Number Publication Date
JPH04113481A true JPH04113481A (ja) 1992-04-14

Family

ID=16941615

Family Applications (1)

Application Number Title Priority Date Filing Date
JP23258290A Pending JPH04113481A (ja) 1990-09-04 1990-09-04 ニューラルネットワーク型データ処理装置の製造方法

Country Status (1)

Country Link
JP (1) JPH04113481A (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11216717B2 (en) 2017-04-04 2022-01-04 Hailo Technologies Ltd. Neural network processor incorporating multi-level hierarchical aggregated computing and memory elements
US11221929B1 (en) 2020-09-29 2022-01-11 Hailo Technologies Ltd. Data stream fault detection mechanism in an artificial neural network processor
US11237894B1 (en) 2020-09-29 2022-02-01 Hailo Technologies Ltd. Layer control unit instruction addressing safety mechanism in an artificial neural network processor
US11238334B2 (en) 2017-04-04 2022-02-01 Hailo Technologies Ltd. System and method of input alignment for efficient vector operations in an artificial neural network
US11263077B1 (en) 2020-09-29 2022-03-01 Hailo Technologies Ltd. Neural network intermediate results safety mechanism in an artificial neural network processor
US11811421B2 (en) 2020-09-29 2023-11-07 Hailo Technologies Ltd. Weights safety mechanism in an artificial neural network processor
US11874900B2 (en) 2020-09-29 2024-01-16 Hailo Technologies Ltd. Cluster interlayer safety mechanism in an artificial neural network processor

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11216717B2 (en) 2017-04-04 2022-01-04 Hailo Technologies Ltd. Neural network processor incorporating multi-level hierarchical aggregated computing and memory elements
US11238331B2 (en) 2017-04-04 2022-02-01 Hailo Technologies Ltd. System and method for augmenting an existing artificial neural network
US11238334B2 (en) 2017-04-04 2022-02-01 Hailo Technologies Ltd. System and method of input alignment for efficient vector operations in an artificial neural network
US11263512B2 (en) 2017-04-04 2022-03-01 Hailo Technologies Ltd. Neural network processor incorporating separate control and data fabric
US11461614B2 (en) 2017-04-04 2022-10-04 Hailo Technologies Ltd. Data driven quantization optimization of weights and input data in an artificial neural network
US11221929B1 (en) 2020-09-29 2022-01-11 Hailo Technologies Ltd. Data stream fault detection mechanism in an artificial neural network processor
US11237894B1 (en) 2020-09-29 2022-02-01 Hailo Technologies Ltd. Layer control unit instruction addressing safety mechanism in an artificial neural network processor
US11263077B1 (en) 2020-09-29 2022-03-01 Hailo Technologies Ltd. Neural network intermediate results safety mechanism in an artificial neural network processor
US11811421B2 (en) 2020-09-29 2023-11-07 Hailo Technologies Ltd. Weights safety mechanism in an artificial neural network processor
US11874900B2 (en) 2020-09-29 2024-01-16 Hailo Technologies Ltd. Cluster interlayer safety mechanism in an artificial neural network processor

Similar Documents

Publication Publication Date Title
EP3420502B1 (en) An analogue electronic neural network
US5063601A (en) Fast-learning neural network system for adaptive pattern recognition apparatus
US11138501B2 (en) Hardware-implemented training of an artificial neural network
US20210342678A1 (en) Compute-in-memory architecture for neural networks
JPH04113481A (ja) ニューラルネットワーク型データ処理装置の製造方法
JPH09257553A (ja) 自重測定装置
Morozov Neuro-fuzzy approach for the calibration of high-precision embedded systems
EP0621549B1 (en) Nonlinear operation unit and data processing apparatus using the nonlinear operation unit
JP2000516739A (ja) ニューラルネットワークの訓練データを選択するためのコンピュータ支援された方法
JP2722906B2 (ja) 未知数量推定方法およびその装置
KR20210062277A (ko) 뉴런 회로 및 이의 제어 방법
FI103304B (fi) Assosiatiivinen neuroni
EP0382230B1 (en) Neural network processing system
US12026623B2 (en) Machine learning using gradient estimate determined using improved perturbations
JPH04291662A (ja) 階層ネットワーク構成演算素子
Ghorbani et al. Incremental communication for multilayer neural networks
Afroz et al. On the Sensitivity of Analog Artificial Neural Network Models to Process Variation
Györök Programmable Analogue Circuit in Reconfigurable Systems
JPH06243273A (ja) ニューラルネットワークの学習方式
Wang et al. Modeling and nonlinear correction of two-dimensional photoelectric position-sensitive detector
JPH03242730A (ja) メンバシップ関数設定装置
Warwich The control of dynamical systems by neural networks
Bass et al. A modified radial basis function network for system identification
WO2023237740A1 (en) System comprising a semiconductor chip, and method for manufacturing the system
Eskiizmirliler et al. A hybrid intelligent diagnostic system based on neural networks and image analysis techniques in the field of automated cytogenetics