JPH03265077A - フィードバック神経細胞モデル - Google Patents
フィードバック神経細胞モデルInfo
- Publication number
- JPH03265077A JPH03265077A JP6535690A JP6535690A JPH03265077A JP H03265077 A JPH03265077 A JP H03265077A JP 6535690 A JP6535690 A JP 6535690A JP 6535690 A JP6535690 A JP 6535690A JP H03265077 A JPH03265077 A JP H03265077A
- Authority
- JP
- Japan
- Prior art keywords
- cell
- internal state
- feedback
- layer
- input signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 210000003061 neural cell Anatomy 0.000 title 1
- 210000004027 cell Anatomy 0.000 claims abstract description 52
- 210000003050 axon Anatomy 0.000 claims abstract description 6
- 210000002569 neuron Anatomy 0.000 claims description 29
- 210000005056 cell body Anatomy 0.000 claims description 8
- 230000000946 synaptic effect Effects 0.000 claims description 8
- 238000013528 artificial neural network Methods 0.000 abstract description 7
- 230000008878 coupling Effects 0.000 abstract description 7
- 238000010168 coupling process Methods 0.000 abstract description 7
- 238000005859 coupling reaction Methods 0.000 abstract description 7
- 230000010365 information processing Effects 0.000 abstract description 4
- 210000004556 brain Anatomy 0.000 abstract description 3
- 230000008713 feedback mechanism Effects 0.000 abstract description 2
- 210000000225 synapse Anatomy 0.000 abstract 1
- 238000010586 diagram Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 230000002123 temporal effect Effects 0.000 description 4
- 230000003925 brain function Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- ATJFFYVFTNAWJD-UHFFFAOYSA-N Tin Chemical compound [Sn] ATJFFYVFTNAWJD-UHFFFAOYSA-N 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000034 method Methods 0.000 description 1
- 210000005036 nerve Anatomy 0.000 description 1
- 230000008569 process Effects 0.000 description 1
Abstract
(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。
め要約のデータは記録されません。
Description
【発明の詳細な説明】
〔産業上の利用分野〕
本発明はフィードバック神経細胞モデルに関し、特に脳
機能をモデル化した神経回路網で時変的な情報の処理を
行なうことを可能としたフィードバック神経細胞モデル
に関する。
機能をモデル化した神経回路網で時変的な情報の処理を
行なうことを可能としたフィードバック神経細胞モデル
に関する。
脳機能をモデル化した神経細胞モデルは近時よく知られ
つつある。
つつある。
従来の神経細胞モデルは、第３図に示すように、他の神
経細胞群からの入力信号Ｏｉ （ｔ）（ｉ−１〜ｎｘ
）に重み付けを行なった重み付け信号Ｗｉ、ｊ・Ｏｉ
（ｔ）を受けとるシナプス結合部１と、重み付け信号を
加算し、細胞内部状態でＸｊ（ｔ）＝ΣＷｉ、ｊ−Ｏｉ
（ｔ）を生成すｅｌ る細胞体部２と、細胞内部状態Ｘｊ （ｔ）を細胞出力
値Ｏｊ （ｔ）に変換する軸索小丘３を有している。
経細胞群からの入力信号Ｏｉ （ｔ）（ｉ−１〜ｎｘ
）に重み付けを行なった重み付け信号Ｗｉ、ｊ・Ｏｉ
（ｔ）を受けとるシナプス結合部１と、重み付け信号を
加算し、細胞内部状態でＸｊ（ｔ）＝ΣＷｉ、ｊ−Ｏｉ
（ｔ）を生成すｅｌ る細胞体部２と、細胞内部状態Ｘｊ （ｔ）を細胞出力
値Ｏｊ （ｔ）に変換する軸索小丘３を有している。
従来の神経細胞モデルは、上述したように、他の神経細
胞からの入力信号０Ｌ（ｔ）の重み（Ｗｉ、ｊ）付け線
形和ΣＷｉ、ｊ−Ｏｉ（ｔ）−−１ をその細胞内部状態Ｘｊ （ｔ）とし、出力変換関数と
してシグモイド関数ｆ （Ｘｊ （ｔ））＝１／（１＋
ｅｘｐ （−Ｘｊ （ｔ））を用いて出力値Ｏｊ （ｔ
）を決定していた。
胞からの入力信号０Ｌ（ｔ）の重み（Ｗｉ、ｊ）付け線
形和ΣＷｉ、ｊ−Ｏｉ（ｔ）−−１ をその細胞内部状態Ｘｊ （ｔ）とし、出力変換関数と
してシグモイド関数ｆ （Ｘｊ （ｔ））＝１／（１＋
ｅｘｐ （−Ｘｊ （ｔ））を用いて出力値Ｏｊ （ｔ
）を決定していた。
この従来の神経細胞モデルの出力値Ｏｊ （ｔ）は、現
時刻ｔにおける他の神経細胞からの入力信号０ｉ（ｔ）
のみで決まるため、入力信号０ｉ（１）の時間的変化は
神経細胞モデル内でまったく使われていない。言い換え
れば、過去にどのような入力信号Ｏｉ （ｔ）が存在し
ようと、細胞の出力には何ら影響を与えない 一方、人
間の脳は、視覚や聴覚を例にとっても分かるように、瞬
間的な信号だけでなく、その時間的変化を捕らえて高度
な情報処理を行なっている。従って、従来の神経細胞モ
デルは、脳の神経細胞モデルとしては出力値Ｏｊ （ｔ
）が入力信号Ｏｉ （ｔ）の時間的変化に影響されない
という欠点がある。
時刻ｔにおける他の神経細胞からの入力信号０ｉ（ｔ）
のみで決まるため、入力信号０ｉ（１）の時間的変化は
神経細胞モデル内でまったく使われていない。言い換え
れば、過去にどのような入力信号Ｏｉ （ｔ）が存在し
ようと、細胞の出力には何ら影響を与えない 一方、人
間の脳は、視覚や聴覚を例にとっても分かるように、瞬
間的な信号だけでなく、その時間的変化を捕らえて高度
な情報処理を行なっている。従って、従来の神経細胞モ
デルは、脳の神経細胞モデルとしては出力値Ｏｊ （ｔ
）が入力信号Ｏｉ （ｔ）の時間的変化に影響されない
という欠点がある。
〔課題を解決するための手段〕
本発明のフィードバック神経細胞モデルは、他の神経細
胞群からの入力信号に重み付けを行なった重み付け信号
を受けとるシナプス結合部と、前記重み付け信号を加算
し細胞内部状態を生成する細胞体部と、前記細胞内部状
態を細胞出力値に変換する軸索小丘を有する神経細胞モ
デルにおいて、自己の細胞内部状態の前記シナプス結合
部に対するフィードバック結合を備えて構成される。
胞群からの入力信号に重み付けを行なった重み付け信号
を受けとるシナプス結合部と、前記重み付け信号を加算
し細胞内部状態を生成する細胞体部と、前記細胞内部状
態を細胞出力値に変換する軸索小丘を有する神経細胞モ
デルにおいて、自己の細胞内部状態の前記シナプス結合
部に対するフィードバック結合を備えて構成される。
また、本発明のフィードバック神経細胞モデルは、前記
フィードバック結合を前記細胞体部の生成すべき細胞内
部状態Ｘｊ （ｔ）の一時刻前の細胞内部状ｎＸｊ （
ｔ−１）で形成した構成を有する。
フィードバック結合を前記細胞体部の生成すべき細胞内
部状態Ｘｊ （ｔ）の一時刻前の細胞内部状ｎＸｊ （
ｔ−１）で形成した構成を有する。
本発明のフィードバック神経細胞モデルは、細胞出力値
、言い換えれば細胞への過去の入力信号にも依存するよ
うに、細胞体部で生成すべき細胞内部状態Ｘｊ （ｔ）
の１時刻前の細胞内部状態Ｘｊ（ｔ−１）をフィードバ
ックするフィードバック結合を備えている。また、この
場合のフィードバック接合係数Ｘｊは、これが１に近い
程、細胞出力値Ｏｊ （ｔ）がより遠い過去の入力信号
にも依存するようになるが、細胞内部状態Ｘｊ （ｔ）
が発散しないためにフィードバック結合係数ａｊの大き
さを１未満に設定している。
、言い換えれば細胞への過去の入力信号にも依存するよ
うに、細胞体部で生成すべき細胞内部状態Ｘｊ （ｔ）
の１時刻前の細胞内部状態Ｘｊ（ｔ−１）をフィードバ
ックするフィードバック結合を備えている。また、この
場合のフィードバック接合係数Ｘｊは、これが１に近い
程、細胞出力値Ｏｊ （ｔ）がより遠い過去の入力信号
にも依存するようになるが、細胞内部状態Ｘｊ （ｔ）
が発散しないためにフィードバック結合係数ａｊの大き
さを１未満に設定している。
次に、図面を参照して本発明について説明する。
第１図は本発明のフィードバック神経細胞モデルの一実
施例のブロック図であり、他の神経細胞群からの入力信
号を受けるシナプス結合部１と、時刻ｔにおける細胞内
部状態を生成する細胞体部２と、細胞内部状態を細胞出
力値に変換する軸索小丘３と、１時刻前の細胞内部状態
をフィードバックするフィードバック結合４を備えて成
る。前述したフィードバック結合によって、細胞に対す
る過去の入力信号にも依存する神経細胞モデルを確立し
ている。
施例のブロック図であり、他の神経細胞群からの入力信
号を受けるシナプス結合部１と、時刻ｔにおける細胞内
部状態を生成する細胞体部２と、細胞内部状態を細胞出
力値に変換する軸索小丘３と、１時刻前の細胞内部状態
をフィードバックするフィードバック結合４を備えて成
る。前述したフィードバック結合によって、細胞に対す
る過去の入力信号にも依存する神経細胞モデルを確立し
ている。
第２図は、第１図のフィードバック神経細胞モデルを用
いて構成した階層型神経回路網の一実例のブロック図で
ある。
いて構成した階層型神経回路網の一実例のブロック図で
ある。
第２図において、入力信号ｉ （ｔ）はスカシとしてい
るが、多次元ベクトルとすることに特に問題はない０本
神経回路網は、第１層としての入力層１１から第Ｍ層と
しての出力層１５に到るＭ個の層から構成され、各層に
はｎ（ｋ＝１〜Ｍ）個の細胞が含まれている。神経細胞
どうしの結合は隣り合う眉間のみで行なわれ、層内での
結合はない。入力層１１に入力された信号入力信号１（
ｔ）は、各神経細胞において、過去の入力信号に関する
情報９本実施例では一時刻前の細胞内部状態Ｘｊ（ｔ−
１）を加味されなから、入力層１１から出力層１５に向
って一方向的に神経回路網内を流れ、０１（ｔ）（ｊ＝
１〜ｎＭ）として出力層１５から出力される。
るが、多次元ベクトルとすることに特に問題はない０本
神経回路網は、第１層としての入力層１１から第Ｍ層と
しての出力層１５に到るＭ個の層から構成され、各層に
はｎ（ｋ＝１〜Ｍ）個の細胞が含まれている。神経細胞
どうしの結合は隣り合う眉間のみで行なわれ、層内での
結合はない。入力層１１に入力された信号入力信号１（
ｔ）は、各神経細胞において、過去の入力信号に関する
情報９本実施例では一時刻前の細胞内部状態Ｘｊ（ｔ−
１）を加味されなから、入力層１１から出力層１５に向
って一方向的に神経回路網内を流れ、０１（ｔ）（ｊ＝
１〜ｎＭ）として出力層１５から出力される。
第２図において、各層に含まれる１０１は細胞を示し、
また１０２はフィードバック結合を示す、なお直線の矢
印は結合を示す。
また１０２はフィードバック結合を示す、なお直線の矢
印は結合を示す。
Ｋｌｊ細胞の細胞内部状態で、たとえばｘ（Ｂ工
は第２層第１細胞の時刻ｔにおける細胞内部状態である
。また記号０・（１）は時刻ｔにおける第Ｋ層Ｊ細胞の
出力値で、たとえばＯ，（ｔ ）は第２層第１細胞の時
刻ｔにおける細胞出力値である。また、記号ａは第Ｋ［
Ｊ細胞のフィードバック結合） 係数で細胞内部状態が発散しないように１以下に示すも
のは、第に層ｉ細胞と第に＋１層ｊ細胞間の結合の重み
を示す。また記号θ、は第に＋１層Ｊ細胞における細胞
内部状態のネットワーク安定構成に必要なしきい値を示
し、かつ第２層から第に＋１層において細胞内部状態を
−１としであるのもネットワーク構築上の条件にもとづ
く。
。また記号０・（１）は時刻ｔにおける第Ｋ層Ｊ細胞の
出力値で、たとえばＯ，（ｔ ）は第２層第１細胞の時
刻ｔにおける細胞出力値である。また、記号ａは第Ｋ［
Ｊ細胞のフィードバック結合） 係数で細胞内部状態が発散しないように１以下に示すも
のは、第に層ｉ細胞と第に＋１層ｊ細胞間の結合の重み
を示す。また記号θ、は第に＋１層Ｊ細胞における細胞
内部状態のネットワーク安定構成に必要なしきい値を示
し、かつ第２層から第に＋１層において細胞内部状態を
−１としであるのもネットワーク構築上の条件にもとづ
く。
こうして、入力信号ｉ （ｔ）は、本神経回路網により
、過去の入力信号に関する情報を加味されて出力値０（
ｊ＝１〜ｎＭ）に変換される。神経手直しすることによ
って効果的に行なえる。
、過去の入力信号に関する情報を加味されて出力値０（
ｊ＝１〜ｎＭ）に変換される。神経手直しすることによ
って効果的に行なえる。
こうして、各細胞に一時刻間の状態をフィードバックさ
せることによりネットワーク内の時系列情報を閉じこめ
、入力信号の時変性に対応する処理が可能となる。
せることによりネットワーク内の時系列情報を閉じこめ
、入力信号の時変性に対応する処理が可能となる。
以上説明したように本発明は、一時刻前の細胞内部状態
のフィードバック機構を付加した神経細胞モデルを用い
て階層型神経回路網を構成することにより、入力信号の
時間的変化に対する処理が可能となってより人間の脳に
近い高度な情報処理が効率的に行なえるという効果を有
する。
のフィードバック機構を付加した神経細胞モデルを用い
て階層型神経回路網を構成することにより、入力信号の
時間的変化に対する処理が可能となってより人間の脳に
近い高度な情報処理が効率的に行なえるという効果を有
する。
第１図は本発明のフィードバック神経細胞モデルの一実
施例のブロック図、第２図は第１図のフィードバック神
経細胞モデルを用いて構成した階層型神経回路網の一実
施例のブロック図、第３図は従来の神経細胞モデルのブ
ロック図である。 １・・・シナプス結合部、２・・・細胞体部、３・・・
軸索小丘、４・・・フィードバック結合、１１・・・入
力層、１２・・・第２層、１３・・・第に層、１４・・
・第に＋１層、１５・・・出力層、１０１・・・細胞、
１０２・・・フィードバック結合。 ０、ｔｉン
施例のブロック図、第２図は第１図のフィードバック神
経細胞モデルを用いて構成した階層型神経回路網の一実
施例のブロック図、第３図は従来の神経細胞モデルのブ
ロック図である。 １・・・シナプス結合部、２・・・細胞体部、３・・・
軸索小丘、４・・・フィードバック結合、１１・・・入
力層、１２・・・第２層、１３・・・第に層、１４・・
・第に＋１層、１５・・・出力層、１０１・・・細胞、
１０２・・・フィードバック結合。 ０、ｔｉン
Claims (1)
- 【特許請求の範囲】 １、他の神経細胞群からの入力信号に重み付けを行なっ
た重み付け信号を受けとるシナプス結合部と、前記重み
付け信号を加算し細胞内部状態を生成する細胞体部と、
前記細胞内部状態を細胞出力値に変換する軸索小丘を有
する神経細胞モデルにおいて、自己の細胞内部状態の前
記シナプス結合部に対するフィードバック結合を備えて
成ることを特徴とするフィードバック神経細胞モデル。 ２、前記フィードバック結合を前記細胞体部の生成すべ
き細胞内部状態ｘｊ（ｔ）の一時刻前の細胞内部状態Ｘ
ｊ（ｔ−１）で形成することを特徴とする請求項１記載
のフィードバック神経細胞モデル。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2065356A JP2580826B2 (ja) | 1990-03-14 | 1990-03-14 | フィードバック神経細胞モデル |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2065356A JP2580826B2 (ja) | 1990-03-14 | 1990-03-14 | フィードバック神経細胞モデル |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH03265077A true JPH03265077A (ja) | 1991-11-26 |
| JP2580826B2 JP2580826B2 (ja) | 1997-02-12 |
Family
ID=13284598
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2065356A Expired - Lifetime JP2580826B2 (ja) | 1990-03-14 | 1990-03-14 | フィードバック神経細胞モデル |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2580826B2 (ja) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP0586714A1 (en) * | 1992-03-30 | 1994-03-16 | Seiko Epson Corporation | Speech recognition apparatus using neural network, and learning method therefor |
| US6070139A (en) * | 1995-08-21 | 2000-05-30 | Seiko Epson Corporation | Bifurcated speaker specific and non-speaker specific speech recognition method and apparatus |
| JP2000352994A (ja) * | 1992-03-30 | 2000-12-19 | Seiko Epson Corp | 神経細胞素子、ニューラルネットワークを用いた認識装置およびその学習方法 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH0251713A (ja) * | 1988-08-15 | 1990-02-21 | Nippon Telegr & Teleph Corp <Ntt> | 光ニューラルコンピュータ |
| JPH03257658A (ja) * | 1990-03-08 | 1991-11-18 | Nisshin Syst:Kk | ニューラルネットワークの動的システムモデル化方法 |
-
1990
- 1990-03-14 JP JP2065356A patent/JP2580826B2/ja not_active Expired - Lifetime
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH0251713A (ja) * | 1988-08-15 | 1990-02-21 | Nippon Telegr & Teleph Corp <Ntt> | 光ニューラルコンピュータ |
| JPH03257658A (ja) * | 1990-03-08 | 1991-11-18 | Nisshin Syst:Kk | ニューラルネットワークの動的システムモデル化方法 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP0586714A1 (en) * | 1992-03-30 | 1994-03-16 | Seiko Epson Corporation | Speech recognition apparatus using neural network, and learning method therefor |
| EP0586714A4 (en) * | 1992-03-30 | 1995-12-13 | Seiko Epson Corp | Speech recognition apparatus using neural network, and learning method therefor |
| JP2000352994A (ja) * | 1992-03-30 | 2000-12-19 | Seiko Epson Corp | 神経細胞素子、ニューラルネットワークを用いた認識装置およびその学習方法 |
| US6070139A (en) * | 1995-08-21 | 2000-05-30 | Seiko Epson Corporation | Bifurcated speaker specific and non-speaker specific speech recognition method and apparatus |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2580826B2 (ja) | 1997-02-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Zeng et al. | Sensitivity analysis of multilayer perceptron to input and weight perturbations | |
| Liu et al. | Ensemble learning via negative correlation | |
| CN113688981A (zh) | 具有记忆与信息抽象功能的类脑神经网络 | |
| JPH07114524A (ja) | 信号処理装置 | |
| JPH03265077A (ja) | フィードバック神経細胞モデル | |
| Löhr et al. | Complex neuron dynamics on the IBM TrueNorth neurosynaptic system | |
| Ballini et al. | Learning in recurrent, hybrid neurofuzzy networks | |
| Ballini et al. | A recurrent neuro-fuzzy network structure and learning procedure | |
| Lara | Artificial neural networks: An introduction | |
| Chun-Yan et al. | Combining rough set theory with neural network theory for pattern recognition | |
| Gurney | Weighted nodes and RAM-nets: A unified approach | |
| JPH0410181A (ja) | 神経細胞モデル | |
| JP2612640B2 (ja) | 信号処理回路、信号処理回路網、信号処理装置及び信号処理方法 | |
| JPH06175998A (ja) | 時系列予測方法 | |
| JPH03257658A (ja) | ニューラルネットワークの動的システムモデル化方法 | |
| JP2544489B2 (ja) | ニュ―ラルネットワ―クモデルの学習方法 | |
| JP3343626B2 (ja) | ファジィ推論のためのニューラルネットワーク | |
| Ebrahim et al. | Computer simulation of the biomorphic neuroprocessor | |
| JP2654686B2 (ja) | ニューラルネットワーク | |
| JPH08249303A (ja) | 信号処理装置 | |
| Abdallah | The encoded sequence representation in multilayer networks | |
| JPH05224939A (ja) | ファジィ集合処理方式 | |
| Ai | Hierarchical fuzzy neural networks for nonlinear dynamic systems | |
| Barber | Information representation in the multi-layer perceptron | |
| JP3292495B2 (ja) | ニューロ・ファジィ融合システム |