JPH05274288A - 学習機能を有する外部信号処理装置 - Google Patents

Abstract

(57)【要約】 【目的】 一時的に保持したい外部信号を、その重要度
によって２段階に記憶することを目的とするものであ
る。 【構成】 外部信号を得る感覚入力部と、活動パターン
を生成するための思考回路と、感覚入力部と思考回路か
らの信号を受けて思考回路に活動パターンを出力するリ
ハーサル回路と、感覚入力と思考回路をモニタするため
の情動回路とよりなり、外部信号より選択的に重要なも
のだけを記憶する。これらの回路はニユーラルネツトワ
ークにより構成され、学習機能を持つ外部信号処理装置
とされる。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】学習機能を有する外部信号処理装
置の学習機能の改善に関する。

【０００２】

【従来の技術】ところで、記憶が保持されている期間に
よって記憶を区別しようという考えは、一般的であり、
また実際の記憶に対する感覚ともマツチしている。しか
し、どのくらいの時間をもってそれを区別するかの明確
な定義はなく、おそらく動物によっても異なる。おそら
くそれぞれに対応する違った時間経過を持つ機構が存在
していることが生理学的研究から想像される。ここで
は、時間的な区別は明確にせず、違った機構の記憶があ
るという考えをとりいれることにした。

【０００３】短期記憶のメカニズムとして、あるいは短
期的な記憶の貯蔵機構に含まれるメカニズムとして、記
憶のリハーサルという動作をするところがあるという考
えがある。リハーサル機構という考えは解剖学的に明解
な根拠がある訳ではないが、その基本となる閉ループ結
合を脳内に見つけることは難しくない。情動あるいは感
情といっても喜怒哀楽とかいわれるように外に現れるの
は多様であるが、ここでは内部の極めて基本的な情動を
問題にする。心理学によればその基本となる情動は快、
不快であるという。この場合の快、不快とは欲望が満足
されるかどうか、問題が解決するかどうかという意味で
ある。そのような快、不快は、神経回路の活動が混乱し
た時に生じ、阻害を受け適当な活動ができない状態が不
快であり、阻害が取り除かれてスムーズな活動に戻った
状態が快であるとされる。ところが情動の発現機序につ
いて物理的な解析はあまり進んでいるとはいえない。

【０００４】動物を用いた行動学的実験によって、合図
に対して動物が注意を払っているかどうかで、その動物
への学習効果が影響を受けることが知られている。注意
を払うということについてはいろいろ説明がされている
が、興奮、嫌悪などの情動とおそらく関係が深いであろ
う。また関心があることについては記憶が良いというよ
うなことはおそらく誰もが経験していることである。以
上のことから、記憶に伴う現象は情動の影響を受けると
考えることができる。

【０００５】記憶を表現する構造を考える上で、記憶と
は何であるかを始めに決めておく必要がある。ここでは
基本方針として次のように考えた。脳の神経細胞のネツ
トワークにおいて生成できる活動パターンのうちの１つ
に外界の事象を当てはめて保持することが記憶であると
した。したがって記憶の獲得とはある刺激に対して決ま
った活動パターンが生成されるように変化することであ
る。

【０００６】ここでは、記憶をその時間経過によって超
短期記憶、短期記憶、長期記憶の３つのレベルに分け
る。ただし前節で述べたようにどのくらい憶えているか
らどの記憶だと言う区別でなく、内在する変化の時間経
過による区別である。超短期記憶とは瞬間瞬間のできご
とを一時的に憶えている、というようなことがらに対応
している。ここでは、現在生成されている活動パターン
を一時的に保持することとして表現する。

【０００７】短期記憶とはなにかを意識的あるいは無意
識に憶えてある期間は忘れずにおくといったことに相当
する。実施例ではある活動パターンをある形の情報にし
てどこかに格納する。その情報が格納されている間はい
つでもそれによって活動パターンを超短期記憶として再
現することができるというふうに表現する。格納した情
報は永久的なものでなく、その情報が失われると、もは
や思い出すことはできない。

【０００８】長期記憶とは幼児期に体得して忘れないも
の、長い間の訓練で身についたもの、癖や習慣になって
いるものなどに対応させる記憶を指す。それをこの実施
例ではネツトワークそのものが活動パターンを生成しや
すいように変化することで表現する。長期記憶の獲得は
ネツトワークの活動度に応じて徐々に回路が変化してい
くことを考える。その変化は短期記憶に比べ長い時間を
要するので一度獲得するとなかなか忘れない。

【０００９】以上より心理学、生理学の知見をもとに記
憶、学習という現象が情動による制御を受けているとい
うふうに考えた。そこでここでも情動を司る部分を表現
し、その部分の活動で記憶の変化を制御するように考え
た。ここでは情動といっても極めて基本的な心の動きに
限定する。それはその動物にとって重要な刺激かそうで
ないかを判断するのが大切であると考えたからである。
そこでここでは情動の基本要素を快、不快という言葉で
表現する。

【００１０】ある問題について正しい答を出す装置が欲
しいがその解法が定かでない時、学習メカニズムを持っ
た装置が必要になる。学習メカニズムを持った装置とし
てはニユーラルネツトワークで構成したものが知られて
いる。ニユーラルネツトワークとは、比較的単純な情報
処理単位が相互に結合して信号のやりとりをする、ネツ
トワーク状のメカニズムのことをいう。学習メカニズム
をもつニユーラルネツトワークとは処理単位間の結合強
度を学習法則に従って変えられるようなネツトワークで
ある。

【００１１】学習させるには、動作させながら例題と正
解の組を必要回提示し、ネツトワーク内の処理単位間の
結合の強さを変化させる。この時、良い動作をするよう
学習させるには例題の種類を満遍なく与えなくてはなら
ない。そのために普通は本動作の前に学習のための動作
（訓練）の期間を設けることになる。

【００１２】

【発明が解決しようとする課題】しかしながら、学習の
環境としては適切でない状況である本動作中に学習させ
たい場合も考えられる。例えば、学習させたい入出力関
係の空間（X->Y）がある。入力ｘに対し出力を推定する
関数z(x)を最適にするのが学習の目的である。ｚを評価
するためにある損失関数r(z,y)を決めておき、それをな
るべく小さくするようｚを変化させる。ｘの出現確率P
(x)とｙの条件つき確率P(ｘ｜y)が決まっていればｒの
期待値Ｒが、 Ｒ＝∬rP(y｜x)dyP(x)dx と定義できる。

【００１３】このＲが十分な時間後に収束するような学
習アルゴリズムはすでにいくつか知られているが、一般
的な状況ではP(x)やP(ｙ｜x)が一定であるとは限らな
い。例えばある時刻で確率P(x)が変化した時その前後で
Ｒが増加していない保証はない。その様な場合の対策と
して十分長い期間には例題の提示が一様であると仮定し
て学習による変化量を小さくすることが考えられるが、
学習に必要な時間が長くなり実用的ではない。そこで例
題の提示につきまとう時間の隔たりをなくすなんらかの
方法が必要であった。

【００１４】

【課題を解決するための手段】外部信号を得ると共に、
外部信号に応じて各回路に信号を供給するための感覚入
力部と、活動パターンを生成するための思考回路と、上
記思考回路と上記感覚入力からの信号を受け、上記思考
回路に活動パターンを出力するためのリハーサル回路
と、及び上記感覚入力と上記思考回路の活動をモニタす
るための情動回路とよりなり、外部信号より選択的に重
要なものだけを記憶することを特徴とする、学習機能を
有する外部信号処理装置。

【００１５】

【作用】一時的に保持したい情報をその重要度によって
２段階に記憶する機構を有することにより、選択的に重
要なものだけを記憶することを可能にする。

【００１６】

【実施例】以下、本願実施例を、Ａ：概念的基本構成、
Ｂ：具体的構成に分けて説明する。

【００１７】Ａ：概念的基本構成 図１は本発明の基本構成を示し、思考回路１、リハーサ
ル回路２、情動回路３、感覚入力部４の４部分からな
る。３つの回路は相互に結合し、並列に動作している。
感覚入力部４からの入力信号はリハーサル回路２、情動
回路３に入力される。

【００１８】以下、各回路について詳細に説明する。思
考回路１は、主に思考として意識している部分を表現す
るための回路である。内部に多数個の神経細胞を持ち、
それらの活動パターンで表現されるものが今考えている
ことだとする。したがってこの実施例で記憶するといえ
ば思考回路１の活動パターンを憶えることである。また
想起するといえば思考回路１に活動パターンを再現する
ことである。どれだけのものを記憶できるかは思考回路
１が生成でき得る活動パターンの数が最大限に可能な数
ということになる。

【００１９】思考回路１内部のネツトワークの変化の規
模は小さいが、長い時間のうちに活動状況によって少し
ずつ変化する。この時間経過の長い変化によって特定の
活動パターンが生成されやすくなることで長期記憶を表
現する。思考回路１への入力はリハーサル回路２の出力
パターンである。また情動回路３からも入力を受け、そ
れによって思考回路１の活動性と回路の変化の大きさが
影響を受ける。思考回路１からの出力パターンはリハー
サル回路２へ届く。また出力パターンは行動の指令とし
て体内の各効果器に送られることになるのだが、この実
施例ではそこまでは考慮しない。

【００２０】リハーサル回路２は、複数個の神経細胞に
よるネツトワークからなっている。思考回路１と感覚入
力部４からの入力を受け、思考回路１に活動パターンを
出力する。またコントロール情報として情動回路３から
の出力を受けている。リハーサル回路２には２つの働き
を持たせる。１つめの働きは超短期記憶のためのリハー
サルである。リハーサル回路２は思考回路１と閉ループ
をなすように結合している。リハーサル回路２は思考回
路１の出力パターンを受けて、それを思考回路１にもう
１度再現させるように思考回路１に出力を送る。感覚入
力部４から新しい意味を持った情報が来るまではその出
力は変化しない。この働きをリハーサル回路２に持たせ
るにはリハーサル回路２の内部が２つの入力によって変
化し、能動的に適当な出力を得る必要がある。感覚入力
部４の意味の有無は情動からの情報による。反響回路は
複数個の神経細胞が閉ループを作るように結合している
ものをいう。このような回路があれば各細胞の特性によ
ってはリズミツクな発火を持続したりする。つまりある
パターンを保持することができる訳であり、一番簡単な
リハーサル回路２と考えることができる。

【００２１】２つ目の働きは短期記憶の情報の格納であ
る。ある活動パターンが思考回路１に生成されている
時、情動回路３からの情報によって思考回路１のパター
ンの情報がその時の感覚入力部４とともにリハーサル回
路２の内部状態の変化として格納される。そして次に同
じ感覚入力部４と情動の活動とがあった時にリハーサル
回路２で格納された情報が思考回路１への出力パターン
として生成される。

【００２２】以上のような現象を実現するためにリハー
サル回路２は内部状態の変化が起こりやすいものである
必要がある。そのかわり格納された情報はその後の変化
によっては消滅する可能性があり、長期的な保持はでき
ない。情動回路３は、この実施例ではネツトワーク活動
のモニタを行う。情動回路３は感覚入力部４と思考回路
１の活動の２つをモニタする。それにより現在の状態が
快か不快かあるいは何でもない状態かを判別し、その結
果を出力する。

【００２３】まず感覚入力部４のモニタによって外界で
生じた事象を検出する。思考回路１はその感覚入力部４
によって活動状態を変化させるが、ある安定な状態に落
ちついた時、その事象を解決した（対する行動が決定し
た）と解釈することにする。そこで思考回路１の活動状
態をモニタし、まだ状態が落ち着いてなければ解決して
いないので不快であり、落ち着いていれば快である、と
情動回路３が判断するとした。情動回路３の作用は記憶
にともなう回路の変化機構に対する調節である。それは
すなわち、超短期記憶、短期記憶、長期記憶に伴う生化
学的過程に対するトリガとなることである。このような
調節によって記憶が動物にとって意味のあることに限っ
て行われ、より正しい行動がとれるようになる。

【００２４】感覚入力部４は、外界の情報を得る部分
で、この実施例の唯一の入力である。実際の動物では様
々な種類の感覚が末梢、あるいは体外から中枢神経系へ
と送られてくるが、この実施例では感覚入力部４とはす
でに種々の感覚が統合されてしまった活動パターンとし
て扱う。そのため感覚入力部４をつくる部分は実施例に
は表現されていない。

【００２５】各部分は動物における複数個の神経細胞に
対応するものであり、その内部状態、入出力は複数個の
神経細胞の活動パターンで表現される。この実施例では
情動を司る部分を、感覚入力部４と思考するネツトワー
クの活動をモニタする回路として考える。情動回路３は
外界事象の有無と現在の状況が円滑に進んでいる状態で
あるかどうかの２つを判別する。それによって快か不快
かを判断し、ネツトワークの可塑性の度合を制御する。

【００２６】Ｂ：具体的構成 さらに具体的に、実施例の構造と動作について説明す
る。実際に動作させることを念頭において、ニユーラル
ネツトワークをもちいて実施例を定式化することを試み
た。まず、回路構成の最小単位であるニユーロンの実施
例を説明する。そしてそれによって構成される各回路を
説明する。それからこの実施例で説明する記憶、情動の
諸現象がいかに表現されるかを説明する。

【００２７】本願で提案する実施例は脳の働きの一部を
説明しようとする目的のもとにつくられたものである
が、その現象が神経回路の動作としてわかっていること
が少ないので、神経細胞の物理的振舞いを個々のニユー
ロン実施例に反映させる必要はない。したがってここで
用いたニユーロンの実施例はニユーラルネツトワークの
研究でよく使われている準線形素子実施例を基本とす
る。

【００２８】準線形素子実施例の説明を以下にする。準
線形素子は多入力１出力の素子で、発火頻度fr(0<=fr<=
1)を入力とし、発火頻度を出力とする。ニユーロンの発
火頻度は膜電位ｖの関数で表され、 fr=1/(1+exp(-v)) である。v は各入力i （プレのニユーロンの発火頻度）
にその入力に対する加重wを乗じたものの総和 v=Sigma(w*i) できまる。加重は正負どちらの値もとり得る。このこと
は興奮性結合だけでなく積極的に抑制するような結合も
考慮していることを示す。

【００２９】実施例の部分回路によっては適当な動作を
得るために準線形素子に付け加える形で特殊化したニユ
ーロン実施例を設定した。それについてはそれぞれの回
路の説明のところで述べる。感覚入力部４をつくるとこ
ろは、この実施例では考慮していない。しかし感覚入力
部４もニユーロンに入力しなければならない便宜上、相
互に結合のない複数個の感覚入力部４のニユーロンを設
定した。感覚入力部４が得られるとは、感覚ニユーロン
の発火頻度が決まることとした。

【００３０】各感覚入力部４のニユーロンは、シンプル
な準線形素子で表す。ただし何からも入力を受けていな
いので、発火頻度は随時０〜１のあいだで適当に決めて
やる。思考回路１は相互に結合する複数個のニユーロン
で形成した。それぞれのニユーロンは自分を含む思考回
路１ないのすべてのニユーロンと結合している。またリ
ハーサル回路２内のすべてのニユーロンから入力を受け
る。

【００３１】ｖ＝Sigma(wt*th)+Sigma(wr*re) ここでwt,wr はそれぞれ思考回路１のニユーロン、リハ
ーサル回路２のニユーロンからの入力の加重、th,re は
それぞれの出力をあらわしている。また思考回路１のニ
ユーロンは情動回路３からの入力を受ける。情動入力
は、個々のニユーロンのｖよりもむしろ生化学的過程を
活性化する。もちろんここでは、実際の生化学変化でな
く長期記憶に関係した変化を指す。この変化の機序につ
いては後述する。

【００３２】リハーサル回路２は、相互結合のない複数
個のニユーロンで構成した。全ての感覚入力部４のニユ
ーロンと思考回路１のニユーロンとから入力を受ける。 ｖ＝Sigma(ws*sn)+Sigma(wt*th) ws,sn は感覚入力部４のニユーロンからの入力加重と入
力である。また情動回路３からの入力を受け、やはり生
化学的過程に影響を受ける。さらにリハーサル回路２の
ニユーロンは、感覚入力部４と思考回路１の活動パター
ンからその出力を受動的に決めるのでなく、能動的に出
力を維持する機構を持っている。その機構のため出力は
思考回路１活動パターンによって決まり、感覚入力部４
は見かけ上キヤンセルされる。この機構については超短
期記憶の項で説明する。

【００３３】情動回路３は、ニユーラルネツトワークで
は構成しなかった。そこでここでは現段階での情動回路
３の動作の定式化を述べる。情動回路３は、感覚入力部
４の変化検出回路、思考回路１の状態変化検出回路、短
期記憶のための感覚入力部４のパターン記憶回路、快／
不快演算回路、の４つの部分からなる。以下各部分につ
いて、詳細に説明する。

【００３４】感覚入力部４の変化検出回路は、外界で生
じた事象を検出するための回路である。感覚入力部４の
時間変化を検出するには基本的には微分回路で良いと考
えた。例えば個々の感覚入力部４のニユーロンの出力sn
に対し a=dsn/dt を出力するニユーロンが存在すると決めれば、すべての
感覚入力部４の変化をその２乗和 o=Sigma(a*a) を指標にできる。

【００３５】思考回路１の状態検出回路は、思考回路１
の活動パターンの変化を検出し、事象に対する解決をみ
つけたかどうかを知る回路である。基本的には活動パタ
ーンの時間微分回路を考えている。具体的には思考回路
１のエネルギー b=Sigma(Sigma(wij*thi*thj)) （ただし、thi,thj
はi,j 番目の思考回路１のニユーロン、wij はニユーロ
ンi からニユーロンj への結合加重を表す） を状態変化の指標として用い、その時間微分の絶対値 p=｜db/dt ｜ で表現できる。

【００３６】短期記憶のための感覚入力部４のパターン
記憶回路は、特定の感覚入力部４のパターンを情動と関
連づける回路である。いくつかの感覚入力部４のパター
ンに対してオンとなり、その他のパターンに対してはオ
フとなる回路であって、パーセプトロンのような層構造
のネツトワークで可能である。本実施例では快の情動に
関してのみ記憶するとした。

【００３７】快／不快演算回路は、上記３つの回路の出
力から情動回路３の出力を決定する回路である。情動回
路３の出力は快情報と不快情報の２つの連続値であると
した。快の情動は事象があってかつ思考回路１の状態が
落ち着いているとき、または快と関連して記憶された感
覚入力部４が情動回路３に入ってきた時にえられる。た
とえば感覚入力部４のパターン記憶回路の出力をq=｛0,
1 ｝とすれば、 (快) =(1-exp(-0))*exp(-p) ＯＲ q (不快)=(1-exp(-0))*(1-exp(-p)) ＡＮＤ !q のような演算が考えられる。

【００３８】このニユーラルネツトワークを用いた場合
の記憶及び想起について以下に述べる。超短期記憶は、
本実施例ではリハーサル回路２が思考回路１の活動パタ
ーンを保持させるよう動作することであるが、それは以
下に述べる機構による。超短期記憶は、２つの機構が組
合わさって表現されている。１つは感覚入力部４のキヤ
ンセルで、もう１つは感覚入力部４情報による思考回路
１入力加重の変化である。思考回路１活動パターンの保
持を直接担うのは後者である。

【００３９】感覚入力部４のキヤンセルとは、リハーサ
ル回路２のニユーロンに入った感覚入力部４による膜電
位変化は、リハーサル回路２のニユーロンに対になって
存在する抑制性介在ニユーロンによってキヤンセルされ
る。したがってリハーサル回路２のニユーロンの発火頻
度は、思考回路１入力のみによる電位変化で決まる。 v=Sigma(wt*th) ただし抑制性介在ニユーロンのはたらきは、生理学的に
いえばイオンの流れをキヤンセルする受動的なものであ
るとし、それによる積極的な膜電位変化はないとする。
思考回路１入力の加重の変化。思考回路１入力の加重は
生化学的過程を通じてキヤンセルされた感覚入力部４の
分だけ変化する。ある時刻に抑制性介在ニユーロンによ
るキヤンセル量をαとすれば、微小時間におけるαの変
化量は、 ｄα=-(Sigma(ws*sn)+α) となり、この量に左右される化学変化が起きると考え
る。今回の実施例では、思考回路１入力加重wtの変化dw
t を dwt=-dα/(L*th) とした。ここでＬは思考回路１のニユーロンの数である
が、リハーサル回路２のニユーロンがもともと知ってい
る定数であるとした。

【００４０】思考回路１入力加重の変化における生化学
的過程は、情動回路３の制御を受ける。すなわち、ある
一定レベル以上の情動回路３の活動がないとこの変化は
生じないので、思考回路１に生成されるパターンはその
間変化することはない。以上の式でリハーサル回路２の
ニユーロンと介在ニユーロンとのペアのふるまいが記述
できたので、以降のシミユレーシヨンでは、このペアを
まとめてリハーサル回路２のニユーロンとして扱う。

【００４１】尚、短期記憶と超短期記憶との違いは２つ
ある。１つは起こりやすさの違いで、実施例ではトリガ
となる情動回路３活動に対する感度の差として表現す
る。もう１つは超短期記憶が情動の快、不快にかかわら
ず起こり得るのに対し、短期記憶では快の情動の時に積
極的に記憶するようにした。短期記憶は情動回路３の活
動をトリガとして２つの場所で同時に変化することで表
現する。１つは感覚入力部４からリハーサル回路２のニ
ユーロンへの結合の変化、もう１つは感覚入力部４から
情動回路３のニユーロンへの結合の変化である。

【００４２】感覚入力部４からリハーサル回路２のニユ
ーロンへの結合の変化とは、簡単にいえば、同じ感覚入
力部４で現在の思考回路１活動パターンが再現できるよ
うに結合加重をかえる、ということである。個々のリハ
ーサル回路２のニユーロンが適当な結合加重を決める手
がかりは自らの発火頻度である。自分の入出力特性を知
っていると仮定して、この実施例では次のように次の結
合加重wを決めることにした。 v=log(re/(1-re)) w=v/(N*sn) ここでＮは感覚入力部４のニユーロンの個数であるが、
これもリハーサル回路２のニユーロンが知っているもの
とした。

【００４３】感覚入力部４から情動回路３のニユーロン
への結合の変化とは、感覚入力部４と快の情動を関連づ
けるための変化である。短期記憶へのトリガが出ると、
情動回路３への感覚入力部４の結合が変化し、その感覚
入力部４のパターンと快の情動が直結する。ところで、
獲得された短期記憶は以下のように想起される。

【００４４】ある感覚入力部４のパターンが入ってきた
時、それが情動回路３で記憶されているパターンならば
情動回路３より快の情動が出される。それをトリガにし
てリハーサル回路２では介在ニユーロンによって思考回
路１入力のキヤンセルと感覚入力部４への抑制の解除が
おこなわれる。よってリハーサル回路２のニユーロンの
出力は記憶されていたパターンが生じ、思考回路１に再
現される。

【００４５】このアルゴリズムをあるネツトワークに適
用した１例を説明する。図９にネツトワークの構造の全
体図を示す。これは従来のネツトワークをあらわす部分
回路Ｔに、ここで報告するアルゴリズムを実現するため
の部分回路Ｒを付加したものである。２つの部分回路
Ｔ、Ｒはループ状に結合している。外部からの入力パタ
ーンは部分回路Ｒへ入る。教師信号もＲへ入る。各部分
回路は複数の処理単位によるネツトワークである。１つ
の処理単位は図１０のような簡単な演算をおこなう多入
力１出力素子である。出力ｙは入力ｘi の重みｗi 付き
和の関数である。

【００４６】部分回路Ｔは従来のネツトワークを表現す
る回路で、このネツトワークの動作はＴの出力をモニタ
することで知ることができる。この例ではＴは処理単位
が相互に結合する構造である（図１１）。部分回路Ｔは
従来の学習機能を持つネツトワークである。典型的な３
例をここに示す。本願で説明のために適用したネツトワ
ークには、相互結合をもつもの（図１１）を採用した。

【００４７】尚、図１２は層構造をもつフイードフオワ
ード型ネツトワーク、図１３はフイードバツク結合をも
つネツトワークの例を示す。Ｔはある入力パターンが入
力されるとそれに対して内部状態が変化しある定常的な
パターンを出力する。部分回路Ｔの構造は、その内部状
態を伝達するのに十分な入出力数を備えていれば、処理
単位間でどのような結合をするものであっても構わな
い。いくつかの処理単位の層からなるフイードフオワー
ド型の結合を持つもの（図１２）でも良いし、フイード
バツク結合を持っていて（図１３）も良い。

【００４８】部分回路Ｒは相互結合のない処理単位１層
からなる回路である（図１４）。Ｒ内の全ての処理単位
は外部入力パターン、Ｔの出力パターン、そして教師信
号を入力として受け、演算結果をＴへ出力する。この例
では部分回路Ｔの出力パターンを部分回路Ｒを付加する
ことで記憶できることを示している。そのための記憶機
構は部分回路Ｒ内の処理単位の性質によって形成されて
いる。以下にその性質について説明する。

【００４９】図１５は部分回路Ｒ内の１個の処理単位を
示している。学習アルゴリズムはＲ内のメカニズムによ
って実現されている。それを担う処理単位の性質を図示
する。図１５〜図１８はいずれもＲの処理単位１個を示
す。ここではある時刻ｔでｍ個の外部入力ｘi(t)と、ｎ
個の部分回路Ｔからの入力ｙj(t)とがそれぞれ加重ｗx
(t)、ｗy(t)で入力し、出力ｚ(t)=ｆ(x,y) を出すとす
る。また教師信号ｅ(t) が入力されるとする。

【００５０】教師信号ｅのレベルによって以下のように
加重が変化する。 ｅ＜αのとき（図１５） 変化しない β＞ｅ＞α のとき（図１６）

【００５１】

【数１】

【００５２】ｅ＞βのとき（β＞α ：図１７）

【００５３】

【数２】

【００５４】またｅのレベルによって出力ｚの演算を以
下のようにする。 ｅ＜γのとき（γ＞α）

【００５５】

【数３】

【００５６】ｅ＜γのとき（図１８）

【００５７】

【数４】

【００５８】先に説明したＲの処理単位の性質によっ
て、以下に述べる２つの記憶機構を実現することができ
る。その作用を図１９及び図２０でにより説明する。図
１９及び図２０はここで取り上げている回路の動作をシ
ミユレーシヨンした結果をグラフ図にしたものである。
シミユレーシヨン上の数値の設定は図１９及び図２０中
に記載している。外部入力ｘは20次元のランダムなベク
トル値、教師信号ｅは一次元のランダムな値として、１
タイムステツプ毎にあたえた。

【００５９】Ｔの出力ｙは処理単位数50としたので50次
元のベクトル値で表される。図１９の各グラフはｅと
ｘ、ｙの変化の指標としてｅ、

【００６０】

【数５】 及び、

【００６１】

【数６】

【００６２】を求め、それらのタイムステツプ毎の変化
を表したものである。図１９ではαだけを設定した。す
ると、外部入力ｘの変化に関わらず、教師信号ｅがαに
達した後だけｙが変化する。このようにある時刻の入力
と出力の状態を一時的に保持することを教師信号でコン
トロールすることができる。図２０ではα、β、γを設
定した。わかりやすくするために入力ｘをある値に固定
した。すると、出力ｙの、ｅが最初にβに達した時の値
を記憶されていて、その後ｅがγに達した時に再現され
る。このようにある時刻の入力と出力の状態を格納しま
た時間をおいた後に再現することを教師信号でコントロ
ールすることができる。

【００６３】ここまでは具体例を用いてアルゴリズムを
説明した。ここではこのアルゴリズムを応用することに
よって例題の提示が理想的でない場合の学習の効率を上
げられることを説明する。ここでいう例題の提示が理想
的でない場合というのは、ある例題が動作上重要である
にも関わらず与えられる機会が少ない場合とか、動作中
の入出力パターンに例外的なものがしばしば入り良い例
題が与えられない場合などをいう。このような場合では
動作中の入出力関係から重要な例題となるべきものをピ
ツクアツプしてやる必要がある。それは重要度を教師信
号として与えてやれば可能である。そしてピツクアツプ
した例題を従来の学習アルゴリズムを用いて学習させ
る。このときここで報告するアルゴリズムによって記憶
した例題が複数あればそれを均等に提示してやることが
可能になる。

【００６４】またこのアルゴリズムでは２段階の記憶が
できるので、重要度に応じた学習が可能となる。例え
ば、もっとも重要な例題は１回の提示でも強く記憶され
ることによって再現可能になり、提示される頻度を多く
することができる。またその場のみで必要な例題である
場合は一時的に長く提示されることによって臨時的な学
習を可能にする。

【００６５】次に、ニユーラルネツトワークを用いた本
願実施例が、当初の目的を達成していることを、コンピ
ユータシミユレーシヨンにより証明した結果について説
明する。ここでは、超短期記憶と短期記憶についてのシ
ミユレーシヨンを行った。まず始めに、これからシミユ
レーシヨンに使うネツトワークが生成する活動パターン
が、記憶として成り立つものかどうかを調べた。具体的
には次の要求を満たしているかどうかを調べた。

【００６６】即ち、それぞれの感覚入力部４に対して思
考回路１の活動パターンの定常状態が存在するか否か、
及びその定常状態は同じ感覚入力部４に対していつもお
なじであるか否かである。ネツトワークの実施例を次の
ように設定した。思考回路１のニユーロン数L=50、リハ
ーサル回路２のニユーロン数M=30、感覚入力部４のニユ
ーロン数N=10とした。

【００６７】情動回路３は設定せず、また超短期記憶の
ための加重の変化と感覚入力部４に対するゲートは行な
わなかった。更に初期設定として、感覚入力部４以外の
結合加重を-0.25 〜0.25の間で0.1 きざみにランダムに
決定した。感覚入力部４の加重は-0.5〜0.5 の間で0.2
きざみにランダムに決定した。すべてのニユーロンの発
火頻度の初期値は0.5 とした。また、感覚入力部４によ
って感覚入力部４のニユーロンは0.2 か0.8 のどちらか
の発火頻度をとるとした。この際、各ニユーロンの状
態、即ち発火頻度は同期して変化することとした。

【００６８】この実施例を、以下に述べる方法で実験し
た。感覚入力部４をある値に一定に保ち、ネツトワーク
を動作させる。状態が定常状態に達したら次の入力に変
える。また感覚入力部４は10個の感覚入力部４のニユー
ロンのパターンで与えた。 思考回路１の活動状態を知る目安として思考回路１のエ
ネルギー Ｅ＝Sigma(Sigma(wij*thi*thj)) をもちいた。

【００６９】実験の結果は次の通りである。同じ感覚入
力部４を１５回ずつ繰り返したところ、試した入力パタ
ーンの全てで、ネツトワークが１５回のうちにほぼ定常
状態になることが確認された。定常状態になった時、思
考回路１のエネルギーＥがある値に落ち着くのが確認さ
れた。

【００７０】更に、全部で１００の入力パターンを試し
た。入力を提示する順番を逆にしたところ、同じ入力パ
ターンに対するネツトワークの定常状態は正順で提示し
た時と変わらなかった。シミユレーシヨンをおこなった
条件の範囲では、ある感覚入力部４のパターンに対し、
思考回路１のエネルギーがある値に決まるような定常状
態が存在し、その状態は少なくとも数１０はあることが
わかった。よってこのシミユレーシヨンと同じ条件で十
分に以降の実験ができることが確認できた。

【００７１】次に超短期記憶が表現できるかをシミユレ
ーシヨンで試してみた。超短期記憶については、感覚入
力部４のゲートに情動回路３が関与しているが、ここで
のシミユレーシヨンでは超短期記憶の動作のみに注目し
たいため、情動回路３を入れずに簡単化した。前述のシ
ミユレーシヨンの設定から以下のことを変更、または追
加した。

【００７２】思考回路１からリハーサル回路２の結合加
重の初期設定範囲を-0.3〜0.3 とした。また、リハーサ
ル回路２のニユーロンの膜電位は、思考回路１入力で決
まることとした。 ｖ＝Sigma(wt*th) 情動回路３の活動を１／０で表し、シミユレーシヨンの
都合で適当に与えてやった。前述のリハーサル回路２内
の変化機構をとり入れた。また情動回路３の活動が１の
ときのみ変化するようにした。尚、思考回路１の状態は
前回のシミユレーシヨンと同様にエネルギーで評価し
た。

【００７３】この状態で、ある一定の入力パターンを続
けて与えた時、またはランダムに１回ごとに変えた場合
のそれぞれで、結合の変化をした場合としない場合を調
べてみた。その結果、以下のことがわかった。結合の変
化の後一定に保たれた思考回路１の活動パターンは、そ
の後感覚入力部４が変化しても結合の変化がおこなわれ
ない限りは変わることがなく保持することができた。

【００７４】ある保持されたパターンから次のパターン
へ移行する時、すぐには変化せずにいくらかの時間のお
くれがあってから変化を始めるのがみられた。同じ入力
パターンに常に同じ思考回路１の状態が生成されるので
はなく、その以前の状態に左右される。次に、短期記憶
のシミユレーシヨンは、リハーサル回路２内の変化に注
目するため情動回路３の変化は省略した。情動回路３の
動作は適当に補って実験した。

【００７５】細かい初期設定は前述のシミユレーシヨン
と同じである。短期記憶を表現するため、それに加えて
以下のことを付け加えた。情動の値は０〜１まで0.1 き
ざみに適当に与えた。また、超短期記憶は情動の値が0.
5 以上1 未満で働くとした。更に、短期記憶は情動の値
が１の時働くとした。ここでは超短期記憶と短期記憶の
変化を見分けるために同時に働かないようにした。

【００７６】情動の値が１のときは、リハーサル回路２
の出力パターンは感覚入力部４によって決まるようにし
た。それ以外のときは今までのように思考回路１からの
入力で決まる。ランダムな感覚入力部４のパターン（情
動は 0〜0.9 ）を与え続ける. その合間にあるパターン
を連続に適当な期間あたえ、この間情動を１とする。し
ばらくしておなじ入力パターンを提示した時、前回与え
た時の思考回路１の活動パターンが再現できるかどうか
を試した。

【００７７】シミユレーシヨン結果のグラフを図７、８
に示す。まず、２回目以降にパターンを提示した時には
結合の変化は起こらないようにした。すると１回目に提
示した間に思考回路１の活動パターンが２種類のものが
交互に現れるのがみられた。その後超短期記憶によって
リハーサル回路２の内部状態が変化してしまっているに
も関わらず、２回目の感覚入力部４のパターンの提示に
よって１回目の時の片方のパターンだけが連続して再現
された。１回目の提示の時に思考回路１の状態が一定に
ならずに２つのパターンが現れたのは、思考回路１とリ
ハーサル回路２がループになっているために２つのパタ
ーンを両方でやりとりしてしまったためである。

【００７８】次に２回目以降のパターンの提示の時も結
合の変化をするようにしたらどうなるかを試してみた。
１回目の提示の時は前と同様に２つの思考回路１活動パ
ターンが交互に現れた。２回目の提示の時も２つのパタ
ーンが交互に現れた。この時の２つのパターンは、１回
目の提示の時の１つに類似するパターンと全く別のパタ
ーンであった。また３回目の提示の時も同様に２回目の
時に類似するパターンと別のパターンの交互の繰り返し
がみられた。毎提示の直前に生成されていたパターンが
短期記憶として再現パターンに織り込まれて少しずつ変
化していくと考えられる。

【００７９】活動パターンの能動的な保持ができるおか
げで感覚入力部４に対して不感になる状態が作れたこと
は、いわゆるぼんやりしている状態を表現できる可能性
を持つと考えられる。また能動的な保持は短期記憶、長
期記憶への移行の助けになり得る。現行の能動的な保持
の機構にした副作用として同じ感覚入力部４に対して保
持するパターンは必ずしも同じでないという現象が見ら
れた。これは時と場合によって同じ感覚入力部４に対す
る感じ方や考え方がかわることを意味するが、そのため
に意識の統一性に混乱が生じる可能性がある。

【００８０】しかしながら、感覚入力部４の脈絡によっ
て感じ方が変わるのは、より生物らしい振舞いを求める
という意味では効果的である。超短期記憶の変化では思
考回路１は変化をしないので、そのネツトワークの統一
性が損なわれる訳ではないと考える。統一性は、むしろ
短期記憶や長期記憶によって得られたものが寄与してい
るとしたほう望ましい。

【００８１】短期記憶については考えたメカニズムの基
本的な部分が動作することがわかった。シミユレーシヨ
ンでみられた短期記憶がおこなわれている間に２つの活
動パターンが交互に出現する現象は現行の変化則に原因
がある。また今の変化則ではおそらく複数の活動パター
ンを記憶できないと思われる。更に、感覚入力部４から
リハーサル回路２への構造を、さらに複雑にした方がよ
り効果的と思われる。それは本実施例の単純な結合で
は、結合を変化させて任意の複数のパターンを出力でき
るようにすることは、不可能と考えられるからである。

【００８２】本実施例の変形例としては、感覚入力部４
のニユーロンとリハーサル回路２のニユーロンとの間
に、中間のニユーロン層を作り、学習による変化則でパ
ターンを記憶させる方法が考えられる。しかし、複数の
パターンに対応できる反面、学習による変化則では憶え
るまでに同じ刺激を何回も提示しなければならないとい
う欠点がある。

【００８３】短期記憶を表現するにはその点が難であ
る。学習的な変化を考えるよりも、あらゆるパターンを
用意できる回路があらかじめあって、そのパターンの中
から１つ選んで刺激と対応させるような変化則の方がよ
いと考える。この点は情動回路３における変化について
も同じである。適当な変化則と構造がわかれば情動回路
３の短期記憶に関する部分もニユーラルネツトワークで
表現できる。

【００８４】尚、長期記憶については本実施例ではニユ
ーラルネツトワークに組み込まなかった。長期記憶は経
験的な記憶で、時間経過の長い変化であり、そのような
ものは、思考回路１が相互結合でしかも非対象の結合を
許しているので、バツクプロパゲーシヨン法による学習
が難しいからである。もし長期記憶についても考慮する
のであるならば、次のような変化の方法が考えられる。
思考回路１のニユーロン同士の結合の強さが常に細かく
揺らいでいるとし、結合の変化を情動回路３の活動でト
リガする。たとえばある強さの結合になった時に快の情
動があったならば、その結合のゆらぎの中心が今の強さ
に移動する、というような変化則で変化させれば、長時
間の後には活動パターンの出現頻度に応じていくつかの
パターンを記憶できる。

【００８５】本実施例では、情動回路３はニユーラルネ
ツトワークで表現することができなかった。微分回路の
実現は本質的な問題ではない。なぜならば、疑似的な微
分ならば時間遅れを表すための介在ニユーロンをもちい
て差分回路によって表現するのは可能だからである。本
実施例の思考回路１、はホツプフイールドのモデルと類
似しているので、彼が定義したネツトワークのエネルギ
ーを思考回路１の状態の指標としてもちいることが考え
られる。しかしこれを計算するためには思考回路１のニ
ユーロン相互の結合加重という情動回路３が知ることの
できない変数が必要なので、いかにしてその値を知るか
という問題がある。

【００８６】現段階の実施例では、情動をネツトワーク
活動の単純な変化検出回路として構成したが、情動回路
３についての動作の確認はおこなってないので、期待ど
おりの動作ができるかどうかまだわかっていない。情動
と呼べる振舞いをするためには、時間微分以外の演算が
必要と思われる。本実施例では以下に述べるような性能
をもつ発展性が期待できる。

【００８７】例えば、今まで考えてみなかったことが、
あるはずみで頭に浮かぶことがある。この現象をこの実
施例でできる可能性がある。短期記憶のシミユレーシヨ
ンで記憶されたパターンを想起する時、同時に記憶させ
るとどうなるかという実験を行った。この時は想起すべ
きパターンを完全には思い出すことができなかったが、
極めて似たパターンと想起する直前の無関係なパターン
の２つを再現した。これは短期記憶によって、思い出し
たことと今まで考えていたことの２つを組み合わせるこ
とが可能であることを示唆する。また場合によっては、
２つの組合せのパターンが生成されて全く新しいパター
ンが生じることが可能である。

【００８８】行動学ではある刺激に対して特定の反応を
獲得することを条件づけが成立するという。条件づけは
単純なものもその範疇に入れるとすれば無脊椎動物から
人まで多くの動物が可能な行動様式である。これを表現
できれば生物らしさが出てくるのではないかと思う。単
純な条件づけのメカニズムは感覚刺激と罰や報酬との連
合であるが、罰や報酬は情動の変化につながる。ここで
提案した実施例では情動と感覚入力部４の関連づけを回
路として備えているので、条件づけが表現できるように
発展させることは可能だと考える。

【００８９】以上に述べたように生物らしい動きを表現
することによって興味、関心をひきつけることを考えて
いる。決まりきった動き、見飽きてしまうものに付加価
値として付け加える。例えば幼児の教育システムに組み
込むことが可能である。一般的に、幼児は集中力がなく
飽きっぽいので、時には教育プログラムを外れても関心
を持たせることが重要と思われる。それには相手の反応
（幼児がちゃんと言葉で意思を正確に伝えられるとは思
えない）を観察し、それに対処できる必要がある。さら
にいえば幼児は本質的に生き物が好きであるから、シス
テム内に擬似的な動物を存在させることが有効である。

【００９０】

【発明の効果】時間的に偏って提示された重要な複数の
情報を記憶する学習が可能になる。また２段階の記憶が
できるので、重要度に応じた学習が可能となる。よっ
て、もっとも重要な例題は１回の提示でも強く記憶され
ることによって再現可能になり、提示される頻度を多く
することができる。またその場のみで必要な例題である
場合は一時的に長く提示されることによって臨時的な学
習を可能にする。

【図面の簡単な説明】

【図１】本発明の実施例の全体像を示すブロツク図であ
る。

【図２】本発明の実施例をネツトワークにより構成した
例を示すブロツク図である。

【図３】本発明を説明するための動作例を示す模式図で
ある。

【図４】本発明を説明するための動作結果を示す、グラ
フ図。

【図５】本発明を説明するための動作結果を示す、グラ
フ図。

【図６】本発明を説明するための動作結果を示す、グラ
フ図。

【図７】本発明を説明するための動作結果を示す、グラ
フ図。

【図８】本発明を説明するための動作結果を示す、グラ
フ図。

【図９】ネツトワークの全体像を示すブロツク図であ
る。

【図１０】処理単位を示す模式図である。

【図１１】相互結合をもつネツトワークを示す模式図で
ある。

【図１２】層構造をもつフイードフオワード型ネツトワ
ークを示す模式図である。

【図１３】フイードバツク結合をもつネツトワークを示
す模式図である。

【図１４】部分回路Ｒの構造の一例を示す模式図であ
る。

【図１５】部分回路Ｒの処理単位を説明するための模式
図である。

【図１６】部分回路Ｒの処理単位を説明するための模式
図である。

【図１７】部分回路Ｒの処理単位を説明するための模式
図である。

【図１８】部分回路Ｒの処理単位を説明するための模式
図である。

【図１９】ネツトワークの動作結果を示す、グラフ図。

【図２０】ネツトワークの動作結果を示す、グラフ図。

Claims (9)

【特許請求の範囲】
1. 【請求項１】 外部信号を得ると共に、外部信号に応じ
   て各回路に信号を供給するための感覚入力部と、 活動パターンを生成するための思考回路と、 上記思考回路と上記感覚入力からの信号を受け、上記思
   考回路に活動パターンを出力するためのリハーサル回路
   と、 及び上記感覚入力と上記思考回路の活動をモニタするた
   めの情動回路と、 よりなり、 外部信号より、選択的に重要なものだけを記憶すること
   を特徴とする、学習機能を有する外部信号処理装置。
2. 【請求項２】 上記各回路の少なくともひとつがニユー
   ラルネツトワークよりなることを特徴とする、請求項１
   記載の学習機能を有する外部信号処理装置。
3. 【請求項３】 上記各回路の少なくともひとつのニユー
   ラルネツトワークが、相互結合を持つネツトワークであ
   ることを特徴とする、請求項２記載の学習機能を有する
   外部信号処理装置。
4. 【請求項４】 上記各回路の少なくともひとつのニユー
   ラルネツトワークが、層構造を持つフイードフオワード
   型ネツトワークであることを特徴とする、請求項２記載
   の学習機能を有する外部信号処理装置。
5. 【請求項５】 上記各回路の少なくともひとつのニユー
   ラルネツトワークが、フイードバツク結合を持つネツト
   ワークであることを特徴とする、請求項２記載の学習機
   能を有する外部信号処理装置。
6. 【請求項６】 上記学習機能を有する外部信号処理装置
   は、さらに記憶機構を有するネツトワークを有し、この
   ネツトワークが、短期記憶機構及び超短期記憶機構を有
   し、これらが上記情動回路の記憶する内容の重要度の判
   断に応じて、制御されることを特徴とする、請求項２か
   ら請求項５記載の学習機能を有する外部信号処理装置。
7. 【請求項７】 上記短期記憶機構は、ネツトワークの内
   部状態の普段は出力に現れない隠れた状態として記憶が
   残り、後での再現を可能とする機構であって、上記超短
   期記憶機構は、ネツトワークの内部状態の一時的な保持
   だけで後に残ることのない機構であるとを特徴とする、
   請求項６記載の学習機能を有する外部信号処理装置。
8. 【請求項８】 上記短期記憶機構は、外部信号による学
   習結果を、直ちに出力に現れない隠れた状態として記憶
   し、所定時間後、再現することを特徴とする、請求項７
   記載の学習機能を有する外部信号処理装置。
9. 【請求項９】 上記超短期記憶機構は、外部信号による
   学習結果を、所定時間記憶した後、再現することなく消
   去することを特徴とする、請求項７記載の学習機能を有
   する外部信号処理装置。