JPH08110854A - ニューラルネットワークシステム - Google Patents

Abstract

(57)【要約】 【目的】 多数のニューロンに対して送信波長の配分を
可能とし、電波による大規模なニューラルネットワーク
システムの実現を可能とする。 【構成】 ニューラルネットワークシステムは、多数の
ニューロンによって構成されている。各ニューロンは、
複数の受信部とニューロン的情報処理部と送信部を有し
ている。受信部は、コンデンサ１と超電導コイル部２で
構成された共振回路を有している。超電導体によってコ
イルを形成したので、実抵抗がほぼ０となり、高いＱ値
を得ることができ、多数のニューロンに波長を割り当て
ることができる。他のニューロンから発信された電波
は、このコンデンサ１と超電導コイル部２の共振回路で
選択的に受信される。それぞれの受信部での受信情報か
ら、ニューロン的情報処理部で演算処理を行ない、送信
部から電波を発するか否かを決定する。送信部の発振回
路にも超電導コイルを用いることができる。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、ニューラルネットワー
クシステムに関するものであり、特にニューロン間のイ
ンターコネクションに関するものである。

【０００２】

【従来の技術】ヒトの脳の中で行なわれている並列情報
処理を擬態し、達成するための研究は、１９８０年代に
入ってホップフィールドモデルやバックプロパゲーショ
ンモデル、ボルツマンマシンなどの有力なモデルが提案
され、各地で盛んに研究が行なわれるようになった。神
経モデルとして最もよく知られているのは、多入力１出
力のニューロンモデルである、いわゆるマッカロウピッ
ツモデルである。

【０００３】図３は、マッカロウピッツモデルの説明図
である。このモデルにおいて、複数の人工的入力信号ｘ
_n が神経細胞に入力されると、それぞれの入力に応じて
ｗ_nの重み付けがなされて総和が取られ、その値がある
閾値を超えたとき、はじめて出力Ｙが細胞よりインパル
スとして発せられる。

【０００４】医学、生理学研究の結果や、図３に示した
ような工学的モデルからもわかるように、ニューロンへ
の信号入力は多入力であるため、ヒトの脳の中で行なわ
れている並列情報処理を実現するには、これらニューロ
ン同士を多数結合しなければならない。この結合を電気
的に実現するには、膨大な配線が必要となる。この配線
を実際に実現するには３次元的な配線が不可欠であり、
現在の半導体によるトランジスタ技術のような２次元平
面に素子を配置していく方式では、その実現が技術的に
困難である。すなわち、実際の脳では１つの神経細胞が
多数の神経細胞に信号を伝達しているため、通常の薄膜
金属導線により微細加工技術を用いてこれらの膨大な配
線を実現することは、ほとんど不可能である。

【０００５】このような問題を解決する方法として、例
えば、特願平５−５２９３５号に記載されているよう
に、電波を用いたインターコネクションによる方式が提
案されている。この方式を用いることによって、実際の
ニューロンと非常に良く似た処理を実現でき、高速化、
任意の結合が可能となる。

【０００６】ここで簡単に電波によるニューラルネット
ワーク方式について述べる。特願平５−５２９３５号に
開示されている電波を情報伝達手段として用いる方式で
は、現実のニューロンが行なっている軸索と樹状突起の
シナプスの関係がそのまま実現できるメリットを持つ。

【０００７】図４は、１個のニューロンの一例の構成図
である。図中、１１は受信回路、１２はコイル、１３は
コンデンサ、１４は送信回路である。図４は、１つのニ
ューロンの構造を示している。この例は、各ニューロン
をＬＳＩ技術により作成した場合を示している。１個の
ニューロンは、図４に示すように多くの受信回路１１を
有し、各受信回路１１は、コイル１２およびコンデンサ
１３からなる異なる周波数を受信するための同調回路を
有している。これらの多数の同調回路によって、下層の
多くのニューロンから異なる周波数の電波として送られ
てくる情報を受信できる。受信した情報は、信号処理部
で論理演算を行ない、さらに上位のニューロンに対して
論理演算の結果である電波を送信回路１４から発するこ
とができる。

【０００８】図５は、図４に示したニューロンを用いた
ニューラルネットワークシステムの一例を示す基本構成
図である。図中、２１，２２はニューロン、２３は受信
部、２４は増幅部、２５はニューロン的情報処理部、２
６は送信部である。各層には複数のニューロンが設けら
れる。ニューロン２１，２２は、それぞれ、図４に示し
たような構成である。前段層の各ニューロン２１の送信
部２６からは異なる波長の電波を発する。これを後段層
の各ニューロン２２に複数設けられている受信部２３で
受信する。受信部２３で受信した情報は、増幅部２４で
適宜増幅して重み付けされた後、ニューロン的情報処理
部２５で論理演算や積和演算などのニューラルネット理
論に従った演算処理がなされ、処理結果は送信部２６か
らさらに後段の層へと送信される。このとき、ニューロ
ン的情報処理部２５におけるニューラルネット理論にし
たがった演算結果が正となれば、送信部２６によりその
ニューロンに特有な周波数の電波を発する。一方、演算
結果が負となれば、そのニューロンは電波を発しない。

【０００９】図６は、電波を用いたニューラルネットワ
ークシステムの一具体例を示す構成図である。図中、３
１は入力層、３２は中間層、３３は出力層、３４はニュ
ーロンである。入力層３１、中間層３２、出力層３３
は、互いに向き合うように配置される。入力層３１の各
ニューロン３４の中間層３２と対向する面には、送信部
が配置されており、中間層３２に対して電波が発射され
る。中間層３２の各ニューロン３４の入力層３１と対向
する面には、入力層３１の各ニューロンから発射される
電波を受信するための受信部が配置される。また、出力
層３３と対向する面には、出力層３３に対して電波を発
射する送信部が配置されている。中間層３２の各ニュー
ロン３４から発射された電波は、出力層３３の各ニュー
ロン３４により受信され、出力層３３から出力信号が出
力される。入力層３１への入力信号および出力層３３か
らの出力信号は、電波のほか、電気的な配線などによっ
て行なわれる。電波は基板を透過できるので、直後の層
に限らず飛翔的に、さらに上層のニューロンへも信号を
伝達することが可能である。

【００１０】上述の説明において、受信部２３、送信部
２６の同調回路の１つ１つが生体のシナプスに相当して
いる。また下層の送信部２６がシナプスへ信号伝達を担
う軸索に対応する。また、送信部２６がそのニューロン
に特有な周波数の電波を発することは、ニューロンが個
々に区別されたことになり、独立した軸索を持つことと
等価である。このように、電波によるニューラルネット
ワークシステムは、実際の生体の脳で行なわれている情
報処理と酷似した情報処理回路系を構成できる。すなわ
ち、実際の生体の脳では３次元的な（立体的な）神経細
胞間の結合が実現されているが、無線による本発明では
この立体構造がそのまま実現でき、神経細胞間の結合は
波長を変えた電波を用いて実現されている。

【００１１】実際のヒトの脳の神経細胞では１個のニュ
ーロンに対し数百から数万個のシナプス結合が存在して
いる。このような実際のヒトの脳神経回路を人工的に模
倣するには、多くのニューロンが必要であり、それらの
間の複雑な結合が必要である。したがって、このネット
ワークメカニズムを上述のような電波を用いたシステム
によって実現するには、各ニューロンに対してそれぞれ
異なった波長の電波を割り当て、発振できる機能を与え
なければならない。また、他のニューロンからの信号電
波を受信できる受信回路を持たなければならない。

【００１２】上述の電波を用いたニューラルネットシス
テムでは、情報を伝達する方法は並列性を持ち、非同期
処理であるため、実際の脳で行なわれている処理をかな
りよく擬態することが可能である。しかし、ここでの課
題の１つは、異なる波長を持った電波をどのくらい多く
独立に、混信することなく各ニューロンに割り振ること
ができるかである。

【００１３】例えば、図４に示した例においては、電波
の発信回路１４と受信回路１１にはコイル１２とコンデ
ンサ１３からなる回路を用いている。しかし、通常、コ
イルとキャパシタは大型のものとなるという欠点があ
る。例えば、１ＭＨｚ帯域では、通常のラジオのように
インダクタンスを稼ぐためには、コイルは数センチ程度
の大型コイルとなる。一方、非常に小型のデバイスを実
現しようとすると、インダクタンスが稼げないという欠
点があった。インダクタンスが小さい場合は共振周波数
が高くなることが回路理論よりわかるので、１００μｍ
程度の微小な共振回路を作成しようとすれば、ＭＨｚ帯
域以上の周波数帯域が要求される。

【００１４】電子回路理論によればインダクタンスとキ
ャパシタによる共振回路においては、その共振の鋭さを
表わすＱ値は次の式で与えられる。 Ｑ＝（１／Ｒ）√（Ｌ／Ｃ） したがって、実抵抗分を小さくすればするほどＱ値が上
がり、共振は鋭くなる。しかし、実際にシリコン基板上
にフォトリソグラフィーによる微細加工技術を用いて、
数百平方マイクロメートル程度の領域に１００ｎＨ程度
の超小型コイルを実現しようとすると、例えば、アルミ
ニウムなどの配線材料では、超小型コイルの配線抵抗が
大きくなりすぎるため、十分大きなＱ値を持つコイルは
実現できなかった。つまり、小型化を進めると配線の幅
が細くなるために実質的な抵抗が増大し、電波の共振回
路のＱ値が上がらず、多くのチャンネルを各ニューロン
に割り振ることが困難となるという欠点があった。

【００１５】

【発明が解決しようとする課題】本発明は、上述した事
情に鑑みてなされたもので、多数のニューロンに対して
送信波長の配分を可能とし、電波による大規模なニュー
ラルネットワークシステムの実現を可能とすることを目
的とするものである。

【００１６】

【課題を解決するための手段】本発明は、複数の入力部
と、該複数の入力部に入力される入力信号の処理部と、
該処理部からの出力信号を出力する１個または複数の出
力部を有する素子を複数用いて構成され、ある素子の出
力信号を複数の素子の入力信号として信号を伝達するこ
とにより信号処理を行なう回路を具備するニューラルネ
ットワークシステムにおいて、各素子間の信号の授受を
行なう前記出力部および前記入力部が送信回路および受
信回路により構成し、該送信回路および該受信回路の共
振回路部に超電導体を用い、電波を用いて前記素子間の
信号の伝達を行なうことを特徴とするものである。

【００１７】

【作用】本発明によれば、共振回路部に超電導体を用い
ているので、配線抵抗の小さなコイルを作製することが
でき、共振回路のＱ値を大きくすることが可能である。
これにより、異なる波長を持った電波を混信することな
く多数のニューロンに割り振ることができ、大規模なニ
ューラルネットワークシステムが実現可能となる。

【００１８】

【実施例】図１は、本発明のニューラルネットワークシ
ステムの一実施例に用いられる受信回路部の一例を示す
構成図である。図中、１はコンデンサ、２は超電導コイ
ル部である。この実施例における受信回路部には、コン
デンサ１と超電導コイル部２で構成された共振回路を有
している。超電導コイル部２は、従来のアルミニウム配
線等に代えて、超電導体によって配線を行ない、コイル
を構成したものである。

【００１９】このような受信回路は、具体的には次のよ
うにして作製することができる。シリコン基板を酸化
し、ＳｉＯ₂ を形成した後、Ｓｉ₃ Ｎ₄ 薄膜を着膜、Ｓ
ｒＴｉＯ₃ 薄膜をスパッタ法により形成し、その上層に
超電導体ＹＢａ₂ Ｃｕ₃ Ｏ_X をＲＦスパッタにより２０
０ｎｍ着膜してから、エッチングにより線幅１μｍのコ
イルを形成する。ＳｒＴｉＯ₃ 薄膜を形成するのは格子
整合を取り、良質な結晶性を得るためである。もちろ
ん、他の超電導体を用いることもできる。また、基板も
シリコン基板に限定されるものではなく、ＧａＡｓ半導
体等を用いたものでもよい。

【００２０】図１に示した例では、１０ターンのコイル
を形成してある。このようなコイルによって、約１００
ｎＨから２０ｎＨのインダクタが実現できる。この超電
導コイル２のインダクタンスとコンデンサ１の容量の組
み合わせで、多数の共振周波数を持つ微小で高いＱ値を
持った受信回路が形成できる。

【００２１】また、同様にコイルとコンデンサ容量の組
み合わせにより、シャープな発信周波数を持った発信回
路が構成できる。この後はフォトリソグラフィによるＩ
Ｃ作製工程で電子回路をシリコン基板上に形成する。す
なわち、検波回路、増幅回路、演算回路、発信回路部等
はシリコン基板を用いるため、例えば、ＣＭＯＳトラン
ジスタ作製プロセスを用いて、集積回路として形成する
ことができる。

【００２２】このようにして、多数の受信回路と１つの
発信回路を有する１つのニューロンが形成される。ニュ
ーロンの構成は、例えば、図４に示した従来の構成と同
様であり、それぞれの受信回路１１に図１に示した受信
回路を配置すればよい。また、送信回路１４には、超電
導コイルを用いた発振回路を配置すればよい。そして、
ニューロンでは、図１に示したような多数の受信回路に
よって多数の電波を受信し、各ニューロン内でニューラ
ルネットワーク理論に基づく演算を実施する。演算の結
果に応じて他のニューロンに電波を発射するか否かを決
定し、電波を発射する場合には、ある特定の波長の電波
を送信回路から発射する。さらに、このようなニューロ
ンを用い、例えば、図６に示したようなニューラルネッ
トワークシステムを構築することができる。あるいは、
３層以上の多層へも適用でき、各層において処理が進
み、高度な情報処理が可能となる。さらに、実際の生体
の脳で行なわれているような３次元的な（立体的な）神
経細胞間の結合を実現することも可能である。

【００２３】なお、実際の使用に際しては、コイルを超
電導状態にするため、超電導体の臨界温度以下に素子を
冷却する必要がある。上述の超電導体を用いた場合には
素子全体を７７Ｋ程度まで冷却し、使用する必要があ
る。このように冷却した状態において、超電導体の実質
的な抵抗を０とすることができ、高いＱ値を得ることが
できる。

【００２４】図２は、超電導コイルを用いた共振回路の
共振特性を示すグラフである。以下、具体例をもとに、
従来の回路と比較しながら説明する。上述したように、
電子回路理論によれば、インダクタとキャパシタによる
共振回路においては、その共振の鋭さを表わすＱ値は次
の式で与えられる。 Ｑ＝（１／Ｒ）√（Ｌ／Ｃ） したがって、実抵抗分を小さくすればするほどＱ値が上
がり、共振は鋭くなる。

【００２５】比較例として、シリコン基板上にフォトリ
ソグラフィによる０．８μｍルールによるシリコントラ
ンジスタの微細加工技術を用いて、１００平方μｍ程度
の領域に超小型コイルを形成することを考える。いま、
１．３ＧＨｚの電波を受信するために、０．５ｐＨのコ
ンデンサを形成し、コイルとして偏平渦巻コイルを７回
ターンで形成する。この時のインダクタンスは２７ｎＨ
となる。配線材料としてアルミニウム（線幅１μｍ、膜
厚２００ｎｍ）を用いると、このコイルの抵抗は１９０
Ω程になる。そのため、Ｑ値は３．９４とかなり小さく
なる。この時の共振特性を図２に「Ａｌ薄膜配線を用い
た場合」として示している。さらにインダクタンスを１
００ｎＨ程度となるようなコイルを実現しようとする
と、コイルの配線抵抗が大きくなりすぎ、実用に耐えな
くなる。

【００２６】波長領域として０．３ＧＨｚから３ＧＨｚ
を用いるものとし、１００チャンネル以上を得るために
は、共振の幅△ｆは３ＭＨｚであり、このときＱ＞３５
０が要求される。これを実現するには、０．６Ω以下で
なければならない。したがって、配線による抵抗が上述
のように１９０Ωと大きい場合、数百チャンネルを達成
できるような十分高いＱ値を持つコイルは実現できな
い。

【００２７】しかし、ここでこのコイルの材料として、
本発明のように超電導材を用いてインダクタンスを形成
すれば、インダクタンスによる実抵抗は理想状態でほぼ
０Ωとなり、飛躍的に高いＱ値を得ることができ、図２
に「超電導体を用いた場合」として示したように、鋭い
ピークを有する共振特性を得ることができる。実際に
は、スルーホール、接触抵抗、キャパシタのリーク等に
よる実抵抗分が存在するため、実抵抗は０Ωにはならな
いが、０．１Ω以下には抑えられ、高いＱ値を得ること
ができる。

【００２８】上述のように超電導体薄膜シリコン基板上
にスパッタ、ＭＢＥ法などで堆積し、微細加工技術を用
いて、超小型平面型コイルやキャパシタを形成した本発
明の構成によれば、多くのニューロンに波長を割り当て
ることが可能となり、多くのニューロンを用いた非同期
のニューラルネットワークシステムが構築できる。例え
ば、周波数帯域を１００ＭＨｚから２ＧＨｚほどの広帯
域に設定すれば、数百から数千チャンネルにおよぶ割り
当てが可能になる。また、低抵抗のコイルを超小型に作
製することができるので、微小領域に多くの受信チャン
ネルを持ったニューロンを形成することが可能となる。

【００２９】コイル形成用の超電導材としては、上述し
た材料の他に、例えば、Ｎｂ₃ Ｓｎであってもよいし、
また、Ｂａ_1-X Ｋ_X ＢｉＯ₃ （ＢＫＢＯ）、ＹＢａ₂ Ｃ
ｕ₃Ｏ₇ 、（Ｂｉ，Ｐｂ）₂ Ｓｒ₂ Ｃａ₂ Ｃｕ₃ Ｏ₁₀な
どの酸化物高温超電導材であっても良い。これらの材料
については、例えば、第３９回（‘９２年春）応用物理
学関係連合講演界講演予稿集，Ｎｏ．１，２８ｐ−Ｙ−
２，２９ｐ−Ｖ−１１等を参照されたい。

【００３０】このように、無線ニューラルネットワーク
の受信回路、送信回路のコイル部に対し、超電導体を用
いることにより、Ｑ値を大きくして多数のニューロンに
それぞれ異なる波長を割り当てることが可能になるとと
もに、シリコン基板上に超小型の送受信回路を形成する
ことができる。これによって、ヒトの脳神経回路を擬似
的に模倣した超小型のニューラルネットワークシステム
を実現することが可能となる。

【００３１】このようなニューラルネットワークシステ
ムは、処理を多数のニューロンが並列して実施するの
で、例えば、画像処理、文字認識、音声認識、運動制御
等の各種の用途に用いることができ、これらの用途にお
いて情報処理を高速に実現することができる。

【００３２】

【発明の効果】以上の説明から明らかなように、本発明
によれば、多数のニューロンに対してそれぞれ異なる波
長を割り当てることが可能となり、また、超小型の共振
回路を作製することができるので、例えば、数百から数
千といったニューロン間の信号のやり取りが可能とな
り、大規模な電波によるニューラルネットワークを実現
することができるという効果がある。

【図面の簡単な説明】

【図１】 本発明のニューラルネットワークシステムの
一実施例に用いられる受信回路部の一例を示す構成図で
ある。

【図２】 超電導コイルを用いた共振回路の共振特性を
示すグラフである。

【図３】 マッカロウピッツモデルの説明図である。

【図４】 １個のニューロンの一例の構成図である。

【図５】 図４に示したニューロンを用いたニューラル
ネットワークシステムの一例を示す基本構成図である。

【図６】 電波を用いたニューラルネットワークシステ
ムの一具体例を示す構成図である。

【符号の説明】

１…コンデンサ、２…超電導コイル部、１１…受信回
路、１２…コイル、１３…コンデンサ、１４…送信回
路、２１，２２…ニューロン、２３…受信部、２４…増
幅部、２５…ニューロン的情報処理部、２６…送信部、
３１…入力層、３２…中間層、３３…出力層、３４…ニ
ューロン。

Claims (1)

【特許請求の範囲】
1. 【請求項１】 複数の入力部と、該複数の入力部に入力
   される入力信号の処理部と、該処理部からの出力信号を
   出力する１個または複数の出力部を有する素子を複数用
   いて構成され、ある素子の出力信号を複数の素子の入力
   信号として信号を伝達することにより信号処理を行なう
   回路を具備するニューラルネットワークシステムにおい
   て、各素子間の信号の授受を行なう前記出力部および前
   記入力部が送信回路および受信回路により構成し、該送
   信回路および該受信回路の共振回路部に超電導体を用
   い、電波を用いて前記素子間の信号の伝達を行なうこと
   を特徴とするニューラルネットワークシステム。