JP7620348B1 - シリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路 - Google Patents

シリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路 Download PDF

Info

Publication number
JP7620348B1
JP7620348B1 JP2023219824A JP2023219824A JP7620348B1 JP 7620348 B1 JP7620348 B1 JP 7620348B1 JP 2023219824 A JP2023219824 A JP 2023219824A JP 2023219824 A JP2023219824 A JP 2023219824A JP 7620348 B1 JP7620348 B1 JP 7620348B1
Authority
JP
Japan
Prior art keywords
neural network
input signal
weight
current
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023219824A
Other languages
English (en)
Other versions
JP2025035998A (ja
Inventor
相植 金
庚娥 趙
淵佑 申
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Korea University Research and Business Foundation
Original Assignee
Korea University Research and Business Foundation
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Korea University Research and Business Foundation filed Critical Korea University Research and Business Foundation
Application granted granted Critical
Publication of JP7620348B1 publication Critical patent/JP7620348B1/ja
Publication of JP2025035998A publication Critical patent/JP2025035998A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G06N3/065Analogue means
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10DINORGANIC ELECTRIC SEMICONDUCTOR DEVICES
    • H10D12/00Bipolar devices controlled by the field effect, e.g. insulated-gate bipolar transistors [IGBT]
    • H10D12/01Manufacture or treatment
    • H10D12/021Manufacture or treatment of gated diodes, e.g. field-controlled diodes [FCD]
    • HELECTRICITY
    • H10SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
    • H10DINORGANIC ELECTRIC SEMICONDUCTOR DEVICES
    • H10D12/00Bipolar devices controlled by the field effect, e.g. insulated-gate bipolar transistors [IGBT]
    • H10D12/211Gated diodes

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Semiconductor Memories (AREA)
  • Burglar Alarm Systems (AREA)
  • Radar Systems Or Details Thereof (AREA)

Abstract

【課題】自体的に活性化機能を行う自己活性二値化ニューラルネットワーク回路を提供する。
【解決手段】ニューラルネットワーク回路400は、アノード端子とゲート端子のそれぞれに印加される互いに異なる電圧に基づいてチャネル領域でポテンシャル障壁調節を通じて単方向スイッチングを具現し、陽性フィードバックループによってポテンシャル井戸に正孔又は電子が蓄積されることによってメモリ特性を具現する複数のシリコンゲーテッドダイオードを含み、複数のシリコンゲーテッドダイオードは、並列に連結したメモリアレイでシナプス素子401として動作し、メモリアレイに連結された入力ライン処理部から印加される入力信号及びメモリアレイに連結されたシナプスライン処理部から印加される加重値アップデート信号に基づいてMAC演算の結果を出力する。
【選択図】図4

Description

本発明は、シリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路に関し、より詳細には、陽性フィードバックループ(positive feedback loop)をベースにしてメモリとスイッチング機能を単一素子で行うシリコンゲーテッド(gated)ダイオードを用いて自体的に活性化機能を行う自己活性二値化ニューラルネットワーク具現技術に関する。
既存のフォン・ノイマン(von Neumann)ベースのコンピューターシステムは、プロセッサとメモリとが分離され、バスライン(bus line)を介してデータ信号に対する伝送が行われる。
しかし、コンピューティング性能の増加に伴い、プロセッサとメモリとの間のデータ処理速度の差によってボトルネック現象が発生するようになり、大容量データ処理において限界を表し始めた。
言い換えると、半導体産業の革命的な発展であるフォン・ノイマンベースのシステムは、現代のコンピューターの統合密度及び性能を向上させたが、プロセッサとメモリ階層構造との間の物理的な分離によって多くのエネルギーを消耗し、データ伝送及び待機時間が長くなるという短所を有する。
4次産業革命以来、5G通信標準、モノのインターネット(Internet Of Things、IoT)、人工知能(Artificial Intelligence、AI)などのデータ集約的なアプリケーションの増加を考慮したとき、新しいコンピューティングパラダイムは、大規模のデータ処理要求事項において必須である。
上述した問題を解決するために、演算と記憶機能とを融合したロジック・イン・メモリ(logic in memory、LIM)技術に対する研究が集中及び加速されている。
ロジック・イン・メモリ技術は、プロセッサの演算機能とメモリの記憶機能とを同一の空間で行うので、データ伝送時に発生する遅延時間及び電力消耗を減少させ、システムの集積度を大いに向上させることができる。
従来のロジック・イン・メモリ技術は、揮発性メモリ素子に該当するSRAM(static random access memory)、DRAM(dynamic RAM)と、不揮発性メモリ素子に該当するReRAM(resistive RAM)、MRAM(magnetoresistive RAM)、PCRAM(phase-change RAM)などをベースにして活発に研究されてきた。
大容量データ処理の限界を克服するために、ロジックメモリをワンチップ化したPOP(Package On Package)及びTSV(Through Silicon Via)技術が研究されているが、ロジックとメモリの機能がトランジスタで同時に行われないので、ボトルネック現象、消耗電力、演算効率及び集積度と関連した問題が依然として存在する。
また、不揮発性メモリ素子ベースのロジック・イン・メモリ技術の場合、非シリコン物質を使用するので複雑な工程過程が要求され、低い素子均一性及び安定性によって実用化されにくい。
また、既に研究されたロジック・イン・メモリ技術は、一つのセルで全ての基本CMOS(complementary metal-oxide semiconductor)論理演算を具現することができなく、論理演算によって個別的な回路及び配線が要求されるので低い集積度を有する。
したがって、CMOS工程への適用が可能であり、スイッチング機能とメモリ機能とを同時に行うシリコンゲーテッドダイオードを活用した二値化ニューラルネットワーク技術と、ニューロン回路の活性化機能をニューラルネットワークで自体的に行う自己活性ニューラルネットワーク技術の開発が必要な状況である。
韓国公開特許第10-2023-0053195号(シリコンダイオードを用いたステートフルロジック・イン・メモリ) 韓国公開特許第10-2022-0110774号(性能及び面積効率的なシナプスメモリセル構造) 韓国公開特許第10-2023-0020840号(シリコントランジスタを用いた可変型ロジック・イン・メモリ素子) 韓国公開特許第10-2022-0107808号(混成信号二値化ニューラルネットワーク回路装置)
本発明は、陽性フィードバックループをベースにしてメモリとスイッチング機能とを単一素子で行うシリコンゲーテッドダイオードを用いて自体的に活性化機能を行う自己活性二値化ニューラルネットワーク回路を具現することを目的とする。
本発明は、ポテンシャル障壁(potential wall)調節を通じて単方向スイッチング特性を有し、陽性フィードバックループによってポテンシャル井戸(potential well)に正孔又は電子が蓄積されることによってメモリ特性も有するシリコンゲーテッドダイオードの優れたメモリ特性と、入力信号による出力信号の線形性を通じた自体的な活性化機能とを有することによって、人工ニューラルネットワークの面積及び演算効率を増加できる自己活性二値化ニューラルネットワーク回路を具現することを目的とする。
本発明は、CMOS工程を活用可能であるので大規模アレイの製作が可能であり、シリコンゲーテッドダイオードとシナプティック素子(synaptic device)との特性偏差をほとんどなくし、人工ニューラルネットワークの演算正確度を増加させることを目的とする。
本発明は、陽性フィードバックループベースのシリコンゲーテッドダイオードで構成されたメモリアレイがニューロン回路の活性化機能を自体的に行い、均一性及び安定性に優れた二値化ニューラルネットワーク回路を具現することを目的とする。
本発明は、シリコンゲーテッドダイオードの優れたメモリ特性を用いて待機電力を減少させながら、優れたスイッチング特性を通じて低い消耗電力で演算効率を増加させ、次世代人工知能コンピューティング技術に活用できる二値化ニューラルネットワーク回路を具現することを目的とする。
本発明の一実施例に係る二値化ニューラルネットワーク回路においては、アノード(anode)端子とカソード(cathode)端子との間にダイオード構造体がチャネル領域として位置し、前記ダイオード構造体上にゲート(gate)端子が位置し、前記アノード端子と前記ゲート端子のそれぞれに印加される互いに異なる電圧に基づいて前記チャネル領域でポテンシャル障壁調節を通じて単方向スイッチングを具現し、陽性フィードバックループによって前記ポテンシャル井戸に正孔又は電子が蓄積されることによってメモリ特性を具現する複数のシリコンゲーテッドダイオードを含み、前記複数のシリコンゲーテッドダイオードは、並列に連結したメモリアレイでシナプス素子として動作し、前記メモリアレイに連結された入力ライン処理部から印加される入力信号、及び前記メモリアレイに連結されたシナプスライン処理部から印加される加重値アップデート信号に基づいてMAC(multiply-accumulate)演算の結果を出力することができる。
前記シリコンゲーテッドダイオードは、前記アノード端子のアノード電圧を前記入力信号として受け、前記印加される入力信号が正の方向に増加することに伴う前記陽性フィードバックループによるラッチアップ(latch-up)現象を発生させ、前記チャネル領域に対して二つのメモリ状態のうちいずれか一つのメモリ状態を有し、前記ゲート端子のゲート電圧を前記加重値アップデート信号として受けることによって前記ラッチアップ現象が発生する前記入力信号が調節され、前記入力信号と前記加重値アップデート信号の印加によって前記いずれか一つのメモリ状態と関連したシナプス状態がアップデートされ、前記シナプス加重値による前記MAC演算機能を行うことができる。
前記シリコンゲーテッドダイオードは、前記印加される入力信号が正の方向に増加することに伴う「0」から「1」までの連続的な入力と、前記二つのメモリ状態に該当する「0」の状態及び「1」の状態のうちいずれか一つの状態のシナプス加重値との間の積(multiply)演算を行い、「0」及び「1」のうちいずれか一つに該当する電流信号を演算の結果として出力することができる。
前記シリコンゲーテッドダイオードは、前記シナプス加重値が前記「1」の状態でアップデートされる上昇(potentiation)動作の場合は、前記印加される入力信号に比例して電流信号として演算の結果が出力され、前記シナプス加重値が前記「0」の状態でアップデートされる下降(depression)動作の場合は、前記印加される入力信号と関係なく、電流信号が0mAで出力され得る。
前記シリコンゲーテッドダイオードは、前記シナプス加重値が「1」の状態である場合、前記ゲート電圧と関係なく、前記カソード端子のカソード電流をReLU(rectified linear unit)関数のグラフの概形と類似する形態で出力することができる。
前記メモリアレイは、前記複数のシリコンゲーテッドダイオードで前記アノード端子、前記ゲート端子及び前記カソード端子を並列に連結することによってそれぞれ入力ライン、加重値ライン、及び出力ラインを形成し、前記入力ラインは、前記加重値ライン及び前記出力ラインと互いに垂直に配列され、前記加重値ラインと前記出力ラインは平行に配列され得る。
前記入力ラインは前記入力信号を受け、前記加重値ラインは前記加重値アップデート信号を受け、前記出力ラインは、前記入力信号及び前記加重値アップデート信号に基づいた前記MAC演算の結果を次の人工ニューラルネットワーク端に出力することができる。
前記メモリアレイは、前記複数のシリコンゲーテッドダイオードがN×Mの形態で連結され、前記入力ラインに印加される入力信号、及び前記加重値ラインに印加された加重値アップデート信号に基づいてアップデートされるシナプス加重値の積演算により、前記出力ラインを通じて各電流が加算されながら和演算を行い、前記MAC演算の結果をシナプス加重値行列として出力することができる。
前記メモリアレイは、前記N及び前記Mが「2」である場合、前記入力信号が第1入力信号及び第2入力信号で構成され、前記シナプス加重値が第1シナプス加重値乃至第4シナプス加重値で構成され、前記出力ラインに出力される第1電流及び第2電流で構成され、前記第1電流及び前記第2電流で構成される前記シナプス加重値行列が前記シナプス加重値と前記入力信号とのベクトル行列積演算の結果として演算され得る。
前記メモリアレイは、前記加重値アップデート信号が1Vに固定された状態で前記第1及び第2入力信号が全て印加されると、前記第1電流が前記第2電流の2倍の値を有し、その後、前記第1入力信号のみが印加される場合、前記第1電流と前記第2電流が同一の値を有することができる。
前記メモリアレイは、前記第2入力信号のみが印加される場合は、前記第1電流のみが前記第2入力信号に比例する値を有し、前記第1入力信号及び前記第2入力信号が印加されない場合は、前記第1電流及び前記第2電流が0mAに近似するように測定され得る。
前記シリコンゲーテッドダイオードは、シングル(single)シリコンゲーテッドダイオード、ダブル(double)シリコンゲーテッドダイオード及びトリプル(triple)シリコンゲーテッドダイオードのうちいずれか一つを含むことができる。
本発明は、陽性フィードバックループをベースにしてメモリとスイッチング機能とを単一素子で行うシリコンゲーテッドダイオードを用いて自体的に活性化機能を行う自己活性二値化ニューラルネットワーク回路を具現することができる。
本発明は、ポテンシャル障壁調節を通じて単方向スイッチング特性を有し、陽性フィードバックループによってポテンシャル井戸に正孔又は電子が蓄積されることによってメモリ特性も有するシリコンゲーテッドダイオードの優れたメモリ特性と、入力信号による出力信号の線形性を通じた自体的な活性化機能とを有することによって、人工ニューラルネットワークの面積及び演算効率を増加できる自己活性二値化ニューラルネットワーク回路を具現することができる。
本発明は、CMOS工程を活用可能であるので大規模アレイの製作が可能であり、シリコンゲーテッドダイオードとシナプティック素子との特性偏差がほとんどないので、人工ニューラルネットワークの演算正確度を増加させることができる。
本発明は、陽性フィードバックループベースのシリコンゲーテッドダイオードで構成されたメモリアレイがニューロン回路の活性化機能を自体的に行い、均一性及び安定性に優れた二値化ニューラルネットワーク回路を具現することができる。
本発明は、シリコンゲーテッドダイオードの優れたメモリ特性を用いて待機電力を減少させながら、優れたスイッチング特性を通じて低い消耗電力で演算効率を増加させ、次世代人工知能コンピューティング技術に活用できる二値化ニューラルネットワーク回路を具現することができる。
本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの構造及び回路記号を説明する図である。 本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの構造及び回路記号を説明する図である。 本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの構造及び回路記号を説明する図である。 本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの構造及び回路記号を説明する図である。 本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの電気的特性を説明する図である。 本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの電気的特性を説明する図である。 本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの電気的特性を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式での積演算を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式での積演算を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式での積演算を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式での積演算を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式でのMAC(multiply-accumulate)演算を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式でのMAC(multiply-accumulate)演算を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式でのMAC(multiply-accumulate)演算を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式でのMAC(multiply-accumulate)演算を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式でのMAC(multiply-accumulate)演算を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式でのMAC(multiply-accumulate)演算を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式でのMAC(multiply-accumulate)演算を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式でのMAC(multiply-accumulate)演算を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式でのMAC(multiply-accumulate)演算を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式でのMAC(multiply-accumulate)演算を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードの光学イメージを説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の演算作業を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の演算作業を説明する図である。 本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の演算作業を説明する図である。
以下では、本文書の多様な実施例が添付の図面を参照して記載される。
実施例及びこれに使用された各用語は、本文書に記載された技術を特定の実施形態に限定しようとするものではなく、該当の実施例の多様な変更、均等物、及び/又は代替物を含むものと理解しなければならない。
以下で多様な実施例を説明する際、関連した公知の機能又は構成に対する具体的な説明が発明の要旨を不明瞭にし得ると判断される場合は、それについての詳細な説明は省略する。
そして、後述する各用語は、多様な実施例での機能を考慮して定義されたものであって、これは、ユーザー及び運用者の意図又は慣例などによって変わり得る。そのため、各用語は、本明細書全般にわたった内容に基づいて定義されなければならない。
図面の説明と関連して、類似する構成要素に対しては類似する参照符号が使用され得る。
単数の表現は、文脈上、明らかに異なる意味を有さない限り、複数の表現を含むことができる。
本文書において、「A又はB」又は「A及び/又はBのうち少なくとも一つ」などの表現は、共に羅列した各項目の全ての可能な組み合わせを含むことができる。
「第1」、「第2」、「一番目」、又は「二番目」などの表現は、該当の構成要素を順序又は重要度と関係なく修飾することができ、一つの構成要素を他の構成要素と区分するために使用されるものに過ぎなく、該当の構成要素を限定するものではない。
いずれかの(例:第1)構成要素が他の(例:第2)構成要素に「(機能的に又は通信的に)連結されて」いたり、「接続されて」いると言及したとき、前記いずれかの構成要素は、前記他の構成要素に直接連結されたり、他の構成要素(例:第3構成要素)を介して連結され得る。
本明細書において、「~するように構成された(又は設定された)」は、状況に応じて、例えば、ハードウェア的又はソフトウェア的に「~に適した」、「~する能力を有する」、「~するように変更された」、「~するように作られた」、「~をすることができる」、又は「~するように設計された」と相互互換的に使用され得る。
いずれかの状況において、「~するように構成された装置」という表現は、その装置が他の装置又は部品と共に「~することができる」ことを意味し得る。
例えば、「A、B、及びCを行うように構成された(又は設定された)プロセッサ」という文句は、該当の動作を行うための専用プロセッサ(例:組み込みプロセッサ)、又はメモリ装置に記憶された一つ以上のソフトウェアプログラムを実行することによって、該当の動作を行える汎用プロセッサ(例:CPU又はアプリケーションプロセッサ)を意味し得る。
また、「又は」という用語は、排他的論理和「exclusive or」よりは、包含的論理和「inclusive or」を意味する。
すなわち、他の方式で言及しない限り、又は文脈から明確でない限り、「xがa又はbを用いる」という表現は、自然な包含的置換(natural inclusive permutations)のいずれか一つを意味する。
以下で使用される「…部」、「…機」などの用語は、少なくとも一つの機能や動作を処理する単位を意味し、これは、ハードウェアやソフトウェア、又は、ハードウェアとソフトウェアの結合で具現され得る。
図1a乃至図2bは、本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの構造及び回路記号を説明する図である。
図1a及び図1bは、本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシングルシリコンゲーテッドダイオードの構造及び回路記号を例示する。
図1aを参考にすると、本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオード100は、アノード端子101とカソード端子104との間のチャネル領域が第1チャネル領域102及び第2チャネル領域103で構成される。
第2チャネル領域103上にゲート絶縁膜105が位置し、ゲート絶縁膜105上にゲート端子106が位置する構造を有する。
本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの回路記号110は、アノード端子111とカソード端子113との間にチャネル領域112が位置し、これにゲート端子114が連結される。
図1bを参考にすると、本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオード120は、アノード端子121とカソード端子124との間のチャネル領域が第1チャネル領域122及び第2チャネル領域123で構成される。
第1チャネル領域122上にゲート絶縁膜125が位置し、ゲート絶縁膜125上にゲート端子126が位置する構造を有する。
本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの回路記号130は、アノード端子131とカソード端子133との間にチャネル領域132が位置し、これにゲート端子134が連結される。
本発明の一実施例によると、アノード端子111又はアノード端子131に入力ラインが連結され、カソード端子113又はカソード端子133に出力ラインが連結され、チャネル領域のメモリ状態は、シナプス加重値のアップデートによって決定される。
図2aは、本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するダブルシリコンゲーテッドダイオードの構造及び回路記号を例示する。
図2aを参考にすると、本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオード200は、アノード端子201とカソード端子203との間に真性領域202が位置し、真性領域202上にゲート絶縁膜204が位置し、ゲート絶縁膜204上に第1ゲート端子205及び第2ゲート端子206が位置する。
真性領域202は、第1ゲート端子205及び第2ゲート端子206のうちいずれか一つのゲート端子から入力されるゲート電圧に基づいてチャネル領域として動作する。
本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの回路記号210は、アノード端子211とカソード端子213との間に真性領域212が位置し、これに第1ゲート端子214及び第2ゲート端子215が連結される。
図2bは、本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するトリプルシリコンゲーテッドダイオードの構造及び回路記号を例示する。
図2bを参考にすると、本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオード220は、アノード端子221とカソード端子223との間に真性領域222が位置し、真性領域222上にゲート絶縁膜224が位置し、ゲート絶縁膜224上にプログラミングゲート端子225及びコントロールゲート端子226が位置する。
真性領域222は、プログラミングゲート端子225から入力されるゲート電圧に基づいてチャネル領域として動作する。
より具体的には、真性領域222は、真性領域222からプログラミングゲート端子225に入力されるプログラム電圧(VPG)のレベルがハイレベルである場合は、第1チャネル動作に該当するnチャネルとして動作し、プログラム電圧(VPG)のレベルがローレベルである場合は、第2チャネル動作に該当するpチャネルとして動作し得る。
シリコンゲーテッドダイオード220は、第1チャネル動作を行うとき、コントロールゲート端子226を介して入力されるコントロール電圧(VCG)のレベルがハイレベルである場合はオン状態であると決定され、コントロールゲート端子226を通じて印加されるコントロール電圧(VCG)のレベルがローレベルである場合はオフ状態であると決定され得る。
本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの回路記号230は、アノード端子231とカソード端子233との間に真性領域232が位置し、これにプログラミングゲート端子234及びコントロールゲート端子235が連結される。
例えば、アノード端子、ゲート端子及びカソード端子は、アノード電極、カソード電極及びゲート電極に取り替えられ、それぞれの端子が電極と称され得る。
すなわち、本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードは、シリコンチャネル上に単一ゲーテッド電極端子がn又はp型ドーピングされたチャネル領域上に蒸着したり、多数のゲーテッド電極端子が真性ドーピング領域上に蒸着した構造を有することができる。
また、シリコンゲーテッドダイオードは、ポテンシャルバリア(potential barrier)が陽性フィードバックループを誘導して動作し、スイッチングとメモリ特性を有するので二値化ニューラルネットワークのシナプス素子として構成され得る。
言い換えると、シリコンゲーテッドダイオードは、スイッチングとメモリ特性を有するので、ニューロン回路の活性化機能をニューラルネットワークで自体的に行う自己活性二値化ニューラルネットワーク回路を具現することができる。
したがって、本発明は、陽性フィードバックループをベースにしてメモリとスイッチング機能を単一素子で行うシリコンゲーテッドダイオードを用いて自体的に活性化機能を行う自己活性二値化ニューラルネットワーク回路を具現することができる。
図3a乃至図3cは、本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの電気的特性を説明する図である。
図3a乃至図3cは、本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの電気的特性を例示する。
図3aを参考にすると、本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの電気的特性と関連したグラフ300は、アノード端子に印加されるアノード電圧(VIN)によるカソード端子に出力されるカソード電流(IDiode)の変化を示す。
グラフ300は、二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードがアノード電圧(VIN)を正の方向に増加させると、陽性フィードバックループによるラッチアップ現象が発生し、二つの状態を有し得ることを示す。
また、シリコンゲーテッドダイオードのゲート電圧(V)によって、ラッチアップが発生するアノード電圧が変わる。
二値化ニューラルネットワーク回路は、このような単一素子の特性に基づいてアノード電圧とゲート電圧を印加し、シナプス加重値アップデート及びMAC(multiply-accumulate)演算機能を行うことができる。
ゲート電圧とは関係なく、「1」の状態の素子のカソード電流(IDiode)は、ReLU(rectified linear unit)関数のグラフの概形と類似し得る。
ReLU関数は、ほとんどの人工ニューラルネットワークアーキテクチャで使用するニューロン回路の活性化関数であり得る。
言い換えると、本発明の二値化ニューラルネットワークを構築するシリコンゲーテッドダイオードは、ゲート電圧と関係なく、出力電流が「1」のシナプス加重値状態でReLU関数の概形を有することによって、ニューロン回路を自己活性化する自己活性二値化ニューラルネットワーク回路を具現することができる。
単一シリコンゲーテッドダイオードの単方向性スイッチング又は自己整流特性及び高い線形性を通じて、二値化ニューラルネットワークが自体的に活性化機能を行う自己活性二値化ニューラルネットワークを具現することができる。
図3bを参考にすると、本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの電気的特性と関連したグラフ310は、アノード端子に印加されるアノード電圧(VIN)によるカソード端子に出力されるカソード電流(IDiode)の変化と関連してシリコンゲーテッドダイオードのゲート電圧(V)が0Vである場合を示す。
図3cを参考にすると、本発明の一実施例に係る二値化ニューラルネットワーク回路を構成するシリコンゲーテッドダイオードの電気的特性と関連したグラフ320は、アノード端子に印加されるアノード電圧(VIN)によるカソード端子に出力されるカソード電流(IDiode)の変化と関連してシリコンゲーテッドダイオードのゲート電圧(V)が1Vである場合を示す。
アノード電圧(VIN)が0Vである場合は、待機(Standby)状態に該当し得る。
グラフ320は、BNN(Bayesian Neural Network)作動条件を示し、アノード電圧(VIN)が増加することに伴い、ゲート電圧(V)が2.5V程度で1Vである場合、カソード電流(IDiode)が急激に増加することを示す。
グラフ320は、アノード電圧(VIN)が減少することに伴い、陽性フィードバックループが1V程度で除去されることを示す。
双安定特性は、カソード電流(IDiode)対アノード電圧(VIN)として表示され、状態1と0における電流の大きさの高い比率は約10であり得る。
2Vのアノード電圧(VIN)に対して、ゲート電圧(V)が1Vである場合、ユニポーラスイッチング特性でp-nダイオードの電気的特性を継承する。
ゲート電圧(V)とは関係なく、状態1のカソード電流(IDiode)対アノード電圧(VIN)に対する曲線形状は、ニューラルネットワークの活性化関数に使用される整流された線形単位関数の形状と類似する。
状態1と状態0の変化によるカソード電流(IDiode)の差は、MAC演算に使用され得る。
図4は、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路を説明する図である。
図4は、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路を例示する。
図4を参考にすると、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路400において、アノード端子とカソード端子との間のダイオード構造体がチャネル領域として位置し、ダイオード構造体上にゲート端子が位置し、アノード端子とゲート端子のそれぞれに印加される互いに異なる電圧に基づいてチャネル領域でポテンシャル障壁調節を通じて単方向スイッチングを具現し、陽性フィードバックループによってポテンシャル井戸に正孔又は電子が蓄積されることによってメモリ特性を具現する複数のシリコンゲーテッドダイオードを含むことができる。
例えば、シリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路400は、シナプス加重値の二値化によって計算時間及び電力消耗を減少させた人工ニューラルネットワークであり得る。
したがって、本発明は、ポテンシャル障壁調節を通じて単方向スイッチング特性を有し、陽性フィードバックループによってポテンシャル井戸に正孔又は電子が蓄積されることによってメモリ特性も有するシリコンゲーテッドダイオードの優れたメモリ特性と、入力信号による出力信号の線形性を通じた自体的な活性化機能とを有することによって、人工ニューラルネットワークの面積及び演算効率を増加できる自己活性二値化ニューラルネットワーク回路を具現することができる。
複数のシリコンゲーテッドダイオードは、並列に連結したメモリアレイでシナプス素子401として動作し、メモリアレイに連結された入力ライン処理部402から印加される入力信号、及びメモリアレイに連結されたシナプスライン処理部403から印加される加重値アップデート信号に基づいてMAC(multiply-accumulate)演算の結果を出力することができる。
二値化ニューラルネットワーク回路400としてのメモリアレイにおいて、複数のシリコンゲーテッドダイオードでアノード端子、ゲート端子及びカソード端子を並列に連結することによってそれぞれ入力ライン(IL)、加重値ライン(WL)及び出力ライン(OL)を形成し、入力ライン(IL)は、加重値ライン(WL)及び出力ライン(OL)と互いに垂直に配列され、加重値ライン(WL)と出力ライン(OL)は平行に配列され得る。
アノード端子は入力ライン(IL)と連結され、ゲート端子は加重値ライン(WL)と連結され、カソード端子は出力ライン(OL)と連結される。
ゲート端子及びカソード端子は、それぞれ加重値ライン(WL)及び出力ライン(OL)を形成することができる。
例えば、メモリアレイにおいて、複数のシリコンゲーテッドダイオードがなす行の数であるMによって第1加重値ライン(WL)乃至第M加重値ライン(WL)で構成され、第1出力ライン(OL)乃至第M出力ライン(OL)で構成され得る。
列に該当する入力ライン(IL)と行に該当する出力ライン(OL)の個数は、互いに同一又は異なり得る。
ただし、加重値ライン(WL)と出力ライン(OL)は、同一の個数(M)を有さなければならない。
例えば、行と列を構成する素子の個数は入出力の個数だけ構成され得るので、NとMは、同一又は互いに異なる数であり得る。
例えば、メモリアレイにおいて、複数のシリコンゲーテッドダイオードがなす列の数であるNによって第1入力ライン(IL)乃至第N入力ライン(IL)で構成され得る。
シリコンゲーテッドダイオードは、アノード端子のアノード電圧を入力信号として受け、印加される入力信号が正の方向に増加することに伴う陽性フィードバックループによるラッチアップ現象を発生させる。
シリコンゲーテッドダイオードは、チャネル領域に対して二つのメモリ状態のうちいずれか一つのメモリ状態を有し、ゲート端子のゲート電圧を加重値アップデート信号として受けることによって、ラッチアップ現象が発生する入力信号が調節され得る。
また、シリコンゲーテッドダイオードは、入力信号と加重値アップデート信号の印加によっていずれか一つのメモリ状態と関連したシナプス状態がアップデートされ、シナプス加重値によるMAC演算機能を行うことができる。
一例として、シリコンゲーテッドダイオードは、印加される入力信号が正の方向に増加することに伴う「0」から「1」までの連続的な入力と、二つのメモリ状態に該当する「0」の状態及び「1」の状態のうちいずれか一つの状態のシナプス加重値との間の積演算を行い、「0」及び「1」のうちいずれか一つに該当する電流信号を演算の結果として出力することができる。
図5a乃至図6bは、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式での積演算を説明する図である。
図5aは、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式での積演算を例示する。
図5aを参考にすると、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式は、第1ケース500と第2ケース501とに区分し、入力信号とシナプス加重値との間のMAC演算を行う。
したがって、二値化ニューラルネットワーク回路は、連続的な多くの層のニューラルネットワークを通じてイメージ認識などの人工知能機能を具現することができる。
入力ラインと加重値ラインの入力電圧を通じてシナプス加重値をアップデートすることができる。
入力ラインを介して印加される入力信号(VIN)は、連続的な値を有することができ、これは、二値化ニューラルネットワークでの0から1の連続的な入力(A)を意味し得る。
出力に該当する電流信号(IOUT)は、OLを通じて読み取ることができ、このとき、入力(A)は、シリコンゲーテッドダイオードの自己活性化特性によって入力信号(VIN)に対するReLU関数の形態を有することができる。
第1ケース500と第2ケース501に該当する演算は、下記の表1のようにまとめることができる。
シリコンゲーテッドダイオードは、「1」の状態及び「0」の状態の二つのメモリ状態を有し、それぞれ二値化されたシナプス加重値(W(0、1))を意味し得る。
第1ケース500において、シナプス加重値(W)が0である場合、これは、シリコンゲーテッドダイオードがオフになった状態(「0」状態)であるので、印加される入力信号(VIN)とは関係なく、出力電流(IOUT)が非常に低いレベルで流れる。
0~1のアノード電圧(A)と関連して、基準電圧以下の電圧は0に該当し、基準電圧より大きい電圧は1に該当する。
例えば、基準電圧が1Vである場合、1V以上の電圧は1に該当し得る。
一方、出力において、0~1の基準電流より大きい電流は1として出力され、基準電流より小さい電流は0として出力される。
これは、二値化ニューラルネットワークのMAC演算において、アノード電圧とシナプス加重値との積演算の結果が、入力信号と関係なく常に0であることを意味し得る。
第2ケース501において、シナプス加重値(W)が1である場合、これは、シリコンゲーテッドダイオードがオンになった状態(「1」状態)であるので、出力電流(IOUT)が印加される入力信号(VIN)に比例して線形的に変化し得る。
これは、二値化ニューラルネットワークのMAC演算において、アノード電圧とシナプス加重値との積演算の結果が入力に比例し得ることを意味する。
本発明の一実施例によると、シリコンゲーテッドダイオードは、印加される入力信号が正の方向に増加することに伴う「0」から「1」までの連続的な入力と、二つのメモリ状態に該当する「0」の状態及び「1」の状態のうちいずれか一つの状態のシナプス加重値との間の積演算を行い、「0」及び「1」のうちいずれか一つに該当する電流信号を演算の結果として出力することができる。
ここで、正の方向に増減することに伴う「0」から「1」までの入力と関連して、基準電圧以下の電圧は「0」に該当し、基準電圧より大きい電圧は「1」に該当する。
例えば、基準電圧が1Vである場合、1V以上の電圧は「1」に該当し得る。
図5bは、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式でのシリコンゲーテッドダイオードの状態変化によるエネルギーバンドダイヤグラムを例示する。
図5bを参考にすると、第1エネルギーバンドダイヤグラム510は、シリコンゲーテッドダイオードの状態が「0」であることを示し、第2エネルギーバンドダイヤグラム511は、シリコンゲーテッドダイオードの状態が「1」であることを示すことができる。
第1エネルギーバンドダイヤグラム510による状態「0」において、過度な電荷キャリアがエネルギーバンドダイヤグラムのn及びpドーピング領域のポテンシャル井戸にないので、ダイオード電流(IDiode)がダイオードに流れることを防止する。
対照的に、第2エネルギーバンドダイヤグラム511による状態「1」において、過度な電荷キャリアがエネルギーバンドダイヤグラムのn及びpドーピング領域のポテンシャル井戸に蓄積され、ダイオード電流がダイオードに流れるようになる。
ポテンシャル障壁を変調すると、ダイオードが双安定特性を示すことができる。
0Vの加重値電圧0Vは、上昇及び下降動作を行うときに印加され、1Vの加重値電圧は、待機及び積算(multiplication)動作を行うときに印加される。
状態「0」と状態「1」のコンダクタンスは、上昇又は下降動作によってポテンシャル井戸内に電荷が存在したり、又は存在しないことによって変わる素子のコンダクタンスであり得る。
図6aは、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式での積演算のタイミング図を例示する。
図6aを参考にすると、タイミング図600は、加重値「1」のアップデート後に該当する上昇区間601を示すことができ、連続的な入力信号(VIN)パルスに比例して出力電流(IOUT)が測定された一方で、加重値「0」のアップデート後に該当する下降区間602を示すことができ、入力信号(VIN)とは関係なく、0mAの低い出力電流(IOUT)が測定され得る。
本発明の一実施例によると、シリコンゲーテッドダイオードは、シナプス加重値が「1」の状態でアップデートされる上昇動作の場合は、印加される入力信号に比例して電流信号として演算の結果が出力され、シナプス加重値が「0」の状態でアップデートされる下降動作の場合は、印加される入力信号と関係なく、電流信号が0mAで出力され得る。
シリコンゲーテッドダイオードは、シナプス加重値が「1」の状態である場合、ゲート電圧とは関係なく、カソード端子のカソード電流をReLU(rectified linear unit)関数のグラフの概形と類似する形態で出力することができる。
タイミング図600の動作方法でシナプス加重値(W)を1にアップデートするために、アノード端子に加えられる入力電圧(VIN)=2Vと、ゲート端子に加えられるシナプス加重値電圧(V)=0Vの電圧パルスを印加する。
その後、1.1Vから2.0Vまでの連続的なVINに比例して、0mA~7.4mAの連続的なIOUTが測定され得る。
シナプス加重値(W)を0にアップデートするために、VIN=2VとV=0Vの電圧パルスを印加することができる。
このとき、同一の入力電圧(V)とは関係なく、0mAに近接した非常に低いレベルの出力電流が測定され得る。
これを通じて、単一シナプス素子が、優れた線形性に基づいて積演算を行うことが分かる。
図6bを参考にすると、グラフ610において、シリコンゲーテッドダイオードは、入出力間の優れた線形関係を示しながら積演算を行うことができる。
グラフ610は、実験結果611及び直線フィッティング612を示す。
したがって、本発明は、CMOS工程を活用可能であるので大規模アレイの製作が可能であり、シリコンゲーテッドダイオードとシナプティック素子との特性偏差がほとんどないので、人工ニューラルネットワークの演算正確度を増加させることができる。
従来技術の次世代メモリであるReRAM及びMRAMなどを用いた技術では、CMOS工程を適用不可能であり、素子の均一性及び安定性が低下し、複雑な工程過程によって実用化されにくいという短所が存在する。
従来の人工ニューラルネットワーク技術では、活性化機能を通じて多くのニューラルネットワーク層を連結するが、これを具現するためには複雑な付加的なニューロン回路が必要であり、これは、人工ニューラルネットワークの面積及びエネルギー効率を悪化させ得る。
しかし、本発明は、シリコンゲーテッドダイオードの優れたメモリ特性を用いて待機電力を減少させながら、優れたスイッチング特性を通じて低い消耗電力で演算効率を増加させ、次世代人工知能コンピュータ技術に活用できる二値化ニューラルネットワーク回路を具現することができる。
図7a乃至図8bは、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式でのMAC(multiply-accumulate)演算を説明する図である。
図7a及び図7bは、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式でのMAC演算と関連して、4×1の形態で連結されたシリコンゲーテッドダイオードで構成されたメモリアレイを使用した場合を例示する。
図7aを参考にすると、本発明の一実施例に係る二値化ニューラルネットワーク回路に該当するメモリアレイ700において、出力電流には、共通した出力ライン(OL)を介して出力電流(IOUT)に電流加算(current summation)が行われ、和(accumulate)演算が行われる。
図7bを参考にすると、本発明の一実施例に係る二値化ニューラルネットワーク回路に該当するタイミング図710において、入力ラインの入力電圧(VIN1乃至VIN4)を1.1Vから段階ごとに0.1Vずつ2Vまで増加させる。
タイミング図710は、各ダイオードからの出力電流に対して、共通した出力ライン(OL)を介して出力電流(IOUT)に電流加算が行われ、和演算が行われた結果を示す。
図8a及び図8bは、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の動作方式でのMAC演算と関連した行列MAC演算を例示する。
図8aは、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路800と、二値化ニューラルネットワーク回路の演算によるシナプス加重値行列801とを開示する。
図8bは、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路800と、二値化ニューラルネットワーク回路の演算と関連したタイミング図810とを例示する。
二値化ニューラルネットワークのMAC演算は、2×2の形態で連結されたシリコンゲーテッドダイオードアレイを二値化ニューラルネットワーク回路800として使用する。
二値化ニューラルネットワーク回路800と関連したメモリアレイは、複数のシリコンゲーテッドダイオードがN×Nの形態で連結され、入力ラインに印加される入力信号、及び加重値ラインに印加された加重値アップデート信号に基づいてアップデートされるシナプス加重値の積演算により、出力ラインを通じて各電流が加算されながら和演算を行い、MAC演算の結果をシナプス加重値行列として出力することができる。
また、メモリアレイにおいて、Nが「2」である場合、入力信号が第1入力信号及び第2入力信号で構成され、シナプス加重値が第1シナプス加重値乃至第4シナプス加重値で構成され、出力ラインに出力される第1電流及び第2電流で構成され、第1電流及び第2電流で構成されるシナプス加重値行列がシナプス加重値と入力信号とのベクトル行列積演算の結果として演算され得る。
シリコンゲーテッドダイオードは、各入力信号(VIN1、VIN2)とシナプス加重値(W11、W12、W21、W22)との積演算を行い、共通した第1出力ライン(OL)及び第2出力ライン(OL)を通じて各出力電流(IOUT1、IOUT2)が加算されながら和演算を行うことができる。
すなわち、数学的には、前記2×2アレイは、ベクトル-行列積演算
を行うことができ、シナプス加重値行列801が
であることを例示する。
二値化ニューラルネットワーク回路800において、各素子のシナプス加重値をアップデートした後、Vは1Vに固定した状態でVIN1とVIN2を全て印加すると、IOUT1が正確にIOUT2の2倍の値を有し、その後、VIN1のみを印加したときは、IOUT1とIOUT2が同一の値を有することができる。
その反対に、VIN2のみを印加したときは、IOUT1のみが入力信号に比例する値を有することができる。
最後に、全ての入力信号を印加していないときは、IOUT1とIOUT2が全て低いレベルで測定され得る。
このような結果は、入力ベクトルとシナプス加重値行列との間の積演算と一致する。
二値化ニューラルネットワーク回路800を介して2×2の形態で連結されたシリコンゲーテッドダイオードアレイは、自己活性二値化ニューラルネットワークのMAC演算を具現できることを示す。
二値化ニューラルネットワーク回路800を2×2の形態で説明するが、N×Mの形態に拡張可能である。
第1区域811でのタイミング図810は、Vを1Vに固定した状態でVIN1とVIN2を全て印加すると、IOUT1が正確にIOUT2の2倍の値を有することを示す。
第2区域812は、VIN1のみを印加したとき、IOUT1とIOUT2が同一の値を有し得ることを示す。
第3区域813は、VIN2のみを印加したとき、IOUT1のみが入力信号に比例する値を有し得ることを示す。
第4区域814は、全ての入力信号を印加していないとき、IOUT1とIOUT2が全て低いレベルで測定され得ることを示す。
すなわち、二値化ニューラルネットワーク回路800と関連したメモリアレイにおいて、加重値アップデート信号が1Vに固定された状態で第1及び第2入力信号が全て印加される場合は、第1電流が第2電流の2倍の値を有し、その後、第1入力信号のみが印加される場合は、第1電流と第2電流が同一の値を有することができる。
また、メモリアレイにおいて、第2入力信号のみが印加される場合は、第1電流のみが第2入力信号に比例する値を有し、第1入力信号及び第2入力信号が印加されない場合は、第1電流及び前記第2電流が0mAに近似するように測定され得る。
したがって、本発明は、陽性フィードバックループベースのシリコンゲーテッドダイオードで構成されたメモリアレイがニューロン回路の活性化機能を自体的に行い、均一性及び安定性に優れた二値化ニューラルネットワーク回路を具現することができる。
図9a乃至図9fは、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の加重値アップデートによるMAC行列演算を行った結果を例示するタイミング図である。
図9a乃至図9fに示したタイミング図の行列演算は、それぞれのタイミング図上にある行列式を意味する。
全ての行列演算時、加重値電圧は1Vに固定され、入力電圧は、0V或いは1Vと2Vとの間の値を有することができる。
全ての行列式で
が共通的に含まれ、これは、図7bにあるVINパルスがVIN1とVIN2に印加されることを示す。
すなわち、入力「1」と「2」を全て「1」に固定した状態で2×2アレイ素子の加重値が変わることによって、演算の結果が行列式に符合する結果を導出することを示す。
図9aは、MAC行列演算のうち、第1出力電流(IOUT1)が「0」として測定され、第2出力電流(IOUT2)が「0」として測定される場合に該当するタイミング図900を示す。
タイミング図900による行列演算は、タイミング図900上の行列演算と同一であり得る。
行列演算動作時、加重値電圧は1Vで、入力電圧は、0V又は1Vと2Vとの間の値を有することができる。
その後、図11cは、行列演算動作を行う場合を例示する。
図9bは、MAC行列演算のうち、第1出力電流(IOUT1)による値は「1」として測定され、第2出力電流(IOUT2)による値は「0」として測定される場合に該当するタイミング図910を示す。
タイミング図910による行列演算は、タイミング図910上の行列演算と同一であり得る。
図9cは、MAC行列演算のうち、第1出力電流(IOUT1)による値は「1」として測定され、第2出力電流(IOUT2)による値は「1」として測定される場合に該当するタイミング図920を示す。
タイミング図920による行列演算は、タイミング図920上の行列演算と同一であり得る。
図9dは、MAC行列演算のうち、第1出力電流(IOUT1)による値は「2」として測定され、第2出力電流(IOUT2)による値は「0」として測定される場合に該当するタイミング図930を示す。
タイミング図930による行列演算は、タイミング図930上の行列演算と同一であり得る。
図9eは、MAC行列演算のうち、第1出力電流(IOUT1)による値は「2」として測定され、第2出力電流(IOUT2)による値は「1」として測定される場合に該当するタイミング図940を示す。
タイミング図940による行列演算は、タイミング図940上の行列演算と同一であり得る。
図9fは、MAC行列演算のうち、第1出力電流(IOUT1)による値は「2」として測定され、第2出力電流(IOUT2)による値は「2」として測定される場合に該当するタイミング図950を示す。
タイミング図950による行列演算は、タイミング図950上の行列演算と同一であり得る。
上述した行列演算は、下記の数式1のようにまとめることができる。
数式1において、Wは、二値化された加重値(コンダクタンス)を示すことができ、INは、入力信号(電圧)を示すことができ、OUTは、行列演算による出力信号(電流)を示すことができる。
タイミング図900乃至タイミング図950によると、第1出力電流(IOUT1)及び第2出力電流(IOUT2)による出力電流は、7.5mAであると「1」、15mAであると「2」、7.5mA未満であると「0」の場合を例示する。
ただし、上述した例示によって、7.5mAが出力「1」を意味するものに限定されることはない。入力電圧とは関係なく、出力電流が0mAであるときは出力「0」を意味し、これと異なり、入力電圧によって出力電流が一定のレベルで測定されるときは出力「1」を意味し得る。
このような比例関係は図6bを通じて確認することができ、出力「1」は、素子1個に該当するときであり、タイミング図950において、出力電流は、入力電圧に比べて素子1個の電流の2倍になるので出力「2」を意味し得る。
シリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路は、各加重値に対して行列MAC演算を行い、このとき、行列MAC演算の出力は、シリコンゲーテッドダイオードの高い均一性によって単純化されたVMM(vector-matrix multiplication)方程式との高い一致性を有する。
図10は、本発明の一実施例に係るシリコンゲーテッドダイオードの光学イメージを説明する図である。
図10は、本発明の一実施例に係るシリコンゲーテッドダイオードの光学イメージを例示する。
図10を参考にすると、イメージ1010は、イメージ1000の一部分を拡大して表示する。
例えば、イメージ1000及びイメージ1010は、BNNの二値化された加重値とアナログ入力との間の行列MAC演算を行うためのシリコンゲーテッドダイオードの光学イメージであり得る。
図11a乃至図11cは、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の演算作業を説明する図である。
図11aは、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の演算作業での加重値アップデートを例示する。
図11aを参考にすると、加重値アップデート動作1100において、二値化された加重値(W)行列はVIN(2.0又は-2.0V)で、V=0.0Vであるアレイから選ばれたシリコンゲーテッドダイオードは、2.0V(-2.0V)のVINで上昇(又は下降)した。
図11bは、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の演算作業での待機状態を例示する。
図11bを参考にすると、待機動作1110において、全ての加重値ラインに1Vが印加され、全ての入力ラインに0Vが発生する。
シリコンゲーテッドダイオードは、非常に低い出力電流(IDiode)でメモリ状態を維持する。
図11cは、本発明の一実施例に係るシリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路の演算作業での積算演算を例示する。
図11cを参考にすると、積算演算動作1120において、アレイから選ばれたダイオードは、V=1.0V及びVIN=0.0V又はVIN=1.1V~2.0Vであり得る。
入力電圧と二値化された加重値との積のIOUTは、出力電流(IDiode)の和から得ることができる。
上述した具体的な各実施例において、発明に含まれる構成要素は、提示された具体的な実施例によって単数又は複数で表現された。
しかし、単数又は複数の表現は、説明の便宜のために提示した状況に合わせて選ばれたものであって、上述した各実施例は、単数又は複数の構成要素に制限されるものではなく、複数で表現された構成要素であっても単数で構成され、単数で表現された構成要素であっても複数で構成され得る。
一方、発明の説明では、具体的な実施例について説明したが、多様な実施例が内包する技術的思想の範囲から逸脱しない限度内で様々な変形が可能であることは当然である。
そのため、本発明の範囲は、説明した実施例に限定して定めてはならなく、後述する特許請求の範囲のみならず、この特許請求の範囲と均等なものによって定めなければならない。
100 シリコンゲーテッドダイオード
101 アノード端子
102 第1チャネル領域
103 第2チャネル領域
104 カソード端子
105 ゲート絶縁膜
106 ゲート端子

Claims (11)

  1. アノード端子とカソード端子との間にダイオード構造体がチャネル領域として位置し、前記ダイオード構造体上にゲート端子が位置し、前記アノード端子と前記ゲート端子のそれぞれに印加される互いに異なる電圧に基づいて前記チャネル領域でポテンシャル障壁調節を通じて単方向スイッチングを具現し、陽性フィードバックループによってポテンシャル井戸に正孔又は電子が蓄積されることによってメモリ特性を具現する複数のシリコンゲーテッドダイオードを含み、
    前記複数のシリコンゲーテッドダイオードは、並列に連結したメモリアレイでシナプス素子として動作し、前記メモリアレイに連結された入力ライン処理部から印加される入力信号、及び前記メモリアレイに連結されたシナプスライン処理部から印加される加重値アップデート信号に基づいてMAC(multiply-accumulate)演算の結果を出力し、および、
    前記複数のシリコンゲーテッドダイオードは、前記アノード端子のアノード電圧を前記入力信号として受け、前記印加される入力信号が正の方向に増加することに伴う前記陽性フィードバックループによるラッチアップ現象を発生させ、前記チャネル領域に対して二つのメモリ状態のうちいずれか一つのメモリ状態を有し、前記ゲート端子のゲート電圧を前記加重値アップデート信号として受けることによって前記ラッチアップ現象が発生する前記入力信号が調節され、前記入力信号と前記加重値アップデート信号の印加によって前記いずれか一つのメモリ状態と関連したシナプス状態がアップデートされ、アップデートされたシナプス加重値による前記MAC演算を行う、ことを特徴とする、二値化ニューラルネットワーク回路。
  2. 前記シリコンゲーテッドダイオードは、前記印加される入力信号が正の方向に増加することに伴う「0」から「1」までの連続的な入力と、前記二つのメモリ状態に該当する「0」の状態及び「1」の状態のうちいずれか一つの状態のシナプス加重値との間の積演算を行い、「0」及び「1」のうちいずれか一つに該当する電流信号を演算の結果として出力することを特徴とする、請求項に記載の二値化ニューラルネットワーク回路。
  3. 前記シリコンゲーテッドダイオードは、前記シナプス加重値が前記「1」の状態でアップデートされる上昇動作の場合は、前記印加される入力信号に比例して電流信号として演算の結果が出力され、前記シナプス加重値が前記「0」の状態でアップデートされる下降動作の場合は、前記印加される入力信号とは関係なく、電流信号が0mAで出力されることを特徴とする、請求項に記載の二値化ニューラルネットワーク回路。
  4. 前記シリコンゲーテッドダイオードは、前記シナプス加重値が「1」である状態の場合、前記ゲート電圧とは関係なく、前記カソード端子のカソード電流をReLU(rectified linear unit)関数のグラフの概形と類似する形態で出力することを特徴とする、請求項に記載の二値化ニューラルネットワーク回路。
  5. 前記メモリアレイは、前記複数のシリコンゲーテッドダイオードで前記アノード端子、前記ゲート端子及び前記カソード端子を並列に連結することによってそれぞれ入力ライン、加重値ライン及び出力ラインを形成し、
    前記入力ラインは、前記加重値ライン及び前記出力ラインと互いに垂直に配列され、
    前記加重値ラインと前記出力ラインは平行に配列されることを特徴とする、請求項1に記載の二値化ニューラルネットワーク回路。
  6. 前記入力ラインは前記入力信号を受け、
    前記加重値ラインは前記加重値アップデート信号を受け、
    前記出力ラインは、前記入力信号及び前記加重値アップデート信号に基づいた前記MAC演算の結果を次の人工ニューラルネットワーク端に出力することを特徴とする、請求項に記載の二値化ニューラルネットワーク回路。
  7. 前記メモリアレイは、前記複数のシリコンゲーテッドダイオードがN×Mの形態で連結され、前記入力ラインに印加される入力信号、及び前記加重値ラインに印加された加重値アップデート信号に基づいてアップデートされるシナプス加重値の積演算により、前記出力ラインを通じて各電流が加算されながら和演算を行い、前記MAC演算の結果をシナプス加重値行列として出力することを特徴とする、請求項に記載の二値化ニューラルネットワーク回路。
  8. 前記メモリアレイは、前記N及び前記Mが「2」である場合、前記入力信号が第1入力信号及び第2入力信号で構成され、前記シナプス加重値が第1シナプス加重値乃至第4シナプス加重値で構成され、前記出力ラインに出力される第1電流及び第2電流で構成され、前記第1電流及び前記第2電流で構成される前記シナプス加重値行列は、前記シナプス加重値と前記入力信号とのベクトル行列積演算の結果として演算されることを特徴とする、請求項に記載の二値化ニューラルネットワーク回路。
  9. アノード端子とカソード端子との間にダイオード構造体がチャネル領域として位置し、前記ダイオード構造体上にゲート端子が位置し、前記アノード端子と前記ゲート端子のそれぞれに印加される互いに異なる電圧に基づいて前記チャネル領域でポテンシャル障壁調節を通じて単方向スイッチングを具現し、陽性フィードバックループによってポテンシャル井戸に正孔又は電子が蓄積されることによってメモリ特性を具現する複数のシリコンゲーテッドダイオードを含み、
    前記複数のシリコンゲーテッドダイオードは、並列に連結したメモリアレイでシナプス素子として動作し、前記メモリアレイに連結された入力ライン処理部から印加される入力信号、及び前記メモリアレイに連結されたシナプスライン処理部から印加される加重値アップデート信号に基づいてMAC(multiply-accumulate)演算の結果を出力し、
    前記メモリアレイは、前記複数のシリコンゲーテッドダイオードで前記アノード端子、前記ゲート端子及び前記カソード端子を並列に連結することによってそれぞれ入力ライン、加重値ライン及び出力ラインを形成し、
    前記入力ラインは、前記加重値ライン及び前記出力ラインと互いに垂直に配列され、
    前記加重値ラインと前記出力ラインは平行に配列され、
    前記入力ラインは前記入力信号を受け、
    前記加重値ラインは前記加重値アップデート信号を受け、
    前記出力ラインは、前記入力信号及び前記加重値アップデート信号に基づいた前記MAC演算の結果を次の人工ニューラルネットワーク端に出力し、
    前記メモリアレイは、前記複数のシリコンゲーテッドダイオードがN×Mの形態で連結され、前記入力ラインに印加される入力信号、及び前記加重値ラインに印加された加重値アップデート信号に基づいてアップデートされるシナプス加重値の積演算により、前記出力ラインを通じて各電流が加算されながら和演算を行い、前記MAC演算の結果をシナプス加重値行列として出力し、
    前記メモリアレイは、前記N及び前記Mが「2」である場合、前記入力信号が第1入力信号及び第2入力信号で構成され、前記シナプス加重値が第1シナプス加重値乃至第4シナプス加重値で構成され、前記出力ラインに出力される第1電流及び第2電流で構成され、前記第1電流及び前記第2電流で構成される前記シナプス加重値行列は、前記シナプス加重値と前記入力信号とのベクトル行列積演算の結果として演算され、および、
    前記メモリアレイは、前記加重値アップデート信号が1Vに固定された状態で前記第1及び第2入力信号が全て印加される場合は、前記第1電流が前記第2電流の2倍の値を有し、その後、前記第1入力信号のみが印加される場合は、前記第1電流と前記第2電流が同一の値を有することを特徴とする、二値化ニューラルネットワーク回路。
  10. 前記メモリアレイは、前記第2入力信号のみが印加される場合は、前記第1電流のみが前記第2入力信号に比例する値を有し、前記第1入力信号及び前記第2入力信号が印加されない場合は、前記第1電流及び前記第2電流が0mAに近似するように測定されることを特徴とする、請求項に記載の二値化ニューラルネットワーク回路。
  11. 前記シリコンゲーテッドダイオードは、シングルシリコンゲーテッドダイオード、ダブルシリコンゲーテッドダイオード及びトリプルシリコンゲーテッドダイオードのうちいずれか一つを含むことを特徴とする、請求項1に記載の二値化ニューラルネットワーク回路。
JP2023219824A 2023-08-30 2023-12-26 シリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路 Active JP7620348B1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020230114457A KR102926808B1 (ko) 2023-08-30 2023-08-30 실리콘 게이티드 다이오드를 이용한 이진화 신경망 회로
KR10-2023-0114457 2023-08-30

Publications (2)

Publication Number Publication Date
JP7620348B1 true JP7620348B1 (ja) 2025-01-23
JP2025035998A JP2025035998A (ja) 2025-03-14

Family

ID=94278968

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023219824A Active JP7620348B1 (ja) 2023-08-30 2023-12-26 シリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路

Country Status (4)

Country Link
US (1) US20250077853A1 (ja)
JP (1) JP7620348B1 (ja)
KR (1) KR102926808B1 (ja)
DE (1) DE102023213345A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102658645B1 (ko) * 2021-10-14 2024-04-18 고려대학교 산학협력단 실리콘 다이오드들을 이용한 스테이트풀 로직 인 메모리
KR102926823B1 (ko) * 2024-03-22 2026-02-12 고려대학교 산학협력단 준 비휘발성 메모리 소자를 이용한 이진화 신경망 회로

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200075094A1 (en) 2018-09-05 2020-03-05 Korea University Research And Business Foundation Transposable feedback field-effect electronic device and array circuit using the same
US20210150320A1 (en) 2019-11-14 2021-05-20 Korea University Research And Business Foundation Neuron circuit using p-n-p-n diode without external bias voltages
WO2021254830A1 (de) 2020-06-16 2021-12-23 Forschungszentrum Jülich GmbH Neuronen und synapsen mit ferroelektrisch modulierten metall-halbleiter schottky dioden nebst verfahren

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR920704360A (ko) * 1990-02-26 1992-12-19 시메트릭스 코포레이션 전자장치, 메모리 매트릭스 및 그 신경망
KR102499691B1 (ko) * 2019-08-22 2023-02-14 고려대학교 산학협력단 단일 게이트의 피드백 전계효과 전자소자를 이용하는 축적 및 발화 뉴런회로
US11809982B2 (en) 2020-02-05 2023-11-07 International Business Machines Corporation Performance and area efficient synapse memory cell structure
KR102885872B1 (ko) * 2020-10-08 2025-11-12 삼성전자주식회사 뉴럴 네트워크 장치
KR102905837B1 (ko) 2021-01-26 2025-12-31 서강대학교산학협력단 혼성신호 이진화 신경망 회로 장치
KR102499699B1 (ko) 2021-08-04 2023-02-14 고려대학교 산학협력단 실리콘 트랜지스터를 이용한 가변형 로직 인 메모리 소자
KR102658645B1 (ko) 2021-10-14 2024-04-18 고려대학교 산학협력단 실리콘 다이오드들을 이용한 스테이트풀 로직 인 메모리
KR102665566B1 (ko) 2022-01-25 2024-05-17 서울대학교산학협력단 Rgb 영상을 이용한 하천의 합류부 전단층 해석 장치 및 방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200075094A1 (en) 2018-09-05 2020-03-05 Korea University Research And Business Foundation Transposable feedback field-effect electronic device and array circuit using the same
US20210150320A1 (en) 2019-11-14 2021-05-20 Korea University Research And Business Foundation Neuron circuit using p-n-p-n diode without external bias voltages
WO2021254830A1 (de) 2020-06-16 2021-12-23 Forschungszentrum Jülich GmbH Neuronen und synapsen mit ferroelektrisch modulierten metall-halbleiter schottky dioden nebst verfahren

Also Published As

Publication number Publication date
JP2025035998A (ja) 2025-03-14
US20250077853A1 (en) 2025-03-06
KR20250032103A (ko) 2025-03-07
DE102023213345A1 (de) 2025-03-06
KR102926808B1 (ko) 2026-02-12

Similar Documents

Publication Publication Date Title
JP7620348B1 (ja) シリコンゲーテッドダイオードを用いた二値化ニューラルネットワーク回路
CN111433792B (zh) 可编程可重置人工神经网络的基于计数器的电阻处理单元
US11604977B2 (en) Computing circuitry
US10755170B2 (en) Resistive processing unit with hysteretic updates for neural network training
JP7659853B2 (ja) 可変型ロジックインメモリセル
US11544540B2 (en) Systems and methods for neural network training and deployment for hardware accelerators
Singh et al. Low-power memristor-based computing for edge-AI applications
JP2021518615A (ja) 効率的な行列乗算のためのシステムおよび方法
US10698975B2 (en) In situ transposition
US20220083836A1 (en) Configurable Three-Dimensional Neural Network Array
Lehtonen et al. Memristive stateful logic
US12586625B2 (en) Stateful logic-in-memory using silicon diodes
US11699721B2 (en) Integrate-and-fire neuron circuit using single-gated feedback field-effect transistor
CN108154225B (zh) 一种使用模拟计算的神经网络芯片
An et al. Implementation of monolithic 3D integrated TiOx memristor-based neural network for high-performance in-memory computing
Fu et al. Enabling reliable two-terminal memristor network by exploiting the dynamic reverse recovery in a diode selector
Veluri et al. A low-power DNN accelerator enabled by a novel staircase RRAM array
CN114761973A (zh) 电容性处理单元
US20250299035A1 (en) Binarized neural network circuitry using quasi-nonvolatile memory device
JP2025102666A (ja) 汎用ロジックメモリセル
JP2025102667A (ja) 複数の汎用ロジックメモリセルを用いた汎用ロジックメモリブロック
Chen et al. A Multifault‐Tolerant Training Scheme for Nonideal Memristive Neural Networks
Vourkas et al. Recent progress and patents on computational structures and methods with memristive devices
Parmar et al. Analysis of VMM computation strategies to implement BNN applications on RRAM arrays
KR20230078024A (ko) 삼항 정밀도 xor 논리 연산을 기반으로 하는 반도체 소자 및 이를 포함하는 뉴로모픽 컴퓨팅 시스템

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240827

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20241224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20241227

R150 Certificate of patent or registration of utility model

Ref document number: 7620348

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150