KR102358622B1 - 오보닉 임계 스위치를 이용한 인공 뉴런 소자, 그것을 포함하는 인공 신경 칩 및 사용자 장치 - Google Patents
오보닉 임계 스위치를 이용한 인공 뉴런 소자, 그것을 포함하는 인공 신경 칩 및 사용자 장치 Download PDFInfo
- Publication number
- KR102358622B1 KR102358622B1 KR1020190065926A KR20190065926A KR102358622B1 KR 102358622 B1 KR102358622 B1 KR 102358622B1 KR 1020190065926 A KR1020190065926 A KR 1020190065926A KR 20190065926 A KR20190065926 A KR 20190065926A KR 102358622 B1 KR102358622 B1 KR 102358622B1
- Authority
- KR
- South Korea
- Prior art keywords
- node
- artificial
- artificial neuron
- spike
- input terminal
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
- G06N3/065—Analogue means
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Neurology (AREA)
- Image Analysis (AREA)
- Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
Abstract
본 발명의 실시 예에 따른 인공 뉴런 소자는, 입력 단자와 제 1 노드 사이에 연결되는 제 1 저항; 상기 제 1 노드와 접지 단자 사이에 연결되는 커패시터; 상기 제 1 노드와 제 2 노드 사이에 연결되는 오보닉 임계 스위치; 및 상기 제 2 노드와 접지 단자 사이에 연결되는 제 2 저항을 포함할 수 있다. 상기 입력 단자로 시간에 따라 일정한 레벨의 입력 전압이 인가되는 경우에, 상기 제 1 노드에 막전위(membrane potential)가 형성되고 상기 제 2 노드에 스파이크 전류(spike current)가 흐를 수 있다. 본 발명에 의하면, 인공 뉴런 소자는 생물학적 뉴런의 Integrate-and-Fire 기능, rate coding 능력, SFA 특성, 그리고 무질서한 행동(chaotic activity)을 잘 보여주기 때문에, 인공 신경망 소자, large-scale brain-inspired 컴퓨팅 시스템, 인공 지능(AI) 시스템 등에 널리 사용될 수 있다.
Description
본 발명은 인공 신경 회로에 관한 것으로, 좀 더 상세하게는 오보닉 임계 스위치를 포함하는 인공 뉴런 소자, 인공 신경 칩, 그리고 사용자 장치에 관한 것이다.
뉴런(neuron)은 생체 속에서 정보 처리를 위해 특별한 분화를 이룬 신경 세포이다. 뉴런은 본체인 세포체(soma), 축색(axon), 그리고 수상돌기(dendrite) 세 부분으로 이루어진다. 축색은 세포체로부터의 신호를 다른 뉴런에 전달하는 섬유(nerve fibers)이다. 수상돌기는 다른 뉴런으로부터의 신호를 받아들이는 섬유이다. 즉, 다른 뉴런의 축색의 말단이 수상돌기에 연결되어 있다. 이 연결 부분을 시냅스(synapse)라 부른다.
하나의 뉴런은 평균해서 수천 개, 많게는 수 만개의 축색으로부터 신호를 받고 있다. 따라서 하나의 뉴런이 다수의 축색과 결합하기 위해서는 그 뉴런의 수상돌기를 복잡하게 만들어 축색과 결합 가능한 장소를 넓힐 필요가 있다. 세포체는 많은 입력 신호에 대해 계산을 실행하며, 그 답은 축색을 통해 다른 뉴런에 전달된다. 이러한 신경 회로망에서 어떠한 계산(혹은 정보 처리)을 할 것인가는 수상돌기의 연결 부분, 즉 시냅스에 분산되어 저장되어 있다.
일반적으로 뉴런 내부의 전위(potential)는 외부에 비하여 낮다. 그러나 외부로부터 입력 신호가 도달하면, 내부 막전위가 점차 높아진다. 높아진 막전위가 특정 전위 즉, 역치 또는 임계(threshold)에 도달하면, 뉴런은 펄스 형태의 전류를 발생시키고 막전위는 다시 낮아진다. 이때 뉴런은 발화(fire)했다고 하며, 이것은 전기적 신호로서 다른 뉴런에 전달된다.
인공 신경 회로는(artificial neural circuit)는 생물학적 신경계(biological nerve system)와 유사한 동작을 수행하는 회로이다. 인공 신경 회로는 문자 인식, 이미지 인식, 음성 인식, 얼굴 인식과 같은 다양한 분야에서 사용될 수 있다. 인공 신경 회로는 초고밀도집적회로(Very large scale integrated circuit; VLSI)와 같은 기술을 이용하여 회로적으로 어느 정도로 구현될 수 있다. 그러나 종래의 방법을 이용하여 생물학적 신경계의 복잡한 특성과 행동을 회로적으로 구현하기가 쉽지 않다. 또한, 종래의 방법으로 구현하기 위해서는 인공 신경 회로의 면적이 넓어지고, 회로적으로 구현하더라도 전력을 많이 소모하는 문제점이 있다.
본 발명은 상술한 기술적 과제를 해결하기 위한 것으로써, 본 발명의 목적은 생물학적 뉴런의 특성과 행동을 만족하는 동시에, 높은 집적도와 적은 전력 소모를 가능케 하는 매우 단순한 구조의 인공 뉴런 소자를 제공하는 데 있다. 또한, 이러한 인공 뉴런 소자를 포함하는 인공 신경 칩을 제공하는 데 있다. 또한, 이러한 인공 신경 칩을 포함하는 사용자 장치를 제공하는 데 있다.
본 발명의 실시 예에 따른 인공 뉴런 소자는, 입력 단자와 제 1 노드 사이에 연결되는 제 1 저항; 상기 제 1 노드와 접지 단자 사이에 연결되는 커패시터; 상기 제 1 노드와 제 2 노드 사이에 연결되고, 스파이크 전류의 변화를 발생시키는 오보닉 임계 스위치; 및 상기 제 2 노드와 접지 단자 사이에 연결되는 제 2 저항을 포함한다.
실시 예로서, 인공 뉴런 소자는 상기 입력 단자로 시간에 따라 일정한 레벨의 입력 전압이 인가되는 경우에, 상기 제 1 노드에 막전위(membrane potential)가 형성되고 상기 제 2 노드에 스파이크 전류(spike current)가 흐른다.
실시 예로서, 상기 입력 단자로 인가되는 입력 전압의 레벨이 증가되는 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 빈도가 증가하는 구간이 발생할 수 있다. 상기 입력 단자로 인가되는 입력 전압의 레벨이 일정한 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 사이 간격이 증가하는 SFA (Spike-Frequency Adaptation) 영역이 존재할 수 있다.
상기 입력 단자로 인가되는 입력 전압의 레벨이 일정한 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 사이 간격이 결정적인 비선형(deterministic nonlinear) 특성을 갖는 불규칙 영역(irregular region)이 존재할 수 있다. 상기 SFA 영역과 상기 불규칙 영역의 상대적인 가중치는 상기 제 1 및 제 2 저항과 상기 커패시터의 값에 따라 달라질 수 있다. 상기 불규칙 영역에서 무질서한 행동(chaotic activity) 특성을 가질 수 있다.
다른 실시 예로서, 상기 오보닉 임계 스위치는 상부 전극, TS 재료, 그리고 하부 전극을 포함할 수 있다. 상기 TS 재료는 Nb, Ta, V 중에서 적어도 하나를 포함하는 산화물일 수 있다. 상기 TS 재료는 Se, Te 중에서 적어도 하나와 Si, Ge, As 중에서 적어도 하나를 포함하는 화합물일 수 있다. 상기 오보닉 임계 스위치는 문턱 전압(Vth), 홀딩 전압(Vh), 그리고 이전 저항 상태에 따라, 온 저항 상태 또는 오프 저항 상태를 가질 수 있다.
본 발명의 실시 예에 따른 인공 신경 칩은, 제 1 및 제 2 인공 뉴런 소자; 및 상기 제 1 인공 뉴런 소자에서 발생한 전기적 신호를 상기 제 2 인공 뉴런 소자로 전달하는 인공 시냅스를 포함하되, 상기 제 1 인공 뉴런 소자는, 입력 단자와 제 1 노드 사이에 연결되는 제 1 저항; 상기 제 1 노드와 접지 단자 사이에 연결되는 커패시터; 상기 제 1 노드와 제 2 노드 사이에 연결되는 임계 스위치; 및 상기 제 2 노드와 접지 단자 사이에 연결되는 제 2 저항을 포함하되, 상기 입력 단자로 시간에 따라 일정한 레벨의 입력 전압이 인가되는 경우에, 상기 제 1 노드에 막전위(membrane potential)가 형성되고, 상기 제 2 노드에 흐르는 스파이크 전류(spike current)를 상기 전기적 신호로서 상기 인공 시냅스에 제공할 수 있다.
실시 예로서, 상기 입력 단자로 인가되는 입력 전압의 레벨이 증가되는 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 빈도가 증가하는 구간이 발생할 수 있다. 상기 입력 단자로 인가되는 입력 전압의 레벨이 일정한 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 사이 간격이 증가하는 SFA 영역이 존재할 수 있다. 상기 입력 단자로 인가되는 입력 전압의 레벨이 일정한 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 사이 간격이 결정적인 비선형(deterministic nonlinear) 특성을 갖는 불규칙 영역(irregular region)이 존재할 수 있다. 상기 불규칙 영역에서 상기 제 1 인공 뉴런 소자는 무질서한 행동(chaotic activity) 특성을 가질 수 있다.
본 발명의 실시 예에 따른 사용자 장치는, 상기 인공 신경 칩; 상기 인공 신경 칩의 동작을 제어하는 제어 유닛; 및 상기 인공 신경 칩 및 상기 제어 유닛으로 전원을 제공하는 전원 유닛을 포함할 수 있다.
실시 예로서, 상기 입력 단자로 인가되는 입력 전압의 레벨이 증가되는 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 빈도가 증가하는 구간이 발생할 수 있다. 상기 입력 단자로 인가되는 입력 전압의 레벨이 일정한 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 사이 간격이 증가하는 SFA 영역이 존재할 수 있다. 상기 입력 단자로 인가되는 입력 전압의 레벨이 일정한 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 사이 간격이 결정적인 비선형(deterministic nonlinear) 특성을 갖는 불규칙 영역(irregular region)이 존재할 수 있다.
본 발명의 실시 예에 따르면, 인공 뉴런 소자는 생물학적 뉴런의 Integrate-and-Fire 기능, rate coding 능력, SFA 특성, 그리고 무질서한 행동(chaotic activity)을 잘 보여주기 때문에, 인공 신경망 소자, large-scale brain-inspired 컴퓨팅 시스템, 인공 지능(AI) 시스템 등에 널리 사용될 수 있다. 또한, 본 발명의 실시 예에 따른 인공 뉴런 소자는 임계 스위치와 소수의 수동 소자를 포함하여 설계됨으로, 종래의 Si-MOSFET에 기반을 둔 인공 뉴런 소자에 비해, 전력 소모를 획기적으로 줄일 수 있다.
도 1a 내지 도 1c는 생물학적 뉴런(biological neuron)의 자극(stimulus)과 반응(response)을 보여주는 그래프이다.
도 2a 및 도 2b는 본 발명의 실시 예에 따른 인공 뉴런 소자(artificial neuron device)를 보여주는 회로도이다.
도 3은 도 2에 도시된 인공 뉴런 소자의 임계 스위치(thresholod switch)의 전압-전류 변화를 예시적으로 보여주는 그래프이다.
도 4는 도 2에 도시된 임계 스위치의 구조를 예시적으로 보여주는 모형도이다.
도 5는 도 2에 도시된 인공 뉴런 소자의 Integrate-and-Fire 기능을 예시적으로 설명하기 위한 그래프이다.
도 6 및 도 7은 도 2에 도시된 인공 뉴런 소자의 rate coding ability을 설명하기 위한 그래프이다.
도 8a 내지 도 8c는 도 2에 도시된 인공 뉴런 소자의 SFA(Spike-Frequency Adaptation) 특성을 보여주는 그래프이다.
도 9a 내지 도 9c는 도 2에 도시된 인공 뉴런 소자의 무질서한 행동(chaotic activity)을 실험적으로 보여주는 그래프이다.
도 10은 도 2에 도시된 인공 뉴런 소자를 포함하는 인공 신경 칩을 보여주는 블록도이다.
도 11은 도 10에 도시된 인공 신경 칩을 포함하는 사용자 장치를 보여주는 블록도이다.
도 12 및 도 13은 도 11에 도시된 사용자 장치가 음성 인식에 사용되는 음성 인식 장치의 동작 방법을 예시적으로 보여주는 도면이다.
도 2a 및 도 2b는 본 발명의 실시 예에 따른 인공 뉴런 소자(artificial neuron device)를 보여주는 회로도이다.
도 3은 도 2에 도시된 인공 뉴런 소자의 임계 스위치(thresholod switch)의 전압-전류 변화를 예시적으로 보여주는 그래프이다.
도 4는 도 2에 도시된 임계 스위치의 구조를 예시적으로 보여주는 모형도이다.
도 5는 도 2에 도시된 인공 뉴런 소자의 Integrate-and-Fire 기능을 예시적으로 설명하기 위한 그래프이다.
도 6 및 도 7은 도 2에 도시된 인공 뉴런 소자의 rate coding ability을 설명하기 위한 그래프이다.
도 8a 내지 도 8c는 도 2에 도시된 인공 뉴런 소자의 SFA(Spike-Frequency Adaptation) 특성을 보여주는 그래프이다.
도 9a 내지 도 9c는 도 2에 도시된 인공 뉴런 소자의 무질서한 행동(chaotic activity)을 실험적으로 보여주는 그래프이다.
도 10은 도 2에 도시된 인공 뉴런 소자를 포함하는 인공 신경 칩을 보여주는 블록도이다.
도 11은 도 10에 도시된 인공 신경 칩을 포함하는 사용자 장치를 보여주는 블록도이다.
도 12 및 도 13은 도 11에 도시된 사용자 장치가 음성 인식에 사용되는 음성 인식 장치의 동작 방법을 예시적으로 보여주는 도면이다.
이하에서, 본 발명의 기술 분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있을 정도로, 본 발명의 실시 예들이 명확하고 상세하게 기재될 것이다.
I. 생물학적 뉴런의 자극과 반응
도 1a 내지 도 1c는 생물학적 뉴런(biological neuron)의 자극(stimulus)과 반응(response)을 보여주는 그래프이다. 도 1a에서는 예로서 메뚜기의 시신경에 존재하는 뉴런에서 발현되는 자극과 반응을 보여주고 있다. 도 1a을 참조하면, 생물학적 뉴런은 자극에 대해 일정한 반응 패턴 경향성을 보인다. 생물학적 뉴런에 시간적으로 일정한 자극(stimulus)을 인가하면, 막전위(Vmem; membrane potential)가 증가한다. 막전위가 증가하다가 역치(threshold)를 넘어서면, 뉴런은 스파이크 전류(Is; spike current)를 발생시킨다. 도 1a에서 반응(response)은 여러 자극의 세기에 대한 스파이크 전류(Is)의 변화를 보여주고 있다.
예를 들면, 생물학적 뉴런에 일정 레벨의 a자극을 인가하면, t1 시점까지 막전위(Vmem)가 증가하다가 t1 시점에서 스파이크 전류(Is)가 발생한다. 이러한 신경의 반응 패턴을 Integrate-and-Fire라고 한다. 생물학적 뉴런은 일반적으로 Integrate-and-Fire 기능(I&F function)을 갖는다. 생물학적 뉴런은 자극의 세기가 증가할수록 스파이크율(spike rate)이 점점 증가하는 특성을 보인다. 여기에서, 스파이크율(spike rate)은 발화율(firing rate)이라고도 한다. 도 1a을 참조하면, 자극의 세기가 a, b, c, d로 커짐에 따라, 생물학적 뉴런에 발생하는 스파이크 수가 증가함을 알 수 있다.
예를 들면, a자극에 대해서는 1개의 스파이크(spike)가 발생하지만, b자극에 대해서는 4개의 스파이크가 발생하고, c자극과 d자극에 대해서는 더 많은 스파이크가 발생함을 알 수 있다. 자극의 세기가 증가함에 따라 스파이크율이 커지는 생물학적 뉴런의 반응을 레이트 코딩(rate coding)이라고 한다. 생물학적 뉴런은 일반적으로 레이트 코딩 능력(rate coding ability)을 갖는다.
또한, 생물학적 뉴런은 하나의 일정 자극(constant stimulus)에 대해 시간이 지날수록 스파이크율(spike rate)이 점점 작아지는 반응 특성을 갖는다. 즉, 생물학적 뉴런은 시간이 지날수록 스파이크 사이의 시간 간격이 점점 늘어난다. 예를 들어 도 1a의 c자극에 대한 반응(Rc)을 참조하면, d2 시간 간격이 d1 시간 간격보다 넓어짐을 알 수 있다. 하나의 일정 자극에 대해 스파이크 시간 간격이 점점 넓어지는 생물학적 뉴런의 반응을 스파이크 빈도 적응(SFA; Spike-Frequency-Adaptation)이라고 한다. 생물학적 뉴런은 일반적으로 스파이크 빈도 적응 특성(SFA property)을 갖는다.
이상에서 설명한 바와 같이, 생물학적 뉴런은 일반적으로 Integrate-and-Fire 기능, rate coding 능력, 그리고 스파이크 빈도 적응(SFA) 특성을 갖는다. 또한, 생물학적 뉴런은 도 1b와 도 1c에서 보는 바와 같이 무질서한 행동(chaotic activity)을 보일 수 있다.
도 1b는 오징어의 거대 신경 세포의 반응과 자극을 보여준다. 도 1b의 왼쪽 그래프를 참조하면, 오징어의 거대 신경 세포에 사인파 형태의 자극(stimulus)을 입력하면, 반응(response)이 주기적인 패턴을 갖지 않는 불규칙한 반응을 한다. 여기에서, 불규칙한 반응은 미분방정식 함수로 표현되는 결정적인 비선형(deterministic nonlinear) 반응이라고 할 수 있다. 예를 들어, 도 1b의 오른쪽 도면은 반응 전압 V에 대한 dV/dt를 도시한 그래프로, 생물학적 뉴런의 무질서한 행동을 보여주고 있다.
도 1c는 쥐 뇌의 CA3 영역에 있는 신경 세포의 행동을 보여주는 그래프이다. 도 1c를 참조하면, x, y, z 축은 각각 I(t), I(t+Δ), I(t+2Δ)로서, 세 시점에서의 신경 세포에 흐르는 전류를 3차원 그래프로 나타낸 것이다. 도 1c를 참조하면, 쥐 뇌의 CA3 영역에 있는 신경 세포는 결정적인 비선형 반응(deterministic nonlinear response)을 보여주고 있다. 즉, 생물학적 뉴런의 무질서한 행동을 보여주고 있다.
위에서 설명한 생물학적 뉴런의 SFA 특성과 무질서한 행동은 포유류의 대뇌피질(mammalian cortex)에 존재하는 뉴런에서 더 뚜렷하게 나타나고 있다. 이러한 생물학적 뉴런의 특징들은 복잡하고 섬세하기 때문에, 생물학적 뉴런의 특성들을 모두 만족하는 인공 뉴런 소자(artificial neuron device)를 구현하거나 이것을 포함하는 인공 신경망 칩(artificial neuron network chip)을 만드는 것은 쉽지 않다. 그러나 이하에서 설명되는 인공 뉴런 소자는 위에서 설명한 생물학적 뉴런의 여러 특성들을 만족할 수 있다.
II. 인공 뉴런 소자의 구조 및 동작
도 2a 및 도 2b는 본 발명의 실시 예에 따른 인공 뉴런 소자(artificial neuron device)를 보여주는 회로도이다. 도 2a 및 도 2b에 도시된 인공 뉴런 소자(100)는 도 1에 도시된 생물학적 뉴런의 자극과 반응 특성을 잘 보여준다. 따라서 본 발명의 인공 뉴런 소자(100)는 large-scale brain-inspired 컴퓨팅 시스템이나 인공 지능(AI) 시스템 등에 사용될 수 있다.
도 2a를 참조하면, 인공 뉴런 소자(100)는 임계 스위치(TS; thresholod switch)와 복수의 수동 소자를 포함하여 구현될 수 있다. 복수의 수동 소자에는 제 1 및 제 2 레지스터(R1, R2)와 커패시터(C)가 포함될 수 있다. 도 2a를 참조하면, 제 1 레지스터(R1)는 입력 단자와 제 1 노드(N1) 사이에 연결된다. 입력 단자는 입력 전압(Vin)을 입력 받는다. 커패시터(C)는 제 1 노드(N1)와 접지 단자 사이에 연결된다. 임계 스위치(TS)는 제 1 노드(N1)와 제 2 노드(N2) 사이에 연결된다. 제 2 레지스터(R2)는 제 2 노드(N2)와 접지 단자 사이에 연결된다. 한편, 제 2 레지스터(R2)는 임계 스위치(TS)에서 바라본 외부 장치의 등가 저항일 수 있다. 그리고 제 2 레지스터(R2)에 흐르는 제 2 전류(I2)는 출력 전류일 수 있다.
도 2b를 참조하면, 입력 단자와 접지 단자 사이의 시간에 따른 전압은 V(t)라 하고, 제 1 레지스터(R1)에 흐르는 입력 전류는 I(t)라 하고, 커패시터(C)에 흐르는 제 1 전류는 I1(t)라 하고, 임계 스위치(TS)와 제 2 레지스터(R2)에 흐르는 제 2 전류는 I2(t)라고 하면, 아래 수학식 1에서 보는 바와 같이, 입력 전류(I)는 제 1 전류(I1)와 제 2 전류(I2)의 합으로 표현될 수 있다.
[수학식 1]
입력 단자와 접지 단자 사이의 전압(V)은 제 1 레지스터(R1)에 걸리는 전압(R1*I)과 제 1 노드 전압(V1)의 합으로 표현될 수 있다. 여기에서, 제 1 노드 전압(V1)은 커패시터(C)에 걸리는 전압으로 표현될 수 있다. 따라서 입력 전압(Vin)은 아래 수학식 2와 같이 표현될 수 있다.
[수학식 2]
한편, 제 1 노드 전압(V1)은 TS에 걸리는 전압(VTS)과 제 2 노드 전압(V2)의 합으로 표현될 수 있다. 제 2 노드 전압(V2)은 제 2 레지스터(R2)에 걸리는 전압(R2*I2)이다. TS의 저항을 RTS라고 하면, TS의 전압(VTS)은 전압 분배 법칙에 의해 다음과 같은 수학식 3으로 표현될 수 있다.
[수학식 3]
여기에서, RTS는 TS에 인가되는 바이어스 전압(bias voltage)이나 이전의 상태(previous state) 등에 따라 변하는 가변 저항(variable resistor)의 저항값이라고 정의할 수 있다. RTS는 이래와 같은 수학식 4로 표현될 수 있다.
[수학식 4]
수학식 4를 참조하면, RTS는 Vth와 Vh에 따라 저항 상태가 변함을 알 수 있다. 여기에서, Vth는 TS의 문턱 전압(threshold voltage)이고 Vh는 홀딩 전압(holding voltage)이다. VTS가 Vth보다 높으면 TS는 온 저항 상태(Ron)에 있다. VTS가 Vh보다 낮으면 TS는 오프 저항 상태(Roff)에 있다.
한편, RTS는 이전 저항 상태에 따라 저항 상태가 변할 수 있다. VTS가 Vh보다 높고 Vth보다 낮은 경우(Vh<VTS<Vth)에는 이전 저항 상태를 유지한다. 즉, TS의 이전 저항 상태가 온 저항 상태(Ron)이면 온 저항 상태를 유지하고, 오프 저항 상태(Roff)이면 오프 저항 상태를 유지한다. 수학식 4에 표현된 TS 저항(RTS)은 TS의 물질적인 특성과 그것의 전압-전류 변화에 기인한다. TS의 전압-전류 변화는 도 3을 참조하여 좀 더 자세하게 설명하기로 한다.
도 3은 도 2에 도시된 인공 뉴런 소자의 임계 스위치(TS; thresholod switch)의 전압-전류 변화를 예시적으로 보여주는 그래프이다. 도 3에서, 가로축은 TS에 가해지는 전압(VTS)이고, 세로축은 TS에 흐르는 전류(ITS)를 나타낸다.
도 3을 참조하면, TS 전압(VTS)이 문턱 전압(Vth)보다 낮은 경우에는 TS에 부도체 상태에 있다. TS에 전류가 흐르지 않는다. 도 3의 예에서, TS 전압(VTS)이 약 5V가 되기 전까지는, TS에는 전류가 흐리지 않는다. TS는 부도체 상태, 즉 오프 저항 상태(Roff)에 있다. VTS가 문턱 전압(Vth, 약 5V)에 도달하면, TS는 도전성 상태에 있다. TS에 흐르는 전류가 급격하게 증가한다. TS는 ITS가 급격하게 증가하는 도전체 상태, 즉 온 저항 상태(Ron)로 바뀐다.
이러한 온 저항 상태(Ron)에서, VTS가 낮아지면 ITS는 선형적으로 감소하기 시작한다. ITS가 감소하다가 홀딩 전류(Ih; holding current)에 도달하면, TS는 다시 오프 저항 상태(Roff)로 바뀐다. 즉, VTS가 홀딩 전압(Vh, 약 1V)이 되면, TS는 다시 부도체 상태, 즉 오프 저항 상태(Roff)로 바뀐다. 이와 같이 TS는 VTS 전압에 따라 오프 저항 상태(Roff)에서 온 저항 상태(Ron)로 바뀌거나, 반대로 온 저항 상태(Ron)에서 오프 저항 상태(Roff)로 바뀐다.
도 4는 도 2에 도시된 임계 스위치(TS)의 구조를 예시적으로 보여주는 모형도이다. 도 4를 참조하면, TS는 상부 전극(TE), 임계 스위치 재료(TS), 그리고 하부 전극(BE)으로 구성된 크로스 포인트 구조를 가질 수 있다.
상부 및 하부 전극(TE, BE)으로는 전도성 재료 또는 반도체 재료가 사용될 수 있다. 도 3과 같은 전류-전압 특성을 보이는 임계 스위치(TS)의 재료에는 특별한 조성을 가지는 Ge-Se-Te 화합물, Si-Se-Te 화합물, Si-As-Te-G-P 화합물, Nb-Ta-O 화합물, Mo-W-O 화합물 등이 사용될 수 있다. 예를 들면, TS 재료는 Nb, Ta, V 중에서 적어도 하나를 포함하는 산화물(예, Nb2O5)이거나, Se, Te 중에서 적어도 하나와 Si, Ge, As 중에서 적어도 하나를 포함하는 화합물(예, Ge60Se40)일 수 있다. 또한, TS 재료는 오보닉 임계 스위치(OTS; ovonic threshold switch)일 수 있다.
TS의 상부 및 하부 전극(TE, BE)과 임계 스위치 재료는 사진식각기술(photolithography)과 리프트 오프(lift-off) 기술로 제조될 수 있다. 하부 전극, TS 재료, 그리고 상부 전극은 RF 마그네트론 스퍼터링 기술(RF magnetron-sputtering technique)로 증착 되고, 각각 약 100nm의 박막 두께를 가질 수 있다.
도 5는 도 2에 도시된 인공 뉴런 소자의 Integrate-and-Fire 기능을 예시적으로 설명하기 위한 그래프이다. 도 5는 도 2의 인공 뉴런 소자(100)에서 R1=10KΩ, R2=100KΩ, C=10pF으로 설정한 경우의 실험 결과이다.
도 5를 참조하면, 입력 단자에 약 5.4V의 입력 전압(Vin)이 인가된다. 입력 전압(Vin)은 스퀘어 펄스(square pulse)로, 약 5.4V의 DC 전압이 인가되고 있다. 인공 뉴런 소자(100)가 약 5.4V의 입력 전압(Vin)을 입력 받은 경우에, 인공 뉴런 소자는 생물학적 뉴런의 막전위 및 스파이크 전류와 유사한 특성을 보이고 있다.
인공 뉴런 소자(100)의 입력 단자(Vin)로 약 5.4V의 DC 전압을 인가하면, 커패시터(C)에 걸리는 전압(V1)이 증가한다. 제 1 노드 전압(V1)은 수학식 2에서 보는 바와 같이 적분 함수(integral function)에 따라 증가할 수 있다. 제 1 노드 전압(V1)은 VTS의 문턱 전압(Vth)인 약 3.5V에 도달할 때까지 계속해서 증가할 수 있다.
제 1 노드 전압(V1)이 약 3.5V에 도달하면 TS가 온 저항 상태(Ron)로 바뀌고, 제 2 전류(I2)가 급격하게 증가한다. 도 5에 도시된 바와 같이, 인공 뉴런 소자(100)는 약 43μs에서 첫번째 스파이크 전류(Is; spike current)가 발생한다. 첫번째 스파이크 전류가 발생한 후에, 제 1 노드 전압(V1)은 홀딩 전압(Vh)으로 떨어지고, TS는 오프 저항 상태(Roff)로 바뀐다. 제 1 노드 전압(V1)은 약 3V까지 증가하고, TS는 온 저항 상태(Ron)로 된다. 인공 뉴런 소자(100)는 약 45μs에서 두번째 스파이크 전류(Is)가 발생한다. 인공 뉴런 소자(100)는 이러한 동작을 반복하면서, 스파이크 전류(Is)를 반복적으로 발생할 수 있다.
본 발명의 실시 예에 따른 인공 뉴런 소자(100)에서, 제 1 노드 전압(V1)은 생물학적 뉴런(biological neuron)의 막전위(membrane potential)에 대응하고, 제 2 전류(I2)는 스파이크 전류에 대응할 수 있다. 인공 뉴런 소자(100)는 생물학적 뉴런(biological neuron)과 유사하게, 제 1 노드 전압(V1)이 증가하다가 TS가 문턱 전압(Vth)에 도달하면 스파이크 전류를 발생할 수 있다. 즉, 인공 뉴런 소자(100)는 생물학적 뉴런에서 보이는 Integrate-and-Fire 기능을 수행할 수 있다.
도 6 및 도 7은 도 2에 도시된 인공 뉴런 소자의 rate coding ability을 설명하기 위한 그래프이다. 도 6은 인공 뉴런 소자(100)의 입력 전압(Vin)의 변화에 따른 스파이크 전류의 변화를 보여주고, 도 7은 입력 전압(Vin)의 변화에 따른 스파이크 전류의 파워 밀도 스펙트럼(power density spectrum)을 보여준다.
도 6에서, 각각의 입력 전압(Vin)에 대한 시간(time)에 따른 제 2 전류(I2)의 변화를 살펴보면, 입력 전압(Vin)이 5.4V에서 7.0V까지 0.2V씩 증가할 때 스파이크 빈도가 증가함을 알 수 있다. 여기에서, 입력 전압(Vin)의 증가는 도 1a에서 생물학적 뉴런의 자극의 세기가 a, b, c, d로 증가하는 것에 대응할 수 있다. 인공 뉴런 소자(100)의 입력 전압(Vin)이 0.2V씩 증가할 때마다 제 2 전류(I2)의 스파이크 빈도의 증가는 도 1a에서 생물학적 뉴런에서 자극의 세기가 증가할수록 스파이크율(spike rate)이 증가하는 것에 대응할 수 있다. 즉, 도 2에 도시된 인공 뉴런 소자(100)에서도 생물학적 뉴런의 rate coding 능력이 발생함을 알 수 있다.
도 7에서, 가로축은 주파수(frequency)를 나타내고 세로축은 파워 밀도 스펙트럼(power density spectrum)을 나타낸다. 도 7에서, 각각의 입력 전압(Vin)에 대한 주파수(frequency)에 따른 파워 밀도(Power)의 변화를 살펴보면, 입력 전압(Vin)이 5.4V에서 7.0V까지 0.2V씩 증가할 때 파워 밀도의 피크 위치가 고주파를 향하여 이동됨을 알 수 있다. 도 7의 파워 밀도 스펙트럼을 통해서도 도 2에 도시된 인공 뉴런 소자(100)가 생물학적 뉴런에서 보이는 rate coding 능력을 가짐을 알 수 있다.
도 8a 내지 도 8c는 도 2에 도시된 인공 뉴런 소자의 SFA(Spike-Frequency Adaptation) 특성을 보여주는 그래프이다. 도 1a에서 보는 바와 같이, 생물학적 뉴런은 일정한 자극(constant stimulus)에 대해 시간이 지날수록 스파이크 빈도(spike frequency)가 점점 줄어드는 특성을 보인다. 이러한 스파이크 빈도 적응(SFA) 특성은 포유류의 흥분성 신경(excitatory neurons)에서 흔하게 볼 수 있다. 본 발명의 인공 뉴런 소자(100)는 생물학적 뉴런의 스파이크 빈도 적응(SFA) 특성을 가질 수 있다.
도 8a는 도 2의 인공 뉴런 소자(100)에서 수동 소자를 각각 R1=10KΩ, R2=100KΩ, C=10pF으로 설정하고, 제 1 노드 전압(V1)과 제 2 전류(I2)를 측정한 결과를 보여주는 그래프이다. 도 8a에서 위쪽 그래프는 시간(time)에 따른 제 1 노드 전압(V1)의 변화를 보여주고, 아래쪽 그래프는 시간(time)에 따른 제 2 전류(I2)의 변화를 보여준다. 도 8a의 박스 부분을 살펴보면, 시간(time)이 지남에 따라 제 2 전류(I2)의 스파이크 빈도가 점점 줄어드는 것을 알 수 있다. 즉, 도 2의 인공 뉴런 소자(100)는 시간이 지날수록 스파이크 사이 간격이 점점 늘어나는 것을 알 수 있다.
도 8b는 도 8a에서 12us~21us 사이의 제 1 노드 전압(V1)과 제 2 전류(I2)의 변화를 확대한 그래프이다. 도 8b에서, i는 스파이크 카운트(spike count)를 의미하고, ISIi(ISI; inter-spike interval)는 제 i-1 스파이크와 제 i 스파이크 사이 간격을 나타낸다. 예를 들면, ISI9는 제 8 스파이크와 제 9 스파이크 사이의 시간 간격을 나타낸다. 도 8b를 참조하면, 스파이크 카운트(i)가 증가할수록 스파이크 사이 간격(ISIi)이 점점 증가하는 것을 알 수 있다.
도 8c는 도 2에 도시된 인공 뉴런 소자(100)의 스파이크 카운트(i)에 따른 스파이크율(Ri, spike rate)을 보여주는 그래프이다. 도 8c에서, 가로축은 스파이크 카운트(i)이고, 세로축은 스파이크율(Ri)을 나타낸다. 도 8c를 참조하면, 인공 뉴런 소자(100)는 스파이크 카운트(i)에 따라 주파수 빈도 적응 영역(SFA region)과 불규칙 영역(irregular region)을 가짐을 알 수 있다. 예를 들면, 스파이크 카운트(i)가 1-12인 구간에서는 SFA 특성을 보이고, 13-27 구간에서는 불규칙한 스파이크율을 보이고, 28-40 구간에서는 SFA 특성을 보인다. SFA 영역에서 보이는 스파이크율(Ri)는 아래 수학식 5에서 보는 바와 같이 지수 함수로 표현할 수 있다.
[수학식 5]
R(i)=R0+R1exp(-i/α)
여기에서, R0, R1, 그리고 α는 상수이다. 인공 뉴런 소자(100)는 어느 범위의 스파이크 카운트(i)에서는 지수 함수적으로 감소(exponential decay)하는 스파이크율(spike rate)을 가짐을 알 수 있다. 또한, 인공 뉴런 소자(100)는 어느 범위의 스파이크 카운트(i)에서는 스파이크율(Ri)이 불규칙한 영역(irregular region)을 가짐을 알 수 있다. 즉, 인공 뉴런 소자(100)는 SFA 영역과 불규칙 영역을 동시에 가질 수 있다. SFA 영역과 불규칙 영역의 상대적인 가중치는 제 1 및 제 2 저항(R1, R2)과 커패시터(C)의 값에 따라 달라질 수 있다. 인공 뉴런 소자(100)에서 보이는 불규칙 영역은 생물학적 뉴런에서 무질서한 행동(chaotic activity)으로 나타날 수 있다.
도 9a 내지 도 9c는 도 2에 도시된 인공 뉴런 소자의 무질서한 행동(chaotic activity)을 실험적으로 보여주는 그래프이다. 도 9a는 도 2의 인공 뉴런 소자(100)에서 수동 소자를 각각 R1=5KΩ, R2=100Ω, C=2pF으로 설정하고, FFT(Fast Fourier Transform)을 통해 얻은 제 1 노드 전압(V1)의 파워 밀도 스펙트럼을 보여준다. 도 9a에서 가로축은 주파수(frequency)를 나타내고, 세로축은 제 1 노드 전압(V1)의 파워 밀도(SV1)를 나타낸다.
도 9a에 도시된 인공 뉴런 소자(100)의 그래프 특성은 도 1b에서 설명한 오징어의 거대 신경 세포의 반응에서도 유사하게 나타난다. 다만, 오징어의 거대 신경 세포와 비교할 때, 인공 뉴런 소자(100)의 주파수 범위(frequency range)는 실험적으로 훨씬 크고(예를 들면, 약 104배), 감소 기울기(decay slope)가 약간 더 가파르다.
도 9b는 도 1b에 도시된 오징어 거대 신경 세포의 결정적인 비선형(deterministic nonlinear)과 유사한 반응을 보이는, 인공 뉴런 소자(100)의 제 1 노드 전압(V)에 대한 dV/dt를 도시한 그래프이다. 도 9b에서 X축은 제 1 노드 전압(V1)을 나타내고, Y축은 dV/dt를 나타내고, Z축은 제 2 전류(I2)를 나타낸다. 도 9b의 XY 평면을 자세히 살펴보면, 인공 뉴런 소자(100)는 도 1b의 오징어 거대 신경 세포의 결정적인 비선형(determinstic nonlinear) 특성과 유사한, 무질서한 행동을 보여줌을 알 수 있다.
도 9c는 도 1c에 도시된 쥐 뇌의 CA3 영역에 있는 신경 세포의 행동과 유사한 반응을 보이는, 인공 뉴런 소자(100)의 결정적인 비선형 특성을 보여주는 그래프이다. 도 9c를 참조하면, X, Y, Z 축은 각각 I(t), I(t+Δt), (t+2Δt)로서, 세 시점에서의 인공 신경 회로(100)에 흐르는 전류를 3차원 그래프로 나타낸 것이다. 도 9c를 참조하면, 인공 신경 회로(100)는 도 1c에 도시된 생물학적 뉴런의 결정적인 비선형(deterministic nonlinear) 특성을 잘 보여주고 있다.
위에서 설명한 인공 뉴런 소자(100)의 SFA 특성과 무질서한 행동은 포유류의 대뇌피질(mammalian cortex)의 생물학적 뉴런에서 더 뚜렷하게 나타나고 있다. 본 발명의 실시 예에 따른 인공 뉴런 소자(100)는 도 1a 내지 도 1c에 나타나는 생물학적 뉴런의 Integrate-and-Fire 기능, rate coding 능력, SFA 특성, 그리고 무질서한 행동(chaotic activity)을 보여준다. 이러한 이유로, 본 발명의 인공 뉴런 소자(100)는 인공 신경망 소자, large-scale brain-inspired 컴퓨팅 시스템이나 인공 지능(AI) 시스템 등에 널리 사용될 수 있다.
III. 인공 뉴런 소자의 적용예
도 10은 도 2에 도시된 인공 뉴런 소자를 포함하는 인공 신경 칩을 보여주는 블록도이다. 도 10을 참조하면, 인공 신경 칩(1000)은 제 1 인공 뉴런 소자(1110), 제 2 인공 뉴런 소자(1120), 그리고 인공 시냅스(1200)를 포함한다. 도 10에서는 인공 신경 칩(1000)이 간단하게 도시되어 있으나, 제 1 인공 뉴런 소자(1110)로부터 수평으로 연장하는 로우 라인(RL; row line) 및 제 2 인공 뉴런 소자(1120)로부터 수직으로 연장하는 컬럼 라인(CL; column line)의 교차점에 인공 시냅스(1200)가 배치될 수 있다.
제 1 인공 뉴런 소자(1110)는 로우 라인(RL)을 통하여 인공 시냅스(1200)로 전기적 신호를 전송할 수 있다. 제 2 인공 뉴런 소자(1120)는 컬럼 라인(CL)을 통하여 인공 시냅스(1200)로부터 전기적 신호를 수신할 수 있다. 반대로, 전기적 신호는 인공 시냅스(1200)를 경유하여 제 2 인공 뉴런 소자(1120)에서 제 1 인공 뉴런 소자(1110)로 전달될 수도 있다.
인공 시냅스(1200)는 가변 저항층(variable resistive layer)과 2개의 전극을 포함할 수 있다. 예를 들어, 인공 시냅스(1200)는 제 1 인공 뉴런 소자(1110)와 전기적으로 연결된 제 1 전극 및 제 2 인공 뉴런 소자(1120)와 전기적으로 연결된 제 2 전극을 포함할 수 있다. 인공 시냅스(1120)의 가변 저항층은 멀티 저항 레벨을 가질 수 있다. 인공 시냅스(1200)의 가변 저항층은 전이 금속 산화물들(transition metal oxides) 또는 페로브스카이트(perovskite)계 물질들과 같은 금속 산화물들, 칼코지나이드(chalcogenide)계 물질 등과 같은 상변화 물질, 강유전 물질, 또는 강자성 물질 중 적어도 하나를 포함할 수 있다. 인공 시냅스(1200)는 제 1 및 제 2 인공 뉴런 소자(1110, 1120)로부터 입력되는 전기적 신호의 입력 횟수, 시간 차, 및/또는 전압 차 등에 의하여 부도체 상태 또는 전도성 상태로 변화될 수 있다.
도 11은 도 10에 도시된 인공 신경 칩을 포함하는 사용자 장치를 보여주는 블록도이다. 도 11을 참조하면, 사용자 장치(2000)는 인공 신경 칩(2100), 제어 유닛(2200), 그리고 전원 유닛(2300)을 포함한다. 인공 신경 칩(2100)을 포함한 사용자 장치(2000)는 음성 인식이나 인공 지능 등과 같은 다양한 응용 분야에 사용될 수 있다. 제어 유닛(2200)은 인공 신경 칩(2100)의 동작 제어를 위한 프로세스부, 신호 처리를 위한 신호 처리부, 그리고 데이터를 저장하거나 알고리즘을 구동하기 위한 메모리부를 포함할 수 있다. 전원 유닛(2300)은 인공 신경 칩(2100)과 제어 유닛(2200)의 동작에 필요한 전원을 제공할 수 있다.
도 12 및 도 13은 도 11에 도시된 사용자 장치가 음성 인식에 사용되는 음성 인식 장치의 동작 방법을 예시적으로 보여주는 도면이다. 도 12는 음성을 신호 처리하는 과정을 보여주는 순서도이다. 음성의 신호 처리 과정은 도 11의 제어 유닛(2300)에서 수행될 수 있다. 도 12를 참조하면, S110 단계에서는 코클리어 모델(cochlear model)에 따라 주파수 성분(frequency components)을 얻는다. S120 단계에서, 주파수 성분이 인공 뉴런 소자에 적용되도록 전처리 동작이 수행된다. S130 단계에서, 전처리된 신경 반응이 인공 신경 칩(2100)에 제공되는 동작이 수행된다. S140 단계에서, 인공 신경 칩(2100)을 이용하여 음성 인식이 학습되고 테스트되는 동작이 수행된다.
도 13은 음성 인식 장치를 이용하여 음성 인식의 정확도를 테스트한 결과를 보여주는 그래프이다. 도 13에서, 가로축은 사용자가 발음한 0에서 9까지의 숫자(spoken-digit)을 나타내고, 세로축은 음성 인식 장치가 실제로 인식한 숫자의 분류 지표(class index)를 나타낸다. 예를 들면, 5명의 사람이 0에서 9까지 10개의 숫자를 10번 반복한 경우에, 5명의 사람이 0을 발음한 파일은 50개가 된다. 마찬가지로, 1 내지 9를 발음한 파일도 각각 50개가 된다. 전체적으로 500개의 음성 파일이 생성된다. 이 중에서 450개(9개 파일/1인) 파일은 학습용으로 사용되고, 나머지 50개의 파일은 테스트용으로 사용될 수 있다. 도 13은 50개의 테스트 파일을 이용하여 음성 인식의 정확도를 측정한 결과이다. 도 13에서 실제 음성에 대한 반응 결과는 빨간색으로 표시되어 있다. 도 13을 참조하면, 본 발명의 실시 예에 따른 인공 뉴런 소자(100)를 포함한 인공 신경 칩(1000)을 이용한 음성 인식 장치(2000)는 92%의 음성 인식 정확도를 가질 수 있다.
이상에서 설명한 바와 같이, 본 발명의 실시 예에 따른 인공 뉴런 소자(100)는 생물학적 뉴런의 Integrate-and-Fire 기능, rate coding 능력, SFA 특성, 그리고 무질서한 행동(chaotic activity)을 잘 보여주기 때문에, 인공 신경망 소자, large-scale brain-inspired 컴퓨팅 시스템, 인공 지능(AI) 시스템 등에 널리 사용될 수 있다. 또한, 본 발명의 실시 예에 따른 인공 뉴런 소자(100)는 TS와 소수의 수동 소자를 포함하여 설계됨으로, 종래의 Si-MOSFET에 기반을 둔 인공 뉴런 소자에 비해, 전력 소모를 획기적으로 줄일 수 있다.
상술한 내용은 본 발명을 실시하기 위한 구체적인 실시 예들이다. 본 발명은 상술한 실시 예들 이외에도, 단순하게 설계 변경되거나 용이하게 변경할 수 있는 실시 예들도 포함할 것이다. 또한, 본 발명은 실시 예들을 이용하여 용이하게 변형하여 실시할 수 있는 기술들도 포함될 것이다. 따라서, 본 발명의 범위는 상술한 실시 예들에 국한되어 정해져서는 안되며, 후술하는 특허청구범위뿐만 아니라 이 발명의 특허청구범위와 균등한 것들에 의해 정해져야 할 것이다.
Claims (20)
- 입력 단자와 제 1 노드 사이에 연결되는 제 1 저항;
상기 제 1 노드와 접지 단자 사이에 연결되는 커패시터;
상기 제 1 노드와 제 2 노드 사이에 연결되고, 스파이크 전류의 변화를 발생시키는 오보닉 임계 스위치; 및
상기 제 2 노드와 접지 단자 사이에 연결되는 제 2 저항을 포함하되,
상기 입력 단자로 인가되는 입력 전압의 레벨이 증가되는 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 빈도가 증가하는 구간이 발생하는 인공 뉴런 소자. - 제 1 항에 있어서,
상기 입력 단자로 시간에 따라 일정한 레벨의 입력 전압이 인가되는 경우에, 상기 제 1 노드에 막전위(membrane potential)가 형성되고 상기 제 2 노드에 스파이크 전류(spike current)가 흐르는 인공 뉴런 소자. - 삭제
- 제 1 항에 있어서,
상기 입력 단자로 인가되는 입력 전압의 레벨이 일정한 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 사이 간격이 증가하는 SFA 영역이 존재하는 인공 뉴런 소자. - 제 4 항에 있어서,
상기 입력 단자로 인가되는 입력 전압의 레벨이 일정한 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 사이 간격이 결정적인 비선형(deterministic nonlinear) 특성을 갖는 불규칙 영역(irregular region)이 존재하는 인공 뉴런 소자. - 제 5 항에 있어서,
상기 SFA 영역과 상기 불규칙 영역의 상대적인 가중치는 상기 제 1 및 제 2 저항과 상기 커패시터의 값에 따라 달라지는 인공 뉴런 소자. - 제 6 항에 있어서:
상기 불규칙 영역에서 무질서한 행동(chaotic activity) 특성을 갖는 인공 뉴런 소자. - 제 1 항에 있어서,
상기 오보닉 임계 스위치는 상부 전극, TS 재료, 그리고 하부 전극을 포함하고, 상기 TS 재료는 Nb, Ta, V 중에서 적어도 하나를 포함하는 산화물인 인공 뉴런 소자. - 제 1 항에 있어서,
상기 오보닉 임계 스위치는 상부 전극, TS 재료, 그리고 하부 전극을 포함하고, 상기 TS 재료는 Se, Te 중에서 적어도 하나와 Si, Ge, As 중에서 적어도 하나를 포함하는 화합물인 인공 뉴런 소자. - 제 1 항에 있어서,
상기 오보닉 임계 스위치는 문턱 전압(Vth), 홀딩 전압(Vh), 그리고 이전 저항 상태에 따라, 온 저항 상태 또는 오프 저항 상태를 갖는 인공 뉴런 소자. - 제 1 및 제 2 인공 뉴런 소자; 및
상기 제 1 인공 뉴런 소자에서 발생한 전기적 신호를 상기 제 2 인공 뉴런 소자로 전달하는 인공 시냅스를 포함하되,
상기 제 1 인공 뉴런 소자는,
입력 단자와 제 1 노드 사이에 연결되는 제 1 저항;
상기 제 1 노드와 접지 단자 사이에 연결되는 커패시터;
상기 제 1 노드와 제 2 노드 사이에 연결되는 임계 스위치; 및
상기 제 2 노드와 접지 단자 사이에 연결되는 제 2 저항을 포함하되,
상기 입력 단자로 시간에 따라 일정한 레벨의 입력 전압이 인가되는 경우에, 상기 제 1 노드에 막전위(membrane potential)가 형성되고, 상기 제 2 노드에 흐르는 스파이크 전류(spike current)를 상기 전기적 신호로서 상기 인공 시냅스에 제공하는 인공 신경 칩. - 제 11 항에 있어서,
상기 입력 단자로 인가되는 입력 전압의 레벨이 증가되는 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 빈도가 증가하는 구간이 발생하는 인공 신경 칩. - 제 11 항에 있어서,
상기 입력 단자로 인가되는 입력 전압의 레벨이 일정한 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 사이 간격이 증가하는 SFA 영역이 존재하는 인공 신경 칩. - 제 13 항에 있어서,
상기 입력 단자로 인가되는 입력 전압의 레벨이 일정한 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 사이 간격이 결정적인 비선형(deterministic nonlinear) 특성을 갖는 불규칙 영역(irregular region)이 존재하는 인공 신경 칩. - 제 14 항에 있어서,
상기 불규칙 영역에서 상기 제 1 인공 뉴런 소자는 무질서한 행동(chaotic activity) 특성을 갖는 인공 신경 칩. - 제 11 항에 있어서:
상기 임계 스위치는 상부 전극, TS 재료, 그리고 하부 전극을 포함하고,
상기 TS 재료는 Nb, Ta, V 중에서 적어도 하나를 포함하는 산화물이거나, Se, Te 중에서 적어도 하나와 Si, Ge, As 중에서 적어도 하나를 포함하는 화합물인 인공 신경 칩. - 제 11 항의 인공 신경 칩;
상기 인공 신경 칩의 동작을 제어하는 제어 유닛; 및
상기 인공 신경 칩 및 상기 제어 유닛으로 전원을 제공하는 전원 유닛을 포함하는 사용자 장치. - 제 17 항에 있어서,
상기 입력 단자로 인가되는 입력 전압의 레벨이 증가되는 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 빈도가 증가하는 구간이 발생하는 사용자 장치. - 제 17 항에 있어서,
상기 입력 단자로 인가되는 입력 전압의 레벨이 일정한 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 사이 간격이 증가하는 SFA 영역이 존재하는 사용자 장치. - 제 19 항에 있어서,
상기 입력 단자로 인가되는 입력 전압의 레벨이 일정한 경우에, 상기 제 2 노드에 흐르는 스파이크 전류의 스파이크 사이 간격이 결정적인 비선형(deterministic nonlinear) 특성을 갖는 불규칙 영역(irregular region)이 존재하는 사용자 장치.
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020180121698 | 2018-10-12 | ||
KR20180121698 | 2018-10-12 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20200041768A KR20200041768A (ko) | 2020-04-22 |
KR102358622B1 true KR102358622B1 (ko) | 2022-02-04 |
Family
ID=70161394
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020190065926A KR102358622B1 (ko) | 2018-10-12 | 2019-06-04 | 오보닉 임계 스위치를 이용한 인공 뉴런 소자, 그것을 포함하는 인공 신경 칩 및 사용자 장치 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11544541B2 (ko) |
KR (1) | KR102358622B1 (ko) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102358622B1 (ko) * | 2018-10-12 | 2022-02-04 | 한국과학기술연구원 | 오보닉 임계 스위치를 이용한 인공 뉴런 소자, 그것을 포함하는 인공 신경 칩 및 사용자 장치 |
KR102495823B1 (ko) * | 2020-05-29 | 2023-02-06 | 한국과학기술연구원 | 임계 스위치를 이용한 인공 뉴런 소자 |
JP7240077B2 (ja) * | 2021-01-18 | 2023-03-15 | 株式会社ソリトンシステムズ | 差動型ニューロン素子、adコンバータ及びニューラルネットワークシステム |
JP7170109B2 (ja) * | 2021-01-18 | 2022-11-11 | 株式会社ソリトンシステムズ | ニューロン素子、adコンバータ及びニューラルネットワークシステム |
JP7005827B1 (ja) * | 2021-01-18 | 2022-02-14 | 株式会社ソリトンシステムズ | ニューロン素子、adコンバータ及びニューラルネットワーク |
KR102520746B1 (ko) * | 2021-06-30 | 2023-04-13 | 한국과학기술연구원 | 나노 오실레이터 소자 및 이를 이용한 연산 유닛 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5714768A (en) * | 1995-10-24 | 1998-02-03 | Energy Conversion Devices, Inc. | Second-layer phase change memory array on top of a logic device |
US7969769B2 (en) * | 2007-03-15 | 2011-06-28 | Ovonyx, Inc. | Multi-terminal chalcogenide logic circuits |
US7764477B2 (en) * | 2008-03-31 | 2010-07-27 | Ovonyx, Inc. | Electrostatic discharge protection circuit including ovonic threshold switches |
KR101101999B1 (ko) * | 2009-12-23 | 2012-01-02 | 주식회사 하이닉스반도체 | 저항 변화 메모리 장치 |
KR20140008865A (ko) * | 2012-07-12 | 2014-01-22 | 에스케이하이닉스 주식회사 | 저항 변화 메모리 장치 |
US9368205B2 (en) * | 2013-08-26 | 2016-06-14 | Intel Corporation | Set and reset operation in phase change memory and associated techniques and configurations |
US11182670B2 (en) * | 2017-11-16 | 2021-11-23 | International Business Machines Corporation | Thin-film large-area classifier |
US10256271B1 (en) * | 2017-11-30 | 2019-04-09 | International Business Machines Corporation | Phase change memory array with integrated polycrystalline diodes |
WO2019117965A1 (en) * | 2017-12-15 | 2019-06-20 | Intel Corporation | 1s-1r memory cell with non-linear ballast |
US10643705B2 (en) * | 2018-07-24 | 2020-05-05 | Sandisk Technologies Llc | Configurable precision neural network with differential binary non-volatile memory cell structure |
KR102358622B1 (ko) * | 2018-10-12 | 2022-02-04 | 한국과학기술연구원 | 오보닉 임계 스위치를 이용한 인공 뉴런 소자, 그것을 포함하는 인공 신경 칩 및 사용자 장치 |
KR102641097B1 (ko) * | 2018-12-31 | 2024-02-27 | 삼성전자주식회사 | 저항성 메모리 장치 및 저항성 메모리 장치의 프로그램 방법 |
KR102704121B1 (ko) * | 2019-07-30 | 2024-09-05 | 김준성 | 시냅스 소자의 점진적 저항 변화를 제어하는 장치 및 방법 |
-
2019
- 2019-06-04 KR KR1020190065926A patent/KR102358622B1/ko active IP Right Grant
- 2019-07-30 US US16/526,537 patent/US11544541B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
KR20200041768A (ko) | 2020-04-22 |
US11544541B2 (en) | 2023-01-03 |
US20200117983A1 (en) | 2020-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102358622B1 (ko) | 오보닉 임계 스위치를 이용한 인공 뉴런 소자, 그것을 포함하는 인공 신경 칩 및 사용자 장치 | |
Yi et al. | Biological plausibility and stochasticity in scalable VO2 active memristor neurons | |
Covi et al. | HfO2-based memristors for neuromorphic applications | |
KR102230784B1 (ko) | Stdp 동작을 위한 시냅스 회로 및 시냅스 회로를 포함하는 뉴로모픽 시스템 | |
Pershin et al. | Experimental demonstration of associative memory with memristive neural networks | |
US8832011B2 (en) | Electronic synapses from stochastic binary memory devices | |
Jiang et al. | Design and hardware implementation of neuromorphic systems with RRAM synapses and threshold-controlled neurons for pattern recognition | |
US20150278682A1 (en) | Memory controlled circuit system and apparatus | |
CN111967589B (zh) | 神经元模拟电路及其驱动方法、神经网络装置 | |
CN103580668A (zh) | 一种基于忆阻器的联想记忆电路 | |
CN107122828B (zh) | 电路结构及其驱动方法、神经网络 | |
Wang et al. | A configurable artificial neuron based on a threshold-tunable TiN/NbOₓ/Pt Memristor | |
US11568221B2 (en) | Artificial neuron synaptic weights implemented with variable dissolvable conductive paths | |
Zarudnyi et al. | Spike-timing dependent plasticity in unipolar silicon oxide RRAM devices | |
García et al. | Current pulses to control the conductance in RRAM devices | |
CN112906880B (zh) | 一种基于忆阻器的自适应神经元电路 | |
Panwar et al. | Memristive synaptic plasticity in Pr 0.7 Ca 0.3 MnO 3 RRAM by bio-mimetic programming | |
US5422982A (en) | Neural networks containing variable resistors as synapses | |
Pedro et al. | A flexible characterization methodology of RRAM: Application to the modeling of the conductivity changes as synaptic weight updates | |
Afshari et al. | Analyzing the impact of memristor variability on crossbar implementation of regression algorithms with smart weight update pulsing techniques | |
CN108987568B (zh) | 基于钒酸铋颗粒薄膜的神经仿生器件、其制备方法及应用 | |
Donahue et al. | Design and analysis of neuromemristive echo state networks with limited-precision synapses | |
Lin et al. | Capacitor-less RRAM-based stochastic neuron for event-based unsupervised learning | |
Afshari et al. | Unsupervised learning in hexagonal boron nitride memristor-based spiking neural networks | |
KR102495823B1 (ko) | 임계 스위치를 이용한 인공 뉴런 소자 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |