KR102313075B1 - 인공 뉴런 및 멤리스터를 갖는 장치 - Google Patents

인공 뉴런 및 멤리스터를 갖는 장치 Download PDF

Info

Publication number
KR102313075B1
KR102313075B1 KR1020157027232A KR20157027232A KR102313075B1 KR 102313075 B1 KR102313075 B1 KR 102313075B1 KR 1020157027232 A KR1020157027232 A KR 1020157027232A KR 20157027232 A KR20157027232 A KR 20157027232A KR 102313075 B1 KR102313075 B1 KR 102313075B1
Authority
KR
South Korea
Prior art keywords
current
carrier
memristor
neuron
input port
Prior art date
Application number
KR1020157027232A
Other languages
English (en)
Other versions
KR20150128781A (ko
Inventor
실바인 사이기
진 토마스
그웬달 레세프
Original Assignee
유니베르시떼 드 보르도
엥스티튀 폴리테크니크 드 보르도
상뜨르 나쇼날 드 라 러쉐르쉬 샹띠피끄(씨엔알에스)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 유니베르시떼 드 보르도, 엥스티튀 폴리테크니크 드 보르도, 상뜨르 나쇼날 드 라 러쉐르쉬 샹띠피끄(씨엔알에스) filed Critical 유니베르시떼 드 보르도
Publication of KR20150128781A publication Critical patent/KR20150128781A/ko
Application granted granted Critical
Publication of KR102313075B1 publication Critical patent/KR102313075B1/ko

Links

Images

Classifications

    • G06N3/0635
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G06N3/065Analogue means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Feedback Control In General (AREA)
  • Micromachines (AREA)
  • Semiconductor Memories (AREA)
  • Control Of Conveyors (AREA)
  • Preliminary Treatment Of Fibers (AREA)
  • Specific Conveyance Elements (AREA)
  • Spinning Or Twisting Of Yarns (AREA)
  • Image Analysis (AREA)

Abstract

본 인공 뉴런 장치는 적어도 하나의 인공 뉴런과, 뉴런 입구에 연결된 적어도 하나의 전류 운반체와, 전류 운반체에 연결된 적어도 하나의 멤리스터를 포함한다.

Description

인공 뉴런 및 멤리스터를 갖는 장치{UNIT HAVING AN ARTIFICIAL NEURON AND A MEMRISTOR}
본 발명은 인공 뉴런 및 뉴런 네트워크에 관한 것이다.
뉴런 네트워크는 연비 또는 개발 비용 대 성능비 면에서 실용 가능한 기술적 해결책이 없기 때문에 산업부분에서 아직 거의 이용되지 않는다. 뉴런 네트워크가 이용될 때는, 연산들의 연속적인 계산을 실현시키는 통상적인 컴퓨팅 아키텍쳐 내의 소프트웨어에서 구현된다. 따라서, 수행해야 할 연산의 양 때문에 대규모 네트워크 내에서 그 성능이 저하된다. 게다가, 계산 장치 부품이 없는 경우 시스템의 견고함이 약해진다.
보다 효율적인 시스템을 구축하기 위해, 오늘날에는, 살아있는 세포의 작용을 모방하기 위해 이용되는 모델에 대한 일정 어림셈을 수행하여 생물학적 원칙으로부터 영감을 얻으려 하고 있다. 이렇게 해서 특히 활동전위 뉴런 네트워크 (또는 스파이킹 뉴럴 네트워크(spiking neural network))를 이용하게 된 것이다.
따라서, 본 발명은 특히 뇌신경 칩에 관한 것이다. 뇌신경 칩은 아날로그 또는 혼합 뉴런 네트워크를 포함하며, 예를 들어 형태 인식 장치들에서 인공 지능 분야에 사용될 수 있다. 뇌신경 칩은 다음 세 부분을 포함한다: 인공 뉴런들, 시냅스들 및 시냅스 중량(synaptic weight)를 저장하는 기억 소자들. 게다가, 시냅스 중량은 시스템의 다른 부분에서 구현되는 알고리즘 덕에 시스템 학습 기간 동안 변화한다.
이러한 목적으로, 디지털 메모리 포인트를 통해서, 또는 접점 전압을 리프레시 해야 하는 콘덴서 또는 부동 게이트 트랜지스터로 구성된 아날로그 메모리를 통해서 정보를 기억시키는 것을 구상했다. 이 세 가지 해결책은 (위에서 언급한 바와 같이) 시스템의 다른 부분에서 가소성 계산을 수행해야 하고, 계산 결과는 기억해야 할 새로운 값이 된다.
그러나, 이 해결책들은 막대한 전기 소비, 또는 실행의 복잡함, 또는 기억되는 값이 여전히 정확성이 부족하다는 문제를 야기한다.
이러한 불편함을 완화하기 위해, 2008년에 갱신된 멤리스터라고 불리는 새로운 구성 요소 사용이 구상되었다. 이 장치는 비휘발성이며 가해지는 전압에 따라 비선형으로 변화하는 저항을 갖는다. 이 장치에 전압을 가하면, 그 저항이 지속적으로 변화하고, 전압이 사라지는 순간 장치가 저항값을 기억한다. 따라서, 이 장치는 내재적 가소성을 갖는다. 따라서, 이 장치는 인공 시냅스처럼 작동할 수 있다. 이는 크기가 아주 작다(몇 제곱 나노미터)는 이점과, 한 수동 소자(한 저항)에 몇 킬로옴 정도의 아주 적은 전류를 소비한다는 이점을 갖는다. 따라서, 이 구성 요소는 큰 규모의 인공 뉴런 네트워크 구현을 고려할 수 있게 한다. 멤리스터들에 연결된 아날로그 회로 아키텍처에 기초하는 활동전위 뉴런 네트워크로, 부하가 크고 복잡한 작업들을 수행할 수 있는 고성능의 계산 가속기들을 구상할 수 있게 된다.
하지만, 이러한 시스템들의 조정은 아직 초보적이다. 문서 "스파이크 타이밍 의존 가소성에 대한, 멤리스티브 장치 및 자가 학습 시각령 (On spike-timing-dependent-plasticity, memristive devices, and buling a self-learning visual cortex)," C. Zamarreno-Ramos, L. A. Camunas-Mesa, J. A. Perez-Carrasco, T. Masquelier, T. Serrano-Gotarredona, Frontiers in Neuroscience, 권 5, 00026호, 2011은 자극하고 억제하는 시냅스 구현을 위해 활동전위 뉴런 네트워크를 멤리스터와 결합시키기 위한 해결책을 소개한다. 그러나, 기술된 해결책은 두 가지 유형의 시냅스를 얻기 위해서 실리콘 뉴런 디자인을 강력하게 수정할 필요가 있다.
본 발명의 목적은 인공 뉴런 네트워크 내에 사용되는 멤리스터들의 사용을 단순화하고 개선하는 것이다. 더 상세하게, 본 발명은 인공 뉴런 네트워크 내에서 마주치는 시냅스들을 구성하는 [인공 뉴런/멤리스터] 결합을 개선하는 것을 목적으로 한다.
이를 위해,
- 적어도 하나의 인공 뉴런과,
- 뉴런 입구에 연결된 적어도 하나의 전류 운반체와,
- 전류 운반체에 연결된 적어도 하나의 멤리스터
를 포함하는 인공 뉴런 장치가 제안된다.
본 발명의 관점에서, "인공 뉴런"은 기본 프로세서와 같은 전자 계산 회로 또는 데이터 처리 장치를 의미한다. 이러한 전자 회로는 이 회로에 다다른 다양한 전기 신호를 기초로 전기 신호를 생성할 수 있도록 고안된다. 상기 뉴런의 출구에서 생성된 신호는 이처럼 전환 작용에 따른 (활성화 작용 또는 이송 작용이라고도 한다) 입구에서 수신된 데이터의 변환/통합의 결과이다.
다양한 유형의 인공 뉴런 구조 디자인이 당업자들에게는 이미 알려져 있다. 제한적이지 않게, 특히 다음을 언급할 수 있다: Axon-Hillock 회로, Integrate-and-fire 뉴런 회로, Leaky Integrate-and-fire 뉴런 회로, Hodgkin-Huxley 뉴런 회로 (cf. J. Misra 외, Neurocomputing 74 (2010) 239-255; G. Indiveri외, Frontiers in neuroscience 5 (2011) article 73).
게다가, "전류 운반체"(또는 "전류 운반 회로")는 전류 증폭 능동 회로를 의미하며, 이는 통상적으로 두 개의 입력 포트로 X 및 Y, 출력 포트로 Z라고 불리는 세 개의 포트를 갖는다.
오늘날 당업자에게 잘 알려진 전류 운반체의 작동 원칙은 전류와 전압을 세 포트에 연결시키는 행렬 방정식으로 표현될 수 있다.
간략하게, 포트 X의 특성은 Y에 가해진 전압을 자신의 터미널에 복사하는 것이다(VX = VY).
포트 X는 전류 IX용 입구/출구이기도 한다. 포트 Z는 전류 IZ=α.IX.를 공급한다. α> 0을 위해서는, 운반체가 이른바 포지티브 유형이고; α< 0을 위해서는, 운반체가 이른바 네거티브 유형이다.
마지막으로, "인공 뉴런 장치"는 인공 뉴런 네트워크 전체 또는 일부를 구성하거나 구성하게 될 전자 구성 요소의 조합을 의미한다.
따라서, 본 발명은 [인공 뉴런/멤리스터/전류 운반체] 기능적 결합으로 구성된 전자 구성 요소의 조합 또는 [인공 뉴런/멤리스터/전류 운반체] 기능적 결합을 최소한 하나 통합하는 전자 구성 요소의 조합을 대상으로 한다.
따라서, 본 발명에 따른 인공 뉴런 장치는:
- 최소 하나의 출력 포트와 최소 하나의 입력 포트를 갖는 최소 하나의 인공 뉴런과,
- 두 개의 접속 단자를 갖는 최소 하나의 멤리스터를 포함하는데;
상기 장치는 두 개의 입력 포트(X 및 Y)와 하나의 출력 포트(Z)를 갖는 최소 하나의 전류 운반체 또한 포함하는 것을 특징으로 하며; 여기서:
- 상기 멤리스터(즉, 상기 최소 하나의 멤리스터)는 접속 단자 중 하나를 통해 상기 전류 운반체의 입력 포트(X)에 연결되며;
- 상기 전류 운반체(즉, 상기 최소 하나의 전류 운반체)는 출력 포트(Z)를 통해 상기 인공 뉴런(즉, 상기 최소 하나의 인공 뉴런)의 입력 포트에 연결되며;
- 상기 인공 뉴런(즉, 상기 최소 하나의 인공 뉴런)은 출력 포트 중 하나를 통해 상기 전류 운반체의 입력 포트(Y) 또는 상기 멤리스터의 접속 단자 중 다른 하나에 연결된다.
바람직한 한 조립 형태에 따르면:
- 멤리스터가 접속 단자들 중 하나를 통해 상기 전류 운반체의 입력 포트(X)에 연결되고;
- 전류 운반체가 출력 포트(Z)를 통해 인공 뉴런의 입력 포트에 연결되고;
- 인공 뉴런이 출력 포트들 중 하나를 통해 전류 운반체의 입력 포트(Y)에 연결된다.
이처럼, 전류 운반체는 뉴런이 멤리스터로부터 온 전류를 입구에서 받을 수 있도록하고, 동시에 해당 뉴런에서 나온 전압을 멤리스터에 적용한다. 본 운반체의 구성에 의해, 자극 또는 억제로 구현하는 시냅스에 따라서, 앞서 언급된 전류가 입력 또는 출력될 수 있다. 따라서, 본 운반체는 전기 신호를 뉴런에 가하고 동시에 이 뉴런에서 1차 적용의 결과인 신호를 읽을 수 있다.
기능적으로 유사한 한 조립 형태에 따르면:
- 멤리스터가 접속 단자들 중 하나를 통해 전류 운반체의 입력 포트(X)에 연결되고;
- 상기 전류 운반체가 출력 포트(Z)를 통해 인공 뉴런의 입력 포트에 연결되고;
- 상기 인공 뉴런이 출력 포트들 중 하나를 통해 상기 멤리스터의 접속 단자들 중 하나에 연결된다.
조립 형태가 무엇이든 간에, 본 발명에 따른 인공 뉴런 장치는 유리하게 최소한 다음 특징들 중 어느 하나를 갖는다:
- 멤리스터는 전류 운반체의 입력 포트(X)에 직접 연결되며,
- 전류 운반체는 출력 포트(Z)를 통해 인공 뉴런의 입력 포트에 직접 연결되며,
- 인공 뉴런은 출력 포트들 중 하나를 통해 상기 운반체의 입력 포트(Y)에 직접 연결되거나 멤리스터의 한 접속 단자에 직접 연결된다.
또한, 본 발명에 따른 인공 뉴런 장치는 유리하게 최소한 다음 특징들 중 어느 하나를 가질 수 있다:
- 뉴런 또는 뉴런들 중 최소 하나는 활동전위 뉴런이며;
- 뉴런 또는 뉴런들 중 최소 하나는 임계 및 누설 통합 및 발사 뉴런이며;
- 뉴런 또는 뉴런들 중 최소 하나는 단일 출력 포트를 가지며;
- 뉴런 또는 뉴런들 중 최소 하나는 단일 입력 포트를 가지며;
- 운반체 또는 운반체들 중 최소 하나는 2차 생성 전류 운반체이며;
- 운반체 또는 운반체들 중 최소 하나가, 미리 정해진 강도 값 범위 내에서 운반체 입구에서 수취하는 전류의 강도가 어느 정도이든, 운반체에서 나온 전류가 수취한 전류의 강도를 가진 이 상수의 산물과 동일한 강도를 갖는 것처럼 상수가 존재하도록 배열되고(이 상수는 실수이거나, 양수 또는 음수, 정수 또는 비정수일 수 있다).
- 운반체 또는 운반체들 중 최소 하나가 운반체 입구에서 수취하는 전류와 동일한 전류를 운반체 출구에 공급하도록 배치되고;
- 운반체 또는 운반체들 중 최소 하나가 운반체 입구에서 수취되는 전류와 동일한 강도를 가지며 반대 방향을 향하는 전류를 운반체 출구에 공급하도록 배치되고;
- 멤리스터 또는 멤리스터들 중 최소 하나가 접속 단자의 1차 전압이 저항 증가를 야기하고, 1차 전압에 반대 신호를 가진 접속 단자의 2차 전압이 저항 감소를 야기하도록 배치되며; 즉, 양극 프로그래밍 또는 양극 스위칭(bipolar switching) 전압 멤리스터에 대한 것이고;
- 멤리스터 또는 멤리스터들 중 최소 하나가 강유전체 층 멤리스터이고;
- 멤리스터 또는 멤리스터들 중 최소 하나가 전류 운반체 또는 전류 운반체들 중 최소 하나의 입구와 뉴런 또는 뉴런들 중 최소 하나의 출구 사이에 연결되고;
- 장치가 서로 병렬로 접속되고 동일한 전류 운반체의 입력 포트(X)에 연결된 최소 두 개의 멤리스터를 포함하고;
- 장치가 출력 포트(Z)들을 통해 단일하고 동일한 인공 뉴런의 입력 포트에 연결된 최소 두 개의 전류 운반체를 포함하고;
- 장치가 제 1 및 제 2 운반체를 포함하는데, 제 1 운반체는 제 1 운반체 입구에서 수취되는 전류와 동일한 전류를 제 1 운반체 출구에 제공하도록 배치되고, 제 2 운반체는 제 2 운반체 입구에서 수취되는 전류와 동일한 강도를 가지며 반대 방향으로 향하는 전류를 제 2 운반체 출구에 제공하도록 배치되며;
- 장치가 제 1 전류 운반체에 연결된 최소 두 개의 멤리스터와 제 2 전류 운반체에 연결된 최소 두 개의 다른 멤리스터를 포함하며;
- 장치가 횡분기 멤리스터 네트워크 내에 배치되는 멤리스터들을 포함한다.
본 발명은 특히 본 발명에 따른 장치를 최소 하나 포함하는 모든 장치에도 확장된다.
이제 첨부된 도면을 참조로 제한되지 않는 예로서 본 발명의 실시 형태들을 소개한다;
- 도 1 및 2는 멤리스터에 가해지는 양극 전압 펄스에 따른 멤리스터 저항의 변화를 도시하는 절선 그래프들이며;
- 도 3은 본 발명의 범위 내에서 사용된 활동전위 형태를 도시하는 절선 그래프이며;
- 도 4는 도 3에 도시된 활동전위의 경우 도 1과 유사한 절선 그래프를 나타내며;
- 도 5는 멤리스터, 전류 운반체 및 뉴런의 조합을 보여주는 본 발명에 따른 장치 일부의 개략도이며;
- 도 6, 7 및 8은 도 5 개략도의 적용 예들을 보여주는 개략도이며;
- 도 9는 도 8의 개략도를 이용한 시뮬레이션을 통해 얻어진 실험 절선 그래프를 보여주며;
- 도 10은 도 5 개략도의 실시 변형을 도시한다.
멤리스터들은 그 값이 멤리스터를 통과하는 전하에 좌우되는 저항을 갖는 구성 요소이다. 이 경우, 멤리스터를 통과하는 전류가 많을수록, 저항 값이 감소한다. 이 저항 값은 비휘발성이다.
우리는 여기서 유리하게 출원 제 WO 2010/142762 호에 기술된 바와 같은 강유전체 층 멤리스터를 사용한다. 이 구성 요소에서, 저항 값의 변화는 전자적 효과들에만 좌우되며, 따라서, 구성 요소를 그 자체로 보존한다. 이 구성 요소는 기존 해결책들과 달리 근본적으로 물리적 개념에 기초를 둔다: 터널 효과 접합점 강유전체.
도 1에서는, 시간의 흐름에 따라, 도면의 아래쪽에서 멤리스터의 접속 단자에 가해지는 전압 펄스(Vwrite)를 도시했고, 도면의 위쪽에서는 구성 요소의 저항(Rmemristor)을 도시했다. 이런 식으로, 우선 2.7V의 일련의 포지티브 펄스를 가하고, 그 후 -2.9V의 일련의 네거티브 펄스를 가한다. 그리고 나서, 이 일련의 과정을 다시 시작한다. 포지티브 펄스의 수에 따라 저항 값이 증가하는 것을 관찰한다. 그리고 나면, 그 감소가 네거티브 펄스의 수에 마찬가지로 비례한다. 이러한 특징은 시냅스 중량이 포텐셜 차원에서 활동성에 따라 변화하는 뉴런 네트워트에 이용된다. 비대칭은 장치의 구성에 기인한다. 도 2에서, 포지티브 및 네거티브 펄스의 진폭은 각각 2.8V 및 -3V가 된다. 저항의 증가 및 감소가 보다 빠르다. 게다가, 흥미로운 다른 특성이 존재한다: -2.45V와 1.3V 사이에 위치하는 펄스의 진폭은 양극 멤리스터의 저항 값을 변화시키지 않는다. 따라서, 읽기 및 쓰기 형태가 멤리스터에 가해지는 전압에 좌우된다. 이 두 개의 특성이 가소성 척도 수행을 위해 이용된다.
아래에 뉴런 네트워크의 가소성에 대한 몇 가지 표시를 제공한다. 학습 메커니즘은 네트워크의 시냅스 가소성에 직접적으로 연결된다. 인공 계산 네트워크에서는, 일반적으로 스파이크 타이밍 의존 가소성(spike-timing dependent plasticity)(STDP)이라고도 부르는 활동전위(spike) 리듬에 좌우되는 가소성을 이용한다. 이는 시냅스 전 및 후 활동전위 시간에서의 일련의 작용에 좌우되는 시냅스 변형 유형에 관한 것이다. 따라서 Δt = tpost - tpre로 정의되며, 여기서 tpre는 시냅스전 뉴런 사건의 순간을 나타내며, tpost는 시냅스후 뉴런 사건 순간을 나타낸다. 이 간격이 포지티브일 때, 장기 상승 작용(long-term potentiation LTP) 현상학이 시냅스 중량을 상승시키고, 그 간격이 네거티브일 때, 장기 억압(long-term depression LTD) 메커니즘이 시냅스 중량을 감소시킨다.
본 발명의 현 시행 범위 내에서는, 시냅스 전 및 후 뉴런들 사이의 각 시냅스가 하나의 멤리스터를 포함한다. 그 특성들 덕분에, 활동전위 리듬에 좌우되는 두 가소성 순간 사이의 차이가 전위차(Vmemristor), 즉, 멤리스터 접속 단자에서의 전위차로 전환된다. 따라서, 뉴런 활동전위의 형태 및 진폭이 핵심적이다. 따라서, 시냅스 중량과 동일한 멤리스터의 컨덕턴스는 시냅스 전 및 후 사건들이 짧은 시간 창문 내에 생성될 때에만 변화할 것이며, 이는 이전 및 이후에 위치하는 뉴런들 사이 전압이 중량 변화를 야기하기에 충분한 것을 의미한다. 단순 활동전위의 경우, 활동전위 전압이 [-2.45V 및 1.3V] 범위 사이에 있으며, 중량 변화를 일으키지 않는다.
우리는 이 경우에, 도 3에 도시된 활동전위 형태를 사용한다. 이 형태는 두 개의 상으로 나뉠 수 있다. 포지티브 전위에 해당하는 제 1 상은 일반 활동전위로 여겨질 수 있으며 그 지속 기간(tspike)이 컨덕턴스의 잠재적 변화를 위해 멤리스터의 접속 단자에 가해지는 전압 펄스의 폭을 결정한다. 제 2 상은 네거티브 전압에 해당하며 장기 상승 작용 및 장기 억압이 고려되는 도중에 시간 창문을 정의하는 지속 기간 tLTx를 갖는다. 이 경우에, 우리는 이 두 현상의 지속 기간(tLTP 및 tLTD)이 동일하다는 것을 추정하게 된다. 활동전위의 가장 높은 전압 값과 가장 낮은 전압 값을 각각 형성하는 값들(Aspk 및 Aoffsetmax)은 활동전위가 절연될 때 멤리스터의 컨덕턴스 변화가 발생하지 않도록 조절된다. 그러나, 전압(Aspk - Aoffsetmax)은 시냅스 중량의 변화를 야기할 만틈 충분히 크다.
도 4의 상부는 멤리스터에 가해지는 전압(Vmemristor)과 시냅스 전 및 후 활동전위 사이의 순간 차(Δt) 간의 부합을 보여준다.
하부에서 본 도면은, 각각 10μS, 5μS 및 0.1μS과 동일한 컨덕턴스 초기값들을 위한 Δt에 따른 멤리스터 컨덕턴스의 변화(Δw)를 도시한다. 이 점에 관해서, 멤리스터의 이력 현상 효과가 관찰된다. 이 절선 그래프들은 양극 멤리스터에서 STDP 표시를 나타낸다.
시냅스 전 및 후 활동전위를 분리하는 지속 기간은 도 4의 상부에 도시된 바와 같이 멤리스터에 가해지는 전압이 된다. 선택된 활동전위 형태를 고려하여, Δt = tpost - tpre 절대값이 제로에 가까울수록, 전압이 더 크다. 하지만, Δt가 포지티브일 때, 저항이 감소하고 컨덕턴스(시냅스 중량)가 증가하고 그 반대가 되도록, 전위 차가 네거티브이다.
도 5에는 본 발명에 따른 뉴런 장치(2)의 한 예를 도시했다. 본 예는 앞서 언급한 바와 같은 멤리스터(4)와 전류 운반체(6)와 인공 뉴런(8)을 포함한다. 멤리스터(4)는 뉴런 8을 향한 뉴런 10의 자극 시냅스 역할을 하도록 배치된다.
전류 운반체(6)는 제 2 발생 전류 운반체 또는 CCII이다. 운반체는 입구(X 및 Y)와 출구(Z)를 포함한다. 잘 알려진 대로, 이 전자 구성 요소는 다음 방식으로 작동한다. 전위가 입구 Y에 가해지면, 이 전위가 입구 X에 복사된다. 게다가, 운반체는, 미리 정해진 강도 값 범위 내에서 운반체 입구에서 수취하는 전류의 강도가 어느 정도이든, 운반체에서 나온 전류가 수취한 전류의 강도를 가진 이 상수의 산물과 동일한 강도를 갖는 것처럼 상수가 존재하도록 배열된다. 이 상수는 양수 또는 음수, 정수 또는 비정수일 수 있으며, 예를 들어 절대값으로 1, 2, 10과 동일할 수 있다. 이 경우에, 운반체가 CCII+ 유형이냐 CCII- 유형이냐에 따라, 입구 X를 통해 들어온 전류가 출구 Z로 나가도록 복사되거나, 동일한 강도를 가졌으나 반대 방향을 향하는 전류가 출구 Z로 나간다. 따라서, 상수 값이 1 또는 -1이다. 멤리스터(4)는 운반체 입구 X에 연결된다.
뉴런(8)은 실리콘 아날로그 뉴런이다. 여기서는 누설 통합 및 발사 뉴런(leaky integrate and fire neurone 또는 LIF)에 관한 것이다. 이런 유형의 뉴런은 실리콘 뉴런 영역과 계산 자료의 효율성 사이의 양호한 타협을 이룬다. 뉴런 막 콘덴서는, 자극 또는 억제 시냅스에 의해 활동전위가 전달될 때 충전되거나 방전된다. 이 경우에, 충전은 활동전위의 네거티브 부분에 의해 수행된다. 뉴런은 막의 전압이 미리 결정된 한계를 넘을 때 시작, 즉, 활동전위를 발생시킨다.
운반체의 출구(Z)는 뉴런(8)의 입구에 연결된다. 또한, 뉴런의 출구는 운반체의 입구(Y)에 연결된다.
이러한 조립은, 계산 기능들을 충족시킬 수 있는 대규모 뉴런 네트워크를 설계하는 목적으로, 네트워크 내에서 여러 개로 쉽게 복제할 수 있고, 자극 또는 억제 시냅스와 함께 이용될 수 있는 일반적인 조립이다.
전류 운반체의 특성들 덕에, 입구 X에 가해진 전위가 입구 Y에 가해지고 시냅스 후 전위(Vpost)에 상응하는 전위를 뒤따른다. 따라서, 멤리스터 접속 단자의 전압은 Vpre-Vpost이다. 시냅스 전류(isyn)인 입구 X에 공급되는 전류는 자극 시냅스 범위의 포지티브 극성을 가지거나 억제 시냅스 범위의 네거티브 극성을 가지고 출구 Z에 공급된다. 그때부터, 멤리스터의 전류(isyn)가 계속해서 운반체로 도입되고, 시냅스가 자극성이냐 억제성이냐에 따라, Z로 나온 전류(imem)가 isyn과 동일하거나 -isyn과 동일하다. 시냅스 유형의 선택은 포지티브 또는 네거티브 극성을 가지고 운반체를 조절하는 구성의 1비트(미도시) 덕분에 수행된다.
이 해결책은 도 6 및 7에 도시된 바와 같이 행렬 매트리스 내에서 횡 위치에 멤리스터(4)들을 배치하는 대규모 뉴런 네트워크로 확장될 수 있는 이점을 가진다.
이처럼, 도 6에서는 멤리스터(4)들(W11, W12, W21 및 W22)을 포함하는 일반적인 조립을 소개했다. 여기서, 이 멤리스터들은 설명의 명확성을 위해 네 개이지만, 그 수가 증가될 수 있다는 것은 자명하다.
매트리스의 동일한 1행을 차지하는 멤리스터 W11과 W21은 동일 전위(Vpre1)에 연결되는 접속 단자를 갖는다. 마찬가지로, 매트리스의 동일한 2행을 차지하는 다른 두개의 멤리스터 W12와 W22는 동일한 전위(Vpre2)에 연결되는 접속 단자를 갖는다.
이 조립은 자극 또는 억제성의 동일하거나 다른 두 개의 전류 운반체(6)를 포함한다.
매트리스의 동일한 1열에 위치하는 멤리스터 W11 및 W12의 다른 접속 단자는 제 1 운반체(6)의 입구(X)에 연결되고, 매트리스의 동일한 2열에 위치하는 멤리스터 W21 및 W22의 다른 접속 단자는 제 2 운반체(6)의 입구(X)에 연결된다.
제 1 운반체(6)는 출구(Z)에서 각각 멤리스터 W11과 W12를 가로지르는 전류들 i(W11) 및 i(W12)의 총합인 전류 imem1를 발생시킨다. 이 전류 imem1는 제 1 인공 뉴런(8)으로 전달된다.
제 2 운반체는 출구(Z)에서 각각 멤리스터 W21과 W22를 가로지르는 전류들 i(W21) 및 i(W22)의 총합인 전류 imem2를 발생시킨다. 이 전류 imem2는 제 2 인공 뉴런(8)으로 전달된다.
도 7에서는, 네 개의 멤리스터(W1i1, W1e1, W1i2, W1e2)를 포함하는 조립을 소개했다.
위에서부터 시작해서 매트리스의 동일한 1행을 차지하는 멤리스터 W1i1 및 W1e1는 동일한 전위(Vpre1)에 연결되는 접속 단자를 갖는다. 마찬가지로, 매트리스의 동일한 2행을 차지하는 다른 두 개의 멤리스터 W1i2 및 W1e2는 동일한 전위(Vpre2)에 연결되는 접속 단자를 갖는다.
이 조립은 각각 CCII+ 및 CCII- 유형의 두 개의 전류 운반체(6)를 포함한다.
매트리스의 동일한 1열에 위치하는 멤리스터 W1i1 및 W1i2의 다른 접속 단자는 억제 운반체(6)의 입구(X)에 연결되고, 매트리스의 동일한 2열에 위치하는 멤리스터 W1e1 및 W1e2의 다른 접속 단자는 자극 운반체(6)의 입구(X)에 연결된다. 자국 운반체(6)는 출구(Z)에서 각각 멤리스터 W1e1과 W1e2를 가로지르는 전류들 i(W1e1) 및 i(W1e2)의 총합인 전류 imem1를 발생시킨다. 억제 운반체는 출구(Z)에서 각각 멤리스터 W1i1과 W1i2를 가로지르는 전류들 i(W1i1) 및 i(W1i2)의 총합인 전류 imem2를 발생시킨다. 운반체들의 후속 부분에서 두 개의 전류 imem1과 imem2는 더해져서 동일한 뉴런(8)으로 전달된다.
시뮬레이션을 위해 사용된 조립의 다른 예가 도 8에 도시된다. 이 네트워크는 두 개의 시냅스전 뉴런(10)(N1 및 N2)과 하나의 시냅스후 뉴런(8)(N3)를 포함하는데, 이들 모두는 통합 및 발사 뉴런이다. 두 개의 시냅스전 뉴런(10)은 각각 하나의 멤리스터(4)를 포함하는 자극 시냅스(W31)과 억제 시냅스(W32)를 통해 시냅스후 뉴런(8)에 연결된다. 각각의 멤리스터에는 멤리스터와 시냅스후 뉴런 사이에 배치된 전류 운반체가 결합되며, 이는 도시되지 않았다. 운반체들과 뉴런들은 Austramicrosystems 사의 0.18μm의 CMOS 기술에 따라 설계된다. 각 멤리스터(4)는 Veiloga 언어로 된 멤리스터 모델 형태의 시뮬레이션을 위해 모델화 된다. 시뮬레이션들은 Cadence 사의 Analog Design Environment 도구와 동 회사의 시뮬레이터 스펙터를 이용해 수행되었다.
시뮬레이션들의 결과가 도 9에 도시된다. 도 9는 멤리스터들과 뉴런들의 접속 단자에서의 시간에 따른 전위 변화 또는 전위차 변화를 도시하는 절선 그래프들을 나타낸다.
절선 그래프 N1은 뉴런(N1)에 의해 규칙적인 리듬으로 발생된 활동전위들을 보여주며, 이 전위들은 각각 도 3에 도시된 형태를 갖는다.
따라서, 절선 그래프 N'3에 나타난 바와 같이, 멤리스터 W31과 결합된 자극 시냅스가 N3 뉴런 막 콘덴서를 충전한다. 뉴런 N1의 연속적인 두 개의 활동전위 사이에서, 누설 통합 및 발사 뉴런과 관련된 누설 전류 때문에, N3 막의 전압이 천천히 낮아진다. 대략 9μs에서, 이 전압이 N3 뉴런을 시동시키는 한계에 이른다. 따라서 뉴런이 활동전위를 발생시키고 그의 막 전압이 리셋된다. 이 순간, tN3-tN1 차가 포지티브이고 따라서 멤리스터의 컨덕턴스가 절선 그래프 W31에 나타난 바와 같이 변화하고 증가하는 것이 관찰된다. 이전에, 이 컨덕턴스는 일정했다.
대략 13.5μs 순간에, 뉴런 N2가 활동전위를 전달하면, 억제 시냅스(w32)가 뉴런 N3의 막 콘덴서를 방전시킨다. 이 경우, 시냅스후 뉴런 N3은 시작되지 않으며, 일정한 컨덕턴스(w32)도 변화하지 않는다.
대략 21μs에서, 뉴런 N1의 활동전위들이 하나의 시냅스후 활동전위를 발생시킨다. 순간의 차 tN3-tN1가 포지티브이고 따라서 컨덕턴스 w31이 다시 증가하고 N3 막의 전위가 리셋된다.
몇 백 나노 초 후에, 뉴런 N2가 활동전위를 전송한다. 그리고 나서, 뉴런 N3의 막 전압이 억제 시냅스의 전류 때문에 계속 감소한다. 이 경우, 차 tN3-tN2가 네거티브이고, 컨덕턴스 W32가 감소한다.
도 10에서는, 도 5 조립의 변형을 구성하는 조립을 도시했다. 전과 마찬가지로, 멤리스터(4)가 운반체(6)의 입구(X)에 연결된다. 하지만, 이번에는 멤리스터가 뉴런(8)의 출구에도 연결된다. 시냅스전 뉴런(10)의 전위(Vpre)가 운반체의 입구(Y)에 가해진다. 조립의 나머지 부분은 동일하다.
기능은 도 5와 동일하다. 사실, 운반체(6)가 입구 Y의 전위(Vpre)를 입구 X를 향해 복사해, 멤리스터의 접속 단자들이 전위차(Vpost-Vpre)를 갖도록 한다. 이 차이는 멤리스터 컨덕턴스 값을 수정하며, 이는 구현된 시냅스 중량을 나타낸다.
운반체는 멤리스터를 가로질러 Z극으로 전류(isyn)를 복사하여, 운반체 유형에 따라, 즉, 자극 시냅스를 구현하느냐 또는 억제 시냅스를 구현하느냐에 따라서, imem = α.isyn 또는 imem = -α.isyn가 되도록 한다.
본 발명은 자극 또는 억제 시냅스를 구현하기 위해 인공 뉴런 네트워크에서 멤리스터의 가소성 현상을 사용할 수 있게 한다. 따라서, 본 발명은 뉴런 네트워크에서 자극 또는 억제 가소성 멤리스터 시냅스들을 사용할 수 있게 한다.
또한, 본 발명은 실리콘 표면을 거의 사용하지 않는 해결책을 제공한다.
이러한 뉴런 네트워크들은 인식, 탐색 및 통합 작업들에서 사용될 수 있으며, 보다 일반적으로, 정보 처리 응용 프로그램들에서 사용될 수 있다.
물론, 본 발명의 범위에서 벗어나지 않는 한, 본 발명은 다양하게 변형될 수 있다.

Claims (14)

  1. - 최소 하나의 출력 포트와 최소 하나의 입력 포트를 갖는 최소 하나의 인공 뉴런(8)과,
    - 두 개의 접속 단자를 갖는 멤리스터(4)를 최소 하나 포함하는
    인공 뉴런 장치(2)로서;
    두 개의 입력 포트 X 및 Y와 하나의 출력 포트 Z를 갖는 최소한 하나의 전류 운반체(6) 또한 포함하며:
    - 상기 멤리스터(4)가 접속 단자들 중 하나를 통해 상기 전류 운반체(6)의 입력 포트 X에 연결되고;
    - 상기 전류 운반체(6)가 출력 포트 Z를 통해 상기 인공 뉴런(8)의 입력 포트에 연결되고;
    - 상기 인공 뉴런(8)이 출력 포트들 중 하나를 통해 상기 전류 운반체(6)의 입력 포트 Y 또는 상기 멤리스터(4)의 접속 단자들 중 다른 하나에 연결되는 것을 특징으로 하는 인공 뉴런 장치.
  2. 제1항에 있어서, 상기 인공 뉴런(8)이 활동전위 뉴런인 장치.
  3. 제1항에 있어서, 상기 뉴런(8)이 통합 및 발사 뉴런인 장치.
  4. 제1항에 있어서, 상기 뉴런(8)이 단일 출력 포트를 갖는 장치.
  5. 제1항에 있어서, 상기 뉴런(8)이 단일 입력 포트를 갖는 장치.
  6. 제1항에 있어서, 상기 전류 운반체(6)가 2차 생성의 운반체인 장치.
  7. 제1항에 있어서, 상기 운반체(6)가 미리 정해진 강도 값 범위 내에서 운반체 입구에서 수취하는 전류의 강도가 어느 정도이든, 운반체에서 나온 전류가 수취한 전류의 강도를 가진 이 상수의 산물과 동일한 강도를 갖는 것처럼 상수가 존재하도록 배열되는 장치.
  8. 제1항에 있어서, 상기 운반체(6)가 운반체 입구에서 수취하는 전류와 동일한 전류를 운반체 출구에 공급하도록 배치되거나, 수취되는 전류와 동일한 강도를 가지며 반대 방향을 향하는 전류를 운반체 출구에 공급하도록 배치되는 장치.
  9. 제1항에 있어서, 상기 멤리스터(4)가 강유전체 층 멤리스터인 장치.
  10. 제1항에 있어서:
    - 상기 멤리스터(4)가 접속 단자들 중 하나를 통해 상기 전류 운반체(6)의 입력 포트 X에 연결되고;
    - 상기 전류 운반체(6)가 출력 포트 Z를 통해 상기 인공 뉴런(8)의 입력 포트에 연결되고;
    - 상기 인공 뉴런(8)이 출력 포트들 중 하나를 통해 상기 전류 운반체(6)의 입력 포트 Y에 연결되는 장치.
  11. 제1항에 있어서, 서로 병렬로 접속되고 동일한 전류 운반체(6)의 입력 포트 X에 연결된 최소 두 개의 멤리스터(4)를 포함하는 장치.
  12. 제1항에 있어서, 출력 포트 Z들을 통해 단일하고 동일한 인공 뉴런(8)의 입력 포트에 연결된 최소 두 개의 전류 운반체(6)를 포함하는 장치.
  13. 제1항에 있어서, 제 1 및 제 2 운반체(6)를 포함하는데, 제 1 운반체는 제 1 운반체 입구에서 수취되는 전류와 동일한 전류를 제 1 운반체 출구에 제공하도록 배치되고, 제 2 운반체(6)는 제 2 운반체 입구에서 수취되는 전류와 동일한 강도를 가지며 반대 방향으로 향하는 전류를 제 2 운반체 출구에 제공하도록 배치되는 장치.
  14. 제1항에 있어서, 횡분기 멤리스터 네트워크 내에 배치되는 멤리스터(4)들을 포함하는 장치.
KR1020157027232A 2013-03-05 2014-03-05 인공 뉴런 및 멤리스터를 갖는 장치 KR102313075B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
FR1351979 2013-03-05
FR1351979A FR3003062B1 (fr) 2013-03-05 2013-03-05 Organe a neurone artificiel et memristor
PCT/FR2014/050503 WO2014135801A1 (fr) 2013-03-05 2014-03-05 Organe à neurone artificiel et memristor

Publications (2)

Publication Number Publication Date
KR20150128781A KR20150128781A (ko) 2015-11-18
KR102313075B1 true KR102313075B1 (ko) 2021-10-18

Family

ID=48170760

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020157027232A KR102313075B1 (ko) 2013-03-05 2014-03-05 인공 뉴런 및 멤리스터를 갖는 장치

Country Status (5)

Country Link
US (1) US10366326B2 (ko)
EP (1) EP2965269B1 (ko)
KR (1) KR102313075B1 (ko)
FR (1) FR3003062B1 (ko)
WO (1) WO2014135801A1 (ko)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10198691B2 (en) 2014-06-19 2019-02-05 University Of Florida Research Foundation, Inc. Memristive nanofiber neural networks
US9830981B2 (en) * 2015-01-14 2017-11-28 International Business Machines Corporation Neuromorphic memory circuit using a leaky integrate and fire (LIF) line to transmit axon LIF pulse and a conductive denrite LIF line
US10318861B2 (en) 2015-06-17 2019-06-11 International Business Machines Corporation Artificial neuron apparatus
US10713562B2 (en) 2016-06-18 2020-07-14 International Business Machines Corporation Neuromorphic memory circuit
US10423878B2 (en) * 2016-09-07 2019-09-24 International Business Machines Corporation Artificial neuron apparatus
WO2018081600A1 (en) * 2016-10-27 2018-05-03 University Of Florida Research Foundation, Inc. Learning algorithms for oscillatory memristive neuromorphic circuits
KR20180048109A (ko) 2016-11-02 2018-05-10 삼성전자주식회사 뉴럴 네트워크 변환 방법 및 이를 이용한 인식 장치
CN108229669A (zh) * 2016-12-15 2018-06-29 许富菖 神经网络阵列的自学习
CN107122828B (zh) * 2017-05-09 2020-05-05 清华大学 电路结构及其驱动方法、神经网络
US11461620B2 (en) 2017-07-05 2022-10-04 Samsung Electronics Co., Ltd. Multi-bit, SoC-compatible neuromorphic weight cell using ferroelectric FETs
US11276820B2 (en) * 2017-10-19 2022-03-15 Ryukoku University Memristor and neural network using same
CN109461814B (zh) * 2018-10-09 2023-03-24 河北大学 一种基于氧化锌的忆阻器及其制备方法和在制备神经突触仿生器件中的应用
CN112130057B (zh) * 2020-09-14 2024-04-16 哈尔滨工业大学(威海) 基于忆阻器神经网络的辐射效应诊断系统
CN116720553B (zh) * 2023-06-12 2024-03-26 湖南大学 一种基于hh模型设计的t型和p型忆阻神经元电路

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5206541A (en) * 1991-04-30 1993-04-27 The Johns Hopkins University Current-mode based analog circuits for synthetic neural systems
FR2946788B1 (fr) * 2009-06-11 2016-11-11 Thales Sa Dispositif a resistance ajustable.
KR101888468B1 (ko) * 2011-06-08 2018-08-16 삼성전자주식회사 Stdp 기능 셀을 위한 시냅스, stdp 기능 셀 및 stdp 기능 셀을 이용한 뉴로모픽 회로
FR2977351B1 (fr) * 2011-06-30 2013-07-19 Commissariat Energie Atomique Methode d'apprentissage non supervise dans un reseau de neurones artificiel a base de nano-dispositifs memristifs et reseau de neurones artificiel mettant en oeuvre la methode.
US8930291B1 (en) * 2012-05-03 2015-01-06 Hrl Laboratories, Llc Cortical neuromorphic network, system and method

Also Published As

Publication number Publication date
EP2965269A1 (fr) 2016-01-13
FR3003062B1 (fr) 2015-06-05
WO2014135801A1 (fr) 2014-09-12
EP2965269B1 (fr) 2018-08-22
US10366326B2 (en) 2019-07-30
US20160004960A1 (en) 2016-01-07
KR20150128781A (ko) 2015-11-18
FR3003062A1 (fr) 2014-09-12

Similar Documents

Publication Publication Date Title
KR102313075B1 (ko) 인공 뉴런 및 멤리스터를 갖는 장치
US8515885B2 (en) Neuromorphic and synaptronic spiking neural network with synaptic weights learned using simulation
US9418331B2 (en) Methods and apparatus for tagging classes using supervised learning
US9959499B2 (en) Methods and apparatus for implementation of group tags for neural models
WO2012006469A1 (en) Methods and systems for three-memristor synapse with stdp and dopamine signaling
EP3000076A2 (en) Efficient hardware implementation of spiking networks
WO2015020802A2 (en) Computed synapses for neuromorphic systems
CA2926824A1 (en) Implementing synaptic learning using replay in spiking neural networks
Milo et al. Attractor networks and associative memories with STDP learning in RRAM synapses
WO2015148369A2 (en) Invariant object representation of images using spiking neural networks
KR20160125967A (ko) 일반적인 뉴런 모델들의 효율적인 구현을 위한 방법 및 장치
Huang et al. Memristor neural network design
KR20170080431A (ko) 뉴로모픽 소자 및 뉴로모픽 소자의 저항 변화율을 조절하는 방법
Zhou et al. A fully memristive spiking neural network with unsupervised learning
CA2926034A1 (en) Dynamically assigning and examining synaptic delay
WO2015023441A2 (en) Post ghost plasticity
Soures et al. On-device STDP and synaptic normalization for neuromemristive spiking neural network
WO2014197175A2 (en) Efficient implementation of neural population diversity in neural system
Elhamdaoui et al. The EGM Model and the Winner-Takes-All (WTA) Mechanism for a Memristor-Based Neural Network
Kianpour et al. Emulating a central pattern generator (CPG) using CMOS neuron and memristor-based synapse
Meyer et al. Verilog-A model of ferroelectric memristors dedicated to neuromorphic design
Xie et al. A handwritten numeral recognition method based on STDP based with unsupervised learning
KR102575847B1 (ko) 스파이크 타이밍 의존 가역성의 기재 방법 및 시냅스 어레이 장치
Wenke et al. Novel spiking neural network utilizing short-term and long-term dynamics of 3-terminal resistive crossbar arrays
Vincan et al. All-memristive Spiking Neural Network Circuit Simulator

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right