KR20180092342A - 인공 신경망 장치 및 그것의 동작 방법 - Google Patents

인공 신경망 장치 및 그것의 동작 방법 Download PDF

Info

Publication number
KR20180092342A
KR20180092342A KR1020170017745A KR20170017745A KR20180092342A KR 20180092342 A KR20180092342 A KR 20180092342A KR 1020170017745 A KR1020170017745 A KR 1020170017745A KR 20170017745 A KR20170017745 A KR 20170017745A KR 20180092342 A KR20180092342 A KR 20180092342A
Authority
KR
South Korea
Prior art keywords
spike
input
weight
signals
spike signals
Prior art date
Application number
KR1020170017745A
Other languages
English (en)
Inventor
김주엽
김병조
김진규
이미영
김성민
이주현
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to KR1020170017745A priority Critical patent/KR20180092342A/ko
Priority to US15/868,889 priority patent/US20180225563A1/en
Publication of KR20180092342A publication Critical patent/KR20180092342A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Neurology (AREA)
  • Feedback Control In General (AREA)

Abstract

본 발명은 인공 신경망 장치에 관한 것이다. 본 발명의 인공 신경망 장치는 프리-시냅틱 뉴런과 포스트-시냅틱 뉴런을 포함할 수 있다. 프리-시냅틱 뉴런은 복수의 입력 스파이크 신호들을 생성할 수 있으며, 포스트-시냅틱 뉴런은 복수의 시구간들 동안 복수의 입력 스파이크 신호들을 수신하여 출력 스파이크 신호를 생성할 수 있다. 포스트-시냅틱 뉴런은, 복수의 입력 스파이크 신호들 중, 출력 스파이크 신호의 생성을 야기하는 입력 스파이크 신호들이 수신되는 기준 시구간과의 인접도에 따라, 복수의 시구간들 각각에 대해 서로 다른 가중치를 부여할 수 있다.

Description

인공 신경망 장치 및 그것의 동작 방법{ARTIFICIAL NEURAL NETWORK DEVICE AND METHOD OF OPERATING THE SAME}
본 발명은 인공 신경망 장치에 관한 것으로, 좀 더 상세하게는, 입력 스파이크 신호들이 수신되는 타이밍에 따라 가중치가 부여되는 인공 신경망 장치에 관한 것이다.
본 발명은 인공 신경망 장치에 관한 것으로, 좀 더 상세하게는, 입력 스파이크 신호들이 수신되는 타이밍에 따라 가중치가 부여되는 인공 신경망 장치의 동작 방법에 관한 것이다.
최근 인공 지능(artificial intelligence; AI)의 개발과 함께, 인공 신경망에 대한 연구도 활발히 진행되고 있다. 인공 신경망의 기능 또는 성능은 인공 신경망의 논리 연산 단위인 퍼셉트론들 간의 연결 강도에 따라 결정된다. 퍼셉트론(perceptron)들 사이의 연결 강도는 퍼셉트론으로의 입력 데이터와 가중치 (또는 학습된 파라미터 값)의 곱으로 모델링 되었다. 이러한 기존의 모델링 방법에 의하면, 인공 신경망 장치를 구성하는 모든 뉴런들이 동시에 동기화 되거나, 또는 뉴런으로의 입력 신호 (또는 뉴런으로부터의 출력 신호)의 크기 값에만 가중치가 결정된다는 문제가 있다.
일반적으로 인간 또는 동물의 신경계를 구성하는 생체 뉴런은 입출력 스파이크 신호의 타이밍 정보에 의존한다. 즉, 단순히 스파이크 신호의 크기뿐만 아니라, 스파이크 신호가 입력되거나 출력되는 타이밍도 중요하다. 따라서, 인간의 신경계에서 일어나는 학습법인 STDP (Spike Time Dependent Plasticity)를 구현할 수 있는 인공 신경망 장치를 개발하는 것은 매우 중요하다.
본 발명의 목적은 입력 스파이크 신호들이 수신되는 타이밍에 따라 다양한 값의 가중치를 부여함으로써, 인간의 뇌를 보다 상세하게 구현하는 인공 신경망 장치 및 그것의 동작 방법을 제공하는데 있다.
본 발명의 실시 예에 따른 인공 신경망 장치는, 복수의 입력 스파이크 신호들을 생성하는 프리-시냅틱 뉴런, 그리고 복수의 시구간들 동안 상기 복수의 입력 스파이크 신호들을 수신하여 출력 스파이크 신호를 생성하는 포스트-시냅틱 뉴런을 포함할 수 있다. 상기 포스트-시냅틱 뉴런은, 상기 복수의 입력 스파이크 신호들 중, 출력 스파이크 신호의 생성을 야기하는 입력 스파이크 신호들이 수신되는 기준 시구간과의 인접도에 따라, 상기 복수의 시구간들 각각에 대해 서로 다른 가중치를 부여할 수 있다.
본 발명의 다른 실시 예에 따른, 복수의 시구간들 동안 입력되는 복수의 입력 스파이크 신호들에 기초하여 출력 스파이크 신호를 생성하는 시냅틱 뉴런을 포함하는 인공 신경망 장치의 동작 방법은, 상기 복수의 시구간들 중, 상기 출력 스파이크 신호의 생성을 야기하는 입력 스파이크 신호들이 수신되는, 기준 시구간을 감지하는 단계, 상기 복수의 시구간들 중, 상기 기준 시구간 이후의 시구간들에 입력되는 입력 스파이크 신호들에 대해 상기 기준 시구간과의 인접도에 따라 서로 다른 가중치들을 부여하는 단계, 그리고 상기 서로 다른 가중치들이 부여된 입력 스파이크 신호들에 기초하여 출력 스파이크 신호를 생성하는 단계를 포함할 수 있다.
본 발명의 실시 예에 따른 인공 신경망 장치에 의하면, 입력 스파이크 신호들이 수신되는 타이밍에 따라 다양한 값의 가중치를 부여함으로써, 인간의 뇌를 보다 상세하게 구현하는 인공 신경망 장치 및 그것의 동작 방법을 제공할 수 있다.
도 1은 본 발명의 실시 예에 따른 인공 신경망 장치를 개략적으로 보여주는 블록도이다
도 2는 도 1에 도시된 포스트-시냅틱 뉴런이 시구간에 따른 가중치를 반영하는 것을 좀 더 상세하게 보여주는 도면이다.
도 3은 본 발명의 실시 예에 따른 포스트-시냅틱 뉴런의 구조를 상세하게 보여주는 블록도이다.
도 4는 도 3에 도시된 제 1 내지 제 k 가중치 연산부들 중 어느 하나를 보여주는 블록도이다.
도 5는 도 3에 도시된 스파이크 신호 생성부의 구성을 좀 더 상세하게 보여주는 블록도이다.
도 6은 본 발명의 실시 예에 따른 인공 신경망 장치의 동작 방법을 보여주는 순서도이다.
아래에서는, 본 발명의 기술 분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있을 정도로, 본 발명의 실시 예들이 명확하고 상세하게 기재될 것이다.
도 1은 본 발명의 실시 예에 따른 인공 신경망 장치(100)를 개략적으로 보여주는 블록도이다. 인공 신경망 장치(100)는, 서로 얽혀 있음으로 인하여 네트워크를 형성하는, 복수의 시냅틱 뉴런들(111~11k, 120, 130)을 포함할 수 있다.
복수의 시냅틱 뉴런들(111~11k, 120, 130) 각각은 실질적으로 동일한 구조를 가질 수 있다. 다만, 시냅틱 뉴런이 배치되는 위치 또는 다른 시냅틱 뉴런과 연결되는 관점에 따라, 시냅틱 뉴런은 서로 다른 명칭으로 칭해질 수 있다. 예를 들어, 스파이크 신호를 생성하여 다른 시냅틱 뉴런으로 전달하는 시냅틱 뉴런은 프리-시냅틱 뉴런(예컨대, pre-synaptic neuron)(예컨대, 111~11k 중 어느 하나)으로 칭해질 수 있다. 그리고, 스파이크 신호를 수신하여 새로운 스파이크 신호들을 생성하는 뉴런은 포스트-시냅틱 뉴런(post-synaptic neuron)(예컨대, 120)으로 칭해질 수 있다.
복수의 프리-시냅틱 뉴런들(111~11k) 각각은 복수의 스파이크 신호들을 생성하도록 구성될 수 있다. 예를 들어, 예를 들어, 제 1 시냅틱 뉴런(111)은, 도면에 도시되지 않은 다른 시냅틱 뉴런들로부터 스파이크 신호들을 수신하여 제 1 입력 스파이크 신호들을 생성할 수 있으며, 제 1 입력 스파이크 신호들을 포스트-시냅틱 뉴런(120)으로 전달할 수 있다. 유사하게, 제 2 내지 제 k 시냅틱 뉴런들(112~11k)도 제 2 입력 스파이크 신호들 내지 제 k 입력 스파이크 신호들을 각각 생성하여 포스트-시냅틱 뉴런(120)으로 전달할 수 있다.
포스트 시냅틱-뉴런(120)은 제 1 내지 제 k 시냅닉 뉴런들(111~11k)로부터 복수의 스파이크 신호들을 수신할 수 있다. 포스트 시냅틱-뉴런(120)은 복수의 스파이크 신호들이 입력되는 타이밍 정보에 기반하여 출력 스파이크 신호들을 생성할 수 있다. 예를 들어, 포스트 시냅틱-뉴런(120)은 각각의 시구간(time period)에서 입력되는 스파이크 신호들에 대해 서로 다른 가중치를 부여할 수 있다.
포스트-시냅틱 뉴런(120)은, 수신되어 축적된 스파이크 신호들이 어떤 특정한 문턱 값을 초과하는 경우, 출력 스파이크 신호를 생성할 수 있다. 만일, 특정한 시구간에 포스트-시냅틱 뉴런(120)으로 입력된 스파이크 신호들로 인하여 출력 스파이크 신호들이 생성되었다면, 포스트-시냅틱 뉴런(120)으로 입력된 스파이크 신호들은 출력 스파이크 신호와 상당한 상관 관계가 있는 입력들이다. 따라서, 이 경우, 다음의 시구간에 입력되는 스파이크 신호들에 가중치가 부여될 수 있다.
포스트-시냅틱 뉴런(120)은 제 1 시구간(P1)에 입력되는 제 1 입력 스파이크 신호들이 출력 스파이크 신호의 생성에 미치는 영향(즉, 가중치)을 계산할 수 있다. 그리고, 포스트-시냅틱 뉴런(120)은 계산된 가중치를 제 2 시구간(P2)에 입력되는 제 1 입력 스파이크 신호들에 반영할 수 있다. 유사하게, 포스트-시냅틱 뉴런(120)은 제 1 시구간(P1)에 입력되는 제 k 입력 스파이크 신호들이 출력 스파이크 신호의 생성에 미치는 영향(즉, 가중치)을 계산할 수 있다. 그리고, 포스트-시냅틱 뉴런(120)은 계산된 가중치를 제 2 시구간(P2)에 입력되는 제 k 입력 스파이크 신호들에 반영할 수 있다.
예를 들어, 포스트-시냅틱 뉴런(120)은, 출력 스파이크 신호의 생성을 야기하는 입력 스파이크 신호들이 입력되는 구간(즉, 기준 시구간)과 가까운 시구간일수록(예컨대, 제 1 시구간(P1)), 상대적으로 큰 가중치를 부여할 수 있다. 반대로, 포스트-시냅틱 뉴런(120)은, 출력 스파이크 신호의 생성을 야기하는 입력 스파이크 신호들이 입력되는 구간(즉, 기준 시구간)과 먼 시구간일수록(예컨대, 제 n 시구간(Pn)), 상대적으로 작은 가중치를 부여할 수 있다.
예를 들어, 기준 시구간 동안 포스트-시냅틱 뉴런(120)으로 입력되는 스파이크 신호의 크기가 상대적으로 큰 경우, 포스트-시냅틱 뉴런(120)은, 다음의 시구간(예컨대, 제 1 시구간(P1)) 동안 입력되는 스파이크 신호에 대해 상대적으로 큰 가중치를 부여할 수 있다. 반면, 기준 시구간 동안 포스트-시냅틱 뉴런(120)으로 입력되는 스파이크 신호의 크기가 상대적으로 작은 경우, 포스트-시냅틱 뉴런(120)은, 다음의 시구간(예컨대, 제 1 시구간(P1)) 동안 입력되는 스파이크 신호에 대해 상대적으로 작은 가중치를 부여할 수 있다.
비록 도면에는 하나의 시구간에 2개의 스파이크들이 수신되는 것으로 도시되었으나, 이에 한정되지 않는다. 예를 들어, 하나 또는 그 이상의 다양한 개수의 스파이크 신호들이 수신되는 구간이 하나의 시구간으로 설정될 수 있다. 그리고, 시구간의 길이는 본 발명이 적용되는 장치, 시스템의 사양 등 다양한 요건에 의해 결정되거나 또는 실시간으로 변할 수도 있다.
포스트-시냅틱 뉴런(120)으로 입력되는 스파이크 신호의 크기뿐만 아니라, 스파이크 신호의 입력 타이밍을 고려하여 가중치를 계산하고, 이를 출력 스파이크 신호들을 생성하는데 반영함으로써, 인간의 뇌를 보다 상세하게 구현하는 인공 신경망 장치를 구현할 수 있다.
도 2는 도 1에 도시된 포스트-시냅틱 뉴런(120)이 시구간에 따른 가중치를 반영하는 것을 좀 더 상세하게 보여주는 도면이다. 도 2를 참조하면, 시구간(PR)에서 입력 스파이크 신호들이 입력된 후, 시구간(P1)에서 입력 스파이크 신호들이 입력된다. 이후, 시구간(P2)에서 입력 스파이크 신호들이 입력된다.
각각의 시구간에서 입력되는 스파이크 신호들이 포스트-시냅틱 뉴런(120)으로 입력되면, 포스트-시냅틱 뉴런(120)은 스파이크 신호들을 누적할 수 있다. 그러나, 비록 스파이크 신호가 수신된다 하더라도, 포스트-시냅틱 뉴런(120)은 곧바로 출력 스파이크 신호를 생성하지 않는다. 예를 들어, 포스트-시냅틱 뉴런(120)은 누적된 스파이크 신호들의 값이 어떤 특정한 문턱 값을 초과하면, 출력 스파이크 신호를 생성할 수 있다.
예를 들어, 도면에 도시된 바와 같이, 시구간(PR)에서 누적된 스파이크 신호들의 값(ΔTH)으로 인하여 누적된 값이 문턱 값을 초과한다고 가정하자. 누적된 값이 문턱 값을 초과함으로 인하여 출력 스파이크 신호가 생성되는 경우, 시구간(PR)은 기준 시구간으로 칭해질 수 있다. 즉, 기준 시구간은, 출력 스파이크 신호의 생성을 야기하는 입력 스파이크 신호들이 수신되는 시구간일 수 있다.
본 발명의 포스트-시냅틱 뉴런(120)은 출력 스파이크 신호가 생성되는 기준 시구간(PR) 이후의 제 1 시구간(P1)에 수신되는 입력 스파이크 신호들에 대해서 상대적으로 큰 값의 가중치를 부여할 수 있다. 물론, 제 1 시구간(P1) 내라 할지라도, 제 1 입력 스파이크 신호들 내지 제 k 입력 스파이크 신호들에 부여되는 가중치 값은 서로 다를 것이다.
그리고, 본 발명의 포스트-시냅틱 뉴런(120)은 제 1 시구간(P1) 이후의 제 2 시구간(P2)에 수신되는 입력 스파이크 신호들에 대해서 상대적으로 작은 값의 가중치를 부여할 수 있다. 물론, 제 2 시구간(P2) 내라 할지라도, 제 1 입력 스파이크 신호들 내지 제 k 입력 스파이크 신호들에 부여되는 가중치 값은 서로 다를 것이다.
이상 설명된 것을 종합하면, 기준 시구간(PR)과 가까운 시구간에 수신된 입력 스파이크 신호들일수록, 상대적으로 큰 값의 가중치가 부여된다. 반대로, 기준 시구간(PR)과 먼 시구간에 수신된 입력 스파이크 신호들일수록, 상대적으로 작은 값의 가중치가 부여된다.
이러한 방식으로 가중치를 부여하는 것 외에도, 다른 방식이 고려될 수 있다. 예를 들어, 제 1 시구간(P1)에서 누적된 스파이크 신호들의 값의 변화량(ΔTH)이 상대적으로 크다면, 포스트-시냅틱 뉴런(120)은 상대적으로 큰 값의 가중치를 계산할 수 있다. 그리고, 계산된 가중치는, 제 2 시구간(P2)에서 입력되는 스파이크 신호들을 누적시키는데 부여될 수 있다. 반면, 제 1 시구간(P1)에서 누적된 스파이크 신호들의 값의 변화량(ΔTH)이 상대적으로 작다면, 포스트-시냅틱 뉴런(120)은 상대적으로 작은 값의 가중치를 계산할 수 있다. 그리고, 계산된 가중치는, 제 2 시구간(P2)에서 입력되는 스파이크 신호들을 누적시키는데 부여될 수 있다.
특정한 시구간에서 계산된 가중치를 다음의 시구간 입력되는 스파이크 신호들에 적용하는 과정은, 연속적으로 실행될 수 있다. 예를 들어, 제 1 시구간(P1)에서 계산된 가중치는 제 2 시구간(P2)에 입력되는 스파이크 신호들을 누적시키는데 적용될 수 있다. 제 2 시구간(P2)에서 계산된 가중치는 제 3 시구간(미도시, P3)에 입력되는 스파이크 신호들을 누적시키는데 적용될 수 있다. 유사하게, 도면에 도시되지는 않았지만, 제 n-1 시구간(Pn-1)에서 계산된 가중치는 제 n 시구간(Pn)에 입력되는 스파이크 신호들을 누적시키는데 적용될 수 있다(도 1 참조).
한편, 가중치의 값은 양의 값을 갖거나 또는 음의 값을 가질 수도 있다. 예를 들어, 특정 시구간에서 입력되는 스파이크 신호들이 출력 스파이크 신호들의 생성에 미치는 영향이 매우 작거나 미미한 경우, 포스트-시냅틱 뉴런(120)은 음의 값을 갖는 가중치를 생성할 수 있다.
도 3은 본 발명의 실시 예에 따른 포스트-시냅틱 뉴런(200)의 구조를 상세하게 보여주는 블록도이다. 프리-시냅틱 뉴런들(도 1 참조, 111~11k), 및 시냅틱 뉴런(도 1참조, 130)도 도 3에 도시된 것과 실질적으로 동일한 구조를 가질 수 있다. 설명의 이해를 돕기 위해, 도 1 및 도 2를 함께 참조하여 설명하기로 한다.
포스트-시냅틱 뉴런(200)은 복수의 가중치 연산부들(211~21k), 복수의 가중치 저장부들(221~22k), 누적부(230), 스파이크 신호 생성부(240), 모니터링부(250), 및 가중치 계산부(260)를 포함할 수 있다.
가중치 연산부들(211~21k) 각각은 스파이크 신호들을 수신할 수 있으며, 스파이크 신호들에 대해 가중치를 부여할 수 있다. 예를 들어, 제 1 가중치 연산부(211)는 제 1 입력 스파이크 신호들에 대해 가중치를 부여하되, 각각의 시구간마다 서로 다른 가중치를 부여할 수 있다. 예를 들어, 출력 스파이크 신호의 생성에 상대적으로 크게 기여하는 스파이크 신호들이 입력되는 시구간과 가까운 시구간일수록, 상대적으로 큰 값의 가중치가 부여될 수 있다. 가중치 연산부들(211~21k)의 상세한 구조 및 동작에 대해서는 도 4를 통하여 좀 더 상세하게 설명하기로 한다.
가중치 저장부들(221~22k)은 가중치 연산부들(211~21k)이 가중치를 계산하는데 필요한 가중치를 저장할 수 있다. 예를 들어, 가중치 연산부들(211~21k) 각각은 가중치 계산부(260)로부터 대응하는 가중치 값을 각각 수신할 수 있다. 예를 들어, 가중치 저장부들(221~22k)은 레지스터, SRAM (static random access memory), DRAM (dynamic random access memory), PRAM (Phase-change Memory) 등과 같은 다양한 저장 소자를 포함할 수 있다. 그러나, 가중치 저장부들(221~22k)의 구성은 이에 한정되지 않는다.
누적부(230)는 가중치 연산부들(211~21k) 각각에 의해 연산된 값들을 수신할 수 있다. 예를 들어, 누적부로 수신되는 값은 가중치가 반영된, 스파이크 신호의 크기 값일 수 있다.
스파이크 신호 생성부(240)는 누적부(230)에 의해 누적된 값에 기초하여 스파이크 신호를 생성할 수 있다. 예를 들어, 스파이크 신호 생성부(240)는 구형파, 펄스, 임펄스 등 다양한 형태의 스파이크 신호들을 생성하도록 구성될 수 있다. 예를 들어, 스파이크 신호 생성부(240)는, 누적된 값이 특정한 문턱 값을 초과하는 경우, 스파이크 신호를 생성할 수 있다.
한편, 본 실시 예에서, 누적부(230)와 스파이크 신호 생성부(240)는 서로 분리된 기능 블록으로 도시되었으나, 누적부(230)의 기능은 스파이크 신호 생성부(240)에 포함될 수 있다. 이 경우, 누적부(230)와 스파이크 신호 생성부(240)는 하나의 하드웨어 회로 및/또는 소프트웨어(펌웨어)로써 구현될 수 있다. 예를 들어, 스파이크 신호 생성부(240)는 가중치가 부여된 스파이크 신호들의 값들을 누적할 수 있으며, 누적된 값이 특정한 문턱 값을 초과하는지 여부에 따라 스파이크 신호를 생성하도록 구성될 수 있다. 스파이크 신호 생성부의 상세한 구성은 도 5를 통하여 좀 더 상세하게 설명하기로 한다.
모니터링부(250)는 출력 스파이크 신호가 생성되는지 여부, 또는 누적부에 누적되는 값을 실시간으로 모니터링할 수 있다. 예를 들어, 출력 스파이크 신호의 생성에 큰 영향을 미치는 입력 스파이크 신호들이 수신되는 경우, 모니터링부(250)는 가중치를 변환 또는 계산하기 위한 신호를 생성할 수 있다.
가중치 계산부(260)는 모니터링부(250)에 의해 생성된 신호에 응답하여 가중치를 계산할 수 있다. 예를 들어, 가중치 계산부(260)는 제 1 내지 제 k 가중치 연산부들(211~21k) 각각을 위한 가중치들을 계산할 수 있다. 예를 들어, 기준 시구간(PR)과 인접한 시구간에 입력된 입력 스파이크 신호들일수록, 가중치 계산부(260) 상대적으로 큰 값의 가중치를 계산할 수 있다. 반면, 기준 시구간(PR)과 먼 시구간에 입력된 입력 스파이크 신호들일수록, 가중치 계산부(260)는 상대적으로 작은 값의 가중치를 계산할 수 있다. 계산된 가중치 값들은 제 1 내지 제 k 가중치 저장부들(221~22k) 각각에 저장될 것이다.
나아가, 기준 시구간(PR)에 입력되는 입력 스파이크 신호들로 인하여 출력 스파이크 신호가 생성된다 하더라도, 누적된 값의 변화량(도 2 참조, ΔTH)의 크기에 따라, 가중치 계산부(260)는 다양한 값의 가중치를 계산할 수 있다. 예를 들어, 기준 시구간(PR)동안 누적되 값의 변화량(ΔTH)이 상대적으로 큰 경우, 가중치 계산부(260)는 상대적으로 큰 값의 가중치를 계산할 수 있다. 반면, 기준 시구간(PR)동안 누적된 값의 변화량(ΔTH)이 상대적으로 작은 경우, 가중치 계산부(260)는 상대적으로 작은 값의 가중치를 계산할 수 있다. 계산된 가중치 값들은 제 1 내지 제 k 가중치 저장부들(221~22k) 각각에 저장될 것이다.
한편, 본 실시 예에서, 모니터링부(250)와 스파이크 가중치 계산부(260)는 서로 분리된 기능 블록으로 도시되었으나, 모니터링부(250)의 기능은 가중치 계산부(260)에 포함될 수 있으며, 이 경우, 모니터링부(250)와 가중치 계산부(260)는 하나의 하드웨어 회로 및/또는 소프트웨어(펌웨어)로써 구현될 수 있다. 예를 들어, 가중치 계산부(260)는 스파이크 신호 생성부(240)가 출력 스파이크 신호를 생성하는지 여부, 출력 스파이크 신호를 생성하는데 큰 영향을 미치는 입력 스파이크 신호들이 수신되는지 여부 등을 모니터링할 수 있으며, 모니터링 결과에 기초하여 가중치를 계산하도록 구성될 수 있다.
본 발명의 포스트-시냅틱 뉴런(200)은 하드웨어, 소프트웨어, 및/또는 하드웨어와 소프트웨어의 조합으로 구현될 수 있다. 예를 들어, 포스트-시냅틱 뉴런(200)은 반도체 칩, 하드웨어 모듈 등으로 구현될 수 있다. 또는, 포스트-시냅틱 뉴런(200)은 메모리(예컨대, DRAM)에 로딩되어 프로세서에 의해 구현되는 소프트웨어 또는 펌웨어로 구현될 수 있다. 또는, 포스트-시냅틱 뉴런(200)은 프로세서, 컨트롤러, ALU (arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), FPGA (field-programmable gate array), PLU(programmable logic unit) 등으로 구현될 수 있다.
도 4는 도 3에 도시된 제 1 내지 제 k 가중치 연산부들(221~22k) 중 어느 하나를 보여주는 블록도이다. 예시적으로, 제 1 가중치 연산부(221)의 구성이 도시되었으며, 다른 가중치 연산부들의 구성도 이와 실질적으로 동일하다. 제 1 가중치 연산부(211)는 복수의 시프트 레지스터들(SR1~SRn), 곰셈기(X), 덧셈기(Σ), 및 레지스터(R)를 포함할 수 있다. 설명의 이해를 돕기 위해, 제 1 뉴런(111), 제 1 가중치 저장부(221), 및 누적부(230)도 함께 도시되었으며, 제 1 시구간(P1)은, 출력 스파이크 신호가 생성되는 기준 시구간 이후의 시구간이다.
시프트 레지스터들(SR1~SRn)은 제 1 가중치 저장부(221)에 저장된 가중치들(W1~Wn)을 저장할 수 있다. 예를 들어, 시프트 레지스터(SR1)는 제 1 시구간(P1)에 대응하는 가중치 값(W1)을 저장할 수 있다. 시프트 레지스터(SR2)는 제 2 시구간(P2)에 대응하는 가중치 값(W2)을 저장할 수 있다. 유사하게, 시프트 레지스터(SRn)는 제 n 시구간(Pn)에 대응하는 가중치 값(Wn)을 저장할 수 있다.
비록 도면에 도시되지는 않았으나, 시프트 레지스터들(SR1~SRn)은, 시프트 레지스터들(SR1~SRn)을 동작시키는 클럭의 활성화 시점에 동기화되어 가중치 값들(W1~Wn)을 순차적으로 시프팅 시킬 수 있다. 시프트 레지스터들(SR1~SRn)의 시프팅 동작은 본 발명이 속하는 기술 분야에서 통상의 지식을 지닌 자에게 잘 알려져 있으므로, 구체적인 설명은 생략하기로 한다.
곰셈기(X)는 각각의 시구간(P1~Pn 중 어느 하나)에서 수신되는 입력 스파이크 신호들의 값들과, 시구간에 대응하는 가중치 값을 곱할 수 있다. 시구간이 P1부터 Pn까지 순차적으로 경과함에 따라, 시프트 레지스터들(SR1~SRn)에 의한 쉬프팅 동작도 순차적으로 수행될 수 있다. 예를 들어, 곱셈기(X)는 제 1 시구간(P1)에 입력된 입력 스파이크 신호들의 값들에 가중치(W1)를 곱할 수 있다. 이후, 제 2 시구간(P2)에서, 시프트 레지스터(SR2)에 저장된 가중치(W2)는 시프트 레지스터(SR1)로 시프팅 될 것이다. 그리고, 곱셈기(X)는 제 2 시구간(P2)에 입력된 입력 스파이크 신호들의 값들에 가중치(W2)를 곱할 수 있다. 결국에는, 제 n 시구간(Pn)에서, 시프트 레지스터(SRn)에 저장된 가중치(Wn)는 시프트 레지스터(SR1)로 시프팅 될 것이다. 그리고, 곱셈기(X)는 제 n 시구간(Pn)에 입력된 입력 스파이크 신호들의 값들에 가중치(Wn)를 곱할 수 있다.
한편, 실시 예에 따라서, 제 1 스파이크 신호들이 입력되는, 제 1 가중치 연산부(211)의 입력단에 스파이크 신호의 크기를 측정하기 위한 장치가 추가로 제공될 수도 있다.
덧셈기(Σ)는 곱셈기(X)에 의한 곱셈 결과들(즉, 제 1 시구간(P1)에 입력된 입력 스파이크 신호들의 값들에 가중치(W1)를 곱한 값들, 내지 제 n 시구간(Pn)에 입력된 입력 스파이크 신호들의 값들에 가중치(Wn)를 곱한 값들)을 합산할 수 있다.
레지스터(R)는 덧셈기(Σ)에 의해 합산된 결과를 저장할 수 있다. 그리고 저장된 합산 결과는 덧셈기(Σ)가 곱셈기(X)에 의한 곱셈 결과들을 합산하는데 이용될 수 있다. 레지스터(R)에 저장된 합산 결과는 누적부(230)에 전달될 것이다.
도면에 도시된, 곱셈기(X), 덧셈기(Σ), 및 레지스터(R)는 예시적인 것이다. 즉, 특정한 시구간(예컨대, P1)과 이에 대응하는 가중치(예컨대, W1)를 곱하고, 이를 합산하여 누적시키기 위한 다양한 구성이 이용될 수 있다. 그리고, 본 발명의 기술적 사상은, 특정한 시구간(예컨대, P1)과 이에 대응하는 가중치(예컨대, W1)를 곱하고, 이를 합산하여 누적시키기 위한 다양한 구성도 포함한다.
도 5는 도 3에 도시된 스파이크 신호 생성부(240)의 구성을 좀 더 상세하게 보여주는 블록도이다. 스파이크 신호 생성부(240)는 문턱값 저장부(242), 스파이크 타이밍 결정부(244), 스파이크 크기 결정부(246), 및 펄스 생성기(248)를 포함할 수 있다. 설명의 이해를 돕기 위해, 도 3을 함께 참조하여 설명하기로 하며, 누적부(230)도 함께 도시되었다.
문턱값 저장부(242)는 출력 스파이크 신호를 생성하기 위한 문턱값을 저장할 수 있다. 문턱값은 미리 설정된 값일 수 있다. 또는, 문턱값은 본 발명의 인공 신경망 장치의 사양, 본 발명의 인공 신경망 장치가 적용되는 시스템의 사양 등과 같은 다양한 요인에 따라 가변하는 값일 수 있다.
스파이크 타이밍 결정부(244)는 출력 스파이크 신호를 생성할지 여부(즉, 출력 스파이크 신호가 생성되는 타이밍)를 결정할 수 있다. 예를 들어, 스파이크 타이밍 결정부(244)는 누적부(230)에 누적된 값과 문턱값 저장부(242)에 저장된 문턱값을 비교할 수 있다. 스파이크 타이밍 결정부(244)는, 누적부(230)에 누적된 값이 문턱값 저장부(242)에 저장된 문턱값보다 큰 경우, 스파이크 신호가 생성되도록 펄스 생성기(248)를 제어하는 신호를 생성할 수 있다.
스파이크 크기 결정부(246)는, 누적부(230)에 누적된 값에 기초하여, 펄스 생성기(248)에 의해 생성될 출력 스파이크 신호의 크기를 결정할 수 있다. 예를 들어, 생성될 출력 스파이크 신호의 크기는 출력 스파이크 신호의 생성에 미치는 입력 스파이크 신호들의 영향, 입력 스파이크 신호들과 출력 스파이크 신호들의 상관 관계, 포스트-시냅틱 뉴런(200)에 의한 학습 결과 등 다양한 요소들을 고려하여 결정될 수 있다.
펄스 생성기(248)는 스파이크 타이밍 결정부(244) 및 스파이크 크기 결정부(246)의 출력 신호들에 기초하여 출력 스파이크 신호를 생성할 수 있다. 비록 펄스 생성기라고 칭해지더라도, 펄스 생성기(248)는 구형파, 펄스, 임펄스 등 다양한 형태의 스파이크 신호들을 생성하도록 구성될 수 있다.
도 6은 본 발명의 실시 예에 따른 인공 신경망 장치의 동작 방법을 보여주는 순서도이다. 설명의 이해를 돕기 위해, 도 3 내지 도 5를 함께 참조하여 설명하기로 한다.
S110 단계에서, 출력 스파이크 신호의 생성을 야기하는 시구간이 감지될 수 있다. 예를 들어, 제 1 시구간(P1) 이전의 기준 시구간에 수신된 입력 스파이크 신호들에 의해 출력 스파이크 신호가 생성되었다고 가정하자. 이 경우, 모니터링부(250)는 출력 스파이크 신호의 생성을 감지할 수 있다.
S120 단계에서, 감지된 시구간과 인접한 정도에 따라, 각각의 시구간에 적용되는 가중치가 계산될 수 있다. 예를 들어, 가중치 계산부(260)는 기준 시구간과 가장 인접한 제 1 시구간(P1)에 수신되는 입력 스파이크 신호들을 위한, 상대적으로 큰 값의 가중치를 계산할 수 있다. 반면, 가중치 계산부(260)는 기준 시구간과 멀리 떨어진 제 n 시구간(Pn)에 수신되는 입력 스파이크들을 위한, 상대적으로 작은 값의 가중치를 계산할 수 있다.
S130 단계에서, 각각의 시구간에 수신되는 입력 스파이크 신호들에 대해, 각각의 시구간에 대응하는 가중치들이 적용될 수 있다. 예를 들어, 제 1 시구간(P1)에 수신되는 입력 스파이크 신호들에 대해 가중치(W1)가 적용될 수 있다. 유사하게, 제 n 시구간(Pn)에 수신되는 입력 스파이크 신호들에 대해 가중치(Wn)가 적용될 수 있다.
예를 들어, 입력 스파이크 신호들에 대해 가중치가 적용되는 과정은, 도 4에 도시된, 시프트 레지스터들(SR1~SRn), 곰셈기(X), 덧셈기(Σ), 및 레지스터(R) 등에 의해 수행될 수 있다.
물론, 이는 제 1 시구간(P1)에 대해 상대적으로 큰 가중치(W1)가 부여된다는 의미이며, 제 1 시구간(P1)에서 수신되는 제 1 입력 스파이크 신호들에 부여되는 가중치 내지 제 1 시구간(P1)에서 수신되는 제 k 입력 스파이크 신호들에 부여되는 가중치가 동일하다는 의미는 아니다. 즉, 동일한 시구간(예컨대, P1) 내에서 수신되는 제 1 입력 스파이크 신호들 내지 제 k 입력 스파이크 신호들에 대해서 서로 다른 값의 가중치가 부여될 수 있다. 이는 출력 스파이크 신호의 생성에 미치는 입력 스파이크 신호들의 영향, 입력 스파이크 신호들과 출력 스파이크 신호들의 상관 관계, 포스트-시냅틱 뉴런(200)에 의한 학습 결과 등 다양한 요소들을 고려하여 결정될 수 있다.
S140 단계에서, 서로 다른 가중치가 적용된 입력 스파이크 신호들에 기초하여 출력 스파이크 신호가 생성될 수 있다.
예를 들어, 누적부(230)는, 시구간 및 어느 시냅틱 뉴런으로부터 수신되었는지에 따라(예컨대, P1 동안 수신된 것인지 및/또는 제 1 입력 스파이크 신호들인지), 서로 다른 가중치가 부여된 입력 스파이크 신호들을 순차적으로 누적시킬 수 있다.
그리고, 스파이크 신호 생성부(240)는 누적부(230)에 누적된 값이 문턱값을 초과하는지 여부에 따라 출력 스파이크 신호를 생성할 수 있다.
이상 설명된 본 발명의 실시 예에 따른 인공 신경망 장치에 의하면, 포스트-시냅틱 뉴런으로 입력되는 스파이크 신호의 크기뿐만 아니라, 스파이크 신호의 입력 타이밍을 고려하여 가중치가 계산된다. 그 결과, 인간의 뇌를 더욱 상세하게 모사하는 인공 신경망 장치를 구현할 수 있다.
위에서 설명한 내용은 본 발명을 실시하기 위한 구체적인 예들이다. 본 발명에는 위에서 설명한 실시 예들뿐만 아니라, 단순하게 설계 변경하거나 용이하게 변경할 수 있는 실시 예들도 포함될 것이다. 또한, 본 발명에는 위에서 설명한 실시 예들을 이용하여 앞으로 용이하게 변형하여 실시할 수 있는 기술들도 포함될 것이다.
100: 인공 신경망 장치 111~11k: 프리-시냅틱 뉴런들
120, 200: 포스트 시냅틱-뉴런 211~21k: 복수의 가중치 연산부들
221~22k: 복수의 가중치 저장부들 230: 누적부
240: 스파이크 신호 생성부 242: 문턱값 저장부
244: 스파이크 타이밍 결정부 246: 스파이크 크기 결정부(246)
248: 펄스 생성기 250: 모니터링부
260: 가중치 계산부

Claims (15)

  1. 복수의 입력 스파이크 신호들을 생성하는 프리-시냅틱 뉴런; 그리고
    복수의 시구간들 동안 상기 복수의 입력 스파이크 신호들을 수신하여 출력 스파이크 신호를 생성하는 포스트-시냅틱 뉴런을 포함하되,
    상기 포스트-시냅틱 뉴런은, 상기 복수의 입력 스파이크 신호들 중, 상기 출력 스파이크 신호의 생성을 야기하는 입력 스파이크 신호들이 수신되는 기준 시구간과의 인접도에 따라, 상기 복수의 시구간들 각각에 대해 서로 다른 가중치를 부여하는 인공 신경망 장치.
  2. 제 1 항에 있어서,
    상기 복수의 입력 스파이크 신호들 중, 상기 기준 시구간 이후의 제 1 시구간에 수신된 입력 스파이크 신호들에 대해 제 1 가중치가 부여되고,
    상기 복수의 입력 스파이크 신호들 중, 상기 제 1 시구간 이후의 제 2 시구간에 수신된 입력 스파이크 신호들에 대해 제 2 가중치가 부여되는 인공 신경망 장치.
  3. 제 1 항에 있어서,
    상기 제 1 가중치는 상기 제 2 가중치보다 큰 인공 신경망 장치.
  4. 제 1 항에 있어서,
    상기 제 1 가중치는 양의 값이고, 상기 제 2 가중치는 음의 값인 인공 신경망 장치.
  5. 제 2 항에 있어서,
    상기 포스트-시냅틱 뉴런은:
    상기 복수의 입력 스파이크 신호들 중, 상기 제 1 시구간에 수신된 상기 입력 스파이크 신호들에 대해 상기 제 1 가중치를 부여하고, 상기 복수의 입력 스파이크 신호들 중, 상기 제 2 시구간에 수신된 상기 입력 스파이크 신호들에 대해 상기 제 2 가중치를 부여하는 가중치 연산부를 포함하는 인공 신경망 장치.
  6. 제 5 항에 있어서,
    상기 가중치 연산부는:
    상기 제 1 및 제 2 가중치들을 각각 저장하는 제 1 및 제 2 시프트 레지스터들;
    상기 제 1 시구간에 수신된 상기 입력 스파이크 신호들에 상기 제 1 가중치를 곱하고, 상기 제 1 시구간에 수신된 상기 입력 스파이크 신호들에 상기 제 2 가중치를 곱하는 곱셈기;
    상기 곱셈기의 곱셈 결과들을 합하는 가산기; 그리고
    상기 가산기의 합산 결과를 저장하는 레지스터를 포함하는 인공 신경망 장치.
  7. 제 6 항에 있어서,
    상기 기준 시구간 동안 수신된 입력 스파이크 신호들을 누적하는 누적부;
    상기 누적부에 의한 누적 결과가 문턱값을 초과하는지 여부에 따라 상기 출력 스파이크 신호를 생성하는 스파이크 신호 생성부; 그리고
    상기 출력 스파이크 신호가 생성되는지 여부에 따라 상기 제 1 가중치 및 상기 제 2 가중치를 계산하는 계산부를 포함하는 인공 신경망 장치.
  8. 제 7 항에 있어서,
    상기 제 1 가중치 및 상기 제 2 가중치를 저장하고 상기 저장된 값들을 상기 가중치 연산부에 제공하는 가중치 저장부를 더 포함하는 인공 신경망 장치.
  9. 제 7 항에 있어서,
    상기 스파이크 신호 생성부는:
    상기 누적부에 의한 누적 결과에 기초하여 상기 출력 스파이크 신호를 생성할지 여부를 결정하는 스파이크 타이밍 결정부;
    상기 출력 스파이크 신호의 크기를 결정하는 스파이크 크기 결정부; 그리고
    상기 스파이크 타이밍 결정부와 상기 스파이크 크기 결정부들의 결정 결과들에 기초하여 상기 출력 스파이크 신호를 생성하는 펄스 생성기를 포함하는 인공 신경망 장치.
  10. 제 9 항에 있어서,
    상기 스파이크 신호 생성부는:
    상기 문턱값을 저장하는 문턱값 저장부를 더 포함하되,
    상기 문턱값은 미리 설정된 값이거나 가변하는 값인 인공 신경망 장치.
  11. 제 1 항에 있어서,
    상기 복수의 입력 스파이크 신호들 중, 상기 기준 시구간과 가까운 시구간에 수신된 입력 스파이크 신호들일수록, 더 큰 가중치가 부여되고,
    상기 복수의 입력 스파이크 신호들 중, 상기 기준 시구간과 먼 시구간에 수신된 입력 스파이크 신호들일수록, 더 작은 가중치가 부여되는 인공 신경망 장치.
  12. 복수의 시구간들 동안 입력되는 복수의 입력 스파이크 신호들에 기초하여 출력 스파이크 신호를 생성하는 시냅틱 뉴런을 포함하는 인공 신경망 장치의 동작 방법에 있어서:
    상기 복수의 시구간들 중, 상기 출력 스파이크 신호의 생성을 야기하는 입력 스파이크 신호들이 수신되는, 기준 시구간을 감지하는 단계;
    상기 복수의 시구간들 중, 상기 기준 시구간 이후의 시구간들에 입력되는 입력 스파이크 신호들에 대해 상기 기준 시구간과의 인접도에 따라 서로 다른 가중치들을 부여하는 단계; 그리고
    상기 서로 다른 가중치들이 부여된 입력 스파이크 신호들에 기초하여 출력 스파이크 신호를 생성하는 단계를 포함하는 인공 신경망 장치의 동작 방법.
  13. 제 12 항에 있어서,
    상기 가중치들을 부여하는 단계는:
    상기 복수의 입력 스파이크 신호들 중, 상기 기준 시구간 이후의 제 1 시구간에 수신되는 입력 스파이크 신호들에 대해 제 1 가중치를 부여하는 단계; 그리고
    상기 복수의 입력 스파이크 신호들 중, 상기 제 1 시구간 이후의 제 2 시구간에 수신되는 입력 스파이크 신호들에 대해 상기 제 1 가중치보다 작은 제 2 가중치를 부여하는 단계를 포함하는 인공 신경망 장치의 동작 방법.
  14. 제 12 항에 있어서,
    상기 기준 시구간을 감지하는 단계는:
    누적된 입력 스파이크 신호들이 문턱값을 초과하는지 여부를 판단하는 단계; 그리고
    상기 문턱값의 초과를 야기하는 입력 스파이크 신호들이 입력되는 시구간을 상기 기준 시구간으로 선택하는 단계를 포함하는 인공 신경망 장치의 동작 방법.
  15. 제 12 항에 있어서,
    상기 출력 스파이크 신호를 생성하는 단계는:
    상기 누적된 입력 스파이크 신호들이 상기 문턱값을 초과하는지 여부에 기초하여 상기 출력 스파이크 신호의 생성 타이밍을 결정하는 단계;
    상기 출력 스파이크 신호의 크기를 결정하는 단계; 그리고
    상기 결정된 상기 스파이크 신호의 상기 생성 타이밍과 상기 결정된 상기 출력 스파이크 신호의 상기 크기에 기초하여 상기 출력 스파이크 신호를 생성하는 단계를 포함하는 인공 신경망 장치의 동작 방법.
KR1020170017745A 2017-02-08 2017-02-08 인공 신경망 장치 및 그것의 동작 방법 KR20180092342A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020170017745A KR20180092342A (ko) 2017-02-08 2017-02-08 인공 신경망 장치 및 그것의 동작 방법
US15/868,889 US20180225563A1 (en) 2017-02-08 2018-01-11 Artificial neural network device and operation method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170017745A KR20180092342A (ko) 2017-02-08 2017-02-08 인공 신경망 장치 및 그것의 동작 방법

Publications (1)

Publication Number Publication Date
KR20180092342A true KR20180092342A (ko) 2018-08-20

Family

ID=63037744

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170017745A KR20180092342A (ko) 2017-02-08 2017-02-08 인공 신경망 장치 및 그것의 동작 방법

Country Status (2)

Country Link
US (1) US20180225563A1 (ko)
KR (1) KR20180092342A (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210070590A (ko) * 2019-12-05 2021-06-15 연세대학교 산학협력단 스파이킹 신경망 학습 장치 및 방법

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11977973B2 (en) 2018-11-29 2024-05-07 Electronics And Telecommunications Research Institute Neuron circuit and operating method thereof
KR102576157B1 (ko) 2019-02-22 2023-09-07 한국전자통신연구원 인공 신경망을 이용한 고속 객체 검출 방법 및 장치
KR20200111584A (ko) 2019-03-19 2020-09-29 한국전자통신연구원 시공간 입력 신호들이 나타내는 사건을 부호화하기 위한 전자 장치 및 그것의 동작 방법

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210070590A (ko) * 2019-12-05 2021-06-15 연세대학교 산학협력단 스파이킹 신경망 학습 장치 및 방법

Also Published As

Publication number Publication date
US20180225563A1 (en) 2018-08-09

Similar Documents

Publication Publication Date Title
KR102592146B1 (ko) 시냅스 가중치 학습을 위한 뉴런 회로, 시스템 및 방법
US10671912B2 (en) Spatio-temporal spiking neural networks in neuromorphic hardware systems
US9542643B2 (en) Efficient hardware implementation of spiking networks
KR20180092342A (ko) 인공 신경망 장치 및 그것의 동작 방법
JP6275868B2 (ja) ニューラルウォッチドッグ
US20150206049A1 (en) Monitoring neural networks with shadow networks
US20150269480A1 (en) Implementing a neural-network processor
JP2017509953A (ja) 低スパイキングレートのためのニューラルネットワークを構成すること
KR20160123309A (ko) 확률적 스파이킹 베이지안망들에 대한 이벤트-기반 추론 및 학습
Gopinath et al. Wave prediction using neural networks at New Mangalore Port along west coast of India
US10592803B2 (en) Neuromorphic chip and method and apparatus for detecting spike event
CN106796667B (zh) 动态空间目标选择
JP2017515205A (ja) Ｃｏｌｄニューロンスパイクタイミングバックプロバゲーション
US20150212861A1 (en) Value synchronization across neural processors
US20190138900A1 (en) Neuron circuit, system, and method with synapse weight learning
KR20160125967A (ko) 일반적인 뉴런 모델들의 효율적인 구현을 위한 방법 및 장치
WO2015153150A2 (en) Probabilistic representation of large sequences using spiking neural network
KR101825933B1 (ko) 좌표 변환을 위한 위상 코딩
JP6219509B2 (ja) シナプス遅延を動的に割り当てることおおよび検査すること
Schuman et al. Neuromorphic computing for temporal scientific data classification
JP2017515207A (ja) 可塑性シナプス管理
US9449272B2 (en) Doppler effect processing in a neural network model
EP3108412A2 (en) Imbalanced cross-inhibitory mechanism for spatial target selection
Singh et al. Prediction of Landslide Displacement using NARX Model
Singh et al. APPLICATION OF LRN AND BPNN USING TEMPORAL

Legal Events

Date Code Title Description
E902 Notification of reason for refusal