KR101549767B1 - 일차 시각 피질 단순 세포 및 다른 신경 회로의 입력 시냅스의 자율 트레이닝 방법 및 장치 - Google Patents

일차 시각 피질 단순 세포 및 다른 신경 회로의 입력 시냅스의 자율 트레이닝 방법 및 장치 Download PDF

Info

Publication number
KR101549767B1
KR101549767B1 KR1020137034213A KR20137034213A KR101549767B1 KR 101549767 B1 KR101549767 B1 KR 101549767B1 KR 1020137034213 A KR1020137034213 A KR 1020137034213A KR 20137034213 A KR20137034213 A KR 20137034213A KR 101549767 B1 KR101549767 B1 KR 101549767B1
Authority
KR
South Korea
Prior art keywords
sum
rgc
output
circuits
sign
Prior art date
Application number
KR1020137034213A
Other languages
English (en)
Other versions
KR20140027415A (ko
Inventor
블라디미르 아파린
Original Assignee
퀄컴 인코포레이티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 퀄컴 인코포레이티드 filed Critical 퀄컴 인코포레이티드
Publication of KR20140027415A publication Critical patent/KR20140027415A/ko
Application granted granted Critical
Publication of KR101549767B1 publication Critical patent/KR101549767B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
    • G06N3/065—Analogue means

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Measuring Or Testing Involving Enzymes Or Micro-Organisms (AREA)
  • Heterocyclic Carbon Compounds Containing A Hetero Ring Having Oxygen Or Sulfur (AREA)

Abstract

본 개시물의 소정의 양상들은 일차 시각 피질 (V1) 단순 세포들 및 다른 신경 회로들의 입력 시냅스들의 자율 트레이닝에 대한 기법을 제시한다. 제안된 자율 트레이닝 방법은 망막 신경절 세포 (RGC) 층 및 V1 층 양자 모두에 대해 단순 신경세포 모델들을 이용한다. 그 모델은 단순히 각각의 세포의 가중된 입력들을 가산하는데, 여기서 입력들은 양의 값 또는 음의 값을 가질 수 있다. 결과적인 입력들의 가중된 합들은 또한 양 또는 음일 수 있는 활성치들을 나타낸다. 본 개시물의 일 양상에서, 각각의 V1 세포의 가중치들은 대응하는 RGC 출력의 부호, 및 활성화의 절대 값이 증가하는 방향으로의 V1 세포의 활성치의 부호에 따라 조정될 수도 있다. RGC-대-V1 가중치들은 각각 온 RGC 및 오프 RGC 를 모델링하기 위해 양 및 음일 수 있다.

Description

일차 시각 피질 단순 세포 및 다른 신경 회로의 입력 시냅스의 자율 트레이닝 방법 및 장치{METHOD AND APPARATUS FOR UNSUPERVISED TRAINING OF INPUT SYNAPSES OF PRIMARY VISUAL CORTEX SIMPLE CELLS AND OTHER NEURAL CIRCUITS}
본 개시물의 소정의 양상들은 일반적으로 신경 시스템 엔지니어링에 관한 것으로, 좀더 구체적으로, 일차 시각 피질 세포들 및 다른 신경 회로들의 입력 시냅시스들의 자율 트레이닝 방법 및 장치에 관한 것이다.
이미지 인식 및 모션 검출 시스템들은 머신 비전에 기초하는 기법들 (즉, 인공 지능(Artificial Intelligence; AI), 및 시각 피질을 이용하는 기법들 (즉, 생물학적으로 타당해 보이는 시스템들) 로 나뉠 수 있다. 머신 비전 시스템들은 잘 확립된 트레이닝 방법들을 가지나, 좋지 못한 인식 정확도를 갖는다. 예를 들어, 고양이와 개를 구별하는 것은 50/50 출력을 갖는 머신 비전 시스템들에 있어서 힘든 과제로 남아 있다.
반면, 생물학적으로 타당해 보이는 시스템들은 인간의 시각 피질 구조를 이용한다. 이러한 시스템들에 기초한 방법들은 머신 비전 시스템들보다 훨씬 정확할 것을 약속한다. 그러나, 생물학적으로 타당해 보이는 시스템들의 자기 조직화를 야기하는 생물학적으로 타당해 보이는 시스템들에 대한 트레이닝 방법들은 제대로 개발되지 않았다. 이는 시각 피질 조직화 및 자기 트레이닝 방법들에 대한 좋지 못한 이해 때문이다.
본 개시물의 소정의 양상들은 전기 회로를 제공한다. 전기 회로는 일반적으로 복수의 망막 신경절 세포 (Retinal Ganglion Cell; RGC) 회로들 (여기서 RGC 회로들의 각각은, 출력에서, RGC 회로와 연관된 수용체 회로들로부터의 가중된 입력들의 합을 발생시킨다), 복수의 일차 시각 피질 세포 (V1) 회로들 (여기서 V1 회로들의 각각은 RGC 회로들의 서브세트의 가중된 출력들의 다른 합을 발생시킨다), 및 다른 합을 발생시키기 위해 출력들에 적용되는 가중치들을 조정하도록 구성된 회로 (여기서 가중치들 중 하나의 가중치의 조정은 그 가중치가 적용되는 출력들 중 하나의 출력 또는 다른 합 중 적어도 하나에 기초한다) 를 포함한다.
본 개시물의 소정의 양상들은 신경 시스템을 구현하는 방법을 제공한다. 방법은 일반적으로, 신경 시스템에서 복수의 RGC 회로들의 각각의 망막 신경절 세포 (RGC) 회로의 출력에서, 그 RGC 회로와 연관된 수용체 회로들로부터의 가중된 입력들을 합을 발생시키는 단계, 신경 시스템에서 복수의 V1 회로들의 각각의 일차 시각 피질 세포 (V1) 회로로, RGC 회로들의 서브세트의 가중된 출력들의 다른 합을 발생시키는 단계, 다른 합을 발생시키기 위해 출력들에 적용되는 가중치들을 조정하는 단계 (여기서 가중치들 중 하나의 가중치의 조정은 그 가중치가 적용되는 출력들 중 하나의 출력 또는 다른 합 중 적어도 하나에 기초한다) 를 포함한다.
본 개시물의 소정의 양상들은 장치를 제공한다. 장치는 일반적으로, 장치에서 복수의 RGC 회로들의 각각의 망막 신경절 세포 (RGC) 회로의 출력에서, 그 RGC 회로와 연관된 수용체 회로들로부터의 가중된 입력들의 합을 발생시키는 수단, 장치에서 복수의 V1 회로들의 각각의 일차 시각 피질 세포 (V1) 회로로, RGC 회로들의 서브세트의 가중된 출력들의 다른 합을 발생시키는 수단, 및 다른 합을 발생시키기 위해 출력들에 적용되는 가중치들을 조정하는 수단 (여기서 가중치들 중 하나의 가중치의 조정은 그 가중치가 적용되는 출력들 중 하나의 출력 또는 다른 합 중 적어도 하나에 기초한다) 을 포함한다.
위에서 언급된 본 개시물의 특징들의 방식이 좀더 상세히 이해될 수 있도록, 위에서 간단하게 요약된, 양상들을 참조하여 보다 구체적인 설명이 이루어질 수도 있으며, 양상들 중 일부는 첨부된 도면들에서 도시된다. 그러나, 첨부된 도면들은 단지 이 개시물의 소정의 통상적 양상들을 도시하고, 따라서 이 개시물의 범위를 제한하는 것으로 고려되어서는 안되며, 설명에 있어서는 다른 동등하게 효과적인 양상들을 인정할 수도 있음이 유의되어야 한다.
도 1 은 본 개시물의 소정의 양상들에 따른 예시적인 신경 시스템을 도시한다.
도 2 는 본 개시물의 소정의 양상들에 따른 상이한 유형의 망막 신경절 (RG) 세포들과 연결된 수용체들의 예시적인 모델을 도시한다.
도 3 은 본 개시물의 소정의 양상들에 따른 RG 세포와 일차 시각 피질 (V1) 세포를 연결시키는 시냅스의 부호에 따라 온-세포 또는 오프-세포일 수도 있는 RG 세포와 연결된 수용체들의 예시적인 모델을 도시한다.
도 4 는, 본 개시물의 소정의 양상들에 따른, 수용체들과 RG 세포 사이의 연결의 예시적인 모델, 및 RG 세포들과 V1 세포 사이의 연결의 예시적인 모델을 도시한다.
도 5 는 본 개시물의 소정의 양상들에 따른 RG 세포들과 V1 세포 사이의 시냅스 가중들의 트레이닝에 대한 신경 시스템에서 수행될 수도 있는 예시적인 동작들을 도시한다.
도 5a 는 도 5 에 도시된 동작들을 수행할 수 있는 예시적인 컴포넌트들을 도시한다.
본 개시물의 다양한 양상들은 첨부 도면들을 참조하여 이후에서 좀더 충분히 설명된다. 본 개시물은, 그러나, 많은 상이한 형태들로 실시될 수도 있고, 이 개시물 전반에서 제시된 임의의 특정 구조 또는 기능으로 제한되는 것으로 해석되어서는 안된다. 오히려, 이러한 양상들이 제공되어 본 개시물이 철저하고 완벽하게 될 것이고, 당업자들에게 본 개시물의 범위를 충분히 전달할 것이다. 독립적으로 또는 본 개시물의 임의의 다른 양상들과 결합하여 구현될지에 따라, 본 사상들에 기초하여, 당업자들은 본 개시물의 범위가 본원에 개시된 개시물의 임의의 양상을 커버하고자 함을 이해해야할 것이다. 예를 들어, 본원에 제시된 임의의 수의 양상들을 이용하여 장치가 구현될 수도 있거나 방법이 실시될 수도 있다. 또한, 본 개시물의 범위는 본원에 제시된 개시물의 다양한 양상들에 더해 또는 그 외에 다른 구조, 기능성, 또는 구조와 기능성을 이용하여 실시되는 그러한 장치 또는 방법을 커버하고자 한다. 본원에 개시된 개시물의 임의의 양상은 청구항의 하나 이상의 요소들에 의해 구체화될 수도 있음이 이해되어야 한다.
단어 "예시적인" 은 "예, 예시, 또는 예증의 역할을 하는" 을 의미하는 것으로 본원에서 이용된다. "예시적인" 것으로 본원에서 설명된 임의의 양상은 반드시 다른 양상들에 비해 바람직하거나 유리한 것으로 해석될 필요는 없다.
비록 특정 양상들이 본원에서 설명되지만, 이러한 양상들의 많은 변형예들 및 치환예들이 본 개시물의 범위 내에 속한다. 비록 바람직한 양상들의 일부 이득들 및 이점들이 언급되었지만, 본 개시물의 범위는 특정 이득들, 이용들, 또는 목적들로 제한되고자 하지 않는다. 오히려, 본 개시물의 양상들은 상이한 기술들, 시스템 구성들, 네트워크들, 및 프로토콜들에 널리 적용되고자 하며, 본 개시물의 양상들 중 일부는 도면들에서 그리고 다음의 바람직한 양상들의 설명에서 예로서 예시된다. 상세한 설명 및 도면들은 제한하는 것이기 보다는 단지 본 개시물의 예시일 뿐이며, 본 개시물의 범위는 첨부된 청구항들 및 그의 등가물들에 의해 정의된다.
예시적인 신경 시스템
도 1 은 본 개시물의 소정의 양상들에 따른 다수의 레벨들의 신경세포들을 갖는 예시적인 신경 시스템 (100) 을 도시한다. 신경 시스템 (100) 은 시냅스 연결들의 네트워크 (104) 를 통해 다른 레벨의 신경세포들 (106) 에 연결되는 일 레벨의 신경세포들 (102) 을 포함할 수도 있다. 간단함을 위해, 단지 2 개 레벨의 신경세포들만이 도 1 에 도시되나, 더 많은 레벨들의 신경세포들이 통상적인 신경 시스템에 존재할 수도 있다.
도 1 에 도시된 바와 같이, 레벨 (102) 에서의 각각의 신경세포는 이전 레벨의 복수의 신경세포들 (도 1 에 미도시) 에 의해 발생될 수도 있는 입력 신호 (108) 를 수신할 수도 있다. 신호 (108) 는 레벨 (102) 신경세포의 입력 전류를 나타낼 수도 있다. 이러한 전류는 신경세포 막에 축적되어 막 전위를 충전할 수도 있다. 막 전위가 임계 값에 도달하는 경우, 신경세포는 발화되어 (fire) 다음 레벨의 신경세포들 (예를 들어, 레벨 106) 로 전송될 출력 스파이크를 발생시킬 수도 있다.
일 레벨의 신경세포들로부터 다른 레벨의 신경세포들로의 스파이크들의 전송은 도 1 에 도시된 바와 같이 시냅스 연결들의 네트워크 (또는 단순히 "시냅스들") (104) 를 통해 달성될 수도 있다. 시냅스들 (104) 은 레벨 (102) 뉴런들로부터 출력 신호들 (즉, 스파이크들) 을 수신하며, 조정가능한 시냅스 가중치들 (
Figure 112013117897911-pct00001
,...,
Figure 112013117897911-pct00002
) 에 따라 이러한 신호들을 스케일링하고 (여기서 P 는 신경세포 레벨들 (102 및 106) 사이의 시냅스 연결들의 전체 개수이다), 레벨 (106) 에서 각각의 신경세포의 입력 신호로서 스케일링된 신호들을 결합할 수도 있다. 레벨 (106) 에서 모든 신경세포는 대응하는 결합된 입력 신호에 기초하여 출력 스파이크들 (110) 을 발생시킬 수도 있다. 출력 스파이크들 (110) 은 그 다음에 다른 시냅스 연결들의 네트워크 (도 1 에 미도시) 를 이용하여 다른 레벨의 신경세포들로 전송될 수도 있다.
신경 시스템 (100) 은 전기 회로에 의해 에뮬레이트되고, 이미지 및 패턴 인식, 머신 학습, 모터 제어 등과 같은 광범위한 애플리케이션들에 이용될 수도 있다. 신경 시스템 (100) 내의 각각의 신경세포는 신경 회로로서 구현될 수도 있다. 출력 스파이크를 개시하는 임계 값으로 충전되는 신경세포 막은, 예를 들어, 신경세포 막을 통해 흐르는 전류를 통합하는 커패시터로서 구현될 수도 있다.
일 양상에서, 커패시터는 신경세포 회로의 전류 통합 디바이스로 제거될 수도 있고, 보다 작은 멤리스터 (memristor) 소자가 커패시터 대신에 이용될 수도 있다. 이러한 접근법은 신경세포 회로들, 뿐만 아니라 전류 적분기들로서 대형 커패시터들이 이용되는 다양한 다른 애플리케이션들에 적용될 수도 있다. 또한, 시냅스들 (104) 의 각각은 멤리스터 소자에 기초하여 구현될 수도 있으며, 여기서 시냅스 가중치 변화들은 멤리스터 저항의 변화들에 관련될 수도 있다. 나노미터 피처 크기의 멤리스터들로, 신경세포 회로 및 시냅스들의 영역이 실질적으로 감소될 수도 있으며, 이는 매우 큰 크기의 신경 시스템 하드웨어 구현예 실행의 구현을 하게 할 수도 있다.
본 개시물은 색각 (color vision) 에 이용되는 일차 시각 피질 (V1) 세포들 및 망막 신경절 세포 (RGC) 들의 간소화된 구조를 제안하며, 여기서 V1 세포들 및 RGC 들은 도 1 에서의 신경 시스템 (100) 의 신경세포 회로들로서 구현될 수도 있다. 본 개시물의 일 양상에서, RGC 들은 신경세포들 (102) 에 대응할 수도 있고, V1 세포들은 신경세포들 (106) 에 대응할 수도 있다.
V1 입력 시냅스들 (예를 들어, 신경 시스템 (100) 의 시냅스들 (104)) 은 단순 세포 생성을 달성하기 위해 자율 방식으로 트레이닝될 것을 요구할 수도 있다. 본 개시물은 V1 층들 내에 피쳐 검출체들 (단순 세포들) 의 자율적 형성을 가져올 수도 있는 V1 층의 세포과 RGC 층의 세포 사이의 연결성을 트레이닝하는 효율적인 방법을 제안한다. 제안된 접근법은 이미지 인식 및 모션 검출 시스템들의 하드웨어 효율적이고 생물학적으로 타당해 보이는 구현을 가능하게 할 수도 있다.
제안된 자율 트레이닝 방법은 RGC 층 및 V1 층 양자 모두에 대해 단순 신경세포 모델들을 이용할 수도 있다. 모델은 단순히 각각의 세포의 가중된 입력들을 가산하는데, 여기서 입력들은 양의 값 또는 음의 값을 가질 수도 있다. 결과적인 입력들의 가중된 합들은 활성치들이라고 불리며, 여기서 활성치들은 또한 양 또는 음일 수도 있다. 본 개시물의 일 양상에서, 각각의 V1 세포의 가중치들은 대응하는 RGC 출력의 부호, 및 활성치의 절대 값이 증가하는 방향으로의 V1 세포과 연관된 활성치의 부호에 따라 조정될 수도 있다. V1 가중치들은 양 또는 음일 수도 있다.
제안된 시냅스 가중치들의 트레이닝 방법은 소프트웨어 및 하드웨어에서의 효율적인 구현에 적합할 수도 있다. 또한, 스파이크 시간 의존 가소성 (Spike Timing Dependant Plasticity; STDP) 트레이닝 접근법보다 훨씬 빠르게 구동할 수도 있다.
일차 시각 피질 세포들의 입력 시냅스들의 자율 트레이닝 방법
소정의 양상들에 따르면, RG 세포 (RGC) 들은 온-세포들과 오프-세포들로 나뉠 수도 있다. 온-세포들은 배경보다 밝은 오브젝트들을 구별할 수 있다. 예를 들어, 주변시가 모두 온-세포들에 기초하여, 사람들은 어두운 배경에 대해 밝은 지점들을 보다 잘 볼 수 있다. 반면, RG 오프-세포들은 배경보다 어두운 오브젝트들을 구별할 수 있다. RG 온-세포들 및 RG 오프-세포들 양자 모두를 포함하는 전체 수용 필드를 조명하는 것은 RGC 발화율 (firing rate) 에 제한된 영향을 갖는다는 것에 유의해야 한다.
도 2 는, 본 개시물의 소정의 양상들에 따른, 광-수용체들 (202) 과 RG 온-세포 (204) 사이의 연결의 예시적인 모델 (200a), 및 광-수용체들 (206) 과 RG 오프-세포 (208) 사이의 연결의 예시적인 모델 (200b) 을 도시한다. 수용체 회로들 (202 및 206) 은 이미지 픽셀들의 직교 어레이들로 조직화될 수도 있다. 따라서, 온-세포 및 오프-세포의 수용 필드들은 (원형 대신에) 직사각형의 형상을 가질 수도 있다.
일 양상에서, 각각의 RGC 는 9 개의 수용체들로부터의 입력을 수신할 수도 있으며, 여기서, 수용체들과 연관된 입력 가중치들은, 도 2 에 도시된 바와 같이, 라플라시안 필터 (즉, 라플라시안 윈도우 함수가 수용체들로부터의 신호들에 적용될 수도 있다) 를 형성할 수도 있다. 모델들 (200a 및 200b) 에 도시된 바와 같이, 가중치들은 수용체들이 온-RG 세포 또는 오프-RG 세포에 연결되는지 여부에 의존할 수도 있다. 도 2 에 도시된 RG 세포들 (204 및 208) 은 마그노 (magno) -신경절 세포들에 대응하지 않을 수도 있으며, 마그노-신경절 세포들은 보다 많은 개수의 수용체들로부터의 입력들을 수신할 수 있음에 유의해야 한다.
본 개시물의 일 양상에서, RGC 어레이에 온-세포 및 오프-세포를 섞는 대신에, 각각의 RG 세포 (예를 들어, 도 3 에 도시된 모델 (300) 에서 수용체들 (302) 로부터의 입력들을 수신하는 RG 세포 (304)) 가 온-세포 또는 오프-세포 중 어느 일방일 수도 있다. 이는 RG 세포 (304) 을 V1 단순 세포 (310) 에 연결하는 시냅스 (308) 와 연관된 가중치 (306) 의 부호에 의존할 수도 있다.
도 3 에 도시된 바와 같이, V1 세포 (310) 의 입력 (y) 은 RG 세포 (304) 에 입력될 수도 있는 수용체들 (302) 로부터의 입력 신호들 (xi ,j) 에 가중치 (w) 를 적용함으로써 획득될 수도 있다:
Figure 112013117897911-pct00003
. (1)
식 (1) 은 다음과 같이 다시 쓰여질 수도 있는데:
Figure 112013117897911-pct00004
, (2)
여기서 sgn(w)=+1 이면 RGC (304) 는 온-세포로 동작할 수도 있고, sgn(w)=-1 이면 RGC (304) 는 오프-세포로 동작할 수도 있다.
본 발명의 일 양상에서, 도 4 에 도시된 것과 같은 신경세포 모델이 이용될 수도 있다. 예시적인 모델 (400a) 에서, RGC (404) 는 수용체들 (402) 로부터의 가중된 입력들 (406) 을 합산할 수도 있고, 그 다음에 RGC 의 출력 (408) 으로 합계 결과를 전송할 수도 있는데, 즉:
Figure 112013117897911-pct00005
. (3)
도 4 에서의 예시적인 모델 (400b) 에 도시된 바와 같이, V1 세포 (414) 은 RGC 들 (412) 로부터의 가중된 입력들 (416) 을 합산할 수도 있는데, 즉:
Figure 112013117897911-pct00006
, (4)
여기서 식 (4) 로부터의 가중치들 (wi ,j) 의 각각은 온 RGC 및 오프 RGC 양자 모두를 모델링하기 위해 양극성일 수도 있다. 일 양상에서, V1 세포 (414) 의 출력 (418) (활성화 신호) 이 임계치와 비교될 수도 있다. 합계 결과 (418) 가 임계치보다 높으면, V1 세포 (414) 가 활성화된다 (즉, 발화된다). 반면, 결과 (418) 가 임계치 아래이면, V1 세포 (414) 는 휴지이다.
본 개시물의 일 양상에서, 오직 RGC-대-V1 연결들의 가중치들 (즉, 가중치들 (wi ,j)) 만이 트레이닝될 수도 있다. 도 4 로부터의 모델 (400b) 은 다음의 규칙을 이용할 수도 있다. 각각의 V1 단순 세포의 활성치는 대응하는 RGC 출력들의 가중된 합들로서 계산될 수도 있다. V1-세포 활성치가 임계치를 초과하면, V1 세포가 발화될 수도 있다. 그렇지 않으면, V1 세포는 휴지일 수도 있고, (즉, V1 세포는 임의의 신호를 발생시키지 않는다), V1 세포의 입력 가중치들이 변하지 않을 수도 있다.
우선, 각각의 V1 단순 세포의 활성치가 대응하는 RGC 출력들의 가중된 합으로서 계산될 수도 있다. 그 다음에, 대응하는 RGC 출력의 부호 및 V1 세포 활성의 활성치의 부호에 따라 각각의 V1 세포의 가중치들이 조정될 수도 있다. 일 양상에서, RGC 출력의 부호와 활성치의 부호가 동일하면, RGC 출력에 적용되는 가중치에 양의 증분이 가산될 수도 있다 (즉, 가중치가 증가될 수도 있다). 다른 양상에서, RGC 출력의 부호와 활성치의 부호가 동일하지 않으면, 양의 증분이 대응하는 가중치로부터 감산될 수도 있다 (즉, 가중치가 감소될 수도 있다).
RGC 출력들 (yi ,j) 에 있어서, V1 세포의 활성치는 식 (4) 에 의해 정의된 바와 같이 결정될 수도 있다. 그 다음에, 본 개시물의 일 양상에서, RGC-대-V1 가중치들이 다음과 같이 조정될 수도 있다:
Figure 112013117897911-pct00007
. (5)
본 개시물의 다른 양상에서, RGC-대-V1 가중치들은 활성치의 부호 대신에 활성화의 값에 기초하여 조정될 수도 있는데, 즉:
Figure 112013117897911-pct00008
. (6)
식 (5) - 식 (6) 으로부터의 |Δw| 의 값이 미리 결정될 수도 있다. 일 양상에서, |Δw| 의 값은 1/2N 의 형태로 있을 수도 있는데, 여기서 N 은 정수일 수도 있다. 활성화 값 (z) 이 이진수로 나타내어질 수도 있기 때문에, 식 (6) 으로부터의 곱 (z·|Δw|) 은 값 (|Δw|) 에 대한 이진 시프트 연산을 수행함으로써 구현될 수도 있다.
도 5 는 본 개시물의 소정의 양상들에 따른 RG 세포들과 V1 세포 사이의 시냅스 가중들의 트레이닝에 대한 신경 시스템에서 수행될 수도 있는 예시적인 동작들 (500) 을 도시한다. 502 에서, 신경 시스템에서 복수의 RGC 회로들의 각각의 망막 신경절 세포 (RGC) 회로의 출력에서, RGC 회로와 연관된 수용체 회로들로부터의 가중된 입력들의 합이 발생될 수도 있다. 504 에서, 신경 시스템에서 복수의 V1 회로들의 각각의 일차 시각 피질 세포 (V1) 회로는 RGC 회로들의 서브세트의 가중된 출력들의 다른 합을 발생시킬 수도 있다. 506 에서, 다른 합을 발생시키기 위해 출력들에 적용되는 가중치들은 조정될 수도 있으며, 여기서 가중치들 중 하나의 가중치의 조정은 가중치가 적용되는 출력들 중 하나의 출력 또는 다른 합 중 적어도 하나에 기초할 수도 있다.
요약하면, RGC 층에서 온-세포과 오프-세포를 섞는 대신에, RGC 층을 모두 온/오프 세포로 제조하여 RGC-대-V1 가중치들의 부호를 통해 그것들의 유형을 제어할 것을 본 개시물에서는 제안된다. 도 4 에 도시된 바와 같이, 단순 "가산" 신경세포들이 RG 세포들로서 이용될 수도 있는 반면, "가산-및-발화" 신경세포들이 V1 단순 세포들로 이용될 수도 있다. 식 (5) - 식 (6) 에 의해 정의된 RGC-대-V1 가중치들에 대한 제안된 학습 규칙이 STDP 학습 규칙 대신에 적용될 수도 있다. 본 개시물의 일 양상에서, 가중치들은 양 (온 RG 세포로의 연결을 모델링) 에서 음 (오프 RG 세포로의 연결을 모델링) 으로 변화하도록, 또는 그 반대로 변화하도록 허용될 수도 있다.
위에서 설명된 방법들의 다양한 동작들은 대응하는 기능들을 수행할 수 있는 임의의 적합한 수단으로 수행될 수도 있다. 그 수단은 회로, 주문형 집적 회로 (ASIC), 또는 프로세서를 포함하여 다양한 하드웨어 및/또는 소프트웨어 컴포넌트(들) 및/또는 모듈(들) 을 포함할 수도 있으나, 이로 제한되지는 않는다. 일반적으로, 도면들에 도시된 동작들이 있는 경우, 이러한 동작들은 대응하는 상대 수단 + 유사한 번호를 갖는 기능 컴포넌트들을 가질 수도 있다. 예를 들어, 도 5 에 도시된 동작들 (500) 은 도 5a 에 도시된 컴포넌트들 (500a) 에 대응한다.
본원에서 이용되는 바와 같이, 용어 "결정하기" 는 매우 다양한 액션들을 망라한다. 예를 들어, "결정하기" 는 계산하기, 컴퓨팅하기, 프로세싱하기, 도출하기, 조사하기, 검색하기 (예를 들어, 테이블, 데이터베이스, 또는 다른 데이터 구조에서 검색하기), 확인하기 등을 포함할 수도 있다. 또한, "결정하기" 는 수신하기 (예를 들어, 정보 수신하기), 액세스하기 (예를 들어, 메모리 내의 데이터에 액세스하기) 등을 포함할 수 있다. 또한, "결정하기" 는 해결하기, 선택하기, 고르기, 설정하기 등을 포함할 수 있다.
본원에서 이용되는 바와 같이, 아이템들의 리스트 중 "그 중 적어도 하나" 를 지칭하는 구절은 단일 구성부를 포함하여, 이러한 아이템들의 임의의 조합을 지칭한다. 예로서, "a, b, 또는 c: 중의 적어도 하나" 는 a, b, c, a-b, a-c, b-c, 및 a-b-c 를 포함하고자 한다.
위에서 설명된 방법들의 다양한 동작들은 다양한 하드웨어 및/또는 소프트웨어 컴포넌트(들), 회로들, 및/또는 모듈(들) 과 같은, 동작들을 수행할 수 있는 임의의 적합한 수단에 의해 수행될 수도 있다. 일반적으로, 도면들에서 도시된 임의의 동작들은 그 동작들을 수행할 수 있는 대응하는 기능적 수단에 의해 수행될 수도 있다.
본 개시물과 연계하여 설명된 다양한 예증적인 논리 블록들, 모듈들, 및 회로들은 본원에서 개시된 기능들을 수행하도록 설계된 범용 프로세서, 디지털 신호 프로세서 (DSP), 주문형 반도체 (ASIC), 필드 프로그래머블 게이트 어레이 신호 (FPGA) 또는 다른 프로그래머블 로직 디바이스 (PLD), 이산 게이트 또는 트랜지스터 로직, 이산 하드웨어 컴포넌트들, 또는 이들의 임의의 조합에 의해 구현되거나 수행될 수도 있다. 범용 프로세서는 마이크로프로세서일 수도 있으나, 대안으로, 프로세서는 임의의 상업적으로 이용가능한 프로세서, 컨트롤러, 마이크로컨트롤러, 또는 상태 머신일 수도 있다. 프로세서는 또한 컴퓨팅 디바이스들의 조합, 예를 들면, DSP와 마이크로프로세서의 조합, 복수의 마이크로프로세서들, DSP 코어와 연계한 하나 이상의 마이크로프로세서들, 또는 임의의 다른 그러한 구성으로 구현될 수도 있다.
본 개시물과 연계하여 설명된 방법 또는 알고리즘의 단계들은 하드웨어에서, 프로세서에 의해 실행되는 소프트웨어 모듈에서, 또는 이들 양자의 조합에서 직접적으로 구체화될 수도 있다. 소프트웨어 모듈은 공지된 임의의 형태의 저장 매체 내에 상주할 수도 있다. 이용될 수도 저장 매체들의 일부 예들은, 랜덤 액세스 메모리 (RAM), 판독 전용 메모리 (ROM), 플래시 메모리, EPROM 메모리, EEPROM 메모리, 레지스터들, 하드 디스크, 이동식 디스크, CD-ROM 등을 포함한다. 소프트웨어 모듈은 단일 명령 또는 많은 명령들을 포함할 수도 있고, 상이한 프로그램들 사이에서 여러 상이한 코드 세그먼트들에 걸쳐, 그리고 다수의 저장 매체들에 걸쳐 분산될 수도 있다. 저장 매체는 프로세서에 커플링되어, 프로세서가 저장 매체로부터 정보를 판독하거나 저장 매체에 정보를 기록할 수 있다. 대안에서, 저장 매체는 프로세서에 통합될 수도 있다.
본원에서 개시된 방법들은 상술된 방법을 달성하기 위한 하나 이상의 단계들 또는 액션들을 포함한다. 방법 단계들 및/또는 작동들은 청구항들의 범위를 벗어나지 않으면서 서로 상호교환될 수도 있다. 다시 말해, 단계들 또는 액션들에 대한 특정 순서가 명시되지 않는 한, 특정 단계들 및/또는 액션들의 순서 및/또는 이용은 청구항들의 범위로부터 벗어남이 없이 수정될 수도 있다.
설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수도 있다. 소프트웨어로 구현되는 경우, 기능들은 하나 이상의 명령들 또는 코드로서 컴퓨터 판독 가능한 매체 상에 저장되거나 또는 전송될 수도 있다. 컴퓨터 판독가능 매체들은 한 장소에서 다른 장소로 컴퓨터 프로그램의 전송을 가능하게 하는 임의의 매체를 포함하여 컴퓨터 저장 매체들 및 통신 매체들 양자 모두를 포함한다. 저장 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 이용 가능한 매체일 수도 있다. 비제한적인 예로서, 이러한 컴퓨터 판독 가능한 매체들은 RAM, ROM, EEPROM, CD-ROM 또는 다른 광학 디스크 스토리지, 자기 디스크 스토리지 또는 다른 자기 저장 디바이스들, 또는 요구되는 프로그램 코드를 명령들 또는 데이터 구조들의 형태로 이송 또는 저장하기 위해 이용될 수 있으며 컴퓨터에 의해 액세스될 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 임의의 연결은 컴퓨터 판독가능 매체라고 적절히 칭해진다. 예를 들어, 소프트웨어가 동축 케이블, 광섬유 케이블, 연선, 디지털 가입자 회선 (DSL), 또는 적외선 (IR), 무선, 및 마이크로파와 같은 무선 기술들을 이용하여 웹사이트, 서버, 또는 다른 원격 소스로부터 송신되는 경우, 동축 케이블, 광섬유 케이블, 연선, DSL, 또는 적외선, 무선, 및 마이크로파와 같은 무선 기술들은 매체의 정의 내에 포함된다. 본원에서 사용된 디스크 (disk) 와 디스크 (disc) 는, 컴팩트 디스크 (CD), 레이저 디스크, 광학 디스크, 디지털 다기능 디스크 (DVD), 플로피 디스크 및 블루레이® 디스크를 포함하며, 여기서 디스크 (disk) 들은 통상 자기적으로 데이터를 재생하고, 디스크 (disc) 들은 레이저들을 이용하여 광학적으로 데이터를 재생한다. 따라서, 일부 양상들에서 컴퓨터 판독가능 매체들은 비일시적 컴퓨터 판독가능 매체들 (예를 들어, 유형의 매체들) 을 포함할 수도 있다. 또한, 다른 양상들에 있어서 컴퓨터 판독가능 매체들은 일시적 컴퓨터 판독가능 매체들 (예를 들어, 신호) 을 포함할 수도 있다. 위의 조합들도 컴퓨터 판독가능 매체들의 범위 내에 포함되어야 한다.
따라서, 소정의 양상들은 본원에 제시된 동작들을 수행하는 컴퓨터 프로그램 제품을 포함할 수도 있다. 예를 들어, 이러한 컴퓨터 프로그램 제품은 저장된 (및/또는 인코딩된) 명령들을 갖는 컴퓨터 판독가능 매체를 포함할 수도 있으며, 명령들은 본원에 설명된 동작들을 수행하도록 하나 이상의 프로세서들에 의해 실행가능할 수 있다. 소정의 양상들에 있어서, 컴퓨터 프로그램 제품은 패키징 재료를 포함할 수도 있다.
소프트웨어 또는 명령들은 또한 송신 매체를 통해 송신될 수도 있다. 예를 들어, 소프트웨어가 동축 케이블, 광 섬유 케이블, 연선, 디지털 가입자 회선 (DSL), 또는 적외선, 무선, 및/또는 마이크로파와 같은 무선 기술들을 이용하여 웹사이트, 서버, 또는 다른 원격 소스로부터 송신되는 경우, 동축 케이블, 광 섬유 케이블, 연선, DSL, 또는 적외선, 무선, 및 마이크로파와 같은 무선 기술들은 송신 매체의 정의 내에 포함된다.
또한, 본원에 설명된 방법들 및 기법들을 수행하는 모듈들 및/또는 다른 적절한 수단은 다운로드될 수 있고/있거나, 그렇지 않으면 가능한 적용가능한 사용자 단말 및/또는 기지국에 의해 획득될 수 있음이 이해되어야 한다. 예를 들어, 본원에서 설명된 방법들을 수행하는 수단의 전송을 용이하게 하기 위한 서버에 이러한 디바이스가 커플링될 수도 있다. 대안으로, 본원에 설명된 다양한 방법들이 저장 수단 (예를 들어, RAM, ROM, 물리적 컴팩트 디스크 (CD) 나 플로피 디스크와 같은 물리적 저장 매체 등) 을 통해 제공될 수도 있어, 사용자 단말 및/또는 기지국은 디바이스에 커플링할 시에 또는 디바이스에 저장 수단을 제공할 시에 다양한 방법들을 획득할 수 있다. 또한, 본원에서 설명된 방법들 및 기법들을 디바이스에 제공하는 임의의 다른 적합한 기술이 이용될 수 있다.
청구항들은 위에서 설명된 정확한 구성 및 컴포넌트들로 제한되는 것이 아님을 이해해야 한다. 청구항들의 범위를 벗어나지 않으면서, 위에서 설명된 방법들 및 장치의 배치, 동작, 및 세부사항들에서 다양한 수정예들, 변경예들, 및 변형예들이 행해질 수도 있다.
앞서 언급한 것이 본 개시물의 양상들에 대한 것이나, 본 개시물의 기본 범위로부터 벗어나지 않으면서 본 개시물의 다른 양상 및 추가적인 양상이 고안될 수도 있고, 본 개시물의 범위는 뒤따르는 청구항들에 의해 결정된다.

Claims (21)

  1. 전기 회로로서,
    복수의 망막 신경절 세포 (Retinal Ganglion Cell; RGC) 회로들로서, 상기 RGC 회로들의 각각은, 출력에서, 그 RGC 회로와 연관된 수용체 회로들로부터의 가중된 입력들의 합을 발생시키는, 상기 복수의 망막 신경절 세포 회로들;
    복수의 일차 시각 피질 세포 (V1) 회로들로서, 상기 V1 회로들의 각각은 상기 RGC 회로들의 서브세트의 가중된 출력들의 다른 합을 발생시키는, 상기 복수의 일차 시각 피질 세포 회로들; 및
    상기 다른 합을 발생시키기 위해 상기 출력들에 적용되는 가중치들을 조정하도록 구성된 회로를 포함하고,
    상기 가중치들의 각각의 조정은 그 가중치가 적용되는 상기 출력들 중 하나의 출력 또는 상기 다른 합 중 적어도 하나에 기초하는, 전기 회로.
  2. 제 1 항에 있어서,
    상기 가중치의 조정은 그 출력의 부호 및 상기 다른 합의 부호에 기초하는, 전기 회로.
  3. 제 1 항에 있어서,
    상기 가중치의 조정은 그 출력의 부호 및 상기 다른 합의 값에 기초하는, 전기 회로.
  4. 제 1 항에 있어서,
    상기 출력 및 상기 다른 합이 양자 모두 양이거나 양자 모두 음인 경우, 상기 가중치가 증가되고,
    상기 출력의 부호 및 상기 다른 합의 부호가 동일하지 않은 경우, 상기 가중치가 감소되는, 전기 회로.
  5. 제 1 항에 있어서,
    상기 V1 회로에 의해 발생된 상기 다른 합이 임계치를 초과하는 경우, 상기 V1 회로가 신호를 출력하는, 전기 회로.
  6. 제 1 항에 있어서,
    상기 회로는 또한 이진 시프트 연산을 수행함으로써 상기 가중치들의 각각을 조정하도록 구성되는, 전기 회로.
  7. 제 1 항에 있어서,
    상기 수용체 회로들로부터의 상기 입력들은 라플라시안 윈도우 함수에 따라 가중되는, 전기 회로.
  8. 신경 시스템을 구현하는 방법으로서,
    상기 신경 시스템에서 복수의 망막 신경절 세포 (Retinal Ganglion Cell; RGC) 회로들의 각각의 RGC 회로의 출력에서, 그 RGC 회로와 연관된 수용체 회로들로부터의 가중된 입력들의 합을 발생시키는 단계;
    상기 신경 시스템에서 복수의 일차 시각 피질 세포 (V1) 회로들의 각각의 V1 회로에 의해, 상기 RGC 회로들의 서브세트의 가중된 출력들의 다른 합을 발생시키는 단계; 및
    상기 다른 합을 발생시키기 위해 상기 출력들에 적용되는 가중치들을 조정하는 단계를 포함하고,
    상기 가중치들의 각각의 조정은 그 가중치가 적용되는 상기 출력들 중 하나의 출력 또는 상기 다른 합 중 적어도 하나에 기초하는, 신경 시스템 구현 방법.
  9. 제 8 항에 있어서,
    상기 가중치의 조정은 그 출력의 부호 및 상기 다른 합의 부호에 기초하는, 신경 시스템 구현 방법.
  10. 제 8 항에 있어서,
    상기 가중치의 조정은 그 출력의 부호 및 상기 다른 합의 값에 기초하는, 신경 시스템 구현 방법.
  11. 제 8 항에 있어서,
    상기 출력 및 상기 다른 합이 양자 모두 양이거나 양자 모두 음인 경우, 상기 가중치가 증가되고,
    상기 출력의 부호 및 상기 다른 합의 부호가 동일하지 않은 경우, 상기 가중치가 감소되는, 신경 시스템 구현 방법.
  12. 제 8 항에 있어서,
    상기 V1 회로에 의해 발생된 상기 다른 합이 임계치를 초과하는 경우, 상기 V1 회로의 출력에서 신호를 발생시키는 단계를 더 포함하는, 신경 시스템 구현 방법.
  13. 제 8 항에 있어서,
    상기 가중치들의 각각을 조정하는 것은,
    이진 시프트 연산을 수행하는 것을 포함하는, 신경 시스템 구현 방법.
  14. 제 8 항에 있어서,
    상기 수용체 회로들로부터의 상기 입력들은 라플라시안 윈도우 함수에 따라 가중되는, 신경 시스템 구현 방법.
  15. 장치로서,
    상기 장치에서 복수의 망막 신경절 세포 (Retinal Ganglion Cell; RGC) 회로들의 각각의 RGC 회로의 출력에서, 그 RGC 회로와 연관된 수용체 회로들로부터의 가중된 입력들의 합을 발생시키는 수단;
    상기 장치에서 복수의 일차 시각 피질 세포 (V1) 회로들의 각각의 V1 회로에 의해, 상기 RGC 회로들의 서브세트의 가중된 출력들의 다른 합을 발생시키는 수단; 및
    상기 다른 합을 발생시키기 위해 상기 출력들에 적용되는 가중치들을 조정하는 수단을 포함하고,
    상기 가중치들의 각각의 조정은 그 가중치가 적용되는 상기 출력들 중 하나의 출력 또는 상기 다른 합 중 적어도 하나에 기초하는, 장치.
  16. 제 15 항에 있어서,
    상기 가중치의 조정은 그 출력의 부호 및 상기 다른 합의 부호에 기초하는, 장치.
  17. 제 15 항에 있어서,
    상기 가중치의 조정은 그 출력의 부호 및 상기 다른 합의 값에 기초하는, 장치.
  18. 제 15 항에 있어서,
    상기 출력 및 상기 다른 합이 양자 모두 양이거나 양자 모두 음인 경우, 상기 가중치가 증가되고,
    상기 출력의 부호 및 상기 다른 합의 부호가 동일하지 않은 경우, 상기 가중치가 감소되는, 장치.
  19. 제 15 항에 있어서,
    상기 V1 회로에 의해 발생된 상기 다른 합이 임계치를 초과하는 경우, 상기 V1 회로의 출력에서 신호를 발생시키는 수단을 더 포함하는, 장치.
  20. 제 15 항에 있어서,
    상기 가중치들의 각각을 조정하는 수단은,
    이진 시프트 연산을 수행하는 수단을 포함하는, 장치.
  21. 제 15 항에 있어서,
    상기 수용체 회로들로부터의 상기 입력들은 라플라시안 윈도우 함수에 따라 가중되는, 장치.
KR1020137034213A 2011-05-25 2012-05-25 일차 시각 피질 단순 세포 및 다른 신경 회로의 입력 시냅스의 자율 트레이닝 방법 및 장치 KR101549767B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US13/115,154 US8583577B2 (en) 2011-05-25 2011-05-25 Method and apparatus for unsupervised training of input synapses of primary visual cortex simple cells and other neural circuits
US13/115,154 2011-05-25
PCT/US2012/039704 WO2012162663A1 (en) 2011-05-25 2012-05-25 Method and apparatus for unsupervised training of input synapses of primary visual cortex simple cells and other neural circuits

Publications (2)

Publication Number Publication Date
KR20140027415A KR20140027415A (ko) 2014-03-06
KR101549767B1 true KR101549767B1 (ko) 2015-09-02

Family

ID=46208849

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020137034213A KR101549767B1 (ko) 2011-05-25 2012-05-25 일차 시각 피질 단순 세포 및 다른 신경 회로의 입력 시냅스의 자율 트레이닝 방법 및 장치

Country Status (6)

Country Link
US (1) US8583577B2 (ko)
EP (1) EP2715620B1 (ko)
JP (2) JP6113719B2 (ko)
KR (1) KR101549767B1 (ko)
CN (1) CN103548042B (ko)
WO (1) WO2012162663A1 (ko)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230133409A (ko) * 2016-08-03 2023-09-19 가부시키가이샤 한도오따이 에네루기 켄큐쇼 촬상 장치, 촬상 모듈, 전자 기기, 및 촬상 시스템
US11250316B2 (en) 2018-08-10 2022-02-15 International Business Machines Corporation Aggregate adjustments in a cross bar neural network
CN113160027A (zh) * 2020-01-23 2021-07-23 华为技术有限公司 一种图像处理模型训练方法及装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2900427B2 (ja) * 1989-09-18 1999-06-02 富士通株式会社 ニューラルネット
US5329610A (en) * 1992-05-19 1994-07-12 Intel Corporation Neural network employing absolute value calculating synapse
US5473730A (en) 1993-11-09 1995-12-05 At&T Ipm Corp. High efficiency learning network
US7769513B2 (en) * 2002-09-03 2010-08-03 Automotive Technologies International, Inc. Image processing for vehicular applications applying edge detection technique
US5771312A (en) * 1996-07-01 1998-06-23 Ramot University Authority For Applied Research & Industrial Development Ltd. Method for automatic partial white balance correction
GB9902115D0 (en) * 1999-02-01 1999-03-24 Axeon Limited Neural networks
US6912307B2 (en) * 2001-02-07 2005-06-28 Ramot Fyt Tel Aviv University Ltd. Method for automatic color and intensity contrast adjustment of still and video images
US7711663B2 (en) * 2006-03-27 2010-05-04 Board Of Trustees Of Michigan State University Multi-layer development network having in-place learning
GB2453263A (en) * 2006-05-16 2009-04-01 Douglas S Greer System and method for modeling the neocortex and uses therefor
WO2009149126A2 (en) * 2008-06-02 2009-12-10 New York University Method, system, and computer-accessible medium for classification of at least one ictal state
US9092736B2 (en) * 2010-07-07 2015-07-28 Qualcomm Incorporated Communication and synapse training method and hardware for biologically inspired networks
US9129220B2 (en) * 2010-07-07 2015-09-08 Qualcomm Incorporated Methods and systems for digital neural processing with discrete-level synapes and probabilistic STDP
US8892485B2 (en) * 2010-07-08 2014-11-18 Qualcomm Incorporated Methods and systems for neural processor training by encouragement of correct output
US9129222B2 (en) * 2011-06-22 2015-09-08 Qualcomm Incorporated Method and apparatus for a local competitive learning rule that leads to sparse connectivity

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Andras Roka et al. Edge Detection Model Based on Involuntary Eye Movements of the Eye-Retina System. Acta Polytechnica Hungarica, Vol. 4, No. 1, pp.31-45, 2007.01.*
Andrew Cassidy et al. A combinational digital logic approach to STDP. Circuits and Systems(ISCAS), 2011 IEEE International Symposium on, pp.673-676, 2011.05.15.*

Also Published As

Publication number Publication date
US8583577B2 (en) 2013-11-12
JP2014517973A (ja) 2014-07-24
KR20140027415A (ko) 2014-03-06
EP2715620A1 (en) 2014-04-09
JP6117392B2 (ja) 2017-04-19
WO2012162663A1 (en) 2012-11-29
EP2715620B1 (en) 2016-12-14
JP2016139420A (ja) 2016-08-04
CN103548042A (zh) 2014-01-29
US20120303566A1 (en) 2012-11-29
CN103548042B (zh) 2016-08-10
JP6113719B2 (ja) 2017-04-12

Similar Documents

Publication Publication Date Title
US8892485B2 (en) Methods and systems for neural processor training by encouragement of correct output
US9418331B2 (en) Methods and apparatus for tagging classes using supervised learning
KR20170031695A (ko) 신경망들에서의 콘볼루션 동작의 분해
KR20160123309A (ko) 확률적 스파이킹 베이지안망들에 대한 이벤트-기반 추론 및 학습
KR20160076520A (ko) 인과적 현출성 시간 추론
WO2013130872A1 (en) Method and apparatus for modeling neural resource based synaptic placticity
CN103930909A (zh) 无监督的神经重放、学习完善、关联以及记忆转移的方法和装置：神经关联学习、模式补全、划分、概括以及阶层式重放
CN103930910A (zh) 无监督的神经重放、学习完善、关联以及记忆转移的方法和装置：结构可塑性和结构约束建模
US9652711B2 (en) Analog signal reconstruction and recognition via sub-threshold modulation
JP2017514215A (ja) スパイキングニューラルネットワークを使用する画像の不変オブジェクト表現
CN105122278B (zh) 神经网络及编程方法
CN103930908A (zh) 无监督的神经重放、学习完善、关联以及记忆转移的方法和装置：神经组件重放
KR20160125967A (ko) 일반적인 뉴런 모델들의 효율적인 구현을 위한 방법 및 장치
CN103930907A (zh) 无监督的神经重放、学习完善、关联以及记忆转移的方法和装置：神经组件记忆转移
KR101549767B1 (ko) 일차 시각 피질 단순 세포 및 다른 신경 회로의 입력 시냅스의 자율 트레이닝 방법 및 장치
Schuman et al. Variable structure dynamic artificial neural networks
Jug et al. Recurrent competitive networks can learn locally excitatory topologies
US8843426B2 (en) Method and apparatus of primary visual cortex simple cell training and operation
Liu Deep spiking neural networks
Zins et al. Reproducing Fear Conditioning of Rats with Unmanned Ground Vehicles and Neuromorphic Systems
Dorogyy et al. Designing spiking neural networks
Zins Neuromorphic Computing Applications in Robotics
Zins et al. Implementation of Associative Memory Learning in Mobile Robots Using Neuromorphic Computing
Meyer et al. Verilog-A model of ferroelectric memristors dedicated to neuromorphic design
Vaila et al. Spiking CNNs with PYNN and NEURON

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee