KR20010013678A

KR20010013678A - 신경망에서의 신호처리를 위한 다이내믹 시냅스

Info

Publication number: KR20010013678A
Application number: KR1019997011690A
Authority: KR
Inventors: 짐샤이리아우; 테오도르버저
Original assignee: 유니버시티 오브 서던 캘리포니아
Priority date: 1997-06-11
Filing date: 1998-06-11
Publication date: 2001-02-26
Also published as: CN1240007C; EP0988585A4; AU7958898A; CZ9904475A3; US6363369B1; EP0988585A1; BR9810103A; US6643627B2; CN1265751A; NO996114D0; PL338507A1; NO996114L; IL133384A0; AU759267B2; US20030050903A1; KR100567465B1; WO1998057245A1; JP2001523366A; CA2293477A1; HUP0003927A2

Abstract

본 발명은 생물학적 신경망을 시뮬레이션 및 확장하는 처리 연접부들에 의해 상호 연결되는 신호 처리기들을 갖는 정보 처리 시스템이다. 도시된 바와 같이, 각각의 처리 연접부는 하나의 신호 처리기로부터 신호들을 수신하여 다른 신호 처리기에 새로운 신호를 발생시킨다. 각각의 처리 연접부의 응답은 내부 연접 처리들에 의해 결정되며, 상기 수신된 신호에서의 시간적인 변화에 따라 연속적으로 변화한다. 한 신호 처리기로부터 공통 신호를 수신하도록 연결된 각기 다른 처리 연접부들이 제각기 응답하여 하류의 신호 처리기들에 각기 다른 신호들을 생성한다. 이는 스파이크들의 신호열의 시간적 패턴을 공간적-시간적 연접 이벤트로 변환하여 신호 프로세서들에 지수적인 계산력을 제공한다. 각 신호 처리 연접부는 하류 신호 처리기로부터 피드백 신호를 수신할 수 있어, 내부 연접 처리가 수신된 신호에 포함된 어떤 특징들을 학습하도록 조정될 수 있다.

Description

신경망에서의 신호처리를 위한 다이내믹 시냅스{dynamic synapse for signal processing in neural networks}

생물학적 신경 체계는 외부 자극을 받아 이를 처리하여 정보를 생성, 교환 저장하는 복합 신경망으로 이루어진다. 가장 간단한 형태로 신경망의 기본 단위인 신경은 신호를 수신하기위한 입력 단자로서 하나이상의 수지상 돌기와 그리고 신호를 전송하기위한 출력단자로서 하나 이상의 축삭을 갖는 체세포라 불리는 세포체로 써 기술된다. 신경의 체세포는 수지상 돌기들로부터 수신되는 신호들을 처리하여 적어도 하나의 동작신호를 생성, 이를 축삭을 통해 다른 신경에 전송한다. 어떤 신경들은 브렌치를 반복적으로 분할함으로써 하나의 신경이 복수의 다른 신경들과 교신할 수 있게하는 잔지 하나의 축삭을 갖는다. 한 신경의 하나의 수지상돌기 (또는 축삭) 및 또다른 신경의 하나의 축삭 (또는 수지상 돌기)는 시냅스라 불리는 하나의 생물학적 구조로 연결되어 있다. 그러므로, 하나의 신경망은 시냅스에 의해 상호 연결되는 복수의 신경들로 구성된다.

신경들은 또한 근육, 선, 또는 감각 세포들과 같은 다양한 종류의 작동체 세포들 내지 신경 작동기 연접부로 불리는 다른 종류의 생물학적 시냅스들과의 해부학적 및 기능적 연결을 만들어 준다. 신경은 동작 신호에 응답하여 어떤 신경 전달물질을 방출함으로써 어떤 연결된 작동기 세포를 제어할 수 있어 이에 따라 작동기 세포들이 원하는 방식, 예컨대 근육조직의 위축(contraction)에 반동하게 된다.

생물학적 신경망 구조 및 동작은 매우 복잡하다. 많은 물리학적, 생물학적 및 화학적 처리들이 여기에 관여된다. 어떤 양상들의 생물학적 신경 시스템에 근거하여 다양한 간략화된 신경 모델들이 개발되어 왔다. 1999년 McGraw-Hill 에 Bose와 Liang에 의해 소개된 "Neural network fundamentals with graphs, algorithms, and applications"를 참조하기 바란다. 예컨대, 뇌는 복잡한 시스템으로서 신경 작동의 공간적 및 시간적 패턴으로 정보를 처리하는 신경망으로서 모델화될 수 있다.

일반적인 신경망의 동작에 대해 설명하면 다음과 같다.

시냅스전(presynaptic) 신경에 의해 생기는 동작 전위는 하나의 시냅스전 신경에서 시냅스 전위들을 발생한다. 시냅스전 신경의 체세포막이 이들 시냅스 전위들을 통합하여 하나의 합산된 전위를 생성한다. 시냅스후(postsynaptic) 신경의 체세포는 만일 상기 합산된 전위가 드레시홀드전위를 초과하는 경우 다른 동작 전위를 발생한다. 그 다음, 이 동작 전위는 연결된 다른 신경들에 대한 시냅스전 전위로서 하나 이상의 축삭을 통해 전파된다. 상기 처리는 많은 신경망 모델들에서의 정보 처리, 저장 및 교환을 위한 기초를 형성한다.

동작 전위들 및 시냅스 전위들은 스파이크 열로서 어떤 시간적 패턴들 또는 시퀀스들을 형성할 수 있다. 전위 스파이크들 사이의 시간적 간격들은 한 신경망에서의 한 상당부분의 정보를 운반한다.

신경망에서의 또다른 상당부분의 정보는 공간적 패턴의 신경 동작이다. 이는 신경망에서의 신경동작의 공간적 분포에 의해 결정된다. 신경망 모델에서 시간적 및 공간적 패턴 모두를 시뮬레이션하는것이 바람직하다. 예컨대, Deadwyler 등에 의해 Journal of Neuroscience, Vol, 16, pp 354-372 (1996)에 발표된 "Hippocampal ensemble activity during spatial delayed-nonmach-to-sample performance in rats"와, Thiels 등에 의해 Journal of Neuroscience, Vol, 72, pp 3009-3016 (1994)에 발표된 "Excitatory stimulation during postsynaptic inhibition induces long-term depression in hippocampus in-vivo"와 그리고 Hippocampus, Vol. 6, pp. 43-51 (1996) 에 발표된 " NMDA receptor-dependent LTD in different subfields of hippocampus in vivo and in vitro"를 참조하기 바란다.

많은 신경망 모델들은 다음과 같은 두가지 가정에 기초하고 있다. 첫 번째는 시냅스 세기이다. 즉, 시냅스 전위를 발생하는데 있어서의 시냅스의 효능은 신경들에서 동작 전위를 발생하는 전형적인 시간척도 동안에 정적(static)인 것으로 가정된다. 시냅스의 효능은 신호 대열동안에는 본질적으로 일정하다. 일부 모델들은 많은 신호 대열을 처리하는 주기에 걸쳐서 변화가 느리게 이루어지도록 함으로써 상기 가정을 변형하고 있다.

두 번째 가정은 각 전송 신경이 이 신경과 연접하게 연결된 모든 다른 신경들에 동일한 신호를 제공하는 것이다.

본 발명의 한 양상은 상기 두가지 가정을 배제하는 개선된 신경망을 제공한다.

본 발명은 처리 연접부와 연결된 신호 처리기에 의한 정보처리에 관한 것으로 보다 특별하게는 생물학적 신경망을 시뮬레이션 및 확장하는 신경망 모델에 관한 것이다.

도 1은 신경 및 다이내믹 시냅스들로 형성되는 신경망의 개략 예시도.

도 2(a)는 시냅스후 신경으로부터 다이내믹 시냅스로의 피드백 연결을 보인 선도.

도 2(b)는 복수의 내부 시냅스 처리에 의한 하나의 다이내믹 시냅스의 신호처리를 예시하는 블럭선도.

도 3(a)는 신경에 의해 다이내믹 시냅스에 발생되는 시간적인 패턴을 보이는 선도.

도 3(b)는 한 시냅스에서 각기 다른 시간 척도의 두가지 용이한 처리를 보이는 챠트도.

도 3(c)는 시간 함수로서 한 시냅스에서 두 가지 억제적인 다이내믹 처리의 응답을 보이는 챠트도

도 3(d)는 각기 다른 시간 척도의 시냅스 처리의 상호 작용으로 인한 스파이크 대열의 시간적 패턴의 함수로서 해제가능성을 예시하는 선도.

도 3(e)는 시냅수후 신경에 연결되어, 하나의 시간적 패턴의 스파이크 대열을 3개의 각기 다른 스파이크 대열로 변환하는 3개의 다이내믹 시냅스를 보인 선도.

도 4(a)는 도 1의 신경망에 기초한 두개의 신경 및 4개의 다이내믹 시냅스를 갖는 개략적인 신경망을 보인 도면.

도 4(b) 내지 도 4(d)는 도 4(a)의 개략적인 망에 있는 시냅스들의 각기 다른 응답하에서 시간에 따른 4개의 다이내믹 시냅스들의 시뮬레이션된 출력 자취를 보인 도면.

도 5(a) 및 5(b)는 두명의 화자에 의해 발음되는 단어 "hot"의 샘플 파형을 각각 나타내는 챠트도.

도 5(c)는 도 5(a) 및 5(b)에서의 단어 "hot"에 대한 파형들간의 역상관성의 파형을 보인 도면.

도 6(a)는 시뮬레이션을 위한 두 개의 신경 층을 보인 개략도.

도 6(b), 6(c), 6(d), 6(e) 및 6(f)는 훈련후 도 6(a)의 신경망에서 단어 "hot"에 대한 출력 신경으로부터의 출력의 역 상관 함수를 각각 보인 챠트도.

도 7(a) 내지 7(l)은 도 6(a)의 신경망을 이용하여 다른 테스트 단어들로부터의 불변 특성들의 추출을 보인 챠트도.

도 8(a) 및 8)b)는 각기 다른 화자에 의해 발음되는 특별한 단어에 우선적으로 응답하도록 각 신경을 훈련시키기 전 및 후에 4개의 출력 신경으로부터의 출력신호들을 각각 보인 도면.

도 9(a)는 다이내믹 시냅스에 근거한 신경망을 이용한 시간적인 신호 처리의 한 실시를 보이는 선도.

도 9(b)는 다이내믹 시냅스에 근거한 신경망을 이용한 공간적 신호 처리의 한 실시를 보인 선도.

도 10은 공간적-시간적 정보를 처리하기 위한 다이내믹 시냅스에 근거한 신경망의 한 실시를 보인 도면.

(발명의 개요)

본 발명은 생물학적 신경망의 어떤 양상들에도 확대되도록 구성된 정보 처리 시스템 및 방법에 관계된다.

신호 처리기 및 이들 신호 처리기들을 연결하는 처리 연접부들의 기능들은 생물학적 신경과 신경 연접부들에 각각 해당한다. 신호 처리기들과 처리 연접부들 각각은 광학 요소, 전기 소자, 생물학적 유닛 또는 화학적 물질 중 어느 하나 또는 이들의 조합으로 구성될 수 있다. 본 처리 시스템 및 방법은 또한 하나 이상의 컴퓨터 프로그램으로 시뮬레이션 될 수 있다.

각 처리 연접부는 입력신호 대열의 스파이크들의 일시적 패턴에 따라 그것의 응답 세기를 다이나믹하게 조정하도록 구성된다. 그러므로, 그러한 처리 연접부는 그것의 응답을 상기 입력신호로 변화시켜 "다이나믹 시냅스"를 시뮬레이션한다.

각기 다른 처리 연접부들은 일반적으로 동일 입력신호에 대해 서로 다르게 응답한다. 이는 서로 다른 출력 연접 시냅스 신호들이 생성되게 한다. 이는 스파이크의 신호 대열의 일시적 패턴을 시냅스 이벤트(events)들의 시간적-공간적 (spatio-temporal) 패턴을 변환하는 특정 방식을 제공한다. 추가로, 신호 처리기와 처리 연접부로 이루어지는 네트워크는 입력신호에 수록된 어떤 특징들을 학습하도록 편성될 수 있다.

정보 처리 시스템의 한 실시예에 따르면, 이 시스템은 서로 교신하도록 연결되며 적어도 하나의 입력 신호에 응답하여 적어도 하나의 출력신호를 생성하도록 구성된 복수의 신호처리기들과 그리고 상기 신호처리기들을 상호 연결하도록 배치된 복수의 처리 연접부들을 포함하고 있다. 처리 연접부들 각각은 적어도 하나의 내부 연접부 처리에 근거하여 신경망내의 제1 신호 처리기로부터 연접전(prejunction) 신호를 수신 및 처리하여 연접 신호를 생성하는데, 이 연접신호는 신경망에 있는 제2 신호에 연접후(postjunction) 신호가 발생되게 한다. 각각의 처리 연접부는 상기 연접신호가 상기 연접후 신호에 다이내믹하게 응답하도록 구성된다.

상기 처리 연접부중 적어도 하나는 상기 하나의 내부 연접 처리가 아닌 상기 연접신호에 다른 기여를 하는 또 다른 내부 연접 처리를 가질 수 있다.

처리 연접부들 각각은 상기 제2 신호 처리기로부터의 출력신호를 수신하도록 연결됨과 아울러 상기 출력 신호에 따라 내부 연접 처리를 조정하도록 구성될 수 있다.

본 발명의 상기 및 다른 양상 및 장점들이 다음의 상세한 설명, 첨부 도면 및 특허청구범위로 부터 더욱 분명해질 것이다.

본 발명의 어떤 양상들은 Liaw 와 Berger에 의해 Hippocampus, Vol. 6, pp 591-600 (1996)에 발표된 "Cynamic synapse : a new concept of neural representation and compution"와, 1997년 6월 텍사스 휴스톤에서 개최된 Proceeding of International Conference on Neural Network에서 발표된 "Computing with dynamic synapse: a case study of speech recognition"와 그리고 1998년 5월 알라스카 앵커리지에서 개최된 Proceeding of International Conference on Neural Network에서 발표된 "Robust speech recogination with dynamic synapses"에 개시되어 있다. 상기 참고 문헌들은 여기에 참고자료로써 기술하였다.

다음의 상세한 설명에서는 대략적으로는 유사한 의미로써 용어 "신경"과 "신호처리기", "시냅스"와 "처리 연접부", "신경망"과 "신호 처리기들의 망"을 사용한다. 생물학적 용어 "수지상돌기"와 "축삭"은 또한 신호 처리기 (즉, 신경)의 입력단자 및 출력단자를 각각 표시하는데 사용된다.

다이내믹 시냅스들에 대한 신경망 (100)이 도 1에 개략적으로 예시되어 있다. 큰 원들은 (예컨데, 110, 120등) 신경들을 나타내며, 작은 타원들 (예컨데, 114, 124등) 은 각기 다른 신경들을 상호 연결하는 다이내믹 시냅스들을 나타낸다. 효과기 세포들 및 각각의 신경 효과기 연접부들은 도면의 간략화를 위해 도시를 생략했다. 다이내믹 시냅스들은 각각 수신된 신호의 시간적 패턴 및 크기 변화에 따라 수신된 신호에 응답량을 연속적으로 변화시킬 수 있는 능력을 갖는다. 이는 시냅스들이 정적이고 그리고 각각 어떤 수신된 신호의 크기를 변화시키기 위해 본질적으로 일정한 가중치 인자를 제공하는 종래의 신경망 모델과는 다르다.

신경 (110, 120)은 각각 축삭 (110, 122)을 통해 다이내믹 시냅스 (114, 124)에 의해 신경 (130)에 연결된다. 예컨대, 신경 (110)에 의해 방출된 신호가 시냅스 (114)에 의해 수신 및 처리되어 시냅스 신호를 생성하는바, 이 시냅스 신호는 시냅스후 신호가 수지상 돌기 (130a)를 통해 상기 세포에 생성되게 한다. 신경 (130)은 상기 수신된 시냅스후 신호를 처리하여 동작전위를 생성시키고 이어서 도면부호 131a, 131b와 같은 축삭 브렌치와 그리고 도면부호 132, 134와 같은 다이내믹 시냅스들에 그 동작 전위를 전송한다.

신경망 (100)에서, 어떤 두 개의 신경을 서로 연결하면 정보를 교환 할 수 있다. 따라서, 신경 (130)은 신경 (150)으로 부터의 신호를 예컨대 다이내믹 시냅스 (154)를 통해 수신하도록 축삭 (152)에 연결될 수 있다.

정보는 시냅스 레벨, 신경레벨 및 신경망 레벨을 비롯한 복수의 레벨로 신경망 (100)에 있는 신경 및 다이내믹 시냅스에 의해 처리된다.

시냅스 레벨에서, 두 개의 신경 (즉, 상기 시냅스에 관하여 시냅스전 신경 및 시냅스후 신경) 사이에 연결된 각 다이내믹 시냅스는 또한 상기 시냅스후 신경으로부터의 수신신호, 시냅스후 신경으로부터의 피드백신호 및 시냅스내의 하나 이상의 내부 시냅스 처리에 근거하여 정보를 처리한다. 각 시냅스의 내부 시냅스 처리는 시냅스전 신호의 시간적 패턴 및/또는 크기에서의 변화에 응답하여 다이내믹하게 변화하는 시간 패턴 및 시냅스 세기를 갖는 시냅스 신호들을 생성한다. 예컨대, 다이내믹 시냅스의 시냅스 세기는 시간적 패턴의 입력신호 대열의 스파이크들에 의해 계속적으로 변화될 수 있다. 또한, 각기 다른 시냅스들은 일반적으로 그들의 내부 시냅스 처리에서의 변화에 의해 동일한 시냅스전 신호에 다르게 응답하도록 함으로써 각기 다른 시냅스 신호들을 생성하도록 구성된다. 이는 시간적 패턴의 신호 대열의 스파이크들을 시간적-공간적 패턴의 시냅스 이벤트로 변형하는 특정방식을 제공한다.

그와 같은 시냅스 레벨의 패턴변형 능력은 또한 신경레벨에서의 지수적인 계산능력을 발생시킨다.

다이내믹 시냅스들의 또 다른 특징은 이들의 다이내믹한 학습능력이다. 각 시냅스는 그것의 각각의 시냅스후 신경으로부터 피드백 신호를 수신하도록 연결되어, 그 시냅스 세기가 시냅스후 신경의 출력신호에 근거하여, 수신된 시냅스전 신호들에 포함된 어떤 특성들에 적합하도록 다이내믹하게 변화된다. 이는 상기 특성들이 각기 다른 사람들이 서로 다른 억양으로 발음하는 특정 단어를 인식하는 것과 같은 요망되는 과제를 수행하도록 학습 받을 수 있게 각기 다른 다이내믹 시냅스들에 대한 적절한 변환기능을 생성한다.

도 2a는 이러한 다이내믹 학습을 예시하는 선도로써, 여기서 다이내믹 시냅스 (210)가 시냅스후 신경(220)으로 부터의 피드백신호 (230)를 수신하여 시냅스전 신호 (202)에 있는 특성을 학습하게 된다. 이 다이내믹 학습은 일반적으로 한 그룹의 신경 및 다이내믹 시냅스는 도 1의 전체 신경망 (100)을 이용함으로써 실시된다.

도 1의 신경망에 있는 신경들은 또한 신호들을 처리하도록 구성된다. 하나의 신경이 두 개 이상의 다이내믹 시냅스로부터 신호들을 수신하고/하거나 두 개 이상의 다이내믹 시냅스에 동작 전위를 전송하도록 연결될 수 있다.

도 1에 관하여, 신경 (130)은 그러한 신경의 예이다. 신경(110)은 시냅스 (111)로부터만 신호들을 수신하여 이 신호들을 시냅스 (114)에 전송한다. 신경 (150)은 두 개의 다이내믹 시냅스 (134, 156)로부터 신호들을 수신하여 이들을 축삭 (152)에 전송한다. 그러나, 다른 신경들에 연결되는 다양한 모델들이 사용될 수도 있다. 예컨대, Bose, Liang, 기타... 및 Anderson에 의해 Chapter 2, MIT (1997)에 발표된 "An introduction to neural network"를 참조하기 바란다. 본 문헌은 여기에 참고자료로서 개시하는 것이다.

하나의 광범위하게 이용되는 신경에 대한 시뮬레이션 모델은 적분기 (integrator) 모델이다. 한 신경은 두 개의 스테이지에서 동작한다. 제 1스테이지에서, 신경의 수상돌기로부터의 시냅스후 신호들이 서로 합산되며, 개별 시냅스 기여들이 독립적으로 결합 및 대수적으로 합산을 행하여 결과적으로 동작레벨을 생성한다. 제 2스테이지에서, 상기 동작 레벨은 출력값 (평균 출력 발사 비율)으로의 동작 레벨 (세포막 전위) 에 관한 비선형 함수로의 입력으로써 이용되어, 따라서 마지막 출력 동작을 발생한다. 적분기 모델은 McCulloch-Pitts의 "통합 및 발사(integrate-and -fire)" 모델과 같은 2-상태 신경으로서 간략화 될 수 있는데, 이 모델에서 "하이(high)"를 나타내는 전위는 결과적인 동작레벨이 임계 드레시홀드보다 높을 때 발생되며, 그렇지 않은 경우 "로우(low)"를 나타내는 전위가 발생된다.

실제의 생물학적 시냅스는 일반적으로 시냅스전 신호에 각기 다르게 응답하는 각기 다른 타입의 분자들을 포함한다. 그러므로, 특별한 시냅스의 다이내믹스는 모든 각기 다른 분자들로부터의 응답들의 조합이 된다. 그 다음 다이내믹 시냅스는 각기 다른 타입의 분자들의 응답에 대응하는 모든 다이내믹 처리들로부터 기여를 반영하도록 구성된다.

다이내믹 시냅스의 특정 실시는 다음 식으로 모델링 될 수 있다.

(식1)

여기서, Pi(t)는 시냅스전 신호에 응답하여 i번째 다이내믹 시냅스로 부터의 방출전위 (즉, 시냅스 전위)이고, k_i,m(t) 는 i번째 시냅스에서 m번째 다이내믹 처리의 크기이며, F_i,m(t)는 m 번째 다이내믹 처리의 응답함수 이다.

응답 F_i,m(t)는 다이내믹 시냅스가 연결되는 시냅스전 신경으로부터 발생되는 동작전위인 시냅스전 신호 A_p(t)의 함수이다. F_i,m(t)의 크기는 A_p(t)의 시간적 패턴에 따라 계속적으로 변한다. 어떤 응용에서, A_p(t)는 스파이크 대열로 될 수 있고 m번째 처리는 한 스파이크에서 다른 스파이크로 응답 F_i,m(t)를 변화시킬 수 있다. A_p(t)는 또한 어떤 다른 신경에 의해 발생되는 동작 전위일 수 있는데, 이에 대한 한 예에 관하여 이후에 설명하기로 한다. 또한, F_i,m(t)는 다이내믹 시냅스 i 자체에 의해 발생되는 시냅스 신호와 같은 그러한 다른 신호들로부터의 기여들 또는 다른 시냅스들에 대해 생성되는 시냅스 신호들로부터의 기여들을 가질 수 있다.

하나의 다이내믹한 처리는 다른 형태의 처리로 될 수 있기 때문에 F_i,m(t)는 각기 다른 처리를 위한 각기 다른 파형 및/또는 응답 시정수룰 가질 수 있으며 대응하는 크기 k_i,m(t) 역시 다르게 될 수 있다.

k_i,m(t) ＞ 0 일때의 다이내믹 처리의 경우에, 이 처리는 촉진성인 것으로 언급되는데, 그 이유는 이 처리가 시냅스후 신호의 전위를 증대시키기 때문이다. 역으로, k_i,m(t) ＜ 0 일때의 다이내믹 처리는 억제성인 것으로 언급된다.

일반적으로, 다이내믹 시냅스의 행동은 생물학적 시냅스의 특성에만 국한되지 않는다. 예컨대, 다이내믹 시냅스는 다양한 내부처리를 가질 수 있다. 이들 내부 처리의 다이내믹스는 상승, 소멸, 또는 파형의 다른 양상의 속도와 같은 그러한 각기 다른 양상을 취할 수 있다. 다이내믹 시냅스는 또한 예컨대 고속 VLSI 기술을 이용하여 생물학적 시냅스보다 빠른 응답시간을 가질 수 있다. 더욱이, 신경망에 있거나 또는 공통 신경계에 연결된 각기 다른 다이내믹 시냅스들은 각기 다른 수의 내부 시냅스 처리들을 가질 수 있다.

하나의 신경과 관련된 다이내믹 시냅스의 수는 신경망 연결성에 의해 결정된다. 예컨대, 도 1에서 신경 (130)은 도시된 바와 같이 3개의 다이내믹 시냅스 (114, 154, 124)로부터 신호들을 수신하도록 연결된다.

상기 다이내믹 시냅스의 경우, 시냅스 신호 R_i(t)의 방출은 다양한 형태로 모델링될 수 있다. 예컨대, 신경들에 대한 통합모델이 직접 사용되거나, 다이내믹 시냅스를 위해 변형될 수 있다. 다이내믹 시냅스에 대한 하나의 간단한 모델은 McCulloch 와 Pitts에 의해 제안된 신경 모델과 유사한 2-상태 모델이다.

식 (2)

여기서, R_i(t) 값은 R_i(t)가 영(0)이 아닌 값, f[P_i(t)] 일 때 시냅스 이벤트의 발생 (즉, 신경전달물질의 방출)을 그리고 R_i(t)가 영(0)이고 그리고 θ_i이 i 번째 다이내믹 시냅스에 대한 드레시 홀드 전위일 때 시냅스 이벤트의 비 발생을 나타낸다.

시냅스 신호 R_i(t)는 다이내믹 시냅스에 의해 각각의 시냅스후 신경에서 시냅스후 신호 S_i(t)의 발생을 일으킨다. 편의상, f[P_i(t)]는 시냅스 신호 R_i(t) 가 0과 1을 갖는 2진 스파이크 대열이 되도록 1로 설정한다. 이는 시냅스 신호에서의 코드화 정보의 평균을 제공한다,

도2b는 복수의 내부 시냅스에 의한 하나의 다이내믹 시냅스의 신호처리를 예시하는 븍럭선도이다. 이 다이내믹 시냅스는 시냅스후 신경(도시않됨)으로부터 동작전위 (240)를 수신한다. 각기 다른 내부 시냅스 처리들(250, 260, 270)이 시간에 따라 변하는 각기 다른 크기들(250a, 260a, 270a)을 각각 갖는 것으로 보여져 있다. 이 시냅스는 시냅스 처리들(250a, 260a, 270a)을 결합하여 식 (1)의 동작에 대응하는 복합 시냅스 전위(280)를 발생시킨다. 이 시냅스의 드레시홀드 메카니즘 (290)은 식 92)의 동작을 수행하여 2진 펄스의 시냅스 신호를 생성한다.

시냅스 신호 (R_i(t))의 방출 가능성은 하나 이상의 내부 시냅스 처리들의 다이내믹한 상호동작과 그리고 시냅스후 신호의 스파이크 대열의 시간적 패턴에 의해 결정된다. 도 3a는 시간적 패턴 (310)(즉, 동작전위들의 스파이크 대열)을 다이내믹 시냅스 (320a)에 전송하는 시냅스전 신경 (300)을 보인 것이다. 스파이크 간격은 다양한 시냅스 처리들의 상호동작에 영향을 끼친다.

도 3b는 한 시냅스에서 각기 다른 시간 척도의 두개의 촉진 처리를 보인 챠트도이다.

도 3c는 두개의 억제성 다이내믹 처리 (즉, 빠른 GABA_A및 느린 GABA_B)를 보인 것이다. 도 3d는 방출 확률이 각기 다른 시간 척도의 시냅스 처리들의 상호동작으로 인한 스파이크 대열의 시간적인 패턴의 함수임을 보인 것이다.

도 3e는 또한 시냅스전 신경(350)에 연결된 3개의 다이내믹 시냅스(360, 362, 364)가 시간적인 스파이크 대열 패턴 (352)을 3개의 각기 다른 스파이크 대열(360a, 362a, 364a)로 변형함으로써 신경전달물질 방출 불연속 시냅스 이벤트의 시간적-공간적 패턴을 형성하는 것을 보인 것이다.

신경동작의 시간적 패턴에 따라 시냅스 세기를 다이나믹하게 변화시킬수 있는 능력은 시냅스 레벨에서의 상당한 표시 및 처리 파워를 생성시킨다. 100ms의 시간창 동안에 최대 100Hz의 비율로 활성화되는 신경을 고려해보자. 이 10 비트의 스파이크 대열인 범위에서 코드화 될 수 있는 시간적인 패턴 범위는 [00...0] 내지 [11...1] 로 부터 총 2¹⁰패턴에 이른다. 기껏해야 하나의 방출 이벤트가 시냅스 메카니즘의 다이나믹스에 따라 동작 전위당 하나의 다이내믹 시냅스에서 발생한다고 가정하면, 하나의 다이내믹 시냅스에서 상기 방출 이벤트에 의해 코드화 될 수 있는 시간적인 패턴의 수는 2¹⁰이 된다. 100개의 다이내믹 시냅스를 가진 한개의 신경의 경우에, 발생될 수 있는 시간적 패턴의 총 수는 (2¹⁰) = 2^1,000이 된다. 이 수는 만일 동작 전위당 하나 이상의 방출 이벤트가 허락되는 경우 보다 커질 수 있다. 상기 수는 다이내믹 시냅스들을 갖는 신경들의 이론적인 최대 코드화 능력을 나타내는 것으로, 잡음이나 또는 낮은 방출 능력과 같은 인자로 인해 감소될 수도 있다.

도 4a는 도 1의 시스템과 식 (1) 및 (2)의 다이내믹 시냅스들에 근거한 촉진성 신경세포(410)와 억제성 신경세포(430)을 갖는 간단한 신경의 예를 보인 것이다. 신경세포 (410, 430)를 연결하는 데에 총 4개의 다이내믹 시냅스 (420a, 420b, 420c, 420d)가 사용된다. 억제성 신경세포 (430)는 상기 4개의 시냅스들 모두에 피드백 변조 신호 (432)를 전송한다.

i번째 다이내믹 시냅스의 방출 전위 P_i(t)는 다음 4개의 처리가 되는 것으로 가정된다. 즉, 시냅스에 의한 신경세포 (410)로 부터 동작 전위 A_P로의 신속한 응답 F₀, 각 시냅스 내의 제1 및 제2 촉진 성분 F₁및 F₂, 과 그리고 억제성분이 되는 것으로 가정되는 피드백 변조 모드이다. 이들 인자들의 파라메터 값들은 예컨대 비선형 분석 절차를 이용하는 한 연구에서 뇌의 해마상 융기 (Hippocampal) 시냅스 전송의 다이내믹스를 관리하는 촉진 및 억제 처리들의 시정수들과 일치되도록 선정된다. pp. 283-352, MIT Press, Cambridge (1999)에 Berger 등에 의해 발표된 "Nonlinear analytic formation"과 Moore 와 Gabriel에 의해 편집된 "Neurocomputation and learning : foundations of adaptive networks"와, 그리고 Neural Networks, Vol. 7, pp. 1031-1064 (1994)에 발표된 "A biologically-based model of the functional properties of the hippocampus" 를 참조하기 바란다.

도 4b - 4d는 시냅스들의 각기 다른 응답하에서 시간함수로서 4개의 다이내믹 시냅스들의 시뮬레이션된 출력 자취를 보인 것이다. 상기 도 각각에서, 상부 출력 자취는 신경세포 (410)에 의해 발생되는 스파이크 대열 (412)이다. 우측의 막대 챠트는 상기 다이내믹 시냅스 각각에 대한 4개의 시냅스 처리의 상대적인 세기, 즉 식 (1) 에서 K_i,m을 나타낸다. 막대들 위의 숫자들은 다이내믹 시냅스 (420a) 에 대해 사용되는 각기 다른 프로세스들의 크기들에 관한 상대적인 크기들을 표시한다. 예컨대, 도 4b에서, 시냅스 (420C)에서의 F₁의 응답에 대한 막대 챠트에서 수치 1.25는 시냅스 (420C)에 대한 촉진의 제1 성분의 기여의 크기가 시냅스 (420a)의 경우보다 25% 큼을 의미한다. 수치가 없는 막대들은 그 크기가 다이내믹 시냅스 (420a)의 크기와 같음을 표시한다. 도 4b 및 도 4c에서, 방출 이벤트를 내포하고 있는 박스들은 시냅스들에 대한 각기 다른 응답세기를 이용하여 다음도면에서 사라질 스파이크들을 표시한다. 예컨대, 도 4b에서 시냅스 (420a)의 응답에서 최우측의 스파이크는 도 4c의 대응 자취에서 나타나지 않을 것이다. 다른 한편으로, 도 4d에서의 박스들은 도 4c에 존재하지 않는 스파이크들을 표시한다.

시뮬레이션에서 4개의 시냅스 처리들에 대해 사용되는 특정 함수들은 다음과 같다.

동작 전위 A_P로의 신속한 응답 F₀는 다음과 같이 표현된다.

식 - (3)

여기서, τ_FO는 0.5ms 이며, 모든 다이내믹 시냅스들에 F₀의 시정수가 된다. k_FO는 10.0 이며, 시냅스 (420a) 에 대한 시정수로서 다른 시냅스들에 대한 도 4B - 4D에서의 막대 챠트를 기준으로 비례적으로 척도가 정해진다.

F₁의 시간 의존도는 다음과 같이 표현된다.

식 - (4)

여기서, τ_fi는 66.7ms 이며, 모든 다이내믹 시냅스들의 제1 촉진 성분의 소멸 시정수가 되며, 시냅스 (420a) 에 대한 k_f1는 0.16 이다.

F₂의 시간 의존도는 다음과 같이 표현된다.

식 - (5)

여기서, τ_f2는 300ms 이며, 모든 다이내믹 시냅스들의 제2 촉진 성분의 소멸 시정수가 되며, 시냅스 (420a) 에 대한 k_f2는 80.0 이다.

억제 피드백 모듈은 다음과 같이 표현된다.

식 - (6)

여기서, τ_f2는 300ms 이며, 모든 다이내믹 시냅스들의 촉진의 피드백 모듈의 소멸 시정수가 되며, 시냅스 (420a) 에 k_MOD는 -20.0이다.

식 (3) - (6)은 식 (1)의 F_i,m(t)의 특정예들을 보인 것이다. 따라서, 각 시냅스에서 방출 전위는 식 (1)에 근거한 모두 4개의 기여들의 합이다.

식 -(7)

만일 P가 드레시홀드 값 θ_R(=1.0) 보다 큰 경우, 신경전달 물질의 양 Q (=1.0)가 방출되고 그리고 방출 가능한 각 시냅스에서의 신경전달 물질의 적어도 1의 양이 존재한다. (즉, 신경전달물질의 총량, N_total이 방출될 량 보다 많아진다). 시냅스 분열 (synaptic cleft),N_R에서의 신경전달물질의 양은 식 (2)에서 R_i(t)의 예가 된다. 신경전달물질의 한 량의 방출시, N_R은 다음식과 같이 초기량 Q로부터 시간에 따라 지수적으로 감소된다.

식 - (8)

여기서, τ₀는 시정수로서 시뮬레이션시 1.0 ms로 설정된다. 방출후에 신경 전달물질의 총량은 Q 만큼 감소된다.

각 시냅스내에 신경전달물질을 보충하기 위한 연속적인 처리가 행해진다. 이 프로세스는 다음과 같이 시뮬레이션 된다.

식 - (9)

여기서, N_max는 이용 가능한 신경전달물질의 최대량이고, τ_rp는 신경전달물질의 보충비율을 나타내며, 이들 값은 시뮬레이션시 각각 3.2 ms^-1와 0.3 ms^-1로 설정된다.

시냅스 신호 N_R은 각각의 시냅스후 신경세포에서 시냅스후 신호 S의 발생을 일으킨다. 신경 전달물질의 방출에 따른 시냅스후 신호의 크기 변화 비율은 다음과 같이 N_R에 비례한다.

식 - (10)

여기서, τ₀는 시냅스후 신호의 시정수로서 시뮬레이션시 1.5 ms로 설정된다. ks 는 시정수로서 시뮬레이션 0.5로 설정된다. 일반적으로, 시냅스후 신호는 촉진 (k_s＞ 0) 또는 억제 (k_s＜ 0)로 될 수 있다.

두개의 신경세포 (410, 430)는 다음 식과 같이 모든 시냅스 전위들의 합인 막 전위 V와 시냅스후 신경세포로부터의 동작 전위 A_p을 갖는 "통합 발사 (intergrate - and - fire)" 유닛으로 모델화 된다.

식 (11)

여기서, τ₀는 V의 시정수로서 시뮬레이션시 1.5ms 로 설정된다. 상기 합은 모든 내부 시냅스 프로세스들에 대해 취해진다.

시뮬레이션에서, 만일 V ＞ θ_R이면 A_p= 1 인바, 이는 시냅스후 신경세포 (410)에 대해서는 0.1 그리고 시냅스후 신경세포 (430)에 대해서는 0.02가 된다. 또한, 신경이 내화주기 (refractory period) (T_ref= 2.0 ms)에 있지 않는, 즉, 신경이 2ms의 마지막 T_ref내에서 발사되지 않는 것으로 가정된다.

다시 도 4b - 4d에 관하여, 시냅스 (420a)에 대한 파라메터 값은 모든 시뮬레이션에서 일정하게 유지되며, 다른 다이내믹 시냅스들과의 비교를 위한 기준으로서 취급된다.

도 4b의 제1 시뮬레이션에서, 각각의 막대 챠트로 표시된 량 만큼씩 신경종말 (terminal) 당 단지 1개의 파라메터가 변한다. 예컨대, 현재의 동작 전위의 방출전위로의 기여는 시냅스 (420b)에 대해 25% 만큼 증가되며, 반면에 다른 3개의 파라메터들은 시냅스 (420a)과 같은 전위를 유지한다. 그 결과는 예상할 수 있는 바와같이 되는바, 즉 F₀, F₁, 또는 F₂가 증가하면 방출량이 많아지는데 반해 피드백 억제크기가 증가하면 방출 횟수는 감소한다.

도 4c에 보인 바와같이 시냅스 메카니즘이 한번 이상의 변화를 격게 될때, 변환 기능은 더욱 섬세해진다. 첫째, 비록 상기 파라메터들이 시냅스 (420a)에서 일정한 상태를 유지할지라도 약간의 방출이 발생하게되는데, 그 이유는 다른 3개의 시냅스들 (420b, 420c, 420d)로 부터의 출력에서의 전체적인 증가시 시냅스후 신경의 동작이 증가되기 때문이다. 다시 말해서 이는 다이내믹 시냅스들의 더욱더 큰 억제를 불러일으킨다. 이는 시냅스 다이내믹스가 망 다이내믹스에 의해 어떻게 영향을 받는지를 예시해준다. 둘째, 다이내믹 시냅스들로부터의 출력들에서의 차이는 방출 이벤트뿐만 아니라 그들의 시간적인 패턴들에도 나타난다. 예컨대, 제2 다이내믹 시냅스 (420b)는 스파이크 대열의 첫 번째 절반에 활발하게 반응하고 두 번째 절반에는 약하게 반응하는데 반해 제3 다이내믹 시냅스 (420c)는 상기 두 번째 절반에 더 활발하게 반응한다. 다시 말해서, 이들 두개의 다이내믹 시냅스들에 의한 스파이크 대열의 변환은 정량적으로 다르다.

다음, 동작 전위들의 각기 다른 시간적 패턴들에 대한 다이내믹 시냅스들의 반응에 대해서도 또한 조사하였다. 이 특성은 (도 4c 및 4d에서 화살표로 표시한 바와 같이) 스파이크 대열에서 9번째 동작전위를 3번째 동작 전위 이후 약 20ms 지점으로 이동시켜 테스트하였다. 도 4d에 보인 바와 같이, 모든 다이내믹 시냅스들의 출력 패턴들은 이전의 시냅스과는 다르다. 모든 신경종말들에서 공통적으로 일부 변화가 있지만은 그러나 이 변화들은 일부 신경종말에만 특정적으로 나타난다. 더욱이, 시냅스 및 신경망 레벨에서의 다이내믹스의 상호작용 때문에, 동작전위 (도 4c에서 9번째 동작전위)를 제거하면 곧바로 방출 횟수가 감소하였다가 이후 다시 방출횟수가 증가한다.

다이내믹 시냅스들에 관한 신경체계의 계산력에 관한 상기 설명은 순수하게 이론적인 근거에 바탕을 두는 것으로 생각되며, 소정의 신경체계의 계산 능력은 확실히 어떤 생물학적 제한사항으로 인해 한계가 있을 수 있다. 예컨대, 대표적인 2^1,000의 능력은 다이내믹 시냅스가 한 스파이크 대열에서 단일 동작 전위 (즉, 각각의 "비트") 의 발생 또는 비발생 에 민감하다는 가정에 근거를 두고 있다. 많은 실제 상황들에서, 잡음은 입력 스파이크 대열을 변질시켜 이에 따라 신경망의 응답에 역효과를 야기할 수 있다. 다이내믹 시냅스들이 잡음이 섞인 스파이크 대열들로부터 중요한 특성들을 만족스럽게 추출할 수 있는지 판단하는 것이 중요하다. 이 문제는 어떤 동물은 생존을 위해 일정하게 변하는 환경으로부터 규칙성들을 추출해낼수 있어야만 함을 고려해볼때, 생물학적으로 특별히 중대한 사안이 된다. 예컨대, 쥐는 그의 보금자리 또는 음식 저장소로 가기 위한 다수의 가능한 여행 경로들을 선정할 수 있어야만 한다. 이 가능 경로들은 밝기, 시간, 구름, 표류, 나무의 흔들림, 바람, 냄새, 소리 등과 같은 다양한 조건에서의 변화에 관계없이 어떤 새로운 경로 및 하나 이상의 소정 경로들이 포함된다. 따라서, 뇌의 해마상 융기에 있는 신경들은 변화하는 입력신호들로 부터 불변 인자들을 추출할 수 있어야만 한다.

본 발명의 한 양상은 다이내믹 시냅스들에 근거한 신경망의 다이내믹 학습능력에 관한 것이다. 다시 도 1의 시스템 (100)에 관하여, 각 다이내믹 시냅스들은 다이내믹 학습 알고리즘에 따라 구성되는데, 이 알고리즘에 따르면, 시냅스 다이내믹스를 각각의 시냅스후 신경들의 동작성과 상호 관계시킴으로써 한 시냅스에 대한 적절한 변환 함수를 찾기 위하여 식 (1)에서 계수 K_i,m(t)를 변경한다. 이렇게 함으로써, 각각의 다이내믹 시냅스는 학습을 통해 한 계층의 패턴들의 인식에 기여하는 입력신호로부터 임의의 특성을 추출할 수 있게 된다.

또한, 도 1의 시스템 (100)은 학습 및 추출 처리동안에 한 계층의 신호들을 각각의 개별 계층의 신호들에 대해 설정된 하나의 특정한 특성과 동일시하는 한 세트의 특성들을 창출한다.

i번 다이내믹 시냅스의 m번 처리를 위한 다이내믹 학습 알고리즘에 대한 하나의 실시예는 다음식으로 표현 될 수 있다.

식 (12)

여기서, Δt 는 학습 피드백 동안의 시간 경과를 나타내며, α_m은 m번 처리에 대한 학습률을 나타내며, A_pj(=1 또는 0)는 i번 다이내믹 시냅스에 연결된 시냅스후 신경 j 의 동작 전위의 발생 (A_pj= 1) 또는 비발생 (A_pj= 0)을 표시하며, βm은 m번 처리 대한 소멸 상수이고 그리고 F⁰ _i,m은 i번 다이내믹 시냅스의 m 번 처리에 대한 상수이다. 식 (2)는 시냅스후 신경으로부터 다이내믹 시냅스로의 피드백을 제공하여 한 시냅스가 그들간의 상호관계에 따라 응답할 수 있게 한다. 이 피드백은 도 2에서 시냅스후 신경 (220)으로부터 다이내믹 시냅스 (210)로 향하는 대쉬라인 (230)으로 예시되어 있다.

상기 학습 알고리즘은 시냅스 메카니즘 및 시냅스후 신경의 동작 레벨의 상호관계에 따라 시냅스 다이내믹스를 변화시켜 지속적으로 발생하는 패턴에 대한 다이내믹 시냅스의 응답을 향상시켜 준다. 소정의 잡음 입력신호에 대해서는 학습 프로세스 동안에 일관되게 발생하는 서브 패턴들만이 잔존할 수 있으며 이 패턴들은 시냅스들에 의해 검출된다.

이는 신경망에서 극히 다이내믹한 사진의 정보처리를 제공한다. 일련의 정보처리에서의 어떤 상태에서, 한 신경의 다이내믹 시냅스들은 입력 스파이크 대열으로부터 통계적으로 중요한 다수의 시간적인 특성들을 추출하여 한 세트의 시냅스후 신경들에 전달하는데, 이 시냅스후 신경들에서 상기 시간적인 특성들은 서로 결합되어 또 다른 처리를 위한 한 세트의 스파이크 대열을 발생한다. 패턴인식을 견지해 볼 때, 각 다이내믹 시냅스는 입력신호의 특별한 성분을 나타내기 위한 "특성 세트"의 창출에 관해 학습한다. 특성의 특징에 관한 가정이 만들어지지 않기 때문에, 각 특성 세트는 계층-구체화 방식에 의해 온라인으로 창출된다. 즉, 입력신호들의 각 계층은 그 자체의 최적세트의 특성들로 설명된다.

이러한 다이내믹 학습 알고리즘은 시간적-공간적 신호들의 패턴인식에 광범위하게 일반적으로 응용될 수 있다. 시냅스 다이내믹스를 변경하기 위한 기준은 특별한 신호 처리 과제의 목적에 따라 변화된다. 예컨대, 음성 인식의 경우에 있어서 학습절차에서 각기 다른 대화자에 의해 말되어지는 동일 단어에 대한 변화되는 파형들 사이에서 상관성을 증대시키는 것이 바람직할 수 있다. 이는 음성 신호들의 가변성을 감소시켜 준다. 따라서, 동일 단어를 말할 때, 촉진 시냅스 처리들의 크게 증대되고 억제 시냅스 처리들의 크기는 감소한다. 반대로, 각기 다른 단어를 말할 때, 촉진 시냅스 처리들의 크기는 감소되고 억제 시냅스 처리들의 크기는 증대된다.

시간적인 패턴에 대한 예로써 음성 파형은 다이내믹 시냅스들을 갖는 신경망이 불변인자들을 얼마나 잘 추출할 수 있는지를 검사하는데 이용되어 왔다. 음성 파형에 대한 잘 알려진 두 가지의 특징으로써 잡음과 가변성이 있다. 두 명의 대화자에 의해 발음되는 단어 "hot"의 샘플 파형들을 각각 도 5a와 도5b에 나타냈다. 또 5c는 도 5a와 도5b 에서의 파형들간의 역상관성의 파형을 나타낸 것이다. 이 상관성은 두 명의 화자에 의해 발음되는 단어 "hot"의 파형들에서의 변화 높이 정도를 표시한다. 과제에는 단어 "hot"과 그리고 표준 "HVD" 테스트 (H-모음-D, 예컨대, had, heard, hid)에서의 여러 가지 다른 단어들을 일정하게 인지할 수 있게 하는 파형들에 속해있는 불변 특성들을 추출하는 과제가 포함된다. 테스트 단어들로써,care, hair, key, heat, kit, hit, kite, height, cot, hot, cut, hut이 사용되는데, 이 테스트에서 이 단어들은 주변 잡음들에 대한 특별한 제어를 행하지 않고 (즉, 라디오의 볼륨을 낮게 하는 정도로만) 전형적인 시험실에서 두 명의 화자에 의해 발음된다. 먼저, 화자들의 발음이 녹음 및 디지털화되어 다이내믹 시냅스를 가진 신경망을 시뮬레이션 하도록 프로그램된 컴퓨터에 입력된다.

이 테스트의 목적은 여러 명의 화자에 의해 발음되는 단어들을 다이내믹 시냅스들을 가진 신경망 모델로 인식하는데 있다. 다이내믹 시냅스들의 코드화 능력을 테스트하기 위해, 시뮬레이션을 할 때 두 개의 제한이 이용된다. 첫째, 신경망이 작으면서 간단한 것으로 가정한다. 둘째, 음성 파형에 대한 사전 처리가 허용되지 않는다. 도 6a는 시뮬레이션을 위해 두 개 층으로 된 신경들을 갖는 신경망 모델 (600)의 개략도 이다. 제 1 층 (610)은 두 명의 화자로부터의 처리되지 않은 잡음섞인 음성 파형들 (602a, 602b)을 수신하는 5개의 입력 신경(610a, 610b, 610c, 610d, 610e)으로 이루어진다. 신경들(620a, 620b, 620c, 620d, 620e, 622)로 이루어진 제2층(620)은 입력 신호들에 근거하여 출력신호들을 생성하기 위한 출력층을 형성한다. 제 1층(610)에 있는 각각의 입력 신경은 6개의 다이내믹 시냅스에 의해 제 2층 (620)에 있는 모든 신경에 되어 그럼으로써 총 30개의 다이내믹 시냅스들 (630)이 존재한다. 제 2층 (620)에 있는 신경 (622)은 억제성 상호 신경이며, 억제 신호를 생성하도록 피드백 라인 (624) 으로 표시된 바와 같이 각각의 다이내믹 시냅스에 연결된다. 이 억제 신호는 식 (6)에서 항 "A_inh" 으로서 역할을 한다. 다이내믹 시냅스들 (630) 각각은 또한 제 2층 (620)에 있는 각각의 출력 신경의 출력으로부터 피드백을 수신하도록 연결된다 (도시 않됨).

다이내믹 시냅스들 및 신경들은 전술한 바와 같이 시뮬레이션되며, 식 (12)의 다이내믹 학습 알고리즘이 각각의 다이내믹 시냅스에 인가된다. 음성 파형들은 8KHz로 샘플링 된다. 디지털화된 진폭들이 모든 입력 신경에 인가되어 촉진 시냅스후 전위로 처리된다.

신경망 (600)은 동일 단어들에 대한 출력패턴들에 대해서는 역 상관성을 증대시키고, 각기 다른 단어들에 대해서는 역 상관성을 감소시키도록 가르쳐진다. 학습 동안에, 음성 파형들의 프리젠테이션은 블록들내로 그룹화되는데, 여기에서 각기 다른 화자에 의해 발음된 동일 단어의 파형들이 총 4번에 걸쳐 신경망 (600)에 제시된다. 신경망 (600)은 다음의 헤비안(Hebbian) 및 안티헤비안(anti-Hebbian) 규칙에 따라 가르쳐진다. 프리젠테이션 블록내에서, 헤비안 규칙이 적용된다. 즉, 만일 제 2층(620)에 있는 시냅스후 신경이 동작 전위의 도착 후에 발화하면, 촉진 시냅스 메카니즘의 기여가 증가되는 반면에 억제 시냅스 메카니즘의 기여는 감소된다. 만일 시냅스후 신경이 발화하지 않으면, 촉진 메카니즘은 감소되고, 반면에 억제 메카니즘은 증대된다. 변화의 크기는 특정한 시냅스 메카니즘의 현재의 동작 레벨과 소정의 학습율과의 곱셈으로 정해진다. 이러한 식으로 해서, 파형들에서 공통적인 시간적 특성들에 대한 응답이 향상될 것이며, 특유의 특성들에 대한 응답은 단념되게 될 것이다.

상기 프리젠테이션이 먼저 새로운 단어의 파형의 다음 블록으로 스위칭 되면, 식 (12)에서 학습비율 α_m과 β_m의 표기를 변화시킴으로써 안티-헤비안 규칙이 적용된다. 이는 현재의 단어에 대한 응답과 이전의 다른 단어에 대한 응답간의 차이를 크게 한다.

신경망 (600)에 대한 훈련의 결과들이 도 6b, 6c, 6d, 6e 및 6f에 나타나 있는데, 이들 각각은 단어 "hot"에 대한 신경들 620a, 620b, 620c, 620d 로부터의 출력신호들의 역상관성 함수들에 대응한다. 예컨대, 도 6b는 두 명의 화자에 의해 발음된 "hot"의 두 개의 파형에 응답에 따른 신경 (620a)에 의한 두 개의 출력패턴의 역상관성을 보인 것이다. 상관성이 거의 없음을 보이는 도 5c에서의 단어 "hot"의 톱니 파형의 상관성과 비교하여, 출력 신경들 (620a-620e) 각각은 각기 다른 화자에 의해 발음되는 동일 워드를 나타내는 각기 다른 입력 파형들과 크게 관계가 있는 시간적인 패턴들을 발생한다. 즉, 서로 극히 다름에도 불구하고 동일 단어의 표현을 갖는 두 개의 극히 다른 파형들에 대해서도, 신경망 (600)은 실질적으로 동일한 시간적 패턴을 발생한다.

신경망 (600)의 이용을 통한 다른 테스트 단어들로부터의 불변 특성들을 추출하는 것이 도 7a-7l에 나타나 있다. 출력패턴들의 역상관성에서의 상당한 증가가 모든 테스트의 경우들에서 얻어진다.

식 (12)의 다이내믹 학습 알고리즘의 이용을 통한 신경망에 대한 상기 훈련은 또한 훈련된 신경망이 각기 다른 단어들의 파형들을 구별할 수 있도록 해준다. 예로써, 도 6a의 신경망 (600)은 훈련후 각기 다른 단어들에 대한 상관성이 별로 없는 출력신호들을 생성한다.

다이내믹 시냅스들에 근거한 신경망은 또한 원하는 방식으로 훈련될 수 있다. 예컨대, 신경망에 있는 각기 다른 신경들이 각기 다른 특성들에만 응답하도록 훈련시킴으로써 "관리(supervised)" 학습이 실시될 수 있다. 다시, 도 6a의 간단한 신경망 (600)에 관하여, 신경들(602a, 602b, 602c, 602d)로부터의 각각의 출력들"N1", "N2", "N3", "N4"은 각기 다른 "목표(target)" 단어들, 예컨대 "hit", "height", "hot", "hut"에 각각 할당될 수 있다. 학습 동안에, 헤비안 규칙이 그들의 목표 단어들이 입력신호에 나타나는 다이내믹 시냅스들(630)에는 헤비안 규칙이 적용되고, 반면에 그들의 목표 단어들이 입력신호들에 없는 모든 다른 시냅스들(630)에는 안티헤비안 규칙이 적용된다.

도 8a 및 도 8b는 각기 다른 화자에 의해 발음되는 특정 단어들에 우선적으로 응답하도록 각각의 신경들을 훈련시기기 전 및 후에 신경들 (602a, 602b, 602c, 602d) 각각으로부터의 각각의 출력신호들 "N1", "N2", "N3", N4"을 나타낸다. 훈련에 앞서, 이 신경들은 동일 단어에 동일하게 응답한다. 예컨대, 도 8a에 보인 바와 같이 단어 "hit"에 응답하여 이들 신경들 매 하나씩마다 총 20 개의 스파이크가 생성되며, 단어 "height"에 응답하여 총 37개의 스파이크가 생성된다. 단어 "hit", "height", "hat", "hut"에 우선적으로 응답하도록 신경들 (602a), (602b), (602c), (602d)을 훈련한 후, 각각의 훈련된 신경들은 다른 단어들보다는 목표단어에 대해 많은 스파이크들을 발화하도록 학습 받는다. 이는 도 8b에서 대각 엔트리들로 나타냈다. 예컨대, 제 2 신경 (602b)은 단어 "height"에 응답하도록 훈련되어 단어 "height"가 존재하는 경우 34개의 스파이크를 생성하며 다른 단어가 존재하는 경우에는 30개 이하의 스파이크를 생성한다.

음성 인식에 대한 상기 시뮬레이션들은 입력이 음성 파형과 같이 연속적이거나 또는 시간 직렬 데이터와 같이 불연속적일 수 있는 보다 일반적인 시간적인 신호처리에서 시간적인 패턴 인식의 예들에 근거하는 것이다. 도 9A는 다이내믹 시냅스들에 근거한 신경망을 이용하는 시간적인 신호 처리의 한 실시를 보인 것이다. 모든 입력 시냅스들이 동일한 시간적인 신호들을 수신한다. 응답시, 각각의 입력 신경들은 입력신호와 유사한 시간적인 특징들을 갖는 일련의 동작 전위들 (즉, 스파이크 열)을 발생한다. 소정의 시냅스전 스파이크 열에 대해, 그 다이내믹 시냅스들은 한 신경의 다이내믹 시냅스들에 걸친 시냅스 역학에서의 변화로 인해 일련의 공간적-시간적 패턴을 발생한다. 시간적 패턴의 인식은 내부적으로 발생되는 공간적-시간적 신호들에 의해 근거하여 이루어진다.

다이내믹 시냅스들에 근거한 신경망은 또한 공간적 신호들을 처리하도록 구성될 수 있다. 도 9b는 다이내믹 시냅스들에 근거한 신경망을 이용한 공간적 신호 처리의 한 실시를 보인 것이다. 각기 다른 위치에 있는 각기 다른 입력 신경들은 일반적으로 각기 다른 크기의 입력신호들을 수신한다. 각 입력 신경들은 각각의 수신된 입력신호의 크기에 비례하는 주파수를 갖는 일련의 동작 전위를 발생한다. 입력 신경에 연결된 다이내믹 시냅스는 시냅스전 스파이크 열에 응답하여 시냅스에 포함된 특별한 다이내믹 처리에 의해 결정되는 독특한 시냅스 신호를 발생한다. 그러므로, 입력 신경들의 다이내믹 시냅스들의 결합은 후속되는 패턴 인식 절차를 위한 공간적-시간적 신호를 제공하게 된다.

또한, 도 9a 및 도9b의 기법 및 구성은 공간적 및 시간적 변화의 특성들을 갖는 하나 이상의 입력 신호들에서 패턴인식을 수행하도록 결합될 수 있음이 짐작될 수 있다.

다이내믹 시냅스들에 근거한 전술한 신경망 모델은 전자적인 성분, 광학적인 성분 및 생물학적인 성분을 갖는 디바이스로 실시될 수 있다. 이들 성분들은 생물학적인 신경 체계에서의 시냅스 및 신경 처리들과는 다른 다이내믹 처리를 생성할 수 있다. 예컨대, 다이내믹 시냅스 또는 신경은 RC 회로를 이용해서 실시될 수 있다. 이는 RC 회로의 전형적인 응답을 정의하는 식 (3)-(11)에 의해 표시될 수 있다. 그러한 RC 회로의 시정수는 생물학적인 신경 체계에서의 시정수와는 다른 값으로 설정된다. 추가로, 전자 센서, 광학 센서, 및 생물학적인 개별적으로 또는 이들의 조합으로 센서들이 시간적 및/또는 공간적 입력 자극을 수신 및 처리하는데 사용될 수 있다.

비록 본 발명은 바람직한 실시예들을 참조하여 상세히 설명하였지만은 발명의 정신 및 범주를 벗어나지 않는 범위 내에서 여러 가지 다양한 변형 및 개선이 만들어 질 수 있다. 예컨대, 실시 예들에서 이용된 식 (3)-(11)은 RC 회로의 응답을 갖는다. α함수 즉, G (t) = αte^-αt(여기서, α는 상수이며, 각기 다른 시냅스 처리들에 대해 달라질 수 있다)의 형태로의 응답과 같이 다른 형태의 응답들이 이용될 수 있다. 다른 예로써, 공간적-시간적 정보를 처리하는데 있어 도 9a 및 9b에 보인 예들과는 다양한 다른 연결구성들이 이용될 수 있다. 도 10은 다이내믹 시냅스들에 근거한 신경망의 다른 실시예를 보인 것이다. 또 다른 예로써, 식 (2)에서 다이내믹 시냅스의 출력신호에 대한 2-상태 모델은 방출 전위 값에 따라 변하는 각기 다른 크기의 스파이크들을 생성하도록 변형될 수 있다. 이들 및 기타 변형들은 다음의 특허청구의 범위에 의해 포함될 것을 의도하는 바이다.

Claims

정보 처리 시스템으로써 서로 교신하도록 연결되며, 적어도 하나의 입력신호에 응답하여 적어도 하나의 출력신호를 생성하도록 구성된 복수의 신호처리 요소들과; 그리고 상기 복수의 신호처리 요소들을 상호 연결하도록 배치되어 망을 형성하는 복수의 처리 연접부들을 구비하며; 상기 처리 연접부들 각각이 적어도 하나의 내부 연접 처리에 근거하여 상기 망에 있는 제 1 신호처리 요소들로부터 연접전 신호를 수신 및 처리하여 상기 연접전 신호의 적어도 하나의 파라메터에 따라 일정하게 변화하는 연접 신호를 생성하는 것을 특징으로 하는 정보처리 시스템.
제 1항에 있어서,상기 연접 신호의 진폭과 시간 함수 중 적어도 하나가 상기 연접전 신호의 상기 적어도 하나의 파라메터에 따라 변화하는 것을 특징으로 하는 정보처리 시스템.
제1항에 있어서, 상기 연접전 신호의 상기 적어도 하나의 파라메터가 상기 연접전 신호의 적어도 크기 또는 주파수를 포함하는 것을 특징으로 하는 정보처리 시스템.
제1항에 있어서, 상기 망에 있는 공통 신호 처리 요소로부터 신호들을 수신하도록 연결된 상기 복수의 처리 연접부들중 적어도 두 개가 각기 다른 연접 신호들을 생성하는 것을 특징으로 하는 정보처리 시스템.
제1항에 있어서, 상기 복수의 처리 연접부들중 적어도 하나가 상기 적어도 하나의 내부 연접 처리가 아닌 상기 연접신호에 다른 기여를 하는 다른 내부 연접처리를 갖는 것을 특징으로 하는 정보처리 시스템.
제1항에 있어서, 상기 복수의 처리 연접부 각각이 상기 제2 신호처리 요소로부터의 출력신호를 수신하도록 연결되며, 상기 출력신호에 따라 상기 적어도 하나의 내부 연접 처리를 조정하도록 구성된 것을 특징으로 하는 정보처리 시스템.
제6항에 있어서, 상기 복수의 신호처리 요소와 상기 복수의 처리 연접부들로 구성되는 상기 망이 상기 적어도 하나의 입력신호로 부터의 특정 특성에 응답하여 동작하는 것을 특징으로 하는 정보처리 시스템.
제6항에 있어서, 상기 복수의 신호처리 요소와 상기 복수의 처리 연접부들로 구성되는 상기 망이 제1 신호 처리 요소가 상기 적어도 하나의 입력신호에 있는 제1 특성을 표시하기 위한 제1 출력신호를 생성하도록 동작하고 상기 제2 신호처리 요소가 상기 적어도 하나의 입력 신호에 있는 제2 특성을 표시하기 위한 제2 출력 신호를 생성하도록 동작하는 방식으로 구성되는 것을 특징으로 하는 정보처리 시스템.
제1항에 있어서, 상기 복수의 신호처리 요소와 상기 복수의 처리 연접부들로 구성되는 상기 망이 상기 적어도 하나의 입력신호에 포함되는 상기 적어도 하나의 출력신호에 공간적인 특성을 표시하도록 구성되는 것을 특징으로 하는 정보처리 시스템.
제1항에 있어서, 상기 복수의 신호처리 요소와 상기 복수의 처리 연접부들로 구성되는 상기 망이 상기 적어도 하나의 입력신호에 포함되는 상기 적어도 하나의 출력신호에 시간적인 특성을 표시하도록 구성되는 것을 특징으로 하는 정보처리 시스템.
정보 처리 시스템으로써, 신호 처리기와 처리 연접부를 구비하여, 상기 신호처리기와 상기 처리 연접부는 서로 교신하도록 상호 연결되고 상기 처리 연접부에 의해 수신되는 입력신호를 처리하며, 상기 처리 연접부는 상기 입력신호에 응답하여 상기 입력신호에서의 시간적인 변화에 따라 연속적으로 변하는 연접 신호를 생성하며, 상기 신호 처리기는 상기 연접 신호에 응답하여 출력신호를 생성하는 동작을 하는 것을 특징으로 하는 정보 처리 시스템,
제11항에 있어서, 상기 처리 연접부가 상기 입력신호에서의 크기 변화에 따라 T아기 연접 신호를 조정하는 동작을 하는 것을 특징으로 하는 정보처리 시스템.
제11항에 있어서, 상기 처리 연접부가 상기입력 신호에서의 시간적인 변화에 따라 상기 연접신호를 조정하는 동작을 하는 것을 특징으로 하는 정보처리 시스템.
제14항에 있어서, 상기 처리 연접부는 상기 입력 신호에 응답하여 상기 입력신호의 상기 특징에의 의존성을 갖는 다른 연접신호를 생성하는 다른 내부 연접 처리를 갖도록 구성되며, 상기 처리 연접부는 상기 연접 신호와 상기 다른 연접 신호를 결합하여 전체적인 연접신호를 발생하는 동작을 하는 것을 특징으로 하는 정보처리 시스템.
제11항에 있어서, 상기 처리 연접부는 상기 연접 신호가 소정의 연접 드레시홀드치보다 클 때에만 상기 연접 신호를 방출하도록 구성되는 것을 특징으로 하는 정보 처리 시스템.
제11항에 있어서, 상기 처리 연접부는 상기 연접 신호가 상기 신호 처리기에 촉진 또는 억제가 되도록 하는 동작을 하는 것을 특징으로 하는 정보처리 시스템.
제11항에 있어서, 상기 신호 처리기는 상기 연접 신호의 크기가 소정의 처리기 드레시홀드치 보다 클 때에만 상기 출력신호를 방출하도록 구성되는 것을 특징으로 하는 정보 처리 시스템.
제 11항에 있어서, 상기 처리 연접부를 상기 신호 처리기에 연결하도록 배치되어 상기 출력신호의 적어도 일부가 상기 처리 연접부에 피드백 되도록 하는 피드백 루프를 더 구비하며, 상기 처리 연접부가 상기 출력신호에 따라 상기 연접 신호를 조정하는 동작을 하는 것을 특징으로 하는 정보 처리 시스템.
제18항에 있어서, 상기 처리 연접부가 상기 입력 신호로부터 특정 특성을 추출하는 동작을 하는 것을 특징으로 하는 정보 처리 시스템.
제 19항에 있어서, 상기 처리 연접부가 상기 특정 특성이 상기 입력신호에 존재할 때는 상기 연접 신호의 파라메터를 증대시키고, 상기 특정 특성이 상기 입력신호에 존재하지 않을 때에는 상기 연접 신호의 파라메터를 감소시키도록 구성된 것을 특징으로 하는 정보 처리 시스템.
제 11항에 있어서, 상기 신호 처리기와 상기 처리 연접부중 적어도 하나가 전자 소자, 광학소자, 생물학적 요소 또는 화학적 물질로부터 선택되는 적어도 하나의 요소를 포함하는 것을 특징으로 하는 정보처리 시스템.