KR102642528B1 - Artificial intelligence system and artificial neural network learning method thereof - Google Patents

Artificial intelligence system and artificial neural network learning method thereof Download PDF

Info

Publication number
KR102642528B1
KR102642528B1 KR1020210052507A KR20210052507A KR102642528B1 KR 102642528 B1 KR102642528 B1 KR 102642528B1 KR 1020210052507 A KR1020210052507 A KR 1020210052507A KR 20210052507 A KR20210052507 A KR 20210052507A KR 102642528 B1 KR102642528 B1 KR 102642528B1
Authority
KR
South Korea
Prior art keywords
input
signal
neuron
output
neural network
Prior art date
Application number
KR1020210052507A
Other languages
Korean (ko)
Other versions
KR20220068110A (en
Inventor
김성은
강태욱
김혁
오광일
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to US17/459,950 priority Critical patent/US20220156590A1/en
Publication of KR20220068110A publication Critical patent/KR20220068110A/en
Application granted granted Critical
Publication of KR102642528B1 publication Critical patent/KR102642528B1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Feedback Control In General (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은 인공 지능 시스템의 인공 신경망을 학습하는 방법에 관한 것으로, 상기 인공 지능 시스템의 입력 뉴런에서 제 1 입력 신호가 발생하는 단계; 소정의 시간 후에 상기 입력 뉴런에서 제 2 입력 신호가 발생하는 단계; 상기 제 1 입력 신호 및 상기 제 2 입력 신호가 발생한 후에 상기 인공 지능 시스템의 출력 뉴런에서 출력 신호가 발생하는 단계; 및 상기 입력 뉴런에서 발생한 상기 제 1 입력 신호 및 상기 제 2 입력 신호의 시간 순서를 기반으로, 상기 인공 지능 시스템의 시냅스에서 인공 신경망의 연결 강도를 조절하는 단계를 포함할 수 있다. 상기 인공 지능 시스템의 시냅스에서 인공 신경망의 연결 강도가 조절된 다음에, 상기 입력 뉴런에서 상기 제 1 입력 신호와 상기 제 2 입력 신호가 시간 순서대로 발생한 경우에, 상기 조절된 인공 신경망의 연결 강도에 따라 상기 출력 뉴런에서 출력 신호를 발생할 수 있다.The present invention relates to a method of learning an artificial neural network of an artificial intelligence system, comprising: generating a first input signal from an input neuron of the artificial intelligence system; generating a second input signal from the input neuron after a predetermined time; generating an output signal from an output neuron of the artificial intelligence system after the first input signal and the second input signal are generated; And it may include adjusting the connection strength of the artificial neural network at the synapse of the artificial intelligence system based on the time sequence of the first input signal and the second input signal generated from the input neuron. After the connection strength of the artificial neural network is adjusted at the synapse of the artificial intelligence system, when the first input signal and the second input signal occur in time order in the input neuron, the connection strength of the adjusted artificial neural network Accordingly, an output signal may be generated from the output neuron.

Description

인공 지능 시스템의 그것의 인공 신경망 학습 방법 {Artificial intelligence system and artificial neural network learning method thereof}{Artificial intelligence system and artificial neural network learning method thereof}

본 발명은 인공 지능 시스템에 관한 것으로, 보다 상세하게는 시계열 형태의 동적 데이터를 처리하는 인공 지능 시스템 및 그것의 인공 신경망 학습 방법에 관한 것이다.The present invention relates to an artificial intelligence system, and more specifically, to an artificial intelligence system that processes dynamic data in the form of a time series and its artificial neural network learning method.

인간의 사고, 추론, 및 학습 과정을 전자 장치에 적용하여 정보를 처리하는 인공지능 기술에 대한 관심이 증가하고 있다. 인간의 뇌에 포함된 뉴런 및 시냅스를 모방하여 정보를 처리하는 기술도 함께 발달하고 있다. 현재 개발된 인공지능 기술은 시냅스의 결합 세기를 변화시키면서 외부 데이터를 학습하고 있다. 이러한 인공지능 기술은 위험 인지, 보안, 자율 주행, 스마트 매니지먼트 등 다양한 분야에 응용되고 있다. Interest in artificial intelligence technology, which processes information by applying human thinking, reasoning, and learning processes to electronic devices, is increasing. Technologies that process information by imitating the neurons and synapses contained in the human brain are also developing. Currently developed artificial intelligence technology learns external data by changing the strength of synapse coupling. These artificial intelligence technologies are being applied to various fields such as risk recognition, security, autonomous driving, and smart management.

한편, 인공지능 기술의 저전력화를 위하여 스파이크 뉴럴 네트워크 방식에 관한 연구도 활발히 진행되고 있다. 이는 짧은 시간 동안에 스파이크 신호를 통해 신호가 전달되는 방식으로 전체 인공지능 시스템의 저전력에 크게 기여하고 있다.Meanwhile, research on spike neural network methods is also actively underway to reduce power consumption in artificial intelligence technology. This significantly contributes to the low power of the entire artificial intelligence system by transmitting signals through spike signals in a short period of time.

기존의 인공지능 기술은 정적인 데이터 처리에 최적화되어 있다. 현재대부분의 인공지능 기술은 MNIST와 같은 필기체 데이터에서의 숫자 인식 혹은 CIFAR-10과 같은 사진 데이터에서의 객체 인식 정도의 수준에서 움직이지 않는 그림이나 사진 분석에 초점을 맞추고 있다. 하지만 실제 외부에 존재하는 다수의 데이터들은 시간에 따라서 지속적으로 변화하는 시계열 형태의 동적 데이터가 대부분이다. 이를 처리하기 위해서는 기존 학습 방법과 다른 별도의 학습 및 추론 방법이 필요하다.Existing artificial intelligence technology is optimized for static data processing. Currently, most artificial intelligence technologies focus on analyzing non-moving pictures or photos at the level of number recognition in handwriting data such as MNIST or object recognition in photo data such as CIFAR-10. However, most of the data that actually exists outside is dynamic data in the form of a time series that continuously changes over time. To handle this, separate learning and inference methods are needed that are different from existing learning methods.

등록번호 제10-1512370호 뉴로모픽 시스템 및 뉴로모픽 시스템의 동작방법Registration number 10-1512370 Neuromorphic system and operation method of the neuromorphic system

본 발명은 상술한 기술적 과제를 해결하기 위한 것으로, 본 발명의 목적은 시간에 따라서 지속적으로 변화하는 시계열 형태의 동적 데이터를 처리할 수 있는 인공 지능 시스템 및 그것의 인공 신경망 학습 방법을 제공하는 데 있다.The present invention is intended to solve the above-mentioned technical problems, and the purpose of the present invention is to provide an artificial intelligence system capable of processing dynamic data in the form of a time series that continuously changes over time and its artificial neural network learning method. .

본 발명은 인공 지능 시스템의 인공 신경망을 학습하는 방법에 관한 것으로, 상기 인공 지능 시스템의 입력 뉴런에서 제 1 입력 신호가 발생하는 단계; 소정의 시간 후에 상기 입력 뉴런에서 제 2 입력 신호가 발생하는 단계; 상기 제 1 입력 신호 및 상기 제 2 입력 신호가 발생한 후에 상기 인공 지능 시스템의 출력 뉴런에서 출력 신호가 발생하는 단계; 및 상기 입력 뉴런에서 발생한 상기 제 1 입력 신호 및 상기 제 2 입력 신호의 시간 순서를 기반으로, 상기 인공 지능 시스템의 시냅스에서 인공 신경망의 연결 강도를 조절하는 단계를 포함할 수 있다.The present invention relates to a method of learning an artificial neural network of an artificial intelligence system, comprising: generating a first input signal from an input neuron of the artificial intelligence system; generating a second input signal from the input neuron after a predetermined time; generating an output signal from an output neuron of the artificial intelligence system after the first input signal and the second input signal are generated; And it may include adjusting the connection strength of the artificial neural network at the synapse of the artificial intelligence system based on the time sequence of the first input signal and the second input signal generated from the input neuron.

실시 예로서, 상기 인공 지능 시스템의 시냅스에서 인공 신경망의 연결 강도가 조절된 다음에, 상기 입력 뉴런에서 상기 제 1 입력 신호와 상기 제 2 입력 신호가 시간 순서대로 발생한 경우에, 상기 조절된 인공 신경망의 연결 강도에 따라 상기 출력 뉴런에서 출력 신호를 발생할 수 있다. As an embodiment, after the connection strength of the artificial neural network is adjusted at the synapse of the artificial intelligence system, when the first input signal and the second input signal occur in chronological order in the input neuron, the adjusted artificial neural network Depending on the connection strength, an output signal may be generated from the output neuron.

본 발명의 다른 일면에 따른 인공 지능 시스템의 시냅스에서 인공 신경망을 학습하는 방법은, 상기 인공 지능 시스템의 입력 뉴런에서 제 1 동적 신호가 지속적으로 발생하는 단계; 상기 입력 뉴런에서 제 2 동적 신호가 지속적으로 발생하는 단계; 상기 제 1 동적 신호 및 상기 제 2 동적 신호가 발생한 후에 상기 인공 지능 시스템의 출력 뉴런에서 출력 신호가 발생하는 단계; 및 상기 입력 뉴런에서 발생한 상기 제 1 동적 신호 및 상기 제 2 동적 신호의 반복 패턴을 기반으로, 상기 인공 지능 시스템의 시냅스에서 인공 신경망의 연결 강도를 조절하는 단계를 포함한다.A method of learning an artificial neural network at a synapse of an artificial intelligence system according to another aspect of the present invention includes continuously generating a first dynamic signal from an input neuron of the artificial intelligence system; continuously generating a second dynamic signal from the input neuron; generating an output signal from an output neuron of the artificial intelligence system after the first dynamic signal and the second dynamic signal are generated; and adjusting the connection strength of the artificial neural network at the synapse of the artificial intelligence system based on the repeating pattern of the first dynamic signal and the second dynamic signal generated from the input neuron.

실시 예로서, 상기 인공 지능 시스템의 시냅스에서 인공 신경망의 연결 강도가 조절된 다음에, 상기 입력 뉴런에서 상기 제 1 동적 신호와 상기 제 2 동적 신호가 상기 반복 패턴을 기반으로 발생한 경우에, 상기 조절된 인공 신경망의 연결 강도에 따라 상기 출력 뉴런에서 출력 신호를 발생할 수 있다.In an embodiment, after the connection strength of the artificial neural network is adjusted at the synapse of the artificial intelligence system, when the first dynamic signal and the second dynamic signal are generated in the input neuron based on the repeating pattern, the adjustment Depending on the connection strength of the artificial neural network, an output signal may be generated from the output neuron.

실시 예로서, 상기 반복 패턴을 기반으로 출력 신호를 생성하는 출력 뉴런은 억제 경로에서 제외되어서 상기 출력 뉴런이 다른 출력 신호의 발생에 영향을 받지 않도록 할 수 있다. In an embodiment, an output neuron that generates an output signal based on the repeating pattern may be excluded from the inhibitory pathway so that the output neuron is not affected by the generation of other output signals.

본 발명의 또 다른 일면은 인공 지능 시스템에 관한 것으로, 제 1 및 제 2 입력 신호를 발생하는 입력 뉴런; 상기 제 1 및 제 2 입력 신호의 발생에 따라 출력 신호를 발생하는 출력 뉴런; 및 상기 입력 뉴런의 제 1 및 제 2 입력 신호와 상기 출력 뉴런의 출력 신호를 상기 제 1 및 제 2 입력 신호의 발생 시간 순서 기반 또는 동일 신호의 반복 패턴을 기반으로, 인공 신경망의 연결 강도를 조절하는 시냅스를 포함한다. 상기 제 1 및 제 2 입력 신호는 지속적으로 발생하는 동적 신호일 수 있다.Another aspect of the present invention relates to an artificial intelligence system, comprising: an input neuron generating first and second input signals; an output neuron that generates an output signal according to the generation of the first and second input signals; and adjusting the connection strength of the artificial neural network based on the time order of occurrence of the first and second input signals of the input neuron and the output signal of the output neuron or based on a repeating pattern of the same signal. Includes synapses that The first and second input signals may be dynamic signals that occur continuously.

본 발명의 실시 예에 따른 인공 지능 시스템은 정적인 데이터의 분석을 통한 기존 인공 지능 방식과 비교하여, 훨씬 간단한 구조로 설계될 수 있고, 적은 전력으로 동적인 데이터를 분석할 수 있다. 본 발명에 의하면, 동적 데이터를 처리할 수 있는 초소형 및 고효율 인공 지능 시스템을 구현할 수 있다.Compared to existing artificial intelligence methods through analysis of static data, the artificial intelligence system according to an embodiment of the present invention can be designed with a much simpler structure and can analyze dynamic data with less power. According to the present invention, an ultra-small and highly efficient artificial intelligence system capable of processing dynamic data can be implemented.

도 1은 본 발명의 실시 예에 따른 인공 지능 시스템을 보여주는 블록도이다.
도 2 및 제 3은 도 1에 도시된 인공 지능 시스템의 학습 방법을 예시적으로 보여주는 블록도이다.
도 4는 도 1에 도시된 인공 지능 시스템의 학습 방법을 다른 예를 보여주는 블록도이다.
도 5 및 도 6은 본 발명의 실시 예에 따른 인공 지능 시스템의 인공 신경망 학습 방법을 설명하기 위한 블록도이다.
도 7은 본 발명의 다른 실시 예에 따른 인공 지능 시스템의 인공 신경망 학습 방법을 설명하기 위한 블록도이다.
도 8 및 도 9는 본 발명의 실시 예에 따른 인공 지능 시스템의 인공 신경망 학습 방법을 보여주는 순서도이다.1 is a block diagram showing an artificial intelligence system according to an embodiment of the present invention.
Figures 2 and 3 are block diagrams exemplarily showing a learning method of the artificial intelligence system shown in Figure 1.
FIG. 4 is a block diagram showing another example of the learning method of the artificial intelligence system shown in FIG. 1.
5 and 6 are block diagrams for explaining an artificial neural network learning method of an artificial intelligence system according to an embodiment of the present invention.
Figure 7 is a block diagram for explaining an artificial neural network learning method of an artificial intelligence system according to another embodiment of the present invention.
8 and 9 are flowcharts showing an artificial neural network learning method of an artificial intelligence system according to an embodiment of the present invention.

이하에서, 본 발명의 기술 분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있을 정도로, 본 발명의 실시 예들이 명확하고 상세하게 기재될 것이다.Hereinafter, embodiments of the present invention will be described clearly and in detail so that a person skilled in the art can easily practice the present invention.

인공 지능 시스템에 입력되는 데이터에는 한 장의 사진이나 그림처럼 정적 데이터도 있고, 지속적으로 변하는 동적 데이터도 있다. 기존의 인공 지능 시스템은 주로 정적 데이터 신호를 처리하는 데 최적화되어 있다. 그러나 실제 외부에 존재하는 다양한 신호들은 지속적으로 변하하는 동적인 형태의 데이터들이다. Data input to an artificial intelligence system includes static data, such as a photo or painting, and dynamic data that changes continuously. Existing artificial intelligence systems are primarily optimized for processing static data signals. However, the various signals that actually exist outside are data in a dynamic form that continuously changes.

인공 지능 시스템이 동적 데이터를 처리하기 위해서는 현재의 정적 데이터 학습 방법으로는 한계가 있다. 지속적으로 변화하는 동적 데이터 처리에 적합한 학습 방법이 필요하다. 본 발명의 인공 지능 시스템은 입력 신호의 상대적 발생 순서 및 발생 시간 차이를 기반으로 시냅스의 웨이트를 업데이트함으로 신경망의 연결 강도를 조절하고 별도의 반복 패턴에 관하여 학습하는 방법을 제공할 수 있다.In order for artificial intelligence systems to process dynamic data, current static data learning methods have limitations. A learning method suitable for processing dynamic, continuously changing data is needed. The artificial intelligence system of the present invention can provide a method of adjusting the connection strength of a neural network and learning about separate repetitive patterns by updating the weight of the synapse based on the relative occurrence order and occurrence time difference of the input signal.

도 1은 본 발명의 실시 예에 따른 인공 지능 시스템을 보여주는 블록도이다. 도 1을 참조하면, 인공 지능 시스템(100)은 입력 뉴런(110), 시냅스(120), 그리고 출력 뉴런(130)을 포함한다. 입력 뉴런(110)과 출력 뉴런(130)은 시냅스(120)의 연결 알고리즘을 통해 연결된다. 도 1에서 시냅스 연결 알고리즘을 통해 연결되는, 입력 뉴런(110)과 출력 뉴런(130)의 연결 망(점선으로 표시됨)을 인공 신경망이라 한다. 1 is a block diagram showing an artificial intelligence system according to an embodiment of the present invention. Referring to FIG. 1, the artificial intelligence system 100 includes an input neuron 110, a synapse 120, and an output neuron 130. The input neuron 110 and the output neuron 130 are connected through the connection algorithm of the synapse 120. In Figure 1, the connection network (indicated by a dotted line) of the input neuron 110 and the output neuron 130, which are connected through a synaptic connection algorithm, is called an artificial neural network.

인공 지능 시스템(100)의 입력 뉴런(110)으로 들어온 입력 신호(i)는 시냅스(120)의 연결 알고리즘을 통해 출력 뉴런(130)의 출력 신호(o)로 제공되도록 학습될 수 있다. 시냅스(120)의 연결 알고리즘(이하, 시냅스 연결 알고리즘이라 함)은 입력 신호(i)의 상대적 발생 순서나 발생 시간의 차이에 따라 인공 신경망의 연결 강도를 더욱 강하게 만들도록 구현될 수 있다. 시냅스(120)는 단일 레이어 또는 다중 레이어 구조를 가질 수 있다. 시냅스(120)는 단일 레이어 또는 다중 레이어 구조를 통해 인공 신경망의 연결 강도를 조절할 수 있다.The input signal (i) input to the input neuron 110 of the artificial intelligence system 100 may be learned to be provided as an output signal (o) of the output neuron 130 through the connection algorithm of the synapse 120. The connection algorithm of the synapse 120 (hereinafter referred to as the synapse connection algorithm) may be implemented to make the connection strength of the artificial neural network stronger depending on the relative occurrence order or difference in occurrence time of the input signal (i). The synapse 120 may have a single-layer or multi-layer structure. The synapse 120 can control the connection strength of the artificial neural network through a single layer or multi-layer structure.

도 2 및 제 3은 도 1에 도시된 인공 지능 시스템의 학습 방법을 예시적으로 보여주는 블록도이다. 인공 지능 시스템(100)은 신경망의 입력 신호(i)와 출력 신호(o)의 시간 차이에 기반하여 인공 신경망의 연결 강도를 조절할 수 있다. Figures 2 and 3 are block diagrams exemplarily showing a learning method of the artificial intelligence system shown in Figure 1. The artificial intelligence system 100 can adjust the connection strength of the artificial neural network based on the time difference between the input signal (i) and the output signal (o) of the neural network.

도 2를 참조하면, 인공 지능 시스템(100)의 입력 뉴런(110)에서 제 1 입력 신호가 발생하고, 그 결과로 출력 뉴런(130)에서 제 2 출력 신호가 발생한다고 가정하자. 인공 지능 시스템(100)의 시냅스 연결 알고리즘은 도 2의 굵은 실선의 화살표에서 보는 바와 같이, 제 1 입력 신호와 제 2 출력 신호 사이를 연결하는 인공 신경망의 연결 강도를 강화할 수 있다. Referring to FIG. 2, assume that a first input signal is generated in the input neuron 110 of the artificial intelligence system 100, and as a result, a second output signal is generated in the output neuron 130. The synaptic connection algorithm of the artificial intelligence system 100 can strengthen the connection strength of the artificial neural network connecting the first input signal and the second output signal, as shown by the thick solid arrow in FIG. 2.

도 3을 참조하면, 인공 지능 시스템(100)의 입력 뉴런(110)에서 제 2 입력 신호가 발생하고, 그 결과로 출력 뉴런(130)에서 제 3 출력 신호가 발생한다고 가정하자. 인공 지능 시스템(100)의 시냅스 연결 알고리즘은 도 3의 굵은 실선의 화살표에서 보는 바와 같이, 제 2 입력 신호와 제 3 출력 신호 사이를 연결하는 인공 신경망의 연결 강도를 강화할 수 있다. Referring to FIG. 3, assume that a second input signal is generated from the input neuron 110 of the artificial intelligence system 100, and as a result, a third output signal is generated from the output neuron 130. The synaptic connection algorithm of the artificial intelligence system 100 can strengthen the connection strength of the artificial neural network connecting the second input signal and the third output signal, as shown by the thick solid arrow in FIG. 3.

도 2 및 도 3과 같이 학습된 인공 지능 시스템(100)은 추후에 입력 뉴런(110)에서 제 1 입력 신호가 발생하면, 출력 뉴런(130)에서 제 2 출력 신호가 발생하도록 유도하게 된다. 또한, 인공 지능 시스템(100)은 입력 뉴런(110)에서 제 2 입력 신호가 발생하면, 출력 뉴런(130)에서 제 3 출력 신호가 발생하도록 유도하게 된다.As shown in FIGS. 2 and 3 , the learned artificial intelligence system 100 induces the output neuron 130 to generate a second output signal when the first input signal is generated from the input neuron 110 later. Additionally, when the second input signal is generated in the input neuron 110, the artificial intelligence system 100 induces the output neuron 130 to generate a third output signal.

도 4는 도 1에 도시된 인공 지능 시스템의 학습 방법을 다른 예를 보여주는 블록도이다. 인공 지능 시스템(100)은 도 2 및 도 3에서 학습된 인공 신경망의 학습 방법을 기반으로 다수의 신호가 입력되는 상황에서 인공 신경망의 연결 강도를 조절하는 방법을 예시적으로 보여준다.FIG. 4 is a block diagram showing another example of the learning method of the artificial intelligence system shown in FIG. 1. The artificial intelligence system 100 exemplarily shows a method of adjusting the connection strength of an artificial neural network in a situation where multiple signals are input based on the learning method of the artificial neural network learned in FIGS. 2 and 3.

도 4를 참조하면, 인공 지능 시스템(100)의 입력 뉴런(110)에서 제 1 입력 신호와 제 2 입력 신호가 동시에 또는 소정의 시간 차이를 두고 발생하고, 그 결과로 출력 뉴런(130)에서 제 4 출력 신호가 발생한다고 가정하자. 인공 지능 시스템(100)의 시냅스 연결 알고리즘은 도 4의 굵은 실선의 화살표에서 보는 바와 같이, 제 1 입력 신호와 제 4 출력 신호 사이를 연결하는 인공 신경망의 연결 강도를 일부 강화하고, 제 2 입력 신호와 제 4 출력 신호 사이를 연결하는 인공 신경망의 연결 강도를 일부 강화할 수 있다.Referring to FIG. 4, the first input signal and the second input signal are generated simultaneously or with a predetermined time difference in the input neuron 110 of the artificial intelligence system 100, and as a result, the first input signal and the second input signal are generated in the output neuron 130. 4 Assume that an output signal is generated. As shown in the thick solid arrow in FIG. 4, the synaptic connection algorithm of the artificial intelligence system 100 partially strengthens the connection strength of the artificial neural network connecting the first input signal and the fourth output signal, and strengthens the connection strength of the second input signal. The connection strength of the artificial neural network connecting and the fourth output signal can be partially strengthened.

도 4와 같이 학습된 인공 지능 시스템(100)은 추후에 입력 뉴런(110)에서 제 1 입력 신호와 제 2 입력 신호가 발생하면, 출력 뉴런(130)에서 제 2 출력 신호나 제 3 출력 신호를 발생하기 보다는 제 4 출력 신호를 발생하도록 유도하게 된다. The artificial intelligence system 100 learned as shown in FIG. 4 later generates a second or third output signal from the output neuron 130 when the first and second input signals are generated from the input neuron 110. Rather than generating the fourth output signal, it is induced to be generated.

도 4의 예에서, 인공 지능 시스템(100)은 입력 뉴런(110)에서 제 1 입력 신호와 제 2 입력 신호의 시간적 순서를 고려하고 있다. 그러나 본 발명의 실시 예에 따른 인공 지능 시스템(100)은 입력 뉴런(110)에서 입력되는 신호의 시간적 순서도 고려하여 인공 신경망의 연결 강도를 더욱 강력하게 조절할 수 있다. In the example of FIG. 4 , the artificial intelligence system 100 is considering the temporal order of the first and second input signals at the input neuron 110 . However, the artificial intelligence system 100 according to an embodiment of the present invention can more strongly adjust the connection strength of the artificial neural network by considering the temporal order of signals input from the input neuron 110.

입력 신호가 동적 데이터인 경우에는 입력 신호의 시간적 순서가 매우 중요하다. 동적인 입력 신호를 인공 지능 시스템(100)의 시냅스 연결 알고리즘에 반영하지 못하게 된다면 많은 정보의 손실이 발생할 수 밖에 없다. 본 발명의 인공 지능 시스템(100)은 입력 신호의 시간 차이를 고려하여 인공 신경망의 연결 강도를 조절함으로 정보 손실을 최대한 줄일 수 있다. When the input signal is dynamic data, the temporal order of the input signal is very important. If dynamic input signals cannot be reflected in the synaptic connection algorithm of the artificial intelligence system 100, a lot of information will inevitably be lost. The artificial intelligence system 100 of the present invention can reduce information loss as much as possible by adjusting the connection strength of the artificial neural network by considering the time difference of the input signal.

도 5 및 도 6은 본 발명의 실시 예에 따른 인공 지능 시스템의 인공 신경망 학습 방법을 설명하기 위한 블록도이다. 도 5 및 도 6을 참조하면, 인공 지능 시스템(200)은 입력 뉴런(210), 시냅스(220), 그리고 출력 뉴런(230)을 포함한다. 입력 뉴런(210)과 출력 뉴런(230)은 시냅스(220)의 연결 알고리즘을 통해 연결된다. 5 and 6 are block diagrams for explaining an artificial neural network learning method of an artificial intelligence system according to an embodiment of the present invention. 5 and 6, the artificial intelligence system 200 includes an input neuron 210, a synapse 220, and an output neuron 230. The input neuron 210 and the output neuron 230 are connected through the connection algorithm of the synapse 220.

본 발명의 실시 예에 따른 인공 지능 시스템(200)은 입력 뉴런(210)에 입력되는 복수의 입력 신호 사이의 상대적 시간 차이 또는 하나의 입력 신호에서 발생하는 신호 시간 차이를 고려하여 인공 신경망의 연결 강도를 조절할 수 있다. 즉, 본 발명의 인공 지능 시스템(200)은 입력 뉴런(210)에 동적 데이터가 입력되는 경우에 입력 신호의 시간 순서를 고려하여 출력 뉴런(230)의 인공 신경망의 연결 강도를 조절하게 된다.The artificial intelligence system 200 according to an embodiment of the present invention considers the connection strength of the artificial neural network by considering the relative time difference between a plurality of input signals input to the input neuron 210 or the signal time difference occurring from one input signal. can be adjusted. That is, when dynamic data is input to the input neuron 210, the artificial intelligence system 200 of the present invention adjusts the connection strength of the artificial neural network of the output neuron 230 by considering the time sequence of the input signal.

도 5를 참조하면, 인공 지능 시스템(200)의 입력 뉴런(210)에서 제 1 입력 신호가 먼저 발생하고, 그 후에 제 2 입력 신호가 발생하고, 그 결과로 출력 뉴런(230)에서 제 2 출력 신호가 발생한다고 가정하자. 인공 지능 시스템(200)의 시냅스 연결 알고리즘은 도 5의 굵은 실선의 화살표에서 보는 바와 같이, 제 1 입력 신호와 제 2 출력 신호 사이를 연결하는 인공 신경망의 연결 강도를 강화할 수 있다. Referring to FIG. 5, a first input signal first occurs in the input neuron 210 of the artificial intelligence system 200, then a second input signal occurs, and as a result, a second output is generated in the output neuron 230. Assume that a signal occurs. The synaptic connection algorithm of the artificial intelligence system 200 can strengthen the connection strength of the artificial neural network connecting the first input signal and the second output signal, as shown by the thick solid arrow in FIG. 5.

예를 들어, 제 1 입력 신호의 발생으로 제 2 출력 신호가 발생할 확률이 30%이고, 제 2 입력 신호의 발생으로 제 2 출력 신호가 발생할 확률이 30%라고 가정하자. 제 1 입력 신호 및 제 2 입력 신호가 시간 차이를 두고 발생할 경우에, 제 1 및 제 2 입력 신호와 제 2 출력 신호 사이의 인공 신경망의 연결 강도를 강화하여 제 2 출력 신호가 발생할 확률이 90%가 되도록할 수 있다. 즉, 제 1 입력 신호가 발생하고 일정 시간 내에 제 2 입력 신호가 발생하면, 제 2 입력 신호에 의하여 제 2 출력 신호가 발생할 확률은 30%에서 60%로 증가될 수 있다. 따라서, 제 1 입력 신호 발생 후에 제 2 입력 신호가 발생할 경우에, 제 2 출력 신호가 발생할 확률은 90%가 될 수 있다.For example, let's assume that the probability of generating a second output signal due to the generation of the first input signal is 30%, and the probability of generating the second output signal due to the generation of the second input signal is 30%. When the first input signal and the second input signal occur with a time difference, the probability of the second output signal occurring is 90% by strengthening the connection strength of the artificial neural network between the first and second input signals and the second output signal. It can be done. That is, if the first input signal is generated and the second input signal is generated within a certain period of time, the probability that the second output signal will be generated by the second input signal may increase from 30% to 60%. Accordingly, when the second input signal occurs after the first input signal is generated, the probability of the second output signal occurring may be 90%.

도 5와 같이 학습된 인공 지능 시스템(200)은 추후에 입력 뉴런(210)에서 제 1 입력 신호가 먼저 발생하고 그 후에 제 2 입력 신호가 발생하면, 출력 뉴런(230)에서 제 2 출력 신호를 발생하도록 유도하게 된다. 인공 지능 시스템(200)은 제 1 입력 신호와 제 2 입력 신호의 상대적 시간 차이를 고려하여, 제 1 입력 신호와 제 2 출력 신호 사이의 인공 신경망의 강도를 더욱 강하게 만들도록 시냅스 연결 알고리즘을 학습할 수 있다.As shown in FIG. 5, the learned artificial intelligence system 200 later generates a second output signal from the output neuron 230 when the first input signal is generated first from the input neuron 210 and then the second input signal is generated from the output neuron 230. induces it to occur. The artificial intelligence system 200 considers the relative time difference between the first input signal and the second input signal, and learns a synaptic connection algorithm to make the strength of the artificial neural network between the first input signal and the second output signal stronger. You can.

도 6을 참조하면, 인공 지능 시스템(200)의 입력 뉴런(210)에서 제 2 입력 신호가 먼저 발생하고, 그 후에 제 1 입력 신호가 발생하고, 그 결과로 출력 뉴런(230)에서 제 3 출력 신호가 발생한다고 가정하자. 인공 지능 시스템(200)의 시냅스 연결 알고리즘은 도 6의 굵은 실선의 화살표에서 보는 바와 같이, 제 2 입력 신호와 제 3 출력 신호 사이를 연결하는 인공 신경망의 연결 강도를 강화할 수 있다. Referring to FIG. 6, a second input signal first occurs in the input neuron 210 of the artificial intelligence system 200, followed by a first input signal, and as a result, a third output occurs in the output neuron 230. Assume that a signal occurs. The synaptic connection algorithm of the artificial intelligence system 200 can strengthen the connection strength of the artificial neural network connecting the second input signal and the third output signal, as shown by the thick solid arrow in FIG. 6.

위 예에서 마찬가지로, 제 2 입력 신호가 발생하고 일정 시간 내에 제 1 입력 신호가 발생하면, 제 1 입력 신호에 의하여 제 3 출력 신호가 발생할 확률은 30%에서 60%로 증가될 수 있다. 따라서, 제 2 입력 신호 발생 후에 제 1 입력 신호가 발생할 경우에, 제 3 출력 신호가 발생할 확률은 90%가 될 수 있다.Likewise in the above example, if the second input signal is generated and the first input signal is generated within a certain period of time, the probability that the third output signal is generated by the first input signal may increase from 30% to 60%. Accordingly, when the first input signal is generated after the second input signal is generated, the probability that the third output signal will be generated can be 90%.

도 6과 같이 학습된 인공 지능 시스템(200)은 추후에 입력 뉴런(210)에서 제 2 입력 신호가 먼저 발생하고 그 후에 제 1 입력 신호가 발생하면, 출력 뉴런(230)에서 제 3 출력 신호를 발생하도록 유도하게 된다. 인공 지능 시스템(200)은 제 1 입력 신호와 제 2 입력 신호의 상대적 시간 차이를 고려하여, 제 2 입력 신호와 제 3 출력 신호 사이의 인공 신경망의 강도를 더욱 강하게 만들도록 시냅스 연결 알고리즘을 학습할 수 있다.The artificial intelligence system 200 learned as shown in FIG. 6 later generates a third output signal from the output neuron 230 when the second input signal is generated first from the input neuron 210 and then the first input signal is generated from the output neuron 230. induces it to occur. The artificial intelligence system 200 considers the relative time difference between the first input signal and the second input signal, and learns a synaptic connection algorithm to make the strength of the artificial neural network between the second input signal and the third output signal stronger. You can.

본 발명의 실시 예에 따른 인공 지능 시스템(200)은 입력 뉴런(210)에서 발생하는 입력 신호의 순서를 고려하여 인공 신경망의 연결 강도를 조절함으로, 더 많은 정보를 시스템에 반영할 수 있다. 이는 전체 시스템의 구성을 더욱 간단하게 만들고, 향후 하드웨어로 구현할 때 더욱 저전력화할 수 있게 된다.The artificial intelligence system 200 according to an embodiment of the present invention can reflect more information in the system by adjusting the connection strength of the artificial neural network by considering the order of input signals generated from the input neurons 210. This makes the configuration of the entire system simpler and enables even lower power consumption when implemented in hardware in the future.

한편, 본 발명의 인공 지능 시스템(200)은 입력 신호의 시간 순서를 고려할 수 있을 뿐만 아니라, 시계열 패턴에 대한 뉴런을 별도로 마련하여 다수의 시계열 동적 신호에 반응하도록 설계될 수 있다.Meanwhile, the artificial intelligence system 200 of the present invention can not only consider the time sequence of input signals, but can also be designed to respond to a number of time series dynamic signals by separately providing neurons for time series patterns.

도 7은 본 발명의 다른 실시 예에 따른 인공 지능 시스템의 인공 신경망 학습 방법을 설명하기 위한 블록도이다. 도 7을 참조하면, 인공 지능 시스템(300)은 입력 뉴런(310), 시냅스(320), 그리고 출력 뉴런(330)을 포함한다. 입력 뉴런(210)과 출력 뉴런(230)은 시냅스(220)의 연결 알고리즘을 통해 연결된다. Figure 7 is a block diagram for explaining an artificial neural network learning method of an artificial intelligence system according to another embodiment of the present invention. Referring to FIG. 7, the artificial intelligence system 300 includes an input neuron 310, a synapse 320, and an output neuron 330. The input neuron 210 and the output neuron 230 are connected through the connection algorithm of the synapse 220.

도 7에 도시된 인공 지능 시스템(300)은 입력 뉴런(310)에 동적 신호가 지속적으로 발생하는 경우에 출력 뉴런(330)의 출력 신호 사이의 인공 신경망의 강도를 더욱 강하게 만들도록 시냅스 연결 알고리즘을 학습할 수 있다. The artificial intelligence system 300 shown in FIG. 7 uses a synaptic connection algorithm to make the strength of the artificial neural network between the output signals of the output neurons 330 stronger when dynamic signals continuously occur in the input neurons 310. You can learn.

도 7을 참조하면, 인공 지능 시스템(300)의 입력 뉴런(310)에서 제 2 동적 신호가 지속적으로 발생하고, 그 후에 제 1 동적 신호가 지속적으로 발생하고, 그 결과로 출력 뉴런(330)에서 제 4 출력 신호가 발생한다고 가정하자. 인공 지능 시스템(300)의 시냅스 연결 알고리즘은 도 7의 굵은 실선의 화살표에서 보는 바와 같이, 제 1 동적 신호와 제 4 출력 신호 사이를 연결하는 인공 신경망의 연결 강도 및 제 2 동적 신호와 제 4 출력 신호 사이를 연결하는 인공 신경망의 연결 강도를 강화할 수 있다.Referring to FIG. 7, a second dynamic signal is continuously generated in the input neuron 310 of the artificial intelligence system 300, and then a first dynamic signal is continuously generated in the output neuron 330. Assume that a fourth output signal is generated. As shown in the thick solid arrow in FIG. 7, the synaptic connection algorithm of the artificial intelligence system 300 is based on the connection strength of the artificial neural network connecting the first dynamic signal and the fourth output signal and the second dynamic signal and the fourth output. The connection strength of the artificial neural network that connects signals can be strengthened.

도 7과 같이 학습된 인공 지능 시스템(300)은 추후에 입력 뉴런(310)에서 지속적인 제 2 동적 신호가 먼저 발생하고 그 후에 지속적인 제 1 동적 신호가 발생하면, 출력 뉴런(430)에서 제 4 출력 신호를 발생하도록 유도하게 된다. 인공 지능 시스템(300)은 제 1 동적 신호와 제 2 동적 신호의 지속성을 고려하여, 입력 뉴런(310)과 출력 뉴련(330) 사이의 인공 신경망의 강도를 더욱 강하게 만들도록 시냅스 연결 알고리즘을 학습할 수 있다.As shown in FIG. 7, the learned artificial intelligence system 300 later generates a continuous second dynamic signal first in the input neuron 310, and then, when a continuous first dynamic signal occurs in the input neuron 310, a fourth output is generated in the output neuron 430. This leads to the generation of a signal. The artificial intelligence system 300 may learn a synaptic connection algorithm to make the strength of the artificial neural network between the input neuron 310 and the output neuron 330 stronger, considering the persistence of the first dynamic signal and the second dynamic signal. You can.

도 7에 도시된 인공 지능 시스템(300)은 입력 뉴런(310)에 지속적으로 동적 데이터 패턴의 입력 신호가 들어오면, 출력 뉴런(330)의 특정 출력 신호와의 인공 신경망 연결 강도를 강화하게 된다. 이와 같은 방식으로 인공 지능 시스템(300)은 입력 뉴런(310)의 동적 신호 발생 패턴을 새로운 신호로 인식하도록 학습할 수 있다. 이는 종래의 인공 지능 시스템의 출력 뉴런과는 다른 경로로 정의될 수 있다. 일반적으로 출력 뉴런에서 신호를 발생할 때 다른 뉴런의 멤브레인 값을 낮춰주는 억제 경로의 영향을 받게 된다. 그러나 본 발명의 인공 지능 시스템(300)은 이와 같이 동적 신호의 패턴이 지속적으로 입력될 때, 출력 뉴런(330)에 출력 신호를 생성하는 억제 경로의 영향을 받지 않게 하여, 기준값이 넘을 경우 가장 큰 의미를 가지도록 설계할 수 있다.The artificial intelligence system 300 shown in FIG. 7 strengthens the strength of the artificial neural network connection with a specific output signal of the output neuron 330 when an input signal of a dynamic data pattern continuously enters the input neuron 310. In this way, the artificial intelligence system 300 can learn to recognize the dynamic signal generation pattern of the input neuron 310 as a new signal. This can be defined as a different path from the output neurons of conventional artificial intelligence systems. Generally, when an output neuron generates a signal, it is influenced by an inhibitory pathway that lowers the membrane value of other neurons. However, the artificial intelligence system 300 of the present invention prevents the output neuron 330 from being affected by the inhibitory path that generates the output signal when the dynamic signal pattern is continuously input, so that when the reference value is exceeded, the largest It can be designed to have meaning.

도 8 및 도 9는 본 발명의 실시 예에 따른 인공 지능 시스템의 인공 신경망 학습 방법을 보여주는 순서도이다. 본 발명의 실시 예에 따른 인공 지능 시스템은 입력 뉴런에 동적 데이터가 입력되는 경우에 입력 신호의 시간 순서(도 8 참조) 및 지속성(도 9 참조)을 고려하여 인공 신경망의 연결 강도를 조절할 수 있다. 8 and 9 are flowcharts showing an artificial neural network learning method of an artificial intelligence system according to an embodiment of the present invention. The artificial intelligence system according to an embodiment of the present invention can adjust the connection strength of the artificial neural network by considering the time sequence (see FIG. 8) and persistence (see FIG. 9) of the input signal when dynamic data is input to the input neuron. .

도 8을 참조하면, S110 단계에서, 인공 지능 시스템의 입력 뉴런에서 제 1 입력 신호가 발생한 후에 제 2 입력 신호가 발생한다. S120 단계에서, 제 1 및 제 2 입력 신호의 결과로 출력 뉴런에서 출력 신호가 발생한다. Referring to FIG. 8, in step S110, a second input signal is generated after the first input signal is generated in the input neuron of the artificial intelligence system. In step S120, an output signal is generated in the output neuron as a result of the first and second input signals.

S130 단계에서, 인공 지능 시스템의 시냅스 연결 알고리즘은 제 1 입력 신호와 출력 신호 사이를 연결하는 인공 신경망의 연결 강도를 조절한다. 예를 들어, 제 1 입력 신호의 발생으로 출력 신호가 발생할 확률이 30%이고, 제 2 입력 신호의 발생으로 출력 신호가 발생할 확률이 30%라고 가정하자. 제 1 입력 신호 후에 제 2 입력 신호가 발생하면, 제 2 입력 신호에 의하여 출력 신호가 발생할 확률은 30%에서 60%로 증가될 수 있다. 따라서, 제 1 입력 신호 발생 후에 제 2 입력 신호가 발생할 경우에, 출력 신호가 발생할 확률은 90%가 될 수 있다.In step S130, the synaptic connection algorithm of the artificial intelligence system adjusts the connection strength of the artificial neural network connecting the first input signal and the output signal. For example, let's assume that there is a 30% probability that an output signal will occur due to the occurrence of a first input signal, and that the probability that an output signal will occur due to the occurrence of a second input signal is 30%. If the second input signal occurs after the first input signal, the probability that the output signal is generated by the second input signal may increase from 30% to 60%. Accordingly, when the second input signal occurs after the first input signal occurs, the probability of the output signal occurring may be 90%.

S140 단계에서, 인공 지능 시스템은 제 1 및 제 2 입력 신호와 출력 신호 사이의 시냅스 연결 알고리즘을 생성한다. 추후에 입력 뉴런에서 제 1 입력 신호가 발생하고 그 후에 제 2 입력 신호가 발생하면, 인공 지능 시스템은 제 1 입력 신호와 제 2 입력 신호의 상대적 시간 차이를 고려하여, 학습된 출력 신호를 발생한다.In step S140, the artificial intelligence system generates a synaptic connection algorithm between the first and second input signals and the output signal. When a first input signal is generated from an input neuron and a second input signal is generated later, the artificial intelligence system considers the relative time difference between the first and second input signals and generates a learned output signal. .

도 9를 참조하면, S210 단계에서, 인공 지능 시스템의 입력 뉴런에 제 1 동적 신호가 지속적으로 발생한 후에 제 2 동적 신호가 지속적으로 발생한다. S210 단계에서, 제 1 및 제 2 동적 신호의 지속적 발생 결과로, 출력 뉴런에 출력 신호가 발생한다. S230 단계에서, 인공 지능 시스템의 시냅스 연결 알고리즘은 동적 신호와 출력 신호 사이를 연결하는 인공 신경망의 연결 강도를 조절한다. S240 단계에서, 인공 지능 시스템은 다수의 동적 신호의 반복 지속성을 고려하여 출력 신호의 억제 경로를 제외한다. S250 단계에서, 인공 지능 시스템은 제 1 동적 신호와 출력 신호 사이 및 제 2 동적 신호와 출력 신호 사이의 시냅스 연결 알고리즘을 생성한다. 추후에 입력 뉴런에서 다수의 지속적인 동적 신호가 발생할 때, 인공 지능 시스템은 동적 신호의 상대적 시간 차이와 지속성을 고려하여, 학습된 출력 신호를 발생한다.Referring to FIG. 9, in step S210, after the first dynamic signal is continuously generated in the input neuron of the artificial intelligence system, the second dynamic signal is continuously generated. In step S210, as a result of the continuous generation of the first and second dynamic signals, an output signal is generated in the output neuron. In step S230, the synaptic connection algorithm of the artificial intelligence system adjusts the connection strength of the artificial neural network connecting the dynamic signal and the output signal. In step S240, the artificial intelligence system excludes the suppression path of the output signal by considering the repetition persistence of multiple dynamic signals. In step S250, the artificial intelligence system generates a synaptic connection algorithm between the first dynamic signal and the output signal and between the second dynamic signal and the output signal. Later, when multiple continuous dynamic signals are generated from the input neuron, the artificial intelligence system considers the relative time difference and persistence of the dynamic signals and generates a learned output signal.

본 발명의 인공 지능 시스템은 이와 같이 입력 신호의 시간 순서 및 패턴의 지속성을 고려하여, 출력 신호를 발생함으로 정보 손실을 최대한 줄일 수 있다. The artificial intelligence system of the present invention can reduce information loss as much as possible by generating output signals in consideration of the continuity of the time sequence and pattern of the input signal.

상술한 내용은 본 발명을 실시하기 위한 구체적인 실시 예들이다. 본 발명은 상술한 실시 예들 이외에도, 단순하게 설계 변경되거나 용이하게 변경할 수 있는 실시 예들도 포함될 것이다. 또한, 본 발명은 실시 예들을 이용하여 용이하게 변형하여 실시할 수 있는 기술들도 포함될 것이다. 따라서, 본 발명의 범위는 상술한 실시 예들에 국한되어 정해져서는 안되며, 후술하는 특허청구범위뿐만 아니라 이 발명의 특허청구범위와 균등한 것들에 의해 정해져야 할 것이다.The above-described details are specific embodiments for carrying out the present invention. In addition to the above-described embodiments, the present invention will also include embodiments that can be simply changed or easily changed in design. In addition, the present invention will also include technologies that can be easily modified and implemented using the embodiments. Therefore, the scope of the present invention should not be limited to the above-described embodiments, but should be determined by the claims and equivalents of the present invention as well as the claims described later.

100, 200, 300: 인공 지능 시스템
110, 210, 310: 입력 뉴런
120, 220, 320: 시냅스
130, 230, 330: 출력 뉴런100, 200, 300: Artificial Intelligence System
110, 210, 310: input neurons
120, 220, 320: Synapse
130, 230, 330: Output neurons

Claims (10)

인공 지능 시스템의 시냅스에서 인공 신경망을 학습하는 방법에 있어서,
상기 인공 지능 시스템의 입력 뉴런에서 제 1 입력 신호 및 제 2 입력 신호가 각각 발생하는 단계;
상기 입력 뉴런에서 상기 제 1 입력 신호가 발생한 후에 상기 제 2 입력 신호가 발생한 경우 상기 인공 지능 시스템의 출력 뉴런에서 제 1 출력 신호가 발생하는 단계;
상기 입력 뉴런에서 상기 제 2 입력 신호가 발생한 후에 상기 제 1 입력 신호가 발생한 경우 상기 출력 뉴런에서 제 2 출력 신호가 발생하는 단계;
상기 입력 뉴런에서 상기 제 1 입력 신호가 발생한 후에 상기 제 2 입력 신호가 발생한 경우 상기 출력 뉴런에서 상기 제 2 입력 신호에 의하여 상기 제 1 출력 신호가 발생할 확률이 증가되도록 상기 시냅스에서 상기 제 1 입력 신호 및 상기 제 2 입력 신호와 상기 제 1 출력 신호 사이의 인공 신경망의 연결 강도를 조절하는 단계; 및
상기 입력 뉴런에서 상기 제 2 입력 신호가 발생한 후에 상기 제 1 입력 신호가 발생한 경우 상기 출력 뉴런에서 상기 제 1 입력 신호에 의하여 상기 제 2 출력 신호가 발생할 확률이 증가되도록 상기 시냅스에서 상기 제 1 입력 신호 및 상기 제 2 입력 신호와 상기 제 2 출력 신호 사이의 인공 신경망의 연결 강도를 조절하는 단계를 포함하는 인공 신경망 학습 방법.In a method of learning an artificial neural network at the synapse of an artificial intelligence system,
Generating a first input signal and a second input signal from an input neuron of the artificial intelligence system, respectively;
generating a first output signal in an output neuron of the artificial intelligence system when the second input signal occurs after the first input signal is generated in the input neuron;
generating a second output signal in the output neuron when the first input signal is generated after the second input signal is generated in the input neuron;
When the second input signal occurs after the first input signal occurs in the input neuron, the first input signal at the synapse increases the probability that the first output signal is generated by the second input signal in the output neuron. and adjusting the connection strength of the artificial neural network between the second input signal and the first output signal; and
When the first input signal occurs after the second input signal occurs in the input neuron, the first input signal at the synapse increases the probability that the second output signal is generated by the first input signal in the output neuron. and adjusting the connection strength of the artificial neural network between the second input signal and the second output signal. 제 1 항에 있어서,
상기 인공 지능 시스템의 시냅스에서 인공 신경망의 연결 강도가 조절된 다음에, 상기 입력 뉴런에서 상기 제 1 입력 신호가 발생한 후에 상기 제 2 입력 신호가 발생한 경우에, 상기 조절된 인공 신경망의 연결 강도에 따라 상기 출력 뉴런에서 상기 제 1 출력 신호를 발생하고, 상기 입력 뉴런에서 상기 제 2 입력 신호가 발생한 후에 상기 제 1 입력 신호가 발생한 경우에, 상기 조절된 인공 신경망의 연결 강도에 따라 상기 출력 뉴런에서 상기 제 2 출력 신호를 발생하는 인공 신경망 학습 방법.According to claim 1,
After the connection strength of the artificial neural network is adjusted at the synapse of the artificial intelligence system, when the second input signal occurs after the first input signal occurs in the input neuron, according to the adjusted connection strength of the artificial neural network If the output neuron generates the first output signal, and the first input signal occurs after the input neuron generates the second input signal, the output neuron generates the output signal according to the connection strength of the adjusted artificial neural network. An artificial neural network learning method that generates a second output signal. 제 1 항에 있어서,
상기 시냅스는 단일 레이어 또는 다중 레이어 구조를 갖는 인공 신경망 학습 방법.According to claim 1,
An artificial neural network learning method in which the synapse has a single-layer or multi-layer structure. 인공 지능 시스템의 시냅스에서 인공 신경망을 학습하는 방법에 있어서,
상기 인공 지능 시스템의 입력 뉴런에서 제 1 동적 신호가 지속적으로 발생하는 단계;
상기 입력 뉴런에서 제 2 동적 신호가 지속적으로 발생하는 단계;
상기 제 1 동적 신호 및 상기 제 2 동적 신호가 발생한 후에 상기 인공 지능 시스템의 출력 뉴런에서 출력 신호가 발생하는 단계; 및
상기 입력 뉴런에서 발생한 상기 제 1 동적 신호 및 상기 제 2 동적 신호의 반복 패턴을 기반으로, 상기 인공 지능 시스템의 시냅스에서 인공 신경망의 연결 강도를 조절하는 단계를 포함하는 인공 신경망 학습 방법.In a method of learning an artificial neural network at the synapse of an artificial intelligence system,
continuously generating a first dynamic signal in an input neuron of the artificial intelligence system;
continuously generating a second dynamic signal from the input neuron;
generating an output signal from an output neuron of the artificial intelligence system after the first dynamic signal and the second dynamic signal are generated; and
An artificial neural network learning method comprising adjusting the connection strength of an artificial neural network at a synapse of the artificial intelligence system based on a repeating pattern of the first dynamic signal and the second dynamic signal generated from the input neuron. 제 4 항에 있어서,
상기 인공 지능 시스템의 시냅스에서 인공 신경망의 연결 강도가 조절된 다음에, 상기 입력 뉴런에서 상기 제 1 동적 신호와 상기 제 2 동적 신호가 상기 반복 패턴을 기반으로 발생한 경우에, 상기 조절된 인공 신경망의 연결 강도에 따라 상기 출력 뉴런에서 출력 신호를 발생하는 인공 신경망 학습 방법.According to claim 4,
After the connection strength of the artificial neural network is adjusted at the synapse of the artificial intelligence system, when the first dynamic signal and the second dynamic signal in the input neuron are generated based on the repeating pattern, the adjusted artificial neural network An artificial neural network learning method that generates an output signal from the output neuron according to the connection strength. 제 4 항에 있어서,
상기 반복 패턴을 기반으로 출력 신호를 생성하는 출력 뉴런은 억제 경로에서 제외되어서 상기 출력 뉴런이 다른 출력 신호의 발생에 영향을 받지 않도록 하는 인공 신경망 학습 방법.According to claim 4,
An artificial neural network learning method in which output neurons that generate output signals based on the repeating pattern are excluded from the inhibitory pathway so that the output neurons are not affected by the generation of other output signals. 제 4 항에 있어서,
상기 시냅스는 단일 레이어 또는 다중 레이어 구조를 갖는 인공 신경망 학습 방법.According to claim 4,
An artificial neural network learning method in which the synapse has a single-layer or multi-layer structure. 제 1 및 제 2 입력 신호를 발생하는 입력 뉴런;
상기 제 1 및 제 2 입력 신호의 발생에 따라 출력 신호를 발생하는 출력 뉴런; 및
상기 입력 뉴런의 제 1 및 제 2 입력 신호와 상기 출력 뉴런의 출력 신호를 상기 제 1 및 제 2 입력 신호의 발생 시간 순서 기반 또는 동일 신호의 반복 패턴을 기반으로, 인공 신경망의 연결 강도를 조절하는 시냅스를 포함하는 인공 지능 시스템.an input neuron generating first and second input signals;
an output neuron that generates an output signal according to the generation of the first and second input signals; and
adjusting the connection strength of the artificial neural network based on the time order of occurrence of the first and second input signals of the input neuron and the output signal of the output neuron or based on a repeating pattern of the same signal An artificial intelligence system containing synapses. 제 8 항에 있어서,
상기 제 1 및 제 2 입력 신호는 지속적으로 발생하는 동적 신호인 인공 지능 시스템.According to claim 8,
An artificial intelligence system wherein the first and second input signals are continuously generated dynamic signals. 제 8 항에 있어서,
상기 시냅스는 단일 레이어 또는 다중 레이어 구조를 갖는 인공 지능 시스템.
According to claim 8,
The synapse is an artificial intelligence system having a single-layer or multi-layer structure.
KR1020210052507A 2020-11-18 2021-04-22 Artificial intelligence system and artificial neural network learning method thereof KR102642528B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/459,950 US20220156590A1 (en) 2020-11-18 2021-08-27 Artificial intelligence system and artificial neural network learning method thereof

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20200154623 2020-11-18
KR1020200154623 2020-11-18

Publications (2)

Publication Number Publication Date
KR20220068110A KR20220068110A (en) 2022-05-25
KR102642528B1 true KR102642528B1 (en) 2024-03-04

Family

ID=81800311

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210052507A KR102642528B1 (en) 2020-11-18 2021-04-22 Artificial intelligence system and artificial neural network learning method thereof

Country Status (1)

Country Link
KR (1) KR102642528B1 (en)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101512370B1 (en) 2014-01-16 2015-04-15 광주과학기술원 Neuromorphic system operating method for the same
DK3114540T3 (en) * 2014-03-06 2021-04-19 Progress Inc NEURAL NETWORK AND METHODS FOR NEURAL NETWORK TRAINING
KR102556506B1 (en) * 2019-01-15 2023-07-19 한국전자통신연구원 Neuromorphic arithmetic device and operating method thereof

Also Published As

Publication number Publication date
KR20220068110A (en) 2022-05-25

Similar Documents

Publication Publication Date Title
Lochmann et al. Neural processing as causal inference
Becker Mutual information maximization: models of cortical self-organization
Yu et al. Precise-spike-driven synaptic plasticity: Learning hetero-association of spatiotemporal spike patterns
Dora et al. Development of a self-regulating evolving spiking neural network for classification problem
Hu et al. A spike-timing-based integrated model for pattern recognition
Marhon et al. Recurrent neural networks
Shrestha et al. Stable spike-timing dependent plasticity rule for multilayer unsupervised and supervised learning
Lin et al. Relative ordering learning in spiking neural network for pattern recognition
US20130325766A1 (en) Spiking neuron network apparatus and methods
Zhang et al. Fast and robust learning in spiking feed-forward neural networks based on intrinsic plasticity mechanism
Wang et al. LTMD: learning improvement of spiking neural networks with learnable thresholding neurons and moderate dropout
Skatchkovsky et al. Spiking neural networks—Part II: Detecting spatio-temporal patterns
Yu et al. Neuromorphic cognitive systems
Lázaro et al. Training neural network classifiers through Bayes risk minimization applying unidimensional Parzen windows
Mishra et al. Comprehensive and comparative analysis of neural network
KR102642528B1 (en) Artificial intelligence system and artificial neural network learning method thereof
Maymí et al. AI in cyberspace: Beyond the hype
Basak et al. A connectionist model for category perception: theory and implementation
Hazan et al. Memory via Temporal Delays in weightless Spiking Neural Network
US20220156590A1 (en) Artificial intelligence system and artificial neural network learning method thereof
McDonald et al. Modelling retinal ganglion cells using self-organising fuzzy neural networks
Гулямов et al. Application of neural networks
Neculae et al. Ensembles of spiking neural networks
Zhang et al. A Bionic Spiking Recurrent Neural Network with Sparse Connections and Dale's Principle
Hristeva et al. Deep learning model for object detection

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant