KR102504522B1 - Neural network using weighted synapse based on resistive random access memory array - Google Patents
Neural network using weighted synapse based on resistive random access memory array Download PDFInfo
- Publication number
- KR102504522B1 KR102504522B1 KR1020200074862A KR20200074862A KR102504522B1 KR 102504522 B1 KR102504522 B1 KR 102504522B1 KR 1020200074862 A KR1020200074862 A KR 1020200074862A KR 20200074862 A KR20200074862 A KR 20200074862A KR 102504522 B1 KR102504522 B1 KR 102504522B1
- Authority
- KR
- South Korea
- Prior art keywords
- change element
- resistance change
- area
- cross
- section
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
- G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- H—ELECTRICITY
- H10—SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
- H10N—ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
- H10N70/00—Solid-state devices without a potential-jump barrier or surface barrier, and specially adapted for rectifying, amplifying, oscillating or switching
- H10N70/801—Constructional details of multistable switching devices
- H10N70/881—Switching materials
- H10N70/883—Oxides or nitrides
Abstract
본 발명의 실시예에 따른 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크는 제1 입력 라인, 제1 출력 라인, 및 제1 입력 라인과 제1 출력 라인 사이에 위치하는 제1 저항 변화 소자를 포함하는 제1 저항 변화 소자 어레이와, 제2 입력 라인, 제2 출력 라인, 및 제2 입력 라인과 제2 출력 라인 사이에 위치하는 제2 저항 변화 소자를 포함하는 제2 저항 변화 소자 어레이를 포함하되, 제1 저항 변화 소자의 가중치와 제2 저항 변화 소자의 가중치는 제1 저항 변화 소자의 단면의 면적과 제2 저항 변화 소자의 단면의 면적에 각각 비례하고, 제1 저항 변화 소자의 단면의 면적과 제2 저항 변화 소자의 단면의 면적은 상이하다.A neural network using weighted synapses based on a resistive memory array according to an embodiment of the present invention includes a first input line, a first output line, and a first resistive change element positioned between the first input line and the first output line. A second resistive change element array including a first resistive change element array including a second input line, a second output line, and a second resistive change element positioned between the second input line and the second output line. However, the weight of the first resistance change element and the weight of the second resistance change element are proportional to the area of the cross section of the first resistance change element and the area of the cross section of the second resistance change element, respectively, and the cross section of the first resistance change element The area and the area of the cross section of the second resistance change element are different.
Description
본 발명은 뉴럴 네트워크에 관한 것으로서, 보다 상세하게는 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크에 관한 것이다.The present invention relates to a neural network, and more particularly, to a neural network using weighted synapses based on a resistance change memory array.
뉴럴 네트워크는 생물학의 신경망에서 영감을 얻은 학습 알고리즘이다. 시냅스의 결합으로 네트워크를 형성한 인공 뉴런이 학습을 통해 시냅스의 결합 세기를 변화시켜 문제해결능력을 가지는 모델이다. 최근 뉴럴 네트워크 기술이 발전함에 따라, 다양한 종류의 전자 시스템에서 뉴럴 네트워크 장치를 사용하여 입력 데이터를 분석하고 유효한 정보를 추출하는 연구가 활발히 진행되고 있다.Neural networks are learning algorithms inspired by neural networks in biology. It is a model that has problem-solving ability by changing synaptic coupling strength through artificial neurons that form a network through synaptic coupling. As neural network technology has recently developed, studies on analyzing input data and extracting valid information using neural network devices in various types of electronic systems are being actively conducted.
특히 저전력 및 고집적으로 구현되는 디바이스에서, 뉴럴 네트워크를 이용하여 대량의 입력 데이터를 실시간으로 분석하여 원하는 정보를 추출하기 위해서는 뉴럴 네트워크에 관한 연산을 효율적으로 처리할 수 있는 기술이 요구된다.In particular, in order to extract desired information by analyzing a large amount of input data in real time using a neural network in a device implemented with low power and high density, a technique capable of efficiently processing calculations related to a neural network is required.
위 기재된 내용은 오직 본 발명의 기술적 사상들에 대한 배경 기술의 이해를 돕기 위한 것이며, 따라서 그것은 본 발명의 기술 분야의 당업자에게 알려진 선행 기술에 해당하는 내용으로 이해될 수 없다.The above description is only intended to help understand the background of the technical ideas of the present invention, and therefore, it cannot be understood as the prior art known to those skilled in the art.
본 발명의 실시예는 인공 신경망 하드웨어 학습 및 추론 시 에너지 효율성과 정확도 향상을 극대화 할 수 있는 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크를 제공하는 것을 목적으로 한다.An object of the present invention is to provide a neural network using weighted synapses based on a resistance change memory array capable of maximizing energy efficiency and improving accuracy during artificial neural network hardware learning and inference.
상기 목적을 달성하기 위하여 본 발명의 실시예에 따른 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크는, 제1 입력 라인, 제1 출력 라인, 및 상기 제1 입력 라인과 상기 제1 출력 라인 사이에 위치하는 제1 저항 변화 소자를 포함하는 제1 저항 변화 소자 어레이와, 제2 입력 라인, 제2 출력 라인, 및 상기 제2 입력 라인과 상기 제2 출력 라인 사이에 위치하는 제2 저항 변화 소자를 포함하는 제2 저항 변화 소자 어레이를 포함하되, 상기 제1 저항 변화 소자의 가중치와 상기 제2 저항 변화 소자의 가중치는 상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적에 각각 비례하고, 상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적은 상이하다.In order to achieve the above object, a neural network using weighted synapses based on a resistance change memory array according to an embodiment of the present invention includes a first input line, a first output line, and between the first input line and the first output line. A first resistive change element array including a first resistive change element positioned on a second input line, a second output line, and a second resistive change element positioned between the second input line and the second output line. A second resistive change element array comprising a, wherein the weight of the first resistive change element and the weight of the second resistive change element are an area of a cross section of the first resistive change element and a cross section of the second resistive change element. is proportional to the area of , and the area of the cross section of the first resistance change element is different from the area of the cross section of the second resistance change element.
상기 제1 저항 변화 소자의 단면의 면적은 상기 제2 저항 변화 소자의 단면의 면적의 n배이고, n은 자연수일 수 있다.The area of the cross section of the first resistance change element may be n times the area of the cross section of the second resistance change element, and n may be a natural number.
상기 n은 10일 수 있다.The n may be 10.
상기 제1 저항 변화 소자와 상기 제2 저항 변화 소자의 재료는 금속산화물을 포함할 수 있다.A material of the first resistance change element and the second resistance change element may include a metal oxide.
상기 금속산화물은 PCMO 물질, TiOx 물질, MoOx 물질, 및 WOx 물질 중 적어도 하나를 포함할 수 있다.The metal oxide may include at least one of a PCMO material, a TiOx material, a MoOx material, and a WOx material.
본 발명의 실시예에 따른 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크는, 제1 입력 라인, 제1 출력 라인, 및 상기 제1 입력 라인과 상기 제1 출력 라인 사이에 위치하는 제1 저항 변화 소자를 포함하는 제1 저항 변화 소자 어레이와; 제2 입력 라인, 제2 출력 라인, 및 상기 제2 입력 라인과 상기 제2 출력 라인 사이에 위치하는 제2 저항 변화 소자를 포함하는 제2 저항 변화 소자 어레이와; 제3 입력 라인, 제3 출력 라인, 및 상기 제3 입력 라인과 상기 제3 출력 라인 사이에 위치하는 제3 저항 변화 소자를 포함하는 제3 저항 변화 소자 어레이를 포함하되, 상기 제1 저항 변화 소자의 가중치와 상기 제2 저항 변화 소자의 가중치와 상기 제3 저항 변화 소자의 가중치는 상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적과 상기 제3 저항 변화 소자의 단면의 면적에 각각 비례하고, 상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적과 상기 제3 저항 변화 소자의 단면의 면적은 서로 상이하다.A neural network using weighted synapses based on a resistance variable memory array according to an embodiment of the present invention includes a first input line, a first output line, and a first resistance positioned between the first input line and the first output line. a first resistive change element array including a change element; a second resistive change element array including a second input line, a second output line, and a second resistive change element positioned between the second input line and the second output line; A third resistive change element array including a third input line, a third output line, and a third resistive change element positioned between the third input line and the third output line, wherein the first resistive change element The weight of the second resistance change element and the weight of the third resistance change element are the cross-section area of the first resistance change element and the cross-section area of the second resistance change element and the third resistance change element. It is proportional to the area of the cross section, and the area of the cross section of the first resistance change element, the area of the cross section of the second resistance change element, and the area of the cross section of the third resistance change element are different from each other.
상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적과 상기 제3 저항 변화 소자의 단면의 면적의 비율은 n2:n:1이고, n은 자연수일 수 있다.The ratio of the area of the cross section of the first resistance change element, the area of the cross section of the second resistance change element, and the area of the cross section of the third resistance change element is n 2 :n:1, where n may be a natural number.
상기 n은 10일 수 있다.The n may be 10.
본 발명의 실시예에 따른 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크는, 제1 입력 라인, 제2 입력 라인, 제1 출력 라인, 상기 제1 입력 라인과 상기 제1 출력 라인 사이에 위치하는 제1 저항 변화 소자, 및 상기 제2 입력 라인과 상기 제1 출력 라인 사이에 위치하는 제2 저항 변화 소자를 포함하는 저항 변화 소자 어레이를 포함하되, 상기 제1 저항 변화 소자의 가중치와 상기 제2 저항 변화 소자의 가중치는 상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적에 각각 비례하고, 상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적은 상이하다.A neural network using weighted synapses based on a resistance change memory array according to an embodiment of the present invention includes a first input line, a second input line, a first output line, and a location between the first input line and the first output line. A resistive change element array including a first resistive change element, and a second resistive change element positioned between the second input line and the first output line, wherein the weight of the first resistive change element and the first
상기 제1 저항 변화 소자의 단면의 면적은 상기 제2 저항 변화 소자의 단면의 면적의 n배이고, n은 자연수일 수 있다.The area of the cross section of the first resistance change element may be n times the area of the cross section of the second resistance change element, and n may be a natural number.
상기 n은 10일 수 있다.The n may be 10.
상기 제1 저항 변화 소자와 상기 제2 저항 변화 소자의 재료는 금속산화물을 포함할 수 있다.A material of the first resistance change element and the second resistance change element may include a metal oxide.
상기 금속산화물은 PCMO 물질, TiOx 물질, MoOx 물질, 및 WOx 물질 중 적어도 하나를 포함할 수 있다.The metal oxide may include at least one of a PCMO material, a TiOx material, a MoOx material, and a WOx material.
본 발명의 실시예에 따른 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크는, 제1 입력 라인, 제2 입력 라인, 제3 입력 라인, 제1 출력 라인, 상기 제1 입력 라인과 상기 제1 출력 라인 사이에 위치하는 제1 저항 변화 소자, 상기 제2 입력 라인과 상기 제1 출력 라인 사이에 위치하는 제2 저항 변화 소자, 및 상기 제3 입력 라인과 상기 제1 출력 라인 사이에 위치하는 제3 저항 변화 소자를 포함하는 저항 변화 소자 어레이를 포함하되, 상기 제1 저항 변화 소자의 가중치와 상기 제2 저항 변화 소자의 가중치와 상기 제3 저항 변화 소자의 가중치는 상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적과 상기 제3 저항 변화 소자의 단면의 면적에 각각 비례하고, 상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적과 상기 제3 저항 변화 소자의 단면의 면적은 서로 상이하다.A neural network using weighted synapses based on a resistance change memory array according to an embodiment of the present invention includes a first input line, a second input line, a third input line, a first output line, the first input line and the first input line. A first resistive change element positioned between output lines, a second resistive change element positioned between the second input line and the first output line, and a third resistive change element positioned between the third input line and the first output line. A resistive change element array including three resistive change elements, wherein a weight of the first resistive change element, a weight of the second resistive change element, and a weight of the third resistive change element are cross-sections of the first resistive change element. Proportional to the area of the cross section of the second resistance change element and the area of the cross section of the third resistance change element, respectively, and the area of the cross section of the first resistance change element and the area of the cross section of the second resistance change element. and an area of a cross section of the third resistance change element are different from each other.
상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적과 상기 제3 저항 변화 소자의 단면의 면적의 비율은 n2:n:1이고, n은 자연수일 수 있다.The ratio of the area of the cross section of the first resistance change element, the area of the cross section of the second resistance change element, and the area of the cross section of the third resistance change element is n 2 :n:1, where n may be a natural number.
상기 n은 10일 수 있다.The n may be 10.
이와 같은 본 발명의 실시예에 따른 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크는, 단일 저항 변화 소자에 가중치를 두어 총 시냅스가 가질수 있는 전도도의 단계를 세밀화 시킴으로써, 인공 신경망 하드웨어 학습 및 추론 시 에너지 효율성과 정확도 향상을 극대화 할 수 있다. 또한, 전도도의 단계와 내재적인 산포 측면에서 한계를 갖고 있는 저항 변화 소자를 사용하여 가중 시냅스를 구성함으로써, 시스템의 에너지 효율 및 성능 향상을 할 수 있다.The neural network using weighted synapses based on a resistance change memory array according to an embodiment of the present invention puts a weight on a single resistive change element to refine the level of conductivity that a total synapse can have, thereby providing artificial neural network hardware learning and reasoning. Energy efficiency and accuracy can be maximized. In addition, energy efficiency and performance of the system can be improved by constructing a weighted synapse using a resistive change element having limitations in terms of conductivity level and intrinsic distribution.
도 1은 본 발명의 일 실시예에 따른 뉴럴 네트워크를 개략적으로 나타내는 회로도이다.
도 2는 본 발명의 일 실시예에 따른 저항 변화 메모리 교차 구조 어레이로 구현한 뉴럴 네트워크를 개략적으로 나타내는 회로도이다.
도 3은 본 발명의 일 실시예에 따른 다수의 가중치가 부여된 교차 구조 어레이 코어로 구성된 뉴럴 네트워크를 개략적으로 나타내는 회로도이다.
도 4는 본 발명의 일 실시예에 따른 뉴럴 네트워크의 3개의 메모리 소자로 구성된 가중 시냅스가 표현할 수 있는 전도도의 단계를 보여주는 도면이다.
도 5 및 도 6은 본 발명의 일 실시예에 따른 뉴럴 네트워크의 단위 소자에 가중치를 면적으로 배당할 수 있는 계면 반응성 저항 변화 메모리의 일 예를 보여주는 도면이다.
도 7은 본 발명의 일 실시예에 따른 뉴럴 네트워크에서 저항 변화 소자의 면적에 따라 정비례하게 증가하는 전도도를 보여주는 그래프이다.
도 8은 본 발명의 일 실시예에 따른 뉴럴 네트워크에서 저항 변화 소자의 10단계의 전도도를 보여주는 그래프이다.
도 9는 본 발명의 일 실시예에 따른 뉴럴 네트워크에서 10단계의 가중치를 가지는 저항 변화 소자 3개로 구현한 1000 단계의 전도도를 보여주는 그래프이다.1 is a circuit diagram schematically illustrating a neural network according to an embodiment of the present invention.
2 is a circuit diagram schematically illustrating a neural network implemented with a resistive variable memory crossover structure array according to an embodiment of the present invention.
3 is a circuit diagram schematically illustrating a neural network composed of a plurality of weighted cross-structured array cores according to an embodiment of the present invention.
FIG. 4 is a diagram showing the levels of conductivity that can be expressed by a weighted synapse composed of three memory elements of a neural network according to an embodiment of the present invention.
5 and 6 are diagrams showing an example of an interface reactive resistance change memory capable of allocating a weight by area to unit elements of a neural network according to an embodiment of the present invention.
7 is a graph showing conductivity that increases in direct proportion to the area of a resistive change element in a neural network according to an embodiment of the present invention.
8 is a graph showing conductivities of 10 stages of a resistive change element in a neural network according to an embodiment of the present invention.
9 is a graph showing conductivities of 1000 steps implemented by three resistive change elements having weights of 10 steps in a neural network according to an embodiment of the present invention.
위 발명의 배경이 되는 기술 란에 기재된 내용은 오직 본 발명의 기술적 사상에 대한 배경 기술의 이해를 돕기 위한 것이며, 따라서 그것은 본 발명의 기술 분야의 당업자에게 알려진 선행 기술에 해당하는 내용으로 이해될 수 없다.The information described in the technical background of the above invention is only to help the understanding of the background art of the technical idea of the present invention, and therefore it can be understood as the prior art known to those skilled in the art of the present invention. does not exist.
아래의 서술에서, 설명의 목적으로, 다양한 실시예들의 이해를 돕기 위해 많은 구체적인 세부 내용들이 제시된다. 그러나, 다양한 실시예들이 이러한 구체적인 세부 내용들 없이 또는 하나 이상의 동등한 방식으로 실시될 수 있다는 것은 명백하다. 다른 예시들에서, 잘 알려진 구조들과 장치들은 다양한 실시예들을 불필요하게 이해하기 어렵게 하는 것을 피하기 위해 블록도로 표시된다. In the following description, for purposes of explanation, numerous specific details are set forth to facilitate an understanding of various embodiments. It is evident, however, that the various embodiments may be practiced without these specific details or in one or more equivalent manners. In other instances, well-known structures and devices are shown in block diagram form in order to avoid unnecessarily obscuring the various embodiments.
도면에서, 레이어들, 필름들, 패널들, 영역들 등의 크기 또는 상대적인 크기는 명확한 설명을 위해 과장될 수 있다. 또한, 동일한 참조 번호는 동일한 구성 요소를 나타낸다.In the drawings, the size or relative size of layers, films, panels, regions, etc. may be exaggerated for clarity. Also, like reference numerals denote like elements.
명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "간접적으로 연결"되어 있는 경우도 포함한다. 그러나, 만약 어떤 부분이 다른 부분과 "직접적으로 연결되어 있다"고 서술되어 있으면, 이는 해당 부분과 다른 부분 사이에 다른 소자가 없음을 의미할 것이다. "X, Y, 및 Z 중 적어도 어느 하나", 그리고 "X, Y, 및 Z로 구성된 그룹으로부터 선택된 적어도 어느 하나"는 X 하나, Y 하나, Z 하나, 또는 X, Y, 및 Z 중 둘 또는 그 이상의 어떤 조합 (예를 들면, XYZ, XYY, YZ, ZZ) 으로 이해될 것이다. 여기에서, "및/또는"은 해당 구성들 중 하나 또는 그 이상의 모든 조합을 포함한다.Throughout the specification, when a part is said to be "connected" to another part, this includes not only the case where it is "directly connected" but also the case where it is "indirectly connected" with another element interposed therebetween. . However, if a part is described as being "directly connected" to another part, it will mean that there are no other components between that part and the other part. "At least one of X, Y, and Z" and "at least one selected from the group consisting of X, Y, and Z" means one X, one Y, one Z, or two or more of X, Y, and Z Any combination of more (eg, XYZ, XYY, YZ, ZZ) will be understood. Here, "and/or" includes any combination of one or more of the elements.
여기에서, 첫번째, 두번째 등과 같은 용어가 다양한 소자들, 요소들, 지역들, 레이어들, 및/또는 섹션들을 설명하기 위해 사용될 수 있지만, 이러한 소자들, 요소들, 지역들, 레이어들, 및/또는 섹션들은 이러한 용어들에 한정되지 않는다. 이러한 용어들은 하나의 소자, 요소, 지역, 레이어, 및/또는 섹션을 다른 소자, 요소, 지역, 레이어, 및 또는 섹션과 구별하기 위해 사용된다. 따라서, 일 실시예에서의 첫번째 소자, 요소, 지역, 레이어, 및/또는 섹션은 다른 실시예에서 두번째 소자, 요소, 지역, 레이어, 및/또는 섹션이라 칭할 수 있다.Here, although terms such as first, second, etc. may be used to describe various elements, elements, regions, layers, and/or sections, such elements, elements, regions, layers, and/or or sections are not limited to these terms. These terms are used to distinguish one element, element, region, layer, and/or section from another element, element, region, layer, and/or section. Thus, a first element, element, region, layer, and/or section in one embodiment may be referred to as a second element, element, region, layer, and/or section in another embodiment.
"아래", "위" 등과 같은 공간적으로 상대적인 용어가 설명의 목적으로 사용될 수 있으며, 그렇게 함으로써 도면에서 도시된 대로 하나의 소자 또는 특징과 다른 소자(들) 또는 특징(들)과의 관계를 설명한다. 이는 도면 상에서 하나의 구성 요소의 다른 구성 요소에 대한 관계를 나타내는 데에 사용될 뿐, 절대적인 위치를 의미하는 것은 아니다. 예를 들어, 도면에 도시된 장치가 뒤집히면, 다른 소자들 또는 특징들의 "아래"에 위치하는 것으로 묘사된 소자들은 다른 소자들 또는 특징들의 "위"의 방향에 위치한다. 따라서, 일 실시예에서 "아래" 라는 용어는 위와 아래의 양방향을 포함할 수 있다. 뿐만 아니라, 장치는 그 외의 다른 방향일 수 있다 (예를 들어, 90도 회전된 혹은 다른 방향에서), 그리고, 여기에서 사용되는 그런 공간적으로 상대적인 용어들은 그에 따라 해석된다.Spatially relative terms such as "below", "above", etc. may be used for descriptive purposes, thereby describing the relationship of one element or feature to another element(s) or feature(s) as shown in the figures. do. This is only used to indicate the relationship of one component to another component on the drawing, and does not mean an absolute position. For example, if the device shown in the figures is turned upside down, elements depicted as being “below” other elements or features will be positioned in a direction “above” the other elements or features. Thus, in one embodiment, the term “below” may include both directions of up and down. In addition, the device may be in other orientations (eg, rotated 90 degrees or in other orientations), and such spatially relative terms used herein are interpreted accordingly.
여기에서 사용된 용어는 특정한 실시예들을 설명하는 목적이고 제한하기 위한 목적이 아니다. 명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함"한다 고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다. 다른 정의가 없는 한, 여기에 사용된 용어들은 본 발명이 속하는 분야에서 통상적인 지식을 가진 자에게 일반적으로 이해되는 것과 같은 의미를 갖는다.Terminology used herein is for the purpose of describing specific embodiments and not for the purpose of limitation. Throughout the specification, when a part is said to "include" a certain component, it means that it may further include other components without excluding other components unless otherwise stated. Unless otherwise defined, terms used herein have the same meaning as commonly understood by one of ordinary skill in the art to which this invention belongs.
도 1은 본 발명의 일 실시예에 따른 뉴럴 네트워크를 개략적으로 나타내는 회로도이다.1 is a circuit diagram schematically illustrating a neural network according to an embodiment of the present invention.
도 1을 참조하면, 본 발명의 일 실시예에 따른 뉴럴 네트워크(neural network)는 입력 뉴런(10), 출력 뉴런(20), 및 가중치 셀(30)을 포함한다. 시냅스(30) 소자는 입력 뉴런(10)으로부터 수평으로 연장하는 로우 라인(R)(row lines) 및 출력 뉴런(20)으로부터 수직으로 연장하는 컬럼 라인(C)(column lines)의 교차점에 배치될 수 있다. 설명의 편의를 위해 도 1에는 예시적으로 각각 네 개의 입력 뉴런(10) 및 출력 뉴런(20)이 도시되었으나, 본 발명은 이에 한정되지 않는다.Referring to FIG. 1 , a neural network according to an embodiment of the present invention includes an
입력 뉴런(10)은 학습 모드(learning mode), 리셋 모드(reset mode), 보정 또는 읽기 모드(reading mode)에서 로우 라인(R)을 통하여 가중치 셀(30)로 전기적 펄스들(pulses)을 전송할 수 있다.The
출력 뉴런(20)은 학습 모드 또는 리셋 모드 또는 보정 또는 읽기 모드에서 컬럼 라인(C)을 통하여 가중치 셀(30)로부터 전기적 펄스를 수신할 수 있다.The
도 2는 본 발명의 일 실시예에 따른 저항 변화 메모리 교차 구조 어레이로 구현한 뉴럴 네트워크를 개략적으로 나타내는 회로도이다.2 is a circuit diagram schematically illustrating a neural network implemented with a resistive variable memory crossover structure array according to an embodiment of the present invention.
도 2를 참조하면, 본 발명의 실시예에 따른 뉴럴 네트워크는 교차 구조의 저항 변화 소자 어레이를 포함한다. 실시예로서, 저항 변화 소자 어레이는 입력, 출력 및 업데이트 로직을 더 포함할 수 있다. 실시예로서, 저항 변화 소자 어레이는 입력을 인가받거나 출력을 전달하고, 업데이트된 로직을 전달 받을 수 있다.Referring to FIG. 2 , a neural network according to an embodiment of the present invention includes a resistive change element array with a cross structure. As an example, the resistive change element array may further include input, output and update logic. As an example, the resistive change element array can accept inputs or deliver outputs and receive updated logic.
도 3은 본 발명의 일 실시예에 따른 다수의 가중치가 부여된 교차 구조 어레이 코어로 구성된 뉴럴 네트워크를 개략적으로 나타내는 회로도이다.3 is a circuit diagram schematically illustrating a neural network composed of a plurality of weighted cross-structured array cores according to an embodiment of the present invention.
도 3을 참조하면, 좌측에는 n2의 가중치가 부여된 교차 구조 어레이 코어(Core 3)가, 중앙에는 n의 가중치가 부여된 교차 구조 어레이 코어(Core 2)가, 우측에는 1의 가중치가 부여된 교차 구조 어레이 코어(Core 1)가 위치한다. Referring to FIG. 3, a cross-structured array core (Core 3) with a weight of n 2 is assigned to the left, a cross-structured array core (Core 2) to which a weight of n is assigned to the center, and a weight of 1 to the right. A cross-structured array core (Core 1) is located.
실시예로서, 본 발명의 실시예에 따른 뉴럴 네트워크에서는 Core 3로 갈수록 조절이 가능한 단위 가중치가 크고, Core 1으로 갈수록 조절이 가능한 단위 가중치가 작을 수 있다. 실시예로서, Core 1에서는 가중치의 세밀한 조정이 가능할 수 있다.As an example, in the neural network according to an embodiment of the present invention, unit weights adjustable toward
본 발명의 일 실시예에 따르면, 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크는 제1 저항 변화 소자 어레이와 제2 저항 변화 소자 어레이를 포함한다. 제1 저항 변화 소자 어레이는 제1 입력 라인, 제1 출력 라인, 및 제1 입력 라인과 제1 출력 라인 사이에 위치하는 제1 저항 변화 소자를 포함하고, 제2 저항 변화 소자 어레이는 제2 입력 라인, 제2 출력 라인, 및 제2 입력 라인과 제2 출력 라인 사이에 위치하는 제2 저항 변화 소자를 포함한다. 제1 저항 변화 소자의 가중치와 제2 저항 변화 소자의 가중치는 제1 저항 변화 소자의 단면의 면적과 제2 저항 변화 소자의 단면의 면적에 각각 비례하고, 제1 저항 변화 소자의 단면의 면적과 제2 저항 변화 소자의 단면의 면적은 상이하다. 실시예로서, 제1 저항 변화 소자의 단면의 면적은 상기 제2 저항 변화 소자의 단면의 면적의 10배일 수 있다. 실시예로서, 제1 저항 변화 소자와 제2 저항 변화 소자의 재료는 PCMO 물질, TiOx 물질, MoOx 물질, 및 WOx 물질 중 적어도 하나를 포함할 수 있다.According to one embodiment of the present invention, a neural network using weighted synapses based on a resistive memory array includes a first resistive change element array and a second resistive change element array. The first resistive change element array includes a first input line, a first output line, and a first resistive change element positioned between the first input line and the first output line, and the second resistive change element array includes a second input line. line, a second output line, and a second resistive change element positioned between the second input line and the second output line. The weight of the first resistance change element and the weight of the second resistance change element are proportional to the area of the cross section of the first resistance change element and the area of the cross section of the second resistance change element, respectively, and are proportional to the area of the cross section of the first resistance change element and The area of the cross section of the second resistance change element is different. As an example, the area of the cross section of the first resistance change element may be 10 times the area of the cross section of the second resistance change element. As an example, the material of the first resistance change element and the second resistance change element may include at least one of a PCMO material, a TiOx material, a MoOx material, and a WOx material.
본 발명의 일 실시예에 따르면, 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크는 제1 저항 변화 소자 어레이, 제2 저항 변화 소자 어레이 및 제3 저항 변화 소자 어레이를 포함한다. 제1 저항 변화 소자 어레이는 제1 입력 라인, 제1 출력 라인, 및 제1 입력 라인과 제1 출력 라인 사이에 위치하는 제1 저항 변화 소자를 포함하고, 제2 저항 변화 소자 어레이는 제2 입력 라인, 제2 출력 라인, 및 제2 입력 라인과 제2 출력 라인 사이에 위치하는 제2 저항 변화 소자를 포함하고, 제3 저항 변화 소자는 제3 입력 라인, 제3 출력 라인, 및 제3 입력 라인과 제3 출력 라인 사이에 위치하는 제3 저항 변화 소자를 포함한다. 제1 저항 변화 소자의 가중치와 제2 저항 변화 소자의 가중치와 제3 저항 변화 소자의 가중치는 제1 저항 변화 소자의 단면의 면적과 제2 저항 변화 소자의 단면의 면적과 제3 저항 변화 소자의 단면의 면적에 각각 비례하고, 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적과 상기 제3 저항 변화 소자의 단면의 면적은 서로 상이하다. 실시예로서, 제1 저항 변화 소자의 단면의 면적과 제2 저항 변화 소자의 단면의 면적과 제3 저항 변화 소자의 단면의 면적의 비율은 100:10:1일 수 있다. 실시예로서, 제1 저항 변화 소자와 제2 저항 변화 소자와 제3 저항 변화 소자의 재료는 PCMO 물질, TiOx 물질, MoOx 물질, 및 WOx 물질 중 적어도 하나를 포함할 수 있다.According to an embodiment of the present invention, a neural network using weighted synapses based on a resistive memory array includes a first resistive change element array, a second resistive change element array, and a third resistive change element array. The first resistive change element array includes a first input line, a first output line, and a first resistive change element positioned between the first input line and the first output line, and the second resistive change element array includes a second input line. line, a second output line, and a second resistive change element positioned between the second input line and the second output line, wherein the third resistive change element comprises a third input line, a third output line, and a third input line. and a third resistive change element positioned between the line and the third output line. The weight of the first resistive change element, the weight of the second resistive change element, and the weight of the third resistive change element are the ratio between the area of the cross section of the first resistive change element, the area of the cross section of the second resistive change element and the area of the cross section of the third resistive change element. Each is proportional to the area of the cross section, and the area of the cross section of the first resistance change element, the area of the cross section of the second resistance change element, and the area of the cross section of the third resistance change element are different from each other. As an example, the ratio of the area of the cross section of the first resistance change element to the area of the cross section of the second resistance change element and the area of the cross section of the third resistance change element may be 100:10:1. As an example, the material of the first resistance change element, the second resistance change element, and the third resistance change element may include at least one of a PCMO material, a TiOx material, a MoOx material, and a WOx material.
도 4는 본 발명의 일 실시예에 따른 뉴럴 네트워크의 3개의 메모리 소자로 구성된 가중 시냅스가 표현할 수 있는 전도도의 단계를 보여주는 도면이다.FIG. 4 is a diagram showing the levels of conductivity that can be expressed by a weighted synapse composed of three memory elements of a neural network according to an embodiment of the present invention.
도 4를 참조하면, 좌측에는 도 3의 Core 3에 대응하는 n2의 가중치가 부여된 메모리 소자의 가중 시냅스가 표현할 수 있는 전도도의 단계가, 중앙에는 Core 2에 대응하는 n의 가중치가 부여된 메모리 소자의 가중 시냅스가 표현할 수 있는 전도도의 단계가, 우측에는 Core 1에 대응하는 1의 가중치가 부여된 메모리 소자의 가중 시냅스가 표현할 수 있는 전도도의 단계가 표현된다. 실시예로서, n이 10인 경우를 예로 설명하면, 좌측의 가중 시냅스는 100에서 1000의 가중치를 100의 단위로 표현할 수 있고, 중앙의 가중 시냅스는 10에서 100의 가중치를 10의 단위로 표현할 수 있고, 우측의 가중 시냅스는 1에서 10의 가중치를 1의 단위로 표현할 수 있다. 따라서, 3개의 메모리 소자로 구성된 가중 시냅스는 1에서 1000까지를 1의 단위로 표현할 수 있다.Referring to FIG. 4, on the left side is a conductivity step that can be expressed by a weighted synapse of a memory device to which a weight of n 2 corresponding to
도 5 및 도 6은 본 발명의 일 실시예에 따른 뉴럴 네트워크의 단위 소자에 가중치를 면적으로 배당할 수 있는 계면 반응성 저항 변화 메모리의 일 예를 보여주는 도면이다.5 and 6 are diagrams showing an example of an interface reactive resistance change memory capable of allocating a weight by area to unit elements of a neural network according to an embodiment of the present invention.
도 5를 참조하면, 도 4의 3개의 메모리 소자로 구성된 가중 시냅스에서 각 메모리 소자에 부여된 가중치를 저항 변화 소자의 면적으로 대응시켜 전도도를 측정한 실측 데이터를 확인할 수 있다.Referring to FIG. 5 , in the weighted synapse composed of three memory devices of FIG. 4 , it is possible to check actual measurement data obtained by measuring conductivity by correlating weights assigned to each memory device to an area of a resistive change device.
도 6을 참조하면, 도 4의 3개의 메모리 소자로 구성된 가중 시냅스에서 각 메모리 소자에 부여된 가중치를 저항 변화 소자의 면적으로 대응시켜 표현한 도면을 확인할 수 있다. Referring to FIG. 6 , in the weighted synapse composed of three memory devices shown in FIG. 4 , a diagram in which a weight assigned to each memory device is corresponded to an area of a resistive change device can be seen.
도 7은 본 발명의 일 실시예에 따른 뉴럴 네트워크에서 저항 변화 소자의 면적에 따라 정비례하게 증가하는 전도도를 보여주는 그래프이다. 도 8은 본 발명의 일 실시예에 따른 뉴럴 네트워크에서 저항 변화 소자의 10단계의 전도도를 보여주는 그래프이다. 도 9는 본 발명의 일 실시예에 따른 뉴럴 네트워크에서 10단계의 가중치를 가지는 저항 변화 소자 3개로 구현한 1000 단계의 전도도를 보여주는 그래프이다.7 is a graph showing conductivity that increases in direct proportion to the area of a resistive change element in a neural network according to an embodiment of the present invention. 8 is a graph showing conductivities of 10 stages of a resistive change element in a neural network according to an embodiment of the present invention. 9 is a graph showing conductivities of 1000 steps implemented by three resistive change elements having weights of 10 steps in a neural network according to an embodiment of the present invention.
도 7 내지 도 9를 참조하면, 본 발명의 실시예에 따른 뉴럴 네트워크는 저항 변화 소자 어레이를 포함하고, 저항 변화 소자 어레이는 제1 입력 라인, 제2 입력 라인, 제1 출력 라인, 제1 저항 변화 소자 및 제2 저항 변화 소자를 포함한다. 제1 저항 변화 소자는 제1 입력 라인과 제1 출력 라인 사이에 위치하고, 제2 저항 변화 소자는 제2 입력 라인과 제1 출력 라인 사이에 위치한다. 제1 저항 변화 소자의 가중치와 제2 저항 변화 소자의 가중치는 제1 저항 변화 소자의 단면의 면적과 제2 저항 변화 소자의 단면의 면적에 각각 비례하고, 제1 저항 변화 소자의 단면의 면적과 제2 저항 변화 소자의 단면의 면적은 상이하다. 실시예로서, 제1 저항 변화 소자의 단면의 면적은 제2 저항 변화 소자의 단면의 면적의 10배일 수 있다. 실시예로서, 제1 저항 변화 소자와 제2 저항 변화 소자의 재료는 PCMO 물질, TiOx 물질, MoOx 물질, 및 WOx 물질 중 적어도 하나를 포함할 수 있다. 실시예로서, 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크는 2개의 저항 변화 소자로 구성되어 가중치를 1에서 100까지 1의 단위로 표현할 수 있다.7 to 9 , a neural network according to an embodiment of the present invention includes a resistive change element array, and the resistive change element array includes a first input line, a second input line, a first output line, and a first resistor. A change element and a second resistive change element are included. The first resistive change element is positioned between the first input line and the first output line, and the second resistive change element is positioned between the second input line and the first output line. The weight of the first resistance change element and the weight of the second resistance change element are proportional to the area of the cross section of the first resistance change element and the area of the cross section of the second resistance change element, respectively, and are proportional to the area of the cross section of the first resistance change element and The area of the cross section of the second resistance change element is different. As an example, the area of the cross section of the first resistance change element may be 10 times the area of the cross section of the second resistance change element. As an example, the material of the first resistance change element and the second resistance change element may include at least one of a PCMO material, a TiOx material, a MoOx material, and a WOx material. As an embodiment, a neural network using a weighted synapse based on a resistance variable memory array may be composed of two resistance variable elements and express weights in units of 1 from 1 to 100.
본 발명의 일 실시예에 따르면, 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크는 저항 변화 소자 어레이를 포함하고, 저항 변화 소자 어레이는 제1 입력 라인, 제2 입력 라인, 제3 입력 라인, 제1 출력 라인, 제1 저항 변화 소자, 제2 저항 변화 소자 및 제3 저항 변화 소자를 포함한다. 제1 저항 변화 소자는 제1 입력 라인과 제1 출력 라인 사이에 위치하고, 제2 저항 변화 소자는 제2 입력 라인과 제1 출력 라인 사이에 위치하고, 제3 저항 변화 소자는 제3 입력 라인과 제1 출력 라인 사이에 위치한다. 제1 저항 변화 소자의 가중치와 제2 저항 변화 소자의 가중치와 제3 저항 변화 소자의 가중치는 제1 저항 변화 소자의 단면의 면적과 제2 저항 변화 소자의 단면의 면적과 제3 저항 변화 소자의 단면의 면적에 각각 비례하고, 제1 저항 변화 소자의 단면의 면적과 제2 저항 변화 소자의 단면의 면적과 제3 저항 변화 소자의 단면의 면적은 서로 상이하다. 실시예로서, 제1 저항 변화 소자의 단면의 면적과 제2 저항 변화 소자의 단면의 면적과 제3 저항 변화 소자의 단면의 면적의 비율은 100:10:1일 수 있다. 실시예로서, 제1 저항 변화 소자와 제2 저항 변화 소자와 제3 저항 변화 소자의 재료는 PCMO 물질, TiOx 물질, MoOx 물질, 및 WOx 물질 중 적어도 하나를 포함할 수 있다. 실시예로서, 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크는 3개의 저항 변화 소자로 구성되어 가중치를 1에서 1000까지 1의 단위로 표현할 수 있다.According to an embodiment of the present invention, a neural network using weighted synapses based on a resistive memory array includes a resistive change element array, wherein the resistive change element array includes a first input line, a second input line, a third input line, It includes a first output line, a first resistive change element, a second resistive change element and a third resistive change element. The first resistive change element is positioned between the first input line and the first output line, the second resistive change element is positioned between the second input line and the first output line, and the third resistive change element is positioned between the third input line and the first output line. 1 located between the output lines. The weight of the first resistive change element, the weight of the second resistive change element, and the weight of the third resistive change element are the ratio between the area of the cross section of the first resistive change element, the area of the cross section of the second resistive change element and the area of the cross section of the third resistive change element. Each is proportional to the area of the cross section, and the area of the cross section of the first resistive change element, the area of the cross section of the second resistive change element, and the area of the cross section of the third resistive change element are different from each other. As an example, the ratio of the area of the cross section of the first resistance change element to the area of the cross section of the second resistance change element and the area of the cross section of the third resistance change element may be 100:10:1. As an example, the material of the first resistance change element, the second resistance change element, and the third resistance change element may include at least one of a PCMO material, a TiOx material, a MoOx material, and a WOx material. As an embodiment, a neural network using a weighted synapse based on a resistance variable memory array is composed of three resistance variable elements and may express weights in units of 1 from 1 to 1000.
전술한 바와 같은 본 발명의 실시예들에 따르면, 본 발명의 실시예에 따른 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크는, 단일 저항 변화 소자에 가중치를 두어 총 시냅스가 가질수 있는 전도도의 단계를 세밀화 시킴으로써, 인공 신경망 하드웨어 학습 및 추론 시 에너지 효율성과 정확도 향상을 극대화 할 수 있다. 또한, 전도도의 단계와 내재적인 산포 측면에서 한계를 갖고 있는 저항 변화 소자를 사용하여 가중 시냅스를 구성함으로써, 시스템의 에너지 효율 및 성능 향상을 할 수 있다.According to the embodiments of the present invention as described above, a neural network using weighted synapses based on a resistance change memory array according to an embodiment of the present invention puts a weight on a single resistance change element to determine the level of conductivity that a total synapse can have By refining, it is possible to maximize energy efficiency and accuracy improvement during artificial neural network hardware learning and inference. In addition, energy efficiency and performance of the system can be improved by constructing a weighted synapse using a resistive change element having limitations in terms of conductivity level and intrinsic distribution.
이상과 같이 본 발명에서는 구체적인 구성 요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다.As described above, the present invention has been described by specific details such as specific components and limited embodiments and drawings, but these are provided to help a more general understanding of the present invention, and the present invention is not limited to the above embodiments. , Those skilled in the art in the field to which the present invention belongs can make various modifications and variations from these descriptions.
따라서, 본 발명의 사상은 설명된 실시예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등하거나 등가적 변형이 있는 모든 것들은 본 발명 사상의 범주에 속한다고 할 것이다.Therefore, the spirit of the present invention should not be limited to the described embodiments, and it will be said that not only the claims to be described later, but also all modifications equivalent or equivalent to these claims belong to the scope of the present invention. .
10: 입력 뉴런 20: 출력 뉴런
30: 가중치 셀10: input neuron 20: output neuron
30: weight cell
Claims (16)
제2 입력 뉴런으로부터 수평으로 연장하는 제2 입력 라인, 제2 출력 뉴런으로부터 수직으로 연장하되 상기 제1 입력 라인과 직교하는 제2 출력 라인, 및 상기 제2 입력 라인과 상기 제2 출력 라인의 교차점에 위치하는 제2 저항 변화 소자를 포함하는 제2 저항 변화 소자 어레이를 포함하되,
상기 제1 저항 변화 소자의 가중치와 상기 제2 저항 변화 소자의 가중치는 상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적에 각각 비례하고,
상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적은 상이한 것이되,
상기 제1 저항 변화 소자 및 상기 제2 저항 변화 소자는 뉴럴 네트워크에 가중치를 면적으로 배당하는 계면 반응성 저항 변화 메모리이고, 상기 제1 저항 변화 소자 및 상기 제2 저항 변화 소자의 단면의 면적은 상기 제1 저항 변화 소자 및 상기 제2 저항 변화 소자의 전도도와 각각 정비례하고, 상기 가중치는 상기 제1 저항 변화 소자 및 상기 제2 저항 변화 소자를 통해 제공되는 전도도의 단계에 대응하고,
상기 제1 저항 변화 소자의 단면의 면적은 상기 제2 저항 변화 소자의 단면의 면적의 n배이고, 상기 n은 자연수이되,
상기 뉴럴 네트워크는,
n2개의 상기 전도도의 단계에 대응하고, 상기 제2저항 변화 소자의 상기 전도도의 단계에 대응하는 단위 가중치를 최소 단위로 하는 상기 가중치로 전기적 펄스를 전달 가능한 것인, 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크.A first input line extending horizontally from a first input neuron, a first output line extending vertically from a first output neuron and orthogonal to the first input line, and an intersection of the first input line and the first output line. a first resistance change element array including a first resistance change element positioned on the; and
A second input line extending horizontally from a second input neuron, a second output line extending vertically from a second output neuron and orthogonal to the first input line, and an intersection of the second input line and the second output line. Including a second resistive change element array including a second resistive change element located on,
The weight of the first resistance change element and the weight of the second resistance change element are proportional to the area of the cross section of the first resistance change element and the area of the cross section of the second resistance change element, respectively;
The area of the cross section of the first resistance change element and the area of the cross section of the second resistance change element are different,
The first resistance change element and the second resistance change element are interface-reactive resistance change memories for allocating a weight to an area in a neural network, and the areas of the cross sections of the first resistance change element and the second resistance change element are the first resistance change element and the second resistance change element. 1 is directly proportional to the conductivity of the resistive change element and the second resistive change element, respectively, and the weight corresponds to a step of the conductivity provided through the first resistive change element and the second resistive change element;
The area of the cross section of the first resistance change element is n times the area of the cross section of the second resistance change element, where n is a natural number,
The neural network,
Weighting based on a resistance change memory array, which corresponds to n 2 of the conductivity levels and is capable of transmitting an electrical pulse to the weight having a unit weight corresponding to the conductivity level of the second resistive change element as a minimum unit. Neural networks using synapses.
상기 n은 10인 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크.According to claim 1,
A neural network using a weighted synapse based on a resistance change memory array in which n is 10.
상기 제1 저항 변화 소자와 상기 제2 저항 변화 소자의 재료는 금속산화물을 포함하는 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크.According to claim 1,
A neural network using weighted synapses based on a resistance change memory array in which the material of the first resistive change element and the second resistive change element includes a metal oxide.
상기 금속산화물은 PCMO 물질, TiOx 물질, MoOx 물질, 및 WOx 물질 중 적어도 하나를 포함하는 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크.According to claim 4,
The metal oxide is a neural network using weighted synapses based on a resistance change memory array including at least one of a PCMO material, a TiOx material, a MoOx material, and a WOx material.
제2 입력 뉴런으로부터 수평으로 연장하는 제2 입력 라인, 제2 출력 뉴런으로부터 수직으로 연장하되 상기 제2 입력 라인과 직교하는 제2 출력 라인, 및 상기 제2 입력 라인과 상기 제2 출력 라인의 교차점에 위치하는 제2 저항 변화 소자를 포함하는 제2 저항 변화 소자 어레이; 및
제3 입력 뉴런으로부터 수평으로 연장하는 제3 입력 라인, 제3 출력 뉴런으로부터 수직으로 연장하되 상기 제3 입력 라인과 직교하는 제3 출력 라인, 및 상기 제3 입력 라인과 상기 제3 출력 라인의 교차점에 위치하는 제3 저항 변화 소자를 포함하는 제3 저항 변화 소자 어레이를 포함하되,
상기 제1 저항 변화 소자의 가중치와 상기 제2 저항 변화 소자의 가중치와 상기 제3 저항 변화 소자의 가중치는 상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적과 상기 제3 저항 변화 소자의 단면의 면적에 각각 비례하고,
상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적과 상기 제3 저항 변화 소자의 단면의 면적은 서로 상이한 것이되,
상기 제1 저항 변화 소자 내지 상기 제3 저항 변화 소자는 뉴럴 네트워크에 가중치를 면적으로 배당하는 계면 반응성 저항 변화 메모리이고, 상기 제1 저항 변화 소자 내지 상기 제3 저항 변화 소자의 단면의 면적은 상기 제1 저항 변화 소자 내지 상기 제3 저항 변화 소자의 전도도와 각각 정비례하고, 상기 가중치는 상기 제1 저항 변화 소자 내지 상기 제3 저항 변화 소자를 통해 제공되는 전도도의 단계에 대응하고,
상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적과 상기 제3 저항 변화 소자의 단면의 면적의 비율은 n2:n:1이고, 상기 n은 자연수이되,
상기 뉴럴 네트워크는,
n³개의 상기 전도도의 단계에 대응하고, 상기 제3저항 변화 소자의 상기 전도도의 단계에 대응하는 단위 가중치를 최소 단위로 하는 상기 가중치로 전기적 펄스를 전달 가능한 것인, 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크.A first input line extending horizontally from a first input neuron, a first output line extending vertically from a first output neuron and orthogonal to the first input line, and an intersection of the first input line and the first output line. a first resistance change element array including a first resistance change element positioned on the;
A second input line extending horizontally from a second input neuron, a second output line extending vertically from a second output neuron and orthogonal to the second input line, and an intersection of the second input line and the second output line. a second resistance change element array including a second resistance change element positioned on the; and
A third input line extending horizontally from a third input neuron, a third output line extending vertically from a third output neuron and orthogonal to the third input line, and an intersection of the third input line and the third output line. Including a third resistance change element array including a third resistance change element located in,
The weight of the first resistance change element, the weight of the second resistance change element, and the weight of the third resistance change element are the area of the cross section of the first resistance change element and the area of the cross section of the second resistance change element. Proportional to the area of the cross section of the third resistance change element, respectively;
The area of the cross section of the first resistance change element, the area of the cross section of the second resistance change element and the area of the cross section of the third resistance change element are different from each other,
The first resistance change element to the third resistance change element are interface-reactive resistance change memories for allocating a weight to an area in a neural network, and the area of a cross section of the first resistance change element to the third resistance change element is the first resistance change element to the third resistance change element. 1 resistive change element to the third resistive change element are directly proportional to the conductivity, respectively, and the weight corresponds to a step of the conductivity provided through the first resistive change element to the third resistive change element;
The ratio of the area of the cross section of the first resistive change element to the area of the cross section of the second resistive change element and the area of the cross section of the third resistive change element is n 2 :n:1, where n is a natural number,
The neural network,
A weighted synapse based on a resistance change memory array capable of transmitting an electrical pulse to the weight corresponding to the n³ of the conductivity levels and having a unit weight corresponding to the conductivity level of the third resistive change element as a minimum unit. Neural network using .
상기 n은 10인 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크.According to claim 6,
A neural network using a weighted synapse based on a resistance change memory array in which n is 10.
상기 제1 저항 변화 소자의 가중치와 상기 제2 저항 변화 소자의 가중치는 상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적에 각각 비례하고,
상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적은 상이한 것이되,
상기 제1 저항 변화 소자 및 상기 제2 저항 변화 소자는 뉴럴 네트워크에 가중치를 면적으로 배당하는 계면 반응성 저항 변화 메모리이고, 상기 제1 저항 변화 소자 및 상기 제2 저항 변화 소자의 단면의 면적은 상기 제1 저항 변화 소자 및 상기 제2 저항 변화 소자의 전도도와 각각 정비례하고, 상기 가중치는 상기 제1 저항 변화 소자 및 상기 제2 저항 변화 소자를 통해 제공되는 전도도의 단계에 대응하고,
상기 제1 저항 변화 소자의 단면의 면적은 상기 제2 저항 변화 소자의 단면의 면적의 n배이고, 상기 n은 자연수이되,
상기 뉴럴 네트워크는,
n2개의 상기 전도도의 단계에 대응하고, 상기 제2저항 변화 소자의 상기 전도도의 단계에 대응하는 단위 가중치를 최소 단위로 하는 상기 가중치로 전기적 펄스를 전달 가능한 것인, 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크.A first input line extending horizontally from a first input neuron, a second input line extending horizontally from a second input neuron, extending vertically from a first output neuron and orthogonal to the first input line and the second input line. a first output line, a first resistance change element located at the intersection of the first input line and the first output line, and a second resistance change element located at the intersection of the second input line and the first output line. Including a resistive change element array comprising a,
The weight of the first resistance change element and the weight of the second resistance change element are proportional to the area of the cross section of the first resistance change element and the area of the cross section of the second resistance change element, respectively;
The area of the cross section of the first resistance change element and the area of the cross section of the second resistance change element are different,
The first resistance change element and the second resistance change element are interface-reactive resistance change memories for allocating a weight to an area in a neural network, and the areas of the cross sections of the first resistance change element and the second resistance change element are the first resistance change element and the second resistance change element. 1 is directly proportional to the conductivity of the resistive change element and the second resistive change element, respectively, and the weight corresponds to a step of the conductivity provided through the first resistive change element and the second resistive change element;
The area of the cross section of the first resistance change element is n times the area of the cross section of the second resistance change element, where n is a natural number,
The neural network,
Weighting based on a resistance change memory array, which corresponds to n 2 of the conductivity levels and is capable of transmitting an electrical pulse to the weight having a unit weight corresponding to the conductivity level of the second resistive change element as a minimum unit. Neural networks using synapses.
상기 n은 10인 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크.According to claim 9,
A neural network using a weighted synapse based on a resistance change memory array in which n is 10.
상기 제1 저항 변화 소자와 상기 제2 저항 변화 소자의 재료는 금속산화물을 포함하는 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크.According to claim 9,
A neural network using weighted synapses based on a resistance change memory array in which the material of the first resistive change element and the second resistive change element includes a metal oxide.
상기 금속산화물은 PCMO 물질, TiOx 물질, MoOx 물질, 및 WOx 물질 중 적어도 하나를 포함하는 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크.According to claim 12,
The metal oxide is a neural network using weighted synapses based on a resistance change memory array including at least one of a PCMO material, a TiOx material, a MoOx material, and a WOx material.
상기 제1 저항 변화 소자의 가중치와 상기 제2 저항 변화 소자의 가중치와 상기 제3 저항 변화 소자의 가중치는 상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적과 상기 제3 저항 변화 소자의 단면의 면적에 각각 비례하고,
상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적과 상기 제3 저항 변화 소자의 단면의 면적은 서로 상이한 것이되,
상기 제1 저항 변화 소자 내지 상기 제3 저항 변화 소자는 뉴럴 네트워크에 가중치를 면적으로 배당하는 계면 반응성 저항 변화 메모리이고, 상기 제1 저항 변화 소자 내지 상기 제3 저항 변화 소자의 단면의 면적은 상기 제1 저항 변화 소자 내지 상기 제3 저항 변화 소자의 전도도와 각각 정비례하고, 상기 가중치는 상기 제1 저항 변화 소자 내지 상기 제3 저항 변화 소자를 통해 제공되는 전도도의 단계에 대응하고,
상기 제1 저항 변화 소자의 단면의 면적과 상기 제2 저항 변화 소자의 단면의 면적과 상기 제3 저항 변화 소자의 단면의 면적의 비율은 n2:n:1이고, 상기 n은 자연수이되,
상기 뉴럴 네트워크는,
n³개의 상기 전도도의 단계에 대응하고, 상기 제3저항 변화 소자의 상기 전도도의 단계에 대응하는 단위 가중치를 최소 단위로 하는 상기 가중치로 전기적 펄스를 전달 가능한 것인, 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크.A first input line extending horizontally from a first input neuron, a second input line extending horizontally from a second input neuron, a third input line extending horizontally from a third input neuron, a first output line, the first A first resistance change element extending vertically from an input line and a first output neuron and positioned at an intersection of the first output line perpendicular to the first input line, the second input line, and the third input line; A resistive change element array including a second resistive change element positioned at the intersection of 2 input lines and the first output line, and a third resistive change element positioned at the intersection of the third input line and the first output line. include,
The weight of the first resistance change element, the weight of the second resistance change element, and the weight of the third resistance change element are the area of the cross section of the first resistance change element and the area of the cross section of the second resistance change element. Each is proportional to the area of the cross section of the third resistance change element,
The area of the cross section of the first resistance change element, the area of the cross section of the second resistance change element and the area of the cross section of the third resistance change element are different from each other,
The first resistance change element to the third resistance change element are interface-reactive resistance change memories for allocating a weight to an area in a neural network, and the area of a cross section of the first resistance change element to the third resistance change element is the first resistance change element to the third resistance change element. 1 resistive change element to the third resistive change element are directly proportional to the conductivity, respectively, and the weight corresponds to a step of the conductivity provided through the first resistive change element to the third resistive change element;
The ratio of the area of the cross section of the first resistive change element to the area of the cross section of the second resistive change element and the area of the cross section of the third resistive change element is n 2 :n:1, where n is a natural number,
The neural network,
A weighted synapse based on a resistance change memory array capable of transmitting an electrical pulse to the weight corresponding to n³ of the conductivity levels and having a unit weight corresponding to the conductivity level of the third resistive change element as a minimum unit. Neural network using .
상기 n은 10인 저항 변화 메모리 어레이 기반의 가중 시냅스를 이용한 뉴럴 네트워크.According to claim 14,
A neural network using a weighted synapse based on a resistance change memory array in which n is 10.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020200074862A KR102504522B1 (en) | 2020-06-19 | 2020-06-19 | Neural network using weighted synapse based on resistive random access memory array |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020200074862A KR102504522B1 (en) | 2020-06-19 | 2020-06-19 | Neural network using weighted synapse based on resistive random access memory array |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20210157049A KR20210157049A (en) | 2021-12-28 |
| KR102504522B1 true KR102504522B1 (en) | 2023-02-27 |
Family
ID=79178075
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020200074862A KR102504522B1 (en) | 2020-06-19 | 2020-06-19 | Neural network using weighted synapse based on resistive random access memory array |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102504522B1 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102650005B1 (en) * | 2022-04-15 | 2024-03-22 | 국민대학교 산학협력단 | Memory device, operating method of the memory device, and memory system including the same |
| KR20230149141A (en) * | 2022-04-19 | 2023-10-26 | 포항공과대학교 산학협력단 | Apparatus and method for learning artificial intelligence for edge device using resistive element, analysis apparatus and method using the same |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101811108B1 (en) * | 2015-12-16 | 2017-12-26 | 포항공과대학교 산학협력단 | Using Insulator-metal transition electronic neuron High density neuromorphic system and High density neuromorphic system curcuit |
| KR102577592B1 (en) * | 2015-12-30 | 2023-09-14 | 에스케이하이닉스 주식회사 | Neuromorphic device |
| KR20180090560A (en) * | 2017-02-03 | 2018-08-13 | 에스케이하이닉스 주식회사 | Neuromorphic Device Including A Synapse Having a Plurality of Synapse Cells |
| KR20200069901A (en) * | 2018-12-07 | 2020-06-17 | 삼성전자주식회사 | A method for slicing a neural network and a neuromorphic apparatus |
-
2020
- 2020-06-19 KR KR1020200074862A patent/KR102504522B1/en active IP Right Grant
Also Published As
| Publication number | Publication date |
|---|---|
| KR20210157049A (en) | 2021-12-28 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Wijesinghe et al. | An all-memristor deep spiking neural computing system: A step toward realizing the low-power stochastic brain | |
| KR102504522B1 (en) | Neural network using weighted synapse based on resistive random access memory array | |
| Sejnowski et al. | Learning symmetry groups with hidden units: Beyond the perceptron | |
| Osman et al. | A solution to the optimal power flow using genetic algorithm | |
| Hu et al. | Hardware realization of BSB recall function using memristor crossbar arrays | |
| Hagh et al. | Probabilistic load flow using the particle swarm optimisation clustering method | |
| Daqaq et al. | A new meta-heuristic programming for multi-objective optimal power flow | |
| Wang et al. | SOC estimation algorithm of power lithium battery based on AFSA‐BP neural network | |
| Fischl et al. | Screening power system contingencies using a back-propagation trained multiperceptron | |
| Mosavi et al. | Sonar data set classification using MLP neural network trained by non-linear migration rates BBO | |
| Hajizadeh et al. | Node deployment in wireless sensor networks using the new multi‐objective Levy flight bee algorithm | |
| CN108171322A (en) | A kind of Learning Algorithm based on particle group optimizing | |
| AU622712B2 (en) | Cellular network assignment processor using randomly triggered adaptive cell thresholds | |
| Zhang et al. | Synthesis of uniformly excited sparse rectangular planar array for sidelobe suppression using multi‐objective optimisation algorithm | |
| Wang et al. | Anti-synchronization control of BAM memristive neural networks with multiple proportional delays and stochastic perturbations | |
| Soltany Mahboob et al. | Automatic and heuristic complete design for ANFIS classifier | |
| Guo et al. | Skewed normal cloud modified whale optimization algorithm for degree reduction of S-λ curves | |
| CN117273109A (en) | Quantum neuron-based hybrid neural network construction method and device | |
| Dhahri et al. | Opposition-based differential evolution for beta basis function neural network | |
| Lo et al. | Application of Kohonen self-organising neural network to static security assessment | |
| Almonacid et al. | Selecting a biodiversity conservation area with a limited budget using the binary African buffalo optimisation algorithm | |
| Dash et al. | Maximization of system load-ability and voltage stability index using distribution based salp swarm optimization | |
| Wennmyr | A convex hull algorithm for neural networks | |
| Zhu et al. | Solution to alleviate the impact of line resistance on the crossbar array | |
| Mahmudy et al. | Genetic algorithmised neuro fuzzy system for forecasting the online journal visitors |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |