KR20200015300A - Apparatus and method for determining neural network feature vector - Google Patents

Apparatus and method for determining neural network feature vector Download PDF

Info

Publication number
KR20200015300A
KR20200015300A KR1020180090946A KR20180090946A KR20200015300A KR 20200015300 A KR20200015300 A KR 20200015300A KR 1020180090946 A KR1020180090946 A KR 1020180090946A KR 20180090946 A KR20180090946 A KR 20180090946A KR 20200015300 A KR20200015300 A KR 20200015300A
Authority
KR
South Korea
Prior art keywords
feature
feature vector
neural network
input
function
Prior art date
Application number
KR1020180090946A
Other languages
Korean (ko)
Other versions
KR102183305B1 (en
Inventor
윤명근
정성민
Original Assignee
국민대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 국민대학교산학협력단 filed Critical 국민대학교산학협력단
Priority to KR1020180090946A priority Critical patent/KR102183305B1/en
Publication of KR20200015300A publication Critical patent/KR20200015300A/en
Application granted granted Critical
Publication of KR102183305B1 publication Critical patent/KR102183305B1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology

Abstract

The present invention relates to a neural network feature vector determination apparatus and method. The neural network feature vector determination apparatus comprises: an input array generation part analyzing content to generate a plurality of input arrays; a feature element determination part determining first and second feature elements by applying first and second feature functions to each of the plurality of input arrays; and a feature vector generation part determining one of the first and second feature elements and updating a feature vector with a final feature element. Therefore, the present invention can generate the feature vector used for neural network learning by reflecting details of the content.

Description

신경망 피처 벡터 결정 장치 및 방법{APPARATUS AND METHOD FOR DETERMINING NEURAL NETWORK FEATURE VECTOR}Apparatus and method for determining neural network feature vectors {APPARATUS AND METHOD FOR DETERMINING NEURAL NETWORK FEATURE VECTOR}

본 발명은 신경망 피처 벡터 결정 기술에 관한 것으로, 보다 상세하게는 컨텐츠의 내용을 반영하여 신경망 학습에 사용되는 피처 벡터를 생성할 수 있는 신경망 피처 벡터 결정 장치 및 방법에 관한 것이다.The present invention relates to a neural network feature vector determination technique, and more particularly, to a neural network feature vector determination apparatus and method that can generate a feature vector used for neural network learning by reflecting the content of the content.

해시 함수(hash function)는 임의의 길이의 데이터를 고정된 길이의 데이터로 매핑하는 함수이다. 해시 함수는 해시 테이블이라는 자료구조에 사용될 수 있고, 매우 빠른 데이터 검색을 위한 컴퓨터 소프트웨어에 널리 사용될 수 있다. 해시 함수는 큰 파일에서 중복되는 레코드를 찾을 수 있기 때문에 데이터베이스 검색이나 테이블 검색의 속도를 가속할 수 있다. A hash function is a function that maps data of arbitrary length to data of fixed length. Hash functions can be used in data structures called hash tables and can be widely used in computer software for very fast data retrieval. Hash functions can speed up database searches or table searches by finding duplicate records in large files.

피처 벡터(feature vector)는 분석 대상이 되는 컨텐츠의 특징 정보를 포함하는 차원을 가진 벡터에 해당할 수 있다. 컨텐츠에 따라 피처 벡터를 정의할 수 있고, 피처 벡터를 생성하는 알고리즘이 달라질 수 있다. 일반적으로, 해시 함수를 이용하여 생성된 피처 벡터는 내용의 출현빈도(frequency)를 기초로 하기 때문에 본질적인 특징 정보가 손실되는 문제점을 가지고 있다.The feature vector may correspond to a vector having a dimension including feature information of content to be analyzed. A feature vector may be defined according to content, and an algorithm for generating the feature vector may vary. In general, feature vectors generated by using a hash function have a problem in that essential feature information is lost because they are based on a frequency of contents.

한국등록특허 제10-0729107(2007.06.08)호Korea Patent Registration No. 10-0729107 (2007.06.08)

본 발명의 일 실시예는 컨텐츠의 내용을 반영하여 신경망 학습에 사용되는 피처 벡터를 생성할 수 있는 신경망 피처 벡터 결정 장치 및 방법을 제공하고자 한다.An embodiment of the present invention is to provide a neural network feature vector determination apparatus and method that can generate a feature vector used for neural network learning by reflecting the content of the content.

본 발명의 일 실시예는 서로 다른 제1 및 제2 특징 함수들을 적용하여 산출된 제1 및 제2 피처 요소들 중에서 더 큰 값을 결정하여 피처 벡터를 생성할 수 있는 신경망 피처 벡터 결정 장치 및 방법을 제공하고자 한다.An embodiment of the present invention is an apparatus and method for determining neural network feature vectors capable of generating a feature vector by determining a larger value among first and second feature elements calculated by applying different first and second feature functions. To provide.

본 발명의 일 실시예는 경계 상수를 통해 특정 범위 값을 가지는 제2 피처 요소를 피처 벡터 생성에 활용함으로써 피처 벡터에 내용 기반의 특징 정보를 반영할 수 있는 신경망 피처 벡터 결정 장치 및 방법을 제공하고자 한다.An embodiment of the present invention to provide a neural network feature vector determination apparatus and method that can reflect the content-based feature information in the feature vector by utilizing the second feature element having a specific range value through the boundary constant in the feature vector generation do.

실시예들 중에서, 신경망 피처 벡터 결정 장치는 컨텐츠를 분석하여 복수의 입력 어레이들을 생성하는 입력 어레이 생성부, 상기 복수의 입력 어레이들 각각에 관해 제1 및 제2 특징 함수들을 적용하여 제1 및 제2 피처 요소들을 결정하는 피처 요소 결정부 및 상기 제1 및 제2 피처 요소들 중 하나를 결정하여 최종 피처 요소로 피처 벡터를 갱신하는 피처 벡터 생성부를 포함한다.Among the embodiments, the neural network feature vector determining apparatus may further include an input array generator configured to analyze content to generate a plurality of input arrays, and to apply first and second feature functions to each of the plurality of input arrays. A feature element determiner for determining two feature elements and a feature vector generator for determining one of the first and second feature elements and updating the feature vector with the final feature element.

상기 입력 어레이 생성부는 상기 컨텐츠를 구성하는 메타데이터, 텍스트, 영상 및 사운드 중 적어도 하나를 기초로 상기 복수의 입력 어레이들을 생성할 수 있다.The input array generator may generate the plurality of input arrays based on at least one of metadata, text, video, and sound constituting the content.

상기 피처 요소 결정부는 입력 어레이에 상기 제1 특징 함수를 적용하여 피처 인덱스를 결정하고 상기 피처 인덱스와 연관된 제1 피처 요소를 결정할 수 있다.The feature element determiner may determine a feature index by applying the first feature function to an input array, and determine a first feature element associated with the feature index.

상기 피처 요소 결정부는 상기 입력 어레이에 상기 제1 특징 함수를 적용하여 n차원(상기 n은 2이상인 자연수) 피처 인덱스를 결정할 수 있다.The feature element determiner may determine an n-dimensional (n is a natural number of 2 or more) feature index by applying the first feature function to the input array.

상기 피처 요소 결정부는 입력 어레이에 상기 제2 특징 함수를 적용하여 특정 범위를 갖는 상기 제2 피처 요소를 결정할 수 있다.The feature element determiner may determine the second feature element having a specific range by applying the second feature function to an input array.

상기 피처 요소 결정부는 상기 입력 어레이에 해시 함수를 적용하여 해시값을 산출하고 상기 해시값에 대해 특정 경계 상수를 기초로 모드 연산을 수행하여 상기 제2 피처 요소를 결정할 수 있다.The feature element determiner may determine the second feature element by applying a hash function to the input array, calculating a hash value, and performing a mode operation on the hash value based on a specific boundary constant.

상기 피처 벡터 생성부는 맥스 풀링(max pooling)을 통해 상기 제1 및 제2 피처 요소들 중 하나를 상기 최종 피처 요소로 결정할 수 있다.The feature vector generator may determine one of the first and second feature elements as the final feature element through max pooling.

상기 피처 벡터 생성부는 상기 최종 피처 요소를 상기 피처 인덱스와 연관시켜 상기 피처 벡터를 갱신할 수 있다.The feature vector generator may update the feature vector by associating the last feature element with the feature index.

실시예들 중에서, 신경망 피처 벡터 결정 방법은 컨텐츠를 분석하여 복수의 입력 어레이들을 생성하는 단계, 상기 복수의 입력 어레이들 각각에 관해 제1 및 제2 특징 함수들을 적용하여 제1 및 제2 피처 요소들을 결정하는 단계 및 상기 제1 및 제2 피처 요소들 중 하나를 결정하여 최종 피처 요소로 피처 벡터를 갱신하는 단계를 포함한다.Among the embodiments, the method for determining a neural network feature vector may include analyzing a content to generate a plurality of input arrays, applying first and second feature functions to each of the plurality of input arrays, and first and second feature elements. And determining one of the first and second feature elements to update the feature vector with the final feature element.

개시된 기술은 다음의 효과를 가질 수 있다. 다만, 특정 실시예가 다음의 효과를 전부 포함하여야 한다거나 다음의 효과만을 포함하여야 한다는 의미는 아니므로, 개시된 기술의 권리범위는 이에 의하여 제한되는 것으로 이해되어서는 아니 될 것이다.The disclosed technique can have the following effects. However, since a specific embodiment does not mean to include all of the following effects or only the following effects, it should not be understood that the scope of the disclosed technology is limited by this.

본 발명의 일 실시예에 따른 신경망 피처 벡터 결정 장치 및 방법은 서로 다른 제1 및 제2 특징 함수들을 적용하여 산출된 제1 및 제2 피처 요소들 중에서 더 큰 값을 결정하여 피처 벡터를 생성할 수 있다.An apparatus and method for determining neural network feature vectors according to an embodiment of the present invention may generate a feature vector by determining a larger value among first and second feature elements calculated by applying different first and second feature functions. Can be.

본 발명의 일 실시예에 따른 신경망 피처 벡터 결정 장치 및 방법은 경계 상수를 통해 특정 범위 값을 가지는 제2 피처 요소를 피처 벡터 생성에 활용함으로써 피처 벡터에 내용 기반의 특징 정보를 반영할 수 있다.The apparatus and method for determining neural network feature vectors according to an embodiment of the present invention may reflect content-based feature information in a feature vector by using a second feature element having a specific range value for feature vector generation through a boundary constant.

도 1은 본 발명의 일 실시예에 따른 신경망 피처 벡터 결정 장치의 기본 구성을 설명하는 도면이다.
도 2는 본 발명의 일 실시예에 따른 신경망 피처 벡터 결정 장치를 설명하는 블록도이다.
도 3은 본 발명의 일 실시예에 따른 신경망 피처 벡터 결정 장치에서 수행되는 신경망 피처 벡터 결정 과정을 설명하는 순서도이다.
도 4는 피처 벡터 생성 과정의 일 실시예를 설명하는 예시도이다.
도 5는 신경망 피처 벡터 결정 장치에서 피처 벡터를 생성하는 과정의 일 실시예를 설명하는 예시도이다.
도 6은 신경망 피처 벡터 결정 장치에서 피처 벡터를 생성하는 과정의 다른 실시예를 설명하는 예시도이다.1 is a view for explaining the basic configuration of the neural network feature vector determination apparatus according to an embodiment of the present invention.
2 is a block diagram illustrating a neural network feature vector determining apparatus according to an embodiment of the present invention.
3 is a flowchart illustrating a neural network feature vector determination process performed in the neural network feature vector determining apparatus according to an embodiment of the present invention.
4 is an exemplary diagram illustrating an embodiment of a feature vector generation process.
5 is an exemplary diagram illustrating an embodiment of a process of generating a feature vector in an apparatus for determining a neural network feature vector.
6 is an exemplary diagram illustrating another embodiment of a process of generating a feature vector in an apparatus for determining neural network feature vectors.

본 발명에 관한 설명은 구조적 내지 기능적 설명을 위한 실시예에 불과하므로, 본 발명의 권리범위는 본문에 설명된 실시예에 의하여 제한되는 것으로 해석되어서는 아니 된다. 즉, 실시예는 다양한 변경이 가능하고 여러 가지 형태를 가질 수 있으므로 본 발명의 권리범위는 기술적 사상을 실현할 수 있는 균등물들을 포함하는 것으로 이해되어야 한다. 또한, 본 발명에서 제시된 목적 또는 효과는 특정 실시예가 이를 전부 포함하여야 한다거나 그러한 효과만을 포함하여야 한다는 의미는 아니므로, 본 발명의 권리범위는 이에 의하여 제한되는 것으로 이해되어서는 아니 될 것이다.Description of the present invention is only an embodiment for structural or functional description, the scope of the present invention should not be construed as limited by the embodiments described in the text. That is, since the embodiments may be variously modified and may have various forms, the scope of the present invention should be understood to include equivalents for realizing the technical idea. In addition, the objects or effects presented in the present invention does not mean that a specific embodiment should include all or only such effects, the scope of the present invention should not be understood as being limited thereby.

한편, 본 출원에서 서술되는 용어의 의미는 다음과 같이 이해되어야 할 것이다.On the other hand, the meaning of the terms described in the present application should be understood as follows.

"제1", "제2" 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하기 위한 것으로, 이들 용어들에 의해 권리범위가 한정되어서는 아니 된다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.Terms such as "first" and "second" are intended to distinguish one component from another component, and the scope of rights should not be limited by these terms. For example, the first component may be referred to as a second component, and similarly, the second component may also be referred to as a first component.

어떤 구성요소가 다른 구성요소에 "연결되어"있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결될 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어"있다고 언급된 때에는 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 한편, 구성요소들 간의 관계를 설명하는 다른 표현들, 즉 "~사이에"와 "바로 ~사이에" 또는 "~에 이웃하는"과 "~에 직접 이웃하는" 등도 마찬가지로 해석되어야 한다.When a component is referred to as being "connected" to another component, it should be understood that there may be other components in between, although it may be directly connected to the other component. On the other hand, when a component is referred to as being "directly connected" to another component, it should be understood that there is no other component in between. On the other hand, other expressions describing the relationship between the components, such as "between" and "immediately between" or "neighboring to" and "directly neighboring", should be interpreted as well.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한 복수의 표현을 포함하는 것으로 이해되어야 하고, "포함하다"또는 "가지다" 등의 용어는 실시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함을 지정하려는 것이며, 하나 또는 그 이상의 다른 특징이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.Singular expressions should be understood to include plural expressions unless the context clearly indicates otherwise, and terms such as "comprise" or "have" refer to a feature, number, step, operation, component, part, or portion thereof that is implemented. It is to be understood that the combination is intended to be present and does not exclude in advance the possibility of the presence or addition of one or more other features or numbers, steps, actions, components, parts or combinations thereof.

각 단계들에 있어 식별부호(예를 들어, a, b, c 등)는 설명의 편의를 위하여 사용되는 것으로 식별부호는 각 단계들의 순서를 설명하는 것이 아니며, 각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않는 이상 명기된 순서와 다르게 일어날 수 있다. 즉, 각 단계들은 명기된 순서와 동일하게 일어날 수도 있고 실질적으로 동시에 수행될 수도 있으며 반대의 순서대로 수행될 수도 있다.In each step, an identification code (e.g., a, b, c, etc.) is used for convenience of description, and the identification code does not describe the order of the steps, and each step is clearly contextual. Unless stated otherwise, they may occur out of the order noted. That is, each step may occur in the same order as specified, may be performed substantially simultaneously, or may be performed in the reverse order.

본 발명은 컴퓨터가 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현될 수 있고, 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 장치를 포함한다. 컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있다. 또한, 컴퓨터가 읽을 수 있는 기록 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산 방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.The present invention can be embodied as computer readable code on a computer readable recording medium, and the computer readable recording medium includes all kinds of recording devices in which data can be read by a computer system. . Examples of computer-readable recording media include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, and the like. The computer readable recording medium can also be distributed over network coupled computer systems so that the computer readable code is stored and executed in a distributed fashion.

여기서 사용되는 모든 용어들은 다르게 정의되지 않는 한, 본 발명이 속하는 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한 이상적이거나 과도하게 형식적인 의미를 지니는 것으로 해석될 수 없다.All terms used herein have the same meaning as commonly understood by one of ordinary skill in the art unless otherwise defined. The terms defined in the commonly used dictionary should be interpreted to coincide with the meanings in the context of the related art, and should not be interpreted as having ideal or excessively formal meanings unless clearly defined in the present application.

도 1은 본 발명의 일 실시예에 따른 신경망 피처 벡터 결정 장치의 기본 구성을 설명하는 도면이다.1 is a view for explaining the basic configuration of the neural network feature vector determination apparatus according to an embodiment of the present invention.

도 1을 참조하면, 신경망 피처 벡터 결정 장치(100)는 프로세서(110), 메모리(130), 사용자 입출력부(150) 및 네트워크 입출력부(170)를 포함할 수 있다.Referring to FIG. 1, the neural network feature vector determining apparatus 100 may include a processor 110, a memory 130, a user input / output unit 150, and a network input / output unit 170.

신경망 피처 벡터 결정 장치(100)는 특정 컨텐츠를 기초로 해시 함수를 적용하여 피처 벡터를 생성할 수 있는 컴퓨터 또는 프로그램에 해당하는 서버로 구현될 수 있다. 신경망 피처 벡터 결정 장치(100)는 생성된 피처 벡터를 학습 데이터로 사용하여 신경망 학습을 수행할 수 있다. 일 실시예에서, 신경망 피처 벡터 결정 장치(100)는 신경망 학습 시스템에 포함되어 구현될 수 있고, 신경망 학습을 위한 전처리 단계에서 학습 데이터를 생성하는 역할을 수행할 수 있다.The neural network feature vector determining apparatus 100 may be implemented as a server corresponding to a computer or a program capable of generating a feature vector by applying a hash function based on a specific content. The neural network feature vector determining apparatus 100 may perform neural network learning using the generated feature vector as training data. In one embodiment, the neural network feature vector determining apparatus 100 may be included in the neural network learning system and implemented, and may generate a learning data in a preprocessing step for neural network learning.

프로세서(110)는 특정 컨텐츠를 분석하여 입력 어레이를 생성한 후 해시 함수를 적용하여 피처 벡터를 생성하기 위한 각 프로시저를 실행할 수 있고, 그 과정 전반에서 읽혀지거나 작성되는 메모리(130)를 관리할 수 있으며, 메모리(130)에 있는 휘발성 메모리와 비휘발성 메모리 간의 동기화 시간을 스케줄할 수 있다. 프로세서(110)는 신경망 피처 벡터 결정 장치(100)의 동작 전반을 제어할 수 있고, 메모리(130), 사용자 입출력부(150) 및 네트워크 입출력부(170)와 전기적으로 연결되어 이들 간의 데이터 흐름을 제어할 수 있다. 프로세서(110)는 신경망 피처 벡터 결정 장치(100)의 CPU(Central Processing Unit)로 구현될 수 있다.The processor 110 analyzes specific content, generates an input array, and then applies a hash function to execute each procedure for generating a feature vector, and manages the memory 130 that is read or written throughout the process. In addition, the synchronization time between the volatile memory and the nonvolatile memory in the memory 130 may be scheduled. The processor 110 may control the overall operation of the neural network feature vector determining apparatus 100, and may be electrically connected to the memory 130, the user input / output unit 150, and the network input / output unit 170 to exchange data flow therebetween. Can be controlled. The processor 110 may be implemented as a central processing unit (CPU) of the neural network feature vector determining apparatus 100.

메모리(130)는 SSD(Solid State Disk) 또는 HDD(Hard Disk Drive)와 같은 비휘발성 메모리로 구현되어 신경망 피처 벡터 결정 장치(100)에 필요한 데이터 전반을 저장하는데 사용되는 보조기억장치를 포함할 수 있고, RAM(Random Access Memory)과 같은 휘발성 메모리로 구현된 주기억장치를 포함할 수 있다.The memory 130 may include a secondary memory device which is implemented as a nonvolatile memory such as a solid state disk (SSD) or a hard disk drive (HDD), and is used to store all data required for the neural network feature vector determination apparatus 100. And a main memory device implemented with volatile memory such as random access memory (RAM).

사용자 입출력부(150)는 사용자 입력을 수신하기 위한 환경 및 사용자에게 특정 정보를 출력하기 위한 환경을 포함할 수 있다. 예를 들어, 사용자 입출력부(150)는 터치 패드, 터치 스크린, 화상 키보드 또는 포인팅 장치와 같은 어댑터를 포함하는 입력장치 및 모니터 또는 터치스크린과 같은 어댑터를 포함하는 출력장치를 포함할 수 있다. 일 실시예에서, 사용자 입출력부(150)는 원격 접속을 통해 접속되는 컴퓨팅 장치에 해당할 수 있고, 그러한 경우, 신경망 피처 벡터 결정 장치(100)는 서버로서 수행될 수 있다.The user input / output unit 150 may include an environment for receiving a user input and an environment for outputting specific information to the user. For example, the user input / output unit 150 may include an input device including an adapter such as a touch pad, a touch screen, an on-screen keyboard or a pointing device, and an output device including an adapter such as a monitor or a touch screen. In one embodiment, the user input / output unit 150 may correspond to a computing device connected via a remote connection, in which case, the neural network feature vector determination apparatus 100 may be performed as a server.

네트워크 입출력부(170)은 네트워크를 통해 외부 장치 또는 시스템과 연결하기 위한 환경을 포함하고, 예를 들어, LAN(Local Area Network), MAN(Metropolitan Area Network), WAN(Wide Area Network) 및 VAN(Value Added Network) 등의 통신을 위한 어댑터를 포함할 수 있다.The network input / output unit 170 includes an environment for connecting to an external device or a system through a network. For example, the network input / output unit 170 includes a local area network (LAN), a metropolitan area network (MAN), a wide area network (WAN), and a VAN ( It may include an adapter for communication such as Value Added Network.

도 2는 본 발명의 일 실시예에 따른 신경망 피처 벡터 결정 장치를 설명하는 블록도이다.2 is a block diagram illustrating a neural network feature vector determining apparatus according to an embodiment of the present invention.

신경망 피처 벡터 결정 장치(100)는 입력 어레이 생성부(210), 피처 요소 결정부(230), 피처 벡터 생성부(250) 및 제어부(270)를 포함할 수 있다.The neural network feature vector determiner 100 may include an input array generator 210, a feature element determiner 230, a feature vector generator 250, and a controller 270.

입력 어레이 생성부(210)는 컨텐츠를 분석하여 복수의 입력 어레이들을 생성할 수 있다. 여기에서, 입력 어레이는 해시 함수의 입력으로 사용되고 컨텐츠를 구성하는 일 구성요소에 해당할 수 있다. 입력 어레이 생성부(210)는 컨텐츠로부터 피처 벡터를 생성하는 과정에서 해시 함수의 입력으로 사용될 입력 어레이를 추출할 수 있고 복수의 입력 어레이들을 리스트 형태로 구성할 수 있다. 예를 들어, 컨텐츠가 문서에 해당하는 경우 입력 어레이 생성부(210)는 문서를 구성하는 단어들 중에서 문서 분석에 영향을 줄 수 있는 중요 단어들을 선별할 수 있고 선별된 중요 단어들을 배열로 구성하여 해시 함수의 입력으로 사용할 수 있다.The input array generator 210 may analyze the content to generate a plurality of input arrays. Here, the input array may be used as an input of a hash function and correspond to one component constituting content. The input array generator 210 may extract an input array to be used as an input of a hash function in the process of generating a feature vector from the contents, and configure the plurality of input arrays in a list form. For example, if the content corresponds to a document, the input array generator 210 may select important words that may affect document analysis among words constituting the document and configure the selected important words in an array. Can be used as input to a hash function.

일 실시예에서, 입력 어레이 생성부(210)는 컨텐츠를 구성하는 메타데이터, 텍스트, 영상 및 사운드 중 적어도 하나를 기초로 복수의 입력 어레이들을 생성할 수 있다. 컨텐츠는 문서, 동영상, 음악 등 다양한 형태로 구현될 수 있고, 입력 어레이 생성부(210)는 각 컨텐츠의 종류에 따라 컨텐츠의 메타데이터 만을 이용하여 복수의 입력 어레이들을 생성하거나 또는 컨텐츠의 텍스트 만을 이용하여 복수의 입력 어레이들을 생성할 수 있다. 신경망 피처 벡터 결정 장치(100)는 분석된 컨텐츠의 유형에 따라 해시 함수를 결정하여 피처 벡터 생성에 사용함으로써 컨텐츠의 유형에 상관없이 일정한 형식의 피처 벡터를 생성할 수 있다.In an embodiment, the input array generator 210 may generate a plurality of input arrays based on at least one of metadata, text, video, and sound constituting the content. The content may be implemented in various forms such as a document, a video, and music, and the input array generator 210 generates a plurality of input arrays using only the metadata of the content according to the type of each content, or uses only the text of the content. To generate a plurality of input arrays. The neural network feature vector determining apparatus 100 may generate a feature vector having a predetermined format regardless of the type of content by determining a hash function according to the analyzed content type and using the feature to generate a feature vector.

피처 요소 결정부(230)는 복수의 입력 어레이들 각각에 관해 제1 및 제2 특징 함수들을 적용하여 제1 및 제2 피처 요소들을 결정할 수 있다. 특징 함수는 피처 벡터를 생성하기 위하여 사용하는 함수에 해당할 수 있고 하나의 함수로 구성되거나 또는 복수의 함수들의 조합으로 구현될 수 있다. 예를 들어, 특징 함수는 하나의 해시 함수와 하나의 모드 연산으로 구성될 수 있고 해시 함수를 통해 산출된 해시값에 모드 연산을 적용하도록 특정 순서에 따라 구현될 수 있다. 피처 요소 결정부(230)는 하나의 입력 어레이에 제1 특징 함수를 적용하여 제1 피처 요소를 결정할 수 있고, 동일한 입력 어레이에 제2 특징 함수를 적용하여 제2 피처 요소를 결정할 수 있다.The feature element determiner 230 may determine the first and second feature elements by applying the first and second feature functions to each of the plurality of input arrays. The feature function may correspond to a function used to generate a feature vector, and may be composed of one function or a combination of a plurality of functions. For example, the feature function may consist of one hash function and one mode operation and may be implemented in a specific order to apply the mode operation to the hash value calculated through the hash function. The feature element determiner 230 may determine the first feature element by applying the first feature function to one input array, and determine the second feature element by applying the second feature function to the same input array.

일 실시예에서, 피처 요소 결정부(230)는 입력 어레이에 제1 특징 함수를 적용하여 피처 인덱스를 결정하고 피처 인덱스와 연관된 제1 피처 요소를 결정할 수 있다. 피처 인덱스는 피처 벡터의 특정 위치 정보에 해당할 수 있고, 예를 들어, 피처 벡터가 배열로 표현된 경우 피처 인덱스는 배열의 인덱스에 해당할 수 있다. 피처 요소 결정부(230)는 입력 어레이에 제1 특징 함수로서 해시 함수를 적용할 수 있고 해시 함수를 통해 산출된 해시값에 모드 연산을 적용하여 피처 벡터의 피처 인덱스를 결정할 수 있다.In an embodiment, the feature element determiner 230 may apply the first feature function to the input array to determine the feature index and determine the first feature element associated with the feature index. The feature index may correspond to specific position information of the feature vector. For example, when the feature vector is represented by an array, the feature index may correspond to an index of the array. The feature element determiner 230 may apply a hash function as the first feature function to the input array, and determine a feature index of the feature vector by applying a mode operation to the hash value calculated through the hash function.

이 경우 모드 연산에 사용하는 상수는 피처 벡터의 차원 수에 대응될 수 있다. 피처 벡터의 차원 수는 피처 벡터를 구성하는 구성 성분의 수에 해당하고, 예를 들어, 피처 벡터가 배열로 표현되고 배열의 크기가 k인 경우 피처 벡터의 차원 수는 k에 해당할 수 있다. 또한, 피처 벡터의 차원 수는 피처 벡터의 크기에 해당할 수 있다. 피처 요소 결정부(230)는 피처 인덱스 위치에 저장된 피처 벡터의 구성 성분 값을 제1 피처 요소로서 결정할 수 있다.In this case, the constant used for the mode operation may correspond to the number of dimensions of the feature vector. The number of dimensions of the feature vector corresponds to the number of components constituting the feature vector. For example, when the feature vector is represented by an array and the size of the array is k, the number of dimensions of the feature vector may correspond to k. In addition, the number of dimensions of the feature vector may correspond to the size of the feature vector. The feature element determiner 230 may determine a component value of the feature vector stored at the feature index position as the first feature element.

일 실시예에서, 피처 요소 결정부(230)는 입력 어레이에 제1 특징 함수를 적용하여 n차원(상기 n은 2이상인 자연수) 피처 인덱스를 결정할 수 있다. 피처 인덱스는 피처 벡터의 특정 위치 정보로서 피처 벡터의 구조에 따라 다차원 값을 가질 수 있다. 예를 들어, 피처 벡터가 배열로 표현되고 2차원 배열의 구조에 해당하는 경우 피처 인덱스는 2차원 형태의 값으로 표현될 수 있고 2차원 배열의 특정 위치와 대응될 수 있다. 피처 요소 결정부(230)는 피처 벡터의 모든 위치와 대응되는 피처 인덱스를 출력으로 제공할 수 있는 제1 특징 함수를 구성하여 적용할 수 있다.In an example, the feature element determiner 230 may determine an n-dimensional feature index (where n is a natural number of two or more) by applying a first feature function to the input array. The feature index may have multidimensional values according to the structure of the feature vector as specific position information of the feature vector. For example, if the feature vectors are represented as an array and correspond to the structure of the two-dimensional array, the feature index may be represented as a value in a two-dimensional form and correspond to a specific position of the two-dimensional array. The feature element determiner 230 may configure and apply a first feature function that may provide, as an output, a feature index corresponding to all positions of the feature vector.

일 실시예에서, 피처 요소 결정부(230)는 입력 어레이에 제2 특징 함수를 적용하여 특정 범위를 갖는 제2 피처 요소를 결정할 수 있다. 제2 특징 함수는 제1 특징 함수와 같이 해시 함수와 모드 연산으로 구성될 수 있다. 제2 특징 함수는 제1 특징 함수를 구성하는 해시 함수와 서로 다른 해시 함수로 구성될 수 있다. 보다 구체적으로, 피처 요소 결정부(230)는 입력 어레이에 대해 해시 함수와 모드 연산으로 구성된 제2 특징 함수를 적용할 수 있고 제2 특징 함수에 의해 산출되는 제2 피처 요소는 특정 범위 내의 값에 해당할 수 있다. In an embodiment, the feature element determiner 230 may determine a second feature element having a specific range by applying a second feature function to the input array. The second feature function may be composed of a hash function and a mode operation like the first feature function. The second feature function may be composed of a hash function different from the hash function constituting the first feature function. More specifically, the feature element determiner 230 may apply a second feature function composed of a hash function and a mode operation on the input array, and the second feature element calculated by the second feature function may be applied to a value within a specific range. This may be the case.

일 실시예에서, 피처 요소 결정부(230)는 입력 어레이에 해시 함수를 적용하여 해시값을 산출하고 해시값에 대해 특정 경계 상수를 기초로 모드 연산을 수행하여 제2 피처 요소를 결정할 수 있다. 특정 경계 상수는 제2 피처 요소에 해당하는 값의 범위를 결정하는 상수에 해당할 수 있다. 예를 들어, 피처 요소 결정부(230)는 특정 경계 상수 B를 모드 연산에 사용하여 0 부터 B-1 사이의 값을 가지는 제2 피처 요소를 결정할 수 있다. 피처 요소 결정부(230)는 특정 경계 상수를 조절하여 제2 피처 요소의 범위를 결정할 수 있다.In an example, the feature element determiner 230 may determine a second feature element by applying a hash function to the input array, calculating a hash value, and performing a mode operation on the hash value based on a specific boundary constant. The particular boundary constant may correspond to a constant that determines a range of values corresponding to the second feature element. For example, the feature element determiner 230 may determine a second feature element having a value between 0 and B-1 by using a specific boundary constant B for the mode operation. The feature element determiner 230 may determine a range of the second feature element by adjusting a specific boundary constant.

피처 벡터 생성부(250)는 제1 및 제2 피처 요소들 중 하나를 결정하여 최종 피처 요소로 피처 벡터를 갱신할 수 있다. 피처 벡터 생성부(250)는 제1 피처 요소를 선택한 경우 피처 벡터를 그대로 유지할 수 있고, 제2 피처 요소를 선택한 경우 제1 피처 요소가 저장된 위치에 제1 피처 요소 대신에 제2 피처 요소를 덮어씀으로써 피처 벡터를 갱신할 수 있다.The feature vector generator 250 may determine one of the first and second feature elements and update the feature vector with the final feature element. When the first feature element is selected, the feature vector generator 250 may retain the feature vector. When the second feature element is selected, the feature vector generator 250 may cover the second feature element instead of the first feature element at the location where the first feature element is stored. You can update feature vectors by writing them.

일 실시예에서, 피처 벡터 생성부(250)는 맥스 풀링(max pooling)을 통해 제1 및 제2 피처 요소들 중 하나를 최종 피처 요소로 결정할 수 있다. 여기에서, 맥스 풀링(max pooling)은 비교 대상 값들 중에서 최대값을 선택하는 방법에 해당할 수 있다. 피처 벡터 생성부(250)는 맥스 풀링을 통해 제1 및 제2 피처 요소들 중 더 큰 값을 선택하여 최종 피처 요소로 결정할 수 있다. 신경망 피처 벡터 결정 장치(100)는 피처 벡터 생성부(250)를 통해 피쳐의 빈도수 정보가 아닌 피처의 본질적인 정보를 기초로 피처 벡터를 생성하여 신경망의 입력 데이터로 활용할 수 있다.In an embodiment, the feature vector generator 250 may determine one of the first and second feature elements as the final feature element through max pooling. Here, max pooling may correspond to a method of selecting a maximum value among comparison values. The feature vector generator 250 may determine a final feature element by selecting a larger value among the first and second feature elements through max pooling. The neural network feature vector determining apparatus 100 may generate a feature vector based on the essential information of the feature, not the frequency information of the feature, through the feature vector generator 250 and use the input data of the neural network.

일 실시예에서, 피처 벡터 생성부(250)는 맥스 풀링(max pooling)을 통해 제1 및 제2 피처 요소들 중 하나를 최종 피처 요소로 결정할 수 있고, 동일한 입력 어레이에 제3 특징 함수를 적용한 값을 기초로 최종 피처 요소의 값을 1 증가시키거나 또는 1 감소시킬 수 있다. 이 경우, 제3 특징 함수는 결과로서 0 또는 1을 제공할 수 있는 결정 함수 g(도 4 참조)에 해당할 수 있다.In an embodiment, the feature vector generator 250 may determine one of the first and second feature elements as the final feature element through max pooling, and apply the third feature function to the same input array. Based on the value, the value of the final feature element can be increased or decreased by one. In this case, the third feature function may correspond to a decision function g (see FIG. 4) which may provide 0 or 1 as a result.

일 실시예에서, 피처 벡터 생성부(250)는 최종 피처 요소를 피처 인덱스와 연관시켜 피처 벡터를 갱신할 수 있다. 피처 벡터 생성부(250)는 최종 피처 요소를 결정한 다음 제1 피처 요소와 연관된 피처 인덱스의 위치에 해당 최종 피처 요소를 저장하여 피처 벡터를 갱신할 수 있다. 따라서, 피처 벡터 생성부(250)는 최종 피처 요소로서 제1 피처 요소가 결정된 경우에는 피처 벡터를 그대로 유지할 수 있고, 최종 피처 요소로서 제2 피처 요소가 결정된 경우에만 피처 벡터를 갱신할 수 있다. 피처 벡터 생성부(250)는 입력 어레이 생성부(210)에 의해 생성된 복수의 입력 어레이들 모두에 대해 최종 피처 요소를 선택하고 피처 벡터를 갱신하는 과정을 반복 수행하여 최종적인 피처 벡터를 생성할 수 있다.In an embodiment, the feature vector generator 250 may update the feature vector by associating the last feature element with the feature index. The feature vector generator 250 may determine the last feature element and then update the feature vector by storing the last feature element at the location of the feature index associated with the first feature element. Accordingly, the feature vector generator 250 may retain the feature vector when the first feature element is determined as the final feature element, and update the feature vector only when the second feature element is determined as the final feature element. The feature vector generator 250 repeatedly generates a final feature vector by selecting a final feature element and updating a feature vector for all of the plurality of input arrays generated by the input array generator 210. Can be.

제어부(270)는 신경망 피처 벡터 결정 장치(100)의 전체적인 동작을 제어하고, 입력 어레이 생성부(210), 피처 요소 결정부(230) 및 피처 벡터 생성부(250) 간의 제어 흐름 또는 데이터 흐름을 관리할 수 있다.The controller 270 controls the overall operation of the neural network feature vector determining apparatus 100 and controls the control flow or data flow between the input array generator 210, the feature element determiner 230, and the feature vector generator 250. Can manage

도 3은 본 발명의 일 실시예에 따른 신경망 피처 벡터 결정 장치에서 수행되는 신경망 피처 벡터 결정 과정을 설명하는 순서도이다.3 is a flowchart illustrating a neural network feature vector determination process performed in the neural network feature vector determining apparatus according to an embodiment of the present invention.

도 3을 참조하면, 신경망 피처 벡터 결정 장치(100)는 입력 어레이 생성부(210)를 통해 컨텐츠를 분석하여 복수의 입력 어레이들을 생성할 수 있다(단계 S310). 신경망 피처 벡터 결정 장치(100)는 피처 요소 결정부(230)를 통해 복수의 입력 어레이들 각각에 관해 제1 및 제2 특징 함수들을 적용하여 제1 및 제2 피처 요소들을 결정할 수 있다(단계 S330). 신경망 피처 벡터 결정 장치(100)는 피처 벡터 생성부(250)를 통해 제1 및 제2 피처 요소들 중 하나를 결정하여 최종 피처 요소로 피처 벡터를 갱신할 수 있다(단계 S550).Referring to FIG. 3, the neural network feature vector determination apparatus 100 may generate a plurality of input arrays by analyzing content through the input array generator 210 (step S310). The neural network feature vector determining apparatus 100 may determine the first and second feature elements by applying the first and second feature functions to each of the plurality of input arrays through the feature element determiner 230 (step S330). ). The neural network feature vector determining apparatus 100 may determine one of the first and second feature elements through the feature vector generator 250 and update the feature vector with the final feature element (step S550).

도 4는 피처 벡터 생성 과정의 일 실시예를 설명하는 예시도이다.4 is an exemplary diagram illustrating an embodiment of a feature vector generation process.

도 4를 참조하면, 피처 벡터의 일반적인 생성 과정은 문자열 배열 F의 각 원소에 대해 해시 함수 H를 적용하여 피처 벡터 V의 인덱스를 결정하고 동일한 원소에 결정 함수 g를 적용하여 해당 인덱스의 값에 1을 더하거나 또는 1을 빼는 연산을 통해 피처 벡터를 갱신하는 과정을 포함할 수 있다. 최종적인 피처 벡터 V는 입력 배열인 문자열 배열 F의 모든 원소에 대해 상기 과정을 반복 수행한 결과로서 생성될 수 있다.Referring to FIG. 4, the general process of generating a feature vector includes applying a hash function H to each element of the string array F to determine the index of the feature vector V, and applying the decision function g to the same element to 1. It may include updating the feature vector by adding or subtracting 1. The final feature vector V may be generated as a result of repeating the above process for all elements of the string array F which is the input array.

피처 벡터의 일반적인 생성 과정은 다음과 같이 표현될 수 있다.The general generation process of the feature vector can be expressed as follows.

Figure pat00001
Figure pat00001

여기에서, V는 피처 벡터, F는 문자열 배열, n은 피처 벡터 V의 크기, H는 해시 함수, g는 결정 함수에 해당할 수 있다. 또한, 결정 함수 g의 출력값은 0 또는 1에 해당할 수 있다.Here, V may correspond to a feature vector, F may correspond to a string array, n may correspond to a size of the feature vector V, H may correspond to a hash function, and g may correspond to a decision function. In addition, the output value of the determination function g may correspond to 0 or 1.

도 5는 신경망 피처 벡터 결정 장치에서 피처 벡터를 생성하는 과정의 일 실시예를 설명하는 예시도이다.5 is an exemplary diagram illustrating an embodiment of a process of generating a feature vector in an apparatus for determining a neural network feature vector.

도 5를 참조하면, 신경망 피처 벡터 결정 장치(100)는 문자열 배열 F의 각 원소에 대해 제1 특징 함수를 적용하여 제1 피처 요소를 결정할 수 있다. 이 때, 제1 특징 함수는 해시 함수 H를 적용한 후 상수 n으로 모드 연산을 수행하는 것에 해당할 수 있다. 신경망 피처 벡터 결정 장치(100)는 제1 특징 함수를 통해 산출된 피처 인덱스를 기초로 피처 벡터 V에서 피처 인덱스에 해당하는 값을 제1 피처 요소로 결정할 수 있다.Referring to FIG. 5, the neural network feature vector determining apparatus 100 may determine a first feature element by applying a first feature function to each element of the string array F. Referring to FIG. In this case, the first feature function may correspond to performing a mode operation with a constant n after applying the hash function H. The neural network feature vector determining apparatus 100 may determine, as the first feature element, a value corresponding to the feature index in the feature vector V based on the feature index calculated through the first feature function.

또한, 신경망 피처 벡터 결정 장치(100)는 동일한 원소에 대해 제2 특징 함수를 적용하여 제2 피처 요소를 결정할 수 있다. 이 때, 제2 특징 함수는 해시 함수 H와 다른 해시 함수 G를 적용한 후 경계 상수 B로 모드 연산을 수행하는 것에 해당할 수 있다. 따라서, 제2 특징 함수를 통해 결정되는 제2 피처 요소는 0부터 B-1까지의 범위 내에 존재하는 값에 해당할 수 있다. 신경망 피처 벡터 결정 장치(100)는 제2 특징 함수를 통해 산출된 제2 피처 요소와 제1 특징 함수를 통해 결정된 제1 피처 요소 중 더 큰 값을 최종 피처 요소로 결정할 수 있고 최종 피처 요소를 반영하여 피처 벡터 V를 갱신할 수 있다.Also, the neural network feature vector determining apparatus 100 may determine a second feature element by applying a second feature function to the same element. In this case, the second feature function may correspond to performing a mode operation with the boundary constant B after applying the hash function G different from the hash function H. Thus, the second feature element determined through the second feature function may correspond to a value present in the range of 0 to B-1. The neural network feature vector determining apparatus 100 may determine, as the final feature element, a larger value of the second feature element calculated through the second feature function and the first feature element determined through the first feature function, and reflect the final feature element. The feature vector V can be updated.

신경망 피처 벡터 결정 장치에서 피처 벡터를 생성하는 과정은 다음과 같이 표현될 수 있다.The process of generating the feature vector in the neural network feature vector determining apparatus may be expressed as follows.

Figure pat00002
Figure pat00002

여기에서, V는 피처 벡터, F는 문자열 배열, n은 피처 벡터 V의 크기, H는 해시 함수, G는 결정 함수, B는 경계 상수에 해당할 수 있다. 또한, 결정 함수 B는 해시 함수로서 해시 함수 H와 서로 다를 수 있다.Here, V may correspond to a feature vector, F may correspond to a string array, n may correspond to the size of the feature vector V, H may correspond to a hash function, G may correspond to a decision function, and B may correspond to a boundary constant. Also, the decision function B may be different from the hash function H as a hash function.

도 6은 신경망 피처 벡터 결정 장치에서 피처 벡터를 생성하는 과정의 다른 실시예를 설명하는 예시도이다.6 is an exemplary diagram illustrating another embodiment of a process of generating a feature vector in an apparatus for determining neural network feature vectors.

도 6을 참조하면, 신경망 피처 벡터 결정 장치(100)는 m개의 n차원 부분 벡터들로 구성된 피처 벡터 V를 생성할 수 있다. 신경망 피처 벡터 결정 장치(100)는 피처 요소 결정부(230)를 통해 입력 어레이인 문자열 배열 F의 각 원소에 제1 특징 함수를 적용하여 2차원 피처 인덱스를 결정할 수 있다. 피처 인덱스는 피처 벡터의 특정 위치 정보로서 피처 벡터의 구조에 따라 다차원 값을 가질 수 있다. Referring to FIG. 6, the neural network feature vector determining apparatus 100 may generate a feature vector V composed of m n-dimensional partial vectors. The neural network feature vector determining apparatus 100 may determine a two-dimensional feature index by applying a first feature function to each element of the string array F, which is an input array, through the feature element determining unit 230. The feature index may have multidimensional values according to the structure of the feature vector as specific position information of the feature vector.

도 6에서, 피처 벡터 V가 n차원 부분 벡터 3개로 구성된 경우 n * m 행렬로 표현될 수 있고, 피처 인덱스는 2차원 형태의 값 (3, 0)으로 표현될 수 있고 n * m 행렬의 3행 0열에 해당하는 위치와 대응될 수 있다. 피처 요소 결정부(230)는 피처 벡터의 모든 위치와 대응되는 피처 인덱스를 출력으로 제공할 수 있는 제1 특징 함수를 구성하여 적용할 수 있다. 피처 요소 결정부(230)는 제1 특징 함수를 통해 n*m 개의 서로 다른 인덱스 값을 출력할 수 있다.In FIG. 6, when the feature vector V is composed of three n-dimensional subvectors, the feature vector V may be represented by an n * m matrix, and the feature index may be represented by a two-dimensional value (3, 0) and the 3 of the n * m matrix. It may correspond to a position corresponding to the row 0 column. The feature element determiner 230 may configure and apply a first feature function that may provide, as an output, a feature index corresponding to all positions of the feature vector. The feature element determiner 230 may output n * m different index values through the first feature function.

상기에서는 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.Although described above with reference to a preferred embodiment of the present invention, those skilled in the art will be variously modified and changed within the scope of the invention without departing from the spirit and scope of the invention described in the claims below I can understand that you can.

100: 신경망 피처 벡터 결정 장치
110: 프로세서 130: 메모리
150: 사용자 입출력부 170: 네트워크 입출력부
210: 입력 어레이 생성부 230: 피처 요소 결정부
250: 피처 벡터 생성부 270: 제어부100: neural network feature vector determination device
110: processor 130: memory
150: user input and output unit 170: network input and output unit
210: input array generator 230: feature element determiner
250: feature vector generator 270: controller

Claims (9)

컨텐츠를 분석하여 복수의 입력 어레이들을 생성하는 입력 어레이 생성부;
상기 복수의 입력 어레이들 각각에 관해 제1 및 제2 특징 함수들을 적용하여 제1 및 제2 피처 요소들을 결정하는 피처 요소 결정부; 및
상기 제1 및 제2 피처 요소들 중 하나를 결정하여 최종 피처 요소로 피처 벡터를 갱신하는 피처 벡터 생성부를 포함하는 신경망 피처 벡터 결정 장치.
An input array generator for analyzing a content to generate a plurality of input arrays;
A feature element determiner for determining first and second feature elements by applying first and second feature functions to each of the plurality of input arrays; And
And a feature vector generator for determining one of the first and second feature elements and updating the feature vector with a final feature element.
제1항에 있어서, 상기 입력 어레이 생성부는
상기 컨텐츠를 구성하는 메타데이터, 텍스트, 영상 및 사운드 중 적어도 하나를 기초로 상기 복수의 입력 어레이들을 생성하는 것을 특징으로 하는 신경망 피처 벡터 결정 장치.
The method of claim 1, wherein the input array generator
And generating the plurality of input arrays based on at least one of metadata, text, video, and sound constituting the content.
제1항에 있어서, 상기 피처 요소 결정부는
입력 어레이에 상기 제1 특징 함수를 적용하여 피처 인덱스를 결정하고 상기 피처 인덱스와 연관된 상기 제1 피처 요소를 결정하는 것을 특징으로 하는 신경망 피처 벡터 결정 장치.
The method of claim 1, wherein the feature element determiner
And applying the first feature function to an input array to determine a feature index and to determine the first feature element associated with the feature index.
제3항에 있어서, 상기 피처 요소 결정부는
상기 입력 어레이에 상기 제1 특징 함수를 적용하여 n차원(상기 n은 2이상인 자연수) 피처 인덱스를 결정하는 것을 특징으로 하는 신경망 피처 벡터 결정 장치.
The method of claim 3, wherein the feature element determination unit
And an n-dimensional (n is a natural number of 2 or more) feature index determined by applying the first feature function to the input array.
제1항에 있어서, 상기 피처 요소 결정부는
입력 어레이에 상기 제2 특징 함수를 적용하여 특정 범위를 갖는 상기 제2 피처 요소를 결정하는 것을 특징으로 하는 신경망 피처 벡터 결정 장치.
The method of claim 1, wherein the feature element determiner
And applying the second feature function to an input array to determine the second feature element having a particular range.
제5항에 있어서, 상기 피처 요소 결정부는
상기 입력 어레이에 해시 함수를 적용하여 해시값을 산출하고 상기 해시값에 대해 특정 경계 상수를 기초로 모드 연산을 수행하여 상기 제2 피처 요소를 결정하는 것을 특징으로 하는 신경망 피처 벡터 결정 장치.
The method of claim 5, wherein the feature element determination unit
And applying a hash function to the input array to calculate a hash value and performing a mode operation on the hash value based on a specific boundary constant to determine the second feature element.
제1항에 있어서, 상기 피처 벡터 생성부는
맥스 풀링(max pooling)을 통해 상기 제1 및 제2 피처 요소들 중 하나를 상기 최종 피처 요소로 결정하는 것을 특징으로 하는 신경망 피처 벡터 결정 장치.
The method of claim 1, wherein the feature vector generating unit
And determining one of the first and second feature elements as the final feature element through max pooling.
제3항에 있어서, 상기 피처 벡터 생성부는
상기 최종 피처 요소를 상기 피처 인덱스와 연관시켜 상기 피처 벡터를 갱신하는 것을 특징으로 하는 신경망 피처 벡터 결정 장치.
The method of claim 3, wherein the feature vector generating unit
And the feature vector is updated by associating the last feature element with the feature index.
신경망 피처 벡터 결정 장치에서 수행되는 신경망 피처 벡터 결정 방법에 있어서,
컨텐츠를 분석하여 복수의 입력 어레이들을 생성하는 단계;
상기 복수의 입력 어레이들 각각에 관해 제1 및 제2 특징 함수들을 적용하여 제1 및 제2 피처 요소들을 결정하는 단계; 및
상기 제1 및 제2 피처 요소들 중 하나를 결정하여 최종 피처 요소로 피처 벡터를 갱신하는 단계를 포함하는 신경망 피처 벡터 결정 방법.

In the neural network feature vector determination method performed in the neural network feature vector determination apparatus,
Analyzing the content to generate a plurality of input arrays;
Determining first and second feature elements by applying first and second feature functions for each of the plurality of input arrays; And
Determining one of the first and second feature elements to update a feature vector with a final feature element.

KR1020180090946A 2018-08-03 2018-08-03 Apparatus and method for determining neural network feature vector KR102183305B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180090946A KR102183305B1 (en) 2018-08-03 2018-08-03 Apparatus and method for determining neural network feature vector

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180090946A KR102183305B1 (en) 2018-08-03 2018-08-03 Apparatus and method for determining neural network feature vector

Publications (2)

Publication Number Publication Date
KR20200015300A true KR20200015300A (en) 2020-02-12
KR102183305B1 KR102183305B1 (en) 2020-11-26

Family

ID=69569781

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180090946A KR102183305B1 (en) 2018-08-03 2018-08-03 Apparatus and method for determining neural network feature vector

Country Status (1)

Country Link
KR (1) KR102183305B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113743576A (en) * 2020-05-29 2021-12-03 精工爱普生株式会社 Data acquisition method and apparatus, similarity calculation method and apparatus, and storage medium

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100729107B1 (en) 2005-10-27 2007-06-14 한국전력공사 Methods of Input Vector formation for Auto-identification of partial discharge source using neural networks
KR20120052610A (en) * 2010-11-16 2012-05-24 삼성전자주식회사 Apparatus and method for recognizing motion using neural network learning algorithm
JP2013068884A (en) * 2011-09-26 2013-04-18 Nippon Telegr & Teleph Corp <Ntt> Hash function generation method, hash value arithmetic method, hash function generation device, hash value arithmetic device, hash function generation program and hash value arithmetic program
KR20160131071A (en) * 2014-03-06 2016-11-15 프로그레스, 인코포레이티드 Neural network and method of neural network training
KR20170136357A (en) * 2016-06-01 2017-12-11 서울대학교산학협력단 Apparatus and Method for Generating Prediction Model based on Artificial Neural Networks

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100729107B1 (en) 2005-10-27 2007-06-14 한국전력공사 Methods of Input Vector formation for Auto-identification of partial discharge source using neural networks
KR20120052610A (en) * 2010-11-16 2012-05-24 삼성전자주식회사 Apparatus and method for recognizing motion using neural network learning algorithm
JP2013068884A (en) * 2011-09-26 2013-04-18 Nippon Telegr & Teleph Corp <Ntt> Hash function generation method, hash value arithmetic method, hash function generation device, hash value arithmetic device, hash function generation program and hash value arithmetic program
KR20160131071A (en) * 2014-03-06 2016-11-15 프로그레스, 인코포레이티드 Neural network and method of neural network training
KR20170136357A (en) * 2016-06-01 2017-12-11 서울대학교산학협력단 Apparatus and Method for Generating Prediction Model based on Artificial Neural Networks

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113743576A (en) * 2020-05-29 2021-12-03 精工爱普生株式会社 Data acquisition method and apparatus, similarity calculation method and apparatus, and storage medium
CN113743576B (en) * 2020-05-29 2024-05-07 精工爱普生株式会社 Data acquisition method and device, similarity calculation method and device and storage medium

Also Published As

Publication number Publication date
KR102183305B1 (en) 2020-11-26

Similar Documents

Publication Publication Date Title
US20200356901A1 (en) Target variable distribution-based acceptance of machine learning test data sets
US11636264B2 (en) Stylistic text rewriting for a target author
US11194780B2 (en) Early exit from table scans of loosely ordered and/or grouped relations using nearly ordered maps
US11645314B2 (en) Interactive information retrieval using knowledge graphs
JP5346279B2 (en) Annotation by search
US11263223B2 (en) Using machine learning to determine electronic document similarity
US10740374B2 (en) Log-aided automatic query expansion based on model mapping
US10846588B2 (en) Scalable and compressive neural network data storage system
WO2011134141A1 (en) Method of extracting named entity
KR20200119370A (en) Artificial intelligence based similar design search apparatus
JP7020170B2 (en) A system and method for clustering approximate duplicate images in a very large image set, a method and system for clustering multiple images, a system, a program, and a method for clustering multiple content items.
WO2020112580A1 (en) Data retrieval
KR102183305B1 (en) Apparatus and method for determining neural network feature vector
KR20210022503A (en) Deduplication of data via associative similarity search
KR102400689B1 (en) Semantic relation learning device, semantic relation learning method, and semantic relation learning program
JP7014086B2 (en) Analytical equipment, analysis method and program
KR20210035987A (en) Document search device and method based on jaccard model
TW202324202A (en) Extracting explanations from attention-based models
JP2022185799A (en) Information processing program, information processing method and information processing device
WO2021220775A1 (en) System for estimating characteristic value of material
KR102289411B1 (en) Weighted feature vector generation device and method
WO2021113467A1 (en) Generating followup questions for interpretable recursive multi-hop question answering
JP7333891B2 (en) Information processing device, information processing method, and information processing program
US11983617B2 (en) Scalable and compressive neural network data storage system
KR102498670B1 (en) Mehtod and apparatus for ranking passages

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right