KR102289411B1 - 가중치 기반의 피처 벡터 생성 장치 및 방법 - Google Patents

가중치 기반의 피처 벡터 생성 장치 및 방법 Download PDF

Info

Publication number
KR102289411B1
KR102289411B1 KR1020190104992A KR20190104992A KR102289411B1 KR 102289411 B1 KR102289411 B1 KR 102289411B1 KR 1020190104992 A KR1020190104992 A KR 1020190104992A KR 20190104992 A KR20190104992 A KR 20190104992A KR 102289411 B1 KR102289411 B1 KR 102289411B1
Authority
KR
South Korea
Prior art keywords
feature
weight
component
feature vector
determining
Prior art date
Application number
KR1020190104992A
Other languages
English (en)
Other versions
KR20210025246A (ko
Inventor
윤명근
문다민
정성민
Original Assignee
국민대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 국민대학교산학협력단 filed Critical 국민대학교산학협력단
Priority to KR1020190104992A priority Critical patent/KR102289411B1/ko
Publication of KR20210025246A publication Critical patent/KR20210025246A/ko
Application granted granted Critical
Publication of KR102289411B1 publication Critical patent/KR102289411B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis

Abstract

본 발명은 가중치 기반의 피처 벡터 생성 장치 및 방법에 관한 것으로, 학습 모집단에서 추출된 복수의 베이직 블록들 각각에 대한 피처(feature) 가중치를 결정하는 피처 가중치 결정부, 대상 컨텐츠를 분석하여 복수의 입력 블록들을 생성하는 입력 블록 생성부, 상기 복수의 입력 블록들 각각에 관해 제1 특징 함수를 적용하여 피처 인덱스를 결정하는 피처 인덱스 결정부, 상기 복수의 입력 블록들 각각에 관해 제2 특징 함수를 적용하여 상기 피처 가중치에 따른 성분 가중치를 결정하는 성분 가중치 결정부 및 상기 피처 인덱스를 기초로 피처 벡터의 성분을 결정하고 해당 성분에 대해 상기 성분 가중치를 적용하여 성분 값을 갱신하는 피처 벡터 생성부를 포함한다.

Description

가중치 기반의 피처 벡터 생성 장치 및 방법{WEIGHTED FEATURE VECTOR GENERATION DEVICE AND METHOD}
본 발명은 피처 벡터 생성 기술에 관한 것으로, 보다 상세하게는 컨텐츠에 관한 피처 벡터를 생성하는 과정에서 해당 컨텐츠의 특징이 효과적으로 반영될 수 있는 가중치 기반의 피처 벡터 생성 장치 및 방법에 관한 것이다.
해시 함수(hash function)는 임의의 길이의 데이터를 고정된 길이의 데이터로 매핑하는 함수이다. 해시 함수는 해시 테이블이라는 자료구조에 사용될 수 있고, 매우 빠른 데이터 검색을 위한 컴퓨터 소프트웨어에 널리 사용될 수 있다. 해시 함수는 큰 파일에서 중복되는 레코드를 찾을 수 있기 때문에 데이터베이스 검색이나 테이블 검색의 속도를 가속할 수 있다.
피처 벡터(feature vector)는 분석 대상이 되는 컨텐츠의 특징 정보를 포함하는 차원을 가진 벡터에 해당할 수 있다. 컨텐츠에 따라 피처 벡터를 정의할 수 있고, 피처 벡터를 생성하는 알고리즘이 달라질 수 있다. 일반적으로, 해시 함수를 이용하여 생성된 피처 벡터는 내용의 출현빈도(frequency)를 기초로 하기 때문에 본질적인 특징 정보가 손실되는 문제점을 가지고 있다.
한국등록특허 제10-0729107(2007.06.08)호
본 발명의 일 실시예는 컨텐츠에 관한 피처 벡터를 생성하는 과정에서 해당 컨텐츠의 특징이 효과적으로 반영될 수 있는 가중치 기반의 피처 벡터 생성 장치 및 방법을 제공하고자 한다.
본 발명의 일 실시예는 데이터 집합을 기초로 사전에 구축된 가중치 정보를 특정 컨텐츠에 관한 피처 벡터 생성 과정에 활용할 수 있는 가중치 기반의 피처 벡터 생성 장치 및 방법을 제공하고자 한다.
본 발명의 일 실시예는 딥러닝 과정에서 의미 있는 데이터를 제공함으로써 정확도 향상을 기대할 수 있는 가중치 기반의 피처 벡터 생성 장치 및 방법을 제공하고자 한다.
실시예들 중에서, 가중치 기반의 피처 벡터 생성 장치는 학습 모집단에서 추출된 복수의 베이직 블록들 각각에 대한 피처(feature) 가중치를 결정하는 피처 가중치 결정부, 대상 컨텐츠를 분석하여 복수의 입력 블록들을 생성하는 입력 블록 생성부, 상기 복수의 입력 블록들 각각에 관해 제1 특징 함수를 적용하여 피처 인덱스를 결정하는 피처 인덱스 결정부, 상기 복수의 입력 블록들 각각에 관해 제2 특징 함수를 적용하여 상기 피처 가중치에 따른 성분 가중치를 결정하는 성분 가중치 결정부 및 상기 피처 인덱스를 기초로 피처 벡터의 성분을 결정하고 해당 성분에 대해 상기 성분 가중치를 적용하여 성분 값을 갱신하는 피처 벡터 생성부를 포함한다.
상기 피처 가중치 결정부는 상기 학습 모집단 내에서 베이직 블록의 빈도수에 관한 단어 빈도(TF, Term Frequency) 또는 문서 빈도(DF, Document Frequency)를 상기 피처 가중치로서 결정할 수 있다.
상기 입력 블록 생성부는 상기 컨텐츠를 구성하는 메타데이터, 텍스트, 영상 및 사운드 중 적어도 하나를 기초로 상기 복수의 입력 블록들을 생성할 수 있다.
상기 피처 인덱스 결정부는 해시(hash) 연산과 모드(mod) 연산을 포함하여 정의되는 함수를 상기 제1 특징 함수로서 적용하여 고정 범위 내의 피처 인덱스를 결정할 수 있다.
상기 성분 가중치 결정부는 입력 블록에 대응되는 베이직 블록의 피처 가중치를 결정하는 제1 연산과, 상기 입력 블록에 대해 1 또는 -1을 출력하는 해시 연산을 적용하는 제2 연산과, 상기 제1 및 제2 연산들의 결과를 통합하여 상기 성분 가중치를 결정하는 제3 연산을 상기 제2 특징 함수로서 적용할 수 있다.
상기 제2 특징 함수는 상기 제1 연산에 대해 상기 입력 블록에 대응되는 베이직 블록이 존재하지 않는 경우 미리 정의된 가중치를 상기 제1 연산의 결과로 사용할 수 있다.
상기 피처 벡터 생성부는 상기 복수의 입력 블록들에 대한 성분 가중치가 모두 적용된 피처 벡터를 상기 대상 컨텐츠에 대한 피처 벡터로서 생성할 수 있다.
실시예들 중에서, 가중치 기반의 피처 벡터 생성 방법은 학습 모집단에서 추출된 복수의 베이직 블록들 각각에 대한 피처(feature) 가중치를 결정하는 단계, 대상 컨텐츠를 분석하여 복수의 입력 블록들을 생성하는 단계, 상기 복수의 입력 블록들 각각에 관해 제1 특징 함수를 적용하여 피처 인덱스를 결정하는 단계, 상기 복수의 입력 블록들 각각에 관해 제2 특징 함수를 적용하여 상기 피처 가중치에 따른 성분 가중치를 결정하는 단계 및 상기 피처 인덱스를 기초로 피처 벡터의 성분을 결정하고 해당 성분에 대해 상기 성분 가중치를 적용하여 성분 값을 갱신하는 단계를 포함한다.
개시된 기술은 다음의 효과를 가질 수 있다. 다만, 특정 실시예가 다음의 효과를 전부 포함하여야 한다거나 다음의 효과만을 포함하여야 한다는 의미는 아니므로, 개시된 기술의 권리범위는 이에 의하여 제한되는 것으로 이해되어서는 아니 될 것이다.
본 발명의 일 실시예에 따른 가중치 기반의 피처 벡터 생성 장치 및 방법은 데이터 집합을 기초로 사전에 구축된 가중치 정보를 특정 컨텐츠에 관한 피처 벡터 생성 과정에 활용할 수 있다.
본 발명의 일 실시예에 따른 가중치 기반의 피처 벡터 생성 장치 및 방법은 딥러닝 과정에서 의미 있는 데이터를 제공함으로써 정확도 향상을 기대할 수 있다.
도 1은 본 발명의 일 실시예에 따른 피처 벡터 생성 시스템을 설명하는 도면이다.
도 2는 도 1에 있는 피처 벡터 생성 장치의 물리적 구성을 설명하는 도면이다.
도 3은 도 1에 있는 피처 벡터 생성 장치의 기능적 구성을 설명하는 도면이다.
도 4는 도 1에 있는 피처 벡터 생성 장치에서 수행되는 가중치 기반의 피처 벡터 생성 과정을 설명하는 순서도이다.
도 5는 피처 해싱 과정의 일 실시예를 설명하는 도면이다.
도 6은 도 1에 있는 피처 벡터 생성 장치에서 수행되는 가중치 기반의 피처 벡터 생성 과정을 설명하는 예시도이다.
본 발명에 관한 설명은 구조적 내지 기능적 설명을 위한 실시예에 불과하므로, 본 발명의 권리범위는 본문에 설명된 실시예에 의하여 제한되는 것으로 해석되어서는 아니 된다. 즉, 실시예는 다양한 변경이 가능하고 여러 가지 형태를 가질 수 있으므로 본 발명의 권리범위는 기술적 사상을 실현할 수 있는 균등물들을 포함하는 것으로 이해되어야 한다. 또한, 본 발명에서 제시된 목적 또는 효과는 특정 실시예가 이를 전부 포함하여야 한다거나 그러한 효과만을 포함하여야 한다는 의미는 아니므로, 본 발명의 권리범위는 이에 의하여 제한되는 것으로 이해되어서는 아니 될 것이다.
한편, 본 출원에서 서술되는 용어의 의미는 다음과 같이 이해되어야 할 것이다.
"제1", "제2" 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하기 위한 것으로, 이들 용어들에 의해 권리범위가 한정되어서는 아니 된다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어"있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결될 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어"있다고 언급된 때에는 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 한편, 구성요소들 간의 관계를 설명하는 다른 표현들, 즉 "~사이에"와 "바로 ~사이에" 또는 "~에 이웃하는"과 "~에 직접 이웃하는" 등도 마찬가지로 해석되어야 한다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한 복수의 표현을 포함하는 것으로 이해되어야 하고, "포함하다"또는 "가지다" 등의 용어는 실시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함을 지정하려는 것이며, 하나 또는 그 이상의 다른 특징이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
각 단계들에 있어 식별부호(예를 들어, a, b, c 등)는 설명의 편의를 위하여 사용되는 것으로 식별부호는 각 단계들의 순서를 설명하는 것이 아니며, 각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않는 이상 명기된 순서와 다르게 일어날 수 있다. 즉, 각 단계들은 명기된 순서와 동일하게 일어날 수도 있고 실질적으로 동시에 수행될 수도 있으며 반대의 순서대로 수행될 수도 있다.
본 발명은 컴퓨터가 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현될 수 있고, 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 장치를 포함한다. 컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있다. 또한, 컴퓨터가 읽을 수 있는 기록 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산 방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.
여기서 사용되는 모든 용어들은 다르게 정의되지 않는 한, 본 발명이 속하는 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한 이상적이거나 과도하게 형식적인 의미를 지니는 것으로 해석될 수 없다.
도 1은 본 발명의 일 실시예에 따른 피처 벡터 생성 시스템을 설명하는 도면이다.
도 1을 참조하면, 피처 벡터 생성 시스템(100)은 사용자 단말(110), 피처 벡터 생성 장치(130) 및 데이터베이스(150)를 포함할 수 있다.
사용자 단말(110)은 특정 컨텐츠에 대한 피처 벡터 생성을 요청하고 그 결과를 확인할 수 있는 컴퓨팅 장치에 해당할 수 있고, 스마트폰, 노트북 또는 컴퓨터로 구현될 수 있으며, 반드시 이에 한정되지 않고, 태블릿 PC 등 다양한 디바이스로도 구현될 수 있다. 사용자 단말(110)은 피처 벡터 생성 장치(130)와 네트워크를 통해 연결될 수 있고, 복수의 사용자 단말(110)들은 피처 벡터 생성 장치(130)와 동시에 연결될 수 있다.
피처 벡터 생성 장치(130)는 특정 컨텐츠를 분석하여 피처 벡터를 생성할 수 있는 컴퓨터 또는 프로그램에 해당하는 서버로 구현될 수 있다. 피처 벡터 생성 장치(130)는 사용자 단말(110)과 블루투스, WiFi, 통신망 등을 통해 무선으로 연결될 수 있고, 네트워크를 통해 사용자 단말(110)과 데이터를 주고받을 수 있다.
일 실시예에서, 피처 벡터 생성 장치(130)는 데이터베이스(150)와 연동하여 가중치 기반의 피처 벡터 생성 과정에서 필요한 정보를 저장할 수 있다. 한편, 피처 벡터 생성 장치(130)는 도 1과 달리, 데이터베이스(150)를 내부에 포함하여 구현될 수 있다. 피처 벡터 생성 장치(130)는 프로세서, 메모리, 사용자 입출력부 및 네트워크 입출력부를 포함하여 구현될 수 있으며, 이에 대해서는 도 2에서 보다 자세히 설명한다.
데이터베이스(150)는 피처 벡터 생성 과정에서 필요한 다양한 정보들을 저장하는 저장장치에 해당할 수 있다. 데이터베이스(150)는 피처 벡터 생성에 사용되는 가중치 정보를 저장할 수 있고, 피처 벡터 생성의 대상이 되는 컨텐츠에 관한 정보를 저장할 수 있으며, 반드시 이에 한정되지 않고, 피처 벡터 생성 장치(130)가 가중치 기반의 피처 벡터 생성 과정에서 다양한 형태로 수집 또는 가공된 정보들을 저장할 수 있다.
도 2는 도 1에 있는 피처 벡터 생성 장치의 물리적 구성을 설명하는 도면이다.
도 2를 참조하면, 피처 벡터 생성 장치(130)는 프로세서(210), 메모리(230), 사용자 입출력부(250) 및 네트워크 입출력부(270)를 포함하여 구현될 수 있다.
프로세서(210)는 가중치 기반의 피처 벡터 생성 과정의 각 동작을 처리하는 프로시저를 실행할 수 있고, 그 과정 전반에서 읽혀지거나 작성되는 메모리(230)를 관리할 수 있으며, 메모리(230)에 있는 휘발성 메모리와 비휘발성 메모리 간의 동기화 시간을 스케줄할 수 있다. 프로세서(210)는 피처 벡터 생성 장치(130)의 동작 전반을 제어할 수 있고, 메모리(230), 사용자 입출력부(250) 및 네트워크 입출력부(270)와 전기적으로 연결되어 이들 간의 데이터 흐름을 제어할 수 있다. 프로세서(210)는 피처 벡터 생성 장치(130)의 CPU(Central Processing Unit)로 구현될 수 있다.
메모리(230)는 SSD(Solid State Drive) 또는 HDD(Hard Disk Drive)와 같은 비휘발성 메모리로 구현되어 피처 벡터 생성 장치(130)에 필요한 데이터 전반을 저장하는데 사용되는 보조기억장치를 포함할 수 있고, RAM(Random Access Memory)과 같은 휘발성 메모리로 구현된 주기억장치를 포함할 수 있다.
사용자 입출력부(250)는 사용자 입력을 수신하기 위한 환경 및 사용자에게 특정 정보를 출력하기 위한 환경을 포함할 수 있다. 예를 들어, 사용자 입출력부(250)는 터치 패드, 터치 스크린, 화상 키보드 또는 포인팅 장치와 같은 어댑터를 포함하는 입력장치 및 모니터 또는 터치스크린과 같은 어댑터를 포함하는 출력장치를 포함할 수 있다. 일 실시예에서, 사용자 입출력부(250)는 원격 접속을 통해 접속되는 컴퓨팅 장치에 해당할 수 있고, 그러한 경우, 피처 벡터 생성 장치(130)는 서버로서 수행될 수 있다.
네트워크 입출력부(270)은 네트워크를 통해 외부 장치 또는 시스템과 연결하기 위한 환경을 포함하고, 예를 들어, LAN(Local Area Network), MAN(Metropolitan Area Network), WAN(Wide Area Network) 및 VAN(Value Added Network) 등의 통신을 위한 어댑터를 포함할 수 있다.
도 3은 도 1에 있는 피처 벡터 생성 장치의 기능적 구성을 설명하는 도면이다.
도 3을 참조하면, 피처 벡터 생성 장치(130)는 피처 가중치 결정부(310), 입력 블록 생성부(320), 피처 인덱스 결정부(330), 성분 가중치 결정부(340), 피처 벡터 생성부(350) 및 제어부(360)를 포함할 수 있다.
피처 가중치 결정부(310)는 학습 모집단에서 추출된 복수의 베이직 블록들 각각에 대한 피처(feature) 가중치를 결정할 수 있다. 학습 모집단은 피처 벡터를 생성하고자 하는 컨텐츠에 따라 사전에 구축된 데이터 집합에 해당할 수 있고, 예를 들어, 악성코드 탐색을 위해 특정 파일에 대한 피처 벡터를 생성하는 경우 악성코드와 연관된 파일들의 집합이 학습 모집단으로서 활용될 수 있다. 피처 가중치 결정부(310)는 학습 모집단 내에서 베이직 블록들이 갖는 중요도를 다양한 방식으로 분석할 수 있고, 그 결과를 수치화된 피처 가중치로서 도출할 수 있다.
일 실시예에서, 피처 가중치 결정부(310)는 학습 모집단 내에서 베이직 블록의 빈도수에 관한 단어 빈도(TF, Term Frequency) 또는 문서 빈도(DF, Document Frequency)를 피처 가중치로서 결정할 수 있다. 학습 모집단의 구성 요소에 따라 다양한 형태의 베이직 블록이 도출될 수 있고, 예를 들어 op code, string, 키워드 등이 이에 해당할 수 있다. 피처 가중치 결정부(310)는 학습 모집단 내에서 베이직 블록이 출현하는 빈도수를 기초로 TF 또는 DF를 산출할 수 있고, 이를 각 베이직 블록의 피처 가중치로서 결정할 수 있다.
피처 벡터 생성 장치(130)는 가중치를 부여할 수 있는 다양한 컨텐츠를 대상으로 학습 모집단으로부터 사전에 도출된 피처 가중치를 활용하여 피처 벡터를 생성할 수 있고, 이를 통해 피처 벡터에 해당 컨텐츠의 특징을 효과적으로 반영시킬 수 있다.
입력 블록 생성부(320)는 대상 컨텐츠를 분석하여 복수의 입력 블록들을 생성할 수 있다. 여기에서, 입력 블록들은 대상 컨텐츠로부터 추출된 베이직 블록에 해당할 수 있고, 대상 컨텐츠의 특성에 따라 다양한 형태의 베이직 블록들이 추출될 수 있다. 입력 블록 생성부(320)는 1차적으로 추출된 베이직 블록들에서 특정 형태만을 선별하여 최종 입력 블록으로서 결정할 수 있다. 입력 블록 생성부(320)는 다양한 방법으로 컨텐츠 분석을 수행할 수 있고, 그에 따라 베이직 블록을 생성할 수 있다.
일 실시예에서, 입력 블록 생성부(320)는 컨텐츠를 구성하는 메타데이터, 텍스트, 영상 및 사운드 중 적어도 하나를 기초로 복수의 입력 블록들을 생성할 수 있다. 컨텐츠는 문서, 동영상, 음악 등 다양한 형태로 구현될 수 있고, 입력 블록 생성부(320)는 각 컨텐츠의 종류에 따라 컨텐츠의 메타데이터 만을 이용하거나 또는 컨텐츠의 텍스트 만을 이용하여 복수의 입력 블록들을 생성할 수 있다.
피처 인덱스 결정부(330)는 복수의 입력 블록들 각각에 관해 제1 특징 함수를 적용하여 피처 인덱스를 결정할 수 있다. 특징 함수는 피처 벡터의 생성 과정에서 사용되는 함수에 해당할 수 있고, 적어도 하나의 연산을 포함하여 구현될 수 있다. 피처 인덱스 결정부(330)는 입력 블록에 대해 제1 특징 함수를 적용하여 피처 인덱스를 결정할 수 있다. 이 때, 피처 인덱스는 피처 벡터를 구성하는 성분을 독립적으로 지정할 수 있고, 이를 위하여 피처 벡터의 성분 개수만큼의 값을 제공할 수 있는 함수가 제1 특징 함수로서 사용될 수 있다.
일 실시예에서, 피처 인덱스 결정부(330)는 해시(hash) 연산과 모드(mod) 연산을 포함하여 정의되는 함수를 제1 특징 함수로서 적용하여 고정 범위 내의 피처 인덱스를 결정할 수 있다. 피처 인덱스 결정부(330)는 피처 벡터의 각 성분을 독립적으로 지정할 수 있는 피처 인덱스를 결정하기 위하여 해시(hash) 연산과 모드(mod) 연산의 조합으로 정의되는 함수를 사용할 수 있다. 예를 들어, 제1 특징 함수는 입력 블록에 해시 연산을 수행하고 그 결과에 대해 모드 연산을 수행함으로써 피처 벡터의 크기를 고정 범위로 갖는 출력을 생성할 수 있다.
성분 가중치 결정부(340)는 복수의 입력 블록들 각각에 관해 제2 특징 함수를 적용하여 피처 가중치에 따른 성분 가중치를 결정할 수 있다. 제2 특징 함수는 피처 가중치 결정부(310)에 의해 사전에 구축된 피처 가중치 정보를 이용하여 입력 블록에 대한 성분 가중치를 출력할 수 있다. 성분 가중치는 피처 가중치에 따라 결정될 수 있고, 예를 들어 피처 가중치가 높을수록 성분 가중치도 높은 절대값을 가질 수 있다.
일 실시예에서, 성분 가중치 결정부(340)는 입력 블록에 대응되는 베이직 블록의 피처 가중치를 결정하는 제1 연산과, 입력 블록에 대해 1 또는 -1을 출력하는 해시 연산을 적용하는 제2 연산과, 제1 및 제2 연산들의 결과를 통합하여 성분 가중치를 결정하는 제3 연산을 제2 특징 함수로서 적용할 수 있다.
제1 연산은 입력 블록에 대응되는 베이직 블록을 결정하고 해당 베이직 블록의 피처 가중치를 입력 블록과 연관시킬 수 있다. 제1 연산은 기본적으로 입력 블록과 베이직 블록 간의 일치 여부를 기초로 대응 연산을 수행할 수 있으나, 반드시 이에 한정되지 않고, 입력 블록과 베이직 블록 간의 유사도를 기초로 대응 연산을 수행할 수도 있다.
제 2 연산은 해시 연산에 해당할 수 있고, 입력 블록을 기초로 이진 분류에 따른 결과를 제공하는 동작을 수행할 수 있다. 예를 들어, 제2 연산은 입력 블록에 따라 1 또는 -1을 출력하는 해시 함수로 구현될 수 있다.
제3 연산은 제1 및 제2 연산들의 결과를 하나로 통합하여 최종적인 결과로서 성분 가중치를 결정하는 동작을 수행할 수 있다. 예를 들어, 제3 연산은 제1 연산의 결과인 가중치와 제2 연산의 결과인 1(또는 -1)의 곱 연산을 통해 입력 블록에 대한 성분 가중치를 결정할 수 있다.
일 실시예에서, 제2 특징 함수는 제1 연산에 대해 입력 블록에 대응되는 베이직 블록이 존재하지 않는 경우 미리 정의된 가중치를 제1 연산의 결과로 사용할 수 있다. 제2 특징 함수의 제1 연산에 있어서, 입력 블록과 베이직 블록의 대응에 실패한 경우 해당 입력 블록에 대해서는 베이직 블록의 가중치가 아닌 사전에 설정된 기본 가중치가 제1 연산의 결과로 사용될 수 있다. 이 때, 기본 가중치는 0으로 설정될 수 있고, 제2 특징 함수는 성분 가중치로서 0을 출력할 수 있다.
피처 벡터 생성부(350)는 피처 인덱스를 기초로 피처 벡터의 성분을 결정하고 해당 성분에 대해 성분 가중치를 적용하여 성분 값을 갱신할 수 있다. 즉, 피처 벡터 생성부(350)는 제1 특징 함수의 결과를 피처 인덱스로 사용하여 피처 벡터의 성분을 결정할 수 있고 제2 특징 함수의 결과를 성분 가중치로 사용하여 해당 성분 값을 갱신함으로써 입력 블록의 특징을 피처 벡터에 반영할 수 있다. 피처 벡터 생성부(350)는 다양한 방법을 통해 성분 가중치를 성분 값에 적용할 수 있다. 예를 들어, 피처 벡터 생성부(350)는 기존 성분 값과 성분 가중치 간의 사칙 연산을 수행하거나 또는 기존 성분 값을 성분 가중치의 비율만큼 증감시킬 수 있다.
일 실시예에서, 피처 벡터 생성부(350)는 복수의 입력 블록들에 대한 성분 가중치가 모두 적용된 피처 벡터를 대상 컨텐츠에 대한 피처 벡터로서 생성할 수 있다. 즉, 피처 벡터 생성부(350)는 하나의 대상 컨텐츠로부터 피처 벡터를 생성하기 위하여 해당 대상 컨텐츠로부터 추출된 복수의 입력 블록들 모두에 대해 제1 및 제2 특징 함수들을 적용할 수 있고, 그 결과로서 피처 벡터의 성분 값을 갱신하여 최종적인 피처 벡터를 획득할 수 있다.
제어부(360)는 피처 벡터 생성 장치(130)의 전체적인 동작을 제어하고, 피처 가중치 결정부(310), 입력 블록 생성부(320), 피처 인덱스 결정부(330), 성분 가중치 결정부(340) 및 피처 벡터 생성부(350) 간의 제어 흐름 또는 데이터 흐름을 관리할 수 있다.
도 4는 도 1에 있는 피처 벡터 생성 장치에서 수행되는 가중치 기반의 피처 벡터 생성 과정을 설명하는 순서도이다.
도 4를 참조하면, 피처 벡터 생성 장치(130)는 피처 가중치 결정부(310)를 통해 학습 모집단에서 추출된 복수의 베이직 블록들 각각에 대한 피처 가중치를 결정할 수 있다(단계 S410).
일 실시예에서, 피처 가중치 결정부(310)는 학습 모집단으로부터 추출된 복수의 베이직 블록들을 유형별로 그룹화할 수 있고, 각 그룹별로 피처 가중치를 결정할 수 있다. 따라서 피처 가중치 결정부(310)는 하나의 베이직 블록에 대해 전체 학습 모집단을 기준으로 하는 제1 가중치와 각 그룹을 기준으로 하는 제2 가중치를 포함하는 피처 가중치를 결정할 수 있고, 피처 가중치는 2차원 벡터 형태로 표현될 수 있다.
일 실시예에서, 성분 가중치 결정부(340)는 피처 가중치가 2차원 벡터 형태로 표현된 경우, 제1 및 제2 가중치들 중 어느 하나를 기초로 성분 가중치를 결정할 수 있다. 성분 가중치 결정부(340)는 해시 함수를 이용하여 제1 및 제2 가중치들 중 어느 하나를 결정할 수 있다.
또한, 피처 벡터 생성 장치(130)는 입력 블록 생성부(320)를 통해 대상 컨텐츠를 분석하여 복수의 입력 블록들을 생성할 수 있다(단계 S430). 피처 벡터 생성 장치(130)는 피처 인덱스 결정부(330)를 통해 복수의 입력 블록들 각각에 관해 제1 특징 함수를 적용하여 피처 인덱스를 결정할 수 있다(단계 S450).
또한, 피처 벡터 생성 장치(130)는 성분 가중치 결정부(340)를 통해 복수의 입력 블록들 각각에 관해 제2 특징 함수를 적용하여 피처 가중치에 따른 성분 가중치를 결정할 수 있다(단계 S470). 피처 벡터 생성 장치(130)는 피처 벡터 생성부(350)를 통해 피처 인덱스를 기초로 피처 벡터의 성분을 결정하고 해당 성분에 대해 성분 가중치를 적용하여 성분 값을 갱신할 수 있다(단계 S490).
도 5는 피처 해싱 과정의 일 실시예를 설명하는 도면이다. 그림 (a)는 피처 해싱 알고리즘을 나타내는 도면이고, 그림 (b)는 피처 해싱 과정을 나타내는 도면이다.
도 5를 참조하면, 피처 벡터의 일반적인 생성 과정은 문자열 배열(String Array) F의 각 원소에 대해 해시 함수(Hash Function) H(m)를 적용하여 피처 벡터(Feature Vector) V의 인덱스(Index)를 결정하고 동일한 원소에 결정 함수(Decision Function) g(m)를 적용하여 해당 인덱스의 값에 1을 더하거나 또는 1을 빼는 연산을 통해 피처 벡터를 갱신하는 과정을 포함할 수 있다. 최종적인 피처 벡터 V는 입력인 문자열 배열 F의 모든 원소에 대해 상기 과정을 반복 수행한 결과로서 생성될 수 있다.
또한, 피처 벡터의 일반적인 생성 과정은 다음과 같이 표현될 수 있다.
Figure 112019087960543-pat00001
여기에서, V는 피처 벡터, F는 문자열 배열, n은 피처 벡터 V의 크기, H는 해시 함수, g는 결정 함수이다. 또한, 결정 함수 g의 출력은 0 또는 1에 해당할 수 있다.
도 6은 도 1에 있는 피처 벡터 생성 장치에서 수행되는 가중치 기반의 피처 벡터 생성 과정을 설명하는 예시도이다.
도 6을 참조하면, 피처 벡터 생성 장치(130)는 입력 블록들을 저장하는 문자열 배열 F에 대해 피처 벡터 V를 생성할 있다. 피처 벡터 생성 장치(130)는 피처 벡터 생성 과정에서 제1 및 제2 특징 함수를 적용할 수 있다. 제1 특징 함수는 특정 입력 블록에 대한 피처 인덱스를 결정하는 동작을 수행할 수 있고, 제2 특징 함수는 동일한 입력 블록에 대한 피처 벡터의 성분 값을 결정하는 동작을 수행할 수 있다.
일 실시예에서, 제1 특징 함수는 해시 연산과 모드 연산의 조합으로 정의될 수 있다. 예를 들어, 제1 특징 함수는 해시 연산 결과에 대해 피처 벡터의 크기(L)에 관한 모드(mod) 연산을 수행하여 피처 인덱스를 생성할 수 있고, 이 경우 해시 함수로서 md5 또는 sha256 등이 사용될 수 있다.
일 실시예에서, 제2 특징 함수는 입력 블록에 대한 가중치 연산과 해시 연산의 조합으로 정의될 수 있다. 구체적으로, 제2 특징 함수는 입력 블록에 대한 가중치 연산을 통해 가중치를 결정할 수 있고, 해당 가중치에 대해 해시 연산 결과에 따라 + 또는 - 부호를 부여할 수 있다. 이 경우, 가중치 연산은 입력 블록에 대응되는 베이직 블록을 결정하여 사전에 구축된 베이직 블록의 피처 가중치를 출력하는 연산에 해당할 수 있다.
따라서, 피처 벡터 생성 장치(130)는 입력 블록에 대해 제1 및 제2 특징 함수를 적용하여 입력 블록의 특징에 따라 결정되는 가중치를 피처 벡터에 반영할 수 있다. 또한, 피처 벡터 생성 장치(130)는 입력 블록의 특징에 따른 가중치를 결정하기 위하여 학습 모집단에 관한 가중치 정보를 사전에 구축할 수 있다. 이 때, 학습 모집단으로부터 추출된 가중치 정보는 json 형태로 데이터베이스(150)에 저장될 수 있다.
상기에서는 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.
100: 피처 벡터 생성 시스템
110: 사용자 단말 130: 피처 벡터 생성 장치
150: 데이터베이스
210: 프로세서 230: 메모리
250: 사용자 입출력부 270: 네트워크 입출력부
310: 피처 가중치 결정부 320: 입력 블록 생성부
330: 피처 인덱스 결정부 340: 성분 가중치 결정부
350: 피처 벡터 생성부 360: 제어부

Claims (8)

  1. 학습 모집단에서 추출된 복수의 베이직 블록들 각각에 대한 피처(feature) 가중치를 결정하는 피처 가중치 결정부;
    대상 컨텐츠를 분석하여 복수의 입력 블록들을 생성하는 입력 블록 생성부;
    상기 복수의 입력 블록들 각각에 관해 제1 특징 함수를 적용하여 피처 인덱스를 결정하는 피처 인덱스 결정부;
    상기 복수의 입력 블록들 각각에 관해 제2 특징 함수를 적용하여 상기 피처 가중치에 따른 성분 가중치를 결정하는 성분 가중치 결정부; 및
    상기 피처 인덱스를 기초로 피처 벡터의 성분을 결정하고 해당 성분에 대해 상기 성분 가중치를 적용하여 성분 값을 갱신하는 피처 벡터 생성부를 포함하되,
    상기 피처 가중치 결정부는 상기 학습 모집단 내에서 베이직 블록의 빈도수에 관한 단어 빈도(TF, Term Frequency) 또는 문서 빈도(DF, Document Frequency)를 상기 피처 가중치로서 결정하고,
    상기 성분 가중치 결정부는 입력 블록에 대응되는 베이직 블록의 피처 가중치를 결정하는 제1 연산과, 상기 입력 블록에 대해 1 또는 -1을 출력하는 해시 연산을 적용하는 제2 연산과, 상기 제1 및 제2 연산들의 결과를 통합하여 상기 성분 가중치를 결정하는 제3 연산을 상기 제2 특징 함수로서 적용하는 것을 특징으로 하는 가중치 기반의 피처 벡터 생성 장치.
  2. 삭제
  3. 제1항에 있어서, 상기 입력 블록 생성부는
    상기 컨텐츠를 구성하는 메타데이터, 텍스트, 영상 및 사운드 중 적어도 하나를 기초로 상기 복수의 입력 블록들을 생성하는 것을 특징으로 하는 가중치 기반의 피처 벡터 생성 장치.
  4. 제1항에 있어서, 상기 피처 인덱스 결정부는
    해시(hash) 연산과 모드(mod) 연산을 포함하여 정의되는 함수를 상기 제1 특징 함수로서 적용하여 고정 범위 내의 피처 인덱스를 결정하는 것을 특징으로 하는 가중치 기반의 피처 벡터 생성 장치.
  5. 삭제
  6. 제1항에 있어서, 상기 제2 특징 함수는
    상기 제1 연산에 대해 상기 입력 블록에 대응되는 베이직 블록이 존재하지 않는 경우 미리 정의된 가중치를 상기 제1 연산의 결과로 사용하는 것을 특징으로 하는 가중치 기반의 피처 벡터 생성 장치.
  7. 제1항에 있어서, 상기 피처 벡터 생성부는
    상기 복수의 입력 블록들에 대한 성분 가중치가 모두 적용된 피처 벡터를 상기 대상 컨텐츠에 대한 피처 벡터로서 생성하는 것을 특징으로 하는 가중치 기반의 피처 벡터 생성 장치.
  8. 피처 벡터 생성 장치에서 수행되는 방법에 있어서,
    학습 모집단에서 추출된 복수의 베이직 블록들 각각에 대한 피처(feature) 가중치를 결정하는 단계;
    대상 컨텐츠를 분석하여 복수의 입력 블록들을 생성하는 단계;
    상기 복수의 입력 블록들 각각에 관해 제1 특징 함수를 적용하여 피처 인덱스를 결정하는 단계;
    상기 복수의 입력 블록들 각각에 관해 제2 특징 함수를 적용하여 상기 피처 가중치에 따른 성분 가중치를 결정하는 단계; 및
    상기 피처 인덱스를 기초로 피처 벡터의 성분을 결정하고 해당 성분에 대해 상기 성분 가중치를 적용하여 성분 값을 갱신하는 단계를 포함하되,
    상기 피처 가중치를 결정하는 단계는 상기 학습 모집단 내에서 베이직 블록의 빈도수에 관한 단어 빈도(TF, Term Frequency) 또는 문서 빈도(DF, Document Frequency)를 상기 피처 가중치로서 결정하는 단계를 포함하고,
    상기 성분 가중치를 결정하는 단계는 입력 블록에 대응되는 베이직 블록의 피처 가중치를 결정하는 제1 연산과, 상기 입력 블록에 대해 1 또는 -1을 출력하는 해시 연산을 적용하는 제2 연산과, 상기 제1 및 제2 연산들의 결과를 통합하여 상기 성분 가중치를 결정하는 제3 연산을 상기 제2 특징 함수로서 적용하는 단계를 포함하는 것을 특징으로 하는 가중치 기반의 피처 벡터 생성 방법.
KR1020190104992A 2019-08-27 2019-08-27 가중치 기반의 피처 벡터 생성 장치 및 방법 KR102289411B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190104992A KR102289411B1 (ko) 2019-08-27 2019-08-27 가중치 기반의 피처 벡터 생성 장치 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190104992A KR102289411B1 (ko) 2019-08-27 2019-08-27 가중치 기반의 피처 벡터 생성 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20210025246A KR20210025246A (ko) 2021-03-09
KR102289411B1 true KR102289411B1 (ko) 2021-08-12

Family

ID=75179949

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190104992A KR102289411B1 (ko) 2019-08-27 2019-08-27 가중치 기반의 피처 벡터 생성 장치 및 방법

Country Status (1)

Country Link
KR (1) KR102289411B1 (ko)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180197089A1 (en) 2017-01-10 2018-07-12 Crowdstrike, Inc. Computational modeling and classification of data streams
KR101880628B1 (ko) 2017-11-27 2018-08-16 한국인터넷진흥원 기계 학습 데이터셋에 대한 레이블링 방법 및 그 장치

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100729107B1 (ko) 2005-10-27 2007-06-14 한국전력공사 부분방전 원인 자동 추론용 신경망 회로의 입력벡터생성방법
KR102033354B1 (ko) * 2017-11-01 2019-10-17 국민대학교산학협력단 Cnn 학습 기반의 멀웨어 분석 장치, 이를 수행하는 cnn 학습 기반의 멀웨어 분석 방법 및 이를 저장하는 기록매체

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180197089A1 (en) 2017-01-10 2018-07-12 Crowdstrike, Inc. Computational modeling and classification of data streams
KR101880628B1 (ko) 2017-11-27 2018-08-16 한국인터넷진흥원 기계 학습 데이터셋에 대한 레이블링 방법 및 그 장치

Also Published As

Publication number Publication date
KR20210025246A (ko) 2021-03-09

Similar Documents

Publication Publication Date Title
US8898120B1 (en) Systems and methods for distributed data deduplication
Yagoubi et al. Massively distributed time series indexing and querying
JP6068568B1 (ja) 改変ｋ最近傍グラフ生成装置及び改変ｋ最近傍グラフ生成装置の動作方法
JP5755823B1 (ja) 類似度算出システム、類似度算出方法およびプログラム
US20170139913A1 (en) Method and system for data assignment in a distributed system
KR102432600B1 (ko) 벡터 양자화를 이용한 중복 문서 탐지 방법 및 시스템
CN108027816B (zh) 数据管理系统、数据管理方法及记录介质
JP6976178B2 (ja) 抽出装置、抽出方法、及び抽出プログラム
KR102289395B1 (ko) 자카드 모델 기반의 문서 검색 장치 및 방법
KR102289411B1 (ko) 가중치 기반의 피처 벡터 생성 장치 및 방법
US9294122B2 (en) Field level compression in parallel data flows
KR102183305B1 (ko) 신경망 피처 벡터 결정 장치 및 방법
KR102225820B1 (ko) 악성코드 분석용 머신러닝을 위한 하이브리드 피처 벡터 생성 장치 및 방법
CN115470190A (zh) 一种多存储池数据分类存储方法、系统与电子设备
KR102269652B1 (ko) 보안관제 데이터 분석을 위한 머신러닝 기반의 학습 벡터 생성 장치 및 방법
US20220156081A1 (en) Processing-in-memory and method of outputting instruction using processing-in-memory
JP6012814B1 (ja) 逐次クラスタリング装置、方法、及びプログラム
US20170154153A1 (en) Data de-duplication system using genome formats conversion
JP5490859B2 (ja) ビジュアルキーワード抽出装置、これを用いたＢｏＦ表現生成装置、及びビジュアルキーワード抽出方法
Wandelt et al. Sequence factorization with multiple references
JP2016170453A (ja) データ格納制御装置、データ格納制御システム、データ格納制御方法、及び、データ格納制御プログラム
KR20210024748A (ko) Gan을 이용한 문서형 악성코드 탐지 장치 및 방법
KR102289408B1 (ko) 해시 코드 기반의 검색 장치 및 검색 방법
KR102121741B1 (ko) 이분 그래프 기반의 악성 코드 탐지 장치
US9189488B2 (en) Determination of landmarks

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right