KR102430548B1 - 구조화된 학습 데이터의 전처리 방법 - Google Patents

구조화된 학습 데이터의 전처리 방법 Download PDF

Info

Publication number
KR102430548B1
KR102430548B1 KR1020210149895A KR20210149895A KR102430548B1 KR 102430548 B1 KR102430548 B1 KR 102430548B1 KR 1020210149895 A KR1020210149895 A KR 1020210149895A KR 20210149895 A KR20210149895 A KR 20210149895A KR 102430548 B1 KR102430548 B1 KR 102430548B1
Authority
KR
South Korea
Prior art keywords
data
character
learning
structured
level
Prior art date
Application number
KR1020210149895A
Other languages
English (en)
Other versions
KR20210134586A (ko
Inventor
유태준
황이규
조면철
박영선
최홍섭
Original Assignee
주식회사 마인즈랩
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 마인즈랩 filed Critical 주식회사 마인즈랩
Publication of KR20210134586A publication Critical patent/KR20210134586A/ko
Application granted granted Critical
Publication of KR102430548B1 publication Critical patent/KR102430548B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/10—Text processing
    • G06F40/12—Use of codes for handling textual entities
    • G06F40/151—Transformation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Machine Translation (AREA)

Abstract

본 발명의 일 실시예에 따른 구조화된 학습 데이터를 포함하는 학습 데이터의 전처리 방법은, 수신된 학습 데이터에서 구조화된 학습 데이터를 선별하는 단계로써, 상기 수신된 학습 데이터는 상기 구조화된 학습 데이터 및 하나 이상의 다른 타입의 학습 데이터를 포함하고, 상기 구조화된 학습 데이터는 하나 이상의 데이터를 포함하는 데이터이고; 상기 구조화된 학습 데이터의 구조화 형태를 식별하는 단계; 상기 구조화 형태를 참조하여, 상기 하나 이상의 데이터 각각의 레벨에 대응되는 레벨 문자를 결정하는 단계; 및 상기 하나 이상의 데이터 및 상기 하나 이상의 데이터 각각의 레벨 문자가 소정의 형태로 나열된 전처리 학습 데이터를 생성하는 단계;를 포함할 수 있다.

Description

구조화된 학습 데이터의 전처리 방법{Method for preprocessing structured learning data}
본 발명의 실시예들은 구조화된 학습 데이터의 전처리 방법에 관한 것으로, 학습 데이터에서 구조화된 학습 데이터를 선별하고, 선별된 학습 데이터의 구조화 정보를 문자로 변환하여 학습 데이터에 삽입하는 방법에 관한 것이다.
인공 지능이라는 개념은 1956년 미국 다트머스 대학에 있던 존 매카시 교수가 개최한 다트머스 회의에서 처음 등장했으며, 최근 몇 년 사이 폭발적으로 성장하고 있는 중이다.
특히 2015년 이후 신속하고 강력한 병렬 처리 성능을 제공하는 GPU의 도입으로 더욱 가속화되고 있으며, 폭발적으로 늘어나고 있는 저장 용량과 이미지, 텍스트, 매핑 데이터 등 모든 영역의 데이터가 범람하게 된 '빅데이터' 시대의 도래도 이러한 성장세에 큰 영향을 미쳤다.
머신 러닝은 기본적으로 알고리즘을 이용해 데이터를 분석하고, 분석을 통해 학습하며, 학습한 내용을 기반으로 판단이나 예측을 한다. 따라서 궁극적으로는 의사 결정 기준에 대한 구체적인 지침을 소프트웨어에 직접 코딩해 넣는 것이 아닌, 대량의 데이터와 알고리즘을 통해 컴퓨터 그 자체를 '학습'시켜 작업 수행 방법을 익히는 것을 목표로 한다.
머신 러닝은 초기 인공 지능 연구자들이 직접 제창한 개념에서 나온 것이며, 알고리즘 방식에는 의사 결정 트리 학습, 귀납 논리 프로그래밍, 클러스터링, 강화 학습, 베이지안(Bayesian) 네트워크 등이 포함된다.
이와 같은 머신 러닝은 다양한 분야에서 충분한 성능을 구현하지만, 표와 같이 단순하게 해석이 불가능한 데이터의 경우 인공 신경망을 학습시키기 위한 데이터로 적합하지 않은 문제점이 있다. 따라서 인공 신경망에 표와 같은 데이터를 입력하기 위해서는 사용자가 수작업으로 데이터를 변환하는 등의 번거로운 과정이 수반되는 번거로움이 있었다.
본 발명은 전술한 문제점을 해결하기 위한 것으로, 구조화된 학습 데이터를 인공 신경망의 학습에 적합한 형태로 변환하고자 한다.
또한 본 발명은 구조화된 학습 데이터의 구조화 정보까지 인공 신경망의 학습에 사용하고자 한다.
본 발명의 일 실시예에 따른 구조화된 학습 데이터의 전처리 방법은, 하나 이상의 데이터를 포함하는 구조화된 학습 데이터를 수신하는 단계; 상기 구조화된 학습 데이터의 구조화 형태를 식별하는 단계; 상기 구조화 형태를 참조하여, 상기 하나 이상의 데이터 각각의 레벨에 대응되는 레벨 문자를 결정하는 단계; 및 상기 하나 이상의 데이터 및 상기 하나 이상의 데이터 각각의 레벨 문자가 소정의 형태로 나열된 전처리 학습 데이터를 생성하는 단계;를 포함할 수 있다.
상기 학습 데이터의 구조화 형태를 식별하는 단계는 상기 구조화된 학습 데이터의 구조화 형태가 표(表) 형태인지 식별하는 단계; 및 상기 구조화된 학습 데이터의 구조화 형태가 개조식(個條式) 형태인지 식별하는 단계;를 포함할 수 있다.
상기 구조화된 학습 데이터는 하나 이상의 행 및 하나 이상의 열로 이루어 지는 표 데이터이고, 제1 데이터, 상기 제1 데이터와 동일한 행에 위치하고 상기 제1 데이터와 인접하는 열에 위치하는 제2 데이터, 상기 제1 데이터와 동일한 행의 제일 마지막 열에 위치하는 제3 데이터 및 상기 제1 데이터의 다음 행의 가장 첫 열에 위치하는 제4 데이터를 포함할 수 있다. 이때 상기 학습 데이터의 구조화 형태를 식별하는 단계는 상기 구조화된 학습 데이터의 구조화 형태를 상기 표 형태로 식별하고, 상기 레벨 문자를 결정하는 단계는 상기 제1 데이터를 고려하여, 상기 제2 데이터의 레벨 문자를 제1 문자로 결정하고, 상기 제1 문자는 열 바꿈에 대응되는 문자일 수 있다. 또한 상기 레벨 문자를 결정하는 단계는 상기 제3 데이터를 고려하여, 상기 제4 데이터의 레벨 문자를 제2 문자로 결정하고, 상기 제2 문자는 상기 제1 문자와 상이한 문자로, 행 바꿈에 대응되는 문자일 수 있다.
상기 구조화된 학습 데이터는 하나 이상의 레벨로 이루어지는 개조식 데이터 이고, 상기 구조화된 학습 데이터는 제1 레벨의 제5 데이터, 상기 제5 데이터의 하위 데이터로 제2 레벨의 데이터인 제6 데이터 및 상기 제6 데이터의 이후 데이터로 상기 제1 레벨인 제7 데이터를 포함할 수 있다. 이때 상기 학습 데이터의 구조화 형태를 식별하는 단계는 상기 구조화된 학습 데이터의 구조화 형태를 상기 개조식 형태로 식별하고, 상기 레벨 문자를 결정하는 단계는 상기 제5 데이터를 고려하여, 상기 제6 데이터의 레벨 문자를 제4 문자로 결정하고, 상기 제4 문자는 상기 제2 레벨에 대응되는 문자일 수 있다. 또한 상기 레벨 문자를 결정하는 단계는 상기 제6 데이터를 고려하여, 상기 제7 데이터의 레벨 문자를 제3 문자로 결정하고, 상기 제3 문자는 상기 제4 문자와 상이한 문자로, 상기 제1 레벨에 대응되는 문자일 수 있다.
본 발명의 일 실시예에 따른 구조화된 학습 데이터를 이용하여 인공 신경망을 학습시키는 방법은, 상기 구조화된 학습 데이터에 포함되는 하나 이상의 데이터 및 상기 하나 이상의 데이터 각각의 레벨 문자가 소정의 형태로 나열된 전처리 학습 데이터를 생성하는 단계; 인공 신경망의 학습을 위한 질의 및 상기 소정의 형태의 전처리 학습 데이터를 구성하는 적어도 일부 문자열의 범위를 상기 질의에 대한 답변으로써 획득하는 단계; 및 상기 전처리 학습 데이터, 상기 질의 및 상기 문자열의 범위에 기초하여 상기 인공 신경망을 학습시키는 단계;를 포함할 수 있다.
상기 적어도 일부 문자열의 범위 내에는 상기 전처리 학습 데이터에 포함되는 제8 데이터 및 상기 제8 데이터의 레벨 문자가 포함되고, 상기 인공 신경망을 학습시키는 단계는 상기 제8 데이터의 레벨 문자를 고려하여, 상기 제8 데이터와 연관된 적어도 하나의 제9 데이터 및 상기 제9 데이터의 레벨 문자를 함께 참조하여 상기 인공 신경망을 학습시킬 수 있다.
본 발명의 일 실시예에 따른 구조화된 학습 데이터를 포함하는 학습 데이터의 전처리 방법은, 수신된 학습 데이터에서 구조화된 학습 데이터를 선별하는 단계로써, 상기 수신된 학습 데이터는 상기 구조화된 학습 데이터 및 하나 이상의 다른 타입의 학습 데이터를 포함하고, 상기 구조화된 학습 데이터는 하나 이상의 데이터를 포함하는 데이터이고; 상기 구조화된 학습 데이터의 구조화 형태를 식별하는 단계; 상기 구조화 형태를 참조하여, 상기 하나 이상의 데이터 각각의 레벨에 대응되는 레벨 문자를 결정하는 단계; 및 상기 하나 이상의 데이터 및 상기 하나 이상의 데이터 각각의 레벨 문자가 소정의 형태로 나열된 전처리 학습 데이터를 생성하는 단계;를 포함할 수 있다.
상기 구조화된 학습 데이터는 하나 이상의 행 및 하나 이상의 열로 이루어 지는 표 데이터이고, 제1 데이터, 상기 제1 데이터와 동일한 행에 위치하고 상기 제1 데이터와 인접하는 열에 위치하는 제2 데이터, 상기 제1 데이터와 동일한 행의 제일 마지막 열에 위치하는 제3 데이터 및 상기 제1 데이터의 다음 행의 가장 첫 열에 위치하는 제4 데이터를 포함하고, 상기 학습 데이터의 구조화 형태를 식별하는 단계는 상기 구조화된 학습 데이터의 구조화 형태를 표 형태로 식별하고, 상기 레벨 문자를 결정하는 단계는 상기 제1 데이터를 고려하여, 상기 제2 데이터의 레벨 문자를 제1 문자로 결정하고, 상기 제1 문자는 열 바꿈에 대응되는 문자이고, 상기 제3 데이터를 고려하여, 상기 제4 데이터의 레벨 문자를 제2 문자로 결정하고, 상기 제2 문자는 상기 제1 문자와 상이한 문자로, 행 바꿈에 대응되는 문자일 수 있다.
상기 구조화된 학습 데이터는 하나 이상의 레벨로 이루어지는 개조식 데이터 이고, 상기 구조화된 학습 데이터는 제1 레벨의 제5 데이터, 상기 제5 데이터의 하위 데이터로 제2 레벨의 데이터인 제6 데이터 및 상기 제6 데이터의 이후 데이터로 상기 제1 레벨인 제7 데이터를 포함하고, 상기 학습 데이터의 구조화 형태를 식별하는 단계는 상기 구조화된 학습 데이터의 구조화 형태를 개조식 형태로 식별하고, 상기 레벨 문자를 결정하는 단계는 상기 제5 데이터를 고려하여, 상기 제6 데이터의 레벨 문자를 제4 문자로 결정하고, 상기 제4 문자는 상기 제2 레벨에 대응되는 문자이고, 상기 제6 데이터를 고려하여, 상기 제7 데이터의 레벨 문자를 제3 문자로 결정하고, 상기 제3 문자는 상기 제4 문자와 상이한 문자로 상기 제1 레벨에 대응되는 문자일 수 있다.
본 발명은 데이터의 구조화 정보를 레벨 문자로 변환하고, 변환된 문자를 학습 데이터에 포함시켜 데이터의 구조화 정보까지 인공 신경망의 학습에 사용한다.
또한 본 발명은 표 형태의 데이터에 있어서, 각 개별 데이터의 행/열 정보를 문자의 형태로 변환하여 학습 데이터에 포함시켜, 해당 데이터의 학습에 있어서 행/열의 정보까지 고려하여 학습이 이루어 지도록 할 수 있다.
또한 본 발명은 개조식 형태의 데이터에 있어서, 각 개별 데이터의 레벨 정보를 문자의 형태로 변환하여 학습 데이터에 포함시켜, 해당 데이터의 학습에 있어서 레벨 정보까지 고려하여 학습이 이루어 지도록 할 수 있다.
도 1은 본 발명의 일 실시예에 따른 인공 신경망 학습 시스템의 구성을 개략적으로 도시한 도면이다.
도 2는 본 발명의 일 실시예에 따른 인공 신경망 학습 서버(100)에 구비되는 인공 신경망 학습 장치(110)의 구성을 개략적으로 도시한 도면이다.
도 3 및 도 4는 본 발명의 인공 신경망 학습 장치(110)에 의해 학습되는 인공 신경망의 예시적인 구조를 설명하기 위한 도면이다.
도 5a 및 도 5b는 제어부(112)가 표 데이터로부터 전처리 학습 데이터를 생성하는 과정을 설명하기 위한 도면이다.
도 6a 및 도 6b는 제어부(112)가 개조식 데이터로부터 전처리 학습 데이터를 생성하는 과정을 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시예에 따른 인공 신경망 학습 장치(110)에 의해 수행되는 학습 데이터의 전처리 방법을 설명하기 위한 흐름도이다.
도 8은 본 발명의 일 실시예에 따른 인공 신경망 학습 장치(110)에 의해 수행되는 구조화된 학습 데이터를 이용하여 인공 신경망 학습 방법을 설명하기 위한 흐름도이다.
본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 본 발명의 효과 및 특징, 그리고 그것들을 달성하는 방법은 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 다양한 형태로 구현될 수 있다.
이하, 첨부된 도면을 참조하여 본 발명의 실시예들을 상세히 설명하기로 하며, 도면을 참조하여 설명할 때 동일하거나 대응하는 구성 요소는 동일한 도면부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
이하의 실시예에서, 제1, 제2 등의 용어는 한정적인 의미가 아니라 하나의 구성 요소를 다른 구성 요소와 구별하는 목적으로 사용되었다. 이하의 실시예에서, 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 이하의 실시예에서, 포함하다 또는 가지다 등의 용어는 명세서상에 기재된 특징, 또는 구성요소가 존재함을 의미하는 것이고, 하나 이상의 다른 특징들 또는 구성요소가 부가될 가능성을 미리 배제하는 것은 아니다. 도면에서는 설명의 편의를 위하여 구성 요소들이 그 크기가 과장 또는 축소될 수 있다. 예컨대, 도면에서 나타난 각 구성의 크기 및 형태는 설명의 편의를 위해 임의로 나타내었으므로, 본 발명이 반드시 도시된 바에 한정되지 않는다.
도 1은 본 발명의 일 실시예에 따른 인공 신경망 학습 시스템의 구성을 개략적으로 도시한 도면이다.
도 1을 참조하면, 본 발명의 일 실시예에 따른 인공 신경망 학습 시스템은 인공 신경망 학습 서버(100), 사용자 단말(200) 및 통신망(400)을 포함할 수 있다.
본 발명의 일 실시예에 따른 인공 신경망 학습 시스템은 인공 신경망의 학습을 위한 학습 데이터에 구조화된 데이터가 포함된 경우, 데이터의 구조화 정보를 문자의 형태로 변환하여 인공 신경망이 학습할 수 있는 형태로 변환할 수 있다.
또한 본 발명의 일 실시예에 따른 인공 신경망 학습 시스템은 구조화 정보가 문자의 형태로 포함된 학습 데이터, 학습 데이터와 관련된 질의 및 이에 대한 답변으로써 학습 데이터를 구성하는 적어도 일부 문자열의 범위를 획득하여 인공 신경망을 학습시킬 수 있다.
본 발명에서 구조화된 학습 데이터와 같은 '구조화된 데이터'는 전체 데이터 내에서 데이터의 상대적 위치 및/또는 수준을 고려하여 해당 데이터의 의미를 해석할 필요가 있는 데이터를 의미할 수 있다. 가령 도 5a에 도시된 표 형태의 데이터 및 도 6a에 도시된 개조식 형태의 데이터가 이해 해당할 수 있다.
본 발명에서 '인공 신경망'은 소정의 목적을 위해 머신 러닝(Machine Learning) 또는 딥러닝(Deep Learning) 기법으로 학습된 신경망을 의미할 수 있다. 이와 같은 인공 신경망의 구조에 대해서는 도 3 및 도 4를 참조하여 후술한다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 사용자가 인공 신경망 학습 서버(100)에 의해 제공되는 다양한 서비스를 이용할 수 있도록 사용자와 인공 신경망 학습 서버(100)를 매개하는 다양한 형태의 장치를 의미할 수 있다.
바꾸어 말하면, 본 발명의 일 실시예에 따른 사용자 단말(200)은 인공 신경망 학습 서버(100)와 데이터를 송수신 하는 다양한 장치를 의미할 수 있다.
이와 같은 사용자 단말(200)은 도 1에 도시된 바와 같이, 휴대용 단말(201, 202, 203)을 의미할 수도 있고, 컴퓨터(204)를 의미할 수도 있다.
한편 사용자 단말(200)은 상술한 기능을 수행하기 위해 콘텐츠 등을 표시하기 위한 표시수단, 이러한 콘텐츠에 대한 사용자의 입력을 획득하기 위한 입력수단을 구비할 수 있다. 이 때 입력수단 및 표시수단은 다양하게 구성될 수 있다. 가령 입력수단은 키보드, 마우스, 트랙볼, 마이크, 버튼, 터치패널 등을 포함할 수 있으나 이에 한정되지 않는다.
본 발명의 일 실시예에 따른 통신망(400)은 인공 신경망 학습 시스템의 각 구성 간의 데이터 송수신을 매개하는 통신망을 의미할 수 있다. 가령 통신망(400)은 LANs(Local Area Networks), WANs(Wide Area Networks), MANs(Metropolitan Area Networks), ISDNs(Integrated Service Digital Networks) 등의 유선 네트워크나, 무선 LANs, CDMA, 블루투스, 위성 통신 등의 무선 네트워크를 망라할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다.
본 발명의 일 실시예에 따른 인공 신경망 학습 서버(100)는 인공 신경망의 학습을 위한 학습 데이터에 구조화된 데이터가 포함된 경우, 데이터의 구조화 정보를 문자의 형태로 변환하여 인공 신경망이 학습할 수 있는 형태로 변환할 수 있다.
또한 인공 신경망 학습 서버(100)는 구조화 정보가 문자의 형태로 포함된 학습 데이터, 학습 데이터와 관련된 질의 및 이에 대한 답변으로써 학습 데이터를 구성하는 적어도 일부 문자열의 범위를 획득하여 인공 신경망을 학습시킬 수 있다.
도 2는 본 발명의 일 실시예에 따른 인공 신경망 학습 서버(100)에 구비되는 인공 신경망 학습 장치(110)의 구성을 개략적으로 도시한 도면이다.
도 2를 참조하면, 본 발명의 일 실시예에 따른 인공 신경망 학습 장치(110)는 통신부(111), 제어부(112) 및 메모리(113)를 포함할 수 있다. 또한 도면에는 도시되지 않았으나, 본 실시예에 따른 인공 신경망 학습 장치(110)는 입/출력부, 프로그램 저장부 등을 더 포함할 수 있다.
통신부(111)는 인공 신경망 학습 장치(110)가 사용자 단말(200)과 같은 다른 네트워크 장치와 유무선 연결을 통해 제어 신호 또는 데이터 신호와 같은 신호를 송수신하기 위해 필요한 하드웨어 및 소프트웨어를 포함하는 장치일 수 있다.
제어부(112)는 프로세서(Processor)와 같이 데이터를 처리할 수 있는 모든 종류의 장치를 포함할 수 있다. 여기서, '프로세서(Processor)'는, 예를 들어 프로그램 내에 포함된 코드 또는 명령으로 표현된 기능을 수행하기 위해 물리적으로 구조화된 회로를 갖는, 하드웨어에 내장된 데이터 처리 장치를 의미할 수 있다. 이와 같이 하드웨어에 내장된 데이터 처리 장치의 일 예로써, 마이크로프로세서(Microprocessor), 중앙처리장치(Central Processing Unit: CPU), 프로세서 코어(Processor Core), 멀티프로세서(Multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array) 등의 처리 장치를 망라할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다.
메모리(113)는 인공 신경망 학습 장치(110)가 처리하는 데이터를 일시적 또는 영구적으로 저장하는 기능을 수행한다. 메모리는 자기 저장 매체(Magnetic Storage Media) 또는 플래시 저장 매체(Flash Storage Media)를 포함할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다.
가령 메모리(113)는 소정의 방식에 따라 전처리된 학습 데이터를 일시적 및/또는 영구적으로 저장할 수 있다. 물론 메모리(113)는 전처리 이전의 구조화된 학습 데이터도 저장할 수 있다. 다만 이는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.
도 3 및 도 4는 본 발명의 인공 신경망 학습 장치(110)에 의해 학습되는 인공 신경망의 예시적인 구조를 설명하기 위한 도면이다.
본 발명의 일 실시예에 따른 인공 신경망은 도 3에 도시된 바와 같은 합성 곱 인공 신경망(CNN: Convolutional Neural Network) 모델에 따른 인공 신경망일 수 있다. 이때 CNN 모델은 복수의 연산 레이어(Convolutional Layer, Pooling Layer)를 번갈아 수행하여 최종적으로는 입력 데이터의 특징을 추출하는 데 사용되는 계층 모델일 수 있다.
본 발명의 일 실시예에 따른 제어부(112)는 학습 데이터를 지도학습(Supervised Learning) 기법에 따라 처리하여 인공 신경망 모델을 구축하거나 학습시킬 수 있다.
본 발명의 일 실시예에 따른 제어부(112)는 입력 데이터의 특징 값을 추출하기 위한 컨볼루션 레이어(Convolution layer), 추출된 특징 값을 결합하여 특징 맵을 구성하는 풀링 레이어(pooling layer)를 생성할 수 있다.
또한 본 발명의 일 실시예에 따른 제어부(112)는 생성된 특징 맵을 결합하여, 입력 데이터가 복수의 항목 각각에 해당할 확률을 결정할 준비를 하는 풀리 커넥티드 레이어(Fully Conected Layer)를 생성할 수 있다.
마지막으로 제어부(112)는 입력 데이터가 복수의 항목 각각에 해당할 확률을 포함하는 아웃풋 레이어(Output Layer)를 산출할 수 있다.
도 3에 도시된 예시에서는, 입력 데이터가 이미지 형태의 데이터로, 5X7 형태의 블록으로 나누어지며, 컨볼루션 레이어의 생성에 5X3 형태의 단위 블록이 사용되고, 풀링 레이어의 생성에 1X4 또는 1X2 형태의 단위 블록이 사용되는 것으로 도시되었지만, 이는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다. 따라서 입력 데이터의 종류 및/또는 각 블록의 크기는 다양하게 구성될 수 있다.
한편 이와 같은 인공 신경망은 전술한 메모리(113)에 인공 신경망을 구성하는 적어도 하나의 노드의 계수, 노드의 가중치 및 인공 신경망을 구성하는 복수의 레이어 간의 관계를 정의하는 함수의 계수들의 형태로 저장될 수 있다. 물론 인공 신경망의 구조 또한 메모리(113)에 소스코드 및/또는 프로그램의 형태로 저장될 수 있다.
본 발명의 일 실시예에 따른 인공 신경망은 도 4에 도시된 바와 같은 순환 인공 신경망(Recurrent Neural Network, RNN) 모델에 따른 인공 신경망일 수 있다.
도 4를 참조하면, 이와 같은 순환 인공 신경망(RNN) 모델에 따른 인공 신경망은 적어도 하나의 입력 노드(N1)를 포함하는 입력 레이어(L1), 복수의 히든 노드(N2)를 포함하는 히든 레이어(L2) 및 적어도 하나의 출력 노드(N3)를 포함하는 출력 레이어(L3)를 포함할 수 있다. 이때 입력 레이어(L1)의 적어도 하나의 입력 노드(N1)에는 제어부(112)가 획득한 입력 데이터에 대응되는 값들이 입력될 수 있다.
히든 레이어(L2)는 도시된 바와 같이 전체적으로 연결된(Fully Connected) 하나 이상의 레이어를 포함할 수 있다. 히든 레이어(L2)가 복수의 레이어를 포함하는 경우, 인공 신경망은 각각의 히든 레이어 사이의 관계를 정의하는 함수(미도시)를 포함할 수 있다.
출력 레이어(L3)의 적어도 하나의 출력 노드(N3)는 제어부(112)의 제어에 따라 인공 신경망이 입력 레이어(L1)의 입력 값으로부터 생성한 출력 값을 포함할 수 있다.
각 레이어의 각 노드에 포함되는 값은 벡터일 수 있다. 또한 각 노드는 해당 노드의 중요도에 대응되는 가중치를 포함할 수도 있다.
한편 인공 신경망은 입력 레이어(L1)와 히든 레이어(L2)의 관계를 정의하는 제1 함수(F1) 및 히든 레이어(L2)와 출력 레이어(L3)의 관계를 정의하는 제2 함수(F2)를 포함할 수 있다.
제1 함수(F1)는 입력 레이어(L1)에 포함되는 입력 노드(N1)와 히든 레이어(L2)에 포함되는 히든 노드(N2)간의 연결관계를 정의할 수 있다. 이와 유사하게, 제2 함수(F2)는 히든 레이어(L2)에 포함되는 히든 노드(N2)와 출력 레이어(L2)에 포함되는 출력 노드(N2)간의 연결관계를 정의할 수 있다.
이와 같은 제1 함수(F1), 제2 함수(F2) 및 히든 레이어 사이의 함수들은 이전 노드의 입력에 기초하여 결과물을 출력하는 순환 인공 신경망 모델을 포함할 수 있다.
제어부(112)에 의해 인공 신경망이 학습되는 과정에서, 복수의 학습 데이터(또는 전처리된 학습 데이터)에 기초하여 제1 함수(F1) 및 제2 함수(F2)가 학습될 수 있다. 물론 인공 신경망이 학습되는 과정에서 전술한 제1 함수(F1) 및 제2 함수(F2) 외에 복수의 히든 레이어 사이의 함수들 또한 학습될 수 있다.
본 발명의 일 실시예에 따른 인공 신경망은 표지(Labeled)된 학습 데이터를 기반으로 지도학습(Supervised Learning) 방식으로 학습될 수 있다.
본 발명의 일 실시예에 따른 제어부(112)는 복수의 학습 데이터(또는 전처리된 학습 데이터)를 이용하여, 어느 하나의 입력 데이터를 인공 신경망에 입력하여 생성된 출력 값이 해당 학습 데이터에 표지된 값에 근접하도록 전술한 함수들(F1, F2, 히든 레이어 사이의 함수들 등)을 갱신하는 과정을 반복하여 수행함으로써 인공 신경망을 학습시킬 수 있다.
이때 본 발명의 일 실시예에 따른 제어부(112)는 역전파(Back Propagation) 알고리즘에 따라 전술한 함수들(F1, F2, 히든 레이어 사이의 함수들 등)을 갱신할 수 있다. 다만 이는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다.
한편 도 3 및 도 4에서 설명한 인공 신경망의 종류 및/또는 구조는 예시적인 것으로 본 발명의 사상이 이에 한정되는 것은 아니다. 따라서 다양한 종류의 모델의 인공 신경망이 명세서를 통하여 설명하는 '인공 신경망'에 해당할 수 있다.
이하에서는 제어부(112)가 전처리 학습 데이터를 생성하는 과정을 중심으로 설명한다.
본 발명의 일 실시예에 따른 제어부(112)는 하나 이상의 데이터를 포함하는 구조화된 학습 데이터를 수신할 수 있다. 이때 '하나 이상의 데이터'는 구조화된 학습 데이터를 구성하는 개별 데이터를 의미할 수 있다.
선택적 실시예에서, 본 발명의 일 실시예에 따른 제어부(112)는 수신된 학습 데이터에서 구조화된 학습 데이터 만을 선별하여 후술하는 과정에 따라 전처리 학습 데이터의 형태로 변환할 수 있다.
제어부(112)는 전술한 사용자 단말(200)로부터 구조화된 학습 데이터를 수신할 수도 있고, 메모리(113)로부터 수신(또는 독출)할 수 있다.
본 발명의 일 실시예에 따른 제어부(112)는 수신된 학습 데이터의 구조화 형태를 식별할 수 있다.
일 실시예에서 제어부(112)는 구조화된 학습 데이터의 구조화 형태가 표(表) 형태인지 식별할 수 있다. 또한 제어부(112)는 구조화된 학습 데이터의 구조화 형태가 개조식(個條式) 형태인지 식별할 수도 있다. 다만 이와 같은 구조화 형태는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.
본 발명의 일 실시예에 따른 제어부(112)는 상술한 과정에 따라 식별된 구조화 형태를 참조하여, 구조화 데이터에 포함되는 하나 이상의 데이터 각각의 레벨에 대응되는 레벨 문자를 결정할 수 있다. 또한 하나 이상의 데이터와 하나 이상의 데이터 각각의 레벨 문자가 소정의 형태로 나열된 전처리 학습 데이터를 생성할 수 있다.
이하에서는 도 5a 및 도 5b를 참조하여 제어부(112)가 표 데이터로부터 전처리 학습 데이터를 생성하는 과정을 설명한다.
설명의 편의를 위해, 구조화된 학습 데이터가 도 5a에 도시된 바와 같이 하나 이상의 행 및 하나 이상의 열로 이루어 지고, 복수의 개별 데이터(511 내지 518)를 포함하는 표 데이터(510)임을 전제로 설명한다. 또한 이러한 표 데이터(510)가 제1 데이터(511), 제1 데이터(511)와 동일한 행에 위치하고 제1 데이터(511)와 인접하는 열에 위치하는 제2 데이터(512), 제1 데이터(511)와 동일한 행의 제일 마지막 열에 위치하는 제3 데이터(514) 및 제1 데이터(511)의 다음 행의 가장 첫 열에 위치하는 제4 데이터(515)를 포함하는 것을 전제로 설명한다.
상술한 가정 하에, 제어부(112)는 도 5a의 데이터(510)의 구조화 형태를 '표 형태'로 식별할 수 있다. 또한 제어부(112)는 제1 데이터(511)를 고려하여, 제2 데이터(512)의 레벨 문자를 제1 문자로 결정할 수 있다. 이때 제1 문자는 열 바꿈에 대응되는 문자로 가령 "#"일 수 있다.
선택적 실시예에서, 제어부(112)는 표 데이터(510) 내에서의 제2 데이터(512)의 위치를 고려하여, 제2 데이터(512)의 레벨 문자를 제1 문자로 결정할 수도 있다. 이러한 경우 제어부(112)는 제2 데이터(512)와 같은 각 개별 데이터의 행/열을 식별하여 레벨 문자를 결정할 수 있다.
마찬가지 방법으로 제어부(112)는 제2 데이터(512)를 고려하거나, 데이터의 행/열을 고려하여, 다음 데이터(513)의 레벨 문자를 제1 문자로 결정할 수 있다.
가령 제어부(112)는 도 5b에 도시된바와 같이 "[제1 데이터("구분")] [제1 문자("#")] [제2 데이터("일반 기업")].."과 같이 데이터와 레벨 문자가 나열된 전처리 학습 데이터(520)를 생성할 수 있다.
한편 제어부(112)는 제3 데이터(514)를 고려하여, 제4 데이터(515)의 레벨 문자를 제2 문자로 결정할 수 있다. 이때 제2 문자는 행 바꿈에 대응되는 문자로 가령 "@"일 수 있다.
가령 제어부(112)는 도 5b에 도시된바와 같이 "[제3 데이터("선정 기업")] [제2 문자("@")] [제4 데이터("최대 한도")].."와 같이 데이터와 레벨 문자가 나열된 전처리 학습 데이터(520)를 생성할 수 있다.
이와 같이 본 발명은 각 데이터의 구조화 정보를 레벨 문자로 변환하고, 변환된 문자를 학습 데이터에 포함시켜, 데이터의 구조화 정보까지 인공 신경망의 학습에 사용될 수 있도록 한다.
특히 본 발명은 표 형태의 데이터에 있어서, 각 개별 데이터의 행/열 정보를 문자의 형태로 변환하여 학습 데이터에 포함시켜, 해당 데이터의 학습에 있어서 행/열의 정보까지 고려하여 학습이 이루어 지도록 할 수 있다.
이하에서는 도 6a 및 도 6b를 참조하여 제어부(112)가 개조식 데이터(610)로부터 전처리 학습 데이터를 생성하는 과정을 설명한다.
설명의 편의를 위해, 구조화된 학습 데이터가 도 6a에 도시된 바와 같이 하나 이상의 레벨(또는 수준)을 포함하고, 복수의 개별 데이터(611 내지 616)를 포함하는 개조식 데이터(610)임을 전제로 설명한다.
또한 이러한 개조식 데이터(610)가 제1 레벨의 제5 데이터(611), 제5 데이터(611)의 하위 데이터로 제2 레벨의 데이터인 제6 데이터(612) 및 제6 데이터(612)의 이후 데이터로 제1 레벨인 제7 데이터(616)를 포함하는 것을 전제로 설명한다.
먼저 제어부(112)는 도 6a의 데이터(610)의 구조화 형태를 '개조식 형태'로 식별할 수 있다. 또한 제어부(112)는 제5 데이터(611)를 고려하여, 제6 데이터(612)의 레벨 문자를 제4 문자로 결정할 수 있다. 이때 제4 문자는 제2 레벨에 대응되는 문자로 가령 ";;"일 수 있다.
선택적 실시예에서, 제어부(112)는 개조식 데이터(610) 내에서의 제6 데이터(612)의 절대적 레벨(또는 수준)을 고려하여 제6 데이터(612)의 레벨 문자를 제4 문자로 결정할 수도 있다. 이러한 경우 제어부(112)는 제6 데이터(612)와 같은 각 개별 데이터의 레벨 또는 수준을 식별하여 레벨 문자를 결정할 수 있다.
마찬가지 방법으로 제어부(112)는 제6 데이터(612)를 고려하거나, 데이터의 행/열을 고려하여, 다음 데이터(613)의 레벨 문자를 ";;;"로 결정할 수 있다.
가령 제어부(112)는 도 6b에 도시된바와 같이 "[제5 데이터("수수료 등 비용")][제3 문자";"][제6 데이터("근저당권 설정비용")][제4 문자(";;")].."과 같이 데이터와 레벨 문자가 나열된 전처리 학습 데이터(620)를 생성할 수 있다.
한편 제어부(112)는 제6 데이터(612)를 고려하여, 제7 데이터(616)의 레벨 문자를 제3 문자로 결정할 수 있다. 이때 제3 문자는 제1 레벨에 대응되는 문자로 가령 ";"일 수 있다.
이와 같이 본 발명은 각 데이터의 구조화 정보를 레벨 문자로 변환하고, 변환된 문자를 학습 데이터에 포함시켜, 데이터의 구조화 정보까지 인공 신경망의 학습에 사용될 수 있도록 한다.
특히 본 발명은 개조식 형태의 데이터에 있어서, 각 개별 데이터의 레벨 정보를 문자의 형태로 변환하여 학습 데이터에 포함시켜, 해당 데이터의 학습에 있어서 레벨 정보까지 고려하여 학습이 이루어 지도록 할 수 있다.
도 7은 본 발명의 일 실시예에 따른 인공 신경망 학습 장치(110)에 의해 수행되는 학습 데이터의 전처리 방법을 설명하기 위한 흐름도이다. 이하에서는 도 1 내지 도 6b에서 설명한 내용되 중복되는 내용의 설명은 생략하되, 도 1 내지 도 6b를 함께 참조하여 설명한다.
본 발명의 일 실시예에 따른 인공 신경망 학습 장치(110)는 하나 이상의 데이터를 포함하는 구조화된 학습 데이터를 수신할 수 있다.(S71) 이때 '하나 이상의 데이터'는 구조화된 학습 데이터를 구성하는 개별 데이터를 의미할 수 있다.
선택적 실시예에서, 본 발명의 일 실시예에 따른 인공 신경망 학습 장치(110)는 수신된 학습 데이터에서 구조화된 학습 데이터 만을 선별하여 후술하는 과정에 따라 전처리 학습 데이터의 형태로 변환할 수 있다.
인공 신경망 학습 장치(110)는 전술한 사용자 단말(200)로부터 구조화된 학습 데이터를 수신할 수도 있고, 메모리(113)로부터 수신(또는 독출)할 수 있다.
본 발명의 일 실시예에 따른 인공 신경망 학습 장치(110)는 수신된 학습 데이터의 구조화 형태를 식별할 수 있다.(S72)
일 실시예에서 인공 신경망 학습 장치(110)는 구조화된 학습 데이터의 구조화 형태가 표(表) 형태인지 식별할 수 있다. 또한 인공 신경망 학습 장치(110)는 구조화된 학습 데이터의 구조화 형태가 개조식(個條式) 형태인지 식별할 수도 있다. 다만 이와 같은 구조화 형태는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.
본 발명의 일 실시예에 따른 인공 신경망 학습 장치(110)는 상술한 과정에 따라 식별된 구조화 형태를 참조하여, 구조화 데이터에 포함되는 하나 이상의 데이터 각각의 레벨에 대응되는 레벨 문자를 결정할 수 있다.(S73) 또한 하나 이상의 데이터와 하나 이상의 데이터 각각의 레벨 문자가 소정의 형태로 나열된 전처리 학습 데이터를 생성할 수 있다.(S74)
이하에서는 도 5a 및 도 5b를 다시 참조하여 단계 S72 내지 단계 S74를 설명한다. 설명의 편의를 위해, 구조화된 학습 데이터가 도 5a에 도시된 바와 같이 하나 이상의 행 및 하나 이상의 열로 이루어 지고, 복수의 개별 데이터(511 내지 518)를 포함하는 표 데이터(510)임을 전제로 설명한다. 또한 이러한 표 데이터(510)가 제1 데이터(511), 제1 데이터(511)와 동일한 행에 위치하고 제1 데이터(511)와 인접하는 열에 위치하는 제2 데이터(512), 제1 데이터(511)와 동일한 행의 제일 마지막 열에 위치하는 제3 데이터(514) 및 제1 데이터(511)의 다음 행의 가장 첫 열에 위치하는 제4 데이터(515)를 포함하는 것을 전제로 설명한다.
상술한 가정 하에, 인공 신경망 학습 장치(110)는 도 5a의 데이터(510)의 구조화 형태를 '표 형태'로 식별할 수 있다. 또한 인공 신경망 학습 장치(110)는 제1 데이터(511)를 고려하여, 제2 데이터(512)의 레벨 문자를 제1 문자로 결정할 수 있다. 이때 제1 문자는 열 바꿈에 대응되는 문자로 가령 "#"일 수 있다.
선택적 실시예에서, 인공 신경망 학습 장치(110)는 표 데이터(510) 내에서의 제2 데이터(512)의 위치를 고려하여, 제2 데이터(512)의 레벨 문자를 제1 문자로 결정할 수도 있다. 이러한 경우 인공 신경망 학습 장치(110)는 제2 데이터(512)와 같은 각 개별 데이터의 행/열을 식별하여 레벨 문자를 결정할 수 있다.
마찬가지 방법으로 인공 신경망 학습 장치(110)는 제2 데이터(512)를 고려하거나, 데이터의 행/열을 고려하여, 다음 데이터(513)의 레벨 문자를 제1 문자로 결정할 수 있다.
가령 인공 신경망 학습 장치(110)는 도 5b에 도시된바와 같이 "[제1 데이터("구분")] [제1 문자("#")] [제2 데이터("일반 기업")].."과 같이 데이터와 레벨 문자가 나열된 전처리 학습 데이터(520)를 생성할 수 있다.
한편 인공 신경망 학습 장치(110)는 제3 데이터(514)를 고려하여, 제4 데이터(515)의 레벨 문자를 제2 문자로 결정할 수 있다. 이때 제2 문자는 행 바꿈에 대응되는 문자로 가령 "@"일 수 있다.
가령 인공 신경망 학습 장치(110)는 도 5b에 도시된바와 같이 "[제3 데이터("선정 기업")] [제2 문자("@")] [제4 데이터("최대 한도")].."와 같이 데이터와 레벨 문자가 나열된 전처리 학습 데이터(520)를 생성할 수 있다.
이와 같이 본 발명은 각 데이터의 구조화 정보를 레벨 문자로 변환하고, 변환된 문자를 학습 데이터에 포함시켜, 데이터의 구조화 정보까지 인공 신경망의 학습에 사용될 수 있도록 한다.
특히 본 발명은 표 형태의 데이터에 있어서, 각 개별 데이터의 행/열 정보를 문자의 형태로 변환하여 학습 데이터에 포함시켜, 해당 데이터의 학습에 있어서 행/열의 정보까지 고려하여 학습이 이루어 지도록 할 수 있다.
이하에서는 도 6a 및 도 6b를 다시 참조하여 단계 S72 내지 단계 S74를 설명한다. 설명의 편의를 위해, 구조화된 학습 데이터가 도 6a에 도시된 바와 같이 하나 이상의 레벨(또는 수준)을 포함하고, 복수의 개별 데이터(611 내지 616)를 포함하는 개조식 데이터(610)임을 전제로 설명한다.
또한 이러한 개조식 데이터(610)가 제1 레벨의 제5 데이터(611), 제5 데이터(611)의 하위 데이터로 제2 레벨의 데이터인 제6 데이터(612) 및 제6 데이터(612)의 이후 데이터로 제1 레벨인 제7 데이터(616)를 포함하는 것을 전제로 설명한다.
먼저 인공 신경망 학습 장치(110)는 도 6a의 데이터(610)의 구조화 형태를 '개조식 형태'로 식별할 수 있다. 또한 인공 신경망 학습 장치(110)는 제5 데이터(611)를 고려하여, 제6 데이터(612)의 레벨 문자를 제4 문자로 결정할 수 있다. 이때 제4 문자는 제2 레벨에 대응되는 문자로 가령 ";;"일 수 있다.
선택적 실시예에서, 인공 신경망 학습 장치(110)는 개조식 데이터(610) 내에서의 제6 데이터(612)의 절대적 레벨(또는 수준)을 고려하여 제6 데이터(612)의 레벨 문자를 제4 문자로 결정할 수도 있다. 이러한 경우 인공 신경망 학습 장치(110)는 제6 데이터(612)와 같은 각 개별 데이터의 레벨 또는 수준을 식별하여 레벨 문자를 결정할 수 있다.
마찬가지 방법으로 인공 신경망 학습 장치(110)는 제6 데이터(612)를 고려하거나, 데이터의 행/열을 고려하여, 다음 데이터(613)의 레벨 문자를 ";;;"로 결정할 수 있다.
가령 인공 신경망 학습 장치(110)는 도 6b에 도시된바와 같이 "[제5 데이터("수수료 등 비용")][제3 문자";"][제6 데이터("근저당권 설정비용")][제4 문자(";;")].."과 같이 데이터와 레벨 문자가 나열된 전처리 학습 데이터(620)를 생성할 수 있다.
한편 인공 신경망 학습 장치(110)는 제6 데이터(612)를 고려하여, 제7 데이터(616)의 레벨 문자를 제3 문자로 결정할 수 있다. 이때 제3 문자는 제1 레벨에 대응되는 문자로 가령 ";"일 수 있다.
이와 같이 본 발명은 각 데이터의 구조화 정보를 레벨 문자로 변환하고, 변환된 문자를 학습 데이터에 포함시켜, 데이터의 구조화 정보까지 인공 신경망의 학습에 사용될 수 있도록 한다.
특히 본 발명은 개조식 형태의 데이터에 있어서, 각 개별 데이터의 레벨 정보를 문자의 형태로 변환하여 학습 데이터에 포함시켜, 해당 데이터의 학습에 있어서 레벨 정보까지 고려하여 학습이 이루어 지도록 할 수 있다.
도 8은 본 발명의 일 실시예에 따른 인공 신경망 학습 장치(110)에 의해 수행되는 구조화된 학습 데이터를 이용하여 인공 신경망 학습 방법을 설명하기 위한 흐름도이다.
본 발명의 일 실시예에 따른 인공 신경망 학습 장치(110)는 구조화된 학습 데이터에 포함되는 하나 이상의 데이터 및 하나 이상의 데이터 각각의 레벨 문자가 소정의 형태로 나열된 전처리 학습 데이터를 생성할 수 있다.(S81) 구조화된 학습 데이터로부터 전처리 학습 데이터를 생성하는 과정은 도 1 내지 도 7에서 설명하였으므로, 이에 대한 상세한 설명은 생략한다.
이어서 본 발명의 일 실시예에 따른 인공 신경망 학습 장치(110)는 인공 신경망의 학습을 위한 질의 및 이러한 질의에 대한 답변을 획득할 수 있다.(S82) 이때 답변은 전처리 학습 데이터를 구성하는 적어도 일부 문자열의 범위의 형태로 획득될 수 있다.
가령 구조화된 학습 데이터가 도 5a에 도시된 표 데이터(510)이고, 질의가 "주거래 기업의 최대 한도는 얼마인가?"인 경우, 답변은 전처리 학습 데이터(520)를 구성하는 일부 문자열인 "#2억원"의 형태로 획득될 수 있다.
인공 신경망의 학습에 사용되는 질의는 사용자에 의해 생성된 것이거나 질의를 생성하는 별도의 인공 신경망(미도시)에 의해 생성된 것일 수 있다. 한편 인공 신경망의 학습에 사용되는 답변은 사용자에 의해 입력(또는 선택)된 것일 수 있다.
본 발명의 일 실시예에 따른 인공 신경망 학습 장치(110)는 획득된 전처리 학습 데이터, 질의 및 문자열의 범위(즉 답변)에 기초하여 인공 신경망을 학습시킬 수 있다.(S83)
보다 구체적으로, 본 발명의 일 실시예에 따른 인공 신경망 학습 장치(110)는 답변에 포함되는 데이터와 연관된 적어도 하나의 데이터를 참조하여 인공 신경망을 학습시킬 수 있다.
가령 답변으로써 획득한 적어도 일부 문자열의 범위 내에 전처리 학습 데이터에 포함되는 제8 데이터 및 상기 제8 데이터의 레벨 문자가 포함되는 경우, 인공 신경망 학습 장치(110)는 제8 데이터의 레벨 문자를 고려하여, 제8 데이터와 연관된 적어도 하나의 제9 데이터를 함께 참조하여 인공 신경망을 학습시킬 수 있다.
전술한 예시에서와 같이 구조화된 학습 데이터가 도 5a에 도시된 표 데이터(510)이고, 질의가 "주거래 기업의 최대 한도는 얼마인가?"인 경우, 답변은 전처리 학습 데이터(520)를 구성하는 일부 문자열인 "#2억원"의 형태로 획득되었다고 가정해 보자. 이러한 경우 인공 신경망 학습 장치(110)는 제8 데이터("2억원") 및 제8 데이터의 레벨 문자("#")를 고려하여, 제8 데이터와 연관된 제9 데이터("주거래 기업" 및 "최대 한도") 및 제9 데이터의 레벨 문자를 함께 참조하여 인공 신경망을 학습시킬 수 있다. 다만 인공 신경망 학습 장치(110)가 참조하는 제9 데이터의 종류 및/또는 위치가 정형화된 규칙에 따라 결정되는 것은 아니며, 상술한 제9 데이터는 예시적인 것에 불과하다.
이상 설명된 본 발명에 따른 실시예는 컴퓨터 상에서 다양한 구성요소를 통하여 실행될 수 있는 컴퓨터 프로그램의 형태로 구현될 수 있으며, 이와 같은 컴퓨터 프로그램은 컴퓨터로 판독 가능한 매체에 기록될 수 있다. 이때, 매체는 컴퓨터로 실행 가능한 프로그램을 저장하는 것일 수 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다.
한편, 상기 컴퓨터 프로그램은 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 프로그램의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함될 수 있다.
본 발명에서 설명하는 특정 실행들은 일 실시 예들로서, 어떠한 방법으로도 본 발명의 범위를 한정하는 것은 아니다. 명세서의 간결함을 위하여, 종래 전자적인 구성들, 제어 시스템들, 소프트웨어, 상기 시스템들의 다른 기능적인 측면들의 기재는 생략될 수 있다. 또한, 도면에 도시된 구성 요소들 간의 선들의 연결 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것으로서, 실제 장치에서는 대체 가능하거나 추가의 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들로서 나타내어질 수 있다. 또한, "필수적인", "중요하게" 등과 같이 구체적인 언급이 없다면 본 발명의 적용을 위하여 반드시 필요한 구성 요소가 아닐 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 또는 이로부터 등가적으로 변경된 모든 범위는 본 발명의 사상의 범주에 속한다고 할 것이다.
100: 인공 신경망 학습 서버
110: 인공 신경망 학습 장치
111: 통신부
112: 제어부
113: 메모리
200: 사용자 단말
400: 통신망

Claims (3)

  1. 서버에 의해 수행되며, 데이터의 구조화 정보를 레벨 문자의 형태로 학습 데이터에 포함시키는 구조화된 학습 데이터를 포함하는 학습 데이터의 전처리 방법에 있어서,
    수신된 학습 데이터에서 구조화된 학습 데이터를 선별하는 단계로써, 상기 수신된 학습 데이터는 상기 구조화된 학습 데이터 및 하나 이상의 다른 타입의 학습 데이터를 포함하고, 상기 구조화된 학습 데이터는 하나 이상의 데이터를 포함하는 데이터이고;
    상기 구조화된 학습 데이터의 구조화 형태를 식별하는 단계;
    상기 구조화 형태를 참조하여, 상기 하나 이상의 데이터 각각의 레벨에 대응되는 레벨 문자를 결정하는 단계; 및
    상기 하나 이상의 데이터 및 상기 하나 이상의 데이터 각각의 레벨 문자가 소정의 형태로 나열된 전처리 학습 데이터를 생성하는 단계;를 포함하는, 학습 데이터의 전처리 방법.
  2. 청구항 1에 있어서
    상기 구조화된 학습 데이터는 하나 이상의 행 및 하나 이상의 열로 이루어 지는 표 데이터이고,
    제1 데이터, 상기 제1 데이터와 동일한 행에 위치하고 상기 제1 데이터와 인접하는 열에 위치하는 제2 데이터, 상기 제1 데이터와 동일한 행의 제일 마지막 열에 위치하는 제3 데이터 및 상기 제1 데이터의 다음 행의 가장 첫 열에 위치하는 제4 데이터를 포함하고,
    상기 학습 데이터의 구조화 형태를 식별하는 단계는
    상기 구조화된 학습 데이터의 구조화 형태를 표 형태로 식별하고,
    상기 레벨 문자를 결정하는 단계는
    상기 제1 데이터를 고려하여, 상기 제2 데이터의 레벨 문자를 제1 문자로 결정하고, 상기 제1 문자는 열 바꿈에 대응되는 문자이고,
    상기 제3 데이터를 고려하여, 상기 제4 데이터의 레벨 문자를 제2 문자로 결정하고, 상기 제2 문자는 상기 제1 문자와 상이한 문자로, 행 바꿈에 대응되는 문자인, 학습 데이터의 전처리 방법.
  3. 청구항 1에 있어서
    상기 구조화된 학습 데이터는 하나 이상의 레벨로 이루어지는 개조식 데이터 이고,
    상기 구조화된 학습 데이터는 제1 레벨의 제5 데이터, 상기 제5 데이터의 하위 데이터로 제2 레벨의 데이터인 제6 데이터 및 상기 제6 데이터의 이후 데이터로 상기 제1 레벨인 제7 데이터를 포함하고,
    상기 학습 데이터의 구조화 형태를 식별하는 단계는
    상기 구조화된 학습 데이터의 구조화 형태를 개조식 형태로 식별하고,
    상기 레벨 문자를 결정하는 단계는
    상기 제5 데이터를 고려하여, 상기 제6 데이터의 레벨 문자를 제4 문자로 결정하고, 상기 제4 문자는 상기 제2 레벨에 대응되는 문자이고,
    상기 제6 데이터를 고려하여, 상기 제7 데이터의 레벨 문자를 제3 문자로 결정하고, 상기 제3 문자는 상기 제4 문자와 상이한 문자로 상기 제1 레벨에 대응되는 문자인, 학습 데이터의 전처리 방법.
KR1020210149895A 2018-05-31 2021-11-03 구조화된 학습 데이터의 전처리 방법 KR102430548B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR20180062905 2018-05-31
KR1020180062905 2018-05-31
KR1020190064067A KR102329290B1 (ko) 2018-05-31 2019-05-30 구조화된 학습 데이터의 전처리 방법 및 이를 이용한 인공 신경망 학습 방법

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020190064067A Division KR102329290B1 (ko) 2018-05-31 2019-05-30 구조화된 학습 데이터의 전처리 방법 및 이를 이용한 인공 신경망 학습 방법

Publications (2)

Publication Number Publication Date
KR20210134586A KR20210134586A (ko) 2021-11-10
KR102430548B1 true KR102430548B1 (ko) 2022-08-09

Family

ID=69002584

Family Applications (5)

Application Number Title Priority Date Filing Date
KR1020190064067A KR102329290B1 (ko) 2018-05-31 2019-05-30 구조화된 학습 데이터의 전처리 방법 및 이를 이용한 인공 신경망 학습 방법
KR1020210149895A KR102430548B1 (ko) 2018-05-31 2021-11-03 구조화된 학습 데이터의 전처리 방법
KR1020210149898A KR102408186B1 (ko) 2018-05-31 2021-11-03 구조화된 학습 데이터의 전처리 방법
KR1020210149896A KR102408189B1 (ko) 2018-05-31 2021-11-03 인공 신경망의 학습을 위해 표 형태의 데이터를 전처리 하는 방법
KR1020210149897A KR102408185B1 (ko) 2018-05-31 2021-11-03 인공 신경망의 학습을 위해 개조식 형태의 데이터를 전처리 하는 방법

Family Applications Before (1)

Application Number Title Priority Date Filing Date
KR1020190064067A KR102329290B1 (ko) 2018-05-31 2019-05-30 구조화된 학습 데이터의 전처리 방법 및 이를 이용한 인공 신경망 학습 방법

Family Applications After (3)

Application Number Title Priority Date Filing Date
KR1020210149898A KR102408186B1 (ko) 2018-05-31 2021-11-03 구조화된 학습 데이터의 전처리 방법
KR1020210149896A KR102408189B1 (ko) 2018-05-31 2021-11-03 인공 신경망의 학습을 위해 표 형태의 데이터를 전처리 하는 방법
KR1020210149897A KR102408185B1 (ko) 2018-05-31 2021-11-03 인공 신경망의 학습을 위해 개조식 형태의 데이터를 전처리 하는 방법

Country Status (1)

Country Link
KR (5) KR102329290B1 (ko)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003308327A (ja) * 2002-04-12 2003-10-31 Mitsubishi Electric Corp 構造化文書種別判定システム及び構造化文書種別判定方法
KR100835307B1 (ko) 2006-12-08 2008-06-04 부산대학교 산학협력단 웹상의 스케줄 정보 수집을 위한 에이전트 시스템 및 방법
KR100911620B1 (ko) * 2007-12-11 2009-08-12 한국전자통신연구원 웹 문서 구조정보 추출 방법 및 시스템

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100972479B1 (ko) * 2008-07-25 2010-07-26 에스케이커뮤니케이션즈 주식회사 기계학습을 통한 데이터베이스 생성 방법, 이를 이용한콘텐츠 추천 방법 및 콘텐츠 추천 시스템
JP5496853B2 (ja) 2010-10-29 2014-05-21 インターナショナル・ビジネス・マシーンズ・コーポレーション 構造化文書を分類するためのルールを生成するための方法、並びにそのコンピュータ・プログラム及びコンピュータ
KR101859369B1 (ko) * 2012-04-16 2018-06-27 삼성전자주식회사 데이터 프로세싱 방법 및 이를 이용한 데이터 프로세싱 유닛
JP6618735B2 (ja) * 2015-08-31 2019-12-11 国立研究開発法人情報通信研究機構 質問応答システムの訓練装置及びそのためのコンピュータプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003308327A (ja) * 2002-04-12 2003-10-31 Mitsubishi Electric Corp 構造化文書種別判定システム及び構造化文書種別判定方法
KR100835307B1 (ko) 2006-12-08 2008-06-04 부산대학교 산학협력단 웹상의 스케줄 정보 수집을 위한 에이전트 시스템 및 방법
KR100911620B1 (ko) * 2007-12-11 2009-08-12 한국전자통신연구원 웹 문서 구조정보 추출 방법 및 시스템

Also Published As

Publication number Publication date
KR102408189B1 (ko) 2022-06-13
KR20210134586A (ko) 2021-11-10
KR102408186B1 (ko) 2022-06-13
KR20210134587A (ko) 2021-11-10
KR20190137009A (ko) 2019-12-10
KR20210135450A (ko) 2021-11-15
KR102329290B1 (ko) 2021-11-22
KR20210134588A (ko) 2021-11-10
KR102408185B1 (ko) 2022-06-13

Similar Documents

Publication Publication Date Title
KR102400017B1 (ko) 객체를 식별하는 방법 및 디바이스
CN109002852B (zh) 图像处理方法、装置、计算机可读存储介质和计算机设备
KR102532749B1 (ko) 약한 지도 학습에 기초한 뉴럴 네트워크의 계층적 학습 방법 및 장치
CN105122279B (zh) 在识别系统中保守地适配深度神经网络
KR20190056720A (ko) 뉴럴 네트워크 학습 방법 및 디바이스
KR102177412B1 (ko) 이미지와 텍스트간 유사도 매칭 시스템 및 방법
US11010664B2 (en) Augmenting neural networks with hierarchical external memory
US11640634B2 (en) Deep learning based visual compatibility prediction for bundle recommendations
US20210042558A1 (en) Electronic device and operating method thereof
KR20190056940A (ko) 멀티모달 데이터 학습 방법 및 장치
JP6908302B2 (ja) 学習装置、識別装置及びプログラム
KR102264232B1 (ko) 단어, 문장 특징값 및 단어 가중치 간의 상관관계를 학습한 인공 신경망에 의해 생성된 설명이 부가된 문서 분류 방법
CN112418292B (zh) 一种图像质量评价的方法、装置、计算机设备及存储介质
KR20200074958A (ko) 뉴럴 네트워크 학습 방법 및 디바이스
CN115129848B (zh) 一种视觉问答任务的处理方法、装置、设备和介质
KR20200052446A (ko) 딥러닝 모델 학습 장치 및 방법
CN116664719A (zh) 一种图像重绘模型训练方法、图像重绘方法及装置
CN111046178A (zh) 一种文本序列生成方法及其系统
KR102430548B1 (ko) 구조화된 학습 데이터의 전처리 방법
CN115906861B (zh) 基于交互方面信息融合的语句情感分析方法以及装置
CN111814542A (zh) 地理对象的提取方法、装置及电子设备
US20230130662A1 (en) Method and apparatus for analyzing multimodal data
KR102168541B1 (ko) 제1 신경망을 이용한 제2 신경망 학습 방법 및 컴퓨터 프로그램
CN112132269B (zh) 模型处理方法、装置、设备及存储介质
CN112396069B (zh) 基于联合学习的语义边缘检测方法、装置、系统及介质

Legal Events

Date Code Title Description
A107 Divisional application of patent
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant