KR20210044056A - 중복 토큰 임베딩을 이용한 자연어 처리 방법 및 장치 - Google Patents

중복 토큰 임베딩을 이용한 자연어 처리 방법 및 장치 Download PDF

Info

Publication number
KR20210044056A
KR20210044056A KR1020190127148A KR20190127148A KR20210044056A KR 20210044056 A KR20210044056 A KR 20210044056A KR 1020190127148 A KR1020190127148 A KR 1020190127148A KR 20190127148 A KR20190127148 A KR 20190127148A KR 20210044056 A KR20210044056 A KR 20210044056A
Authority
KR
South Korea
Prior art keywords
vector
token
natural language
processor
encoding
Prior art date
Application number
KR1020190127148A
Other languages
English (en)
Inventor
강태균
이민중
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020190127148A priority Critical patent/KR20210044056A/ko
Priority to US16/812,600 priority patent/US11249756B2/en
Publication of KR20210044056A publication Critical patent/KR20210044056A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/30—Arrangements for executing machine instructions, e.g. instruction decode
    • G06F9/30003—Arrangements for executing specific machine instructions
    • G06F9/30007—Arrangements for executing specific machine instructions to perform operations on data operands
    • G06F9/30036—Instructions to perform operations on packed data, e.g. vector, tile or matrix operations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/284—Lexical analysis, e.g. tokenisation or collocates
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10—Complex mathematical operations
    • G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/216—Parsing using statistical methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G06F40/42—Data-driven translation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Mathematical Analysis (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Algebra (AREA)
  • Databases & Information Systems (AREA)
  • Machine Translation (AREA)
  • Probability & Statistics with Applications (AREA)

Abstract

자연어 처리 방법 및 장치가 개시된다. 일 실시예에 따른 자연어 처리 방법은, 자연어(natural language)를 토큰 벡터(token vector)로 변환하는 단계와, 상기 토큰 벡터의 반복 횟수(repetition count)를 계산하는 단계와, 상기 반복 횟수 및 상기 토큰 벡터의 위치에 기초하여 상기 토큰 벡터를 인코딩함으로써 입력 벡터를 생성하는 단계를 포함한다.

Description

중복 토큰 임베딩을 이용한 자연어 처리 방법 및 장치{NATURAL LANGUAGE PROCESSING METHOD AND APPRATUS USING REPETETION TOKEN EMBEDDING}
아래 실시예들은 중복 토큰 임베딩을 이용한 자연어 처리 방법 및 장치에 관한 것이다.
종래 뉴럴 네트워크를 이용한 자연어 처리에 있어서 포지셔널 인코딩(positional encoding) 기법을 이용하여 토큰(token) 간의 순서를 구분하지 못하는 문제를 해결하였다.
포지셔널 인코딩에서는 각 토큰의 시퀀스 내에서의 절대적인 순서를 삼각함수를 이용해 표현하거나 따로 정의된 가중치 행렬(weight matrix)을 이용하여 표현하는 방법을 사용하였다.
이후 포지셔널 임베딩(positional embedding)은 다양한 논문에서 각 토큰 사이의 거리에 기반하여 인코딩하는 상대적 포지셔널 인코딩(relative positional encoding)이 많이 연구되어 왔다.
기존 임베딩(embedding) 방식들은 주로 입력 토큰의 내용에 관계없이 전체 시퀀스 안에서 각 토큰의 절대적인 또는 상대적인 위치에 따라 결정되지만, 이전 히스토리에 따라 변화된 출력을 고려하지는 않았다.
종래 방식의 포지셔널 인코딩은 토큰의 히스토리를 고려하지 않아 글자, 단어 및 구 단위의 반복에 취약하다는 문제점을 가진다. 이에 따라, 실제 모델 추론(inference) 단계에서 어텐션(attention)이 기존 출력 히스토리를 고려하지 못할 경우 동일한 출력 시퀀스가 여러 번 반복되는 문제가 발생하고 있다.
일 실시예에 따른 자연어 처리 방법은, 자연어(natural language)를 토큰 벡터(token vector)로 변환하는 단계와, 상기 토큰 벡터의 반복 횟수(repetition count)를 계산하는 단계와, 상기 반복 횟수 및 상기 토큰 벡터의 위치에 기초하여 상기 토큰 벡터를 인코딩함으로써 입력 벡터를 생성하는 단계를 포함한다.
상기 계산하는 단계는, 상기 토큰 벡터의 단어 내에서의 지역 반복 횟수(local repetition count)를 계산하는 단계와, 상기 토큰 벡터의 문장 내에서의 전역 반복 횟수(global repetition count)를 계산하는 단계를 포함할 수 있다.
상기 입력 벡터를 생성하는 단계는, 상기 반복 횟수 및 상기 토큰 벡터의 위치에 기초하여 인코딩 벡터를 생성하는 단계와, 상기 인코딩 벡터에 기초하여 상기 토큰 벡터를 인코딩함으로써 상기 입력 벡터를 생성하는 단계를 포함할 수 있다.
상기 인코딩 벡터를 생성하는 단계는, 상기 토큰 벡터의 위치에 대응하는 함수 값을 계산하는 단계와, 상기 함수 값과 상기 반복 횟수를 더하여 상기 인코딩 벡터를 생성하는 단계를 포함할 수 있다.
상기 함수 값을 계산하는 단계는, 상기 토큰 벡터의 위치에 따른 정현파 함수(sinusoidal function) 값을 계산하는 단계를 포함할 수 있다.
상기 입력 벡터를 생성하는 단계는, 상기 인코딩 벡터와 상기 토큰 벡터에 대하여 원소별 덧셈(element-wise summation)을 수행하여 상기 입력 벡터를 생성하는 단계를 포함할 수 있다.
상기 입력 벡터를 생성하는 단계는, 상기 토큰 벡터가 반복되는 토큰 벡터일 경우, 상기 토큰 벡터를 상기 반복 횟수에 기초한 반복 횟수 벡터로 대체(replacement)하는 단계와, 반복 횟수 벡터로 대체된 토큰 벡터 및 상기 토큰 벡터의 위치에 기초하여 상기 입력 벡터를 생성하는 단계를 포함할 수 있다.
상기 입력 벡터를 생성하는 단계는, 상기 토큰 벡터의 위치에 대응하는 함수 값을 계산하는 단계와, 상기 반복 횟수 벡터로 대체된 토큰 벡터에 상기 함수 값을 더하여 상기 입력 벡터를 생성하는 단계를 포함할 수 있다.
상기 입력 벡터를 뉴럴 네트워크에 입력하여 상기 자연어를 텍스트(text)로 출력하는 단계를 더 포함할 수 있다.
상기 입력 벡터를 이용하여 뉴럴 네트워크를 학습시키는 단계를 더 포함할 수 있다.
일 실시예에 따른 자연어 처리 장치는, 자연어(natural language)를 토큰 벡터(token vector)로 변환하고, 상기 토큰 벡터의 반복 횟수(repetition count)를 계산하고, 상기 반복 횟수 및 상기 토큰 벡터의 위치에 기초하여 상기 토큰 벡터를 인코딩함으로써 입력 벡터를 생성하는 프로세서를 포함할 수 있다.
상기 프로세서는, 상기 토큰 벡터의 단어 내에서의 지역 반복 횟수(local repetition count)를 계산하고, 상기 토큰 벡터의 문장 내에서의 전역 반복 횟수(global repetition count)를 계산할 수 있다.
상기 프로세서는, 상기 반복 횟수 및 상기 토큰 벡터의 위치에 기초하여 인코딩 벡터를 생성하고, 상기 인코딩 벡터에 기초하여 상기 토큰 벡터를 인코딩함으로써 입력 벡터를 생성할 수 있다.
상기 프로세서는, 상기 토큰 벡터의 위치에 대응하는 함수 값을 계산하고, 상기 함수 값과 상기 반복 횟수를 더하여 상기 인코딩 벡터를 생성할 수 있다.
상기 프로세서는, 상기 토큰 벡터의 위치에 따른 정현파 함수(sinusoidal function) 값을 계산할 수 있다.
상기 프로세서는, 상기 인코딩 벡터와 상기 토큰 벡터에 대하여 원소별 덧셈(element-wise summation)을 수행하여 상기 입력 벡터를 생성할 수 있다.
상기 프로세서는, 상기 토큰 벡터가 반복되는 토큰 벡터일 경우, 상기 토큰 벡터를 상기 반복 횟수에 기초한 반복 횟수 벡터로 대체(replacement)하고, 반복 횟수 벡터로 대체된 토큰 벡터 및 상기 토큰 벡터의 위치에 기초하여 상기 입력 벡터를 생성할 수 있다.
상기 프로세서는, 상기 토큰 벡터의 위치에 대응하는 함수 값을 계산하고, 상기 반복 횟수 벡터로 대체된 토큰 벡터에 상기 함수 값을 더하여 상기 입력 벡터를 생성할 수 있다.
상기 프로세서는, 상기 입력 벡터를 뉴럴 네트워크에 입력하여 상기 자연어를 텍스트(text)로 출력할 수 있다.
상기 프로세서는, 상기 입력 벡터를 이용하여 뉴럴 네트워크를 학습시킬 수 있다.
도 1은 일 실시예에 따른 자연어 처리 장치의 개략적인 블록도를 나타낸다.
도 2는 도 1에 도시된 자연어 처리 장치가 자연어를 처리하는 동작의 순서를 나타낸다.
도 3은 도 1에 도시된 자연어 처리 장치의 인코딩 동작의 순서의 일 예를 나타낸다.
도 4는 도 1에 도시된 자연어 처리 장치가 수행하는 인코딩 동작의 일 예를 나타낸다.
도 5는 도 1에 도시된 자연어 처리 장치가 수행하는 인코딩 동작의 다른 예를 나타낸다.
도 6은 도 1에 도시된 자연어 처리 장치의 동작의 순서도를 나타낸다.
이하, 이하에서, 첨부된 도면을 참조하여 실시예들을 상세하게 설명한다. 그러나, 실시예들에는 다양한 변경이 가해질 수 있어서 특허출원의 권리 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 실시예들에 대한 모든 변경, 균등물 내지 대체물이 권리 범위에 포함되는 것으로 이해되어야 한다.
실시예에서 사용한 용어는 단지 설명을 목적으로 사용된 것으로, 한정하려는 의도로 해석되어서는 안된다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
제1 또는 제2등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 구성요소들은 용어들에 의해서 한정되어서는 안 된다. 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만, 예를 들어 실시예의 개념에 따른 권리 범위로부터 이탈되지 않은 채, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 실시예의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
도 1은 일 실시예에 따른 자연어 처리 장치의 개략적인 블록도를 나타낸다.
도 1을 참조하면, 자연어 처리 장치(10)는 자연어를 처리할 수 있다. 자연어는 인간의 언어를 포함할 수 있다. 인간의 언어는 인간의 생각, 느낌 따위를 나타내거나 전달하는데 쓰는 음성, 문자 따위의 수단, 또는 그 음성이나 문자 따위의 사회 관습적인 체계를 의미할 수 있다.
자연어 처리 장치(10)는 자연어를 처리하여 텍스트를 출력할 수 있다. 예를 들어, 자연어 처리 장치(10)는 음성으로 이루어진 자연어를 인식하거나, 음성 및/또는 텍스트로 이루어진 자연어에 대한 번역을 수행할 수 있다. 텍스트는 문자 또는 문자의 집합을 포함할 수 있다.
자연어 처리 장치(10)는 음성의 인식을 수행할 수 있다. 예를 들어, 자연어 처리 장치(10)는 인간의 음성을 인식하여 텍스트로 출력할 수 있다.
자연어 처리 장치(10)는 본격적인 뉴럴 네트워크 계산(computation)이 시작되기 전에 토큰 벡터의 포지셔널 인코딩 단계에서 동일한 토큰 벡터으 반복 횟수를 계산하여 인코딩에 반영할 수 있다.
이를 통해, 자연어 처리 장치(10)는 어텐션 블록 이전 단계에서부터 현재 입력 토큰 벡터가 이전에 몇번 반복하여 등장한 토큰 벡터인지 파악할 수 있다.
자연어 처리 장치(10)는 이를 위해 토큰 벡터의 워드 임베딩(word embedding)에 정현파 포지셔널 인코딩(sinusoidal positional encoding)을 응용한 새로운 encoding을 추가하거나, 입력 토큰 벡터에 대하여 일정한 기준에 따라 이전 토큰 벡터와의 중복을 표현하는 새로운 토큰 벡터를 사전에 추가하여 표현할 수 있다.
자연어 처리 장치(10)는 프로세서(200)를 포함한다. 자연어 처리 장치(10)는 수신기(100) 및/또는 메모리(300)를 더 포함할 수 있다.
수신기(100)는 자연어 또는 자연어로 이루어진 말뭉치(corpus)를 수신할 수 있다. 수신기(100)는 음성 또는 문자의 형태로 이루어진 자연어를 수신할 수 있다. 예를 들어, 수신기(100)는 마이크로폰을 포함할 수 있다. 수신기(100)는 수신한 자연어를 프로세서(200)로 출력할 수 있다.
프로세서(200)는 메모리(300)에 저장된 데이터를 처리할 수 있다. 프로세서(200)는 메모리(300)에 저장된 컴퓨터로 읽을 수 있는 코드(예를 들어, 소프트웨어) 및 프로세서(200)에 의해 유발된 인스트럭션(instruction)들을 실행할 수 있다.
"프로세서(200)"는 목적하는 동작들(desired operations)을 실행시키기 위한 물리적인 구조를 갖는 회로를 가지는 하드웨어로 구현된 데이터 처리 장치일 수 있다. 예를 들어, 목적하는 동작들은 프로그램에 포함된 코드(code) 또는 인스트럭션들(instructions)을 포함할 수 있다.
예를 들어, 하드웨어로 구현된 데이터 처리 장치는 마이크로프로세서(microprocessor), 중앙 처리 장치(central processing unit), 프로세서 코어(processor core), 멀티-코어 프로세서(multi-core processor), 멀티프로세서(multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array)를 포함할 수 있다.
프로세서(200)는 뉴럴 네트워크를 이용하여 자연어를 처리할 수 있다. 프로세서(200)는 뉴럴 네트워크를 학습시킬 수 있다. 프로세서(200)는 자연어를 처리하여 텍스트를 출력할 수 있다.
프로세서(200)는 자연어(natural language)를 토큰 벡터(token vector)로 변환할 수 있다. 프로세서(200)는 자연어를 변환하여 토큰 벡터로 이루어진 토큰 시퀀스를 생성할 수 있다.
토큰 벡터는 자연어로 이루어진 말뭉치(corpus)를 토큰화(tokenization)함으로써 생성된 벡터를 의미할 수 있다. 말뭉치는 특정한 목적을 가지고 언어의 표본을 추출한 집합을 의미할 수 있다.
프로세서(200)는 말뭉치를 특정 기준에 기초하여 토큰화할 수 있다. 프로세서(200)는 의미를 가지는 문자의 집합을 기준으로 말뭉치를 토큰화할 수 있다. 예를 들어, 프로세서(200)는 음소, 음절 또는 단어를 기준으로 말뭉치를 토큰화할 수 있다.
토큰 벡터는 프로세서(200)가 토큰화를 통해 생성한 토큰을 벡터의 형태로 표현한 것일 수 있다. 프로세서(200)는 적어도 하나 이상의 토큰 벡터로 구성된 토큰 시퀀스(sequence)를 입력 받아 처리함으로써 텍스트를 출력할 수 있다.
프로세서(200)는 토큰 벡터의 반복 횟수(repetition count)를 계산할 수 있다. 프로세서(200)는 토큰 시퀀스의 전부 또는 일부에서 토큰 벡터가 반복되는 횟수를 계산할 수 있다. 예를 들어, 프로세서(200)는 하나의 단어 내에서의 토큰 벡터의 반복 횟수를 계산할 수도 있고, 하나의 문장 내에서 토큰 벡터의 반복 횟수를 계산할 수 있다.
프로세서(200)는 슬라이딩 윈도우(sliding window) 또는 언어학적 지식을 이용하여 획득한 지역 경계(local boundary) 내에서의 반복 횟수를 계산할 수 있다. 계산한 반복 횟수는 반복되는 토큰의 처리를 위한 인덱스(index)로 사용될 수 있다.
구체적으로, 프로세서(200)는 토큰 벡터의 지역 반복 횟수 및 전역 반복 횟수를 계산할 수 있다. 지역 반복 횟수는 하나의 단어 내에서의 토큰 벡터의 반복 횟수를 의미할 수 있고, 전역 반복 횟수는 하나의 문장 내에서의 토큰 벡터의 반복 횟수를 의미할 수 있다.
지역 반복 횟수와, 전역 반복 횟수는 필요에 따라 더 짧거나 긴 토큰 시퀀스 내에서 계산될 수 있다. 예를 들어, 지역 반복 횟수와 전역 반복 횟수는 문장, 문단, 글 전체 단위로 계산될 수도 있다.
일 실시예에서, 프로세서(200)는 토큰 벡터의 단어 내에서의 지역 반복 횟수(local repetition count)를 계산할 수 있다. 프로세서(200)는 토큰 벡터의 문장 내에서의 전역 반복 횟수(global repetition count)를 계산할 수 있다.
프로세서(200)는 토큰 벡터의 반복 횟수 및 토큰 벡터의 위치에 기초하여 토큰 벡터를 인코딩함으로써 입력 벡터를 생성할 수 있다. 토큰 벡터의 위치는 토큰 시퀀스 내에서 토큰 벡터가 위치한 곳의 순서를 의미할 수 있다. 예를 들어, 10 개의 토큰 벡터를 포함하는 토큰 시퀀스가 순차적으로 입력되는 경우에, 토큰 벡터의 위치는 토큰 벡터가 입력된 순서를 의미할 수 있다.
프로세서(200)는 계산한 토큰 벡터의 반복 횟수 및 토큰 벡터의 위치에 기초하여 인코딩 벡터를 생성할 수 있다.
인코딩은 토큰 벡터에 임의의 벡터 연산을 수행함으로써 토큰 벡터의 부호화를 수행하는 것을 의미할 수 있다. 인코딩 벡터는 토큰 벡터와의 부호화 연산을 위해 프로세서(200)가 생성한 임의의 벡터를 의미할 수 있다. 여기서, 인코딩 벡터의 차원(dimension)은 토큰 벡터와 동일할 수 있다.
프로세서(200)는 토큰 벡터의 위치에 대응하는 함수 값을 계산할 수 있다. 구체적으로, 프로세서(200)는 토큰 벡터의 위치에 따른 정현파 함수(sinusoidal function) 값을 계산할 수 있다. 프로세서(200)는 함수 값과 계산한 반복 횟수를 더하여 인코딩 벡터를 생성할 수 있다.
프로세서(200)는 다양한 방법으로 입력 벡터를 수행할 수 있다. 프로세서(200)는 계산한 반복 횟수에 기초하여 토큰 벡터를 인코딩함으로써 입력 벡터를 생성할 수 있다.
입력 벡터는 뉴럴 네트워크에 입력되는 벡터를 의미할 수 있다. 프로세서(200)는 생성한 입력 벡터를 뉴럴 네트워크에 입력시킴으로써 텍스트를 출력할 수 있다. 또한 프로세서(200)는 생성한 입력 벡터를 이용하여 뉴럴 네트워크를 학습시킬 수 있다.
일례로, 프로세서(200)는 생성한 인코딩 벡터에 기초하여 토큰 벡터를 인코딩함으로써 입력 벡터를 생성할 수 있다. 프로세서(200)는 인코딩 벡터와 토큰 벡터에 대하여 원소별 덧셈(element-wise summation)을 수행하여 입력 벡터를 생성할 수 있다.
프로세서(200)가 인코딩 벡터에 기초하여 입력 벡터를 생성하는 동작은 도 4를 참조하여 상세하게 설명한다.
다른 예로, 프로세서(200)는 반복 횟수에 기초하여 토큰 벡터를 대체(replacement)함으로써 입력 벡터를 생성할 수 있다. 프로세서(200)는 토큰 벡터가 반복되는 토큰 벡터일 경우, 토큰 벡터를 반복 횟수에 기초한 반복 횟수 벡터로 대체(replacement)할 수 있다.
반복 횟수 벡터는 자신과 동일한 토큰의 반복 횟수를 성분으로 가지는 벡터를 의미할 수 있다. 프로세서(200)는 반복 횟수 벡터로 대체된 토큰 벡터 및 토큰 벡터의 위치에 기초하여 입력 벡터를 생성할 수 있다.
프로세서(200)는 토큰 벡터의 위치에 대응하는 함수 값을 계산할 수 있다. 프로세서(200)는 반복 횟수 벡터로 대체된 토큰 벡터에 계산한 함수 값을 더하여 입력 벡터를 생성할 수 있다.
프로세서(200)가 반복횟수 벡터를 이용하여 입력 벡터를 생성하는 동작은 도 5를 참조하여 상세하게 설명한다.
프로세서(200)는 생성한 입력 벡터를 뉴럴 네트워크에 입력하여 자연어를 텍스트(text)로 출력할 수 있다. 또한, 프로세서(200)는 입력 벡터를 이용하여 뉴럴 네트워크를 학습시킬 수 있다.
메모리(300)는 프로세서(200)에 의해 실행가능한 인스트럭션들(또는 프로그램)을 저장할 수 있다. 예를 들어, 인스트럭션들은 프로세서(200)의 동작 및/또는 프로세서(200)의 각 구성의 동작을 실행하기 위한 인스트럭션들을 포함할 수 있다.
메모리(300)는 휘발성 메모리 장치 또는 불휘발성 메모리 장치로 구현될 수 있다.
휘발성 메모리 장치는 DRAM(dynamic random access memory), SRAM(static random access memory), T-RAM(thyristor RAM), Z-RAM(zero capacitor RAM), 또는 TTRAM(Twin Transistor RAM)으로 구현될 수 있다.
불휘발성 메모리 장치는 EEPROM(Electrically Erasable Programmable Read-Only Memory), 플래시(flash) 메모리, MRAM(Magnetic RAM), 스핀전달토크 MRAM(Spin-Transfer Torque(STT)-MRAM), Conductive Bridging RAM(CBRAM), FeRAM(Ferroelectric RAM), PRAM(Phase change RAM), 저항 메모리(Resistive RAM(RRAM)), 나노 튜브 RRAM(Nanotube RRAM), 폴리머 RAM(Polymer RAM(PoRAM)), 나노 부유 게이트 메모리(Nano Floating Gate Memory(NFGM)), 홀로그래픽 메모리(holographic memory), 분자 전자 메모리 소자(Molecular Eelectronic Memory Device), 또는 절연 저항 변화 메모리(Insulator Resistance Change Memory)로 구현될 수 있다.
도 2는 도 1에 도시된 자연어 처리 장치가 자연어를 처리하는 동작의 순서를 나타내고, 도 3은 도 1에 도시된 자연어 처리 장치의 인코딩 동작의 순서의 일 예를 나타낸다.
도 2 및 도 3을 참조하면, 프로세서(200)는 자연어를 입력 받아 입력 전처리를 수행할 수 있다(210). 전처리 단계에서, 프로세서(200)는 텍스트 입력을 토큰 ID 시퀀스(token ID sequence로 변환할 수 있다. 프로세서(200)는 각 토큰에 매핑되는 벡터를 임베딩 매트릭스(embedding matrix)로부터 가져와 뉴럴 네트워크의 입력단에 제공할 수 있다.
예를 들어, 토큰 ID가 12인 경우, 임베딩 매트릭스의 12번째 열(column)을 가져와 뉴럴 네트워크의 입력단에 제공할 수 있다.
프로세서(200)는 텍스트를 토큰 ID로 변환하기 위해 각 글자를 하나의 토큰으로 설정하거나, 각 단어를 하나의 토큰으로 설정할 수 있다. 프로세서(200)는 빈도수와 같은 기준에 따라, 서브워드(subword) 단위의 토큰 사전을 생성할 수 있고, 입력 텍스트를 생성한 사전에 따라 변환할 수 있다.
예를 들어, 프로세서(200)는 토큰 사전은 바이트 페어 인코딩(byte pair encoding), 워드피스(wordpiece) 또는 센텐스피스(sentencepiece)와 같은 방식을 이용하여 토큰 사전을 생성할 수 있다.
프로세서(200)는 자연어를 토큰 벡터로 변환할 수 있다. 프로세서(200)는 토큰 벡터를 인코딩할 수 있다(230). 프로세서(200)는 토큰 벡터의 위치에 기초하여 토큰 벡터를 인코딩할 수 있다.
인코딩은 포지셔널(positional) 인코딩(231) 및 중복 토큰(repeated token) 인코딩(233)을 포함할 수 있다. 이하에서, 중복 토큰 인코딩은 중복 토큰 임베딩과 동일한 의미로 사용될 수 있다.
도 2의 예시는 포지셔널 인코딩과 함께 지역 또는 전역 반복 토큰 인코딩을 포함하는 동작을 나타낼 수 있다. 도 2의 예시에서 입력은 워드 임베딩(word embedding)을 거친 토큰 벡터이고, 포지셔널 인코딩 및 중복 토큰 인코딩은 정현파 함수를 이용하여 생성된 각 토큰 벡터의 문장 내에서의 위치에 대응하는 인코딩 벡터를 생성하는데 사용될 수 있다.
포지셔널 인코딩(231)은 입력되는 자연어로부터 변환된 토큰 시퀀스에서 토큰(예를 들어, 단어)의 위치 정보를 나타내기 위해서 각 단어에 대응하는 토큰 벡터에 위치 정보를 반영하는 일련의 과정을 의미할 수 있다.
포지셔널 인코딩(231)은 정현파 함수를 이용하여 토큰 벡터의 위치 정보를 반영하는 과정을 포함할 수 있다. 즉, 포지셔널 인코딩(231)은 정현파 인코딩을 포함할 수 있다. 예를 들어, 프로세서(200)는 사인 함수 및 코사인 함수를 이용하여 포지셔널 인코딩(231)을 수행할 수 있다.
프로세서(200)는 포지셔널 인코딩(231)을 위해 토큰 벡터의 위치와 벡터 내의 차원 인덱스에 따른 함수 값을 추출할 수 있다.
예를 들어, 프로세서(200)는 수학식 1 및 2를 이용하여 포지셔널 인코딩을 수행할 수 있다.
Figure pat00001
Figure pat00002
여기서, pos는 토큰 벡터의 위치를 의미하고, i는 토큰 벡터 내의 차원의 인덱스를 의미할 수 있다. Dmodel은 자연어 처리 장치(10)가 이용하는 뉴럴 네트워크의 출력 차원(또는 토큰 벡터의 차원)을 의미할 수 있다.
중복 토큰 인코딩(231)은 토큰 벡터가 반복된 횟수를 토큰 벡터에 반영함으로써 토큰 벡터의 히스토리를 반영하기 위한 인코딩 과정을 의미할 수 있다.
도 3의 예시는 인코딩을 통한 입력 벡터의 생성과정을 나타낼 수 있다. 도 3의 예시와 같이 정현파 인코딩과 중복 토큰 인코딩의 순서는 변경될 수 있다. 즉, 중복 토큰 임베딩을 먼저 수행한 후에 포지셔널 인코딩이 수행될 수 있다.
프로세서(200)는 토큰 벡터의 지역 반복 횟수 및 전역 반복 횟수를 계산하여 중복 토큰 임베딩을 수행할 수 있다. 지역 반복 횟수는 전역 반복 횟수에 비해 상대적으로 좁은 범위 내에서의 반복 횟수를 의미할 수 있다.
예를 들어, 지역 반복 횟수는 한 단어 내에서 동일 토큰의 반복 횟수를 의미할 수 있고, 전역 반복 횟수는 한 문장 내에서 동일 토큰의 반복 횟수를 의미할 수 있다.
다른 실시예에서, 프로세서(200)는 하나의 단어, 복수의 단어, 임의의 길이를 가지는 워드 피스 시퀀스(word piece sequence)를 기준으로 과거의 임의의 시점 까지의 토큰 벡터를 분석하여 현재의 토큰 벡터와 같은 토큰 벡터의 반복 횟수를 지역 반복 횟수로 계산할 수 있다.
즉, 지역 반복 횟수와 전역 반복 횟수는 필요에 따라, 더 좁거나 넓은 범위에서의 반복 횟수로 대체될 수 있다.
프로세서(200)는 인코딩을 수행한 토큰 벡터를 인코더(250) 또는 디코더(270)에 입력할 수 있다. 인코더(250)는 단수 또는 복수일 수 있고, 디코더(270)도 단수 또는 복수일 수 있다. 인코더(250) 및 디코더(270)는 복수의 서브 레이어를 포함할 수 있다.
인코더(250)는 어텐션을 수행하고, 뉴럴 네트워크를 통해 인코딩된 토큰 벡터를 처리함으로써 텍스트를 출력할 수 있다. 예를 들어, 인코더는 입력 토큰 벡터의 정보들을 압축해서 컨텍스트 벡터를 생성하여 디코더(270)로 출력할 수 있다.
인코더(250)에서 사용하는 뉴럴 네트워크는 피드 포워드(feed forward) 뉴럴 네트워크, 셀프 어텐션 네트워크(self-attention network) 및/또는 RNN(Recurrent Neural Network)를 포함할 수 있다. RNN은 LSTM(Long Short-Term Memory Models)을 포함할 수 있다.
디코더(270)는 인코더의 출력에 대해 어텐션을 수행하는 복수의 서브 레이어를 포함할 수 있다. 디코더(270)는 어텐션을 수행하고, 뉴럴 네트워크를 통해 인코딩된 토큰 벡터 또는 인코더(250)의 출력을 처리할 수 있다. 디코더(270)가 사용하는 뉴럴 네트워크는 피드 포워드 뉴럴 네트워크 및/또는 RNN을 포함할 수 있다.
인코더(250) 및 디코더(270)는 필요에 따라 RNN 및 피드 포워드 뉴럴 네트워크 이외의 뉴럴 네트워크를 사용할 수도 있다. 또한, 프로세서(200)는 필요에 따라 인코더(250)를 사용하지 않고, 디코더(270)만을 사용할 수도 있다.
프로세서(200)는 디코더(270)의 출력을 후처리 할 수 있다(290). 프로세서(200)는 전처리 과정의 역순으로 후처리를 수행할 수 있다. 프로세서(200)는 토큰 ID 시퀀스를 텍스트로 복원할 수 있다. 프로세서(200)는 상술한 토큰 사전에 매칭되는 스트링(string)을 연결하여 문장을 복원할 수 있다.
도 3의 예시는, 프로세서(200)가 인코딩을 동작을 수행하는 순서를 나타낼 수 있다. 프로세서(200)는 토큰 시퀀스를 입력 받을 수 있다(310). 프로세서(200)는 지역 반복 횟수를 계산할 수 있고(330), 전역 반복 횟수를 계산할 수 있다(350).
지역 반복 횟수와 전역 반복 횟수의 계산은 상술한 것과 동일할 수 있다.
프로세서(200)는 토큰 벡터의 위치에 기초하여 인코딩을 수행할 수 있다. 프로세서(200)는 포지셔널 인코딩을 수행할 수 있다. 예를 들어, 프로세서(200)는 정현파 인코딩(370)을 수행할 수 있다. 정현파 인코딩(370)은 상술한 것과 동일할 수 있다.
프로세서(200)는 지역 반복 횟수 및 전역 반복 횟수에 기초하여 중복 토큰 인코딩(233)을 수행할 수 있다. 프로세서(200)는 정현파 인코딩(370) 결과와 지역 반복 횟수 및 전역 반복 횟수를 원소별 덧셈(390)함으로써 인코딩 벡터를 생성할 수 있다.
프로세서(200)는 인코딩 벡터를 이용하여 토큰 벡터를 인코딩할 수 있다. 예를 들어, 프로세서(200)는 인코딩 벡터와 토큰 벡터의 원소별 덧셈을 통해 토큰 벡터를 인코딩함으로써 입력 벡터를 생성할 수 있다.
프로세서(200)는 인코딩 벡터를 이용하여 토큰 벡터를 인코딩함으로써 반복되는 선행 토큰의 정보를 인코더(250) 및/또는 디코더(270)에 전달할 수 있다.
도 4는 도 1에 도시된 자연어 처리 장치가 수행하는 인코딩 동작의 일 예를 나타낸다.
도 4를 참조하면, 도 4의 예시에서, 프로세서(200)는 입력으로 자연어인 "영영영 다시 영영영에 전화해"를 수신할 수 있다. 프로세서(200)는 입력된 자연어를 토큰 벡터로 구성된 토큰 시퀀스로 변환할 수 있다.
도 4의 예시에서, 토큰 벡터는 하나의 음절에 대응될 수 있다. 프로세서(200)는 입력된 자연어로부터 반복 횟수를 계산할 수 있다. 프로세서(200)는 지역 반복 횟수 및 전역 반복 횟수를 계산할 수 있다.
프로세서(200)는 계산한 지역 반복 횟수 및 전역 반복 횟수에 대응하는 벡터를 생성할 수 있다. 도 4의 예시는 반복 횟수를 하나의 숫자로 나타내고 있지만, 이는 벡터의 형태를 가질 수 있다. 예를 들어, 지역 반복 횟수 및 전역 반복 횟수에 대응하는 벡터는
이 때, 지역 반복 횟수는 하나의 단어 내에서의 동일한 토큰 벡터의 반복 횟수를 의미할 수 있다. 프로세서(200)는 하나의 단어로 구분되는 "영영영"에서 두 번째 "영"과 세 번째 "영"이 반복되었음을 계산할 수 있다. 마찬가지로, 프로세서(200)는 6 번째에서 8번째 순서로 입력된 "영영영"에 대해서도 지역 반복 횟수를 동일하게 계산할 수 있다.
전역 반복 횟수는 하나의 문장 내에서 동일한 토큰 벡터의 반복 횟수를 의미할 수 있다. 프로세서(200)는 "영영영 다시 영영영에 전화해"에서 "영"에 대응하는 토큰 벡터의 반복 횟수를 계산할 수 있다.
도 4의 예시에서, "영은 처음 입력되었을 때를 제외하면 5회 더 반복됨을 확인할 수 있다. 프로세서(200)는 전역 반복 횟수에 대응하는 벡터를 생성할 수 있다.
프로세서(200)는 토큰 벡터의 위치에 기초하여 포지셔널 인코딩을 수행할 수 있다. 포지셔널 인코딩은 상술한 것과 동일한 방법일 수 있다. 도 4의 예시에서, 포지셔널 인코딩은 0, 1, 2, ..., 11로 표시되어 있지만, 프로세서(200)는 실제로 토큰 벡터의 위치인 0, 1, 2, ..., 11에 대응하는 벡터의 형태로 생성할 수 있다.
프로세서(200)는 중복 토큰 인코딩을 이용하여 생성한 벡터 및 포지셔널 인코딩을 이용하여 생성한 벡터를 원소별로 더하여 인코딩 벡터를 생성할 수 있다. 프로세서(200)는 토큰 벡터와 인코딩 벡터를 원소별로 더하여 토큰 벡터에 대한 인코딩을 수행할 수 있다.
도 5는 도 1에 도시된 자연어 처리 장치가 수행하는 인코딩 동작의 다른 예를 나타낸다.
도 5를 참조하면, 프로세서(200)는 중복 토큰 벡터를 별도로 만들지 않고, 토큰 벡터의 반복 횟수에 기초하여 토큰 벡터 자체를 대체(replacement)함으로써 중복 토큰 인코딩을 수행할 수 있다.
프로세서(200)는 중복되는 토큰 벡터를 반복 횟수 벡터로 대체할 수 있다. 예를 들어, "영영영 다시 영영영에 전화해" 라는 자연어가 입력되었을 경우, 프로세서(200)는 반복되는 "영"을 반복 횟수 벡터로 대체할 수 있다.
이 때, 프로세서(200)는 하나의 단어 내에서의 반복 횟수에 기초하여 반복 횟수 벡터를 생성할 수 있다. 도 5의 예시에서, 프로세서(200)는 두 번째와 세번 째로 입력된 "영"을 각각 1에 대응하는 반복 횟수 벡터 및 2에 대응하는 반복 횟수 벡터로 대체할 수 있다. 도 4에서 상술한 바와 같이, 도 5에서 표시된 1, 2는 연산시에 벡터의 형태를 가질 수 있다.
마찬가지로, 7 번째와 8번째로 입력된 "영"에 대해서도 각각 1에 대응하는 반복 횟수 벡터 및 2에 대응하는 반복 횟수 벡터로 대체할 수 있다.
프로세서(200)는 중복 토큰 인코딩을 수행하여 반복 횟수 벡터로 대체된 토큰 벡터를 포지셔널 인코딩 결과로 생성된 벡터와 원소별로 더함으로써 토큰 벡터를 인코딩할 수 있다.
토큰 벡터를 중복 횟수 벡터로 대체하여 인코딩함으로써, 뉴럴 네트워크는 현재 입력된 토큰 벡터가 앞에서 입력된 토큰 벡터의 중복 토큰이라는 것을 보다 쉽게 학습할 수 있다.
도 6은 도 1에 도시된 자연어 처리 장치의 동작의 순서도를 나타낸다.
도 6을 참조하면, 프로세서(200)는 자연어를 토큰 벡터로 변환할 수 있다(610).
프로세서(200)는 토큰 벡터의 반복 횟수를 계산할 수 있다(630). 토큰 벡터의 단어 내에서의 지역 반복 횟수(local repetition count)를 계산할 수 있다. 프로세서(200)는 토큰 벡터의 문장 내에서의 전역 반복 횟수(global repetition count)를 계산할 수 있다.
프로세서(200)는 반복 횟수 및 토큰 벡터의 위치에 기초하여 토큰 벡터를 인코딩함으로써 입력 벡터를 생성할 수 있다(650).
프로세서(200)는 반복 횟수 및 상기 토큰 벡터의 위치에 기초하여 인코딩 벡터를 생성할 수 있고, 토큰 벡터의 위치에 대응하는 함수 값을 계산할 수 있다.
구체적으로, 프로세서(200)는 토큰 벡터의 위치에 따른 정현파 함수(sinusoidal function) 값을 계산할 수 있다. 프로세서(200)는 계산한 함수 값과 계산한 반복 횟수를 더하여 인코딩 벡터를 생성할 수 있다.
프로세서(200)는 인코딩 벡터에 기초하여 토큰 벡터를 인코딩함으로써 입력 벡터를 생성할 수 있다. 구체적으로, 프로세서(200)는 인코딩 벡터와 상기 토큰 벡터에 대하여 원소별 덧셈(element-wise summation)을 수행하여 상기 입력 벡터를 생성할 수 있다.
프로세서(200)는 토큰 벡터가 반복되는 토큰 벡터일 경우, 상기 토큰 벡터를 반복 횟수에 기초한 반복 횟수 벡터로 대체(replacement)할 수 있다. 프로세서(200)는 반복 횟수 벡터로 대체된 토큰 벡터 및 토큰 벡터의 위치에 기초하여 입력 벡터를 생성할 수 있다.
프로세서(200)는 토큰 벡터의 위치에 대응하는 함수 값을 계산할 수 있고, 반복 횟수 벡터로 대체된 토큰 벡터에 함수 값을 더하여 입력 벡터를 생성할 수 있다.
프로세서(200)는 입력 벡터를 뉴럴 네트워크에 입력하여 자연어를 텍스트(text)로 출력할 수 있다. 또한, 프로세서(200)는 입력 벡터를 이용하여 뉴럴 네트워크를 학습시킬 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.

Claims (20)

  1. 자연어(natural language)를 토큰 벡터(token vector)로 변환하는 단계;
    상기 토큰 벡터의 반복 횟수(repetition count)를 계산하는 단계; 및
    상기 반복 횟수 및 상기 토큰 벡터의 위치에 기초하여 상기 토큰 벡터를 인코딩함으로써 입력 벡터를 생성하는 단계
    를 포함하는 자연어 처리 방법.
  2. 제1항에 있어서,
    상기 계산하는 단계는,
    상기 토큰 벡터의 단어 내에서의 지역 반복 횟수(local repetition count)를 계산하는 단계; 및
    상기 토큰 벡터의 문장 내에서의 전역 반복 횟수(global repetition count)를 계산하는 단계
    를 포함하는 자연어 처리 방법.
  3. 제1항에 있어서,
    상기 입력 벡터를 생성하는 단계는,
    상기 반복 횟수 및 상기 토큰 벡터의 위치에 기초하여 인코딩 벡터를 생성하는 단계; 및
    상기 인코딩 벡터에 기초하여 상기 토큰 벡터를 인코딩함으로써 상기 입력 벡터를 생성하는 단계
    를 포함하는 자연어 처리 방법.
  4. 제3항에 있어서,
    상기 인코딩 벡터를 생성하는 단계는,
    상기 토큰 벡터의 위치에 대응하는 함수 값을 계산하는 단계;
    상기 함수 값과 상기 반복 횟수를 더하여 상기 인코딩 벡터를 생성하는 단계
    를 포함하는 자연어 처리 방법.
  5. 제4항에 있어서,
    상기 함수 값을 계산하는 단계는,
    상기 토큰 벡터의 위치에 따른 정현파 함수(sinusoidal function) 값을 계산하는 단계
    를 포함하는 자연어 처리 방법.
  6. 제3항에 있어서,
    상기 입력 벡터를 생성하는 단계는,
    상기 인코딩 벡터와 상기 토큰 벡터에 대하여 원소별 덧셈(element-wise summation)을 수행하여 상기 입력 벡터를 생성하는 단계
    를 포함하는 자연어 처리 방법.
  7. 제1항에 있어서,
    상기 입력 벡터를 생성하는 단계는,
    상기 토큰 벡터가 반복되는 토큰 벡터일 경우, 상기 토큰 벡터를 상기 반복 횟수에 기초한 반복 횟수 벡터로 대체(replacement)하는 단계; 및
    반복 횟수 벡터로 대체된 토큰 벡터 및 상기 토큰 벡터의 위치에 기초하여 상기 입력 벡터를 생성하는 단계
    를 포함하는 자연어 처리 방법.
  8. 제7항에 있어서,
    상기 입력 벡터를 생성하는 단계는,
    상기 토큰 벡터의 위치에 대응하는 함수 값을 계산하는 단계; 및
    상기 반복 횟수 벡터로 대체된 토큰 벡터에 상기 함수 값을 더하여 상기 입력 벡터를 생성하는 단계
    를 포함하는 자연어 처리 방법.
  9. 제1항에 있어서,
    상기 입력 벡터를 뉴럴 네트워크에 입력하여 상기 자연어를 텍스트(text)로 출력하는 단계
    를 더 포함하는 자연어 처리 방법.
  10. 제1항에 있어서,
    상기 입력 벡터를 이용하여 뉴럴 네트워크를 학습시키는 단계
    를 더 포함하는 자연어 처리 방법.
  11. 자연어(natural language)를 토큰 벡터(token vector)로 변환하고, 상기 토큰 벡터의 반복 횟수(repetition count)를 계산하고, 상기 반복 횟수 및 상기 토큰 벡터의 위치에 기초하여 상기 토큰 벡터를 인코딩함으로써 입력 벡터를 생성하는 프로세서
    를 포함하는 자연어 처리 장치.
  12. 제11항에 있어서,
    상기 프로세서는,
    상기 토큰 벡터의 단어 내에서의 지역 반복 횟수(local repetition count)를 계산하고, 상기 토큰 벡터의 문장 내에서의 전역 반복 횟수(global repetition count)를 계산하는
    자연어 처리 장치.
  13. 제11항에 있어서,
    상기 프로세서는,
    상기 반복 횟수 및 상기 토큰 벡터의 위치에 기초하여 인코딩 벡터를 생성하고, 상기 인코딩 벡터에 기초하여 상기 토큰 벡터를 인코딩함으로써 입력 벡터를 생성하는
    자연어 처리 장치.
  14. 제13항에 있어서,
    상기 프로세서는,
    상기 토큰 벡터의 위치에 대응하는 함수 값을 계산하고, 상기 함수 값과 상기 반복 횟수를 더하여 상기 인코딩 벡터를 생성하는
    자연어 처리 장치.
  15. 제14항에 있어서,
    상기 프로세서는,
    상기 토큰 벡터의 위치에 따른 정현파 함수(sinusoidal function) 값을 계산하는
    자연어 처리 장치.
  16. 제13항에 있어서,
    상기 프로세서는,
    상기 인코딩 벡터와 상기 토큰 벡터에 대하여 원소별 덧셈(element-wise summation)을 수행하여 상기 입력 벡터를 생성하는
    자연어 처리 장치.
  17. 제11항에 있어서,
    상기 프로세서는,
    상기 토큰 벡터가 반복되는 토큰 벡터일 경우, 상기 토큰 벡터를 상기 반복 횟수에 기초한 반복 횟수 벡터로 대체(replacement)하고, 반복 횟수 벡터로 대체된 토큰 벡터 및 상기 토큰 벡터의 위치에 기초하여 상기 입력 벡터를 생성하는
    자연어 처리 장치.
  18. 제17항에 있어서,
    상기 프로세서는,
    상기 토큰 벡터의 위치에 대응하는 함수 값을 계산하고, 상기 반복 횟수 벡터로 대체된 토큰 벡터에 상기 함수 값을 더하여 상기 입력 벡터를 생성하는
    자연어 처리 장치.
  19. 제11항에 있어서,
    상기 프로세서는,
    상기 입력 벡터를 뉴럴 네트워크에 입력하여 상기 자연어를 텍스트(text)로 출력하는
    자연어 처리 장치.
  20. 제11항에 있어서,
    상기 프로세서는,
    상기 입력 벡터를 이용하여 뉴럴 네트워크를 학습시키는
    자연어 처리 장치.
KR1020190127148A 2019-10-14 2019-10-14 중복 토큰 임베딩을 이용한 자연어 처리 방법 및 장치 KR20210044056A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020190127148A KR20210044056A (ko) 2019-10-14 2019-10-14 중복 토큰 임베딩을 이용한 자연어 처리 방법 및 장치
US16/812,600 US11249756B2 (en) 2019-10-14 2020-03-09 Natural language processing method and apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190127148A KR20210044056A (ko) 2019-10-14 2019-10-14 중복 토큰 임베딩을 이용한 자연어 처리 방법 및 장치

Publications (1)

Publication Number Publication Date
KR20210044056A true KR20210044056A (ko) 2021-04-22

Family

ID=75382865

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190127148A KR20210044056A (ko) 2019-10-14 2019-10-14 중복 토큰 임베딩을 이용한 자연어 처리 방법 및 장치

Country Status (2)

Country Link
US (1) US11249756B2 (ko)
KR (1) KR20210044056A (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022240266A1 (ko) * 2021-05-14 2022-11-17 이윤경 Ai 기반 캐릭터 생성 시스템 및 방법
KR102509007B1 (ko) * 2022-09-28 2023-03-10 주식회사 액션파워 문장 내 토큰들의 중요도에 기초하여 음성 인식 모델을 학습시키는 방법

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11694442B2 (en) * 2020-11-13 2023-07-04 Inception Institute of Artificial Intelligence Ltd Systems and methods for counting repetitive activity in audio video content
US11321538B1 (en) * 2021-10-15 2022-05-03 Dovel Technologies, Llc Ensemble natural language processing model with compliance verification
US11928569B1 (en) * 2023-06-30 2024-03-12 Intuit, Inc. Automated user experience orchestration using natural language based machine learning techniques

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2490490A (en) * 2011-04-28 2012-11-07 Nds Ltd Encoding natural-language text and detecting plagiarism
US9420559B2 (en) 2014-08-19 2016-08-16 International Business Machines Corporation Obstacle detection and warning system using a mobile device
US10395118B2 (en) 2015-10-29 2019-08-27 Baidu Usa Llc Systems and methods for video paragraph captioning using hierarchical recurrent neural networks
US9965705B2 (en) 2015-11-03 2018-05-08 Baidu Usa Llc Systems and methods for attention-based configurable convolutional neural networks (ABC-CNN) for visual question answering
US20180129937A1 (en) 2016-11-04 2018-05-10 Salesforce.Com, Inc. Quasi-recurrent neural network
US10049106B2 (en) 2017-01-18 2018-08-14 Xerox Corporation Natural language generation through character-based recurrent neural networks with finite-state prior knowledge
EP4156032A1 (en) 2017-05-23 2023-03-29 Google LLC Attention-based sequence transduction neural networks
KR102342066B1 (ko) 2017-06-21 2021-12-22 삼성전자주식회사 뉴럴 네트워크 모델을 이용한 기계 번역 방법, 장치 및 그 장치를 학습시키기 위한 방법
US10599645B2 (en) * 2017-10-06 2020-03-24 Soundhound, Inc. Bidirectional probabilistic natural language rewriting and selection
US11604956B2 (en) 2017-10-27 2023-03-14 Salesforce.Com, Inc. Sequence-to-sequence prediction using a neural network model
US11556786B2 (en) 2017-10-27 2023-01-17 Google Llc Attention-based decoder-only sequence transduction neural networks
US11928600B2 (en) 2017-10-27 2024-03-12 Salesforce, Inc. Sequence-to-sequence prediction using a neural network model

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022240266A1 (ko) * 2021-05-14 2022-11-17 이윤경 Ai 기반 캐릭터 생성 시스템 및 방법
KR102509007B1 (ko) * 2022-09-28 2023-03-10 주식회사 액션파워 문장 내 토큰들의 중요도에 기초하여 음성 인식 모델을 학습시키는 방법

Also Published As

Publication number Publication date
US20210109752A1 (en) 2021-04-15
US11249756B2 (en) 2022-02-15

Similar Documents

Publication Publication Date Title
KR20210044056A (ko) 중복 토큰 임베딩을 이용한 자연어 처리 방법 및 장치
CN110914827B (zh) 生成多语言语义解析器的系统和计算机实现方法
US9922025B2 (en) Generating distributed word embeddings using structured information
US11972365B2 (en) Question responding apparatus, question responding method and program
Tran et al. Named entity recognition with stack residual lstm and trainable bias decoding
KR102565275B1 (ko) 병렬 처리에 기초한 번역 방법 및 장치
CN108132932B (zh) 带有复制机制的神经机器翻译方法
Sproat et al. An RNN Model of Text Normalization.
JP2021033995A (ja) テキスト処理装置、方法、デバイス及びコンピューター読み取り可能な記憶媒体
KR20210113833A (ko) 벡터 변환을 이용한 데이터 처리 방법 및 장치
US11341413B2 (en) Leveraging class information to initialize a neural network language model
CN112395888A (zh) 机器翻译设备和方法
Lu et al. A syllable-structured, contextually-based conditionally generation of chinese lyrics
Sanjanaashree et al. Joint layer based deep learning framework for bilingual machine transliteration
KR20220010259A (ko) 음성 신호 처리 방법 및 장치
CN115374784A (zh) 一种多模态信息选择性融合的中文命名实体识别方法
Sharma et al. Language identification for hindi language transliterated text in roman script using generative adversarial networks
Duan et al. Pinyin as a feature of neural machine translation for Chinese speech recognition error correction
CN109325110B (zh) 印尼语文档摘要生成方法、装置、存储介质及终端设备
Chang et al. Two-step Masked Language Model for Domain-adapting Multi-modal Task-oriented Dialogue Systems
Lehnen et al. N-grams for conditional random fields or a failure-transition (ϕ) posterior for acyclic FSTs
Amin et al. Text generation and enhanced evaluation of metric for machine translation
Zare et al. Deepnorm-a deep learning approach to text normalization
Zhang et al. Patcorrect: Non-autoregressive phoneme-augmented transformer for asr error correction
KR20210039225A (ko) 문서 요약 방법 및 장치