KR20120048104A - 구문 구조 변환 모델과 어휘 변환 모델을 결합한 기계 번역 장치 및 기계 번역 방법 - Google Patents

구문 구조 변환 모델과 어휘 변환 모델을 결합한 기계 번역 장치 및 기계 번역 방법 Download PDF

Info

Publication number
KR20120048104A
KR20120048104A KR1020100109546A KR20100109546A KR20120048104A KR 20120048104 A KR20120048104 A KR 20120048104A KR 1020100109546 A KR1020100109546 A KR 1020100109546A KR 20100109546 A KR20100109546 A KR 20100109546A KR 20120048104 A KR20120048104 A KR 20120048104A
Authority
KR
South Korea
Prior art keywords
translation
sentence
target
syntax structure
lexical
Prior art date
Application number
KR1020100109546A
Other languages
English (en)
Other versions
KR101762866B1 (ko
Inventor
황영숙
김상범
윤창호
이연수
이승욱
임해창
Original Assignee
에스케이플래닛 주식회사
고려대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이플래닛 주식회사, 고려대학교 산학협력단 filed Critical 에스케이플래닛 주식회사
Priority to KR1020100109546A priority Critical patent/KR101762866B1/ko
Priority to CN201180053404.1A priority patent/CN103189860B/zh
Priority to PCT/KR2011/005325 priority patent/WO2012060540A1/ko
Priority to US13/883,758 priority patent/US10198437B2/en
Publication of KR20120048104A publication Critical patent/KR20120048104A/ko
Application granted granted Critical
Publication of KR101762866B1 publication Critical patent/KR101762866B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G06F40/58—Use of machine translation, e.g. for multi-lingual retrieval, for server-side translation for client devices or for real-time translation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/216—Parsing using statistical methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/205—Parsing
    • G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G06F40/42—Data-driven translation
    • G06F40/44—Statistical methods, e.g. probability models
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G06F40/42—Data-driven translation
    • G06F40/49—Data-driven translation using very large corpora, e.g. the web
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G06F40/55—Rule-based translation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Machine Translation (AREA)

Abstract

본 발명은 통계적 기계 번역에 관한 것으로, 병렬 말뭉치로부터 구문 구조 변환 지식과 어휘 변환 지식을 추출하여 각각의 변환 확률을 추출하는 동시에 단일 말뭉치로부터 타겟 언어에 대한 생성 확률을 획득하고, 이들 각각의 변환 지식과 확률을 번역 모델 학습기를 통해 학습시켜 가중치를 둔 번역 모델을 모델링하며, 이렇게 모델링된 번역 모델을 실시간으로 입력된 소스 문장에 대해 적용하여 구문 구조 변환기 및 어휘 변환기의 디코딩 과정을 거침으로써 타겟 문장을 생성하여, 기존의 구 기반 통계적 기계 번역(Phrase-Based SMT)과 구문 구조 기반 통계적 기계 번역(Syntax-Based SMT)의 단점을 해소하고 장점은 결합하고자 하는 기계 번역 장치 및 기계 번역 방법을 제공한다.

Description

구문 구조 변환 모델과 어휘 변환 모델을 결합한 기계 번역 장치 및 기계 번역 방법{STATISTICAL TRANSLATION APPARATUS BY SEPARATING SYNTACTIC TRANSLATION MODEL FROM LEXICAL TRANSLATION MODEL AND STATISTICAL TRANSLATION METHOD}
본 발명은 통계적 기계 번역에 관한 것으로서, 더욱 상세하게는 번역의 단계를 구문 구조 변환 과정과 어휘 변환 과정의 2단계로 모델링하고, 이 모델을 실시간으로 입력된 소스 언어 문장에 대해 적용하여 구문 구조 변환기 및 어휘 변환기의 디코딩 과정을 거침으로써 타겟 언어 문장을 생성하는 구문 구조 변환 모델과 어휘 변환 모델을 결합한 기계 번역 장치 및 기계 번역 방법에 관한 것이다.
자동 번역 기술은 한 언어를 다른 언어로 자동으로 전환해주는 소프트웨어적 기술을 의미한다. 이러한 기술은 20세기 중반부터 미국에서 군사적인 목적으로 연구가 시작되었으며, 지금은 세계적으로 정보 접근 범위의 확대와 휴먼 인터페이스의 혁신을 목적으로 다수의 연구소와 민간 기업에서 활발히 연구 중이다.
자동 번역 기술의 초기 단계에서는 전문가가 수동으로 작성한 양국어(Bilingual) 사전과 한 언어를 다른 언어로 변환할 수 있는 규칙을 기반으로 발전되어 왔다. 그러나 컴퓨팅 파워의 급속한 발전이 진행된 21세기 초부터는 대량의 데이터로부터 통계적으로 번역 알고리즘을 자동으로 학습하는 통계적 번역 기술에 대한 개발이 활발히 전개되고 있다.
통계적 기계 번역(Statistical Machine Translation, SMT) 시스템은 번역 과정을 통계적으로 모델링하고 대량의 병렬 말뭉치로부터 번역 지식 및 번역 확률과, 소스 언어에 대한 생성 확률 등을 학습하여 이를 근거로 입력된 소스 문장에 대해 가장 적합한 타겟 문장을 생성하는 것이다.
최근의 통계적 기계 번역 시스템은 크게 구 기반 통계적 기계 번역(Phrase-Based SMT, 이하 PBSMT) 방식과 구문 구조(또는 문법) 기반 통계적 기계 번역(Syntax-Based SMT, 이하 SBSMT) 방식으로 구분할 수 있다.
PBSMT는 개별 단어 대 단어의 번역이 아닌 연속된 단어열(이하 구(phrase))을 하나의 단위로 하여 번역하는 것으로서, 구(phrase) 대 구(phrase)로의 번역 지식과 번역 확률을 학습한 후 디코딩 시 가장 확률이 높은 구(phrase) 조합을 생성하는 방법이다.
PBSMT의 가장 대표적인 모델로는 (Koehn et al.,2003; Och and Ney, 2004a) 등이 있다. 이 모델은 간단하며, 근거리 어순 변경이 잘 되고 여러 단어로 표현된 번역이 자연스럽게 수행된다는 특징이 있다. 그러나, 이 모델은 원거리 어순 변경이 잘 이루어지지 않으며, 특히 영-한 번역처럼 어순이 많이 다른 언어 쌍에서는 큰 문제가 된다. 그 이유는 PBSMT의 번역 모델에서 문장의 어순을 결정하는 문법간 변환을 명시적으로 모델링하지 않고 구(phrase)들 간의 가능한 모든 순열 중 일부만을 고려하기 때문이다.
따라서, 최근에는 문법기반 구문 구조(Syntax)의 변환을 모델링하는 방법에 대해 많이 연구되고 있으며 이를 SBSMT라고 한다. SBSMT는 구문 구조 변환 지식을 학습하기 위해 병렬 말뭉치에서 두 언어의 대응하는 구문 트리(tree)로부터 트리 대 트리간, 혹은 트리 대 문자열간의 변환 지식 및 확률을 학습한다. 이 SBSMT는 PBSMT에 비해 원거리 어순 변경이 잘 되고, 불연속적인 구에 대해 번역이 잘 수행된다는 특징이 있다. 그러나 SBSMT는 파서(parser)의 성능에 크게 의존적이며 번역 지식이 문법적인 구 단위로 한정되기 때문에 사용할 번역 지식 자체가 매우 적어지게 된다. 이에 따라, 사용할 번역 지식이 없는 경우 연속되는 단어열의 번역이 단순한 단어 대 단어로의 번역이 되거나 연결되는 단어와 어울리지 않는 부자연스러운 번역이 되는 문제가 있다. 대표적인 방법으로는 (Galley et al., 2004, 2006), (Lavie et al., 2008), (Yamada and Knight, Gildea et al.)등이 있다.
이처럼, 종래의 통계적 기계 번역 기술은 PBSMT 방식의 경우 연속되는 단어 번역의 자연스러움은 향상되었지만 원거리 어순 변경에 실패하여 전혀 다른 문장이 되는 문제점이 있다. SBSMT 방식의 경우는 생성된 타겟 문장의 어순은 맞지만 번역 지식 부족으로 단순한 단어 대 단어 번역으로 이루어져 번역이 자연스럽지 못한 문제점이 있다.
본 발명은 상기의 문제점을 해결하기 위해 창안된 것으로서, 병렬 말뭉치로부터 구문 구조 변환 지식과 어휘 변환 지식을 추출하여 각각의 변환 확률을 추출하는 동시에 단일 말뭉치로부터 타겟 언어에 대한 생성 확률을 획득하고, 이들 각각의 변환 지식과 확률을 번역 모델 학습기를 통해 학습시켜 가중치를 둔 번역 모델을 모델링하며, 이렇게 모델링된 번역 모델을 실시간으로 입력된 소스 문장에 대해 적용하여 구문 구조 변환기 및 어휘 변환기의 디코딩 과정을 거침으로써 타겟 문장을 생성하여, 기존의 구 기반 통계적 기계 번역(Phrase-Based SMT)과 구문 구조 기반 통계적 기계 번역(Syntax-Based SMT)의 단점을 해소하고 장점은 결합하고자 하는 기계 번역 장치 및 기계 번역 방법을 제공하고자 한다.
이를 위하여 본 발명의 제1 측면에 따르면, 본 발명의 통계적 기계 번역 장치는, 복수의 병렬 말뭉치에서 소스 문장의 단어 정렬 정보와 구문 분석 정보 및 타겟 문장의 단어 정렬 정보를 이용하여 타겟 문장의 구문 구조 변환 지식과 어휘 변환 지식을 추출하고 추출된 각각의 지식에 대하여 변환 확률을 계산한 다음 상기 변환 확률에 대하여 가중치를 학습시키는 번역 모델 구축기; 실시간으로 입력되는 소스 문장에 대하여 상기 번역 모델 구축기를 통해 학습시킨 구문 구조 변환 과정과 어휘 변환 과정을 적용하여 상기 소스 문장을 타겟 문장으로 디코딩하는 번역문 생성기를 포함하는 것을 특징으로 한다.
본 발명의 제2 측면에 따르면, 본 발명의 번역 모델 구축 장치는, 복수의 병렬 말뭉치에서 소스 문장의 단어 정렬 정보와 구문 분석 정보 및 타겟 문장의 단어 정렬 정보를 이용하여 타겟 문장에 대한 구문 구조 변환 지식을 추출하고 추출된 지식에 대해 변환 확률을 계산하는 구문 구조 변환 지식 추출기와, 상기 복수의 병렬 말뭉치에서 소스 문장의 단어 정렬 정보와 타겟 문장의 단어 정렬 정보 및 타겟 문장의 구문 분석 정보를 이용하여 어휘 변환 지식을 추출하고 추출된 지식에 대해 변환 확률을 계산하는 어휘 변환 추출기를 포함하는 것을 특징으로 한다.
본 발명의 제3 측면에 따르면, 본 발명의 번역문 생성 장치는, 실시간으로 입력되는 소스 문장에 대하여 구문 분석하고 분석한 소스 문장의 구문 구조로부터 타겟 문장의 구문 구조 변환 지식을 추출하고 추출된 지식에 대해 변환 확률을 학습시킨 구문 구조 변환기; 상기 구문 구조 변환기를 통해 추출된 타겟 문장의 구문 구조에 제약 조건을 둔 어휘 변환 모델을 기반으로 타겟 어휘열을 생성하는 어휘 변환기; 상기 구문 구조 변환기를 통해 추출한 변환 확률에서 상기 어휘 변환기를 통해 추출한 타겟 어휘열의 생성 확률을 결합한 후 가장 확률이 높은 타겟 어휘열을 번역문으로 생성하는 확률 계산기를 포함하는 것을 특징으로 한다.
본 발명의 제4 측면에 따르면, 본 발명의 번역 모델 구축 방법은, (a) 복수의 병렬 말뭉치에서 소스 문장의 단어 정렬 정보와 소스 문장의 구문 분석 정보 및 타겟 문장의 단어 정렬 정보를 이용하여 타겟 문장에 대한 구문 구조 변환 지식을 추출하는 단계; (b) 상기 복수의 병렬 말뭉치에서 소스 문장의 단어 정렬 정보와 타겟 문장의 단어 정렬 정보 및 타겟 문장의 구문 분석 정보를 이용하여 어휘 변환 지식을 추출하는 단계; (c) 상기 구문 구조 변환 지식 및 어휘 변환 지식에 대한 변환 확률을 각각 계산하고 각 변환 확률에 대하여 가중치를 학습시키는 단계를 포함하여 것을 특징으로 한다.
본 발명의 제5 측면에 따르면, 본 발명의 기계 번역 방법은 (a) 실시간으로 입력되는 소스 문장에 대하여 구문 분석하고 분석한 소스 문장의 구문 구조로부터 타겟 문장의 구문 구조 변환 지식 및 변환 확률을 추출하는 단계; (b) 상기 타겟 문장의 구문 구조 변환 지식으로부터 추출한 타겟 문장의 구문 구조에 제약 조건을 둔 어휘 변환 모델을 기반으로 타겟 어휘열을 생성하는 단계; (c) 상기 타겟 문장의 구문 구조 변환 확률과 상기 타겟 어휘열의 생성 확률을 결합하여 확률이 높은 타겟 어휘열을 번역문으로 생성하는 단계를 포함하는 것을 특징으로 한다.
본 발명에 따르면, 기존의 어휘 기반 번역 모델과 구문 구조 기반 번역 모델의 단점은 해소하고 장점은 결합할 수 있다.
즉, 본 발명은 구문 구조 변환 모델을 통해 원거리 단어 재배열의 성능을 향상시킬 수 있으며, 이와 동시에 대량의 비-구문 구조 변환 지식(non-syntactic translation knowledge)을 사용하므로 문맥에 맞는 적절한 번역이 수행되어 번역문의 적절성 및 자연스러움을 향상시킬 수 있다.
도 1은 본 발명의 실시 예에 따른 구문 구조 변환 모델과 어휘 변환 모델을 분리한 기계 번역 장치를 나타낸 구성도.
도 2는 도 1의 기계 번역 장치를 구성하는 구문 구조 변환 지식 추출기의 세부 구성을 나타낸 도면.
도 3은 도 1의 기계 번역 장치를 구성하는 어휘 변환기의 세부 구성을 나타낸 도면.
도 4는 본 발명의 실시 예에 따른 구문 구조 변환 모델과 어휘 변환 모델의 차이를 설명하기 위한 예시 도면.
이하, 첨부된 도면을 참조하여 본 발명에 따른 실시 예를 상세하게 설명한다. 본 발명의 구성 및 그에 따른 작용 효과는 이하의 상세한 설명을 통해 명확하게 이해될 것이다. 본 발명의 상세한 설명에 앞서, 동일한 구성요소에 대해서는 다른 도면 상에 표시되더라도 가능한 동일한 부호로 표시하며, 공지된 구성에 대해서는 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 구체적인 설명은 생략하기로 함에 유의한다.
이하에서 언급하는 소스 문장(source sentence) 또는 소스 언어 문장은 번역할 대상이 되는 원시 언어의 문장이고, 타겟 문장(target sentence) 또는 타겟 언어 문장은 소스 문장을 원하는 언어로 번역하여 출력되는 목표 언어의 문장을 의미한다.
도 1은 본 발명의 실시 예에 따른 구문 구조 변환 모델과 어휘 변환 모델을 분리한 기계 번역 장치를 나타낸 구성도이다.
도 1을 참조하면, 본 발명의 실시 예에 따른 기계 번역 장치는 크게 번역 모델 구축기(100), 번역 모델 학습기(300), 디코더(400)를 포함한다.
번역 모델 구축기(100)는 소스 언어 및 타겟 언어로 이루어진 병렬 말뭉치로부터 구문 구조 변환 지식과 어휘 변환 지식을 추출하고 각각의 변환 확률을 추출하는 구문 구조 변환 지식 추출기(110) 및 어휘 변환 지식 추출기(130)를 포함한다. 추출한 구문 구조 변환 지식과 어휘 변환 지식은 각 구문 구조 변환 지식 DB(120)와 어휘 변환 지식 DB(140)에 저장한다.
또한, 번역 모델 구축기(100)는 타겟 언어로 이루어진 단일 말뭉치로부터 언어의 생성 확률을 추출하는 언어 모델 생성기(150)를 포함한다. 추출한 언어의 생성 확률은 언어 모델 DB(160)에 저장하여 언어 모델을 구축한다.
번역 모델 학습기(300)는 번역 모델 구축기(100)를 통해 추출된 각 자질의 가중치를 학습한다. 이러한 번역 모델 학습기(300)는 (Bertoldi, Haddow, Fouet, 2009)의 최소 오차 학습(Minimum error train training (MERT))의 방법을 동일하게 사용할 수 있다.
번역문 생성기(400)는 두 단계의 디코딩(decoding) 과정으로 구성된다. 즉, 1단계는 구문 구조 변환 과정이고 2단계는 어휘 변환 과정이다. 각 단계는 구문 구조 변환기(410) 및 어휘 변환기(420)에서 수행된다.
즉, 1단계를 수행하는 구문 구조 변환기(410)는 확률이 높은 N개의 타겟 구문 구조를 생성하고, 이 결과를 기반으로 2단계의 어휘 변환기(420)에서는 가능한 타겟 어휘열 중 가장 확률이 높은 것을 M개 선택하게 된다. 최종적으로 구문 구조 변환기(410)에서 생성한 N개의 확률과 어휘 변환기(420)에서 생성한 M개의 확률을 결합하며, 이중 가장 확률이 높은 타겟 어휘열을 번역문으로 출력한다.
따라서, 본 발명의 실시 예에 따른 기계 번역 장치는 소스 언어와 타겟 언어로 이루어지는 병렬 말뭉치로부터 구문 구조 변환 지식과 어휘 변환 지식 및 각각의 변환 확률을 추출하고 이와 동시에 단일 말뭉치로부터 타겟 언어의 생성 확률을 획득하여, 이들 각각의 변환 지식과 확률들을 학습시켜 가중치를 둔 번역 모델을 모델링한다. 그리고, 이렇게 모델링한 번역 모델을 실시간으로 입력되는 소스 문장에 대해 적용하여 구문 구조 변환기(410) 및 어휘 변환기(420)의 두 디코딩 과정을 거침으로써 최종 타겟 문장을 생성한다.
이러한 기계 번역 장치의 구성요소를 세부적으로 설명한다.
번역 모델 구축기(100)는 번역 지식과 번역 확률을 추출하는 모듈이다.
특히, 본 발명의 실시 예에 따른 번역 모델 구축기(100)는 다음과 같은 통계적 번역 모델에 기반한다. 문장 e 는 구문 구조 S(e)와 어휘열 L(e)로 구성된다고 가정하면, 가능한 모든 구조 S(e)를 사용하여 수학식 1과 같이 나타낼 수 있다.
Figure pat00001
이때, 소스 문장 f를 타겟 문장 e로 번역하는 것을 아래의 수학식 2와 같이 정의할 수 있다. 즉, 소스 문장 f가 타겟 문장 e로 번역되는 확률 중 최대 확률을 갖는 문장 e^를 번역문으로 한다.
Figure pat00002
본 발명에서는 위의 기본 번역 모델 개념을 아래의 수학식 3과 같이 구문 구조 변환 모델과 어휘 변환 모델로 분리한다.
Figure pat00003
즉, 수학식 3에서 p(S(e)|S(f),L(f)) 부분은 구문 구조 변환 모델을 나타내며, p(L(e)|S(e),S(f),L(f)) 부분은 어휘 변환 모델을 나타낸다.
구문 구조 변환 모델은 소스 문장의 어휘열(L(f))과 소스 문장의 구문 구조(S(f))가 주어졌을 때 어떠한 타겟 문장의 구문 구조(S(e))가 나타날 확률을 의미한다. 어휘 변환 모델은 소스 문장의 어휘열(L(f))과 구문 구조(S(f)) 및 타겟 문장의 구문 구조(S(e))가 주어졌을 때 특정 타겟 문장의 어휘열(L(e))이 나타날 확률을 의미한다. 이때, 소스 문장의 구문 구조(S(f))는 1-best 결과를 추출하는 분석기(parser)를 사용하면 유일하게 결정될 수 있다.
이의 구문 구조 변환 모델을 구체적으로 전개하면 다음과 같다.
Figure pat00004
위 수학식 4에서 S i 는 S(구문 구조)의 i번째 서브 트리를 의미하며, i에 의해 소스 구문 구조의 서브 트리와 타겟 구문 구조의 서브 트리가 대응될 수 있다. L i 는 i번째 서브 트리에 해당하는 문장의 부분 문자열을 의미한다. d i 는 s i (f)에서 s i (e)로의 유도(derivation)를 의미한다. 이때, 수학식 4는 서브 트리간 독립적이며 각 유도 간 및 서브 트리의 외부 어휘열에 대한 독립을 가정한다.
어휘 변환 모델 부분은 일 예로 아래의 수학식 5, 6과 같이 자질함수 F 1 , F 2 에 따라 전개할 수 있다.
Figure pat00005
Figure pat00006
위 수학식 5에서 F 1 은 타겟 문장의 구문 구조((S(e)))와 소스 문장의 구문 구조((S(f))) 및 구문 구조간 정렬 정보로부터 타겟 문장의 품사열(Pos(e))과, 소스 문장에 속한 단어의 번역 순서(Dst) 제한만을 자질로서 출력하는 함수이다.
수학식 6에서 F 2 는 F 1 보다 완화된 제약 조건으로 소스 문장에 속한 단어의 번역 순서(Dst)만을 자질로 출력하는 함수이다. F 1 , F 2 의 예는 도 4에 도시되어 있다. 도 4는 F 1 는 타겟 문장의 품사열 (Pos (e)), 소스 문장의 어휘열(L(f)), 소스 문장에 속한 단어의 타겟 문장에서의 배열순서 (Dst) 에 대한 자질을 조건으로 하여 타겟 문장의 품사열 정보에 기반한 어휘열 생성의 일례를 보여주는데 반해, F 2 는 소스 문장의 어휘열(L(f))과 소스 문장에 속한 단어의 타겟 문장에서의 배열순서 (Dst) 자질만을 조건으로 하여 타겟 문장의 어휘열이 생성되는 일례를 보여준다.
또한, 어휘 변환 모델은 기존 PBSMT에서 사용하는 것처럼 상기 변환 확률 외에도 여러 가지 자질을 사용하는 로그 선형(log-linear) 방식으로 최종 계산할 수 있다.
Figure pat00007
이렇게 문법 변환 모델을 만들기 위한 본 발명의 구문 구조 변환 지식 추출기(110)는 구체적으로 도 2에 도시한 구성을 포함한다.
구문 구조 변환 지식 추출기(110)는 위 수학식 4에서 사용되는 각각의 유도(derivation) d i 의 지식과 확률을 추출하기 위한 것이다. 즉, 종래의 구문 구조 변환 지식을 추출하기 위한 기술은 단어 정렬 정보를 기반으로 소스 언어의 파스 트리(phase tree)와 타겟 언어의 파스 트리의 노드 정렬을 수행한 후 정렬된 노드를 중심으로 변환 지식을 추출하였다. 그런데, 이러한 종래의 방식은 소스 언어, 타겟 언어의 모두에 대해 모두 파서(parser)를 사용하여야 하며 파서 성능에 매우 종속적인 방법으로 번역 지식으로의 오류 전파 문제가 발생할 수 있다.
그러나, 본 발명의 구문 구조 변환 지식 추출기(110)는 도 2에서 도시한 것처럼 구문 구조 변환 지식을 추출하기 위해 소스 말뭉치만 구문 분석을 수행하며, 문장 선별기(111)에서 구문 분석된 소스 말뭉치와 단어 정렬 정보를 선별하고 이를 소스 트리 생성기(113)의 병합(Merge), 삭제(Deletion), 분리/첨부(Detach/Attach), 순서변경(Reordering), 삽입(Insertion), 범위(Spanning)의 6가지 연산을 거침으로써 타겟 트리를 생성한다. 그리고, 트리 노드 정렬기(115)는 소스 트리 생성기(113)에서 생성한 소스 트리와 타겟 트리를 중심으로 노드 정렬을 파악한 후 트리 변환 지식 추출기(117)를 통해 각 노드에서 서브 트리의 변환 지식을 추출한다. 이러한 추출을 모든 문장에 수행한다. 그러면, 확률 계산기(119)는 추출된 지식에 대해 변환 확률 및 생성 확률을 통계적으로 계산한다.
다시 도 1을 참조하면, 번역 모델 구축기(100)에서의 어휘 변환 지식 추출기(130)는 위의 수학식 5 및 6을 통해 수행될 수 있다. 여기서, 구(phrase) 번역은 단어의 번역 순서(Dst)와 독립적 임을 가정하고 문장의 위치를 고려한 번역 확률은 별도로 계산하지 않는다. 단, 수학식 5에서 나타난 품사열(Pos(e))을 제약하기 위해 각 어휘 변환 지식은 타겟 어휘열의 품사열이 별도로 추출되어야 하고 확률도 별도로 계산되어야 한다.
이에 따라, 본 발명에서의 어휘 변환 지식 추출기(130)는 기존의 구 기반 통계적 기계 번역(PBSMT)에서 사용하는 방법이면 어느 것이나 가능하며 일반적으로 위의 수학식 7에서 사용될 수 있는 변환 확률, 언어 모델 확률 등이 추가적으로 이 단계에서 계산될 수 있다.
언어 모델 생성기(150)는 SRILM 언어 모델링 툴킷(SRILM language modeling toolkit), IRST 언어 모델링 툴킷(IRST language modeling toolkit) 등의 외부 모듈을 사용하여 구축할 수 있으며, N-그램(n-gram) 언어 모델 결과이면 어느 것이나 사용 가능하다.
번역 모델 학습기(300)는 위 수학식 7에서의 각 자질에 대한 가중치를 학습한다.
번역문 생성기(400)의 구문 구조 변환기(410)는 입력 문장을 구문 분석하고 구문 구조 변환 지식 추출기(110)에서 학습한 구문 구조 변환 지식을 참조하여 점수가 높은 최대 N개의 타겟 트리를 생성하는 모듈이다.
이 구문 구조 변환기(410)는 입력된 소스 문장의 구문 분석 결과에 대해 가장 높은 확률로 생성된 소스 트리를 하위 노드부터 순회하면서 적용 가능한 규칙을 저장한 후, 점수(score)가 높은 N개의 유도 집합(derivation set)을 찾기 위해 빔 서치(Beam Search)를 수행한다. 이때 점수는 변환 확률과 생성 확률의 곱으로 계산되며 상호 규칙 간에는 독립을 가정한다.
어휘 변환기(420)는 구문 구조 변환기(410)에서 생성된 타겟 문장의 구문 구조에 제약 조건을 두어, 어휘 변환 지식 추출기(130)에서 학습한 어휘 변환 지식을 기반으로 타겟 어휘열을 생성하는 모듈이다.
타겟 문장의 구문 구조 제약은 위에서 언급한 수학식 5와 6에서와 같이 소스 문장의 어휘열/구문 구조, 타겟 문장의 품사열의 제약 조건을 포함한 자질 함수를 통해 수행될 수 있다. 이러한 제약은 수학식 7에서 번역 옵션(translation option) 자질함수, 디스톨션(distortion: 순서 재배열) 자질함수로 반영된다. 이러한 자질함수 값은 구 기반 디코딩 시 구 옵션(phrase option) 제약과 디스톨션(distortion) 제약으로 직접 반영할 수도 있다. 이때, 자질함수 F 1 과 F 2 는 시스템의 옵션으로 선택할 수 있으며 구 테이블(phrase table)의 크기에 따라 사용자가 선택할 수 있도록 한다.
특히, 본 발명에 따른 어휘 변환기(420)의 디코딩 과정은 도 3과 같다.
여기서 종래 기술과 다른 구성은 자질 추출기(421), 번역 옵션 제약기(423), 번역 디스톨션 제약기(425), M-Best 추적기(427)로 각각을 설명하면 다음과 같다.
자질 추출기(Feature Extractor: 421)는 어휘 변환기(420)로 입력된 소스 문장의 어휘열, 소스 문장의 구문 구조, 타겟 문장의 구문 구조를 기반으로 자질을 추출한다.
번역 옵션 제약기(Translation option constrainter: 423)는 자질 추출기(421)에 의해 생성된 품사열(Pos(e))과 번역 순서(Dst)로부터 번역 옵션을 명시적으로 제약할 수 있다. 명시적으로 가지치기(pruning)를 하지 않는 경우에는 기존의 방식대로 생성된 번역 옵션에 매우 낮은 확률값을 부여한다. 여기서의 번역 옵션은 어휘 번역의 단위가 될 수 있는 가능한 모든 구(phrase)들을 의미한다.
번역 디스톨션 제약기(distortion constrainter: 425)는 종래 기술에 따르면 정해진 순서 없이 랜덤하게 번역 순서를 정하였으나, 본 발명에서는 자질 추출기(421)를 통해 얻은 어순 제약을 통해 명시적으로 번역 순서를 정하거나 또는 확률적으로 번역 순서를 정하여 제약한다.
예를 들어, 번역 옵션을 랜덤하게 선택하는 것이 아니라 타겟 오더에 의해 순서를 정하도록 명시적 제약을 두거나 또는 타겟 위치에 위반하는 순서의 경우 매우 낮은 확률을 갖도록 확률적 제약을 둘 수 있다.
M-Best 추적기(427)는 가설 공간 탐색(424) 후 가장 점수가 높은 M개의 가설을 선택하기 위한 모듈로서, 탐색이 끝난 지점에서 역으로 추적하여 N개의 어휘열(derivation set)을 출력한다. 기존에는 최종 1개의 가설만을 선택하였으나, 수학식 3에서 볼 수 있듯이 동일한 e를 생성하는 모든 가능한 경우에 대해 확률의 결합이 필요하므로 본 발명에서는 M개의 가설이 선택된다.
마지막으로 N개의 구문 구조에서 생성된 각각의 M개의 가설에 대해 동일한 문장 e을 생성하는 것에 대해 확률을 결합한 후 가장 확률이 높은 타겟 어휘열을 번역문으로 선택하여 출력한다.
한편, 본 발명은 이상에서 설명한 단어 정렬 방법을 소프트웨어적인 프로그램으로 구현하여 컴퓨터로 읽을 수 있는 소정 기록 매체에 기록해 둠으로써 다양한 재생 장치에 적용할 수 있다.
다양한 재생 장치는 PC, 노트북, 휴대용 단말 등일 수 있다.
예컨대, 기록 매체는 각 재생 장치의 내장형으로 하드 디스크, 플래시 메모리, RAM, ROM 등이거나, 외장형으로 CD-R, CD-RW와 같은 광디스크, 콤팩트 플래시 카드, 스마트 미디어, 메모리 스틱, 멀티미디어 카드일 수 있다.
이상의 설명은 본 발명을 예시적으로 설명한 것에 불과하며, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 본 발명의 기술적 사상에서 벗어나지 않는 범위에서 다양한 변형이 가능할 것이다. 따라서 본 발명의 명세서에 개시된 실시 예들은 본 발명을 한정하는 것이 아니다. 본 발명의 범위는 아래의 특허청구범위에 의해 해석되어야 하며, 그와 균등한 범위 내에 있는 모든 기술도 본 발명의 범위에 포함되는 것으로 해석해야 할 것이다.
종래의 구 기반 또는 구문 구조 기반의 통계적 기계 번역은 원거리 어순 변경에 실패하여 전혀 다른 문장이 되거나 또는 타겟 문장의 어순은 맞지만 번역 지식 부족으로 단순한 단어 대 단어 번역으로 이루어지는 문제점이 있으나, 본 발명은 소스 언어 및 타겟 언어의 병렬 말뭉치로부터 구문 구조 변환 및 어휘 변환의 두 모델링을 수행하고 이를 기반으로 디코딩함으로써 구 기반의 통계적 기계 번역과 구문 구조 기반의 통계적 기계 번역의 단점은 해소하고 장점을 결합할 수 있으며, 이로 인해 문맥에 맞는 적절한 번역이 수행되어 번역문의 적절성 및 자연스러움을 향상시킬 수 있다.
100: 번역 모델 구축기 110: 구문 구조 변환 지식 추출기
120: 구문 구조 변환 지식DB 130: 어휘 변환 지식 추출기
140: 어휘 변환 지식DB 150: 언어 모델 생성기
160: 언어 모델 300: 번역 모델 학습기
400: 번역문 생성기 410: 구문 구조 변환기
420: 어휘 변환기 111: 문장 선별기
113: 소스 트리 생성기 115: 트리 노드 정렬기
117: 트리 변환 지식 추출기 119: 확률 계산기
421: 자질 추출기 422: 번역 옵션 생성
423: 번역 옵션 제약기 424: 가설 탐색
425: 번역 디스톨션 제약기

Claims (19)

  1. 복수의 병렬 말뭉치에서 소스 문장의 단어 정렬 정보와 구문 분석 정보 및 타겟 문장의 단어 정렬 정보를 이용하여 타겟 문장의 구문 구조 변환 지식 및 어휘 변환 지식을 추출하고 추출된 각각의 지식에 대하여 변환 확률을 계산한 다음 상기 변환 확률에 대하여 가중치를 학습시키는 번역 모델 구축기;
    실시간으로 입력되는 소스 문장에 대하여 상기 번역 모델 구축기를 통해 학습시킨 구문 구조 변환 과정과 어휘 변환 과정을 적용하여 상기 소스 문장을 타겟 문장으로 디코딩하는 번역문 생성기
    를 포함하는 것을 특징으로 하는 통계적 기계 번역 장치.
  2. 제 1 항에 있어서,
    상기 번역 모델 구축기는,
    상기 타겟 문장의 단일 말뭉치로부터 타겟 어휘열의 생성 확률을 추출하여 언어 모델을 생성하는 언어 모델 생성기
    를 더 포함하는 것을 특징으로 하는 통계적 기계 번역 장치.
  3. 제 1 항에 있어서,
    상기 번역문 생성기는
    상기 구문 구조 변환 과정과 어휘 변환 과정에 의해 출력된 복수의 구문 구조 변환 확률과 어휘 변환 확률을 결합하여 확률이 높은 타겟 어휘열을 최종 번역문으로 생성하는 것을 특징으로 하는 통계적 기계 번역 장치.
  4. 복수의 병렬 말뭉치에서 소스 문장의 단어 정렬 정보와 구문 분석 정보 및 타겟 문장의 단어 정렬 정보를 이용하여 타겟 문장에 대한 구문 구조 변환 지식을 추출하고 추출된 지식에 대해 변환 확률을 계산하는 구문 구조 변환 지식 추출기와,
    상기 복수의 병렬 말뭉치에서 소스 문장의 단어 정렬 정보와 타겟 문장의 단어 정렬 정보 및 타겟 문장의 구문 분석 정보를 이용하여 어휘 변환 지식을 추출하고 추출된 지식에 대해 변환 확률을 계산하는 어휘 변환 추출기
    를 포함하는 것을 특징으로 하는 번역 모델 구축 장치.
  5. 제 4 항에 있어서,
    상기 구문 구조 변환 추출기는,
    상기 복수의 병렬 말뭉치에서 소스 문장과 타겟 문장의 단어 정렬 정보를 이용하여 타겟 문장의 구문 트리(타겟 트리)를 생성하는 트리 생성기;
    상기 트리 생성기에서 생성된 타겟 트리와 상기 소스 문장의 구문 분석 정보에 따른 소스 트리를 중심으로 노드를 정렬하는 트리 노드 정렬기;
    각 노드에서 서브 트리의 변환 지식을 추출하는 트리 변환 지식 추출기;
    상기 트리 변환 지식 추출기에서 추출된 지식에 대하여 변환 확률을 통계적으로 계산하는 확률 계산기
    를 포함하는 것을 특징으로 하는 번역 모델 구축 장치.
  6. 제 4 항에 있어서,
    상기 어휘 변환 추출기는
    상기 소스 문장의 단어 정렬 정보와 타겟 문장의 단어 정렬 정보 및 타겟 문장의 구문 분석 정보에 특정 제약 조건을 정의해 둔 자질 함수를 적용하여 상기 어휘 변환 확률을 추출하는 것을 특징으로 하는 번역 모델 구축 장치.
  7. 제 6 항에 있어서,
    상기 자질 함수는
    상기 타겟 문장의 구문 구조와 소스 문장의 구문 구조 및 상호 구문 구조간 정렬 정보로부터 타겟 문장의 품사열과, 소스 문장에 속한 단어의 번역 순서를 제약하여 이를 자질로서 출력하는 함수인 것을 특징으로 하는 번역 모델 구축 장치.
  8. 제 6 항에 있어서,
    상기 자질 함수는
    상기 타겟 문장의 구문 구조와 소스 문장의 구문 구조 및 상호 구문 구조간 정렬 정보로부터 소스 문장에 속한 단어의 번역 순서만을 자질로 출력하는 함수인 것을 특징으로 하는 번역 모델 구축 장치.
  9. 실시간으로 입력되는 소스 문장에 대하여 구문 분석하고 분석한 소스 문장의 구문 구조로부터 타겟 문장의 구문 구조 변환 지식을 추출하고 추출된 지식에 대해 변환 확률을 학습시킨 구문 구조 변환기;
    상기 구문 구조 변환기를 통해 추출된 타겟 문장의 구문 구조에 제약 조건을 둔 어휘 변환 모델을 기반으로 타겟 어휘열을 생성하는 어휘 변환기;
    상기 구문 구조 변환기를 통해 학습시킨 변환 확률에서 상기 어휘 변환기를 통해 생성한 타겟 어휘열의 생성 확률을 결합한 후 가장 확률이 높은 타겟 어휘열을 번역문으로 생성하는 확률 계산기
    를 포함하는 것을 특징으로 하는 번역문 생성장치.
  10. 제 9 항에 있어서,
    상기 어휘 변환기는,
    상기 구문 구조 변환기로부터 입력되는 소스 문장의 단어 정렬 정보, 구문 분석 정보, 타겟 문장의 구문 분석 정보를 기반으로 자질(Feature)을 추출하는 자질 추출기;
    상기 자질 추출기에 의해 추출된 품사열과 번역 순서로부터 번역 옵션을 제약하는 번역 옵션 제약기;
    상기 자질 추출기에 의해 추출된 어순 제약을 통해 번역 순서를 재배열하는 번역 디스톨션 제약기;
    상기 자질 추출기를 통해 추출된 자질에 상기 번역 옵션 제약기 및 상기 번역 디스톨션 제약기를 통해 정한 제약 조건을 반영하여 가설을 탐색하는 가설 탐색기;
    상기 가설 탐색기에서 탐색한 가설에 대하여 동일한 타겟 어휘열을 생성하는 것에 대한 확률을 계산하여 상기 확률이 높은 타겟 어휘열을 선택하는 M-Best 추적기
    를 포함하는 것을 특징으로 하는 번역문 생성장치.
  11. (a) 복수의 병렬 말뭉치에서 소스 문장의 단어 정렬 정보와 소스 문장의 구문 분석 정보 및 타겟 문장의 단어 정렬 정보를 이용하여 타겟 문장에 대한 구문 구조 변환 지식을 추출하는 단계;
    (b) 상기 복수의 병렬 말뭉치에서 소스 문장의 단어 정렬 정보와 타겟 문장의 단어 정렬 정보 및 타겟 문장의 구문 분석 정보를 이용하여 어휘 변환 지식을 추출하는 단계;
    (c) 상기 구문 구조 변환 지식 및 어휘 변환 지식에 대한 변환 확률을 각각 계산하고 각 변환 확률에 대하여 가중치를 학습시키는 단계
    를 포함하여 번역 모델을 구축한 것을 특징으로 하는 번역 모델 구축 방법.
  12. 제 11 항에 있어서,
    상기 (a) 단계는,
    상기 복수의 병렬 말뭉치에서 소스 문장의 단어 정렬 정보와 타겟 문장의 단어 정렬 정보를 이용하여 타겟 문장의 구문 트리를 생성하는 단계;
    상기 타겟 문장의 구문 트리와 상기 소스 문장의 구문 분석 정보에 따른 소스 트리를 중심으로 노드를 정렬하는 단계;
    각 노드에서 서브 트리의 변환 지식을 추출하는 단계
    를 포함하는 것을 특징으로 하는 번역 모델 구축 방법.
  13. 제 11 항에 있어서,
    상기 (c) 단계에서 어휘 변환 확률을 계산하는 단계는,
    상기 소스 문장의 단어 정렬 정보와 타겟 문장의 단어 정렬 정보 및 타겟 문장의 구문 분석 정보에 특정 제약 조건을 정의해 둔 자질 함수를 적용하여 추출하는 것을 특징으로 하는 번역 모델 구축 방법.
  14. 제 13 항에 있어서,
    상기 자질 함수는
    상기 타겟 문장의 구문 구조와 소스 문장의 구문 구조 및 상호 구문 구조간 정렬 정보로부터 타겟 문장의 품사열과, 소스 문장에 속한 단어의 번역 순서를 제약하여 이를 자질로서 출력하는 함수를 이용한 것을 특징으로 하는 번역 모델 구축 방법.
  15. 제 13 항에 있어서,
    상기 자질 함수는
    상기 타겟 문장의 구문 구조와 소스 문장의 구문 구조 및 상호 구문 구조간 정렬 정보로부터 소스 문장에 속한 단어의 번역 순서만을 자질로 출력하는 함수를 이용한 것을 특징으로 하는 번역 모델 구축 방법.
  16. (a) 실시간으로 입력되는 소스 문장에 대하여 구문 분석하고 분석한 소스 문장의 구문 구조로부터 타겟 문장의 구문 구조 변환 지식 및 변환 확률을 추출하는 단계;
    (b) 상기 타겟 문장의 구문 구조 변환 지식으로부터 추출한 타겟 문장의 구문 구조에 제약 조건을 둔 어휘 변환 모델을 기반으로 타겟 어휘열을 생성하는 단계;
    (c) 상기 타겟 문장의 구문 구조 변환 확률과 상기 타겟 어휘열의 생성 확률을 결합하여 확률이 높은 타겟 어휘열을 번역문으로 생성하는 단계
    를 포함하는 것을 특징으로 하는 기계 번역 방법.
  17. 제 16 항에 있어서,
    상기 (b) 단계는,
    상기 구문 구조 변환기로부터 입력되는 소스 문장의 단어 정렬 정보, 구문 분석 정보, 타겟 문장의 구문 분석 정보를 기반으로 자질(Feature)을 추출하는 단계;
    상기 자질에 제약할 번역 옵션을 설정하는 단계;
    상기 자질에 상기 번역 옵션을 반영하여 가설을 탐색하는 단계;
    탐색된 가설에 대하여 동일한 타겟 어휘열을 생성하는 확률을 계산하여 확률이 높은 타겟 어휘열을 선택하는 단계
    를 포함하는 것을 특징으로 하는 기계 번역 방법.
  18. 제 17 항에 있어서,
    상기 번역 옵션은 품사열, 번역 어순 중 어느 하나 이상을 선택적으로 포함하는 것을 특징으로 하는 기계 번역 방법.
  19. 제 11 항 내지 제 18 항 중 어느 한 항에 의한 과정을 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.
KR1020100109546A 2010-11-05 2010-11-05 구문 구조 변환 모델과 어휘 변환 모델을 결합한 기계 번역 장치 및 기계 번역 방법 KR101762866B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020100109546A KR101762866B1 (ko) 2010-11-05 2010-11-05 구문 구조 변환 모델과 어휘 변환 모델을 결합한 기계 번역 장치 및 기계 번역 방법
CN201180053404.1A CN103189860B (zh) 2010-11-05 2011-07-20 组合句法转换模型与词汇转换模型的机器翻译装置和机器翻译方法
PCT/KR2011/005325 WO2012060540A1 (ko) 2010-11-05 2011-07-20 구문 구조 변환 모델과 어휘 변환 모델을 결합한 기계 번역 장치 및 기계 번역 방법
US13/883,758 US10198437B2 (en) 2010-11-05 2011-07-20 Machine translation device and machine translation method in which a syntax conversion model and a word translation model are combined

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100109546A KR101762866B1 (ko) 2010-11-05 2010-11-05 구문 구조 변환 모델과 어휘 변환 모델을 결합한 기계 번역 장치 및 기계 번역 방법

Publications (2)

Publication Number Publication Date
KR20120048104A true KR20120048104A (ko) 2012-05-15
KR101762866B1 KR101762866B1 (ko) 2017-08-16

Family

ID=46024637

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100109546A KR101762866B1 (ko) 2010-11-05 2010-11-05 구문 구조 변환 모델과 어휘 변환 모델을 결합한 기계 번역 장치 및 기계 번역 방법

Country Status (4)

Country Link
US (1) US10198437B2 (ko)
KR (1) KR101762866B1 (ko)
CN (1) CN103189860B (ko)
WO (1) WO2012060540A1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10380264B2 (en) 2016-08-16 2019-08-13 Samsung Electronics Co., Ltd. Machine translation method and apparatus
KR20210073762A (ko) * 2019-12-11 2021-06-21 김월수 출입국 민원 대행 서비스 제공 방법 및 시스템
US11574135B2 (en) 2019-12-19 2023-02-07 Beijing Baidu Netcom Science And Technology Co., Ltd. Method, apparatus, electronic device and readable storage medium for translation

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6334354B2 (ja) * 2014-09-30 2018-05-30 株式会社東芝 機械翻訳装置、方法およびプログラム
JP6466138B2 (ja) * 2014-11-04 2019-02-06 株式会社東芝 外国語文作成支援装置、方法及びプログラム
US9442922B2 (en) * 2014-11-18 2016-09-13 Xerox Corporation System and method for incrementally updating a reordering model for a statistical machine translation system
CN106383818A (zh) * 2015-07-30 2017-02-08 阿里巴巴集团控股有限公司 一种机器翻译方法及装置
CN107818086B (zh) * 2016-09-13 2021-08-10 株式会社东芝 机器翻译方法和装置
US10346547B2 (en) * 2016-12-05 2019-07-09 Integral Search International Limited Device for automatic computer translation of patent claims
KR102637338B1 (ko) * 2017-01-26 2024-02-16 삼성전자주식회사 번역 보정 방법 및 장치와 번역 시스템
KR102509822B1 (ko) * 2017-09-25 2023-03-14 삼성전자주식회사 문장 생성 방법 및 장치
KR102424540B1 (ko) * 2017-10-16 2022-07-25 삼성전자주식회사 문장 생성 모델의 업데이트 방법 및 문장 생성 장치
CN110413753B (zh) * 2019-07-22 2020-09-22 阿里巴巴集团控股有限公司 问答样本的扩展方法及装置
US11100412B2 (en) 2019-07-22 2021-08-24 Advanced New Technologies Co., Ltd. Extending question and answer samples
CN110598222B (zh) * 2019-09-12 2023-05-30 北京金山数字娱乐科技有限公司 语言处理方法及装置、语言处理系统的训练方法及装置
CN111382581B (zh) * 2020-01-21 2023-05-19 沈阳雅译网络技术有限公司 一种机器翻译中的一次剪枝压缩方法
US11797781B2 (en) * 2020-08-06 2023-10-24 International Business Machines Corporation Syntax-based multi-layer language translation
CN112668326B (zh) * 2020-12-21 2024-03-08 平安科技（深圳）有限公司 语句翻译方法、装置、设备及存储介质
CN112633019B (zh) * 2020-12-29 2023-09-05 北京奇艺世纪科技有限公司 一种双语样本生成方法、装置、电子设备及存储介质
US20230095352A1 (en) * 2022-05-16 2023-03-30 Beijing Baidu Netcom Science Technology Co., Ltd. Translation Method, Apparatus and Storage Medium
CN116304217B (zh) * 2023-03-31 2024-04-26 易智瑞信息技术有限公司 地理空间数据查询方法、装置、电子设备和可读存储介质

Family Cites Families (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0261763A (ja) * 1988-08-29 1990-03-01 Sharp Corp 機械翻訳装置
JP3220560B2 (ja) * 1992-05-26 2001-10-22 シャープ株式会社 機械翻訳装置
JP3066274B2 (ja) * 1995-01-12 2000-07-17 シャープ株式会社 機械翻訳装置
WO2003005166A2 (en) * 2001-07-03 2003-01-16 University Of Southern California A syntax-based statistical translation model
CN1643512A (zh) * 2002-03-27 2005-07-20 南加利福尼亚大学 统计机译中短语化联合概率模型的短语
US7346493B2 (en) * 2003-03-25 2008-03-18 Microsoft Corporation Linguistically informed statistical models of constituent structure for ordering in sentence realization for a natural language generation system
KR100559472B1 (ko) 2003-12-24 2006-03-10 한국전자통신연구원 영한 자동번역에서 의미 벡터와 한국어 국소 문맥 정보를사용한 대역어 선택시스템 및 방법
US7593843B2 (en) * 2004-03-30 2009-09-22 Microsoft Corporation Statistical language model for logical form using transfer mappings
JP5452868B2 (ja) * 2004-10-12 2014-03-26 ユニヴァーシティー オブ サザン カリフォルニア トレーニングおよび復号のためにストリングからツリーへの変換を使うテキスト‐テキスト・アプリケーションのためのトレーニング
US20060282255A1 (en) * 2005-06-14 2006-12-14 Microsoft Corporation Collocation translation from monolingual and available bilingual corpora
US7536295B2 (en) * 2005-12-22 2009-05-19 Xerox Corporation Machine translation using non-contiguous fragments of text
US20070265826A1 (en) * 2006-05-10 2007-11-15 Stanley Chen Systems and methods for fast and memory efficient machine translation using statistical integrated phase lattice
US8209163B2 (en) * 2006-06-02 2012-06-26 Microsoft Corporation Grammatical element generation in machine translation
US8886518B1 (en) * 2006-08-07 2014-11-11 Language Weaver, Inc. System and method for capitalizing machine translated text
US8626486B2 (en) * 2006-09-05 2014-01-07 Google Inc. Automatic spelling correction for machine translation
KR100911372B1 (ko) 2006-12-05 2009-08-10 한국전자통신연구원 통계적 기계번역 시스템에서 단어 및 구문들간의 번역관계를 자율적으로 학습하기 위한 장치 및 그 방법
US20080154577A1 (en) * 2006-12-26 2008-06-26 Sehda,Inc. Chunk-based statistical machine translation system
CA2675208A1 (en) * 2007-01-10 2008-07-17 National Research Council Of Canada Means and method for automatic post-editing of translations
US8452585B2 (en) * 2007-06-21 2013-05-28 Microsoft Corporation Discriminative syntactic word order model for machine translation
KR100912501B1 (ko) * 2007-08-09 2009-08-17 한국전자통신연구원 번역 지식 구축 방법 및 장치
US8423346B2 (en) * 2007-09-05 2013-04-16 Electronics And Telecommunications Research Institute Device and method for interactive machine translation
US9053089B2 (en) * 2007-10-02 2015-06-09 Apple Inc. Part-of-speech tagging using latent analogy
US8046211B2 (en) * 2007-10-23 2011-10-25 Microsoft Corporation Technologies for statistical machine translation based on generated reordering knowledge
US8060360B2 (en) 2007-10-30 2011-11-15 Microsoft Corporation Word-dependent transition models in HMM based word alignment for statistical machine translation
US20090119090A1 (en) * 2007-11-01 2009-05-07 Microsoft Corporation Principled Approach to Paraphrasing
JP5112116B2 (ja) * 2008-03-07 2013-01-09 株式会社東芝 機械翻訳する装置、方法およびプログラム
WO2009129315A1 (en) * 2008-04-15 2009-10-22 Mobile Technologies, Llc System and methods for maintaining speech-to-speech translation in the field
CN101398815B (zh) * 2008-06-13 2011-02-16 中国科学院计算技术研究所 一种机器翻译方法
US8150677B2 (en) * 2008-06-26 2012-04-03 Microsoft Corporation Machine translation using language order templates
KR100961717B1 (ko) * 2008-09-16 2010-06-10 한국전자통신연구원 병렬 코퍼스를 이용한 기계번역 오류 탐지 방법 및 장치
WO2010046782A2 (en) * 2008-10-24 2010-04-29 App Tek Hybrid machine translation
US8494835B2 (en) * 2008-12-02 2013-07-23 Electronics And Telecommunications Research Institute Post-editing apparatus and method for correcting translation errors
US8244519B2 (en) * 2008-12-03 2012-08-14 Xerox Corporation Dynamic translation memory using statistical machine translation
CN101520775B (zh) * 2009-02-17 2012-05-30 北京大学 一种融入语义信息的中文句法分析与解码方法
US8548796B2 (en) * 2010-01-20 2013-10-01 Xerox Corporation Statistical machine translation system and method for translation of text into languages which produce closed compound words
US8265923B2 (en) * 2010-05-11 2012-09-11 Xerox Corporation Statistical machine translation employing efficient parameter training

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10380264B2 (en) 2016-08-16 2019-08-13 Samsung Electronics Co., Ltd. Machine translation method and apparatus
KR20210073762A (ko) * 2019-12-11 2021-06-21 김월수 출입국 민원 대행 서비스 제공 방법 및 시스템
US11574135B2 (en) 2019-12-19 2023-02-07 Beijing Baidu Netcom Science And Technology Co., Ltd. Method, apparatus, electronic device and readable storage medium for translation

Also Published As

Publication number Publication date
US20130226556A1 (en) 2013-08-29
KR101762866B1 (ko) 2017-08-16
WO2012060540A1 (ko) 2012-05-10
CN103189860A (zh) 2013-07-03
US10198437B2 (en) 2019-02-05
CN103189860B (zh) 2017-10-27

Similar Documents

Publication Publication Date Title
KR101762866B1 (ko) 구문 구조 변환 모델과 어휘 변환 모델을 결합한 기계 번역 장치 및 기계 번역 방법
Hokamp et al. Lexically constrained decoding for sequence generation using grid beam search
CN111090727B (zh) 语言转换处理方法、装置及方言语音交互系统
KR101266361B1 (ko) 구조화된 번역 메모리 기반의 자동 번역 시스템 및 자동 번역 방법
KR101732634B1 (ko) 의존관계 포레스트를 이용한 통계적 기계 번역 방법
JP2000353161A (ja) 自然言語生成における文体制御方法及び装置
CN104239290B (zh) 基于依存树的统计机器翻译方法及系统
KR100853173B1 (ko) 통계적 자동 번역 방식에 기반한 음성 자동 통역 시스템 및그에 적용되는 번역 처리 방법 및 그 훈련방법
JP2006338261A (ja) 翻訳装置、翻訳方法及び翻訳プログラム
JP2018072979A (ja) 対訳文抽出装置、対訳文抽出方法およびプログラム
CN111968646A (zh) 一种语音识别方法及装置
Gu et al. Concept-based speech-to-speech translation using maximum entropy models for statistical natural concept generation
KR20140079545A (ko) 디코딩 방식에 기반한 다국어 형태소 분석 및 품사 태깅 방법
JP5700833B2 (ja) 並替モデル生成装置、語順並替装置、方法及びプログラム
JP5544518B2 (ja) 機械翻訳装置、機械翻訳方法、およびそのプログラム
JP4114526B2 (ja) 機械翻訳システム及び機械翻訳方法、並びにコンピュータ・プログラム
Huang et al. Input method for human translators: a novel approach to integrate machine translation effectively and imperceptibly
KR101589948B1 (ko) 자동 번역 방법 및 장치
KR20170108621A (ko) 단일언어 코퍼스를 이용한 통계 및 학습기반 번역 장치
WO2024004183A1 (ja) 抽出装置、生成装置、抽出方法、生成方法、及びプログラム
WO2024004184A1 (ja) 生成装置、生成方法、及びプログラム
KR20120060666A (ko) 통계적 기계 번역에서 명사구 대역 쌍 추출 장치 및 방법
US20130080144A1 (en) Machine translation apparatus, a method and a non-transitory computer readable medium thereof
Yao et al. Joint decoding of tree transduction models for sentence compression
KR20090061531A (ko) 자동번역 시스템에서의 영어 어휘 패턴 구축 방법 및 장치

Legal Events

Date Code Title Description
N231 Notification of change of applicant
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant