JP6884945B2 - 訓練用データ生成装置、最適パラメータ取得装置、訓練用データ生成方法、および最適パラメータ取得方法 - Google Patents

Description

本発明は、第１言語をその第１言語とは異なる第２言語に翻訳するための機械翻訳技術に関し、特に機械翻訳結果（ＭＴ訳）に対して信頼度を付与する技術に関する。

ＭＴ訳に対して信頼度を付与する技術は、ＭＴ訳をそのまま使用するかどうかの意思決定、ユーザに対する品質の申告等の観点で有用である。特にＭＴ訳中の各語の適否を推定する技術（ＭＴ訳における誤り箇所を自動的に特定する技術）は、システム・人間が協働で高品質な翻訳を実現する場合に、後編集が必要な箇所を示す用途や、ＭＴ訳をユーザがそのまま用いる場合に適切な箇所とそうでない箇所を判別する用途などで有用である。このため、ＭＴ訳に対して信頼度を付与する技術が種々開発されている。

ＭＴ訳における語レベルの信頼度推定（Ｗｏｒｄ−ｌｅｖｅｌ Ｑｕａｌｉｔｙ Ｅｓｔｉｍａｔｉｏｎ（ＷＱＥ））では、数万〜数十万種類に及ぶ語を評価する必要がある。このため、誤り箇所を検出する方法としては、ルールを人間が作成して用いるのではなく、研究の初期の段階から、もっぱら統計的機械学習に基づく方法が用いられてきた。Ｕｅｆｆｉｎｇら（非特許文献１）は、機械翻訳システム（ＭＴシステム）が出力する上位Ｎ個の訳候補を、語をノードとするグラフによって表し、そこから訳候補中の個々の語が生起する条件付き確率を求め、事前に定めた閾値を超える語を「正」、それ以外の語を「否」に２値分類する方法を提案した。Ｇａｎｄｒａｂｕｒら（非特許文献２）は、そのような条件付き確率をニューラルネットワークを用いて精緻化する方法を提案した。Ｂｌａｔｓら（非特許文献３）は、原文の文長、ＭＴ訳中の語と原文中の語との対応付けのスコア、括弧や引用記号の対応の是非などの新たな特徴量を導入した。その後も目的言語における単語の品詞情報（非特許文献４）やＭＴ訳を原言語に翻訳し直したもの（非特許文献５）、原文中の対応する語の文脈情報（非特許文献６）など、統計的機械学習に用いる種々の特徴量（素性）が提案されてきた（非特許文献７）。統計的機械学習のフレームワークとしても個々の語を独立に捉えるだけでなく、ＭＴ訳を語の系列と捉えて過去の文脈における信頼度推定結果をふまえた系列ラベリング問題としての定式化（非特許文献６）や条件付き確率場（Ｃｏｎｄｉｔｉｏｎａｌ Ｒａｎｄｏｍ Ｆｉｅｌｄｓ（ＣＲＦｓ））による出力系列全体の最適化（構造学習）（非特許文献７、８）などが提案されている。

ＭＴ訳における語レベルの信頼度推定システムＷＱＥ(Ｗｏｒｄ−ｌｅｖｅｌ Ｑｕａｌｉｔｙ Ｅｓｔｉｍａｔｉｏｎ)システムのモデルの学習に必要な訓練用データ（正解データ）は、次の例のような（原文ｘ，ＭＴ訳ｙ，語の正否（タグ）の系列ｔ）の３つ組を集積したものである。
原文ｘ：あなた／は／２２／時／まで／に／チェックイン／する／必要／が／あり／ます／。
ＭＴ訳ｙ：Ｙｏｕ／ｓｈｏｕｌｄ／ｃｈｅｃｋ／ｉｎ／ｂｙ／ｔｗｅｎｔｙ／ｔｗｏ／ｏ’ｃｌｏｃｋ／．
語の正否（タグ）の系列ｔ：ＯＫ／ＢＡＤ／ＯＫ／ＯＫ／ＯＫ／ＢＡＤ／ＢＡＤ／ＢＡＤ／ＯＫ
なお、上記の各例における「／」は語の境界を表す。このような訓練用データは、ＭＴ訳ｙの個々の語に対して「ＯＫ」または「ＢＡＤ」を人手で付与する方法（非特許文献９）、あるいはＭＴ訳ｙを人手で編集して正しい訳（修正訳ｐ）を作成した後に、編集された語を自動的に特定してそれらを「ＢＡＤ」、それ以外の語を「ＯＫ」とする方法（非特許文献１０）によって得られる。

このような技術を用いて、例えば図８に示す訓練用データ取得システム９０００を構築することが考えられる。

図８に示す訓練用データ取得システム９０００は、機械翻訳部９１と、ＭＴ用データ格納部ＤＢ９１と、タグ系列取得部９２と、訓練用データ取得部９３とを備える。

訓練用データ取得システム９０００では、原文データｘが機械翻訳部９１により機械翻訳され機械翻訳文データｙが取得される。そして機械翻訳文データｙから人手により修正訳ｐを作成する処理Ｐｒｏ１が実行される。処理Ｐｒｏ１により取得された修正訳ｐと機械翻訳文データｙとがタグ系列取得部９２に入力される。タグ系列取得部９２は、機械翻訳文データｙと修正訳ｐとを比較し修正された語を特定し、修正された語に「ＢＡＤ」というタグを付し、それ以外の語には「ＯＫ」というタグを付すことでタグ系列データｔを取得する。

そして、訓練用データ取得部９３は、原文データｘと、機械翻訳文データｙと、タグ系列データｔとを組み合わせたデータＤｏｕｔを訓練用データ格納部ＤＢ９２に格納する。

訓練用データ取得システム９０００において上記のように処理を行うことで、ＭＴ訳における語レベルの信頼度推定システム（ＷＱＥシステム）のモデルの学習に必要な訓練用データ（正解データ）（原文データｘと、機械翻訳文データｙと、タグ系列データｔとを組み合わせたデータＤｏｕｔ）を取得することができる。

Nicola Ueffing, Klaus Macherey, and Hermann Ney (2003). Confidence Measures for Statistical Machine Translation. In Proceedings of Machine Translation Summit IX, pp. 394-401. Simona Gandrabur and George Foster (2003). Confidence Estimation for Translation Prediction. In Proceedings of the Seventh Conference on Natural Language Learning (CoNLL), pp. 95-102. John Blats, Erin Fitzgerald, George Foster, Simona Grandrabur, Cyril Goutte, Alex Kulesza, Alberto Sanchis, and Nicola Ueffing (2004). Confidence Estimation for Machine Translation. In Proceedings of the 20th International Conference on Computational Linguistics (COLING), pp. 315-321. Deyi Xiong, Min Zhang, and Haizhou Li (2010). Error Detection for Statistical Machine Translation Using Linguistic Features. In Proceedings of the 48th Annual Meeting of the Association for Computational Linguistics (ACL), pp. 604-611. Nguyen Bach, Matthias Eck, Paisarn Charoenpornsawat, Thilo Khler, Sebastian Stker, ThuyLinh Nguyen, Roger Hsiao, Alex Waibel, Stephan Vogel, Tanja Schultz, and Alan Black (2007). The CMU TransTac 2007 Eyes-free and Hands-free Two-way Speech-to-Speech Translation System. In Proceedings of the International Workshop on Spoken Language Translation, 8 pages. Nguyen Bach, Fei Huang and Yaser Al-Onaizan (2011). Goodness: A Method for Measuring Machine Translation Confidence. In Proceedings of the 49th Annual Meeting of the Association for Computational Linguistics (ACL), pp. 211-219. Ngoc Quang Luong, Laurent Besacier, and Benjamin Lecouteux (2014). LIG System for Word Level QE task at WMT14. In Proceedings of the 9th Workshop on Statistical Machine Translation (WMT), pp.335-341. Lucia Specia, Gustavo Paetzold, and Carolina Scarton (2015). Multi-level Translation Quality Prediction with QuEst++. In Proceedings of ACL-IJCNLP 2015 System Demonstrations, pp. 115-120. Ondrej Bojar, Christian Buck, Christian Federmann, Barry Haddow, Philipp Koehn, Johannes Leveling, Christof Monz, Pavel Pecina, Matt Post, Herve Saint-Amand; Radu Soricut, Lucia Specia, and Ales Tamchyna (2014). Findings of the 2014 Workshop on Statistical Machine Translation. In Proceedings of the 9th Workshop on Statistical Machine Translation (WMT), pp. 12-58. Ondrej Bojar, Rajen Chatterjee, Christian Federmann, Barry Haddow, Matthias Huck, Chris Hokamp, Philipp Koehn, Varvara Logacheva, Christof Monz, Matteo Negri, Matt Post, Carolina Scarton, Lucia Specia, and Marco Turchi (2015). Findings of the 2015 Workshop on Statistical Machine Translation. In Proceedings of the 2015 Workshop on Statistical Machine Translation (WMT), pp. 1-46.

一般的に統計的機械学習に基づく方法は訓練用データが大きいほど性能が高い。しかしながら統計的機械学習に基づくＷＱＥ用の訓練用データの作成には人手が不可欠であるため、訓練用データの大規模化が困難である。例えば上記のような従来技術を用いた訓練用データ取得システム９０００においても、機械翻訳文データｙから人手により修正訳ｐを作成する処理Ｐｒｏ１を行う必要があり、多量の訓練用データを取得するには時間と費用がかかる課題がある。

また、既存のＷＱＥシステムの構築手法においては、訓練用データを取得するために使用されたＭＴシステム（原文データｘから機械翻訳文データｙを生成するＭＴシステム）の性質が既知であることを前提として訓練用データに対する最適化が行われている。しかしながら実際にＷＱＥシステムを構築する場面においては、処理対象であるＭＴ訳を生成するのに用いられたＭＴシステムの性質が既知とは限らないため、より頑健な学習手法が必要である。

本発明は上記課題に鑑み、人手による処理を行うことなく効率良くＷＱＥ用の訓練用データの作成を行うことができる訓練用データ生成装置、訓練用データ生成方法を実現し、さらに、処理対象であるＭＴ訳の性質、ひいてはそのような訳を生成するＭＴシステムの振る舞い)の不確定性をふまえた上で、人手による処理を介さず全自動で生成された訓練用データを用いて高精度な語レベル信頼度推定を可能とする語レベル信頼度推定装置、およびそれに用いられる最適パラメータ取得装置、最適パラメータ取得方法を実現することを目的とする。

また本発明は、訓練用データ生成装置と語レベル信頼度推定装置とを備える語レベル信頼度推定システムや最適パラメータ取得装置を実現することを目的とする。

上記課題を解決するために第１の発明は、データ入力部と、機械翻訳部と、タグ系列取得部と、訓練用データ取得部と、を備える訓練用データ生成装置である。

データ入力部は、原文データおよび当該原文データに対応する対訳データを入力するための機能部である。

機械翻訳部は、原文データに対して機械翻訳処理を行い、機械翻訳文データを取得する。
タグ系列取得部は、対訳データと機械翻訳文データとに基づいて機械翻訳文データの語レベルの適否を示すタグ系列データを取得する。

訓練用データ取得部は、原文データと対訳データとタグ系列データとを含む訓練用データを取得する。

この訓練用データ生成装置では、人手による処理を行うことなく全自動で訓練用データを取得することができる。この訓練用データ生成装置に入力するデータは、原文データとその対訳データを含むものであればよいので、既存の対訳コーパスデータを活用することができる。既存の対訳コーパスデータは大量に存在するため、このような対訳コーパスデータをこの訓練用データ生成装置に入力することで、この訓練用データ生成装置１において大量の訓練用データを効率良く取得することができる。

第２の発明は、原文データｘと、原文データｘに対して機械翻訳処理することで取得された機械翻訳文データｙと、原文データｘに対応する対訳データｒと機械翻訳文データｙとに基づいて取得された機械翻訳文データｙの語レベルの適否を示すタグ系列データｔとに基づいて、
（１）原文データｘから機械翻訳文データｙを生成するＭＴシステムであってＭＴシステム用パラメータθ_１により特性が決定されるＭＴシステムを最適化するとともに、（２）原文データｘと機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステムであってＷＱＥシステム用パラメータθ_２により特性が決定されるＷＱＥシステムを最適化する最適パラメータ取得装置である。最適パラメータ取得装置は、最適パラメータ取得部を備える。

最適パラメータ取得部は、原文データｘと、機械翻訳文データｙと、タグ系列データｔとを組み合わせたデータを収納するコーパスをコーパスＤ１とし、
原文データｘに対応する対訳データｒとを組み合わせたデータを収納するコーパスをコーパスＤ２とし、目的関数ｆ_０（Ｄ１，Ｄ２）を

＜ｘ，ｙ，ｔ＞∈Ｄ１
＜ｘ，ｒ＞∈Ｄ２
とすると、目的関数ｆ_０（Ｄ１，Ｄ２）が最適化されるときのパラメータθ１、θ２の組データ＜θ_１＿ｏ，θ_２＿ｏ＞を取得する。

この最適パラメータ取得装置では、機械翻訳文データｙ自体を不確定な要素（隠れ変数）とみなし、
（１）原文データｘから機械翻訳文データｙを生成するＭＴシステム、および
（２）原文データｘと機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステム、
の２つを最適化する処理を行うことができる。したがってこの最適パラメータ取得装置により取得したパラメータにより構築されたＷＱＥシステムを用いて、入力データ（＜原文データｘ、機械翻訳文データｙ＞）を処理することで、精度の高いタグ系列データｔを取得することができる。
なお、「原文データｘに対応する対訳データｒと機械翻訳文データｙとに基づいて取得された機械翻訳文データｙの語レベルの適否を示すタグ系列データｔ」とは、例えば、機械翻訳文データｙと対訳データｒとを比較し異なる語を特定し、異なる語に異なる語であることを示す第１のタグを付し、それ以外の語には異なる語ではないことを示す第２のタグを付すことで取得されるタグ系列データを含む概念である。

第３の発明は、第２の発明であって、最適パラメータ取得部は、正規化項Ω（θ_１）を取得する正規化項取得部と、正規化項Ω（θ_１）を最適化するＭＴシステム用パラメータθ_１を最適第１パラメータθ_１_optとして取得する第１目的関数算出部と、を備える。

この最適パラメータ取得装置では、正規化項Ω（θ_１）を算出することで、正規化項Ω（θ_１）を最適化する最適第１パラメータθ_１_optを取得することができる。したがって、この最適パラメータ取得装置では、少ない演算量で（小さい計算コストで）最適第１パラメータθ_１_optを取得することができる。

第４の発明は、第２の発明であって、第２目的関数算出部をさらに備える。

第２目的関数算出部は、目的関数ｆ_１（Ｄ１，θ_１_opt，ｎ）を

Δ_{θ１_opt，ｎ}（ｘ^ｋ）：ＭＴシステムのパラメータをθ_１_optとしたときの原文データｘ^ｋに対する翻訳文データｙのうち最適解からｎ番目に良い解までのｎ個（ｎ：自然数）の翻訳文データの集合
に設定し、目的関数ｆ_１（Ｄ１，θ_１_opt，ｎ）の値を最適値とするＷＱＥシステム用パラメータθ_２を最適第２パラメータθ_２_optとして取得する。

この最適パラメータ取得装置では、機械翻訳文データｙ自体を不確定な要素（隠れ変数）とみなし、
（１）原文データｘから機械翻訳文データｙを生成するＭＴシステム、および
（２）原文データｘと機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステム、
の２つを最適化する処理を行うことができる。したがって、この最適パラメータ取得装置により取得したパラメータにより構築されたＷＱＥシステムを用いて、入力データ（＜原文データｘ、機械翻訳文データｙ＞）を処理することで、精度の高いタグ系列データｔを取得することができる。

さらに、この最適パラメータ取得装置では、目的関数ｆ_１（Ｄ１，θ_１_opt，ｎ）の最適化処理をｎベスト解のみを用いて処理を行うため、パラメータ最適化処理の演算量をさらに低減することができる。

第５の発明は、データ入力ステップと、機械翻訳ステップと、タグ系列取得ステップと、訓練用データ取得ステップと、を備える訓練用データ生成方法である。

データ入力ステップは、原文データおよび当該原文データに対応する対訳データを入力する。

機械翻訳ステップは、原文データに対して機械翻訳処理を行い、機械翻訳文データを取得する。

タグ系列取得ステップは、対訳データと機械翻訳文データとに基づいて機械翻訳文データの語レベルの適否を示すタグ系列データを取得する。

訓練用データ取得ステップは、原文データと対訳データとタグ系列データとを含む訓練用データを取得する。

これにより、第１の発明と同様の効果を奏する訓練用データ生成方法を実現することができる。

第６の発明は、原文データｘと、原文データｘに対して機械翻訳処理することで取得された機械翻訳文データｙと、原文データｘに対応する対訳データｒと機械翻訳文データｙとに基づいて取得された機械翻訳文データｙの語レベルの適否を示すタグ系列データｔとに基づいて、
（１）原文データｘから機械翻訳文データｙを生成するＭＴシステムであってＭＴシステム用パラメータθ_１により特性が決定されるＭＴシステムを最適化するとともに、（２）原文データｘと機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステムであってＷＱＥシステム用パラメータθ_２により特性が決定されるＷＱＥシステムを最適化する最適パラメータ取得方法である。最適パラメータ取得方法は、最適パラメータ取得ステップを備える。

最適パラメータ取得ステップは、原文データｘと、機械翻訳文データｙと、タグ系列データｔとを組み合わせたデータを収納するコーパスをコーパスＤ１とし、
原文データｘに対応する対訳データｒとを組み合わせたデータを収納するコーパスをコーパスＤ２とし、目的関数ｆ_０（Ｄ１，Ｄ２）を

＜ｘ，ｙ，ｔ＞∈Ｄ１
＜ｘ，ｒ＞∈Ｄ２
とすると、目的関数ｆ_０（Ｄ１，Ｄ２）が最適化されるときのパラメータθ１、θ２の組データ＜θ_１＿ｏ，θ_２＿ｏ＞を取得する。

これにより、第２の発明と同様の効果を奏する最適パラメータ取得方法を実現することができる。

本発明によれば、人手による処理を行うことなく効率良くＷＱＥ用の訓練用データの作成を行うことができる訓練用データ生成装置、訓練用データ生成方法を実現させ、さらに、処理対象であるＭＴ訳の性質の不確定性をふまえた上で、人手による処理を介さず全自動で生成された訓練用データを用いて高精度な語レベル信頼度推定を可能とする語レベル信頼度推定装置、およびそれに用いられる最適パラメータ取得装置、最適パラメータ取得方法を実現することができる。

また、本発明によれば、訓練用データ生成装置と語レベル信頼度推定装置とを備える語レベル信頼度推定システムや最適パラメータ取得装置を実現することができる。

第１実施形態に係る語レベル信頼度推定システム１０００の概略構成図。 第１実施形態に係る訓練用データ生成装置１の概略構成図。 第１実施形態に係る語レベル信頼度推定装置２の概略構成図。 タグ系列取得部１３で実行される処理を説明するための図。 第２実施形態に係る語レベル信頼度推定システム２０００の概略構成図。 第２実施形態に係る語レベル信頼度推定装置２Ａの概略構成図。 ＣＰＵバス構成を示す図。 従来技術による訓練用データ取得システム９０００の概略構成図。

［第１実施形態］
第１実施形態について、図面を参照しながら、以下説明する。

＜１．１：語レベル信頼度推定システムの構成＞
図１は、第１実施形態に係る語レベル信頼度推定システム１０００の概略構成図である。

図２は、第１実施形態に係る訓練用データ生成装置１の概略構成図である。

図３は、第１実施形態に係る語レベル信頼度推定装置２の概略構成図である。

語レベル信頼度推定システム１０００は図１に示すように、訓練用データ生成装置１と、語レベル信頼度推定装置２と、訓練用データ格納部ＤＢ１と、を備える。

訓練用データ生成装置１は図２に示すように、データ入力部１１と、機械翻訳部１２と、ＭＴ用データ格納部ＤＢ１２と、タグ系列取得部１３と、訓練用データ取得部１４と、を備える。

データ入力部１１は図２に示すように、入力ＩＦ（インターフェース）１１１と、原文データ取得部１１２と、対訳データ取得部１１３と、を備える。

入力ＩＦ１１１は、入力データＤｉｎを入力するためのインターフェースである。入力データＤｉｎは、（１）原文データｘと、（２）原文データｘの対訳データ（翻訳データ）ｒとを含む。入力ＩＦ１１１は、例えば入力ＩＦ１１１を制御する制御部（不図示）により生成される入出力制御信号に基づいて入力データＤｉｎの一部または全部を、原文データ取得部１１２、および／または、対訳データ取得部１１３に出力する。

原文データ取得部１１２は、入力ＩＦ１１１から出力されるデータを入力とし、当該データから原文データｘを取得し、機械翻訳部１２および訓練用データ取得部１４に出力する。

対訳データ取得部１１３は、入力ＩＦ１１１から出力されるデータを入力とし、当該データから対訳データｒを取得し、取得した対訳データｒをタグ系列取得部１３に出力する。

機械翻訳部１２は、原文データ取得部１１２から出力される原文データｘを入力する。また機械翻訳部１２は、ＭＴ用データ格納部ＤＢ１２にアクセスできるように接続されており、所定のタイミングでＭＴ用データ格納部ＤＢ１２のデータの読み出しを行うことができる。機械翻訳部１２は、原文データｘに対して機械翻訳処理を行い、機械翻訳文データｙを取得し、タグ系列取得部１３および訓練用データ取得部１４に出力する。

なお「機械翻訳処理」とは、第１言語のデータである原文データｘを第１言語とは異なる言語である第２言語のデータｙに翻訳（変換）する処理のことをいう。

ＭＴ用データ格納部ＤＢ１２は、機械翻訳処理に使用するデータを格納するためのデータ記憶部であり、機械翻訳部１２と接続されている。ＭＴ用データ格納部ＤＢ１２では、機械翻訳部１２からの指示に従って格納されているデータの読み出しの処理が実行される。

タグ系列取得部１３は、機械翻訳部１２から出力される機械翻訳文データｙと、対訳データ取得部１１３から出力される対訳データｒとを入力する。タグ系列取得部１３は、機械翻訳文データｙと対訳データｒとを比較し異なる語を特定し、例えば異なる語に「ＢＡＤ」というタグを付し、それ以外の語には「ＯＫ」というタグを付すことでタグ系列データｔを取得する。なおタグ系列データは、数値化したデータ列としてもよい。タグ系列取得部１３は、例えば、「ＢＡＤ」というタグを付したことを「１」で示し、「ＯＫ」というタグを付したことを「０」で示すことで数値化し、タグ系列データを数値化したデータ列として取得するようにしてもよい。

タグ系列取得部１３は、取得したタグ系列データｔを訓練用データ取得部１４に出力する。

訓練用データ取得部１４は、原文データ取得部１１２から出力される原文データｘと、機械翻訳部１２から出力される機械翻訳文データｙと、タグ系列取得部１３から出力されるタグ系列データｔとを入力する。訓練用データ取得部１４は、原文データｘと、機械翻訳文データｙと、タグ系列データｔとを１組の訓練用データＤａｔａ１として出力し訓練用データ格納部ＤＢ１に格納する。

訓練用データ格納部ＤＢ１は、訓練用データを格納するためのデータ記憶部である。訓練用データ格納部ＤＢ１には、訓練用データ生成装置１により生成された訓練用データＤａｔａ１を格納することができる。また、訓練用データ格納部ＤＢ１に格納されている訓練用データは、語レベル信頼度推定装置２から取り出すことができる。

語レベル信頼度推定装置２は図３に示すように、最適パラメータ取得部２１（最適パラメータ取得装置）と、タグ系列推定部２２と、対訳コーパスデータ格納部ＤＢ２１と、を備える。

最適パラメータ取得部２１は、第１パラメータ調整部２１１と、正規化項取得部２１２と、第２パラメータ調整部２１３と、目的関数算出部２１４とを備える。

第１パラメータ調整部２１１は、原文データｘを入力したとき機械翻訳文データｙを出力するＭＴシステムのパラメータである第１パラメータθ_１を目的関数算出部２１４および正規化項取得部２１２に出力する。

正規化項取得部２１２は、対訳コーパスデータ格納部ＤＢ２１とアクセスできるように接続されている。また、正規化項取得部２１２は、第１パラメータ調整部２１１から出力される第１パラメータθ_１を入力する。正規化項取得部２１２は、対訳コーパスデータ格納部ＤＢ２１に格納されている対訳コーパスデータに基づいて、第１パラメータθ_１の正規化項データΩ（θ_１）を取得する。そして、正規化項取得部２１２は、取得した正規化項データΩ（θ_１）を目的関数算出部２１４に出力する。

第２パラメータ調整部２１３は、原文データｘと、それに対応する機械翻訳文データｙとを入力したときにタグ系列データｔを出力するＷＱＥシステムのパラメータである第２パラメータθ_２を目的関数算出部２１４に出力する。

目的関数算出部２１４は、訓練用データ格納部ＤＢ１から訓練用データを訓練用データＤａｔａ２（＝＜ｘ，ｙ，ｔ＞）として取得する。また、目的関数算出部２１４は、第１パラメータ調整部２１１から出力される第１パラメータθ_１と、正規化項取得部２１２から出力される正規化項データΩ（θ_１）と、第２パラメータ調整部２１３から出力される第２パラメータθ_２とを入力する。目的関数算出部２１４は、第１パラメータθ_１と、第２パラメータθ_２と、正規化項データΩ（θ_１）とにより目的関数の値を算出し、目的関数の値が最適化されるときの第１パラメータθ_１および第２パラメータθ_２の組データ＜θ_１＿ｏ，θ_２＿ｏ＞を取得する。そして、目的関数算出部２１４は、取得した第２パラメータθ_２＿ｏを最適第２パラメータθ_２_optとしてタグ系列推定部２２に出力する。

タグ系列推定部２２では、目的関数算出部２１４から出力される最適第２パラメータθ_２_optに基づいて、タグ系列推定部２２のタグ系列の推定処理を行うためのシステムモデルが構築される。タグ系列推定部２２は、原文データｘ’と機械翻訳文データｙ’とを含むデータＤａｔａ＿ｉｎを入力する。そして、タグ系列推定部２２は、入力されたデータＤａｔａ＿ｉｎの原文データｘ’と機械翻訳文データｙ’とから、最適第２パラメータθ_２_optに基づいて構築されたモデルにより、タグ系列の推定処理を実行する。そして、タグ系列推定部２２は、上記推定処理により取得されたタグ系列データｔ’を出力データＤａｔａ＿ｏｕｔとして出力する。

＜１．２：語レベル信頼度推定システムの動作＞
以上のように構成された語レベル信頼度推定システム１０００の動作について、図面を参照しながら以下説明する。以下では語レベル信頼度推定システム１０００の動作について、訓練用データ生成装置１の動作と語レベル信頼度推定装置２の動作に分けて説明する。

（１．２．１：訓練用データ生成装置１の動作）
まず、訓練用データ生成装置１の動作について説明する。

データ入力部１１の入力ＩＦに（１）原文データｘと、（２）原文データｘの対訳データ（翻訳データ）ｒとを含む入力データＤｉｎが入力される。

原文データ取得部１１２は、入力データＤｉｎから原文データｘを取得し、機械翻訳部１２および訓練用データ取得部１４に出力する。

対訳データ取得部１１３は、入力データＤｉｎから対訳データｒを取得し、取得した対訳データｒをタグ系列取得部１３に出力する。

機械翻訳部１２は、ＭＴ用データ格納部ＤＢ１２に格納されているＭＴ用データを参照しながら原文データｘに対して機械翻訳処理を行い、原文データｘの機械翻訳文データｙを取得する。そして、機械翻訳部１２は、取得した機械翻訳文データｙをタグ系列取得部１３および訓練用データ取得部１４に出力する。

タグ系列取得部１３は、機械翻訳部１２から出力される機械翻訳文データｙと、対訳データ取得部１１３から出力される対訳データｒとを比較し異なる語を特定し、例えば異なる語に「ＢＡＤ」というタグを付し、それ以外の語には「ＯＫ」というタグを付すことでタグ系列データｔを取得する。一例について、図４を用いて説明する。

図４は、タグ系列取得部１３で実行される処理を説明するための図である。

図４の場合、機械翻訳部１２が原文データｘである「あなたは２２時までにチェックインする必要があります。」というデータを機械翻訳し、機械翻訳文データｙとして「You should check in by twenty two o'clock.」というデータを取得する。そして機械翻訳文データｙがタグ系列取得部１３に入力される。また、対訳データｒ「You have to check in by 22:00.」がデータ入力部１１の対訳データ取得部１１３からタグ系列取得部１３に入力される。

タグ系列取得部１３は、図４に示すように、機械翻訳文データｙと対訳データｒとを比較し、比較結果Ｒｃｍｐを取得する。図４において、比較結果Ｒｃｍｐの「＝」、「Ｓｕｂ」、「Ｄｅｌ」および「Ｉｎｓ」の意味は以下の通りである。

「＝」は、機械翻訳文データｙと対訳データｒとにおいて対応する語が一致していることを示している。

「Ｓｕｂ」は、機械翻訳文データｙと対訳データｒとにおいて対応する語が相違していることを示している。

「Ｄｅｌ」は、機械翻訳文データｙと対訳データｒとにおいて語の対応関係が相違しており、かつ、対訳データｒに存在する語に対応する語が機械翻訳文データｙに存在しないことを示している。

「Ｉｎｓ」は、機械翻訳文データｙと対訳データｒとにおいて語の対応関係が相違しており、かつ、機械翻訳文データｙに存在する語に対応する語が対訳データｒに存在しないことを示している。

タグ系列取得部１３は、取得した比較結果Ｒｃｍｐに基づいて、比較結果Ｒｃｍｐが「＝」である機械翻訳文データｙの語のラベルを「ＯＫ」に設定し、比較結果Ｒｃｍｐが「＝」ではない（比較結果Ｒｃｍｐが「Ｓｕｂ」、「Ｄｅｌ」または「Ｉｎｓ」である）機械翻訳文データｙの語のラベルを「ＢＡＤ」に設定する。

このようにして、タグ系列取得部１３は、タグ系列データｔを取得する。そしてタグ系列取得部１３により取得されたタグ系列データｔは、タグ系列取得部１３から訓練用データ取得部１４に出力される。

訓練用データ取得部１４は、原文データｘと、それに対応する機械翻訳文データｙおよびタグ系列データｔとを１組の訓練用データＤａｔａ１として訓練用データ格納部ＤＢ１に格納する。

以上のように、訓練用データ生成装置１では、人手による処理を行うことなく全自動で訓練用データＤａｔａ１を取得することができる。訓練用データ生成装置１に入力するデータは、原文データｘとその対訳データｒを含むものであればよいので、既存の対訳コーパスデータを活用することができる。既存の対訳コーパスデータは大量に存在するため、このような対訳コーパスデータを訓練用データ生成装置１に入力することで、訓練用データ生成装置１では、大量の訓練用データを効率良く取得することができる。

（１．２．２：語レベル信頼度推定装置２の動作）
次に、語レベル信頼度推定装置２の動作について説明する。

≪語レベル信頼度推定方法≫
語レベル信頼度推定装置２で実行される語レベル信頼度推定方法について説明する。

語レベル信頼度推定装置２では、機械翻訳文データｙ自体を不確定な要素（隠れ変数）とみなし、
（１）原文データｘから機械翻訳文データｙを生成するＭＴシステム、および
（２）原文データｘと機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステム
の２つを、最大マージン尤度推定(Maximum Marginal Likelihood Estimation（M2LE）)によって最適化する処理を行う。

最適化の目的関数は次式のように表される。

Ｐ（）は確率密度関数を表している。

ここで、Δ（ｘ^ｋ）は対訳コーパスＤ中のｋ番目の原文ｘ^ｋに対するあらゆるＭＴ訳（機械翻訳データ）の集合、ｔ^ｋ，ｊはｘ^ｋに対する模範訳ｒ^ｋおよびｊ番目のＭＴ訳ｙ^ｋ，ｊから訓練用データ生成装置１で実行される処理（手法）で得られるタグ系列を表す。θはパラメータである。パラメータθは、スカラー、ベクトル、またはテンソルである。まず、（数式１）中の同時確率を次式のように分解する。

この式の第１因子は原文のモデル、第２因子はＭＴシステムのモデル（以下「ＭＴモデル」という）、第３因子はＷＱＥシステムのモデル（以下「ＷＱＥモデル」という）を表す。パラメータもθ＝（θ_ｏｒｇ，θ_１，θ_２）に分解されている。パラメータθ_ｏｒｇ，θ_１，θ_２は、それぞれ、スカラー、ベクトル、またはテンソルである。原文モデルは所与の訓練用データから次式で推定する。

なお、δ（ｘ，ｘ^ｋ）はデルタ関数であり、ｘ＝ｘ^ｋのとき値１をとり、それ以外のときは値０をとる。

（数式２）および（数式３）を（数式１）に代入して変形すると次式を得る。

上式において、Ｃは定数である。定数ＣはＮ個の原文ｘ（原文データｘ）に重複がない場合、「ＮｌｏｇＮ」となる。なお上式において、第２項は定数であるので以下では省略する。

さて、最適化の対象であるＭＴモデルのパラメータθ_１およびＷＱＥモデルのパラメータθ_２を同時に最適化することを考える場合、パラメータθ_１の最適化が不適切だった場合に、全体としての最適化に失敗する。例えば、ＭＴモデルの性能が著しく低く、任意の入力に対して正しい訳を１語も含まない出力しかしない場合、タグ系列ｔも「ＢＡＤ」のみで構成されることになり、ＷＱＥ用の訓練用データとしては全く意味をなさない。

そこで、語レベル信頼度推定装置２では、ＭＴシステムの訳ｙは隠れ変数としており、明示的な情報は与えられない。その代わり、対訳コーパスを用い、その中の（原文ｘ，参照訳ｒ）の組の再現性を考慮する。言い換えれば、人間による対訳をできる限り忠実に再現するようにＭＴシステムのモデルを学習する。ただし、過学習を避けるために、（数式２）の第２因子の学習に参照していない別の対訳コーパスＤ２を用いることが好ましい。ＭＴシステムのモデルの対訳コーパスＤ２に対する適合度合いΩ（θ_１）を、正規化項として導入すると、最適化の目的関数は次式のようになる。

（数式５）にはｌｏｇΣが含まれるため、最適化の過程における勾配計算が困難である。

そこで、語レベル信頼度推定装置２では、次式で表される、目的関数の下限を最適化する処理を行う。

つまり、（数式６）が、語レベル信頼度推定装置２において実行される最適化処理の目的関数の最終形である。Jensenの不等式より、（数式５）の値は常に（数式６）以上となる。

（数式６）におけるパラメータθ_１、θ_２の同時最適化は、例えば、ＭＴモデルのパラメータθ_１の最適化とＷＱＥモデルのパラメータθ_２の最適化を、ＥＭアルゴリズムによって交互に行うことで実現できる。

なお、上記で説明した表記法は以下でも同様に用いる。

≪語レベル信頼度推定装置２の具体的動作≫
上記に基づく語レベル信頼度推定装置２の具体的動作について、以下説明する。

最適パラメータ取得部２１の目的関数算出部２１４は、訓練用データ格納部ＤＢ１から訓練用データを訓練用データＤａｔａ２（＝（ｘ，ｙ，ｔ））として取得する。

なお、目的関数算出部２１４が訓練用データ格納部ＤＢ１から取得するデータにおいて、ｋ番目（ｋ：自然数）の原文データをｘ^ｋと表記し、訓練用データ格納部ＤＢ１に格納されている原文データｘ^ｋに対する機械翻訳文データの集合をΔ（ｘ^ｋ）と表記する。

また、原文データｘ^ｋに対する対訳データをｒ^ｋと表記する。

また、原文データｘ^ｋに対するｊ番目（ｊ：自然数）の機械翻訳文データをｙ^ｋ，ｊと表記する。なお、原文データｘ^ｋに対する機械翻訳文データの数をｎｕｍ（ｘ^ｋ）とすると、ｊ≦ｎｕｍ（ｘ^ｋ）である。

また、原文データｘ^ｋに対する対訳データ（模範訳）ｒ^ｋと、原文データｘ^ｋに対するｊ番目の機械翻訳文データをｙ^ｋ，ｊとから取得され、訓練用データ格納部ＤＢ１に格納されているタグ系列データをｔ^ｋ、ｊと表記する。

また、訓練用データ格納部ＤＢ１が格納している原文データｘ、機械翻訳文データｙ、タグ系列データｔの組データ＜ｘ，ｙ，ｔ＞の集合データ（コーパス）をコーパスＤ１とし、コーパスＤ１に含まれる任意の原文データｘ、機械翻訳文データｙ、タグ系列データｔの組データ＜ｘ，ｙ，ｔ＞を、
＜ｘ，ｙ，ｔ＞∈Ｄ１
と表記する。

また対訳コーパスデータ格納部ＤＢ２が格納している原文データｘ、対訳データｒの組データ＜ｘ，ｒ＞の集合データ（コーパス）をコーパスＤ２とし、コーパスＤ２に含まれる任意の原文データｘ、対訳データｒの組データ＜ｘ，ｒ＞を、
＜ｘ，ｒ＞∈Ｄ２
と表記する。

以下では説明便宜のために、原文データｘがＮ個（Ｎ：自然数）のデータからなり、原文データｘ^ｋ（ｋ：自然数）についての対訳データｒ、タグ系列データｔが、それぞれＭｋ個（Ｍｋ：自然数）存在する場合を例に説明する。つまり語レベル信頼度推定装置２において、以下のようなデータ（コーパスＤ１に含まれるデータ＜ｘ，ｙ，ｔ＞およびコーパスＤ２に含まれるデータ＜ｘ，ｒ＞）を処理する場合について説明する。

（Ａ）データ＜ｘ，ｙ，ｔ＞（∈Ｄ１）
≪ｘ^１に対するＭ１個の翻訳文データｙおよびタグ系列データｔ≫
＜ｘ^１，ｙ^１，１，ｔ^１，１＞
＜ｘ^１，ｙ^１，２，ｔ^１，２＞
＜ｘ^１，ｙ^１，３，ｔ^１，３＞
・・・
＜ｘ^１，ｙ^１，Ｍ１，ｔ^１，Ｍ１＞
≪ｘ^２に対するＭ２個の翻訳文データｙおよびタグ系列データｔ≫
＜ｘ^２，ｙ^２，１，ｔ^２，１＞
＜ｘ^２，ｙ^２，２，ｔ^２，２＞
＜ｘ^２，ｙ^２，３，ｔ^２，３＞
・・・
＜ｘ^２，ｙ^２，Ｍ２，ｔ^２，Ｍ２＞
≪ｘ^ｋに対するＭｋ個の翻訳文データｙおよびタグ系列データｔ≫
＜ｘ^ｋ，ｙ^ｋ，１，ｔ^ｋ，１＞
＜ｘ^ｋ，ｙ^ｋ，２，ｔ^ｋ，２＞
＜ｘ^ｋ，ｙ^ｋ，３，ｔ^ｋ，３＞
・・・
＜ｘ^ｋ，ｙ^ｋ，Ｍｋ，ｔ^ｋ，Ｍｋ＞
≪ｘ^Ｎに対するＭＮ個の翻訳文データｙおよびタグ系列データｔ≫
＜ｘ^Ｎ，ｙ^Ｎ，１，ｔ^Ｎ，１＞
＜ｘ^Ｎ，ｙ^Ｎ，２，ｔ^Ｎ，２＞
＜ｘ^Ｎ，ｙ^Ｎ，３，ｔ^Ｎ，３＞
・・・
＜ｘ^Ｎ，ｙ^Ｎ，ＭＮ，ｔ^Ｎ，ＭＮ＞
（Ｍ１、Ｍ２、Ｍｋ、ＭＮ：自然数）
（Ｂ）データ＜ｘ，ｒ＞（∈Ｄ２）
≪ｘ^１に対するＰ１個の対訳データｒ≫
＜ｘ^１，ｒ^１，１＞
＜ｘ^１，ｒ^１，２＞
＜ｘ^１，ｒ^１，３＞
・・・
＜ｘ^１，ｒ^１，Ｐ１＞
≪ｘ^２に対するＰ２個の対訳データｒ≫
＜ｘ^２，ｒ^２，１＞
＜ｘ^２，ｒ^２，２＞
＜ｘ^２，ｒ^２，３＞
・・・
＜ｘ^２，ｒ^２，Ｐ２＞
≪ｘ^ｋに対するＰｋ個の対訳データｒ≫
＜ｘ^ｋ，ｒ^ｋ，１＞
＜ｘ^ｋ，ｒ^ｋ，２＞
＜ｘ^ｋ，ｒ^ｋ，３＞
・・・
＜ｘ^ｋ，ｒ^ｋ，Ｐｋ＞
≪ｘ^Ｎに対するＰＮ個の対訳データｒ≫
＜ｘ^Ｎ，ｒ^Ｎ，１＞
＜ｘ^Ｎ，ｒ^Ｎ，２＞
＜ｘ^Ｎ，ｒ^Ｎ，３＞
・・・
＜ｘ^Ｎ，ｒ^Ｎ，ＰＮ＞
（Ｐ１、Ｐ２、Ｐｋ、ＰＮ：自然数）
目的関数算出部２１４は、以下の数式で表される関数ｆ_０（Ｄ１，Ｄ２）（＜ｘ，ｙ，ｔ＞∈Ｄ１、＜ｘ，ｒ＞∈Ｄ２）を最適化の目的関数に設定する。

正規化項取得部２１２は、対訳コーパスデータ格納部ＤＢ２１に格納されている対訳コーパスデータ＜原文データｘ、対訳データｒ＞（対訳コーパスデータＤ２）に基づいて、第１パラメータθ_１の正規化項データΩ（θ_１）を以下の数式に相当する処理により取得する。

つまり正規化項取得部２１２は、対訳コーパスデータＤ２に含まれる全ての＜原文データｘ、対訳データｒ＞についての対数確率密度関数ｌｏｇＰ（ｒ｜ｘ：θ_１）を加算することで、正規化項データΩ（θ_１）を取得する。なお第１パラメータθ_１は、ＭＴモデルのパラメータである。

正規化項取得部２１２は、上記のようにして取得した正規化項データΩ（θ_１）を目的関数算出部２１４に出力する。

目的関数算出部２１４は、正規化項データΩ（θ_１）を用いて目的関数ｆ_０の値を算出する。

目的関数ｆ_０におけるにおけるパラメータθ_１、θ_２の同時最適化は、例えば、ＭＴモデルのパラメータθ_１（第１パラメータθ_１）の最適化とＷＱＥモデルのパラメータθ_２（第２パラメータθ_２）の最適化を、例えば、ＥＭアルゴリズムによって交互に行うことで実現できる。

目的関数算出部２１４は、ＥＭアルゴリズムにより順次調整される、第１パラメータ調整部２１１から出力されるパラメータθ_１と第２パラメータ調整部２１３から出力されるパラメータθ_２とを用いて目的関数ｆ_０の値を算出し、目的関数ｆ_０の値が最適な値となったときのＭＴモデルのパラメータθ_１（第１パラメータθ_１）とＷＱＥモデルのパラメータθ_２（第２パラメータθ_２）との組データ＜θ_１＿ｏ，θ_２＿ｏ＞を取得する。そして、目的関数算出部２１４は、取得した第２パラメータθ_２＿ｏを最適第２パラメータθ_２_optとしてタグ系列推定部２２に出力する。

タグ系列推定部２２では、最適パラメータ取得部２１の目的関数算出部２１４から出力された最適第２パラメータθ_２_opt（ＷＱＥモデルの最適パラメータθ_２）に基づくＷＱＥモデルが構築される。つまり、タグ系列推定部２２は、最適第２パラメータθ_２_optにより特定される特性を有するＷＱＥモデルが構築されている状態となる。

タグ系列推定部２２では、入力データＤａｔａ＿ｉｎ（＜原文データｘ’、機械翻訳文データｙ’＞）に対して、上記第２パラメータθ_２_optにより設定されたＷＱＥモデルを用いた処理が実行され、タグ系列データｔ’が取得される。そして、タグ系列推定部２２は、取得したタグ系列データｔ’を出力データＤａｔａ＿ｏｕｔとして出力する。

以上のように語レベル信頼度推定装置２では、機械翻訳文データｙ自体を不確定な要素（隠れ変数）とみなし、
（１）原文データｘから機械翻訳文データｙを生成するＭＴシステム、および
（２）原文データｘと機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステム
の２つを最適化する処理を行う。

そして語レベル信頼度推定装置２では、ＭＴシステムとＷＱＥシステムを最適化したときのパラメータを用いて構築したＷＱＥシステムに基づく処理を行うタグ系列推定部２２により、入力データＤａｔａ＿ｉｎ（＜原文データｘ’、機械翻訳文データｙ’＞）を処理することで、精度の高いタグ系列データｔを取得することができる。つまり、語レベル信頼度推定装置２では、入力データＤａｔａ＿ｉｎ（＜原文データｘ’、機械翻訳文データｙ’＞）から、それに対応する精度の高いタグ系列データｔを取得することができるので、高精度な語レベル信頼度推定が可能となる。

以上の通り、語レベル信頼度推定システム１０００では、訓練用データ生成装置１により、人手による処理を行うことなく効率良くＷＱＥ用の訓練用データの作成を行うことができ、さらに、語レベル信頼度推定装置２により、処理対象であるＭＴ訳の性質(ひいてはそのような訳を生成するＭＴシステムの振る舞い)の不確定性をふまえた上で、人手による処理を介さず全自動で生成された訓練用データを用いて高精度な語レベル信頼度推定が可能となる。

［第２実施形態］
次に第２実施形態について説明する。

なお第１実施形態と同様の部分については、同一符号を付し詳細な説明を省略する。

＜２．１：語レベル信頼度推定システムの構成＞
図５は、第２実施形態に係る語レベル信頼度推定システム２０００の概略構成図である。

図６は、第２実施形態に係る語レベル信頼度推定装置２Ａの概略構成図である。

第２実施形態の語レベル信頼度推定システム２０００は、図５に示すように、第１実施形態の語レベル信頼度推定システム１０００において、語レベル信頼度推定装置２を語レベル信頼度推定装置２Ａに置換した構成を有している。

語レベル信頼度推定装置２Ａは、図６に示すように、第１実施形態の最適パラメータ取得部２１を最適パラメータ取得部２１Ａに置換した構成を有している。

最適パラメータ取得部２１Ａは、図６に示すように、第１パラメータ調整部２１１と、正規化項取得部２１２と、第１目的関数算出部２１５と、第２パラメータ調整部２１３と、第２目的関数算出部２１６と、を備える。

第１目的関数算出部２１５は、訓練用データ格納部ＤＢ１から訓練用データを訓練用データＤａｔａ２（＝＜ｘ，ｙ，ｔ＞）として取得する。また第１目的関数算出部２１５は、第１パラメータ調整部２１１から出力される第１パラメータθ_１と、正規化項取得部２１２から出力される正規化項データΩ（θ_１）とを入力する。第１目的関数算出部２１５は、第１パラメータθ_１と、正規化項データΩ（θ_１）とにより第１目的関数の値を算出し、第１目的関数の値が最適化されるときの第１パラメータθ_１を最適第１パラメータθ_{１＿ｏｐｔ}として取得する。そして、第１目的関数算出部２１５は、取得した最適第１パラメータθ_１_optを第２目的関数算出部２１６に出力する。

第２目的関数算出部２１６は、訓練用データ格納部ＤＢ１から訓練用データＤａｔａ２（＝＜ｘ，ｙ，ｔ＞）を入力する。また第２目的関数算出部２１６は、第１目的関数算出部２１５から出力される最適第１パラメータθ_１_optと、第２パラメータ調整部２１３から出力される第２パラメータθ_２とを入力する。第２目的関数算出部２１６は、最適第１パラメータθ_１_optと、第２パラメータθ_２とを用いて第２目的関数の値を最適化する第２パラメータθ_２を最適第２パラメータθ_２_optとして取得する。そして第２目的関数算出部２１６は、取得した最適第２パラメータθ_２_optをタグ系列推定部２２に出力する。

タグ系列推定部２２では、第２目的関数算出部２１６から出力される最適第２パラメータθ_２_optに基づいて、タグ系列推定部２２のタグ系列の推定処理を行うためのシステムモデルが構築される。タグ系列推定部２２は、原文データｘ’と機械翻訳文データｙ’とを含むデータＤａｔａ＿ｉｎを入力する。そしてタグ系列推定部２２は、入力されたデータＤａｔａ＿ｉｎの原文データｘ’と機械翻訳文データｙ’とから、最適第２パラメータθ_２_optに基づいて構築されたモデルにより、タグ系列の推定処理を実行する。そしてタグ系列推定部２２は、上記推定処理により取得されたタグ系列データｔ’を出力データＤａｔａ＿ｏｕｔとして出力する。

＜２．２：語レベル信頼度推定システムの動作＞
以上のように構成された語レベル信頼度推定システム２０００の動作について、図面を参照しながら以下説明する。語レベル信頼度推定システム２０００において、訓練用データ生成装置１の動作は、第１実施形態と同じであるので、詳細な説明を省略する。以下では、語レベル信頼度推定装置２Ａの動作について説明する。

≪語レベル信頼度推定方法≫
語レベル信頼度推定装置２Ａで実行される語レベル信頼度推定方法について説明する。

本実施形態の語レベル信頼度推定装置２Ａでは、第１実施形態の「語レベル信頼度推定方法」で説明した（数式６）（これを「一般形」という）の特殊形を提示し、その特殊形を用いてパラメータ最適化処理を行う。

（数式６）の一般形において、Ω（θ_１）は不適切な翻訳ばかりが対象にならないように導入した正規化項であり、ＷＱＥ用の訓練データに用いるのとは別の対訳コーパスデータＤ２を用いて次の式で計算される。

以下、パラメータ最適化処理を現実的な時間で解くための特殊形について説明する。

まずＭＴモデルのパラメータθ_１とＷＱＥモデルのパラメータθ_２の両方の同時最適化は、例えば、ＥＭアルゴリズムを用いて両者を交互に最適化することで実現できるが、計算コストが大きい。そこで、ＥＭアルゴリズムを１回だけ実行することを考える。つまり、まずはＭＴモデルのパラメータθ_１を最適化し、それからＷＱＥモデルのパラメータθ_２の最適化する。ＭＴモデルのパラメータθ_１を最適化する際の目的関数は（数式６）である。

ただし目的関数を（数式６）としてパラメータ最適化処理を行う場合、ＷＱＥモデルのパラメータθ_２をランダムに指定すると、誤った方向に学習が進んでしまいかねない。そこで、（数式９）のみを用いて、（数式９）の値を最適にするＭＴモデルのパラメータθ_１を求める。

また目的関数を（数式６）としてパラメータ最適化処理を行う場合、ありとあらゆる翻訳候補Δ（ｘ^ｋ）を考えると計算コストが大きくなりすぎる。そこでΔ（ｘ^ｋ）のうちのｎ個（ｎ：自然数）を対象として、（数式６）の目的関数の値を最適値とするＭＴモデルのパラメータθ_１を求める。

上記のようにして取得したＭＴモデルの最適化パラメータを最適パラメータθ_１_optとする。

ＭＴモデルの最適パラメータθ_１_optを取得した後に、ＷＱＥモデルのパラメータθ_２を最適化する際の目的関数は、（数式６）の第２項が定数となるため除去し、次のように表される。

ここで、ありとあらゆる翻訳候補Δ（ｘ^ｋ）を考えるのは計算コストが大きいので、ＭＴシステムが生成するｎベストの翻訳文データのみを対象とすると、上式は次のように表される。

Δ_{θ１_opt，ｎ}（ｘ^ｋ）：ＭＴシステムのパラメータをθ_１_optとしたときの原文データｘ^ｋに対する翻訳文データｙのうち最適解からｎ番目に良い解までのｎ個（ｎ：自然数）の翻訳文データの集合
さらにｎベストの翻訳文データの扱い方として、上式のように翻訳の尤度Ｐ（ｙ^ｋ，ｊ｜ｘ^ｋ；θ_１_opt）を直接参照する方法の他に、ｎベスト（ｎ個）のｙ^ｋをサンプリングし、ｎベスト（ｎ個）のｙ^ｋについての対数確率密度関数ｌｏｇＰ（ｔ^ｋ，ｊ｜ｘ^ｋ，ｙ^ｋ，ｊ；θ_２）の総和をとることも考えられる。この場合、ｎ個のサンプルの出現比率がＰ（ｙ^ｋ，ｊ｜ｘ^ｋ；θ_１_opt）を近似するので、目的関数は、上式をさらに単純化して次式のように表される。

≪語レベル信頼度推定装置２の具体的動作≫
上記に基づく語レベル信頼度推定装置２Ａの具体的動作について、以下説明する。

正規化項取得部２１２は、対訳コーパスデータ格納部ＤＢ２１に格納されている対訳コーパスデータ＜原文データｘ、対訳データｒ＞（対訳コーパスデータＤ２）に基づいて、第１パラメータθ_１の正規化項データΩ（θ_１）を以下の数式に相当する処理により取得する。

最適パラメータ取得部２１Ａの第１目的関数算出部２１５は、訓練用データ格納部ＤＢ１から訓練用データを訓練用データＤａｔａ２（＝＜ｘ，ｙ，ｔ＞）として取得する。

第１目的関数算出部２１５は、正規化項取得部２１２から入力したΩ（θ_１）を入力し、以下の数式で表される関数ｆ_１（Ｄ１，Ｄ２）（＜ｘ，ｙ，ｔ＞∈Ｄ１、＜ｘ，ｒ＞∈Ｄ２）を最適化の目的関数（第１目的関数）に設定する。

第１目的関数算出部２１５は、以下の（１）または（２）の方法により、ＭＴシステムの最適パラメータθ_１_optを取得する。
（１）第１目的関数算出部２１５は、Ω（θ_１）のみを用いて、Ω（θ_１）の値を最適にするＭＴモデルのパラメータθ_１を求め、ＭＴシステムの最適パラメータθ_１_optとして取得する。
（２）（数式１４）において、Δ（ｘ^ｋ）のうちのｎ個（ｎ：自然数）を対象として、（数式１４）の目的関数の値を最適値とするＭＴモデルのパラメータθ_１を求め、ＭＴシステムの最適パラメータθ_１_optとして取得する。

以上のようにして取得されたＭＴシステムの最適パラメータθ_１_optは、第１目的関数算出部２１５から第２目的関数算出部２１６に出力される。

第２目的関数算出部２１６は、最適第１パラメータθ_１_optと、第２パラメータ調整部２１３から入力される第２パラメータθ_２とを用いて第２目的関数の値を最適化する第２パラメータθ_２を求める。具体的には、以下の（１）または（２）の方法により、ＷＱＥシステムの最適パラメータθ_２_optを取得する。
（１）第２目的関数算出部２１６は、次の数式を目的関数（第２目的関数）に設定する。

Δ_{θ１_opt，ｎ}（ｘ^ｋ）：ＭＴシステムのパラメータをθ_１_optとしたときの原文データｘ^ｋに対する翻訳文データｙのうち最適解からｎ番目に良い解までのｎ個（ｎ：自然数）の翻訳文データの集合
第２目的関数算出部２１６は、上式が最適値となるときのＷＱＥシステムのパラメータθ_２を最適第２パラメータθ_２_optとして取得する。
（２）第２目的関数算出部２１６は、次の数式を目的関数（第２目的関数）に設定する。

Δ_{θ１_opt，ｎ１}（ｘ^ｋ）：ＭＴシステムのパラメータをθ_１_optとしたときの原文データｘ^ｋに対する翻訳文データｙのうち最適解からｎ番目に良い解までのｎ個（ｎ：自然数）の翻訳文データの集合
第２目的関数算出部２１６は、上式が最適値となるときのＷＱＥシステムのパラメータθ_２を最適第２パラメータθ_２_optとして取得する。

つまり第２目的関数算出部２１６は、ＭＴモデルの出力におけるｎベスト解のみを用いて、第２目的関数の値を算出し、第２目的関数の値が最大となるときのＷＱＥモデルのパラメータθ_２（第２パラメータθ_２）を取得する処理を行う。このとき第２パラメータθ_２は、第２パラメータ調整部２１３により調整される。なお、上記処理は、所定の最適化アルゴリズム手法を用いて実行される。例えば、ｌｏｇＰ（ｔ｜ｘ，ｙ；θ_２）のモデル化がＣＲＦ（Conditional random field）である場合、最適化アルゴリズム手法として、記憶制限準ニュートン法（L-BFGS）、確率的勾配降下法（Stochastic Gradient Descent; SDG）、平均化パーセプトロンなどが用いられる。また、ｌｏｇＰ（ｔ｜ｘ，ｙ；θ_２）のモデル化が順伝播型ニューラルネットワーク(Feed-forward Neural Network; FNN)や回帰型ニューラルネットワーク(Recurrent Neural Network; RNN)である場合、最適化アルゴリズム手法として、ＡｄａＧｒａｄやＡｄａＤｅｌｔａなどの手法が用いられる。

上記処理により取得された最適第２パラメータθ_２_opt（ＷＱＥモデルの最適パラメータθ_２）は、第２目的関数算出部２１６からタグ系列推定部２２に出力される。

タグ系列推定部２２では、最適パラメータ取得部２１の第２目的関数算出部２１６から出力された最適第２パラメータθ_２_opt（ＷＱＥモデルの最適パラメータθ_２）に基づくＷＱＥモデルが構築されている。つまり、タグ系列推定部２２には、最適第２パラメータθ_２_optにより特定される特性を有するＷＱＥモデルが構築されている。

タグ系列推定部２２では、入力データＤａｔａ＿ｉｎ（＜原文データｘ’、機械翻訳文データｙ’＞）に対して、上記第２パラメータθ_２_optにより設定されたＷＱＥモデルを用いた処理が実行され、タグ系列データｔ’が取得される。そして、タグ系列推定部２２は、取得したタグ系列データｔ’を出力データＤａｔａ＿ｏｕｔとして出力する。

以上のように語レベル信頼度推定装置２では、機械翻訳文データｙ自体を不確定な要素（隠れ変数）とみなし、
（１）原文データｘから機械翻訳文データｙを生成するＭＴシステム、および
（２）原文データｘと機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステム
の２つを最適化する処理を行う。

そして語レベル信頼度推定装置２Ａでは、ＭＴシステムとＷＱＥシステムを最適化したときのパラメータを用いて構築したＷＱＥシステムに基づく処理を行うタグ系列推定部２２により、入力データＤａｔａ＿ｉｎ（＜原文データｘ’、機械翻訳文データｙ’＞）を処理することで、精度の高いタグ系列データｔを取得することができる。つまり、語レベル信頼度推定装置２では、入力データＤａｔａ＿ｉｎ（＜原文データｘ’、機械翻訳文データｙ’＞）から、それに対応する精度の高いタグ系列データｔを取得することができるので、高精度な語レベル信頼度推定が可能となる。

以上の通り語レベル信頼度推定システム２０００では、訓練用データ生成装置１により、人手による処理を行うことなく効率良くＷＱＥ用の訓練用データの作成を行うことができ、さらに語レベル信頼度推定装置２Ａにより、処理対象であるＭＴ訳の性質(ひいてはそのような訳を生成するＭＴシステムの振る舞い)の不確定性をふまえた上で、人手による処理を介さず全自動で生成された訓練用データを用いて高精度な語レベル信頼度推定が可能となる。

［他の実施形態］
上記実施形態の語レベル信頼度推定システム１０００、２０００、訓練用データ生成装置１、語レベル信頼度推定装置２、２Ａを構成する各機能部は、例えばネットワークを介して接続されるものであってもよい。

また上記実施形態の語レベル信頼度推定システム１０００、２０００、訓練用データ生成装置１、語レベル信頼度推定装置２、２Ａは、複数の装置により実現されるものであってもよい。

また語レベル信頼度推定装置２、２Ａの対訳コーパスデータ格納部ＤＢ２は、外部に備えられるものであってもよい。

また訓練用データ格納部ＤＢ１、対訳コーパスデータ格納部ＤＢ２は、外部サーバ内に、あるいは、外部サーバにインターフェースを介して接続されるものであってもよい。

また、本明細書内の記載、特許請求の範囲の記載において、「最適化」とは、最も良い状態にすることをいい、システムを「最適化」するパラメータとは、当該システムの目的関数の値が最適値となるときのパラメータのことをいう。「最適値」は、システムの目的関数の値が大きくなるほど、システムが良い状態となる場合は、最大値であり、システムの目的関数の値が小さくなるほど、システムが良い状態となる場合は、最小値である。また、「最適値」は、極値であってもよい。また、「最適値」は、所定の誤差（測定誤差、量子化誤差等）を許容するものであってもよく、所定の範囲（十分収束したとみなすことができる範囲）に含まれる値であってもよい。

また上記実施形態で説明した語レベル信頼度推定システム１０００において、各ブロックは、ＬＳＩなどの半導体装置により個別に１チップ化されても良いし、一部または全部を含むように１チップ化されても良い。

なおここではＬＳＩとしたが、集積度の違いにより、ＩＣ、システムＬＳＩ、スーパーＬＳＩ、ウルトラＬＳＩと呼称されることもある。

また集積回路化の手法はＬＳＩに限るものではなく、専用回路または汎用プロセサで実現してもよい。ＬＳＩ製造後にプログラムすることが可能なＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）や、ＬＳＩ内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサーを利用しても良い。

また上記各実施形態の各機能ブロックの処理の一部または全部は、プログラムにより実現されるものであってもよい。そして上記各実施形態の各機能ブロックの処理の一部または全部は、コンピュータにおいて、中央演算装置（ＣＰＵ）により行われる。また、それぞれの処理を行うためのプログラムは、ハードディスク、ＲＯＭなどの記憶装置に格納されており、ＲＯＭにおいて、あるいはＲＡＭに読み出されて実行される。

また上記実施形態の各処理をハードウェアにより実現してもよいし、ソフトウェア（ＯＳ（オペレーティングシステム）、ミドルウェア、あるいは所定のライブラリとともに実現される場合を含む。）により実現してもよい。さらにソフトウェアおよびハードウェアの混在処理により実現しても良い。

例えば上記実施形態の各機能部をソフトウェアにより実現する場合、図７に示したハードウェア構成（例えばＣＰＵ、ＲＯＭ、ＲＡＭ、入力部、出力部、通信部、記憶部（例えば、ＨＤＤ、ＳＳＤ等により実現される記憶部）、外部メディア用ドライブ等をバスＢｕｓにより接続したハードウェア構成）を用いて各機能部をソフトウェア処理により実現するようにしてもよい。

また上記実施形態の各機能部をソフトウェアにより実現する場合、当該ソフトウェアは、図７に示したハードウェア構成を有する単独のコンピュータを用いて実現されるものであってもよいし、複数のコンピュータを用いて分散処理により実現されるものであってもよい。

また上記実施形態における処理方法の実行順序は、必ずしも上記実施形態の記載に制限されるものではなく、発明の要旨を逸脱しない範囲で、実行順序を入れ替えることができるものである。

前述した方法をコンピュータに実行させるコンピュータプログラム、及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体は、本発明の範囲に含まれる。ここでコンピュータ読み取り可能な記録媒体としては、例えば、フレキシブルディスク、ハードディスク、ＣＤ−ＲＯＭ、ＭＯ、ＤＶＤ、ＤＶＤ−ＲＯＭ、ＤＶＤ−ＲＡＭ、大容量ＤＶＤ、次世代ＤＶＤ、半導体メモリを挙げることができる。

上記コンピュータプログラムは、上記記録媒体に記録されたものに限らず、電気通信回線、無線または有線通信回線、インターネットを代表とするネットワーク等を経由して伝送されるものであってもよい。

なお本発明の具体的な構成は、前述の実施形態に限られるものではなく、発明の要旨を逸脱しない範囲で種々の変更および修正が可能である。

本発明によれば、人手による処理を行うことなく効率良くＷＱＥ用の訓練用データの作成を行うことができる訓練用データ生成装置を実現し、さらに処理対象であるＭＴ訳の性質の不確定性をふまえた上で、全自動で生成された訓練用データを用いて高精度な語レベル信頼度推定を可能とする語レベル信頼度推定装置を実現することができる。このため本発明は、自動翻訳関連産業分野において有用であり、当該分野において実施することができる。

１０００ 語レベル信頼度推定システム
１ 訓練用データ生成装置
２ 語レベル信頼度推定装置
ＤＢ１ 訓練用データ格納部
１１ データ入力部
１２ 機械翻訳部
１３ タグ系列取得部
１４ 訓練用データ取得部
２１ 最適パラメータ取得部（最適パラメータ取得装置）
２１２ 正規化項取得部
２１３ 第１目的関数算出部
２１５ 第２目的関数算出部
２２ タグ系列推定部

Claims (4)

1. 原文データｘと、前記原文データｘに対して機械翻訳処理することで取得された機械翻訳文データｙと、前記原文データｘに対応する対訳データｒと前記機械翻訳文データｙとに基づいて取得された前記機械翻訳文データｙの語レベルの適否を示すタグ系列データｔとに基づいて、
   （１）前記原文データｘから前記機械翻訳文データｙを生成するＭＴシステムであってＭＴシステム用パラメータθ_１により特性が決定される前記ＭＴシステムを最適化するとともに、（２）前記原文データｘと前記機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステムであってＷＱＥシステム用パラメータθ_２により特性が決定される前記ＷＱＥシステムを最適化する最適パラメータ取得装置であって、
   前記原文データｘと、前記機械翻訳文データｙと、前記タグ系列データｔとを組み合わせたデータを収納するコーパスをコーパスＤ１とし、
   前記原文データｘに対応する対訳データｒとを組み合わせたデータを収納するコーパスをコーパスＤ２とし、目的関数ｆ_０（Ｄ１，Ｄ２）を
   

   

   ＜ｘ，ｙ，ｔ＞∈Ｄ１
   ＜ｘ，ｒ＞∈Ｄ２
   ｘ ^ｋ ：コーパスＤ１中のｋ番目の原文データ
   Δ（ｘ ^ｋ ）：原文データｘについての翻訳候補の集合
   ｙ ^ｋ，ｊ ：原文データｘ ^ｋ に対するｊ番目の機械翻訳文データ
   ｔ ^ｋ，ｊ ：原文データｘ ^ｋ に対する対訳データｒ ^ｋ と、原文データｘ ^ｋ に対するｊ番目の機械翻訳文データをｙ ^ｋ，ｊ とから取得されるタグ系列データ
   とすると、前記目的関数ｆ_０（Ｄ１，Ｄ２）が最適化されるときのパラメータθ１、θ２の組データ＜θ_１＿ｏ，θ_２＿ｏ＞を取得する最適パラメータ取得部
   を備える最適パラメータ取得装置。
2. 前記最適パラメータ取得部は、
   正規化項Ω（θ_１）を取得する正規化項取得部と、
   前記正規化項Ω（θ_１）を最適化するＭＴシステム用パラメータθ_１を最適第１パラメータθ_１_optとして取得する第１目的関数算出部と、
   を備える請求項１に記載の最適パラメータ取得装置。
3. 前記最適パラメータ取得部は、
   目的関数ｆ_１（Ｄ１，θ_１_opt，ｎ）を
   

   

   Δ_{θ１_opt，ｎ}（ｘ^ｋ）：ＭＴシステムのパラメータをθ_１_optとしたときの原文データｘ^ｋに対する翻訳文データｙのうち最適解からｎ番目に良い解までのｎ個（ｎ：自然数）の翻訳文データの集合
   に設定し、前記目的関数ｆ_１（Ｄ１，θ_１_opt，ｎ）の値を最適値とするＷＱＥシステム用パラメータθ_２を最適第２パラメータθ_２_optとして取得する第２目的関数算出部をさらに備える、
   請求項１に記載の最適パラメータ取得装置。
4. 最適パラメータ取得部を含む語レベル信頼度推定装置を用いて実行される最適パラメータ取得方法であり、
   原文データｘと、前記原文データｘに対して機械翻訳処理することで取得された機械翻訳文データｙと、前記原文データｘに対応する対訳データｒと前記機械翻訳文データｙとに基づいて取得された前記機械翻訳文データｙの語レベルの適否を示すタグ系列データｔとに基づいて、
   （１）前記原文データｘから前記機械翻訳文データｙを生成するＭＴシステムであってＭＴシステム用パラメータθ_１により特性が決定される前記ＭＴシステムを最適化するとともに、（２）前記原文データｘと前記機械翻訳文データｙの組に対してタグ系列データｔを推定するＷＱＥシステムであってＷＱＥシステム用パラメータθ_２により特性が決定される前記ＷＱＥシステムを最適化する最適パラメータ取得方法であって、
   前記原文データｘと、前記機械翻訳文データｙと、前記タグ系列データｔとを組み合わせたデータを収納するコーパスをコーパスＤ１とし、
   前記原文データｘに対応する対訳データｒとを組み合わせたデータを収納するコーパスをコーパスＤ２とし、目的関数ｆ_０（Ｄ１，Ｄ２）を
   

   

   ＜ｘ，ｙ，ｔ＞∈Ｄ１
   ＜ｘ，ｒ＞∈Ｄ２
   ｘ ^ｋ ：コーパスＤ１中のｋ番目の原文データ
   Δ（ｘ ^ｋ ）：原文データｘについての翻訳候補の集合
   ｙ ^ｋ，ｊ ：原文データｘ ^ｋ に対するｊ番目の機械翻訳文データ
   ｔ ^ｋ，ｊ ：原文データｘ ^ｋ に対する対訳データｒ ^ｋ と、原文データｘ ^ｋ に対するｊ番目の機械翻訳文データをｙ ^ｋ，ｊ とから取得されるタグ系列データ
   とすると、前記目的関数ｆ_０（Ｄ１，Ｄ２）が最適化されるときのパラメータθ１、θ２の組データ＜θ_１＿ｏ，θ_２＿ｏ＞を、前記最適パラメータ取得部が取得する最適パラメータ取得ステップ
   を備える最適パラメータ取得方法。

Images