JP2005518020A - 品詞タグ付き（ｐｏｓｔ）パーサーおよび学習者モデルを使用した正確な文法分析のためのシステムおよび方法 - Google Patents

Abstract

いわゆるＰＯＳＴ（品詞タグ付き）パーサー（３２２）に基づく正確な文法アナライザと、テンプレート・ベースのＩＣＡＬＬ（知的コンピュータ支援言語学習）システム（３００）のような自動化された言語学習アプリケーションにおいて使用するための学習者のモデル。

Description

本発明は、自動化学習システムの分野に関し、より詳細には、知的コンピュータ支援言語学習（ＩＣＡＬＬ）システムにおいて使用するための品詞タグ付きパーサーに関する。

第二言語を学習するシステムおよび方法ではコンピュータ支援技術が組み込まれている。このようなコンピュータ支援システムは、例えば英作文を学習中の学習者を診断し指導する際に人間の教師をシミュレーションするよう機能することができる。しかし、これらのシステムには、言語学習の教授目的に必要となる少なくとも２つの基本的構成要素、すなわち文法アナライザと学習者のモデルが欠如している。
米国特許出願第０９／５９７，２６９号 米国特許出願第０９／５９７，２７０号 Ｓｅｋｉｎｅ、Ｓ．およびＧｒｉｓｈｍａｎ、Ｒ（１９９６）、「Ａ Ｃｏｒｐｕｓ−ｂａｓｅｄ Ｐｒｏｂａｂｉｌｉｓｔｉｃ Ｇｒａｍｍａｒ ｗｉｔｈ Ｏｎｌｙ Ｔｗｏ Ｎｏｎ−Ｔｅｒｍｉｎａｌｓ」、４ｔｈ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｗｏｒｋｓｈｏｐ ｏｎ Ｐａｒｓｉｎｇ Ｔｅｃｈｎｏｌｏｇｙ、２１６〜２２３頁

自然言語処理の現状においては文脈依存性のため、自然言語において任意またはあいまいな文の構文分析に対して９５％以上の条件を満たす精度を提供することは不可能である。

上記説明に鑑み、本発明の１つの目的は、コンピュータ支援システムを使用して自然言語の任意またはあいまいな文を正確に分析する上での困難を克服することである。

本発明の別の目的は、学習者の入力に依存する一般的な文法ガイドラインを提供するための正確な文法アナライザを提供することである。

本発明のさらなる目的は、自然言語のあいまいな語の少なくとも一部にタグ（群）を手操作で割り当てることによって得るより正確なパーサーである。

本発明のさらに別の目的は、言語学習者が、構文解析されたツリーで学習者の誤りを指摘した正確な文に関してブラケット文法構造を得ることを可能にするパーサーである。

本発明のさらにまた別の目的は、特定の学習者の頻発する文法上の誤りを識別し、その頻発する誤りを利用して誤りに即した矯正を提供して、その学習者が特に必要とする訂正が行われるようにすることができる学習者のモデルにある。

この目的および他の目的により、本発明は、外国語、具体的には第二言語の作文および／または技術翻訳の知的語学チュータリングのための現実的で実施可能な方法を提供する柔軟な知的コンピュータ支援言語学習（ＩＣＡＬＬ）システムを構築する。このようなシステムは、その出願の全体を参照のため本明細書に引用する係属中の米国特許出願第０９／５９７，２６９号および０９／５９７，２７０号に記載されている。

テンプレート・オートメーション・ベースのＩＣＡＬＬシステムは、英作文に、知識エンジニアの助けなしに教師が教授内容を組み込み、学習法を計画することを可能にするオンライン・チュータリング機能を提供する。ＩＣＡＬＬシステムでは、文法分析および文法矯正の技能は、語学の専門家によってテンプレートのナリッジ・ベースに抽出される。本明細書に参照用として組み込まれた特許出願では、入力された文をテンプレートのパスとマッチングすることによってバグを特定出来るための堅牢なアルゴリズムが開発される。このアルゴリズムは、学習者が犯した誤りに関して最も可能性の高い間違い文を予測することができるが、これによって学習者の誤りに最適な添削矯正フィードバックが生成される。これは、的確な文（群）を処理できる正確なパーサーを提供することができるならば、単に的確な文と入力された文との違いを指摘することによって構文上誤りのある入力を処理できることを意味する。しかし文法的に正しい文であっても尚、正確な文法ツリーを一貫して提供することができるパーサー・プログラムを開発することが必要である。

本発明では、テンプレート中の的確な文（群）の正確な文法ツリーを提供することができる品詞タグ付き（ＰＯＳＴ）パーサーが構築される。ＩＣＡＬＬの現在のテンプレートに対してＰＯＳＴパーサー・スキームを実施するために、品詞タグをテンプレートの正しいノードのいずれかの語または句に追加することができるように、テンプレートの構造が修正される。あいまい性除去のために必要かつ十分な品詞タグをテンプレートに追加した後、語学の専門家によって手操作でタグが付けられた語または句に対するタグ付け処理を無視して、その他の語の品詞付けのみをこれらの良く知られた確率論的パーサーで行うことによりテンプレートの正しい文の文法ツリーを得ることができる。いわゆる品詞タグ付きパーサーを使用して、ＩＣＡＬＬシステムの処理全体を修正することができる。

本発明は、「最小構文サブツリー」または関連する誤りの最小文法構成要素を同定することによって、入力された文の文法上の誤りを効率良く記述し、文法的誤りテーブルをその文法的誤りテーブルの構文サブツリー内における視覚化された位置と共に記述して各学習者の履歴を維持するために使用することができる学習者のモデルをさらに対象とする。

添付の図面と共に以下の説明を参照すれば、本発明のこれらおよびそれ以外の目的は、それらの対象とする利点の多くと共にさらに容易に明らかになろう。

図面に示す本発明の好ましい実施形態の説明において、分かり易くするために具体的な用語法を用いることにする。しかし、本発明は、このように選択された特定の用語に限定されるものではなく、それぞれの特定の用語は同じ目的を達成するために同じ方法で運用されうるすべての技術的に等価な用語を含むことを理解されたい。

本発明によるＰＯＳＴパーサーは、いわゆるコーパス・ベースの確率論的パーサーの修正形態を含む。これによってタグは事前割当され、したがってある一定の語群または句群の品詞タグにおけるタグ割り当ての不要に多数の可能な組合せに対して制約が課される。本発明は、最終文法ツリーの確率を最大限にするために以下の公式の組合せを選択するＡｐｐｌｅ−Ｐｉｅパーサーのスキーム（Ｓｅｋｉｎｅ、Ｓ．およびＧｒｉｓｈｍａｎ、Ｒ（１９９６）、「Ａ Ｃｏｒｐｕｓ−ｂａｓｅｄ Ｐｒｏｂａｂｉｌｉｓｔｉｃ Ｇｒａｍｍａｒ ｗｉｔｈ Ｏｎｌｙ Ｔｗｏ Ｎｏｎ−Ｔｅｒｍｉｎａｌｓ」、４ｔｈ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｗｏｒｋｓｈｏｐ ｏｎ Ｐａｒｓｉｎｇ Ｔｅｃｈｎｏｌｏｇｙ、２１６〜２２３頁）内に組み込むことができる。最終文法ツリーの確率は以下のように計算することができる。

ここで、Ｐ_{ｒｕｌｅ ｉ}は規則が規則_ｉになる確率を示し、Ｐ（ｔａｇ_ｊ｜ｗｏｒｄ_ｊ）はｗｏｒｄ_ｊが品詞タグｔａｇ_ｊに割り当てられる確率である。同じ語を複数の異なる品詞タグに割り当てることができることに留意されたい。

Ａｐｐｌｅ−Ｐｉｅパーサーのアルゴリズムに対して２つの主要な修正が行われる。まず、ＰＯＳタグに事前割当されたいかなる句でも１語とみなされる。次に、事前割当された場合、このような語群の確率は常に「１」とみなされる。

図１は、「日本は全国に美しい公園が点在する」を意味する日本文を英訳するための典型的なテンプレートを示す。以下の説明のために、所与の学習者が入力した文は「Ｊａｐａｎ ａｒｅ ｄｏｔｔｅｄ ｂｙ ｂｅａｕｔｉｆｕｌ ｇａｒｄｅｎｓ ｎａｔｉｏｎｗｉｄｅ．」である。それぞれの語の下の数字は、語の相対的な重要性を表す、語に割り当てられた重みを示す。（なし）を付したノードは、語を必要としないことを意味する空ノードである。典型的な品詞タグは以下を含むことができる。
ＤＴ：限定詞 ＥＸ：存在詞
ＩＮ：前置詞／従属接続詞 ＪＪ：形容詞
ＮＮ：名詞、単数または質量名詞 ＮＮＳ：名詞、複数
ＮＮＰ：固有名詞、単数 ＲＢ：副詞
ＶＢＮ：動詞、過去分詞 ＶＢＰ：動詞、非３人称単数現在
ＶＢＺ：動詞、３人称単数現在
特定の品詞タグに加え、様々な誤りメッセージも示される。これらは、以下のものを含む。
ＡＳ：名詞の数に関して仮定がなされている ＡＴ：冠詞は必要ない
ＣＭ：コンマが必要 ＣＴ：短縮形が誤っている
ＭＮ：意味が誤っている ＮＰ：名詞を複数にする必要がある
ＰＰ：句を複数にする必要がある ＰＰ：前置詞が誤っている
ＶＡ：主語が単数なので動詞を単数にする必要がある

構文誤りの個々の矯正のためにテンプレート・オートマトン・ベースのＩＣＡＬＬシステムにおいてＰＯＳＴパーサーを適用する手順を図２に概略的に説明する。より具体的には、所与の学習者の入力した文に関して、この方法はキー入力された文を読み取ることから始まる（ステップ１００）。この文は、標準的なスペルチェック・モデルと照合し、綴りの誤りが訂正される（ステップ２００）。次いで、参照の特許出願における上記のテンプレート・マッチング・アルゴリズムによってテンプレートのマッチングが行われる（ステップ３００）。このアルゴリズムを使用して、この文と最も相似値の高い最適のパスが選択され、語彙誤り情報が印刷され、入力された文のスコアが計算される（ステップ３１０）。フィードバック情報も提供される。

誤りフィードバック情報に従い、テンプレート中の正しいパスが特定される（ステップ３２１）。次いで、正しいパスに関するブラケット文法構造を得るためにＰＯＳＴパーサーが用いられる（ステップ３２２）。次に、正しいパスの構文解析されたツリーが、関連ツリーのリーフで誤りをマークして描かれる（ステップ３２３）。

図１のテンプレートを特に参照すると、ＩＣＡＬＬシステムを使用して、最適のパスが「Ｊａｐａｎ ｉｓ ｄｏｔｔｅｄ ｗｉｔｈ ｂｅａｕｔｉｆｕｌ ｐａｒｋｓ ｎａｔｉｏｎｗｉｄｅ．」であることを発見することができる。このパスが与えられると、本発明のシステムは、語彙誤りと矯正提案に関する解説を提供することができる（ステップ３１０）。この応用例により、学習者が入力した文は訂正される。次いでステップ３２２で、ＰＯＳＴパーサーは、Ｓ（ＮＰＬ（ＮＮＰ（Ｊａｐａｎ））ＶＰ（ＶＢＺ（ｉｓ）ＶＰ（ＶＢＮ（ｄｏｔｔｅｄ）ＰＰ（ＩＮ（ｗｉｔｈ）ＮＰ（ＮＰＬ（ＪＪ（ｂｅａｕｔｉｆｕｌ）ＪＪ（ｐｕｂｌｉｃ）ＮＮＳ（ｐａｒｋｓ））ＡＤＪＰ（ＪＪ（ｎａｔｉｏｎｗｉｄｅ））））））−ＰＥＲＩＯＤ−（．））という的確な文に対するブラケット文法構造を得る。

最後に、ステップ３２３に従い、また図３に図示するように、正しいパスの構文解析されたツリーに、学習者の誤りをマークして描かれる。誤りは、文法ツリーの関連リーフ中に赤でマークすることができる。図３では、語「ａｒｅ」、「ｂｙ」、および「ｐａｒｋ」が赤でマークされる。

本発明は、有効な教育チュータリング法を可能にするＩＣＡＬＬシステムに対する学習者のモデルをさらに提供する。図３に示すツリー情報は、最小構文サブツリーと称するもの、いわゆる関連した誤り（群）の最小の文法構成要素を特定する。これは、入力された文の文法上の誤りを説明する上で有効である。当然ながら、各構文サブツリーは、ブラケット形式で表すことができる。本発明によれば、文法誤りテーブルを（ブラケット形式の）構文サブツリー内の視覚化された位置と共に使用して学習者の履歴を維持することが可能である。

一方、米国特許第０９／５９７，２６９号および０９／５９７，２７０号に記載のＨＣＳマッチング・アルゴリズムは、学習者の書いた英語をテンプレートのモデル文の最適パスに対して評価することにより学習者の習熟度を提供することができる。

本発明のテーブルで与えられた文法誤り位置の情報と組み合わせると、このシステムは、各学習者の習熟度に基づいて各学習者の最も頻繁に繰り返される文法上の誤りを識別することができる。こうして、システムは、関連する学習者の最も頻発する文法上の誤りを利用してユニークなレベルの適切な訂正を提供する。

本発明による学習者のモデルは、学習者の作文能力の習熟度を評価し、文法上の誤りを識別し、習熟度に対応したフィードバックおよび矯正を提供するシステムおよび方法を提供する。

Ａ．作文能力の習熟度の評価
参照のために引用した前記特許出願のＨＣＳアルゴリズムは、作文における学習者の基礎的習熟度を、入力したそれぞれの文をテンプレート・パスと照合することによって評価することができる。ここで、入力した文のスコアは、以下のように計算される。

学習者の習熟度は、最新の入力のスコアを用いて決定される。例えば、学習者は評価のための３つのグループ、すなわち平均スコアが０．９より高い高レベルの学習者、平均スコアが０．７より低い低レベルの学習者、およびスコアが０．７と０．９の間の中間レベルの学習者に分類することができる。

Ｂ．文法上の誤りの識別
既に指摘したように、本発明は、例として定義することができる最小構文サブツリーに基づいて文法上の誤りの識別を実行する。ａを、少なくとも２つの直接的な子孫を持つリーフｂの最も近い先祖と仮定する。ａの直接的な子孫すべてと、ａに到るまでのｂの先祖を含むツリーの集合を、リーフｂの最小構文サブツリーと呼ぶ。構文誤りは、誤りとしてマークされた語群とマッチングされる文法ツリーのリーフの最小構文サブツリーであると定義される。

検出された構文誤りを記録し、訂正する手順を以下に示す。まず、ＰＯＳＴパーサーによりテンプレート内のマッチングされた正しい文の文法ツリーを獲得し、入力した文を文法ツリーのリーフとマッチングする。誤りとしてマークされた語群とマッチングされた文法ツリーのリーフｌごとに、リーフｌの最小構文サブツリーを見つけ、ｌをサブツリーと関連付ける。見つかったサブツリーすべてに関して、同じサブツリーに関連付けられたリーフを結合する。すなわち、サブツリーを複数のリーフと関連付けることを可能にする。関連付けられたリーフのあるサブツリーごとに、ユーザの構文誤りテーブルを検索し、そのテーブル内に同じサブツリーがある場合は行の頻度フィールドに「１」を加え、まだリーフがどれもそのフィールドに登録されていない場合は行の関連付けられたリーフ・フィールドにサブツリーのリーフすべてを加える。反対に、テーブルに同じサブツリーがない場合は、頻度フィールドに「１」を割り当てて、サブツリーと、関連付けられたリーフをテーブルに加える。

第１例として、学習者の構文誤りテーブルを図４に示す。ここで、第１列は構文サブツリーを記録し、第２列は構文サブツリーの誤りに対応する関連付けられたリーフを記録し、最終列は構文サブツリーの誤りの頻度を記録する。

第２例として、学習者が、「このモデルに欠点はない」を意味する日本文の訳文として「Ｔｈｅｒｅ ａｒｅ ｎｏ ｄｉｓａｄｖａｎｔａｇｅ ｔｏ ｔｈｉｓ ｍｏｄｅｌｓ」という文を入力したと仮定すると、図５に示す文法ツリーが得られる。以下の２つの構文サブツリーを誤りマーカで位置特定して、現在のシステムは、ＶＰ（ＶＢＺ ＮＰ ＰＰ）を関連付けられたリーフＶＢＺにより、またＮＰ（ＤＴ ＮＮ）を関連付けられたリーフＮＮにより、誤りテーブルに誤り記録をつける。

次に、ユーザＡに関する現在の構文誤りテーブルが図４のようであると仮定する。ＮＰ（ＤＴ ＮＮ）は既にテーブルに存在するので、本発明者らは対応するフィールドの頻度フィールドに「１」を加え、関連付けられたリーフ・フィールドにＮＮを加えるだけである。ＶＰ（ＶＢＺ ＮＰ ＰＰ）がテーブルにないので、本発明者らは、関連付けられたリーフＶＢＺを有するＶＰ（ＶＢＺ ＮＰ ＰＰ）をテーブルに加え、頻度フィールドに「１」を割り当てる。結果を図６に示す。

Ｃ．習熟度条件付フィードバックおよび矯正
学習者のモデルを完成させるために、このシステムは、集合がそれぞれに異なるレベルの学習者に対応する学習者の構文誤りテーブルの構文サブツリーの列にリストされた構文誤りそれぞれに対する矯正資料または例文の集合を複数、例えば３つ準備する必要がある。ある特定数の問題の割り当てを完了した後で、このシステムは、ユーザの構文誤りテーブルの頻度行をソートすることによって最も頻度の高い構文誤りをまず見つける。学習者の平均化したスコアを利用して、適切なレベルの準備した矯正資料が選択される。

さらに具体的には、難易度順に与えられる以下の３つの異なるレベルの矯正例が構文誤りＮＰ（ＤＴ ＮＮ）に対して準備されると仮定する。
Ｉ ｈａｖｅ ａｎ ａｐｐｌｅ．
Ｔｈｅ ｃｏｍｐｕｔｉｎｇ ｒｅｓｏｕｒｃｅ ｉｓ ａｖａｉｌａｂｌｅ ｉｎ ｏｕｒ ｕｎｉｖｅｒｓｉｔｙ．
Ｔｈｅｒｅ ｉｓ ｅｎｏｕｇｈ ｒｅａｓｏｎ ｔｏ ｂｅｌｉｅｖｅ ｔｈａｔ ａ ＵＦＯ ｈａｄ ｖｉｓｉｔｅｄ ｏｕｒ ｃｉｔｙ．

最初の１０個の問題を終了した後で、見つかった最も頻繁な構文誤りの１つはＮＰ（ＤＴ ＮＮ）であるとするならば、これは、ユーザの構文誤りテーブルの最終列の最大値を探すことによって見つけられる。このシステムは、学習者の習熟度に応じてこれら３つの最適な矯正文を選択する。

上記説明および図面は、本発明の原理のみを説明したものと解釈されるべきである。本発明は、様々な形状およびサイズで構成することができ、好ましい実施形態の規模には限定されない。本発明の多数の応用例が当業者に容易に想起されよう。したがって、開示した具体例、すなわち図示し説明した厳密な構成および動作に本発明を限定しようとするものではない。そうではなく、すべての適した修正形態および等価形態を本発明の範囲内にあるものとすることができる。

正しいノードのすべての語に品詞タグを追加した後のテンプレート構造の一例を示す図である。 単一の入力を提供するＰＯＳＴパーサーによって強化されたテンプレート・ベースのＩＣＡＬＬシステムの処理手順を示す図である。 入力した文の文法矯正ツリーの一例を示す図である。 ユーザの構文誤りテーブルの一例を示す図である。 リーフの下に誤りをマークした文法ツリーを示す図である。 ユーザの構文誤りテーブルを維持する処理の一例を示す図である。

Claims (2)

1. テンプレート・ベースのコンピュータ支援学習システムによる品詞タグ付きパーサーを使用して文法を分析する方法において、
   入力された文の語群および句群に品詞タグを事前割当するステップと、
   品詞タグが事前割当された句を１語とみなすステップと、
   事前割当された語群が所与のタグを有する確率を１に設定するステップと、
   割り当てされない語群が所与のタグを有する確率を０に設定するステップと、
   複数の文法ツリーを得るステップと、
   Ｐ_{ｒｕｌｅ ｉ}は規則が規則_ｉになる確率、Ｐ（ｔａｇ_ｊ｜ｗｏｒｄ_ｊ）はｗｏｒｄ_ｊが品詞タグｔａｇ_ｊに割り当てられる確率としてその文法ツリーのなかから以下の公式
   

   

   
   で表せる複数文法ツリーの中で最終文法ツリーとしては確率Ｐ_ｔｒｅｅを最大にする組み合わせを前記複数の文法ツリー内から見つけるステップとを含む方法。
2. テンプレート・オートマトン・ベースのコンピュータ支援言語学習システムで品詞タグ付き（ＰＯＳＴ）パーサーを適用する方法において、
   キー入力された文を読み取るステップと、
   文を標準的なスペルチェック・モデルと照合し、綴りの誤りを訂正するステップと、
   入力された文と最も相似値の高い最適のパスを見つけ、語彙誤り情報、フィードバック情報、および入力された文のスコアを提供するステップと、
   誤りフィードバック情報に従って、テンプレート内の正しいパスを見つけるステップと、
   正しいパスに関するブラケット文法構造を得るためにＰＯＳＴパーサーを用いて前記正しいパスの文法を解析するステップと、
   正しいパスの構文解析されたツリーを描き、関連ツリーのリーフで誤りをマークするステップとを含む方法。
   

Images