JP6976585B2 - 照応・省略解析装置及びコンピュータプログラム - Google Patents

Description

この発明は、自然言語処理技術に関し、特に、自然言語の文章中に頻出する省略、代名詞等の指示語の照応関係を解析するときに使用される項共有判別器の学習装置、項共有知識を含む言語知識収集装置、及び項共有知識を用いた照応・省略解析装置に関する。

自然言語のテキスト中には、省略及び指示語が頻出する。例えば図１に示す例文３０を考える。例文３０は第１文と第２文とからなる。第２文には、「それ」という指示語（代名詞）４２が含まれる。この場合、「それ」という指示語は第１文の「モン歴の正月の日付」という表現４０を指す。このように指示語の指す語を特定する処理を「照応解析」と呼ぶ。一方、図２の例文６０を考える。この例文６０は、第１文と第２文とからなる。第２文において、「自己診断機能を搭載」という述部の主語は省略されているが、この主語の省略箇所７６には、第１文の「新型交換機」という単語７２が省略されている。同様に、「２００システムを設置する予定だ。」という述部の主語は省略されている。この主語の省略箇所７４には、第１文の「Ｎ社」という単語７０が省略されている。このように、主語等の省略を検出し、それを補完する処理を「省略解析」と呼ぶ。以後、照応解析と省略解析とをまとめて「照応・省略解析」と呼ぶ。

いわゆる人工知能において、人間とのコミュニケーションをとるために、自然言語処理は欠かせない技術である。自然言語処理の重要な問題として、自動翻訳及び質問応答等が存在する。照応・省略解析の技術は、このような自動翻訳及び質問応答において必須の要素技術である。

既存の照応・省略解析技術では、形態素解析、構文・係り受け解析等が出力する情報に加え、例えば「食べる」の目的語に「食べ物」に相当する表現が含まれるという特性をまとめた辞書などを利用した自動解析技術が開発されている。後掲の非特許文献１には、自動的に、一定の手順で照応・省略解析を行う照応・省略解析アルゴリズムが開示されている。この文献に開示された技術は、形態素解析、構文・係り受け解析（以下単に「係り受け解析」と呼ぶ。）等が出力する情報と、辞書等の外部資源ツールを利用する。ここで利用される辞書とは、例えば「食べる」という動詞の目的語には「食べ物」に相当する表現が含まれる、という特性をまとめたものである。非特許文献１に開示された技術では、これ以外にも、テキストの中から得られる情報を参照して代名詞の指し先及び省略の補完が行われている。

しかし、非特許文献１によれば、日本語の照応解析の場合で、再現率が４４％、精度が４２％、主語の省略解析の場合で再現率及び精度がいずれも３５％という数字が報告されている。日常生活で目にする文書には、省略及び代名詞等が頻繁に使用されている。正確な自然言語処理を行うためには、省略箇所の検出、省略箇所及び代名詞の指示先の検出が正確に行われなければならない。そのためには、精度の高い照応・省略解析器を得る必要がある。しかし、前述のように、既存の照応・省略解析器の精度は実用の域に達していない。

Ryu Iida, Massimo Poesio. A Cross-Lingual ILP Solution to Zero Anaphora Resolution. The 49th Annual Meeting of the Association for Computational Linguistics: Human Language Technologies (ACL-HLT2011), pp.804-813.2011.

このように照応・省略解析の性能が向上しない理由は種々考えられる。主な理由として、このような解析には一般常識が必要であることが挙げられる。一般常識として、因果関係、含意関係、事態の生起の順序関係、ある事態の発生により他の事態の発生が無効となったり、禁止されたりする関係等、様々な知識が考えられる。照応・省略解析に関しては、これらだけではなく、２つの述語が主語を共有したり、目的語を共有したりする関係に関する知識があれば、解析の精度がより高くなることが期待できる。

例えば、「社会党が理念や政策を定めた綱領的文書を採択した。党としての新党準備会を設置、統一地方選直後の五月に新党結成を（φガ）目指す案が浮上している」というテキストを考える。ここで、「φガ」は「目指す」の主語の省略を表している。この「φ」が「社会党」であることを特定するためには、「Ｘが採択する←→Ｘが目指す」のような、２つの述語の２つの格が項を共有するか否かに関する知識（これを項共有知識と呼ぶ）が必要となる（「←→」はその左右の表現が、主格、目的格等の項を共有することを表す）。照応解析の場合でも同様である。例えば「Ａクラブでは、３種類の岩盤浴とエステ等のサービスを備えています。若年層からシニア層まで幅広い年齢層でそれを利用可能です。」というテキストを考える。このテキストで、「それ」は「３種類の岩盤浴とエステ等のサービス」を指す。このようにある語が指示する語句を特定するためにも「Ｘを備える←→Ｘを利用可能だ」という項共有知識が必要となる。

しかし、既存の照応・省略解析の自動解析技術では、このような知識は利用されていない。照応・省略解析器の精度が向上しない１つの原因はこの事実にあると思われる。

それゆえにこの発明の目的は、照応・省略解析で利用可能な項共有関係知識を効率的に収集するために、２つの述語が項を共有するか否かを判別できる項共有判別器の学習を行える項共有判別器学習装置を提供することである。

この発明の他の目的は、照応・省略解析で利用可能な項共有関係知識を含む言語知識を効率的に収集できる言語知識収集装置を提供することである。

この発明のさらに他の目的は、項共有関係知識を利用して照応・省略解析を行うことができる照応・省略解析装置を提供することである。

本発明の第１の局面に係る項共有判別器学習装置は、照応・省略関係に関するアノテーション済の自然言語のテキストデータを用いて、述語対の項共有関係を判別する項共有判別器の学習を行う。この項共有判別器学習装置は、アノテーション済の自然言語のテキストデータから複数の述語対を選択する述語対選択手段と、述語対選択手段により選択された述語対の各々について、形態素解析及び構文解析を行って、当該解析の結果から少なくとも当該述語対を構成する述語の各々の文字列、品詞、係り元、係り先、当該述語対の間に出現する語数、及び当該述語対の間に出現する機能語を含む特徴量を抽出する特徴量抽出手段と、特徴量抽出手段により特徴量が抽出された述語対が項を共有しているとアノテーションされているか否かにしたがって、正例及び負例の学習データを特徴量を用いて生成する学習データ生成手段と、学習データ生成手段により生成された学習データを用いた機械学習により、述語対が与えられると、当該述語対が項を共有しているか否かを示すように統計的モデルからなる項共有判別器の学習を行う学習手段とを含む。

本発明の第２の局面に係る項共有判別器学習装置は、照応・省略関係に関するアノテーション済の自然言語のテキストデータ、及び自然言語の複数のテキストを含むテキストアーカイブを用いて、項共有判別器の学習を行う。この項共有判別器学習装置は、テキストアーカイブに含まれる各文から述語対を抽出する述語対抽出手段と、述語対抽出手段により抽出された述語対の各々について、既存の項共有判別器を用いて当該述語対が項を共有するか否かを判別するための項共有判別手段と、項共有判別手段により項共有の有無が判別された述語対の種類ごとに、当該種類の述語対が項を共有していると判別された率である項共有率を算出する項共有率算出手段と、アノテーション済の自然言語のテキストデータから複数の述語対を選択する述語対選択手段と、述語対選択手段により選択された述語対の各々について、形態素解析及び構文解析を行って、当該解析の結果から少なくとも当該述語対を構成する述語の各々の文字列、品詞、係り元、係り先、当該述語対の間に出現する語数、当該述語対の間に出現する機能語、及び当該述語対について項共有率算出手段により算出された項共有率を含む特徴量を抽出する特徴量抽出手段と、特徴量抽出手段により特徴量が抽出された述語対が項を共有しているとアノテーションされているか否かにしたがって、正例及び負例の学習データを特徴量を用いて生成する学習データ生成手段と、学習データ生成手段により生成された学習データを用いた機械学習により、述語対が与えられると、当該述語対が項を共有しているか否かを示すように統計的モデルからなる項共有判別器の学習を行う学習手段とを含む。

好ましくは、項共有率算出手段は、項共有判別手段により項共有の有無が判別された述語対の種類ごとに、学習データ中における当該述語対の出現頻度が所定のしきい値より大きいか否かにしたがって、当該種類の述語対が項を共有していると判別された率である項共有率を算出する処理と、当該種類の述語対の項共有率に所定の定数を割当てる処理とを選択的に実行する選択的算出手段を含む。

本発明の第３の局面に係る言語知識収集装置は、自然言語の複数のテキストを含むテキストアーカイブから、項を共有する述語対に関する言語知識を収集する。この言語知識収集装置は、テキストアーカイブの各テキストから述語対を選択する述語対選択手段と、述語対選択手段により選択された述語対の各々から、所定の特徴量を算出し、上記したいずれかの項共有判別器学習装置により学習した項判別器に入力してその判別結果を得ることにより、当該述語対が項を共有するか否かを判別するための項共有判別手段と、項共有判別手段により項を共有すると判別された述語対について、当該述語対が項を共有することを示す項共有知識を蓄積するための項共有知識蓄積手段とを含む。

好ましくは、項共有判別器は、入力された特徴量に対応する述語対が項を共有するか否かについての判別結果とあわせて、当該判別結果の信頼度を表すスコアを出力し、項共有知識蓄積手段は、項共有判別手段により項を共有すると判別された述語対であって、かつ項共有判別手段により出力されたスコアがしきい値以上であるものを、項共有知識として選択し蓄積するための手段を含む。

本発明の第４の局面に係る照応・省略解析装置は、項を共有する述語対に関する項共有知識を用いて、入力されたテキストの照応・省略解析を行う。この照応・省略解析装置は、項共有知識を記憶する項共有知識記憶手段と、項共有知識を用いて入力されたテキストを解析することにより、入力されたテキスト中の述語対の項の共有に関する情報を生成する項共有解析手段と、入力されたテキストに対し、自動的な処理により、項共有解析手段による解析結果を用いた照応・省略解析を行って、照応・省略箇所とその指し先とに関してアノテーションされたテキストを出力する照応・省略解析手段とを含んでもよい。

照応・省略解析装置は、項を共有する述語対に関する項共有関係知識を用いて、入力されたテキストの照応・省略解析を行う。この照応・省略解析装置は、自動的な処理により照応・省略解析を行って、照応・省略箇所とその指し先とに関してアノテーションされたテキストを出力する照応・省略解析手段と、照応・省略解析手段の出力するアノテーションされたテキスト中の述語対であって、双方の述語に関する所定格の項の指し先が互いに異なる指し先を示すようにアノテーションされた述語対を選択する述語対選択手段と、述語対選択手段により選択された述語対の所定格の項に関する項共有知識を検索する検索手段と、検索手段により述語対の所定格の項に関する項共有知識が見出されたことに応答して、当該述語対を構成する述語のうち、予め定める方法により選択された一方の所定格の項の指し先を、他方の所定格の項の指し先で書き換えて新たなアノテーション候補を出力する書換手段とを含む。

好ましくは、照応・省略解析手段は、項共有解析手段により項を共有すると判別された述語対について、同じ項を共有する複数の述語からなる項共有述語ネットワークを生成するネットワーク生成手段と、ネットワーク生成手段により生成された項共有述語ネットワークの各々について、当該項共有述語ネットワークに属する述語の共有する項の値を決定する項決定手段と、項決定手段により決定された値を、当該項共有述語ネットワーク内の述語により共有される項に伝搬させてアノテーションを行う値伝搬手段とを含む。

より好ましくは、項決定手段は、ネットワーク生成手段により生成された項共有述語ネットワークの各々に属する述語の各々について、当該述語が他の述語と共有する項の値の候補を決定する候補決定手段と、候補決定手段により決定された値の候補が１つであるときには、当該項共有述語ネットワークに属する述語の共有する項の値を当該候補に決定する手段と、候補決定手段により決定された値の候補が複数であるときは、候補決定手段により各候補が決定されたときの信頼度の最も高い候補を選択し、当該項共有述語ネットワークに属する述語の共有する項の値を当該候補に決定する手段とを含む。

さらに好ましくは、照応・省略解析装置はさらに、ある項共有述語ネットワークに属する述語の各々について、候補決定手段により決定された値の候補が１つもないときに、当該項共有述語ネットワークに属する述語が共有する項の値を、照応・省略解析手段と異なる手法により決定するための手段を含む。

照応・省略解析装置はさらに、入力されたテキストにおいて、項共有解析手段により他の述語と項を共有しないと判定された述語に対して、照応・省略解析手段と異なる手法により、当該述語の指す項の値を特定する手段を含んでもよい。

本発明の第５の局面に係るコンピュータプログラムは、コンピュータを、上記したいずれかの装置の全ての手段として機能させる。

照応解析を説明するための模式図である。 省略解析を説明するための模式図である。 学習データ生成のための省略解析と、その結果に対する人手による選択処理を説明するための模式図である。 本発明の一実施の形態に係る学習データ生成補助装置を含む照応・省略解析のためのシステムの全体ブロック図である。 言語知識を構成する規則の概略構成を説明するための図である。 項共有判別器学習装置の構成を示すブロック図である。 項共有判別器のための学習データを作成するプログラムの制御構造を示すフローチャートである。 項共有判別器を用いた項共有知識収集部の概略構成を示すブロック図である。 質問タイプＤＢの概略構成を説明する模式図である。 質問応答システムを利用したアノテーション方法の概略を示す模式図である。 学習データ生成補助装置のブロック図である。 アノテーション候補を生成する第１の候補生成部のブロック図である。 アノテーション候補を生成する第２の候補生成部のブロック図である。 言語知識を利用したアノテーション候補の生成プロセスを説明する図である。 言語知識を利用したアノテーション候補の生成プロセスを説明する図である。 言語知識を利用したアノテーション候補の生成プロセスを説明する図である。 言語知識を利用したアノテーション候補の生成プロセスを説明する図である。 項共有知識を利用したアノテーション候補の生成プロセスの例を説明する図である。 アノテーション候補を生成する第３の候補生成部のブロック図である。 アノテーション候補を生成する第４の候補生成部のブロック図である。 テキストへのアノテーションをユーザとの対話により実行して学習データを生成するためのプログラムの状態遷移図である。 検出器学習装置２２２の詳細な機能ブロック図である。 項共有関係知識を用いてアノテーションの検証を行う項共有関係検証処理の概念図である。 項共有関係検証装置を実現するプログラムの制御構造の概略フローチャートである。 第２の実施の形態に係る項共有判別器再学習装置の機能的ブロック図である。 第２の実施の形態に係る項共有判別器の性能を他手法と比較して示すグラフである。 第４の実施の形態において、項共有の３つの型を説明するための模式図である。 図２７に示す３つの型に応じた項共有判別器の学習装置のブロック図である。 第４の実施の形態に係る項共有知識収集装置のブロック図である。 第４の実施の形態における照応・省略解析器のブロック図である。 図３０に示す照応・省略解析器を実現するコンピュータプログラムの制御構造を示すフローチャートである。 学習データを生成するためのプログラムを実行するコンピュータの外観を示す図である。 図３２に外観を示すコンピュータのハードウェアブロック図である。

以下の説明及び図面では、同一の部品には同一の参照番号を付してある。したがって、それらについての詳細な説明は繰返さない。

＜第１の実施の形態＞
［概略］
図３を参照して、本発明の第１の実施の形態に係る項共有判別器により収集した項共有知識を用いた学習データ生成補助装置においてアノテーションをテキストに付する作業の概略を説明する。図３の上段を参照して、表示装置の画面に、アノテーション対象のテキスト９０が表示される。このテキスト９０は２つの文からなる。第１の文には、「導入する」という述部と、述部の主語である「Ｎ社」という単語１００と、述部の目的語である「新型交換機」という単語１１０とが含まれる。第２の文は実質的には２つの節からなる。前半の文の先頭には「自己診断機能を搭載」の主語が省略されている箇所（省略箇所）１１４がある。前半の文と後半の文との中間箇所には、「２００システムを設置する予定だ。」の主語が省略されている省略箇所１０４がある。

照応・省略解析では、図３の矩形１０２及び矩形１１２内に記載したように、まず省略箇所１０４又は１１４を発見する。その後、その省略箇所を補完すべき表現を探索し決定する。省略箇所１０４の場合には単語１００が補完すべき表現となる。省略箇所１１４の場合には、単語１１０が補完すべき表現となる。

従来は、こうした省略箇所の発見と、補完表現の候補の探索及び決定とを、いずれも人間が行っていた。しかしそのような作業は非効率的であり、学習データの生成コストを押し上げる要因となっていた。本実施の形態では、上記した省略箇所の発見と、補完表現の候補の探索とをコンピュータプログラムで自動的に行う。こうした処理には、後述するように様々な手法を使用する。特に、項共有知識を含む言語知識を活用することで、人間が行うような作業と同様、省略箇所の発見と補完表現の候補の探索及び決定とを効率的に行う。

省略箇所の発見と補完表現の候補の探索とが終わると、各省略箇所に対して、図３の下段に示すような処理を行う。この例では、図３の上段に示す省略箇所１１４に対する補完表現に対しては「新型交換機」という単語１１０が発見され、省略箇所１０４には単語１００を含む複数の単語が発見されたものとする。この場合、学習データ生成補助装置は、省略箇所１１４に単語１１０と同じ「新型交換機」という単語と主格の格助詞「ハ」とからなる文字列１３０を挿入し、さらにその右側には、いわゆるドロップダウンリストが存在することを意味するアイコン「▼」を表示する。ユーザがこのアイコンをクリックするとドロップダウンリスト１３２が表示される。ドロップダウンリスト１３２には、表示された候補をこの省略箇所１１４に対するアノテーションとして付加して良いか否かを尋ねる２つのオプション（ＹＥＳ、ＮＯ）と、人間が手入力するオプション（「手入力」）が表示される。利用者がＹＥＳを選択すると、この省略箇所１１４に文字列１３０がアノテーションとして付加される。ＮＯを選択すればこの省略箇所１１４にはアノテーションは付加されない。「手入力」を選択すると、図示しない入力ダイアログが開き、アノテーションを直接入力できる。

省略箇所１０４の場合、候補の一つ、例えば単語１００と同じ単語と格助詞「ハ」からなる文字列１３４が表示され、右側にドロップダウンリストを示すアイコン「▼」が表示される。このアイコンをユーザがクリックすると、複数の候補のリストと「直接入力」とをオプションとして含むドロップダウンリストが表示される。ユーザが候補のいずれかを選択すると、その候補の単語が省略箇所１０４に対するアノテーションとして付加される。直接入力が選択されたときについては、省略箇所１１４と同様である。

［照応・解析システムの全体構成］
図４を参照して、最初に、本実施の形態に係る学習データ生成補助装置を使用する照応・省略解析システム１５０の全体構成について説明する。

この照応・省略解析システム１５０は、予め準備された大量のテキストについて、省略箇所及び照応詞の検出を行い、それらが指す表現（先行詞）の候補をユーザに提示して簡単な操作で選択させることにより、ユーザが照応・省略解析に必要なモデルの学習データ（アノテーションデータ）を生成するのを補助するアノテーションデータ生成補助システム１６０と、アノテーションデータ生成補助システム１６０を用いてユーザにより生成された学習データを記憶する学習データＤＢ１６２と、学習データＤＢ１６２に記憶された学習データを用いて、後述する省略検出器１６６、照応詞検出器１６８、及び先行詞特定器１７０の学習を行うための学習システム１６４とを含む。省略検出器１６６は、テキスト中の任意の述語を対象に、省略検出を行う。省略検出器１６６は、テキスト中の主語、目的語等が省略された省略箇所を検出するための統計的モデルを含む。照応詞検出器１６８は、テキスト中の任意の名詞句（照応詞候補）を分類対象として、他の単語などを指示するための照応詞を検出するための統計的モデルを含む。先行詞特定器１７０は、テキスト中の、省略を持つ述語と先行詞候補である名詞句とを分類対象に、省略が指す先（先行詞）を特定するための検出器と、テキスト中の名詞句の対（照応詞と先行詞候補）とを分類対象に、照応詞が指す先行詞を特定するための検出器とを含む。これら検出器は、それぞれ別個の統計的モデルを有する。本実施の形態では、省略検出器１６６、照応詞検出器１６８、及び先行詞特定器１７０は、いずれもＳＶＭ（Ｓｕｐｐｏｒｔ Ｖｅｃｔｏｒ Ｍａｃｈｉｎｅ）を統計的モデルとして用いる。

照応・省略解析システム１５０はさらに、省略検出器１６６、照応詞検出器１６８、及び先行詞特定器１７０を用いて、入力テキスト中の省略箇所及び照応詞を検出し、それらの指す先行詞を特定する情報を付して出力する照応・省略解析装置１７２を含む。

＜アノテーションデータ生成補助システム１６０＞
アノテーションデータ生成補助システム１６０は、表示装置とキーボート及びマウス等を用いてユーザとの間で対話的な入出力を行う入出力装置２０２と、言語知識を含む様々な資源を用いて、テキストアーカイブ１９２に記憶された大量のテキストに対するユーザのアノテーション付与作業を補助することで、学習データを生成し学習データＤＢ１６２に出力する学習データ生成補助装置２０４とを含む。

学習データ生成補助装置２０４が使用する資源は、学習データＤＢ１６２と同様の学習データを記憶した既存小規模学習データＤＢ１９０と、テキストアーカイブ１９２に記憶されたテキストに対して適用可能な形式の言語知識を規則の形で記憶した言語知識ＤＢ１９４と、学習データ生成補助装置２０４が言語知識ＤＢ１９４に記憶された言語知識をテキストに対して適用する際に、規則中の表現を他の表現に言換えたり、規則中の単語を別の単語に入れ替えたりするために使用される言換え規則及びカテゴリを記憶した言換え・カテゴリ辞書１９６と、テキストが特定のパターンを持つときに、そのパターンに付随する省略箇所を特定できるよう、予め準備されたパターンを記憶するためのパターン辞書１９８とを含む。

アノテーションデータ生成補助システム１６０はさらに、学習データ生成補助装置２０４が、テキスト中に省略箇所を発見したときに、その省略箇所が指し示す単語の候補を問い合わせる質問応答システム２０６と、学習データ生成補助装置２０４が質問応答システム２０６に対する質問をテキストに基づいて作成するときに参照する質問タイプＤＢ２００と、テキストに対して照応・省略解析を行って、学習データ生成補助装置２０４が実行する照応・省略解析の際に、省略箇所、照応詞、先行詞等の候補を学習データ生成補助装置２０４に対して提示するための既存照応・省略解析器２０８とを含む。

既存小規模学習データＤＢ１９０の構成は、テキスト中の省略箇所、照応詞、及び先行詞の特定ができるようなフォーマットであればどのような形式でもよい。

テキストアーカイブ１９２に記憶されたテキストは、本実施の形態では単純なテキストであり、形態素解析、構造・係り受け解析がされていないことを前提とする。しかし、本発明はそのような実施の形態には限定されない。他のシステムで形態素解析若しくは構造・係り受け解析又はその双方が行われ、そうした情報が付されたものを用いてもよい。

〈言語知識ＤＢ１９４〉
図５を参照して、言語知識ＤＢ１９４に記憶された言語知識の規則は、大きく分けて５種類ある。すなわち、因果関係知識２７０、含意関係知識２７２、事態生起順序関係知識２７４、事態生起無効化関係知識２７６、及び項共有知識２７８である。各知識は、ワイルドカード的な役割を果たす、任意の名詞句等に置換可能な変数（以下では、「Ｘ」，「Ｙ」等によって表わす）を含んでもよい。

因果関係知識２７０は、例えば「Ｘがタバコを吸う」という、原因に相当する表現と、「Ｘが肺がんの可能性を高める」という、結果に相当する表現との順序付ペアである。ここでは、原因に相当する表現が先に、結果に相当する表現が後に位置するものとする。

含意関係知識２７２は、例えば「ＸがＹの著者だ」という表現により、「ＸがＹを執筆した」という表現が含意されている、ということをこれら２つの表現の順序付ペアで表す。ここでは、含意する表現が先に、含意される表現が後に位置するものとする。

事態生起順序関係知識２７４は、例えば「ＸがＹを発見する」という事象が生じると、「ＸがＹを発表する」という事象が生じ得る、という事象の正規の順序関係を、これら２つの表現の順序付ペアで表す。ここでは、事象の順序関係にしたがって表現が配置されるものとする。

事態生起無効化関係知識２７６は、例えば「Ｘを禁止する」という事象が発生すると、「Ｘを公開できない」という事象が発生するように、ある事象が発生したことにより別のある事象の発生が無効化されるような関係にある表現の順序付ペアである。ここでは、発生する事象が先に位置し、その事象により発生が無効化される事象が後に位置するものとする。

後述するように、これら知識は単独でテキストに対して適用できるが、それだけではなく、例えば２つの知識のうち、一方の知識の後半の表現が、他方の知識の前半の表現と一致するような場合には、知識を連鎖させて適用できる。なお、ここでいう「一致」は、例えば同義語の言換え、含意等も含む。

一方、項共有知識２７８は、他の知識とやや異なった性格を持つ。図５に示すように、項共有知識２７８は、２つの述語（例えば「深める」と「協議する」、「目指す」と「続ける」等）が、それらの意味とは独立に、主語を共有することが多いという知識である。このような知識があれば、ある文章中で、項を共有する確率が高い２つの述語のうちの一方（第１の述語）と関係するある項（例えば主格の単語）が分かっているときに、他方の述語（第２の述語）に関係する同じ項が省略されていれば、第２の述語の項が、第１の述語の項と同じである確率が高い。したがって、その単語を第２の述語の省略箇所が指す単語の候補とすることができる。

〈項共有判別器〉
このような項共有知識を効率的に収集するためには、照応・省略関係がアノテーションされたコーパスを利用して、与えられた２つの述語の２つの格が項を共有するか否かを判別する判別器が有効である。判別器自体には、機械学習を用いることとし、統計的モデルとして例えばＳＶＭを利用する。もちろん、統計的モデルとしてはＳＶＭに限定されず、ニューラルネットワーク等を用いることもできる。

図６を参照して、本実施の形態では、アノテート済テキスト記憶部２８１から得た学習データにより項共有判別器２８３の学習を行う項共有判別器学習装置２８２を用いる。アノテート済テキスト記憶部２８１には、例えば以下の様な文が格納されている。

「村山富市首相は年頭にあたり首相官邸で内閣記者会と二十八日会見し、社会党の新民主連合所属議員の離党問題について離党者がいても、その範囲にとどまると思うと述べ、大量離党には至らないとの見通しを示した。」
このテキストには複数の述語が出現している。アノテート済テキスト記憶部２８１に記憶されたテキストにおいては、各述語の各々の格について、その項がどの表現であるかがアノテーションされている。この例では、「会見する」「思う」「述べる」「示す」「示す」の主語が「村山富市首相」であることがアノテーションされている。それ以外の述語「いる」「とどまる」「至る」についてはそれ以外の表現が主語となっている。このようなアノテーション結果が与えられたときに、任意の述語の対を抽出し、その対の格、例えば述語の主語同士が共有されている場合には正例、それ以外の場合には負例として学習データを作成し、この学習データにより、２つの述語が格を共有するか否かを判別するように項共有判別器２８３の学習を行う。

項共有判別器学習装置２８２は、アノテート済テキスト記憶部２８１に格納されたテキスト中の各述語対について、述語の文字列、品詞、係り元、係り先の情報、述語間の距離、その間に出現する機能語等を特徴量として抽出し、格ごとに分けて学習データを生成する学習データ生成部２８４と、学習データ生成部２８４が出力する格ごとの学習データを記憶する学習データ記憶部２８５と、学習データ記憶部２８５に記憶された格ごとの学習データにより、格ごとの項共有判別器２８３の学習を行う学習処理部２８６とを含む。述語対としては、同一文内の述語対についてのみ考慮してもよいし、テキスト中で文境界を超えて出現する述語対まで考慮してもよい。本実施の形態では、後者を採用し、文境界を超えて出現する述語対からも学習データを生成する。

図７を参照して、学習データ生成部２８４を実現するコンピュータプログラムは、アノテート済テキスト記憶部２８１の中の全てのテキストの各々について、以下の処理２９２を行うステップ２９１を含む。

処理２９２は、処理対象の文書に含まれる全ての述語対の各々について、処理２９４を行うステップ２９３を含む。

処理２９４は、処理対象の述語対から前述した特徴量を抽出するステップ２９５と、抽出された特徴量を用いて学習データを生成し出力する処理２９６とを含む。ステップ２９５では、具体的には、処理対象の述語対を含む文の各々について形態素解析及び構文解析を行った後、得られた形態素列及び係り受け関係から特徴量が抽出される。本実施の形態では、特徴量は、品詞情報を含む形態素列、及び文の係り受け構造のみであるため、特徴量抽出は単純な処理で実現できる。処理２９６は、述語格の組み合わせごとに実行される。図７では、図面を分かりやすくするために、主語についての処理のみを処理２９６として示してある。目的語等についての処理は図示していないが、ステップ２９５の後、主語の処理と並列に行う事ができる。

処理２９６は、処理対象の述語対が主語を共有するか否かを判定するステップ２９７と、ステップ２９７の判定が肯定の時に、正例としてマークされた学習データをステップ２９５で抽出された特徴量から生成するステップ２９８と、ステップ２９７の判定が否定のときに、負例としてマークされた学習データをステップ２９５で抽出された特徴量から生成するステップ２９９と、ステップ２９８及びステップ２９９で生成された学習データを現在の処理中の格に応じたファイルに出力するステップ３００とを含む。

図８を参照して、上に説明したようにして学習が行われた項共有判別器２８３を用いて未アノテートテキストアーカイブ３０２から項共有知識を抽出する項共有知識収集装置３０１について説明する。ここでは、項共有判別器２８３として、判別の対象となる項別に３つの項共有判別器３０６，３０７及び３０８を用いるものとする。項共有知識収集装置３０１は、未アノテートテキストアーカイブ３０２から全ての述語対を抽出する述語対抽出部３０３と、述語対抽出部３０３により抽出された述語対の各々について、図７のステップ２９５で抽出されたものと同じ特徴量を抽出する特徴量抽出部３０４と、特徴量抽出部３０４により抽出された特徴量を、判別対象の項の格にしたがって３つの項共有判別器３０６，３０７及び３０８に振り分ける振り分け部３０５と、項共有判別器３０６、３０７及び３０８の判別結果と処理対象となっている述語対と判別対象の格の情報とをまとめて項共有知識として記憶する項共有知識記憶部３１０とを含む。判別結果は、処理対象の述語対が項を共有しているか否かを示す情報と、そのスコアとを含む。項共有判別器３０６，３０７及び３０８はいずれも前述したとおりＳＶＭからなる。ここでのスコアは、ＳＶＭから出力される、判別の基準となる分離平面から判別対象のデータポイントまでの距離に相当するスコアを用いる。

本実施の形態ではさらに、項共有知識記憶部３１０に記憶された項共有知識について、人手による対話型処理３１２により検証して取捨選択を行うための検証処理部３０９を含む。検証処理部３０９は例えば、項共有知識記憶部３１０に記憶された項共有知識の内、スコアが低い判別結果を表示装置に表示し、人手によりその取捨選択を行う。ただし、人手による対話型処理３１２を用いて項共有知識の取捨判別を行うことに限定されない。例えば、項共有判別器３０６、３０７及び３０８が信頼度の低い判別結果を破棄する（出力しない）ようにしてもよい。又は、項共有知識記憶部３１０に記憶された項共有知識を利用する際に、スコアが一定の値より高いもののみを使用してもよい。このスコアはアプリケーションごとに変更してもよく、また格ごとに別々の値にしてもよい。

〈質問タイプＤＢ２００〉
図９を参照して、質問タイプＤＢ２００は、学習データ生成補助装置２０４が質問応答システム２０６を利用して先行詞の候補を入手するときに利用される。質問タイプＤＢ２００は、複数のエントリを持つ。各エントリは例えば、ある動詞について、ある表現内でのその動詞の係り受け関係において省略されている部分の文法役割と、省略部分に挿入されるべき表現を求める際に、どのような形で質問文を生成すればよいかを示す情報（質問タイプ）とを含む。例えば「食べる」という動詞について、ある表現内でその主語が省略されている場合には、「誰が」を文の先頭に配置して文を生成すれば、回答として「食べる」の主語になるべき表現が質問応答システムから得られる。

〈質問応答システム２０６〉
図１０を参照して、質問応答システム２０６を利用して省略箇所の指す表現の候補を得るプロセスについて説明する。まず、入力テキスト３２０が２つの文を含むものとする。第１の文は「夕食に赤ワインを飲みましょう」という文であり、第２の文は「心臓病を防ぎます」であるものとする。第２の文の先頭には「防ぎます」という動詞３３２の主語が省略されており、この省略箇所３３４には省略を示すタグが付されているものとする。ここでは、この省略箇所には「赤ワイン」という単語３３０が入るべきである。

ここで、このテキストから省略箇所３３４に入るべき表現の候補を質問応答システムから得るためには、適切な質問文を生成して質問応答システム２０６への入力として与える必要がある。ここでは、入力テキスト３２０の省略箇所の文で「防ぎます」の主語を知る必要がある。図示しないが、言換え・カテゴリ辞書１９６に「予防」と「防ぐ」との言換えが可能であるという情報が格納されているものとする。すると、図９に示す質問タイプＤＢ２００に、動詞が「予防する」、文法役割が「主語」となったエントリが見つかる。その「質問タイプ」のカラムには「何が」が格納されている。学習データ生成補助装置２０４は、これら情報から、「何が心臓病を防ぐのか」という質問文３３６を生成する。質問文の生成において、文末は質問文にふさわしく、予め準備された規則にしたがって変換する。文末の変換規則を、質問タイプＤＢ２００の各エントリに予め格納しておくようにしてもよい。

図１０を参照して、質問応答システム２０６は、この質問文３３６を受け取ると、システム内のデータベース内から、質問文３３６に対する回答としてふさわしい単語候補群３４２を検索して取り出す。質問応答システム２０６はさらに、このようにして得られた単語候補群３４２を、カテゴリ別に、各カテゴリ３４４、３４６、及び３４８が１又は複数の回答候補を含むようにして学習データ生成補助装置２０４に送信する。ここでは、カテゴリ３４４が「赤ワイン」、「酒」、「ビール」を含むものとする。他のカテゴリ３４６及び３４８も同様である。学習データ生成補助装置２０４は、例えば、こうして得られた単語の候補のうち、入力テキスト３２０内で省略箇所３３４より前の位置にある単語と一致する表現（この例では「赤ワイン」という単語３３０）を選択し、省略箇所３３４と、その指し先の候補としての単語３３０とをアノテーション３５０の対象とする。以上が質問応答システム２０６を用いたアノテーション付加作業の概略である。

〈既存照応・省略解析器２０８〉
図１１を参照して、既存照応・省略解析器２０８は、既存の、照応・省略解析を行うものである。ここでは、既存照応・省略解析器２０８は、省略箇所の候補、照応詞の候補、及び省略箇所及び照応詞の先行詞の候補を提示するために使用される。最終的には人間がこれら候補の中から正しい候補を選択する。したがって、ここで用いる既存照応・省略解析器２０８の精度は必ずしも高くなくてもよい。

〈学習データ生成補助装置２０４〉
図１１はアノテーションデータ生成補助システム１６０を示しており、学習データ生成補助装置２０４は、テキストアーカイブ１９２に含まれる各テキストに対して形態素解析を行い、さまざまな文法情報が付された形態素列を出力する形態素解析システム３８０と、形態素解析システム３８０の出力する形態素列に対し、文の構造及び係り受け解析を行い、構造・係り受け情報が付された形態素列を出力する係り受け関係解析システム３８２と、係り受け関係解析システム３８２が出力する形態素列を、それらの文法情報及び構造・係り受け関係とともに記憶する解析後テキストＤＢ３８４とを含む。ここでは、係り受け関係解析システム３８２は、少なくともどの単語がどの単語に係っているかを示す係り受け情報を各形態素列に付すものとする。なお、図１１においては、図面を簡略にするために図示していないが、本実施の形態では、学習データ生成補助装置２０４内の各要素は、入出力装置２０２を介したユーザの指示により動作する。

学習データ生成補助装置２０４はさらに、解析後テキストＤＢ３８４に記憶された解析後テキストにおいて、省略箇所を検出し、質問タイプＤＢ２００及び質問応答システム２０６を用いて各省略箇所の先行詞を指すアノテーション候補群を生成する第１の候補生成部３８８と、解析後テキストＤＢ３８４に記憶された解析後テキストにおいて、第１の候補生成部３８８と同様に省略箇所を検出し、各省略箇所に対して言語知識ＤＢ１９４、言換え・カテゴリ辞書１９６、及びパターン辞書１９８を用いて省略箇所に関するアノテーション候補群を生成する第２の候補生成部３９０と、既存小規模学習データＤＢ１９０に記憶された学習データに対して、その中に存在している照応関係、省略関係の一部を変更して新たな学習データを生成し、その学習データから新たなアノテーション候補を生成する第３の候補生成部３９２と、既存照応・省略解析器２０８を用い、解析後テキストＤＢ３８４に記憶されたテキストに対する照応・省略解析を行って、その結果をアノテーション候補として生成する第４の候補生成部３９４とを含む。

学習データ生成補助装置２０４はさらに、第１の候補生成部３８８、第２の候補生成部３９０、第３の候補生成部３９２、及び第４の候補生成部３９４の出力するアノテーション候補群を、各アノテーションが付されるべき省略箇所、照応詞等と関連付けて記憶する候補ＤＢ３８６と、解析後テキストＤＢ３８４に記憶された各テキストの省略箇所及び照応詞の各々について、候補ＤＢ３８６を参照して候補を選択可能な形式で入出力装置２０２の表示装置に表示し、ユーザからの選択入力を受け付けて学習データＤＢ１６２に学習データとして出力する対話型アノテーション装置３９６とを含む。

再び図４を参照して、学習システム１６４は、アノテーションデータ生成補助システム１６０で用いられた質問タイプＤＢ２００及び学習データ生成補助装置２０４とそれぞれ同様の質問タイプＤＢ２２０及び質問応答システム２２６と、後述するように、先行詞特定器１７０の学習の際に、選択される先行詞に課される制約を記述した選択制限ＤＢ２２４と、アノテーションデータ生成補助システム１６０で使用される言語知識ＤＢ１９４と同様の構成を持つ言語知識を記憶した言語知識ＤＢ２２８と、学習データＤＢ１６２に記憶された学習データ、質問タイプＤＢ２２０、質問応答システム２２６、言語知識ＤＢ２２８、及び選択制限ＤＢ２２４を用い、省略検出器１６６、照応詞検出器１６８、及び先行詞特定器１７０の学習処理を実行する検出器学習装置２２２とを含む。

〈第１の候補生成部３８８〉
図１２を参照して、第１の候補生成部３８８は、解析後テキストＤＢ３８４に記憶された各テキストデータのうちの述語を検索する述語検索部４２０と、述語検索部４２０が出力した各述語のリストを各述語の出現位置とともに記憶する述語リスト記憶部４２２と、述語リスト記憶部４２２に記憶された各述語のうち、当該述語が関与する係り受け関係のうちで省略されている箇所を検出し、省略候補として出力する省略候補検出部４２４と、省略候補検出部４２４に記憶された省略候補の各々に対して、質問タイプＤＢ２００を参照してその省略箇所を補完する単語を回答として求める質問文を生成し、質問応答システム２０６に質問文として与える質問文自動生成部４２６と、質問文自動生成部４２６から質問文を、その質問文に対する回答候補群を質問応答システム２０６から受信し、質問文とその回答候補群とを組み合わせて出力する回答受信部４２８と、回答受信部４２８が出現する質問文と回答候補群とのペアを受け、回答候補群に含まれる候補のうち、解析後テキストＤＢ３８４に記憶された解析後テキスト文内の出現箇所を確認し、質問の対象となっている省略箇所より前の位置に出現するものを全て選択して省略箇所の指し先候補として出力する出現位置確認部４３０と、出現位置確認部４３０から出力される省略箇所とその省略箇所を補完する候補群とを組にしてアノテーション候補として候補ＤＢ３８６に追加する候補追加部４３２とを含む。

〈第２の候補生成部３９０〉
図１３を参照して、第２の候補生成部３９０は、図１２に示す述語検索部４２０、述語リスト記憶部４２２、及び省略候補検出部４２４とそれぞれ同様の述語検索部４５０、述語リスト記憶部４５２、及び省略候補検出部４５４と、省略候補検出部４５４により検出された省略候補のうち、テキスト内でその省略の候補を持つ述語よりも前に出現している他の述語を検索し、検索された各述語とその省略の候補を持つ述語とをペアにして出力する対象述語検索部４５６と、対象述語検索部４５６が出力する各述語ペアについて、それらペアを構成する述語、又はそれを言換え・カテゴリ辞書１９６を参照して得られた等価な表現で言換えた述語が、第１文と第２文とにそれぞれ出現するような言語知識が言語知識ＤＢ１９４内にあるか、又はそうした表現のパターンがパターン辞書１９８にあるか否かを判定し、あればその言語知識又はパターンを出力する言語知識検索部４５８と、言語知識検索部４５８が出力する言語知識又はパターンを一時記憶する合致言語知識記憶部４６０と、合致言語知識記憶部４６０に記憶された言語知識又はパターンを用い、対象述語検索部４５６が出力した述語ペアの各述語を含む表現を用いて、それら表現に含まれる省略箇所の指し先を推定し、省略箇所と指し先とを組にしてアノテーション候補として候補ＤＢ３８６に記憶させる候補追加部４６２とを含む。

候補追加部４６２による省略箇所の指し先の推定は以下のようにして行われる。図１４を参照して、テキスト４８２中に出現するある述語対（文字列４９４の「導入する」、文字列５００の「設置する」）に対して、言語知識検索部４５８が言語知識４８０を検索したものとする。テキスト４８２は、図２に示す例文６０と同文である。言語知識４８０は、「ＸがＹを導入する」という第１文と、「ＸがＹを設置する」という第２文とからなる。テキスト４８２内で、第１文の変数Ｘに相当する表現は「Ｎ社は」という文字列４９０である。第１文の「Ｙ」に相当する表現は、テキスト４８２内の「新型交換機を」という文字列４９２である。そして、言語知識４８０の第１文の「導入する」という表現は、テキスト４８２内の「導入する」という文字列４９４と一致している。この関係から、変数Ｘが指す候補は文字列４９０中の「Ｎ社」という単語であり、変数Ｙが指す候補は文字列４９２中の「新型交換機」という単語であることが分かる。

一方、言語知識４８０の第２文の「設置する」という表現と合致する表現としてテキスト４８２に出現するのは、「２００システムを設置する」の中の「設置する」という文字列５００である。この表現の先頭には省略箇所４９６を示すタグが付されている。この文（「（〈主語〉は）２００システムを設置する」）という文と言語知識４８０の第２文とを比較することにより、Ｙは「システム」に相当し、Ｘは省略されていることがわかる。言語知識４８０の第１文から得られた知識を用いると、テキスト４８２の省略箇所４９６は、言語知識４８０のＸを指し、したがって「Ｎ社は」という文字列４９０が「設置する」の主語であることが分かる。さらに、テキスト４８２の第２文の「システム」が言語知識４８０の変数Ｙに相当し、したがってテキスト４８２の「新型交換機は」という文字列４９２がテキスト４８２の「システム」という文字列４９８に対応するものであることが分かる。このようにして、省略箇所４９６の指し先の候補が言語知識４８０とテキストとを比較することにより求められる。

言語知識を用いた別の例について、図１５を参照して説明する。この例では、２つ以上の規則を順次結合することにより、３つ以上の文についての連続した因果関係が得られ、その関係を用いることで、テキスト中に出現する３つ以上の述語に関連して検出される２か所以上の省略箇所の指し先候補を特定する処理を表す。

図１５に示すように、第１の言語知識５２０として「砂漠化が進む→黄砂が増える」、第２の言語知識５２２として「黄砂が増える→喘息が悪化する」という知識があるものとする。第１の言語知識５２０の第２文と、第２の言語知識５２２の第１文とは一致する。したがって、これら２つの知識を連鎖させることにより、「砂漠化が進む→黄砂が増える→喘息が悪化する」という第３の知識５２４が得られる。この第３の知識５２４とたとえば図１５に示すテキスト５２６とを、特に述語その出現順序に注目して比較する。ここで、テキスト５２６については省略箇所の推定がされており、省略箇所５４２、省略箇所５４８等を示すタグが付加されているものとする。なお、テキスト５２６において、「（φ１）」は第１の省略箇所を、「（φ２）」は第２の省略箇所を、それぞれ表し、以下同様である。すると、テキスト５２６に「砂漠化が進んでいて」という表現５４０、「（φ１が）増えている」という表現５４４、及び「（φ２が）悪化して」という表現５４６が、第３の知識５２４の３つの述語部分と同じ順序で出現している。これらの表現の述語部分は、第３の知識５２４の述語と同じか、その活用形である。そこで、第３の知識５２４とテキスト５２６のうちで上記述語の出現している箇所とを比較することにより、φ１は黄砂を指し、φ２は喘息を指すことが分かる。

このような比較により、２つ以上の知識を連結して得た知識を活用することで、省略箇所の指し先を効率よく探索できる。なお、知識をどの程度まで連結するかは、設計事項に関する。知識が長くなると１つの知識で探索可能な省略箇所の指し先数の最大値は大きくなるが、規則が適用可能なテキストは少なくなる。本実施の形態では、２つの知識までの連結することを想定している。ただし、本発明はそのような実施の形態には限定されない。もっと多くの知識を連結して省略箇所の指し先の探索に用いてもよい。又は、文の種類により連結数の最大値を変化させたり、ユーザに知識の連結数の最大値を指定させたりしてもよい。

図１６を参照して、知識の述語の言換えを適用することにより、一つの知識でより多くの指し先の探索を行う例について説明する。知識として「Ｘが生まれる→Ｘを販売する」という事態生起順序関係言語知識５７０があるものとする。一方、「販売する」を「売る」と言換えられるという言換え規則５７４が言換え・カテゴリ辞書１９６に記憶されているものとする。処理対象のテキストとして、「ウィスキー『Ｗ』が北海道で生まれＡ社が（φヲ）販売した」というテキスト５７２を考える。処理対象のテキストは、（φヲ）で表される省略箇所５８２を含む。テキスト５７２の前半部分と事態生起順序関係言語知識５７０の第１文とを比較すると、変数Ｘがテキスト５７２中の「ウィスキー『Ｗ』」という単語５８０を指すことが分かる。一方、テキスト５７２の述語「販売する」の目的語がＸとなっている。この結果と、テキスト５７２の後半部の述語が「販売した」という表現５８４であることから、テキスト５７２中の「φヲ」で示される省略箇所５８２が「ウィスキー『Ｗ』」という単語５８０に相当することが分かる。そこで、まずこのようなアノテーション済のテキスト５７２が得られる。さらに、こうして得られたテキスト５７２に対し、言換え規則５７４を適用した言換え５７６により「販売した」を「売った」という表現５８６に置換し、アノテーションはそのまま残すことで、アノテーション済の新たなアノテーション済テキスト５７８が得られる。

図１７を参照して、さらに、経験的に得られた文のパターンを用いて省略箇所又は照応詞の指し元及び／又は指し先を特定する処理について説明する。例えば、「Ｘは〜して、〜する」のようなパターンが出現する場合、「〈述語〉して」の主語と「〈述語〉する」の主語とがいずれもＸであるような例が多いことが経験的に知られている。そうした知識を文法的なパターンとしてパターン辞書１９８に記憶しておく。パターン中には、省略箇所に相当する部分を特定する情報と、その指し先を示す情報とを挿入しておいてもよい。そして、処理対象のテキスト中にパターン辞書１９８に記憶されたパターンに合致するような表現が出現した場合、その表現をパターンと比較することで、入力箇所内の省略箇所（指し元）と、その省略箇所の指し先との候補を特定できる。

例えば、図１７に示すように、パターン６１２がパターン辞書１９８に記憶されているものとする。このパターン６１２は、「Ｘは」という表現６５０、「…して」という表現６５２、及び「…する」という表現６５４がこの順序で出現した場合、表現６５４の先頭に表現６５４の主語が省略された箇所を示すタグ６５６が付されること、そのタグ６５６の指先がＸであることが記述されているものとする。

入力としてテキスト６１０が与えられたものとする。テキスト６１０には、「台風２０号は」という表現６３０、「…を北上し」という表現６３２、及び「接近する」という表現６３４がこの順番で出現する。このテキスト６１０をパターン６１２と照合６１４することにより、Ｘが台風２０号に相当すること、「接近する」の主語が省略されており、その指し先は台風２０号であることが判明する。そこで、「接近する」の直前の省略箇所を示すタグ６３６と、その指し先としての「台風２０号」とを対にしてアノテーション候補６１６とする。このように、人の経験から導き出されたパターンを照応・省略解析に適応することで、人が持つ知識を生かした照応・省略解析を実現できる。

図１８を参照して、項共有知識を用いた候補検索は例えば以下のようにして行われる。項共有知識６６０として「Ｘは…北上する」という表現６６２と「Ｘは…接近する」という表現とを対にした項共有知識６６０があったものとする。入力テキストとして、図１８に示すアノテーション候補６１６が与えられた場合を考える。この例では、タグ６３６により示される省略の指し先として誤って別の単語が挙げられているか、そもそも指し先候補が見つかっていない場合があり得る。その場合、項共有知識６６０を用いて正しい指し先を示すアノテーション候補６６８が以下のようにして得られる。

すなわち、アノテーション候補６１６に出現する述語対である表現「北上（する）」と「接近する」について、項共有知識を検索し照合６６６することにより、該当する項共有知識６６０を見出すことができる。項共有知識６６０によれば「北上する」と「接近する」とは主格を共有することが多い。そこで、アノテーション候補６１６において主格が省略されているタグ６３６が、述語である表現６３２と同じ主語（台風２０号）を指している可能性が高く、タグ６３６と、その指し先としての「台風２０号」とを対にしてアノテーション候補６６８とする。このように、人の経験により導き出された項共有知識を用いて、省略箇所とその指し先とを対にしてアノテーション候補を生成できる。他の解析時に得られた手がかりに加え、項共有知識を用いた項共有の可能性も手がかりとすることで、正しい解析結果が得られる可能性が高くなるという効果がある。なお、項共有知識を用いて項を共有する述語対を探索する代わりに、前述した項共有判別器を用いるようにしてもよい。

〈第３の候補生成部３９２〉
図１９を参照して、第３の候補生成部３９２は、既存小規模学習データＤＢ１９０の中からアノテーション済の照応関係及び省略関係を検索し、両者を区別して出力する照応・省略関係検索部６８０と、照応・省略関係検索部６８０の出力する照応関係を構成する名詞句対の各々について、その名詞句の内の指し元（テキスト内で後方に位置するもの）を自動的に省略した新たな文を生成して新たなテキストを生成する指し元省略文生成部６８２と、指し元省略文生成部６８２の生成した文のうち、省略された箇所と、省略された箇所とともに照応関係がアノテーションされていた名詞句との間に新たな省略関係のアノテーション候補を付すアノテーション追加部６８４と、照応・省略関係検索部６８０が出力する省略関係を含むテキスト部分のうち、省略箇所について、アノテーションに基づいて省略箇所に、その指し先の要素を代名詞として復元することで新たな文を生成する省略要素復元部６８８と、省略要素復元部６８８により生成された新たな文に、省略要素復元部６８８により復元された代名詞の指し元とその指し先とからなるアノテーション候補を追加するアノテーション追加部６９０と、アノテーション追加部６８４及びアノテーション追加部６９０により生成された新たな文をそのアノテーション候補とともに候補ＤＢ３８６に追加する候補追加部６８６とを含む。

第３の候補生成部３９２により指し元を省略した場合、省略は機械によりある基準にしたがって自動的に行われる。そのため、省略語の表現について、その省略部分の指し先が何かを人が判断できない場合も生ずる。そうした場合には、そのアノテーションを負例として学習データに追加する。

なお、候補追加部６８６は、照応・省略関係検索部６８０及び省略要素復元部６８８の出力するテキストが解析後テキストＤＢ３８４に存在しない場合には、これらテキストを解析後テキストＤＢ３８４に追加し、アノテーション候補を解析後テキストＤＢ３８４に追加されたテキストと関連付けて候補ＤＢ３８６に追加する。

〈第４の候補生成部３９４〉
図２０を参照して、第４の候補生成部３９４は、解析後テキストＤＢ３８４に記憶された解析後テキストに対して、既存照応・省略解析器２０８を適用することにより、照応・省略解析の実行結果を得て、解析後テキストにアノテーションとして追加する照応・省略解析実行部７１０と、照応・省略解析実行部７１０の出力する照応・省略解析結果のアノテーションが付されたテキストを記憶する解析結果記憶部７１２と、解析結果記憶部７１２に記憶された解析結果に含まれるアノテーションを、解析後テキストＤＢ３８４で解析対象となったテキストに対するアノテーション候補として候補ＤＢ３８６に追加する候補追加部７１４とを含む。

〈対話型アノテーション装置３９６〉
図１１に示す対話型アノテーション装置３９６は、図２１に示すような状態遷移を行うプログラムにより実現される。図２１を参照して、このプログラムは、プログラム実行開始時及び文書クローズ時等に初期処理を実行し、初期画面を表示した状態（初期状態）７４０から開始する。この状態では、テキストアーカイブから処理対象の文書を選択する処理と、プログラムの実行を終了する処理とのいずれかを選択できる。文書の選択が選ばれるとプログラムの状態は文書選択状態７４２に遷移する。文書選択状態７４２では、文書ファイルの選択ダイアログが表示される。ここでは文書ファイルの選択と、処理のキャンセルとを選ぶことができる。処理のキャンセルが選ばれると状態は初期状態７４０に戻る。文書選択状態７４２で文書が選択されるとプログラムは文書の内容を表示する状態（文書表示状態）７４４に遷移する。文書表示状態７４４では、文書の表示をキャンセルし、更新を反映せずに再度文書選択状態７４２に戻る処理と、更新を反映して文書をクローズする処理と、照応・省略解析の学習データを作成するために、アノテーション候補の選択を指示する処理とのいずれかを選択できる。アノテーション候補の選択が指示されると、文書の、現在処理中の位置から文書の末尾方向に向かって、アノテーション候補を検索する状態（候補検索状態）７４６を経由した後、アノテーション候補を表示してユーザによるアノテーション候補の選択を待つ状態（候補選択待機状態）７４８に遷移する。

候補検索状態７４６では、アノテーション候補が付された次の位置を検索し、検索された位置に付されているアノテーション候補が１つだけであれば図３の下段に示したような、アノテーション候補を承認するか否かを指定するドロップダウンリストを生成し、ドロップダウンリスト表示のためのアイコン「▼」を対象箇所に表示する。アノテーション候補が複数個ある場合には、それらを全て表示するドロップダウンリストを生成し、ドロップダウンリスト表示のためのアイコンを対象箇所に表示する。なお、ドロップダウンリストの表示時に、ユーザがリストのいずれかにポインタを合わせると、その候補と、その候補に対応する文書上の表現とが同じ色でハイライトされる。こうした処理により、指し元と指し先との対応についてユーザが容易に理解できる。この状態では、アノテーション選択処理を中断して文書表示状態７４４に状態を遷移させる処理と、それまでに行われたアノテーションの選択を文書に反映させて文書を保存し、文書ファイルをクローズする処理とのいずれかが選択できる。

ドロップダウンリストの操作により候補のいずれかが選択がされると、プログラムはアノテート付加状態７５０に遷移する。アノテート付加状態７５０では、選択にしたがって文書内の指定箇所に選択されたアノテートを付し、他の候補には選択されなかったことを示す情報を付すよう、メモリ上の文書を更新する。プログラムは再び候補検索状態７４６に移動し、次の候補が見つかると候補選択待機状態７４８に遷移する。

候補選択待機状態７４８で文書を表示させたままアノテーション処理を中断することを選択すると、プログラムは文書表示状態７４４に遷移する。文書に対して行ったアノテーション処理を反映させて現在の文書を保存することを選択した場合、プログラムは、文書クローズ状態７５２に遷移する。文書クローズ状態７５２では、プログラムは、メモリにロードされている更新済の文書データを文書ファイルとして上書き保存し、開いている文書ファイルをクローズする処理と、文書を保存せず、文書選択状態７４２に遷移する処理とのいずれかを選択できる。文書を保存しないことが選択されると、状態は文書選択状態７４２に直接遷移する。文書を保存することが選択されると、メモリ上のファイルを文書ファイルとして記憶媒体に上書き保存する状態（上書保存状態）７５４に遷移し、保存が完了すると文書選択状態７４２に遷移する。

このプログラムを実行することにより、省略箇所、照応詞を装置側で自動的に検索し、いずれかが検索されるたびに、その箇所に付されたアノテーション候補が表示される。アノテーション候補が１つであればユーザはそのアノテーション候補を承認するか否かを入力すればよい。場合によってはアノテーション候補を手入力してもよい。いずれにせよ、削除位置又は照応詞をユーザが目視で探し、その指し先をさらに目視で探す場合と比較して、はるかに容易にアノテーションを行える。

＜検出器学習装置２２２＞
再び図４を参照して、検出器学習装置２２２は、前述したとおり、学習データＤＢ１６２に記憶された学習データから、選択制限ＤＢ２２４、質問タイプＤＢ２２０及び質問応答システム２２６を用いて省略検出器１６６、照応詞検出器１６８、及び先行詞特定器１７０の学習をそれぞれ別々に行う。先行詞特定器１７０についてはさらに、省略箇所の先行詞用の特定器と、照応詞の先行詞用の特定器との学習を独立に行う。

図２２を参照して、検出器学習装置２２２は、このために、省略検出器学習部７７０、照応詞検出器学習部７７２、及び先行詞特定器学習部７７４を含む。

〈省略検出器学習部７７０〉
本実施の形態では、省略検出器１６６は、主語省略検出器８００、目的語省略検出器８０２，及び間接目的語省略検出器８０４を含む。省略検出器学習部７７０は、これら３つの検出器の学習を個別に行うため、学習データＤＢ１６２に記憶された学習データの省略箇所の各々が、述語の主語（ガ格）、直接目的語（ヲ格）、又は間接目的語（二格）であるときに、それらを分類して、主語省略検出器８００、目的語省略検出器８０２、及び間接目的語省略検出器８０４の学習をそれぞれ行うための素性ベクトル群７８２、７８４及び７８６を生成するための格別素性ベクトル生成部７８０と、これら素性ベクトル群７８２，７８４及び７８６を用いてそれぞれ主語省略検出器８００、目的語省略検出器８０２、及び間接目的語省略検出器８０４を構成するＳＶＭの学習を行うためのＳＶＭ学習処理部７８８とを含む。

ここでは、述語とは、動詞、形容詞、及び「名詞＋『だ』」の形式の文字列である。素性ベクトルに含む学習のラベルとしては、述語が省略を持つ場合に１，それ以外なら０を用いる。

格別素性ベクトル生成部７８０が生成する素性ベクトルは、以下のような要素を含む。

・省略検出対象の述語に関して、検出対象の文法役割（例えば、主語）が係り受け関係にあるなら１，それ以外なら０
・主題となる表現（「は」でマークされた名詞句）が述語と同一文内に出現しているなら１，それ以外なら０
・省略検出対象の述語が対象テキストの１文目に出現しているなら１，それ以外なら０
・省略検出対象の述語が文の最初の後であるなら１，それ以外なら０
・省略検出対象の述語と係り受け関係にある語の見出し語、品詞

〈照応詞検出器学習部７７２〉
照応詞検出器学習部７７２は、学習データＤＢ１６２に記憶された学習データから、照応詞検出器１６８のＳＶＭの学習を行うために、照応関係の指し元（照応詞）としてアノテーションが付された単語を選択する照応詞候補選択部８３０と、照応詞候補選択部８３０により選択された照応詞の各々について、後述するような素性ベクトルを生成するための素性ベクトル生成部８３２と、素性ベクトル生成部８３２により生成された素性ベクトル群を用い、照応詞検出器１６８を構成するＳＶＭの学習を行うためのＳＶＭ学習処理部８３４とを含む。

素性ベクトル生成部８３２が生成する素性ベクトルにおいて、学習のラベルは、分類対象の名詞句が、テキストの前方に照応関係となる指し先を持つなら１，それ以外なら０である。照応詞検出学習のための素性ベクトルの要素は以下を含む。

・照応詞候補の品詞、見出し語文字列、及びその候補に後続する格助詞
・照応詞候補の係り先の品詞、見出し語、その係り先に後続する格助詞
・テキスト中で照応詞候補より前の位置に出現する名詞句が文字列として照応詞候補と完全一致する場合に１，それ以外は０
・テキスト中で照応詞候補と部分一致する場合に１，それ以外は０

〈先行詞特定器学習部７７４〉
先行詞特定器１７０は、照応詞用先行詞特定器９００と、省略用先行詞特定器９０２とを含む。そのため、先行詞特定器学習部７７４はこの２つの特定器９００及び９０２の学習を別個に行う構成を有する。

具体的には、先行詞特定器学習部７７４は、照応詞用先行詞特定器９００の学習を行う照応詞用先行詞特定器学習部８４０と、省略用先行詞特定器９０２の学習を行う省略用先行詞特定器学習部８４２とを含む。

照応詞用先行詞特定器学習部８４０は、学習データＤＢ１６２に記憶された学習データから照応関係の指し元（照応詞）としてアノテーションが付された表現を選択する照応詞選択部８５０と、照応詞選択部８５０が選択した照応詞に対し、実際に先行詞としてアノテーションされたものとそれ以外の先行詞の可能性がある表現とからなる先行詞候補を選択する先行詞候補選択部８５２と、照応詞選択部８５０が選択した照応詞と、先行詞候補選択部８５２が選択した照応詞候補との組み合わせの各々について照応詞用先行詞特定器９００の学習を行うための素性ベクトルを生成する素性ベクトル生成部８５４と、素性ベクトル生成部８５４が生成した素性ベクトルを用いて照応詞用先行詞特定器９００を構成するＳＶＭの学習を行うためのＳＶＭ学習処理部８５６とを含む。

一方、省略用先行詞特定器学習部８４２は、学習データＤＢ１６２内の学習データのうち、省略関係としてアノテーションされた表現（省略）を選択する省略選択部８７０と、省略選択部８７０が選択した省略に対する先行詞としてアノテーションされた表現を含め、先行詞となる可能性のある候補を学習データ中で選択する先行詞候補選択部８７２と、省略選択部８７０が選択した省略部と、先行詞候補選択部８７２が選択した先行詞候補との組み合わせの各々について、素性ベクトルを生成するための素性ベクトル生成部８７４と、素性ベクトル生成部８７４により生成された素性ベクトルを用いて、省略用先行詞特定器９０２を構成するＳＶＭの学習を行うＳＶＭ学習処理部８７６とを含む。なお、素性ベクトル生成部８７４は後述するように選択制限ＤＢ２２４、質問タイプＤＢ２２０、質問応答システム２２６、及び言語知識ＤＢ２２８に接続されており、素性ベクトルの生成時にこれらから得られる情報を用いる。

素性ベクトル生成部８５４及び素性ベクトル生成部８７４が生成する素性ベクトルにおいて、学習のラベルは、分類対象の省略・先行詞候補又は照応詞・先行詞候補の対が照応・省略関係となるなら１，それ以外は０である。

素性ベクトルの要素は以下のとおりである。

・先行詞候補の品詞、見出し語文字列、その候補に後続する格助詞
・先行詞候補がテキストの１文目に出現するなら１，それ以外なら０
・先行詞候補が文内で最初に言及された先行詞候補なら１，それ以外なら０
・先行詞候補と照応詞が完全に同じ文字列なら１，それ以外なら０
・先行詞候補と照応詞が部分的に同じ文字列なら１，それ以外なら０
・選択制限ＤＢ２２４を用い、省略を持つ述語と先行詞となる名詞句の間で選択制限が満たされる場合には１，それ以外なら０
・省略を含む文、その省略の箇所について、質問タイプＤＢ２２０を用いてその箇所が回答となるような質問文を生成し質問応答システム２２６に与えて得られた回答のいずれかが先行詞候補と一致すれば１，それ以外なら０
・省略を持つ述語、先行詞の係り先の述語が検出器学習装置２２２に登録されている因果関係知識に含まれる述語対と合致するなら１，それ以外なら０

〈照応・省略解析装置１７２〉
図４を参照して、照応・省略解析装置１７２は、省略検出器１６６、照応詞検出器１６８及び先行詞特定器１７０に接続され、これらを用いて入力２５０に対する照応・省略解析をし、自動的にアノテーションを入力２５０に追加して出力するための照応・省略解析器２５２と、照応・省略解析器２５２が照応・省略解析をする際の素性ベクトル生成に使用する言語知識ＤＢ２５６、質問タイプＤＢ２５８、質問応答システム２６０、及び選択制限ＤＢ２６２とを含む。言語知識ＤＢ２５６は、照応・省略解析システム１５０で使用される言語知識ＤＢ１９４、学習システム１６４で使用される言語知識ＤＢ２２８と同様の言語知識を記憶したデータベースである。質問タイプＤＢ２５８は、アノテーションデータ生成補助システム１６０で使用される質問タイプＤＢ２００及び学習システム１６４で使用される質問タイプＤＢ２２０と同様の構成を持ち、その記憶内容も同様である。質問応答システム２６０は、アノテーションデータ生成補助システム１６０で使用される質問応答システム２０６及び学習システム１６４で使用される質問応答システム２２６と同様の機能を持つシステムである。選択制限ＤＢ２６２は、学習システム１６４における素性ベクトルの生成時に使用される選択制限ＤＢ２２４と同様のものである。なお、ここで同様の構成を持つと記載したＤＢは、互いに同一のものでもよいし、互いに異なるものでもよい。

［動作］
以上に構成を述べた照応・省略解析システム１５０は以下のように動作する。項共有判別器２８３の学習、項共有知識の収集、学習データの作成、検出器の学習、及び入力に対する自動アノテーションの５つのフェーズに分けて説明する。

＜項共有判別器２８３の学習＞
図６を参照して、予めアノテート済テキスト記憶部２８１にアノテート済のテキストが格納される。このテキストは、多くの場合人手で準備する。その量はそれほど多くなくてもよい。学習データ生成部２８４により、項を共有する述語対からなる正例と、項を共有しない負例とが、述語に対する格ごとの学習データとして生成され、学習データ記憶部２８５に格ごとに格納される。図７を参照して、具体的には、アノテート済テキスト記憶部２８１に記憶された全テキストについて（ステップ２９１）、以下の処理２９２が実行される。処理２９２では、処理中の文書に含まれる全述語対について、以下の処理２９４が実行される。

処理２９４では、処理対象の述語対について、構成の欄で説明した特徴量の抽出が行われる。抽出された特徴量を用い、格ごとに以下の処理２９６が行われる。まず、アノテーションにしたがい、ステップ２９７で処理対象の述語対が対象の格の項を共有するか否かが判定される。項を共有する場合には、特徴量からなる学習データがステップ２９８で正例としてマークされ、ステップ３００で対象の格用のファイルに出力される。ステップ２９７で述語対が項を共有しないと判定された場合には、学習データがステップ２９９で負例としてマークされ、ステップ３００で対象の格用のファイルに出力される。

上記した処理が、アノテート済テキスト記憶部２８１中の全てのテキストの全ての述語対について実行され、学習データ記憶部２８５に学習データが記憶される。

学習処理部２８６が、格ごとに準備された項共有判別器２８３の学習を行う。その結果、述語対について所与の特徴ベクトルが与えられると、その述語対がある格の項を共有するか否かを判別する項共有判別器２８３が得られる。

図６の構成によって、項共有判別器２８３が得られれば、図８に示すように項共有知識収集装置３０１が未アノテートテキストアーカイブ３０２から項共有知識を収集して項共有知識記憶部３１０に蓄積できる。すなわち、項共有知識収集装置３０１の述語対抽出部３０３は、未アノテートテキストアーカイブ３０２から述語対を抽出し特徴量抽出部３０４に与える。特徴量抽出部３０４は、学習データ生成部２８４により抽出されたものと同様の特徴量を各述語対について算出し振り分け部３０５に与える。振り分け部３０５は、各述語対について処理すべき格ごとに、その格に応じた項共有判別器３０６、３０７及び３０８に特徴量からなる特徴ベクトルを与える。項共有判別器３０６、３０７及び３０８はそれぞれ、特徴ベクトルが与えられると、各共有判別器が担当している格についてその述語対が項を共有しているか否かについての判定をスコアとともに出力し、項共有知識記憶部３１０に蓄積する。

このようにして項共有知識記憶部３１０に蓄積された項共有知識について、作業者が対話型処理３１２及び検証処理部３０９を用いて検証し、不適切なもの、又はスコアが低いものを削除することで項共有知識が得られる。

〈学習データの作成〉
学習データの作成はアノテーションデータ生成補助システム１６０により行われる。この処理に先立ち、既存小規模学習データＤＢ１９０、テキストアーカイブ１９２、言語知識ＤＢ１９４、言換え・カテゴリ辞書１９６、パターン辞書１９８、既存照応・省略解析器２０８、及び質問タイプＤＢ２００を準備しておく必要がある。また、質問応答システム２０６については、予めアノテーションデータ生成補助システム１６０内に準備し学習データ生成補助装置２０４からアクセス可能にしておくか、外部の質問応答システムに対して質問文を送れるよう準備しておく必要がある。

図１１を参照して、利用者は学習データ生成補助装置２０４を起動し、テキストアーカイブ１９２を指定して学習データの生成の開始を指示する。形態素解析システム３８０は、テキストアーカイブ１９２に記憶された各テキストを読出し、形態素解析をして種々の文法的情報が付された形態素列を係り受け関係解析システム３８２に与える。係り受け関係解析システム３８２は、与えられた形態素列からなる各文について文法的構造解析及び係り受け解析を行い、構造情報と係り受け情報とが付された形態素列を解析後テキストＤＢ３８４に出力する。こうして、テキストアーカイブ１９２に記憶された各テキストが解析され、解析後テキストが解析後テキストＤＢ３８４に蓄積される。

図１２を参照して、第１の候補生成部３８８の述語検索部４２０は、解析後テキストＤＢ３８４に記憶された解析後テキストの各々を読出し、述語を検索して述語リスト記憶部４２２に書き出す。省略候補検出部４２４は、述語リスト記憶部４２２に蓄積された述語リスト内の各述語について、その述語を含む係り受け関係において、その述語の主語、目的語、間接目的語等のいずれかが存在している否かを判定し、存在していないときにはその部分を省略候補として検出し質問文自動生成部４２６に与える。質問文自動生成部４２６は、省略候補の部分が回答となるような質問文から質問文を生成する。この際、質問文自動生成部４２６は、処理対象となっている述語と、省略候補の文法役割（主語、目的語、等）とをキーとして質問タイプＤＢ２００をアクセスし、質問タイプを読み出す。質問文自動生成部４２６はさらに、読み出した質問タイプの表現を用いて、省略箇所を含む文を変形して図１０に示す質問文３３６のような質問文を生成する。質問文自動生成部４２６はこの質問文を質問応答システム２０６と回答受信部４２８に与える。回答受信部４２８は、質問文自動生成部４２６から質問文を受けると、質問文に対する回答が質問応答システム２０６から与えられるまで待機する。

質問応答システム２０６は、本実施の形態では、与えられた質問文に対し、いくつかのカテゴリ別に、各カテゴリについて複数の回答候補を生成し、回答受信部４２８に与える。回答受信部４２８は、質問応答システム２０６から回答を受信すると、その回答が質問文自動生成部４２６から送信されたどの質問文に対するものかを確認し、出現位置確認部４３０に処理対象となっている述語を特定する情報と回答とを与える。

出現位置確認部４３０は、回答受信部４２８からの情報に基づき、処理対象の解析後テキストのうち、処理の対象となっている述語より前に出現している省略の指し先候補の位置を確認し、それらを省略箇所の補完候補として、処理対象となっている述語と、候補の各々とを組みにして候補追加部４３２に出力する。候補追加部４３２は、出現位置確認部４３０から与えられた候補を候補ＤＢ３８６に追加する。

図１３を参照して、第２の候補生成部３９０は以下のように動作する。述語検索部４５０は、解析後テキストＤＢ３８４に格納された解析後テキストの内の各述語を検索し、述語リスト記憶部４５２に蓄積する。省略候補検出部４５４は、図１１に示す省略候補検出部４２４と同様、述語リスト記憶部４５２に蓄積された述語リスト内の各述語について、その述語を含む係り受け関係において、その述語の主語、目的語、間接目的語等のいずれかが存在している否かを判定し、存在していないときにはその部分を省略候補として検出する。省略候補検出部４５４は、検出された省略候補の位置を示す情報を対象述語検索部４５６に与える。対象述語検索部４５６は、省略候補検出部４５４により検出された省略候補のうち、テキスト内でその省略の候補を持つ述語よりも前に出現している他の述語を検索し、検索された各述語とその省略の候補を持つ述語とをペアにして言語知識検索部４５８に与える。

言語知識検索部４５８は、対象述語検索部４５６が出力する各述語ペアについて、それらペアを構成する述語又はそれを言換えた述語が言語知識ＤＢ１９４内の言語知識のいずれかにおいて、第１文と第２文とに出現するような言語知識があるか否かを判定し、あればその言語知識を出力する。言語知識検索部４５８はまた、対象述語検索部４５６から与えられる述語ペアを含む表現であって、かつパターン辞書１９８に記憶されたパターンに合致するものがあればそれも出力する。言語知識検索部４５８はこれら言語知識及びパターンをテキストに適用する際に、言換え・カテゴリ辞書１９６に記憶された言換え規則及びカテゴリを用い、規則中の表現を他の表現に言換えたり、規則中の単語を別の単語に入れ替えたりすることにより、言語知識の適用対象を広げる。言語知識検索部４５８により検索された言語知識は、その言語知識の検索の際に用いられた述語ペアとともに合致言語知識記憶部４６０に蓄積される。最後に、候補追加部４６２が、図１４〜図１８を参照して説明したように、合致言語知識記憶部４６０に記憶された述語ペアと、合致した言語知識又はパターンとを照合することにより、省略候補の指し先候補を特定し、省略候補と、各指し先候補とのペアをアノテーション候補として候補ＤＢ３８６に追加する。この場合、後述するように、項共有知識を用いることで、述語ペアのうち、省略候補を持つ述語と項を共有する述語があれば、省略候補と、その述語の持つ項の内容とのペアをアノテーション候補として候補ＤＢ３８６に追加する。このようにすることで、アノテーション候補の生成に項共有知識を活かすことができる。

図１９を参照して、第３の候補生成部３９２の照応・省略関係検索部６８０は、既存小規模学習データＤＢ１９０の中でアノテーション済の照応関係及び省略関係を検索し、照応関係を含む文を指し元省略文生成部６８２に、省略関係を含む文を省略要素復元部６８８に、それぞれ出力する。

指し元省略文生成部６８２は、照応関係を含むテキストから、照応関係を構成する名詞句対を探し、その各々について、その名詞句の内、テキスト内で後方に位置する指し元を自動的に省略した新たなテキストを生成してアノテーション追加部６８４に与える。アノテーション追加部６８４は、このようにして指し元省略文生成部６８２の生成した文のうち、省略された箇所と、省略された箇所とともに照応関係がアノテーションされていた名詞句との間に新たな省略関係のアノテーション候補を付して候補追加部６８６に出力する。

候補追加部６８６は、照応・省略関係検索部６８０が出力する省略関係を含むテキストのうち、省略箇所について、アノテーションに基づいて、その指し先の要素を代名詞として復元することで新たなテキストを生成しアノテーション追加部６９０に与える。アノテーション追加部６９０は、省略要素復元部６８８により生成された新たなテキストに、省略要素復元部６８８により復元された代名詞からなる指し元と、もともとのアノテーションにより指し先とされていた部分とからなる新たな照応関係のアノテーション候補を追加し候補追加部６８６に出力する。

候補追加部６８６は、アノテーション追加部６８４及びアノテーション追加部６９０から出力されたテキストをそれらに付加されたアノテーション候補とともに候補ＤＢ３８６に追加する。

図２０を参照して、第４の候補生成部３９４の照応・省略解析実行部７１０は、解析後テキストＤＢ３８４からテキストを読出し、既存照応・省略解析器２０８による照応・省略解析を実行する。既存照応・省略解析器２０８は、その性能には限界があるものの、入力されたテキストに対して照応・省略解析を実行し、アノテーションされたテキストを照応・省略解析実行部７１０に返す。照応・省略解析実行部７１０は、そのアノテーションされた解析結果を解析結果記憶部７１２に蓄積する。候補追加部７１４は、解析結果記憶部７１２に記憶された解析結果に含まれるアノテーションをアノテーション候補として候補ＤＢ３８６に追加する。

以上の処理をテキストアーカイブ１９２（図４及び図１１参照）に記憶された全てのテキストに対して実行することにより、最終的に候補ＤＢ３８６にはアノテーション候補が付されたテキストが蓄積される。候補ＤＢ３８６に蓄積されたテキストは、省略候補及び照応詞候補を含み、各省略候補及び照応詞候補には、それらの指し先を示すアノテーション候補が１又は複数個付加されている。

対話型アノテーション装置３９６は、候補ＤＢ３８６に蓄積された候補の各々について、入出力装置２０２を用いたユーザとの対話型処理により、省略候補及び照応詞候補の各々について、以下のように動作する。

図３の下段を参照して、対話型アノテーション装置３９６は、アノテーション候補を含むテキスト９２を画面に表示する。その際、対話型アノテーション装置３９６は、省略候補及び照応詞候補の各々について、以下のようにしてアノテーション候補を選択するドロップダウンメニューを作成する。すなわち、省略候補の指し先が１箇所しか存在しない場合には、図３において文字列１３０で示される省略候補の位置に、その指し先候補である単語１１０と同じ単語を表示し、さらにその右側にドロップダウンメニューがあることを示すアイコン「▼」を表示する。ドロップダウンメニューには、表示されている候補を受け入れるか否かを示すオプション（ＹＥＳ・ＮＯ）と、直接入力とを示すオプションとが表示される。ユーザがＹＥＳを選択すると、選択されたアノテーションがアノテーションとして確定される。ＮＯが選択された場合、アノテーションは未確定で残される。直接入力が選択されると、文字列１３０で示される省略候補の指し先を直接指定するためのダイアログが表示される。ユーザが指し先を入力することにより、ユーザの指定にしたがった新たなアノテーションが生成され、確定アノテーションとなる。この場合、最初に表示されていながらユーザにより選択されなかったアノテーションは、学習時の素性ベクトル作成の際の負例を生成するために使用される。したがって、負例であることを示すフラグがこのアノテーション候補に付される。

アノテーション候補が複数個ある場合には、それら複数個のアノテーション候補をオプションとして含むドロップダウンリストが生成される。該当箇所には、アノテーション候補のうち先頭のもの、又は何らかの形でアノテーション候補にスコア付けした際の最高スコアのアノテーション候補が表示される。その右側には、ドロップダウンリストがあることを示すアイコン「▼」が表示される。この場合にも、ドロップダウンリストには、直接入力することを選択するオプション項目が表示される。ユーザがいずれかのオプションを選択すると、選択されたアノテーション候補がアノテーションとして確定する。選択されなかった候補については、学習時の素性ベクトル作成の際に、負例を生成するために使用される。

いずれの場合も、アノテーションが確定した解析後テキストは学習データＤＢ１６２に蓄積される。候補ＤＢ３８６に記憶された全ての解析後テキストについて、上記したアノテーションの選択が完了すると、学習データＤＢ１６２が完成する。

〈検出器の学習〉
図２２を参照して、検出器学習装置２２２は以下のように動作する。省略検出器学習部７７０の格別素性ベクトル生成部７８０は、学習データＤＢ１６２に記憶されたアノテーション確定済の学習データのうち、省略を含む学習データを読出す。格別素性ベクトル生成部７８０は、学習データの省略箇所の各々が、述語の主語（ガ格）、直接目的語（ヲ格）、又は間接目的語（二格）であるときに、それらを分類して、それぞれ素性ベクトル群７８２、７８４及び７８６を生成し図示しない記憶装置に蓄積する。この際、格別素性ベクトル生成部７８０は、確定したアノテーションについては学習ラベルを１、それ以外のアノテーションについては学習ラベルを０とする。ＳＶＭ学習処理部７８８は、これら素性ベクトル群７８２、７８４及び７８６を用いて、主語省略検出器８００、目的語省略検出器８０２、及び間接目的語省略検出器８０４が有するＳＶＭの学習を行う。

照応詞検出器学習部７７２の照応詞候補選択部８３０は、学習データＤＢ１６２に蓄積された学習データのうち、照応詞候補を含むテキストを読み出し、照応関係の指し元（照応詞）としてアノテーションが付された単語を選択する。素性ベクトル生成部８３２は、照応詞候補選択部８３０により選択された照応詞候補の各々について、前述した素性ベクトルを生成する。この際、素性ベクトル生成部８３２は、確定したアノテーションについては学習ラベルを１，それ以外のアノテーションについては学習ラベルを０とする。素性ベクトル生成部８３２が生成した素性ベクトルは図示しない記憶装置に蓄積される。ＳＶＭ学習処理部８３４は、このようにして蓄積された素性ベクトル群を用い、照応詞検出器１６８を構成するＳＶＭの学習を行う。

先行詞特定器学習部７７４において、照応詞用先行詞特定器学習部８４０は以下のように動作する。照応詞用先行詞特定器学習部８４０の照応詞選択部８５０は、学習データＤＢ１６２に記憶された学習データのうち、照応関係の指し元（照応詞）としてアノテーションされている表現を選択し、先行詞候補選択部８５２に与える。先行詞候補選択部８５２は、照応詞選択部８５０が選択した照応詞に対し、実際に先行詞としてアノテーションされたものとそれ以外の先行詞の可能性がある表現（名詞句）との双方を含む先行詞候補を選択する。素性ベクトル生成部８５４は、照応詞選択部８５０が選択した照応詞と、先行詞候補選択部８５２が選択した照応詞候補の各々との組み合わせについて照応詞用先行詞特定器９００の学習を行うための素性ベクトルを生成する。この際、素性ベクトル生成部８５４は、照応関係において照応詞の指し先としてアノテーションされた表現については学習ラベルを１，それ以外の学習ラベルを０とする。ＳＶＭ学習処理部８５６は、素性ベクトル生成部８５４が生成した素性ベクトルを用いて照応詞用先行詞特定器９００を構成するＳＶＭの学習を行う。

一方、省略用先行詞特定器学習部８４２は以下のように動作する。省略用先行詞特定器学習部８４２の省略選択部８７０は、学習データＤＢ１６２内の学習データのうち、省略関係としてアノテーションされた表現（省略）を選択し、先行詞候補選択部８７２に与える。先行詞候補選択部８７２は、省略選択部８７０が選択した省略に対する先行詞としてアノテーションされた表現を含め、省略の先行詞となる可能性のある候補を学習データ中で選択する。素性ベクトル生成部８７４は、省略選択部８７０が選択した省略部と、先行詞候補選択部８７２が選択した先行詞候補の各々との組み合わせについて、素性ベクトルを生成し図示しない記憶装置に蓄積する。このとき、素性ベクトル生成部８７４が生成する素性ベクトルにおいて、学習のラベルは、分類対象の省略・先行詞候補の対が省略関係となるなら１、それ以外は０である。また素性ベクトル生成部８７４は、素性ベクトルの生成にあたって、前述したとおり、選択制限ＤＢ２２４、質問タイプＤＢ２２０、質問応答システム２２６及び言語知識ＤＢ２２８を用いる。ＳＶＭ学習処理部８７６は、素性ベクトル生成部８７４により生成された素性ベクトルを用いて、省略用先行詞特定器９０２を構成するＳＶＭの学習を行う。

以上の処理により、省略検出器１６６に含まれる主語省略検出器８００、目的語省略検出器８０２、及び間接目的語省略検出器８０４、照応詞検出器１６８、並びに先行詞特定器１７０に含まれる照応詞用先行詞特定器９００及び省略用先行詞特定器９０２の学習が完了する。

〈自動アノテーション〉
図４に戻り、照応・省略解析器２５２による入力２５０に対する照応・省略解析とその結果の自動アノテーションは以下のようにして実行される。なお、この解析は省略解析、照応解析、省略及び照応詞に対する先行詞解析に分割される。省略解析では省略検出器１６６が用いられる。照応解析では照応詞検出器１６８が用いられる。先行詞解析では先行詞特定器１７０が用いられる。

最初に、入力２５０に対する形態素解析及び構造・係り受け解析が実行され、構造・係り受け情報が付された形態素列が処理の対象となる。この形態素列に対し、省略解析では、それぞれ図２２に示す主語省略検出器８００、目的語省略検出器８０２、及び間接目的語省略検出器８０４の学習を行ったときと同様の構成の素性ベクトルを生成し、これら検出器に与える。主語省略検出器８００、目的語省略検出器８０２、及び間接目的語省略検出器８０４の出力により、入力２５０のうちでそれぞれ最も高いスコアを示す部分に省略箇所としてのアノテーションが付される。

この後、このようなアノテーションが付された入力に対し、省略又は照応詞（以下単に「省略等」と呼ぶ。）を持つ述語を含む項共有知識を適用し、その述語と項を共有する述語が入力中にあるか否かを判定する。そのような述語が見つかれば、省略等の箇所に、見つかった述語が持つ項の内容を補完するよう、アノテーションする。この場合、項共有知識を直接用いるのではなく、図６に示した項共有判別器２８３等を利用して、省略等を持つ述語と項を共有する述語を入力中で見つけるようにしてもよい。このような処理で省略等されている項を補完すべき語が見つかれば、この省略等の箇所に対してはこの後の解析を打ち切り、次の省略等の箇所に対する処理に進めばよい。補完すべき語が見つからなければ、以後の照応・省略解析を実行する。もちろん、ここで見つかった語を補完候補の１つとしてアノテートし、照応・省略解析の処理に進んでも良い。

照応詞解析では、入力２５０に含まれる名詞句対中から照応詞候補となり得る語句を選択し、その各々について、図２２に示す素性ベクトル生成部８３２により生成された素性ベクトルと同様の構成の素性ベクトルを入力２５０から生成する。この組成ベクトルを照応詞検出器１６８に与えることにより、照応詞検出器１６８からスコアが得られる。このスコアにより、照応詞か否かを決定し、その旨のアノテーションを付する。

照応詞用先行詞特定器９００による先行詞の推定は以下のようにして行われる。照応詞検出器１６８により照応詞と判定された表現の各々について、先行詞となり得る表現を入力２５０中で選択し、両者をペアとして図２２の素性ベクトル生成部８５４と同様に素性ベクトルを生成する。この素性ベクトルを照応詞用先行詞特定器９００への入力とし、照応詞用先行詞特定器９００のスコアを得て、しきい値より高いスコアで、かつ最も高いスコアを示した先行詞候補と、処理対象の照応詞との間で照応関係のアノテーションを追加する。

省略用先行詞特定器９０２による先行詞の推定も同様である。ただしこの場合、素性ベクトル生成部８５４により生成される素性ベクトルではなく素性ベクトル生成部８７４により作成されるものと同様の構成の素性ベクトルが使用される。したがってこのときには、選択制限ＤＢ２２４、質問タイプＤＢ２２０、質問応答システム２２６及び言語知識ＤＢ２２８が必要となる。

以上のように本実施の形態によれば、テキストアーカイブから、照応・省略解析のための検出器の学習を行うための学習データ生成が容易に行える。例えば照応・省略関係の候補が自動的に検索され、その先行詞候補がリストとして表示される。ユーザは、リストに表示された候補が１つでかつ正しいものであればそれを承認し、リストに表示された候補が複数個であればそのうちの１つを選択すればよい。従来のように、照応・省略関係の位置を目視で探し、次にその指し示す位置をさらに目視で探して両者に照応・省略関係のアノテーションを付す、という作業を行う必要はない。仮に表示されたリストに正しい指し先が示されないときには、手入力により正しい指し先を指定することができる。

したがって、従来の技術よりもはるかに簡便に、照応・省略解析の検出器の学習を行うための学習データを準備できる。その結果、学習データの作成コスト及び作成時間をいずれも低減できる。大量の学習データを低コストで準備できるため、この学習データを使用して学習を行った省略検出器１６６、照応詞検出器１６８、及び先行詞特定器１７０を用いてテキストの照応・省略解析を効率的に行うことが可能になる。また、学習データが大量になるため、これら検出器の精度が向上することが期待でき、高い精度でほぼ自動的にテキストの照応・省略解析を行うことができる。

なお、上記実施の形態では、質問応答システム２０６は単数であるものとして説明した。しかし本発明はそのような実施の形態には限定されない。質問応答システムが複数個利用できるのであれば、複数個の質問応答システムを利用してもよい。この場合、各質問応答システムがいずれも自然言語のテキストを入力とするのであれば、同一の質問文をそれらに送信するだけで回答候補を得ることができる。

また上記実施の形態では、照応・省略解析では、最初に項共有知識を用いた処理で省略等の箇所に補完すべき語が見つかれば、その後はその省略等の箇所についての照応・省略解析は行わず、補完すべき語が見つからない場合のみ、照応・省略解析を行うようにしている。しかし本発明はそのような実施の形態には限定されない。項共有知識を適用することによって得られた補完候補に関する情報を、照応・省略解析のための素性の一部として使用してもよい。

＜第２の実施の形態＞
第１の実施の形態では、図６に示すように、アノテート済テキスト記憶部２８１に記憶されたテキストから項共有判別器２８３の学習を行っている。しかし、アノテート済テキスト記憶部２８１のテキストが少量の場合には、項共有判別器２８３の精度はあまり高くならない。その結果、十分な量のテキストがアノテート済テキスト記憶部２８１に準備できないと、項共有関係による指し先候補の推定の精度が高くならないおそれがある。そこで、この第２の実施の形態では、アノテート済テキスト記憶部２８１のテキストが少量でも、項共有判別の精度が高くなるような項共有判別器の学習方法を示す。

図２５を参照して、この方法を採用した項共有判別器学習装置９７２は、いずれも第１の実施の形態で使用したアノテート済テキスト記憶部２８１に記憶されたテキスト及びテキストアーカイブ１９２を用いて項共有判別器９７４の学習を行う。項共有判別器学習装置９７２は、テキストアーカイブ１９２の各文に対し形態素解析及び構文解析を行い、ある述語が構文的に他の述語に依存するような述語対を抽出する述語対抽出部９８０と、述語対抽出部９８０が抽出した述語対の各々について項共有関係の有無を判別する、第１の実施の形態で得た項共有判別器２８３と、項共有判別器２８３により得られた結果に対する統計的処理により、変化形を含む同じ述語の対に対して共有関係があると判定された率（項共有率）を算出する統計処理部９８４と、図１に示すものと同様のアノテート済テキスト記憶部２８１に記憶されたテキスト、及び統計処理部９８４の処理結果を入力として、図６に示す学習データ生成部２８４と同様の特徴量に、さらに統計処理部９８４により算出された項共有率を特徴量として加えた学習データを生成する学習データ生成部９８６とを含む。

項共有判別器学習装置９７２はさらに、学習データ生成部９８６の出力する学習データを記憶する学習データ記憶部９８８と、学習データ記憶部９８８に記憶された学習データを用いてＳＶＭからなる項共有判別器９７４の学習を行う学習処理部９９０とを含む。

なお、統計処理部９８４による処理において、出現頻度の低い述語対については、項共有の有無に関する判別結果の信頼性は低いと考えられる。そこで、本実施の形態では、出現頻度があるしきい値（例えば５）以下の述語対については、項共有率をデフォルト値の０に設定した。このしきい値については他の値に変更して同様の処理を行ったが、最終的な結果には大きな影響をもたらさなかった。

［評価実験］
この項共有判別器９７４の性能を確認するために評価実験を行った。評価実験は、述語対の主語の共有について行い、ＮＡＩＳＴテキストコーパス１．４内の８０%を学習に用いた。学習データは４２，８０６の述語対を含んでいた。そのうちで８，４９６個の述語対が主語を共有していた。

評価実験では、６億のウェブページから、後掲の参考文献１に記載の手法で２，４５１，２５４個の因果関係に関する例をサンプリングした。元の文の中には述語の主語が含まれているケースがあったので、それらは対象から除外した。より具体的には、名詞の後に助詞「は」又は「が」が続く例を除外した。その結果、サンプルの数は２，４５１，２５４から１，３２１，１７２となった。これらの中から１０００個をランダムサンプリングした。これらの各々について、述語対が主語を共有するか否かについて３人の判定者により判定した。これらの判定に関する平均カッパ係数（Cohen’s Kappa）は０．６８３であった。最終的なアノテーションラベルは３人の判定者の判定結果の多数決により決定した。その結果、１０００個のサンプル中で６４４個が主語を共有すると判定された。この割合は予想より高いが、この原因は元になるデータが因果関係を表す例であったせいであると思われる。

評価実験では以下の３つの手法とこの第２の実施の形態に係る項共有判別器（主語に関するもの）との性能を比較した。

（１）BaselineKNP
これは日本語構文解析システムの出力に基づいて主語の共有を判定するものであって、後掲の参考文献２による照応・省略解析システムが組み込まれたものによる解析結果である。

（２）BaselineAllShare
入力中の全ての述語対が主語を共有すると判定するもの。前述したとおり、元のデータが因果関係を表すものであることから、この仮定は妥当であってベースラインをなすものと思われる。

（３）FirstStepClassifier
第１の実施の形態に係る項共有判別器である。

結果を次のテーブル１に示す。

平均精度は、各手法の分類器により計算されたスコアの値によってサンプルをランキングした結果による。FirstStepClassifier及び本実施の形態による手法では、主語を共有するか否かはＳＶＭで判定している。BaselineAllShareでは、参考文献１によるＳＶＭによるスコアを用いている。

テーブル１から以下のように本実施の形態の効果を見ることができる。まず、Ｆ値において、本実施の形態の手法による値は他の全手法より大幅な改善を示していることが分かる。FirstStepClassifierと比較してもそのＦ値の向上幅は大きい。これは、主として再現率の向上（０．１５５→０．８２６）によるものと思われる。

これら手法により得られた再現率−適合率カーブを図２６に示す。このグラフは、各手法のＳＶＭにより得られたスコアのしきい値を変化させて描いたものである。なお、BaselineKNPについては、出力された結果にもとづく再現率と精度の１点をグラフ上にプロットしてある。

図２６から、この第２の実施の形態に係る項共有判別器は、FirstStepClassifier及びBaselineKBNによる判別結果に比して、広い範囲の再現率の値に対して適合率が５〜１０％程度高くなっていることが分かる。またこの項共有判別器は、同じ再現率では、BaselineKNP に対して２０％程度高い適合率を示していることが分かる。

以上のようにこの実施の形態によれば、第１実施の形態で用いた項共有判別器２８３よりも精度の高い項共有判別器をほぼ自動的な処理で得ることができる。このような項共有判別器を用いれば、アノテーションの検証だけではなく、第１の実施の形態で説明した項共有知識の収集も高い精度で効率よく行うことができる。

なお、上記第２の実施の形態は照応・省略解析に本発明に係る装置で学習した項共有判別器を適用した例を示した。この結果、照応・省略解析の精度が実用レベルまで向上することが考えられる。その効果が特に発揮されるのは、日本語から英語への自動翻訳である。日本語のテキストには、主語等が省略されていることが多い。一方、英語は主語の存在を要求する。したがって、日本語から英語への翻訳にあたっては、日本語で省略されている主語を高い精度で特定する必要がある。したがって、照応・省略解析の精度が向上することで日本語から英語への自動翻訳の精度も高くなることが期待できる。

さらに、他の例としては、質問応答システムがある。質問応答システムでは、質問に対する回答を探す先の文書が自然言語で書かれたテキストであることが多い。仮にテキストに照応・省略関係が含まれる場合には、正しく回答を発見することができない可能性がある。そこで、予めテキストに対して照応・省略解析を適用し、照応関係の特定及び省略の補完を適切に行っておけば、これまで回答できなかった質問に対しても適切な回答をテキスト中から発見することが可能になる。

さらに、一般的な言語知識を大量のテキストから収集する際にも、予め照応関係の特定及び省略の補完が適切に行えていれば、１文からの知識獲得のカバレッジが向上するため、結果的に獲得できる知識の規模の拡大に貢献できると考えられる。

＜第３の実施の形態＞
上記実施の形態では、項共有知識は照応・省略解析前、及び照応・解析処理中において使用されている。しかし、本発明はそのような実施の形態には限定されない。例えば、項共有知識を用いない照応・省略解析の出力に対して項共有知識を適用して解析結果を検証・修正する事もできる。図２３にそのようなアノテーション処理を実現するプログラムの機能を概略ブロック図形式で示す。

図２３を参照して、項共有知識を用いて照応・省略解析結果を検証・修正するプログラムは、照応・省略解析器の出力９１１に対して、項共有知識９１０を利用して指し先の検証を行い、必要なら修正を行った出力９１２を生成するためのものである。例えば、照応・省略解析器の出力９１１において、「示した」の主格の省略の指し先が「村山富市首相」であるとアノテーション９１３され、「述べ」の主格の省略の指し先が誤って「離党者」になっていたものとする(アノテーション９１４)。この場合、項共有関係の検証・修正をするプログラムは、両者が項を共有していない結果になっているので、まず２つの表現「示す」と「述べる」とを含む項共有知識を検索する。そのような項共有知識９１０があったとすると、項共有関係の検証・検証をするプログラムは、その項共有知識９１０と出力９１１とを照合９１５する。具体的には、プログラムは、照応・省略解析器の出力９１１から「示した」と「述べ」とが主格を共有するか否かを判別するための特徴量を抽出し、ＳＶＭからなる項共有判別器により判別する。この項共有判別器は図６〜図８に示したものと同様のものである。共有しないという結果であればプログラムはそれ以上何もしない。共有するという結果であれば、プログラムは、処理対象の述語対のうち、照応・省略解析器の出力中で指し先の信頼性としてアノテーションに付されていたスコアのうち、値の低い方の指し先を、値の高い方の指し先によって書き換える。この結果、例えば、図２３に示すアノテーション９１４のスコアが低ければ、その指し先を、アノテーション９１３の指し先と同じ「村山富市首相」に変更した新たなアノテーション９１６がされ正しく出力９１２される。ただし、このプログラムによる項共有判別の信頼性（スコア）が低い場合にはそのような書き換えをしないようにしてもよい。なお、述語対のうち一方の指し先が省略されていないときには、省略としてアノテーションされた方の指し先を、省略されていない方の指し先によって書き換えればよい。

図２４を参照して、このアノテーションを実行するプログラムは、照応・省略解析器の出力のうち、照応・省略を含む述語対であって、項を共有しない述語対の各々について以下の処理９２２を実行するステップ９２０を含む。

処理９２２は、処理対象の述語対のアノテーションによる指し先が一致するか否かを判定し、判定の結果が肯定である場合にはこの述語対に対する処理を終了するステップ９２４と、ステップ９２４の判定が否定である場合に、処理中の述語対と合致する項共有知識を検索し、判定が否定のときには現在の述語対に対する処理を終了するステップ９２６と、ステップ９２６の判定が肯定であるときに、２つのアノテーションのうち、照応・省略解析器によるスコアの低い方の指し先をスコアの高い方の指し先に書き換えてこの述語対に対する処理を終了するステップ９２８とを含む。アノテーションのスコアは、照応・省略解析を実現している機械学習モデルによるスコア（ＳＶＭの場合には分離平面からデータポイントまでの距離）を用いればよい。

こうした処理を行うことにより、事後的に照応・解析処理の結果を項共有知識を用いて検証及び修正できる。

＜第４の実施の形態＞
〈概略〉
上記第１〜第３の実施の形態では、未アノテートテキストアーカイブ３０２内のアノテーションを用いて項共有判別器３０６、３０７及び３０８の学習をし、これらを用いて項共有知識の獲得を行っている。項共有判別器３０６、３０７及び３０８はいずれも、各述語対が個別に項を共有しているか否かを判別するものである。しかし、本発明はそのような実施の形態には限定されない。項を共有する述語が３個以上ある場合も考えられる。そうした場合、各述語対について個別に項共有知識を適用して照応解析を行おうとすると、結果が矛盾したり、判定の条件が複雑になったりすることがある。そこで、互いに項を共有する述語群については、まとめて判定できるようにすることが望ましい。第４の実施の形態では、これを項共有述語ネットワークという概念を導入して解決する。

項共有述語ネットワークとは、互いに項を共有する述語群を頂点とし、各頂点をエッジで結んで得られるネットワークのことをいう。項を共有する述語群の集まりを表すので、項共有グループと呼んでも良い。このようなネットワークを考えた場合、頂点をなす１つの述語についてその項（例えば主語）の値が分かれば、同じネットワークの他の頂点にその項の値を伝搬させることにより、同じネットワークに属する各述語群の項の値が定められる。同じネットワーク内で複数の述語についてその項の値があり得るときは、それらの中で最も信頼度の高い値を各述語群の項の値として定めれば良い。

本実施の形態では、第１の実施の形態で使用した項共有判別器３０６、３０７及び３０８とは異なり、項共有関係にある述語の出現するパターンに応じた３種類の項共有判別器を使用する。パターンには３種類がある。ＤＥＰ型、ＡＤＪ型、及びＰＮＰ型である。以下、これらについて順番に説明する。

―ＤＥＰ型―
ＤＥＰ型は、典型的な項共有パターンであり、述語対が互いに係り受け関係において依存関係にある場合を言う。例えば「トムはインフルエンザになったので、（φ_ｉが）薬を飲んだ。」という文における２つの述語「なった」と「飲んだ」との関係である。なぜなら、これらは同じ主語（トム、φ_ｉ）を持っているからである。この係り受け関係を図２７（Ａ）に示す。このような項共有関係をＤＥＰ型と呼ぶ。

─ＡＤＪ型─
一文中で隣接する位置にある述語は互いに同じ主語を持つ傾向にあるが、それらが常にＤＥＰ型の項共有関係にあるとは限らない。これは２つの述語の間での長距離の係り受け関係が存在するからである。例えば、「飛行機は無事に着陸したが誘導路に入った後に操縦桿が効かなくなった。」という文において、２つの述語「着陸した」と「入った」は同じ主語を持つが、直接の係り受け関係を持たない。この関係を図２７（Ｂ）に示す。このような項共有関係を明らかにするために、２つの述語が表層構造において互いに隣接して出現するケースもＡＤＪ型に分類する。

─ＰＮＰ型─
日本語の述語対の場合、述語が統語関係上である名詞（又は名詞句）に依存し、その名詞（又は名詞句）が統語関係上で別の述語に依存しているという場合がしばしばである。例えば「知事は（φ_ｉが）条項を撤回する方針を明らかにした。」という文における「撤回する」と「明らかにした」のような場合である。この関係を図２７（Ｃ）に示す。このような型の項共有関係をＰＮＰ型と呼ぶ。

本実施の形態では、このような項共有関係（特に主語）の検出をバイナリ識別問題としてとらえ、２つの述語が同じ主語を共有するか否かを判定する判別器を構成する。ここでは、教師付学習を用いて判別器の学習を行う。そのために、例えば図４に示すようなアノテート済のテキストアーカイブから、各型の学習データを別々に抽出する。アノテーションとしては、最低限、（ゼロ）代名詞関係、coreference関係、及び主語がアノテートされていればよい。抽出された２つの述語がcoreference関係及び（ゼロ）代名詞関係を共有している場合にはラベルを正、そうでいない場合にはラベルを負とし、それぞれ所定の素性とともに学習データを作成する。本実施の形態では判別器にＳＶＭ^{ｌｉｇｈｔ}を用いる。各関係の学習に用いる素性を次のテーブル２に示す。

〈構成〉
図２８（Ａ）に、本実施の形態においてＤＥＰ型項共有判別器１０１４の学習を行うＤＥＰ型項共有判別器学習装置１０１２のブロック図を、図２８（Ｂ）にＡＤＪ型項共有判別器１０５４の学習を行うＡＤＪ型項共有判別器学習装置１０５２のブロック図を、図２８（Ｃ）にＰＮＰ型項共有判別器１０９４の学習を行うＰＮＰ型項共有判別器学習装置１０９２のブロック図を、それぞれ示す。ＤＥＰ型項共有判別器学習装置１０１２は例えば学習データＤＢ１６２から手作業で抽出し、ＤＥＰ型テキスト記憶部１０１０に記憶されたＤＥＰ型の項共有関係学習のためのデータを用いてＤＥＰ型項共有判別器１０１４の学習を行う。ＡＤＪ型項共有判別器学習装置１０５２は同様に、ＡＤＪ型テキスト記憶部１０５０に記憶されたＡＤＪ型の項共有関係の学習データを用いてＡＤＪ型項共有判別器１０５４の学習を行う。ＰＮＰ型項共有判別器学習装置１０９２は、ＰＮＰ型テキスト記憶部１０９０に記憶されたＰＮＰ型の項共有の学習データを用いてＰＮＰ型項共有判別器１０９４の学習を行う。ＤＥＰ型テキスト記憶部１０１０、ＡＤＪ型テキスト記憶部１０５０、及びＰＮＰ型テキスト記憶部１０９０はいずれも、各型の項共有関係の判別器の学習をするために準備された、正例にマークされた文例と負例にマークされた文例とを記憶している。

ＤＥＰ型項共有判別器学習装置１０１２、ＡＤＪ型項共有判別器学習装置１０５２、及びＰＮＰ型項共有判別器学習装置１０９２は、いずれも図６に示す第１の実施の形態の項共有判別器学習装置２８２と同様の構成を持つ。例えばＤＥＰ型項共有判別器学習装置１０１２は、ＤＥＰ型テキスト記憶部１０１０に格納された正例の文例と負例の文例とを読出し、テーブル２の上段に示すような素性を抽出し、正例、又は負例のラベルを付けた学習データを生成し出力する学習データ生成部１０３０と、この学習データを記憶する学習データ記憶部１０３２と、学習データ記憶部１０３２に記憶された学習データを用いてＤＥＰ型項共有判別器１０１４のトレーニングを行う学習処理部１０３４とを含む。ＡＤＪ型項共有判別器学習装置１０５２は同様に、学習データ生成部１０７０、学習データ記憶部１０７２、及び学習処理部１０７４を含む。ＰＮＰ型項共有判別器学習装置１０９２は、学習データ生成部１１１０、学習データ記憶部１１１２、及び学習処理部１１１４を含む。

ここで、学習データ生成部１０３０及び学習データ生成部１０７０は、テーブル２の上段に示した素性を抽出して学習データを生成する。一方、学習データ生成部１１１０は、テーブル２の上段に示した素性に加え、下段に加えた素性も抽出して学習データを生成する。

図２９を参照して、この実施の形態に係る項共有知識収集装置１１３０は、上に説明したようにして学習が行われたＤＥＰ型項共有判別器１０１４、ＡＤＪ型項共有判別器１０５４、及びＰＮＰ型項共有判別器１０９４等を用いて、未アノテートテキストアーカイブ３０２から項共有知識を抽出するものであって、第１の実施の形態に係る項共有知識収集装置３０１（図８参照）に替えて使用できる。

項共有知識収集装置１１３０は、未アノテートテキストアーカイブ３０２から全ての述語対を抽出する述語対抽出部３０３と、述語対抽出部３０３により抽出された各述語対に対し、それらが出現する文中での係り受け関係と依存関係とによってＤＥＰ型、ＡＤＪ型、及びＰＮＰ型のいずれかに分類し、ＤＥＰ型項共有判別器１０１４、ＡＤＪ型項共有判別器１０５４、及びＰＮＰ型項共有判別器１０９４にそれぞれ与えて各型の共有関係があるか否かを判定させるための振り分け部１１４０と、ＤＥＰ型項共有判別器１０１４、ＡＤＪ型項共有判別器１０５４、及びＰＮＰ型項共有判別器１０９４による項共有関係の判別結果を表す情報を、その判定の基になった述語対とともに項共有知識として記憶する項共有知識記憶部３１０とを含む。

一方、図３０を参照して、この実施の形態では、図４に示す照応・省略解析器２５２内の先行詞特定器１７０に替えて、図３０に示す先行詞特定器１１５０を用いる。先行詞特定器１１５０は、照応・省略解析の対象となる入力２５０から全ての述語を抽出する述語抽出部１１６２と、述語抽出部１１６２により抽出された述語を記憶する述語ＤＢ１１６４と、述語ＤＢ１１６４に記憶された述語の集合から全ての述語対を抽出する述語対抽出部１１６６と、述語対抽出部１１６６により抽出された各述語対に対し、図２８に示すようなＤＥＰ型項共有判別器１０１４、ＡＤＪ型項共有判別器１０５４、ＰＮＰ型項共有判別器１０９４及びその他の項共有判別器にそれぞれ与えてその述語対に項共有関係があるか否かを判定し、項共有関係がある場合にはその述語対の両者に同じラベルを付すように述語ＤＢ１１６４を更新するための項共有判定部１１６８とを含む。

項共有判定部１１６８は、処理対象の述語対の間に項共有関係がある場合、以下のように述語ＤＢ１１６４を更新する。項共有関係が見出された述語対の双方にまだラベルが付されていない場合、新たな述語グループを作成し、それを示すラベルを述語対の双方に付す。したがって、項共有判定部１１６８は、今までに作成されたグループのラベルを記憶するラベルＤＢ（図示せず）を持つ必要がある。述語対の一方のみにラベルが付されており、他方にはラベルが付されていない場合、ラベルが付されていない方に、他方のラベルを付す。述語対の双方にラベルが付されている場合には、いずれか一方に統一するとともに、他方のラベルを有している他の述語のラベルを全てこの一方のラベルに統一する。他方のラベルはラベルＤＢから削除する。こうすることで、項共有関係を持つ述語対がラベルによりグルーピングされる。このように、順次、ラベルを統一していくと、複数の述語対について共有された項を個別に決定した後にさらにそれらを統一する場合と比較して処理が容易になるという効果がある。

先行詞特定器１１５０はさらに、項共有判定部１１６８による述語ＤＢ１１６４の更新が完了した後に、述語ＤＢ１１６４から同じラベルが付された項共有述語グループをグループ別に検索する項共有述語グループ検索部１１７０と、項共有述語グループ検索部１１７０により検索された各グループに属する述語により項共有述語ネットワークを生成する項共有述語ネットワーク生成部１１７２とを含む。

ここで、項共有述語ネットワークとは、同じ項を共有する複数の述語からなるグループのことを言う。項共有述語ネットワークのデータ形式は、あるグループに属する述語から、その同じグループに属する述語を全てたどれるようなものであればよい。例えばリスト形式でもよいし、グループの述語を要素とする配列からなる配列でもよい。

先行詞特定器１１５０はさらに、項共有述語ネットワーク生成部１１７２が生成した項共有述語ネットワークを記憶する項共有述語ネットワークＤＢ１１７４と、項共有述語ネットワーク生成部１１７２によって、他の述語と項を共有しないと判定された述語を記憶する非項共有述語記憶部１１８０と、項共有述語ネットワークＤＢ１１７４に記憶された項共有述語ネットワークの各々について、その項共有述語ネットワークに属する述語が共有する項を特定する共有項判定部１１７６と、項共有述語ネットワークＤＢ１１７４を参照することにより、共有項判定部１１７６により判定された項の値を同じ項共有述語ネットワークに属する全ての述語に伝搬させ、それらの述語に対応する項にその値を代入（埋め込む）する共有項伝搬部１１７８と、非項共有述語記憶部１１８０に記憶された述語、及び、共有項判定部１１７６によって、共有する項（主語）の値が特定できないと判定された項共有述語ネットワークに属する述語の各々について、既存の項判定方式によって各述語の項（主語）を特定する処理を補充的に行う補充判定部１１８２と、共有項伝搬部１１７８による処理結果と補充判定部１１８２による処理結果とを用いて、入力２５０内の省略箇所にその項を先行詞として埋め込むことで入力２５０を更新して出力２５４を出力する先行詞更新部１１８４とを含む。

補充判定部１１８２としては、既存のものが利用できる。例えば非特許文献１に記載された手法、又は参考文献２に記載された手法を使用できる。また、従来技術の説明に述べたように、形態素解析、構文・係り受け解析等が出力する情報に加え、例えば「食べる」の目的語に「食べ物」に相当する表現が含まれるという特性をまとめた辞書などを利用した自動解析技術を適用することもできる。

図３１に、図３０に示す先行詞特定器１１５０をコンピュータにより実現するためのコンピュータプログラムのフローチャートを示す。図３１を参照して、このプログラムは、入力２５０（図３０を参照）に対する形態素解析、構文解析、及び係り受け解析を行うステップ１１９０と、解析結果を使用して入力２５０内の全ての述語を抽出し、空のラベルとともに述語ＤＢ１１６４に各述語を登録するステップ１１９２と、全ての述語対について項共有関係があるか否かを判定して、判定結果を用いて各述語にその属する項共有述語グループのラベルを付す処理を行うステップ１１９４と、ステップ１１９４の結果を用いて項共有述語ネットワークを生成するステップ１１９６と、各項共有述語ネットワークごとに共有されている項の値を判定するステップ１１９８と、ステップ１１９８までの処理で決定できなかった省略箇所を従来の手法等を用いて判定するステップ１２００とを含む。

ステップ１１９４の処理は、全ての述語対についてステップ１２１２及び１２１４の処理を繰返し実行するステップ１２１０を含む。

ステップ１２１２では、処理対象の述語対が項を共有しているか否かを判定する。述語対が項を共有している場合には、ステップ１２１４で、その述語対を構成する述語に、項を共有していることを示すラベルを付してそれぞれ述語ＤＢを更新する。ここでのラベルは、項を共有する述語からなるグループを表す。述語対の双方ともラベルが付されていなければ、新たなラベルを付して両者を更新するとともに、そのラベルをラベルＤＢに記憶する。述語対の一方のみにラベルが付されている場合、述語対の他方に同じラベルを付して述語ＤＢを更新する。述語対の双方にラベルが付されている場合、いずれかの方法で一方のラベルを採用してラベルを統一する。ここで採用されなかったラベルはラベルＤＢから削除する。

ステップ１１９６は、述語ＤＢからラベルをキーにしてソートして述語を検索するステップ１２３０と、検索された述語に対し、ラベルごとにステップ１２３４の処理を実行するステップ１２３２とを含む。ステップ１２３２では、同一のラベルが付されている述語を用いて項共有述語ネットワークを構築する。

ステップ１１９８は、ステップ１１９６で生成された項共有述語ネットワークごとに、ステップ１２５２，１２５４及び１２５６の処理を実行するステップ１２５０を含む。

ステップ１２５２では、処理対象の項共有述語ネットワーク内の各述語について、共有項の値を判定することを試みる。ここでは、１つのみ項の値が決定できればその値を採用する。２つ以上の項の値の候補がある場合には、何らかの基準でいずれか１つに決定する。例えば判定の信頼度が最も高いものを採用してもよい。項の値の候補が見つからない場合にはそのまま次の処理に進む。続くステップ１２５４では、ステップ１２５２により、項の値が決定できたか否かを判定する。項の値が決定できていれば、その値を同じ項共有述語ネットワーク内の全ての述語に伝搬させる。項の値が決定できなければ、そのまま次の処理に進む。

ステップ１２００では、ステップ１１９８までの処理で共有項の値が決定できなかった箇所の値を、他の手法（例えば従来の手法）で判定する。

〈動作〉
この項共有述語ネットワークの動作には大きく分けて３つのフェーズが存在する。第１のフェーズは図２８に示すＤＥＰ型項共有判別器１０１４、ＡＤＪ型項共有判別器１０５４、及びＰＮＰ型項共有判別器１０９４の学習である。第２のフェーズは、図２９に示す、ＤＥＰ型項共有判別器１０１４、ＡＤＪ型項共有判別器１０５４、及びＰＮＰ型項共有判別器１０９４を用いた項共有知識収集装置１１３０による項共有知識の収集である。第３のフェーズは、図３０に示す先行詞特定器１１５０により、入力２５０の内で省略された箇所の先行詞を項共有知識又は項共有判別器を用いて特定する処理である。

図２８に示すＤＥＰ型項共有判別器１０１４、ＡＤＪ型項共有判別器１０５４、及びＰＮＰ型項共有判別器１０９４の学習は、互いによく似ている。例えばＤＥＰ型項共有判別器１０１４の学習は以下のように行われる。最初に、ＤＥＰ型の項共有判別器のための述語対を含むテキストからなる学習データが人手で収集され、ＤＥＰ型テキスト記憶部１０１０に記憶される。この際、学習データには、述語対がＤＥＰ型の項共有関係を持つか否かを示すラベルが付される。学習データ生成部１０３０は、これらのテキストから、テーブル２に示すような素性とラベルとからなる学習データを生成し、学習データ記憶部１０３２に蓄積する。学習処理部１０３４は、学習データ記憶部１０３２に蓄積された学習データを用いて、ＳＶＭからなるＤＥＰ型項共有判別器１０１４の学習を行う。学習後のＤＥＰ型項共有判別器１０１４は、２つの述語対を含むテキストが与えられると、それらが項共有関係を持つか否かを判定できる。

ＡＤＪ型項共有判別器学習装置１０５２によるＡＤＪ型項共有判別器１０５４の学習、及びＰＮＰ型項共有判別器学習装置１０９２によるＰＮＰ型項共有判別器１０９４の学習も同様である。

図２９を参照して、項共有知識収集装置１１３０による項共有知識の収集は以下のように行われる。述語対抽出部３０３が未アノテートテキストアーカイブ３０２からあらゆる述語対を抽出する。振り分け部１１４０は、抽出された各述語対を含むテキストの構文解析及び係り受け解析を行い、各語の間の依存関係に基づいて、述語対をＤＥＰ型、ＡＤＪ型、及びＰＮＰ型のいずれかに分類し、それぞれＤＥＰ型項共有判別器１０１４、ＡＤＪ型項共有判別器１０５４、及びＰＮＰ型項共有判別器１０９４のいずれかに与えて項共有関係の有無を判定させる。ＤＥＰ型項共有判別器１０１４、ＡＤＪ型項共有判別器１０５４、ＰＮＰ型項共有判別器１０９４はそれぞれ、与えられた述語対がＤＥP型、ＡＤJ型、及びＰＮＰ型か否かを判定し、項共有関係にある場合にはその項を特定し、後に項共有関係が判定可能となるような情報（係り受け関係、単語、品詞他の情報）を項共有知識記憶部３１０に出力する。項共有知識記憶部３１０は、この情報を項共有知識として蓄積する。

一方、入力文に対して照応・省略解析を行う場合には、先行詞特定器１１５０は以下のように動作する。述語抽出部１１６２は入力２５０から全ての述語を抽出し、それぞれ述語ＤＢ１１６４に空のラベルとともに登録する（図３１のステップ１１９０、１１９２）。

述語抽出部１１６２による述語の抽出が完了すると、述語対抽出部１１６６が述語ＤＢ１１６４に含まれる全ての述語対を抽出し、項共有判定部１１６８に与える（図３１のステップ１２１０）。項共有判定部１１６８が、各述語対について、項共有関係にあるか否かを判定し（図３１、ステップ１２１２）、項共有関係にあればその述語対を構成する述語の双方に、項を共有することを示すラベルを付して述語ＤＢ１１６４を更新する。この際のラベルの付し方については前述したとおりで、同じ項を共有する述語については同じラベルが付されるようにする。

このようにして全ての述語対について項共有関係の判定が終わると、項共有述語グループ検索部１１７０が述語ＤＢ１１６４からラベル別に述語を検索する（図３１、ステップ１２３０）。項共有述語ネットワーク生成部１１７２が、ラベルごとに、同一ラベルを持つ述語で項共有ネットワークを生成し（図３１，ステップ１２３２，１２３４）、項共有述語ネットワークＤＢ１１７４に登録する。項共有述語ネットワークに属さない述語、他の述語対とグループを形成しない述語対等は非項共有述語記憶部１１８０に出力される。

共有項判定部１１７６が、項共有述語ネットワークごとに、共有項の値を決定することを試みる（図３１，ステップ１２５０，１２５２）。値が決定すれば（ステップ１２５４でＹＥＳ）、共有項伝搬部１１７８が同じ項共有ネットワークに属する全ての述語に対して、決定された項の値を伝搬させる（ステップ１２５６）。一方、補充判定部１１８２は、非項共有述語記憶部１１８０に記憶されていた述語、及び共有項判定部１１７６により共有項の値が決定できなかった項共有述語グループに属する述語の項の値を従来の手法等何らかの手法により決定する。

先行詞更新部１１８４は、共有項伝搬部１１７８による伝搬結果と、補充判定部１１８２による判定結果とを統合して、出力２５４を生成して出力する。

以上のように、本実施の形態によれば、文型により適切な項共有判定器を構成し、入力に含まれる述語のうち、項を共有するものを特定する。さらに、同じ項を共有する述語により項共有述語ネットワークを生成し、何らかの手法で項共有述語ネットワークの述語で共有されている語を決定し、同じ項共有述語ネットワークに属する項の全てにその値を伝搬させる。したがって、入力２５０に複数の省略箇所があったときに、それらが指す値が同じ場合に、効率よく省略箇所の特定を行うことができる。

例えば、「政府は、被災地に５０人を派遣することを計画し、その準備作業を進めている。」というテキストについて考える。このテキストには、「派遣する」「計画する」「進める」の３つの述語が出現している。項共有関係判別器を適用することで、例えば、「派遣する」と「計画する」、「計画する」と「進める」の２つの述語対に対して項を共有することが特定できたとする。その場合、これらに関係する３つの述語（「派遣する」「計画する」「進める」）は同じ項を持つ述語と考えられる。したがってこれら３つの述語をグルーピングできる。このグループに属する３つの述語のいずれかに対して項が特定できた場合に、このグループに属する他の述語にそれを伝搬させる処理を行うことで省略解析が実現できる。例えば、「進める」に対して主語「政府」が同定できた場合に、その主語を「派遣する」と「計画する」の主語の位置に補完することで主語省略の補完を達成する。

このような項共有に着目した省略解析技術で解析できない問題には既存の省略解析の技術を適用することで頑健に省略解析が行える。

［参考文献１］
Chikara Hashimoto, Kentaro Torisawa, Julien Kloetzer, Motoki Sano, Istvan Varga, Jong-Hoon Oh, and Yutaka Kidawara. 2014. Toward future scenario generation: Extracting event causality exploiting semantic relation, context, and association features. In Proceedings of the 52nd Annual Meeting of the Association for Computational Linguistics, pages 987-997.
［参考文献２］
Ryohei Sasano and Sadao Kurohashi. 2011. A discriminative approach to Japanese zero anaphora resolution with large-scale lexicalized case frames. In Proceedings of 5th International Joint Conference on Natural Language Processing, pages 758-766.

今回開示された実施の形態は単に例示であって、本発明が上記した実施の形態のみに制限されるわけではない。本発明の範囲は、発明の詳細な説明の記載を参酌した上で、特許請求の範囲の各請求項によって示され、そこに記載された文言と均等の意味及び範囲内での全ての変更を含む。

［コンピュータによる実現］
上記実施の形態に係る学習データ生成補助装置２０４、検出器学習装置２２２、照応・省略解析器２５２、ＤＥＰ型項共有判別器学習装置１０１２、ＡＤＪ型項共有判別器学習装置１０５２、ＰＮＰ型項共有判別器学習装置１０９２、項共有知識収集装置１１３０、及び先行詞特定器１１５０は、いずれも、コンピュータハードウェアと、そのコンピュータハードウェア上で実行されるコンピュータプログラムとにより実現できる。図３２はこのコンピュータシステム１３３０の外観を示し、図３３はコンピュータシステム１３３０の内部構成を示す。

図３２を参照して、このコンピュータシステム１３３０は、メモリポート１３５２及びＤＶＤ（Ｄｉｇｉｔａｌ Ｖｅｒｓａｔｉｌｅ Ｄｉｓｃ）ドライブ１３５０を有するコンピュータ１３４０と、いずれもコンピュータ１３４０に接続されたキーボード１３４６、マウス１３４８、及びモニタ１３４２とを含む。

図３３を参照して、コンピュータ１３４０は、メモリポート１３５２及びＤＶＤドライブ１３５０に加えて、ＣＰＵ（中央処理装置）１３５６と、ＣＰＵ１３５６、メモリポート１３５２及びＤＶＤドライブ１３５０に接続されたバス１３６６と、ブートプログラム等を記憶する読出専用メモリ（ＲＯＭ）１３５８と、バス１３６６に接続され、プログラム命令、システムプログラム及び作業データ等を記憶するランダムアクセスメモリ（ＲＡＭ）１３６０と、ハードディスク１３５４を含む。コンピュータシステム１３３０はさらに、他端末との通信を可能とするネットワーク１３６８への接続を提供するネットワークインターフェイス（Ｉ／Ｆ）１３４４を含む。

コンピュータシステム１３３０を上記した実施の形態に係る学習データ生成補助装置２０４の各機能部として機能させるためのコンピュータプログラムは、ＤＶＤドライブ１３５０又はメモリポート１３５２に装着されるＤＶＤ１３６２又はリムーバブルメモリ１３６４に記憶され、さらにハードディスク１３５４に転送される。又は、プログラムはネットワーク１３６８を通じてコンピュータ１３４０に送信されハードディスク１３５４に記憶されてもよい。プログラムは実行の際にＲＡＭ１３６０にロードされる。ＤＶＤ１３６２から、リムーバブルメモリ１３６４から又はネットワーク１３６８を介して、直接にＲＡＭ１３６０にプログラムをロードしてもよい。

このプログラムは、コンピュータ１３４０を、上記実施の形態に係る学習データ生成補助装置２０４の各機能部として機能させるための複数の命令からなる命令列を含む。コンピュータ１３４０にこの動作を行わせるのに必要な基本的機能のいくつかはコンピュータ１３４０上で動作するオペレーティングシステム若しくはサードパーティのプログラム又はコンピュータ１３４０にインストールされる、ダイナミックリンク可能な各種プログラミングツールキット又はプログラムライブラリにより提供される。したがって、このプログラム自体はこの実施の形態のシステム及び方法を実現するのに必要な機能全てを必ずしも含まなくてよい。このプログラムは、命令の内、所望の結果が得られるように制御されたやり方で適切な機能又はプログラミングツールキット又はプログラムライブラリ内の適切なプログラムを実行時に動的に呼出すことにより、上記したシステムとしての機能を実現する命令のみを含んでいればよい。もちろん、プログラムのみで必要な機能を全て提供してもよい。

１５０ 照応・省略解析システム
１６０ アノテーションデータ生成補助システム
１６２ 学習データＤＢ
１６４ 学習システム
１６６ 省略検出器
１６８ 照応詞検出器
１７０ 先行詞特定器
１７２ 照応・省略解析装置
１９０ 既存小規模学習データＤＢ
１９２ テキストアーカイブ
１９４，２２８，２５６ 言語知識ＤＢ
１９６ 言換え・カテゴリ辞書
１９８ パターン辞書
２００，２２０，２５８ 質問タイプＤＢ
２０２ 入出力装置
２０４ 学習データ生成補助装置
２０６，２２６，２６０ 質問応答システム
２２２ 検出器学習装置
２２４，２６２ 選択制限ＤＢ
２５２ 照応・省略解析器
２７８ 項共有知識
２８２，９７２ 項共有判別器学習装置
２８３，９７４ 項共有判別器
１０１４ ＤＥＰ型項共有判別器
１０５４ ＡＤＪ型項共有判別器
１０９４ ＰＮＰ型項共有判別器
１１３０ 項共有知識収集装置
１１５０ 先行詞特定器
１１６２ 述語抽出部
１１６４ 述語ＤＢ
１１６８ 項共有判定部
１１７０ 項共有述語グループ検索部
１１７２ 項共有述語ネットワーク生成部
１１７６ 共有項判定部
１１７８ 共有項伝搬部
１１８２ 補充判定部

Claims (5)

1. 項を共有する述語対に関する項共有知識を用いて、入力テキストの照応・省略解析を行う照応・省略解析装置であって、
   前記照応・省略解析は、前記入力テキスト中の指示語の指す語を特定する照応解析と、前記入力テキスト中の省略を補完する省略解析とを含み、
   ２つの述語が項を共有するか否かの判別結果を、当該判別の信頼度を示すスコアとともに出力するように、２つの述語が項を共有するか否かを表す情報を含む項共有知識を学習データとする機械学習により予め学習した項共有判別手段と、
   前記入力テキストに含まれる述語からなる全ての述語対について、前記項判別手段を用いて当該全ての述語対の各々が項を共有するか否かを判定することにより、前記入力テキストを解析するための項共有解析手段と、
   前記入力テキストに対し、前記項共有解析手段により項を共有すると判定された述語対であって、当該述語対の中の１個の述語が共有する項が値を持ち、他の述語が共有する項が省略又は指示語であるときに、前記１個の述語が共有する前記項の値が前記他の語が共有する項の値であると特定する照応・省略解析を行って、前記入力テキストに含まれる照応・省略箇所とその指し先とに関してアノテーションされたテキストを出力する照応・省略解析手段とを含む、照応・省略解析装置。
2. 前記照応・省略解析手段は、
   前記項共有解析手段により項を共有すると判別された述語対について、同じ項を共有する複数の述語からなる項共有述語ネットワークを生成するネットワーク生成手段と、
   前記ネットワーク生成手段により生成された前記項共有述語ネットワークの各々について、項共有述語ネットワークに属する述語について前記照応・省略解析により特定される項の値の中で特定の条件を満たす値を当該項共有述語ネットワークに属する述語の共有する項の値として決定する項決定手段と、
   前記項決定手段により決定された値を、当該項共有述語ネットワーク内の述語により共有される項に伝搬させてアノテーションを行う値伝搬手段とを含み、
   前記項決定手段は、
   前記ネットワーク生成手段により生成された前記項共有述語ネットワークの各々に属する述語の各々について、前記照応・省略解析により特定される値を当該述語が他の述語と共有する項の値の候補として決定する候補決定手段を含み、
   前記特定の条件とは、前記候補決定手段により決定された１つのみの値の候補である、又は前記候補決定手段により決定された複数の値の候補の中で前記信頼度の最も高い候補の値である、という条件を含み、
   前記項決定手段はさらに、
   前記候補決定手段により決定された値の候補が１つであるときには、当該項共有述語ネットワークに属する述語の共有する項の値を当該候補に決定する手段と、
   前記候補決定手段により決定された値の候補が複数であるときは、前記候補決定手段により各候補が決定されたときの前記信頼度の最も高い候補を選択し、当該項共有述語ネットワークに属する述語の共有する項の値を当該候補に決定する手段とを含む、請求項１に記載の照応・省略解析装置。
3. 前記照応・省略解析装置はさらに、ある項共有述語ネットワークに属する述語の各々について、前記候補決定手段により決定された値の候補が１つもないときに、当該項共有述語ネットワークに属する述語が共有する項の値を、前記照応・省略解析手段と異なる手法により決定するための手段を含む、請求項２に記載の照応・省略解析装置。
4. 前記照応・省略解析装置はさらに、前記入力テキストにおいて、前記項共有解析手段により他の述語と項を共有しないと判定された述語に対して、前記照応・省略解析手段と異なる手法により、当該述語の指す項の値を特定する手段を含む、請求項２又は請求項３に記載の照応・省略解析装置。
5. コンピュータを、請求項１〜請求項４のいずれかに記載の照応・省略解析装置の全ての手段として機能させる、コンピュータプログラム。

Images