JP5916016B2 - 同義判定装置、同義学習装置、及びプログラム - Google Patents
同義判定装置、同義学習装置、及びプログラム Download PDFInfo
- Publication number
- JP5916016B2 JP5916016B2 JP2012274963A JP2012274963A JP5916016B2 JP 5916016 B2 JP5916016 B2 JP 5916016B2 JP 2012274963 A JP2012274963 A JP 2012274963A JP 2012274963 A JP2012274963 A JP 2012274963A JP 5916016 B2 JP5916016 B2 JP 5916016B2
- Authority
- JP
- Japan
- Prior art keywords
- predicate
- feature
- pair
- term
- predicates
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Machine Translation (AREA)
Description
本発明は、同義判定装置、同義学習装置、及びプログラムに係り、特に、述部ペアの同義性を判定するための同義判定装置、同義学習装置、及びプログラムに関する。
現在、Ｗｅｂ上のブログや音声対話ログなど大量のテキスト情報から欲しい情報を探し出す検索技術や、有益な情報のみを自動で抽出・集計するテキストマイニング技術の高精度化が求められている。これらを実現するために必要なのが、計算機による自然文の意味理解である。
例えば、（１）「ＸＸのランチに満足だった。」、（２）「ＸＸのランチを堪能しました。」という２つの文があった場合、これらが「同じ事を表している」と判定できなくては、利用者が求める情報を正しく検索できなかったり、テキストマイニングで必要な「同じ情報のまとめ上げ」ができない。
上記（１）の文と（２）の文は同じ事を表しているが、文字列からはこれらが同じ意味（すなわち、同義）であることは認識できない。そのため、ユーザが求める情報検索や情報抽出に障害が起きる。そこで、表層文字列以外を手がかりに自然文の意味理解を行う必要がある。
特に、「満足だった」や「堪能しました」のような文の「どうした」を表す述部は、文の核情報を表しており、これらの同義判定が可能になれば、より精度の高い情報検索・情報抽出が可能となる。
従来の述部の同義判定手法として、「（景気が）冷え込む」と「（景気が）悪化する」の「冷え込む」と「悪化する」のように、組み合わさる要素によって同義になるような述部を含めた同義判定手法が提案されている（以後、「どうした」を表す部分（すなわち「冷え込む」と「悪化する」）を述部、「何が」や「何を」の部分（すなわち、「景気」）を項と呼ぶ。）（非特許文献１）。
この同義判定手法は、「景気が-冷え込む」のように、「何が」や「何を」を表す項と述部をペアにし、分布類似度というものを用いて、同義計算を行う。
分布類似度とは、似た意味の単語はその単語が出現する文脈も似ているという考えに基づき、同義計算の対象となる単語の周辺に出てくる要素を素性として、周辺にどのような要素がどのような頻度で出てきているかをもとに、似た文脈で出てくる単語か否かを計算するものである。
また、上記の同義判定手法は、対象の「項−述部」に対して、それらの周辺に現れる別の「項−述部」、もしくは「述部」を素性とし、周辺に現れる要素の分布類似度を用いて、同義性を判定する。
柴田知秀・黒橋禎夫(2010). 文脈に依存した述語の同義関係獲得. IPSJ SIG Notes 2010-NL-199(13), 1-6.
しかし、上記の非特許文献１に記載の手法では、（３）「棚を撤去する」、（４）「棚を設置する」というまったく逆の事を表す表現である２文についても「意味が類似している」と判定されるという問題がある。
また、（５）「テキストを作成する」、（６）「テキストを用いる」という「ある動作の連続」を表す２文（これらの述部関係を、以後「時間経過関係」と呼ぶ。）についても、述部同士が、高い類似性を出してしまうという問題がある。
これらの問題は、分布類似度が「文脈の類似性によって同義を判定する」ために起きてしまう。たとえば、非特許文献１の手法では、１文内に対象の「項−述部」もしくは「述部」と一緒に出現する単語を手がかりに同義性を判定する。しかし、反義の述部は、その述部以外はまったく同じ文脈で出現することが可能なために、分布類似度では判定が難しい。同様に、「時間経過」を表す述部同士も、「教師が協力して、テキストを作成し、授業ではそのテキストを用いる。」というように、一文内に時間経過をあらわす述部が存在することが多々ある。その場合、「テキスト−ヲ−作成する」と「テキスト−ヲ−用いる」は両方とも「教師−ガ−協力」という単語を共有するため、結果として類似度が高くなる。
このように、非特許文献１の手法では、周辺単語の出現を素性として単語の類似度を測る分布類似度を用いていることにより、周辺単語が似ている「反義関係」や「時間経過関係」も「類似している」と判定されるため、述部の同義判定が高精度にできないという問題がある。
品詞が動詞、形容詞、形容動詞、名詞である単語を「内容語」と呼び、助詞・助動詞など述部の内容語の後に現れる文末表現を「機能表現」（非特許文献６：松吉俊, 佐藤理史, 宇津呂武仁（2007）日本語機能表現辞書の編纂 自然言語処理, vol.14, No.5, 123-146.）と呼ぶ。同義判定の対象である述部は、例えば「募集している」というよう述部は、「募集する」という「内容語」と「ている」という動作の継続を表す「機能表現」から構成されている。
機能表現は、述部に重要な意味（例えば、「動作の継続を表す」）を与えており、述部を考慮することが同義判定では必要となる。たとえば、（７）「サポーターを募集している」、（８）「サポーターを募っている」（（７）と同義）、（９）「サポーターを募っているかもしれない」（（７）とは同義ではない）の「募集する」と「募る」という述部はどの機能表現と組み合わされるかによって同義になったり同義にならなかったりする。
また、機能表現の出現のパターンそのものが、述部同士が同義か否かを表す重要な特徴となる場合がある。「キッチンが片付いている」の述部の内容語である「片付く」と、「キッチンが整っている」の述部の内容語である「整う」を例に説明する。図２に、ブログ８００万文から抽出した内容語「片付く」と「整う」に対する機能表現の出現頻度の一例を示す。「片付く」と「整う」の後に出現する機能表現は、どちらに対しても「継続」を表す「ている」や「ていた」のような表現が多い。これは、「片付く」や「整う」という内容語は、お互い無生物のものを主語（たとえば、「部屋」、「机の上」など）とする動詞である。そのため、「ている」という表現をつけることで、その主語の「状態」を表す表現になりやすい。一方、「片付けたい」や「整いたい」というような願望表現はあまり出現しない。このように、同義の内容語は似たような機能表現と出現しやすい。述部の同義判定を目的とした場合、述部内の機能表現の出現パターンが、同義となるか否かを判定するために重要な特徴となる場合があり、述部の同義判定を行う場合、述部の機能表現を考慮することが必要である。
しかし、上記の非特許文献１に記載の手法では、述部の機能表現を考慮して同義判定を行うためには、上記の（７）（８）（９）を例にすると、「募集している」、「募っている」、「募るかもしれない」という３つの異なる述部として、それぞれの分布類似度を計算しなくてはならない。その場合、分布類似度計算のデータがスパースになってしまうため（すなわち、それぞれの述部の出現頻度が、内容語より大幅に減ってしまう）、正しく分布類似度を計算するためには、膨大なデータを必要とするという問題がある。
本発明では、上記問題点を解決するために成されたものであり、述部ペアが同義であるか否かを高精度に判定することができる同義判定装置、同義学習装置、及びプログラムを提供することを目的とする。
上記目的を達成するために、第１の発明の同義判定装置は、予め用意された複数の述部の各々についての定義文からなる定義文集合から得られる、入力された述部ペアの述部各々の定義文に基づいて抽出される、前記述部ペアの述部各々の前記定義文内にペアとなる述部が存在するか否かである第１の素性、及び予め用意された複数の述部の各々についての意味属性からなる意味属性集合から得られる、前記入力された前記述部ペアの述部各々の意味属性に基づいて抽出される前記述部ペアで共通する意味属性である第２の素性のうち少なくとも１つを抽出する素性構築部と、予め求められた同義判定モデルが記憶された同義判定モデル記憶部と、前記素性構築部で抽出された素性に基づいて前記同義判定モデル記憶部に記憶された前記同義判定モデルを基に前記入力された述部ペアが同義であるか否かを判定する同義判定部と、を含んで構成されている。
第１の発明によれば、素性構築部によって、予め用意された複数の述部の各々についての定義文からなる定義文集合から得られる、入力された述部ペアの述部各々の定義文に基づいて抽出される、前記述部ペアの述部各々の前記定義文内にペアとなる述部が存在するか否かを第１の素性とし、予め用意された複数の述部の各々についての意味属性からなる意味属性集合から得られる、前記入力された前記述部ペアの述部各々の意味属性に基づいて抽出される前記述部ペアで共通する意味属性を第２の素性とし、前記第１の素性及び前記第２の素性のうち少なくとも１つを抽出し、同義判定部によって、述部ペアが同義であるか否かを判定するための予め求められた同義判定モデルが記憶された同義判定モデル記憶部と、前記素性構築部によって抽出された前記第１の素性及び前記第２の素性のうち少なくとも１つの素性に基づいて前記同義判定モデル記憶部に記憶された前記同義判定モデルを基に前記入力された述部ペアが同義であるか否かを判定する。
このように、入力された述部ペアの述部各々の定義文内にペアとなる述部が存在するか否かを第１の素性とし、入力された述部ペアの述部各々の意味属性で共通する意味属性を第２の素性とし、第１の素性及び第２の素性のうち少なくとも１つを抽出し、入力された述部ペアが同義であるか否かを判定することにより、述部ペアが同義であるか否かを高精度に判定することができる。
第２の発明の同義判定装置は、予め用意された複数の述部の各々についての定義文からなる定義文集合から得られる、入力された「項-述部」ペアの述部各々の定義文に基づいて抽出される、前記「項-述部」ペアの述部各々の前記定義文内にペアとなる述部が存在するか否か、及び前記「項-述部」ペアの述部の各々の前記定義文内にペアとなる「項-述部」の項が存在するか否かのうち少なくとも前記述部が存在するか否かである第１の素性、及び予め用意された複数の述部の各々についての意味属性からなる意味属性集合から得られる、前記入力された前記「項-述部」ペアの述部各々の意味属性に基づいて抽出される前記「項-述部」ペアで共通する意味属性である第２の素性のうち少なくとも１つを抽出する素性構築部と、予め求められた同義判定モデルが記憶された同義判定モデル記憶部と、前記素性構築部で抽出された素性に基づいて前記同義判定モデル記憶部に記憶された前記同義判定モデルを基に前記入力された「項-述部」ペアが同義であるか否かを判定する同義判定部と、を含んで構成されている。
第２の発明によれば、素性構築部によって、予め用意された複数の述部の各々についての定義文からなる定義文集合から得られる、入力された「項-述部」ペアの述部各々の定義文に基づいて抽出される、前記「項-述部」ペアの述部各々の前記定義文内にペアとなる述部が存在するか否か、及び前記「項-述部」ペアの述部の各々の前記定義文内にペアとなる「項-述部」の項が存在するか否かのうち少なくとも前記述部が存在するか否かを第１の素性とし、予め用意された複数の述部の各々についての意味属性からなる意味属性集合から得られる、前記入力された前記「項-述部」ペアの述部各々の意味属性に基づいて抽出される前記「項-述部」ペアで共通する意味属性を第２の素性とし、前記第１の素性及び前記第２の素性のうち少なくとも１つを抽出し、同義判定部によって、「項-述部」ペアが同義であるか否かを判定するための予め求められた同義判定モデルが記憶された同義判定モデル記憶部と、前記素性構築部によって抽出された前記第１の素性及び前記第２の素性のうち少なくとも１つの素性に基づいて前記同義判定モデル記憶部に記憶された前記同義判定モデルを基に前記入力された「項-述部」ペアが同義であるか否かを判定する。
このように、入力された「項-述部」ペアの述部各々の定義文内にペアとなる述部が存在するか否か、及び前記「項-述部」ペアの述部の各々の前記定義文内にペアとなる「項-述部」の項が存在するか否かのうち少なくとも前記述部が存在するか否かを第１の素性とし、入力された「項-述部」ペアの述部各々の意味属性で共通する意味属性を第２の素性とし、第１の素性及び第２の素性のうち少なくとも１つを抽出し、入力された「項-述部」ペアが同義であるか否かを判定することにより、述部ペアが同義であるか否かを高精度に判定することができる。
第３の発明の同義判定学習装置は、予め用意された複数の述部の各々についての定義文からなる定義文集合から得られる、述部ペアの述部各々の定義文に基づいて抽出される、前記述部ペアの述部各々の前記定義文内にペアとなる述部が存在するか否かである第１の素性、及び予め用意された複数の述部の各々についての意味属性からなる意味属性集合から得られる、前記述部ペアの述部各々の意味属性で共通する意味属性である第２の素性のうち少なくとも１つを、同義か否かの情報が付され、かつ、予め用意された複数の述部ペアの各々について抽出する素性構築部と、前記素性構築部によって前記複数の述部ペアについて抽出された第１の素性及び前記第２の素性のうち少なくとも１つと、前記複数の述部ペアについての前記同義か否かの情報とに基づいて同義判定モデルを学習する同義判定モデル学習部と、を含んで構成されている。
第３の発明によれば、素性構築部によって予め用意された複数の述部の各々についての定義文からなる定義文集合から得られる、述部ペアの述部各々の定義文に基づいて抽出される、前記述部ペアの述部各々の前記定義文内にペアとなる述部が存在するか否かを第１の素性とし、予め用意された複数の述部の各々についての意味属性からなる意味属性集合から得られる、前記述部ペアの述部各々の意味属性で共通する意味属性を第２の素性とし、同義か否かの情報が付され、かつ、予め用意された複数の述部ペアの各々について、前記第１の素性及び前記第２の素性のうち少なくとも１つを抽出し、前記素性構築部によって前記複数の述部ペアについて抽出された第１の素性及び前記第２の素性のうち少なくとも１つと、前記複数の述部ペアについての前記同義か否かの情報とに基づいて前記述部ペアが同義であるか否かを判定するための同義判定モデルを学習する。
このように、述部ペアの述部各々の前記定義文内にペアとなる述部が存在するか否かを第１の素性とし、述部ペアの述部各々の意味属性で共通する意味属性を第２の素性とし、同義か否かの情報が付され、かつ、予め用意された複数の述部ペアの各々について、第１の素性及び第２の素性のうち少なくとも１つを抽出し、述部ペアが同義であるか否かを判定するための同義判定モデルを学習することにより、述部ペアが同義であるか否かを高精度に判定することができる。
第４の発明の同義判定学習装置は、予め用意された複数の述部の各々についての定義文からなる定義文集合から得られる、「項-述部」ペアの述部各々の定義文に基づいて抽出される、前記「項-述部」ペアの述部各々の前記定義文内にペアとなる述部が存在するか否か、及び前記「項-述部」ペアの述部の各々の前記定義文内にペアとなる「項-述部」の項が存在するか否かのうち少なくとも前記述部が存在するか否かである第１の素性、及び予め用意された複数の述部の各々についての意味属性からなる意味属性集合から得られる、前記「項-述部」ペアの述部各々の意味属性で共通する意味属性である第２の素性のうち少なくとも１を、同義か否かの情報が付され、かつ、予め用意された複数の「項-述部」ペアの各々について抽出する素性構築部と、前記素性構築部によって前記複数の「項-述部」ペアについて抽出された第１の素性及び前記第２の素性のうち少なくとも１つと、前記複数の「項-述部」ペアについての前記同義か否かの情報とに基づいて同義判定モデルを学習する同義判定モデル学習部と、を含んで構成されている。
第４の発明によれば、素性構築部によって予め用意された複数の述部の各々についての定義文からなる定義文集合から得られる、「項-述部」ペアの述部各々の定義文に基づいて抽出される、前記「項-述部」ペアの述部各々の前記定義文内にペアとなる述部が存在するか否か、及び前記「項-述部」ペアの述部の各々の前記定義文内にペアとなる「項-述部」の項が存在するか否かのうち少なくとも前記述部が存在するか否かを第１の素性とし、予め用意された複数の述部の各々についての意味属性からなる意味属性集合から得られる、前記「項-述部」ペアの述部各々の意味属性で共通する意味属性を第２の素性とし、同義か否かの情報が付され、かつ、予め用意された複数の「項-述部」ペアの各々について、前記第１の素性及び前記第２の素性のうち少なくとも１つを抽出し、前記素性構築部によって前記複数の「項-述部」ペアについて抽出された第１の素性及び前記第２の素性のうち少なくとも１つと、前記複数の「項-述部」ペアについての前記同義か否かの情報とに基づいて前記「項-述部」ペアが同義であるか否かを判定するための同義判定モデルを学習する。
このように、「項-述部」ペアの述部各々の前記定義文内にペアとなる述部が存在するか否か、及び前記「項-述部」ペアの述部の各々の前記定義文内にペアとなる「項-述部」の項が存在するか否かのうち少なくとも前記述部が存在するか否かを第１の素性とし、「項-述部」ペアの述部各々の意味属性で共通する意味属性を第２の素性とし、同義か否かの情報が付され、かつ、予め用意された複数の「項-述部」ペアの各々について、第１の素性及び第２の素性のうち少なくとも１つを抽出し、「項-述部」ペアが同義であるか否かを判定するための同義判定モデルを学習することにより、「項-述部」ペアが同義であるか否かを高精度に判定することができる。
また、上記第１の発明に係る同義判定装置は、前記第１の素性及び前記第２の素性のうち少なくとも１つの素性を抽出すると共に、前記述部ペアの述部各々の前記定義文の両方に出現する語彙の数である第３の素性、前記入力された前記述部ペアの述部各々の意味属性に基づいて抽出される前記述部ペアに共通する意味属性の詳細の度合いに応じた重みを付加した前記述部ペアの意味属性の重なり度合いである第４の素性、入力された前記述部ペアの述部の各々について、テキストコーパスにおいて前記述部の周辺に出現する単語を比較した分布類似度である第５の素性、予め用意された複数の述部の各々の機能表現の意味ラベルからなる意味ラベル集合から得られる、前記入力された前記述部ペアの述部各々の機能表現の意味ラベルに基づいて抽出される前記述部ペアで共通する意味ラベルである第６の素性、及び前記述部ペアの前記共通する意味ラベルの重なり度合いである第７の素性のうち少なくとも１つの素性を抽出し、前記同義判定部は、前記素性構築部によって抽出された素性に基づいて前記述部ペアが同義であるか否かを判定するようにすることができる。
また、上記第２の発明に係る同義判定装置は、前記第１の素性及び前記第２の素性のうち少なくとも１つの素性を抽出すると共に、前記「項-述部」ペアの述部各々の前記定義文の両方に出現する語彙の数である第３の素性、前記入力された前記「項-述部」ペアの述部各々の意味属性に基づいて抽出される前記「項-述部」ペアに共通する意味属性の詳細の度合いに応じた重みを付加した前記「項-述部」ペアの意味属性の重なり度合いである第４の素性、入力された前記「項-述部」ペアの「項-述部」の各々について、テキストコーパスにおいて前記「項-述部」の周辺に出現する単語を比較した分布類似度、及び前記「項-述部」ペアの述部の各々について、テキストコーパスにおいて前記「項-述部」の述部の周辺に出現する単語を比較した分布類似度のうち少なくとも前記「項-述部」の周辺に出現する単語を比較した分布類似度である第５の素性、予め用意された複数の述部の各々の機能表現の意味ラベルからなる意味ラベル集合から得られる、前記入力された前記「項-述部」ペアの述部各々の機能表現の意味ラベルに基づいて抽出される前記「項-述部」ペアで共通する意味ラベルである第６の素性、及び前記「項-述部」ペアの前記共通する意味ラベルの重なり度合いである第７の素性のうち少なくとも１つの素性を抽出し、前記判定手段は、前記素性抽出手段によって抽出された素性に基づいて前記「項-述部」ペアが同義であるか否かを判定するようにすることができる。
また、本発明のプログラムは、コンピュータを、上記の同義判定装置又は同義学習装置を構成する各手段として機能させるためのプログラムである。
以上説明したように、本発明の同義判定装置、同義学習装置、及びプログラムによれば、述部ペアが同義であるか否かを高精度に判定することができる。
以下、図面を参照して本発明の実施の形態を詳細に説明する。
＜素性ベクトル構築装置の構成＞
本発明の実施の形態に係る素性ベクトル構築装置について説明する。図１に示すように、本発明の実施の形態に係る素性ベクトル構築装置１００は、ＣＰＵとＲＡＭと後述する素性ベクトル構築処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。この素性ベクトル構築装置１００は、機能的には図１に示すように入力部１０と、演算部２０と、出力部３０とを備えている。
本発明の実施の形態に係る素性ベクトル構築装置について説明する。図１に示すように、本発明の実施の形態に係る素性ベクトル構築装置１００は、ＣＰＵとＲＡＭと後述する素性ベクトル構築処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。この素性ベクトル構築装置１００は、機能的には図１に示すように入力部１０と、演算部２０と、出力部３０とを備えている。
入力部１０は、キーボードなどの入力装置から自然言語で記載され且つ電子化された複数の文を受け付ける。この複数の文による集合をテキストコーパスと呼ぶ。なお、入力部１０は、ネットワーク等を介して外部から入力されたものを受け付けるようにしてもよい。
演算部２０は、基本解析部２４と、素性抽出部２６と、素性ベクトル生成部２８とを備えている。
基本解析部２４には、入力部１０が受け付けたテキストコーパスが入力される。基本解析部２４は、入力されたテキストコーパスの各文について、形態素解析及び係り受け解析を行い、形態素毎の表記と標準形と品詞、および文節ごとの係り受け情報が少なくとも含まれる解析結果を素性抽出部２６に出力する。図３に「花を植えて、花壇が完成した。」という文に対する基本解析部２４の出力の一例を示す。なお、形態素解析、係り受け解析は既存のものを用いて良い。
素性抽出部２６は、基本解析部２４から入力される各文の解析結果を用い、各文に含まれる「項-述部」に対して、その「項−述部」の周辺に現れる単語の情報（文脈情報）を項述部素性として抽出して出力する。また、素性抽出部２６は、基本解析部２４から入力される各文の解析結果を用い、各文に含まれる述部に対して、その述部の周辺に現れる単語の情報（文脈情報）を述部素性として抽出して出力する。本実施形態では、例えば上記の非特許文献１と同じ方法で項述部素性や述部素性を抽出する。具体的には、対象の「項−述部」に係っている別の「項−述部」、「述部」を項述部素性として抽出する。さらに、「述部」単体に係っている項（格助詞をもつ名詞句）、及び別の「述部」を述部素性として抽出する。本実施形態での素性抽出部２６の出力の一例を図４に示す。図４に示す通り、「花壇-ガ-完成する」という「項-述部」に対して、「植える」という「述部」および、「花-ヲ-植える」という別の「項-述部」を項述部素性として抽出する。また、「完成する」という述部に対しては、「花壇-ガ」という項と「植える」という述部を述部素性として抽出する。
素性ベクトル生成部２８は、基本解析部２４から入力される各文の解析結果を用いて、各文に含まれる「項−述部」を素性ベクトル構築対象の「項−述部」として抽出する。そして、素性ベクトル生成部２８は、抽出された素性ベクトル構築対象の「項-述部」ごとに素性抽出部２６から入力される項述部素性を用いて算出される値を要素とする素性ベクトルを構築し、出力部３０に出力する。また、素性ベクトル生成部２８は、基本解析部２４から入力される各文の解析結果を用いて、各文に含まれる述部を素性ベクトル構築対象の述部として抽出する。そして、素性ベクトル生成部２８は、抽出された素性ベクトル構築対象の述部ごとに素性抽出部２６から入力される述部素性を用いて算出される値を要素とする素性ベクトルを構築し、出力部３０に出力する。本実施形態では、例えば非特許文献１と同じ方法で素性ベクトルを構築する。具体的には、素性ベクトル構築対象の「項−述部」と各項述部素性の相互情報量（ＭＩ）をもとに算出されるweightの値を要素の値とする素性ベクトルを構築する。また、素性ベクトル構築対象の述部と各述部素性の相互情報量（ＭＩ）をもとに算出されるweightの値を要素の値とする素性ベクトルを構築する。weightは、下記（１）式を用いて算出される。また、相互情報量（ＭＩ）は、下記（２）式を用いて算出される。
素性ベクトル構築対象が「項-述部」の場合の素性ベクトルを項述部素性ベクトルと呼ぶ。素性ベクトル構築対象が「項-述部」の場合、ｕは「項-述部」を表し、ｆは項述部素性を表す。Ｐ（ｕ）は素性ベクトル構築対象の「項−述部」がテキストコーパスに出現する確率を、Ｐ（ｆ）は項述部素性がテキストコーパスに出現する確率、Ｐ（ｕ，ｆ）は素性ベクトル構築対象の「項-述部」と項述部素性が同時に現れる確率を表す。ＭＩが０より大きい場合、weightの値は１となる。ＭＩが０以下の場合、weightの値は０となる。図５上の表に構築された項述部素性ベクトルの例を示す。例では、uが「花壇-ガ-完成」、fが「花-ヲ-植える」の場合、ＭＩが０より大きくweightの値が１であることを示している。また、uが「花壇-ガ-出来上がる」、fが「時間-ヲ-かける」の場合、ＭＩが０以下でweightの値が０であることを示している。
素性ベクトル構築対象が述部の場合の素性ベクトルを述部素性ベクトルと呼ぶ。素性ベクトル構築対象が述部の場合、ｕは述部を表し、ｆは述部素性を表す。Ｐ（ｕ）は素性ベクトル構築対象の述部がテキストコーパスに出現する確率を、Ｐ（ｆ）は述部素性がテキストコーパスに出現する確率、Ｐ（ｕ，ｆ）は素性ベクトル構築対象の述部と述部素性が同時に現れる確率を表す。ＭＩが０より大きい場合、weightの値は１となる。ＭＩが０以下の場合、weightの値は０となる。図５下の表に構築された述部素性ベクトルの例を示す。例では、uが「完成」、fが「花壇-ガ」の場合、ＭＩが０より大きくweightの値が１であることを示している。また、uが「出来上がる」、fが「家-ガ」の場合、ＭＩが０以下でweightの値が０であることを示している。
このように、本実施形態では、入力されたテキストコーパスに含まれる各述部を素性ベクトルの構築対象とした述部素性ベクトルと、入力されたテキストコーパスに含まれる各「項-述部」を素性ベクトルの構築対象とした項述部素性ベクトルの２種類（以下、両者を合わせて「素性ベクトル」とする。）を作成する。
本実施形態では、述部素性ベクトルと項述部素性ベクトルの両方を作成したが、後述する同義学習装置及び同義判定装置で使用される素性ベクトルのみを作成すれば良い。
本実施形態では、述部素性ベクトルと項述部素性ベクトルの両方を作成したが、後述する同義学習装置及び同義判定装置で使用される素性ベクトルのみを作成すれば良い。
＜同義学習装置の構成＞
次に、本発明の実施の形態に係る同義学習装置の構成について説明する。図６に示すように、本発明の実施の形態に係る同義学習装置２００は、ＣＰＵとＲＡＭと後述する判定モデル学習処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することができる。この同義学習装置２００は、機能的には図６に示すように入力部１１０と、演算部１２０と、出力部１５０とを備えている。
次に、本発明の実施の形態に係る同義学習装置の構成について説明する。図６に示すように、本発明の実施の形態に係る同義学習装置２００は、ＣＰＵとＲＡＭと後述する判定モデル学習処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することができる。この同義学習装置２００は、機能的には図６に示すように入力部１１０と、演算部１２０と、出力部１５０とを備えている。
入力部１１０は、キーボードなどの入力装置から同義か否かの情報が付与された複数の述部ペア及び複数の「項−述部」ペアを受け付ける。この、同義か否かの情報が付与された複数の述部ペア及び複数の「項−述部」ペアを正解コーパスと呼ぶ。なお、入力部１１０は、ネットワーク等を介して外部から入力されたものを受け付けるようにしてもよい。
演算部１２０は、素性ベクトル記憶部１２４と、分布類似度計算部１３２と、定義文辞書記憶部１３４と、辞書定義文素性抽出部１３６と、意味属性辞書記憶部１３８と、機能表現辞書記憶部１３９と、意味属性素性抽出部１４０と、機能表現素性抽出部１４１と、素性集合記憶部１４２と、同義判定モデル学習部１４４と、を含んだ構成で表すことができる。
正解コーパス１２２（図１１に記載）は、入力部１１０において受け付けた、図７に示すような人手であらかじめ意味関係情報「同義」が付された述部ペア及び「項−述部」ペアである正解データの集合（正例）と、意味関係情報「反義」又は「その他」が付された述部ペア及び「項−述部」ペアである正解データの集合（負例）である。
素性ベクトル記憶部１２４は、素性ベクトル構築装置１００により出力された素性ベクトルを記憶している。
分布類似度計算部１３２は、入力された正解コーパス１２２のすべての述部ペア又は「項−述部」ペア各々に対して、素性ベクトル記憶部１２４から得られる、対応する素性ベクトルを用いて、分布類似度を計算し、計算結果をその計算対象の述部ペア又は「項-述部」ペアとともに素性集合記憶部１４２に出力する。述部素性ベクトルを用いて計算される分布類似度を述部分布類似度と呼び、項述部素性ベクトルを用いて計算される分布類似度を項述部分布類似度と呼ぶ。述部ペアに対して分布類似度を計算する場合は、述部に関しての情報のみを使うため、述部分布類似度のみが算出されるが、「項-述部」ペアに対して分布類似度を計算する場合は、「項-述部」に関しての情報のみならず、述部に関する情報も使うことができるため、項述部分布類似度と述部分布類似度の両方を算出することができる。分布類似度の計算は、素性ベクトル構築装置１００によってテキストコーパスから得られた述部素性ベクトル及び項述部素性ベクトルの少なくとも一方を用いて分布類似度を計算する処理である。また、本実施形態では、非特許文献１と同じ方法で分布類似度を計算する。具体的には、下記（３）〜（５）式を用いて分布類似度を計算し、式（３）のｍｅａｓｕｒｅが分布類似度である。
ただし、上記（４）式の、ＪＡＣＣＡＲＤ係数の分子は、項述部素性ベクトルを用いて分布類似度の算出を行う場合、２つの項述部素性ベクトルを要素毎に比較したときに、一方の項述部素性ベクトルの要素の値が１であり、且つ他方の項述部素性ベクトルの要素の値も１である要素の個数である。また、ＪＡＣＣＡＲＤ係数の分母は、分布類似度の算出に用いるペアの２つの項述部素性ベクトルを要素毎に比較したときに、一方の項述部素性ベクトルの要素および他方の項述部素性ベクトルの要素の少なくとも一方の要素の値が１である要素の個数である。
また、上記（５）式の、ＳＩＭＰＳＯＮ係数の分子は、ＪＡＣＣＡＲＤ係数の分子と同様であり、ＳＩＭＰＳＯＮ係数の分母は、算出に用いるペアの項述部素性ベクトルにおいて要素の値が１である要素の個数と、他方の項述部素性ベクトルにおいて要素の値が１である要素の個数のうち、少ないほうの個数である。
ただし、上記（４）式の、ＪＡＣＣＡＲＤ係数の分子は、述部素性ベクトルを用いて分布類似度の算出を行う場合、２つの述部素性ベクトルを要素毎に比較したときに、一方の述部素性ベクトルの要素の値が１であり、且つ他方の述部素性ベクトルの要素の値も１である要素の個数である。また、ＪＡＣＣＡＲＤ係数の分母は、分布類似度の算出に用いるペアの２つの述部素性ベクトルを要素毎に比較したときに、一方の述部素性ベクトルの要素および他方の述部素性ベクトルの要素の少なくとも一方の要素の値が１である要素の個数である。
また、上記（５）式の、ＳＩＭＰＳＯＮ係数の分子は、ＪＡＣＣＡＲＤ係数の分子と同様であり、ＳＩＭＰＳＯＮ係数の分母は、算出に用いるペアの述部素性ベクトルにおいて要素の値が１である要素の個数と、他方の述部素性ベクトルにおいて要素の値が１である要素の個数のうち、少ないほうの個数である。
なお、本実施形態では述部分布類似度と項述部分布類似度の両方を用いる。図８に「花壇-ガ-完成する」と「花壇-ガ-出来上がる」の分布類似度の例を示す。図８の表の上段が項述部分布類似度の例であり、下段が述部分布類似度の例である。述部分布類似度と項述部分布類似度あわせて分布類似度と呼ぶ。また、分布類似度が第５の素性の一例である。
＜辞書定義文素性抽出部の構成＞
辞書定義文素性抽出部１３６は、入力された正解コーパスのすべての述部ペアの内容語又はすべての「項−述部」ペアの内容語の各々に関して、定義文辞書記憶部１３４に記憶されている定義文辞書に基づいて「定義文相互補完性」を示す素性と「語彙の重なり」を示す素性を抽出し、抽出対象のペアとともに素性集合記憶部１４２に出力する。定義文辞書は、複数の述部の内容語の各々に対応する1つ以上の定義文からなり、定義文辞書から抽出される各々の１つ以上の定義文のセットを定義文セットと呼ぶ。なお、定義文相互補完性を示す素性が第１の素性の一例であり、語彙の重なりを示す素性が第３の素性の一例である。また、第１の素性と第３の素性をあわせて辞書定義文素性と呼ぶ。
辞書定義文素性抽出部１３６は、入力された正解コーパスのすべての述部ペアの内容語又はすべての「項−述部」ペアの内容語の各々に関して、定義文辞書記憶部１３４に記憶されている定義文辞書に基づいて「定義文相互補完性」を示す素性と「語彙の重なり」を示す素性を抽出し、抽出対象のペアとともに素性集合記憶部１４２に出力する。定義文辞書は、複数の述部の内容語の各々に対応する1つ以上の定義文からなり、定義文辞書から抽出される各々の１つ以上の定義文のセットを定義文セットと呼ぶ。なお、定義文相互補完性を示す素性が第１の素性の一例であり、語彙の重なりを示す素性が第３の素性の一例である。また、第１の素性と第３の素性をあわせて辞書定義文素性と呼ぶ。
「同義の述部はその語義を説明する相互の定義文セットに類似性がある」という特徴から、辞書定義文素性抽出部１３６で、「定義文相互補完性」と「語彙の重なり」を示す素性を抽出することによって、従来手法で問題であった「まったく逆のことを表す述部を誤って同義と判定する」という問題が起きるのを回避することができる。
ここで、「定義文相互補完性」とは、相手の述部の定義文セット内に自分の述部が出現することをいい、図９に示す「完成する」と「出来上がる」の２つの同義である述部を例にとると、「完成」という述部が、同義である「出来上がる」の辞書定義文セット内に現れており、また「出来上がる」という述部が、同義である「完成」の辞書定義文セット内に出現していることをいう。
また、「語彙の重なり」とは、定義文セット同士で語彙が重なっていることをいい、図１０に示す「値段−ガ−高値」と「値段−ガ−高い」の２つの同義である述部を例にとると、双方の定義文セットに「値段」という語彙が共通に出現していることをいう。
このように、「同義の述部はその語義を説明する相互の定義文セットに類似性がある」という特徴があり、この特徴を「定義文相互補完性」もしくは「語彙の重なり」という形で表現することができる。なお、以後は説明のため、「花壇−ガ−出来上がる」と「花壇−ガ−完成する」のような「項−述部」ペアに対して、最初の「項−述部」の述部（すなわち、「出来上がる」）をＰｒｅｄ１、「項」（すなわち、「花壇」）をＡｒｇ１、２つ目の「項−述部」の述部（すなわち、「完成する」）をＰｒｅｄ２、項（すなわち、「花壇」）をＡｒｇ２とする。同様に、「出来上がる」と「完成する」のような述部ペアに対しても、最初の述部をＰｒｅｄ１、２つ目の述部をＰｒｅｄ２とする。
辞書定義文素性抽出部１３６の詳細構成を図１１に示す。辞書定義文素性抽出部１３６は、定義文抽出部１３６０と、定義文相互補完性抽出部１３６２と、語彙の重なり抽出部１３６４とから構成される。
定義文抽出部１３６０は、入力された正解コーパスのすべての述部ペア又は「項−述部」ペアの各々の述部の内容語に対して、定義文辞書記憶部１３４に記憶されている定義文辞書の辞書引きを行い、述部ペア又は「項−述部」ペアごとにそれぞれの述部の定義文セットを抽出する。そして、抽出した定義文セットの形態素解析を行い、形態素毎の表記と標準形と品詞、および読みが少なくとも含まれる解析結果を定義文相互補完性抽出部１３６２及び語彙の重なり抽出部１３６４に出力する。
定義文相互補完性抽出部１３６２は、抽出対象のペア（述部ペア又は「項−述部」ペア）ごとに、定義文抽出部１３６０から入力された定義文セットの形態素解析の結果から、定義文相互補完性を示す素性を抽出し、抽出対象のペアとともに素性集合記憶部１４２に出力する。具体的には、Ｐｒｅｄ１の定義文セット内にＰｒｅｄ２が出現したか、また、Ｐｒｅｄ２の定義文セット内にＰｒｅｄ１が出現したかを文字列マッチで抽出する。Ｐｒｅｄ１の定義文セット内にＰｒｅｄ２が出現したかどうかをPred1Match、また、Ｐｒｅｄ２の定義文セット内にＰｒｅｄ１が出現したかどうかをPred2Matchとする。本実施形態では、出現した場合には、素性の値を１とする。同様に、Ｐｒｅｄ１の定義文セット内に、Ａｒｇ２が出現したか、またＰｒｅｄ２の定義文セット内にＡｒｇ１が出現したかを抽出し、出現した場合には、素性の値を１とする。Ｐｒｅｄ１の定義文セット内に、Ａｒｇ２が出現したかどうかをArg1Match、また、Ｐｒｅｄ２の定義文セット内にＡｒｇ１が出現したかどうかをArg2Matchとする。なお、これらの値は、重なり回数や重なり回数を定義文セットの総単語数で正規化した値など実数値を入れてもよい。
本実施形態では、第１の素性として、Pred1Match、Pred2Match、Arg1Match、Arg2Matchの全てを使っているが、第１の素性を使う場合において、Arg1MatchとArg2Matchは使わなくてもよい。
本実施形態では、第１の素性として、Pred1Match、Pred2Match、Arg1Match、Arg2Matchの全てを使っているが、第１の素性を使う場合において、Arg1MatchとArg2Matchは使わなくてもよい。
語彙の重なり抽出部１３６４は、抽出対象のペア（述部ペア又は「項−述部」ペア）ごとに、定義文抽出部１３６０から入力した定義文セットの形態素解析の結果から、抽出対象のペアの述部の定義文セット同士に語彙の重なりがあるかを示す素性を抽出し、抽出対象のペアとともに素性集合記憶部１４２に出力する。本実施形態では、両方の定義文セットに共通して出現する語彙の個数を素性とし、語彙の品詞（非自立性を除く名詞、動詞、形容詞、形容動詞と４種類の品詞）毎に集計する。ここで、両方の定義文セットに共通して出現する名詞の品詞をもつ語彙の個数をNounMatch、動詞の品詞をもつ語彙の個数をVerbMatch、形容詞の品詞をもつ語彙の個数をAdjMatch、及び形容動詞の品詞をもつ語彙の個数をAdjNMatchと呼ぶ（図１２）。本実施形態では、第３の素性として、NounMatch、VerbMatch、AdjMatch、AdjNMatchの全てを使っているが、少なくとも１つの素性があれば良い。なお、両方の定義文セットに共通して出現する語彙の個数ではなく、両方の定義文セットに共通して出現する語彙の有無を素性とし、語彙の品詞毎に集計してもよく、有りの場合に値を１にして無の場合に値を０にしてもよい。さらに、両方の定義文セットに共通して出現する語彙の個数を定義文セットの総単語数で正規化した値など用いてもよい。図１３に作成された素性の一覧の例を示す。
定義文辞書記憶部１３４は、複数の述部の各々に対応する定義文セットを格納した定義文辞書を記憶している。定義文辞書は、既存の国語辞書や、複数のユーザによって加筆・編集されたＷｅｂ上のフリー辞書を用いても良い。なお、定義文辞書が定義文集合の一例である。
＜意味属性素性抽出部の構成＞
意味属性素性抽出部１４０は、入力された正解コーパスのすべてのペア（述部ペア又は「項−述部」ペア）の各々に関して、当該ペアの述部の内容語の各々の抽象的な意味属性の重なりを示す素性を抽出し、抽出対象のペアとともに素性集合記憶部１４２に出力する。本実施形態では、抽象的な意味属性の重なりを示す素性として、後述する「重なり用言属性」と「意味属性重み付き重なり率」の二つを抽出する。本実施形態においては、抽出対象の述部の抽象的な意味属性として用言属性を用いる。意味属性辞書は、複数の述部の各々に対応する1つ以上の用言属性からなり、意味属性辞書から抽出される各々の１つ以上の用言属性のセットを用言属性集合と呼ぶ。両方の述語の用言属性集合に共通して出現する用言属性を「重なり用言属性」の素性として抽出する。また、その両方に共通して出現する用言属性が属する階層に重みを付与して算出する「意味属性重み付き重なり率」も素性として抽出することができる。意味属性素性抽出部１４０は、これらの二つ素性を抽出対象のペアとともに素性集合記憶部１４２に出力する。
意味属性素性抽出部１４０は、入力された正解コーパスのすべてのペア（述部ペア又は「項−述部」ペア）の各々に関して、当該ペアの述部の内容語の各々の抽象的な意味属性の重なりを示す素性を抽出し、抽出対象のペアとともに素性集合記憶部１４２に出力する。本実施形態では、抽象的な意味属性の重なりを示す素性として、後述する「重なり用言属性」と「意味属性重み付き重なり率」の二つを抽出する。本実施形態においては、抽出対象の述部の抽象的な意味属性として用言属性を用いる。意味属性辞書は、複数の述部の各々に対応する1つ以上の用言属性からなり、意味属性辞書から抽出される各々の１つ以上の用言属性のセットを用言属性集合と呼ぶ。両方の述語の用言属性集合に共通して出現する用言属性を「重なり用言属性」の素性として抽出する。また、その両方に共通して出現する用言属性が属する階層に重みを付与して算出する「意味属性重み付き重なり率」も素性として抽出することができる。意味属性素性抽出部１４０は、これらの二つ素性を抽出対象のペアとともに素性集合記憶部１４２に出力する。
「同義の述部同士は、その述部の抽象的な意味属性も似ている」という特徴から、意味属性素性抽出部１４０で、述部そのものの抽象的な意味属性の重なりと階層的重なりの「深さ」を考慮し素性として抽出することによって、従来手法で問題であった「時間経過を表す述部を誤って同義と判定する」という問題が起きるのを回避することができる。
本実施形態において、抽象的な意味属性として、「用言属性」（非特許文献２：池原 悟, 宮崎 正弘, 白井 諭, 横尾 昭男, 中岩 浩巳, 小倉 健太郎, 大山 芳史, 林 良彦 (1999) 日本語語彙大系 CD-ROM版. 岩波書店.）を用いる。用言属性集合の一例を、述部が「完成する」の場合と「出来上がる」の場合を例に図１４に示す。図１５が示すように、これらの属性はしばし、階層的な構造をもち、階層が下位に進むにつれ、より属性が詳細化される。たとえば、「行動」という上位属性に対して、さらに「物理的行動」という中間属性を経て、「所有的移動」というようなより詳細な属性が明記されている。
意味属性素性抽出部１４０の詳細構成を図１６に示す。意味属性素性抽出部１４０は、意味属性重なり抽出部１４００と、意味属性重み付き重なり率計算部１４０２とから構成される。
意味属性重なり抽出部１４００は、入力された正解コーパスのすべてのペア（述部ペア又は「項−述部」ペア）の各々に関して、当該ペアの各述部の内容語の意味属性である用言属性集合を意味属性辞書から抽出し、ペア同士の用言属性集合の両方に出現する用言属性を素性として抽出し、抽出対象のペアとともに意味属性重み付き重なり率計算部１４０２へ出力する。図１７に「花壇−ガ−完成する」の「完成する」に対する用言属性集合（属性変化、生成）と、「花壇−ガ−出来上がる」の「出来上がる」に対する用言属性集合（生成）から重なり用言属性として「生成」が抽出された例を示す。なお、重なり用言属性が第２の素性の一例である。
意味属性重み付き重なり率計算部１４０２は、ペア（述部ペア又は「項−述部」ペア）毎に意味属性重なり抽出部１４００から入力された全ての用言属性と意味属性辞書から抽出した用言属性の階層情報に基づいて、用言属性の重なり度合いを示す素性としての「意味属性重み付き重なり率」を下記（６）式及び（７）式に従って計算し、意味属性重なり抽出部１４００から入力された素性及び抽出対象のペアとともに、素性集合記憶部１４２に出力する。重なり用言属性と意味属性重み付き重なり率の二つの素性は、それぞれ「よりたくさんの属性を共有するほど、述部同士が類似している」という特徴と、「より詳細な属性を共有するほど、述部同士は類似している」という特徴を表わしている。なお、意味属性重み付き重なり率が第４の素性の一例である。第２の素性と第４の素性をあわせて意味属性素性と呼ぶ。
例えば、「花壇−ガ−完成する」と「花壇−ガ−出来上がる」の意味属性重み付き重なり率を計算する場合、「完成する」の用言属性集合と「出来上がる」の用言属性集合の両方に出現する用言属性は「生成」という用言属性である。さらに、「生成」は図１５に示すとおり一番詳細な階層４の属性であるため、下記の（８）式のように重み付き重なり率が計算される。
意味属性辞書記憶部１３８は、複数の述部の内容語の各々に対応する意味属性を格納した意味属性辞書を記憶している。本実施形態においては、意味属性辞書として用言属性辞書が記憶されている。なお、意味属性辞書が意味属性集合の一例である。
＜機能表現素性抽出部の構成＞
機能表現素性抽出部１４１は、正解コーパスのすべてのペア（述部ペア又は「項-述部」ペア）の各々に関して、当該ペアの述部の機能表現の意味の重なりを示す素性を抽出し
、抽出対象のペアとともに素性集合記憶部１４２に出力する。本実施形態では、機能表現の意味の重なりを示す素性として、後述する「重なり意味ラベル」と「意味ラベル重なり率」の二つを抽出する。
機能表現素性抽出部１４１は、正解コーパスのすべてのペア（述部ペア又は「項-述部」ペア）の各々に関して、当該ペアの述部の機能表現の意味の重なりを示す素性を抽出し
、抽出対象のペアとともに素性集合記憶部１４２に出力する。本実施形態では、機能表現の意味の重なりを示す素性として、後述する「重なり意味ラベル」と「意味ラベル重なり率」の二つを抽出する。
機能表現素性抽出部１４１で、述部の機能表現の重なりを示す素性を抽出することによって、述部の内容語のみを用いて分布類似度の計算を行なっていても述部の同義判定を高精度に行うことができる。これは、分布類似度のみを用いて機能表現を考慮した同義判定を行う場合に生じる、述部を個々の内容語と機能表現の組み合わせとした分布類似度計算のために膨大なデータを必要とする問題が起きるのを回避することができる。
機能表現素性抽出部１４１の詳細構成を図１９に示す。機能表現素性抽出部１４１は、意味ラベル付与部１５００と、重なり意味ラベル抽出部１５０２と、意味ラベル重なり率計算部１５０４とから構成される。
意味ラベル付与部１５００は、入力された正解コーパスのすべてのペア（述部ペア又は「項-述部」ペア）の各々に関して、当該ペアの各述部の機能表現の意味ラベルを機能表現辞書から抽出し、当該ペアとともに重なり意味ラベル抽出部１５０２へ出力する。本実施形態では、統計的な意味ラベル付与方法を用いる（非特許文献７：今村賢治,泉朋子,菊井玄一郎,佐藤理史 (2011).述部機能表現の意味ラベルタガー 言語処理学会第１７回年次大会.518-521）。具体的には、入力された正解コーパスのすべてのペアの各述部の形態素解析を行い、形態素毎の表記と標準形と品詞が少なくとも含まれる解析結果を用いて最も尤もらしい意味ラベル列を付与する。図２０に機能表現辞書の例を示す。図１８に、「花壇-ガ-出来上がった」と「花壇-ガ-完成した」という「項-述部」ペアが入力された場合に意味ラベル列を付与した例を示す。図１８に示される例においては、述部はそれぞれ「出来上がった」と「完成した」であり、それぞれを内容語部分と機能表現部分を識別し、それぞれの機能表現の「た」に「完了」の意味ラベルを付与している。
本実施形態では、述部の内容語部分と機能表現部分の識別を意味ラベル付与部１５００で行なっているが、出来事の意味に影響を与える機能表現のみを残す事前処理を実施するようにしてもよい。（非特許文献８：Izumi T., Imamura K., Kikui G., & Sato S. (2010). Standardizing Complex Functional Expressions in JapansesePredicates: Applying Theoretically-Based Paraphrasing Rules. Proceedings of the Workshop on Multiword Exressions: From theory to applications (MWE 2010), 63-71）
重なり意味ラベル抽出部１５０２は、意味ラベル付与部１５００から入力された抽出対象のペアとそれぞれの意味ラベルから、両方の述部の意味ラベルに共通して出現する意味ラベルを重なり意味ラベルとして抽出し、当該ペアとともに意味ラベル重なり計算部１５０４に出力する。「花壇-ガ-出来上がった」と「花壇-ガ-完成した」という「項-述部」ペアの例では、述部「出来上がった」の意味ラベル「完了」と述部「完成した」の意味ラベル「完了」から、重なり意味ラベルとして「完了」が抽出される。なお、重なり意味ラベルが第６の素性の一例である。
意味ラベル重なり率計算部１５０４は、重なり意味ラベル抽出部１５０２から入力された抽出対象のペアと重なり意味ラベルに基づいて、意味ラベル重なり率を下記（９）式に従って計算し、当該ペア及び重なり意味ラベルとともに計算結果を素性集合記憶部１４２に出力する。なお、意味ラベル重なり率が第７の素性の一例である。第６の素性と第７の素性をあわせて機能表現素性と呼ぶ。
機能表現辞書記憶部１３９は、複数の述部の機能表現に対する意味ラベルを格納した機能表現辞書を記憶している。本実施形態では、非特許文献６の辞書を用いているが、これに限られるものではなく、他の文末表現辞書、モダリティ表現辞書を用いてもよい。
図６の素性集合記憶部１４２には、分布類似度計算部１３２、辞書定義文素性抽出部１３６、意味属性素性抽出部１４０、及び機能表現素性抽出部１４１で得られた各ペア（述部ペア又は「項−述部」ペア）の各素性及び素性の抽出対象のペアが入力され、素性集合記憶部１４２は、入力された各素性を各ペアごとに記憶している。
図６の同義判定モデル学習部１４４は、入力された正解コーパスのすべてのペア（述部ペア又は「項−述部」ペア）の各々に対し、素性集合記憶部１４２から入力された各素性をもとに、同義判定モデルの学習を行い、学習した同義判定モデルを出力部１５０に出力する。同義判定モデルの学習にはＳＶＭを用いる（非特許文献３：Chang, C.-C. and Lin, C.-J.(2011). LIBSVM: a library for support vector machines. ACM Transactions on Intelligent Systems and Technology, 2:27, 1-27.）。
具体的には、同義である述部ペア又は「項-述部」ペアを「正例（ＳＶＭでは＋１）」、それ以外の同義ではない述部ペア又は「項-述部」ペアを「負例（ＳＶＭでは−１）」として、述部分布類似度及び項述部分布類似度の少なくとも１つと、辞書定義文素性、意味属性素性、機能表現素性を用いて同義判定モデルの学習を行う。図２１に「花壇-ガ-完成する」と「花壇-ガ-出来上がる」に対する素性の一覧を示す。
＜同義判定部の構成＞
次に、本発明の実施の形態に係る同義判定装置３００の構成について詳細に説明する。図２２に示すように、本発明の実施の形態に係る同義判定装置３００は、ＣＰＵとＲＡＭと後述する同義判定処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することができる。この同義判定装置３００は、機能的には図２２に示すように入力部２１０と、演算部２２０と、出力部２５０とを備えている。
次に、本発明の実施の形態に係る同義判定装置３００の構成について詳細に説明する。図２２に示すように、本発明の実施の形態に係る同義判定装置３００は、ＣＰＵとＲＡＭと後述する同義判定処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することができる。この同義判定装置３００は、機能的には図２２に示すように入力部２１０と、演算部２２０と、出力部２５０とを備えている。
入力部２１０は、キーボードなどの入力装置から同義判定対象のペア（述部ペア又は「項−述部」ペア）を受け付ける。なお、入力部２１０は、ネットワーク等を介して外部から入力されたものを受け付けるようにしてもよい。
演算部２２０は、素性ベクトル記憶部２２４と、定義文辞書記憶部２２６と、意味属性辞書記憶部２２８と、機能表現辞書記憶部２２９と、素性構築部２２２と、同義判定部２３０と、同義判定モデル記憶部２３２とを含んだ構成で表すことができる。
素性ベクトル記憶部２２４には、素性ベクトル構築装置１００において出力された素性ベクトルが記憶されている。
素性構築部２２２は、入力部２１０において受け付けた同義判定対象のペア（述部ペア又は「項−述部」ペア）に対して、同義学習装置２００と同じ種類の「分布類似度」、「辞書定義文素性」、「意味属性素性」及び「機能表現素性」をそれぞれ抽出し、同義判定部２３０に出力する。図２３に抽出された素性の例を示す。
同義判定部２３０は、素性構築部２２２から入力された素性に基づいて、同義学習装置２００において出力され、予め求められた同義判定モデルが記憶されている同義判定モデル記憶部２３２に記憶された同義判定モデルを基にＳＶＭ識別器を用いて、入力された同義判定対象のペア（述部ペア又は「項−述部」ペア）が「同義か否か」を判定し、出力部２５０に出力する。
＜素性ベクトル構築装置の作用＞
次に、本発明の実施の形態に係る素性ベクトル構築装置１００の作用について説明する。まず、入力部１０によりテキストコーパスが入力される。そして、素性ベクトル構築装置１００のＲＯＭに記憶されたプログラムを、ＣＰＵが実行することにより、図２４に示す素性ベクトル構築処理ルーチンが実行される。
次に、本発明の実施の形態に係る素性ベクトル構築装置１００の作用について説明する。まず、入力部１０によりテキストコーパスが入力される。そして、素性ベクトル構築装置１００のＲＯＭに記憶されたプログラムを、ＣＰＵが実行することにより、図２４に示す素性ベクトル構築処理ルーチンが実行される。
まず、ステップＳ１００において、複数の文の集合であるテキストコーパスを読み込む。
まず、ステップＳ１０２において、ステップＳ１００において受け付けた複数の文のうちの一つの文について形態素解析を行う。
次に、ステップＳ１０４において、ステップＳ１００において形態素解析を行った文について係り受け解析を行う。
次に、ステップＳ１０６において、ステップＳ１０２及びステップＳ１０４において得られた形態素毎の表記と標準型と品詞、および文節ごとの係り受け情報が少なくとも含まれる解析結果から当該文に含まれる「項−述部」の周辺に現れる単語の情報（文脈情報）を項述部素性として抽出する。また、ステップＳ１０６において、ステップＳ１０２及びステップＳ１０４において得られた形態素毎の表記と標準型と品詞、および文節ごとの係り受け情報が少なくとも含まれる解析結果から当該文に含まれる述部の周辺に現れる単語の情報（文脈情報）を述部素性として抽出する。本実施形態では、例えば上記の非特許文献１と同じ方法で項述部素性や述部素性を抽出する。具体的には、対象の「項−述部」に係っている別の「項−述部」、「述部」を項述部素性として抽出する。さらに、「述部」単体に係っている項（格助詞をもつ名詞句）、及び別の「述部」を述部素性として抽出する。
次に、ステップＳ１０８において、ステップＳ１００において受け付けた複数の文のすべてについて上記ステップＳ１０２〜Ｓ１０６の処理を実行したか否かを判定する。すべての文について上記ステップＳ１０２〜Ｓ１０６の処理を実行した場合にはステップＳ１１０に移行し、上記ステップＳ１０２〜Ｓ１０６の処理を実行していない文が存在する場合には、ステップＳ１０２に移行して各処理を繰り返す。
次に、ステップＳ１１０において、少なくとも一つの文に含まれる「項−述部」についてステップＳ１０６において抽出された素性に基づいて素性ベクトルを構築する。また、ステップＳ１１０において、少なくとも一つの文に含まれる述部についてステップＳ１０６において抽出された素性に基づいて素性ベクトルを構築する。
次に、ステップＳ１１２において、ステップＳ１００において読み込んだ少なくとも一つの文に含まれるすべての「項−述部」の各々について項述部素性ベクトルを構築したか否かを判定する。また、ステップＳ１１２において、ステップＳ１００において読み込んだ少なくとも一つの文に含まれるすべての述部の各々について述部素性ベクトルを構築したか否かを判定する。すべての「項−述部」の各々について項述部素性ベクトルを構築した場合には、ステップＳ１１４に移行し、項述部素性ベクトルを構築していない「項−述部」が存在する場合には、ステップＳ１１０に移行して各処理を繰り返す。また、すべての述部の各々について述部素性ベクトルを構築した場合には、ステップＳ１１４に移行し、述部素性ベクトルを構築していない述部が存在する場合には、ステップＳ１１０に移行して各処理を繰り返す。
次に、ステップＳ１１４において、ステップＳ１１０において構築された素性ベクトルの全てを出力部３０により出力して処理を終了する。
本実施形態では、述部素性ベクトルと項述部素性ベクトルの両方を作成したが、同義学習装置及び同義判定装置で使用される素性ベクトルのみを作成すれば良い。
＜同義学習装置の作用＞
次に、本発明の実施の形態に係る同義学習装置２００の作用について説明する。まず、入力部１１０により、素性ベクトル構築装置１００により出力された、素性ベクトルが入力され、素性ベクトル記憶部１２４に記憶される。また、入力部１１０により正解コーパスが入力される。そして、同義学習装置２００のＲＯＭに記憶されたプログラムを、ＣＰＵが実行することにより、図２５に示す同義判定モデル学習処理ルーチンが実行される。
次に、本発明の実施の形態に係る同義学習装置２００の作用について説明する。まず、入力部１１０により、素性ベクトル構築装置１００により出力された、素性ベクトルが入力され、素性ベクトル記憶部１２４に記憶される。また、入力部１１０により正解コーパスが入力される。そして、同義学習装置２００のＲＯＭに記憶されたプログラムを、ＣＰＵが実行することにより、図２５に示す同義判定モデル学習処理ルーチンが実行される。
まず、ステップＳ２０２において、正解コーパスを読み込む。
以降のステップにおいては、述部ペアの同義判定モデルを学習する場合には読み込まれた正解コーパスのうち述部ペアの正解データのみを用いて処理が行われ、「項-述部」ペアの同義判定モデルを学習する場合には読み込まれた正解コーパスのうち「項-述部」ペアの正解データのみを用いて処理が行われる。
次に、ステップＳ２０４において、ステップＳ２０２において得られた複数の正解データの各々について、素性ベクトル記憶部１２４に記憶された当該正解データのペア（述部ペア又は「項−述部」ペア）の各述部素性ベクトルに基づいて、当該正解データのペアの述部分布類似度を算出する。また、ステップＳ２０４において、ステップＳ２０２において得られた複数の正解データの各々について、素性ベクトル記憶部１２４に記憶された当該正解データの「項−述部」ペアの各項述部素性ベクトルに基づいて、当該正解データのペアの項述部分布類似度を算出する。本実施形態では、「項-述部」ペアに対しても述部分布類似度を算出したが、項述部分布類似度のみを算出してもよい。
次に、ステップＳ２０６において、ステップＳ２０２において得られた複数の正解データの各々について、当該正解データのペア（述部ペア又は「項−述部」ペア）の辞書定義文素性を抽出する。
次に、ステップＳ２０８において、ステップＳ２０２において得られた複数の正解データの各々について、当該正解データのペア（述部ペア又は「項−述部」ペア）の意味属性素性を抽出する。
次に、ステップＳ２０９において、ステップＳ２０２において得られた複数の正解データの各々について、当該正解データのペア（述部ペア又は「項-述部」ペア）の機能表現素性を抽出する。
次に、ステップＳ２１０において、ステップＳ２０４において得られた分布類似度と、ステップＳ２０６において得られた辞書定義文素性と、ステップＳ２０８において得られた意味属性素性と、ステップＳ２０９において得られた機能表現素性と、ステップＳ２０２において得られた複数の正解データの同義か否かの情報とに基づいて、複数の正解データの各々について、当該正解データのペア（述部ペア又は「項−述部」ペア）に対して抽出された全ての素性を含む正例、又は負例の学習データを作成する。
次に、ステップＳ２１２において、ステップＳ２１０において作成された各学習データに基づいて同義判定モデルを学習し、同義判定モデルを出力部１５０により出力して処理を終了する。
上記ステップＳ２０４は、図２６に示す分布類似度算出ルーチンによって実現される。
まず、ステップＳ２５０において算出対象の正解データの述部ペアについて、素性ベクトル記憶部１２４に記憶されている当該ペアの各述部素性ベクトルを読み出す。また、ステップＳ２５０において算出対象の正解データの「項-述部」ペアについて、素性ベクトル記憶部１２４に記憶されている当該ペアの各述部素性ベクトル及び各項述部素性ベクトルを読み出す。本実施形態では、算出対象の正解データの「項-述部」ペアについて述部素性ベクトルを読み出したが、読み出さなくてもよい。
次に、ステップＳ２５２において、ステップＳ２５０において読み出された素性ベクトルに基づいて、当該正解データのペア（述部ペア又は「項−述部」ペア）について分布類似度を算出する。
次に、ステップＳ２５４において、ステップＳ２０２において読み込んだ全ての正解データの各々について、当該正解データのペアの分布類似度が算出されたか否かを判定する。全ての正解データの各々のペア（述部ペア又は「項−述部」ペア）について分布類似度が算出されている場合には処理を終了し、分布類似度が算出されていない正解データのペア（述部ペア又は「項−述部」ペア）が存在する場合には、ステップＳ２５０に移行し当該正解データを算出対象の正解データとして各処理を繰り返す。
上記、ステップＳ２０６は、図２７に示す辞書定義文素性の抽出ルーチンによって実現される。
まず、ステップＳ３００において、抽出対象の正解データのペア（述部ペア又は「項−述部」ペア）の各述部の定義文セットを定義文辞書記憶部１３４から抽出する。
次に、ステップＳ３０２において、ステップＳ３００において抽出された定義文セットの各々の定義文について形態素解析を行う。
次に、ステップＳ３０４において、ステップＳ３０２において得られた形態素毎の表記と標準形と品詞、および読みが少なくとも含まれる形態素解析の結果に基づいて、定義文相互補完性を示す素性を抽出する。定義文相互補完性を示す素性として、Pred1Match、Pred2Matchを抽出する。抽出対象の正解データのペアが「項-述部」ペアの場合、Arg1Match、Arg2Matchをさらに抽出することもできる。
次に、ステップＳ３０６において、ステップＳ３０２において得られた形態素毎の表記と標準形と品詞、および読みが少なくとも含まれる形態素解析の結果に基づいて、語彙の重なりを示す素性を抽出する。語彙の重なりを示す素性として、NounMatch,VerbMatch,AdjMatch,AdjNMatchの少なくとも１つを抽出する。
次に、ステップＳ３０８において、ステップＳ３０４において抽出された定義文相互補完性を示す素性及びステップＳ３０６において抽出された語彙の重なりを示す素性に基づいて、辞書定義文素性を構築する。
次に、ステップＳ３１０において、ステップＳ２０２において読み込んだ全ての正解データの各々のペア（述部ペア又は「項−述部」ペア）について辞書定義文素性を構築したか判定する。すべての正解データのペア（述部ペア又は「項−述部」ペア）について辞書定義文素性を構築した場合には、処理を終了し、辞書定義文素性を構築していない正解データのペア（述部ペア又は「項−述部」ペア）が存在する場合には、ステップＳ３００に移行して当該正解データを抽出対象の正解データとして各処理を繰り返す。
上記ステップＳ２０８は、図２８に示す意味属性素性の抽出ルーチンによって実現される。
まず、ステップＳ４００において、抽出対象の正解データのペア（述部ペア又は「項−述部」ペア）の各述部の重なり用言属性を抽出する。
次に、ステップＳ４０２において、ステップＳ４００において得られた重なり用言属性に基づいて、抽出対象の正解データのペア（述部ペア又は「項−述部」ペア）について意味属性重み付き重なり率を計算する。
次に、ステップＳ４０４において、ステップＳ４００において得られた重なり用言属性、及びステップＳ４０２において得られた意味属性重み付き重なり率に基づいて、当該抽出対象の正解データのペア（述部ペア又は「項−述部」ペア）について意味属性素性を構築する。
次に、ステップＳ４０６において、ステップＳ２０２において読み込んだ全ての正解データの各々のペア（述部ペア又は「項−述部」ペア）について意味属性素性の構築をしたか否かを判定する。すべての正解データの各々のペア（述部ペア又は「項−述部」ペア）について意味属性素性の構築をした場合には処理を終了し、意味属性素性の構築をしていない正解データのペア（述部ペア又は「項−述部」ペア）が存在する場合には、ステップＳ４００に移行し、当該正解データを抽出対象の正解データとして各処理を繰り返す。
上記ステップＳ２０９は、図２９に示す機能表現素性の抽出ルーチンによって実現される。
まず、ステップＳ６００において、抽出対象の正解データのペア（述部ペア又は「項-述部」ペア）の各述部の形態素解析を行い、形態素毎の表記と標準形と品詞が少なくとも含まれる解析結果を用いて最も尤もらしい意味ラベル列を付与する。
次に、ステップＳ６０２において、ステップＳ６００において得られたペア各々の述部の意味ラベルの両方に共通して出現する重なり意味ラベルを抽出する。
次に、ステップＳ６０４において、ステップＳ６０２において得られたペアの重なり意味ラベルを用いて、意味ラベル重なり率を計算する。
次に、ステップＳ６０６において、ステップＳ６０２において得られた重なり意味ラベル、及びステップＳ６０４において得られた意味ラベル重なり率に基づいて、当該抽出対象の正解データのペア（述部ペア又は「項-述部」ペア）について機能表現素性を構築する。
次に、ステップＳ６０８において、ステップＳ２０２において読み込んだ全ての正解データの各々のペア（述部ペア又は「項-述部」ペア）について機能表現素性の構築をしたか否かを判定する。すべての正解データの各々のペア（述部ペア又は「項-述部」ペア）について機能表現素性の構築をした場合には処理を終了し、機能表現素性の構築をしていない正解データのペア（述部ペア又は「項-述部」ペア）が存在する場合には、ステップＳ６００に移行し、当該正解データを抽出対象の正解データとして各処理を繰り返す。
＜同義判定装置の作用＞
次に、本発明の実施の形態に係る同義判定装置３００の作用について説明する。まず、入力部２１０により、同義学習装置２００により出力された同義判定モデルが入力され、同義判定モデル記憶部２３２に記憶される。また、入力部２１０により同義判定対象のペア（述部ペア又は「項−述部」ペア）が入力されると、同義判定装置３００のＲＯＭに記憶されたプログラムを、ＣＰＵが実行することにより、図３０に示す同義判定処理ルーチンが実行される。
次に、本発明の実施の形態に係る同義判定装置３００の作用について説明する。まず、入力部２１０により、同義学習装置２００により出力された同義判定モデルが入力され、同義判定モデル記憶部２３２に記憶される。また、入力部２１０により同義判定対象のペア（述部ペア又は「項−述部」ペア）が入力されると、同義判定装置３００のＲＯＭに記憶されたプログラムを、ＣＰＵが実行することにより、図３０に示す同義判定処理ルーチンが実行される。
まず、ステップＳ５００において、入力された同義判定対象のペア（述部ペア又は「項−述部」ペア）を受け付ける。
次に、ステップＳ５０２において、上記ステップＳ２５０、Ｓ２５２と同様に、同義判定対象のペア（述部ペア又は「項−述部」ペア）の分布類似度を算出する。
次に、ステップＳ５０４において、上記ステップＳ３００、Ｓ３０２、Ｓ３０４、Ｓ３０６、Ｓ３０８と同様に、同義判定対象のペア（述部ペア又は「項−述部」ペア）の辞書定義文素性を抽出する。
次に、ステップＳ５０６において、上記ステップＳ４００、Ｓ４０２、Ｓ４０４と同様に、同義判定対象のペア（述部ペア又は「項−述部」ペア）の意味属性素性を抽出する。
次に、ステップＳ５０７において、上記ステップＳ６００、Ｓ６０２、Ｓ６０４、Ｓ６０６と同様に、同義判定対象のペア（述部ペア又は「項-述部」ペア）の機能表現素性を抽出する。
次に、ステップＳ５０８において、ステップＳ５０２において得られた分布類似度と、ステップＳ５０４において得られた辞書定義文素性と、ステップＳ５０６において得られた意味属性素性と、ステップＳ５０７において得られた機能表現素性とに基づいて、同義判定対象のペア（述部ペア又は「項−述部」ペア）の素性を作成する。
次に、ステップＳ５１０において、ステップＳ５０６において作成された素性と、同義判定モデル記憶部２３２に記憶された同義判定モデルとに基づいて、同義判定対象のペア（述部ペア又は「項−述部」ペア）が同義か否かを判定する。
次に、ステップＳ５１２において、ステップＳ５１０において同義判定された結果を出力部２５０により出力して処理を終了する。
＜同義判定結果の例＞
図３１〜図３４を用いて、同義判定処理ルーチンを実行した例を説明する。図３１は、「棚−ヲ−設置する」と「棚−ヲ−撤去する」という「項−述部」ペアを入力とした場合の、同義判定の結果と、当該「項−述部」ペアについての素性一覧を示す。
図３１〜図３４を用いて、同義判定処理ルーチンを実行した例を説明する。図３１は、「棚−ヲ−設置する」と「棚−ヲ−撤去する」という「項−述部」ペアを入力とした場合の、同義判定の結果と、当該「項−述部」ペアについての素性一覧を示す。
図３１の例の場合、「同義ではない」と判定されている。これは、非特許文献１の手法である分布類似度のみを用いた場合では判定が困難であった反意関係の述部である。当該「項−述部」ペアについて作成された素性一覧が示しているように、「棚−ヲ−設置する」と「棚−ヲ−撤去する」の場合、算出された述部分布類似度と項述部分布類似度はともに高い値を出しているが（通常、分布類似度０．２以上が「同義」を表す閾値とされる）、抽出された辞書定義文内での語彙の重なりや定義文相互補完性がなかったために、正しく「同義ではない」と判定できている。
次に、図３２に「テキスト−ヲ−作成する」と「テキスト−ヲ−用いる」との「項−述部」ペアが入力された場合に、作成される素性一覧を示す。図３２の「項−述部」ペアでは、算出された項述部分布類似度では比較的高い値を示しているが、述部分布類似度が低い値を示していることと、抽出された辞書定義文内での語彙の重なりや定義文相互補完性がないことと、抽出された意味属性素性に重なりがないために、正しく「同義ではない」と判定できている。
次に、図３３に「花壇−ガ−出来上がる」と「花壇−ガ−完成する」との「項−述部」ペアが入力された場合に、作成される素性の一覧示す。図３３の場合、算出された述部分布類似度及び項述部分布類似度に加え、本発明で提案している抽出された辞書定義文素性と抽出された意味属性素性と機能表現素性が特徴となって、正しく「同義」と判定できる。
次に、図３４に「サポーター-ヲ-募っている」と「サポーター-ヲ-募集している」との「項-述部」ペアが入力された場合に、作成される素性の一覧を示す。図３４の場合、算出された述部分布類似度に加え、本発明で提案している抽出された辞書定義文素性と抽出された意味属性素性と機能表現素性が特徴となって、正しく「同義」と判定できる。この例の場合、機能表現素性を用いないで同義判定モデルを学習し、学習された同義判定モデルを用いて同義判定を行わない場合、「同義ではない」と誤って判定される。
上記のように、「同義の述部」に関する複数の言語的特徴を組み込むことで、同義の述部は正しく同義と、それ以外の述部は正しく「同義ではない」と判定できるようになる。
なお、図３３は学習モデルと同じ素性になっているが、判定結果は、当該述部ペアを除いた正解コーパスで学習した同義判定モデルを用いている。図３３の場合、述部分布類似度および項述部分布類似度に加え、本発明で提案している辞書定義文素性と意味属性素性と機能表現素性が特徴となって、正しく「同義」と判定できる。
以上説明したように、本発明の実施の形態に係る同義判定装置によれば、述部に焦点をあてることにより、表層は異なるが同じことを表している述部ペア又は「項−述部」ペアについて同義判定を自動で高精度に行うことができる。
また、同義判定対象の述部ペア又は「項-述部」ペアの述部同士の辞書定義文セット間の「語彙の重なり」と「定義文相互補完性」、及び述部の抽象的な意味属性の重なりを示す素性である「重なり用言属性」を用い、さらに、「重なり用言属性」の階層情報を考慮して同義判定に反映させるための「意味属性重み付き重なり率」を用い、複数の言語的特徴に基づいて同義判定を行うことにより、反義関係及び時間経過関係が含まれている述部ペア又は「項−述部」ペアであっても、同義判定を自動で高精度に行うことができる。
また、同義判定対象の述部ペア又は「項-述部」ペアの述部同士の機能表現の「重なり意味ラベル」と「意味ラベル重なり率」を素性として、「語彙の重なり」と「定義文相互補完性」と「重なり用言属性」と「意味属性重み付き重なり率」と「分布類似度」に追加して用いることにより、膨大なデータで分布類似度を計算する必要なく、機能表現の意味を考慮した同義判定が可能になり、同義判定を自動で高精度に行うことができる。
また、本実施形態により、表層は異なるが同じ事を表している述部ペア及び「項−述部」ペアに対して、同義か否かを計算機で判定する同義判定手法において、複数の言語的特徴を素性として用いることで、より正確な述部ペア、「項−述部」ペアの同義判定ができるようになる。結果、大量のテキストから、重要な情報のみを抽出・集計・提示するテキストマイニング技術において、表層が異なる場合においても同じ出来事を正しく集計することができるようになる。
また、表層は異なるが同じ事を表している述部ペア及び「項−述部」ペアに対して、同義か否かを計算機で判定する同義判定手法において、複数の言語的特徴を素性として用いることで、より正確な述部ペア及び「項−述部」ペアの同義判定ができるようになる。結果、ユーザが求める情報を探し出す検索技術において、文字列が異なる表現で検索しても同じ事を表すテキストを表示することが可能となり、検索技術の精度を向上させることができる。
また、本実施形態では、同義を表す述部ペア及び「項−述部」ペアの述部同士の語義も類似しているという言語的特徴を、辞書定義文の「定義文相互補完性」と「語彙の重なり」という２つの特徴を用いて素性化し、その結果、既存の分布類似度手法では判定が難しかった「反意述部」を正しく判定することができるようになった。
また、同義を表す述部ペア及び「項-述部」ペアの述部同士の抽象的な意味属性も類似しているという言語的特徴を、意味属性素性とし、具体的には、「よりたくさんの属性を共有するほど、述部同士が類似している」という特徴と、「より詳細な属性を共有するほど、述部同士は類似している」という特徴をそれぞれ「重なり用言属性」と「意味属性重み付き重なり率」として素性化し、その結果、既存の分布類似度手法では判定が難しかった「時間的経過を表す述部」に対して、「同義ではない」と正しく判定することができるようになった。
また、「同義の述部」に関する複数の言語的特徴を素性として同義判定モデルを学習することで、既存の手法よりもより正確に同義を判定できるようになった。
また、上記の実施の形態では、分布類似度と、定義文相互補完性を示す素性と、語彙の重なりを示す素性と、重なり用言属性と、意味属性重み付き重なり率と、重なり意味ラベルと、意味ラベル重なり率の７つの素性をすべて抽出したが、これに限定されるものではなく、定義文相互補完性を示す素性及び意味属性の重なりを示す素性の少なくとも一方の素性のみを抽出するようにしてもよい。また、より精度を向上させるために、分布類似度、語彙の重なりを示す素性、重なり用言属性、意味属性重み付き重なり率、重なり意味ラベル、及び意味ラベル重なり率の少なくとも１つを更に抽出してもよい。
また、上記の実施の形態では、素性ベクトル構築装置１００において、非特許文献１と同じ方法で素性ベクトルを構築しているが、これに限定されるものではなく、他のベクトル構築の手法を用いてもよい。(非特許文献４：Manning, C., & Schutze, H. (1999). Foundations of statistical natural language processing. Cambridge, MA: MIT Press.)
また、上記の実施の形態では、分布類似度計算部１３２において、素性ベクトル記憶部１２４から入力された素性ベクトルを用いて、分布類似度を算出しているが、これに限定されるものではなく、他の類似度計算の手法を用いてもよい。(非特許文献４：Manning, C., & Schutze, H. (1999). Foundations of statistical natural language processing. Cambridge, MA: MIT Press.)
また、上記の実施の形態では、抽象的な意味属性として、「用言属性」を用いているが、これに限定されるものではなく、ＬＣＳ構造などを言語リソースとして用いてもよい。(非特許文献５：竹内孔一，乾健太郎，藤田篤(2006).語彙概念構造に基づく日本語動詞の統語・意味特性の記述，レキシコンフォーラム，No.2, pp.85-120.)
また、上記の実施の形態では、同義判定モデルの学習にはＳＶＭを用いているが、これに限定されるものではなく、Ｄｅｃｉｓｉｏｎ Ｔｒｅｅなど別の判定モデルを用いてもよい。
また、本発明は、上記実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
また、上述の同義判定装置３００は、内部にコンピュータシステムを有しているが、「コンピュータシステム」は、ＷＷＷシステムを利用している場合であれば、ホームページ提供環境（あるいは表示環境）も含むものとする。
また、本願明細書中において、プログラムが予めインストールされている実施形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能であるし、ネットワークを介して提供することも可能である。また、本実施の形態の同義判定装置３００の各部をハードウエアにより構成してもよい。また、正解コーパス、テキストコーパス、素性ベクトル、定義文辞書、意味属性辞書、機能表現辞書、素性集合、判定モデルが記憶されるデータベースとしては、ハードディスク装置やファイルサーバ等に例示される記憶手段によって実現可能であり、同義判定装置内部にデータベースを設けても良いし、外部装置に設けてもよい。
１０，１１０，２１０ 入力部
２０，１２０，２２０ 演算部
２４ 基本解析部
２６ 素性抽出部
２８ 素性ベクトル生成部
３０，１５０，２５０ 出力部
１００ 素性ベクトル構築装置
１２２ 正解コーパス
１２４ 素性ベクトル記憶部
１３２ 分布類似度計算部
１３４ 定義文辞書記憶部
１３６ 辞書定義文素性抽出部
１３８ 意味属性辞書記憶部
１３９ 機能表現辞書記憶部
１４０ 意味属性素性抽出部
１４１ 機能表現素性抽出部
１４２ 素性集合記憶部
１４４ 同義判定モデル学習部
２００ 同義学習装置
２２２ 素性構築部
２２４ 素性ベクトル記憶部
２２６ 定義文辞書記憶部
２２８ 意味属性辞書記憶部
２２９ 機能表現辞書記憶部
２３０ 同義判定部
２３２ 同義判定モデル記憶部
３００ 同義判定装置
１３６０ 定義文抽出部
１３６２ 定義文相互補完性抽出部
１３６４ 語彙の重なり抽出部
１４００ 意味属性重なり抽出部
１４０２ 意味属性重み付き重なり率計算部
１５００ 意味ラベル付与部
１５０２ 重なり意味ラベル抽出部
１５０４ 意味ラベル重なり率計算部
２０，１２０，２２０ 演算部
２４ 基本解析部
２６ 素性抽出部
２８ 素性ベクトル生成部
３０，１５０，２５０ 出力部
１００ 素性ベクトル構築装置
１２２ 正解コーパス
１２４ 素性ベクトル記憶部
１３２ 分布類似度計算部
１３４ 定義文辞書記憶部
１３６ 辞書定義文素性抽出部
１３８ 意味属性辞書記憶部
１３９ 機能表現辞書記憶部
１４０ 意味属性素性抽出部
１４１ 機能表現素性抽出部
１４２ 素性集合記憶部
１４４ 同義判定モデル学習部
２００ 同義学習装置
２２２ 素性構築部
２２４ 素性ベクトル記憶部
２２６ 定義文辞書記憶部
２２８ 意味属性辞書記憶部
２２９ 機能表現辞書記憶部
２３０ 同義判定部
２３２ 同義判定モデル記憶部
３００ 同義判定装置
１３６０ 定義文抽出部
１３６２ 定義文相互補完性抽出部
１３６４ 語彙の重なり抽出部
１４００ 意味属性重なり抽出部
１４０２ 意味属性重み付き重なり率計算部
１５００ 意味ラベル付与部
１５０２ 重なり意味ラベル抽出部
１５０４ 意味ラベル重なり率計算部
Claims (8)
- 予め用意された複数の述部の各々についての定義文からなる定義文集合から得られる、入力された述部ペアの述部各々の定義文に基づいて抽出される、前記述部ペアの述部各々の前記定義文内にペアとなる述部が存在するか否かである第１の素性、及び予め用意された複数の述部の各々についての意味属性からなる意味属性集合から得られる、前記入力された前記述部ペアの述部各々の意味属性に基づいて抽出される前記述部ペアで共通する意味属性である第２の素性のうち少なくとも１つを抽出する素性構築部と、
予め求められた同義判定モデルが記憶された同義判定モデル記憶部と、
前記素性構築部で抽出された素性に基づいて前記同義判定モデル記憶部に記憶された前記同義判定モデルを基に前記入力された述部ペアが同義であるか否かを判定する同義判定部と、
を含む同義判定装置。 - 前記素性構築部は、前記第１の素性及び前記第２の素性のうち少なくとも１つの素性を抽出すると共に、
前記述部ペアの述部各々の前記定義文の両方に出現する語彙の数である第３の素性、
前記入力された前記述部ペアの述部各々の意味属性に基づいて抽出される前記述部ペアに共通する意味属性の詳細の度合いに応じた重みを付加した前記述部ペアの意味属性の重なり度合いである第４の素性、
入力された前記述部ペアの述部の各々について、テキストコーパスにおいて前記述部の周辺に出現する単語を比較した分布類似度である第５の素性、
予め用意された複数の述部の各々の機能表現の意味ラベルからなる意味ラベル集合から得られる、前記入力された前記述部ペアの述部各々の機能表現の意味ラベルに基づいて抽出される前記述部ペアで共通する意味ラベルである第６の素性、及び
前記述部ペアの前記共通する意味ラベルの重なり度合いである第７の素性
のうち少なくとも１つの素性を抽出する、
請求項１記載の同義判定装置。 - 予め用意された複数の述部の各々についての定義文からなる定義文集合から得られる、入力された「項-述部」ペアの述部各々の定義文に基づいて抽出される、前記「項-述部」ペアの述部各々の前記定義文内にペアとなる述部が存在するか否か、及び前記「項-述部」ペアの述部の各々の前記定義文内にペアとなる「項-述部」の項が存在するか否かのうち少なくとも前記述部が存在するか否かである第１の素性、及び予め用意された複数の述部の各々についての意味属性からなる意味属性集合から得られる、前記入力された前記「項-述部」ペアの述部各々の意味属性に基づいて抽出される前記「項-述部」ペアで共通する意味属性である第２の素性のうち少なくとも１つを抽出する素性構築部と、
予め求められた同義判定モデルが記憶された同義判定モデル記憶部と、
前記素性構築部で抽出された素性に基づいて前記同義判定モデル記憶部に記憶された前記同義判定モデルを基に前記入力された「項-述部」ペアが同義であるか否かを判定する同義判定部と、
を含む同義判定装置。 - 前記素性構築部は、前記第１の素性及び前記第２の素性のうち少なくとも１つの素性を抽出すると共に、
前記「項-述部」ペアの述部各々の前記定義文の両方に出現する語彙の数である第３の素性、
前記入力された前記「項-述部」ペアの述部各々の意味属性に基づいて抽出される前記「項-述部」ペアに共通する意味属性の詳細の度合いに応じた重みを付加した前記「項-述部」ペアの意味属性の重なり度合いである第４の素性、
入力された前記「項-述部」ペアの「項-述部」の各々について、テキストコーパスにおいて前記「項-述部」の周辺に出現する単語を比較した分布類似度、及び前記「項-述部」ペアの述部の各々について、テキストコーパスにおいて前記「項-述部」の述部の周辺に出現する単語を比較した分布類似度のうち少なくとも前記「項-述部」の周辺に出現する単語を比較した分布類似度である第５の素性、
予め用意された複数の述部の各々の機能表現の意味ラベルからなる意味ラベル集合から得られる、前記入力された前記「項-述部」ペアの述部各々の機能表現の意味ラベルに基づいて抽出される前記「項-述部」ペアで共通する意味ラベルである第６の素性、及び
前記「項-述部」ペアの前記共通する意味ラベルの重なり度合いである第７の素性
のうち少なくとも１つの素性を抽出する、
請求項３記載の同義判定装置。 - 予め用意された複数の述部の各々についての定義文からなる定義文集合から得られる、述部ペアの述部各々の定義文に基づいて抽出される、前記述部ペアの述部各々の前記定義文内にペアとなる述部が存在するか否かである第１の素性、及び予め用意された複数の述部の各々についての意味属性からなる意味属性集合から得られる、前記述部ペアの述部各々の意味属性で共通する意味属性である第２の素性のうち少なくとも１つを、同義か否かの情報が付され、かつ、予め用意された複数の述部ペアの各々について抽出する素性構築部と、
前記素性構築部によって前記複数の述部ペアについて抽出された第１の素性及び前記第２の素性のうち少なくとも１つと、前記複数の述部ペアについての前記同義か否かの情報とに基づいて同義判定モデルを学習する同義判定モデル学習部と、
を含む同義学習装置。 - 予め用意された複数の述部の各々についての定義文からなる定義文集合から得られる、「項-述部」ペアの述部各々の定義文に基づいて抽出される、前記「項-述部」ペアの述部各々の前記定義文内にペアとなる述部が存在するか否か、及び前記「項-述部」ペアの述部の各々の前記定義文内にペアとなる「項-述部」の項が存在するか否かのうち少なくとも前記述部が存在するか否かである第１の素性、及び予め用意された複数の述部の各々についての意味属性からなる意味属性集合から得られる、前記「項-述部」ペアの述部各々の意味属性で共通する意味属性である第２の素性のうち少なくとも１を、同義か否かの情報が付され、かつ、予め用意された複数の「項-述部」ペアの各々について抽出する素性構築部と、
前記素性構築部によって前記複数の「項-述部」ペアについて抽出された第１の素性及び前記第２の素性のうち少なくとも１つと、前記複数の「項-述部」ペアについての前記同義か否かの情報とに基づいて同義判定モデルを学習する同義判定モデル学習部と、
を含む同義学習装置。 - コンピュータを、請求項１〜４の何れか１項記載の同義判定装置を構成する各手段として機能させるためのプログラム。
- コンピュータを、請求項５〜６の何れか１項記載の同義学習装置を構成する各手段として機能させるためのプログラム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2012274963A JP5916016B2 (ja) | 2012-12-17 | 2012-12-17 | 同義判定装置、同義学習装置、及びプログラム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2012274963A JP5916016B2 (ja) | 2012-12-17 | 2012-12-17 | 同義判定装置、同義学習装置、及びプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2014119988A JP2014119988A (ja) | 2014-06-30 |
| JP5916016B2 true JP5916016B2 (ja) | 2016-05-11 |
Family
ID=51174769
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2012274963A Expired - Fee Related JP5916016B2 (ja) | 2012-12-17 | 2012-12-17 | 同義判定装置、同義学習装置、及びプログラム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5916016B2 (ja) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2016021136A (ja) * | 2014-07-14 | 2016-02-04 | 株式会社東芝 | 類義語辞書作成装置 |
| CN109408824B (zh) * | 2018-11-05 | 2023-04-25 | 百度在线网络技术（北京）有限公司 | 用于生成信息的方法和装置 |
| WO2020144736A1 (ja) * | 2019-01-08 | 2020-07-16 | 三菱電機株式会社 | 意味関係学習装置、意味関係学習方法、及び意味関係学習プログラム |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007079730A (ja) * | 2005-09-12 | 2007-03-29 | Oki Electric Ind Co Ltd | 単語類似判断装置、方法及びプログラム |
| JP5504097B2 (ja) * | 2010-08-20 | 2014-05-28 | Ｋｄｄｉ株式会社 | 意味的に類似している語対を二項関係に分類する二項関係分類プログラム、方法及び装置 |
| CN103562907B (zh) * | 2011-05-10 | 2016-12-07 | 日本电气株式会社 | 用于评估同义表达的设备、方法和程序 |
-
2012
- 2012-12-17 JP JP2012274963A patent/JP5916016B2/ja not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2014119988A (ja) | 2014-06-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Bonta et al. | A comprehensive study on lexicon based approaches for sentiment analysis | |
| Ristoski et al. | Rdf2vec: Rdf graph embeddings for data mining | |
| Kang et al. | based measurement of customer satisfaction in mobile service: Sentiment analysis and VIKOR approach | |
| US20170116203A1 (en) | Method of automated discovery of topic relatedness | |
| US20130060769A1 (en) | System and method for identifying social media interactions | |
| Shah et al. | Sentimental Analysis Using Supervised Learning Algorithms | |
| Wang et al. | NLP-based query-answering system for information extraction from building information models | |
| Rachman et al. | CBE: Corpus-based of emotion for emotion detection in text document | |
| KR101806452B1 (ko) | 텍스트 마이닝을 기반으로 한 상품 자동 매핑 방법 및 장치 | |
| US20200073890A1 (en) | Intelligent search platforms | |
| JP2019082931A (ja) | 検索装置、類似度算出方法、およびプログラム | |
| US20230004716A1 (en) | Computing system for entity disambiguation and not-in-list entity detection in a knowledge graph | |
| JP5916016B2 (ja) | 同義判定装置、同義学習装置、及びプログラム | |
| Kathiria et al. | Trend analysis and forecasting of publication activities by Indian computer science researchers during the period of 2010–23 | |
| Shabaz et al. | AS: a novel sentimental analysis approach | |
| Zhuo | Consumer demand behavior mining and product recommendation based on online product review mining and fuzzy sets | |
| Wongchaisuwat | Automatic keyword extraction using textrank | |
| Gezici et al. | Sentiment analysis using domain-adaptation and sentence-based analysis | |
| Feng et al. | Product feature extraction via topic model and synonym recognition approach | |
| Consuegra-Ayala et al. | Automatic annotation of protected attributes to support fairness optimization | |
| JP2015028697A (ja) | 分類モデル学習装置、分類判定装置、方法及びプログラム | |
| JP5614687B2 (ja) | 時系列情報とテキスト情報とを含む時系列的テキストデータを解析する情報解析装置 | |
| Jayawickrama et al. | Facebook for sentiment analysis: baseline models to predict Facebook reactions of Sinhala posts | |
| JP4314271B2 (ja) | 単語間関連度算出装置、単語間関連度算出方法及び単語間関連度算出プログラム並びにそのプログラムを記録した記録媒体 | |
| Zhang | Text Complexity Classification Data Mining Model Based on Dynamic Quantitative Relationship between Modality and English Context |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150225 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20150225 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20151125 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20151201 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160128 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160301 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160330 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 5916016 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| LAPS | Cancellation because of no payment of annual fees |