JP3663878B2 - 未知語概念推定装置及び未知語概念推定処理プログラムを記録したコンピュータ読みとり可能な記録媒体 - Google Patents

Description

【０００１】
【発明の属する技術分野】
この発明は、既存のシソーラスには含まれない未知語の概念を推定する未知語の概念推定に関する。例えば、大規模な文書情報からなる電子化コーパスから得られる統計的な情報に基づいて、未知語が属すべき概念を既存のシソーラス中から探索して推定する未知語概念推定方法、未知語概念推定装置及び未知語概念推定処理プログラムを記録したコンピュータ読み取り可能な記録媒体に関するものである。
【０００２】
【従来の技術】
機械翻訳や文書検索などの自然言語処理技術において、意味的な情報を扱うための情報としてシソーラスが利用される。シソーラスとは、単語間の上位下位関係や同義関係を単語の概念に基づいて記述したものである。その一例として、「ＥＤＲ電子化辞書仕様説明書」（日本電子化辞書研究所、1993年）に開示されるＥＤＲ概念辞書や、「上位／下位関係シソーラスＩＳＡＭＡＰ１の作成」（田中穂積、仁科喜久子著、情報処理学会自然言語処理研究会、Vol.64、No.4、pp.25-45、1987年（以下、文献１と呼ぶ））に開示されたＩＳＡＭＡＰがある。これらのシソーラスは人間の手で構築されたものの一例である。しかし、大規模なシソーラスを人手で構築する場合には、大変な労力が必要となる。
【０００３】
一方、自動的にシソーラスを構築する技術がある。例えば、コーパスから得られる統計情報を利用して単語間の類似度を計算し、クラスタリングすることにより、自動的にシソーラスを構築するものである。これは近年の電子化文書の増加にともない、大量の文書情報からなる電子化コーパスが利用可能となったため実現されたものである。このような技術として、例えば、特開平８−２６３４９５号公報に開示された自動クラスタリング装置がある。
【０００４】
しかし、単語間の類似度を計算してクラスタリングする手法は、現在の技術水準では精度が低いため、必ずしも実用的ではなかった。また、クラスタリングにかかる計算コストは非常に大きいため、数万語からなる通常の自然言語処理用辞書のすべての単語をクラスタリングすることは困難であった。
【０００５】
これらに対するシソーラスの構築法として、人手で作成された既存のシソーラスを利用して、そのシソーラスには含まれていない概念をもつ単語、すなわち未知語が、シソーラス上のどの概念に相当するかを推定し、配置するという手法が「コーパスに基づくシソーラス-統計情報を用いた既存のシソーラスへの未知語の配置」（浦本直彦、情報処理学会論文誌、Vol.37、No.12、P.2182-2189、1996年（以下、文献２と呼ぶ））に開示されている。
【０００６】
以下、図３５から図３９を用いて文献２に開示される未知語の概念推定の概要を説明する。図３５は、文献２の未知語概念推定装置の構成を示すブロック図である。図３５において、１は大量の文書情報からなるコーパスである。２は単語間の上位下位関係や同義関係を単語の概念に基づいて単語で記述したシソーラスである。すなわち、シソーラスのノードは概念を表す単語でなる。３は未知語を入力する未知語入力部である。ここで未知語とは、コーパス１に含まれる単語のうち既存のシソーラス２に含まれない単語である。
【０００７】
４は、コーパス１を形態素解析し、さらに係り受け解析し、関係データ統計情報を抽出して出力する関係データ統計情報抽出部である。５は、出力された関係データ統計情報を記憶する関係データ統計情報記憶部である。６は、記憶された関係データ統計情報を読み出すと共に、その関係データ統計情報に基づいて未知語入力部３から入力された未知語とシソーラス２中の単語との類似度を計算して出力する単語間類似度計算部である。７は、未知語が属するシソーラス２中の部分（エリア）を推定し、出力する推定エリア抽出部である。単語間類似度計算部６により計算された類似度が閾値以上である単語をシソーラス２から抽出し、これらの単語で連結されたエリアを未知語が属するエリアの推定結果として出力する。
【０００８】
８は、シソーラス２および関係データ統計情報記憶部５に記憶された関係データ統計情報に基づいてシソーラス２の視点を抽出し、視点情報として出力する視点抽出部である。視点とは、単語をシソーラス２上に配置するための分類基準であり、シソーラスの単語（下位の概念を持つもの）一つ一つに与えられるものである。９は視点抽出部８により抽出された視点情報を記憶する視点情報記憶部である。１０は、推定エリア抽出部７により出力された複数のエリアを視点情報を用いて評価し、評価値が最大のエリアを選択するエリア評価部である。１１は、エリア評価部１０で最適と判定されたエリアを出力するエリア出力部である。
【０００９】
つぎに、動作について説明する。図３６は、文献２の処理手順を示すフローチャートである。まず、ステップＳ１では、前処理として関係データ統計情報の抽出を行なう。図３７は、Ｓ１の処理手順を詳細に示したフローチャートである。ステップＳ１１で、関係データ統計情報抽出部４はコーパス１を形態素解析し、ステップＳ１２で、その形態素解析結果を用いて係り受け解析する。さらに、ステップＳ１３で、係り受け解析結果を計数して関係データ統計情報１２を得る。そして得られた関係データ統計情報１２を関係データ統計情報記憶部５に記憶する。図３８に関係データ統計情報１２の例を示す。関係データ統計情報１２は、単語１（１２ａ）、単語間の関係を示す関係マーカ（１２ｂ）、単語２（１２ｃ）、コーパス中の出現頻度（１２ｄ）からなる。
【００１０】
もう一つの前処理として、ステップＳ２では、視点抽出部８が視点情報１３の抽出を行なう。関係データ統計情報記憶部５からシソーラス２の各単語に対する関係データ統計情報１２を得て、その中からシソーラス２の各単語の概念を特徴づける情報を視点情報１３として抽出する。図３９に視点情報１３の一例を示す。図３９において、１３ａはシソーラス２に含まれている単語、１３ｂは関係マーカ、１３ｃは単語１３ａと共起関係のある単語、１３ｄは位置情報である。
【００１１】
ステップＳ３では、未知語入力部３が未知語を入力する。ステップＳ４では、単語間類似度計算部６が、入力された未知語とシソーラス２中のすべての単語との類似度を計算する。関係データ統計情報１２を元に式（１）に基づいて類似度を計算し、類似度が閾値以上となるシソーラス２中の単語すべてにマークをつける。
【００１２】
【数１】

【００１３】
ステップＳ５では、推定エリア抽出部７が推定エリアを抽出する。ステップＳ４でマークされた単語のうち、シソーラス２上で連結する部分をまとめあげて、ひとつのエリアとして抽出する。これを未知語の概念が属すると推定される推定エリアとして出力する。通常複数の単語がマークされ、それらの単語がいくつかのエリアにまとめ上げられる。
【００１４】
最後に、ステップＳ６では、エリア評価部１０がステップＳ５で出力された複数のエリアを評価し、未知語が配置されるべき最適なエリアを選択する。ステップＳ７では、推定エリア出力部１１がステップＳ６で選択されたエリアを出力し、処理を終了する。
【００１５】
以上説明したように、文献２に示される従来技術では、コーパスに対して形態素解析および係り受け解析を行ない、この解析結果をもとに関係データなる統計情報を抽出する。さらに、抽出した統計情報およびシソーラスをもとに視点情報を抽出する。未知語が入力されると、関係データに基づいて未知語とシソーラス中の全単語との類似度を計算し、類似度が所定の閾値以上の単語が連結するシソーラス上の部分をエリアとしてまとめ上げる。視点情報を利用して複数のエリアから未知語の概念が属すると推定される最適なエリアを選択し、未知語が属するシソーラス上のエリア、すなわち未知語の概念を推定する。
【００１６】
【発明が解決しようとする課題】
しかし、文献２に開示されるような従来の手法には、以下に示すように、解決すべきいくつかの課題があった。
【００１７】
まず、単語間の類似度を計算するための統計情報として、係り受け解析の結果を使用している点にあった。通常、係り受け解析には多くの曖昧性が存在し、すべての曖昧性を自動的に処理して正しい解析結果を得ることは困難である。そのため、精度の良い統計情報を得られるような、正しい係り受け解析結果をもつコーパスを作成するためには、何らかの形で人間の手で修正する必要があり、大きな開発コストがかかるという問題点があった。また、人手による修正を経て開発されたコーパスはすでに存在するが、その数は少ないため応用範囲が非常に限られたものとなるという問題点があった。さらに、自動的な係り受け解析のみでは精度が低いため、そこから得られる統計情報の精度は悪く、未知語の概念推定を行なうのに十分な精度が得られないという問題点があった。
【００１８】
また、使用する統計情報には適切な重み付けがなく、類似度計算に寄与する語も寄与しない語も同等に扱っているため、十分な概念推定の精度が得られないという問題点があった。コーパスを係り受け解析し、その結果を計数して得た単純な統計情報には、単語間の類似度判定や概念推定には適さないノイズとみなされる情報も含まれている。このようなノイズを含んだ統計情報を使用しているため類似度計算の精度が低下する。その結果、概念推定の精度が悪化するという問題点があった。
【００１９】
また、類似度の計算方法が複雑であることに加え、未知語とシソーラス上のすべての単語との類似度を計算してからエリアを推定するため、エリアの推定に要する計算量が大きいという問題点があった。特に、大規模なシソーラスを用いた場合、計算量が大きくなり実行効率が悪いという問題点があった。
【００２０】
また、入力された未知語がシソーラス中の単語と完全に同義である場合にも、推定エリアとして類似単語からなるエリア情報が出力されるのみであるため、類義語と同義語との区別がつかず、得られるシソーラスが、同義語のみ処理対象とするような処理には利用できないという問題点もあった。
【００２１】
さらに、概念推定できるのは、シソーラス中にすでに存在する概念のみであるという問題点があった。すなわち、入力された未知語がシソーラス中に存在するどの概念とも異なる新たな概念をもつ語である場合でも、類似した概念をもつ単語の集合が示されるだけであり、シソーラス中に新たな概念を作成することはできなかった。
【００２２】
この発明は上記のような問題点を解決するためになされたもので、統計情報として係り受け解析結果を必要とせず、自動的な処理が可能であると共に、多種多様な文書情報に対する未知語の概念推定に費やす開発コストを小さくすることを目的とする。
【００２３】
また、未知語の概念推定精度を向上させると共に、未知語の概念推定処理を高速化することを目的とする。さらに、未知語の概念推定において同義概念と類義概念とを精度良く区別すると共に、既存のシソーラスに存在しない新たな概念を推定することを目的とする。
【００２４】
この発明に係る未知語概念推定装置は、複数の単語の概念間の関係を記述したシソーラスには含まれない新たな単語（未知語）の概念を推定するために、大量の電子化文書情報からなるコーパスを解析する未知語概念推定装置であって、
上記コーパスの各文書において各単語の前後に現れる単語を近傍単語とし、その近傍単語の出現頻度を上記各単語ごとに計算して、その結果を近傍単語統計情報として出力する近傍単語統計情報抽出手段と、
上記未知語の近傍単語統計情報と上記シソーラスの概念の近傍単語統計情報との類似度を計算して出力する単語間類似度計算手段と、
上記シソーラスの概念間の関係を示すリンク情報を辿って、上記未知語との類似度が所定の閾値以上となる上記シソーラスの概念を探索し、その探索結果を類似概念の候補として出力する類似概念探索手段と、
上記類似概念の候補の類似度を評価して最適な類似概念を選択して出力する類似概念評価手段と、
を備えたものである。
【００２５】
また、次の発明に係る未知語概念推定装置は、上記単語間類似度計算手段が、上記未知語と上記シソーラスの概念のいずれかが機能語である場合に、該機能語の近傍単語統計情報について上記類似度の計算を省略するものである。
【００２６】
また、次の発明に係る未知語概念推定装置は、上記単語間類似度計算手段が、上記未知語の前後の単語の出現パターンが品詞間の係り受けパターンに合致する場合に、上記計算した類似度に重み付けをして出力するものである。
【００２７】
また、次の発明に係る未知語概念推定装置は、上記単語間類似度計算手段が、未知語の概念の推定に寄与しない所定のストップワードに上記近傍単語が該当する場合に、該近傍単語の近傍単語統計情報について上記類似度の計算を省略するものである。
【００２８】
また、次の発明に係る未知語概念推定装置は、上記単語間類似度計算手段が、上記近傍単語が頻出単語に該当する場合に、該近傍単語の近傍単語統計情報について上記類似度の計算を省略するものである。
【００２９】
また、次の発明に係る未知語概念推定装置は、上記単語間類似度計算手段が、上記計算した類似度に上記未知語とその上記近傍単語との単語間距離に応じた重み付けをして出力するものである。
【００３０】
また、次の発明に係る未知語概念推定装置は、上記単語間類似度計算手段が、上記未知語と上記シソーラスの概念との間に共通する上記近傍単語の個数に基づいて上記類似度を決定するものである。
【００３１】
また、次の発明に係る未知語概念推定装置は、上記類似概念探索手段が、予め定められた上位概念となる上記シソーラスの概念から上記リンク情報を辿るものである。
【００３２】
また、次の発明に係る未知語概念推定装置は、上記類似概念評価手段が出力した上記類似概念の近傍単語統計情報と上記未知語の近傍単語統計情報とから、上記未知語と上記類似概念とが、上記コーパスにおいて互いに近傍に出現する関係である共起関係にあるか否かを決定し、上記未知語と共起関係にない上記類似概念を同義概念として出力する共起判定手段をさらに備えるものである。
【００３３】
また、次の発明に係る未知語概念推定装置は、上記類似概念評価手段が出力した複数の上記類似概念のうち、上記未知語との類似度がほぼ同じ類似概念が存在する場合に、上記未知語が該類似概念と共通の上位概念を有する概念であると判断する新義語挿入判定手段をさらに備えるものである。
【００３６】
【発明の実施の形態】
実施の形態１．
以下、本発明の実施の形態１について説明する。図1は実施の形態１における未知語概念推定装置の構成を示すブロック図である。図1において、１０１は大量の文書情報からなるコーパスである。１０２は単語間の上位下位関係や同義関係を単語の概念に基づいて記述したシソーラスである。ここでは簡単のため、シソーラスのノードは概念を表す単語でなる場合について説明する。１０３は、未知語を入力する未知語入力部である。ここで未知語とは、コーパス１０１に含まれる単語のうち既存のシソーラス１０２に含まれない単語である。１０４は、コーパス１０１を形態素解析し、各単語の前後に現れる近傍単語の頻度を抽出して近傍単語統計情報を出力する近傍単語統計情報抽出部である。１０５は、出力された近傍単語統計情報を記憶する近傍単語統計情報記憶部である。
【００３７】
１０６は、記憶された近傍単語統計情報を読み出すと共に、その近傍単語統計情報に基づいて、入力された未知語とシソーラス１０２中のノード（概念を表す単語）との類似度を計算して出力する単語間類似度計算部である。１０７は、シソーラス１０２のノードを単語間類似度計算部１０６に出力すると共に、単語間類似度計算部１０６により計算された類似度に基づき、シソーラス１０２のもつノードのリンク情報をたどりながら近傍単語統計情報を用いて入力された未知語と類似する概念を探索し、類似概念の候補を出力する類似概念探索部である。１０８は、類似概念探索部１０７で探索された類似概念の候補を入力未知語との類似度に基づいて評価し、最適な類似概念を選択して出力する類似概念評価部である。１０９は、類似概念評価部１０８で最適と判定された類義概念を出力する類似概念出力部である。
【００３８】
図２は、本発明の実施の形態１における未知語概念推定装置の処理手順を示すフローチャートである。以下、図１および図２を参照しつつ、適宜他の詳細図面を参照しながら、動作について詳細に説明する。
【００３９】
まず、未知語の概念推定に先立って前処理を行う。ステップＳ１０は、近傍単語統計情報抽出ステップである。ステップＳ１０において、近傍単語統計情報抽出部１０４は、コーパス１０１を形態素解析して近傍単語統計情報を抽出し、その近傍単語統計情報を近傍単語統計情報記憶部１０５に記憶する。ステップＳ１０は前処理であり、ひとつのコーパスに対して一度だけ処理すればよい。詳細な処理については後述する。
【００４０】
ステップＳ２０は、未知語入力ステップである。ステップＳ２０において、未知語入力部１０３は、図示しない未知語抽出手段によってコーパス１０１から抽出された未知語を単語間類似度計算部１０６に入力する。
【００４１】
未知語の抽出については、特開昭６３−１６３９６２号公報に開示される前後の字種情報を手がかりにする手法や、「ｎグラム統計によるコーパスからの未知語抽出」（森信介、長尾眞、電子情報通信学会 言語理解とコミュニケーション研究会、95-8、1995年）に開示される前後の文字の統計情報を用いる手法など様々な公知技術がある。未知語抽出手段として、いかなる未知語抽出手法を用いても、本発明の特徴を損なうものではない。
【００４２】
また、抽出された未知語については、未知語入力部１０３からすべてを自動的に入力して以降の処理を行なってもよいし、本装置を使用する人間が必要とする未知語を選択しながら入力してもよい。この場合、未知語のリストを表示して、その中から人間が選択して入力するメニュー表示方式などが考えられる。
【００４３】
ステップＳ３０は、類似概念探索ステップである。ステップＳ３０において、類似概念探索部１０７は、シソーラス１０２の上位概念から下位概念へのノードのリンク情報をたどりながら、入力された未知語と類似する類似概念のノードを探索する。ステップＳ３０では、その探索処理において、単語間類似度計算ステップＳ４０を繰り返し呼び出して実行する。詳細な処理方法については後述する。
【００４４】
ステップＳ４０は、単語間類似度計算ステップである。ステップＳ４０において、単語間類似度計算部１０６は、近傍単語統計情報記憶部１０５に記憶された近傍単語統計情報を読み出すと共に、その近傍単語統計情報に基づいて、入力部１０３から入力された未知語と類似概念探索部１０７から入力されたシソーラス１０２中のノードとの類似度を計算し、その類似度を類似概念探索部１０７に出力する。詳細な処理方法については後述する。
【００４５】
ステップＳ５０は、類似概念評価ステップである。ステップＳ５０において、類似概念評価部１０８は、類似概念探索部１０７により出力された類似概念の候補を単語間類似度計算部１０６で計算した未知語との類似度に基づいて評価し、最適な類似概念を選択して出力する。詳細な処理方法については後述する。
【００４６】
ステップＳ６０は、類似概念出力ステップである。ステップＳ６０において、類似概念出力部１０９は、類似概念評価部１０８により最適と判定された類似概念を出力し、処理を終了する。このとき、出力結果を反映して、自動的にシソーラス１０２を更新してもよいし、出力結果を画面に表示し、本装置を操作する人間がシソーラス１０２の更新を行なってもよい。
【００４７】
以下、図３から図１０を用いて、近傍単語統計情報抽出ステップＳ１０の詳細な処理について説明する。図３は近傍単語統計情報抽出部１０４の詳細な構成を示すブロック図である。図３において、１０４ａはコーパス１０１を形態素解析し、その形態素解析結果を出力する形態素解析部、１０４ｂは形態素解析結果から近傍単語情報を抽出して出力する近傍単語情報抽出部、１０４ｃは近傍単語情報から近傍単語の頻度を計数して近傍単語統計情報を出力する近傍単語情報計数部である。なお、１０４ｄおよび１０４ｅは中間データであり、それぞれ形態素解析結果および近傍単語情報である。１０４ｆは、近傍単語統計情報である。
【００４８】
図４はステップＳ１０の処理を詳細に示すフローチャートである。ステップＳ１０１は形態素解析ステップである。ステップＳ１０１では、形態素解析部１０４ａが、文書情報からなるコーパス１０１を形態素解析する。形態素解析は、例えば「未登録語を含む日本語文の形態素解析」（吉村賢治、武内美津乃、津田健蔵、首藤公昭、情報処理学会論文誌、Vol.30、No.3、1989年）に開示されるコスト最小法に基づいて行う。図５に形態素解析結果１０４ｄの一例を示す。
【００４９】
ステップＳ１０２は、形態素解析結果から近傍単語情報を抽出する近傍単語抽出ステップである。ステップＳ１０２では、近傍単語情報抽出部１０４ｂが、形態素解析結果から近傍単語情報１０４ｅを抽出する。近傍単語情報には、少なくとも単語およびその単語の品詞情報が格納されている。単語間の距離が２までの単語を近傍単語情報として抽出した場合の近傍単語情報１０４ｅの一例を図６に示す。図６では、第１フィールド（左端）の単語に対してコーパス１０１中で前後に出現する２語ずつの近傍単語（全部で４語）を第２フィールド以降に示している。“ｘ”は特殊な記号であり、その単語が文頭や文末にある場合など、前後が２語に満たない場合に、後の処理がしやすいようフィールド数をそろえるために挿入してある。
【００５０】
なお、活用語に関して終止形に統一しているが、計算機の内部形式としては語幹のみでもよい。また、図６の例では前後２語を抽出しているが、コーパス１０１中において、一つの文書に含まれる単語数が多い場合には、単語間の距離を３または５などとしてもよい。さらに、一つ一つの文書に含まれるすべての単語を近傍単語として処理してもよい。
【００５１】
ステップＳ１０３は、近傍単語情報計数ステップである。ステップＳ１０３では、近傍単語情報計数部１０４ｃが近傍単語情報１０４ｅに基づき近傍単語の頻度を計数して近傍単語統計情報１０４ｆを求め、近傍単語統計情報記憶部１０５に記憶する。近傍単語統計情報には、少なくとも単語およびその単語の品詞情報が記憶されている。近傍単語統計情報１０４ｆの一例を図７に示す。図７では、第１フィールドの単語に対する近傍単語統計情報を第２フィールドに示している。数字は、コーパス１０１中において、その単語が第１フィールドの単語の近傍に現れた回数を表わす。また、図７はコーパス１０１全体から得られた近傍単語統計情報であり、図５に示した例より大量の文書から得られた近傍単語統計情報である。
【００５２】
つぎに、図２における類似概念探索ステップＳ３０から類似概念出力ステップＳ６０までの詳細な処理手順を、図１を参照しつつ図８および図９を用いて説明する。ステップＳ２０１において、単語間類似度計算部１０６は、未知語入力部１０３によって入力された入力未知語Ｗｕを初期化し、類似概念探索部１０７は、シソーラス探索開始ノードであるルートノードＮｒを初期化する。ここでは説明を簡単にするため、シソーラス１０２として図９に示すシソーラスを使用し、入力未知語は「ＣＳ放送」であり、ルートノードは「放送」であるとする。したがってこの場合、単語間類似度計算部１０６は入力未知語Ｗｕを「ＣＳ放送」で初期化し、類似概念探索部１０７はルートノードＮｒを「放送」で初期化する。
【００５３】
ステップＳ２０２において、類似概念探索部１０７は、シソーラス１０２のノードのリンク情報によりルートノードＮｒの下位概念の集合Ｎｂを得る。図９の例では、「ラジオ放送」および「テレビ放送」が下位概念として得られる。
【００５４】
つぎに、ステップＳ２０３において、単語間類似度計算部１０６が入力未知語ＷｕとステップＳ２０２において得られた下位概念の集合Ｎｂの各要素との類似度を計算し、結果を類似概念探索部１０７に出力する。類似度は、近傍単語統計情報記憶部１０５に記憶された近傍単語統計情報に基づいて計算される。すなわち、図１０に示すように、近傍単語統計情報記憶部１０５から入力未知語Ｗｕの「ＣＳ放送」、シソーラス１０２中のノード「ラジオ放送」および「テレビ放送」のそれぞれの近傍単語統計情報を読み出し、それぞれの近傍単語統計情報の類似性を計算する。
【００５５】
このような統計量の類似性を計算する手法として、様々なものが考えられるが、例えば各近傍単語の頻度をベクトルと考え、内積値の小さい方が類似性が高いとする手法がある。このとき、単語により出現頻度が異なるので、ベクトルの長さが１となるよう正規化して用いる。この他にも、相互情報量を用いて類似性を計算する手法がある。いずれの手法を用いたとしても、近傍単語の頻度情報を用いて単語間類似度の計算をするのであれば、本発明の特徴を何ら損なうものではない。
【００５６】
ステップＳ２０４では、類似概念探索部１０７が、ステップＳ２０３における類似度計算結果が閾値以上のノード集合Ｎｎを抽出する。ステップＳ２０５では、閾値以上のノード集合Ｎｎの要素となっている各ノードに下位概念が存在するかどうかを判定する。ここでは、「ＣＳ放送」と「ラジオ放送」との類似度は閾値以下で、「ＣＳ放送」と「テレビ放送」との類似度が閾値以上だったとする。このとき、閾値以上のノード集合Ｎｎの要素は「テレビ放送」のみであり、下位概念としては「ＶＨＦ放送」、「ＵＨＦ放送」および「衛星放送」の３つである。したがって、ステップＳ２０５の判定はＹＥＳとなり、ステップＳ２０６に進む。
【００５７】
ステップＳ２０６では、閾値以上のノード集合Ｎｎの要素である各ノードを新たなルートノードＮｒとして設定する。ステップＳ２０２からステップＳ２０６までを繰り返し処理し、処理結果として得られるノードの和集合を類似概念評価部１０８に出力する。ここでは、順に「衛星放送」、「ＢＳ放送」とたどって処理が進む。なお、閾値以上のノード集合Ｎｎが複数の要素をもつ場合は、各要素について順に処理する。
【００５８】
図９のシソーラス１０２の例では、Ｎｎが「ＢＳ放送」となったとき、もう下位概念がないので、ステップＳ２０５でＮｏとなり、ステップＳ２０７に進む。ステップＳ２０７では、類似概念評価部１０８が、再起処理における出力結果の和集合の各要素を評価し、類似度に基づいて最適と判定されたノードを類似概念ノード出力部１０９に出力する。例えば、Ｓ２０２からＳ２０６までの再帰処理の結果、複数のノード「ＶＨＦ放送」と「ＢＳ放送」が出力され、「ＢＳ放送」の方が「ＶＨＦ放送」よりも類似度が高い場合、入力未知語「ＣＳ放送」の類似概念として、類似度の高い「ＢＳ放送」が最適と判定される。すなわち、入力未知語「ＣＳ放送」の概念はシソーラス１０２のノード「ＢＳ放送」と類似であると推定される。その後、ステップＳ２０８で、類似概念ノード出力部１０９が、判定されたノード（類似概念）を出力し、処理を終了する。
【００５９】
以上のように、本実施の形態に係る未知語概念推定装置によれば、単語間類似度計算部で用いる統計情報として、形態素解析結果から抽出する近傍単語統計情報を用いることにより、係り受け解析を必要とせず、自動的な未知語の概念推定処理を実現できる。また、自動的な処理が可能であることにより、人手による大量の修正作業が不要となり、多種多様な文書情報に対する未知語の概念推定に費やす開発コストを小さくすることができると共に、未知語概念推定処理の適用範囲を広げることができる。
【００６０】
なお、本実施の形態における未知語概念推定装置の処理動作を実行させるためのプログラム、データ、記憶情報などをフロッピーディスク、ＣＤ−ＲＯＭなどのコンピュータ読み取り可能な記録媒体に記憶して動作させてもよく、同様の効果を得られる。
【００６１】
また、本実施の形態では、シソーラスのノードは概念を表す単語でなる場合について説明したが、シソーラスは単語間の上位下位関係や同義関係を単語の概念に基づいて記述したものであればよく、これに限定されるものではない。例えば、シソーラスのノードが抽象的な概念を表す中間概念であっても良く、同様の効果を得られる。
【００６２】
例えば、本実施の形態における図９は、シソーラスのノードとして単語そのものが用いられている。すなわち、ノード＝単語＝概念という形式となっている。このような形式をとるシソーラスもあるが（文献１）、必ずしもシソーラスのノードが表層的な単語と一対一に関係しているとは限らない。表層的な単語と一対一に対応していない抽象的な概念を表す中間概念がある。
【００６３】
本実施の形態における単語間類似度計算では、実際にコーパスに出現した表層的な単語に基づいた統計情報を利用する場合について説明したが、中間概念に対しては、例えば、その各下位概念に対応する表層的な単語の集合により計算する。
【００６４】
シソーラスは基本的にｉｓ−ａと呼ばれる上位下位関係を基本として構成される。ｉｓ−ａ関係以外にも、全体と部分の関係を表わすｐａｒｔ−ｏｆと呼ばれる関係もあるが、ここでは説明を簡単にするために、ｉｓ−ａ階層についてシソーラスにおける単語と概念との関係を説明する。
【００６５】
ある中間概念Ｃｉで利用する表層単語の情報は、中間概念Ｃｉの全下位概念に対応する単語Ｗｊの統計情報の和を使用する。こうすることにより、直接表層的な単語との関係をもたない中間概念についても、本発明における単語間類似度計算を適用できる。なお、本発明は、単語間の関係を示すリンク情報を用いて未知語の概念を推定するものであるので、必ずしもｉｓ−ａ関係に基づくシソーラスに限られるものではないことは言うまでもない。
【００６６】
実施の形態２．
以下、本発明の実施の形態２について説明する。実施の形態２の全体構成および全体の処理手順については実施の形態１とまったく同様なため省略する。実施の形態２において特徴的な部分である近傍単語統計情報抽出部１０４および近傍単語統計情報抽出ステップＳ１０の内部で実行される機能語除去ステップについて詳しく説明する。
【００６７】
図１１は、本実施の形態における近傍単語統計情報抽出部１０４の詳細な構成を示すブロック図である。図１１において、前述の実施の形態と同一または相当部分に同一符号を付し、説明を省略する。３０１は、近傍単語情報から機能語に関する部分を除去する機能語除去部である。３０１ａ、３０１ｂおよび３０１ｃは中間データであり、それぞれ形態素解析結果、近傍単語情報、機能語除去後の近傍単語情報である。
【００６８】
図１２は、図２におけるステップＳ１０の処理手順を詳細に説明するフローチャートである。ステップＳ１０１、ステップＳ１０２、およびステップＳ１０３では、それぞれ図４における各ステップとまったく同じ処理を行なう。ステップＳ３０１では、機能語除去部３０１が、ステップＳ１０２の処理結果である近傍単語情報３０１ｂから機能語に関する部分を除去し、近傍単語情報３０１ｃを出力する。
【００６９】
図１３に形態素解析結果３０１ａ、近傍単語情報３０１ｂ、および機能語除去後の近傍単語情報３０１ｃの一例を示す。機能語除去部３０１は、近傍単語情報３０１ｂにおける品詞情報３０１ｐを用いて機能語の除去を行ない、さらに前後の語をつめて機能語除去後の近傍単語情報として、近傍単語情報３０１ｃを出力する。例えば、機能語の品詞情報を格納した図示しない機能語品詞辞書を参照し、近傍単語情報３０１ｂから機能語を除去する。
【００７０】
前述のように、本発明では入力未知語とノードとの類似度を計算する際に、コーパス中における入力未知語およびノード（概念を表す単語）の近傍に出現する単語を用いる。ところが、実質的な意味内容に乏しい単語である限定詞、前置詞、接続詞、感動詞などの機能語は、名詞や動詞などの内容語と異なり、あらゆる単語の近傍に出現する可能性がある。そのため、これらの機能語は特定の単語との関連が薄く、近傍単語統計情報により単語間類似度を計算する際のノイズとなる。したがって、これらの機能語に相当する品詞をもつ単語を近傍単語情報３０１ｂから除去することにより、近傍単語情報３０１ｃに含まれるノイズが減少して、その近傍単語情報３０１ｃから求められる近傍単語統計情報に含まれるノイズも減少する。その結果、単語間類似度計算の精度が高くなり、未知語の概念推定精度が向上する。
【００７１】
以上のように、本実施の形態に係る未知語概念推定装置によれば、前述の実施の形態における効果に加え、品詞情報に基づいて近傍単語情報から機能語を除去することにより、単語間類似度計算の精度が高くなり、未知語の概念推定精度を向上することができる。
【００７２】
なお、本実施の形態における未知語概念推定装置の処理動作を実行させるためのプログラム、データ、記憶情報などをフロッピーディスク、ＣＤ−ＲＯＭなどのコンピュータ読み取り可能な記録媒体に記憶して動作させてもよく、同様の効果を得られる。
【００７３】
また、前述の実施の形態と同様に、シソーラスのノードは概念を表す単語でなる場合について説明したが、シソーラスは単語間の上位下位関係や同義関係を単語の概念に基づいて記述したものであればよく、これに限定されるものではない。例えば、シソーラスのノードが抽象的な概念を表す中間概念であっても良く、同様の効果を得られる。
【００７４】
さらに、近傍単語情報から機能語を除去する場合について説明したが、類似度を計算する際に用いる近傍単語統計情報に機能語が含まれていなければよく、これに限定されるものではない。例えば、近傍単語情報計数部の出力である近傍単語統計情報から機能語を削除しても同様の効果を得られる。
【００７５】
実施の形態３．
以下、本発明の実施の形態３について説明する。実施の形態３の全体構成および全体の処理手順については実施の形態１とまったく同様なため省略する。実施の形態３において特徴的な部分である近傍単語統計情報抽出部１０４および近傍単語統計情報抽出ステップＳ１０の内部で実行される係り受け重み付けステップについて詳しく説明する。
【００７６】
図１４は、本実施の形態における近傍単語統計情報抽出部１０４の詳細な構成を示すブロック図である。図１４において、前述の実施の形態と同一または相当部分に同一符号を付し、説明を省略する。３０２は、形態素解析結果および品詞間のパターンに従って近傍単語情報に重み付けを行なう係り受け重み付け処理部である。３１２は、係り受けしやすい品詞間のパターンを記憶する係り受けパターン記憶部である。３０２ａ、３０２ｂおよび３０２ｃは中間データであり、それぞれ形態素解析結果、近傍単語情報、係り受け重み付け後の近傍単語情報である。
【００７７】
図１５は、図２におけるステップＳ１０の処理手順を詳細に説明するフローチャートである。ステップＳ１０１、ステップＳ１０２、およびステップＳ１０３では、それぞれ図４における各ステップとまったく同じ処理を行なう。ステップＳ３０２では、係り受けパターン重み付け部３０２が、形態素解析結果３０２ａを用い係り受けパターン記憶部３１２に記憶されたパターンに従って、ステップＳ１０２の処理結果である近傍単語情報３０２ｂに重み付けを行ない、近傍単語情報３０２ｃを出力する。
【００７８】
図１６に形態素解析結果３０２ａ、近傍単語情報３０２ｂ、および近傍単語情報３０２ｃの一例を示す。なお、図１６は前述の機能語除去部の処理を施したものである。例えば、近傍単語情報３０２ｂが「副詞、形容詞、名詞」という係り受けパターンにマッチする場合、形容詞の「速い」と名詞の「車」との間には係り受け関係があり、副詞の「とても」と名詞の「車」との係り受け関係より、強い関係である。この場合、図１６において、係り受け重み付け処理部３０２は、係り受け関係の強さに応じて単語間に適切な重み付けをし、近傍単語情報３０２ｃを出力する。
【００７９】
すなわち、係り受け関係が存在する可能性のある形容詞の「速い」と名詞の「車」に適切な強さの重み付けをすることにより、係り受け関係の強さを表現する。なお、重み付けの値として一律の値としてもよいし、各係り受けパターンごとに係り受けパターン記憶部３１２に記憶しておき、この値を用いてもよい。
【００８０】
前述のように、本発明では入力未知語とノードとの類似度を計算する際に、コーパス中における入力未知語およびノード（概念を表す単語）の近傍に出現する単語を用いるが、係り受け重み付け処理により、係り受け関係の強さに応じた近傍単語統計情報３０２ｃに重み付けをすることにより、係り受け関係の強さが類似度計算に反映される。その結果、単語間類似度計算の精度が高くなり、未知語の概念推定精度が向上する。
【００８１】
以上のように、本実施の形態に係る未知語概念推定装置によれば、前述の実施の形態における効果に加え、係り受けしやすい品詞間の係り受けパターンに基づいて、係り受け関係の強さに応じて近傍単語情報に重み付けをすることにより、単語間類似度計算の精度が高くなり、未知語の概念推定精度を向上することができる。
【００８２】
なお、本実施の形態における未知語概念推定装置の処理動作を実行させるためのプログラム、データ、記憶情報などをフロッピーディスク、ＣＤ−ＲＯＭなどのコンピュータ読み取り可能な記録媒体に記憶して動作させてもよく、同様の効果を得られる。
【００８３】
また、前述の実施の形態と同様に、シソーラスのノードは概念を表す単語でなる場合について説明したが、シソーラスは単語間の上位下位関係や同義関係を単語の概念に基づいて記述したものであればよく、これに限定されるものではない。例えば、シソーラスのノードが抽象的な概念を表す中間概念であっても良く、同様の効果を得られる。
【００８４】
さらに、近傍単語情報に係り受け重み付け処理を施す場合について説明したが、類似度を計算する際に用いる近傍単語統計情報に係り受け重み付け処理が施されていればよく、これに限定されるものではない。例えば、近傍単語情報計数部の出力である近傍単語統計情報に係り受け重み付け処理を施しても同様の効果を得られる。
【００８５】
実施の形態４．
以下、本発明の実施の形態４について説明する。実施の形態４の全体構成および全体の処理手順については実施の形態１とまったく同様なため省略する。実施の形態３において特徴的な部分である近傍単語統計情報抽出部１０４および近傍単語統計情報抽出ステップＳ１０の内部で実行されるストップワード削除ステップについて詳しく説明する。
【００８６】
図１７は、本実施の形態における近傍単語統計情報抽出部１０４の詳細な構成を示すブロック図である。図１７において、前述の実施の形態と同一または相当部分に同一符号を付し、説明を省略する。３０３は、近傍単語情報からストップワードを除去するストップワード除去部である。３１３は、ストップワードを記憶するストップワード辞書である。ここでストップワードとは、単語間類似度の計算に寄与しない単語のことである。３０３ａ、３０３ｂおよび３０３ｃは中間データであり、それぞれ形態素解析結果、近傍単語情報、ストップワード除去後の近傍単語情報である。
【００８７】
図１８は、図２におけるステップＳ１０の処理手順を詳細に説明するフローチャートである。ステップＳ１０１、ステップＳ１０２、およびステップＳ１０３では、それぞれ図４における各ステップとまったく同じ処理を行なう。ステップＳ３０３では、ストップワード除去部３０３がストップワード辞書３１３を参照しつつ、ステップＳ１０２の処理結果である近傍単語情報３０３ｂからストップワードを除去し、近傍単語情報３０４ｃを出力する。
【００８８】
前述のように、本発明では入力未知語とノードとの類似度を計算する際に、コーパス中における入力未知語およびノード（概念を表す単語）の近傍に出現する単語を用いる。ところが、非常に一般的で、頻繁に用いられるため、あらゆる単語の近傍に出現する可能性のある単語は、特定の単語との関連が薄く近傍単語統計情報により単語間類似度を計算する際のノイズとなる。形式名詞の「もの」や「こと」などは、その一例である。また、ある特定の分野のコーパスにおいて、非常に一般的で、頻繁に用いられる単語もある。例えば、情報処理に関する文章中では、「コンピュータ」などの単語である。
【００８９】
そこで、これらの単語をストップワードとして記憶したストップワード辞書３１３を用いて、近傍単語統計情報を抽出する際に、近傍単語情報３０３ｂからストップワードを除去する。これにより、近傍単語情報３０３ｃに含まれるノイズが減少して、その近傍単語情報３０３ｃから求められる近傍単語統計情報に含まれるノイズも減少する。その結果、単語間類似度計算の精度が高くなり、未知語の概念推定精度も向上する。
【００９０】
以上のように、本実施の形態に係る未知語概念推定装置によれば、前述の実施の形態における効果に加え、ストップワード辞書に基づいて近傍単語情報からストップワードを除去することにより、単語間類似度計算の精度が高くなり、未知語の概念推定精度を向上することができる。
【００９１】
なお、本実施の形態における未知語概念推定装置の処理動作を実行させるためのプログラム、データ、記憶情報などをフロッピーディスク、ＣＤ−ＲＯＭなどのコンピュータ読み取り可能な記録媒体に記憶して動作させてもよく、同様の効果を得られる。
【００９２】
また、前述の実施の形態と同様に、シソーラスのノードは概念を表す単語でなる場合について説明したが、シソーラスは単語間の上位下位関係や同義関係を単語の概念に基づいて記述したものであればよく、これに限定されるものではない。例えば、シソーラスのノードが抽象的な概念を表す中間概念であっても良く、同様の効果を得られる。
【００９３】
さらに、近傍単語情報からストップワードを除去する場合について説明したが、類似度を計算する際に用いる近傍単語統計情報にストップワードが含まれていなければよく、これに限定されるものではない。例えば、近傍単語情報計数部の出力である近傍単語統計情報からストップワードを削除しても同様の効果を得られる。
【００９４】
実施の形態５．
以下、本発明の実施の形態５について説明する。実施の形態５の全体構成および全体の処理手順については実施の形態１とまったく同様なため省略する。実施の形態５において特徴的な部分である近傍単語統計情報抽出部１０４および近傍単語統計情報抽出ステップＳ１０の内部で実行される頻出単語削除ステップについて詳しく説明する。
【００９５】
図１９は、本実施の形態における近傍単語統計情報抽出部１０４の詳細な構成を示すブロック図である。図１９において、前述の実施の形態と同一または相当部分に同一符号を付し、説明を省略する。３０４は、近傍単語情報から頻出単語を除去する頻出単語除去部である。頻出単語とは、コーパス中の出現頻度が著しく高いものであり、例えば、頻度値によって決定される。３０４ａ、３０４ｂおよび３０４ｃは中間データであり、それぞれ形態素解析結果、近傍単語情報、係り受け重み付け後の近傍単語情報である。
【００９６】
図２０は、図２におけるステップＳ１０の処理手順を詳細に説明するフローチャートである。ステップＳ１０１、ステップＳ１０２、およびステップＳ１０３では、それぞれ図４における各ステップとまったく同じ処理を行なう。ステップＳ３０４では、頻出単語除去部３０４が、ステップＳ１０２の処理結果である近傍単語情報３０４ｂから頻出単語を除去し、近傍単語情報３０４ｃを出力する。例えば、頻出単語を格納した図示しない頻出単語記憶部を参照し、近傍単語情報３０４ｂから頻出単語を除去する。
【００９７】
前述のように、本発明では入力未知語とノードとの類似度を計算する際に、コーパス中における入力未知語およびノード（概念を表す単語）の近傍に出現する単語を用いる。ところが頻出単語は、コーパス中に非常に頻繁に出現し、あらゆる単語の近傍に出現する可能性がある。そのため、これらの頻出単語は特定の単語との関連が薄く、近傍単語統計情報により単語間類似度を計算する際のノイズとなる。
【００９８】
そこで、近傍単語統計情報を抽出する際に、近傍単語情報３０４ｂから頻出単語を除去することにより、近傍単語情報３０４ｃに含まれるノイズが減少し、その近傍単語情報３０４ｃから求められる近傍単語統計情報に含まれるノイズも減少する。その結果、単語間類似度計算の精度が高くなり、未知語の概念推定精度も向上する。
【００９９】
以上のように、本実施の形態に係る未知語概念推定装置によれば、前述の実施の形態における効果に加え、近傍単語情報から頻出単語を除去することにより、単語間類似度計算の精度が高くなり、未知語の概念推定精度を向上することができる。
【０１００】
なお、本実施の形態における未知語概念推定装置の処理動作を実行させるためのプログラム、データ、記憶情報などをフロッピーディスク、ＣＤ−ＲＯＭなどのコンピュータ読み取り可能な記録媒体に記憶して動作させてもよく、同様の効果を得られる。
【０１０１】
また、前述の実施の形態と同様に、シソーラスのノードは概念を表す単語でなる場合について説明したが、シソーラスは単語間の上位下位関係や同義関係を単語の概念に基づいて記述したものであればよく、これに限定されるものではない。例えば、シソーラスのノードが抽象的な概念を表す中間概念であっても良く、同様の効果を得られる。
【０１０２】
さらに、近傍単語情報から頻出単語を除去する場合について説明したが、類似度を計算する際に用いる近傍単語統計情報に頻出単語が含まれていなければよく、これに限定されるものではない。例えば、近傍単語情報計数部の出力である近傍単語統計情報から頻出単語を削除しても同様の効果を得られる。
【０１０３】
実施の形態６．
以下、本発明の実施の形態６について説明する。実施の形態６の全体構成および全体の処理手順については実施の形態１とまったく同様なため省略する。実施の形態６において特徴的な部分である近傍単語統計情報抽出部１０４および近傍単語統計情報抽出ステップＳ１０の内部で実行される単語間距離重み付けステップについて詳しく説明する。
【０１０４】
図２１は、本実施の形態における近傍単語統計情報抽出部１０４の詳細な構成を示すブロック図である。図２１において、前述の実施の形態と同一または相当部分に同一符号を付し、説明を省略する。３０５は、形態素解析結果の単語間距離に従って、近傍単語情報に重み付けを行なう単語間距離重み付け処理部である。３０５ａ、３０５ｂおよび３０５ｃは中間データであり、それぞれ形態素解析結果、近傍単語情報、単語間距離重み付け後の近傍単語情報である。
【０１０５】
図２２は、図２におけるステップＳ１０の処理手順を詳細に説明するフローチャートである。ステップＳ１０１、ステップＳ１０２、およびステップＳ１０３では、それぞれ図４における各ステップとまったく同じ処理を行なう。ステップＳ３０５では、単語間距離重み付け処理部３０５が、形態素解析結果の単語間距離に従って、ステップＳ１０２の処理結果である近傍単語情報３０５ｂに重み付けを行い、近傍単語情報３０５ｃを出力する。
【０１０６】
前述のように、本発明では入力未知語とノードとの類似度を計算する際に、コーパス中における入力未知語およびノード（概念を表す単語）の近傍に出現する単語を用いる。一般に単語間の関連の強さは単語間の距離と相関関係があるので、単語間距離重み付け処理によって関連の弱い遠くの近傍単語よりも関連の強い近くの近傍単語を優先して近傍単語情報に重み付けすることにより、単語間の関連（共起関係）の強さが類似度計算に反映される。その結果、単語間類似度計算の精度が高くなり、未知語の概念推定精度が向上する。
【０１０７】
以上のように、本実施の形態に係る未知語概念推定装置によれば、前述の実施の形態における効果に加え、単語間の距離に従って近傍単語情報に重み付けすることにより、単語間類似度計算の精度が高くなり、未知語の概念推定精度を向上することができる。
【０１０８】
なお、本実施の形態における未知語概念推定装置の処理動作を実行させるためのプログラム、データ、記憶情報などをフロッピーディスク、ＣＤ−ＲＯＭなどのコンピュータ読み取り可能な記録媒体に記憶して動作させてもよく、同様の効果を得られる。
【０１０９】
また、前述の実施の形態と同様に、シソーラスのノードは概念を表す単語でなる場合について説明したが、シソーラスは単語間の上位下位関係や同義関係を単語の概念に基づいて記述したものであればよく、これに限定されるものではない。例えば、シソーラスのノードが抽象的な概念を表す中間概念であっても良く、同様の効果を得られる。
【０１１０】
さらに、近傍単語情報に単語間距離重み付け処理を施す場合について説明したが、類似度を計算する際に用いる近傍単語統計情報に単語間距離重み付け処理が施されていればよく、これに限定されるものではない。例えば、近傍単語情報計数部の出力である近傍単語統計情報に単語間距離重み付け処理を施しても同様の効果を得られる。
【０１１１】
実施の形態７．
以下、本発明の実施の形態７について説明する。図２３は実施の形態７における未知語概念推定装置の構成を示すブロック図である。図２３において、前述の実施の形態と同一または相当部分に同一符号を付し、説明を省略する。４０１は、近傍単語統計情報記憶部１０５に記憶された近傍単語統計情報を読み出すと共に、その近傍単語統計情報に基づいて、入力された未知語とシソーラス１０２のノード（概念を表す単語）との類似度を共通単語数により計算して出力する共通単語数計算部である。
【０１１２】
図２４は、本発明の実施の形態７における未知語概念推定装置の処理手順を示すフローチャートである。以下、図２３および図２４を参照しつつ、適宜他の詳細図面を参照しながら、動作について詳細に説明する。
【０１１３】
まず、未知語の概念推定に先立って前処理を行う。ステップＳ１０は、近傍単語統計情報抽出ステップである。ステップ１０において、近傍単語統計情報抽出部１０４は、コーパス１０１を形態素解析して近傍単語統計情報を抽出し、近傍単語統計情報記憶部１０５に記憶する。ステップＳ１０は前処理であり、ひとつのコーパスに対して一度だけ処理すればよい。
【０１１４】
図２５に、本実施の形態における近傍単語統計情報抽出部１０４の詳細な構成を示すブロック図を示す。また、図２６に、そのステップＳ１０における処理手順を表すフローチャートを示す。ステップＳ１０は、実施の形態１とほぼ同様な処理であるが、後の処理で共通単語数により類似度を計算するため、近傍単語統計情報が不要である。そのため近傍単語統計情報抽出部１０４は、図２５および図２６に示すように、近傍単語情報計数部１０４ｃのない構成とする。形態素解析部１０４ａおよび近傍単語情報抽出部１０４ｂについては、図３に示したものと同様である。
【０１１５】
ここでは、説明を簡単にするため、近傍単語統計情報記憶部１０５については、実施の形態１と同様のものを使用する。この場合、頻度情報が不要なので、仮に頻度1をすべての単語の組合せに付す。図２７に近傍単語統計情報４０１ａの一例を示す。なお、近傍単語統計情報記憶部１０５を使用するかわりに、図２７に示した記憶内容から頻度情報を削除し、メモリ容量を節約した近傍単語情報記憶部を使用してもよい。
【０１１６】
つぎに、実施の形態１と同様にステップＳ２０およびステップＳ３０を実行する。処理の内容については実施の形態１とまったく同様な処理なので説明を省略する。
【０１１７】
ステップＳ４０１は、共通単語数計算ステップである。ステップＳ４０１において、共通単語数計算部４０１は、近傍単語統計情報記憶部１０５に記憶された近傍単語統計情報４０１ａをもとに、入力された未知語とシソーラス１０２中のノードとの共通単語数により類似度を計算する。すなわち、近傍単語統計情報４０１ａをもとに、未知語の近傍単語とノードの近傍単語とで共通する単語の数によって未知語とノードとの類似度を計算する。
【０１１８】
例えば、未知語の近傍単語が「とても、車、大きい」であり、ノードの近傍単語が「とても、赤い、大きい」である場合、近傍単語が共通する（１）か共通しない（０）かは｛１、０、１｝であり、未知語の近傍単語に対するノードの近傍単語の共通単語数は２となる。こうして得られた共通単語数によって類似度を計算する。
【０１１９】
このように、ビット演算による類似度計算の処理が可能となるため、例えば、前述の実施の形態１における類似度計算処理のように頻度ベクトルの内積や相互情報量などを計算するのに対して高速に処理できる。
【０１２０】
以降、実施の形態１と同様に、ステップＳ５０およびステップＳ６０を実行し、未知語概念推定処理を終了する。処理内容については、実施の形態１とまったく同様なので説明を省略する。
【０１２１】
以上のように、本実施の形態に係る未知語概念推定装置によれば、前述の実施の形態における効果に加え、近傍単語統計情報を抽出する際に近傍単語情報計数ステップを省き、単語間類似度の計算に、内積や相互情報量といった計算量の大きな値ではなく、高速なビット演算を利用可能な共通単語数を使用することにより、未知語概念推定処理を高速化することができる。
【０１２２】
なお、本実施の形態における未知語概念推定装置の処理動作を実行させるためのプログラム、データ、記憶情報などをフロッピーディスク、ＣＤ−ＲＯＭなどのコンピュータ読み取り可能な記録媒体に記憶して動作させてもよく、同様の効果を得られる。
【０１２３】
また、前述の実施の形態と同様に、シソーラスのノードは概念を表す単語でなる場合について説明したが、シソーラスは単語間の上位下位関係や同義関係を単語の概念に基づいて記述したものであればよく、これに限定されるものではない。例えば、シソーラスのノードが抽象的な概念を表す中間概念であっても良く、同様の効果を得られる。
【０１２４】
実施の形態８．
以下、本発明の実施の形態８について説明する。図２８は実施の形態８における未知語概念推定装置の構成を示すブロック図である。図２８において、前述の実施の形態と同一または相当部分に同一符号を付し、説明を省略する。４０２は、類似概念探索部１０９が探索を開始する開始ノードを指定する開始概念指定部である。
【０１２５】
全体の処理手順については実施の形態１とまったく同様なため説明を省略し、本実施の形態において特徴的な部分である開始概念指定部４０２および開始概念指定ステップＳ４０２について詳しく説明する。
【０１２６】
図２９は、図２における類似概念探索ステップＳ３０から類似概念出力ステップＳ６０までを詳細に説明したフローチャートである。以下、図２８および図２９を参照しつつ、適宜他の詳細図面を参照しながら、動作について詳細に説明する。
【０１２７】
図２９に示すフローチャートにおいて、まず、前述のステップＳ２０１の処理に先立って、ステップＳ４０２で開始概念を設定する。例えば、対象分野が限定されたコーパスを使用する場合に、本装置を使用する人間が、そのコーパスの特徴を表す上位概念のノードを探索開始ノードとして指定する。
【０１２８】
ステップＳ２０１で、単語間類似度計算部１０６が入力未知語Ｗｕを初期化すると共に、類似概念探索部１０７は開始概念指定部４０２によって指定された探索開始ノードをルートノードＮｒに初期化する。こうすることにより、関連のないノードを探索する必要がなくなり、類似概念探索部１０９の探索空間を小さくすることができるため、概念推定処理を高速化することができる。
【０１２９】
以降、実施の形態１と同様の処理手順で動作し、未知語概念推定処理を終了する。処理内容については、実施の形態１とまったく同様なので説明を省略する。
【０１３０】
以上のように、本実施の形態に係る未知語概念推定装置によれば、前述の実施の形態における効果に加え、対象分野が限定されたコーパスを使用する場合に、そのコーパスの特徴を表す上位概念のノードを探索開始ノードとして設定することにより、関連のないノードを探索する必要がなくなり、探索空間を小さくすることができるため、未知語概念推定処理を高速化することができる。
【０１３１】
なお、本実施の形態における未知語概念推定装置の処理動作を実行させるためのプログラム、データ、記憶情報などをフロッピーディスク、ＣＤ−ＲＯＭなどのコンピュータ読み取り可能な記録媒体に記憶して動作させてもよく、同様の効果を得られる。
【０１３２】
また、前述の実施の形態と同様に、シソーラスのノードは概念を表す単語でなる場合について説明したが、シソーラスは単語間の上位下位関係や同義関係を単語の概念に基づいて記述したものであればよく、これに限定されるものではない。例えば、シソーラスのノードが抽象的な概念を表す中間概念であっても良く、同様の効果を得られる。
【０１３３】
実施の形態９．
以下、本発明の実施の形態９について説明する。図３０は実施の形態９における未知語概念推定装置の構成を示すブロック図である。図３０において、前述の実施の形態と同一または相当部分に同一符号を付し、説明を省略する。５０１は、近傍単語統計情報記憶部１０５に記憶された近傍単語統計情報を読み出すと共に、近傍単語統計情報に基づいて、入力未知語と、類似概念評価部１０８から出力された類似概念のノード（概念を表す単語）とが共起関係（コーパス中で互いに近傍に出現する）にあるかどうかにより同義性を判定し、判定結果に応じてその類似概念のノードを類似概念ノード出力部１０９または同義概念ノード出力部５０２に出力する共起判定部である。５０２は、同義と判定されたノードを同義概念として出力する同義概念ノード出力部である。
【０１３４】
全体の処理手順については実施の形態１とまったく同様なため説明を省略し、本実施の形態において特徴的な部分である共起判定部５０１および共起判定ステップＳ５０１について詳しく説明する。
【０１３５】
図３１は、図２における類似概念探索ステップＳ３０から類似概念出力ステップＳ６０までを詳細に説明したフローチャートである。図８に示したフローチャートとの違いは、類似概念評価ステップＳ２０７の後に、共起判定ステップＳ５０１以降の処理が加わっていることである。
【０１３６】
共起判定ステップＳ５０１では、共起判定部５０１が近傍単語統計情報記憶部１０５に記憶された近傍単語統計情報を読み出すと共に、近傍単語統計情報に基づいて、入力未知語とステップ２０７の結果得られた類似概念のノードとが強い共起関係にあるかどうかを判定する。強い共起関係にあると判定された場合には、同義語同士は共起しにくいという性質に基づいて、入力未知語は上記類似概念のノードとは同義性をもたないと判断され、類義概念ノード出力部１０９に送信される。ステップＳ２０８で、類似概念ノード出力部１０９がそのノードを類似概念として出力して処理を終了する。
【０１３７】
一方、共起関係にないと判定された場合には、入力未知語は上記類似概念のノードと同義性をもつと判断され、同義概念ノード出力部５０２に送信される。ステップＳ５０２で、同義概念ノード出力部５０２がそのノードを同義概念ノードとして出力して処理を終了する。
【０１３８】
以上のように、本実施の形態に係る未知語概念推定装置によれば、前述の実施の形態における効果に加え、同義語同士は共起しにくいという性質に基づいて、近傍単語統計情報を用いて未知語とノード（概念を表す単語）との共起関係の強さを調べて未知語とノードとの同義性を判定することにより、同義概念と類義概念とを精度良く区別して未知語の概念を推定することができる。
【０１３９】
なお、本実施の形態における未知語概念推定装置の処理動作を実行させるためのプログラム、データ、記憶情報などをフロッピーディスク、ＣＤ−ＲＯＭなどのコンピュータ読み取り可能な記録媒体に記憶して動作させてもよく、同様の効果を得られる。
【０１４０】
また、前述の実施の形態と同様に、シソーラスのノードは概念を表す単語でなる場合について説明したが、シソーラスは単語間の上位下位関係や同義関係を単語の概念に基づいて記述したものであればよく、これに限定されるものではない。例えば、シソーラスのノードが抽象的な概念を表す中間概念であっても良く、同様の効果を得られる。
【０１４１】
実施の形態１０．
以下、本発明の実施の形態１０について説明する。図３２は実施の形態１０における未知語概念推定装置の構成を示すブロック図である。図３２において、前述の実施の形態と同一または相当部分に同一符号を付し、説明を省略する。６０１は、類似概念評価部１０８から入力未知語との類似度が強いノード（概念）が複数出力された場合に、それらの類似度が同等かどうかを調べ、同等であるとき、シソーラスに基づいて入力未知語の概念となる新たな概念の挿入位置を判定して出力し、それ以外の場合に類似概念を出力する新語義挿入判定部である。６０２は、新たに挿入すべきと判定されたノードを新語義として出力する新語義ノード出力部である。
【０１４２】
全体の処理手順については実施の形態１とまったく同様なため説明を省略し、本実施の形態において特徴的な部分である新語義挿入判定部６０１および新語義挿入判定ステップＳ６０１について詳しく説明する。
【０１４３】
図３３は、図２における類似概念探索ステップＳ３０から類似概念出力ステップＳ６０までを詳細に説明したフローチャートである。図８に示したフローチャートとの違いは、類似概念評価ステップＳ２０７の後に、新語義挿入判定ステップＳ６０１以降の処理が加わっていることである。
【０１４４】
類似ノード評価ステップＳ２０７の評価結果から入力未知語との類似度が強いノードが複数出力された場合に、新語義挿入判定ステップＳ６０１では、新語義挿入判定部６０１がそれらの類似度が同等かどうかを調べる。同等であるとき、入力未知語はそれらのノードの概念の中間に位置する新たな概念をもつと判断し、シソーラス１０２に基づいてその新たな概念の挿入位置を判定して新語義ノード出力部６０２に送信する。
【０１４５】
このとき新語義ノードは、類似概念評価部１０８が出力した複数の概念が共有する上位概念の下位概念の位置に挿入されると判断する。図３４に新概念を挿入する位置を示す。すなわち、未知語概念Ｃｕは、概念Ｃ１および概念Ｃ２と同等に強い類似性をもつとき、概念Ｃ１と概念Ｃ２が共有する上位概念Ｃ３の直接の下位概念として概念ノードＣｕに挿入されると判断される。その後、ステップＳ６０２で、新語義ノード出力部６０３がその新語義ノードを出力して処理を終了する。
【０１４６】
一方、入力未知語との類似度が同じくらい強いノードが複数ない場合、または類似度が同等でない場合には、ステップＳ２０８の処理に移り、類似概念評価部１０８によって最適と判定されたノードを類似概念ノード出力部１０９が類似概念として出力して処理を終了する。
【０１４７】
以上のように、本実施の形態に係る未知語概念推定装置によれば、前述の実施の形態における効果に加え、入力未知語とシソーラスの複数のノードの概念とが同等に強い類似性をもつとき、入力未知語は新たな概念であると特定できることから、入力未知語とシソーラスの複数のノードの概念との類似性の強さを判定することにより、入力未知語が新たな概念をもつものであっても未知語の概念を推定できる。さらに、この推定結果を用いることにより、シソーラス上の適切な位置に新たな概念のノードを配置することができる。
【０１４８】
なお、本実施の形態における未知語概念推定装置の処理動作を実行させるためのプログラム、データ、記憶情報などをフロッピーディスク、ＣＤ−ＲＯＭなどのコンピュータ読み取り可能な記録媒体に記憶して動作させてもよく、同様の効果を得られる。
【０１４９】
また、前述の実施の形態と同様に、シソーラスのノードは概念を表す単語でなる場合について説明したが、シソーラスは単語間の上位下位関係や同義関係を単語の概念に基づいて記述したものであればよく、これに限定されるものではない。例えば、シソーラスのノードが抽象的な概念を表す中間概念であっても良く、同様の効果を得られる。
【０１５０】
【発明の効果】
以上のように、この発明の未知語概念推定方法によれば、単語間類似度計算に用いる統計情報として近傍単語統計情報を用いることにより、係り受け解析を必要とせず、自動的な未知語の概念推定処理を実現できる。また、自動的な処理が可能であることにより、人手による大量の修正作業が不要となり、多種多様な文書情報に対する未知語の概念推定に費やす開発コストを小さくすることができると共に、未知語概念推定処理の適用範囲を広げることができる。
【０１５１】
また、次の発明の未知語概念推定方法によれば、前述の効果に加え、品詞情報に基づいて近傍単語統計情報から機能語を除去することにより、単語間類似度計算の精度が高くなり、未知語の概念推定精度を向上することができる。
【０１５２】
また、次の発明の未知語概念推定方法によれば、前述の効果に加え、係り受けしやすい品詞間の係り受けパターンに基づいて、係り受け関係の強さに応じて近傍単語統計情報に重み付けをすることにより、単語間類似度計算の精度が高くなり、未知語の概念推定精度を向上することができる。
【０１５３】
また、次の発明の未知語概念推定方法によれば、前述の効果に加え、近傍単語統計情報からストップワードを除去することにより、単語間類似度計算の精度が高くなり、未知語の概念推定精度を向上することができる。
【０１５４】
また、次の発明の未知語概念推定方法によれば、前述の効果に加え、近傍単語統計情報から頻出単語を除去することにより、単語間類似度計算の精度が高くなり、未知語の概念推定精度を向上することができる。
【０１５５】
また、次の発明の未知語概念推定方法によれば、前述の効果に加え、単語間の距離に従って近傍単語統計情報に重み付けすることにより、単語間類似度計算の精度が高くなり、未知語の概念推定精度を向上することができる。
【０１５６】
また、次の発明の未知語概念推定方法によれば、前述の効果に加え、単語間類似度の計算に高速なビット演算を利用可能な共通単語数を使用することにより、未知語概念推定処理を高速化することができる。
【０１５７】
また、次の発明の未知語概念推定方法によれば、前述の効果に加え、対象分野が限定されたコーパスを使用する場合に、そのコーパスの特徴を表す上位概念のノードを探索開始ノードとして設定することにより、関連のないノードを探索する必要がなくなり、探索空間を小さくすることができるため、未知語概念推定処理を高速化することができる。
【０１５８】
また、次の発明の未知語概念推定方法によれば、前述の効果に加え、同義語同士は共起しにくいという性質に基づいて、近傍単語統計情報を用いて未知語とシソーラスのノードの概念との共起関係の強さを調べて未知語とノードの概念との同義性を判定することにより、同義概念と類義概念とを精度良く区別して未知語の概念を推定することができる。
【０１５９】
また、次の発明の未知語概念推定方法によれば、前述の効果に加え、入力未知語とシソーラスの複数のノードの概念とが同等に強い類似性をもつとき、入力未知語は新たな概念であると特定できることから、入力未知語とシソーラスの複数のノードの概念との類似性の強さを判定することにより、入力未知語が新たな概念をもつものであっても未知語の概念を推定できる。さらに、この推定結果を用いることにより、シソーラス上の適切な位置に新たな概念のノードを配置することができる。
【図面の簡単な説明】
【図１】 この発明の実施の形態１における未知語概念推定装置の構成を示すブロック図。
【図２】 この発明の実施の形態１における未知語概念推定装置の処理の流れを示すフローチャート。
【図３】 この発明の実施の形態１における近傍単語統計情報抽出部の詳細な構成を示すブロック図。
【図４】 この発明の実施の形態１における近傍単語統計情報抽出ステップの詳細な処理の流れを示すフローチャート。
【図５】 この発明の実施の形態１における近傍単語統計情報抽出ステップの説明に供する形態素解析結果の一例を示すデータ。
【図６】 この発明の実施の形態１における近傍単語統計情報抽出ステップの説明に供する近傍単語情報の一例を示すデータ。
【図７】 この発明の実施の形態１における近傍単語統計情報抽出ステップの説明に供する近傍単語統計情報の一例を示すデータ。
【図８】 この発明の実施の形態１における類似概念探索ステップの詳細な処理の流れを示すフローチャート。
【図９】 この発明の実施の形態１における類似概念探索ステップの説明に供するシソーラスの一例を示すデータ。
【図１０】 この発明の実施の形態１における類似概念探索ステップの説明に供する近傍単語統計情報の一例を示すデータ。
【図１１】 この発明の実施の形態２における近傍単語統計情報抽出部の詳細な構成を示すブロック図。
【図１２】 この発明の実施の形態２における近傍単語統計情報抽出ステップの詳細な処理の流れを示すフローチャート。
【図１３】 この発明の実施の形態２における近傍単語統計情報抽出ステップの説明に供する形態素解析結果、近傍単語情報および近傍単語統計情報の一例を示すデータ。
【図１４】 この発明の実施の形態３における近傍単語統計情報抽出部の詳細な構成を示すブロック図。
【図１５】 この発明の実施の形態３における近傍単語統計情報抽出ステップの詳細な処理の流れを示すフローチャート。
【図１６】 この発明の実施の形態３における近傍単語統計情報抽出ステップの説明に供する形態素解析結果、近傍単語情報および近傍単語統計情報の一例を示すデータ。
【図１７】 この発明の実施の形態４における近傍単語統計情報抽出部の詳細な構成を示すブロック図。
【図１８】 この発明の実施の形態４における近傍単語統計情報抽出ステップの詳細な処理の流れを示すフローチャート。
【図１９】 この発明の実施の形態５における近傍単語統計情報抽出部の詳細な構成を示すブロック図。
【図２０】 この発明の実施の形態５における近傍単語統計情報抽出ステップの詳細な処理の流れを示すフローチャート。
【図２１】 この発明の実施の形態６における近傍単語統計情報抽出部の詳細な構成を示すブロック図。
【図２２】 この発明の実施の形態６における近傍単語統計情報抽出ステップの詳細な処理の流れを示すフローチャート。
【図２３】 この発明の実施の形態７における未知語概念推定装置の構成を示すブロック図。
【図２４】 この発明の実施の形態７における未知語概念推定装置の処理の流れを示すフローチャート。
【図２５】 この発明の実施の形態７における近傍単語統計情報抽出部の詳細な構成を示すブロック図。
【図２６】 この発明の実施の形態７における近傍単語統計情報抽出ステップの詳細な処理の流れを示すフローチャート。
【図２７】 この発明の実施の形態７における近傍単語統計情報の一例を示すデータ。
【図２８】 この発明の実施の形態８における未知語概念推定装置の構成を示すブロック図。
【図２９】 この発明の実施の形態８における類似概念探索ステップの詳細な処理の流れを示すフローチャート。
【図３０】 この発明の実施の形態９における未知語概念推定装置の構成を示すブロック図。
【図３１】 この発明の実施の形態９における類似概念探索ステップの詳細な処理の流れを示すフローチャート。
【図３２】 この発明の実施の形態１０における未知語概念推定装置の構成を示すブロック図。
【図３３】 この発明の実施の形態１０における類似概念探索ステップの詳細な処理の流れを示すフローチャート。
【図３４】 この発明の実施の形態１０における新語義挿入の説明に供する略線図。
【図３５】 従来技術の未知語概念推定装置の構成を示すブロック図。
【図３６】 従来技術の未知語概念推定装置の処理の流れを示すフローチャート。
【図３７】 従来技術の未知語概念推定装置における前処理の詳細な処理の流れを示すフローチャート。
【図３８】 従来技術の未知語概念推定装置における関係データ統計情報の一例を示すデータ。
【図３９】 従来技術の未知語概念推定装置における視点情報の一例を示すデータ。
【符号の説明】
１、１０１ コーパス ２、１０２ シソーラス
３、１０３ 未知語入力部 ４ 関係データ統計情報抽出部
５ 関係データ統計情報記憶部 ６、１０６ 単語間類似度計算部
７ 推定エリア抽出部 ８ 視点抽出部
９ 視点情報記憶部 １０ エリア評価部
１１ 推定エリア出力部 １０４ 近傍単語統計情報抽出部
１０４ａ 形態素解析部 １０４ｂ 近傍単語情報抽出部
１０４ｃ 近傍単語情報計数部 １０５ 近傍単語統計情報記憶部
１０７ 類似概念探索部 １０８ 類似概念評価部
１０９ 類似概念ノード出力部 ３０１ 機能語除去部
３０２ 係り受け重み付け処理部 ３１２ 係り受けパターン記憶部
３０３ ストップワード除去部 ３１３ ストップワード辞書
３０４ 頻出単語除去部 ３０５ 単語間距離重み付け処理部
４０１ 共通単語数計算部 ４０２ 開始概念指定部
５０１ 共起判定部 ５０２ 同義概念ノード出力部
６０１ 新語義挿入判定部 ６０２ 新語義ノード出力部

Claims (10)

1. 複数の単語の概念間の関係を記述したシソーラスには含まれない新たな単語（未知語）の概念を推定するために、大量の電子化文書情報からなるコーパスを解析する未知語概念推定装置において、
   上記コーパスの各文書において各単語の前後に現れる単語を近傍単語とし、その近傍単語の出現頻度を上記各単語ごとに計算して、その結果を近傍単語統計情報として出力する近傍単語統計情報抽出手段と、
   上記未知語の近傍単語統計情報と上記シソーラスの概念の近傍単語統計情報との類似度を計算して出力する単語間類似度計算手段と、
   上記シソーラスの概念間の関係を示すリンク情報を辿って、上記未知語との類似度が所定の閾値以上となる上記シソーラスの概念を探索し、その探索結果を類似概念の候補として出力する類似概念探索手段と、
   上記類似概念の候補の類似度を評価して最適な類似概念を選択して出力する類似概念評価手段と、
   を備えることを特徴とする未知語概念推定装置。
2. 上記単語間類似度計算手段は、上記未知語と上記シソーラスの概念のいずれかが機能語である場合に、該機能語の近傍単語統計情報について上記類似度の計算を省略することを特徴とする請求項１に記載の未知語概念推定装置。
3. 上記単語間類似度計算手段は、上記未知語の前後の単語の出現パターンが品詞間の係り受けパターンに合致する場合に、上記計算した類似度に重み付けをして出力することを特徴とする請求項１に記載の未知語概念推定装置。
4. 上記単語間類似度計算手段は、未知語の概念の推定に寄与しない所定のストップワードに上記近傍単語が該当する場合に、該近傍単語の近傍単語統計情報について上記類似度の計算を省略することを特徴とする請求項１に記載の未知語概念推定装置。
5. 上記単語間類似度計算手段は、上記近傍単語が頻出単語に該当する場合に、該近傍単語の近傍単語統計情報について上記類似度の計算を省略することを特徴とする請求項１に記載の未知語概念推定装置。
6. 上記単語間類似度計算手段は、上記計算した類似度に上記未知語とその上記近傍単語との単語間距離に応じた重み付けをして出力することを特徴とする請求項１に記載の未知語概念推定装置。
7. 上記単語間類似度計算手段は、上記未知語と上記シソーラスの概念との間に共通する上記近傍単語の個数に基づいて上記類似度を決定することを特徴とする請求項１に記載の未知語概念推定装置。
8. 上記類似概念探索手段は、予め定められた上位概念となる上記シソーラスの概念から上記リンク情報を辿ることを特徴とする請求項１に記載の未知語概念推定装置。
9. 上記類似概念評価手段が出力した上記類似概念の近傍単語統計情報と上記未知語の近傍単語統計情報とから、上記未知語と上記類似概念とが、上記コーパスにおいて互いに近傍に出現する関係である共起関係にあるか否かを決定し、上記未知語と共起関係にない上記類似概念を同義概念として出力する共起判定手段をさらに備えたことを特徴とする請求項１に記載の未知語概念推定装置。
10. 上記類似概念評価手段が出力した複数の上記類似概念のうち、上記未知語との類似度がほぼ同じ類似概念が存在する場合に、上記未知語が該類似概念と共通の上位概念を有する概念であると判断する新義語挿入判定手段をさらに備えたことを特徴とする請求項１に記載の未知語概念推定装置。

Images