JPH08147324A - 単語間意味類似性判別方法 - Google Patents

Abstract

(57)【要約】 【目的】 属性集合中に意味的に類似する属性が含まれ
ていても、高い類似性判別精度を得ることができる単語
間意味類似性判別方法を提供する。 【構成】 単語ｗの特徴を表す属性ｖと、当該単語と属
性との間の関連の深さを示す当該属性の重要度ａの対の
集合により単語の意味を表現している単語意味データベ
ースを使用して単語相互間の意味の類似性を判別する単
語間意味類似性判別方法において、類似性判別の対象と
される２個の単語ｗ_i およびｗ_j のそれぞれについて属
性ｖ_k およびｖ_l を選択し、選択された２個の属性の重
要度ａ_ikおよびａ_jlと、これら２個の属性ｖ_k およびｖ
_l 間の意味的な近さを表す量Ｌ_klの３者の積ａ_ik×ａ_jl
×Ｌ_klを２個の単語に含まれる全属性の組み合わせにつ
いて総和した結果を類似度とする単語間意味類似性判別
方法。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】この発明は、単語間意味類似性判
別方法に関し、特に、データベースの曖昧検索処理、機
械翻訳の様な各種の自然言語処理において必要とされる
単語間の意味の類似性を判別する単語間意味類似性判別
方法に関する。

【０００２】

【従来の技術】ワークステーションＷＳその他のデータ
処理装置が発達したことにより、文献データベースの様
にその記憶内容が数値ではなくして自然言語により表現
されている大容量データベースが広く利用されつつあ
る。この種の大容量データベースについて、検索したい
文献の内容を表す単語の集合をキーワードとして入力
し、その文献自体或はそれに関連する文献を検索するこ
とが行われている。この様なデータベースの検索処理に
おいては、その処理の中核をなす技術は比較される単語
間の意味の類似性を判別する技術であり、この類似性判
別技術の良否により検索処理の性能が決定されることに
なる。このことはデータベースの検索処理のみに限ら
ず、機械翻訳を始めとする各種の自然言語処理について
も当てはまることである。

【０００３】この様な単語間の意味の類似性判別は、基
本的には、多数の単語の意味を記憶した概念ベースと呼
ばれる単語意味データベースを予め準備しておき、これ
に基づいて行われている。図１を参照するに、この概念
ベースにおいては、単語ｗ_iそれぞれについて、単語ｗ
_i の特徴を表す属性ｖ_j と、その単語ｗ_i とその属性ｖ
_j との間の関連の深さを示す重要度ａ_ijの対を複数対準
備することが一般的に行われている。この概念ベースを
表形式に表現すると図１の様になる。図１において、ｗ
_l 〜ｗ_n は各単語を示し、ｖ_l 〜ｖ_m は各属性を示す。
属性ｖ₁〜ｖ_m全体を属性集合と称する。重要度ａ_ijは、
その単語ｗ_i がその属性ｖ_j によって特徴付けられてい
ない場合、即ち、その単語ｗ_i がその属性ｖ_j に関連し
ない場合、ａ_ij＝０である。なお、重要度ａ_ijは何らか
の方法により正規化されている。例えば、重要度の平方
の総和の平方根＝１という様に正規化される。

【０００４】この様な概念ベースを使用して単語間の意
味の類似性を判別する場合、基本的には、比較されるべ
き２個の単語間の何らかの意味の距離計算をする仕方が
提案されている。例えば、２個の単語ｗ_i および単語ｗ
_j が属性ｖ_h を要素とするベクトルにより表現されてい
るものとして取り扱い、次の式の様にその内積により類
似性の尺度である類似度を算出している（詳細は、当該
特許出願人の出願に係わる特願平４−３１５２３３号明
細書参照）。

【０００５】 以上を、単語ｗ_l ＝“馬”、単語ｗ₂ ＝“豚”を例に取
って説明する。“馬”について、ｖ₂ ＝“たてがみ
（０．３）”、ｖ₃ ＝“動物（０．８）”、ｖ₈ ＝“尾
（０．７）”をその属性とすることができる。単語
“豚”ｗ₂ について、ｖ ₃ ＝“動物（０．８）”、ｖ₇
＝“食肉（０．５）”、ｖ₉ ＝“しっぽ（０．２）”を
その属性とすることができる。なお、（）内の数字は１
に正規化された重要度を示す。単語“馬”と単語“豚”
の間の類似性を判別する類似度を（１）式に依り計算す
ると、共通する属性はｖ₃ に着目してその重要度に基づ
いて下記の如く求めることができる。 類似度＝０．８×０．８＝０．６４ 上述の通りに類似度を（１）式に依り計算する場合、概
念ベースにおける属性集合として何を選択するかが重要
となる。最も単純には、単語を特徴付けの対象としてい
るのであるが、この単語を属性として選択することが考
えられる。属性集合は単語全体の集合と同一となる訳で
ある。この場合、上述の如く単語“馬”を例にとる場
合、“たてがみ”“尾”その他をその属性とすることが
できる。しかし、属性として単語を選択する方法の場
合、属性集合の内に同義語が存在することがあり、
（１）式の計算に依っては正確な類似度が得られなくな
る。即ち、（１）式においては意味的に同一である
“尾”と“しっぽ”は相異なる属性として取り扱われ、
これらの属性の重要度は類似度に寄与しない。“馬”或
は“豚”の属性の何れか一方が“０”であるのでこれら
属性間の積は零であり、結局、類似度として加算されな
いのである。

【０００６】以上の理由から、判別の精度を向上させる
ために同義語については、例えば、一つの単語を属性と
して代表させるか、或はシソーラスを採用して特徴とな
る単語の上位概念を表す単語を属性とするかして属性集
合を構成している。一つの単語を属性として代表させる
には、“尾”、“しっぽ”の同義語については“尾”が
全てを代表するものとする。シソーラスを採用する場合
は、特徴となる単語として“親指”、“子指”その他指
の種類を表す単語が選択されていれば、属性としてその
上位概念である“指”を属性として代表させる。即ち、
高い判別精度を得るには、属性集合は理想的には各属性
が互に意味的に独立して互に直交する様に構成されるべ
きであり、そのため様々な工夫がなされてきた訳であ
る。ところが、如何に工夫しようとも属性集合として単
語の様に意味をもつものが選択される限り、互に意味的
に独立な属性群を選択することは不可能であり、以上の
工夫もこれに近づけるための一方法であるに過ぎない。
“尾”が同義語の代表として属性とされたとしても、他
の全ての属性が意味的に“尾”とは独立、換言すれば非
類似であると保証することはできない。また、特徴とな
る単語の上位概念を表す単語を属性としたとしても同様
である。

【０００７】以上の通り、概念ベースを使用して単語間
の意味的な類似性を判別する場合、（１）式の様な２個
の単語間の何らかの意味の距離を計算することによる判
別の仕方には、判別の精度を低下させる要因が内在して
いる。属性が全く意味を持たない様に何らかの変換操作
を施し、互に独立な属性からなる属性集合を構成するこ
とも考えられるが、これも現実的には極めて困難である
と考えられる。

【０００８】

【発明が解決しようとする課題】この発明は、上述の様
な概念ベースを使用して単語間の意味的な類似性を判別
する単語間意味類似性判別方法において、概念ベースに
おける属性集合の属性群として単語群を選択し、これら
の単語群が意味的に互に独立ではなくとも、高い判別精
度を得る単語間意味類似性判別方法を提供するものであ
る。

【０００９】

【課題を解決するための手段】単語ｗの特徴を表す属性
ｖと、当該単語と属性との間の関連の深さを示す当該属
性の重要度ａの対の集合により単語の意味を表現してい
る単語意味データベースを使用して単語相互間の意味の
類似性を判別する単語間意味類似性判別方法において、
類似性判別の対象とされる２個の単語ｗ_i およびｗ_j の
それぞれについて属性ｖ_k およびｖ_l を選択し、選択さ
れた２個の属性の重要度ａ_ikおよびａ_jlと、これら２個
の属性ｖ_k およびｖ_l 間の意味的な近さを表す量Ｌ_klの
３者の積ａ_ik×ａ_jl×Ｌ_klを２個の単語に含まれる全属
性の組み合わせについて総和した結果を類似度とする単
語間意味類似性判別方法を構成した。

【００１０】そして、２個の属性間の意味的な近さを表
す量を、選択された２個の属性間のシソーラス上におけ
る距離の逆数とする単語間意味類似性判別方法を構成し
た。また、２個の属性間の意味的な近さを表す量を、選
択された２個の属性に共通するシソーラス上における上
位概念の情報量とする単語間意味類似性判別方法を構成
した。

【００１１】

【実施例】この発明の実施例を説明する。この発明は、
単語間の意味的な類似性を判別する際の指標となる類似
度を、上述された従来例の様に単に２個の単語間の距離
を計算するというものではなくして、２個の単語ｗ_i お
よび単語ｗ_j それぞれについて属性ｖ_k および属性ｖ_l
を選択し、選択された属性ｖ_k の重要度ａ_ikと、属性ｖ
_l の重要度ａ_jlと、これら属性ｖ_k および属性ｖ_l 間の
意味的な近さを表す量Ｌ_klの３者の積を、全属性の組み
合わせについて以下の（２）式の通りに総和することに
より算出する。

【００１２】 Ｌ_klは属性ｖ_k および属性ｖ_lの間のシソーラス上の意
味的な近さを表す量である。

【００１３】意味的な近さを表す量としては、属性間の
シソーラス上における距離の逆数、或はこれら属性に共
通するシソーラス上における上位概念の情報量その他の
量を適用することができる。そして、シソーラスは全単
語が意味的に階層化されたツリー状に構成する。この様
なシソーラスの一例を図２に示す。ここで、この発明
は、属性集合の属性としてどの様な単語が選択されて
も、この単語は他の全ての単語と何れかのレベルの上位
概念において意味的に同一となることを考慮したもので
ある。２個の単語の対応する属性の内の一方の重要度が
“０”である場合、（１）式による計算に依ると、２個
の単語の対応する属性即ち、ｈが同一である属性ｖ_h に
ついて何れか一方の重要度ａ_ih或はａ_jhが“０”であれ
ばこれらの積である類似度は“０”となり、他方の属性
の重要度は類似度に一切寄与しなくなる。ところが、こ
の発明は、意味の類似性を判別する２個の単語の全ての
属性の組合せについて、これらの重要度と、これら重要
度間の意味的な近さを表す量の３者の積を計算し、これ
らの積を総和することにより類似度を算出するものであ
るところから、２個の単語の対応する属性の内の一方の
重要度が“０”であっても、重要度が“０”ではない他
方の属性が他の対応していない属性の何れかと意味的に
類似していればこれらの間の積は“０”ではないので、
この類似性は（２）式の類似度の計算に加算、反映され
ることになる。

【００１４】この発明による（２）式の類似度の計算に
おいては、更に、意味的な近さを表す量Ｌ_klが乗じられ
るので、これら２個の属性が意味的に類似している程そ
の類似性は類似度の計算により大きく反映されることに
なる。即ち、この発明は、単語間の意味的な類似性の判
別において全ての属性間の類似性が類似度の計算におい
て考慮されるので、属性集合の中に意味的に類似する属
性が含まれていて独立ではなくても、高い類似性判別精
度を得ることができる。

【００１５】この発明の実施例を更に具体的に説明す
る。ここで、属性間の意味的な近さを表す量として、こ
れら属性間のシソーラス上における距離の逆数を使用す
る場合について説明する。この場合、単語間の意味的な
類似度は、（２）式においてシソーラス上における距離
の逆数をＬとして使用し、計算される。

【００１６】図１を参照するに、比較されるべき２個の
単語をｗ_i および単語ｗ_j とし、属性集合はｖ₁ 〜ｖ_m
とすると、単語ｗ_i および単語ｗ_j は属性ｖ₁ 〜ｖ_m の
重要度（ａ_i1〜ａ_im，ａ_j1〜ａ_jm）を要素とするｍ次元
のベクトルであり、以下の様に表される。 ｗ_i ＝（ａ_i1，ａ_i2，・・・，ａ_ik，・・・ａ_im） ｗ_j ＝（ａ_j1，ａ_j2，・・・，ａ_jl，・・・ａ_jm） ここで、単語ｗ_i について属性ｖ_h がこれを特徴付ける
属性ではない場合、重要度ａ_ihは“０”であることは言
うまでもない。単語ｗ_j についても同様である。属性集
合の各属性は意味を有するものであり、ここにおいては
単語自体であるものとする。即ち、単語ｗ_i は単語ｖ₁
〜ｖ_m を属性とし、これら属性それぞれの重要度ａ_i1〜
ａ_imにより特徴付けられているものとする。

【００１７】図３は属性集合の各属性である単語群のシ
ソーラスの例を示す。即ち、シソーラスはツリー構造を
有しており、属性である単語ｖ₁ は上位概念Ｊ₁₁に属
し、この上位概念Ｊ₁₁自体は更にその上位概念Ｊ₂₁に属
している。上位概念が単語自体であっても差し支えな
い。この様なシソーラスを想定すると、何れの属性間に
も必ず距離が存在し、その距離が近い程両属性は意味的
に近いものとすることができる。ここで、両属性間の距
離は一方の属性から他方の属性に到達するまでの枝の数
である。図３において、例えば属性ｖ_k と属性ｖ_l との
間の距離は“６”となる。

【００１８】この実施例においては、類似度は、（２）
式に基づいて、各単語について選択された２個の属性の
重要度と、これら属性間のシソーラス上における距離の
逆数の３者の積の総和として計算されることになる。即
ち、単語ｗ_i および単語ｗ_jにおけるベクトル要素の積
に、更に、これら対応する属性間の距離の逆数を乗じ
て、これらの積を総和したものが類似度である。なお、
対応する属性間の距離の逆数は先の例においては１／６
である。従って、比較される２個の単語間において、重
要度が“０”ではない属性がシソーラス上において互に
接近していると、類似度は高くなり、互に遠く離隔して
いると類似度は低くなる。これは、両単語について、重
要度が共に非零である属性がない場合についても成り立
つことは言うまでもない。この場合、（１）式による従
来例の計算に依っては、共通する属性の重要度の積の総
和を類似度としているので、類似度は常に“０”となっ
た。

【００１９】次に、属性間の意味的な近さを表す量とし
てシソーラス上におけるこれら属性に共通する上位概念
の情報量を使用する方法を他の実施例として説明する。
先の実施例とは、この意味的な近さを表す量だけが異な
り、その他については全く同様であるので、この情報量
の求め方のみについて説明する。この上位概念の情報量
ｌは下記の通りに定義する。

【００２０】 ｌ＝ｌｏｇ₂ （Ａ／ｎ） （３） ここで、Ａ：共通する上位概念の下位に位置する属性の
内の何れかの属性の重要度が非零となる単語の総数 ｎ：概念ベースの全単語数 図３を参照して、属性ｖ₂ と属性ｖ₄ との間の関係につ
いて考える。これらの属性の共通する上位概念はＪ₂₁で
ある。ここで、Ａは属性ｖ₁ 〜ｖ₄ の何れかの重要度が
非零となる単語の総数であり、概念ベースが図４に示さ
れる通りのものであり、図中○印が重要度が非零である
ことを示すものとすると、該当する単語はｗ₁ 、ｗ₂ 、
ｗ₃ 、ｗ₅ 、ｗ₆ 、ｗ₈ の合計６個であり、Ａ＝６とな
る。情報量をこの様に定義すると、２個の属性がシソー
ラス上において接近していると、これらに共通する上位
概念の情報量は大きく、また、遠く離隔していると小さ
くなる。即ち、この情報量は等価的に属性間の意味的な
近さを表していることになる。

【００２１】以上の通り、属性間の意味的な近さを表す
量として、属性間のシソーラス上における距離の逆数、
或はシソーラス上におけるこれら属性に共通する上位概
念の情報量を選択した例について説明したが、属性間の
意味的な近さを表す量でありさえすれば、これらの例に
類する如何なる量を選択しても差し支えない。

【００２２】

【発明の効果】上述した通りであって、この発明は、単
語間の意味的な類似性の判別をするに際して、比較され
るべき２個の単語の全ての属性の組合せについてこれら
の重要度とこれら重要度の間の意味的な近さを表す量の
３者の積を計算し、これらの積を総和することにより類
似度を計算するものであるので、属性集合の中に意味的
に類似する属性が含まれていて互に独立ではなくても、
高い類似性判別精度を得ることができる。更に、従来の
計算の仕方に依っては、重要度が非零の特徴付ける属性
が少ない単語間については、共通な属性が少なくなると
ころから、類似性判別精度が低下することが考えられる
が、この発明においては全ての属性の組合せを考慮して
類似度が計算されるので、この様な欠点も解消される。

【図面の簡単な説明】

【図１】概念ベースを示す図。

【図２】シソーラスの構成を示す図。

【図３】属性間の意味的な距離を説明する図。

【図４】共通上位概念の情報量の計算方法を説明する
図。

【符号の説明】

ｗ_i 単語 ｗ_j 単語 ｖ_k 属性 ｖ_l 属性 ａ_ik 重要度 ａ_jl 重要度 Ｌ_kl ２個の属性間の意味的な近さを表す量

Claims (3)

【特許請求の範囲】
1. 【請求項１】 単語の特徴を表す属性と、当該単語と属
   性との間の関連の深さを示す当該属性の重要度の対の集
   合により単語の意味を表現している単語意味データベー
   スを使用して単語相互間の意味の類似性を判別する単語
   間意味類似性判別方法において、 類似性判別の対象とされる２個の単語のそれぞれについ
   て属性を選択し、選択された２個の属性の重要度と、こ
   れら２個の属性間の意味的な近さを表す量の３者の積
   を、２個の単語に含まれる全属性の組み合わせについて
   総和した結果を類似度とすることを特徴とする単語間意
   味類似性判別方法。
2. 【請求項２】 請求項１に記載される単語間意味類似性
   判別方法において、２個の属性間の意味的な近さを表す
   量を、選択された２個の属性間のシソーラス上における
   距離の逆数とすることを特徴とする単語間意味類似性判
   別方法。
3. 【請求項３】 請求項１に記載される単語間意味類似性
   判別方法において、２個の属性間の意味的な近さを表す
   量を、選択された２個の属性に共通するシソーラス上に
   おける上位概念の情報量とすることを特徴とする単語間
   意味類似性判別方法。