JP2006139520A

JP2006139520A - 話題スコープ抽出装置、その制御方法及びプログラム

Info

Publication number: JP2006139520A
Application number: JP2004328283A
Authority: JP
Inventors: Katsuto Bessho; 克人別所; Masahiro Oku; 雅博奥
Original assignee: Nippon Telegraph and Telephone Corp
Current assignee: Nippon Telegraph and Telephone Corp
Priority date: 2004-11-11
Filing date: 2004-11-11
Publication date: 2006-06-01
Anticipated expiration: 2024-11-11
Also published as: JP4350026B2

Abstract

【課題】複数の話題が混在しているメッセージ列から、意味的なまとまりをなすメッセージ集合である話題スコープの集合を適切に抽出することができるようにする。

【解決手段】任意のメッセージ対に対し、上記対のメッセージ間のメッセージ内ベクトル集合間距離と、上記対のメッセージ間の参照距離と、上記対の各メッセージが属するトピックセグメント間のトピックセグメント内ベクトル集合間距離を基に、上記対のメッセージ間の最終的な距離を算出し、任意のメッセージ間の距離を基に、メッセージ列をファジィクラスタリングし、その結果得られた各クラスタに対し、上記クラスタへの帰属度がある閾値以上のメッセージの集合を、話題スコープとして導出する。

【選択図】図１

Description

本発明は、複数の話題が混在するメッセージ列から、意味的なまとまりをなすメッセージ集合である話題スコープの集合を抽出する話題スコープ抽出装置に係り、特に、掲示板等、時系列に並んで会話の流れになっているメッセージ列であって、複数の話題からなるメッセージ列を対象とする。

掲示板等のポータルサイトは、スレッド（元発言とこれに対するコメントとによって構成される言葉）の集合であり、各スレッドは、メッセージ列である。このメッセージ列は、時系列に並んでいる会話の流れであり、複数の話題で構成されている。

このようなスレッド集合を対象として、自然言語文を入力し、上記入力文に適合するメッセージ集合を取得する検索処理がある。

１つ１つのメッセージと入力文との意味的類似性によって、適合するメッセージを検索する手法が考えられる。

しかし、掲示板等のメッセージの特徴は、１つ１つのメッセージは、極めて短く、含まれている単語の数が少ないことである。１つのメッセージは、それだけでは、完結した話題になってはいない。メッセージを、一般の文書検索における文書とみなすには、情報量が少な過ぎる。

メッセージ列における１つの話題は、複数のメッセージで構成され、１つ１つのメッセージは、意味的なまとまりをなすメッセージ群の１つに過ぎない。意味的なまとまりをなすメッセージ群になって初めて、一般の文書検索における文書と同等の情報量を持つ。

上記手法において、入力文との間で類似性の高いメッセージを検索するだけでは、上記メッセージを含み、意味的なまとまりをなすメッセージ群を取り出すことができない。このために、本来検索されるべきメッセージでありながら、検索結果から洩れるものが多数発生する。

したがって、メッセージ列から、意味的なまとまりをなすメッセージ集合である話題スコープを抽出し、入力文と適合する話題スコープを検索する構成が適切である。

意味的なまとまりをなすメッセージ集合を抽出する手法として、単語を座標とし、単語のメッセージにおける重要度を座標値とする特徴ベクトルで、各メッセージを表し、この特徴ベクトルを利用して、同一の話題のメッセージが同一クラスタとなるように、メッセージ集合をクラスタリングすることが知られている（たとえば、非特許文献１参照）。
余東明、石川孝著「コミュニティウェブにおけるアクティブ情報検索ためのトピック抽出」、The 17th Annual Conference of the Japanese Society for Artificial Intelligence、ｐｐ．１−４、２００３年

非特許文献１記載の手法では、メッセージを特徴ベクトルで表す。しかし、上記のように、掲示板等のメッセージは、概して短く、含まれている単語の数が少ないので、同一の話題のメッセージでありながら、含んでいる単語集合の共通部分が少なく、したがって、特徴ベクトルが遠くなるケースが頻出するという問題がある。

また、逆に、本来は別々の話題に属するメッセージでありながら、含んでいる単語集合の共通部分が多いので、特徴ベクトルが近くなるケースが頻出し、このために、同一の話題のメッセージが同一クラスタになるようなクラスタリングを、適切に実行することができないという問題がある。

本発明は、複数の話題が混在しているメッセージ列から、意味的なまとまりをなすメッセージ集合である話題スコープの集合を適切に抽出することができる話題スコープ抽出装置を提供することを目的とする。

請求項１記載の発明は、複数の話題が混在するメッセージ列から、意味的なまとまりをなすメッセージ集合である話題スコープの集合を抽出する話題スコープ抽出装置であって、各メッセージを形態素解析することによって、単語単位に分割するメッセージ形態素解析手段と、単語と上記単語の意味を表現するベクトルとの対が格納されている記憶手段である概念ベースと、上記概念ベースを検索することによって、上記メッセージ形態素解析手段で得られた各単語に対応するベクトルを取得するメッセージ内単語ベクトル取得手段と、任意のメッセージ対に対し、上記対の各メッセージ内の単語ベクトル集合を基に、上記対のメッセージ間のメッセージ内ベクトル集合間距離を算出するメッセージ内ベクトル集合間距離算出手段と、任意のメッセージ対に対し、上記対のメッセージ間の参照関係を基に、上記対のメッセージ間の参照距離を算出する参照距離算出手段と、上記メッセージ内単語ベクトル取得手段で得られた単語ベクトルの系列から、上記メッセージ列を同一話題の区間であるトピックセグメントの集合へ分割するトピックセグメンテーション手段と、任意のトピックセグメント対に対し、上記対の各トピックセグメント内の単語ベクトル集合を基に、上記対のトピックセグメント間のトピックセグメント内ベクトル集合間距離を算出するトピックセグメント内ベクトル集合間距離算出手段と、任意のメッセージ対に対し、上記メッセージ内ベクトル集合間距離算出手段で得られた上記対のメッセージ間のメッセージ内ベクトル集合間距離と、上記参照距離算出手段で得られた上記対のメッセージ間の参照距離と、上記トピックセグメント内ベクトル集合間距離算出手段で得られた上記対の各メッセージが属するトピックセグメント間のトピックセグメント内ベクトル集合間距離を基に、上記対のメッセージ間の最終的な距離を算出するメッセージ間距離算出手段と、上記メッセージ間距離算出手段で得られた任意のメッセージ間の距離を基に、メッセージ列をファジィクラスタリングし、その結果得られた各クラスタに対し、上記クラスタへの帰属度がある閾値以上のメッセージの集合を、話題スコープとして導出するファジィクラスタリング手段とを有することを特徴とする話題スコープ抽出装置である。

請求項２記載の発明は、請求項１において、上記ファジィクラスタリング手段で得られた各話題スコープ内の単語ベクトル集合に関する情報を生成する話題スコープ内ベクトル情報生成手段と、入力文を形態素解析し単語単位に分割する入力文形態素解析手段と、上記概念ベースを検索することによって、上記入力文形態素解析手段で得られた各単語に対応するベクトルを取得する入力文内単語ベクトル取得手段と、上記入力文内単語ベクトル取得手段で得られた入力文内の単語ベクトル集合に関する情報を生成する入力文内ベクトル情報生成手段と、上記入力文内ベクトル情報生成手段で得られた入力文内の単語ベクトル集合に関する情報と、上記話題スコープ内ベクトル情報生成手段で得られた各話題スコープ内の単語ベクトル集合に関する情報との間の距離計算を行うことによって、入力文と各話題スコープ間の距離を算出する入力文・話題スコープ間距離算出手段とを有することを特徴とする話題スコープ抽出装置である。

本発明によれば、複数の話題が混在しているメッセージ列から、意味的なまとまりをなすメッセージ集合である話題スコープの集合を適切に抽出することができるという効果を奏する。

発明を実施するための最良の形態は、以下の実施例である。

図１は、本発明の実施例１である話題スコープ抽出装置１００を示すブロック図である。

話題スコープ抽出装置１００は、複数の話題が混在するメッセージ列から、意味的なまとまりをなすメッセージ集合である話題スコープの集合を抽出する話題スコープ抽出装置であって、メッセージ形態素解析手段１１と、概念ベース１２と、メッセージ内単語ベクトル取得手段１３と、メッセージ内ベクトル集合間距離算出手段１４と、参照距離算出手段１５と、トピックセグメンテーション手段１６と、トピックセグメント内ベクトル集合間距離算出手段１７と、メッセージ間距離算出手段１８と、ファジィクラスタリング手段１９とを有する。

図２は、実施例１において、入力となるメッセージ列の一例を示す図である。

メッセージは、投稿単位であり、番号ｉのメッセージをＭ_ｉと表す。図２において、メッセージＭ_９のメッセージ内容に記載されている「＞＞４」は、メッセージＭ_４へのリンクを示し、つまり、メッセージＭ_９がＭ_４を参照していることを意味している。

このメッセージ列から抽出されるべき話題スコープの集合は、Ｃ_１＝｛Ｍ_１，Ｍ_２，Ｍ_３，Ｍ_４，Ｍ_９，Ｍ_１０｝、Ｃ_２＝｛Ｍ_１，Ｍ_５，Ｍ_６，Ｍ_７，Ｍ_８｝であり、Ｍ_１は、２つの話題スコープに属している。

メッセージ形態素解析手段１１は、各メッセージを形態素解析し、単語単位に分割する手段である。この結果得られた単語のうちで、品詞情報等を参照し、内容語のみを残す。ただし、Ｍ_９における「＞＞４」のように、他のメッセージへのリンクは、そのままの状態で残す。この単語単位の分割によって、各メッセージは、図３に示すようになる。

図３は、図２に示すメッセージＭを形態素解析した結果を示す図である。

図４は、実施例１における概念ベース１２の例を示す図である。

概念ベース１２は、ハードディスク等の記憶手段に格納され、単語毎に、ｆ次元ベクトル値が付与されている。概念ベース１２中の単語は、名詞や動詞、形容詞等の自立語である。概念ベース１２における単語ベクトルは、意味的に類似している単語間ほど距離が近く、意味的に類似していない単語間程、距離が遠くなるように値が設定されている。

概念ベースの例は、特開平６−１０３３１５号公報の「類似性判別装置」や、特開平７−３０２２６５号公報の「類似性判別用データ精錬方法およびこの方法を実施する装置」で開示されているデータベースである。

また、Ｄｅｅｒｗｅｓｔｅｒの論文（S.Deerwester, S.T.Dumais, G.W.Furnas, T.K.Landauer and R.Harshman, Indexing by Latent Semantic Analysis, Journal of the American Society for Information Science, pp.391-407, 1990.）では、単語の文書における頻度を記録した単語・文書間の共起行列を、特異値分解によって次元数を縮退させた行列に変換しているが、この変換後の行列も、概念ベースの一例である。

Ｓｃｈｕｔｚｅの論文（H.Schutze, Dimensions of Meaning, Proc. of Supercomputing '92, pp.786-796, 1992.）では、コーパス中の単語間の共起頻度を記録した単語・単語間の共起行例を、特異値分解によって次元数を縮退させた行列に変換しているが、この変換後の行列も、概念ベースの一例である。

メッセージ内単語ベクトル取得手段１３は、概念ベース１２を検索することによって、メッセージ形態素解析手段１１が得た各単語に対応するベクトルを取得する手段である。

メッセージ内ベクトル集合間距離算出手段１４は、任意のメッセージ対に対し、上記対の各メッセージ内の単語ベクトル集合を基に、上記対のメッセージ間のメッセージ内ベクトル集合間距離を算出する手段である。

入力テキスト中の単語ベクトルの列（異なる出現位置の単語のベクトルは、値が同じでも別物とする）を、
Ｘ＝｛ｘ_１，ｘ_２，・・・，ｘ_｜ｘ｜｝
とする。

各メッセージ内の単語ベクトル集合は、連続する、Ｘの要素の集合となる。以後、Ｍ_ｉは、メッセージＭ_ｉ内の単語ベクトル集合も同時に意味するものとする。

メッセージＭ_ｉの重心Ｄ（Ｍ_ｉ）は、

と計算される。｜Ｍ_ｉ｜は、Ｍ_ｉ内の要素数である。

メッセージＭ_ｉのコストＥ（Ｍ_ｉ）を

とする。

任意のメッセージＭ_ｉ、Ｍ_ｊ間のメッセージ内ベクトル集合間距離ΔＥ（Ｍ_ｉ，Ｍ_ｊ）を、Ｍ_ｉ、Ｍ_ｊを併合したときのコストの増分とする。ΔＥ（Ｍ_ｉ，Ｍ_ｊ）は、

となる。

ただし、単語数が１個以下のメッセージについては、他のメッセージとのメッセージ内ベクトル集合間距離を算出しないようにする。

上記式（１）によって、任意のメッセージ間のメッセージ内ベクトル集合間距離は、図５に示すようになる。

図５は、図２に示すメッセージＭ間のメッセージ内ベクトル集合間距離を示す図である。

Ｍ_ｉ、Ｍ_ｊ（ｉ＜ｊ）間の距離は、ｉ行ｊ列目の成分にのみ記載している。

任意のメッセージについて、自身との距離は、０．０となる。

単語数が１個であるＭ_３とＭ_６については、他のメッセージとの距離は、算出されていない。Ｍ_３とＭ_６は、単語集合が一致しているが、距離は０．０ではなく、Ｍ_３とＭ_６が同一の話題に属することを、回避している。

Ｍ_１と、その内容を受けるＭ_２との距離は、０．２であり、Ｍ_１と、その内容を受けるＭ_５との距離も、０．２である。Ｍ_９とＭ_１０との距離は、０．３である。それ以外の異なるメッセージ間の距離は、０．５となっている。

参照距離算出手段１５は、任意のメッセージ対に対し、上記対のメッセージ間の参照関係を基に、上記対のメッセージ間の参照距離を算出する手段である。

２つのメッセージＭ_ｉ、Ｍ_ｊ（ｉ＜ｊ）に対し、Ｍ_ｊがＭ_ｉを参照しているときに、Ｍ_ｉ、Ｍ_ｊ間の参照距離を、０．０とする。Ｍ_ｉがＭ_ｊを参照していても、時間的に後に出現するメッセージとの間に、話題同一性が必ずしもあるわけではないので、それだけで、Ｍ_ｉ、Ｍ_ｊ間の参照距離を０．０にはしない。

これによって、任意のメッセージ間の参照距離は、図６に示すようになる。

図６は、図２に示すメッセージＭ間の参照距離を示す図である。

Ｍ_９がＭ_４を参照しているので、Ｍ_４とＭ_９との参照距離は、０．０となる。それ以外のメッセージ間の参照距離は、算出されない。

トピックセグメンテーション手段１６は、メッセージ内単語ベクトル取得手段１３で得られた単語ベクトルの系列から、メッセージ列を同一話題の区間であるトピックセグメントの集合へ分割する。

トピックセグメンテーションの方法は、特開２００２−３４２３２４号公報や特開２００４−２３４５１２号公報に開示されている。

特開２００２−３４２３２４号公報に記載されているトピックセグメンテーションの方法は、任意の単語境界の前後に、所定個数の単語の集合である単語列をとり、各単語列に対し、上記単語列を構成する単語のベクトルの重心を算出し、前後の単語列に対応する重心間の余弦測度を、上記単語境界の結束度とし、この結束度が極小となる単語境界を、話題区間の境界と認定する方法である。

また、特開２００４−２３４５１２号公報に記載されているトピックセグメンテーションの方法は、任意の区間に対して、上記区間内の単語ベクトルの重心の各単語ベクトルとの間の距離の自乗の和を、コストとして求め、任意の区間列のコストを、上記区間列に含まれる区間のコストの和として、一定の条件下で、コストが最小となる区間列を、話題区間列と認定するする方法である。

図７は、図２に示すメッセージ列をトピックセグメンテーションした結果を示す図である。

トピックセグメンテーション手段１６により、メッセージ列は、図７に示すように、メッセージ列を、トピックセグメントの集合Ｔ_１＝｛Ｍ_１，Ｍ_２，Ｍ_３，Ｍ_４｝、Ｔ_２＝｛Ｍ_５，Ｍ_６，Ｍ_７，Ｍ_８｝、Ｔ_３＝｛Ｍ_９，Ｍ_１０｝へ分割される。

トピックセグメント内のメッセージ対の中には、距離が０．５と大きいものもあるが、トピックセグメンテーションによって、トピックセグメント内のメッセージ間の話題同一性を検出することが可能となる。

トピックセグメント内ベクトル集合間距離算出手段１７は、任意のトピックセグメント対に対し、上記対の各トピックセグメント内の単語ベクトル集合を基に、上記対のトピックセグメント間のトピックセグメント内ベクトル集合間距離を算出する手段である。

各トピックセグメント内の単語ベクトル集合は、連続する、Ｘの要素の集合となる。以後、Ｔ_ｉは、Ｔ_ｉ内の単語ベクトル集合も同時に意味するものとする。

トピックセグメント内ベクトル集合間距離を、メッセージ内ベクトル集合間距離と同様に、次のように定める。

トピックセグメントＴ_ｉの重心を、Ｄ（Ｔ_ｉ）とし、Ｔ_ｉ内の要素数を、｜Ｔ_ｉ｜としたときに、任意のトピックセグメントＴ_ｉ，Ｔ_ｊ間のトピックセグメント内ベクトル集合間距離ΔＥ（Ｔ_ｉ，Ｔ_ｊ）を、

とする。

上記式（２）によって、任意のトピックセグメント間のトピックセグメント内ベクトル集合間距離は、図８に示すようになる。

図８は、図７に示すトピックセグメントＴ間のトピックセグメント内ベクトル集合間距離を示す図である。

Ｔ_ｉ、Ｔ_ｊ（ｉ＜ｊ）間の距離は、ｉ行ｊ列目の成分にのみ記載している。

任意のトピックセグメントについて、自身との距離を、０．０となる。異なるトピックセグメント間の距離は、０．５となっている。

メッセージ間距離算出手段１８は、任意のメッセージ対に対し、メッセージ内ベクトル集合間距離算出手段１４が得た上記対のメッセージ間のメッセージ内ベクトル集合間距離と、参照距離算出手段１５が得た上記対のメッセージ間の参照距離と、トピックセグメント内ベクトル集合間距離算出手段１７が得た上記対の各メッセージが属するトピックセグメント間のトピックセグメント内ベクトル集合間距離とのうちで、最小値を、上記対のメッセージ間の最終的な距離とする手段である。

これによって、任意のメッセージ間の距離は、図９に示すようになる。

図９は、図２に示すメッセージＭ間の距離を示す図である。

同一トピックセグメント内の任意のメッセージ間の距離は、０．０となる。Ｍ_１とＭ_５とのメッセージ内ベクトル集合間距離は、０．２であり、各メッセージが属するトピックセグメント間の距離は、０．５であるので、メッセージ間距離は、０．２となる。

Ｍ_４とＭ_９とのメッセージ内ベクトル集合間距離は、０．５であり、参照距離は、０．０であり、各メッセージが属するトピックセグメント間の距離は、０．５であるので、メッセージ間距離は、０．０となる。

上記以外の、異なるトピックセグメントに属するメッセージ間の距離は、０．５となる。

ファジィクラスタリング手段１９は、メッセージ間距離算出手段１８が得た任意のメッセージ間の距離を基に、メッセージ列を、ファジィクラスタリングし、その結果得られた各クラスタに対し、上記クラスタへの帰属度が所定の閾値以上であるメッセージの集合を、「話題スコープ」として導出する手段である。

ファジィクラスタリングの方法は、「E.H.Ruspini, A new approach to clustering, Information and Control, Vol.15, pp.22-32, 1969.」に記載されている方法である。以下、このＲｕｓｐｉｎｉの方法について説明する。

メッセージの集合｛Ｍ_１，Ｍ_２，・・・，Ｍ_ｎ｝と、任意のメッセージＭ_ｉ、Ｍ_ｊ間の距離ｄ（Ｍ_ｉ，Ｍ_ｊ）とが与えられているとする。また、メッセージのファジィクラスタの集合を、｛Ｃ_１，Ｃ_２，・・・，Ｃ_ｒ｝とする。Ｕ＝（ｕ_ｐｉ）（１≦ｐ≦ｒ，ｉ≦ｉ≦ｎ）の各成分ｕ_ｐｉは、Ｍ_ｉのＣ_ｐへの帰属度を意味するものとし、Ｕ＝（ｕ_ｐｉ）は、

の条件を満たすものとする。評価関数

を考える。重みωも、実数値をとる変数である。

上記Ｒｕｓｐｉｎｉの方法では、評価関数Ｊ_Ｒ（Ｕ，ω）を最小にするＵ、ωすなわち、

を求める。求めたＵ＝（ｕ_ｐｉ）の各成分ｕ_ｐｉが、Ｍ_ｉのＣ_ｐへの帰属度である。

帰属度の所定閾値αをとり、各ファジィクラスタＣ_ｐに対し、メッセージ集合｛Ｍ_ｉ：ｕ_ｐｉ≧α｝を、対応する話題スコープとする。

図９に示す任意のメッセージ間の距離の情報を入力し、上記ファジィクラスタリングを実行することによって、話題スコープの集合Ｃ_１＝｛Ｍ_１，Ｍ_２，Ｍ_３，Ｍ_４，Ｍ_９，Ｍ_１０｝、Ｃ_２＝｛Ｍ_１，Ｍ_５，Ｍ_６，Ｍ_７，Ｍ_８｝が得られる。

Ｍ_１とＭ_５とのメッセージ間距離が、０．２と比較的小さいので、Ｍ_１は、トピックセグメントＴ_２内のメッセージ群とも、同一話題スコープに属している。

また、Ｍ_４とＭ_９とのメッセージ間距離が、０．０であるので、トピックセグメントＴ_１とＴ_３との距離は、０．５と大きかったにも関わらず、Ｔ_１とＴ_３内のメッセージ群が、同一話題スコープに属するようになっている。

図１０は、実施例１の動作を示すフローチャートである。

まず、Ｓ１では、メッセージ形態素解析手段１１が、各メッセージを形態素解析することによって、単語単位に分割し、記憶装置に記憶する。

なお、本明細書および請求の範囲において、「記憶装置」は、メモリに限らず、ハードディスク等の外部記憶装置を含む概念である。

Ｓ２で、メッセージ内単語ベクトル取得手段１３が、概念ベース１２を検索することによって、メッセージ形態素解析手段１１で得られた各単語に対応するベクトルを取得し、記憶装置に記憶する。

Ｓ３で、メッセージ内ベクトル集合間距離算出手段１４が、任意のメッセージ対に対し、上記対の各メッセージ内の単語ベクトル集合を基に、上記対のメッセージ間のメッセージ内ベクトル集合間距離を算出し、記憶装置に記憶する。

Ｓ４で、参照距離算出手段１５が、任意のメッセージ対に対し、上記対のメッセージ間の参照関係を基に、上記対のメッセージ間の参照距離を算出し、記憶装置に記憶する。

Ｓ５で、トピックセグメンテーション手段１６が、メッセージ内単語ベクトル取得手段１３で得られた単語ベクトルの系列から、メッセージ列を同一話題の区間であるトピックセグメントの集合へ分割し、記憶装置に記憶する。

Ｓ６で、トピックセグメント内ベクトル集合間距離算出手段１７が、任意のトピックセグメント対に対し、上記対の各トピックセグメント内の単語ベクトル集合を基に、上記対のトピックセグメント間のトピックセグメント内ベクトル集合間距離を算出し、記憶装置に記憶する。

Ｓ７で、メッセージ間距離算出手段１８が、任意のメッセージ対に対し、メッセージ内ベクトル集合間距離算出手段１４で得られた上記対のメッセージ間のメッセージ内ベクトル集合間距離と、参照距離算出手段１５で得られた上記対のメッセージ間の参照距離と、トピックセグメント内ベクトル集合間距離算出手段１７で得られた上記対の各メッセージが属するトピックセグメント間のトピックセグメント内ベクトル集合間距離を基に、上記対のメッセージ間の最終的な距離を算出し、記憶装置に記憶する。

Ｓ８で、ファジィクラスタリング手段１９が、メッセージ間距離算出手段１８で得られた任意のメッセージ間の距離を基に、メッセージ列をファジィクラスタリングし、その結果得られた各クラスタに対し、上記クラスタへの帰属度がある閾値以上のメッセージの集合を、話題スコープとして導出し、記憶装置に記憶する。

図１１は、本発明の実施例２である話題スコープ抽出装置２００の構成を示すブロック図である。

話題スコープ抽出装置２００は、話題スコープ抽出装置１００に、話題スコープ内ベクトル情報生成手段２０と、入力文形態素解析手段２１と、入力文内単語ベクトル取得手段２２と、入力文内ベクトル情報生成手段２３と、入力文・話題スコープ間距離算出手段２４とが付加された装置である。

つまり、話題スコープ抽出装置２００は、メッセージ形態素解析手段１１と、概念ベース１２と、メッセージ内単語ベクトル取得手段１３と、メッセージ内ベクトル集合間距離算出手段１４と、参照距離算出手段１５と、トピックセグメンテーション手段１６と、トピックセグメント内ベクトル集合間距離算出手段１７と、メッセージ間距離算出手段１８と、ファジィクラスタリング手段１９と、話題スコープ内ベクトル情報生成手段２０と、入力文形態素解析手段２１と、入力文内単語ベクトル取得手段２２と、入力文内ベクトル情報生成手段２３と、入力文・話題スコープ間距離算出手段２４とを有する。

話題スコープ内ベクトル情報生成手段２０は、ファジィクラスタリング手段１９が得た各話題スコープ内の単語ベクトル集合に関する情報を生成する手段である。

話題スコープＣ_ｐ内の単語ベクトル集合は、Ｃ_ｐ内のメッセージに含まれる単語ベクトル集合の和である。

以後、Ｃ_ｐは、Ｃ_ｐ内の単語ベクトル集合も同時に意味するものとする。各話題スコープＣ_ｐに対し、Ｃ_ｐの重心Ｄ（Ｃ_ｐ）と、Ｃ_ｐ内の要素数｜Ｃ_ｐ｜とを算出し、保持する。これらＣ_ｐの重心Ｄ（Ｃ_ｐ）と、Ｃ_ｐ内の要素数｜Ｃ_ｐ｜とが、Ｃ_ｐ内の単語ベクトル集合に関する情報である。

入力文形態素解析手段２１は、入力文を形態素解析し、単語単位に分割する手段である。この結果得られた単語のうちで、品詞情報等を参照し、内容語のみを残す。

例として、入力文Ｑ：「おいしいラーメン店」は、「おいしい／ラーメン／店」となる。

入力文内単語ベクトル取得手段２２は、概念ベース１２を検索することによって、入力文形態素解析手段２１が得た各単語に対応するベクトルを取得する手段である。

以後、Ｑは、Ｑ内の単語ベクトル集合も同時に意味するものとする。

入力文内ベクトル情報生成手段２３は、入力文内単語ベクトル取得手段２２が得た入力文内の単語ベクトル集合に関する情報を生成する手段である。入力文Ｑに対し、Ｑの重心Ｄ（Ｑ）と、Ｑ内の要素数｜Ｑ｜とを算出し、保持する。これらＱの重心Ｄ（Ｑ）と、Ｑ内の要素数｜Ｑ｜とが、入力文Ｑ内の単語ベクトル集合に関する情報である。

入力文・話題スコープ間距離算出手段２４は、入力文内ベクトル情報生成手段２３が得た入力文内の単語ベクトル集合に関する情報と、話題スコープ内ベクトル情報生成手段２０が得た各話題スコープ内の単語ベクトル集合に関する情報との間の距離計算を行うことによって、入力文と各話題スコープ間の距離を算出する手段である。

入力文Ｑと話題スコープＣ_ｐとの間の距離ｄ（Ｑ，Ｃ_ｐ）は、

として算出する。

話題スコープの集合Ｃ_１＝｛Ｍ_１，Ｍ_２，Ｍ_３，Ｍ_４，Ｍ_９，Ｍ_１０｝、Ｃ_２＝｛Ｍ_１，Ｍ_５，Ｍ_６，Ｍ_７，Ｍ_８｝に対し、話題スコープを、入力文Ｑとの距離によってソートすると、Ｃ_２、Ｃ_１の順になる。入力文Ｑに対し、この順で話題スコープを提示することが可能である。また、所定閾値以下の距離を持つ話題スコープのみに限定して、提示することも可能である。これによって、話題スコープＣ_２のみを提示する。

なお、メッセージ内ベクトル集合間距離算出手段１４において、メッセージ内の単語数が一定数以下のメッセージ（以下、小メッセージと呼ぶ）については、他のメッセージとのメッセージ内ベクトル集合間距離を算出しないようにした。しかし、異なるトピックセグメント内にあるメッセージであって、メッセージ内の単語数が一定数以上のメッセージ（以下、大メッセージと呼ぶ）が、参照関係なしに、小メッセージの内容を受ける場合もあり得る。

例として、「語ろう」という呼びかけのメッセージに対し、異なるトピックセグメント内にある大メッセージが受ける場合がある。

そこで、小メッセージの内容が、新たな話題を喚起するような内容の場合に限り、小メッセージと、上記メッセージよりも後にくる大メッセージとの間のメッセージ内ベクトル集合間距離を算出するようにしてもよい。この算出によって、２つのメッセージを、同一の話題に属させることができる。

図１２、図１３は、実施例２における複数の他のメッセージへのリンクを持つメッセージの例を示す図である。

１つのメッセージＭに、図１２、図１３に示すように、２つ以上のメッセージの集合Ｎへの参照がある場合、参照距離算出手段１５において、Ｍと、Ｎの任意の要素との間の参照距離を十分小さく、たとえば０．０に設定するようにしてもよい。

図１２に示す例では、Ｍ_４、Ｍ_５、Ｍ_６のそれぞれと、Ｍ_９との間の参照距離が０．０となる。図１３に示す例では、Ｍ_１３と、メッセージＭ_８、Ｍ_１０のそれぞれとの間の参照距離が０．０となる。

図１４は、図１３に示す複数の他のメッセージへのリンクを持つメッセージを分割した結果を示す図である。

特に、図１３に示すような、参照しているリンク毎に叙述がなされているメッセージを、メッセージ中の空き行等のフォーマット情報を元に、図１４に示すように、リンク情報毎に分割することもできる。入力となるメッセージ列に対して、上記のように、メッセージの分割処理を予め行った上で、話題スコープ抽出装置２００に入力するようにしてもよい。図１４に示す例のように、所定のメッセージにおいて、「＞＞１３」のように、メッセージＭ_１３へのリンクがあれば、上記所定のメッセージは、Ｍ_１３．１とＭ_１３．２とを参照していることを意味する。

なお、話題スコープ抽出装置２００において、リンク情報の有無に拘らず、１メッセージ内に複数のメッセージ内容がある場合、上記メッセージを分割し、この分割されたメッセージを、話題スコープ抽出装置２００に入力するようにしてもよい。メッセージの分割方法として、特開２００２−３４２３２４号公報や特開２００４−２３４５１２号公報に記載されている方法をとることができる。

また、個々のメッセージ毎に分割するのではなく、メッセージ列の全テキストに対し分割を行い、その結果得られる各トピックセグメントと、各メッセージとの間の交わりの集合を入力としてもよい。この場合、トピックセグメンテーション手段１６において、トピックセグメンテーションは実行せず、既に得られているトピックセグメント集合を、トピックセグメント内ベクトル集合間距離算出手段１７以降の処理で用いる。

図１５は、実施例２において、投稿者名欄に前のメッセージの番号を記述されているメッセージの例を示す図である。

図１５のように、メッセージに投稿者名欄があり、かつて自分が投稿したメッセージの番号を、新たに投稿するメッセージの投稿者名とするような事例もあり得る。このように、メッセージ中の投稿者名欄に、前のメッセージの番号が記述されている場合、２つのメッセージ間に話題同一性が認められることがあり得るので、参照距離算出手段１５が、２つのメッセージ間の参照距離を十分小さく、たとえば０．０に設定するようにしてもよい。図１５に示す例では、メッセージＭ_１５とＭ_１９との間の参照距離が、０．０となる。

次に、実施例２の動作について説明する。

図１６は、実施例２の動作を示すフローチャートである。

なお、ステップＳ１〜Ｓ８は、図１０のフローチャートにおけるステップＳ１〜Ｓ８と同じである。

Ｓ８の次に、Ｓ９では、話題スコープ内ベクトル情報生成手段２０が、ファジィクラスタリング手段１９で得られた各話題スコープ内の単語ベクトル集合に関する情報を生成し、記憶装置に記憶する。

Ｓ１１では、入力文形態素解析手段２１が、入力文を形態素解析し単語単位に分割する。

Ｓ１２では、入力文内単語ベクトル取得手段２２が、概念ベース１２を検索することによって、入力文形態素解析手段２１で得られた各単語に対応するベクトルを取得し、記憶装置に記憶する。

Ｓ１３では、入力文内ベクトル情報生成手段２３が、入力文内単語ベクトル取得手段２２で得られた入力文内の単語ベクトル集合に関する情報を生成し、記憶装置に記憶する。

Ｓ１４では、入力文・話題スコープ間距離算出手段２４が、入力文内ベクトル情報生成手段２３で得られた入力文内の単語ベクトル集合に関する情報と、話題スコープ内ベクトル情報生成手段２０で得られた各話題スコープ内の単語ベクトル集合に関する情報との間の距離計算を行うことによって、入力文と各話題スコープ間の距離を算出し、記憶装置に記憶する。

ところで、１トピックセグメント内のメッセージ間で距離を測ると、メッセージ内の単語数は十分あるわけではないので、距離は大きいことも多い。これは、１メッセージ単位で距離を測ると距離が大きくても、連続するメッセージ列に含まれる単語ベクトル集合をとると、上記メッセージ列に隣接するメッセージ列との間との差異が浮き彫りになる場合があることを意味する。トピックセグメンテーション手段１６によって、メッセージ列をトピックセグメントの集合へ分割することにより、１メッセージ単位の類似性では検出し難いトピックセグメント内のメッセージ間の話題同一性を検出することが可能となる。

参照距離算出手段１５によって、参照関係にあるメッセージ間の参照距離は無条件に小さく設定することができる。

メッセージ間距離算出手段１８では、メッセージ内ベクトル集合間距離、参照距離、トピックセグメント内ベクトル集合間距離の最小値を、メッセージ間の最終的な距離とする。

メッセージ内の単語数が一定数以下のメッセージ（以下、小メッセージと呼ぶ）と、他のメッセージとが同一の話題に属するための決定要因を考える。小メッセージの内容を、上記小メッセージと属するトピックセグメントが異なる、メッセージ内の単語数が一定数以上のメッセージ（以下、大メッセージと呼ぶ）が参照関係なしに受ける一部の場合を除いて、２つのメッセージの参照関係の有無と、所属するトピックセグメント間の距離が決定要因となる。メッセージ内ベクトル集合間距離算出手段１４では、小メッセージに対しては、他のメッセージとのメッセージ内ベクトル集合間距離を算出しないようにする。これによって、小メッセージと他のメッセージとの間の距離は、参照距離、トピックセグメント内ベクトル集合間距離で定まる。

一方、２つの大メッセージが同一の話題に属するための決定要因は、参照関係の有無、所属するトピックセグメント間の距離、メッセージ内ベクトル集合間距離である。特に、大メッセージＡを受けて、Ａが属していた話題とは別の話題が、Ａと属するトピックセグメントが異なる大メッセージＢから、参照関係なしに始まることがある。この場合、メッセージＡは、複数の話題に属するべきものである。Ａ、Ｂ間のメッセージ内ベクトル集合間距離は、Ａ、Ｂそれぞれが属するトピックセグメント間の距離よりも小さくなる。この結果、Ａ、Ｂは別々の距離の大きいトピックセグメントに属するにも関わらず、ファジィクラスタリングによって、ＡはＢが属するトピックセグメント内のメッセージ集合とも同一の話題に属するようになる。

本発明は、複数の話題が混在するメッセージ列から、意味的なまとまりをなすメッセージ集合である話題スコープの集合を抽出する技術に適用可能である。

本発明の実施例１である話題スコープ抽出装置１００を示すブロック図である。実施例１において、入力となるメッセージ列の一例を示す図である。図２に示すメッセージＭを形態素解析した結果を示す図である。実施例１における概念ベース１２の例を示す図である。図２に示すメッセージＭ間のメッセージ内ベクトル集合間距離を示す図である。図２に示すメッセージＭ間の参照距離を示す図である。図２に示すメッセージ列をトピックセグメンテーションした結果を示す図である。図７に示すトピックセグメントＴ間のトピックセグメント内ベクトル集合間距離を示す図である。図２に示すメッセージＭ間の距離を示す図である。実施例１の動作を示すフローチャートである。本発明の実施例２である話題スコープ抽出装置２００の構成を示すブロック図である。実施例２における複数の他のメッセージへのリンクを持つメッセージの例を示す図である。実施例２における複数の他のメッセージへのリンクを持つメッセージの例を示す図である。図１３に示す他の複数のメッセージへのリンクを持つメッセージを分割した結果を示す図である。実施例２において、投稿者名欄に前のメッセージの番号が記述されているメッセージの例を示す図である。実施例２の動作を示すフローチャートである。

Claims

複数の話題が混在するメッセージ列から、意味的なまとまりをなすメッセージ集合である話題スコープの集合を抽出する話題スコープ抽出装置であって、
各メッセージを形態素解析することによって、単語単位に分割するメッセージ形態素解析手段と；
単語と上記単語の意味を表現するベクトルとの対が格納されている記憶手段である概念ベースと；
上記概念ベースを検索することによって、上記メッセージ形態素解析手段で得られた各単語に対応するベクトルを取得するメッセージ内単語ベクトル取得手段と；
任意のメッセージ対に対し、上記対の各メッセージ内の単語ベクトル集合を基に、上記対のメッセージ間のメッセージ内ベクトル集合間距離を算出するメッセージ内ベクトル集合間距離算出手段と；
任意のメッセージ対に対し、上記対のメッセージ間の参照関係を基に、上記対のメッセージ間の参照距離を算出する参照距離算出手段と；
上記メッセージ内単語ベクトル取得手段で得られた単語ベクトルの系列から、上記メッセージ列を同一話題の区間であるトピックセグメントの集合へ分割するトピックセグメンテーション手段と；
任意のトピックセグメント対に対し、上記対の各トピックセグメント内の単語ベクトル集合を基に、上記対のトピックセグメント間のトピックセグメント内ベクトル集合間距離を算出するトピックセグメント内ベクトル集合間距離算出手段と；
任意のメッセージ対に対し、上記メッセージ内ベクトル集合間距離算出手段で得られた上記対のメッセージ間のメッセージ内ベクトル集合間距離と、上記参照距離算出手段で得られた上記対のメッセージ間の参照距離と、上記トピックセグメント内ベクトル集合間距離算出手段で得られた上記対の各メッセージが属するトピックセグメント間のトピックセグメント内ベクトル集合間距離を基に、上記対のメッセージ間の最終的な距離を算出するメッセージ間距離算出手段と；
上記メッセージ間距離算出手段で得られた任意のメッセージ間の距離を基に、メッセージ列をファジィクラスタリングし、その結果得られた各クラスタに対し、上記クラスタへの帰属度がある閾値以上のメッセージの集合を、話題スコープとして導出するファジィクラスタリング手段と；
を有することを特徴とする話題スコープ抽出装置。
請求項１において、
上記ファジィクラスタリング手段で得られた各話題スコープ内の単語ベクトル集合に関する情報を生成する話題スコープ内ベクトル情報生成手段と；
入力文を形態素解析し単語単位に分割する入力文形態素解析手段と；
上記概念ベースを検索することによって、上記入力文形態素解析手段で得られた各単語に対応するベクトルを取得する入力文内単語ベクトル取得手段と；
上記入力文内単語ベクトル取得手段で得られた入力文内の単語ベクトル集合に関する情報を生成する入力文内ベクトル情報生成手段と；
上記入力文内ベクトル情報生成手段で得られた入力文内の単語ベクトル集合に関する情報と、上記話題スコープ内ベクトル情報生成手段で得られた各話題スコープ内の単語ベクトル集合に関する情報との間の距離計算を行うことによって、入力文と各話題スコープ間の距離を算出する入力文・話題スコープ間距離算出手段と；
を有することを特徴とする話題スコープ抽出装置。
複数の話題が混在するメッセージ列から、意味的なまとまりをなすメッセージ集合である話題スコープの集合を抽出する話題スコープ抽出装置の制御方法であって、
各メッセージを形態素解析することによって、単語単位に分割し、記憶装置に記憶するメッセージ形態素解析工程と；
単語と上記単語の意味を表現するベクトルとの対が格納されている記憶手段である概念ベースを検索することによって、上記メッセージ形態素解析工程で得られた各単語に対応するベクトルを取得し、記憶装置に記憶するメッセージ内単語ベクトル取得工程と；
任意のメッセージ対に対し、上記対の各メッセージ内の単語ベクトル集合を基に、上記対のメッセージ間のメッセージ内ベクトル集合間距離を算出し、記憶装置に記憶するメッセージ内ベクトル集合間距離算出工程と；
任意のメッセージ対に対し、上記対のメッセージ間の参照関係を基に、上記対のメッセージ間の参照距離を算出し、記憶装置に記憶する参照距離算出工程と；
上記メッセージ内単語ベクトル取得工程で得られた単語ベクトルの系列から、上記メッセージ列を同一話題の区間であるトピックセグメントの集合へ分割し、記憶装置に記憶するトピックセグメンテーション工程と；
任意のトピックセグメント対に対し、上記対の各トピックセグメント内の単語ベクトル集合を基に、上記対のトピックセグメント間のトピックセグメント内ベクトル集合間距離を算出し、記憶装置に記憶するトピックセグメント内ベクトル集合間距離算出工程と；
任意のメッセージ対に対し、上記メッセージ内ベクトル集合間距離算出工程で得られた上記対のメッセージ間のメッセージ内ベクトル集合間距離と、上記参照距離算出工程で得られた上記対のメッセージ間の参照距離と、上記トピックセグメント内ベクトル集合間距離算出工程で得られた上記対の各メッセージが属するトピックセグメント間のトピックセグメント内ベクトル集合間距離を基に、上記対のメッセージ間の最終的な距離を算出し、記憶装置に記憶するメッセージ間距離算出工程と；
上記メッセージ間距離算出工程で得られた任意のメッセージ間の距離を基に、メッセージ列をファジィクラスタリングし、その結果得られた各クラスタに対し、上記クラスタへの帰属度がある閾値以上のメッセージの集合を、話題スコープとして導出し、記憶装置に記憶するファジィクラスタリング工程と；
を有することを特徴とする話題スコープ抽出装置の制御方法。
請求項３において、
上記ファジィクラスタリング工程で得られた各話題スコープ内の単語ベクトル集合に関する情報を生成し、記憶装置に記憶する話題スコープ内ベクトル情報生成工程と；
入力文を形態素解析し単語単位に分割する入力文形態素解析工程と；
上記概念ベースを検索することによって、上記入力文形態素解析工程で得られた各単語に対応するベクトルを取得し、記憶装置に記憶する入力文内単語ベクトル取得工程と；
上記入力文内単語ベクトル取得工程で得られた入力文内の単語ベクトル集合に関する情報を生成し、記憶装置に記憶する入力文内ベクトル情報生成工程と；
上記入力文内ベクトル情報生成工程で得られた入力文内の単語ベクトル集合に関する情報と、上記話題スコープ内ベクトル情報生成工程で得られた各話題スコープ内の単語ベクトル集合に関する情報との間の距離計算を行うことによって、入力文と各話題スコープ間の距離を算出し、記憶装置に記憶する入力文・話題スコープ間距離算出工程と；
を有することを特徴とする話題スコープ抽出装置の制御方法。
複数の話題が混在するメッセージ列から、意味的なまとまりをなすメッセージ集合である話題スコープの集合を抽出するプログラムであって、
各メッセージを形態素解析することによって、単語単位に分割し、記憶装置に記憶するメッセージ形態素解析手順と；
単語と上記単語の意味を表現するベクトルとの対が格納されている記憶手段である概念ベースを検索することによって、上記メッセージ形態素解析手順で得られた各単語に対応するベクトルを取得し、記憶装置に記憶するメッセージ内単語ベクトル取得手順と；
任意のメッセージ対に対し、上記対の各メッセージ内の単語ベクトル集合を基に、上記対のメッセージ間のメッセージ内ベクトル集合間距離を算出し、記憶装置に記憶するメッセージ内ベクトル集合間距離算出手順と；
任意のメッセージ対に対し、上記対のメッセージ間の参照関係を基に、上記対のメッセージ間の参照距離を算出し、記憶装置に記憶する参照距離算出手順と；
上記メッセージ内単語ベクトル取得手順で得られた単語ベクトルの系列から、上記メッセージ列を同一話題の区間であるトピックセグメントの集合へ分割し、記憶装置に記憶するトピックセグメンテーション手順と；
任意のトピックセグメント対に対し、上記対の各トピックセグメント内の単語ベクトル集合を基に、上記対のトピックセグメント間のトピックセグメント内ベクトル集合間距離を算出し、記憶装置に記憶するトピックセグメント内ベクトル集合間距離算出手順と；
任意のメッセージ対に対し、上記メッセージ内ベクトル集合間距離算出手順で得られた上記対のメッセージ間のメッセージ内ベクトル集合間距離と、上記参照距離算出手順で得られた上記対のメッセージ間の参照距離と、上記トピックセグメント内ベクトル集合間距離算出手順で得られた上記対の各メッセージが属するトピックセグメント間のトピックセグメント内ベクトル集合間距離を基に、上記対のメッセージ間の最終的な距離を算出し、記憶装置に記憶するメッセージ間距離算出手順と；
上記メッセージ間距離算出手順で得られた任意のメッセージ間の距離を基に、メッセージ列をファジィクラスタリングし、その結果得られた各クラスタに対し、上記クラスタへの帰属度がある閾値以上のメッセージの集合を、話題スコープとして導出し、記憶装置に記憶するファジィクラスタリング手順と；
をコンピュータに実行させるプログラム。
請求項５において、
上記ファジィクラスタリング手順で得られた各話題スコープ内の単語ベクトル集合に関する情報を生成し、記憶装置に記憶する話題スコープ内ベクトル情報生成手順と；
入力文を形態素解析し単語単位に分割する入力文形態素解析手順と；
上記概念ベースを検索することによって、上記入力文形態素解析手順で得られた各単語に対応するベクトルを取得し、記憶装置に記憶する入力文内単語ベクトル取得手順と；
上記入力文内単語ベクトル取得手順で得られた入力文内の単語ベクトル集合に関する情報を生成し、記憶装置に記憶する入力文内ベクトル情報生成手順と；
上記入力文内ベクトル情報生成手順で得られた入力文内の単語ベクトル集合に関する情報と、上記話題スコープ内ベクトル情報生成手順で得られた各話題スコープ内の単語ベクトル集合に関する情報との間の距離計算を行うことによって、入力文と各話題スコープ間の距離を算出し、記憶装置に記憶する入力文・話題スコープ間距離算出手順と；
をコンピュータに実行させるプログラム。