JP3654850B2 - 情報検索システム - Google Patents

情報検索システム Download PDF

Info

Publication number
JP3654850B2
JP3654850B2 JP2001139609A JP2001139609A JP3654850B2 JP 3654850 B2 JP3654850 B2 JP 3654850B2 JP 2001139609 A JP2001139609 A JP 2001139609A JP 2001139609 A JP2001139609 A JP 2001139609A JP 3654850 B2 JP3654850 B2 JP 3654850B2
Authority
JP
Japan
Prior art keywords
document
documents
cluster
label
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001139609A
Other languages
English (en)
Other versions
JP2002041573A (ja
Inventor
栄一 内藤
昭一 荒木
洋 九津見
順 小澤
進 丸野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2001139609A priority Critical patent/JP3654850B2/ja
Publication of JP2002041573A publication Critical patent/JP2002041573A/ja
Application granted granted Critical
Publication of JP3654850B2 publication Critical patent/JP3654850B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、大量の情報の中から利用者が求める情報を容易に見つけ出すことを可能とするための情報検索システムに関するものである。
【0002】
【従来の技術】
近年、インターネットの普及に伴い、WWW(World Wide Web)上にHTML(Hyper Text Markup Language)で記述された様々なホームページが掲載されるようになるなど、一般利用者が大量の情報にアクセスすることが可能となっている。また、FAQ(Frequently Asked Questions)集と称した、頻繁に問い合わせられる質問とその回答とを対にしたリストが公開されていて、利用者は質問に対する回答を得ることが可能である。これらの情報は、利用者にとって、求める情報の所在がわかれば即座に閲覧できるので便利であるが、逆に大量の情報の中から自分の求める情報を見つけ出すことが大変な作業となっている。
【0003】
このため、文書からキーワードを切り出してその文書の特徴量とし、特徴量間の内積を算出して文書間の類似度を求め、質問文に対する類似文書を検索するという検索技術が知られている。
【0004】
【発明が解決しようとする課題】
しかしながら、インターネット上の情報や、あるいは、事例ベースで蓄積されたFAQ集は、多くの人が独立して情報を提供しているので、情報の重複は避けられず、同じような内容を持つ文書が大量に存在する。したがって、従来の技術では、質問文に類似した文書として、同じような内容の文書が大量に検索されてしまうことが多いので、利用者は結局大量の検索結果の中から欲しい情報を見つけ出す作業が必要であった。検索結果を一定の数に制限すると、自分の欲しい情報がなかったりするという課題があった。
【0005】
また、利用者が検索結果から欲しい情報を見つけ出すのに成功しても、それがFAQ集に反映されないので、別の利用者が同じ条件で検索した場合にも同様の見つけ出す手間が必要であった。情報の重複を避けながらFAQ集をより充実させるためには、同様の情報が既に存在しているかどうかをチェックしなければならず、情報提供者の負担にもなっていた。
【0006】
本発明の目的は、利用者の情報検索にかかる負担を軽減させる情報検索システムを提供することにある。
【0007】
本発明の他の目的は、検索対象の情報を容易に更新できる情報検索システムを提供することにある。
【0008】
【課題を解決するための手段】
上記目的を達成するため、本発明は、文書の特徴ベクトルを算出し、特徴ベクトルに基づいて文書をクラスタ分類し、文書の検索結果をクラスタごとにまとめて表示することとしたものである。これにより、利用者は、検索結果を類似した文書の固まりとして把握することが容易となる。しかも、複数の文書の各々のキーワードとその重みとの組を要素とする特徴ベクトルを特徴量として抽出したうえ、当該複数の文書を、互いの特徴量の同一キーワードの重みの小さい方の和と、大きい方の和との比率(後述する「類似比」)の大きい文書を要素とする複数のクラスタに分類することとした。
【0009】
また、本発明は、利用者からの質問が入力された場合に類似質問を検索し、対応する回答を利用者に提示し、利用者が最も適切であると判断した回答を選択したとき、当該選択された回答をもとに文書データベースを自動的に更新することとしたものである。これにより、次回から同様の質問が入力された場合に適切な回答ができる。
【0010】
【発明の実施の形態】
以下、本発明の2つの実施形態について、図面を参照しながら説明する。
【0011】
《第1の実施形態》
図1は、本発明の第1の実施形態に係る情報検索システムの構成を示す。図1の情報検索システムは、文書記憶部11と、クラスタ記憶部12と、クラスタラベル記憶部13と、文書ラベル記憶部14と、特徴ベクトル抽出部15と、クラスタ分類部16と、クラスタラベル作成部17と、文書ラベル作成部18と、データベース検索部19と、インタフェース部20と、利用者入力部21と、利用者表示部22とで構成され、例えばインターネットを介して互いに接続された文書サーバと利用者端末とで実現される。文書記憶部11は、複数の文書を記憶する。特徴ベクトル抽出部15は、文書記憶部11に記憶されている文書から特徴ベクトルを抽出する。クラスタ分類部16は、特徴ベクトル抽出部15が求めた特徴ベクトルに基づき、文書記憶部11に記憶されている文書のクラスタ分類を行う。クラスタ記憶部12は、クラスタ分類部16がクラスタ分類した文書のクラスタを記憶する。クラスタラベル作成部17は、クラスタ分類部16が作成した各クラスタについて、当該クラスタの内容を表すクラスタラベルを作成する。クラスタラベルは、単語からなる単語ラベル、あるいは文からなる文ラベルである。クラスタラベル記憶部13は、クラスタラベル作成部17が作成したクラスタラベルを記憶する。文書ラベル作成部18は、クラスタ分類部16が作成したクラスタの要素である各文書について、当該文書の内容を表す文書ラベルを作成する。文書ラベル記憶部14は、文書ラベル作成部18が作成した文書ラベルを記憶する。利用者入力部21は、利用者から与えられた検索条件を受け付ける。検索条件としては、文書のキーワード、文書IDなど文書検索の条件となるものなら何でもよい。インタフェース部20は、利用者との入出力を管理する。データベース検索部19は、文書記憶部11から検索条件を満たす文書を検索する。利用者表示部22は、検索結果を利用者に提示する。
【0012】
図2は、図1中の文書記憶部11に記憶されている文書の例を示す。文書記憶部11には、検索の対象となる所与のn(n≧2)個の文書が記憶されている。各文書は、ユニークな文書IDと、文章形式の本文とからなる。i番目の文書をDiとする(1≦i≦n)。
【0013】
図3は、図1中の利用者表示部22における検索結果の表示例を示す。図3によれば、ある検索条件に対する文書の検索結果がクラスタごとにまとめて表示される。具体的には、クラスタIDと、そのクラスタに含まれる文書の文書ID及び本文とを、クラスタごとに表形式で表示し、マウスで「前のクラスタ」ボタンや「次のクラスタ」ボタンを押して別のクラスタを表示することにより、全ての検索結果を表示することができる。これにより、利用者は、検索結果を類似した文書の固まりとして把握することが容易となる。しかも、表示されたクラスタには、当該クラスタの内容を表すクラスタラベルが表示されるとともに、文書ラベルに指定された文が下線付きで表示されている。したがって、クラスタの内容を利用者が把握しやすくなる。なお、検索結果としてクラスタID、文書IDをも表示したが、表示しなくてもよい。
【0014】
以下、上記第1の実施形態の詳細を、文書登録時動作と文書検索時動作とに分けて説明する。文書登録時動作とは、初めて文書が文書記憶部11に登録される場合、あるいは、それ以降に文書の追加/変更/削除があった場合の動作である。文書検索時動作とは、登録文書を検索して閲覧する場合の動作である。
【0015】
〈文書登録時動作〉
図4は、図1中の特徴ベクトル抽出部15の処理手順を示す。まず、特徴ベクトル抽出部15は、文書記憶部11に記憶されている全ての文書Diを順次取り出し、各文書Diの特徴ベクトルViを抽出する。特徴ベクトルは、文書の特徴を表す単語Tjとその重みWijとの組を要素とするベクトルであり、その要素の数は文書によって異なる。ここで、jは単語を識別するユニークな番号である。図4において、ステップS101では、文書のカウンタiにi=1を設定する。ステップS102では、文書記憶部11から文書Diを取り出し、形態素解析、構文解析、不要語除去など、一般に知られている方法により、出現する単語Tjを本文から抽出し、文書Di内での単語Tjの出現回数Fijをカウントする。終了判定ステップS103では、全文書につきステップS102の処理が終了した場合、すなわちi=nの場合にはS105に進む。そうでない場合にはS104に進む。ステップS104では、カウンタiを1増加しステップS102に進む。ステップS105では、単語Tjの全文書に対する重要度として、単語Tjが出現する文書数の少なさを表す度合い、すなわちIDF(inverse document
frequency)値を数式(1)により算出する。
【0016】
【数1】
Figure 0003654850
【0017】
ここで、Mjは単語Tjが出現する文書の数を表す。ステップS106では、文書のカウンタiにi=1を設定する。ステップS107では、単語Tjが文書Diを特徴付ける重みWijとして、文書Di内での単語Tjの出現割合を表すTF(term frequency)値と、上記IDF値とをかけ合わせたTFIDF値を数式(2)により算出する。
【0018】
【数2】
Figure 0003654850
【0019】
終了判定ステップS108では、全文書につきステップS107の処理が終了した場合、すなわちi=nの場合には終了する。そうでない場合にはS109に進む。ステップS109では、カウンタiを1増加しステップS107に進む。
【0020】
図5は、抽出された文書特徴ベクトルViの例を示す。なお、上記特徴ベクトルの算出ではTFIDF値を用いていたが、単純に単語の出現回数とするなど、他の方法でもよい。
【0021】
図6は、図1中のクラスタ分類部16の処理手順を示す。クラスタ分類部16は、特徴ベクトル抽出部15が抽出した特徴ベクトルを用いて、全ての文書をm個のクラスタに分類する(1<m<n)。ここで、k番目のクラスタをCkとする(1≦k≦m)。クラスタ分類の手順として、樹形図的に逐次クラスタに分類していく階層的クラスタリングを用いるものとする。図6において、ステップS111では、クラスタ間距離の初期計算を行う。ここでは、初期クラスタとして、各々1つの文書Diだけを要素として持つn個のクラスタCiを設定する。各クラスタCk,Cl(1≦k,l≦n)間の距離Lklとして、各文書の特徴ベクトル間の距離を表す数式(3)の類似比を採用する。
【0022】
【数3】
Figure 0003654850
【0023】
ステップS112では、クラスタリング回数のカウンタiにi=1を設定する。ステップS113では、全てのクラスタの組み合わせの中で、クラスタ間距離Lklが最も小さいクラスタCk,Cl(k<l)の組を探索する。ステップS114では、クラスタCk,Clを統合してクラスタCgとする。すなわち、Cg=Ck∪Cl、Cl=φとする(φは空集合を表す)。クラスタの統合に伴い、クラスタCgと他のクラスタCh(1≦h≦n)とのクラスタ間距離をウォード法を用いて数式(4)により算出する。
【0024】
【数4】
Figure 0003654850
【0025】
ここで、NkはクラスタCkの要素の数である。終了判定ステップS115では、クラスタリング回数がn−1の場合、すなわち全ての初期クラスタが1つのクラスタに統合された場合にはステップS117に進む。そうでない場合にはS116に進む。ステップS116では、カウンタiを1増加しステップS112に進む。ステップS117では、クラスタ数を決定する。ステップS111からステップS115までのクラスタ分類過程においては、クラスタリング回数ごとにクラスタの数は1つずつ減少する。ステップS117では、クラスタ分類過程を振り返り、適切なクラスタリング回数を決定する。ここでは、要素を2つ以上持つクラスタの数が最大になるクラスタリング回数を適切なクラスタリング回数であるとする。ステップS118では、ステップS117で決定したクラスタリング回数までクラスタ分類を行った時点での各クラスタに含まれる要素をクラスタ記憶部12に書き出す。
【0026】
図7は、クラスタ記憶部12に書き出されたクラスタの例を示す。各クラスタは、クラスタIDと、そのクラスタに含まれる文書の文書IDとからなる。例えば、クラスタ1には、1,190,432,644番の4つの文書が含まれている。これは、これら4つの文書の特徴ベクトル同士が、他の文書に比べて類似していることを表している。なお、上記の例ではクラスタ分類の方法として階層的クラスタリングを用いたが、非階層的クラスタリングでもよい。初期クラスタ間距離として数式(3)の類似比を用いたが、ユークリッド平方距離など他の距離を用いてもよい。クラスタ統合時のクラスタ間距離の算出手法として数式(4)のウォード法を用いたが、最長距離法など他の手法を用いてもよい。クラスタ数の決定手法として、要素を2つ以上持つクラスタの数が最大になるクラスタリング回数としたが、クラスタ数を文書数の一定の割合とするなど他の決定手法でもよい。
【0027】
図8は、図1中のクラスタラベル作成部17における単語ラベル作成手順を示す。ステップS201では、クラスタのカウンタkにk=1を設定する。ステップS202では、クラスタCkの要素である全ての文書Diの特徴ベクトルViに含まれる単語Tjごとに、クラスタCkの要素である文書Diのうち、単語Tjが出現する出現文書数をカウントする。ステップS203では、クラスタCkの要素である全ての文書Diに含まれる単語Tjごとに、単語TjのTFIDF値(=Wij)の、クラスタCkの要素である全ての文書Diについての合計を算出する。ステップS204では、クラスタCkの要素である全ての文書Diの特徴ベクトルViに含まれる全ての単語Tjを、ステップS202で求めた出現文書数の多い順にソートする。出現文書数が同じ場合はステップS203で求めたTFIDF値の合計の大きい順にソートする。ステップS205では、ステップS204でソートされた上位の3つの単語を選択し、クラスタの単語ラベルとしてクラスタラベル記憶部13に書き出す。終了判定ステップS206では、全クラスタにつきステップS202からステップS205までの処理が終了した場合、すなわちk=mの場合には終了する。そうでない場合にはS207に進む。ステップS207では、カウンタkを1増加しステップS202に進む。
【0028】
図9は、クラスタラベル記憶部13に書き出された単語ラベルの例を示す。例えば、クラスタ1には、「お菓子」「間食」「チーズ」という単語ラベルが付いていることを表す。なお、単語ラベルの作成方法として単語の出現文書数でソートしたが、TFIDF値のみでソートするなど他の方法でもよい。また、単語ラベルの単語数を3つにしたが、3つ以外でもよい。
【0029】
図10は、図1中のクラスタラベル作成部17における文ラベル作成手順を示す。ステップS301では、クラスタのカウンタkにk=1を設定する。ステップS302では、クラスタCkの要素である全ての文書Diの特徴ベクトルViに含まれる単語Tjごとに、クラスタCkの要素である文書Diのうち、単語Tjが出現する出現文書数をカウントする。ステップS303では、クラスタCkの要素である全ての文書Diを構成する文ごとに、その文に含まれる単語Tjの、ステップS302でカウントした出現文書数の合計を算出する。ここで、文とは、文書を「。」などの句点で区切った1つ1つの文字列をいう。ステップS304では、クラスタCkの要素である全ての文書Diを構成する文を、ステップS303で求めた出現文書数の合計の大きい順にソートする。ステップS305では、ステップS304でソートされた最上位の文を選択し、クラスタの文ラベルとしてクラスタラベル記憶部13に書き出す。最上位の文が複数ある場合は、その中から文字数が最少の文を選択する。終了判定ステップS306では、全クラスタにつきステップS302からステップS305までの処理が終了した場合、すなわちk=mの場合には終了する。そうでない場合にはS307に進む。ステップS307では、カウンタkを1増加しステップS302に進む。
【0030】
図11は、クラスタラベル記憶部13に書き出された文ラベルの例を示す。例えば、クラスタ1には、「水分の多い物(ゼリー、プリン、ヨーグルト)を…」という文ラベルが付いていることを表す。なお、文ラベルの作成方法として単語の出現文書数の合計でソートしたが、TFIDF値の合計でソートするなど他の方法でもよい。また、出現文書数の合計が最上位の文が複数ある場合に、文字数が最少の文を選択したが、文の開始位置が最も前方の文を選択するなど他の方法でもよい。
【0031】
図12は、図1中の文書ラベル作成部18の処理手順を示す。ステップS401では、文書のカウンタiにi=1を設定する。ステップS402では、文書Diを構成する各文ごとに、その文に含まれる全単語TjのTFIDF値(=Wij)の合計を算出する。終了判定ステップS403では、全文書につきステップS402の処理が終了した場合、すなわちi=nの場合にはS405へ進む。そうでない場合にはS404に進む。ステップS404では、カウンタiを1増加しステップS402に進む。ステップS405では、クラスタのカウンタkにk=1を設定する。ステップS406では、クラスタCkの要素である全ての文書Diを構成する文を、ステップS402で求めた合計の多い順にソートする。ステップS407では、文書Diの文書ラベルとしてステップS406でソートされた最上位の文を選択する。ただし、選択された文が、クラスタラベル作成部17が作成したクラスタの文ラベルと同一の場合には、文書Diの文書ラベルとしてステップS406でソートされた上位から2番目の文を選択する。ステップS408では、ステップS407で選択された文書Diの文書ラベルを文書ラベル記憶部14に書き出す。終了判定ステップS409では、全クラスタにつきステップS406からステップS408までの処理が終了した場合、すなわちk=mの場合には終了する。そうでない場合にはS410に進む。ステップS410では、カウンタkを1増加しステップS406に進む。
【0032】
図13は、文書ラベル記憶部14に書き出された文書ラベルの例を示す。例えば、クラスタ1に含まれる文書1には、「かみごたえがあり、後を引かないもので、…」という文書ラベルが付いていることを表す。
【0033】
以上の動作により、文書登録時に、各文書について特徴ベクトルを抽出し、また、クラスタ、クラスタラベル及び文書ラベルを作成してそれぞれの記憶部に記憶しておく。
【0034】
〈文書検索時動作〉
まず、インタフェース部20は、利用者入力部21を通じて文書の検索条件を受け付ける。データベース検索部19は、検索条件を満たす文書を文書記憶部11から検索し、当該検索された文書が含まれるクラスタをクラスタ記憶部12から検索し、当該検索されたクラスタに含まれる文書を再び文書記憶部11から検索し、その結果をクラスタラベル及び文書ラベルとともにインタフェース部20へ送る。インタフェース部20は、利用者表示部22を通じて検索結果を利用者に提示する(図3)。
【0035】
なお、本実施形態では、文書は所与のものが予め記憶されていたが、光ディスクなどの記憶媒体やインターネットなどのネットワーク媒体などにより、後から新たに導入、又は改訂されてもよい。また、文書の検索は、キーワードや文書IDによるもの以外に、全文検索であってもあいまい検索であってもよい。
【0036】
《第2の実施形態》
図14は、本発明の第2の実施形態に係る情報検索システムの構成を示す。図14の情報検索システムは、利用者の自由文による質問に対して、過去の事例検索に基づく適切な回答を返すシステムであって、例えばインターネットを介して互いに接続された文書サーバ、利用者端末及び専門家端末で実現される。図14の構成は、図1の構成に特徴ベクトル記憶部31と、類似度演算部32と、専門家入力部41と、専門家表示部42とを追加し、かつ図1中のデータベース検索部19をデータベース検索更新部33に置き換えたものである。文書記憶部11は、互いに対応付けられた複数の質問文書と複数の回答文書とを記憶する。専門家表示部42は、専門家に検索結果を提示する。専門家入力部41は、専門家からの選択入力及び自由文による回答入力を受け付ける。インタフェース部20は、利用者及び専門家との入出力を管理する。特徴ベクトル抽出部15は、文書記憶部11の質問文書及び回答文書の各々から特徴ベクトルを抽出する機能と、利用者の自由文による質問入力から特徴ベクトルを抽出する機能と、専門家の自由文による回答入力から特徴ベクトルを抽出する機能とを有する。特徴ベクトル記憶部31は、特徴ベクトル抽出部15が文書記憶部11の質問文書及び回答文書の各々から抽出した特徴ベクトルを記憶する。類似度演算部32は、利用者質問入力から抽出された特徴ベクトルと、特徴ベクトル記憶部31が記憶している質問文書の特徴ベクトルとの類似度を求める機能と、専門家回答入力から抽出された特徴ベクトルと、特徴ベクトル記憶部31が記憶している回答文書の特徴ベクトルとの類似度を求める機能とを有する。データベース検索更新部33は、文書記憶部11の文書を検索する機能に加えて、利用者又は専門家の応答に基づいて文書記憶部11を更新する機能を有する。
【0037】
図15及び図16は、図14中の文書記憶部11に記憶されている文書の例を示す。図15は、質問文書を集めた質問表の部分を示す。この質問表は、ユニークな質問ID、文章形式の質問、及び当該質問に対応する回答IDからなる。図16は、回答文書を集めた回答表の部分を示す。この回答表は、ユニークな回答ID、及び文章形式の回答からなる。i番目の質問をQiとし、k番目の回答をAkとする(1≦i≦nかつ1≦k≦m)。ここで、n≧mの関係が成り立っている。すなわち、複数の質問に対して1つの回答が対応する場合がある。
【0038】
図17は、図14中の専門家表示部42における検索結果の表示例を示す。図17では、利用者からの質問に加えて、回答候補がクラスタに分類された状態で、かつクラスタの文ラベル及びクラスタ中の文書ラベルとともに表示されている。図17では、マウスで「前のページ」ボタンや「次のページ」ボタンを押して別のページを表示することにより、全ての検索結果を表示することができる。これにより、専門家は、類似した文書の固まりとして表示された検索結果を参照して、最も適切な回答を容易に選択することができる。あるいは、自由文による専門家回答を入力することもできる。なお、図17の例ではクラスタラベルとして文ラベルを表示したが、これとともに又はこれに代えて単語ラベルを表示してもよい。また、検索結果としてクラスタID、文書IDをも表示したが、表示しなくてもよい。
【0039】
図18は、図14中の利用者表示部22における検索結果の表示例を示す。ここでは、番号1の文書が専門家回答として選択されたものとしている。
【0040】
以下、上記第2の実施形態の詳細を、第1の実施形態と同様に、文書登録時動作と文書検索時動作とに分けて説明する。
【0041】
〈文書登録時動作〉
まず、特徴ベクトル抽出部15は、文書記憶部11に記憶されている全ての文書から質問の特徴ベクトルVQiと回答の特徴ベクトルVAkとを抽出し、抽出された特徴ベクトルを特徴ベクトル記憶部31に書き出す。特徴ベクトルの抽出手順は第1の実施形態と同様である。第1の実施形態との違いは、質問と回答の部分についてそれぞれ特徴ベクトルを算出する点と、特徴ベクトルを特徴ベクトル記憶部31に書き出す点である。
【0042】
次に、クラスタ分類部16は、特徴ベクトル記憶部31から回答の特徴ベクトルVAkを読み出し、全ての回答文書をクラスタに分類し、クラスタ記憶部12にクラスタを書き出す。クラスタ分類の手順は第1の実施形態と同様である。第1の実施形態との違いは、回答の特徴ベクトルVAkを用いてクラスタ分類を行う点である。クラスタラベル作成部17及び文書ラベル作成部18の各々の動作は、第1の実施形態と同様である。
【0043】
以上の動作により、文書登録時に、質問と回答についてそれぞれ特徴ベクトルを抽出し、また回答について、クラスタ、クラスタラベル、及び文書ラベルを作成してそれぞれの記憶部に記憶しておく。
【0044】
〈文書検索時動作〉
まず、インタフェース部20は、利用者入力部21を通じて、自由文による利用者質問Qを受け付ける。特徴ベクトル抽出部15は、利用者質問の特徴ベクトルVQを抽出する。
【0045】
図19は、図14中の特徴ベクトル抽出部15における利用者質問の特徴ベクトル抽出手順を示す。ステップS501では、出現する単語Tjを利用者質問Qから抽出し、単語Tjの文書内での出現回数Fijをカウントする。単語の抽方法は、第1の実施形態と同様である。ステップS502では、単語TjのIDF値を算出する。単語Tjが文書記憶部11のいずれかの文書中に存在する場合はそのIDF値が文書登録時に既に算出されているので、それをステップS502で用いる。単語Tjが存在しない場合は数式(5)により単語TjのIDF値(IDFj)を算出する。
【0046】
【数5】
Figure 0003654850
【0047】
ステップS503では、利用者質問Qにおける単語Tjの重みWQj(TFIDF値)を算出する。TFIDF値の算出方法は第1の実施形態と同様である。図20は、利用者質問Qから抽出された特徴ベクトルVQの例を示す。
【0048】
次に、類似度演算部32は、特徴ベクトル記憶部31から全ての質問の特徴ベクトルVQiを取り出し、これらの特徴ベクトルVQiと利用者質問の特徴ベクトルVQとの類似度を算出する。
【0049】
図21は、図14中の類似度演算部32の処理手順を示す。ステップS511では、文書のカウンタiにi=1を設定する。ステップS512では、特徴ベクトルVQiと利用者からの質問の特徴ベクトルVQとの類似度Eiを数式(6)によりベクトルの内積で算出する。
【0050】
【数6】
Figure 0003654850
【0051】
終了判定ステップS513では、全質問につきステップS512の処理が終了した場合、すなわちi=nの場合にはS515に進む。そうでない場合にはS514に進む。ステップS514では、カウンタiを1増加しステップS512に進む。ステップS515では、全ての質問文書を、ステップS512で求めた類似度Eiの高い順にソートする。
【0052】
次に、データベース検索更新部33は、類似度演算部32が算出した類似度Eiが上位の所定の数の質問文書とそれに対応する回答文書とを文書記憶部11から検索し、当該検索された回答文書が含まれるクラスタをクラスタ記憶部12から検索し、当該検索されたクラスタに含まれる回答文書を再び文書記憶部11から検索し、その結果をクラスタラベル及び文書ラベルとともにインタフェース部20へ送る。なお、特徴ベクトルの類似度演算方法としてベクトルの内積を用いたが、ベクトルの類似比を用いるなど他の方法でもよい。
【0053】
次に、インタフェース部20は、専門家表示部42を通じて検索結果の回答部分を専門家に提示し(図17)、専門家入力部41を通じて、専門家表示部42の表示を参照した専門家の回答選択又は自由文による回答の入力を受け付ける。更に、インタフェース部20は、利用者表示部22を通じて専門家回答を利用者に提示する(図18)。したがって、利用者へは有用な情報のみが提示される。
【0054】
図22は、図14中のデータベース検索更新部33の処理手順をフローチャートの形式で示す。ステップS601では、回答事例検索表示を行う。具体的には、インタフェース部20は、自由文による利用者質問Qを受け付け、専門家表示部42を通じて検索結果を専門家に提示する(図17)。ステップS602では、検索結果の判断を行う。専門家は、図17の表示を見て、利用者質問Qに対して適切であると思われる回答があるかどうか判断する。適切であると思われる回答があった場合にはS603に進む。適切であると思われる回答がなかった場合にはS606に進む。ステップS603では、専門家は、利用者質問Qに対して最も適切であると思われる回答の文書IDを選択する。インタフェース部20は、専門家入力部41を通じて、選択された文書IDの入力を受け付ける。また、当該文書IDを後述するステップS605のために、データベース検索更新部33に受け渡す。ステップS604では、インタフェース部20は、利用者表示部22を通じて、専門家が選択した文書IDの文書を回答として利用者に提示する(図18)。
【0055】
ステップS605では、質問追加処理を行う。データベース検索更新部33は、受け渡された文書IDの回答に対応する1以上の質問のうち、利用者質問Qとの類似度が最も高い質問の類似度が所定の値以下である場合には、適切な自動回答がなされなかったものとして、図15の質問表に、新規のユニークな質問ID、利用者質問Q及び選択された文書IDからなる行を追加する。次にステップS612に進む。ステップS612では、特徴ベクトル抽出部15は、文書登録時と同様に、文書記憶部11に記憶されている全ての質問Qi及び回答Akから、それぞれの特徴ベクトルVQi,VAkを抽出し、抽出された特徴ベクトルを特徴ベクトル記憶部31に書き出す。
【0056】
ステップS602で適切な回答がなかった場合、専門家は、ステップS606において利用者質問Qに対して適切な回答Aを自由文で入力する。インタフェース部20は、専門家入力部41を通じて、自由文の回答を受け付ける。ステップS607では、インタフェース部20は、専門家が入力した回答Aを利用者に提示する。ステップS608では、特徴ベクトル抽出部15は、専門家が入力した回答Aの特徴ベクトルVAを抽出する。この特徴ベクトルの抽出手順は、図19で説明した利用者質問Qの特徴ベクトルVQの抽出手順と同様である。ステップS609では、類似度演算部32は、特徴ベクトル記憶部31から全ての回答の特徴ベクトルVAkを取り出し、専門家が入力した回答Aの特徴ベクトルVAとの類似度Ekを算出する。この類似度の算出手順は、図21で説明した利用者質問Qの類似度の算出手順と同様である。ステップS610では、類似度演算部32は、ステップS609で求めた類似度Ekの中で最も大きいものが所定の値以上の場合は、文書記憶部11の中に専門家が入力した回答Aと類似する回答があるものと判断し、類似する回答Akの文書IDをデータベース検索更新部33に受け渡し、ステップS605に進む。そうでない場合はステップS611に進む。ステップS611では、質問回答追加処理を行う。データベース検索更新部33は、図16の回答表に、新規のユニークな文書ID及び専門家が入力した回答Aからなる行を追加する。また、図15の質問表に、新規のユニークな質問IDと、利用者質問Qと、追加した回答に付与した文書IDとからなる行を追加する。そして、ステップS612に進む。ステップS612における処理は上述のとおりである。
【0057】
一方、回答を選択又は入力できる専門家がいない場合には、インタフェース部20は、利用者表示部22を通じて、図17と同様の検索結果を利用者に提示する。利用者は、図17の表示を見て、自分の質問Qに対して最も適切であると思われる回答の文書IDを選択し、インタフェース部20は、利用者入力部21を通じて、選択された文書IDの入力を受け付ける。データベース検索更新部33は、入力された文書IDの回答に対応する1以上の質問のうち、利用者質問Qとの類似度が最も高い質問の類似度が所定の値以下である場合には、適切な自動回答がなされなかったものとして、図15の質問表に、新規のユニークな質問ID、利用者質問Q及び選択された文書IDからなる行を追加する(ステップS605と同様)。そして、特徴ベクトル抽出部15は、文書登録時と同様に、文書記憶部11に記憶されている全ての質問Qi及び回答Akから、それぞれの特徴ベクトルVQi,VAkを抽出し、抽出された特徴ベクトルを特徴ベクトル記憶部31に書き出す(ステップS612と同様)。
【0058】
以上のように、第2の実施形態によれば、利用者又は専門家の応答に応じて文書記憶部11が自動的に更新されるようにしたので、次回から同様の質問が入力された場合に適切な回答ができる情報検索システムを提供することができる。
【0059】
【発明の効果】
以上説明してきたとおり、本発明によれば、文書の特徴ベクトルを算出し、特徴ベクトルに基づいて文書をクラスタ分類し、文書の検索結果をクラスタごとにまとめて表示することとしたので、利用者は、検索結果を類似した文書の固まりとして把握することが容易となる。したがって、利用者の情報検索にかかる負担を軽減させる情報検索システムを提供することができる。
【0060】
また、本発明によれば、利用者からの質問が入力された場合に類似質問を検索し、対応する回答を利用者に提示し、利用者が最も適切であると判断した回答を選択したときには当該選択された回答をもとに文書データベースを自動的に更新することとしたので、検索対象の情報を容易に更新できる情報検索システムを提供することができる。
【図面の簡単な説明】
【図1】本発明の第1の実施形態に係る情報検索システムの構成を示すブロック図である。
【図2】図1中の文書記憶部に記憶されている文書の例を示す図である。
【図3】図1中の利用者表示部における検索結果の表示例を示す図である。
【図4】図1中の特徴ベクトル抽出部の処理手順を示すフローチャートである。
【図5】抽出された文書特徴ベクトルの例を示す図である。
【図6】図1中のクラスタ分類部の処理手順を示すフローチャートである。
【図7】クラスタ分類結果の例を示す図である。
【図8】図1中のクラスタラベル作成部における単語ラベル作成手順を示すフローチャートである。
【図9】作成された単語ラベルの例を示す図である。
【図10】図1中のクラスタラベル作成部における文ラベル作成手順を示すフローチャートである。
【図11】作成された文ラベルの例を示す図である。
【図12】図1中の文書ラベル作成部の処理手順を示すフローチャートである。
【図13】作成された文書ラベルの例を示す図である。
【図14】本発明の第2の実施形態に係る情報検索システムの構成を示すブロック図である。
【図15】図14中の文書記憶部に記憶されている文書のうちの質問表の部分の例を示す図である。
【図16】図14中の文書記憶部に記憶されている文書のうちの回答表の部分の例を示す図である。
【図17】図14中の専門家表示部における検索結果の表示例を示す図である。
【図18】図14中の利用者表示部における検索結果の表示例を示す図である。
【図19】図14中の特徴ベクトル抽出部における利用者質問の特徴ベクトル抽出手順を示すフローチャートである。
【図20】利用者質問から抽出された特徴ベクトルの例を示す図である。
【図21】図14中の類似度演算部の処理手順を示すフローチャートである。
【図22】図14中のデータベース検索更新部の処理手順を主として示すフローチャートである。
【符号の説明】
11 文書記憶部
12 クラスタ記憶部
13 クラスタラベル記憶部
14 文書ラベル記憶部
15 特徴ベクトル抽出部
16 クラスタ分類部
17 クラスタラベル作成部
18 文書ラベル作成部
19 データベース検索部
20 インタフェース部
21 利用者入力部
22 利用者表示部
31 特徴ベクトル記憶部
32 類似度演算部
33 データベース検索更新部
41 専門家入力部
42 専門家表示部

Claims (9)

  1. 複数の文書の中から利用者が求める情報を検索するための情報検索システムであって、
    文書記憶手段に記憶された複数の文書の各々の特徴量を抽出するための特徴量抽出手段と、
    前記特徴量に基づき、前記複数の文書を、互いに近似した特徴量を持つ文書を要素とする複数のクラスタに分類するためのクラスタ分類手段と、
    前記複数のクラスタ各々について、当該クラスタに属する文書に含まれる単語の各々について当該単語が出現する当該クラスタ中の文書数を計数して単語スコアとし、単語スコアの大きい順に並べた1つ以上の単語を当該クラスタのラベルとして選択するためのクラスタ単語ラベル作成手段と、
    前記複数の文書の中から、前記利用者から与えられた検索条件を満たす文書を検索するための文書検索手段と、
    前記検索された文書を、当該検索された文書が属するクラスタの前記ラベルと、当該クラスタに属する他の文書とともに、検索結果として提示するためのインタフェース手段とを備え、
    前記特徴量抽出手段は、前記文書記憶手段に記憶された複数の文書の各々の、キーワードとその重みとの組を要素とする特徴ベクトルを特徴量として抽出し、
    前記クラスタ分類手段は、前記複数の文書を、互いの特徴量の同一キーワードの重みの小さい方の和と、大きい方の和との比率の大きい文書を要素とする複数のクラスタに分類する情報検索システム。
  2. 複数の文書の中から利用者が求める情報を検索するための情報検索システムであって、
    文書記憶手段に記憶された複数の文書の各々の特徴量を抽出するための特徴量抽出手段
    と、
    前記特徴量に基づき、前記複数の文書を、互いに近似した特徴量を持つ文書を要素とする複数のクラスタに分類するためのクラスタ分類手段と、
    前記複数のクラスタ各々について、当該クラスタに属する文書に含まれる単語の各々について当該単語が出現する当該クラスタ中の文書数を計数して単語スコアとし、前記単語スコアに基づいて当該クラスタに属する文書に含まれる文の1つを当該クラスタのラベルとして選択するためのクラスタ文ラベル作成手段と、
    前記複数の文書の中から、前記利用者から与えられた検索条件を満たす文書を検索するための文書検索手段と、
    前記検索された文書を、当該検索された文書が属するクラスタの前記ラベルと、当該クラスタに属する他の文書とともに、検索結果として提示するためのインタフェース手段とを備え、
    前記特徴量抽出手段は、前記文書記憶手段に記憶された複数の文書の各々の、キーワードとその重みとの組を要素とする特徴ベクトルを特徴量として抽出し、
    前記クラスタ分類手段は、前記複数の文書を、互いの特徴量の同一キーワードの重みの小さい方の和と、大きい方の和との比率の大きい文書を要素とする複数のクラスタに分類する情報検索システム。
  3. 請求項2記載の情報検索システムにおいて、
    前記クラスタ文ラベル作成手段は、当該クラスタに属する文書に含まれる文の各々について、当該文に含まれる全単語の単語スコアの和を求め、前記単語スコアの和が最大である文を当該クラスタのラベルとして選択し、前記単語スコアの和が最大である文が複数ある場合には、その中から文字数の最少の文を選択するように構成されたことを特徴とする情報検索システム。
  4. 請求項2記載の情報検索システムにおいて、
    前記クラスタ文ラベル作成手段は、当該クラスタに属する文書に含まれる文の各々について、当該文に含まれる全単語の単語スコアの和を求め、前記単語スコアの和が最大である文を当該クラスタのラベルとして選択し、前記単語スコアの和が最大である文が複数ある場合には文の開始位置が最も前方の文を選択するように構成されたことを特徴とする情報検索システム。
  5. 複数の文書の中から利用者が求める情報を検索するための情報検索システムであって、
    文書記憶手段に記憶された複数の文書の各々の特徴量を抽出するための特徴量抽出手段と、
    前記特徴量に基づき、前記複数の文書を、互いに近似した特徴量を持つ文書を要素とする複数のクラスタに分類するためのクラスタ分類手段と、
    前記複数のクラスタ各々について、当該クラスタの内容を表すクラスタラベルを作成するためのクラスタラベル作成手段と、
    前記クラスタ分類された文書各々について、当該文書の内容を表す文書ラベルを作成するための文書ラベル作成手段と、
    前記複数の文書の中から、前記利用者から与えられた検索条件を満たす文書を検索するための文書検索手段と、
    前記検索された文書を、当該検索された文書が属するクラスタの前記クラスタラベルと、当該クラスタに属する他の文書と、当該検索された文書と当該他の文書との各々に対応させた前記文書ラベルとともに、検索結果として提示するためのインタフェース手段とを備え
    前記特徴量抽出手段は、前記文書記憶手段に記憶された複数の文書の各々の、キーワードとその重みとの組を要素とする特徴ベクトルを特徴量として抽出し、
    前記クラスタ分類手段は、前記複数の文書を、互いの特徴量の同一キーワードの重みの小さい方の和と、大きい方の和との比率の大きい文書を要素とする複数のクラスタに分類する情報検索システム。
  6. 請求項5記載の情報検索システムにおいて、
    前記文書ラベル作成手段は、当該文書中の全ての文の中から、当該文書に含まれる単語のTFIDF値の和が最大である文を前記文書ラベルとして選択するように構成されたことを特徴とする情報検索システム。
  7. 複数の回答文書の中から利用者が求める情報を検索するための情報検索システムであって、
    前記複数の回答文書と前記回答文書各々に少なくとも1つ以上対応付けられた複数の質問文書とを記憶するための文書記憶手段と、
    前記複数の回答文書各々の特徴量を抽出するための特徴量抽出手段と、
    前記特徴量に基づき、前記複数の回答文書を、互いに近似した特徴量を持つ文書を要素とする複数のクラスタに分類するためのクラスタ分類手段と、
    前記複数の質問文書の中から、前記利用者から与えられた利用者質問と合致する質問文書を検索するための質問文書検索手段と、
    前記検索された質問文書と当該質問文書に対応付けられた回答文書とを、当該回答文書が属するクラスタ中の他の回答文書とともに、検索結果として提示するためのインタフェース手段とを備え
    前記特徴量抽出手段は、前記文書記憶手段に記憶された複数の文書の各々の、キーワードとその重みとの組を要素とする特徴ベクトルを特徴量として抽出し、
    前記クラスタ分類手段は、前記複数の文書を、互いの特徴量の同一キーワードの重みの小さい方の和と、大きい方の和との比率の大きい文書を要素とする複数のクラスタに分類する情報検索システム。
  8. 請求項7記載の情報検索システムにおいて、
    前記インタフェース手段は、前記提示された検索結果の回答文書の中から前記利用者による回答文書の選択を受け付けるように構成され、
    前記利用者質問を前記選択された回答文書に対応付けて前記文書記憶手段に新たに記憶させるための文書更新手段を更に備えたことを特徴とする情報検索システム。
  9. 請求項8記載の情報検索システムにおいて、
    前記文書更新手段は、前記利用者質問と前記合致する質問文書との類似度が所定の値より低い場合に、前記利用者質問を前記選択された回答文書に対応付けて前記文書記憶手段に新たに記憶させるように構成されたことを特徴とする情報検索システム。
JP2001139609A 2000-05-17 2001-05-10 情報検索システム Expired - Fee Related JP3654850B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001139609A JP3654850B2 (ja) 2000-05-17 2001-05-10 情報検索システム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2000-145168 2000-05-17
JP2000145168 2000-05-17
JP2001139609A JP3654850B2 (ja) 2000-05-17 2001-05-10 情報検索システム

Publications (2)

Publication Number Publication Date
JP2002041573A JP2002041573A (ja) 2002-02-08
JP3654850B2 true JP3654850B2 (ja) 2005-06-02

Family

ID=26592051

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001139609A Expired - Fee Related JP3654850B2 (ja) 2000-05-17 2001-05-10 情報検索システム

Country Status (1)

Country Link
JP (1) JP3654850B2 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003030224A (ja) * 2001-07-17 2003-01-31 Fujitsu Ltd 文書クラスタ作成装置、文書検索システムおよびfaq作成システム
JP4142881B2 (ja) 2002-03-07 2008-09-03 富士通株式会社 文書類似度算出装置、クラスタリング装置および文書抽出装置
JP2003281285A (ja) * 2002-03-19 2003-10-03 Kuriputon:Kk 学習支援システム、該学習支援システムの質問回答方法及びコンピュータプログラム
JP2005258763A (ja) * 2004-03-11 2005-09-22 Ntt Data Corp 多変量データクラスタリング装置及びクラスタリングプログラム
JP4041080B2 (ja) * 2004-03-23 2008-01-30 東芝ソリューション株式会社 データ検索装置及びデータ検索プログラム
EP1959358A4 (en) 2005-12-05 2010-04-07 Sony Corp APPARATUS, METHOD AND PROGRAM FOR INFORMATION PROCESSING
JP4806773B2 (ja) * 2006-09-22 2011-11-02 国立大学法人横浜国立大学 対話型複数文書要約装置
JP5897240B2 (ja) * 2008-08-20 2016-03-30 株式会社ユニバーサルエンターテインメント 顧客対応システム、並びに会話サーバ
JP4915021B2 (ja) * 2008-09-10 2012-04-11 ヤフー株式会社 検索装置、および検索装置の制御方法
JP2011100380A (ja) * 2009-11-09 2011-05-19 Nec Soft Ltd ペルソナ作成支援装置およびペルソナ作成支援システム
JP6709748B2 (ja) * 2017-04-13 2020-06-17 日本電信電話株式会社 クラスタリング装置、回答候補生成装置、方法、及びプログラム
JP6442807B1 (ja) * 2018-06-15 2018-12-26 カラクリ株式会社 対話サーバ、対話方法及び対話プログラム
JP7139728B2 (ja) 2018-06-29 2022-09-21 富士通株式会社 分類方法、装置、及びプログラム
JP6857754B2 (ja) * 2020-01-27 2021-04-14 日本電信電話株式会社 回答候補生成装置、回答候補生成方法、及びプログラム
EP4328762A1 (en) 2021-04-23 2024-02-28 Fujitsu Limited Information processing program, information processing method, and information processing device

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11134364A (ja) * 1997-10-31 1999-05-21 Omron Corp 体系化知識解析方法及び装置並びに分類方法及び装置
JPH11275137A (ja) * 1998-03-23 1999-10-08 Hitachi Information Systems Ltd 電子メール管理支援方法およびそのプログラム記録媒体
JPH11296552A (ja) * 1998-04-13 1999-10-29 Ricoh Co Ltd 文書分類装置、文書分類方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2000020541A (ja) * 1998-07-03 2000-01-21 Nec Corp 問題解決支援システム
JP2000105768A (ja) * 1998-09-28 2000-04-11 Nippon Telegr & Teleph Corp <Ntt> 問合わせ文書の特徴量計算装置および方法
JP2000123028A (ja) * 1998-10-13 2000-04-28 Mitsubishi Electric Corp 手順ベースヘルプデスクシステム、事例検索方法および事例検索装置

Also Published As

Publication number Publication date
JP2002041573A (ja) 2002-02-08

Similar Documents

Publication Publication Date Title
KR20010105241A (ko) 정보검색 시스템
CN103678576B (zh) 基于动态语义分析的全文检索系统
US6564210B1 (en) System and method for searching databases employing user profiles
JP3654850B2 (ja) 情報検索システム
JP3918531B2 (ja) 類似文書検索方法およびシステム
US20070185901A1 (en) Creating Taxonomies And Training Data For Document Categorization
CN111949758A (zh) 医疗问答推荐方法、推荐系统和计算机可读存储介质
JP5232260B2 (ja) 話題抽出装置及びプログラム
US20110295857A1 (en) System and method for aligning and indexing multilingual documents
CN108595525B (zh) 一种律师信息处理方法和系统
US20030004932A1 (en) Method and system for knowledge repository exploration and visualization
KR20090033989A (ko) 위치정보를 기반으로 한 지역정보 광고 방법과 상기 방법을수행하기 위한 시스템
JP2003016089A (ja) 情報検索システム及びサーバ
CN108681548B (zh) 一种律师信息处理方法和系统
KR101355945B1 (ko) 온라인 문맥기반 광고 장치 및 방법
CN112559684A (zh) 一种关键词提取及信息检索方法
KR100396826B1 (ko) 정보검색에서 질의어 처리를 위한 단어 클러스터 관리장치 및 그 방법
JP2013020439A (ja) 同義語抽出システム、方法およびプログラム
JP3820878B2 (ja) 情報検索装置,スコア決定装置,情報検索方法,スコア決定方法及びプログラム記録媒体
JP4967133B2 (ja) 情報取得装置、そのプログラム及び方法
JP2003271609A (ja) 情報監視装置及び情報監視方法
EP0822503A1 (en) Document retrieval system
JP2006227823A (ja) 情報処理装置及びその制御方法
JP3583631B2 (ja) 情報マイニング方法、情報マイニング装置、および情報マイニングプログラムを記録したコンピュータ読み取り可能な記録媒体
CN110688559A (zh) 一种检索方法及装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040511

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040708

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040803

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041004

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20041007

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050105

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050222

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050301

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080311

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090311

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100311

Year of fee payment: 5

LAPS Cancellation because of no payment of annual fees