JP2004318528A - 情報抽出システム、文書抽出システム、情報抽出プログラム及び文書抽出プログラム、並びに情報抽出方法及び文書抽出方法 - Google Patents

情報抽出システム、文書抽出システム、情報抽出プログラム及び文書抽出プログラム、並びに情報抽出方法及び文書抽出方法 Download PDF

Info

Publication number
JP2004318528A
JP2004318528A JP2003111983A JP2003111983A JP2004318528A JP 2004318528 A JP2004318528 A JP 2004318528A JP 2003111983 A JP2003111983 A JP 2003111983A JP 2003111983 A JP2003111983 A JP 2003111983A JP 2004318528 A JP2004318528 A JP 2004318528A
Authority
JP
Japan
Prior art keywords
document
redundancy
setting
information
document data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003111983A
Other languages
English (en)
Other versions
JP4356347B2 (ja
Inventor
Naoki Kayahara
直樹 萱原
Hirotaka Ohashi
洋貴 大橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2003111983A priority Critical patent/JP4356347B2/ja
Publication of JP2004318528A publication Critical patent/JP2004318528A/ja
Application granted granted Critical
Publication of JP4356347B2 publication Critical patent/JP4356347B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Abstract

【課題】内容の重複を排除することについてユーザの希望に適合した情報抽出を行うことができ、作業に要するコストを低減するのに好適な情報抽出システムを提供する。
【解決手段】複数の文書データを登録した文書データ登録DB12と、冗長度を設定する冗長度設定部22と、抽出される文書データの冗長度が冗長度設定部22で設定した冗長度以下となるように文書データ登録DB12のなかから文書データを抽出する文書データ抽出部20と、冗長度設定部22で設定されるであろう設定値と文書データ抽出部20で抽出される抽出文書量との関係を表示する設定支援案内表示部28とを備える。
【選択図】 図1

Description

【0001】
【発明の属する技術分野】
本発明は、ニュース等の文書をユーザの好みに応じて自動的に配信する文書配信システム等に係り、特に、内容の重複を排除することについてユーザの希望に適合した情報抽出を行うことができ、作業に要するコストを低減するのに好適な情報抽出システム、文書抽出システム、情報抽出プログラムおよび文書抽出プログラム、並びに情報抽出方法および文書抽出方法に関する。
【0002】
【従来の技術】
ユーザごとにカスタマイズが可能な情報配信システムは、ユーザがフィルタリング条件を設定し、リアルタイムで送られてくるニュース等の各種情報(以下、文字情報を主体とした文書という。)のなかからコンピュータが自動的にその設定されたフィルタリング条件に合う文書のみを抽出してユーザに配信する形態が一般的である。
【0003】
このような形態の文書配信システムの場合、フィルタリング条件によっては、配信される文書が偏りすぎたり、また、同じような内容の文書が繰り返し送られてくるといった問題点がある。特に、後者の問題点に関しては、文書の内容が重複することにより、配信される情報に無駄が多くなったり、文書掲載スペースが限られている場合には他の重要な文書がカットされてしまう等の不都合を招き、文書配信システム自体の利便性や信頼性等を大きく損なう結果となる。
【0004】
そのため、このような文書の重複配信を防止すべく必要な文書のみを効率的に抽出するためのフィルタリング、または分類技術が極めて重要となっている。これらに関する従来技術としては、例えば、以下の特許文献1ないし3に示すような技術が提案されている。
特許文献1(特開平10−275160号公報)には、すべての文書にキーワードを付与し、そのキーワードから文書をベクトル化し、ある文書Aが他の文書Bに包含されているときに最大値をとるような類似度評価尺度を導入して、代表文書、従属文書、独立文書等を認識して適宜関係のある文書をまとめる等の技術が開示されている。
【0005】
特許文献2(特開平9−101990号公報)には、ユーザが指定した検索条件と情報との類似度を算出し、類似度順に一定数の記事または一定の閾値以上の記事を抽出する技術が開示されている。
特許文献3(特開2000−148770号公報)には、分類対象となる文書の特徴量を計算し、それら各特徴量の類似度を求めたのち、数学的、統計的なクラスタ分析によって文書を分類する等の技術が開示されている。
【0006】
【特許文献1】
特開平10−275160号公報
【特許文献2】
特開平9−101990号公報
【特許文献3】
特開2000−148770号公報
【0007】
【発明が解決しようとする課題】
このように、特許文献1ないし3記載の技術にあってはいずれも、情報を関連付けてユーザに提示するために、クラスタリング手法またはグルーピング手法により関連性の高い情報をグループ化するようになっている。
ところで、ユーザごとにカスタマイズが可能な情報配信システムでは、関連性の高い記事をグループ化するだけでは足りず、グループ化した記事のなかから、ユーザの希望に添って配信対象となる記事を抽出しなければならない。例えば、ユーザが許容できる重複の範囲内で記事を配信する場合、各ユーザごとに重複の許容範囲を設定しておき、関連の高い記事をグループ化したのちは、記事の内容の重複がユーザの許容範囲内となるようにグループ化した記事のなかから配信対象となる記事を抽出することが必要である。
【0008】
ユーザが重複の許容範囲を設定する場合、例えば、冗長度というような指標を設定し、配信候補の記事の冗長度を定量的に算出するとともに、ユーザが設定した冗長度以下となるように、グループ化した記事のなかから配信対象となる記事を抽出するという構成が考えられる。ところが、配信候補の記事の量が一定である場合、冗長性を排除しようとすると抽出される記事量(記事のデータ量または記事の数)が少なくなり、逆に、抽出される記事量を多くしようとすると冗長性が高くなるという関係がある。したがって、冗長度を設定する場合、ユーザは、自己の設定内容によって抽出される記事量がどのように影響を受けるかを設定時に把握することができれば、ユーザにとって使い勝手がよい。すなわち、記事量が多少少なくなっても冗長性をできるだけ排除したいといった要望(冗長性優先型)や、逆に、冗長性が多少高くなっても記事量をできるだけ多くしたいといった要望(記事量優先型)に応えることが可能となる。
【0009】
しかしながら、特許文献1ないし3記載の技術にあってはいずれも、クラスタリング手法またはグルーピング手法により関連性の高い情報を単にグループ化するだけにすぎず、ユーザのこうした要望に添って重複の許容範囲を設定することはできない。
また、特許文献1ないし3記載の技術にあってはいずれも、グループ化する手法までは開示されているものの、グループ化したのちに情報を抽出する手法までは開示されていない。したがって、内容の重複を排除することについてユーザの希望に適合した情報抽出を行うことができないという問題があった。
【0010】
また、特許文献1記載の技術にあっては、すべての文書にキーワード等の特徴を付与する必要性があるが、すべての文書に対してキーワードを付与する作業には多くのコストがかかる。
そこで、本発明は、このような従来の技術の有する未解決の課題に着目してなされたものであって、内容の重複を排除することについてユーザの希望に適合した情報抽出を行うことができ、作業に要するコストを低減するのに好適な情報抽出システム、文書抽出システム、情報抽出プログラムおよび文書抽出プログラム、並びに情報抽出方法および文書抽出方法を提供することを目的としている。
【0011】
【課題を解決するための手段】
〔発明1〕
上記目的を達成するために、発明1の情報抽出システムは、
抽出対象となる複数の情報のなかから情報を抽出するシステムであって、
情報量を設定する情報量設定手段と、抽出される情報の情報量が前記情報量設定手段で設定した情報量以下または以上となるように前記複数の情報のなかから情報を抽出する情報抽出手段と、前記情報量設定手段で設定されるであろう設定値と前記情報抽出手段で抽出される抽出情報量との関係を出力する設定支援案内出力手段とを備えることを特徴とする。
【0012】
このような構成であれば、設定支援案内出力手段により、情報量の設定値と抽出情報量との関係が出力される。この出力を受けて、ユーザは、自己の設定内容によって抽出情報量がどのように影響を受けるかを把握しやすくなるので、自己の要望に添った比較的適切な情報量を情報量設定手段で設定することができる。情報量設定手段で情報量が設定されると、情報抽出手段により、抽出される情報の情報量が設定の情報量以下または以上となるように、複数の情報のなかから情報が抽出される。
【0013】
これにより、ユーザは、自己の設定内容によって抽出情報量がどのように影響を受けるかを把握しやすくなるので、自己の要望に添った比較的適切な情報量を設定することができるという効果が得られる。
〔発明2〕
さらに、発明2の情報抽出システムは、
抽出対象となる複数の情報のなかから情報を抽出するシステムであって、
冗長度を設定する冗長度設定手段と、抽出される情報の冗長度が前記冗長度設定手段で設定した冗長度以下となるように前記複数の情報のなかから情報を抽出する情報抽出手段と、前記冗長度設定手段で設定されるであろう設定値と前記情報抽出手段で抽出される抽出情報量との関係を出力する設定支援案内出力手段とを備えることを特徴とする。
【0014】
このような構成であれば、設定支援案内出力手段により、冗長度の設定値と抽出情報量との関係が出力される。この出力を受けて、ユーザは、自己の設定内容によって抽出情報量がどのように影響を受けるかを把握しやすくなるので、自己の要望(例えば、冗長度優先型または情報量優先型)に添った比較的適切な冗長度を冗長度設定手段で設定することができる。冗長度設定手段で冗長度が設定されると、情報抽出手段により、抽出される情報の冗長度が設定の冗長度以下となるように、複数の情報のなかから情報が抽出される。
【0015】
これにより、ユーザは、自己の設定内容によって抽出情報量がどのように影響を受けるかを把握しやすくなるので、自己の要望に添った比較的適切な冗長度を設定することができる。また、類似度が大きい情報同士は選択されにくくなるので、内容が類似するような情報を重複して抽出する可能性を低減することができる。したがって、従来に比して、内容の重複を排除することについてユーザの希望に比較的適合した情報抽出を行うことができるという効果が得られる。
【0016】
ここで、情報には、文書データのほか、画像データ、音楽データまたはその他の種別のデータが含まれる。以下、発明17の情報抽出プログラム、および発明19の情報抽出方法において同じである。
また、抽出情報量には、抽出される情報のデータ量または情報の数が含まれる。以下、発明17の情報抽出プログラム、および発明19の情報抽出方法において同じである。
【0017】
また、設定支援案内出力手段は、冗長度の設定値と抽出情報量との関係を出力するようになっていればどのような構成であってもよく、例えば、設定値と抽出情報量とを対応付けたものを1組または複数組出力するようになっていてもよいし、設定値の変化に対する抽出情報量の変化をグラフ形式等により出力するようになっていてもよい。以下、発明17の情報抽出プログラムにおいて同じである。
【0018】
また、設定支援案内出力手段は、冗長度の設定値と抽出情報量との関係を出力するようになっていればどのような構成であってもよく、例えば、冗長度の設定値と抽出情報量との関係を表示または印刷等により視覚的に出力するようになっていてもよいし、冗長度の設定値と抽出情報量との関係を所定の音声パターン等により聴覚的に出力するようになっていてもよい。その他、ユーザが知覚可能な方法であればいかなる方法により出力するようになっていてもよい。以下、発明17の情報抽出プログラムにおいて同じである。
【0019】
また、本システムは、単一の装置、端末その他の機器として実現するようにしてもよいし、複数の装置、端末その他の機器を通信可能に接続したネットワークシステムとして実現するようにしてもよい。後者の場合、各構成要素は、それぞれ通信可能に接続されていれば、複数の機器等のうちいずれに属していてもよい。以下、発明3および4の文書抽出システムにおいて同じである。
〔発明3〕
一方、上記目的を達成するために、発明3の文書抽出システムは、
抽出対象となる複数の文書のなかから文書を抽出するシステムであって、
冗長度を設定する冗長度設定手段と、抽出される文書の冗長度が前記冗長度設定手段で設定した冗長度以下となるように前記複数の文書のなかから文書を抽出する文書抽出手段と、前記冗長度設定手段で設定されるであろう設定値と前記文書抽出手段で抽出される抽出文書量との関係を出力する設定支援案内出力手段とを備えることを特徴とする。
【0020】
このような構成であれば、設定支援案内出力手段により、冗長度の設定値と抽出文書量との関係が出力される。この出力を受けて、ユーザは、自己の設定内容によって抽出文書量がどのように影響を受けるかを把握しやすくなるので、自己の要望(例えば、冗長度優先型または文書量優先型)に添った比較的適切な冗長度を冗長度設定手段で設定することができる。冗長度設定手段で冗長度が設定されると、文書抽出手段により、抽出される文書の冗長度が設定の冗長度以下となるように、複数の文書のなかから文書が抽出される。
【0021】
これにより、ユーザは、自己の設定内容によって抽出文書量がどのように影響を受けるかを把握しやすくなるので、自己の要望に添った比較的適切な冗長度を設定することができる。また、類似度が大きい文書同士は選択されにくくなるので、内容が類似するような文書を重複して抽出する可能性を低減することができる。したがって、従来に比して、内容の重複を排除することについてユーザの希望に比較的適合した文書抽出を行うことができるという効果が得られる。
【0022】
ここで、抽出文書量には、抽出される文書のデータ量または文書の数が含まれる。以下、発明4の文書抽出システム、発明18の文書抽出プログラム、および発明20の文書抽出方法において同じである。
また、設定支援案内出力手段は、冗長度の設定値と抽出文書量との関係を出力するようになっていればどのような構成であってもよく、例えば、設定値と抽出文書量とを対応付けたものを1組または複数組出力するようになっていてもよいし、設定値の変化に対する抽出文書量の変化をグラフ形式等により出力するようになっていてもよい。以下、発明4の文書抽出システム、および発明18の文書抽出プログラムにおいて同じである。
【0023】
また、設定支援案内出力手段は、冗長度の設定値と抽出文書量との関係を出力するようになっていればどのような構成であってもよく、例えば、冗長度の設定値と抽出文書量との関係を表示または印刷等により視覚的に出力するようになっていてもよいし、冗長度の設定値と抽出文書量との関係を所定の音声パターン等により聴覚的に出力するようになっていてもよい。その他、ユーザが知覚可能な方法であればいかなる方法により出力するようになっていてもよい。以下、発明4の文書抽出システム、および発明18の文書抽出プログラムにおいて同じである。
〔発明4〕
さらに、発明4の文書抽出システムは、
抽出対象となる複数の文書のなかから文書を抽出するシステムであって、
複数の文書データを記憶するための文書データ記憶手段と、冗長度を設定する冗長度設定手段と、抽出される文書データの冗長度が前記冗長度設定手段で設定した冗長度以下となるように前記文書データ記憶手段のなかから文書データを抽出する文書データ抽出手段と、前記冗長度設定手段で設定されるであろう設定値と前記文書データ抽出手段で抽出される抽出文書量との関係を出力する設定支援案内出力手段とを備えることを特徴とする。
【0024】
このような構成であれば、設定支援案内出力手段により、冗長度の設定値と抽出文書量との関係が出力される。この出力を受けて、ユーザは、自己の設定内容によって抽出文書量がどのように影響を受けるかを把握しやすくなるので、自己の要望(例えば、冗長度優先型または文書量優先型)に添った比較的適切な冗長度を冗長度設定手段で設定することができる。冗長度設定手段で冗長度が設定されると、文書データ抽出手段により、抽出される文書データの冗長度が設定の冗長度以下となるように、文書データ記憶手段のなかから文書データが抽出される。
【0025】
これにより、ユーザは、自己の設定内容によって抽出文書量がどのように影響を受けるかを把握しやすくなるので、自己の要望に添った比較的適切な冗長度を設定することができる。また、類似度が大きい文書同士は選択されにくくなるので、内容が類似するような文書を重複して抽出する可能性を低減することができる。したがって、従来に比して、内容の重複を排除することについてユーザの希望に比較的適合した文書抽出を行うことができるという効果が得られる。
【0026】
ここで、文書データ記憶手段は、文書データをあらゆる手段でかつあらゆる時期に記憶するものであり、文書データをあらかじめ記憶してあるものであってもよいし、文書データをあらかじめ記憶することなく、本システムの動作時に外部からの入力等によって文書データを記憶するようになっていてもよい。
〔発明5〕
さらに、発明5の文書抽出システムは、発明4の文書抽出システムにおいて、
前記設定支援案内出力手段は、前記冗長度設定手段の設定可能範囲内で前記設定値を変化させた場合にその設定値の変化に対する前記抽出文書量の変化を出力するようになっていることを特徴とする。
【0027】
このような構成であれば、設定支援案内出力手段により、冗長度設定手段の設定可能範囲内で設定値を変化させた場合にその設定値の変化に対する抽出文書量の変化が出力される。
これにより、ユーザは、自己の設定内容によって抽出文書量がどのように影響を受けるかをさらに把握しやすくなる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができるという効果も得られる。
〔発明6〕
さらに、発明6の文書抽出システムは、発明5の文書抽出システムにおいて、
さらに、前記設定値と前記抽出文書量との関係を示す設定支援情報を記憶するための設定支援情報記憶手段を備え、
前記設定支援案内出力手段は、前記設定支援情報記憶手段の設定支援情報に基づいて前記設定値と前記抽出文書量との関係を出力するようになっていることを特徴とする。
【0028】
このような構成であれば、設定支援案内出力手段により、設定支援情報記憶手段の設定支援情報に基づいて設定値と抽出文書量との関係が出力される。
これにより、設定値に比較的適合した抽出文書量が出力されるので、ユーザは、自己の設定内容によって抽出文書量がどのように影響を受けるかをさらに把握しやすくなる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができるという効果も得られる。
【0029】
ここで、設定支援情報記憶手段は、設定支援情報をあらゆる手段でかつあらゆる時期に記憶するものであり、設定支援情報をあらかじめ記憶してあるものであってもよいし、設定支援情報をあらかじめ記憶することなく、本システムの動作時に外部からの入力等によって設定支援情報を記憶するようになっていてもよい。
〔発明7〕
さらに、発明7の文書抽出システムは、発明5の文書抽出システムにおいて、
さらに、前記文書データ抽出手段の抽出結果に基づいて前記設定値と前記抽出文書量との関係を示す設定支援情報を生成する設定支援情報生成手段を備え、
前記設定支援案内出力手段は、前記設定支援情報生成手段で生成した設定支援情報に基づいて前記設定値と前記抽出文書量との関係を出力するようになっていることを特徴とする。
【0030】
このような構成であれば、設定支援情報生成手段により、文書データ抽出手段の抽出結果に基づいて設定値と抽出文書量との関係を示す設定支援情報が生成され、設定支援案内出力手段により、生成された設定支援情報に基づいて設定値と抽出文書量との関係が出力される。
これにより、設定値に比較的適合した抽出文書量が出力されるので、ユーザは、自己の設定内容によって抽出文書量がどのように影響を受けるかをさらに把握しやすくなる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができるという効果も得られる。
〔発明8〕
さらに、発明8の文書抽出システムは、発明4ないし7のいずれかの文書抽出システムにおいて、
さらに、前記文書データ記憶手段の文書データについてそれら文書データ相互間の類似度を算出する類似度算出手段と、前記類似度算出手段で算出した類似度に基づいて前記文書データ記憶手段の文書データを階層的に分類する文書データ分類手段とを備え、
前記文書データ抽出手段は、抽出される文書データの冗長度が前記冗長度設定手段で設定した冗長度以下となるように、前記文書データ分類手段で分類した文書データ群のなかから所定の分類規則に基づいて前記文書データを抽出するようになっていることを特徴とする。
【0031】
このような構成であれば、類似度算出手段により、文書データ記憶手段の文書データについてそれら文書データ相互間の類似度が算出され、文書データ分類手段により、算出された類似度に基づいて文書データ記憶手段の文書データが階層的に分類される。そして、文書データ抽出手段により、抽出される文書データの冗長度が設定の冗長度以下となるように、分類された文書データ群のなかから所定の分類規則に基づいて文書データが抽出される。
【0032】
これにより、類似度が大きい文書同士はさらに選択されにくくなるので、内容が類似するような文書を重複して抽出する可能性をさらに低減することができる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができるという効果も得られる。また、文書の抽出に際しては各文書にキーワードを付与する等の作業を要しないので、従来に比して、その作業に要するコストを低減することができるという効果も得られる。
〔発明9〕
さらに、発明9の文書抽出システムは、発明8の文書抽出システムにおいて、
前記文書データ分類手段は、前記類似度算出手段で算出した類似度に基づいて、前記文書データを分類したときの分類間の距離であって分類間の類似度が大きいものほど距離が小さくなるクラスタ間距離を算出し、算出したクラスタ間距離に基づいて、類似度が大きい文書データ同士ほど近い階層となるように、前記文書データ記憶手段の文書データを階層的に分類するようになっており、
前記文書データ抽出手段は、前記文書データ分類手段で分類した階層構造のうち階層下のクラスタ間距離に相当する冗長度が前記冗長度設定手段で設定した冗長度以下となる点を特定し、特定した点の階層下の文書データを前記文書データ群のなかから抽出するようになっていることを特徴とする。
【0033】
このような構成であれば、文書データ分類手段により、算出された類似度に基づいて、文書データを分類したときの分類間のクラスタ間距離が算出され、算出されたクラスタ間距離に基づいて、類似度が大きい文書データ同士ほど近い階層となるように、文書データ記憶手段の文書データが階層的に分類される。そして、文書データ抽出手段により、分類された階層構造のうち階層下のクラスタ間距離に相当する冗長度が設定の冗長度以下となる点が特定され、特定された点の階層下の文書データが文書データ群のなかから抽出される。
【0034】
これにより、各文書データをその類似度に応じて比較的適切に分類・抽出することができるので、内容が類似するような文書を重複して抽出する可能性をさらに低減することができる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができるという効果も得られる。
〔発明10〕
さらに、発明10の文書抽出システムは、発明8および9のいずれかの文書抽出システムにおいて、
前記文書データ分類手段は、クラスタリング手法またはグルーピング手法により前記文書データ記憶手段の文書データを階層的に分類するようになっていることを特徴とする。
【0035】
このような構成であれば、文書データ分類手段により、クラスタリング手法またはグルーピング手法により文書データ記憶手段の文書データが階層的に分類される。
これにより、各文書データをその類似度に応じて比較的適切に分類することができるので、内容が類似するような文書を重複して抽出する可能性をさらに低減することができる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができるという効果も得られる。
〔発明11〕
さらに、発明11の文書抽出システムは、発明8ないし10のいずれかの文書抽出システムにおいて、
さらに、ユーザに関するユーザ情報を記憶するためのユーザ情報記憶手段と、前記ユーザ情報記憶手段のユーザ情報に基づいて前記文書データ記憶手段のなかから複数の文書データを選択する文書データ選択手段とを備え、
前記類似度算出手段および前記文書データ分類手段は、前記文書データ選択手段で選択した文書データを対象として前記類似度の算出および前記文書データの分類を行うようになっていることを特徴とする。
【0036】
このような構成であれば、文書データ選択手段により、ユーザ情報記憶手段のユーザ情報に基づいて文書データ記憶手段のなかから複数の文書データが選択される。次いで、類似度算出手段により、選択された文書データについてそれら文書データ相互間の類似度が算出され、文書データ分類手段により、算出された類似度に基づいて、選択された文書データが階層的に分類される。そして、文書データ抽出手段により、分類された文書データ群のなかから所定の分類規則に基づいて文書データが抽出される。
【0037】
これにより、ユーザの希望に適合した内容の文書データが選択されたのちに、そのなかから類似度が大きい文書データが除外されるので、ユーザの好みによる偏りを大きくし、情報の均一性よりもユーザの好みを重視した文書抽出を行うことができるという効果も得られる。例えば、幅広い情報よりも自己の好みに適合した情報を求めているユーザに対しては、好適な情報提供を行うことができる。
【0038】
ここで、ユーザ情報記憶手段は、ユーザ情報をあらゆる手段でかつあらゆる時期に記憶するものであり、ユーザ情報をあらかじめ記憶してあるものであってもよいし、ユーザ情報をあらかじめ記憶することなく、本システムの動作時に外部からの入力等によってユーザ情報を記憶するようになっていてもよい。以下、発明12の文書抽出システムにおいて同じである。
〔発明12〕
さらに、発明12の文書抽出システムは、発明8ないし10のいずれかの文書抽出システムにおいて、
さらに、ユーザに関するユーザ情報を記憶するためのユーザ情報記憶手段と、前記文書データ抽出手段で抽出した文書データ群のなかから前記ユーザ情報記憶手段のユーザ情報に基づいて文書データを選択する文書データ選択手段とを備えることを特徴とする。
【0039】
このような構成であれば、文書データ抽出手段により、分類された文書データ群のなかから所定の分類規則に基づいて文書データが抽出され、文書データ選択手段により、ユーザ情報記憶手段のユーザ情報に基づいて、抽出された文書データ群のなかから文書データが選択される。
これにより、類似度が大きい文書データが除外されたのちに、そのなかからユーザの希望に適合した内容の文書データが選択されるので、ユーザの好みによる偏りを小さくし、ユーザの好みよりも情報の均一性を重視した文書抽出を行うことができるという効果も得られる。例えば、自己の好みに適合した情報よりも幅広い情報を求めているユーザに対しては、好適な情報提供を行うことができる。
〔発明13〕
さらに、発明13の文書抽出システムは、発明8ないし12のいずれかの文書抽出システムにおいて、
前記類似度算出手段は、前記文書データ記憶手段の各文書データの文書を所定の文字要素に分割する文書分割手段と、前記文書分割手段で分割した文字要素の出現頻度に基づいて前記文書データ記憶手段の各文書データについて文書ベクトルを生成する文書ベクトル生成手段と、前記文書ベクトル生成手段で生成した文書ベクトルに基づいて前記文書データ記憶手段の文書データ相互間の類似度を算出するベクトル演算類似度算出手段とを有することを特徴とする。
【0040】
このような構成であれば、文書分割手段により、文書データ記憶手段の各文書データの文書が所定の文字要素に分割され、文書ベクトル生成手段により、分割された文字要素の出現頻度に基づいて文書データ記憶手段の各文書データについて文書ベクトルが生成される。そして、ベクトル演算類似度算出手段により、生成された文書ベクトルに基づいて文書データ記憶手段の文書データ相互間の類似度が算出される。
【0041】
これにより、各文書データ相互間の類似度を比較的適切に算出することができるので、内容が類似するような文書を重複して抽出する可能性をさらに低減することができる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができるという効果も得られる。
ここで、文字要素は、文字列を含むほか、単一の文字も含まれる。単一の文字としては、例えば、助詞(「の」、「は」、「が」、「に」、「を」、「や」)がある。
【0042】
また、文書ベクトル生成手段は、文字要素の出現頻度に基づいて文書ベクトルを生成するようになっていればどのような構成であってもよく、例えば、文字要素の出現頻度から文書ベクトルを直接生成するようになっていてもよいし、文字要素の出現頻度から中間生成物(例えば、他のベクトル)を生成し、生成した中間生成物から文書ベクトルを生成するようになっていてもよい。
〔発明14〕
さらに、発明14の文書抽出システムは、発明13の文書抽出システムにおいて、
前記文書分割手段は、形態素解析、n−gramおよびストップワードのいずれかの文字要素分割方式を用いて前記文書データ記憶手段の各文書データの文書を所定の文字要素に分割するようになっていることを特徴とする。
【0043】
このような構成であれば、文書分割手段により、形態素解析、n−gramおよびストップワードのいずれかの文字要素分割方式を用いて文書データ記憶手段の各文書データの文書が所定の文字要素に分割される。
形態素解析、n−gramおよびストップワードといった文字列分割方式は、従来から多用されている信頼性に優れた方式であり、これらを本発明の文書分割手段として用いることにより、各文書を比較的適切に文字要素に分割できることは勿論、これらいずれかの方式を用いることにより様々な形態の文書にも対応することができるという効果も得られる。
〔発明15〕
さらに、発明15の文書抽出システムは、発明13および14のいずれかの文書抽出システムにおいて、
前記文書ベクトル生成手段は、前記文字要素が出現する文書における当該文字要素の出現頻度、および前記複数の文書における前記文字要素の出現頻度に基づいて、前記文書データ記憶手段の各文書データについてTFIDFで重み付けした文書ベクトルを生成するようになっていることを特徴とする。
【0044】
このような構成であれば、文書ベクトル生成手段により、文字要素が出現する文書におけるその文字要素の出現頻度、および複数の文書における文字要素の出現頻度に基づいて、文書データ記憶手段の各文書データについてTFIDFで重み付けした文書ベクトルが生成される。
各文書の文書ベクトルを生成するに際し、分割された文字要素の出現頻度をそのまま用いてもよいが、TFIDFという文字要素の重要度を反映した公知の重み付け方法を用いると各文書の特徴を反映した文書ベクトルを生成することができる。そのため、各文書データ相互間の類似度をさらに適切に算出することができるので、内容が類似するような文書を重複して抽出する可能性をさらに低減することができる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができるという効果も得られる。
〔発明16〕
さらに、発明16の文書抽出システムは、発明13ないし15のいずれかの文書抽出システムにおいて、
前記ベクトル演算類似度算出手段は、前記文書ベクトル生成手段で生成した文書ベクトルに基づいてベクトル空間法により文書データ相互間の類似度を算出するようになっていることを特徴とする。
【0045】
このような構成であれば、ベクトル演算類似度算出手段により、生成された文書ベクトルに基づいてベクトル空間法により文書データ相互間の類似度が算出される。
各文書データ相互間の類似度を算出する方式としてベクトル空間法を用いれば、2つの文書ベクトルの類似度は2つのベクトルのなす角の余弦値(0〜1)として定量的に表現することが可能となり、文書抽出をより的確に行うことが可能となるという効果も得られる。
〔発明17〕
一方、上記目的を達成するために、発明17の情報抽出プログラムは、
抽出対象となる複数の情報のなかから情報を抽出するプログラムであって、
冗長度を設定する冗長度設定手段、抽出される情報の冗長度が前記冗長度設定手段で設定した冗長度以下となるように前記複数の情報のなかから情報を抽出する情報抽出手段、および前記冗長度設定手段で設定されるであろう設定値と前記情報抽出手段で抽出される抽出情報量との関係を出力する設定支援案内出力手段として実現される処理をコンピュータに実行させるためのプログラムであることを特徴とする。
【0046】
このような構成であれば、コンピュータによってプログラムが読み取られ、読み取られたプログラムに従ってコンピュータが処理を実行すると、発明2の情報抽出システムと同等の作用および効果が得られる。
〔発明18〕
一方、上記目的を達成するために、発明18の文書抽出プログラムは、
抽出対象となる複数の文書のなかから文書を抽出するプログラムであって、
冗長度を設定する冗長度設定手段、抽出される文書の冗長度が前記冗長度設定手段で設定した冗長度以下となるように前記複数の文書のなかから文書を抽出する文書抽出手段、および前記冗長度設定手段で設定されるであろう設定値と前記文書抽出手段で抽出される抽出文書量との関係を出力する設定支援案内出力手段として実現される処理をコンピュータに実行させるためのプログラムであることを特徴とする。
【0047】
このような構成であれば、コンピュータによってプログラムが読み取られ、読み取られたプログラムに従ってコンピュータが処理を実行すると、発明3の文書抽出システムと同等の作用および効果が得られる。
〔発明19〕
一方、上記目的を達成するために、発明19の情報抽出方法は、
抽出対象となる複数の情報のなかから情報を抽出する方法であって、
設定支援に関する案内を出力する設定支援案内出力ステップと、冗長度を設定する冗長度設定ステップと、抽出される情報の冗長度が前記冗長度設定ステップで設定した冗長度以下となるように前記複数の情報のなかから情報を抽出する情報抽出ステップとを含み、
前記設定支援案内出力ステップは、前記冗長度設定ステップでの設定に先立って、前記冗長度設定ステップで設定されるであろう設定値と前記情報抽出ステップで抽出される抽出情報量との関係を出力することを特徴とする。
【0048】
これにより、発明2の情報抽出システムと同等の効果が得られる。
ここで、設定支援案内出力ステップは、冗長度の設定値と抽出情報量との関係を出力すればどのような方法であってもよく、例えば、設定値と抽出情報量とを対応付けたものを1組または複数組出力してもよいし、設定値の変化に対する抽出情報量の変化をグラフ形式等により出力してもよい。
【0049】
また、設定支援案内出力ステップは、冗長度の設定値と抽出情報量との関係を出力すればどのような方法であってもよく、例えば、冗長度の設定値と抽出情報量との関係を表示または印刷等により視覚的に出力してもよいし、冗長度の設定値と抽出情報量との関係を所定の音声パターン等により聴覚的に出力してもよい。その他、ユーザが知覚可能な方法であればいかなる方法により出力してもよい。
〔発明20〕
一方、上記目的を達成するために、発明20の文書抽出方法は、
抽出対象となる複数の文書のなかから文書を抽出する方法であって、
設定支援に関する案内を出力する設定支援案内出力ステップと、冗長度を設定する冗長度設定ステップと、抽出される文書の冗長度が前記冗長度設定ステップで設定した冗長度以下となるように前記複数の文書のなかから文書を抽出する文書抽出ステップとを含み、
前記設定支援案内出力ステップは、前記冗長度設定ステップでの設定に先立って、前記冗長度設定ステップで設定されるであろう設定値と前記文書抽出ステップで抽出される抽出文書量との関係を出力することを特徴とする。
【0050】
これにより、発明3の文書抽出システムと同等の効果が得られる。
ここで、設定支援案内出力ステップは、冗長度の設定値と抽出文書量との関係を出力すればどのような方法であってもよく、例えば、設定値と抽出文書量とを対応付けたものを1組または複数組出力してもよいし、設定値の変化に対する抽出文書量の変化をグラフ形式等により出力してもよい。
【0051】
また、設定支援案内出力ステップは、冗長度の設定値と抽出文書量との関係を出力すればどのような方法であってもよく、例えば、冗長度の設定値と抽出文書量との関係を表示または印刷等により視覚的に出力してもよいし、冗長度の設定値と抽出文書量との関係を所定の音声パターン等により聴覚的に出力してもよい。その他、ユーザが知覚可能な方法であればいかなる方法により出力してもよい。
【0052】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照しながら説明する。図1ないし図22は、本発明に係る情報抽出システム、文書抽出システム、情報抽出プログラムおよび文書抽出プログラム、並びに情報抽出方法および文書抽出方法の実施の形態を示す図である。
【0053】
本実施の形態は、本発明に係る情報抽出システム、文書抽出システム、情報抽出プログラムおよび文書抽出プログラム、並びに情報抽出方法および文書抽出方法を、図1に示すように、内容の重複が少ない複数の文書をユーザに提供する場合について適用したものである。
まず、本発明に係る文書抽出装置10の構成を図1を参照しながら説明する。
【0054】
図1は、本発明に係る文書抽出装置10の実施の一形態を示したものである。
文書抽出装置10は、図1に示すように、複数の文書データを登録する文書データ登録データベース(以下、データベースのことを単にDBと略記する。)12と、文書データ登録DB12の文書データについてそれら文書データ相互間の類似度を算出する類似度算出部14と、類似度算出部14で算出した類似度に基づいて文書データ登録DB12の文書データを階層的に分類する文書データ分類部16と、ユーザ情報を登録したユーザ情報登録DB18と、文書データ分類部16で分類した文書データ群のなかからユーザ情報登録DB18のユーザ情報に基づいて文書データを抽出する文書データ抽出部20と、冗長度を設定する冗長度設定部22と、設定支援情報を生成する設定支援情報生成部24と、設定支援情報を登録する設定支援情報登録DB26と、冗長度設定部22で冗長度を設定する際に参考となる支援案内を表示する設定支援案内表示部28とで構成されている。
【0055】
文書データ登録DB12は、インターネット等の情報通信網内にある情報供給源Sから供給されるいくつかの情報をそれぞれ文書データとして登録するようになっている。
文書データ分類部16は、類似度算出部14で算出した類似度に基づいて、文書データを分類したときの分類(クラスタ)間の距離であってクラスタ間の類似度が大きいものほど距離が小さくなるクラスタ間距離を算出し、算出したクラスタ間距離に基づいて、類似度が大きい文書データ同士ほど近い階層となるように、文書データ登録DB12の文書データを階層的に分類するようになっている。階層的分類手法としては、例えば、従来のクラスタリング手法やグルーピング手法を採用することができるが、本実施の形態では、クラスタリング手法により文書データを分類する。
【0056】
文書データ抽出部20は、ユーザ情報登録DB18のユーザ情報に基づいて、文書データ分類部16で分類した階層構造のうち階層下のクラスタ間距離に相当する冗長度が所定値(ユーザ設定の冗長度)以下となる点を特定し、特定した点の階層下の文書データを文書データ群のなかから抽出するようになっている。
類似度算出部14は、図1に示すように、文書データ登録DB12の各文書データの文書を所定の文字列に分割する文書分割部30と、文書分割部30で分割した文字列の出現頻度に基づいて文書データ登録DB12の各文書データについて文書ベクトルを生成する文書ベクトル生成部32と、文書ベクトル生成部32で生成した文書ベクトルに基づいて文書データ登録DB12の文書データ相互間の類似度を算出するベクトル演算類似度算出部34とで構成されている。
【0057】
類似度算出部14は、まず、文書データ登録DB12から選択した各文書データの文書を文書分割部30によって文字列ごとに分割したのち、分割した各文字列の出現頻度を文書ベクトル生成部32によって算出して各文書データの文書ベクトルを生成する。その後、文書ベクトル生成部32で得られた各文書ベクトル相互の類似度をベクトル演算類似度算出部34によって算出する。
【0058】
冗長度設定部22は、ユーザからの入力により、ユーザが許容できる重複の範囲の上限値(冗長度)を設定し、設定した冗長度を含むユーザ情報をユーザ情報登録DB18に登録するようになっている。
設定支援情報生成部24は、ユーザ情報登録DB18のユーザ情報および文書データ抽出部20の抽出結果に基づいて、冗長度設定部22で設定されるであろう設定値と文書データ抽出部20で抽出される抽出文書量との関係を示す設定支援情報を生成し、生成した設定支援情報を設定支援情報登録DB26に登録するようになっている。
【0059】
設定支援案内表示部28は、ユーザからの要求により、設定支援情報登録DB26の設定支援情報に基づいて、冗長度設定部22の設定可能範囲内で設定値を変化させた場合にその設定値の変化に対する抽出文書量の変化を表示するようになっている。
文書抽出装置10は、図2に示すような構成をしたコンピュータ100により実現されることになる。
【0060】
図2は、コンピュータ100の構成を示すブロック図である。
コンピュータ100は、図2に示すように、制御プログラムに基づいて演算および装置全体を制御するCPU50と、所定領域にあらかじめCPU50の制御プログラム等を格納しているROM52と、ROM52等から読み出したデータやCPU50の演算過程で必要な演算結果を格納するためのRAM54と、外部装置に対してデータの入出力を媒介するI/F58とで構成されており、これらは、データを転送するための信号線であるバス59で相互にかつデータ授受可能に接続されている。
【0061】
I/F58には、外部装置として、データ入力が可能なキーボードやマウス等からなる入力装置60と、画像信号に基づいて画面を表示する表示装置64と、文書データ登録DB12と、ユーザ情報登録DB18とが接続されている。
文書データ登録DB12は、例えば、ハードディスク等の外部記憶装置であり、インターネット等の情報供給源Sから所定の情報が定期的にまたは随時供給されるようになっている。
【0062】
CPU50は、マイクロプロセッシングユニット(MPU)等からなり、ROM52の所定領域に格納されている文書抽出プログラムを起動させ、そのプログラムに従って、類似度算出部14、文書データ分類部16および文書データ抽出部20として実現される文書データ抽出処理(図8)を実行するようになっている。
【0063】
次に、本実施の形態の動作を説明する。
図1に示すように、まず、文書データ登録DB12には、情報供給源Sからユーザの好みに対応した内容の文書データが一定の時間ごとまたは不定期に供給されて一時的に蓄積され、その文書データ数が所定数に達したとき、または保存時間が一定時間経過したならば、一旦、その蓄積された文書データのすべてが類似度算出部14に送られ、ここで各文書データ相互間の類似度が算出される。
【0064】
まず、類似度算出部14に送られてきた各文書データは、文書分割部30によってその文書が文字列に分割される。
図3は、形態素解析による文字列分割の一例を示す図である。
文字列の分割方式(手法)は、特に限定されるものではないが、例えば、図3に示すように、各文書D〜Dを文字列に分割するに際して形態素解析を用いた場合は、形態素解析辞書を参照しながら文法的な区切りで文字列(単語)に分割することができる。ここで、形態素解析には、様々な手法があり、辞書の善し悪しによっても結果は異なるが、例えば、図3の「無線/の/セキュリティ/が/話題/に/なっ/ている/。/…」等のように、名詞、動詞、形容詞助詞、助動詞等の単語に分けることができる。また、形態素解析は、分割の精度がよいが、以前では精度を維持するために辞書の作成やメンテナンスにコストが掛かるといった欠点があったが、最近では、長年十分に作り込まれてきた辞書が資産として使えるため、コストの問題も次第に解消されてきており、現在最もよく使われる文字列分割方法である。ただし、形態素解析は、日本語用の辞書は日本語に限って使用できるものであり、英語や中国語などの他の言語にはその言語用の辞書が必要になるといった不利な面もある。
【0065】
また、各文書D〜Dを文字列に分割するに際して形態素解析ではなく、一定間隔ごとに文字列を切っていくn−gramという文字列分割方式を用いることも可能である。
図4は、n−gramによる文字列分割の一例を示す図である。
n−gram方式を用いた場合、文書は、図4に示すように分割される。すなわち、n−gramの「n」とは何バイトごと(または何文字ごと)かを表す数字で、図4の場合では、2文字ごとなので2−gramと書くことができる。ただし、日本語などの2バイト文字の場合、2文字=4バイトなので4−gramと書く場合もあるかもしれないが、ここでは、その数字の正確さは問題とするところではない。n−gramは、意味のある単語を塊として切り出すことは困難であるが、分割したものをそのまま統計的に処理するだけであれば必ずしも意味のある単語が塊になっている必要がない場合もある。また、n−gramは、形態素解析に比べてアルゴリズムが単純でどの言語に対しても使えるというメリットがある。
【0066】
また、各文書D〜Dを文字列に分割するに際して形態素解析およびn−gramではなく、ストップワードという文字列分割方式を用いることも可能である。
図5は、ストップワードによる文字列分割の一例を示す図である。
ストップワード方式とは、文書のなかで切れ目となる文字や規則を登録し、それに従って分割していく方法である。例えば、図5に示す例では、▲1▼助詞だと思われる「の」「は」「が」「に」「を」「や」、▲2▼句読点「、」「。」、▲3▼漢字、カタカナ、アルファベット等の字種の変わり目、等といった3つのルールのいずれかが成立するところで分割したものである。なお、ストップワードは、ある程度意味のある単語を抜き出すことが可能であるが、「情報通信技術」等といった長い熟語や「インターネットテクノロジー」等といった長いカタカナの複合語などは分割できないという問題もある。また、英語であれば、▲1▼スペース、▲2▼カンマ、ピリオド、コロン、セミコロン、その他の記号、▲3▼アルファベット、数字、記号などの字種の変わり目等といったルールをもとに、単語の活用形を落とすステミングという手法を使うことである程度の文字列分割を行うことができる。
【0067】
このように、文書分割部30によってすべての文書D〜Dについての文字列分割が行われたならば、次に、文書ベクトル生成部32によって文字列頻度を算出し、図6に示すような文字列−文書行列を作成する。
図6は、文字列−文書行列を示す図である。
図7は、形態素解析による文字列分割結果を示す図である。
【0068】
文字列−文書行列は、図6に示すように、各文書D〜Dとユニークな文字列T〜Tとの対応関係を示したものであり、各文字列T〜Tが各文書D〜Dのなかに何回出現するかを数え、それを示したものである。例えば、文字列分割方式として形態素解析を用いた分割結果の場合では、図7に示すように、文書Dのなかには「無線」(網掛け文字)という文字列(T)は3回出現しており、そのW11に相当する行列の要素は、その出現回数をそのまま用いた場合では「3」となる。
【0069】
ここで、Wmnに相当する行列の各要素は、文字列の出現回数をそのまま用いてもよいが、TFIDFという文字列の重要度を反映した重み付け方法を用いると、各文書の特徴をよく表現した文書ベクトルが生成できることが知られており、後の相互類似度算出で活用することができる。
すなわち、TFIDFは、下式(1)に示すように、ある文書D内での文字列Tの出現頻度(TF:Term Frequency)と、文書集合全体で文字列Tが出現する文書数の頻度を逆数(IDF:Inverse Document Frequency)の積で求め、数値が大きいほどその文字列Tが重要であることを表すものである。TFは、頻出する文字列は重要であるという指標であり、ある文書中に文字列が出現する頻度が増加すると大きくなる性質を持っている。IDFは、多くの文書中に出現する文字列は重要でない、つまり特定の文書に出現する文字列が重要であるという指標であり、ある文字列が使われている文書数が減少すると大きくなるという性質を持っている。したがって、TFIDFの値は、特定の文書に頻繁に出現する文字列に対しては大きくなる性質を持っており、逆に、頻繁に出現するが多くの文書に出現する文字列(接続詞や助詞等)や、特定の文書にのみ出現しその文書に低頻度で出現する文字列に対しては小さくなる性質を持っている。TFIDFによって文書中の文字列は数値化され、文字列の重要度を加味したその数値を要素として文書をベクトル化することができる。
【0070】
【数1】
Figure 2004318528
【0071】
図8は、文書データ抽出処理の一部を示すフローチャートである。
文書データ抽出処理は、図8に示すように、まず、ステップS100に移行するようになっている。なお、図8のフローチャートに示す処理は、文書データ抽出処理のうち類似度算出部14として実現される処理である。
ステップS100では、文書データ登録DB12に登録された文書データが一つずつ選択され、ステップS102に移行して、選択された各文書データの文書が文字列ごとに分割され、ステップS104に移行する。
【0072】
ステップS104では、文書と文字列との対応関係を示す文字列−文書行列に文字列の頻度情報が記憶され、ステップS106に移行して、文書データ登録DB12に未処理の文書データが残っているか否かが判定され、未処理の文書データが残っていると判定されたとき(Yes)は、その文書データが選択されて同様な処理が行われ、すべての文書データがなくなるまでこれが繰り返される。
【0073】
一方、ステップS106で、文書データ登録DB12に未処理の文書データが残っていないと判定されたとき(No)は、ステップS108に移行して、完成した文字列−文書行列の頻度情報を基にTFIDFによって重み付けし直した文字列−文書行列が生成される。これにより、すべての文書データは、それらに出現するユニークな文字列の数と同じ次元(数千〜数十万)の文書ベクトルとして表現できることになる。
【0074】
このように、すべての文書データがベクトル化されたならば、ベクトル演算類似度算出部34によって各文書データ相互間の類似度が算出される。具体的には、ベクトル演算類似度算出部34は、公知のベクトル空間法を採用するものであり、TFIDFによって求められた各文書ベクトルは、ベクトル空間法によって相互の類似度が定義されることになる。すなわち、対比する2つの文書ベクトルの類似度は、図9に示すように、2つのベクトルのなす角θの余弦値(0〜1)として定義することができることから、文書データ同士の類似度は、図10に示すような対称行列で表現できる。
【0075】
図9は、文書ベクトルおよびその相関関係を示す図である。
図10および図11は、文書−文書間の対称行列を示す図である。
その後、その対称行列をもとに類似情報のグルーピングやカットを行うことで類似文書を除外した文書抽出が実現可能となる。例えば、図10のような対称行列では、図11に示すように、文書Dと文書Dの類似度が「0.9」、文書Dと文書Dの類似度が「0.3」というように各文書データ相互間の類似度が定量的に示される。
【0076】
このように、類似度算出部14によって各文書データ相互間の類似度が定量的に求められたならば、文書データ分類部16により、類似度算出部14で算出された類似度に基づいてクラスタリング手法により文書データ登録DB12の文書データが階層的に分類される。
クラスタリング手法は、多変量を統計的に分析する一手法である。文書ベクトルD〜Dは、多次元空間(ユニークな文字列の数と同じ次元数であり、一般には1万〜十万次元)空間内での一点を指しているとも考えられるので、それぞれの文書ベクトル同士には距離を定義することができる。その距離が、文書D〜Dを分類したときのクラスタ間距離である。クラスタ間距離の定義方法として、例えば、従来の最短距離法、最長距離法、群平均法、重心法、メジアン法、ウォード法を採用することができるが、本実施の形態では、重心法を用いて文書−文書間の対称行列からクラスタ分析を行う。なお、クラスタ間距離は、クラスタ間の類似度ではなく距離なので、図12に示すように、0〜1に正規化されている類似度に対して「1−類似度」の関係となる。
【0077】
図12は、図11の文書−文書間の類似度の対称行列をクラスタ間距離に変換したものである。
次に、クラスタ間距離に変換した図12の場合を例にとって文書D〜Dを分類する場合を説明する。
最も類似しているクラスタp,qを統合して新たなクラスタtを構成した場合、クラスタtと他のクラスタrとのクラスタ間距離Strは、下式(2)により算出することができる。
【0078】
【数2】
Figure 2004318528
【0079】
上式(2)において、Sprはクラスタp,rのクラスタ間距離、Sqrはクラスタq,rのクラスタ間距離、Spqはクラスタp,qのクラスタ間距離である。また、npはクラスタpに含まれる文書数、nqはクラスタqに含まれる文書数、nrはクラスタrに含まれる文書数である。
図13および図14は、文書D〜Dが属するクラスタのクラスタ間距離を算出する場合を説明するための図である。
【0080】
まず、図12に示すように、文書D〜Dのうち文書D,Dが距離「0.1」と最も近いので、その2つを統合して新たなクラスタD’を構成する。クラスタD’と他のクラスタとのクラスタ間距離は、p=D、q=D、t=D’として上式(2)により算出される。
クラスタD’と他のクラスタ(文書D)とのクラスタ間距離St3は、図13に示すように、上式(2)により「0.8」となる。また、クラスタD’と他のクラスタ(文書D)とのクラスタ間距離St4は、図13に示すように、上式(2)により「0.375」となる。
【0081】
次に、図13に示すように、クラスタD’とクラスタDが距離「0.3」と最も近いので、その2つのクラスタを統合して新たなクラスタD’’を構成する。クラスタD’’と他のクラスタとのクラスタ間距離は、p=D’、q=D、t=D’’として上式(2)により算出される。
クラスタD’’と他のクラスタ(文書D)とのクラスタ間距離St3は、図14に示すように、上式(2)により「0.85」となる。
【0082】
図15は、クラスタ分析によって構成された文書D〜Dの階層構造を示す図である。
これにより、文書D〜Dは、図15に示すように、階層的に分類されることになる。
このように、文書データ分類部16によって文書D〜Dが階層的に分類されたならば、文書データ抽出部20により、文書データ分類部16で分類された文書データ群のなかからユーザ情報登録DB18のユーザ情報に基づいて文書データが抽出される。
【0083】
図16は、文書データ分類部16で分類した文書データ群のなかから文書データを抽出する場合を説明するための図である。
ここで、ユーザA,Bが設定した冗長度は、ユーザAが「0.7」、ユーザBが「0.4」であるとする。つまり、ユーザAは、ある程度重複は許容してもよいと考えているが、ユーザBは、あまり重複は許容しないと考えている。
【0084】
ユーザBの許容する冗長度は「0.4」なので、ユーザBに対しては、図16の階層構造との関係から、文書D,D,Dのうちいずれかと、文書Dとの2つの文書を提供すればよいことが分かる。つまり、文書D,D,Dのクラスタと、文書Dのクラスタとはそれだけ十分に離れている(内容的に類似してない)ということになる。
【0085】
具体的に、文書D〜DのなかからユーザBに提供する文書を選択する方法を図17を参照しながら詳細に説明する。
図17は、文書D〜DのなかからユーザBに提供する文書を選択する場合を説明するための図である。
まず、ユーザBが設定している冗長度「0.4」に対して、図17の階層構造との交点を求めると、文書Dのクラスタから伸びている線と、文書D,D,Dのクラスタから伸びている線の2つに交わることが分かる。この時点で、文書Dが確定となり、残りは文書D,D,Dから1つ選択するということにする。
【0086】
既に文書Dが確定しているので、類似度算出部14の結果である図11の文書−文書間の対称行列から、文書Dと、残る文書D,D,Dとの類似度との関係で判断する。基本的に、文書D,D,Dからどれでも1つ選べば冗長度「0.4」以下という大枠の要求はクリアしていることになる。仮に、ユーザBが冗長度「0.4」以下で、さらにできるだけ冗長度を低くということを希望している属性が設定可能で、それを設定していたとすれば、文書Dと最も類似度の低い文書Dを選択する。
【0087】
また、場合によっては、必ずしも冗長度の低いものばかりを選択するとは限らない。ある程度の冗長度を排除しながらも、ある程度の関連性をもった文書を選択することも可能である。図17の例では、まず、文書Dを選択することで冗長度「0.4」以下という条件を満たしているため、そのなかで可能な限りる類似している文書(D,D)を選択すれば、可能な限り冗長性を排除することができるとともに、可能な限り設定した冗長度に近い文書選択が可能になる。図17の例では、文書Dの類似度と、文書D,Dの類似度が等しいため、どれか1つに絞るための明確な例とはならないが、実際には、何百〜何十万超の次元の文書ベクトルを扱うので、同値になる可能性はほとんどなく、多くの場合、数値的な大小で上述の2つの方法(冗長度を小さくする選択方法および設定した冗長度に近くする選択方法)で文書選択が可能となる。
【0088】
一方、ユーザAの許容する冗長度は「0.7」なので、ユーザAに対しては、図16の階層構造との関係から、文書D,Dのうちいずれかと、文書D,Dとの3つの文書を提供すればよいことが分かる。つまり、文書D,Dのクラスタと、文書Dのクラスタと、文書Dのクラスタとはそれだけ十分に離れている(内容的に類似してない)ということになる。文書D,Dのクラスタからどれを選択するかについては、例えば、ランダムでもよいし、より重複の少ない組み合わせにするのであれば、図11の文書−文書間の対称行列から、文書D,Dとの類似度が小さいものを選択すればよい。
【0089】
この場合、文書Dを選択すると、文書Dとは「0.3」、文書Dとは「0.5」となり、文書Dを選択すると、文書Dとは「0.2」、文書Dとは「0.8」となるので、単純に類似度の総和で考えるなら文書Dを選択する。文書Dを選択すると、既に選択されている文書D,Dとの類似度の総和が小さくなる。また、図16の例では、結果が変わらない場合もあるが、図11に示すように、既に選択されている文書Dとの関係で類似度が最大値となる文書Dを避けて文書Dを選択するとか、逆に、既に選択されている文書Dとの関係で類似度が最小値となる文書Dを選択するとか、様々に考えられる。
【0090】
具体的に、文書D〜DのなかからユーザAに提供する文書を選択する方法を図18を参照しながら詳細に説明する。
図18は、文書D〜DのなかからユーザAに提供する文書を選択する場合を説明するための図である。
まず、ユーザAが設定している冗長度「0.7」に対して、図18の階層構造との交点を求めると、文書Dのクラスタから伸びている線と、文書Dのクラスタから伸びている線と、文書D,Dのクラスタから伸びている線の3つに交わることが分かる。この時点で、文書D,Dが確定となり、残りは文書D,Dから1つ選択するということになる。
【0091】
文書D,Dが確定しているので、文書D,Dのうちいずれかおよび文書D,Dを含む3つの文書の組み合わせについて冗長度を算出し、取り得るすべての組み合わせのなかから、算出した冗長度が所定値以下となる組み合わせを決定し、決定した組み合わせとなるように残りの1つを選択する。
文書D,Dのいずれかおよび文書D,Dの組み合わせは、(D,D,D)および(D,D,D)の2通りであるが、冗長度は、各組み合わせにごとに、その組み合わせの文書群のなかから2個の文書を選択した場合のすべての組み合わせについての類似度を総和し、その値を平均したものを冗長度として算出する。
【0092】
第1に、(D,D,D)の組み合わせについてそのなかから2個の文書を選択する場合は、(D,D)、(D,D)および(D,D)の3通りである。そして、それぞれの類似度は、図11に示すように、「0.3」、「0.5」および「0.3」であるので、それらの総和は、「1.1」となる。したがって、その平均値は、「0.37」となり、この値が(D,D,D)の組み合わせについての冗長度として算出される。
【0093】
第2に、(D,D,D)の組み合わせについてそのなかから2個の文書を選択する場合は、(D,D)、(D,D)および(D,D)の3通りである。そして、それぞれの類似度は、図11に示すように、「0.2」、「0.8」および「0.3」であるので、それらの総和は、「1.3」となる。したがって、その平均値は、「0.43」となり、この値が(D,D,D)の組み合わせについての冗長度として算出される。
【0094】
ここで、ユーザAが設定した冗長度は、「0.7」であるので、(D,D,D)および(D,D,D)の組み合わせはユーザAにとって許容範囲内である。したがって、ユーザAには、文書D〜Dのうちそれらの組み合わせのものを提供するのが望ましい。この場合、冗長度が低いものを選択するのであれば、文書Dを選択し、設定された冗長度に近いものを選択するのであれば、文書Dを選択すればよい。
【0095】
次に、ユーザが冗長度を設定する場合を説明する。
ユーザが冗長度を設定する場合、設定に慣れたユーザにとっては、自己の要望に添った適切な冗長度を設定することができるが、設定に不慣れなユーザにとっては、自己の設定内容によって抽出文書量がどのように影響を受けるかを把握できていないので、自己の要望に添った適切な冗長度を設定することが困難である。そこで、本実施の形態では、ユーザの要求に応じて支援案内を表示することによりユーザの設定を支援する。
【0096】
図19は、冗長度の設定画面を示す図である。
ユーザが冗長度の設定を要求すると、図19に示すような設定画面が表示される。図19の設定画面には、冗長度を入力するテキストボックス300と、支援案内の表示を要求するボタン302と、冗長度の登録を要求するボタン304とが配置されている。ユーザは、まず、冗長度の設定に先立ってボタン302をマウス等でクリックすると、設定支援案内表示部28により、設定支援情報登録DB26の設定支援情報に基づいて、冗長度設定部22の設定可能範囲内で設定値を変化させた場合にその設定値の変化に対する抽出文書量の変化が表示される。設定支援情報登録DB26には、設定支援情報が登録されているが、これは、設定支援情報生成部24により、他のユーザが設定した冗長度と、その冗長度に基づいて文書データ抽出部20で抽出された抽出文書量との関係が設定支援情報として設定支援情報登録DB26に登録される。
【0097】
ユーザは、この表示を参考にすれば、自己の設定内容によって抽出文書量がどのように影響を受けるかを把握することができるので、設定に不慣れなユーザであっても、自己の要望に添った適切な冗長度を設定することができる。
図20は、文書データ分類部16で文書データを階層的に分類した分類結果の一例を示す図である。
【0098】
例えば、図20の分類結果においては、文書D1と文書D2でクラスタD12を構成し、文書D3と文書D4でクラスタD34を構成し、クラスタD12とクラスタD34でクラスタD14を構成し、クラスタD14と文書D5でクラスタD15を構成している。また、文書D7と文書D8でクラスタD78を構成し、クラスタD78と文書D6でクラスタD68を構成している。さらに、クラスタD15とクラスタD68でクラスタD18を構成している。
【0099】
図21は、設定値と文書数との関係をスライドバー形式により表示した図である。
図20の場合に、ユーザは、図19の設定画面においてボタン302をクリックすると、図21に示すように、冗長度設定部22の設定可能範囲内で設定値を変化させた場合にその設定値の変化に対する抽出文書量の変化がスライドバー形式により表示される。図21の例では、冗長度を「0」、「0.1」、「0.2」、「0.3」、「0.4」、「0.5」、「0.6」、「0.7」、「0.8」、「0.9」および「1.0」に設定した場合は、0個、0個、2個、2個、2個、4個、4個、5個、6個、8個および8個の文書がそれぞれ抽出されることを示している。
【0100】
ユーザは、スライドバーを操作しながら所望の冗長度にスライドさせ、ボタン306をクリックすると、図19の設定画面においてスライドバーによる設定値がテキストボックス300に入力される。そして、ボタン304をクリックすることにより冗長度を設定する。
図22は、設定値と文書数との関係をグラフ形式により表示した図である。
【0101】
また、図21に限らず、図22に示すように、冗長度設定部22の設定可能範囲内で設定値を変化させた場合にその設定値の変化に対する抽出文書量の変化をグラフにより表示することも可能である。図22の場合の方が設定値と文書量との関係をより視覚的に把握することができる。
同様に、ユーザは、スライドバーを操作しながら所望の冗長度にスライドさせ、ボタン306をクリックすると、図19の設定画面においてスライドバーによる設定値がテキストボックス300に入力される。そして、ボタン304をクリックすることにより冗長度を設定する。
【0102】
このようにして、本実施の形態では、複数の文書データを登録した文書データ登録DB12と、冗長度を設定する冗長度設定部22と、抽出される文書データの冗長度が冗長度設定部22で設定した冗長度以下となるように文書データ登録DB12のなかから文書データを抽出する文書データ抽出部20と、冗長度設定部22で設定されるであろう設定値と文書データ抽出部20で抽出される抽出文書量との関係を表示する設定支援案内表示部28とを備える。
【0103】
これにより、ユーザは、自己の設定内容によって抽出文書量がどのように影響を受けるかを把握しやすくなるので、自己の要望に添った比較的適切な冗長度を設定することができる。また、類似度が大きい文書同士は選択されにくくなるので、内容が類似するような文書を重複して抽出する可能性を低減することができる。したがって、従来に比して、内容の重複を排除することについてユーザの希望に比較的適合した文書抽出を行うことができる。
【0104】
さらに、本実施の形態では、設定支援案内表示部28は、冗長度設定部22の設定可能範囲内で設定値を変化させた場合にその設定値の変化に対する抽出文書量の変化を表示するようになっている。
これにより、ユーザは、自己の設定内容によって抽出文書量がどのように影響を受けるかをさらに把握しやすくなる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができる。
【0105】
さらに、本実施の形態では、設定値と抽出文書量との関係を示す設定支援情報を登録する設定支援情報登録DB26を備え、設定支援案内表示部28は、設定支援情報登録DB26の設定支援情報に基づいて設定値と抽出文書量との関係を表示するようになっている。
これにより、設定値に比較的適合した抽出文書量が表示されるので、ユーザは、自己の設定内容によって抽出文書量がどのように影響を受けるかをさらに把握しやすくなる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができる。
【0106】
さらに、本実施の形態では、文書データ抽出部20の抽出結果に基づいて設定値と抽出文書量との関係を示す設定支援情報を生成する設定支援情報生成部24を備え、設定支援案内表示部28は、設定支援情報生成部24で生成した設定支援情報に基づいて設定値と抽出文書量との関係を表示するようになっている。
これにより、設定値に比較的適合した抽出文書量が表示されるので、ユーザは、自己の設定内容によって抽出文書量がどのように影響を受けるかをさらに把握しやすくなる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができる。
【0107】
さらに、本実施の形態では、複数の文書データを登録した文書データ登録DB12と、文書データ登録DB12の文書データについてそれら文書データ相互間の類似度を算出する類似度算出部14と、類似度算出部14で算出した類似度に基づいて文書データ登録DB12の文書データを階層的に分類する文書データ分類部16と、文書データ分類部16で分類した文書データ群のなかから所定の分類規則に基づいて文書データを抽出する文書データ抽出部20とを備える。
【0108】
これにより、類似度が大きい文書同士はさらに選択されにくくなるので、内容が類似するような文書を重複して抽出する可能性をさらに低減することができる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができる。また、文書の抽出に際しては各文書にキーワードを付与する等の作業を要しないので、従来に比して、その作業に要するコストを低減することができる。
【0109】
さらに、本実施の形態では、文書データ分類部16は、類似度算出部14で算出した類似度に基づいて、文書データを分類したときのクラスタ間距離を算出し、算出したクラスタ間距離に基づいて、類似度が大きい文書データ同士ほど近い階層となるように、文書データ登録DB12の文書データを階層的に分類するようになっており、文書データ抽出部20は、文書データ分類部16で分類した階層構造のうち階層下のクラスタ間距離に相当する冗長度が所定値以下となる点を特定し、特定した点の階層下の文書データを文書データ群のなかから抽出するようになっている。
【0110】
これにより、各文書データをその類似度に応じて比較的適切に分類・抽出することができるので、内容が類似するような文書を重複して抽出する可能性をさらに低減することができる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができる。
さらに、本実施の形態では、文書データ分類部16は、クラスタリング手法またはグルーピング手法により文書データ登録DB12の文書データを階層的に分類するようになっている。
【0111】
これにより、各文書データをその類似度に応じて比較的適切に分類することができるので、内容が類似するような文書を重複して抽出する可能性をさらに低減することができる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができる。
さらに、本実施の形態では、類似度算出部14は、文書データ登録DB12の各文書データの文書を所定の文字列に分割する文書分割部30と、文書分割部30で分割した文字列の出現頻度に基づいて文書データ登録DB12の各文書データについて文書ベクトルを生成する文書ベクトル生成部32と、文書ベクトル生成部32で生成した文書ベクトルに基づいて文書データ登録DB12の文書データ相互間の類似度を算出するベクトル演算類似度算出部34とを有する。
【0112】
これにより、各文書データ相互間の類似度を比較的適切に算出することができるので、内容が類似するような文書を重複して抽出する可能性をさらに低減することができる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができる。
さらに、本実施の形態では、文書分割部30は、形態素解析、n−gramおよびストップワードのいずれかの文字列分割方式を用いて文書データ登録DB12の各文書データの文書を所定の文字列に分割するようになっている。
【0113】
形態素解析、n−gramおよびストップワードといった文字列分割方式は、従来から多用されている信頼性に優れた方式であり、これらを本発明の文書分割部30として用いることにより、各文書を比較的適切に文字列に分割できることは勿論、これらいずれかの方式を用いることにより様々な形態の文書にも対応することができる。
【0114】
さらに、本実施の形態では、文書ベクトル生成部32は、文字列が出現する文書におけるその文字列の出現頻度、および複数の文書における文字列の出現頻度に基づいて、文書データ登録DB12の各文書データについてTFIDFで重み付けした文書ベクトルを生成するようになっている。
各文書の文書ベクトルを生成するに際し、分割された文字列の出現頻度をそのまま用いてもよいが、TFIDFという文字列の重要度を反映した公知の重み付け方法を用いると各文書の特徴を反映した文書ベクトルを生成することができる。そのため、各文書データ相互間の類似度をさらに適切に算出することができるので、内容が類似するような文書を重複して抽出する可能性をさらに低減することができる。したがって、内容の重複を排除することについてユーザの希望にさらに適合した文書抽出を行うことができる。
【0115】
さらに、本実施の形態では、ベクトル演算類似度算出部34は、文書ベクトル生成部32で生成した文書ベクトルに基づいてベクトル空間法により文書データ相互間の類似度を算出するようになっている。
各文書データ相互間の類似度を算出する方式としてベクトル空間法を用いれば、2つの文書ベクトルの類似度は2つのベクトルのなす角の余弦値(0〜1)として定量的に表現することが可能となり、文書抽出をより的確に行うことが可能となる。
【0116】
上記実施の形態において、文書データ登録DB12は、発明4、8ないし10、13ないし15の文書データ記憶手段に対応し、類似度算出部14は、発明8、9または13の類似度算出手段に対応し、文書データ分類部16は、発明8ないし10の文書データ分類手段に対応している。また、文書データ抽出部20は、発明1、2若しくは17の情報抽出手段、発明3若しくは18の文書抽出手段、または発明4、7ないし9の文書データ抽出手段に対応し、文書データ抽出部20による抽出は、発明19の情報抽出ステップ、または発明20の文書抽出ステップに対応している。
【0117】
また、上記実施の形態において、冗長度設定部22は、発明2ないし5、8、9、17若しくは18の冗長度設定手段、または発明1の情報量設定手段に対応し、冗長度設定部22による設定は、発明19または20の冗長度設定ステップに対応し、設定支援情報生成部24は、発明7の設定支援情報生成手段に対応している。また、設定支援情報登録DB26は、発明6の設定支援情報記憶手段に対応し、設定支援案内表示部28は、発明1ないし7、17または18の設定支援案内出力手段に対応し、設定支援案内表示部28による表示は、発明19または20の設定支援案内出力ステップに対応している。
【0118】
また、上記実施の形態において、文書分割部30は、発明13または14の文書分割手段に対応し、文書ベクトル生成部32は、発明13、15または16の文書ベクトル生成手段に対応し、ベクトル演算類似度算出部34は、発明13または16のベクトル演算類似度算出手段に対応している。
なお、上記実施の形態においては、文書の重複度合いについてのみユーザの好みを反映させるように構成したが、これに限らず、文書の内容についてもユーザの好みを反映させるように構成することもできる。具体的には、例えば、次の2つの構成を提案することができる。
【0119】
図23は、本発明に係る文書抽出装置10の他の実施の形態を示したものである。
文書抽出装置10は、図23に示すように、文書データ登録DB12と、ユーザ情報登録DB18と、ユーザ情報登録DB18のユーザ情報に基づいて文書データ登録DB12のなかから文書データを選択する文書データ選択部70と、文書データ選択部70で選択した文書データについてそれら文書データ相互間の類似度を算出する類似度算出部14と、類似度算出部14で算出した類似度に基づいて文書データ選択部70で選択した文書データを階層的に分類する文書データ分類部16と、ユーザ情報を登録したユーザ情報登録DB18と、文書データ分類部16で分類した文書データ群のなかからユーザ情報登録DB18のユーザ情報に基づいて文書データを抽出する文書データ抽出部20とで構成されている。
【0120】
これにより、ユーザの希望に適合した内容の文書データが選択されたのちに、そのなかから類似度が大きい文書データが除外されるので、ユーザの好みによる偏りを大きくし、情報の均一性よりもユーザの好みを重視した文書抽出を行うことができる。例えば、幅広い情報よりも自己の好みに適合した情報を求めているユーザに対しては、好適な情報提供を行うことができる。
【0121】
この場合において、文書データ登録DB12は、発明11の文書データ記憶手段に対応し、ユーザ情報登録DB18は、発明11のユーザ情報記憶手段に対応し、類似度算出部14は、発明11の類似度算出手段に対応し、文書データ分類部16は、発明11の文書データ分類手段に対応している。また、文書データ選択部70は、発明11の文書データ選択手段に対応している。
【0122】
図24は、本発明に係る文書抽出装置10の他の実施の形態を示したものである。
文書抽出装置10は、図24に示すように、文書データ登録DB12と、ユーザ情報登録DB18と、文書データ登録DB12の文書データについてそれら文書データ相互間の類似度を算出する類似度算出部14と、類似度算出部14で算出した類似度に基づいて文書データ登録DB12の文書データを階層的に分類する文書データ分類部16と、ユーザ情報を登録したユーザ情報登録DB18と、文書データ分類部16で分類した文書データ群のなかからユーザ情報登録DB18のユーザ情報に基づいて文書データを抽出する文書データ抽出部20と、文書データ抽出部20で抽出した文書データ群のなかからユーザ情報登録DB18のユーザ情報に基づいて文書データを選択する文書データ選択部70とで構成されている。
【0123】
これにより、類似度が大きい文書データが除外されたのちに、そのなかからユーザの希望に適合した内容の文書データが選択されるので、ユーザの好みによる偏りを小さくし、ユーザの好みよりも情報の均一性を重視した文書抽出を行うことができる。例えば、自己の好みに適合した情報よりも幅広い情報を求めているユーザに対しては、好適な情報提供を行うことができる。
【0124】
この場合において、ユーザ情報登録DB18は、発明12のユーザ情報記憶手段に対応し、文書データ抽出部20は、発明12の文書データ抽出手段に対応し、文書データ選択部70は、発明12の文書データ選択手段に対応している。
図23の構成を構成Aとし、図24の構成を構成Bとして、構成A,Bの違いについて詳細に説明する。
【0125】
ユーザAの文書データ選択のための属性として、ニュースカテゴリが「大リーグ」関係、それが少なければ上位の概念である「スポーツ」に選択範囲を広げる。そして、文書データ選択部70で選択されるニュースは5個と指定されているものとする。「大リーグ」や「スポーツ」は、キーワードが直接指定されていることをも含めて、キーワード群や、関連文章や、その他何らかの公知技術を使って情報カテゴリが指定されているものとする。冗長性排除の属性は、別途同様に設定されているものとするが、簡略化のため、以下の例で「重複」の欄に記事番号が書かれているものが、その記事と重複しており冗長性排除によって排除される候補であることを示している。
【0126】
図25および図26は、図23の構成と図24の構成との違いを説明するための図である。
図25および図26において、「適合度」とは、ユーザAが設定した情報カテゴリに、各記事がどれぐらい適合するかを文書データ選択部70によって計算した結果得られる数値である。「重複」の欄には、別途指定されている冗長性排除のための属性に従って計算した結果、その欄に書かれてある記事と重複しているため、排除される候補になることを示している。図25および図26の例では、記事1は記事3と重複しており、記事1の方が排除候補になるということを示している。
【0127】
この例では、構成A,Bの違いが、記事10があるかないかに現れている。これは、図25の例(構成A)では、よりユーザの嗜好を重視しよりその嗜好に偏った記事選択が行われるのに対して、図26の例(構成B)では、ユーザの嗜好を重視しながらも、それを逸脱しない範囲で冗長性が排除された記事選択が行われているといえる。
【0128】
この結果からは、通常は、冗長性を排除しながらも、情報量が指定した5つになる図26の例の方が好ましい構成と考えられる。図25の例は、絶対記事数が5以下になる可能性が大きい(数が保証される可能性が小さい)のに対して、図26の例は数が保証される可能性が大きい。ただし、適合度の判定、重複の判定に左右される可能性が大いにあり、一概にどちらがよいとはいえない。
【0129】
また、上記実施の形態において、文書D,Dのうちいずれかおよび文書D,Dを含む3つの文書の組み合わせについて冗長度を算出にあたって相加平均を用いているが、これに限らず、積をとって平方根等を求めその値を冗長度とする方法、各文書データ相互間の類似度のうち最大値または最小値を冗長度とする方法を採用することもできる。
【0130】
長方形の面積で、「縦+横」の長さが一定ならば正方形に近い方が面積が大きくなる原理と同じく、相乗平均は、相加平均と比較して以下のような特徴が挙げられる。
(a)文書データ相互間の類似度のばらつきが大きい組み合わせは、算出結果として小さくなる傾向がある。
(b)文書データ相互間の類似度のばらつきが小さい組み合わせは、算出結果として大きくなる(小さくならない)傾向がある。
例えば、上記実施の形態において3個の文書を選択する組み合わせについて、相加平均を用いて冗長度を算出した場合は、次のようになる。ここで、(1)は(D,D,D)についての計算結果であり、(2)は(D,D,D)についての計算結果である。
(1)(0.3+0.5+0.3)/3 = 0.37
(2)(0.2+0.8+0.3)/3 = 0.43
また、上記実施の形態において3個の文書を選択する組み合わせについて、相乗平均を用いて冗長度を算出した場合は、次のようになる。ここで、(1)は(D,D,D)についての計算結果であり、(2)は(D,D,D)についての計算結果である。
(1)3√(0.3*0.5*0.3) = 0.356
(2)3√(0.2*0.8*0.3) = 0.363
相加平均の(1)(2)と、相乗平均の(1)(2)の結果を比較すると(2)の結果がほぼ同じなのに対して、相乗平均の(1)の結果は、相加平均の(1)に比べて小さくなっている。これは、(2)が文書データ相互間の類似度にばらつきのある組み合わせであるためであって、相加平均では、1つの高い数値に平均が押し上げられる場合であっても、相乗平均の方法を用いれば、部分的に類似している程度の冗長性であれば影響を受けない結果となる。したがって、相加平均の場合は、一部にでも文書データ相互間の類似度の大きい組み合わせが混じっているとリニアに影響を受ける文書群の冗長性算出方法といえる。この方法を用いれば、大部分の文書データ相互間の類似度が大きい場合は、文書群の冗長性が大きいと判定するが、一部の文書データ相互間の類似度が大きいだけでは(つまり、類似していない文書も多数含まれている文書群の場合は)、冗長度が低いと判断する特徴を持つことになる。相加平均および相乗平均の場合はいずれも、冗長度が低いものを選択するのであれば、文書Dを選択し、設定された冗長度に近いものを選択するのであれば、文書Dを選択すればよい。
【0131】
また、上記実施の形態において3個の文書を選択する組み合わせについて、各文書データ相互間の類似度のうち最小値を用いて冗長度を算出した場合は、次のようになる。ここで、(1)は(D,D,D)についての計算結果であり、(2)は(D,D,D)についての計算結果である。
(1)min(0.3,0.5,0.3) = 0.3
(2)min(0.2,0.8,0.3) = 0.2
文書データ相互間の類似度の組み合わせのなかから、最小値をその文書群の冗長度とする方法である。ある文書群のなかに少なくとも冗長度の小さい組み合わせが存在する場合に小さくなる。言い換えれば、全部類似しているわけではなく、少なくとも何らかの特徴的な文書が含まれている場合に小さくなる指標といえる。これは、文書群の冗長性を全体的に表現する指標としては最適でないかもしれない。しかし、例えば、通常は、冗長度が大きいものばかりで、時々文書群のなかに混じってくる特徴的な文書を見逃さないようにするような局所的な指標が必要とされる場合に有効である。この場合、冗長度が低いものを選択するのであれば、文書Dを選択し、設定された冗長度に近いものを選択するのであれば、文書Dを選択すればよい。
【0132】
また、上記実施の形態において3個の文書を選択する組み合わせについて、各文書データ相互間の類似度のうち最大値を用いて冗長度を算出した場合は、次のようになる。ここで、(1)は(D,D,D)についての計算結果であり、(2)は(D,D,D)についての計算結果である。
(1)max(0.3,0.5,0.3) = 0.5
(2)max(0.2,0.8,0.3) = 0.8
文書データ相互間の類似度の組み合わせのなかから、最大値をその文書群の冗長度とする方法である。ある文書群のなかに少なくとも冗長度の大きい組み合わせが存在する場合に大きくなる。言い換えれば、少しでも類似している文書がある場合に大きくなる指標といえる。これは、文書群の冗長性を全体的に表現する指標としては最適でないかもしれない。しかし、例えば、少しでも冗長な文書の組み合わせは選択したくないときや、文書の冗長性はある閾値以下に完全に排除したいときなど、局所的な指標が必要とされる場合に有効である。この場合、冗長度が低いものを選択するのであれば、文書Dを選択し、設定された冗長度に近いものを選択するのであれば、文書Dを選択すればよい。
【0133】
また、上記実施の形態においては、文書ベクトル同士の距離を利用するように構成したが、これに限らず、文書ベクトル同士の角度(余弦値)を利用するように構成することもできる。
また、上記実施の形態において、図8のフローチャートに示す処理を実行するにあたっては、ROM52にあらかじめ格納されている制御プログラムを実行する場合について説明したが、これに限らず、これらの手順を示したプログラムが記憶された記憶媒体から、そのプログラムをRAM54に読み込んで実行するようにしてもよい。
【0134】
ここで、記憶媒体とは、RAM、ROM等の半導体記憶媒体、FD、HD等の磁気記憶型記憶媒体、CD、CDV、LD、DVD等の光学的読取方式記憶媒体、MO等の磁気記憶型/光学的読取方式記憶媒体であって、電子的、磁気的、光学的等の読み取り方法のいかんにかかわらず、コンピュータで読み取り可能な記憶媒体であれば、あらゆる記憶媒体を含むものである。
【0135】
また、上記実施の形態においては、本発明に係る情報抽出システム、文書抽出システム、情報抽出プログラムおよび文書抽出プログラム、並びに情報抽出方法および文書抽出方法を、図1に示すように、内容の重複が少ない複数の文書をユーザに提供する場合について適用したが、これに限らず、本発明の主旨を逸脱しない範囲で他の場合にも適用可能である。
【図面の簡単な説明】
【図1】本発明に係る文書抽出装置10の実施の一形態を示したものである。
【図2】コンピュータ100の構成を示すブロック図である。
【図3】形態素解析による文字列分割の一例を示す図である。
【図4】n−gramによる文字列分割の一例を示す図である。
【図5】ストップワードによる文字列分割の一例を示す図である。
【図6】文字列−文書行列を示す図である。
【図7】形態素解析による文字列分割結果を示す図である。
【図8】文書データ抽出処理の一部を示すフローチャートである。
【図9】文書ベクトルおよびその相関関係を示す図である。
【図10】文書−文書間の対称行列を示す図である。
【図11】文書−文書間の対称行列を示す図である。
【図12】図11の文書−文書間の類似度の対称行列をクラスタ間距離に変換したものである。
【図13】文書D〜Dが属するクラスタのクラスタ間距離を算出する場合を説明するための図である。
【図14】文書D〜Dが属するクラスタのクラスタ間距離を算出する場合を説明するための図である。
【図15】クラスタ分析によって構成された文書D〜Dの階層構造を示す図である。
【図16】文書データ分類部16で分類した文書データ群のなかから文書データを抽出する場合を説明するための図である。
【図17】文書D〜DのなかからユーザBに提供する文書を選択する場合を説明するための図である。
【図18】文書D〜DのなかからユーザAに提供する文書を選択する場合を説明するための図である。
【図19】冗長度の設定画面を示す図である。
【図20】文書データ分類部16で文書データを階層的に分類した分類結果の一例を示す図である。
【図21】設定値と文書数との関係をスライドバー形式により表示した図である。
【図22】設定値と文書数との関係をグラフ形式により表示した図である。
【図23】本発明に係る文書抽出装置10の他の実施の形態を示したものである。
【図24】本発明に係る文書抽出装置10の他の実施の形態を示したものである。
【図25】図23の構成と図24の構成との違いを説明するための図である。
【図26】図23の構成と図24の構成との違いを説明するための図である。
【符号の説明】
10…文書抽出装置,12…文書データ登録DB,14…類似度算出部,16…文書データ分類部,18…ユーザ情報登録DB,20…文書データ抽出部,
22…冗長度設定部,24…設定支援情報生成部,26…設定支援情報登録DB,28…設定支援案内表示部,30…文書分割部,32…文書ベクトル生成部,
34…ベクトル演算類似度算出部,50…CPU,52…ROM,54…RAM,58…I/F,60…入力装置,64…表示装置,70…文書データ選択部,
100…コンピュータ,D〜D…文書,S…情報供給源,300…テキストボックス,302〜306…ボタン

Claims (20)

  1. 抽出対象となる複数の情報のなかから情報を抽出するシステムであって、
    情報量を設定する情報量設定手段と、抽出される情報の情報量が前記情報量設定手段で設定した情報量以下又は以上となるように前記複数の情報のなかから情報を抽出する情報抽出手段と、前記情報量設定手段で設定されるであろう設定値と前記情報抽出手段で抽出される抽出情報量との関係を出力する設定支援案内出力手段とを備えることを特徴とする情報抽出システム。
  2. 抽出対象となる複数の情報のなかから情報を抽出するシステムであって、
    冗長度を設定する冗長度設定手段と、抽出される情報の冗長度が前記冗長度設定手段で設定した冗長度以下となるように前記複数の情報のなかから情報を抽出する情報抽出手段と、前記冗長度設定手段で設定されるであろう設定値と前記情報抽出手段で抽出される抽出情報量との関係を出力する設定支援案内出力手段とを備えることを特徴とする情報抽出システム。
  3. 抽出対象となる複数の文書のなかから文書を抽出するシステムであって、
    冗長度を設定する冗長度設定手段と、抽出される文書の冗長度が前記冗長度設定手段で設定した冗長度以下となるように前記複数の文書のなかから文書を抽出する文書抽出手段と、前記冗長度設定手段で設定されるであろう設定値と前記文書抽出手段で抽出される抽出文書量との関係を出力する設定支援案内出力手段とを備えることを特徴とする文書抽出システム。
  4. 抽出対象となる複数の文書のなかから文書を抽出するシステムであって、
    複数の文書データを記憶するための文書データ記憶手段と、冗長度を設定する冗長度設定手段と、抽出される文書データの冗長度が前記冗長度設定手段で設定した冗長度以下となるように前記文書データ記憶手段のなかから文書データを抽出する文書データ抽出手段と、前記冗長度設定手段で設定されるであろう設定値と前記文書データ抽出手段で抽出される抽出文書量との関係を出力する設定支援案内出力手段とを備えることを特徴とする文書抽出システム。
  5. 請求項4において、
    前記設定支援案内出力手段は、前記冗長度設定手段の設定可能範囲内で前記設定値を変化させた場合にその設定値の変化に対する前記抽出文書量の変化を出力するようになっていることを特徴とする文書抽出システム。
  6. 請求項5において、
    さらに、前記設定値と前記抽出文書量との関係を示す設定支援情報を記憶するための設定支援情報記憶手段を備え、
    前記設定支援案内出力手段は、前記設定支援情報記憶手段の設定支援情報に基づいて前記設定値と前記抽出文書量との関係を出力するようになっていることを特徴とする文書抽出システム。
  7. 請求項5において、
    さらに、前記文書データ抽出手段の抽出結果に基づいて前記設定値と前記抽出文書量との関係を示す設定支援情報を生成する設定支援情報生成手段を備え、
    前記設定支援案内出力手段は、前記設定支援情報生成手段で生成した設定支援情報に基づいて前記設定値と前記抽出文書量との関係を出力するようになっていることを特徴とする文書抽出システム。
  8. 請求項4乃至7のいずれかにおいて、
    さらに、前記文書データ記憶手段の文書データについてそれら文書データ相互間の類似度を算出する類似度算出手段と、前記類似度算出手段で算出した類似度に基づいて前記文書データ記憶手段の文書データを階層的に分類する文書データ分類手段とを備え、
    前記文書データ抽出手段は、抽出される文書データの冗長度が前記冗長度設定手段で設定した冗長度以下となるように、前記文書データ分類手段で分類した文書データ群のなかから所定の分類規則に基づいて前記文書データを抽出するようになっていることを特徴とする文書抽出システム。
  9. 請求項8において、
    前記文書データ分類手段は、前記類似度算出手段で算出した類似度に基づいて、前記文書データを分類したときの分類間の距離であって分類間の類似度が大きいものほど距離が小さくなるクラスタ間距離を算出し、算出したクラスタ間距離に基づいて、類似度が大きい文書データ同士ほど近い階層となるように、前記文書データ記憶手段の文書データを階層的に分類するようになっており、
    前記文書データ抽出手段は、前記文書データ分類手段で分類した階層構造のうち階層下のクラスタ間距離に相当する冗長度が前記冗長度設定手段で設定した冗長度以下となる点を特定し、特定した点の階層下の文書データを前記文書データ群のなかから抽出するようになっていることを特徴とする文書抽出システム。
  10. 請求項8及び9のいずれかにおいて、
    前記文書データ分類手段は、クラスタリング手法又はグルーピング手法により前記文書データ記憶手段の文書データを階層的に分類するようになっていることを特徴とする文書抽出システム。
  11. 請求項8乃至10のいずれかにおいて、
    さらに、ユーザに関するユーザ情報を記憶するためのユーザ情報記憶手段と、前記ユーザ情報記憶手段のユーザ情報に基づいて前記文書データ記憶手段のなかから複数の文書データを選択する文書データ選択手段とを備え、
    前記類似度算出手段及び前記文書データ分類手段は、前記文書データ選択手段で選択した文書データを対象として前記類似度の算出及び前記文書データの分類を行うようになっていることを特徴とする文書抽出システム。
  12. 請求項8乃至10のいずれかにおいて、
    さらに、ユーザに関するユーザ情報を記憶するためのユーザ情報記憶手段と、前記文書データ抽出手段で抽出した文書データ群のなかから前記ユーザ情報記憶手段のユーザ情報に基づいて文書データを選択する文書データ選択手段とを備えることを特徴とする文書抽出システム。
  13. 請求項8乃至12のいずれかにおいて、
    前記類似度算出手段は、前記文書データ記憶手段の各文書データの文書を所定の文字要素に分割する文書分割手段と、前記文書分割手段で分割した文字要素の出現頻度に基づいて前記文書データ記憶手段の各文書データについて文書ベクトルを生成する文書ベクトル生成手段と、前記文書ベクトル生成手段で生成した文書ベクトルに基づいて前記文書データ記憶手段の文書データ相互間の類似度を算出するベクトル演算類似度算出手段とを有することを特徴とする文書抽出システム。
  14. 請求項13において、
    前記文書分割手段は、形態素解析、n−gram及びストップワードのいずれかの文字要素分割方式を用いて前記文書データ記憶手段の各文書データの文書を所定の文字要素に分割するようになっていることを特徴とする文書抽出システム。
  15. 請求項13及び14のいずれかにおいて、
    前記文書ベクトル生成手段は、前記文字要素が出現する文書における当該文字要素の出現頻度、及び前記複数の文書における前記文字要素の出現頻度に基づいて、前記文書データ記憶手段の各文書データについてTFIDF(Term Frequency & Inverse Document Frequency)で重み付けした文書ベクトルを生成するようになっていることを特徴とする文書抽出システム。
  16. 請求項13乃至15のいずれかにおいて、
    前記ベクトル演算類似度算出手段は、前記文書ベクトル生成手段で生成した文書ベクトルに基づいてベクトル空間法により文書データ相互間の類似度を算出するようになっていることを特徴とする文書抽出システム。
  17. 抽出対象となる複数の情報のなかから情報を抽出するプログラムであって、
    冗長度を設定する冗長度設定手段、抽出される情報の冗長度が前記冗長度設定手段で設定した冗長度以下となるように前記複数の情報のなかから情報を抽出する情報抽出手段、及び前記冗長度設定手段で設定されるであろう設定値と前記情報抽出手段で抽出される抽出情報量との関係を出力する設定支援案内出力手段として実現される処理をコンピュータに実行させるためのプログラムであることを特徴とする情報抽出プログラム。
  18. 抽出対象となる複数の文書のなかから文書を抽出するプログラムであって、
    冗長度を設定する冗長度設定手段、抽出される文書の冗長度が前記冗長度設定手段で設定した冗長度以下となるように前記複数の文書のなかから文書を抽出する文書抽出手段、及び前記冗長度設定手段で設定されるであろう設定値と前記文書抽出手段で抽出される抽出文書量との関係を出力する設定支援案内出力手段として実現される処理をコンピュータに実行させるためのプログラムであることを特徴とする文書抽出プログラム。
  19. 抽出対象となる複数の情報のなかから情報を抽出する方法であって、
    設定支援に関する案内を出力する設定支援案内出力ステップと、冗長度を設定する冗長度設定ステップと、抽出される情報の冗長度が前記冗長度設定ステップで設定した冗長度以下となるように前記複数の情報のなかから情報を抽出する情報抽出ステップとを含み、
    前記設定支援案内出力ステップは、前記冗長度設定ステップでの設定に先立って、前記冗長度設定ステップで設定されるであろう設定値と前記情報抽出ステップで抽出される抽出情報量との関係を出力することを特徴とする情報抽出方法。
  20. 抽出対象となる複数の文書のなかから文書を抽出する方法であって、
    設定支援に関する案内を出力する設定支援案内出力ステップと、冗長度を設定する冗長度設定ステップと、抽出される文書の冗長度が前記冗長度設定ステップで設定した冗長度以下となるように前記複数の文書のなかから文書を抽出する文書抽出ステップとを含み、
    前記設定支援案内出力ステップは、前記冗長度設定ステップでの設定に先立って、前記冗長度設定ステップで設定されるであろう設定値と前記文書抽出ステップで抽出される抽出文書量との関係を出力することを特徴とする文書抽出方法。
JP2003111983A 2003-04-16 2003-04-16 文書抽出システム Expired - Fee Related JP4356347B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003111983A JP4356347B2 (ja) 2003-04-16 2003-04-16 文書抽出システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003111983A JP4356347B2 (ja) 2003-04-16 2003-04-16 文書抽出システム

Publications (2)

Publication Number Publication Date
JP2004318528A true JP2004318528A (ja) 2004-11-11
JP4356347B2 JP4356347B2 (ja) 2009-11-04

Family

ID=33472385

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003111983A Expired - Fee Related JP4356347B2 (ja) 2003-04-16 2003-04-16 文書抽出システム

Country Status (1)

Country Link
JP (1) JP4356347B2 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005322244A (ja) * 2004-04-30 2005-11-17 Microsoft Corp 情報の多様性および豊富さを向上させるよう検索結果のドキュメントを順位付ける方法およびシステム
JP2008304982A (ja) * 2007-06-05 2008-12-18 Konica Minolta Holdings Inc 情報の管理方法及び情報処理装置
JP2009252185A (ja) * 2008-04-10 2009-10-29 Ricoh Co Ltd 情報検索装置、情報検索方法、制御プログラム及び記録媒体
WO2016147624A1 (ja) * 2015-03-13 2016-09-22 日本電気株式会社 検索システム、検索方法および検索プログラム
JP2019028910A (ja) * 2017-08-03 2019-02-21 株式会社野村総合研究所 対話分析システムおよび対話分析プログラム
CN116226681A (zh) * 2023-02-22 2023-06-06 北京麦克斯泰科技有限公司 一种文本相似性判定方法、装置、计算机设备和存储介质

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005322244A (ja) * 2004-04-30 2005-11-17 Microsoft Corp 情報の多様性および豊富さを向上させるよう検索結果のドキュメントを順位付ける方法およびシステム
JP2008304982A (ja) * 2007-06-05 2008-12-18 Konica Minolta Holdings Inc 情報の管理方法及び情報処理装置
JP2009252185A (ja) * 2008-04-10 2009-10-29 Ricoh Co Ltd 情報検索装置、情報検索方法、制御プログラム及び記録媒体
US8326812B2 (en) 2008-04-10 2012-12-04 Ricoh Company, Limited Data search device, data search method, and recording medium
WO2016147624A1 (ja) * 2015-03-13 2016-09-22 日本電気株式会社 検索システム、検索方法および検索プログラム
JPWO2016147624A1 (ja) * 2015-03-13 2017-12-21 日本電気株式会社 検索システム、検索方法および検索プログラム
US10909154B2 (en) 2015-03-13 2021-02-02 Nec Corporation Search system, search method and search program
JP2019028910A (ja) * 2017-08-03 2019-02-21 株式会社野村総合研究所 対話分析システムおよび対話分析プログラム
CN116226681A (zh) * 2023-02-22 2023-06-06 北京麦克斯泰科技有限公司 一种文本相似性判定方法、装置、计算机设备和存储介质
CN116226681B (zh) * 2023-02-22 2023-11-28 北京麦克斯泰科技有限公司 一种文本相似性判定方法、装置、计算机设备和存储介质

Also Published As

Publication number Publication date
JP4356347B2 (ja) 2009-11-04

Similar Documents

Publication Publication Date Title
Gambhir et al. Recent automatic text summarization techniques: a survey
Zhang et al. Do users rate or review? Boost phrase-level sentiment labeling with review-level sentiment classification
TWI536181B (zh) 在多語文本中的語言識別
Peng et al. Information extraction from research papers using conditional random fields
JP3781005B2 (ja) 文書抽出装置及び文書抽出プログラム並びに文書抽出方法
US8676730B2 (en) Sentiment classifiers based on feature extraction
US20130060769A1 (en) System and method for identifying social media interactions
US10002188B2 (en) Automatic prioritization of natural language text information
US20110295857A1 (en) System and method for aligning and indexing multilingual documents
JP5754019B2 (ja) 同義語抽出システム、方法およびプログラム
KR20110093785A (ko) 사용자 정의 언어 모델들
JP2012027845A (ja) 情報処理装置、関連文提供方法、及びプログラム
CN111090731A (zh) 基于主题聚类的电力舆情摘要提取优化方法及系统
US20150205860A1 (en) Information retrieval device, information retrieval method, and information retrieval program
CN114997288A (zh) 一种设计资源关联方法
Scharkow Content analysis, automatic
CN115409039A (zh) 一种对标车型数据的分析方法、装置、电子设备及介质
CN113591476A (zh) 一种基于机器学习的数据标签推荐方法
JP4979637B2 (ja) 複合語の区切り位置を推定する複合語区切り推定装置、方法、およびプログラム
JP4356347B2 (ja) 文書抽出システム
Zhang et al. Product classification using microdata annotations
JP2006301959A (ja) 文書処理装置、文書処理方法、文書処理プログラムおよびコンピュータに読み取り可能な記録媒体
CN110688559A (zh) 一种检索方法及装置
JP2004318527A (ja) 情報抽出システム、文書抽出システム、情報抽出プログラム及び文書抽出プログラム、並びに情報抽出方法及び文書抽出方法
WO2015159702A1 (ja) 部分情報抽出システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090203

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090406

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090512

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090714

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090727

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120814

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees