JP4649731B2 - 文書要約システム及び文書要約方法 - Google Patents
文書要約システム及び文書要約方法 Download PDFInfo
- Publication number
- JP4649731B2 JP4649731B2 JP2000358808A JP2000358808A JP4649731B2 JP 4649731 B2 JP4649731 B2 JP 4649731B2 JP 2000358808 A JP2000358808 A JP 2000358808A JP 2000358808 A JP2000358808 A JP 2000358808A JP 4649731 B2 JP4649731 B2 JP 4649731B2
- Authority
- JP
- Japan
- Prior art keywords
- document
- character string
- link
- score
- anchor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
【発明の属する技術分野】
本発明は文書要約システム及び文書要約方法に係り、特にハイパーテキストマークアップランゲッジ(HTML:Hyper Text Markup Language)文書の集合を検索する際に、検索結果として表示するための文書要約を作成する文書要約システム及び文書要約方法に関する。
【0002】
【従来の技術】
近年、インターネットの普及により、HTML文書の数は膨大になり、膨大なHTML文書の中から利用者が必要とする文書を見つけるための手段として、検索エンジンが利用されている。
【0003】
検索エンジンは、利用者が入力したキーワードとマッチした複数の文書の要約を検索結果として表示する。検索エンジンの利用者は、その要約を基に実際にその文書にアクセスする価値があるかどうかの判別を行って、価値のある文書のみをアクセスする。従って、検索エンジンの利用者が、効率的に文書を見つけるためには、文書内容と文書が置かれているサイトの情報を客観的に表した要約の出来が重要になる。
【0004】
従来、この検索結果の文書要約としては、文書のタイトル、文書中の重要語や文書構造を基に文書の一部分を抽出した要約を使用している。例えば、HTMLタグ情報と単語の出現頻度を利用して、要約文として適切なものを自動抽出する文書検索装置が従来知られている(特開平10−307837号公報)。この従来の文書検索装置では、インターネット上に存在するワールドワイドウェブ(WWW:World Wide Web)データの多数のユニフォームリソースローケイター(URL:Uniform Resource Locator)を保持するURL記憶手段と、検索要求を入力するための入力手段と、URL記憶手段内に保持されているURLの検索を行う検索手段をもつ検索装置において、URLによって指定されるHTMLデータに対して、HTMLデータをインターネット上から取得し、そのHTMLデータ内の句読点とHTMLのタグの認識を行い、HTMLデータ内に含まれている文章を抽出し、その文章の中から、要約文として適当なものを自動的に選択し、文章でWWWデータの内容を知るようにしたものである。
【0005】
また、他の従来の文書検索装置として、ハイパーリンクの構造を利用した検索結果として、リンク元の文書のアンカー文字列を参照するようにした検索装置も文献1(1997年7月、情報処理学会研究報告VOL.99,NO.57(FI-55 DD-19)、p.73-80、「ハイパーリンクの構造を利用した検索結果の選択手法」)により開示されている。
【0006】
【発明が解決しようとする課題】
しかるに、上記の従来の文書検索装置は、それぞれ以下の課題を有している。第1の課題は、文章の一部分から作成した要約は、必ずしも文書内容と文書が置かれているサイトの情報を客観的に表していないということである。その原因は、文書内に検索結果の要約として適切な個所があるとは限らないためである。
【0007】
例えば、論文等では文書内容を的確に表すタイトルに関してさえも、HTML文書では、タイトルを記述していない文書や、「新規に作成した文書」のように文書の要約としては意味のないタイトルを記述した文書が存在する。更に、検索エンジンでヒットし易くすることを目的に、文書内容とは無関係な人気キーワードを文書中に故意にちりばめた文書も存在する。
【0008】
第2の課題は、検索結果として一度に表示できる文書数が1文書だけというような長い要約を作成してしまうことがあるということである。その原因は、複数の要約の候補から適切な要約を選択する手段が与えられていないためである。
【0009】
例えば、後者の文献1記載の従来の文書検索装置では、複数あるアンカー文字列から適切なものを選択する方法が記述されていない。すべてのアンカー文字列を表示すると、要約として不適切なアンカー文字列を含む長い文章を表示することになり、検索結果として一度に表示できる文書数が限られてしまう。このことは、携帯電話等の画面の大きさが限られた端末を利用して、文書検索を行う際に特に問題となる。
【0010】
第3の課題は、複数の文書に同じ要約を与える可能性があることである。その原因は、要約作成時に他の文書の要約と比較を行っていないためである。
【0011】
例えば、「サッカー」のことを記述した2つの文書があった場合、どちらの文書の要約もそれぞれ単独の要約として「サッカー」が適切であるとしても、検索結果としてどちらの文書も「サッカー」として表示されてしまうと、利用者はどちらの文書がより自分が必要とするかの判断ができない。
【0012】
本発明は以上の点に鑑みなされたもので、文書内の文字列だけでなく、リンク元文書のアンカー文字列も要約候補の文字列とすることで、客観的な要約を作成し得る文書要約システム及び文書要約方法を提供することを目的とする。
【0013】
また、本発明の他の目的は、複数の観点からアンカー文字列の要約としての適切さを判断し、最も適切なアンカー文字列を選択することで、必要最小限の短い要約を作成し得る文書要約システム及び文書要約方法を提供することにある。
【0014】
更に、本発明の他の目的は、検索結果として表示した際に、他の文書の要約と区別できる要約を作成し得る文書要約システム及び文書要約方法を提供することにある。
【0015】
【課題を解決するための手段】
上記の第1の目的を達成するため、第1の発明のHTML文書の集合を検索する際に、検索結果として表示する文書要約を作成する文書要約システムは、要約対象となるHTML文書の集合を予め記憶している文書集合記憶部と、アンカー文字列の出現頻度による要約としての適切さの得点と、リンク元文書の文書タイプによる要約としての適切さの得点を予め記憶している得点情報記憶部と、文書集合記憶部に記憶されているHTML文書毎に、HTML文書をリンク元文書としてそのリンク元文書からリンク先の文書のURLとアンカー文字列をそれぞれ抽出し、抽出したリンク先の文書のURL毎にリンク元文書のURLと抽出したアンカー文字列の対応を示す表に変換するアンカー文字列抽出手段と、アンカー文字列抽出手段により抽出されたアンカー文字列に対応するリンク元文書が、複数の異なる外部サイトへのリンクを持っているか、又は文書内にリンクという単語が存在し、かつ、外部サイトへのリンクが存在することを示すリンク集であるかどうかを文書集合記憶部のHTML文書の集合から判別する文書タイプ判別手段と、アンカー文字列抽出手段により抽出されたアンカー文字列毎に、そのアンカー文字列の出現頻度と、文書タイプ判別手段により判別された判別結果に基づき、得点情報記憶部に記憶されている得点情報を参照して得点を付与し、合計得点の最も高いアンカー文字列をリンク先文書の要約として決定する要約文字列決定手段とを有することを特徴とする。
【0016】
また、上記の第1の目的を達成するため、第2の発明のHTML文書の集合を検索する際に、検索結果として表示する文書要約を作成する文書要約方法は、データ処理装置が、文書集合記憶部に記憶されているHTML文書毎に、HTML文書をリンク元文書としてそのリンク元文書からリンク先の文書のURLとアンカー文字列をそれぞれ抽出し、抽出したリンク先の文書のURL毎にリンク元文書のURLと抽出したアンカー文字列の対応を示す表に変換する第1のステップと、データ処理装置が、第1のステップにより抽出されたアンカー文字列に対応するリンク元文書が、複数の異なる外部サイトへのリンクを持っているか、又は文書内にリンクという単語が存在し、かつ、外部サイトへのリンクが存在することを示すリンク集であるかどうかを文書集合記憶部に記憶されているHTML文書の集合から判別する第2のステップと、データ処理装置が、第1のステップで抽出されたアンカー文字列毎に、そのアンカー文字列の出現頻度と、第2のステップで判別された文書タイプ判別結果に基づき、アンカー文字列の出現頻度による要約としての適切さの得点と、リンク元文書の文書タイプによる要約としての適切さの得点を予め記憶している得点情報記憶部を参照して得点を付与し、合計得点の最も高いアンカー文字列をリンク先文書の要約として決定する第3のステップとを含むことを特徴とする。
【0017】
上記の第1及び第2の発明では、HTML文書の集合から抽出したアンカー文字列毎に、そのアンカー文字列の出現頻度と文書タイプ判別結果に基づき、得点情報記憶部を参照して得点を付与し、合計得点の最も高いアンカー文字列をリンク先文書の要約として決定するようにしたため、文書内の文字列だけでなく、リンク元文書のアンカー文字列も要約候補の文字列とすることができ、第1の目的を達成することができる。
【0018】
また、上記の第2の目的を達成するため、第3の発明のHTML文書の集合を検索する際に、検索結果として表示する文書要約を作成する文書要約システムは、上記の第1の発明における得点情報記憶部に、要約対象となるHTML文書の集合を予め記憶している文書集合記憶部と、アンカー文字列の出現頻度による要約としての適切さの得点と、リンク元文書の文書タイプによる要約としての適切さの得点と、リンク元文書と要約対象文書とのリンク関係による要約としての適切さの得点とを予め記憶すると共に、アンカー文字列抽出手段により抽出されたリンク元文書と要約対象文書の関係を判別するリンク関係判別手段を設け、更に、上記の第1の発明における要約文字列決定手段を、アンカー文字列抽出手段により抽出されたリンク元文書のアンカー文字列毎に、そのアンカー文字列の出現頻度と、文書タイプ判別手段により判別された判別結果と、リンク関係判別手段により判別されたリンク関係とに基づき、得点情報記憶部に記憶されている得点情報を参照して得点を付与し、合計得点の最も高いアンカー文字列をリンク先文書の要約として決定する構成としたものである。
【0019】
また、上記の第2の目的を達成するため、第4の発明のHTML文書の集合を検索する際に、検索結果として表示する文書要約を作成する文書要約方法は、データ処理装置が、文書集合記憶部に記憶されているHTML文書毎に、HTML文書をリンク元文書としてそのリンク元文書からリンク先の文書のURLとアンカー文字列をそれぞれ抽出し、抽出したリンク先の文書のURL毎にリンク元文書のURLと抽出したアンカー文字列の対応を示す表に変換する第1のステップと、データ処理装置が、第1のステップにより抽出されたアンカー文字列に対応するリンク元文書が、複数の異なる外部サイトへのリンクを持っているか、又は文書内にリンクという単語が存在し、かつ、外部サイトへのリンクが存在することを示すリンク集であるかどうかを文書集合記憶部に記憶されているHTML文書の集合から判別する第2のステップと、データ処理装置が、第1のステップにより抽出されたリンク元文書と要約対象文書のリンク関係を判別する第3のステップと、データ処理装置が、第1のステップで抽出されたリンク元文書のアンカー文字列毎に、そのアンカー文字列の出現頻度と、第2のステップで判別された文書タイプ判別結果と、第3のステップで判別されたリンク関係とに基づき、アンカー文字列の出現頻度による要約としての適切さの得点と、リンク元文書の文書タイプによる要約としての適切さの得点と、リンク元文書と要約対象文書とのリンク関係による要約としての適切さの得点とを予め記憶している得点情報記憶部を参照して得点を付与し、合計得点の最も高いアンカー文字列をリンク先文書の要約として決定する第4のステップとを含むことを特徴とする。
【0020】
上記の第3及び第4の発明では、HTML文書の集合から抽出したアンカー文字列毎に、そのアンカー文字列の出現頻度と文書タイプ判別結果とリンク関係とに基づき、得点情報記憶部を参照して得点を付与し、合計得点の最も高いアンカー文字列をリンク先文書の要約として決定するようにしたため、複数の観点からアンカー文字列の要約としての適切さを判断し、最も適切なアンカー文字列を選択することができ、必要最小限の短い要約を作成するという第2の目的を達成することができる。
【0021】
更に、上記の第3の目的を達成するため、第5の発明の文書要約システムは、第3の発明に加えて、文書集合記憶部のHTML文書の集合を解析して、要約対象文書が属するサイトの代表文書とその代表文書の要約を取得する代表文書取得手段と、要約文字列決定手段により決定された要約対象文書の要約と同じ要約の文書が複数存在した場合、代表文書取得手段で取得した代表文書の要約と要約対象文書の要約とを連結して新たな要約として出力し、要約文字列決定手段により決定された要約対象文書の要約と同じ要約の文書が複数存在しない場合は、要約文字列決定手段により決定された要約対象文書の要約を出力する要約合成手段とを更に有する構成としたものである。
【0022】
更に、上記の第3の目的を達成するため、第6の発明の文書要約方法は、第4の発明に加えて、データ処理装置が、HTML文書の集合を解析して、要約対象文書が属するサイトの代表文書とその代表文書の要約を取得する第5のステップと、データ処理装置が、第4のステップにより決定された要約対象文書の要約と同じ要約の文書が複数存在した場合、第5のステップで取得した代表文書の要約と要約対象文書の要約とを連結して新たな要約として出力し、第4のステップにより決定された要約対象文書の要約と同じ要約の文書が複数存在しない場合は、第4のステップにより決定された要約対象文書の要約を出力する第6のステップとを更に有することを特徴とする。
【0023】
上記の第5及び第6の発明では、要約対象文書の要約と同じ要約の文書が複数存在した場合、要約対象文書が属するサイトの代表文書の要約と要約対象文書の要約とを連結して新たな要約として出力するようにしたため、検索結果として表示した際に、他の文書の要約と区別できる要約を作成できるという第3の目的を達成することができる。
【0024】
ここで、第1、第3及び第5の発明において、要約文字列決定手段は、アンカー文字列抽出手段により抽出されたアンカー文字列を単語に分割し、分割した単語の出現サイト数を数え、出現サイト数が多い方から順に出現頻度の順位を付け、得点情報記憶部に記憶されている得点情報を参照して順位の高いものほど出現頻度が多いとして高い得点を付与することを特徴とする。
【0025】
また、第2、第4及び第6の発明において、第4のステップは、第1のステップで抽出されたアンカー文字列を単語に分割し、分割した単語の出現サイト数を数え、出現サイト数が多い方から順に出現頻度の順位を付け、得点情報記憶部に記憶されている得点情報を参照して順位の高いものほど出現頻度が多いとして高い得点を付与することを特徴とする。これにより、要約としてより適切な得点を出現頻度から得ることができる。
【0026】
【発明の実施の形態】
(第1の実施の形態)
次に、本発明の第1の実施の形態について図面と共に説明する。図1は本発明になる文書要約システムの第1の実施の形態のブロック図を示す。この実施の形態は、プログラム制御により動作するデータ処理装置1と、情報を記憶する記憶装置2とより構成される。
【0027】
記憶装置2は、文書集合記憶部21と得点情報記憶部22とを備えている。文書集合記憶部21は、要約対象となるHTML文書の集合を予め記憶している。得点情報記憶部22は、アンカー文字列の要約としての適切さを示す得点を予め記憶している。要約としての適切さを示す得点の例としては、アンカー文字列の出現頻度(出現サイト数)による得点、リンク元文書(被リンク先文書)の文書タイプがリンク集であるか否かによる得点、リンク元文書(被リンク先文書)と要約対象文書とのリンク関係による得点などがある。
【0028】
データ処理装置1は、アンカー文字列抽出手段11、文書タイプ判別手段12、リンク関係判別手段13及び要約文字列決定手段13を備えている。アンカー文字列抽出手段11は、文書集合記憶部21に格納された対象文書の集合からリンク先文書のURLとアンカー文字列を抽出する。更に、アンカー文字列抽出手段11は、抽出した結果をリンク元文書URLとアンカー文字列の対応を示す表に変換し、要約対象文書毎にまとめる。
【0029】
文書タイプ判別手段12は、リンク元文書の文書タイプを判別し、判別した文書タイプをアンカー文字列抽出手段11が作成した表に追加する。文書タイプの例としては、リンク集がある。リンク関係判別手段13は、リンク元文書と要約対象文書とのリンク関係を判別し、判別したそのリンク関係をアンカー文字列抽出手段11が作成した表に追加する。リンク関係の例としては、外部サイト文書、上位文書、下位文書、自文書、及びその他・不明文書とがある。
【0030】
要約文字列決定手段14は、アンカー文字列の出現頻度、リンク元文書の文書タイプ、及びリンク元文書と要約対象文書とのリンク関係を基に、得点情報記憶部22の得点情報を参照して、各アンカー文字列に得点を付与し、合計得点が最も高いアンカー文字列を要約とする。
【0031】
次に、図2のフローチャートを併せ参照して図1の実施の形態の動作について詳細に説明する。まず、アンカー文字列抽出手段11は、文書集合記憶部21に格納された対象文書の集合を入力として受け、その入力文書からリンク先文書URLと対応するアンカー文字列を抽出し、抽出した結果をリンク元文書URLとアンカー文字列の対応を示す表に変換し、要約対象文字毎にまとめる(図2のステップS11)。
【0032】
次に、文書タイプ判別手段12は、被リンク先文書の文書タイプがリンク集であるかを判別し、アンカー文字列抽出手段11が作成した表に文書タイプを追加する(図2のステップS12)。次に、リンク関係判別手段13は、リンク先文書と要約対象文書のリンク関係を判別する(図2のステップS13)。
【0033】
次に、要約文字列決定手段14は、アンカー文字列の出現頻度、リンク元文書の文書タイプ、及びリンク関係の情報を基に、得点情報記憶部22の得点情報を参照し、各アンカー文字列に参照して得た得点を付与し(図2のステップS14)、合計得点が最も高いアンカー文字列を要約として出力する(図2のステップS15)。
【0034】
次に、本実施の形態の効果について説明する。本実施の形態では、要約を作成するのに、リンク元文書のアンカー文字列を利用している。そのため、文書内容と文書が置かれているサイトの情報を客観的に表した要約の作成が可能である。また、本実施の形態では、アンカー文字列の出現頻度、リンク元文書の文書タイプ、及びリンク元文書と対象文書のリンク関係という複数の観点から、複数のアンカー文字列の中で最も高い得点のアンカー文字列のみを選択しているため、適切な短い要約を作成することができる。
【0035】
(第2の実施の形態)
図3は本発明になる文書要約システムの第2の実施の形態のブロック図を示す。同図中、図1と同一構成部分には同一符号を付してある。この第2の実施の形態は、プログラム制御により動作するデータ処理装置3が、図1に示したデータ処理装置1の構成に加え、代表文書取得手段31と要約合成手段32とを備える点で異なる。
【0036】
代表文書取得手段31は、文書集合記憶部21の文書集合を解析して、対象文書のサイトの代表頁を取得する。代表文書は、文献2(2000年1月、情報処理学会研究報告VOL.2000.NO.10 (DS-20-2) p.9-16、サイテーション・エンジン、「リンク解析を用いたWWW検索ランキングシステム」)に記載されている代表頁と同じものであり、この文献2に開示された方法で代表文書を取得可能である。
【0037】
要約合成手段32は、複数の文書に同じ要約が存在した場合、代表文書取得手段31で取得した代表文書の要約と対象文書の要約を連結したものを要約として出力する。
【0038】
次に、図4のフローチャートを併せ参照して図3の実施の形態の動作について詳細に説明する。図4中、図2と同一処理ステップには同一符号を付し、その説明を省略する。図3の要約合成手段32は、要約文字列決定手段14により決定された対象要約の中に、同一の要約の文書が存在するかどうか調べ(図4のステップS21)、同一の要約の文書が存在した場合、代表文書取得手段31で取得した代表文書の要約を受け(図4のステップS22)、この代表文書の要約と上記の対象要約とを連結したものを要約として(図4のステップS23)、出力する(図4のステップS24)。
【0039】
一方、要約合成手段32は、ステップS21で同一の要約の文書が存在しないと判断した場合は、要約文字列決定手段14により決定された対象要約をそのまま要約として出力する出力する(図4のステップS24)。
【0040】
次に、本実施の形態の効果について説明する。本実施の形態では、一旦要約候補を作成した後、同じ要約の文書が存在するかどうかチェックし、同じ要約の文書が存在するときには、代表文書の要約と対象要約とを連結したものを要約として出力するようにしたため、複数の文書が同じものになることを防止することができ、また、他の文書と区別可能な要約を作成することができる。
【0041】
【実施例】
次に、本発明の第1の実施例を図面と共に説明する。本実施例は第1の実施の形態に対応した実施例である。本実施例は、データ処理装置1としてパーソナルコンピュータ、記憶装置2として磁気ディスク記憶装置とを備えている。パーソナルコンピュータは、アンカー文字列抽出手段11、文書タイプ判別手段12、リンク関係判別手段13、要約文字列決定手段14を有しており、磁気ディスク記憶装置には、文書集合記憶部21と得点情報記憶部22を有している。
【0042】
図5は対象文書集合中の文書の一例を示す。アンカー文字列抽出手段11は、図5のURLがhttp://aa.bb/xxの文書から図7(A)に示すようなリンク先URL「http://aa.bb/xx/b」とアンカー文字列「野球」の対応と、リンク先URL「http://aa.bb/xx/s」とアンカー文字列「サッカー」の対応とを抽出する。
【0043】
図7(A)の場合、タグで明示的に囲まれた文字列のみをアンカー文字列として抽出しているが、例えば図5の文章からタグの前後の文字列も合わせてアンカー文字列として抽出することや、タイトルを自文書へのアンカー文字列として抽出することで、図7(B)に示す文字列もアンカー文字列も抽出することができる。また、本実施例ではアンカー文字列として名詞句のみを扱っているが、文をアンカー文字列として抽出することもできる。
【0044】
次に、アンカー文字列抽出手段11は、抽出した対応をリンク元文書URLとアンカー文字列の対応に変換し、各要約対象文書に対して対応表を作成する。図8に文書「http://aa.bb/xx/s」に対して、アンカー文字列抽出手段11が作成したリンク元文書URLとアンカー文字列の対応表の例を示す。この対応表のリンク元文書URL「http://aa.bb/xx」とアンカー文字列「サッカー」の対応は、図7(A)のリンク先文書URL「http://aa.bb/xx/s」とアンカー文字列「サッカー」の対応を変換したものである。
【0045】
文書タイプ判別手段12は、例えば文書が3つ以上の異なる外部サイトへのリンクを持っている場合、その文書をリンク集と判定する。図9はリンク集である文書の一例を示す。図9の文書「http://xx.hh/aa」は、自サイトが「xx.hh」であり、外部サイト「aa.bb」、「xx.yy」及び「xx.zz」へのリンクを持っている。従って、3つ以上の異なる外部サイトへのリンクを持っているので、「http://xx.hh/aa」は、リンク集であると判定する。
【0046】
なお、本実施例では、文書タイプの判別方法として、外部サイトへのリンク数による判別方法を述べたが、他にも文献3(1999年、情報処理学会研究報告VOL.99,NO.20(FI-53) p.9-16、「文書タイプ分類による問題解決向きWWW検索システムの開発と評価」)に示されたような、文書内に「リンク集」という単語が存在することと外部サイトへのリンクが存在することとを組み合わせて、文書タイプを総合的に判定する方法もあり、ここで述べた方法に限定されない。
【0047】
リンク関係判別手段13は、文書URLと被リンク先の文書URLを比較して、リンク元の文書が外部サイト文書か、上位文書か、下位文書か、自文書か、その他・不明文書かを判別する。図10は図8の対応表に文書タイプ判別手段12が付与した文書タイプの項目と、リンク関係判別手段13が付与したリンク関係の項目を追加した対応表の一例を示す。
【0048】
図10に示すように、文書「http://aa.bb/xx/yy」を基準にした場合、文書「http://xx.hh/aa」や文書「http://gg.hh/bb」はそれぞれサイトが異なるので、外部サイト文書であり、文書「http://aa.bb/xx」は同一サイトで上位のディレクトリなので、上位文書であり、文書「http://aa.bb/xx/yy/w1」及び文書「http://aa.bb/xx/yy/w2」は、それぞれ同一サイトで下位のディレクトリなので下位文書であり、文書「http://aa.bb/xx/yy」は同じURLなので自文書である。
【0049】
要約文字列決定手段14は、アンカー文字列を単語に分割し、分割した単語の出現サイト数を数え、より多くのサイトに出現するアンカー文字列が上位になるように順位をつける。図10の文書「http://aa.hh/xx/yy」では、アンカー文字列として、「最新情報」、「戻る」、「サッカー」、「Jリーグ情報」、「サッカー速報」が存在する。
【0050】
例えば、「最新情報」は、「最新」と「情報」の2単語に分解され、それぞれの単語が出現するサイトは、aa.bbだけの1サイトであり、「サッカー速報」は、「サッカー」と「速報」の2単語に分解され、それぞれの単語が出現するサイトは、aa.bb、xx.hh、gg.hhの3サイトである。図11は、図10に示した各アンカー文字列に対し、分割した単語と、分割した単語が出現するサイトと、出現サイト数と、出現サイト数による順位の例を示す。図11に示すように、「サッカー速報」が出現サイト数3で1位に、「Jリーグ速報」と「サッカー」が出現サイト数2で2位に、「最新情報」と「戻る」が出現サイト数1で4位になる。
【0051】
更に、要約文字列決定手段14は得点情報記憶部22に予め記憶している得点情報を参照して、出現サイト数による順位、リンク元文書の文書タイプ、リンク元文書と要約対象文書のリンク関係による得点を与え、最も合計得点の高いアンカー文字列を要約とする。図6は得点情報記憶部22の得点情報の一例を示す。ここでは、アンカー文字列の出現頻度の最も高いものを10点とし、以下、文字列の出現頻度の順に5点、3点、1点としている。また、文書タイプがリンク集であれば10点とする。更に、リンク関係では外部サイト文書が10点、上位文書及び自文書がそれぞれ5点、下位文書が0点、その他・不明文書が3点としている。
【0052】
なお、同じアンカー文字列に対してリンク元文書の文書タイプやリンク元文書と要約対象文書とのリンク関係が複数ある場合は、高い方の得点をそのアンカー文字列の得点とする。
【0053】
図10と図11の表の値に対して、図6の得点情報を参照した場合の得点を図12に示す。図12に示すように、「最新情報」は、出現サイト数の順位が4位なので、出現サイト数による得点は1点、文書タイプがリンク集でないので文書タイプによる得点は0点、リンク関係は自文書なのでリンク関係による得点は5点となり、合計得点は6点となる。
【0054】
また、「Jリーグ速報」は出現サイト数の順位が2位なので、出現サイト数による得点は5点、文書タイプがリンク集なので文書タイプによる得点は10点、リンク関係は外部サイト文書なのでリンク関係による得点は10点となり、合計得点25点となる。図12の例では、最も合計得点の高いアンカー文字列の「Jリーグ速報」を要約として選択する。
【0055】
次に、本発明の第2の実施例を、図面を参照して説明する。本実施例は、図3に示した第2の実施の形態に対応するものである。本実施例は、第1の実施例と構成を同じとするが、パーソナルコンピュータの中央演算装置が代表文書取得手段31及び要約合成手段32としても機能する点で第1の実施例と異なる。
【0056】
今、第1の実施例と同じ方法で要約文字列決定手段14で文書「http://aa.bb/xx/yy」に対して「Jリーグ速報」が要約として選択されたとする。また、文書「http://bb.aa/xx/yy」に対しても、「Jリーグ速報」が要約として選択されているとする。
【0057】
要約合成手段32は、文書「http://aa.bb/xx/yy」の要約「Jリーグ速報」と同じ要約が存在するかを調べる。本実施例では、同じ要約が文書「http://bb.aa/xx/yy」に存在するため、代表文書取得手段31が文書「http://aa.bb/xx/yy」の代表文書とその代表文書の要約を取得する。
【0058】
本実施例では、代表文書が「http://aa.bb/」でその要約が「A新聞」であったとする。要約合成手段32は、代表文書の要約の「A新聞」と、対象文書の要約の「Jリーグ速報」を連結して「A新聞Jリーグ速報」を要約として出力する。
【0059】
このように、本実施例では、同じ要約の文書が存在するときには、代表文書の要約と対象要約とを連結したものを要約として出力するようにしたため、複数の文書が同じものになることを防止することができ、また、他の文書と区別可能な要約を作成することができる。
【0060】
なお、本発明は以上の実施の形態及び実施例に限定されるものではなく、例えば、第1の実施の形態において、リンク関係判別手段13は必ずしも有していなくてもよく、その場合は、要約文字列決定手段14は、アンカー文字列の出現頻度、リンク元文書の文書タイプを基に、得点情報記憶部22の得点情報を参照して、各アンカー文字列に得点を付与し、合計得点が最も高いアンカー文字列を要約とする。
【0061】
【発明の効果】
以上説明したように、本発明によれば、文書内の文字列だけでなく、リンク元文書のアンカー文字列も要約候補の文字列とすることにより、文書内容と文書が置かれているサイトの情報を客観的に表した要約の作成ができるため、検索エンジンの検索結果として、この要約が表示された場合、利用者は文書がアクセスする価値があるかどうかを容易に判別することができる。
【0062】
また、本発明によれば、複数の観点からアンカー文字列の要約としての適切さを判断し、最も適切なアンカー文字列を選択することにより、必要最小限の短い要約を作成することができるようにしたため、検索エンジンの検索結果としてこの要約を表示する場合、複数の検索結果を一画面に表示することができる。
【0063】
更に、本発明によれば、要約対象文書の要約と同じ要約の文書が複数存在した場合、要約対象文書が属するサイトの代表文書の要約と要約対象文書の要約とを連結して新たな要約として出力することで、検索結果として表示した際に、他の文書の要約と区別できる要約を作成できるようにしたため、検索エンジンの検索結果として、この要約が表示された場合、利用者は複数の文書を区別することができ、より適切な文書にアクセスすることができる。
【図面の簡単な説明】
【図1】本発明システムの第1の実施の形態のブロック図である。
【図2】図1の動作を説明する本発明方法の第1の実施の形態のフローチャートである。
【図3】本発明システムの第2の実施の形態のブロック図である。
【図4】図3の動作を説明する本発明方法の第2の実施の形態のフローチャートである。
【図5】本発明の第1の実施例のアンカー文字列である。
【図6】本発明の第1の実施例の得点情報記憶部の得点情報の一例である。
【図7】本発明の第1の実施例のアンカー文字列の各例である。
【図8】本発明の第1の実施例のアンカー文字列抽出部が作成する表の一例である。
【図9】本発明の第1の実施例のリンク集合の文書の一例である。
【図10】本発明の第1の実施例のリンク元文書の文書タイプとリンク元文書と対象文書のリンク関係の一例を示す図である。
【図11】本発明の第1の実施例のアンカー文字列の出現サイト数による順位付けを説明するための図である。
【図12】本発明の第1の実施例の要約文字列決定手段の得点計算を説明するための図である。
【符号の説明】
1、3 データ処理装置
2 記憶装置
11 アンカー文字列抽出手段
12 文書タイプ判別手段
13 リンク関係判別手段
14 要約文字列決定手段
21 文書集合記憶部
22 得点情報記憶部
31 代表文書取得手段
32 要約合成手段
Claims (9)
- HTML文書の集合を検索する際に、検索結果として表示する文書要約を作成する文書要約システムであって、
要約対象となるHTML文書の集合を予め記憶している文書集合記憶部と、
アンカー文字列の出現頻度による要約としての適切さの得点と、リンク元文書の文書タイプによる要約としての適切さの得点を予め記憶している得点情報記憶部と、
前記文書集合記憶部に記憶されている前記HTML文書毎に、前記HTML文書をリンク元文書としてそのリンク元文書からリンク先の文書のURLとアンカー文字列をそれぞれ抽出し、抽出した前記リンク先の文書のURL毎にリンク元文書のURLと抽出した前記アンカー文字列の対応を示す表に変換するアンカー文字列抽出手段と、
前記アンカー文字列抽出手段により抽出された前記アンカー文字列に対応する前記リンク元文書が、複数の異なる外部サイトへのリンクを持っているか、又は文書内にリンクという単語が存在し、かつ、外部サイトへのリンクが存在することを示すリンク集であるかどうかを前記文書集合記憶部のHTML文書の集合から判別する文書タイプ判別手段と、
前記アンカー文字列抽出手段により抽出されたアンカー文字列毎に、そのアンカー文字列の出現頻度と、前記文書タイプ判別手段により判別された判別結果に基づき、前記得点情報記憶部に記憶されている得点情報を参照して得点を付与し、合計得点の最も高いアンカー文字列を前記リンク先文書の要約として決定する要約文字列決定手段と
を有することを特徴とする文書要約システム。 - HTML文書の集合を検索する際に、検索結果として表示する文書要約を作成する文書要約システムであって、
要約対象となるHTML文書の集合を予め記憶している文書集合記憶部と、
アンカー文字列の出現頻度による要約としての適切さの得点と、リンク元文書の文書タイプによる要約としての適切さの得点と、リンク元文書と要約対象文書とのリンク関係による要約としての適切さの得点とを予め記憶している得点情報記憶部と、
前記文書集合記憶部に記憶されている前記HTML文書毎に、前記HTML文書をリンク元文書としてそのリンク元文書からリンク先の文書のURLとアンカー文字列をそれぞれ抽出し、抽出した前記リンク先の文書のURL毎にリンク元文書のURLと抽出した前記アンカー文字列の対応を示す表に変換するアンカー文字列抽出手段と、
前記アンカー文字列抽出手段により抽出された前記アンカー文字列に対応する前記リンク元文書が、複数の異なる外部サイトへのリンクを持っているか、又は文書内にリンクという単語が存在し、かつ、外部サイトへのリンクが存在することを示すリンク集であるかどうかを前記文書集合記憶部のHTML文書の集合から判別する文書タイプ判別手段と、
前記アンカー文字列抽出手段により抽出されたリンク元文書と要約対象文書の関係を判別するリンク関係判別手段と、
前記アンカー文字列抽出手段により抽出されたリンク元文書のアンカー文字列毎に、そのアンカー文字列の出現頻度と、前記文書タイプ判別手段により判別された判別結果と、前記リンク関係判別手段により判別されたリンク関係とに基づき、前記得点情報記憶部に記憶されている得点情報を参照して得点を付与し、合計得点の最も高いアンカー文字列を前記リンク先文書の要約として決定する要約文字列決定手段と
を有することを特徴とする文書要約システム。 - 前記文書集合記憶部のHTML文書の集合を解析して、要約対象文書が属するサイトの代表文書とその代表文書の要約を取得する代表文書取得手段と、前記要約文字列決定手段により決定された要約対象文書の要約と同じ要約の文書が複数存在した場合、前記代表文書取得手段で取得した代表文書の要約と前記要約対象文書の要約とを連結して新たな要約として出力し、前記要約文字列決定手段により決定された要約対象文書の要約と同じ要約の文書が複数存在しない場合は、前記要約文字列決定手段により決定された要約対象文書の要約を出力する要約合成手段とを更に有することを特徴とする請求項1又は2記載の文書要約システム。
- 前記要約文字列決定手段は、前記アンカー文字列抽出手段により抽出された前記アンカー文字列を単語に分割し、分割した単語の出現サイト数を数え、出現サイト数が多い方から順に前記出現頻度の順位を付け、前記得点情報記憶部に記憶されている得点情報を参照して前記順位の高いものほど出現頻度が多いとして高い得点を付与することを特徴とする請求項1乃至3のうちいずれか一項記載の文書要約システム。
- 前記リンク関係判別手段は、前記要約対象文書のURLと前記アンカー文字列抽出手段により抽出された前記アンカー文字列に対応する前記リンク元文書のURLとを比較して、該リンク元文書が外部サイト文書、同一サイトの上位ディレクトリである上位文書、同一サイトの下位ディレクトリである下位文書、同一URLの自文書、及びその他不明文書のいずれかとして前記リンク関係を判別し、前記得点情報記憶部は、前記外部サイト文書に対して最も高く、前記下位文書に対して最も低い得点情報を記憶していることを特徴とする請求項2記載の文書要約システム。
- HTML文書の集合を検索する際に、検索結果として表示する文書要約を作成する文書要約方法であって、
データ処理装置が、文書集合記憶部に記憶されている前記HTML文書毎に、前記HTML文書をリンク元文書としてそのリンク元文書からリンク先の文書のURLとアンカー文字列をそれぞれ抽出し、抽出した前記リンク先の文書のURL毎にリンク元文書のURLと抽出した前記アンカー文字列の対応を示す表に変換する第1のステップと、
前記データ処理装置が、前記第1のステップにより抽出された前記アンカー文字列に対応する前記リンク元文書が、複数の異なる外部サイトへのリンクを持っているか、又は文書内にリンクという単語が存在し、かつ、外部サイトへのリンクが存在することを示すリンク集であるかどうかを前記文書集合記憶部に記憶されているHTML文書の集合から判別する第2のステップと、
前記データ処理装置が、前記第1のステップで抽出されたアンカー文字列毎に、そのアンカー文字列の出現頻度と、前記第2のステップで判別された文書タイプ判別結果に基づき、アンカー文字列の出現頻度による要約としての適切さの得点と、リンク元文書の文書タイプによる要約としての適切さの得点を予め記憶している得点情報記憶部を参照して得点を付与し、合計得点の最も高いアンカー文字列を前記リンク先文書の要約として決定する第3のステップと
を含むことを特徴とする文書要約方法。 - HTML文書の集合を検索する際に、検索結果として表示する文書要約を作成する文書要約方法であって、
データ処理装置が、文書集合記憶部に記憶されている前記HTML文書毎に、前記HTML文書をリンク元文書としてそのリンク元文書からリンク先の文書のURLとアンカー文字列をそれぞれ抽出し、抽出した前記リンク先の文書のURL毎にリンク元文書のURLと抽出した前記アンカー文字列の対応を示す表に変換する第1のステップと、
前記データ処理装置が、前記第1のステップにより抽出された前記アンカー文字列に対応する前記リンク元文書が、複数の異なる外部サイトへのリンクを持っているか、又は文書内にリンクという単語が存在し、かつ、外部サイトへのリンクが存在することを示すリンク集であるかどうかを前記文書集合記憶部に記憶されているHTML文書の集合から判別する第2のステップと、
前記データ処理装置が、前記第1のステップにより抽出されたリンク元文書と要約対象文書のリンク関係を判別する第3のステップと、
前記データ処理装置が、前記第1のステップで抽出されたリンク元文書のアンカー文字列毎に、そのアンカー文字列の出現頻度と、前記第2のステップで判別された文書タイプ判別結果と、前記第3のステップで判別されたリンク関係とに基づき、アンカー文字列の出現頻度による要約としての適切さの得点と、リンク元文書の文書タイプによる要約としての適切さの得点と、リンク元文書と要約対象文書とのリンク関係による要約としての適切さの得点とを予め記憶している得点情報記憶部を参照して得点を付与し、合計得点の最も高いアンカー文字列を前記リンク先文書の要約として決定する第4のステップと
を含むことを特徴とする文書要約方法。 - 前記データ処理装置が、前記HTML文書の集合を解析して、要約対象文書が属するサイトの代表文書とその代表文書の要約を取得する第5のステップと、前記データ処理装置が、前記第4のステップにより決定された要約対象文書の要約と同じ要約の文書が複数存在した場合、前記第5のステップで取得した代表文書の要約と前記要約対象文書の要約とを連結して新たな要約として出力し、前記第4のステップにより決定された要約対象文書の要約と同じ要約の文書が複数存在しない場合は、前記第4のステップにより決定された要約対象文書の要約を出力する第6のステップとを更に有することを特徴とする請求項6又は7記載の文書要約方法。
- 前記第4のステップは、前記第1のステップで抽出された前記アンカー文字列を単語に分割し、分割した単語の出現サイト数を数え、出現サイト数が多い方から順に前記出現頻度の順位を付け、前記得点情報記憶部に記憶されている得点情報を参照して前記順位の高いものほど出現頻度が多いとして高い得点を付与することを特徴とする請求項6乃至8のうちいずれか一項記載の文書要約方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000358808A JP4649731B2 (ja) | 2000-11-27 | 2000-11-27 | 文書要約システム及び文書要約方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000358808A JP4649731B2 (ja) | 2000-11-27 | 2000-11-27 | 文書要約システム及び文書要約方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002163276A JP2002163276A (ja) | 2002-06-07 |
JP4649731B2 true JP4649731B2 (ja) | 2011-03-16 |
Family
ID=18830648
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000358808A Expired - Fee Related JP4649731B2 (ja) | 2000-11-27 | 2000-11-27 | 文書要約システム及び文書要約方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4649731B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7499913B2 (en) * | 2004-01-26 | 2009-03-03 | International Business Machines Corporation | Method for handling anchor text |
US8296304B2 (en) | 2004-01-26 | 2012-10-23 | International Business Machines Corporation | Method, system, and program for handling redirects in a search engine |
US7461064B2 (en) | 2004-09-24 | 2008-12-02 | International Buiness Machines Corporation | Method for searching documents for ranges of numeric values |
US8417693B2 (en) | 2005-07-14 | 2013-04-09 | International Business Machines Corporation | Enforcing native access control to indexed documents |
JP5317638B2 (ja) * | 2008-11-13 | 2013-10-16 | 日本電信電話株式会社 | Web文書主要コンテンツ抽出装置及びプログラム |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000090111A (ja) * | 1998-09-14 | 2000-03-31 | Matsushita Electric Ind Co Ltd | 情報検索エージェント装置及び情報検索エージェント装置の機能を発揮するプログラムを記録したコンピュータ読み取り可能な記録媒体 |
-
2000
- 2000-11-27 JP JP2000358808A patent/JP4649731B2/ja not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000090111A (ja) * | 1998-09-14 | 2000-03-31 | Matsushita Electric Ind Co Ltd | 情報検索エージェント装置及び情報検索エージェント装置の機能を発揮するプログラムを記録したコンピュータ読み取り可能な記録媒体 |
Also Published As
Publication number | Publication date |
---|---|
JP2002163276A (ja) | 2002-06-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3108015B2 (ja) | ハイパーテキスト検索装置 | |
US8554786B2 (en) | Document information management system | |
KR100461019B1 (ko) | 소형 화면 단말기를 위한 웹 컨텐츠 변환 시스템 및 방법 | |
KR100815215B1 (ko) | 웹사이트 통합 검색 장치 및 방법 | |
US8001135B2 (en) | Search support apparatus, computer program product, and search support system | |
US7607082B2 (en) | Categorizing page block functionality to improve document layout for browsing | |
US20060123042A1 (en) | Block importance analysis to enhance browsing of web page search results | |
US7310633B1 (en) | Methods and systems for generating textual information | |
US20090144240A1 (en) | Method and systems for using community bookmark data to supplement internet search results | |
US7124127B2 (en) | Search server and method for providing search results | |
US20080086453A1 (en) | Method and apparatus for correlating the results of a computer network text search with relevant multimedia files | |
WO2010106642A1 (ja) | 検索処理方法及び装置 | |
US20080005151A1 (en) | Method and apparatus for creating index, and computer program product | |
CN103430172A (zh) | 检索装置、检索方法及程序 | |
JP2003208434A (ja) | 情報検索システム及びそれに用いる情報検索方法 | |
US20050120114A1 (en) | Content synchronization system and method of similar web pages | |
JP2007072646A (ja) | 検索装置、検索方法およびプログラム | |
KR101011726B1 (ko) | 스니펫 제공 장치 및 방법 | |
JP5151368B2 (ja) | 情報処理装置および情報処理プログラム | |
JP4649731B2 (ja) | 文書要約システム及び文書要約方法 | |
JP2001265774A (ja) | 情報検索方法、装置、および情報検索プログラムを記録した記録媒体、ハイパーテキスト情報検索システム | |
Lee et al. | Topic-specific web content adaptation to mobile devices | |
KR101308821B1 (ko) | 검색엔진용 키워드 추출 시스템 및 추출 방법 | |
JP2006236221A (ja) | ウエブページ検索のための管理サーバ装置 | |
JP2003208447A (ja) | 文書検索装置、文書検索方法、文書検索プログラム及び文書検索プログラムを記録した媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20071010 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100810 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20101005 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20101116 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20101129 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131224 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |