JP2004078446A - キーワード抽出装置、抽出方法、文書検索装置、検索方法、文書分類装置及び分類方法並びにプログラム - Google Patents

キーワード抽出装置、抽出方法、文書検索装置、検索方法、文書分類装置及び分類方法並びにプログラム Download PDF

Info

Publication number
JP2004078446A
JP2004078446A JP2002236195A JP2002236195A JP2004078446A JP 2004078446 A JP2004078446 A JP 2004078446A JP 2002236195 A JP2002236195 A JP 2002236195A JP 2002236195 A JP2002236195 A JP 2002236195A JP 2004078446 A JP2004078446 A JP 2004078446A
Authority
JP
Japan
Prior art keywords
document
cluster
keyword
relationship
index
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002236195A
Other languages
English (en)
Other versions
JP4423841B2 (ja
Inventor
Hidenori Kawai
河合 英紀
Kenji Tateishi
立石 健二
Shunichi Fukushima
福島 俊一
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2002236195A priority Critical patent/JP4423841B2/ja
Publication of JP2004078446A publication Critical patent/JP2004078446A/ja
Application granted granted Critical
Publication of JP4423841B2 publication Critical patent/JP4423841B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】従来は、文書のリンク元のアンカー文字列を検索・分類対象としても、そのアンカー文字列が必ずしも文書内容を完全に説明した記述となっていない。また、絞り込み検索が精度良く行えない。
【解決手段】文書クラスタ情報取得手段12は、与えられた文書からリンク情報を抽出し、文書参照関係表を生成した後、対象指定手段13により指定された条件に基づき、与えられた文書についてトップページか否かの判定を行い、その判定結果に応じて文書クラスタ表に登録する。文書キーワード決定手段14は、文書参照関係表と文書クラスタ表を参照して、サイト外からはられているリンクのアンカー文字列をサイト外キーワードとして、また、各クラスタ内文書について、同一クラスタ内文書のリンクを遡って得られるアンカー文字列の系列をサイト内キーワードとして、それぞれ文書キーワード記憶部22に記憶させる。
【選択図】      図1

Description

【0001】
【発明の属する技術分野】
本発明はキーワード抽出装置、抽出方法、文書検索装置、検索方法、文書分類装置及び分類方法並びにプログラムに係り、特にハイパーテキストを対象としたキーワード抽出装置、抽出方法、文書検索装置、検索方法、文書分類装置及び分類方法並びにプログラムに関する。
【0002】
ハイパーテキストとは、ハイパーリンク(リンク)で構造化された文書集合のことであり、文書をノードとし、文書間にリンクをはった構造を持つ。文書Aから文書Bへのリンクに関して、文書Bのリンク元になる文書A中の文字列をアンカー文字列と呼ぶ。ハイパーテキストの代表例が、WWW(World Wide Web)である。WWWはHTML(Hyper Text Markup Language)形式で記述されたハイパーテキストであり、リンク及びアンカー文字列は<A>タグによってマークされる。なお、WWWはハイパーテキストの代表例であるが、本発明は対象をWWWに限定したものではない。また、ハイパーテキストはHTMLだけではなく、XML(Extensible Markup Language)、SGML(Standard Generalized Markup Language)等を用いて記述することも可能である。
【0003】
【従来の技術】
近年のインターネットの普及により、リンクで構造化された大量の文書に容易にアクセスすることが可能になっている。リンクで構造化された文書は通常、サイトと呼ばれる文書クラスタを形成している。サイトを構成する文書クラスタの単位は必ずしも明確ではないが、同一ドメイン名を持つ文書クラスタを一つのサイトとみなしたり、あるいは同一管理者による同一テーマの文書クラスタを一つのサイトとみなしたりすることが多い。各サイトには、トップページと呼ばれる入り口となる文書が存在し、閲覧者はそこからサイト内の各コンテンツの文書へリンクをたどってアクセスすることができる。
【0004】
例えば、後述する図2の例では、文書11、文書21、文書31、文書41がそれぞれサイト1、サイト2、サイト3、サイト4のトップページである。リンクは、引用したい文書の格納場所を表すURLと、引用先の文書の内容を表すアンカー文字列からなる。アクセス可能などの文書へもリンクを自由にはることもできるが、インターネットの習慣上、異なるサイトからのリンクはURLにトップページが指定され、アンカー文字列にサイトのタイトルまたはサイトの内容を表す文字列が使われる傾向がある。
【0005】
一方、同一サイト内の各コンテンツの文書へのリンクは、閲覧者がトップページから順番にリンクをたどってくることを想定して、表現を省略することが多い。例えば、サイト1が全国のグルメ情報を扱うサイトであった場合、サイト2やサイト3などの異なるサイトからトップページである文書11へはられたリンクのアンカー文字列「L203」や「L302」には、「グルメ」のページ、「レストラン検索」など、サイトのタイトルそのものやサイトの内容を表す表現が多く使われる。
【0006】
一方、サイト内のコンテンツへのリンクのアンカー文字列「L101」、「L103」、「L106」には、それぞれ「関西」、「奈良県」、「中華」など閲覧者がトップページから順番にリンクをたどってくることを想定して必要最低限の表現が使われる傾向があり、アンカー文字列単独ではリンク先の文書の内容が部分的にしか把握できないことが多い。また、文書の内容自体も、閲覧者がトップページから順番にリンクをたどってくることを想定して記述されているため、例えば「奈良県」というアンカー文字列がある文書には、県名のリストが記述されているだけなど、文書単独では内容を十分に把握することはできないことが多い。
【0007】
このようなリンクで構造化された文書を検索・分類する従来技術として、例えばプロシーディングズ・オブ・ザ・ファースト・インターナショナル・カンファレンス・オン・ワールド・ワイド・ウェブ(Proceedings of The 1st International Conference on the World Wide Web, 1994 )に掲載の論文、ゲンヴル・アンド・フォーダブリュ:ツールズ・フォー・テイミング・ザ・ウェブ(GENVL and WWWW: Tools for Taming the Web)に示される検索装置や、特許第3108015号公報に記載されたハイパーテキスト検索装置、特開平10−254899号公報に記載された文書分類システム、再公表特許WO99/14690に記載のリンク情報を用いたキーワード付与方法、特開2000−339320号公報に記載された関連文書表示装置などのように、リンク元のアンカー文字列を検索対象や分類対象とする方法が挙げられる。
【0008】
これらの検索装置や文書分類システムやキーワード付与方法によれば、文書本体に含まれるキーワードに加え、リンク元のアンカー文字列を検索インデックスに登録したり、文書特徴ベクトルに追加したりすることにより、リンク元のアンカー文字列がリンク先文書の説明を記述している性質を利用して、検索・分類の精度を高めようとしている。
【0009】
【発明が解決しようとする課題】
しかるに、上記の従来のキーワード抽出装置、文書検索装置及び文書分類装置では、以下のような問題点がある。すなわち、第1の問題点は、サイト内のリンクについて文書のリンク元のアンカー文字列を検索・分類対象としても、そのアンカー文字列が必ずしも文書内容を完全に説明した記述となっていないことである。その原因は、従来のキーワード抽出装置、文書検索装置及び文書分類装置では、単独のページの本文かリンク元アンカー文字列のみを検索対象にしているからである。サイト内のリンクやページの内容は、閲覧者がトップページから順番にリンクを辿ってくることを想定して記述される傾向があるため、単独のページの本文やリンク元アンカー文字列では、その文書の内容を十分に反映した検索・分類が行えないことがある。
【0010】
第2の問題点は、検索対象をより絞り込むために、「奈良 レストラン情報」のように複数の単語をスペースで分割して入力されたり、「奈良のレストラン情報」のように「AのB」といった表現を使ったり、「奈良レストラン情報」のように複合語として検索条件が入力された場合に、絞り込み検索が精度良く行えないことである。その原因は、第1の問題点と同じである。サイト内のリンクやページの内容は、閲覧者がトップページから順番にリンクを辿ってくることを想定して記述される傾向があるため、単独のページの本文やリンク元アンカー文字列ではうまく内容を絞り込めないことがある。
【0011】
また仮に、上記の第1及び第2の問題点を回避するために、リンク元のアンカー文字列を単純に一定数遡って検索・分類対象としても、検索精度は必ずしも向上しない。その原因は、リンク元のアンカー文字列を単純に一定数遡るだけでは、かえって文書の特徴と関係ないキーワードが検索・分類対象に含まれることになるからである。
【0012】
例えば、後述の図2において、リンク元を3つ遡ったアンカー文字列の系列を検索対象とする場合、文書17のアンカー文字列の系列は「L106←L103←L101」となるため,文書17をうまく説明するキーワードが抽出できると期待できる。ところが、文書12のアンカー文字列の系列は「L101←L203←L201」もしくは「L101←L302←L301」となる。
【0013】
この場合、サイト2、サイト3内のリンクのアンカー文字列「201」及び「L301」は、文書12とは関係ない可能性が高い。さらに、文書11のアンカー文字列の系列は「L203←L201」もしくは「L302←L301←L403」となる。この場合、文書11に無関係なリンクのアンカー文字列「L201」、「L301」に加えて、さらに無関係なリンクのアンカー文字列「L403」も検索対象に含めることになるため、検索・分類精度の向上は期待できない。
【0014】
本発明は以上の点に鑑みなされたもので、サイト全体の内容を表すサイト外からのリンクと、サイト内での文書の位置付けを表すサイト内のリンクをそれぞれ遡って得られるアンカー文字列の系列を、文書クラスタと文書との関係を特徴付ける単語群として抽出することにより、サイト全体の内容とサイト内での文書の位置付けを反映した検索・分類を行え得るキーワード抽出装置、抽出方法、文書検索装置、検索方法、文書分類装置及び分類方法並びにプログラムを提供することを目的とする。
【0015】
また、本発明の他の目的は、キーワードがスペースで分割されたり、「の」で接続されたり、複合語として検索条件に入力された場合に、そのキーワードを分割し、サイト構造を表すキーワードを検索対象とすることによって、効果的な絞り込み検索を行い得るキーワード抽出装置、抽出方法、文書検索装置、検索方法、文書分類装置及び分類方法並びにプログラムを提供することにある。
【0016】
【課題を解決するための手段】
上記の第1の目的を達成するため、本発明のキーワード抽出装置及び抽出方法は、ハイパーテキストデータベースを構成する1文書に対して文書の特徴を表す単語群である文書キーワードを出力するキーワード抽出装置及び抽出方法において、ハイパーテキストデータベース内の文書を含む文書クラスタと文書との関係を特徴付ける単語群を、又はこれらに加えて文書自体の内容を特徴付ける単語群を、文書キーワードに含めて出力することを特徴とする。
【0017】
また、上記の第1の目的を達成するため、本発明の文書検索装置及び検索方法は、ハイパーテキストデータベースを構成する各文書の特徴を表す単語群を登録したインデックスと、入力された検索条件とを照合して該当文書を出力する文書検索装置及び検索方法において、各文書について、ハイパーテキストデータベース内の文書を含む文書クラスタと文書との関係を特徴付ける単語群を、又はこれらに加えて文書自体の内容を特徴付ける単語群を、インデックスに登録することを特徴とする。
【0018】
また、上記の第1の目的を達成するため、本発明の文書分類装置及び分類方法は、ハイパーテキストデータベース中の指定された文書が予め定義されたカテゴリのいずれに該当するかを、文書の特徴を表す単語群である文書キーワードを用いた類似度計算によって決定する文書分類装置及び分類方法において、ハイパーテキストデータベース内の文書を含む文書クラスタと文書との関係を特徴付ける単語群を、又はこれに加えて文書自体の内容を特徴付ける単語群を、文書キーワードに含めて類似度計算に用いることを特徴とする。
【0019】
また、上記の第1の目的を達成するため、本発明のプログラムは、上記のキーワード抽出装置、文書検索装置及び文書分類装置をコンピュータで実現するためのプログラムを構成したものである。
【0020】
以上の本発明のキーワード抽出装置、抽出方法、文書検索装置、検索方法、文書分類装置及び分類方法並びにプログラムでは、サイト全体の内容を表すサイト外からのリンクと、サイト内での文書の位置付けを表すサイト内のリンクをそれぞれ遡って得られるアンカー文字列の系列を、文書クラスタと文書との関係を特徴付ける単語群として抽出することができる。
【0021】
また、本発明は、同一サイトとみなすべき文書クラスタの条件を指定する対象指定手段と、ハイパーテキストアクセス手段が読み出した文書に含まれるリンク情報を抽出し、対象指定手段によって指定された条件に基づきサイトを構成する文書クラスタを特定し、文書参照関係表と文書クラスタ表を生成する文書クラスタ情報取得手段と、文書クラスタ情報取得手段によって生成された文書参照関係表と文書クラスタ表を参照しながら、同一文書クラスタ内を遡って得られるアンカー文字列の系列、及び異なる文書クラスタからのリンクのアンカー文字列をその文書のキーワードとして決定し、文書キーワード記憶部に格納する文書キーワード決定手段とを有することを特徴とする。
【0022】
また、上記の第2の目的を達成するため、本発明の文書検索装置及び検索方法は、入力されたキーワード条件に合致する文書群を検索する文書検索装置及び検索方法において、各文書の特徴を表す単語群を第1のインデックス記憶手段及び第2のインデックス記憶手段に分けて登録し、キーワード条件にn個(n≧2)のキーワードが含まれる場合に、n個のキーワードのうちのm個(1≦m≦n−1)は第1のインデックス記憶手段でヒットし、残りのn−m個は第2のインデックス記憶手段でヒットした文書を検索結果として出力するインデックス検索手段又はインデックス検索ステップを有する構成としたものである。
【0023】
また、上記の第2の目的を達成するため、本発明のプログラムは、上記の文書検索装置を構成する第1及び第2のインデックス記憶手段への登録手段と、キーワード条件にn個(n≧2)のキーワードが含まれる場合に、n個のキーワードのうちのm個(1≦m≦n−1)は第1のインデックス記憶手段でヒットし、残りのn−m個は第2のインデックス記憶手段でヒットした文書を検索結果として出力するインデックス検索手段として、コンピュータを機能させることを特徴とする。
【0024】
これらの発明では、入力されたキーワードをスペースや「の」で区切り、形態素解析により分割して検索を行うインデックス検索手段を有するため、文書の内容を表すキーワードと文書本体に含まれるキーワードを別々に検索することによって、本発明の第2の目的を達成することができる。
【0025】
【発明の実施の形態】
次に、本発明の実施の形態について、図面を参照して詳細に説明する。
【0026】
[第1の実施の形態]
図1は本発明の第1の実施の形態のブロック図を示す。同図に示すように、本発明のキーワード抽出装置、文書検索装置及び文書分類装置の第1の実施の形態は、プログラム制御により動作するデータ処理装置1と、情報を記憶する記憶装置2とを含む構成である。
【0027】
記憶装置2は、ハイパーテキストデータベース21と、文書キーワード記憶部22とを備えている。ハイパーテキストデータベース21は、図2に示すようなハイパーリンクで構造化された文書群について、各文書のURL、ローカルアドレス、本文テキスト、リンク先文書とそのアンカー文字列などを記憶している。ハイパーテキストデータベース21の例としては、例えばインターネットまたはイントラネット上のウェブ(Web)がこれに該当する。
【0028】
文書キーワード記憶部22は、各文書について、後述の文書キーワード決定手段14が決定したキーワードを記憶する。文書キーワード決定手段14が決定するキーワードには、同一サイト内のリンクを遡って得られるアンカー文字列の系列(サイト内キーワード)と、異なるサイトからそのサイトのトップページへのリンクのアンカー文字列(サイト外キーワード)の2種類がある。
【0029】
ハイパーテキストデータベース21が図2のようなハイパーリンクで構造化された文書群の場合、文書キーワード記憶部22が記憶するキーワードの例は図3のようになる。図3において、文書キーワード記憶部22には、各文書が文書名とサイト外キーワードとサイト内キーワードとが対応付けて記憶されており、例えば文書15のサイト外キーワードとして「L203,L302」が、サイト内キーワードとして「L104←L101」が記憶されているのがわかる。
【0030】
一方、図1のデータ記憶装置1は、ハイパーテキストアクセス手段11と、文書クラスタ情報取得手段12と、対象指定手段13と、文書キーワード決定手段14とを備えている。
【0031】
ハイパーテキストアクセス手段11は、ハイパーテキストデータベース21に格納されている文書を読み出し、文書クラスタ情報取得手段12に渡す。ハイパーテキストデータベース21がWWWの場合、HTTP(Hyper Text Transfer Protocol)を介して文書にアクセスすることができる。このような機能は、従来、IE(Internet Explorer)などのWebブラウザ、あるいはWebクローラー(スパイダー/ロボット)において実現されている。
【0032】
文書クラスタ情報取得手段12は、ハイパーテキストアクセス手段11が読み出した文書に含まれるリンク情報を抽出し、対象指定手段13によって指定された条件に基づきサイトを構成する文書クラスタを特定し、文書参照関係表と文書クラスタ表を生成する。文書参照関係表の例を図4に、文書クラスタ表の例を図5に示す。
【0033】
図4に示すように、文書参照関係表は、アンカー文字列、リンク元文書及びリンク先文書が対応付けられた一覧表であり、例えば文書11から文書12に対してアンカー文字列「L101」のリンクがはられていることを示している。また、図5に示すように、文書クラスタ表は、文書クラスタ、トップページ及びクラスタ内文書が対応付けられた一覧表であり、例えば文書クラスタ「サイト1」のトップページは文書11で、クラスタ内には、文書12〜19が含まれていることを示している。
【0034】
図1のデータ処理装置1内の対象指定手段13は、同一サイトとみなすべき文書クラスタの条件を、文書クラスタ情報取得手段12に与える。対象指定手段13が与える条件には、「サイトのトップページの条件」と「同一サイトに含まれる文書の条件」を含む。例えば、同一ドメイン名のサーバーに格納された文書クラスタを一つのサイトとみなしたい場合、「サイトのトップページの条件」として、「文書のURLが『http://ドメイン名/』、または『http://ドメイン名/index.html』であるもの」と指定し、「同一サイトに含まれる文書の条件」として、「ドメイン名が同じ」と指定すればよい。
【0035】
データ処理装置1内の文書キーワード決定手段14は、文書クラスタ情報取得手段12によって生成された文書参照関係表と文書クラスタ表を参照しながら、同一文書クラスタ内を遡って得られるアンカー文字列の系列と、異なる文書クラスタからのリンクのアンカー文字列をその文書のキーワードとして決定し、文書キーワード記憶部22に格納する。
【0036】
次に、図1のブロック図乃至図6のフローチャートを併せ参照して第1の実施の形態の動作について、詳細に説明する。まず、ハイパーテキストアクセス手段11は、ハイパーテキストデータベース21に格納されている各文書を読み出し、文書クラスタ情報取得手段12に渡す。文書クラスタ情報取得手段12は、与えられた文書からリンク情報を抽出し、図4に示すような文書参照関係表を生成する(ステップS1)。
【0037】
次に、文書クラスタ情報取得手段12は、対象指定手段13により指定された「サイトのトップページの条件」に基づき、与えられた文書についてトップページか否かの判定を行う。ここで、トップページとは、ディレクトリ階層における位置関係から定まる文書クラスタ内の最上位文書である(図2の場合、サイト1では文書11、サイト3では文書31である。)。
【0038】
もし、トップページであれば図5に示す文書クラスタ表に1行追加して登録する(ステップS2)。例えば、「サイトのトップページの条件」として「文書のURLが『http://ドメイン名/』、または『http://ドメイン名/index.html』であるもの」と指定されていた場合、ドメイン名単位でトップページが文書クラスタ表に登録される。
【0039】
また、文書クラスタ情報取得手段12は、与えられた文書がトップページでないと判定した場合は、対象指定手段13により指定された「同一サイトに含まれる文書の条件」に基づき、トップページでないと判定された文書がどのサイトに属するかを決定し、図5に示す文書クラスタ表のクラスタ内文書に登録する(ステップS3)。例えば、「同一サイトに含まれる文書の条件」として、「ドメイン名が同じ」と指定されていた場合、トップページと同じドメイン名を持つ文書がクラスタ内文書に登録される。
【0040】
次に、文書キーワード決定手段14は、文書クラスタ情報取得手段12が生成した文書参照関係表と文書クラスタ表を参照して、各サイトのトップページに対してサイト外からはられているリンクのアンカー文字列をサイト外キーワードとして文書キーワード記憶部22に記憶させる(ステップS4)。
【0041】
さらに、文書キーワード決定手段14は、文書クラスタ情報取得手段12が生成した文書参照関係表と文書クラスタ表を参照して、各クラスタ内文書について、同一クラスタ内文書のリンクを遡って得られるアンカー文字列の系列をサイト内キーワードとして文書キーワード記憶部22に記憶させる(ステップS5)。この時、同一サイトに含まれている文書のサイト外キーワードは、そのサイトのトップページのサイト外キーワードと同じにする。したがって、図2の文書12〜文書19のサイト外キーワードは、文書11のサイト外キーワードと同一の「L203,L302」となる。
【0042】
また、リンクを遡る際に、一度遡った文書を覚えておき、ループして遡らないようにする。例えば、図2の文書16に対するリンクを単純に遡ると「L105←L102」というアンカー文字列の系列のほかに、「L105←L109」、「L105←L109←L105←L102」、「L105←L109←L105←L109←・・・」のようにループによって無数のアンカー文字列が生成されてしまう。そこで、一度遡った文書を同じアンカー文字列の系列内で二度遡らないようにしておくと、文書16のサイト内キーワードは「L105←L102」だけになる。
【0043】
一方、別のアンカー文字列の系列で同じ文書を遡る場合は、それぞれ別のキーワードとして登録する。例えば図2の文書19の場合、「L108←L104←L101」と「L110←L105←L102」はどちらも文書11に遡るアンカー文字列の系列であるが、別の系列であるため両方をサイト内キーワードとして記憶する。ここでも、「L110←L105←L109←L105←L102」というアンカー文字列の系列などが考えられるが、これは同一系列内で文書13と文書16をそれぞれ2回遡っているためサイト内キーワードとしては記憶しない。
【0044】
なお、本実施の形態では、ハイパーテキストアクセス手段11が記憶装置2に記憶されたハイパーテキストデータベース21にアクセスする方法について述べたが、他にもインターネットに直接アクセスし、記憶装置2にハイパーテキストデータベース21を記憶する方法もあり、本発明は本実施の形態で述べた方法に限定されない。
【0045】
また、本実施の形態では、対象指定手段13により指定される「サイトのトップページの条件」として「文書のURLが『http://ドメイン名/』、または『http://ドメイン名/index.html』であるもの」とし、「同一サイトに含まれる文書の条件」として「ドメイン名が同じ」である場合を例として説明を行った。しかし、「サイトのトップページの条件」として「異なるドメイン名のページからのリンクが一定数以上の文書」、「同一サイトに含まれる文書の条件」として「同一ドメインでトップページとURLのディレクトリ階層が同じか、深い文書」を指定する方法もある。また、習慣的にチルダ「 ̄」で始まるディレクトリ名は、そのサーバーを利用している各ユーザーのサイトであるとみなすこともできる。
【0046】
また、「サイトのトップページの条件」として「『Home Page』『Topへ』『最初に戻る』など、トップページを指すと考えられる表現のアンカー文字列を持つリンクのリンク先文書」とし、「同一サイトに含まれる条件」として「『Home Page』『Topへ』『最初に戻る』など、トップページを指すと考えられる表現のアンカー文字列を持つリンクのリンク元文書」とする方法もある。さらに、「サイトのトップページの条件」として、予め人手によって指定されたURLのリストを使う方法もあり、本実施の形態で述べた方法に限定されるものではない。
【0047】
また、本実施の形態では、文書キーワード決定手段14は、同一クラスタ内文書のリンクを遡って得られるアンカー文字列の系列をサイト内キーワードとしたが、トップページでない文書にサイト外からリンクがはられている場合、そのリンクを一つだけ遡ったアンカー文字列の系列もサイト内キーワードとして記憶してもよい。また、必ずしもトップページまでのリンクをすべて遡らずに、遡る数を指定したリンク数に限定する方法もあり、本実施の形態で述べた方法に限定されるものではない。
【0048】
また、本実施の形態では、文書キーワード決定手段14は、ループしたリンクのアンカー文字列の系列をサイト内キーワードから除いていた。しかし、他にも、「戻る」「Back」「Topへ」「Home Page」「前へ」「次へ」など、検索・分類に適切でないキーワードをあらかじめ辞書として持っておき、その文字列を含むアンカー文字列の系列はサイト内キーワードとして登録しない方法などもある。また、遡る文書数が一定以上に長くなったアンカー文字列の系列をサイト内キーワードとして登録しない方法や、遡る文書数が少ない上位s通りのアンカー文字列の系列のみをサイト内キーワードとして登録する方法などがあり、本実施の形態で述べた方法に限定されない。
【0049】
また、本実施の形態では、文書キーワード決定手段14はアンカー文字列を基にキーワードを決定しているが、アンカー文字列に加えて文書のタイトル、アンカー文字列周辺の一定長の文字列、アンカー文字列周辺のテーブルタグに囲まれた文字列、アンカー文字列周辺のリストタグに囲まれた文字列、アンカー文字列周辺の<BR>または<P>タグで囲まれた文字列、文書中の<H>タグやフォントサイズや色が強調された文字列も含めてキーワードとする方法もあり、本実施の形態で述べた方法に限定されない。
【0050】
また、本実施の形態では、文書キーワード記憶部22にサイト外キーワードとサイト内キーワードのみ記憶しているが、さらに文書のタイトル、本文テキストなどをキーワードとして記憶してもよく、本実施の形態で述べた方法に限定されない。また、本実施の形態では、トップページを特定するステップS2の後に文書クラスタを特定するステップS3を実行するとして動作を説明したが、先に文書クラスタを特定するステップS3を実行した後に、トップページを特定するステップS2を実行する方法もあり、本実施の形態で述べた方法に限定されない。
【0051】
また、本実施の形態では、サイト外キーワードを決定するステップS4の後にサイト内キーワードを決定するステップS5を実行するとして動作を説明したが、先にサイト内キーワードを決定するステップS5を実行した後に、サイト外キーワードを決定するステップS4を実行する方法もあり、本実施の形態で述べた方法に限定されない。
【0052】
次に、本発明の第1の実施の形態の効果について説明する。本実施の形態では、サイト全体の内容を表すサイト外からのリンクと、サイト内での文書の位置付けを表すサイト内のリンクをそれぞれ遡って得られるアンカー文字列の系列を、文書クラスタと文書との関係を特徴付ける単語群として抽出する。そのため、各文書について、サイト全体の内容とサイト内での文書の位置付けを反映したキーワードを得ることができる。
【0053】
[第2の実施の形態]
次に、本発明の第2の実施の形態について図面を参照して説明する。図7は本発明の第2の実施の形態のブロック図を示す。同図に示すように、本発明のキーワード抽出装置、文書検索装置及び文書分類装置の第2の実施の形態は、プログラム制御により動作するデータ処理装置5と、情報を記憶する記憶装置6と、入力手段3と出力手段4を含む構成である。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。
【0054】
本発明の第2の実施の形態は、データ処理装置5が、図1に示された第1の実施の形態におけるデータ処理装置1の構成に加え、インデックス作成手段15とインデックス検索手段16を有する点で異なる。また、記憶装置6が、図1に示された第1の実施の形態における記憶装置2の構成に加え、第1のインデックス記憶部23を有する点で異なる。さらに、図1に示された第1の実施の形態に加え、キーボード等の入力手段3とディスプレイ装置や印刷装置等の出力手段4を有する点で異なる。
【0055】
図7において、記憶装置6内の第1のインデックス記憶部23は、文書キーワード記憶部22のデータをもとにインデックス作成手段15が生成するインデックスを格納する。データ処理装置5内のインデックス作成手段15は、文書キーワード記憶部22に記憶されている各文書のサイト外キーワードとサイト内キーワードを読み出し、どのキーワードがどの文書のサイト外キーワードまたはサイト内キーワードに出現するかをインデックスとして作成し、第1のインデックス記憶部23に格納する。データ処理装置5内のインデックス検索手段16は、入力手段3から入力された検索条件に応じて、第1のインデックス記憶部23を検索しその結果を出力手段4に出力する。
【0056】
次に、第2の実施の形態の動作を、図面を参照して詳細に説明する。本実施の形態では、図8(A)に示すフローチャートによる登録処理と、図8(B)に示すフローチャートによる検索処理という動作のタイミングが異なる2種類の処理がある。検索処理は利用者からの入力がある度に行われるのに対し、登録処理は予め1回だけ行っておけばよい。
【0057】
まず、第2の実施の形態の登録処理について図8(A)のフローチャートと共に説明する。図8(A)中、図6と同一処理ステップには同一符号を付してある。すなわち、図8(A)に示す登録処理のフローチャート中、ステップS1〜S5で示される本実施の形態におけるハイパーテキストアクセス手段11、文書クラスタ情報取得手段12、対象指定手段13、文書キーワード決定手段14の動作は、第1の実施の形態の各手段11、12、13および14の動作と同一のため、説明は省略する。
【0058】
第1の実施の形態では、ステップS5でサイト内キーワードを決定した段階で処理を終了していた。本実施の形態では、ステップS5の結果生成された文書キーワードを基に、インデックス作成手段15がサイト外キーワードについて、どの語がどの文書に登録されているかという索引を作成する(ステップS6)。続いて、インデックス作成手段15は、サイト内キーワードについて、どの語がどの文書に登録されているかという索引を作成する(ステップS7)。これにより、登録処理を終了する。
【0059】
次に、検索処理について図8(B)のフローチャートと共に説明する。まず、入力手段3から検索条件が入力される(ステップT1)。検索条件として入力されるものとしては、キーワードの他にも、自然言語による質問文や、検索目的とする文書に類似した別の文書などがある。
【0060】
次に、インデックス検索手段16は、入力された検索条件から検索に使うキーワードn語を決定する(ステップT2)。キーワードの決定の方法には、文の分割とキーワード選定の二つの処理が含まれる。例えば、文の分割には形態素解析を用い、キーワードの選定では「の」などの付属語を除外した残りの語をキーワードとして使うなどの方法がある。
【0061】
次に、インデックス検索手段16は、n語に分割したキーワードのうち、サイト外キーワードに現れる語がないか調べる。現れていれば、そのキーワードm語(1≦m≦n−1)とその出現頻度、及びキーワードが現れた文書を検索結果候補として記憶しておく(ステップT3)。
【0062】
次に、インデックス検索手段16は、検索結果候補となった文書のうち、サイト内キーワードに、残りのn−m語が現れている文書と、キーワードの出現頻度を検索結果リストに追加登録し(ステップT4)、その検索結果リストをキーワードの出現頻度でソートし、出力手段4を使って利用者に検索結果を表示する(ステップT5)。
【0063】
なお、本発明は第2の実施の形態に限定されるものではなく、以下の種々の変形例も含むものである。すなわち、第2の実施の形態では、文書キーワード記憶部22にはサイト外キーワードとサイト内キーワードだけを記憶しているが、その他にサイトタイトルやサイト本文をキーワードとして記憶し、検索キーワード分割後に検索対象とする方法でもよい。また、本実施の形態では、検索結果リストをキーワードの出現頻度でソートしているが、サイト外キーワードでの出現頻度とサイト内キーワードでの出現頻度にそれぞれ異なる重みを掛けて、その結果でソートする方法を採用してもよい。
【0064】
また、本実施の形態では、検索方式/検索モデルをキーワードマッチによるものを想定しているが、検索方式/検索モデルとしては、ベクトル空間モデル、確率モデル、ANDやOR演算を行うブーリアンモデルなどの方法でもよい。
【0065】
また、本実施の形態では、サイト外キーワードの索引を作成するステップS6の後にサイト内キーワードの索引を作成するステップS7を実行しているが、サイト内キーワードの索引を作成するステップS7の後にサイト外キーワードの索引を作成するステップS6を実行してもよい。
【0066】
また、本実施の形態では、サイト外キーワードを決定するステップS4とサイト内キーワードを決定するステップS5の後にそれぞれサイト外キーワードの索引を作成するステップS6とサイト内キーワードの索引を作成するステップS7を実行しているが、サイト外キーワードを決定するステップS4の後にサイト外キーワードの索引を作成するステップS6を実行し、サイト内キーワードを決定するステップS5の後にサイト内キーワードの索引を作成するステップS7を実行してもよい。
【0067】
また、本実施の形態では、検索キーワードを決定するステップT2で、形態素解析を用いて文を分割する方法について述べたが、他にも漢字・英数字・カタカナ・ひらがななどの字種で分割する、一定文字数で分割する、スペースや句読点で分割する、「の」などの付属語で分割するなどの方法もあり、本実施の形態で述べた方法に限定されない。
【0068】
また、本実施の形態では、検索キーワードを決定するステップT2における、キーワード選定で「の」などの付属語を除外する方法について述べたが、他にも「情報」、「方法」など一般的な文書での出現頻度が高い語を不要語として除外するか、検索にヒットしても低いスコアの加算にとどめておき、逆に、一般的な文書における出現頻度に比較して質問文内での出現頻度が高い語を重要語として検索にヒットした場合にスコアを高いスコアを加算するなどの方法があり、本実施の形態で述べた方法に限定されない。
【0069】
また、本実施の形態では、サイト外キーワードを検索するステップT3で、キーワードが1語以上現れた場合に、その文書を検索結果候補として記憶する方法について述べたが、すべての文書ですべてのキーワードがヒットしなかった場合に、すべての文書を検索結果候補としてサイト内キーワードを検索するステップT4を実行する方法もある。また、サイト外キーワード、サイト内キーワードのどちらか一方でもヒットすれば検索結果リストに含めておき、検索結果を出力するステップT5で、サイト外、サイト内のいずれでヒットしたかによって文書のスコアの重みを変えてソートする方法もある。
【0070】
次に、第2の実施の形態の効果について説明する。本実施の形態では、サイト全体の内容を表すサイト外からのリンクと、サイト内での文書の位置付けを表すサイト内のリンクをそれぞれ遡って得られるアンカー文字列の系列を、文書クラスタと文書との関係を特徴付ける単語群として抽出し、インデックスを作成している。これにより、サイト全体の内容とサイト内での文書の位置付けを反映した検索を行うことができる。
【0071】
また、本実施の形態では、キーワードがスペースで分割されたり、「の」で接続されたり、複合語として検索条件に入力された場合に、そのキーワードを分割し、サイト全体の内容を表すサイト外からのリンクと、サイト内での文書の位置付けを表すサイト内のリンクをそれぞれ遡って得られるアンカー文字列の系列をそれぞれ検索している。これにより、サイト構造を反映した効果的な絞込み検索を行うことができる。
【0072】
[第3の実施の形態]
次に、本発明の第3の実施の形態について図面を参照して詳細に説明する。図9は本発明の第3の実施の形態のブロック図を示す。同図に示すように、本発明のキーワード抽出装置、文書検索装置及び文書分類装置の第3の実施の形態は、プログラム制御により動作するデータ処理装置7と、情報を記憶する記憶装置8とを含む構成である。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。
【0073】
本発明の第3の実施の形態は、図9に示すように、データ処理装置7が、図1に示された第1の実施の形態におけるデータ処理装置1の構成に加え、文書ベクトル作成手段17と、類似度計算手段18を有する点で異なる。また、記憶装置8が、図1に示された第1に示された第1の実施の形態における記憶装置2の構成に加え、文書ベクトル記憶部24、カテゴリ条件記憶部25、および分類結果記憶部26を有する点で異なる。
【0074】
文書ベクトル記憶部24には、文書キーワード記憶部22に格納されているキーワードを基に文書ベクトル作成手段17によって作成された、各文書の特徴ベクトルが記憶されている。文書の特徴ベクトルとは、例えば文書中に出現する各キーワードとその出現頻度を多次元ベクトルとして表現したものである。
【0075】
複数の文書について、それぞれ特徴ベクトルを決定しておけば、特徴ベクトル間のユークリッド距離や、特徴ベクトルがなす角度などから、文書間の類似度を計算することができる。また、あるカテゴリに属する複数の文書の特徴ベクトルの総和や重心を、そのカテゴリの特徴ベクトルと考え、カテゴリの特徴ベクトルと未分類の文書の特徴ベクトルの類似度を計算することによって、その文書がどのカテゴリに属するかを決定することもできる。
【0076】
カテゴリ条件記憶部25には、分類したいカテゴリについて、それぞれ特徴的なキーワードとその出現頻度が特徴ベクトルとして記憶されている。分類結果記憶部26には、類似度計算手段18によって文書ベクトルと各カテゴリの特徴ベクトルの余弦を計算した結果が記憶されている。この結果は、値が大きいほど文書がそのカテゴリに属すると判断できる。
【0077】
文書ベクトル作成手段17は、文書キーワード記憶部22に記憶されている文書キーワードを基に、各文書について、どのキーワードがどの部分(サイト外キーワードか、サイト内キーワードか、タイトルか、本文か等)に何回出現したかを文書ベクトルとして文書ベクトル記憶部24に記憶させる。
【0078】
類似度計算手段18は、文書ベクトル記憶部24に格納されている各文書の文書ベクトルについて、カテゴリ条件記憶部25に格納されている各カテゴリの特徴ベクトルとの余弦を計算し、その結果を分類結果記憶部26に格納する。
【0079】
次に、本実施の形態の動作を、図10のフローチャート共に詳細に説明する。図10中、図6と同一処理ステップには同一符号を付し、その説明を省略する。すなわち、図10のステップS1〜S5で示される本実施の形態におけるハイパーテキストアクセス手段11、文書クラスタ情報取得手段12、対象指定手段13、文書キーワード決定手段14の動作は、第1の実施の形態の各手段11、12、13及び14の動作と同一のため、説明は省略する。
【0080】
第1の実施の形態では、ステップS5でサイト内キーワードを決定した段階で処理を終了していた。本実施の形態では、ステップS5の結果生成された文書キーワードを基に、文書ベクトル作成手段17が、各文書について、どのキーワードがどの部分(サイト外キーワードか、サイト内キーワードか、タイトルか、本文か等)に何回出現したかを文書ベクトルとして文書ベクトル記憶部24に記憶させる(ステップS8)。
【0081】
次に、類似度計算手段18が文書ベクトル記憶部24に格納されている各文書の文書ベクトルについて、カテゴリ条件記憶部25に格納されている各カテゴリの特徴ベクトルとの余弦を計算し、その結果を分類結果記憶部26に格納する(ステップS9)。
【0082】
なお、本実施の形態では、文書ベクトルとしてキーワードと、その出現部分(サイト外キーワードか、サイト内キーワードか、タイトルか、本文か等)、および出現頻度を使ったが、特に出現部分の区別をしない方法や、出現部分によって出現頻度に重み付けを行う方法、あるいは出現頻度ではなく出現したか否かのみの情報を使う方法などを採用してもよい。
【0083】
また、本実施の形態では、文書の類似度計算としてベクトルの余弦をとっているが、類似度計算としてベクトル間のユークリッド距離を用いる方法でもよい。また、本実施の形態では、カテゴリ条件として各カテゴリの特徴ベクトルを指定している。しかし、カテゴリの特徴ベクトルを指定する代わりに、実際にカテゴリに含まれる文書を指定して教師データとし、SVMなどの機械学習を用いて学習した結果生成される学習モデルをカテゴリ条件として使い、類似度計算手段18でこの学習モデルを使って未学習の文書を分類する方法でもよい。SVMを用いた文書分類についての詳細は1988年、プロシーディングズ・オブ・テンス・ヨーロピアン・カンファレンス・オン・マシン・ラーニング、137〜142頁(Proceedings of 10th European Conference on Machine Learning, pp.137−I42, 1998)などに記載されている。
【0084】
次に、第3の実施の形態の効果について説明する。本実施の形態では、サイト全体の内容を表すサイト外からのリンクと、サイト内での文書の位置付けを表すサイト内のリンクをそれぞれ遡って得られるアンカー文字列の系列を、文書クラスタと文事との関係を特徴付ける単語群として抽出し、文書ベクトルを作成している。これにより、サイト全体の内容とサイト内での文書の位置付けを反映した分類を行うことができる。
【0085】
[第4の実施の形態]
次に、本発明の第4の実施の形態について図面を参照して詳細に説明する。図11は本発明の第4の実施の形態のブロック図を示す。同図に示すように、本発明のキーワード抽出装置、文書検索装置及び文書分類装置の第4の実施の形態は、プログラム制御により動作するデータ処理装置9と、情報を記憶する記憶装置11と、入力手段3と出力手段4を含む構成である。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。
【0086】
図11に示すように、本発明の第4の実施の形態は、データ処理装置9が、図7に示された第2の実施の形態におけるデータ処理装置5の構成から、ハイパーテキストアクセス手段11、文書クラスタ情報取得手段12、対象指定手段13、文書キーワード決定手段14、インデックス作成手段15を除いている点で異なる。また、記憶装置10が、図7に示された第2の実施の形態における記憶装置6の構成から、ハイパーテキストデータベース21、文書キーワード記憶部22を除き、新たに第2のインデックス記憶部27を有する点で異なる。
【0087】
第1のインデックス記憶部23には、文書の内容を表すメタ情報としてサイト外キーワードとサイト内キーワードの索引が記憶されている。また、第2のインデックス記憶部27には、文書の本文中に出現したキーワードの索引が記憶されている。
【0088】
次に、本実施の形態の動作を図12のフローチャートを参照して詳細に説明する。なお、図12中、図8(B)と同一処理ステップには同一符号を付し、その説明を省略する。図12のステップTl、T2及びステップT5で示される本実施の形態におけるインデックス検索手段16の動作は、第2の実施の形態におけるインデックス検索手段16の動作と同一のため、説明は省略する。
【0089】
第2の実施の形態では、キーワードを決定するステップT2の後、インデックス検索手段16はサイト外キーワードとサイト内キーワードをそれぞれ検索していた。本実施の形態では、インデックス検索手段16はサイト外キーワードとサイト内キーワードの索引である第1のインデックスを検索し、文書の本文中に出現したキーワードの索引である第2のインデックスをそれぞれ検索する。
【0090】
まず、インデックス検索手段16は、ステップT2でn語に決定したキーワードのうち、第1のインデックス記憶部23に登録された語(第1のインデックス)がないか検索する。登録されていれば、そのキーワードm語(1≦m≦n−1)と、その出現頻度およびキーワードが現れた文書を検索結果候補として記憶しておく(ステップU3)。
【0091】
次に、インデックス検索手段16は、検索結果候補となった各文書の残りのn−m語のうち、第2のインデックス記憶部27に登録された語(第2のインデックス)がないか検索し、登録されていれば、その登録されている文書と、キーワードの出現頻度を検索結果リストに追加登録する(ステップU4)。その後、インデックス検索手段16は、上記の検索結果リストをキーワードの出現頻度でソートし、出力手段4を使って利用者に検索結果を表示する(ステップT5)。
【0092】
なお、本発明はこの実施の形態に限定されるものではなく、以下の種々の変形例が可能である。すなわち、第4の実施の形態では、検索結果リストをキーワードの出現頻度でソートしているが、第1のインデックスでの出現頻度と第2のインデックスでの出現頻度にそれぞれ異なる重みを掛けて総和をとり、その結果でソートしてもよい。また、本実施の形態では、第1のインデックス記憶部23には、ハイパーテキストから抽出されたサイト外キーワードとサイト内キーワードが登録されているとしたが、文書の内容を表すメタ情報中に出現するキーワードであってもよい。例えば、検索対象が学術論文である場合、引用元論文内での紹介文がこのメタ情報にあたる。また、検索対象が書籍である場合、書誌事項や書籍の紹介記事などがこのメタ情報にあたる。
【0093】
また、本実施の形態では、検索結果リストをキーワードの出現頻度でソートしているが、第1のインデックスでの出現頻度と第2のインデックスでの出現頻度にそれぞれ異なる重みを掛けて、その結果でソートするようにしてもよい。また、本実施の形態では、第1のインデックスを検索するステップU3で、キーワードが1語以上現れた場合に、その文書を検索結果候補として記憶する方法について述べたが、すべての文書ですべてのキーワードがヒットしなかった場合に、すべての文書を検索結果候補として第2のインデックスを検索するステップU4を実行する方法もある。
【0094】
また、第1のインデックス、第2のインデックスのどちらか一方でもヒットすれば検索結果リストに含めておき、検索結果を出力するステップT5で、第1のインデックスと第2のインデックスのいずれでヒットしたかによって、文書スコアの重みを変えてソートする方法もあり、本実施の形態で述べた方法に限定されない。
【0095】
次に、本実施の形態の効果について説明する。本実地の形態では、文書の内容を表すメタ情報に含まれるキーワードから第1のインデックスを作成し、これを優先して検索している。これにより、文書の内容を反映した検索を行うことができる。
【0096】
また、本実施の形態では、キーワードがスペースで分割されたり、「の」で接続されたり、複合語として検索条件に入力された場合に、そのキーワードを分割し、第1のインデックスと第2のインデックスをそれぞれ検索している。これにより、文書の内容を反映した効果的な絞り込み検索を行うことができる。
【0097】
[第5の実施の形態]
次に本発明の第5の実施の形態について図画を参照して詳細に説明する。図13は、本発明の第5の実施の形態のブロック図を示す。同図に示すように、本発明のキーワード抽出装置の第5の実施の形態は、入力装置31、データ処理装置32、出力装置33、記憶装置34を備え、さらに、前述の第1の実施の形態のキーワード抽出装置を実現するためのプログラムを記録した記録媒体30を備える。この記録媒体30は、磁気ディスク、半導体メモリ、CD−ROMその他の記録媒体のいずれでもよい。
【0098】
入力装置31は、マウス、キーボード等、操作者からの指示を入力するための装置である。また、出力装置33は、データ処理装置32による処理結果を出力する装置で、例えば表示装置、プリンタ等である。キーワード抽出装置を実現するためのプログラムは、記録媒体30からデータ処理装置32に読み込まれ、データ処理装置32の動作を制御し、記憶装置34に入力メモリ35とワークメモリ36を生成する。データ処理装置32は、キーワード抽出装置を実現するためのプログラムの制御により第1の実施の形態と同一の処理を実行する。
【0099】
図1におけるデータ処理装置1と図13におけるデータ処理装置32が対応し、図1における記憶装置2と図13における記憶装置34が対応する。ただし、処理対象となるハイパーテキストデータベース21は、記録媒体30から読み込む形態の他に、データ処理装置32によって外部にあるデータベースにネットワーク(例えばインターネット)を介してアクセスして取得する形態であってもよい。
【0100】
[第6の実施の形態]
次に、本発明の第6の実施の形態について図面を参照して詳細に説明する。第6の実施の形態は、第5の実施の形態と同様に、図13の構成を用いる。文書検索装置を実現するためのプログラムが、記録媒体30からデータ処理装置32に読み込まれ、データ処理装置32の動作を制御する。データ処理装置32は、文書検索装置を実現するためのプログラムの制御により第2の実施の形態と同一の処理を実行する。
【0101】
図7におけるデータ処理装置5と図13におけるデータ処理装置32が対応し、図7における記憶装置6と図13における記憶装置34が対応する。ただし、処理対象となるハイパーテキストデータベース21は、記録媒体30から読み込む形態の他に、データ処理装置32によって外部にあるデータベースにネットワーク(例えばインターネット)を介してアクセスして取得する形態であってもよい。
【0102】
なお、ここでは、図7におけるハイパーテキストアクセス手段11、文書クラスタ情報取得手段12、対象指定手段13、文書キーワード決定手段14、インデックス作成手段15、インデックス検索手段16のすべてが1つの記録媒体30からデータ処理装置32によって読み込まれる形態で説明したが、複数の記録媒体に分割して記録されていてもよい。例えば、ハイパーテキストアクセス手段11、文書クラスタ情報取得手段12、対象指定手段13、文書キーワード決定手段14のプログラムは、第5の実施の形態の記録媒体から読み込むようにし、それ以外のインデックス作成手段15とインデックス検索手段16のプログラムは別の記録媒体としてもよい。さらには、インデックス作成手段15のプログラムとインデックス検索手段16のプログラムが別の記録媒体に分けて構成されていてもよい。
【0103】
[第7の実施の形態]
次に本発明の第7の実施の形態について図面を参照して詳細に説明する。第7の実施の形態は、第5、第6の実施の形態と同様に、図13の構成を用いる。文書分類装置を実現するためのプログラムが記録媒体30からデータ処理装置32に読み込まれ、データ処理装置32の動作を制御する。データ処理装置32は、文書分類装置を実現するためのプログラムの制御により第3の実施の形態と同一の処理を実行する。
【0104】
図9におけるデータ処理装置7と図13におけるデータ処理装置32が対応し、図9における記憶装置8と図13における記憶装置34が対応する。ただし、処理対象となるハイパーテキストデータベース21は、記録媒体30から読み込む形態の他に、データ処理装置32によって外部にあるデータベースにネットワーク(例えばインターネット)を介してアクセスして取得する形態であってもよい。
【0105】
なお、ここでは、図9におけるハイパーテキストアクセス手段11、文書クラスタ情報取得手段12、対象指定手段13、文書キーワード決定手段14、文書ベクトル作成手段17、類似度計算手段18のすべてが1つの記録媒体30からデータ処理装置32に読み込まれる形態で説明したが、複数の記録媒体に分割して記録されていてもよい。
【0106】
例えば、ハイパーテキストアクセス手段11、文書クラスタ情報取得手段12、対象指定手段13、文書キーワード決定手段14のプログラムは、第5の実施の形態の記録媒体から読み込むようにし、それ以外の文書ベクトル作成手段17と類似度計算手段18のプログラムは別の記録媒体として構成されていてもよい。さらには、文書ベクトル作成手段17のプログラムと類似度計算手段18のプログラムが別の記録媒体に分けて構成されていてもよい。
【0107】
[第8の実施の形態]
次に、本発明の第8の実施の形態について図面を参照して詳細に説明する。第8の実施の形態は、第5、第6、第7の実施の形態と同様に、図13の構成を用いる。文書検索装置を実現するためのプログラムが、記録媒体30からデータ処理装置32に読み込まれ、データ処理装置32の動作を制御する。データ処理装置32は、文書検索装置を実現するためのプログラムの制御により第4の実施の形態と同一の処理を実行する。図11におけるデータ処理装置9と図13におけるデータ処理装置32が対応し、図11における記録装置10と図13における記録装置34が対応する。
【0108】
【実施例】
[第1の実施例]
次に、本発明の第1の実施例を、図面を参照して説明する。この第1の実施例は本発明の第1の実施の形態に対応するものである。本実施例は、図1に示したデータ処理装置1としてパーソナルコンピュータを、記憶装置2として磁気ディスク記憶装置を備えている。
【0109】
パーソナルコンピュータは、図1に示したハイパーテキストアクセス手段11、文書クラスタ情報取得手段12、対象指定手段13、文書キーワード決定手段14として機能する中央演算装置を有している。また、磁気ディスク記憶装置には、図1に示したハイパーテキストデータベース21、文書キーワード記憶部22が記憶されている。ハイパーテキストデータベース21に格納されているハイパーテキスト群の一例を図14に示す。
【0110】
まず、ハイパーテキストアクセス手段11はハイパーテキストデータベース21に格納されている各文書を読み出し、文書クラスタ情報取得手段12に渡す。文書クラスタ情報取得手段12は、与えられた文書からリンク情報を抽出し、図15に示すような、アンカー文字列とリンク元文書とリンク先文書とが対応付けられた文書参照関係表を生成する。
【0111】
次に、文書クラスタ情報取得手段12は、対象指定手段13に指定された「サイトのトップページの条件」と「同一サイトに含まれる文書の条件」に基づき、図16に示すような、文書クラスタとトップページとクラスタ内文書とが対応付けられた文書クラスタ表を生成する。なお、本実施例では、「サイトのトップページの条件」として「文書のURLが『http://ドメイン名/』、または『http://ドメイン名/index.html』であるもの」とし、「同一サイトに含まれる文書の条件」として、「ドメイン名が同じ」としている。
【0112】
次に、文書キーワード決定手段14は、文書クラスタ情報取得手段12が生成した文書参照関係表と文書クラスタ表を参照して、各サイトのトップページに対してサイト外からはられているリンクのアンカー文字列をサイト外キーワードとし、各クラスク内文書について、同一クラスタ内文書のリンクを遡って得られるアンカー文字列の系列をサイト内キーワードとして文書キーワード記憶部22に記憶させる。得られる文書キーワードの例を図17に示す。
【0113】
なお、本実施例では、同一サイトに含まれている文書のサイト外キーワードは、そのサイトのトップページのサイト外キーワードと同じにする。したがって、図14の文書112〜文書119のサイト外キーワードは、文書111のサイト外キーワードと同一の「グルメ情報,レストラン検索」となる。
【0114】
また、リンクを遡る際に、一度遡った文書を覚えておき、ループして遡らないようにする。例えば、図14の文書116に対するリンクを単純に遡ると「東京都←関東」というアンカー文字列の系列のほかに、「東京都←関東←戻る←東京都←関東」、「東京都←関東←戻る←東京都←関東←戻る←東京都・・・」のようにループによって無数のアンカー文字列が生成されてしまう。そこで、一度遡った文書を同じアンカー文字列の系列内で二度遡らないようにする。したがって、文書116のサイト内キーワードは「戻る」を含まないことになる。
【0115】
また、本実施例では、トップページでないページへのサイト外からのリンクを一つだけ遡ってサイト内キーワードに含めるようにしている。したがって、文書116のサイト内キーワードには「東京都←関東」と「東京のお勧め店」の2種類になる。図14の文書119についても同様の方法で登録するが、別のアンカー文字列の系列で同じ文書を遡る場合は、それぞれ別のキーワードとしで登録する。
【0116】
すなわち、「中華←東京都←関東」と「中華←大阪府←関西」はどちらも文書111に遡るアンカー文字列の系列であるが、別の系列であるため両方をサイト内キーワードとしで記憶する。ここでも、「中華←東京都←関東←戻る←東京都←関東」というアンカー文字列の系列などが考えられるが、これは同一系列内で文書113と文書116をそれぞれ2回遡っているためサイト内キーワードとしては記憶しない。また、トップページでないページへのサイト外からのリンクを一つだけ遡ってサイト内キーワードに含めるようにしているため、「中華←東京のお勧め店」も文書119のサイト内キーワードとして記憶される。
【0117】
[第2の実施例]
次に、本発明の第2の実施例を、図面を参照して説明する。この第2の実施例は本発明の第2の実施の形態に対応するものである。本実施例は図7に示した第2の実施の形態におけるデータ処理装置5としてパーソナルコンピュータを、記憶装置6として磁気ディスク記憶装置を備えている。
【0118】
上記のパーソナルコンピュータの中央演算装置は、第1の実施例と同様の機能を有するが、これに加えて図7に示したインデックス作成手段15、インデックス検索手段16としても機能する点で第1の実施例と異なる。また、入力装置としてキーボードを、出力装置としてディスプレイを備える点で第1の実施例と異なる。また、磁気ディスク記憶装置には、図7に示した第1のインデックス記憶部23も記憶される点で第1の実施例と異なる。本実施例のハイパーテキストデータベース21に格納されているハイパーテキスト群の一例を図14に示す。
【0119】
本実施例では、登録と検索という動作のタイミングが異なる2種類の処理がある。検索は利用者からの入力がある度に行われるのに対し、登録は予め1回だけ行っておけばよい。登録処理では、まず、ハイパーテキストアクセス手段11はハイパーテキストデータベース21に格納されている各文書を読み出し、文書クラスタ情報取得手段12に渡す。文書クラスタ情報取得手段12は、与えられた文書からリンク情報を抽出し、図15に示すような文書参照関係表を生成する。
【0120】
次に、文書クラスタ情報取得手段12は、対象指定手段13に指定された「サイトのトップページの条件」と「同一サイトに含まれる文書の条件」に基づき、図16に示すような文書クラスタ表を生成する。なお、本実施例では、「サイトのトップページの条件」として「文書のURLが『http://ドメイン名/』、または『http://ドメイン名/index.html』であるもの」とし、「同一サイトに含まれる文書の条件」としている。
【0121】
次に、文書キーワード決定手段14は、文書クラスタ情報取得手段12が生成した文書参照関係表と文書クラスタ表を参照して、各サイトのトップページに対してサイト外からはられているリンクのアンカー文字列をサイト外キーワードとし、各クラスタ内文書について、同一クラスタ内文書のリンクを遡って得られるアンカー文字列の系列をサイト内キーワードとして文書キーワード記憶部22に記憶させる。得られる文書キーワードの例を図17に示す。
【0122】
なお、本実施例では、同一サイトに含まれている文書のサイト外キーワードは、そのサイトのトップページのサイト外キーワードと同じにする。したがって、図14の文書112〜文書119のサイト外キーワードは文書111のサイト外キーワードと同一の「グルメ情報,レストラン検索」となる。
【0123】
また、リンクを遡る際に、一度遡った文書を覚えておき、ループして遡らないようにする。例えば、図14の文書116に対するリンクを単純に遡ると「東京都←関東」というアンカー文字列の系列のほかに、「東京都←関東←戻る←東京都←関東」、「東京都←関東←戻る←東京都・・・」のようにループによって無数のアンカー文字列が生成されてしまう。そこで、一度遡った文書を同じアンカー文字列の系列内で二度遡らないようにする。したがって、文書116のサイト内キーワードは「戻る」を含まないことになる。
【0124】
また、本実施例では、トップページでないページへのサイト外からのリンクを一つだけ遡ってサイト内キーワードに含めるようにしている。したがって、文書116のサイト内キーワードには「東京都←関東」と「東京のお勧め店」の2種類になる。図14の文書119についても同様の方法で登録するが別のアンカー文字列の系列で同じ文書を遡る場合は、それぞれ別のキーワードとして登録する。
【0125】
すなわち、「中華←東京都←関東」と「中華←大阪府←関西」はどちらも文書111に遡るアンカー文字列の系列であるが、別の系列であるため両方をサイト内キーワードとして記憶する。ここでも、「中華←東京都←関東←戻る←東京都←関東」というアンカー文字列の系列などが考えられるが、これは同一系列内で文書113と文書116をそれぞれ2回遡っているためサイト内キーワードとしては記憶しない。また、トップページでないページへのサイト外からのリンクを一つだけ遡ってサイト内キーワードに含めるようにしているため、「中華←東京のお勧め店」も文書119のサイト内キーワードとして記憶される。
【0126】
次に、インデックス作成手段15は、サイト外キーワードについて、どの語がどの文書に登録されているかという索引を作成し、続いて、サイト内キーワードについて、どの語がどの文書に登録されているかという索引を作成する。
【0127】
次に、検索処理の詳細な説明を行う。今、キーボードから「奈良 グルメ」という検索条件が入力されたとする。すると、インデックス検索手段16は、検索条件を、スペースや「の」で区切り、あるいは形態素解析を行うことによって、「奈良」と「グルメ」の2つのキーワードに分割する。
【0128】
次に、インデックス検索手段16は、「奈良」、「グルメ」のうち、サイト外キーワードに現れる語がないか調べる。現れていれば、そのキーワードとその出現頻度およびキーワードが現れた文書を検索結果候補として記憶しておく。文書キーワードが図17の場合、「グルメ」が文書111〜119のサイト外キーワードにそれぞれ1回ずつ現れているので、検索結果候補とする。
【0129】
次に、インデックス検索手段16は、検索結果候補となった文書のうち、サイト内キーワードに、残りの「奈良」が現れている文書と、キーワードの出現頻度を検索結果リストに追加登録する。文書キーワードが図17の場合、検索結果候補となった文書111〜119のうち、サイト内キーワードに「奈良」が出現しているのは文書114、文書117、文書118である。キーワード「奈良」の出現頻度はいずれも1回である。最後に、インデックス検索手段16は、検索結果リストをキーワードの出現頻度でソートし、ディスプレイを使って利用者に検索結果を表示する。
【0130】
なお、本実施例では、文書114、文書117、文書118でのキーワードの出現頻度はいずれも1回であるが、出現位置(サイト外キーワードか、サイト内キーワードか、サイト内キーワード中、でも最初の方か、本文か)に応じて出現頻度に重みをつけたスコアを用いて検索結果をソートしてもよい。
【0131】
また、キーボードから「奈良グルメ検索」という検索条件が入力されたとする。すると、インデックス検索手段16は、検索条件をスペースや「の」で区切り、あるいは形態素解析を行うことによって、「奈良」、「グルメ」、「検索」に分割する。
【0132】
次に、インデックス検索手段16は、「奈良」、「グルメ」、「検索」のうち、サイト外キーワードに現れる語がないか調べる。現れていれば、そのキーワードとその出現頻度およびキーワードが現れた文書を検索結果候補として記憶しておく。文書キーワードが図17の場合、「グルメ」、「検索」が文書111〜文書119のサイト外キーワードにそれぞれ1回ずつ現れているので、検索結果候補とする。
【0133】
次に、インデックス検索手段16は、検索結果候補となった文書のうち、サイト内キーワードに、残りの「奈良」が現れている文書と、キーワードの出現頻度を検索結果リストに追加登録する。文書キーワードが図17の場合、検索結果候補となった文書111〜文書119のうち、サイト内キーワードに「奈良」が出現しているのは文書114、文書117、文書118である。キーワード「奈良」の出現頻度はいずれも1回である。最後に、インデックス検索手段16は、検索結果リストをキーワードの出現頻度でソートし、ディスプレイを使って利用者に検索結果を表示する。
【0134】
なお、本実施例では、文書114、文書117、文書118でのキーワードの出現頻度はいずれも1回であるが、出現位置(サイト外キーワードか、サイト内キーワードか、サイト内キーワード中でも最初の方か、本文か)に応じて出現頻度に重みをつけたスコアを用いて検索結果をソートしてもよい。
【0135】
また、キーボードから「奈良 中華」という検索条件が入力されたとする。次に、インデックス検索手段16は、検索条件をスペースや「の」で区切り、あるいは形態素解析を行うことによって、「奈良」、「中華」に分割する。
【0136】
次に、インデックス検索手段16は、「奈良」、「中華」のうち、サイト外キーワードに現れる語がないか調べる。現れていれば、そのキーワードとその出現頻度およびキーワードが現れた文書を検索結果候補として記憶しておく。文書キーワードが図17の場合、「奈良」も「中華」もサイト外キーワードとして現れていない。
【0137】
次に、インデックス検索手段16は、すべての文書のうち、サイト内キーワードに、「奈良」と「中華」が現れている文書と、キーワードの出現頻度を検索結果リストに追加登録する。文書キーワードが図17の場合、文書117に「奈良」と「中華」がそれぞれ1回ずつ出現しているため、文書117が検索結果リストに登録される。最後に、インデックス検索手段16は、検索結果リストをキーワードの出現頻度でソートし、ディスプレイを使って利用者に検索結果を表示する。
【0138】
また、キーボードから「中華レストラン」という検索条件が入力されたとする。すると、インデックス検索手段は、検索条件をスペースや「の」で区切り、あるいは形態素解析を行うことによって、「中華」、「レストラン」に分割する。
【0139】
次に、インデックス検索手段16は、「中華」、「レストラン」のうち、サイト外キーワードに現れる語がないか調べる。現れていれば、そのキーワードとその出現頻度およびキーワードが現れた文書を検索結果候補として記憶しておく。文書キーワードが図17の場合、「レストラン」が文書111〜文書119のサイト外キーワードにそれぞれ1回ずつ現れているので、検索結果候補とする。
【0140】
次に、インデックス検索手段16は、検索結果候補となった文書のうち、サイト内キーワードに、残りの「中華」が現れている文書と、キーワードの出現頻度を検索結果リストに追加登録する。文書キーワードが図17の場合、検索結果候補となった文書111〜文書119のうち、サイト内キーワードに「中華」が出現しているのは文書117と文書119であり、キーワード「中華」の出現頻度はそれぞれ1回、3回である。最後に、インデックス検索手段は、検索結果リストをキーワードの出現頻度でソートし、ディスプレイを使って利用者に検索結果を表示する。
【0141】
なお、本実施例では、文書119のサイト内キーワードを「中華←大阪府←関西」、「中華←東京都←関東」、「中華←東京のお勧め店」の3通りであるとして「中華」の出現頻度を3回と数えたが、いずれの「中華」も同一のリンクが由来となっているため、出現頻度を1回と数えてもよい。あるいは、文書119のサイト内キーワードを「中華←大阪府,東京都,東京のお勧め店←関西,関東」として記憶しておき、「中華」の出現頻度を1回と数えてもよい。
【0142】
[第3の実施例]
次に、本発明の第3の実施例を、図面を参照して説明する。この第3の実施例は、本発明の第3の実施の形態に対応するものである。本実施例は第1の実施例と同様に、図9に示した第3の実施の形態のデータ処理装置9をパーソナルコンピュータとし、記憶装置8を磁気ディスク記憶装置とした構成であるが、パーソナルコンピュータの中央演算装置が、図9に示した文書ベクトル作成手段17、類似度計算手段18としても機能する点で第1の実施例と異なる。また、磁気ディスク記憶装置には、図9に示した文書ベクトル記憶部24、カテゴリ条件記憶部25、および分類結果記憶部26も記憶される点で第1の実施例と異なる。
【0143】
次に、本実施の形態の動作について説明する。まず、ハイパーテキストアクセス手段(図9の11)はハイパーテキストデータベース(図9の21)に格納されている各文書を読み出し、文書クラスタ情報取得手段(図9の12)に渡す。ここで、ハイパーテキストデータベース21に格納されているハイパーテキスト群の一例を図14に示す。文書クラスタ情報取得手段12は、与えられた文書からリンク情報を抽出し、図15に示すような文書参照関係表を生成する。
【0144】
次に、文書クラスタ情報取得手段12は、対象指定手段(図9の13)に指定された「サイトのトップページの条件」と「同一サイトに含まれる文書の条件」に基づき、図16に示すような文書クラスタ表を生成する。なお、本実施例では、「サイトのトップページの条件」として「文書のURLが『http://ドメイン名/』、または『http://ドメイン名/index.html』であるもの」とし、「同一サイトに含まれる文書の条件」として、「ドメイン名が同じ」としている。
【0145】
次に、文書キーワード決定手段(図9の14)は、文書クラスタ情報取得手段12が生成した文書参照関係表と文書クラスタ表を参照して、各サイトのトップページに対してサイト外からはられているリンクのアンカー文字列の系列をサイト外キーワードとし、各クラスタ内文書について、同一クラスタ内文書のリンクを遡って得られるアンカー文字列の系列をサイト内キーワードとして文書キーワード記憶部(図9の22)に記憶させる。得られる文書キーワードの例を図17に示す。
【0146】
なお、本実施例では、同一サイトに含まれている文書のサイト外キーワードは、そのサイトのトップページのサイト外キーワードと同じにする。したがって、図14の文書112〜文書119のサイト外キーワードは文書111のサイト外キーワードと同一の「グルメ情報,レストラン検索」となる。
【0147】
また、リンクを遡る際に、一度遡った文書を覚えておき、ループして遡らないようにする。例えば、図14の文書116に対するリンクを単純に遡ると「東京都←関東」というアンカー文字列の系列のほかに、「東京都←関東←戻る←東京都←関東」、「東京都←関東←戻る←東京都←関東←戻る←東京都・・・」のようにループによって無数のアンカー文字列が生成されてしまう。そこで、一度遡った文書を同じアンカー文字列の系列内で二度遡らないようにする。したがって、文書116のサイト内キーワードは「戻る」を含まないことになる。
【0148】
また、本実施例では、トップページでないページへのサイト外からのリンクを一つだけ遡ってサイト内キーワードに含めるようにしている。したがって、文書116のサイト内キーワードには「東京都←関東」と「東京都のお勧め店」の2種類になる。図14の文書119についても同様の方法で登録するが、別のアンカー文字列の系列で同じ文書を遡る場合は、それぞれ別のキーワードとして登録する。
【0149】
すなわち、「中華←東京都←関東」と「中華←大阪府←関西」はどちらも文書111に遡るアンカー文字列の系列であるが、別の系列であるため両方をサイト内キーワードとして記憶する。ここでも、「中華←東京都←関東←戻る←東京都←関東」というアンカー文字列の系列などが考えられるが、これは同一系列内で文書113と文書116をそれぞれ2回遡っているためサイト内キーワードとしては記憶しない。また、トップページでないページへのサイト外からのリンクを一つだけ遡ってサイト内キーワードに含めるようにしているため、「中華←東京のお勧め店」も文書119のサイト内キーワードとして記憶される。
【0150】
次に、文書ベクトル作成手段17は、各文書について、どのキーワードがどの部分(サイト外キーワードか、サイト内キーワードか、タイトルか、本文か等)に何回出現したかを文書ベクトルとして文書ベクトル記憶部24に記憶させる。
【0151】
そして、類似度計算手段18が文書ベクトル記憶部24に格納されている各文書の文書ベクトルについて、カテゴリ条件記憶部25に格納されている各カテゴリの特徴ベクトルとの余弦を計算し、その結果を分類記憶部26に格納する。
【0152】
[第4の実施例]
次に、本発明の第4の実施例を、図面を参照して説明する。この第4の実施例は、本発明の第4の実施の形態に対応するものである。本実施例は図11に示した第4の実施の形態のデータ処理装置9をパーソナルコンピュータで構成し、記憶装置10を磁気ディスク記憶装置で構成した点は第2の実施例と同様であるが、パーソナルコンピュータの中央演算装置が、インデックス検索手段としてしか機能しない点で第2の実施例と異なる。また、磁気ディスク記憶装置には、ハイパーテキストデータベース、文書キーワード記憶部が記憶されない代わりに、図11に示した第2のインデックス記憶部27が記憶される点で第2の実施例と異なる。
【0153】
図11に示した第1のインデックス記憶部23に記憶されている文書のメタ情報から作成されたインデックスの一例を図18に示す。図18には、キーワードと出現する文書、および出現頻度が記録されており、例えば、キーワード「ホテル」で登録されている文書は文書211、文書212、文書214で、それぞれキーワード「ホテル」の出現頻度は3回、1回、5回であることが分かる。
【0154】
また、第2のインデックス記憶部27に記憶されている文書の本文から作成されたインデックスの一例を図19に示す。第2のインデックスの形式も第1のインデックスと同様で、キーワードと出現する文書、および出現頻度が記録されており、例えば、キーワード「東京」で登録されている文書は文書212、文書213、文書214、文書217、文書218、文書219で、それぞれキーワード「東京」の出現頻度は1回、4回、6回、8回、1回、2回であることが分かる。
【0155】
今、キーボードから検索条件「奈良グルメ」が入力されたとする。すると、インデックス検索手段16は、検索条件をスペースや「の」で区切り、あるいは形態素解析を行うことによって、「奈良」と「グルメ」のキーワードに分割する。
【0156】
次に、インデックス検索手段16は、キーワード「奈良」と「グルメ」のうち、第1のインデックス記憶部23に登録された語がないか調べる。登録されていれば、そのキーワードとその出現頻度およびキーワードが現れた文書を検索結果候補として記憶しておく。第1のインデックスが図18の場合、「グルメ」が登録されているので、文書211、文書212、文書213、文書214が検索結果候補となる。
【0157】
次に、インデックス検索手段16は、検索結果候補となった文書のうち、第2のインデックス記憶部27に、残りの「奈良」が登録されている文書と、キーワードの出現頻度を検索結果リストに追加登録する。第2のインデックスが図19の場合、検索結果候補の文書211、文書212、文書213、文書214のうち、「奈良」は文書213にだけ現れているため、文書213が検索結果リストに登録される。
【0158】
次に、インデックス検索手段16は、検索結果リストをキーワードの出現頻度でソートし、ディスプレイに検索結果を表示する。この場合、検索結果として出力されるのは検索結果リストに登録されている文書213である。
【0159】
また、キーボードから検索条件「大阪の図書館」が入力されたとする。すると、インデックス検索手段16は、検索キーワードをスペースや「の」で区切り、あるいは形態素解析を行うことによって、「大阪」と「図書館」のキーワードに分割する。
【0160】
次に、インデックス検索手段16は、キーワード「大阪」と「図書館」のうち、第1のインデックス記憶部23に登録された語がないか調べる。登録されていれば、そのキーワードとその出現頻度およびキーワードが現れた文書を検索結果候補として記憶しておく。第1のインデックスが図18の場合、「図書館」が登録されている、文書215、文書216、文書217、文書218、文書219が検索結果候補となる。キーワード「図書館」の出現頻度は、それぞれ1回、5回、2回、7回、4回である。
【0161】
次に、インデックス検索手段16は、検索結果候補となった文書のうち、第2のインデックス記憶部27に、残りの「大阪」が登録されている文書と、キーワードの出現頻度を検索結果リストに追加登録する。第2のインデックスが図19の場合、検索結果候補の文書215、文書216、文書217、文書218、文書219のうち、キーワード「大阪」は文書216、文書217、文書219に現れており、「大阪」の出現頻度はそれぞれ2回、4回、8回である。
【0162】
次に、インデックス検索手段16は、検索結果リストをキーワードの出現頻度でソートし、ディスプレイに検索結果を表示する。キーワード「図書館」、「大阪」の出現頻度の合計は、文書216では7回、文書217では6回、文書219では12回であるので、ディスプレイには文書219、文書216、文書217の順序で表示される。
【0163】
なお、本実施例では単純にキーワードの出現頻度の合計でソートしたが、第1のキーワードインデックスでのキーワード出現頻度と、第2のキーワードインデックスでのキーワード出現頻度にそれぞれ別の重みを掛けて合計して得られるスコアを基準にソートしてもよい。
【0164】
【発明の効果】
以上説明したように、本発明によれば、以下の種々の効果を奏する
(1)ハイパーテキスト群に対してサイト全体の内容とサイト内での文書の位置付けを反映した検索・分類を行うことができる。その理由は、サイト全体の内容を表すサイト外からのリンクと、サイト内での文書の位置付けを表すサイト内のリンクをそれぞれ遡って得られるアンカー文字列の系列を、文書クラスタと文書との関係を特徴付ける単語群として抽出し、検索・分類対象とするからである。
【0165】
(2)複数キーワードに対する効果的な絞り込み検索を行うことができる。その理由は、キーワードがスペースで分割されたり、「の」で接続されたり、複合語として、検索条件に入力された場合に、そのキーワードを分割し、文書の内容を表すメタ情報としてのキーワードと文書本体のキーワードを別々に検索するからである。
【0166】
(3)一般的な文書に対しても、文書の内容と意味付けを反映した検索を行うことができる。その理由は、文書の内容を表すメタ情報中のキーワードと、文書中のキーワードを区別し、それぞれ別のインデックスとして検索を行うからである。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態の構成を示すブロック図である。
【図2】本発明の第1の実施の形態におけるハイパーテキストデータベースが記憶するハイパーテキスト群の一例を示す図である。
【図3】本発明の第1の実施の形態における文書キーワード記憶部が記憶する文書キーワードの一例を示す図である。
【図4】本発明の第1の実施の形態における文書クラスタ情報取得部が生成する文書参照関係表の一例を示す図である。
【図5】本発明の第1の実施の形態における文書クラスタ情報取得部が生成する文書クラスタ表の一例を示す図である。
【図6】本発明の第1の実施の形態の動作を示すフローチャートである。
【図7】本発明の第2の実施の形態の構成を示すブロック図である。
【図8】本発明の第2の実施の形態の動作を示すフローチャートである。
【図9】本発明の第3の実施の形態の構成を示すブロック図である。
【図10】本発明の第3の実施の形態の動作を示すフローチャートである。
【図11】本発明の第4の実施の形態の構成を示すブロック図である。
【図12】本発明の第4の実施の形態の動作を示すフローチャートである。
【図13】本発明の第5〜8の実施の形態の構成を示すブロック図である。
【図14】本発明の第1の実施例におけるハイパーテキストデータベースが記憶するハイパーテキスト群の一例を示す図である。
【図15】本発明の第1の実施例における文書クラスタ情報取得部が生成する文書参照関係表の一例を示す図である。
【図16】本発明の第1の実施例における文書クラスタ情報取得部が生成する文書クラスタ表の一例を示す図である。
【図17】本発明の第1の実施例における文書キーワード記憶部が記憶する文書キーワードの一例を示す図である。
【図18】本発明の第4の実施例における第1のインデックス記憶部が記憶するインデックスの一例を示す図である。
【図19】本発明の第4の実施例における第2のインデックス記憶部が記憶するインデックスの一例を示す図である。
【符号の説明】
1、5、7 データ処理装置
2、6、8 記憶装置
3 入力手段
4 出力手段
11 ハイパーテキストアクセス手段
12 文書クラスタ情報取得手段
13 対象指定手段
14 文書キーワード決定手段
15 インデックス作成手段
16 インデックス検索手段
17 文書ベクトル作成手段
18 類似度計算手段
21 ハイパーテキストデータベース
22 文書キーワード記憶部
23 第1のインデックス記憶部
24 文書ベクトル記憶部
25 カテゴリ条件記憶部
26 分類結果記憶部
27 第2のインデックス記憶部
30 記憶媒体
31 入力装置
32 データ処理装置
33 出力装置
34 記憶装置
35 入力メモリ
36 ワークメモリ

Claims (64)

  1. ハイパーテキストデータベースを構成する1文書に対して該文書の特徴を表す単語群である文書キーワードを出力するキーワード抽出装置において、
    前記ハイパーテキストデータベース内の文書を含む文書クラスタと該文書との関係を特徴付ける単語群を、前記文書キーワードに含めて出力することを特徴とするキーワード抽出装置。
  2. ハイパーテキストデータベースを構成する1文書に対して該文書の特徴を表す単語群である文書キーワードを出力するキーワード抽出装置において、
    前記ハイパーテキストデータベース内の文書を含む文書クラスタと該文書との関係を特徴付ける単語群、及び該文書自体の内容を特徴付ける単語群を、前記文書キーワードに含めて出力することを特徴とするキーワード抽出装置。
  3. ハイパーテキストデータベースを構成する1文書に対して該文書の特徴を表す単語群である文書キーワードを出力するキーワード抽出装置において、
    前記ハイパーテキストデータベース内の文書を含む文書クラスタと該文書に関わる情報を取得する文書クラスタ情報取得手段と、
    前記文書クラスタと前記文書との関係を特徴付ける単語群を抽出する文書キーワード決定手段と
    を備えることを特徴とするキーワード抽出装置。
  4. ハイパーテキストデータベースを構成する1文書に対して該文書の特徴を表す単語群である文書キーワードを出力するキーワード抽出装置において、
    前記ハイパーテキストデータベース内の文書を含む文書クラスタと該文書に関わる情報を取得する文書クラスタ情報取得手段と、
    前記文書クラスタと前記文書との関係を特徴付ける単語群及び該文書自体の内容を特徴付ける単語群を抽出する文書キーワード決定手段と
    を備えることを特徴とするキーワード抽出装置。
  5. 前記文書クラスタ情報取得手段は、指定された文書に関わる情報、及び指定された文書クラスタに関わる情報を取得する手段であることを特徴とする請求項3又は4記載のキーワード抽出装置。
  6. 前記文書クラスタ情報取得手段は、指定された文書に関わる情報を取得するとともに、該文書を含む文書クラスタの範囲を決定した上で、該文書クラスタに関わる情報を取得する手段であることを特徴とする請求項3又は4記載のキーワード抽出装置。
  7. 前記文書クラスタ情報取得手段は、前記文書クラスタの範囲を、前記文書が格納されているサーバーのドメイン名、または文書へのハイパーリンクの数やアンカー文字列、または前記文書の格納されているディレクトリ階層、または利用者によって予め指定された文書リストに基づいて決定することを特徴とする請求項6記載のキーワード抽出装置。
  8. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内において、該文書へのハイパーリンクを複数段遡って得られるアンカー文字列の系列から抽出されることを特徴とする請求項1乃至7のうちいずれか一項記載のキーワード抽出装置。
  9. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列から抽出されることを特徴とする請求項1乃至7のうちいずれか一項記載のキーワード抽出装置。
  10. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列と、該文書クラスタ内の最上位文書に対する別の文書クラスタからのハイパーリンクに対応するアンカー文字列から抽出されることを特徴とする請求項1乃至7のうちいずれか一項記載のキーワード抽出装置。
  11. ハイパーテキストデータベースを構成する各文書の特徴を表す単語群を登録したインデックスと、入力された検索条件とを照合して該当文書を出力する文書検索装置において、
    前記各文書について、前記ハイパーテキストデータベース内の該文書を含む文書クラスタと該文書との関係を特徴付ける単語群を、前記インデックスに登録することを特徴とする文書検索装置。
  12. ハイパーテキストデータベースを構成する各文書の特徴を表す単語群を登録したインデックスと、入力された検索条件とを照合して該当文書を出力する文書検索装置において、
    前記各文書について、前記ハイパーテキストデータベース内の該文書を含む文書クラスタと該文書との関係を特徴付ける単語群、及び該文書自体の内容を特徴付ける単語群を、前記インデックスに登録することを特徴とする文書検索装置。
  13. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内において、該文書へのハイパーリンクを複数段遡って得られるアンカー文字列の系列から抽出することを特徴とする請求項11又は12記載の文書検索装置。
  14. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列から抽出することを特徴とする請求項11又は12記載の文書検索装置。
  15. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列と、該文書クラスタ内の最上位文書に対する別の文書クラスタからのハイパーリンクに対応するアンカー文字列から抽出することを特徴とする請求項11又は12記載の文書検索装置。
  16. ハイパーテキストデータベース中の指定された文書が予め定義されたカテゴリのいずれに該当するかを、該文書の特徴を表す単語群である文書キーワードを用いた類似度計算によって決定する文書分類装置において、
    前記ハイパーテキストデータベース内の該文書を含む文書クラスタと該文書との関係を特徴付ける単語群を、前記文書キーワードに含めて類似度計算に用いることを特徴とする文書分類装置。
  17. ハイパーテキストデータベース中の指定された文書が予め定義されたカテゴリのいずれに該当するかを、該文書の特徴を表す単語群である文書キーワードを用いた類似度計算によって決定する文書分類装置において、
    前記ハイパーテキストデータベース内の該文書を含む文書クラスタと該文書との関係を特徴付ける単語群、及び該文書自体の内容を特徴付ける単語群を、前記文書キーワードに含めて類似度計算に用いることを特徴とする文書分類装置。
  18. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内において、該文書へのハイパーリンクを複数段遡って得られるアンカー文字列の系列から抽出することを特徴とする請求項16又は17記載の文書分類装置。
  19. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列から抽出することを特徴とする請求項16又は17記載の文書分類装置。
  20. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列と、該文書クラスタ内の最上位文書に対する別の文書クラスタからのハイパーリンクに対応するアンカー文字列から抽出することを特徴とする請求項16又は17記載の文書分類装置。
  21. 入力されたキーワード条件に合致する文書群を検索する文書検索装置において、
    各文書の特徴を表す単語群が分けて登録される第1のインデックス記憶手段及び第2のインデックス記憶手段と、
    前記キーワード条件にn個(n≧2)のキーワードが含まれる場合に、該n個のキーワードのうちのm個(1≦m≦n−1)は前記第1のインデックス記憶手段でヒットし、残りのn−m個は前記第2のインデックス記憶手段でヒットした文書を検索結果として出力するインデックス検索手段と
    を備えることを特徴とする文書検索装置。
  22. 入力された検索条件文に合致する文書群を検索する文書検索装置において、
    各文書の特徴を表す単語群が分けて登録される第1のインデックス記憶手段及び第2のインデックス記憶手段と、
    前記検索条件文が「の」で連結された2個のキーワードからなる場合に、該2個のキーワードの一方が前記第1のインデックス記憶手段でヒットし、もう一方のキーワードが前記第2のインデックス記憶手段でヒットした文書を検索結果として出力するインデックス検索手段と
    を備えることを特徴とする文書検索装置。
  23. 前記インデックス検索手段は、前記第1のインデックス記憶手段でヒットしたキーワードに関する適合度スコアと、前記第2のインデックス記憶手段でヒットしたキーワードに関する適合度スコアとを、異なる重み付けをして文書の適合度スコアに反映させ、該文書の適合度スコアの順に検索結果を出力することを特徴とする請求項21又は22記載の文書検索装置。
  24. 前記第1のインデックス記憶手段は、各文書について、ハイパーテキストデータベース内の該文書を含む文書クラスタと該文書との関係を特徴付ける単語群を登録し、前記第2のインデックス記憶手段は、各文書について、該文書自体の内容を特徴付ける単語群を登録することを特徴とする請求項21乃至23のうちいずれか一項記載の文書検索装置。
  25. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内において、該文書へのハイパーリンクを複数段遡って得られるアンカー文字列の系列から抽出することを特徴とする請求項24記載の文書検索装置。
  26. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列から抽出することを特徴とする請求項24記載の文書検索装置。
  27. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列と、該文書クラスタ内の最上位文書に対する別の文書クラスタからのハイパーリンクに対応するアンカー文字列の系列から抽出することを特徴とする請求項24記載の文書検索装置。
  28. ハイパーテキストデータベースを構成する1文書に対して該文書の特徴を表す単語群である文書キーワードを出力するキーワード抽出方法において、
    前記ハイパーテキストデータベース内の該文書を含む文書クラスタと該文書との関係を特徴付ける単語群を、前記文書キーワードに含めて出力することを特徴とするキーワード抽出方法。
  29. ハイパーテキストデータベースを構成する1文書に対して該文書の特徴を表す単語群である文書キーワードを出力するキーワード抽出方法において、
    前記ハイパーテキストデータベース内の該文書を含む文書クラスタと該文書との関係を特徴付ける単語群、及び該文書自体の内容を特徴付ける単語群を、前記文書キーワードに含めて出力することを特徴とするキーワード抽出方法。
  30. ハイパーテキストデータベースを構成する1文書に対して該文書の特徴を表す単語群である文書キーワードを出力するキーワード抽出方法において、
    前記ハイパーテキストデータベース内の該文書を含む文書クラスタと該文書に関わる情報を取得する文書クラスタ情報取得ステップと、
    前記文書クラスタと前記文書との関係を特徴付ける単語群を抽出する文書キーワード決定ステップと
    を含むことを特徴とするキーワード抽出方法。
  31. ハイパーテキストデータベースを構成する1文書に対して該文書の特徴を表す単語群である文書キーワードを出力するキーワード抽出方法において、
    前記ハイパーテキストデータベース内の該文書を含む文書クラスタと該文書に関わる情報を取得する文書クラスタ情報取得ステップと、
    前記文書クラスタと前記文書との関係を特徴付ける単語群及び該文書自体の内容を特徴付ける単語群を抽出する文書キーワード決定ステップと
    を含むことを特徴とするキーワード抽出方法。
  32. 前記文書クラスタ情報取得ステップは、指定された文書に関わる情報、及び指定された文書クラスタに関わる情報を取得することを特徴とする請求項30又は31記載のキーワード抽出方法。
  33. 前記文書クラスタ情報取得ステップは、指定された文書に関わる情報を取得するとともに、該文書を含む文書クラスタの範囲を決定した上で、該文書クラスタに関わる情報を取得することを特徴とする請求項30又は31記載のキーワード抽出方法。
  34. 前記文書クラスタの範囲は、前記文書が格納されているサーバーのドメイン名、または前記文書へのハイパーリンクの数やアンカー文字列、または前記文書の格納されているディレクトリ階層、または利用者によってあらかじめ指定された文書リストに基づいて決定されることを特徴とする請求項33記載のキーワード抽出方法。
  35. 前記文書キーワード決定ステップは、前記文書クラスタと前記文書との関係を特徴付ける単語群を、該文書クラスタ内において、該文書へのハイパーリンクを複数段遡って得られるアンカー文字列の系列から抽出することを特徴とする請求項28乃至34のうちいずれか一項記載のキーワード抽出方法。
  36. 前記文書キーワード決定ステップは、前記文書クラスタと前記文書との関係を特徴付ける単語群を、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列から抽出することを特徴とする請求項28乃至34のうちいずれか一項記載のキーワード抽出方法。
  37. 前記文書キーワード決定ステップは、前記文書クラスタと前記文書との関係を特徴付ける単語群を、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列と、該文書クラスタ内の最上位文書に対する別の文書クラスタからのハイパーリンクに対応するアンカー文字列から抽出することを特徴とする請求項28乃至34のうちいずれか一項記載のキーワード抽出方法。
  38. ハイパーテキストデータベースを構成する各文書の特徴を表す単語群を登録したインデックスと入力された検索条件とを照合して該文書を出力する文書検索方法において、
    前記各文書について、前記ハイパーテキスト内の該文書を含む文書クラスタと該文書との関係を特徴付ける単語群を、前記インデックスに登録することを特徴とする文書検索方法。
  39. ハイパーテキストデータベースを構成する各文書の特徴を表す単語群を登録したインデックスと入力された検索条件とを照合して該文書を出力する文書検索方法において、
    前記各文書について、前記ハイパーテキスト内の該文書を含む文書クラスタと該文書との関係を特徴付ける単語群、及び該文書自体の内容を特徴付ける単語群を、前記インデックスに登録することを特徴とする文書検索方法。
  40. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内において、該文書へのハイパーリンクを複数段遡って得られるアンカー文字列の系列から抽出することを特徴とする請求項38又は39記載の文書検索方法。
  41. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列から抽出することを特徴とする請求項38又は39記載の文書検索方法。
  42. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列と、該文書クラスタ内の最上位文書に対する別の文書クラスタからのハイパーリンクに対応するアンカー文字列から抽出することを特徴とする請求項38又は39記載の文書検索方法。
  43. ハイパーテキストデータベース中の指定された文書が予め定義されたカテゴリのいずれに該当するかを該文書の特徴を表す単語群である文書キーワードを用いた類似度計算によって決定する文書分類方法において、
    前記ハイパーテキスト内の前記文書を含む文書クラスタと該文書との関係を特徴付ける単語群を、前記文書キーワードに含めて類似度計算に用いることを特徴とする文書分類方法。
  44. ハイパーテキストデータベース中の指定された文書が予め定義されたカテゴリのいずれに該当するかを該文書の特徴を表す単語群である文書キーワードを用いた類似度計算によって決定する文書分類方法において、
    前記ハイパーテキスト内の前記文書を含む文書クラスタと該文書との関係を特徴付ける単語群、及び該文書自体の内容を特徴付ける単語群を、前記文書キーワードに含めて類似度計算に用いることを特徴とする文書分類方法。
  45. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内において該文書へのハイパーリンクを複数段遡って得られるアンカー文字列の系列から抽出することを特徴とする請求項43又は44記載の文書分類方法。
  46. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列から抽出することを特徴とする請求項43又は44記載の文書分類方法。
  47. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列と、該文書クラスタ内の最上位文書に対する別の文書クラスタからのハイパーリンクに対応するアンカー文字列から抽出することを特徴とする請求項44記載の文書分類方法。
  48. 入力されたキーワード条件に合致する文書群を検索する文書検索方法において、
    各文書の特徴を表す単語群を第1のインデックスと第2のインデックスに分けて登録する登録ステップと、
    前記キーワード条件にn個(n≧2)のキーワードが含まれる場合に、該n個のキーワードのうちのm個(1≦m≦n−1)は前記第1のインデックスでヒットし、残りのn−m個は前記第2のインデックスでヒットした文書を検索結果として出力するインデックス検索ステップと
    を含むことを特徴とする文書検索方法。
  49. 入力された検索条件文に合致する文書群を検索する文書検索方法において、
    各文書の特徴を表す単語群を第1のインデックスと、第2のインデックスに分けて登録する登録ステップと、
    前記検索条件文が「の」で連結された2個のキーワードからなる場合に、該2個のキーワードの一方が前記第1のインデックスでヒットし、もう一方のキーワードが前記第2のインデックスでヒットした文書を検索結果として出力するインデックス検索ステップと
    を含むことを特徴とする文書検索方法。
  50. 前記インデックス検索ステップは、前記第1のインデックスでヒットしたキーワードに関する適合度スコアと、前記第2のインデックスでヒットしたキーワードに関する適合度スコアとを、異なる重み付けして文書の適合度スコアに反映させ、該文書の適合度スコアの順に検索結果を出力することを特徴とする請求項48又は49記載の文書検索方法。
  51. 前記登録ステップは、各文書について、ハイパーテキストデータベース内の該文書を含む文書クラスタと該文書との関係を特徴付ける単語群を前記第1のインデックスとして登録し、各文書について、該文書自体の内容を特徴付ける単語群を前記第2のインデックスとして登録することを特徴とする請求項48乃至50のうちいずれか一項記載の文書検索方法。
  52. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内において、該文書へのハイパーリンクを複数段遡って得られるアンカー文字列の系列から抽出した単語群であることを特徴とする請求項51記載の文書検索方法。
  53. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列から抽出した単語群であることを特徴とする請求項51記載の文書検索方法。
  54. 前記文書クラスタと前記文書との関係を特徴付ける単語群は、該文書クラスタ内のハイパーリンク関係および/またはディレクトリ階層における位置関係から定まる該文書クラスタ内の最上位文書から、対象の文書に至る複数段のハイパーリンクに対応するアンカー文字列の系列と、該文書クラスタ内の最上位文書に対する別の文書クラスタからのハイパーリンクに対応するアンカー文字列から抽出した単語群であることを特徴とする請求項51記載の文書検索方法。
  55. コンピュータに、ハイパーテキストデータベースを構成する1文書に対して該文書の特徴を表す単語群である文書キーワードを出力する機能を実現させるための文書キーワード抽出用プログラムにおいて、
    前記コンピュータを、前記ハイパーテキストデータベース内の該文書を含む文書クラスタと該文書との関係を特徴付ける単語群を、前記文書キーワードに含めて出力する手段として機能させることを特徴とするプログラム。
  56. コンピュータに、ハイパーテキストデータベースを構成する1文書に対して該文書の特徴を表す単語群である文書キーワードを出力する機能を実現させるための文書キーワード抽出用プログラムにおいて、
    前記コンピュータを、前記ハイパーテキストデータベース内の該文書を含む文書クラスタと該文書との関係を特徴付ける単語群、及び該文書自体の内容を特徴付ける単語群を、前記文書キーワードに含めて出力する手段として機能させることを特徴とするプログラム。
  57. コンピュータに、ハイパーテキストデータベースを構成する1文書に対して該文書の特徴を表す単語群である文書キーワードを出力する機能を実現させるための文書キーワード抽出プログラムにおいて、
    前記コンピュータを、前記ハイパーテキストデータベース内の前記文書を含む文書クラスタと該文書に関わる情報を取得する文書クラスタ情報処理手段と、該文書クラスタと該文書との関係を特徴付ける単語群を抽出する文書キーワード決定処理手段として機能させることを特徴とするプログラム。
  58. コンピュータに、ハイパーテキストデータベースを構成する1文書に対して該文書の特徴を表す単語群である文書キーワードを出力する機能を実現させるための文書キーワード抽出プログラムにおいて、
    前記コンピュータを、前記ハイパーテキストデータベース内の前記文書を含む文書クラスタと該文書に関わる情報を取得する文書クラスタ情報処理手段と、該文書クラスタと該文書との関係を特徴付ける単語群及び該文書自体の内容を特徴付ける単語群を抽出する文書キーワード決定処理手段として機能させることを特徴とするプログラム。
  59. コンピュータに、ハイパーテキストデータベースを構成する各文書の特徴を表す単語群を登録したインデックスと入力された検索条件とを照合して該当文書を出力する機能を実現させるための文書検索用プログラムにおいて、
    前記コンピュータを、前記各文書について、前記ハイパーテキスト内の前記文書を含む文書クラスタと該文書との関係を特徴付ける単語群を、前記インデックスに登録する手段として機能させることを特徴とするプログラム。
  60. コンピュータに、ハイパーテキストデータベースを構成する各文書の特徴を表す単語群を登録したインデックスと入力された検索条件とを照合して該当文書を出力する機能を実現させるための文書検索用プログラムにおいて、
    前記コンピュータを、前記各文書について、前記ハイパーテキスト内の前記文書を含む文書クラスタと該文書との関係を特徴付ける単語群、及び該文書自体の内容を特徴付ける単語群を、前記インデックスに登録する手段として機能させることを特徴とするプログラム。
  61. コンピュータに、ハイパーテキストデータベース中の指定された文書が予め定義されたカテゴリのいずれに該当するかを該文書の特徴を表す単語群である文書キーワードを用いた類似度計算によって決定する機能を実現させるための文書分類用プログラムにおいて、
    前記コンピュータを、前記ハイパーテキストデータベース内の前記文書を含む文書クラスタと該文書との関係を特徴付ける単語群を、前記キーワードに含めて類似度計算に用いる手段として機能させることを特徴とするプログラム。
  62. コンピュータに、ハイパーテキストデータベース中の指定された文書が予め定義されたカテゴリのいずれに該当するかを該文書の特徴を表す単語群である文書キーワードを用いた類似度計算によって決定する機能を実現させるための文書分類用プログラムにおいて、
    前記コンピュータを、前記ハイパーテキストデータベース内の前記文書を含む文書クラスタと該文書との関係を特徴付ける単語群、及び該文書自体の内容を特徴付ける単語群を、前記文書キーワードに含めて類似度計算に用いる手段として機能させることを特徴とするプログラム。
  63. コンピュータに、入力されたキーワード条件に合致する文書群を検索する機能を実現させるための文書検索用プログラムにおいて、
    前記コンピュータを、各文書の特徴を表す単語群を第1のインデックスと第2のインデックスに分けて登録する登録手段と、前記キーワード条件にn個(n≧2)のキーワードが含まれる場合に、該n個のキーワードのうちのm個(1≦m≦n−1)は前記第1のインデックスでヒットし、残りのn−m個は前記第2のインデックスでヒットした文書を検索結果として出力するインデックス検索処理手段として機能させることを特徴とするプログラム。
  64. コンピュータに、入力された検索条件文に合致する文書群を検索する機能を実現させるための文書検索用プログラムにおいて、
    前記コンピュータを、各文書の特徴を表す単語群を第1のインデックスと第2のインデックスに分けて登録する登録手段と、前記検索条件文が「の」で連結された2個のキーワードからなる場合に、該2個のキーワードの一方が前記第1のインデックスでヒットし、もう一方のキーワードが前記第2のインデックスでヒットした文書を検索結果として出力するインデックス検索処理手段として機能させることを特徴とするプログラム。
JP2002236195A 2002-08-14 2002-08-14 キーワード決定装置、決定方法、文書検索装置、検索方法、文書分類装置及び分類方法並びにプログラム Expired - Fee Related JP4423841B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002236195A JP4423841B2 (ja) 2002-08-14 2002-08-14 キーワード決定装置、決定方法、文書検索装置、検索方法、文書分類装置及び分類方法並びにプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002236195A JP4423841B2 (ja) 2002-08-14 2002-08-14 キーワード決定装置、決定方法、文書検索装置、検索方法、文書分類装置及び分類方法並びにプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2008287280A Division JP4826622B2 (ja) 2008-11-10 2008-11-10 文書検索装置、検索方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2004078446A true JP2004078446A (ja) 2004-03-11
JP4423841B2 JP4423841B2 (ja) 2010-03-03

Family

ID=32020441

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002236195A Expired - Fee Related JP4423841B2 (ja) 2002-08-14 2002-08-14 キーワード決定装置、決定方法、文書検索装置、検索方法、文書分類装置及び分類方法並びにプログラム

Country Status (1)

Country Link
JP (1) JP4423841B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007058782A (ja) * 2005-08-26 2007-03-08 Fujitsu Ltd 情報検索装置および情報検索方法
JPWO2005121982A1 (ja) * 2004-06-14 2008-04-10 日本電気株式会社 情報提供システム、方法、プログラム、情報通信端末、および情報表示切り替えプログラム
JP2008293384A (ja) * 2007-05-25 2008-12-04 Fuji Xerox Co Ltd 情報処理装置及び制御プログラム
JP2010186474A (ja) * 2009-02-12 2010-08-26 Nhn Corp 関連度辞書を用いた検索モデリングシステムおよび方法
JP2011002972A (ja) * 2009-06-18 2011-01-06 Yahoo Japan Corp クエリ分析装置、クエリ分析方法及びプログラム、並びに情報検索装置
JP2013500541A (ja) * 2009-07-30 2013-01-07 アルカテル−ルーセント ウェブ・ページへのキーワード割り当て
WO2014141452A1 (ja) * 2013-03-14 2014-09-18 株式会社 東芝 文書分析装置及び文書分析プログラム
CN107066626A (zh) * 2017-05-15 2017-08-18 惠州市德赛工业研究院有限公司 一种终端收藏夹文件下载存储、分类管理方法及装置
JP2020204988A (ja) * 2019-06-19 2020-12-24 株式会社コムスクエア オペレータ支持システム、オペレータ支持方法、及び、オペレータ支持プログラム
WO2023058099A1 (ja) * 2021-10-04 2023-04-13 富士通株式会社 処理方法、処理プログラムおよび情報処理装置

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2005121982A1 (ja) * 2004-06-14 2008-04-10 日本電気株式会社 情報提供システム、方法、プログラム、情報通信端末、および情報表示切り替えプログラム
JP2007058782A (ja) * 2005-08-26 2007-03-08 Fujitsu Ltd 情報検索装置および情報検索方法
JP2008293384A (ja) * 2007-05-25 2008-12-04 Fuji Xerox Co Ltd 情報処理装置及び制御プログラム
JP2010186474A (ja) * 2009-02-12 2010-08-26 Nhn Corp 関連度辞書を用いた検索モデリングシステムおよび方法
JP2011002972A (ja) * 2009-06-18 2011-01-06 Yahoo Japan Corp クエリ分析装置、クエリ分析方法及びプログラム、並びに情報検索装置
US8959091B2 (en) 2009-07-30 2015-02-17 Alcatel Lucent Keyword assignment to a web page
JP2013500541A (ja) * 2009-07-30 2013-01-07 アルカテル−ルーセント ウェブ・ページへのキーワード割り当て
WO2014141452A1 (ja) * 2013-03-14 2014-09-18 株式会社 東芝 文書分析装置及び文書分析プログラム
JP6039057B2 (ja) * 2013-03-14 2016-12-07 株式会社東芝 文書分析装置及び文書分析プログラム
US10713292B2 (en) 2013-03-14 2020-07-14 Kabushiki Kaisha Toshiba Document analysis apparatus and document analysis program
CN107066626A (zh) * 2017-05-15 2017-08-18 惠州市德赛工业研究院有限公司 一种终端收藏夹文件下载存储、分类管理方法及装置
JP2020204988A (ja) * 2019-06-19 2020-12-24 株式会社コムスクエア オペレータ支持システム、オペレータ支持方法、及び、オペレータ支持プログラム
WO2023058099A1 (ja) * 2021-10-04 2023-04-13 富士通株式会社 処理方法、処理プログラムおよび情報処理装置

Also Published As

Publication number Publication date
JP4423841B2 (ja) 2010-03-03

Similar Documents

Publication Publication Date Title
Efthymiou et al. Matching web tables with knowledge base entities: from entity lookups to entity embeddings
CN108415902B (zh) 一种基于搜索引擎的命名实体链接方法
Markov et al. Data mining the Web: uncovering patterns in Web content, structure, and usage
Brin et al. What can you do with a web in your pocket?
JP3719415B2 (ja) 情報検索方法、情報検索システム、およびプログラム
Fernandez et al. Semantic search meets the web
KR101450358B1 (ko) 구조형 지리적 데이터 검색
KR100957080B1 (ko) 문서 구조에 기초한 검색 결과의 표시
US20090248707A1 (en) Site-specific information-type detection methods and systems
KR20060002831A (ko) 인터랙티브 검색 쿼리 개선 시스템 및 방법
KR20160124079A (ko) 인-메모리 데이터베이스 탐색을 위한 시스템 및 방법
Caverlee et al. Probe, cluster, and discover: Focused extraction of qa-pagelets from the deep web
US20120078907A1 (en) Keyword presentation apparatus and method
JP4423841B2 (ja) キーワード決定装置、決定方法、文書検索装置、検索方法、文書分類装置及び分類方法並びにプログラム
JP4826622B2 (ja) 文書検索装置、検索方法及びプログラム
Boughareb et al. A graph-based tag recommendation for just abstracted scientific articles tagging
EP1410265A2 (en) Information retrieval using enhanced document vectors
JP4057962B2 (ja) 質問応答装置、質問応答方法及びプログラム
CN112100500A (zh) 范例学习驱动的内容关联网站发掘方法
US20080033953A1 (en) Method to search transactional web pages
JP2010282403A (ja) 文書検索方法
Zhou et al. DoCQS: a prototype system for supporting data-oriented content query
JP4384736B2 (ja) 画像検索装置およびその装置の各手段としてコンピュータを機能させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体
Chen et al. White page construction from web pages for finding people on the Internet
Jakob et al. Dcbot: Finding spatial information on the web

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080909

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081110

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090602

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090826

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20090914

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091117

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091130

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121218

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121218

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131218

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees