JP2003271648A - 検索装置、検索方法、ならびに、プログラム - Google Patents

検索装置、検索方法、ならびに、プログラム

Info

Publication number
JP2003271648A
JP2003271648A JP2002076543A JP2002076543A JP2003271648A JP 2003271648 A JP2003271648 A JP 2003271648A JP 2002076543 A JP2002076543 A JP 2002076543A JP 2002076543 A JP2002076543 A JP 2002076543A JP 2003271648 A JP2003271648 A JP 2003271648A
Authority
JP
Japan
Prior art keywords
search
group
groups
score
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002076543A
Other languages
English (en)
Other versions
JP4230710B2 (ja
Inventor
Sumio Fujita
澄男 藤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JustSystems Corp
Original Assignee
JustSystems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JustSystems Corp filed Critical JustSystems Corp
Priority to JP2002076543A priority Critical patent/JP4230710B2/ja
Publication of JP2003271648A publication Critical patent/JP2003271648A/ja
Application granted granted Critical
Publication of JP4230710B2 publication Critical patent/JP4230710B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

(57)【要約】 【課題】 高速な検索を行うのに好適な検索装置等を提
供する。 【解決手段】 検索装置201のグループ分割部202
は、検索対象文書を複数のグループに分割し、索引部2
03は、グループのそれぞれについて、当該グループ
と、こに含まれる検索対象文書に出現するキーワード
と、当該キーワードが出現する検索対象文書の数と、の
情報を対応付けて記憶し、入力受付部204は、検索要
求の入力を受け付け、グループスコア計算部205は、
グループのそれぞれについて、索引部203に記憶され
た情報を参照して検索要求に対するグループスコアを計
算し、グループ選択部206は、グループスコアによ
り、グループからいずれか1つ以上を選択し、検索部2
07は、選択されたグループのそれぞれについて、入力
を受け付けられた検索要求により、並列に検索を行い、
併合部208は、検索された結果を併合して、これを検
索結果として出力する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、高速な検索を行う
のに好適な検索装置、検索方法、ならびに、これらをコ
ンピュータに実現させるためのプログラムに関する。
【0002】
【従来の技術】従来から、検索対象文書をデータベース
に登録し、当該データベースに対して検索要求を与える
と、当該検索要求に適合した文書を検索結果として出力
する検索システムが提案されている。
【0003】近年普及が目覚ましいインターネット技術
の分野においても、世界中のウェブサイトの情報を収集
し、これをデータベース化して、ユーザからの検索要求
に対してこれに適合するようなウェブサイトのURL
(Universal Resource Locator)を提示するインターネ
ット検索エンジンも、各社から提供されている。
【0004】
【発明が解決しようとする課題】しかしながら、大規模
な検索を可能とするためには、データベースの規模や数
を増やす必要があるが、このような場合にはデータベー
スとの間の入出力や通信量、データベースそのものの処
理量が増大して、検索に要する時間(待ち時間)が長く
なってしまう、とともに、各データベースシステムへの
負荷が大きくなってしまうおそれがあるという問題が生
ずる。
【0005】特開平11−39324号公報において
は、複数の検索サブシステムを用意し、利用者が発する
検索要求の傾向をあらかじめ分析して、いずれかの検索
サブシステムを選択して負荷分散を図る検索技術が開示
されているが、状況によってはこの技術による効果が得
られないこともある。したがって、各種の状況に対応す
るため、さまざまな負荷分散の技術に対する要望は大き
い。
【0006】本発明は、上記の課題を解決するもので、
高速な検索を行うのに好適な検索装置、検索方法、なら
びに、これらをコンピュータに実現させるためのプログ
ラムを提供することを目的とする。
【0007】
【課題を解決するための手段】上記の目的を達成するた
め、本発明の原理にしたがって、下記の発明を開示す
る。
【0008】本発明の第1の観点に係る検索装置は、グ
ループ分割部と、索引部と、入力受付部と、グループス
コア計算部と、グループ選択部と、検索部と、併合部
と、を備え、以下のように構成する。
【0009】すなわち、グループ分割部は、検索対象文
書を複数のグループに分割する。
【0010】一方、索引部は、前記分割された複数のグ
ループのそれぞれについて、当該グループと、当該グル
ープに含まれる検索対象文書に出現するキーワードと、
当該キーワードが出現する検索対象文書の数と、の情報
を対応付けて記憶する。
【0011】さらに、入力受付部は、検索要求の入力を
受け付ける。
【0012】そして、グループスコア計算部は、分割さ
れた複数のグループのそれぞれについて、索引部に記憶
された情報を参照して入力を受け付けられた検索要求に
対するグループスコアを計算する。
【0013】一方、グループ選択部は、計算されたグル
ープスコアにより、複数のグループからいずれか1つ以
上のグループを選択する。
【0014】さらに、検索部は、選択された1つ以上の
グループのそれぞれについて、入力を受け付けられた検
索要求により、並列に検索を行う。
【0015】そして、併合部は、選択された1つ以上の
グループのそれぞれについて検索された結果を併合し
て、これを入力を受け付けられた検索要求に対する検索
結果として出力する。
【0016】本発明により、あらかじめ所定の基準によ
り検索対象文書をグループに分類するとともに、検索要
求から当該基準に対応するグループスコアを計算し、こ
れによって検索すべきグループを選択して、負荷分散を
図るとともに、ユーザは短い待ち時間で検索結果を得る
ことができるようになる。
【0017】また、本発明の検索装置において、索引部
は、分割された複数のグループのそれぞれについて、グ
ループと、当該グループに含まれる検索対象文書が含む
全単語数と、の情報を対応付けてさらに記憶するように
構成することができる。
【0018】また、本発明の検索装置において、索引部
は、分割された複数のグループのそれぞれについて、グ
ループと、当該グループに含まれる検索対象文書が含む
全キーワードについて、当該キーワードと、当該グルー
プと、当該グループ内での当該キーワードの出現文書数
と、の情報を対応付けてさらに記憶するように構成する
ことができる。
【0019】これらの発明は、上記発明の好適実施形態
の一つであり、グループスコアの計算に、「グループに
含まれる検索対象文書が含む全単語数」「グループに含
まれるキーワードの出現文書数」などの情報を用いるこ
とができるようになる。
【0020】また、本発明の検索装置は、以下のように
構成することができる。
【0021】すなわち、検索部は、選択された1つ以上
のグループのそれぞれについて、当該グループに含まれ
る文書に対して入力を受け付けられた検索要求により、
文書スコアを計算する。
【0022】一方、併合部は、計算されたグループスコ
アと、計算された文書スコアと、を参照して、総合スコ
アを計算し、入力を受け付けられた検索要求に対する検
索結果を、当該総合スコアの順に出力する。
【0023】本発明により、総合スコアを用いて検索結
果をユーザに提示する順番を適切に決定し、ユーザが望
む要望に応じた順序で検索結果を提示できるようにな
る。
【0024】また、本発明の検索装置において、併合部
は、選択された1つ以上のグループのそれぞれについて
検索された結果を当該結果に含まれる検索対象文書が得
られた順に併合して、その順に出力するように構成する
ことができる。
【0025】本発明により、複数のデータベースシステ
ムにおいて検索処理が行われた場合には、検索対象文書
が得られた順にユーザにこれを提示して、待ち時間を減
らすことができるようになる。
【0026】また、本発明の検索装置は、以下のように
構成することができる。
【0027】すなわち、当該検索対象文書には、それぞ
れURLが対応付けられる。
【0028】一方、グループ分割部は、検索対象文書
を、各グループに含まれる検索対象文書の数が所望の範
囲の数を超える場合は、これに対応付けられたURLの
木構造を広さ方向に分割してグループを再分割する。
【0029】さらに、所望の範囲の数未満である場合
は、当該グループと他のグループとを、併合後のグルー
プに含まれる検索対象文書の数が所望の範囲の数以下と
なるように、併合する。
【0030】本発明により、URLの木構造に基づいて
適切な数にグループを構成することができる。
【0031】また、本発明の検索装置において、グルー
プ分割部は、当該検索対象文書のそれぞれについて、こ
れに出現する複数の単語の頻度からなるベクトルと、所
定のベクトルとの余弦を計算し、当該計算結果によって
当該検索対象文書を分類するように構成することができ
る。
【0032】本発明により、文書の特徴をベクトルであ
らわし、これが所定のベクトルとの間に張る角に相当す
る情報を有する余弦(cosine)を計算して、所定のベク
トルとの「類似度」(どれだけ張る角が小さいか)によ
り文書をグループに分割することができるようになる。
【0033】また、本発明の検索装置において、グルー
プスコア計算部は、入力を受け付けられた検索要求と当
該所定のベクトルとに対して所定の類似度計算(両者の
余弦の計算を含む。)を行って、これをグループスコア
とするように構成することができる。
【0034】本発明により、検索要求の特徴をベクトル
であらわし、これと、文書の分類の際に用いた「所定の
ベクトル」と、の間の「類似度」により検索要求をいず
れか1つ以上のグループに振り分けることができるよう
になる。
【0035】また、本発明の検索装置において、グルー
プ分割部は、当該検索対象文書のそれぞれに対して、所
定の検索要求により文書スコアを計算し、当該計算結果
によって当該検索対象文書を分類するように構成するこ
とができる。
【0036】本発明により、文書を並べる順序を決める
のに用いる文書スコアを、グループ化の際にも利用でき
るようになる。
【0037】本発明の他の観点に係る検索方法は、グル
ープ分割工程と、索引工程と、入力受付工程と、グルー
プスコア計算工程と、グループ選択工程と、検索工程
と、併合工程と、を備え、以下のように構成する。
【0038】すなわち、グループ分割工程では、検索対
象文書を複数のグループに分割する。
【0039】一方、索引工程では、分割された複数のグ
ループのそれぞれについて、当該グループと、当該グル
ープに含まれる検索対象文書に出現するキーワードと、
当該キーワードが出現する検索対象文書の数と、の情報
を対応付けて記憶する。
【0040】さらに、入力受付工程では、検索要求の入
力を受け付ける。
【0041】そして、グループスコア計算工程では、分
割された複数のグループのそれぞれについて、記憶され
た情報を参照して入力を受け付けられた検索要求に対す
るグループスコアを計算する。
【0042】一方、グループ選択工程では、計算された
グループスコアにより、複数のグループからいずれか1
つ以上のグループを選択する。
【0043】さらに、検索工程では、選択された1つ以
上のグループのそれぞれについて、入力を受け付けられ
た検索要求により、並列に検索を行う。
【0044】そして、併合工程では、選択された1つ以
上のグループのそれぞれについて検索された結果を併合
して、これを入力を受け付けられた検索要求に対する検
索結果として出力する。
【0045】本発明の他の観点に係るプログラムは、コ
ンピュータを、上記の検索装置として機能させ、あるい
は、コンピュータに、上記の登録方法を実行させるよう
に構成する。
【0046】上記のプログラムは、CD−ROM(Comp
act Disk Read Only Memory)やFD(Flexible Disk;
フレキシブルディスク)などの各種の記録媒体に記録す
ることができるほか、インターネットなどのコンピュー
タ通信網を介して配布することができる。
【0047】
【発明の実施の形態】以下、添付図面を参照して、本発
明の実施の形態について説明する。
【0048】(情報処理装置の概要構成)図1は、本発
明のデータ構造が記録された記録媒体を処理して、本発
明の検索装置を構成するサブ装置として機能しうる典型
的な情報処理装置の概要構成を示す模式図である。以
下、図1を参照して説明する。
【0049】情報処理装置101は、CPU(Central
Processing Unit;中央処理ユニット)102によって
制御される。情報処理装置101に電源を投入すると、
CPU102は、ROM103に記憶されたIPL(In
itial Program Loader;初期プログラムローダ)を実行
する。
【0050】IPLは、ハードディスク104、FDド
ライブ110に装着されたFD、CD−ROMドライブ
111に装着されたCD−ROMなどの記録媒体に記憶
されたOS(Operating System;オペレーティング・シ
ステム)プログラムを読み出して実行するプログラムで
ある。
【0051】OSを起動した後、CPU102は、キー
ボード105やマウス106などにより入力されたユー
ザの指示にしたがって、あるいは、ハードディスクなど
にあらかじめ記述された設定ファイルの内容にしたがっ
て、ハードディスクなどに記憶されたアプリケーション
プログラムを実行する。
【0052】当該アプリケーションプログラムを実行す
ることにより、情報処理装置101は、サブ装置として
機能することとなる。
【0053】これにより、サブ装置の管理情報を入力す
ることができるほか、ユーザとの対話を担うサブ装置で
は、ユーザからの検索要求の入力を受け付けることがで
きる。
【0054】CPU102は、これらのプログラムの実
行の際に、RAM107を一時的な作業用記憶領域とし
て用いる。このほか、一時的な作業用記憶領域として、
CPU102内に設けられたレジスタやキャッシュ(図
示せず)が使われる。
【0055】プログラムの実行に伴ない、ユーザに結果
を報告したり、途中経過を見せたり、管理情報を提示し
たりするため、CPU102は、液晶ディスプレイやC
RT(Cathode Ray Tube)などの表示装置108に当該
情報を表示することができる。マウス106による指示
操作では、マウス106を移動することにより、画面に
表示されたカーソルが移動し、マウス106をクリック
することにより、カーソルが指すメニュー項目を選択す
ることができる。
【0056】情報処理装置101は、NIC(Network
Interface Card)やモデムなどのインターフェース10
9を介してサブ装置同士の通信が行われるほか、インタ
ーネットなどのコンピュータ通信網と通信を行うことが
できる。また、インターフェース109を介して受信し
たプログラムを実行したり、などができる。
【0057】(本発明の実施形態)以下の説明では、理
解を容易にするため、インターネット検索エンジンに本
発明を適用した場合を例にあげて、本発明の一本実施形
態を説明する。図2は、本実施形態に係る検索装置の概
要構成を示す模式図である。以下、本図を参照して説明
する。
【0058】本実施形態の検索装置201は、グループ
分割部202と、索引部203と、入力受付部204
と、グループスコア計算部205と、グループ選択部2
06と、検索部207と、併合部208と、を備える。
【0059】図3は、本実施形態に係る検索装置におい
て実行させる索引作成処理の流れを示すフローチャート
である。
【0060】グループ分割部202は、検索対象文書を
複数のグループに分割する(ステップS301)。本実
施形態で検索対象文書は、インターネット内の各ウェブ
サイトに存在するHTML(Hyper Text Markup Langua
ge)文書となる。これを、以下のような手法により、複
数のグループに分割する。
【0061】グループ分割部202は、当該検索対象文
書のそれぞれについて、これに出現する複数の単語の頻
度からなるベクトルと、所定のベクトルとの余弦を計算
し、当該計算結果によって当該検索対象文書を分類する
ものである。
【0062】検索に用いられることが多いと予想される
キーワードをあらかじめm個選択し、当該キーワードの
それぞれが当該検索対象文書に出現する頻度を各要素と
するベクトルを考える。
【0063】たとえば、n個のグループに分割するので
あれば、「所定のベクトル」として、互いに異なる単位
ベクトルを適宜n個用意する。
【0064】そして、各単位ベクトルと検索対象文書の
ベクトルとの余弦を計算することにより、当該単位ベク
トルと検索対象文書のベクトルとが張る角が最も小さい
ものを選ぶことができる。そして、選ばれた単位ベクト
ルに対応付けられたグループに当該検索対象文書を分類
すればよい。
【0065】これ以外の分類手法については、その他の
実施形態として後述する。
【0066】一方、索引部203は、分割された複数の
グループのそれぞれについて、当該グループと、当該グ
ループに含まれる検索対象文書に出現するキーワード
と、当該キーワードが出現する検索対象文書の数と、の
情報を対応付けて記憶する(ステップS302)。この
キーワードとしては、上記グループの分類の際に用いた
ものと同じものを採用することができる。
【0067】索引部203は、必要な文書の各種の情報
を転置索引表を用いることにより高速にグループスコア
を計算することができるようにする。転置索引表は、検
索要求に含まれるキーワード(やこれに対応するID)
を与えると、当該キーワードが出現する位置ならびに統
計情報が得られるものである。転置索引表は、キーワー
ド等をキーとするハッシュやB木、トライ構造などの公
知の技術によって構成することができる。
【0068】なお、検索部207には、各グループに対
応付けられたデータベース(DB)が用意されており、
このデータベースには、各グループにまた、検索対象文
書のURL等と合わせて、属する検索対象文書そのもの
やこれを前処理したものを記録しておく。
【0069】これ以外に記憶されることが望ましい情報
については、その他の実施形態として後述する。
【0070】図4は、本実施形態に係る検索装置におい
て実行させる検索応答処理の流れを示すフローチャート
である。
【0071】入力受付部204は、検索要求の入力を受
け付ける(ステップS401)。受け付ける検索要求
は、適切なキーワードにより表現されるように正規化さ
れたものであることが望ましい。また、キーワードに適
宜重み付けをしてもよい。正規化には、データベース検
索の種々の技法を用いることができる。
【0072】そして、グループスコア計算部205は、
分割された複数のグループのそれぞれについて、索引部
203に記憶された情報を参照して入力を受け付けられ
た検索要求に対するグループスコアを計算する(ステッ
プS402)。
【0073】本実施形態では、グループスコアの計算に
も、ベクトルの余弦を用いる。すなわち、n個のグルー
プのそれぞれについて、当該キーワードが出現する検索
対象文書の数を要素とするベクトルと同じ向きの単位ベ
クトルを考える。一方、検索要求に対しても、その検索
要求に出現するキーワードの数(に重み付けをしたも
の)を要素とするベクトルを求める。そして、その各単
位ベクトルと、求めた検索要求のベクトルとの余弦を計
算し、これをグループスコアとする。本手法による場
合、グループスコアの値は、0以上1以下となり、大き
ければ大きいほど、2つのベクトルが張る角は小さいこ
とになる。
【0074】一方、グループ選択部206は、計算され
たグループスコアにより、複数のグループからいずれか
1つ以上のグループを選択する(ステップS403)。
【0075】本実施形態では、グループスコアが大きい
ものからいずれかあらかじめ定めた数だけグループを選
択する。
【0076】さらに、検索部207は、選択された1つ
以上のグループのそれぞれについて、入力を受け付けら
れた検索要求により、並列に検索を行う(ステップS4
04)。
【0077】検索部207において各グループにはDB
がそれぞれ割り当てられているが、そのそれぞれ専用の
検索を行うシステム(Q)が割り当てられている。した
がって、各Qが各DBに対する検索を並列に実行するこ
とができる。
【0078】ユーザが求める検索対象文書が属するグル
ープは、2つのベクトルが張る角が小さいものである可
能性が極めて高いと考えられるため、これらについての
みデータベース検索処理を行えば、必要な情報はほぼ得
られることとなる。一方で、不必要なデータベース検索
処理は行わないため、適切に負荷分散を図ることができ
る。また、データベース検索処理を並列に行うため、待
ち時間の短かい検索が可能となる。
【0079】そして、併合部208は、選択された1つ
以上のグループのそれぞれについて検索された結果を併
合して、これを入力を受け付けられた検索要求に対する
検索結果として出力する(ステップS405)。
【0080】併合の手法については、以下のようなもの
が考えられる。
【0081】もっとも単純には、選択された1つ以上の
グループのそれぞれについて検索された結果を当該結果
に含まれる検索対象文書が得られた順に併合して、その
順に出力する。
【0082】これらの各部のそれぞれに対して、上記の
サブ装置を1つもしくは複数割り当ててもよいし、これ
らの各部の任意の組み合わせに対して上記のサブ装置を
1つもしくは複数割り当ててもよい。ただし、検索部2
07には、グループの数と同じサブ装置を割り当て、そ
れぞれのグループにおける検索が独立に並列に検索がで
きるようにすることが望ましい。
【0083】この手法では、複数のデータベースシステ
ムにおいて検索処理が行われた場合には、検索対象文書
が得られた順にユーザにこれを提示して、待ち時間を減
らすことができるようになる。
【0084】このほか、検索部207に、選択された1
つ以上のグループのそれぞれについて、当該グループに
含まれる文書に対して入力を受け付けられた検索要求に
より、文書スコアを計算させ、計算されたグループスコ
アと、計算された文書スコアと、を参照して、総合スコ
アを計算し、入力を受け付けられた検索要求に対する検
索結果を、当該総合スコアの順に出力するようにしても
よい。
【0085】文書スコアは、たとえば、当該検索対象文
書が含むキーワードのベクトルと入力要求のベクトルと
の余弦を計算することにより得ることができる。総合ス
コアは、グループスコアと文書スコアの線形和とする等
の手法が考えられる。
【0086】この手法では、総合スコアを用いて検索結
果をユーザに提示する順番を適切に決定し、ユーザが望
む要望に応じた順序で検索結果を提示できるようにな
る。
【0087】このように、本実施形態では、あらかじめ
所定の基準により検索対象文書をグループに分類すると
ともに、検索要求から当該基準に対応するグループスコ
アを計算し、これによって検索すべきグループを選択し
て、負荷分散を図るとともに、ユーザは短い待ち時間で
検索結果を得ることができるようになる。
【0088】また、索引作成処理と検索応答処理とは独
立に実行することができる。たとえば、所定の期間おき
に、あるいは、検索応答処理を実行していない状態(ユ
ーザからの検索要求の入力待ちのアイドル状態)が一定
時間以上継続した時に、索引作成処理を行うなどの態様
が考えられる。
【0089】(グループ化の実施形態)以下では、種々
の検索対象文書のグループ化の実施形態について詳細に
説明する。まず、文書の内容に依存した分類の手法であ
る。
【0090】第1の手法は、分類カテゴリを示すラベル
が1つ以上付与された事例文書をあらかじめN個用意し
て、これとの類似度により各分類カテゴリへ分類を行う
ものである。ラベルの種類はn種類である。
【0091】文書同士の類似度(スコア)の計算には、
種々の手法があり、上記のようにキーワードの出現頻度
のベクトルを用いてその間の余弦(内積)を類似度とす
るものなどが考えられる。
【0092】ある検索対象文書と、事例文書のそれぞれ
と、の類似度を計算し、これをスコアとして、スコアの
上位M個(M≦N)の事例文書を選ぶ。
【0093】そして、各スコアをその事例文書に付与さ
れたラベルに対する得点に加算する。同じラベルが異な
る事例文書に付与されていることがあるため、ラベルの
得点は、複数の事例文書のスコアを加算したものとなる
ことがある。
【0094】そして、得点が一位のラベルにより表現さ
れる分類カテゴリに当該検索対象文書を分類する。
【0095】第2の手法は、やはり類似検索を利用した
ものである。本手法では、分類の際に適当な検索要求を
用意する。
【0096】そして、類似検索を用いて、この検索要求
に対する各検索対象文書のスコアを計算し、上位1個の
検索対象文書を得る。
【0097】次に、上位1位の文書を次の検索要求とし
て、残りの各検索対象文書のスコアを計算する。この検
索対象文書のスコアを第1次スコアと呼ぶ。そして、第
1次スコアの上位M1個(M1≦N)を選択し、これを1番
目のグループとする。
【0098】以下同様に、次に、第1次スコアが2位以
下の文書で、かつ、1番目のグループに属しない文書を
次の検索要求として、それ以外の各検索対象文書のスコ
アを計算し、第2次スコアを得て、第2次スコアの上位
M2個(M2≦N)を選択し、これを2番目のグループとす
る。
【0099】そして、1番目と2番目のグループの共通
要素は、そのスコアが高い方のグループに分類し直す。
【0100】さらに、1番目と2番目のグループのいず
れにも属しない検索対象文書を選択して、同様の処理を
繰り返して、文書を分類する。
【0101】このように文書の内容に依存するような各
種の文書分類の手法を本発明に適用することができる。
【0102】以下では、文書の内容に依存しない分類方
法について詳細に説明する。これは、文書の内容ではな
く、文書の外見的な特徴に注目するものである。すなわ
ち、以下のような情報に基づいて分類を行う。 ・文書の作成日時、更新日時。 ・文書の作成者。 ・文書の管理番号。 ・文書に含まれる何らかの明示的な記述子。たとえば、
HTML文書におけるMETAタグ内のキーワードの記述
等。 ・文書の配置された場所。URLやファイルシステム上
の絶対パス等。
【0103】木構造をなすURLにより分類する場合に
ついて説明する。この木構造を任意の深さの断面で切断
することにより、複数のグループに分割することができ
る。そして、そのそれぞれのグループに属する検索対象
文書の数を調べ、これが所定の数よりも大きい場合は、
さらに深い断面で再分割する。一方、所定の数よりも小
さい場合は、いずれか他のグループと併合する。各グル
ープに含まれる検索対象文書の数が所望の範囲になるま
でこれを繰り返す。
【0104】このように、これらの情報を用いて分類す
る場合には、容易に大量の文書を分類することができ
る。
【0105】(グループスコアの計算の実施形態)以下
では、グループスコアの計算の実施形態について詳細に
説明する。
【0106】グループスコアを計算する前に、まず準備
として、入力された検索要求に含まれるタームの集合を
構成する。適宜これらのタームをシソーラスを使って拡
張したり、正規化をしておくことが望ましい。また、得
られた検索結果の文書から特徴語を抽出して、当該ター
ム集合に追加してもよい。
【0107】n個のグループがある場合、各タームtに対
するグループcのグループスコアscore(t,c)の計算手法
には、たとえば、以下のようなものがある。
【0108】(1)DF×ICF1と呼ばれるもの。以下のよ
うな計算式を用いる。 score(t,c) = DF×ICF ただし DF = dfc/(dfc + K); ICF = log((n+0.5)/CF)/log(n+1.0); Kはempiricall yにより定められる定数;dfcはタームt
が出現する文書のグループc内における割合;CFはター
ムtが現れる文書を含むグループの数
【0109】(2)DF×ICF2と呼ばれるもの。以下のよ
うな計算式を用いる。 score(t,c) = DF×ICF ただし DF = dt + (1-dt)×dfc/maxc(dfc); ICF = log(n/CF); dtは0以上1以下の定数、典型的には0.5;dfcはター
ムtが出現する文書のグループc内における割合;maxc(d
fc)は各グループのdfcの最大の値;CFはタームtが現れ
る文書を含むグループの数
【0110】(3)DF×AVG-IDFと呼ばれるもの。以下
のような計算式を用いる。 score(t,c) = DF×AVGICF ただし DF = dt + (1-dt)×dfc/maxc(dfc); AVGICF = (1/n)Σclog(n/dfc) + 1; dtは0以上1以下の定数、典型的には0.5;dfcはター
ムtが出現する文書のグループc内における割合;maxc(d
fc)は各グループのdfcの最大の値
【0111】このような計算式により、各タームtに対
するグループcのスコアが得られる。そこで、検索要求
に含まれるタームのスコアの総和を、当該グループcの
グループスコアとする。
【0112】これらの計算を行うためには、索引部20
3は、「グループに含まれる検索対象文書が含む全単語
数」「グループに含まれるタームの出現文書数」「ター
ムが出現する文書を含むグループの数」などの情報を記
憶しておく必要がある。
【0113】このほか、以下のような処理を行ってもよ
い。
【0114】DF×ICF1においてKの値を小さくしたり、D
F×ICF2やDF×AVGICFにおいてdtの値を小さくしたりす
ると、サイズが大きい(グループ内に含まれる文書の数
が多い)グループのスコアが大きくなる傾向にある。し
たがって、再現率を重視するか、初期精度を重視する
か、によって、これらの値をグループスコア計算時にユ
ーザの指示によって調整することとする。
【0115】また、得られるスコアの総和sを、以下の
ような計算式により調整して、これをグループスコアと
してもよい。 s×(log(n)+k) パラメータkを調整することにより、グループスコアを
望ましい値とすることができる。
【0116】また、検索要求に含まれるターム数が多い
場合は、CFが大きいタームについては、計算を行わずに
score(t,c) = 0としてしまう手法も考えられる。また、
このようなタームをストップワードとして、索引部20
3には登録しないこととするのも効果的である。
【0117】さらに、各グループごとに優先タームを割
り当て、優先タームが検索要求に含まれる場合は、その
グループを優先的に選択する(最も高いスコアとする)
ような態様も考えられる。
【0118】
【発明の効果】以上説明したように、本発明によれば、
高速な検索を行うのに好適な検索装置、検索方法、なら
びに、これらをコンピュータに実現させるためのプログ
ラムを提供することができる。
【図面の簡単な説明】
【図1】本発明の検索装置を構成するサブ装置を実現す
る典型的な情報処理装置の概要構成を示す模式図であ
る。
【図2】本実施形態に係る検索装置の概要構成を示す模
式図である。
【図3】本実施形態に係る索引作成処理の制御の流れを
示すフローチャートである。
【図4】本実施形態に係る検索応答処理の制御の流れを
示すフローチャートである。
【符号の説明】
101 情報処理装置 102 CPU 103 ROM 104 HD 105 キーボード 106 マウス 107 RAM 108 表示装置 109 インターフェース 110 FDドライブ 111 CD−ROMドライブ 201 検索装置 202 グループ分割部 203 索引部 204 入力受付部 205 グループスコア計算部 206 グループ選択部 207 検索部 208 併合部

Claims (11)

    【特許請求の範囲】
  1. 【請求項1】検索対象文書を複数のグループに分割する
    グループ分割部と、 前記分割された複数のグループのそれぞれについて、当
    該グループと、当該グループに含まれる検索対象文書に
    出現するキーワードと、当該キーワードが出現する検索
    対象文書の数と、の情報を対応付けて記憶する索引部
    と、 検索要求の入力を受け付ける入力受付部と、 前記分割された複数のグループのそれぞれについて、前
    記索引部に記憶された情報を参照して前記入力を受け付
    けられた検索要求に対するグループスコアを計算するグ
    ループスコア計算部と、 前記計算されたグループスコアにより、前記複数のグル
    ープからいずれか1つ以上のグループを選択するグルー
    プ選択部と、 前記選択された1つ以上のグループのそれぞれについ
    て、前記入力を受け付けられた検索要求により、並列に
    検索を行う検索部と、 前記選択された1つ以上のグループのそれぞれについて
    検索された結果を併合して、これを前記入力を受け付け
    られた検索要求に対する検索結果として出力する併合部
    と、 を備えることを特徴とする検索装置。
  2. 【請求項2】請求項1に記載の検索装置であって、 前記索引部は、前記分割された複数のグループのそれぞ
    れについて、グループと、当該グループに含まれる検索
    対象文書が含む全単語数と、の情報を対応付けてさらに
    記憶することを特徴とするもの。
  3. 【請求項3】請求項1または2に記載の検索装置であっ
    て、 前記索引部は、前記分割された複数のグループのそれぞ
    れについて、グループと、当該グループに含まれる検索
    対象文書が含む全キーワードについて、当該キーワード
    と、当該グループと、当該グループ内での当該キーワー
    ドの出現文書数と、の情報を対応付けてさらに記憶する
    ことを特徴とするもの。
  4. 【請求項4】請求項1から3のいずれか1項に記載の検
    索装置であって、 前記検索部は、前記選択された1つ以上のグループのそ
    れぞれについて、当該グループに含まれる文書に対して
    前記入力を受け付けられた検索要求により、文書スコア
    を計算し、 前記併合部は、前記計算されたグループスコアと、前記
    計算された文書スコアと、を参照して、総合スコアを計
    算し、前記入力を受け付けられた検索要求に対する検索
    結果を、当該総合スコアの順に出力することを特徴とす
    るもの。
  5. 【請求項5】請求項1から3のいずれか1項に記載の検
    索装置であって、 前記併合部は、前記選択された1つ以上のグループのそ
    れぞれについて検索された結果を当該結果に含まれる検
    索対象文書が得られた順に併合して、その順に出力する
    ことを特徴とするもの。
  6. 【請求項6】請求項1から5のいずれか1項に記載の検
    索装置であって、 当該検索対象文書には、それぞれURL(Universal Re
    source Locator)が対応付けられ、 前記グループ分割部は、前記検索対象文書を、各グルー
    プに含まれる検索対象文書の数が所望の範囲の数を超え
    る場合は、これに対応付けられたURLの木構造を広さ
    方向に分割してグループを再分割し、 所望の範囲の数未満である場合は、当該グループと他の
    グループとを、併合後のグループに含まれる検索対象文
    書の数が所望の範囲の数以下となるように、併合するこ
    とを特徴とするもの。
  7. 【請求項7】請求項1から4のいずれか1項に記載の検
    索装置であって、 前記グループ分割部は、当該検索対象文書のそれぞれに
    ついて、これに出現する複数の単語の頻度からなるベク
    トルと、所定のベクトルとの余弦を計算し、当該計算結
    果によって当該検索対象文書を分類することを特徴とす
    るもの。
  8. 【請求項8】請求項7に記載の検索装置であって、 前記グループスコア計算部は、前記入力を受け付けられ
    た検索要求と当該所定のベクトルとに対して所定の類似
    度計算(両者の余弦の計算を含む。)を行って、これを
    グループスコアとすることを特徴とするもの。
  9. 【請求項9】請求項1から4のいずれか1項に記載の検
    索装置であって、 前記グループ分割部は、当該検索対象文書のそれぞれに
    対して、所定の検索要求により文書スコアを計算し、当
    該計算結果によって当該検索対象文書を分類することを
    特徴とするもの。
  10. 【請求項10】検索対象文書を複数のグループに分割す
    るグループ分割工程と、 前記分割された複数のグループのそれぞれについて、当
    該グループと、当該グループに含まれる検索対象文書に
    出現するキーワードと、当該キーワードが出現する検索
    対象文書の数と、の情報を対応付けて記憶する索引工程
    と、 検索要求の入力を受け付ける入力受付工程と、 前記分割された複数のグループのそれぞれについて、前
    記記憶された情報を参照して前記入力を受け付けられた
    検索要求に対するグループスコアを計算するグループス
    コア計算工程と、 前記計算されたグループスコアにより、前記複数のグル
    ープからいずれか1つ以上のグループを選択するグルー
    プ選択工程と、 前記選択された1つ以上のグループのそれぞれについ
    て、前記入力を受け付けられた検索要求により、並列に
    検索を行う検索工程と、 前記選択された1つ以上のグループのそれぞれについて
    検索された結果を併合して、これを前記入力を受け付け
    られた検索要求に対する検索結果として出力する併合工
    程と、 を備えることを特徴とする検索方法。
  11. 【請求項11】コンピュータを、請求項1から9のいず
    れか1項に記載の検索装置として機能させることを特徴
    とするプログラム。
JP2002076543A 2002-03-19 2002-03-19 検索装置、検索方法、ならびに、プログラム Expired - Fee Related JP4230710B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002076543A JP4230710B2 (ja) 2002-03-19 2002-03-19 検索装置、検索方法、ならびに、プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002076543A JP4230710B2 (ja) 2002-03-19 2002-03-19 検索装置、検索方法、ならびに、プログラム

Publications (2)

Publication Number Publication Date
JP2003271648A true JP2003271648A (ja) 2003-09-26
JP4230710B2 JP4230710B2 (ja) 2009-02-25

Family

ID=29205280

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002076543A Expired - Fee Related JP4230710B2 (ja) 2002-03-19 2002-03-19 検索装置、検索方法、ならびに、プログラム

Country Status (1)

Country Link
JP (1) JP4230710B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007156209A (ja) * 2005-12-07 2007-06-21 Yamaha Corp 楽曲選択装置および楽曲選択用コンピュータプログラム
JP2008192157A (ja) * 2007-02-07 2008-08-21 Fujitsu Ltd コンパクトデシジョンダイアグラムを用いた効率的インデックス付け
JP2008250722A (ja) * 2007-03-30 2008-10-16 Fujitsu Ltd 文書検索システム、文書番号部分列取得装置、および文書検索方法
JP2009043264A (ja) * 2007-08-10 2009-02-26 Nhn Corp 情報検索方法およびそのシステム
JP2009043263A (ja) * 2007-08-10 2009-02-26 Nhn Corp 質問分類方法およびそのシステム
KR101508939B1 (ko) 2013-10-02 2015-04-07 네이버 주식회사 실시간 검색을 위한 병렬 색인 방법 및 그 시스템
JP2017097823A (ja) * 2015-11-19 2017-06-01 財團法人資訊工業策進會 分散ネットワークで使用するための検索サーバ、端末装置、及び検索方法
JP2020074111A (ja) * 2019-12-24 2020-05-14 楽天株式会社 検索システム、検索方法、及びプログラム

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007156209A (ja) * 2005-12-07 2007-06-21 Yamaha Corp 楽曲選択装置および楽曲選択用コンピュータプログラム
JP2008192157A (ja) * 2007-02-07 2008-08-21 Fujitsu Ltd コンパクトデシジョンダイアグラムを用いた効率的インデックス付け
JP2008250722A (ja) * 2007-03-30 2008-10-16 Fujitsu Ltd 文書検索システム、文書番号部分列取得装置、および文書検索方法
JP2009043264A (ja) * 2007-08-10 2009-02-26 Nhn Corp 情報検索方法およびそのシステム
JP2009043263A (ja) * 2007-08-10 2009-02-26 Nhn Corp 質問分類方法およびそのシステム
JP4729607B2 (ja) * 2007-08-10 2011-07-20 エヌエイチエヌ コーポレーション 質問分類方法およびそのシステム
KR101508939B1 (ko) 2013-10-02 2015-04-07 네이버 주식회사 실시간 검색을 위한 병렬 색인 방법 및 그 시스템
JP2017097823A (ja) * 2015-11-19 2017-06-01 財團法人資訊工業策進會 分散ネットワークで使用するための検索サーバ、端末装置、及び検索方法
JP2020074111A (ja) * 2019-12-24 2020-05-14 楽天株式会社 検索システム、検索方法、及びプログラム

Also Published As

Publication number Publication date
JP4230710B2 (ja) 2009-02-25

Similar Documents

Publication Publication Date Title
US10474686B2 (en) Information theory based result merging for searching hierarchical entities across heterogeneous data sources
US8051080B2 (en) Contextual ranking of keywords using click data
US7783644B1 (en) Query-independent entity importance in books
US9053115B1 (en) Query image search
JP5316158B2 (ja) 情報処理装置、全文検索方法、全文検索プログラム、及び記録媒体
US9576029B2 (en) Trust propagation through both explicit and implicit social networks
US9177018B2 (en) Cross language search options
US7630973B2 (en) Method for identifying related pages in a hyperlinked database
JP3717808B2 (ja) 情報検索システム
JP5494454B2 (ja) 検索結果生成方法、検索結果生成プログラムおよび検索システム
US20090043749A1 (en) Extracting query intent from query logs
US7966341B2 (en) Estimating the date relevance of a query from query logs
US20070022085A1 (en) Techniques for unsupervised web content discovery and automated query generation for crawling the hidden web
JP2007519111A (ja) アンカーテキストを処理する方法、システム、およびプログラム
EP2519896A2 (en) Search suggestion clustering and presentation
JP2003167914A (ja) マルチメディア情報検索方法、プログラム、記録媒体及びシステム
JP2004054631A (ja) 情報検索システム、情報検索方法、html文書の構造解析方法及びプログラム
JP2007219722A (ja) 文書検索サーバおよび文書検索方法
US20120166973A1 (en) Presenting list previews among search results
US7689536B1 (en) Methods and systems for detecting and extracting information
JP4230710B2 (ja) 検索装置、検索方法、ならびに、プログラム
JP2007334590A (ja) 情報ランキング方法及び装置及びプログラム及びコンピュータ読み取り可能な記録媒体
KR100942902B1 (ko) 웹페이지 검색 방법 및 상기 방법을 컴퓨터에서 구현하는 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체
JP5525424B2 (ja) 文書検索装置、文書検索方法及び文書検索プログラム
JP5903370B2 (ja) 情報検索装置、情報検索方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050127

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080226

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080624

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080723

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081202

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081204

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111212

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees