JP2004199472A - 情報検索のためのデータ構造を生成するコンピュータ・システム、そのための方法、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラム、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラムを記憶したコンピュータ可読な記憶媒体、情報検索システム、およびグラフィカル・ユーザ・インタフェイス・システム - Google Patents

情報検索のためのデータ構造を生成するコンピュータ・システム、そのための方法、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラム、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラムを記憶したコンピュータ可読な記憶媒体、情報検索システム、およびグラフィカル・ユーザ・インタフェイス・システム Download PDF

Info

Publication number
JP2004199472A
JP2004199472A JP2002368276A JP2002368276A JP2004199472A JP 2004199472 A JP2004199472 A JP 2004199472A JP 2002368276 A JP2002368276 A JP 2002368276A JP 2002368276 A JP2002368276 A JP 2002368276A JP 2004199472 A JP2004199472 A JP 2004199472A
Authority
JP
Japan
Prior art keywords
patch
cluster
document
generating
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002368276A
Other languages
English (en)
Other versions
JP3974511B2 (ja
Inventor
Edward Fuuru Michael
マイケル・エドワード・フール
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
International Business Machines Corp
Original Assignee
International Business Machines Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by International Business Machines Corp filed Critical International Business Machines Corp
Priority to JP2002368276A priority Critical patent/JP3974511B2/ja
Priority to US10/736,273 priority patent/US7428541B2/en
Publication of JP2004199472A publication Critical patent/JP2004199472A/ja
Application granted granted Critical
Publication of JP3974511B2 publication Critical patent/JP3974511B2/ja
Priority to US12/062,411 priority patent/US8229900B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35Clustering; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/93Document management systems
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S707/00Data processing: database and file management or data structures
    • Y10S707/99931Database or file accessing
    • Y10S707/99933Query processing, i.e. searching
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S707/00Data processing: database and file management or data structures
    • Y10S707/99941Database schema or data structure
    • Y10S707/99943Generating database or data structure, e.g. via user interface

Abstract

【課題】情報検索のためのデータ構造を生成するコンピュータ・システム、そのための方法、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラム、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラムを記憶したコンピュータ可読な記憶媒体、情報検索システム、およびグラフィカル・ユーザ・インタフェイス・システムを提供する。
【解決手段】データベースに格納されたドキュメントの情報検索のためのデータ構造を生成するコンピュータ・システムは、階層構造における所定の類似性を有するノード・グループを生成するための近傍パッチ生成部34を含む。近傍パッチ生成部34は、ドキュメント−キーワード・ベクトルに対して階層構造を生成させる階層生成部36と、パッチ規定部26とを含んでいる。コンピュータ・システムはまた、パッチの間の類似性を使用してドキュメント−キーワード・ベクトルのクラスター・データを生成するためのクラスター見積もり部28を含んで構成されている。
【選択図】 図11

Description

【0001】
【発明の属する技術分野】
本発明は、大規模データベースからの情報検索に関し、より詳細には、情報検索のためのデータ構造を生成するためのコンピュータ・システム、そのための方法、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラム、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラムを記憶したコンピュータ可読な記憶媒体、情報検索システム、およびグラフィカル・ユーザ・インタフェイス・システムに関する。
【0002】
【従来の技術】
近年における情報処理システムは、例えば、ニュース・データ、顧客情報、特許情報および株式市場データと言った大量のデータを取り扱うことがますます期待されている。上述したデータベースのユーザは、所望するデータの迅速、効果的、かつ高精度な検索を行うことがますます困難になってきている。このため、大規模データベースからの適時的で精度の良いドキュメントの安価な検出を行うことは、多くの種類の事業に対してきわめて価値ある情報を提供することになろう。加えて、ユーザは、時として検出されたデータに関連する例えば、データベース中におけるクラスター情報およびクラスター間にわたる相関関係などについて、さらなる情報を得ることを希望する場合もある。
【0003】
クラスターを検出するための典型的な方法は、データ要素間の類似の尺度に依存し、類似検索に基づく上述した方法がこれまで提案されており、これらについては以下に挙げることができる。
【0004】
類似検索(また、曖昧検索としても知られる)は、データベース内のアイテムが与えられたクエリーに対してどの程度類似するかを探索するものである。類似(または、非類似)は、典型的にはある種の実数値または整数値の距離である“尺度”を使用した距離(dist)、すなわち、
【0005】
(1) dist(p, q) ≧ 0 for all p, q (non-negativity);
(2) dist(p, q) = dist(q, p) for all p, q (symmetry);
(3) dist(p, q) = 0 if and only if p = q;
(4) dist(p, q) + dist(q, r) ≧ dist(p, r) (すべてのp, q, r に対して)
(三角不等式)
を使用することにより、モデリングされる。
【0006】
上述した距離関数が存在する対象のセットは、いずれも距離空間として参照することができる。クエリー時において、距離評価の数を低減することが可能なデータ構造は、インデックスとして知られている。類似クエリーのための多くの方法が提案されている。距離空間における類似クエリーとしては、下記のような概ね2通りが知られている。
(A)k−近接クエリー:クエリー要素qと正の正数kとを与え、qに対して近い方からk番目のデータベース要素を報告する。
(B)レンジ・クエリー:クエリー要素qと、距離rとを与え、dist(p, q)≦rとなるアイテムqを報告するというものである。
【0007】
大規模データベースについて言えば、類似クエリーを、クエリー要素からデータベース要素のすべてについて正確に算出することはきわめてコスト的に高いものとなる。データベース要素間のすべての距離を算出し、格納する従来の方法は、データベース要素の数の2乗に比例する時間と記憶空間とを必要とするので、コスト的に高すぎる(すなわち、計算時間とメモリ使用量とに対して2乗のオーダーとなる)。より現実的には、2次以下の記憶空間および前処理時間を使用して時間に対して略直線的なクエリー処理を可能とする検索構造を構築することが目的となりうる。
【0008】
A.ベクトル空間モデルの概説
近年における情報検索方法は、多くの場合、ベクトル空間モデルを使用してデータベースのドキュメントを表示させる。このようなベクトル空間モデルにおいては、考察しているデータベース内の各ドキュメントはベクトルを伴い、ベクトルの各座標軸は、ドキュメントのキーワード、すなわちアトリビュートを示す。ベクトル空間モデルの詳細については、別の文献に与えられている(Gerald Salton, The SMART Retrieval System - Experiments in Automatic Document Processing, Prentice-Hall, Englewood Cliffs, NJ, USA, 1971)。
【0009】
B.類似検索構造の概説
過去30年にわたり、類似クエリーを取り扱うための多くの種類の構造が提案されてきている。これらのうちの主要なものは、空間インデックスであり、このインデックスは、d個の実数値のアトリビュート・ベクトルとして対象セットがモデルされていることを必要とするものである。他のものは、“距離”インデックスであり、距離インデックスは、距離尺度の存在以外にはデータベース要素の性質に対してまったく仮定をすることがなく、したがって空間検索構造よりもより広い適用性がある。多次元ベクトル空間および距離空間のための検索構造についての最近の総説については、Gaedeら (Volker Gaede and Oliver Gunther, Multidimensional Access Methods, ACM Computing Surveys, 30, 2, 1998, pp. 170-231.), and Chavezら (Edgar Chavez, Gonzalo Navarro, Ricardo Baeza-Yates and Jose L. Marroquin, Searching in metric spaces, ACM Computing Surveys 33, 3, 2001, pp. 273-321.)を参照されたい。
【0010】
類似検索は、距離データまたはベクトル・データであるにせよ、“次元の呪い”として参照される効果により、多くの場合に制限を受ける。近年における最近傍クエリーまたは範囲クエリーの計算の一般的な問題は、低いフラクタル分布、本質的な次元の低さ、または分布の他の特性など、空間的な特性を有するデータの分布に基づかない限り、正確な技術でさえもがデータベース全体の連続的な検索に対して実質的な改善をもたらすものではない、ということが証明されている。
【0011】
データの次元および次元の呪いについてのさらなる情報については、例えば、Chavezら (前掲), Pagelら (Bernd-Uwe Pagel, Flip Korn and Christos Faloutsos, Deflating the dimensionality curse using multiple fractal dimensions, Proc. 16th International Conference on Data Engineering (ICDE 2000), San Diego, USA, IEEE CS Press, 2000, pp. 589-598.), Pestov (Vladimir Pestov, On the geometry of similarity search: dimensionality curse and concentration of measure, Information Processing Letters, 73, 2000, pp. 47-51.), and Weberら (Roger Weber, Hans-J. Schek and Stephen Blott, A quantitative analysis and performance study for similarity-search methods inhigh-dimensional spaces, Proc. 24th VLDB Conference, New York, USA, 1998, pp. 194-205)を参照されたい。
【0012】
C.近似的な類似検索の概説
次元の呪いを回避する試みとして、研究者は、計算の高速化を得ることを希望し、類似クエリーを幾分か犠牲にすることを考案した。これらの技術の詳細については他の文献、例えばIndykら (P. Indyk and R. Motwani, Approximate nearest neighbors: towards removing the curse of dimensionality, Proc. 30th ACM Symposium on Theory of Computing, Dallas, 1998, pp. 604-613.), and Ferhatosmanogluら (Hakan Ferhatosmanoglu, Ertem Tuncel, Divyakant Agrawaland Amr El Abbadi, Approximate nearest neighbor searching in multimediadatabases, Proc. 17th International Conference on Data Engineering (ICDE), Heidelberg, Germany, IEEE CS Press, 2001, pp. 503-514.); 距離空間については、Ciacciaら (Paolo Ciaccia and Marco Patella, PAC nearest neighbor queries: approximate and controlled search in high-dimensional and metric spaces, Proc. 16th International Conference on Data Engineering (ICDE 2000), San Diego, USA, 2000, pp. 244-255; Paolo Ciaccia, Marco Patella and Pavel Zezula, M-tree: an efficient access method for similarity search in metric spaces, Proc. 23rd VLDB Conference, Athens, Greece, 1997,pp. 426-435.) and Zezulaら (Pavel Zezula, Pasquale Savino, Giuseppe Amato and Fausto Rabitti, Approximate similarity retrieval with M-trees, The VLDB Journal, 7, 1998, pp. 275-293.)を参照されたい。しかしながら、これらの方法は、すべて実際上の有効性に制限を与えるという不都合をもたらすものである。あるものは、データの分布について非現実的な仮定を行ない、他のものは、精度と速度との間のトレード・オフに対して効果的な管理を行うことができないものである。
【0013】
D.空間近似サンプル階層(SASH)
Houleら(Michael E. Houle, SASH: a spatial approximation sample hierarchy for similarity search, IBM Tokyo Research Laboratory Research Report RT-0446, 18 pages, February 18, 2002)およびHoule, KobayashiおよびAono (Japanese Patent Application No. 2002-037842)による大規模な多次元データ・セットのための近似的な類似検索構造は、精度−速度トレード・オフに対して著しく良好な制御を可能とするものであり、これを空間近似サンプル階層(SASH)として参照する。SASHは、距離尺度の条件を満足する類似関数を必要とするものの、データの性質に対してはそれ以外の仮定を加えない。各データ要素には、構造内における固有の位置が与えられ、2つの要素間のそれぞれの連結は、それらが密接な関係にあることを示す。階層構造の各レベルは、要素のランダム・サンプルとして構成され、また各レベルのサンプル・サイズは、直上のレベルの概ね2倍となるように構成されている。この構造は、所与の要素vに最も近い複数の要素をvに対して最も類似するものとして組織化される。具体的には、vに対応するノードは、その上のレベルの近傍点のセットへと結合され、またvが近傍点として選択される下層のアイテムのセットへと関連づけられる。
【0014】
E.クラスター化技術の概説
用語「クラスター化」は、類似基準にしたがい、ラベル付けされていないデータのいずれかのグループ分けを意味する。従来のクラスター化方法は、概ね分割または階層化に分類することができる。階層化技術は、データのグループ(クラスター)の包含関係を示す木構造を生成し、木の経路がデータ・セット全体に対応する。分割技術は、典型的には関連性のないクラスターの、固定された数の中からデータ点の分布における分類誤差を大局的に最小にすることに基づくものである。これらの最近の概説(Jain, Murty and Flynn (A. K. Jain, M. N. Murty and P. J. Flynn, Data clustering: a review, ACM Computing Surveys 31, 3, 1999, pp. 264-323.))においては、分割クラスター化手法は、階層化よりもコスト的に高くはならないものの、また柔軟性が大きく劣るとしている。簡略化され、迅速性(時間と複雑さとの間の線形関係が見出される。)と、実装化の容易性とはあるものの、周知の分割アルゴリズムであるK-meansとその変形法でさえも、概ね大規模なデータ・セットに対して良好に機能しない。分割アルゴリズムは、等質的な(近似された)クラスターの生成には向くものの、不規則な形質のクラスターを見つけるには充分に適するとは言えない。
【0015】
F.階層凝集クラスター化
階層凝集クラスター化では、各データ点をまず考察し、分離されたクラスターを構築する。クラスターの対は、その後、すべてのデータ点が1つのクラスターに帰属されるまで連続的に統合される。各ステップで生成されたより大きなクラスターは、統合されたd個のサブクラスターの要素を含んでおり、そしてクラスター階層を与える包含関係とされる。統合する対の選択は、クラスター間距離の所定の基準を最小化させるようにして行われる。
【0016】
G.近傍共有方法
単純な距離に基づく凝集クラスタリング方法の基準の1つは、より高い密度のクラスターを形成するように方向付けを行うものである。領域内のデータの良好に随伴する低密度のグループは、多くの対の距離が統合しきい値よりも低い場合には、まったく発見されないというリスクを負う。凝集クラスター化のために、より専用化された(より高コストの)、データ要素間の近接性を考慮した距離尺度が提案されている。Jarvisらは、R. A. Jarvis and E. A. Patrick, Clustering using a similarity measure based on shared nearest neighbors, IEEE Transactions on Computers C-22, 11, Nov. 1973, pp. 1025-1034.において、任意の類似基準distと、固定した整数のパラメータk>r>0とで統合基準を規定しており、最近傍点の少なくとも所定数が同一のクラスターにより共有される場合には、2つのデータ要素は、それら自体が同一のクラスターであるとされる。クラスターを統合するか否か、の決定は、データ・セットの局所的な密度には依存せず、実質的な仕方で近傍を共有する互いの要素の対が存在するか否かに依存することとなる。
【0017】
JarvisとPatrickの方法(前掲)は、凝集的なものであり、また随伴の連鎖を介した不適正なクラスターを生成してしまう単一リンク法(single-link method)に類似する。より最近に変形例が提案されており、生成されるクラスターの質を変更する試みがなされている。例えば、Guhaら(S. Guha, R. Rastogi and K. Shim, ROCK: a robust clustering algorithm for categorical attributes, Information Systems 25, 5, 2000, pp. 345-366.); by Ertozら(Levent Ertoz, Michael Steinbach and Vipin Kumar, Finding topics in collections of documents: a shared nearest neighbor approach, University of Minnesota Army HPCResearch Center Preprint 2001-040, 8 pages, 2001.); Ertozら(Levent Ertoz, Michael Steinbach and Vipin Kumar, A new shared nearest neighbor clustering algorithm and its applications, Proc. Workshop on Clustering HighDimensional Data and its Applications (in conjunction with 2nd SIAM International Conference on Data Mining), Arlington, VA, USA, 2002, pp. 105-115.); Daylight Chemical Information Systems Inc., URLアドレス(http://www.daylight.com/);およびBarnard Chemical Information Ltd., URLアドレス(http://www.bci.gb.com/)を参照されたい。それにもかかわらず、すべての変形例は、依然として凝集アルゴリズムの主要な特徴を示し、随伴性の少ない要素の連結鎖を伴う大きな不適切な形のクラスターの生成を許してしまうものである。
【0018】
H.次元削減方法の概説
潜在的意味インデキシング(LSI)は、ドキュメントのランク付け問題の次元を削減するためのベクトル空間に基づくアルゴリズムである。これについては、Deerwesterら(Scott Deerwester, Susan T. Dumais, George W. Furnas, Richard Harshman, Thomas K. Landauer, Karen E. Lochbaum, Lynn A. Streeter, Computer information retrieval using latent semantic analysis, U.S. Patent No. 4839853, filed Sept. 15, 1988, issued June 13, 1989; Scott Deerwester,Susan T. Dumais, George W. Furnas, Thomas K. Landauer, Richard Harshman, Indexing by latent semantic analysis, Journal of the American Society for Information Science, 41, 6, 1990, pp. 391-407.)を参照されたい。LSIは、検索およびランク付けの問題を、著しく低次元の問題へと低下させることで、きわめて大規模なデータベースの検索をより効率的に実行させることができる。他の次元削減手法は、Kobayashiら (Mei Kobayashi, Loic Malassis, Hikaru Samukawa, Retrieval and ranking of documents from a database, IBM Japan, docket No. JP9-2000-0075, filed June 12, 2000; Loic Malassis, Mei Kobayashi, Statistical methods for search engines, IBM Tokyo Research Laboratory Research Report RT-413, 33 pages, May 2, 2001.)によりCOVとして参照される次元削減方法として提案されている。COVでは、ドキュメント・ベクトルの共分散行列を使用して、ドキュメント・ベクトルの射影を行う近似的な削減次元空間を決定している。LSIおよびCOVは、情報検索において互換的な方法であり、いくつかのデータベース、およびいくつかのクエリーについてLSIは、わずかに良好な結果をCOVに比較して与えるものの、それ以外についてCOVは、わずかながら良好な結果を与える。
【発明が解決しようとする課題】
さらに、従来の距離に基づくクラスター検出には、後述する他の不都合があることも知られている。
【0019】
機械が学習するコンテキストの通常のクラスター化法は、データ・セットにおける主要なグループ化を見出すように設計されている。このためこの方法は、クラスターが高精度で未知のポイントを分類することができるのであれば良好なものと考えることができる。しかしながら、データ・マイニングの分野においては、データの主要クラスターは、多くの場合、ユーザには知られてはおらず、価値ある情報を抽出することができる可能性があるのは、より小さく、マイナーなクラスターである、といえる。分割および凝集に基づく既存のクラスター化技術は、多くの場合にバックグラウンドから小さなデータ・クラスターを分離するには効果的ではない。
【0020】
さらに別の不都合は、大規模なテキスト・データベースは、典型的には情報検索操作を効率化するために小さな集団に分割されていることにある。この分布は、通常ではデータ・セットの最も大きなクラスターが単一のデータベース内に完全に残されるようにして実行される。しかしながら、主要クラスターに焦点を当てた分割方法は、価値の高いマイナー・クラスターを、いくつかのデータベースの間に分散させてしまうことになる。主要クラスターの他、マイナー・クラスターを同定することは、より効率的にマイナー・クラスターを保存した分割を可能とすることになる。
【0021】
また、上述したように、クラスター化手段の幾分かのユーザは、しばしばその手段により生成されたクラスターの間の関係を知ることについて興味を有する。クラスターの重なり合いの蓄積を行ない、頂上にデータ・セット全部を含む単一のクラスターがあり、下に向かってより小さなクラスターを配置することにより、階層化クラスター化・アルゴリズムは、上述の要求を満たそうとしている。しかしながら、これらのクラスターのうちの多くは、階層的な組織化の複製物としてのみ存在し、そしてそれら自体では有益な解釈を有するものではない。ユーザは、データ・マイニング手段により報告された各クラスターに対して、ある種の独立した概念的解釈を与えることをまず希望することもある。一旦、意味を有するクラスターのセットが同定されると、ユーザはクラスター間のいずれかの重なり合いや包含関係を知ることに興味を抱くものと考えられる。
【0022】
加えて、多次元の設定を与えると、ユーザがクラスターについて容易に理解できるような仕方でデータのクラスター随伴性を表示したり、記述したりすることがきわめて困難である。クラスター・データを閲覧する場合に、ユーザは、クラスターの凝集性や突出性の度合いに対し、一目でアクセスすることができる必要性がある。
【0023】
検索のハードウエア資源に関しても、クラスター化が概ね望ましいことではあるものの、データ・セットがきわめて大規模な場合には高品質のクラスターを得ることに伴う計算コストの故に、データ・マイニング用途のためには現実的ではないものと考えられてきた。通常のコンピュータにおいて有意義な時間内に大規模なデータ・セットの組織化へのいくらかの知見を提供することができる手段が強く高く必要とされてきた。
【0024】
上述したように、多くの方法がこれまで提案されているにもかかわらず、高い効率、高い速度と共に高いスケーラビリティを有する情報検索のために好適な新規なデータ構造は、当技術分野で引き続き必要とされてきた。
【0025】
【課題を解決するための手段】
本発明は、以下において、大規模なテキスト・データベースの情報検索及びデータ・マイニングのための、バックグラウンドに対して高い相互類似の度合いを示す要素(例えばドキュメント)のクラスターの同定に基づいたシステムおよび方法を提案するものである。
【0026】
本発明においては、クラスターの分布構造は、グラフィカルに表示され、クラスターの質および顕著性として、視覚的に直ちにユーザに対してフィードバックを与えることができる。このシステムは、サイズおよび質といったクラスターの属性に対して自動的にアクセスを可能とする。また、このシステムはユーザに対し、大域的なクラスタリングのための予備的計算を必要とすることなく、クラスターのためのデータ・セットへのクエリーを可能とする。スケーラビリティは、次元削減技術手段、ランダム・サンプリング、および近似的な類似検索を支持するデータ構造の使用により達成される。
【0027】
本発明は、マイナー・クラスターを保存させつつ、マイナー・クラスターの検出効率を改善することにより、上述した新規な情報検索特性を提供することを可能とする。本発明による新規な情報検索は、ユーザがクラスターを理解する手助けとなるグラフ構造としてクラスター間の相関関係を表現することを可能とする。本発明は、さらに、情報検索の計算の計算スケーラビリティを改善することを可能とするものである。
【0028】
上述した側面は、クエリー・クラスターを決定するために近傍共有情報を使用する、テキスト・データベースの情報検索およびデータ・マイニングのためのシステムおよび方法により提供される。クラスター化方法は、クエリー要素(データ・セットの要素であっても要素でなくとも良い)と、データ・セットにおけるその近傍との間の相互随伴性のレベルとを評価する。2つの要素の間の随伴性は、これらの要素が共有する最近傍点の比が大きい場合に、強いものとして考察される。従来の共有近傍点の情報を使用する方法とは対照的に、提案する本発明の方法は、クラスター間の随伴性であるコンフィデンス(CONF)およびクラスター内での随伴性であるセルフ−コンフィデンス(SCONF)という新たな特有の概念に基づくものである。
【0029】
本発明によれば、所定のキーワード・リストから生成され、かつドキュメントに対して与えられる階層構造のノードを構成するドキュメント−キーワード・ベクトルとしてデータベースに格納されたドキュメントの情報検索のためのデータ構造を生成するコンピュータ・システムであって、前記コンピュータ・システムは、
前記ドキュメント−キーワード・ベクトルに対して階層構造を生成させる部分と前記ノード間にノード間の距離尺度に関連してパッチの関係を生成するパッチ規定部とを含んで構成され、階層構造を使用して決定される類似性を有するノード・グループを生成するための近傍パッチ生成部と、
前記パッチの間の類似性を使用して前記ドキュメント−キーワード・ベクトルのクラスター・データを生成するためのクラスター見積もり部とを含む
コンピュータ・システムが提供される。
【0030】
本発明における前記コンピュータ・システムは、前記パッチ間のパッチ間コンフィデンス値およびパッチ内コンフィデンス値を決定するコンフィデンス決定部を含み、前記クラスター見積もり部は、前記パッチ間コンフィデンス値に基づいて前記パッチを選択して前記ドキュメント−キーワード・ベクトルのクラスターとすることができる。
【0031】
本発明の前記クラスター見積もり部は、前記パッチ内コンフィデンス値に応じて前記クラスターのサイズを見積もることができる。
【0032】
本発明によれば、所定のキーワード・リストから生成され、かつドキュメントに対して与えられる階層構造のノードを構成するドキュメント−キーワード・ベクトルとしてデータベースに格納されたドキュメントの情報検索のためのデータ構造を生成する方法であって、前記方法は、
前記ドキュメント−キーワード・ベクトルに対して階層構造を生成し、格納領域に階層データを格納するステップと、
前記階層構造を使用して決定された類似性を有するノードの近傍パッチを生成し、前記パッチを格納領域に格納するステップと、
前記階層データおよび前記パッチとを読み込んで、前記パッチ間のパッチ間コンフィデンス値およびパッチ内コンフィデンス値を算出し、前記パッチ間コンフィデンス値および前記パッチ内コンフィデンス値を格納領域に対応するリストとして格納するステップと、
前記パッチ間コンフィデンス値および前記パッチ内コンフィデンス値に応答して前記パッチを選択し、前記ドキュメント−キーワード・ベクトルのクラスターとするステップと
を含む方法が提供される。
【0033】
本発明によれば、所定のキーワード・リストから生成され、かつドキュメントに対して与えられる階層構造のノードを構成するドキュメント−キーワード・ベクトルとしてデータベースに格納されたドキュメントの情報検索のためのデータ構造を生成するための方法をコンピュータ・システムに実行させるためのプログラムであって、前記プログラムは、前記コンピュータ・システムに対して
前記ドキュメント−キーワード・ベクトルに対して階層構造を生成し、格納領域に階層データを格納するステップと、
前記階層構造を使用して決定された類似性を有するノードの近傍パッチを生成し、前記パッチを格納領域に格納するステップと、
前記階層データおよび前記パッチとを読み込んで、前記パッチ間のパッチ間コンフィデンス値およびパッチ内コンフィデンス値を算出し、前記パッチ間コンフィデンス値および前記パッチ内コンフィデンス値を格納領域に対応するリストとして格納するステップと、
前記パッチ間コンフィデンス値および前記パッチ内コンフィデンス値に応答して前記パッチを選択し、前記ドキュメント−キーワード・ベクトルのクラスターとするステップと
を実行させるプログラムが提供される。
【0034】
本発明によれば、所定のキーワード・リストから生成され、かつドキュメントに対して与えられる階層構造のノードを構成するドキュメント−キーワード・ベクトルとしてデータベースに格納されたドキュメントの情報検索のためのデータ構造を生成するための方法をコンピュータ・システムに実行させるプログラムが記録されたコンピュータ可読な媒体であって、前記プログラムは、前記コンピュータ・システムに対して
前記ドキュメント−キーワード・ベクトルに対して階層構造を生成し、格納領域に階層データを格納するステップと、
前記階層構造を使用して決定された類似性を有するノードの近傍パッチを生成し、前記パッチを格納領域に格納するステップと、
前記階層データおよび前記パッチとを読み込んで、前記パッチ間のパッチ間コンフィデンス値およびパッチ内コンフィデンス値を算出し、前記パッチ間コンフィデンス値および前記パッチ内コンフィデンス値を格納領域に対応するリストとして格納するステップと、
前記パッチ間コンフィデンス値および前記パッチ内コンフィデンス値に応答して前記パッチを選択し、前記ドキュメント−キーワード・ベクトルのクラスターとするステップと
を実行させるコンピュータ可読な記憶媒体が提供される。
【0035】
本発明によれば、所定のキーワード・リストから生成され、かつドキュメントに対して与えられる階層構造のノードを構成するドキュメント−キーワード・ベクトルとしてデータベースに格納されたドキュメントの情報検索のための情報検索システムであって、前記情報検索システムは、
前記ドキュメント−キーワード・ベクトルに対して階層構造を生成させる部分と前記ノード間にノード間の距離尺度に関連してパッチの関係を生成するパッチ規定部とを含んで構成され、階層構造を使用して決定された類似性を有するノード・グループを生成するための近傍パッチ生成部と、
前記パッチの間の類似性を使用して前記ドキュメント−キーワード・ベクトルのクラスター・データを生成するためのクラスター見積もり部と、
前記見積もられたクラスター・データをディスプレイ手段に表示させるグラフィカル・ユーザ・インタフェイスと
を含む情報検索システムが提供される。
【0036】
本発明によれば、ユーザ入力クエリーに応答してディスプレイ・デバイス上に見積もられたクラスターをグラフィカルに表示するためのグラフィカル・ユーザ・インタフェイス・システムであって、前記グラフィカル・ユーザ・インタフェイス・システムは、
ドキュメントを格納するデータベースと、
前記データベースに格納された前記ドキュメントについてドキュメント−キーワード・ベクトルを生成すると共に、前記ユーザ入力クエリーに応答してドキュメントのクラスターを見積もるためのコンピュータと、
前記見積もられたクラスターと共に、前記クラスターの間のコンフィデンス関係とクラスター・サイズの階層情報とを画面上に表示するためのディスプレイと
を含むグラフィカル・ユーザ・インタフェイス・システムが提供される。
【0037】
【発明の実施の形態】
パートI.本方法の本質的処理
以下に、本発明をドキュメントの情報検索のコンテキストを使用して説明するが、本発明はこれに制限されるものではなく、本発明のアルゴリズムは、対となった非類似尺度といった距離尺度(三角不等式といった可能な表現)の特性を満足し、各データ要素がキーワードや、アノテーション目的のための他の情報を含む、いかなる用途に対しても適用することができる。上述した用途の1つの例としては、上述した対となった非類似尺度が存在するマルチメディア・データベース(例えば、テキスト、オーディオ、静止画像、グラフィックス・イメージ、グラフィック・ビデオ、gifアニメーションなどを含むデータベース)のためのデータ・マイニング・システムを挙げることができる。
【0038】
本発明の方法の概略的なフローチャートを図1に示す。本発明は、主にテキストに対する適用を用いて説明するが、当業者によれば本発明の方法が、“より近い”(尺度に関連して)要素の対が、“より遠く離れた”要素の対よりもより類似するというどの2つの要素の間においても距離の算出が可能な明確に規定された尺度を含むようにモデル化されたコンテンツを含む、いかなるデータベースに対しても容易に適用することができることは理解されよう。
【0039】
本発明の方法は、ステップS10から開始し、データベース内のドキュメントがベクトル空間モデルを使用してベクトルへと変換される。次いで、方法は、ステップS12において、データベースに格納されたデータのSASH類似性検索構造を生成する。次いで、ステップS14においてデータベースのすべての要素に対してSASH構造を使用してデータベースの要素に対して、最も類似する要素のリストからなる近傍パッチを算出する。これらのパッチは、その後適切なメモリ領域に格納される。ステップS16においては、セルフ−コンフィデンス値(以下SCONF値として参照する)のリストを、格納されたすべてのパッチについて算出する。これらのSCONF値は、相対セルフ−コンフィデンス値(以下、RSCONF値)を算出するために使用され、このRSCONF値は、各パッチ(それ自身もまたパッチである)の最良のサブセットのサイズを決定するために使用され、クラスター候補が生成される。次いで、本発明の方法は、ステップS18へと進んで、コンフィデンス値(以下、CONF値として参照する。)を使用して冗長なクラスター候補を排除する。方法はその後ステップS20へと進み、最終的なクラスターとされる所望する最小のRSCONF値を有するクラスター候補の選択をさらに行ない、選択されたクラスターを適切なメモリに格納する。方法はさらにステップS22へと進み、ユーザに対してGUIインタフェイスによりコンピュータ・スクリーン上にクラスターの間の相互関係を示したグラフを表示させる。図1に示した方法は、さらに図1に示した各ステップを実行するための複数のサブステップを含んでおり、これらのサブステップについては、以下においてより詳細に説明する。
【0040】
<ドキュメント−キーワード・ベクトルの算出>
ドキュメント−キーワード・ベクトルは、所与のキーワードおよびドキュメントとから、いくつか知られたうちのいかなる技術を使用しても算出することができる。本発明の特定の実施の形態においては、適切な重み付けを使用してドキュメントを数値化させることもでき、数値化の詳細については他の文献(例えば、Saltonら、前掲)に与えられているので、本発明においては説明を行わない。
【0041】
<SASHの構成と使用>
図2は、空間近似サンプル階層、すなわちSASHとして知られているドキュメント−キーワード・ベクトルの階層構造の構築の手法を示した図である。処理は、図1のステップS10の結果を受け取った後、ステップS28から開始し、例えば周知の乱数発生プログラムを使用してSASHのノードとしてベクトルのランダムな割り当てを生成する。レベルには、0〜hの数字が割り当てられており、各レベルは、その上のレベルの概ね2倍のベクトル・ノードを含む構成とされている。0の数字が付されたレベルは、データ・セットのベクトル・ノードの概ね半数を含んでおり、hの数字が付されたレベルは、トップ・ノードとして参照される単一のノードを含んでいる。SASH構造のトップ・ノードは、コンピュータ・システムのいずれかに含まれる、いかなる乱数発生手段を使用しても決定されている。次いで、ステップS30においてLで参照される階層レベルを、hに初期化する。プロセスは、ステップS32に進み、階層レベルLを1だけ減少させ、ステップS34においてレベルLのノードを、レベルL+1のノードへと、ノード間の距離に依存して連結させる。上述した連結は、レベルL+1のノードが親ノードとなり、レベルLのノードが子ノードとなる。連結は、レベルLのノードからレベルL+1からの最も近い親ノードを選択することにより実行され、その後、これらの親−子ノード対を連結して、それぞれの親ノードが所定数の最も近接する子ノードに連結されるようにして行われる。連結をどのようにして行うかのさらに詳細については、Houleらによる他の文献(前掲)を参照されたい。プロセスは、ステップS36へと進み、階層レベルが最も低いレベル(0)に達したか否かを判断し、レベル0の場合(yes)、SASHの構築を完了させ、SASH構造を、メモリまたはハードディスクといった適切な記憶領域へと格納する。プロセスは、ステップS38へと続いてノードのパッチを構築させる。レベル(0)ではない場合(no)には、プロセスは、ステップS32へと戻って、ステップS36において肯定的な結果が得られるまで繰り返される。
【0042】
ステップS38では、格納されたSASH構造が本発明にしたがって用いられ、データベースのすべての要素についてのパッチが生成される。データベースのサブセットRに関連して所与の要素qについて得られたパッチは、所定の基準である類似distに関連してRから抽出されたqの近傍要素のセットである。SASHを構築するための説明している実施の形態においては、データベース内の各ノードは、その階層レベルでラベル付けされている。また、各ノードについてのパッチは、所定の固定されたサイズとされ、かつ、同一のレベル以上のすべてのノードのセットに対して算出される。本発明においては、ノードごとのパッチを構築して格納するのに限定されるわけではなく、また別のノード・セットに関連する追加のパッチを構築して格納してゆくこともできる。
【0043】
図3は、SASH構造の構成を本発明にしたがって生成されるパッチの構造と共に示した例示的な実施例である。図3に示されるように、パッチにより参照されるベクトル・ノードは、本質的には、基準のベクトル・ノードのレベル以上のSASH階層のいずれかに帰属される。加えて、これらの階層レベルにおけるノードの間から、パッチは、所定の“尺度距離”にしたがって、基準ノードに最も近い複数のノードを含んで構成されている。この基準ノードは、クラスターの大域的な構成を与えるために階層構造のいかなる、またすべてのノードから選択することができ、また本発明の別の実施の形態では、基準ノードは、クエリーに関する基準ノード、すなわち検索されたドキュメントに特に関連したクラスター情報を与えるように、ユーザ入力クエリーを使用して決定することができる。基準ノードは、図3において、☆により示されており、パッチ内のノードは、図3のようにユーザ・クエリーに関連して整列されている。このパッチ構造はまた、詳細には後述するシステム内の適切なメモリ領域に格納されている。本発明においては、これらのパッチはさらに、後述するようにコンフィデンスにより関連づけられる。
【0044】
<コンフィデンスの計算>
本発明の方法では、情報検索と“パッチ・モデル”として本明細書おいて参照する随伴規則の発見との双方を利用したクラスター化の新たなモデルを使用する。パッチ・モデルは、ドメインへの(非)類似近似のある種の尺度にしたがって、データのクラスターがデータ・セットからの要素に基づく近傍クエリーの結果として表現することができるということを仮定する。より、定式化すれば、SをあるドメインDから抽出された要素のデータベースであるものとし、ここで、”dist”を、D上に定義される対の間の上述した定義により与えられる尺度を満足する距離関数であるものとする。ここでさらに、RをSのサブセットとする。所与のいかなるq∈Dのクエリー・パターンに対しても、distによるRから抽出されたqに対するk−最近傍点のセットをNN(R, q, k)とし、下記の条件で選択されたものとする:
もしも、q∈Rの場合には、NN(R, q, 1) = {q}とする。すなわち、もしqがデータ・セットのメンバーであれば、qをその最近傍点として考慮するものとする。
【0045】
NN(R, q, k-1) ⊂ NN(R, q, k)(すべての1<k≦|R|に対して)とする。すなわち、qのより狭い近傍は、より広い近傍に厳密に包含されるものとする。
【0046】
これらの条件は、qがRにおける1つ以上のk−最近傍点セットを有する可能性を考慮するためである。固有的に決定されるセットNN(R, q, k)は、qのk番目のパッチとして参照される(Rについて)か、またはqのパッチのうちの1つとして参照される。
【0047】
図4は、データベースのパッチ(7−パッチ、12−パッチ、および18−パッチ)の構成を示した図である。破線で示した円は、ドキュメント空間の全体を表す。
【0048】
ここで、R内において可能性のある2つのクラスターが、2つのパッチCi = NN(R, qi, ki) and Cj = NN(R, qj, kj)として表されるものとする。CjとCiとの間の関連性は、AgrawalおよびSrikantら(前掲)により提案された随伴ルール発見に類似するナチュラル・コンフィデンス尺度にしたがって評価することができる。
【0049】
CONF(Ci,Cj) = |Ci ∩ Cj|/|Ci|=|NN(R, qi, ki) ∩ NN(R, qj, kj)|/ki.
すなわち、コンフィデンスは、Ciを構成する要素であって、またCjを構成する要素に比例するものとして表現することができる。コンフィデンス値が小さい場合には、候補Cjは、Ciに対してわずかな影響しか与えないか、またはまったく影響を与えない。一方で、その割合が大きいと、Cjは、Ciに強く関連し、これを包含する可能性もある。
【0050】
図5は、それぞれ8ベクトルおよび10ベクトルを有するクラスターAとBとに対する関数CONFの本質を示した図である。2つのベクトルが、共にAとBとの交わりに存在し、したがって関数CONFが、A,Bの順でパッチに対して適用される場合、すなわちCONF(A,B)は、0.25、すなわち25%を与える。関数が(B,A)の順で適用される場合、すなわちCONF(B,A)の場合には、結果は0.2すなわち20%として与えられる。関数CONFは、データベースに共に含まれるサンプルから抽出される2つのパッチに対して適用することができる。
【0051】
コンフィデンスの尺度はまた、共有近傍点の距離尺度の例としても捉えることができる。しかしながら、共有近傍点の情報への使用方法は、凝集クラスター化方法の使用方法とは本発明においてはきわめて異なるものである。凝集法は、上述した尺度を2つのパッチを統合するべきかどうかを判断するために使用するが、本発明において提案される方法は、尺度を2つの判断するべきパッチの間の随伴性のレベルの質を判断するために使用する。
【0052】
<クラスター内随伴性の計算>
パッチ内における随伴性の自然な評価はまた、コンフィデンスの考え方で可能である。ここで、Cq = NN(R, q, k)を、パッチのクラスター候補とする。ここで、パッチCqを構成するパッチは、v∈Cqのすべての要素についてC = NN(R, v, k)の形のパッチのセットであるものと定義する。Cqが高い内部随伴性を有している場合には、Cqと、その構成パッチとの間に強い関連性を充分に予測することができる。他方で、内部随伴性が低い場合には、Cqとその構成パッチとの間の関連性は弱いことが期待される。したがって、セルフ−コンフィデンスにおけるパッチのクラスター候補における内部随伴性が得られ、これを構成パッチに関連して候補パッチの平均コンフィデンスとして定義することができる。
【0053】
SCONF(Cq) = (1 / |Cq|) * Σv Cq, |Cv|=|Cq| CONF(Cq,Cv)
= (1 / k2) * Σv Cq |NN(R, q, k) ∩ NN(R, v, k)|.
1のセルフ−コンフィデンス値は、クラスターのすべての要素にわたり完全な随伴性があることを示すが、これが0に近づくにつれて内部随伴性は小さくなるかまたはまったく随伴性のないことを示す。
【0054】
<クラスター間のコンフィデンスを使用したクラスター境界の決定>
ここで、対象としているノードqが、我々が評価を希望するR内のあるクラスターに随伴するものと仮定する。セルフ−コンフィデンスの考え方を使用して、プロセスは、関心のある範囲a≦k≦bでこのクラスターを最も良く記述するqを元にしたk−パッチを決定する。理想的なパッチは、クラスター要素を主要に含むものであり、相対的に高いセルフ−コンフィデンスを有するものであるが、パッチがより大きくなると、クラスターの外部の多くの要素を含み、比較的低いセルフ−コンフィデンスを有することが予測される。2つのパッチに対する評価について焦点を当てる。サイズがkの内パッチCq,k = NN(R, q, k)は、候補パッチのクラスターを示し、サイズがφ(k)>kの外パッチCq, φ (k) = NN(R, q, φ(k))は、内パッチの判定に対する適切さに対する局所的なバックグラウンドを与えるものとする。
【0055】
所定の選択したkに対して、外パッチのそれぞれの要素の近傍点セットを評価する。近傍点の対(v,w)を考えるものとし、vが外パッチに属し、wが外パッチNN(R, q, φ(k))の要素であるものとする。vはまた内パッチに属し、wが内パッチNN(R, v, k)の要素であるものとすると、ここで、(v,w)は、内側近傍点の対である。
【0056】
ここで、wが、外パッチの要素であれば、対(v,w)は、外パッチのセルフ−コンフィデンスに寄与し、qを元にしたクラスターのデスクリプターとして内パッチの選択を妨げることになる。wがまた、内パッチの要素である場合には、(v,w)は内側対であり、したがってこの対は、内パッチのセルフ−コンフィデンスに寄与することにより、vとqとの間の随伴性を強化することになる。
【0057】
本質的には、qを含むクラスターをもっとも良く記述するk−パッチは、下記のようにして得られる。
i)内パッチのセルフ−コンフィデンスに寄与する内側ペアを高い割合で含むこと、および
ii)外パッチのセルフ−コンフィデンスに寄与しない近傍点の対(内側対である必要はない)を高い割合で含むこと、である。
【0058】
i)の種類の高い割合は、k−パッチ内での随伴性の高いレベルを示すが、ii)の種類の高い割合は、局所的なバックグラウンドとの間で高い差別性を有していることを示すものである。両方の考察は、等しく重要なので、これらの割合は、別々に考慮されるべきである。上述した考察は、a≦k≦bの範囲の選択されるすべてのkにわたり、2つの割合SCONF(Cq,k)および1 - SCONF(Cq, φ (k))の和が最小となるようにして考慮される。
【0059】
相対セルフ−コンフィデンス(RSCM)の問題は、後述するようにして定式化することができる。
【0060】
max a k b RSCONF(Cq,k, φ),
上記式中、
【0061】
RSCONF(Cq,k, φ) = SCONF(Cq,k) - SCONF(Cq, φ (k))
= SCONF(NN(R, q, k)) - SCONF(NN(R, q, φ(k)))
であり、RSCONFは、k−パッチCq,kのRおよびφに関する相対セルフ−コンフィデンスとして参照される。最大を与えるk−パッチは、この領域にわたるqのクエリー・クラスターとして参照されるものとなる。RSCMは、最尤見積もり(maximum likelihood estimation)の形式として考えることができ、これは、近傍点の対がクエリー・クラスターとして内パッチを選択することを指示するか、または指示しないかを分類するものである。
【0062】
図6は、クエリー要素のパッチ・プロファイルの一部として本発明の方法に含まれるSCONFの計算を実行するための擬似コードのサンプルを、近傍点リスト、NN(R, q, φ(b)) and NN(R, v, φ(b))がすでに、すべてのvについて利用可能であるものと仮定して示した図である。SCONF(NN(R, q, k))を直接的に算出するのではなく、SCONF(NN(R, q, k))は、1つのアイテムによりパッチを展開し、差分的に得るべく計算を行うことによって、SCONF(NN(R, q, k-1))から得られる。
【0063】
本発明においては、説明するRSCM方法は、外パッチのサイズがk(kは整数である。)の値に依存する仕方で多くの変形例を可能とする。φ(k)=2kとする簡単な選択が、内パッチに関連して外パッチの要素であるか、要素でないかということについて最良のバランスを与えるものの、φ(k)の選択にあたっては他の考察も影響を与える。例えば、境界を明確にするための値を算出するためのコストからは、最大パッチ・サイズとしてm<2bを使用することが好ましい。この場合、外パッチ・サイズは、φ(k)=min{2k,m}とし、外パッチ・サイズと内パッチ・サイズとの間のm/bの最小値が、依然として1よりも実質的に大きくなるように選択することができる。
【0064】
本発明においては、RSCM法の設定は、内側のクラスターの随伴性が外側の差と同程度に重要であることを仮定する。しかしながら、本発明においては異なる重み付けを相対セルフ−コンフィデンスの値への内側及び外側の寄与に対して与えることもできる。すなわち、下記式、
【0065】
RSCONF’(Cq,k,φ) = w1 SCONF(Cq,k) - w2 SCONF(Cq, φ (k)),
の関数を最大化する代わりに、重み付け0<w1および0<w2の実数値を選択することもできる。
【0066】
この段階で、格納されたそれぞれのパッチCq,m = NN(R, q, m)は、1≦k≦mの範囲のkのすべての値に対して、Cq,mのそれぞれの副パッチCq,k=NN(R, q, k)それぞれに対する、セルフ−コンフィデンス値のリストを伴っている。SCONFとして以下に参照するデータ構造を図7に示す。このデータ構造は、ハードディスクまたはメモリといった適切な記憶手段内に格納され、本発明のクラスター選択機能により参照される。
【0067】
本発明のさらなる別の変形例は、計算のコストを節約するものである。RSCONF値を計算するコストは、外パッチのサイズが増大するに連れて二次的に増加する。このコストは、データ・セット全体への直接的なRSCM法の実際的な適用において見出されるクラスターのサイズを制限してしまうことになる。しかしながら、これらの制限は、ランダム・サンプリング技術を使用して回避することができる。RSCM問題を解くための範囲をa≦k≦bに制限するように調整することで大きなクラスターに適応させる代わりに、サイズを変化させたデータ・サンプルを集めるのに対して、固定された範囲においてパッチ・サイズの検索することができる。
【0068】
上述した変形例を理解するために、ある大きな値cについてR ⊆ Sの等しくランダムなサンプルと仮説的なクエリー・クラスターNN(S, q, c)との間の関係を考察する。NN(S, q, c)とRとの交わりは、パッチNN(R, q, k)を生成する。ここで、k = |NN(S, q, c) ∩ R|である。パッチNN(S, q, k)は、Rにおけるqのクエリー・クラスターとしてのサンプルR-NN(S, q, k)の選択値に関連して、NN(S, q, c)のプロキシを提供し、これは、全体のデータ・セットに関してqに対してのクエリー・クラスターとしてのNN(S, q, c)の適切さの指標とすることができる。
【0069】
a≦k≦bの場合には、プロキシ・パッチをRSCM法により見積もることができる。それ以外には、kは、aとbとの間にはなく、パッチを見積もることができない。未知の“真の”クラスター・サイズcについては、評価されないプロキシ・パッチの可能性の限界は、MotwaniおよびRaghavan(R. Motwani and P. Raghavan, Randomized Algorithms, Cambridge University Press, New York, USA, 1995.)の標準的なChernoff境界技術を使用して得ることができる。
E[k] = μ = c |R| / |S|
Pr [k < a | c] ≦ e- μ [eμ / (a-1)]a-1
Pr [k > b | c] ≦ e- μ [eμ / (b+1)]b+1.
これらの境界は、近似的なサイズの収集に加え、aおよびbの近似的な値を選択するためのガイドとして使用することができ、充分に大きなcについての所望する確率について、少なくとも一つのサンプルを、少なくとも1つのプロキシ・パッチがaとbとの間のサイズとなるようにすることができる。
【0070】
例示的な実施例としてh、均等なランダム・サンプルである|Ri| = |S| / 2i for i ≧ 0である{R0, R1, R2, ...}について考察する。ここで、NN(Ri, q, ki)を、NN(S, q, c)のプロキシ・パッチとする。ここで、cは、少なくとも25以上であることが保証された未知の数である。a=25,b=120の制限を選択する場合には、少なくとも一つのサンプルRiに対して、i番目のプロキシ・パッチの所望するサイズμi = E[ki]は、44≦μi≦88の範囲内に存在する。上述した境界を適用すると、μiがこの範囲に制限される場合には、NN(Ri, q, ki)がRSCM法により評価できない確率は、低いと見積もられる(0.004285より小さい)。
【0071】
言い換えれば、この範囲とサンプルとを選択すると、まったく評価されないプロキシ・パッチの確率は、1/233以下とすることができる。このエラー境界は、まったく従来と同様のものであり、失敗する確率は、実際的にはきわめて低いものである。
【0072】
RSCM法がプロキシ・パッチNN(Ri, q, ki)を、クラスター評価として提供する場合であっても、Sにおけるクラスターに対応するサイズを推定するための正確な方法はない。しかしながら、後述する最大蓋然性評価の原理、E[k] = kiでのc= E[k] |S| / |Ri|の値は、真のクラスター・サイズの自然な見積もりを構成する。サンプルRiについて見積もることができる最も小さなクラスター・サイズは、したがって、(a |S|) / |Ri|となる。
【0073】
同一のクラスターがいくつかの異なるサンプルにわたって検出される場合には、真のクラスターのサイズの見積もりは、妥当でないことに留意されたい。にもかかわらず、実際には大きなRSCONF値は概ね、クラスターのサイズが正確に決定されない場合でさえも、クラスターの存在を示す信頼性のある指標となることが判明した。
【0074】
<要素の再分類>
本発明においてはさらに、共通のクエリー要素へのメンバーの近接性の利点により、RSCM法で生成されたクラスターは、テキスト・マイニングにおいて望ましい特徴である凝集クラスター化法により生成されるクラスターよりも、より凝集性を有する傾向にあることが見出された。現実的には、クエリー・クラスターは、ペア間の距離尺度よりは、球形の形状に向かって行くことになる。
【0075】
RSCM問題のためのクラスター・パッチの解は、全体として同様のクエリー要素に基づく他の方法に比較して高いレベルの相互随伴性を示すものの、上述したクラスターの要素は、クエリー要素それ自体に伴なわれても、伴われなくとも良い。むしろ、クエリー要素は単に、相互に良好な随伴性を有する近傍データを見出すためのスタート点を与えるにすぎない。クエリー要素がその随伴クラスターに比較してアウトライアーであるか、または見出されたクラスターの実質的な部分がアウトライアーを構成するように思われるような別の状況の場合には、第2のクラスター化基準にしたがって外パッチの要素を再評価することが効果的である。このような再評価は、より球形である凝集クラスターの発見を可能とする。
【0076】
多くの方法によりクエリー・クラスターの近くで要素を再分類することが可能となる。図8には、このような変形例を説明した疑似コードの記述を示す。図8に示したプロセスは以下のようにして実行される。
i)元のクエリー・クラスターを決定した内側のk−パッチを与え、すべての対応する外側パッチの要素をクエリー要素において共有されるk−近傍点の数にしたがって再評価を行う。具体的には、すべてのv ∈ NN(R, q, φ(k))を、コンフィデンス値CONF(Cq, Cv)にしたがって、最高から最低へとランク付けを行うqからの距離に応じて連結は破られることになる)。ここで、Cq = NN(R, q, k)であり、Cv = NN(R, v, k)である。
ii)最も高い方からk個の要素を、新たな調整されたクラスターとして報告する。これとは別に、外パッチの要素の全体のランキングを報告しておき、ユーザが最終的なクラスターの要素の判断を残しておくこともできる。この方法においては、元の内パッチの外側の要素であって依然として外パッチの内側にある要素が新たなクラスターに含まれるものとして選択され、近傍点間の元々のパッチの要素を多く有することが示される。
【0077】
<クラスターの選択>
提案される全体的なクラスター化の方法であるPatchCluster機能は、均等なランダム・サンプル{R0, R1, R2, ...}の収集から得られるクエリー・クラスター相互関係(query cluster relationship:QCR)のグラフを構築する。ここで、すべてのj<iおよび|Ri| = ceil(|S|/2i) for 0 ≦ i < log2 |S|について、Ri ⊂ Rjである。このグラフは、コンフィデンスに類似するいくつかのパラメータに依存し、これを支持するための随伴規則生成のしきい値は、下記の通りである。
i)(クラスター品質)クラスターの相対セルフ−コンフィデンスについての最小しきい値α;
ii)(クラスター差)概ね同一のサイズの2つのクラスターの間のコンフィデンスの最大のしきい値β(共通のサンプルRiから得られる);
iii)(随伴品質)随伴クラスターの間のコンフィデンスの最小のしきい値γ(共通のサンプルから得られるものである必要はない);
iv)(随伴スケール)2つの随伴するクラスターの間のスケールの差の最大のしきい値δ(すなわち、差|i-j|であり、RiとRjとは、クラスターを導出するサンプルである。)
図9は、本発明に使用されるPatchCluster法を記述した擬似コードのサンプルである。基本的なQCRの構成手法は、下記のようにまとめることができる。
【0078】
1.QCRノード・セット:
それぞれ0 ≦ t < log2 |S|について、サンプルRtの要素から、Rtの異なるクエリー要素に基づくそれぞれCi = NN(Rt, qi, ki)であって、a≦|Ci|≦bのクラスターからなるクエリー・クラスターQCt = {C1, C2, ..., C|Rt|}を収集する。RSCONFにしたがって使用できるクエリー・クラスターの中から、可能な限りQCtの要素を選択する。この場合、i<jであれば、RSCONF(Ci)≧RSCONF(Cj)とし、このための条件として、下記の2つの条件を適用する。
i.(クラスター差)すべての1≦i<j≦mtについて、max {CONF(Ci,Cj),CONF(Cj,Ci)}<βとし;
ii.(クラスター品質)すべての1≦i≦|Rt|について、RSCONF(Ci)≧αとする。
これらのクラスターは、レベルtでのQCRグラフにおけるノードとなる。
【0079】
2.QCRエッジ・セット:
QCiにおけるi≦j≦i+δであるような異なるクエリー・クラスターCi = NN(Ri, qi, ki)およびCj = NN(Ri, qi, ki)のそれぞれのペアについて、C’j = NN(Ri,qj,2j-ikj)として、max {CONF(Ci,C’j),CONF(C’j,Ci)}≧γの場合に、指示されたエッジ(Ci, Cj),および(Cj,Ci)を、QCRグラフに挿入する。CONF(Ci,C’j)およびCONF(C’j,Ci)の値をエッジ(Ci, Cj),および(Cj,Ci)の重み付けとして適用する。
【0080】
グラフのそれぞれのレベルは、クラスターのセットのレベル、aおよびbとに依存する領域内にある見積もりサイズからなる、粗い断面として見ることができる。それぞれのスライスにおいて、候補は、それらのRSCONF値にしたがって余すことなく選択される。また、新たな候補は、それらが以前に許容された候補から充分に異なる場合にのみ許容される。
【0081】
本発明においては、共通のレベルにおける重複したクラスターの生成は排除されるものの、重複したクラスターが、異なるレベルにおいて生成する場合には許容される。QCRグラフは、このためわずかな時間だけのみ所定のクラスターを含むことができる。いくつかの生成されたレベルにおける同一のクラスターの存在は、共通する概念を共有する2つのクエリー・クラスターが、重なり合っているものと判断されるので、実質的に構造の連結性を向上させることとなり、エッジにより連結されることになる。図9は、本発明において“PatchCluster法”として参照される、クラスターを排除するための擬似コードのサンプルを示した図である。
【0082】
αの値を低下または増加させることにより、ユーザは、グラフに出現するクラスター・ノードの数を増加または減少させることができる。βの値を増加させることはまた、クラスターの数を増加させることになるが、これは、所定のサンプルから1つ以上のクラスターにより個別的な概念が共有されてしまうというリスクをもたらす。クラスター化の規則を誘導する目的のため、高い連結性のあるグラフとすることが好ましい。QCRグラフの2つの随伴クラスターの間のスケールの差に対する最大しきい値δは、後述する理由から小さな固定値とするべきである。
【0083】
PatchCluster法の別の変形例は、クラスターの数の制御を含むものである。上述したように、生成されるクラスターの数は、報告されたクエリー・クラスターの相対セルフ−コンフィデンスしきい値αを特定することによって制御される。その代わりに、ユーザは、それぞれのデータ・サンプルについて別々のクラスターの数を決定するオプションが与えられても良い。所定のレベルtに対して、このことは下記のようにして実行される。
i)レベルtから得られたクエリー・クラスターの相対セルフ−コンフィデンスについて最小のしきい値αtを特定する。
ii)レベルtから得られるクエリー・クラスターの絶対数に付いての最大のしきい値を特定する。
【0084】
クラスターの数についてのしきい値が与えられると、クラスターの選択は、所望するクラスターの数が得られた場合や、すべての候補を考慮した場合にどれが最初に発生しても停止される。
【0085】
PatchCluster法では、PatchCluster/RSCMのパラメータは、上述した方法すなわちアルゴリズムが実装されるシステムに依存して決定することができる。決定されるパラメータは、下記のものを挙げることができる。
【0086】
<内パッチ・サイズの範囲>
内パッチのサイズの範囲[a,b]は、この方法によって任意に大きなクラスターでも発見することができるように選択されるべきである。aとbとを、失敗の確率を分析してより精度良く選択することも可能であるが(上述したChernoff境界を使用する)、下記の汎用的な原理を適用することができる。パラメータは、サンプルのサイズが小さいことによる変動を克服するに充分なだけ大きくする必要がある。変数aは、20以上であることが要求される。パラメータbは、得られるレベルについてターゲットとするクラスター・サイズの範囲が実質的なオーバーラップを有しているように選択される必要がある。このことは、bをaの約3倍以上とすることにより達成されることが見出された。
【0087】
<最大パッチ・サイズ>
また、最大パッチ・サイズは、効率の理由からできるだけ小さく選択することが必要である。しかしながら、最大パッチ・サイズは、実質的にbよりも大きくなるように選択される必要があり、φ(b)=2bとして選択することが理想的である。しかしながら、φ(b)=1.25bを選択しても、また良好な結果を与えることができることが見出された。本発明の最良の実施の形態においては、a=25、b=120、φ(k)=min{2k,150}とすることで、多くのデータ・セットについて満足する結果が得られるので、好ましいことが見出された。
【0088】
共通のサンプルからのいかなる2つのクラスターの間のコンフィデンスについての最大のしきい値βは、データ・セットにかかわらず概ね0.4に設定される必要がある。実験によれば、共通のサンプルから重なり合うクエリー・クラスターは、近似的にまたはわずかに重なり合ういずれかの傾向にあることが示された。PatchCluster法により与えられるクラスター化は、bの正確な選択には比較的感受性は高いものではない。
【0089】
<しきい値δ>
QCRグラフの2つの随伴するクラスターのスケールにおける差の最大のしきい値δは、いくつかの理由から常に小さな固定値とされる必要がある。大きな値は、最大のクラスターが圧倒的な数のきわめて小さなクラスターへと連結されるグラフを与える。この結果、QCRグラフは、ユーザを誘導するのについて、きわめて困難性をもたらす。レベル0からのすべてのクエリー・クラスターについては、式NN(Ri,qj,2δkj)の近隣を算出する必要がある。スケーラビリティを保証するために、δは、小さな定数として選択されなければならない。この値を、実験においてはδ=4とすることで、概ね最大で2から2の程度の差のサイズのクラスター間で随伴エッジを生成することができた。δについて上述のように選択することがきわめて好ましい。
【0090】
後述するパラメータは、ユーザの特定の要求にしたがって設定することができる。
(a)クラスターの相対セルフ−コンフィデンスに対する最小のしきい値α(または、これとは別に、それぞれのサンプル・レベルに対して最小のクラスターの相対セルフ−コンフィデンスおよび/または所望するクエリー・クラスターの最大数)。0.1≦α≦0.2の範囲の値が好ましい。値をより小さくすると、クラスターの数が大きくなる。
(b)QCRグラフにおける随伴クラスターの間のコンフィデンスについての最小のしきい値γ(共通のサンプル・レベルから得られる必要はない)。0.15≦γ≦0.2の範囲の値が好ましい。小さな値は、グラフのエッジの数をより多くする。
(c)それぞれのクエリー・クラスターに適用されるキーワード・ラベルの数。
【0091】
PatchCluster法のさらなる変形例は、正確な近傍パッチを算出するのではなく、近似的な近傍点パッチを計算するものである。PatchCluster法により実行される近傍点計算は、データ要素の数が多く、正確な近傍の情報を探索する場合には、高コストなものとなる。この方法の効率を改善するためには、近似的な近隣情報で置き換えることができる。SASHといった類似検索構造は、高い精度でシーケンシャル検索よりも高速にこの情報を生成するために使用される。
【0092】
さらなるPatchCluster法の変形例は、ドキュメント−キーワード・ベクトルおよびキーワード・ベクトルの次元削減を実行するものである。
【0093】
基本的なPatchCluster法は、図9に示すようにテキスト・データに適用する場合、ドキュメントが適切な重み付けを使用してベクトルとしてモデル化されていることを仮定する。キーワード空間が大きくともドキュメントあたりの平均の数が小さい場合には、ベクトル間の距離計算は、ベクトルが本質的、すなわち、非ゼロのエントリだけで、しかもその位置が格納されているのであれば効率的に実行される。しかしながら、ドキュメントあたりのキーワードの平均の数が大きな場合は、距離比較のコストを制限するためにしばしば次元削減が実行される。ドキュメントあたりの元の平均のキーワード数にかかわらず、LSIまたはCOVといった次元削減技術で、所望される場合にはクラスター化の前に適用することができる。発明の実施の形態の欄において与えられる実験結果は、次元削減の使用および非使用について、それぞれの効果を示すものである。
【0094】
PatchCluster法のさらに他の変形例は、QCRグラフの簡単化に含ませることができる。PatchCluster法により与えられるQCRグラフは、多数のクラスターの対についての随伴情報を含む。しかしながらこの情報は、時として簡略化することなしにユーザを容易に誘導するためには高い密度を与えることとなる。グラフを適切に簡略化することを可能にするいくつかの方法は、下記の通りである。
【0095】
i)(レベル間の過渡的なエッジを排除する)例えば、グラフがu<v<wであるクラスター・ノードC1 = NN(Ru, q1, k1)、C2 = NN(Rv, q2, k2)、C3 = NN(Rw, q3, k3)および随伴エッジ(C1,C2)、(C2,C3)、(C1,C3)を含むものと仮定する。エッジ(C1,C3)は、ユーザが(C1,C2)および(C2,C3)を介してC1からC2へと依然として誘導されるのでユーザから隠すことができる。
ii)(類似クラスターの省略)2つのクラスターC1 = NN(Ru, q1, k1)およびC2 = NN(Rv, q2, k2)が、CONF(C1,C2)およびCONF (C2,C1)の両方が充分に高い値を有するためにきわめて類似するものと考えられるときには、それらのうちそれぞれのノードを省略することができる。2つのノードのうち、一方のノードを保持し、他のノードを削除する(保持されるクラスター・ノードは、より高いRSCONF値を有すること、またはサイズが大きいことといった種々の仕方で選択することができる。)。削除されたノードを含むいかなるエッジであってもその後、保持されたノードに帰属され、例えばC1が保存され、C2が削除された場合には、エッジ(C2, C3)が、(C1,C3)に変換される。その結果いかなる重複したエッジでも削除されることになる。当然のことながら、他の簡略化方法も本発明においては採用することができる。
【0096】
<グラフィカル・ユーザ・インタフェイス:クラスターのラベリング>
検索されたクラスターを表示させるための有用なグラフィカル・ユーザ・インタフェイスを提供するために、クエリー・クラスター・ラベリングおよび同定の問題を、テキスト・データおよびベクトル空間モデルの文脈においてここでは検討する。クエリー・クラスターは、単一のクエリー要素の限定された近傍内に存在するので、表示ベースのクラスター化のために、クラスターのデスクリプターとしてクエリーを使用することを試みる。しかしながら、クエリー要素は、クラスターの最良の代表となる必然性はなく、実際には、全体を記述する適切なクラスターの要素がない可能性もある。
【0097】
クラスターに対してラベルを帰属させる1つの通常の方法は、ドキュメント・ベクトル・モデルにおいて使用されるような用語重み付け法にしたがい、クラスターのドキュメント内においてもっとも頻出する用語のランク付けされたリストを使用することである。用語にはそれぞれクラスターのすべてのドキュメント・ベクトルの全部にわたる用語重み付けに対応する合計(または平均に等価)に等しくなるようなスコアが与えられる。もっとも高いスコアを与える用語の所定数をランク付けして、ラベルとしてユーザに提供する。
【0098】
COVやLSIといった次元削減技術を使用する場合には、元の次元削減されないドキュメント・ベクトルは、もはや利用可能ではないか、または格納および検索するのにはコスト的に高くつく。それにもかかわらず、元のベクトルなしに意味のある用語のリストは依然として抽出することができる。まず、i番目の用語は、zi,j = 1, if i = j, and zi,j = 0などのように、元のドキュメント空間の単位ベクトルzi= (zi,1, zi,2, ..., zi,d)とすることができる。ここで、クエリー・クラスターNN(R, q, k)に属するドキュメント・ベクトルの平均をμとする。この記述を使用して、i番目の用語についてのスコアは、簡単にzi ・μとして記述することができる。しかしながら、‖zi‖ = 1であり、μは定数なので、これらのスコアにしたがう用語のランク付けは、下記の尺度にしたがうランク付けとなる。
【0099】
zi・μ/‖μ‖ = cosangle(zi,μ) = cos θi,
上記式中、θiは、ベクトルziとμとの間の角度を表す。
【0100】
次元削減と共に、元の空間のベクトルvとベクトルwとの間の対の距離cosangle(v, w)は、次元削減された空間のvおよびwにそれぞれ等価な、v’およびw’を使用してcosangle(v’, w’)として近似することができる。したがって、ベクトルzi およびμの次元削減された相手方をそれぞれz’iおよびμ’として、cosangle(zi,μ)は、cosangle(z’i, μ’)で近似することができる。また、cosangle(z’i, μ’)は、クエリー・クラスターの次元削減されたベクトルの平均であるμ”を使用して、cosangle(z’i, μ”)で近似することができる。ベクトルz’iは、すべての1≦i≦dに対してあらかじめ計算することで、用語のランク付けされたセットが効果的に次元削減されたアトリビュート・ベクトルを集めることでμ”に基づいて最近傍検索の手段により、生成することができる。dは、典型的には相当に小さいので、このような検索のコストは、クラスターの生成のコストに比較にして無視できるものとなる。
【0101】
次元削減したクラスターのラベリング法は、下記の通りである。
i)i番目のアトリビュートについて、すべての1≦i≦Nに対して、次元削減アトリビュート・ベクトルzi = (zi,1, zi,2, ..., zi,d)をあらかじめ計算する。ここで、Wを次元削減アトリビュート・ベクトルとする。
ii)μ” = Sv NN(R, q, k) vを計算する。ここで、vおよびqは、次元削減されたデータのベクトルである。
iii)λをクラスターの所望するラベルの数として、Wにおけるμ”のλ−最近点を、cosangle尺度の値を減少させながら計算する。
iv)クラスターのラベルとしてλ個の近傍のランク付けされたリストに対応するアトリビュートを取得する。これとは別に、cosangleそれ自体の値をユーザに対して表示させることもできる。また、さらに別に近似的な最近傍を、SASH、または別の類似検索方法を使用して生成されたように使用することもできる。
【0102】
パートII.情報検索のためのシステム
図10は、本発明のアルゴリズムが実装されるシステムを示した図である。図10に示されるように、システムは概ねコンピュータ10と、ディスプレイ装置12と、キーボード14といった入力デバイスと、マウス16といったポインタ・デバイスとを含んで構成されており、本発明にしたがい、ユーザが情報検索のためのクエリーを入力することができる構成とされている。コンピュータ10は、また、検索されるドキュメントを格納するデータベース18を管理していると共に、格納されたドキュメントをデータベースから検索する。コンピュータ10は、LAN、またはWANまたはインターネットといった通信ライン20へと、Ethernet(登録商標)、光通信、またはADSLにより、ハブまたはルータ22を介して接続されている。
【0103】
通信ライン20が、企業の複数のサイトを相互接続するLAN/WANおよび/またはインターネットであるものとすれば、コンピュータ10は、クライアントおよび/またはユーザからの入力クエリーが伝送され、情報検索を実行するサーバとされても良い。サーバ・コンピュータ10は、本発明のアルゴリズムによりドキュメントを受信したクエリーに関連して検索し、検索された結果を、クエリーを発行したクライアントへと返信する。当然ながら本発明は、上述した情報検索をインターネットを介した有料の情報サービスとして登録クライアントへと提供することもできる。これとは別に、コンピュータ10は、特定の用途に対して好適となるように調整されたスタンドアローンのシステムとすることもできる。
【0104】
図11は、コンピュータ10内に実装される機能ブロックの詳細図である。コンピュータ10は、概ねベクトル生成部24と、SASH生成部36と、SCONFリストを生成するためのコンフィデンス決定部38と、パッチ規定部26とを含んで構成されている。ベクトル生成部24は、キーワード・リストまたは所定の規則を使用して、データベース18に格納されたドキュメントから、ベクトル生成を実行し、生成されたドキュメント−キーワード・ベクトルを、対応するドキュメントへの適切なリンクまたは参照を可能とするように、メモリ、またはデータベースといった適切な記憶領域へと格納する。SASH生成部36およびパッチ規定部26は、本発明における近傍パッチ生成部34を構成する。
【0105】
SASH生成部36は、図2において示したアルゴリズムを使用してSASH構造を構築し、生成したSASH構造をメモリ領域30へと格納させて、詳細には後述する処理を可能としている。SASH生成部36は、コンフィデンス決定部38が、CONF、SCONF、RSCONFといったコンフィデンス値を算出することができるように利用できる構成とされており、上述したアルゴリズムにしたがってSCONFリストを生成している。生成されたパッチ・データおよびコンフィデンス値は、図10に示されるように、ハードディスク32へと格納される。
【0106】
クエリー・ベクトル生成部46は、検索条件およびクエリー・キーワードを受け取り、対応するクエリー・ベクトルを生成し、生成されたクエリー・ベクトルを適切なメモリ領域へと格納させる。上述したクエリーとしては、2つのタイプのものがある。1つは、すでに計算されてデータベース32に格納されたクラスター構造を抽出するためのものであり、他のものは、未だ計算されておらず、格納されていないクラスター構造を検索するためのものである。ユーザ入力クエリー・ベクトルは、まず、検索部40へと伝送される。説明している実施の形態では、検索部40は、クエリーのタイプを解析する。クエリーが検索部40に対してすでに計算され、格納されたクラスター構造を検索するように指示する場合には、クエリーは、メモリ領域30に格納されたSASH構造に対してクエリーを適用し、クエリーを受け取ったパッチ生成部44がクラスター見積もり部28へと検索されたデータを伝送する。クラスター見積もり部28は、検索されたデータを受け取るとパッチ・データおよびそれに伴うSCONFリストを、ハードディスク32から呼出し、クラスター内コンフィデンスSCONFおよびRSCONFと、クラスター間のコンフィデンスCONFとをそれぞれ使用してクラスターの見積もりを実行する。クエリーされたパッチ生成部44において生成されたノードは、任意に選択されたノードであるか、またはユーザ入力クエリーにより検索されたノードである。
【0107】
得られたクラスター・データは、GUIデータ生成部42へと伝送され、ディスプレイ部分(図示せず)のディスプレイ・スクリーン上にクラスター・グラフの構造をグラフィカルに表示させる。クラスター・グラフ構造の多くの表示の実施の形態が、本発明において可能である。代表的な1つの実施の形態では、クラスターを、クラスターの含む特徴的なキーワード(もっとも大きな数値)を水平方向に配置し、同時にクラスター・サイズの見積もりと共に垂直方向に配列するものである。このような表示がディスプレイ上に与えられる場合には、GUIデータ生成部42は、パッチ格納部32からのクラスター・データをソーティングし、ソートされたデータを適切なディスプレイ・バッファ(図示せず)といったメモリ領域またはコンピュータ10の別の領域に格納する。
【0108】
本発明の特定の実施の形態では、検索部40がクエリーがすでに検索されておらず、また格納もされていないクラスターの検索を指令していると判断した場合には、検索部40は、SASHデータ30を呼出し、ドキュメント−キーワード・ベクトルとクエリー・ベクトルとの間の類似を算出し、SASHの適切なノード・ベクトルを検索する。検索されたデータ・ベクトルは、その後、それら自信がSASHデータ30内のクエリーのために使用されて、元のクエリーにより検索されるすべてのベクトルに対して類似ノード・ベクトルのリストを与える。類似ノード・ベクトルの類似のそれぞれのリストは、パッチ規定部26へと送られ、その後コンフィデンス決定部38へと送られて、パッチが生成される。これらのパッチは、その後パッチ格納部32へと追加される。検索されたパッチは、その後クラスター・見積もり部28へとそれらの対応するSCONFリストと共に伝送されて、元のクエリーにおいて検索されたノードからなるクラスターが見積もられ、算出されたクラスター・データがGUIデータ生成部42へと送られてクエリーの結果のグラフィカルな表示が行われる。
【0109】
GUIデータ生成部42は、ソートされたクラスター・データをコンピュータ10に直接接続されたディスプレイ装置(図示せず)へと送り、ディスプレイ・スクリーン上に検索されたクラスター・データの表示を行う。これとは別に、システムがブラウザ・ソフトウエアを使用してインターネットを介して検索された結果を提供する場合には、GUIデータ生成部42は、クラスターの相関に関連するグラフィカル・データをブラウザ・ソフトウエアに適切な形式、例えばHTMLフォーマットで生成する。
【0110】
パートIII.発明を実施するための実際のシナリオ
<シナリオA−データベース内のノードの全体的なクラスター化>
図12は、データベース内に格納されたノードの全体的なクラスター化を実行する場合のシナリオのフローチャートを示した図である。シナリオAのアルゴリズムは、まずドキュメントとキーワード・データとをステップS40で読み込み、ステップS42へと進んでドキュメント−キーワード・ベクトルとキーワード・リストとを生成する。アルゴリズムは、ステップS44で上述したLSI法またはCOV法を使用して次元削減を実行する。その後シナリオAのプロセスは、ステップS46で図2に示したプロセスにしたがって次元削減されたドキュメント−キーワード・ベクトルのSASHを構築する。図12において示したアルゴリズムをステップ的に実行させるにしたがって生成されるデータ構造を、図13に示す。
【0111】
一度SASH構造が構築されると、類似クエリーがその要素それぞれに対して実行されて、図14(a)に示すように各ドキュメントの1つのパッチを生成する。シナリオAのアルゴリズムは、その後ステップS48で最適なパッチ・サイズおよびRSCONF値を計算して図14(b)を与え、その後パッチをそれらのRSCONF値と共に図14(c)に示す構造として格納する。
【0112】
再度図12を参照して、シナリオAのアルゴリズムは、ステップS50へと進み、各SASHレベルにおいてβ=0.4以下のレベルのコンフィデンスの内パッチ随伴性のすべてに対してパッチの集団を選択する。その後、RSCONF値がα=0.15以上のパッチをさらに選択して、ステップS52でクラスターを決定する。ステップS46〜S52に関連するデータ構造を、図15に示す。
【0113】
次いで、シナリオAのアルゴリズムは、ステップS54へと進み、所定のしきい値γ以上の随伴コンフィデンス値を有するクラスター間の連結を行う。このデータ構造を、図16に示す。これらの連結の結果は、クラスター・ラベルおよび対応するキーワードと共にステップS56において、図17に示されるようなグラフ表示として、グラフ的に与えられる。図17ではシナリオAにしたがって生成されたクラスターのグラフの部分(γ=0.2)が示されており、その際には、COV次元削減法を使用した。図においてクラスター・ノード(長円で示した。)は、数x/yの対として示されており、xは、クラスターの見積もりサイズであり、yは、それに伴われる要素のパッチ・サイズである。キーワード・ラベルは、各クラスターに対して示されており、ボックスは、同一のラベルのセットを共有するクラスターのサブセットを連結している(ラベルの順番には、わずかな違いが可能である)。図17では、106/53で示されるノードに対応するクラスターが示されている。このクラスターは、2つの大きなクラスターのセットの交差のニュース記事を含んでいるので特に興味が持たれるものであり、谷とそれらの開発および保存の記事の他、ゴミ用ダンプ車および他の埋め立ての記事を含んでいる。
【0114】
図12に示したプロセスに含まれる詳細な手順は、下記の通りである。
i)M個のドキュメントを、例えば、バイナリモデルまたはTF-IDF重み付けを使用してベクトルへとモデル化する。これらのベクトルの次元はNであり、これがデータ・セットのアトリビュートの数である。
ii)さらなる実施例としては、ベクトルのセットをNよりもきわめて小さな数(典型的には200〜300)のベクトル・セットとなるように、COVまたはLSI次元削減法を使用して次元削減を適用する。次元削減を採用する場合には、また次元削減したアトリビュート・ベクトルを生成する。
iii)k−最近傍点クエリーを適用するSASHを構築する。Stを、0≦t≦hのt番目のSASHレベルとし、ランダムなサンプルRt = St ∪ St+1 ∪ ... ∪ Shとする(ここで、S0は、SASHレベルの最低部とする。)
iv)0≦t≦hのすべてについてv ∈ Stである各要素について、m =φ(b)の要素について近似的なm−最近傍点リスト(m−パッチ)NN(Rt, v, m)を算出し、格納する。
v)図16に概略的に示したクエリー・クラスターのセットとクラスター構造とのグラフを算出する。
vi)次元削減が行われた場合には、セットのそれぞれのクエリー・クラスターについてクラスターを構成する次元削減されたドキュメント・ベクトルからアトリビュートであるキーワードのセットを生成する。
vii)好適なユーザ・インタフェイスを使用してユーザがブラウジングすることができるクラスターの得られたセット、それらのサイズ、ラベルおよびクラスター構造のグラフを作成する。
【0115】
<シナリオB−個別的なクラスター:クエリー検索>
シナリオBでは、シナリオAと同一の処理を使用してSASHを生成する。この後の本質的なステップを図18に示す。また、シナリオBの処理において生成されるデータ構造を、図19および図20に示す。図18に示されるように、シナリオBのプロセスは、ステップS60でSASH構造を生成し、ステップS62へと進んでユーザ入力クエリーqと、共にターゲットとするクラスター・サイズkとを受け取り、これらを適切なメモリ空間へと格納する。その後SASH内におけるノードを、ステップS64においてSASH構造を使用してクエリーに関連して検索する。ステップS64においては、SASHは、それぞれのランダム・サンプルRtに関連して0≦t≦hのすべてに対して1つの近隣パッチをクエリー要素qに関連して生成する。その後、プロセスはステップS66へと進んで、RSCONFを計算し、すべてのランダム・サンプルに対してRSCM問題をユーザ入力クエリーについて解く。書くサンプルに対して、クラスターは、これにより生成される。シナリオBのプロセスは、その後これらのクラスターを代表するラベルとキーワードとを、ステップS68において与える。ステップS64〜ステップS68において得られたデータ構造が、図20に示されている。
【0116】
シナリオBの詳細な処理を下記に示す。
2−i)シナリオAの手順をi〜iiiまで繰り返す。
2−ii)ユーザに対してクエリー要素qおよびターゲット・クラスターのサイズkを要求する(データ要素に対しては必要ではない)。
2−iii)ta = max {t | k / 2t ≧ a}およびtb = min {t | k / 2t ≦ b}を計算する。すべてのtb≦t≦taに対して、NN(Rt, q, m)を計算する。ここで、m =φ(b)である。v ∈ NN(Rt, q, m)のすべてに対して、NN(Rt, v, m)を計算する。
2−iv)すべてのtb≦t≦taに対して、Rtについてのqに対するRSCM問題の解であるk(q,t)を見出す。
2−v)すべてのtb≦t≦taに対して、クエリー・クラスターNN(Rt, q, k(q,t))を構成する次元削減されたドキュメント・ベクトルからアトリビュートであるキーワードのセットを生成する。この手順については図14において説明した通りである。
2−vi)得られたクラスターのセット、それらのサイズ、それらの対応するm−パッチのSCONFの値、およびそれらのクラスターのラベルを、ユーザに対して提供する。
【0117】
【実施例】
本発明を検討するために、本発明の方法を上述した2つのシナリオとして実装した。両方のシナリオについて、TREC-9テキスト検索実験の一部として利用可能なL.A.Timesニュース・ドキュメントのデータベースに適用することにより検討した。データベースは、M=127,742ドキュメントからなり、これらからN=6590キーワード(アトリビュート)をアトリビュート・セットとして抽出した。有効性および汎用性を検討するために、データベースに対して次元削減を行わない手法と、次元削減(COV)を行ない手法の2つの手法を適用した。実装条件は、下記の通りであった。
(a)TD-IDF用語重み付けを6590個のアトリビュートに対して行った。
(b)1つの実験セットにおいて、COV次元削減(6590から200へ)を行ない、他については次元削減を行わない。
(c)ドキュメントの最近傍点の検索について、デフォルト・セッティングのSASH(親ノードのキャパシティp=4、子ノードのキャパシティc=16)を使用した。
(d)アトリビュート・ベクトルの最近傍点の検索についても、デフォルト・セッティングのSASH(親ノードのキャパシティp=4、子ノードのキャパシティc=16)を使用した。
【0118】
それぞれのシナリオについて、パラメータφ、a、b、β、およびδを、次元削減に伴ういかなるパラメータ(削減次元であるdなど)と、または近似的な類似検索と同様にシステム管理者により設定できるものとした。
【0119】
実験条件は、以下の通りである。
(a)パッチ範囲のデリミター:a=25, b=120,φ(k)=min{2k, 150}
(b)ドキュメントの最近傍点検索については、近似の精度に影響を与えることになるものの、時間スケーリングする因子として、
【0120】
μ’ = 1.25
μ = 1.25 φ(b)
を用いた。すべての検索について、μ’個の近傍点を生成し、最も近い方からm個を使用した(μ’のより大きな値は、より高精度の結果を与えるものの、より検索時間を必要とする。)。
(c)クラスターの相対セルフ−コンフィデンスに対する最大しきい値を、α=0.15とした。
(d)共通のサンプルからのいかなる2つのクラスターの間のコンフィデンスの最大のしきい値をβ=0.4とした。
(e)QCRグラフにおける随伴クラスターの間のコンフィデンスの最小しきい値を、γ=0.15とした(共通のサンプル・レベルから得られる必要はない)。
(f)QCRグラフの2つの随伴クラスターの間のスケールにおける差の最大のしきい値を、δ=4とした。
【0121】
計算アルゴリズムを、Java(登録商標)(JDK1.3)を使用して記述し、計算ハードウエアは、Windows(登録商標)2000を走らせた1GHzのプロセッサ速度および512Mbのメインメモリを搭載したIBM社製のIntelliStation(商標)E Proとした。
【0122】
2−1.実行時間および記憶コスト
RSCONF値は、一見すると計算するコストが高いように思われるが、注意深く実装することにより、コストを充分低くすることができる。これは、1〜φ(b)の範囲のkについて、SCONF(NN(R, q, k))の値のプロファイルを効率的に計算することにより達成される。パッチ・プロファイルのプロットはまた、クエリー要素の近傍において随伴性の変動の効果的な表示を与える。
【0123】
後述する表には、シナリオAに伴う時間と、記憶空間のコストとをリストした。時間は、メインメモリに次元削減ドキュメント・ベクトルとアトリビュート・ベクトルとを読み込んだ時点から、クラスターの完全なセットおよびそれらのクラスター・グラフを算出するまでの計算に要した実時間の尺度である。クラスター化およびグラフ構築の時間的なコストは、すべての最近傍パッチがすでに計算されたものと仮定している。
【0124】
【表1】
Figure 2004199472
【0125】
【表2】
Figure 2004199472
【0126】
2−2.近似的な最近傍点計算
後述する表は、ランダムに選択したSASHに対するサイズをm’として指定したクエリーについて、M個のドキュメントの完全なセットから近似的なm-最近傍点リストを見出すためのコストの平均を示す。比較のため、シーケンシャル検索を使用して正確なクエリーを実行させ、SASHの平均的な精度を算出した(取得されたリストにおける真の最近傍点の割合の尺度となる)。これらの値を使用して、シナリオBについての単一クエリー・クラスターの直接的な生成のコストを決定することができる。これら後者の見積もりにおいては、あらかじめ算出された最近傍点の情報がないドキュメントについてのSASHを使用するものと仮定した。
【0127】
【表3】
Figure 2004199472
【0128】
2−3.クエリーによる全体のクラスター化
図21には、COV次元削減を使用した例におけるパッチ・プロファイルの実施の形態を示す。このプロファイルは、シナリオAの方法により生成されたクラスターについてのものである。
【0129】
シナリオAにおいて次元削減の有無により生成されたクラスターの数を下記表に示す。
【0130】
【表4】
Figure 2004199472
【0131】
次元削減した実施例では、基本的な実施例に比較してより少数のマイナー・クラスターが見出されているが、より大きなクラスターも見出している。実験によれば、また次元削減を行う実施例では、より多くの相互連結を与えるクエリー・クラスターのグラフを与え、キーワードの多様性をより解析することができた。
【0132】
本発明の方法は、コンピュータ実行可能なプログラムとして実装することができ、本発明のコンピュータ・プログラムは、C言語、C++言語、Java(登録商標)、またはいかなる他のオブジェクト指向言語においても記述することができる。本発明のプログラムは、コンピュータによりデータを書き込み読み込みが可能なフロッピー(登録商標)・ディスク、磁気テープ、ハードディスク、CD-ROM、DVD、光磁気ディスクなどに格納することができる。
【0133】
【発明の効果】
改善1:マイナー・クラスター
本発明のクラスター化方法は、通常のコンピュータにおいても良好な随伴性および良好に区別させつつ、データベース内の0.05%程度の小さなサイズのクラスターでも検出することを可能とする。この方法は、セット内におけるクラスターの数に関連して先験的な仮定を必要としない。また、この方法は、生成されるクラスターの局所的な影響のみしか考慮せずに済ませることを可能とする。重なり合うクラスターは、また許容される。これらの特徴は、従来の方法においてへ現実的でないものであるか、または不可能でさえあったマイナー・クラスターの発見を可能とする。
【0134】
改善2:クエリーに基づくクラスター化
本発明のクラスター化方法は、セットの完全なクラスター化の計算という過剰なコストなく、クエリーに近接する有意義な主要クラスターおよびマイナー・クラスターを効率的に生成することができる。本発明者が知る限りにおいて、大規模なテキスト・データに対して上述したことを可能とする方法は新規なものである。
【0135】
改善3:クラスター相関関係の自動的な決定
極めて僅かなクラスター化方法のみがクラスター間の重なり合いを可能とするにすぎない。本発明の方法は、クラスターの重なりを使用して、クラスター間の対応を確立するので、ユーザを誘導する“クラスター・マップ”すなわち、関連した概念のグラフを生成することができる。関連性は、データのグループの間において階層の概念のようにではなく、むしろアトリビュート空間内での分類のようにして確立される。データ要素の重なり合いにしたがう組織化は、表現される概念をより柔軟なものとし、本発明の方法は、特に2つ以上の主要クラスターの交差部におけるマイナー・クラスターの発見を可能とする。
【0136】
改善4:クラスター品質の自動的な評価
RSCONF値およびパッチ・プロファイルは、クラスターを同定し、比較するばかりではなく、ユーザがクラスター内の随伴性のレベルおよび近接する要素との間の差異を評価するための手段となる。パッチの構造分布は、効果的により高次のテキスト・クラスターの可視化のための既存の空間表現方法を補うことができる。
【0137】
改善5:データ分布に対する知見の依存
ほとんどの分割に基づくアルゴリズムのようにではなく、本発明のクエリーに基づくクラスター化は、データの分布に対する知識や仮定を必要とせず、データが均一に分布しているかまたは分布に大きな変動があるかは問題にしない。これは、SASHが上述した特性を有しているように、最近傍リストの生成についても適用することができる。
【0138】
改善6:スケーラビリティ
SASH構造が近似的類似クエリーに使用される場合には、データ・セットSの全体のクラスター化のためにPatchCluster法に必要とされる漸近的な時間は、O(|S| log2 |S| + c2)となる(Oは、定数である。)。ここで、cは、生成されるクラスターの数である(典型的には、|S|よりもかなり小さい)。先に出現するタームは、プロファイルを生成し、RSCONF値にしたがってクエリー・クラスターの候補をランク付けする際のコストである。重複したクラスターの排除およびグラフのエッジの生成は、合計で、O(|S| + c log2 |S| + c2)の時間で実行することができる。
【0139】
クエリー・クラスター構築のボトルネックは、最近傍点パッチの事前の計算にある。しかしながら、クラスター化は、近似的なクラスター境界および重なり合いを検出するためには完全に正確な最近傍点リストを必要とはしない。実際には近似的に正確な最近傍点リストを迅速に生成するためにSASHといった回避技術の一つを使用することで、さらにコスト効果が生じる。COV次元削減を使用したL.A.Timesニュース記事のデータ・セットについては、SASHは、シーケンシャル検索のほぼ95%の精度の精度で、粗々40倍のスピードアップを達成する。パッチの事前計算のための漸近的な負荷は、O(|S| log2 |S|)で与えられるSASH処理の全コストにより支配される。
【0140】
これまで、本発明を図面に示した特定の実施の形態を使用して説明してきた。当然のことながら当業者によれば、多くの別の実施例、変更例、および/または付加例が開示された実施の形態に対して可能であることが理解され、したがって、本発明の真の範囲は、特許請求の範囲にしたがって決定されるものである。
【図面の簡単な説明】
【図1】図1は、本発明のデータ構造を構築するためのフローチャートを示した図。
【図2】SASH構造を構築するための処理の概略的なフローチャート。
【図3】パッチ構造を含むSASH構造の概略図。
【図4】本発明によるパッチ構造の例示的な概略図。
【図5】コンフィデンス関数CONFの計算の代表例を示した図。
【図6】SCONFの計算のための例示的な擬似コードを示した図。
【図7】パッチおよびセルフ−コンフィデンスの格納構造を示した図。
【図8】パッチ・プロファイルの更新を行うための例示的な擬似コードを示した図。
【図9】PatchCluster法(パッチランク付けおよび選択を含む)の例示的な擬似コードを示した図。
【図10】本発明において典型的に使用されるコンピュータ・システムのブロック図。
【図11】本発明のコンピュータ・システムの機能ブロック図。
【図12】クラスターとそれらの相関関係のグラフを生成するための処理のフローチャート(シナリオA)。
【図13】図12に示したシナリオAの処理に関連したデータ構造を図示した図。
【図14】図12に示したシナリオAの処理に関連したデータ構造を図示した図。
【図15】図12に示したシナリオAの処理に関連したデータ構造を図示した図。
【図16】クラスターの相関関係のグラフを示した図。
【図17】クラスターの相関関係の例示的なグラフ表示を示した図
【図18】クラスターとそれらの相関関係のグラフを生成するための処理のフローチャート(シナリオB)。
【図19】図18に示したシナリオBの処理に関連したデータ構造を図示した図。
【図20】図18に示したシナリオBの処理に関連したデータ構造を図示した図。
【図21】SCONF値と見積もられたクラスター・サイズとによりプロットされたプロファイルを示した図。
【符号の説明】
10…コンピュータ
12…ディスプレイ装置
14…キーボード
16…マウス
18…データベース
20…通信ライン
22…ハブ/ルータ
24…ドキュメント・ベクトル生成部
26…パッチ規定部
28…クラスター見積もり部
30…メモリまたはデータベース(SASH記憶部)
32…ハードディスク
34…近傍パッチ生成部
36…SASH生成部
38…コンフィデンス決定部
40…検索部
42…GUIデータ生成部
44…クエリー・パッチ生成部
46…クエリー・ベクトル生成部

Claims (17)

  1. 所定のキーワード・リストから生成され、かつドキュメントに対して与えられる階層構造のノードを構成するドキュメント−キーワード・ベクトルとしてデータベースに格納されたドキュメントの情報検索のためのデータ構造を生成するコンピュータ・システムであって、前記コンピュータ・システムは、
    前記ドキュメント−キーワード・ベクトルに対して階層構造を生成させる部分と前記ノード間にノード間の距離尺度に関連してパッチの関係を生成するパッチ規定部とを含んで構成され、階層構造を使用して決定される類似性を有するノード・グループを生成するための近傍パッチ生成部と、
    前記パッチの間の類似性を使用して前記ドキュメント−キーワード・ベクトルのクラスター・データを生成するためのクラスター見積もり部とを含む
    コンピュータ・システム。
  2. 前記コンピュータ・システムは、前記パッチ間のパッチ間コンフィデンス値およびパッチ内コンフィデンス値を決定するコンフィデンス決定部を含み、前記クラスター見積もり部は、前記パッチ間コンフィデンス値に基づいて前記パッチを選択して前記ドキュメント−キーワード・ベクトルのクラスターとする、請求項1に記載のコンピュータ・システム。
  3. 前記クラスター見積もり部は、前記パッチ内コンフィデンス値に応じて前記クラスターのサイズを見積もる、請求項1に記載のコンピュータ・システム。
  4. 所定のキーワード・リストから生成され、かつドキュメントに対して与えられる階層構造のノードを構成するドキュメント−キーワード・ベクトルとしてデータベースに格納されたドキュメントの情報検索のためのデータ構造を生成する方法であって、前記方法は、
    前記ドキュメント−キーワード・ベクトルに対して階層構造を生成し、格納領域に階層データを格納するステップと、
    前記階層構造を使用して決定された類似性を有するノードの近傍パッチを生成し、前記パッチを格納領域に格納するステップと、
    前記階層データおよび前記パッチとを読み込んで、前記パッチ間のパッチ間コンフィデンス値およびパッチ内コンフィデンス値を算出し、前記パッチ間コンフィデンス値および前記パッチ内コンフィデンス値を格納領域に対応するリストとして格納するステップと、
    前記パッチ間コンフィデンス値および前記パッチ内コンフィデンス値に応答して前記パッチを選択し、前記ドキュメント−キーワード・ベクトルのクラスターとするステップと
    を含む方法。
  5. さらに、前記パッチ内コンフィデンス値に応じて前記クラスターのサイズを見積もるステップを含む、請求項4に記載の方法。
  6. 所定のキーワード・リストから生成され、かつドキュメントに対して与えられる階層構造のノードを構成するドキュメント−キーワード・ベクトルとしてデータベースに格納されたドキュメントの情報検索のためのデータ構造を生成するための方法をコンピュータ・システムに実行させるためのプログラムであって、前記プログラムは、前記コンピュータ・システムに対して
    前記ドキュメント−キーワード・ベクトルに対して階層構造を生成し、格納領域に階層データを格納するステップと、
    前記階層構造を使用して決定された類似性を有するノードの近傍パッチを生成し、前記パッチを格納領域に格納するステップと、
    前記階層データおよび前記パッチとを読み込んで、前記パッチ間のパッチ間コンフィデンス値およびパッチ内コンフィデンス値を算出し、前記パッチ間コンフィデンス値および前記パッチ内コンフィデンス値を格納領域に対応するリストとして格納するステップと、
    前記パッチ間コンフィデンス値および前記パッチ内コンフィデンス値に応答して前記パッチを選択し、前記ドキュメント−キーワード・ベクトルのクラスターとするステップと
    を実行させるプログラム。
  7. さらに、前記パッチ間コンフィデンス値に応じて前記クラスターのサイズを見積もるステップを実行させる、請求項6に記載のプログラム。
  8. 所定のキーワード・リストから生成され、かつドキュメントに対して与えられる階層構造のノードを構成するドキュメント−キーワード・ベクトルとしてデータベースに格納されたドキュメントの情報検索のためのデータ構造を生成するための方法をコンピュータ・システムに実行させるプログラムが記録されたコンピュータ可読な媒体であって、前記プログラムは、前記コンピュータ・システムに対して
    前記ドキュメント−キーワード・ベクトルに対して階層構造を生成し、格納領域に階層データを格納するステップと、
    前記階層構造を使用して決定された類似性を有するノードの近傍パッチを生成し、前記パッチを格納領域に格納するステップと、
    前記階層データおよび前記パッチとを読み込んで、前記パッチ間のパッチ間コンフィデンス値およびパッチ内コンフィデンス値を算出し、前記パッチ間コンフィデンス値および前記パッチ内コンフィデンス値を格納領域に対応するリストとして格納するステップと、
    前記パッチ間コンフィデンス値および前記パッチ内コンフィデンス値に応答して前記パッチを選択し、前記ドキュメント−キーワード・ベクトルのクラスターとするステップと
    を実行させるコンピュータ可読な記憶媒体。
  9. さらに、前記パッチ間コンフィデンス値に応じて前記クラスターのサイズを見積もるステップを実行させる、請求項8に記載の記憶媒体。
  10. 所定のキーワード・リストから生成され、かつドキュメントに対して与えられる階層構造のノードを構成するドキュメント−キーワード・ベクトルとしてデータベースに格納されたドキュメントの情報検索のための情報検索システムであって、前記情報検索システムは、
    前記ドキュメント−キーワード・ベクトルに対して階層構造を生成させる部分と前記ノード間にノード間の距離尺度に関連してパッチの関係を生成するパッチ規定部とを含んで構成され、構造階層を使用して決定された類似性を有するノード・グループを生成するための近傍パッチ生成部と、
    前記パッチの間の類似性を使用して前記ドキュメント−キーワード・ベクトルのクラスター・データを生成するためのクラスター見積もり部と、
    前記見積もられたクラスター・データをディスプレイ手段に表示させるグラフィカル・ユーザ・インタフェイスと
    を含む情報検索システム。
  11. 前記情報検索システムは、前記パッチ間のパッチ間コンフィデンス値およびパッチ内コンフィデンス値を決定するコンフィデンス決定部を含み、前記クラスター見積もり部は、前記パッチ間コンフィデンス値に基づいて前記パッチを選択して前記ドキュメント−キーワード・ベクトルのクラスターとする、請求項10に記載の情報検索システム。
  12. 前記クラスター見積もり部は、前記パッチ間コンフィデンス値に応じて前記クラスターのサイズを見積もる、請求項10に記載の情報検索システム。
  13. 前記システムは、さらに、クエリーを受信すると共に情報検索のためのデータを抽出してクエリー・ベクトルを生成するユーザ・クエリー受信部と、前記ドキュメント−キーワード・ベクトルと前記クエリー・ベクトルとの間の類似性を算出する情報検索部とを含む、請求項10に記載の情報検索システム。
  14. 前記クラスターは、ユーザ入力クエリーに関連して検索された前記ドキュメント−キーワード・ベクトルを使用して見積もられる、請求項13に記載の情報検索システム。
  15. ユーザ入力クエリーに応答してディスプレイ・デバイス上に見積もられたクラスターをグラフィカルに表示するためのグラフィカル・ユーザ・インタフェイス・システムであって、前記グラフィカル・ユーザ・インタフェイス・システムは、
    ドキュメントを格納するデータベースと、
    前記データベースに格納された前記ドキュメントについてドキュメント−キーワード・ベクトルを生成すると共に、前記ユーザ入力クエリーに応答してドキュメントのクラスターを見積もるためのコンピュータと、
    前記見積もられたクラスターと共に、前記クラスターの間のコンフィデンス関係とクラスター・サイズの階層情報とを画面上に表示するためのディスプレイと
    を含むグラフィカル・ユーザ・インタフェイス・システム。
  16. 前記コンピュータは、
    前記ドキュメント−キーワード・ベクトルに対して階層構造を生成させる部分と前記ノード間にノード間の距離尺度に関連してパッチ関係を生成するパッチ規定部とを含み、検索構造を使用して決定される類似性を有するノード・グループを生成するための近傍パッチ生成部と、
    前記パッチの間の類似性を使用して前記ドキュメント−キーワード・ベクトルのクラスター・データを生成するためのクラスター見積もり部とを含む、請求項15に記載のグラフィカル・ユーザ・インタフェイス・システム。
  17. 前記コンピュータは、
    前記パッチ間のパッチ間コンフィデンス値およびパッチ内コンフィデンス値を決定するコンフィデンス決定部を含み、前記クラスター見積もり部は、前記パッチ間コンフィデンス値に基づいて前記パッチを選択して前記ドキュメント−キーワード・ベクトルのクラスターとする、請求項16に記載のグラフィカル・ユーザ・インタフェイス・システム。
JP2002368276A 2002-12-19 2002-12-19 情報検索のためのデータ構造を生成するコンピュータ・システム、そのための方法、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラム、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラムを記憶したコンピュータ可読な記憶媒体、情報検索システム、およびグラフィカル・ユーザ・インタフェイス・システム Expired - Fee Related JP3974511B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2002368276A JP3974511B2 (ja) 2002-12-19 2002-12-19 情報検索のためのデータ構造を生成するコンピュータ・システム、そのための方法、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラム、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラムを記憶したコンピュータ可読な記憶媒体、情報検索システム、およびグラフィカル・ユーザ・インタフェイス・システム
US10/736,273 US7428541B2 (en) 2002-12-19 2003-12-15 Computer system, method, and program product for generating a data structure for information retrieval, and an associated graphical user interface
US12/062,411 US8229900B2 (en) 2002-12-19 2008-04-03 Generating a data structure for information retrieval

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002368276A JP3974511B2 (ja) 2002-12-19 2002-12-19 情報検索のためのデータ構造を生成するコンピュータ・システム、そのための方法、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラム、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラムを記憶したコンピュータ可読な記憶媒体、情報検索システム、およびグラフィカル・ユーザ・インタフェイス・システム

Publications (2)

Publication Number Publication Date
JP2004199472A true JP2004199472A (ja) 2004-07-15
JP3974511B2 JP3974511B2 (ja) 2007-09-12

Family

ID=32708110

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002368276A Expired - Fee Related JP3974511B2 (ja) 2002-12-19 2002-12-19 情報検索のためのデータ構造を生成するコンピュータ・システム、そのための方法、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラム、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラムを記憶したコンピュータ可読な記憶媒体、情報検索システム、およびグラフィカル・ユーザ・インタフェイス・システム

Country Status (2)

Country Link
US (2) US7428541B2 (ja)
JP (1) JP3974511B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011514995A (ja) * 2008-02-25 2011-05-12 アティジオ リミテッド ライアビリティ カンパニー 関心領域についての関連情報の決定
CN102110172A (zh) * 2011-03-31 2011-06-29 河南理工大学 分布式Web文档聚类系统
WO2013051619A1 (ja) * 2011-10-03 2013-04-11 日本電気株式会社 類似性検出装置及び指向性近傍検出方法

Families Citing this family (225)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8645137B2 (en) 2000-03-16 2014-02-04 Apple Inc. Fast, language-independent method for user authentication by voice
JP3860046B2 (ja) * 2002-02-15 2006-12-20 インターナショナル・ビジネス・マシーンズ・コーポレーション ランダムサンプル階層構造を用いた情報処理のためのプログラム、システムおよび記録媒体
EP1510932A1 (en) * 2003-08-27 2005-03-02 Sap Ag Computer implemented method and according computer program product for storing data sets in and retrieving data sets from a data storage system
US7747601B2 (en) * 2006-08-14 2010-06-29 Inquira, Inc. Method and apparatus for identifying and classifying query intent
US8612208B2 (en) 2004-04-07 2013-12-17 Oracle Otc Subsidiary Llc Ontology for use with a system, method, and computer readable medium for retrieving information and response to a query
US8082264B2 (en) 2004-04-07 2011-12-20 Inquira, Inc. Automated scheme for identifying user intent in real-time
JP2005301786A (ja) * 2004-04-14 2005-10-27 Internatl Business Mach Corp <Ibm> 評価装置、クラスタ生成装置、プログラム、記録媒体、評価方法、及びクラスタ生成方法
US7676454B2 (en) * 2005-03-01 2010-03-09 Microsoft Corporation Private clustering and statistical queries while analyzing a large database
US8677377B2 (en) 2005-09-08 2014-03-18 Apple Inc. Method and apparatus for building an intelligent automated assistant
US7921099B2 (en) * 2006-05-10 2011-04-05 Inquira, Inc. Guided navigation system
US7424488B2 (en) * 2006-06-27 2008-09-09 International Business Machines Corporation Context-aware, adaptive approach to information selection for interactive information analysis
US8781813B2 (en) * 2006-08-14 2014-07-15 Oracle Otc Subsidiary Llc Intent management tool for identifying concepts associated with a plurality of users' queries
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US8024193B2 (en) * 2006-10-10 2011-09-20 Apple Inc. Methods and apparatus related to pruning for concatenative text-to-speech synthesis
US8095476B2 (en) * 2006-11-27 2012-01-10 Inquira, Inc. Automated support scheme for electronic forms
US20080189163A1 (en) * 2007-02-05 2008-08-07 Inquira, Inc. Information management system
US8046328B2 (en) * 2007-03-30 2011-10-25 Ricoh Company, Ltd. Secure pre-caching through local superdistribution and key exchange
US8885832B2 (en) * 2007-03-30 2014-11-11 Ricoh Company, Ltd. Secure peer-to-peer distribution of an updatable keyring
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
US8352511B2 (en) * 2007-08-29 2013-01-08 Partnet, Inc. Systems and methods for providing a confidence-based ranking algorithm
US10002189B2 (en) 2007-12-20 2018-06-19 Apple Inc. Method and apparatus for searching using an active ontology
US9330720B2 (en) 2008-01-03 2016-05-03 Apple Inc. Methods and apparatus for altering audio output signals
JP5333815B2 (ja) * 2008-02-19 2013-11-06 株式会社日立製作所 k最近傍検索方法、k最近傍検索プログラム及びk最近傍検索装置
US8996376B2 (en) 2008-04-05 2015-03-31 Apple Inc. Intelligent text-to-speech conversion
US20090274376A1 (en) * 2008-05-05 2009-11-05 Yahoo! Inc. Method for efficiently building compact models for large multi-class text classification
US10496753B2 (en) 2010-01-18 2019-12-03 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US20100030549A1 (en) 2008-07-31 2010-02-04 Lee Michael M Mobile device having human language translation capability with positional feedback
US8676904B2 (en) 2008-10-02 2014-03-18 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
TWI377478B (en) * 2008-10-07 2012-11-21 Mitac Int Corp Self-learning method for keyword based human machine interaction and portable navigation device using the method
US8473327B2 (en) * 2008-10-21 2013-06-25 International Business Machines Corporation Target marketing method and system
WO2010064939A1 (en) * 2008-12-05 2010-06-10 Business Intelligence Solutions Safe B.V. Methods, apparatus and systems for data visualization and related applications
WO2010067118A1 (en) 2008-12-11 2010-06-17 Novauris Technologies Limited Speech recognition involving a mobile device
JP2010140383A (ja) * 2008-12-15 2010-06-24 Sony Corp 情報処理装置および方法、並びにプログラム
US8190612B2 (en) * 2008-12-17 2012-05-29 Sas Institute Inc. Computer-implemented systems and methods for variable clustering in large data sets
US8261186B2 (en) 2009-01-02 2012-09-04 Apple Inc. Methods for efficient cluster analysis
US8611695B1 (en) * 2009-04-27 2013-12-17 Google Inc. Large scale patch search
US8391634B1 (en) 2009-04-28 2013-03-05 Google Inc. Illumination estimation for images
US9858925B2 (en) 2009-06-05 2018-01-02 Apple Inc. Using context information to facilitate processing of commands in a virtual assistant
US10706373B2 (en) 2011-06-03 2020-07-07 Apple Inc. Performing actions associated with task items that represent tasks to perform
US10241752B2 (en) 2011-09-30 2019-03-26 Apple Inc. Interface for a virtual digital assistant
US10241644B2 (en) 2011-06-03 2019-03-26 Apple Inc. Actionable reminder entries
US8510308B1 (en) * 2009-06-16 2013-08-13 Google Inc. Extracting semantic classes and instances from text
US9431006B2 (en) 2009-07-02 2016-08-30 Apple Inc. Methods and apparatuses for automatic speech recognition
US7945668B1 (en) * 2009-08-21 2011-05-17 Narus, Inc. System and method for content-aware co-clustering algorithm based on hourglass model
US10276170B2 (en) 2010-01-18 2019-04-30 Apple Inc. Intelligent automated assistant
US10553209B2 (en) 2010-01-18 2020-02-04 Apple Inc. Systems and methods for hands-free notification summaries
US10705794B2 (en) 2010-01-18 2020-07-07 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US10679605B2 (en) 2010-01-18 2020-06-09 Apple Inc. Hands-free list-reading by intelligent automated assistant
WO2011089450A2 (en) 2010-01-25 2011-07-28 Andrew Peter Nelson Jerram Apparatuses, methods and systems for a digital conversation management platform
US8983989B2 (en) 2010-02-05 2015-03-17 Microsoft Technology Licensing, Llc Contextual queries
US8903794B2 (en) * 2010-02-05 2014-12-02 Microsoft Corporation Generating and presenting lateral concepts
US8682667B2 (en) 2010-02-25 2014-03-25 Apple Inc. User profiling for selecting user specific voice input processing information
US8719267B2 (en) * 2010-04-19 2014-05-06 Alcatel Lucent Spectral neighborhood blocking for entity resolution
US7933859B1 (en) 2010-05-25 2011-04-26 Recommind, Inc. Systems and methods for predictive coding
US20110307460A1 (en) * 2010-06-09 2011-12-15 Microsoft Corporation Navigating relationships among entities
US8713021B2 (en) * 2010-07-07 2014-04-29 Apple Inc. Unsupervised document clustering using latent semantic density analysis
US8798393B2 (en) 2010-12-01 2014-08-05 Google Inc. Removing illumination variation from images
US10762293B2 (en) 2010-12-22 2020-09-01 Apple Inc. Using parts-of-speech tagging and named entity recognition for spelling correction
US8214365B1 (en) * 2011-02-28 2012-07-03 Symantec Corporation Measuring confidence of file clustering and clustering based file classification
US9262612B2 (en) 2011-03-21 2016-02-16 Apple Inc. Device access using voice authentication
US9348852B2 (en) 2011-04-27 2016-05-24 Microsoft Technology Licensing, Llc Frequent pattern mining
US20120278659A1 (en) * 2011-04-27 2012-11-01 Microsoft Corporation Analyzing Program Execution
US10057736B2 (en) 2011-06-03 2018-08-21 Apple Inc. Active transport based notifications
US9785634B2 (en) 2011-06-04 2017-10-10 Recommind, Inc. Integration and combination of random sampling and document batching
US8994660B2 (en) 2011-08-29 2015-03-31 Apple Inc. Text correction processing
US10134385B2 (en) 2012-03-02 2018-11-20 Apple Inc. Systems and methods for name pronunciation
US9483461B2 (en) 2012-03-06 2016-11-01 Apple Inc. Handling speech synthesis of content for multiple languages
CN104169818B (zh) * 2012-03-19 2016-08-31 三菱电机株式会社 定序程序生成装置
US9280610B2 (en) 2012-05-14 2016-03-08 Apple Inc. Crowd sourcing information to fulfill user requests
US9721563B2 (en) 2012-06-08 2017-08-01 Apple Inc. Name recognition system
US9495129B2 (en) 2012-06-29 2016-11-15 Apple Inc. Device, method, and user interface for voice-activated navigation and browsing of a document
US9336302B1 (en) 2012-07-20 2016-05-10 Zuci Realty Llc Insight and algorithmic clustering for automated synthesis
US9576574B2 (en) 2012-09-10 2017-02-21 Apple Inc. Context-sensitive handling of interruptions by intelligent digital assistant
US9547647B2 (en) 2012-09-19 2017-01-17 Apple Inc. Voice-based media searching
CN113470640B (zh) 2013-02-07 2022-04-26 苹果公司 数字助理的语音触发器
KR20140109729A (ko) * 2013-03-06 2014-09-16 한국전자통신연구원 의미기반 검색 시스템 및 이의 검색방법
US9368114B2 (en) 2013-03-14 2016-06-14 Apple Inc. Context-sensitive handling of interruptions
WO2014144579A1 (en) 2013-03-15 2014-09-18 Apple Inc. System and method for updating an adaptive speech recognition model
CN105027197B (zh) 2013-03-15 2018-12-14 苹果公司 训练至少部分语音命令系统
US9582608B2 (en) 2013-06-07 2017-02-28 Apple Inc. Unified ranking with entropy-weighted information for phrase-based semantic auto-completion
WO2014197336A1 (en) 2013-06-07 2014-12-11 Apple Inc. System and method for detecting errors in interactions with a voice-based digital assistant
WO2014197334A2 (en) 2013-06-07 2014-12-11 Apple Inc. System and method for user-specified pronunciation of words for speech synthesis and recognition
WO2014197335A1 (en) 2013-06-08 2014-12-11 Apple Inc. Interpreting and acting upon commands that involve sharing information with remote devices
KR101922663B1 (ko) 2013-06-09 2018-11-28 애플 인크. 디지털 어시스턴트의 둘 이상의 인스턴스들에 걸친 대화 지속성을 가능하게 하기 위한 디바이스, 방법 및 그래픽 사용자 인터페이스
US10176167B2 (en) 2013-06-09 2019-01-08 Apple Inc. System and method for inferring user intent from speech inputs
KR101809808B1 (ko) 2013-06-13 2017-12-15 애플 인크. 음성 명령에 의해 개시되는 긴급 전화를 걸기 위한 시스템 및 방법
DE112014003653B4 (de) 2013-08-06 2024-04-18 Apple Inc. Automatisch aktivierende intelligente Antworten auf der Grundlage von Aktivitäten von entfernt angeordneten Vorrichtungen
US9524510B2 (en) * 2013-10-02 2016-12-20 Turn Inc. Adaptive fuzzy fallback stratified sampling for fast reporting and forecasting
US10296160B2 (en) 2013-12-06 2019-05-21 Apple Inc. Method for extracting salient dialog usage from live data
US9620105B2 (en) 2014-05-15 2017-04-11 Apple Inc. Analyzing audio input for efficient speech and music recognition
US10592095B2 (en) 2014-05-23 2020-03-17 Apple Inc. Instantaneous speaking of content on touch devices
US9502031B2 (en) 2014-05-27 2016-11-22 Apple Inc. Method for supporting dynamic grammars in WFST-based ASR
US9430463B2 (en) 2014-05-30 2016-08-30 Apple Inc. Exemplar-based natural language processing
US10289433B2 (en) 2014-05-30 2019-05-14 Apple Inc. Domain specific language for encoding assistant dialog
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US9842101B2 (en) 2014-05-30 2017-12-12 Apple Inc. Predictive conversion of language input
US9633004B2 (en) 2014-05-30 2017-04-25 Apple Inc. Better resolution when referencing to concepts
TWI566107B (zh) 2014-05-30 2017-01-11 蘋果公司 用於處理多部分語音命令之方法、非暫時性電腦可讀儲存媒體及電子裝置
US9785630B2 (en) 2014-05-30 2017-10-10 Apple Inc. Text prediction using combined word N-gram and unigram language models
US9734193B2 (en) 2014-05-30 2017-08-15 Apple Inc. Determining domain salience ranking from ambiguous words in natural speech
US9760559B2 (en) 2014-05-30 2017-09-12 Apple Inc. Predictive text input
US10078631B2 (en) 2014-05-30 2018-09-18 Apple Inc. Entropy-guided text prediction using combined word and character n-gram language models
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US10659851B2 (en) 2014-06-30 2020-05-19 Apple Inc. Real-time digital assistant knowledge updates
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
US10592539B1 (en) 2014-07-11 2020-03-17 Twitter, Inc. Trends in a messaging platform
US10601749B1 (en) 2014-07-11 2020-03-24 Twitter, Inc. Trends in a messaging platform
US10446141B2 (en) 2014-08-28 2019-10-15 Apple Inc. Automatic speech recognition based on user feedback
CN104182539B (zh) * 2014-09-02 2018-02-23 五八同城信息技术有限公司 异常信息批量处理的方法及系统
US9818400B2 (en) 2014-09-11 2017-11-14 Apple Inc. Method and apparatus for discovering trending terms in speech requests
US10789041B2 (en) 2014-09-12 2020-09-29 Apple Inc. Dynamic thresholds for always listening speech trigger
US9514577B2 (en) 2014-09-26 2016-12-06 International Business Machines Corporation Integrating economic considerations to develop a component replacement policy based on a cumulative wear-based indicator for a vehicular component
US9454855B2 (en) 2014-09-26 2016-09-27 International Business Machines Corporation Monitoring and planning for failures of vehicular components
US10540828B2 (en) 2014-09-26 2020-01-21 International Business Machines Corporation Generating estimates of failure risk for a vehicular component in situations of high-dimensional and low sample size data
US9286735B1 (en) 2014-09-26 2016-03-15 International Business Machines Corporation Generating cumulative wear-based indicators for vehicular components
US10769866B2 (en) 2014-09-26 2020-09-08 International Business Machines Corporation Generating estimates of failure risk for a vehicular component
US9606986B2 (en) 2014-09-29 2017-03-28 Apple Inc. Integrated word N-gram and class M-gram language models
US10127911B2 (en) 2014-09-30 2018-11-13 Apple Inc. Speaker identification and unsupervised speaker adaptation techniques
US9886432B2 (en) 2014-09-30 2018-02-06 Apple Inc. Parsimonious handling of word inflection via categorical stem + suffix N-gram language models
US9668121B2 (en) 2014-09-30 2017-05-30 Apple Inc. Social reminders
US9646609B2 (en) 2014-09-30 2017-05-09 Apple Inc. Caching apparatus for serving phonetic pronunciations
US10074360B2 (en) 2014-09-30 2018-09-11 Apple Inc. Providing an indication of the suitability of speech recognition
US10255345B2 (en) * 2014-10-09 2019-04-09 Business Objects Software Ltd. Multivariate insight discovery approach
US10552013B2 (en) 2014-12-02 2020-02-04 Apple Inc. Data detection
US9711141B2 (en) 2014-12-09 2017-07-18 Apple Inc. Disambiguating heteronyms in speech synthesis
US9304835B1 (en) * 2014-12-31 2016-04-05 International Business Machines Corporation Optimized system for analytics (graphs and sparse matrices) operations
US9842390B2 (en) * 2015-02-06 2017-12-12 International Business Machines Corporation Automatic ground truth generation for medical image collections
US9865280B2 (en) 2015-03-06 2018-01-09 Apple Inc. Structured dictation using intelligent automated assistants
US10152299B2 (en) 2015-03-06 2018-12-11 Apple Inc. Reducing response latency of intelligent automated assistants
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US9721566B2 (en) 2015-03-08 2017-08-01 Apple Inc. Competing devices responding to voice triggers
US10567477B2 (en) 2015-03-08 2020-02-18 Apple Inc. Virtual assistant continuity
US9899019B2 (en) 2015-03-18 2018-02-20 Apple Inc. Systems and methods for structured stem and suffix language models
US9842105B2 (en) 2015-04-16 2017-12-12 Apple Inc. Parsimonious continuous-space phrase representations for natural language processing
US10162878B2 (en) * 2015-05-21 2018-12-25 Tibco Software Inc. System and method for agglomerative clustering
US10083688B2 (en) 2015-05-27 2018-09-25 Apple Inc. Device voice control for selecting a displayed affordance
US10102275B2 (en) 2015-05-27 2018-10-16 International Business Machines Corporation User interface for a query answering system
US10127220B2 (en) 2015-06-04 2018-11-13 Apple Inc. Language identification from short strings
US9578173B2 (en) 2015-06-05 2017-02-21 Apple Inc. Virtual assistant aided communication with 3rd party service in a communication session
US10101822B2 (en) 2015-06-05 2018-10-16 Apple Inc. Language input correction
US11025565B2 (en) 2015-06-07 2021-06-01 Apple Inc. Personalized prediction of responses for instant messaging
US10255907B2 (en) 2015-06-07 2019-04-09 Apple Inc. Automatic accent detection using acoustic models
US10186254B2 (en) 2015-06-07 2019-01-22 Apple Inc. Context-based endpoint detection
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
US9697820B2 (en) 2015-09-24 2017-07-04 Apple Inc. Unit-selection text-to-speech synthesis using concatenation-sensitive neural networks
US11010550B2 (en) 2015-09-29 2021-05-18 Apple Inc. Unified language modeling framework for word prediction, auto-completion and auto-correction
US10366158B2 (en) 2015-09-29 2019-07-30 Apple Inc. Efficient word encoding for recurrent neural network language models
US11587559B2 (en) 2015-09-30 2023-02-21 Apple Inc. Intelligent device identification
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10049668B2 (en) 2015-12-02 2018-08-14 Apple Inc. Applying neural network language models to weighted finite state transducers for automatic speech recognition
US10146858B2 (en) 2015-12-11 2018-12-04 International Business Machines Corporation Discrepancy handler for document ingestion into a corpus for a cognitive computing system
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
US9842161B2 (en) * 2016-01-12 2017-12-12 International Business Machines Corporation Discrepancy curator for documents in a corpus of a cognitive computing system
US10176250B2 (en) 2016-01-12 2019-01-08 International Business Machines Corporation Automated curation of documents in a corpus for a cognitive computing system
US10446143B2 (en) 2016-03-14 2019-10-15 Apple Inc. Identification of voice inputs providing credentials
US9934775B2 (en) 2016-05-26 2018-04-03 Apple Inc. Unit-selection text-to-speech synthesis based on predicted concatenation parameters
US9972304B2 (en) 2016-06-03 2018-05-15 Apple Inc. Privacy preserving distributed evaluation framework for embedded personalized systems
US10249300B2 (en) 2016-06-06 2019-04-02 Apple Inc. Intelligent list reading
US10049663B2 (en) 2016-06-08 2018-08-14 Apple, Inc. Intelligent automated assistant for media exploration
DK179588B1 (en) 2016-06-09 2019-02-22 Apple Inc. INTELLIGENT AUTOMATED ASSISTANT IN A HOME ENVIRONMENT
US10192552B2 (en) 2016-06-10 2019-01-29 Apple Inc. Digital assistant providing whispered speech
US10586535B2 (en) 2016-06-10 2020-03-10 Apple Inc. Intelligent digital assistant in a multi-tasking environment
US10509862B2 (en) 2016-06-10 2019-12-17 Apple Inc. Dynamic phrase expansion of language input
US10490187B2 (en) 2016-06-10 2019-11-26 Apple Inc. Digital assistant providing automated status report
US10067938B2 (en) 2016-06-10 2018-09-04 Apple Inc. Multilingual word prediction
DK179049B1 (en) 2016-06-11 2017-09-18 Apple Inc Data driven natural language event detection and classification
DK179415B1 (en) 2016-06-11 2018-06-14 Apple Inc Intelligent device arbitration and control
DK179343B1 (en) 2016-06-11 2018-05-14 Apple Inc Intelligent task discovery
DK201670540A1 (en) 2016-06-11 2018-01-08 Apple Inc Application integration with a digital assistant
US9787705B1 (en) * 2016-08-19 2017-10-10 Quid, Inc. Extracting insightful nodes from graphs
US11093557B2 (en) * 2016-08-29 2021-08-17 Zoominfo Apollo Llc Keyword and business tag extraction
US10474753B2 (en) 2016-09-07 2019-11-12 Apple Inc. Language identification using recurrent neural networks
US10043516B2 (en) 2016-09-23 2018-08-07 Apple Inc. Intelligent automated assistant
US11281993B2 (en) 2016-12-05 2022-03-22 Apple Inc. Model and ensemble compression for metric learning
US11205103B2 (en) 2016-12-09 2021-12-21 The Research Foundation for the State University Semisupervised autoencoder for sentiment analysis
US10593346B2 (en) 2016-12-22 2020-03-17 Apple Inc. Rank-reduced token representation for automatic speech recognition
US11204787B2 (en) 2017-01-09 2021-12-21 Apple Inc. Application integration with a digital assistant
US10783262B2 (en) * 2017-02-03 2020-09-22 Adobe Inc. Tagging documents with security policies
DK201770383A1 (en) 2017-05-09 2018-12-14 Apple Inc. USER INTERFACE FOR CORRECTING RECOGNITION ERRORS
US10417266B2 (en) 2017-05-09 2019-09-17 Apple Inc. Context-aware ranking of intelligent response suggestions
US10726832B2 (en) 2017-05-11 2020-07-28 Apple Inc. Maintaining privacy of personal information
DK201770439A1 (en) 2017-05-11 2018-12-13 Apple Inc. Offline personal assistant
US10395654B2 (en) 2017-05-11 2019-08-27 Apple Inc. Text normalization based on a data-driven learning network
DK201770429A1 (en) 2017-05-12 2018-12-14 Apple Inc. LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT
DK179745B1 (en) 2017-05-12 2019-05-01 Apple Inc. SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT
US11301477B2 (en) 2017-05-12 2022-04-12 Apple Inc. Feedback analysis of a digital assistant
DK179496B1 (en) 2017-05-12 2019-01-15 Apple Inc. USER-SPECIFIC Acoustic Models
DK201770432A1 (en) 2017-05-15 2018-12-21 Apple Inc. Hierarchical belief states for digital assistants
DK201770431A1 (en) 2017-05-15 2018-12-20 Apple Inc. Optimizing dialogue policy decisions for digital assistants using implicit feedback
US10403278B2 (en) 2017-05-16 2019-09-03 Apple Inc. Methods and systems for phonetic matching in digital assistant services
US10311144B2 (en) 2017-05-16 2019-06-04 Apple Inc. Emoji word sense disambiguation
DK179560B1 (en) 2017-05-16 2019-02-18 Apple Inc. FAR-FIELD EXTENSION FOR DIGITAL ASSISTANT SERVICES
US20180336275A1 (en) 2017-05-16 2018-11-22 Apple Inc. Intelligent automated assistant for media exploration
US10657328B2 (en) 2017-06-02 2020-05-19 Apple Inc. Multi-task recurrent neural network architecture for efficient morphology handling in neural language modeling
US10872107B2 (en) * 2017-06-30 2020-12-22 Keysight Technologies, Inc. Document search system for specialized technical documents
US20210319179A1 (en) * 2017-08-14 2021-10-14 Dathena Science Pte. Ltd. Method, machine learning engines and file management platform systems for content and context aware data classification and security anomaly detection
US10445429B2 (en) 2017-09-21 2019-10-15 Apple Inc. Natural language understanding using vocabularies with compressed serialized tries
US10755051B2 (en) 2017-09-29 2020-08-25 Apple Inc. Rule-based natural language processing
US10636424B2 (en) 2017-11-30 2020-04-28 Apple Inc. Multi-turn canned dialog
US10733982B2 (en) 2018-01-08 2020-08-04 Apple Inc. Multi-directional dialog
US10733375B2 (en) 2018-01-31 2020-08-04 Apple Inc. Knowledge-based framework for improving natural language understanding
US10789959B2 (en) 2018-03-02 2020-09-29 Apple Inc. Training speaker recognition models for digital assistants
US10592604B2 (en) 2018-03-12 2020-03-17 Apple Inc. Inverse text normalization for automatic speech recognition
US10818288B2 (en) 2018-03-26 2020-10-27 Apple Inc. Natural assistant interaction
US10909331B2 (en) 2018-03-30 2021-02-02 Apple Inc. Implicit identification of translation payload with neural machine translation
US10928918B2 (en) 2018-05-07 2021-02-23 Apple Inc. Raise to speak
US11145294B2 (en) 2018-05-07 2021-10-12 Apple Inc. Intelligent automated assistant for delivering content from user experiences
CN108470195B (zh) * 2018-05-11 2021-01-26 东方网力科技股份有限公司 视频身份管理方法及装置
JP6816214B2 (ja) * 2018-05-21 2021-01-20 ネイバー コーポレーションNAVER Corporation Aiヘッドラインニュース
US10984780B2 (en) 2018-05-21 2021-04-20 Apple Inc. Global semantic word embeddings using bi-directional recurrent neural networks
CN108897774B (zh) * 2018-05-31 2023-04-18 腾讯科技(深圳)有限公司 一种获取新闻热点的方法、设备及存储介质
DK179822B1 (da) 2018-06-01 2019-07-12 Apple Inc. Voice interaction at a primary device to access call functionality of a companion device
US11386266B2 (en) 2018-06-01 2022-07-12 Apple Inc. Text correction
DK180639B1 (en) 2018-06-01 2021-11-04 Apple Inc DISABILITY OF ATTENTION-ATTENTIVE VIRTUAL ASSISTANT
US10892996B2 (en) 2018-06-01 2021-01-12 Apple Inc. Variable latency device coordination
DK201870355A1 (en) 2018-06-01 2019-12-16 Apple Inc. VIRTUAL ASSISTANT OPERATION IN MULTI-DEVICE ENVIRONMENTS
US10496705B1 (en) 2018-06-03 2019-12-03 Apple Inc. Accelerated task performance
US10902066B2 (en) 2018-07-23 2021-01-26 Open Text Holdings, Inc. Electronic discovery using predictive filtering
KR102158049B1 (ko) * 2018-11-05 2020-09-21 서강대학교산학협력단 Cf 트리를 활용한 범위 질의 기반의 데이터 클러스터링 장치 및 방법
CN110413863A (zh) * 2019-08-01 2019-11-05 信雅达系统工程股份有限公司 一种基于深度学习的舆情新闻去重与推送方法
CN111510330B (zh) * 2020-04-10 2023-08-18 中国联合网络通信集团有限公司 接口管理装置、方法及存储介质
US11501551B2 (en) 2020-06-08 2022-11-15 Optum Services (Ireland) Limited Document processing optimization
KR20220039075A (ko) * 2020-09-21 2022-03-29 삼성전자주식회사 전자 장치, 컨텐츠 검색 시스템 및 검색 방법
US11176024B1 (en) 2020-09-23 2021-11-16 International Business Machines Corporation Software patch application and testing optimization

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001256244A (ja) * 2000-03-14 2001-09-21 Fuji Xerox Co Ltd 画像データ分類装置および画像データ分類方法
JP2002183171A (ja) * 2000-12-12 2002-06-28 Matsushita Electric Ind Co Ltd 文書データ・クラスタリングシステム

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0856175A4 (en) * 1995-08-16 2000-05-24 Univ Syracuse SYSTEM AND METHOD FOR RETURNING MULTI-LANGUAGE DOCUMENTS USING A SEMANTIC VECTOR COMPARISON
JP3916007B2 (ja) * 1996-08-01 2007-05-16 高嗣 北川 意味情報処理方法及びその装置
US5819258A (en) * 1997-03-07 1998-10-06 Digital Equipment Corporation Method and apparatus for automatically generating hierarchical categories from large document collections
US6122628A (en) * 1997-10-31 2000-09-19 International Business Machines Corporation Multidimensional data clustering and dimension reduction for indexing and searching
US7051277B2 (en) * 1998-04-17 2006-05-23 International Business Machines Corporation Automated assistant for organizing electronic documents
US6742003B2 (en) * 2001-04-30 2004-05-25 Microsoft Corporation Apparatus and accompanying methods for visualizing clusters of data and hierarchical cluster classifications
US6377949B1 (en) * 1998-09-18 2002-04-23 Tacit Knowledge Systems, Inc. Method and apparatus for assigning a confidence level to a term within a user knowledge profile
US6574632B2 (en) * 1998-11-18 2003-06-03 Harris Corporation Multiple engine information retrieval and visualization system
US6664980B2 (en) * 1999-02-26 2003-12-16 Accenture Llp Visual navigation utilizing web technology
US6510406B1 (en) * 1999-03-23 2003-01-21 Mathsoft, Inc. Inverse inference engine for high performance web search
DK199900555A (da) * 1999-04-23 2000-10-24 Velux Ind As Dræn- og pakningssystem samt et panelsystem med et sådant system
EP1049030A1 (en) * 1999-04-28 2000-11-02 SER Systeme AG Produkte und Anwendungen der Datenverarbeitung Classification method and apparatus
US6990628B1 (en) * 1999-06-14 2006-01-24 Yahoo! Inc. Method and apparatus for measuring similarity among electronic documents
US6636849B1 (en) * 1999-11-23 2003-10-21 Genmetrics, Inc. Data search employing metric spaces, multigrid indexes, and B-grid trees
WO2001046858A1 (fr) * 1999-12-21 2001-06-28 Matsushita Electric Industrial Co., Ltd. Creation d'un indice vectoriel, recherche de vecteurs similaires et dispositifs correspondants
JP3573688B2 (ja) * 2000-06-28 2004-10-06 松下電器産業株式会社 類似文書検索装置及び関連キーワード抽出装置
KR100429792B1 (ko) * 2000-11-15 2004-05-03 삼성전자주식회사 특징 벡터 공간의 인덱싱 방법 및 검색 방법
AU2002236630A1 (en) * 2000-12-07 2002-06-18 Newsgrade Corporation System and method for organizing, navigating and analyzing data
US6766316B2 (en) * 2001-01-18 2004-07-20 Science Applications International Corporation Method and system of ranking and clustering for document indexing and retrieval
US6751607B2 (en) * 2001-04-04 2004-06-15 Thomas A. Kraay System and method for the identification of latent relationships amongst data elements in large databases
US7945600B1 (en) * 2001-05-18 2011-05-17 Stratify, Inc. Techniques for organizing data to support efficient review and analysis
US7469246B1 (en) * 2001-05-18 2008-12-23 Stratify, Inc. Method and system for classifying or clustering one item into multiple categories
JP3717808B2 (ja) * 2001-06-29 2005-11-16 株式会社日立製作所 情報検索システム
US7031909B2 (en) * 2002-03-12 2006-04-18 Verity, Inc. Method and system for naming a cluster of words and phrases
CA2489236C (en) * 2002-06-12 2014-01-14 Jena Jordahl Data storage, retrieval, manipulation and display tools enabling multiple hierarchical points of view
US20050154701A1 (en) * 2003-12-01 2005-07-14 Parunak H. Van D. Dynamic information extraction with self-organizing evidence construction
US20050203924A1 (en) * 2004-03-13 2005-09-15 Rosenberg Gerald B. System and methods for analytic research and literate reporting of authoritative document collections
US7937455B2 (en) * 2004-07-28 2011-05-03 Oracle International Corporation Methods and systems for modifying nodes in a cluster environment
US7685201B2 (en) * 2006-09-08 2010-03-23 Microsoft Corporation Person disambiguation using name entity extraction-based clustering

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001256244A (ja) * 2000-03-14 2001-09-21 Fuji Xerox Co Ltd 画像データ分類装置および画像データ分類方法
JP2002183171A (ja) * 2000-12-12 2002-06-28 Matsushita Electric Ind Co Ltd 文書データ・クラスタリングシステム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
徳永 健伸, 言語と計算5 情報検索と言語処理, vol. 初版, CSNB200100266001, 25 November 1999 (1999-11-25), JP, pages 60 - 65, ISSN: 0000787587 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011514995A (ja) * 2008-02-25 2011-05-12 アティジオ リミテッド ライアビリティ カンパニー 関心領域についての関連情報の決定
JP2013218727A (ja) * 2008-02-25 2013-10-24 Atigeo Llc 関心領域についての関連情報の決定
US8706664B2 (en) 2008-02-25 2014-04-22 Atigeo Llc Determining relevant information for domains of interest
CN102110172A (zh) * 2011-03-31 2011-06-29 河南理工大学 分布式Web文档聚类系统
WO2013051619A1 (ja) * 2011-10-03 2013-04-11 日本電気株式会社 類似性検出装置及び指向性近傍検出方法
JPWO2013051619A1 (ja) * 2011-10-03 2015-03-30 日本電気株式会社 類似性検出装置及び指向性近傍検出方法
US9530081B2 (en) 2011-10-03 2016-12-27 Nec Corporation Similarity detecting apparatus and directional nearest neighbor detecting method

Also Published As

Publication number Publication date
US20040139067A1 (en) 2004-07-15
JP3974511B2 (ja) 2007-09-12
US20090006378A1 (en) 2009-01-01
US7428541B2 (en) 2008-09-23
US8229900B2 (en) 2012-07-24

Similar Documents

Publication Publication Date Title
JP3974511B2 (ja) 情報検索のためのデータ構造を生成するコンピュータ・システム、そのための方法、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラム、情報検索のためのデータ構造を生成するコンピュータ実行可能なプログラムを記憶したコンピュータ可読な記憶媒体、情報検索システム、およびグラフィカル・ユーザ・インタフェイス・システム
JP3860046B2 (ja) ランダムサンプル階層構造を用いた情報処理のためのプログラム、システムおよび記録媒体
US10019442B2 (en) Method and system for peer detection
Welch et al. Search result diversity for informational queries
US9317533B2 (en) Adaptive image retrieval database
US8543380B2 (en) Determining a document specificity
Zahera et al. Query recommendation for improving search engine results
Abid et al. A survey on search results diversification techniques
Ding et al. User modeling for personalized Web search with self‐organizing map
Patel et al. A review on web pages clustering techniques
Lee et al. Reducing noises for recall-oriented patent retrieval
Boddu et al. Knowledge discovery and retrieval on World Wide Web using web structure mining
Freeman et al. Web content management by self-organization
Taherizadeh et al. Integrating web content mining into web usage mining for finding patterns and predicting users’ behaviors
Baillie et al. A multi-collection latent topic model for federated search
Hadhiatma et al. A Scientific Paper Recommendation Framework Based on Multi-Topic Communities and Modified PageRank
Oo Pattern discovery using association rule mining on clustered data
Rajkumar et al. Users’ click and bookmark based personalization using modified agglomerative clustering for web search engine
AT&T
Mohotti et al. An efficient ranking-centered density-based document clustering method
Zhou et al. A concentric-circle model for community mining in graph structures
Cetintas et al. Using past queries for resource selection in distributed information retrieval
Veningston et al. Semantic association ranking schemes for information retrieval applications using term association graph representation
Bottraud et al. An adaptive information research personal assistant
Febna et al. User search goals evaluation with feedback sessions

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061107

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20070205

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20070208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070502

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070605

RD14 Notification of resignation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7434

Effective date: 20070605

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070614

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100622

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110622

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees