JP2016133817A - 類似性判定装置、類似性判定方法および類似性判定プログラム - Google Patents

類似性判定装置、類似性判定方法および類似性判定プログラム Download PDF

Info

Publication number
JP2016133817A
JP2016133817A JP2015005875A JP2015005875A JP2016133817A JP 2016133817 A JP2016133817 A JP 2016133817A JP 2015005875 A JP2015005875 A JP 2015005875A JP 2015005875 A JP2015005875 A JP 2015005875A JP 2016133817 A JP2016133817 A JP 2016133817A
Authority
JP
Japan
Prior art keywords
keyword
feature
document information
similarity
text
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015005875A
Other languages
English (en)
Other versions
JP6507657B2 (ja
Inventor
小櫻 文彦
Fumihiko Kozakura
文彦 小櫻
伊藤 孝一
Koichi Ito
孝一 伊藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2015005875A priority Critical patent/JP6507657B2/ja
Priority to US14/967,580 priority patent/US10025784B2/en
Priority to EP15200078.2A priority patent/EP3046037A1/en
Publication of JP2016133817A publication Critical patent/JP2016133817A/ja
Application granted granted Critical
Publication of JP6507657B2 publication Critical patent/JP6507657B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/93Document management systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/334Query execution
    • G06F16/3347Query execution using vector based model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/205Parsing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

【課題】判定精度を落とさずにデータ量を削減すること。【解決手段】判定装置100は、特徴抽出部150bと、類似性判定部150cを有する。特徴抽出部150bは、テキストのキーワードの出現回数を計数し、出現回数が少ないキーワードLのペアとなる特徴L−Lを特定する。特徴抽出部150bは、テキストの一定範囲内に含まれる特徴の数が一定数以上となる条件のもと、特徴L−Lを削除する処理を、各テキストについて実行する。類似性判定部150cは、検索対象のテキストの特徴と、特徴L−Lを除いた各テキストの特徴とを比較して、類似性を判定する。【選択図】図15

Description

本発明は、類似性判定装置等に関する。
現在、企業では情報漏洩対策のために様々なログを収集し情報漏洩の原因を調査している。例えば、情報漏洩した情報に類似するファイルを選び出し、情報漏洩の原因を調査するアプローチがある。この調査を行うためには、文書閲覧や保存等のファイル操作時に取得するログについて、捜査されたファイルを原文ではなく原文の特徴を表すフィンガープリント(Finger Print)としてファイルの特徴を取得する。以下、フィンガープリントをFPと表記する。
例えば、社外秘の機密情報を含むファイルを見つけた場合に、係るファイルのFPと、社内の閲覧ログファイルに登録されたFPとを比較することで、漏洩したファイルに類似しているログ中のファイルを検索することが可能になる。また、漏洩した情報に類似しているログ中のファイルの操作履歴を追うことで、情報漏洩の原因を特定することもできる。
FPについて具体的に説明する。FPは、ファイルの特徴を抽出する技術である。図27は、FPを説明するための図である。例えば、ファイル中のテキストからキーワードとその並びを抽出し、特定範囲内のキーワードの向きつきの並びを特徴とする。例えば、ある第1テキストとして「キーワード1はキーワード2とキーワード3とキーワード4である」が存在した場合に、かかる第1テキストの特徴は、図27の特徴10aに示すように、6つのキーワードの組となる。
FPでは、特徴の一致数を基にして、テキスト間の類似性を判定する。例えば、第2テキストの特徴が、図27の特徴10bであるものとする。第1テキストの特徴10aと、第2テキストの特徴10bとを比較すると、特徴10bに含まれる5つのキーワードの組のうち、4つのキーワードの組が、特徴10aのキーワードの組と一致する。具体的には「キーワード1→キーワード2、キーワード1→キーワード3、キーワード1→キーワード4、キーワード3→キーワード4」が一致する。この一致数が多いほどお互いに類似したテキストであるといえる。
特徴をデータとして扱う際には、キーワードのままでは扱いにくい。このため、キーワードをハッシュ化し、定数nによる余剰演算(mod)を実行し範囲を狭めたハッシュ値にすることで、テキストの特徴をn×nの有効グラフで表現する。以下において、ハッシュ値を定数nでmodした値と定義する。modする前のハッシュ値を、中間ハッシュ値と定義する。
例えば、nの値を10000程度にした上でキーワードをハッシュ化する場合には、異なるキーワード間で同一のハッシュ値になる可能性があり、精度が低下する場合がある。しかし、特徴をキーワードの組としているため、異なるキーワード間で多少同一のハッシュ値になったとしても、特徴に含まれるキーワードの組の両方の値が、異なるテキスト間で同一のハッシュ値に変換される確率は低い。
図28は、n×nの有効フラグで類似性を判定する処理の一例を示す図である。図28のFP11aは、テキストAのFPをn×nの有効グラフで表したものである。FP11bは、テキストBのFPをn×nの有効グラフで表したものである。例えば、テキストAについて、キーワードの組「キーワード1→キーワード2」が含まれ、キーワード1のハッシュ値が「0」、キーワード2のハッシュ値が「2」であるものとする。この場合には、FP11aについて、「0」の行と「2」の列とが交差する部分の値が「1」に設定される。
FP11aとFP11bとの間のandを取ることで、比較結果11cが得られる。比較結果11cに含まれる「1」の数が、テキストAとテキストBとの類似性を示す値となる。図28に示す例では、テキストAとテキストBとの類似性は「4」となる。
特開2010−231766号公報 特開2014−115719号公報 国際公開第2006/048998号
上述した従来技術では、例えば、1対1のテキストの比較であれば、図28で説明したように、FP同士をandすることで、類似性を判定することができる。これに対して、漏洩した情報に類似したテキストをログ中の複数のファイルから検索する場合には、1対多のテキストの比較を行うことになる。この場合には、一般的に1対1の比較を繰り返すのではなく、転置インデックスを用いて、各テキストの比較を行う。
図29は、転置インデックスを用いた比較を説明するための図である。図29について、FP12は、検索テキストのFPを示すものである。FP12に含まれる各特徴は、検索テキストに含まれるキーワードの組から算出されるハッシュ値である。転置インデックス13は、ログ中に含まれる複数のテキストの転置インデックスであり、特徴と文書識別子とを対応付ける。転置インデックス13の特徴は、テキストに含まれるキーワードの組から算出されるハッシュ値である。文書識別子は、テキストを一意に識別する情報である。例えば、転置インデックス13の1行目を参照すると、文書識別子「001、003、007、・・・」により識別される各ファイルが、特徴「484893」を有していることを示す。
FP12と転置インデックス13とを比較すると、比較結果14が得られる。例えば、比較結果14は、文書識別子と特徴量とを対応付ける。このうち、特徴量は、該当テキストに含まれる特徴のうち、検索テキストFP12と一致する特徴の数を示すものであり、特徴量が多いほど、類似性が高いことを示す。
ここで、転置インデックスで扱うデータ量が主記憶のデータ量を超えてしまうと、データ量の増加に伴い検索コストがかかるようになる。なお、転置インデックスのデータを単純に削除すると、テキストの特徴部分が失われる場合があり、検索精度が低下してしまう。このため、判定精度を落とさずにデータ量を削減することが求められる。
1つの側面では、本発明は、判定精度を落とさずデータ量を削減することができる類似性判定装置、類似性判定方法および類似性判定プログラムを提供することを目的とする。
第1の案では、類似性判定装置は、特徴抽出部と、類似性判定部とを有する。特徴抽出部は、文書情報に含まれる各キーワードの出現回数を計数する。特徴抽出部は、文書情報の一定範囲内に含まれるキーワードの配列の種別数が一定数以上となる条件で下記の処理を実行する。特徴抽出部は、出現回数が閾値未満となるキーワードを含む配列を削除した後に、文書情報から複数のキーワードの配列を特徴として抽出する処理を実行する。類似性判定部は、互いに異なる文書情報から抽出された特徴を比較して、異なる文書情報間の類似性を判定する。
判定精度を落とさずにデータ量を削減することができる。
図1は、FPの特性を説明するための図(1)である。 図2は、FPの特性を説明するための図(2)である。 図3は、FPの特性を説明するための図(3)である。 図4は、FPの特性を説明するための図(4)である。 図5は、本実施例に係る判定装置の処理を説明するための図(1)である。 図6は、キーワードと出現回数との関係を示す図である。 図7は、特徴を構成するキーワードのペアの比率を示す図(1)である。 図8は、特徴を構成するキーワードのペアの比率を示す図(2)である。 図9は、比率および削減率の関係の一例を示す図である。 図10は、テキストに含まれるキーワードHとキーワードLとの分布の一例を示す図である。 図11は、本実施例に係る判定装置の処理を説明するための図(2)である。 図12は、残す対象とする特徴L−Lを説明するための図である。 図13は、本実施例に係るシステムの構成を示す図である。 図14は、検索入力画面の一例を示す図である。 図15は、本実施例に係る判定装置の構成を示す機能ブロック図である。 図16は、ファイル操作ログのデータ構造の一例を示す図である。 図17は、テキストテーブルのデータ構造の一例を示す図である。 図18は、リストテーブルのデータ構造の一例を示す図である。 図19は、転置インデックスのデータ構造の一例を示す図である。 図20は、類似性判定部の処理の一例を説明するための図である。 図21は、検索結果の一例を示す図である。 図22は、本実施例に係るシステムの処理手順を示すフローチャートである。 図23は、本実施例に係る判定装置の処理手順を示すフローチャートである。 図24は、S207およびS208の処理手順を具体的に示すフローチャートである。 図25は、ステップS303の処理手順を具体的に示すフローチャートである。 図26は、判定プログラムを実行するコンピュータの一例を示す図である。 図27は、FPを説明するための図である。 図28は、n×nの有効フラグで類似性を判定する処理の一例を示す図である。 図29は、転置インデックスを用いた比較を説明するための図である。
以下に、本願の開示する類似性判定装置、類似性判定方法および類似性判定プログラムの実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。
フィンガープリントの特定について説明する。以下の説明では、フィンガープリントをFPと表記する。図1〜図4は、FPの特性を説明するための図である。例えば、図1に示すように、キーワードk1とキーワードk2との特徴t1が複数個出現した場合には、1つにまとめられる。このため、各キーワードの配列を示す特徴は出現回数を持っているがFPのデータ上では、図2に示すような情報に丸められ、出現回数の情報は削除される。
図2において、各キーワード横の括弧内の数字は、テキストに含まれるキーワードの出現回数を示す。例えば、キーワードk1(50)は、テキストに含まれるキーワードk1の出現回数が、50回であることを示す。
図2に示す特徴の出現回数は、テキストに含まれるキーワードの配列が出現する回数を示す。例えば、特徴t1に対応するキーワードk1とキーワードk2との配列がテキスト上に30回出現することが示される。なお、FPのデータ上では、係る出現回数の情報は削除され、出現回数については、各特徴の間で区別されない。なお、図2に示す例では、各特徴が、特徴の出現回数の昇順で並べられている。
ここで、図2に示す状態からFPの情報を削減するための一番単純な方法としては、FPからランダムに削除する方法が考えられる。図3では、FPからランダムに特徴を削除する場合を示す。例えば、図3に示す例では、特徴t1、t2、t98、t99がランダムに選択され、削除されている。しかしながら、特徴をランダムに選択して削除すると、出現回数の多い特徴が削除されてしまう可能性があり、これにより多くの特徴が失われる可能性が高い。例えば、図3の特徴t1は、特徴の出現回数が、他の特徴よりも多いため、かかる特徴t1は、テキストの主要な特徴であるといえる。しかしながら、特徴t1が選択され、削除されてしまうと、FPからテキストの主要な特徴が失われる。
図3で説明した問題を解消するべく、図4に示す方法が考えられる。例えば、出現回数の多い特徴よりも、出現回数の少ない特徴を削除する方法がある。この場合には、出現回数の多い特徴を残すことができるが出現回数の少ないキーワードを含む特徴が削除されるが、この出現回数の少ない特徴は、他のテキストとの違いを表す特徴であることが多い。このため、単純に出現回数の少ない特徴を削除すると、各テキスト間の類似性が高くなり、類似性を判定するための精度が低下する。
次に、本実施例に係る判定装置の処理の一例について説明する。判定装置は、類似性判定装置の一例である。判定装置は、出現回数の低いキーワードを含む特徴を残しつつ、出現回数の低いキーワードを含む特徴を削除することで、類似性判定の精度を落とさずに、FPのデータ量を削減する。
図5は、本実施例に係る判定装置の処理を説明するための図である。図5に示すように、判定装置は、特徴の出現回数に基づいて、特徴の出現回数が閾値以下となる特徴t98,t99,t100を削除対象候補として選択する。判定装置は、削除対象候補の特徴のうち、特徴を削除しても特徴の有するキーワードが他の特徴で補完できる特徴を削除する。
例えば、図5に示す例では、特徴t100のキーワードkBは、特徴t99に存在する。特徴t100のキーワードkAは、特徴t98に存在する。特徴t100の有するキーワードは他の特徴t98,t99で補完することができるため、判定装置は特徴t100を削除する。
ここで、図5に示した判定装置の処理では、出現回数が閾値以下となる特徴を削除対象候補とし、削除対象候補の特徴のうち、他の特徴で補完可能な特徴を削除する処理を行う例を示した。この処理は、データ量を削除する点においては、よい処理であるが、削除対象を細かく確認するため、処理負荷が大きくなる場合がある。以下においては、図5で説明した処理と同じ考え方で削除対象を細かく確認する処理を省いた、判定装置の処理の一例について説明する。
図5で説明した処理では、特徴の出現回数を基に削除する特徴を絞り込んだが、キーワードの出現回数に着目して処理を行ってもよい。判定装置は、テキスト内に出現するキーワードの出現回数をキーワード毎に計数し、出現回数を基にしてキーワードをグループHまたはグループLに分類する。
図6は、キーワードと出現回数との関係を示す図である。図6の縦軸は出現回数を示し、横軸はキーワードに対応する。例えば、キーワードは、出現回数の多いものから順に左側から右側に並ぶ。図6の分割ポイント20よりも左側のキーワードは、グループHに属する。分割ポイント20よりも右側のキーワードは、グループLに属する。判定装置は、出現回数が均等になるように、分割ポイント20を設定する。例えば、判定装置は、グループHに属する各キーワードの出現回数の合計数と、グループLの属する各キーワードの出現回数の合計数とが同じ数になるように分割ポイント20を設定する。以下の説明において、グループHに属するキーワードをキーワードH、グループLに属するキーワードをキーワードLと適宜表記する。
図6に示すように、キーワードを分類すると、FPの特徴は図7に示すように、均等に4グループに分けることができる。図7及び図8は、特徴を構成するキーワードのペアの比率を示す図である。例えば、キーワードHとキーワードHとの配列を示す特徴を、特徴H−Hと表記する。キーワードHとキーワードLとの配列を示す特徴を、特徴H−Lと表記する。キーワードLとキーワードHとの配列を示す特徴を、特徴L−Hと表記する。キーワードLとキーワードLとの配列を示す特徴を、特徴L−Lと表記する。
図7に示すように、全特徴のうち、特徴H−Hが占める比率は、25%となる。全特徴のうち、特徴H−Lが占める比率は、25%となる。全特徴のうち、特徴L−Hが占める比率は、25%となる。全特徴のうち、特徴L−Lが占める比率は、25%となる。
例えば、判定装置が特徴L−Lを削除することで、FPの情報を25%削除することになる。また、特徴L−Lに含まれるキーワードLが、特徴H−Lまた特徴L−Hに含まれていると解釈すれば、特徴L−Lを削除しても、テキストの特徴が保持される。例えば、図4で説明したように、単純に出現回数に基づいて特徴を削除していないので、テキスト固有のキーワードを残すことができ、類似性判定の精度低下を抑止できる。
ところで、実際には、キーワードHとキーワードLとでは、ユニーク数の差を表す係数が異なる。係数をKとすると各特徴H−H、H−L、L−H、L−Lの比率は、図8に示すものとなる。例えば、L−Lの特徴を削除した場合にはK×2/(1+K)×2%の削減となる。例えば、Kの値が「3」である場合には、56%の削除が期待できる。Kの値が「4」である場合には、65%の削除が期待できる。
キーワードHの数とキーワードLの数との比率および削減率の関係について説明する。図9は、比率および削減率の関係の一例を示す図である。発明者は、削減率を求めるにあたり、実際にサイズ3〜4KBのテキストを1000テキスト用意して、1000テキストでFPを作成した。発明者は、作成したFPについて、比率を変えることで削減率を求めた。また、1000テキストに対応する各FPを比較して類似度を求め、類似度が高い2〜5位の平均類似度を求めた。なお、類似度が1位となるものは、自分自身のテキストとの比較による類似度であるため、除外する。
図9に示すように、キーワードHの数とキーワードLの数との比率が「100:0」では、削減率は0%となり、平均類似度は「8.8%」となる。キーワードHの数とキーワードLの数との比率が「50:50」では、削減率は42%となり、平均類似度は「7.3%」となる。キーワードHの数とキーワードLの数との比率が「30:70」では、削減率は62%となり、平均類似度は「7.2%」となる。キーワードHの数とキーワードLの数との比率が「10:90」では、削減率は88%となり、平均類似度は「9.5%」となる。
図9に示す例では、比率を変更して削除率を高くし、特徴をより削除するようにしてもテキストの特徴は均等に削除される傾向が見られることが確認できた。しかし、本アルゴリズムを使用して特徴を削除した場合には、部分一致の評価を行うことは難しい。この理由は、テキスト全体として削除する特徴を決めているが、テキストの局所的な範囲では、削除する特徴が多い部分と少ない部分とが発生するためである。
図10は、テキストに含まれるキーワードHとキーワードLとの分布の一例を示す図である。図10に示す例では、テキスト30を、ページ毎に分割した例を示す。例えば、1ページ目の領域を領域30aとする。2ページ目の領域を領域30bとする。3ページ目の領域を領域30cとする。領域30aは、キーワードHを多く含み、キーワードLが含まれない。領域30bは、キーワードHおよびキーワードLがバランスよく含まれる。領域30cは、キーワードLを多く含み、キーワードHを含まない。
例えば、特徴L−Lを削除すると、領域30cにおいて、多くのキーワードLが削除されることになり、領域30cについては特徴が残らなくなる。このため、部分一致の評価を行うことは難しくなる。この点を解消するべく、本実施例に係る判定装置は、テキスト全域に渡り、一定範囲内で一定数の特徴が残るよう特徴L−Lを削除する処理を制御する。例えば、判定装置は、全ての特徴L−Lを削除した場合に、特徴の数が一定数に満たない一定範囲が存在する場合には、係る一定範囲について、削除予定の特徴L−Lの一部を削除しないようにする。
図11は、本実施例に係る判定装置の処理を説明するための図(2)である。判定装置は、テキスト35上に一定範囲35aを設定し、特徴L−Lをした場合の残りの特徴の数を計数する。判定装置は、計数した特徴の数が所定数未満である場合には、削除予定となる特徴L−Lのうち、一部を残すようにする。判定装置は、一定範囲35をずらしつつ、上記処理を繰り返し実行する。
判定装置は、残す対象となる特徴L−Lを、特徴L−Lを構成するキーワードLの出現回数に基づいて特定する。図12は、残す対象とする特徴L−Lを説明するための図である。図12の横軸は、特徴L−Lを構成するキーワードLのペアうち、一方のキーワードLの出現回数を示し、縦軸は、他方のキーワードLの出現回数を示す。例えば、縦軸は、出現回数はキーワードLのペアのうち、出現回数の多いキーワードLの出現回数とする。
例えば、判定装置は、全ての特徴L−Lのうち、キーワードLのペアの出現回数が多い特徴L−Lを残す。図12に示す例では、判定装置は、領域36に含まれるキーワードLのペアを有する特徴L−Lを残し、それ以外の特徴L−Lを削除する。判定装置がこのような処理を実行することにより、テキストの全体的な特徴を残しながら最低限の部分的な特徴を残すことができ、類似判定の精度が落ちることを抑止することができる。
次に、本実施例に係るシステムの構成について説明する。図13は、本実施例に係るシステムの構成を示す図である。図13に示すように、このシステムは、クライアント端末60と、判定装置100とを有する。クライアント端末60および判定装置100は、ネットワーク50を介して相互に接続される。
クライアント端末60は、情報漏洩の原因を調査する調査者が操作する情報機器である。例えば、クライアント端末60は、調査者に検索ファイルを指定された場合に、かかる検索ファイルに含まれるテキストのFPを生成し、生成したFPの情報を判定装置100に通知する。
例えば、クライアント端末60は、検索入力画面を表示して、検索ファイルの指定を受け付ける。図14は、検索入力画面の一例を示す図である。調査者は、クライアント端末60を操作して、検索入力画面61の入力領域62に検索ファイルの名称を入力する。クライアント端末60は、検索ファイルの指定を受け付けると、自装置のデータベースまたは、ネットワーク上から、検索ファイルを取得し、取得した検索ファイルを基にして、FPを生成する。
クライアント端末60が検索ファイルのテキストからFPを生成する処理の一例について説明する。クライアント端末60は、テキストを走査して、テキストに含まれるキーワードを抽出する。クライアント端末60は、各キーワードの配列を特徴として特定する。図1で説明したように、クライアント端末60は、同一のキーワードの配列となる特徴を一つの特徴にまとめる。
クライアント端末60は、特徴に含まれる一方のキーワードをハッシュ化し、定数nでmodした値と、特徴に含まれる他方のキーワードをハッシュ化し、定数nでmodした値を組み合わせることで、特徴の値を算出する。クライアント端末60は、テキストから抽出した各特徴について、上記処理を繰り返し実行し、各特徴の値をまとめたリストを生成する。このリストが、検索ファイルに含まれるテキストのFPとなる。
判定装置100は、クライアント端末60から検索ファイルのFPの情報を受信した場合に、検索ファイルのFPを基にして、社内のデータベース等から、検索ファイルに類似するテキストを検索する装置である。判定装置100は、検索結果をクライアント端末60に通知する。
図15は、本実施例に係る判定装置の構成を示す機能ブロック図である。図15に示すように、この判定装置100は、通信部110と、入力部120と、表示部130と、記憶部140と、制御部150とを有する。
通信部110は、ネットワーク50を介して、クライアント端末60や他の端末装置とデータ通信を実行する処理部である。通信部110は、通信装置の一例である。後述する制御部150は、通信部110を介して、クライアント端末60や他の端末装置とデータをやり取りする。
入力部120は、判定装置100に各種の情報を入力する入力装置である。例えば、入力部120は、キーボードやマウス、タッチパネル等に対応する。
表示部130は、制御部150から出力される情報を表示する表示装置である。例えば、表示部130は、液晶ディスプレイやタッチパネル等に対応する。
記憶部140は、ファイル操作ログ140a、テキストテーブル140b、リストテーブル140c、閾値データ140d、転置インデックス140eを有する。記憶部140は、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子などの記憶装置に対応する。
ファイル操作ログ140aは、ファイル操作の履歴を示す情報である。図16は、ファイル操作ログのデータ構造の一例を示す図である。図16に示すように、このファイル操作ログ140aは、日時と、種別と、ホストと、アカウントと、第1ファイル名と、第2ファイル名と、ログIDとを対応付ける。
日時は、利用者がファイルを操作した日時を示す。種別は、ファイル操作の種別を示す。ホストは、ファイルを操作した利用者の端末装置を識別する情報である。アカウントは、利用者の名称である。第1ファイル名および第2ファイル名は、ファイルの名称を示す。利用者に操作されることにより、同一のファイルであっても、異なるファイル名が設定される場合がある。ログIDは、ファイル操作を一意に識別する情報であり、また、ファイル操作の対象となったテキストを一意に識別する情報である。
テキストテーブル140bは、ファイル操作により更新、作成されたテキストを保持するテーブルである。図17は、テキストテーブルのデータ構造の一例を示す図である。図17に示すように、このテキストテーブル140bは、ログIDと、テキストのデータとを対応付ける。テキストテーブル140bのログIDは、ファイル操作ログ140aのログIDに対応するものである。例えば、図16のファイル操作ログ140aの1行目を参照すると、ファイル操作の種別が「更新」となっており、ログIDが「L101」となっている。この更新されたテキストのデータが、テキストテーブル140bのログID「L101」に対応付けられたテキストのデータとなる。
リストテーブル140cは、テキストテーブル140bに含まれる各テキストのFPを保持するテーブルである。図18は、リストテーブルのデータ構造の一例を示す図である。図18に示すように、このリストテーブル140cは、ログIDと、リスト(FP)とを対応付ける。ログIDは、テキストテーブル140bのログIDに対応するものである。リストは、FPに対応する情報であり、複数のハッシュ値を有する。各ハッシュ値は、テキストから抽出された特徴のハッシュ値である。図18に示す例では、8桁のハッシュ値が、1つの特徴に対応する。特徴は、上述したように、テキストに含まれるキーワードの配列を示すものである。テキストテーブル140bのログID「L101」に対応するリストは、リストテーブル140cのログID「L101」に対応するリストとなる。
リストテーブル140cのリストに含まれる特徴は、図11等で説明したように、全特徴のうち、特徴L−Lが削除されたものとなる。すなわち、後述する制御部150は、テキスト全域に渡り、一定範囲内で一定数の特徴が残るよう特徴L−Lを削除する。例えば、判定装置100は、全ての特徴L−Lを削除した場合に、特徴の数が一定数に満たない一定範囲が存在する場合には、係る一定範囲について、削除予定の特徴L−Lの一部を削除しないようにする。
閾値データ140dは、キーワードHの数と、キーワードLの数との比率の情報を含む。また、閾値データ140dは、一定範囲内に残す特徴の数の情報を含む。以下の説明では、一定範囲内に残す特徴の数を、特徴数閾値と表記する。
転置インデックス140eは、特徴と、この特徴を有するテキストとの関係を示す情報である。図19は、転置インデックスのデータ構造の一例を示す図である。図19に示すように、この転置インデックス140eは、有効グラフと、ログIDとを対応付ける。有効グラフの各値は、特徴のハッシュ値に対応する。ログIDは、リストテーブル140cのログIDに対応するものである。例えば、図19の1行目では、特徴「48742842」を有するテキストのログIDが、「L101、L103」である旨が示される。
制御部150は、受付部150aと、特徴抽出部150bと、類似性判定部150cと、検索結果通知部150dとを有する。検索結果通知部150dは、検索部の一例である。制御部150は、例えば、ASIC(Application Specific Integrated Circuit)や、FPGA(Field Programmable Gate Array)などの集積装置に対応する。また、制御部150は、例えば、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等の電子回路に対応する。
受付部150aは、クライアント端末60または社内の情報機器等から各種の情報を受け付ける処理部である。例えば、受付部150aは、クライアント端末60から、検索ファイルのFPの情報を受信した場合に、受信した検索ファイルのFPの情報を、類似性判定部150cに出力する。受付部150aは、ファイル操作ログ140a、テキストテーブル140b、閾値データ140dを社内の情報機器から受け付けた場合には、受け付けた各情報140a、140b、140dを、記憶部140に格納する。
特徴抽出部150bは、テキストテーブル140bの各テキストについて特徴を抽出し、抽出した特徴をハッシュ化することで、リストテーブル140cを生成する処理部である。また、特徴抽出部150bは、リストテーブル140cを基にして、転置インデックス140eを生成する。
ここで、特徴抽出部150bは、リストテーブル140cを生成する場合に、テキスト全域に渡り、一定範囲内で特徴数閾値以上の特徴が残るよう特徴L−Lを削除することで、リストテーブル140cのデータ量を削減する。
以下において、特徴抽出部150bの処理の一例について説明する。特徴抽出部150bは、テキストテーブル140bからあるテキストを取得し、取得したテキストを走査してキーワードを抽出する。特徴抽出部150bは、各キーワードの配列をテキストの特徴として抽出する。特徴抽出部150bは、特徴を構成する各キーワードをハッシュ化することで、特徴をハッシュ化する。特徴抽出部150bは、各特徴のハッシュ値をリスト化することで、あるテキストのリストを生成する。
更に、特徴抽出部150bは、あるテキストに含まれるキーワードの出現回数を計数する。特徴抽出部150bは、各キーワードの出現回数と、閾値データ140dの比率とを基にして、各キーワードをキーワードHまたはキーワードLに分類する。例えば、特徴抽出部150bは、比率が「X:Y」である場合には、キーワードHの数と、キーワードLの数との比率が「X:Y」となるように、各キーワードを分類する。
特徴抽出部150bは、キーワードの分類結果と、特徴を構成するキーワードのペアとを基にして、複数の特徴のうち、特徴L−Lとなる特徴を特定する。例えば、特徴抽出部150bは、特徴を構成するキーワードの双方がキーワードLに分類される特徴を、特徴L−Lとして特定する。
特徴抽出部150bは、あるテキストに一定範囲を設定し、一定範囲に含まれる特徴から、特徴L−Lを削除した場合に、一定範囲内の特徴の数が、特徴数閾値以上であるか否かを判定する。以下において、一定範囲内の特徴の数が、特徴数閾値以上である場合と、特徴数閾値未満である場合とに分けて、特徴抽出部150bの処理を説明する。
一定範囲内の特徴の数が、特徴数閾値以上である場合について説明する。この場合には、特徴抽出部150bは、テキストのリストから、一定範囲内に含まれる全ての特徴L−Lに対応する値を削除する処理を実行する。
一定範囲内の特徴の数が、特徴数閾値未満である場合について説明する。この場合には、特徴抽出部150bは、特徴L−Lのうち、削除しない特徴L−Lを特定する。特徴抽出部150bは、テキストのリストから、一定範囲内に含まれる特徴L−Lのうち、削除しない特徴L−Lを除いた、残りの特徴L−Lを削除する。
ここで、特徴抽出部150bが、削除しない特徴L−Lを特定する処理の一例について説明する。例えば、図12で説明したように、特徴抽出部150bは、全ての特徴L−Lのうち、キーワードLのペアの出現回数が多い特徴L−Lを、削除しない特徴L−Lとして特定する。例えば、特徴抽出部150bは、特徴L−Lを構成する各キーワードLの出現回数を合計した値を基にして、各特徴L−Lを、出現回数を合計した値の降順に並べ、並べた各特徴L−Lの上位所定数の特徴L−Lを、削除しない特徴L−Lとする。
特徴抽出部150bは、あるテキストについて、一定範囲の位置をずらし、上記処理を繰り返し実行する。また、特徴抽出部150bは、他のテキストについても同様の処理を実行することで、残りのテキストのリストから、特徴L−Lを削除する。特徴抽出部150bは、特徴L−Lを削除したリストを、リストテーブル140cに登録する。
特徴抽出部150bは、リストテーブル140cに含まれるリストの値を、転置インデックス140eの有効グラフに設定し、リストの値を特徴に有するログIDを、転置インデックス140eのログIDに設定することで、転置インデックス140eを生成する。
類似性判定部150cは、検索ファイルのFPの情報と、転置インデックス140eとを比較して、検索ファイルのFPに類似するログIDを判定する処理部である。図20は、類似性判定部の処理の一例を説明するための図である。図20において、70は、検索ファイルのFPを示すものである。FP70に含まれる各特徴は、検索ファイルのテキストに含まれるキーワードの配列から算出されるハッシュ値である。転置インデックス140eは、図19で説明した転置インデックス140eに対応する。
FP70と転置インデックス140eとを比較すると、比較結果80が得られる。例えば、比較結果80は、ログIDと特徴量とを対応付ける。ログIDは、ファイル操作ログ140a、テキストテーブル140bのログIDに対応する。特徴量は、ログIDに対応するテキストに含まれる特徴のうち、検索ファイルのFP70と一致する特徴の数を示すものであり、特徴量が多いほど、類似性が高いことを示す。類似性判定部150cは、特等量が閾値以上となるログIDを、検索結果通知部150dに出力する。
検索結果通知部150dは、類似性判定部150cから出力されるログIDに対応するログ情報を特定し、特定したログ情報を検索結果として、クライアント端末60に通知する処理部である。例えば、検索結果通知部150dは、ログIDと、ファイル操作ログ140aとを比較して、ログIDに対応するレコードを抽出し、抽出したレコードを、検索結果とする。
図21は、検索結果の一例を示す図である。図21に示すように、この検索結果は、アカウントと、ファイル名と、類似度と、種別と、日時とを対応付ける。アカウント、ファイル名、種別、日時に関する説明は、図16で説明した、アカウント、第1、2ファイル名、種別、日時に関する説明と同様である。類似度は、検索ファイルのFPと、ログIDに対応するテキストのFPとの類似度を示すものである。例えば、検索結果通知部150dは、類似度を、式(1)に基づき算出する。
類似度=(検索ファイルのFPの特徴と、ログIDに対応するテキストのFPの特徴とで一致する特徴の数)/検索ファイルのFPの特徴の数・・・(1)
なお、検索結果通知部150dは、式(1)を用いない方法で、類似度を算出してもよい。例えば、図20に示した特徴量が多いほど、ログIDに対応する類似度を大きくする算出式を用いて、類似度を算出してもよい。
次に、本実施例に係るシステムの処理手順の一例について説明する。図22は、本実施例に係るシステムの処理手順を示すフローチャートである。図22に示すように、クライアント端末60は、検索ファイルを受け付け(ステップS101)、検索ファイルに含まれるテキストからFPを生成する(ステップS102)。クライアント端末60は、検索ファイルのFPを判定装置100に送信する(ステップS103)。
判定装置100は、検索ファイルのFPをクライアント端末60から受信する(ステップS104)。判定装置100は、検索ファイルのFPと、転置インデックス140eとを比較して、特徴量が閾値以上となるログIDを判定する(ステップS105)。
判定装置100は、判定したログIDおよびファイル操作ログ140aを基にして、検索結果を生成し、検索結果をクライアント端末60に送信する(ステップS106)。クライアント端末60は、検索結果を受信し、検索結果を表示する(ステップS107)。
次に、本実施例に係る判定装置の処理手順の一例について説明する。図23は、本実施例に係る判定装置の処理手順を示すフローチャートである。図23に示すように、判定装置100の受付部150aは、ファイル操作ログ140a、テキストテーブル140b、閾値データ140dを受け付ける(ステップS201)。
判定装置100の特徴抽出部150bは、テキストテーブル140bのテキストに含まれる各キーワード間の関係を抽出し、特徴を抽出する(ステップS202)。特徴抽出部150bは、特徴を構成するキーワードをハッシュ値に変換する(ステップS203)。特徴抽出部150bは、各キーワードの出現回数を計数し、各キーワードをキーワードHまたはキーワードLに分類する(ステップS204)。
特徴抽出部150bは、テキスト毎に特徴をリスト化する(ステップS205)。特徴抽出部150bは、リストから特徴L−Lを削除する(ステップS206)。特徴抽出部150bは、テキストの一定範囲内に、特徴数閾値以上の特徴が存在するか否かを判定する(ステップS207)。ステップS207において、例えば、特徴抽出部150bは、特徴L−Lを、テキストから削除した場合に、テキストの一定範囲内に、特徴数閾値以上の特徴が存在するか否かを判定する。なお、リスト上の特徴と、テキスト上の特徴とはそれぞれ対応付けられているものとする。例えば、リストの特徴が削除されると、係る特徴に対応するテキスト上の特徴が削除される。
特徴抽出部150bは、テキストの一定範囲内に、特徴数閾値以上の特徴が存在する場合には(ステップS207,Yes)、ステップS209に移行する。一方、特徴抽出部150bは、テキストの一定範囲内に、特徴数閾値以上の特徴が存在しない場合には(ステップS207,No)、特徴L−Lの一部をリストに追加する(ステップS208)。
特徴抽出部150bは、リストの重複を除去したリストテーブル140cを生成する(ステップS209)。判定装置100の類似性判定部150cは、転置インデックス140eと、検索ファイルのFPとを比較して類似性を判定する(ステップS210)。判定装置100の検索結果通知部150dは、類似性の判定結果を基にして、検索結果を生成する(ステップS211)。
次に、図23のステップS207およびS208の処理を具体的に説明する。図24は、S207およびS208の処理手順を具体的に示すフローチャートである。図24に示すように、特徴抽出部150bは、テキスト上の未処理の一定範囲を選択する(ステップS301)。特徴抽出部150bは、一定範囲内に特徴数閾値以上の特徴が存在するか否かを判定する(ステップS302)。特徴抽出部150bは、一定範囲内に特徴数閾値以上の特徴が存在する場合には(ステップS302,Yes)、ステップS304に移行する。
一方、特徴抽出部150bは、一定範囲内に特徴数閾値以上の特徴が存在しない場合には(ステップS302,No)、一定範囲内の特徴が特徴数閾値以上となるように、特徴L−Lを追加する(ステップS303)。特徴抽出部150bは、全ての一致範囲を選択したか否かを判定する(ステップS304)。
特徴抽出部150bは、全ての一定範囲を選択していない場合には(ステップS304,No)、ステップS301に移行する。一方、特徴抽出部150bは、全ての一定範囲を選択した場合には(ステップS304,Yes)、図24に示す処理を終了する。
次に、図24のステップS303の処理を具体的に説明する。図25は、ステップS303の処理手順を具体的に示すフローチャートである。図25に示すように、特徴抽出部150bは、一定範囲内の削除予定の全ての特徴L−Lから、2つのキーワードの合計出現回数を算出する(ステップS401)。
特徴抽出部150bは、一定範囲内に削除予定の特徴L−Lが存在するか否かを判定する(ステップS402)。特徴抽出部150bは、一定範囲内に削除予定の特徴L−Lが存在しない場合には(ステップS402,No)、図25に示す処理を終了する。
一方、特徴抽出部150bは、一定範囲内に削除予定の特徴L−Lが存在する場合には(ステップS402,Yes)、削除予定の特徴L−Lからキーワードの合計出現回数が一番多い特徴L−Lを一つ取り出し、取り出した特徴L−Lを削除対象から外す(ステップS403)。特徴抽出部150bは、一定範囲内に特徴数閾値以上の特徴が存在するか否かを判定する(ステップS404)。
特徴抽出部150bは、一定範囲内に特徴数閾値以上の特徴が存在する場合には(ステップS404,Yes)、図25に示す処理を終了する。一方、特徴抽出部150bは、一定範囲内に特徴数閾値以上の特徴が存在しない場合には(ステップS404,No)、ステップS402に移行する。
次に、本実施例に係る判定装置100の効果について説明する。判定装置100は、テキストの一定範囲内に含まれる特徴の数が一定数以上となる条件のもと、特徴L−Lを削除する処理を、各テキストについて実行する。また、判定装置100は、検索ファイルの特徴と、各テキストの特徴とを比較して類似性を判定する。テキストの一定範囲内には、一定数以上の特徴が含まれているため、各テキスト固有の特徴を残しつつ、類似判定を行うことができる。従って、類似判定の精度を落とさずにデータ量を削減することができる。
また、判定装置100は、テキストから特徴L−Lを削除する場合に、特徴L−Lのうち、特徴L−Lを構成するキーワードLの出現回数が多いものを優先して削除対象から除去する。この処理を行うことで、テキストの全体的な特徴を残しながら、最低限の部分的な特徴を保存することが可能になる。
また、判定装置100の検索結果通知部150dは、類似性判定部150cから出力されるログIDに対応するログ情報を特定し、特定したログ情報を検索結果として、クライアント端末60に通知する。これにより、検索ファイルに類似するテキストの操作履歴を通知することができ、情報漏洩に至った経緯を把握することができる。
ところで、本実施例では、判定装置100が、特徴抽出部150bおよび類似性判定部150cを有する場合について説明したがこれに限定されるものではない。例えば、特徴抽出部150bに対応する機能を社内のクライアントに持たせ、類似性判定部150cに対応する機能をサーバに持たせることで、機能を分割させてもよい。
次に、上記実施例に示した判定装置100と同様の機能を実現する判定プログラムを実行するコンピュータの一例について説明する。図26は、判定プログラムを実行するコンピュータの一例を示す図である。
図26に示すように、コンピュータ200は、各種演算処理を実行するCPU201と、ユーザからのデータの入力を受け付ける入力装置202と、ディスプレイ203とを有する。また、コンピュータ200は、記憶媒体からプログラム等を読取る読み取り装置204と、ネットワークを介して他のコンピュータとの間でデータの授受を行うインターフェース装置205とを有する。また、コンピュータ200は、各種情報を一時記憶するRAM206と、ハードディスク装置207とを有する。そして、各装置201〜207は、バス208に接続される。
ハードディスク装置207は、特徴抽出プログラム207a、類似性判定プログラム207bを読み出してRAM206に展開する。特徴抽出プログラム207aは、特徴抽出プロセス206aとして機能する。類似性判定プログラム207bは、類似性判定プロセス206bとして機能する。例えば、特徴抽出プロセス206aは、特徴抽出部150bに対応する。
なお、特徴抽出プログラム207a、類似性判定プログラム207bについては、必ずしも最初からハードディスク装置207に記憶させておかなくても良い。例えば、コンピュータ200に挿入されるフレキシブルディスク(FD)、CD−ROM、DVDディスク、光磁気ディスク、ICカードなどの「可搬用の物理媒体」に各プログラムを記憶させておく。そして、コンピュータ200が特徴抽出プログラム207a、類似性判定プログラム207bを読み出して実行するようにしてもよい。
以上の各実施例を含む実施形態に関し、さらに以下の付記を開示する。
(付記1)文書情報に含まれる各キーワードの出現回数を計数し、前記文書情報の一定範囲内に含まれるキーワードの配列の種別数が一定数以上となる条件の下、前記出現回数が閾値未満となるキーワードを含む配列を削除した後に、前記文書情報から複数のキーワードの配列を特徴として抽出する処理を実行する特徴抽出部と、
互いに異なる文書情報から抽出された前記特徴を比較して、前記異なる文書情報間の類似性を判定する類似性判定部と
を有することを特徴とする類似性判定装置。
(付記2)前記特徴抽出部は、前記出現回数が閾値未満となるキーワードの配列を削除する場合に、キーワードの配列を構成する各キーワードの出現回数が多いキーワードの配列よりも、キーワードの配列を構成する各キーワードの出現回数が少ないキーワードの配列を優先して削除することを特徴とする付記1に記載の類似性判定装置。
(付記3)前記類似性判定部は、検索対象の文書情報の特徴と、他の文書情報の特徴とを比較して、検索対象の文書情報と他の文書情報との類似性を判定し、前記類似性判定部の判定結果を基にして、前記検索対象の文書情報と類似性を有する他の文書情報の操作履歴情報を検索する検索部を更に有することを特徴とする付記1または2に記載の類似性判定装置。
(付記4)コンピュータが実行する判定方法であって、
文書情報に含まれる各キーワードの出現回数を計数し、
前記文書情報の一定範囲内に含まれるキーワードの配列の種別数が一定数以上となる条件の下、前記出現回数が閾値未満となるキーワードを含む配列を削除した後に、前記文書情報から複数のキーワードの配列を特徴として抽出する処理を実行し、
互いに異なる文書情報から抽出された前記特徴を比較して、前記異なる文書情報間の類似性を判定する
処理を実行することを特徴とする類似性判定方法。
(付記5)前記出現回数が閾値未満となるキーワードの配列を削除する処理は、キーワードの配列を構成する各キーワードの出現回数が多いキーワードの配列よりも、キーワードの配列を構成する各キーワードの出現回数が少ないキーワードの配列を優先して削除することを特徴とする付記4に記載の類似性判定方法。
(付記6)前記類似性を判定する処理は、検索対象の文書情報の特徴と、他の文書情報の特徴とを比較して、検索対象の文書情報と他の文書情報との類似性を判定し、判定結果を基にして、前記検索対象の文書情報と類似性を有する他の文書情報の操作履歴情報を検索する処理を更に実行することを特徴とする付記4または5に記載の類似性判定方法。
(付記7)コンピュータに、
文書情報に含まれる各キーワードの出現回数を計数し、
前記文書情報の一定範囲内に含まれるキーワードの配列の種別数が一定数以上となる条件の下、前記出現回数が閾値未満となるキーワードを含む配列を削除した後に、前記文書情報から複数のキーワードの配列を特徴として抽出する処理を実行し、
互いに異なる文書情報から抽出された前記特徴を比較して、前記異なる文書情報間の類似性を判定する
処理を実行させることを特徴とする類似性判定プログラム。
(付記8)前記出現回数が閾値未満となるキーワードの配列を削除する処理は、キーワードの配列を構成する各キーワードの出現回数が多いキーワードの配列よりも、キーワードの配列を構成する各キーワードの出現回数が少ないキーワードの配列を優先して削除することを特徴とする付記7に記載の類似性判定プログラム。
(付記9)前記類似性を判定する処理は、検索対象の文書情報の特徴と、他の文書情報の特徴とを比較して、検索対象の文書情報と他の文書情報との類似性を判定し、判定結果を基にして、前記検索対象の文書情報と類似性を有する他の文書情報の操作履歴情報を検索する処理を更に実行することを特徴とする付記7または8に記載の類似性判定プログラム。
60 クライアント端末
100 判定装置
140 記憶部
150 制御部

Claims (5)

  1. 文書情報に含まれる各キーワードの出現回数を計数し、前記文書情報の一定範囲内に含まれるキーワードの配列の種別数が一定数以上となる条件の下、前記出現回数が閾値未満となるキーワードを含む配列を削除した後に、前記文書情報から複数のキーワードの配列を特徴として抽出する処理を実行する特徴抽出部と、
    互いに異なる文書情報から抽出された前記特徴を比較して、前記異なる文書情報間の類似性を判定する類似性判定部と
    を有することを特徴とする類似性判定装置。
  2. 前記特徴抽出部は、前記出現回数が閾値未満となるキーワードの配列を削除する場合に、キーワードの配列を構成する各キーワードの出現回数が多いキーワードの配列よりも、キーワードの配列を構成する各キーワードの出現回数が少ないキーワードの配列を優先して削除することを特徴とする請求項1に記載の類似性判定装置。
  3. 前記類似性判定部は、検索対象の文書情報の特徴と、他の文書情報の特徴とを比較して、検索対象の文書情報と他の文書情報との類似性を判定し、前記類似性判定部の判定結果を基にして、前記検索対象の文書情報と類似性を有する他の文書情報の操作履歴情報を検索する検索部を更に有することを特徴とする請求項1または2に記載の類似性判定装置。
  4. コンピュータが実行する類似性判定方法であって、
    文書情報に含まれる各キーワードの出現回数を計数し、
    前記文書情報の一定範囲内に含まれるキーワードの配列の種別数が一定数以上となる条件の下、前記出現回数が閾値未満となるキーワードを含む配列を削除した後に、前記文書情報から複数のキーワードの配列を特徴として抽出する処理を実行し、
    互いに異なる文書情報から抽出された前記特徴を比較して、前記異なる文書情報間の類似性を判定する
    処理を実行することを特徴とする類似性判定方法。
  5. コンピュータに、
    文書情報に含まれる各キーワードの出現回数を計数し、
    前記文書情報の一定範囲内に含まれるキーワードの配列の種別数が一定数以上となる条件の下、前記出現回数が閾値未満となるキーワードを含む配列を削除した後に、前記文書情報から複数のキーワードの配列を前記特徴として抽出する処理実行し、
    互いに異なる文書情報から抽出された前記特徴を比較して、前記異なる文書情報間の類似性を判定する
    処理を実行させることを特徴とする類似性判定プログラム。
JP2015005875A 2015-01-15 2015-01-15 類似性判定装置、類似性判定方法および類似性判定プログラム Active JP6507657B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015005875A JP6507657B2 (ja) 2015-01-15 2015-01-15 類似性判定装置、類似性判定方法および類似性判定プログラム
US14/967,580 US10025784B2 (en) 2015-01-15 2015-12-14 Similarity determination apparatus, similarity determination method, and computer-readable recording medium
EP15200078.2A EP3046037A1 (en) 2015-01-15 2015-12-15 Similarity determination apparatus, similarity determination method, and computer-readable recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015005875A JP6507657B2 (ja) 2015-01-15 2015-01-15 類似性判定装置、類似性判定方法および類似性判定プログラム

Publications (2)

Publication Number Publication Date
JP2016133817A true JP2016133817A (ja) 2016-07-25
JP6507657B2 JP6507657B2 (ja) 2019-05-08

Family

ID=54849890

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015005875A Active JP6507657B2 (ja) 2015-01-15 2015-01-15 類似性判定装置、類似性判定方法および類似性判定プログラム

Country Status (3)

Country Link
US (1) US10025784B2 (ja)
EP (1) EP3046037A1 (ja)
JP (1) JP6507657B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019082967A (ja) * 2017-10-31 2019-05-30 富士通株式会社 変更検出プログラム、変更検出方法および変更検出装置

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108334644B (zh) * 2018-03-30 2019-03-15 百度在线网络技术(北京)有限公司 图像识别方法和装置
CN110737821B (zh) * 2018-07-03 2022-06-07 百度在线网络技术(北京)有限公司 相似事件查询的方法、装置、存储介质和终端设备
CN110874526B (zh) * 2018-12-29 2024-03-01 北京安天网络安全技术有限公司 一种文件相似性检测方法、装置、电子设备及存储介质
CN111711559B (zh) * 2020-06-12 2022-04-05 北京百度网讯科技有限公司 用于撤回信息的方法和装置
CN114036957B (zh) * 2021-12-27 2022-06-21 中科大数据研究院 一种快速语义相似度计算方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11338883A (ja) * 1998-05-29 1999-12-10 Hitachi Ltd 特徴文字列抽出方法および装置とこれを用いた類似文書検索方法および装置並びに特徴文字列抽出プログラムを格納した記憶媒体および類似文書検索プログラムを格納した記憶媒体
JP2000207404A (ja) * 1999-01-11 2000-07-28 Sumitomo Metal Ind Ltd 文書検索方法及び装置並びに記録媒体
JP2005339150A (ja) * 2004-05-26 2005-12-08 Mitsubishi Electric Corp 文書検索装置
JP2010231766A (ja) * 2009-03-02 2010-10-14 Fujitsu Ltd 文書検査装置、コンピュータ読み取り可能な記録媒体および文書検査方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6615209B1 (en) * 2000-02-22 2003-09-02 Google, Inc. Detecting query-specific duplicate documents
US20080195595A1 (en) 2004-11-05 2008-08-14 Intellectual Property Bank Corp. Keyword Extracting Device
US20140081994A1 (en) 2012-08-10 2014-03-20 The Trustees Of Columbia University In The City Of New York Identifying Content for Planned Events Across Social Media Sites
JP2014115719A (ja) 2012-12-06 2014-06-26 Nippon Telegr & Teleph Corp <Ntt> 語彙ネットワーク作成装置、知識推定装置、方法、及びプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11338883A (ja) * 1998-05-29 1999-12-10 Hitachi Ltd 特徴文字列抽出方法および装置とこれを用いた類似文書検索方法および装置並びに特徴文字列抽出プログラムを格納した記憶媒体および類似文書検索プログラムを格納した記憶媒体
JP2000207404A (ja) * 1999-01-11 2000-07-28 Sumitomo Metal Ind Ltd 文書検索方法及び装置並びに記録媒体
JP2005339150A (ja) * 2004-05-26 2005-12-08 Mitsubishi Electric Corp 文書検索装置
JP2010231766A (ja) * 2009-03-02 2010-10-14 Fujitsu Ltd 文書検査装置、コンピュータ読み取り可能な記録媒体および文書検査方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019082967A (ja) * 2017-10-31 2019-05-30 富士通株式会社 変更検出プログラム、変更検出方法および変更検出装置

Also Published As

Publication number Publication date
EP3046037A1 (en) 2016-07-20
JP6507657B2 (ja) 2019-05-08
US10025784B2 (en) 2018-07-17
US20160210339A1 (en) 2016-07-21

Similar Documents

Publication Publication Date Title
JP6507657B2 (ja) 類似性判定装置、類似性判定方法および類似性判定プログラム
US9886464B2 (en) Versioned bloom filter
US20180012039A1 (en) Anonymization processing device, anonymization processing method, and program
US10154041B2 (en) Website access control
CN104572717B (zh) 信息搜索方法和装置
JP2019204246A (ja) 学習データ作成方法及び学習データ作成装置
JP6281491B2 (ja) テキストマイニング装置、テキストマイニング方法及びプログラム
US11620406B2 (en) Information processing device, information processing method, and recording medium
US10049164B2 (en) Multidimensional-range search apparatus and multidimensional-range search method
US20180285693A1 (en) Incremental update of a neighbor graph via an orthogonal transform based indexing
CN112052251A (zh) 目标数据更新方法和相关装置、设备及存储介质
US9036946B2 (en) Image processing apparatus that retrieves similar images, method of controlling the same, and storage medium
JP6603194B2 (ja) 画面認識装置、画面認識方法、および、画面認識プログラム
KR101761177B1 (ko) 상위 k 중요 패턴 마이닝 방법, 이를 수행하는 장치 및 이를 저장하는 기록매체
JP2017224240A (ja) 表データ検索装置、表データ検索方法、及び表データ検索プログラム
US9208343B2 (en) Transitive closure security
US10409992B2 (en) Investigation apparatus, computer-readable recording medium, and investigation method
JP2017107472A (ja) 文字列検索方法および装置
JP5983333B2 (ja) 検索処理方法、データ生成方法及び情報処理装置
KR101815968B1 (ko) 그룹 분리 기능을 제공하기 위한 악성코드 분류 시스템 및 그 방법
JP2018077763A (ja) オブジェクト検索装置、オブジェクト検索方法、および、オブジェクト検索プログラム
JP5758262B2 (ja) 類似文書可視化装置、類似文書可視化方法およびプログラム
US10649982B2 (en) Automated database updating and curation
CN105468603A (zh) 数据选择方法及装置
CN105512117B (zh) 一种信息处理方法及电子设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181016

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181108

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190318

R150 Certificate of patent or registration of utility model

Ref document number: 6507657

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150