JP6023764B2 - 不整合検出装置及び不整合検出方法 - Google Patents

不整合検出装置及び不整合検出方法 Download PDF

Info

Publication number
JP6023764B2
JP6023764B2 JP2014170079A JP2014170079A JP6023764B2 JP 6023764 B2 JP6023764 B2 JP 6023764B2 JP 2014170079 A JP2014170079 A JP 2014170079A JP 2014170079 A JP2014170079 A JP 2014170079A JP 6023764 B2 JP6023764 B2 JP 6023764B2
Authority
JP
Japan
Prior art keywords
data
consistency
management information
information
inconsistency
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014170079A
Other languages
English (en)
Other versions
JP2016045749A (ja
Inventor
聡一郎 藤原
聡一郎 藤原
柴田 弘
弘 柴田
落合 康二
康二 落合
高橋 徹
徹 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2014170079A priority Critical patent/JP6023764B2/ja
Publication of JP2016045749A publication Critical patent/JP2016045749A/ja
Application granted granted Critical
Publication of JP6023764B2 publication Critical patent/JP6023764B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、データと管理情報との整合性を確認する技術に関する。
データを格納するサービスを提供するサーバにおいて、格納されたデータを管理するための管理情報(例えば、検索に用いるために作成されたインデックス情報)は、格納されたデータと整合が取れている必要がある。データに追加、変更、削除の処理が発生すると管理情報に反映される。しかしながら、追加、変更、削除の処理を実行する過程において、物理的もしくは論理的要因にて処理が不完全なまま完了することがある。処理が不完全なまま完了したときに、サーバが正常に完了したと誤認した場合、サーバが保持するデータと管理情報の内容が異なるため整合が取れない状態となる。図5に、データと管理情報の整合が取れていない様子を示す。同図に示す例では、ユーザAのデータ「a3」の管理情報は存在しないため、データ「a3」が不要なデータであれば削除する対応が必要であり、管理情報の反映漏れであれば管理情報の修正が必要である。また、ユーザBのデータ「b3」は、管理情報は存在するが実データが存在しないので、管理情報を削除する修正が必要である。
データと管理情報の整合性を確認する必要があるが、サーバがサービス提供中は、データの状態は常に一定であるとは限らない。追加中、変更中、削除中といった仕掛中状態のデータとその管理情報の整合性を確認した場合に不整合と判定されることがある。整合性を正しく判定するためには、整合性の確認中はサービスの提供を中止するなどの方法を取る必要がある。
特許文献1では、整合性の確認を行う対象のデータに対してロックをかけることで、そのデータに追加、変更、削除が発生しないように排他制御している。
特開平08−249222号公報
"WINS データベースの一貫性を確認する"、[online]、2005年1月、Microsoft Corporation、[平成26年8月4日検索]、インターネット〈 URL:http://msdn.microsoft.com/ja-jp/library/cc728358/〉
しかしながら、整合性の確認のためにデータをロックする方法では、ロック期間中はデータの更新ができないという問題があった。データへのアクセスを許容し、排他制御を行わない場合は整合性を正しく判定できないという問題がある。
また、整合性を確認するデータが多い場合は、整合性の確認に膨大な負荷がかかり、整合性の確認中はデータへのアクセス性能が大幅に低下するという問題があった(非特許文献1参照)。
本発明は、上記に鑑みてなされたものであり、データへのアクセスを継続したまま、データと管理情報の整合性を確認することを目的とする。
第1の本発明に係る不整合検出装置は、データと当該データの管理情報との整合性を確認する不整合検出装置であって、前記データの情報と前記管理情報との整合性を確認し、不整合が検出された前記データと前記管理情報を示す情報を不整合データリストに記載する不整合検出手段を備え、前記不整合検出手段は、前記不整合データリストに基づいて所定の間隔を空けて複数回整合性を確認するものであって、前記データへのアクセス時に一時的に生成される仕掛中データの存在期間を蓄積したログから仕掛中データの最大滞在時間を抽出し、前記最大滞在時間を前記所定の間隔で割って整合性を確認する回数を算出することを特徴とする。
上記不整合検出装置において、前記不整合検出手段は、前記データのキー情報を処理単位として整合性を確認することを特徴とする。
第2の本発明に係る不整合検出方法は、データと当該データの管理情報との整合性を確認する不整合検出方法であって、前記データの情報と前記管理情報との整合性を確認し、不整合が検出された前記データと前記管理情報を示す情報を不整合データリストに記載するステップと、前記不整合データリストに基づいて前記データの情報と前記管理情報との整合性を確認するステップと、を有し、所定の間隔を空けて複数回整合性を確認するものであって、前記データへのアクセス時に一時的に生成される仕掛中データの存在期間を蓄積したログから仕掛中データの最大滞在時間を抽出し、前記最大滞在時間を前記所定の間隔で割って整合性を確認する回数を算出することを特徴とする。
上記不整合検出方法において、前記データのキー情報を処理単位として整合性を確認することを特徴とする。
本発明によれば、データへのアクセスを継続したまま、データと管理情報の整合性を確認することができる。
本実施の形態における不整合検出装置の構成を示す機能ブロック図である。 本実施の形態における不整合検出装置がデータと管理情報の整合性を確認する処理の流れを示すフローチャートである。 リソース使用率の変化の例を示すグラフである。 整合確認を行う間隔と回数を説明する図である。 データと管理情報の整合が取れていない様子を示す図である。
以下、本発明の実施の形態について図面を用いて説明する。
図1は、本実施の形態における不整合検出装置の構成を示す機能ブロック図である。同図に示す不整合検出装置は、データ蓄積部11、管理情報蓄積部12、不整合検出部13、および処理開始部14を備える。不整合検出装置が備える各部は、演算処理装置、記憶装置等を備えたコンピュータにより構成して、各部の処理がプログラムによって実行されるものとしてもよい。このプログラムは不整合検出装置が備える記憶装置に記憶されており、磁気ディスク、光ディスク、半導体メモリ等の記録媒体に記録することも、ネットワークを通して提供することも可能である。
データ蓄積部11は、データを格納する。
管理情報蓄積部12は、データ蓄積部11に格納されたデータの管理情報をユーザ毎に管理して格納する。管理情報としては、例えば、検索や管理に用いるために作成されたファイル名等のインデックス情報がある。
不整合検出部13は、データ蓄積部11に格納されたデータと管理情報蓄積部12に格納された管理情報の整合性を確認する。データと管理情報の間で整合性が取れなかったときは、そのデータと管理情報を示す情報を不整合データリスト15に記載する。不整合検出部13は、データのキー情報(例えばユーザ情報)を整合性を確認する単位として用いる。キー情報としてユーザ情報を用いる場合、データの所有者であるユーザ単位でデータと管理情報を読み出して整合性を確認する。
処理開始部14は、整合性を確認する処理を開始する日時を決めて不整合検出部13に処理を開始させる。本実施の形態では、不整合検出部13が整合性を確認する処理中であってもデータを排他処理せずにアクセスを許容するので、仕掛中状態のデータに関して誤って不整合と判定することがある。そこで、処理開始部14は、待ち時間を間に挟んだ複数回の整合性を確認する処理を不整合検出部13に実行させることで、仕掛中に一時的に生成されるデータが誤って不整合と判定されることを回避する。
次に、本実施の形態における不整合検出装置の動作について説明する。
図2は、本実施の形態における不整合検出装置がデータと管理情報の整合性を確認する処理の流れを示すフローチャートである。
不整合検出部13は、ユーザ毎に、各ユーザが所有するデータの情報を抽出してユーザ突合対象リストを生成し(ステップS11)、ユーザ突合対象リストに基づいてデータと管理情報を突合する(ステップS12)。本実施の形態では、ユーザをデータと管理情報を突合させるための管理単位のキー情報とし、データ蓄積部11からキーに合致するデータの情報を一括取得してメモリに格納するとともに、管理情報蓄積部12からキーに合致する管理情報をメモリに格納し、メモリに格納したデータの情報と管理情報を突合する。
突合の結果、不整合が検出されたものは、不整合データリスト15に記載する(ステップS13)。
初回チェック時には、すべてのユーザについて(つまり全データについて)、ステップS11〜S13の処理を行う。
不整合検出部13は、初回チェック後時間差を設けて、不整合データリスト15に記載されたデータと管理情報について再度整合性の確認を行う(ステップS14)。2回目以降の整合性の確認では、全データの整合性を確認するのではなく、前回のチェックにおいて整合性が確認できなかったもののみ、つまり不整合データリスト15に記載されたデータと管理情報について整合性を確認する。ステップS14において整合性が確認できなかったデータと管理情報は再び不整合データリスト15に記載する。なお、不整合データリスト15に記載された全てのデータと管理情報について整合性が確認できたときは、データ蓄積部11に格納されたデータと管理情報蓄積部12に格納された管理情報との整合性は取れているとして、処理を終了する。
2回目以降の整合性確認においてもデータと管理情報の不整合が検出された場合は、時間差を設けて、ステップS14の不整合データリスト15に基づく整合性の確認処理を繰り返す(ステップS15)。予め決められたリトライ回数繰り返した後、不整合データリスト15に記載されているデータと管理情報を不整合のあるデータ、管理情報とする。
続いて、不整合を検出する処理の開始タイミングについて説明する。
処理開始部14は、データの状態を管理情報に反映する通常処理による負荷の情報をログとして蓄積しておき、日々の統計結果から処理の閑散時間帯を抽出する。図3に、リソース使用率(CPU使用率、メモリ使用率、帯域使用率等)の変化の例を示す。
処理開始部14は、収容ユーザ数及びユーザ保持データ量より整合性を確認する処理に要する時間を算出する。
そして、処理開始部14は、上記の結果より、リソース使用率の上昇を抑えられるポイントを算出し(例えば、日々の統計結果である図3のグラフにおいて不整合を検出する処理に必要な時間幅を取ったときに、リソース使用率の面積が最も少なくなる時間帯を算出)、不整合検出部13に処理を開始させる。
なお、不整合検出部13が処理を実行しているときに、リソース使用率が閾値を超えた場合は、不整合検出部13の処理を時間をかけて少しずつ行うようにウエイトをかけた処理に切り替え、処理能力低下による通常処理への影響を抑える。
また、整合確認は、図4に示すように、待ち時間tを間に挟んでn回行う。待ち時間tを挟むことで、処理過程において一時的に生成されるデータから不整合を検出することを回避する。この回数nは大きくすると不整合の検出に時間を要してしまい、小さくすると一時的に生成されるデータを不整合データであると誤検知してしまう可能性が高くなる。そのため、整合確認の回数nは、一時的に生成されるデータの存在期間を蓄積したログ情報から最大滞在時間を抽出し、待ち時間tで割るなどの方法で自動的に算出し設定する。また、キー単位で抽出した最大滞在時間を待ち時間tで割り、キー単位で整合確認の回数nを算出してもよい。
以上説明したように、本実施の形態によれば、データへのアクセスを排他制御せずに、データと管理情報との整合性を確認する処理を時間差を設けて複数回行うことにより、データへのアクセスを継続したまま、データと管理情報との整合性を確認することができる。また、整合性確認回数を自動的に算出することにより、不整合の発生時には必要以上に待ち時間を費やさずに迅速に検出でき、かつ、一時的なデータに対する不整合の誤検知を抑止することができる。また、整合性確認回数を、ユーザ(キー)毎に個別に設定することによって、大きなサイズのデータを常に使うユーザと小さなサイズのデータを常に使うユーザが混在する環境では、不整合発生時には、より早く検出できる。
本実施の形態によれば、キー単位(ユーザ単位)でデータと管理情報との整合性の確認を実施することで、整合性の確認処理時に使用するメモリ容量の軽減とデータ蓄積部11、管理情報蓄積部12へのアクセス頻度の軽減を図ることができる。
11…データ蓄積部
12…管理情報蓄積部
13…不整合検出部
14…処理開始部
15…不整合データリスト

Claims (6)

  1. データと当該データの管理情報との整合性を確認する不整合検出装置であって、
    前記データの情報と前記管理情報との整合性を確認し、不整合が検出された前記データと前記管理情報を示す情報を不整合データリストに記載する不整合検出手段を備え、
    前記不整合検出手段は、前記不整合データリストに基づいて所定の間隔を空けて複数回整合性を確認するものであって、前記データへのアクセス時に一時的に生成される仕掛中データの存在期間を蓄積したログから仕掛中データの最大滞在時間を抽出し、前記最大滞在時間を前記所定の間隔で割って整合性を確認する回数を算出することを特徴とする不整合検出装置。
  2. 前記不整合検出手段は、前記データのキー情報を処理単位として整合性を確認することを特徴とする請求項1記載の不整合検出装置。
  3. データと当該データの管理情報との整合性を確認する不整合検出方法であって、
    前記データの情報と前記管理情報との整合性を確認し、不整合が検出された前記データと前記管理情報を示す情報を不整合データリストに記載するステップと、
    前記不整合データリストに基づいて前記データの情報と前記管理情報との整合性を確認するステップと、を有し、
    所定の間隔を空けて複数回整合性を確認するものであって、前記データへのアクセス時に一時的に生成される仕掛中データの存在期間を蓄積したログから仕掛中データの最大滞在時間を抽出し、前記最大滞在時間を前記所定の間隔で割って整合性を確認する回数を算出することを特徴とする不整合検出方法。
  4. 前記データのキー情報を処理単位として整合性を確認することを特徴とする請求項3記載の不整合検出方法。
  5. 前記データ及び前記管理情報を持つサーバの負荷の情報を蓄積したログから抽出した負荷の軽い閑散時間帯に整合性を確認することを特徴とする請求項3又は4記載の不整合検出方法。
  6. 前記データへのアクセス時に一時的に生成される仕掛中データの存在期間を蓄積したログから仕掛中データの最大滞在時間を前記処理単位毎に抽出し、前記最大滞在時間を前記所定の間隔で割って、前記処理単位毎に整合性を確認する回数を算出する請求項4記載の不整合検出方法。
JP2014170079A 2014-08-25 2014-08-25 不整合検出装置及び不整合検出方法 Active JP6023764B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014170079A JP6023764B2 (ja) 2014-08-25 2014-08-25 不整合検出装置及び不整合検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014170079A JP6023764B2 (ja) 2014-08-25 2014-08-25 不整合検出装置及び不整合検出方法

Publications (2)

Publication Number Publication Date
JP2016045749A JP2016045749A (ja) 2016-04-04
JP6023764B2 true JP6023764B2 (ja) 2016-11-09

Family

ID=55636249

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014170079A Active JP6023764B2 (ja) 2014-08-25 2014-08-25 不整合検出装置及び不整合検出方法

Country Status (1)

Country Link
JP (1) JP6023764B2 (ja)

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3222125B2 (ja) * 1990-01-29 2001-10-22 株式会社日立製作所 システム間データベース共用方式
JP2001142765A (ja) * 1999-11-17 2001-05-25 Nec Corp データベースファイル整合性検証方法およびその装置ならびに記録媒体
JP2008305313A (ja) * 2007-06-11 2008-12-18 Nec Corp リモートデフラグ方式、サービス装置、プログラム、及びリモートデフラグ方法

Also Published As

Publication number Publication date
JP2016045749A (ja) 2016-04-04

Similar Documents

Publication Publication Date Title
US9443082B2 (en) User evaluation
US11080259B1 (en) Scalable transaction-based data repository service
US20180075240A1 (en) Method and device for detecting a suspicious process by analyzing data flow characteristics of a computing device
US20150371031A1 (en) Method, system, and authentication device
US10885167B1 (en) Intrusion detection based on anomalies in access patterns
US10318727B2 (en) Management device, management method, and computer-readable recording medium
US20150143494A1 (en) Continuous identity authentication method for computer users
US20160306967A1 (en) Method to Detect Malicious Behavior by Computing the Likelihood of Data Accesses
US8839247B2 (en) Managing requests to initiate tasks within an organization
US20160283584A1 (en) Grouping of Database Objects
KR102130582B1 (ko) 머신러닝을 이용한 웹 기반 부정 로그인 차단 장치 및 방법
US20230205755A1 (en) Methods and systems for improved search for data loss prevention
CN110213255B (zh) 一种对主机进行木马检测的方法、装置及电子设备
CN109801071B (zh) 密码重置方法及装置
US20210152624A1 (en) Identifying and Deleting Idle Remote Sessions in a Distributed File System
US11061804B2 (en) Application monitoring using workload metadata
JP2007148946A (ja) 不正アクセス検知方法
JP6023764B2 (ja) 不整合検出装置及び不整合検出方法
JP2015185027A (ja) ジョブ判別プログラム、装置、及び方法
JP2020194478A (ja) 異常検知システム、及び異常検知方法
CN111427871A (zh) 数据处理方法、装置、设备
JP5733014B2 (ja) 判定プログラム、判定方法、及び判定装置
KR102137109B1 (ko) 로그 메시지의 패턴을 분류하는 방법 및 장치
JP5454166B2 (ja) アクセス判別プログラム、装置、及び方法
KR100567813B1 (ko) 텐덤 시스템의 트랜잭션 분석 시스템

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160531

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160715

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161007

R150 Certificate of patent or registration of utility model

Ref document number: 6023764

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150