JP5909467B2 - 情報記録方法、及び情報記録装置、及びプログラム - Google Patents
情報記録方法、及び情報記録装置、及びプログラム Download PDFInfo
- Publication number
- JP5909467B2 JP5909467B2 JP2013175088A JP2013175088A JP5909467B2 JP 5909467 B2 JP5909467 B2 JP 5909467B2 JP 2013175088 A JP2013175088 A JP 2013175088A JP 2013175088 A JP2013175088 A JP 2013175088A JP 5909467 B2 JP5909467 B2 JP 5909467B2
- Authority
- JP
- Japan
- Prior art keywords
- file
- chunk
- list
- reference count
- lock
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
該文献には、情報記録装置が一時プール、第1チャンク、第2チャンク、および第1チャンクの索引情報であるチャンクプールを保持し、該情報記録装置は一時プールから第1チャンクへのチャンク生成手段ならびにチャンクプールから第2チャンクへのチャンク生成手段を有することが開示されている。このように2段階のチャンク生成を行う従来技術により、チャンクの生成を効率的に行うことができるため、大量のデータを効率的に記録し検索できる。
一方、従来、スマートフォン等で用いる軽量な情報記録装置(非特許文献1)が提案されていた。該情報記録装置は、アーカイブファイルすなわちチャンクを生成する機能を有し、また、処理全体を保護するロックを検索処理の完了する以前に解放することで並行処理の可能度合いを高める手段を具備している。検索処理を完了する前にロックを解放すると、並行的に行われるデータ登録処理によってデータファイルの書き換えが起こり、そのために検索結果に矛盾を来す可能性が起きうる。該情報記録装置においては、これを防ぐため、一度切り出されたチャンクへの書き換えなどが起きないことを利用する。新たなデータの登録処理を並行して行うと、検索途中にチャンクが増加してしまうことが起きうるが、処理対象となるチャンク名の一覧を差分管理することで、当該増加を検知できるようにする手段が備わっている。これにより、検索結果にデータの抜け等の矛盾を来すことなく検索結果を返却することができていた。
特に、大量のデータを記録している状況下では検索処理に長大な時間を要することがあり、その間に新たなデータ登録を行うことができないため、データの登録処理漏れに繋がってしまうという問題があった。
なぜならば、チャンク生成とは一時的な保管領域からデータをチャンクと呼ばれるファイルへと転記し、当該データを該保管領域から削除する動作だからである。特に、該2段階のチャンク生成において、チャンクプールから第2チャンクへのチャンク生成が問題となる。上記の従来手法において、当該手法を適用する前提は、一度切り出されたチャンクへの書き換えなどが起きないことが条件であった。しかし、該2段階のチャンク生成においては、一度切り出されたチャンクである第1チャンクが、チャンクプールから第2チャンクへのチャンク生成に伴って削除されなければならないため、上記前提が成り立たない。以上の理由により、従来手法を用いては、2段階のチャンク生成を行う情報記録装置の並行処理の可能度合いを高められないという問題があった。
第1図は本実施の形態における装置構成を示す。情報記録装置100はネットワーク101に接続され、情報登録部111と情報削除部112と情報検索部113を具備する。さらに、情報記録装置100はデータ保持を行う一時プール121およびSチャンクプール124を具備する。一時プール121は木構造によりデータを保持し、Sチャンクプール124は木構造によりSチャンク123の荷札情報を保持する。なお荷札情報とは、Sチャンク123のコンテンツ概要を記した情報のことである。
第2図は、参照カウントリスト116が保持するデータの例を示す。表形式でデータが保持され、本例では行204と行205の2つのエントリを持つ。カラム201はSチャンク123のファイル名を、カラム202は参照数を、カラム203は削除フラグを示す。参照数は、同時に複数の検索が行われた場合に、重複個数を数えるために用いる。
第3図は、登録処理のフローを表す。図中、手順313は、発生したLチャンク生成307の対象データであるSチャンク123の並びに対して、ループによって処理を行うことを表す。
まず、既に述べたように、第2図が示す例では、情報記録装置100は該1つ目の検索処理を実行中である。この検索は大量のデータ候補を対象とし、長大な時間がかかるものとする。
さらに、Sチャンクプール検索403で得られたSチャンク123の並びに対して、個々のSチャンク123のファイルを読み取り、該要求された検索条件で合致するデータを検索する手順412が実行される。次に、再度、副ロック115を確保して手順413が実行され、参照カウントリスト更新手順414すなわち第5図に示すフローで以下の処理を行う。
ここで、説明のための例示として、例えば該2つ目の検索処理では、Sチャンクプール検索403によって「S2」と「S5」という2つのSチャンク123が検索対象として得られたと仮定する。この場合、主ロック114の解放手順411までを実行した時点での、参照カウントリスト116が保持するデータを第6図に示す。S2とS5のうち、S2は行205として元々存在していたので参照数を2とし、S5は新規エントリとして行206に追加される。
ここで、一時プール121内のコンテンツ量が予め設定した閾値を超えた場合には手順303、及び手順304以降が実行される。すなわち、Sチャンク記憶装置122内に一時プール121内のデータの部分集合を記載した新たなSチャンク123のファイルを作成する手順304が実行される。ここでは第1図の記号S7のファイルが作成されたものとする。次に、該データのサブセットを一時プール121から削除する手順305が実行される。そして、該Sチャンク記号S7のコンテンツ概要を記した情報である荷札情報をSチャンクプール124へ登録する手順306が実行される。
ここでは、説明のため、該データ登録処理が以上示した一連の手順により完了した後、該2つ目の検索処理が完了したとする。この動作例においては、手順413以降が、第7図に示されるデータを保持する参照カウントリスト116に対して実行される。ここでは、該2つ目の検索処理では、Sチャンクプール検索403によって「S2」と「S5」という2つのSチャンク123が検索対象として得られていたのであるから、S2に関しては参照カウントリスト116内の参照数202が2であるため1を減じて値1となり、S5に関しては参照カウントリスト116内の参照数202が1であるため1を減じて値0となり、かつ、削除フラグ203がYESであるため、ファイルS5が削除される。
Claims (7)
- データ群を記録する情報記録装置における情報記録方法であって、
前記情報記録装置は、
データの削除や検索の並行処理を保護する主ロック手段と、
データが格納されているファイル群を保持し、前記ファイル群のうちどのファイルの内容を検索すればよいかを特定する索引情報を保持し、ファイル識別子と削除予定フラグを少なくとも含む情報の並びである参照カウントリストを保持する記憶手段と、
参照カウントリストの並行操作を保護する副ロック手段と、
を具備し、
前記情報記録装置が、
(A)主ロックを確保し、
(B)前記索引情報を用いて検索対象となるファイルの一覧を取得し、
(C)副ロックを確保し、
(D)一覧を取得した前記ファイルの識別子を前記参照カウントリストに追加し、
(E)前記索引情報を用いて検索対象となるファイルの一覧を取得し、一覧を取得した前記ファイルの識別子を前記参照カウントリストに追加した後、前記副ロックおよび前記主ロックを解放し、
(F)前記主ロックまたは前記副ロックを再度確保し、
(G)前記主ロックまたは前記副ロックを再度確保した後、前記ファイルのファイル識別子に対応する前記参照カウントリスト内の削除予定フラグがONであるファイルを削除し、
(H)前記参照カウントリストから前記ファイルのファイル識別子に対応するエントリを削除し、
(I)前記副ロックまたは前記主ロックを解放し、
前記(A)、(B)、(C)、または(F)の前のタイミング、または(I)の後のタイミングで削除対象のファイルが前記参照カウントリストに含まれるか否かを判別し、前記参照カウントリストに含まれている前記削除対象のファイル識別子に対応する削除予定フラグをONにする、
ことを特徴とする情報記録方法。 - 前記情報記録装置は、
第1チャンクを前記ファイル群として保持し、
一時プール、及び前記第1チャンクの索引情報であるチャンクプールを前記索引情報として保持し、
前記情報記録装置が、
前記一時プールから前記第1チャンクを生成し、
前記チャンクプールから前記第2チャンクを生成し、
前記チャンクプールから前記第2チャンクを生成する場合に前記第1チャンクのデータを削除する、
ことを特徴とする請求項1に記載の情報記録方法。 - 前記情報記録装置が、
一時プールを検索して検索結果データを取得し、
前記チャンクプールを検索して第1チャンクのファイル一覧を取得し、
前記第2チャンクのファイル一覧を取得し、
前記検索結果データを取得し、前記第1チャンクファイル一覧を取得し、前記ファイルの識別子を前記参照カウントリストに追加し、前前記第2チャンクファイル一覧を取得した後に前記主ロックを解放し、
前記第1チャンクのファイル一覧を検索して検索結果データを取得し、
前記第2チャンクのファイル一覧を検索して検索結果データを取得する、
ことを特徴とする請求項2に記載の情報記録方法。 - データ群を記録する情報記録装置であって、
前記情報記録装置は、
情報削除部と、
情報検索部と、
データの削除や検索の並行処理を保護する主ロック手段と、
データが格納されているファイル群を保持し、前記ファイル群のうちどのファイルの内容を検索すればよいかを特定する索引情報を保持し、ファイル識別子と削除予定フラグを少なくとも含む情報の並びである参照カウントリストを保持する記憶手段と、
参照カウントリストの並行操作を保護する副ロック手段と、
を具備し、
前記情報検索部は、
主ロックを確保する主ロック確保手段と、
前記索引情報を用いて検索対象となるファイルの一覧を取得するファイル一覧取得手段と、
副ロックを確保する副ロック確保手段と、
一覧を取得した前記ファイルの識別子を前記参照カウントリストに追加する参照カウントリスト追加手段と、
前記参照カウントリスト追加手段が前記ファイルの識別子を前記参照カウントリストに追加した後、前記副ロックおよび前記主ロックを解放するロック解放手段と、
前記主ロックまたは前記副ロックを再度確保するロック再確保手段と、
前記ロック再確保手段により前記主ロックまたは前記副ロックを再度確保した後、前記ファイルのファイル識別子に対応する前記参照カウントリスト内の削除予定フラグがONであるファイルを削除するファイル削除手段と、
前記参照カウントリストから前記ファイルのファイル識別子に対応するエントリを削除するエントリ削除手段と、
を具備し、
前記情報削除部は、
削除対象のファイルが前記参照カウントリストに含まれるか否かを判別する判別手段と、
前記参照カウントリストに含まれている前記削除対象のファイル識別子に対応する削除予定フラグをONにする削除予定フラグ切替手段と、
を具備することを特徴とする情報記録装置。 - 前記記憶手段は、
第1チャンクを前記ファイル群として保持し、一時プール、及び前記第1チャンクの索引情報であるチャンクプールを前記索引情報として保持し、
前記一時プールから前記第1チャンクを生成する第1のチャンク生成手段と、前記チャンクプールから前記第2チャンクを生成する第2のチャンク生成手段とを有する情報登録部をさらに具備し、
前記情報削除部は、前記チャンクプールから前記第2チャンクを生成する場合に前記第1チャンクのデータを削除する、
ことを特徴とする請求項4に記載の情報記録装置。 - 該情報検索部は、
一時プールを検索して検索結果データを取得する第1の検索結果データ取得手段と、
前記チャンクプールを検索して第1チャンクのファイル一覧を取得する第1チャンクファイル一覧取得手段と、
前記第2チャンクのファイル一覧を取得する第2チャンクファイル一覧取得手段と、
前記第1チャンクのファイル一覧を検索して検索結果データを取得する第2の検索結果データ取得手段と、
前記第2チャンクのファイル一覧を検索して検索結果データを取得する第3の検索結果データ取得手段と、
をさらに具備し、
前記ロック解放手段は、前記第1の検索結果データ取得手段が前記検索結果データを取得し、前記第1チャンクファイル一覧取得手段が前記第1チャンクファイル一覧を取得し、前記参照カウントリスト追加手段が前記ファイルの識別子を前記参照カウントリストに追加し、前記第2チャンクファイル一覧取得手段が前記第2チャンクファイル一覧を取得した後に前記主ロックを解放することを特徴とする請求項5に記載の情報記録装置。 - データ群を記録する情報記録装置より実行されるプログラムであって、
前記情報記録装置は、
データの削除や検索の並行処理を保護する主ロック手段と、
データが格納されているファイル群を保持し、前記ファイル群のうちどのファイルの内容を検索すればよいかを特定する索引情報を保持し、ファイル識別子と削除予定フラグを少なくとも含む情報の並びである参照カウントリストを保持する記憶手段と、
参照カウントリストの並行操作を保護する副ロック手段と、
を具備し、
前記情報記録装置を、
主ロックを確保する主ロック確保手段と、
前記索引情報を用いて検索対象となるファイルの一覧を取得するファイル一覧取得手段と、
副ロックを確保する副ロック確保手段と、
一覧を取得した前記ファイルの識別子を前記参照カウントリストに追加する参照カウントリスト追加手段と、
前記参照カウントリスト追加手段が前記ファイルの識別子を前記参照カウントリストに追加した後、前記副ロックおよび前記主ロックを解放するロック解放手段と、
前記主ロックまたは前記副ロックを再度確保するロック再確保手段と、
前記ロック再確保手段により前記主ロックまたは前記副ロックを再度確保した後、前記ファイルのファイル識別子に対応する前記参照カウントリスト内の削除予定フラグがONであるファイルを削除するファイル削除手段と、
前記参照カウントリストから前記ファイルのファイル識別子に対応するエントリを削除するエントリ削除手段と、
を具備する情報検索部と、
削除対象のファイルが前記参照カウントリストに含まれるか否かを判別する判別手段と、
前記参照カウントリストに含まれている前記削除対象のファイル識別子に対応する削除予定フラグをONにする削除予定フラグ切替手段と、
を具備する情報削除部として動作させる、
ことを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013175088A JP5909467B2 (ja) | 2013-08-26 | 2013-08-26 | 情報記録方法、及び情報記録装置、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013175088A JP5909467B2 (ja) | 2013-08-26 | 2013-08-26 | 情報記録方法、及び情報記録装置、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015043190A JP2015043190A (ja) | 2015-03-05 |
JP5909467B2 true JP5909467B2 (ja) | 2016-04-26 |
Family
ID=52696683
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013175088A Active JP5909467B2 (ja) | 2013-08-26 | 2013-08-26 | 情報記録方法、及び情報記録装置、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5909467B2 (ja) |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5343399B2 (ja) * | 2008-05-22 | 2013-11-13 | 富士通株式会社 | 管理プログラム、管理方法、及び管理装置 |
JP5517263B2 (ja) * | 2011-07-06 | 2014-06-11 | 日本電信電話株式会社 | チャンク生成装置、チャンク読み取り装置、チャンク生成方法及びプログラム |
-
2013
- 2013-08-26 JP JP2013175088A patent/JP5909467B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015043190A (ja) | 2015-03-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102098548B1 (ko) | 블록체인에서 블록 데이터를 검증하기 위한 방법 및 장치 | |
CN109933570B (zh) | 一种元数据管理方法、系统及介质 | |
US9881041B2 (en) | Multiple RID spaces in a delta-store-based database to support long running transactions | |
US9665439B2 (en) | Data processing apparatus and method | |
US10013312B2 (en) | Method and system for a safe archiving of data | |
US20150278310A1 (en) | Database device | |
US20140320498A1 (en) | Terminal device, information processing method, and computer program product | |
WO2016155510A1 (en) | Apparatus and method for creating user defined variable size tags on records in rdbms | |
US9009730B2 (en) | Transaction capable queuing | |
JP5909467B2 (ja) | 情報記録方法、及び情報記録装置、及びプログラム | |
US9348861B2 (en) | Capturing change data of deferred updates | |
CN117093579A (zh) | 数据查询、数据存储方法、装置、设备及存储介质 | |
JP4139613B2 (ja) | データ処理方法 | |
WO2023066211A1 (zh) | 图数据写入 | |
JP2017167654A (ja) | データ管理装置及びデータベースの管理方法 | |
US11809598B2 (en) | Devices and methods for safe storage of media containing personal data and erasure of stored personal data | |
JP6477169B2 (ja) | データベースの処理制御方法、処理制御プロラム及びデータベースサーバ | |
US20200249876A1 (en) | System and method for data storage management | |
US8996521B2 (en) | Data caveats for database tables | |
US20140325271A1 (en) | Terminal device, information processing method, and computer program product | |
US10795875B2 (en) | Data storing method using multi-version based data structure | |
US10042558B1 (en) | Method to improve the I/O performance in a deduplicated storage system | |
US9933961B1 (en) | Method to improve the read performance in a deduplicated storage system | |
US8166018B2 (en) | Browsing a list of data items | |
US10303680B2 (en) | Data processing apparatus and data processing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150618 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160217 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160322 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160328 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5909467 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |