JP2022100514A - ストレージシステムおよびデータ管理方法 - Google Patents
ストレージシステムおよびデータ管理方法 Download PDFInfo
- Publication number
- JP2022100514A JP2022100514A JP2020214534A JP2020214534A JP2022100514A JP 2022100514 A JP2022100514 A JP 2022100514A JP 2020214534 A JP2020214534 A JP 2020214534A JP 2020214534 A JP2020214534 A JP 2020214534A JP 2022100514 A JP2022100514 A JP 2022100514A
- Authority
- JP
- Japan
- Prior art keywords
- file
- data
- metadata
- storage
- base
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003860 storage Methods 0.000 title claims abstract description 167
- 238000000034 method Methods 0.000 title claims description 113
- 238000013523 data management Methods 0.000 title claims description 4
- 238000007726 management method Methods 0.000 claims description 88
- 230000014759 maintenance of location Effects 0.000 claims description 4
- 238000012546 transfer Methods 0.000 description 60
- 238000012545 processing Methods 0.000 description 35
- 230000004044 response Effects 0.000 description 17
- 238000000605 extraction Methods 0.000 description 14
- 230000010076 replication Effects 0.000 description 14
- 230000006870 function Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 7
- 239000000284 extract Substances 0.000 description 5
- 230000010365 information processing Effects 0.000 description 4
- 238000013508 migration Methods 0.000 description 3
- 230000005012 migration Effects 0.000 description 3
- 238000012790 confirmation Methods 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 238000005352 clarification Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/13—File access structures, e.g. distributed indices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/176—Support for shared access to files; File sharing support
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F12/00—Accessing, addressing or allocating within memory systems or architectures
- G06F12/14—Protection against unauthorised use of memory or access to memory
- G06F12/1458—Protection against unauthorised use of memory or access to memory by checking the subject access rights
- G06F12/1483—Protection against unauthorised use of memory or access to memory by checking the subject access rights using an access-table, e.g. matrix or list
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/14—Details of searching files based on file metadata
- G06F16/148—File search processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/14—Details of searching files based on file metadata
- G06F16/156—Query results presentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/16—File or folder operations, e.g. details of user interfaces specifically adapted to file systems
- G06F16/164—File meta data generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
- G06F16/1824—Distributed file systems implemented using Network-attached Storage [NAS] architecture
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Library & Information Science (AREA)
- Human Computer Interaction (AREA)
- Mathematical Physics (AREA)
- Computer Security & Cryptography (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
以下、本発明の一実施の形態を詳述する。ただし、本発明は、実施の形態に限定されるものではない。
図1は、本実施の形態におけるストレージシステム100に係る構成の一例を示す図である。
図2は、ファイル・オブジェクトストレージ112に係る構成の一例を示す図である。
図3は、ファイル・オブジェクトストレージ112が格納するユーザファイル201およびユーザディレクトリ202の一例を示す図である。
また、ファイル・オブジェクトストレージ112は、バージョン管理機能を有し、バージョンの異なるユーザファイル201を指定して操作を行うことができる。一例として、拠点110-1では、ユーザファイル201-12の旧バージョンとしてユーザファイル201-11を備える。原則として、ファイル・オブジェクトストレージ112は、クライアント端末111からの各操作を、最新のユーザファイル201に適用するが、操作時にバージョンを指定することで旧バージョンのユーザファイル201の操作も可能である。なお、本実施の形態では、ファイル・オブジェクトストレージ112でバージョン管理機能を提供するが、例えば、ユーザファイル201の複製を作成するといった方法等で、古いユーザファイル201を残しても構わない。
各ユーザファイル201には、UUIDが付与される。異なる拠点110のユーザファイル201と、異なるファイルパスのユーザファイル201とが、UUIDおよびバージョンの双方が同一の値を持つことを許容し、同一のUUIDおよびバージョンを持つユーザファイル201は、同一のデータを参照する。例えば、ユーザファイル201-11とユーザファイル201-41とユーザファイル201-61とは、同一のUUIDおよびバージョンを持つため、クライアント端末111からの参照操作に対し、同一のデータを返す。拠点110間で異なるファイルパスを与えられたユーザファイル201であってもUUIDおよびバージョンにより指し示されるデータが同一であるケースがあるため、本ストレージシステム100では、ファイルパスを仮想的なパス(仮想パス)、UUIDおよびバージョンを実際のデータを特定するパス(実パス)として扱う。
同一のUUIDおよびバージョンを持つユーザファイル201は、Original状態、Stub状態、Cache状態、Replica状態の4つのファイル状態に分類される。
図4は、ファイル・オブジェクトストレージ112のメタデータDB203の一例を示す図である。
図5は、ファイル・オブジェクトストレージ112の管理情報ファイル204の一例を示す図である。
図6は、ファイル・オブジェクトストレージ112のオペレーションログ205の一例を示す図である。
図7は、ファイル・オブジェクトストレージ112のアクセス権管理表206の一例を示す図である。
図8は、ファイル・オブジェクトストレージ112の拠点間接続管理表207の一例を示す図である。
図9は、ファイル・オブジェクトストレージ112のメタデータ検索プログラム212Dが検索結果として応答する拠点間横断メタデータ検索結果応答900の一例を示す図である。
次に、図10~図20のフローチャートを参照して、本実施の形態のストレージシステム100の動作について説明する。
図10は、ストレージシステム100の拠点間横断メタデータ検索処理S1000の一例を説明するためのフローチャートである。
図11は、拠点内メタデータ検索処理S1100の一例を説明するためのフローチャートである。
図12は、スタブ作成処理S1200の一例を説明するためのフローチャートである。
図13は、バックグラウンドデータ取得処理S1300の一例を説明するためのフローチャートである。
図14は、ファイル参照処理S1400の一例を説明するためのフローチャートである。
図15は、データ取得拠点選択処理S1500の一例を説明するためのフローチャートである。
図16は、ファイル更新処理S1600の一例を説明するためのフローチャートである。
図17は、オペレーションログ解析処理S1700の一例を説明するためのフローチャートである。
図18は、メタデータ抽出処理S1800の一例を説明するためのフローチャートである。
図19は、レプリケーション処理S1900の一例を説明するためのフローチャートである。
図20は、スタブ化処理S2000の一例を説明するためのフローチャートである。
上述の実施の形態には、例えば、以下のような内容が含まれる。
Claims (13)
- それぞれがファイルシステムを提供するストレージを備える複数の拠点間でファイルを共有可能なストレージシステムであって、
前記ストレージは、ファイルのデータを記憶した記憶装置と、前記記憶装置に接続されたコントローラと、を備え、
前記ファイルと関連付けられ、前記ファイルを参照する関連ファイルを有し、
前記コントローラは、前記ファイルが更新される場合に、前記関連ファイルからの参照状況に基づいて、前記ファイルおよび関連ファイルを更新し、
前記コントローラは、他拠点において記憶されているファイルに係るアクセス要求を受け付けた場合に、前記他拠点に問い合わせを行い、前記アクセス要求にかかるファイルにアクセスするための関連ファイルを前記アクセス要求を受けたコントローラにかかる拠点に作成する、
ストレージシステム。 - 前記アクセス要求が検索要求の場合、前記検索要求を受け付けた第1の拠点のストレージのコントローラは、前記複数の拠点のストレージに検索クエリを送信し、
前記検索クエリを受信したストレージのコントローラは、前記検索クエリに対応するファイルのメタデータを前記第1の拠点のストレージに送信し、
前記第1の拠点のストレージのコントローラは、前記複数の拠点から送信された前記検索クエリに対応するファイルのメタデータに基づいて、前記ファイルを参照する関連ファイルを作成する、
請求項1に記載のストレージシステム。 - 前記第1の拠点のストレージのコントローラは、前記複数の拠点から送信された前記検索クエリに対応するファイルのメタデータを前記検索要求の要求元に送信し、
前記検索クエリに対応するファイルにアクセスする要求を前記検索要求の要求元から受け付けた場合、前記ファイルを参照する関連ファイルを作成する、
請求項2に記載のストレージシステム。 - 前記複数の拠点の各々のストレージの記憶装置は、自拠点に記憶しているファイルおよび関連ファイルのメタデータを記憶するメタデータDBを備え、
前記検索クエリを受信したストレージのコントローラは、前記検索クエリに対応するファイルのメタデータを前記メタデータDBから取得して前記第1の拠点のストレージに送信する、
請求項2に記載のストレージシステム。 - 前記複数の拠点の各々のストレージの記憶装置は、前記メタデータDBに記憶されているメタデータに対するメタデータアクセス権と、記憶しているファイルのデータに対するデータアクセス権とを管理するためのアクセス権管理情報を記憶し、
前記検索クエリを受信したストレージのコントローラは、前記検索クエリに対応するファイルのメタデータを前記メタデータDBから取得し、取得したメタデータのうち、前記アクセス権管理情報に基づいてメタデータアクセス権があると判定したメタデータを前記第1の拠点のストレージに送信し、
前記ファイルのデータのアクセスが指示されたストレージのコントローラは、前記アクセス権管理情報に基づいて前記ファイルのデータに対してデータアクセス権があると判定したとき、前記ファイルのデータを自拠点または他拠点から取得して前記アクセスの要求元に送信する、
請求項4に記載のストレージシステム。 - 前記ファイルが更新された場合に、前記ファイルを参照する関連ファイルも更新される、
請求項1に記載のストレージシステム。 - 前記ファイルが前記関連ファイルから参照されている場合には、更新前のファイルを残してファイルを更新し、
前記ファイルのデータを、更新前のファイルと更新後のファイルとを選択して取得して前記関連ファイルを更新可能であることを特徴とする、
請求項6に記載のストレージシステム。 - 前記ファイルを参照する頻度が、他拠点の前記関連ファイルが参照される頻度よりも低い場合、前記ファイルと前記関連ファイルとを入れ替える、
請求項6に記載のストレージシステム。 - 前記関連ファイルはデータを有さないスタブファイルとして作成され、前記アクセス要求とは非同期に前記ファイルからデータを取得する、
請求項1に記載のストレージシステム。 - 前記ファイルには、UUID(Universally Unique Identifier)およびバージョンが対応付けられ、
前記ストレージのコントローラは、前記UUIDおよび前記バージョンを対応付けて関連ファイルを作成し、自拠点における前記関連ファイルのファイルパスを示す情報を作成する、
請求項1に記載のストレージシステム。 - 前記複数の拠点の各々のストレージの記憶装置は、拠点間の接続状態を管理するための拠点間接続管理情報を記憶し、
前記ファイルのデータを全て含む拠点を示すデータ拠点情報を有し、
前記ストレージのコントローラは、前記データ拠点情報と前記拠点間接続管理情報とに基づいて、前記ファイルのデータを取得する拠点を決定し、決定した拠点から前記データを取得する、
請求項1に記載のストレージシステム。 - 前記ファイルは、オリジナル状態のファイルであり、
前記関連ファイルには、スタブ状態のファイル、キャッシュ状態のファイル、レプリカ状態のファイルが含まれる、
請求項1に記載のストレージシステム。 - それぞれがファイルシステムを提供するストレージを備える複数の拠点間でファイルを共有可能なストレージシステムにおけるデータ管理方法であって、
前記ストレージは、ファイルのデータを記憶した記憶装置と、前記記憶装置に接続されたコントローラと、を備え、
前記ストレージシステムは、前記ファイルと関連付けられ、前記ファイルを参照する関連ファイルを有し、
前記コントローラが、前記ファイルが更新される場合に、前記関連ファイルからの参照状況に基づいて、前記ファイルおよび関連ファイルを更新することと、
前記コントローラが、他拠点において記憶されているファイルに係るアクセス要求を受け付けた場合に、前記他拠点に問い合わせを行い、前記アクセス要求にかかるファイルにアクセスするための関連ファイルを前記アクセス要求を受けたコントローラにかかる拠点に作成することと、
を含むデータ管理方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020214534A JP7391826B2 (ja) | 2020-12-24 | 2020-12-24 | ストレージシステムおよびデータ管理方法 |
US17/209,368 US20220206991A1 (en) | 2020-12-24 | 2021-03-23 | Storage system and data management method |
CN202111010749.0A CN114676075A (zh) | 2020-12-24 | 2021-08-31 | 存储系统和数据管理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020214534A JP7391826B2 (ja) | 2020-12-24 | 2020-12-24 | ストレージシステムおよびデータ管理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022100514A true JP2022100514A (ja) | 2022-07-06 |
JP7391826B2 JP7391826B2 (ja) | 2023-12-05 |
Family
ID=82070973
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020214534A Active JP7391826B2 (ja) | 2020-12-24 | 2020-12-24 | ストレージシステムおよびデータ管理方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20220206991A1 (ja) |
JP (1) | JP7391826B2 (ja) |
CN (1) | CN114676075A (ja) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08328933A (ja) * | 1995-05-30 | 1996-12-13 | Nec Corp | 並列処理システムのファイルアクセス制御方式 |
JP2001051890A (ja) * | 1999-08-10 | 2001-02-23 | Toshiba Corp | 仮想分散ファイルサーバシステム |
JP2004118482A (ja) * | 2002-09-26 | 2004-04-15 | Toshiba Corp | 記憶装置、および、キャッシュ方法 |
US20110145363A1 (en) * | 2009-12-16 | 2011-06-16 | International Business Machines Corporation | Disconnected file operations in a scalable multi-node file system cache for a remote cluster file system |
JP2020095340A (ja) * | 2018-12-10 | 2020-06-18 | 富士通株式会社 | 情報処理システム、負荷分散処理装置および負荷分散処理プログラム |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB0303192D0 (en) * | 2003-02-12 | 2003-03-19 | Saviso Group Ltd | Methods and apparatus for traffic management in peer-to-peer networks |
US8495250B2 (en) * | 2009-12-16 | 2013-07-23 | International Business Machines Corporation | Asynchronous file operations in a scalable multi-node file system cache for a remote cluster file system |
US11016941B2 (en) * | 2014-02-28 | 2021-05-25 | Red Hat, Inc. | Delayed asynchronous file replication in a distributed file system |
US10291696B2 (en) * | 2014-04-28 | 2019-05-14 | Arizona Board Of Regents On Behalf Of Arizona State University | Peer-to-peer architecture for processing big data |
US10725708B2 (en) * | 2015-07-31 | 2020-07-28 | International Business Machines Corporation | Replication of versions of an object from a source storage to a target storage |
-
2020
- 2020-12-24 JP JP2020214534A patent/JP7391826B2/ja active Active
-
2021
- 2021-03-23 US US17/209,368 patent/US20220206991A1/en not_active Abandoned
- 2021-08-31 CN CN202111010749.0A patent/CN114676075A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08328933A (ja) * | 1995-05-30 | 1996-12-13 | Nec Corp | 並列処理システムのファイルアクセス制御方式 |
JP2001051890A (ja) * | 1999-08-10 | 2001-02-23 | Toshiba Corp | 仮想分散ファイルサーバシステム |
JP2004118482A (ja) * | 2002-09-26 | 2004-04-15 | Toshiba Corp | 記憶装置、および、キャッシュ方法 |
US20110145363A1 (en) * | 2009-12-16 | 2011-06-16 | International Business Machines Corporation | Disconnected file operations in a scalable multi-node file system cache for a remote cluster file system |
JP2020095340A (ja) * | 2018-12-10 | 2020-06-18 | 富士通株式会社 | 情報処理システム、負荷分散処理装置および負荷分散処理プログラム |
Also Published As
Publication number | Publication date |
---|---|
US20220206991A1 (en) | 2022-06-30 |
CN114676075A (zh) | 2022-06-28 |
JP7391826B2 (ja) | 2023-12-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US5001628A (en) | Single system image uniquely defining an environment for each user in a data processing system | |
US6678700B1 (en) | System of and method for transparent management of data objects in containers across distributed heterogenous resources | |
US8055724B2 (en) | Selection of migration methods including partial read restore in distributed storage management | |
CN104618482B (zh) | 访问云数据的方法、服务器、传统存储设备、系统 | |
KR0170561B1 (ko) | 화일 시스템 캐쉬의 관리 방법, 컴퓨터 화일 시스템 및 컴퓨터 시스템 캐쉬 장치 | |
EP0278472B1 (en) | Directory management in distributed data processing system network | |
JP4806572B2 (ja) | データミラーリングによって参照負荷を分散するストレージシステムにおけるアクセスの制御 | |
US8473636B2 (en) | Information processing system and data management method | |
JP4919851B2 (ja) | ファイルレベルの仮想化を行う中間装置 | |
WO2012137262A1 (en) | Information processing system and data processing method | |
US20100299306A1 (en) | Storage system having file change notification interface | |
JP2008305094A (ja) | 文書管理方法及びその装置 | |
USRE42859E1 (en) | File server that allows an end user to specify storage characteristics with ease | |
CN104660643A (zh) | 请求响应方法、装置及分布式文件系统 | |
US20090198704A1 (en) | Method for automated network file and directory virtualization | |
US11151081B1 (en) | Data tiering service with cold tier indexing | |
WO2016121083A1 (ja) | 計算機システム、分散オブジェクト共有方法、エッジノード | |
Abramson et al. | A BeeGFS-based caching file system for data-intensive parallel computing | |
US20140067776A1 (en) | Method and System For Operating System File De-Duplication | |
JP2013210698A (ja) | ファイル検索システム及びプログラム | |
JP2022100514A (ja) | ストレージシステムおよびデータ管理方法 | |
US20070233972A1 (en) | Methods and apparatus for transferring content to multiple destinations | |
WO2014174578A1 (ja) | エッジサーバ及び記憶制御方法 | |
JP5481906B2 (ja) | 投影ファイルシステム管理装置及び投影ファイルシステム管理方法並びにプログラム | |
EP0278314B1 (en) | Single system image |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211224 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211224 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221125 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221227 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230208 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230613 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230809 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231114 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231122 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7391826 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |