JP2012074039A - ファイルをチャンク単位で分散処理するシステムおよび方法 - Google Patents
ファイルをチャンク単位で分散処理するシステムおよび方法 Download PDFInfo
- Publication number
- JP2012074039A JP2012074039A JP2011212336A JP2011212336A JP2012074039A JP 2012074039 A JP2012074039 A JP 2012074039A JP 2011212336 A JP2011212336 A JP 2011212336A JP 2011212336 A JP2011212336 A JP 2011212336A JP 2012074039 A JP2012074039 A JP 2012074039A
- Authority
- JP
- Japan
- Prior art keywords
- chunk
- file
- data server
- distributed file
- replica
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 49
- 238000000034 method Methods 0.000 title claims abstract description 38
- 230000008569 process Effects 0.000 claims description 20
- 230000004044 response Effects 0.000 claims description 10
- 238000003672 processing method Methods 0.000 claims description 7
- 230000003362 replicative effect Effects 0.000 claims description 6
- 230000008685 targeting Effects 0.000 abstract 1
- 239000008186 active pharmaceutical agent Substances 0.000 description 17
- 230000010076 replication Effects 0.000 description 14
- 230000001172 regenerating effect Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 6
- 230000008859 change Effects 0.000 description 2
- 230000005012 migration Effects 0.000 description 2
- 238000013508 migration Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/16—Error detection or correction of the data by redundancy in hardware
- G06F11/1658—Data re-synchronization of a redundant component, or initial sync of replacement, additional or spare unit
- G06F11/1662—Data re-synchronization of a redundant component, or initial sync of replacement, additional or spare unit the resynchronized component or unit being a persistent storage device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/16—Error detection or correction of the data by redundancy in hardware
- G06F11/20—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
- G06F11/202—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where processing functionality is redundant
- G06F11/2048—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where processing functionality is redundant where the redundant components share neither address space nor persistent storage
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
- G06F16/184—Distributed file systems implemented as replicated file system
- G06F16/1844—Management specifically adapted to replicated file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/16—Error detection or correction of the data by redundancy in hardware
- G06F11/20—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
- G06F11/202—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where processing functionality is redundant
- G06F11/2035—Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where processing functionality is redundant without idle spare hardware
Abstract
【解決手段】ファイル処理システムは、少なくとも1つの分散ファイルシステムのうちいずれか1つの分散ファイルシステムをターゲットに指定するシステムターゲット部と、ターゲットに指定された分散ファイルシステムに格納するためのファイルを分割してファイルブロックとして構成されたチャンクを生成するチャンク生成部と、ターゲットに指定された分散ファイルシステムに前記生成されたチャンクについて格納リクエストし、チャンクの格納結果を受信するチャンク演算リクエスト部とを備えてもよい。
【選択図】図1
Description
100 ファイル処理システム
102 分散ファイルシステム
Claims (19)
- 少なくとも1つの分散ファイルシステムのうちいずれか1つの分散ファイルシステムをターゲットに指定するシステムターゲット部と、
前記ターゲットに指定された分散ファイルシステムに格納するためのファイルを分割してファイルブロックとして構成されたチャンクを生成するチャンク生成部と、
前記ターゲットに指定された分散ファイルシステムに前記生成されたチャンクについて格納リクエストし、チャンクの格納結果を受信するチャンク演算リクエスト部と、
を備えることを特徴とするファイル処理システム。 - 前記分散ファイルシステムは、前記チャンクの複製を分散格納する複数のデータサーバを含むことを特徴とする請求項1に記載のファイル処理システム。
- 前記分散ファイルシステムは、前記チャンクの複製をオーナー単位に応じてグループ化して前記複数のデータサーバそれぞれに分散格納することを特徴とする請求項2に記載のファイル処理システム。
- 前記システムターゲット部は、IPアドレスによってiSCSIターゲットとなる分散ファイルシステムをターゲットに指定することを特徴とする請求項1に記載のファイル処理システム。
- 前記分散ファイルシステムは、前記複数のデータサーバのうちいずれか1つに障害が発生して格納されたチャンクの複製が損傷した場合、前記チャンクの複製と同一の複製を格納している他のデータサーバを用いて前記チャンクの複製を再生成することを特徴とする請求項2に記載のファイル処理システム。
- 少なくとも1つのデータサーバを含む分散ファイルシステムにおいて、
前記データサーバは、
ファイル処理システムから受信したファイルが分割されたチャンクに対する格納リクエストに対応して前記チャンクの複製を格納するチャンク格納部と、
前記ファイル処理システムから受信したチャンクに対する演算リクエストに対応して前記チャンクの複製の演算を行うチャンク演算実行部と、
を備えることを特徴とする分散ファイルシステム。 - 前記データサーバは、第1データサーバに格納されたチャンクの複製が前記第1データサーバの障害によって損傷した場合、前記チャンクの複製と同一の複製を格納する第2データサーバから前記チャンクの複製をコピーするチャンクコピー部をさらに備えることを特徴とする請求項6に記載の分散ファイルシステム。
- 前記データサーバは、前記チャンクの複製のコピー進行の過程を考慮して前記第2データサーバが格納するチャンクの複製に書き込みロックを行う書き込みロック実行部をさらに備えることを特徴とする請求項7に記載の分散ファイルシステム。
- 前記書き込みロック実行部は、前記第2データサーバからチャンクの複製をコピーする前に書き込みロックを行って、前記チャンクの複製のコピーが完了すると前記チャンクの複製に対する書き込みロックを解除することを特徴とする請求項8に記載の分散ファイルシステム。
- 少なくとも1つの分散ファイルシステムのうちいずれか1つの分散ファイルシステムをターゲットに指定し、
前記ターゲットに指定された分散ファイルシステムに格納するためのファイルを分割してファイルブロックとして構成されたチャンクを生成し、
前記ターゲットに指定された分散ファイルシステムに前記生成されたチャンクについて格納リクエストしてチャンクの格納結果を受信すること、
を含むことを特徴とするファイル格納方法。 - 前記分散ファイルシステムは、前記チャンクの複製を分散格納する複数のデータサーバを含むことを特徴とする請求項10に記載のファイル格納方法。
- 前記分散ファイルシステムは、前記チャンクの複製をオーナー単位に応じてグループ化して前記複数のデータサーバそれぞれに分散格納することを特徴とする請求項11に記載のファイル格納方法。
- 前記ターゲットに指定することは、IPアドレスによってiSCSIターゲットとなる分散ファイルシステムをターゲットに指定することを特徴とする請求項10に記載のファイル格納方法。
- 前記分散ファイルシステムは、前記複数のデータサーバのうちいずれか1つに障害が発生して格納されたチャンクの複製が損傷した場合、前記チャンクの複製と同一の複製を格納している他のデータサーバを用いて前記チャンクの複製を再生成することを特徴とする請求項11に記載のファイル格納方法。
- 少なくとも1つのデータサーバを含む分散ファイルシステムが行う分散ファイル処理方法において、
前記データサーバは、
ファイル処理システムから受信したファイルが分割されたチャンクに対する格納リクエストに対応して前記チャンクの複製を格納し、
前記ファイル処理システムから受信したチャンクに対する演算リクエストに対応して前記チャンクの複製の演算を行うこと、
を行うことを特徴とする分散ファイル処理方法。 - 前記データサーバは、第1データサーバに格納されたチャンクの複製が前記第1データサーバの障害によって損傷した場合、前記チャンクの複製と同一の複製を格納する第2データサーバから前記チャンクの複製をコピーすることをさらに含むことを特徴とする請求項15に記載の分散ファイル処理方法。
- 前記データサーバは、前記チャンクの複製のコピー進行の過程を考慮して前記第2データサーバが格納するチャンクの複製に書き込みロックを行うことをさらに含むことを特徴とする請求項16に記載の分散ファイル処理方法。
- 前記チャンクの複製に書き込みロックを行うことは、前記第2データサーバからチャンクの複製をコピーする前に書き込みロックを行って、前記チャンクの複製のコピーが完了すると前記チャンクの複製に対する書き込みロックを解除することを特徴とする請求項17に記載の分散ファイル処理方法。
- 請求項10乃至請求項18いずれか1項の方法を実行するためのプログラムが記録されたコンピュータで読み出し可能な記録媒体。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020100094485A KR101374655B1 (ko) | 2010-09-29 | 2010-09-29 | 파일 볼륨을 청크 단위로 분산 처리하는 시스템 및 방법 |
KR10-2010-0094485 | 2010-09-29 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012074039A true JP2012074039A (ja) | 2012-04-12 |
JP6525491B2 JP6525491B2 (ja) | 2019-06-05 |
Family
ID=45871658
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011212336A Active JP6525491B2 (ja) | 2010-09-29 | 2011-09-28 | ファイルをチャンク単位で分散処理するシステムおよび方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9514008B2 (ja) |
JP (1) | JP6525491B2 (ja) |
KR (1) | KR101374655B1 (ja) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101496011B1 (ko) * | 2012-07-09 | 2015-02-26 | 부산대학교 산학협력단 | 하둡 기반 센서 스트림 데이터 처리 시스템 및 방법 |
US9547774B2 (en) | 2012-07-18 | 2017-01-17 | Nexenta Systems, Inc. | System and method for distributed deduplication of encrypted chunks |
US9037856B2 (en) * | 2012-07-18 | 2015-05-19 | Nexenta Systems, Inc. | System and method for distributed deduplication of encrypted chunks |
KR101438461B1 (ko) * | 2012-10-15 | 2014-11-03 | (주) 글루시스 | 전력 제어 스위칭 모듈을 구비한 클라우드 스토리지 시스템 |
KR20140124674A (ko) * | 2013-04-17 | 2014-10-27 | 한국전자통신연구원 | 파일 수준의 데이터 분산 저장 방법 |
KR102172317B1 (ko) * | 2013-12-24 | 2020-10-30 | 주식회사 케이티 | 테이프 스토리지 시스템 및 이의 제어 방법 |
US11429442B2 (en) * | 2015-06-29 | 2022-08-30 | Vmware, Inc. | Parallel and distributed computing using multiple virtual machines |
US10983732B2 (en) * | 2015-07-13 | 2021-04-20 | Pure Storage, Inc. | Method and system for accessing a file |
US10140313B2 (en) | 2015-09-27 | 2018-11-27 | International Business Machines Corporation | Parallel processing of large data files on distributed file systems with dynamic workload balancing |
KR20170048721A (ko) * | 2015-10-27 | 2017-05-10 | 삼성에스디에스 주식회사 | 분산 처리를 위한 대용량 파일의 블록화 방법 및 그 장치 |
US10585627B2 (en) * | 2016-03-24 | 2020-03-10 | Microsoft Technology Licensing, Llc | Distributed metadata management in a distributed storage system |
KR102431681B1 (ko) * | 2018-12-12 | 2022-08-11 | 네이버 주식회사 | 라이브 서비스를 위한 분산 파일 시스템 및 파일 관리 방법 |
CN113032352A (zh) * | 2019-12-24 | 2021-06-25 | 阿里巴巴集团控股有限公司 | 副本的配置方法、装置、电子设备和存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003058408A (ja) * | 2001-08-13 | 2003-02-28 | Hitachi Ltd | 情報処理システム |
JP2008204206A (ja) * | 2007-02-20 | 2008-09-04 | Nec Corp | データ分散格納システム及びデータ分散方法、それに用いる装置並びにそのプログラム |
WO2009084314A1 (ja) * | 2007-12-28 | 2009-07-09 | Nec Corporation | データ分散格納方法およびデータ分散格納システム |
JP2010044789A (ja) * | 2002-11-14 | 2010-02-25 | Isilon Systems Inc | 分散ファイルシステムにおけるファイルの再ストライピングのためのシステム及び方法 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4409874B2 (ja) | 2002-07-02 | 2010-02-03 | 株式会社ソニー・ディスクアンドデジタルソリューションズ | データ送信装置および方法、データ受信装置および方法、ならびに、データ分散システムおよび方法 |
US7343467B2 (en) * | 2004-12-20 | 2008-03-11 | Emc Corporation | Method to perform parallel data migration in a clustered storage environment |
US8341371B2 (en) | 2005-01-31 | 2012-12-25 | Sandisk Il Ltd | Method of managing copy operations in flash memories |
US20060218435A1 (en) * | 2005-03-24 | 2006-09-28 | Microsoft Corporation | Method and system for a consumer oriented backup |
US8214517B2 (en) | 2006-12-01 | 2012-07-03 | Nec Laboratories America, Inc. | Methods and systems for quick and efficient data management and/or processing |
US8140637B2 (en) * | 2007-10-25 | 2012-03-20 | Hewlett-Packard Development Company, L.P. | Communicating chunks between devices |
KR100956637B1 (ko) | 2007-12-07 | 2010-05-11 | 한국전자통신연구원 | 분산파일 시스템에서의 비동기식 데이터 복제 방법 및 그에따른 분산파일 시스템 |
US7890504B2 (en) * | 2007-12-19 | 2011-02-15 | Netapp, Inc. | Using the LUN type for storage allocation |
US8825789B2 (en) * | 2008-12-16 | 2014-09-02 | Netapp, Inc. | Method and apparatus to implement a hierarchical cache system with pNFS |
KR20100073154A (ko) | 2008-12-22 | 2010-07-01 | 한국전자통신연구원 | 메타데이터 서버, 데이터 서버의 데이터 처리 방법 및 이를이용한 비대칭 클러스터 분산 파일 시스템 |
US8627015B2 (en) * | 2009-07-31 | 2014-01-07 | Emc Corporation | Data processing system using cache-aware multipath distribution of storage commands among caching storage controllers |
US20110153570A1 (en) * | 2009-12-18 | 2011-06-23 | Electronics And Telecommunications Research Institute | Data replication and recovery method in asymmetric clustered distributed file system |
KR101335934B1 (ko) | 2009-12-18 | 2013-12-03 | 한국전자통신연구원 | 비대칭 클러스터 분산 파일 시스템에서 데이터 복제 및 복구 방법 |
US8156368B2 (en) * | 2010-02-22 | 2012-04-10 | International Business Machines Corporation | Rebuilding lost data in a distributed redundancy data storage system |
US20110276549A1 (en) * | 2010-05-04 | 2011-11-10 | Microsoft Corporation | Optimistic locking in a distributed file system replication environment |
-
2010
- 2010-09-29 KR KR1020100094485A patent/KR101374655B1/ko active IP Right Grant
-
2011
- 2011-09-24 US US13/244,417 patent/US9514008B2/en active Active
- 2011-09-28 JP JP2011212336A patent/JP6525491B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003058408A (ja) * | 2001-08-13 | 2003-02-28 | Hitachi Ltd | 情報処理システム |
JP2010044789A (ja) * | 2002-11-14 | 2010-02-25 | Isilon Systems Inc | 分散ファイルシステムにおけるファイルの再ストライピングのためのシステム及び方法 |
JP2008204206A (ja) * | 2007-02-20 | 2008-09-04 | Nec Corp | データ分散格納システム及びデータ分散方法、それに用いる装置並びにそのプログラム |
WO2009084314A1 (ja) * | 2007-12-28 | 2009-07-09 | Nec Corporation | データ分散格納方法およびデータ分散格納システム |
Also Published As
Publication number | Publication date |
---|---|
KR20120032920A (ko) | 2012-04-06 |
US20120078844A1 (en) | 2012-03-29 |
US9514008B2 (en) | 2016-12-06 |
KR101374655B1 (ko) | 2014-03-24 |
JP6525491B2 (ja) | 2019-06-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6525491B2 (ja) | ファイルをチャンク単位で分散処理するシステムおよび方法 | |
CN108376109B (zh) | 将来源阵列的卷复制到目标阵列的设备和方法、存储介质 | |
US20200293551A1 (en) | Data Replication Method and Storage System | |
US10114581B1 (en) | Creating a virtual access point in time on an object based journal replication | |
CN109074297B (zh) | 在同步复制的数据集中启用数据完整性检查和更快的应用恢复 | |
US20170308437A1 (en) | Parity protection for data chunks in an object storage system | |
CN106407040A (zh) | 一种远程数据复制方法及系统 | |
JP5646639B2 (ja) | メタデータ仮想ハードドライブおよび差分仮想ハードドライブを使用するバックアップ | |
EP1814033B1 (en) | Storage system and data restoration method thereof | |
CN103354923B (zh) | 一种数据重建方法、装置和系统 | |
WO2017119091A1 (ja) | 分散型ストレージシステム、データ格納方法、およびソフトウェアプログラム | |
US10223007B1 (en) | Predicting IO | |
CN107924354A (zh) | 动态镜像 | |
KR101709118B1 (ko) | 하이브리드 스토리지 시스템의 파일 관리 방법 및 장치 | |
US11157177B2 (en) | Hiccup-less failback and journal recovery in an active-active storage system | |
WO2018098972A1 (zh) | 一种日志恢复方法、存储装置和存储节点 | |
CN109313538A (zh) | 内联去重 | |
CN110383251B (zh) | 存储系统、计算机可读记录介质、系统的控制方法 | |
CN103548011A (zh) | 分布式存储环境中的异步复制 | |
CN113220729B (zh) | 数据存储方法、装置、电子设备及计算机可读存储介质 | |
CN106528338A (zh) | 一种远程数据复制方法、存储设备及存储系统 | |
CN107046811A (zh) | 一种源存储设备发送源文件和源文件的克隆文件至备份存储设备的方法、源存储设备以及备份存储设备 | |
CN106873902B (zh) | 一种文件存储系统、数据调度方法及数据节点 | |
JP2006331076A (ja) | データ記憶システム及び記憶方法 | |
JP2017531892A (ja) | ブロックレベル記憶デバイスのスナップショットを実行するための改善された装置および方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140922 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20141010 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150115 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150810 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150929 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20151228 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160531 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20160830 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20161031 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170328 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170628 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20170704 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20171101 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20171107 |
|
A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20180126 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181128 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190507 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6525491 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |