JP2015517147A - 空間節約(spacesavings:空き容量節約)を達成するように処理をスケジューリングするためのシステム、方法及びコンピュータープログラム製品 - Google Patents
空間節約(spacesavings:空き容量節約)を達成するように処理をスケジューリングするためのシステム、方法及びコンピュータープログラム製品 Download PDFInfo
- Publication number
- JP2015517147A JP2015517147A JP2015503248A JP2015503248A JP2015517147A JP 2015517147 A JP2015517147 A JP 2015517147A JP 2015503248 A JP2015503248 A JP 2015503248A JP 2015503248 A JP2015503248 A JP 2015503248A JP 2015517147 A JP2015517147 A JP 2015517147A
- Authority
- JP
- Japan
- Prior art keywords
- space saving
- storage
- deduplication
- potential
- storage objects
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/215—Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/174—Redundancy elimination performed by the file system
- G06F16/1748—De-duplication implemented within the file system, e.g. based on file segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/11—File system administration, e.g. details of archiving or snapshots
- G06F16/119—Details of migration of file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/174—Redundancy elimination performed by the file system
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
Description
前記ストレージオブジェクトごとに、それぞれの空間節約ポテンシャルを経時的に反復して生成することと、
前記ストレージオブジェクトのそれぞれを空間節約ポテンシャルについて解析し、少なくとも部分的に空間節約ポテンシャルに基づいてリソースの優先度を割り当てることによって、前記複数のストレージオブジェクト間で空間節約動作をスケジューリングすることと、
を含む、方法に関する。
前記複数のストレージオブジェクトに対し、経時的に複数の空間節約動作を行うコードと、
前記ストレージオブジェクトごとにそれぞれの空間節約値を計算するコードであって、それによって、所与のストレージオブジェクトについての各後続の空間節約動作の結果として、該所与のストレージオブジェクトについて空間節約値が反復的に再計算される、コードと、
より高いそれぞれの空間節約値を有する前記ストレージオブジェクトの部分組のための処理リソースを優先付けすることによって該処理リソースを空間節約要求に配分するコードと、
を備える、コンピュータープログラム製品に関する。
前記ストレージサブシステムと通信して、前記複数のストレージオブジェクト内の空間節約のための処理リソースの配分を管理するコンピューターであって、該コンピューターは、以下の動作、すなわち、
前記ストレージオブジェクトごとのそれぞれの空間節約ポテンシャルを、複数の空間節約動作にわたって反復的に計算することと、
空間節約のために前記ストレージオブジェクト間で選択することであって、それによって、第2のストレージオブジェクトの第2の空間節約ポテンシャルよりも高い第1の空間節約ポテンシャルを有する第1のストレージオブジェクトが、前記第1の空間節約ポテンシャルと前記第2の空間節約ポテンシャルとの差に少なくとも部分的に基づいて、空間節約のための前記処理リソースの配分における優先権を受けることと、
を実行するように構成される、コンピューターと、
を備える、システムに関する。
式(1) 新たなSP=(古いSP×古いボリュームサイズ)+(動作SP×動作によって処理されるデータ)/(古いボリュームサイズ+動作によって処理されるデータ)
式中、SPは節約ポテンシャルであり、新たなボリュームサイズはボリューム内のユーザーデータ量に等しい。空間節約管理部は、任意の適切なデータ構造を用いてそのような情報を記憶することができる。
Claims (21)
- ストレージハードウェアに記憶される複数のストレージオブジェクトを有するシステムにおいて実行される方法であって、
前記ストレージオブジェクトごとに、それぞれの空間節約ポテンシャルを経時的に反復して生成することと、
前記ストレージオブジェクトのそれぞれを空間節約ポテンシャルについて解析し、少なくとも部分的に空間節約ポテンシャルに基づいてリソースの優先度を割り当てることによって、前記複数のストレージオブジェクト間で空間節約動作をスケジューリングすることと、
を含む、ストレージハードウェアに記憶される複数のストレージオブジェクトを有するシステムにおいて実行される方法。 - それぞれの空間節約ポテンシャルを生成することは、
前記ストレージオブジェクトごとに、
前回の空間節約動作以降に受信されたデータを特定することと、
前記特定されたデータに対し空間節約動作を行うとともに、該特定されたデータについて空間節約値を計算することと、
以前に加えられたデータの累積空間節約値を用いて前記特定されたデータの前記空間節約値の加重平均を行うことであって、前記加重平均によって前記それぞれの空間節約ポテンシャルが生成されることと、
を含む、請求項1に記載の方法。 - 所与のストレージオブジェクトのそれぞれの空間節約ポテンシャルは、該所与のストレージオブジェクトの前回の空間節約結果に基づく、請求項1に記載の方法。
- スケジューリングすることは、
前記ストレージオブジェクトのうちの2つ以上が類似した空間節約ポテンシャルを有することを特定することと、
前記特定することに応答して、相対的な変更ログサイズに基づいて前記ストレージオブジェクトのうちの2つ以上の中から空間節約動作をスケジューリングすることと、
を含む、請求項1に記載の方法。 - 前記複数のストレージオブジェクトを第1のリストに最初に割り当てることと、
経時的に、それぞれの空間節約ポテンシャル及び利用可能なシステムリソースに基づいて、前記ストレージオブジェクトの第1の部分組を第2のリストに割り当てることと、
を更に含む、請求項1に記載の方法。 - 前記ストレージオブジェクトの前記第1の部分組を割り当てることは、前記第1の部分組内の前記ストレージオブジェクトがデータ変更の速さに遅れずに対応する空間節約動作を有しているか否かに少なくとも部分的に基づく、請求項5に記載の方法。
- システムリソースの変化又は空間節約ポテンシャルの変化に応じて、前記ストレージオブジェクトの前記第1の部分組のうちのストレージオブジェクトを、前記第2のリストから前記第1のリストに再度割り当てることを更に含む、請求項5に記載の方法。
- 前記第2のリストは、前記ストレージオブジェクトのうちの、より高いそれぞれの空間節約ポテンシャルを有するストレージオブジェクトを含む、請求項5に記載の方法。
- 経時的に、前記ストレージオブジェクトの第2の部分組を、前記ストレージオブジェクトのうちの、より低いそれぞれの空間節約ポテンシャルを有する他のストレージオブジェクトを含む第3のリストに割り当てることを更に含む、請求項8に記載の方法。
- ネットワークストレージシステム内の記憶サーバーによって実行される、請求項1に記載の方法。
- 複数のストレージオブジェクトについて空間節約を管理するためのコンピュータープログラムロジックを有形に記憶するコンピューター読み出し可能媒体を有するコンピュータープログラム製品であって、該コンピュータープログラム製品は、
前記複数のストレージオブジェクトに対し、経時的に複数の空間節約動作を行うコードと、
前記ストレージオブジェクトごとにそれぞれの空間節約値を計算するコードであって、それによって、所与のストレージオブジェクトについての各後続の空間節約動作の結果として、該所与のストレージオブジェクトについて空間節約値が反復的に再計算される、コードと、
より高いそれぞれの空間節約値を有する前記ストレージオブジェクトの部分組のための処理リソースを優先付けすることによって該処理リソースを空間節約要求に配分するコードと、
を備える、コンピュータープログラム製品。 - 前記複数のストレージオブジェクトを第1のリストに最初に割り当てることと、
経時的に、それぞれの空間節約ポテンシャルに基づいて、前記ストレージオブジェクトの第1の部分組を第2のリストに割り当てることと、
を更に含む、請求項11に記載の方法。 - 前記ストレージオブジェクトの前記第1の部分組を割り当てることは、前記第1の部分組内の前記ボリュームがデータ変更の速さに遅れずに対応する空間節約動作を有しているか否かに少なくとも部分的に基づく、請求項12に記載の方法。
- システムリソースの変化又は空間節約ポテンシャルの変化に応じて、前記ストレージオブジェクトの前記第1の部分組のうちのストレージオブジェクトを、前記第2のリストから前記第1のリストに再度割り当てることを更に含む、請求項12に記載の方法。
- 前記第2のリストは、前記ストレージオブジェクトのうちの、より高いそれぞれの空間節約ポテンシャルを有するストレージオブジェクトを含む、請求項12に記載の方法。
- 不揮発性記憶媒体を含むストレージサブシステムであって、該不揮発性記憶媒体は複数のストレージオブジェクトに仮想的に分割される、ストレージサブシステムと、
前記ストレージサブシステムと通信して、前記複数のストレージオブジェクト内の空間節約のための処理リソースの配分を管理するコンピューターであって、該コンピューターは、以下の動作、すなわち、
前記ストレージオブジェクトごとのそれぞれの空間節約ポテンシャルを、複数の空間節約動作にわたって反復的に計算することと、
空間節約のために前記ストレージオブジェクト間で選択することであって、それによって、第2のストレージオブジェクトの第2の空間節約ポテンシャルよりも高い第1の空間節約ポテンシャルを有する第1のストレージオブジェクトが、前記第1の空間節約ポテンシャルと前記第2の空間節約ポテンシャルとの差に少なくとも部分的に基づいて、空間節約のための前記処理リソースの配分における優先権を受けることと、
を実行するように構成される、コンピューターと、
を備える、システム。 - 前記コンピューターは、記憶ネットワークを介して前記ストレージサブシステムと通信する記憶サーバーを備える、請求項16に記載のシステム。
- 前記コンピューターは、以下の動作、すなわち、
第1のグループと第2のグループとの間で前記複数のストレージオブジェクトを割り当てることであって、前記第1のグループは前記ストレージオブジェクトの第1の部分組を含み、前記第2のグループは前記ストレージオブジェクトの第2の部分組を含み、前記第1の部分組は、前記第2の部分組のそれぞれの空間節約ポテンシャルに対してより高いそれぞれの空間節約ポテンシャルを有すること、
を実行するように更に構成される、請求項16に記載のシステム。 - 前記コンピューターは、以下の動作、すなわち、
前記第1の部分組が前記第2の部分組よりも優先されるように前記空間節約のための処理リソースを配分すること、
を実行するように更に動作可能である、請求項18に記載のシステム。 - 前回の空間節約動作の結果を含む加重平均を実行することによって前記それぞれの空間節約ポテンシャルが計算される、請求項16に記載のシステム。
- 前記それぞれの空間節約ポテンシャルは重複除去ポテンシャル及び圧縮ポテンシャルのうちの少なくとも1つを含む、請求項16に記載のシステム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/436,554 US8812456B2 (en) | 2012-03-30 | 2012-03-30 | Systems, methods, and computer program products for scheduling processing to achieve space savings |
US13/436,554 | 2012-03-30 | ||
PCT/US2013/030279 WO2013148143A1 (en) | 2012-03-30 | 2013-03-11 | Systems, methods, and computer program products for scheduling processing to achieve space savings |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015517147A true JP2015517147A (ja) | 2015-06-18 |
JP2015517147A5 JP2015517147A5 (ja) | 2016-07-14 |
Family
ID=49236410
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015503248A Pending JP2015517147A (ja) | 2012-03-30 | 2013-03-11 | 空間節約(spacesavings:空き容量節約)を達成するように処理をスケジューリングするためのシステム、方法及びコンピュータープログラム製品 |
Country Status (4)
Country | Link |
---|---|
US (2) | US8812456B2 (ja) |
JP (1) | JP2015517147A (ja) |
CN (1) | CN104272244B (ja) |
WO (1) | WO2013148143A1 (ja) |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8819208B2 (en) | 2010-03-05 | 2014-08-26 | Solidfire, Inc. | Data deletion in a distributed data storage system |
US9054992B2 (en) | 2011-12-27 | 2015-06-09 | Solidfire, Inc. | Quality of service policy sets |
US9838269B2 (en) | 2011-12-27 | 2017-12-05 | Netapp, Inc. | Proportional quality of service based on client usage and system metrics |
US9262428B2 (en) | 2012-04-23 | 2016-02-16 | International Business Machines Corporation | Preserving redundancy in data deduplication systems by designation of virtual address |
US9779103B2 (en) | 2012-04-23 | 2017-10-03 | International Business Machines Corporation | Preserving redundancy in data deduplication systems |
US8996881B2 (en) | 2012-04-23 | 2015-03-31 | International Business Machines Corporation | Preserving redundancy in data deduplication systems by encryption |
US10133747B2 (en) | 2012-04-23 | 2018-11-20 | International Business Machines Corporation | Preserving redundancy in data deduplication systems by designation of virtual device |
US20150244795A1 (en) | 2014-02-21 | 2015-08-27 | Solidfire, Inc. | Data syncing in a distributed system |
US9565250B2 (en) * | 2014-05-30 | 2017-02-07 | Microsoft Technology Licensing, Llc | Data transfer service |
CN105468733B (zh) * | 2015-11-23 | 2019-04-19 | 上海爱数信息技术股份有限公司 | 一种基于源端数据重删的卷复制方法 |
US10929022B2 (en) * | 2016-04-25 | 2021-02-23 | Netapp. Inc. | Space savings reporting for storage system supporting snapshot and clones |
US10318161B2 (en) * | 2016-06-20 | 2019-06-11 | Red Hat Israel, Ltd. | Virtual machine initiated memory deduplication |
US10664200B2 (en) * | 2016-08-30 | 2020-05-26 | International Business Machines Corporation | Directing read request with disk deduplication |
US10642763B2 (en) | 2016-09-20 | 2020-05-05 | Netapp, Inc. | Quality of service policy sets |
US10255314B2 (en) * | 2017-03-16 | 2019-04-09 | International Business Machines Corporation | Comparison of block based volumes with ongoing inputs and outputs |
US10795861B2 (en) | 2018-06-20 | 2020-10-06 | International Business Machines Corporation | Online measurement of potential deduplication efficiency |
CN109005577B (zh) * | 2018-06-29 | 2021-06-18 | 歌尔科技有限公司 | 一种数据访问方法、装置、智能穿戴设备及存储介质 |
US11010082B2 (en) * | 2018-10-31 | 2021-05-18 | EMC IP Holding Company LLC | Mechanisms for performing accurate space accounting for volume families |
US11221778B1 (en) | 2019-04-02 | 2022-01-11 | Pure Storage, Inc. | Preparing data for deduplication |
US11645013B2 (en) | 2019-11-25 | 2023-05-09 | International Business Machines Corporation | Managing dispersed storage network background tasks |
US11409667B1 (en) * | 2021-04-15 | 2022-08-09 | Dell Products, L.P. | Method and apparatus for accelerating deduplication processing |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2011099098A1 (ja) * | 2010-02-10 | 2011-08-18 | 日本電気株式会社 | ストレージ装置 |
US8095756B1 (en) * | 2009-04-28 | 2012-01-10 | Netapp, Inc. | System and method for coordinating deduplication operations and backup operations of a storage volume |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5990810A (en) | 1995-02-17 | 1999-11-23 | Williams; Ross Neil | Method for partitioning a block of data into subblocks and for storing and communcating such subblocks |
WO2003005203A2 (en) | 2001-07-03 | 2003-01-16 | Research In Motion Limited | System and method of object-oriented persistence |
US8280926B2 (en) * | 2003-08-05 | 2012-10-02 | Sepaton, Inc. | Scalable de-duplication mechanism |
US7426617B2 (en) | 2004-02-04 | 2008-09-16 | Network Appliance, Inc. | Method and system for synchronizing volumes in a continuous data protection system |
US8165221B2 (en) | 2006-04-28 | 2012-04-24 | Netapp, Inc. | System and method for sampling based elimination of duplicate data |
US8117464B1 (en) | 2008-04-30 | 2012-02-14 | Netapp, Inc. | Sub-volume level security for deduplicated data |
US8112661B1 (en) | 2009-02-02 | 2012-02-07 | Netapp, Inc. | Method and system for changing a protection policy for a dataset in a network storage system |
US8108447B2 (en) * | 2010-03-11 | 2012-01-31 | Symantec Corporation | Systems and methods for garbage collection in deduplicated data systems |
CN101916171A (zh) * | 2010-07-16 | 2010-12-15 | 中国科学院计算技术研究所 | 一种并发层次式的重复数据消除方法和系统 |
KR20120072909A (ko) * | 2010-12-24 | 2012-07-04 | 주식회사 케이티 | 내용 기반 중복 방지 기능을 가지는 분산 저장 시스템 및 그 오브젝트 저장 방법 및 컴퓨터에 의하여 독출가능한 저장 매체 |
US8554918B1 (en) * | 2011-06-08 | 2013-10-08 | Emc Corporation | Data migration with load balancing and optimization |
-
2012
- 2012-03-30 US US13/436,554 patent/US8812456B2/en active Active
-
2013
- 2013-03-11 CN CN201380023646.5A patent/CN104272244B/zh active Active
- 2013-03-11 JP JP2015503248A patent/JP2015517147A/ja active Pending
- 2013-03-11 WO PCT/US2013/030279 patent/WO2013148143A1/en active Application Filing
-
2014
- 2014-08-14 US US14/460,032 patent/US9280571B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8095756B1 (en) * | 2009-04-28 | 2012-01-10 | Netapp, Inc. | System and method for coordinating deduplication operations and backup operations of a storage volume |
WO2011099098A1 (ja) * | 2010-02-10 | 2011-08-18 | 日本電気株式会社 | ストレージ装置 |
Also Published As
Publication number | Publication date |
---|---|
CN104272244A (zh) | 2015-01-07 |
WO2013148143A1 (en) | 2013-10-03 |
CN104272244B (zh) | 2017-09-29 |
US20130262404A1 (en) | 2013-10-03 |
US9280571B2 (en) | 2016-03-08 |
US8812456B2 (en) | 2014-08-19 |
US20140358873A1 (en) | 2014-12-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2015517147A (ja) | 空間節約(spacesavings:空き容量節約)を達成するように処理をスケジューリングするためのシステム、方法及びコンピュータープログラム製品 | |
CN106662981B (zh) | 存储设备、程序和信息处理方法 | |
US8375180B2 (en) | Storage application performance matching | |
US9442954B2 (en) | Method and apparatus for achieving optimal resource allocation dynamically in a distributed computing environment | |
US8429307B1 (en) | Application aware intelligent storage system | |
JP5500256B2 (ja) | ストレージシステム | |
US8769225B2 (en) | Optimization of data migration between storage mediums | |
US11182344B2 (en) | File granular data de-duplication effectiveness metric for data de-duplication | |
EP2966562A1 (en) | Method to optimize inline i/o processing in tiered distributed storage systems | |
US11893256B2 (en) | Partitioning of deduplication domains in storage systems | |
US11914894B2 (en) | Using scheduling tags in host compute commands to manage host compute task execution by a storage device in a storage system | |
US9122614B1 (en) | Modular block-allocator for data storage systems | |
US10754556B2 (en) | Prioritization of virtual volumes to take offline in a thin provisioning system | |
US10895995B2 (en) | Capacity based load balancing in distributed storage systems with deduplication and compression functionalities | |
US20170060472A1 (en) | Transparent hybrid data storage | |
US8499131B2 (en) | Capping a number of locations referred to by chunk references | |
Douglis et al. | Content-aware load balancing for distributed backup | |
US10489074B1 (en) | Access rate prediction in a hybrid storage device | |
US10809941B2 (en) | Multi-tiered storage | |
Cha et al. | Analysis of i/o performance for optimizing software defined storage in cloud integration | |
US10705752B2 (en) | Efficient data migration in hierarchical storage management system | |
US20200073554A1 (en) | Applying Percentile Categories to Storage Volumes to Detect Behavioral Movement | |
US10809937B2 (en) | Increasing the speed of data migration | |
TW201643755A (zh) | 具有輕量級容器節點的儲存系統 | |
US11675539B2 (en) | File system operations for a storage supporting a plurality of submission queues |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20151127 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20151207 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160311 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160311 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160226 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160422 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170131 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170207 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170502 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20171031 |