CN106611364B - 存储碎片整理方法及装置 - Google Patents
存储碎片整理方法及装置 Download PDFInfo
- Publication number
- CN106611364B CN106611364B CN201510689640.2A CN201510689640A CN106611364B CN 106611364 B CN106611364 B CN 106611364B CN 201510689640 A CN201510689640 A CN 201510689640A CN 106611364 B CN106611364 B CN 106611364B
- Authority
- CN
- China
- Prior art keywords
- snapshot
- sorting
- storage
- defragmentation
- fragments
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 239000012634 fragment Substances 0.000 title claims abstract description 38
- 230000008569 process Effects 0.000 claims abstract description 23
- 238000004088 simulation Methods 0.000 claims abstract description 15
- 230000005012 migration Effects 0.000 claims description 4
- 238000013508 migration Methods 0.000 claims description 4
- 238000005516 engineering process Methods 0.000 abstract description 3
- 238000010586 diagram Methods 0.000 description 16
- 238000013467 fragmentation Methods 0.000 description 3
- 238000006062 fragmentation reaction Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 238000007596 consolidation process Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000005265 energy consumption Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 230000008439 repair process Effects 0.000 description 2
- 238000005096 rolling process Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种存储碎片整理方法及装置,涉及存储系统管理技术领域。其中的方法包括:对存储碎片进行模拟整理;根据模拟整理的结果生成快照,所述快照包括各个整理步骤、每个整理步骤中数据块和存放所述数据块的存储块之间的对应关系、以及每个整理步骤的完成标记;根据所述快照对存储碎片进行整理。因此在数据移动过程中,即使发生意外中断,利用快照通过回滚技术可以解决数据损坏问题,并且可以从中断点继续进行碎片整理,从而使得企业级存储系统也可以放心地进行碎片整理。
Description
技术领域
本发明涉及存储系统管理技术领域,特别涉及一种存储碎片整理方法。
背景技术
现有的存储碎片整理技术,是将逻辑上连续而物理上没有连续存放的数据,通过移动数据存放到物理上的连续区域内,消除存储碎片,从而提高数据读取速度,降低存储系统能耗,并且防止存储碎片的进一步产生。
然而,在移动数据过程中,如果发生系统意外中断,没有办法在系统重启后恢复到中断点继续整理。更糟糕的是,系统的意外中断可能造成数据损坏。尤其企业级的存储系统碎片整理,耗时巨大,数据敏感性很高,一旦整理过程发生意外中断,轻则造成前面的整理工作白做,重者造成数据损坏,给企业带来巨大损失。所以一般企业级存储系统不敢做碎片整理,任由碎片产生、蔓延,造成数据读写性能日趋下降,系统能耗日趋增高。
发明内容
本发明实施例所要解决的一个技术问题是:整理存储碎片时在数据移动过程中由于系统意外中断造成的无法从断点恢复或数据损坏的问题,以使得企业级存储系统也可以进行碎片整理。
根据本发明实施例的一个方面,提供的一种存储碎片整理方法,包括:对存储碎片进行模拟整理;根据模拟整理的结果生成快照,快照包括各个整理步骤、每个整理步骤中数据块和存放数据块的存储块之间的对应关系、以及每个整理步骤的完成标记;根据快照对存储碎片进行整理。
根据快照对存储碎片进行整理包括:在整理存储碎片的过程中如果发生中断,根据快照记录的各个整理步骤的完成标记确定断点,根据快照将存储碎片的整理进度回滚到断点的前一整理步骤,并从断点处继续对存储碎片进行整理。
根据本发明实施例的另一个方面,提供的一种存储碎片整理装置,包括:模拟整理单元,用于对存储碎片进行模拟整理;快照生成单元,用于根据模拟整理的结果生成快照,快照包括各个整理步骤、每个整理步骤中数据块和存放数据块的存储块之间的对应关系、以及每个整理步骤的完成标记;碎片整理单元,用于根据快照对存储碎片进行整理。
碎片整理单元用于:在整理存储碎片的过程中如果发生中断,根据快照记录的各个整理步骤的完成标记确定断点,根据快照将存储碎片的整理进度回滚到断点的前一整理步骤,并从断点处继续对存储碎片进行整理。
本发明通过对存储碎片进行模拟整理,并生成相应的快照,然后按照快照对存储碎片进行整理,在数据移动过程中,即使发生意外中断,利用快照通过回滚技术可以解决数据损坏问题,并且可以从中断点继续进行碎片整理,从而使得企业级存储系统也可以放心地进行碎片整理。
通过以下参照附图对本发明的示例性实施例的详细描述,本发明的其它特征及其优点将会变得清楚。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1示出根据本发明存储碎片整理方法的一个实施例的流程示意图。
图2A示出根据本发明存储碎片整理方法的另一个实施例的流程示意图。
图2B示出根据本发明用于存储碎片整理工作的一个快照示意图。
图3A示出根据本发明存储碎片整理方法的又一个实施例的流程示意图。
图3B示出本发明一个应用实施例在碎片整理前的数据存储情况示意图。
图3C示出前述应用实施例在碎片整理过程中发生意外中断的情况。
图3D示出前述应用实施例用于修复数据的快照示意图。
图3E示出前述应用实施例修复错误后的数据存储情况示意图。
图4示出根据本发明存储碎片整理装置的一个实施例的结构示意图。
图5示出根据本发明存储碎片整理装置的另一个实施例的结构示意图。
图6示出根据本发明存储碎片整理装置的又一个实施例的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本发明及其应用或使用的任何限制。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
下面参考图1描述本发明一个实施例的存储碎片整理方法。
图1示出根据本发明存储碎片整理方法的一个实施例的流程示意图。如图1所示,该实施例的方法包括:
步骤S102,对存储碎片进行模拟整理。模拟整理的方法和过程完全和实际整理一致,但并不对数据进行实际迁移。
步骤S104,根据模拟整理的结果生成快照,快照包括各个整理步骤、每个整理步骤中数据块和存放数据块的存储块之间的对应关系、以及每个整理步骤的完成标记。
例如,参考图2B,上述快照可以包括4列:第一列为步骤号,实际整理时一次数据移动为完成一步;第二列为存储块号,是物理存储块的标记,对应于操作系统层面或存储管理系统层面的存储介质块;第三列为数据块号,通过编号记录、追踪物理存储块的存储数据的变动;第四列为各个整理步骤的完成标记,可以记录完成到哪一步骤。
此外,快照可以存放在无需进行碎片整理的存储卷中,这样可以避免快照的内容被损坏。
步骤S106,根据快照对存储碎片进行整理。
下面参考图2A描述本发明根据快照对存储碎片进行整理的过程。
图2A示出根据本发明存储碎片整理方法的另一个实施例的流程示意图。如图2所示,本实施例的方法包括:
步骤S102,对存储碎片进行模拟整理。
步骤S104,根据模拟整理的结果生成快照。
步骤S2052,可选的,判断是否进行了写操作。如果进行了写操作,则执行步骤S2054,如果没有写操作,执行步骤S2062。
步骤S2054,根据写操作对快照进行修改,从而保证快照能够准确反映存储碎片的最新状况,以利于迁移工作的顺利进行。修改完成之后,再继续进行后续的整理步骤,例如步骤S2062。
步骤S2062,根据快照记录的数据块和存放数据块的存储块之间的对应关系,按照整理步骤的顺序将数据块迁移到对应的存储块。
步骤S2064,迁移成功后,将该整理步骤的完成标记修改为已完成。
步骤S208,判断是否已经完成存储碎片的整理工作,如果已经完成,则流程结束,如果还未完成,则返回步骤S2052继续执行。
下面结合一个应用示例描述上述存储碎片的整理过程。
图2B示出用于存储碎片整理工作的一个快照示例。如图2B所示,某一串数据由3个数据块组成,分别为数据块a、数据块b、数据块c,第0步的记录信息为整理开始前的存储信息,此时数据块a、b、c分别存放在存储块3、5、32上,物理上不连续;第1步进行一步数据移动,将数据块b移动到存储块4,若顺利完成第1步的数据移动,则可以标记为ok,表示已完成;第2步再进行下一步数据移动,将c数据块移动到5存储块,从而a、b、c数据库存放到连续的3、4、5物理存储块上,完成碎片整理。
下面参考图3A描述本发明对存储碎片进行整理过程中发生中断的处理情形。
图3A示出根据本发明存储碎片整理方法的另一个实施例的流程示意图。如图3A所示,本实施例的方法包括:
步骤S302,根据快照记录的各个整理步骤的完成标记确定断点。
步骤S304,根据快照将存储碎片的整理进度回滚到断点的前一整理步骤。
然后,从断点处继续对存储碎片进行整理。继续整理的过程可以参考步骤S2052~步骤S208,这里不再赘述。
对于不同的操作系统和存储系统,碎片整理的流程和技术方案完全一致,但快照的内容根据系统的不同而有细节的不同。以Windows系统举例,Windows系统下的硬盘分为磁道和簇,同一磁道相邻的簇为连续的存储区域,彼此通过指针连接。下面结合一个Windows系统整理存储碎片的过程,来说明碎片整理过程中的中断处理过程。
如图3B所示,在碎片整理前,数据“中国好声音”由3个数据块a“中国”、数据块b“好”和数据块c“声音”组成,数据块a、数据块b和数据块c存放在3个硬盘簇中,分别存放在硬盘簇1、硬盘簇5和硬盘簇3。硬盘簇1、硬盘簇5和硬盘簇3不在同一个磁道中,因而存在数据碎片。
如图3C所示,在数据碎片的整理过程中,需要将数据块b记录的数据“好”从硬盘簇5复制到硬盘簇2。复制完成后,硬盘簇5中的数据并不删除,只标志空闲,系统进行回收;同时,系统需要将硬盘簇1的指针更新为指向硬盘簇2,假设将硬盘簇2的指针更新为指向硬盘簇3时,系统意外中断,则硬盘簇2指针发生错误,数据“声音”丢失。
此时,可以利用本发明的方法查找快照,用于修改数据的快照参考图3D所示,根据完成标识确定断点的位置位于步骤6,最近成功的步骤为步骤5,于是回滚到步骤5,以修复错误。此时,参考图3E所示的修改错误后的情况,硬盘簇2的数据虽然还存在,但是已经标志为空闲,系统进行回收。回滚到步骤5后,“声音”2字找回,系统继续根据快照进行碎片整理。
上述方法可以使得数据移动过程中,即使系统意外中断造成数据损坏的问题,仍可以使得碎片整理过程可以从中断点继续进行,从而使得企业级存储系统也可以进行碎片整理。
下面参考图4描述本发明存储碎片整理装置的一个实施例的结构。
图4示出根据本发明存储碎片整理装置的一个实施例的结构示意图。如图4所示,该实施例的碎片整理装置400包括:
模拟整理单元402,用于对存储碎片进行模拟整理;
快照生成单元404,用于根据模拟整理的结果生成快照,快照包括各个整理步骤、每个整理步骤中数据块和存放数据块的存储块之间的对应关系、以及每个整理步骤的完成标记;
碎片整理单元406,用于根据快照对存储碎片进行整理。
碎片整理单元406还可以用于:在整理存储碎片的过程中如果发生中断,根据快照记录的各个整理步骤的完成标记确定断点,根据快照将存储碎片的整理进度回滚到断点的前一整理步骤,并从断点处继续对存储碎片进行整理。
碎片整理单元406还可以进一步用于:根据快照记录的数据块和存放数据块的存储块之间的对应关系,按照整理步骤的顺序将数据块迁移到对应的存储快,迁移成功后,将该整理步骤的完成标记修改为已完成。
下面参考图5描述本发明存储碎片整理装置的另一个实施例的结构。
图5示出根据本发明存储碎片整理装置的另一个实施例的结构示意图。如图5所示,该实施例的碎片整理装置500还包括:
判断单元508和快照修改单元510,其中判断单元508用于在根据快照对存储碎片进行整理之前,判断是否进行了写操作,如果进行了写操作,快照修改单元510根据写操作对快照进行修改。
下面参考图6描述本发明存储碎片整理装置的又一个实施例的结构。
图6示出根据本发明存储碎片整理装置的又一个实施例的结构示意图。如图6所示,该实施例的碎片整理装置600还包括存储单元612无需进行碎片整理,用于存放快照。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (8)
1.一种存储碎片整理方法,包括:
对存储碎片进行模拟整理;
根据模拟整理的结果生成快照,所述快照包括各个整理步骤、每个整理步骤中数据块和存放所述数据块的存储块之间的对应关系、以及每个整理步骤的完成标记;
根据所述快照对存储碎片进行整理,根据所述快照记录的数据块和存放所述数据块的存储块之间的对应关系,按照整理步骤的顺序将数据块迁移到对应的存储快,迁移成功后,将该整理步骤的完成标记修改为已完成。
2.根据权利要求1所述的方法,其特征在于,所述根据所述快照对存储碎片进行整理包括:
在整理存储碎片的过程中如果发生中断,根据所述快照记录的各个整理步骤的完成标记确定断点,根据所述快照将存储碎片的整理进度回滚到断点的前一整理步骤,并从断点处继续对存储碎片进行整理。
3.根据权利要求1或2所述的方法,其特征在于,在根据所述快照对存储碎片进行整理之前,所述方法还包括:
判断是否进行了写操作,如果进行了写操作,根据所述写操作对所述快照进行修改。
4.根据权利要求1或2所述的方法,其特征在于,所述方法还包括:
将所述快照存放在无需进行碎片整理的存储卷中。
5.一种存储碎片整理装置,包括:
模拟整理单元,用于对存储碎片进行模拟整理;
快照生成单元,用于根据模拟整理的结果生成快照,所述快照包括各个整理步骤、每个整理步骤中数据块和存放所述数据块的存储块之间的对应关系、以及每个整理步骤的完成标记;
碎片整理单元,用于根据所述快照对存储碎片进行整理。
6.根据权利要求5所述的装置,其特征在于,所述碎片整理单元用于:
在整理存储碎片的过程中如果发生中断,根据所述快照记录的各个整理步骤的完成标记确定断点,根据所述快照将存储碎片的整理进度回滚到断点的前一整理步骤,并从断点处继续对存储碎片进行整理。
7.根据权利要求5或6所述的装置,其特征在于,所述装置还包括:
判断单元和快照修改单元,其中,判断单元用于在根据所述快照对存储碎片进行整理之前,判断是否进行了写操作,如果进行了写操作,快照修改单元根据所述写操作对所述快照进行修改。
8.根据权利要求5或6所述的装置,其特征在于,所述装置还包括:
存储单元无需进行碎片整理,用于存放所述快照。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510689640.2A CN106611364B (zh) | 2015-10-22 | 2015-10-22 | 存储碎片整理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510689640.2A CN106611364B (zh) | 2015-10-22 | 2015-10-22 | 存储碎片整理方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106611364A CN106611364A (zh) | 2017-05-03 |
CN106611364B true CN106611364B (zh) | 2020-07-24 |
Family
ID=58610649
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510689640.2A Active CN106611364B (zh) | 2015-10-22 | 2015-10-22 | 存储碎片整理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106611364B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108255629B (zh) * | 2017-09-22 | 2020-09-22 | 平安科技(深圳)有限公司 | 断点数据获取方法及终端设备 |
CN109344118B (zh) * | 2018-09-26 | 2021-10-15 | 郑州云海信息技术有限公司 | 快照回滚恢复方法、系统、装置及计算机可读存储介质 |
CN111831752B (zh) * | 2020-07-20 | 2024-06-04 | 北京百度网讯科技有限公司 | 分布式数据库的空间整理方法、装置、设备以及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101404028A (zh) * | 2008-11-07 | 2009-04-08 | 宇龙计算机通信科技(深圳)有限公司 | 一种整理文件碎片的方法和系统 |
CN102638579A (zh) * | 2012-03-29 | 2012-08-15 | 深圳市高正软件有限公司 | 一种基于移动设备数据传输的数据处理方法及系统 |
CN102945275A (zh) * | 2012-11-08 | 2013-02-27 | 华为技术有限公司 | 文件碎片整理方法、装置及设备 |
CN103562881A (zh) * | 2011-05-25 | 2014-02-05 | 国际商业机器公司 | 数据存储池的碎片整理 |
CN104375949A (zh) * | 2014-12-01 | 2015-02-25 | 恒宝股份有限公司 | 一种智能卡存储空间整理方法及系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8327050B2 (en) * | 2005-04-21 | 2012-12-04 | International Business Machines Corporation | Systems and methods for compressing files for storage and operation on compressed files |
-
2015
- 2015-10-22 CN CN201510689640.2A patent/CN106611364B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101404028A (zh) * | 2008-11-07 | 2009-04-08 | 宇龙计算机通信科技(深圳)有限公司 | 一种整理文件碎片的方法和系统 |
CN103562881A (zh) * | 2011-05-25 | 2014-02-05 | 国际商业机器公司 | 数据存储池的碎片整理 |
CN102638579A (zh) * | 2012-03-29 | 2012-08-15 | 深圳市高正软件有限公司 | 一种基于移动设备数据传输的数据处理方法及系统 |
CN102945275A (zh) * | 2012-11-08 | 2013-02-27 | 华为技术有限公司 | 文件碎片整理方法、装置及设备 |
CN104375949A (zh) * | 2014-12-01 | 2015-02-25 | 恒宝股份有限公司 | 一种智能卡存储空间整理方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN106611364A (zh) | 2017-05-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN100478946C (zh) | 用于文件系统快照持久性的方法和装置 | |
CN103970585B (zh) | 创建虚拟机的方法及装置 | |
US7325112B2 (en) | High-speed snapshot method | |
US9448890B2 (en) | Aggregation of write traffic to a data store | |
US8856469B2 (en) | Apparatus and method for logging optimization using non-volatile memory | |
CN110399310B (zh) | 一种存储空间的回收方法及装置 | |
KR101870521B1 (ko) | 스토리지 저널링을 개선하는 방법 및 시스템 | |
CN108460045B (zh) | 一种快照的处理方法及分布式块存储系统 | |
CN109542682B (zh) | 一种数据备份方法、装置、设备和存储介质 | |
CN107391774B (zh) | 基于重复数据删除的日志文件系统的垃圾回收方法 | |
JP2013528883A5 (zh) | ||
CN104166605B (zh) | 基于增量数据文件的数据备份方法及系统 | |
US10402279B2 (en) | Optimization to permit block based incremental backup across system reboot or crash | |
CN103617097B (zh) | 文件恢复方法及装置 | |
CN104077380A (zh) | 一种重复数据删除方法、装置及系统 | |
US8019953B2 (en) | Method for providing atomicity for host write input/outputs (I/Os) in a continuous data protection (CDP)-enabled volume using intent log | |
CN106611364B (zh) | 存储碎片整理方法及装置 | |
CN103034592A (zh) | 数据处理方法和装置 | |
US8938641B2 (en) | Method and apparatus for synchronizing storage volumes | |
CN106096447A (zh) | 一种文件保护方法及装置 | |
CN105556462A (zh) | 写入文件和文件元数据 | |
CN109325005A (zh) | 一种数据处理方法和电子设备 | |
CN105739918A (zh) | 虚拟机的存储在线迁移方法及装置 | |
CN110209530B (zh) | 一种恢复cdp系统io数据的方法及系统 | |
CN108052411B (zh) | 一种单向链表中断的修复方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
EE01 | Entry into force of recordation of patent licensing contract | ||
EE01 | Entry into force of recordation of patent licensing contract |
Application publication date: 20170503 Assignee: Tianyiyun Technology Co.,Ltd. Assignor: CHINA TELECOM Corp.,Ltd. Contract record no.: X2024110000040 Denomination of invention: Storage fragmentation method and device Granted publication date: 20200724 License type: Common License Record date: 20240914 |