CN110597797A - 表空间碎片回收方法、装置、电子设备及存储介质 - Google Patents

表空间碎片回收方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN110597797A
CN110597797A CN201910873348.4A CN201910873348A CN110597797A CN 110597797 A CN110597797 A CN 110597797A CN 201910873348 A CN201910873348 A CN 201910873348A CN 110597797 A CN110597797 A CN 110597797A
Authority
CN
China
Prior art keywords
data
data page
page
free
space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910873348.4A
Other languages
English (en)
Inventor
刘昭毅
陈辉
秦亚杰
余杰
汪国辉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN201910873348.4A priority Critical patent/CN110597797A/zh
Publication of CN110597797A publication Critical patent/CN110597797A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/0223User address space allocation, e.g. contiguous or non contiguous base addressing
    • G06F12/023Free address space management
    • G06F12/0253Garbage collection, i.e. reclamation of unreferenced memory
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/21Design, administration or maintenance of databases
    • G06F16/215Improving data quality; Data cleansing, e.g. de-duplication, removing invalid entries or correcting typographical errors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/22Indexing; Data structures therefor; Storage structures
    • G06F16/2228Indexing structures
    • G06F16/2246Trees, e.g. B+trees

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Quality & Reliability (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请公开了表空间碎片回收方法、装置、电子设备及存储介质,涉及数据库管理系统技术领域。具体实现方案为:将数据页中的数据按照物理顺序向前迁移,以在表空间的末尾构造出空闲数据页;所述表空间为多个数据页按照所述物理顺序构成的数据空间;释放所述表空间末尾的空闲数据页。本申请能够在不对磁盘空间带来额外压力的情况下实现对表空间碎片的回收。

Description

表空间碎片回收方法、装置、电子设备及存储介质
技术领域
本申请涉及一种数据领域,尤其涉及一种数据库管理系统技术领域。
背景技术
MySQL是一种关系型数据库管理系统,InnoDB是MySQL的数据库 引擎之一。在InnoDB引擎中,数据页以B+树(B+Tree)进行组织管理, 通过指针确定数据页的逻辑顺序。B+树是一种树形数据结构数据页按照物 理顺序构成的数据空间称为表空间。同一个数据页在表空间中的物理顺序 与在B+树中的逻辑顺序无关。
InnoDB引擎的表空间碎片(以下简称:表空间碎片)是指随着InnoDB 引擎不断地运行,在表空间中产生的无法被利用的空闲空间。由于InnoDB 引擎对表空间碎片的管理有不足之处,并不能高效地利用这些碎片空间, 导致表空间碎片逐渐增多,磁盘空间浪费的现象逐渐加重。
目前已有的表空间碎片回收技术一般需要构建新的表,将原始表中的 数据插入新表中,导致占用大量的磁盘空间,对磁盘空间的压力较大。
发明内容
第一方面,本申请实施例提出一种表空间碎片回收方法,包括:
将数据页中的数据按照物理顺序向前迁移,以在表空间的末尾构造出空 闲数据页;所述表空间为多个数据页按照所述物理顺序构成的数据空间;
释放所述表空间末尾的空闲数据页。
本申请实施例首先将数据页中的数据按照物理顺序向前迁移,从而在表 空间的末尾构造出空闲数据页,之后释放这些空闲数据页。由于本申请实施 例在表空间碎片回收过程中不会创建新表,占用的总磁盘空间不会增加,因 此不会对磁盘空间带来新的压力。
在一种实施方式中,所述将数据页中的数据按照物理顺序向前迁移之前, 还包括:
合并不同数据页中的空间碎片,以在树形数据结构中构造出空闲数据页; 所述树形数据结构为多个数据页按照逻辑顺序构成的数据空间;
释放树形数据结构中的所述空闲数据页。
在上述实施例中,在数据迁移之前合并数据页中的空间碎片,能够减少 页内碎片空间,同时释放空闲的数据页,供数据迁移使用。
在一种实施方式中,所述合并不同数据页中的空间碎片,包括:将数据 页中的数据按照所述逻辑顺序向前迁移。
由于数据页在树形数据结构中是以逻辑顺序组织管理的,因此,本申请 实施例可以在合并数据页中的空间碎片时按照逻辑顺序将数据向前迁移,从 而减少页内碎片空间。
在一种实施方式中,所述将数据页中的数据按照物理顺序向前迁移,包 括:
将所述表空间中末尾位置的数据页设置为当前数据页,以将所述不同数 据页中的空间碎片集中到所述逻辑顺序的末尾;
在所述当前数据页中存在数据的情况下,查找所述表空间中的第一个空 闲数据页,在所述第一个空闲数据页位于所述当前数据页之前的情况下,将 所述当前数据页中的数据迁移至所述表空间中的第一个空闲数据页;
将所述当前数据页的前一个数据页设置为新的当前数据页,返回执行所 述在所述当前数据页中存在数据页的情况下,查找所述表空间中的第一个空 闲数据页的步骤。
本申请实施例采用遍历的方式,从后往前将数据页中的数据迁移至前面 的空闲数据页中,从而在表空间的末尾构建空闲数据页,以便从末尾释放空 闲数据页,因此避免了构建新的表,避免对磁盘空间造成额外的压力。
在一种实施方式中,所述释放所述表空间末尾的空闲数据页,包括:
在所述表空间末尾连续的空闲数据页构成一个空闲的数据区域的情况下, 对所述表空间添加互斥锁;
释放所述空闲的数据区域,移除所述互斥锁。
在释放空闲数据页,本申请实施例以数据区域为单位进行释放,并且在 释放的过程中使用互斥锁,避免了释放空间过程中对数据文件的损坏。
第二方面,本申请实施例提出一种表空间碎片回收装置,包括:
数据迁移模块,将数据页中的数据按照物理顺序向前迁移,以在表空间 的末尾构造出空闲数据页;所述表空间为多个数据页按照所述物理顺序构成 的数据空间;
空间回收模块,用于释放所述表空间末尾的空闲数据页。
在一种实施方式中,还包括:
碎片整理模块,用于合并不同数据页中的空间碎片,以在树形数据结构 中构造出空闲数据页;所述树形数据结构为多个数据页按照逻辑顺序构成的 数据空间;释放树形数据结构中的所述空闲数据页。
在一种实施方式中,所述碎片整理模块,用于将数据页中的数据按照所 述逻辑顺序向前迁移,以使所述不同数据页中的空间碎片集中到所述逻辑顺 序的末尾。
在一种实施方式中,所述数据迁移模块,包括:
设置子模块,用于将所述表空间中末尾位置的数据页设置为当前数据页;
迁移子模块,用于在所述当前数据页中存在数据的情况下,查找所述表 空间中的第一个空闲数据页,在所述第一个空闲数据页位于所述当前数据页 之前的情况下,将所述当前数据页中的数据迁移至所述表空间中的第一个空 闲数据页;
重设置子模块,用于将所述当前数据页的前一个数据页设置为新的当前 数据页,并指示所述迁移子模块针对所述新的当前数据页执行数据迁移。
在一种实施方式中,所述碎片整理模块用于,在所述表空间末尾连续的 空闲数据页构成一个空闲的数据区域的情况下,对所述表空间添加互斥锁; 释放所述空闲的数据区域,移除所述互斥锁。
第三方面,本申请实施例提出一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被 所述至少一个处理器执行,以使所述至少一个处理器能够执行第一方面中 任一项所述的方法。
第四方面,本申请实施例提出一种存储有计算机指令的非瞬时计算机 可读存储介质,所述计算机指令用于使所述计算机执行第一方面中任一项 所述的方法。
上述申请中的一个实施例具有如下优点或有益效果:本申请实施例首先 将数据页中的数据按照物理顺序向前迁移,从而在表空间的末尾构造出空闲 数据页,之后释放这些空闲数据页。由于本申请实施例在表空间碎片回收过 程中不会创建新表,占用的总磁盘空间不会增加,因此不会对磁盘空间带来 新的压力。
上述可选方式所具有的其他效果将在下文中结合具体实施例加以说 明。
附图说明
附图用于更好地理解本方案,不构成对本申请的限定。其中:
图1为根据本申请实施例的一种表空间碎片回收方法实现流程图一;
图2为根据本申请实施例的一种表空间碎片回收方法实现流程图二;
图3为根据本申请实施例的一种表空间碎片回收方法中,将数据页中 的数据按照物理顺序向前迁移的实现流程图;
图4为根据本申请实施例的一种表空间碎片回收方法中,释放表空间 末尾的空闲数据页的实现流程图;
图5A为应用于本申请实施例的一个数据页布局结构示意图;
图5B为数据页逻辑顺序与数据迁移顺序示意图;
图5C为经过碎片整理后的数据页布局结构示意图;
图5D为数据迁移的示意图;
图5E为数据迁移后的数据页布局示意图;
图5F为数据迁移后的空闲数据页示意图;
图5G为空间回收后的表空间布局示意图;
图6为根据本申请实施例的一种表空间碎片回收方法实现流程图三;
图7为根据本申请实施例的一种表空间碎片回收装置结构示意图一;
图8为根据本申请实施例的一种表空间碎片回收装置结构示意图二;
图9为用来实现本申请实施例的表空间碎片回收方法的电子设备的框 图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实 施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本 领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和 修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的 描述中省略了对公知功能和结构的描述。
本申请实施例提出一种表空间碎片回收方法,图1为根据本申请实施例 的一种表空间碎片回收方法实现流程图一,包括:
步骤S101:将数据页中的数据按照物理顺序向前迁移,以在表空间的末 尾构造出空闲数据页;表空间为多个数据页按照物理顺序构成的数据空间;
步骤S102:释放表空间末尾的空闲数据页。
本申请实施例还提出另一种表空间碎片回收方法,图2为根据本申请 实施例的一种表空间碎片回收方法实现流程图二。如图2所示,本实施例 在上述实施例步骤S101之前还包括:
S201:合并不同数据页中的空间碎片,以在树形数据结构中构造出空 闲数据页;树形数据结构为多个数据页按照逻辑顺序构成的数据空间;
步骤S202:释放树形数据结构中的空闲数据页。
在一种可能的实施方式中,树形数据结构可以为上述B+树,释放空 闲数据页可以指将空闲数据页的存储空间归还给操作系统。
在一种可能的实施方式中,步骤S201中合并数据页中的空间碎片的方式 可以为:将数据页中的数据按照逻辑顺序向前迁移,以使所述不同数据页中 的空间碎片集中到所述逻辑顺序的末尾。
上述实施例中的表空间碎片回收技术可以归纳为三个阶段:
第一阶段:碎片整理:按照B+树节点的逻辑顺序,将数据向前迁移, 释放迁移后为空的数据页。目的是减少数据页内的碎片空间,同时释放空 闲数据页,供数据迁移步骤使用。本阶段包括上述步骤S201和S202。
第二阶段:数据迁移:将表空间末尾的数据,按照表空间的物理顺序 向前迁移,从而在表空间末尾构造出空闲数据页。这些空闲数据页可以是 连续的。本阶段包括上述步骤S101。
第三阶段:空间回收:释放表空间末尾的空闲数据页,将空闲空间归 还给操作系统,彻底减少表空间占用的磁盘空间。本阶段包括上述步骤 S102。在一种实施方式中,可以调用操作系统的Truncate接口,将连续的 空闲数据页彻底从表空间的末尾删除,归还给操作系统,从而达到回收表 空间碎片的目的。
第二阶段在进行数据迁移时,可通过表空间文件元信息获取表空间的 最后一个数据页,将该数据页中的数据迁移至表空间中的第一个空闲数据 页;之后从后向前遍历表空间的数据页,逐个进行数据迁移操作。
图3为根据本申请实施例的一种表空间碎片回收方法中,将数据页中 的数据按照物理顺序向前迁移的实现流程图,包括:
步骤S301:将表空间中末尾位置的数据页设置为当前数据页;
步骤S302:在当前数据页中存在数据的情况下,查找表空间中的第一个 空闲数据页,在第一个空闲数据页位于当前数据页之前的情况下,将当前数 据页中的数据迁移至表空间中的第一个空闲数据页;在
步骤S303:将当前数据页的前一个数据页设置为新的当前数据页,返回 执行步骤S302。
上述过程中,在当前数据页中不存在数据的情况下,说明对表空间的遍 历已完成,则结束执行流程。或者,在第一个空闲数据页不在当前数据页之 前的情况下,说明没有可供数据迁移的空闲数据页,则结束当前流程。
直至当前数据页中不存在数据(也就是当前数据页为空闲数据页)时, 认为本次数据迁移过程结束,结束上述遍历过程。
在一种可能的实施方式中,可以在表空间末尾连续的空闲数据页构成一 个空闲的数据区域(Extent)时,才将该Extent从链表中移除,并采用Truncate 接口释放对应的空闲空间。在调用Truncate接口释放空闲空间时,如果数据 文件末尾发生表空间扩充等变更操作,会导致Truncate操作前后表空间文件 的状态与元信息不一致,从而导致数据文件损坏。因此,本申请实施例可以 在Truncate操作前获取表锁(例如互斥锁),停止对表空间文件的一切写入, 保证Truncate操作的原子性。并在Truncate操作后移除表锁。
图4为根据本申请实施例的一种表空间碎片回收方法中,释放表空间末 尾的空闲数据页的实现流程图,包括:
步骤S401:在表空间末尾连续的空闲数据页构成一个空闲的数据区 域的情况下,对表空间添加互斥锁;
步骤S402:释放空闲的数据区域,移除互斥锁。
以下参照图5A至图5G,以一个具体的表空间布局为例,介绍针对该 表空间布局的碎片回收过程。
图5A为应用于本申请实施例的一个数据页布局结构示意图。在图5A 中,初始状态下B+树的根数据页(root page)page3下连接6个数据页, 分别为page9、page8、page7、page6、page5和page4。7个数据页在表空 间中的物理顺序为:page3→page4→page5→page6→page7→page8→ page9。InnoDB引擎运行一段时间后,page7和page6中的数据被全部删 除,成为空闲数据页,被从B+树上移除。在图5A、5C、5D、5E中,灰 色的数据页表示空闲数据页。
如图5A所示,page7和page6被移除之后,B+树上的数据页的逻辑 顺序为:page9→page8→page4→page5。
碎片整理会按数据页的逻辑顺序将数据从后向前迁移。图5B为数据 页逻辑顺序与数据迁移顺序示意图。在图5A至图5G中,PK表示主键 (Primary Key),PK:n表示主键为n的数据。如图5B所示,按照逻辑 顺序从后向前的顺序,将page8中的PK为2的数据迁移到page9的页内 空闲位置;将page4中的PK为8的数据迁移到page8的页内空闲位置; 依次执行,直至将page5中的PK为10的数据迁移到page4的页内空闲位 置;最终,page5成为空闲数据页。经过碎片整理步骤,释放了空闲数据 页page5。
图5C为经过碎片整理后的数据页布局结构示意图,在图5C中,page5 成为空闲数据页,被释放出来。
之后,基于图5C显示的数据页布局,将表空间末尾的数据按照数据 页的物理顺序向前迁移,图5D为数据迁移的示意图。如图5D所示,表 空间末尾的数据页page9中的数据被迁移至空闲数据页page5中;向前遍 历,前一个数据页page8中的数据被迁移至空闲数据页page6中。
数据迁移会将空闲数据页加入B+树中,并调整数据页的逻辑顺序,并将 原数据页释放。数据迁移后的数据页布局如图5E所示。
经过上述数据迁移的处理,将page9中的数据迁移至page5,将page8的 数据迁移至数据页6,从而在表空间末尾构造出三个连续的空闲数据页page7、 page8、page9,如图5F所示。
在空间回收的步骤,本申请实施例定位到连续空闲数据页的头部,调 用Truncate接口,将连续的空闲数据页删除,归还给操作系统。图5G为 空间回收后的表空间布局示意图,如图5G所示,空间回收之后,表空间 的数据页减少,释放了表空间末尾的三个连续的空闲数据页page7、page8 和page9。
图6为根据本申请实施例的一种表空间碎片回收方法实现流程图三, 包括:
步骤S601:获取需要进行表空间碎片回收的表空间。
步骤S602:进行碎片整理,消除表空间中数据页内的碎片。
步骤S603:获取表空间末尾数据页的标识,将其标记为当前数据页 的标识(可以用cur_page_no表示)。
步骤S604:根据cur_page_no,获取当前数据页(可以用cur_page表 示)的信息。
步骤S605:判断cur_page中是否有数据,如果有,则执行步骤S606; 否则,执行步骤S612。
步骤S606:从空闲数据页链表中获取最小空闲数据页标识(可以用 free_page_no表示),最小空闲数据页标识也就是在表空间中的第一个空 闲数据页的标识。
步骤S607:判断free_page_no是否小于cur_page_no;如果是,则继 续执行步骤S608;否则,说明cur_page之前没有空闲数据页可供用于数 据迁移,则终止对当前表进行空间碎片回收,结束流程。
步骤S608:根据free_page_no获取表空间中的新的数据页(可以用 new_page)。
步骤S609:将new_page插入B+树中。
步骤S610:将cur_page中的数据迁移到new_page中。
步骤S611:释放cur_page。
步骤S612:判断cur_page是否为Extent的第一个数据页,如果是, 则执行步骤S613;如果不是,则添加数据迁移成功的标记,继续执行步骤 S619。
步骤S613:对表空间添加写锁(例如互斥锁)。
步骤S614:判断Extent是否空闲,如果空闲,则继续执行步骤S615; 否则,移除上述写锁,添加数据迁移失败的标记,继续执行步骤S619。
在本步骤中,如果判断出Extent不是空闲的,则可能是由于在本次碎 片回收过程中,已经被移除出数据的空闲数据页重新被写入新的数据,因 此该空闲数据页又变成非空闲数据页。这种情况下,认为数据迁移失败, 重新从表空间末尾开始进行数据迁移。
步骤S615:将该Extent从空闲清单(如FREE_LIST)中移除。
步骤S616:调用Truncate接口,释放该空闲的Extent。
步骤S617:移除上述写锁。
步骤S618:判断表空间文件是否遍历完成;如果是,则终止对当前 表进行空间碎片回收,结束流程;否则,添加数据迁移成功的标记,继续 执行步骤S619。
步骤S619:根据之前添加的标记,判断数据迁移是否成功,如果是, 则执行步骤S620;否则,执行步骤S621。
步骤S620:将cur_page_no的数值减去1,返回执行步骤S604。本步 骤实现从后向前处理下一个数据页。
步骤S621:重新将cur_page_no设置为表空间末尾的数据页的标识, 返回执行步骤S604。
以上实施例介绍了碎片整理、数据迁移及空间回收的整体流程。本申 请实施例可以用于与对InnoDB表空间,也可以应用于其他类型的表空间。 本申请实施例在碎片回收的过程中不会创建新表,占用的总磁盘空间不会 增加,因此不会为磁盘空间带来新的压力。本申请实施例能够回收表空间 文件的空闲空间,将其归还给操作系统,从而能够真正减少表空间文件占 用的磁盘空间,达到释放磁盘空间的最终目的。并且,本申请实施例不需 要全程对表加锁,而只需要在迁移数据的过程中对被操作的少量数据页加 锁;在空间回收的过程中需要锁表,禁止表空间文件变更,但锁持有时间 短,对业务的影响程度较低。
本申请实施例还提出一种表空间碎片回收装置,图7为根据本申请实施 例一种表空间碎片回收装置的结构示意图一。如图7所示,该表空间碎片回 收装置700包括:
数据迁移模块710,将数据页中的数据按照物理顺序向前迁移,以在表 空间的末尾构造出空闲数据页;所述表空间为多个数据页按照所述物理顺序 构成的数据空间;
空间回收模块720,用于释放所述表空间末尾的空闲数据页。
本申请实施例还提出另一种表空间碎片回收装置,图8为根据本申请实 施例一种表空间碎片回收装置的结构示意图二。如图8所示,该表空间碎片 回收装置800包括:
数据迁移模块710、空间回收模块720和碎片整理模块830;其中,数据 迁移模块710和空间回收模块720与上述实施例中的对应模块功能相同,不 再赘述。
碎片整理模块830,用于合并不同数据页中的空间碎片,以在树形数据 结构中构造出空闲数据页;所述树形数据结构为多个数据页按照逻辑顺序构 成的数据空间;释放树形数据结构中的所述空闲数据页。
在一种可能的实施方式中,碎片整理模块830,用于将数据页中的数据 按照所述逻辑顺序向前迁移,以使所述不同数据页中的空间碎片集中到所述 逻辑顺序的末尾。
在一种可能的实施方式中,如图8所示,数据迁移模块710,包括:
设置子模块711,用于将所述表空间中末尾位置的数据页设置为当前数 据页;
迁移子模块712,用于在所述当前数据页中存在数据的情况下,查找所 述表空间中的第一个空闲数据页,在所述第一个空闲数据页位于所述当前数 据页之前的情况下,将所述当前数据页中的数据迁移至所述表空间中的第一 个空闲数据页;
重设置子模块713,用于将所述当前数据页的前一个数据页设置为新的 当前数据页,并指示所述迁移子模块712针对所述新的当前数据页执行数据 迁移。
在一种可能的实施方式中,碎片整理模块830用于,在所述表空间末尾 连续的空闲数据页构成一个空闲的数据区域的情况下,对所述表空间添加互 斥锁;释放所述空闲的数据区域,移除所述互斥锁。
本申请实施例各装置中的各模块功能可参见上述方法中的对应描述, 在此不再赘述。
根据本申请的实施例,本申请还提供了一种电子设备和一种可读存储 介质。
如图9所示,是根据本申请实施例的表空间碎片回收方法的电子设备 的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、 台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算 机、和其它适合的计算机。电子设备还可以表示各种形式的迁移装置,诸 如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算 装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示 例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图9所示,该电子设备包括:一个或多个处理器901、存储器902, 以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不 同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方 式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存 储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设 备)上显示图形用户界面(Graphical User Interface,GUI)的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多 个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设 备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或 者多处理器系统)。图9中以一个处理器901为例。
存储器902即为本申请所提供的非瞬时计算机可读存储介质。其中, 存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器 执行本申请所提供的表空间碎片回收方法。本申请的非瞬时计算机可读存 储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的 表空间碎片回收方法。
存储器902作为一种非瞬时计算机可读存储介质,可用于存储非瞬时 软件程序、非瞬时计算机可执行程序以及模块,如本申请实施例中的方法 对应的程序指令/模块(例如,附图7所示的数据迁移模块710和空间回收 模块720)。处理器901通过运行存储在存储器902中的非瞬时软件程序、 指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上 述方法实施例中的表空间碎片回收方法。
存储器902可以包括存储程序区和存储数据区,其中,存储程序区可 存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据 表空间碎片回收的电子设备的使用所创建的数据等。此外,存储器902可 以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁 盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中, 存储器902可选包括相对于处理器901远程设置的存储器,这些远程存储 器可以通过网络连接至表空间碎片回收的电子设备。上述网络的实例包括 但不限于互联网、企业内部网、局域网、迁移通信网及其组合。
表空间碎片回收方法的电子设备还可以包括:输入装置903和输出装 置904。处理器901、存储器902、输入装置903和输出装置904可以通过 总线或者其他方式连接,图9中以通过总线连接为例。
输入装置903可接收输入的数字或字符信息,以及产生与表空间碎片 回收的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、 小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹 球、操纵杆等输入装置。输出装置904可以包括显示设备、辅助照明装置 (例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以 包括但不限于,液晶显示器(Liquid Crystal Display,LCD)、发光二极管 (LightEmitting Diode,LED)显示器和等离子体显示器。在一些实施方 式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集 成电路系统、专用集成电路(Application Specific Integrated Circuits,ASIC)、 计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可 以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序 可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程 处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输 入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至 该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编 程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、 和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读 介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程 处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存 储器、可编程逻辑装置(programmable logic device,PLD)),包括,接 收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指 的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术, 该计算机具有:用于向用户显示信息的显示装置(例如,CRT(Cathode Ray Tube,阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向 装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将 输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如, 提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反 馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、 触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如, 作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、 或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器 的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处 描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部 件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络 的示例包括:局域网(Local Area Network,LAN)、广域网(Wide Area Network,WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此 并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具 有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,将数据页中的数据按照物理顺序向前迁 移,从而在表空间的末尾构造出空闲数据页,之后释放这些空闲数据页。在 迁移之前,本申请实施例可以首先合并不同数据页中的空间碎片,以减少页 内碎片空间,同时释放空闲数据页,供数据迁移使用。由于本申请实施例在 表空间碎片回收过程中不会创建新表,占用的总磁盘空间不会增加,因此不 会对磁盘空间带来新的压力。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删 除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行 也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果, 本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术 人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、 子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和 改进等,均应包含在本申请保护范围之内。

Claims (12)

1.一种表空间碎片回收方法,其特征在于,包括:
将数据页中的数据按照物理顺序向前迁移,以在表空间的末尾构造出空闲数据页;所述表空间为多个数据页按照所述物理顺序构成的数据空间;
释放所述表空间末尾的空闲数据页。
2.根据权利要求1所述的方法,其特征在于,所述将数据页中的数据按照物理顺序向前迁移之前,还包括:
合并不同数据页中的空间碎片,以在树形数据结构中构造出空闲数据页;所述树形数据结构为多个数据页按照逻辑顺序构成的数据空间;
释放树形数据结构中的所述空闲数据页。
3.根据权利要求2所述的方法,其特征在于,所述合并不同数据页中的空间碎片,包括:
将数据页中的数据按照所述逻辑顺序向前迁移,以使所述不同数据页中的空间碎片集中到所述逻辑顺序的末尾。
4.根据权利要求1至3任一所述的方法,其特征在于,所述将数据页中的数据按照物理顺序向前迁移,包括:
将所述表空间中末尾位置的数据页设置为当前数据页;
在所述当前数据页中存在数据的情况下,查找所述表空间中的第一个空闲数据页,在所述第一个空闲数据页位于所述当前数据页之前的情况下,将所述当前数据页中的数据迁移至所述表空间中的第一个空闲数据页;
将所述当前数据页的前一个数据页设置为新的当前数据页,返回执行所述在所述当前数据页中存在数据页的情况下,查找所述表空间中的第一个空闲数据页的步骤。
5.根据权利要求1至3任一所述的方法,其特征在于,所述释放所述表空间末尾的空闲数据页,包括:
在所述表空间末尾连续的空闲数据页构成一个空闲的数据区域的情况下,对所述表空间添加互斥锁;
释放所述空闲的数据区域,移除所述互斥锁。
6.一种表空间碎片回收装置,其特征在于,包括:
数据迁移模块,将数据页中的数据按照物理顺序向前迁移,以在表空间的末尾构造出空闲数据页;所述表空间为多个数据页按照所述物理顺序构成的数据空间;
空间回收模块,用于释放所述表空间末尾的空闲数据页。
7.根据权利要求6所述的装置,其特征在于,还包括:
碎片整理模块,用于合并不同数据页中的空间碎片,以在树形数据结构中构造出空闲数据页;所述树形数据结构为多个数据页按照逻辑顺序构成的数据空间;释放树形数据结构中的所述空闲数据页。
8.根据权利要求7所述的装置,其特征在于,所述碎片整理模块,用于将数据页中的数据按照所述逻辑顺序向前迁移,以使所述不同数据页中的空间碎片集中到所述逻辑顺序的末尾。
9.根据权利要求6至8任一所述的装置,其特征在于,所述数据迁移模块,包括:
设置子模块,用于将所述表空间中末尾位置的数据页设置为当前数据页;
迁移子模块,用于在所述当前数据页中存在数据的情况下,查找所述表空间中的第一个空闲数据页,在所述第一个空闲数据页位于所述当前数据页之前的情况下,将所述当前数据页中的数据迁移至所述表空间中的第一个空闲数据页;
重设置子模块,用于将所述当前数据页的前一个数据页设置为新的当前数据页,并指示所述迁移子模块针对所述新的当前数据页执行数据迁移。
10.根据权利要求6至8任一所述的装置,其特征在于,所述碎片整理模块用于,在所述表空间末尾连续的空闲数据页构成一个空闲的数据区域的情况下,对所述表空间添加互斥锁;释放所述空闲的数据区域,移除所述互斥锁。
11.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。
CN201910873348.4A 2019-09-16 2019-09-16 表空间碎片回收方法、装置、电子设备及存储介质 Pending CN110597797A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910873348.4A CN110597797A (zh) 2019-09-16 2019-09-16 表空间碎片回收方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910873348.4A CN110597797A (zh) 2019-09-16 2019-09-16 表空间碎片回收方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN110597797A true CN110597797A (zh) 2019-12-20

Family

ID=68859936

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910873348.4A Pending CN110597797A (zh) 2019-09-16 2019-09-16 表空间碎片回收方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN110597797A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112328587A (zh) * 2020-11-18 2021-02-05 山东健康医疗大数据有限公司 ElasticSearch的数据处理方法和装置
CN112732702A (zh) * 2021-03-31 2021-04-30 腾讯科技(深圳)有限公司 数据库引擎文件处理方法及装置
CN112817526A (zh) * 2021-01-19 2021-05-18 杭州和利时自动化有限公司 一种数据存储方法、装置及介质
CN116257531A (zh) * 2023-05-16 2023-06-13 广州图灵科技有限公司 一种数据库空间回收方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112328587A (zh) * 2020-11-18 2021-02-05 山东健康医疗大数据有限公司 ElasticSearch的数据处理方法和装置
CN112817526A (zh) * 2021-01-19 2021-05-18 杭州和利时自动化有限公司 一种数据存储方法、装置及介质
CN112732702A (zh) * 2021-03-31 2021-04-30 腾讯科技(深圳)有限公司 数据库引擎文件处理方法及装置
CN116257531A (zh) * 2023-05-16 2023-06-13 广州图灵科技有限公司 一种数据库空间回收方法

Similar Documents

Publication Publication Date Title
CN110597797A (zh) 表空间碎片回收方法、装置、电子设备及存储介质
CN110780890B (zh) 系统升级方法、装置、电子设备和介质
CN111258609A (zh) Kubernetes集群的升级方法、装置、电子设备和介质
CN109271343B (zh) 一种应用于键值存储系统中的数据合并方法和装置
US20140297592A1 (en) Computer-readable medium storing program and version control method
CN111241108B (zh) 基于键值对kv系统的索引方法、装置、电子设备和介质
US10430281B2 (en) Space efficient cascading point in time copying
CN111258957B (zh) 分布式文件系统目录更新方法、装置、设备和介质
CN104881466A (zh) 数据分片的处理以及垃圾文件的删除方法和装置
EP3825865A2 (en) Method and apparatus for processing data
CN111813742A (zh) 文件管理方法、装置、设备和介质
KR20210058118A (ko) CaseDB: 엣지컴퓨팅을 위한 저비용 Put-Intensive 키-벨류 저장장치
CN110598059B (zh) 数据库操作方法及装置
CN111831752A (zh) 分布式数据库的空间整理方法、装置、设备以及存储介质
CN113868251B (zh) 分布式数据库的全局二级索引方法及其装置
JP2014071904A (ja) コンピュータシステム及びコンピュータシステムのデータ管理方法
US10929347B2 (en) Defragmenting files having file blocks in multiple point-in-time copies
CN117043763A (zh) 数据库加速器中的易失性数据库高速缓存
EP3896594A1 (en) Method, device, equipment, and storage medium for mining topic concept
CN111290714B (zh) 数据读取方法和装置
CN111782633B (zh) 数据处理方法、装置及电子设备
JP5718974B2 (ja) 情報処理装置、情報処理方法、および、情報処理プログラム
CN112084204A (zh) 浏览数据处理方法、装置、终端及存储介质
CN111506268B (zh) 代码文件存储方法、装置和电子设备
CN112799585B (zh) 数据处理方法、装置、电子设备及可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination