CN116719482B - 数据迁移方法、装置和存储介质及电子设备 - Google Patents
数据迁移方法、装置和存储介质及电子设备 Download PDFInfo
- Publication number
- CN116719482B CN116719482B CN202310991056.7A CN202310991056A CN116719482B CN 116719482 B CN116719482 B CN 116719482B CN 202310991056 A CN202310991056 A CN 202310991056A CN 116719482 B CN116719482 B CN 116719482B
- Authority
- CN
- China
- Prior art keywords
- data
- migrated
- pool
- migration
- tag
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000005012 migration Effects 0.000 title claims abstract description 328
- 238000013508 migration Methods 0.000 title claims abstract description 328
- 238000000034 method Methods 0.000 title claims abstract description 123
- 238000003860 storage Methods 0.000 title claims abstract description 107
- 230000001960 triggered effect Effects 0.000 claims abstract description 27
- 230000008569 process Effects 0.000 claims description 56
- 230000015654 memory Effects 0.000 claims description 23
- 238000004590 computer program Methods 0.000 claims description 21
- 238000005516 engineering process Methods 0.000 abstract description 14
- 238000012545 processing Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 10
- 230000004044 response Effects 0.000 description 9
- 230000000694 effects Effects 0.000 description 8
- 238000013403 standard screening design Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 238000007726 management method Methods 0.000 description 7
- 230000008901 benefit Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 4
- 238000012423 maintenance Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0604—Improving or facilitating administration, e.g. storage management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0614—Improving the reliability of storage systems
- G06F3/0619—Improving the reliability of storage systems in relation to data integrity, e.g. data losses, bit errors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
- G06F3/0643—Management of files
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
- G06F3/0644—Management of space entities, e.g. partitions, extents, pools
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0646—Horizontal data movement in storage systems, i.e. moving data in between storage devices or systems
- G06F3/0647—Migration mechanisms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0646—Horizontal data movement in storage systems, i.e. moving data in between storage devices or systems
- G06F3/0652—Erasing, e.g. deleting, data cleaning, moving of data to a wastebasket
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Security & Cryptography (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请公开了一种数据迁移方法、装置和存储介质及电子设备。其中,该方法包括:获取对第一数据池触发的数据迁移请求,其中,数据迁移请求用于请求将第一数据池中存储的目标数据迁移至第二数据池中进行存储;响应数据迁移请求,使用第一标签和第二标签对目标数据进行标记,其中,第一标签用于指示目标数据处于准备迁移状态,第二标签用于指示将目标数据要迁移第二数据池,处于所示准备迁移状态的数据设置为禁止读写访问;从第一数据池中读取出第一标签和第二标签共同标记的待迁移数据,并按照第二标签的指示,将待迁移数据作为目标数据迁移至第二数据池中进行存储,可应用在云技术场景。本申请解决了数据迁移效率较低的技术问题。
Description
技术领域
本申请涉及计算机领域,具体而言,涉及一种数据迁移方法、装置和存储介质及电子设备。
背景技术
在数据迁移场景中,通常会利用人工运维的方式,手动将一个数据池中的数据迁移至另一个数据池,进而导致数据迁移效率较低的问题出现。因此,存在数据迁移效率较低的问题。
针对上述的问题,目前尚未提出有效的解决方案。
发明内容
本申请实施例提供了一种数据迁移方法、装置和存储介质及电子设备,以至少解决数据迁移效率较低的技术问题。
根据本申请实施例的一个方面,提供了一种数据迁移方法,包括:获取对第一数据池触发的数据迁移请求,其中,上述数据迁移请求用于请求将上述第一数据池中存储的目标数据迁移至第二数据池中进行存储;响应上述数据迁移请求,使用第一标签和第二标签对上述目标数据进行标记,其中,上述第一标签用于指示上述目标数据处于准备迁移状态,上述第二标签用于指示将上述目标数据要迁移上述第二数据池,处于所示准备迁移状态的数据设置为禁止读写访问;从上述第一数据池中读取出上述第一标签和上述第二标签共同标记的待迁移数据,并按照上述第二标签的指示,将上述待迁移数据作为上述目标数据迁移至上述第二数据池中进行存储。
根据本申请实施例的另一方面,还提供了一种数据迁移装置,包括:第一获取单元,用于获取对第一数据池触发的数据迁移请求,其中,上述数据迁移请求用于请求将上述第一数据池中存储的目标数据迁移至第二数据池中进行存储;标记单元,用于响应上述数据迁移请求,使用第一标签和第二标签对上述目标数据进行标记,其中,上述第一标签用于指示上述目标数据处于准备迁移状态,上述第二标签用于指示将上述目标数据要迁移上述第二数据池,处于所示准备迁移状态的数据设置为禁止读写访问;迁移单元,用于从上述第一数据池中读取出上述第一标签和上述第二标签共同标记的待迁移数据,并按照上述第二标签的指示,将上述待迁移数据作为上述目标数据迁移至上述第二数据池中进行存储。
作为一种可选的方案,上述迁移单元,包括:获取模块,用于从上述第一数据池中读取出上述待迁移数据,并获取上述待迁移数据的目标数据量;迁移模块,用于从上述待迁移数据的起始读取位置开始,按照目标子数据量依次从上述待迁移数据中进行数据读取,并将每次读取到的、上述目标子数据量的数据迁移至上述第二数据池中进行存储,其中,上述目标子数据量小于上述目标数据量。
作为一种可选的方案,上述迁移模块,上述装置还包括:迁移子模块,用于执行以下步骤,直至上述待迁移数据都已迁移至上述第二数据池中进行存储:确定上述待迁移数据的当前读取位置;按照目标子数据量从上述当前读取位置处进行数据读取,并将每次读取到的、上述目标子数据量的当前数据迁移至上述第二数据池中进行存储;在上述当前读取位置非上述待迁移数据的结尾读取位置的情况下,从上述待迁移数据中确定出上述当前读取位置的下一读取位置,并将上述下一读取位置确定为上述当前读取位置;在上述当前读取位置为上述结尾读取位置的情况下,确定上述待迁移数据都已迁移至上述第二数据池中进行存储。
作为一种可选的方案,上述装置还包括:第二获取单元,用于在上述从上述第一数据池中读取出上述第一标签和上述第二标签共同标记的待迁移数据,并按照上述第二标签的指示,将上述待迁移数据作为上述目标数据迁移至上述第二数据池中进行存储的过程中,获取上述待迁移数据在迁移至上述第二数据池过程中的迁移状态;写入单元,用于在上述从上述第一数据池中读取出上述第一标签和上述第二标签共同标记的待迁移数据,并按照上述第二标签的指示,将上述待迁移数据作为上述目标数据迁移至上述第二数据池中进行存储的过程中,将上述迁移状态写入上述待迁移数据的第一分片对象的对象属性中,其中,上述待迁移数据被切分为多个分片对象,上述多个分片对象包括上述第一分片对象。
作为一种可选的方案,上述第二获取单元,包括以下至少之一:第一获取模块,用于获取上述待迁移数据在迁移至上述第二数据池过程中的第一迁移状态,其中,上述第一迁移状态用于表示上述待迁移数据还未开始迁移;第二获取模块,用于获取上述待迁移数据在迁移至上述第二数据池过程中的第二迁移状态,其中,上述第二迁移状态用于表示上述待迁移数据正在迁移;第三获取模块,用于获取上述待迁移数据在迁移至上述第二数据池过程中的第三迁移状态,其中,上述第三迁移状态用于表示上述待迁移数据已迁移完成,处于上述第三迁移状态的数据取消上述第一标签和上述第二标签的标记;第四获取模块,用于获取上述待迁移数据在迁移至上述第二数据池过程中的第四迁移状态,其中,上述第四迁移状态用于表示所有准备迁移的数据都已完成迁移,上述所有准备迁移的数据包括上述待迁移数据。
作为一种可选的方案,上述装置还包括:读取单元,用于在上述响应上述数据迁移请求,使用第一标签和第二标签对上述目标数据进行标记之后,从上述第一数据池中读取出上述第二标签标记的数据;比对单元,用于在上述响应上述数据迁移请求,使用第一标签和第二标签对上述目标数据进行标记之后,对上述第二标签标记的数据所在的当前数据池,与上述第二标签指示的目标数据池进行比对,得到比对结果;开始单元,用于在上述响应上述数据迁移请求,使用第一标签和第二标签对上述目标数据进行标记之后,在上述比对结果指示上述当前数据池与上述目标数据池不同、且上述第二标签标记的数据标记有上述第二标签的情况下,开始将上述第二标签标记的数据作为上述目标数据迁移至上述第二数据池中进行存储。
作为一种可选的方案,上述装置还包括:访问单元,用于在上述响应上述数据迁移请求,使用第一标签和第二标签对上述目标数据进行标记之后,响应于目标账号对上述第一标签标记的数据触发的读写访问请求,对上述第一标签标记的数据进行读写访问,其中,上述目标账号的读写访问权限高于上述第一标签的禁止读写访问权限。
作为一种可选的方案,上述标记单元,包括:设置模块,用于对上述目标数据的元数据进行第一扩展属性和第二扩展属性的设置,其中,上述第一扩展属性用于指示上述目标数据已标记上述第一标签,上述第二扩展属性用于指示上述目标数据已标记上述第二标签。
作为一种可选的方案,上述装置还包括:第三获取单元,用于在上述获取对第一数据池触发的数据迁移请求之前,获取上述第一数据池中存储的各个数据对应的读写访问频率;确定单元,用于在上述获取对第一数据池触发的数据迁移请求之前,将上述第一数据池中存储的、上述读写访问频率小于或等于预设阈值的数据确定为上述目标数据。
根据本申请实施例的又一个方面,提供一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行如以上数据迁移方法。
根据本申请实施例的又一方面,还提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其中,上述处理器通过计算机程序执行上述的数据迁移方法。
在本申请实施例中,获取对第一数据池触发的数据迁移请求,其中,上述数据迁移请求用于请求将上述第一数据池中存储的目标数据迁移至第二数据池中进行存储;响应上述数据迁移请求,使用第一标签和第二标签对上述目标数据进行标记,其中,上述第一标签用于指示上述目标数据处于准备迁移状态,上述第二标签用于指示将上述目标数据要迁移上述第二数据池,处于所示准备迁移状态的数据设置为禁止读写访问;从上述第一数据池中读取出上述第一标签和上述第二标签共同标记的待迁移数据,并按照上述第二标签的指示,将上述待迁移数据作为上述目标数据迁移至上述第二数据池中进行存储。利用第一标签和第二标签对上述目标数据进行标记的方式,将上述第一数据池中存储的目标数据自动迁移至第二数据池中进行存储,同时还通过设置第一标签用于指示上述目标数据处于准备迁移状态,以及处于所示准备迁移状态的数据设置为禁止读写访问,保证了自动迁移过程中的数据一致性,进而达到了在保证自动迁移过程中的数据一致性的基础上,进行数据在不同数据池之间的自动迁移的目的,从而实现了提高数据迁移效率的技术效果,进而解决了数据迁移效率较低的技术问题。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1是根据本申请实施例的一种可选的数据迁移方法的应用环境的示意图;
图2是根据本申请实施例的一种可选的数据迁移方法的流程的示意图;
图3是根据本申请实施例的一种可选的数据迁移方法的示意图;
图4是根据本申请实施例的另一种可选的数据迁移方法的示意图;
图5是根据本申请实施例的另一种可选的数据迁移方法的示意图;
图6是根据本申请实施例的另一种可选的数据迁移方法的示意图;
图7是根据本申请实施例的另一种可选的数据迁移方法的示意图;
图8是根据本申请实施例的另一种可选的数据迁移方法的示意图;
图9是根据本申请实施例的另一种可选的数据迁移方法的示意图;
图10是根据本申请实施例的另一种可选的数据迁移方法的示意图;
图11是根据本申请实施例的一种可选的数据迁移装置的示意图;
图12是根据本申请实施例的一种可选的电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分的实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本申请保护的范围。
需要说明的是,本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
为方便理解,对下述名词进行解释:
云技术(Cloud technology)是指在广域网或局域网内将硬件、软件、网络等系列资源统一起来,实现数据的计算、储存、处理和共享的一种托管技术。
云技术(Cloud technology)基于云计算商业模式应用的网络技术、信息技术、整合技术、管理平台技术、应用技术等的总称,可以组成资源池,按需所用,灵活便利。云计算技术将变成重要支撑。技术网络系统的后台服务需要大量的计算、存储资源,如视频网站、图片类网站和更多的门户网站。伴随着互联网行业的高度发展和应用,将来每个物品都有可能存在自己的识别标志,都需要传输到后台系统进行逻辑处理,不同程度级别的数据将会分开处理,各类行业数据皆需要强大的系统后盾支撑,只能通过云计算来实现。
云存储(cloud storage)是在云计算概念上延伸和发展出来的一个新的概念,分布式云存储系统 (以下简称存储系统)是指通过集群应用、网格技术以及分布存储文件系统等功能,将网络中大量各种不同类型的存储设备(存储设备也称之为存储节点)通过应用软件或应用接口集合起来协同工作,共同对外提供数据存储和业务访问功能的一个存储系统。
目前,存储系统的存储方法为:创建逻辑卷,在创建逻辑卷时,就为每个逻辑卷分配物理存储空间,该物理存储空间可能是某个存储设备或者某几个存储设备的磁盘组成。客户端在某一逻辑卷上存储数据,也就是将数据存储在文件系统上,文件系统将数据分成许多部分,每一部分是一个对象,对象不仅包含数据而且还包含数据标识(ID,ID entity)等额外的信息,文件系统将每个对象分别写入该逻辑卷的物理存储空间,且文件系统会记录每个对象的存储位置信息,从而当客户端请求访问数据时,文件系统能够根据每个对象的存储位置信息让客户端对数据进行访问。
存储系统为逻辑卷分配物理存储空间的过程,具体为:按照对存储于逻辑卷的对象的容量估量(该估量往往相对于实际要存储的对象的容量有很大余量)和独立冗余磁盘阵列(RAID,Redundant Array of Independent Disk)的组别,预先将物理存储空间划分成分条,一个逻辑卷可以理解为一个分条,从而为逻辑卷分配了物理存储空间。
数据库(Database),简而言之可视为电子化的文件柜——存储电子文件的处所,用户可以对文件中的数据进行新增、查询、更新、删除等操作。所谓“数据库”是以一定方式储存在一起、能与多个用户共享、具有尽可能小的冗余度、与应用程序彼此独立的数据集合。
数据库管理系统(英语:Database Management System,简称DBMS)是为管理数据库而设计的电脑软件系统,一般具有存储、截取、安全保障、备份等基础功能。数据库管理系统可以依据它所支持的数据库模型来作分类,例如关系式、XML(Extensible MarkupLanguage,即可扩展标记语言);或依据所支持的计算机类型来作分类,例如服务器群集、移动电话;或依据所用查询语言来作分类,例如SQL(结构化查询语言(Structured QueryLanguage)、XQuery;或依据性能冲量重点来作分类,例如最大规模、最高运行速度;亦或其他的分类方式。不论使用哪种分类方式,一些DBMS能够跨类别,例如,同时支持多种查询语言。
根据本申请实施例的一个方面,提供了一种数据迁移方法,可选地,作为一种可选的实施方式,上述数据迁移方法可以但不限于应用于如图1所示的环境中。其中,可以但不限于包括用户设备102以及服务器112,该用户设备102上可以但不限于包括显示器104、处理器106及存储器108,该服务器112包括数据库114以及处理引擎116。
具体过程可如下步骤:
步骤S102,用户设备102获取对第一数据池触发的数据迁移请求;
步骤S104-S106,通过网络110将数据迁移请求发送至服务器112;
步骤S108-S110,服务器112响应数据迁移请求,通过处理引擎116从目标绳索1002使用第一标签和第二标签对目标数据进行标记,并进一步从第一数据池中读取出第一标签和第二标签共同标记的待迁移数据,并按照第二标签的指示,将待迁移数据作为目标数据迁移至第二数据池中进行存储,得到数据迁移结果;
步骤S112-S114,通过网络110将数据迁移结果发送至用户设备102,用户设备102通过处理器106将数据迁移结果显示在显示器104,并将上述数据迁移结果存储在存储器108。
除图1示出的示例之外,上述步骤可以由用户设备或服务器独立完成,或由用户设备和服务器共同协作完成,如由用户设备102执行上述S108-S110等步骤,从而减轻服务器112的处理压力。该用户设备102包括但不限于手持设备(如手机)、笔记本电脑、平板电脑、台式电脑、车载设备、智能电视等,本申请并不限制用户设备102的具体实现方式。服务器112可以是单个的服务器或者是多个服务器组成的服务器集群,也可以是云服务器。
可选地,作为一种可选的实施方式,如图2所示,数据迁移方法可以由电子设备执行,如图1所示的用户设备或服务器,具体步骤包括:
S202,获取对第一数据池触发的数据迁移请求,其中,数据迁移请求用于请求将第一数据池中存储的目标数据迁移至第二数据池中进行存储;
S204,响应数据迁移请求,使用第一标签和第二标签对目标数据进行标记,其中,第一标签用于指示目标数据处于准备迁移状态,第二标签用于指示将目标数据要迁移第二数据池,处于所示准备迁移状态的数据设置为禁止读写访问;
S206,从第一数据池中读取出第一标签和第二标签共同标记的待迁移数据,并按照第二标签的指示,将待迁移数据作为目标数据迁移至第二数据池中进行存储。
可选地,在本实施例中,上述数据迁移方法可以但不限于应用在冷数据池(第二数据池)和热数据池(第一数据池)之间的数据迁移场景中,如对于用户性能要求比较高的环境,往往会搭建高性能的热数据池,但业务数据(目标数据)通常在时间维度上有访问热点,随着时间的推移,业务数据会慢慢访问变少或者不访问,但是这些业务数据又不能删除,却占用着热数据池的高性能资源,进而可构建一个冷数据池,把这些访问热度少的业务数据迁移至冷数据池,而手动进行业务数据的迁移效率较低,自动进行业务数据的迁移又无法保证数据一致性,进一步上述数据迁移方法在保证数据一致性的基础上,自动进行业务数据的迁移。
可选地,在本实施例中,存储系统为用户提供多个数据池以存储数据,而不同数据池之间可通过数据迁移以保持存储系统的整体平衡,其中,多个数据池包括第一数据池和第二数据池。
可选地,在本实施例中,标签可以但不限是一种用来描述业务实体特征的数据形式,通过标签可以有效扩充业务实体的分析角度,且通过对不同标签的简单操作,便可进行数据筛选和分析,如使用第一标签和第二标签对目标数据进行标记的方式,确定准备迁移的目标数据,以及目标数据的迁移目的地。
可选地,在本实施例中,为提高迁移过程中的数据一致性,通过第一标签的标记方式,将处于所示准备迁移状态的数据设置为禁止读写访问,进而数据在迁移过程中被禁止读写访问,自然也就不会因为被读写访问而导致迁移过程中的数据出现不一致的问题。
可选地,在本实施例中,第一标签和第二标签共同标记的待迁移数据作为目标数据迁移至第二数据池中进行存储,而单独进行第一标签或第二标签标记的数据,则可以但不限先不作为目标数据进行迁移,如单独进行第一标签进行标记的数据A,确定准备迁移,但未确定迁移目的地,进而可通过第一标签将数据A设置为禁止读写访问,以保证数据A的数据不变。而单独进行第二标签进行标记的数据B,确定迁移目的地,但未确定是否准备迁移,进而允许数据B被读写访问,而对于后续将要进行的迁移步骤,提前进行第二标签的标记,也可提高数据B的迁移效率。
可选地,在本实施例中,将待迁移数据作为目标数据迁移至第二数据池中的方式,可以但不限包括将待迁移数据作为一个整体迁移至第二数据池中,或将待迁移数据划分为多个子数据依次迁移至第二数据池中,或将待迁移数据转移至第二数据池中,或将待迁移数据复制至第二数据池中,再对第一数据池中的原待迁移数据进行删除,避免数据重合的问题出现。
需要说明的是,利用第一标签和第二标签对目标数据进行标记的方式,将第一数据池中存储的目标数据自动迁移至第二数据池中进行存储,同时还通过设置第一标签用于指示目标数据处于准备迁移状态,以及处于所示准备迁移状态的数据设置为禁止读写访问,保证了自动迁移过程中的数据一致性,进而在保证自动迁移过程中的数据一致性的基础上,进行数据在不同数据池之间的自动迁移,从而实现了提高数据迁移效率的技术效果。
进一步举例说明,可选的例如图3所示,客户端302获取对第一数据池304触发的数据迁移请求,其中,数据迁移请求用于请求将第一数据池304中存储的目标数据迁移至第二数据池306中进行存储;客户端302响应数据迁移请求,使用第一标签和第二标签对目标数据进行标记,其中,第一标签用于指示目标数据处于准备迁移状态,第二标签用于指示将目标数据要迁移第二数据池306,处于所示准备迁移状态的数据设置为禁止读写访问;客户端302从第一数据池304中读取出第一标签和第二标签共同标记的待迁移数据308,并按照第二标签的指示,将待迁移数据308作为目标数据迁移至第二数据池306中进行存储。
通过本申请提供的实施例,获取对第一数据池触发的数据迁移请求,其中,数据迁移请求用于请求将第一数据池中存储的目标数据迁移至第二数据池中进行存储;响应数据迁移请求,使用第一标签和第二标签对目标数据进行标记,其中,第一标签用于指示目标数据处于准备迁移状态,第二标签用于指示将目标数据要迁移第二数据池,处于所示准备迁移状态的数据设置为禁止读写访问;从第一数据池中读取出第一标签和第二标签共同标记的待迁移数据,并按照第二标签的指示,将待迁移数据作为目标数据迁移至第二数据池中进行存储。利用第一标签和第二标签对目标数据进行标记的方式,将第一数据池中存储的目标数据自动迁移至第二数据池中进行存储,同时还通过设置第一标签用于指示目标数据处于准备迁移状态,以及处于所示准备迁移状态的数据设置为禁止读写访问,保证了自动迁移过程中的数据一致性,进而达到了在保证自动迁移过程中的数据一致性的基础上,进行数据在不同数据池之间的自动迁移的目的,从而实现了提高数据迁移效率的技术效果。
作为一种可选的方案,从第一数据池中读取出第一标签和第二标签共同标记的待迁移数据,并按照第二标签的指示,将待迁移数据作为目标数据迁移至第二数据池中进行存储,包括:
S1-1,从第一数据池中读取出待迁移数据,并获取待迁移数据的目标数据量;
S1-2,从待迁移数据的起始读取位置开始,按照目标子数据量依次从待迁移数据中进行数据读取,并将每次读取到的、目标子数据量的数据迁移至第二数据池中进行存储,其中,目标子数据量小于目标数据量。
可选地,本实施例可以但不限从元数据服务器中获取待迁移数据的数据大小(目标数据量),其中,元数据服务器可以但不限是一种用于管理和存储系统中的元数据的服务器,通常用于集中管理和存储系统中的元数据,提供了一个统一的存储和查询接口,让用户和系统可以方便地查找和访问所需的元数据。元数据服务器可以支持多种类型的元数据,例如数据库表结构、数据字典、数据流程、业务规则等。
可选地,在本实施例中,元数据可以但不限是描述数据的数据,包含了数据的定义、结构、关系和属性等信息,可以帮助用户和系统了解数据的含义、访问方式以及如何进行数据处理。
可选地,在本实施例中,从待迁移数据的起始读取位置开始,可以但不限理解为从待迁移数据的偏移0开始,其中,偏移可以但不限指一个数据元素相对于数据结构或数组起始位置的位移量,通过将数据结构的起始地址与偏移量相加,可以确定所需数据元素在内存中的位置,进而从待迁移数据的偏移0开始,开始固定数据量的数据迁移,直至数据迁移完成。
需要说明的是,为提高数据迁移的稳定性,进行分批次的数据迁移,如将数据按照大小或者记录数量进行划分,每个批次迁移一定数量的数据,其中,可以根据系统性能和资源情况来确定每个批次的数据量。通过一次迁移一个批次,可以监测和管理每个批次的迁移进度和质量,减少出错的可能性。
进一步举例说明,可选的例如图4所示,从第一数据池402中读取出待迁移数据404,并获取待迁移数据404的目标数据量;从待迁移数据404的起始读取位置406开始,按照目标子数据量依次从待迁移数据404中进行数据读取,并将每次读取到的、目标子数据量的数据(如数据1和数据2)迁移至第二数据池408中进行存储。
通过本申请提供的实施例,从第一数据池中读取出待迁移数据,并获取待迁移数据的目标数据量;从待迁移数据的起始读取位置开始,按照目标子数据量依次从待迁移数据中进行数据读取,并将每次读取到的、目标子数据量的数据迁移至第二数据池中进行存储,其中,目标子数据量小于目标数据量,进而达到了进行分批次的数据迁移的目的,从而实现了提高数据迁移的稳定性的技术效果。
作为一种可选的方案,从待迁移数据的起始位置开始,按照目标子数据量依次从待迁移数据中进行数据读取,并将每次读取到的、目标子数据量的数据迁移至第二数据池中进行存储,方法还包括:
执行以下步骤,直至待迁移数据都已迁移至第二数据池中进行存储:
S2-1,确定待迁移数据的当前读取位置;
S2-2,按照目标子数据量从当前读取位置处进行数据读取,并将每次读取到的、目标子数据量的当前数据迁移至第二数据池中进行存储;
S2-3,在当前读取位置非待迁移数据的结尾读取位置的情况下,从待迁移数据中确定出当前读取位置的下一读取位置,并将下一读取位置确定为当前读取位置;
S2-4,在当前读取位置为结尾读取位置的情况下,确定待迁移数据都已迁移至第二数据池中进行存储。
可选地,在本实施例中,通过数据复制,可以将源数据复制到第二数据池中,使得第二数据池具备与第一数据池相同或相似的数据,以完成至第二数据池中的数据迁移。而为提高数据池中的数据时效性,在当前读取位置为结尾读取位置的情况下,确定待迁移数据都已迁移至第二数据池中进行存储,并进一步删除第一数据池中的原数据(待迁移数据)。
作为一种可选的方案,在从第一数据池中读取出第一标签和第二标签共同标记的待迁移数据,并按照第二标签的指示,将待迁移数据作为目标数据迁移至第二数据池中进行存储的过程中,方法还包括:
S3-1,获取待迁移数据在迁移至第二数据池过程中的迁移状态;
S3-2,将迁移状态写入待迁移数据的第一分片对象的对象属性中,其中,待迁移数据被切分为多个分片对象,多个分片对象包括第一分片对象。
可选地,本实施例可以但不限通过各种方式待迁移数据在迁移至第二数据池过程中的迁移状态,如数据迁移工具或系统通常会生成迁移日志和报告,记录每个批次的迁移情况、成功与失败的记录以及可能出现的错误和异常。通过查阅迁移日志和报告,可以了解每个批次的迁移状态和详细情况;或,在数据迁移过程中,可以设置检测机制来实时监测迁移进度。这可以包括检测数据复制的速度、传输量、剩余时间等指标。检测工具或系统可以提供可视化界面或实时通知,让您了解数据迁移的当前状态;或,在迁移完成后,可以对源数据和目标数据进行比对来验证数据的一致性。比对可以基于数据行数、字段值、哈希值等指标。如果源数据和目标数据完全一致,则说明数据迁移顺利完成;如果存在差异,则需要进一步调查和修复;或,用户和相关团队可以提供关于数据迁移过程的反馈和问题报告。根据用户的反馈和问题报告,可以了解到数据迁移的状态和潜在问题,并采取相应措施解决。
可选地,在本实施例中,分片对象可以但不限是指将大型数据或文件切分成多个较小的片段(即分片),并以独立的方式存储这些片段,使其能够分别处理和传输。通过将数据分片存储在不同的位置或节点上,分片对象具有一定的容错性。如果某个片段丢失或损坏,仍然可以恢复和访问其他完好的片段,从而确保数据的可靠性和完整性。而第一分片对象可以但不限理解为多个分片对象中的0号分片对象,而数据无论多大,肯定会有0号分片对象,稳定性较高。
需要说明的是,数据迁移的时候可能会出现不可预期的故障,比如客户端宕机、元数据服务器(Metadata Server,简称MDS)故障等,进而为了提高数据迁移的稳定性,使得能够在故障之后继续进行数据迁移,需要通过稳定性较高的第一分片对象进行状态管理,如将迁移状态写入待迁移数据的第一分片对象的对象属性中。
通过本申请提供的实施例,获取待迁移数据在迁移至第二数据池过程中的迁移状态;将迁移状态写入待迁移数据的第一分片对象的对象属性中,其中,待迁移数据被切分为多个分片对象,多个分片对象包括第一分片对象,进而达到了在故障之后继续进行数据迁移的目的,从而实现了提高数据迁移的稳定性的技术效果。
作为一种可选的方案,获取待迁移数据在迁移至第二数据池过程中的迁移状态,包括以下至少之一:
S4-1,获取待迁移数据在迁移至第二数据池过程中的第一迁移状态,其中,第一迁移状态用于表示待迁移数据还未开始迁移;
S4-2,获取待迁移数据在迁移至第二数据池过程中的第二迁移状态,其中,第二迁移状态用于表示待迁移数据正在迁移;
S4-3,获取待迁移数据在迁移至第二数据池过程中的第三迁移状态,其中,第三迁移状态用于表示待迁移数据已迁移完成,处于第三迁移状态的数据取消第一标签和第二标签的标记;
S4-4,获取待迁移数据在迁移至第二数据池过程中的第四迁移状态,其中,第四迁移状态用于表示所有准备迁移的数据都已完成迁移,所有准备迁移的数据包括待迁移数据。
可选地,在本实施例中,数据迁移的四种状态(第一迁移状态、第二迁移状态、第三迁移状态、第四迁移状态)可以但不限进行相互转换,直到推进迁移完成。
进一步举例说明,可选的例如图5所示,通过使用第一标签和第二标签进行标记,将第一迁移状态502切换为第二迁移状态504,通过数据迁移,将第二迁移状态504切换为第三迁移状态506,通过取消第一标签和第二标签的标记,将第三迁移状态506切换为第四迁移状态508。
作为一种可选的方案,在响应数据迁移请求,使用第一标签和第二标签对目标数据进行标记之后,方法还包括:
S5-1,从第一数据池中读取出第二标签标记的数据;
S5-2,对第二标签标记的数据所在的当前数据池,与第二标签指示的目标数据池进行比对,得到比对结果;
S5-3,在比对结果指示当前数据池与目标数据池不同、且第二标签标记的数据标记有第二标签的情况下,开始将第二标签标记的数据作为目标数据迁移至第二数据池中进行存储。
需要说明的是,为提高数据迁移的及时性,在适当时机自动触发数据迁移,如在当前数据池与目标数据池不同、且第二标签标记的数据标记有第二标签的情况下,开始将第二标签标记的数据作为目标数据迁移至第二数据池中进行存储。
通过本申请提供的实施例,从第一数据池中读取出第二标签标记的数据;对第二标签标记的数据所在的当前数据池,与第二标签指示的目标数据池进行比对,得到比对结果;在比对结果指示当前数据池与目标数据池不同、且第二标签标记的数据标记有第二标签的情况下,开始将第二标签标记的数据作为目标数据迁移至第二数据池中进行存储,进而达到了在适当时机自动触发数据迁移的目的,从而实现了提高数据迁移的及时性的技术效果。
作为一种可选的方案,在响应数据迁移请求,使用第一标签和第二标签对目标数据进行标记之后,方法还包括:
响应于目标账号对第一标签标记的数据触发的读写访问请求,对第一标签标记的数据进行读写访问,其中,目标账号的读写访问权限高于第一标签的禁止读写访问权限。
需要说明的是,第一标签标记的数据被禁止读写访问,但这种限制,会降低数据的处理效率,但开放读写访问又无法保证数据一致性,进而在本实施例中,允许读写访问权限高于第一标签的禁止读写访问权限的目标账号,对第一标签标记的数据进行读写访问,进而在保证数据一致性的前提下,提高数据的处理效率。
通过本申请提供的实施例,响应于目标账号对第一标签标记的数据触发的读写访问请求,对第一标签标记的数据进行读写访问,其中,目标账号的读写访问权限高于第一标签的禁止读写访问权限,进而实现了在保证数据一致性的前提下,提高数据的处理效率的技术效果。
作为一种可选的方案,使用第一标签和第二标签对目标数据进行标记,包括:
对目标数据的元数据进行第一扩展属性和第二扩展属性的设置,其中,第一扩展属性用于指示目标数据已标记第一标签,第二扩展属性用于指示目标数据已标记第二标签。
可选地,元数据的扩展属性是指在常规元数据之外,可以为对象或实体添加的额外属性,扩展属性可以提供更详细的描述和附加信息,以满足特定需求。通过添加扩展属性,可以根据具体应用场景或业务需求对元数据进行个性化扩展和定制化。例如,对于文件对象的元数据,可以添加扩展属性来记录文件的创建时间、修改时间、所有者信息等;对于音乐文件,则可以添加扩展属性来描述歌手、专辑名称、流派等。而在本实施例中,通过设置第一扩展属性和第二扩展属性的方式,实现对目标数据进行第一标签和第二标签的标记。
作为一种可选的方案,在获取对第一数据池触发的数据迁移请求之前,方法还包括:
S6-1,获取第一数据池中存储的各个数据对应的读写访问频率;
S6-2,将第一数据池中存储的、读写访问频率小于或等于预设阈值的数据确定为目标数据。
可选地,在本实施例中,读写访问频率是指在特定时间段内对某个对象或资源进行读取或写入的次数或频率。读取访问频率表示读取操作在一段时间内的发生次数或频率,反映了对文件、数据库记录、API接口等数据或资源的获取需求。低读取访问频率通常表示该对象或资源在系统中长时间未被访问。如将第一数据池中存储的、读写访问频率小于或等于预设阈值的数据确定为目标数据,并进行数据迁移。
可选地,在本实施例中,第一数据池可以但不限为高性能的热数据池,而第二数据池可以但不限为冷数据池,进而将热数据池中读写访问频率小于或等于预设阈值的数据迁移至冷数据池,解放高性能的存储空间。
需要说明的是,为提高存储空间的利用率将第一数据池中存储的、读写访问频率小于或等于预设阈值的数据迁移至第二数据池中。
通过本申请提供的实施例,获取第一数据池中存储的各个数据对应的读写访问频率;将第一数据池中存储的、读写访问频率小于或等于预设阈值的数据确定为目标数据,进而实现了提高存储空间的利用率的技术效果。
作为一种可选的方案,为方便理解,将上述数据迁移方法应用在文件数据跨池迁移场景中,以分布式的存储系统(如分布式文件系统,Ceph)为例说明,Ceph通过Cephfs提供分布式文件系统服务,允许多个用户同时读写,并保证每个用户看到的数据是一致性的,同时Cephfs提供多个数据池给用户来存储数据,用户给会将业务数据通过POSIX接口存入Cephfs的这些数据池中。对于用户性能要求比较高的环境,往往会使用SSD搭建高性能池,但用户业务数据通常在时间维度上有访问热点,随着时间的推移,业务文件会慢慢访问变少或者不访问,但是这些数据又不能删除,却占用着大量SSD高性能资源。虽然Cephfs提供多池存储,比如使用HDD构建一个冷数据池,把这些访问热度少的业务数据放到冷数据池,但是目前Cephfs没有提供对用户透明的方法。
进一步举例说明,可选地例如图6所示,通过增加文件扩展属性、并通过状态机的控制来实现文件数据跨池迁移,从而能有效实现冷热数据分离,合理利用集群资源,具体的首先通过分布式文件系统(Ceph)中的元数据服务器(Metadata Server,简称MDS)给文件(目标数据)设置扩展属性迁移标记migration,表示此文件准备要迁移;修改文件扩展属性layout.pool设为需要迁移的目的冷数据池;客户端从自主分布式对象存储(Rados)中的SSD池(第一数据池)中读取文件数据;读取的文件数据写入到HDD池(第二数据池)。
需要说明的是,Cephfs可以同时给多个客户端并发访问,多个客户端可以同时操作同一个文件,之前运维操作的时候可能存在同时有用户访问,导致数据存在丢失风险,所以迁移需要解决这个一致性问题。本实施例通过两个技术手段来保证迁移一致性。
进一步举例说明,可选的基于图6所示场景,继续如图7所示,迁移前数据一致性主要通过检查mds文件caps判断是否还有客户端正在读写访问文件,如果要准备给一个文件进行跨池迁移操作需要先设置ceph.file.migration标识,而此文件可能其他客户端也正在访问,Cephfs客户端(如Cephfs客户端1、Cephfs客户端2、Cephfs客户端3)对文件的访问权限在MDS端通过cap控制,如果其他客户端已经获取了此文件的文件锁,比如正在读写文件,此时设置ceph.file.migration属性返回EPERM(没有权限),需要等其他客户端读写完释放文件锁,设置ceph.file.migration属性才能成功。也就是设置ceph.file.migration扩展属性前需要进行检查保证设置迁移前,没有客户端在进行读写操作,这样就能保证迁移前数据一致性。
再者,迁移时数据一致性需要保证在某一个客户端进行数据迁移时,其他客户端发起的读写请求操作被拒绝,如图7中的(Cephfs)客户端3正在进行数据迁移,此时客户端1和客户端2有读写请求,如果不做控制会导致迁移过程中存在数据不一致问题。这里由于客户端已经开始迁移,之前已经通过MDS给文件设置了ceph.file.migration扩展属性,而客户端1和客户端2想要发起对文件的读写请求,需要到MDS获取文件caps(权限),这里如果发现文件已经设置了ceph.file.migration表示已经开始迁移,并对客户端进行匹配,这里迁移的客户端3标记为超级客户端,迁移时只有超级客户端可以进行读写操作,其他客户端操作返回EBUSY,这样就能保证迁移时数据一致性。也即,迁移时为了保证一致性,只让一个客户端(如Cephfs客户端3)发起迁移数据流程,并比较为超级客户端,触发迁移除了设置ceph.file.migration扩展属性之外,还需要增加ceph.file.migrate_pool扩展数据来标记文件数据要迁移到哪个冷数据池,迁移时不能直接修改ceph.file.pool要不客户端找不到原始数据。ceph.file.migrate_pool参数一旦设置并且与ceph.file.pool不同便开始进行数据迁移。
可选在,在本实施例中,基于图7所示场景,继续如图8所示,通过对文件设置扩展属性、利用客户端来实现文件数据的跨池迁移,具体步骤如下:
S802,客户端从MDS元数据服务器获取文件大小属性,并根据获取的文件大小,从文件偏移0开始,按4M大小为边界从原SSD池进行数据读取;
S804,判断是否遍历到文件尾,若是,则执行S808,若否,则执行S806;
S806,继续对4M读取的对象数据写入HDD池,并且以相同的对象名进行存储;
S808,在遍历到文件尾时,代表文件迁移完成,开始对原SSD数据进行删除,并判断是否删除完SSD池的全部对象,若是,则执行步骤S812,若否则执行步骤S810;
S810,将未删除的SSD数据写入HDD池;
S812,修改ceph.file.pool进行池切换;
S814,设置取消ceph.file.migration标记。
可选在,在本实施例中,迁移的时候可能会出现不可预期的故障,比如客户端宕机、MDS故障等,为了能够在故障之后继续进行迁移,需要对上小节的迁移过程进行状态管理,并根据相应的状态进行相应的操作,并能转化到相应的下一个状态,这里使用状态机进行管理,并对状态进行存储。迁移状态根据迁移的过程主要分为四种状态:NONE、COPY、DELETE、DONE,分别代表如下:NONE表示迁移还未开始,COPY表示正在执行数据迁移,DELETE表示数据迁移完成,准备删除原数据池中的数据,并进行池切换、取消迁移标记,DONE表示迁移整个过程完成。
可选在,在本实施例中,基于图6所示场景,继续如图9所示,迁移状态存储在每个文件第一个分片对象的对象属性中,因为每个文件无论多大,肯定会有第一个分片对象,这里记为0号对象。
可选在,在本实施例中,如图10所示,迁移的四种状态会进行相互转换,直到推进迁移完成,如通过设置ceph.file.migration标记和ceph.file.migration_pool标记,将原始状态(NONE)转移为复制状态(COPY);通过数据迁移,将COPY转移为删除状态(DELETE);通过删除原SSD数据、切换ceph.file.pool,取消ceph.file.migration标记,将DELETE转移为结束状态(DONE)。有了状态转化,如果客户端在迁移过程找那个发生故障,在客户端重启之后,可以从文件0号对象的属性中取出状态根据状态转化图继续进行迁移流程。
通过本申请提供的实施例,利用文件设置扩展属性、状态机等机制来实现,并保证迁移前后数据的一致性,以及故障前后迁移的自动运行,可以避免大量的运维操作,并且规避数据丢失风险。
可以理解的是,在本申请的具体实施方式中,涉及到用户信息等相关的数据,当本申请以上实施例运用到具体产品或技术中时,需要获得用户许可或者同意,且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
根据本申请实施例的另一个方面,还提供了一种用于实施上述数据迁移方法的数据迁移装置。如图11所示,该装置包括:
第一获取单元1102,用于获取对第一数据池触发的数据迁移请求,其中,数据迁移请求用于请求将第一数据池中存储的目标数据迁移至第二数据池中进行存储;
标记单元1104,用于响应数据迁移请求,使用第一标签和第二标签对目标数据进行标记,其中,第一标签用于指示目标数据处于准备迁移状态,第二标签用于指示将目标数据要迁移第二数据池,处于所示准备迁移状态的数据设置为禁止读写访问;
迁移单元1106,用于从第一数据池中读取出第一标签和第二标签共同标记的待迁移数据,并按照第二标签的指示,将待迁移数据作为目标数据迁移至第二数据池中进行存储。
具体实施例可以参考上述数据迁移装置中所示示例,本示例中在此不再赘述。
作为一种可选的方案,迁移单元1106,包括:
获取模块,用于从第一数据池中读取出待迁移数据,并获取待迁移数据的目标数据量;
迁移模块,用于从待迁移数据的起始读取位置开始,按照目标子数据量依次从待迁移数据中进行数据读取,并将每次读取到的、目标子数据量的数据迁移至第二数据池中进行存储,其中,目标子数据量小于目标数据量。
具体实施例可以参考上述数据迁移方法中所示示例,本示例中在此不再赘述。
作为一种可选的方案,迁移模块,装置还包括:
迁移子模块,用于执行以下步骤,直至待迁移数据都已迁移至第二数据池中进行存储:
确定待迁移数据的当前读取位置;
按照目标子数据量从当前读取位置处进行数据读取,并将每次读取到的、目标子数据量的当前数据迁移至第二数据池中进行存储;
在当前读取位置非待迁移数据的结尾读取位置的情况下,从待迁移数据中确定出当前读取位置的下一读取位置,并将下一读取位置确定为当前读取位置;
在当前读取位置为结尾读取位置的情况下,确定待迁移数据都已迁移至第二数据池中进行存储。
具体实施例可以参考上述数据迁移方法中所示示例,本示例中在此不再赘述。
作为一种可选的方案,装置还包括:
第二获取单元,用于在从第一数据池中读取出第一标签和第二标签共同标记的待迁移数据,并按照第二标签的指示,将待迁移数据作为目标数据迁移至第二数据池中进行存储的过程中,获取待迁移数据在迁移至第二数据池过程中的迁移状态;
写入单元,用于在从第一数据池中读取出第一标签和第二标签共同标记的待迁移数据,并按照第二标签的指示,将待迁移数据作为目标数据迁移至第二数据池中进行存储的过程中,将迁移状态写入待迁移数据的第一分片对象的对象属性中,其中,待迁移数据被切分为多个分片对象,多个分片对象包括第一分片对象。
具体实施例可以参考上述数据迁移方法中所示示例,本示例中在此不再赘述。
作为一种可选的方案,第二获取单元,包括以下至少之一:
第一获取模块,用于获取待迁移数据在迁移至第二数据池过程中的第一迁移状态,其中,第一迁移状态用于表示待迁移数据还未开始迁移;
第二获取模块,用于获取待迁移数据在迁移至第二数据池过程中的第二迁移状态,其中,第二迁移状态用于表示待迁移数据正在迁移;
第三获取模块,用于获取待迁移数据在迁移至第二数据池过程中的第三迁移状态,其中,第三迁移状态用于表示待迁移数据已迁移完成,处于第三迁移状态的数据取消第一标签和第二标签的标记;
第四获取模块,用于获取待迁移数据在迁移至第二数据池过程中的第四迁移状态,其中,第四迁移状态用于表示所有准备迁移的数据都已完成迁移,所有准备迁移的数据包括待迁移数据。
具体实施例可以参考上述数据迁移方法中所示示例,本示例中在此不再赘述。
作为一种可选的方案,装置还包括:
读取单元,用于在响应数据迁移请求,使用第一标签和第二标签对目标数据进行标记之后,从第一数据池中读取出第二标签标记的数据;
比对单元,用于在响应数据迁移请求,使用第一标签和第二标签对目标数据进行标记之后,对第二标签标记的数据所在的当前数据池,与第二标签指示的目标数据池进行比对,得到比对结果;
开始单元,用于在响应数据迁移请求,使用第一标签和第二标签对目标数据进行标记之后,在比对结果指示当前数据池与目标数据池不同、且第二标签标记的数据标记有第二标签的情况下,开始将第二标签标记的数据作为目标数据迁移至第二数据池中进行存储。
具体实施例可以参考上述数据迁移方法中所示示例,本示例中在此不再赘述。
作为一种可选的方案,装置还包括:
访问单元,用于在响应数据迁移请求,使用第一标签和第二标签对目标数据进行标记之后,响应于目标账号对第一标签标记的数据触发的读写访问请求,对第一标签标记的数据进行读写访问,其中,目标账号的读写访问权限高于第一标签的禁止读写访问权限。
具体实施例可以参考上述数据迁移方法中所示示例,本示例中在此不再赘述。
作为一种可选的方案,标记单元1104,包括:
设置模块,用于对目标数据的元数据进行第一扩展属性和第二扩展属性的设置,其中,第一扩展属性用于指示目标数据已标记第一标签,第二扩展属性用于指示目标数据已标记第二标签。
具体实施例可以参考上述数据迁移方法中所示示例,本示例中在此不再赘述。
作为一种可选的方案,装置还包括:
第三获取单元,用于在获取对第一数据池触发的数据迁移请求之前,获取第一数据池中存储的各个数据对应的读写访问频率;
确定单元,用于在获取对第一数据池触发的数据迁移请求之前,将第一数据池中存储的、读写访问频率小于或等于预设阈值的数据确定为目标数据。
具体实施例可以参考上述数据迁移方法中所示示例,本示例中在此不再赘述。
根据本申请实施例的又一个方面,还提供了一种用于实施上述数据迁移方法的电子设备,该电子设备可以但不限于为图1中所示的用户设备102或服务器112,本实施例以电子设备为用户设备102为例说明,进一步如图12所示,该电子设备包括存储器1202和处理器1204,该存储器1202中存储有计算机程序,该处理器1204被设置为通过计算机程序执行上述任一项方法实施例中的步骤。
可选地,在本实施例中,上述电子设备可以位于计算机网络的多个网络设备中的至少一个网络设备。
可选地,在本实施例中,上述处理器可以被设置为通过计算机程序执行以下步骤:
S1,获取对第一数据池触发的数据迁移请求,其中,数据迁移请求用于请求将第一数据池中存储的目标数据迁移至第二数据池中进行存储;
S2,响应数据迁移请求,使用第一标签和第二标签对目标数据进行标记,其中,第一标签用于指示目标数据处于准备迁移状态,第二标签用于指示将目标数据要迁移第二数据池,处于所示准备迁移状态的数据设置为禁止读写访问;
S3,从第一数据池中读取出第一标签和第二标签共同标记的待迁移数据,并按照第二标签的指示,将待迁移数据作为目标数据迁移至第二数据池中进行存储。
可选地,本领域普通技术人员可以理解,图12所示的结构仅为示意,图12其并不对上述电子设备的结构造成限定。例如,电子设备还可包括比图12中所示更多或者更少的组件(如网络接口等),或者具有与图12所示不同的配置。
其中,存储器1202可用于存储软件程序以及模块,如本申请实施例中的数据迁移方法和装置对应的程序指令/模块,处理器1204通过运行存储在存储器1202内的软件程序以及模块,从而执行各种功能应用以及数据处理,即实现上述的数据迁移方法。存储器1202可包括高速随机存储器,还可以包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器1202可进一步包括相对于处理器1204远程设置的存储器,这些远程存储器可以通过网络连接至电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。其中,存储器1202具体可以但不限于用于存储第一标签、第二标签以及目标数据等信息。作为一种示例,如图12所示,上述存储器1202中可以但不限于包括上述数据迁移装置中的第一获取单元1102、标记单元1104及迁移单元1106。此外,还可以包括但不限于上述数据迁移装置中的其他模块单元,本示例中不再赘述。
可选地,上述的传输装置1206用于经由一个网络接收或者发送数据。上述的网络具体实例可包括有线网络及无线网络。在一个实例中,传输装置1206包括一个网络适配器(Network Interface Controller,NIC),其可通过网线与其他网络设备与路由器相连从而可与互联网或局域网进行通讯。在一个实例中,传输装置1206为射频(Radio Frequency,RF)模块,其用于通过无线方式与互联网进行通讯。
此外,上述电子设备还包括:显示器1208,用于显示上述第一标签、第二标签以及目标数据等信息;和连接总线1210,用于连接上述电子设备中的各个模块部件。
在其他实施例中,上述用户设备或者服务器可以是一个分布式系统中的一个节点,其中,该分布式系统可以为区块链系统,该区块链系统可以是由该多个节点通过网络通信的形式连接形成的分布式系统。其中,节点之间可以组成点对点网络,任意形式的计算设备,比如服务器、用户设备等电子设备都可以通过加入该点对点网络而成为该区块链系统中的一个节点。
根据本申请的一个方面,提供了一种计算机程序产品,该计算机程序产品包括计算机程序/指令,该计算机程序/指令包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分从网络上被下载和安装,和/或从可拆卸介质被安装。在该计算机程序被中央处理器执行时,执行本申请实施例提供的各种功能。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
需要说明的是,电子设备的计算机系统仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
计算机系统包括中央处理器(Central Processing Unit,CPU),其可以根据存储在只读存储器(Read-Only Memory,ROM)中的程序或者从存储部分加载到随机访问存储器(Random Access Memory,RAM)中的程序而执行各种适当的动作和处理。在随机访问存储器中,还存储有系统操作所需的各种程序和数据。中央处理器、在只读存储器以及随机访问存储器通过总线彼此相连。输入/输出接口(Input /Output接口,即I/O接口)也连接至总线。
以下部件连接至输入/输出接口:包括键盘、鼠标等的输入部分;包括诸如阴极射线管(Cathode Ray Tube,CRT)、液晶显示器(Liquid Crystal Display,LCD)等以及扬声器等的输出部分;包括硬盘等的存储部分;以及包括诸如局域网卡、调制解调器等的网络接口卡的通信部分。通信部分经由诸如因特网的网络执行通信处理。驱动器也根据需要连接至输入/输出接口。可拆卸介质,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器上,以便于从其上读出的计算机程序根据需要被安装入存储部分。
特别地,根据本申请的实施例,各个方法流程图中所描述的过程可以被实现为计算机软件程序。例如,本申请的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分从网络上被下载和安装,和/或从可拆卸介质被安装。在该计算机程序被中央处理器执行时,执行本申请的系统中限定的各种功能。
根据本申请的一个方面,提供了一种计算机可读存储介质,计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述各种可选实现方式中提供的方法。
可选地,在本实施例中,上述计算机可读的存储介质可以被设置为存储用于执行以下步骤的计算机程序:
S1,获取对第一数据池触发的数据迁移请求,其中,数据迁移请求用于请求将第一数据池中存储的目标数据迁移至第二数据池中进行存储;
S2,响应数据迁移请求,使用第一标签和第二标签对目标数据进行标记,其中,第一标签用于指示目标数据处于准备迁移状态,第二标签用于指示将目标数据要迁移第二数据池,处于所示准备迁移状态的数据设置为禁止读写访问;
S3,从第一数据池中读取出第一标签和第二标签共同标记的待迁移数据,并按照第二标签的指示,将待迁移数据作为目标数据迁移至第二数据池中进行存储。
可选地,在本实施例中,本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令电子设备相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:闪存盘、只读存储器(Read-Only Memory,ROM)、随机存取器(Random Access Memory,RAM)、磁盘或光盘等。
上述本申请实施例序号仅仅为了描述,不代表实施例的优劣。
上述实施例中的集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在上述计算机可读取的存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在存储介质中,包括若干指令用以使得一台或多台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例方法的全部或部分步骤。
在本申请的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的用户设备,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
以上所述仅是本申请的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。
Claims (9)
1.一种数据迁移方法,其特征在于,包括:
获取热数据池中存储的各个数据对应的读写访问频率;
将所述热数据池中存储的、所述读写访问频率小于或等于预设阈值的数据确定为目标数据;
获取对所述热数据池触发的数据迁移请求,其中,所述数据迁移请求用于请求将所述热数据池中存储的所述目标数据迁移至冷数据池中进行存储,所述热数据池的资源性能高于所述冷数据池的资源性能;
响应所述数据迁移请求,通过分布式文件系统中的元数据服务器对所述目标数据的元数据进行第一扩展属性和第二扩展属性的设置,其中,所述第一扩展属性用于指示所述目标数据已标记第一标签,所述第二扩展属性用于指示所述目标数据已标记第二标签,所述第一标签用于指示所述目标数据处于准备迁移状态,所述第二标签用于指示将所述目标数据要迁移所述冷数据池,处于所述准备迁移状态的数据设置为禁止读写访问;
从所述热数据池中读取出所述第一标签和所述第二标签共同标记的目标数据作为待迁移数据,并按照所述第二标签的指示,将所述待迁移数据迁移至所述冷数据池中进行存储;
在所述从所述热数据池中读取出所述第一标签和所述第二标签共同标记的目标数据作为待迁移数据,并按照所述第二标签的指示,将所述待迁移数据迁移至所述冷数据池中进行存储的过程中,获取所述待迁移数据在迁移至所述冷数据池过程中的迁移状态;将所述迁移状态写入所述待迁移数据的第一分片对象的对象属性中,其中,所述待迁移数据被切分为多个分片对象,所述第一分片对象为所述多个分片对象中的0号分片对象;
所述方法还包括:
在所述响应所述数据迁移请求之后,响应于目标账号对所述第一标签标记的目标数据触发的读写访问请求,对所述第一标签标记的目标数据进行读写访问,其中,所述目标账号的读写访问权限高于所述第一标签的禁止读写访问权限。
2.根据权利要求1所述的方法,其特征在于,所述从所述热数据池中读取出所述第一标签和所述第二标签共同标记的目标数据作为待迁移数据,并按照所述第二标签的指示,将所述待迁移数据迁移至所述冷数据池中进行存储,包括:
从所述热数据池中读取出所述待迁移数据,并获取所述待迁移数据的目标数据量;
从所述待迁移数据的起始读取位置开始,按照目标子数据量依次从所述待迁移数据中进行数据读取,并将每次读取到的、所述目标子数据量的数据迁移至所述冷数据池中进行存储,其中,所述目标子数据量小于所述目标数据量。
3.根据权利要求2所述的方法,其特征在于,所述从所述待迁移数据的起始位置开始,按照目标子数据量依次从所述待迁移数据中进行数据读取,并将每次读取到的、所述目标子数据量的数据迁移至所述冷数据池中进行存储,所述方法还包括:
执行以下步骤,直至所述待迁移数据都已迁移至所述冷数据池中进行存储:
确定所述待迁移数据的当前读取位置;
按照目标子数据量从所述当前读取位置处进行数据读取,并将每次读取到的、所述目标子数据量的当前数据迁移至所述冷数据池中进行存储;
在所述当前读取位置非所述待迁移数据的结尾读取位置的情况下,从所述待迁移数据中确定出所述当前读取位置的下一读取位置,并将所述下一读取位置确定为所述当前读取位置;
在所述当前读取位置为所述结尾读取位置的情况下,确定所述待迁移数据都已迁移至所述冷数据池中进行存储。
4.根据权利要求1所述的方法,其特征在于,所述获取所述待迁移数据在迁移至所述冷数据池过程中的迁移状态,包括以下至少之一:
获取所述待迁移数据在迁移至所述冷数据池过程中的第一迁移状态,其中,所述第一迁移状态用于表示所述待迁移数据还未开始迁移;
获取所述待迁移数据在迁移至所述冷数据池过程中的第二迁移状态,其中,所述第二迁移状态用于表示所述待迁移数据正在迁移;
获取所述待迁移数据在迁移至所述冷数据池过程中的第三迁移状态,其中,所述第三迁移状态用于表示所述待迁移数据已迁移完成,处于所述第三迁移状态的数据取消所述第一标签和所述第二标签的标记;
获取所述待迁移数据在迁移至所述冷数据池过程中的第四迁移状态,其中,所述第四迁移状态用于表示所有准备迁移的数据都已完成迁移,所述所有准备迁移的数据包括所述待迁移数据。
5.根据权利要求1至4中任一项所述的方法,其特征在于,在所述响应所述数据迁移请之后,所述方法还包括:
从所述热数据池中读取出所述第二标签标记的目标数据;
对所述第二标签标记的目标数据所在的当前数据池,与所述第二标签指示的冷数据池进行比对,得到比对结果;
在所述比对结果指示所述当前数据池与所述冷数据池不同、且所述第二标签标记的目标数据标记有所述第二标签的情况下,开始将所述第二标签标记的目标数据作为所述待迁移数据迁移至所述冷数据池中进行存储。
6.一种数据迁移装置,其特征在于,包括:
第一获取单元,用于获取对热数据池触发的数据迁移请求,其中,所述数据迁移请求用于请求将所述热数据池中存储的目标数据迁移至冷数据池中进行存储,所述热数据池的资源性能高于所述冷数据池的资源性能;
标记单元,用于响应所述数据迁移请求,通过分布式文件系统中的元数据服务器对所述目标数据的元数据进行第一扩展属性和第二扩展属性的设置,其中,所述第一扩展属性用于指示所述目标数据已标记第一标签,所述第二扩展属性用于指示所述目标数据已标记第二标签,所述第一标签用于指示所述目标数据处于准备迁移状态,所述第二标签用于指示将所述目标数据要迁移所述冷数据池,处于所述准备迁移状态的数据设置为禁止读写访问;
迁移单元,用于从所述热数据池中读取出所述第一标签和所述第二标签共同标记的目标数据作为待迁移数据,并按照所述第二标签的指示,将所述待迁移数据迁移至所述冷数据池中进行存储;
所述装置还包括:访问单元,用于在所述响应所述数据迁移请求之后,响应于目标账号对所述第一标签标记的目标数据触发的读写访问请求,对所述第一标签标记的目标数据进行读写访问,其中,所述目标账号的读写访问权限高于所述第一标签的禁止读写访问权限;
第三获取单元,用于在所述获取对热数据池触发的数据迁移请求之前,获取所述热数据池中存储的各个数据对应的读写访问频率;确定单元,用于在所述获取对热数据池触发的数据迁移请求之前,将所述热数据池中存储的、所述读写访问频率小于或等于预设阈值的数据确定为所述目标数据;
所述装置还包括:
第二获取单元,用于在所述从所述热数据池中读取出所述第一标签和所述第二标签共同标记的目标数据作为待迁移数据,并按照所述第二标签的指示,将所述待迁移数据迁移至所述冷数据池中进行存储的过程中,获取所述待迁移数据在迁移至所述冷数据池过程中的迁移状态;
写入单元,用于将所述迁移状态写入所述待迁移数据的第一分片对象的对象属性中,其中,所述待迁移数据被切分为多个分片对象,所述第一分片对象为所述多个分片对象中的0号分片对象。
7.一种计算机可读的存储介质,其特征在于,所述计算机可读的存储介质包括存储的程序,其中,所述程序被电子设备运行时执行权利要求1至5任一项中所述的方法。
8.一种计算机程序产品,包括计算机程序/指令,其特征在于,该计算机程序/指令被处理器执行时实现权利要求1至5任一项中所述方法的步骤。
9.一种电子设备,包括存储器和处理器,其特征在于,所述存储器中存储有计算机程序,所述处理器被设置为通过所述计算机程序执行权利要求1至5任一项中所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310991056.7A CN116719482B (zh) | 2023-08-08 | 2023-08-08 | 数据迁移方法、装置和存储介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310991056.7A CN116719482B (zh) | 2023-08-08 | 2023-08-08 | 数据迁移方法、装置和存储介质及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116719482A CN116719482A (zh) | 2023-09-08 |
CN116719482B true CN116719482B (zh) | 2024-06-11 |
Family
ID=87868319
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310991056.7A Active CN116719482B (zh) | 2023-08-08 | 2023-08-08 | 数据迁移方法、装置和存储介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116719482B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9507799B1 (en) * | 2009-12-08 | 2016-11-29 | Netapp, Inc. | Distributed object store for network-based content repository |
CN112783831A (zh) * | 2021-01-28 | 2021-05-11 | 新华三大数据技术有限公司 | 一种文件迁移方法及装置 |
CN113792024A (zh) * | 2021-03-02 | 2021-12-14 | 北京沃东天骏信息技术有限公司 | 用于迁移数据的方法、装置、设备以及存储介质 |
CN115963995A (zh) * | 2023-01-03 | 2023-04-14 | 中能融合智慧科技有限公司 | 多模态低能耗分布式云存储系统、电子设备及存储介质 |
CN116226078A (zh) * | 2022-12-07 | 2023-06-06 | 南京星联数字技术有限公司 | 一种数据迁移方法、装置、设备和存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7890454B2 (en) * | 2008-05-08 | 2011-02-15 | International Business Machines Corporation | Method and system for data disaggregation |
US11249671B2 (en) * | 2017-04-28 | 2022-02-15 | Netapp, Inc. | Methods for improved data replication across hybrid cloud volumes using data tagging and devices thereof |
-
2023
- 2023-08-08 CN CN202310991056.7A patent/CN116719482B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9507799B1 (en) * | 2009-12-08 | 2016-11-29 | Netapp, Inc. | Distributed object store for network-based content repository |
CN112783831A (zh) * | 2021-01-28 | 2021-05-11 | 新华三大数据技术有限公司 | 一种文件迁移方法及装置 |
CN113792024A (zh) * | 2021-03-02 | 2021-12-14 | 北京沃东天骏信息技术有限公司 | 用于迁移数据的方法、装置、设备以及存储介质 |
CN116226078A (zh) * | 2022-12-07 | 2023-06-06 | 南京星联数字技术有限公司 | 一种数据迁移方法、装置、设备和存储介质 |
CN115963995A (zh) * | 2023-01-03 | 2023-04-14 | 中能融合智慧科技有限公司 | 多模态低能耗分布式云存储系统、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN116719482A (zh) | 2023-09-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10831614B2 (en) | Visualizing restoration operation granularity for a database | |
US11153380B2 (en) | Continuous backup of data in a distributed data store | |
CN107122360B (zh) | 数据迁移系统和方法 | |
CN107122355B (zh) | 数据迁移系统和方法 | |
US10310949B1 (en) | Disaster restore of big data application with near zero RTO | |
US9442952B2 (en) | Metadata structures and related locking techniques to improve performance and scalability in a cluster file system | |
US8818951B1 (en) | Distributed file system having separate data and metadata and providing a consistent snapshot thereof | |
US8515911B1 (en) | Methods and apparatus for managing multiple point in time copies in a file system | |
JP5254611B2 (ja) | 固定内容分散データ記憶のためのメタデータ管理 | |
US8214404B2 (en) | Media aware distributed data layout | |
CN107122361B (zh) | 数据迁移系统和方法 | |
JP2019515377A (ja) | 分散型データストアのバージョン化された階層型データ構造 | |
CN111522880B (zh) | 一种基于mysql数据库集群的提升数据读写性能的方法 | |
CN106484820B (zh) | 一种重命名方法、访问方法及装置 | |
JP2004110218A (ja) | Dbms向け仮想ボリューム作成・管理方法 | |
US9430330B1 (en) | System and method for managing environment metadata during data backups to a storage system | |
US10909091B1 (en) | On-demand data schema modifications | |
WO2021057108A1 (zh) | 一种读数据方法、写数据方法及服务器 | |
US9081784B2 (en) | Delta indexing method for hierarchy file storage | |
US20230101774A1 (en) | Techniques for performing clipboard-to-file paste operations | |
CN116389233B (zh) | 容器云管理平台主备切换系统、方法、装置和计算机设备 | |
US20230259529A1 (en) | Timestamp consistency for synchronous replication | |
CN116719482B (zh) | 数据迁移方法、装置和存储介质及电子设备 | |
Avilés-González et al. | Scalable metadata management through OSD+ devices | |
CN117950597B (zh) | 数据修改写方法、数据修改写装置以及计算机存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40094524 Country of ref document: HK |
|
GR01 | Patent grant |