CN115145473A - 异构存储介质之间的数据处理方法、装置及设备 - Google Patents
异构存储介质之间的数据处理方法、装置及设备 Download PDFInfo
- Publication number
- CN115145473A CN115145473A CN202110351922.7A CN202110351922A CN115145473A CN 115145473 A CN115145473 A CN 115145473A CN 202110351922 A CN202110351922 A CN 202110351922A CN 115145473 A CN115145473 A CN 115145473A
- Authority
- CN
- China
- Prior art keywords
- file
- processed
- storage medium
- target
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title abstract description 39
- 238000012795 verification Methods 0.000 claims abstract description 127
- 238000012545 processing Methods 0.000 claims abstract description 104
- 238000000034 method Methods 0.000 claims abstract description 70
- 230000005540 biological transmission Effects 0.000 claims description 66
- 238000004422 calculation algorithm Methods 0.000 claims description 51
- 238000004364 calculation method Methods 0.000 claims description 21
- 230000002159 abnormal effect Effects 0.000 claims description 13
- 238000012216 screening Methods 0.000 claims description 7
- 238000001914 filtration Methods 0.000 claims description 3
- 238000013508 migration Methods 0.000 abstract description 47
- 230000005012 migration Effects 0.000 abstract description 47
- 238000001514 detection method Methods 0.000 abstract description 23
- 230000009286 beneficial effect Effects 0.000 abstract description 3
- 230000008569 process Effects 0.000 description 24
- 238000010586 diagram Methods 0.000 description 17
- 238000004590 computer program Methods 0.000 description 10
- 238000004891 communication Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 8
- 125000004122 cyclic group Chemical group 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 238000012546 transfer Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000004044 response Effects 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 3
- 238000013524 data verification Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 239000003086 colorant Substances 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000007667 floating Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 102220076776 rs144141585 Human genes 0.000 description 1
- 102220103881 rs201490575 Human genes 0.000 description 1
- 102220037952 rs79161998 Human genes 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
- G06F3/0614—Improving the reliability of storage systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0638—Organizing or formatting or addressing of data
- G06F3/0643—Management of files
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
- G06F3/0646—Horizontal data movement in storage systems, i.e. moving data in between storage devices or systems
- G06F3/0647—Migration mechanisms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
- G06F3/0601—Interfaces specially adapted for storage systems
- G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
- G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例提供了一种异构存储介质之间的数据处理方法、装置及设备。数据处理方法包括:获取源存储介质中的至少一个待处理文件;对至少一个待处理文件进行计算,获得至少一个待处理文件各自对应的第一校验信息;获取目标存储介质中存储的至少一个待处理文件各自对应的第二校验信息,源存储介质与目标存储介质为异构存储介质;基于第一校验信息与第二校验信息,判断至少一个待处理文件是否为源存储介质与目标存储介质之间的差异文件。本实施例提供的技术方案,有效地实现了对异构存储介质之间的数据进行差异性检测操作,这样在进行数据迁移或者数据拷贝的应用场景中,有利于保证了数据迁移或数据拷贝的准确可靠性。
Description
技术领域
本发明涉及数据处理技术领域,尤其涉及一种异构存储介质之间的数据处理方法、装置及设备。
背景技术
随着科学技术的飞速发展,能够提供海量、安全、低成本、高可靠的云存储服务的应用领域越来越广泛。在大数据迁移的应用场景,特别是在异构存储介质之间进行大数据迁移时,往往需要比较源存储介质和目标存储介质中的数据之间是否存在差异。例如:将数据从用户自建的分布式Hadoop集群迁移至云上时,需要比较Hadoop集群和云存储介质之间的数据是否存在差异。
对于异构存储介质而言,现有的数据处理方法往往会跳过数据完整性校验,导致在数据迁移操作出现异常时,难以及时发现问题。
发明内容
本发明实施例提供了一种异构存储介质之间的数据处理方法、装置及设备,能够解决现有技术中存在的由于异构存储介质默认的数据校验方式往往不同,而无法直接使用的问题。
第一方面,本发明实施例提供一种异构存储介质之间的数据处理方法,包括:
获取源存储介质中的至少一个待处理文件;
对所述至少一个待处理文件进行计算,获得所述至少一个待处理文件各自对应的第一校验信息;
获取目标存储介质中存储的所述至少一个待处理文件各自对应的第二校验信息,其中,所述源存储介质与所述目标存储介质为异构存储介质;
基于所述第一校验信息与所述第二校验信息,判断所述至少一个待处理文件是否为所述源存储介质与所述目标存储介质之间的差异文件。
第二方面,本发明实施例提供一种异构存储介质之间的数据处理装置,包括:
第一获取模块,用于获取源存储介质中的至少一个待处理文件;
第一计算模块,用于对所述至少一个待处理文件进行计算,获得所述至少一个待处理文件各自对应的第一校验信息;
所述第一获取模块,还用于获取目标存储介质中存储的所述至少一个待处理文件各自对应的第二校验信息,其中,所述源存储介质与所述目标存储介质为异构存储介质;
第一处理模块,用于基于所述第一校验信息与所述第二校验信息,判断所述至少一个待处理文件是否为所述源存储介质与所述目标存储介质之间的差异文件。
第三方面,本发明实施例提供一种电子设备,包括:存储器、处理器;其中,所述存储器用于存储一条或多条计算机指令,其中,所述一条或多条计算机指令被所述处理器执行时实现上述第一方面中的异构存储介质之间的数据处理方法。
第四方面,本发明实施例提供了一种计算机存储介质,用于储存计算机程序,所述计算机程序使计算机执行时实现上述第一方面中的异构存储介质之间的数据处理方法。
第五方面,本发明实施例提供了一种异构存储介质之间的数据处理方法,包括:
获取源存储介质中存储的至少一个待处理文件;
对所述至少一个待处理文件进行计算,获得与所述至少一个待处理文件各自对应的校验信息;
将所述至少一个待处理文件和所对应的校验信息传输至目标存储介质,其中,所述源存储介质与所述目标存储介质为异构存储介质。
第六方面,本发明实施例提供了一种异构存储介质之间的数据处理装置,包括:
第二获取模块,用于获取源存储介质中存储的至少一个待处理文件;
第二计算模块,用于对所述至少一个待处理文件进行计算,获得与所述至少一个待处理文件各自对应的校验信息;
第二处理模块,用于将所述至少一个待处理文件和所对应的校验信息传输至目标存储介质,其中,所述源存储介质与所述目标存储介质为异构存储介质。
第七方面,本发明实施例提供了一种电子设备,包括:存储器、处理器;其中,所述存储器用于存储一条或多条计算机指令,其中,所述一条或多条计算机指令被所述处理器执行时实现上述第五方面中的异构存储介质之间的数据处理方法。
第八方面,本发明实施例提供了一种计算机存储介质,用于储存计算机程序,所述计算机程序使计算机执行时实现上述第五方面中的异构存储介质之间的数据处理方法。
本实施例提供的异构存储介质之间的数据处理方法、装置及设备,通过获取源存储介质中的至少一个待处理文件,对所述至少一个待处理文件进行计算,获得所述至少一个待处理文件各自对应的第一校验信息,而后获取目标存储介质中存储的所述至少一个待处理文件各自对应的第二校验信息,并基于所述第一校验信息与所述第二校验信息,判断所述至少一个待处理文件是否为所述源存储介质与所述目标存储介质之间的差异文件,从而有效地实现了对异构存储介质之间的数据进行差异性检测操作,这样在进行数据迁移或者数据增量拷贝的应用场景中,可以及时发现差异性问题;在需要对差异文件进行迁移操作时,还可以对差异文件的迁移操作是否正常,具体的,可以获取针对差异文件相对应的迁移过程中校验信息和迁移过程后校验信息,基于迁移过程中校验信息和迁移过程后校验信息来检测对差异文件的迁移操作是否正常,这样有效地保证了数据迁移或者数据增量拷贝的准确可靠性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种异构存储介质之间的数据处理方法的原理示意图;
图2为本发明实施例提供的一种异构存储介质之间的数据处理方法的流程示意图;
图3为本发明实施例提供的对所述至少一个待处理文件进行计算,获得所述至少一个待处理文件各自对应的第一校验信息的流程示意图;
图4为本发明实施例提供的将所述差异文件传输至所述目标存储介质的流程示意图;
图5为本发明实施例提供的另一种异构存储介质之间的数据处理方法的流程示意图;
图6为本发明实施例提供的又一种异构存储介质之间的数据处理方法的流程示意图;
图7为本发明实施例提供的另一种异构存储介质之间的数据处理方法的流程示意图;
图8为本发明应用实施例提供的源存储介质与目标存储介质的示意图;
图9为本发明应用实施例提供的一种异构存储介质之间的数据处理方法的流程示意图;
图10为本发明应用实施例提供的一种异构存储介质之间的数据处理装置的结构示意图;
图11为与图10所示实施例提供的异构存储介质之间的数据处理装置对应的电子设备的结构示意图;
图12为本发明实施例提供的另一种异构存储介质之间的数据处理装置的结构示意图;
图13为与图12所示实施例提供的异构存储介质之间的数据处理装置对应的电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在本发明实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本发明。在本发明实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义,“多种”一般包含至少两种,但是不排除包含至少一种的情况。
应当理解,本文中使用的术语“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
取决于语境,如在此所使用的词语“如果”、“若”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地,取决于语境,短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的商品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种商品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的商品或者系统中还存在另外的相同要素。
另外,下述各方法实施例中的步骤时序仅为一种举例,而非严格限定。
为了便于理解本实施例中数据处理方法的具体实现过程和实现效果,下面对相关技术进行简要说明:
在大数据迁移的应用场景中,特别是在异构存储介质之间进行大数据迁移时,往往需要比较源存储介质和目标存储介质中的数据之间是否存在差异。例如:将数据从用户自建的分布式Hadoop集群迁移至云上时,需要比较Hadoop集群和云存储介质之间的数据是否存在差异,在获取到差异数据之后,可以对差异数据进行迁移操作,从而有效地实现了对迁移数据做完整性校验操作,进一步保证了迁移数据的正确性和完整性。
但是,对于异构存储介质而言,由于异构存储介质默认的数据校验方式往往不同,无法直接使用,例如:对于Hadoop类型的存储介质而言,其默认的数据校验方式可以为32位的循环冗余校验(Cyclic Redundancy Check,简称CRC32)算法;对于简单存储服务(SimpleStorage Service,简称S3)类型的存储介质而言,其默认的数据校验方式可以为消息摘要(Message Digest Algorithm,简称MD5)算法;对于云对象存储服务类型(例如:OSS)的存储介质而言,其默认的数据校验方式可以为64位的循环冗余校验(Cyclic RedundancyCheck,简称CRC64)算法。因此,在大数据迁移的应用场景中,现有的数据处理方式往往只能跳过数据完整性校验,这样在数据迁移操作出现异常时,容易出现无法及时发现问题的情况。
为了避免上述无法及时发现问题的缺陷,在某些需要对数据进行增量拷贝的应用场景中,可以对异构存储介质之间所存储的数据进行差异比较,具体的,通过源存储介质和目标存储介质分别读取出需要进行差异比较的源数据和目标数据,获取源数据的文件名和文件大小、目标数据的文件名和文件大小;而后基于源数据的文件名和文件大小、目标数据的文件名和文件大小来识别源数据和目标数据之间是否一致。
然而,这种实现方式不仅容易使得文件识别错误,例如,在两个文件的文件名完全一致时,而源数据与目标数据之间只更改了一个字符时,则不会识别出源数据和目标数据之间存在差异。此外,上述实现方式在同构存储介质之间进行差异比较时,往往也需要将目标存储介质的数据重新读取一次,并计算一次校验和,其中,校验和是指在数据处理和数据通信领域中,用于进行差错检测和完整性校验的校验信息,这样极大地增加了数据处理资源的占用率,降低了数据处理的效率。
为了解决上述技术问题,本实施例提供了一种异构存储介质之间的数据处理方法、装置及设备,其中,数据处理方法通过获取源存储介质中的至少一个待处理文件,对至少一个待处理文件进行计算,获得至少一个待处理文件各自对应的第一校验信息,而后提取目标存储介质中存储的至少一个待处理文件各自对应的第二校验信息,其中,源存储介质与目标存储介质为异构存储介质,并基于第一校验信息与第二校验信息,判断至少一个待处理文件是否为源存储介质与目标存储介质之间的差异文件,从而有效地实现可以对源存储介质和目标存储介质之间的文件进行差异性识别操作,这样有利于在进行数据迁移或者数据增量拷贝的应用场景中,保证了数据迁移或者数据增量拷贝的准确可靠性。
下面结合附图,对本发明的一些实施方式作详细说明。在各实施例之间不冲突的情况下,下述的实施例及实施例中的特征可以相互组合。
图1为本发明实施例提供的一种异构存储介质之间的数据处理方法的原理示意图;图2为本发明实施例提供的一种异构存储介质之间的数据处理方法的流程示意图;参考附图1-图2所示,本实施例提供了一种异构存储介质之间的数据处理方法,该方法的执行主体为异构存储介质之间的数据处理装置,可以理解的是,该异构存储介质之间的数据处理装置可以实现为软件、或者软件和硬件的组合,该异构存储介质之间的数据处理装置可以独立于异构存储介质的装置,或者,异构存储介质之间的数据处理装置可以集成于异构存储介质中。具体的,该异构存储介质之间的数据处理方法可以包括:
步骤S201:获取源存储介质中的至少一个待处理文件。
步骤S202:对至少一个待处理文件进行计算,获得至少一个待处理文件各自对应的第一校验信息。
步骤S203:获取目标存储介质中存储的至少一个待处理文件各自对应的第二校验信息,其中,源存储介质与目标存储介质为异构存储介质。
步骤S204:基于第一校验信息与第二校验信息,判断至少一个待处理文件是否为源存储介质与目标存储介质之间的差异文件。
下面对上述各个步骤的具体实现过程和实现效果进行详细说明:
步骤S201:获取源存储介质中的至少一个待处理文件。
其中,源存储介质可以是指能够存储至少一个待处理文件(可以对应有至少一个文件类型)的存储介质,该源存储介质可以是私有化存储介质或者云存储介质,而目标存储介质是指能够实现文件迁移操作或者文件处理操作的存储介质,上述的目标存储介质与源存储介质是异构存储介质,具体的,异构存储介质是指不同结构的存储介质,例如:源存储介质为磁带机,目标存储介质为机械硬盘;或者,源存储介质为只读存储器,目标存储介质为光盘等等,上述的源存储介质与目标存储介质即为异构存储介质。
具体的,在能够实现数据处理方法的数据处理装置独立设置于源存储介质时,数据处理装置可以与源存储介质通信连接,而后可以通过所建立的通信链路获取源存储介质中所存储的至少一个待处理文件。在数据处理装置设置于源存储介质上时,数据处理装置可以直接访问源存储介质,从而可以获取至少一个待处理文件。在数据处理装置设置于目标存储介质上时,数据处理装置可以直接使得源存储介质与目标存储介质之间建立通信链路,通过上述所建立的通信链路即可获取至少一个待处理文件。
当然的,本领域技术人员也可以采用其他的方式来获取源存储介质中的至少一个待处理文件,只要能够保证对至少一个待处理文件进行获取的稳定可靠性即可,在此不再赘述。
步骤S202:对至少一个待处理文件进行计算,获得至少一个待处理文件各自对应的第一校验信息。
在获取到至少一个待处理文件之后,可以对至少一个待处理文件进行分析计算,从而可以获得至少一个待处理文件各自对应的第一校验信息。具体的,源存储介质中存储有用于对至少一个待处理文件进行计算的校验算法,可以理解的是,不同类型的源存储介质可以对应有不同的校验算法。例如:对于Hadoop类型的存储介质而言,其默认的校验算法可以为32位的循环冗余校验(Cyclic Redundancy Check,简称CRC32)算法;对于简单存储服务(Simple Storage Service,简称S3)类型的存储介质而言,其默认的校验算法可以为消息摘要(Message Digest Algorithm,简称MD5)算法;对于云对象存储服务类型(例如:OSS)的存储介质而言,其默认的校验算法可以为64位的循环冗余校验(Cyclic RedundancyCheck,简称CRC64)算法。通过源存储介质即可获取到校验算法,而后利用校验算法对至少一个待处理文件进行分析计算,从而可以获得至少一个待处理文件各自对应的第一校验信息,具体实现时,第一校验信息可以包括以下任意一类:数据校验和、校验码、异或校验信息等等,当然的,本领域技术人员可以基于所对应的校验算法来确定其他类型的第一校验信息,只要能够保证对第一校验信息进行确定的准确可靠性即可,在此不再赘述。
步骤S203:获取目标存储介质中存储的至少一个待处理文件各自对应的第二校验信息,其中,源存储介质与目标存储介质为异构存储介质。
其中,目标存储介质中存储有至少一个待处理文件各自对应的第二校验信息,上述的第二校验信息可以是在源存储介质获取到至少一个待处理文件各自对应的校验信息之后,将至少一个待处理文件以及各自对应的校验信息发送至目标存储介质所生成的。在一些实例中,在获取源存储介质中的至少一个待处理文件之前,本实施例中的方法还可以包括:获取历史时刻存储在源存储介质中的至少一个待处理文件;计算与至少一个待处理文件各自对应的历史校验信息;将历史校验信息作为第二校验信息、与至少一个待处理文件传输至目标存储介质。
具体的,在历史时刻t0,源存储介质中存储有至少一个待处理文件(W1、W2、W3和W4),随着时间的延长,源存储介质中所存在的至少一个待处理文件可以发生变化或者更新,例如:在当前时刻t1,源存储介质中存储有至少一个待处理文件(W1、W2、W3、W4和W5),此时,至少一个待处理文件已发生更新,因此,在当前时刻t1,源存储介质中存储的至少一个待处理文件与在历史时刻t0时源存储介质中存储的至少一个待处理文件可以相同或者不同。
在获取到历史时刻存储在源存储介质中的至少一个待处理文件之后,可以对至少一个待处理文件进行校验计算,计算与至少一个待处理文件各自对应的历史校验信息,具体的,用于对至少一个待处理文件进行校验计算的校验算法可以为源存储介质中所存储的默认校验算法。在获取到历史校验信息之后,可以将历史校验信息作为第二校验信息、与至少一个待处理文件传输至目标存储介质。
在一些实例中,将历史校验信息作为第二校验信息、与至少一个待处理文件传输至目标存储介质可以包括:将第二校验信息作为所对应的待处理文件的头部信息、与待处理文件传输至目标存储介质,从而有效地实现了可以使得目标存储介质中存储有第二校验信息,进而便于获取目标存储介质中存储的至少一个待处理文件各自对应的第二校验信息。
需要注意的是,本实施例中上述步骤S203与步骤S202之间的执行顺序并不限于上述描述内容所限定的顺序,本领域技术人员可以根据具体的应用场景或者应用需求对步骤S202与步骤S203之间的执行顺序进行调整,例如:步骤S203可以在步骤S202之前执行,或者,步骤S203与步骤S202之间可以同时执行,在此不再赘述。
步骤S204:基于第一校验信息与第二校验信息,判断至少一个待处理文件是否为源存储介质与目标存储介质之间的差异文件。
其中,在获取到第一校验信息和第二校验信息之后,可以对第一校验信息和第二校验信息进行分析处理,以基于分析处理结果来判断至少一个待处理文件是否为源存储介质与目标存储介质之间的差异文件,即基于分析处理结果来判断源存储介质中的待处理文件与目标存储介质中的待处理文件之间是否存在差异;在源存储介质中的待处理文件与目标存储介质中存储的文件相同时,则可以确定待处理文件不是源存储介质与目标存储介质之间的差异文件;在源存储介质中的待处理文件与目标存储介质中存储的文件不同时,则可以确定待处理文件是源存储介质与目标存储介质之间的差异文件。
具体的,基于第一校验信息与第二校验信息,判断至少一个待处理文件是否为源存储介质与目标存储介质之间的差异文件可以包括:在第一校验信息与第二校验信息相同时,则确定与第一校验信息所对应的待处理文件不是差异文件;在第一校验信息与第二校验信息不同时,则确定与第一校验信息所对应的待处理文件是差异文件。
举例来说,源存储介质中存储有至少一个待处理文件,至少一个待处理文件可以包括W1、W2、W3、W4和W5,上述待处理文件各自所对应的第一校验信息可以为S11、S12、S13、S14和S15,获取目标存储介质中与上述待处理文件各自对应的第二校验信息可以为S21、S22、S23、S24和S25。在获取到上述第一校验信息和第二校验信息之后,可以比较第一校验信息和第二校验信息,即比较S11与S21之间是否相同、S12与S22之间是否相同、S13与S23之间是否相同、S14与S24之间是否相同以及S15与S25之间是否相同,在S11与S21相同、S13与S23相同、S14与S24相同时,则可以确定与上述S11、S13以及S14所对应的W1、W3和W4不是源存储介质与目标存储介质之间的差异文件。在S12与S22不同、S15与S25不同时,则可以确定与上述S12和S15所对应的W2和W5是源存储介质与目标存储介质之间的差异文件,从而有效地实现了对异构存储介质之间的数据进行差异性检测操作。
在确定与第一校验信息所对应的待处理文件是差异文件之后,本实施中的方法还包括:对第一校验信息、第二校验信息和差异文件进行显示。
其中,在确定与第一校验信息所对应的待处理文件是差异文件之后,则可以通过预设界面对第一校验信息、第二校验信息和差异文件进行显示,具体的,可以在预设界面的不同位置对第一校验信息、第二校验信息和差异文件进行显示,这样可以使得用户更加直接、快速地获知到差异文件的相关信息。
可以理解的是,在通过预设界面对第一校验信息、第二校验信息和差异文件进行显示时,为了提高信息显示的质量和效率,可以采用不同的形式对第一校验信息、第二校验信息和差异文件进行显示,例如:可以采用浮动窗口、信息提示框、弹窗中的一个对第一校验信息、第二校验信息和差异文件进行显示,为了提高信息显示的质量和效果,可以利用不同的字体、不同的颜色对第一校验信息、第二校验信息和差异文件进行显示。
另外,在通过预设界面对第一校验信息、第二校验信息和差异文件进行显示时,预设界面中可以包括用于关闭显示界面的控件,用户可以通过预设界面对控件输入执行操作,上述执行操作可以为点击操作、滑动操作中的任意之一,在获取到用户对控件输入的执行操作之后,可以基于执行操作对用于显示的第一校验信息、第二校验信息和差异文件的窗口进行关闭操作。
此外,在通过预设界面对第一校验信息、第二校验信息和差异文件进行显示时,预设界面中可以包括用于显示详细信息的控件,用户可以通过预设界面对控件输入执行操作,上述执行操作可以为点击操作、滑动操作中的任意之一,在获取到用户对控件输入的执行操作之后,可以基于执行操作显示与第一校验信息、第二校验信息和差异文件各自对应的详细信息,这样使得用户可以快速、直接地了解到差异检测的具体信息。
本实施例提供的异构存储介质之间的数据处理方法,通过获取源存储介质中的至少一个待处理文件,对所述至少一个待处理文件进行计算,获得所述至少一个待处理文件各自对应的第一校验信息,而后获取目标存储介质中存储的所述至少一个待处理文件各自对应的第二校验信息,并基于所述第一校验信息与所述第二校验信息,判断所述至少一个待处理文件是否为所述源存储介质与所述目标存储介质之间的差异文件,从而有效地实现了对异构存储介质之间的数据进行差异性检测操作,这样在进行数据迁移或者数据增量拷贝的应用场景中,有利于保证了数据迁移或者数据增量拷贝的准确可靠性。
图3为本发明实施例提供的对至少一个待处理文件进行计算,获得至少一个待处理文件各自对应的第一校验信息的流程示意图;在上述实施例的基础上,继续参考附图3所示,本实施例提供了一种对至少一个待处理文件进行计算的具体实现方式,具体的,本实施例中的对至少一个待处理文件进行计算,获得至少一个待处理文件各自对应的第一校验信息可以包括:
步骤S301:获取用于对至少一个待处理文件进行校验计算的校验和算法。
步骤S302:利用校验和算法对至少一个待处理文件进行计算,获得至少一个待处理文件各自对应的第一数据校验和。
其中,对于源存储介质而言,源存储介质中存储有与存储介质类型相关的校验和算法,因此,在源存储介质的存储介质类型确定之后,即可确定源存储介质中用于对至少一个待处理文件进行校验计算的校验和算法。例如:对于Hadoop类型的存储介质而言,其默认的校验和算法可以为32位的循环冗余校验(Cyclic Redundancy Check,简称CRC32)算法;对于简单存储服务(Simple Storage Service,简称S3)类型的存储介质而言,其默认的校验和算法可以为消息摘要(Message Digest Algorithm,简称MD5)算法;对于云对象存储服务类型(例如:OSS)的存储介质而言,其默认的校验和算法可以为64位的循环冗余校验(Cyclic Redundancy Check,简称CRC64)算法。
为了能够准确地获取到至少一个待处理文件各自对应的第一数据校验和,可以通过源存储介质获取用于对至少一个待处理文件进行校验计算的校验和算法,而后利用校验和算法对至少一个待处理文件进行计算,获得至少一个待处理文件各自对应的第一数据校验和,从而有效地保证了对第一校验信息进行获取的准确可靠性。
本实施例中,通过获取用于对至少一个待处理文件进行校验计算的校验和算法,而后利用校验和算法对至少一个待处理文件进行计算,获得至少一个待处理文件各自对应的第一数据校验和,从而有效地保证了对第一校验信息进行获取的准确可靠性,进而提高了基于第一校验信息进行差异性判断的精确程度,此外,基于目标存储介质中存储的数据校验和,可以在异构存储介质之间做数据迁移时,高效地完成迁移数据的完整性校验以及增量拷贝功能。
在一些实例中,在确定与第一校验信息所对应的待处理文件是差异文件之后,本实施例中的方法还可以包括:将差异文件传输至目标存储介质。
其中,在确定待处理文件是差异文件时,则说明源存储介质与目标存储介质之间存在上述的差异性文件。这样在需要进行文件迁移操作的应用场景或者文件增量拷贝的应用场景中,则可以将差异文件传输至目标存储介质中。
举例来说:在源存储介质中存储有待处理文件A,而后将待处理文件A传输至目标存储介质之后,在用户对源存储介质中的待处理文件A中的内容进行增删或者修改操作之后,可以获得源存储介质中的待处理文件A`,在获取到待处理文件A`之后,可以对源存储介质中存储的待处理文件A`与目标存储介质中存储的待处理文件A进行差异性检测操作,对源存储介质中与待处理文件A`相对应的第一校验信息和与目标存储介质中与待处理文件相对应的第二校验信息进行分析比较,在第一校验信息与第二校验信息不同时,则可以确定待处理文件A`为源存储介质与目标存储介质之间的差异文件。
在一些实例中,在将差异文件传输至目标存储介质时,可以获取与差异文件相对应的数据传输进度,并通过预设界面对数据传输进度进行显示,例如:可以在预设界面中以进度条的方式来显示数据传输进度,从而使得用户可以直接、快速地了解到对差异文件进行数据迁移的过程。
具体的,参考附图4所示,本实施例中的将差异文件传输至目标存储介质可以包括:
步骤S401:生成与差异文件相对应的分布式传输任务。
步骤S402:确定与分布式传输任务相对应的分布式节点。
步骤S403:利用分布式节点将差异文件传输至目标存储介质。
其中,在将差异文件传输至目标存储介质的过程中,为了能够保证文件传输操作的稳定可靠性,则可以生成与差异文件相对应的分布式传输任务(MapReduce任务),上述的分布式传输任务可以对应有一个或多个分布式节点,在生成分布式传输任务之后,则可以确定与分布式传输任务相对应的分布式节点,之后可以利用分布式节点将差异文件传输至目标存储介质。
举例来说,在差异文件的数量为三个时,则可以基于上述的三个差异文件生成分布式传输任务,而后可以确定与上述分布式传输任务相对应的分布式节点,该分布式节点的数量可以为三个,在确定上述三个分布式节点之后,可以利用分布式节点将差异文件传输至目标存储介质,即分别利用三个分布式节点将三个差异文件传输至目标存储介质,从而有效地保证了将差异文件传输至目标存储介质的稳定可靠性。
在一实现方式中,目标存储介质可以作为数据湖进行应用,该数据湖可以实现对全量数据进行单一存储。举例来说,在目标存储介质为云上对象存储OSS时,此时的云OSS可以作为数据湖进行应用,此时,与云OSS进行数据传输的源存储介质的数量可以为一个或多个,在源存储介质的数量为多个时,多个源存储介质与云OSS之间可以进行数据迁移操作,并且,不同源存储介质与OSS之间所迁移的数据类型可以相同或者不同,所迁移的数据类型可以包括以下至少之一:结构化数据(例如:行和列)、半结构化数据(例如:日志、XML数据)、非结构化数据(例如:文档、email、PDF文件等)和二进制数据(例如:图像、音频、视频)。在不同的源存储介质将所存储的数据迁移至云OSS时,云OSS即实现了对不同的源存储介质中的数据进行汇总操作,进而实现了对不同源存储介质中的数据进行统一存储操作,这样有效地方便了对全量数据进行管理和查看。
图5为本发明实施例提供的另一种异构存储介质之间的数据处理方法的流程示意图;在上述实施例的基础上,参考附图5所示,在将差异文件传输至目标存储介质时,本实施例中的方法还可以包括:
步骤S501:计算与差异文件相对应的传输中校验信息。
其中,在将差异文件传输至目标存储介质的过程中,为了能够检测差异文件的传输过程是否正常,则可以计算与差异文件相对应的传输中校验信息,在一些实例中,计算与差异文件相对应的传输中校验信息可以包括:获取目标存储介质中存储的用于对数据进行校验的校验算法;利用校验算法对差异文件进行计算,获得与差异文件相对应的传输中数据校验和。
具体的,目标存储介质中存储有用于对数据进行校验的校验算法,为了能够检测对差异文件的传输操作是否正常,用于实现数据处理方法的数据处理装置可以获取目标存储介质中存储的用于对数据进行校验的校验算法,在获取到上述校验算法之后,可以利用校验算法对差异文件进行计算,从而可以获得与差异文件相对应的传输中数据校验和。
步骤S502:获取目标存储介质对所接收到的差异文件进行计算得到的目标校验信息。
在将差异文件由源存储介质传输至目标存储介质的过程中,可以获取目标存储介质对所接收到的差异文件进行计算得到的目标校验信息,可以理解的是,目标校验信息可以是目标存储介质利用目标存储介质中存储的用于对数据进行校验的校验算法对差异文件进行分析计算所获得的。
步骤S503:基于传输中校验信息与目标校验信息,检测差异文件的传输是否正常。
在获取到传输中校验信息和目标校验信息之后,可以对传输中校验信息和目标校验信息进行分析处理,以检测差异文件的传输操作是否正常。在一些实例中,本实施例中的基于传输中校验信息与目标校验信息,检测差异文件的传输是否正常可以包括:在传输中校验信息与目标校验信息相同时,则确定差异文件传输正常,即说明对差异文件所对应的数据迁移操作正常;在传输中校验信息与目标校验信息不同时,则确定差异文件传输异常,即说明对差异文件所对应的数据迁移操作异常。
具体的,在传输中校验信息与目标校验信息相同时,则说明源存储介质中存储的差异文件与已传输到目标存储介质中的差异文件相同,进而可以确定差异文件的传输操作正常;在传输中校验信息与目标校验信息不同时,则说明源存储介质中存储的差异文件与已传输到目标存储介质中的差异文件不同,例如:差异文件传输操作并不完整、差异文件在传输过程中出现数据丢失等情况,进而可以确定差异文件的传输操作异常,从而有效地实现了可以基于传输中校验信息与目标校验信息,准确地检测差异文件的传输操作是否正常,进一步提高了该数据处理方法使用的准确可靠性。
举例来说,源存储介质与目标存储介质之间存在差异文件A,在将差异文件A迁移至目标存储介质之后,目标存储介质可以获取到与差异文件A相对应的已迁移文件A`,而后可以获取目标存储介质中用于对已迁移文件A`进行分析处理的校验算法,利用校验算法对差异文件A进行计算,获得校验信息a,而后获取目标存储介质对已迁移文件A`进行计算,获得校验信息a`,而后比较校验信息a和校验信息a`,在校验信息a与校验信息a`相同时,则说明已迁移文件A`与差异文件A相同,即说明对差异文件A进行的迁移操作正常;在已迁移文件A`与差异文件A不同时,则说明对差异文件A进行的迁移操作出现异常。
在一些实例中,本实施例中的方法还可以包括:在确定差异文件传输正常时,在预设界面中显示第一提示信息;在确定差异文件传输异常时,在预设界面中显示第二提示信息。
其中,在获取到检测差异文件的传输是否正常的检测结果之后,可以基于不同的检测结果来生成不同的提示信息,具体的,在确定差异文件传输正常时,可以在预设界面中显示第一提示信息,该第一提示信息用于标识对差异文件的传输操作为正常状态;在确定差异文件传输异常时,则可以在预设界面中显示第二提示信息,该第二提示信息用于标识对差异文件的传输操作为异常状态,这样有效地实现了用户可以通过所显示的提示信息快速、直接地了解到对差异文件进行传输的检测结果。
可以理解的是,在通过预设界面对第一提示信息/第二提示信息进行显示时,为了提高信息显示的质量和效率,可以采用不同的形式对第一提示信息/第二提示信息进行显示,例如:可以采用浮动窗口、信息提示框、弹窗中的一个对第一提示信息/第二提示信息进行显示,为了提高信息显示的质量和效果,可以利用不同的字体、不同的颜色对第一提示信息/第二提示信息进行显示,例如,可以将第一提示信息显示为绿色,第二提示信息显示为红色。
另外,在通过预设界面对第一提示信息/第二提示信息进行显示时,预设界面中可以包括用于关闭显示界面的控件,用户可以通过预设界面对控件输入执行操作,上述执行操作可以为点击操作、滑动操作中的任意之一,在获取到用户对控件输入的执行操作之后,可以基于执行操作对用于显示的第一提示信息/第二提示信息的窗口进行关闭操作。
此外,在通过预设界面对第一提示信息/第二提示信息进行显示时,预设界面中可以包括用于显示详细信息的控件,用户可以通过预设界面对控件输入执行操作,上述执行操作可以为点击操作、滑动操作中的任意之一,在获取到用户对控件输入的执行操作之后,可以基于执行操作显示与第一提示信息/第二提示信息相对应的详细信息,这样使得用户可以快速、直接地了解到差异文件传输过程的具体信息。
图6为本发明实施例提供的又一种异构存储介质之间的数据处理方法的流程示意图;在上述任意一个实施例的基础上,继续参考附图6所示,在对至少一个待处理文件进行计算之前,本实施例中的方法还可以包括:
步骤S601:获取目标存储介质中存储的与至少一个待处理文件相对应的已存储文件;
步骤S602:基于已存储文件对至少一个待处理文件进行筛选,获得至少一个待处理文件中所包括的目标处理文件,其中,目标处理文件与所对应的已存储文件相同。
其中,在对至少一个待处理文件进行计算之前,为了能够减少数据处理的计算量,则可以获取目标存储介质中存储的与至少一个待处理文件相对应的已存储文件,而后可以基于已存储文件对至少一个待处理文件进行筛选,具体的,可以基于已存储文件的名称信息、文件大小、文件格式、文件所对应的编辑时间戳、文件中所包括的关键字等信息来实现对至少一个待处理文件进行筛选操作,从而可以获得至少一个待处理文件中所包括的目标处理文件,可以理解的是,目标处理文件为至少一个待处理文件中的至少一部分,并且,目标处理文件与所对应的已存储文件相同。
在一些实例中,基于已存储文件对至少一个待处理文件进行筛选,获得至少一个待处理文件中所包括的目标处理文件可以包括:获取至少一个待处理文件各自对应的第一文件名和第一文件大小、已存储文件所对应的第二文件名和第二文件大小;基于第一文件名、第一文件大小、第二文件名和第二文件大小对至少一个待处理文件进行筛选,获得至少一个待处理文件中所包括的目标处理文件。
具体的,源存储介质中可以存储有与至少一个待处理文件各自对应的第一文件名和第一文件大小,目标存储介质中可以存储有已存储文件所对应的第二文件名和第二文件大小。在获取到第一文件名、第一文件大小、第二文件名和第二文件大小之后,可以对第一文件名、第一文件大小、第二文件名和第二文件大小进行分析处理,以实现对至少一个待处理文件进行筛选操作,从而可以获得至少一个待处理文件中所包括的目标处理文件。
在一些实例中,基于第一文件名、第一文件大小、第二文件名和第二文件大小对至少一个待处理文件进行筛选,获得至少一个待处理文件中所包括的目标处理文件可以包括:在第一文件名和第二文件名相同、且第一文件大小与第二文件大小不同时,则将与第一文件名相对应的待处理文件确定为差异文件;在第一文件名和第二文件名相同、且第一文件大小与第二文件大小相同时,则将与第一文件名相对应的待处理文件确定为目标处理文件。
举例来说,源存储介质中存储的至少一个待处理文件各自对应的第一文件名可以包括:W1、W2、W3、W4、W5、W6,上述至少一个待处理文件各自对应的第一文件大小可以包括:S11、S12、S13、S14、S15、S16,目标存储介质中存储有与至少一个待处理文件相对应的已存储文件的第二文件名可以包括:W1、W2、W4、W5、W6,上述已存储文件各自对应的第二文件大小可以包括:S21、S22、S24、S25、S26。
在上述第一文件名与第二文件名相同,且第一文件大小与第二文件大小相同时,例如:对于上述的W1、W2、W5文件而言,S11=S21,S12=S22,S15=S25时,则可以确定目标存储介质中的已存储文件与源存储介质中的至少一个待处理文件相同,此时,可以将上述源存储介质中的与已存储文件相同的待处理文件确定为目标处理文件,以进一步基于源存储介质中文件的校验信息和所获取的目标存储介质中的校验信息来进行文件的差异性检验。
在上述第一文件名与第二文件名相同,且第一文件大小与第二文件大小不同时,例如:对于上述的W4、W6文件而言,S14≠S24,S16≠S26时,则可以确定目标存储介质中的已存储文件与源存储介质中的至少一个待处理文件不同,即可以确定源存储介质中的至少一个待处理文件与目标存储介质中的已存储介质之间存在差异,因此无需针对上述的已存储文件进行差异性检测操作,进一步提高了数据处理方法的质量和效率。
本实施例中,通过获取目标存储介质中存储的与至少一个待处理文件相对应的已存储文件,而后基于已存储文件对至少一个待处理文件进行筛选,获得至少一个待处理文件中所包括的目标处理文件,有效地实现了在对至少一个待处理文件进行差异性检测操作之前,可以对至少一个待处理文件进行初步筛选,从而获得至少一个待处理文件中所包括的目标处理文件,而后可以对目标处理文件进行差异性检测操作,这样有效地缩小了进行差异性检测操作的数据处理范围,进一步提高了数据处理方法的质量和效率。
图7为本发明实施例提供的另一种异构存储介质之间的数据处理方法的流程示意图;参考附图7所示,本实施例提供了另一种异构存储介质之间的数据处理方法,该方法的执行主体为异构存储介质之间的数据处理装置,可以理解的是,该异构存储介质之间的数据处理装置可以实现为软件、或者软件和硬件的组合,该异构存储介质之间的数据处理装置可以独立于异构存储介质的装置,或者,异构存储介质之间的数据处理装置可以集成于异构存储介质中。具体的,该异构存储介质之间的数据处理方法可以包括:
步骤S701:获取源存储介质中存储的至少一个待处理文件。
步骤S702:对至少一个待处理文件进行计算,获得与至少一个待处理文件各自对应的校验信息。
其中,本实施例中上述步骤S701-步骤S702的具体实现方式和实现效果与上述实施例中步骤S201-步骤S202的具体实现方式和实现效果相类似,具体可参考上述陈述内容,在此不再赘述。
步骤S703:将至少一个待处理文件和所对应的校验信息传输至目标存储介质,其中,源存储介质与目标存储介质为异构存储介质。
其中,在获取到至少一个待处理文件和所对应的校验信息之后,可以将至少一个待处理文件和所对应的校验信息传输至目标存储介质,具体的,将至少一个待处理文件和所对应的校验信息传输至目标存储介质可以包括:将校验信息作为所对应的待处理文件的头部信息、与待处理文件传输至目标存储介质。
本实施例中提供的异构存储介质之间的数据处理方法,通过获取源存储介质中存储的至少一个待处理文件,对至少一个待处理文件进行计算,获得与至少一个待处理文件各自对应的校验信息,而后将至少一个待处理文件和所对应的校验信息传输至目标存储介质,从而有效地实现了数据迁移操作,并且使得目标存储介质中存储有与已迁移的数据相对应的校验信息,进而便于获取目标存储介质中存储的已迁移的数据所对应的校验信息,以基于校验信息来实现文件的差异性检测操作。
具体应用时,参考附图8-图9所示,以私有化的Hadoop集群作为源存储介质、云上对象存储OSS作为目标存储介质为例,此时的源存储介质中存储有用于获取数据校验和(Checksum)的校验算法CRC32,目标存储介质中存储有用于获取数据校验和(Checksum)的校验算法CRC64。
本应用实施例提供了一种异构存储介质之间的数据处理方法,该方法通过有效利用源存储介质和目标存储介质中原生的数据校验和,能够高效地完成迁移数据的完整性校验操作以及增量拷贝操作,其中,在第一次进行数据迁移操作时,只需要进行数据迁移操作;在后续的数据迁移过程中,如需增量拷贝操作,则需要先进行差异性检测操作,而后再进行迁移拷贝操作。具体的,在增量拷贝的应用场景中,该数据处理方法可以包括以下步骤:
步骤1:通过递归查询源目录和目标目录,获取源存储介质和目标存储介质上的文件列表。
其中,源存储介质中存储有源目录,通过源目录即可获取源存储介质上的文件列表,目标存储介质中存储有目标目录,通过目标目录即可获取目标存储介质上的文件列表。
步骤2:基于源存储介质中的文件列表获取源文件的文件名和文件大小;基于目标存储介质中的文件列表获取目标文件的文件名和文件大小。
步骤3:比较源文件和目标文件的文件名和文件大小,对源文件和目标文件进行差异性的初步检测。
对于相同文件名的源文件和目标文件而言,如果源文件的文件大小与目标文件的文件大小不同时,则可以将源文件和目标文件记录为差异文件;如果源文件的文件大小与目标文件的大小相同时,则可以进一步对源文件和目标文件进行分析处理,以进一步确定源文件和目标文件是否为差异文件。
步骤4:对于文件名和文件大小均相等的源文件和目标文件而言,可以计算源文件所对应的数据校验和Checksum;对于目标文件而言,无需读取文件重新计算数据校验和,可以直接获取目标存储介质中所存储的与目标文件相对应的数据校验和,而后基于源文件所对应的数据校验和和目标文件所对应的数据校验和进行差异性检测操作。
其中,在源存储介质获取到源文件所对应的数据校验和Checksum之后,可以将源文件以及与源文件所对应的数据校验和传输至目标存储介质,具体的,所获得的数据校验和Checksum可以为自定义的数据校验和,而后将自定义的数据校验和存储在源文件的元数据中,元数据用于存储源文件的一些标识信息以及自定义的信息等,此时,可以将自定义的数据校验和作为元数据中的头部信息,而后将头部信息与源文件一同发送至目标存储介质,从而使得目标存储介质中可以存储有与目标文件相对应的数据校验和。
具体的,在源文件所对应的数据校验和与目标文件所对应的数据校验和相同时,则说明源文件的内容与目标文件的内容相同,进而可以确定源文件与目标文件为相同文件;在源文件所对应的数据校验和与目标文件所对应的数据校验和不同时,则说明源文件已发生过修改,进而可以确定源文件与目标文件之间存在差异,即可以将源文件确定为差异文件。
步骤5:在确定差异文件之后,可以将所有的差异文件输出,并生成与差异文件相对应的差异文件列表Manifest。
步骤6:读取差异文件列表Manifest,并可以基于差异文件列表Manifest生成拷贝文件列表。
步骤7:生成与拷贝文件的分布式拷贝任务,基于分布式拷贝任务对差异文件进行拷贝操作。
其中,在确定差异文件之后,为了能够使得目标存储介质和源存储介质之间的数据保持一致,则可以对差异文件进行数据迁移操作,需要说明的是,只需要将源存储介质中存在差异的差异文件迁移至目标存储介质,无需对其他文件进行迁移操作,从而有效地实现了对数量的增量拷贝操作。
步骤8:在文件拷贝操作结束的过程中,利用目标存储介质上的校验算法计算拷贝文件的过程中数据校验和,而后确定目标存储介质中利用所存储的校验算法对已拷贝文件进行计算,获得目标存储介质中与已拷贝文件相对应的拷贝后数据校验和;基于过程中数据校验和和拷贝后数据校验和,检测文件拷贝操作是否正常。
具体的,在过程中数据校验和与拷贝后数据校验和相同时,则确定文件拷贝操作正常;在过程中数据校验和与拷贝后数据校验和不同时,则确定文件拷贝操作异常。在一些实例中,在确定文件操作异常之后,可以对源文件中所存储的差异文件进行拷贝操作,直至对所有的源文件拷贝完整为止。
需要注意的是,本实施例中的方法可以应用于存在数据差异性比较或者数据迁移的各种应用场景中,例如:终端之间的数据差异性检测、终端之间的数据迁移、调用微服务的应用场景等等。
在终端之间的数据差异性检测时,可以实现对比两个终端之间的数据是否存在差异性,此时,一个终端内包括用于存储数据的源存储介质,另一个终端内包括用于存储数据的目标存储介质;而后可以采用上述实现方式对两个终端之间的数据进行差异性检测操作。
在调用微服务的应用场景中,在云端配置有用于实现一服务的相关数据,在用户需要调用上述服务时,则可以向云端发送数据调用请求,云端在获取到数据调用请求之后,可以确定实现上述服务的数据处理资源,并将数据处理资源下发至用户端,在数据处理资源由云端下发至用户端的过程中,可以采用上述方式来实现数据的迁移操作,这样可以保证数据迁移的完整性和可靠性;在用户端获取到数据处理资源时,则可以基于数据处理资源实现服务所对应的功能操作。
本实施例提供的异构存储介质之间的数据处理方法,可以实现如下效果:
在进行文件拷贝的过程中,通过计算文件拷贝过程中的数据校验和,而后计算目标存储介质对所接收到文件的数据校验和,而后基于上述传输过程中的数据校验和和目标存储介质所对应的数据校验和,实现对迁移文件所对应的完整性校验操作,这样有效地避免了异构存储介质之间无法比较数据校验和的问题,保证了迁移数据的完整性;
另外,通过在每次数据拷贝之前,通过获取源文件的数据校验和,并直接保存到目标文件的元数据中的方式,可以直接调用目标存储介质中所存储的数据校验和,有效地避免了对数据校验和进行重复的计算操作,进一步降低了数据计算成本;
此外,通过计算源存储介质中文件的原始数据校验和,并获取目标存储介质中所存储的目标数据校验和,而后基于原始数据校验和和目标数据校验和,可以有效地实现文件的差异性检测操作,而后基于基于差异性检测操作对所存在的差异文件进行迁移操作,这样有效地实现了高性能的差异比对操作。
图10为本发明应用实施例提供的一种异构存储介质之间的数据处理装置的结构示意图;参考附图10所示,本实施例提供了一种异构存储介质之间的数据处理装置,该数据处理装置用于执行上述图2所示的异构存储介质之间的数据处理方法,具体的,数据处理装置可以包括:
第一获取模块11,用于获取源存储介质中的至少一个待处理文件;
第一计算模块12,用于对至少一个待处理文件进行计算,获得至少一个待处理文件各自对应的第一校验信息;
第一获取模块11,用于获取目标存储介质中存储的至少一个待处理文件各自对应的第二校验信息,其中,源存储介质与目标存储介质为异构存储介质;
第一处理模块13,用于基于第一校验信息与第二校验信息,判断至少一个待处理文件是否为源存储介质与目标存储介质之间的差异文件。
在一些实例中,在第一计算模块12对至少一个待处理文件进行计算,获得至少一个待处理文件各自对应的第一校验信息时,该第一计算模块12用于执行:获取用于对至少一个待处理文件进行校验计算的校验和算法;利用校验和算法对至少一个待处理文件进行计算,获得至少一个待处理文件各自对应的第一数据校验和。
在一些实例中,在获取源存储介质中的至少一个待处理文件之前,本实施例中的第一获取模块11、第一计算模块12和第一处理模块13可以用于执行以下步骤:
第一获取模块11,用于获取历史时刻存储在源存储介质中的至少一个待处理文件;
第一计算模块12,用于计算与至少一个待处理文件各自对应的历史校验信息;
第一处理模块13,用于将历史校验信息作为第二校验信息、与至少一个待处理文件传输至目标存储介质。
在一些实例中,在第一处理模块13将历史校验信息作为第二校验信息、与至少一个待处理文件传输至目标存储介质时,该第一处理模块13用于执行:将第二校验信息作为所对应的待处理文件的头部信息、与待处理文件传输至目标存储介质。
在一些实例中,在第一处理模块13基于第一校验信息与第二校验信息,判断至少一个待处理文件是否为源存储介质与目标存储介质之间的差异文件时,该第一处理模块13用于执行:在第一校验信息与第二校验信息相同时,则确定与第一校验信息所对应的待处理文件不是差异文件;在第一校验信息与第二校验信息不同时,则确定与第一校验信息所对应的待处理文件是差异文件。
在一些实例中,在确定与所述第一校验信息所对应的待处理文件是差异文件之后,本实施例中的方法还可以包括:对所述第一校验信息、第二校验信息和所述差异文件进行显示。
在一些实例中,在确定与第一校验信息所对应的待处理文件是差异文件之后,本实施例中的第一处理模块13用于执行以下步骤:将差异文件传输至目标存储介质。
在一些实例中,在第一处理模块13将差异文件传输至目标存储介质时,该第一处理模块13用于执行:生成与差异文件相对应的分布式传输任务;确定与分布式传输任务相对应的分布式节点;利用分布式节点将差异文件传输至目标存储介质。
在一些实例中,在第一处理模块13将差异文件传输至目标存储介质时,本实施中的第一处理模块13用于执行:计算与差异文件相对应的传输中校验信息;获取目标存储介质对所接收到的差异文件进行计算得到的目标校验信息;基于传输中校验信息与目标校验信息,检测差异文件的传输是否正常。
在一些实例中,在第一处理模块13计算与差异文件相对应的传输中校验信息时,该第一处理模块13可以用于执行:获取目标存储介质中存储的用于对数据进行校验的校验算法;利用校验算法对差异文件进行计算,获得与差异文件相对应的传输中数据校验和。
在一些实例中,在第一处理模块13基于传输中校验信息与目标校验信息,检测差异文件的传输是否正常时,该第一处理模块13可以用于执行:在传输中校验信息与目标校验信息相同时,则确定差异文件传输正常;在传输中校验信息与目标校验信息不同时,则确定差异文件传输异常。
在一些实例中,本实施例中的方法还可以包括:在确定所述差异文件传输正常时,在预设界面中显示第一提示信息;在确定所述差异文件传输异常时,在预设界面中显示第二提示信息。
在一些实例中,在对至少一个待处理文件进行计算之前,本实施例中的第一获取模块11和第一处理模块13可以用于执行以下步骤:
第一获取模块11,用于获取目标存储介质中存储的与至少一个待处理文件相对应的已存储文件;
第一处理模块13,用于基于已存储文件对至少一个待处理文件进行筛选,获得至少一个待处理文件中所包括的目标处理文件,其中,目标处理文件与所对应的已存储文件相同。
在一些实例中,在第一处理模块13基于已存储文件对至少一个待处理文件进行筛选,获得至少一个待处理文件中所包括的目标处理文件时,第一处理模块13用于执行:获取至少一个待处理文件各自对应的第一文件名和第一文件大小、已存储文件所对应的第二文件名和第二文件大小;基于第一文件名、第一文件大小、第二文件名和第二文件大小对至少一个待处理文件进行筛选,获得至少一个待处理文件中所包括的目标处理文件。
在一些实例中,在第一处理模块13基于第一文件名、第一文件大小、第二文件名和第二文件大小对至少一个待处理文件进行筛选,获得至少一个待处理文件中所包括的目标处理文件时,第一处理模块13用于执行:在第一文件名和第二文件名相同、且第一文件大小与第二文件大小不同时,则将与第一文件名相对应的待处理文件确定为差异文件;在第一文件名和第二文件名相同、且第一文件大小与第二文件大小相同时,则将与第一文件名相对应的待处理文件确定为目标处理文件。
图10所示装置可以执行图1-图6、图8-图9所示实施例的方法,本实施例未详细描述的部分,可参考对图1-图6、图8-图9所示实施例的相关说明。该技术方案的执行过程和技术效果参见图1-图6、图8-图9所示实施例中的描述,在此不再赘述。
在一个可能的设计中,图10所示异构存储介质之间的数据处理装置的结构可实现为一电子设备,该电子设备可以是手机、平板电脑、服务器等各种设备。如图11所示,该电子设备可以包括:第一处理器21和第一存储器22。其中,第一存储器22用于存储相对应电子设备执行上述图1-图6、图8-图9所示实施例中提供的异构存储介质之间的数据处理方法的程序,第一处理器21被配置为用于执行第一存储器22中存储的程序。
程序包括一条或多条计算机指令,其中,一条或多条计算机指令被第一处理器21执行时能够实现如下步骤:
获取源存储介质中的至少一个待处理文件;
对至少一个待处理文件进行计算,获得至少一个待处理文件各自对应的第一校验信息;
获取目标存储介质中存储的至少一个待处理文件各自对应的第二校验信息,其中,源存储介质与目标存储介质为异构存储介质;
基于第一校验信息与第二校验信息,判断至少一个待处理文件是否为源存储介质与目标存储介质之间的差异文件。
进一步的,第一处理器21还用于执行前述图1-图6、图8-图9所示实施例中的全部或部分步骤。
其中,电子设备的结构中还可以包括第一通信接口23,用于电子设备与其他设备或通信网络通信。
另外,本发明实施例提供了一种计算机存储介质,用于储存电子设备所用的计算机软件指令,其包含用于执行上述图1-图6、图8-图9所示方法实施例中异构存储介质之间的数据处理方法所涉及的程序。
图12为本发明实施例提供的另一种异构存储介质之间的数据处理装置的结构示意图;本实施例提供了一种异构存储介质之间的数据处理装置,该数据处理装置用于执行上述图2所示的异构存储介质之间的数据处理方法,具体的,数据处理装置可以包括:
第二获取模块31,用于获取源存储介质中存储的至少一个待处理文件;
第二计算模块32,用于对至少一个待处理文件进行计算,获得与至少一个待处理文件各自对应的校验信息;
第二处理模块33,用于将至少一个待处理文件和所对应的校验信息传输至目标存储介质,其中,源存储介质与目标存储介质为异构存储介质。
在一些实例中,在第二处理模块33将至少一个待处理文件和所对应的校验信息传输至目标存储介质时,该第二处理模块33用于执行:将校验信息作为所对应的待处理文件的头部信息、与待处理文件传输至目标存储介质。
图12所示装置可以执行图7-图9所示实施例的方法,本实施例未详细描述的部分,可参考对图7-图9所示实施例的相关说明。该技术方案的执行过程和技术效果参见图7-图9所示实施例中的描述,在此不再赘述。
在一个可能的设计中,图12所示异构存储介质之间的数据处理装置的结构可实现为一电子设备,该电子设备可以是手机、平板电脑、服务器等各种设备。如图13所示,该电子设备可以包括:第二处理器41和第二存储器42。其中,第二存储器42用于存储相对应电子设备执行上述图7-图9所示实施例中提供的异构存储介质之间的数据处理方法的程序,第二处理器41被配置为用于执行第二存储器42中存储的程序。
程序包括一条或多条计算机指令,其中,一条或多条计算机指令被第二处理器41执行时能够实现如下步骤:
获取源存储介质中存储的至少一个待处理文件;
对至少一个待处理文件进行计算,获得与至少一个待处理文件各自对应的校验信息;
将至少一个待处理文件和所对应的校验信息传输至目标存储介质,其中,源存储介质与目标存储介质为异构存储介质。
进一步的,第二处理器41还用于执行前述图7-图9所示实施例中的全部或部分步骤。
其中,电子设备的结构中还可以包括第二通信接口43,用于电子设备与其他设备或通信网络通信。
另外,本发明实施例提供了一种计算机存储介质,用于储存电子设备所用的计算机软件指令,其包含用于执行上述图7-图9所示方法实施例中异构存储介质之间的数据处理方法所涉及的程序。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助加必需的通用硬件平台的方式来实现,当然也可以通过硬件和软件结合的方式来实现。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以计算机产品的形式体现出来,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程设备的处理器以产生一个机器,使得通过计算机或其他可编程设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (16)
1.一种异构存储介质之间的数据处理方法,其特征在于,包括:
获取源存储介质中的至少一个待处理文件;
对所述至少一个待处理文件进行计算,获得所述至少一个待处理文件各自对应的第一校验信息;
获取目标存储介质中存储的所述至少一个待处理文件各自对应的第二校验信息,其中,所述源存储介质与所述目标存储介质为异构存储介质;
基于所述第一校验信息与所述第二校验信息,判断所述至少一个待处理文件是否为所述源存储介质与所述目标存储介质之间的差异文件。
2.根据权利要求1所述的方法,其特征在于,对所述至少一个待处理文件进行计算,获得所述至少一个待处理文件各自对应的第一校验信息,包括:
获取用于对所述至少一个待处理文件进行校验计算的校验和算法;
利用所述校验和算法对所述至少一个待处理文件进行计算,获得所述至少一个待处理文件各自对应的第一数据校验和。
3.根据权利要求1所述的方法,其特征在于,在获取源存储介质中的至少一个待处理文件之前,所述方法还包括:
获取历史时刻存储在所述源存储介质中的至少一个待处理文件;
计算与所述至少一个待处理文件各自对应的历史校验信息;
将所述历史校验信息作为第二校验信息、与至少一个待处理文件传输至所述目标存储介质。
4.根据权利要求1所述的方法,其特征在于,基于所述第一校验信息与所述第二校验信息,判断所述至少一个待处理文件是否为所述源存储介质与所述目标存储介质之间的差异文件,包括:
在所述第一校验信息与所述第二校验信息相同时,则确定与所述第一校验信息所对应的待处理文件不是差异文件;
在所述第一校验信息与所述第二校验信息不同时,则确定与所述第一校验信息所对应的待处理文件是差异文件。
5.根据权利要求4所述的方法,其特征在于,在确定与所述第一校验信息所对应的待处理文件是差异文件之后,所述方法还包括:
将所述差异文件传输至所述目标存储介质。
6.根据权利要求5所述的方法,其特征在于,将所述差异文件传输至所述目标存储介质,包括:
生成与所述差异文件相对应的分布式传输任务;
确定与所述分布式传输任务相对应的分布式节点;
利用所述分布式节点将所述差异文件传输至所述目标存储介质。
7.根据权利要求5所述的方法,其特征在于,在将所述差异文件传输至所述目标存储介质时,所述方法还包括:
计算与所述差异文件相对应的传输中校验信息;
获取所述目标存储介质对所接收到的差异文件进行计算得到的目标校验信息;
基于所述传输中校验信息与所述目标校验信息,检测所述差异文件的传输是否正常。
8.根据权利要求7所述的方法,其特征在于,计算与所述差异文件相对应的传输中校验信息,包括:
获取所述目标存储介质中存储的用于对数据进行校验的校验算法;
利用所述校验算法对所述差异文件进行计算,获得与所述差异文件相对应的传输中数据校验和。
9.根据权利要求7所述的方法,其特征在于,基于所述传输中校验信息与所述目标校验信息,检测所述差异文件的传输是否正常,包括:
在所述传输中校验信息与所述目标校验信息相同时,则确定所述差异文件传输正常;
在所述传输中校验信息与所述目标校验信息不同时,则确定所述差异文件传输异常。
10.根据权利要求1-9中任意一项所述的方法,其特征在于,在对所述至少一个待处理文件进行计算之前,所述方法还包括:
获取所述目标存储介质中存储的与所述至少一个待处理文件相对应的已存储文件;
基于所述已存储文件对所述至少一个待处理文件进行筛选,获得所述至少一个待处理文件中所包括的目标处理文件,其中,所述目标处理文件与所对应的已存储文件相同。
11.根据权利要求10所述的方法,其特征在于,基于所述已存储文件对所述至少一个待处理文件进行筛选,获得所述至少一个待处理文件中所包括的目标处理文件,包括:
获取所述至少一个待处理文件各自对应的第一文件名和第一文件大小、所述已存储文件所对应的第二文件名和第二文件大小;
基于所述第一文件名、第一文件大小、第二文件名和第二文件大小对所述至少一个待处理文件进行筛选,获得所述至少一个待处理文件中所包括的目标处理文件。
12.一种异构存储介质之间的数据处理方法,其特征在于,包括:
获取源存储介质中存储的至少一个待处理文件;
对所述至少一个待处理文件进行计算,获得与所述至少一个待处理文件各自对应的校验信息;
将所述至少一个待处理文件和所对应的校验信息传输至目标存储介质,其中,所述源存储介质与所述目标存储介质为异构存储介质。
13.一种异构存储介质之间的数据处理装置,其特征在于,包括:
第一获取模块,用于获取源存储介质中的至少一个待处理文件;
第一计算模块,用于对所述至少一个待处理文件进行计算,获得所述至少一个待处理文件各自对应的第一校验信息;
所述第一获取模块,还用于获取目标存储介质中存储的所述至少一个待处理文件各自对应的第二校验信息,其中,所述源存储介质与所述目标存储介质为异构存储介质;
第一处理模块,用于基于所述第一校验信息与所述第二校验信息,判断所述至少一个待处理文件是否为所述源存储介质与所述目标存储介质之间的差异文件。
14.一种电子设备,其特征在于,包括:存储器、处理器;其中,所述存储器用于存储一条或多条计算机指令,其中,所述一条或多条计算机指令被所述处理器执行时实现如权利要求1-11中任意一项所述的异构存储介质之间的数据处理方法。
15.一种异构存储介质之间的数据处理装置,其特征在于,包括:
第二获取模块,用于获取源存储介质中存储的至少一个待处理文件;
第二计算模块,用于对所述至少一个待处理文件进行计算,获得与所述至少一个待处理文件各自对应的校验信息;
第二处理模块,用于将所述至少一个待处理文件和所对应的校验信息传输至目标存储介质,其中,所述源存储介质与所述目标存储介质为异构存储介质。
16.一种电子设备,其特征在于,包括:存储器、处理器;其中,所述存储器用于存储一条或多条计算机指令,其中,所述一条或多条计算机指令被所述处理器执行时实现如权利要求12所述的异构存储介质之间的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110351922.7A CN115145473A (zh) | 2021-03-31 | 2021-03-31 | 异构存储介质之间的数据处理方法、装置及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110351922.7A CN115145473A (zh) | 2021-03-31 | 2021-03-31 | 异构存储介质之间的数据处理方法、装置及设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115145473A true CN115145473A (zh) | 2022-10-04 |
Family
ID=83405255
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110351922.7A Pending CN115145473A (zh) | 2021-03-31 | 2021-03-31 | 异构存储介质之间的数据处理方法、装置及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115145473A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115858895A (zh) * | 2023-02-21 | 2023-03-28 | 山东优嘉环境科技有限公司 | 一种用于智慧城市的多源异构数据处理方法及系统 |
-
2021
- 2021-03-31 CN CN202110351922.7A patent/CN115145473A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115858895A (zh) * | 2023-02-21 | 2023-03-28 | 山东优嘉环境科技有限公司 | 一种用于智慧城市的多源异构数据处理方法及系统 |
CN115858895B (zh) * | 2023-02-21 | 2023-05-05 | 山东优嘉环境科技有限公司 | 一种用于智慧城市的多源异构数据处理方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10985929B2 (en) | Enhanced chaincode analytics provenance in a blockchain | |
RU2473112C2 (ru) | Создание и развертывание распределенных расширяемых приложений | |
CN111291103B (zh) | 接口数据的解析方法、装置、电子设备及存储介质 | |
CN111355752A (zh) | 基于网闸的文件传输方法、装置及设备 | |
CN111767226B (zh) | 一种云计算平台资源的测试方法、系统及设备 | |
CN110162517A (zh) | 数据迁移方法、装置、设备及计算机可读存储介质 | |
CN108038039B (zh) | 记录日志的方法及微服务系统 | |
US20240281520A1 (en) | Container-based task execution method and apparatus | |
CN111353143A (zh) | 敏感权限检测方法、装置及存储介质 | |
US11422871B1 (en) | Event archiving and replay | |
US9104561B2 (en) | Failure mode identification and reporting | |
CN112688804A (zh) | 业务平台的部署方法、装置、设备及存储介质 | |
CN115145473A (zh) | 异构存储介质之间的数据处理方法、装置及设备 | |
CN114328029A (zh) | 一种应用资源的备份方法、装置、电子设备及存储介质 | |
CN116760745A (zh) | 网络异常处理方法、装置、设备、存储介质和程序产品 | |
CN116580804A (zh) | Ofd文件关联储存dicom数据的方法 | |
CN114330278B (zh) | 一种判断返回数据一致性的方法及设备 | |
CN110471906A (zh) | 数据库切换方法、装置及设备 | |
CN113706146B (zh) | 一种基于区块链执行批量交易的处理方法、装置和系统 | |
CN113282347B (zh) | 插件运行方法、装置、设备及存储介质 | |
CN113869989A (zh) | 一种信息处理方法及装置 | |
CN112084445A (zh) | 信息处理系统、方法以及设备、存储介质 | |
US11880723B1 (en) | Detection and correction of differences in application programming interface service responses | |
CN111104787A (zh) | 用于比较文件的方法、设备和计算机程序产品 | |
US11874821B2 (en) | Block aggregation for shared streams |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20240311 Address after: # 03-06, Lai Zan Da Building 1, 51 Belarusian Road, Singapore Applicant after: Alibaba Innovation Co. Country or region after: Singapore Address before: Room 01, 45th Floor, AXA Building, 8 Shanton Road, Singapore Applicant before: Alibaba Singapore Holdings Ltd. Country or region before: Singapore |