CN107977167B - 一种基于纠删码的分布式存储系统的退化读优化方法 - Google Patents

一种基于纠删码的分布式存储系统的退化读优化方法 Download PDF

Info

Publication number
CN107977167B
CN107977167B CN201711252685.9A CN201711252685A CN107977167B CN 107977167 B CN107977167 B CN 107977167B CN 201711252685 A CN201711252685 A CN 201711252685A CN 107977167 B CN107977167 B CN 107977167B
Authority
CN
China
Prior art keywords
node
data
performance
weight
read
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201711252685.9A
Other languages
English (en)
Other versions
CN107977167A (zh
Inventor
张兴军
蔡毅
董小社
梁宁静
刘云飞
刘威
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xian Jiaotong University
Original Assignee
Xian Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xian Jiaotong University filed Critical Xian Jiaotong University
Priority to CN201711252685.9A priority Critical patent/CN107977167B/zh
Publication of CN107977167A publication Critical patent/CN107977167A/zh
Application granted granted Critical
Publication of CN107977167B publication Critical patent/CN107977167B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/061—Improving I/O performance
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14—Error detection or correction of the data by redundancy in operation
    • G06F11/1402—Saving, restoring, recovering or retrying
    • G06F11/1446—Point-in-time backing up or restoration of persistent data
    • G06F11/1458—Management of the backup or restore process
    • G06F11/1464—Management of the backup or restore process for networked environments
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0614—Improving the reliability of storage systems
    • G06F3/0619—Improving the reliability of storage systems in relation to data integrity, e.g. data losses, bit errors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0655—Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
    • G06F3/0659—Command handling arrangements, e.g. command buffers, queues, command scheduling
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/067—Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Security & Cryptography (AREA)
  • Quality & Reliability (AREA)
  • Debugging And Monitoring (AREA)
  • Hardware Redundancy (AREA)

Abstract

本发明公开一种基于节点性能评估的纠删码存储系统退化读优化方法，该方法根据分布式存储系统各节点的硬件性能实时状况和软件请求情况，将各节点性能数据发送至性能评估节点，性能评估节点根据各节点的硬件性能状况以及分布式存储系统的排队延迟，过滤无用数据，通过评价公式获得每个节点的实时性能权值，将权值写回至各个存储节点。当某些节点出现故障，上层读请求转变为退化读请求，系统根据全局性能状态挑选最优的某些节点并进行解码操作。该方法在保证退化读操作顺利完成的情况，降低了读操作响应时间，充分利用了各节点软硬件资源。

Description

一种基于纠删码的分布式存储系统的退化读优化方法
技术领域
本发明涉及计算机存储领域，尤其涉及了分布式存储中纠删码优化，应用了分布式监控技术、纠删码理论，提出一种退化读优化方法。
背景技术
随着近年来数据规模的爆炸式增长，纠删码容错技术在分布式存储系统受到了业界的广泛关注，开源存储系统Ceph、HDFS、Swift等实现了纠删码方法作为可使用的容错技术。与多副本容错技术相比，纠删码容错技术能够以低得多的存储开销提供相同甚至更高的数据可靠性。当分布式存储系统中出现节点失效时，当上层用户需要读取损坏节点的数据时，系统需要利用校验块数据将失效数据块恢复出来，并通过解码操作获得原始数据然后响应客户端读请求，这称为退化读操作。采用纠删码容错的分布式存储系统进行退化读操作时，需要从多个存储节点下载数据并对这些数据进行编解码运算，此过程中需要读取并传输大量的数据，占用多个节点的网络、IO、计算资源。
在当前异构的分布式存储系统中，存储节点会由于频繁更换造成硬件不同，同时每个节点会由于软件实现造成负载不均衡、繁忙程度不同等情况。当节点发生故障时，系统会简单选取某些节点进行解码操作，从而在退化读操作过程中无法充分利用各节点的性能差异，一方面导致无法合理使用节点资源，另一方面导致退化读性能下降，影响系统的整体响应时间。在对纠删码退化读操作优化中，传统方法往往仅考虑各节点的硬件资源带来的影响，而忽略了真实存储系统的软件影响，导致评估节点并不准确，不能充分利用各节点的差异性。
发明内容
在当前纠删码分布式系统中，虽然实现方法各不相同，但是对于一个读写操作而言过程是相似的，在纠删码的编码过程中，为了保证系统的可靠性，通常将k个数据块和m个校验块分布到k+m个节点上，以保证对于极大距离可分码(MDS码)而言当小于等于m个块失效时，通过读取存活节点的k个数据块或校验块可以恢复出原始数据，这是本发明的前提，同时对于一个含有纠删码的分布式系统而言，该前提也是一定成立的。
为了克服现有技术存在的问题，本发明的目的是提高纠删码分布式存储系统中退化读的性能，充分利用异构节点的资源和软件性能，通过结合软件各项数据和硬件指标的实时性能数据，动态评估各节点的性能状况，为退化读请求选择最优的k个节点，以此来提高退化读性能，降低系统响应读请求时间。
为了实现上述目的，本发明采取的技术方案为：
1)第一阶段，本发明首先建立纠删码分布式存储系统IO栈，对存储系统中的纠删码读操作进行分层分析。对于大型分布式存储系统而言，虽然IO流程在实现过程中步骤十分繁杂，但是可以将IO栈从不同的存储系统中抽象出来，而对于纠删码中的退化读操作而言，主要需要考虑纠删码读IO栈。在读IO栈中包括了从客户端发出读数据请求到存储节点接受到读请求进行响应读取数据，直到将完整数据返回至客户端。关于纠删码读IO栈主要可以分为以下四层：消息处理层、操作分发层、操作处理层、对象读取层。在消息处理层中，主要负责接受从各个客户端发送来的读请求；在操作分发层中，系统会根据需要读取的数据块或者校验块分发至各个节点；在操作处理层，节点会对现有中读请求队列中的请求进行封装，为读取数据做准备；在对象读取层，节点会根据读请求从存储设备上读取数据，并等待其他节点的数据块或者校验块，然后进行解码操作，最后将完整数据发送至客户端。
2)第二阶段，收集每个节点的纠删码读请求中每层的延迟情况、队列排队状态、指定时间内处理读写请求的个数等软件性能数据，同时收集每个节点中的硬件数据，包含CPU、IO、网络等数据，将这些数据进行格式统一处理，以三元组<时间，性能指标，性能数据>的方式传输至性能收集节点进行保存。
3)第三阶段，性能收集节点会收集保存每项性能数据，并对无用数据进行过滤操作，对过期数据进行清理操作，避免对存储空间的浪费以及分析节点性能时无用数据带来的干扰。
4)第四阶段，根据建立的异构存储环境系的节点性能评价方案，根据获取的存储软件性能数据和节点硬件数据评估每个节点的实时性能状态，计算出每个节点的性能权值，以此来反映各节点当前处理读请求的能力。
5)第五阶段，数据收集评估节点将评估后各节点的实时性能权值分别发送至每个存储节点，每个存储节点接受到权值数据后更新原有的性能权值数据，保证数据的实时性。
6)第六阶段，读请求所在的主节点会查看所需要的数据块节点是否都存活，如果发生故障的节点大于m个，则代表损坏的数据块过多，无法恢复原有的数据；如果发生故障的节点小于等于m个，便会发起退化读操作。系统会根据保存在本地的节点性能权值数据选择性能最优的k-1个节点(不包括该节点)，而不是按照序号选择k-1个节点，然后向这个最优的k-1个节点发送读请求。
7)第七阶段，性能最优的k-1个节点响应主节点的读请求，将数据块或者校验块发送至主节点。主节点收到所有的数据(校验)块后进行解码操作，最后将完整数据发送至客户端，完成退化读操作。
在第四阶段计算性能权值时，结合CPU、IO以及网络各项指标以及指标所占比例进行计算，得出一个综合权值反应节点的性能状态。
在第六阶段所述的小于等于m个，是要求分布式存储在丢失小于或等于m个数据块或者校验块时可以恢复出完整数据，如果丢失块数大于m代表无法利用解码操作恢复出原始数据。
本发明的方法可用于分布式存储系统，在存储系统中使用纠删码冗余技术时，可通过使用该技术提高存储系统读性能，可充分利用各个节点的计算资源、IO资源以及网络资源，避免出现节点性能瓶颈，提高整体系统的吞吐量。
附图说明
图1是退化读优化方法整体实施框架图
图2是存储系统退化读节点选择流程图
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步地详细说明。应当理解，此处所描述的具体实施例仅仅用于解释本发明的基本构想，并不用于限定本发明。本领域技术人员可由本说明书所表述的内容了解本发明的其它优点与功效。本发明还可以有其它不同的具体实施方式加以实施或应用，本说明书的各项细节也可以有基于不同观点与应用，在没有违背本发明精神下可以进行各种修饰或改变。
本发明具体实施方式提供了一种对纠删码分布式存储系统退化读的优化方案，通过收集异构分布式存储环境下每个存储节点的软硬件性能数据，评估各节点性能权值，为退化读操作选择出实时性能最优的k个节点，从而提高退化读性能，降低响应延迟，充分利用异构环境下各节点的系统资源，下面将参考附图详细描述本发明。
图1为退化读优化方法整体实施框架图，为了实现异构环境下基于软硬件性能数据的退化读优化方法，需要实现以下五个模块：性能监控模块、节点性能数据收集模块、节点性能评估模块、节点信息存储模块和退化读处理模块。为了实现退化读优化方法，五个模块需要各自分工，协调工作，最终通过退化读处理模块选择性能最优的k个节点响应退化读请求。
性能监控模块负责收集中分布式存储系统中各节点的软硬件数据，其中OSD代表节点存储设备。在此模块中用户需要依据不同分布式存储系统架构从逻辑层面划分IO栈，这里IO栈代表了当客户端发起读写请求时存储系统为了处理请求所经历的不同层次阶段，当用户划分完成IO栈后，将不同的软件性能指标对应到不同的IO栈中，以此通过获取不同的软件性能数据来评估不同IO层次的性能状况。为了得到软硬件性能数据，系统需要根据探针实时获得节点硬件数据和分布式存储系统中各层次的软件数据，其中，探针是指为了准确获得系统实时运行性能数据而放入系统代码不同位置的性能采集程序。探针可获得的IO栈中软件性能参数包含了每个层次的延迟性能数据、请求队列长度、处理操作数等。而探针获取的数据硬件性能数据，包含了IO、CPU、网络等性能数据，其中收集的IO数据包含了请求平均等待时间、处理IO请求所占用的时间百分比、每秒向磁盘发起的读操作数、每秒从磁盘读取数据大小等；收集的CPU数据包含用户进程消耗的CPU时间百分比、内核进程消耗的CPU时间百分比、IO等待消耗的CPU时间百分比等；收集的网络数据包含网络接口吞吐量和网络接口IOPS。收集完成后，性能收集模块以三元组的形式将性能数据定时传送至性能数据收集模块。
当性能数据收集模块接受到性能数据以后，通过过滤程序将无用的性能数据过滤掉，然后通过删除程序将过期数据进行删除防止因为额外的性能数据占用大量的存储空间。进一步，节点性能评估模块会根据性能数据提取出有价值的性能指标数据，对每个节点进行性能评估。如公式(1)所示，n代表了第n个节点，V代表了某个节点的权值，I反映了当前节点的读数据能力，N反映了当前节点传输数据能力，C反映了节点当前计算能力，α、β、γ分别代表了在计算节点权值时IO、网络和CPU所考虑的比重，用户可根据对当前节点的判断状态采用不同的比重来得出最终的节点权值。在公式(2)(3)(4)中，分别说明了IO、网络、CPU的计算方法，其中，在公式(2)中，iops代表每秒的IO数量，rs代表每秒读取数据的大小，r_latancy代表在分布式存储系统中读操作中读取数据层的延迟；在公式(3)中，niops代表每秒上下帧的数量，throughs代表每秒的网络吞吐，m_latancy代表在分布式存储系统中读操作中网络层的延迟；在公式(4)中，sys和usr分别代表了内核和用户消耗CPU时间所占百分比，idle表示空闲时间所占百分比，o_lantancy代表读操作时分发处理层的延迟，其中，当sys+usr<idle，代表空闲时间大于系统总占用时间，此时CPU不会成为处理节点的瓶颈，因此将Cn设置为0，其中公式中如x*形式代表归一化处理结果，归一化方法使用线性函数转换。当节点性能评估模块根据软硬件性能数据得到每个节点的性能权值后，便将权值数据发送至每一个存储节点(图中的OSD节点)，此时每个存储节点对应一个实时的性能权值。
Vn＝In*α+Nn*β+Cn*γ (1)
In＝(iops*+rs*)*r_latency (2)
Nn＝(niops*+throughs*)*m_latency (3)
Figure BDA0001492083650000051
当读请求到达某个存储节点后，该节点将会利用退化读处理模块进行节点选择性能最优的k个节点，具体流程如图2所示。当主存储节点收到用户的退化读请求后，会将保存在存储节点本地的节点性能数据读入，对比需要读节点和存活节点的信息，如果存活节点个数小于k个那么由于损坏数据块过多无法恢复数据而结束此次响应，如果存活节点个数大于等于k个，会根据全局节点性能权值数据挑选出性能最优且存活的k个节点(包含自身节点)，然后将读请求发送至其它k-1个存活节点，当主存储节点拥有所有k个数据(校验)块后，进行解码操作，将完整数据返回至客户端，至此完成了基于节点性能评估的退化读操作。
以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (2)

1.一种基于纠删码的分布式存储系统的退化读优化方法，其特征在于，包括以下步骤：
1)第一阶段，首先建立纠删码分布式存储系统IO栈，对存储系统中的纠删码读操作进行分层分析，将纠删码读IO栈分为以下四层：消息处理层、操作分发层、操作处理层、对象读取层；
2)第二阶段，收集每个节点的纠删码读请求中每层的延迟情况、队列排队状态、指定时间内处理读写请求的个数软件性能数据，同时收集每个节点中的硬件数据，包含CPU、IO、网络数据，将这些数据进行格式统一处理，以三元组<时间，性能指标，性能数据>的方式传输至性能收集节点进行保存；
3)第三阶段，性能收集节点会收集保存每项性能数据，并对无用数据进行过滤操作，对过期数据进行清理操作；
4)第四阶段，根据建立的异构存储环境系统的节点性能评价方案，根据获取的存储软件性能数据和节点硬件数据评估每个节点的实时性能状态，计算出每个节点的性能权值；
5)第五阶段，数据收集评估节点将评估后各节点的实时性能权值分别发送至每个存储节点，每个存储节点接受到权值数据后更新原有的性能权值数据；
6)第六阶段，读请求所在的主节点会查看所需要的数据块节点是否都存活，如果发生故障的节点小于等于m个，便会发起退化读操作，系统根据保存在本地的节点性能权值数据选择性能最优的k-1个节点，然后发送读请求；
7)第七阶段，性能最优的k-1个节点响应主节点的读请求，将数据块或者校验块发送至主节点，主节点收到所有的数据块或校验块后进行解码操作，最后将完整数据发送至客户端，完成退化读操作；
第四阶段计算性能权值时，基于公式(1)-(4)对CPU、IO以及网络各项指标进行计算，并得出一个综合权值反应节点的性能状态，
Figure FDA0002542339350000012
In＝(iops*+rs*)*r_latency (2)
Nn＝(niops*+throughs*)*m_latency (3)
Figure FDA0002542339350000011
公式(1)中，n代表了第n个节点，V代表了某个节点的权值，I反映了当前节点的读数据能力，N反映了当前节点传输数据能力，C反映了节点当前计算能力，α、β、γ分别代表了在计算节点权值时IO、网络和CPU所考虑的比重，用户可根据对当前节点的判断状态采用不同的比重来得出最终的节点权值；公式(2)(3)(4)则分别说明了IO、网络、CPU的计算方法：公式(2)中，iops代表每秒的IO数量，rs代表每秒读取数据的大小，r_latency代表在分布式存储系统中读操作中读取数据层的延迟；公式(3)中，niops代表每秒上下帧的数量，throughs代表每秒的网络吞吐，m_latency代表在分布式存储系统中读操作中网络层的延迟；公式(4)中，sys和usr分别代表了内核和用户消耗CPU时间所占百分比，idle表示空闲时间所占百分比，o_latency代表读操作时分发处理层的延迟，其中，当sys+usr<idle，代表空闲时间大于系统总占用时间，此时CPU不会成为处理节点的瓶颈，因此将Cn设置为0；此外，公式中如x*形式均代表归一化处理结果，归一化方法使用线性函数转换。
2.根据权利要求1所述的一种基于纠删码的分布式存储系统的退化读优化方法，其特征在于，在第六阶段所述的小于等于m个，是要求分布式存储在丢失小于或等于m个数据块或者校验块时可以恢复出完整数据，如果丢失块数大于m代表无法利用解码操作恢复出原始数据。
CN201711252685.9A 2017-12-01 2017-12-01 一种基于纠删码的分布式存储系统的退化读优化方法 Active CN107977167B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711252685.9A CN107977167B (zh) 2017-12-01 2017-12-01 一种基于纠删码的分布式存储系统的退化读优化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711252685.9A CN107977167B (zh) 2017-12-01 2017-12-01 一种基于纠删码的分布式存储系统的退化读优化方法

Publications (2)

Publication Number Publication Date
CN107977167A CN107977167A (zh) 2018-05-01
CN107977167B true CN107977167B (zh) 2020-08-18

Family

ID=62008857

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711252685.9A Active CN107977167B (zh) 2017-12-01 2017-12-01 一种基于纠删码的分布式存储系统的退化读优化方法

Country Status (1)

Country Link
CN (1) CN107977167B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109739777B (zh) * 2018-12-25 2020-08-04 清华大学 本地与分布式协同设计的可靠闪存存储方法及系统
CN109960588B (zh) * 2019-03-20 2020-12-08 华中科技大学 一种针对异构内存集群的读请求调度方法及系统
CN111131457B (zh) * 2019-12-25 2021-11-30 上海交通大学 一种异构分布式存储的容量和带宽折中方法及系统
CN111190803B (zh) * 2019-12-27 2024-01-30 天津中科曙光存储科技有限公司 一种性能统计数据的收集和存储方法及装置
CN111625400B (zh) * 2020-05-26 2024-01-16 平安科技（深圳）有限公司 一种数据冗余处理方法、装置及存储介质
CN113778346B (zh) * 2021-11-12 2022-02-11 深圳市名竹科技有限公司 数据读取方法、装置、设备和存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105612491A (zh) * 2013-09-16 2016-05-25 网络装置公司 分布式存储架构中基于具有密集树结构的元数据的盘区的管理
CN106126407A (zh) * 2016-06-22 2016-11-16 西安交通大学 一种针对分布式存储系统的性能监控调优系统及方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9367253B2 (en) * 2014-03-13 2016-06-14 Vmware, Inc. Catastrophic data loss avoidance

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105612491A (zh) * 2013-09-16 2016-05-25 网络装置公司 分布式存储架构中基于具有密集树结构的元数据的盘区的管理
CN106126407A (zh) * 2016-06-22 2016-11-16 西安交通大学 一种针对分布式存储系统的性能监控调优系统及方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
分布式存储系统中基于纠删码的容错技术研究;朱云峰;《中国博士学位论文全文数据库信息科技辑》;20141015(第10期);第55-74页 *
异构纠删码存储集群重构优化技术研究;罗海兵;《中国优秀硕士学位论文全文数据库信息科技辑》;20170615(第06期);全文 *

Also Published As

Publication number Publication date
CN107977167A (zh) 2018-05-01

Similar Documents

Publication Publication Date Title
CN107977167B (zh) 一种基于纠删码的分布式存储系统的退化读优化方法
US10261853B1 (en) Dynamic replication error retry and recovery
US11921725B2 (en) Processing queries based on rebuilding portions of virtual segments
US9104572B1 (en) Automated root cause analysis
CN107038069B (zh) Hadoop平台下动态标签匹配DLMS调度方法
US8332367B2 (en) Parallel data redundancy removal
CN110086888B (zh) 基于RabbitMQ的多集群动态负载方法、装置、电子设备
CN101662495B (zh) 备份方法、主服务器、备份服务器以及备份系统
CN114169427B (zh) 基于端到端自适应的分布式训练方法、装置、设备
US20160275123A1 (en) Pipeline execution of multiple map-reduce jobs
US20110029748A1 (en) Remote copy system and remote copy control method
EP3285187B1 (en) Optimized merge-sorting of data retrieved from parallel storage units
US11734239B2 (en) Processing row data for deduplication based on corresponding row numbers
US11599463B2 (en) Servicing queries during data ingress
US11880272B2 (en) Automated methods and systems that facilitate root-cause analysis of distributed-application operational problems and failures by generating noise-subtracted call-trace-classification rules
CN102479160B (zh) 用于使用滑动写入窗口机制写入数据的方法和系统
CN104036029A (zh) 大数据一致性对比方法和系统
US20220058072A1 (en) Automated methods and systems that facilitate root cause analysis of distributed-application operational problems and failures
CN109522316A (zh) 日志处理方法、装置、设备和存储介质
US11755589B2 (en) Delaying segment generation in database systems
US20190347165A1 (en) Apparatus and method for recovering distributed file system
Liu et al. Optimizing shuffle in wide-area data analytics
CN108958973B (zh) 分布式文件系统纠删码数据重构存储节点选择方法及装置
US20220138168A1 (en) Maintaining row durability data in database systems
CN112749041A (zh) 虚拟化网络功能备份策略自决策方法、装置及计算设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant