CN114138475A - 一种数据传输负载均衡方法、装置、设备及存储介质 - Google Patents
一种数据传输负载均衡方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN114138475A CN114138475A CN202111400529.9A CN202111400529A CN114138475A CN 114138475 A CN114138475 A CN 114138475A CN 202111400529 A CN202111400529 A CN 202111400529A CN 114138475 A CN114138475 A CN 114138475A
- Authority
- CN
- China
- Prior art keywords
- backup
- node
- request
- target data
- backup node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 56
- 230000005540 biological transmission Effects 0.000 title claims abstract description 46
- 238000012545 processing Methods 0.000 claims abstract description 15
- 238000004422 calculation algorithm Methods 0.000 claims description 22
- 230000004044 response Effects 0.000 claims description 20
- 238000004590 computer program Methods 0.000 claims description 17
- 238000012216 screening Methods 0.000 claims description 16
- 238000004891 communication Methods 0.000 description 6
- 238000012546 transfer Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5011—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
Abstract
本申请公开了一种数据传输负载均衡方法、装置、设备及存储介质，包括：获取客户端发送的针对目标数据的备份请求；根据备份请求创建用于传输目标数据的IO请求，并从软件定义存储系统的所有节点中随机确定出第一备份节点；将IO请求发送至第一备份节点，以便第一备份节点对通过IO请求获取的目标数据进行备份，并将目标数据转发至第二备份节点进行备份；第二备份节点为从软件定义存储系统中随机确定出的从节点。本申请的上述数据传输负载均衡过程通过随机选择的第一备份节点进行第二备份节点的计算与目标数据的转发，无需借助主节点直接向第二备份节点进行目标数据的转发，减轻了主节点的网络IO处理压力，实现节点间的IO负载均衡。
Description
技术领域
本发明涉及软件定义存储技术，特别涉及一种数据传输负载均衡方法、装置、设备及存储介质。
背景技术
超融合架构(Hyper-Converged Infrastructure，即HCI)是指利用软件定义技术将大量标准服务器构建成为集计算、存储、网络为一体的资源池，替代传统的服务器中单独的计算节点、存储服务器等，支持横向无缝扩展。而软件定义存储(Software DefinedStorage，即SDS)则是构成HCI的核心，它将各个服务器节点上的磁盘集中管理并向外提供存储功能。软件定义存储支持多数据备份，待备份的目标数据会按策略保存在不同节点的磁盘上，当一个节点故障后，服务器集群中仍然存在完整的目标数据，从而保障了用户数据的完整性；当一个节点发生损坏并导致节点上的数据丢失后，软件定义存储还支持数据重建，以保证目标数据的冗余性。
当前，软件定义存储系统在工作时，会根据策略从所有节点中自动选出一个节点作为主节点向外提供服务。主节点收到请求后，会对数据请求进行处理并转发，例如根据哈希算法计算其余备份节点，然后将待备份的目标数据发送给其余备份节点进行处理。其余备份节点收到请求后，会进一步计算该目标数据所在磁盘及磁盘的位置，并写入磁盘，最后通知主节点目标数据已经处理完成。上述的数据转发过程存在一个问题：主节点既要接收应用发过来的数据请求，又需要将多个目标数据转发到其余备份节点，因此主节点的IO(Input Output，即输入输出)压力很大，同时也导致了软件定义存储系统中节点间IO负载不均衡的问题。
综上可见，如何实现主节点的网络压力转移，完成数据传输过程的负载均衡是本领域有待解决的问题。
发明内容
有鉴于此，本发明的目的在于提供一种数据传输负载均衡方法、装置、设备及存储介质，能够实现主节点的网络压力转移，完成数据传输过程的负载均衡。其具体方案如下：
第一方面，本申请公开了一种数据传输负载均衡方法，应用于软件定义存储系统中的主节点，包括：
获取客户端发送的针对目标数据的备份请求；
根据所述备份请求创建用于传输所述目标数据的IO请求，并从所述软件定义存储系统的所有节点中随机确定出第一备份节点；
将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至第二备份节点进行备份；所述第二备份节点为从所述软件定义存储系统中随机确定出的从节点。
可选的，所述从所述软件定义存储系统的所有节点中随机确定出第一备份节点，包括：
利用预设哈希算法对所述目标数据进行哈希运算，以得到相应的哈希值；
对所述哈希值进行处理以得到一个数字，并从所述软件定义存储系统的所有节点中筛选出与所述数字对应的一个节点作为第一备份节点。
可选的，所述从所述软件定义存储系统的所有节点中随机确定出第一备份节点，包括：
利用预设哈希算法对所述目标数据进行哈希运算，以得到相应的哈希值；
对所述哈希值进行处理以得到第一预设数量个数字，并从所述软件定义存储系统的所有节点中筛选出与所述第一预设数量个数字对应的节点，以得到相应的所述第一预设数量个节点；
从所述第一预设数量个节点中筛选任意一个节点作为第一备份节点。
可选的，所述将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至第二备份节点进行备份，包括：
将所述第一预设数量个节点中除所述第一备份节点外的其余节点作为所述第二备份节点；
将所述IO请求以及所述第二备份节点对应的所述数字发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至与获取到的所述数字对应的所述第二备份节点进行备份。
可选的，所述将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至第二备份节点进行备份，包括：
将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并利用预设哈希算法对所述目标数据进行哈希运算以得到第二预设数量个数字，从所述软件定义存储系统的所有节点中筛选出与所述第二预设数量个数字对应的节点作为第二备份节点以及将所述目标数据转发至所述第二备份节点进行备份。
可选的，所述将所述IO请求发送至所述第一备份节点的过程中，还包括：
将所述第二预设数量发送至所述第一备份节点，以便所述第一备份节点在对所述目标数据进行哈希运算后，基于获取到的所述第二预设数量以及所述哈希运算后得到的哈希值确定出所述第二预设数量个所述数字。
可选的，所述一种数据传输负载均衡方法，还包括：
获取所述第一备份节点收集并发送的备份请求应答信息，并将所述备份请求应答信息转发至所述客户端；所述第一备份节点收集的所述备份请求应答信息包括所述第一备份节点中与所述目标数据对应的备份状态信息以及所述第二备份节点中与所述目标数据对应的备份状态信息。
第二方面，本申请公开了一种数据传输负载均衡装置，包括：
请求获取模块，用于获取客户端发送的针对目标数据的备份请求；
节点确定模块，用于根据所述备份请求创建用于传输所述目标数据的IO请求，并从所述软件定义存储系统的所有节点中随机确定出第一备份节点；
请求发送模块，用于将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至第二备份节点进行备份；所述第二备份节点为从所述软件定义存储系统中随机确定出的从节点。
第三方面，本申请公开了一种电子设备，包括：
存储器，用于保存计算机程序；
处理器，用于执行所述计算机程序，以实现前述公开的数据传输负载均衡方法的步骤。
第四方面，本申请公开了一种计算机可读存储介质，用于存储计算机程序；其中，所述计算机程序被处理器执行时实现前述公开的数据传输负载均衡方法的步骤。
可见，本申请获取客户端发送的针对目标数据的备份请求；根据所述备份请求创建用于传输所述目标数据的IO请求，并从所述软件定义存储系统的所有节点中随机确定出第一备份节点；将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至第二备份节点进行备份；所述第二备份节点为从所述软件定义存储系统中随机确定出的从节点。由此可见，本申请可以通过主节点选择第一备份节点的方式确定出第一备份节点，并将目标数据传输至各个节点进行备份的任务从主节点下沉到第一备份节点，实现了网络压力的转移，并且由于随机选择第一备份节点，可以实现目标数据IO可以均衡分布在各个节点上，提高软件定义存储系统节点间的IO吞吐量，从而消除了主节点的网络压力问题，实现数据传输负载均衡。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
图1为本发明实施例公开的一种数据传输负载均衡方法流程图；
图2为本申请公开的一种数据传输示意图；
图3为本发明实施例公开的一种具体的数据传输负载均衡方法流程图；
图4为本发明实施例公开的一种具体的数据传输负载均衡方法流程图；
图5为本发明实施例公开的一种数据传输负载均衡装置结构示意图；
图6为本发明实施例公开的一种电子设备结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
当前，在软件定义存储系统中，多数采用主节点控制向各个备份节点进行目标数据的转发，但是这种方式会导致主节点面临更大的网络压力与数据传输过程中其他节点负载不均衡的情况，因此，本发明相应提供了一种数据传输负载均衡方案，能够降低主节点在面对大吞吐数据量场景的网络带宽压力，并实现数据传输负载均衡。
参照图1所示，本发明实施例公开了一种数据传输负载均衡方法，应用于软件定义存储系统中的主节点，包括：
步骤S11：获取客户端发送的针对目标数据的备份请求。
本实施例中，主节点获取客户端发送的备份请求，所述备份请求是针对目标数据的备份请求，由于所述软件定义存储系统中预先存在所述目标数据，或所述软件定义存储系统未存储过所述目标数据，或本次备份请求中目标数据是针对所述软件定义存储系统中已存在的原始目标数据的更新后的目标数据等多种情况，所以存在以下实施方式。
在一种具体的实施方式中，若所述软件定义存储系统中预先存在所述目标数据，则所述获取所述客户端发送的针对目标数据的备份请求中可以不包含所述目标数据，所述备份请求中具体可以包括关于存储在所述软件定义存储系统中的所述目标数据的特征信息。当所述主节点获取到所述备份请求后，可以利用所述备份请求中的所述特征信息，从所述软件定义存储系统中进行数据查询工作，以得到相应的目标数据。
在另一种具体的实施方式中，若所述软件定义存储系统未存储过所述目标数据，则所述获取的所述客户端发送的针对目标数据的备份请求中具体可以包括所述目标数据在内等相关信息，当所述主节点获取到所述备份请求后，可以直接利用所述备份请求中的目标数据信息进行后续的节点存储处理任务，无需从所述软件定义存储系统中获取所述目标数据。
在又一种具体的实施方式中，若所述备份请求中包含所述目标数据是针对所述软件定义存储系统中已存在的原始目标数据的更新后的目标数据，则当更新所述软件定义存储系统中的所述原始目标数据时，需要利用所述备份请求中所述更新后的目标数据完成后续所述目标数据的更新存储任务。
步骤S12：根据所述备份请求创建用于传输所述目标数据的IO请求，并从所述软件定义存储系统的所有节点中随机确定出第一备份节点。
本实施例中，创建用于传输所述备份请求中所述目标数据的IO请求，并且通过主节点从所述软件定义存储系统中的所有节点随机确定出第一备份节点，可以理解的是，所述随机确定出第一备份节点，可以将所述主节点的网络压力转移到所述第一备份节点上，其中所述第一备份节点所在位置是随机的，也就是说，所述第一备份节点可以是所述软件定义存储系统中的任一节点。
步骤S13：将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至第二备份节点进行备份；所述第二备份节点为从所述软件定义存储系统中随机确定出的从节点。
本实施例中，参照图2所示，将包含所述备份请求的用于传输数据的IO请求发送给第一备份节点，以便所述第一备份节点对所述目标数据进行备份，进一步的，在第一种实施方式中，通过所述第一备份节点将所述已经备份过的目标数据按照一定的规则转发至从所有从节点中被选择的第二备份节点进行备份，这样一来可以实现数据多副本保存的功能。由此可见，当所述软件定义存储系统中的节点出现故障时，集群中仍存在已完成所述目标数据，可以保障用户数据的完整性。进一步的，当某一节点损坏掉，节点数据丢失后，所述软件定义存储系统也可以根据其他备份节点中已保存的所述目标数据进行数据重建。在另一种实施方式中，将通过所述IO请求获取的所述目标数据发送至所述第二备份节点，所述第一备份节点和所述第二备份节点并行备份，对所述目标数据完成数据落盘。所述第一备份节点和所述第二备份节点并行备份，所以所述第二备份节点无需等待所述第一备份节点完成数据落盘，进而提高了备份数据处理的响应速度和实现高效率的数据传输。
本实施例中，将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至第二备份节点进行备份之后，获取所述第一备份节点收集并发送的备份请求应答信息，并将所述备份请求应答信息转发至所述客户端；所述第一备份节点收集的所述备份请求应答信息包括所述第一备份节点中与所述目标数据对应的备份状态信息以及所述第二备份节点中与所述目标数据对应的备份状态信息。
可以理解的是，当所述第一备份节点与所述第二备份均对所述目标数据备份完成之后，所述第一备份节点需要将所述备份请求应答信息发送至所述主节点，所述备份请求应答信息包含了所述第一备份节点与所述第二备份节点关于所述目标数据的备份状态信息，当主节点收到所述备份请求应答信息后将其转发至所述客户端，以便客户端根据收到的所述备份请求应答信息决定本次数据传输是否完成。其中，所述备份状态信息具体可以包括备份完成、备份失败等状态信息，当所述客户端收到的所述备份请求应答信息中为备份完成的备份状态信息，则确定本次数据传输已经完成。当所述客户端收到的所述备份请求应答信息中为备份失败的备份状态信息，则所述客户端重新向所述主节点发送针对所述目标数据的备份请求，重新进行针对所述目标数据的备份任务。
可见，本申请获取客户端发送的针对目标数据的备份请求；根据所述备份请求创建用于传输所述目标数据的IO请求，并从所述软件定义存储系统的所有节点中随机确定出第一备份节点；将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至第二备份节点进行备份；所述第二备份节点为从所述软件定义存储系统中随机确定出的从节点。由此可见，本申请可以通过主节点选择第一备份节点的方式确定出第一备份节点，并将目标数据传输至各个节点进行备份的任务从主节点下沉到第一备份节点，实现了网络压力的转移，并且由于随机选择第一备份节点，可以实现目标数据IO可以均衡分布在各个节点上，提高软件定义存储系统节点间的IO吞吐量，从而消除了主节点的网络压力问题，实现数据传输负载均衡。
参见图3所示，本申请实施例公开了一种具体的数据传输负载均衡方法，相对于上一实施例，本实施例对技术方案作了进一步的说明和优化。具体包括：
步骤S21：获取客户端发送的针对目标数据的备份请求。
步骤S22：根据所述备份请求创建用于传输所述目标数据的IO请求，并利用预设哈希算法对所述目标数据进行哈希运算，以得到相应的哈希值。
本实施例中，通过利用预设哈希算法对目标数据进行哈希运算，以得到与目标数据相应的哈希值，需要指出的是，根据哈希算法的定义可知，当输入的目标数据一定时，得到的哈希值也是确定的。
步骤S23：对所述哈希值进行处理以得到一个数字，并从所述软件定义存储系统的所有节点中筛选出与所述数字对应的一个节点作为第一备份节点。
本实施例中，在得到上述哈希值之后，通过对哈希值进行处理以得到一个数字，需要注意的是，本实施例还需要对软件定义存储系统的所有节点进行编号，并且，每一个节点有着唯一的编号，再从所有节点及其编号中选取与上述数字对应的一个节点作为第一备份节点。在一种具体实施例中，上述对哈希值进行处理具体可以通过取模算法对哈希值进行运算，具体方法如下：首先对软件定义存储系统中的所有节点从0至N-1编号，再利用上述得到的哈希值对N进行取模运算得到模i，可以理解的是，i是属于0至N-1中的一个数，则将与i相同的编号所对应的一个节点作为第一备份节点。
步骤S24：将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并利用预设哈希算法对所述目标数据进行哈希运算以得到第二预设数量个数字，从所述软件定义存储系统的所有节点中筛选出与所述第二预设数量个数字对应的节点作为第二备份节点以及将所述目标数据转发至所述第二备份节点进行备份。
本实施例中，上述将所述IO请求发送至所述第一备份节点的过程中，还包括：将所述第二预设数量发送至所述第一备份节点，以便所述第一备份节点在对所述目标数据进行哈希运算后，基于获取到的所述第二预设数量以及所述哈希运算后得到的哈希值确定出所述第二预设数量个所述数字。可以理解的是，本实施例中，还需要将与第二备份节点个数相关的第二预设数量发送至第一备份节点，以便第一备份节点对目标数据进行哈希计算后得到相应的哈希值后，再基于第二预设数量并利用取模运算得到第二预设数量个数字。再从0至N-1编号中选取与上述第二预设数量个数字对应的节点作为第二备份节点。
其中，关于上述步骤S21更加具体的处理过程可以参考前述实施例中公开的相应内容，在此不再进行赘述。
可见，本申请实施例中，首先在主节点处利用预设哈希算法从软件定义存储系统的所有节点中随机筛选出一个节点作为第一备份节点，再将用于传输所述目标数据的IO请求和与第二备份节点个数相关的第二预设数量发送至第一备份节点，并且在第一备份节点处又再次利用预设哈希算法从软件定义存储系统的所有节点中随机筛选出与第二预设数量个数字对应的节点作为第二备份节点，以便第一备份节点将目标数据转发至第二备份节点进行备份。通过这种方式，主节点只需要计算出第一备份节点的位置并进行一次数据转发，后续则由第一备份节点继续完成第二备份节点的位置计算和数据转发，如此一来，减小了主节点的IO压力，实现了在数据传输过程中节点间的负载均衡。
参见图4所示，本申请实施例公开了一种具体的数据传输负载均衡方法，相对于上一实施例，本实施例对技术方案作了进一步的说明和优化。具体包括：
步骤S31：获取客户端发送的针对目标数据的备份请求。
步骤S32：根据所述备份请求创建用于传输所述目标数据的IO请求，并利用预设哈希算法对所述目标数据进行哈希运算，以得到相应的哈希值。
步骤S33：对所述哈希值进行处理以得到第一预设数量个数字，并从所述软件定义存储系统的所有节点中筛选出与所述第一预设数量个数字对应的节点，以得到相应的所述第一预设数量个节点。
本实施例中，在得到上述哈希值之后，通过取模算法对哈希值进行处理以得到第一预设数量个数字，需要注意的是，与上一实施例相同的是，本实施例也需要对软件定义存储系统的所有节点按照0至N-1进行编号，再从所有节点及其编号中选取与上述第一预设数量个数字对应的第一预设数量个节点。
步骤S34：从所述第一预设数量个节点中筛选任意一个节点作为第一备份节点。
本实施例中，在得到上述第一预设数量个节点后，再从中筛选任意一个节点作为第一备份节点。
步骤S35：将所述第一预设数量个节点中除所述第一备份节点外的其余节点作为所述第二备份节点。
本实施例中，在确定出第一备份节点之后，则将第一预设数量个节点中的其余节点作为第二备份节点。
步骤S36：将所述IO请求以及所述第二备份节点对应的所述数字发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至与获取到的所述数字对应的所述第二备份节点进行备份。
本实施例中，与上一实施例不同的是，无需第一备份节点再根据目标数据进行哈希运算得到第二预设数量个数字从而得到第二备份节点，而是主节点将IO请求以及已经计算过的与第二备份节点对应的数字直接发送至第一备份节点，以便第一备份节点基于上述数字从软件定义存储系统的所有节点中筛选出相应的节点作为第二备份节点并进行备份。
其中，关于上述步骤S31和S32更加具体的处理过程可以参考前述实施例中公开的相应内容，在此不再进行赘述。
可见，本申请实施例中，首先在主节点处利用预设哈希算法从软件定义存储系统的所有节点中随机筛选出第一预设数量个节点，并从中任意选取一个节点作为第一备份节点，再将第一预设数量个节点中除第一备份节点外的其余节点作为第二备份节点，并将与第二备份节点相关的数字发送至第一备份节点，以便第一备份节点将目标数据转发至与获取到的数字对应的第二备份节点进行备份。通过这种方式，避免了第一备份节点再对目标数据进行一次哈希运算，而是主节点直接将与第二备份节点相关的数字信息发送至第一备份节点，同时数据转发的工作由随机筛选出的第一备份节点来完成，减小了主节点的IO压力，实现了在数据传输过程中节点间的负载均衡。
参照图5所示，本发明实施例公开了一种数据传输负载均衡装置，包括：
请求获取模块11，用于获取客户端发送的针对目标数据的备份请求；
节点确定模块12，用于根据所述备份请求创建用于传输所述目标数据的IO请求，并从所述软件定义存储系统的所有节点中随机确定出第一备份节点；
请求发送模块13，用于将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至第二备份节点进行备份；所述第二备份节点为从所述软件定义存储系统中随机确定出的从节点。
可见，本申请获取客户端发送的针对目标数据的备份请求；根据所述备份请求创建用于传输所述目标数据的IO请求，并从所述软件定义存储系统的所有节点中随机确定出第一备份节点；将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至第二备份节点进行备份；所述第二备份节点为从所述软件定义存储系统中随机确定出的从节点。由此可见，本申请可以通过主节点选择第一备份节点的方式确定出第一备份节点，并将目标数据传输至各个节点进行备份的任务从主节点下沉到第一备份节点，实现了网络压力的转移，并且由于随机选择第一备份节点，可以实现目标数据IO可以均衡分布在各个节点上，提高软件定义存储系统节点间的IO吞吐量，从而消除了主节点的网络压力问题，实现数据传输负载均衡。
在一些具体实施例中，所述节点确定模块12，具体包括：
第一节点确定单元，用于利用预设哈希算法对所述目标数据进行哈希运算，以得到相应的哈希值；对所述哈希值进行处理以得到一个数字，并从所述软件定义存储系统的所有节点中筛选出与所述数字对应的一个节点作为第一备份节点。
在一些具体实施例中，所述节点确定模块12，具体包括：
第一节点筛选单元，用于利用预设哈希算法对所述目标数据进行哈希运算，以得到相应的哈希值；对所述哈希值进行处理以得到第一预设数量个数字，并从所述软件定义存储系统的所有节点中筛选出与所述第一预设数量个数字对应的节点，以得到相应的所述第一预设数量个节点；从所述第一预设数量个节点中筛选任意一个节点作为第一备份节点。
在一些具体实施例中，所述请求发送模块13，具体包括：
数据备份单元，用于将所述第一预设数量个节点中除所述第一备份节点外的其余节点作为所述第二备份节点；将所述IO请求以及所述第二备份节点对应的所述数字发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至与获取到的所述数字对应的所述第二备份节点进行备份。
在一些具体实施例中，所述请求发送模块13，具体包括：
第二节点确定单元，用于将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并利用预设哈希算法对所述目标数据进行哈希运算以得到第二预设数量个数字，从所述软件定义存储系统的所有节点中筛选出与所述第二预设数量个数字对应的节点作为第二备份节点以及将所述目标数据转发至所述第二备份节点进行备份。
在一些具体实施例中，所述请求发送模块13，具体包括：
第二数字确定单元，用于将所述第二预设数量发送至所述第一备份节点，以便所述第一备份节点在对所述目标数据进行哈希运算后，基于获取到的所述第二预设数量以及所述哈希运算后得到的哈希值确定出所述第二预设数量个所述数字。
信息反馈单元，用于获取所述第一备份节点收集并发送的备份请求应答信息，并将所述备份请求应答信息转发至所述客户端；所述第一备份节点收集的所述备份请求应答信息包括所述第一备份节点中与所述目标数据对应的备份状态信息以及所述第二备份节点中与所述目标数据对应的备份状态信息。
进一步的，本申请实施例还公开了一种电子设备，图6是根据一示例性实施例示出的电子设备20结构图，图中的内容不能认为是对本申请的使用范围的任何限制。
图6为本申请实施例提供的一种电子设备20的结构示意图。该电子设备20，具体可以包括：至少一个处理器21、至少一个存储器22、电源23、通信接口24、输入输出接口25和通信总线26。其中，所述存储器22用于存储计算机程序，所述计算机程序由所述处理器21加载并执行，以实现前述任一实施例公开的数据传输负载均衡方法中的相关步骤。另外，本实施例中的电子设备20具体可以为电子计算机。
本实施例中，电源23用于为电子设备20上的各硬件设备提供工作电压；通信接口24能够为电子设备20创建与外界设备之间的数据传输通道，其所遵循的通信协议是能够适用于本申请技术方案的任意通信协议，在此不对其进行具体限定；输入输出接口25，用于获取外界输入数据或向外界输出数据，其具体的接口类型可以根据具体应用需要进行选取，在此不进行具体限定。
另外，存储器22作为资源存储的载体，可以是只读存储器、随机存储器、磁盘或者光盘等，其上所存储的资源可以包括操作系统221、计算机程序222等，存储方式可以是短暂存储或者永久存储。
其中，操作系统221用于管理与控制电子设备20上的各硬件设备以及计算机程序222，其可以是Windows Server、Netware、Unix、Linux等。计算机程序222除了包括能够用于完成前述任一实施例公开的由电子设备20执行的数据传输负载均衡方法的计算机程序之外，还可以进一步包括能够用于完成其他特定工作的计算机程序。
进一步的，本申请还公开了一种计算机可读存储介质，用于存储计算机程序；其中，所述计算机程序被处理器执行时实现前述公开的数据传输负载均衡方法。关于该方法的具体步骤可以参考前述实施例中公开的相应内容，在此不再进行赘述。
本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其它实施例的不同之处，各个实施例之间相同或相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
专业人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上对本发明所提供的一种数据传输负载均衡方法、装置、设备及存储介质进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种数据传输负载均衡方法，其特征在于，应用于软件定义存储系统中的主节点，包括：
获取客户端发送的针对目标数据的备份请求；
根据所述备份请求创建用于传输所述目标数据的IO请求，并从所述软件定义存储系统的所有节点中随机确定出第一备份节点；
将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至第二备份节点进行备份；所述第二备份节点为从所述软件定义存储系统中随机确定出的从节点。
2.根据权利要求1所述的数据传输负载均衡方法，其特征在于，所述从所述软件定义存储系统的所有节点中随机确定出第一备份节点，包括：
利用预设哈希算法对所述目标数据进行哈希运算，以得到相应的哈希值；
对所述哈希值进行处理以得到一个数字，并从所述软件定义存储系统的所有节点中筛选出与所述数字对应的一个节点作为第一备份节点。
3.根据权利要求1所述的数据传输负载均衡方法，其特征在于，所述从所述软件定义存储系统的所有节点中随机确定出第一备份节点，包括：
利用预设哈希算法对所述目标数据进行哈希运算，以得到相应的哈希值；
对所述哈希值进行处理以得到第一预设数量个数字，并从所述软件定义存储系统的所有节点中筛选出与所述第一预设数量个数字对应的节点，以得到相应的所述第一预设数量个节点；
从所述第一预设数量个节点中筛选任意一个节点作为第一备份节点。
4.根据权利要求3所述的数据传输负载均衡方法，其特征在于，所述将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至第二备份节点进行备份，包括：
将所述第一预设数量个节点中除所述第一备份节点外的其余节点作为所述第二备份节点；
将所述IO请求以及所述第二备份节点对应的所述数字发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至与获取到的所述数字对应的所述第二备份节点进行备份。
5.根据权利要求1所述的数据传输负载均衡方法，其特征在于，所述将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至第二备份节点进行备份，包括：
将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并利用预设哈希算法对所述目标数据进行哈希运算以得到第二预设数量个数字，从所述软件定义存储系统的所有节点中筛选出与所述第二预设数量个数字对应的节点作为第二备份节点以及将所述目标数据转发至所述第二备份节点进行备份。
6.根据权利要求5所述的数据传输负载均衡方法，其特征在于，所述将所述IO请求发送至所述第一备份节点的过程中，还包括：
将所述第二预设数量发送至所述第一备份节点，以便所述第一备份节点在对所述目标数据进行哈希运算后，基于获取到的所述第二预设数量以及所述哈希运算后得到的哈希值确定出所述第二预设数量个所述数字。
7.根据权利要求1至6任一项所述的数据传输负载均衡方法，其特征在于，还包括：
获取所述第一备份节点收集并发送的备份请求应答信息，并将所述备份请求应答信息转发至所述客户端；所述第一备份节点收集的所述备份请求应答信息包括所述第一备份节点中与所述目标数据对应的备份状态信息以及所述第二备份节点中与所述目标数据对应的备份状态信息。
8.一种数据传输负载均衡装置，其特征在于，包括：
请求获取模块，用于获取客户端发送的针对目标数据的备份请求；
节点确定模块，用于根据所述备份请求创建用于传输所述目标数据的IO请求，并从所述软件定义存储系统的所有节点中随机确定出第一备份节点；
请求发送模块，用于将所述IO请求发送至所述第一备份节点，以便所述第一备份节点对通过所述IO请求获取的所述目标数据进行备份，并将所述目标数据转发至第二备份节点进行备份；所述第二备份节点为从所述软件定义存储系统中随机确定出的从节点。
9.一种电子设备，其特征在于，包括：
存储器，用于保存计算机程序；
处理器，用于执行所述计算机程序，以实现如权利要求1至7任一项所述的数据传输负载均衡方法的步骤。
10.一种计算机可读存储介质，其特征在于，用于存储计算机程序；其中，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的数据传输负载均衡方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111400529.9A CN114138475A (zh) | 2021-11-19 | 2021-11-19 | 一种数据传输负载均衡方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111400529.9A CN114138475A (zh) | 2021-11-19 | 2021-11-19 | 一种数据传输负载均衡方法、装置、设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN114138475A true CN114138475A (zh) | 2022-03-04 |
Family
ID=80391388
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111400529.9A Pending CN114138475A (zh) | 2021-11-19 | 2021-11-19 | 一种数据传输负载均衡方法、装置、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114138475A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115103004A (zh) * | 2022-06-30 | 2022-09-23 | 浪潮电子信息产业股份有限公司 | 一种会话建立方法、装置、设备及存储介质 |
-
2021
- 2021-11-19 CN CN202111400529.9A patent/CN114138475A/zh active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115103004A (zh) * | 2022-06-30 | 2022-09-23 | 浪潮电子信息产业股份有限公司 | 一种会话建立方法、装置、设备及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN106982236B (zh) | 一种信息处理方法、装置和系统 | |
| CN106657174B (zh) | 一种数据同步方法、更新方法及装置 | |
| CN111182067B (zh) | 一种基于星际文件系统ipfs的数据写入方法及设备 | |
| US20070150492A1 (en) | Method and system for allocating file in clustered file system | |
| JP2013545166A (ja) | クラウドコンピューティングシステム及びそのデータ同期化方法 | |
| JP6582445B2 (ja) | シンクライアントシステム、接続管理装置、仮想マシン稼働装置、方法、および、プログラム | |
| CN112261135A (zh) | 基于一致性协议的节点选举方法、系统、装置及设备 | |
| CN108696581A (zh) | 分布式信息的缓存方法、装置、计算机设备以及存储介质 | |
| CN107657027B (zh) | 数据存储方法及装置 | |
| US20200412795A1 (en) | Merge trees for collaboration | |
| CN110730250A (zh) | 信息处理方法及装置、服务系统、存储介质 | |
| CN114138475A (zh) | 一种数据传输负载均衡方法、装置、设备及存储介质 | |
| CN111225003B (zh) | 一种nfs节点配置方法和装置 | |
| CN113259476B (zh) | 消息推送方法及系统 | |
| JP6432407B2 (ja) | ノード、情報処理システム、方法、および、プログラム | |
| CN109361625B (zh) | 核查转发表项的方法、装置和控制器 | |
| CN112698783A (zh) | 对象存储方法、装置及系统 | |
| JP2017167675A (ja) | 情報処理システム、情報処理方法、及びサーバ | |
| CN110661655B (zh) | 一种集群部署方法、系统、电子设备及存储介质 | |
| CN111935029B (zh) | 网关负载均衡方法和装置、存储介质及电子设备 | |
| US20230275974A1 (en) | Network functionality (nf) aware service provision based on service communication proxy (scp) | |
| CN112261097B (zh) | 用于分布式存储系统的对象定位方法及电子设备 | |
| US11381642B2 (en) | Distributed storage system suitable for sensor data | |
| CN110110004B (zh) | 一种数据操作方法、装置和存储介质 | |
| CN116015676A (zh) | Id生成方法、介质、装置和计算设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |