CN111064808B - 一种基于分布式存储系统的负载均衡方法及装置 - Google Patents

一种基于分布式存储系统的负载均衡方法及装置 Download PDF

Info

Publication number
CN111064808B
CN111064808B CN201911422849.7A CN201911422849A CN111064808B CN 111064808 B CN111064808 B CN 111064808B CN 201911422849 A CN201911422849 A CN 201911422849A CN 111064808 B CN111064808 B CN 111064808B
Authority
CN
China
Prior art keywords
data
copy
storage
load balancing
storage system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911422849.7A
Other languages
English (en)
Other versions
CN111064808A (zh
Inventor
张朝潞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Tianrongxin Innovation Technology Co ltd
Beijing Topsec Technology Co Ltd
Beijing Topsec Network Security Technology Co Ltd
Beijing Topsec Software Co Ltd
Original Assignee
Shenzhen Tianrongxin Innovation Technology Co ltd
Beijing Topsec Technology Co Ltd
Beijing Topsec Network Security Technology Co Ltd
Beijing Topsec Software Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Tianrongxin Innovation Technology Co ltd, Beijing Topsec Technology Co Ltd, Beijing Topsec Network Security Technology Co Ltd, Beijing Topsec Software Co Ltd filed Critical Shenzhen Tianrongxin Innovation Technology Co ltd
Priority to CN201911422849.7A priority Critical patent/CN111064808B/zh
Publication of CN111064808A publication Critical patent/CN111064808A/zh
Application granted granted Critical
Publication of CN111064808B publication Critical patent/CN111064808B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1008Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1097Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请实施例提供一种基于分布式存储系统的负载均衡方法及装置,涉及计算机领域,该方法包括:接收数据传输请求;当数据传输请求为数据存储请求时,获取数据存储请求包括的待存储数据;根据待存储数据和预设的节点副本映射表,确定用于负载均衡的分发策略;根据分发策略对待存储数据进行分布式存储处理。可见,实施这种实施方式,能够针对到每个数据传输请求,完成定向分发,达到负载均衡的目标,进而提升存储效率。

Description

一种基于分布式存储系统的负载均衡方法及装置
技术领域
本申请涉及计算机技术领域,具体而言,涉及一种基于分布式存储系统的负载均衡方法及装置。
背景技术
在分布式存储系统中,通常是使用多副本的形式实现数据冗余,防止物理磁盘损坏导致数据丢失。多副本使用了多倍的存储空间,存放在不同的物理机器(存储主机)和物理磁盘上。现有基于分布式存储系统的负载均衡方法,通常采用轮询算法,将请求按顺序轮流分配到每个存储副本上,均衡的对待每个存储副本。然而,在实践中发现,不同的存储副本的负载情况不同,均衡分配请求至每个存储副本,容易导致分布式存储不均衡以及存储效率低问题。
发明内容
本申请实施例的目的在于提供一种基于分布式存储系统的负载均衡方法及装置,能够针对到每个数据传输请求,完成定向分发,达到负载均衡的目标,进而提升存储效率。
本申请实施例第一方面提供了一种基于分布式存储系统的负载均衡方法,所述方法包括:
接收数据传输请求;
当所述数据传输请求为数据存储请求时,获取所述数据存储请求包括的待存储数据;
根据所述待存储数据和预设的节点副本映射表,确定用于负载均衡的分发策略;
根据所述分发策略对所述待存储数据进行分布式存储处理。
在上述实现过程中,该方法优先接收用户数发送过来的数据传输请求,并判断数据传输请求是否为数据存储请求;若数据传输请求确为数据存储请求,则在数据存储请求中获取该数据存储请求包括的待存储数据;在获取到待存储数据之后,该方法再根据待存储数据和预设的节点副本映射表来确定用于负载均衡的分发策略;以使该方法可以通过该分发策略对待存储数据进行分布式存储处理。可见,实施这种实施方式,该方法能够根据用户的指令请求来进行后续工作,以使负载均衡的方法是基于最初指令所进行的,从而提高负载均衡方法的执行准确度;同时,因为负载均衡体现在数据存储之上,而该数据存储又是基于待存储数据和负载均衡的分发策略的,可见,该种方法能够针对到每个数据传输请求来完成数据的定向分发,从而实现负载均衡的目的,进而提升存储效率。
进一步地,基于分布式存储系统的负载均衡方法还包括:
当所述数据传输请求为数据读取请求时,获取所述数据读取请求包括的读取地址信息;
根据所述读取地址信息和预设的编号计算规则,计算待读取数据的目标虚拟节点编号;
根据预设的节点副本映射表,计算与所述目标虚拟节点编号对应的目标副本编号;
在所述目标副本编号对应的存储副本中读取所述待读取数据。
在上述实现过程中,该方法还能够在数据传输请求为数据读取请求时,获取数据读取请求包括的读取地址信息;然后再根据读取地址信息和预设的编号计算规则,计算待读取数据的目标虚拟节点编号,以使该方法可以根据预设的节点副本映射表,计算出与目标虚拟节点编号对应的目标副本编号;再根据该目标副本编号查找对应的存储副本,并在该存储副本中读取待读取数据。可见,实施这种实施方式,该负载均衡方法可以在读取的过程中通过多存储副本进行存储分流,从而实现负载均衡的效果,进而提升数据读取效率。
进一步地,在所述接收数据传输请求之前,所述方法还包括:
获取初始节点副本映射表;
根据预设的负载数据收集策略,获取所述分布式存储系统的负载数据;
根据所述负载数据,计算所述分布式存储系统中每个存储副本的权重系数;
根据所述每个存储副本的权重系数对所述初始节点副本映射表进行调整,得到预设的节点副本映射表。
在上述实现过程中,该方法可以在接收数据传输请求之前,可以预先获取初始节点副本映射表;然后再根据预设的负载数据收集策略,获取分布式存储系统的负载数据;在负载数据收集完成之后,根据该负载数据可以准确地计算出分布式存储系统中每个存储副本的权重系数;以使该方法可以根据每个存储副本的权重系数对上述初始节点副本映射表进行调整,得到预设的节点副本映射表。可见,实施这种实施方式,可以在数据传输请求接收或整体负载均衡过程前,预设好节点副本映射表,以使该节点副本映射表是与当前分布式存储系统相对应的,从而提高负载均衡的针对性,进而提高负载均衡的准确程度。
进一步地,所述根据所述负载数据,计算所述分布式存储系统中每个存储副本的权重系数包括:
根据所述负载数据和预设的配置参数,计算所述分布式存储系统中每个存储副本的权重值;
根据所述每个存储副本的权重值,计算权重总值;
根据所述权重总值和所述每个存储副本的权重值,计算所述每个存储副本的权重系数。
在上述实现过程中,在计算每个存储副本的权重系数的过程中,该方法具体可以根据负载数据和预设的配置参数,优先计算出分布式存储系统中每个存储副本的权重值;然后再根据每个存储副本的权重值,计算权重总值;最后,再根据权重总值和每个存储副本的权重值,计算每个存储副本的权重系数。可见,实施这种实施方式,能够具体化权重系数的获取,以使权重系数可以根据权重总值进行均衡计算而得到,从而具体化了权重系数的获取方式,进而可以通过准确的权重系数来提高分布式存储系统中负载均衡的效果。
进一步地,所述负载数据包括每个存储副本对应磁盘的输入输出延迟数据、所述每个存储副本对应磁盘的读写性能均值、所述每个存储副本所在主机设备的中央处理器使用率以及所述每个存储副本所在主机设备的内存使用率。
在上述实现过程中,负载数据可以通过其包括的输入输出延迟数据、读写性能均值、中央处理器使用率以及内存使用率来综合判定每个存储副本对应的磁盘、中央处理器以及内存的使用情况,从而可以使得权重的计算是会根据上述多方面的数据具体计算得到的,进而使得权重系数具有更高的针对性与准确性,以保证分布式存储系统中负载均衡的有效性和准确性。
进一步地,所述根据所述负载数据和预设的配置参数,计算所述分布式存储系统中每个存储副本的权重值的步骤中,计算其中一个存储副本的权重值的计算公式为:
Weight=k*(1/Delay)+m*(1-CPU)+n*(1-Mem)+x*(1/IOPS)+w;
其中,k、m、n、x和w均为所述配置参数;
Weight用于表示该存储副本的权重值;
Delay用于表示该存储副本对应磁盘的输入输出延迟数据;
IOPS用于表示该存储副本对应磁盘的读写性能均值;
CPU用于表示该存储副本所在主机设备的中央处理器使用率;
Mem用于表示该存储副本所在主机设备的内存使用率。
在上述实现过程中,该方法可以通过预设的计算公式计算每个存储副本的权重值,以使每个副本的权重值可以数值化,便于对存储式分布系统进行负载均衡,从而提高负载均衡过程的稳定性,提高负载均衡的效率与效果。
本申请实施例第二方面提供了一种分布式存储系统中负载均衡装置,所述分布式存储系统中负载均衡装置包括:
接收单元,用于接收数据传输请求;
获取单元,用于当所述数据传输请求为数据存储请求时,获取所述数据存储请求包括的待存储数据;
确定单元,用于根据所述待存储数据和预设的节点副本映射表,确定用于负载均衡的分发策略;
写入处理单元,用于根据所述分发策略对所述待存储数据进行分布式存储处理。
在上述实现过程中,该负载均衡装置包括接收单元、获取单元、确定单元以及写入处理单元,其中,该些单元可以在负载均衡装置中执行接收数据传输请求、在数据传输请求为数据存储请求时,获取数据存储请求包括的待存储数据、根据待存储数据和预设的节点副本映射表,确定用于负载均衡的分发策略、根据分发策略对待存储数据进行分布式存储处理的操作。可见,实施这种实施方式,该负载均衡装置能够通过多个单元的协同工作实现更高精度、更高效率的负载均衡过程,从而保证该分布存储系统中负载均衡的效率与准确程度。
进一步地,所述获取单元,还用于当所述数据传输请求为数据读取请求时,获取所述数据读取请求包括的读取地址信息;
所述分布式存储系统中负载均衡装置还包括:
计算单元,用于根据所述读取地址信息和预设的编号计算规则,计算待读取数据的目标虚拟节点编号;以及根据预设的节点副本映射表,计算与所述目标虚拟节点编号对应的目标副本编号;
读取处理单元,用于在所述目标副本编号对应的存储副本中读取所述待读取数据。
在上述实现过程中,该分布式存储系统中负载均衡装置还可以通过获取单元来获取数据读取请求,以使计算单元、读取处理单元来进行数据的读取操作。可见,实施这种实施方式,可以使得该负载均衡能力适用于数据存储与数据读取的两种情形下,从而提高了该负载均衡装置的泛用性,提高了该负载均衡装置的应用能力。
本申请实施例第三方面提供了一种电子设备,包括存储器以及处理器,所述存储器用于存储计算机程序,所述处理器运行所述计算机程序以使所述电子设备执行本申请实施例第一方面中任一项所述的基于分布式存储系统的负载均衡方法。
本申请实施例第四方面提供了一种计算机可读存储介质,其存储有计算机程序指令,所述计算机程序指令被一处理器读取并运行时,执行本申请实施例第一方面中任一项所述的基于分布式存储系统的负载均衡方法。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1为本申请实施例提供的一种基于分布式存储系统的负载均衡方法的流程示意图;
图2为本申请实施例提供的另一种基于分布式存储系统的负载均衡方法的流程示意图;
图3为本申请实施例提供的一种分布式存储系统中负载均衡装置的结构示意图;
图4为本申请实施例提供的另一种分布式存储系统中负载均衡装置的结构示意图;
图5为本申请实施例提供的一种分布式存储系统的系统结构示意图;
图6为本申请实施例提供的一种处理模块举例示意图;
图7为本申请实施例提供的一种数据通信协议图;
图8为本申请实施例提供的一种多副本权重承载效果图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行描述。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本申请的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
实施例1
请参看图1,图1为本申请实施例提供了一种基于分布式存储系统的负载均衡方法的流程示意图。该方法可以应用于众多的数据存储或数据读取场景当中,以使该方法能够在一定的条件下对当前读取的目标节点的数据进行收集,由IO导向模块对数据进行分析判断,选择最合适的副本进行读取,达到负载均衡的目的。其中,该基于分布式存储系统的负载均衡方法包括:
S101、接收数据传输请求。
本实施例中,数据传输请求可以包括数据存储请求和数据读取请求,对此本实施例中不作任何限定。
在本实施例中,对于接收方式不作任何限定。
S102、当数据传输请求为数据存储请求时,获取数据存储请求包括的待存储数据。
本实施例中,数据存储请求中包括待存储数据。
在本实施例中,可以将数据存储请求划分为两部分,一部分为数据存储的请求,一部分为数据本身;其中上述请求用于请求数据存储权限,而数据本身是数据存储的本体。
S103、根据待存储数据和预设的节点副本映射表,确定用于负载均衡的分发策略。
本实施例中,节点副本映射表是预设好的,对此本实施例中不作任何限定。
本实施例中,分发策略用于负载均衡。
S104、根据分发策略对待存储数据进行分布式存储处理。
本实施例中,该方法可以通过通信协议携带监控数据的方案,来解决传统轮询类算法中具有的问题,从而使得该方法能够针对到每个IO接口来完成定向转发;同时,又因为监控数据是在协议中的,所以,该方法还能够对负载均衡的权重进行实时调整。
实施这种实施方式,在具体应用中能够通过通信协议收集副本所在主机和磁盘的负载数据,能有效减少系统开销;另外,采用虚拟节点方式建立虚拟节点与真实副本的映射表,将IO负载分散到虚拟节点上,通过映射表定位到真实副本,能有效解决IO均匀分布和副本异常时,能够通过改动映射表,将异常副本移出负载均衡后端。
本实施例中,该方法的执行主体可以为计算机、服务器等计算装置,对此本实施例中不作任何限定。
在本实施例中,该方法的执行主体还可以为智能手机和平板等智能设备,对此本实施例中不作任何限定。
可见,实施图1所描述的基于分布式存储系统的负载均衡方法,能够优先接收用户数发送过来的数据传输请求,并判断数据传输请求是否为数据存储请求;若数据传输请求确为数据存储请求,则在数据存储请求中获取该数据存储请求包括的待存储数据;在获取到待存储数据之后,该方法再根据待存储数据和预设的节点副本映射表来确定用于负载均衡的分发策略;以使该方法可以通过该分发策略对待存储数据进行分布式存储处理。可见,实施这种实施方式,该方法能够根据用户的指令请求来进行后续工作,以使负载均衡的方法是基于最初指令所进行的,从而提高负载均衡方法的执行准确度;同时,因为负载均衡体现在数据存储之上,而该数据存储又是基于待存储数据和负载均衡的分发策略的,可见,该种方法能够针对到每个数据传输请求来完成数据的定向分发,从而实现负载均衡的目的,进而提升存储效率。
实施例2
请参看图2,图2为本申请实施例提供的另一种基于分布式存储系统的负载均衡方法的流程示意图。图2所描述的基于分布式存储系统的负载均衡方法的流程示意图是根据图1所描述的基于分布式存储系统的负载均衡方法的流程示意图进行改进得到的。其中,该基于分布式存储系统的负载均衡方法包括:
S201、获取初始节点副本映射表。
本实施例中,初始节点副本映射表为最初的节点副本映射表,该节点副本映射表为已有或预设的,对此本实施例中不再多加赘述。
S202、根据预设的负载数据收集策略,获取分布式存储系统的负载数据。
本实施例中,负载数据包括每个存储副本对应磁盘的输入输出延迟数据、每个存储副本对应磁盘的读写性能均值、每个存储副本所在主机设备的中央处理器使用率以及每个存储副本所在主机设备的内存使用率。
S203、根据负载数据和预设的配置参数,计算分布式存储系统中每个存储副本的权重值。
本实施例中,每个存储副本具有对应的一个权重值。
S204、根据每个存储副本的权重值,计算权重总值。
本实施例中,所有权重值的综合为权重总值。
S205、根据权重总值和每个存储副本的权重值,计算每个存储副本的权重系数。
作为一种可选的实施方式,根据负载数据和预设的配置参数,计算分布式存储系统中每个存储副本的权重值的步骤中,计算其中一个存储副本的权重值的计算公式为:
Weight=k*(1/Delay)+m*(1-CPU)+n*(1-Mem)+x*(1/IOPS)+w;
其中,k、m、n、x和w均为配置参数;
Weight用于表示该存储副本的权重值;
Delay用于表示该存储副本对应磁盘的输入输出延迟数据;
IOPS用于表示该存储副本对应磁盘的读写性能均值;
CPU用于表示该存储副本所在主机设备的中央处理器使用率;
Mem用于表示该存储副本所在主机设备的内存使用率。
本实施例中,步骤S203~S205可以合并为根据负载数据,计算分布式存储系统中每个存储副本的权重系数的步骤。
S206、根据每个存储副本的权重系数对初始节点副本映射表进行调整,得到预设的节点副本映射表。
本实施例中,节点副本映射表根据负载情况进行更新,得到预设的节点副本映射表。
S207、接收数据传输请求。
本实施例中,本实施例中,数据传输请求可以包括数据存储请求和数据读取请求,对此本实施例中不作任何限定。
在本实施例中,对于接收方式不作任何限定。
S208、当数据传输请求为数据存储请求时,获取数据存储请求包括的待存储数据。
本实施例中,数据存储请求中包括待存储数据。
在本实施例中,可以将数据存储请求划分为两部分,一部分为数据存储的请求,一部分为数据本身;其中上述请求用于请求数据存储权限,而数据本身是数据存储的本体。
S209、根据待存储数据和预设的节点副本映射表,确定用于负载均衡的分发策略。
本实施例中,节点副本映射表是预设好的,对此本实施例中不作任何限定。
本实施例中,分发策略用于负载均衡。
S210、根据分发策略对待存储数据进行分布式存储处理。
作为一种可选的实施方式,该方法还包括:
当数据传输请求为数据读取请求时,获取数据读取请求包括的读取地址信息;
根据读取地址信息和预设的编号计算规则,计算待读取数据的目标虚拟节点编号;
根据预设的节点副本映射表,计算与目标虚拟节点编号对应的目标副本编号;
在目标副本编号对应的存储副本中读取待读取数据。
实施这种实施方式,该负载均衡方法可以在读取的过程中通过多存储副本进行存储分流,从而实现负载均衡的效果,进而提升数据读取效率。
举例来说,负载数据收集策略可以包括:每20000个请求会插入一个颜色标记的负载数据收集请求(称为定量);每30秒内如果没有颜色标记的请求,插入一个颜色标记请求(称为定时)。基于定时定量的收集策略,用于收集和分析负载数据的系统开销可以忽略不计。
本实施例中,对于负载数据分析的过程来说,为了避免短暂峰值导致IO向导误判,使用两个颜色标记的请求值的增量也作为分析数据之一。
举例来说,假如参数数据分析有3组数据:最近收集的两次数据与这两次数据的增量。单副本的权重计算公式如下:
Weight=k*(1/Delay)+m*(1-CPU)+n*(1-Mem)+x*(1/IOPS)+w
其中k,m,n,x,w为可配置参数,根据具体的环境设置合适的值;根据多个副本不同的数据,可算出不同权重值w0,w1,w2,...,wn;每个副本的权重系数为:
Kwx=wx/(w0+w1+w2+...+wn)
可见,通过可配置的定时定量的数据收集策略,将负载数据通过通信协议携带,能使负载均衡逻辑更快生效,均衡效果更加明显。
本实施例中,通过图5-图7进行举例说明,其中,如图5所示,图5为本实施例所提供的一种的分布式存储系统的结构示意图图。该系统则可以包括应用主机和存储主机。该应用主机用于生成虚拟磁盘,接收并转发IO,本发明在应用主机上的虚拟磁盘IO导向模块上完成数据收集、分析与均衡发送;该存储主机用于分布式存储系统副本数据最终的存放地点;至于副本则是对应指代完整的数据副本。
在本实施例中,在存储数据的过程中,可以参照图6进行理解,其中,图6是本实施例中提供的一种处理流程示意图,包含多个模块:接收与响应数据模块(IO Receiver);共享内存队列(Shm Queue),临时存放IO请求,完成IO拆分与合并,IOPS限流等特性;后端连接管理(IO Handler),用与模型抽象;IO导向模块(IO Nav),实时系统负载数据收集,分析与完成IO分发,驱使负载均衡。在这其中,应用数据通过IO Receiver接收后,存放到共享内存队列,对缓存的IO进行调度与合并,由IO Nav向导模块根据历史的负载数据计算分析得出IO具体的分发策略。
在本实施例中,图7所示的内容为本实施例所使用的数据通信协议,该数据通信协议是实现多副本自感知的基础。其中,字段详情释义如下:
PType:请求类型:比如Read,Write,XCopy,Unmap,WriteSame;
PFlag:请求标志,涉及本发明的标志位是C:表示颜色标记,设置该标志位的会通过该请求的响应包,将图3的灰色字段的内容返回;
Delay:当前请求副本所在的磁盘当前的IO延迟;
CPU:当前请求副本所在的主机的CPU使用率;
Mem:当前请求副本所在的主机的内存使用率;
IOPS:当前请求副本所在的磁盘的近一段时间的IOPS均值。
本实施例中,在读数据的时候可以参照图8所示内容,其中,每个vnode代表4MB的地址空间,比如vnode0代表地址空间[0,4M];在遍历所有vnode时,通过权重系数即可计算出当前vnode由哪个副本承载(进行关联),最终构成映射表;其中,vnode并不需要真实存在,vnode的计算方式由读请求位置Offset决定;当vnode id=Offset>>22(2的22次方为4M)时,再查询映射表便可知需要读取的副本id。
可见,实施这种实施方式,多副本IO的一种负载均衡方案,可以采用存储通信协议携带监控数据,为了IO负载均衡和节点容错,可以采用虚拟节点的映射方式,并通过简单的计算完成高效的负载均衡策略。
可见,实施图2所描述的基于分布式存储系统的负载均衡方法,能够优先接收用户数发送过来的数据传输请求,并判断数据传输请求是否为数据存储请求;若数据传输请求确为数据存储请求,则在数据存储请求中获取该数据存储请求包括的待存储数据;在获取到待存储数据之后,该方法再根据待存储数据和预设的节点副本映射表来确定用于负载均衡的分发策略;以使该方法可以通过该分发策略对待存储数据进行分布式存储处理。可见,实施这种实施方式,该方法能够根据用户的指令请求来进行后续工作,以使负载均衡的方法是基于最初指令所进行的,从而提高负载均衡方法的执行准确度;同时,因为负载均衡体现在数据存储之上,而该数据存储又是基于待存储数据和负载均衡的分发策略的,可见,该种方法能够针对到每个数据传输请求来完成数据的定向分发,从而实现负载均衡的目的,进而提升存储效率。
实施例3
请参看图3,图3为本申请实施例提供的一种分布式存储系统中负载均衡装置的结构示意图。其中,该分布式存储系统中负载均衡装置包括:
接收单元310,用于接收数据传输请求;
获取单元320,用于当数据传输请求为数据存储请求时,获取数据存储请求包括的待存储数据;
确定单元330,用于根据待存储数据和预设的节点副本映射表,确定用于负载均衡的分发策略;
写入处理单元340,用于根据分发策略对待存储数据进行分布式存储处理。
本实施例中,对于分布式存储系统中负载均衡装置的解释说明可以参照实施例1或实施例2中的描述,对此本实施例中不再多加赘述。
可见,实施图3所描述的分布式存储系统中负载均衡装置,能够在负载均衡装置中执行接收数据传输请求、在数据传输请求为数据存储请求时,获取数据存储请求包括的待存储数据、根据待存储数据和预设的节点副本映射表,确定用于负载均衡的分发策略、根据分发策略对待存储数据进行分布式存储处理的操作。可见,实施这种实施方式,该负载均衡装置能够通过多个单元的协同工作实现更高精度、更高效率的负载均衡过程,从而保证该分布存储系统中负载均衡的效率与准确程度。
实施例4
请参看图4,图4为本申请实施例提供的另一种分布式存储系统中负载均衡装置的结构示意图。图4所描述的分布式存储系统中负载均衡装置的结构示意图是根据图3所描述的分布式存储系统中负载均衡装置的结构示意图进行改进得到的。其中,获取单元320,还用于当数据传输请求为数据读取请求时,获取数据读取请求包括的读取地址信息;
分布式存储系统中负载均衡装置还包括:
计算单元350,用于根据读取地址信息和预设的编号计算规则,计算待读取数据的目标虚拟节点编号;以及根据预设的节点副本映射表,计算与目标虚拟节点编号对应的目标副本编号;
读取处理单元360,用于在目标副本编号对应的存储副本中读取待读取数据。
作为一种可选的实施方式,分布式存储系统中负载均衡装置还包括:
获取单元320,还用于获取初始节点副本映射表;
获取单元320,还用于根据预设的负载数据收集策略,获取分布式存储系统的负载数据;
计算单元350,还用于根据负载数据,计算分布式存储系统中每个存储副本的权重系数;
调整单元370,用于根据每个存储副本的权重系数对初始节点副本映射表进行调整,得到预设的节点副本映射表;该预设的节点副本映射表用于确定单元330中。
作为一种可选的实施方式,计算单元350具体用于根据负载数据和预设的配置参数,计算分布式存储系统中每个存储副本的权重值;根据每个存储副本的权重值,计算权重总值;根据权重总值和每个存储副本的权重值,计算每个存储副本的权重系数。
作为一种可选的实施方式,负载数据包括每个存储副本对应磁盘的输入输出延迟数据、每个存储副本对应磁盘的读写性能均值、每个存储副本所在主机设备的中央处理器使用率以及每个存储副本所在主机设备的内存使用率
作为一种可选的实施方式,计算单元350在计算其中一个存储副本的权重值所使用的计算公式为:
Weight=k*(1/Delay)+m*(1-CPU)+n*(1-Mem)+x*(1/IOPS)+w;
其中,k、m、n、x和w均为配置参数;
Weight用于表示该存储副本的权重值;
Delay用于表示该存储副本对应磁盘的输入输出延迟数据;
IOPS用于表示该存储副本对应磁盘的读写性能均值;
CPU用于表示该存储副本所在主机设备的中央处理器使用率;
Mem用于表示该存储副本所在主机设备的内存使用率。
本实施例中,对于分布式存储系统中负载均衡装置的解释说明可以参照实施例1或实施例2中的描述,对此本实施例中不再多加赘述。
可见,实施图4所描述的分布式存储系统中负载均衡装置,能够在负载均衡装置中执行接收数据传输请求、在数据传输请求为数据存储请求时,获取数据存储请求包括的待存储数据、根据待存储数据和预设的节点副本映射表,确定用于负载均衡的分发策略、根据分发策略对待存储数据进行分布式存储处理的操作。可见,实施这种实施方式,该负载均衡装置能够通过多个单元的协同工作实现更高精度、更高效率的负载均衡过程,从而保证该分布存储系统中负载均衡的效率与准确程度。
本申请实施例提供了一种电子设备,包括存储器以及处理器,存储器用于存储计算机程序,处理器运行计算机程序以使电子设备执行本申请实施例1或实施例2中任一项基于分布式存储系统的负载均衡方法。
本申请实施例提供了一种计算机可读存储介质,其存储有计算机程序指令,计算机程序指令被一处理器读取并运行时,执行本申请实施例1或实施例2中任一项基于分布式存储系统的负载均衡方法。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
另外,在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本申请的实施例而已,并不用于限制本申请的保护范围,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应所述以权利要求的保护范围为准。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

Claims (9)

1.一种基于分布式存储系统的负载均衡方法,其特征在于,所述方法包括:
获取初始节点副本映射表;
根据预设的负载数据收集策略,获取所述分布式存储系统的负载数据;
根据所述负载数据,计算所述分布式存储系统中每个存储副本的权重系数;
根据所述每个存储副本的权重系数对所述初始节点副本映射表进行调整,得到预设的节点副本映射表;
接收数据传输请求;
当所述数据传输请求为数据存储请求时,获取所述数据存储请求包括的待存储数据;
根据所述待存储数据和预设的所述节点副本映射表,确定用于负载均衡的分发策略;其中,所述负载数据是通过通信协议收集得到的;
根据所述分发策略对所述待存储数据进行分布式存储处理。
2.根据权利要求1所述的基于分布式存储系统的负载均衡方法,其特征在于,所述方法还包括:
当所述数据传输请求为数据读取请求时,获取所述数据读取请求包括的读取地址信息;
根据所述读取地址信息和预设的编号计算规则,计算待读取数据的目标虚拟节点编号;
根据预设的节点副本映射表,计算与所述目标虚拟节点编号对应的目标副本编号;
在所述目标副本编号对应的存储副本中读取所述待读取数据。
3.根据权利要求1所述的基于分布式存储系统的负载均衡方法,其特征在于,所述根据所述负载数据,计算所述分布式存储系统中每个存储副本的权重系数包括:
根据所述负载数据和预设的配置参数,计算所述分布式存储系统中每个存储副本的权重值;
根据所述每个存储副本的权重值,计算权重总值;
根据所述权重总值和所述每个存储副本的权重值,计算所述每个存储副本的权重系数。
4.根据权利要求3所述的基于分布式存储系统的负载均衡方法,其特征在于,所述负载数据包括每个存储副本对应磁盘的输入输出延迟数据、所述每个存储副本对应磁盘的读写性能均值、所述每个存储副本所在主机设备的中央处理器使用率以及所述每个存储副本所在主机设备的内存使用率。
5.根据权利要求4所述的基于分布式存储系统的负载均衡方法,其特征在于,所述根据所述负载数据和预设的配置参数,计算所述分布式存储系统中每个存储副本的权重值的步骤中,计算其中一个存储副本的权重值的计算公式为:
Weight=k*(1/Delay)+m*(1-CPU)+n*(1-Mem)+x*(1/IOPS)+w;
其中,k、m、n、x和w均为所述配置参数;
Weight用于表示该存储副本的权重值;
Delay用于表示该存储副本对应磁盘的输入输出延迟数据;
IOPS用于表示该存储副本对应磁盘的读写性能均值;
CPU用于表示该存储副本所在主机设备的中央处理器使用率;
Mem用于表示该存储副本所在主机设备的内存使用率。
6.一种分布式存储系统中负载均衡装置,其特征在于,所述分布式存储系统中负载均衡装置包括:
获取单元,用于获取初始节点副本映射表;
所述获取单元,还用于根据预设的负载数据收集策略,获取分布式存储系统的负载数据;
计算单元,用于根据负载数据,计算分布式存储系统中每个存储副本的权重系数;
调整单元,用于根据每个存储副本的权重系数对初始节点副本映射表进行调整,得到预设的节点副本映射表;
接收单元,用于接收数据传输请求;
所述获取单元,还用于当所述数据传输请求为数据存储请求时,获取所述数据存储请求包括的待存储数据;
确定单元,用于根据所述待存储数据和预设的节点副本映射表,确定用于负载均衡的分发策略;其中,所述负载数据是通过通信协议收集得到的;
写入处理单元,用于根据所述分发策略对所述待存储数据进行分布式存储处理。
7.根据权利要求6所述的分布式存储系统中负载均衡装置,其特征在于,所述获取单元,还用于当所述数据传输请求为数据读取请求时,获取所述数据读取请求包括的读取地址信息;
所述计算单元,还用于根据所述读取地址信息和预设的编号计算规则,计算待读取数据的目标虚拟节点编号;以及根据预设的节点副本映射表,计算与所述目标虚拟节点编号对应的目标副本编号;
所述分布式存储系统中负载均衡装置还包括:
读取处理单元,用于在所述目标副本编号对应的存储副本中读取所述待读取数据。
8.一种电子设备,其特征在于,所述电子设备包括存储器以及处理器,所述存储器用于存储计算机程序,所述处理器运行所述计算机程序以使所述电子设备执行权利要求1至5中任一项所述的基于分布式存储系统的 负载均衡方法。
9.一种可读存储介质,其特征在于,所述可读存储介质中存储有计算机程序指令,所述计算机程序指令被一处理器读取并运行时,执行权利要求1至5任一项所述的基于分布式存储系统的 负载均衡方法。
CN201911422849.7A 2019-12-30 2019-12-30 一种基于分布式存储系统的负载均衡方法及装置 Active CN111064808B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911422849.7A CN111064808B (zh) 2019-12-30 2019-12-30 一种基于分布式存储系统的负载均衡方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911422849.7A CN111064808B (zh) 2019-12-30 2019-12-30 一种基于分布式存储系统的负载均衡方法及装置

Publications (2)

Publication Number Publication Date
CN111064808A CN111064808A (zh) 2020-04-24
CN111064808B true CN111064808B (zh) 2022-10-21

Family

ID=70306123

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911422849.7A Active CN111064808B (zh) 2019-12-30 2019-12-30 一种基于分布式存储系统的负载均衡方法及装置

Country Status (1)

Country Link
CN (1) CN111064808B (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111611228B (zh) * 2020-05-27 2024-03-08 北京明略昭辉科技有限公司 一种基于分布式数据库的负载均衡调整方法及装置
CN111897679A (zh) * 2020-07-29 2020-11-06 北京天融信网络安全技术有限公司 一种数据复制方法及装置
CN111930516B (zh) * 2020-09-17 2021-02-09 腾讯科技(深圳)有限公司 一种负载均衡方法及相关装置
CN112307064A (zh) * 2020-10-29 2021-02-02 上海达梦数据库有限公司 一种数据管理系统、方法及存储介质
CN112783445A (zh) * 2020-11-17 2021-05-11 北京旷视科技有限公司 数据存储方法、装置、系统、电子设备及可读存储介质
CN114138475B (zh) * 2021-11-19 2024-09-06 郑州云海信息技术有限公司 一种数据传输负载均衡方法、装置、设备及存储介质
CN115202591B (zh) * 2022-09-16 2022-11-18 厦门大学 一种分布式数据库系统的存储装置、方法及存储介质
CN115904261A (zh) * 2023-03-09 2023-04-04 浪潮电子信息产业股份有限公司 一种缓存倾斜抑制方法、装置、设备及存储介质
CN116737380B (zh) * 2023-06-16 2024-02-09 深圳市青葡萄科技有限公司 一种分布式存储器均衡存储方法、装置、设备及存储介质
CN117149097B (zh) * 2023-10-31 2024-02-06 苏州元脑智能科技有限公司 一种分布式存储系统数据访问控制方法及装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102629934B (zh) * 2012-02-28 2015-07-08 北京搜狐新媒体信息技术有限公司 基于分布式存储系统的数据存储方法及装置
US10637923B2 (en) * 2016-05-25 2020-04-28 Cisco Technology, Inc. Congestion aware load balancing for distributed storage
CN106445411A (zh) * 2016-09-13 2017-02-22 乐视控股(北京)有限公司 一种数据读取方法、装置及分布式存储系统
CN106487936A (zh) * 2016-12-29 2017-03-08 深圳市优必选科技有限公司 数据传输方法及设备、分布式存储系统
CN107273187A (zh) * 2017-06-29 2017-10-20 深信服科技股份有限公司 读取位置获取方法及装置、计算机装置、可读存储介质
CN110445822B (zh) * 2018-05-03 2021-11-30 中移(苏州)软件技术有限公司 一种对象存储方法及装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
"Multi-objective Optimal Strategy for the Coordination Control between Distributed Energy Storage System and Flexible Load";FEI Juntao del;《2019 IEEE Innovative Smart Grid Technologies - Asia (ISGT Asia)》;20191024;全文 *
"负载感知的基于对象存储的分布式混合存储系统";杜振伟;《中国优秀硕士学位论文全文数据库 信息科技辑》;20190831;全文 *

Also Published As

Publication number Publication date
CN111064808A (zh) 2020-04-24

Similar Documents

Publication Publication Date Title
CN111064808B (zh) 一种基于分布式存储系统的负载均衡方法及装置
CN108833458B (zh) 一种应用推荐方法、装置、介质及设备
CN103067297B (zh) 一种基于资源消耗预测的动态负载均衡方法及装置
US9864749B2 (en) Methods for provisioning workloads in a storage system using machine learning and devices thereof
CN108089814B (zh) 一种数据存储方法及装置
JP2012503257A5 (zh)
EP2770446A1 (en) Data processing method and device
US9477618B2 (en) Information processing device, information processing system, storage medium storing program for controlling information processing device, and method for controlling information processing device
WO2018113317A1 (zh) 数据的迁移方法、装置和系统
EP2494436A1 (en) Allocating storage memory based on future use estimates
CN110704336B (zh) 一种数据缓存方法及装置
US20130151482A1 (en) De-duplication for a global coherent de-duplication repository
JP2014032674A (ja) 仮想マシンのリソース配置システム及びその方法
WO2018068714A1 (zh) 重删处理方法及存储设备
CN102063330A (zh) 一种大规模并行程序性能数据采集方法
WO2020093714A1 (zh) 一种数据处理方法、装置、设备及可读存储介质
CN109597800B (zh) 一种日志分发方法及装置
CN112328688B (zh) 数据存储方法、装置、计算机设备及存储介质
CN109587072A (zh) 分布式系统全局限速系统及方法
GB2581938A (en) Configuration state registers grouped based on functional affinity
CN109783443A (zh) 一种分布式存储系统中海量数据的冷热判断方法
CN104516822A (zh) 一种内存访问方法和设备
CN109582649A (zh) 一种元数据存储方法、装置、设备及可读存储介质
CN110222046B (zh) 列表数据的处理方法、装置、服务器和存储介质
KR20220059783A (ko) 클라우드 성능 테스트 장치 및 방법

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20221008

Address after: 518049 1301-1304, 13/F, Cuilin Building, No. 10, Kaifeng Road, Maling Community, Meilin Street, Futian District, Shenzhen, Guangdong

Applicant after: Shenzhen Tianrongxin Innovation Technology Co.,Ltd.

Applicant after: Beijing Topsec Network Security Technology Co.,Ltd.

Applicant after: Topsec Technologies Inc.

Applicant after: BEIJING TOPSEC SOFTWARE Co.,Ltd.

Address before: 100000 4th floor, building 3, yard 1, Shangdi East Road, Haidian District, Beijing

Applicant before: Beijing Topsec Network Security Technology Co.,Ltd.

Applicant before: Topsec Technologies Inc.

Applicant before: BEIJING TOPSEC SOFTWARE Co.,Ltd.

GR01 Patent grant
GR01 Patent grant