CN106034144A - 一种基于负载均衡的虚拟资产数据存储方法 - Google Patents

Abstract

本发明公开一种基于负载均衡的虚拟资产数据存储方法，主要包括数据初始存储征途设计、数据存储和数据重分布，数据存储后，根据系统负载情况决定是否对系统的数据进行重分布。数据重分布包括设置系统负载标准差阀值并计算当前系统负载标准差，比较前述两者的大小，进行数据重分布算法及数据读取等步骤。本发明考虑了机器性能，预测了数据所需的负载，并将相关的处理分布方法应用到了虚拟资产海量信息的存储当中，数据的迁移只发生在相邻节点之间，在计算量较小的情况下使系统能够达到动态负载均衡，适用于海量多结构虚拟资产数据管理系统中数据的存储。

Description

一种基于负载均衡的虚拟资产数据存储方法

技术领域

本发明属互联网技术领域，具体涉及一种基于负载均衡的虚拟资产数据存储方法。

背景技术

虚拟资产是指在网络世界中存在的具有竞争性、持久性以及可以交换或者买卖的物品，包括网上银行、网络帐号、网游装备武器、虚拟货币等。

目前，我国已经开展了基于eID的网域空间虚拟资产管理与保全技术研究，以实现对虚拟资产的规范统一管理。海量多结构虚拟资产数据数据量大，增长快，如何对其进行高效的分布式存储是一个需要迫切解决的问题，系统节点是否负载均衡、数据加载效率、数据查询效率等都是衡量一个分布式系统性能的重要指标。

文献2中描述的一致性hash算法是一种特殊的hash算法，当调整hash表大小时，平均只有k/n个数据需要被重新映射，其中k是数据量的大小，n是缓冲的大小。相对地，在大多数其它hash表中，缓冲数组的变化基本上导致其中所有数据都需要重新映射。

文献3中描述的分布式一致性hash算法是在一致性hash算法的基础之上增加了虚拟节点的考虑，其目的就是把hash的结果尽可能平均地分布到所有的缓冲中去，这样可以使得所有的缓冲空间都得到利用。

文献4中考虑了机器性能，唯一标识相关，平台相关的处理分布方法应用到了虚拟资产海量信息的存储当中，大大地降低了查询的时间，提高了查询效率。

然而，文献2的方法在处理数据分布式时会导致机器扩展性发生严重缺陷，当增加或者删除机器的时候，仍有多数数据需要重新映射，计算量很大。文献3的方法可以很好地减少计算量，但是它没有考虑机器之间的差异，过分地平均可能导致系统的延迟，前述两种方法都没有考虑到系统的动态负载均衡。文献4的方法可以基本满足虚拟资产的数据存储要求，但却不能解决系统运行过程中的负载均衡问题。

文献1：JiaKui Zhao,PingFei Zhu,LiangHuai,Yang.Effective Data LocalizationUsing Consistent Hashing in Cloud Time-Series Databases[J].Applied Mechanics andMaterials,2013,347:2246-2251

文献2：一致性哈希改进[EB/OL].:

http://blog.163.com/lin_guoqian@126/blog/static/1693687432012151010409/.

文献3：邓璐，贾焰，李树栋等，专利处理节点计算能力感知的虚拟资产数据划分方法。

文献4：中国专利申请公开，CN104112025A。

发明内容

针对以上问题，本发明提供一种基于负载均衡的虚拟资产数据存储方法，该方法是对文献4的扩充，适用于海量多结构虚拟资产数据管理系统中数据的存储。

本发明的技术方案如下：

一种基于负载均衡的虚拟资产数据存储方法，主要包括以下步骤：

(1)数据初始存储征途设计；

(2)数据存储；

(3)数据重分布：数据存储后，根据系统负载情况决定是否对系统的数据进行重分布。

进一步的，在步骤(1)中还包括以下步骤：

1)通过加权改进hash算法来确定新数据所属的机器节点，所述的加权改进hash算法主要包括机器间的处理和机器内部的处理。机器间的处理为在分布式一致性hash算法的基础之上，加入权值Q_i＝Q*a_i/A，其中A表示所有机器节点实际的资源总数，ai表示机器节点i资源能力，Qi表示节点机器i实际存储的数据量，Q表示总的数据量。机器内部的处理为根据划分的目的，设定数据的相关属性，在同一机器节点内存放具有相关属性的数据；将具有相同标识属性的虚拟资产数据平台邻近存放。

2)根据用户所在地这个属性来确定该数据在此机器节点内的粗略位置，

3)根据相似资产这个属性来确定该用户数据在此所在地属性中的准确存储位置，即最终位置。

进一步的，在步骤(3)中还包括以下步骤：

1)设置系统负载标准差阀值并计算当前系统负载标准差，

2)比较系统负载标准差阀值与系统负载标准差的大小，

3)系统负载标准差阀值大于系统负载标准差时，结束数据重分布算法，

4)系统负载标准差阀值小于或等于系统负载标准差时，执行数据重分布算法重新计算数据所需负载及节点位置，根据一致性hash规则和重新计算结果迁移相应数据并更新节点位置表。

其中，所述的数据重分布算法的基本描述为：

输入：Hash环；

输出：节点位置表；

1:设置系统负载标准差的阈值σ^*；

2:计算当前系统的负载标准差σ；

3:ifσ>σ^*then

4:将节点位置表中节点n的位置设为2^32-1；

5:f or每个数据对象i do

6:ifthen//r_i表示数据对象i所需资源，表示节点k的处理能力，k初始化为1；

7:将节点k在hash环上的的位置设置成为数据对象(i-1)的位置；

8:k++；

9:else

10:数据对象i迁移至节点k；

11:end if

12:end for

13:return新的节点位置表；

14:end if

15:return当前节点位置表；

进一步的，所述的步骤4)中还包括运行完数据重分布算法后的数据读取步骤，所述的数据读取步骤包括输入所需数据的key；通过hash函数计算出该数据在hash环上的位置p；查找节点位置表，将节点位置不小于p的节点存入数组connodes[]并从小到大排序；将读写命令发送至节点connodes[0]。

节点处理能力：在实际应用中影响节点负载的因素有很多，例如节点CPU，内存(RAM)，存储容量以及网络带宽等。本专利的适用场景中假设节点的负载仅与CPU，内存和存储容量相关。节点负载的具体计算方式并不是本专利的重点，因此为了简化计算，将节点处理能力l表示成与节点CPU，内存和存储容量相关的函数，如公式：

l＝f(ω_cpu，ω_RAM，ω_s)

数据所需资源：数据对象的大小，数据块的访问频率将决定其所需的资源多少，在这里遵循两条规则，1，越是经常被访问的数据块越有可能在将来被访问；2，最新加入的数据块在将来容易被访问。因此，为了简化计算，将数据块所需的资源r表示成该数据块历史访问频率与其加入数据库时间的函数，如公式：r＝g(ω_s，ω_f，ω_t)

系统负载阈值：通过各个节点负载的标准差来表示当前系统的负载均衡情况，设定一个阈值，当各个节点的负载标准差大于给定阈值时，说明此时系统负载不均衡，需要对数据进行重分布，负载标准差σ计算如下：

$\mathrm{\σ}=\sqrt{\frac{1}{n}\·\underset{i=1}{\overset{n}{\mathrm{\Σ}}}{\left(\frac{l_i-l_i^{*}}{l_i^{*}}\right)}^2}$

其中： $R=\underset{i=1}{\overset{m}{\mathrm{\Σ}}}{r}_i$

$L=\underset{i=1}{\overset{n}{\mathrm{\Σ}}}{l}_i$

$l_i^{*}=l_i\·R/L$

R表示系统所有数据所需的总资源，L表示系统所有节点的总处理能力。

节点位置表：不同于一致性hash算法，节点的位置并不是通过hash函数计算所得，而是根据数据的分配位置进行指定。系统需要维护一张节点位置表，表中包含了每个节点的唯一标识(ip)和其他hash环上的位置(0-2^32-1),如表1：

表1 节点位置表

node	position
		192.168.1.1	10245
192.168.1.122	200836
		192.168.1.105	435967
…	…
		192.168.1.224	232-1

本发明的有益效果是：与现有技术相比，本发明考虑了机器性能，预测了数据所需的负载，并将相关的处理分布方法应用到了虚拟资产海量信息的存储当中，数据的迁移只发生在相邻节点之间，在计算量较小的情况下使系统能够达到动态负载均衡。

附图说明

图1为本发明的数据重分布流程图。

图2为本发明的数据读取流程图。

图3为本发明的模拟系统A与模拟系统B的系统负载标准差对比图。

图4为本发明的模拟系统B与模拟系统C的系统负载标准差对比图。

图5为本发明的系统D节点在hash环上的分布图。

图6为本发明的硬件运行环境示意图。

具体实施方式

为了便于理解本发明，以下结合说明书附图和实施例对本发明作进一步说明。

本发明提供一种基于负载均衡的虚拟资产数据存储方法，主要包括数据初始存储征途设计、数据存储、数据重分布。数据按照文献4中所用方法进行数据初始存储征途设计、数据存储后，根据系统负载情况决定是否对系统的数据进行重分配。进行数据重分配的步骤为：

1)设置系统负载标准差阀值并计算当前系统负载标准差，

2)比较系统负载标准差阀值与系统负载标准差的大小，

3)系统负载标准差阀值大于系统负载标准差时，结束数据重分布算法，

4)系统负载标准差阀值小于或等于系统负载标准差时，执行数据重分布算法重新计算数据所需负载及节点位置，根据一致性hash规则和重新计算结果迁移相应数据并更新节点位置表。

数据重分布算法的基本描述为：

输入：Hash环。

输出：节点位置表。

1:设置系统负载标准差的阈值σ^*；

2:计算当前系统的负载标准差σ；

3:ifσ>σ^*then

4:将节点位置表中节点n的位置设为2^32-1；

5:f or每个数据对象i do

6:ifthen//r_i表示数据对象i所需资源，表示节点k的处理能力，k初始化为1；

7:将节点k在hash环上的的位置设置成为数据对象(i-1)的位置；

8:k++；

9:else

10:数据对象i迁移至节点k；

11:end if

12:end for

13:return新的节点位置表；

14:end if

15:return当前节点位置表；

在上述步骤4)中运行完数据重分配算法后，进行数据读取步骤，所述的数据读取步骤包括输入所需数据的key；通过hash函数计算出该数据在hash环上的位置p；查找节点位置表，将那些节点位置不小于p的节点存入数组connodes[]并从小到大排序；将读写命令发送至节点connodes[0]。

本发明的开发环境：Linux操作系统的X86平台，JDK1.7，采用java语言编写，数据服务器需要安装Cassandra1.0或更高版本的数据库软件，为系统提供数据支持。

本发明的运行环境：服务器端运行于安装有Linux操作系统的X86平台，JDK1.7或以上版本的多个机器节点，客户端运行于普通个人PC。

本发明的硬件信息：由多个安装有Linux操作系统和JDK 1.7以上版本的机器节点和普通个人PC组成。

以下为本发明典型的实施方式:

实施例1：

以下通过模拟实验来说明数据重分布算法的负载均衡效果。模拟实验设置三个模拟系统A,B和C，模拟系统A不采用数据重分布算法，模拟系统B和C采用，模拟系统B的负载阈值设置为0.4，模拟系统C设置为0.5。分别对三个模拟系统进行相同的操作。模拟实际情况，操作分为对数据和对节点两种，对数据的操作为随机增加或减少100～200条记录，对节点的操作为随机增加或删除1～2个节点。对节点和数据的操作穿插进行，共进行100次，两种操作数量比例为9:1。图3是模拟系统A与模拟系统B的对比，图4是模拟系统B与模拟系统C的对比，通过对比发现使用了重分布算法能够很好地均衡系统负载，不同的负载均衡阈值会有不同的效果，阈值越小，数据迁移次数越多，但是均衡效果更好。

实施例2：

为了简化计算，更清晰的说明实施方案，先做如下假设：

假设hash环上的位置取值范围为0～20；

假设系统D此时有3个节点N1,N2,N3，节点位置表如表1；

假设系统D此时有10个数据对象data1，data2，……..data10；他们在hash环上的分布如图5所示；

假设每个数据对象所需的资源r相同；

假设每个节点的处理能力l相同；

假设该系统D的负载标准差阈值设置为0.5.

表2 系统N1、N2、N3的节点位置表

node	position
		N1	10
N2	16
		N3	20

根据映射规则可知，节点存储数据对象结果如下：

表3 系统N1、N2、N3的存储结果表

node	position
		N1	data1～data6
N2	data7～data9
		N3	data10

此时节点N1存放了6个数据对象，而节点N2存放了3个，节点N3只存放了一个，由于假设可知，此时的系统D各个节点的负载极不均衡，通过公式可以计算出此时的负载均衡标准差σ，计算过程如下：

$l_1^{*}=l_2^{*}=l_3^{*}=\frac{3}{10}=0.33$

l₁＝6

l₂＝3

l₃＝1

$\mathrm{\σ}=\sqrt{\frac{1}{3}\·{\mathrm{\Σ}}_{i=1}^3{\left(\frac{l_i-l_i^{*}}{l_i^{*}}\right)}^2}=0.662$

此时的负载标注差σ大于给定的0.5，因此需要对系统D进行负载均衡。调用数据重分布算法得到新的节点位置表如下表

表4 系统N1、N2、N3的新的节点位置表

node	position
		N1	3
N2	8
		N3	20

此时数据对象与节点的映射方式如下表：

表5 系统N1、N2、N3的数据与节点映射规则表

node	position
		N1	data1～data3
N2	data4～data6
		N3	data7～data10

此时按照新的节点映射规则迁移数据即可。迁移之后各个节点的负载得到了均衡。

实施例3：

本发明的硬件运行环境由服务器端和客户端构成，服务器端运行于安装有Linux操作系统的X86平台，JDK1.7或以上版本的多个机器节点，客户端运行于普通个人PC。以5台节点服务器为例，其硬件运行环境如图6所示，具体参数如下：

服务器端：由5台节点服务器组成；

5台节点服务器配置如下：

CPU：Intel Xeon E3-1231v3，4核，3.4GHz

内存：16G

硬盘：1T*2

客户端：由普通个人PC构成。

与现有技术相比，本专利申请考虑了机器性能，预测了数据所需的负载，并将相关的处理分布方法应用到了虚拟资产海量信息的存储当中，数据的迁移只发生在相邻节点之间，在计算量较小的情况下使系统能够达到动态负载均衡。

以上是对本发明进行了示例性的描述，显然本发明的实现并不受上述方式的限制，只要采用了本发明技术方案进行的各种改进，或未经改进将本发明的构思和技术方案直接应用于其它场合的，均在本发明的保护范围内。

Claims (5)

1.一种基于负载均衡的虚拟资产数据存储方法，包括数据初始存储征途设计、数据存储、数据重分布，其特征在于，所述的数据重分布为数据存储后，根据系统负载情况决定是否对系统的数据进行重分布。

2.根据权利要求1所述的一种基于负载均衡的虚拟资产数据存储方法，其特征在于，所述的数据重分布包括以下步骤：

步骤一：设置系统负载标准差阀值并计算当前系统负载标准差；

步骤二：比较系统负载标准差阀值与系统负载标准差的大小；

步骤三：系统负载标准差阀值大于系统负载标准差，结束数据重分布算法；

步骤四：系统负载标准差阀值小于或等于系统负载标准差，执行数据重分布算法重新计算数据所需负载及节点位置，根据一致性hash规则和重新计算结果迁移相应数据并更新节点位置表。

3.根据权利要求2所述的一种基于负载均衡的虚拟资产数据存储方法，其特征在于，所述的步骤四中数据重分布算法的基本描述为：

输入：Hash环；

输出：节点位置表；

(1):设置系统负载标准差的阈值σ^*；

(2):计算当前系统的负载标准差σ；

(3):ifσ>σ^*then

(4):将节点位置表中节点n的位置设为2^32-1；

(5):for每个数据对象ido

(6):表示数据对象i所需资源，表示节点k的处理能力，k初始化为1；

(7):将节点k在hash环上的的位置设置成为数据对象(i-1)的位置；

(8):k++；

(9):else

(10):数据对象i迁移至节点k；

(11):end if

(12):end for

(13):return新的节点位置表；

(14):end if

(15):return当前节点位置表。

4.根据权利要求2、3所述的一种基于负载均衡的虚拟资产数据存储方法，其特征在于，所述的步骤四中还包括运行完数据重分布算法后的数据读取步骤。

5.根据权利要求2-4所述的一种基于负载均衡的虚拟资产数据存储方法，其特征在于，所述的步骤四中数据读取步骤还包括以下步骤：

步骤A：输入所需数据的key；

步骤B：通过hash函数计算出该数据在hash环上的位置p；

步骤C：查找节点位置表，将节点位置不小于p的节点存入数组connodes[]并从小到大排序；

步骤D：将读写命令发送至节点connodes[0]。