CN105589660B - 一种数据分布方法及装置 - Google Patents

Abstract

本发明提供一种数据分布方法及装置，该方法包括：确定虚拟机对应的卷中各数据块对应的存储组件序列；根据数据块的位置信息以及对应的存储组件序列中各存储组件的位置信息，调整各存储组件在存储组件序列中的顺序，将与数据块的位置最接近的存储组件作为数据块对应的主副本所在的存储组件。应用本发明实施例提高了虚拟机的数据的主副本在本地的概率，进而可以提高数据读写的性能，减少数据读写过程中网络资源浪费。

Description

一种数据分布方法及装置

技术领域

本发明涉及网络通信技术领域，尤其涉及一种数据分布方法及装置。

背景技术

在传统的虚拟化架构中，存储与计算分离，扩展性受到存储限制，极大阻碍企业业务发展。而在超融合基础架构中，存储与计算融合，每个hypervisor(一种运行在物理服务器和操作系统之间的中间软件层)主机拥有本地存储，使用分布式存储软件将存储资源池化后形成共享存储池。

超融合基础架构的核心是存储的融合，存储的融合由分布式存储软件实现，其中数据分布算法关系着分布式存储系统最终的可管理性，可扩展性以及可用性，是最关键的组成部分。

然而实践发现，基于现有超融合基础架构中的数据分布方式，虚拟机的数据的主副本在本地的概率通常不超过50％，从而导致数据读写性能较差。

发明内容

本发明提供一种数据分布方法及装置，以解决现有超融合基础架构的数据分布方式中虚拟机的数据的主副本在本地的概率较低的问题。

根据本发明实施例的第一方面，提供一种数据分布方法，包括：

确定虚拟机对应的卷中各数据块对应的存储组件序列；

根据数据块的位置信息以及对应的存储组件序列中各存储组件的位置信息，调整各存储组件在存储组件序列中的顺序，将与数据块的位置最接近的存储组件作为数据块对应的主副本所在存储组件。

根据本发明实施例的第二方面，提供一种数据分布装置，包括：

确定单元，用于确定虚拟机对应的卷中各数据块对应的存储组件序列；

调整单元，用于根据数据块的位置信息以及对应的存储组件序列中各存储组件的位置信息，调整各存储组件在存储组件序列中的顺序，将与数据块的位置最接近的存储组件作为数据块对应的主副本所在的存储组件。

应用本发明实施例，在确定虚拟机对应的卷中各数据块对应的存储组件序列之后，通过根据数据块的位置信息以及对应的存储组件序列中各存储组件的位置信息，调整各存储组件在存储组件序列中的顺序，将与各数据块的位置最接近的存储组件作为各数据块对应的主副本所在的存储组件，提高了虚拟机的数据的主副本在本地的概率，进而可以提高数据读写的性能，减少数据读写过程中网络资源浪费。

附图说明

图1是一种超融合基础架构的示意图；

图2是本发明实施例提供的一种数据分布方法的流程示意图；

图3是本发明实施例提供的一种数据读取方法的流程示意图；

图4是本发明实施例提供的一种数据分布装置的结构示意图；

图5是本发明实施例提供的数据分布装置所在设备的一种硬件结构图。

具体实施方式

为了使本领域技术人员更好地理解本发明实施例提供的技术方案，下面对超融合基础架构中较常用的数据分布方式进行简单说明。

目前，超融合基础架构中较常用的一种数据分布方式如下：(以图1所示场景中vm1为例)：

1、vm(Virtual Machine，虚拟机)1对应的卷实际被分割为n个固定大小数据块，每个数据块编号为：

固定前缀.卷编号(十六进制).序号(十六进制)；

比如rbd.vm1-1.0～rbd.vm1-1.n，后续称为OID(Object Identification，对象标识)。

2、对OID进行hash(散列)，得到GID(Group Identification，组标识)，GID范围为(0～m)，其中m约为集群中实际磁盘数量的100倍，并且应该是2的整数次幂。

3、使用GID计算出本组对象应该存放在那些存储组件(storage)中，例如，在三副本情况下，每个对象都可以得到一个存储组件序列，序列式完全均匀随机的：

rbd.vm1-1.0-->GID-->{storage1,storage2,storage3}

rbd.vm1-1.1-->GID-->{storage3,storage1,storage2}

……

rbd.vm1-1.n-->GID-->{storage2,storage3,storage1}

其中第一个为主副本所在存储组件，剩余的为副副本，平均情况下只有三分之一的主副本在本地。

4、数据读写流程为：

写流程：数据先发送到主副本，主副本负责分发数据到其余副本。

读流程：数据只从主副本读取数据。

在上述数据分布方案中，虚拟机的主副本平均只有三分之一在本地，从而导致数据读写性能较差。

为了使本技术领域的人员更好地理解本发明实施例中的技术方案，并使本发明实施例的上述目的、特征和优点能够更加明显易懂，下面结合附图对本发明实施例中技术方案作进一步详细的说明。

参见图2，为本发明实施例提供的一种数据分布方法的流程示意图，如图2所示，该方法可以包括：

步骤201、确定虚拟机对应的卷中各数据块对应的存储组件序列。

本发明实施例中，上述方法可以应用于超融合基础架构中的主机(host)中，为便于描述，以下以上述方法的执行主体为主机进行描述。

本发明实施例中，超融合基础架构中的存储集群中可以包括两个或两个以上的存储组件。

本发明实施例中，各数据块对应存储组件序列中可以包括两个或三个存储组件。

本发明实施例中，存储组件可以包括一个物理磁盘或多个物理磁盘组成的磁盘组。

为便于描述和理解，以下以超融合基础架构中的存储集群中包括三个存储组件，以及各数据块对应的存储组件序列中包括三个存储组件(即三副本，一个存储主副本、两个存储副副本)为例进行说明。

本发明实施例中，当主机需要确定主机上创建的虚拟机对应的卷中各数据块对应的主副本，例如，虚拟机需要进行数据读取或写入时，主机可以先确定虚拟机对应的卷中各数据块对应的存储组件序列。

作为另一种可选的实施方式，在本发明实施例中，确定虚拟机对应的卷中各数据块对应的存储组件序列，可以包括以下步骤：

11)、确定各数据块的对象标识；其中，该对象标识包括数据块的位置信息；

12)、根据对象标识中包括的位置信息之外的其余信息确定各数据块的组标识；

13)、根据该组标识确定各数据块对应的存储组件序列。

在该实施方式中，主机确定各数据块的对象标识时，可以在该对象标识中增加数据块的位置信息。即在该实施方式中，数据块的对象标识可以为：固定前缀.卷编号(十六进制).序号(十六进制)@位置信息。例如，rbd.vm1-1.0@storage1。

其中，数据块的位置信息可以包括但不限于磁盘编号、主机编号和/或机架编号。即在该实施方式中，可以将虚拟机所在主机的磁盘编号、主机编号或机架编号中的一个或多个的组合作为数据块的位置信息添加到数据块的对象标识中。

主机确定各数据块的对象标识之后，可以根据该对象标识中包括的位置信息之外的其余信息确定各数据块的组标识。

例如，假设数据块的对象标识为：rbd.vm1-1.0@storage1，则可以通过对数据块的对象标识中除位置信息之外的其余信息进行hash的方式，即对rbd.vm1-1.0进行hash，以得到该对象标识对应的组标识。

主机确定各数据块的组标识之后，可以根据该组标识确定各数据块对应的存储组件序列。其中，主机可以根据CRush算法实现根据组标识确定各数据块对应的存储组件序列。

步骤202、根据数据块的位置信息以及对应的存储组件序列中各存储组件的位置信息，调整各存储组件在存储组件序列中的顺序，将与数据块的位置最接近的存储组件作为数据块对应的主副本所在的存储组件。

本发明实施例中，主机确定各数据块对应的存储组件序列之后，可以根据各数据块的位置信息，以及各存储组件序列中各存储组件的位置信息调整存储组件序列中各存储组件的顺序，以使与各数据块的位置最接近的存储组件作为各数据块对应的主副本所在存储组件，从而，可以提高数据读写的性能。

举例来说，假设主机确定的vm1对应的卷中各数据块对应的存储组件序列如下：

rbd.vm1-1.0-->{storage1,storage2,storage3}

rbd.vm1-1.1-->{storage3,storage1,storage2}

……

rbd.vm1-1.n-->{storage2,storage3,storage1}

由于vm1对应的卷中各数据块的位置最接近的存储组件为vm1所在主机上的存储组件，即storage1，从而主机可以根据各数据块的位置信息，以及存储组件序列中各存储组件的位置信息调整该存储组件序列中各存储组件的顺序的结果为：

rbd.vm1-1.0-->{storage1,storage2,storage3}

rbd.vm1-1.1-->{storage1,storage3,storage2}

……

rbd.vm1-1.n-->{storage1,storage2,storage3}

即vm1对应的卷中各数据块对应的主副本所在存储组件均为storage1，也即vm1对应的卷中各数据块对应的主副本均在本地。

在一种优选地实施方式中，存储组件在存储组件序列中排序第一，表示该存储组件为主副本所在存储组件。

例如，假设目标数据块对应的存储组件序列为{storage1,storage2,storage3}，则storage1为该目标数据块对应的主副本所在存储组件。

本发明实施例中，由于虚拟机对应的卷中各数据块对应的主副本均在本地，当需要进行数据读取时，可以直接从本地的主副本读取数据，而不需要跨设备读取数据，提高了数据读取性能，减少了数据读取时的网络资源的消耗；当需要进行数据存储时，可以直接存储在本地的主副本，由本地的主副本将数据分发到副副本，减少了数据跨设备的次数，提高了数据写入的性能，减少了数据写入时的网络资源浪费。

举例来说，以三副本情况下的数据写入为例，若目标数据块的主副本不在本地，则数据写入主副本时，数据需要跨设备存储，主副本将数据分发给副副本时，数据需要分别跨设备转发，即数据总共需要三次跨设备传输；若目标数据块的主副本在本地，则数据写入主副本时，数据不需要跨设备存储，主副本将数据分发给副副本时，数据需要分别跨设备转发，即数据总共需要两次跨设备传输。

可见，在图2所描述的方法流程中，在确定虚拟机对应的卷中各数据块对应的存储组件序列之后，通过根据数据块的位置信息以及存储组件序列中各存储组件的位置信息，调整各存储组件在存储组件序列中的顺序，将与数据块的位置最接近的存储组件作为数据块对应的主副本所在的存储组件，提高了虚拟机的数据的主副本在本地的概率，进而可以提高数据读写的性能，减少数据读写过程中网络资源浪费。

参见图3，为本发明实施例提供的一种数据读取方法的流程示意图，如图3所示，该方法可以包括：

步骤301、接收数据读取请求，该数据读取请求中包括请求读取的数据的标识。

本发明实施例中，当虚拟机需要读取数据时，可以向主机发送数据读取请求，该数据读取请求中可以包括请求读取的数据的标识，该标识用于唯一标识请求读取的数据。

步骤302、根据请求读取的数据的标识确定该数据所在的目标数据块。

本发明实施例中，主机接收到数据读取请求之后，可以根据数据读取请求中包括的请求读取的数据的标识，确定该数据所在的数据块。

步骤303、确定虚拟机对应的卷中各数据块对应的存储组件序列。

本发明实施例中，当主机确定请求读取的数据所在数据块之后，主机可以确定虚拟机对应的卷中各数据块对应的存储组件序列。

步骤304、根据数据块的位置信息以及对应的存储组件序列中各存储组件的位置信息，调整各存储组件在存储组件序列中的顺序，将与数据块的位置最接近的存储组件作为各数据块对应的主副本所在的存储组件。

本发明实施例中，主机确定各数据块对应的存储组件序列之后，可以根据各数据块的位置信息，以及各存储组件序列中各存储组件的位置信息调整存储组件序列中各存储组件的顺序，以使与各数据块的位置最接近的存储组件作为各数据块对应的主副本所在存储组件，从而，可以提高数据读写的性能。

其中，步骤303～步骤304的具体实现可以参见上述步骤201～步骤202中的相关描述，本发明实施例在此不再赘述。

步骤305、根据调整后的各数据块对应的存储组件序列，从目标数据块对应的主副本所在存储组件中读取相应数据。

本发明实施例中，主机确定调整后的各数据块对应的存储组件序列后，可以进一步确定请求读取的数据所在的目标数据块对应的主副本所在的存储组件，并从目标数据块对应的主副本所在存储组件中读取相应数据。

举例来说，以vm1请求读取数据为例，假设host1确定请求读取的数据所在目标数据块的编号(即对象标识为：rbd.vm1-1.3～rbd.vm1-1.5)，以下分别以基于现有实现数据读取和以本发明实施例提供数据分布方式实现数据读取的具体实现进行说明。

假设通过现有数据分布方法得到的目标数据块对应的存储组件序列如下：

rbd.vm1-1.3-->{storage1,storage2,storage3}

rbd.vm1-1.4-->{storage3,storage1,storage2}

rbd.vm1-1.5-->{storage2,storage3,storage1}

则主机进行数据读取时，需要分别从storage1、storage2和storage3中读取各目标数据块对应的数据，即需要进行两次跨设备读取数据。

而通过本发明实施例提供的数据分布方式得到的目标数据块对应的存储组件序列为：

rbd.vm1-1.3-->{storage1,storage2,storage3}

rbd.vm1-1.4-->{storage1,storage3,storage2}

rbd.vm1-1.5-->{storage1,storage2,storage3}

则主机进行数据读取时，由于顺序调整后的各数据块对应的存储组件序列中，各数据块对应的主副本所在存储组件均为本地存储组件，因此，host1可以直接从storage1中读取请求读取的数据，而不需要进行跨设备读取。

可见，本发明实施例提供的技术方案提高了数据读取性能，且减少了网络资源浪费。

通过以上描述可以看出，在本发明实施例中，在确定虚拟机对应的卷中各数据块对应的存储组件序列之后，通过根据数据块的位置信息以及对应的存储组件序列中各存储组件的位置信息，调整各存储组件在存储组件序列中的顺序，将与数据块的位置最接近的存储组件作为数据块对应的主副本所在的存储组件，提高了虚拟机的数据的主副本在本地的概率，进而可以提高数据读写的性能，减少数据读写过程中网络资源浪费。

请参见图4，为本发明实施例提供的一种数据分布装置的结构示意图，如图4所示，该装置可以包括：

确定单元410，用于确定虚拟机对应的卷中各数据块对应的存储组件序列；

调整单元420，用于根据数据块的位置信息以及对应的存储组件序列中各存储组件的位置信息，调整各存储组件在存储组件序列中的顺序，将与数据块的位置最接近的存储组件作为数据块对应的主副本所在的存储组件。

在一实施例中，所述确定单元410，可以具体用于确定所述各数据块的对象标识；其中，所述对象标识包括数据块的位置信息；根据所述对象标识中包括的位置信息之外的其余信息确定所述各数据块的组标识；根据所述组标识确定所述各数据块对应的存储组件序列。

在一实施例中，所述各数据块的位置信息可以包括：

磁盘编号、主机编号和/或机架编号。

在一实施例中，所述与数据块的位置最接近的存储组件为所述虚拟机所在主机上的存储组件。

在一实施例中，所述一个存储组件可以包括一个物理磁盘或多个物理磁盘组成的磁盘组。

上述装置中各个单元的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程，在此不再赘述。

请参见图5，为本发明实施例提供的数据分布装置所在设备的一种硬件结构图，包括处理器510和非易失性存储器520，处理器510和非易失性存储器520通过总线相连。其中，处理器510用于执行非易失性存储器520存储的机器可读指令模块。非易失性存储器520存储有处理器510可执行的机器可读指令模块。当存储在非易失性存储器520中的指令模块被处理器510执行时，可实现前述确定单元410以及调整单元420的功能。

对于装置实施例而言，由于其基本对应于方法实施例，所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本发明方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。

由上述实施例可见，在确定虚拟机对应的卷中各数据块对应的存储组件序列之后，通过根据各数据块的位置信息以及对应的存储组件序列中各存储组件的位置信息，调整各存储组件在存储组件序列中的顺序，将与数据块的位置最接近的存储组件作为数据块对应的主副本所在的存储组件，提高了虚拟机的数据的主副本在本地的概率，进而可以提高数据读写的性能，减少数据读写过程中网络资源浪费。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。

应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。

Claims (8)

1.一种数据分布方法，其特征在于，包括：

确定虚拟机对应的卷中各数据块对应的存储组件序列；

根据数据块的位置信息以及对应的存储组件序列中各存储组件的位置信息，调整各存储组件在存储组件序列中的顺序，将与数据块的位置最接近的存储组件作为数据块对应的主副本所在的存储组件；

其中，所述确定虚拟机对应的卷中各数据块对应的存储组件序列，包括：

确定所述各数据块的对象标识；其中，所述对象标识包括数据块的位置信息；

根据所述对象标识中包括的位置信息之外的其余信息确定所述各数据块的组标识；

根据所述组标识确定所述各数据块对应的存储组件序列。

2.根据权利要求1所述的方法，其特征在于，所述各数据块的位置信息包括磁盘编号、主机编号以及机架编号中的一个或多个的组合。

3.根据权利要求1所述的方法，其特征在于，所述与数据块的位置最接近的存储组件为所述虚拟机所在主机上的存储组件。

4.根据权利要求1所述的方法，其特征在于，

一个所述存储组件包括一个物理磁盘或多个物理磁盘组成的磁盘组。

5.一种数据分布装置，其特征在于，包括：

确定单元，用于确定虚拟机对应的卷中各数据块对应的存储组件序列；

调整单元，用于根据数据块的位置信息以及对应的存储组件序列中各存储组件的位置信息，调整各存储组件在存储组件序列中的顺序，将与数据块的位置最接近的存储组件作为数据块对应的主副本所在的存储组件；

其中，所述确定单元，具体用于确定所述各数据块的对象标识；其中，所述对象标识包括数据块的位置信息；根据所述对象标识中包括的位置信息之外的其余信息确定所述各数据块的组标识；根据所述组标识确定所述各数据块对应的存储组件序列。

6.根据权利要求5所述的装置，其特征在于，所述各数据块的位置信息包括磁盘编号、主机编号以及机架编号中的一个或多个的组合。

7.根据权利要求5所述的装置，其特征在于，所述与数据块的位置最接近的存储组件为所述虚拟机所在主机上的存储组件。

8.根据权利要求5所述的装置，其特征在于，

一个所述存储组件包括一个物理磁盘或多个物理磁盘组成的磁盘组。