CN101741588B - 数据存储系统及方法 - Google Patents

Abstract

本发明公开了一种数据存储系统及方法，该系统包括：多层组播组，其中：每一层组播组由至少一个节点构成，每一层组播组中的节点的标识在本层组组对应的标识匹配范围内相匹配。采用本发明可以提高数据处理效率和容灾能力。

Description

数据存储系统及方法

技术领域

本发明涉及通信技术领域，尤其涉及数据存储系统及方法。

背景技术

目前的数据存储方案大致分为两类：集中式的数据存储和分布式的数据存储。

发明人发现集中式的数据存储方案的数据处理效率低、容灾能力低，系统恢复时间长；分布式的数据存储方案采用DHT方式访问用户数据，以单播方式查找，当发现一个节点失效时，才向另一节点发起查找请求，更新等操作也类似，同样存在数据处理效率低、容灾能力低，并且，实施时需要有繁琐的HASH计算和路由查找过程，实现复杂，同时也有可能出现数据不一致的情况。

发明内容

本发明实施例提供一种数据存储系统，用以提高数据处理效率和容灾能力，该系统包括：

多层组播组，其中：

每一层组播组由至少一个节点构成，每一层组播组中的节点的标识在本层组播组对应的标识匹配范围内相匹配。

本发明实施例还提供一种数据存储系统的管理方法，用以提高数据处理效率和容灾能力，该方法包括：

当节点要加入所述数据存储系统时，确定该节点与系统中其它节点的标识匹配范围，将该节点加入与所述确定的标识匹配范围对应的组播组；

当节点要退出数据存储系统时，在该节点所属组播组内组播该节点退出的通知消息，并将该节点从所属组播组中删除；

当节点因故障退出数据存储系统后重新恢复时，若该节点的标识与故障前的标识相同，则在该节点原所属组播组内组播该节点重新加入的通知消息，并将该节点重新加入原所属组播组，存储原有数据。

本发明实施例还提供一种在数据存储系统中进行数据处理的方法，用以提高数据处理效率和容灾能力，该方法包括：

当有新的数据插入到节点的时候，按如下步骤进行数据插入处理：

该节点确定本节点的标识与所述数据的标识的标识匹配范围，在该标识匹配范围对应的组播组内，组播插入所述数据的请求；

在所述组播组内，确定与所述数据的标识异或距离最短的节点的标识，确定该节点的标识与所述数据的标识的标识匹配范围，在该标识匹配范围对应的组播组内，组播插入所述数据的请求；重复该步骤直至标识匹配范围不再改变；

根据最后一次组播所述数据的请求的组播组内节点的标识与所述数据的标识的异或距离，在该组播组内的至少一个节点插入所述数据。

本发明实施例还提供一种在数据存储系统中进行数据处理的方法，用以提高数据处理效率和容灾能力，该方法包括：

当要查找数据的时候，按如下步骤进行数据查找处理：

接收查找该数据的请求的节点确定本节点的标识与该数据的标识的标识匹配范围，在该标识匹配范围对应的组播组内，组播查找该数据的请求；

在所述组播组内，确定与该数据的标识异或距离最短的节点的标识，确定该节点的标识与该数据的标识的标识匹配范围，在该标识匹配范围对应的组播组内，组播查找该数据的请求；重复该步骤直至标识匹配范围不再改变；

在最后一次组播查找该数据的请求的组播组内查找该数据。

本发明实施例中的数据存储系统包括多层组播组，其中：每一层组播组由至少一个节点构成，每一层组播组中的节点的标识在本层组播组对应的标识匹配范围内相匹配，由于采用该结构进行数据存储系统的架构，在上述数据存储系统中进行数据处理时，可以方便地利用组播进行数据的插入、查找操作，减少插入、查找跳数，一跳完成数据处理，使得数据处理效率高，同时利用利播进行数据处理也使系统的容灾能力大幅提升。

附图说明

图1为本发明实施例中数据存储系统的结构示意图；

图2为本发明实施例中数据插入方法的流程图；

图3为本发明实施例中数据查找方法的流程图；

图4为本发明实施例中数据查找的一个具体实例的示意图。

具体实施方式

本发明实施例中，将分形技术应用于数据存储系统，以实现数据的存储、查找等管理操作。分形是一个几何概念，它由像云彩、海岸线、树枝、闪电等不规整但具有某种无穷嵌套自相似性的几何图形抽象概括得出。分形涉及这样一种对象，将其细微部分放大后，其结构看起来仍与原先的一样。

分形具有三大主要特征：自相似性、可迭代性和空间填充性(即分数维)。

自相似原则和迭代生成原则是分形理论的重要原则。它表征分形在通常的几何变换下具有不变性，即标度无关性。由自相似性是从不同尺度的对称出发，也就意味着递归。分形形体中的自相似性可以是完全相同，也可以是统计意义上的相似。标准的自相似分形是数学上的抽象，迭代生成无限精细的结构，如科契(Koch)雪花曲线、谢尔宾斯基(Sierpinski)地毯曲线等。这种有规分形只是少数，绝大部分分形是统计意义上的无规分形。

分数维是指用一个特征数(不一定是整数)来测定其不平度、复杂性或卷积度。

对一客体，如果度是其“容积”的单位为r，则用该单位度量的结果N(r)满足下列关系：

N(r)＝Cr-D_f

其中C为常数，D_f称为该客体的Haus dorff维数。换言之，对某客体，如果沿其每个方向同时放大L倍，得到的新客体较原客体增加R倍，即可得该客体的Haus dorff维数为：

$D_f=\frac{\ln R}{\ln L}$

该维数刻划了客体的复杂程度。如果记D(A)为某集合A的拓扑维数，设D_f(A)>D(A)，则该集合所占空间应比D(A)维更大(即D_f(A)维空间)。如果一个图形能够分成n个子图形，每个图形的尺寸是原来的m分之一，则维数是以m为底n的对数。

分形理论是一种分析问题解决问题的思想。分形有其自相似、可迭代、分数维的特征。单就存储层面看，本发明实施例中，系统中的单个节点是分形的数据存储系统的一个子集合，由FE(Front Endpoint，前端节点)和BE(BackEndpoint，后端节点)组成，单个节点可以存储全网部分用户数据，由这些单个节点的组合，构成分形的数据存储系统，对外提供数据查找等一系列功能。每一个通过IP层构建的组播组又是上升了一个层面的分形子系统，每层组播树内的叶子是由一系列标识在本层组播组对应的标识匹配范围内相匹配的节点构成，各层组播组之间互联，所有用户数据的叠加，所有组播树的集合，便构成了全网组播树的分形的数据存储系统。

本发明实施例中的数据存储系统包括多层组播组，其中，每一层组播组由至少一个节点构成，每一层组播组中的节点的标识在本层组播组对应的标识匹配范围内相匹配。

上述分形化的数据存储系统是一个逻辑树形结构，从不同的节点视角来看，树形结构可能是不同的。其中所存储用户数据和节点对应关系的方式，可以采用DHT方式中的数据标识(ID)与节点标识的对应关系构成。数据存储可以采用KAD算法，即按异或最近匹配原则，将数据存储于数据ID与节点ID的异或距离最短的节点上。例如，一份数据ID为001010，该组播组内有节点(001100、001011、000011)，异或值分别为(6、1、9)，则应存在节点001011上。

实施中各层组播组对应的标识匹配范围可以根据分形的自相似性、可迭代性确定。一个具体实例如图1所示，所述每一层组播组中的节点的标识在本层组播组对应的标识匹配范围内相匹配，具体为：

第0层组播组中的节点的标识不相匹配(此种情况可以视为第0层组播组对应的标识匹配范围为“空”或“无”)；

第1层组播组中的节点的标识在前0～k位相匹配；

第2层组播组中的节点的标识在前k～2k位相匹配；

以此类推，

第n-1层组播组中的节点的标识在前(n-2)k～(n-1)k位相匹配；

所述k、n均为大于0的整数。

举一例，按图1所示的数据存储系统结构，节点路由表的存储格式可以如下表：

 

序号	匹配位数区间()	组播地址
			0	0	IP0
1	(0，k]	IP1
			2	(k，2k]	IP2
3	(2k，3k]	IP3
			4	(3k，4k]	IP4
... ...	... ...	... ...
			n-1	[(n-2)k，(n-1)k]	IP(n-1)

本例中，0<k<128，0<n<128，(n-1)k<＝128。

上表中的匹配位数区间，可以从ID最高位开始匹配。如数据ID为001011，节点ID为001100，则匹配3位。如果哈希空间为6位，则n＝64，如k＝2，依据路由表应选择序号2，匹配区间为(2，4]路由表项，选择进入组播组IP2进行组播。

实施中，各层组播组对应的标识匹配范围还可以根据调整因子进行调整。例如，可以通过因子j，继续细分前述标识匹配范围，以减少某一IP组播地址域的节点数，如第n-1层组播组对应的标识匹配范围可以细分如下：

[[(n-2)k，(n-2)k+k/j]，[(n-2)k+k/j，(n-2)k+2k/j]，……，[(n-1)k-k/j，(n-1)k]]；

所述j为调整因子；k、n均为大于0的整数。

基于同一发明构思，本发明实施例还提供一种数据存储系统的管理方法，该方法具体包括：

1、当节点要加入所述数据存储系统时，确定该节点与系统中其它节点的标识匹配范围，将该节点加入与所述确定的标识匹配范围对应的组播组。

每个节点加入数据存储系统后，会首先申请一个自己的组播地址，作为节点ID不匹配时的组播地址。第一个建立组播路由表的节点决定对应各标识匹配范围的路由组播地址，成为对应组播地址中的第一个节点。

实施时，节点一般无需保存其前驱和后继的关系。每次组播组消息会判断节点之间的远近关系。

节点要加入数据存储系统时，可以广播了解到一个其附近的节点，该节点作为接入节点，识别新加入节点的ID，开始查找路由表项，通过数据存储系统能够定位出与该节点标识具有不同标识匹配范围的节点所在组播组地址，然后告知新加入节点，由新加入节点自己申请加入上述组播组。

注：标识与系统中其它节点的标识不相匹配的节点，随机加入几个组播组即可。但需保证，整个系统第0层组播组没有单独网元。

具体过程如下：如果该节点是第一个加入系统的节点，则4个组播地址，是由节点依据初始配置原则(每个节点都有1个标识与系统中其它节点标识不相匹配时的初始配置规则，在Ipv6下，即自身IP作为后缀，前缀的部分字段作为前N位匹配的组播域地址)，自行绑定的。如果该节点是系统初建之后，随机加入系统的节点，则节点依据就近原则，会被其附近节点发现，由其附近节点代替它去找寻该节点ID前N位匹配的组播地址是多少。如果未找到，则该节点与其附近节点形成绑定关系，构成第0层组播组大环，即不匹配时的组播环，组播地址采用先加入的节点组播地址。

2、当节点要退出数据存储系统时，在该节点所属组播组内组播该节点退出的通知消息，并将该节点从所属组播组中删除。

节点退出，无需全网获知，节点路由表项无需改变，由路由器中记录的组播组记录有一个节点退出该组播组，并通过组播消息通告组播组内其他节点。

对于数据存储系统中组播组内的容灾方法，当某一节点下线时，组播组内节点会知道这一消息，同时知道本地的哪些备份数据是下线节点的数据，并将其升级为主数据，同时只能有一份主数据，可通过组播消息，竞争产生。

对于存储于不同组播组的备份节点，备份节点感知不到主数据丢失，后续当查找请求找不到主数据，发送对备份数据的查找请求时，备份节点可了解到，并升级为主数据。当其中一个节点下线后，系统中组播路由器会识别出节点下线，并组内通知，其他节点了解到该节点下线，会在有限时间内升级成为主数据，并告知其他节点。当然，实施中也可以要求节点退出全网感知。

3、当节点因故障退出数据存储系统后重新恢复时，若该节点的标识与故障前的标识相同，则在该节点原所属组播组内组播该节点重新加入的通知消息，并将该节点重新加入原所属组播组，存储原有数据。

当节点重新恢复时，只要节点ID不变，会重新加入到先前组播组中，通过增量恢复策略，恢复主数据。如果节点ID改变，则当作新节点加入处理。

基于同一发明构思，本发明实施例还提供一种在数据存储系统进行数据处理的方法，该方法可以包括：

如图2所示，当有新的数据插入到节点的时候，按如下步骤进行数据插入处理：

步骤201、该节点确定本节点的标识与所述数据的标识的标识匹配范围，在该标识匹配范围对应的组播组内，组播插入所述数据的请求。

步骤202、在所述组播组内，确定与所述数据的标识异或距离最短的节点的标识，确定该节点的标识与所述数据的标识的标识匹配范围，在该标识匹配范围对应的组播组内，组播插入所述数据的请求；重复该步骤直至标识匹配范围不再改变。

步骤203、根据最后一次组播所述数据的请求的组播组内节点的标识与所述数据的标识的异或距离，在该组播组内的至少一个节点插入所述数据。

由于有容灾机制保证，数据插入一般会插入多份。组播组内的插入机制，一般同一个ID会在临近的不同节点插入多份。包括在标识与所述数据的标识的异或距离最短或较短的节点插入所述数据。

实施中可以将标识与所述数据的标识的异或距离最短的节点上插入的数据视为主数据，将其它节点上插入的该数据视为主数据的备份数据。进行数据插入时，进入最后一个组播组时，发起查询的节点收到组内节点的异或距离匹配值后，会选择多个距离临近的节点进行插入，但会指定一个节点(异或最近)作为主数据存储，其他节点作为备份。

在实施节点数据的查找时，节点确定标识与数据的标识匹配则进入组播组，不匹配则上溯到上层组播组。

一个实施例中，当有新的数据插入到节点的时候，还可以包括：

对所述数据进行哈希运算，获得所述数据的至少一个标识；

分别按所述数据的每一个标识，对所述数据进行如图2所示的数据插入处理。

由于同一份数据会HASH出不同的几个ID值，因此在数据插入时，可以分别将按不同的ID值进行插入处理。

基于同一发明构思，本发明实施例还提供一种在数据存储系统进行数据处理的方法，该方法可以包括：

如图3所示，当要查找数据的时候，可以按如下步骤进行数据查找处理：

步骤301、接收查找该数据的请求的节点确定本节点的标识与该数据的标识的标识匹配范围，在该标识匹配范围对应的组播组内，组播查找该数据的请求。

实施中，当节点收到数据查找请求时，将依据路由表进行ID匹配查找，当找到最近匹配表项时，依据该表项对应的组播地址，向该组播组发起数据查找请求。

步骤302、在所述组播组内，确定与该数据的标识异或距离最短的节点的标识，确定该节点的标识与该数据的标识的标识匹配范围，在该标识匹配范围对应的组播组内，组播查找该数据的请求；重复该步骤直至标识匹配范围不再改变。

实施中，组播组内所有节点均将收到该查找请求，然后每个组播组内节点会继续判断与自己的标识匹配范围，并告知查找节点。查找节点选取距离最短的节点，通知其继续查找。该节点依匹配项查找本地路由表项，找出该最长匹配的表项对应的组播组地址，重复组播查找请求。

步骤303、在最后一次组播查找该数据的请求的组播组内查找该数据。

实施中，在最后一次组播所述数据的请求的组播组内，当某节点匹配到最长表项，发现该数据存储于本节点时，即向查找节点返回查找成功响应，该节点返回给查找节点此份用户数据。

实施中，当节点发现无匹配表项时，则依据表项0，上溯到最高一层的组播组，该组内，节点一般都为节点ID最不匹配的节点，即异或距离比较远的节点。

一个实施例中，当要查找数据的时候，还可以包括：

对该数据进行哈希运算，获得该数据的至少一个标识；

按该数据的其中一个标识，对该数据进行如图3所示的数据查找处理。

实施中，可以将其中一份数据作为主数据，其它至少一份数据作为主数据的备份数据。当进行数据查找时，查找节点首先根据主数据ID进行查找，当主数据找不到时，再发起对备份数据的查找。当数据更新或删除时，节点将同时对多份数据进行操作。主数据和备份数据一般会分散在不同节点的不同组播组中，可以保证地域上做到容灾。

如图4所示，举一例说明数据查找流程的实施。假设系统有6位哈希空间，最多64份用户数据，系统中节点ID分散分布，路由表策略按2位为基准划分。

1、当节点000010收到对数据000111的查找请求时，首先最长匹配发现为3位，则查找本地路由表：

 

序号	匹配位数区间()	组播地址
			0	0	IP0
1	(0，2]	IP1
			2	(2，4]	IP2
3	(4，6]	IP3

选择组播地址IP2，进行组内组播。

2、IP2组播组内节点收到对数据000111的查找请求，与本节点ID进行匹配异或运算，节点000101异或值为2，在本组内最小。每个节点都将异或值返回查找节点，查找节点向000101发送继续查找请求。

3、节点000101收到该请求，发现该数据存于本节点，将数据信息返回给初始查找节点。

由于节点的组播加入和查找是在全网进行，一种可能的情况是：出现节点000101并未出现在000010的IP2组播域内，即000010的IP2组播域未包含所有与本节点匹配度为3或4的节点。此时在IP2组播域内最为匹配的节点应为000100，则下一步应由000100发起查找请求，而000101此时应位于000100的匹配度为4的组播域内，再次查找，应能找到数据。否则，可能因为节点抖动厉害，对000110的数据查找失败。此时，依据数据冗余存储的原则，进行二次查找。

本领域普通技术人员可以理解上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件完成，该程序可以存储于一计算机可读存储介质中，存储介质可以包括：ROM、RAM、磁盘或光盘等。

本发明实施例中的数据存储系统包括多层组播组，其中：每一层组播组由至少一个节点构成，每一层组播组中的节点的标识在本层组播组对应的标识匹配范围内相匹配，由于采用该结构进行数据存储系统的架构，在上述数据存储系统中进行数据处理时，可以方便地利用组播进行数据的插入、查找操作，减少插入、查找跳数，一跳完成数据处理，使得数据处理效率高，同时利用利播进行数据处理也使系统的容灾能力大幅提升。

显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若对本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (7)

1.一种数据存储系统，其特征在于，包括：

多层组播组，其中：

每一层组播组由至少一个节点构成，每一层组播组中的节点的标识在本层组播组对应的标识匹配范围内相匹配；

其中，各层组播组对应的标识匹配范围根据调整因子进行调整；各层组播组对应的标识匹配范围根据分形的自相似性、可迭代性确定；

其中，所述每一层组播组中的节点的标识在本层组播组对应的标识匹配范围内相匹配，具体为：

第0层组播组中的节点的标识不相匹配；

第1层组播组中的节点的标识在前0～k位相匹配；

第2层组播组中的节点的标识在前k～2k位相匹配；

以此类推，

第n-1层组播组中的节点的标识在前（n-2）k～（n-1）k位相匹配；

所述k、n均为大于0的整数。

2.如权利要求1所述的系统，其特征在于，各层组播组对应的标识匹配范围根据调整因子进行调整包括：第n-1层组播组对应的标识匹配范围细分如下：

[[(n-2)k,(n-2)k+k/j]，[(n-2)k+k/j,(n-2)k+2k/j]，……，[(n-1)k-k/j,(n-1)k]]；

所述j为调整因子；k、n均为大于0的整数。

3.一种数据存储系统的管理方法，其特征在于，该方法包括：

当节点要加入所述数据存储系统时，确定该节点与系统中其它节点的标识匹配范围，将该节点加入与所述确定的标识匹配范围对应的组播组；

当节点要退出数据存储系统时，在该节点所属组播组内组播该节点退出的通知消息，并将该节点从所属组播组中删除；

当节点因故障退出数据存储系统后重新恢复时，若该节点的标识与故障前的标识相同，则在该节点原所属组播组内组播该节点重新加入的通知消息，并将该节点重新加入原所属组播组，存储原有数据。

4.一种在数据存储系统中进行数据处理的方法，其特征在于，该方法包括：

当有新的数据插入到节点的时候，按如下步骤进行数据插入处理：

该节点确定本节点的标识与所述数据的标识的标识匹配范围，在该标识匹配范围对应的组播组内，组播插入所述数据的请求；

在所述组播组内，确定与所述数据的标识异或距离最短的节点的标识，确定该节点的标识与所述数据的标识的标识匹配范围，在该标识匹配范围对应的组播组内，组播插入所述数据的请求；重复该步骤直至标识匹配范围不再改变；

根据最后一次组播所述数据的请求的组播组内节点的标识与所述数据的标识的异或距离，在该组播组内的至少一个节点插入所述数据。

5.如权利要求4所述的方法，其特征在于，当有新的数据插入到节点的时候，进一步包括：

对所述数据进行哈希运算，获得所述数据的至少一个标识；

分别按所述数据的每一个标识，对所述数据进行所述数据插入处理。

6.一种数据存储系统中进行数据处理的方法，其特征在于，该方法包括：

当要查找数据的时候，按如下步骤进行数据查找处理：

接收查找该数据的请求的节点确定本节点的标识与该数据的标识的标识匹配范围，在该标识匹配范围对应的组播组内，组播查找该数据的请求；

在所述组播组内，确定与该数据的标识异或距离最短的节点的标识，确定该节点的标识与该数据的标识的标识匹配范围，在该标识匹配范围对应的组播组内，组播查找该数据的请求；重复该步骤直至标识匹配范围不再改变；

在最后一次组播查找该数据的请求的组播组内查找该数据。

7.如权利要求6所述的方法，其特征在于，当要查找数据的时候，进一步包括：

对该数据进行哈希运算，获得该数据的至少一个标识；

按该数据的其中一个标识，对该数据进行所述数据查找处理。

Images