CN107295072A - 一种基于私有云的缓存数据一致性维护方法 - Google Patents

Abstract

本发明公开了一种基于私有云的缓存数据一致性维护方法。本发明方法由基于缓存的地址空间回溯算法，基于缓存的控制算法和基于缓存的操作执行算法组成。基于缓存的地址空间回溯算法是将缓存状态切换到远程操作产生时；基于缓存的控制算法是在执行远程操作时将缓存状态进行更新；基于缓存的操作执行算法描述的是远程操作的执行逻辑。本发明通过维护私有云下每个缓存节点中数据的一致性，使得重定向的请求能够直接从新定位的应用服务器节点中获取数据，而不会出现大量请求击穿缓存层直接访问数据持久层的情况，解决了原本数据服务在架构动态伸缩的情况下无法保证高效的问题。

Description

一种基于私有云的缓存数据一致性维护方法

技术领域

本发明涉及缓存数据一致性维护技术领域，具体的说，涉及一种基于私有云的缓存数据一致性维护系统和方法。

背景技术

在如今海量数据存储和计算越来越为热门的信息时代，云计算已经逐渐渗透到信息技术领域的方方面面，并对传统软件的开发部署和交付形式都产生了巨大的影响。根据云计算的访问模式和控制模式来分，可以分为私有云，公有云和混合云三类。其中私有云凭借其可定制化，部署灵活，对数据访问更加高效和安全的特点，在云计算服务提供解决方案中的应用越来越为广泛。为了保证私有云平台下的系统具有一定的负载能力，一般情况下设计多个应用服务器节点来构建一个稳定的，可扩展的，具有伸缩性的系统架构。此外，为了保证系统获取数据的高效性，常常会在应用服务器节点中添加缓存。在高吞吐量的负载下，单个节点常常会出现失效的情况，为了保证私有云下数据服务的高可用性，常常将原定位到该失效节点的请求重新定位到其他可用的应用服务器节点。由于缓存原本承担了大量的数据请求压力，而重定位的请求将会直接击穿缓存层，使得数据库的访问压力大大增加，这将导致整个私有云下的数据服务效率下降。

一致性哈希算法是一个解决上述问题的方法之一。该算法通过构建一个虚拟的哈希环来减少缓存迁移给整个系统的性能带来的影响，但是该算法针对的是哈希取余的路由请求分发系统，不适合固定的请求分发情况。在数据一致性维护方面，主要包含三个研究方向：一是基于悲观复制的一致性算法，二是缓存和数据持久层之间的一致性维护，三是乐观复制一致性算法。悲观复制的一致性算法代表性的算法是paxos，它是假设消息在不被篡改的情况下，使得所有参与的节点对于某个变量有一个一致的认知，另外还有两段锁/三段锁协议等具体的应用。TxCache模型是用来解决事务型操作在缓存和持久层之间一致性问题的，通过入侵数据库代码来实现每个事务ID和数据库快照ID进行绑定，从而为每个事务查询操作保存了对应的数据源视图，当事务第一次执行时，将会在数据库中相关的数据元组中生成标签，在数据放入到缓存中，生成数据开始有效的时间戳。在系统后续的运行过程中，如果数据源中的数据被修改，则将生成标签流，调用后台的线程逐一将标签流发送到各个缓存节点，每个缓存节点则会对存储在自己内部的数据进行识别和数据失效的时间戳。当一个请求到达系统的时候，就可以根据用户对于数据新鲜度的要求，以缓存中标记的有效时间戳和失效时间戳来选择返回对应的数据集。乐观复制的一致性算法的主要代表就是操作转换技术(Operational Transformation，简称OT)和地址空间转换技术(AddressSpace Transformation，简称AST)，OT和AST都是讨论在组编辑系统下各个站点的副本在同一组操作序列下能够保持最终的一致性的算法。OT算法的主要思想是在协同编辑的时候，将操作进行转化，使得每个站点的最终结果一致，而AST算法，则是将当前站点的文本状态切换到该远程操作执行时的本文状态下执行该远程操作来维护最终的一致性。

发明内容

为了解决在私有云平台下，由于缓存节点宕机或者是由于用户流量减少使得云控制器自动减少挂载的应用服务器节点，使得缓存中的热点数据发生动态迁移而导致缓存失效的问题，本发明提供一种基于私有云的缓存数据一致性维护系统和方法。本发明通过扩展AST(即地址空间转换技术)，分析缓存的数据存取特点和应用场景，从而维护在私有云平台下每个缓存节点中数据的一致性，使得重新定位的请求能够在缓存中获取数据，大大提高节点失效情况下系统的性能。

本发明的技术方案具体介绍如下。

本发明提供一种基于私有云的缓存数据一致性维护方法，其通过维护私有云下每个缓存节点中数据的一致性，使得重定向的请求直接从新定位的应用服务器节点中获取数据；其由基于缓存的地址空间回溯算法、基于缓存的控制算法和基于缓存的操作执行算法组成；所述基于缓存的地址空间回溯算法是将缓存状态切换到远程操作产生时；基于缓存的控制算法是在执行远程操作时将缓存状态进行更新；基于缓存的操作执行算法是远程操作的执行逻辑。

本发明中，基于缓存的地址空间回溯算法的具体流程如下：

首先遍历缓存哈希表中的每个数据项，并标记为无效；然后获取数据项下面附着的操作列表，操作列表根据时间戳向量排序算法排序，从操作列表的最后一个操作对象开始进行从后往前遍历；如果操作列表中的操作对象的时间戳和当前回溯空间的时间戳SV为并发操作，则用Torder时间戳比较算法来进行比较大小，如果操作对象的时间戳比当前回溯空间的时间戳SV要小，并且操作类型为将数据存入到缓存的PUT，则设置为有效，跳出循环体；如果是因果关系的操作，则直接比较两个向量时间戳的大小，并且如果操作类型为将数据存入到缓存的PUT，同样也设置为有效，并退出循环。

本发明中，基于缓存的控制算法的具体流程如下：

首先获得远程操作O的时间戳SVo，再调用地址空间回溯算法将缓存空间切换到SVo时间戳下的缓存数据视图中，执行算法O；接着创建一个的操作节点，将该节点根据Torder时间戳比较算法利用插入排序插入到缓存数据项下的操作节点中；然后更新当前站点的时间戳，即远程操作所在站点的维度值加一，最后以更新的站点时间戳进行地址空间回溯，将已经执行过的远程操作对缓存数据的更新包含到当前的站点中。

本发明中，基于缓存的操作执行算法的具体流程如下：

首先从远程操作O中获取操作内容，操作内容包含如何根据已有的信息从缓存中获取数据，并且要求和缓存中的键值有一对一的映射关系，即根据操作内容直接得到键值；然后根据操作内容得到在缓存中是否已经包含该键值的判断，如果缓存中已经存在键值，则直接获取该键值对应的数据，否则，就创建一个新的数据对象；如果缓存中包含该键值，则从缓存中获取该存储对象，根据地址空间回溯算法中对缓存中的每个数据项设置的有效性属性，判断存储对象的value值是否有效，如果在当前时间戳下该数据是无效的，则需要执行操作O，即从数据库中重新获取一遍数据；如果缓存中不存在该键值，则同样也需要执行操作O；最后把对应的键值以及获取到的数据执行结果对放入到缓存中去。

和现有技术相比，本发明的有益效果在于：

(1)在私有云的架构基础，即由多个云控制器节点和应用服务器节点构成的系统架构之上，以地址空间转换技术为核心思想，缓存数据存取模式和应用场景为创新和扩展方向，维护每个缓存节点中数据的一致性。

(2)利用私有云的架构具有高可用性的特点，即在私有云平台下，当某个应用服务器节点失效时私有云中的云控制器将原本定位到失效节点中的请求重新定位到其他可用的节点上，使得系统能够稳定地提供云服务。

(3)本发明中的三个重要组成部分的算法思想是由AST中的地址空间回溯算法(Retrace)，控制算法(Control)，操作执行算法(Execute)发展和创新而来，并根据缓存的特点扩展成了基于缓存的地址空间回溯算法，基于缓存的控制算法和基于缓存的操作执行算法。

(4)本发明充分考虑了缓存的应用场景，将缓存操作的含义赋予了一致性维护的操作逻辑，以此来更好地支持基于缓存的地址空间回溯算法。并且由于缓存基于哈希表的数据结构特点，基于缓存的操作执行算法省去了AST中的操作执行算法中的range-scan部分，直接以O(1)的复杂度查找到作用的数据项，执行效率上更为高效。

附图说明

图1为基于私有云平台的系统架构设计。

图2为缓存数据结构示意图。

图3为每个站点发送操作的示意图。

图4为每个操作的具体操作类型和操作内容。

图5为站点1的缓存数据一致性维护过程。

图6为站点2的缓存数据一致性维护过程。

具体实施方式

下面结合附图和实施例对本发明的技术方案进行详细阐述。

实施例1

1.构建基于私有云的基础系统架构

该架构如图1所示，是基于私有云思想的基础性通用架构。用户使用手机，电脑等设备通过网络连接上私有云，私有云中的反向代理服务器将用户请求根据就近原则分发给其下的各个云控制器节点，每个云控制器节点下面可以挂载多个节点控制器，节点控制器根据用户注册时的区域信息将请求分发给其下的各个应用服务器节点。每个应用服务器节点中对应一个缓存，缓存作为数据持久层和应用层之间的中间层，充当为数据持久层减轻访问压力以及提高应用层获取数据效率的作用。当某个应用层节点发生宕机或者由于用户流量较小(比如夜间)使得节点控制器减少其下挂载的应用服务器节点时，节点控制器将会把原本定位到失效节点的请求重新定位到其它可用节点上，从而保证了私有云下数据服务的高可用性。

2.缓存结构和操作的设计

为了实现私有云平台下每个缓存节点中数据的一致性，首先需要定义一下缓存的数据结构以及存储模式。

缓存数据结构定义为CacheMap<K,V>，K代表键值，在缓存中是唯一的；V代表数据存储项。缓存的数据存取模式为：应用层生成键值，在缓存哈希表中查找对应的数据项。如果缓存命中，则直接返回数据项；如果缓存不命中，则以键值在数据库中重新查询数据，然后把数据项和对应的键值存入缓存中，并将查询数据进行返回。

根据缓存的存取模式，将定义两类操作类型，一类是PUT操作，将数据存入到缓存中；还有一类是REMOVE操作，根据操作参数K从缓存中删除对应的键值对，如图2所示。这些操作除了本身具有的哈希表操作含义之外，还包含缓存数据一致性维护技术的算法逻辑。每个数据项下面附着的时间戳序列是按照Torder时间戳比较算法(当并发操作的时间戳无法比较大小时，将每个时间戳向量值求和来比较大小，如果仍旧相等，则按照操作产生站点号来比较大小)从小到大进行排序，由此来支持地址空间回溯算法。

除此之外，还需要定义以下几个实体类来完成缓存数据一致性维护技术在缓存中实现数据一致性的主要功能和基本属性：Timestamp(时间戳类)，Operation(操作类)，CacheObject(缓存数据类)。Timestamp类包含两个基本属性：一.所在的站点ID，二.时间戳向量SV。站点ID用来判断一个操作是远程操作还是本地操作，时间戳向量在基于缓存的地址空间回溯操作中，判断远程操作是否因果就绪，以及更新本地站点的时间戳等用途。Operation类中包含三个属性：一.时间戳类(即Timestamp类)，二.操作类型，三.操作内容。操作类型分为两种，PUT和REMOVE操作；操作内容包含了该操作调用的类和类下面定义的方法，以及传入的操作参数，当本地缓存节点监听到该操作对象时，将会利用java的反射机制调用方法从而获取数据。CacheObject类，即缓存中的数据项，它包含三种重要的属性，一.value值，即从数据持久层中获取的数据查询结果集；二.所附着的操作列表，即作用于该数据对象的所有操作列表，以Torder时间戳比较算法来进行排序；三.isEffect，用来标记该缓存对象是否有效，这个属性是服务于基于缓存的地址空间回溯操作的。

3.缓存数据一致性维护技术的设计

缓存数据一致性维护技术的思想是基于地址空间转换技术(AST)的，并且在AST的基础之上进行了扩展和创新，使其能够更好的在缓存中进行应用。缓存数据一致性维护技术包含三个部分：一.基于缓存的地址空间回溯算法，二.基于缓存的控制算法，三.基于缓存的操作执行算法。

基于缓存的地址空间回溯算法伪代码如方法Retrace所示。该算法执行过程如下，首先

遍历缓存哈希表中的每个数据项，并标记为无效，然后获取该数据项下面附着的操作列表，操作列表是根据时间戳向量排序算法已经排序好的。因此只需从操作列表的最后一个操作对象开始进行从后往前遍历，如算法所示4-5。如果操作列表中的操作对象的时间戳和当前回溯空间的时间戳SV为并发操作，则用Torder时间戳比较算法来进行比较大小，如果操作对象的时间戳比SV要小，并且为操作类型为PUT，则设置为有效，跳出循环体，如算法所示7-9；如果是因果关系的操作，则直接比较两个向量时间戳的大小，并且如果操作类型为PUT，同样也设置为有效，并退出循环，如算法所示10-15行。

基于缓存的控制算法如伪代码Control所示。首先获得远程操作O的时间戳SVo，然后调

用地址空间回溯算法将缓存空间切换到SVo时间戳下的缓存数据视图中。执行算法O，如Control所示1-2行，然后创建一个的操作节点，将该节点根据Torder时间戳比较算法利用插入排序插入到缓存数据项下的操作节点中。然后更新当前站点的时间戳，即远程操作所在站点的维度值加一，然后以更新的站点时间戳进行地址空间回溯，将已经执行过的远程操作对缓存数据的更新包含到当前的站点中，该过程如4-5行所示。

基于缓存的操作执行算法伪代码如executeOp所示，执行操作的算法首先从操作O中获取操作内容，操作内容包含如何根据已有的信息快速地从缓存中获取数据，并且要求和缓存中的键值有一对一的映射关系，即可以根据操作内容直接得到键值。第2行根据操作内容得到的判断在缓存中是否已经包含该键值，如果缓存中已经存在该键值，则直接从获取该键值对应的数据，否则，就创建一个新的数据对象。如果缓存中包含该键值，则从缓存中获取该存储对象，并判断该value值是否有效(在地址空间回溯算法中将会对缓存中的每个数据项设置有效性属性)，如果在当前时间戳下该数据是无效的，则需要执行操作O，即从数据库中重新获取一遍数据，如executeOp的4-6行。如果缓存中不存在该键值，则同样也需要执行操作O，如executeOp中的8-10行。最后把对应的键值以及获取到的数据执行结果对放入到缓存中去，对应executeOp中的11行。

具体应用时，假设在当前私有云系统中，云控制器下面挂载了两台虚拟机，每台虚拟机都部署了相同的应用，共同对外提供一致的数据服务。假设缓存空间的大小为2，缓存内容初始化为空，缓存的替换算法为LRU。现在假设有两个用户，张三和李四，他们都是相互独立的。现张三和李四对整个系统的请求的操作将会分别定位到两个缓存应用服务器中，张三对应站点1，李四定位站点2。现在张三和李四同时访问系统。所有对系统的访问请求都是通过服务器到达数据库，所有的数据库查询请求以find为前缀，这些数据库查询函数都会被springAOP框架中的拦截器拦截，并且专门集中处理缓存数据的更新和本地操作的生成。因为一个用户请求中可能包含多个数据库查询返回结果，即包含多个操作，因此在场景模拟中，以操作为基本单位来进行描述，所有的前端用户请求全部都分解为操作来进行情景展现。

假设张三在站点1和李四在站点2分别产生了如下的操作，如图3所示。每个操作的具体内容描述如图4所示。最开始站点1和站点2都为空，当站点1执行完OP1和OP3的时候，站点1中的缓存内容为OP1和OP3产生的数据集合。接着来自站点2的操作OP2到达站点1，缓存空间已满，因此按照之前所述的算法，执行LRU替换操作。OP1所对应的缓存是在LRU队列(该队列是用来实现LRU的替换算法的，以进入缓存的先后顺序来进行排序)最前端的，因此OP1操作的时间戳将会和OP2的时间戳相比较，OP2比OP1时间戳要大，因此在OP2操作执行之前，将会在本地产生REMOVE操作OP4，然后再执行操作OP2，这个时候缓存中的有效数据项就为OP2和OP3所对应的操作内容。接着收到由站点2发送过来的远程操作OP5和OP6，OP5是远程REMOVE操作，因此只要直接把该操作附着到对应的数据项下面即可，因为OP5也是作用于OP1的缓存内容，因此缓存中的有效数据项为OP2，OP3所对应的操作内容。接着远程操作OP6到达站点，操作O6作用的内容和OP3相同，说明此事缓存命中，因此只需要把OP6操作的内容(也是OP3的)在从LRU队列中原本的节点取出，并添加在队列末端即可。此时，站点1中缓存的有效数据项为OP2和OP3的操作内容。站点1整个缓存过程如图5所示。

接着再来看站点2的情况。先是执行本地操作OP2，接着执行远程操作OP1(OP1在站点2上因果就绪)，因此缓存中的数据项为OP1,OP2的操作内容。接着到达站点2的是OP4，因为OP4是一个远程操作，且它的时间戳为(3,0)，而本地站点的时间戳为(1,1)，因此不符合执行条件。因此OP4将会重新放入到远程操作队列中。这个时候，OP3到达了，OP3也是远程操作，它的时间戳为(2,0)，符合站点2的当前的执行条件。因此执行OP3。在执行OP3之前，缓存空间已满，这里调用LRU算法，从队列中选取LRU队列的首端即OP1的操作内容，然后产生一个REMOVE操作，即OP5，然后发送到其他站点，然后再执行操作OP3(因为此时的OP3已经符合执行条件)，执行完OP3之后，此时缓存中的有效数据为OP2和OP3的操作内容。接着，站点2产生了OP6，OP6的操作缓存命中，因此只需要把对应的OP6操作内容在站点2中的LRU队列中的节点移动到队列末端，然后附着操作即可。这样，在站点2中，缓存的有效内容也为OP2和OP3。整个站点2的操作内容如图6所示。

因此可以看到，该发明可以维护在私有云下每个缓存节点中数据的一致性。

Claims (4)

1.一种基于私有云的缓存数据一致性维护方法，其特征在于，其通过维护私有云下每个缓存节点中数据的一致性，使得重定向的请求直接从新定位的应用服务器节点中获取数据；其由基于缓存的地址空间回溯算法、基于缓存的控制算法和基于缓存的操作执行算法组成；所述基于缓存的地址空间回溯算法是将缓存状态切换到远程操作产生时；基于缓存的控制算法是在执行远程操作时将缓存状态进行更新；基于缓存的操作执行算法是远程操作的执行逻辑。

2.根据权利要求1所述的缓存数据一致性维护方法，其特征在于，基于缓存的地址空间回溯算法的具体流程如下：

首先遍历缓存哈希表中的每个数据项，并标记为无效；然后获取数据项下面附着的操作列表，操作列表根据时间戳向量排序算法排序，从操作列表的最后一个操作对象开始进行从后往前遍历；如果操作列表中的操作对象的时间戳和当前回溯空间的时间戳SV为并发操作，则用Torder时间戳比较算法来进行比较大小，如果操作对象的时间戳比当前回溯空间的时间戳SV要小，并且操作类型为将数据存入到缓存的PUT，则设置为有效，跳出循环体；如果是因果关系的操作，则直接比较两个向量时间戳的大小，并且如果操作类型为将数据存入到缓存的PUT，同样也设置为有效，并退出循环。

3.根据权利要求1所述的缓存数据一致性维护方法，其特征在于，基于缓存的控制算法的具体流程如下：

首先获得远程操作O的时间戳SVo，再调用地址空间回溯算法将缓存空间切换到SVo时间戳下的缓存数据视图中，执行算法O；接着创建一个的操作节点，将该节点根据Torder时间戳比较算法利用插入排序插入到缓存数据项下的操作节点中；然后更新当前站点的时间戳，即远程操作所在站点的维度值加一，最后以更新的站点时间戳进行地址空间回溯，将已经执行过的远程操作对缓存数据的更新包含到当前的站点中。

4.根据权利要求1所述的缓存数据一致性维护方法，其特征在于，基于缓存的操作执行算法的具体流程如下：

首先从远程操作O中获取操作内容，操作内容包含如何根据已有的信息从缓存中获取数据，并且要求和缓存中的键值有一对一的映射关系，即根据操作内容直接得到键值；然后根据操作内容得到在缓存中是否已经包含该键值的判断，如果缓存中已经存在键值，则直接获取该键值对应的数据，否则，就创建一个新的数据对象；如果缓存中包含该键值，则从缓存中获取该存储对象，根据地址空间回溯算法中对缓存中的每个数据项设置的有效性属性，判断存储对象的value值是否有效，如果在当前时间戳下该数据是无效的，则需要执行操作O，即从数据库中重新获取一遍数据；如果缓存中不存在该键值，则同样也需要执行操作O；最后把对应的键值以及获取到的数据执行结果对放入到缓存中去。