CN102880557B - 一种异构数据源的多级分布式高速缓存的查找方法 - Google Patents

Abstract

本发明涉及一种异构数据源的多级分布式高速缓存的查找方法，所述的异构数据源即缓存对象，缓存对象以键值对的形式存在，键值对包括两个数据项，键名和键值，键名是缓存对象的标号，为缓存项唯一标识，键值是缓存对象的数据，为缓存项内容；所述的缓存对象包括实体对象和非实体对象两类；所述的缓存按照存储位置分为线程缓存、虚拟机缓存和群集缓存三个层次，每个层次缓存设置有开或关两个状态。本发明设计合理，可以减轻数据源的负载，通过缓存数据和文件对象来减少读取数据源的次数，分层缓存能够提高缓存响应速度，并节约系统的资源。

Description

一种异构数据源的多级分布式高速缓存的查找方法

技术领域

本发明涉及涉及一种异构数据源的多级分布式高速缓存的查找方法，属于计算机缓存技术领域。

背景技术

网络拥塞与服务器超载是企业应用系统的普遍问题，此类问题加剧了服务提供方的资源消耗并严重影响着用户的使用体验。为企业系统增加缓存机制是解决这一问题的重要方法之一。系统缓存是位于应用程序与物理数据源之间，用于暂存数据的内存空间，其目的是为了减少直接对数据源进行访问的次数，从而节约系统资源，提高系统效率。

当前，缓存对于大型的互联网企业，每时每刻都有无数的用户在使用它们提供的互联网服务，这些服务带来的是大量的数据吞吐量，在同一时间，并发的会有成千上万的连接对数据库进行操作。在这种情况下，单台服务器或者几台服务器远远不能满足这些数据的处理需求，单靠提升服务器性也已经改变不了该情况，所以唯一可以采用的办法就是扩展服务器的规模。服务器规模扩展通常有两种方法：一种是仍然采用关系型数据库，然后通过对数据库的垂直和水平切割将整个数据库部署到一个集群上，这种方法的优点在于可以采用基于关系型数据库(RDBMS)的技术，但缺点在于它是针对特定应用，实施非常困难；另外一种方法就是Google和Amazon所采用的方法，抛弃关系型数据库，采用Key-Value形式的存储，这样可以极大地增强系统的可扩展性。事实上，基于Key-Value的分布式缓存就是由于Google的BigTable，Amazon的Dynamo以及Facebook的Cassandra等相关论文的发表而慢慢进入人们的视野，这些互联网巨头在分布式缓存上的成功实践也使之成为了云计算的核心技术。

本发明是一个高性能的分布式缓存方法，可以减轻数据源的负载，通过缓存数据和文件对象来减少读取数据源的次数，分层缓存能够提高缓存响应速度，并节约系统的资源。

专利公开号102216899，公开了一种管理高速缓存数据和元数据，它提供了用于管理将存储介质上的地址映射到高速缓存设备上的对应地址的高速缓存元数据的技术。高速缓存元数据可以存储在分层数据结构中。只有分层结构的各层的子集可被加载到存储器,从而减少高速缓存元数据的存储器“足迹”并在启动期间加速它的还原。启动还可以通过使用高速缓存元数据来执行与重新引导相关联的操作来进一步加速。在使用高速缓存元数据来标识该数据被存储在高速缓存中的地址以处理对从存储中读取数据的请求时,所标识的地址可被存储在存储器中。该方法一定程度上能解决上述问题，但设计比较复杂，成本较高，不利于推广。

发明内容

本发明所要解决的技术问题是克服现有技术中所存在的上述不足，而提供一种异构数据源的多级分布式高速缓存的查找方法，异构数据源的多级分布式高速缓存的查找方法是一个高性能的分布式数据或文件对象缓存系统，用以减轻数据源负载，通过缓存数据和文件对象来减少读取数据源的次数，并解决面对大规模的数据缓存的一些问题。

本发明解决上述技术问题所采用的技术方案是：一种异构数据源的多级分布式高速缓存的查找方法，其特征在于：所述的异构数据源即缓存对象，缓存对象以键值对的形式存在，键值对包括两个数据项，键名和键值，键名是缓存对象的标号，为缓存项唯一标识，键值是缓存对象的数据，为缓存项内容；所述的缓存对象包括实体对象和非实体对象两类。

所述的缓存按照存储位置分为线程缓存、虚拟机缓存和群集缓存三个层次，每个层次缓存设置有开或关两个状态；高速缓存的查找流程如下：

① 系统在进行数据请求时，生成Cachekey，就是为缓存的对象分配一个计算机能够识别的值，使得计算机能够更好地处理缓存对象；

② 对于进行请求的数据，首先到线程缓存中进行查找，如果找到数据，则返回数据，结束流程；如果无法找到数据，再到虚拟机缓存中进行查找；

③ 虚拟机缓存中查找线程缓存中未能找到的数据，如果找到数据，则将数据返回，同时更新线程缓存，以便下一次该数据在线程缓存中能够找到；如果无法找到数据，再到群集缓存中进行查找；

④ 群集缓存中查找虚拟机缓存中未能找到的数据，如果找到数据，则将数据返回，同时更新虚拟机缓存，以便下一次该数据在虚拟机缓存中能够找到；如果依旧无法找到数据，则取出数据，同时更新群集缓存。

本发明所述的线程缓存是指存储用户与系统交互过程中对应线程的数据，当用户对系统的每一次访问操作，在服务器端对应一个线程进行处理。在用户对系统进行访问的过程中，所使用的数据往往具备高度的重复性。线程缓存存储某个用户再次与系统交互过程中对应线程所使用的数据，将直接提高用户的响应速度。

本发明所述虚拟机缓存是指存储于服务器虚拟机的缓存。虚拟机缓存可以独立实现，也可以依赖于开源软件实现。不依赖开源软件实现，可以将每一个子缓存通过一个多线程安全的全局Map容器ConcurrentHashMap<Key, Value> 进行存储；而基于开源软件实现，可以视为开源软件提供了存储缓存数据的存储空间，将缓存键值对转化为开源软件的缓存对象，使用API接口存入对应的存储空间即可，开源软件自带了缓存的动态更新机制，以托管的形式维持系统缓存。虚拟机缓存随着虚拟机启动进行分配与加载，在虚拟机关闭时进行销毁。

本发明所述的群集缓存，一旦将应用部署在集群环境中，每一个节点将维护各自的缓存数据，当某个节点的缓存数据进行更新，如果更新的数据无法在其他节点中共享，将降低节点运行的效率，并导致数据不同步。采用集群模式时，集群中的每个节点都是对等关系，并不存在主节点或者从节点的概念，因此节点间必须有一个机制能够互相识别对方，必须知道其他节点的信息，包括主机地址端口号等。缓存之间相互连接后，当某个单机的缓存发生变化时，立即将数据变化通知到其他节点，其他节点通过通知更新数据以保持数据一致性。

本发明所述的实体对象是指本身存储于物理介质的资源，包括物理文件、数据库配置文件。实体类缓存的意义主要在于减少输入输出次数，以提高缓存系统效率。

本发明所述的非实体对象是指本身并未存储于物理介质的资源，而是系统进行服务过程中生成的中间计算结果，例如用户的检索记录登录状态权限判断结果等。非实体类缓存的意义主要在于减少长时间重复计算次数，以提高系统缓存效率。

本发明与现有技术相比，具有以下明显效果：设计合理，可以减轻数据源的负载，通过缓存数据和文件对象来减少读取数据源的次数，分层缓存能够提高缓存响应速度，并节约系统的资源。

附图说明

图1为本发明中高速缓存查找与更新算法的流程图。

具体实施方式

下面结合附图并通过实施例对本发明作进一步说明。

实施例：

参见图1，本实施例中，所述的异构数据源即缓存对象，缓存对象以键值对的形式存在，键值对包括两个数据项，键名和键值，键名是缓存对象的标号，为缓存项唯一标识，键值是缓存对象的数据，为缓存项内容；所述的缓存对象包括实体对象和非实体对象两类。

所述的缓存按照存储位置分为线程缓存、虚拟机缓存和群集缓存三个层次，每个层次缓存设置有开或关两个状态；高速缓存的查找流程如下：

① 系统在进行数据请求时，生成Cachekey，就是为缓存的对象分配一个计算机能够识别的值，使得计算机能够更好地处理缓存对象；

② 对于进行请求的数据，首先到线程缓存中进行查找，如果找到数据，则返回数据，结束流程；如果无法找到数据，再到虚拟机缓存中进行查找；

③ 虚拟机缓存中查找线程缓存中未能找到的数据，如果找到数据，则将数据返回，同时更新线程缓存，以便下一次该数据在线程缓存中能够找到；如果无法找到数据，再到群集缓存中进行查找；

④ 群集缓存中查找虚拟机缓存中未能找到的数据，如果找到数据，则将数据返回，同时更新虚拟机缓存，以便下一次该数据在虚拟机缓存中能够找到；如果依旧无法找到数据，则取出数据，同时更新群集缓存。

本实施例中，线程缓存是指存储用户与系统交互过程中对应线程的数据，当用户对系统的每一次访问操作，在服务器端对应一个线程进行处理。在用户对系统进行访问的过程中，所使用的数据往往具备高度的重复性。线程缓存存储某个用户再次与系统交互过程中对应线程所使用的数据，将直接提高用户的响应速度。

线程缓存通过Java虚拟机技术中的ThreadLocal技术实现。ThreadLocal是JDK中自带的一个工具类，为解决多线程程序的并发问题提供了一种新的思路，使用这个工具类可以很简洁地编写出优美的多线程程序。ThreadLocal可以视为一个线程内的全局变量。使静态的ThreadLocal<LRUMap>作为某一个子缓存的线程缓存。服务器端线程在开始执行初始化每个子缓存对应ThreadLocal<LRUMap>，在线程结束时销毁。每个服务器端线程在不同时间段内将为不同的用户请求进行服务，这些请求未必属于同一用户，这在某些情况下将导致数据不一致问题。

本实施例中，虚拟机缓存是指存储于服务器虚拟机的缓存。虚拟机缓存可以独立实现，也可以依赖于开源软件实现。不依赖开源软件实现，可以将每一个子缓存通过一个多线程安全的全局Map容器ConcurrentHashMap<Key, Value> 进行存储；而基于开源软件实现，可以视为开源软件提供了存储缓存数据的存储空间，将缓存键值对转化为开源软件的缓存对象，使用API接口存入对应的存储空间即可，开源软件自带了缓存的动态更新机制，以托管的形式维持系统缓存。虚拟机缓存随着虚拟机启动进行分配与加载，在虚拟机关闭时进行销毁。

虚拟机缓存是指存储于服务器虚拟机的缓存，虚拟机缓存可以独立实现，也可以依赖于开源软件实现。开源软件是指源码可以被公众使用的软件，并且此软件的使用、修改和分发也不受许可证的限制。不依赖开源软件实现，可以将每一个子缓存通过一个多线程安全的全局Map容器ConcurrentHashMap<Key, Value> 进行存储，每个子缓存对应系统中的某个类。Map容器是用于存储数据，并且能够从数据集合中取出数据，它的数据组成包括两项，一个是用于排序的关键字，关键字是唯一的；另一个是数据的值，该项与关键字无关。而基于开源软件实现，可以视为开源软件提供了存储缓存数据的存储空间，将缓存键值对转化为开源软件的缓存对象，使用API接口存入对应的存储空间即可。例如EhCache的EhCache对象，EhCache是一个纯Java的进程内缓存框架。API全称Application Programming Interface：应用程序编程接口，API是一些预先定义的函数，目的是提供应用程序与开发人员基于某软件或硬件的以访问一组例程的能力，而又无需访问源码或理解内部工作机制的细节。开源软件自带了缓存的动态更新机制，以托管的形式维持系统缓存。虚拟机缓存随着虚拟机启动进行分配与加载，在虚拟机关闭时进行销毁。

本实施例中，群集缓存，一旦将应用部署在集群环境中，每一个节点将维护各自的缓存数据，当某个节点的缓存数据进行更新，如果更新的数据无法在其他节点中共享，将降低节点运行的效率，并导致数据不同步。采用集群模式时，集群中的每个节点都是对等关系，并不存在主节点或者从节点的概念，因此节点间必须有一个机制能够互相识别对方，必须知道其他节点的信息，包括主机地址端口号等。缓存之间相互连接后，当某个单机的缓存发生变化时，立即将数据变化通知到其他节点，其他节点通过通知更新数据以保持数据一致性。

当前主流的开源软件均提供了集群环境支持。例如EhCache提供了手工配置和自动发现两种节点发现方式。手工配置方式要求在每个节点中配置其他所有节点的连接信息，一旦集群中的节点发生变化时，需要对缓存进行重新配置。EhCache提供了基于RMI、JMS和JGroups等技术的数种实现方案，每种方案的配置方法不同，对应使用的节点通信方式不同。RMI 全称Remote Method Invocation : 远程方法调用，它是一种机制，能够让在某个 Java 虚拟机上的对象调用另一个Java虚拟机中的对象上的方法。JMS全称Java Message Service：它是一个Java平台中关于面向消息中间件（MOM）的API，用于在两个应用程序之间或分布式系统中发送消息，进行异步通信。JGroups是一个开源的纯java编写的可靠的群组通讯工具，其是一个可靠的组播通讯工具集。

本发明所述的实体对象是指本身存储于物理介质的资源，包括物理文件、数据库配置文件。实体类缓存的意义主要在于减少输入输出次数，以提高缓存系统效率。

本发明所述的非实体对象是指本身并未存储于物理介质的资源，而是系统进行服务过程中生成的中间计算结果，例如用户的检索记录登录状态权限判断结果等。非实体类缓存的意义主要在于减少长时间重复计算次数，以提高系统缓存效率。

本实施例中，键名生成方法为：实体类缓存项本身含有能够在系统中进行唯一标识的信息，例如物理文件地址数据库中数据项的主键等。非实体类缓存同样也对应着标识信息，如检索记录类缓存项的检索词与检索对象，用户认证类缓存的用户ID号。可以直接使用此类原始的缓存标识信息直接或者做简单处理作为键名，但为了更好地组织缓存并避免出现键值重复，也可以使用缓存的原始信息进行计算得到新的键名。由于缓存类别的不同，各层次缓存进行键名生成的元素也不同，本发明提供的方案并非唯一可行方案，仅作为参照。缓存键名生成信息如表1所示：

表  缓存键名信息表

键名生成主要需要效率与避免重复，可通过原始键名进行MD5（Message-Digest Algorithm 5，消息摘要算法第五版，是一种为计算机安全领域广泛使用的散列函数）计算，也可使用哈希值方法。进行键名生成所使用的信息可以视为一个数组Sk=[sk₁,sk₂,…sk_n]。Key（k）定义为通过前k个信息元素生成的键值， Hash（m）为第m个元素的哈希值，为一个大素数，可以取17、31、53等值，则:

   

虽然本发明已以实施例公开如上，但其并非用以限定本发明的保护范围，任何熟悉该项技术的技术人员，在不脱离本发明的构思和范围内所作的更动与润饰，均应属于本发明的保护范围。

Claims (5)

1.一种异构数据源的多级分布式高速缓存的查找方法，其特征在于：所述的异构数据源即缓存对象，缓存对象以键值对的形式存在，键值对包括两个数据项，键名和键值，键名是缓存对象的标号，键值是缓存对象的数据；所述的缓存对象包括实体对象和非实体对象两类；

所述的缓存按照存储位置分为线程缓存、虚拟机缓存和群集缓存三个层次，每个层次缓存设置有开和关两个状态；高速缓存的查找流程如下：

① 系统在进行数据请求时，生成Cachekey，就是为缓存的对象分配一个计算机能够识别的值，使得计算机能够更好地处理缓存对象；

② 对于进行请求的数据，首先到线程缓存中进行查找，如果找到数据，则返回数据，结束流程；如果无法找到数据，再到虚拟机缓存中进行查找；

③ 虚拟机缓存中查找线程缓存中未能找到的数据，如果找到数据，则将数据返回，同时更新线程缓存，以便下一次该数据在线程缓存中能够找到；如果无法找到数据，再到群集缓存中进行查找；

④ 群集缓存中查找虚拟机缓存中未能找到的数据，如果找到数据，则将数据返回，同时更新虚拟机缓存，以便下一次该数据在虚拟机缓存中能够找到；如果依旧无法找到数据，则取出数据，同时更新群集缓存。

2.根据权利要求1所述的异构数据源的多级分布式高速缓存的查找方法，其特征在于：所述的线程缓存是指存储用户与系统交互过程中对应线程的数据，当用户对系统的每一次访问操作，在服务器端对应一个线程进行处理。

3.根据权利要求1或2所述的异构数据源的多级分布式高速缓存的查找方法，其特征在于：所述虚拟机缓存是指存储于服务器虚拟机的缓存。

4.根据权利要求1或2所述的异构数据源的多级分布式高速缓存的查找方法，其特征在于：所述的实体对象是指本身存储于物理介质的资源，包括物理文件、数据库配置文件。

5.根据权利要求1或2所述的异构数据源的多级分布式高速缓存的查找方法，其特征在于：所述的非实体对象是指本身并未存储于物理介质的资源，而是系统进行服务过程中生成的中间计算结果。