CN103678172B

CN103678172B - 一种本地数据缓存管理方法及装置

Info

Publication number: CN103678172B
Application number: CN201310737249.6A
Authority: CN
Inventors: 谭兰春
Original assignee: TCL Corp
Current assignee: TCL Corp
Priority date: 2013-12-25
Filing date: 2013-12-25
Publication date: 2017-05-03
Anticipated expiration: 2033-12-25
Also published as: CN103678172A

Abstract

本发明适用于计算机缓存管理技术领域，提供了一种本地数据缓存管理方法及装置，所述方法包括：从内存中分配连续的大块内存，并将所述大块内存空间划分为空间大小相等的若干个小单元，使指针指向第一个空闲小单元；有小于所述小单元大小空间的数据需要缓存时，将所述数据填充至所述指针指向的空闲小单元，然后将所述指针指向下一个空闲小单元；根据所述数据中关键字和关键字的长度，获取索引，根据所述索引，将所述数据的地址加入单向链表，并将所述单向链表的头指针插入哈希表。本发明，借鉴Memcached分配一个连续内存空间，使用固定大小的小单元作为最小缓存单元，使用哈希表保存数据地址的链表，方便灵活、快速存取数据，缓存性能高。

Description

一种本地数据缓存管理方法及装置

技术领域

本发明属于计算机缓存管理技术领域，尤其涉及一种本地数据缓存管理方法及装置。

背景技术

随着计算机的飞速发展，对CPU存取数据的速度要求越来越高，相应的，各种缓存技术相继出现并广泛应用。

其中，Memcached是一个高性能的分布式内存对象缓存系统，用于动态Web应用以减轻数据库负载。它通过在内存中缓存数据和对象来减少读取数据库的次数，从而提高数据库驱动网站的速度，同时，Memcached考虑了分布性、集群、数据网络传输这些因素，设计了相应的内存管理方式以及数据结构，采用内存连续分配、SLAB内存管理方式、哈希算法寻找以及近期最少使用算法（Least Recently Used，LRU）等方法，以空间换时间，获得了高性能存取，稳定性高，另外由于Memcached为开源项目，可发展性好。

另一方面，当前的本地缓存管理方法虽然多种多样，但是这些本地缓存管理方法的存取性能、稳定性、可发展性都存在欠缺，另外，在保存关键字对应的值时，都习惯采用一个关键字、一个值这种模式，实际中，经常需要一个关键字对应多种数据类型，因此，这样关键字与其值一一对应保存不够灵活。

发明内容

本发明实施例提供了一种本地数据缓存管理方法及装置，旨在解决现有本地缓存管理方法的稳定性、性能、可发展性存在的欠缺，以及关键字与其值一一对应保存不够灵活的问题。

一方面，提供一种本地数据缓存管理方法，所述方法包括：

从内存中分配连续的大块内存，并将所述大块内存空间划分为空间大小相等的若干个小单元，使指针指向第一个空闲小单元；

有小于所述小单元大小空间的数据需要缓存时，将所述数据填充至所述指针指向的空闲小单元，然后将所述指针指向下一个空闲小单元，所述数据为包括关键字、关键字的对应值的指针、存在时间和其他标识属性的封装结构体；

根据所述数据中关键字和关键字的长度，获取索引，根据所述索引，将所述数据的地址加入单向链表，并将所述单向链表的头指针插入哈希表。

另一方面，提供一种本地数据缓存管理装置，所述装置包括：

分配单元，用于从内存中分配连续的大块内存，并将所述大块内存空间划分为空间大小相等的若干个小单元，使指针指向第一个空闲小单元；

存储单元，用于有小于所述小单元大小空间的数据需要缓存时，将所述数据填充至所述指针指向的空闲小单元，然后将所述指针指向下一个空闲小单元，所述数据为包括关键字、关键字的对应值的指针、存在时间和其他标识属性的封装结构体；

索引单元，用于根据所述数据中关键字和关键字的长度，获取索引，根据所述索引，将所述数据的地址加入单向链表，并将所述单向链表的头指针插入哈希表。

在本发明实施例，从内存中分配连续的大块内存，并将所述大块内存空间划分为空间大小相等的若干个小单元，使指针指向第一个空闲小单元；有小于所述小单元大小空间的数据需要缓存时，将所述数据填充至所述指针指向的空闲小单元，然后将所述指针指向下一个空闲小单元；根据所述数据中关键字和关键字的长度，获取索引，根据所述索引，将所述数据的地址加入单向链表，并将所述单向链表的头指针插入哈希表，本发明，借鉴Memcached分配一个连续内存空间，使用固定大小的小单元作为最小缓存单元，使用哈希表保存数据地址的链表，方便灵活、快速存取数据，缓存性能高、稳定性和可发展性好。相对于Memcached，本实施例只在单一服务器上运行，分配较少缓存，无需考虑分布性及集群，无需考虑数据传输，简单精巧，并且数据存取快速高效。

附图说明

图1是本发明实施例一提供的本地数据缓存管理方法的实现流程图；

图2是图1的数据存储示意图；

图3是本发明实施例二提供的本地数据缓存管理方法的实现流程图；

图4是本发明实施例三提供的本地数据缓存管理装置的结构框图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

以下结合具体实施例对本发明的实现进行详细描述：

实施例一

图1示出了本发明实施例一提供的本地数据缓存管理方法的实现流程，详述如下：

需要说明的是，本发明尤其适用于在单台服务器上运行，内存空间极为有限的情况下。

在步骤S101中，从内存中分配连续的大块内存，并将所述大块内存空间划分为空间大小相等的若干个小单元，使指针指向第一个空闲小单元。

在本实施例中，所述大块内存为内存中分配的一个连续的内存空间，其大小根据服务器环境来设定，服务器内存越大，大块内存也可以越大。优选的，大块内存的大小范围为1-10Mb。大块内存相当于Memcached中的slab。所述小单元为若干个大小相等的组成所述大块内存的子内存空间，缓存数据的大小不能超出小单元的大小。优选的，所述小单元的大小为200bytes。小单元相当于Memcached中的chunk。所述大块内存和所述小单元的大小配置可灵活设定。从内存中分配连续的大块内存，并将所述大块内存空间划分为长度相等的若干个小单元，使指针指向第一个空闲小单元。如图2所示，将一个大块内存划分为大小相等的若干个小单元。该内存管理方法借鉴了Memcached的SALB内存管理方法，同时考虑到了单台服务器内存空间有限的情况,只申请一个大块内存。

在步骤S102中，有小于所述小单元大小空间的数据需要缓存时，将所述数据填充至所述指针指向的空闲小单元，然后将所述指针指向下一个空闲小单元，所述数据为包括关键字、关键字的对应值的指针、存在时间和其他标识属性的封装结构体。

在本实施例中，所述空闲小单元为没有填充数据的小单元。所述数据为包括关键字、关键字的值的指针、存在时间和其他标识属性的封装结构体。将所述数据填充至所述指针指向的空闲小单元，将所述指针指向下一个空闲小单元。所述数据的地址插入LRU队列。该队列采用近期最少使用算法（Least Recently Used，LRU）或根据数据的生命周期来淘汰很久不使用的数据。

作为一个优选方案，本步骤之前还可以包括以下步骤：

步骤11，计算所述数据的长度，若所述数据的空间大小大于所述小单元的空间大小，不保存所述数据。

具体的，由于小单元空间大小固定，再通过控制缓存数据需要的空间大小，可排除数据溢出引起的异常。

步骤12，若所述数据的空间大小小于所述小单元的空间大小，判断所述大块内存中空闲小单元的数量为0或所述小单元的使用率达到阀值时，淘汰所述数据。

具体的，所述阀值为90%。在大块内存被完全使用或者使用率达到90%时，需要淘汰一些太久没有使用或者生命周期已经结束的数据，然后回收清空的小单元以便于再次使用。优选的，所述淘汰所述数据包括以下两种方式的任一种：

第一种方式，根据LRU算法，获取需要淘汰的所述数据的地址，清空保存所述地址对应的小单元中所述数据。

第二种方式，根据所述数据中存在时间，计算所述数据的生命周期，淘汰所述生命周期结束的所述数据。

在步骤S103中，根据所述数据中关键字和关键字的长度，获取索引，根据所述索引，将所述数据的地址加入单向链表，并将所述单向链表的头指针插入哈希表。

在本实施例中，所述哈希表为含有多个指针的数组，每个指针都指向一个单向链表的头指针。根据所述数据中关键字和关键字的长度，获取索引，根据所述索引，将所述数据的地址加入单向链表，并将所述单向链表的头指针插入哈希表。如图2所示，单向链表的头指针逐一插入哈希表。获取关键字对应值的时候，可以快速查找对应链表，因为这样的链表中的数据个数相对来说就少多了。当数据越多，哈希查找的效果越能体现出来了,由于具体的关键字值通过哈希算法得到对应的索引，提高了查找效率。

本步骤之后，作为一个优选方案，还包括读取时，根据哈希算法，得到索引，查询所述索引对应的单向链表，从所述单向链表中所述地址对应的所述小单元中读取所述数据。

具体的，由于采用哈希算法，可以快速查询并读取所述数据。

本实施例，借鉴Memcached分配一个连续内存空间，使用固定大小的小单元作为最小缓存单元，使用哈希表保存数据地址的链表，方便灵活、快速存取数据，缓存性能高、稳定性和可发展性好。相对于Memcached，本实施例只在单一服务器上运行，分配较少缓存，无需考虑分布性及集群，无需考虑数据传输，简单精巧，并且数据存取快速高效。

实施例二

图3示出了本发明实施例二提供的本地数据缓存管理方法的实现流程，详述如下：

在步骤S301中，从内存中分配连续的大块内存，并将所述大块内存空间划分为空间大小相等的若干个小单元，使指针指向第一个空闲小单元。

在本实施例中，步骤S201的执行和上述实施例一中的步骤S101的执行过程类似，详情参见上述实施例一的描述。

在步骤S302中，通过变参函数，接收或读取所述数据。

具体的，由于大块内存是申请的可控的，每个小单元的边界也清楚，当知道数据类型的时候，也就知道了其在内存空间占据的位置和大小，依据参数的先后顺序、数据类型、数据个数，第一个参数保存时候的起始地址，自然能读写它们的值。如通过函数

set(char*value,int total,type1value1,type2value2,type3value3);或set(char*value,int total,…);

来接收所述数据，相应的，通过函数：

get(char*value,int total,…)来读取所述数据，其中，value为关键字对应的值的数据。

在步骤S303中，有小于所述小单元大小空间的数据需要缓存时，将所述数据填充至所述指针指向的空闲小单元，然后将所述指针指向下一个空闲小单元，所述数据为包括关键字、关键字的对应值的指针、存在时间和其他标识属性的封装结构体。

在步骤S304中，根据所述数据中关键字和关键字的长度，获取索引，根据所述索引，将所述数据的地址加入单向链表，并将所述单向链的表头指针插入哈希表。

在本实施例中，步骤S303-S304的执行和上述实施例一中的步骤S102-S103的执行过程类似，详情参见上述实施例一的描述。

本实施例，借鉴Memcached分配一个连续内存空间，使用固定大小的小单元作为最小缓存单元，使用哈希表保存数据地址的链表，方便灵活、快速存取数据，缓存性能高，实现了关键字与其值一对多灵活保存。相对于Memcached，本实施例只在单一服务器上运行，分配较少缓存，无需考虑分布性及集群，无需考虑数据传输，简单精巧，并且数据存取快速高效。

实施例三

图4示出了本发明实施例三提供的本地数据缓存管理装置的具体结构框图，为了便于说明，仅示出了与本发明实施例相关的部分。在本实施例中，该本地数据缓存管理装置包括：分配单元41、存储单元42、索引单元43、淘汰单元44、空间计算单元45、判断单元46、读取单元47和接口单元48。

其中，分配单元41，用于从内存中分配连续的大块内存，并将所述大块内存空间划分为空间大小相等的若干个小单元，使指针指向第一个空闲小单元；

存储单元42，用于有小于所述小单元大小空间的数据需要缓存时，将所述数据填充至所述指针指向的空闲小单元，然后将所述指针指向下一个空闲小单元，所述数据为包括关键字、关键字的对应值的指针、存在时间和其他标识属性的封装结构体；

索引单元43，用于根据所述数据中关键字和关键字的长度，获取索引，根据所述索引，将所述数据的地址加入单向链表，并将所述单向链表的头指针插入哈希表。

该装置借鉴Memcached分配一个连续内存空间，使用固定大小的小单元作为最小缓存单元，使用哈希表保存数据地址的链表，方便灵活、快速存取数据，缓存性能高。相对于Memcached，本实施例只在单一服务器上运行，分配较少缓存，无需考虑分布性及集群，无需考虑数据传输，简单精巧，并且数据存取快速高效。

进一步的，所述装置还包括：

淘汰单元44，用于将所述数据的地址插入LRU队列。

进一步的，所述装置还包括：

空间计算单元45，用于计算所述数据的空间大小，若所述数据的空间大小大于所述小单元的空间大小，不保存所述数据；

判断单元46，用于若所述数据的空间大小小于所述小单元的空间大小，判断所述大块内存中空闲小单元的数量为0或所述小单元的使用率达到阀值时，淘汰所述数据。

进一步的，所述判断单元还具体用于根据LRU算法，获取需要淘汰的所述数据的地址，清空保存所述地址对应的小单元中所述数据；或根据所述数据中存在时间，计算所述数据的生命周期，淘汰所述生命周期结束的所述数据。

进一步的，所述装置还包括：

读取单元47，用于读取时，根据哈希算法，得到索引，查询所述索引对应的单向链表，从所述单向链表中所述地址对应的所述小单元中读取所述数据。

进一步的，所述装置还包括：

接口单元48，用于通过变参函数，设置或读取所述数据。

该装置实现了关键字与其值一对多灵活保存。

本发明实施例提供的本地数据缓存管理装置可以应用在前述对应的方法实施例一和二中，详情参见上述实施例一和二的描述，在此不再赘述。

值得注意的是，上述系统实施例中，所包括的各个单元只是按照功能逻辑进行划分的，但并不局限于上述的划分，只要能够实现相应的功能即可；另外，各功能单元的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。

另外，本领域普通技术人员可以理解实现上述各实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，相应的程序可以缓存于一计算机可读取缓存介质中，所述的缓存介质，如ROM/RAM、磁盘或光盘等。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims

1.一种本地数据缓存管理方法，其特征在于，所述方法包括：

将所述数据的地址插入LRU队列；所述LRU队列采用近期最少使用算法LRU或根据数据的生命周期来淘汰很久不使用的数据；

2.如权利要求1所述的方法，其特征在于，所述有小于所述小单元的空间大小的数据需要缓存时，将所述数据填充至所述指针指向的第一个空闲小单元，将所述指针指向下一个空闲小单元之前还包括：

计算所述数据的空间大小，若所述数据的空间大小大于所述小单元的空间大小，不保存所述数据；

若所述数据的空间大小小于所述小单元的空间大小，判断所述大块内存中空闲小单元的数量为0或所述小单元的使用率达到阀值时，淘汰所述数据。

3.如权利要求2所述的方法，其特征在于，所述淘汰所述数据具体为：

根据LRU算法，获取需要淘汰的所述数据的地址，清空保存所述地址对应的小单元中所述数据；或

根据所述数据中存在时间，计算所述数据的生命周期，淘汰所述生命周期结束的所述数据。

4.如权利要求1、2或3所述的方法，其特征在于，所述方法还包括：

读取时，根据哈希算法，得到索引，查询所述索引对应的单向链表，从所述单向链表中所述地址对应的所述小单元中读取所述数据。

5.如权利要求4所述的方法，其特征在于，所述方法还包括：

通过变参函数，设置或读取所述数据。

6.一种本地数据缓存管理装置，其特征在于，所述装置包括：

淘汰单元，用于将所述数据的地址插入LRU队列；所述LRU队列采用近期最少使用算法LRU或根据数据的生命周期来淘汰很久不使用的数据；

7.如权利要求6所述的装置，其特征在于，所述装置还包括：

空间计算单元，用于计算所述数据的空间大小，若所述数据的空间大小大于所述小单元的空间大小，不保存所述数据；

判断单元，用于若所述数据的空间大小小于所述小单元的空间大小，判断所述大块内存中空闲小单元的数量为0或所述小单元的使用率达到阀值时，淘汰所述数据。

8.如权利要求7所述的装置，其特征在于，所述判断单元还具体用于根据LRU算法，获取需要淘汰的所述数据的地址，清空保存所述地址对应的小单元中所述数据；或根据所述数据中存在时间，计算所述数据的生命周期，淘汰所述生命周期结束的所述数据。

9.如权利要求6、7或8所述的装置，其特征在于，所述装置还包括：

读取单元，用于读取时，根据哈希算法，得到索引，查询所述索引对应的单向链表，从所述单向链表中所述地址对应的所述小单元中读取所述数据。

10.如权利要求9所述的装置，其特征在于，所述装置还包括：

接口单元，用于通过变参函数，设置或读取所述数据。