CN103164347A - 数据缓存的方法和装置 - Google Patents

Abstract

本发明公开了一种数据缓存的方法和装置，涉及计算机软件存储技术领域。该方法包括：响应于服务请求，创建服务线程；针对该服务线程，在系统内存中创建线程级缓存；在服务线程的业务逻辑处理过程中，根据该线程级缓存进行数据访问；在服务线程的业务逻辑处理完成后，释放该线程级缓存所占用的系统内存；销毁该服务线程。本发明线程级缓存的生命周期是一个服务线程的时间，占用系统内存资源的时间较短，通常是几微秒至几十毫秒，服务结束后线程级缓存全部释放,不占用任何资源,从而降低系统开销，并且线程级缓存能减少访问数据库服务器的频度，提高系统服务响应速度和效率。

Description

数据缓存的方法和装置

技术领域

本发明涉及计算机软件存储技术领域，特别涉及一种数据缓存的方法和装置。

背景技术

软件系统是指由系统软件、支撑软件和应用软件组成的计算机软件系统，它是计算机系统中由软件组成的部分。它包括操作系统、语言处理系统、数据库系统、分布式软件系统和人机交互系统等。

随着软件系统的发展，软件系统多以服务的方式对其他系统提供数据，服务一般是指执行指定系统功能的程序。然而提供服务的程序往往非常复杂，伴随着大量底层数据的重复访问，业界提出了数据缓存的解决方案。

目前数据缓存采用的是一种系统缓存的方案。系统缓存方案存在以下几个问题：

首先，系统内存的存储容量有限，不可能同时缓存所有的数据，所以系统缓存只能缓存整个系统层面认为最有价值的数据，也即很小一部分数据，然而系统对外提供的服务是多元化的，很多服务需要的是个性化数据，系统缓存不能将这类数据缓存，这就导致有大量数据不能使用系统缓存。

其次，系统缓存一经分配，在系统运行的整个过程中会长期占用为其分配的系统内存资源，系统开销很大。

再次，系统缓存所占用的系统内存资源往往是预先设定好的，即预先分配固定大小的系统内存资源，如果系统缓存所占用的系统内存资源分配过大，则会造成长期的资源浪费，如果分配过小，又会影响系统的访问性能。

发明内容

本发明实施例所要解决的一个技术问题是：传统数据缓存技术在系统运行的整个过程中会长期占用为其分配的系统内存资源，系统开销很大的问题。

本发明实施例所要解决的另一个技术问题是：传统数据缓存技术受限于存储容量，仅能缓存部分数据的问题。

本发明实施例所要解决的再一个技术问题是：传统数据缓存技术通常占用固定大小的系统内存资源，不够灵活，容易造成资源浪费或者影响系统访问性能的问题。

本发明实施例的一个方面提供了一种数据缓存的方法，包括：响应于服务请求，创建服务线程；针对该服务线程，在系统内存中创建线程级缓存；在服务线程的业务逻辑处理过程中，根据该线程级缓存进行数据访问；在服务线程的业务逻辑处理完成后，释放该线程级缓存所占用的系统内存；销毁该服务线程。

所述根据该线程级缓存进行数据访问具体包括：在服务线程的业务逻辑处理过程中如果需要访问数据，检查该线程级缓存中是否存在该数据；如果该线程级缓存中存在该数据，从该线程级缓存访问该数据；如果该线程级缓存中不存在该数据，从数据库服务器访问该数据。

所述从数据库服务器访问该数据之后还包括：将该数据保存到该线程级缓存。

该线程级缓存对该服务线程用过的所有数据进行缓存。

在服务线程的业务逻辑处理过程中，根据该线程级缓存需要缓存的数据量，动态分配该线程级缓存占用的系统内存。

本发明实施例的另一个方面提供了一种数据缓存的装置，包括：线程创建单元，用于响应于服务请求，创建服务线程；线程级缓存创建单元，用于针对该服务线程，在系统内存中创建线程级缓存；数据访问单元，用于在服务线程的业务逻辑处理过程中，根据该线程级缓存进行数据访问；内存资源释放单元，用于在服务线程的业务逻辑处理完成后，释放该线程级缓存所占用的系统内存；线程销毁单元，用于销毁该服务线程。

所述数据访问单元，具体用于在服务线程的业务逻辑处理过程中如果需要访问数据，检查该线程级缓存中是否存在该数据；如果该线程级缓存中存在该数据，从该线程级缓存访问该数据；如果该线程级缓存中不存在该数据，从数据库服务器访问该数据。

数据缓存的装置还包括：数据缓存单元，用于在从数据库服务器访问该数据之后，将该数据保存到该线程级缓存。

该线程级缓存对该服务线程用过的所有数据进行缓存。

数据缓存的装置还包括：内存资源分配单元，用于在服务线程的业务逻辑处理过程中，根据该线程级缓存需要缓存的数据量，动态分配该线程级缓存占用的系统内存。

本发明提出了一种线程级缓存方案，该线程级缓存方案具有以下优点：

首先，本发明在创建服务线程时即创建线程级缓存，在服务线程的业务逻辑处理完成后，释放该线程级缓存所占用的系统内存，然后销毁该服务线程，可见，本发明线程级缓存的生命周期是一个服务线程的时间，占用系统内存资源的时间较短，通常是几微秒至几十毫秒，服务结束后线程级缓存全部释放,不占用任何资源,从而降低系统开销。

其次，本发明线程级缓存是针对一个服务线程存在的，其所需要缓存的数据量往往远低于系统缓存的数据量，因此，本发明可以不再受限于存储容量，而是对服务线程使用过的所有数据进行缓存，不仅缓存高频访问数据，还可以缓存个性化数据，大大提高了所有数据的访问速度。

再次，本发明根据线程级缓存需要缓存的数据量，动态分配线程级缓存占用的系统内存，如果线程使用不同的数据越多，需要分配的内存越大，如果线程使用的数据是少数几个，即使频度再高需要分配的内存也很小，这种按需分配系统内存资源的技术，资源使用更合理，资源利用率更高。

最后，服务线程访问数据时，先检查线程级缓存中是否存在，如果存在则访问线程级缓存而不访问数据库服务器，线程级缓存是创建在本地系统内存中，而数据库服务器是局域网中另一台服务器，内存的速度远远高于网络的速度，因此线程级缓存能减少访问数据库服务器的频度，提高系统服务响应速度和效率。

通过以下参照附图对本发明的示例性实施例的详细描述，本发明的其它特征及其优点将会变得清楚。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本发明基于线程级缓存的数据缓存原理示意图。

图2为本发明基于线程级缓存的数据缓存方法一个实施例的流程示意图。

图3为本发明基于线程级缓存的数据缓存方法另一个实施例的流程示意图。

图4为本发明基于线程级缓存的数据缓存装置一个实施例的结构示意图。

图5为本发明基于线程级缓存的数据缓存装置另一个实施例的结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。以下对至少一个示例性实施例的描述实际上仅仅是说明性的，决不作为对本发明及其应用或使用的任何限制。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

除非另外具体说明，否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本发明的范围。

同时，应当明白，为了便于描述，附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。

对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论，但在适当情况下，所述技术、方法和设备应当被视为授权说明书的一部分。

在这里示出和讨论的所有示例中，任何具体值应被解释为仅仅是示例性的，而不是作为限制。因此，示例性实施例的其它示例可以具有不同的值。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步讨论。

图1为本发明基于线程级缓存的数据缓存原理示意图。

如图1所示，应用服务器用来处理服务请求，并返回服务结果，在服务过程中，如果需要访问数据，则根据服务请求所涉及的应用系统中的服务线程，首先从该服务线程对应的线程级缓存访问数据，如果线程级缓存没有需要访问的数据，再从数据库服务器访问数据，并且将该数据放入到线程级缓存中，以便于后续可以从线程级缓存访问该数据。

下面对上述描述所涉及到的名词进行解释。

线程是进程中单一顺序的控制流，也称为轻量进程，是运行中的程序的调度单位。

缓存是指临时文件交换区，例如：电脑里最大的缓存就是内存条了，最快的是CPU上镶的L1和L2缓存，显卡的显存是给GPU用的缓存，硬盘上也有16M或者32M的缓存。

服务是指执行指定系统功能的程序。

应用服务器定是指通过各种协议把商业逻辑曝露给客户端的程序。它提供了访问商业逻辑的途径以供客户端应用程序使用。应用系统部署在应用服务器上。

数据库服务器是由运行在局域网中的一台或多台计算机和数据库管理系统软件共同构成，数据库服务器为客户应用提供数据服务，这些服务包括查询、更新、事务管理、索引、高速缓存、查询优化、安全及多用户存取控制等。应用系统需要的数据存储在数据库服务器上。

图2为本发明基于线程级缓存的数据缓存方法一个实施例的流程示意图。如图2所示，该实施例的方法包括以下步骤：

步骤201，响应于服务请求，创建服务线程。

步骤202，针对该服务线程，在系统内存中创建线程级缓存。

线程级缓存的生命周期是一个服务线程的时间，占用系统内存资源的时间较短，通常是几微秒至几十毫秒，服务结束后线程级缓存全部释放,不占用任何资源,从而降低系统开销。

其中，线程级缓存对该服务线程用过的所有数据进行缓存。不仅缓存高频访问数据，还可以缓存个性化数据，大大提高了所有数据的访问速度。

步骤203，在服务线程的业务逻辑处理过程中，根据该线程级缓存进行数据访问。

在一个实施例中，根据该线程级缓存进行数据访问具体包括：在服务线程的业务逻辑处理过程中如果需要访问数据，检查该线程级缓存中是否存在该数据；如果该线程级缓存中存在该数据，从该线程级缓存访问该数据；如果该线程级缓存中不存在该数据，从数据库服务器访问该数据。从数据库服务器访问该数据之后，将该数据保存到该线程级缓存，以便于后续可以从线程级缓存访问该数据。线程级缓存是创建在本地系统内存中，而数据库服务器是局域网中另一台服务器，内存的速度远远高于网络的速度，因此线程级缓存能减少访问数据库服务器的频度，提高系统服务响应速度和效率。

在服务线程的业务逻辑处理过程中，根据该线程级缓存需要缓存的数据量，动态分配该线程级缓存占用的系统内存。如果线程使用不同的数据越多，需要分配的内存越大，如果线程使用的数据是少数几个，即使频度再高需要分配的内存也很小，这种按需分配系统内存资源的技术，资源使用更合理，资源利用率更高。

步骤204，在服务线程的业务逻辑处理完成后，释放该线程级缓存所占用的系统内存。

步骤205，销毁该服务线程。

图3为本发明基于线程级缓存的数据缓存方法另一个实施例的流程示意图。如图3所示，该实施例的方法包括以下步骤：

步骤301，客户端向应用服务器发起服务请求，应用服务器接收客户端发送的服务请求。

步骤302，应用服务器响应于该服务请求，实例化服务程序，并创建服务线程。

步骤303，应用服务器针对该服务线程，在系统内存中创建线程级缓存。

步骤304，服务线程处理业务逻辑。

步骤305，在服务线程的业务逻辑处理过程中，需要访问数据。

步骤306，检查线程级缓存中是否存在该数据；如果线程级缓存中存在该数据，执行步骤307；如果线程级缓存中不存在该数据，执行步骤308。

步骤307，从线程级缓存访问该数据，然后执行步骤310。

步骤308，从数据库服务器访问该数据。

步骤309，将该数据保存到线程级缓存，以便于后续可以从线程级缓存访问该数据，然后执行步骤310。

步骤310，判断服务线程的业务逻辑是否处理完成；如果业务逻辑处理完成，执行步骤311，如果业务逻辑处理未完成，则执行步骤304，继续处理业务逻辑。

步骤311，释放线程级缓存所占用的系统内存。

步骤312，销毁该服务线程。

步骤313，应用服务器向客户端返回服务结果。

图4为本发明基于线程级缓存的数据缓存装置一个实施例的结构示意图。数据缓存装置可以是应用服务器中的一个功能模块。

如图4所示，数据缓存装置包括：

线程创建单元401，用于响应于服务请求，创建服务线程；

线程级缓存创建单元402，用于针对该服务线程，在系统内存中创建线程级缓存；

数据访问单元403，用于在服务线程的业务逻辑处理过程中，根据该线程级缓存进行数据访问；

内存资源释放单元404，用于在服务线程的业务逻辑处理完成后，释放该线程级缓存所占用的系统内存；以及

线程销毁单元405，用于销毁该服务线程。

其中，数据访问单元403具体用于在服务线程的业务逻辑处理过程中如果需要访问数据，检查该线程级缓存中是否存在该数据；如果该线程级缓存中存在该数据，从该线程级缓存访问该数据；如果该线程级缓存中不存在该数据，从数据库服务器访问该数据。

其中，该线程级缓存对该服务线程用过的所有数据进行缓存。

图5为本发明基于线程级缓存的数据缓存装置另一个实施例的结构示意图。

如图5所示，数据缓存装置还包括：数据缓存单元506，用于在从数据库服务器访问该数据之后，将该数据保存到该线程级缓存。

如图5所示，数据缓存装置还包括：内存资源分配单元507，用于在服务线程的业务逻辑处理过程中，根据该线程级缓存需要缓存的数据量，动态分配该线程级缓存占用的系统内存。

本发明实施例提供的数据缓存的方法和装置是一种线程级缓存方案，该线程级缓存方案具有以下优点：

首先，本发明在创建服务线程时即创建线程级缓存，在服务线程的业务逻辑处理完成后，释放该线程级缓存所占用的系统内存，然后销毁该服务线程，可见，本发明线程级缓存的生命周期是一个服务线程的时间，占用系统内存资源的时间较短，通常是几微秒至几十毫秒，服务结束后线程级缓存全部释放,不占用任何资源,从而降低系统开销。

其次，本发明线程级缓存是针对一个服务线程存在的，其所需要缓存的数据量往往远低于系统缓存的数据量，因此，本发明可以不再受限于存储容量，而是对服务线程使用过的所有数据进行缓存，不仅缓存高频访问数据，还可以缓存个性化数据，大大提高了所有数据的访问速度。

再次，本发明根据线程级缓存需要缓存的数据量，动态分配线程级缓存占用的系统内存，如果线程使用不同的数据越多，需要分配的内存越大，如果线程使用的数据是少数几个，即使频度再高需要分配的内存也很小，这种按需分配系统内存资源的技术，资源使用更合理，资源利用率更高。

最后，服务线程访问数据时，先检查线程级缓存中是否存在，如果存在则访问线程级缓存而不访问数据库服务器，线程级缓存是创建在本地系统内存中，而数据库服务器是局域网中另一台服务器，内存的速度远远高于网络的速度，因此线程级缓存能减少访问数据库服务器的频度，提高系统服务响应速度和效率。

本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。

以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种数据缓存的方法，包括：

响应于服务请求，创建服务线程；

针对该服务线程，在系统内存中创建线程级缓存；

在服务线程的业务逻辑处理过程中，根据该线程级缓存进行数据访问；

在服务线程的业务逻辑处理完成后，释放该线程级缓存所占用的系统内存；

销毁该服务线程。

2.根据权利要求1所述的方法，其特征在于，所述根据该线程级缓存进行数据访问具体包括：

在服务线程的业务逻辑处理过程中如果需要访问数据，检查该线程级缓存中是否存在该数据；

如果该线程级缓存中存在该数据，从该线程级缓存访问该数据；

如果该线程级缓存中不存在该数据，从数据库服务器访问该数据。

3.根据权利要求2所述的方法，其特征在于，所述从数据库服务器访问该数据之后还包括：

将该数据保存到该线程级缓存。

4.根据权利要求1所述的方法，其特征在于，该线程级缓存对该服务线程用过的所有数据进行缓存。

5.根据权利要求1所述的方法，其特征在于，还包括：

在服务线程的业务逻辑处理过程中，根据该线程级缓存需要缓存的数据量，动态分配该线程级缓存占用的系统内存。

6.一种数据缓存的装置，包括：

线程创建单元，用于响应于服务请求，创建服务线程；

线程级缓存创建单元，用于针对该服务线程，在系统内存中创建线程级缓存；

数据访问单元，用于在服务线程的业务逻辑处理过程中，根据该线程级缓存进行数据访问；

内存资源释放单元，用于在服务线程的业务逻辑处理完成后，释放该线程级缓存所占用的系统内存；

线程销毁单元，用于销毁该服务线程。

7.根据权利要求6所述的装置，其特征在于，所述数据访问单元，具体用于

在服务线程的业务逻辑处理过程中如果需要访问数据，检查该线程级缓存中是否存在该数据；

如果该线程级缓存中存在该数据，从该线程级缓存访问该数据；

如果该线程级缓存中不存在该数据，从数据库服务器访问该数据。

8.根据权利要求7所述的装置，其特征在于，还包括：

数据缓存单元，用于在从数据库服务器访问该数据之后，将该数据保存到该线程级缓存。

9.根据权利要求6所述的装置，其特征在于，该线程级缓存对该服务线程用过的所有数据进行缓存。

10.根据权利要求6所述的装置，其特征在于，还包括：

内存资源分配单元，用于在服务线程的业务逻辑处理过程中，根据该线程级缓存需要缓存的数据量，动态分配该线程级缓存占用的系统内存。

Images