CN112860185A - 基于lru算法的高可用缓存方法、存储装置以及电子设备 - Google Patents

Abstract

一种基于LRU算法的高可用缓存方法，涉及缓存技术领域，其运算方式简单易行，通过将缓存划分为第一链表和第二链表两个区域，将冷数据和热数据分开，有效避免了冷数据对热数据的影响，同时保证了数据更新的实时性，实现了一个缓存命中率高且不受冷数据影响的缓存。本发明实施例还提供了一种存储装置以及电子设备，其采用上述高可用缓存方法，运算方式简单易行，既可以有效避免的冷数据对热数据的影响，又可以确保热数据更新的实时性，达到更佳的缓存命中率。

Description

基于LRU算法的高可用缓存方法、存储装置以及电子设备

技术领域

本发明涉及缓存技术领域，具体而言，涉及一种基于LRU算法的高可用缓存方法、存储装置以及电子设备。

背景技术

为了提高数据查询的速度，解决计算机读取磁盘速度慢的问题，缓存技术得到了广泛的应用。但是由于计算机内存大小明显小于磁盘大小，所以不可能将全部数据都放入缓存中，那么如何保证缓存的命中率成了缓存技术的重点。

现有常用的缓存淘汰策略有LRU（Least Recently Used）和 LFU（leastfrequently used）算法。LRU算法是选择最近最久未使用的数据予以淘汰，也即是说，在数据存储后需要存储新数据的时候，会将按照使用时间顺序进行淘汰，这样会导致冷数据可能会替换掉热数据，从而影响缓存命中率。而LFU算法则是完全按照使用频率进行排序，在数据存储后需要存储新数据的时候，会优先将使用频率低的数据进行淘汰，这样又会导致如果某一数据在一开始时热度过高，其排名会非常靠前，并且将会长久保存在缓存中难以被替换掉，导致热数据更新实时性差。综上所述，现有技术中缺乏一种既能避免冷数据替换热数据，又能保证较佳实时性的缓存方法。

发明内容

本发明的目的在于提供一种基于LRU算法的高可用缓存方法、存储装置以及电子设备，其运算方式简单易行，既可以有效避免的冷数据对热数据的影响，又可以确保热数据更新的实时性，达到更佳的缓存命中率。

本发明的实施例是这样实现的：

一种基于LRU算法的高可用缓存方法，其包括：

S1. 在内存中创建至少两个链表用于存储缓存数据，分别为第一链表和第二链表；第一链表在存满之后再存入新数据时，会淘汰位于其链尾位置的数据进入第二链表；第二链表在存满之后再存入新数据时，会移除位于其链尾位置的数据；

S2. 在访问数据时对内存中的缓存数据进行查询，若缓存数据中没有目标数据，则将目标数据写入第二链表的链头位置；若缓存数据中存在目标数据，则将目标数据更新至第一链表的链头位置。

进一步地，在本发明其它较佳实施例中，在S2步骤中，若缓存数据中存在目标数据则进入S3步骤；

S3. 对第一链表中的缓存数据进行查询，若第一链表中存在目标数据，则将目标数据更新至第一链表的链头位置；若第一链表中不存在目标数据，则进入S4步骤；

S4. 对第二链表中的缓存数据进行查询，若目标数据在第二链表中存在时长大于预设的时间阈值，则将目标数据更新至第一链表的链头位置；若目标数据在第二链表中存在的时长小于时间阈值，则保持目标数据的位置不变。

进一步地，在本发明其它较佳实施例中，第一链表和第二链表的内存大小比例为1：0.5~0.7。

进一步地，在本发明其它较佳实施例中，时间阈值为2000~5000 ms。

一种基于LRU算法的存储装置，其包括：

存储模块，存储模块中包括至少两个链表用于存储缓存数据，分别为第一链表和第二链表；

第一查询判定模块，用于在访问数据时对缓存数据进行查询，并判定其位置情况；

数据更新模块，用于根据第一查询判定模块的判定结果，对数据进行更新，若缓存数据中没有目标数据，则将目标数据写入第二链表的链头位置；若缓存数据中存在目标数据，则将目标数据更新至第一链表的链头位置；并且，在第一链表存满之后再存入新数据时，会淘汰位于其链尾位置的数据进入第二链表；在第二链表存满之后再存入新数据时，会移除位于其链尾位置的数据。

进一步地，在本发明其它较佳实施例中，还包括第二查询判定模块，用于在目标数据位于第二链表时，查询目标数据的存在时长，并与预设的时间阈值进行比对；

数据更新模块可根据第二查询模块的判定结果，对数据进行更新，若目标数据在第二链表中存在时长大于预设的时间阈值，则将目标数据更新至第一链表的链头位置；若目标数据在第二链表中存在的时长小于时间阈值，则保持目标数据的位置不变。

进一步地，在本发明其它较佳实施例中，在存储模块中，第一链表和第二链表的内存大小比例为1：0.5~0.7。

进一步地，在本发明其它较佳实施例中，第二查询判定模块中预设的时间阈值为2000~5000 ms。

一种电子设备，其包括：一个或多个处理器；一个或多个存储器；一个或多个存储器存储有一个或多个计算机程序，一个或多个计算机程序包括指令，当指令被一个或多个处理器执行时，使得电子设备执行上述基于LRU算法的高可用缓存方法。

本发明实施例的有益效果是：

本发明提供了一种基于LRU算法的高可用缓存方法，其运算方式简单易行，通过将缓存划分为第一链表和第二链表两个区域，将冷数据和热数据分开，有效避免了冷数据对热数据的影响，同时保证了数据更新的实时性，实现了一个缓存命中率高且不受冷数据影响的缓存。本发明实施例还提供了一种存储装置以及电子设备，其采用上述高可用缓存方法，运算方式简单易行，既可以有效避免的冷数据对热数据的影响，又可以确保热数据更新的实时性，达到更佳的缓存命中率。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1为本发明实施例所提供的基于LRU算法的高可用缓存方法的流程示意图；

图2为本发明实施例所提供的基于LRU算法的热数据读取示意图；

图3为本发明实施例所提供的基于LRU算法的冷数据读取示意图；

图4为本发明实施例所提供的基于LRU算法的存储装置的示意图。

图标：100-存储装置；110-存储模块；120-第一查询判定模块；130-第二查询判定模块；140-数据更新模块。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将对本发明实施例中的技术方案进行清楚、完整地描述。实施例中未注明具体条件者，按照常规条件或制造商建议的条件进行。所用软件或仪器未注明生产厂商者，均为可以通过市售购买获得的常规产品。

下面对本发明实施例的一种基于LRU算法的高可用缓存方法、存储装置100以及电子设备进行具体说明。

实施例

本实施例提供了一种基于LRU算法的高可用缓存方法，其流程示意图如图1所示，其包括：

S1. 在内存中创建至少两个链表用于存储缓存数据，分别为第一链表和第二链表。第一链表为新生区（young区），主要用于缓存一些访问热度较高的数据，而第二链表为老年区（old区），主要用于缓存一些访问热度较低的数据。

其中，第一链表在存满之后再存入新数据时，会淘汰位于其链尾位置的数据进入第二链表；第二链表在存满之后再存入新数据时，会移除位于其链尾位置的数据。

S2. 在访问数据时对内存中的缓存数据进行查询，若缓存数据中没有目标数据，则将目标数据写入第二链表的链头位置；若缓存数据中存在目标数据，则将目标数据更新至第一链表的链头位置。

通过这样的方式，如果出现全新的需要缓存的数据，那么其首先进入的是第二链表的链头位置，淘汰掉的是第二链表中处于链尾位置的低热度冷数据，对于第一链表中的高热度数据不会造成影响，有效避免了冷数据对热数据的覆盖。而如果该数据被再次读取，其将会由第二链表进入第一链表，成为热数据，对于热数据来说，每一次的读取都会将其更新到第一链表的链头位置，提高其优先级，避免被淘到到第二链表。

图2示出了读取第一链表中已存在的数据p3的情况，在数据p3被读取后，其位置将被更新到第一链表的链头位置，第一链表中的其它数据顺次后移，第二链表未发生变化。通过上述方式，根据数据的访问热度可以调整数据的优先级，避免其被末位淘汰。

图3示出了读取未存在于第一链表和第二链表中的冷数据px的情况，在数据px被读取后，其位置将被更新到第二链表的链头位置，若此时第二链表已满，则会将处于链尾位置的数据pn淘汰删除，而对于第一链表中的热数据不会有任何的影响，从而有效地避免了冷数据对热数据的覆盖。

进一步地，如图1所示，在S2步骤中，若缓存数据中存在目标数据则进入S3步骤；

S3. 对第一链表中的缓存数据进行查询，若第一链表中存在目标数据，则将目标数据更新至第一链表的链头位置；若第一链表中不存在目标数据，则进入S4步骤；

S4. 对第二链表中的缓存数据进行查询，若目标数据在第二链表中存在时长大于预设的时间阈值，则将目标数据更新至第一链表的链头位置；若目标数据在第二链表中存在的时长小于时间阈值，则保持目标数据的位置不变。

通过S3、S4步骤，可以进一步限定数据在被再次读取时由第二链表更新至第一链表的条件，只有当目标数据在第二链表中存在的时间大于时间阈值时才会被更新到第一链表。这个时间阈值通常可以取值为2000~5000 ms。通过该方法，可以避免冷数据在较短时间内被反复不正常读取时被判定为热数据，进而对第一链表中已存在的热数据造成影响。

可选地，第一链表和第二链表的内存大小比例为1：0.5~0.7。上述比例是发明人根据实际操作中热数据、冷数据的存储需求，对内存的优化利用，在上述比例范围内，对于内存的利用率较佳，同时缓存的命中率较高。

进一步地，参照图4所示，本实施例还提供了一种基于LRU算法的存储装置100，其包括：

存储模块110，存储模块110中包括至少两个链表用于存储缓存数据，分别为第一链表和第二链表；可选地，第一链表和第二链表的内存大小比例为1：0.5~0.7。

第一查询判定模块120，用于在访问数据时对缓存数据进行查询，并判定其位置情况；

数据更新模块140，用于根据第一查询判定模块120的判定结果，对数据进行更新，若缓存数据中没有目标数据，则将目标数据写入第二链表的链头位置；若缓存数据中存在目标数据，则将目标数据更新至第一链表的链头位置；并且，在第一链表存满之后再存入新数据时，会淘汰位于其链尾位置的数据进入第二链表；在第二链表存满之后再存入新数据时，会移除位于其链尾位置的数据。

该存储装置100实际上是上述基于LRU算法的高可用缓存方法的一种应用方式，通过该存储装置100，可以有效避免热数据被冷数据替代，保证缓存的命中率和实时性。

进一步地，该存储装置100还包括第二查询判定模块130，用于在目标数据位于第二链表时，查询目标数据的存在时长，并与预设的时间阈值进行比对；

数据更新模块140可根据第二查询模块的判定结果，对数据进行更新，若目标数据在第二链表中存在时长大于预设的时间阈值，则将目标数据更新至第一链表的链头位置；若目标数据在第二链表中存在的时长小于时间阈值，则保持目标数据的位置不变。可选地，第二查询判定模块130中预设的时间阈值为2000~5000 ms。

本实施例还提供了一种电子设备，其包括：一个或多个处理器；一个或多个存储器；一个或多个存储器存储有一个或多个计算机程序，一个或多个计算机程序包括指令，当指令被一个或多个处理器执行时，使得电子设备执行上述基于LRU算法的高可用缓存方法。

综上所述，本发明提供了一种基于LRU算法的高可用缓存方法，其运算方式简单易行，通过将缓存划分为第一链表和第二链表两个区域，将冷数据和热数据分开，有效避免了冷数据对热数据的影响，同时保证了数据更新的实时性，实现了一个缓存命中率高且不受冷数据影响的缓存。本发明实施例还提供了一种存储装置100以及电子设备，其采用上述高可用缓存方法，运算方式简单易行，既可以有效避免的冷数据对热数据的影响，又可以确保热数据更新的实时性，达到更佳的缓存命中率。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (9)

1.一种基于LRU算法的高可用缓存方法，其特征在于，包括：

S1. 在内存中创建至少两个链表用于存储缓存数据，分别为第一链表和第二链表；所述第一链表在存满之后再存入新数据时，会淘汰位于其链尾位置的数据进入所述第二链表；所述第二链表在存满之后再存入新数据时，会移除位于其链尾位置的数据；

S2. 在访问数据时对所述内存中的所述缓存数据进行查询，若所述缓存数据中没有目标数据，则将所述目标数据写入所述第二链表的链头位置；若所述缓存数据中存在所述目标数据，则将所述目标数据更新至所述第一链表的链头位置。

2.根据权利要求1所述的基于LRU算法的高可用缓存方法，其特征在于，在S2步骤中，若所述缓存数据中存在所述目标数据则进入S3步骤；

S3. 对所述第一链表中的缓存数据进行查询，若所述第一链表中存在所述目标数据，则将所述目标数据更新至所述第一链表的链头位置；若所述第一链表中不存在所述目标数据，则进入S4步骤；

S4. 对所述第二链表中的缓存数据进行查询，若所述目标数据在所述第二链表中存在时长大于预设的时间阈值，则将所述目标数据更新至所述第一链表的链头位置；若所述目标数据在所述第二链表中存在的时长小于所述时间阈值，则保持所述目标数据的位置不变。

3.根据权利要求1所述的基于LRU算法的高可用缓存方法，其特征在于，所述第一链表和所述第二链表的内存大小比例为1：0.5~0.7。

4.根据权利要求1所述的基于LRU算法的高可用缓存方法，其特征在于，所述时间阈值为2000~5000 ms。

5.一种基于LRU算法的存储装置，其特征在于，包括：

存储模块，所述存储模块中包括至少两个链表用于存储缓存数据，分别为第一链表和第二链表；

第一查询判定模块，用于在访问数据时对所述缓存数据进行查询，并判定其位置情况；

数据更新模块，用于根据所述第一查询判定模块的判定结果，对数据进行更新，若所述缓存数据中没有目标数据，则将所述目标数据写入所述第二链表的链头位置；若所述缓存数据中存在所述目标数据，则将所述目标数据更新至所述第一链表的链头位置；并且，在所述第一链表存满之后再存入新数据时，会淘汰位于其链尾位置的数据进入所述第二链表；在所述第二链表存满之后再存入新数据时，会移除位于其链尾位置的数据。

6.根据权利要求5所述的基于LRU算法的存储装置，其特征在于，还包括第二查询判定模块，用于在所述目标数据位于所述第二链表时，查询所述目标数据的存在时长，并与预设的时间阈值进行比对；

所述数据更新模块可根据所述第二查询模块的判定结果，对数据进行更新，若所述目标数据在所述第二链表中存在时长大于预设的时间阈值，则将所述目标数据更新至所述第一链表的链头位置；若所述目标数据在所述第二链表中存在的时长小于所述时间阈值，则保持所述目标数据的位置不变。

7.根据权利要求5所述的基于LRU算法的存储装置，其特征在于，在所述存储模块中，所述第一链表和所述第二链表的内存大小比例为1：0.5~0.7。

8.根据权利要求5所述的基于LRU算法的存储装置，其特征在于，所述第二查询判定模块中预设的所述时间阈值为2000~5000 ms。

9.一种电子设备，其特征在于，包括：一个或多个处理器；一个或多个存储器；所述一个或多个存储器存储有一个或多个计算机程序，所述一个或多个计算机程序包括指令，当所述指令被所述一个或多个处理器执行时，使得所述电子设备执行如权利要求1~4中任一项所述的基于LRU算法的高可用缓存方法。

Images