CN111651520A - 一种缓存架构访问方法、装置、介质和电子设备 - Google Patents
一种缓存架构访问方法、装置、介质和电子设备 Download PDFInfo
- Publication number
- CN111651520A CN111651520A CN202010450244.5A CN202010450244A CN111651520A CN 111651520 A CN111651520 A CN 111651520A CN 202010450244 A CN202010450244 A CN 202010450244A CN 111651520 A CN111651520 A CN 111651520A
- Authority
- CN
- China
- Prior art keywords
- data value
- data
- value
- cache
- area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
- G06F16/2308—Concurrency control
- G06F16/2315—Optimistic concurrency control
- G06F16/2322—Optimistic concurrency control using timestamps
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24552—Database cache management
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种缓存架构访问方法、装置、介质和电子设备,该方法包括:设置缓存数据结构,缓存数据结构包括第一区域、第二区域和第三区域,其中,第一区域用于存储与数据库同步的第一数据值,第二区域用于存储缓存数据结构中是否存在第一数据值的标识,第三区域用于存储当前时间戳;响应于针对所述第一数据值的查询请求,通过所述标识确定所述第一数据值存在时,从所述缓存数据结构读取所述第一数据值;当通过所述标识确定所述第一数据值不存在时,从所述数据库读取所述第一数据值。通过设置缓存数据结构区域,使得在对缓存数据结构以及数据库读取或修改时,根据不同情况分别执行不同的读取或修改策略,从而有效的提高了缓存访问的命中率。
Description
技术领域
本公开涉及计算机技术领域,具体而言,涉及一种缓存架构访问方法、装置、介质和电子设备。
背景技术
目前互联网业务中,由于用户规模庞大,很多场景存在高并发访问需求。常用的存储数值的场景(比如用户数据),一般都会采用高性能的非关系型的数据缓存(如Redis)和高通讯协议下的数据库存储(如Mysql)的架构来实现。但是在数据访问过程中,如何保证缓存的高命中率、缓存和存储库存储的数据一致性,一直是缓存架构中的技术难点。
现有技术中,常见的缓存方案(如经典google缓存架构)为更新时删除缓存,让下次访问时通过数据库更新数据,此方案存在的问题是缓存使用率过低,在应对突发的访问高峰时,由于访问流量较大,容易导致访问数据库的崩溃。同时也不能保证缓存和数据库中存储的数据的一致性。
公开内容
本公开的目的在于提供一种缓存架构访问方法、装置、介质和电子设备,至少能够解决上述提到的技术问题之一。具体方案如下:
根据本公开的具体实施方式,第一方面,本公开提供一种缓存架构访问方法,包括:设置缓存数据结构,所述缓存数据结构包括第一区域、第二区域和第三区域,其中,所述第一区域用于存储与数据库同步的第一数据值,所述第二区域用于存储所述缓存数据结构中是否存在所述第一数据值的标识,所述第三区域用于存储当前时间戳;响应于针对所述第一数据值的查询请求,通过所述标识确定所述第一数据值存在时,从所述缓存数据结构读取所述第一数据值;当通过所述标识确定所述第一数据值不存在时,从所述数据库读取所述第一数据值。
可选的,所述当通过所述标识确定所述第一数据值不存在时,从所述数据库读取所述第一数据值之后,还包括:设置所述第一区域存储的数据为从所述数据库读取的所述第一数据值;设置所述第二区域的标识为所述缓存数据结构中存在所述第一数据值;更新所述第三区域的当前时间戳为当前读取时间值。
可选的,还包括修改所述缓存数据结构中的数据,所述修改缓存数据结构中的数据包括:响应于针对所述第一数据值的修改请求,当所述第一数据值发生变更时,更新所述第一区域对应的第一数据值为第二数据值;同步更新所述数据库中的所述第一数据值为第二数据值;或者,响应于针对所述第一数据值的修改请求,当所述第一数据值发生变更时,更新所述第一区域对应的第一数据值为第二数据值;异步更新所述数据库中的所述第一数据值为第二数据值。
可选的,所述修改缓存数据结构中的数据还包括:当更新所述数据库中的所述第一数据值为第二数据值败时,重复更新所述缓存数据结构中的数据,直至将所述数据库中的所述第一数据值更新为第二数据值。
可选的,所述直至将所述数据库中的所述第一数据值更新为第二数据值之后,还包括:在所述第一区域存储所述第二数据值;设置所述第二区域的标识为所述缓存数据结构中存在所述第二数据值;更新所述第三区域为当前更新时间值。
可选的,所述设置缓存数据结构还包括第四区域,所述第四区域用于存储缓存数据过期时间。
可选的,还包括:计算所述当前更新时间值与所述当前读取时间值的差值,当所述差值小于所述过期时间时,对所述过期时间做过期处理。
可选的,所述方法还包括,对所述过期时间进行调整,具体地:当一段时间内访问所述数据库的实际流量小于预期的数据库访问流量阈值,且所述实际流量与所述流量阈值的差值与所述流量阈值的比值低于稳定性阈值时,基于当前过期时间和过期时间调整步长调整过期时间;
当一段时间内访问所述数据库的实际流量大于预期的数据库访问流量阈值,且所述实际流量与所述流量阈值的差值与所述流量阈值的比值高于稳定性阈值时,基于过期时间调整步长调整过期时间;
当一段时间内访问所述数据库的实际流量等于预期的数据库访问流量阈值时,设置调整后过期时间等于当前过期时间。
根据本公开的具体实施方式,第二方面,本公开提供一种缓存架构访问装置,包括:
设置单元,用于设置缓存数据结构,所述缓存数据结构包括第一区域、第二区域和第三区域,其中,所述第一区域用于存储与数据库同步的第一数据值,所述第二区域用于存储所述缓存数据结构中是否存在所述第一数据值的标识,所述第三区域用于存储当前时间戳;
读取单元,用于响应于针对所述第一数据值的查询请求,通过所述标识确定所述第一数据值存在时,从所述缓存数据结构读取所述第一数据值;当通过所述标识确定所述第一数据值不存在时,从所述数据库读取所述第一数据值。
根据本公开的具体实施方式,第三方面,本公开提供一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现如上任一项所述的方法。
根据本公开的具体实施方式,第四方面,本公开提供一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如上任一项所述的方法。
本公开实施例的上述方案与现有技术相比,至少具有以下有益效果:
本公开提供一种缓存架构访问方法、装置、介质和电子设备,通过设置缓存数据结构区域参数,使得在对缓存以及数据库读取或修改时,根据不同情况分别执行不同的读取或修改策略,从而有效的提高了缓存访问的命中率;同时,根据访问流量的动态变化,自动的调整过期时间,从而提高了低峰期缓存和数据库数据的一致性,同时一定程度上防止高峰期由于访问量的激增而打穿数据库,造成数据库访问的崩溃。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示出了根据本公开实施例的缓存架构方法的应用场景图;
图2示出了根据本公开实施例的缓存架构方法流程图;
图3示出了根据本公开实施例的缓存架构读取方法流程图;
图4示出了根据本公开实施例的缓存架构修改方法流程图;
图5示出了根据本公开实施例的缓存架构装置结构示意图;
图6示出了根据本公开的实施例的电子设备连接结构示意图。
具体实施方式
为了使本公开的目的、技术方案和优点更加清楚,下面将结合附图对本公开作进一步地详细描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本公开保护的范围。
在本公开实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本公开。在本公开实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义,“多种”一般包含至少两种。
应当理解,本文中使用的术语“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
应当理解,尽管在本公开实施例中可能采用术语第一、第二、第三等来描述某某某,但这些某某某不应限于这些术语。这些术语仅用来将某某某区分开。例如,在不脱离本公开实施例范围的情况下,第一某某某也可以被称为第二某某某,类似地,第二某某某也可以被称为第一某某某。
取决于语境,如在此所使用的词语“如果”、“若”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地,取决于语境,短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的商品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种商品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个某某某”限定的要素,并不排除在包括所述要素的商品或者装置中还存在另外的相同要素。
下面结合附图详细说明本公开的可选实施例。
如图1所示,为本公开实施例的一种应用场景,该应用场景为计算机通过网络通讯协议访问计算机缓存设备以及计算机存储设备。其中,计算机包括任何具有数据读写能力的电子设备,包括但不限于服务器,例如可以是一个或多个计算设备(诸如机架式服务器、路由器计算机、服务器计算机、个人计算机、大型计算机、智能电话、个人数字助手、膝上型计算机、平板电脑、以及台式计算机等等)。访问网络可以包括以下一个或多个:公共网络(诸如因特网)、专用网络(诸如局域网(LAN)或广域网(WAN))、有线网络(诸如以太网)、无线网络(诸如802.11网络或Wi-Fi网络)、蜂窝网络(诸如长期演进(LTE)网络)、路由器、集线器、交换机、服务器计算机、和/或它们的组合。计算机存储设备包括但不限于例如具有存储器、硬盘、固态盘等等的单独的计算设备。数据缓存器可以分为一级缓存、二级缓存等,一级缓存、二级缓存等又包括私有数据缓存和共享数据缓存。可以通过指令对缓存中的第一区域、第二区域中的参数或数据进行设置和修改。
如图2、根据本公开的具体实施方式,本公开提供一种缓存架构访问方法,包括如下方法步骤:
步骤S202:设置缓存数据结构,所述缓存数据结构包括第一区域、第二区域和第三区域,其中,所述第一区域用于存储与数据库同步的第一数据值,所述第二区域用于存储所述缓存数据结构中是否存在所述第一数据值的标识,所述第三区域用于存储当前时间戳。
缓存设备通常包括采取易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)和/或高速缓冲存储器。缓存设备可包括一个或多个主动缓冲存储器件。主动缓冲器件可包括多个存储元件(例如,芯片)。主动缓冲存储器件可包括形成三维存储器件的存储层,在该三维存储器件中,各个芯片列形成与中央处理器通信的库。主动缓冲存储器件可包括多个分区,这些分区可被多个处理元件同时访问,其中这些分区可以是任何适当的存储段,其中包括但不限于库。
在一个读写周期中,该缓存结构能够完成多次读写操作;其中,写操作具体为:向一些写通道写入数据,之后该缓存结构会从写通道中获取数据,然后将获取到的数据写入一个或多个数据存储模块,并返回地址;读操作具体为:向读通道写入读地址,之后缓存模块会从读通道中获取读地址,然后读取该读地址对应的数据存储区块中的数据并输出。
在对缓存数据结构进行读写操作时,往往通过一些常规指令进行,例如参数设置指令Hset,参数修改指令Hhincreby等等。在本实施例中,首先对缓存数据结构中的参数进行参数设置。其中,作为一种实施方式,例如缓存数据结构哈希结构时,通过参数设置指令Hset进行参数设置,例如具体设置方法包括:
1、对数据结构的第一区域field1存入用户数据,记为第一数据。
2、在数据结构的第二区域field2设置标识flag,其中1表示在第一区域存在第一数据,0或不存在表示非来自缓存,即在第一区域不存在第一数据。
3、在数据结构的第三区域field3设置缓存的时间戳,表示当前设置时间t。
4、在数据结构的第四区域field3设置参数M,所述参数M用于表示缓存数据过期时间。
步骤S204:响应于针对所述第一数据值的查询请求,通过所述标识确定所述第一数据值存在时,从所述缓存数据结构读取所述第一数据值;当通过所述标识确定所述第一数据值不存在时,从所述数据库读取所述第一数据值。
如图3所示,用户在需要读取第一数据时,先在缓存中查询是否存在该第一数据,当查询后所述标识flag为1时,表示缓存中存在需要查询的第一数据,则直接从所述缓存数据结构读取所述第一数据值。当查询标识flag为0时,则说明缓存中不存在第一数据,则改为从数据库中读取第一数据。
作为实施方式之一,所述当通过所述标识确定所述第一数据值不存在时,从所述数据库读取所述第一数据值之后,还包括:设置所述第一区域存储的数据为从所述数据库读取的所述第一数据值;设置所述第二区域的标识为所述缓存数据结构中存在所述第一数据值;更新所述第三区域的当前时间戳为当前读取时间值。
当查询标识flag为0时,从数据库中读取第一数据后,需要同时设置缓存,通过Hset指令操作在缓存中的第一区域field1存储第一数据,并将缓存中的第二标识设置为1,同时更新缓存中第三区域field3的当前时间戳为当前时间值。
作为实施方式之一,还包括修改所述缓存数据结构中的数据,所述修改缓存数据结构中的数据包括:响应于针对所述第一数据值的修改请求,当所述第一数据值发生变更时,更新所述第一区域对应的第一数据值为第二数据值;同步更新所述数据库中的所述第一数据值为第二数据值;或者,响应于针对所述第一数据值的修改请求,当所述第一数据值发生变更时,更新所述第一区域对应的第一数据值为第二数据值;异步更新所述数据库中的所述第一数据值为第二数据值。。
如图4所示,当用户的第一数据值发生变更时,例如需要从第一数据值变更为第二数据值时,其中,第二数据值可以大于、小于或等于第一数据值。直接通过指令Hincreby增加或减少缓存中的第一数据值对应第一区域field1,再更新数据库。或者,直接通过指令Hincreby修改所述第一区域对应的第一数据值为第二数据值;同时,修改所述数据库中的所述第一数据值为第二数据值。
作为实施方式之一,所述修改缓存数据结构还包括:当更新所述数据库中的所述第一数据值为第二数据值败时,重复更新所述缓存数据结构中的数据,直至将所述数据库中的所述第一数据值更新为第二数据值。
接续上述实施例描述,在对缓存的第一区域的第一数据值修改为第二数据值失败时,则需要反复更新缓存redis中的值,即通过指令Hincreby来反向操作。此时的更新步骤中,不读取缓存redis的标识判断是否有值,采用直接通过指令HincrBy修改的方式。数据读取和修改之间存在时间差,采用直接通过指令HincrBy修改的方式处理可以避免由于数据读取和修改之间存在的时间差,而导致数据的不准确。因为先读取缓存redis判断是否有值,有值再修改时,如果在读取和修改之间缓存恰好过期了,修改的数据就会变成用增量赋值,导致数据的不准确。
作为实施方式之一,所述直接修改所述数据库中的所述第一数据值为第二数据值之后,还包括:在所述第一区域存储所述第二数据值;设置所述第二区域的标识为所述缓存数据结构中存在所述第二数据值;更新所述第三区域为当前更新时间值。
作为实施方式之一,所述设置缓存数据结构还包括第四区域,所述第四区域用于存储缓存数据过期时间。
作为实施方式之一,还包括:计算所述当前更新时间值与所述当前读取时间值的差值,当所述差值小于所述过期时间时,对所述过期时间做过期处理。
作为实施方式之一,所述方法还包括,对所述过期时间进行调整,具体地:当一段时间内访问所述数据库的实际流量小于预期的数据库访问流量阈值,且所述实际流量与所述流量阈值的差值与所述流量阈值的比值低于稳定性阈值时,基于当前过期时间和过期时间调整步长调整过期时间;
当一段时间内访问所述数据库的实际流量大于预期的数据库访问流量阈值,且所述实际流量与所述流量阈值的差值与所述流量阈值的比值高于稳定性阈值时,基于过期时间调整步长调整过期时间;
当一段时间内访问所述数据库的实际流量等于预期的数据库访问流量阈值时,设置调整后过期时间等于当前过期时间。
由于用户变更第一数据值时是直接修改缓存redis中的内容,写缓存redis和数据库存在一定的失败率,会导致缓存redis和数据库中的数据值存在差异。这时候需要合理的设置缓存的过期时间,通过尽快回源的方式来减少缓存redis和数据库之间的不一致。
具体实施方法为:把缓存redis本身的过期时间M设置一个较大的值,设置缓存时通过Hset指令设置额外的读取时间参数t1,读取时间参数t1的单位为秒,表示缓存中读取数据时设置的时间。读取缓存时在代码中判断读取时间参数t1和当前时间t2的差T=t1-t2,如果时间差T小于配置的过期时间M则做过期处理,此配置的过期时间M,用指令etcd或者consul等可以动态更新的服务来中设置,方便灵活调整。
作为实施方式之一,过期时间可以进行动态调整,具体策略如下:上述的缓存过期时间M支持动态调整,策略根据访问数据库的请求量自动进行优化实时调整。具体示例如下:
a.首先需要动态配置化的设置以下参数
i.预期的数据库访问流量阈值A,表示一个预估的设定值;
ii.预期过期时间B;
iii.窗口时间C,用于表示一定时间范围内的数据访问或修改;
iv.过期时间调整步长D,表示调整时的单位,例如5秒;
v.稳定性阈值E(一个百分比值)。
b.过期时间自动化调整具体策略:当窗口时间C内访问数据库的实际流量为F时,定义调整后过期时间配置S1,当前过期时间配置为S0,则按照如下情况进行调整:
i.如果F<A且(A-F)/A*100<E,则S1=S0-D;
ii.如果F>A且(F-A)/A*100>E,则S1=S1+D;
iii.其他情况S1=S0。
通过设置缓存数据结构区域参数,使得在对缓存以及数据库读取或修改时,根据不同情况分别执行不同的读取或修改策略,从而有效的提高了缓存访问的命中率;同时,根据访问流量的动态变化,自动的调整过期时间区域,从而提高了低峰期缓存和数据库数据的一致性,同时一定程度上防止高峰期由于访问量的激增而打穿数据库,造成数据库访问的崩溃。
根据本公开的具体实施方式提供一种缓存架构装置,本实施例承接如上实施例,用于实现如上实施例所述的方法步骤,基于相同的名称含义的解释与如上实施例相同,具有与如上实施例相同的技术效果,此处不再赘述。
如图5所示,根据本公开的具体实施方式,本公开提供一种缓存架构装置,包括:
设置单元502,用于设置缓存数据结构,所述缓存数据结构包括第一区域、第二区域和第三区域,其中,所述第一区域用于存储与数据库同步的第一数据值,所述第二区域用于存储所述缓存数据结构中是否存在所述第一数据值的标识,所述第三区域用于存储当前时间戳。
读取单元504,用于响应于针对所述第一数据值的查询请求,通过所述标识确定所述第一数据值存在时,从所述缓存数据结构读取所述第一数据值;当通过所述标识确定所述第一数据值不存在时,从所述数据库读取所述第一数据值。
作为实施方式之一,所述当通过所述标识确定所述第一数据值不存在时,从所述数据库读取所述第一数据值之后,还包括:设置所述第一区域存储的数据为从所述数据库读取的所述第一数据值;设置所述第二区域的标识为所述缓存数据结构中存在所述第一数据值;更新所述第三区域的当前时间戳为当前读取时间值。
作为实施方式之一,还包括修改所述缓存数据结构中的数据,所述修改缓存数据结构中的数据包括:响应于针对所述第一数据值的修改请求,当所述第一数据值发生变更时,更新所述第一区域对应的第一数据值为第二数据值;同步更新所述数据库中的所述第一数据值为第二数据值;或者,响应于针对所述第一数据值的修改请求,当所述第一数据值发生变更时,更新所述第一区域对应的第一数据值为第二数据值;异步更新所述数据库中的所述第一数据值为第二数据值。。
作为实施方式之一,所述修改缓存数据结构还包括:当更新所述数据库中的所述第一数据值为第二数据值败时,重复更新所述缓存数据结构中的数据,直至将所述数据库中的所述第一数据值更新为第二数据值。
作为实施方式之一,所述直接修改所述数据库中的所述第一数据值为第二数据值之后,还包括:在所述第一区域存储所述第二数据值;设置所述第二区域的标识为所述缓存数据结构中存在所述第二数据值;更新所述第三区域为当前更新时间值。
作为实施方式之一,所述设置缓存数据结构还包括第四区域,所述第四区域用于存储缓存数据过期时间。
作为实施方式之一,还包括:计算所述当前更新时间值与所述当前读取时间值的差值,当所述差值小于所述过期时间时,对所述过期时间做过期处理。
作为实施方式之一,所述方法还包括,对所述过期时间进行调整,具体地:当一段时间内访问所述数据库的实际流量小于预期的数据库访问流量阈值,且所述实际流量与所述流量阈值的差值与所述流量阈值的比值低于稳定性阈值时,基于当前过期时间和过期时间调整步长调整过期时间;
当一段时间内访问所述数据库的实际流量大于预期的数据库访问流量阈值,且所述实际流量与所述流量阈值的差值与所述流量阈值的比值高于稳定性阈值时,基于过期时间调整步长调整过期时间;
当一段时间内访问所述数据库的实际流量等于预期的数据库访问流量阈值时,设置调整后过期时间等于当前过期时间。
由于用户变更第一数据值时是直接修改缓存redis中的内容,写缓存redis和数据库存在一定的失败率,会导致缓存redis和数据库中的数据值存在差异。这时候需要合理的设置缓存的过期时间,通过尽快回源的方式来减少缓存redis和数据库之间的不一致。
通过设置缓存数据结构区域,使得在对缓存以及数据库读取或修改时,根据不同情况分别执行不同的读取或修改策略,从而有效的提高了缓存访问的命中率;同时,根据访问流量的动态变化,自动的调整过期时间区域,从而提高了低峰期缓存和数据库数据的一致性,同时一定程度上防止高峰期由于访问量的激增而打穿数据库,造成数据库访问的崩溃。
如图6所示,本实施例提供一种电子设备,所述电子设备,包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上实施例所述的方法步骤。
本公开实施例提供了一种非易失性计算机存储介质,所述计算机存储介质存储有计算机可执行指令,该计算机可执行指令可执行如上实施例所述的方法步骤。
下面参考图6,其示出了适于用来实现本公开实施例的电子设备600的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图6示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示,电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线605彼此相连。输入/输出(I/O)接口605也连接至总线605。
通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置605;包括例如磁带、硬盘等的存储装置608;以及通信装置605。通信装置605可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的电子设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置605从网络上被下载和安装,或者从存储装置608被安装,或者从ROM 602被安装。在该计算机程序被处理装置601执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
Claims (11)
1.一种缓存架构访问方法,其特征在于,包括:
设置缓存数据结构,所述缓存数据结构包括第一区域、第二区域和第三区域,其中,所述第一区域用于存储与数据库同步的第一数据值,所述第二区域用于存储所述缓存数据结构中是否存在所述第一数据值的标识,所述第三区域用于存储当前时间戳;
响应于针对所述第一数据值的查询请求,通过所述标识确定所述第一数据值存在时,从所述缓存数据结构读取所述第一数据值;当通过所述标识确定所述第一数据值不存在时,从所述数据库读取所述第一数据值。
2.如权利要求1所述的方法,其特征在于,所述当通过所述标识确定所述第一数据值不存在时,从所述数据库读取所述第一数据值之后,还包括:
设置所述第一区域存储的数据为从所述数据库读取的所述第一数据值;
设置所述第二区域的标识为所述缓存数据结构中存在所述第一数据值;
更新所述第三区域的当前时间戳为当前读取时间值。
3.如权利要求2所述的方法,其特征在于,还包括修改所述缓存数据结构中的数据,所述修改缓存数据结构中的数据包括:
响应于针对所述第一数据值的修改请求,当所述第一数据值发生变更时,更新所述第一区域对应的第一数据值为第二数据值;同步更新所述数据库中的所述第一数据值为第二数据值;或者,
响应于针对所述第一数据值的修改请求,当所述第一数据值发生变更时,更新所述第一区域对应的第一数据值为第二数据值;异步更新所述数据库中的所述第一数据值为第二数据值。
4.如权利要求3所述的方法,其特征在于,所述修改缓存数据结构中的数据还包括:
当更新所述数据库中的所述第一数据值为第二数据值失败时,重复更新所述缓存数据结构中的数据,直至将所述数据库中的所述第一数据值更新为第二数据值。
5.如权利要求3所述的方法,其特征在于,所述直至将所述数据库中的所述第一数据值更新为第二数据值之后,还包括:
在所述第一区域存储所述第二数据值;
设置所述第二区域的标识为所述缓存数据结构中存在所述第二数据值;
更新所述第三区域为当前更新时间值。
6.如权利要求5所述的方法,其特征在于,所述设置缓存数据结构还包括第四区域,所述第四区域用于存储缓存数据过期时间。
7.如权利要求6所述的方法,其特征在于,还包括:
计算所述当前更新时间值与所述当前读取时间值的差值,当所述差值小于所述过期时间时,对所述过期时间做过期处理。
8.如权利要求6所述的方法,其特征在于,所述方法还包括,对所述过期时间进行调整,具体地:
当一段时间内访问所述数据库的实际流量小于预期的数据库访问流量阈值,且所述实际流量与所述流量阈值的差值与所述流量阈值的比值低于稳定性阈值时,基于当前过期时间和过期时间调整步长调整过期时间;
当一段时间内访问所述数据库的实际流量大于预期的数据库访问流量阈值,且所述实际流量与所述流量阈值的差值与所述流量阈值的比值高于稳定性阈值时,基于过期时间调整步长调整过期时间;
当一段时间内访问所述数据库的实际流量等于预期的数据库访问流量阈值时,设置调整后过期时间等于当前过期时间。
9.一种缓存架构访问装置,其特征在于,包括:
设置单元,用于设置缓存数据结构,所述缓存数据结构包括第一区域、第二区域和第三区域,其中,所述第一区域用于存储与数据库同步的第一数据值,所述第二区域用于存储所述缓存数据结构中是否存在所述第一数据值的标识,所述第三区域用于存储当前时间戳;
读取单元,用于响应于针对所述第一数据值的查询请求,通过所述标识确定所述第一数据值存在时,从所述缓存数据结构读取所述第一数据值;当通过所述标识确定所述第一数据值不存在时,从所述数据库读取所述第一数据值。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1至8中任一项所述的方法。
11.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如权利要求1至8中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010450244.5A CN111651520B (zh) | 2020-05-25 | 2020-05-25 | 一种缓存架构访问方法、装置、介质和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010450244.5A CN111651520B (zh) | 2020-05-25 | 2020-05-25 | 一种缓存架构访问方法、装置、介质和电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111651520A true CN111651520A (zh) | 2020-09-11 |
CN111651520B CN111651520B (zh) | 2023-04-18 |
Family
ID=72352746
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010450244.5A Active CN111651520B (zh) | 2020-05-25 | 2020-05-25 | 一种缓存架构访问方法、装置、介质和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111651520B (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106066894A (zh) * | 2016-06-23 | 2016-11-02 | 广州市百果园网络科技有限公司 | 数据全缓存方法和数据全缓存装置 |
CN106294607A (zh) * | 2016-07-29 | 2017-01-04 | 北京奇虎科技有限公司 | 缓存数据的更新方法及更新装置 |
CN108959341A (zh) * | 2018-04-04 | 2018-12-07 | 阿里巴巴集团控股有限公司 | 一种数据同步的方法、装置及设备 |
CN109471875A (zh) * | 2018-09-25 | 2019-03-15 | 网宿科技股份有限公司 | 基于缓存数据的热度管理方法、服务器及存储介质 |
-
2020
- 2020-05-25 CN CN202010450244.5A patent/CN111651520B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106066894A (zh) * | 2016-06-23 | 2016-11-02 | 广州市百果园网络科技有限公司 | 数据全缓存方法和数据全缓存装置 |
CN106294607A (zh) * | 2016-07-29 | 2017-01-04 | 北京奇虎科技有限公司 | 缓存数据的更新方法及更新装置 |
CN108959341A (zh) * | 2018-04-04 | 2018-12-07 | 阿里巴巴集团控股有限公司 | 一种数据同步的方法、装置及设备 |
CN109471875A (zh) * | 2018-09-25 | 2019-03-15 | 网宿科技股份有限公司 | 基于缓存数据的热度管理方法、服务器及存储介质 |
Non-Patent Citations (1)
Title |
---|
张建宇;韦韬;邹维;: "一种基于自适应缓存机制的报文分类算法" * |
Also Published As
Publication number | Publication date |
---|---|
CN111651520B (zh) | 2023-04-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111581563B (zh) | 页面响应方法、装置、存储介质和电子设备 | |
US20140298313A1 (en) | Method, server, client and system for updating data | |
CN109376318B (zh) | 一种页面加载方法、计算机可读存储介质及终端设备 | |
US20140281976A1 (en) | Adjusting content playback to correlate with travel time | |
CN109766362B (zh) | 数据处理方法及装置 | |
CN110046175B (zh) | 一种缓存更新、数据返回方法及装置 | |
CN111858520A (zh) | 一种区块链节点数据分离存储的方法和装置 | |
CN113419670A (zh) | 数据写入处理方法、装置及电子设备 | |
CN101247405A (zh) | 计算下载时间及资源下载的方法、系统及装置 | |
CN113485980A (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN110875947A (zh) | 一种数据处理方法和边缘节点设备 | |
CN113297267A (zh) | 数据缓存和任务处理方法、装置、设备以及存储介质 | |
CN111651520B (zh) | 一种缓存架构访问方法、装置、介质和电子设备 | |
CN110134905B (zh) | 一种页面更新显示方法、装置、设备及存储介质 | |
CN108804625B (zh) | 一种lsm树的优化方法、装置及计算机设备 | |
CN113849524B (zh) | 一种数据处理方法及装置 | |
CN103618961A (zh) | 一种显示视频标题的方法、系统及浏览器 | |
CN114116656A (zh) | 数据处理方法及相关装置 | |
CN110377654B (zh) | 数据请求的处理方法、装置、电子设备及计算机可读存储介质 | |
CN110866206B (zh) | 数据更新设置方法和装置 | |
CN115794806A (zh) | 金融数据的网格化处理系统及方法、装置、计算设备 | |
CN109284350B (zh) | 检索内容的更新方法、装置、存储介质及电子设备 | |
CN112765503A (zh) | 页面加载数据的静态化处理方法和装置 | |
CN111143711A (zh) | 对象搜索方法及系统 | |
CN112667595B (zh) | 数据处理方法、装置及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |