CN115543202A - 缓存管理方法、读取方法、系统、电子设备及存储介质 - Google Patents

缓存管理方法、读取方法、系统、电子设备及存储介质 Download PDF

Info

Publication number
CN115543202A
CN115543202A CN202211247613.6A CN202211247613A CN115543202A CN 115543202 A CN115543202 A CN 115543202A CN 202211247613 A CN202211247613 A CN 202211247613A CN 115543202 A CN115543202 A CN 115543202A
Authority
CN
China
Prior art keywords
data
target data
cache
heat
hot
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211247613.6A
Other languages
English (en)
Inventor
曾培贵
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Life Insurance Company of China Ltd
Original Assignee
Ping An Life Insurance Company of China Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Life Insurance Company of China Ltd filed Critical Ping An Life Insurance Company of China Ltd
Priority to CN202211247613.6A priority Critical patent/CN115543202A/zh
Publication of CN115543202A publication Critical patent/CN115543202A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/061Improving I/O performance
    • G06F3/0611Improving I/O performance in relation to response time
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/08Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0806Multiuser, multiprocessor or multiprocessing cache systems
    • G06F12/0811Multiuser, multiprocessor or multiprocessing cache systems with multilevel cache hierarchies
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02Addressing or allocation; Relocation
    • G06F12/08Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0866Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches for peripheral storage systems, e.g. disk cache
    • G06F12/0871Allocation or management of cache space
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0655Vertical data movement, i.e. input-output transfer; data movement between one or more hosts and one or more storage devices
    • G06F3/0656Data buffering arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/067Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请实施例提供了一种缓存管理方法、读取方法、系统、电子设备及存储介质,属于数据交互技术领域。缓存管理方法包括获取第一目标数据;获取所述第一目标数据的访问数据,并根据所述访问数据确定所述第一目标数据的第一热度值;将所述第一热度值大于预设阈值的所述第一目标数据确定为热度数据;获取热度消息列表,所述热度消息列表用于指示所述热度数据;获取待缓存的第二目标数据;如果所述第二目标数据在所述热度消息列表中,将所述第二目标数据存放在一级缓存中。本申请实施例能够提高数据读取的响应速度。

Description

缓存管理方法、读取方法、系统、电子设备及存储介质
技术领域
本申请涉及数据交互领域,尤其涉及一种缓存管理方法、读取方法、系统、电子设备及存储介质。
背景技术
缓存分为本地缓存及分布式缓存,一般情况下,两者会结合一起使用,当使用本地缓存做一级缓存,读写速度最快,但相对容量有限,当使用分布式缓存做二级缓存,读写速度相对较慢,但是容量大。
相关技术中,一、二级缓存数据都是预先定义的,面对大量的数据访问时,当该数据没有在一级缓存中,也即没有在本地缓存中时,就会大量缓存数据访问请求访问二级缓存,降低了数据读取的响应速度。
发明内容
本申请实施例的主要目的在于提出一种缓存管理方法、读取方法、系统、电子设备及存储介质,能够提高数据读取的响应速度。
为实现上述目的,本申请实施例的第一方面提出了一种缓存管理方法,所述方法包括:获取第一目标数据;获取所述第一目标数据的访问数据,并根据所述访问数据确定所述第一目标数据的第一热度值;将所述第一热度值大于预设阈值的所述第一目标数据确定为热度数据;获取热度消息列表,所述热度消息列表用于指示所述热度数据;获取待缓存的第二目标数据;如果所述第二目标数据在所述热度消息列表中,将所述第二目标数据存放在一级缓存中。
在一些实施例中,所述将所述第一热度值大于预设阈值的所述第一目标数据确定为热度数据,包括:获取预设的排除列表,所述排除列表用于指示禁止缓存到所述一级缓存的第三目标数据;当所述第一热度值大于预设阈值,且所述第一目标数据不与所述排除列表中的任一所述第三目标数据相对应,确定所述第一目标数据为热度数据。
在一些实施例中,其中:所述获取第一目标数据的步骤到所述获取热度消息列表的步骤是周期性执行的;所述获取待缓存的第二目标数据的步骤、和所述如果所述第二目标数据在所述热度消息列表中,将所述第二目标数据存放在一级缓存中的步骤在第一周期执行,所述方法还包括:在所述第一周期之后的所述第二周期,确定所述第二目标数据是否仍然在所述热度消息列表中;如果所述第二目标数据已不在所述热度消息列表中,将所述第二目标数据从所述一级缓存中释放,并发送到二级缓存。
在一些实施例中,所述将所述第一热度值大于预设阈值的所述第一目标数据确定为热度数据,包括:获取所述一级缓存的第一大小;获取所述第一目标数据的第二大小;根据所述第一热度值、所述第一大小和所述第二大小,确定所述第一目标数据为热度数据。
在一些实施例中,所述根据所述第一热度值、所述第一大小和所述第二大小,确定所述第一目标数据为热度数据,包括:根据所述第一热度值,按照由大到小的顺序对所述第一目标数据进行排列,以形成候选数据队列;按照由前到后的顺序,依次对所述候选数据队列中的所述第一目标数据的所述第二大小进行累加,直到累加的和超过所述第一大小;从在被累加的所述第一目标数据中,去掉被最后累加的所述第一目标数据,并将所述候选数据队列中剩余的所述第一目标数据作为热度数据。
在一些实施例中,所述获取所述第一目标数据的访问数据,并根据所述访问数据确定所述第一目标数据的第一热度值,包括:获取所述第一目标数据的访问数据,根据所述访问数据得到所述第一目标数据在预设时间内的访问次数;根据所述访问次数确定所述第一目标数据的第一热度值。
为实现上述目的,本申请实施例的第二方面提出了一种缓存读取方法,所述方法包括:获取客户端的缓存数据访问请求;根据所述缓存数据访问请求确定需要读取的第四目标数据;获取预设的热度消息列表,所述热度消息列表用于指示缓存在一级缓存中的热度数据;若所述第四目标数据与所述热度消息列表中的所述热度数据相对应,根据所述缓存数据访问请求从所述一级缓存中返回所述第四目标数据。
为实现上述目的,本申请实施例的第三方面提出了一种缓存管理系统,所述系统包括:第一数据获取模块,用于获取第一目标数据;热度计算模块,用于获取所述第一目标数据的访问数据,并根据所述访问数据确定所述第一目标数据的第一热度值;热度数据确定模块,用于将所述第一热度值大于预设阈值的所述第一目标数据确定为热度数据;热度消息列表获取模块,用于获取热度消息列表,所述热度消息列表用于指示所述热度数据;第二数据获取模块,用于获取待缓存的第二目标数据;热度数据缓存模块,如果所述第二目标数据在所述热度消息列表中,所述热度数据缓存模块用于将所述第二目标数据存放在一级缓存中。
为实现上述目的,本申请实施例的第四方面提出了一种电子设备,所述电子设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现上述第一方面实施例所述的方法,或第二方面实施例所述的方法。
为实现上述目的,本申请实施例的第五方面提出了一种存储介质,所述存储介质为计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面实施例所述的方法,或第二方面实施例所述的方法。
本申请提出的缓存管理方法、读取方法、系统、电子设备及存储介质,在进行缓存管理时,先根据第一目标数据的访问数据计算第一热度值,然后对第一目标数据进行筛选,确定其中第一热度值大于预设阈值的第一目标数据为热度数据,本申请中通过预先设置热度消息列表,热度消息列表可以用于指示热度数据,在接收到待缓存的第二目标数据后,如果第二目标数据在热度消息列表中,也就是热度消息列表中指示的热度数据与第二目标数据对应,说明第二目标数据为热度数据,因此将第二目标数据存放在一级缓存中,热度消息列表中的数据与一级缓存中的数据相对应,此后在进行缓存读取时,如果所要读取的数据为热度数据,则可以根据热度消息列表的指示从一级缓存中读取,从而提高数据读取的响应速度。
附图说明
图1是本申请实施例提供的缓存管理系统的结构示意图;
图2是本申请实施例提供的缓存管理方法的流程图;
图3是图2中的步骤S103的流程图;
图4是本申请另一实施例提供的缓存管理方法的流程图;
图5是图2中的步骤S103的流程图;
图6是图5中的步骤S403的流程图;
图7是图2中的步骤S102的流程图;
图8是本申请实施例提供的缓存读取方法的流程图;
图9是本申请实施例提供的缓存管理系统的功能模块示意图;
图10是本申请实施例提供的电子设备的硬件结构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本申请,并不用于限定本申请。
需要说明的是,虽然在装置示意图中进行了功能模块划分,在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于装置中的模块划分,或流程图中的顺序执行所示出或描述的步骤。说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本申请实施例的目的,不是旨在限制本申请。
首先,对本申请中涉及的若干名词进行解析:
人工智能(artificial intelligence,AI):是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学;人工智能是计算机科学的一个分支,人工智能企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能可以对人的意识、思维的信息过程的模拟。人工智能还是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
缓存(cache)分为本地缓存及分布式缓存,一般情况下,两者会结合一起使用,使用本地缓存做一级缓存,读写速度最快,但相对容量有限,如java堆内存缓存、Ehcache、Guava Cache等,使用分布式缓存做二级缓存,典型实现包括MemCached和Redis等。
一级缓存是结构化查询语言会话(Structured Query Language Session,SqlSession)级别的缓存,在操作数据库时需要构造SqlSession对象,在对象中有一个数据结构用于存储缓存数据。不同的SqlSession之间的缓存数据区域是互相不影响的。也就是他只能作用在同一个SqlSession中,不同的SqlSession中的缓存是互相不能读取的。二级缓存是映射器(Mapper)级别的缓存,多个SqlSession去操作同一个Mapper的Sql语句,多个SqlSession可以共用二级缓存,二级缓存是跨SqlSession的。
在实际使用中,一、二级缓存数据都是预先定义的,客户端发起缓存数据访问请求后,先查询一级缓存中是否存在该数据,如果有,则返回该数据,如果没有,则访问二级缓存。因此,将一些经常访问的热点数据存放在一级缓存中,也就是本地缓存中,可以提高数据访问的响应速度。
但是,申请人发现,如资讯、活动、产品等之类数据的访问实际是不可预期的,当实际热点数据没有在一级缓存中,也就是没有存放在本地缓存中,就会大量缓存数据访问请求访问二级缓存,大量占据内网带宽,同时也降低了数据访问的响应速度,最终影响系统稳定性。
基于此,本申请实施例提供了一种缓存管理方法、读取方法、系统、电子设备及存储介质,能够提高数据读取的响应速度。
本申请实施例提供的缓存管理方法、读取方法、系统、电子设备及存储介质,具体通过如下实施例进行说明,首先描述本申请实施例中的缓存管理系统。
如图1所示,为本申请实施例中提供的缓存管理系统的结构设计图,包括客户端(APP-SDK)、远程高速缓存器(RemoteCache)和管理中心(ManageCenter)。其中,客户端可以为用户终端,如个人计算机、手机、平板电脑等终端,客户端包括应用程序编程接口(Application Programming Interface,API)、线程池(threadPool)、排除列表(excludeList)、热度消息列表(hotKeyList)、一级缓存(如localCache)、配置项和远程过程调用(Remote Procedure Call,RPC),具体的,API中可以包含多个接口,如get(key)、set(key)、del/expire(key)等接口,以实现缓存数据访问请求等数据的获取,配置项可以对客户端的功能参数进行配置,客户端的RPC中设置有数据的上报、心跳、热键监听等模块。
远程高速缓存器中设置有多个远程字典服务(Redis),实现数据存储,管理中心中包括RPC、任务调度、热度计算、监控分析、参数配置和热键预制等模块。
管理中心可配置在服务器中,或者说,服务器可执行管理中心的功能,管理中心中的RPC设置有数据的接收、心跳、推送等模块,与客户端中的RPC实现数据的交互,通过任务调度模块可以实现任务的调度配置,并通过热度计算模块可以计算待缓存数据的热度值,并通过监控分析模块持续进行监控和分析热度数据,通过参数配置模块可以对管理中心的功能参数进行配置,通过热键预制模块可以设置筛选热度数据的阈值。
可以理解的是,本申请实施例中的客户端与管理中心配套设置,二者之间可以进行通信连接,管理中心与客户端之间通过交互,实现对客户端中缓存数据的配置。
本申请实施例中的缓存管理系统是一种缓存调度中心,客户端提供上层API接口,统一封装缓存的读写方法,屏蔽不同缓存技术实现的接口差异,使得本申请实施例中的系统可以对开发人员透明,让开发人员无需关心缓存位置,提高开发效率。
缓存管理系统可以实时同步热度消息列表,将该数据置于一级缓存中,一级缓存也即本地缓存,同时维护一份排除列表,匹配前端的访问请求,如果数据在热度消息列表中,就直接从本地缓存中获取并返回热度数据,从而提高数据读取的响应速度,此外,由于大量的热度数据可以根据热度消息列表的指示并从一级缓存中获取,减少了大量数据访问请求对二级缓存等的访问,从而减少对网络宽带的占用,避免了大量数据访问请求访问二级缓存时造成的系统堵塞,提高了系统稳定性。
缓存管理系统可以收集缓存数据访问请求信息,将客户端所有的缓存数据请求通过日志采集,获接口推送等方式,推送到消息队列中,并对缓存数据进行统计分析,启动大数据实时计算任务,消费消息队列中的访问数据,从日志中获取缓存数据的单位时间内的访问次数,实时计算出当前缓存数据的热度值。
缓存管理系统中的管理中心通过心跳数据,实时与客户端保持联系,启动任务,读取大数据任务计算出的数据热度值,更新热度消息列表,根据客户端的本地缓存的实际配置大小,实时监控客户端的缓存状态,智能推送新高热度数据,淘汰低热度数据,同时支持手动配置,实现缓存数据预配置功能,进一步提高系统的健壮性。
本申请实施例中的缓存管理方法可以通过如下实施例进行说明。
本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
本申请实施例提供的缓存管理方法,涉及人工智能技术领域。本申请实施例提供的缓存管理方法、读取方法可应用于终端中,也可应用于服务器端中,还可以是运行于终端或服务器端中的软件。在一些实施例中,终端可以是智能手机、平板电脑、笔记本电脑、台式计算机等;服务器端可以配置成独立的物理服务器,也可以配置成多个物理服务器构成的服务器集群或者分布式系统,还可以配置成提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN以及大数据和人工智能平台等基础云计算服务的云服务器;软件可以是实现缓存管理方法的应用等,但并不局限于以上形式。
本申请可用于众多通用或专用的计算机系统环境或配置中。例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
需要说明的是,在本申请的各个具体实施方式中,当涉及到需要根据用户信息、用户行为数据,用户历史数据以及用户位置信息等与用户身份或特性相关的数据进行相关处理时,都会先获得用户的许可或者同意,例如,获取用户存储的数据以及用户的缓存数据访问请求时,均会先获得用户的许可或者同意。而且,对这些数据的收集、使用和处理等,都会遵守相关国家和地区的相关法律法规和标准。此外,当本申请实施例需要获取用户的敏感个人信息时,会通过弹窗或者跳转到确认页面等方式获得用户的单独许可或者单独同意,在明确获得用户的单独许可或者单独同意之后,再获取用于使本申请实施例能够正常运行的必要的用户相关数据。
图2是本申请实施例提供的缓存管理方法的一个可选的流程图,图2中的方法可以包括但不限于包括步骤S101至步骤S106。
步骤S101,获取第一目标数据;
示例性的,本申请实施例中的缓存管理方法可以应用在上述缓存管理系统中,例如,可以应用在上述管理中心中。
本申请实施例中可以获取第一目标数据,第一目标数据是一种能输入计算机并被计算机程序处理的符号的介质,是用于输入电子计算机进行处理,具有一定意义的数字、字母、符号和模拟量等的通称,第一目标数据是信息的表现形式和载体,可以是符号、文字、数字、语音、图像、视频等数据。
获取第一目标数据的方式有多种。例如,第一目标数据可以为用户的输入数据,用户在客户端中可以输入第一目标数据,再通过客户端发送给管理中心;或者,第一目标数据可以是缓存管理系统在执行任意程序的过程中产生的一个数据,该数据可以用于确定一级缓存的内容。
步骤S102,获取第一目标数据的访问数据,并根据访问数据确定第一目标数据的第一热度值;
示例性的,本申请实施例中可以获取第一目标数据的访问数据,访问数据是一种表明第一目标数据访问情况的数据,访问数据可以为客户端提供的第一目标数据在单位时间内被访问时产生的数据,是用户访问第一目标数据的访问记录。
访问数据可以有多种。例如,访问数据可以为第一目标数据被访问的次数;还可以根据单位时间内第一目标数据被访问的次数计算访问频率,将访问频率作为访问数据;或者,访问数据可以为第一目标数据被访问的访问时间,访问时间包括具体在一天之中或一周之中被访问的时间节点;或者,访问数据可以为第一目标数据被访问的访问时长,本申请实施例不做具体限制。
示例性的,根据第一目标数据的访问数据可以确定其第一热度值,本申请实施例中通过确定第第一目标数据的第一热度值,可以表明第一目标数据的重要性,第一热度值高的第一目标数据,说明是重要的,或者是用户经常需要访问的。
根据访问数据确定第一热度值的方式有很多种。例如,本申请实施例中可以将访问数据作为第一热度值,当访问数据为访问次数时,则可将访问次数作为第一热度值;当访问数据为访问时间时,可根据不同时间段下的访问时间,确定不同的数值大小,再将所得到的数值作为第一热度值;当访问数据为访问时长时,则可将访问时长作为第一热度值。不仅如此,本申请实施例中的访问数据可以有多个,当访问数据为多个时,可以根据不同的访问数据的权重进行加权计算,从而得到第一热度值,例如,当访问数据包括上述访问次数、访问时间和访问时长,则可以将上述访问次数、访问时间对应的数值和访问时长分别乘以对应的权重,加权后得到第一热度值。
步骤S103,将第一热度值大于预设阈值的第一目标数据确定为热度数据;
示例性的,第一目标数据通过本申请实施例中的筛选,对其第一热度值大于预设阈值的才确定为热度数据,对于热度数据来说,本申请需要提高读取热度数据的响应能力,因此确定热度数据有助于后续提高热度数据的读取速度;对于第一热度值小于预设阈值的第一目标数据,本申请将其判断为热度数据以外的数据,对这类数据,本申请实施例中不要求其具有比较高的读取响应速度,因此后续步骤可以不对其做具体处理。
需要说明的是,热度数据是用户经常访问的数据,其中,预设阈值是预先设定好的一个热度阈值,可以是一个数值大小。例如,当将访问次数作为第一热度值,热度阈值可以为一个预设的次数,通过该次数来限定热度数据;当将根据访问时间得到的数值作为第一热度值,热度阈值可以为一个预设的数值,通过该数值来限定热度数据;当将访问时长作为第一热度值,热度阈值可以为一个预设的时长,通过该时长来限定热度数据。
通过设置预设阈值的大小,可以筛选出本申请实施例中所需要的热度数据,提高热度数据的判断能力,可以理解的是,可以根据实际存储需要设定预设阈值的大小,本申请实施例中不做具体限制。
步骤S104,获取热度消息列表,热度消息列表用于指示热度数据;
示例性的,本申请实施例中通过预先设置热度消息列表,可以用热度消息列表来指示热度数据。热度消息列表是一个存储信息的信息队列,热度消息列表可以预先配置在缓存管理系统中,例如,热度消息列表可以预先配置在管理中心中,管理中心也可以将热度消息列表发送给客户端,以使得客户端也可以根据预设的热度消息列表进行缓存管理。
热度消息列表指示热度数据的方式有很多种。例如,热度消息列表可以对判定为热度数据的第一目标数据的标识信息进行存储,通过存储标识信息来指示热度数据,标识信息为数据名称或抬头信息等;或者,还可以直接将判定为热度数据的第一目标数据直接存放在热度消息列表中,通过存储第一目标数据的数据文件,来指示热度数据。
步骤S105,获取待缓存的第二目标数据;
示例性的,在确定热度数据,并通过热度消息列表来指示热度数据后,本申请实施例中可以对待缓存的数据进行筛选,本申请实施例中待缓存的数据称为第二目标数据。
第二目标数据为在缓存过程中需要存储的数据,第二目标数据与第一目标数据类似,均是一种能输入计算机并被计算机程序处理的符号的介质,是用于输入电子计算机进行处理,具有一定意义的数字、字母、符号和模拟量等的通称,第二目标数据同样是信息的表现形式和载体,可以是符号、文字、数字、语音、图像、视频等数据。
获取第二目标数据的方式有很多种。第二目标数据可以是由客户端或管理中心获取的,例如,第二目标数据可以为用户的输入数据,用户可以在客户端中可以输入第二目标数据,再通过客户端发送给管理中心;或者,用户可以直接在管理中心中输入第二目标数据,再由管理中心将第二目标数据发送给客户端;此外,第二目标数据还可以是缓存管理系统在执行任意程序的过程中产生的一个需要进行存储的数据。
步骤S106,如果第二目标数据在热度消息列表中,将第二目标数据存放在一级缓存中。
示例性的,本申请实施例中在对第二目标数据进行缓存的过程中,需要判断第二目标数据是否为热度数据,具体的,在接收到待缓存的第二目标数据后,如果第二目标数据在热度消息列表中,也就是热度消息列表中指示的热度数据与第二目标数据对应,说明第二目标数据为热度数据,因此将第二目标数据存放在一级缓存中,使得热度消息列表中的数据与一级缓存中的数据相对应。本申请实施例中可以根据第一目标数据更新和维护热度消息列表,对待缓存的第二目标数据进行判断,以便将满足要求的数据作为一级缓存中的数据。
需要说明的是,一级缓存是客户端的本地缓存,是与客户端的处理器结合最为紧密的高速缓存。
当第二目标数据是在管理中心获取时,将第二目标数据存放在一级缓存中的方式有多种。例如,管理中心可以将第二目标数据发送给客户端,以便客户端对第二目标数据是否在热度消息列表中进行判断,并在判断结果为是时,将第二目标数据存放在客户端的一级缓存中;管理中心可以直接对第二目标数据是否在热度消息列表中进行判断,并在判断结果为是时,发送指示信息和第二目标数据给客户端,以使得客户端根据指示信息将第二目标数据存放在客户端的一级缓存中。
当第二目标数据是在客户端获取时,将第二目标数据存放在一级缓存中的方式有多种。例如,当客户端存放有从管理中心获取的热度消息列表,客户端可以直接对第二目标数据是否在热度消息列表中进行判断,并在判断结果为是时,将第二目标数据存放在客户端的一级缓存中;或者,当客户端中没有存放热度消息列表,客户端可以在获取第二目标数据后,向管理中心发送第二目标数据,或发送第二目标数据的标识信息,管理中心根据接收到的第二目标数据,或接收到的第二目标数据的标识信息,对第二目标数据是否在热度消息列表中进行判断,并在判断结果为是时,发送指示信息给客户端,以使得客户端根据指示信息将第二目标数据存放在客户端的一级缓存中。
示例性的,客户端进行缓存读取阶段,可以根据热度消息列表进行缓存数据读取。例如,当客户端存放有热度消息列表时,在客户端接收到缓存数据访问请求后,先根据存储在客户端中的热度消息列表查询是否有对应的数据,若有,则说明要读取的数据为热度数据,该数据为预先存储在一级缓存中的第二目标数据,则从一级缓存中返回该数据;若没有,说明要读取的数据不为热度数据,则需要从二级缓存或其他缓存中返回该数据。
而当客户端没有存放热度消息列表时,在客户端接收到缓存数据访问请求后,可以向管理中心发送该请求,以在管理中心的热度消息列表查询是否有对应的数据,若有,则说明要读取的数据为热度数据,该数据为预先存储在一级缓存中的第二目标数据,则由管理中心发送指示信息给客户端,客户端再从一级缓存中返回该数据,若没有,说明要读取的数据不为热度数据,则由管理中心发送指示信息给客户端,指示客户端从二级缓存或其他缓存中返回该数据。
本申请实施例中通过执行缓存管理方法,实现了对热度数据的配置,通过热度消息列表来汇总热度数据,并将热度消息列表中指示的热度数据同步存放在一级缓存中,通过本申请的配置后,客户端在面对大量的热度数据的访问时,可以直接从一级缓存返回数据,从而提高数据读取的响应速度,此外,由于大量的热度数据可以根据热度消息列表的指示并从一级缓存中获取,减少了大量数据访问请求对二级缓存等的访问,从而减少对网络宽带的占用,避免了大量数据访问请求访问二级缓存时造成的系统堵塞,提高了系统稳定性。
请参阅图3,在一些实施例中,步骤S103可以包括步骤S201至步骤S202:
步骤S201,获取预设的排除列表,排除列表用于指示禁止缓存到一级缓存的第三目标数据;
步骤S202,当第一热度值大于预设阈值,且第一目标数据不与排除列表中的任一第三目标数据相对应,确定第一目标数据为热度数据。
示例性的,本申请实施例中还通过维护一份排除列表,用来排除不需要存放在热度消息列表中的数据,排除列表是一个存储信息的信息队列,排除列表可以预先配置在缓存管理系统中,例如,排除列表可以预先配置在管理中心中,管理中心也可以将排除列表发送给客户端,以使得客户端也可以根据预设的排除列表进行缓存管理。
本申请实施例中对禁止缓存在一级缓存中的数据描述为第三目标数据,第三目标数据的数据类型与第一目标数据和第二目标数据相同,均是一种能输入计算机并被计算机程序处理的符号的介质,是用于输入电子计算机进行处理,具有一定意义的数字、字母、符号和模拟量等的通称,第三目标数据同样是信息的表现形式和载体,可以是符号、文字、数字、语音、图像、视频等数据。示例性的,第三目标数据可以是一些分布式锁的键,或者需要特殊处理的数据,可以通过运营配置,对此不申请实施例不做具体限制。
获取第三目标数据的方式有很多种。第三目标数据可以是由客户端或管理中心获取的,例如,第三目标数据可以为用户的输入数据,用户可以在客户端中可以输入第三目标数据,再通过客户端发送给管理中心;或者,用户可以直接在管理中心中输入第三目标数据,再由管理中心将第三目标数据发送给客户端;此外,第三目标数据还可以是缓存管理系统在执行任意程序的过程中产生的一个表明不需要进行存储的数据。
示例性的,本申请实施例中排除列表指示第三目标数据的方式有多种。例如,排除列表可以对第三目标数据的标识信息进行存储,通过存储标识信息来指示第三目标数据,标识信息为数据名称或抬头信息等;或者,还可以直接将第三目标数据直接存放在排除列表中,通过存储第三目标数据的数据文件,来指示第三目标数据。
需要指出的是,本申请实施例在数据存储阶段,对第一目标数据进行判断时,可判断第一目标数据是否与排除列表中的任意一个第三目标数据相对应,当二者相对应时,即使第一热度值再高,也不再将第一目标数据作为热度数据,后续可不再对第一目标数据的热度值进行判断。而当第一目标数据不与排除列表中的任意一个第三目标数据相对应,说明第一目标数据不需要进行排除,因此可对第一目标数据是否满足作为热度数据进行判断,在第一热度值大于预设阈值时,确定第一目标数据为热度数据。本申请实施例中通过维护一份排除列表,可避免将一些不需要的缓存数据存放到热度消息列表中。
示例性的,本申请实施例中上述步骤S101至步骤S104是周期性执行的,在周期执行过程中,将满足条件的第一目标数据确定为热度数据,不断更新和维护热度消息列表。例如,在某一周期中将一个第一目标数据确定为热度数据,并通过热度消息列表来指示,而在下一周期中,若有新的第一目标数据被确定为热度数据,热度消息列表所指示的热度数据可能发生变化。
此外,本申请实施例中上述步骤S105至步骤S106也是周期性执行的,在一实施例中,将步骤S105至步骤S106某次执行的周期描述为第一周期,第一周期可以是执行本申请实施例中的缓存管理方法中的第一个执行周期,也可以是周期性执行缓存管理方法中的任意一个周期,对此不做具体限制。
请参阅图4,在一些实施例中,缓存管理方法还可以包括步骤S301至步骤S302:
步骤S301,在第一周期之后的第二周期,确定第二目标数据是否仍然在热度消息列表中;
步骤S302,如果第二目标数据已不在热度消息列表中,将第二目标数据从一级缓存中释放,并发送到二级缓存。
示例性的,本申请实施例中的热度数据列表以及一级缓存中的存储情况不是一成不变的,而是不断更新的,当有新的缓存数据进来时,可以对新的缓存数据进行判断,从而确定是否更新热度消息列表和一级缓存。
具体的,本申请实施例中在周期性执行步骤S101至步骤S104中,可以持续对每个执行周期中的第一目标数据进行判断,对满足条件的第一目标数据确定为热度数据,例如,在某一周期中将一个第一目标数据确定为热度数据,并通过热度消息列表来指示,而在下一周期中,若有新的第一目标数据确定为热度数据,则通过热度消息列表来指示这些在下一周期中被确定的热度数据。
因此,若在第一周期中,第二目标数据在热度数据列表中,则将第二目标数据存放在一级缓存中,在随后的第二周期中,需判断热度消息列表是否发生变化,第二周期为第一周期之后的任意一个周期,当第二周期中的热度消息列表发生变化,且所指示的热度数据不再包含第二目标数据时,说明第二周期内的第二目标数据已经不是热度数据了,因此将第二目标数据从一级缓存中释放,并发送到二级缓存或其他缓存中,本申请实施例中以发送到二级缓存为例子。
本申请实施例通过不断接收新的缓存数据,并持续更新热度消息列表和一级缓存,提高了系统的适应性,保证了系统对热度数据的响应能力。
请参阅图5,在一些实施例中,步骤S103可以包括步骤S401至步骤S403:
步骤S401,获取一级缓存的第一大小;
步骤S402,获取第一目标数据的第二大小;
步骤S403,根据第一热度值、第一大小和第二大小,确定第一目标数据为热度数据。
示例性的,本申请实施例中在确定热度数据的过程中,需要结合一级缓存和待缓存的第一目标数据的数据大小进行判断。具体的,本申请实施例中在确定热度数据的过程中,可以先获取一级缓存的缓存空间大小,并将一级缓存的缓存空间大小描述为第一大小,并获取第一目标数据的数据大小,对第一目标数据的数据大小描述为第二大小,随后,根据第一热度值、第一大小和第二大小,确定第一目标数据为热度数据。本申请实施例能够通过热度加数据长度的方式来确定热度数据,通过考虑一级缓存的存储空间,以及待缓存的第一目标数据的数据大小,可以让一级缓存和热度消息列表的缓存机制更加合理。
获取一级缓存的第一大小的方式有多种。例如,用户可以在客户端或管理中心中输入第一大小;或者,客户端或管理中心可以对客户端中的一级缓存的存储空间进行扫描,从而扫描得到第一大小。
获取第一目标数据的第二大小的方式有多种。例如,用户可以在客户端或管理中心中输入第二大小;或者,客户端或管理中心可以第一目标数据的数据文件进行扫描,从而得到第二大小;或者,第一目标数据中夹带存放第二大小信息的字段,客户端或管理中心可以读取该字段,从而得到第二大小。
具体的,通过考虑一级缓存的存储空间,以及待缓存的第一目标数据的数据大小,可以确定哪些第一热度值大于预设阈值的第一目标数据可以为热度数据。例如,当多个第一热度值大于预设阈值的第一目标数据的第二大小之和大于一级缓存的第一大小,则需要进一步判断是否需要舍弃部分第一目标数据,进一步确定哪些第一目标数据可以作为热度数据;当多个第一热度值大于预设阈值的第一目标数据的第二大小之和小于一级缓存的第一大小,则可以将这些第一目标数据均确定为热度数据。
本申请实施例可以对一级缓存的存储空间和第一目标数据的数据大小进行记录,记录一级缓存中存储空间大小的变化,以便在其接近饱和时可以做出相应的调整。
请参阅图6,在一些实施例中,步骤S403可以包括步骤S501至步骤S503:
步骤S501,根据第一热度值,按照由大到小的顺序对第一目标数据进行排列,以形成候选数据队列;
步骤S502,按照由前到后的顺序,依次对候选数据队列中的第一目标数据的第二大小进行累加,直到累加的和超过第一大小;
步骤S503,从在被累加的第一目标数据中,去掉被最后累加的第一目标数据,并将候选数据队列中剩余的第一目标数据作为热度数据。
示例性的,本申请实施例中根据热度值和数据长度值来更新热度消息列表,具体的,本申请实施例中可以接收多个待缓存的第一目标数据,对多个数据进行判断,在第一热度值大于预设阈值后,并不直接把对应的第一目标数据确定为热度数据,此时需要考虑一级缓存的存储能力,本申请实施例中还根据第一热度值,对各个第一目标数据进行排列,按照第一热度值由大到小的顺序得到排列后的候选数据队列,例如,本申请根据各个第一目标数据对应的第一热度值的大小,以此排列成从大到小排序的候选数据队列,随后,按照候选数据队列中由前到后的顺序,以此对候选数据队列中的第一目标数据的第二大小进行累加,得到累加值。
需要指出的是,当上述累加值小于第一大小,说明此时确定的第一目标数据的数据大小之和,并没有超过一级缓存的存储极限,因此可以直接将这些第一目标数据确定为热度数据,并将形成的热度消息列表推送给客户端,客户端根据热度消息列表配置对应的第一目标数据到一级缓存中。
而当累加值超过第一大小,说明此时确定的第一目标数据的数据大小之和,超过了一级缓存的存储极限,若此时将这些第一目标数据都确定为热度数据,并最终缓存在一级缓存中,则将超过一级缓存的存储能力,影响系统的稳定性,因此本申请实施例中从在被累加的第一目标数据中,去掉被最后累加的第一目标数据,并将候选数据队列中剩余的第一目标数据作为热度数据。例如,本申请实施例中通过对候选数据队列中的第一目标数据的数据大小进行排列后,排在队尾的第一目标数据的热度值小于前面所有的第一目标数据的热度值,因此将第一目标数据剔除,以将更高热度值的第一目标数据作为热度数据。
需要指出的是,上述在剔除队尾的第一目标数据时,若所剔除的队尾的第一目标数据的数据大小依然太小,以至于其在候选数据队列之前的第一目标数据的第二大小之和,依然超过第一大小,因此需要再以此将队尾的第一目标数据剔除,以至于最终第二大小之和小于第一大小。
本申请实施例中通过第一大小、第二大小来确定热度数据,可以让热度消息列表中指示的第一目标数据始终是热度高的,且不会超过一级缓存的存储能力,保证了缓存的稳定性。
此外,可以理解的是,本申请实施例中也可以针对后期接收到的某一个第一目标数据是否确定为热度数据进行判断,当热度消息列表中指示的第一目标数据的第二大小之和已经接近第一大小,一级缓存的存储已经饱和,此时对新进来的第一目标数据的第一热度值与已经在热度消息列表中的第一目标数据的第一热度值进行对比,若大于热度消息列表中排序最后,也就是第一热度值最小的第一目标数据剔除,将新接收到的第一目标数据确定为热度数据。
本申请实施例实现了根据缓存的实际配置大小,实时监控缓存状态,智能推送新高热度数据,淘汰低热度数据。
可以理解的是,本申请实施例中也可以获取用户的配置信息,根据用户的配置信息定向设置对应的新的第一目标数据为热度数据,或者根据配置信息定向确定需要删除的已经在热度消息列表中的第一目标数据,对此本申请实施例不做具体限制。
在一些实施例中,请参阅图7,步骤S102可以包括步骤S601至步骤S602:
步骤S601,获取第一目标数据的访问数据,根据访问数据得到第一目标数据在预设时间内的访问次数;
步骤S602,根据访问次数确定第一目标数据的第一热度值。
获取访问数据的方式有多种。例如,访问数据可以通过缓存管理系统的日志解析得到,具体的,客户端和管理中心中都可以存储有日常运行过程中的日志,对这些日志进行解析,可以获得本申请实施例中的访问数据,本申请实施例中的缓存管理系统可以将每一次第一目标数据的访问情况记载在日志中,通过日志记录第一目标数据的访问情况,例如,可以记录第一目标数据的访问次数;或者,访问数据可以由用户在客户端或管理中心中输入得到;或者,客户端或管理系统可以直接对第一目标数据的访问情况进行累计,例如,可以将每次第一目标数据被访问时进行计数,得到第一目标数据的访问次数并作为访问数据,同样的,可以对每次第一目标数据的被访问的时间进行累加,得到第一目标数据的访问时长并作为访问数据。
本申请实施例中获取日志的方式有多种。例如,客户端或管理中心可以通过接口推送等方式,获取日志的数据,并推送到客户端或管理中心中的消息队列中进行解析;此外,也可以将日志直接通过异步推送到消息队列中,在此不做具体限制。
本申请实施例可以对预设时间内存储的访问数据进行解析,得到第一目标数据在预设时间内的访问次数,根据访问次数和预设时间计算得到第一目标数据的访问频率,并将该计算得到的访问频率作为对应的第一目标数据的第一热度值;或者,本申请实施例中可以直接将访问次数作为第一热度值。
本申请实施例中通过根据第一目标数据在预设时间内的访问次数,确定第一目标数据的第一热度值,使得后续可以根据第一目标数据被访问的次数多少来判断其是否为热度数据,最终可以将访问次数较多的第一目标数据确定为热度数据,通过上述实施例的配置后,由于大量的热度数据可以根据热度消息列表的指示并从一级缓存中获取,减少了大量数据访问请求对二级缓存等的访问,从而减少对网络宽带的占用,避免了大量数据访问请求访问二级缓存时造成的系统堵塞,提高了系统稳定性。
图8是本申请实施例提供的缓存读取方法的一个可选的流程图,图8中的方法可以包括但不限于包括步骤S701至步骤S704。
步骤S701,获取客户端的缓存数据访问请求;
步骤S702,根据缓存数据访问请求确定需要读取的第四目标数据;
步骤S703,获取预设的热度消息列表,热度消息列表用于指示缓存在一级缓存中的热度数据;
步骤S704,若第四目标数据与热度消息列表中的热度数据相对应,根据缓存数据访问请求从一级缓存中返回第四目标数据。
示例性的,本申请实施例中的缓存读取方法可以应用在上述缓存管理系统中,例如,可以应用在上述客户端中,通过获取缓存数据访问请求,查询并返回所需要的缓存数据。
本申请实施例中可以获取客户端的缓存数据访问请求,缓存数据访问请求是一种数据请求,用来请求获取所需要的缓存数据,缓存数据访问请求可以是用户在客户端中输入的。
示例性的,客户端可以基于缓存数据访问请求确定需要读取的第四目标数据,缓存数据访问请求中可以携带需要读取的缓存数据的标识信息,通过解析该标识信息,即可确定需要读取的第四目标数据;或者,客户端可以基于缓存数据访问请求在预设的查询表中进行查询,查询表可以指示不同的请求与对应的缓存数据之间的对应关系,从而确定需要读取的第四目标数据。
第四目标数据是一种能输入计算机并被计算机程序处理的符号的介质,是用于输入电子计算机进行处理,具有一定意义的数字、字母、符号和模拟量等的通称,第四目标数据是信息的表现形式和载体,可以是符号、文字、数字、语音、图像、视频等数据。
示例性的,本申请实施例中通过预先设置热度消息列表,可以用热度消息列表来指示热度数据。热度消息列表是一个存储信息的信息队列,热度消息列表可以预先配置在缓存管理系统中,例如,热度消息列表可以预先配置在管理中心中,管理中心也可以将热度消息列表发送给客户端,以使得客户端也可以根据预设的热度消息列表进行缓存管理。热度消息列表指示热度数据的方式有很多种,同时,热度消息列表指示热度数据的方式也有多种,在此不再赘述。
示例性的,客户端进行缓存读取阶段,可以根据热度消息列表进行缓存数据读取。例如,当客户端存放有热度消息列表时,在客户端接收到缓存数据访问请求后,先根据存储在客户端中的热度消息列表查询是否有对应的数据,若有,则说明要读取的第四目标数据为热度数据,该数据为预先存储在一级缓存中,则从一级缓存中返回该数据;若没有,说明要读取的数据不为热度数据,则需要从二级缓存或其他缓存中返回该数据。
而当客户端没有存放热度消息列表时,在客户端接收到缓存数据访问请求后,可以向管理中心发送该请求,以在管理中心的热度消息列表查询是否有对应的第四目标数据,若有,则说明要读取的第四目标数据为热度数据,该数据为预先存储在一级缓存中,则由管理中心发送指示信息给客户端,客户端再从一级缓存中返回该数据,若没有,说明要读取的数据不为热度数据,则由管理中心发送指示信息给客户端,指示客户端从二级缓存或其他缓存中返回该数据。
本申请实施例实现了对热度数据的配置,通过热度消息列表来汇总热度数据,并将热度消息列表中的热度数据同步存放在一级缓存中,通过本申请的配置后,客户端在面对大量的热度数据的访问时,可以直接从一级缓存返回数据,从而提高数据读取的响应速度。
请参阅图9,本申请实施例还提供一种缓存管理系统,可以实现上述缓存管理方法,缓存管理系统包括:
第一数据获取模块901,用于获取第一目标数据;
热度计算模块902,用于获取第一目标数据的访问数据,并根据访问数据确定第一目标数据的第一热度值;
热度数据确定模块903,用于将第一热度值大于预设阈值的第一目标数据确定为热度数据;
热度消息列表获取模块904,用于获取热度消息列表,热度消息列表用于指示热度数据;
第二数据获取模块905,用于获取待缓存的第二目标数据;
热度数据缓存模块906,如果第二目标数据在热度消息列表中,热度数据缓存模块906用于将第二目标数据存放在一级缓存中。
示例性的,本申请实施例中的缓存管理系统可以执行上述缓存管理方法,缓存管理系统包括上述实施例中的管理中心,管理中心可与客户端连接,在此不再赘述。
示例性的,本申请实施例中的第一数据获取模块901,可以获取第一目标数据,第一目标数据是一种能输入计算机并被计算机程序处理的符号的介质,是用于输入电子计算机进行处理,具有一定意义的数字、字母、符号和模拟量等的通称,第一目标数据是信息的表现形式和载体,可以是符号、文字、数字、语音、图像、视频等数据。
获取第一目标数据的方式有多种。例如,第一目标数据可以为用户的输入数据,用户在客户端中可以输入第一目标数据,再通过客户端发送给管理中心;或者,第一目标数据可以是缓存管理系统在执行任意程序的过程中产生的一个数据,该数据可以用于确定一级缓存的内容。
示例性的,本申请实施例中的热度计算模块902,可以获取第一目标数据的访问数据,访问数据是一种表明第一目标数据访问情况的数据,访问数据可以为客户端提供的第一目标数据在单位时间内被访问时产生的数据,是用户访问第一目标数据的访问记录。
访问数据可以有多种。例如,访问数据可以为第一目标数据被访问的次数;还可以根据单位时间内第一目标数据被访问的次数计算访问频率,将访问频率作为访问数据;或者,访问数据可以为第一目标数据被访问的访问时间,访问时间包括具体在一天之中或一周之中被访问的时间节点;或者,访问数据可以为第一目标数据被访问的访问时长,本申请实施例不做具体限制。
示例性的,根据第一目标数据的访问数据可以确定其第一热度值,本申请实施例中通过确定第第一目标数据的第一热度值,可以表明第一目标数据的重要性,第一热度值高的第一目标数据,说明是重要的,或者是用户经常需要访问的。
根据访问数据确定第一热度值的方式有很多种。例如,本申请实施例中可以将访问数据作为第一热度值,当访问数据为访问次数时,则可将访问次数作为第一热度值;当访问数据为访问时间时,可根据不同时间段下的访问时间,确定不同的数值大小,再将所得到的数值作为第一热度值;当访问数据为访问时长时,则可将访问时长作为第一热度值。不仅如此,本申请实施例中的访问数据可以有多个,当访问数据为多个时,可以根据不同的访问数据的权重进行加权计算,从而得到第一热度值,例如,当访问数据包括上述访问次数、访问时间和访问时长,则可以将上述访问次数、访问时间对应的数值和访问时长分别乘以对应的权重,加权后得到第一热度值。
示例性的,本申请实施例中的热度数据确定模块903,用于将第一热度值大于预设阈值的第一目标数据确定为热度数据,第一目标数据通过本申请实施例中的筛选,对其第一热度值大于预设阈值的才确定为热度数据,对于热度数据来说,本申请需要提高读取热度数据的响应能力,因此确定热度数据有助于后续提高热度数据的读取速度;对于第一热度值小于预设阈值的第一目标数据,本申请将其判断为热度数据以外的数据,对这类数据,本申请实施例中不要求其具有比较高的读取响应速度,因此后续步骤可以不对其做具体处理。
需要说明的是,热度数据是用户经常访问的数据,其中,预设阈值是预先设定好的一个热度阈值,可以是一个数值大小。例如,当将访问次数作为第一热度值,热度阈值可以为一个预设的次数,通过该次数来限定热度数据;当将根据访问时间得到的数值作为第一热度值,热度阈值可以为一个预设的数值,通过该数值来限定热度数据;当将访问时长作为第一热度值,热度阈值可以为一个预设的时长,通过该时长来限定热度数据。
通过设置预设阈值的大小,可以筛选出本申请实施例中所需要的热度数据,提高热度数据的判断能力,可以理解的是,可以根据实际存储需要设定预设阈值的大小,本申请实施例中不做具体限制。
示例性的,本申请实施例中的热度消息列表获取模块904,用于获取热度消息列表,热度消息列表用于指示热度数据,通过预先设置热度消息列表,可以用热度消息列表来指示热度数据。热度消息列表是一个存储信息的信息队列,热度消息列表可以预先配置在缓存管理系统中,例如,热度消息列表可以预先配置在管理中心中,管理中心也可以将热度消息列表发送给客户端,以使得客户端也可以根据预设的热度消息列表进行缓存管理。
热度消息列表指示热度数据的方式有很多种。例如,热度消息列表可以对判定为热度数据的第一目标数据的标识信息进行存储,通过存储标识信息来指示热度数据,标识信息为数据名称或抬头信息等;或者,还可以直接将判定为热度数据的第一目标数据直接存放在热度消息列表中,通过存储第一目标数据的数据文件,来指示热度数据。
示例性的,本申请实施例中的第二数据获取模块905,用于获取待缓存的第二目标数据。在确定热度数据,并通过热度消息列表来指示热度数据后,本申请实施例中可以对待缓存的数据进行筛选,本申请实施例中待缓存的数据称为第二目标数据。
第二目标数据为在缓存过程中需要存储的数据,第二目标数据与第一目标数据类似,均是一种能输入计算机并被计算机程序处理的符号的介质,是用于输入电子计算机进行处理,具有一定意义的数字、字母、符号和模拟量等的通称,第二目标数据同样是信息的表现形式和载体,可以是符号、文字、数字、语音、图像、视频等数据。
获取第二目标数据的方式有很多种。第二目标数据可以是由客户端或管理中心获取的,例如,第二目标数据可以为用户的输入数据,用户可以在客户端中可以输入第二目标数据,再通过客户端发送给管理中心;或者,用户可以直接在管理中心中输入第二目标数据,再由管理中心将第二目标数据发送给客户端;此外,第二目标数据还可以是缓存管理系统在执行任意程序的过程中产生的一个需要进行存储的数据。
示例性的,本申请实施例中的热度数据缓存模块906可以将第二目标数据存放在一级缓存中。在对第二目标数据进行缓存的过程中,需要判断第二目标数据是否为热度数据,具体的,在接收到待缓存的第二目标数据后,如果第二目标数据在热度消息列表中,也就是热度消息列表中指示的热度数据与第二目标数据对应,说明第二目标数据为热度数据,因此将第二目标数据存放在一级缓存中,使得热度消息列表中的数据与一级缓存中的数据相对应。本申请实施例中可以根据第一目标数据更新和维护热度消息列表,对待缓存的第二目标数据进行判断,以便将满足要求的数据作为一级缓存中的数据。
需要说明的是,一级缓存是客户端的本地缓存,是与客户端的处理器结合最为紧密的高速缓存。
当第二目标数据是在管理中心获取时,将第二目标数据存放在一级缓存中的方式有多种。例如,管理中心可以将第二目标数据发送给客户端,以便客户端对第二目标数据是否在热度消息列表中进行判断,并在判断结果为是时,将第二目标数据存放在客户端的一级缓存中;管理中心可以直接对第二目标数据是否在热度消息列表中进行判断,并在判断结果为是时,发送指示信息和第二目标数据给客户端,以使得客户端根据指示信息将第二目标数据存放在客户端的一级缓存中。
当第二目标数据是在客户端获取时,将第二目标数据存放在一级缓存中的方式有多种。例如,当客户端存放有从管理中心获取的热度消息列表,客户端可以直接对第二目标数据是否在热度消息列表中进行判断,并在判断结果为是时,将第二目标数据存放在客户端的一级缓存中;或者,当客户端中没有存放热度消息列表,客户端可以在获取第二目标数据后,向管理中心发送第二目标数据,或发送第二目标数据的标识信息,管理中心根据接收到的第二目标数据,或接收到的第二目标数据的标识信息,对第二目标数据是否在热度消息列表中进行判断,并在判断结果为是时,发送指示信息给客户端,以使得客户端根据指示信息将第二目标数据存放在客户端的一级缓存中。
示例性的,客户端进行缓存读取阶段,可以根据热度消息列表进行缓存数据读取。例如,当客户端存放有热度消息列表时,在客户端接收到缓存数据访问请求后,先根据存储在客户端中的热度消息列表查询是否有对应的数据,若有,则说明要读取的数据为热度数据,该数据为预先存储在一级缓存中的第二目标数据,则从一级缓存中返回该数据;若没有,说明要读取的数据不为热度数据,则需要从二级缓存或其他缓存中返回该数据。
而当客户端没有存放热度消息列表时,在客户端接收到缓存数据访问请求后,可以向管理中心发送该请求,以在管理中心的热度消息列表查询是否有对应的数据,若有,则说明要读取的数据为热度数据,该数据为预先存储在一级缓存中的第二目标数据,则由管理中心发送指示信息给客户端,客户端再从一级缓存中返回该数据,若没有,说明要读取的数据不为热度数据,则由管理中心发送指示信息给客户端,指示客户端从二级缓存或其他缓存中返回该数据。
本申请实施例中的缓存管理系统通过执行缓存管理方法,实现了对热度数据的配置,通过热度消息列表来汇总热度数据,并将热度消息列表中指示的热度数据同步存放在一级缓存中,通过本申请的配置后,客户端在面对大量的热度数据的访问时,可以直接从一级缓存返回数据,从而提高数据读取的响应速度,此外,由于大量的热度数据可以根据热度消息列表的指示并从一级缓存中获取,减少了大量数据访问请求对二级缓存等的访问,从而减少对网络宽带的占用,避免了大量数据访问请求访问二级缓存时造成的系统堵塞,提高了系统稳定性。
该缓存管理系统的具体实施方式与上述缓存管理方法的具体实施例基本相同,在此不再赘述。在满足本申请实施例要求的前提下,缓存管理系统还可以设置其他功能模块,以实现上述实施例中的缓存管理方法。
本申请实施例还提供了一种电子设备,电子设备包括存储器和处理器,存储器存储有计算机程序,处理器执行计算机程序时实现上述缓存管理方法或缓存读取方法。该电子设备可以为包括平板电脑、车载电脑等任意智能终端。
请参阅图10,图10示意了另一实施例的电子设备的硬件结构,电子设备包括:
处理器1001,可以采用通用的CPU(CentralProcessingUnit,中央处理器)、微处理器、应用专用集成电路(ApplicationSpecificIntegratedCircuit,ASIC)、或者一个或多个集成电路等方式实现,用于执行相关程序,以实现本申请实施例所提供的技术方案;
存储器1002,可以采用只读存储器(ReadOnlyMemory,ROM)、静态存储设备、动态存储设备或者随机存取存储器(RandomAccessMemory,RAM)等形式实现。存储器1002可以存储操作系统和其他应用程序,在通过软件或者固件来实现本说明书实施例所提供的技术方案时,相关的程序代码保存在存储器1002中,并由处理器1001来调用执行本申请实施例的缓存管理方法、读取方法;
输入/输出接口1003,用于实现信息输入及输出;
通信接口1004,用于实现本设备与其他设备的通信交互,可以通过有线方式(例如USB、网线等)实现通信,也可以通过无线方式(例如移动网络、WI F I、蓝牙等)实现通信;
总线1005,在设备的各个组件(例如处理器1001、存储器1002、输入/输出接口1003和通信接口1004)之间传输信息;
其中处理器1001、存储器1002、输入/输出接口1003和通信接口1004通过总线1005实现彼此之间在设备内部的通信连接。
本申请实施例还提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序被处理器执行时实现上述缓存管理方法、读取方法。
存储器作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外,存储器可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中,存储器可选包括相对于处理器远程设置的存储器,这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本申请实施例描述的实施例是为了更加清楚的说明本申请实施例的技术方案,并不构成对于本申请实施例提供的技术方案的限定,本领域技术人员可知,随着技术的演变和新应用场景的出现,本申请实施例提供的技术方案对于类似的技术问题,同样适用。
本领域技术人员可以理解的是,图中示出的技术方案并不构成对本申请实施例的限定,可以包括比图示更多或更少的步骤,或者组合某些步骤,或者不同的步骤。
以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统、设备中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。
本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应当理解,在本申请中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:只存在A,只存在B以及同时存在A和B三种情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”,其中a,b,c可以是单个,也可以是多个。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统和方法,可以通过其它的方式实现。例如,以上所描述的系统实施例仅仅是示意性的,例如,上述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括多指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例的方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等各种可以存储程序的介质。
以上参照附图说明了本申请实施例的优选实施例,并非因此局限本申请实施例的权利范围。本领域技术人员不脱离本申请实施例的范围和实质内所作的任何修改、等同替换和改进,均应在本申请实施例的权利范围之内。

Claims (10)

1.一种缓存管理方法,其特征在于,所述方法包括:
获取第一目标数据;
获取所述第一目标数据的访问数据,并根据所述访问数据确定所述第一目标数据的第一热度值;
将所述第一热度值大于预设阈值的所述第一目标数据确定为热度数据;
获取热度消息列表,所述热度消息列表用于指示所述热度数据;
获取待缓存的第二目标数据;
如果所述第二目标数据在所述热度消息列表中,将所述第二目标数据存放在一级缓存中。
2.根据权利要求1所述的缓存管理方法,其特征在于,所述将所述第一热度值大于预设阈值的所述第一目标数据确定为热度数据,包括:
获取预设的排除列表,所述排除列表用于指示禁止缓存到所述一级缓存的第三目标数据;
当所述第一热度值大于预设阈值,且所述第一目标数据不与所述排除列表中的任一所述第三目标数据相对应,确定所述第一目标数据为热度数据。
3.根据权利要求1所述的缓存管理方法,其特征在于,其中:
所述获取第一目标数据的步骤到所述获取热度消息列表的步骤是周期性执行的;
所述获取待缓存的第二目标数据的步骤、和所述如果所述第二目标数据在所述热度消息列表中,将所述第二目标数据存放在一级缓存中的步骤在第一周期执行,所述方法还包括:
在所述第一周期之后的所述第二周期,确定所述第二目标数据是否仍然在所述热度消息列表中;
如果所述第二目标数据已不在所述热度消息列表中,将所述第二目标数据从所述一级缓存中释放,并发送到二级缓存。
4.根据权利要求1所述的缓存管理方法,其特征在于,所述将所述第一热度值大于预设阈值的所述第一目标数据确定为热度数据,包括:
获取所述一级缓存的第一大小;
获取所述第一目标数据的第二大小;
根据所述第一热度值、所述第一大小和所述第二大小,确定所述第一目标数据为热度数据。
5.根据权利要求4所述的缓存管理方法,其特征在于,所述根据所述第一热度值、所述第一大小和所述第二大小,确定所述第一目标数据为热度数据,包括:
根据所述第一热度值,按照由大到小的顺序对所述第一目标数据进行排列,以形成候选数据队列;
按照由前到后的顺序,依次对所述候选数据队列中的所述第一目标数据的所述第二大小进行累加,直到累加的和超过所述第一大小;
从在被累加的所述第一目标数据中,去掉被最后累加的所述第一目标数据,并将所述候选数据队列中剩余的所述第一目标数据作为热度数据。
6.根据权利要求1所述的缓存管理方法,其特征在于,所述获取所述第一目标数据的访问数据,并根据所述访问数据确定所述第一目标数据的第一热度值,包括:
获取所述第一目标数据的访问数据,根据所述访问数据得到所述第一目标数据在预设时间内的访问次数;
根据所述访问次数确定所述第一目标数据的第一热度值。
7.一种缓存读取方法,其特征在于,所述方法包括:
获取客户端的缓存数据访问请求;
根据所述缓存数据访问请求确定需要读取的第四目标数据;
获取预设的热度消息列表,所述热度消息列表用于指示缓存在一级缓存中的热度数据;
若所述第四目标数据与所述热度消息列表中的所述热度数据相对应,根据所述缓存数据访问请求从所述一级缓存中返回所述第四目标数据。
8.一种缓存管理系统,其特征在于,所述系统包括:
第一数据获取模块,用于获取第一目标数据;
热度计算模块,用于获取所述第一目标数据的访问数据,并根据所述访问数据确定所述第一目标数据的第一热度值;
热度数据确定模块,用于将所述第一热度值大于预设阈值的所述第一目标数据确定为热度数据;
热度消息列表获取模块,用于获取热度消息列表,所述热度消息列表用于指示所述热度数据;
第二数据获取模块,用于获取待缓存的第二目标数据;
热度数据缓存模块,如果所述第二目标数据在所述热度消息列表中,所述热度数据缓存模块用于将所述第二目标数据存放在一级缓存中。
9.一种电子设备,其特征在于,所述电子设备包括存储器和处理器,所述存储器存储有计算机程序,所述处理器执行所述计算机程序时实现权利要求1至6任一项所述的缓存管理方法,或实现权利要求7所述的缓存读取方法。
10.一种计算机可读存储介质,所述存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至6任一项所述的缓存管理方法,或实现权利要求7所述的缓存读取方法。
CN202211247613.6A 2022-10-12 2022-10-12 缓存管理方法、读取方法、系统、电子设备及存储介质 Pending CN115543202A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211247613.6A CN115543202A (zh) 2022-10-12 2022-10-12 缓存管理方法、读取方法、系统、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211247613.6A CN115543202A (zh) 2022-10-12 2022-10-12 缓存管理方法、读取方法、系统、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN115543202A true CN115543202A (zh) 2022-12-30

Family

ID=84733230

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211247613.6A Pending CN115543202A (zh) 2022-10-12 2022-10-12 缓存管理方法、读取方法、系统、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN115543202A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116610532A (zh) * 2023-07-17 2023-08-18 山东浪潮数字商业科技有限公司 Redis客户端监测方法、系统、电子设备及存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116610532A (zh) * 2023-07-17 2023-08-18 山东浪潮数字商业科技有限公司 Redis客户端监测方法、系统、电子设备及存储介质
CN116610532B (zh) * 2023-07-17 2023-10-27 山东浪潮数字商业科技有限公司 Redis客户端监测方法、系统、电子设备及存储介质

Similar Documents

Publication Publication Date Title
CN108134691B (zh) 模型构建方法、网络资源预加载方法、装置、介质及终端
US9544355B2 (en) Methods and apparatus for realizing short URL service
CN108875091B (zh) 一种统一管理的分布式网络爬虫系统
CN109241358A (zh) 元数据管理方法、装置、计算机设备及存储介质
CN108156265A (zh) 一种应用程序控制方法及移动设备
CN105550248B (zh) 用户信息挖掘方法及装置
WO2013062237A1 (ko) 사회적 관계정보 관리 시스템 및 관리 방법
CN110119307B (zh) 数据处理请求的处理方法、装置、存储介质及电子装置
US10015253B2 (en) System and method for preemptive request processing
CN112347355B (zh) 数据处理方法、装置、服务器及存储介质
CN111740868A (zh) 告警数据的处理方法和装置及存储介质
CN115033876A (zh) 日志处理方法、日志处理装置、计算机设备及存储介质
CN115543202A (zh) 缓存管理方法、读取方法、系统、电子设备及存储介质
EP3506599A1 (en) Method for synchronizing contact information, apparatus, medium, electronic device and system
Jaffrès-Runser et al. Crowdsensing mobile content and context data: Lessons learned in the wild
CN113422808A (zh) 物联网平台http信息推送方法、系统、装置及介质
CN106940710B (zh) 信息推送方法及装置
CN112860844A (zh) 案件线索处理系统、方法、装置和计算机设备
CN111090672B (zh) 一种数据优化方法及装置
CN110287428B (zh) 一种url数据挖掘方法及系统
CN114265866A (zh) 流式数据处理方法、规则插件、流式数据处理模块及系统
CN113590986A (zh) 页面链接配置方法、装置、电子设备和计算机可读介质
CN109325154B (zh) 应用数据采集方法及电子设备
CN114253776A (zh) 内存检测模型的训练方法、装置、设备和介质
CN113836405B (zh) 信息查询方法、装置以及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination