CN114546786A - 基于多级缓存的异常监控方法 - Google Patents

基于多级缓存的异常监控方法 Download PDF

Info

Publication number
CN114546786A
CN114546786A CN202210291920.8A CN202210291920A CN114546786A CN 114546786 A CN114546786 A CN 114546786A CN 202210291920 A CN202210291920 A CN 202210291920A CN 114546786 A CN114546786 A CN 114546786A
Authority
CN
China
Prior art keywords
data
cache
access
interval
exception handling
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210291920.8A
Other languages
English (en)
Inventor
胡海
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Industrial and Commercial Bank of China Ltd ICBC
Original Assignee
Industrial and Commercial Bank of China Ltd ICBC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Industrial and Commercial Bank of China Ltd ICBC filed Critical Industrial and Commercial Bank of China Ltd ICBC
Priority to CN202210291920.8A priority Critical patent/CN114546786A/zh
Publication of CN114546786A publication Critical patent/CN114546786A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/3003Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/3037Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a memory, e.g. virtual memory, cache
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/3055Monitoring arrangements for monitoring the status of the computing system or of the computing system component, e.g. monitoring if the computing system is on, off, available, not available

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本公开提供了一种基于多级缓存的异常监控方法,可以应用于监控领域。所述方法包括:对原始数据执行多级缓存处理,得到缓存数据;响应于对所述缓存数据执行的访问操作,获取日志信息,所述日志信息至少包括某一访问操作的访问结果;对第一预设区间内所有缓存数据的访问结果的失败率进行第一区间监控;当第一预设区间内所有缓存数据的访问结果的失败率达到预设的失败率阈值时,进行第一报警;以及响应于所述第一报警,将第一预设区间内的所有缓存数据进行异常处理等级预估,得到异常处理等级,所述异常处理等级对应不同的缓存数据,用以区分不同的缓存数据的异常处理优先级。本公开还提供了一种基于多级缓存的异常监控装置、设备、介质和程序产品。

Description

基于多级缓存的异常监控方法
技术领域
本公开涉及互联网技术领域,具体涉及监控技术领域,更具体地涉及一种基于多级缓存的异常监控方法、装置、设备、介质和程序产品。
背景技术
目前,互联网应用在高并发、大数据的场景下,存在某些热点数据访问的性能瓶颈问题,为解决该技术问题,现有技术中,通过轻量级的分布式缓存中间件提高热点数据的访问效率。
但轻量级的分布式缓存中间件愈发地无法满足日益增长的数据访问需求,因此,在此基础上,仍需要进一步开发缓存系统。另外,在面对更加复杂的缓存系统时,现有异常监控的应急能力有所欠缺,使得整个系统运行风险增大。
发明内容
鉴于上述问题,本公开提供了提高应急处理能力的一种基于多级缓存的异常监控方法、装置、设备、介质和程序产品。
根据本公开的第一个方面,提供了一种基于多级缓存的异常监控方法,包括:对原始数据执行多级缓存处理,得到缓存数据;响应于对所述缓存数据执行的访问操作,获取日志信息,所述日志信息至少包括某一访问操作的访问结果;对第一预设区间内所有缓存数据的访问结果的失败率进行第一区间监控;当第一预设区间内所有缓存数据的访问结果的失败率达到预设的失败率阈值时,进行第一报警;以及响应于所述第一报警,将第一预设区间内的所有缓存数据进行异常处理等级预估,得到异常处理等级,所述异常处理等级对应不同的缓存数据,用以区分不同的缓存数据的异常处理优先级。
根据本公开的实施例,所述对原始数据执行多级缓存处理,得到缓存数据,包括:获取所述原始数据;将所述原始数据分别写入本地缓存数据库和分布式缓存数据库,得到不同缓存数据库中的缓存数据。
根据本公开的实施例,所述响应于对所述缓存数据执行的访问操作,其中,所述访问操作的操作策略包括:优先对本地缓存数据库中的所述缓存数据执行访问操作,在本地缓存数据库中的缓存数据执行访问操作失败的情况下,对分布式缓存数据库中的所述缓存数据执行访问操作。
根据本公开的实施例,在所述对原始数据执行多级缓存处理,得到缓存数据后,还包括:获取不同缓存数据库中的当前时刻的交易流量;基于动态流量阈值,对不同缓存数据库中的当前时刻的交易流量进行瞬时监控;以及在当前时刻的交易流量大于所述动态流量阈值时,进行第二报警。
根据本公开的实施例,其中,所述动态流量阈值的配置方法包括:基于当前时刻的所述交易流量判断当前时刻的系统可承载量,所述当前时刻的系统可承载量以更新下一时刻的所述动态流量阈值。
根据本公开的实施例,所述基于无监督学习将第一预设区间内的所有缓存数据进行异常处理等级预估,得到异常处理等级,包括:对所述预设周期内的每个缓存数据的访问结果进行一位有效编码处理,得到一位有效编码;基于所述一位有效编码,通过无监督学习模型的多次迭代运算获取分类结果;以及基于所述分类结果预估当前预设周期内待查询数据的分散区间,以确定异常处理等级。
根据本公开的实施例,其中,所述日志信息还包括某一访问操作的操作耗时以及系统吞吐量指标,在所述响应于对所述缓存数据执行的访问操作,获取日志信息后,所述方法还包括:对第二预设区间内所有缓存数据的访问结果、操作耗时以及系统吞吐量指标进行离散化处理,得到所述第二预设区间内的离散化数据;对所述离散化数据进行第二区间监控;以及当第二预设区间内的所述离散化数据达到预设的离散化数据阈值时进行第三报警。
本公开的第二个方面,提供了一种缓存异常处理装置,包括:多级缓存模块,用于对原始数据执行多级缓存处理,得到缓存数据;日志获取模块,用于响应于对所述缓存数据执行的访问操作,获取日志信息,所述日志信息至少包括某一访问操作的访问结果;第一区间监控模块,用于对第一预设区间内所有缓存数据的访问结果的失败率进行第一区间监控;第一区间报警模块,用于当第一预设区间内所有缓存数据的访问结果的失败率达到预设的失败率阈值时,进行第一报警;以及异常处理等级模块,用于响应于所述第一报警,将第一预设区间内的所有缓存数据进行异常处理等级预估,得到异常处理等级,所述异常处理等级对应不同的缓存数据,用以区分不同的缓存数据的异常处理优先级。
根据本公开的实施例,所述装置还包括:交易流量获取模块,用于获取不同缓存数据库中的当前时刻的交易流量;瞬时监控模块,用于基于动态流量阈值,对不同缓存数据库中的当前时刻的交易流量进行瞬时监控;以及瞬时报警模块,用于在当前时刻的交易流量大于所述动态流量阈值时,进行第二报警处理。
根据本公开的实施例,所述装置还包括:离散化模块,用于对第二预设区间内所有缓存数据的访问结果、操作耗时以及系统吞吐量指标进行离散化处理,得到所述第二预设区间内的离散化数据;第二区间监控模块,用于对所述离散化数据进行第二区间监控;以及第二区间报警模块,用于当第二预设区间内的所述离散化数据达到预设的离散化数据阈值时进行第三报警。
本公开的第三个方面,提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得一个或多个处理器执行上述缓存异常处理方法。
本公开的第四个方面,还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述缓存异常处理方法。
本公开的第五个方面,还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述缓存异常处理方法。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的基于多级缓存的异常监控方法、装置、设备、介质和程序产品的应用场景图。
图2示意性示出了根据本公开实施例的一种基于多级缓存的异常监控方法的流程图。
图3示意性示出了根据本公开实施例的异常处理等级获取方法的流程图。
图4示意性示出了根据本公开实施例的另一种基于多级缓存的异常监控方法。
图5示意性示出了根据本公开实施例的另一种基于多级缓存的异常监控方法。
图6A示意性示出了根据本公开实施例的一种基于多级缓存的异常监控装置的结构框图。
图6B示意性示出了根据本公开实施例的另一种基于多级缓存的异常监控装置的结构框图。
图6C示意性示出了根据本公开实施例的另一种基于多级缓存的异常监控装置的结构框图。
图7示意性示出了根据本公开实施例的适于实现基于多级缓存方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
以下为本公开的实施例中的关键术语的详细介绍:
Redis:一种高性能的Key-Value数据库。
JetCache:基于Java的缓存系统封装。提供统一的API和注解来简化缓存的使用。
Lucene:常用的开源全文检索引擎工作包。
一位有效编码处理:One-Hot编码处理,常见的将类别变量转换为机器学习算法易于利用的一种形式的处理过程。
为解决上述现有技术中的技术问题,本公开的实施例提供了一种基于多级缓存的异常监控方法,包括:原始数据执行多级缓存处理,得到缓存数据;响应于对所述缓存数据执行的访问操作,获取日志信息,所述日志信息至少包括某一访问操作的访问结果;对第一预设区间内所有缓存数据的访问结果的失败率进行第一区间监控;当第一预设区间内所有缓存数据的访问结果的失败率达到预设的失败率阈值时,进行第一报警;以及响应于所述第一报警,将第一预设区间内的所有缓存数据进行异常处理等级预估,得到异常处理等级,所述异常处理等级对应不同的缓存数据,用以区分不同的缓存数据的异常处理优先级。
在本公开的实施例中,首先,通过对原始数据执行多级缓存处理,提高了整个缓存系统的基础处理能力。其次,通过对预设时间段内的访问结果失败率的监控,实现了实时且准确的异常监控。最后,在上述异常监控的基础上,通过对不同缓存数据的访问结果的异常进行缓存异常处理等级预估,可以突出个别异常访问事件的重要性和紧急性,进而使得处理资源着重优先解决更为重要的异常事件。以此保证多级缓存系统整体稳定性。
图1示意性示出了根据本公开实施例的基于多级缓存的异常监控方法、装置、设备、介质和程序产品的应用场景图。
如图1所示,根据该实施例的应用场景100可以包括终端设备101、102、103、网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的基于多级缓存的异常监控方法一般可以由服务器105执行。相应地,本公开实施例所提供的基于多级缓存的异常监控装置一般可以设置于服务器105中。本公开实施例所提供的缓存异常处理方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的基于多级缓存的异常监控装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
以下将基于图1描述的场景,通过图2~图5对公开实施例的基于多级缓存的异常监控方法进行详细描述。
图2示意性示出了根据本公开实施例的一种基于多级缓存的异常监控方法的流程图。
如图2所示,该实施例的基于多级缓存的异常监控方法包括操作S210~操作S250,该基于多级缓存的异常监控方法可以服务器105执行。
在操作S210中,对原始数据执行多级缓存处理,得到缓存数据。
根据本公开的实施例,所述对原始数据执行多级缓存处理,得到缓存数据,包括:获取所述原始数据;将所述原始数据分别写入本地缓存数据库和分布式缓存数据库,得到不同缓存数据库中的缓存数据。
具体地,在本公开的实施例中在本地缓存数据库和分布式缓存数据库中,所述缓存数据均以Key-Value的形式存在,可以通过访问Key值完成对Value的查询。需要说明的是,该Key-Value的形式存储在本地数据库和分布式数据库中是具有时效性的,包括过期时间。
根据本公开的实施例,所述响应于对所述缓存数据执行的访问操作,其中,所述访问操作的操作策略包括:优先对本地缓存数据库中的所述缓存数据执行访问操作,在本地缓存数据库中的缓存数据执行访问操作失败的情况下,对分布式缓存数据库中的所述缓存数据执行访问操作。
具体地,分布式数据库可以看作是本地数据库的备份数据库,而本地数据库使用消息队列并且以实例的形式进行缓存,分布式数据库不使用消息队列并且以非实例的形式进行缓存。对于多级缓存下的数据访问规则可以是,例如,对缓存数据A进行写出的访问操作时,由于本地数据库的空间限制,在使用的消息队列接近饱和的情况下,新插入一批待查询的数据后,缓存数据A对应的缓存数据在消息队列中被挤出,导致本地数据库写出缓存数据A失败。此时,则需要在远端的分布式数据库中进行缓存数据A的缓存操作,并在本地缓存数据库能够缓存该缓存数据A时,由分布式缓存数据库将缓存数据A传输至本地数据库。而对于分布式数据库而言,由于其缓存空间相较于本地数据库足够大,因此,分布式数据库并不使用消息队列,对于数据的缓存仅需考虑Key-Value键值对的过期时间以及缓存空间的大小。因此,只要在过期时间截止前完成待查询数据的写出即可。
在操作S220中,响应于对所述缓存数据执行的访问操作,获取日志信息,所述日志信息至少包括某一访问操作的访问结果。
具体地,在本地缓存数据库中缓存数据执行访问操作,其访问操作的结果包括成功和失败。上述访问操作的结果会保存在日志当中。以一次访问操作为例,通过对缓存数据的Key值进行访问,以此获取缓存数据的Value值,进而,在成功获取到该Value值时,判定此次访问操作为成功并由日志记载此次防问的结果。对于访问失败的数据,也是由日志记载此次访问的结果。需要说明的是,所述获取日志信息是根据Key值,找到相应的日志,进而完成日志信息的获取。
在操作S230中,对第一预设区间内所有缓存数据的访问结果的失败率进行第一区间监控。
根据本公开的实施例,所述访问结果包括所述访问结果包括:访问全部成功、访问全部失败、访问部分失败、访问超时和访问不存在,其中,除了所述全部成功则为失败率百分之零以及所述全部失败则为失败率百分之百,其余所述访问部分失败、所述访问超时和访问不存在都需要具体计算其失败率的数值。
在本公开的实施例中,通过判定缓存数据中访问是否成功,判断当前服务器是否出现阻塞或者其他故障。
具体地,所述第一预设区间为以固定的一个时间段为一个区间,上述时间段可以是出于具体业务要求,由开发人员或运维人员设置具体数值。
需要说明的是,所述访问结果可以是针对在第一预设区间内对同一数据的访问结果,所述访问结果可以是针对在第一预设区间内对所有数据的访问结果。例如,在一毫秒内对同一Key值的访问结果的失败率进行提取,获取访问结果的失败率的具体数值。又例如,在一毫秒内对所有Key值的访问结果的失败率进行提取,获取访问结果的失败率的具体数值。
在操作S240中,当第一预设区间内所有缓存数据的访问结果的失败率达到预设的失败率阈值时,进行第一报警。
具体地,所述预设的失败率阈值由开发人员或运维人员自行设置,在此不再赘述。
需要说明的是,此处的失败阈值可以是针对一个Key值的访问失败的阈值,也可以是针对所有Key值的访问失败的阈值。
在操作S250中,响应于所述第一报警,将第一预设区间内的所有缓存数据进行异常处理等级预估,得到异常处理等级,所述异常处理等级对应不同的缓存数据,用以区分不同的缓存数据的异常处理优先级。
具体地,当针对所有Key值的防问失败的阈值触发了第一报警时,触发异常处理等级预估的操作,得到异常处理等级,其中,所述异常处理等级由人为定义,可以是任意的异常处理等级。其中,每一异常处理等级中对应多个不同的Key值。
图3示意性示出了根据本公开实施例的异常处理等级获取方法的流程图。
如图3所示,该实施例的异常处理等级获取方法包括操作S310~操作S330。
在操作S310中,对所述预设周期内的每个缓存数据的访问结果进行一位有效编码处理,得到一位有效编码。
根据本公开的实施例,所述访问结果包括:访问全部成功、访问全部失败、访问部分失败、访问超时和访问不存在,并将这五种维度作为相关因子,进行一位有效编码处理。
具体地,为了对缓存数据的访问结果进行异常处理等级预估,需要对所述访问结果进行一位有效编码处理(One-Hot编码处理)。即,访问全部成功、访问全部失败、访问部分失败、访问超时和访问不存在进行一位有效编码处理,将不能直接入模的访问结果转换为相关因子,所述相关因子便可以实现机器学习模型的处理。
在操作S320中,基于所述一位有效编码,通过无监督学习模型的多次迭代运算获取分类结果。
根据本公开的实施例,所述无监督学习模型包括聚类模型,在此,对于聚类模型的种类不做具体限定。
例如,在本公开的实施例中,可以采用经典的K-Means算法进行分析。
具体地,K-Means算法的执行逻辑如下:
步骤S31,输入聚类K。
步骤S32,生成K个随机点作为中心点。
步骤S33,遍历所有点,将每个点分配到最近的中心点作为新的聚类。
步骤S34,计算每个积累的平均值作为新的中心点。
步骤S35,判断中心点是否不再变化。是则继续步骤S36,否则返回步骤S33。
步骤S36,完成聚类。
具体地,对第一预设区间内各缓存数据对应的Key值的访问结果转化为相关因子,并重复移动类的中心点,将类的中心点移动到其包括成员的平均位置,然后重新划分其内部成员。K作为算法计算出的超参数,表示类的数量。K-Means算法可以自动分配样本到不同的类,最后得到分类结果。其中,
在操作S330中,基于所述分类结果预估当前预设周期内待查询数据的分散区间,以确定异常处理等级。
需要说明的是,在本公开的实施例中,所述分散区间可以看作是异常事件的密度,异常事件的密度反映异常的发生频次,基于异常事件的密度,区分不同异常事件对应的异常处理等级。在本公开的实施例中,以异常事件的类型为待查询数据访问结果为失败,结合访问全部成功、访问全部失败、访问部分失败、访问超时和访问不存在这五种维度作为相关因子,通过K-Means算法进行聚类。进而确定异常处理等级。解决了不同待查询数据出现访问异常的情况下的异常处理优先级的问题,有效解决重要且紧急的异常事件。
在本公开的实施例中,首先,通过对原始数据执行多级缓存处理,提高了整个缓存系统的基础处理能力。其次,通过对预设时间段内的访问结果失败率的监控,实现了实时且准确的异常监控。最后,在上述异常监控的基础上,通过对不同缓存数据的访问结果的异常进行缓存异常处理等级预估,可以突出个别异常访问事件的重要性和紧急性,进而使得处理资源着重优先解决更为重要的异常事件。以此保证多级缓存系统整体稳定性。
图4示意性示出了根据本公开实施例的另一种基于多级缓存的异常监控方法。
如图4所示,该实施例的基于多级缓存的异常监控方法包括操作S410~操作S430。
在操作S410中,获取不同缓存数据库中的当前时刻的交易流量。
在操作S420中,基于动态流量阈值,对不同缓存数据库中的当前时刻的交易流量进行瞬时监控。
根据本公开的实施例,还包括:基于静态流量阈值,对不同缓存数据库中的当前时刻的交易流量进行瞬时监控。
在操作S430中,在当前时刻的交易流量大于所述动态流量阈值时,进行第二报警。
根据本公开的实施例,所述动态流量阈值的配置方法包括:基于当前时刻的所述交易流量判断当前时刻的系统可承载量,所述当前时刻的系统可承载量以更新下一时刻的所述动态流量阈值。
具体地,所述系统可承载量包括对整个多级缓存系统的可承载量。
例如,通过t时刻的交易流量,预测t+1时刻的动态流量阈值。并通过t+1时刻的动态流量阈值判断t+1时刻的交易流量是否大于所述动态流量阈值。从而,判断交易流量是否超过最大的承载量。而对于,动态流量阈值的预测方法可以是例如通过有监督的机器学习模型进行迭代训练学习。
在本公开的实施例中,通过监控当前的实时交易流量,进而预测下一时刻的交易流量,完成了告警阈值的动态更新。动态更新的告警阈值实现了现有技术中固定阈值监控中阈值无法实时适配当前队列情况所导致的告警遗漏或者告警风暴的问题,降低了校验调优监控阈值过程中的人工成本,提高了告警系统告警准确率和有效性。
图5示意性示出了根据本公开实施例的另一种基于多级缓存的异常监控方法。
如图5所示,该实施例的基于多级缓存异常监控方法包括操作510~操作530。
根据本公开的实施例,所述日志信息还包括某一访问操作的操作耗时以及系统吞吐量指标。
具体地,所述操作耗时为从接收访问请求到响应并完成访问请求的操作耗时,所述系统吞吐量指标包括每秒钟请求数量(Queries Per Second,QPS)或每秒钟事务数量(Transaction Per Second,TPS),其中,QPS/TPS是重要的衡量系统吞吐量的指标。
在操作S510中,对第二预设区间内所有缓存数据的访问结果、操作耗时以及系统吞吐量指标进行离散化处理,得到所述第二预设区间内的离散化数据。
具体地,所述离散化处理包括将所提取的第二预设区间内的访问结果、操作耗时以及系统吞吐量指标离散化为多个单一时刻的访问结果、操作耗时以及系统吞吐量。
具体地,所述第二预设区间为以固定的一个时间段为一个区间,上述时间段可以是出于具体业务要求,由开发人员或运维人员设置具体数值。需要说明的是,第二预设区间的取值可以是和第一预设区间的取值一样,第二预设区间的取值也可以是和第一预设区间的取值不一样。
在操作S520中,对所述离散化数据进行第二区间监控。
在操作S530中,当第二预设区间内的所述离散化数据达到预设的离散化数据阈值时进行第三报警。
具体地,所述离散化数据阈值则是针对单一时刻的访问结果、操作耗时以及系统吞吐量进行监控,针对不同的维度,配备不同的离散化阈值。
根据本公开的实施例,还包括:对所述离散化数据进行预处理,得到组合化数据;当所述组合化数据达到预设的组合化数据阈值时进行第四报警。
具体地,所述预处理包括将基于不同维度的数据进行组合,以获取不同维度指标(即访问结果、操作耗时以及系统吞吐量)在第二预设区间内的最大值、最小值以及平均值。并基于第四报警阈值通过对应的组合化数据阈值对不同维度指标(即访问结果、操作耗时以及系统吞吐量)的最大值、最小值以及平均值进行判断。
在本公开的实施例中,对于多级缓存的监控不仅在于失败率和流量,还包括离散化的访问结果、操作耗时以及系统吞吐量指标。综合实现预警,使得性能指标达到一定阈值时,完成报警。实现了缓存的高载或满载状态的精确识别,触发预警的发出。
需要说明的是,对于上述第一区间监控、瞬时监控以及第二区间监控,还可以采用可视化展示的方法完成监控并报警。
具体地,对于可视化展示,可以通过配置Lucene语法,配置作为性能指标的数据集合,所述性能指标包括所述第一区间监控、瞬时监控以及第二区间监控所监控的性能指标,对该数据集合进行索引处理检索,获取符合条件的记录,如:@log_name.keyword:*mlcc.log AND pubMetric.serviceType.keyword:T AND pubMetric.logType:E,表示筛选出mlcc.log中所有服务类型为T-交易,且日志类型为E-应答的报文日志。进而,在配置完成Lucene组件后,得到Lucene索引。进而,在搜索需要展示的性能指标时,根据Lucene索引通过输入查询语句获取搜索结果并进行可视化展示。例如,通过搜索“平均耗时”的查询语句,实现对交易在周期内的平均耗时统计与展示。
基于上述基于多级缓存的异常监控方法,本公开还提供了一种基于多级缓存的异常监控装置。以下将结合图6A-图6C对该装置进行详细描述。
图6A示意性示出了根据本公开实施例的一种基于多级缓存的异常监控装置的结构框图。
如图6A所示,该实施例的基于多级缓存的异常监控装置600包括:多级缓存模块601、日志获取模块602、第一区间监控模块603、第一区间报警模块604以及异常处理等级模块605。
所述多级缓存模块601,用于对原始数据执行多级缓存处理,得到缓存数据;在一实施例中,所述多级缓存模块601可以用于执行前文描述的操作S210,在此不再赘述。
所述日志获取模块602,用于响应于对所述缓存数据执行的事务操作,获取日志信息,所述日志信息至少包括某一事务操作的访问结果,所述访问结果包括成功和失败;在一实施例中,所述日志获取模块602可以用于执行前文描述的操作S220,在此不再赘述。
所述第一区间监控模块603,用于对第一预设区间内所有缓存数据的访问结果的失败率进行第一区间监控;在一实施例中,所述第一区间监控模块603可以用于执行前文描述的操作S230,在此不再赘述。
所述第一区间报警模块604,用于当第一预设区间内所有缓存数据的访问结果的失败率达到预设的失败率阈值时,进行第一报警;在一实施例中,所述第一区间报警模块604可以用于执行前文描述的操作S240,在此不再赘述。
所述异常处理等级模块605,用于响应于所述第一报警,将第一预设区间内的所有缓存数据进行异常处理等级预估,得到异常处理等级,所述异常处理等级对应不同的缓存数据,用以区分不同的缓存数据的异常处理优先级。在一实施例中,所述异常处理等级模块605可以用于执行前文描述的操作S250,在此不再赘述。
图6B示意性示出了根据本公开实施例的另一种基于多级缓存的异常监控装置的结构框图。
如图6B所示,该实施例的基于多级缓存的异常监控装置600还包括:交易流量获取模块606、瞬时监控模块607以及瞬时报警模块608。
所述交易流量获取模块606,用于获取不同缓存数据库中的当前时刻的交易流量;在一实施例中,所述交易流量获取模块606可以用于执行前文描述的操作S410,在此不再赘述。
所述瞬时监控模块607,用于基于动态流量阈值,对不同缓存数据库中的当前时刻的交易流量进行瞬时监控;在一实施例中,所述瞬时监控模块607可以用于执行前文描述的操作S420,在此不再赘述。
所述瞬时报警模块608,用于在当前时刻的交易流量大于所述动态流量阈值时,进行第二报警。在一实施例中,所述瞬时报警模块608可以用于执行前文描述的操作S430,在此不再赘述。
图6C示意性示出了根据本公开实施例的另一种基于多级缓存的异常监控装置的结构框图。
如图6C所示,该实施例的基于多级缓存的异常监控装置600还包括:离散化模块609、第二区间监控模块610以及第二区间报警模块611。
所述离散化模块609,用于对第二预设区间内所有缓存数据的访问结果、操作耗时以及系统吞吐量指标进行离散化处理,得到所述第二预设区间内的离散化数据;在一实施例中,所述离散化模块609可以用于执行前文描述的操作S510,在此不再赘述。
所述第二区间监控模块610,用于对所述离散化数据进行第二区间监控;在一实施例中,所述第二区间监控模块610可以用于执行前文描述的操作S520,在此不再赘述。
所述第二区间报警模块611,用于当第二预设区间内的所述离散化数据达到预设的离散化数据阈值时进行第三报警。在一实施例中,所述第二区间报警模块611可以用于执行前文描述的操作S530,在此不再赘述。
根据本公开的实施例,所述多级缓存模块601、所述日志获取模块602、所述第一区间监控模块603、所述第一区间报警模块604、所述异常处理等级模块605、交易流量获取模块606、瞬时监控模块607、瞬时报警模块608、离散化模块609、第二区间监控模块610以及第二区间报警模块611中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,所述多级缓存模块601、所述日志获取模块602、所述第一区间监控模块603、所述第一区间报警模块604、所述异常处理等级模块605、交易流量获取模块606、瞬时监控模块607、瞬时报警模块608、离散化模块609、第二区间监控模块610以及第二区间报警模块611中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,所述多级缓存模块601、所述日志获取模块602、所述第一区间监控模块603、所述第一区间报警模块604、所述异常处理等级模块605、交易流量获取模块606、瞬时监控模块607、瞬时报警模块608、离散化模块609、第二区间监控模块610以及第二区间报警模块611中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图7示意性示出了根据本公开实施例的适于实现异常处理法的电子设备的方框图。
如图7所示,根据本公开实施例的电子设备700包括处理器701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。处理器701例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器701还可以包括用于缓存用途的板载存储器。处理器701可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 703中,存储有电子设备700操作所需的各种程序和数据。处理器701、ROM702以及RAM 703通过总线704彼此相连。处理器701通过执行ROM 702和/或RAM 703中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 702和RAM 703以外的一个或多个存储器中。处理器701也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备700还可以包括输入/输出(I/O)接口705,输入/输出(I/O)接口705也连接至总线704。电子设备700还可以包括连接至I/O接口705的以下部件中的一项或多项:包括键盘、鼠标等的输入部分706;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707;包括硬盘等的存储部分708;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器710上,以便于从其上读出的计算机程序根据需要被安装入存储部分708。
本公开还提供了一种计算机可读存储介质,该计算机可渎存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 702和/或RAM 703和/或ROM 702和RAM 703以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例所提供的物品推荐方法。
在该计算机程序被处理器701执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分709被下载和安装,和/或从可拆卸介质711被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分709从网络上被下载和安装,和/或从可拆卸介质711被安装。在该计算机程序被处理器701执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。

Claims (13)

1.一种基于多级缓存的异常监控方法,其特征在于,包括:
对原始数据执行多级缓存处理,得到缓存数据;
响应于对所述缓存数据执行的访问操作,获取日志信息,所述日志信息至少包括某一访问操作的访问结果;
对第一预设区间内所有缓存数据的访问结果的失败率进行第一区间监控;
当第一预设区间内所有缓存数据的访问结果的失败率达到预设的失败率阈值时,进行第一报警;以及
响应于所述第一报警,将第一预设区间内的所有缓存数据进行异常处理等级预估,得到异常处理等级,所述异常处理等级对应不同的缓存数据,用以区分不同的缓存数据的异常处理优先级。
2.根据权利要求1所述的方法,其特征在于,所述对原始数据执行多级缓存处理,得到缓存数据,包括:获取所述原始数据;将所述原始数据分别写入本地缓存数据库和分布式缓存数据库,得到不同缓存数据库中的缓存数据。
3.根据权利要求2所述的方法,其特征在于,所述响应于对所述缓存数据执行的访问操作,其中,所述访问操作的操作策略包括:优先对本地缓存数据库中的所述缓存数据执行访问操作,在本地缓存数据库中的缓存数据执行访问操作失败的情况下,对分布式缓存数据库中的所述缓存数据执行访问操作。
4.根据权利要求1所述的方法,其特征在于,在所述对原始数据执行多级缓存处理,得到缓存数据后,还包括:
获取不同缓存数据库中的当前时刻的交易流量;
基于动态流量阈值,对不同缓存数据库中的当前时刻的交易流量进行瞬时监控;以及
在当前时刻的交易流量大于所述动态流量阈值时,进行第二报警。
5.根据权利要求4所述的方法,其特征在于,其中,所述动态流量阈值的配置方法包括:基于当前时刻的所述交易流量判断当前时刻的系统可承载量,所述当前时刻的系统可承载量以更新下一时刻的所述动态流量阈值。
6.根据权利要求1所述的方法,其特征在于,所述基于无监督学习将第一预设区间内的所有缓存数据进行异常处理等级预估,得到异常处理等级,包括:
对所述预设周期内的每个缓存数据的访问结果进行一位有效编码处理,得到一位有效编码;
基于所述一位有效编码,通过无监督学习模型的多次迭代运算获取分类结果;以及
基于所述分类结果预估当前预设周期内待查询数据的分散区间,以确定异常处理等级。
7.根据权利要求1至6任一项所述的方法,其特征在于,其中,所述日志信息还包括某一访问操作的操作耗时以及系统吞吐量指标,
在所述响应于对所述缓存数据执行的访问操作,获取日志信息后,所述方法还包括:
对第二预设区间内所有缓存数据的访问结果、操作耗时以及系统吞吐量指标进行离散化处理,得到所述第二预设区间内的离散化数据;
对所述离散化数据进行第二区间监控;以及
当第二预设区间内的所述离散化数据达到预设的离散化数据阈值时进行第三报警。
8.一种缓存异常处理装置,其特征在于,包括:
多级缓存模块,用于对原始数据执行多级缓存处理,得到缓存数据;
日志获取模块,用于响应于对所述缓存数据执行的访问操作,获取日志信息,所述日志信息至少包括某一访问操作的访问结果;
第一区间监控模块,用于对第一预设区间内所有缓存数据的访问结果的失败率进行第一区间监控;
第一区间报警模块,用于当第一预设区间内所有缓存数据的访问结果的失败率达到预设的失败率阈值时,进行第一报警;以及
异常处理等级模块,用于响应于所述第一报警,将第一预设区间内的所有缓存数据进行异常处理等级预估,得到异常处理等级,所述异常处理等级对应不同的缓存数据,用以区分不同的缓存数据的异常处理优先级。
9.根据权利要求8所述的装置,其特征在于,所述装置还包括:
交易流量获取模块,用于获取不同缓存数据库中的当前时刻的交易流量;
瞬时监控模块,用于基于动态流量阈值,对不同缓存数据库中的当前时刻的交易流量进行瞬时监控;以及
瞬时报警模块,用于在当前时刻的交易流量大于所述动态流量阈值时,进行第二报警。
10.根据权利要求8所述的装置,其特征在于,所述装置还包括:
离散化模块,用于对第二预设区间内所有缓存数据的访问结果、操作耗时以及系统吞吐量指标进行离散化处理,得到所述第二预设区间内的离散化数据;
第二区间监控模块,用于对所述离散化数据进行第二区间监控;以及
第二区间报警模块,用于当第二预设区间内的所述离散化数据达到预设的离散化数据阈值时进行第三报警。
11.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~7中任一项所述的方法。
12.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~7中任一项所述的方法。
13.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~7中任一项所述的方法。
CN202210291920.8A 2022-03-23 2022-03-23 基于多级缓存的异常监控方法 Pending CN114546786A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210291920.8A CN114546786A (zh) 2022-03-23 2022-03-23 基于多级缓存的异常监控方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210291920.8A CN114546786A (zh) 2022-03-23 2022-03-23 基于多级缓存的异常监控方法

Publications (1)

Publication Number Publication Date
CN114546786A true CN114546786A (zh) 2022-05-27

Family

ID=81665327

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210291920.8A Pending CN114546786A (zh) 2022-03-23 2022-03-23 基于多级缓存的异常监控方法

Country Status (1)

Country Link
CN (1) CN114546786A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117708179A (zh) * 2024-02-02 2024-03-15 成都深瑞同华科技有限公司 电力综合监控系统测点数据缓存方法、装置、设备及介质
CN118381714A (zh) * 2024-06-24 2024-07-23 江苏金恒信息科技股份有限公司 一种高并发数据采集场景下的数据熔断控制方法和装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117708179A (zh) * 2024-02-02 2024-03-15 成都深瑞同华科技有限公司 电力综合监控系统测点数据缓存方法、装置、设备及介质
CN117708179B (zh) * 2024-02-02 2024-05-03 成都深瑞同华科技有限公司 电力综合监控系统测点数据缓存方法、装置、设备及介质
CN118381714A (zh) * 2024-06-24 2024-07-23 江苏金恒信息科技股份有限公司 一种高并发数据采集场景下的数据熔断控制方法和装置

Similar Documents

Publication Publication Date Title
US10645022B2 (en) Methods and systems providing a scalable process for anomaly identification and information technology infrastructure resource optimization
US10560465B2 (en) Real time anomaly detection for data streams
US11074310B2 (en) Content-based management of links to resources
JP2017146994A (ja) カラムナデータベース内のヒストグラムを使用した効率的なクエリー処理
US10956214B2 (en) Time frame bounded execution of computational algorithms
CN114546786A (zh) 基于多级缓存的异常监控方法
US11416631B2 (en) Dynamic monitoring of movement of data
US20220229657A1 (en) Extensible resource compliance management
AU2021244852B2 (en) Offloading statistics collection
US20220335035A1 (en) Computer estimations based on statistical tree structures
US11244007B2 (en) Automatic adaption of a search configuration
US11210352B2 (en) Automatic check of search configuration changes
CN114710397B (zh) 服务链路的故障根因定位方法、装置、电子设备及介质
CN114676020A (zh) 缓存系统的性能监控方法、装置、电子设备及存储介质
CN115437899A (zh) 集群故障预测方法、装置、电子设备和介质
US9852142B2 (en) Method for EN passant workload shift detection
US11550692B2 (en) Integrated event processing and policy enforcement
CN114281586A (zh) 故障确定方法及装置、电子设备和计算机可读存储介质
CN114968552A (zh) 缓存分配方法、装置、设备、存储介质和程序产品
US9904707B1 (en) Systems and methods for optimized database sampling
CN118260154A (zh) 数据处理方法、装置、设备及存储介质
CN115687284A (zh) 信息处理方法、装置、设备及存储介质
CN118394713A (zh) 日志数据处理方法、装置、设备、存储介质和程序产品
CN115941613A (zh) 节点限流方法、装置、设备、介质和程序产品
CN115714718A (zh) 基于内存的日志预警方法、系统、计算机设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination