CN112650695B - 一种应用服务器的缓存管理方法及装置 - Google Patents

一种应用服务器的缓存管理方法及装置 Download PDF

Info

Publication number
CN112650695B
CN112650695B CN202011621831.2A CN202011621831A CN112650695B CN 112650695 B CN112650695 B CN 112650695B CN 202011621831 A CN202011621831 A CN 202011621831A CN 112650695 B CN112650695 B CN 112650695B
Authority
CN
China
Prior art keywords
response
preset
garbage collection
information
frequency
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011621831.2A
Other languages
English (en)
Other versions
CN112650695A (zh
Inventor
王兆仲
牟晋勇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing QIYI Century Science and Technology Co Ltd
Original Assignee
Beijing QIYI Century Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing QIYI Century Science and Technology Co Ltd filed Critical Beijing QIYI Century Science and Technology Co Ltd
Priority to CN202011621831.2A priority Critical patent/CN112650695B/zh
Publication of CN112650695A publication Critical patent/CN112650695A/zh
Application granted granted Critical
Publication of CN112650695B publication Critical patent/CN112650695B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/08—Addressing or allocation; Relocation in hierarchically structured memory systems, e.g. virtual memory systems
    • G06F12/0802—Addressing of a memory level in which the access to the desired data or data block requires associative addressing means, e.g. caches
    • G06F12/0893—Caches characterised by their organisation or structure
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F12/00—Accessing, addressing or allocating within memory systems or architectures
    • G06F12/02—Addressing or allocation; Relocation
    • G06F12/0223—User address space allocation, e.g. contiguous or non contiguous base addressing
    • G06F12/023—Free address space management
    • G06F12/0253—Garbage collection, i.e. reclamation of unreferenced memory
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2212/00—Indexing scheme relating to accessing, addressing or allocation within memory systems or architectures
    • G06F2212/10—Providing a specific technical effect
    • G06F2212/1041—Resource optimization
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Abstract

本发明实施例提供的一种应用服务器的缓存管理方法、装置、电子设备及存储介质，通过实时获取应用服务器发出的接口请求及应用服务器接收的响应信息；基于获取的接口请求和响应信息，判断是否发生响应异常；如果异常，获取应用服务器的垃圾回收的状态信息；基于垃圾回收的频次和每次垃圾回收的处理时长，判断是否符合预设的缓存调整条件；如果是，减少应用服务器的缓存中，预先为应用分配的缓存中占比最大的前N个应用的缓存的大小。可以实现缓存的自动配置，从而可以减少所需人力资源和时间，提高了对缓存配置不合理的情况进行处理的效率。

Description

一种应用服务器的缓存管理方法及装置
技术领域
本发明涉及数据处理技术领域，特别是涉及一种应用服务器的缓存管理方法及装置。
背景技术
目前，缓存技术已经普遍的应用在各种软件领域中，通过缓存技术可以在服务器的运行内存中划分一定的区域将计算耗时较长的结果或者热点数据进行缓存，当需要用到所缓存的数据时，可以从缓存中获取已有的结果，从而提高应用服务的性能和效率。在进行数据的缓存时，需要对每个应用进行缓存大小的配置，当缓存大小的分配不合理时，往往会触发应用服务频繁的垃圾回收，从而导致应用服务对外提供的服务质量下降，影响线上业务的正常运行。
然而，目前在对缓存配置不合理的情况进行处理时，通常是先进行问题定位，再基于定位结果重新分配缓存。一般需要通过人工对JVM(Java Virtual Machine，Java虚拟机)的详细数据、垃圾回收的时长、对象占比、备份文件系统信息等进行检查，才能进行问题的定位，进而进行缓存的重新分配。不但需要大量的人力资源，并且所需的时间也往往较长，处理效率较低。
发明内容
本发明实施例的目的在于提供一种应用服务器的缓存管理方法、装置、电子设备及存储介质，以提高对缓存配置不合理的情况进行处理的效率。具体技术方案如下：
本发明实施例的第一方面提供了一种应用服务器的缓存管理方法，上述方法应用于监控平台服务器，上述监控平台服务器用于监控应用服务器，应用服务器用于运行多种应用，该方法包括：
实时获取应用服务器发出的接口请求及应用服务器接收的响应信息；
基于获取的接口请求和响应信息，判断是否发生响应异常；
如果异常，获取应用服务器的垃圾回收的状态信息，其中，垃圾回收的状态信息包括：垃圾回收的频次和每次垃圾回收的处理时长；
基于垃圾回收的频次和每次垃圾回收的处理时长，判断是否符合预设的缓存调整条件；
如果是，减少应用服务器的缓存中，预先为应用分配的缓存中占比最大的前N个应用的缓存的大小。
可选的，基于获取的接口请求和响应信息，判断是否发生响应异常的步骤，包括：
每隔第一预设时长，对第一预设时长中获取的接口请求和响应信息进行统计，得到第一预设时长中接口请求的次数和请求成功的次数；
根据第一预设时长中接口请求的次数和请求成功的次数计算得到接口请求成功率；
判断接口请求成功率是否小于预设成功率阈值；
如果是，则判定在第一预设时长中发生待定响应异常；否则在第一预设时长中未发生待定响应异常；
在第一预设时长中发生待定响应异常的情况下，判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值，如果是，则发生响应异常，否则未发生响应异常；其中，第二预设时长大于第一预设时长。
可选的，基于获取的接口请求和响应信息，判断是否发生响应异常的步骤，包括：
每隔第一预设时长，对第一预设时长中获取的接口请求和响应信息进行统计，得到第一预设时长中接口请求的次数、请求成功的次数和响应信息中指定响应状态码的出现次数；指定响应状态码，用于表征接口请求的响应处于异常状态；
根据第一预设时长中接口请求的次数和请求成功的次数计算得到接口请求成功率；根据第一预设时长中响应信息中指定响应状态码的出现次数计算得到指定响应状态码的出现频次；
判断接口请求成功率是否小于预设成功率阈值，且响应状态码的出现频次是否大于第一预设频次阈值；
如果是，则判定在第一预设时长中发生待定响应异常；否则在第一预设时长中未发生待定响应异常；
在第一预设时长中发生待定响应异常的情况下，判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值，如果是，则发生响应异常，否则未发生响应异常；其中，第二预设时长大于第一预设时长。
可选的，获取应用服务器的垃圾回收的状态信息的步骤，包括：
每间隔第三预设时长读取一次垃圾回收日志，统计得到第三预设时长内垃圾回收的次数，和第三预设时长内每次垃圾回收的起止时刻；
根据每次垃圾回收的起止时刻，计算得到每次垃圾回收的处理时长；
根据第三预设时场和垃圾回收的次数，计算得到垃圾回收的频次。
可选的，基于垃圾回收的频次和每次垃圾回收的处理时长，判断是否符合预设的缓存调整条件的步骤，包括：
判断垃圾回收的频次是否大于第二预设频次阈值；
如果是，判断每次垃圾回收的处理时长是否大于预设处理时长阈值，其中，在每次垃圾回收的处理时长大于预设时长阈值时，判定符合预设的缓存调整条件。
可选的，减少应用服务器的缓存中，预先为应用分配的缓存中占比最大的前N个应用的缓存的大小的步骤，包括：
获取预先备份的信息中预先分配了缓存的多个指定应用的信息；
对应用服务器中各应用所占用的内存进行排序；
获取排序中内存占比最大的前N个应用的信息；
将前N个应用的信息与多个指定应用的信息进行匹配；
减小相匹配的应用所分配的缓存。
本发明实施例的第二方面提供了一种应用服务器的缓存管理装置，上述方法应用于监控平台服务器，上述监控平台服务器用于监控应用服务器，应用服务器用于运行多种应用，包括：
信息获取模块，用于实时获取应用服务器发出的接口请求及应用服务器接收的响应信息；
异常判断模块，用于基于获取的接口请求和响应信息，判断是否发生响应异常；
状态获取模块，用于如果异常，获取应用服务器的垃圾回收的状态信息，其中，垃圾回收的状态信息包括：垃圾回收的频次和每次垃圾回收的处理时长；
条件判断模块，用于基于垃圾回收的频次和每次垃圾回收的处理时长，判断是否符合预设的缓存调整条件；
缓存减少模块，用于如果是，减少应用服务器的缓存中，预先为应用分配的缓存中占比最大的前N个应用的缓存的大小。
可选的，异常判断模块，包括：
信息统计子模块，用于每隔第一预设时长，对第一预设时长中获取的接口请求和响应信息进行统计，得到第一预设时长中接口请求的次数和请求成功的次数；
成功率计算子模块，用于根据第一预设时长中接口请求的次数和请求成功的次数计算得到接口请求成功率；
第一阈值判断子模块，用于判断接口请求成功率是否小于预设成功率阈值；如果是，则判定在第一预设时长中发生待定响应异常；否则在第一预设时长中未发生待定响应异常；
响应异常判断子模块，用于在第一预设时长中发生待定响应异常的情况下，判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值，如果是，则发生响应异常，否则未发生响应异常；其中，第二预设时长大于第一预设时长。
可选的，异常判断模块，包括：
信息接收子模块，用于每隔第一预设时长，对第一预设时长中获取的接口请求和响应信息进行统计，得到第一预设时长中接口请求的次数、请求成功的次数和响应信息中指定响应状态码的出现次数；指定响应状态码，用于表征接口请求的响应处于异常状态；
频次计算子模块，用于根据第一预设时长中接口请求的次数和请求成功的次数计算得到接口请求成功率；根据第一预设时长中响应信息中指定响应状态码的出现次数计算得到指定响应状态码的出现频次；
成功率判断子模块，用于判断接口请求成功率是否小于预设成功率阈值，且响应状态码的出现频次是否大于第一预设频次阈值；如果是，则判定在第一预设时长中发生待定响应异常；否则在第一预设时长中未发生待定响应异常；
异常次数判断子模块，用于在第一预设时长中发生待定响应异常的情况下，判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值，如果是，则发生响应异常，否则未发生响应异常；其中，第二预设时长大于第一预设时长。
可选的，状态获取模块，包括：
日志读取子模块，用于每间隔第三预设时长读取一次垃圾回收日志，统计得到第三预设时长内垃圾回收的次数，和第三预设时长内每次垃圾回收的起止时刻；
时长计算子模块，用于根据每次垃圾回收的起止时刻，计算得到每次垃圾回收的处理时长；
频次计算子模块，用于根据第三预设时场和垃圾回收的次数，计算得到垃圾回收的频次。
可选的，条件判断模块，包括：
第三阈值判断子模块，用于判断垃圾回收的频次是否大于第二预设频次阈值；
第三时长判断子模块，用于如果是，判断每次垃圾回收的处理时长是否大于预设处理时长阈值，其中，在每次垃圾回收的处理时长大于预设时长阈值时，判定符合预设的缓存调整条件。
可选的，缓存减少模块，包括：
指定应用子模块，用于获取预先备份的信息中预先分配了缓存的多个指定应用的信息；
占比排序子模块，用于对应用服务器中各应用所占用的内存进行排序；
应用信息子模块，用于获取排序中内存占比最大的前N个应用的信息；
信息匹配子模块，用于将前N个应用的信息与多个指定应用的信息进行匹配；
缓存减少子模块，用于减小相匹配的应用所分配的缓存。
在本发明实施的又一方面，还提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述任一所述的应用服务器的缓存管理方法。
在本发明实施的又一方面，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述任一所述的应用服务器的缓存管理方法。
本发明实施例提供的一种应用服务器的缓存管理方法、装置、电子设备及存储介质，通过实时获取应用服务器发出的接口请求及应用服务器接收的响应信息；基于获取的接口请求和响应信息，判断是否发生响应异常；如果异常，获取应用服务器的垃圾回收的状态信息，其中，垃圾回收的状态信息包括：垃圾回收的频次和每次垃圾回收的处理时长；基于垃圾回收的频次和每次垃圾回收的处理时长，判断是否符合预设的缓存调整条件；如果是，减少应用服务器的缓存中，预先为应用分配的缓存中占比最大的前N个应用的缓存的大小。可以实现通过响应信息以及垃圾回收的频次和每次垃圾回收的处理时长判断是否发生响应和异常，当发生响应异常时，减少对应用分配的缓存的大小，从而实现缓存的自动配置，可以减少所需人力资源和时间，提高了对缓存配置不合理的情况进行处理的效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。
图1a为本发明实施例的应用场景示意图；
图1b为本发明实施例的应用服务器的缓存管理方法的一种流程示意图；
图2为本发明实施例的响应异常的判断方法的一种流程示意图；
图3为本发明实施例的响应异常的判断方法的另一种流程示意图；
图4a为本发明实施例的获取垃圾回收的状态信息的一种流程示意图；
图4b为本发明实施例的缓存调整条件的判断方法的一种流程示意图；
图5为本发明实施例的减少缓存大小的方法的一种流程示意图；
图6为本发明实施例的对应用服务器的缓存进行管理流程示意图；
图7为本发明实施例的应用服务器的缓存管理装置的一种结构示意图；
图8为本发明实施例的电子设备的一种结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明实施例的第一方面提供了一种应用服务器的缓存管理方法，上述方法应用于监控平台服务器，上述监控平台服务器用于监控应用服务器，应用服务器用于运行多种应用，该方法包括：
实时获取应用服务器发出的接口请求及应用服务器接收的响应信息；
基于获取的接口请求和响应信息，判断是否发生响应异常；
如果异常，获取应用服务器的垃圾回收的状态信息，其中，垃圾回收的状态信息包括：垃圾回收的频次和每次垃圾回收的处理时长；
基于垃圾回收的频次和每次垃圾回收的处理时长，判断是否符合预设的缓存调整条件；
如果是，减少应用服务器的缓存中，预先为应用分配的缓存中占比最大的前N个应用的缓存的大小。
可见，通过本发明实施例的应用服务器的缓存管理方法，可以实现通过响应信息以及垃圾回收的频次和每次垃圾回收的处理时长判断是否发生响应和异常，当发生响应异常时，减少对应用分配的缓存的大小，从而实现缓存的自动配置，可以减少所需人力资源和时间，提高缓存的重新分配的效率。
以下进行详细说明，参见图1a，本发明实施例的应用场景示意图。上述方法应用于监控平台服务器，上述监控平台服务器用于监控应用服务器，应用服务器110用于运行多种应用，例如，进行网络模型的训练或计算的应用，或客户端对应的后端平台的应用。为了对应用服务器110的缓存进行管理，可以设置一个监控平台服务器120。该监控平台服务器120，能够与应用服务器110通信。该监控平台服务器120可以是一台单独的服务器设备，也可以是设置在应用服务器110中的监控平台服务程序。
具体的，参见图1b，图1b为本发明实施例的缓存管理方法的第一种流程示意图，该方法可以应用于图1a中的监控平台服务器120，包括：
步骤S11，实时获取应用服务器发出的接口请求及应用服务器接收的响应信息。
本步骤中，可以通过与应用服务器110的负载均衡服务程序进行交互，来获得客户端发送的接口请求和应用服务器发送的接口请求的响应。例如，可以在负载均衡服务程序中，设置埋点，当负载均衡服务程序接收到客户端发送的接口请求，将收到的接口请求实时发送给监控平台服务器；以及，在负载均衡服务程序接收到应用服务器发送的接口请求的响应，将收到的接口请求的响应实时发送给监控平台服务器，并不做具体限制。
负载均衡服务Nginx为一款轻量级的Web服务器/反向代理服务器及电子邮件(IMAP/POP3)代理服务器，通过负载均衡服务可以实现多台服务器的负载均衡。其中，上述接口请求的响应信息可以包括接口请求的响应状态码等，响应状态码有很多种，例如：表征网关超时的状态码504和表征网关错误的状态码502。
本发明实施例的缓存管理方法应用于监控平台服务器，其中，该监控平台可以是独立于当前服务器的独立的监控设备，也可以与当前服务器为一体的，例如运行在当前服务器上的程序，通过该程序可以获取当前服务器的运行状态，并对运行状态进行监控等。
步骤S12，基于获取的接口请求和响应信息，判断是否发生响应异常。
基于接收到的响应信息的内容，判断是否发生响应异常，例如，当成功率抖动(低于99％)，并且出现的频次在假设5分钟内出现3次及以上(抖动)，并且异常的状态码，如502码(网关错误),504码(网关超时)增多等，如状态码504，502增在假设1分钟占比达到60％，则可以判断发生响应异常。
步骤S13，如果异常，获取应用服务器的垃圾回收的状态信息。
垃圾回收的状态信息包括垃圾回收(GC，Garbage Collection)的频次和每次垃圾回收的处理时长；垃圾回收可以通过自动内存管理和垃圾清扫机制进行状态的监测与垃圾回收，从而达到自动回收内存的目的。其中，垃圾回收的频次和每次垃圾回收的处理时长，可以通过读取垃圾回收日记并进行统计得到。
步骤S14，基于垃圾回收的频次和每次垃圾回收的处理时长，判断是否符合预设的缓存调整条件。
其中，基于垃圾回收的频次和每次垃圾回收的处理时长，判断是否符合预设的缓存调整条件，可以为：当垃圾回收的频次升高到超过预设频次，且每次垃圾回收的处理时长超过预设时长时，可以判定当前应用服务器的缓存空间中，应用在运行过程中的可用缓存空间较少，因此需要频繁的进行垃圾回收，从而可以判断为符合预设的缓存调整条件。
步骤S15，如果是，减少应用服务器的缓存中，预先为应用分配的缓存中占比最大的前N个应用的缓存的大小。
其中，应用分配的缓存为在应用服务器的缓存空间中为应用预先划分一定的缓存空间，通过划分的缓存空间可以便于该应用将计算耗时较长的结果或者热点数据进行缓存，当再次需要上述缓存的数据时，通过从缓存空间中获取已有的结果，从而使应用服务性能与效率进一步得到提高。
由于应用服务器的缓存空间包括为预先为应用分配的缓存空间和应用服务器中当前运行的应用在运行过程中的可用缓存空间。当应用服务器发生响应异常且符合预设缓存调整条件时，可以判断为应用服务器中当前运行的应用在运行过程中的可用缓存空间较小所导致。通过减小应用分配的缓存空间可以增大应用服务器中当前运行的应用在运行过程中的可用缓存空间，从而避免发生响应异常。
可见，通过本发明实施例的缓存管理方法，可以实现通过响应信息以及垃圾回收的频次和每次垃圾回收的处理时长判断是否发生响应和异常，当发生响应异常时，通过减少对应用分配的缓存空间的大小，实现缓存空间的自动配置，从而减少所需人力资源和时间，提高缓存的重新分配的效率。
可选的，响应信息可以包括接口请求成功率，参见图2，步骤S12基于获取的接口请求和响应信息，判断是否发生响应异常的步骤，包括：
步骤S121，每隔第一预设时长，对第一预设时长中获取的接口请求和响应信息进行统计，得到第一预设时长中接口请求的次数和请求成功的次数。
步骤S122，根据第一预设时长中接口请求的次数和请求成功的次数计算得到接口请求成功率。
其中，对第一预设时长中获取的接口请求和响应信息进行统计，可以得到第一预设时长内，接口请求的次数和请求成功的次数，从而得到接口请求成功率。例如，统计每一分钟内接口请求的次数为1000次，其中请求成功的次数为998次，在接口请求成功率为99.8％。
步骤S123，判断接口请求成功率是否小于预设成功率阈值。
其中，预设成功率阈值可以为人为预先设定的某一数值，通过将接口请求成功率与预设成功率阈值进行对比，判断接口请求成功率是否小于预设成功率阈值。
步骤S124，如果是，则判定在第一预设时长中发生待定响应异常。
否则，在第一预设时长中未发生待定响应异常。其中，当接口请求成功率小于预设成功率阈值，则判定在第一预设时长中发生待定响应异常。当接口请求成功率不小于预设成功率阈值，则判定在第一预设时长中未发生待定响应异常。
步骤S125，在第一预设时长中发生待定响应异常的情况下，判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值，如果是，则发生响应异常，否则未发生响应异常。
其中，第二预设时长大于第一预设时长。判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值。例如，第二预设时长为10分钟，预设次数阈值为5次，判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值，可以为判断10分钟内接口请求的成功率小于预设成功率阈值的次数是否大于5次。
可见，通过基于接收到的响应信息的内容，得到接口请求成功率和待定响应异常，通过判断第二预设时长中发生待定响应异常的次数可以判断是否发生响应异常。从而无需人工进行响应异常的判断，不但可以降低人工成本，还可以减少判断所需的时长，提高判断效率。
可选的，响应信息中还可以包括响应状态码，参见图3，步骤S12基于获取的接口请求和响应信息，判断是否发生响应异常的步骤，包括：
步骤S126，每隔第一预设时长，对第一预设时长中获取的接口请求和响应信息进行统计，得到第一预设时长中接口请求的次数、请求成功的次数和响应信息中指定响应状态码的出现次数。
其中，指定响应状态码，用于表征接口请求的响应处于异常状态。响应状态码可以包括：502码(网关错误),504码(网关超时)等。502码指错误网关，无效网关。504码指服务器作为网关或代理，没有及时从上游服务器收到请求，并不做具体限制。统计结果可以包括响应状态码的出现频次，例如，经统计1分钟内，502码和504码共出现50次。
步骤S127，根据第一预设时长中接口请求的次数和请求成功的次数计算得到接口请求成功率；根据第一预设时长中响应信息中指定响应状态码的出现次数计算得到指定响应状态码的出现频次。
其中，根据第一预设时长中接口请求的次数和请求成功的次数计算得到接口请求成功率，可以参见步骤S122，此处不再赘述。根据第一预设时长中响应信息中指定响应状态码的出现次数计算得到指定响应状态码的出现频次，可以通过统计每次响应信息中是否包括指定响应状态码，从而进行指定响应状态码的出现次数的统计，进而计算得到指定响应状态码的出现频次。
步骤S128，判断接口请求成功率是否小于预设成功率阈值，且响应状态码的出现频次是否大于第一预设频次阈值。
其中，所述第一预设频次阈值，可以为人为预先设定的某一频次，例如，第一预设频次阈值为5分钟内5次，从而判断响应状态码的出现频次是否大于第一预设频次阈值，可以判断5分钟内，上述响应状态码的出现次数是否超过5次。
步骤S129，如果是，则判定在第一预设时长中发生待定响应异常。
否则，在第一预设时长中未发生待定响应异常。例如，第一预设频次阈值为5分钟内5次，当上述响应状态码的出现频次为5分钟内出现6次，则可以判定在第一预设时长中发生待定响应异常。
步骤S130，在第一预设时长中发生待定响应异常的情况下，判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值，如果是，则发生响应异常，否则未发生响应异常。
其中，第二预设时长大于第一预设时长。例如，第二预设时长为10分钟，预设次数阈值为5次，判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值，可以为判断10分钟内接口请求成功率小于预设成功率阈值，且响应状态码的出现频次大于第一预设频次阈值的次数是否大于5次，若是则第二预设时长中发生待定响应异常的次数大于预设次数阈值，否则未发生响应异常。
可见，通过本发明实施例的方法，可以根据上述接口请求的成功率和相应状态码对应用服务器是否发生响应异常进行判断，从而无需人工进行判断，不但可以降低人工成本，还可以提高判断的效率。
可选的，参见图4a，步骤S13中获取应用服务器的垃圾回收的状态信息的步骤，包括：
步骤S131，每间隔第三预设时长读取一次垃圾回收日志，统计得到第三预设时长内垃圾回收的次数，和第三预设时长内每次垃圾回收的起止时刻。
其中，垃圾回收日志可以包括多次垃圾回收的起止时刻。统计得到第三预设时长内垃圾回收的次数，可以根据垃圾回收日志，统计第三预设时长内垃圾回收的总次数，并根据垃圾回收日志，读取到第三预设时长内每次垃圾回收的起止时刻。
步骤S132，根据每次垃圾回收的起止时刻，计算得到每次垃圾回收的处理时长。
其中，根据每次垃圾回收的起止时刻，计算得到每次垃圾回收的处理时长，可以通过每次垃圾回收的截止时间减去当前垃圾回收的起始时间，得到垃圾回收的处理时长。例如，某次垃圾回收的截止时刻为2020/7/2 20:08:30，而本次垃圾回收的起始时刻为2020/7/2 20:08:29，则本次垃圾回收的处理时长为1s。
步骤S133，根据第三预设时场和垃圾回收的次数，计算得到垃圾回收的频次。
其中，根据第三预设时长和垃圾回收的次数，计算得到垃圾回收的频次，可以通过垃圾回收的次数除以垃圾回收的处理时长，得到垃圾回收的频次。例如，根据垃圾回收日志，得到1分钟内垃圾回收的次数为50次，则可以得到垃圾回收的频次为50次/分钟。
可见，通过本发明实施例的方法，可以通过读取垃圾回收日志，得到垃圾回收的频次和每次垃圾回收的处理时长，从而便于根据垃圾回收的频次和垃圾回收的处理时长判断是否符合预设的缓存调整条件。
可选的，参见图4b，步骤S14基于垃圾回收的频次和每次垃圾回收的处理时长，判断是否符合预设的缓存调整条件的步骤，包括：
步骤S141，判断垃圾回收的频次是否大于第二预设频次阈值。
其中，上述第二预设频次可以人为预先设定的某一频次，例如，当第二预设频次为1分钟内2次，当统计得到的垃圾回收的频次为1分钟内3次，则判定垃圾回收的频次大于第二预设阈值。
步骤S142，如果是，判断每次垃圾回收的处理时长是否大于预设处理时长阈值。
其中，在每次垃圾回收的处理时长大于预设时长阈值时，判定符合预设的缓存调整条件。当垃圾回收的频次大于第二预设频次时，判断每次垃圾回收的处理时长是否均大于预设处理时长阈值，若是则符合预设的缓存调整条件。例如，经统计一分钟内出现3次垃圾回收，时长分别为220ms、230ms、250ms，预设处理时长阈值为200ms，将三次垃圾回收的处理时长分别与预设处理时长阈值进行对比，得到每次垃圾回收的处理时长均大于预设处理时长阈值。则可以判定符合预设的缓存调整条件。
可见，通过上述判断垃圾回收的频次是否大于第二预设频次，如果是，判断每次垃圾回收的处理时长是否大于预设处理时长阈值，从而可以判断是否符合预设缓存调整条件，从而便于在满足预设缓存条件时，对应用服务器的缓存进行调整。
可选的，参见图5，步骤S15中减少应用服务器的缓存中，预先为应用分配的缓存中占比最大的前N个应用的缓存的大小的步骤，包括：
步骤S151，获取预先备份的信息中预先分配了缓存的多个指定应用的信息。
其中，预先分配了缓存的多个指定应用可以为预先指定的，在应用服务器的缓存空间中分配了缓存空间的应用。获取预先备份的信息中预先分配了缓存的多个指定应用的信息，可以是从备份文件系统中获取预先分配了缓存的多个指定应用的信息，上述指定应用的信息可以包括多组应用的信息，如应用对应的堆栈信息、命名等。上述预先分配了缓存的多个指定应用可以是运行服务器上运行的应用中的一个或多个应用，例如，应用服务器上运行的应用为a、b、c、d四个应用，预先为a、b和c两个应用各分配缓存空间1g、5g和10g的缓存空间，在应用服务器运行过程中，监控平台服务器检测到接口请求的成功率下降，且平凡出现异常状态码，如502和504状态码，从而获取垃圾回收的频次和每次垃圾回收的时长，当检测到1分钟内出现3次垃圾回收，且每次垃圾回收的时长均大于200ms时，监控平台服务器获取预先备份的信息中a、b和c应用的名称和堆栈信息等信息，并与检测到垃圾回收的应用的信息进行对比，当确认一致时，将a、b和c应用按照预先分配的缓存的大小进行排序，得到c、b、a，然后选取前两个应用c和b，再将c和b的缓存空间各减少10％，即调整后，a、b、c的缓存空间分别为1g、4.5g和9g。
步骤S152，对应用服务器中各应用所占用的内存进行排序。
其中，对应用服务器中各应用所占用的内存进行排序，可以包括应用服务器中为应用所分配的缓存空间，和应用在运行过程中所占用的缓存空间。可以获取并根据各应用预设分配的缓存空间和应用运行过程中所占用的缓存空间之和进行排序。
步骤S153，获取排序中内存占比最大的前N个应用的信息。
其中，N为正整数。获取排序中内存占比最大的前N个应用的信息，可以获取内存占比最大的前N个应用的名称、所占的缓存等。
步骤S154，将前N个应用的信息与多个指定应用的信息进行匹配。
将前N个应用的信息与多个指定应用的信息进行匹配，可以包括对前N个应用的名称和各应用所占的缓存与多个指定应用的名称和各指定应用的分配的缓存进行匹配。通过将前N个应用的信息与多个指定应用的信息进行匹配，可以确认前N个应用的信息和预先备份的信息一致，确保减小缓存时候，所减小的应用正确。
例如，前N个应用分别为a、b、c、d、h，指定应用为a、c、d、e、f，将前N个应用的信息与多个指定应用的信息进行匹配时，可以获取前N个应用的名称和各应用所占的缓存与多个指定应用的名称和各指定应用的分配的缓存进行匹配。例如，参见表1，表1为本发明实施例的一种前N个应用的信息表，表中前N个应用的名称分别为a、b、c、d、h，各应用所占的缓存分别为500MB、100MB、200MB、200MB、200MB。表2为本发明实施例的一种指定应用的信息表，表中指定应用的名称分别为a、c、d、e、f，各应用预先分配的缓存分别为500MB、200MB、200MB、300MB、100MB。将前N个应用的名称和各应用所占的缓存与多个指定应用的名称和各指定应用的分配的缓存进行匹配，可以得到应用a、c、d的信息相匹配。
表1，本发明实施例的一种前N个应用的信息表
应用名称 a b c d h
所占的缓存 500MB 100MB 200MB 200MB 200MB
表2，本发明实施例的一种指定应用的信息表
应用名称 a c d e f
分配的缓存 500MB 200MB 200MB 300MB 100MB
其中，将前N个应用的信息与多个指定应用的信息进行匹配，可以通过多种方式进行匹配，如获取上述前N个应用的多种信息和指定应用的多种信息，根据每种信息是否匹配进行前N个应用的多种信息和指定应用的多种信息的相似度的计算，当计算得到的相似度大于预设相似度阈值时，则可以判定相匹配。
步骤S155，减小相匹配的应用所分配的缓存。
其中，减小相匹配的应用所分配的缓存，可以为减少固定大小，如将a、c、d应用的缓存各减少50MB，得到a、c、d减小缓存后的缓存为450MB、150MB、150MB。也可以将多个指定应用的缓存减小某一预设比例，如将a、c、d应用的缓存空间减小10％，得到a、c、d减小缓存后的缓存为450MB、180MB、180MB。
可见，通过本发明实施例的方法，可以减少应用所分配的缓存，从而增加应用在运行过程中的可用的缓存，防止出现异常。
参见图6，图6为本发明实施例的对应用服务器的缓存进行管理流程示意图，该系统包括：应用服务和监控平台；
应用服务601，在运行过程中向监控平台投递监控数据；
监控平台602，用于根据投递的监控数据，对负载均衡服务(Nginx)进行分析，即对相应状态码、客户端发送的接口请求的次数和请求成功的次数进行统计，并判断是否发生相应异常。分析垃圾回收(GC，Garbage Collection)的日志，即统计预设时长内垃圾回收的次数和每次垃圾的起止时刻，得到垃圾回收的频次和每次垃圾回收的处理时长，判断是否符合预设的缓存调整条件。分析应用服务器的缓存空间中的缓存的占比与备份文件(dump)信息，即获取缓存空间中缓存占比最大的前N个应用信息，与预设指定的分配了缓存空间的应用的信息进行匹配，判断该应用服务601是否符合缓存调整条件，缓存空间中缓存占比最大的前N个应用信息与预设指定的分配了缓存空间的应用的信息进行匹配，得到的相匹配的应用即为符合缓存调整条件的应用。当符合时通过预设接口调整该应用服务601的缓存大小。
可见，通过本发明实施例缓存管理方法，可以将缓存空间中缓存占比最大的前N个应用信息与预设指定的分配了缓存空间的应用的信息进行匹配，得到的相匹配的应用即为符合缓存调整条件的应用，通过预设接口调整该应用服务的缓存大小，从而实现缓存的自动配置，可以减少所需人力资源和时间，提高缓存的重新分配的效率。
参见图7，图7为本发明实施例的应用服务器的缓存管理装置的一种结构示意图，上述方法应用于监控平台服务器，上述监控平台服务器用于监控应用服务器，应用服务器用于运行多种应用，包括：
信息获取模块701，用于实时获取应用服务器发出的接口请求及应用服务器接收的响应信息；
异常判断模块702，用于基于获取的接口请求和响应信息，判断是否发生响应异常；
状态获取模块703，用于如果异常，获取应用服务器的垃圾回收的状态信息，其中，垃圾回收的状态信息包括：垃圾回收的频次和每次垃圾回收的处理时长；
条件判断模块704，用于基于垃圾回收的频次和每次垃圾回收的处理时长，判断是否符合预设的缓存调整条件；
缓存减少模块705，用于如果是，减少应用服务器的缓存中，预先为应用分配的缓存中占比最大的前N个应用的缓存的大小。
可选的，异常判断模块702，包括：
信息统计子模块，用于每隔第一预设时长，对第一预设时长中获取的接口请求和响应信息进行统计，得到第一预设时长中接口请求的次数和请求成功的次数；
成功率计算子模块，用于根据第一预设时长中接口请求的次数和请求成功的次数计算得到接口请求成功率；
第一阈值判断子模块，用于判断接口请求成功率是否小于预设成功率阈值；如果是，则判定在第一预设时长中发生待定响应异常；否则在第一预设时长中未发生待定响应异常；
响应异常判断子模块，用于在第一预设时长中发生待定响应异常的情况下，判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值，如果是，则发生响应异常，否则未发生响应异常；其中，第二预设时长大于第一预设时长。
可选的，异常判断模块702，包括：
信息接收子模块，用于每隔第一预设时长，对第一预设时长中获取的接口请求和响应信息进行统计，得到第一预设时长中接口请求的次数、请求成功的次数和响应信息中指定响应状态码的出现次数；指定响应状态码，用于表征接口请求的响应处于异常状态；
频次计算子模块，用于根据第一预设时长中接口请求的次数和请求成功的次数计算得到接口请求成功率；根据第一预设时长中响应信息中指定响应状态码的出现次数计算得到指定响应状态码的出现频次；
成功率判断子模块，用于判断接口请求成功率是否小于预设成功率阈值，且响应状态码的出现频次是否大于第一预设频次阈值；如果是，则判定在第一预设时长中发生待定响应异常；否则在第一预设时长中未发生待定响应异常；
异常次数判断子模块，用于在第一预设时长中发生待定响应异常的情况下，判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值，如果是，则发生响应异常，否则未发生响应异常；其中，第二预设时长大于第一预设时长。
可选的，状态获取模块703，包括：
日志读取子模块，用于每间隔第三预设时长读取一次垃圾回收日志，统计得到第三预设时长内垃圾回收的次数，和第三预设时长内每次垃圾回收的起止时刻；
时长计算子模块，用于根据每次垃圾回收的起止时刻，计算得到每次垃圾回收的处理时长；
频次计算子模块，用于根据第三预设时场和垃圾回收的次数，计算得到垃圾回收的频次。
可选的，条件判断模块704，包括：
第三阈值判断子模块，用于判断垃圾回收的频次是否大于第二预设频次阈值；
第三时长判断子模块，用于如果是，判断每次垃圾回收的处理时长是否大于预设处理时长阈值，其中，在每次垃圾回收的处理时长大于预设时长阈值时，判定符合预设的缓存调整条件。
可选的，缓存减少模块705，包括：
指定应用子模块，用于获取预先备份的信息中预先分配了缓存的多个指定应用的信息；
占比排序子模块，用于对应用服务器中各应用所占用的内存进行排序；
应用信息子模块，用于获取排序中内存占比最大的前N个应用的信息；
信息匹配子模块，用于将前N个应用的信息与多个指定应用的信息进行匹配；
缓存减少子模块，用于减小相匹配的应用所分配的缓存。
可见，通过本发明实施例的应用服务器的缓存管理装置，可以实现通过响应信息以及垃圾回收的频次和每次垃圾回收的处理时长判断是否发生响应和异常，当发生响应异常时，减少对应用分配的缓存的大小，从而实现缓存的自动配置，可以减少所需人力资源和时间，提高缓存的重新分配的效率。
本发明实施例还提供了一种电子设备，如图8所示，包括处理器801、通信接口802、存储器803和通信总线804，其中，处理器801，通信接口802，存储器803通过通信总线804完成相互间的通信，
存储器803，用于存放计算机程序；
处理器801，用于执行存储器803上所存放的程序时，实现上述任一应用服务器的缓存管理方法。
上述终端提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect，简称PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture，简称EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示，图中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述终端与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory，简称RAM)，也可以包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(Digital Signal Processing，简称DSP)、专用集成电路(Application SpecificIntegrated Circuit，简称ASIC)、现场可编程门阵列(Field－Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本发明提供的又一实施例中，还提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述实施例中任一所述的应用服务器的缓存管理方法。
在本发明提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述实施例中任一所述的应用服务器的缓存管理方法。
在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。

Claims (11)

1.一种应用服务器的缓存管理方法，其特征在于，所述方法应用于监控平台服务器，所述监控平台服务器用于监控应用服务器，所述应用服务器用于运行多种应用，该方法包括：
实时获取所述应用服务器发出的接口请求及应用服务器接收的响应信息；
基于获取的接口请求和响应信息，判断是否发生响应异常；
如果异常，获取应用服务器的垃圾回收的状态信息，其中，所述垃圾回收的状态信息包括：垃圾回收的频次和每次垃圾回收的处理时长；
基于垃圾回收的频次和每次垃圾回收的处理时长，判断是否符合预设的缓存调整条件；
如果是，减少所述应用服务器的缓存中，预先为应用分配的缓存中占比最大的前N个应用的缓存的大小。
2.根据权利要求1所述的方法，其特征在于，所述基于获取的接口请求和响应信息，判断是否发生响应异常的步骤，包括：
每隔第一预设时长，对第一预设时长中获取的接口请求和响应信息进行统计，得到第一预设时长中接口请求的次数和请求成功的次数；
根据所述第一预设时长中接口请求的次数和请求成功的次数计算得到接口请求成功率；
判断所述接口请求成功率是否小于预设成功率阈值；
如果是，则判定在第一预设时长中发生待定响应异常；否则在第一预设时长中未发生待定响应异常；
在第一预设时长中发生待定响应异常的情况下，判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值，如果是，则发生响应异常，否则未发生响应异常；其中，第二预设时长大于第一预设时长。
3.根据权利要求1所述的方法，其特征在于，所述基于获取的接口请求和响应信息，判断是否发生响应异常的步骤，包括：
每隔第一预设时长，对第一预设时长中获取的接口请求和响应信息进行统计，得到第一预设时长中接口请求的次数、请求成功的次数和所述响应信息中指定响应状态码的出现次数；所述指定响应状态码，用于表征所述接口请求的响应处于异常状态；
根据所述第一预设时长中接口请求的次数和请求成功的次数计算得到接口请求成功率；根据所述第一预设时长中所述响应信息中指定响应状态码的出现次数计算得到所述指定响应状态码的出现频次；
判断所述接口请求成功率是否小于预设成功率阈值，且响应状态码的出现频次是否大于第一预设频次阈值；
如果是，则判定在第一预设时长中发生待定响应异常；否则在第一预设时长中未发生待定响应异常；
在第一预设时长中发生待定响应异常的情况下，判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值，如果是，则发生响应异常，否则未发生响应异常；其中，第二预设时长大于第一预设时长。
4.根据权利要求1所述的方法，其特征在于，所述获取应用服务器的垃圾回收的状态信息的步骤，包括：
每间隔第三预设时长读取一次垃圾回收日志，统计得到第三预设时长内垃圾回收的次数，和所述第三预设时长内每次垃圾回收的起止时刻；
根据所述每次垃圾回收的起止时刻，计算得到所述每次垃圾回收的处理时长；
根据所述第三预设时场和所述垃圾回收的次数，计算得到所述垃圾回收的频次。
5.根据权利要求1所述的方法，其特征在于，所述基于垃圾回收的频次和每次垃圾回收的处理时长，判断是否符合预设的缓存调整条件的步骤，包括：
判断所述垃圾回收的频次是否大于第二预设频次阈值；
如果是，判断所述每次垃圾回收的处理时长是否大于预设处理时长阈值，其中，在所述每次垃圾回收的处理时长大于预设时长阈值时，判定符合预设的缓存调整条件。
6.根据权利要求1所述的方法，其特征在于，所述减少所述应用服务器的缓存中，预先为应用分配的缓存中占比最大的前N个应用的缓存的大小的步骤，包括：
获取预先备份的信息中预先分配了缓存的多个指定应用的信息；
对所述应用服务器中各应用所占用的内存进行排序；
获取所述排序中内存占比最大的前N个应用的信息；
将所述前N个应用的信息与所述多个指定应用的信息进行匹配；
减小相匹配的应用所分配的缓存。
7.一种应用服务器的缓存管理装置，其特征在于，所述装置应用于监控平台服务器，所述监控平台服务器用于监控应用服务器，所述应用服务器用于运行多种应用，包括：
信息获取模块，用于实时获取所述应用服务器发出的接口请求及应用服务器接收的响应信息；
异常判断模块，用于基于获取的接口请求和响应信息，判断是否发生响应异常；
状态获取模块，用于如果异常，获取应用服务器的垃圾回收的状态信息，其中，所述垃圾回收的状态信息包括：垃圾回收的频次和每次垃圾回收的处理时长；
条件判断模块，用于基于垃圾回收的频次和每次垃圾回收的处理时长，判断是否符合预设的缓存调整条件；
缓存减少模块，用于如果是，减少所述应用服务器的缓存中，预先为应用分配的缓存中占比最大的前N个应用的缓存的大小。
8.根据权利要求7所述的装置，其特征在于，所述异常判断模块，包括：
信息统计子模块，用于每隔第一预设时长，对第一预设时长中获取的接口请求和响应信息进行统计，得到第一预设时长中接口请求的次数和请求成功的次数；
成功率计算子模块，用于根据所述第一预设时长中接口请求的次数和请求成功的次数计算得到接口请求成功率；
第一阈值判断子模块，用于判断所述接口请求成功率是否小于预设成功率阈值；如果是，则判定在第一预设时长中发生待定响应异常；否则在第一预设时长中未发生待定响应异常；
响应异常判断子模块，用于在第一预设时长中发生待定响应异常的情况下，判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值，如果是，则发生响应异常，否则未发生响应异常；其中，第二预设时长大于第一预设时长。
9.根据权利要求7所述的装置，其特征在于，所述异常判断模块，包括：
信息接收子模块，用于每隔第一预设时长，对第一预设时长中获取的接口请求和响应信息进行统计，得到第一预设时长中接口请求的次数、请求成功的次数和所述响应信息中指定响应状态码的出现次数；所述指定响应状态码，用于表征所述接口请求的响应处于异常状态；
频次计算子模块，用于根据所述第一预设时长中接口请求的次数和请求成功的次数计算得到接口请求成功率；根据所述第一预设时长中所述响应信息中指定响应状态码的出现次数计算得到所述指定响应状态码的出现频次；
成功率判断子模块，用于判断所述接口请求成功率是否小于预设成功率阈值，且响应状态码的出现频次是否大于第一预设频次阈值；如果是，则判定在第一预设时长中发生待定响应异常；否则在第一预设时长中未发生待定响应异常；
异常次数判断子模块，用于在第一预设时长中发生待定响应异常的情况下，判断第二预设时长中发生待定响应异常的次数是否大于预设次数阈值，如果是，则发生响应异常，否则未发生响应异常；其中，第二预设时长大于第一预设时长。
10.一种电子设备，其特征在于，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；
存储器，用于存放计算机程序；
处理器，用于执行存储器上所存放的程序时，实现权利要求1-6任一所述的方法步骤。
11.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1-6任一所述的方法步骤。
CN202011621831.2A 2020-12-30 2020-12-30 一种应用服务器的缓存管理方法及装置 Active CN112650695B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011621831.2A CN112650695B (zh) 2020-12-30 2020-12-30 一种应用服务器的缓存管理方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011621831.2A CN112650695B (zh) 2020-12-30 2020-12-30 一种应用服务器的缓存管理方法及装置

Publications (2)

Publication Number Publication Date
CN112650695A CN112650695A (zh) 2021-04-13
CN112650695B true CN112650695B (zh) 2023-09-05

Family

ID=75367689

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011621831.2A Active CN112650695B (zh) 2020-12-30 2020-12-30 一种应用服务器的缓存管理方法及装置

Country Status (1)

Country Link
CN (1) CN112650695B (zh)

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1290897A (zh) * 1999-06-30 2001-04-11 国际商业机器公司 可动态调节而且可配置的废料收集程序用的方法和系统
JP2007328413A (ja) * 2006-06-06 2007-12-20 Hitachi Ltd 負荷分散方法
CN104063245A (zh) * 2014-06-24 2014-09-24 用友优普信息技术有限公司 基于垃圾回收的内存分析优化方法及系统
CN105338016A (zh) * 2014-06-27 2016-02-17 国际商业机器公司 数据高速缓存方法和装置以及资源请求响应方法和装置
CN105511963A (zh) * 2015-11-30 2016-04-20 Tcl集团股份有限公司 一种基于Android系统的内存优化方法及系统
CN105630638A (zh) * 2014-10-31 2016-06-01 国际商业机器公司 用于为磁盘阵列分配缓存的设备和方法
CN109104336A (zh) * 2018-09-27 2018-12-28 平安普惠企业管理有限公司 服务请求处理方法、装置、计算机设备及存储介质
CN109298959A (zh) * 2017-07-25 2019-02-01 华为技术有限公司 一种内存异常检测方法及设备
CN110555004A (zh) * 2019-07-30 2019-12-10 北京奇艺世纪科技有限公司 服务的监控方法、装置、计算机设备及存储介质
CN111124952A (zh) * 2019-12-04 2020-05-08 北京奇艺世纪科技有限公司 一种数据管理方法、装置、电子设备及可读存储介质
CN111444015A (zh) * 2020-03-24 2020-07-24 北京奇艺世纪科技有限公司 服务器的控制方法、装置、计算机设备及存储介质
CN111552616A (zh) * 2020-04-30 2020-08-18 汉海信息技术(上海)有限公司 一种内存监听方法及装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6654856B2 (en) * 2001-05-15 2003-11-25 Microsoft Corporation System and method for managing storage space of a cache
US9418005B2 (en) * 2008-07-15 2016-08-16 International Business Machines Corporation Managing garbage collection in a data processing system
US8402049B2 (en) * 2010-05-27 2013-03-19 International Business Machines Corporation Metadata cache management

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1290897A (zh) * 1999-06-30 2001-04-11 国际商业机器公司 可动态调节而且可配置的废料收集程序用的方法和系统
JP2007328413A (ja) * 2006-06-06 2007-12-20 Hitachi Ltd 負荷分散方法
CN104063245A (zh) * 2014-06-24 2014-09-24 用友优普信息技术有限公司 基于垃圾回收的内存分析优化方法及系统
CN105338016A (zh) * 2014-06-27 2016-02-17 国际商业机器公司 数据高速缓存方法和装置以及资源请求响应方法和装置
CN105630638A (zh) * 2014-10-31 2016-06-01 国际商业机器公司 用于为磁盘阵列分配缓存的设备和方法
CN105511963A (zh) * 2015-11-30 2016-04-20 Tcl集团股份有限公司 一种基于Android系统的内存优化方法及系统
CN109298959A (zh) * 2017-07-25 2019-02-01 华为技术有限公司 一种内存异常检测方法及设备
CN109104336A (zh) * 2018-09-27 2018-12-28 平安普惠企业管理有限公司 服务请求处理方法、装置、计算机设备及存储介质
CN110555004A (zh) * 2019-07-30 2019-12-10 北京奇艺世纪科技有限公司 服务的监控方法、装置、计算机设备及存储介质
CN111124952A (zh) * 2019-12-04 2020-05-08 北京奇艺世纪科技有限公司 一种数据管理方法、装置、电子设备及可读存储介质
CN111444015A (zh) * 2020-03-24 2020-07-24 北京奇艺世纪科技有限公司 服务器的控制方法、装置、计算机设备及存储介质
CN111552616A (zh) * 2020-04-30 2020-08-18 汉海信息技术(上海)有限公司 一种内存监听方法及装置

Also Published As

Publication number Publication date
CN112650695A (zh) 2021-04-13

Similar Documents

Publication Publication Date Title
CN109104336B (zh) 服务请求处理方法、装置、计算机设备及存储介质
CN109800131B (zh) Linux服务器的监控处理方法、装置、计算机设备和存储介质
CN110784355A (zh) 一种故障识别方法及装置
CN111010303A (zh) 一种服务器控制方法及装置
WO2019205788A1 (zh) 数据存储方法、存储服务器及云存储系统
CN114490078A (zh) 一种微服务的动态缩扩容方法、装置及设备
CN112650695B (zh) 一种应用服务器的缓存管理方法及装置
CN112887224B (zh) 流量调度处理方法、装置、电子设备及存储介质
CN111556125B (zh) 一种访问请求分配方法、负载均衡设备及电子设备
CN115643166B (zh) 一种高可靠回传cdn日志的方法及装置
CN112256548A (zh) 异常数据的监听方法、装置、服务器及存储介质
CN110177075B (zh) 异常访问拦截方法、装置、计算机设备及存储介质
CN115086299B (zh) 文件下载方法、装置、设备、介质和程序产品
CN114640665B (zh) 一种多源分段并行的文件下载方法和工具
CN114143263B (zh) 一种对用户请求进行限流的方法、设备及介质
CN115883330A (zh) 告警事件处理方法、系统、设备、存储介质及程序产品
CN114422599B (zh) 数据的传输方法、系统、电子设备及可读介质
CN110222084B (zh) 热点设备监控信息的上报方法及装置、存储介质、终端
CN111865722B (zh) 一种节点健康状态检测及处理方法
CN110113187B (zh) 一种配置更新方法、装置、配置服务器及配置系统
CN116996517B (zh) 负载均衡方法、装置、电子设备和介质
CN113472682B (zh) 一种热点对象流媒体源自动伸缩方法及装置
CN113590047B (zh) 数据库的筛查方法、装置、电子设备及存储介质
CN111614747B (zh) 一种信息处理方法及装置
CN110430118B (zh) 账单邮件管理方法、装置、计算机设备及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant