CN108446162A - 监测JVM Full GC事件的方法及系统 - Google Patents

Abstract

监测JVM Full GC事件的方法及系统，方法包括：采集JVM的日志，针对日志分析FGC发生的情况，当问题发生时，及时捕捉并在事前进行预警。系统包括：JVM日志采集模块、FGC分析模块、FGC预警模块。本发明通过对JVM Full GC事件进行了测量分析，评估了FGC导致JVM卡顿的可能性，当JVM稳定运行的可能性低于预期即卡顿的可能性超出可接受范围时，通过im、监控告警系统等渠道发送预警信息。由于变复盘时的故障原因分析为事前、事中的风险预警，本发明显著提升研发应对系统故障的效率和能力；由于具备风险预警，本发明降低了系统出故障的可能性，提升了系统稳定性，减少了损失，并进一步提升了客户满意度。

Description

监测JVM Full GC事件的方法及系统

技术领域

本发明属于计算机监控技术领域，涉及监控JVM Full GC事件的方法及系统。

背景技术

Java语言正广泛的应用于各种软件系统中。使用Java语言开发项目时，需要先生成目标代码(字节码)，再通过JVM(Java Virtual Machine)在各种设备上执行。JVM在管理内存时，会进行垃圾回收(GC)，这当中的Full GC往往会直接造成系统卡顿。

目前对Full GC的分析与优化方法很多，通常的处理是在系统卡顿发生后，在故障复盘时通过故障原因分析发现Full GC存在问题，再分析Full GC的问题原因并对系统进行改进和优化。但当问题发生时不能及时捕捉到问题，更不可能事前进行预警。此外，目前对Full GC问题的描述几乎都是定性的，比如执行时间过长、执行频率过高，这些定性描述都依赖于故障是否发生来确定性质。即同样的执行时间，发生故障的就是执行时间过长、没发生故障的就是执行时间正常。这就缺乏定量描述，非常依赖于个人经验，无法普及和推广。

发明内容

为解决上述问题，本发明公开了监测JVM Full GC事件的方法及系统，通过采集日志，针对日志分析FGC发生的情况，当问题发生时，能及时捕捉并在事前进行预警。

为了达到上述目的，本发明提供如下技术方案：

监测JVMFull GC事件的方法，包括如下步骤：

步骤一，采集JVM的日志

实时采集JVM运行时的事件，采集信息包括FGC的触发时间(发生时刻)和执行时长；

步骤二，分析Full GC事件

定期提取步骤一采集到的信息，分析每一个实例的状况，计算a、b和P0，并根据P0的阈值发送预警信息；

具体包括如下步骤：

1.从JVM日志中逐个提取每个实例最近一次JVM启动后FGC的发生情况：

e)如果JVM启动后，FGC次数不足2，则暂时不分析该实例；

f)当启动后FGC次数超过2次时，进行以下处理：

当启动时间不足基本时间则取启动后的所有FGC事件；

当启动时间超过基本时间，但最近基本时间内FGC次数不足2次，则取最近2次FGC事件；

当启动时间超过基本时间，且最近基本时间内FGC次数不少于2次，则取最近基本时间内的所有FGC事件；

2.通过以下公式计算a，b

a＝(FGC次数-1)/(最后一次FGC触发时间–最早一次FGC触发时间)；

b＝FGC次数/全部FGC事件的累计执行时间；

3.计算P0＝b/(a+b)

4.判断当P0<阈值，则发送预警信息；

步骤三，预警

在系统中进行预警，显示异常状态。

进一步的，P0＝b/(a+b)算式通过以下过程得来：

在t时刻，将系统不在处理FGC的概率记为P0(t),正在处理FGC的概率记为P1(t)；

在从t时刻到t+Δt时刻这一段时间内，触发一次FGC事件的概率是Δt/(1/a)，即aΔt；没有触发FGC的概率是1-aΔt；执行完一次FGC的概率是Δt/(1/b)，即bΔt；没有一次FGC被执行完的概率是1-bΔt；其中，从t时刻到t+Δt时刻这段时间包含t时刻不包含t+Δt时刻，在Δt时间内最多只会触发一次FGC事件；1/a表示FGC发生的平均间隔时间，1/b表示FGC的平均执行时间，FGC发生的间隔时间和执行时间符合指数分布；

到了t+Δt时刻，系统不在处理FGC的概率为：P0(t+Δt)＝P0(t)(1-aΔt)+P1(t)bΔt；系统正在处理FGC的概率为：P1(t+Δt)＝P0(t)aΔt+P1(t)(1-bΔt)；对这两式进行整理，同时Δt->0求极限得到如下微分方程组：

在任一时刻JVM都在执行FGC或不在执行FGC，即P0(0)＝1,P1(0)＝0,P0(t)+P1(t)＝1，解方程得：

当系统稳定运行即t->∞时，求得系统不在处理FGC的概率是P0＝b/(a+b)。

监测JVM Full GC事件的系统，包括：JVM日志采集模块、FGC分析模块、FGC预警模块，所述JVM日志采集模块用于实时采集JVM运行时的事件，采集信息包括FGC的触发时间(发生时刻)和执行时长；所述FGC分析模块用于定期提取JVM日志采集模块采集到的信息，分析每一个实例的状况，计算a、b和P0，并根据P0的阈值发送预警信息；所述FGC预警模块用于在系统中进行预警，发出异常状态的提示。

进一步的，所述FGC分析模块分析和计算的过程如下：

1.从JVM日志中逐个提取每个实例最近一次JVM启动后FGC的发生情况：

g)如果JVM启动后，FGC次数不足2，则暂时不分析该实例；

h)当启动后FGC次数超过2次时，进行以下处理：

当启动时间不足基本时间则取启动后的所有FGC事件；

当启动时间超过基本时间，但最近基本时间内FGC次数不足2次，则取最近2次FGC事件；

当启动时间超过基本时间，且最近基本时间内FGC次数不少于2次，则取最近基本时间内的所有FGC事件；

2.通过以下公式计算a，b

a＝(FGC次数-1)/(最后一次FGC触发时间–最早一次FGC触发时间)；

b＝FGC次数/全部FGC事件的累计执行时间；

3.计算P0＝b/(a+b)

4.判断当P0<阈值，则发送预警信息。

与现有技术相比，本发明具有如下优点和有益效果：

本发明通过对JVM Full GC事件进行了测量分析，评估了FGC导致JVM卡顿的可能性，当JVM稳定运行的可能性低于预期即卡顿的可能性超出可接受范围时，通过im、监控告警系统等渠道发送预警信息。由于变复盘时的故障原因分析为事前、事中的风险预警，本发明显著提升了研发应对系统故障的效率和能力；由于具备风险预警，本发明降低了系统出故障的可能性，提升了系统稳定性，减少了损失，并进一步提升了客户满意度。

附图说明

图1为Full GC事件记录图。

图2为本发明提供的监测JVM Full GC事件的方法流程图。

图3为系统实例异常状态预警示意图。

具体实施方式

以下将结合具体实施例对本发明提供的技术方案进行详细说明，应理解下述具体实施方式仅用于说明本发明而不用于限制本发明的范围。另外，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

图1是一个记录Full GC事件的图，图上清晰的显示出事件发生的时刻、消耗的时长。FULL GC可以简单记作FGC。

将相邻两次FGC发生的间隔时长作为一个随机变量研究，我们发现其符合指数分布，分布的密度函数为：

f(t)＝ae-at，t＞＝O

其中1/a表示FGC发生的平均间隔时间。

将FGC消耗的时长作为随机变量研究，发现其也符合指数分布，分布的密度函数为：

f(t)＝be^-bt，t＞＝O

其中1/b表示FGC的平均执行时间。

在t时刻，将系统不在处理FGC的概率记为P0(t),正在处理FGC的概率记为P1(t)。

在从t时刻到t+Δt时刻这一段时间内(包含t时刻不包含t+Δt时刻，Δt是一个很小的数，在Δt时间内最多只会触发一次FGC事件)，触发一次FGC事件的概率是Δt/(1/a)，即aΔt；没有触发FGC的概率是1-aΔt；执行完一次FGC的概率是Δt/(1/b)，即bΔt；没有一次FGC被执行完的概率是1-bΔt。

到了t+Δt时刻，系统不在处理FGC的概率为：P0(t+Δt)＝P0(t)(1-aΔt)+P1(t)bΔt,即不在处理FGC也没有触发FGC的概率与正在处理的FGC刚好执行完的概率之和；系统正在处理FGC的概率为：P1(t+Δt)＝P0(t)aΔt+P1(t)(1-bΔt),即不在处理FGC但恰好触发了FGC的概率与正在处理的FGC刚好没有执行完的概率之和。对这两式进行整理，同时Δt->0求极限得到如下微分方程组：

JVM刚启动时是不执行FGC的，在任一时刻JVM都要么在执行FGC要么不在执行FGC，即P0(0)＝1,P1(0)＝0,P0(t)+P1(t)＝1，解方程得：

当系统稳定运行即t->∞时，我们可以求得系统正在处理FGC的概率P1＝a/(a+b),系统不在处理FGC的概率是P0＝b/(a+b)。

在本发明提供的FGC的监控预警方法和系统中，P0这个指标很重要。FGC频繁发生时,P1会上升，P0会下降，系统的卡顿现象会更加明显。P0越高，则意味着系统因为FGC导致的卡顿可能性越小。实践中，0.99是P0能够接受的底线，0.9999则是非常优异的表现了。

基于上述计算过程，本发明提供了监测JVM Full GC事件的方法，如图2所示，包括如下步骤：

步骤一，采集JVM的日志

实时采集JVM运行时的事件，精确到每个时刻是否运行、是否触发了FGC，以及FGC的执行时长。

步骤二，分析Full GC事件

定期(例如每2分钟)提取步骤一采集到的信息，分析每一个实例的状况，计算a、b和P0，并根据P0的阈值发送预警信息。具体包括如下步骤：

1.从JVM日志中逐个提取每个实例最近一次JVM启动后FGC的发生情况：

i)如果JVM启动后，FGC次数不足2，则暂时不分析该实例；

j)当启动后FGC次数超过2次时

当启动时间不足基本时间(例如半小时)则取启动后的所有FGC事件；

当启动时间超过基本时间，但最近基本时间内FGC次数不足2次，取最近2次FGC事件；

当启动时间超过基本时间，且最近基本时间内FGC次数不少于2次，取最近基本时间内的所有FGC事件。

2.通过以下公式计算a，b

a＝(FGC次数-1)/(最后一次FGC触发时间–最早一次FGC触发时间)；

b＝FGC次数/全部FGC事件的累计执行时间；(时间精度均为毫秒)；

3.计算P0＝b/(a+b)

4.判断当P0<0.99(该阈值可调整)，则通过im、监控告警系统等发送预警信息。

步骤三，预警

在系统中进行预警，显示异常状态。如图3所示，当FGC表现不佳时，我们会在系统的实例状态上提示“FULL_GC_HAS_TO_OPTIMIZE”的异常状态。

本发明同样提供了监测JVM Full GC事件的系统，包括JVM日志采集模块、FGC分析模块和预警模块，所述JVM日志采集模块用于实时采集JVM运行时的事件，精确到每个时刻是否运行、是否触发了FGC，以及FGC的执行时长；所述JVM日志采集模块用于定期(例如每2分钟)提取JVM日志采集模块采集到的信息，分析每一个实例的状况，计算a、b和P0，并根据P0的阈值发送预警信息，其具体实现的功能与上述步骤二中的各个步骤相同。所述预警模块用于在系统中进行预警，发出异常状态的提示。

本发明方案所公开的技术手段不仅限于上述实施方式所公开的技术手段，还包括由以上技术特征任意组合所组成的技术方案。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也视为本发明的保护范围。

Claims (4)

1.监测JVM Full GC事件的方法，其特征在于，包括如下步骤：

步骤一，采集JVM的日志

实时采集JVM运行时的事件，采集信息包括FGC的触发时间和执行时长；

步骤二，分析Full GC事件

定期提取步骤一采集到的信息，分析每一个实例的状况，计算a、b和P0，并根据P0的阈值发送预警信息；

具体包括如下步骤：

1.从JVM日志中逐个提取每个实例最近一次JVM启动后FGC的发生情况：

a)如果JVM启动后，FGC次数不足2，则暂时不分析该实例；

b)当启动后FGC次数超过2次时，进行以下处理：

当启动时间不足基本时间则取启动后的所有FGC事件；

当启动时间超过基本时间，但最近基本时间内FGC次数不足2次，则取最近2次FGC事件；

当启动时间超过基本时间，且最近基本时间内FGC次数不少于2次，则取最近基本时间内的所有FGC事件；

2.通过以下公式计算a，b

a＝(FGC次数-1)/(最后一次FGC触发时间–最早一次FGC触发时间)；

b＝FGC次数/全部FGC事件的累计执行时间；

3.计算P0＝b/(a+b)

4.判断当P0<阈值，则发送预警信息；

步骤三，预警

在系统中进行预警，显示异常状态。

2.根据权利要求1所述的监测JVM Full GC事件的方法，其特征在于，所述P0＝b/(a+b)算式通过以下过程得来：

在t时刻，将系统不在处理FGC的概率记为P0(t),正在处理FGC的概率记为P1(t)；

在从t时刻到t+Δt时刻这一段时间内，触发一次FGC事件的概率是Δt/(1/a)，即aΔt；没有触发FGC的概率是1-aΔt；执行完一次FGC的概率是Δt/(1/b)，即bΔt；没有一次FGC被执行完的概率是1-bΔt；其中，从t时刻到t+Δt时刻这段时间包含t时刻不包含t+Δt时刻，在Δt时间内最多只会触发一次FGC事件；1/a表示FGC发生的平均间隔时间，1/b表示FGC的平均执行时间，FGC发生的间隔时间和执行时间符合指数分布；

到了t+Δt时刻，系统不在处理FGC的概率为：P0(t+Δt)＝P0(t)(1-aΔt)+P1(t)bΔt；系统正在处理FGC的概率为：P1(t+Δt)＝P0(t)aΔt+P1(t)(1-bΔt)；对这两式进行整理，同时Δt->0求极限得到如下微分方程组：

在任一时刻JVM都在执行FGC或不在执行FGC，即P0(0)＝1,P1(0)＝0,P0(t)+P1(t)＝1，解方程得：

当系统稳定运行即t->∞时，求得系统不在处理FGC的概率是P0＝b/(a+b)。

3.监测JVM Full GC事件的系统，其特征在于，包括：JVM日志采集模块、FGC分析模块、FGC预警模块，所述JVM日志采集模块用于实时采集JVM运行时的事件，采集信息包括FGC的触发时间和执行时长；所述FGC分析模块用于定期提取JVM日志采集模块采集到的信息，分析每一个实例的状况，计算a、b和P0，并根据P0的阈值发送预警信息；所述FGC预警模块用于在系统中进行预警，发出异常状态的提示。

4.根据权利要求3所述的监测JVM Full GC事件的系统，其特征在于，所述FGC分析模块分析和计算的过程如下：

1.从JVM日志中逐个提取每个实例最近一次JVM启动后FGC的发生情况：

c)如果JVM启动后，FGC次数不足2，则暂时不分析该实例；

d)当启动后FGC次数超过2次时，进行以下处理：

当启动时间不足基本时间则取启动后的所有FGC事件；

当启动时间超过基本时间，但最近基本时间内FGC次数不足2次，则取最近2次FGC事件；

当启动时间超过基本时间，且最近基本时间内FGC次数不少于2次，则取最近基本时间内的所有FGC事件；

2.通过以下公式计算a，b

a＝(FGC次数-1)/(最后一次FGC触发时间–最早一次FGC触发时间)；

b＝FGC次数/全部FGC事件的累计执行时间；

3.计算P0＝b/(a+b)

判断当P0<阈值，则发送预警信息。