CN110262951A - 一种业务秒级监控方法及系统、存储介质及客户端 - Google Patents

Abstract

本发明提供一种业务秒级监控方法及系统、存储介质及客户端，应用于客户端，包括以下步骤：在应用的接口发生调用时，基于预设时间间隔生成所述应用的秒级统计日志，秒级统计日志包括所述预设时间间隔内接口被调用的统计信息；采集所述秒级统计日志；将所述秒级统计日志进行分类存储。本发明的业务秒级监控方法及系统、存储介质及客户端能够快速展示业务相关的指标，并能够以秒为粒度实时更新，从而便于在第一时间定位业务系统的相关问题。

Description

一种业务秒级监控方法及系统、存储介质及客户端

技术领域

本发明涉及业务监控的技术领域，特别是涉及一种业务秒级监控方法及系统、存储介质及客户端。

背景技术

现有技术中业务系统均采用分钟级监控方式。分钟级监控方式主要包括以下步骤：

(1)通过应用的接口每次请求调用，以及每次调用的成功返回分别落下一条日志到应用机器上，该日志中包含接口相关的所有需要的信息。

(2)使用高可用、高可靠、分布式的海量日志采集、聚合和传输的flume系统来采集应用上的日志，并将日志发送到分布式发布-订阅消息传递系统kafka；其中，flume支持在日志系统中定制各类数据发送方，用于收集数据；同时，flume提供对数据进行简单处理，并写到各种数据接受方(可定制)的能力。kafka是一种高吞吐量的分布式发布订阅消息系统，它可以处理消费者规模的网站中的所有动作流数据。这种动作(网页浏览，搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。对于像Hadoop一样的日志数据和离线分析系统，但又要求实时处理的限制，这是一个可行的解决方案。kafka的目的是通过Hadoop的并行加载机制来统一线上和离线的消息处理，也是为了通过集群来提供实时的消息。

(3)后端依靠Spark Streaming实时流数据处理系统消费kafka日志并计算统计日志中相关参数，并将计算结果存储至mysql数据库中。其中，Spark Streaming是Spark核心API的一个扩展，可以实现高吞吐量的、具备容错机制的实时流数据的处理，支持从多种数据源获取数据，包括kafk、flume、Twitter、ZeroMQ、Kinesis以及TCP sockets，从数据源获取数据之后，可以使用诸如map、reduce、join和window等高级函数进行复杂算法的处理；最后还可以将处理结果存储到文件系统，数据库和现场仪表盘。mysql是一种关系数据库管理系统，关系数据库将数据保存在不同的表中，而不是将所有数据放在一个大仓库内，这样就增加了速度并提高了灵活性。

但是，上述分钟级监控方式具有以下不足：

1)由于接口被频繁的调用，每次调用会产生1～2条日志，大量的日志会消耗应用一定量的性能；

2)由于计算统计大量日志信息的过程放在了服务器端，这就需要花费一定量的时间，导致了接近2～3分钟左右的延时。

发明内容

鉴于以上所述现有技术的缺点，本发明的目的在于提供一种业务秒级监控方法及系统、存储介质及客户端，能够快速展示业务相关的指标，并能够以秒为粒度实时更新，从而便于在第一时间定位业务系统的相关问题。

为实现上述目的及其他相关目的，本发明提供一种业务秒级监控方法，应用于客户端，包括以下步骤：在应用的接口发生调用时，基于预设时间间隔生成所述应用的秒级统计日志，秒级统计日志包括所述预设时间间隔内接口被调用的统计信息；采集所述秒级统计日志；将所述秒级统计日志进行分类存储。

于本发明一实施例中，所述秒级统计日志还包括自定义指标参数，基于所述自定义指标参数生成对应的秒级统计日志。

于本发明一实施例中，通过设置预设时间间隔，基于二方库的Metrics统计框架生成所述秒级统计日志。

于本发明一实施例中，基于flume系统采集所述秒级统计日志。

于本发明一实施例中，将所述秒级统计日志进行分类存储包括以下步骤：

将所述秒级统计日志存储至消息系统kafka；

采用多消费者模式消费消息系统kafka中的所述秒级统计日志；

当所述消息系统kafka的所述秒级统计日志消费到之后，存入缓冲队列并启动异步多线程去消费所述缓冲队列的所述秒级日志信息。

于本发明一实施例中，还包括对所述缓冲队列的所述秒级日志信息进行分类；对于固定需要存入mysql的日志信息，进行第二次缓冲，并采用多线程异步消费存储至mysql数据库；对于与时间点相关的接口统计信息数据，采用基于Hbase的时间序列数据库OpenTSDB存储。

对应地，本发明提供一种业务秒级监控系统，应用于客户端，包括生成模块、采集模块和存储模块；

所述生成模块用于在应用的接口发生调用时，基于预设时间间隔生成所述应用的秒级统计日志，秒级统计日志包括所述预设时间间隔内接口被调用的统计信息；

所述采集模块用于采集所述秒级统计日志；

所述存储模块用于将所述秒级统计日志进行分类存储。

本发明提供一种存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述的业务秒级监控方法。

本发明提供一种客户端，包括处理器及存储器；

所述存储器用于存储计算机程序；

所述处理器用于执行所述存储器存储的计算机程序，以使所述终端执行上述的业务秒级监控方法。

最后，本发明提供一种业务秒级监控系统，包括上述的客户端和服务器；

所述服务器与所述客户端通信连接，用于获取并查看所述客户端上分类存储的秒级统计日志。

如上所述，本发明的业务秒级监控方法及系统、存储介质及客户端，具有以下有益效果：

(1)能够快速展示业务相关的指标，并能够以秒为粒度实时更新，从而便于在第一时间定位业务系统的相关问题；

(2)采用客户端预计算的方式，客户端引入秒级监控组件并配置好后，一旦接口发生调用，秒级监控组件会提供计数统计功能；当达到固定配置的时间间隔后，应用会下发该接口对应的一条统计信息的日志，从而极大的减少了日志量；

(3)省去了服务器端统计计算的功能，延迟时间降低到了数秒内，无需服务器端的计算资源，节约机器运行成本每年约100+万(6～7万一台)。

附图说明

图1显示为本发明的业务秒级监控方法于一实施例中的流程图；

图2显示为本发明的秒级二方库于一实施例中的原理图；

图3显示为本发明的业务秒级监控系统于一实施例中的结构示意图；

图4显示为本发明的客户端于一实施例中的结构示意图；

图5显示为本发明的业务秒级监控系统于另一实施例中的结构示意图。

元件标号说明

31 生成模块

32 采集模块

33 存储模块

41 处理器

42 存储器

51 客户端

52 服务器

具体实施方式

以下通过特定的具体实例说明本发明的实施方式，本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用，本说明书中的各项细节也可以基于不同观点与应用，在没有背离本发明的精神下进行各种修饰或改变。

本发明的业务秒级监控方法及系统、存储介质及客户端基于客户端实现业务的秒级监控，从而能够快速展示业务相关的指标，并能够以秒为粒度实时更新，便于用户在第一时间定位业务系统的相关问题，有效地降低了服务器负载和监控延时，极大地提升了用户体验。

如图1所示，于一实施例中，本发明的业务秒级监控方法应用于客户端，包括以下步骤：

步骤S1、在应用的接口发生调用时，基于预设时间间隔生成所述应用的秒级统计日志，秒级统计日志包括所述预设时间间隔内接口被调用的统计信息。

具体地，在本发明中并不是针对每次调用生成日志，而是预先设定时间间隔，基于预设时间间隔生成一次日志，且生成的日志是以秒级为单位的，从而从根本上降低了所生成的秒级统计日志的数量。例如，假设某个接口1分钟内被请求了1万次，那么采用现有技术中的监控方法的话客户端大约会落下2万条日志，并且后台还需要提供服务器资源去统计计算这2万条日志。而对于本发明的业务秒级监控方法而言，假设配置的统计的固定间隔是5秒一次，那么一分钟，也即只统计12次。也就是说，1分钟也只会落下了12条统计日志，而接口的被调用信息已经统计在了这12条日志中了，无需后端再去进行统计计算，从而降低了后端的负载。优选地，所述接口被调用的统计信息至少包括接口被调用的次数、响应时间等等。

于本发明一实施例中，本发明的业务秒级监控方法采用一个秒级二方库jar包实现监控功能。具体地，该jar包主要是实现了两个功能，①统计计算并维护应用接口调用的相关信息；②将相关接口统计信息定时落盘日志到应用机器上。具体地，所述秒级二方库在原Metrics统计框架基础上进行了改装，实现了对于固定时间间隔的数据统计功能。

原Metrics统计框架是一个给JAVA服务的各项指标提供度量工具的包，在JAVA代码中嵌入Metrics代码，可以方便的对业务代码的各个指标进行监控。如图2所示，Metrics统计框架提供了五种统计类型的监控工具，其中包括Gauge、Counter、Meter、Histogram、Timer五种监控类型。其中，Gauge是最简单的度量类型，只有一个简单的返回值，用来记录一些对象或者事物的瞬时值。Counter是一个简单64位的计数器，可以增加和减少。Meter是一种只能自增的计数器，通常用来度量一系列事件发生的比率，其提供了平均速率、指数平滑平均速率，以及采样后的1分钟、5分钟、15分钟速率。Histrogram是用来度量流数据中value的分布情况，可以计算最大/小值、平均值，方差，分位数(如中位数，或者95th分位数)，如75％,90％,98％,99％的数据在哪个范围内。Timer是Histogram跟Meter的一个组合，另外还提供了对于某段代码执行的耗时的统计及计算功能。

对于原Metrics统计框架，框架底层维护的是上面5个统计类型的对象，底层统计的是从开始统计时间到当前统计时间的数据情况。本发明在上述基础上做了改装，从而实现了可配置的预设时间间隔的统计功能，也即是统计每个预设时间间隔内的数据情况，同时修改了5中统计类型的统计参数，并且能够统一日志的打印的标准格式等功能。

对于每一个唯一的接口，所述秒级二方库对应地产生唯一的一个Metric统计对象来维护该接口的相关信息，该Metric对象的唯一标识是通过请求参数中appName、methodName、appInterfaceName、identify以及所有tags的值加上当前使用的统计类型，使用"."字符拼接而成的字符串来区分的，二方库底层采用ConcurrentHashMap来维护这些对象，并实现并发控制。每次接口产生新的请求或者新的数据变化，通过更改集合中接口对应对象的属性来更新接口相关统计信息。同时启动定时任务，每间隔预设时间间隔从ConcurrentHashMap中取出对象，转换成json格式字符串落盘日志。

以下是一个Metric统计对象落盘的日志案例：

{

“count”:8,

“cronExpression”:”0/5*****？”

“m1”:0.15198093928913693,

“m15”:0.1946583329419124,

“m5”:0.18516888044454974,

“mean_rate”:0.11798020813765787,

“metric”:”TestMeter_test_meter”,

“rate_unit”:”events/second”,

“tags”:{

“metricType”：“meter”,

“ip”:”192.168.000”

}

“timestamp”:”2018-07-13 09:20:40”

}

其中metric属性是由调用二方库，传递的应用名，接口名，方法名以及一个可自定义的字段拼接而成的字段。tags属性同样是由应用调用二方库传递的参数tags属性该属性可以用来标识接口的具体的维度。cronExpression属性表示定时落盘日志的定时任务执行频率。timestamp属性是统计的时间戳。以上属性是5大统计类型共有的字段。以下属性是Meter特有的字段：count属性：表示该固定时间间隔的统计次数。m1，m5，m15属性表示采样后的1分钟、5分钟、15分钟速率。mean_rate属性表示表示平均速率。rate_unit属性是统计单位。

于本发明一实施例中，所述秒级统计日志还包括自定义指标参数，基于所述自定义指标参数生成对应的秒级统计日志。其中，所述自定义指标参数可以包括金额数、交易量、所属类别等等。举个例子，假设某个应用的某个接口的请求主要来源于10个不同的省份(上海、北京、广州......)，如果应用只需要统计该接口的调用总数情况，不需要区分到具体省份，那么可以不用传递tags属性参数，而假设应用需要区分到具体到每个省份的接口调用情况，就可以在tags里面增加一个属性province。对于不同的省份调用，province传递不同的值即可。所述秒级二方库底层是通过应用名+接口名+方法名跟tags属性值拼接组成唯一标识的，故可以达到分开统计效果。因此，本发明的业务秒级监控方法相对于现有技术中的监控方法增加了多种统计功能，同时还提供了一个自定义监控的维度的功能，可以满足更加复杂的业务需求。

步骤S2、采集所述秒级统计日志。

于本发明一实施例中，基于日志采集、聚合和传输的flume系统采集所述秒级统计日志。Flume系统支持在日志系统中定制各类数据发送方，用于收集数据；同时，flume提供对数据进行简单处理，并写到各种数据接受方(可定制)的能力。

步骤S3、将所述秒级统计日志进行分类存储。

于本发明一实施例中，将所述秒级统计日志进行分类存储包括以下步骤：

31)将所述秒级统计日志存储至消息系统kafka。

具体地，所述消息系统kafka是一种高吞吐量的分布式发布订阅消息系统，它可以处理消费者规模的网站中的所有动作流数据。

32)采用多消费者模式消费消息系统kafka中的所述秒级统计日志。

33)当所述消息系统kafka的所述秒级统计日志消费到之后，存入缓冲队列并启动异步多线程去消费所述缓冲队列的所述秒级日志信息。

具体地，考虑到处理日志的时效性问题，本发明将消息系统kafka存储的日志消费到之后，将其存入缓冲队列，同时启动异步多线程去消费缓冲队列的日志信息。对于缓冲队列的日志信息进行分类。其中，对于部分固定需要存入mysql的日志信息，进行第二次缓冲，之后二次采用多线程异步消费存储至mysql数据库。而对于其他的与时间点相关的接口统计信息数据，采用基于Hbase的分布式的、可伸缩的时间序列数据库OpenTSDB来进行数据的存储。

同时，服务器端从数据库中获取分类存储的所述秒级统计日志，并通过界面进行查询和显示，便于基于服务器端实现客户端的远程监控。

下面通过具体实施例来进一步阐释本发明的业务秒级监控方法。

在该实施例中，在移动API网关应用通过引入秒级二方库对接口的调用次数、响应时间等数据进行了埋点。以下是某一个接口的落盘日志：

从日志里面的tags属性里面的metricType的值为counter，可以看到该接口是使用的counter统计功能，counter统计可以实现接口被调用的次数。在该实施例中统计监控的是5秒内的总登录次数。

接下来我们介绍一下秒级监控的后端的数据展示功能：

如图3所示，于一实施例中，本发明的业务秒级监控系统应用于客户端，包括生成模块31、采集模块32和存储模块33。

所述生成模块31用于在应用的接口发生调用时，基于预设时间间隔生成所述应用的秒级统计日志，秒级统计日志包括所述预设时间间隔内接口被调用的统计信息。

所述采集模块32与所述生成模块31相连，用于采集所述秒级统计日志。

所述存储模块33与所述采集模块32相连，用于将所述秒级统计日志进行分类存储。

其中，生成模块31、采集模块32和存储模块33的结构和原理与上述业务秒级监控方法中的步骤一一对应，故在此不再赘述。

需要说明的是，应理解以上装置的各个模块的划分仅仅是一种逻辑功能的划分，实际实现时可以全部或部分集成到一个物理实体上，也可以物理上分开。且这些模块可以全部以软件通过处理元件调用的形式实现；也可以全部以硬件的形式实现；还可以部分模块通过处理元件调用软件的形式实现，部分模块通过硬件的形式实现。例如，x模块可以为单独设立的处理元件，也可以集成在上述装置的某一个芯片中实现，此外，也可以以程序代码的形式存储于上述装置的存储器中，由上述装置的某一个处理元件调用并执行以上x模块的功能。其它模块的实现与之类似。此外这些模块全部或部分可以集成在一起，也可以独立实现。这里所述的处理元件可以是一种集成电路，具有信号的处理能力。在实现过程中，上述方法的各步骤或以上各个模块可以通过处理器元件中的硬件的集成逻辑电路或者软件形式的指令完成。

例如，以上这些模块可以是被配置成实施以上方法的一个或多个集成电路，例如：一个或多个特定集成电路(Application Specific Integrated Circuit，简称ASIC)，或，一个或多个微处理器(Digital Singnal Processor，简称DSP)，或，一个或者多个现场可编程门阵列(Field Programmable Gate Array，简称FPGA)等。再如，当以上某个模块通过处理元件调度程序代码的形式实现时，该处理元件可以是通用处理器，例如中央处理器(Central Processing Unit，简称CPU)或其它可以调用程序代码的处理器。再如，这些模块可以集成在一起，以片上系统(system-on-a-chip，简称SOC)的形式实现。

本发明的存储介质上存储有计算机程序，该程序被处理器执行时实现上述的业务秒级监控方法。所述存储介质包括：ROM、RAM、磁碟、U盘、存储卡或者光盘等各种可以存储程序代码的介质。

如图4所示，于一实施例中，本发明的客户端包括：处理器41及存储器42。

所述存储器42用于存储计算机程序。

所述存储器42包括：ROM、RAM、磁碟、U盘、存储卡或者光盘等各种可以存储程序代码的介质。

所述处理器41与所述存储器42相连，用于执行所述存储器42存储的计算机程序，以使所述客户端执行上述的出行方式提醒方法。

优选地，所述处理器41可以是通用处理器，包括中央处理器(Central ProcessingUnit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(Digital Signal Processor，简称DSP)、专用集成电路(Application SpecificIntegrated Circuit，简称ASIC)、现场可编程门阵列(Field Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

如图5所示，于一实施例中，本发明的业务秒级监控系统包括上述的客户端51和服务器52。

所述服务器52与所述客户端51通信连接，用于获取并查看所述客户端51上分类存储的秒级统计日志。

于本发明一实施例中，所述服务器52获取所述秒级统计日志之后，可以进行指标管理和数据展示。其中，指标管理功能主要是提供维护指标、维度以及指标、维度对应的实际业务含义的关系，便于数据的直观展示，主要是为数据展示服务的。

数据展示时，用户可以通过搜索框，直接搜索到需要展示的应用，选择好应用对应的接口，选择数据展示的时间间隔，选择接口的维度，选择指标类型，即可实时动态查看到对应接口对应维度下的统计数据的变化情况。

综上所述，本发明的业务秒级监控方法及系统、存储介质及客户端能够快速展示业务相关的指标，并能够以秒为粒度实时更新，从而便于在第一时间定位业务系统的相关问题；采用客户端预计算的方式，客户端引入秒级监控组件并配置好后，一旦接口发生调用，秒级监控组件会提供计数统计功能；当达到固定配置的时间间隔后，应用会下发该接口对应的一条统计信息的日志，从而极大的减少了日志量；省去了服务器端统计计算的功能，延迟时间降低到了数秒内，无需服务器端的计算资源，节约机器运行成本每年约100+万(6～7万一台)。所以，本发明有效克服了现有技术中的种种缺点而具高度产业利用价值。

上述实施例仅例示性说明本发明的原理及其功效，而非用于限制本发明。任何熟悉此技术的人士皆可在不违背本发明的精神及范畴下，对上述实施例进行修饰或改变。因此，举凡所属技术领域中具有通常知识者在未脱离本发明所揭示的精神与技术思想下所完成的一切等效修饰或改变，仍应由本发明的权利要求所涵盖。

Claims (10)

1.一种业务秒级监控方法，应用于客户端，其特征在于：包括以下步骤：

在应用的接口发生调用时，基于预设时间间隔生成所述应用的秒级统计日志，所述秒级统计日志包括所述预设时间间隔内接口被调用的统计信息；

采集所述秒级统计日志；

将所述秒级统计日志进行分类存储。

2.根据权利要求1所述的业务秒级监控方法，其特征在于：所述秒级统计日志还包括自定义指标参数，基于所述自定义指标参数生成对应的秒级统计日志。

3.根据权利要求1所述的业务秒级监控方法，其特征在于：通过设置预设时间间隔，基于二方库的Metrics统计框架生成所述秒级统计日志。

4.根据权利要求1所述的业务秒级监控方法，其特征在于：基于flume系统采集所述秒级统计日志。

5.根据权利要求1所述的业务秒级监控方法，其特征在于：将所述秒级统计日志进行分类存储包括以下步骤：

将所述秒级统计日志存储至消息系统kafka；

采用多消费者模式消费消息系统kafka中的所述秒级统计日志；

当所述消息系统kafka的所述秒级统计日志消费到之后，存入缓冲队列并启动异步多线程去消费所述缓冲队列的所述秒级日志信息。

6.根据权利要求5所述的业务秒级监控方法，其特征在于：还包括对所述缓冲队列的所述秒级日志信息进行分类；对于固定需要存入mysql的日志信息，进行第二次缓冲，并采用多线程异步消费存储至mysql数据库；对于与时间点相关的接口统计信息数据，采用基于Hbase的时间序列数据库OpenTSDB存储。

7.一种业务秒级监控系统，应用于客户端，其特征在于：包括生成模块、采集模块和存储模块；

所述生成模块用于在应用的接口发生调用时，基于预设时间间隔生成所述应用的秒级统计日志，秒级统计日志包括所述预设时间间隔内接口被调用的统计信息；

所述采集模块用于采集所述秒级统计日志；

所述存储模块用于将所述秒级统计日志进行分类存储。

8.一种存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现权利要求1至6中任一项所述的业务秒级监控方法。

9.一种客户端，其特征在于，包括处理器及存储器；

所述存储器用于存储计算机程序；

所述处理器用于执行所述存储器存储的计算机程序，以使所述终端执行权利要求1至6中任一项所述的业务秒级监控方法。

10.一种业务秒级监控系统，其特征在于：包括权利要求9所述的客户端和服务器；

所述服务器与所述客户端通信连接，用于获取并查看所述客户端上分类存储的秒级统计日志。