CN103258009A

CN103258009A - 获取和分析方法性能数据的方法和系统

Info

Publication number: CN103258009A
Application number: CN2013101313598A
Authority: CN
Inventors: 黎方
Original assignee: Beijing Jingdong Shangke Information Technology Co Ltd
Current assignee: Beijing Jingdong Shangke Information Technology Co Ltd
Priority date: 2013-04-16
Filing date: 2013-04-16
Publication date: 2013-08-21
Anticipated expiration: 2033-04-16
Also published as: CN103258009B

Abstract

本发明提供一种用于获取和分析方法性能数据的方法和系统。所述方法包括：由应用端发送方法性能数据，所述方法性能数据包括响应时间和调用成功或失败标识；由数据接收中心从所述应用端获取所述方法性能数据；由所述数据接收中心根据时间粒度对所述方法性能数据按照响应时间进行合并；以及由所述数据接收中心将合并后的方法性能数据保存到缓存中。

Description

获取和分析方法性能数据的方法和系统

技术领域

本发明涉及网络技术领域，更具体地，涉及一种用于获取和分析方法性能数据的方法和系统。

背景技术

随着信息技术的发展，在办公、电子政务、电子商务等相关领域建立了大量的应用系统。应用系统的建立，给人们的生活和工作带来了很大的便利。然而，随着系统的数据量和访问人数的增加，系统的运行速度就会下降。为了找出系统中的性能瓶颈或薄弱环节，分析导致系统运行速度下降的原因，就需要对系统当前的运行性能进行监控分析。

应用系统性能分析数据的获取，一般的方式为将每一个响应时间数据直接存储到一个集中存储器，诸如数据库等，然后根据不同的时间维度（5分钟、小时、天、月、年等），取出这些事件维度的数据，通过按照响应时间排序的方式来分析这个时间段的数据，从而获取TP999、TP99、TP90、TP50的响应时间数据，这种方式存在很多不足。

例如，服务方法调用量越大，消耗的存储空间就越大。比如，5分钟内该服务方法被调用了10万次，那么就需要将这10万次的响应时间数据都存储起来。而且，服务方法调用量越大，分析响应时间消耗的CPU计算就越多。比如，5分钟内该服务方法被调用了10万次，那么就需要把这10万条数据按照响应时间排序，从而获取方法性能数据，需要消耗更多的CPU计算和内存资源。另外，当需要扩大分析的时间维度（例如，从5分钟到天）时，需要消耗的计算量就更大，甚至不太可能扩大分析时间维度到年等大维度。因此，将一天甚至一年的响应时间数据进行排序所消耗的计算资源相当大（按照之前每5分钟调用10万次，那么一天就会调用100000*12*24=2880000次）。

因此，需要一种改善的用于获取和分析方法性能数据的方法和系统。

发明内容

本发明的主要的目的是对软件应用系统的响应时间数据快速预处理，归类相同响应时间的数据，减小数据的存储压力，并通过不断地合并时间粒度的数据，从而提高数据分析的性能。

根据本发明的一方面，提供了一种用于获取和分析方法性能数据的方法，所述方法包括：由应用端发送方法性能数据，所述方法性能数据包括响应时间和调用成功或失败标识；由数据接收中心从所述应用端获取所述方法性能数据；由所述数据接收中心根据时间粒度对所述方法性能数据按照响应时间进行合并；以及由所述数据接收中心将合并后的方法性能数据保存到缓存中。

优选地，所述合并进一步包括：由所述数据接收中心确定在所述缓存中是否存在与所述方法性能数据中具有相同响应时间的数据；以及如果存在，则使具有相同响应时间的所述数据对应的次数递增1。

优选地，如果不存在与所述方法性能数据具有相同响应时间的数据，则将所述响应时间的数据初始化次数新建为1。

优选地，由数据分析中心从所述缓存获取合并后的方法性能数据；

由所述数据分析中心按照所述响应时间对所获取的方法性能数据进行排序；以及由所述数据分析中心计算指标值。

优选地，所述时间粒度是1分钟、5分钟、1小时、一天、一周和一月中的任何一个。

优选地，所述排序进一步包括：累加具有相同响应时间的所述方法性能数据的调用次数。

优选地，所述指标值包括TP999、TP99、TP90、TP50和可用率。

根据本发明的另一方面，提供了一种用于获取和分析方法性能数据的方法，所述方法包括：由应用端发送方法性能数据，所述方法性能数据包括响应时间和调用成功或失败标识；由数据接收中心获取所述方法性能数据，并且将所述方法性能数据存储到缓存中；由所述数据分析中心根据时间粒度从所述缓存批量查询出具有相同响应时间的方法性能数据；由所述数据分析中心按照所述响应时间对所述方法性能数据进行排序；以及由所述数据分析中心计算指标值。

优选地，所述指标值包括TP999、TP99、TP90、TP50和可用率。

根据本发明的另一方面，提供了一种用于获取和分析方法性能数据的系统，所述系统包括：应用端，所述应用端被配置成发送方法性能数据，所述方法性能数据包括响应时间和调用成功或失败标识；数据接收中心，所述数据接收中心被配置成从所述应用端获取所述方法性能数据，根据时间粒度对所述方法性能数据按照响应时间进行合并，并且将合并后的方法性能数据保存到缓存中；所述数据分析中心，所述数据分析中心被配置成从所述缓存获取合并后的方法性能数据，按照所述响应时间对所获取的方法性能数据进行排序，并且计算指标值。

优选地，所述数据接收中心进一步被配置成：在所述合并中确定在所述缓存中是否存在与所述方法性能数据中具有相同响应时间的数据；如果存在，则使具有相同响应时间的所述数据对应的次数递增1；以及如果不存在与所述方法性能数据具有相同响应时间的数据，则将所述响应时间的数据初始化次数新建为1。

优选地，所述数据分析中心进一步被配置成：在所述排序中累加具有相同响应时间的所述方法性能数据的调用次数。

优选地，所述指标值包括TP999、TP99、TP90、TP50和可用率。

根据本发明的又一方面，提供了一种用于获取和分析方法性能数据的系统，所述系统包括：应用端，所述应用端被配置成发送方法性能数据，所述方法性能数据包括响应时间和调用成功或失败标识；数据接收中心，所述数据接收中心被配置成从所述应用端获取所述方法性能数据，并且将所述方法性能数据存储到缓存中；所述数据分析中心，所述数据分析中心被配置成根据时间粒度从所述缓存批量查询出具有相同响应时间的方法性能数据，按照所述响应时间对所述方法性能数据进行排序，并且计算指标值。

优选地，所述指标值包括TP999、TP99、TP90、TP50和可用率。

附图说明

附图图示了本发明的实施例，并与说明书一起用于解释本发明的原理。在附图中：

图1图示了根据本发明的实施例的用于获取和分析方法性能数据的系统100的架构图。

图2图示了根据本发明实施例的获取方法性能数据的方法200的流程图。

图3图示了根据本发明的实施例的用于分析方法性能数据的方法300的流程图。

具体实施方式

下面将参照附图详细解释根据本发明的实施例的技术方案。

如在此使用的术语“响应时间”指的是应用系统中某个方法开始执行到执行结束所消耗的时间，通常以毫秒计算。响应时间能够反映出方法的性能状况，是方法性能度量中最为重要的参数指标。因此，准确测量方法的响应时间将可以为准确判断方法的性能提供基本的依据。

对本领域技术人员将显而易见的是，根据本发明的实施例的技术方案不仅限于性能参数中的响应时间数据，而是适用于各种性能度量参数，例如吞吐量、差错率、丢失率等。根据不同的情况，可以选择适当不同的参数。例如，对于交互式应用，通常响应时间是最重要的性能参数，而对于需要传输大量数据的应用，最重要的性能参数是吞吐量。

在此以“响应时间”为例来说明对方法性能数据的高效获取和分析方法和系统。通常，在一个时间粒度内，将方法调用响应时间按从小到大的顺序进行排序，如在此使用的术语“TP999”指的是方法在第99.9%次调用时的响应时间。例如，方法在5分钟内调用了1000次，响应时间从第一次调用到第1000次调用分别是1ms、2ms、3ms、……、1000ms，那么TP999就等于1000*0.999=999次调用时的响应时间999ms。

类似地，在一个时间粒度内，将方法调用响应时间按从小到大的顺序进行排序，如在此使用的术语“TP99”指的是方法在第99%次调用时的响应时间。术语“TP90”指的是方法在第90%次调用时的响应时间。术语“TP50”指的是方法在第50%次调用时的响应时间。

如下面将具体解释的，在此使用的术语“第99.9%次调用”、“第99%次调用”、“第90%次调用”和“第50%次调用”分别指的是“总调用次数*99.9%”、“总调用次数*99%”、“总调用次数*90%”和“总调用次数*50%”取整得到的那次调用。

具体地，本方案涉及到的TP999、TP99、TP90、TP50的计算方式，以5分钟分析粒度为例进行如下说明。

●TP999：对五分钟内获取到的方法性能数据按照响应时间从小到大进行排序，根据五分钟内的总调用次数*99.9%取整得到99.9%这次调用的响应时间（表示方法在这五分钟内99.9%的调用都是小于这个响应时间的）；

●TP99：对五分钟内获取到的方法性能数据按照响应时间从小到大进行排序，根据五分钟内的总调用次数*99%取整得到99%这次调用的响应时间（表示方法在这五分钟内99%的调用都小于这个响应时间的）；

●TP90：对五分钟内获取到的方法性能数据按照响应时间从小到大进行排序，根据五分钟内的总调用次数*90%取整得到90%这次调用的响应时间（表示方法在这五分钟内90%的调用都是小于这个响应时间的）；

●TP50：对五分钟内获取到的方法性能数据按照响应时间从小到大进行排序，根据五分钟内的总调用次数*50%取整得到50%这次调用的响应时间（表示方法在这五分钟内50%的调用都是小于这个响应时间的）。

如在此使用的术语“可用率”指的是在一个时间粒度内方法的总调用次数中成功次数所占的百分比。例如，方法在5分钟内调用100次，其中失败30次，那么该方法在5分钟内的可用率就是70%。

在生产环境中，为了监控部署在各个服务器上的应用系统中各方法的执行效率和可用率，应用系统中各方法每调用一次就会向数据中心发送一次数据，所述数据包括例如响应时间和调用成功或失败标识。然而，当调用次数特别多时（现在的软件服务动辄每秒上千次调用，就会每秒产生上千条响应时间数据），需要分析的数据量就会成倍的增加，同时随着分析时间维度的增加（例如，从5分钟粒度到1天粒度），需要对响应时间进行排序计算的量就特别大，分析效率就特别低。

由于应用系统中方法的响应时间通常集中在一段时间范围内，例如，1ms-2000ms，有大量响应时间数据是重复的，所以对于这种正态分布的数据，根据本发明的实施例按照响应时间来计数，分别统计出各个响应时间对应的调用次数，应用系统中方法调用次数的增加并不会产生很多不同的响应时间，把相同响应时间的数据进行合并，得到一个响应时间调用多少次这样的数据，从而成倍地减少了数据量，提高了排序计算效率。

图1图示了根据本发明的实施例的用于获取和分析方法性能数据的系统100的架构图。如图1所示，系统100包括应用端102a、102b、数据接收中心104、缓存106、数据分析中心108、MQ群集110、任务调度中心112和数据库114。

如图1所示，应用端102a、102b用于每调用一次方法，就向数据接收中心104发送一次方法性能数据，所述方法性能数据例如包括响应时间和调用成功或失败标识。然后，如下文将详细描述的，数据接收中心104用于接收从应用端102a、102b发送的方法性能数据，并且将接收到的方法性能数据进行预处理后合并保存到缓存106中。例如，数据接收中心104根据时间粒度对这些性能数据按照响应时间进行合并与集中缓存。数据分析中心108按时间粒度定时从集中缓存中获取数据，根据响应时间进行排序计算，计算该时间粒度内的TP999、TP99、TP90、TP50以及可用率。例如，如果是5分钟粒度，则数据分析中心108每5分钟获取一次任务，如果是1小时任务，则数据分析中心108每小时获取分析任务。然后，数据分析中心108从缓存106中找到对应时间粒度的数据以进行分析，如下文将详细描述的。根据本发明的技术方案不仅成倍地减少了集中缓存的数据量，而且成倍地提高了数据分析中心108的分析性能，为应用系统中各方法执行状态提供有力的实时数据参考。

数据接收中心

数据接收中心104用于接收从应用端发送来的方法性能数据，将接收到的方法性能数据进行预处理后合并保存到诸如redis缓存的缓存106中。处理接收中心104的工作流程如下。

I.数据接收中心104从应用端接收方法性能数据，所述方法性能数据例如包括响应时间和调用成功或失败标识。具体地，数据接收中心104在需要计算的软件服务方法调用开始得到一个时间，精确到毫秒，例如，start=20121120114422596，在方法调用结束时得到一个时间，例如，end=20121120114422652，那么该服务方法的响应时间elapsedTime就等于end-start=56毫秒。另外，数据接收中心104还会得到调用成功或失败标识（在该实施例中，是processState）。如果本次服务方法调用成功，则processState=0。如果调用失败，则processState=1。每调用一次该服务方法就产生一条日志，并写入文件，以上述响应时间和调用成功标识为例，该日志的格式例如为{“start”:”20121120114422596”,“elapsedTime”:“56”,“processState”:“0”}。这样我们就收集到了该服务方法所有的响应时间数据。

II.数据接收中心104将接收到的方法性能数据进行预处理后合并保存到诸如redis缓存的缓存106中。具体地，数据接收中心104收集产生的日志，解析每一条数据，根据开始时间start以最小的5分钟维度，按每个小时的整5分钟点（0分、5分、10分、15分、20分、……、55分）将所有相同响应时间数据进行归类计数。例如，start=20121120114422596（最后5位是秒和毫秒）对应的整5分钟点就是201211201140（2012年11月20日11点40分），那么201211201140到201211201145之间的所有响应时间数据（包含调用失败的数据）结果如下表1所示。

表1

图2图示了根据本发明实施例的数据接收中心104处理方法性能数据的方法200的流程图。如图2所示，在步骤202，应用端102a、102b发送方法性能数据，该方法性能数据包括响应时间和调用成功或失败标识。在步骤204，数据接收中心104获取方法性能数据。然后，在步骤206，确定在缓存106中是否存在与该方法性能数据具有相同响应时间的数据。如果不存在，则在步骤208，将该响应时间的数据初始化次数新建为1。如果存在，则在步骤210，将相同响应时间对应的次数递增1。

数据分析中心

数据分析中心108用于定时获取分析任务，并且然后到缓存106中找到对应时间粒度的数据进行分析。数据分析中心的工作流程如下。

I．数据分析中心108对上面产生的5分钟一个维度的归类数据按照响应时间进行从小到大的排序分析得到TP999、TP99、TP50的响应时间值，以及可用率，在此可用率=（成功调用次数/总调用次数）*100%。

下面参考表1以计算TP99为例详细说明计算方法如下：

1.先计算TP99的调用次数=总调用次数（1000+2000+5000+7000+6000+50+10）*99%，然后取整得到99%这次调用的响应时间的值为20849。

2.按照归类的响应时间从小到大排序，累加具有相同响应时间的数据的调用次数，发现99%的调用次数20849所处的位置(1000+2000+5000+7000=15000)<20849<(1000+2000+5000+7000+6000=21000)在6000次调用中的一个位置，其相应的调用响应时间为350毫秒，那么TP99的调用响应时间就为350毫秒以内。按照同样的算法，可以取得TP999、TP90、TP50的响应时间数据。

3.可用率=（（总调用次数21060-失败次数10）/总调用次数21060）*100%=99.95%

4.通过上面的方法可以计算出每一个整5分钟段的SLA（服务等级协议）数据，同时到了一个整小时点（2012112012）的时候，可以将过去连续12个（1小时有12个5分钟）5分钟段的数据归类合并成一个小时的数据，例如，如下面表2所示的2012年11月20日11点～2012年11月20日12点的响应时间归类数据。

表2

再按照上面的计算方法同样就可以得到小时维度的99.9%、99%、90%、50%调用响应时间数值，以及调用成功率等SLA数据。同理，可以得到天维度（24个小时数据归类合并）、月维度（当月所有天的数据归类合并）、年维度（12个月的数据归类合并）的SLA数据，相比不归类合并相同响应时间数据，而直接排序所有响应时间方法获取SLA数据节省了大量的计算，特别是越往后的大维度分析，计算量越大。

图3图示了根据本发明的实施例的数据分析中心108分析方法性能数据的方法300的流程图。如图3所示，在步骤302，启动数据分析中心108,。然后，在步骤304，数据分析中心108抢占方法分析任务。在步骤306，确定所述抢占是否成功。如果没有成功，则返回步骤304。如果抢占成功，则在步骤308，从缓存106中获取分析数据。接着，在步骤310，根据响应时间排序分析来计算TP999、TP99、TP90、TP50和可用率等指标，并将计算结果放入数据库114中。

代替上面产生的5分钟一个维度的归类数据，也可以将每一条服务响应时间数据直接存储到一个集中缓存中，例如nosql数据库或是关系型数据库等。然后，数据分析中心108根据不同时间维度（1分钟、5分钟、小时、天等）将数据批量查询出来，按照方法的响应时间进行排序后计算这个时间维度的TP999、TP99、TP90、TP50的响应时间值，可用率等指标值。替代地，也可使用其他一些基于key-value的nosql数据库进行集中缓存合并后的数据。

本方案主要对客户端发送过来的方法性能数据根据分析粒度对数据按照方法响应时间进行合并，成倍地减少了需要分析的数据量，成倍减少了集中缓存的数据量，成倍地提高了分析性能，同时减少了数据的分析计算量，节约了存储空间，同时也大大提高了计算TP999、TP99、TP90、TP50、方法可用率等指标的效率，比常规的分析处理方式节省了数倍的时间，并能轻松扩大分析时间的维度（从1分钟到5分钟，到小时、天、周、月等等），为应用系统提供多时间维度的方法性能数据参考。

上述实施例仅是本发明的优选实施例，并不用于限制本发明。对本领域技术人员显而易见的是，在不脱离本发明的精神和范围的情况下，可以对本发明的实施例进行各种修改和改变。因此，本发明意在涵盖落入如权利要求所限定的本发明的范围之内的所有这样的修改或变型。

Claims

1.一种用于获取和分析方法性能数据的方法，所述方法包括：

由应用端发送方法性能数据，所述方法性能数据包括响应时间和调用成功或失败标识；

由数据接收中心从所述应用端获取所述方法性能数据；

由所述数据接收中心根据时间粒度对所述方法性能数据按照响应时间进行合并；以及

由所述数据接收中心将合并后的方法性能数据保存到缓存中。

2.根据权利要求1所述的方法，所述合并进一步包括：

由所述数据接收中心确定在所述缓存中是否存在与所述方法性能数据中具有相同响应时间的数据；以及

如果存在，则使具有相同响应时间的所述数据对应的次数递增1。

3.根据权利要求2所述的方法，进一步包括：

如果不存在与所述方法性能数据具有相同响应时间的数据，则将所述响应时间的数据初始化次数新建为1。

4.根据权利要求1所述的方法，进一步包括：

由数据分析中心从所述缓存获取合并后的方法性能数据；

由所述数据分析中心按照所述响应时间对所获取的方法性能数据进行排序；以及

由所述数据分析中心计算指标值。

5.根据权利要求1所述的方法，其中，所述时间粒度是1分钟、5分钟、1小时、一天、一周和一月中的任何一个。

6.根据权利要求4所述的方法，其中，所述排序进一步包括：累加具有相同响应时间的所述方法性能数据的调用次数。

7.根据权利要求4所述的方法，其中，所述指标值包括TP999、TP99、TP90、TP50和可用率。

8.一种用于获取和分析方法性能数据的方法，所述方法包括：

由数据接收中心获取所述方法性能数据，并且将所述方法性能数据存储到缓存中；

由所述数据分析中心根据时间粒度从所述缓存批量查询出具有相同响应时间的方法性能数据；

由所述数据分析中心按照所述响应时间对所述方法性能数据进行排序；以及

由所述数据分析中心计算指标值。

9.根据权利要求8所述的方法，其中，所述排序进一步包括：累加具有相同响应时间的所述方法性能数据的调用次数。

10.根据权利要求8所述的方法，其中，所述时间粒度是1分钟、5分钟、1小时、一天、一周和一月中的任何一个。

11.根据权利要求8所述的方法，其中，所述指标值包括TP999、TP99、TP90、TP50和可用率。

12.一种用于获取和分析方法性能数据的系统，所述系统包括：

应用端，所述应用端被配置成发送方法性能数据，所述方法性能数据包括响应时间和调用成功或失败标识；

数据接收中心，所述数据接收中心被配置成从所述应用端获取所述方法性能数据，根据时间粒度对所述方法性能数据按照响应时间进行合并，并且将合并后的方法性能数据保存到缓存中；

所述数据分析中心，所述数据分析中心被配置成从所述缓存获取合并后的方法性能数据，按照所述响应时间对所获取的方法性能数据进行排序，并且计算指标值。

13.根据权利要求12所述的系统，所述数据接收中心进一步被配置成：在所述合并中确定在所述缓存中是否存在与所述方法性能数据中具有相同响应时间的数据；如果存在，则使具有相同响应时间的所述数据对应的次数递增1；以及如果不存在与所述方法性能数据具有相同响应时间的数据，则将所述响应时间的数据初始化次数新建为1。

14.根据权利要求12所述的系统，其中，所述时间粒度是1分钟、5分钟、1小时、一天、一周和一月中的任何一个。

15.根据权利要求12所述的系统，其中，所述数据分析中心进一步被配置成：在所述排序中累加具有相同响应时间的所述方法性能数据的调用次数。

16.根据权利要求12所述的系统，其中，所述指标值包括TP999、TP99、TP90、TP50和可用率。

17.一种用于获取和分析方法性能数据的系统，所述系统包括：

数据接收中心，所述数据接收中心被配置成从所述应用端获取所述方法性能数据，并且将所述方法性能数据存储到缓存中；

所述数据分析中心，所述数据分析中心被配置成根据时间粒度从所述缓存批量查询出具有相同响应时间的方法性能数据，按照所述响应时间对所述方法性能数据进行排序，并且计算指标值。

18.根据权利要求17所述的系统，其中，所述数据分析中心进一步被配置成：在所述排序中累加具有相同响应时间的所述方法性能数据的调用次数。

19.根据权利要求17所述的系统，其中，所述时间粒度是1分钟、5分钟、1小时、一天、一周和一月中的任何一个。

20.根据权利要求17所述的系统，其中，所述指标值包括TP999、TP99、TP90、TP50和可用率。