CN101631330A - 一种性能数据的采集处理方法及装置 - Google Patents
一种性能数据的采集处理方法及装置 Download PDFInfo
- Publication number
- CN101631330A CN101631330A CN200910109428A CN200910109428A CN101631330A CN 101631330 A CN101631330 A CN 101631330A CN 200910109428 A CN200910109428 A CN 200910109428A CN 200910109428 A CN200910109428 A CN 200910109428A CN 101631330 A CN101631330 A CN 101631330A
- Authority
- CN
- China
- Prior art keywords
- stage
- success
- operation flow
- data
- performance data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种性能数据的采集处理方法及装置,用于对分阶段进行的业务流程的跨粒度性能数据进行采集处理,所述方法包括如下步骤:采集所述业务流程每一阶段的业务失败次数和最后阶段的业务成功次数;根据前一阶段与后一阶段的数据关联逻辑,计算最后阶段之前各阶段的业务成功次数;将所述业务流程各阶段的成功次数与失败次数,统一计入所述业务流程的最后阶段所处采集粒度的性能数据统计中。所述装置包括业务数据累加模块及业务数据调整模块。本发明可以保证数据采集的完整性,并提高数据采集效率。
Description
技术领域
本发明涉及通讯系统管理,具体的说,涉及一种性能数据的采集处理方法及装置。
背景技术
在诸如移动通讯系统之类的通讯系统管理中,为了实时监控网络的运行状况,了解网络的运行指标,分析网络中存在的问题,需要对网络性能数据进行周期性的采集,并进行定量分析;而数据的缺失和不完整会导致数据分析的效果很差,影响网络优化的效率,对于网络中存在的问题也不能够及时给予解决建议方案。所以,数据完整性和准确性对数据分析和网络维护优化具有重要的指导意义。
数据的准确性和完整性涉及到数据采集、传输、保存等多个环节,每个环节都需要保证数据的不缺失,最终的数据才能是完整的。在现有技术中,大部分针对数据完整性的处理都是在传输、保存这两个环节的,针对数据采集环节的处理相对较少。现有的专利文献,包括专利申请号为CN200710000890.6、CN200710149996.2、CN200710154606.0的中国专利,和专利号为US2007278285、US6014737的美国专利等,虽然涉及到数据采集完整性的思想,但涉及的内容都是数据已经生成,在设备与网管传输、或者网管上下级之间传输时检测确保数据完整,或者保证IO数据管道读写互斥以确保数据完整。现有技术方案中,对于数据采集,尤其是对于跨粒度的数据采集如何保证数据完整,基本上没有涉及,亟待改进。
发明内容
有鉴于上述背景,本发明提供了一种性能数据的采集处理方法及装置,可以保证数据采集的完整性,并且提高数据采集效率。
为了解决上述技术问题,本发明采用了如下技术方案:
一种性能数据的采集处理方法,用于对分阶段进行的业务流程的跨粒度性能数据进行采集处理,包括如下步骤:
A、采集所述业务流程每一阶段的业务失败次数和最后阶段的业务成功次数;
B、根据前一阶段与后一阶段的数据关联逻辑,计算最后阶段之前各阶段的业务成功次数;
C、将所述业务流程各阶段的成功次数与失败次数,统一计入所述业务流程的最后阶段所处采集粒度的性能数据统计中。
其中,所述数据关联逻辑包括:前一阶段的业务成功次数=后一阶段的业务成功次数+后一阶段的业务失败次数。
根据本发明的一种实施例,所述业务流程包括接入业务流程。
在本发明的一种实施例中,所述方法还包括:采集所述业务流程每一阶段的业务成功次数。
在本发明的一种实施例中,所述方法还包括:对步骤C中得到的最后阶段所处采集粒度的性能数据进行上报保存。
在本发明的一种实施例中,所述方法还包括:对上报保存的所述性能数据进行二次分析。
本发明还公开了一种性能数据的采集处理装置,用于对分阶段进行的业务流程的跨粒度性能数据进行采集处理,包括:
业务数据累加模块,用于采集所述业务流程每一阶段的业务失败次数和最后阶段的业务成功次数;
业务数据调整模块,用于根据前一阶段与后一阶段的数据关联逻辑,计算最后阶段之前各阶段的业务成功次数;以及将所述业务流程各阶段的成功次数与失败次数,统一计入所述业务流程的最后阶段所处采集粒度的性能数据统计中。
本发明的有益效果在于:
1、对于一个业务流程的各个阶段,仅针对最后阶段采集业务成功次数和失败次数;而对于最后阶段之前的各个阶段,可以仅仅采集业务失败次数,因而可以减少性能数据采集量,提高数据采集效率。
2、利用业务流程前一阶段和后一阶段的数据关联逻辑,可以方便地计算得到最后阶段之前各阶段的成功次数。数据间关联性的有效利用,使得计算处理方式简便快捷。
3、将一个业务流程各阶段的性能统计数据,全部计入到业务流程结束时刻所处的采集粒度的性能数据统计中,可以保证数据采集的完整性,确保一个业务流程的数据仅包含在一个采集粒度中。
附图说明
图1示例性的描述了本发明的性能数据采集处理装置结构图;
图2示例性的描述了本发明的性能数据采集处理方法流程图。
具体实施方式
下面结合附图对本发明的具体实施方式做详细说明。
本发明,主要针对通讯系统管理中的性能数据采集处理。在通讯系统中,包含了多种多样的业务应用处理。在本文中,将一个业务的进行过程统称为业务流程。业务流程,可以在多用户、多设备中并发执行。为了监控业务流程,需要对其性能数据进行采集。性能数据,最主要的是指,业务流程的业务执行的成功次数和失败次数,这些业务成功次数和业务失败次数的统计,可以做为后续的业务流程性能分析的基础。在本发明中,业务阶段是指分阶段进行的业务流程,即该业务流程的执行,分为若干阶段,前一阶段的成功执行,是后一阶段执行的基础,也即只有成功执行了前一阶段的业务流程,后一阶段的业务流程才能得以执行。相应的,应当采集到业务流程每一阶段的业务成功次数和业务失败次数,以利于采集后的分析。
业务流程的性能数据采集,通常是分粒度进行,一个采集粒度,即一个时间片段,也就是说,每隔一定的时间间隔,则做一次性能数据采集。例如在一个采集过程中,前次采集发生在7:00,后次采集发生在7:30,则该采集粒度的时间间隔为半小时。鉴于业务流程的执行需要一定的时间,因而,可能发生业务流程的跨粒度采集,即一个业务流程持续期间中,包含多个采集时间点,尤其是业务流程分阶段进行,将会造成不同阶段分布在不同采集粒度中,这将给数据采集的完整性带来不利。本发明将对此种问题予以解决。
如图1所示,该图示例性的描述了本发明的一个数据采集处理装置,在本例中,数据采集处理装置包括:业务流程处理模块a、业务数据累加模块b、业务数据调整模块c、业务数据上报模块d、业务数据存储模块e、数据分析显示模块f。各模块的主要功能如下:
业务流程处理模块a:完成通讯系统中的各种业务功能,并在业务流程的关键点通知业务数据累加模块b进行性能数据统计。业务流程的关键点,一般指业务流程的成功点、失败点,或者信令交互点。
业务数据累加模块b:采集累加业务流程处理模块a上报的数据,保存在存储内存中。
业务数据调整模块c:根据数据的关联逻辑,对业务数据累加模块b形成的数据进行调整处理,保证业务数据的完整性、一致性。数据关联逻辑,主要指在分阶段进行的业务流程中,前一阶段的性能统计,与后一阶段的性能统计,遵循有一定的数据关联逻辑,这个数据关联逻辑是:前一阶段的成功次数=后一阶段的成功次数+后一阶段的失败次数。可以理解,由于业务流程的分阶段顺序执行,只有在业务流程中前一阶段成功执行基础上,后一阶段才能得以执行,因此,前一阶段的业务成功次数,应当是后一阶段的业务执行总数,也就是后一阶段的业务成功次数与业务失败次数之和。在此逻辑上,也必然有后一阶段的业务成功次数小于前一阶段的业务成功次数。以此数据关联逻辑,业务数据调整模块c将可以对业务流程的每一阶段的成功次数和失败次数进行调整处理。
业务数据上报模块d:定时将业务数据调整模块c调整好的完整数据上报给业务数据存储模块e存储。
业务数据存储模块e:对于接收到的业务数据进行保存,保存在数据库存储介质g中。其中,数据存储介质g用于存储数据的物理设备或是介质,可以是某种数据库或文件。
数据分析显示模块f:根据用户的需求,对保存好的数据进行统计显示,进行二次分析。
如图2所示,该图示例性的描述了本发明的采集处理流程,以移动通讯系统中的接入过程为例,该采集处理流程主要包括如下步骤:
步骤A:用户触发业务流程开始,业务流程处理模块a完成业务流程的整个过程,并在业务流程关键点通知业务数据累加模块b采集性能数据。
步骤B:业务数据累加模块b收到通知消息后,采集累加性能数据。可以在业务数据累加模块b中设置两个计数器,其中,成功次数计数器用来累加接入成功次数,失败次数计数器用来累加接入失败次数。
在本例中,首先对业务流程处理模块a通知的性能数据进行判断,如果判断是接入失败,则对失败次数计数器进行累加;如果是接入成功,则判断此次接入成功发生在哪一个业务阶段,如果是发生在此次业务流程的最后一个阶段,则对此业务流程的最后一个阶段的成功次数计数器进行累加;否则,如果此次业务成功发生在最后阶段之前的任一阶段,则业务数据累加模块不进行任何数据累加统计。
步骤C:采集定时器到来后(即一个采集粒度到达),业务数据调整模块c根据前述的数据关联逻辑,即前一阶段的成功次数=后一阶段的成功次数+后一阶段的失败次数,通过业务数据累加模块b采集到的业务流程每一阶段的业务失败次数和最后阶段的业务成功次数,计算得到最后阶段之前各阶段的业务成功次数;而后将业务流程各阶段的成功次数与失败次数,统一计入到业务流程的最后阶段所处采集粒度的性能数据统计中。
步骤D:调整完毕后,业务数据上报模块d将本粒度的性能数据上报给业务数据存储模块e进行保存;
步骤E:数据分析显示模块f,对保存好的数据进行统计显示,进行二次分析,将分析结果展示给用户。
对于接入成功次数采集,尽管可以仅采集最后阶段的成功次数,通过数据关联逻辑来获取最后阶段之前阶段的成功次数。但也可以对最后阶段之前的各阶段的成功次数分别予以采集,以便这些成功次数统计可以在某些场合中得以应用。在采集粒度到达后,可以根据数据关联逻辑进行判断,确认存储内存中已经累加好的性能数据是否完整,是否存在业务流程跨粒度而导致的异常数据。如前所述,根据数据关联逻辑,如果不满足后阶段的成功次数小于前阶段的成功次数,或者不满足后一阶段的成功次数+失败次数等于前一阶段的成功次数,则可以认为性能数据统计不完整,需要进行调整。根据后一阶段的成功失败次数,调整前一阶段的成功次数。从最后一个阶段开始调整,直至调整到开始第一阶段,使得各阶段的数据满足上述逻辑关系。
表1
时间 | 阶段1成功次数 | 阶段1失败次数 | 阶段2成功次数 | 阶段2失败次数 | 阶段3成功次数 | 阶段3失败次数 | 阶段4成功次数 | 阶段4失败次数 | |
调整前 | 7:00 | 2 | 0 | 2 | 0 | 2 | 0 | 0 | 0 |
调整后 | 7 :00 | 0 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |
调整前 | 7:30 | 10 | 5 | 7 | 3 | 5 | 2 | 4 | 3 |
调整后 | 7 :30 | 12 | 5 | 9 | 3 | 7 | 2 | 4 | 3 |
如上表1,在7:00这一采集粒度,采集到一个业务流程在前三个阶段都成功了两次,根据数据关联逻辑,阶段4的接入次数应该有两次,然而从表中7:00的调整前一栏中可以看到,阶段4的成功接入和失败接入次数都是0次,这是因为阶段4不同于前3个阶段发生于7:00这一粒度一样,其是发生在于7:30这一粒度,即该业务流程出现了跨粒度的情况。因此,为保证数据完整性,将该业务流程的性能数据都调整到后一粒度7:30上。从表1可以看到,在7:30的调整后一栏中,具有下划线标记的几个数据(阶段1、2、3的成功次数),相对于调整前增加了两次,即计入了两次跨粒度的接入。相应的,在7:00的调整后一栏中,具有下划线标记的几个数据(阶段1、2、3的成功次数),相对于调整前减少了两次。
对于这种跨粒度数据,前N个阶段在前一粒度,后M个阶段在后一粒度;经过调整后,这种跨粒度数据的所有阶段的数据最终都只上报到后一个粒度。前一个粒度的数据只包括业务流程结束点在前一粒度的情况。
本发明针对于周期性的性能数据采集,当一个业务流程的多个阶段跨采集粒度时,对上报的性能数据进行处理,保证业务流程各个阶段的数据保持一致,使得一个完整的业务流程上报的性能数据统计上报到一个采集粒度,保证数据的完整性,从而可以为后续的二次数据分析提供准确的基础数据。
本发明在采集时,针对业务流程的多个业务阶段,仅需采集最后阶段的成功次数和失败次数,而对于最后阶段之前的成功次数,可以不必采集。从模块设置上,如果设业务流程具有n个业务阶段,则其计数器设置只需n+1个,即n个计数器分别累加各个业务阶段的失败次数,另外一个计数器累加最后阶段的成功次数。相对于原有的每一业务阶段都需设置两个计数器,可以减少2n-(n+1)个计数器,从而可以节省模块设置;且采集的数据量也得到减少,从而提高了数据采集效率。
本发明通过数据固有的关联逻辑,得以方便地计算出最后阶段之前各阶段的成功次数,计算方法简便、快捷。
本发明将一个业务流程的性能数据统计全部放入到最后阶段所处采集粒度,例如,某一业务流程开始于6:20分,结束于7:20分。性能数据的采集粒度为30分钟,分别在6:30,7:00,7:30。以业务流程结束时间点计算,即该业务流程最后阶段所处的采集粒度在7:00这一采集粒度,故尽管该业务流程中经过了6:30这一采集粒度,该业务流程的性能数据还是被全部放入到其最后阶段所处采集粒度,也即7:00这一采集粒度中,从而保证了业务流程性能数据的完整性、一致性。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,但这只是为便于理解而举的实例,不应认为本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,可以做出各种可能的等同改变或替换,这些改变或替换都应属于本发明的保护范围。
Claims (10)
1.一种性能数据的采集处理方法,用于对分阶段进行的业务流程的跨粒度性能数据进行采集处理,其特征在于,包括如下步骤:
A、采集所述业务流程每一阶段的业务失败次数和最后阶段的业务成功次数;
B、根据前一阶段与后一阶段的数据关联逻辑,计算最后阶段之前各阶段的业务成功次数;
C、将所述业务流程各阶段的成功次数与失败次数,统一计入所述业务流程的最后阶段所处采集粒度的性能数据统计中。
2.如权利要求1所述的方法,其特征在于,所述数据关联逻辑包括:前一阶段的业务成功次数=后一阶段的业务成功次数+后一阶段的业务失败次数。
3.如权利要求1所述的方法,其特征在于,所述业务流程包括接入业务流程。
4.如权利要求1所述的方法,其特征在于,还包括:采集所述业务流程每一阶段的业务成功次数。
5.如权利要求1至4任一所述的方法,其特征在于,还包括:对步骤C中得到的最后阶段所处采集粒度的性能数据进行上报保存。
6.如权利要求5所述的方法,其特征在于,还包括:对上报保存的所述性能数据进行二次分析。
7.一种性能数据的采集处理装置,用于对分阶段进行的业务流程的跨粒度性能数据进行采集处理,其特征在于,包括:
业务数据累加模块,用于采集所述业务流程每一阶段的业务失败次数和最后阶段的业务成功次数;
业务数据调整模块,用于根据前一阶段与后一阶段的数据关联逻辑,计算最后阶段之前各阶段的业务成功次数;以及将所述业务流程各阶段的成功次数与失败次数,统一计入所述业务流程的最后阶段所处采集粒度的性能数据统计中。
8.如权利要求7所述的装置,其特征在于,所述数据关联逻辑包括:前一阶段的业务成功次数=后一阶段的业务成功次数+后一阶段的业务失败次数。
9.如权利要求7或8所述的装置,其特征在于,还包括:
业务数据上报模块,用于将从业务数据调整模块中得到的最后阶段所处采集粒度的性能数据进行上报;
业务数据存储模块,用于保存业务数据上报模块上报的所述性能数据。
10.如权利要求9所述的装置,其特征在于,还包括:数据分析显示模块,用于对业务数据存储模块存储的所述性能数据进行二次分析。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN200910109428.9A CN101631330B (zh) | 2009-08-17 | 2009-08-17 | 一种性能数据的采集处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN200910109428.9A CN101631330B (zh) | 2009-08-17 | 2009-08-17 | 一种性能数据的采集处理方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101631330A true CN101631330A (zh) | 2010-01-20 |
CN101631330B CN101631330B (zh) | 2014-08-13 |
Family
ID=41576221
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN200910109428.9A Expired - Fee Related CN101631330B (zh) | 2009-08-17 | 2009-08-17 | 一种性能数据的采集处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN101631330B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102571977A (zh) * | 2012-02-06 | 2012-07-11 | 大唐移动通信设备有限公司 | 传输cdl文件方法及装置、确定数据完备性方法及装置 |
CN105517007A (zh) * | 2015-12-03 | 2016-04-20 | 中国联合网络通信集团有限公司 | 一种数据核查的方法及装置 |
CN112016025A (zh) * | 2019-05-31 | 2020-12-01 | 北京易真学思教育科技有限公司 | 数据采集方法、装置及终端设备 |
CN112269721A (zh) * | 2020-10-14 | 2021-01-26 | 苏州浪潮智能科技有限公司 | 一种性能数据统计的方法、系统、设备及可读存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6493761B1 (en) * | 1995-12-20 | 2002-12-10 | Nb Networks | Systems and methods for data processing using a protocol parsing engine |
CN101114946A (zh) * | 2007-09-12 | 2008-01-30 | 中兴通讯股份有限公司 | 在电信网管系统中性能对象数据的采集方法 |
-
2009
- 2009-08-17 CN CN200910109428.9A patent/CN101631330B/zh not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6493761B1 (en) * | 1995-12-20 | 2002-12-10 | Nb Networks | Systems and methods for data processing using a protocol parsing engine |
CN101114946A (zh) * | 2007-09-12 | 2008-01-30 | 中兴通讯股份有限公司 | 在电信网管系统中性能对象数据的采集方法 |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102571977A (zh) * | 2012-02-06 | 2012-07-11 | 大唐移动通信设备有限公司 | 传输cdl文件方法及装置、确定数据完备性方法及装置 |
CN102571977B (zh) * | 2012-02-06 | 2015-02-04 | 大唐移动通信设备有限公司 | 传输cdl文件方法及装置、确定数据完备性方法及装置 |
CN105517007A (zh) * | 2015-12-03 | 2016-04-20 | 中国联合网络通信集团有限公司 | 一种数据核查的方法及装置 |
CN105517007B (zh) * | 2015-12-03 | 2018-11-09 | 中国联合网络通信集团有限公司 | 一种数据核查的方法及装置 |
CN112016025A (zh) * | 2019-05-31 | 2020-12-01 | 北京易真学思教育科技有限公司 | 数据采集方法、装置及终端设备 |
CN112016025B (zh) * | 2019-05-31 | 2022-02-18 | 北京易真学思教育科技有限公司 | 数据采集方法、装置及终端设备 |
CN112269721A (zh) * | 2020-10-14 | 2021-01-26 | 苏州浪潮智能科技有限公司 | 一种性能数据统计的方法、系统、设备及可读存储介质 |
CN112269721B (zh) * | 2020-10-14 | 2024-02-13 | 苏州浪潮智能科技有限公司 | 一种性能数据统计的方法、系统、设备及可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN101631330B (zh) | 2014-08-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101964997B (zh) | 网络性能预警方法及装置 | |
CN101267644B (zh) | 一种对监控数据的存储方法 | |
CN102404760B (zh) | 系统性能实时测量的方法及装置 | |
CN102402459B (zh) | 网管系统性能数据汇总的方法和装置 | |
CN101631330B (zh) | 一种性能数据的采集处理方法及装置 | |
CN103491165A (zh) | 自动检测屏蔽的通用分布式爬虫系统 | |
CN106992886A (zh) | 一种基于分布式存储的日志分析方法及装置 | |
CN101808351A (zh) | 业务影响分析方法和系统 | |
CN102668454B (zh) | 用于提供移动电信系统中的性能管理的方法和操作支持系统 | |
US20100329146A1 (en) | Flow information collection apparatus | |
CN117632897A (zh) | 动态扩缩容方法及装置 | |
CN104601374B (zh) | 用于数控机床的网络故障处理方法和装置 | |
CN101499935B (zh) | 一种WiMAX基站的告警处理方法 | |
CN101902342A (zh) | 一种电信计费营帐数据的采集方法和装置 | |
CN112751722B (zh) | 数据传输质量监控方法和系统 | |
CN102612058A (zh) | 一种性能指标统计结果确定方法及装置 | |
CN116600329A (zh) | 一种消息错误识别码定界方法及装置 | |
CN113676790B (zh) | 低压集抄设备的采集调度方法、装置、集中器和介质 | |
CN105610633A (zh) | 一种通信设备中实时性能自采样系统及方法 | |
CN100495980C (zh) | 一种性能统计数据收集方法 | |
CN110633270B (zh) | 一种基于优先级的多策略电表日冻结值自动替代方法和装置 | |
CN102104950B (zh) | 采集性能数据的管理方法及基站 | |
CN103812691A (zh) | 一种集群负载均衡系统的日志统计系统及方法 | |
CN114221851B (zh) | 一种故障分析方法及装置 | |
CN112749065A (zh) | 一种应用系统性能数据采集方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20140813 Termination date: 20170817 |
|
CF01 | Termination of patent right due to non-payment of annual fee |