CN111459782B - 监控业务系统的方法、装置、云平台系统和服务器 - Google Patents
监控业务系统的方法、装置、云平台系统和服务器 Download PDFInfo
- Publication number
- CN111459782B CN111459782B CN202010257122.4A CN202010257122A CN111459782B CN 111459782 B CN111459782 B CN 111459782B CN 202010257122 A CN202010257122 A CN 202010257122A CN 111459782 B CN111459782 B CN 111459782B
- Authority
- CN
- China
- Prior art keywords
- log
- service
- data
- format
- monitoring
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012544 monitoring process Methods 0.000 title claims abstract description 223
- 238000000034 method Methods 0.000 title claims abstract description 73
- 238000012545 processing Methods 0.000 claims abstract description 114
- 210000001503 joint Anatomy 0.000 claims abstract description 20
- 230000002159 abnormal effect Effects 0.000 claims description 11
- 230000003993 interaction Effects 0.000 claims description 9
- 238000006243 chemical reaction Methods 0.000 claims description 7
- 238000007405 data analysis Methods 0.000 claims description 7
- 238000011161 development Methods 0.000 abstract description 9
- 238000010586 diagram Methods 0.000 description 8
- 238000003032 molecular docking Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 4
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3466—Performance evaluation by tracing or monitoring
- G06F11/3476—Data logging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/32—Monitoring with visual or acoustical indication of the functioning of the machine
- G06F11/324—Display of status information
- G06F11/327—Alarm or error message display
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明提供了一种监控业务系统的方法、装置、云平台系统和服务器，其中，该方法中的大数据日志处理平台与业务系统间配置有日志上报通道，该大数据日志处理平台与业务监控系统对接，该方法包括：获取所述业务监控系统配置的监控信息；所述监控信息包括日志格式和业务指标；通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据；将所述日志数据转换为所述日志格式对应的目标日志数据；向所述业务监控系统上报所述目标日志数据，以使所述业务监控系统基于所述目标日志数据确定所述业务系统的运行状况。通过本发明，提升了业务监控系统的开发效率和稳定性。
Description
技术领域
本发明涉及监控领域，尤其涉及一种监控业务系统的方法、装置、云平台系统和服务器。
背景技术
各行各业基于业务需求，会搭建不同的业务系统实现各自的业务自动化、高效化运行。业务系统运行过程中有各种业务指标需要监控，比如web服务中的某个请求处理时长是否超时，游戏系统内某个技能释放参数是否非法，商城系统中并发请求的数量是否过高，支付系统中某笔交易的扣款是否存在异常等。
为了对业务系统进行监控，业务监控系统和监控系统对接，业务监控系统通过深入业务系统内部，和业务相关代码深度集成，从而监控该业务系统的运行过程是否有异常情况发生。
但是上述业务监控系统和业务系统对接的方式，需要了解业务系统代码，一旦业务系统更新，业务监控系统也需要更新，影响了业务监控系统的开发效率和稳定性。
发明内容
有鉴于此，本发明的目的在于提供一种监控业务系统的方法、装置、云平台系统和服务器，以提升了业务监控系统的开发效率和稳定性。
第一方面，本发明实施例提供了一种监控业务系统的方法，所述方法应用于大数据日志处理平台，所述大数据日志处理平台与业务系统间配置有日志上报通道，所述大数据日志处理平台与业务监控系统对接，所述方法包括：获取所述业务监控系统配置的监控信息；所述监控信息包括日志格式和业务指标；通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据；将所述日志数据转换为所述日志格式对应的目标日志数据；向所述业务监控系统上报所述目标日志数据，以使所述业务监控系统基于所述目标日志数据确定所述业务系统的运行状况。
结合第一方面，本发明实施例提供了第一方面的第一种可能的实施方式，其中，通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据的步骤，包括：通过所述日志上报通道向所述业务系统下发所述业务指标；通过所述日志上报通道接收所述业务系统上报的所述业务指标对应的日志数据。
结合第一方面，本发明实施例提供了第一方面的第二种可能的实施方式，其中，所述监控信息还包括所述业务指标对应的上报事件；通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据的步骤之后，所述方法还包括：判断所述日志数据是否满足所述上报事件，如果是，执行所述将所述日志数据转换为所述日志格式对应的目标日志数据的步骤。
结合第一方面的上述实施方式，本发明实施例提供了第一方面的第三种可能的实施方式，其中，所述方法还包括：通过所述日志上报通道向所述业务系统获取大数据日志；其中，所述大数据日志为所述大数据日志处理平台预先配置所述业务系统需要上报的日志；对所述大数据日志进行大数据分析。
第二方面，本发明实施例还提供一种监控业务系统的方法，所述方法应用于业务监控系统，所述业务监控系统对接于大数据日志处理平台，所述大数据日志处理平台与业务系统间配置有日志上报通道，所述方法包括：向所述大数据日志处理平台下发的监控信息；其中，所述监控信息包括日志格式和业务指标，以使所述大数据日志处理平台通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据，并将所述日志数据转换为所述日志格式对应的目标日志数据；接收所述大数据日志处理平台上报的所述目标日志数据；基于所述目标日志数据确定所述业务系统的运行状况。
结合第二方面，本发明实施例提供了第二方面的第一种可能的实施方式，其中，所述业务监控系统配置有用户交互界面；向所述大数据日志处理平台下发的监控信息的步骤，包括：响应针对于所述用户交互界面的配置操作，基于所述配置操作生成监控信息；将所述监控信息下发给所述大数据日志处理平台。
结合第二方面，本发明实施例提供了第二方面的第二种可能的实施方式，其中，基于所述目标日志数据确定所述业务系统的运行状况的步骤，包括：对所述目标日志数据进行报警判断，得到所述业务系统的运行状况是否异常；如果所述运行状况异常，发送报警信息。
第三方面，本发明实施例还提供一种监控业务系统的装置，所述装置应用于大数据日志处理平台，所述大数据日志处理平台与业务系统间配置有日志上报通道，所述大数据日志处理平台与业务监控系统对接，所述装置包括：监控信息获取模块，用于获取所述业务监控系统配置的监控信息；所述监控信息包括日志格式和业务指标；日志数据获取模块，用于通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据；日志格式转换模块，用于将所述日志数据转换为所述日志格式对应的目标日志数据；日志数据上报模块，用于向所述业务监控系统上报所述目标日志数据，以使所述业务监控系统基于所述目标日志数据确定所述业务系统的运行状况。
第四方面，本发明实施例还提供一种监控业务系统的装置，所述装置应用于业务监控系统，所述业务监控系统对接于大数据日志处理平台，所述大数据日志处理平台与业务系统间配置有日志上报通道，所述装置包括：监控信息下发模块，用于向所述大数据日志处理平台下发的监控信息；其中，所述监控信息包括日志格式和业务指标，以使所述大数据日志处理平台通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据，并将所述日志数据转换为所述日志格式对应的目标日志数据；日志数据接收模块，用于接收所述大数据日志处理平台上报的所述目标日志数据；运行状况确定模块，用于基于所述目标日志数据确定所述业务系统的运行状况。
第五方面，本发明实施例还提供一种云平台系统，所述系统包括：大数据日志处理平台和业务监控系统，所述大数据日志处理平台与业务系统间配置有日志上报通道，所述大数据日志处理平台与业务监控系统对接；所述业务监控系统用于向所述大数据日志处理平台下发监控信息；其中，所述监控信息包括日志格式和业务指标；所述数据日志处理平台用于通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据，将所述日志数据转换为所述日志格式对应的目标日志数据，向所述业务监控系统上报所述目标日志数据；所述业务监控系统还用于基于所述目标日志数据确定所述业务系统的运行状况。
第六方面，本发明实施例还提供一种服务器，所述服务器包括处理器和存储器，所述存储器存储有能够被所述处理器执行的计算机可执行指令，所述处理器执行所述计算机可执行指令以实现第一方面所述的监控业务系统的方法，或者，实现第二方面所述的监控业务系统的方法。
第七方面，本发明实施例还提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令在被处理器调用和执行时，计算机可执行指令促使处理器实现第一方面所述的监控业务系统的方法，或者，实现第二方面所述的监控业务系统的方法。
上述一种监控业务系统的方法、装置、云平台系统和服务器，基于大数据日志处理平台与业务系统间的日志上报通道，获取业务指标对应的日志数据，对该日志数据进行格式转换得到目标日志数据，业务监控系统基于目标日志数据实现对业务系统的运行状况监控。这种方式业务监控系统无需针对各个业务系统单独开发对接代码，业务监控系统仅需要与大数据日志处理平台对接即可得到需要监控的业务系统的日志数据，进而完成对该业务系统的监控。这种方式简化了业务监控系统的监控方式，避免了业务监控系统与各个业务系统的直接对接，有效提升了系统的开发效率和稳定性。
本发明的其他特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
为使本发明的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施方式，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的云平台系统的结构示意图；
图2为本发明实施例提供的一种监控业务系统的方法流程图；
图3为本发明实施例提供的另一种监控业务系统的方法流程图；
图4为本发明实施例提供的一种监控业务系统的装置结构示意图；
图5为本发明实施例提供的另一种监控业务系统的装置结构示意图；
图6为本发明实施例提供的服务器结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合附图对本发明的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
考虑到业务监控系统和业务系统直接对接的方式，影响系统的开发效率和稳定性，且现有大数据日志处理平台与各个业务系统间有日志上传通道，本发明实施例提供的一种监控业务系统的方法、装置、云平台系统和服务器，可以利用大数据日志处理平台与业务系统间已有的日志上报通道，获取用于监控业务系统运行状况方面的日志数据，基于该日志数据监控业务系统的运行状况，简化了业务监控系统的监控方式，避免了业务监控系统与业务系统的直接对接，有效提升了系统的开发效率和稳定性。
参见图1所示的一种云平台系统的结构示意图，该系统包括：大数据日志处理平台10和业务监控系统20，大数据日志处理平台10与业务系统(图示中以业务系统31、业务系统32和业务系统33为例进行说明)间配置有日志上报通道，大数据日志处理平台10与业务监控系统20对接，具体监控功能可以参考如下方式实现：
(1)业务监控系统20用于向大数据日志处理平台10下发监控信息；其中，该监控信息包括日志格式和业务指标；
上述监控信息可以由用户基于业务系统的监控需求提前配置，当启动对该业务系统的监控时，则由业务监控系统20将配置好的监控信息下发给大数据日志处理平台10，大数据日志处理平台可以保存这些监控信息。
上述日志格式可以是一个固定的格式，该日志格式中可以包括与业务系统标识、时间信息、业务指标对应的日志数据等信息对应的字段。或者也可以基于不同的业务系统配置多个日志格式，日志格式间以设定的格式标识区分，本发明实施例对此不做限定。
上述业务指标可以基于需要监控的业务系统配置，不同的业务系统对应的业务指标可以不同，具体实现时，可以以业务系统的标识为索引存储该业务系统对应的业务指标，以便后续查找与应用。
(2)大数据日志处理平台10用于通过日志上报通道从业务系统获取上述业务指标对应的日志数据，将该日志数据转换为上述日志格式对应的目标日志数据，向业务监控系统20上报目标日志数据；
当有多个业务系统需要监控时，大数据日志处理平台10可以基于接收到的监控信息确定出对应的业务系统，分别向确定出的业务系统获取其业务指标对应的日志数据。
上述大数据日志处理平台10还具有大数据分析与处理功能，其上可以配置与业务系统对接的元数据管理系统和Kafka集群；元数据管理系统为大数据日志处理平台中用于管理数据格式的子系统；Kafka集群为开源消息队列，用于大数据日志处理平台中的日志数据收集；
(3)业务监控系统20还用于基于目标日志数据确定上述业务系统的运行状况。
上述云平台系统，基于大数据日志处理平台与业务系统间已有的日志上报通道，获取用于监控业务系统运行状况方面的日志数据，并将该日志数据转换为业务监控系统下发的日志格式得到目标日志数据，以使业务监控系统能够得到统一日志格式的目标日志数据，通过解析该目标日志数据，实现对业务系统的运行状况监控。这种方式有效利用了大数据日志处理平台与业务系统间已有的日志上报通道，业务监控系统无需针对各个业务系统单独开发对接代码，业务监控系统仅需要与大数据日志处理平台对接即可得到需要监控的业务系统的日志数据，进而完成对该业务系统的监控。这种方式简化了业务监控系统的监控方式，避免了业务监控系统与业务系统的直接对接，有效提升了系统的开发效率和稳定性。
基于上述云平台系统，本发明提供了一种监控业务系统的方法，该方法应用于大数据日志处理平台，该大数据日志处理平台与业务系统间配置有日志上报通道，该大数据日志处理平台与业务监控系统对接，参见图2所示的一种监控业务系统的方法流程图，该方法包括以下步骤：
步骤S202，获取业务监控系统配置的监控信息；该监控信息包括日志格式和业务指标。
其中，该监控信息可以是业务监控系统预先配置下发的，也可以当前配置下发的，例如，可以通过大数据日志处理平台与业务监控系统的对接接口接收到该监控信息，也可以从存储区中查找到业务监控系统预先配置下发的监控信息。
本实施例的日志格式和业务指标与上述云平台系统中的类似，这里不再赘述。
步骤S204，通过日志上报通道从业务系统获取上述业务指标对应的日志数据。
日志上报通道可以是日志采集器，例如：filebeat，Filebeat是一个日志文件托运工具，filebeat会监控日志目录或者指定的日志文件，追踪读取这些文件(追踪文件的变化)，并且转发这些信息到文件或存储区中存放。
为了有针对性地获取日志数据，本实施例仅获取对监控业务系统起作用的日志数据，也即上述业务指标对应的日志数据。
步骤S206，将日志数据转换为上述日志格式对应的目标日志数据；
各个业务系统预先在大数据日志处理平台上已注册有该业务系统使用的日志格式，为了表述清楚，将各个业务系统的日志格式称为原日志格式，上述日志数据即为对应业务系统的原日志格式。
为了使业务监控系统能够对各个业务系统的日志数据进行快速解析，本实施例中的大数据日志处理平台会对上述日志数据进行格式转换，转换为目标日志数据。目标日志数据的格式为监控信息中指示的日志格式。
步骤S208，向业务监控系统上报目标日志数据，以使业务监控系统基于目标日志数据确定业务系统的运行状况。
上述监控业务系统的方法，基于大数据日志处理平台与业务系统间已有的日志上报通道，获取业务指标对应的日志数据，对该日志数据进行格式转换得到目标日志数据，业务监控系统基于目标日志数据实现对业务系统的运行状况监控。这种方式有效利用了大数据日志处理平台与业务系统间已有的日志上报通道，业务监控系统无需针对各个业务系统单独开发对接代码，业务监控系统仅需要与大数据日志处理平台对接即可得到需要监控的业务系统的日志数据，进而完成对该业务系统的监控。这种方式简化了业务监控系统的监控方式，避免了业务监控系统与业务系统的直接对接，有效提升了系统的开发效率和稳定性。
另外，上述在大数据日志处理平台统一日志格式的处理方式，可以使业务监控系统与大数据日志处理平台间的对接简化，所有业务系统对应的日志数据均采用通用的对接方式传给业务监控系统，有效提高业务监控系统的开发与维护成本。
上述通过日志上报通道从业务系统获取业务指标对应的日志数据的步骤，可以包括：(1)通过日志上报通道向业务系统下发业务指标；(2)通过日志上报通道接收业务系统上报的上述业务指标对应的日志数据。
考虑到业务系统众多，需要监控的业务指标也比较多，如果将业务指标对应的所有日志数据都发送给业务监控系统处理，业务监控系统的负荷会比较重，基于此，本发明实施例的上述监控信息还包括业务指标对应的上报事件；该上报事件用于表征该业务指标对应的日志数据需要满足的上报条件，只有满足该上报条件时，才需要将该日志数据上报给业务监控系统。基于此，上述通过日志上报通道从业务系统获取业务指标对应的日志数据的步骤之后，上述方法还包括：判断上述日志数据是否满足该上报事件，如果是，执行将该日志数据转换为日志格式对应的目标日志数据的步骤。如果否，则不需要对该日志数据进行转换，以及后面的上报流程，可以丢弃该日志数据或者存储该日志数据。
上述大数据日志处理平台还包含了一套完整的日志收集、存储、解析的解决方案，基于此，上述方法还包括：通过日志上报通道向业务系统获取大数据日志；对大数据日志进行大数据分析；其中，大数据日志为大数据日志处理平台预先配置业务系统需要上报的日志。这种方式下，大数据日志处理平台除了作为业务监控系统与业务系统间的桥梁功能外，还具有大数据分析与处理功能，提升了平台的利用率。
基于上述云平台系统，本发明提供了一种监控业务系统的方法，该方法应用于业务监控系统，该业务监控系统对接于大数据日志处理平台，大数据日志处理平台与业务系统间配置有日志上报通道，参见图3所示的监控业务系统的方法流程图，该方法包括以下步骤：
步骤S302，向大数据日志处理平台下发的监控信息；其中，该监控信息包括日志格式和业务指标，以使大数据日志处理平台通过日志上报通道从业务系统获取业务指标对应的日志数据，并将日志数据转换为日志格式对应的目标日志数据；
步骤S304，接收大数据日志处理平台上报的目标日志数据；
步骤S306，基于目标日志数据确定业务系统的运行状况。
上述监控业务系统的方法中，业务监控系统通过对接于大数据日志处理平台，能够基于大数据日志处理平台与业务系统间已有的日志上报通道，获取到相关日志数据，并通过该日志数据对业务系统的运行状况进行监控，业务监控系统无需针对各个业务系统单独开发对接代码，仅需要与大数据日志处理平台对接即可得到需要监控的业务系统的日志数据，进而完成对该业务系统的监控。这种方式简化了业务监控系统的监控方式，避免了业务监控系统与业务系统的直接对接，有效提升了系统的开发效率和稳定性。
上述业务监控系统配置有用户交互界面；相应地，向大数据日志处理平台下发的监控信息的步骤，包括：响应针对于用户交互界面的配置操作，基于配置操作生成监控信息；将监控信息下发给大数据日志处理平台。这种通过用户交互界面配置监控信息的方式，能够比较灵活地根据实际需要下发监控信息，使监控信息更合理，保障了监控的可靠性。
用户可以在业务监控系统上创建告警规则和告警通知组，触发业务监控系统报警时，将业务相关指标值通知给用户。基于此，上述基于目标日志数据确定业务系统的运行状况的步骤可以包括：对目标日志数据进行报警判断，得到业务系统的运行状况是否异常；如果运行状况异常，发送报警信息。在业务监控系统上，可以预先配报警判定程序，对目标日志数据进行相关判定流程，当判定结果为业务系统的运行状况异常时，则触发报警事件，例如：以短信、邮件或微信等方式发送报警信息，该报警信息中可以包含业务相关指标值。
对应于上述图2所示的方法，本发明实施例还提供了一种监控业务系统的装置，该装置应用于大数据日志处理平台，该大数据日志处理平台与业务系统间配置有日志上报通道，大数据日志处理平台与业务监控系统对接，参见图4所示的监控业务系统的装置结构示意图，该装置包括以下模块：
监控信息获取模块42，用于获取业务监控系统配置的监控信息；监控信息包括日志格式和业务指标；
日志数据获取模块44，用于通过日志上报通道从业务系统获取业务指标对应的日志数据；
日志格式转换模块46，用于将日志数据转换为日志格式对应的目标日志数据；
日志数据上报模块48，用于向业务监控系统上报目标日志数据，以使业务监控系统基于目标日志数据确定业务系统的运行状况。
其中，日志数据获取模块44还用于：通过所述日志上报通道向所述业务系统下发所述业务指标；通过所述日志上报通道接收所述业务系统上报的所述业务指标对应的日志数据。
上述监控信息还包括所述业务指标对应的上报事件；日志数据获取模块44通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据的步骤之后，还包括：判断所述日志数据是否满足所述上报事件，如果是，触发日志格式转换模块46将所述日志数据转换为所述日志格式对应的目标日志数据，如果否，则不触发日志格式转换模块46。
上述装置还包括：大数据分析模块，用于通过所述日志上报通道向所述业务系统获取大数据日志；其中，所述大数据日志为所述大数据日志处理平台预先配置所述业务系统需要上报的日志；对所述大数据日志进行大数据分析。
对应于图3所示的方法，本发明实施例还提供了另一种监控业务系统的装置，该装置应用于业务监控系统，业务监控系统对接于大数据日志处理平台，大数据日志处理平台与业务系统间配置有日志上报通道，参见图5所示的监控业务系统的装置结构示意图，该装置包括以下模块：
监控信息下发模块52，用于向大数据日志处理平台下发的监控信息；其中，监控信息包括日志格式和业务指标，以使大数据日志处理平台通过日志上报通道从业务系统获取业务指标对应的日志数据，并将日志数据转换为日志格式对应的目标日志数据；
日志数据接收模块54，用于接收大数据日志处理平台上报的目标日志数据；
运行状况确定模块56，用于基于目标日志数据确定业务系统的运行状况。
上述业务监控系统配置有用户交互界面；相应地，监控信息下发模块52还用于：响应针对于所述用户交互界面的配置操作，基于所述配置操作生成监控信息；将所述监控信息下发给所述大数据日志处理平台。
运行状况确定模块56还用于：对所述目标日志数据进行报警判断，得到所述业务系统的运行状况是否异常；如果所述运行状况异常，发送报警信息。
对应于上述实施例，本发明实施例还提供了一种服务器，参见图6所示的服务器的结构示意图，该服务器包括存储器60和处理器61，存储器60存储有能够被处理器61执行的计算机可执行指令，处理器61执行计算机可执行指令以实现上述监控业务系统的方法。
在图6示出的实施方式中，该服务器还包括总线62和通信接口63，其中，处理器61、通信接口63和存储器60通过总线62连接。
其中，存储器60可能包含高速随机存取存储器(RAM，Random Access Memory)，也可能还包括非不稳定的存储器(non-volatile memory)，例如至少一个磁盘存储器。通过至少一个通信接口63(可以是有线或者无线)实现该系统网元与至少一个其他网元之间的通信连接，可以使用互联网，广域网，本地网，城域网等。总线62可以是ISA(IndustryStandard Architecture，工业标准体系结构)总线、PCI(Peripheral ComponentInterconnect，外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture，扩展工业标准结构)总线等。所述总线62可以分为地址总线、数据总线、控制总线等。为便于表示，图6中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。
处理器61可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器61中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器61可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(Digital SignalProcessor，简称DSP)、专用集成电路(Application Specific Integrated Circuit，简称ASIC)、现场可编程门阵列(Field-Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器61读取存储器中的信息，结合其硬件完成前述实施例方法中的步骤。
对应于上述实施例，本发明实施例还提供了一种计算机可读存储介质，计算机可读存储介质存储有计算机可执行指令，计算机可执行指令在被处理器调用和执行时，计算机可执行指令促使处理器实现上述监控业务系统的方法。
本发明实施例所提供的计算机程序产品，包括存储了程序代码的计算机可读存储介质，所述程序代码包括的指令可用于执行前面方法实施例中所述的方法，具体实现可参见方法实施例，在此不再赘述。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的装置和服务器的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
另外，在本发明实施例的描述中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域技术人员而言，可以具体情况理解上述术语在本发明中的具体含义。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是：以上实施例，仅为本发明的具体实施方式，用以说明本发明的技术方案，而非对其限制，本发明的保护范围并不局限于此，尽管参照前述实施例对本发明进行了详细的说明，本领域技术人员应当理解：任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。
Claims (11)
1.一种监控业务系统的方法，其特征在于，所述方法应用于大数据日志处理平台，所述大数据日志处理平台与业务系统间配置有日志上报通道，所述大数据日志处理平台与业务监控系统对接，所述大数据日志处理平台上配置有用于管理数据格式的元数据管理系统和用于收集日志数据的Kafka集群，所述方法包括：
获取所述业务监控系统配置的监控信息；所述监控信息包括日志格式和业务指标以及所述业务指标对应的上报事件；其中，所述日志格式用于对日志数据的格式进行统一，所述日志格式与业务系统标识和业务指标对应，所述业务指标是基于需要监控的业务系统配置且以业务系统的标识为索引存储的，所述上报事件用于表征所述业务指标对应的日志数据需要满足的上报条件；
通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据；
判断所述日志数据是否满足所述上报事件，如果是，则将所述日志数据转换为所述日志格式对应的目标日志数据；其中，所述目标日志数据的格式为监控信息中指示的日志格式；
向所述业务监控系统上报所述目标日志数据，以使所述业务监控系统基于所述目标日志数据确定所述业务系统的运行状况。
2.根据权利要求1所述的方法，其特征在于，通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据的步骤，包括：
通过所述日志上报通道向所述业务系统下发所述业务指标；
通过所述日志上报通道接收所述业务系统上报的所述业务指标对应的日志数据。
3.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：
通过所述日志上报通道向所述业务系统获取大数据日志；其中，所述大数据日志为所述大数据日志处理平台预先配置所述业务系统需要上报的日志；
对所述大数据日志进行大数据分析。
4.一种监控业务系统的方法，其特征在于，所述方法应用于业务监控系统，所述业务监控系统对接于大数据日志处理平台，所述大数据日志处理平台与业务系统间配置有日志上报通道，所述大数据日志处理平台上配置有用于管理数据格式的元数据管理系统和用于收集日志数据的Kafka集群，所述方法包括：
向所述大数据日志处理平台下发的监控信息；其中，所述监控信息包括日志格式和业务指标以及所述业务指标对应的上报事件，以使所述大数据日志处理平台通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据，并判断所述日志数据是否满足所述上报事件，如果是，则将所述日志数据转换为所述日志格式对应的目标日志数据；其中，所述日志格式用于对日志数据的格式进行统一，所述日志格式与业务系统标识和业务指标对应，所述业务指标是基于需要监控的业务系统配置且以业务系统的标识为索引存储的，所述上报事件用于表征所述业务指标对应的日志数据需要满足的上报条件，所述目标日志数据的格式为监控信息中指示的日志格式；
接收所述大数据日志处理平台上报的所述目标日志数据；
基于所述目标日志数据确定所述业务系统的运行状况。
5.根据权利要求4所述的方法，其特征在于，所述业务监控系统配置有用户交互界面；
向所述大数据日志处理平台下发的监控信息的步骤，包括：
响应针对于所述用户交互界面的配置操作，基于所述配置操作生成监控信息；
将所述监控信息下发给所述大数据日志处理平台。
6.根据权利要求4所述的方法，其特征在于，基于所述目标日志数据确定所述业务系统的运行状况的步骤，包括：
对所述目标日志数据进行报警判断，得到所述业务系统的运行状况是否异常；
如果所述运行状况异常，发送报警信息。
7.一种监控业务系统的装置，其特征在于，所述装置应用于大数据日志处理平台，所述大数据日志处理平台与业务系统间配置有日志上报通道，所述大数据日志处理平台与业务监控系统对接，所述大数据日志处理平台上配置有用于管理数据格式的元数据管理系统和用于收集日志数据的Kafka集群，所述装置包括：
监控信息获取模块，用于获取所述业务监控系统配置的监控信息；所述监控信息包括日志格式和业务指标以及所述业务指标对应的上报事件；其中，所述日志格式用于对日志数据的格式进行统一，所述日志格式与业务系统标识和业务指标对应，所述业务指标是基于需要监控的业务系统配置且以业务系统的标识为索引存储的，所述上报事件用于表征所述业务指标对应的日志数据需要满足的上报条件；
日志数据获取模块，用于通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据；
日志格式转换模块，用于在判断所述日志数据满足所述上报事件时将所述日志数据转换为所述日志格式对应的目标日志数据；
日志数据上报模块，用于向所述业务监控系统上报所述目标日志数据，以使所述业务监控系统基于所述目标日志数据确定所述业务系统的运行状况；
所述装置还用于判断所述日志数据是否满足所述上报事件。
8.一种监控业务系统的装置，其特征在于，所述装置应用于业务监控系统，所述业务监控系统对接于大数据日志处理平台，所述大数据日志处理平台与业务系统间配置有日志上报通道，所述大数据日志处理平台上配置有用于管理数据格式的元数据管理系统和用于收集日志数据的Kafka集群，所述装置包括：
监控信息下发模块，用于向所述大数据日志处理平台下发的监控信息；其中，所述监控信息包括日志格式和业务指标以及所述业务指标对应的上报事件，以使所述大数据日志处理平台通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据，并判断所述日志数据是否满足所述上报事件，如果是，则将所述日志数据转换为所述日志格式对应的目标日志数据；其中，所述日志格式用于对日志数据的格式进行统一，所述日志格式与业务系统标识和业务指标对应，所述业务指标是基于需要监控的业务系统配置且以业务系统的标识为索引存储的，所述上报事件用于表征所述业务指标对应的日志数据需要满足的上报条件，所述目标日志数据的格式为监控信息中指示的日志格式；
日志数据接收模块，用于接收所述大数据日志处理平台上报的所述目标日志数据；
运行状况确定模块，用于基于所述目标日志数据确定所述业务系统的运行状况。
9.一种云平台系统，其特征在于，所述系统包括：大数据日志处理平台和业务监控系统，所述大数据日志处理平台与业务系统间配置有日志上报通道，所述大数据日志处理平台与业务监控系统对接，所述大数据日志处理平台上配置有用于管理数据格式的元数据管理系统和用于收集日志数据的Kafka集群；
所述业务监控系统用于向所述大数据日志处理平台下发监控信息；其中，所述监控信息包括日志格式和业务指标以及所述业务指标对应的上报事件；其中，所述日志格式用于对日志数据的格式进行统一，所述日志格式与业务系统标识和业务指标对应，所述业务指标是基于需要监控的业务系统配置且以业务系统的标识为索引存储的，所述上报事件用于表征所述业务指标对应的日志数据需要满足的上报条件；
所述数据日志处理平台用于通过所述日志上报通道从所述业务系统获取所述业务指标对应的日志数据，判断所述日志数据是否满足所述上报事件，如果是，则将所述日志数据转换为所述日志格式对应的目标日志数据，向所述业务监控系统上报所述目标日志数据；其中，所述目标日志数据的格式为监控信息中指示的日志格式；
所述业务监控系统还用于基于所述目标日志数据确定所述业务系统的运行状况。
10.一种服务器，其特征在于，所述服务器包括处理器和存储器，所述存储器存储有能够被所述处理器执行的计算机可执行指令，所述处理器执行所述计算机可执行指令以实现权利要求1至3任一项所述的监控业务系统的方法，或者，实现权利要求4至6任一项所述的监控业务系统的方法。
11.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机可执行指令，所述计算机可执行指令在被处理器调用和执行时，计算机可执行指令促使处理器实现权利要求1至3任一项所述的监控业务系统的方法，或者，实现权利要求4至6任一项所述的监控业务系统的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010257122.4A CN111459782B (zh) | 2020-04-02 | 2020-04-02 | 监控业务系统的方法、装置、云平台系统和服务器 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010257122.4A CN111459782B (zh) | 2020-04-02 | 2020-04-02 | 监控业务系统的方法、装置、云平台系统和服务器 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111459782A CN111459782A (zh) | 2020-07-28 |
| CN111459782B true CN111459782B (zh) | 2024-04-12 |
Family
ID=71682491
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010257122.4A Active CN111459782B (zh) | 2020-04-02 | 2020-04-02 | 监控业务系统的方法、装置、云平台系统和服务器 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111459782B (zh) |
Families Citing this family (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111953551B (zh) * | 2020-08-27 | 2023-05-16 | 网易（杭州）网络有限公司 | 日志数据的传输方法、装置、电子设备及存储介质 |
| CN112835766A (zh) * | 2021-02-10 | 2021-05-25 | 杭州橙鹰数据技术有限公司 | 应用监控方法及装置 |
| CN113055490B (zh) * | 2021-03-24 | 2022-10-11 | 杭州群核信息技术有限公司 | 数据的存储方法及装置 |
| CN113138896A (zh) * | 2021-04-25 | 2021-07-20 | 中国工商银行股份有限公司 | 一种应用运行情况的监控方法、装置和设备 |
| CN113608969A (zh) * | 2021-08-25 | 2021-11-05 | 中国银行股份有限公司 | 业务系统运行监控系统及方法 |
| CN116662122A (zh) * | 2023-06-06 | 2023-08-29 | 长春师范大学 | 一种基于业务监控的监控方法、系统、设备及介质 |
| CN116582406B (zh) * | 2023-07-13 | 2023-09-26 | 支付宝(杭州)信息技术有限公司 | 监控数据的上传方法及装置 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109144817A (zh) * | 2018-08-03 | 2019-01-04 | 江苏满运软件科技有限公司 | 一种日志数据监控系统及方法 |
| CN109818787A (zh) * | 2019-01-21 | 2019-05-28 | 苏州科达科技股份有限公司 | 业务异常检测方法、装置及存储介质 |
| CN110321273A (zh) * | 2019-07-09 | 2019-10-11 | 政采云有限公司 | 一种业务统计方法及装置 |
-
2020
- 2020-04-02 CN CN202010257122.4A patent/CN111459782B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109144817A (zh) * | 2018-08-03 | 2019-01-04 | 江苏满运软件科技有限公司 | 一种日志数据监控系统及方法 |
| CN109818787A (zh) * | 2019-01-21 | 2019-05-28 | 苏州科达科技股份有限公司 | 业务异常检测方法、装置及存储介质 |
| CN110321273A (zh) * | 2019-07-09 | 2019-10-11 | 政采云有限公司 | 一种业务统计方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111459782A (zh) | 2020-07-28 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111459782B (zh) | 监控业务系统的方法、装置、云平台系统和服务器 | |
| CN107729210B (zh) | 分布式服务集群的异常诊断方法和装置 | |
| CN110309030A (zh) | 基于ELK和Zabbix的日志分析监控系统和方法 | |
| CN110888783A (zh) | 微服务系统的监测方法、装置以及电子设备 | |
| CN112311617A (zh) | 一种配置化数据监控告警方法及系统 | |
| CN111881011A (zh) | 日志管理方法、平台、服务器及存储介质 | |
| CN111274094B (zh) | 接口预警方法、系统、设备及存储介质 | |
| CN113783931B (zh) | 一种物联网数据聚合、分析方法 | |
| CN111866016A (zh) | 日志的分析方法及系统 | |
| CN109995555B (zh) | 监控方法、装置、设备及介质 | |
| CN113176978A (zh) | 基于日志文件的监控方法、系统、设备及可读存储介质 | |
| CN110806960B (zh) | 信息处理方法、装置及终端设备 | |
| CN111046011A (zh) | 日志收集方法、系统、节点、电子设备及可读存储介质 | |
| JP2014102661A (ja) | 適用判定プログラム、障害検出装置および適用判定方法 | |
| CN110677304A (zh) | 一种分布式问题追踪系统及设备 | |
| US8949669B1 (en) | Error detection, correction and triage of a storage array errors | |
| JP2015225473A (ja) | 車載情報システム及びその情報処理方法 | |
| KR100984282B1 (ko) | 메모리캐쉬를 이용한 통합보안관리시스템 | |
| CN110011845B (zh) | 日志采集方法及系统 | |
| CN110287049B (zh) | 数据处理方法、装置和存储介质 | |
| CN115883330B (zh) | 告警事件处理方法、系统、设备及存储介质 | |
| CN112306871A (zh) | 数据处理方法、装置、设备及存储介质 | |
| JP2017199250A (ja) | 計算機システム、データの分析方法、及び計算機 | |
| CN108829563B (zh) | 一种告警方法和告警装置 | |
| CN112416874A (zh) | 一种监控数据采集方法、系统、设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |