CN109144817A - 一种日志数据监控系统及方法 - Google Patents
一种日志数据监控系统及方法 Download PDFInfo
- Publication number
- CN109144817A CN109144817A CN201810879515.1A CN201810879515A CN109144817A CN 109144817 A CN109144817 A CN 109144817A CN 201810879515 A CN201810879515 A CN 201810879515A CN 109144817 A CN109144817 A CN 109144817A
- Authority
- CN
- China
- Prior art keywords
- data
- information
- module
- target
- daily record
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/302—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a software system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3051—Monitoring arrangements for monitoring the configuration of the computing system or of the computing system component, e.g. monitoring the presence of processing resources, peripherals, I/O links, software programs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/32—Monitoring with visual or acoustical indication of the functioning of the machine
- G06F11/324—Display of status information
- G06F11/327—Alarm or error message display
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3452—Performance evaluation by statistical analysis
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- Computing Systems (AREA)
- Computer Hardware Design (AREA)
- Probability & Statistics with Applications (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种日志数据监控系统,包括:数据收集模块,用于收集各移动终端上报的各日志信息;数据处理模块,用于对收集的各日志信息进行筛选处理,获取目标日志信息;并对所有目标日志信息进行分析和统计,获取目标数据;数据预警模块,用于判断目标数据是否符合预设的预警条件,若符合则进行相应的预警提醒。较佳的,该系统还包括:降级判断模块,用于当判定目标数据符合预设的预警条件时,判断当前是否已设定自动业务降级处理;降级触发模块,用于当判定当前已设定自动业务降级处理时,向业务降级系统发出业务降级指令。通过本发明可以尽早发现移动终端App的错误,发出预警信息给或者自动触发页面降级,从而降低对用户的影响。
Description
技术领域
本发明涉及数据监控处理领域,尤其涉及一种日志数据监控系统及方法。
背景技术
随着网络技术的发展,用户日常使用中也越来越离不开移动终端。比如用户可以通过移动终端的各类APP实现智能家居的控制,或者通过操控相应APP满足购物、社交、娱乐等等需求。然而现有的技术无法实时监测在用户手中的手持设备的问题,一旦在APP使用中出现错误,则需要等待用户的反馈。用户反馈后还需要跟用户沟通、开发人员复现出该问题才可以找到解决的对策。很多时候无法模拟用户的手持设备的数据无法复现出用户的问题。如此,则很难及时发现各设备出现的常见问题,开发人员也无法及时获悉到问题情况,更无法及时提供相应的应对措施,久而久之,大大影响了用户的体验度。
发明内容
为了克服上述技术缺陷,本发明提供一种日志数据监控系统及方法,具体的,本发明的技术方案如下:
一方面,本发明公开了一种日志数据监控系统,包括:数据收集模块,用于收集各移动终端上报的各日志信息;数据处理模块,用于对收集的各日志信息进行筛选处理,获取目标日志信息;并对所有目标日志信息进行分析和统计,获取目标数据;数据预警模块,用于判断所述目标数据是否符合预设的预警条件,并在所述目标数据符合所述预设的预警条件时进行相应的预警提醒。
优选地,所述日志数据监控系统还包括:降级判断模块,用于当所述数据预警模块判定所述目标数据符合所述预设的预警条件时,进一步判断当前是否已设定自动业务降级处理;降级触发模块,用于当所述降级判断模块判断当前已设定自动业务降级处理时,向业务降级系统发出业务降级指令。
优选地,所述数据收集模块包括:kafka消息订阅子模块,用于根据用户需求,从kafka中订阅各移动终端上报的指定类别的日志信息;信息接收子模块,用于接收所述Kafka发送的所述指定类别的日志信息。
优选地,所述日志数据监控系统还包括:数据存储模块,用于将所述数据处理模块获取的目标日志信息进行存储;数据展示模块,用于获取所述数据存储模块存储的所有目标日志信息,按照用户设置的筛选条件进行筛选;并根据筛选的结果,统计及展示出相应的数据图表。
优选地,所述数据存储模块包括:数据解析子模块,用于解析所述目标日志信息,并将解析后的目标日志信息的结构体放入创建的消息队列;调度子模块,用于从工作池中获取一个工作单元,并从所述消息队列中获取一个消息单元;并将所述消息单元交给所述工作单元,便于所述工作单元将所述消息单元放入写入消息队列;数据写入子模块,用于将所述写入消息队列中的数据放入批量写入请求中;且当所述批量写入请求的请求数量大于预设请求数时,将所述批量写入请求中的数据进行写入存储。
另一方面,本发明还公开了一种日志数据监控方法,包括:收集各移动终端上报的各日志信息;对收集的各日志信息进行筛选处理,获取目标日志信息;对所有目标日志信息进行分析和统计,获取目标数据;判断所述目标数据是否符合预设的预警条件;当所述目标数据符合所述预设的预警条件时进行相应的预警提醒。
优选地,所述日志数据监控方法还包括:当判定所述目标数据符合所述预设的预警条件时,进一步判断当前是否已设定自动业务降级处理;当判定当前已设定自动业务降级处理时,向业务降级系统发出业务降级指令。
优选地,所述收集各移动终端上报的各日志信息包括:根据用户需求,从kafka中订阅各移动终端上报的指定类别的日志信息;接收所述Kafka发送的所述指定类别的日志信息。
优选地,在获取目标日志信息之后还包括:将所述目标日志信息进行存储;获取存储的所有目标日志信息,按照用户设置的筛选条件进行筛选;根据所述筛选的结果,统计并展示出相应的数据图表。
优选地,所述将所述目标日志信息进行存储包括:解析所述目标日志信息,并将解析后的目标日志信息的结构体放入创建的消息队列;从工作池中获取一个工作单元,并从所述消息队列中获取一个消息单元;将所述消息单元交给所述工作单元,便于所述工作单元将所述消息单元放入写入消息队列;将所述写入消息队列中的数据放入批量写入请求中;当所述批量写入请求的请求数量大于预设请求数时,将所述批量写入请求中的数据进行写入存储。
本发明至少具备以下一项有益效果:
(1)本发明中移动终端可预先埋入了一些特定的日志信息,用户在使用过程中实时触发该日志信息(比如某app某页面出错时触发),然后通过网络将这些日志信息上传,本发明通过收集这些日志信息,并将收集到的日志信息根据需求进行筛选处理,并对其进行分析统计,从而监控到移动终端中相应错误信息,发现移动端App运行时中出现的错误、统计错误的信息,向开发人员发出错误的警告可以大大的提高App的可用性,让开发人员提早的发现问题,尽早准备问题的应对措施。
(2)本发明除了设置有预警机制外,还设置了自动业务降级机制,当统计分析后获取的目标数据满足预设的预警条件时,且当前已设定了自动业务降级处理时,则会自动触发业务降级,向业务降级系统发出业务降级指令,从而减少发生错误的可能,降低对用户的影响。
(3)本发明还对处理后的目标日志信息进行了存储,并根据存储的日志数据进行筛选及相应的数据图表展示,从而便于研发人员随时可查看监控日志数据,及早发现问题,以便尽快给出应对策略。
(4)本发明采用了批量存储的方式对目标日志信息进行存储,具体的,将解析后的目标日志信息的结构体放入消息队列,然后从工作池中调取工作单元,通过工作单元将消息队列中的消息单元放入消息队列,当消息队列中的数据满足批量写入的条件时,再批量写入存储,从而提高了数据存储的效率。
(5)本发明的日志信息收集方面,可根据实际需求从Kafka订阅指定类别的日志信息,从而获取到相应的日志信息。Kafka是一种高吞吐量的分布式发布订阅消息系统,通过该系统收集日志信息,实现简单,方便快捷。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一种日志数据监控系统的实施例的框图;
图2为本发明一种日志数据监控系统的另一实施例的框图;
图3为本发明一种日志数据监控系统的另一实施例的示意图;
图4为本发明一种日志数据监控方法的实施例的流程图;
图5为本发明一种日志数据监控方法的另一实施例的流程示意图;
图6为本发明一种日志数据监控方法的另一实施例的流程图;
图7为本发明一种日志数据监控方法的另一实施例中数据存储展示的流程示意图。
附图说明:
10--数据收集模块;20--数据处理模块;30--数据预警模块;40--降级判断模块;50--降级触发模块;60--数据存储模块;70--数据展示模块;11--Kafka消息订阅子模块;12--信息接收子模块;61--数据解析子模块;62--调度子模块;63--数据写入子模块。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步地详细描述,显然,所描述的实施例仅仅是本发明一部份实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
本发明公开了一种日志数据监控系统,实施例如图1所示,包括:数据收集模块10,用于收集各移动终端上报的各日志信息;数据处理模块20,用于对收集的各日志信息进行筛选处理,获取目标日志信息;并对所有目标日志信息进行分析和统计,获取目标数据;数据预警模块30,用于判断所述目标数据是否符合预设的预警条件,并在所述目标数据符合所述预设的预警条件时进行相应的预警提醒。
具体的,移动终端的设备内可预先埋入业务流程日志信息,用户在使用过程中实时触发该日志信息,比如用户在使用某APP时,对该APP进行某项操作时出现错误,那么就会触发某特定的预先设定的日志信息,该日志信息通过网络上报到日志数据监控系统。此系统通过统计特定日志信息出现的次数等,在符合预设预警条件的情况下发出预警信息。本实施例的日志数据监控系统主要为了监控移动终端上报的日志数据,预知或者提早发现移动终端App的错误,发出预警信息给到开发人员,可以保障发生错误的功能,减少对用户的影响。
本发明系统的另一实施例,在上述实施例的基础上,如图2所示,所述日志数据监控系统还包括:降级判断模块40,用于当所述数据预警模块30判定所述目标数据符合所述预设的预警条件时,进一步判断当前是否已设定自动业务降级处理;降级触发模块50,用于当所述降级判断模块40判断当前已设定自动业务降级处理时,向业务降级系统发出业务降级指令。
本实施例中,在对筛选后的日志数据进行分析统计后,如果分析统计的结果符合预设的预警条件,那么就会发送预警提醒信息,除此之外,还会进一步查看该情况下有没有预先设置自动业务降级,如果有设定的话,那么就会触发自动业务降级,本实施例的日志数据监控系统向业务降级系统发出业务降级指令,从而使得业务降级系统据此进行业务降级,减少错误发生的概率,降低对用户的影响。关于业务降级,具体的,比如某app的页面由A、B两种技术实现,首先使用的A技术来实现的,当用户在该页面操作发生错误触发的日志信息数量较多,比如达到了预设的预警数量,那么就会给开发人员发出预警提醒,并且在设置了自动降级的情况下,就会触发业务降级(页面降级),从而切换为由B技术来实现该页面。
较佳的,上述任一实施例中,所述数据收集模块10包括:kafka消息订阅子模块11,用于根据用户需求,从kafka中订阅各移动终端上报的指定类别的日志信息;信息接收子模块12,用于接收所述Kafka发送的所述指定类别的日志信息。
Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。移动终端上报的各种日志信息均会先给到Kafka,本发明的日志数据监控系统则根据自身的需求消费Kafka中特定的topic(类别)。
Kafka集群包含一个或多个服务器,这种服务器被称为broker。每条发布到Kafka集群的消息都有一个类别,这个类别被称为Topic。(物理上不同Topic的消息分开存储,逻辑上一个Topic的消息虽然保存于一个或多个broker上但用户只需指定消息的Topic即可生产或消费数据而不必关心数据存于何处)。
上述实施例中的指定类别可根据用户需求进行设定,比如用户想监控手机崩溃方面的日志信息,那么就可以在Kafka中订阅手机崩溃这一topic(类别)的日志信息,然后Kafka每次收到有关手机崩溃这一类别的日志信息后便会推送给订阅者。
通过Kafka收集到某类别的日志信息后,再对这些日志信息进行数据筛选处理,比如通过关键字搜索获取该类别的日志信息中的某小类日志信息,然后再对这一小类日志信息进行分析统计,监控其是否达到了预设的预警条件,如果达到了就进行相应的预警提醒,并且在设置了自动业务降级的情况下,向业务降级系统发送业务降级信息;如果没有设置自动业务降级,那么也可以向研发人员发送业务降级提醒。
本发明系统的另一实施例,在上述任一实施例的基础上,如图2所示,所述日志数据监控系统还包括:数据存储模块60,用于将所述数据处理模块20获取的目标日志信息进行存储;数据展示模块70,用于获取所述数据存储模块60存储的所有目标日志信息,按照用户设置的筛选条件进行筛选;并根据筛选的结果,统计及展示出相应的数据图表。
本实施例通过实时的收集移动终端上报的日志信息,对日志信息进行统计分析。做出一个关键业务流程的趋势图,为开发人员提供一个用户发生的问题的信息,便于开发人员实时监控。且在满足预警条件的情况下,发出预警信息给到开发人员,让开发人员尽早的知道发生的问题,还可以触发自动降级该业务流程保障业务的可用性。
较佳的,所述数据存储模块60包括:数据解析子模块61,用于解析所述目标日志信息,并将解析后的目标日志信息的结构体放入创建的消息队列;调度子模块62,用于从工作池中获取一个工作单元,并从所述消息队列中获取一个消息单元;并将所述消息单元交给所述工作单元,便于所述工作单元将所述消息单元放入写入消息队列;数据写入子模块63,用于将所述写入消息队列中的数据放入批量写入请求中;且当所述批量写入请求的请求数量大于预设请求数时,将所述批量写入请求中的数据进行写入存储。
本实施例中,具体阐述了对日志信息的存储和展示,具体的,移动终的日志信息上报给到Kafka,然后数据收集模块10消费特定kafka中特定的类别(topic),并以工作池(worker Pool)和消息队列的方式(Msg queue)配合工作。数据收集模块10创建消费者,接收kafka的特定的类别(topic),数据处理模块20通过预定的筛选条件,筛选出需要的日志消息,数据解析子模块61解析该日志消息,然后把解析后的结构体,放入调度子模块62创建的消息队列中(Msg queue)。调度子模块62尝试从工作池(workerpool)中获取一个工作单元(worker),然后尝试从消息队列中获取一个消息单元(Msg),如果都可以到,那么就会把Msg交给worker处理。如果有一个未取到,就等待,直到获两个都获取为止。worker拿到Msg后,把Msg放入写入模块的ES队列中。数据写入子模块63创建ES的Client并连接成功;再创建一个写入ES消息队列,队列长度是1k。数据写入子模块63不断的把ES写入队列(inputqueue)中的数据放入ES Clint的批量写入请求中。当ES Client的批量写入请求数大于999时就会写入ES中。数据展示模块70通过获取写入ES中的数据,设置筛选条件,统计和展示出数据图表。
本实施例在获取到目标日志信息后,还可以对其进行数据存储,便于后续查看及制图展示。关于目标日志的数据存储,本实施例采用了批量存储的存储方式,从而加快了存储方式,提高了系统效率。
本发明系统的另一实施例,示意图如图3所示,主要包括:数据收集模块、数据处理模块、数据存储模块、数据预警模块、数据展示模块、业务降级触发模块(相当于前面实施例中的降级判断模块和降级触发模块)。整体组成结构示意图如图3所示,各模块的功能如下:
数据收集模块:采集用户移动设备中,由用户操作触发的预设的日志信息(包含:当前业务逻辑所产生的业务数据和此App的基础数据)。用户操作后实时上报,日志实时收集系统实时收集用户操作触发的预设日志信息。
数据处理模块:对采集到的数据,根据操作人员制定关键字作为收集筛选条件,筛选出需要的日志信息。
数据存储模块:对通过判断当前数据是否存在关键字作为筛选条来筛选,筛选后,被命中的数据,以队列的形式写入存储介质中。
数据预警模块:对筛选出来的日志信息进行分析和统计,根据预设的预警条件发出,邮件、钉钉等预警信息给到开发人员。
数据展示模块:对于已经存储在介质中的数据,按照关键字的条件搜索出来,对搜索出来的数据做统计,按照时间、数量等其他筛选条件筛选
业务降级触发模块:通过预警模块的计算后,发出预警信息。对于已经设定的可以自动触发业务逻辑降级的场景,可以自动触发向业务降级系统发出降级的信息(同时也会向开发人员发出业务逻辑降级信息)。
本实施例中的日志数据监控系统主要通过监控日志数据,自动发现移动端App运行时中出现的错误、统计错误的信息。向开发人员发出错误的警告、降级出现错误的业务场景。可以大大的提高App的可用性,让开发人员提早的发现问题,尽早准备问题的应对措施。
基于相同的技术构思,本发明还公开了一种日志数据监控方法,本发明的日志数据监控系统可采用本发明的日志数据监控方法来进行数据监控处理,具体的,如图4所示,本发明的日志数据监控方法包括:
S101收集各移动终端上报的各日志信息;
S102对收集的各日志信息进行筛选处理,获取目标日志信息;
S103对所有目标日志信息进行分析和统计,获取目标数据;
S104判断所述目标数据是否符合预设的预警条件;
S105当所述目标数据符合所述预设的预警条件时进行相应的预警提醒。
本方法实施例中,先收集各移动终端上报的日志信息,由于日志信息纷杂众多,因此,还需要对收集的日志信息进行筛选处理,获取用户想要的日志信息作为目标日志信息,筛选的方式可以通过关键字的方式进行筛选匹配,这样筛选出来的日志信息均是反应了某一情况的日志信息,我们便可通过分析这一类日志信息来实现监控,然后对这些日志信息进行处理,统计发生的错误的次数,向开发人员发出错误的提示(提示方式包括但不限于钉钉消息,短信,邮件等)。
较佳的,所述日志数据监控方法还包括:当判定所述目标数据符合所述预设的预警条件时,进一步判断当前是否已设定自动业务降级处理;当判定当前已设定自动业务降级处理时,向业务降级系统发出业务降级指令。也就是说还可以对这些日志信息进行处理,统计特定场景的中错误,如果超过预订的阀值,自动切换为使用其他技术实现的该业务(例如使用ReactNative实现的该业务)。
上述实施例中收集移动终端上报的各日志信息可通过kafka实现,也就是说,移动终端先将各日志信息上报给kafka,然后用户可根据根据自己实际需求从kafka进行消息订阅,进而消费指定类别的日志信息。
本发明方法的另一实施例,如图5所示,包括:
1)用户使用移动设备中App的业务,触发预设在移动设备中App预先设定的特定日志信息上报到服务端(不同的错误情况会触发不同的日志信息),数据收集模块消费特定kafka中特定的topic。
2)通过预设的筛选条件来判断(通过判断关键字的方式)是否统计该日志信息;若是,进入下一步骤;
3)统计日志信息,判断当前是否已经到达预设的预警阈值;
4)如果到达预警的阈值,发出钉钉和邮件提醒到开发人员;
5)此外,如果到达预警的阈值,还会进一步判断该预设预警是否已经设置自动业务降级;
6)如果没有预设自动业务降级,将向开发人员发出业务降级的信息;
7)如果预设了自动业务降级,将向业务降级系统发出业务降级的信息。
本发明方法的另一实施例,如图6所示,包括:
S201根据用户需求,从kafka中订阅各移动终端上报的指定类别的日志信息;
S202接收所述Kafka发送的所述指定类别的日志信息。
S203对收集的各日志信息进行筛选处理,获取目标日志信息;
S204对所有目标日志信息进行分析和统计,获取目标数据;
S205将所述目标日志信息进行存储;
S206获取存储的所有目标日志信息,按照用户设置的筛选条件进行筛选;
S207根据所述筛选的结果,统计并展示出相应的数据图表;
S208判断所述目标数据是否符合预设的预警条件;
S209当所述目标数据符合所述预设的预警条件时,发起预警提醒。
S210当判定所述目标数据符合所述预设的预警条件时,进一步判断当前是否已设定自动业务降级处理;
S211当判定当前已设定自动业务降级处理时,向业务降级系统发出业务降级指令。
本方法实施例在上述任一实施例的基础上增加数据存储和展示功能,也就是说在获取到目标日志信息后,还会将目标日志信息进行相应的存储,便于后续查看,并将存储的目标日志信息通过图表等方式进行展示出来,便于工作人员查看监控。同样的,对于目标日志信息也还是会进行统计分析,一旦发现统计分析结果达到预设的预警条件,便会自动进行预警及触发业务降级等,从而从各个方面实现监控,尽可能让工作人员及时发现错误,并减少错误的发生,降低对用户的影响。
上述方法实施例中,步骤S205将所述目标日志信息进行存储具体包括:
解析所述目标日志信息,并将解析后的目标日志信息的结构体放入创建的消息队列;
从工作池中获取一个工作单元,并从所述消息队列中获取一个消息单元;
将所述消息单元交给所述工作单元,便于所述工作单元将所述消息单元放入写入消息队列;
将所述写入消息队列中的数据放入批量写入请求中;
当所述批量写入请求的请求数量大于预设请求数时,将所述批量写入请求中的数据进行写入存储。
根据上述具体存储方式,收集日志信息并对其进行数据存储和展示具体步骤如图7所示,包括:
1)用户使用使用移动设备中App的业务,触发预设在移动设备中App预先设定的特定日志信息上报到服务端,数据收集模块消费特定kafka中特定的topic、以工作池(workerPool)和消息队列的方式(Msg queue)配合工作。
2)创建消费者接受特定kafka的特定的topic,通过预定的筛选条件,筛选出需要的Msg,解析Msg,然后把解析后的结构体,放入创建的消息队列中(Msg queue)。
3)从workerpool中获取一个worker,然后再从消息队列中获取一个Msg,如果都可以到,那么就会把Msg交给worker处理。如果有一个未取到,就等待,直到获两个都获取为止。
4)worker拿到Msg后,把Msg放入ES队列中。
5)创建ES的Client并连接成功。创建一个ES写入队列,队列长度是1k。
6)把ES写入队列(input queue)中的数据放入ES Client的批量写入请求中。
7)当ES Client的批量写入请求数大于999时就会写入ES中。
8)通过获取写入ES中的数据,设置筛选条件,统计和展示出数据图表。
尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。
Claims (10)
1.一种日志数据监控系统,其特征在于,包括:
数据收集模块,用于收集各移动终端上报的各日志信息;
数据处理模块,用于对收集的各日志信息进行筛选处理,获取目标日志信息;并对所有目标日志信息进行分析和统计,获取目标数据;
数据预警模块,用于判断所述目标数据是否符合预设的预警条件,并在所述目标数据符合所述预设的预警条件时进行相应的预警提醒。
2.根据权利要求1所述的一种日志数据监控系统,其特征在于,还包括:
降级判断模块,用于当所述数据预警模块判定所述目标数据符合所述预设的预警条件时,进一步判断当前是否已设定自动业务降级处理;
降级触发模块,用于当所述降级判断模块判断当前已设定自动业务降级处理时,向业务降级系统发出业务降级指令。
3.根据权利要求1所述的一种日志数据监控系统,其特征在于,所述数据收集模块包括:
kafka消息订阅子模块,用于根据用户需求,从kafka中订阅各移动终端上报的指定类别的日志信息;
信息接收子模块,用于接收所述Kafka发送的所述指定类别的日志信息。
4.根据权利要求1-3任一项所述的一种日志数据监控系统,其特征在于,还包括:
数据存储模块,用于将所述数据处理模块获取的目标日志信息进行存储;
数据展示模块,用于获取所述数据存储模块存储的所有目标日志信息,按照用户设置的筛选条件进行筛选;并根据筛选的结果,统计及展示出相应的数据图表。
5.根据权利要求4所述的一种日志数据监控系统,其特征在于,所述数据存储模块包括:
数据解析子模块,用于解析所述目标日志信息,并将解析后的目标日志信息的结构体放入创建的消息队列;
调度子模块,用于从工作池中获取一个工作单元,并从所述消息队列中获取一个消息单元;并将所述消息单元交给所述工作单元,便于所述工作单元将所述消息单元放入写入消息队列;
数据写入子模块,用于将所述写入消息队列中的数据放入批量写入请求中;且当所述批量写入请求的请求数量大于预设请求数时,将所述批量写入请求中的数据进行写入存储。
6.一种日志数据监控方法,其特征在于,包括:
收集各移动终端上报的各日志信息;
对收集的各日志信息进行筛选处理,获取目标日志信息;
对所有目标日志信息进行分析和统计,获取目标数据;
判断所述目标数据是否符合预设的预警条件;
当所述目标数据符合所述预设的预警条件时进行相应的预警提醒。
7.根据权利要求6所述的一种日志数据监控方法,其特征在于,还包括:
当判定所述目标数据符合所述预设的预警条件时,进一步判断当前是否已设定自动业务降级处理;
当判定当前已设定自动业务降级处理时,向业务降级系统发出业务降级指令。
8.根据权利要求6所述的一种日志数据监控方法,其特征在于,所述收集各移动终端上报的各日志信息包括:
根据用户需求,从kafka中订阅各移动终端上报的指定类别的日志信息;
接收所述Kafka发送的所述指定类别的日志信息。
9.根据权利要求6-8任一项所述的一种日志数据监控方法,其特征在于,在获取目标日志信息之后还包括:
将所述目标日志信息进行存储;
获取存储的所有目标日志信息,按照用户设置的筛选条件进行筛选;
根据所述筛选的结果,统计并展示出相应的数据图表。
10.根据权利要求9所述的一种日志数据监控方法,其特征在于,所述将所述目标日志信息进行存储包括:
解析所述目标日志信息,并将解析后的目标日志信息的结构体放入创建的消息队列;
从工作池中获取一个工作单元,并从所述消息队列中获取一个消息单元;
将所述消息单元交给所述工作单元,便于所述工作单元将所述消息单元放入写入消息队列;
将所述写入消息队列中的数据放入批量写入请求中;
当所述批量写入请求的请求数量大于预设请求数时,将所述批量写入请求中的数据进行写入存储。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810879515.1A CN109144817A (zh) | 2018-08-03 | 2018-08-03 | 一种日志数据监控系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810879515.1A CN109144817A (zh) | 2018-08-03 | 2018-08-03 | 一种日志数据监控系统及方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109144817A true CN109144817A (zh) | 2019-01-04 |
Family
ID=64791822
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810879515.1A Pending CN109144817A (zh) | 2018-08-03 | 2018-08-03 | 一种日志数据监控系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109144817A (zh) |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110225543A (zh) * | 2019-05-30 | 2019-09-10 | 上海交通大学 | 基于网络请求数据的移动端软件质量态势感知系统及方法 |
CN110347565A (zh) * | 2019-05-24 | 2019-10-18 | 平安科技(深圳)有限公司 | 一种应用程序的异常分析方法及装置、电子设备 |
CN110865921A (zh) * | 2019-11-08 | 2020-03-06 | 拉扎斯网络科技(上海)有限公司 | 数据监控方法、装置、可读存储介质和电子设备 |
CN111200517A (zh) * | 2019-12-24 | 2020-05-26 | 苏州达家迎信息技术有限公司 | 一种业务数据预警控制方法、装置、设备及存储介质 |
CN111459782A (zh) * | 2020-04-02 | 2020-07-28 | 网易(杭州)网络有限公司 | 监控业务系统的方法、装置、云平台系统和服务器 |
CN111726252A (zh) * | 2020-06-17 | 2020-09-29 | 浪潮集团有限公司 | 一种针对工业设备的异常数据上报方法及工具 |
CN111767197A (zh) * | 2020-06-22 | 2020-10-13 | 郑州阿帕斯数云信息科技有限公司 | 日志处理方法和装置 |
CN111953713A (zh) * | 2019-05-14 | 2020-11-17 | 上海博泰悦臻网络技术服务有限公司 | Kafka数据展示方法及装置、计算机可读存储介质和终端 |
CN111949497A (zh) * | 2020-06-23 | 2020-11-17 | 贝壳技术有限公司 | 消息队列系统以及基于消息队列系统的消息处理方法 |
CN112114988A (zh) * | 2019-06-21 | 2020-12-22 | 顺丰科技有限公司 | 客户端启动方法、装置、终端及存储介质 |
CN112417245A (zh) * | 2020-11-18 | 2021-02-26 | 掌阅科技股份有限公司 | 应用日志的抓取方法、计算设备及计算机存储介质 |
CN112835880A (zh) * | 2021-01-28 | 2021-05-25 | 山东浪潮通软信息科技有限公司 | 一种基于SaaS的监控预警系统、方法及设备 |
CN113176978A (zh) * | 2021-04-30 | 2021-07-27 | 平安壹钱包电子商务有限公司 | 基于日志文件的监控方法、系统、设备及可读存储介质 |
CN113434135A (zh) * | 2021-06-28 | 2021-09-24 | 青岛海尔科技有限公司 | 接口的调用重复度确定方法和装置、存储介质及电子装置 |
CN113553134A (zh) * | 2021-07-28 | 2021-10-26 | 支付宝(杭州)信息技术有限公司 | 一种页面生成方法、装置、设备及介质 |
CN113938429A (zh) * | 2021-09-07 | 2022-01-14 | 南京星云数字技术有限公司 | 流量控制方法、装置及计算机可读存储介质 |
CN114416685A (zh) * | 2021-12-22 | 2022-04-29 | 北京百度网讯科技有限公司 | 日志处理方法、系统和存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6910159B2 (en) * | 2002-02-20 | 2005-06-21 | Microsoft Corporation | System and method for gathering and automatically processing user and debug data for mobile devices |
CN106250303A (zh) * | 2016-07-28 | 2016-12-21 | 北京北信源软件股份有限公司 | 业务日志收集及预警系统和业务日志收集及预警方法 |
CN107517131A (zh) * | 2017-08-31 | 2017-12-26 | 四川长虹电器股份有限公司 | 一种基于日志采集的分析预警方法 |
CN107577588A (zh) * | 2017-09-26 | 2018-01-12 | 北京中安智达科技有限公司 | 一种海量日志数据智能运维系统 |
CN108304398A (zh) * | 2017-01-11 | 2018-07-20 | 北京京东尚科信息技术有限公司 | 系统业务降级方法、装置与电子设备 |
-
2018
- 2018-08-03 CN CN201810879515.1A patent/CN109144817A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6910159B2 (en) * | 2002-02-20 | 2005-06-21 | Microsoft Corporation | System and method for gathering and automatically processing user and debug data for mobile devices |
CN106250303A (zh) * | 2016-07-28 | 2016-12-21 | 北京北信源软件股份有限公司 | 业务日志收集及预警系统和业务日志收集及预警方法 |
CN108304398A (zh) * | 2017-01-11 | 2018-07-20 | 北京京东尚科信息技术有限公司 | 系统业务降级方法、装置与电子设备 |
CN107517131A (zh) * | 2017-08-31 | 2017-12-26 | 四川长虹电器股份有限公司 | 一种基于日志采集的分析预警方法 |
CN107577588A (zh) * | 2017-09-26 | 2018-01-12 | 北京中安智达科技有限公司 | 一种海量日志数据智能运维系统 |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111953713A (zh) * | 2019-05-14 | 2020-11-17 | 上海博泰悦臻网络技术服务有限公司 | Kafka数据展示方法及装置、计算机可读存储介质和终端 |
CN110347565A (zh) * | 2019-05-24 | 2019-10-18 | 平安科技(深圳)有限公司 | 一种应用程序的异常分析方法及装置、电子设备 |
CN110347565B (zh) * | 2019-05-24 | 2022-06-03 | 平安科技(深圳)有限公司 | 一种应用程序的异常分析方法及装置、电子设备 |
CN110225543B (zh) * | 2019-05-30 | 2021-11-30 | 上海交通大学 | 基于网络请求数据的移动端软件质量态势感知系统及方法 |
CN110225543A (zh) * | 2019-05-30 | 2019-09-10 | 上海交通大学 | 基于网络请求数据的移动端软件质量态势感知系统及方法 |
CN112114988A (zh) * | 2019-06-21 | 2020-12-22 | 顺丰科技有限公司 | 客户端启动方法、装置、终端及存储介质 |
CN110865921A (zh) * | 2019-11-08 | 2020-03-06 | 拉扎斯网络科技(上海)有限公司 | 数据监控方法、装置、可读存储介质和电子设备 |
CN111200517A (zh) * | 2019-12-24 | 2020-05-26 | 苏州达家迎信息技术有限公司 | 一种业务数据预警控制方法、装置、设备及存储介质 |
CN111459782A (zh) * | 2020-04-02 | 2020-07-28 | 网易(杭州)网络有限公司 | 监控业务系统的方法、装置、云平台系统和服务器 |
CN111459782B (zh) * | 2020-04-02 | 2024-04-12 | 网易(杭州)网络有限公司 | 监控业务系统的方法、装置、云平台系统和服务器 |
CN111726252A (zh) * | 2020-06-17 | 2020-09-29 | 浪潮集团有限公司 | 一种针对工业设备的异常数据上报方法及工具 |
CN111767197A (zh) * | 2020-06-22 | 2020-10-13 | 郑州阿帕斯数云信息科技有限公司 | 日志处理方法和装置 |
CN111949497A (zh) * | 2020-06-23 | 2020-11-17 | 贝壳技术有限公司 | 消息队列系统以及基于消息队列系统的消息处理方法 |
CN111949497B (zh) * | 2020-06-23 | 2024-04-12 | 贝壳技术有限公司 | 消息队列系统以及基于消息队列系统的消息处理方法 |
CN112417245A (zh) * | 2020-11-18 | 2021-02-26 | 掌阅科技股份有限公司 | 应用日志的抓取方法、计算设备及计算机存储介质 |
CN112835880A (zh) * | 2021-01-28 | 2021-05-25 | 山东浪潮通软信息科技有限公司 | 一种基于SaaS的监控预警系统、方法及设备 |
CN113176978A (zh) * | 2021-04-30 | 2021-07-27 | 平安壹钱包电子商务有限公司 | 基于日志文件的监控方法、系统、设备及可读存储介质 |
CN113434135A (zh) * | 2021-06-28 | 2021-09-24 | 青岛海尔科技有限公司 | 接口的调用重复度确定方法和装置、存储介质及电子装置 |
CN113434135B (zh) * | 2021-06-28 | 2023-06-16 | 青岛海尔科技有限公司 | 接口的调用重复度确定方法和装置、存储介质及电子装置 |
CN113553134A (zh) * | 2021-07-28 | 2021-10-26 | 支付宝(杭州)信息技术有限公司 | 一种页面生成方法、装置、设备及介质 |
CN113938429A (zh) * | 2021-09-07 | 2022-01-14 | 南京星云数字技术有限公司 | 流量控制方法、装置及计算机可读存储介质 |
CN114416685A (zh) * | 2021-12-22 | 2022-04-29 | 北京百度网讯科技有限公司 | 日志处理方法、系统和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109144817A (zh) | 一种日志数据监控系统及方法 | |
CN103220173B (zh) | 一种报警监控方法及监控系统 | |
CN101543020B (zh) | 在地图上提供并展现通信事件的表示的设备和方法 | |
CN102026151A (zh) | 一种基于进程监测的服务推送方法、装置和系统 | |
CN110830438A (zh) | 一种异常日志告警方法、装置及电子设备 | |
CN107040608A (zh) | 一种数据处理方法及系统 | |
CN102081622A (zh) | 评估系统健康度的方法及系统健康度评估装置 | |
CN109977089A (zh) | 日志管理方法、装置、计算机设备及计算机可读存储介质 | |
CN101548506A (zh) | 用于确定安全性攻击的装置和安全性节点 | |
CN108429800A (zh) | 一种移动设备 | |
CN107038620B (zh) | 基于用户打车偏好的信息推送及装置 | |
CN103081403A (zh) | 用于使用事件分析通信系统的操作的方法和装置 | |
CN111740860A (zh) | 日志数据传输链路监控方法及装置 | |
CN108280795A (zh) | 基于动态数据库的高速公路绿色通道异常车辆的筛选方法 | |
CN110119307B (zh) | 数据处理请求的处理方法、装置、存储介质及电子装置 | |
CN108197826A (zh) | 一种高速公路绿色通道车辆信息管理系统 | |
CN112148493A (zh) | 一种流媒体任务管理方法及装置、数据服务器 | |
CN111382334B (zh) | 一种数据处理方法、装置、计算机以及可读存储介质 | |
CN115017400A (zh) | 一种应用app推荐方法及电子设备 | |
CN110738451A (zh) | 快递员跨区行为的监控方法、装置、存储介质及电子设备 | |
WO2007000633B1 (en) | Quality assessment for telecommunications network | |
CN114358726A (zh) | 依托举报线索和多数据源结合的禁毒预警研判方法及系统 | |
CN111797150A (zh) | 一种高并发数据对接转发的方法及系统 | |
CN112561593A (zh) | 积分发放控制方法及其装置、设备、介质 | |
CN110994796A (zh) | 一种电力调度操作全景可视化装置和方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190104 |
|
RJ01 | Rejection of invention patent application after publication |