CN109726074A - 日志处理方法、装置、计算机设备和存储介质 - Google Patents

日志处理方法、装置、计算机设备和存储介质 Download PDF

Info

Publication number
CN109726074A
CN109726074A CN201811015691.7A CN201811015691A CN109726074A CN 109726074 A CN109726074 A CN 109726074A CN 201811015691 A CN201811015691 A CN 201811015691A CN 109726074 A CN109726074 A CN 109726074A
Authority
CN
China
Prior art keywords
data
log
monitoring
queuing system
message queuing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201811015691.7A
Other languages
English (en)
Inventor
魏颖
何涛
王双
田野
许江川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NetsUnion Clearing Corp
Original Assignee
NetsUnion Clearing Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NetsUnion Clearing Corp filed Critical NetsUnion Clearing Corp
Priority to CN201811015691.7A priority Critical patent/CN109726074A/zh
Publication of CN109726074A publication Critical patent/CN109726074A/zh
Pending legal-status Critical Current

Links

Abstract

本发明公开了一种日志处理方法、装置、计算机设备和计算机可读存储介质。其中该方法包括:对目标应用的日志进行实时采集,并将采集到的日志数据实时发送至消息队列系统;通过流式计算模块从所述消息队列系统中拉取数据,并根据拉取的数据生成对应的监控数据;以及将所述监控数据存储至数据库中。该方法可以有效地解决了现有技术中存在的会对数据库造成巨大的压力,同时也会减缓计算速度和数据的显示速度的问题,提高了数据处理效率,降低了对应用服务器的计算资源的消耗。

Description

日志处理方法、装置、计算机设备和存储介质
技术领域
本发明涉及数据处理技术领域,尤其涉及一种日志处理方法、装置、计算机设备和计算机可读存储介质。
背景技术
随着互联网技术的快速发展,网络业务量不断增大,业务方的不断增多,使得服务被调用的次数明显增大,进而对网络的大数据处理提出了较高要求。相关技术中,通过执行远程命令在服务器上统计目标应用的监控日志数据,再通过将所有服务器的数据进行聚合计算,得到当前的业务情况。但是,这种日志处理方式效率低,并且会消耗应用服务器的计算资源,而且随着服务器的增多,业务量的增大和业务复杂性的提升,无法实时展示业务数据。
发明内容
本发明的目的旨在至少在一定程度上解决上述的技术问题之一。
为此,本发明的第一个目的在于提出一种日志处理方法。该方法可以有效地解决了现有技术中存在的会对数据库造成巨大的压力,同时也会减缓计算速度和数据的显示速度的问题,提高了数据处理效率,降低了对应用服务器的计算资源的消耗。
本发明的第二个目的在于提出一种日志处理装置。
本发明的第三个目的在于提出一种计算机设备。
本发明的第四个目的在于提出一种计算机可读存储介质。
为达到上述目的,本发明第一方面实施例提出的日志处理方法,包括:对目标应用的日志进行实时采集,并将采集到的日志数据实时发送至消息队列系统;通过流式计算模块从所述消息队列系统中拉取数据,并根据拉取的数据生成对应的监控数据;以及将所述监控数据存储至数据库中。
根据本发明实施例的日志处理方法,可对目标应用的日志进行实时采集,并将采集到的日志数据实时发送至消息队列系统,并通过流式计算模块从所述消息队列系统中拉取数据,并根据拉取的数据生成对应的监控数据,并将所述监控数据存储至数据库中。即采集应用的监控日志,并将所有日志数据实时发送到消息队列系统,之后,通过流式计算模块从消息队列系统中获取数据,并进行清洗和分析,以将监控日志转换为监控数据,然后将生成的监控数据保存到数据库中,可以有效地解决了现有技术中存在的会对数据库造成巨大的压力,同时也会减缓计算速度和数据的显示速度的问题,提高了数据处理效率,降低了对应用服务器的计算资源的消耗,减缓了数据库的数据压力,从而提高了日志处理方法应用的稳定可靠性,有利于市场的推广和应用。
根据本发明的一个实施例,所述将采集到的日志数据实时发送至消息队列系统,包括:按照预设的数据处理规则对所述采集到的日志数据进行实时筛选和分类处理;将分类处理后的日志数据分别发送至所述消息队列系统。
根据本发明的一个实施例,所述通过流式计算模块从所述消息队列系统中拉取数据,并根据拉取的数据生成对应的监控数据,包括:通过流式计算模块按照流数据处理方式,从所述消息队列系统中逐条拉取数据;按照预设的业务数据监控需求对拉取的数据进行分析处理,得到对应的监控数据。
根据本发明的一个实施例,将所述监控数据存储至数据库中之后,还包括:接收针对所述目标应用的日志监控数据的查询请求;根据所述查询请求生成对应的数据库查询指令;根据所述对应的数据库查询指令,从所述数据库中读取针对所述目标应用的监控数据;按照预设的展示样式,将针对所述目标应用的监控数据进行展示。
为达到上述目的,本发明第二方面实施例提出的日志处理装置,包括:日志采集模块、消息队列系统、流式计算模块和数据存储模块,其中,所述日志采集模块,用于对目标应用的日志进行实时采集,并将采集到的日志数据实时发送至所述消息队列系统;所述消息队列系统,用于接收所述日志采集模块发送的日志数据,并将所述日志数据发送给所述流式计算模块;所述流式计算模块,用于从所述消息队列系统中拉取数据,并根据拉取的数据生成对应的监控数据,并将所述监控数据发送至所述数据存储模块;所述数据存储模块,用于接收所述流式计算模块发送的监控数据,并将所述监控数据存储至数据库中。
根据本发明实施例的日志处理装置,可通过日志采集模块对目标应用的日志进行实时采集,并将采集到的日志数据实时发送至消息队列系统,流式计算模块从所述消息队列系统中拉取数据,并根据拉取的数据生成对应的监控数据,数据存储模块将所述监控数据存储至数据库中。即采集应用的监控日志,并将所有日志数据实时发送到消息队列系统,之后,通过流式计算模块从消息队列系统中获取数据,并进行清洗和分析,以将监控日志转换为监控数据,然后将生成的监控数据保存到数据库中,可以有效地解决了现有技术中存在的会对数据库造成巨大的压力,同时也会减缓计算速度和数据的显示速度的问题,提高了数据处理效率,降低了对应用服务器的计算资源的消耗,减缓了数据库的数据压力,从而提高了日志处理方法应用的稳定可靠性,有利于市场的推广和应用。
根据本发明的一个实施例,所述日志采集模块具体用于:按照预设的数据处理规则对所述采集到的日志数据进行实时筛选和分类处理;将分类处理后的日志数据分别发送至所述消息队列系统。
根据本发明的一个实施例,所述流式计算模块具体用于:按照流数据处理方式,从所述消息队列系统中逐条拉取数据;按照预设的业务数据监控需求对拉取的数据进行分析处理,得到对应的监控数据。
根据本发明的一个实施例,所述装置还包括:查询请求接收模块,用于接收针对所述目标应用的日志监控数据的查询请求;查询指令生成模块,用于根据所述查询请求生成对应的数据库查询指令;数据查询模块,用于根据所述对应的数据库查询指令,从所述数据库中读取针对所述目标应用的监控数据;数据展示模块,用于按照预设的展示样式,将针对所述目标应用的监控数据进行展示。
为达到上述目的,本发明第三方面实施例提出的计算机设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述程序时,实现本发明第一方面实施例所述的日志处理方法。
为达到上述目的,本发明第四方面实施例提出的非临时性计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现本发明第一方面实施例所述的日志处理方法。
本发明附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1是根据本发明一个实施例的日志处理方法的流程图;
图2是根据本发明另一个实施例的日志处理方法的流程图;
图3是根据本发明一个具体实施例的日志处理方法的示例图;
图4是根据本发明一个实施例的日志处理装置的结构示意图;
图5是根据本发明一个具体实施例的日志处理装置的结构示意图;
图6是根据本发明一个实施例的计算机设备的结构示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
下面参考附图描述本发明实施例的日志处理方法、装置、计算机设备和计算机可读存储介质。
图1是根据本发明一个实施例的日志处理方法的流程图。需要说明的是,本发明实施例的日志处理方法可应用于本发明实施例的日志处理装置。可以理解,本发明实施例的日志处理方法可适用于对应用服务器中的原始日志进行数据监控处理的场景中。
如图1所示,该日志处理方法可以包括:
S110,对目标应用的日志进行实时采集,并将采集到的日志数据实时发送至消息队列系统。
可选地,目标应用服务器上可存储有针对目标应用的原始日志,其中,该原始日志通常以文件形式进行存储。在对目标应用进行日志监控时,可先从目标应用的日志服务器中实时采集该目标应用的原始日志,并将采集到的日志数据实时发送到消息队列系统。
在本发明的实施例中,可通过如下方式将采集到的日志数据实时发送到消息队列系统:可按照预设的数据处理规则对采集到的日志数据进行实时筛选和分类处理,并将分类处理后的日志数据分别发送至消息队列系统。
例如,在从日志服务器中实时采集目标应用的原始日志时,可按照预设的数据处理规则对该采集到的日志数据进行筛选和分类处理,比如,从原始日志文件中读取有效的日志数据,并对读取到的有效日志数据进行筛选和分类处理,得到每个日志数据的所属类别,之后,可按照所属类别的方式将分类处理后的日志数据分别发送到消息队列系统,比如,可以将同属于一个类别的日志数据放在同一个队列中。
需要说明的是,在本发明的一个实施例中,所述消息队列系统可以是分布式发布订阅消息系统kafka系统,可用于临时保存数据。本发明实施例采用kafka消息队列系统是因为:Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据,并且提供消息的持久化,能够使得消息存储保持长时间的稳定性能。
S120,通过流式计算模块从消息队列系统中拉取数据,并根据拉取的数据生成对应的监控数据。
可选地,通过流式计算模块按照流数据处理方式,从所述消息队列系统中逐条拉取数据,并按照预设的业务数据监控需求对拉取的数据进行分析处理,得到对应的监控数据。
例如,流式计算模块可采用数据处理方式和拉取方式,从所述消息队列系统中逐条拉取数据,并按照预设的业务数据监控需求对该拉取的数据进行分析处理,得到对应的监控数据。其中,在本发明的实施例中,所述业务数据监控需求可以是预先设定的,可以是按照实际应用而设定的业务数据监控需求。
比如,假设需要对使用者通过目标应用进行购物时的购物情况进行监控,则可根据该需求对拉取的日志数据进行清洗和分析处理,得到对应的监控数据。又如,假设需要对业务处理量、业务成功率、业务耗时等多维度数据进行监控,则可根据该需求对拉取的日志数据进行清洗和分析处理,得到对应的监控数据,即可以得到业务处理量、业务成功率、业务耗时等多维度的监控数据,以便通过业务处理量、业务成功率、业务耗时等多维度的监控数据了解到应用平台的运行状态。
S130,将监控数据存储至数据库中。
也就是说,在通过流式计算模块对日志数据进行计算处理后得到对应的监控数据,之后,可将该监控数据写入数据库中,以便后续可从数据库中读取该监控数据并进行前端展示等操作。
根据本发明实施例的日志处理方法,可对目标应用的日志进行实时采集,并将采集到的日志数据实时发送至消息队列系统,并通过流式计算模块从所述消息队列系统中拉取数据,并根据拉取的数据生成对应的监控数据,并将所述监控数据存储至数据库中。即采集应用的监控日志,并将所有日志数据实时发送到消息队列系统,之后,通过流式计算模块从消息队列系统中获取数据,并进行清洗和分析,以将监控日志转换为监控数据,然后将生成的监控数据保存到数据库中,可以有效地解决了现有技术中存在的会对数据库造成巨大的压力,同时也会减缓计算速度和数据的显示速度的问题,提高了数据处理效率,降低了对应用服务器的计算资源的消耗,减缓了数据库的数据压力,从而提高了日志处理方法应用的稳定可靠性,有利于市场的推广和应用。
图2是根据本发明另一个实施例的日志处理方法的流程图。
为了能够实时查看整体业务运行情况,在本发明的实施例中,在将所述监控数据存储至数据库中之后,还可通过前端展示的方式将数据库中存储的监控数据展示给查看人员。具体地,如图2所示,该日志处理方法可以包括:
S210,对目标应用的日志进行实时采集,并将采集到的日志数据实时发送至消息队列系统。
可选地,目标应用服务器上可存储有针对目标应用的原始日志,其中,该原始日志通常以文件形式进行存储。在对目标应用进行日志监控时,可先从目标应用的日志服务器中实时采集该目标应用的原始日志,并将采集到的日志数据实时发送到消息队列系统。
在本发明的实施例中,可通过如下方式将采集到的日志数据实时发送到消息队列系统:可按照预设的数据处理规则对采集到的日志数据进行实时筛选和分类处理,并将分类处理后的日志数据分别发送至消息队列系统。
例如,在从日志服务器中实时采集目标应用的原始日志时,可按照预设的数据处理规则对该采集到的日志数据进行筛选和分类处理,比如,从原始日志文件中读取有效的日志数据,并对读取到的有效日志数据进行筛选和分类处理,得到每个日志数据的所属类别,之后,可按照所属类别的方式将分类处理后的日志数据分别发送到消息队列系统,比如,可以将同属于一个类别的日志数据放在同一个队列中。
需要说明的是,在本发明的一个实施例中,所述消息队列系统可以是分布式发布订阅消息系统kafka系统,可用于临时保存数据。本发明实施例采用kafka消息队列系统是因为:Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据,并且提供消息的持久化,能够使得消息存储保持长时间的稳定性能。
S220,通过流式计算模块从消息队列系统中拉取数据,并根据拉取的数据生成对应的监控数据。
可选地,通过流式计算模块按照流数据处理方式,从所述消息队列系统中逐条拉取数据,并按照预设的业务数据监控需求对拉取的数据进行分析处理,得到对应的监控数据。
例如,流式计算模块可采用数据处理方式和拉取方式,从所述消息队列系统中逐条拉取数据,并按照预设的业务数据监控需求对该拉取的数据进行分析处理,得到对应的监控数据。其中,在本发明的实施例中,所述业务数据监控需求可以是预先设定的,可以是按照实际应用而设定的业务数据监控需求。
比如,假设需要对使用者通过目标应用进行购物时的购物情况进行监控,则可根据该需求对拉取的日志数据进行清洗和分析处理,得到对应的监控数据。又如,假设需要对业务处理量、业务成功率、业务耗时等多维度数据进行监控,则可根据该需求对拉取的日志数据进行清洗和分析处理,得到对应的监控数据,即可以得到业务处理量、业务成功率、业务耗时等多维度的监控数据,以便通过业务处理量、业务成功率、业务耗时等多维度的监控数据了解到应用平台的运行状态。
S230,将监控数据存储至数据库中。
也就是说,在通过流式计算模块对日志数据进行计算处理后得到对应的监控数据,之后,可将该监控数据写入数据库中,以便后续可从数据库中读取该监控数据并进行前端展示等操作。
S240,接收针对目标应用的日志监控数据的查询请求。
可选地,假设本发明实施例的日志处理方法可为用户提供能够查看监控数据的应用程序,用户可通过该应用程序查看所述数据库中存储的监控数据。比如,当应用程序接收到用户针对监控数据的查询操作时,应用程序可向服务端发送针对目标应用的日志监控数据的查询请求,服务端可接收所述针对目标应用的日志监控数据的查询请求。
S250,根据查询请求生成对应的数据库查询指令。
可选地,在接收到所述查询请求时,可对应的生成数据库查询指令。也就是说,在接收到所述查询请求时,可按照数据库访问语句规则,生成对应的数据库查询指令,以便数据库根据该查询指令进行相应的数据查询等操作。
S260,根据对应的数据库查询指令,从数据库中读取针对目标应用的监控数据。
S270,按照预设的展示样式,将针对目标应用的监控数据进行展示。
可选地,为查看人员提供展示页面或展示界面,在从数据库中读取到针对目标应用的监控数据之后,可将该监控数据按照预设的展示样式展示在所述展示页面或展示界面中。例如,该展示样式可以是图表、表格、文字等形式中的一种或多种。
根据本发明实施例的日志处理方法,在将所述监控数据存储至数据库中之后,可接收针对目标应用的日志监控数据的查询请求,并根据查询请求生成对应的数据库查询指令,并根据对应的数据库查询指令,从数据库中读取针对目标应用的监控数据,以及按照预设的展示样式,将针对目标应用的监控数据进行展示,即通过前端展示的方式将数据库中存储的监控数据展示给查看人员,使得查看人员能够实时查看整体业务运行情况,例如包括业务处理量,业务成功率,业务耗时等多维度数据,从而可以了解到平台运行状态。
为了方便本领域技术人员能够更加了解本发明,下面可举例说明。
举例而言,如图3所示,目标应用服务器可存储该目标应用的原始日志。在对目标应用进行日志监控时,可先通过日志采集模块从目标应用的日志服务器中实时采集该目标应用的原始日志,并将采集到的日志数据实时发送到消息队列系统。消息队列系统可接收日志采集模块发送的日志数据并进行缓存。之后,通过流式计算模块从消息队列系统中拉取数据,并对拉取的数据进行清洗和分析处理,得到对应的监控数据,并将该监控数据写入数据库中进行存储。当用户通过具有查看监控数据功能的应用程序来查看所述数据库中存储的监控数据时,可接收到该应用程序发送的针对目标应用的日志监控数据的查询请求,并根据该查询请求生成对应的数据库查询指令,之后,根据该数据库查询指令从数据库中读取针对目标应用的监控数据,最后,将该监控数据按照预设的展示样式展示在展示页面或展示界面中,即完成监控数据的展示。由此,通过前端展示的方式,可以实时查看应用平台整体业务运行情况,例如包括业务处理量,业务成功率,业务耗时等多维度数据,从而可以了解到平台运行状态。
与上述几种实施例提供的日志处理方法相对应,本发明的一种实施例还提供一种日志处理装置,由于本发明实施例提供的日志处理装置与上述几种实施例提供的日志处理方法相对应,因此在前述日志处理方法的实施方式也适用于本实施例提供的日志处理装置,在本实施例中不再详细描述。图4是根据本发明一个实施例的日志处理装置的结构示意图。如图4所示,该日志处理装置400可以包括:日志采集模块410、消息队列系统420、流式计算模块430和数据存储模块440。
具体地,日志采集模块410可用于对目标应用的日志进行实时采集,并将采集到的日志数据实时发送至消息队列系统420。作为一种示例,日志采集模块410可按照预设的数据处理规则对所述采集到的日志数据进行实时筛选和分类处理,并将分类处理后的日志数据分别发送至所述消息队列系统。
消息队列系统420可用于接收日志采集模块410发送的日志数据,并将日志数据发送给流式计算模块430。
流式计算模块430可用于从消息队列系统420中拉取数据,并根据拉取的数据生成对应的监控数据,并将监控数据发送至数据存储模块440。作为一种示例,流式计算模块430可按照流数据处理方式,从所述消息队列系统中逐条拉取数据,并按照预设的业务数据监控需求对拉取的数据进行分析处理,得到对应的监控数据。
数据存储模块440可用于接收流式计算模块430发送的监控数据,并将监控数据存储至数据库中。
为了能够实时查看整体业务运行情况,在将所述监控数据存储至数据库中之后,还可通过前端展示的方式将数据库中存储的监控数据展示给查看人员。可选地,在本发明的一个实施例中,如图5所示,该日志处理装置400可包括:查询请求接收模块450、查询指令生成模块460、数据查询模块470和数据展示模块480。其中,查询请求接收模块450用于接收针对所述目标应用的日志监控数据的查询请求;查询指令生成模块460用于根据所述查询请求生成对应的数据库查询指令;数据查询模块470用于根据所述对应的数据库查询指令,从所述数据库中读取针对所述目标应用的监控数据;数据展示模块480用于按照预设的展示样式,将针对所述目标应用的监控数据进行展示。
根据本发明实施例的日志处理装置,可通过日志采集模块对目标应用的日志进行实时采集,并将采集到的日志数据实时发送至消息队列系统,流式计算模块从所述消息队列系统中拉取数据,并根据拉取的数据生成对应的监控数据,数据存储模块将所述监控数据存储至数据库中。即采集应用的监控日志,并将所有日志数据实时发送到消息队列系统,之后,通过流式计算模块从消息队列系统中获取数据,并进行清洗和分析,以将监控日志转换为监控数据,然后将生成的监控数据保存到数据库中,可以有效地解决了现有技术中存在的会对数据库造成巨大的压力,同时也会减缓计算速度和数据的显示速度的问题,提高了数据处理效率,降低了对应用服务器的计算资源的消耗,减缓了数据库的数据压力,从而提高了日志处理方法应用的稳定可靠性,有利于市场的推广和应用。
为了实现上述实施例,本发明还提出了一种计算机设备。
图6是根据本发明一个实施例的计算机设备的结构示意图。如图6所示,该计算机设备600可以包括:存储器610、处理器620及存储在存储器610上并可在处理器620上运行的计算机程序630,处理器620执行所述程序630时,实现本发明上述任一个实施例所述的日志处理方法。
为了实现上述实施例,本发明还提出了一种非临时性计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现本发明上述任一个实施例所述的日志处理方法。
在本发明的描述中,需要理解的是,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
尽管上面已经示出和描述了本发明的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本发明的限制,本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (10)

1.一种日志处理方法,其特征在于,包括以下步骤:
对目标应用的日志进行实时采集,并将采集到的日志数据实时发送至消息队列系统;
通过流式计算模块从所述消息队列系统中拉取数据,并根据拉取的数据生成对应的监控数据;以及
将所述监控数据存储至数据库中。
2.如权利要求1所述的日志处理方法,其特征在于,所述将采集到的日志数据实时发送至消息队列系统,包括:
按照预设的数据处理规则对所述采集到的日志数据进行实时筛选和分类处理;
将分类处理后的日志数据分别发送至所述消息队列系统。
3.如权利要求1所述的日志处理方法,其特征在于,所述通过流式计算模块从所述消息队列系统中拉取数据,并根据拉取的数据生成对应的监控数据,包括:
通过流式计算模块按照流数据处理方式,从所述消息队列系统中逐条拉取数据;
按照预设的业务数据监控需求对拉取的数据进行分析处理,得到对应的监控数据。
4.如权利要求1所述的日志处理方法,其特征在于,在将所述监控数据存储至数据库中之后,还包括:
接收针对所述目标应用的日志监控数据的查询请求;
根据所述查询请求生成对应的数据库查询指令;
根据所述对应的数据库查询指令,从所述数据库中读取针对所述目标应用的监控数据;
按照预设的展示样式,将针对所述目标应用的监控数据进行展示。
5.一种日志处理装置,其特征在于,包括:日志采集模块、消息队列系统、流式计算模块和数据存储模块,其中,
所述日志采集模块,用于对目标应用的日志进行实时采集,并将采集到的日志数据实时发送至所述消息队列系统;
所述消息队列系统,用于接收所述日志采集模块发送的日志数据,并将所述日志数据发送给所述流式计算模块;
所述流式计算模块,用于从所述消息队列系统中拉取数据,并根据拉取的数据生成对应的监控数据,并将所述监控数据发送至所述数据存储模块;
所述数据存储模块,用于接收所述流式计算模块发送的监控数据,并将所述监控数据存储至数据库中。
6.如权利要求5所述的日志处理装置,其特征在于,所述日志采集模块具体用于:
按照预设的数据处理规则对所述采集到的日志数据进行实时筛选和分类处理;
将分类处理后的日志数据分别发送至所述消息队列系统。
7.如权利要求5所述的日志处理装置,其特征在于,所述流式计算模块具体用于:
按照流数据处理方式,从所述消息队列系统中逐条拉取数据;
按照预设的业务数据监控需求对拉取的数据进行分析处理,得到对应的监控数据。
8.如权利要求5所述的日志处理装置,其特征在于,还包括:
查询请求接收模块,用于接收针对所述目标应用的日志监控数据的查询请求;
查询指令生成模块,用于根据所述查询请求生成对应的数据库查询指令;
数据查询模块,用于根据所述对应的数据库查询指令,从所述数据库中读取针对所述目标应用的监控数据;
数据展示模块,用于按照预设的展示样式,将针对所述目标应用的监控数据进行展示。
9.一种计算机设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时,实现如权利要求1至4中任一项所述的日志处理方法。
10.一种非临时性计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1至4中任一项所述的日志处理方法。
CN201811015691.7A 2018-08-31 2018-08-31 日志处理方法、装置、计算机设备和存储介质 Pending CN109726074A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811015691.7A CN109726074A (zh) 2018-08-31 2018-08-31 日志处理方法、装置、计算机设备和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811015691.7A CN109726074A (zh) 2018-08-31 2018-08-31 日志处理方法、装置、计算机设备和存储介质

Publications (1)

Publication Number Publication Date
CN109726074A true CN109726074A (zh) 2019-05-07

Family

ID=66295651

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811015691.7A Pending CN109726074A (zh) 2018-08-31 2018-08-31 日志处理方法、装置、计算机设备和存储介质

Country Status (1)

Country Link
CN (1) CN109726074A (zh)

Cited By (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110245120A (zh) * 2019-06-19 2019-09-17 北京百度网讯科技有限公司 流式计算系统及流式计算系统的日志数据处理方法
CN110806958A (zh) * 2019-10-24 2020-02-18 长城计算机软件与系统有限公司 一种监控方法、监控装置、存储介质及电子设备
CN110825604A (zh) * 2019-11-05 2020-02-21 北京博睿宏远数据科技股份有限公司 一种应用的用户轨迹和性能监控方法、装置、设备及介质
CN110837399A (zh) * 2019-10-31 2020-02-25 锐捷网络股份有限公司 一种管理流式计算应用程序的方法、装置及计算设备
CN111078507A (zh) * 2019-12-27 2020-04-28 广州三七互娱科技有限公司 数据监控方法、系统、计算机设备和存储介质
CN111131512A (zh) * 2019-12-31 2020-05-08 中消云(北京)物联网科技研究院有限公司 设备信息的处理方法、装置、存储介质及处理器
CN111176746A (zh) * 2019-12-10 2020-05-19 贝壳技术有限公司 一种数据配置方法、装置、系统、电子设备及其存储介质
CN111177193A (zh) * 2019-12-13 2020-05-19 航天信息股份有限公司 一种基于Flink的日志流式处理方法及系统
CN111339175A (zh) * 2020-02-28 2020-06-26 成都运力科技有限公司 数据处理方法、装置、电子设备及可读存储介质
CN111414416A (zh) * 2020-02-28 2020-07-14 平安科技(深圳)有限公司 数据处理方法、装置、设备和存储介质
CN111522786A (zh) * 2020-04-21 2020-08-11 中国建设银行股份有限公司 日志处理系统及方法
CN111541645A (zh) * 2020-03-24 2020-08-14 国家计算机网络与信息安全管理中心 一种VoIP服务知识库构建方法及系统
CN112039968A (zh) * 2020-08-25 2020-12-04 中央广播电视总台 一种数据处理系统
CN112217893A (zh) * 2020-10-12 2021-01-12 广州欢网科技有限责任公司 广告投放的控频控量方法、装置、设备和广告投放系统
CN112364163A (zh) * 2020-11-10 2021-02-12 平安普惠企业管理有限公司 日志的缓存方法、装置以及计算机设备
CN112463868A (zh) * 2020-12-04 2021-03-09 车智互联(北京)科技有限公司 数据处理方法、数据处理系统及计算设备
CN112561480A (zh) * 2020-12-16 2021-03-26 中国平安人寿保险股份有限公司 智能推动工作流方法、设备及计算机存储介质
CN112882992A (zh) * 2019-11-29 2021-06-01 北京百度网讯科技有限公司 用于显示信息的方法和装置
CN112948378A (zh) * 2021-02-04 2021-06-11 上海中通吉网络技术有限公司 基于HBase的数据处理方法、装置和设备
CN112948334A (zh) * 2021-03-31 2021-06-11 建信金融科技有限责任公司 日志处理方法和装置
CN113225396A (zh) * 2021-04-30 2021-08-06 深圳市腾讯网域计算机网络有限公司 一种热点数据包分流方法、装置、电子设备及介质
CN113220655A (zh) * 2021-04-30 2021-08-06 中核武汉核电运行技术股份有限公司 数据接入方法、装置、设备及可读存储介质
CN113239000A (zh) * 2021-05-13 2021-08-10 百果园技术(新加坡)有限公司 一种业务日志的管理系统以及处理方法、装置和服务器
CN113448798A (zh) * 2020-12-30 2021-09-28 北京新氧科技有限公司 日志数据监控方法及相关设备
CN113656445A (zh) * 2021-08-26 2021-11-16 五八同城信息技术有限公司 数据处理方法、装置、电子设备及存储介质
CN113746685A (zh) * 2021-11-02 2021-12-03 深圳市明源云科技有限公司 基于pulsar日志采集流处理方法、处理装置及可读存储介质
CN114116821A (zh) * 2021-11-26 2022-03-01 山东浪潮科学研究院有限公司 基于时序数据库的能源监测数据存储方法、设备及介质
CN115757068A (zh) * 2022-11-17 2023-03-07 中电云数智科技有限公司 一种基于eBPF的进程日志采集及自动降噪方法和系统
CN115914360A (zh) * 2022-09-15 2023-04-04 成都飞机工业(集团)有限责任公司 一种时序数据存储方法、装置、设备及存储介质
CN114116821B (zh) * 2021-11-26 2024-05-10 山东浪潮科学研究院有限公司 基于时序数据库的能源监测数据存储方法、设备及介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7464113B1 (en) * 2001-05-10 2008-12-09 Oracle International Corporations Disaster recovery with bounded data loss
CN105183609A (zh) * 2015-09-16 2015-12-23 焦点科技股份有限公司 一种应用于软件系统的实时监控系统及方法
CN107357804A (zh) * 2017-05-24 2017-11-17 上海你我贷互联网金融信息服务有限公司 互联网金融海量日志的分析系统及方法
CN108334556A (zh) * 2017-12-31 2018-07-27 江苏易润信息技术有限公司 一种分析互联网金融海量日志的方法及系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7464113B1 (en) * 2001-05-10 2008-12-09 Oracle International Corporations Disaster recovery with bounded data loss
CN105183609A (zh) * 2015-09-16 2015-12-23 焦点科技股份有限公司 一种应用于软件系统的实时监控系统及方法
CN107357804A (zh) * 2017-05-24 2017-11-17 上海你我贷互联网金融信息服务有限公司 互联网金融海量日志的分析系统及方法
CN108334556A (zh) * 2017-12-31 2018-07-27 江苏易润信息技术有限公司 一种分析互联网金融海量日志的方法及系统

Cited By (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110245120B (zh) * 2019-06-19 2021-06-11 北京百度网讯科技有限公司 流式计算系统及流式计算系统的日志数据处理方法
CN110245120A (zh) * 2019-06-19 2019-09-17 北京百度网讯科技有限公司 流式计算系统及流式计算系统的日志数据处理方法
CN110806958A (zh) * 2019-10-24 2020-02-18 长城计算机软件与系统有限公司 一种监控方法、监控装置、存储介质及电子设备
CN110837399A (zh) * 2019-10-31 2020-02-25 锐捷网络股份有限公司 一种管理流式计算应用程序的方法、装置及计算设备
CN110825604A (zh) * 2019-11-05 2020-02-21 北京博睿宏远数据科技股份有限公司 一种应用的用户轨迹和性能监控方法、装置、设备及介质
CN110825604B (zh) * 2019-11-05 2023-06-30 北京博睿宏远数据科技股份有限公司 一种应用的用户轨迹和性能监控方法、装置、设备及介质
CN112882992A (zh) * 2019-11-29 2021-06-01 北京百度网讯科技有限公司 用于显示信息的方法和装置
CN111176746A (zh) * 2019-12-10 2020-05-19 贝壳技术有限公司 一种数据配置方法、装置、系统、电子设备及其存储介质
CN111177193A (zh) * 2019-12-13 2020-05-19 航天信息股份有限公司 一种基于Flink的日志流式处理方法及系统
CN111078507A (zh) * 2019-12-27 2020-04-28 广州三七互娱科技有限公司 数据监控方法、系统、计算机设备和存储介质
CN111131512B (zh) * 2019-12-31 2023-02-10 中消云(北京)物联网科技研究院有限公司 设备信息的处理方法、装置、存储介质及处理器
CN111131512A (zh) * 2019-12-31 2020-05-08 中消云(北京)物联网科技研究院有限公司 设备信息的处理方法、装置、存储介质及处理器
CN111339175B (zh) * 2020-02-28 2023-08-11 成都运力科技有限公司 数据处理方法、装置、电子设备及可读存储介质
CN111414416A (zh) * 2020-02-28 2020-07-14 平安科技(深圳)有限公司 数据处理方法、装置、设备和存储介质
CN111339175A (zh) * 2020-02-28 2020-06-26 成都运力科技有限公司 数据处理方法、装置、电子设备及可读存储介质
CN111414416B (zh) * 2020-02-28 2023-05-23 平安科技(深圳)有限公司 数据处理方法、装置、设备和存储介质
CN111541645A (zh) * 2020-03-24 2020-08-14 国家计算机网络与信息安全管理中心 一种VoIP服务知识库构建方法及系统
CN111541645B (zh) * 2020-03-24 2022-06-17 国家计算机网络与信息安全管理中心 一种VoIP服务知识库构建方法及系统
CN111522786A (zh) * 2020-04-21 2020-08-11 中国建设银行股份有限公司 日志处理系统及方法
CN112039968A (zh) * 2020-08-25 2020-12-04 中央广播电视总台 一种数据处理系统
CN112217893A (zh) * 2020-10-12 2021-01-12 广州欢网科技有限责任公司 广告投放的控频控量方法、装置、设备和广告投放系统
CN112364163A (zh) * 2020-11-10 2021-02-12 平安普惠企业管理有限公司 日志的缓存方法、装置以及计算机设备
CN112463868A (zh) * 2020-12-04 2021-03-09 车智互联(北京)科技有限公司 数据处理方法、数据处理系统及计算设备
CN112561480A (zh) * 2020-12-16 2021-03-26 中国平安人寿保险股份有限公司 智能推动工作流方法、设备及计算机存储介质
CN113448798A (zh) * 2020-12-30 2021-09-28 北京新氧科技有限公司 日志数据监控方法及相关设备
CN112948378A (zh) * 2021-02-04 2021-06-11 上海中通吉网络技术有限公司 基于HBase的数据处理方法、装置和设备
CN112948334A (zh) * 2021-03-31 2021-06-11 建信金融科技有限责任公司 日志处理方法和装置
CN113225396A (zh) * 2021-04-30 2021-08-06 深圳市腾讯网域计算机网络有限公司 一种热点数据包分流方法、装置、电子设备及介质
CN113220655A (zh) * 2021-04-30 2021-08-06 中核武汉核电运行技术股份有限公司 数据接入方法、装置、设备及可读存储介质
CN113225396B (zh) * 2021-04-30 2022-08-12 深圳市腾讯网域计算机网络有限公司 一种热点数据包分流方法、装置、电子设备及介质
CN113239000A (zh) * 2021-05-13 2021-08-10 百果园技术(新加坡)有限公司 一种业务日志的管理系统以及处理方法、装置和服务器
CN113656445A (zh) * 2021-08-26 2021-11-16 五八同城信息技术有限公司 数据处理方法、装置、电子设备及存储介质
CN113746685A (zh) * 2021-11-02 2021-12-03 深圳市明源云科技有限公司 基于pulsar日志采集流处理方法、处理装置及可读存储介质
CN113746685B (zh) * 2021-11-02 2022-02-25 深圳市明源云科技有限公司 基于pulsar日志采集流处理方法、处理装置及可读存储介质
CN114116821A (zh) * 2021-11-26 2022-03-01 山东浪潮科学研究院有限公司 基于时序数据库的能源监测数据存储方法、设备及介质
CN114116821B (zh) * 2021-11-26 2024-05-10 山东浪潮科学研究院有限公司 基于时序数据库的能源监测数据存储方法、设备及介质
CN115914360A (zh) * 2022-09-15 2023-04-04 成都飞机工业(集团)有限责任公司 一种时序数据存储方法、装置、设备及存储介质
CN115757068A (zh) * 2022-11-17 2023-03-07 中电云数智科技有限公司 一种基于eBPF的进程日志采集及自动降噪方法和系统
CN115757068B (zh) * 2022-11-17 2024-03-05 中电云计算技术有限公司 一种基于eBPF的进程日志采集及自动降噪方法和系统

Similar Documents

Publication Publication Date Title
CN109726074A (zh) 日志处理方法、装置、计算机设备和存储介质
AU2020276284B2 (en) Continuous data sensing of functional states of networked computing devices to determine efficiency metrics for servicing electronic messages asynchronously
CN107451109B (zh) 报表生成方法及系统
CN110784419A (zh) 铁路电务专业数据可视化方法及系统
CN106649670A (zh) 基于流式计算的数据监控方法及装置
EP1916824A2 (en) Real time web usage reporter using ram
CN111143286B (zh) 一种云平台日志管理方法及系统
WO2017092582A1 (zh) 一种数据处理方法和装置
CN104536965B (zh) 一种大数据条件下的数据查询展示系统及方法
CN109918349A (zh) 日志处理方法、装置、存储介质和电子装置
CN111209310B (zh) 基于流计算的业务数据处理方法、装置和计算机设备
KR102166098B1 (ko) 클라이언트에게 현재 데이터 및 과거 데이터를 제공하기 위한 서버 시스템
CN108519942A (zh) 一种日志分析系统
CN111881221A (zh) 物流服务里客户画像的方法、装置和设备
US20200110826A1 (en) Efficient event correlation in a streaming environment
CN113420043A (zh) 数据实时监控方法、装置、设备及存储介质
CN109190025A (zh) 信息监控方法、装置、系统和计算机可读存储介质
CN112039726A (zh) 一种内容分发网络cdn设备的数据监控方法及系统
CN111274256A (zh) 基于时序数据库的资源管控方法、装置、设备及存储介质
CN110019214A (zh) 对数据拆分结果进行校验的方法和装置
CN110471945A (zh) 活跃数据的处理方法、系统、计算机设备和存储介质
CN110266555A (zh) 用于分析网站服务请求的方法
CN116842090A (zh) 一种对账系统、方法、设备及存储介质
CN112100177A (zh) 数据存储方法、装置、计算机设备及存储介质
CN103916463A (zh) 一种网络访问统计分析方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20190507