CN108170538B - 一种信息处理方法、装置以及电子设备 - Google Patents
一种信息处理方法、装置以及电子设备 Download PDFInfo
- Publication number
- CN108170538B CN108170538B CN201711292169.9A CN201711292169A CN108170538B CN 108170538 B CN108170538 B CN 108170538B CN 201711292169 A CN201711292169 A CN 201711292169A CN 108170538 B CN108170538 B CN 108170538B
- Authority
- CN
- China
- Prior art keywords
- information
- log information
- queue
- service party
- log
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
Abstract
本发明实施例提供了一种信息处理方法、装置以及电子设备,其中,所述一种信息处理方法,包括:采集各业务方的日志信息到消息获取队列;通过预设解析规则对所述消息获取队列中各日志信息进行解析处理,得到各日志信息对应的目标信息;将所述各日志信息对应的目标信息通过消息发送队列,发送给对应的各业务方。本发明实施例提供的一种信息处理方法、装置以及电子设备,可以实现减少采集日志以及解析日志过程中占用的生产环境资源,保证生产服务稳定运行。
Description
技术领域
本发明涉及计算机技术领域,特别是涉及一种信息处理方法、装置以及电子设备。
背景技术
在数据处理过程中,通常需要在生产环境中采集服务产生的日志,进而通过对相关业务的日志进行分析得到对应业务的实际状况。日志文件本身是一个非结构化的文本文件,但是里面又包含了可以结构化统一分析的信息。因此,现有技术在生产环境中安装代理服务Agent进行日志采集并根据解析规则直接解析。
具体方式为安装Agent对日志进行实时的采集,并利用解析规则对采集的日志信息进行解析处理。解析规则可为适配器规则,即为对不同格式的日志配置不同解析规则的适配器。或者也可为自定义规则,即为自定义相关的日志解析规则支持所有格式的日志的解析。具体解析操作可为取出日志中某些特定的字段,对特定字段编解码以及转换成下游业务方可识别的统一数据格式的文件等。
然而,发明人在实现本发明的过程中发现,现有技术至少存在如下问题:
直接用Agent对日志进行实时的采集并实时解析时,在Agent解析过程中需要CPU的调度资源进行计算处理,进而导致解析过程会占用过多的生产环境资源,导致其他重要需要使用CPU生产环境资源的任务在处理过程中出现问题,影响了CPU为其他重要的任务提供服务。
发明内容
本发明实施例的目的在于提供一种信息处理方法、装置以及电子设备,以实现减少解析日志过程中占用的生产环境资源,保证生产服务稳定运行。具体技术方案如下:
为实现上述发明目的,本发明实施例公开了一种信息处理方法,包括:
采集各业务方的日志信息到消息获取队列;
通过预设解析规则对所述消息获取队列中各日志信息进行解析处理,得到各日志信息对应的目标信息;
将所述各日志信息对应的目标信息通过消息发送队列,发送给对应的各业务方。
可选地,所述采集各业务方的日志信息到消息获取队列之前,所述方法还包括:
为产生日志信息对应的各对象分别创建队列,将各队列组合为所述消息获取队列。
可选地,所述采集各业务方的日志信息到消息获取队列,包括:
使用代理服务Agent,采集各业务方的日志信息到消息获取队列;
在所述采集各业务方的日志信息到消息获取队列之后,所述方法还包括:
按照各日志信息对应的业务方,以及各日志信息对应的对象的标识信息,给各日志信息添加标签信息。
可选地,在所述将所述各日志信息对应的目标信息通过消息发送队列,发送给对应的各业务方之前,所述方法还包括:
为各业务方分别创建队列,将各队列对应确定为各业务方的所述消息发送队列;
所述将所述各日志信息对应的目标信息通过消息发送队列,发送给对应的各业务方,包括:
按照各日志信息对应的目标信息中的标签信息,将同一业务方的日志信息通过该业务方对应的消息发送队列,发送给对应的业务方。
可选地,在所述通过预设解析规则对所述消息获取队列中各日志信息进行解析处理,得到各日志信息对应的目标信息之前,所述方法还包括:
将弹性资源池上负责解析的规则,或者在所述弹性资源池上自定义的流处理规则,确定为所述预设解析规则。
可选地,所述通过预设解析规则对所述消息获取队列中各日志信息进行解析处理,得到各日志信息对应的目标信息,包括:
通过所述预设解析规则将所述消息获取队列中各日志信息中的数据变换为固定格式的数据信息,得到各日志信息对应的目标信息。
为实现上述发明目的,本发明实施例还公开了一种信息处理装置,包括:
信息采集模块,用于采集各业务方的日志信息到消息获取队列;
信息解析模块,用于通过预设解析规则对所述消息获取队列中各日志信息进行解析处理,得到各日志信息对应的目标信息;
信息发送模块,用于将所述各日志信息对应的目标信息通过消息发送队列,发送给对应的各业务方。
可选地,所述装置还包括:
消息获取队列创建模块,用于为产生日志信息对应的各对象分别创建队列,将各队列组合为所述消息获取队列。
可选地,所述信息采集模块,具体用于使用代理服务Agent,采集各业务方的日志信息到消息获取队列;
所述装置还包括:
标签添加模块,用于按照各日志信息对应的业务方,以及各日志信息对应的对象的标识信息,给各日志信息添加标签信息。
可选地,所述装置还包括:
消息发送队列创建模块,用于为各业务方分别创建队列,将各队列对应确定为各业务方的所述消息发送队列;
所述信息发送模块,具体用于按照各日志信息对应的目标信息中的标签信息,将同一业务方的日志信息通过该业务方对应的消息发送队列,发送给对应的业务方。
可选地,所述装置还包括:
规则确定模块,用于将弹性资源池上负责解析的规则,或者在所述弹性资源池上自定义的流处理规则,确定为所述预设解析规则。
可选地,所述信息解析模块,具体用于通过所述预设解析规则将所述消息获取队列中各日志信息中的数据变换为固定格式的数据信息,得到各日志信息对应的目标信息。
为实现上述发明目的,本发明实施例还公开了一种电子设备,包括处理器、通信接口、存储器和通信总线,其中,所述处理器、所述通信接口、所述存储器通过所述通信总线完成相互间的通信;
所述存储器,用于存放计算机程序;
所述处理器,用于执行所述存储器上所存放的程序时,实现上述信息处理方法任一所述的方法步骤。
在本发明实施的又一方面,还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机实现上述信息处理方法任一所述的方法步骤。
在本发明实施的又一方面,本发明实施例还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行时,实现上述信息处理方法任一所述的方法步骤。
本发明实施例提供的一种信息处理方法、装置以及电子设备,可以实现减少采集日志以及解析日志过程中占用的生产环境资源,保证生产服务稳定运行。具体为,采集各业务方的日志信息到自定义创建的消息获取队列,进而将消息获取队列中的日志信息,通过与采集过程的消息获取队列分离的解析规则进行解析处理,得到各日志信息对应的目标信息,实现了将采集与解析过程分离处理,进而最终实现解析过程不占用CPU生产环境资源,进一步的保证了其他重要需要使用CPU生产环境资源的任务更大可能性的获取CPU生产环境资源,也保证了所有任务的生产服务稳定运行。另外,解析逻辑独立之后可以最大程度做到复用,降低开发成本。且本发明实施例的解析或编解码逻辑的复杂程度不在受制于生产环境的资源限制,可以执行更复杂的逻辑。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。
图1为本发明实施例的一种信息处理方法流程图;
图2为本发明实施例的一种信息处理方法结构框架图;
图3为本发明实施例的另一种信息处理方法流程图;
图4为本发明实施例的一种信息处理装置结构示意图;
图5为本发明实施例的一种电子设备结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行描述。
随着信息技术的发展,海量数据大量涌入,这就需要采集以及解析处理,得到用户所需数据。现有技术在生产环境中安装代理服务Agent进行日志信息的采集,并在采集的过程中直接根据解析规则解析日志信息。这样直接采集并解析存在的问题为:在Agent解析过程中需要CPU的调度资源进行计算处理,进而导致解析过程会占用过多的生产环境资源,导致其他重要需要使用CPU生产环境资源的任务在处理过程中出现问题,影响了CPU为其他重要的任务提供服务。
为解决解析过程过多占用CPU资源的问题,本发明实施例公开了一种信息处理方法、装置以及电子设备,将CPU密集的处理逻辑与收集剥离,Agent单独实现采集过程,并在采集过程中对日志信息打上基础标签,比如日志来源信息等。并将收集到的信息传送到利用其他服务,进行复杂的解析编解码操作,之后再写入新的队列中提供给各业务方进行分析处理。最终实现本发明的减少解析日志过程中占用的生产环境资源,保证生产服务稳定运行的目的。具体实施方式如下:
为实现上述发明目的,本发明实施例公开了一种信息处理方法,如图1所示。图1为本发明实施例的一种信息处理方法流程图,包括:
S101,采集各业务方的日志信息到消息获取队列。
在本发明实施例中,业务方为需要收集用户使用该业务产生的日志信息,并通过日志信息对自身业务进行分析的需求方,具体业务根据业务方实际情况而定。
需要说明的是,本发明实施例的执行主体可为设置有本发明实施例对应方法的程序软件,或者为设置有本发明实施例对应方法的硬件设备。本领域技术人员可以理解的,以下执行主体均为同一执行主体,故在不一一赘述。
在本发明实施例中,可通过设置信息获取队列来存储采集的业务方的日志信息。该信息获取队列可为按照获取到的各业务方的日志信息的时间先后顺序,建立的一个存储队列。该信息获取队列还可为按照产生日志信息对应的各对象,为每个对象建立一个队列,进而存储该对象所产生的各业务方的日志信息。其中,对象可为包含有各业务所对应的软件的计算机终端。
在本步骤中,可通过执行主体在产生各业务方日志信息所对应的各对象端,采集各业务方的日志信息,进而将采集到的日志信息发送到消息获取队列。
S102,通过预设解析规则对消息获取队列中各日志信息进行解析处理,得到各日志信息对应的目标信息。
在本发明实施例中,为了减少解析日志过程中占用的生产环境资源的问题,本发明实施例将收集过程与信息解析过程剥离,即为在采集处理之后建立解析处理过程,将采集与解析建立关联,进而在采集处理时只进行采集,在采集结束后将采集到的日志信息发送给解析处理逻辑,进行单独的解析。本发明实施例的预设解析规则为解析采集的日志信息,将该日志信息解析并转换为业务方能够识别的结构统一的信息。
在本发明实施例中,通过预设解析规则实现将收集过程与信息解析过程剥离,通过解析处理逻辑进行单独解析,以及将采集与解析建立关联。具体地,本发明实施例的预设解析规则可为设置与收集过程分离的弹性资源池,以及在该弹性资源池中设置可以将接收到的日志信息统一结构化的解析规则。弹性资源池类似于开源分布式资源管理框架mesos,是提供计算资源的部件。
在本步骤中,可通过消息获取队列将获取的日志信息发送到弹性资源池中,通过弹性资源池中设置的解析规则对各日志信息进行解析处理,得到与各日志信息对应的统一结构化的目标信息。
S103,将各日志信息对应的目标信息通过消息发送队列,发送给对应的各业务方。
上述将日志信息进行解析处理后,可将该日志信息发送到对应的各业务方。
在本发明实施例中,通过设置消息发送队列将解析完成的日志发送到各业务方。该消息发送队列可按照业务方进行设置,即每个业务方对应设置一个消息发送队列,在信息解析处理完成后,按照业务方进行分类,将同一业务方的信息通过相应业务方的信息发送队列,发送到该业务方。
本发明实施例提供的一种信息处理方法,可以实现减少采集日志以及解析日志过程中占用的生产环境资源,保证生产服务稳定运行。具体为,采集各业务方的日志信息到自定义创建的消息获取队列,进而将消息获取队列中的日志信息,通过与采集过程的消息获取队列分离的解析规则进行解析处理,得到各日志信息对应的目标信息,实现了将采集与解析过程分离处理,进而最终实现解析过程不占用CPU生产环境资源,进一步的保证了其他重要需要使用CPU生产环境资源的任务更大可能性的获取CPU生产环境资源,也保证了所有任务的生产服务稳定运行。另外,解析逻辑独立之后可以最大程度做到复用,降低开发成本。且本发明实施例的解析或编解码逻辑的复杂程度不在受制于生产环境的资源限制,可以执行更复杂的逻辑。
可选地,在本发明实施例的信息处理方法的一种实施例中,采集各业务方的日志信息到消息获取队列之前,方法还包括:
为产生日志信息对应的各对象分别创建队列,将各队列组合为消息获取队列。
本发明实施例的目的为为产生各日志信息对应的对象创建队列,进而通过该队列实现采集日志信息的过程。
具体为,确定产生各日志信息对应的对象,该对象可为包含有各业务方所对应的软件的计算机终端。在确定了各计算机终端后,可为每个计算机终端对应设置一个队列,即为本发明实施例的消息获取队列。进而通过每个特定队列专项采集该计算机终端产生的各日志信息。
在设置完消息获取队列后,通过该消息获取队列,实时的采集每个计算机终端上产生的各日志信息。或者设置预设时间,通过该消息获取队列周期性的采集预设时间内各计算机终端上产生的各日志信息。然后按照采集的各日志信息的时间先后顺序,将与各计算机对应连接的各消息获取队列中采集的各日志信息发送给解析处理逻辑进行解析。
另外,在本发明实施例中,还可为产生各日志信息对应的所有对象,即为包含有各业务方所对应的软件的所有计算机终端,创建一个队列,将该一个队列确定为本发明实施例的消息获取队列。通过该一个队列实时的采集所有计算机终端产生的各日志信息。或者设置预设时间,通过该消息获取队列周期性的采集预设时间内各计算机终端上产生的各日志信息。然后按照采集的各日志信息的时间先后顺序,将该消息获取队列中采集的各日志信息发送给解析处理逻辑进行解析。
可见,通过本发明实施,可实现通过创建消息获取队列来采集日志信息,通过该消息获取队列只实现信息的采集过程,进而实现了将日志信息的采集过程以及解析过程分离的目的。
可选地,在本发明实施例的信息处理方法的一种实施例中,采集各业务方的日志信息到消息获取队列,包括:
步骤一,使用代理服务Agent,采集各业务方的日志信息到消息获取队列。
Agent是指驻留在某一环境下,能持续自主地发挥作用的服务。其主要特点体现在:具备自治性、反应性、主动性、社会性、进化性等特征。
自治性主要体现在Agent能根据外界环境的变化,而自动地对自己的行为和状态进行调整,而不是仅仅被动地接受外界的刺激,具有自我管理自我调节的能力;反应性主要体现在Agent能对外界的刺激作出反应的能力;主动性主要体现在对于外界环境的改变,Agent能主动采取活动的能力;社会性主要体现在Agent具有与其它Agent或人进行合作的能力,不同的Agent可根据各自的意图与其它Agent进行交互,以达到解决问题的目的;进化性主要体现在Agent能积累或学习经验和知识,并修改自己的行为以适应新环境。
在本发明实施例中,通过Agent的上述特性,在产生各业务方的日志信息的对象,即为本发明实施例的包含有各业务所对应的软件的计算机终端上部署Agent,通过Agent采集各计算机终端上产生的各业务方的日志信息,进而将采集的日志信息发送到与各为各对象设置的消息获取队列中。
在采集各业务方的日志信息到消息获取队列之后,方法还包括:
按照各日志信息对应的业务方,以及各日志信息对应的对象的标识信息,给各日志信息添加标签信息。
在上述将采集的日志信息发送到与各对象对应的消息获取队列后,可按照各日志信息的信息来源为每条日志信息对应打上标签。
在本实施例中,可按照每条日志信息对应的业务方以及每条日志信息对应的对象的标识信息为每条日志信息打算相应的标签。具体地,可在每条日志信息中先查看当前日志信息所对应的业务方,再查看每条日志信息的计算机IP以及该台计算机的数据中心,进而为每条日志信息对应打上带有对应业务名称、主机IP以及该主机的数据存储中心编号的标签。
可见,通过本发明实施例可实现为按照每个业务名称,以及产生日志信息的主机地址为每条日志信息打上唯一的标签信息,便于后期按照每条日志信息的标签信息,对日志信息按照业务以及主机来源的分析。
可选地,在本发明实施例的信息处理方法的一种实施例中,在将各日志信息对应的目标信息通过消息发送队列,发送给对应的各业务方之前,方法还包括:
步骤一,为各业务方分别创建队列,将各队列对应确定为各业务方的消息发送队列。
本发明实施例为将解析完成的日志信息,发送给对应的业务方的实施过程。本步骤为为解析完成的日志信息创建消息发送队列,进而通过相应的消息发送队列将解析完成的日志信息发送给对应的业务方。
具体地,可在解析处理逻辑与各业务方之间建立队列,为每个业务方与解析处理逻辑之间对应各建立一个队列,进而将建立的各队列确定为本发明实施例的消息发送队列。
将各日志信息对应的目标信息通过消息发送队列,发送给对应的各业务方,包括:
步骤二,按照各日志信息对应的目标信息中的标签信息,将同一业务方的日志信息通过该业务方对应的消息发送队列,发送给对应的业务方。
上述在建立好解析处理逻辑与各业务方之间的消息发送队列后,对完成解析的日志信息,按照各日志信息对应的目标信息中的标签信息找到各标签信息的业务名称,将所有的日志信息按照业务名称进行划分。
在上述划分完成后,将同一业务的目标信息通过对应的信息发送队列,发送到对应的业务方,进而保证每个业务方接收到自身业务的目标信息,进而保证在各业务方处理自身业务所对应的日志信息。
可见,通过本发明实施例,可实现为每个业务方建立信息发送队列,进而通过信息发送队列将同一目标信息发送给对应业务方,保证了信息的准确有效发送。
可选地,在本发明实施例的信息处理方法的一种实施例中,在通过预设解析规则对消息获取队列中各日志信息进行解析处理,得到各日志信息对应的目标信息之前,方法还包括:
将弹性资源池上负责解析的规则,或者在弹性资源池上自定义的流处理规则,确定为预设解析规则。
本发明实施例的弹性资源池主要指类似基于分布式资源管理框架,如mesos等,可以随时便捷的申请、释放、伸缩资源的使用量的服务。在本发明实施例中,可将该弹性资源池本身具有的负责解析的规则确定为本发明实施例的预设解析规则,进而通过该预设解析规则将在对象端采集的各日志信息,解析成统一的结构化的目标信息。
另外,在本发明实施例中,还可通过在该弹性资源池自定义设置能够处理各种格式的日志信息,进而将该日志信息转换成统一结构化格式的流处理规则,将该流处理规则确定为本发明实施例的预设解析规则。
通过预设解析规则对消息获取队列中各日志信息进行解析处理,得到各日志信息对应的目标信息,包括:
通过预设解析规则将消息获取队列中各日志信息中的数据变换为固定格式的数据信息,得到各日志信息对应的目标信息。
上述确定了弹性资源池的解析规则为本发明实施例的预设解析规则后,可设置时间周期,控制消息获取队列将该固定时期周期内获取的日志信息发送到该弹性资源池中,进而通过该弹性资源池预设解析规则将日志信息解析成统一结构化的目标信息。
可见,通过本发明实施例,可实现通过设置弹性资源池以及预设解析规则,将消息获取队列中获取的日志信息进行解析,进而得到各业务方能够识别以及处理的统一结构化的目标信息。
为了更好的说明本发明的一种信息处理方法,在本实施例中公开了一种系统结构框架,如图2所示。图2为本发明实施例的一种信息处理方法结构框架图。
在图2中,该系统结构框架包括代理服务Agent201、消息获取队列202、弹性资源池(预设解析规则)203、消息发送队列204以及业务方205。
代理服务Agent201采集各业务方的日志信息到消息获取队列该消息获取队列202;该消息获取队列202可将采集的各业务方的日志信息发送到弹性资源池203,在该弹性资源池203中通过预设解析规则解析该日志信息,进而得到统一的结构化的目标信息;该弹性资源池203将解析完成的各目标信息按照标签信息划分,进而通过相应的消息发送队列204发送给对应的业务方205,使得业务方205将通过得到的目标信息对本业务进行分析。
需要说明的,本发明实施例的一种系统结构框架,只是按照本发明实施例的一种信息处理方法设置的一种系统结构框架,其他具有本发明实施例信息处理方法实现的任一系统结构框架,都属于本发明的保护范围,此处不再一一赘述。
为了更好的说明本发明的一种信息处理方法,在本实施例中公开了一种信息处理方法的实施过程,如图3所示。图3为本发明实施例的另一种信息处理方法流程图,具体实施方式如下:
S301,为产生日志信息对应的各对象分别创建队列,将各队列组合为消息获取队列;
S302,使用代理服务Agent,采集各业务方的日志信息到消息获取队列;
S303,按照各日志信息对应的业务方,以及各日志信息对应的对象的标识信息,给各日志信息添加标签信息;
S304,将弹性资源池上负责解析的规则,或者在弹性资源池上自定义的流处理规则,确定为预设解析规则;
S305,通过预设解析规则将消息获取队列中各日志信息中的数据变换为固定格式的数据信息,得到各日志信息对应的目标信息;
S306,为各业务方分别创建队列,将各队列对应确定为各业务方的消息发送队列;
S307,按照各日志信息对应的目标信息中的标签信息,将同一业务方的日志信息通过该业务方对应的消息发送队列,发送给对应的业务方。
可见,通过本发明实施例可实现将采集过程与解析过程解耦,从而降低解析过程占用过多资源进而造成对生产环境的影响,同时解析逻辑调整不影响数据采集.的过程。解析逻辑独立之后可以最大程度做到复用,降低开发成本。且本发明实施例的解析或编解码逻辑的复杂程度不在受制于生产环境的资源限制,可以执行更复杂的逻辑。
为实现上述发明目的,本发明实施例公开了一种信息处理装置,如图4所示。图4为本发明实施例的一种信息处理装置结构示意图,包括:
信息采集模块401,用于采集各业务方的日志信息到消息获取队列;
信息解析模块402,用于通过预设解析规则对消息获取队列中各日志信息进行解析处理,得到各日志信息对应的目标信息;
信息发送模块403,用于将各日志信息对应的目标信息通过消息发送队列,发送给对应的各业务方。
本发明实施例提供的一种信息处理装置,可以实现减少采集日志以及解析日志过程中占用的生产环境资源,保证生产服务稳定运行。具体为,采集各业务方的日志信息到自定义创建的消息获取队列,进而将消息获取队列中的日志信息,通过与采集过程的消息获取队列分离的解析规则进行解析处理,得到各日志信息对应的目标信息,实现了将采集与解析过程分离处理,进而最终实现解析过程不占用CPU生产环境资源,进一步的保证了其他重要需要使用CPU生产环境资源的任务更大可能性的获取CPU生产环境资源,也保证了所有任务的生产服务稳定运行。另外,解析逻辑独立之后可以最大程度做到复用,降低开发成本。且本发明实施例的解析或编解码逻辑的复杂程度不在受制于生产环境的资源限制,可以执行更复杂的逻辑。
需要说明的是,本发明实施例的装置是应用上述一种信息处理方法的装置,则上述一种信息处理方法的所有实施例均适用于该装置,且均能达到相同或相似的有益效果。
可选地,在本发明实施例的信息处理装置的一种实施例中,装置还包括:
消息获取队列创建模块,用于为产生日志信息对应的各对象分别创建队列,将各队列组合为消息获取队列。
可选地,在本发明实施例的信息处理装置的一种实施例中,信息采集模块401,具体用于使用代理服务Agent,采集各业务方的日志信息到消息获取队列;
装置还包括:
标签添加模块,用于按照各日志信息对应的业务方,以及各日志信息对应的对象的标识信息,给各日志信息添加标签信息。
可选地,在本发明实施例的信息处理装置的一种实施例中,装置还包括:
消息发送队列创建模块,用于为各业务方分别创建队列,将各队列对应确定为各业务方的消息发送队列;
信息发送模块403,具体用于按照各日志信息对应的目标信息中的标签信息,将同一业务方的日志信息通过该业务方对应的消息发送队列,发送给对应的业务方。
可选地,在本发明实施例的信息处理装置的一种实施例中,装置还包括:
规则确定模块,用于将弹性资源池上负责解析的规则,或者在弹性资源池上自定义的流处理规则,确定为预设解析规则。
可选地,在本发明实施例的信息处理装置的一种实施例中,信息解析模块402,具体用于通过预设解析规则将消息获取队列中各日志信息中的数据变换为固定格式的数据信息,得到各日志信息对应的目标信息。
为实现上述发明目的,本发明实施例还公开了一种电子设备,如图5所示。图5为本发明实施例的一种电子设备结构示意图,包括处理器501、通信接口502、存储器503和通信总线504,其中,处理器501、通信接口502、存储器503通过通信总线504完成相互间的通信;
存储器503,用于存放计算机程序;
处理器501,用于执行存储器503上所存放的程序时,实现如下方法步骤:
采集各业务方的日志信息到消息获取队列;
通过预设解析规则对消息获取队列中各日志信息进行解析处理,得到各日志信息对应的目标信息;
将各日志信息对应的目标信息通过消息发送队列,发送给对应的各业务方。
上述电子设备提到的通信总线504可以是外设部件互连标准(PeripheralComponent Interconnect,PCI)总线或扩展工业标准结构(ExtendedIndustryStandard Architecture,EISA)总线等。该通信总线504可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。
通信接口502用于上述电子设备与其他设备之间的通信。
存储器503可以包括随机存取存储器(Random Access Memory,RAM),也可以包括非易失性存储器(Non-Volatile Memory,NVM),例如至少一个磁盘存储器。可选的,存储器503还可以是至少一个位于远离前述处理器501的存储装置。
上述的处理器501可以是通用处理器,包括中央处理器(CentralProcessingUnit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital Signal Processing,DSP)、专用集成电路(Application SpecificIntegratedCircuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
本发明实施例提供的一种电子设备,可以实现减少采集日志以及解析日志过程中占用的生产环境资源,保证生产服务稳定运行。具体为,采集各业务方的日志信息到自定义创建的消息获取队列,进而将消息获取队列中的日志信息,通过与采集过程的消息获取队列分离的解析规则进行解析处理,得到各日志信息对应的目标信息,实现了将采集与解析过程分离处理,进而最终实现解析过程不占用CPU生产环境资源,进一步的保证了其他重要需要使用CPU生产环境资源的任务更大可能性的获取CPU生产环境资源,也保证了所有任务的生产服务稳定运行。另外,解析逻辑独立之后可以最大程度做到复用,降低开发成本。且本发明实施例的解析或编解码逻辑的复杂程度不在受制于生产环境的资源限制,可以执行更复杂的逻辑。
在本发明实施的又一方面,还提供了一种计算机可读存储介质,计算机可读存储介质中存储有指令,当其在计算机上运行时,使得计算机实现上述实施例中任一的信息处理方法步骤。
本发明实施例提供的一种计算机可读存储介质,可以实现减少采集日志以及解析日志过程中占用的生产环境资源,保证生产服务稳定运行。具体为,采集各业务方的日志信息到自定义创建的消息获取队列,进而将消息获取队列中的日志信息,通过与采集过程的消息获取队列分离的解析规则进行解析处理,得到各日志信息对应的目标信息,实现了将采集与解析过程分离处理,进而最终实现解析过程不占用CPU生产环境资源,进一步的保证了其他重要需要使用CPU生产环境资源的任务更大可能性的获取CPU生产环境资源,也保证了所有任务的生产服务稳定运行。另外,解析逻辑独立之后可以最大程度做到复用,降低开发成本。且本发明实施例的解析或编解码逻辑的复杂程度不在受制于生产环境的资源限制,可以执行更复杂的逻辑。
在本发明实施的又一方面,本发明实施例还提供了一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行时,实现上述实施例中任一的信息处理方法步骤。
本发明实施例提供的一种包含指令的计算机程序产品,可以实现减少采集日志以及解析日志过程中占用的生产环境资源,保证生产服务稳定运行。具体为,采集各业务方的日志信息到自定义创建的消息获取队列,进而将消息获取队列中的日志信息,通过与采集过程的消息获取队列分离的解析规则进行解析处理,得到各日志信息对应的目标信息,实现了将采集与解析过程分离处理,进而最终实现解析过程不占用CPU生产环境资源,进一步的保证了其他重要需要使用CPU生产环境资源的任务更大可能性的获取CPU生产环境资源,也保证了所有任务的生产服务稳定运行。另外,解析逻辑独立之后可以最大程度做到复用,降低开发成本。且本发明实施例的解析或编解码逻辑的复杂程度不在受制于生产环境的资源限制,可以执行更复杂的逻辑。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行计算机程序指令时,全部或部分地产生按照本发明实施例的流程或功能。计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL))或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘Solid State Disk(SSD))等。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置、电子设备、计算机可读存储介质以及计算机程序产品实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (9)
1.一种信息处理方法,其特征在于,包括:
使用代理服务Agent,采集生产环境中各业务方的日志信息到消息获取队列;
按照各日志信息对应的业务方,以及各日志信息对应的对象的标识信息,给各日志信息添加标签信息;
通过弹性资源池设置的流处理规则对所述消息获取队列中各日志信息进行解析处理,得到各日志信息对应的目标信息,其中,所述流处理规则能够处理各种格式的日志信息,进而将日志信息转换成统一结构化格式;
为各业务方分别创建队列,将各队列对应确定为各业务方的消息发送队列;
按照各日志信息对应的目标信息中的标签信息,将同一业务方的目标信息通过该业务方对应的消息发送队列,发送给对应的业务方。
2.根据权利要求1所述的方法,其特征在于,所述采集各业务方的日志信息到消息获取队列之前,所述方法还包括:
为产生日志信息对应的各对象分别创建队列,将各队列组合为所述消息获取队列。
3.根据权利要求1-2任一项所述的方法,其特征在于,在所述通过预设解析规则对所述消息获取队列中各日志信息进行解析处理,得到各日志信息对应的目标信息之前,所述方法还包括:
将弹性资源池上负责解析的规则,或者在所述弹性资源池上自定义的流处理规则,确定为所述预设解析规则。
4.根据权利要求1-2任一项所述的方法,其特征在于,所述通过预设解析规则对所述消息获取队列中各日志信息进行解析处理,得到各日志信息对应的目标信息,包括:
通过所述预设解析规则将所述消息获取队列中各日志信息中的数据变换为固定格式的数据信息,得到各日志信息对应的目标信息。
5.一种信息处理装置,其特征在于,包括:
信息采集模块,用于使用代理服务Agent,采集生产环境中各业务方的日志信息到消息获取队列;
标签添加模块,用于按照各日志信息对应的业务方,以及各日志信息对应的对象的标识信息,给各日志信息添加标签信息;
信息解析模块,用于通过弹性资源池设置的流处理规则对所述消息获取队列中各日志信息进行解析处理,得到各日志信息对应的目标信息,其中,所述流处理规则能够处理各种格式的日志信息,进而将日志信息转换成统一结构化格式;
消息发送队列创建模块,用于为各业务方分别创建队列,将各队列对应确定为各业务方的消息发送队列;
信息发送模块,用于按照各日志信息对应的目标信息中的标签信息,将同一业务方的目标信息通过该业务方对应的消息发送队列,发送给对应的业务方。
6.根据权利要求5所述的装置,其特征在于,所述装置还包括:
消息获取队列创建模块,用于为产生日志信息对应的各对象分别创建队列,将各队列组合为所述消息获取队列。
7.根据权利要求5-6任一项所述的装置,其特征在于,所述装置还包括:
规则确定模块,用于将弹性资源池上负责解析的规则,或者在所述弹性资源池上自定义的流处理规则,确定为所述预设解析规则。
8.根据权利要求5-6任一项所述的装置,其特征在于,所述信息解析模块,具体用于通过所述预设解析规则将所述消息获取队列中各日志信息中的数据变换为固定格式的数据信息,得到各日志信息对应的目标信息。
9.一种电子设备,其特征在于,包括处理器、通信接口、存储器和通信总线,其中,所述处理器、所述通信接口、所述存储器通过所述通信总线完成相互间的通信;
所述存储器,用于存放计算机程序;
所述处理器,用于执行所述存储器上所存放的程序时,实现权利要求1-4任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711292169.9A CN108170538B (zh) | 2017-12-08 | 2017-12-08 | 一种信息处理方法、装置以及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711292169.9A CN108170538B (zh) | 2017-12-08 | 2017-12-08 | 一种信息处理方法、装置以及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108170538A CN108170538A (zh) | 2018-06-15 |
CN108170538B true CN108170538B (zh) | 2021-05-28 |
Family
ID=62524745
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711292169.9A Active CN108170538B (zh) | 2017-12-08 | 2017-12-08 | 一种信息处理方法、装置以及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108170538B (zh) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110083509B (zh) * | 2019-04-30 | 2022-09-20 | 新华三信息安全技术有限公司 | 一种日志数据的规整方法及装置 |
CN110321273B (zh) * | 2019-07-09 | 2023-10-03 | 政采云有限公司 | 一种业务统计方法及装置 |
CN110611592B (zh) * | 2019-09-20 | 2023-04-07 | 中国联合网络通信集团有限公司 | 日志记录方法及设备 |
CN113138891A (zh) * | 2020-01-19 | 2021-07-20 | 上海臻客信息技术服务有限公司 | 一种基于日志的业务监控系统 |
CN111414253A (zh) * | 2020-03-19 | 2020-07-14 | 北京奇艺世纪科技有限公司 | 垃圾回收GC信息处理方法、Java虚拟机及计算机存储介质 |
CN111740872A (zh) * | 2020-05-06 | 2020-10-02 | 北京百度网讯科技有限公司 | 消息传递测试方法、装置、电子设备和存储介质 |
CN113110582B (zh) * | 2021-04-22 | 2023-06-02 | 中国科学院重庆绿色智能技术研究院 | 无人机集群智能系统控制方法 |
CN114598597B (zh) * | 2022-02-24 | 2023-12-01 | 烽台科技(北京)有限公司 | 多源日志解析方法、装置、计算机设备及介质 |
CN115587158B (zh) * | 2022-12-08 | 2023-04-25 | 广东名阳信息科技有限公司 | 基于可视化配置的日志数据转换方法及系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103838867A (zh) * | 2014-03-20 | 2014-06-04 | 网宿科技股份有限公司 | 日志处理方法和装置 |
CN106815128A (zh) * | 2016-12-11 | 2017-06-09 | 乐视控股(北京)有限公司 | 日志输出方法及装置、电子设备 |
CN107180116A (zh) * | 2017-06-28 | 2017-09-19 | 努比亚技术有限公司 | 一种数据同步处理方法、移动终端以及计算机可读存储介质 |
-
2017
- 2017-12-08 CN CN201711292169.9A patent/CN108170538B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103838867A (zh) * | 2014-03-20 | 2014-06-04 | 网宿科技股份有限公司 | 日志处理方法和装置 |
CN106815128A (zh) * | 2016-12-11 | 2017-06-09 | 乐视控股(北京)有限公司 | 日志输出方法及装置、电子设备 |
CN107180116A (zh) * | 2017-06-28 | 2017-09-19 | 努比亚技术有限公司 | 一种数据同步处理方法、移动终端以及计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN108170538A (zh) | 2018-06-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108170538B (zh) | 一种信息处理方法、装置以及电子设备 | |
JP7112919B2 (ja) | スマート装置のタスク処理方法および装置 | |
CN107491488B (zh) | 页面数据采集的方法和装置 | |
CN107370806B (zh) | Http状态码监控方法、装置、存储介质和电子设备 | |
CN109547511B (zh) | 一种web消息实时推送方法、服务器、客户端及系统 | |
CN110058987B (zh) | 用于对计算系统进行追踪的方法、设备和计算机可读介质 | |
CN108337236A (zh) | 一种基于Protobuf和HTTP/1.1的gRPC调用方法及装置 | |
US11188443B2 (en) | Method, apparatus and system for processing log data | |
US11150896B2 (en) | Automated generation of service definitions for message queue application clients | |
CN106302103B (zh) | 一种信息处理方法及其系统、应用服务器 | |
CN110928934A (zh) | 一种用于业务分析的数据处理方法和装置 | |
CN110806931A (zh) | 分布式服务的调用链路跟踪实现方法、装置及电子设备 | |
CN112448969A (zh) | 链路追踪方法、装置、系统、设备及可读存储介质 | |
CN114090366A (zh) | 一种监控数据的方法、装置和系统 | |
CN109428926B (zh) | 一种调度任务节点的方法和装置 | |
CN108228664B (zh) | 非结构化数据处理方法及装置 | |
CN112286698A (zh) | 远程过程调用方法、装置以及远程过程调用执行方法 | |
CN116382916A (zh) | 用于云电脑算力集群的资源调度方法、系统及电子设备 | |
CN112948138A (zh) | 一种处理消息的方法和装置 | |
KR20210000041A (ko) | 로그 데이터의 실시간 분석 방법 및 그 장치 | |
CN112732979A (zh) | 信息写入方法、装置、电子设备和计算机可读介质 | |
CN113779018A (zh) | 一种数据处理方法和装置 | |
CN113778977A (zh) | 数据处理方法和数据处理装置 | |
CN111124365A (zh) | Rpa需求收集的方法和装置 | |
CN108288135B (zh) | 系统兼容方法及装置、计算机可读存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |