CN115757320A - 一种日志处理方法、装置、设备及存储介质 - Google Patents
一种日志处理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN115757320A CN115757320A CN202211459548.3A CN202211459548A CN115757320A CN 115757320 A CN115757320 A CN 115757320A CN 202211459548 A CN202211459548 A CN 202211459548A CN 115757320 A CN115757320 A CN 115757320A
- Authority
- CN
- China
- Prior art keywords
- log
- file
- log file
- files
- topic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种日志处理方法、装置、设备及存储介质。该方法包括:获取日志文件,并将日志文件发送至对应的topic;根据日志文件的文件类型、日志文件的起始标识符、日志文件的结束标识符、日志文件携带的全局流水号以及日志文件携带的交易识别码对topic中的日志文件进行合并,得到合并后的日志文件;对合并后的日志文件进行分析,得到关键信息,通过本发明的技术方案,能够令日志文件实现高可用性,具有通用性。
Description
技术领域
本发明实施例涉及计算机技术领域,尤其涉及一种日志处理方法、装置、设备及存储介质。
背景技术
在计算机网络系统中,存储大量日志数据,如操作系统日志、入侵监测系统日志、防火墙日志以及审计日志等。上述日志对于保障计算机网络的安全运行具有重要作用。随着大数据时代开启,日志数据呈几何数倍增,从而对日志处理提出了更高的要求。
但当前的日志文件数据同步方法,主要针对日志文件数据存储到本地数据库的设计与实现,日志文件难以实现高可用性。
发明内容
本发明实施例提供一种日志处理方法、装置、设备及存储介质,解决了当前日志文件处理难以实现高可用性的问题。
根据本发明的一方面,提供了一种日志处理方法,包括:
获取日志文件,并将日志文件发送至对应的topic;
根据日志文件的文件类型、日志文件的起始标识符、日志文件的结束标识符、日志文件携带的全局流水号以及日志文件携带的交易识别码对topic中的日志文件进行合并,得到合并后的日志文件;
对合并后的日志文件进行分析,得到关键信息。
根据本发明的另一方面,提供了一种日志处理装置,该日志处理装置包括:
第一获取模块,用于获取日志文件,并将日志文件发送至对应的topic;
第一得到模块,用于根据日志文件的文件类型、日志文件的起始标识符、日志文件的结束标识符、日志文件携带的全局流水号以及日志文件携带的交易识别码对topic中的日志文件进行合并,得到合并后的日志文件;
第二得到模块,用于对合并后的日志文件进行分析,得到关键信息。
根据本发明的另一方面,提供了一种电子设备,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的日志处理方法。
根据本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的日志处理方法。
本发明实施例通过获取日志文件,并将日志文件发送至对应的topic;根据日志文件的文件类型、日志文件的起始标识符、日志文件的结束标识符、日志文件携带的全局流水号以及日志文件携带的交易识别码对topic中的日志文件进行合并,得到合并后的日志文件;对合并后的日志文件进行分析,得到关键信息,解决了当前日志处理难以实现高可用性的问题,能够令日志文件实现高可用性,具有通用性。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1是本发明实施例一中的一种日志处理方法的流程图;
图2是本发明实施例二中的一种日志处理装置的结构示意图;
图3是本发明实施例三中的一种电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
可以理解的是,在使用本公开各实施例公开的技术方案之前,均应当依据相关法律法规通过恰当的方式对本公开所涉及个人信息的类型、使用范围、使用场景等告知用户并获得用户的授权。
实施例一
图1是本发明实施例一中的一种日志处理方法的流程图,本实施例可适用于日志文件处理的情况,该方法可以由本发明实施例中的日志处理装置来执行,该装置可采用软件和/或硬件的方式实现,如图1所示,该方法具体包括如下步骤:
S110,获取日志文件,并将日志文件发送至对应的topic。
其中,日志文件是用于记录系统操作事件的记录文件或文件集合,例如操作系统具有操作系统日志文件,数据库系统具有数据库系统日志文件等。topic是消息发布(pub)者和订阅(sub)者之间的传输中介,电子设备可通过topic实现消息的发送和接收,从而实现服务端与设备端的通信。
具体的,获取日志文件,并将日志文件发送至对应的topic的方式可以为:获取日志文件,同时对日志文件进行监测,当监测到日志文件更新时,实时将日志文件发送至对应的topic。
可选的,获取日志文件,并将日志文件发送至对应的topic,包括:
当日志更新时,获取日志文件;
根据日志文件的标识信息确定日志文件的文件类型;
根据所述日志文件的类型确定目标topic;
将所述日志文件发送至目标topic。
其中,日志文件的标识信息为日志文件所属类型的标识信息。日志文件的文件类型主要为四种类型,其中日志分为API网关服务器和应用服务器,API网关服务器日志的文件类型统一,涉及一种文件类型;应用服务器日志文件涉及三种不同文件类型。目标topic为指定的四种文件类型分别指定的topic。
具体的,当日志更新时,获取日志文件的方式可以为:监测日志,当监测到日志更新时,获取更新的日志文件。
具体的,根据日志文件的标识信息确定日志文件的文件类型的方式可以为:获取日志文件及日志文件的标识信息,根据日志文件的标识信息确定日志文件属于API网关服务器或应用服务器,若日志文件属于API网关服务器,则直接确定日志文件的类型;若日志文件属于应用服务器,则确定日志文件的类型属于应用服务器日志文件中三种不同文件类型中的其中一种文件类型。
具体的,根据所述日志文件的类型确定目标topic的方式可以为:确定日志文件的文件类型,根据日志文件的文件类型确定每种文件类型指定的topic。
具体的,将所述日志文件发送至目标topic的方式可以为:确定日志文件的文件类型及此文件类型指定的topic,将日志文件发送至指定的topic,需要说明的是,每个topic里面的数据都是按照时间顺序进行存放。
可选的,还包括:
若存在API网关服务器和/或应用服务器新增,则新建topic;
并将新增的API网关服务器和/或应用服务器对应的日志文件发送至新建的topic中。
具体的,若存在API网关服务器和/或应用服务器新增,则新建topic的方式可以为:若处于业务高峰期,API网关服务器和/或应用服务器可能会有新增需求,若新增API网关服务器和/或应用服务器,则需根据新增的API网关服务器和/或应用服务器新建topic。
具体的,并将新增的API网关服务器和/或应用服务器对应的日志文件发送至新建的topic中的方式可以为:新增API网关服务器和/或应用服务器,获取日志文件及日志文件的文件类型,根据日志文件的文件类型将日志文件发送至指定的新建的topic。
通过新增API网关服务器和/或应用服务器,进而新增topic,将新增的API网关服务器和/或应用服务器日志文件发送到新增topic,可实现系统扩容,更好地实现日志文件的动态扩展性。
S120,根据日志文件的文件类型、日志文件的起始标识符、日志文件的结束标识符、日志文件携带的全局流水号以及日志文件携带的交易识别码对topic中的日志文件进行合并,得到合并后的日志文件。
其中,日志文件的起始标识符为日志文件的开始标记,日志文件的结束标识符为日志文件的结束标记。全局流水号为顶层系统发起,后端系统依次传递、存储、打印日志输出的流水号。日志文件携带的交易识别码可对日志文件进行唯一识别。需要说明的是,可根据交易识别码关联API网关服务器中日志和应用服务器中日志,同时可根据全局流水号识别应用服务器中日志。
其中,合并后的日志文件为不同topic中的日志文件合并后的日志文件,在不同topic的日志文件合并前,每个topic中的日志文件需要进行拼接。
具体的,根据日志文件的文件类型、日志文件的起始标识符、日志文件的结束标识符、日志文件携带的全局流水号以及日志文件携带的交易识别码对topic中的日志文件进行合并,得到合并后的日志文件的方式可以为:根据每种文件类型确定指定的topic,根据每个topic中的日志文件的起始标识符、日志文件的结束标识符以及日志文件携带的全局流水号进行拼接,然后将不同的已拼接的topic的日志文件的文件类型及日志文件携带的交易识别码进行合并,得到最终合并后的日志文件。
需要说明的是,在日志文件进行合并时,日志合并服务器包括主从服务器,例如日志合并服务器分为日志合并服务器1和日志合并服务器2,日志合并服务器监测topic,若有新增topic,则可将topic实时获取到日志合并服务器中,同时采用主备模式复刻一套数据至日志合并服务器2,当日志合并服务器1正常运作时,将日志合并服务器1作为对象存储的主数据源,当日志合并服务器1故障时,自动切换至日志合并服务器2,确保其业务连续性及高可用性。
可选的,根据日志文件的文件类型、日志文件的起始标识符、日志文件的结束标识符、日志文件携带的全局流水号以及日志文件携带的交易识别码对topic中的日志文件进行合并,得到合并后的日志文件,包括:
根据每个topic中的日志文件的起始标识符、日志文件的结束标识符以及日志文件携带的全局流水号对每个topic中的日志文件进行拼接,得到每个topic中的拼接后的日志文件;
根据日志文件的文件类型和日志文件携带的交易识别码对topic中的拼接后的日志文件进行合并,得到合并后的日志文件。
具体的,根据每个topic中的日志文件的起始标识符、日志文件的结束标识符以及日志文件携带的全局流水号对每个topic中的日志文件进行拼接,得到每个topic中的拼接后的日志文件的方式可以为:每个topic中的日志文件可根据日志文件的起始标识符、日志文件的结束标识符以及日志文件携带的全局流水号拼接成一个完整的日志文件,即得到每个topic的拼接后的日志文件。
具体的,根据日志文件的文件类型和日志文件携带的交易识别码对topic中的拼接后的日志文件进行合并,得到合并后的日志文件的方式可以为:获取每个topic的拼接后的日志文件,获取每个topic的日志文件的文件类型和日志文件携带的交易识别码,若其中两个topic中的日志文件分别属于API网关服务器和应用服务器且两个topic中的日志文件携带的交易识别码相同,则将上述两个topic的日志文件进行合并,得到合并后的日志文件。
可选的,根据日志文件的文件类型和日志文件携带的交易识别码对topic中的拼接后的日志文件进行合并,得到合并后的日志文件,包括:
获取topic中拼接后的日志文件的文件类型和日志文件携带的交易识别码;
将携带相同的交易识别码的网关类型的拼接后的日志文件和应用类型的拼接后的日志文件进行合并,得到合并后的日志文件。
其中,网关类型为日志文件属于API网关服务器的日志类型;应用类型为日志文件属于应用服务器的日志类型。
具体的,获取topic中拼接后的日志文件的文件类型和日志文件携带的交易识别码的方式可以为:获取每个topic拼接后的日志文件,进而获取每个topic中日志文件的文件类型和日志文件携带的交易识别码。
具体的,将携带相同的交易识别码的网关类型的拼接后的日志文件和应用类型的拼接后的日志文件进行合并,得到合并后的日志文件的方式可以为:获取每个topic拼接后的日志文件、日志文件的文件类型及日志文件携带的交易识别码,若其中两个topic的日志文件的文件类型分别属于网关类型和应用类型,且两个topic的日志文件携带的交易识别码相同,则将上述两个topic进行合并,得到合并后的日志文件。
S130,对合并后的日志文件进行分析,得到关键信息。
其中,关键信息可包括操作类型、、操作终端标识、操作日期和时间以及操作的数据对象等。
具体的,对合并后的日志文件进行分析,得到关键信息的方式可以为:获取合并后的日志文件,根据日志分析服务器对合并后的日志文件进行分析,进而得到关键信息。
需要说明的是,在对合并后的日志文件进行分析时,日志分析服务器同样包括主从服务器,例如日志分析服务器分为日志分析服务器1和日志分析服务器2。通过定时任务,读取日志合并服务器中的文件,并以固定时间调度并上传日志至对象存储。日志分析服务器每1分钟调度一次,先读取进度文件,检查对象存储里是否有新文件需要处理,处理进度文件在对象存储里保存;读取对象存储里的相同时间的网关类型的日志文件和应用类型的日志文件,进行关联分析,转换成固定格式,并使用redis锁避免文件重复读取。当日志分析服务器1故障,自动切换至日志分析服务器2,确保其业务连续性和高可用性。
可选的,对合并后的日志文件进行分析,得到关键信息,包括:
根据日志文件的起始标识符和日志文件的结束标识符提取日志文件中的关键信息。
具体的,根据日志文件的起始标识符和日志文件的结束标识符提取日志文件中的关键信息的方式可以为:获取合并后的日志文件,根据合并后的日志文件获取合并后的日志文件的起始标识符和结束标识符,从合并后的日志文件的起始标识符和结束标识符通过流量镜像接入服务或者日志采集服务,提取日志文件中的关键信息。
通过从合并后的日志文件的起始标识符和结束标识符提取日志文件的关键信息,可实现日志文件简化,提升日志分析效率,快速获取关键信息。
可选的,在对合并后的日志文件进行分析,得到关键信息之后,还包括:
获取日志文件中的关键信息对应的目标字段;
根据所述目标字段生成目标报文。
其中,目标字段为关键信息对应的英文字段。目标报文为目标字段对应的报文。
具体的,获取日志文件中的关键信息对应的目标字段的方式可以为:根据日志分析服务器分析已合并的日志文件,获取关键信息,进而得到关键信息对应的目标字段。
具体的,根据所述目标字段生成目标报文的方式可以为:获取关键信息对应的目标字段,通过查询字段对应类型表获得目标字段对应类型,从而生成目标报文。字段对应类型表可以如表1所示:
表1
本实施例的技术方案,通过获取日志文件,并将日志文件发送至对应的topic;根据日志文件的文件类型、日志文件的起始标识符、日志文件的结束标识符、日志文件携带的全局流水号以及日志文件携带的交易识别码对topic中的日志文件进行合并,得到合并后的日志文件;对合并后的日志文件进行分析,得到关键信息,解决了当前日志处理难以实现高可用性的问题,能够令日志文件实现高可用性,具有通用性。
实施例二
图2是本发明实施例二中的一种日志处理装置的结构示意图。本实施例可适用于日志文件处理的情况,该装置可采用软件和/或硬件的方式实现,该装置可集成在任何提供日志处理的功能的设备中,如图2所示,所述日志处理装置具体包括:第一获取模块210、第一得到模块220和第二得到模块230。
其中,第一获取模块210,用于获取日志文件,并将日志文件发送至对应的topic;
第一得到模块220,用于根据日志文件的文件类型、日志文件的起始标识符、日志文件的结束标识符、日志文件携带的全局流水号以及日志文件携带的交易识别码对topic中的日志文件进行合并,得到合并后的日志文件;
第二得到模块230,用于对合并后的日志文件进行分析,得到关键信息。
可选的,所述第一获取模块具体用于:
当日志更新时,获取日志文件;
根据日志文件的标识信息确定日志文件的文件类型;
根据所述日志文件的类型确定目标topic;
将所述日志文件发送至目标topic。
可选的,所述第一获取模块还用于:
若存在API网关服务器和/或应用服务器新增,则新建topic;
并将新增的API网关服务器和/或应用服务器对应的日志文件发送至新建的topic中。
可选的,所述第一得到模块具体用于:
根据每个topic中的日志文件的起始标识符、日志文件的结束标识符以及日志文件携带的全局流水号对每个topic中的日志文件进行拼接,得到每个topic中的拼接后的日志文件;
根据日志文件的文件类型和日志文件携带的交易识别码对topic中的拼接后的日志文件进行合并,得到合并后的日志文件。
可选的,所述第一得到模块具体用于:
获取topic中拼接后的日志文件的文件类型和日志文件携带的交易识别码;
将携带相同的交易识别码的网关类型的拼接后的日志文件和应用类型的拼接后的日志文件进行合并,得到合并后的日志文件。
可选的,所述第二得到模块具体用于:
根据日志文件的起始标识符和日志文件的结束标识符提取日志文件中的关键信息。
可选的,还包括:
第二获取模块,用于获取日志文件中的关键信息对应的目标字段;
第一生成模块,用于根据所述目标字段生成目标报文。
上述产品可执行本发明任意实施例所提供的方法,具备执行方法相应的功能模块和有益效果。
本实施例的技术方案,通过获取日志文件,并将日志文件发送至对应的topic;根据日志文件的文件类型、日志文件的起始标识符、日志文件的结束标识符、日志文件携带的全局流水号以及日志文件携带的交易识别码对topic中的日志文件进行合并,得到合并后的日志文件;对合并后的日志文件进行分析,得到关键信息,解决了当前日志处理难以实现高可用性的问题,能够令日志文件实现高可用性,具有通用性。
实施例三
图3是本发明实施例三中的一种电子设备的结构示意图。电子设备10旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图3所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM12以及RAM13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如日志处理方法。
在一些实施例中,日志处理方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM13并由处理器11执行时,可以执行上文描述的日志处理方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行日志处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的系统和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (10)
1.一种日志处理方法,其特征在于,包括:
获取日志文件,并将日志文件发送至对应的topic;
根据日志文件的文件类型、日志文件的起始标识符、日志文件的结束标识符、日志文件携带的全局流水号以及日志文件携带的交易识别码对topic中的日志文件进行合并,得到合并后的日志文件;
对合并后的日志文件进行分析,得到关键信息。
2.根据权利要求1所述的方法,其特征在于,获取日志文件,并将日志文件发送至对应的topic,包括:
当日志更新时,获取日志文件;
根据日志文件的标识信息确定日志文件的文件类型;
根据所述日志文件的类型确定目标topic;
将所述日志文件发送至目标topic。
3.根据权利要求2所述的方法,其特征在于,还包括:
若存在API网关服务器和/或应用服务器新增,则新建topic;
并将新增的API网关服务器和/或应用服务器对应的日志文件发送至新建的topic中。
4.根据权利要求1所述的方法,其特征在于,根据日志文件的文件类型、日志文件的起始标识符、日志文件的结束标识符、日志文件携带的全局流水号以及日志文件携带的交易识别码对topic中的日志文件进行合并,得到合并后的日志文件,包括:
根据每个topic中的日志文件的起始标识符、日志文件的结束标识符以及日志文件携带的全局流水号对每个topic中的日志文件进行拼接,得到每个topic中的拼接后的日志文件;
根据日志文件的文件类型和日志文件携带的交易识别码对topic中的拼接后的日志文件进行合并,得到合并后的日志文件。
5.根据权利要求4所述的方法,其特征在于,根据日志文件的文件类型和日志文件携带的交易识别码对topic中的拼接后的日志文件进行合并,得到合并后的日志文件,包括:
获取topic中拼接后的日志文件的文件类型和日志文件携带的交易识别码;
将携带相同的交易识别码的网关类型的拼接后的日志文件和应用类型的拼接后的日志文件进行合并,得到合并后的日志文件。
6.根据权利要求1所述的方法,其特征在于,对合并后的日志文件进行分析,得到关键信息,包括:
根据日志文件的起始标识符和日志文件的结束标识符提取日志文件中的关键信息。
7.根据权利要求1所述的方法,其特征在于,在对合并后的日志文件进行分析,得到关键信息之后,还包括:
获取日志文件中的关键信息对应的目标字段;
根据所述目标字段生成目标报文。
8.一种日志处理装置,其特征在于,包括:
第一获取模块,用于获取日志文件,并将日志文件发送至对应的topic;
第一得到模块,用于根据日志文件的文件类型、日志文件的起始标识符、日志文件的结束标识符、日志文件携带的全局流水号以及日志文件携带的交易识别码对topic中的日志文件进行合并,得到合并后的日志文件;
第二得到模块,用于对合并后的日志文件进行分析,得到关键信息。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的日志处理方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的日志处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211459548.3A CN115757320A (zh) | 2022-11-16 | 2022-11-16 | 一种日志处理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211459548.3A CN115757320A (zh) | 2022-11-16 | 2022-11-16 | 一种日志处理方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115757320A true CN115757320A (zh) | 2023-03-07 |
Family
ID=85334052
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211459548.3A Pending CN115757320A (zh) | 2022-11-16 | 2022-11-16 | 一种日志处理方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115757320A (zh) |
-
2022
- 2022-11-16 CN CN202211459548.3A patent/CN115757320A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112559475B (zh) | 数据实时捕获和传输方法及系统 | |
CN115934414A (zh) | 数据备份方法、数据恢复方法、装置、设备及存储介质 | |
CN113312321A (zh) | 一种业务量的异常监测方法及相关设备 | |
CN115757320A (zh) | 一种日志处理方法、装置、设备及存储介质 | |
CN110545296A (zh) | 一种日志数据获取方法、装置及其设备 | |
CN115022722A (zh) | 视频监控方法、装置、电子设备及存储介质 | |
CN112948195A (zh) | 接口测试的方法、装置、电子设备和存储介质 | |
CN112217712A (zh) | 消息多端同步的方法、客户端 | |
CN112732728A (zh) | 一种数据同步方法和系统 | |
CN113760836B (zh) | 一种宽表计算方法和装置 | |
CN113553836B (zh) | 对话词典的更新方法、装置、电子设备及存储介质 | |
CN115567624A (zh) | 一种报文处理方法、装置、电子设备及介质 | |
CN115544418A (zh) | 一种网页数据同步方法、装置、电子设备及存储介质 | |
CN116821217A (zh) | 数据的分发转换方法、装置、设备及存储介质 | |
CN114328224A (zh) | 异常请求的复现方法、装置、电子设备和存储介质 | |
CN114416040A (zh) | 一种页面构建方法、装置、设备及存储介质 | |
CN117312284A (zh) | 数据处理方法、装置、设备及介质 | |
CN116862388A (zh) | 生产方法、装置、软件物料清单端、持续集成端及介质 | |
CN115665256A (zh) | 一种任务处理方法、装置、电子设备及存储介质 | |
CN117251196A (zh) | 一种数据维护方法、装置、设备及存储介质 | |
CN115967638A (zh) | 一种设备仿真模拟系统、方法、设备及存储介质 | |
CN116955362A (zh) | 一种任务处理的方法和装置 | |
CN115129673A (zh) | 一种日志处理方法、装置、电子设备及存储介质 | |
CN117931805A (zh) | 一种数据处理方法、装置、电子设备和存储介质 | |
CN115168475A (zh) | 一种数据库操作方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |