CN111625423A - 日志处理方法、装置、系统、介质、及程序 - Google Patents
日志处理方法、装置、系统、介质、及程序 Download PDFInfo
- Publication number
- CN111625423A CN111625423A CN202010465043.2A CN202010465043A CN111625423A CN 111625423 A CN111625423 A CN 111625423A CN 202010465043 A CN202010465043 A CN 202010465043A CN 111625423 A CN111625423 A CN 111625423A
- Authority
- CN
- China
- Prior art keywords
- log
- logs
- multiple applications
- sending
- present disclosure
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/302—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system component is a software system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3065—Monitoring arrangements determined by the means or processing involved in reporting the monitored data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3089—Monitoring arrangements determined by the means or processing involved in sensing the monitored data, e.g. interfaces, connectors, sensors, probes, agents
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/1805—Append-only file systems, e.g. using logs or journals to store data
- G06F16/1815—Journaling file systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Debugging And Monitoring (AREA)
Abstract
本公开提供了一种日志处理方法。所述方法包括:采集多个应用程序运行过程中产生的日志,得到来自多应用的日志;以及将所述来自多应用的日志发送给预定的日志接收方,以统一存储或统一展示所述来自多应用的日志。本公开还提供了一种日志处理装置、系统、介质及程序。
Description
技术领域
本公开涉及计算机技术领域,更具体地,涉及一种日志处理方法、装置、系统、计算机可读存储介质以及计算机程序。
背景技术
应用程序在运行时通常会输出日志。目前,无论是安装于同一个设备中的不同客户端的应用程序,还是在一个客户端中的不同业务模块对应的应用程序,其日志输出往往缺乏统一的规范。例如,对天擎安全管理系统中的不同业务模块对应的应用程序而言,有的日志是由对应的业务的应用程序自身去进行文件写操作;有的日志则是由对应的业务的应用程序调用系统API(例如,outputDebugstring)输出日志;有的应用程序则不输出日志,要替换为调试版本的文件才能输出日志;而有的应用程序采用的是天擎基础框架提供的日志输出功能来输出日志。这些多种多样的方式导致当前天擎安全管理系统输出的日志文件位置分散、日志格式不统一、日志等级不明确、无法实时对日志等级进行调整、不能稳定复现的问题依靠日志排查艰难等等问题。
发明内容
有鉴于此,本公开实施例提供了一种可以对日志进行统一管理的日志处理方法、装置、系统、介质及程序。
本公开实施例的一个方面,提供了一种日志处理方法。所述方法包括:采集多个应用程序运行过程中产生的日志,得到来自多应用的日志;以及将所述来自多应用的日志发送给预定的日志接收方,以统一存储或统一展示所述来自多应用的日志。
根据本公开的实施例,所述方法还包括将所述来自多应用的日志的格式统一处理为预定格式,得到具有预定格式的日志。则,所述将所述来自多应用的日志发送给预定的日志接收方,包括:将所述具有预定格式的日志发送给所述日志接收方。
根据本公开的实施例,所述方法还包括配置所述日志接收方包括日志数据库和日志展示器。则,所述将所述来自多应用的日志发送给预定的日志接收方,包括按照所述日志数据库和日志展示器各自对应的日志筛选条件,将所述来自多应用的日志对应发送到所述日志数据库和/或所述日志展示器。
根据本公开的实施例,所述方法还包括配置与所述日志数据库和所述日志展示器各自对应的日志筛选条件。
根据本公开的实施例,所述日志筛选条件包括按照日志标识信息设置的筛选条件。所述方法还包括解析所述来自多应用的日志中的每个日志,得到所述每个日志的日志标识信息。则,所述按照所述日志数据库和日志展示器各自对应的日志筛选条件,将所述来自多应用的日志对应发送到所述日志数据库和/或所述日志展示器,包括根据所述每个日志的日志标识信息以及所述日志筛选条件,将所述每个日志发送到所述日志数据库和/或所述日志展示器。
根据本公开的实施例,在所述将所述来自多应用的日志发送给预定的日志接收方之前,所述方法还包括将所述来自多应用的日志暂存到缓存队列。
根据本公开的实施例,所述来自多应用的日志的采集和发送使用通信管道来实现。
根据本公开的实施例,所述方法还包括基于用户操作,导出所述来自多应用的日志。
本公开实施例的另一方面,提供了一种日志处理装置。所述装置包括日志采集模块、以及日志发送模块。所述日志采集模块用于采集多个应用程序运行过程中产生的日志,得到来自多应用的日志。所述日志发送模块用于将所述来自多应用的日志发送给预定的日志接收方,以统一存储或统一展示所述来自多应用的日志。
根据本公开的实施例,所述装置还包括日志处理模块。所述日志处理模块用于将所述来自多应用的日志的格式统一处理为预定格式,得到具有预定格式的日志。所述日志发送模块还用于将所述具有预定格式的日志发送给所述日志接收方。
根据本公开的实施例,所述装置还包括配置模块。所述配置模块用于配置所述日志接收方包括日志数据库和日志展示器。所述日志发送模块还用于按照所述日志数据库和日志展示器各自对应的日志筛选条件,将所述来自多应用的日志对应发送到所述日志数据库和/或所述日志展示器。
根据本公开的实施例,所述配置模块还用于配置与所述日志数据库和所述日志展示器各自对应的日志筛选条件。
根据本公开的实施例,所述日志筛选条件包括按照日志标识信息设置的筛选条件。所述日志处理模块还用于解析所述来自多应用的日志中的每个日志,得到所述每个日志的日志标识信息。所述日志发送模块还用于根据所述每个日志的日志标识信息以及所述日志筛选条件,将所述每个日志发送到所述日志数据库和/或所述日志展示器。
根据本公开的实施例,所述装置还包括缓存模块。所述缓存模块用于在所述将所述来自多应用的日志发送给预定的日志接收方之前,将所述来自多应用的日志暂存到缓存队列。
根据本公开的实施例,所述日志处理模块还用于基于用户操作,导出所述来自多应用的日志。
本公开实施例的另一方面,还提供了一种日志处理系统。所述系统包括核心组件、中间层、以及应用层。所述核心组件用于用于提供与多个应用程序之间的进程间通信、以及与日志接收方的数据传输。所述中间层用于配置从所述多个应用程序的运行过程中采集日志的日志采集规范、以及配置向所述日志接收方发送日志的日志传输规范。所述应用层,用于基于所述进程间通信,按照所述日志采集规范采集所述多个应用程序运行过程中产生的日志,得到来自多应用的日志,以及基于与所述日志接收方的数据传输,按照所述日志传输规范将所述来自多应用的日志发送给所述日志接收方,以统一存储或统一展示所述来自多应用的日志。
本公开实施例的另一方面,提供了一种日志处理系统。所述系统包括一个或多个存储器、以及一个或多个处理器。所述存储器上存储有可执行指令。所述处理器执行所述可执行指令以实现如上所述的方法。
本公开实施例的另一方面,提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行如上所述的方法。
本公开实施例的另一方面提供了一种计算机程序,所述计算机程序包括计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
上述一个或多个实施例具有如下优点或益效果:可以至少部分地改善了现有技术中各个应用程序分别以各自的方式处理日志导致的日志存储分散、格式不统一、日志等级不明确、无法实时对日志等级进行调整、不能稳定复现的缺陷,实现多个应用程序产生的日志可以被集中采集、集中处理为统一的格式、并集中展示或存储的技术效果。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的日志处理方法、装置、系统、介质及程序的应用场景;
图2示意性示出了根据本公开实施例的日志处理流程框架;
图3示意性示出了根据本公开实施例的日志处理方法的流程图;
图4意性示出了根据本公开另一实施例的日志处理方法的流程图;
图5示意性示出了根据本公开再一实施例的日志处理方法的流程图;
图6示意性示出了根据本公开实施例的配置日志展示器对应的日志筛选条件的用户界面;
图7示意性示出了据本公开实施例的配置日志展示器对应的日志筛选条件的另一用户界面;
图8示意性示出了根据本公开实施例的在日志展示器中展示日志的用户界面;
图9示意性示出了根据本公开又一实施例的日志处理方法的流程图;
图10示意性示出了根据本公开实施例导出日志的用户界面;
图11示意性示出了根据本公开实施例的导出日志后得到的文件的显示界面;
图12示意性示出了根据本公开实施例的日志处理装置的框图;
图13示意性示出了根据本公开实施例的日志处理系统的系统架构图;以及
图14示意性示出了适于实现根据本公开实施例的日志处理方法的计算机系统的框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
本公开的各个实施例提供了一种日志处理方法、装置、系统、介质及程序。该方法包括:采集多个应用程序运行过程中产生的日志,得到来自多应用的日志;以及将该来自多应用的日志发送给预定的日志接收方,以统一存储或统一展示该来自多应用的日志。以此方式,可以集中采集该多个应用程序产生的日志,并统一存储或展示。从而,各个应用程序可以无需关心日志的输出路径、存储位置和/或展示方式,提高了多个应用程序的日志的处理效果。
根据本公开的另一实施例,该日志处理方法还包括将来自多应用的日志的格式统一处理为预定格式,得到具有预定格式的日志。则,将该来自多应用的日志发送给预定的日志接收方,包括将具有预定格式的日志发送给日志接收方。以此方式,有效地改善了相关技术中各个应用程序分别以各自的方式处理日志导致的日志存储分散、格式不统一、日志等级不明确、无法实时对日志等级进行调整、不能稳定复现的缺陷,使得多个应用程序产生的日志可以被集中采集、集中处理为统一的格式、并集中展示或存储。
图1示意性示出了根据本公开实施例的日志处理方法、装置、系统、介质及程序的应用场景10。
如图1所示,根据该实施例的应用系统10可以包括终端设备101、网络102和服务器103。网络102为用以在终端设备101和服务器103之间提供通信链路的介质。网络102可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
终端设备101上可以安装有各种客户端应用,例如天擎安全管理系统的客户端应用(简称天擎终端)。通过该天擎终端对终端设备101进行安全防护。
服务器103可以是提供各种服务的服务器,例如对终端设备101中安装的客户端应用提供控制管理的后台服务器。后台管理服务器中可以部署天擎安全管理系统的控制中心。
在一个实施例中,本公开实施例所提供的日志处理方法可以由终端设备101执行,用于对终端设备101中安装的天擎终端中的各个业务模块对应的应用程序的日志进行统一管理。相应地,本公开实施例所提供的日志处理装置、系统、介质、及程序也可以设置于终端设备101中。
需要注意的是,图1所示仅为可以应用本公开实施例的应用场景的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
另外,应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本公开实施例的的日志处理流程框架。需要说明的是,图2中示出的组件命名、进程名称等仅为示例,本公开对此不予限定。
如图2所示,该日志处理流程20的核心包括日志控制中心LogService.exe、日志采集组件LogProvider.dll、日志传输组件LogRecerver.dll、写日志组件LogWriter.exe、日志展示器LogViewer.exe、和/或日志数据库。该日志处理流程20可以包括日志采集/缓存、日志集中处理、和/或日志集中存储/灵活展示等多个环节。
具体地,在该日志处理流程20中,可以通过LogProvider.dll从日出输出方(即,各个应用程序的进程中)采集日志数据,然后可以基于日志系统配置文件config.xml对LogService.exe的配置对采集的日志数据进行集中处理(例如,定时清空、处理为预定格式),再然后可以对日志数据进行集中存储和/或灵活展示。其中,对日志数据进行集中存储和/或灵活展示可以是,例如通过LogRecerver.dll将LogService.exe中处理后的日志数据实时发送到日志展示器LogViewer.exe中进行实时展示,或者例如依次通过LogRecerver.dll以及LogWriter.exe将LogService.exe中处理后的日志数据发送到日志数据库进行保存。
在一些实施例中,在日志数据存储到数据库之后,也可以根据日志展示器的调用从数据库中调取历史日志数据并展示于日志展示器中。
根据本公开的实施例,在图2所示的日志处理流程框架中日志从产生到最终的存储的整个阶段中,底层技术都通过通信管道进行通信。
以下结合图1的应用场景和图2的流程框架,对本公开实施例的日志处理方法的具体实现进行示例性描述。
图3示意性示出了根据本公开实施例的日志处理方法的流程图。
如图3所示,根据本公开的实施例该日志处理方法可以包括操作S310和操作S320。
在操作S310,采集多个应用程序运行过程中产生的日志,得到来自多应用的日志。例如,该多个应用程序运行时可以加载LogProvider.dl来实现日志的输出。
以图2中的360EntClient.exe进程为例,360EntClient.exe加载日志处理系统200提供的LogProvider.dll后,LogProvider.dll可以先向LogService.exe注册该进程360EntClient.exe。注册后日志控制中心LogService.exe设置360EntClient.exe进程日志的等级和/或进程日志缓存调试等信息。之后360EntClient.exe就可以通过调用LogProvider.dll组件提供的写日志接口将日志发送到日志控制中心LogService.exe了。以此方式实现对进程360EntClient.exe的日志数据的采集。对于图2中的日志输出业务方的其他的进程,均以类似于360EntClient.exe的方式进行处理,从而相应地可以采集到其他进程的日志数据,得到该来自多应用的日志。
在操作S320,将该来自多应用的日志发送给预定的日志接收方,以统一存储或统一展示该来自多应用的日志。
日志接收方例如可以是图2中所示的日志数据库和/或日志展示器。在操作S320中LogService.exe接收到该来自多应用的日志后,可以按照预定的规则(例如,与日志数据库和日志展示器各自对应的日志筛选条件)将该来自多应用的日志部分或全部发送到日志数据库中进行统一存储、或者发送到日志展示器中进行统一展示,以此方式对该来自多应用的日志进行集中管理。
根据本公开的实施例,可以集中采集该多个应用程序产生的日志,并统一存储或展示。各个应用程序可以无需关心日志的输出路径、存储位置和/或展示方式,提高了多个应用程序的日志的处理效果。
根据本公开的实施例,操作S310中该来自多应用的日志的采集以及操作S320中对来自多应用的日志的发送均可以使用通信管道来实现。使用通信管道进行日志数据传输的过程中,可以严格校验以保证数据的正确性,日志内容也可以被压缩以去除冗余数据,减少数据传输量,提高日志数据的传输效率。
图4意性示出了根据本公开另一实施例的日志处理方法的流程图。
如图4所示,根据本公开实施例该日志处理方法可以包括操作S310、操作S410和操作S321。其中,操作S310与前述一致,操作S321为操作S320的一个具体实施例。
在操作S310之后执行操作S410。具体地,在操作S410,将该来自多应用的日志的格式统一处理为预定格式,得到具有预定格式的日志。
然后在操作S321,将具有预定格式的日志发送给日志接收方。该预定格式,例如可以规定一条日志需要包括的日志标识信息的各个字段、和/或日志的内容格式等,其中该日志标识信息可以包括但不限于进程名称、日志产生的时间区间、日志级别、关键字等。
根据本公开的实施例,该日志处理方法可以将日志设置为统一的预定格式,可以便于日志的统一检索,便于灵活管理。例如可以按照日志输出时间和/或日志条数等粒度精确控制总日志大小等。
本公开实施例的日志处理方法,有效地改善了相关技术中各个应用程序分别以各自的方式处理日志导致的日志存储分散、格式不统一、日志等级不明确、无法实时对日志等级进行调整、不能稳定复现的缺陷,使得多个应用程序产生的日志可以被集中采集、集中处理为统一的格式、并集中展示或存储。这样带来的好处多种多样:例如,可以通过对日志数据库的加密可以实现日志的统一加密,而不像现有技术那样日志分散统一加密困难;又例如,由于日志格式统一,可以在日志展示器中设置过滤条件统一检索;又例如,日志可以统一存储在日志数据库,日志数据库可以设置于服务器103中,从而即使日志数据库中存储的日志过多也不会影响到各个应用程序本身的运行,而现有技术中由于应用程序自己处理日志的输出,当日志存储过多时往往会影响到应用程序本身的运行;再例如,由于日志格式统一,可以通过集中操作来批量调整日志的等级等等。
本公开实施例的日志处理方法可以为日志检索提供支持。例如,可以通过对日志标识信息中关键字段(例如,进程明、日志等级、日志产生时间)的检索,来查看或排查终端设备101中的安全防护的历史策略/历史任务、终端设备101最近执行了什么操作、什么时候进行了什么扫描、拦截了什么东西等等。
图5示意性示出了根据本公开再一实施例的日志处理方法的流程图。
如图5所示,根据本公开的实施例该日志处理方法可以包括操作S510~操作S520、操作S310、操作S530、以及操作S322。
首先在操作S510,配置日志接收方包括日志数据库和日志展示器。
然后在操作S520,配置与日志数据库和日志展示器各自对应的日志筛选条件。
接着在操作S310,采集多个应用程序运行过程中产生的日志,得到来自多应用的日志。具体与前述一致,此处不再赘述。
此后在操作S530,解析该来自多应用的日志中的每个日志,得到每个日志的日志标识信息。
之后在操作S322,据每个日志的日志标识信息以及日志筛选条件,将每个日志发送到日志数据库和/或日志展示器。操作S322为操作S320的一个具体实施例。
例如,图2中LogService.exe收到LogProvider.dll从各个进程采集的日志数据后,可以解析日志数据,并根据日志数据中的日志标识信息(诸如进程名、日志级别、关键字等)与日志接收方(日志数据库和日志展示器)的日志筛选条件进行匹配,匹配成功则日志转发给相应的日志接收方处理。
图6示意性示出了根据本公开实施例的配置日志展示器对应的日志筛选条件的用户界面60。
结合图2和图6,日志展示器LogViewer.exe启动后可以默认将所有连接到日志控制中心LogService.exe的日志全部实时输出的日志展示器进行展示。如果只想看特定进程或者特定等级的日志,则可以通过图6的用户界面60中的Set Process Log Level设置用户关心的进程以及日志级别。具体地设置示意可以参考图7的用户界面70。
图7示意性示出了据本公开实施例的配置日志展示器对应的日志筛选条件的另一用户界面70。
如图7所示,在用户界面70设置日志展示器中进行展示的日志筛选条件具体为进程是4120-360tray.exe,日志级别为LOG_LEVEL_WARINNIG及以下级别,这样,只有进程ID为4120,日志级别LOG_LEVEL_WARINNIG及以下级别的日志才会被发送到日志展示器进行展示。
图8示意性示出了根据本公开实施例的在日志展示器中展示日志的用户界面80。
如图8所示,在用户界面80中日志可以按照模块(例如,进程名360EntProctMon)、进程ID(例如,4120)、线程ID(例如,5020、或1552)、关键字(例如,进程管控)、以及信息(即,日志内容)等字段格式统一展示。以此方式,既能够呈现整齐统一的展示风格,克服现有技术中日志展示时杂乱无章的缺陷;又能够便于用户根据各个字段的信息对日志进行检索或排查,能够充分提升日志的可利用价值。
图9示意性示出了根据本公开又一实施例的日志处理方法的流程图。
如图9所示,根据本公开实施例该日志处理方法除了包括操作S310和操作S320以外,还可以包括操作S920和操作S930。
其中,操作S920在操作S310之后。在操作S920,将采集到的该来自多应用的日志暂存到缓存队列。结合图2,考虑进程写日志的量可能比较大,或者某个时刻输出日志比较多,直接发送大量日志给日志控制中心LogService.exe,会让进程CPU资源占用过高,因此LogProvider.dll组件可以提供日志缓存机制,在各个应用程序的进程通过LogProvider.dll组件进行日志输出后,可以先使日志会进入缓存队列,再异步发送到LogService.exe以降低系统资源占用。
在操作S930,基于用户操作,导出该来自多应用的日志。可以理解,图9中操作S930位于操作S320之后仅是一种示例。在实际应用中,操作S930可以在操作S310之后的任意时刻执行,例如,在操作S310采集到该来自多应用的日志后根据用户操作实时导出,或者在操作920中将该来自多应用的日志暂存到的缓存队列后从缓存队列中获取日志并导出,或者在操作S320中日志发送到日志接收方的同时导出。
图10示意性示出了根据本公开实施例导出日志的用户界面100。图11示意性示出了根据本公开实施例的导出日志后得到的文件的显示界面110。
如图10所示,可以根据用户操作,在用户界面100中设置需要导出的日志的进程名、进程ID、线程ID、关键字、日志的产生时间等,然后例如可以通过菜单Save As将日志导出成其他数据格式,比如文本文件和csv文件。导出的日志文件的显示界面例如可以如图11的显示界面110所示。
本公开实施例的日志处理方法,可以按照关键字、进程ID、线程ID等各种条件进行日志的检索或导出,对于问题排查非常有意义。比如针对升级业务的应用程序,可以预先设置应用程序的的日志关键字统一为“升级”。那么在排查升级相关的问题时,就可以使用关键字“升级”过滤出所有升级相关的日志进行排查,可以极大缩短在大量日志中搜集所需信息需要的时间。
图12示意性示出了根据本公开实施例的日志处理装置1200的框图。
如图12所示,根据本公开的实施例该日志处理装置1200可以包括日志采集模块1210、以及日志发送模块1220。根据本公开的另一些实施例,该日志处理装置1200还可以包括日志处理模块1230、配置模块1240、和/或缓存模块1250。该日志处理装置1200可以用于执行参考图2~图11所描述的日志处理方法。
日志采集模块1210例如可以执行操作S310,用于采集多个应用程序运行过程中产生的日志,得到来自多应用的日志。
日志发送模块1220例如可以执行操作S320,用于将该来自多应用的日志发送给预定的日志接收方,以统一存储或统一展示该来自多应用的日志。
日志处理模块1230例如可以执行操作S410,用于将该来自多应用的日志的格式统一处理为预定格式,得到具有预定格式的日志。则,日志发送模块1220例如具体可以执行操作S321,还用于将具有预定格式的日志发送给日志接收方。
日志处理模块1230例如可以执行操作S930,还用于基于用户操作,导出该来自多应用的日志。
配置模块1240例如可以执行操作S510,用于配置日志接收方包括日志数据库和日志展示器。则,日志发送模块1220还用于按照日志数据库和日志展示器各自对应的日志筛选条件,将该来自多应用的日志对应发送到日志数据库和/或日志展示器。
配置模块1240例如还可以执行操作S520,还用于配置与日志数据库和日志展示器各自对应的日志筛选条件。
其中,配置模块1240配置的日志筛选条件可以包括按照日志标识信息设置的筛选条件。则,日志处理模块1230例如还可以执行操作S530,用于解析该来自多应用的日志中的每个日志,得到每个日志的日志标识信息。日志发送模块1220例如还可以执行操作S322,用于根据每个日志的日志标识信息以及日志筛选条件,将每个日志发送到日志数据库和/或日志展示器。
缓存模块1250例如可以执行操作S920,用于在将该来自多应用的日志发送给预定的日志接收方之前,将该来自多应用的日志暂存到缓存队列。
图13示意性示出了根据本公开实施例的日志处理系统1300的系统架构图。
如图13所示,根据本公开实施例该日志处理系统1300可以包括核心组件1310、中间层1320、以及应用层1330。该日志处理系统1300可以用于执行参考图2~图11所描述的日志处理方法。
核心组件1310用于用于提供与多个应用程序之间的进程间通信、以及与日志接收方的数据传输。
核心组件1310是整个新日志系统的基石,例如可以包括有IMsgClient组件、ImemoryManager组件、ILogEventManager组件、ILogDBhelper组件、ImsgCenter组件。其中,IMsgClient组件以及IMsgCenter组件主要提供了进程间通信支持。IMemoryManager组件提供高效的内存分配支持。ILogEventManager组件提供抽象的日志事件管理器,用于日志格式配置等。ILogDBhelper组件提供日志数据库的写入辅助服务。
中间层1320用于配置从多个应用程序的运行过程中采集日志的日志采集规范、以及配置向日志接收方发送日志的日志传输规范。
中间层1320例如可以提供LogHelper.h头文件。开发者可以需要进行日志集中处理的应用程序的工程中包含此头文件,从而在应用程序运行时可以自动加载LogProvider.dll组件进行日志的输出。
应用层1330用于基于进程间通信,按照日志采集规范采集多个应用程序运行过程中产生的日志,得到来自多应用的日志,以及基于与日志接收方的数据传输,按照日志传输规范将该来自多应用的日志发送给日志接收方,以统一存储或统一展示该来自多应用的日志。
应用层1330例如可以包括如图2所示的日志采集组件LogProvider、日志控制中心LogService、和/或日志展示器LogViewer。应用层1330可以在中间层1320的支持下,提供了日志控制中心服务、日志存储服务,并为日志输出方和日志分析方提供了良好的支持。
该日志处理系统1300中处于应用层1330上的组件可以仅关注自己的实际任务(例如,与各个应用程序的交互),不用关心底层的日志实现,不用操心日志如何输出、格式如何统一、日志如何接收、如何存储、如何清理等等细节。同时,层次化的设计也带来了高度的稳定性和可扩展性,如果想对某一层的某些组件进行优化和扩展,在接口保持不变的情况下,可以随意进行组件替换和升级。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,日志采集模块1210、日志发送模块1220、日志处理模块1230、配置模块1240、缓存模块1250、核心组件1310、中间层1320、以及应用层1330中的任意多个可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,日志采集模块1210、日志发送模块1220、日志处理模块1230、配置模块1240、缓存模块1250、核心组件1310、中间层1320、以及应用层1330中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,日志采集模块1210、日志发送模块1220、日志处理模块1230、配置模块1240、缓存模块1250、核心组件1310、中间层1320、以及应用层1330中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图14示意性示出了适于实现根据本公开实施例的日志处理方法的计算机系统1400的框图。图14示出的计算机系统仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图14所示,根据本公开实施例的计算机系统1400包括处理器1401,其可以根据存储在只读存储器(ROM)1402中的程序或者从存储部分1408加载到随机访问存储器(RAM)1403中的程序而执行各种适当的动作和处理。处理器1401例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器1401还可以包括用于缓存用途的板载存储器。处理器1401可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 1403中,存储有计算机系统1400操作所需的各种程序和数据。处理器1401、ROM 1402以及RAM 1403通过总线1404彼此相连。处理器1401通过执行ROM 1402和/或RAM1403中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 1402和RAM 1403以外的一个或多个存储器中。处理器1401也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,计算机系统1400还可以包括输入/输出(I/O)接口1405,输入/输出(I/O)接口1405也连接至总线1404。系统1400还可以包括连接至I/O接口1405的以下部件中的一项或多项:包括键盘、鼠标等的输入部分1406;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1407;包括硬盘等的存储部分1408;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1409。通信部分1409经由诸如因特网的网络执行通信处理。驱动器1410也根据需要连接至I/O接口1405。可拆卸介质1411,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1410上,以便于从其上读出的计算机程序根据需要被安装入存储部分1408。
根据本公开的实施例,根据本公开实施例的方法流程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分1409从网络上被下载和安装,和/或从可拆卸介质1411被安装。在该计算机程序被处理器1401执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可渎存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 1402和/或RAM 1403和/或ROM 1402和RAM 1403以外的一个或多个存储器。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (11)
1.一种日志处理方法,包括:
采集多个应用程序运行过程中产生的日志,得到来自多应用的日志;以及
将所述来自多应用的日志发送给预定的日志接收方,以统一存储或统一展示所述来自多应用的日志。
2.根据权利要求1所述的方法,其中:
所述方法还包括将所述来自多应用的日志的格式统一处理为预定格式,得到具有预定格式的日志;
则,所述将所述来自多应用的日志发送给预定的日志接收方包括:将所述具有预定格式的日志发送给所述日志接收方。
3.根据权利要求1所述的方法,其中:
所述方法还包括:配置所述日志接收方包括日志数据库和日志展示器;
则,所述将所述来自多应用的日志发送给预定的日志接收方包括:
按照所述日志数据库和日志展示器各自对应的日志筛选条件,将所述来自多应用的日志对应发送到所述日志数据库和/或所述日志展示器。
4.根据权利要求3所述的方法,其中,所述方法还包括:
配置与所述日志数据库和所述日志展示器各自对应的日志筛选条件。
5.根据权利要求3所述的方法,其中,所述日志筛选条件包括按照日志标识信息设置的筛选条件;
所述方法还包括:解析所述来自多应用的日志中的每个日志,得到所述每个日志的日志标识信息;
则,所述按照所述日志数据库和日志展示器各自对应的日志筛选条件,将所述来自多应用的日志对应发送到所述日志数据库和/或所述日志展示器,包括:
根据所述每个日志的日志标识信息以及所述日志筛选条件,将所述每个日志发送到所述日志数据库和/或所述日志展示器。
6.根据权利要求1所述的方法,其中,在所述将所述来自多应用的日志发送给预定的日志接收方之前,所述方法还包括:
将所述来自多应用的日志暂存到缓存队列。
7.一种日志处理装置,包括:
日志采集模块,用于采集多个应用程序运行过程中产生的日志,得到来自多应用的日志;以及
日志发送模块,用于将所述来自多应用的日志发送给预定的日志接收方,以统一存储或统一展示所述来自多应用的日志。
8.一种日志处理系统,包括:
核心组件,用于提供与多个应用程序之间的进程间通信、以及与日志接收方的数据传输;
中间层,用于配置从所述多个应用程序的运行过程中采集日志的日志采集规范、以及配置向所述日志接收方发送日志的日志传输规范;
应用层,用于:
基于所述进程间通信,按照所述日志采集规范采集所述多个应用程序运行过程中产生的日志,得到来自多应用的日志;以及
基于与所述日志接收方的数据传输,按照所述日志传输规范将所述来自多应用的日志发送给所述日志接收方,以统一存储或统一展示所述来自多应用的日志。
9.一种日志处理系统,
一个或多个存储器,存储有可执行指令;以及
一个或多个处理器,执行所述可执行指令,以实现根据权利要求1~6中任一项所述的方法。
10.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~6中任一项所述的方法。
11.一种计算机程序,所述计算机程序包括计算机可执行指令,所述指令在被执行时用于实现根据权利要求1~6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010465043.2A CN111625423A (zh) | 2020-05-27 | 2020-05-27 | 日志处理方法、装置、系统、介质、及程序 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010465043.2A CN111625423A (zh) | 2020-05-27 | 2020-05-27 | 日志处理方法、装置、系统、介质、及程序 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111625423A true CN111625423A (zh) | 2020-09-04 |
Family
ID=72272363
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010465043.2A Pending CN111625423A (zh) | 2020-05-27 | 2020-05-27 | 日志处理方法、装置、系统、介质、及程序 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111625423A (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160098325A1 (en) * | 2013-06-19 | 2016-04-07 | Hewlett-Packard Development Company, L.P. | Unifying application log messages using runtime instrumentation |
CN109800223A (zh) * | 2018-12-12 | 2019-05-24 | 平安科技(深圳)有限公司 | 日志处理方法、装置、电子设备及存储介质 |
CN110399271A (zh) * | 2019-07-29 | 2019-11-01 | 中国工商银行股份有限公司 | 日志处理设备、方法、电子设备及计算机可读存储介质 |
-
2020
- 2020-05-27 CN CN202010465043.2A patent/CN111625423A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160098325A1 (en) * | 2013-06-19 | 2016-04-07 | Hewlett-Packard Development Company, L.P. | Unifying application log messages using runtime instrumentation |
CN109800223A (zh) * | 2018-12-12 | 2019-05-24 | 平安科技(深圳)有限公司 | 日志处理方法、装置、电子设备及存储介质 |
CN110399271A (zh) * | 2019-07-29 | 2019-11-01 | 中国工商银行股份有限公司 | 日志处理设备、方法、电子设备及计算机可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110262807B (zh) | 集群创建进度日志采集系统、方法和装置 | |
US10552293B2 (en) | Logging as a service | |
CN111221521A (zh) | 日志代码的生成方法、装置、计算机系统和可读存储介质 | |
CN112799940B (zh) | 回归测试方法、装置、计算机系统和计算机可读存储介质 | |
CN107644075B (zh) | 收集页面信息的方法和装置 | |
CN113138757B (zh) | 前端代码自动生成方法、装置、服务器、系统及介质 | |
CN114327678A (zh) | 一种支持多引擎的实时数据处理系统及方法 | |
US8694596B2 (en) | Systems and methods for information brokering in software management | |
CN116841902A (zh) | 健康状态检查方法、装置、设备及存储介质 | |
US11720476B2 (en) | Automated end-to-end testing platform with dynamic container configuration | |
CN116662302A (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN111625423A (zh) | 日志处理方法、装置、系统、介质、及程序 | |
CN113495498B (zh) | 用于硬件设备的模拟方法、模拟器、设备和介质 | |
CN111881025B (zh) | 一种自动化测试任务调度方法、装置及系统 | |
CN115202973A (zh) | 应用运行状态的确定方法、装置、电子设备和介质 | |
CN114782013A (zh) | 用于流程建模的请求处理方法、装置及电子设备 | |
CN114816477A (zh) | 服务器升级方法、装置、设备、介质和程序产品 | |
CN111382057B (zh) | 测试用例生成方法,测试方法及装置,服务器及存储介质 | |
CN113434382A (zh) | 数据库性能监控方法、装置、电子设备及计算机可读介质 | |
CN111831527A (zh) | 扫描数据库性能问题的方法、装置、电子设备、及介质 | |
CN114448976B (zh) | 网络报文的组装方法、装置、设备、介质和程序产品 | |
CN113360368B (zh) | 一种软件性能测试的方法和装置 | |
CN114579343A (zh) | 异常排查方法、装置、设备、介质和程序产品 | |
US20140207812A1 (en) | Methods and apparatus for collecting electronically stored information | |
CN114138611A (zh) | 一种服务作业日志的诊断方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |