CN114116429A - 异常日志采集方法、装置、设备、介质和产品 - Google Patents

Abstract

本公开提供了一种异常日志采集方法，可以应用于系统监控领域。该异常日志采集方法包括：生成配置文件，所述生成配置文件包括对消息的生产者进行配置，所述消息的生产者包括日志采集器与日志输出器；根据配置文件采集并输出系统的运行日志，筛选出异常日志并写入消息中间件；拉取所述消息中间件中的异常日志以供消息的消费者监听是否触发预设条件，其中，所述预设条件包括同一异常事件对应输出的异常日志个数达到预设阈值；当触发预设条件时过滤所述异常日志以减少同一异常事件对应输出的异常日志个数，并将过滤后的异常日志写入存储介质。本公开还提供了一种异常日志采集装置、设备、存储介质和程序产品。

Description

异常日志采集方法、装置、设备、介质和产品

技术领域

本公开涉及数据的传输及处理领域，具体涉及系统监控领域，更具体地涉及一种异常日志采集方法、装置、设备、介质和程序产品。

背景技术

系统运行时异常日志监控是十分必要的，并且在出现异常事件时需及时告知相应的运维或开发人员。时下流行开源的ELK+ZABBIX框架，可以做异常日志收集分析，可视化及异常告警，但是框架涉及多个组件服务的部署，对于中小型单体或分布式系统来说是一种额外的部署及维护成本。

因此，如何在中小型系统中进行异常日志采集是本领域技术人员亟待解决的问题。

发明内容

鉴于上述问题，本公开提供了一种异常日志采集方法、装置、设备、介质和程序产品。

根据本公开的第一个方面，提供了一种异常日志采集方法，包括：生成配置文件，所述生成配置文件包括对消息的生产者进行配置，所述消息的生产者包括日志采集器与日志输出器；根据配置文件采集并输出系统的运行日志，筛选出异常日志并写入消息中间件；拉取所述消息中间件中的异常日志以供消息的消费者监听是否触发预设条件，其中，所述预设条件包括同一异常事件对应输出的异常日志个数达到预设阈值；当触发预设条件时过滤所述异常日志以减少同一异常事件对应输出的异常日志个数，并将过滤后的异常日志写入存储介质。

根据本公开的实施例，所述对消息的生产者进行配置，包括：配置所述日志采集器以明确异常日志输出的相关信息；配置所述日志输出器以明确异常日志输出的目的地。

根据本公开的实施例，所述根据配置文件采集并输出系统的运行日志，筛选出异常日志并写入消息中间件，包括：根据所述日志采集器采集所述运行日志，基于输出等级筛选运行日志中的异常日志；以及通过所述日志输出器输出至对应的所述消息中间件。

根据本公开的实施例，所述拉取所述消息中间件中的异常日志以供消息的消费者监听是否触发预设条件，包括：提取每个异常日志中的分类标识，根据所述分类标识对所述异常日志进行分类处理以确定同一异常事件；判断在规定时间内的同一异常事件出现的次数是否达到预设阈值；若是，则对于同一异常事件仅保留预设个数的所述异常日志；其中，所述预设个数小于所述预设阈值。

根据本公开的实施例，所述根据所述分类标识对所述异常日志进行分类处理以确定同一异常事件，包括：将同一所述分类标识进行格式转换为唯一Key值；将所述Key值对应的异常数据作为Value值，建立Key-Value关系。

根据本公开的实施例，所述日志采集器包括：日志采集器名称、具体类、系统标识、异常发生时间戳、异常摘要和异常详细堆栈中的至少一种；所述日志输出器包括：日志输出器名称、系统标识和目的端口中的至少一种。

根据本公开的实施例，所述分类标识包括：系统标识、具体类、异常摘要。

本公开的第二方面提供了一种异常日志采集装置，包括：第一模块：用于生成配置文件，所述生成配置文件包括对消息的生产者进行配置，所述消息的生产者包括日志采集器与日志输出器；第二模块：用于根据配置文件采集并输出系统的运行日志，筛选出异常日志并写入消息中间件；第三模块：用于拉取所述消息中间件中的异常日志以供消息的消费者监听是否触发预设条件，其中，所述预设条件包括同一异常事件对应输出的异常日志个数达到预设阈值；第四模块：用于当触发预设条件时过滤所述异常日志以减少同一异常事件对应输出的异常日志个数，并将过滤后的异常日志写入存储介质。

本公开的第三方面提供了一种电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个程序，其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得一个或多个处理器执行上述异常日志采集方法。

本公开的第四方面还提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行上述异常日志采集方法。

本公开的第五方面还提供了一种计算机程序产品，包括计算机程序，该计算机程序被处理器执行时实现上述异常日志采集方法。

附图说明

通过以下参照附图对本公开实施例的描述，本公开的上述内容以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了根据本公开实施例的异常日志采集方法、装置、设备、介质和程序产品的应用场景图；

图2示意性示出了根据本公开实施例的异常日志采集方法的流程图；

图3示意性示出了根据本公开实施例的异常日志过滤的流程图；

图4示意性示出了根据本公开实施例的异常日志归类的流程图；

图5示意性示出了根据本公开实施例的中小型系统异常日志采集的架构图；

图6示意性示出了根据本公开实施例的异常日志采集装置图；以及

图7示意性示出了根据本公开实施例的适于实现异常日志采集方法的电子设备的方框图。

具体实施方式

以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。

本公开的实施例提供了一种异常日志采集方法，根据配置文件采集并输出系统的运行日志并筛选类型为异常的日志，得到异常日志，所述配置文件包括对消息的生产者进行配置；将所述异常日志写入消息中间件以供消息的消费者拉取并监听是否触发预设条件，所述预设条件包括同一异常事件对应输出的异常日志个数达到预设阈值；当触发预设条件时过滤所述异常日志，并将过滤后的异常日志写入存储介质。

图1示意性示出了根据本公开实施例的异常日志采集的应用场景图。

如图1所示，根据该实施例的应用场景100可以包括异常日志采集。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。

终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

服务器105可以是提供各种服务的服务器，例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。

需要说明的是，本公开实施例所提供的异常日志采集方法一般可以由服务器105执行。相应地，本公开实施例所提供的异常日志采集装置一般可以设置于服务器105中。本公开实施例所提供的异常日志采集方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的异常日志采集装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

以下将基于图1描述的场景，通过图2～图6对公开实施例的异常日志采集方法进行详细描述。

图2示意性示出了根据本公开实施例的异常日志采集方法的流程图。

如图2所示，该实施例的异常日志采集方法包括操作S210～操作S240，该交易处理方法可以由服务器105执行。

在操作S210，生成配置文件，所述生成配置文件包括对消息的生产者进行配置，所述消息的生产者包括日志采集器与日志输出器。

在操作S220，根据配置文件采集并输出系统的运行日志，筛选出异常日志并写入消息中间件。

需要说明的是，所述配置文件包括基于对日志框架进行配置。而日志框架类型有很多种，本公开的实施例并不作具体限定。以java(一门面向对象编程语言)领域为例，常用的日志框架包括common-logging，Log4j，Logback或jdk-logging等类型。其中，Log4j框架是Apache为Java提供的日志管理工具，用以跟踪、调试、维护程序。Log4j中有三大组件：1.日志采集器(logger)：负责供客户端代码调用，用以输出日志消息的类，它可以输出不同级别的消息，例如错误消息、警告消息等；2.日志输出器(Appender)：负责日志的输出，可以向文件输出日志、向控制台输出日志、向socket输出日志。3.格式化器(Layout)：对输出的消息进行给格式化，例如在消息中添加日期或者级别等。Log4j中日志消息分为五个级别：其分别为FATAL(重大错误)、ERROR(错误)WARN(警告)、INFO(信息)以及DEBUG(调试)。通过修改日志消息的级别的方式改变输出日志信息的日志的输出量得到我们想要的信息。

还需要说明的是，AppenderSkeleton继承自Appender类，实现Appender的通用功能，但没有实现继承自Appender的部分接口，所以仍然是一个抽象类，不能实例化。AppenderSkeleton的所有函数都是线程安全的。因此，自定义Appender可以从AppenderSkeleton派生。而在Java环境中，日志框架的接入基于预先安装的Monitor.jar，该软件包中封装了日志的采集包括Log4j框架下的MonitorAppender和消息中间件kafka或rabbitmq。

根据本公开的实施例，对日志框架进行继承与重写得到配置文件。

根据本公开的实施例，所述对消息的生产者进行配置，包括：对所述日志采集器进行配置，包括采集以下信息：日志采集器名称、具体类、系统标识、异常发生时间戳、异常摘要、异常详细堆栈中的至少一种；对所述日志输出器进行配置，包括添加以下信息：日志输出器名称、系统标识、目的端口中的至少一种。

例如，所述配置文件包括自定义的Appender，在此，我们将自定义的Appender命名为MonitorAppender，MonitorAppender通过继承Log4j框架下的AppenderSkeleton，MonitorAppender变相实现了Appender接口，并对Appender进行重写，仅保留具体类为具体类为ERROR的日志，对具体类为非ERROR日志进行过滤，得到仅有ERROR类型的日志也就是异常日志。ERROR日志包括堆栈等完整信息。当然，也可根据实际需求将异常日志定义为一个或多个的组合的其他具体类日志。具体地，对于日志采集器，在自定义的Appender中修改相关配置，包括日志器名称、具体类、系统标识、异常发生时间戳、异常摘要、异常详细堆栈中的至少一种；对于日志输出器，在自定义的Appender中增加相关配置项，包括输出器名称、系统标识、目的端口中的至少一种。

又例如，消息中间件可以采用kafka或rabbitmq等支持分布式的消息系统。将ERROR日志的数据传输至消息中间件kafka或rabbitmq。

本公开的实施例，在服务启动时，触发在设定目录下的软件开发工具包内的程序代码段被执行时，即重写后的日志框架开始被执行并在后台运行异常日志采集以不断的生产异常日志。对原始代码实现零侵入且具有便于复用的特点，避免破坏服务中代码的完整性的问题发生。同时，采用消息中间件有去耦合、异步处理以及流量削峰等好处，特别在高并发期间，还能够很好的防止业务中断。

在操作S230，拉取所述消息中间件中的异常日志以供消息的消费者监听是否触发预设条件，所述预设条件包括同一异常事件对应输出的异常日志个数达到预设阈值；

根据本公开的实施例，在消费者拉取异常日志后对异常日志进行归类。归类包括明确哪些异常日志表示同一异常事件但在不同时间输出的，并记录该异常事件所对应的异常日志的个数。

在操作S240，当触发预设条件时过滤所述异常日志以减少同一异常事件对应输出的异常日志个数，并将过滤后的异常日志写入存储介质。

根据本公开的实施例，当上述同一异常事件所对应的异常日志的个数达到预设阈值时，过滤掉大部分的针对同一异常事件发出的异常日志以防冗余的异常日志进入数据库。

根据本公开的实施例，上述过滤异常日志的过滤规则可依据具体情况自行规定。例如，高并发下触发了某个异常，那么我们可以设置诸如1分钟同个异常只入库100次(预设阈值可配置)的上限。

本公开的实施例，通过消费者监听消息队列，将异常日志过滤后入库，防止重复信息撑爆数据库，也能避免逐条入库导致消费速度严重跟不上消息生产的速度，导致后面其他异常告警被阻塞。

图3示意性示出了根据本公开实施例的异常日志过滤的流程图。

如图3所示，该实施例的异常日志过滤方法包括操作S310～操作S330，该交易处理方法可以服务器105执行。

在操作S310，提取每个异常日志中的分类标识，根据所述分类标识对所述异常日志进行分类处理以确定同一异常事件；

根据本公开的实施例，所述分类标识包括：系统标识、具体类、异常摘要。基于所述分类标识对异常日志进行归类。

例如，在分布式系统中往往存在多个主机服务器，系统标识用以定位具体某个主机服务器的系统所对应的异常日志。系统标识已在配置文件中进行配置，即已在重写Appender时添加系统标识。在定位好具体的系统之后再定位具体类，紧接着根据异常摘要进行更精确的定位。而当定位到异常摘要时便能够区分接收到的异常日志是否反映同一异常事件。

需要说明的是，Java中带有类的概念，类是一个模板，它用于描述一类对象的行为和状态，一个Java类可以包含类变量、成员变量以及局部变量。本公开的实施例中基于系统标识、具体类以及异常摘要以定位异常日志中异常发生的位置以及归类属于同一异常事件的异常日志。

在操作S320，判断在规定时间内的同一异常事件出现的次数是否达到预设阈值；

根据本公开的实施例，上述异常日志的个数并非累计个数，而是指一定时间内输出的个数，这里的一定时间可以根据运维人员自行调整，可以是一分钟，也可以是三分钟，在此不做限定。

例如，采用内存缓存Redis做计数器消费者从Kafka拿到异常日志时，先通过归类算法明确同一异常事件的异常日志，从Redis获取同一异常事件的异常日志当前三分钟(可配置)出现的次数(首次设置为1)，如果超过预设阈值(比如100次)，则超过阈值的直接忽略，不需要写入Mysql等存储介质，没超过的话，在原来的基础上加1，并将异常信息写入Mysql等数据库对应的存储介质。

在操作S330，若是，则对于同一异常事件仅保留预设个数的所述异常日志；其中，所述预设个数远小于所述预设阈值。

根据本公开的实施例，预设阈值的设立对应于规定的时间内同一异常事件所对应的异常日志个数，而预设个数的设立对应于存入存储介质中同一异常事件所对应的异常日志个数，其目的仅在于告警与展示，所以同一异常事件存入存储介质的对应异常日志个数不应过多。

例如，在异常日志高并发的状态下，可以规定在一段时间内100个相同日志仅存储1个；或者，定在一段时间内300个相同异常时间对应的异常日志仅存储1个。

图4示意性示出了根据本公开实施例的异常日志归类的流程图。

如图4所示，该实施例的异常日志归类方法包括操作S410～操作S420，该交易处理方法可以服务器105执行。

在操作S410，将同一所述分类标识进行格式转换为唯一Key值；

在操作S420，将所述Key值对应的异常数据作为Value值，建立Key-Value关系。

根据本公开的实施例，上述异常数据包括异常详细堆栈。

例如，基于MD5算法，将上述分类标识：系统标识、输出类、异常摘要进行转码操作，转换成为唯一Key值，即一个Key值对应唯一的异常事件。并且，建立该Key值与异常详细堆栈的Key-Value关系用以存取数据的同时保证数据Key值是被加密状态。

需要说明的是，MD5算法的原理是通过生成随机数与MD5生成字符串进行组合，该算法的随机性与不确定性导致其具有极高的保密程度。

图5示意性示出了根据本公开实施例的中小型系统异常日志采集的架构图。

如图5所示，分布式系统的消息的生产者MonitorAppender采集异常日志，其中，每个MonitorAppender对应一个系统。将采集到的异常日志发送至消息中间件kafka的阻塞队列以供消费者拉取、监听以及过滤。接着，再将过滤后的异常日志存储至存储介质mysql进行消息入库，最后，后台的异常分析及告警进程定时汇总告警程序并发送至外部接口。例如，异常分析及告警进程可以按异常的日志名和异常摘要信息汇总1分钟或配置指定时间内的所有异常归类数据统一发送一次告警信息，通过短信，邮件或接入诸如企业微信等通知接口告知对应系统运维或开发负责人。

基于上述异常日志采集方法，本公开还提供了一种异常日志采集装置。以下将结合图6对该装置进行详细描述。

图6示意性示出了根据本公开实施例的异常日志采集装置的结构框图。

如图6所示，该实施例的异常日志采集装置600包括第一模块610、第二模块620、第三模块630和第四模块640。

第一模块610：用于生成配置文件，所述生成配置文件包括对消息的生产者进行配置，所述消息的生产者包括日志采集器与日志输出器；

在一实施例中，所以模块610可以用于执行前文描述的操作S210，在此不再赘述。

第二模块620：用于根据配置文件采集并输出系统的运行日志，筛选出异常日志并写入消息中间件。

在一实施例中，第二模块820可以用于执行前文描述的操作S220，在此不再赘述。

第三模块630：用于拉取所述消息中间件中的异常日志以供消息的消费者监听是否触发预设条件，其中，所述预设条件包括同一异常事件对应输出的异常日志个数达到预设阈值。

在一实施例中，第三模块630可以用于执行前文描述的操作S230，在此不再赘述。

第四模块640：用于当触发预设条件时过滤所述异常日志以减少同一异常事件对应输出的异常日志个数，并将过滤后的异常日志写入存储介质。

根据本公开的实施例，第一模块610、第二模块620、第三模块630和第四模块640中的任意多个模块可以合并在一个模块中实现，或者其中的任意一个模块可以被拆分成多个模块。或者，这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合，并在一个模块中实现。根据本公开的实施例，第一模块610、第二模块620、第三模块630和第四模块640中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，第一模块610、第二模块620、第三模块630和第四模块640中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

图7示意性示出了根据本公开实施例的适于实现异常日志采集方法的电子设备的方框图。

如图7所示，根据本公开实施例的电子设备700包括处理器701，其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。处理器701例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))等等。处理器701还可以包括用于缓存用途的板载存储器。处理器701可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 703中，存储有电子设备700操作所需的各种程序和数据。处理器701、ROM702以及RAM 703通过总线704彼此相连。处理器701通过执行ROM 702和/或RAM 703中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 702和RAM 703以外的一个或多个存储器中。处理器701也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例，电子设备700还可以包括输入/输出(I/O)接口705，输入/输出(I/O)接口705也连接至总线704。电子设备700还可以包括连接至I/O接口705的以下部件中的一项或多项：包括键盘、鼠标等的输入部分706；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707；包括硬盘等的存储部分708；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器710上，以便于从其上读出的计算机程序根据需要被安装入存储部分708。

本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。

根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质，例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 702和/或RAM 703和/或ROM 702和RAM 703以外的一个或多个存储器。

本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时，该程序代码用于使计算机系统实现本公开实施例所提供的物品推荐方法。

在该计算机程序被处理器701执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。

在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分709被下载和安装，和/或从可拆卸介质711被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

在这样的实施例中，该计算机程序可以通过通信部分709从网络上被下载和安装，和/或从可拆卸介质711被安装。在该计算机程序被处理器701执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (11)

1.一种异常日志采集方法，其特征在于，包括：

生成配置文件，所述生成配置文件包括对消息的生产者进行配置，所述消息的生产者包括日志采集器与日志输出器；

根据配置文件采集并输出系统的运行日志，筛选出异常日志并写入消息中间件；

拉取所述消息中间件中的异常日志以供消息的消费者监听是否触发预设条件，其中，所述预设条件包括同一异常事件对应输出的异常日志个数达到预设阈值；

当触发预设条件时过滤所述异常日志以减少同一异常事件对应输出的异常日志个数，并将过滤后的异常日志写入存储介质。

2.根据权利要求1所述的方法，其特征在于，所述对消息的生产者进行配置，包括：配置所述日志采集器以明确异常日志输出的相关信息；配置所述日志输出器以明确异常日志输出的目的地。

3.根据权利要求2所述的方法，其特征在于，所述根据配置文件采集并输出系统的运行日志，筛选出异常日志并写入消息中间件，包括：

根据所述日志采集器采集所述运行日志，基于输出等级筛选运行日志中的异常日志；以及

通过所述日志输出器输出至对应的所述消息中间件。

4.根据权利要求1所述的方法，其特征在于，所述拉取所述消息中间件中的异常日志以供消息的消费者监听是否触发预设条件，包括：

提取每个异常日志中的分类标识，根据所述分类标识对所述异常日志进行分类处理以确定同一异常事件；

判断在规定时间内的同一异常事件出现的次数是否达到预设阈值；

若是，则对于同一异常事件仅保留预设个数的所述异常日志；其中，所述预设个数小于所述预设阈值。

5.根据权利要求4所述的方法，其特征在于，所述根据所述分类标识对所述异常日志进行分类处理以确定同一异常事件，包括：

将同一所述分类标识格式转换为唯一Key值；

将所述Key值对应的异常数据作为Value值，建立Key-Value关系。

6.根据权利要求1至3任一项所述的方法，其特征在于，所述日志采集器包括：日志采集器名称、具体类、系统标识、异常发生时间戳、异常摘要和异常详细堆栈中的至少一种；所述日志输出器包括：日志输出器名称、系统标识和目的端口中的至少一种。

7.根据权利要求4或5所述的方法，其特征在于，所述分类标识包括：系统标识、具体类和异常摘要。

8.一种异常日志采集装置，其特征在于，包括：

第一模块：用于生成配置文件，所述生成配置文件包括对消息的生产者进行配置，所述消息的生产者包括日志采集器与日志输出器；

第二模块：用于根据配置文件采集并输出系统的运行日志，筛选出异常日志并写入消息中间件；

第三模块：用于拉取所述消息中间件中的异常日志以供消息的消费者监听是否触发预设条件，其中，所述预设条件包括同一异常事件对应输出的异常日志个数达到预设阈值；

第四模块：用于当触发预设条件时过滤所述异常日志以减少同一异常事件对应输出的异常日志个数，并将过滤后的异常日志写入存储介质。

9.一种电子设备，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器执行根据权利要求1～7中任一项所述的方法。

10.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行根据权利要求1～7中任一项所述的方法。

11.一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现根据权利要求1～7中任一项所述的方法。

Images