CN114416685A - 日志处理方法、系统和存储介质 - Google Patents

Abstract

本公开提供了一种日志处理方法、系统和存储介质，涉及计算机技术领域，具体涉及知识图谱等人工智能技术领域。具体实现方案为：对业务系统中各个业务服务的日志进行收集，并基于收集到的日志，获取与审计条件匹配的目标日志，并基于目标日志，确定业务系统在审计主题上关键指标的指标值，并在确定关键指标的指标异常的情况下，及时向订阅该审计主题的终端设备发送异常提醒信息。由此，基于所收集到的日志，实现了对日志地审计，并在对应关键指标异常的情况下，及时发出提醒信息，以方便后续基于提醒信息及时对业务系统进行调整。

Description

日志处理方法、系统和存储介质

技术领域

本公开涉及计算机技术领域，具体涉及知识图谱等人工智能技术领域，尤其涉及日志处理方法、系统和存储介质。

背景技术

目前，为了使得业务系统可以更加稳定地提供服务，相关技术中，通常基于业务系统中各个业务服务所产生的日志进行审计，以便于及时处理各类事件。

发明内容

本公开提供了一种用于日志处理方法、系统和存储介质。

根据本公开的一方面，提供了一种对业务系统中各个业务服务的日志进行收集；从收集到的日志中，获取与审计条件匹配的第一目标日志；根据所述第一目标日志，确定所述业务系统在审计主题上关键指标的指标值；在关键指标的指标值大于所述关键指标对应的标准值的情况下，确定所述关键指标异常，并获取订阅所述审计主题的用户账号信息；向与所述用户账号信息对应的终端设备发送提醒信息，其中，所述提醒信息用于提示所述关键指标异常。

根据本公开的另一方面，提供了一种日志处理系统，日志收集子系统和审计子系统，其中：所述日志收集子系统，用于对业务系统中各个业务服务的日志进行收集；所述审计子系统，用于从所述日志收集子系统所收集到的日志中，获取与审计条件匹配的第一目标日志，并根据所述第一目标日志，确定所述业务系统在审计主题上关键指标的指标值，以及在关键指标的指标值大于所述关键指标对应的标准值的情况下，确定所述关键指标异常，并获取订阅所述审计主题的用户账号信息，以及向与所述用户账号信息对应的终端设备发送提醒信息，其中，所述提醒信息用于提示所述关键指标异常。

根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开的日志处理方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行本公开实施例公开的日志处理方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现本公开的日志处理方法。

上述申请中的一个实施例具有如下优点或有益效果：

对业务系统中各个业务服务的日志进行收集，并基于收集到的日志，获取与审计条件匹配的目标日志，并基于目标日志，确定业务系统在审计主题上关键指标的指标值，并在确定关键指标的指标异常的情况下，及时向订阅该审计主题的终端设备发送异常提醒信息。由此，基于所收集到的日志，实现了对日志地审计，并在对应关键指标异常的情况下，及时发出提醒信息，以方便后续基于提醒信息及时对业务系统进行调整。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开第一实施例的日志处理方法的流程示意图；

图2是根据本公开第二实施例的日志处理方法的流程示意图；

图3是根据本公开第三实施例的日志处理方法的流程示意图；

图4是根据本公开第四实施例的日志处理系统的结构示意图；

图5是根据本公开第五实施例的日志处理系统的结构示意图；

图6是根据本公开第六实施例的日志处理系统的结构示意图；

图7是根据本公开第七实施例的日志处理装置的结构示意图；

图8是根据本公开第八实施例的日志处理装置的结构示意图；

图9是用来实现本公开实施例的日志处理方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

目前，业务系统中各个业务服务的日志通常存储在不同设备上，相关技术中，在对日志进行审计时，通常从不同设备上获取与审计条件对应的日志，并基于所获取到的日志进行审计处理。然而，由于从不同设备获取与审计条件对应的日志所需时间较多，并且审计过程中没有及时发出提醒，以便于及时处理各类事件。

为了解决该技术问题，本公开实施例提供的日志处理方法，对业务系统中各个业务服务的日志进行收集，并基于收集到的日志，获取与审计条件匹配的目标日志，并基于目标日志，确定业务系统在审计主题上关键指标的指标值，并在确定关键指标的指标异常的情况下，及时向订阅该审计主题的终端设备发送异常提醒信息。由此，基于所收集到的日志，实现了对日志地审计，并在对应关键指标异常的情况下，及时发出提醒信息，以方便后续基于提醒信息及时对业务系统进行调整。

下面参考附图描述本公开实施例的日志处理方法、系统和存储介质。

图1是根据本公开第一实施例的日志处理方法的流程示意图。

如图1所示，该日志处理方法可以包括：

步骤101，对业务系统中各个业务服务的日志进行收集。

其中，本实施的日志处理方法的执行主体为日志处理系统，该日志处理系统可以由软件和/或硬件实现，该日志处理系统可以配置在电子设备，该电子设备可以包括但不限于终端设备、服务器等，该实施例对电子设备不作具体限定。

在一些实施例中，上述业务系统可以是任意基于分布式架构或者微服务架构所建立的业务系统。

在一些示例性的实施方式中，在上述业务系统是基于微服务架构所建立的，上述业务服务为业务系统按照业务进行划分所得到的微服务。

在另一些示例性的实施方式中，在上述业务系统是基于分布式架构所建立的，上述业务服务可以是业务系统中拆分所得到对应模块的功能。其中，可以理解的是，业务系统可以拆分为多个模块，并且，多个模块是分开部署的，例如，可将多个模块部署在不同的容器集合上，以通过容器集合来实现对应模块的功能。

在一些示例性的实施方式，上述业务系统可以为知识中台，其中，知识中台是基于人工智能技术形成的智能化知识解决方案。

步骤102，从收集到的日志中，获取与审计条件匹配的第一目标日志。

其中，上述审计条件可以包括待审计日志类型和待审计时间范围，还可以包括希望审计的字段和最多查询条数等等，该实施例对此不作具体限定。

在一些实施例中，为了进一步提高审计的效率，可以对业务系统中各个业务服务的日志进行收集的过程中，可基于当前所收集到的日志，来获取与审计条件匹配的第一目标日志。

步骤103，根据第一目标日志，确定业务系统在审计主题上关键指标的指标值。

其中，审计主题是指对业务系统进行审计所关注的中心问题，例如，上述审计主题可以包括但不限于业务系统健康主题、网络安全主题、数据丢失主题等，该实施例对此不作具体限定。

其中，上述关键指标是指对该业务系统的审计主题进行审计时所需要的指标。可以理解的是，对于不同审计主题而言，不同审计主题所对应的关键指标是不同的。在一些实施例中，可根据审计主题与关键指标两者之间的对应关系，获取对应审计主题所对应的关键指标。

步骤104，在关键指标的指标值大于关键指标对应的标准值的情况下，确定关键指标异常，并获取订阅审计主题的用户账号信息。

其中，对于不同关键指标而言，其各自对应的标准值是不同的。

步骤105，向与用户账号信息对应的终端设备发送提醒信息，其中，提醒信息用于提示关键指标异常。

本公开实施例的日志处理方法，对业务系统中各个业务服务的日志进行收集，并基于收集到的日志，获取与审计条件匹配的目标日志，并基于目标日志，确定业务系统在审计主题上关键指标的指标值，并在确定关键指标的指标异常的情况下，及时向订阅该审计主题的终端设备发送异常提醒信息。由此，基于所收集到的日志，实现了对日志地审计，并在对应关键指标异常的情况下，及时发出提醒信息，以方便后续基于提醒信息及时对业务系统进行调整。

可以理解的是，在一些实施例中，为了提高日志收集地效率，可结合用于实现对应业务服务的容器集合pod所属于的工作节点的业务量情况来，对确定是通过挂载在工作节点上的日志收集工具进行日志收集，还是基于挂载在工作节点的容器集合pod上的日志收集工具进行日志收集，下面结合图2对对业务系统中各个业务服务的日志进行收集的过程进行示例性说明，如图2，可以包括：

步骤201，针对业务系统中的各个业务服务，获取用于实现业务服务的容器集合。

步骤202，确定各个容器集合所属于的工作节点。

其中，上述工作节点可以包括多个，针对每个工作节点，可通过步骤203至步骤205对对应工作节点进行处理。

步骤203，根据属于工作节点的容器集合中业务服务的业务量，确定工作节点所对应的总业务量。

步骤204，在总业务量大于预设阈值的情况下，通过挂载在第一工作节点的容器集合上的第一日志收集工具，来收集工作节点的容器集合中对应业务服务的日志。

步骤205，在总业务量小于预设阈值的情况下，通过挂载在工作点上的第二日志收集工具，来收集工作节点的各容器集合中对应业务服务的日志。

本实施例中，结合用于实现对应业务服务的容器集合pod所属于的工作节点的业务量情况来，对确定是通过挂载在工作节点上的日志收集工具进行日志收集，还是基于挂载在工作节点的容器集合pod上的日志收集工具进行日志收集，从而可实现高效地日志收集。

在另一些实施例中，上述步骤205还可以为：在总业务量小于预设阈值的情况下，还可以通过挂载在工作节点的第一容器集合pod上的日志收集工具，对该第一容器集合pod以及第二容器集合上的日志进行收集，其中，第二容器集合为可以由该日志手机工具进行日志收集的其他容器集合。

可以理解的是，所收集的日志不禁可以用于审计，还可以基于所收集的日志进行日志挖掘，并基于日志挖掘结果进行后续处理，例如，可通过对日志挖掘，以确定用户的兴趣点信息，并基于兴趣点信息进行信息推荐。又例如，可以通过对日志进行挖掘，以得到业务系统的流量分析、来源分析、转化分析等。下面结合图3对该实施例的方法进行进一步描述。

如图3所示，该方法还可以包括：

步骤301，从收集到的日志中，获取与筛选条件匹配的第二目标日志。

其中，收集到的日志可以包括多个日志文件。

例如，上述筛选条件可以包括时间段信息。又例如，在需要基于收集的日志挖掘确定用户的兴趣点信息的情况下，上述筛选条件可以为用户信息。又例如，上述筛选条件可以包括待匹配的字或者词，例如，对于一个日志文件，如果该日志文件包括筛选条件所设置的字或者词，可确定该日志文件为与筛选条件匹配的第二目标日志。

其中，需要说明的是，在实际应用过程中，可根据实际需求来设置筛选条件，该实施例对筛选条件不作具体限定。

步骤302，对第二目标日志进行挖掘，以得到第二目标日志的日志挖掘结果。

本实施例中，从业务系统中所收集到的日志，获取与筛选条件匹配的第二目标日志，并对第二目标日志进行挖掘，以得到日志挖掘结果。由此，基于所收集到的日志，实现了对日志地挖掘，解决了日志分散，信息挖掘困难的问题，提高了日志挖掘过程中获取与筛选条件匹配的目标日志的效率。

可以理解的是，在一些实施例中，有些应用场景需要对日志进行批量计算，因此，为了满足对日志进行批量计算的需求，上述对第二目标日志进行挖掘，以得到第二目标日志的日志挖掘结果的一种示例性的实施方式为：将第二目标日志保存到分布式文件系统中；通过批量计算框架，按批对分布式文件系统中的第二目标日志进行挖掘，以得到各批日志的挖掘结果；根据各批日志的挖掘结果，确定第二目标日志的日志挖掘结果。

在另一些实施例中，有些应用场景需要对日志进行流式计算，为了满足对日志进行流式计算的需求，上述对第二目标日志进行挖掘，以得到第二目标日志的日志挖掘结果，包括：对第二目标日志进行镜像，以得到镜像日志；将镜像日志发送至流式计算框架中；通过流式计算框架，对镜像日志进行挖掘，并将挖掘结果作为第二目标日志的日志挖掘结果。

为了实现上述实施例，本公开实施例还提供一种日志处理系统。

图4是根据本公开第四实施例的日志处理系统的结构示意图。

如图4所示，该日志处理系统400可以包括日志收集子系统401和审计子系统402，其中：

日志收集子系统401，用于对业务系统中各个业务服务的日志进行收集。

审计子系统402，用于从日志收集子系统所收集到的日志中，获取与审计条件匹配的第一目标日志，并根据第一目标日志，确定业务系统在审计主题上关键指标的指标值，以及在关键指标的指标值大于关键指标对应的标准值的情况下，确定关键指标异常，并获取订阅审计主题的用户账号信息，以及向与用户账号信息对应的终端设备发送提醒信息，其中，提醒信息用于提示关键指标异常。

本公开实施例的日志处理系统，对业务系统中各个业务服务的日志进行收集，并基于收集到的日志，获取与审计条件匹配的目标日志，并基于目标日志，确定业务系统在审计主题上关键指标的指标值，并在确定关键指标的指标异常的情况下，及时向订阅该审计主题的终端设备发送异常提醒信息。由此，基于所收集到的日志，实现了对日志地审计，并在对应关键指标异常的情况下，及时发出提醒信息，以方便后续基于提醒信息及时对业务系统进行调整。

在本公开的一些实施例中，如图5所示，本实施例中的日志处理系统500可以包括日志收集子系统501、审计子系统502和日志挖掘子系统503，其中，上述日志收集子系统501，分别与审计子系统502和日志挖掘子系统503连接。

在本公开的一些实施例中，上述日志收集子系统501，具体用于：针对业务系统中的各个业务服务，获取用于实现业务服务的容器集合；确定各个容器集合所属于的工作节点；根据属于工作节点的容器集合中业务服务的业务量，确定工作节点所对应的总业务量；在总业务量大于预设阈值的情况下，通过挂载在第一工作节点的容器集合上第一日志收集工具，来收集工作节点的容器集合中对应业务服务的日志。

在本公开的一些实施例中，上述日志收集子系统501，还用于：在总业务量小于预设阈值的情况下，通过挂载在工作点上的第二日志收集工具，来收集工作节点的各容器集合中对应业务服务的日志。

在本公开的一些实施例中，上述日志挖掘子系统503，用于从日志收集子系统501所收集到的日志中，获取与筛选条件匹配的第二目标日志，并对第二目标日志进行挖掘，以得到第二目标日志的日志挖掘结果。

在本公开的一些实施例中，上述日志挖掘子系统503，具体用于：将第二目标日志保存到分布式文件系统中；通过批量计算框架，按批对分布式文件系统中的第二目标日志进行挖掘，以得到各批日志的挖掘结果；根据各批日志的挖掘结果，确定第二目标日志的日志挖掘结果。

在本公开的另一些实施例中，日志挖掘子系统503，具体用于：对第二目标日志进行镜像，以得到镜像日志；将镜像日志发送至流式计算框架中；通过流式计算框架，对镜像日志进行挖掘，并将挖掘结果作为第二目标日志的日志挖掘结果。

其中，需要说明的是，前述对日志处理方法实施例的解释说明也适用于本实施例，本实施对此不再赘述。

为了使得本领域技术人员可以清楚了解本公开的日志处理系统，下面结合他6对该实施例的日志处理系统进行进一步描述。

如图6所示，日志处理系统600可以包括日志收集子系统601、日志挖掘子系统602和日志审计子系统603。

本实施例中的日志收集子系统601无侵入的收集业务系统中各个业务服务的日志，并对日志进行统一管理，并可为日志挖掘子系统602和日志审计子系统603提供其各自所需要的日志。

其中，日志挖掘子系统602从日志收集子系统601中获取待挖掘的日志，并基于待挖掘的日志进行批量计算以及流式计算。

其中，上述日志审计子系统从日志收集子系统601获取与审计条件对应的日志，并基于该日志进行计算，并根据计算结果进行消息提醒。

下面对上述日志收集子系统601、日志挖掘子系统602和日志审计子系统603进行分别介绍：

在一些实施例中，日志收集子系统601可以包括日志收集模块6011、消息队列6012和日志搜集处理框架6013、日志搜索服务器6014(Elastic Search，ES)、前端展示工具6015。其中，本实施例中以前端展示工具为Kibana，消息队列为Kafka，以及日志搜集处理框架为Logstas进行示例性描述。

其中，日志收集模块6011采用工作节点node挂载以及pod挂载相结合的方式，对日志采集工具filebeat进行挂载。具体而言，如果该业务系统对应多个工作节点，每个工作节点上包括多个容器集合pod，每个pod用于实现业务系统中对应业务服务。针对每个工作节点，日志收集模块6011可根据多个pod上业务服务的业务量，如果该业务量大于预设阈值，可在该业务节点的每个pod上挂载日志采集工具filebeat，并通过每个pod上的filebeat对对应业务服务进行日志收集。如果该业务量小于预设阈值，可在该业务节点上挂载日志采集工具filebeat，并通过该filebeat对该工作节点上的各个pod进行日志收集。

在一些实施例中，利用消息队列6012打平峰值，可以增加稳定性，避免下游抖动造成的稳定性问题。另外，通过消息队列6012还可以避免过多客户端连接对日志搜索服务器(Elastic Search，ES)造成的额外压力。

其中，上述日志搜集处理框架6013用于Kafka中的日志进行分流并收集。具体而言，日志搜集处理框架6013可将满足对应条件的日志分流到日志挖掘子系统602上，还可以将收集到的日志进行标准化处理，并将处理后的日志保存到日志搜索服务器6014。

上述前端展示工具6015，用于根据用户的查询请求从日志搜索服务器6014中获取对应的日志，并对日志进行前端展示。

日志挖掘子系统602可以包括日志数据源模块6021和日志挖掘子模块6022。

其中，日志数据源模块6021和日志收集子系统601打通，灵活筛选需要挖掘的日志，并支持增量筛选及流式筛选的方式，分别提供给批量计算框架下游和流式计算框架下游。

在给批量计算框架提供日志数据的情况下，可从日志搜索服务器6014中转存储需要挖掘的日志数据到Hadoop分布式文件系统(Hadoop Distributed File System,hdfs)中，并将需要挖掘的日志数据在hdfs中的地址信息发送给批量计算框架。

在给流式计算框架提供日志数据的情况下，为了提高实时性，可从日志搜集处理框架6013中将符合筛选范围的日志镜像分发一份到流式计算框架的消息队列kafka中。

其中，上述日志挖掘模块6022可以包括批量日志挖掘子模块60221和流式日志挖掘子模块60222。

其中，上述批量日志挖掘子模块60231用于基于批量计算插件从hdfs中获取对应日志数据，并对所获取到的日志数据进行批量处理，以得到日志挖掘结果。

其中，上述流式日志挖掘子模块60232，用于基于流式计算插件，从流式计算框架的消息队列kafka中获取日志数据，并对所获取到的日志数据进行流式处理，以得到日志挖掘结果。

日志审计子系统603可以包括日志获取模块6031、消息落地模块6032和消息发送模块6033，其中：

日志获取模块6031，用于从日志搜集处理框架6013中获取目标日志，其中，目标日志是日志搜集处理框架6013对与审计条件所对应的日志进行镜像处理所得到的。

消息落地模块6032，用于目标日志保存到基于分布式文件存储的数据库mongo中。

消息发送模块6033，用于对mongo库中的日志进行处理，以得到业务系统在审计主题的关键指标上的指标值，并在关键指标的指标大于标准值的情况下，向订阅该审计主题的用户终端发送异常提醒信息。

本公开实施例的日志处理系统，通过日志收集子系统将分散在不同设备上的日志进行收集，并且，日志挖掘子系统以及审计子系统中均从日志收集子系统中获取自身所需要的日志，并对所获取到的日志进行及时处理，方便日志地收集，管理，及查看，并方便对日志加以有效的利用。

为了实现上述实施例，本公开实施例还提供一种日志处理装置，该日志处理装置配置在上述日志处理系统中。

图7是根据本公开第七实施例的日志处理装置的结构示意图。

如图7所示，该日志处理装置700可以包括：

收集模块701，用于对业务系统中各个业务服务的日志进行收集。

第一获取模块702，用于从收集到的日志，获取与审计条件匹配的第一目标日志。

确定模块703，用于根据第一目标日志，确定出预设主题上关键指标的指标值。

第二获取模块704，用于在关键指标的指标值大于关键指标对应的标准值的情况下，确定关键指标异常，并获取订阅预设主题的用户账号信息。

发送模块705，用于向与用户账号信息对应的终端设备发送提醒信息，其中，提醒信息用于提示关键指标异常。

在一些实施例中，如图8所示，该日志处理装置80可以包括收集模块801、第一获取模块802、确定模块803、第二获取模块804、发送模块805、第三获取模块806和挖掘模块807，其中，收集模块801可以包括第一获取单元8011、第一确定单元8012、第二确定单元8013、第一收集单元8014、第二收集单元8015。

其中，需要说明的是，关于收集模块801、第一获取模块802、确定模块803、第二获取模块804的描述可参见上述对图7中收集模块701、第一获取模块702、确定模块703、第二获取模块704的描述，此处不再赘述。

在一些实施例中，上述收集模块801，可以包括：

第一获取单元8011，用于针对业务系统中的各个业务服务，获取用于实现业务服务的容器集合；

第一确定单元8012，用于确定各个容器集合所属于的工作节点；

第二确定单元8013，用于根据属于工作节点的容器集合中业务服务的业务量，确定工作节点所对应的总业务量；

第一收集单元8014，用于在总业务量大于预设阈值的情况下，通过挂载在第一工作节点的容器集合上第一日志收集模块，来收集工作节点的容器集合中对应业务服务的日志。

在另一些实施例中，上述收集模块801，还可以包括：

第二收集单元8015，用于在总业务量小于预设阈值的情况下，通过挂载在工作点上的第二日志收集模块，来收集工作节点的各容器集合中对应业务服务的日志。

在本公开的一个实施例中，上述第三获取模块806，用于从收集到的日志中，获取与筛选条件匹配的第二目标日志。

在本公开的一个实施例中，上述挖掘模块807，用于对第二目标日志进行挖掘，以得到第二目标日志的日志挖掘结果。

在本公开的一些实施例中，上述挖掘模块807，具体用于：将第二目标日志保存到分布式文件系统中；通过批量计算框架，按批对分布式文件系统中的第二目标日志进行挖掘，以得到各批日志的挖掘结果；根据各批日志的挖掘结果，确定第二目标日志的日志挖掘结果。

在本公开的一些实施例中，上述挖掘模块807，具体用于：对第二目标日志进行镜像，以得到镜像日志；将镜像日志发送至流式计算框架中；通过流式计算框架，对镜像日志进行挖掘，并将挖掘结果作为第二目标日志的日志挖掘结果。

其中，需要说明的是，前述对日志处理方法实施例的解释说明也适用于该实施例的日志处理装置，该实施例对此不作具体限定。

本公开实施例的日志处理装置，对业务系统中各个业务服务的日志进行收集，并基于收集到的日志，获取与审计条件匹配的目标日志，并基于目标日志，确定业务系统在审计主题上关键指标的指标值，并在确定关键指标的指标异常的情况下，及时向订阅该审计主题的终端设备发送异常提醒信息。由此，基于所收集到的日志，实现了对日志地审计，并在对应关键指标异常的情况下，及时发出提醒信息，以方便后续基于提醒信息及时对业务系统进行调整。

根据本公开的实施例，本公开还提供了一种电子设备和一种可读存储介质和一种计算机程序产品。

图9示出了可以用来实施本公开的实施例的示例电子设备900的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图9所示，该电子设备900可以包括计算单元901，其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序，来执行各种适当的动作和处理。在RAM 903中，还可存储设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。

设备900中的多个部件连接至I/O接口905，包括：输入单元906，例如键盘、鼠标等；输出单元907，例如各种类型的显示器、扬声器等；存储单元908，例如磁盘、光盘等；以及通信单元909，例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理，例如日志处理方法。例如，在一些实施例中，日志处理方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元908。在一些实施例中，计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM 903并由计算单元901执行时，可以执行上文描述的日志处理方法的一个或多个步骤。备选地，在其他实施例中，计算单元901可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行日志处理方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、互联网和区块链网络。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务("Virtual Private Server"，或简称"VPS")中，存在的管理难度大，业务扩展性弱的缺陷。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。

其中，需要说明的是，人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术；人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (15)

1.一种日志处理方法，包括：

对业务系统中各个业务服务的日志进行收集；

从收集到的日志中，获取与审计条件匹配的第一目标日志；

根据所述第一目标日志，确定所述业务系统在审计主题上关键指标的指标值；

在关键指标的指标值大于所述关键指标对应的标准值的情况下，确定所述关键指标异常，并获取订阅所述审计主题的用户账号信息；

向与所述用户账号信息对应的终端设备发送提醒信息，其中，所述提醒信息用于提示所述关键指标异常。

2.根据权利要求1所述的方法，其中，所述对业务系统中各个业务服务的日志进行收集，包括：

针对所述业务系统中的各个业务服务，获取用于实现所述业务服务的容器集合；

确定各个所述容器集合所属于的工作节点；

根据属于所述工作节点的容器集合中业务服务的业务量，确定所述工作节点所对应的总业务量；

在所述总业务量大于预设阈值的情况下，通过挂载在所述第一工作节点的容器集合上的第一日志收集工具，来收集所述工作节点的容器集合中对应业务服务的日志。

3.根据权利要求2所述的方法，其中，所述方法还包括：

在所述总业务量小于预设阈值的情况下，通过挂载在所述工作点上的第二日志收集工具，来收集所述工作节点的各容器集合中对应业务服务的日志。

4.根据权利要求1所述的方法，其中，所述方法还包括：

从所述收集到的日志中，获取与筛选条件匹配的第二目标日志；

对所述第二目标日志进行挖掘，以得到所述第二目标日志的日志挖掘结果。

5.根据权利要求4所述的方法，其中，所述对所述第二目标日志进行挖掘，以得到所述第二目标日志的日志挖掘结果，包括：

将所述第二目标日志保存到分布式文件系统中；

通过批量计算框架，按批对所述分布式文件系统中的所述第二目标日志进行挖掘，以得到各批日志的挖掘结果；

根据各批日志的挖掘结果，确定所述第二目标日志的日志挖掘结果。

6.根据权利要求4所述的方法，其中，所述对所述第二目标日志进行挖掘，以得到所述第二目标日志的日志挖掘结果，包括：

对所述第二目标日志进行镜像，以得到镜像日志；

将所述镜像日志发送至流式计算框架中；

通过所述流式计算框架，对所述镜像日志进行挖掘，并将挖掘结果作为所述第二目标日志的日志挖掘结果。

7.一种日志处理系统，包括日志收集子系统和审计子系统，其中：

所述日志收集子系统，用于对业务系统中各个业务服务的日志进行收集；

所述审计子系统，用于从所述日志收集子系统所收集到的日志中，获取与审计条件匹配的第一目标日志，并根据所述第一目标日志，确定所述业务系统在审计主题上关键指标的指标值，以及在关键指标的指标值大于所述关键指标对应的标准值的情况下，确定所述关键指标异常，并获取订阅所述审计主题的用户账号信息，以及向与所述用户账号信息对应的终端设备发送提醒信息，其中，所述提醒信息用于提示所述关键指标异常。

8.根据权利要求7所述的系统，其中，所述日志收集子系统，具体用于：

针对所述业务系统中的各个业务服务，获取用于实现所述业务服务的容器集合；

确定各个所述容器集合所属于的工作节点；

根据属于所述工作节点的容器集合中业务服务的业务量，确定所述工作节点所对应的总业务量；

在所述总业务量大于预设阈值的情况下，通过挂载在所述第一工作节点的容器集合上第一日志收集工具，来收集所述工作节点的容器集合中对应业务服务的日志。

9.根据权利要求8所述的系统，其中，所述日志收集子系统，还用于：

在所述总业务量小于预设阈值的情况下，通过挂载在所述工作点上的第二日志收集工具，来收集所述工作节点的各容器集合中对应业务服务的日志。

10.根据权利要求7所述的系统，其中，所述系统还包括：

日志挖掘子系统，用于从所述日志收集子系统所收集到的日志中，获取与筛选条件匹配的第二目标日志，并对所述第二目标日志进行挖掘，以得到所述第二目标日志的日志挖掘结果。

11.根据权利要求10所述的系统，其中，所述日志挖掘子系统，具体用于：

将所述第二目标日志保存到分布式文件系统中；

通过批量计算框架，按批对所述分布式文件系统中的所述第二目标日志进行挖掘，以得到各批日志的挖掘结果；

根据各批日志的挖掘结果，确定所述第二目标日志的日志挖掘结果。

12.根据权利要求10所述的系统，其中，所述日志挖掘子系统，具体用于：

对所述第二目标日志进行镜像，以得到镜像日志；

将所述镜像日志发送至流式计算框架中；

通过所述流式计算框架，对所述镜像日志进行挖掘，并将挖掘结果作为所述第二目标日志的日志挖掘结果。

13.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。

14.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-6中任一项所述的方法。

15.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现权利要求1-6中任一项所述的方法的步骤。

Images