CN112995307A - 日志处理方法、系统、装置、电子设备及存储介质 - Google Patents

Abstract

本公开提供了一种日志处理方法、系统、装置、电子设备及存储介质，本公开可用于大数据技术领域，也可用于金融领域或其他领域。其中，该日志处理方法包括：接收来自采集发送节点的日志数据和第一负载监控数据，第一负载监控数据包括所有采集发送节点的日志数据量总和；将日志数据转发至缓存转发节点，以便缓存转发节点对日志数据进行缓存后，缓存转发节点将日志数据转发至存储节点进行存储；根据第一负载监控数据，对采集发送节点、缓存转发节点、以及存储节点的数量进行调整，以便基于调整后的采集发送节点、调整后的缓存转发节点和调整后的存储节点对新采集的日志数据进行处理。

Description

日志处理方法、系统、装置、电子设备及存储介质

技术领域

本公开涉及大数据技术领域，更具体地，涉及一种日志处理方法、日志处理系统、日志处理装置、电子设备、计算机可读存储介质、以及计算机程序产品。

背景技术

随着容器与kubernets的逐渐普及，实现持久化改造可以实现日志采集、缓存节点的与存储节点轻量、快捷的部署。集群化部署需要将容器网络通过集中网络通信对外暴露进行访问，需要将节点进行内外网络转换并挂载对应的负载均衡器以对各个节点流量负载进行均衡化处理。

在实现本公开构思的过程中，发明人发现相关技术中至少存在如下问题，因所有采集端的数据都发送至外网负载均衡器，再由负载均衡器统一做调度，这种总线式的数据转发方法无法对集群中各个节点进行监控和调配，无法应对采集端节点负载异常突增造成集群中各个节点负载不均衡的问题。

发明内容

有鉴于此，本公开提供了一种日志处理方法、日志处理系统、日志处理装置、电子设备、计算机可读存储介质、以及计算机程序产品。

本公开的一个方面提供了一种日志处理方法，包括：

接收来自采集发送节点的日志数据和第一负载监控数据，第一负载监控数据包括所有采集发送节点的日志数据量总和；

将日志数据转发至缓存转发节点，以便缓存转发节点对日志数据进行缓存后，缓存转发节点将日志数据转发至存储节点进行存储；

根据第一负载监控数据，对采集发送节点、缓存转发节点、以及存储节点的数量进行调整，以便基于调整后的采集发送节点、调整后的缓存转发节点和调整后的存储节点对新采集的日志数据进行处理。

根据本公开的实施例，其中根据第一负载监控数据，对采集发送节点、缓存转发节点、以及存储节点的数量进行调整包括：当第一负载监控数据超过预设阈值时，增加采集发送节点、缓存转发节点、以及存储节点的数量。

根据本公开的实施例，还包括：

接收来自采集发送节点的第二负载监控数据，第二负载监控数据包括所有采集发送节点的日志访问量总和；

当第二负载监控数据超过预设阈值时，增加缓存转发节点的数量。

根据本公开的实施例，还包括：

接收来自采集发送节点的第三负载监控数据，第三负载监控数据包括单个采集发送节点的日志数据量；

当第三负载监控数据超过预设阈值时，增加采集发送节点的数量。

根据本公开的实施例，还包括：

接收来自采集发送节点的第四负载监控数据，第四负载监控数据包括单个采集发送节点的日志访问量；

当第四负载监控数据超过预设阈值时，增加缓存转发节点的数量。

根据本公开的实施例，还包括：

接收来自缓存转发节点的缓存负载监控数据，缓存负载监控数据用于表征缓存转发节点的缓存使用率；以及

当缓存负载监控数据超过预设阈值，增加缓存转发节点的数量。

根据本公开的实施例，还包括：

接收来自存储节点的存储负载监控数据，存储负载监控数据用于表征存储节点的存储使用率；以及

当存储负载监控数据超过预设阈值，增加存储节点的数量。

本公开的另一个方面提供了一种日志处理系统，包括：采集发送节点、监控分配管理器、缓存转发节点、以及存储节点；

采集发送节点，用于采集日志数据并向监控分配管理器发送日志数据；

监控分配管理器，用于接收来自采集发送节点的日志数据，并将日志数据转发至缓存转发节点，以及用于接收来自采集发送节点的第一负载监控数据，第一负载监控数据包括所有采集发送节点的日志数据量总和，以及根据第一负载监控数据，对采集发送节点、缓存转发节点、以及存储节点的数量进行调整；

缓存转发节点，用于对日志数据进行缓存、以及将日志数据转发至存储节点；以及

存储节点，用于对来自缓存转发节点的日志数据进行存储。

本公开的另一个方面提供了一种日志处理装置，包括：

第一接收模块，用于接收来自采集发送节点的日志数据和第一负载监控数据，第一负载监控数据包括所有采集发送节点的日志数据量总和；

转发模块，用于将日志数据转发至缓存转发节点，以便缓存转发节点对日志数据进行缓存后，缓存转发节点将日志数据转发至存储节点进行存储；

第一调整模块，用于根据第一负载监控数据，对采集发送节点、缓存转发节点、以及存储节点的数量进行调整，以便基于调整后的采集发送节点、调整后的缓存转发节点和调整后的存储节点对新采集的日志数据进行处理。

本公开的另一方面提供了电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个指令，其中，当所述一个或多个指令被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上所述的方法。

本公开的另一方面提供了一种计算机可读存储介质，存储有计算机可执行指令，所述指令在被执行时用于实现如上所述的方法。

本公开的另一方面提供了一种计算机程序产品，所述计算机程序产品包括计算机可执行指令，所述指令在被执行时用于实现如上所述的方法。

根据本公开的实施例，因为采用了对各个采集发送节点的实时监控和管理，建立了统一的负载监控与分配机制，所以至少部分地克服了现有技术中由于采用总线式的数据转发方法无法对集群中各个节点进行监控和调配，进而无法应对采集端节点负载异常突增造成集群中各个节点负载不均衡的技术问题。本公开建立一种多链路式的数据处理系统，每条链路上，由采集节点、缓存转发节点和存储节点组成一条数据处理链路，并且，建立了统一的负载监控与分配机制，通过对系统中各个节点进行监控和管理，根据监控数据可以实现集群中各个采集发送节点、缓存转发节点、以及存储节点的数量进行调整，实现了每条采集链路上各个节点的动态扩缩，达到了提高系统的高可用性和稳定性的技术效果。

附图说明

通过以下参照附图对本公开实施例的描述，本公开的上述以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了可以应用本公开实施例的日志处理方法、系统和装置的示例性系统架构；

图2示意性示出了根据本公开实施例的日志处理方法的流程图；

图3示意性示出了根据本公开另一实施例的日志处理方法的流程图；

图4示意性示出了根据本公开实施例的日志处理系统的示意图；

图5示意性示出了根据本公开另一实施例的日志处理系统的示意图；

图6示意性示出了根据本公开实施例的监控分配管理器的框图；

图7示意性示出了根据本公开实施例的采集发送集群的框图；

图8示意性示出了根据本公开实施例的缓存转发集群的框图；

图9示意性示出了根据本公开实施例的存储集群的框图；

图10示意性示出了根据本公开实施例的日志处理装置的框图；以及

图11示意性示出了根据本公开实施例的用于实现日志处理方法方法的电子设备的框图。

具体实施方式

以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。

本公开的实施例提供了一种日志处理方法、系统、装置、电子设备及存储介质。该日志处理方法包括：接收来自采集发送节点的日志数据和第一负载监控数据，第一负载监控数据包括所有采集发送节点的日志数据量总和；将日志数据转发至缓存转发节点，以便缓存转发节点对日志数据进行缓存后，缓存转发节点将日志数据转发至存储节点进行存储；根据第一负载监控数据，对采集发送节点、缓存转发节点、以及存储节点的数量进行调整，以便基于调整后的采集发送节点、调整后的缓存转发节点和调整后的存储节点对新采集的日志数据进行处理。

图1示意性示出了可以应用本公开实施例的日志处理方法、系统和装置的示例性系统架构100。需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。

如图1所示，根据该实施例的系统架构100可以包括采集设备101、缓存设备104、转发设备105、和存储设备106。采集设备101、缓存设备104、转发设备105、和存储设备106之间可通过网络进行通信，网络可以包括各种连接类型，例如有线和/或无线通信链路等等。

采集设备101、缓存设备104、转发设备105、和存储设备106可以是计算机、服务器或者服务器集群，通过采集设备101进行日志数据的采集后通过网络将日志数据发送给缓存设备104进行缓存，缓存设备104对日志数据进行缓存后转发至存储设备106以便存储设备106对日志数据进行存储。

采集设备101、缓存设备104、转发设备105、和存储设备106可以部署在一个集群中，也可分别部署在不同的集群中，也可任意组合分别部署在不同的集群中。

如图1所示，当采集设备101部署在一个集群中，缓存设备104、转发设备105、和存储设备106部署在另一个集群中时，根据该实施例的系统架构100除上述外，还可以包括流量分配设备102和流量转发设备103。流量分配设备102可以是各种负载均衡器设备或者流量调度设备，流量分配设备102部署在两个集群之间，作为采集设备101所在集群发送的日志数据的一个统一出口，用以实现两个集群之间数据流量的调度和分配。流量转发设备103可以采用各种网络数据转发设备，如各种网桥设备、网关设备等，用作缓存设备104、转发设备105、和存储设备106之间进行数据转发的功能。

需要说明的是，本公开实施例所提供的日志处理方法一般可以由采集设备101、或缓存设备104、或转发设备105、或存储设备106执行，也可由不同于采集设备101、缓存设备104、转发设备105、和存储设备106的其他计算机设备、其他服务器、或者终端设备执行。终端设备可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

本公开实施例所提供的日志处理装置一般设置于采集设备101、或缓存设备104、或转发设备105、或存储设备106中，也可设置于不同于采集设备101、缓存设备104、转发设备105、和存储设备106的其他计算机设备、其他服务器、或者终端设备中。

应该理解，图1中的采集设备101、流量分配设备102、流量转发设备103、缓存设备104、转发设备105、和存储设备106的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

需要说明的是，本公开提供的日志处理方法、日志处理系统、日志处理装置可用于大数据技术领域，也可用于金融领域，也可用于除金融领域之外的任意领域，本公开提供的日志处理方法、日志处理系统、日志处理装置的应用领域不做限定。

在实现本公开构思的过程中发现，相关技术中，因所有采集端的数据都发送至外网负载均衡器，再由负载均衡器统一做调度，这种总线式的数据转发方法无法对集群中各个节点进行监控和调配，无法应对采集端节点负载异常突增造成集群中各个节点负载不均衡的问题。

因日志处理系统的链路对负载较为敏感，因此日志处理系统需要一种根据负载情况进行动态调整的能力。本公开将相关技术中总线式的数据处理系统改为多链路式的数据处理系统，每条链路上，由采集节点、缓存转发节点和存储节点组成一条数据处理链路，并且，建立了统一的负载监控与分配机制，对每条链路上的各个节点进行负载监控与管理，根据监控数据可以实现集群中各个采集发送节点、缓存转发节点、以及存储节点的数量进行调整。

图2示意性示出了根据本公开实施例的日志处理方法的流程图。

如图2所示，该方法包括操作S201～S203。

在操作S201，接收来自采集发送节点的日志数据和第一负载监控数据，第一负载监控数据包括所有采集发送节点的日志数据量总和。

根据本公开的实施例，例如，可以采用监控分配管理器接收日志数据和第一负载监控数据，监控分配管理器具有负载监控、流量分配、以及数据转发的功能。根据本公开的实施例，日志数据可以是各种类型的日志数据，其具体类型根据该日志处理方法针对的对象决定，例如，针对银行转账交易业务，该日志数据为一些与该转账交易业务相关的日志信息，比如，账号、余额、转账交易额、用户登录时间、处理该转账业务的POS机位置等等。

在操作S202，将日志数据转发至缓存转发节点，以便缓存转发节点对日志数据进行缓存后，缓存转发节点将日志数据转发至存储节点进行存储。

根据本公开的实施例，在该操作，采用监控分配管理器对日志数据进行转发，监控分配管理器在转发过程中，起到了流量分配的作用。因采集发送节点和缓存转发节点可能部署在不同的集群中，通过监控分配管理器作为日志数据的一个统一出口，实现两个集群之间数据流量的调度和分配。

在操作S203，根据第一负载监控数据，对采集发送节点、缓存转发节点、以及存储节点的数量进行调整，以便基于调整后的采集发送节点、调整后的缓存转发节点和调整后的存储节点对新采集的日志数据进行处理。

具体地，在该操作，根据本公开的实施例，采用监控分配管理器进行负载监控和管理，其中监控分配管理器根据第一负载监控数据进行监控管理，即所有采集发送节点的日志数据量总和超过预设阈值时，监控分配管理器将更新采集发送节点、缓存转发节点、以及存储节点的数量配置，并将该更新后的节点数量配置下发至采集发送节点、缓存转发节点、以及存储节点所在集群管理器，以便相应的集群管理器对集群节点数量进行调整。在该情形下，因数据量过大，系统处理数据能力不足，因此需要新增一条或多条完整的由采集节点、缓存转发节点和存储节点组成的数据处理链路，以应对数据量突增的情形。

因日志数据量的大小对日志收发系统的处理能力有重要的影响，若某一时间段，由于系统日志数据量异常突增，系统各节点对数据量处理不及时，可能造成交易滞后、以及数据丢失等，影响客户体验。因此，本公开的实施例采用对所有采集发送节点的日志数据量总和进行实时监控和管理，建立了统一的负载监控与分配机制，所以至少部分地克服了现有技术中由于采用总线式的数据转发方法无法对集群中各个节点进行监控和调配，进而无法应对采集端节点负载异常突增造成集群中各个节点负载不均衡的技术问题。

本公开建立一种多链路式的数据处理系统，每条链路上，由采集节点、缓存转发节点和存储节点组成一条数据处理链路，并且，建立了统一的负载监控与分配机制，通过对系统中各个节点进行监控和管理，根据监控数据可以实现集群中各个采集发送节点、缓存转发节点、以及存储节点的数量进行调整，实现了每条采集链路上各个节点的动态扩缩，达到了提高系统的高可用性和稳定性的技术效果。

上述根据图2所述日志处理方法，仅对对日志收发系统的处理能力影响较大的采集发送节点的日志数据量总和进行监控，除此之外，对日志收发系统的处理能力存在影响的因素还有所有采集发送节点的日志访问量总和、单个采集发送节点的日志数据量或访问量、以及缓存转发节点的缓存负载、存储节点的存储负载。因此，可以增加对上述类型负载的监控，便于日志收发系统能够应对各种情形下的负载突增。

根据本公开的实施例，上述日志处理方法还包括：接收来自采集发送节点的第二负载监控数据，第二负载监控数据包括所有采集发送节点的日志访问量总和；当第二负载监控数据超过预设阈值时，增加缓存转发节点的数量。

根据本公开的实施例，或者，上述日志处理方法还包括还包括：接收来自采集发送节点的第三负载监控数据，第三负载监控数据包括单个采集发送节点的日志数据量；当第三负载监控数据超过预设阈值时，增加采集发送节点的数量。

根据本公开的实施例，或者，上述日志处理方法还包括还包括：接收来自采集发送节点的第四负载监控数据，第四负载监控数据包括单个采集发送节点的日志访问量；当第四负载监控数据超过预设阈值时，增加缓存转发节点的数量。

根据本公开的实施例，或者，上述日志处理方法还包括还包括：接收来自缓存转发节点的缓存负载监控数据，缓存负载监控数据用于表征缓存转发节点的缓存使用率；以及当缓存负载监控数据超过预设阈值，增加缓存转发节点的数量。

根据本公开的实施例，或者，根据本公开的实施例，上述日志处理方法还包括还包括：接收来自存储节点的存储负载监控数据，存储负载监控数据用于表征存储节点的存储使用率；以及当存储负载监控数据超过预设阈值，增加存储节点的数量。

需要说明的是，本公开实施例方法中，可以对上述第一负载监控数据、第二负载监控数据、第三负载监控数据、第四负载监控数据、缓存负载监控数据、以及存储负载监控数据中的全部类型的负载监控数据进行监控，也可对其中任意几种类型的负载监控数据的组合进行监控。

以下内容，结合图3对上述所有类型的负载监控数据进行监控的日志处理方法进行说明。图3示意性示出了根据本公开另一实施例的日志处理方法的流程图。如图3所示，该方法包括操作S301～S303。

在操作S301，采用监控分配管理器接收来自采集发送节点的日志数据，并且接收来自采集发送节点的第一负载监控数据、第二负载监控数据、第三负载监控数据以及第四负载监控数据，接收来自缓存转发节点的缓存负载监控数据、接收来自存储节点的存储负载监控数据。其中，第一负载监控数据包括所有采集发送节点的日志数据量总和；第二负载监控数据包括所有采集发送节点的日志访问量总和；第三负载监控数据包括单个采集发送节点的日志数据量；第四负载监控数据包括单个采集发送节点的日志访问量；缓存负载监控数据用于表征所述缓存转发节点的缓存使用率，例如缓存转发节点的CPU内存使用率、服务器内存和硬盘的存储使用率等等；存储负载监控数据用于表征所述存储节点的存储使用率。例如；存储节点的CPU内存使用率、服务器内存和硬盘的存储使用率等等。

在操作S302，通过监控分配管理器将日志数据转发至缓存转发节点，以便缓存转发节点对日志数据进行缓存后，缓存转发节点将日志数据转发至存储节点进行存储。

在操作S303，分别判断第一负载监控数据、第二负载监控数据、第三负载监控数据、第四负载监控数据、缓存负载监控数据、以及存储负载监控数据是否超过预设阈值，并进行相关节点数量的调整。

具体地，监控分配管理器根据相应节点的负载监控数据是否超过预设阈值来更新采集发送节点、缓存转发节点、以及存储节点的数量配置，并将该更新后的节点数量配置下发至采集发送节点、缓存转发节点、以及存储节点所在集群管理器，以便相应的集群管理器对集群节点数量进行调整，即当第一负载监控数据超过预设阈值时，增加采集发送节点、缓存转发节点、以及存储节点的数量；当第二负载监控数据超过预设阈值时，增加缓存转发节点的数量；当第三负载监控数据超过预设阈值时，增加采集发送节点的数量，或者将日志数据由数据量负载较大的采集发送节点调配至数据量负载较小的采集发送节点；当第四负载监控数据超过预设阈值时，相应地，该条数据处理链路上相应的缓存负载压力也比较大，因此，可以增加缓存转发节点的数量，或者将日志数据由数据量负载较大的缓存转发节点调配至数据量负载较小的缓存转发节点；当缓存负载监控数据超过预设阈值时，增加缓存转发节点的数量，或者将日志数据由数据量负载较大的缓存转发节点调配至数据量负载较小的缓存转发节点；当存储负载监控数据超过预设阈值时，增加存储节点的数量，或者将日志数据由数据量负载较大的存储节点调配至数据量负载较小的存储节点。

由上述内容可见，根据本公开的实施例的方法，覆盖了多种场景下的数据量或者访问量突增的情形，通过对系统中各个节点进行监控和管理，根据监控数据可以实现集群中各个采集发送节点、缓存转发节点、以及存储节点的数量进行调整，实现了每条采集链路上各个节点的实时动态扩缩，可以对集群中各个节点出现负载异常的突发状况作出及时响应和处理，提升了系统对日志数据处理的效果，也避免出现因系统中节点的数据量或访问量异常，处理应对不及时而引起交易滞后、以及数据丢失等情况，提升了客户体验。

需要说明的是，本公开实施例中的流程图所示的操作除非明确说明不同操作之间存在执行的先后顺序，或者不同操作在技术实现上存在执行的先后顺序，否则，多个操作之间的执行顺序可以不分先后，多个操作也可以同时执行。

本公开的另一个方面提供了一种日志处理系统，图4示意性示出了根据本公开实施例的日志处理系统的示意图。

如图4所示，该系统包括：采集发送节点、监控分配管理器、缓存转发节点、以及存储节点。其中，缓存转发节点可以包括缓存节点和转发节点，也可缓存和转发布置在一个节点中，图4中箭头指向表示日志数据流向。

具体地，采集发送节点，用于采集日志数据并向监控分配管理器发送日志数据。

监控分配管理器，用于接收来自采集发送节点的日志数据，并将日志数据转发至缓存转发节点，以及用于接收来自采集发送节点的第一负载监控数据，第一负载监控数据包括所有采集发送节点的日志数据量总和，以及根据第一负载监控数据，对采集发送节点、缓存转发节点、以及存储节点的数量进行调整。

缓存转发节点，用于对日志数据进行缓存、以及将日志数据转发至存储节点；以及存储节点，用于对来自缓存转发节点的日志数据进行存储。

需要说明的是，采集发送节点、缓存转发节点、以及存储节点可以部署在一个集群中，也可分别部署在不同的集群中，也可任意组合分别部署在不同的集群中。如图4所示，当采集发送节点部署在一个集群中，缓存节点、转发节点、以及存储节点部署在另一个集群中时，监控分配管理器部署在两个集群之间，作为采集发送节点所在集群发送的日志数据的一个统一出口，用以实现两个集群之间数据流量的调度和分配。另外，可采用集群网桥，用作缓存节点、转发节点、以及存储节点之间进行数据转发的功能。来自监控分配管理器的日志数据通过集群网桥发送至缓存节点，缓存节点再通过集群网桥将日志数据发送至存储节点。

下述内容结合图5、图6、图7、图8、图9对图4中所示日志处理系统进行详细说明。图5示意性示出了根据本公开另一实施例的日志处理系统的示意图。如图5所示，该系统包括：由采集节点和发送节点组成的采集发送集群、由缓存节点和转发节点组成的缓存转发集群、由存储节点组成的存储集群，还包括由流量分配器、监控器、和管理器组成的监控分配管理器。图5中虚线箭头指向表示监控数据流向，实现箭头表示日志数据流向。

图6示意性示出了根据本公开实施例的监控分配管理器的框图；图7示意性示出了根据本公开实施例的采集发送集群的框图；图8示意性示出了根据本公开实施例的缓存转发集群的框图；图9示意性示出了根据本公开实施例的存储集群的框图。

具体地，如图6所述，监控分配管理器600包括流量分配器610、监控器620、管理器630。采集发送集群700包括采集发送配置管理器710、采集节点720、发送节点730。缓存转发集群800包括缓存转发配置管理器810、缓存节点820、转发节点830。存储集群900包括存储配置管理器910、和存储节点920。

流量分配器610，用于接收来自发送节点730的日志数据，并将日志数据转发至缓存节点820，以及向监控器620发送第一负载监控数据、第二负载监控数据，其中第一负载监控数据包括所有采集发送节点730的日志数据量总和；第二负载监控数据包括所有采集发送节点730的日志访问量总和。由于各个发送节点730发送的监控数据存在时间不同步性，因此通过流量分配器610对各个发送节点730的监控数据进行了统一汇总，增加了数据监控的准确性，为之后的节点动态调整提供了准确的参考依据。

监控器620，用于接收来自各个节点的监控数据，包括来自发送节点730第一负载监控数据、第二负载监控数据、第三负载监控数据以及第四负载监控数据，接收来自缓存节点820的缓存负载监控数据、接收来自存储节点920的存储负载监控数据。并分别判断第一负载监控数据、第二负载监控数据、第三负载监控数据、第四负载监控数据、缓存负载监控数据、以及存储负载监控数据是否超过预设阈值，生成各个集群的节点配置，将各个集群的节点配置发送至管理器630。

管理器630，用于将各个集群的节点配置下发至各个集群的配置管理器(即采集发送配置管理器710，缓存转发配置管理器810和存储配置管理器910)，以便各个集群根据各自的配置管理器的节点配置对集群中的采集节点720、发送节点730、缓存节点820、转发节点830、以及存储节点920的数量进行调整，实现动态扩容。

采集节点720，用于采集日志数据；

发送节点730，用于向监控器620发送第三负载监控数据、第四负载监控数据，以及向流量分配器610发送日志数据，其中，第三负载监控数据包括单个采集发送节点730的日志数据量，第四负载监控数据包括单个采集发送节点730的日志访问量。

缓存节点820，用于对日志数据进行缓存、以及将日志数据发送至转发节点830，以便转发节点830将日志数据转发至存储节点920。另外，缓存节点820，还用于向监控器620发送缓存负载监控数据，缓存负载监控数据用于表征所述缓存转发节点830的缓存使用率，例如缓存节点820、转发节点830的CPU内存使用率、服务器内存和硬盘的存储使用率等等。

存储节点920，用于对来自转发节点830的日志数据进行存储。另外，存储节点920，还用于向监控器620发送存储负载监控数据，存储负载监控数据用于表征所述存储节点920的存储使用率，例如；存储节点920的CPU内存使用率、服务器内存和硬盘的存储使用率等等。

根据本公开的实施例，通过该日志处理系统，监控分配管理器中的监控器620用于接收来自各个节点的监控数据，并对监控数据进行处理，生成各个集群的节点配置。通过管理器630将各个集群的节点配置下发至各个集群的配置管理器，以便各个集群根据各自的配置管理器的节点配置对集群中相应节点的数量进行调整，实现动态扩容，实现了每条采集链路上各个节点的实时动态扩缩，可以应对集群中各个节点出现负载异常的突发状况，实现了每条采集链路上各个节点的实时动态扩缩，提升了系统对日志数据处理的能力，达到了提高系统的高可用性和稳定性的技术效果，也避免出现因系统中节点的数据量或访问量异常，处理应对不及时而引起日志数据丢失的情况。

本公开的另一个方面提供了一种日志处理装置1000，图10示意性示出了根据本公开实施例的日志处理装置的框图；如图10所示，日志处理装置1000包括第一接收模块1010，转发模块1020、和第一调整模块1030。

第一接收模块1010，用于接收来自采集发送节点的日志数据和第一负载监控数据，第一负载监控数据包括所有采集发送节点的日志数据量总和；

转发模块1020，用于将日志数据转发至缓存转发节点，以便缓存转发节点对日志数据进行缓存后，缓存转发节点将日志数据转发至存储节点进行存储；

第一调整模块1030，用于根据第一负载监控数据，对采集发送节点、缓存转发节点、以及存储节点的数量进行调整，以便基于调整后的采集发送节点、调整后的缓存转发节点和调整后的存储节点对新采集的日志数据进行处理。

根据本公开的实施例，采用该日志处理装置1000，通过第一接收模块1010接受第一负载监控数据，并通过第一调整模块1030，根据第一负载监控数据，对采集发送节点、缓存转发节点、以及存储节点的数量进行调整，实现了每条采集链路上各个节点的实时动态扩缩，达到了提高系统的高可用性和稳定性的技术效果。

根据本公开的实施例，上述日志处理装置1000中，根据第一负载监控数据，对采集发送节点、缓存转发节点、以及存储节点的数量进行调整包括：当第一负载监控数据超过预设阈值时，增加采集发送节点、缓存转发节点、以及存储节点的数量。

根据本公开的实施例，该日志处理装置1000还包括第二接收模块和第二调整模块。其中：

第二接收模块，用于接收来自采集发送节点的第二负载监控数据，第二负载监控数据包括所有采集发送节点的日志访问量总和；

第二调整模块，用于当第二负载监控数据超过预设阈值时，增加缓存转发节点的数量。

根据本公开的实施例，该日志处理装置1000还包括第三接收模块和第三调整模块。其中：

第三接收模块，用于接收来自采集发送节点的第三负载监控数据，第三负载监控数据包括单个采集发送节点的日志数据量；

第三调整模块，用于当第三负载监控数据超过预设阈值时，增加采集发送节点的数量。

根据本公开的实施例，该日志处理装置1000还包括第四接收模块和第四调整模块。其中：

第四接收模块，用于接收来自采集发送节点的第四负载监控数据，第四负载监控数据包括单个采集发送节点的日志访问量；

第四调整模块，用于当第四负载监控数据超过预设阈值时，增加缓存转发节点的数量。

根据本公开的实施例，该日志处理装置1000还包括：第五接收模块和第五调整模块。其中：

第五接收模块，用于接收来自缓存转发节点的缓存负载监控数据，缓存负载监控数据用于表征缓存转发节点的缓存使用率；以及

第五调整模块，用于当缓存负载监控数据超过预设阈值，增加缓存转发节点的数量。

根据本公开的实施例，该日志处理装置1000还包括：第六接收模块和第六调整模块。其中：

第六接收模块，用于接收来自存储节点的存储负载监控数据，存储负载监控数据用于表征存储节点的存储使用率；以及

第六调整模块，用于当存储负载监控数据超过预设阈值，增加存储节点的数量。

根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

例如，第一接收模块1010，转发模块1020、第一调整模块1030中的任意多个可以合并在一个模块/单元/子单元中实现，或者其中的任意一个模块/单元/子单元可以被拆分成多个模块/单元/子单元。或者，这些模块/单元/子单元中的一个或多个模块/单元/子单元的至少部分功能可以与其他模块/单元/子单元的至少部分功能相结合，并在一个模块/单元/子单元中实现。根据本公开的实施例，第一接收模块1010，转发模块1020、第一调整模块1030中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，第一接收模块1010，转发模块1020、第一调整模块1030中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

本公开另一方面提供了电子设备，包括：一个或多个处理器；存储器，用于存储一个或多个指令，其中，当所述一个或多个指令被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上所述的停机测试方法。

图11示意性示出了根据本公开实施例的用于实现日志处理方法方法的电子设备的框图。图11示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

图11示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图11所示，根据本公开实施例的电子设备1100包括处理器1101，其可以根据存储在只读存储器(ROM)1102中的程序或者从存储部分1111加载到随机访问存储器(RAM)1103中的程序而执行各种适当的动作和处理。处理器1101例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))，等等。处理器1101还可以包括用于缓存用途的板载存储器。处理器1101可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 1103中，存储有电子设备1100操作所需的各种程序和数据。处理器1101、ROM 1102以及RAM 1103通过总线1104彼此相连。处理器1101通过执行ROM 1102和/或RAM1103中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 1102和RAM 1103以外的一个或多个存储器中。处理器1101也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例，电子设备1100还可以包括输入/输出(I/O)接口1105，输入/输出(I/O)接口1105也连接至总线1104。系统1100还可以包括连接至I/O接口1105的以下部件中的一项或多项：包括键盘、鼠标等的输入部分1106；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1107；包括硬盘等的存储部分1111；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1109。通信部分1109经由诸如因特网的网络执行通信处理。驱动器1110也根据需要连接至I/O接口1105。可拆卸介质1111，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器1110上，以便于从其上读出的计算机程序根据需要被安装入存储部分1111。

根据本公开的实施例，根据本公开实施例的方法流程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分1109从网络上被下载和安装，和/或从可拆卸介质1111被安装。在该计算机程序被处理器1101执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。

根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质。例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 1102和/或RAM 1103和/或ROM 1102和RAM 1103以外的一个或多个存储器。

本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行本公开实施例所提供的方法的程序代码，当计算机程序产品在电子设备上运行时，该程序代码用于使电子设备实现本公开实施例所提供的日志处理方法。

在该计算机程序被处理器1101执行时，执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。

在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分1109被下载和安装，和/或从可拆卸介质1111被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (12)

1.一种日志处理方法，包括：

接收来自采集发送节点的日志数据和第一负载监控数据，所述第一负载监控数据包括所有所述采集发送节点的日志数据量总和；

将所述日志数据转发至缓存转发节点，以便所述缓存转发节点对所述日志数据进行缓存后，所述缓存转发节点将所述日志数据转发至存储节点进行存储；

根据所述第一负载监控数据，对所述采集发送节点、所述缓存转发节点、以及所述存储节点的数量进行调整，以便基于调整后的采集发送节点、调整后的缓存转发节点和调整后的存储节点对新采集的日志数据进行处理。

2.根据权利要求1所述的方法，所述根据所述第一负载监控数据，对所述采集发送节点、所述缓存转发节点、以及所述存储节点的数量进行调整包括：

当所述第一负载监控数据超过预设阈值时，增加所述采集发送节点、所述缓存转发节点、以及所述存储节点的数量。

3.根据权利要求1所述的方法，还包括：

接收来自所述采集发送节点的第二负载监控数据，所述第二负载监控数据包括所有所述采集发送节点的日志访问量总和；

当所述第二负载监控数据超过预设阈值时，增加所述缓存转发节点的数量。

4.根据权利要求1所述的方法，还包括：

接收来自所述采集发送节点的第三负载监控数据，所述第三负载监控数据包括单个所述采集发送节点的日志数据量；

当所述第三负载监控数据超过预设阈值时，增加所述采集发送节点的数量。

5.根据权利要求1所述的方法，还包括：

接收来自所述采集发送节点的第四负载监控数据，所述第四负载监控数据包括单个所述采集发送节点的日志访问量；

当所述第四负载监控数据超过预设阈值时，增加所述缓存转发节点的数量。

6.根据权利要求1所述的方法，还包括：

接收来自所述缓存转发节点的缓存负载监控数据，所述缓存负载监控数据用于表征所述缓存转发节点的缓存使用率；以及

当所述缓存负载监控数据超过预设阈值，增加所述缓存转发节点的数量。

7.根据权利要求1所述的方法，还包括：

接收来自所述存储节点的存储负载监控数据，所述存储负载监控数据用于表征所述存储节点的存储使用率；以及

当所述存储负载监控数据超过预设阈值，增加所述存储节点的数量。

8.一种日志处理系统，包括：采集发送节点、监控分配管理器、缓存转发节点、以及存储节点；

所述采集发送节点，用于采集日志数据并向所述监控分配管理器发送所述日志数据；

所述监控分配管理器，用于接收来自采集发送节点的日志数据，并将所述日志数据转发至缓存转发节点，以及用于接收所述来自采集发送节点的第一负载监控数据，所述第一负载监控数据包括所有所述采集发送节点的日志数据量总和，以及根据所述第一负载监控数据，对所述采集发送节点、所述缓存转发节点、以及所述存储节点的数量进行调整；

所述缓存转发节点，用于对所述日志数据进行缓存、以及将所述日志数据转发至存储节点；以及

所述存储节点，用于对来自所述缓存转发节点的日志数据进行存储。

9.一种日志处理装置，包括：

第一接收模块，用于接收来自采集发送节点的日志数据和第一负载监控数据，所述第一负载监控数据包括所有所述采集发送节点的日志数据量总和；

转发模块，用于将所述日志数据转发至缓存转发节点，以便所述缓存转发节点对所述日志数据进行缓存后，所述缓存转发节点将所述日志数据转发至存储节点进行存储；

第一调整模块，用于根据所述第一负载监控数据，对所述采集发送节点、所述缓存转发节点、以及所述存储节点的数量进行调整，以便基于调整后的采集发送节点、调整后的缓存转发节点和调整后的存储节点对新采集的日志数据进行处理。

10.一种电子设备，包括：

一个或多个处理器；

存储器，用于存储一个或多个指令，

其中，当所述一个或多个指令被所述一个或多个处理器执行时，使得所述一个或多个处理器实现权利要求1至7中任一项所述的方法。

11.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器实现权利要求1至7中任一项所述的方法。

12.一种计算机程序产品，所述计算机程序产品包括计算机可执行指令，所述指令在被执行时用于实现权利要求1至7中任一项所述的方法。

Images