CN115757041B - 可动态配置的多集群日志采集的方法及应用 - Google Patents
可动态配置的多集群日志采集的方法及应用 Download PDFInfo
- Publication number
- CN115757041B CN115757041B CN202211505021.XA CN202211505021A CN115757041B CN 115757041 B CN115757041 B CN 115757041B CN 202211505021 A CN202211505021 A CN 202211505021A CN 115757041 B CN115757041 B CN 115757041B
- Authority
- CN
- China
- Prior art keywords
- log
- center
- data
- cluster
- component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000012986 modification Methods 0.000 claims abstract description 16
- 230000004048 modification Effects 0.000 claims abstract description 16
- 238000012545 processing Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 9
- 230000003993 interaction Effects 0.000 claims description 3
- 230000006870 function Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 11
- 238000007726 management method Methods 0.000 description 8
- 238000011835 investigation Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000011161 development Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种可动态配置的多集群日志采集的方法及应用，该方法包括以下步骤：通过云服务部署多个容器集群，并在所述容器集群内安装日志组件；通过云服务开启日志中心，所述日志中心启动所述容器集群的日志组件，并下发所述日志组件的配置；所述日志组件运行后向日志中心请求采集配置，获取所述采集配置后，日志组件解析该采集配置并采集日志数据，其中所述采集配置的参数能够通过用户的实时修改进行动态设置；日志组件将采集到的日志数据推送到所述日志中心，日志中心将不同集群的日志数据内容转换成统一的格式，并标记每条日志数据对应的容器集群。该方法有效解决了多集群环境下需要统一收集日志数据、动态配置采集内容的问题。
Description
技术领域
本发明是关于数据处理领域，特别是关于一种可动态配置的多集群日志采集的方法及应用。
背景技术
随着云计算快速发展，更多企业对云计算资源的要求也更加多样化，比较大的企业内部通过一个平台中管理不同容器集群、管理资源的同时，需要对容器集群的日志数据做统一的存储、查询和分析、监控告警，并且可以在平台上实时检索，因此建立一个统一管理，可动态配置的多集群日志采集服务迫在眉睫。
在现有技术中，不同容器下的日志都是保存在对应的容器集群中，日志内容也不是统一标准格式。因为没有统一的标准日志格式，在排查环节需要对应组件的开发才能读懂相对的日志数据，而且生产环境可能不允许开发人员连接，导致问题排查非常困难。如果想要排查问题，需要先定位出问题的容器集群，然后登录到指定集群中，每个节点一个个排查下去。
公开于该背景技术部分的信息仅仅旨在增加对本发明的总体背景的理解，而不应当被视为承认或以任何形式暗示该信息构成已为本领域一般技术人员所公知的现有技术。
发明内容
本发明的目的在于提供一种可动态配置的多集群日志采集的方法，其能够对容器集群的日志数据做统一的存储、查询和分析。
为实现上述目的，本发明的实施例提供了一种可动态配置的多集群日志采集的方法。
在本发明的一个或多个实施方式中，所述方法包括：通过云服务部署多个容器集群，并在所述容器集群内安装日志组件；通过云服务开启日志中心，所述日志中心启动所述容器集群的日志组件，并下发所述日志组件的配置；所述日志组件运行后向所述日志中心请求采集配置，获取所述采集配置后，日志组件解析该采集配置并采集日志数据，其中所述采集配置的参数能够通过用户的实时修改进行动态设置；以及所述日志组件将采集到的日志数据推送到所述日志中心，日志中心将不同集群的日志数据内容转换成统一的格式，并标记每条日志数据对应的容器集群。
在本发明的一个或多个实施方式中，所述云服务、日志中心和容器集群均部署在不同的虚拟机或物理机上，且所述云服务、日志中心和容器集群之间的交互通过接口请求调用来实现。
在本发明的一个或多个实施方式中，所述通过云服务开启日志中心，包括：在开启日志中心时，在底层物理机上新建属于日志中心的虚拟机，并部署日志中心的组件。
在本发明的一个或多个实施方式中，所述日志组件解析该采集配置并采集日志数据，包括：在日志组件解析获取的采集配置时，根据所述采集配置的数据源生成对应的采集器来进行日志数据采集。
在本发明的一个或多个实施方式中，所述采集配置的参数能够通过用户的实时修改进行动态设置，包括：日志中心为每个新创建的容器集群生成初始的采集配置，其中该初始的采集配置的内容能够通过云服务平台进行实时修改，所述修改内容包括采集的组件对象和采集的日志级别。
在本发明的一个或多个实施方式中，所述方法还包括：若日志中心的采集配置被用户修改后，日志中心更新缓存，日志组件定时向日志中心获取最新采集配置并进行日志数据采集。
在本发明的一个或多个实施方式中，所述日志组件将采集到的日志数据推送到所述日志中心，包括：日志组件将所述日志数据通过HTTP传输协议推送到日志中心。
在本发明的一个或多个实施方式中，所述日志中心将不同集群的日志数据内容转换成统一的格式，包括：在将日志数据转换成为统一格式后，对日志数据进行持久化保存。
在本发明的一个或多个实施方式中，所述方法还包括：在日志中心接收到云服务平台的日志查询请求后，在持久化的日志数据中查找数据并返回给所述云服务平台。
在本发明的另一个方面当中，提供了一种可动态配置的多集群日志采集的装置，其包括创建模块、开启模块、采集数据模块和处理数据模块。
创建模块，用于通过云服务部署多个容器集群，并在所述容器集群内安装日志组件。
开启模块，用于通过云服务开启日志中心，所述日志中心启动所述容器集群的日志组件，并下发所述日志组件的配置。
采集数据模块，用于所述日志组件运行后向所述日志中心请求采集配置，获取所述采集配置后，日志组件解析该采集配置并采集日志数据，其中所述采集配置的参数能够通过用户的实时修改进行动态设置。
处理数据模块，用于所述日志组件将采集到的日志数据推送到所述日志中心，日志中心将不同集群的日志数据内容转换成统一的格式，并标记每条日志数据对应的容器集群。
在本发明的一个或多个实施方式中，所述开启模块还用于：在开启日志中心时，在底层物理机上新建属于日志中心的虚拟机，并部署日志中心的组件。
在本发明的一个或多个实施方式中，所述采集数据模块还用于：在日志组件解析获取的采集配置时，根据所述采集配置的数据源生成对应的采集器来进行日志数据采集。
在本发明的一个或多个实施方式中，所述采集数据模块还用于：日志中心为每个新创建的容器集群生成初始的采集配置，其中该初始的采集配置的内容能够通过云服务平台进行实时修改，所述修改内容包括采集的组件对象和采集的日志级别。
在本发明的一个或多个实施方式中，所述采集数据模块还用于：若日志中心的采集配置被用户修改后，日志中心更新缓存，日志组件定时向日志中心获取最新采集配置并进行日志数据采集。
在本发明的一个或多个实施方式中，所述处理数据模块还用于：日志组件将所述日志数据通过HTTP传输协议推送到日志中心。
在本发明的一个或多个实施方式中，所述处理数据模块还用于：在将日志数据转换成为统一格式后，对日志数据进行持久化保存。
在本发明的一个或多个实施方式中，所述处理数据模块还用于：在日志中心接收到云服务平台的日志查询请求后，在持久化的日志数据中查找数据并返回给所述云服务平台。
在本发明的另一个方面当中，提供了一种电子设备，包括：至少一个处理器；以及存储器，所述存储器存储指令，当所述指令被所述至少一个处理器执行时，使得所述至少一个处理器执行如上述所述的可动态配置的多集群日志采集的方法。
在本发明的另一个方面当中，提供了一种计算机可读存储介质，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如上所述的可动态配置的多集群日志采集的方法的步骤。
与现有技术相比，根据本发明实施方式的可动态配置的多集群日志采集的方法及应用，对不同容器集群中的日志做了动态配置化采集和统一视图化查询与分析，解决了多集群环境下需要统一收集日志数据、动态配置采集内容的问题。在日志采集方面，采用高可扩展性的分布式系统架构设计，能够灵活地开启和关闭指定集群的日志采集，帮助用户提升运维和运营效率，快速查找和定位问题；在用户使用方面，通过使用简单的查询语法就可以进行页面查询，通过可视化界面配置分析报表，降低了用户使用门槛。
附图说明
图1是根据本发明一实施方式的可动态配置的多集群日志采集的方法的流程图；
图2是根据本发明一实施方式的可动态配置的多集群日志采集的方法的服务架构图；
图3是根据本发明一实施方式的可动态配置的多集群日志采集的方法的操作流程图；
图4是根据本发明一实施方式的可动态配置的多集群日志采集的装置的结构图；
图5是根据本发明一实施方式的可动态配置的多集群日志采集的计算设备的硬件结构图。
具体实施方式
下面结合附图，对本发明的具体实施方式进行详细描述，但应当理解本发明的保护范围并不受具体实施方式的限制。
除非另有其它明确表示，否则在整个说明书和权利要求书中，术语“包括”或其变换如“包含”或“包括有”等等将被理解为包括所陈述的元件或组成部分，而并未排除其它元件或其它组成部分。
以下结合附图，详细说明本发明各实施例提供的技术方案。
实施例1
如图1所示，介绍本发明的一个实施例中可动态配置的多集群日志采集的方法，该方法包括如下步骤。
在步骤S101中，通过云服务部署多个容器集群，并在所述容器集群内安装日志组件。
在本实施例中，所述容器集群均基于Kubernetes集群。Kubernetes，简称K8s，是一个开源的、用于管理云平台中多个主机上的容器化的应用。其作用是让部署容器化的应用简单并且高效，Kubernetes提供了应用部署、规划、更新、维护的一种机制。
在每个容器集群内安装日志组件，所述日志组件主要用于采集对应容器集群中的日志数据。
在步骤S102中，通过云服务开启日志中心，所述日志中心启动所述容器集群的日志组件，并下发所述日志组件的配置。
具体的，所述日志中心下发不同容器集群的对应日志组件的配置到不同容器集群中，容器集群基于接收到的日志组件的配置运行对应日志组件。
在步骤S103中，所述日志组件运行后向所述日志中心请求采集配置，获取所述采集配置后，日志组件解析该采集配置并采集日志数据，其中所述采集配置的参数通过用户的实时修改进行动态设置。
在本实施例中，所述采集配置的参数能够通过用户的实时修改进行动态设置，从而实现了动态配置化采集日志数据的功能。
在步骤S104中，所述日志组件将采集到的日志数据推送到所述日志中心，日志中心将不同集群的日志数据内容转换成统一的格式，并标记每条日志数据对应的容器集群。
在本实施例中，所述日志中心能够统一管理容器集群的日志数据，并且实现统一的日志数据格式，在排查环节能够更加便捷地读懂相应的日志数据，便于统一管理和问题排查。
实施例2
如图1至图3所示，介绍本发明的一个实施例中可动态配置的多集群日志采集的方法，该方法包括如下步骤。
在步骤S101中，通过云服务部署多个容器集群，并在所述容器集群内安装日志组件。
继虚拟化技术出现后，容器技术逐渐成为对云计算领域具有深远影响的变革技术。容器技术的发展和应用，将为各行业应用云计算提供了新思路。容器是轻量化的技术，相对于物理机和虚拟机而言，这意味着在等量资源的基础上能创建出更多的容器实例出来。一旦面对着分布在多台主机上且拥有数百套容器的大规模应用程序时，传统的或单机的容器管理解决方案就会变得难以满足需求。容器集群管理工具能在一组服务器上管理多容器组合成的应用，每个应用集群在容器编排工具看来是一个部署或管理实体，容器集群管理工具全方位为应用集群实现自动化，包括应用实例部署、应用更新、健康检查、弹性伸缩、自动容错等。
随着云计算快速发展，更多企业对云计算资源的要求也更加多样化，比较大的企业内部通过一个平台中管理不同容器集群，管理资源的同时，需要对容器集群的日志数据做统一的存储、查询和分析、监控告警，并且可以在平台上实时检索，因此建立一个统一管理，可动态配置的多集群日志采集服务迫在眉睫。
在现有技术中，不同容器下的日志都是保存在对应的容器集群中，日志内容也不是统一标准格式。因为没有统一的标准日志格式，在排查环节需要对应组件的开发才能读懂相对的日志数据，而且生产环境可能不允许开发人员连接，导致问题排查非常困难。
具体的，在开启日志中心时，在底层物理机上新建属于日志中心的虚拟机，并部署日志中心的组件。
如图2及图3所示，为了更清楚地介绍本发明的应用场景，在本实施例中以两个Kubernetes容器集群A和B为例，通过云服务平台创建容器集群A和B。
在步骤S102中，通过云服务开启日志中心，所述日志中心启动所述容器集群的日志组件，并下发所述日志组件的配置。
具体的，在日志中心开启后，通过云服务部署的容器集群，需要开启日志组件来采集应用容器和系统组件的日志数据。
如图2及图3所示，容器集群A和B中的日志组件会到云服务平台指定的日志中心注册。
在步骤S103中，所述日志组件运行后向所述日志中心请求采集配置，获取所述采集配置后，日志组件解析该采集配置并采集日志数据，其中所述采集配置的参数能够通过用户的实时修改进行动态设置。
具体的，在开启日志中心后，云服务创建的容器集群都会默认开启日志采集功能。在日志组件解析获取的采集配置时，根据所述采集配置的数据源生成对应的采集器来进行日志数据采集。
在本实施例中，日志中心为每个新创建的容器集群生成初始的采集配置，其中该初始的采集配置的内容能够通过云服务平台进行实时修改，所述修改内容包括采集的组件对象和采集的日志级别。若日志中心的采集配置被用户修改后，日志中心更新缓存，日志组件定时向日志中心获取最新采集配置并进行日志数据采集。
如图2及图3所示，日志中心会为这两个容器集群A和B生成初始的采集配置crawlerA和crawlerB，并推送到其对应的容器集群，容器集群中的日志组件进行解析采集配置并开始采集日志。
在步骤S104中，所述日志组件将采集到的日志数据推送到所述日志中心，日志中心将不同集群的日志数据内容转换成统一的格式，并标记每条日志数据对应的容器集群。
具体的，日志组件将所述日志数据通过HTTP传输协议推送到日志中心。在将日志数据转换成为统一格式后，对日志数据进行持久化保存。在日志中心接收到云服务平台的日志查询请求后，在持久化的日志数据中查找数据并返回给所述云服务平台。
如图2及图3所示，在日志采集之后，日志数据会通过HTTP传输协议传输到日志中心，在云服务平台容器集群中可以查看到容器集群A和B，这两下属的功能页中包括日志功能页，在日志功能页下可以查看到容器集群已经被采集的日志。
完成上述步骤之后，云服务用户可以在云服务的平台上查看到不同集群的日志数据，基于采集配置日志组件在采集阶段已经去除了不需要的日志数据，在平台上便可以通过简单的查询语句筛选出用户想要的日志数据。
在本实施例中，以两个Kubernetes容器集群A和B为例，能够通过云服务平台的日志中心页面可以查看和修改容器集群所有的采集配置，容器集群可以基于命名空间或者组件增加对应的配置项，例如给crawlerA增加配置项：命名空间kube-system、采集日志等级ERROR、屏蔽词IP。配置提交之后，日志中心会将最新的采集配置推送到容器集群A，经过日志组件的解析之后，容器集群A下的命名空间kube-system的日志数据就只会采集日志等级为ERROR的日志，并且日志内容中不可以包含IP。容器集群B可操作范围同上。
在本实施例的可动态配置的多集群日志采集的方法中，所述云服务、日志中心和容器集群均部署在不同的虚拟机或物理机上，且所述云服务、日志中心和容器集群之间的交互通过接口请求调用来实现。
实施例3
如图4所示，介绍根据本发明具体实施方式的可动态配置的多集群日志采集的装置。
在本发明的实施方式中，可动态配置的多集群日志采集的装置包括创建模块401、开启模块402、采集数据模块403和处理数据模块404。
创建模块401，用于通过云服务部署多个容器集群，并在所述容器集群内安装日志组件。
开启模块402，用于通过云服务开启日志中心，所述日志中心启动所述容器集群的日志组件，并下发所述日志组件的配置。
采集数据模块403，用于所述日志组件运行后向所述日志中心请求采集配置，获取所述采集配置后，日志组件解析该采集配置并采集日志数据，其中所述采集配置的参数能够通过用户的实时修改进行动态设置。
处理数据模块404，用于所述日志组件将采集到的日志数据推送到所述日志中心，日志中心将不同集群的日志数据内容转换成统一的格式，并标记每条日志数据对应的容器集群。
开启模块402还用于：在开启日志中心时，在底层物理机上新建属于日志中心的虚拟机，并部署日志中心的组件。
采集数据模块403还用于：在日志组件解析获取的采集配置时，根据所述采集配置的数据源生成对应的采集器来进行日志数据采集。
采集数据模块403还用于：日志中心为每个新创建的容器集群生成初始的采集配置，其中该初始的采集配置的内容能够通过云服务平台进行实时修改，所述修改内容包括采集的组件对象和采集的日志级别。
采集数据模块403还用于：若日志中心的采集配置被用户修改后，日志中心更新缓存，日志组件定时向日志中心获取最新采集配置并进行日志数据采集。
处理数据模块404还用于：日志组件将所述日志数据通过HTTP传输协议推送到日志中心。
处理数据模块404还用于：在将日志数据转换成为统一格式后，对日志数据进行持久化保存。
处理数据模块404还用于：在日志中心接收到云服务平台的日志查询请求后，在持久化的日志数据中查找数据并返回给所述云服务平台。
图5示出了根据本说明书的实施例的用于可动态配置的多集群日志采集的计算设备50的硬件结构图。如图5所示，计算设备50可以包括至少一个处理器501、存储器502(例如非易失性存储器)、内存503和通信接口504，并且至少一个处理器501、存储器502、内存503和通信接口504经由总线505连接在一起。至少一个处理器501执行在存储器502中存储或编码的至少一个计算机可读指令。
应该理解，在存储器502中存储的计算机可执行指令当执行时使得至少一个处理器501进行本说明书的各个实施例中以上结合图1-5描述的各种操作和功能。
在本说明书的实施例中，计算设备50可以包括但不限于：个人计算机、服务器计算机、工作站、桌面型计算机、膝上型计算机、笔记本计算机、移动计算设备、智能电话、平板计算机、蜂窝电话、个人数字助理(PDA)、手持装置、消息收发设备、可佩戴计算设备、消费电子设备等等。
根据一个实施例，提供了一种比如机器可读介质的程序产品。机器可读介质可以具有指令(即，上述以软件形式实现的元素)，该指令当被机器执行时，使得机器执行本说明书的各个实施例中以上结合图1-5描述的各种操作和功能。具体地，可以提供配有可读存储介质的系统或者装置，在该可读存储介质上存储着实现上述实施例中任一实施例的功能的软件程序代码，且使该系统或者装置的计算机或处理器读出并执行存储在该可读存储介质中的指令。
根据本发明实施方式的可动态配置的多集群日志采集的方法及应用，其中把不同容器集群中的日志做了动态配置化采集和统一视图化查询与分析，解决了多集群环境下需要统一收集日志数据、动态配置采集内容的问题。在日志采集方面，帮助用户提升运维和运营效率，快速查找和定位问题，采用高可扩展性的分布式系统架构设计，能够灵活地开启和关闭指定集群的日志采集；在用户使用方面，页面查询只需要使用简单的查询语法，通过可视化界面配置分析报表，降低了用户使用门槛。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
前述对本发明的具体示例性实施方案的描述是为了说明和例证的目的。这些描述并非想将本发明限定为所公开的精确形式，并且很显然，根据上述教导，可以进行很多改变和变化。对示例性实施例进行选择和描述的目的在于解释本发明的特定原理及其实际应用，从而使得本领域的技术人员能够实现并利用本发明的各种不同的示例性实施方案以及各种不同的选择和改变。本发明的范围意在由权利要求书及其等同形式所限定。
Claims (10)
1.一种可动态配置的多集群日志采集的方法，其特征在于，所述方法包括：
通过云服务部署多个容器集群，并在所述容器集群内安装日志组件；
通过云服务开启日志中心，所述日志中心启动所述容器集群的日志组件，并下发所述日志组件的配置；
所述日志组件运行后向所述日志中心请求采集配置，获取所述采集配置后，日志组件解析该采集配置并采集日志数据，其中所述采集配置的参数通过用户的实时修改进行动态设置；以及
所述日志组件将采集到的日志数据推送到所述日志中心，日志中心将不同集群的日志数据内容转换成统一的格式，并标记每条日志数据对应的容器集群；
其中所述采集配置的参数能够通过用户的实时修改进行动态设置，包括：
日志中心为每个新创建的容器集群生成初始的采集配置，其中该初始的采集配置的内容能够通过云服务平台进行实时修改，所述修改内容包括采集的组件对象和采集的日志级别；
若日志中心的采集配置被用户修改后，日志中心更新缓存，日志组件定时向日志中心获取最新采集配置并进行日志数据采集。
2.如权利要求1所述的可动态配置的多集群日志采集的方法，其特征在于，所述云服务、日志中心和容器集群均部署在不同的虚拟机或物理机上，且所述云服务、日志中心和容器集群之间的交互通过接口请求调用来实现。
3.如权利要求1所述的可动态配置的多集群日志采集的方法，其特征在于，所述通过云服务开启日志中心，包括：
在开启日志中心时，在底层物理机上新建属于日志中心的虚拟机，并部署日志中心的组件。
4.如权利要求1所述的可动态配置的多集群日志采集的方法，其特征在于，所述日志组件解析该采集配置并采集日志数据，包括：
在日志组件解析获取的采集配置时，根据所述采集配置的数据源生成对应的采集器来进行日志数据采集。
5.如权利要求1所述的可动态配置的多集群日志采集的方法，其特征在于，所述日志组件将采集到的日志数据推送到所述日志中心，包括：
日志组件将所述日志数据通过HTTP传输协议推送到日志中心。
6.如权利要求1所述的可动态配置的多集群日志采集的方法，其特征在于，所述日志中心将不同集群的日志数据内容转换成统一的格式，包括：
在将日志数据转换成为统一格式后，对日志数据进行持久化保存。
7.如权利要求6所述的可动态配置的多集群日志采集的方法，其特征在于，所述方法还包括：
在日志中心接收到云服务平台的日志查询请求后，在持久化的日志数据中查找数据并返回给所述云服务平台。
8.一种可动态配置的多集群日志采集的装置，其特征在于，所述装置包括：
创建模块，用于通过云服务部署多个容器集群，并在所述容器集群内安装日志组件；
开启模块，用于通过云服务开启日志中心，所述日志中心启动所述容器集群的日志组件，并下发所述日志组件的配置；
采集数据模块，用于所述日志组件运行后向所述日志中心请求采集配置，获取所述采集配置后，日志组件解析该采集配置并采集日志数据，其中所述采集配置的参数能够通过用户的实时修改进行动态设置；以及
处理数据模块，用于所述日志组件将采集到的日志数据推送到所述日志中心，日志中心将不同集群的日志数据内容转换成统一的格式，并标记每条日志数据对应的容器集群；
其中所述采集配置的参数能够通过用户的实时修改进行动态设置，包括：
日志中心为每个新创建的容器集群生成初始的采集配置，其中该初始的采集配置的内容能够通过云服务平台进行实时修改，所述修改内容包括采集的组件对象和采集的日志级别；
若日志中心的采集配置被用户修改后，日志中心更新缓存，日志组件定时向日志中心获取最新采集配置并进行日志数据采集。
9.一种电子设备，其特征在于，包括：
至少一个处理器；以及
存储器，所述存储器存储指令，当所述指令被所述至少一个处理器执行时，使得所述至少一个处理器执行如权利要求1至7中任一项所述的可动态配置的多集群日志采集的方法。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的可动态配置的多集群日志采集的方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211505021.XA CN115757041B (zh) | 2022-11-28 | 2022-11-28 | 可动态配置的多集群日志采集的方法及应用 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211505021.XA CN115757041B (zh) | 2022-11-28 | 2022-11-28 | 可动态配置的多集群日志采集的方法及应用 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115757041A CN115757041A (zh) | 2023-03-07 |
| CN115757041B true CN115757041B (zh) | 2023-11-21 |
Family
ID=85339649
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211505021.XA Active CN115757041B (zh) | 2022-11-28 | 2022-11-28 | 可动态配置的多集群日志采集的方法及应用 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115757041B (zh) |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9578063B1 (en) * | 2015-11-20 | 2017-02-21 | International Business Machines Corporation | Application self-service for assured log management in cloud environments |
| CN111177239A (zh) * | 2019-12-13 | 2020-05-19 | 航天信息股份有限公司 | 一种基于hdp大数据集群的统一日志处理方法及系统 |
| CN113468111A (zh) * | 2021-07-27 | 2021-10-01 | 中国银行股份有限公司 | 一种容器云的日志监控管理系统及方法 |
| CN113535668A (zh) * | 2021-04-23 | 2021-10-22 | 中国建设银行股份有限公司 | 日志数据处理方法及装置 |
| CN113938379A (zh) * | 2021-09-29 | 2022-01-14 | 浪潮云信息技术股份公司 | 一种动态加载云平台日志采集配置的方法 |
| CN114385452A (zh) * | 2022-01-12 | 2022-04-22 | 芃飞软件科技无锡有限公司 | 智能集群日志监控分析方法 |
| CN114567555A (zh) * | 2022-03-04 | 2022-05-31 | 浪潮云信息技术股份公司 | 基于云的Redis集群自动化采集慢日志的方法及系统 |
| CN114598731A (zh) * | 2022-03-15 | 2022-06-07 | 平安科技（深圳）有限公司 | 集群日志采集方法、装置、设备及存储介质 |
| CN114756301A (zh) * | 2022-04-24 | 2022-07-15 | 北京百度网讯科技有限公司 | 日志处理方法、装置和系统 |
| CN114896222A (zh) * | 2022-06-07 | 2022-08-12 | 中国工商银行股份有限公司 | 日志数据处理方法、装置、计算机设备、系统 |
-
2022
- 2022-11-28 CN CN202211505021.XA patent/CN115757041B/zh active Active
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9578063B1 (en) * | 2015-11-20 | 2017-02-21 | International Business Machines Corporation | Application self-service for assured log management in cloud environments |
| CN111177239A (zh) * | 2019-12-13 | 2020-05-19 | 航天信息股份有限公司 | 一种基于hdp大数据集群的统一日志处理方法及系统 |
| CN113535668A (zh) * | 2021-04-23 | 2021-10-22 | 中国建设银行股份有限公司 | 日志数据处理方法及装置 |
| CN113468111A (zh) * | 2021-07-27 | 2021-10-01 | 中国银行股份有限公司 | 一种容器云的日志监控管理系统及方法 |
| CN113938379A (zh) * | 2021-09-29 | 2022-01-14 | 浪潮云信息技术股份公司 | 一种动态加载云平台日志采集配置的方法 |
| CN114385452A (zh) * | 2022-01-12 | 2022-04-22 | 芃飞软件科技无锡有限公司 | 智能集群日志监控分析方法 |
| CN114567555A (zh) * | 2022-03-04 | 2022-05-31 | 浪潮云信息技术股份公司 | 基于云的Redis集群自动化采集慢日志的方法及系统 |
| CN114598731A (zh) * | 2022-03-15 | 2022-06-07 | 平安科技（深圳）有限公司 | 集群日志采集方法、装置、设备及存储介质 |
| CN114756301A (zh) * | 2022-04-24 | 2022-07-15 | 北京百度网讯科技有限公司 | 日志处理方法、装置和系统 |
| CN114896222A (zh) * | 2022-06-07 | 2022-08-12 | 中国工商银行股份有限公司 | 日志数据处理方法、装置、计算机设备、系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115757041A (zh) | 2023-03-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109997126B (zh) | 事件驱动提取、变换、加载（etl）处理 | |
| CN109716320B (zh) | 用于事件处理的图生成的方法、系统、介质和应用处理引擎 | |
| CN111708749B (zh) | 操作日志记录方法、装置、计算机设备及存储介质 | |
| US9336288B2 (en) | Workflow controller compatibility | |
| CN108874558B (zh) | 分布式事务的消息订阅方法、电子装置及可读存储介质 | |
| CN108616419B (zh) | 一种基于Docker的数据包采集分析系统及其方法 | |
| US11010401B2 (en) | Efficient snapshot generation of data tables | |
| Baresi et al. | Microservices: The evolution and extinction of web services? | |
| CA2896527C (en) | Web service asset management and web service information storage | |
| EP3446440A1 (en) | Multi-stage network discovery | |
| US20150286505A1 (en) | Computing system resource provisioning | |
| US9514184B2 (en) | Systems and methods for a high speed query infrastructure | |
| US20150261766A1 (en) | Method and apparatus for determining a range of files to be migrated | |
| US9706005B2 (en) | Providing automatable units for infrastructure support | |
| CN103345386A (zh) | 一种软件生产方法、装置及运行系统 | |
| US10331484B2 (en) | Distributed data platform resource allocator | |
| CN115335821A (zh) | 卸载统计收集 | |
| US10129328B2 (en) | Centralized management of webservice resources in an enterprise | |
| US20210224102A1 (en) | Characterizing operation of software applications having large number of components | |
| CN112579406B (zh) | 一种日志调用链生成方法和装置 | |
| CN111026796B (zh) | 多源异构数据采集方法、装置、系统、介质和设备 | |
| CN115757041B (zh) | 可动态配置的多集群日志采集的方法及应用 | |
| CN113961228A (zh) | 一种变更提醒方法、装置、设备及存储介质 | |
| CN110413496B (zh) | 一种实现电子证照运行数据组件化收集的方法 | |
| CN113704203A (zh) | 一种日志文件的处理方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |