CN109828886A - 一种容器云环境下的ci/cd监控方法和系统 - Google Patents

Abstract

本发明公开了一种容器云环境下的CI/CD监控方法和系统，其中系统包括：监控组件Agent以及数据采集与处理中心。本发明提供的CI/CD监控系统是基于容器云平台环境的持续集成和持续交付全链路监控系统，对于每个监控源，拥有独立的一个监控组件Agent，与监控源进行数据交互；对于每一个监控信息block_message，拥有一个唯一的Id，不同组件生成的block_message共享一个跟踪链list。相较于传统的监控系统，本发明的监控系统一方面可以线性扩展监控组件，不受CI/CD平台拥有众多的开发组件的影响，提升系统的灵活性与扩展性；另一方面可以实时跟踪全链路过程，通过前端图形界面显示，可以清晰地展示给用户全链路监控信息，帮助用户去定位异常问题。

Description

一种容器云环境下的CI/CD监控方法和系统

技术领域

本发明涉及软件开发及运维监控领域，特别涉及以容器为基础的云平台环境下，如何监控持续集成和持续交付(CI/CD)的工作流程。

背景技术

近年来，DevOps(Development和Operations的组合词，即开发运维一体化)已经成为云中应用交付和维护最有效的方法，CI/CD(CI，Continuous Integration即持续集成；CD，Continuous Delivery即持续交付)作为DevOps的关键实践之一，它让团队能够在开发实践上紧密协作，力图让每一个发布过程都变得可靠，并确保有一种全面的、一致的、自动化的方式将软件交付到多个运行环境中。在RightScale发表的云状态调查报告中指出，在最常见的云优化的方式中，有一半的企业关注的是如何监控。因此，对CI/CD如何进行高效地监控已经成为现代企业关心的一大问题。

目前，在Docker容器中运行CI/CD已成为主流趋势，相较于传统的方式，Docker环境下的CI/CD不仅拥有传统监控遇到的问题，也带来一些更大的挑战。

1.监控源的多样化挑战

CI/CD涉及到众多的开发工具，有开源的，也有商业的。在代码管理阶段，比较常用的开具包括SVN，Git等；在持续集成阶段，有Jenkins等；在测试阶段，有Fortify等；在部署阶段，有Ansible等。在一些阶段可能还集成邮件、短信等第三方功能。监控源越来越多，要监控的数据自然也就越来越多，对这么多数据的采集、存储和实时分析就成为了监控系统的一大难题。另外，由于监控源不断变化，传统的架构难以灵活地扩展。

2.大量数据的关联体现挑战

数据是采集到了，采集全了，由于不同监控源的数据结构，访问方式都不尽相同，如何正确体现各个监控源数据的关联呢？如何有效处理链路跟踪、问题定位及快速处理这些问题呢？

3.容器云环境带来了新的挑战

随着以Docker为代表的容器技术的兴起，解决了诸多传统交付过程中的问题，容器云为持续集成和持续部署提供了便利的部署方式。不过，新事物也有两面性，也为运维监控带来了新的问题。在容器云环境中，不仅有更多的应用需要管理，而且它们相比以往任何时候都要变化更快，在系统出现异常时定位问题慢，另外经常受到多个模块的影响，难以快速正确处理。在整个测试和生产环境需要监控组件总量呈指数级增长，从而显著增加了基于容器的管理环境的复杂性。

发明内容

本发明旨在解决以上现有技术中至少一个方面的缺陷，为解决上述技术问题，本发明采用以下技术方案：

在一个方面，本发明提供一种容器云环境下的CI/CD监控方法，包括以下步骤：

预先根据每个监控源开发的监控组件Agent根据其收集到的监控源信息生成消息block_message并发送至数据采集与处理中心，所述消息block_message包括ID和父ID以及描述数据和时间戳数据；所有相关联的监控源作为一组监控源并且同组监控源的消息block_message中ID一样；所述父ID用来关联同组中顺序在自身前面的监控源的监控组件Agent；

数据采集与处理中心预先为每组监控源生成树状结构的全链路跟踪信息list，解析接收到的消息block_message并确定监控组件Agent的ID和父ID；根据ID值和父ID查询监控组件Agent所在的全链路跟踪信息list以及监控组件Agent在其全链路跟踪信息list中的位置并更新叶节点信息。

在以上技术方案中还包括以下步骤：数据采集与处理中心实时地将各组监控源的全链路跟踪信息list发送到数据显示与告警模块进行显示或告警或发送到数据存储模块进行存储。

数据采集与处理中心根据全链路跟踪信息list中的ID进行检索得到其对应的消息block_message的链式数据。

进一步地，数据采集与处理中心将检索得到的消息block_message的链式数据发送到数据显示与告警模块进行显示或告警。

在以上技术方案中还包括:根据每个新加入的监控源的数据结构和访问接口开发具有统一访问接口的监控组件Agent。

在另一个方面，本发明提供一种容器云环境下的CI/CD监控系统，包括：

预先根据每个监控源开发的监控组件Agent以及数据采集与处理中心；

所述监控组件Agent，用于根据其收集到的监控源信息生成消息block_message并发送至数据采集与处理中心，所述消息block_message包括ID和父ID以及描述数据和时间戳数据；所有相关联的监控源作为一组监控源并且同组监控源的消息block_message中ID一样；所述父ID用来关联同组中顺序在自身前面的监控源的监控组件Agent；

所述数据采集与处理中心，用于预先为每组监控源生成树状结构的全链路跟踪信息list，解析接收到的消息block_message并确定监控组件Agent的ID和父ID；根据ID值和父ID查询监控组件Agent所在的全链路跟踪信息list以及监控组件Agent在其全链路跟踪信息list中的位置并更新叶节点信息。

进一步地，所述系统还包括数据显示与告警模块和数据存储模块；所述数据显示与告警模块用于对数据进行显示或告警；所述数据存储模块用于对数据进行存储。

所述数据采集与处理中心还包括第一数据发送模块；所述第一数据发送模块用于实时地将各组监控源的全链路跟踪信息list发送到数据显示与告警模块进行显示或告警或发送到数据存储模块进行存储。

进一步地，所述数据采集与处理中心还包括数据处理模块，所述数据处理模块用于根据全链路跟踪信息list中的ID进行检索得到其对应的消息block_message的链式数据。

进一步地，所述数据采集与处理中心还包括第二数据发送模块；所述第二数据发送模块用于将数据处理模块检索得到消息block_message的链式数据发送到显示与告警模块进行显示或告警。

本发明所达到的有益效果：

1、本发明监控系统可以通过全链路跟踪信息list实现线性扩展监控组件，不受CI/CD平台拥有众多的开发组件的影响，提升系统的灵活性与扩展性；

2、发明提出为每个监控源建立独立的监控组件Agent，通过Agent代理无侵入式部署，将业务逻辑和信息采集完全分离；

3、本发明根据每个新加入的监控源的数据结构和访问接口开发具有统一访问接口的监控组件Agent；采用定制化独立的监控组件就可以解决不同组件，不同版本以及在容器化云环境中的易变性的难题，可以提高监测效率，减少运维成本；

4、本发明中的数据采集与处理中心通过第一数据发送模块实时地将各组监控源的全链路跟踪信息list发送到数据显示与告警模块进行显示或告警；可以实时跟踪全链路过程，通过前端图形界面显示，可以清晰地展示给用户全链路监控信息，帮助用户去定位异常问题；

5、监控组件Agent采用容器化部署，容器化环境具有高可用的特点；

6、本发明数据采集与处理中心中的数据处理模块可以根据全链路跟踪信息list中的ID进行检索得到满足要求的特定监控源的block_message的链式数据，进而实现根据用户提交的请求或其它预设条件检索特定的监控源或全链路跟踪信息list并通过设置显示与告警模块，可以方便展示检索结果，提高系统的交互性能。

附图说明

图1是基于容器云平台的CI/CD软件开发过程和工具；

图2是本发明具体实施例的监控系统的架构图；

图3是本发明具体实施例的CI/CD监控方法流程示意图；

图4是本发明具体实施例的系统结构示意图。

具体实施方式

下面结合附图对本发明作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案，而不能以此来限制本发明的保护范围。

图1是基于容器云平台的CI/CD软件开发过程和工具；图1展示基于容器云平台的CI/CD软件开发过程和常用工具。基于容器云平台的CI/CD的软件开发流水线，每个阶段都有许多开源或商业工具。比如在代码阶段，有Eclipse，nodepad++等开发工具；在配置管理阶段，有SVN，CVS等开发工具。开发团队每次提交新代码都会触发一系列自动化操作，立刻进行构建、测试；持续交付在持续集成的基础上，将集成后的代码部署到测试环境中。而在传统软件开发过程中，集成通常发生在每个人都完成了各自的工作之后。

图2是本发明具体实施例的监控系统的架构图；图2展示本发明提出的监控系统的架构。监控系统由监控组件Agent、数据采集与处理中心、数据存储和数据显示与告警等四个模块组成。其中监控组件Agent负责与具体的监控源进行数据交互，每个监控源都有独立的一个监控组件Agent。其中在代码开发阶段，用的是Eclipse；在配置管理模块，采用的是SVN；在代码集成模块，用的是开源的Jenkins；在构建模块，用的是Maven；在测试模块，用的是Foritfy；在部署阶段，用的是Ansible；基础环境采用k8s和docker部署的云环境。

图3是本发明具体实施例的CI/CD监控方法流程示意图；为了解决各个监控源的数据关联问题，本发明提出一个全链路监控方法：

对于每个监控源信息，我们用block_message来表示其数据结构。block_message有一个唯一的ID来标识，还包含描述，时间戳，父ID等数据。父ID用来关联同组中其前面一个监控组件的block_message；通过父ID体现出同组监控源的顺序从而实现同组监控源的链路结构。

对于一组全链路跟踪信息，我们用list来表示，list是一个树状结构，list有一个唯一的ID来表示。每一个list由一组关联的监控源的block_message组成，其中在一个list中，list的ID和blcok_message的ID相等。初始状态时，list的叶节点为空，随着新的监控源的加入，通过监控源的监控组件中唯一标识监控组的ID和父ID将该监控源加入list中的叶节点。

本实施例的方法方法包括：

(1)在CI/CD环境中，存在着大量的开发工具和第三方插件等监控源。本发明提出一个预先为每个监控源预先开发独立的监控组件Agent，该监控组件Agent根据监控源的数据结构和访问接口进行定制化开发，并具备统一访问接口。当环境中新增一个新的监控源，就会定制化开发这样的一个监控组件Agent，每个监控组件Agent实时或固定时间收集对应的监控源信息。监控组件Agent采用容器化部署，容器化环境具有高可用的特点。该监控组件根据每个监控源其数据结构，访问接口等进行个性化开发，向上对接数据采集与处理中心，并且提供统一的访问接口API。通过Agent代理无侵入式部署，将业务逻辑和信息采集完全分离。比如，对于在代码管理模块，可能会存在着一个或多个监控源，比如Git，SVN等，甚至同一个监控源有不同的版本，在容器化环境中，容器的动态性更是难以捉摸，采用定制化独立的监控组件就可以解决不同组件，不同版本以及在容器化云环境中的易变性的难题，可以提高监测效率，减少运维成本。数据采集与处理中心负责对接所有的监控组件Agent，对Agent的信息进行处理分析，将数据存储到数据存储模块,并且与数据显示与告警模块进行对接。

(2)每个监控组件Agent实时或固定时间地收集监控信息，并根据监控源的工作信息生成消息block_message并发送至数据采集与处理中心，所述消息block_message包括ID和父ID以及描述数据和时间戳数据；所有相关联的监控源作为一组监控源并且同组监控源的消息block_message中ID一样；父ID用来关联同组中顺序在自身前面的监控源的监控组件Agent。

(3)数据采集与处理中心预先为每组监控源生成树状结构的全链路跟踪信息list，初始状态时，list的叶节点为空；数据采集与处理中心解析消息block_message确定监控组件Agent的ID和父ID，并根据ID值和父ID查询监控组件Agent所在的全链路跟踪信息list以及监控组件Agent在其全链路跟踪信息list中的位置和并更新叶节点信息；所述全链路跟踪信息list用于记录同组内各个监控组件Agent的信息，每个全链路跟踪信息list包括ID值，所述ID值与对应组监控源内所有监控组件Agent生成的消息block_message中的ID一样，消息block_message作为全链路跟踪信息list的叶节点；数据采集与处理中心建立全链路跟踪信息list是一个动态的过程，当有新的一组监控源加入时，数据采集与处理中心将为新加入的监控源生成新的树状结构的全链路跟踪信息list。随后将属于同一组监控源的监控组件加入相应list的叶节点。

(4)数据采集与处理中心实时地将各组监控源的全链路跟踪信息list发送到数据显示与告警模块进行显示或告警或发送到数据存储模块进行存储，这样可以实时跟踪全链路过程，通过前端图形界面显示，可以清晰地展示给用户全链路监控信息，帮助用户去定位异常问题；

在以上实施例基础上，在另一个实施例中进一步包括：数据采集与处理中心根据全链路跟踪信息list中的ID进行检索得到其对应的消息block_message的链式数据。这里数据采集与处理中心可以根据全链路跟踪信息list中的ID检索得到其对应的消息block_message的链式数据即ID对应的全链路跟踪信息list。

数据采集与处理中心将检索得到的消息block_message的链式数据发送到数据显示与告警模块进行显示或告警。

在另一个实施例中，一种容器云环境下的CI/CD监控系统，包括：

预先根据每个监控源开发的监控组件Agent以及数据采集与处理中心；

所述监控组件Agent，用于根据其收集到的监控源信息生成消息block_message并发送至数据采集与处理中心，所述消息block_message包括ID和父ID以及描述数据和时间戳数据；所有相关联的监控源作为一组监控源并且同组监控源的消息block_message中ID一样；所述父ID用来关联同组中顺序在自身前面的监控源的监控组件Agent；

所述数据采集与处理中心，用于预先为每组监控源生成树状结构的全链路跟踪信息list，解析消息block_message确定监控组件Agent的ID和父ID，并根据ID值和父ID查询监控组件Agent所在的全链路跟踪信息list以及监控组件Agent在其全链路跟踪信息list中的位置和并更新叶节点信息；所述全链路跟踪信息list用于记录同组内各个监控组件Agent的信息，每个全链路跟踪信息list包括ID值，所述ID值与对应组监控源内所有监控组件Agent生成的消息block_message中的ID一样，消息block_message作为全链路跟踪信息list的叶节点。优选地，每个监控组件Agent实时或固定时间地收集监控源信息。

图4是本发明另一个具体实施例的系统结构示意图。

本实施例提供了一种容器云环境下的CI/CD监控系统，包括：

预先根据每个监控源开发的监控组件Agent、数据采集与处理中心、数据显示与告警模块以及数据存储模块；

所述监控组件Agent包括监控数据收集模块、监控数据处理模块和监控数据发送模块；

所述监控数据收集模块，用于每个监控组件Agent收集监控源信息；优选地，每个监控组件Agent实时或固定时间地收集监控源信息。

所述监控数据处理模块，用于根据监控源信息生成消息block_message，所述消息block_message包括ID和父ID以及描述数据和时间戳数据；所有相关联的监控源作为一组监控源并且同组监控源的消息block_message中ID一样，父ID用来关联同组中顺序在自身前面的监控源的监控组件Agent；

所述监控数据发送模块，用于监控组件Agent向数据采集与处理中心发送消息block_message；

所述数据采集与处理中心，用于预先为每组监控源生成树状结构的全链路跟踪信息list，解析消息block_message确定监控组件Agent的ID和父ID，并根据ID值和父ID查询监控组件Agent所在的全链路跟踪信息list以及监控组件Agent在其全链路跟踪信息list中的位置和并更新叶节点信息。

所述数据采集与处理中心包括数据收集模块、数据处理模块；所述数据收集模块，用于数据采集与处理中心接收监控组件Agent发送的消息block_message；

进一步地，所述数据采集与处理中心还包括第一数据发送模块；所述第一数据发送模块用于实时地将各组监控源的全链路跟踪信息list发送到数据显示与告警模块进行显示或告警或发送到数据存储模块进行存储。

本实施例中，所述数据采集与处理中心还包括数据处理模块，所述数据处理模块用于根据全链路跟踪信息list中的ID进行检索得到其对应的消息block_message的链式数据。

图4示出了所述数据采集与处理中心包括第二数据发送模块；所述第二数据发送模块用于将数据处理模块检索得到消息block_message的链式数据发送到显示与告警模块进行显示或告警。

本发明提供的CI/CD监控系统是基于容器云平台环境的持续集成和持续交付全链路监控系统，对于每个监控源，拥有独立的一个监控组件Agent，与监控源进行数据交互。对于每一个监控信息block_message，拥有一个唯一的Id，每一个block_message共享一个跟踪链list。相较于传统的监控系统，本发明的监控系统一方面可以线性扩展监控组件，不受CI/CD平台拥有众多的开发组件的影响，提升系统的灵活性与扩展性；另一方面可以实时跟踪全链路过程，通过前端图形界面显示，可以清晰地展示给用户全链路监控信息，帮助用户去定位异常问题。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

以上结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，这些均属于本发明的保护之内。

Claims (13)

1.一种容器云环境下的CI/CD监控方法，其特征是，包括以下步骤：

预先根据每个监控源开发的监控组件Agent根据其收集到的监控源信息生成消息block_message并发送至数据采集与处理中心；所述消息block_message包括ID和父ID以及描述数据和时间戳数据；所有相关联的监控源作为一组监控源并且同组监控源的消息block_message中ID一样；所述父ID用来关联同组中顺序在自身前面的监控源的监控组件Agent；

数据采集与处理中心预先为每组监控源生成树状结构的全链路跟踪信息list，解析接收到的消息block_message并确定监控组件Agent的ID和父ID；根据ID值和父ID查询监控组件Agent所在的全链路跟踪信息list以及监控组件Agent在其全链路跟踪信息list中的位置并更新叶节点信息；所述全链路跟踪信息list用于记录同组内各个监控组件Agent的信息，每个全链路跟踪信息list包括ID值，所述ID值与对应组监控源内所有监控组件Agent生成的消息block_message中的ID一样，消息block_message作为全链路跟踪信息list的叶节点。

2.根据权利要求1所述的一种容器云环境下的CI/CD监控方法，其特征是，还包括以下步骤：

数据采集与处理中心实时地将各组监控源的全链路跟踪信息list发送到数据显示与告警模块进行显示或告警或发送到数据存储模块进行存储。

3.根据权利要求1所述的一种容器云环境下的CI/CD监控方法，其特征是，还包括以下步骤：数据采集与处理中心根据全链路跟踪信息list中的ID进行检索得到其对应的消息block_message的链式数据。

4.根据权利要求3所述的一种容器云环境下的CI/CD监控方法，其特征是，数据采集与处理中心将检索得到的消息block_message的链式数据发送到数据显示与告警模块进行显示或告警。

5.根据权利要求1所述的一种容器云环境下的CI/CD监控方法，其特征是，

根据每个新加入的监控源的数据结构和访问接口开发具有统一访问接口的监控组件Agent。

6.根据权利要求1所述的一种容器云环境下的CI/CD监控方法，其特征是，

所述监控组件Agent采用容器化部署。

7.根据权利要求1所述的一种容器云环境下的CI/CD监控方法，其特征是，

每个监控组件Agent实时或固定时间地收集监控源信息。

8.一种容器云环境下的CI/CD监控系统，其特征在于，包括：

预先根据每个监控源开发的监控组件Agent以及数据采集与处理中心；

所述监控组件Agent，用于根据其收集到的监控源信息生成消息block_message并发送至数据采集与处理中心，所述消息block_message包括ID和父ID以及描述数据和时间戳数据；所有相关联的监控源作为一组监控源并且同组监控源的消息block_message中ID一样；所述父ID用来关联同组中顺序在自身前面的监控源的监控组件Agent；

所述数据采集与处理中心，用于预先为每组监控源生成树状结构的全链路跟踪信息list，解析接收到的消息block_message并确定监控组件Agent的ID和父ID；根据ID值和父ID查询监控组件Agent所在的全链路跟踪信息list以及监控组件Agent在其全链路跟踪信息list中的位置并更新叶节点信息；其中，所述全链路跟踪信息list用于记录同组内各个监控组件Agent的信息，每个全链路跟踪信息list包括ID值，所述ID值与对应组监控源内所有监控组件Agent生成的消息block_message中的ID一样，消息block_message作为全链路跟踪信息list的叶节点。

9.根据权利要求8所述的一种容器云环境下的CI/CD监控系统，其特征在于：所述系统还包括数据显示与告警模块和数据存储模块；所述数据显示与告警模块用于对数据进行显示或告警；所述数据存储模块用于对数据进行存储。

10.根据权利要求9所述的一种容器云环境下的CI/CD监控系统，其特征在于：所述数据采集与处理中心还包括第一数据发送模块；所述第一数据发送模块用于实时地将各组监控源的全链路跟踪信息list发送到数据显示与告警模块进行显示或告警或发送到数据存储模块进行存储。

11.根据权利要求9所述的一种容器云环境下的CI/CD监控系统，其特征在于：所述数据采集与处理中心还包括数据处理模块，所述数据处理模块用于根据全链路跟踪信息list中的ID进行检索得到其对应的消息block_message的链式数据。

12.根据权利要求11所述的一种容器云环境下的CI/CD监控系统，其特征在于：所述数据采集与处理中心包括第二数据发送模块；所述第二数据发送模块用于将数据处理模块检索得到消息block_message的链式数据发送到显示与告警模块进行显示或告警。

13.根据权利要求8所述的一种容器云环境下的CI/CD监控系统，其特征在于：每个监控组件Agent实时或固定时间地收集监控源信息。