CN115994075A - 一种异构微服务系统的统一可观测方法和系统 - Google Patents

Abstract

本发明公开了一种异构微服务系统的统一可观测方法和系统，能够提供统一的可观测展示，降低运维成本，提高运维效率。其技术方案为：第一步：对异构微服务系统的可观测数据进行数据采集并存储；第二步：对采集到的可观测数据进行数据处理，基于微服务实例将第一步中采集到的各类数据进行关联，建立微服务实例的多维数据数仓；第三步：对第二步中所建立的多维数据数仓，根据运维关注的维度进行统一的可观测数据查询。

Description

一种异构微服务系统的统一可观测方法和系统

技术领域

本发明涉及异构微服务技术，具体涉及一种异构微服务系统的统一可观测方法和系统。

背景技术

异构微服务技术中，异构是指系统中的不同功能使用不同的技术栈，微服务(Micro Service)是指系统被拆分为多个功能，这些被拆分出来的功能可以提供独立服务而被称为微服务。微服务是一种软件开发技术，是面向服务的体系结构(SOA)架构样式的一种变体。其主要思想是将单一应用程序划分成一组小的服务，服务之间互相协调、互相配合，为用户提供最终价值。每个服务运行在其独立的进程中，服务与服务间采用轻量级的通信机制互相沟通(通常是基于HTTP的RESTful接口)。每个服务都围绕着具体业务进行构建，并且能够独立地部署到生产环境、类生产环境等。另外，应尽量避免统一的、集中式的服务管理机制，对具体的一个服务而言，应根据上下文，选择合适的语言、工具对其进行构建。

对于现有的分散式的异构多语言微服务系统的治理与运维，通常是通过多种技术手段来实现，平台产品需要提供多种技术栈的接入方式，需要满足多种语言的接入，不同技术栈的注册方式不同造成难以统一管理，应用元数据管理方式不同造成不能相互理解，通信协议和编码协议不一致造成不能相互通信，管理方式有差异造成不能统一管理。总的来说，现有的分散式的异构多语言微服务系统，在治理和运维的过程中，无法实现统一的观察性，运维效率低，运维成本高。

因此，如何提升企业异构微服务系统的运维效率，降低运维成本，是目前业界亟待解决的问题。

发明内容

以下给出一个或多个方面的简要概述以提供对这些方面的基本理解。此概述不是所有构想到的方面的详尽综览，并且既非旨在指认出所有方面的关键性或决定性要素亦非试图界定任何或所有方面的范围。其唯一的目的是要以简化形式给出一个或多个方面的一些概念以为稍后给出的更加详细的描述之序。

本发明的目的在于解决上述问题，提供了一种异构微服务系统的统一可观测方法和系统，能够提供统一的可观测展示，降低运维成本，提高运维效率。

本发明的技术方案：本发明揭示了一种异构微服务系统的统一可观测方法，方法包括：

第一步：对异构微服务系统的可观测数据进行数据采集并存储；

第二步：对采集到的可观测数据进行数据处理，基于微服务实例将第一步中采集到的各类数据进行关联，建立微服务实例的多维数据数仓；

第三步：对第二步中所建立的多维数据数仓，根据运维关注的维度进行统一的可观测数据查询。

根据本发明的异构微服务系统的统一可观测方法的一实施例，第一步中的数据采集方式有两种方式：各自对应异构微服务系统的agent采集插件、异构微服务系统的exporter采集插件。

根据本发明的异构微服务系统的统一可观测方法的一实施例，基于异构微服务系统的agent采集插件的可观测数据的采集，是采用agent无侵入式应用技术对异构微服务系统的多种语言微服务进行监控指标采集，其中agent采集插件采用http方式，主动推送数据到agent采集应用服务，其中agent采集插件的可观测数据包括指标、链路、日志，指标包括实例基本信息、实例状态和实例运行指标，链路是API请求到返回结果的全链路过程数据，日志是API请求日志、系统运行日志、账号操作日志、系统埋点日志。

根据本发明的异构微服务系统的统一可观测方法的一实施例，第一步中的基于异构微服务系统的agent采集插件的可观测数据的采集的步骤包括：

步骤1-1a：部署agent采集应用服务器端；

步骤1-2a：在微服务应用的各实例的主机上安装agent采集插件进行数据采集，其中各实例的微服务对应自己语言的agent采集应用服务并使用单独一个线程进行实例微服务的采集，agent采集插件配置agent采集应用服务的HTTP地址和端口；

步骤1-3a：agent采集插件收集微服务应用的应用实例信息、实例状态信息，将收集到的应用实例信息和实例状态信息通过HTTP协议上报到agent采集服务器端并存储；

步骤1-4a：agent采集插件进行链路数据采集；

步骤1-5a：agent采集插件抓取系统运行日志、服务API请求日志、用户登录和操作日志、埋点日志文件的信息，以批量包的形式上传到agent采集服务器端。

根据本发明的异构微服务系统的统一可观测方法的一实施例，基于异构微服务系统的exporter采集插件对微服务系统的可观测数据的采集过程中，exporter采集插件应用由exporter采集应用服务和exporter采集插件组成，exporter采集插件提供HTTP接口，exporter采集应用服务定时调用exporter采集插件的接口采集数据，其中exporter采集插件对微服务系统的可观测数据是系统基础设施的运行指标，包括计算资源质保、数据库资源指标、中间件资源指标。

根据本发明的异构微服务系统的统一可观测方法的一实施例，基于异构微服务系统的exporter采集插件对微服务系统的可观测数据的采集进一步包括：

步骤1-1b：异构微服务系统中的各主机安装并启动exporter采集插件，exporter采集插件有独立的线程运行来提供HTTP接口服务，网络开放对应的HTTP协议和端口；

步骤1-2b：部署exporter采集应用服务，配置需要采集的各主机的exporter采集插件的Http接口地址，指定exporter采集应用服务的采集频率，定期调用exporter采集插件的http接口，并存储接口返回的采集数据。

根据本发明的异构微服务系统的统一可观测方法的一实施例，第二步中，数据处理采用定时任务数据批处理方法，以一定的时间周期维度进行批量数据处理；批处理采用增量处理，在数据库中记录每批数据的批处理任务编号、批处理是否完成、最后完成时间、数据id，下次处理会读取最后完成时间和数据id后的数据，如果上次批处理没有执行完毕，则将跳过此次批处理并进入下个时间周期。

根据本发明的异构微服务系统的统一可观测方法的一实施例，第二步进一步包括：

步骤2-1：获取周期范围的微服务实例数据；

步骤2-2：获取周期范围的微服务实例的指标数据；

步骤2-3：获取微服务实例周期范围的日志数据；

步骤2-4：获取微服务实例周期范围所在计算资源的资源数据；

步骤2-5：获取微服务实例周期范围的请求链路数据；

步骤2-6：获取微服务实例周期范围链路数据的中间件应用运行数据；

步骤2-7：以微服务实例的数据为主要维度，将步骤2-2至2-6的周期范围数据指标，进行平均值、最大值、最小值在内的不同策略计算，建立微服务实例多维数据数仓。

根据本发明的异构微服务系统的统一可观测方法的一实施例，第三步进一步包括：

步骤3-1：通过时间维度对各微服务应用实例、计算资源、日志、链路数据的查询；

步骤3-2：通过微服务实例维度对各实例的计算资源、日志、链路数据的查询；

步骤3-3：通过计算资源维度对计算资源的各实例的计算资源、日志、链路数据进行查询。

本发明还解释了一种异构微服务系统的统一可观测系统，系统包括：

数据采集存储模块，对异构微服务系统的可观测数据进行数据采集并存储；

多维数据数仓建立模块，对采集到的可观测数据进行数据处理，基于微服务实例将采集到的各类数据进行关联，建立微服务实例的多维数据数仓；

可观测数据统一查询模块，对所建立的多维数据数仓，根据运维关注的维度进行统一的可观测数据查询。

根据本发明的异构微服务系统的统一可观测系统的一实施例，数据采集存储模块中的数据采集方式有两种方式：各自对应异构微服务系统的agent采集插件、异构微服务系统的exporter采集插件。

根据本发明的异构微服务系统的统一可观测系统的一实施例，基于异构微服务系统的agent采集插件的可观测数据的采集，是采用agent无侵入式应用技术对异构微服务系统的多种语言微服务进行监控指标采集，其中agent采集插件采用http方式，主动推送数据到agent采集应用服务，其中agent采集插件的可观测数据包括指标、链路、日志，指标包括实例基本信息、实例状态和实例运行指标，链路是API请求到返回结果的全链路过程数据，日志是API请求日志、系统运行日志、账号操作日志、系统埋点日志。

根据本发明的异构微服务系统的统一可观测系统的一实施例，数据采集存储模块进一步配置为执行以下的处理：

步骤1-1a：部署agent采集应用服务器端；

步骤1-2a：在微服务应用的各实例的主机上安装agent采集插件进行数据采集，其中各实例的微服务对应自己语言的agent采集应用服务并使用单独一个线程进行实例微服务的采集，agent采集插件配置agent采集应用服务的HTTP地址和端口；

步骤1-3a：agent采集插件收集微服务应用的应用实例信息、实例状态信息，将收集到的应用实例信息和实例状态信息通过HTTP协议上报到agent采集服务器端并存储；

步骤1-4a：agent采集插件进行链路数据采集；

步骤1-5a：agent采集插件抓取系统运行日志、服务API请求日志、用户登录和操作日志、埋点日志文件的信息，以批量包的形式上传到agent采集服务器端。

根据本发明的异构微服务系统的统一可观测系统的一实施例，基于异构微服务系统的exporter采集插件对微服务系统的可观测数据的采集过程中，exporter采集插件应用由exporter采集应用服务和exporter采集插件组成，exporter采集插件提供HTTP接口，exporter采集应用服务定时调用exporter采集插件的接口采集数据，其中exporter采集插件对微服务系统的可观测数据是系统基础设施的运行指标，包括计算资源质保、数据库资源指标、中间件资源指标。

根据本发明的异构微服务系统的统一可观测系统的一实施例，数据采集存储模块进一步配置为执行以下的处理：

步骤1-1b：异构微服务系统中的各主机安装并启动exporter采集插件，exporter采集插件有独立的线程运行来提供HTTP接口服务，网络开放对应的HTTP协议和端口；

步骤1-2b：部署exporter采集应用服务，配置需要采集的各主机的exporter采集插件的Http接口地址，指定exporter采集应用服务的采集频率，定期调用exporter采集插件的http接口，并存储接口返回的采集数据。

根据本发明的异构微服务系统的统一可观测系统的一实施例，多维数据数仓建立模块的数据处理采用定时任务数据批处理方法，以一定的时间周期维度进行批量数据处理；批处理采用增量处理，在数据库中记录每批数据的批处理任务编号、批处理是否完成、最后完成时间、数据id，下次处理会读取最后完成时间和数据id后的数据，如果上次批处理没有执行完毕，则将跳过此次批处理并进入下个时间周期。

根据本发明的异构微服务系统的统一可观测系统的一实施例，多维数据数仓建立模块进一步配置为执行以下的处理：

步骤2-1：获取周期范围的微服务实例数据；

步骤2-2：获取周期范围的微服务实例的指标数据；

步骤2-3：获取微服务实例周期范围的日志数据；

步骤2-4：获取微服务实例周期范围所在计算资源的资源数据；

步骤2-5：获取微服务实例周期范围的请求链路数据；

步骤2-6：获取微服务实例周期范围链路数据的中间件应用运行数据；

步骤2-7：以微服务实例的数据为主要维度，将步骤2-2至2-6的周期范围数据指标，进行平均值、最大值、最小值在内的不同策略计算，建立微服务实例多维数据数仓。

根据本发明的异构微服务系统的统一可观测系统的一实施例，可观测数据统一查询模块进一步配置为执行以下的处理：

步骤3-1：通过时间维度对各微服务应用实例、计算资源、日志、链路数据的查询；

步骤3-2：通过微服务实例维度对各实例的计算资源、日志、链路数据的查询；

步骤3-3：通过计算资源维度对计算资源的各实例的计算资源、日志、链路数据进行查询。

本发明对比现有技术有如下的有益效果：本发明涉及对可观测数据的采集、处理、存储、查询。本发明将异构多语言微服务系统的实例信息、实例运行状态、实例运行指标、系统日志体系数据，基础资源监控数据打通，形成基于异构微服务系统的统一可观测方法，有助于帮助快速定位问题，降低运维成本。基于本发明的技术方案，能够在对异构微服务系统的应用与应用资源环境进行统一的可观测性监控时，既不影响系统安全，又不会增加运维复杂度。

附图说明

在结合以下附图阅读本公开的实施例的详细描述之后，能够更好地理解本发明的上述特征和优点。在附图中，各组件不一定是按比例绘制，并且具有类似的相关特性或特征的组件可能具有相同或相近的附图标记。

图1示出了本发明的异构微服务系统的统一可观测方法的一实施例的流程图。

图2A和2B示出了图1所示的方法实施例中的第一步的细化流程图。

图3示出了图1所示的方法实施例中的第二步的细化流程图。

图4示出了图1所示的方法实施例中的第三步的细化流程图。

图5示出了本发明的异构微服务系统的统一可观测系统的一实施例的原理图。

具体实施方式

以下结合附图和具体实施例对本发明作详细描述。注意，以下结合附图和具体实施例描述的诸方面仅是示例性的，而不应被理解为对本发明的保护范围进行任何限制。

图1示出了本发明的异构微服务系统的统一可观测方法的一实施例的流程。请参见图1，本实施例的方法的实施步骤详述如下。

第一步：对异构微服务系统的可观测数据进行数据采集并存储。

数据采集有两种方式，异构微服务系统的agent采集插件、异构微服务系统的exporter采集插件

Agent是人工智能计算机软件领域内的一个新兴技术。它是一个具有自治能力的实体，这个实体是一个有软件支持下的系统，这种软件能够在目标的驱动下对环境的变化作出主动的反应，完成特定的任务。

agent采集插件是对多语言微服务系统端集成的运行时插件，插件采用开发语言本身自带的扩展代理技术。如：java语言agent采集插件，采用java-agent与字节码插桩技术，可以无侵入的集成在多语言微服务系统中，agent采集插件不是应用程序中的一部分,以Java代理的形式监控或重新定义运行中的服务.可以让我们在不修改程序代码的前提下通过Instrumentation API改变运行中的java程序，并通过扩展自治自运行的将采集指标传输到Agent采集应用服务器端。

exporter采集插件是在操作系统上部署的采集与传输插件软件。可以通过定时调用操作系统指令获取系统的各种运行指标，并提供API接口被Exporter服务器端获取操作系统运行指标。

基于异构微服务系统的agent采集插件的可观测数据(包括指标、链路、日志等)的采集，是采用agent无侵入式应用技术，对异构微服务系统的多种语言微服务进行监控指标采集。Agent无侵入式应用技术由agent采集应用服务和agent采集插件组成。agent采集插件采用http方式，主动推送数据到agent采集应用服务。指标数据是指包括实例基本信息、实例状态和实例运行指标，链路数据是指API请求到返回结果的全链路过程数据，日志数据是指API请求日志，系统运行日志，账号操作日志，系统埋点日志。

请参考图2A，上述过程的具体实现步骤如下。

步骤1-1a：部署agent采集应用服务器端。agent采集应用服务是集群部署，通过网关(网关主要功能是路由转发和过滤器，路由功能是微服务的一部分，网关的作用包括但不限于：限流处理、认证和授权、单点登录和日志管理等)实现服务的负载均衡，开放http地址和端口。服务器端接收agent采集插件的采集数据并存储。

负载均衡(Load Balance)是将任务分摊到多个操作单元上进行执行，例如Web服务器、FTP服务器、企业关键应用服务器和其它关键任务服务器等，从而共同完成工作任务。

将采集到的数据进行存储的方式如下：

首先，采用异步方式存储数据，实现消息队列中转，不会阻塞请求连接，保障数据不被丢失。

然后，多实例并行消费消息队列消息，将消息队列消息转为数据库存储，数据库采用如elasticsearch这样的分布式文档性数据库。

步骤1-2a：在微服务应用的各实例的主机上安装agent采集插件进行数据采集。各实例的微服务对应自己语言的agent采集应用服务并使用单独一个线程进行实例微服务的采集。agent采集插件配置agent采集应用服务的HTTP地址和端口。

agent采集应用服务的启动过程以java-agent为例，对应java语言的agent采集应用服务的启动过程如下所述，图示的其他agent(PHP-agent、Python-agent、Rust-agent)同理。

首先，初始化配置信息。本步骤中加载agent.config配置文件，其中会检测JavaAgent参数以及环境变量是否覆盖了相应配置项。

然后，查找并解析需要采集的plugin.def插件文件。Plugin插件包括了具体采集的那些内容，如数据库、HTTP、Redis、Dubbo。

之后，AgentClassLoader加载采集插件。

随后，PluginFinder对插件进行分类管理。

接着，使用javassist库创建AgentBuilder。本步骤中根据已加载的插件动态增强目标类，插入埋点逻辑。Javassist是一个开源的分析、编辑和创建Java字节码的类库，可以直接编辑和生成Java生成的字节码。相对于bcel,asm等这些工具，开发者不需要了解虚拟机指令，就能动态改变类的结构，或者动态生成类。

后续，使用JDK SPI加载并启动BootService服务。

最后，添加一个JVM钩子，在JVM退出时关闭所有BootService服务。

步骤1-3a：agent采集插件收集微服务应用的应用实例信息、实例状态信息，将收集到的应用实例信息和实例状态信息通过HTTP协议上报到agent采集服务器端并存储。此步骤会定时执行上报实例的实例信息和状态信息。

应用实例信息和实例状态信息的采集是使用各微服务的内置微服务运行指标方法实现。以Spring boot微服务为例进行说明如下。Spring Boot是由Pivotal团队提供的全新框架，其设计目的是用来简化新Spring应用的初始搭建以及开发过程。该框架使用了特定的方式来进行配置，从而使开发人员不再需要定义样板化的配置。Spring Cloud是一个基于Spring Boot实现的微服务架构开发工具。它为微服务架构中涉及的配置管理、服务治理、断路器、智能路由、微代理、控制总线、全局锁、决策竞选、分布式会话和集群状态管理等操作提供了一种简单的开发方式。

获取整个虚拟机内存使用情况：

ManagementFactory.getMemoryMXBean().getHeapMemoryUsage()；

获取虚拟机启动参数：

ManagementFactory.getRuntimeMXBean().getInputArguments()；

获取系统参数：

OperatingSystemMXBean osm＝ManagementFactory.getOperatingSystemMXBean()；

获取应用的上下文线下。包括应用名称：System.getProperty；

获取应用线程信息：

PROCESS_NO＝Integer.parseInt(ManagementFactory.getRunti meMXBean().getName().split("@")[0])；

获取系统名称：System.getProperty("os.name")；

获取ip地址：

Enumeration<NetworkInterface>interfs＝NetworkInterface.getNetworkInterfaces()；

获取服务器名称：

InetAddress host＝InetAddress.getLocalHost()；HOST_NAME＝host.getHostName()；

步骤1-4a：agent采集插件进行链路数据采集。

分布式系统变得日趋复杂，越来越多的组件开始走向分布式化，如微服务、分布式数据库、分布式缓存等，使得后台服务构成了一种复杂的分布式网络。在服务能力提升的同时，复杂的网络结构也使问题定位更加困难。在一个请求在经过诸多服务过程中，出现了某一个调用失败的情况，查询具体的异常由哪一个服务引起的就变得十分困难，问题定位和处理效率是也会非常低。分布式链路追踪就是将一次分布式请求还原成调用链路，将一次分布式请求的调用情况集中展示，比如各个服务节点上的耗时、请求具体到达哪台机器上、每个服务节点的请求状态等等。链路数据采集会拦截微服务应用的http请求，在请求执行过程中将经过的中间件服务调用、数据库交互的链路信息，临时保存到内存中。当请求返回或异常情况下，将链路信息推送到应用服务上。由于每一个请求就会生成一个链路，为了减少性能消耗，避免存储资源的浪费，并不会上报所有的span数据，而是使用采样的方式。通过采集端自适应地调整采样率，控制span上报的数量，可以在发现性能瓶颈的同时，有效减少性能损耗。

链路由trace，span，annotation组成。

trace就是链路，是指一个请求经过后端所有服务的路径，每一条链路都用一个全局唯一的traceid来标识。

span之间存在着父子关系，上游的span是下游的父span，链路中的rpc调用由span来表示，每个span由spanid和parentid来标识，spanid在一条链路中唯一。一个span一般由client和server两个部分的信息组成。按照时间顺序来解释，client节点(或者是调用方)首先发出请求，产生“client send”(cs)事件，紧接着server节点(或者是提供方)收到请求，产生“server receive”(sr)事件，server处理完成之后回复给client，产生“serversend”事件，最后client收到回复，产生“client receive”事件。Client与server两个节点的span信息合并成一次完整的调用，即一个完整的span。

annotation用于自定义事件，用来辅助定位问题。

步骤1-5a：agent采集插件抓取系统运行日志、服务API请求日志、用户登录和操作日志、埋点日志文件的信息，以批量包的形式上传到agent采集服务器端。

在步骤1-5a中，agent采集插件对系统内的日志文件读取方法是配置固定为日志文件输出地址，获取文件流，开始逐行读取文件信息。在文件读取过程中，保存每个文件的状态并将状态刷新到磁盘上的注册文件中，文件的状态用于记住harvester正在读取的最后偏移量，并确保发送所有日志行。

在传输给agent采集服务器端的过程中，如果传输的服务器端无法访问，则跟踪最后发送的行，并在输出再次可用时继续读取文件。运行时，每个prospector内存中也会保存的文件状态信息，当重新启动时，将使用注册文件的数据来重建文件状态，将每个harvester在从保存的最后偏移量继续读取。文件状态记录在data/registry文件中。如果传输的服务器端可以访问并接收，将会在满足批量阀值后，以数据包的形式传输到服务器端。

基于异构微服务系统的exporter采集插件对微服务系统的可观测数据(包括系统基础设施的运行指标，包括计算资源质保、数据库资源指标、中间件资源指标)的采集过程中，exporter采集插件应用由exporter采集应用服务和exporter采集插件组成。exporter采集插件提供HTTP接口，exporter采集应用服务定时调用exporter采集插件的接口采集数据。

请参考图2B，上述数据采集过程的详细处理如下所述。

步骤1-1b：异构微服务系统中的各主机安装并启动exporter采集插件。exporter采集插件有独立的线程运行来提供HTTP接口服务，网络开放对应的HTTP协议和端口。

exporter采集插件采集的数据信息内容主要包括以下几类：

(1)操作系统指标：针对CPU、内存、硬盘等各个指标，需要支持Windows、IBM、AIX、Linux、HP Unix、Sun Solaris、Novell SUSE、FreeBSD、Red Flag等操作系统，提供操作系统所运行的服务自动发现和状态监控的功能。操作系统指标通过各系统的底层命令执行获取。

(2)网络设备指标：针对运行状态、CPU使用率、内存使用率、端口发送和接收流量、速率、丢包率等指标监控，细化至每个端口，实时查看指标状态曲线图；网络设备包括交换机、防火墙、负载均衡等，用户可以对网络设备的类型进行管理上的分组。指标通过各系统的底层命令执行获取。

(3)数据库指标：针对数据库服务状态、死锁数、BUFFER命中率、作业数、用户连接数、文件大小、文件启动事务数、查询状态和发送状态等指标监控；支持PostgreSQL、Microsoft SQL Server、Oracle、Sybase、MySQL、DB2等数据库，用户可以对数据库的类型进行管理上的分组。指标通过各数据库的底层命令执行获取。

(4)存储设备信息：针对运行状态、指示灯、IO速率、raid状态、温度、电源、风扇等指标监控，指标通过各系统的底层命令执行获取。

(5)虚拟化指标信息：针对运行状态、CPU使用率、内存使用率、磁盘使用率、磁盘总量和使用量、IO速率等指标监控，支持vmware等多种类产品，包括VMware、Citrix、Hyper-V、OpenStack等主流虚拟化平台。指标通过各虚拟机的底层命令执行获取。

(6)中间件：包含IIS、Tomcat、Apache、WebLogic等中间件，监控内容包含各类指标数据。指标通过各应用的底层命令执行获取。

(7)网络(Web)信息：及时解决访问慢或者访问异常的页面，支持响应时间、状态码、速率、错误信息等指标监控，提供曲线图分析功能，时间点可自行设置。指标通过web服务器的底层命令执行获取。

(8)链路信息：支持链路带宽、使用率等指标监控，支持Rping(网络设备之间发起的ICMP探测)、代理proxy，指标包括：延时、抖动、丢包率等。指标通过各系统的底层命令执行获取。

步骤1-2b：部署exporter采集应用服务，配置需要采集的各主机的exporter采集插件的Http接口地址。指定exporter采集应用服务的采集频率，定期调用exporter采集插件的http接口，并存储接口返回的采集数据。

在步骤1-2b中，exporter采集应用服务和exporter采集插件的通信方法是：exporter采集插件采用注册机制，当exporter采集插件应用启动，向服务器端发起注册插件步骤，注册插件的信息与插件的访问地址。并保持心跳注册。服务器端定时获取注册的状态正常的列表，服务器端根据注册的插件访问地址，请求插件的指标查询接口。如果正常获取将存储采集数据进入数据库。如果失败重试，且达到重试次数仍然失败，则修改插件注册信息为异常状态。

第二步：对采集到的可观测数据进行数据处理(包括数据的聚合与计算)，基于微服务实例，将第一步中采集到的各类数据(包括实例的指标数据、日志数据、链路数据、基础资源数据)进行关联，建立微服务实例的多维数据数仓。

数据处理采用定时任务数据批处理方法，以一定的时间周期维度进行批量数据处理，根据数据的实时性要求(比如5分钟)来设置时间周期维度。批处理采用增量处理，在数据库中记录每批数据的批处理任务编号、批处理是否完成、最后完成时间、数据id，下次处理会读取最后完成时间和数据id后的数据。如果上次批处理没有执行完毕，则将跳过此次批处理，进入下个时间周期。

请参考图3，以下是数据批处理的具体过程。

步骤2-1：获取周期范围的微服务实例数据(微服务实例数据包括：实例名，实例状态，实例启动时间，实例描述)。

步骤2-2：获取周期范围的微服务实例的指标数据(指标数据包括：实例线程数，CPU使用率，内存使用量，请求数量)。

步骤2-3：获取微服务实例周期范围的日志数据(日志数据包括：异常数据，请求数据，系统执行过程数据，用户操作数据，用户登录数据)。

步骤2-4：获取微服务实例周期范围所在计算资源的资源数据(资源数据包括：网络数据，磁盘数据，CPU数据，内存数据，线程数据)。

步骤2-5：获取微服务实例周期范围的请求链路数据。

步骤2-6：获取微服务实例周期范围链路数据的中间件应用运行数据。

步骤2-7：以微服务实例的数据为主要维度，将步骤2-2至2-6的周期范围数据指标，进行平均值、最大值、最小值不同策略计算，建立微服务实例多维数据数仓，多维数仓的建立可以支持更丰富的可观测查询方式。

第三步：对第二步中所建立的多维数据数仓，根据运维关注的维度进行统一的可观测数据查询。

请参考图4，这一步骤的具体处理如下。

步骤3-1：通过时间维度对各微服务应用实例、计算资源、日志、链路数据的查询。

步骤3-2：通过微服务实例维度对各实例的计算资源、日志、链路数据的查询。

步骤3-3：通过计算资源维度对计算资源的各实例的计算资源、日志、链路数据进行查询。

图5示出了本发明的异构微服务系统的统一可观测系统的一实施例的原理。请参见图5，本实施例的系统包括：数据采集存储模块、多维数据数仓建立模块、可观测数据统一查询模块。

数据采集存储模块，用于对异构微服务系统的可观测数据进行数据采集并存储。数据采集存储模块中的数据采集方式有两种方式：各自对应异构微服务系统的agent采集插件、异构微服务系统的exporter采集插件。

基于异构微服务系统的agent采集插件的可观测数据的采集，是采用agent无侵入式应用技术对异构微服务系统的多种语言微服务进行监控指标采集，其中agent采集插件采用http方式，主动推送数据到agent采集应用服务，其中agent采集插件的可观测数据包括指标、链路、日志，指标包括实例基本信息、实例状态和实例运行指标，链路是API请求到返回结果的全链路过程数据，日志是API请求日志、系统运行日志、账号操作日志、系统埋点日志。

请参考图2A，数据采集存储模块进一步配置为执行以下的处理：

步骤1-1a：部署agent采集应用服务器端；

步骤1-2a：在微服务应用的各实例的主机上安装agent采集插件进行数据采集，其中各实例的微服务对应自己语言的agent采集应用服务并使用单独一个线程进行实例微服务的采集，agent采集插件配置agent采集应用服务的HTTP地址和端口；

步骤1-3a：agent采集插件收集微服务应用的应用实例信息、实例状态信息，将收集到的应用实例信息和实例状态信息通过HTTP协议上报到agent采集服务器端并存储；

步骤1-4a：agent采集插件进行链路数据采集；

步骤1-5a：agent采集插件抓取系统运行日志、服务API请求日志、用户登录和操作日志、埋点日志文件的信息，以批量包的形式上传到agent采集服务器端。

基于异构微服务系统的exporter采集插件对微服务系统的可观测数据的采集过程中，exporter采集插件应用由exporter采集应用服务和exporter采集插件组成，exporter采集插件提供HTTP接口，exporter采集应用服务定时调用exporter采集插件的接口采集数据，其中exporter采集插件对微服务系统的可观测数据是系统基础设施的运行指标，包括计算资源质保、数据库资源指标、中间件资源指标。

请参考图2B，数据采集存储模块进一步配置为执行以下的处理：

步骤1-1b：异构微服务系统中的各主机安装并启动exporter采集插件，exporter采集插件有独立的线程运行来提供HTTP接口服务，网络开放对应的HTTP协议和端口；

步骤1-2b：部署exporter采集应用服务，配置需要采集的各主机的exporter采集插件的Http接口地址，指定exporter采集应用服务的采集频率，定期调用exporter采集插件的http接口，并存储接口返回的采集数据。

多维数据数仓建立模块，用于对采集到的可观测数据进行数据处理，基于微服务实例将采集到的各类数据进行关联，建立微服务实例的多维数据数仓。

多维数据数仓建立模块的数据处理采用定时任务数据批处理方法，以一定的时间周期维度进行批量数据处理；批处理采用增量处理，在数据库中记录每批数据的批处理任务编号、批处理是否完成、最后完成时间、数据id，下次处理会读取最后完成时间和数据id后的数据，如果上次批处理没有执行完毕，则将跳过此次批处理并进入下个时间周期。

请参考图3，多维数据数仓建立模块进一步配置为执行以下的处理：

步骤2-1：获取周期范围的微服务实例数据；

步骤2-2：获取周期范围的微服务实例的指标数据；

步骤2-3：获取微服务实例周期范围的日志数据；

步骤2-4：获取微服务实例周期范围所在计算资源的资源数据；

步骤2-5：获取微服务实例周期范围的请求链路数据；

步骤2-6：获取微服务实例周期范围链路数据的中间件应用运行数据；

步骤2-7：以微服务实例的数据为主要维度，将步骤2-2至2-6的周期范围数据指标，进行平均值、最大值、最小值在内的不同策略计算，建立微服务实例多维数据数仓。

可观测数据统一查询模块，用于对所建立的多维数据数仓，根据运维关注的维度进行统一的可观测数据查询。

请参考图4，可观测数据统一查询模块进一步配置为执行以下的处理：

步骤3-1：通过时间维度对各微服务应用实例、计算资源、日志、链路数据的查询；

步骤3-2：通过微服务实例维度对各实例的计算资源、日志、链路数据的查询；

步骤3-3：通过计算资源维度对计算资源的各实例的计算资源、日志、链路数据进行查询。

系统实施例的具体过程和前述的方法实施例的具体过程是相同的，可完全参考前述的方法实施例的细节描述，部分内容不再赘述。

尽管为使解释简单化将上述方法图示并描述为一系列动作，但是应理解并领会，这些方法不受动作的次序所限，因为根据一个或多个实施例，一些动作可按不同次序发生和/或与来自本文中图示和描述或本文中未图示和描述但本领域技术人员可以理解的其他动作并发地发生。

本领域技术人员将进一步领会，结合本文中所公开的实施例来描述的各种解说性逻辑板块、模块、电路、和算法步骤可实现为电子硬件、计算机软件、或这两者的组合。为清楚地解说硬件与软件的这一可互换性，各种解说性组件、框、模块、电路、和步骤在上面是以其功能性的形式作一般化描述的。此类功能性是被实现为硬件还是软件取决于具体应用和施加于整体系统的设计约束。技术人员对于每种特定应用可用不同的方式来实现所描述的功能性，但这样的实现决策不应被解读成导致脱离了本发明的范围。

结合本文所公开的实施例描述的各种解说性逻辑板块、模块、和电路可用通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或其它可编程逻辑器件、分立的门或晶体管逻辑、分立的硬件组件、或其设计成执行本文所描述功能的任何组合来实现或执行。通用处理器可以是微处理器，但在替换方案中，该处理器可以是任何常规的处理器、控制器、微控制器、或状态机。处理器还可以被实现为计算设备的组合，例如DSP与微处理器的组合、多个微处理器、与DSP核心协作的一个或多个微处理器、或任何其他此类配置。

结合本文中公开的实施例描述的方法或算法的步骤可直接在硬件中、在由处理器执行的软件模块中、或在这两者的组合中体现。软件模块可驻留在RAM存储器、闪存、ROM存储器、EPROM存储器、EEPROM存储器、寄存器、硬盘、可移动盘、CD-ROM、或本领域中所知的任何其他形式的存储介质中。示例性存储介质耦合到处理器以使得该处理器能从/向该存储介质读取和写入信息。在替换方案中，存储介质可以被整合到处理器。处理器和存储介质可驻留在ASIC中。ASIC可驻留在用户终端中。在替换方案中，处理器和存储介质可作为分立组件驻留在用户终端中。

在一个或多个示例性实施例中，所描述的功能可在硬件、软件、固件或其任何组合中实现。如果在软件中实现为计算机程序产品，则各功能可以作为一条或更多条指令或代码存储在计算机可读介质上或藉其进行传送。计算机可读介质包括计算机存储介质和通信介质两者，其包括促成计算机程序从一地向另一地转移的任何介质。存储介质可以是能被计算机访问的任何可用介质。作为示例而非限定，这样的计算机可读介质可包括RAM、ROM、EEPROM、CD-ROM或其它光盘存储、磁盘存储或其它磁存储设备、或能被用来携带或存储指令或数据结构形式的合意程序代码且能被计算机访问的任何其它介质。任何连接也被正当地称为计算机可读介质。例如，如果软件是使用同轴电缆、光纤电缆、双绞线、数字订户线(DSL)、或诸如红外、无线电、以及微波之类的无线技术从web网站、服务器、或其它远程源传送而来，则该同轴电缆、光纤电缆、双绞线、DSL、或诸如红外、无线电、以及微波之类的无线技术就被包括在介质的定义之中。如本文中所使用的盘(disk)和碟(disc)包括压缩碟(CD)、激光碟、光碟、数字多用碟(DVD)、软盘和蓝光碟，其中盘(disk)往往以磁的方式再现数据，而碟(disc)用激光以光学方式再现数据。上述的组合也应被包括在计算机可读介质的范围内。

提供对本公开的先前描述是为使得本领域任何技术人员皆能够制作或使用本公开。对本公开的各种修改对本领域技术人员来说都将是显而易见的，且本文中所定义的普适原理可被应用到其他变体而不会脱离本公开的精神或范围。由此，本公开并非旨在被限定于本文中所描述的示例和设计，而是应被授予与本文中所公开的原理和新颖性特征相一致的最广范围。

Claims (18)

1.一种异构微服务系统的统一可观测方法，其特征在于，方法包括：

第一步：对异构微服务系统的可观测数据进行数据采集并存储；

第二步：对采集到的可观测数据进行数据处理，基于微服务实例将第一步中采集到的各类数据进行关联，建立微服务实例的多维数据数仓；

第三步：对第二步中所建立的多维数据数仓，根据运维关注的维度进行统一的可观测数据查询。

2.根据权利要求1所述的异构微服务系统的统一可观测方法，其特征在于，第一步中的数据采集方式有两种方式：各自对应异构微服务系统的agent采集插件、异构微服务系统的exporter采集插件。

3.根据权利要求2所述的异构微服务系统的统一可观测方法，其特征在于，基于异构微服务系统的agent采集插件的可观测数据的采集，是采用agent无侵入式应用技术对异构微服务系统的多种语言微服务进行监控指标采集，其中agent采集插件采用http方式，主动推送数据到agent采集应用服务，其中agent采集插件的可观测数据包括指标、链路、日志，指标包括实例基本信息、实例状态和实例运行指标，链路是API请求到返回结果的全链路过程数据，日志是API请求日志、系统运行日志、账号操作日志、系统埋点日志。

4.根据权利要求3所述的异构微服务系统的统一可观测方法，其特征在于，第一步中的基于异构微服务系统的agent采集插件的可观测数据的采集的步骤包括：

步骤1-1a：部署agent采集应用服务器端；

步骤1-2a：在微服务应用的各实例的主机上安装agent采集插件进行数据采集，其中各实例的微服务对应自己语言的agent采集应用服务并使用单独一个线程进行实例微服务的采集，agent采集插件配置agent采集应用服务的HTTP地址和端口；

步骤1-3a：agent采集插件收集微服务应用的应用实例信息、实例状态信息，将收集到的应用实例信息和实例状态信息通过HTTP协议上报到agent采集服务器端并存储；

步骤1-4a：agent采集插件进行链路数据采集；

步骤1-5a：agent采集插件抓取系统运行日志、服务API请求日志、用户登录和操作日志、埋点日志文件的信息，以批量包的形式上传到agent采集服务器端。

5.根据权利要求2所述的异构微服务系统的统一可观测方法，其特征在于，基于异构微服务系统的exporter采集插件对微服务系统的可观测数据的采集过程中，exporter采集插件应用由exporter采集应用服务和exporter采集插件组成，exporter采集插件提供HTTP接口，exporter采集应用服务定时调用exporter采集插件的接口采集数据，其中exporter采集插件对微服务系统的可观测数据是系统基础设施的运行指标，包括计算资源质保、数据库资源指标、中间件资源指标。

6.根据权利要求5所述的异构微服务系统的统一可观测方法，其特征在于，基于异构微服务系统的exporter采集插件对微服务系统的可观测数据的采集进一步包括：

步骤1-1b：异构微服务系统中的各主机安装并启动exporter采集插件，exporter采集插件有独立的线程运行来提供HTTP接口服务，网络开放对应的HTTP协议和端口；

步骤1-2b：部署exporter采集应用服务，配置需要采集的各主机的exporter采集插件的Http接口地址，指定exporter采集应用服务的采集频率，定期调用exporter采集插件的http接口，并存储接口返回的采集数据。

7.根据权利要求1所述的异构微服务系统的统一可观测方法，其特征在于，第二步中，数据处理采用定时任务数据批处理方法，以一定的时间周期维度进行批量数据处理；批处理采用增量处理，在数据库中记录每批数据的批处理任务编号、批处理是否完成、最后完成时间、数据id，下次处理会读取最后完成时间和数据id后的数据，如果上次批处理没有执行完毕，则将跳过此次批处理并进入下个时间周期。

8.根据权利要求7所述的异构微服务系统的统一可观测方法，其特征在于，第二步进一步包括：

步骤2-1：获取周期范围的微服务实例数据；

步骤2-2：获取周期范围的微服务实例的指标数据；

步骤2-3：获取微服务实例周期范围的日志数据；

步骤2-4：获取微服务实例周期范围所在计算资源的资源数据；

步骤2-5：获取微服务实例周期范围的请求链路数据；

步骤2-6：获取微服务实例周期范围链路数据的中间件应用运行数据；

步骤2-7：以微服务实例的数据为主要维度，将步骤2-2至2-6的周期范围数据指标，进行平均值、最大值、最小值在内的不同策略计算，建立微服务实例多维数据数仓。

9.根据权利要求1所述的异构微服务系统的统一可观测方法，其特征在于，第三步进一步包括：

步骤3-1：通过时间维度对各微服务应用实例、计算资源、日志、链路数据的查询；

步骤3-2：通过微服务实例维度对各实例的计算资源、日志、链路数据的查询；

步骤3-3：通过计算资源维度对计算资源的各实例的计算资源、日志、链路数据进行查询。

10.一种异构微服务系统的统一可观测系统，其特征在于，系统包括：

数据采集存储模块，对异构微服务系统的可观测数据进行数据采集并存储；

多维数据数仓建立模块，对采集到的可观测数据进行数据处理，基于微服务实例将采集到的各类数据进行关联，建立微服务实例的多维数据数仓；

可观测数据统一查询模块，对所建立的多维数据数仓，根据运维关注的维度进行统一的可观测数据查询。

11.根据权利要求10所述的异构微服务系统的统一可观测系统，其特征在于，数据采集存储模块中的数据采集方式有两种方式：各自对应异构微服务系统的agent采集插件、异构微服务系统的exporter采集插件。

12.根据权利要求11所述的异构微服务系统的统一可观测系统，其特征在于，基于异构微服务系统的agent采集插件的可观测数据的采集，是采用agent无侵入式应用技术对异构微服务系统的多种语言微服务进行监控指标采集，其中agent采集插件采用http方式，主动推送数据到agent采集应用服务，其中agent采集插件的可观测数据包括指标、链路、日志，指标包括实例基本信息、实例状态和实例运行指标，链路是API请求到返回结果的全链路过程数据，日志是API请求日志、系统运行日志、账号操作日志、系统埋点日志。

13.根据权利要求12所述的异构微服务系统的统一可观测系统，其特征在于，数据采集存储模块进一步配置为执行以下的处理：

步骤1-1a：部署agent采集应用服务器端；

步骤1-2a：在微服务应用的各实例的主机上安装agent采集插件进行数据采集，其中各实例的微服务对应自己语言的agent采集应用服务并使用单独一个线程进行实例微服务的采集，agent采集插件配置agent采集应用服务的HTTP地址和端口；

步骤1-3a：agent采集插件收集微服务应用的应用实例信息、实例状态信息，将收集到的应用实例信息和实例状态信息通过HTTP协议上报到agent采集服务器端并存储；

步骤1-4a：agent采集插件进行链路数据采集；

步骤1-5a：agent采集插件抓取系统运行日志、服务API请求日志、用户登录和操作日志、埋点日志文件的信息，以批量包的形式上传到agent采集服务器端。

14.根据权利要求10所述的异构微服务系统的统一可观测系统，其特征在于，基于异构微服务系统的exporter采集插件对微服务系统的可观测数据的采集过程中，exporter采集插件应用由exporter采集应用服务和exporter采集插件组成，exporter采集插件提供HTTP接口，exporter采集应用服务定时调用exporter采集插件的接口采集数据，其中exporter采集插件对微服务系统的可观测数据是系统基础设施的运行指标，包括计算资源质保、数据库资源指标、中间件资源指标。

15.根据权利要求14所述的异构微服务系统的统一可观测系统，其特征在于，数据采集存储模块进一步配置为执行以下的处理：

步骤1-1b：异构微服务系统中的各主机安装并启动exporter采集插件，exporter采集插件有独立的线程运行来提供HTTP接口服务，网络开放对应的HTTP协议和端口；

步骤1-2b：部署exporter采集应用服务，配置需要采集的各主机的exporter采集插件的Http接口地址，指定exporter采集应用服务的采集频率，定期调用exporter采集插件的http接口，并存储接口返回的采集数据。

16.根据权利要求10所述的异构微服务系统的统一可观测系统，其特征在于，多维数据数仓建立模块的数据处理采用定时任务数据批处理方法，以一定的时间周期维度进行批量数据处理；批处理采用增量处理，在数据库中记录每批数据的批处理任务编号、批处理是否完成、最后完成时间、数据id，下次处理会读取最后完成时间和数据id后的数据，如果上次批处理没有执行完毕，则将跳过此次批处理并进入下个时间周期。

17.根据权利要求16所述的异构微服务系统的统一可观测系统，其特征在于，多维数据数仓建立模块进一步配置为执行以下的处理：

步骤2-1：获取周期范围的微服务实例数据；

步骤2-2：获取周期范围的微服务实例的指标数据；

步骤2-3：获取微服务实例周期范围的日志数据；

步骤2-4：获取微服务实例周期范围所在计算资源的资源数据；

步骤2-5：获取微服务实例周期范围的请求链路数据；

步骤2-6：获取微服务实例周期范围链路数据的中间件应用运行数据；

步骤2-7：以微服务实例的数据为主要维度，将步骤2-2至2-6的周期范围数据指标，进行平均值、最大值、最小值在内的不同策略计算，建立微服务实例多维数据数仓。

18.根据权利要求10所述的异构微服务系统的统一可观测系统，其特征在于，可观测数据统一查询模块进一步配置为执行以下的处理：

步骤3-1：通过时间维度对各微服务应用实例、计算资源、日志、链路数据的查询；

步骤3-2：通过微服务实例维度对各实例的计算资源、日志、链路数据的查询；

步骤3-3：通过计算资源维度对计算资源的各实例的计算资源、日志、链路数据进行查询。

Images