CN109462504A

CN109462504A - 一种通用Agent管控的系统

Info

Publication number: CN109462504A
Application number: CN201811336255.XA
Authority: CN
Inventors: 王洪亮
Original assignee: Number Of Hangzhou Dai Technology Co Ltd
Current assignee: Number Of Hangzhou Dai Technology Co Ltd
Priority date: 2018-11-09
Filing date: 2018-11-09
Publication date: 2019-03-12

Abstract

本发明公开了一种通用Agent管控的系统，该系统包括REST接口、easyagent服务器、GRPC系统、管控客户端、Ageng类别/功能单元；管控客户端包括缓存器单元、监控单元、控制器单元和管控存储文件单元。本发明通过七个REST接口，使Agent类别/功能单元可以轻松无限扩张；本发明通过GRPC全双工通信，客户网络环境不需要开监听端口，所有控制指令实时传输；本发明通过cgroup，tc控制主机资源使用，并上报监控资源使用情况；本发明通过Agent进行守护，异常退出自动拉起；本发明通过Agent进行健康检查。

Description

一种通用Agent管控的系统

技术领域

本发明属于通信领域，尤其涉及一种通用Agent管控的系统。

背景技术

现有的技术方案存在以下问题：

(1)Agent类别/功能是固定的，不可扩展的，只能通过升级自身来实现 Agent类别/功能扩展。比如graylog sidecar只支持wxlog，winlogbeat， filebeat。

(2)需要在客户网络环境开监听端口，用来接收服务端传来的控制指令，有较大安全风险。

(3)默些管控不需要在客户网络环境开监听端口，而是通过轮询方式接收服务端传来的控制指令，但这牺牲了实时性。

(4)难以限制/控制Agent消耗的资源。

发明内容

为克服现有技术的不足之处，本发明提供一种通用Agent管控的系统。

本发明是通过以下技术方案实现的：

一种通用Agent管控的系统，其特征在于，该系统包括REST接口、easyagent 服务器、GRPC系统、管控客户端、Ageng类别/功能单元；所述REST接口包括 Agent安装接口、Agent卸载接口、Agent启动接口、Agent停止接口、Agent配置更新接口、Agent更新接口和Agent执行命令接口；所述管控客户端包括缓存器单元、监控单元、控制器单元和管控存储文件单元。

作为上述技术方案的优选，所述控制器单元包括cgroup/tc单元和健康检查单元。

作为上述技术方案的优选，所述监控单元包括监控自己的CPU/内存/网络流量/启动命令、监控各个Agent的CPU/内存/网络流量/启动命令、监控主机系统的CPU/内存/交换分区/负载/启动时间/文件系统/网络流量、每个Agent启动后开始监控、Agent停止后关闭监控和监控自己和主机在sidecar启动后就开始监控。

作为上述技术方案的优选，所述控制器单元包括创建控制管理器，根据配置初始化各个Agent对象；启动Agent对象，接收服务端指令。

作为上述技术方案的优选，所述健康检查单元包括健康检查Shell脚本、健康检查周期、第一次启动健康检查前等待时间、健康检查超时时间和健康检查重试次数。

本发明的有益效果是：

(1)本发明通过七个REST接口，使Agent类别/功能单元可以轻松无限扩张；

(2)本发明通过GRPC全双工通信，客户网络环境不需要开监听端口，所有控制指令实时传输；

(3)本发明通过cgroup，tc控制主机资源使用，并上报监控资源使用情况；

(4)本发明通过Agent进行守护，异常退出自动拉起；

(5)本发明通过Agent进行健康检查。

附图说明

结合附图，并通过参考下面的详细描述，将会更容易地对本发明有更完整的理解并且更容易地理解其伴随的优点和特征，其中：

图1是本发明的框架示意图；

图2是本发明中管控客户端的架构图；

图3是本发明中管控守护进程流程图。

具体实施方式

下面将结合具体实施例来详细说明本发明，在此本发明的示意性实施例以及说明用来解释本发明，但并不作为对本发明的限定。

如图1-3所示，一种通用Agent管控的系统，该系统包括REST接口、easyagent服务器、GRPC系统、管控客户端、Ageng类别/功能单元；REST接口包括Agent安装接口、Agent卸载接口、Agent启动接口、Agent停止接口、Agent 配置更新接口、Agent更新接口和Agent执行命令接口；管控客户端包括缓存器单元、监控单元、控制器单元和管控存储文件单元。

具体的，本实施例中，控制器单元包括cgroup/tc单元和健康检查单元。

进一步的，监控单元包括监控自己的CPU/内存/网络流量/启动命令、监控各个Agent的CPU/内存/网络流量/启动命令、监控主机系统的CPU/内存/交换分区/负载/启动时间/文件系统/网络流量、每个Agent启动后开始监控、Agent停止后关闭监控和监控自己和主机在sidecar启动后就开始监控。

此外，控制器单元包括创建控制管理器，根据配置初始化各个Agent对象；启动Agent对象，接收服务端指令。

同时，健康检查单元包括健康检查Shell脚本、健康检查周期、第一次启动健康检查前等待时间、健康检查超时时间和健康检查重试次数。

HTTP REST API接口

Agent安装[同步]：/api/v1/agent/install[Sync]POST

参数	说明
		collectorId	管控id
configurationPath	filbeat配置文件地址
		binaryPath	filbeat可执行文件地址
name	agent名称即filebeat
		parameter	agent运行参数，＇,＇号隔开
installScript	filebeat安装脚本内容
		installParameter	安装脚本的执行参数,＇,＇号隔开
healthShell	健康检查脚本
		healthPeriod	健康检查间隔
workDir	工作目录
		timeout	脚本超时

Agent卸载[同步]：/api/v1/agent/{agent_id}/uninstall[Sync]POST

Agent启动[同步]：/api/v1/agent/{agent_id}/start[Sync]GET

参数	说明
		agent_id	agent标识

Agent停止[同步]：/api/v1/agent/{agent_id}/stop[Sync]GET

参数	说明
		agent_id	agent标识

Agent配置更新[同步]：/api/v1/agent/{agent_id}/config[Sync]POST

Agent更新[同步]：/api/v1/agent/{agent_id}/update[Sync]POST

参数	说明
		parameter	运行参数，＇,＇号隔开
shellScript	agent更新脚本
		timeout	脚本超时

Agent执行命令[同步]：/api/v1/sidecar/{sidecar_id}/execscript POST

参数	说明
		execScript	执行脚本的内容
parameter	运行参数，＇,＇号隔开
		timeout	脚本超时
agentId	Agent ID[可选]

这七个API为原子接口(没有内在关系)，使用者根据自己业务特点灵活调用。

接入管控方式：

命令行：

curl

‘http://x.x.x.x:8889/api/v1/deploy/sidecar/install/shell？TargetPath＝/opt/dts

tack/easymanager/easyagent&CallBack＝aHR0cDovL21hdHJpeDo4ODY0

L2FwaS92Mi9hZ2VudC9pbnN0YWxsL2NhbGxiYWNrP2FpZD0tMQ＝＝'

|sh

CallBack:使用者回调地址→URL escape→base64encode

页面SSH：

在页面上填入宿主机IP地址列表和用户名/密码/密钥。非root用户接入需要sudo+NOPASSWD权限。

Register&&CallBack回调：

第一次安装管控时，管控启动后会向easyagent-server注册：

注册时包含管控唯一Id(sid)，CallBack和主机基本信息，easyagent-server 接受注册后回调使用者(http头中添加sid和hostname)。

GRPC介绍：

GRPC一开始由google开发，是一款语言中立、平台中立、开源的远程过程调用(RPC)系统。

基于HTTP/2：

HTTP/2提供了连接多路复用、双向流、服务器推送、请求优先级、首部压缩等机制。可以节省带宽、降低TCP链接次数、节省CPU，帮助移动设备延长电池寿命等。gRPC的协议设计上使用了HTTP2现有的语义，请求和响应的数据使用HTTP Body发送，其他的控制信息则用Header表示。

IDL使用ProtoBuf：

GRPC使用ProtoBuf来定义服务，ProtoBuf是由Google开发的一种数据序列化协议(类似于XML、JSON、hessian)。ProtoBuf能够将数据进行序列化，并广泛应用在数据存储、通信协议等方面。压缩和传输效率高，语法简单，表达力强。

多语言支持(C,C++,Python,PHP,Nodejs,C#,Objective-C、Golang、Java)：

GRPC支持多种语言，并能够基于语言自动生成客户端和服务端功能库。目前已提供了C版本grpc、Java版本grpc-java和Go版本grpc-go，其它语言的版本正在积极开发中，其中，grpc支持C、C++、Node.js、Python、Ruby、Objective-C、 PHP和C#等语言，grpc-java已经支持Android开发。

GRPC已经应用在Google的云服务和对外提供的API中，其主要应用场景如下：

低延迟、高扩展性、分布式的系统。

同云服务器进行通信的移动应用客户端。

设计语言独立、高效、精确的新协议。

便于各方面扩展的分层设计，如认证、负载均衡、日志记录、监控等。

IDL定义：

registerSidecar：管控启动时调用该grpc函数，注册成功后才允许调用后面函数。

readyForControl：管控启动时调用该grpc函数，跟服务端连接等待stream指令。

reportEvent：管控端任何event信息(异常信息/agent性能数据/主机性能数据)都将异步发往服务端。

GRPC网络异常，不会影响已经运行的Agent(只是无法控制)。

Json-file DB：

该文件是管控(sidecar)持久化存储文件。sidecar重启时会加载此文件，送给controller初始化Agent。

AgentConfig结构：

Controller关键代码：

controller.NewController()创建控制管理器，根据配置初始化各个Agent对象agent.NewAgent()，最后启动Agent对象ag.Run()，调用StartRecvCtl接收服务端指令。

Cgroup介绍和设置：

Cgroups是control groups的缩写，是Linux内核提供的一种可以限制、记录、隔离进程组(process groups)所使用的物理资源(如：cpu,memory,IO等等)的机制。最初由google的工程师提出，后来被整合进Linux内核。

Agent安装时调用installCgroup()，每一个agent申请一个classid，并创建一个cgroup对象cg：

agent每次启动都要调用addCgroup()添加到该cgroup：

说明：

1.需要使用cpu子系统限制cpu使用率％。

2.需要使用memory子系统限制内存使用量，超过则OOM(禁用虚拟内存)。

3.需要使用net_cls子系统标记ClassID，ClassID用来给tc限流和流量统计。

TC(Traffic Control)介绍和设置：

Linux内核内置了一个Traffic Control框架，可以实现流量限速，流量整形，策略应用(丢弃，NAT等)。主要是通过在输出端口处建立一个队列来实现流量控制。

初始化TC HTB队列InitTC()：

tc qdisc add dev ethx root handle 6000:htb

tc filter add dev ethx protocol ip parent 6000:prio 1handle 6000:cgroup

限制流量命令行setTcClassRate()：

tc class change dev ethx parent 6000:classid xxxx htb rate xxxxxx//

classid在cgroup安装时分配

查看流量统计tcStatistic()：

tc-s class show dev ethx

管控守护进程：

启动goroutine ag.supervisor()守护agent进程，60秒内守护3次，否则认为是agent确有问题，报错“agent run error(unexpected)：……”退出。

综上所述，本发明通过七个REST接口，使Agent类别/功能单元可以轻松无限扩张；本发明通过GRPC全双工通信，客户网络环境不需要开监听端口，所有控制指令实时传输；本发明通过cgroup，tc控制主机资源使用，并上报监控资源使用情况；本发明通过Agent进行守护，异常退出自动拉起；本发明通过Agent 进行健康检查。

Claims

1.一种通用Agent管控的系统，其特征在于，该系统包括REST接口、easyagent服务器、GRPC系统、管控客户端、Ageng类别/功能单元；所述REST接口包括Agent安装接口、Agent卸载接口、Agent启动接口、Agent停止接口、Agent配置更新接口、Agent更新接口和Agent执行命令接口；所述管控客户端包括缓存器单元、监控单元、控制器单元和管控存储文件单元。

2.如权利要求1所述的通用Agent管控的系统，其特征在于，所述控制器单元包括cgroup/tc单元和健康检查单元。

3.如权利要求1所述的通用Agent管控的系统，其特征在于，所述监控单元包括监控自己的CPU/内存/网络流量/启动命令、监控各个Agent的CPU/内存/网络流量/启动命令、监控主机系统的CPU/内存/交换分区/负载/启动时间/文件系统/网络流量、每个Agent启动后开始监控、Agent停止后关闭监控和监控自己和主机在sidecar启动后就开始监控。

4.如权利要求1所述的通用Agent管控的系统，其特征在于，所述控制器单元包括创建控制管理器，根据配置初始化各个Agent对象；启动Agent对象，接收服务端指令。

5.如权利要求1所述的通用Agent管控的系统，其特征在于，所述健康检查单元包括健康检查Shell脚本、健康检查周期、第一次启动健康检查前等待时间、健康检查超时时间和健康检查重试次数。