CN105656699B - 内容分发网络的告警管理方法及系统 - Google Patents

Abstract

本发明提供一种内容分发网络的告警管理方法及系统，方法包括：采集所述内容分发网络中运行的各节点服务器的访问日志；从各所述访问日志的内容中提取各告警记录，将各所述告警记录表示为一或多个特征字段及与所述一或多个特征字段对应的特征字段信息的形式作为各告警特征信息；建立与各所述告警特征信息相关联的筛选条件并加以存储，所述筛选条件包括：用于与所述一或多个特征字段及与所述一或多个特征字段对应的特征字段信息比对的一或多个预设字段及与所述一或多个预设字段对应的预设字段信息。本发明能够自动处理海量的告警记录，有针对性地筛选有用告警，降低告警故障排查的难度。

Description

内容分发网络的告警管理方法及系统

技术领域

本发明涉及内容分发网络领域，特别是涉及一种内容分发网络的告警管理方法及系统。

背景技术

目前，越来越多的网站使用内容分发网络(Content Delivery Network，CDN)进行内容分发加速。当客户端发起一个请求，该请求经过CDN服务器，根据内容性质将响应返回客户端或者转发请求至源站服务器。CDN网络对应用进行了服务质量、可用性等指标的监控。当服务产生异常，会触发告警。

随着网络规模和复杂程度不断提高，网络业务、网络设备、网络结构的不断变化，告警的种类越来越多，告警的频率也越来越频繁，这其中包括网络抖动告警、客户端应用异常告警、源站CDN网络异常引起的告警等。大量告警的出现伴随着告警重复，无用告警多，信息不完整等问题，造成了告警分析和故障排查的难度。

目前，CDN网络告警分析和故障排除主要还是通过运维人员进行处理，大量告警信息由人工进行处理会占用大量的人力资源，效率低下。在自动化告警诊断方面，虽然很多厂商和机构开发各种网络监控系统，但是识别的问题较简单，告警问题自动化定位的准确度较低。一部分系统无法实时监控，需要通过手动运行监测结果。总结起来有以下问题：1)对于大量告警内容，未能进行自动化处理；2)处理大量告警时，未能进行高效管理；3)无法自动分析告警产生原因，且未建立告警反馈机制，导致已处理过的告警依然存在。

发明内容

鉴于以上所述现有技术的缺点，本发明的目的在于提供一种内容分发网络的告警管理方法及系统，用于解决现有技术中面对大量告警未能自动处理的问题。

为实现上述目的及其他相关目的，本发明提供一种内容分发网络的告警管理方法，包括：采集所述内容分发网络中运行的各节点服务器的访问日志；从各所述访问日志的内容中提取各告警记录，将各所述告警记录表示为一或多个特征字段及与所述一或多个特征字段对应的特征字段信息的形式作为各告警特征信息；建立与各所述告警特征信息相关联的筛选条件并加以存储，所述筛选条件包括：用于与所述一或多个特征字段及与所述一或多个特征字段对应的特征字段信息比对的一或多个预设字段及与所述一或多个预设字段对应的预设字段信息。

可选的，各所述告警特征信息中至少包括：业务类型字段、及与所述业务类型字段对应的业务类型字段信息。

可选的，所述预设字段信息包括：信息量值、信息量值范围、文字信息、和文字信息集合中的一种或多种。

可选的，各所述筛选条件还关联有各预设筛选次数值，所述方法还包括：当满足各所述筛选条件的情况的发生次数达到各对应的所述预设筛选次数值时，将对应的各所述告警特征信息筛选出来。

可选的，还包括以下步骤中的一种或多种：1)建立筛选白名单，所述筛选白名单中包含至少一条所述筛选条件，对满足所述筛选白名单中的筛选条件的告警特征信息自动标注。2)建立筛选黑名单，所述筛选黑名单中包含至少一条所述筛选条件，对满足所述筛选黑名单中的筛选条件的告警特征信息自动排除。

可选的，还包括：重新获取所述内容分发网络中运行的各节点服务器的访问日志，据以筛选出满足各所述筛选条件的各告警特征信息。

可选的，还包括以下步骤中的一种或多种：1)所述重新获取所述内容分发网络中运行的各节点服务器的访问日志是以周期为单位执行的，并对所述周期内的各所述访问日志按所属的应用进行分组。2)根据预设噪点信息范围，排除落入所述预设噪点信息范围内的特征字段信息所属的告警特征信息。

可选的，所述预设特征字段信息由数字构成内容，其所对应的预设特征字段包括：时间字段、状态码字段、和客户ID号字段中的一种或多种。

可选的，在自动排除满足所述筛选黑名单中的筛选条件的告警特征信息后，还包括：判断余下的各告警特征信息是否为首次出现；若是，则将该告警特征信息标记为已出现，并进行告警分析；若否，则将出现次数达到预设梯度值的各所述告警特征信息筛选出，并进行告警分析。

可选的，所述预设梯度值为所述周期的时间长度、及预设整数的乘积。

可选的，所述告警分析包括：判断各所述告警特征信息相关联的筛选条件是否关联有预设分析结论；若是，则根据所述预设分析结论定位该告警特征信息的故障来源；若否，则脱离所述内容分发网络进行本地验证以定位该告警特征信息的故障来源。

可选的，所述本地验证包括：提取该告警特征信息中的预设验证信息，据以计算错误状态码；提取该告警特征信息中的错误状态码，与所述计算的错误状态码比对；若比对结果一致，则定位该告警特征信息的故障来源不在于所述内容分发网络；若比对结果不一致，则定位该告警特征信息的故障来源在于所述内容分发网络。

可选的，所述预设验证信息包括：源站IP、客户端标识信息及网络地址样式。

为实现上述目的及其他相关目的，本发明提供一种内容分发网络的告警管理系统，包括：访问日志采集模块、告警特征信息提取模块和筛选规则建立模块。访问日志采集模块，用于采集所述内容分发网络中运行的各节点服务器的访问日志。告警特征信息提取模块，用于从各所述访问日志的内容中提取各告警记录，将各所述告警记录表示为一或多个特征字段及与所述一或多个特征字段对应的特征字段信息的形式作为各告警特征信息。筛选规则建立模块，用于建立与各所述告警特征信息相关联的筛选条件并加以存储，所述筛选条件包括：用于与所述一或多个特征字段及与所述一或多个特征字段对应的特征字段信息比对的一或多个预设字段及与所述一或多个预设字段对应的预设字段信息。

如上所述，本发明的内容分发网络的告警管理方法及系统，能够自动处理大量告警内容，避免重复、无用的告警；自动进行告警分析、建立告警反馈机制等，有针对性地筛选有用告警，降低告警故障排查的难度。

附图说明

图1显示为本发明一实施例的内容分发网络的告警管理方法流程图。

图2显示为本发明一优选实施例的内容分发网络的告警管理方法流程图。

图3显示为本发明一实施例的内容分发网络的告警管理方法中告警分析流程图。

图4显示为本发明一实施例的内容分发网络的告警管理模块结构图。

元件标号说明

1 内容分发网络的告警管理系统

11 访问日志采集模块

12 告警特征信息提取模块

13 筛选规则建立模块

S1～S3 步骤

具体实施方式

以下通过特定的具体实例说明本发明的实施方式，本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用，本说明书中的各项细节也可以基于不同观点与应用，在没有背离本发明的精神下进行各种修饰或改变。需说明的是，在不冲突的情况下，以下实施例及实施例中的特征可以相互组合。

需要说明的是，以下实施例中所提供的图示仅以示意方式说明本发明的基本构想，遂图式中仅显示与本发明中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制，其实际实施时各组件的型态、数量及比例可为一种随意的改变，且其组件布局型态也可能更为复杂。

本发明的设计目的在于提供一种自动化的告警管理方法，能够在进行告警分析之前，快速排除大量无用、重复或抖动的告警，从而加快整个告警管理的处理速度，快速定位，缩小告警分析的范围，减轻机器负担。

请参阅图1，本发明提供一种内容分发网络的告警管理方法，具体包括如下步骤，从而建立一种管理规则库：

步骤S1：采集所述内容分发网络中运行的各节点服务器的访问日志。优选的，访问日志由客户端完成采集，通过网络推送至服务端统一处理。

需要说明的是，整个告警管理方法的智能型程度很大程度上取决于获得的访问日志的丰富程度以及利用程度，也就是说，采集的访问日志数量越多、内容越丰富，告警管理方法的智能程度越高。

在访问日志中，附带核心字段，其信息记载了告警故障产生的原因、条件，以及发生的网络环境等信息，为了使得自动化处理更加准确、更具有说服力，将访问日志从非结构数据转化成结构化数据，即执行步骤S2。

步骤S2：从采集的各个所述访问日志的内容中提取出关于告警的内容，即各告警记录。将各所述告警记录表示为一种类似表的结构，这种结构中包括特征字段列，以及一一对应的特征字段信息列。特征字段列中包括至少一种特征字段，特征字段是访问日志中的部分或全部字段，相应的，特征字段信息列中存放有从访问日志中提取的该特征字段的对应信息，这种类似表的结构作为告警特征信息。需要说明的是，告警特征信息中可能包含不同特征字段或不同特征字段的多种组合，造就了告警特征信息的多样性与复杂性。由于实际管理中常常根据业务类型分类，从而有针对性地监督告警情况，优选的，告警特征信息至少包括业务类型的字段，以及一一对应的业务类型信息，例如：网页、点播、下载等业务。

步骤S3：针对每一种告警特征信息建立属于它的筛选条件并加以关联、存储。所述筛选条件包括：预设字段，和一一对应的预设字段信息，也是一种类似表的结构。在一实施例中，每条告警特征信息的特征字段的部分或全部构成预设字段，对应的，预设字段信息也有多种不同的可能性。所述筛选条件的用途是：当得到某一种告警特征信息后，找到与告警特征信息中的特征字段组合匹配的预设字段组合，然后，分别判断各特征字段对应的特征字段信息是否落入了对应预设字段信息的范围中，若是，则认为满足了筛选条件；若否，则认为没有满足筛选条件。通过设置该筛选条件来实现实时地、自动地处理各种告警记录，无需人工过多干预，大大提高了处理效率、降低了运维成本。

需要说明的是，由于各种通用字段中，有的字段信息为文字、字符等，有的字段信息则为数字等，所以预设字段信息的设置可以有针对文字、字符的文字信息或文字集合，可以有针对数字的信息量值、信息量值范围，还可以为文字集合、信息量值等多种组合，灵活地满足不同需求的筛选需要。

在一实施例中，仅满足所述筛选条件还不够，还需要各所述筛选条件关联有各预设筛选次数值，也就是说，当满足各所述筛选条件的情况的发生次数达到各对应的所述预设筛选次数值时，将对应的各所述告警特征信息筛选出来。

在一实施例中，还可以通过建立筛选白名单、筛选黑名单等来进一步筛选告警特征信息。所述筛选白名单、黑名单事实上分别为包含某一条或多条筛选条件的数据库，判断是否属于所述筛选白名单或黑名单，就是判断筛选条件与数据库当中存有的筛选条件是否匹配。这里，对满足所述筛选白名单中的筛选条件的告警特征信息自动标注，对满足所述筛选黑名单中的筛选条件的告警特征信息自动排除。事实上，设置黑名单的目的在于排除那些诸如不重要、不必要知晓的告警特征信息，以提高处理效率。

管理规则库建立后，以周期为单位获取所述内容分发网络中运行的各节点服务器的访问日志，筛选出满足各所述筛选条件的各告警特征信息，通过预设筛选次数值、黑名单或两者的组合进行筛选。特别的，还可以将访问日志分组管理。

优选的，生成的告警特征信息的特征字段信息中，可能存在由于网络抖动而生成的、或者由于机器短时间内偶发性的故障而生成的多维度噪点数据。这些数据对应的特征字段一般为时间字段、状态码字段、和客户ID号字段等内容为数字的字段。这里，我们需要分别设置相应的预设噪点信息范围对预设特征字段信息其进行噪点过滤。特别的，初始预设噪点信息范围设置为经验值。

请参阅图2，在优选一实施例中，上一个周期内自动反馈的管理结果对下一个周期具有指导作用，也即是建立一种反馈机制。该反馈机制中，标记首次出现的告警特征信息，留待分析故障产生的来源，对于重复出现的则设置梯度监控方式进行管理。

筛选的最终目的在于高效地找出最有价值的告警特征信息，对其进行告警分析，找到故障产生的原因。为了在指定周期内提高分析的针对性，不做重复无用功，则对上一周期内已出发的告警类型，在本周期中自动过滤，重复类型的判断条件为：

a)告警特征信息与上个周期的来源于同个应用；

b)告警特征信息的分布节点范围与上个周期的一致；

c)告警特征信息的URL关键特征与上个周期的一致。

也就是说，若同时满足以上条件，视为同类型告警特征信息，这里，我们通过设置梯度，取非落在梯度里的点，对其屏蔽。具体为，第n次不进行屏蔽的预设梯度值为：周期长度值*预设整数值，或者，周期长度值*预设整数值*(n-1)等，其中n<＝设定的最大值，例如：60秒*10*(6-1)等。对非以上梯度的点，均进行屏蔽，以有效减少同类型告警规模。

请参阅图3，本方法还包括告警分析的流程方法。首先，判断各所述告警特征信息相关联的筛选条件是否关联有预设分析结论；若是，则根据所述预设分析结论定位该告警特征信息的故障来源；若否，则脱离所述内容分发网络进行本地验证以定位该告警特征信息的故障来源。举例来说，预设分析结论为：源站不可达，则该处原因系源站故障导致。优选的，当告警特征信息中的特定状态码的数量达到设置的阈值时，才进行结论分析，这里，特定状态码为错误状态码中指定的一种，或自定义编写的一种。

当没有找到匹配的预设分析结论时，从原始访问日志中去掉CDN网络代理相关的信息重新提取告警特征信息，即脱离CDN网络进行本地验证，若验证结果与原始告警结果匹配，则可确定告警结论。具体为：

提取该告警特征信息中的源站IP、客户端标识信息及网络地址样式等预设验证信息，据以计算错误状态码。提取该告警特征信息中的错误状态码，与所述计算的错误状态码比对。若比对结果一致，则定位该告警特征信息的故障来源不在于所述内容分发网络。若比对结果不一致，则定位该告警特征信息的故障来源在于所述内容分发网络。举例来说，提取告警特征信息中的源站IP、错误状态码、URL样式以及User-agent(UA，客户端标志信息)等信息。构建curl命令，参数为“URL+UA+源站IP”，执行后返回结果为计算的错误状态码。对比该错误状态码与告警特征信息中提取的错误状态码，一致则认为错误结果为非CDN网络固有的，反之，则为受CDN网络影响。

请参阅图4，与方法实施例原理相似的是，本发明提供一种内容分发网络的告警管理系统1，包括：访问日志采集模块11、告警特征信息提取模块12和筛选规则建立模块13。由于方法实施例中的技术特征也可以应用与本系统实施例，因而不再重复赘述。

访问日志采集模块11，可以设置在服务端或客户端，用于采集所述内容分发网络中运行的各节点服务器的访问日志。告警特征信息提取模块12，可以设置在服务端或客户端，用于从各所述访问日志的内容中提取各告警记录，将各所述告警记录表示为一或多个特征字段及与所述一或多个特征字段对应的特征字段信息的形式作为各告警特征信息。筛选规则建立模块13，优选为设置在服务端，用于建立与各所述告警特征信息相关联的筛选条件并加以存储，所述筛选条件包括：用于与所述一或多个特征字段及与所述一或多个特征字段对应的特征字段信息比对的一或多个预设字段及与所述一或多个预设字段对应的预设字段信息。

综上所述，本发明所采用的自动化告警管理技术，能够在进行告警分析之前，快速筛选出海量无用、重复、抖动的告警；能够加快处理速度，快速定位缩小告警分析的范围，减轻机器负担，同时提升告警实时性，为第一时间发现故障创造了有力的支持。

丰富的自动化处理规则，以及严谨而灵活的各预设项使得告警管理的适配范围大大增加，从而提高告警监测的准确性、实时性，降低运维成本，有效克服了现有技术中的种种缺点而具高度产业利用价值。

上述实施例仅例示性说明本发明的原理及其功效，而非用于限制本发明。任何熟悉此技术的人士皆可在不违背本发明的精神及范畴下，对上述实施例进行修饰或改变。因此，举凡所属技术领域中具有通常知识者在未脱离本发明所揭示的精神与技术思想下所完成的一切等效修饰或改变，仍应由本发明的权利要求所涵盖。

Claims (14)

1.一种内容分发网络的告警管理方法，其特征在于，包括：

采集所述内容分发网络中运行的各节点服务器的访问日志；

从各所述访问日志的内容中提取各告警记录，将各所述告警记录表示为一或多个特征字段及与所述一或多个特征字段对应的特征字段信息的形式作为各告警特征信息；

建立与各所述告警特征信息相关联的筛选条件并加以存储，所述筛选条件包括：用于与所述一或多个特征字段及与所述一或多个特征字段对应的特征字段信息比对的一或多个预设字段及与所述一或多个预设字段对应的预设字段信息。

2.根据权利要求1所述的内容分发网络的告警管理方法，其特征在于，各所述告警特征信息中至少包括：业务类型字段、及与所述业务类型字段对应的业务类型字段信息。

3.根据权利要求1所述的内容分发网络的告警管理方法，其特征在于，所述预设字段信息包括：信息量值、信息量值范围、文字信息、和文字信息集合中的一种或多种。

4.根据权利要求3所述的内容分发网络的告警管理方法，其特征在于，各所述筛选条件还关联有各预设筛选次数值，所述方法还包括：当满足各所述筛选条件的情况的发生次数达到各对应的所述预设筛选次数值时，将对应的各所述告警特征信息筛选出来。

5.根据权利要求1所述的内容分发网络的告警管理方法，其特征在于，还包括以下步骤中的一种或多种：

1)建立筛选白名单，所述筛选白名单中包含至少一条所述筛选条件，对满足所述筛选白名单中的筛选条件的告警特征信息自动标注；

2)建立筛选黑名单，所述筛选黑名单中包含至少一条所述筛选条件，对满足所述筛选黑名单中的筛选条件的告警特征信息自动排除。

6.根据权利要求1至5中任一所述的内容分发网络的告警管理方法，其特征在于，还包括：重新获取所述内容分发网络中运行的各节点服务器的访问日志，据以筛选出满足各所述筛选条件的各告警特征信息。

7.根据权利要求6所述的内容分发网络的告警管理方法，其特征在于，还包括以下步骤中的一种或多种：

1)所述重新获取所述内容分发网络中运行的各节点服务器的访问日志是以周期为单位执行的，并对所述周期内的各所述访问日志按所属的应用进行分组；

2)根据预设噪点信息范围，排除落入所述预设噪点信息范围内的特征字段信息所属的告警特征信息。

8.根据权利要求7所述的内容分发网络的告警管理方法，其特征在于，所述特征字段信息由数字构成内容，其所对应的预设特征字段包括：时间字段、状态码字段、和客户ID号字段中的一种或多种。

9.根据权利要求7所述的内容分发网络的告警管理方法，其特征在于，在自动排除满足所述筛选黑名单中的筛选条件的告警特征信息后，还包括：

判断余下的各告警特征信息是否为首次出现；

若是，则将该告警特征信息标记为已出现，并进行告警分析；

若否，则将出现次数达到预设梯度值的各所述告警特征信息筛选出，并进行告警分析。

10.根据权利要求9所述的内容分发网络的告警管理方法，其特征在于，所述预设梯度值为所述周期的时间长度与预设整数的乘积。

11.根据权利要求9所述的内容分发网络的告警管理方法，其特征在于，所述告警分析包括：

判断各所述告警特征信息相关联的筛选条件是否关联有预设分析结论；

若是，则根据所述预设分析结论定位该告警特征信息的故障来源；

若否，则脱离所述内容分发网络进行本地验证以定位该告警特征信息的故障来源。

12.根据权利要求11所述的内容分发网络的告警管理方法，其特征在于，所述本地验证包括：

提取该告警特征信息中的预设验证信息，据以计算错误状态码；

提取该告警特征信息中的错误状态码，与所述计算的错误状态码比对；

若比对结果一致，则定位该告警特征信息的故障来源不在于所述内容分发网络；

若比对结果不一致，则定位该告警特征信息的故障来源在于所述内容分发网络。

13.根据权利要求12所述的内容分发网络的告警管理方法，其特征在于，所述预设验证信息包括：源站IP、客户端标识信息及网络地址样式。

14.一种内容分发网络的告警管理系统，其特征在于，包括：

访问日志采集模块，用于采集所述内容分发网络中运行的各节点服务器的访问日志；

告警特征信息提取模块，用于从各所述访问日志的内容中提取各告警记录，将各所述告警记录表示为一或多个特征字段及与所述一或多个特征字段对应的特征字段信息的形式作为各告警特征信息；

筛选规则建立模块，用于建立与各所述告警特征信息相关联的筛选条件并加以存储，所述筛选条件包括：用于与所述一或多个特征字段及与所述一或多个特征字段对应的特征字段信息比对的一或多个预设字段及与所述一或多个预设字段对应的预设字段信息。