CN115168042A - 监控集群的管理方法及装置、计算机存储介质、电子设备 - Google Patents
监控集群的管理方法及装置、计算机存储介质、电子设备 Download PDFInfo
- Publication number
- CN115168042A CN115168042A CN202210844967.2A CN202210844967A CN115168042A CN 115168042 A CN115168042 A CN 115168042A CN 202210844967 A CN202210844967 A CN 202210844967A CN 115168042 A CN115168042 A CN 115168042A
- Authority
- CN
- China
- Prior art keywords
- monitoring
- cluster
- data
- service
- index
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/3006—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is distributed, e.g. networked systems, clusters, multiprocessor systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3051—Monitoring arrangements for monitoring the configuration of the computing system or of the computing system component, e.g. monitoring the presence of processing resources, peripherals, I/O links, software programs
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3442—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for planning or managing the needed capacity
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Quality & Reliability (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Computer Hardware Design (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本公开涉及计算机技术领域,提供了一种监控集群的管理方法、监控集群的管理装置、计算机存储介质、电子设备,其中,监控集群的管理方法包括:接收预设时段内对于所述业务集群的监控数据;所述监控数据包括多个监控指标项对应的监控指标值;根据所述监控数据预测得到所述业务集群在未来时段内的监控数据预测值;基于所述监控数据预测值,动态调整所述监控集群在所述未来时段内的调度配置信息。本公开能够合理规划不同时段需要采集的不同监控指标项,降低监控集群的资源占用,降低监控系统的压力。
Description
技术领域
本公开涉及计算机技术领域,特别涉及一种监控集群的管理方法、监控集群的管理装置、计算机存储介质及电子设备。
背景技术
以容器、微服务等为代表的云原生技术栈催生了新一代的云计算体系,但新的技术也带来了新的挑战,容器化和微服务化大幅增加了云原生应用集群监控的复杂度。
相关技术中,一般是定时采集全量监控指标项对应的监控数据,进而,根据监控数据来对业务集群的运行状态进行评估。然而,上述方案在业务高峰时段可能会导致监控集群数据规模庞大,从而使得监控系统压力过大。
鉴于此,本领域亟需开发一种新的监控集群的管理方法及装置。
需要说明的是,上述背景技术部分公开的信息仅用于加强对本公开的背景的理解。
发明内容
本公开的目的在于提供一种监控集群的管理方法、监控集群的管理装置、计算机存储介质及电子设备,进而至少在一定程度上克服由于相关技术的限制而导致的监控系统压力过大的技术问题。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
根据本公开的第一方面,提供一种监控集群的管理方法,所述监控集群用于对业务集群的运行状态进行监控,所述方法包括:所述监控集群用于对业务集群的运行状态进行监控,所述方法包括:接收预设时段内对于所述业务集群的监控数据;所述监控数据包括多个监控指标项对应的监控指标值;根据所述监控数据预测得到所述业务集群在未来时段内的监控数据预测值;基于所述监控数据预测值,动态调整所述监控集群在所述未来时段内的调度配置信息;其中,所述调度配置信息包括以下任意一个或多个:所述监控集群的数目、待监控指标项和数据采集频率。
在本公开的示例性实施例中,在接收预设时段内对于所述业务集群的监控数据之后,所述方法还包括:对所述监控数据进行数据清洗;对所述数据清洗后的监控数据进行数据聚合处理。
在本公开的示例性实施例中,所述根据所述监控数据预测得到所述业务集群在未来时段内的监控数据预测值,包括:将所述监控数据输入至时序预测模型中,根据所述时序预测模型的输出,得到所述业务集群在所述未来时段内的监控数据预测值;其中,所述时序预测模型用于根据所述监控数据预测所述业务集群在未来时段内的监控数据预测值。
在本公开的示例性实施例中,所述基于所述监控数据预测值,动态调整所述监控集群在所述未来时段内的调度配置信息,包括:基于所述监控数据预测值,识别所述未来时段内的业务高峰时刻和业务低峰时刻;动态调整所述监控集群在所述业务高峰时刻和所述业务低峰时刻的调度配置信息。
在本公开的示例性实施例中,所述未来时段包含多个未来时刻;所述监控数据预测值包括所述多个监控指标项对应的监控指标预测值;所述基于所述监控数据预测值,识别所述未来时段内的业务高峰时刻和业务低峰时刻,包括:将各所述未来时刻的每个监控指标预测值分别与每个监控指标项的指标阈值进行数值比较;当所述监控指标预测值大于所述预设指标阈值时,将所述监控指标预测值所属的监控指标项确定为目标监控指标项;响应于所述目标监控指标项的数目大于指标项阈值,确定所述未来时刻为所述业务高峰时刻;响应于所述目标监控指标项的数目不大于所述指标项阈值,确定所述未来时刻为所述业务低峰时刻。
在本公开的示例性实施例中,在确定所述未来时刻为所述业务高峰时刻之后,所述动态调整所述监控集群在所述业务高峰时刻的调度配置信息,包括:在所述业务高峰时刻之前的预设时长内,预先对所述监控集群进行扩容处理,以增加所述监控集群的数目;调整所述扩容处理之后的监控集群在所述业务高峰时刻的待监控指标项,以使所述待监控指标项的数目少于所述多个监控指标项的数目;调整所述扩容处理之后的监控集群在所述业务高峰时刻的数据采集频率,以使所述数据采集频率高于所述监控数据的采集频率。
在本公开的示例性实施例中,在确定所述未来时刻为所述业务低峰时刻之后,所述动态调整所述监控集群在所述业务低峰时刻的调度配置信息,包括:调整所述监控集群在所述业务低峰时刻的数据采集频率,以使所述数据采集频率低于所述监控数据的采集频率。
根据本公开的第二方面,提供一种监控集群的管理装置,所述监控集群用于对业务集群的运行状态进行监控,所述装置包括:数据接收模块,用于接收预设时段内对于所述业务集群的监控数据;所述监控数据包括多个监控指标项对应的监控指标值;数据预测模块,用于根据所述监控数据预测得到所述业务集群在未来时段内的监控数据预测值;调度配置模块,用于基于所述监控数据预测值,动态调整所述监控集群在所述未来时段内的调度配置信息;其中,所述调度配置信息包括以下任意一个或多个:所述监控集群的数目、待监控指标项和数据采集频率。
根据本公开的第三方面,提供一种计算机存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面所述的监控集群的管理方法。
根据本公开的第四方面,提供一种电子设备,包括:处理器;以及存储器,用于存储所述处理器的可执行指令;其中,所述处理器配置为经由执行所述可执行指令来执行上述第一方面所述的监控集群的管理方法。
由上述技术方案可知,本公开示例性实施例中的监控集群的管理方法、监控集群的管理装置、计算机存储介质及电子设备至少具备以下优点和积极效果:
在本公开的一些实施例所提供的技术方案中,一方面,接收预设时段内对于所述业务集群的监控数据,根据所述监控数据预测得到所述业务集群在未来时段内的监控数据预测值,从而能够预先了解到业务集群在未来时段的运行情况,解决相关技术中在业务集群发生变化之后才对监控集群的调度配置信息进行更改所导致的部分业务集群监控不到的问题,降低业务集群的运行风险。另一方面,基于监控数据预测值,动态调整监控集群在未来时段内的调度配置信息(调度配置信息包括以下一个或多个:监控集群的数目、待监控指标项和数据采集频率),能够根据监控数据预测值合理规划监控集群的调度配置信息,避免相关技术中无论在何种情况下都以固定的调度配置信息来调度监控集群所导致的智能化程度较低且在业务高峰时段导致监控系统压力过大的问题,减轻监控系统的压力。
本公开应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1示出本公开实施例中监控集群的管理方法的流程示意图;
图2示出本公开实施例中基于监控数据预测值,动态调整监控集群在未来时段内的调度配置信息的流程示意图;
图3示出本公开实施例中基于监控数据预测值,识别未来时段内的业务高峰时刻和业务低峰时刻的流程示意图;
图4示出本公开实施例中如何动态调整监控集群在业务高峰时刻的调度配置信息的流程示意图;
图5示出本公开实施例中监控集群的管理方法的整体流程示意图;
图6示出本公开实施例中监控集群的管理方法的整体框图;
图7示出本公开示例性实施例中监控集群的管理装置的结构示意图;
图8示出本公开示例性实施例中电子设备的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本公开的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。
本说明书中使用用语“一个”、“一”、“该”和“所述”用以表示存在一个或多个要素/组成部分/等;用语“包括”和“具有”用以表示开放式的包括在内的意思并且是指除了列出的要素/组成部分/等之外还可存在另外的要素/组成部分/等;用语“第一”和“第二”等仅作为标记使用,不是对其对象的数量限制。
此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。
在云原生场景下,为了满足可观测性的需求,监控系统通常会设计大量的监控指标项。现有方案中,一般需要定时采集全量的监控指标项,而在业务高峰期,全量指标采集会导致监控指标值规模庞大,磁盘占用率高,监控系统压力过大的问题。
同时,在业务高峰期,随着业务集群的扩容,监控集群也需要进行扩容以应对监控指标值的快速增长。现有方案中,一般是在业务集群扩容之后再计算所需的监控集群数量,当现有的监控集群数量不满足时再进行扩容。然而,上述方式在业务集群快速增加时,监控集群的适配存在滞后性,并且由于扩容需要一定的耗时,导致在监控集群扩容的过程中导致监控空白区的出现,从而对网元类监控要求较高的业务带来一定的风险。
在本公开的实施例中,首先提供了一种监控集群的管理方法,至少在一定程度上克服相关技术中监控系统压力过大的缺陷。
图1示出本公开实施例中监控集群的管理方法的流程示意图,该监控集群的管理方法的执行主体可以是对监控集群进行管理的服务器(以下简称为集群管理端)。
参考图1,根据本公开的一个实施例的监控集群的管理方法包括以下步骤:
步骤S110,接收预设时段内对于业务集群的监控数据;监控数据包括多个监控指标项对应的监控指标值;
步骤S120,根据监控数据预测得到业务集群在未来时段内的监控数据预测值;
步骤S130,基于监控数据预测值,动态调整监控集群在未来时段内的调度配置信息。
在图1所示实施例所提供的技术方案中,一方面,接收预设时段内对于所述业务集群的监控数据,根据所述监控数据预测得到所述业务集群在未来时段内的监控数据预测值,从而能够预先了解到业务集群在未来时段的运行情况,解决相关技术中在业务集群发生变化之后才对监控集群的调度配置信息进行更改所导致的部分业务集群监控不到的问题,降低业务集群的运行风险。另一方面,基于监控数据预测值,动态调整监控集群在未来时段内的调度配置信息(调度配置信息包括以下一个或多个:监控集群的数目、待监控指标项和数据采集频率),能够根据监控数据预测值合理规划监控集群的调度配置信息,避免相关技术中无论在何种情况下都以固定的调度配置信息来调度监控集群所导致的智能化程度较低且在业务高峰时段导致监控系统压力过大的问题,减轻监控系统的压力。
以下对图1中的各个步骤的具体实现过程进行详细阐述:
集群就是指一组(若干个)相互独立的计算机,利用高速通信网络组成的一个较大的计算机服务系统,每个集群节点(即集群中的每台计算机)都是运行各自服务的独立服务器。这些服务器之间可以彼此通信,协同向用户提供应用程序,系统资源和数据,并以单一系统的模式加以管理。当用户请求集群系统时,集群给用户的感觉就是一个单一独立的服务器,而实际上用户请求的是一组集群服务器。
本公开中的业务集群用于接收用户终端发送的网络请求,并为用户终端提供相应的网络服务。
本公开中的监控集群用于对上述业务集群的运行状态进行监控,以便于当业务集群运行异常时对其进行及时替换,确保用户端的相关业务正常运行。
在步骤S110之前,服务发现机制可以对业务集群进行服务发现,并将各业务集群的pod信息汇总后发送给集群管理端,进而,集群管理端可以根据上述pod信息调度监控集群,以使监控集群以预设的数据采集频率(例如:每10秒采集一次,可以根据实际情况自行设定,本公开对此不作特殊限定)采集业务集群在预设时段内的监控指标值,从而实现对业务集群的监控。
示例性的,上述预设时段可以是24小时,可以根据实际情况自行设定,本公开对此不作特殊限定。
上述监控数据可以是多个监控指标项对应的监控指标值,示例性的,上述多个监控指标项可以包括每个业务集群的CPU(central processing unit,中央处理器)占有量,内存占有量、磁盘占有量、并发连接数、负载数量、业务流量等,可以根据实际情况自行设定,本公开对此不作特殊限定。
在监控集群采集到业务集群在上述预设时段内的监控数据之后,可以将上述监控数据发送至上述集群管理端。
进而,可以进入步骤S110中,接收预设时段内对于业务集群的监控数据。
本步骤中,集群管理端可以接收上述监控数据,在接收到上述监控数据之后,集群管理端可以对上述监控数据进行预处理,以去除监控数据中的无效数据,提升数据可用性。
示例性的,集群管理端可以先对上述监控数据进行数据清洗,数据清洗用于发现并纠正数据文件中可识别错误,包括检查数据一致性,处理无效值和缺失值等。数据清洗有四个关键点:完整性(即检测单条数据是否存在空值,统计的字段是否完善)、全面性(观赏某一列的全部数值,可以通过最大值、最小值、平均值、数据定义等来判断数据是否全面)、合法性(数值的类型、内容、大小是否符合设定的预想、唯一性(数据是否重复记录),清洗的标准就是使得数据干净、连续。
在对监控数据进行数据清洗之后,集群管理端还可以对一些细粒度的监控数据进行数据聚合处理,示例性的,以监控指标项为CPU占有量为例进行说明,则假设CPU包含多个分片(例如:分片1和分片2),而业务集群在分片1上m时刻的CPU占用量为20%,在分片2上m时刻的CPU占用量为30%,从而,可以对上述两个CPU占有量(20%和30%)进行数据聚合处理(例如:求取二者的均值),以得到业务集群在m时刻的CPU占有量。
通过对数据清洗后的监控数据进行数据聚合处理,能够将监控集群采集到的细粒度的分片数据聚合为可以表征业务集群的整体运行状态的粗粒度数据。
在对上述监控数据进行预处理之后,可以进入步骤S120中。
在步骤S120中,根据监控数据预测得到业务集群在未来时段内的监控数据预测值。
本步骤中,可以将上述预处理之后的监控数据输入至时序预测模型(例如:NeuralProphet模型)中,以使上述时序预测模型根据上述监控数据预测出业务集群在未来时段内的监控数据预测值。
其中,NeuralProphet是一个可分解的时间序列模型,用于基于神经网络对时间序列数据进行建模。该库使用PyTorch作为后端。其组成部分有趋势、季节性、自回归、特殊事件、未来回归项和滞后回归项,该模型将神经网络的可扩展性与AR模型(自回归网络,是一个单层网络,经过训练可以模拟时间序列信号中的AR过程,但规模比传统模型大得多)的可解释性结合起来,提高其准确性和扩展性。
具体的,在将上述监控数据输入上述NeuralProphet模型之后,NeuralProphet模型可以基于以下公式1预测上述业务集群在未来时段内的监控数据预测值:
y(t)=T(t)+S(t)+E(t)+F(t)+A(t)+L(t) 公式1
其中,y(t)表示业务集群在t时刻的监控数据预测值;
T(t)表示时间t的趋势,即时间序列在非周期上面的变化趋势,示例性的,可以使用变化点来对趋势进行建模;
S(t)表示时间t的季节性影响,示例性的,可以采用傅里叶项进行建模,来处理数据的多种季节性;
E(t)表示时间t的事件和假日效应,该项为模型的协变量,示例性的,可以采用单变量单权重的方式进行建模;
F(t)表示已知外生变量在时间t的回归效应,该项也为模型的协变量,可以采用单变量单权重的方式进行建模;
A(t)表示过去观察的时间t的自回归效应,该项可以采用AR-Net来对进行预测;
L(t)表示t时刻外生变量之后观测的回归效应,该项可以使用前馈神经网络来进行预测。
示例性的,在将业务集群在预设时段内的监控数据输入上述NeuralProphet模型之后,NeuralProphet模型可以根据上述监控数据依次预测出T(t)、S(t)、E(t)、F(t)、A(t)和L(t),进而,根据基于上述公式1预测出t时刻的监控数据预测值y(t)。
示例性的,以上述未来时段为上述预设时段之后的48小时为例进行说明,则可以得到上述业务集群在上述48小时内每隔10秒的监控数据预测值。
在预测得到业务集群在未来时段内的监控数据预测之后,可以进入步骤S130中,基于监控数据预测值,动态调整监控集群在未来时段内的调度配置信息。
本步骤中,上述调度配置信息可以包括监控集群的数目(即用于监控业务集群的监控集群的数目)、待监控指标项(即监控集群在未来时段内需要采集的监控指标)和数据采集频率(即单位时间内采集多少个数据样本)。
参考图2,图2示出本公开实施例中基于监控数据预测值,动态调整监控集群在未来时段内的调度配置信息的流程示意图,包含步骤S201-步骤S202:
在步骤S201中,基于监控数据预测值,识别未来时段内的业务高峰时刻和业务低峰时刻。
本步骤中,上述未来时段可以包含多个未来时刻,以数据采集频率为10秒为例进行说明,则相邻两个未来时刻之间间隔10秒。并且,每个未来时刻的监控数据预测值包括多个监控指标项对应的多个监控指标预测值。
参考图3,图3示出本公开实施例中基于监控数据预测值,识别未来时段内的业务高峰时刻和业务低峰时刻的流程示意图,包含步骤S301-步骤S304:
在步骤S301中,将各未来时刻的多个监控指标预测值分别与每个监控指标项的指标阈值进行数值比较。
本步骤中,可以将各未来时刻的每个监控指标预测值分别与其所属监控指标项的指标阈值进行数值比较,以确定监控指标预测值与指标阈值之间的数值大小关系。
以上述多个监控指标项包括CPU占有量、并发连接数和业务流量为例进行说明:
假设n时刻的CPU占有量的监控指标预测值为40%,而CPU占有量的指标阈值为50%,则可以确定出:业务集群在n时刻的CPU占有量的监控指标预测值小于指标阈值;
假设n时刻的并发连接数的监控指标预测值为9,而并发连接数的指标阈值为5,则可以确定出:业务集群在n时刻的并发连接数大于指标阈值;
假设n时刻的业务流量的监控数据预测值为1024Mb,而业务流量的指标阈值为1000Mb,则可以确定出:业务集群在n时刻的业务流量大于指标阈值。
在得到上述数值比较结果之后,可以进入步骤S302中,当监控指标预测值大于指标阈值时,将监控指标预测值所属的监控指标项确定为目标监控指标项。
本步骤中,参照上述步骤S301的相关解释,可以将n时刻的并发连接数和业务流量两个监控指标项确定为上述目标监控指标项,即目标监控指标项的数目为2。
在步骤S303中,响应于目标监控指标项的数目大于指标项阈值,确定未来时刻为业务高峰时刻。
本步骤中,以上述指标项阈值为1为例进行说明,则可以确定出上述目标监控指标项的数目大于指标项阈值,从而,可以将未来时刻n确定为业务高峰时刻。
在步骤S304中,响应于目标监控数据预测值的数目不大于指标项阈值,确定未来时刻为业务低峰时刻。
本步骤中,仍以上述多个监控指标项包括CPU占有量、并发请求数和业务流量为例进行说明:
假设n时刻的CPU占有量的监控指标预测值为40%,而CPU占有量的指标阈值为50%,则可以确定出:业务集群在n时刻的CPU占有量的监控指标预测值小于指标阈值;
假设n时刻的并发连接数的监控指标预测值为3,而并发连接数的指标阈值为5,则可以确定出:业务集群在n时刻的并发连接数小于指标阈值;
假设n时刻的业务流量的监控指标预测值为800Mb,而业务流量的指标阈值为1000Mb,则可以确定出:业务集群在n时刻的业务流量小于指标阈值。
从而,可以确定出n时刻的监控数据预测值均不大于其所属监控指标项的指标阈值,即n时刻的监控指标预测值中存在0个目标监控数据预测值,而0小于上述指标项阈值1,从而,可以确定出未来时刻n为业务低峰时刻。
在确定出未来时段内的业务高峰时刻和业务低峰时刻之后,可以进入步骤S202中,动态调整监控集群在业务高峰时刻和业务低峰时刻的调度配置信息。
本步骤中,以下先结合图4对本公开中如何动态调整监控集群在业务高峰时刻的调度配置信息进行说明:
参考图4,图4示出本公开实施例中如何动态调整监控集群在业务高峰时刻的调度配置信息的流程示意图,包含步骤S401-步骤S403:
在步骤S401中,在业务高峰时刻之前的预设时长内,预先对监控集群进行扩容处理,以提升监控集群的数目。
本步骤中,可以在上述业务高峰时刻到来之前的预设时长内,预先对监控集群进行扩容处理,示例性的,上述预设时长可以根据监控集群扩容过程所需的时长来确定,以上述监控集群扩容所需的时长为5秒为例进行说明,则上述预设时长可以设置为5秒,或6秒,可以根据实际情况自行设定,本公开对此不作特殊限定。
从而,本公开能够解决相关技术中在业务高峰时刻到来之后监测到业务集群扩容时才会对监控集群进行扩容所导致的部分业务集群存在监控空白区的问题,降低业务集群因监控不及时而未能发现其异常情况的风险。
在步骤S402中,调整扩容处理之后的监控集群在业务高峰时刻的待监控指标项,以使待监控指标项的数目少于多个监控指标项的数目。
本步骤中,针对业务高峰时刻,可以减少监控集群需要采集的待监控指标项,示例性的,可以将业务高峰时刻监控集群需要采集的待监控指标项调整为:业务流量,从而,使得监控集群无需采集与业务流量指标无关的其他指标值,降低资源占用,降低监控系统的压力。
在步骤S403中,调整扩容处理之后的监控集群在业务高峰时刻的数据采集频率,以使数据采集频率高于监控数据的采集频率。
本步骤中,在对监控集群进行扩容处理之后,可以提高扩容处理之后的监控集群在业务高峰时刻的数据采集频率。示例性的,可以将其数据采集频率调整为每5秒采集一次,以使该数据采集频率高于上述监控指标值的采集频率。从而,能够在业务高峰时刻密切监控业务集群的运行状态,以提升对相关紧急情况的处理速度。
以下对本公开中如何动态调整监控集群在业务低峰时刻的调度配置信息进行说明:
示例性的,在确定出未来时刻为业务低峰时刻之后,一方面,可以将监控集群需要采集的待监控指标项调整为:除并发连接数之外的其他监控指标项,从而,使得监控集群无需采集业务低峰时刻的不必要指标,降低监控系统的压力。
另一方面,还可以降低监控集群的数据采集频率,以使监控集群的数据采集频率低于上述监控指标值的采集频率,从而,能够在业务低峰时刻避免监控集群的过度监控,实现在保证业务集群在可控范围内正常运行的前提下,降低监控集群的资源占用及系统压力。
基于以上技术方案,本公开具有以下技术效果:
第一,通过预测未来时段内业务集群的业务高峰时刻和业务低峰时刻,然后根据预测结果合理的规划不同时段需要采集的监控指标项和数据采集频率,能够减少磁盘资源占用,减低监控系统的压力;
第二,能够根据预测结果提前对监控集群进行扩容以应对业务规模的激增,避免监控空白区,减小系统风险。
参考图5,图5示出本公开实施例中监控集群的管理方法的整体流程示意图,包含步骤S501-步骤S507:
在步骤S501中,监控系统采集一定时间段内业务集群负载相关的监控数据(以秒或分钟为周期),并传输给预测模块;
在步骤S502中,预测模块对监控数据进行数据清洗、数据聚合等预处理,提高数据的有效性;
在步骤S503中,预测模块根据预处理后的监控数据,采用NeuralProphet模型对未来时段内的业务高峰时刻和业务低峰时刻进行预测,并将预测结果传递给监控任务规划模块;
在步骤S504中,监控任务规划模块根据预测结果,动态调整监控集群在未来时段内的调度配置信息,例如:业务低峰时段降低采集频率、不采集并发量等指标,业务高峰时段提高采集频率,仅采集业务流量等相关指标;
在步骤S505中,监控任务规划模块根据预测结果提前规划监控节点的数目,并在业务高峰时刻前对监控集群进行扩容;
在步骤S506中,监控任务规划模块收集监控节点信息和需要监控的业务集群的信息,为扩容后的监控集群分配监控任务,监控任务包括需要监控的对象及需要采集的待监控指标项,并将监控任务下发给监控集群;
在步骤S507中,监控集群接收并执行监控任务。
参考图6,图6示出本公开实施例中监控集群的管理方法的整体框图:
服务发现模块通过服务发现机制对业务集群进行探测,将各业务集群的pod信息汇总后传输给监控任务规划模块;
监控系统包含多个监控节点,用于接收监控任务规划模块的调度,采集业务集群的监控数据,将数据传输给运维平台和时序预测模块,以及,将自身的监控节点信息上报至监控任务规划模块;
时序预测模块对接收到的监控数据进行预处理,进而,基于NeuralProphet模型对业务集群在未来时段内的业务高峰时段和业务低峰时段进行预测,并将预测结果传输给监控任务规划模块;
监控任务规划模块用于接收业务集群和监控集群的相关信息,根据预测模块传输过来的预测结果规划未来时段内监控集群的监控任务(包括需要采集的待监控指标项及其数据采集频率等),并将监控任务分配给监控集群,以及,在业务高峰时刻到来之前预先对监控集群进行扩容。
需要说明的是,本公开可以应用于云原生网元集群(网元集群,是指为增强服务器对应用服务的响应和处理能力,将一个或多个服务器的全部软硬件系统资源划分为处理同一个应用服务的若干个网元,由多个网元组成网元集群)的监控运维场景、边缘云等资源稀缺场景下的监控运维场景中,以减少无效的监控数据,提升监控系统的资源利用率,避免因为业务集群规模激增,监控系统集群扩容不及时带来的监控空白区,降低业务风险,并且,保障云原生网元集群监控数据的准确完整。
本公开还提供了一种监控集群的管理装置,图7示出本公开示例性实施例中监控集群的管理装置的结构示意图;如图7所示,监控集群的管理装置700可以包括数据接收模块710、数据预测模块720和调度配置模块730。其中:
数据接收模块710,用于接收预设时段内对于所述业务集群的监控数据;所述监控数据包括多个监控指标项对应的监控指标值;
数据预测模块720,用于根据所述监控数据预测得到所述业务集群在未来时段内的监控数据预测值;
调度配置模块730,用于基于所述监控数据预测值,动态调整所述监控集群在所述未来时段内的调度配置信息;其中,所述调度配置信息包括以下任意一个或多个:所述监控集群的数目、待监控指标项和数据采集频率。
在本公开的示例性实施例中,在接收预设时段内对于所述业务集群的监控数据之后,数据接收模块710,被配置为:
对所述监控数据进行数据清洗;对所述数据清洗后的监控数据进行数据聚合处理。
在本公开的示例性实施例中,数据预测模块720,被配置为:
将所述监控数据输入至时序预测模型中,根据所述时序预测模型的输出,得到所述业务集群在所述未来时段内的监控数据预测值;其中,所述时序预测模型用于根据所述监控数据预测所述业务集群在未来时段内的监控数据预测值。
在本公开的示例性实施例中,调度配置模块730,被配置为:
基于所述监控数据预测值,识别所述未来时段内的业务高峰时刻和业务低峰时刻;动态调整所述监控集群在所述业务高峰时刻和所述业务低峰时刻的调度配置信息。
在本公开的示例性实施例中,所述未来时段包含多个未来时刻;所述监控数据预测值包括所述多个监控指标项对应的监控指标预测值;调度配置模块730,被配置为:
将各所述未来时刻的每个监控指标预测值分别与每个监控指标项的指标阈值进行数值比较;当所述监控指标预测值大于所述预设指标阈值时,将所述监控指标预测值所属的监控指标项确定为目标监控指标项;响应于所述目标监控指标项的数目大于指标项阈值,确定所述未来时刻为所述业务高峰时刻;响应于所述目标监控指标项的数目不大于所述指标项阈值,确定所述未来时刻为所述业务低峰时刻。
在本公开的示例性实施例中,在确定所述未来时刻为所述业务高峰时刻之后,调度配置模块730,被配置为:
在所述业务高峰时刻之前的预设时长内,预先对所述监控集群进行扩容处理,以增加所述监控集群的数目;调整所述扩容处理之后的监控集群在所述业务高峰时刻的待监控指标项,以使所述待监控指标项的数目少于所述多个监控指标项的数目;调整所述扩容处理之后的监控集群在所述业务高峰时刻的数据采集频率,以使所述数据采集频率高于所述监控数据的采集频率。
在本公开的示例性实施例中,在确定所述未来时刻为所述业务低峰时刻之后,调度配置模块730,被配置为:
调整所述监控集群在所述业务低峰时刻的数据采集频率,以使所述数据采集频率低于所述监控数据的采集频率。
上述监控集群的管理装置中各模块的具体细节已经在对应的监控集群的管理方法中进行了详细的描述,因此此处不再赘述。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
此外,尽管在附图中以特定顺序描述了本公开中方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施方式的方法。
本申请还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读存储介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现如上述实施例中所述的方法。
此外,在本公开实施例中还提供了一种能够实现上述方法的电子设备。
所属技术领域的技术人员能够理解,本公开的各个方面可以实现为系统、方法或程序产品。因此,本公开的各个方面可以具体实现为以下形式,即:完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等),或硬件和软件方面结合的实施方式,这里可以统称为“电路”、“模块”或“系统”。
下面参照图8来描述根据本公开的这种实施方式的电子设备800。图8显示的电子设备800仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图8所示,电子设备800以通用计算设备的形式表现。电子设备800的组件可以包括但不限于:上述至少一个处理单元810、上述至少一个存储单元820、连接不同系统组件(包括存储单元820和处理单元810)的总线830以及显示单元840。
其中,所述存储单元存储有程序代码,所述程序代码可以被所述处理单元810执行,使得所述处理单元810执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如,所述处理单元810可以执行如图1中所示的:步骤S110,接收预设时段内对于所述业务集群的监控数据;所述监控数据包括多个监控指标项对应的监控指标值;步骤S120,根据所述监控数据预测得到所述业务集群在未来时段内的监控数据预测值;步骤S130,基于所述监控数据预测值,动态调整所述监控集群在所述未来时段内的调度配置信息。
存储单元820可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)8201和/或高速缓存存储单元8202,还可以进一步包括只读存储单元(ROM)8203。
存储单元820还可以包括具有一组(至少一个)程序模块8205的程序/实用工具8204,这样的程序模块8205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线830可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备800也可以与一个或多个外部设备900(例如键盘、指向设备、蓝牙设备等)通信,还可与一个或者多个使得用户能与该电子设备800交互的设备通信,和/或与使得该电子设备800能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口850进行。并且,电子设备800还可以通过网络适配器860与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器860通过总线830与电子设备800的其它模块通信。应当明白,尽管图中未示出,可以结合电子设备800使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其他实施例。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由权利要求指出。
Claims (10)
1.一种监控集群的管理方法,其特征在于,所述监控集群用于对业务集群的运行状态进行监控,所述方法包括:
接收预设时段内对于所述业务集群的监控数据;所述监控数据包括多个监控指标项对应的监控指标值;
根据所述监控数据预测得到所述业务集群在未来时段内的监控数据预测值;
基于所述监控数据预测值,动态调整所述监控集群在所述未来时段内的调度配置信息;其中,所述调度配置信息包括以下任意一个或多个:所述监控集群的数目、待监控指标项和数据采集频率。
2.根据权利要求1所述的方法,其特征在于,在接收预设时段内对于所述业务集群的监控数据之后,所述方法还包括:
对所述监控数据进行数据清洗;
对所述数据清洗后的监控数据进行数据聚合处理。
3.根据权利要求1所述的方法,其特征在于,所述根据所述监控数据预测得到所述业务集群在未来时段内的监控数据预测值,包括:
将所述监控数据输入至时序预测模型中,根据所述时序预测模型的输出,得到所述业务集群在所述未来时段内的监控数据预测值;
其中,所述时序预测模型用于根据所述监控数据预测所述业务集群在未来时段内的监控数据预测值。
4.根据权利要求1至3任意一项所述的方法,其特征在于,所述基于所述监控数据预测值,动态调整所述监控集群在所述未来时段内的调度配置信息,包括:
基于所述监控数据预测值,识别所述未来时段内的业务高峰时刻和业务低峰时刻;
动态调整所述监控集群在所述业务高峰时刻和所述业务低峰时刻的调度配置信息。
5.根据权利要求4所述的方法,其特征在于,所述未来时段包含多个未来时刻;所述监控数据预测值包括所述多个监控指标项对应的监控指标预测值;
所述基于所述监控数据预测值,识别所述未来时段内的业务高峰时刻和业务低峰时刻,包括:
将各所述未来时刻的每个监控指标预测值分别与每个监控指标项的指标阈值进行数值比较;
当所述监控指标预测值大于所述预设指标阈值时,将所述监控指标预测值所属的监控指标项确定为目标监控指标项;
响应于所述目标监控指标项的数目大于指标项阈值,确定所述未来时刻为所述业务高峰时刻;
响应于所述目标监控指标项的数目不大于所述指标项阈值,确定所述未来时刻为所述业务低峰时刻。
6.根据权利要求5所述的方法,其特征在于,在确定所述未来时刻为所述业务高峰时刻之后,所述动态调整所述监控集群在所述业务高峰时刻的调度配置信息,包括:
在所述业务高峰时刻之前的预设时长内,预先对所述监控集群进行扩容处理,以增加所述监控集群的数目;
调整所述扩容处理之后的监控集群在所述业务高峰时刻的待监控指标项,以使所述待监控指标项的数目少于所述多个监控指标项的数目;
调整所述扩容处理之后的监控集群在所述业务高峰时刻的数据采集频率,以使所述数据采集频率高于所述监控数据的采集频率。
7.根据权利要求5所述的方法,其特征在于,在确定所述未来时刻为所述业务低峰时刻之后,所述动态调整所述监控集群在所述业务低峰时刻的调度配置信息,包括:
调整所述监控集群在所述业务低峰时刻的数据采集频率,以使所述数据采集频率低于所述监控数据的采集频率。
8.一种监控集群的管理装置,其特征在于,所述监控集群用于对业务集群的运行状态进行监控,所述方法包括:
数据接收模块,用于接收预设时段内对于所述业务集群的监控数据;所述监控数据包括多个监控指标项对应的监控指标值;
数据预测模块,用于根据所述监控数据预测得到所述业务集群在未来时段内的监控数据预测值;
调度配置模块,用于基于所述监控数据预测值,动态调整所述监控集群在所述未来时段内的调度配置信息;其中,所述调度配置信息包括以下任意一个或多个:所述监控集群的数目、待监控指标项和数据采集频率。
9.一种计算机存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1~7中任意一项所述的监控集群的管理方法。
10.一种电子设备,其特征在于,包括:
处理器;以及
存储器,用于存储所述处理器的可执行指令;
其中,所述处理器配置为经由执行所述可执行指令来执行权利要求1~7中任意一项所述的监控集群的管理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210844967.2A CN115168042A (zh) | 2022-07-18 | 2022-07-18 | 监控集群的管理方法及装置、计算机存储介质、电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210844967.2A CN115168042A (zh) | 2022-07-18 | 2022-07-18 | 监控集群的管理方法及装置、计算机存储介质、电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115168042A true CN115168042A (zh) | 2022-10-11 |
Family
ID=83494871
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210844967.2A Pending CN115168042A (zh) | 2022-07-18 | 2022-07-18 | 监控集群的管理方法及装置、计算机存储介质、电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115168042A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116414662A (zh) * | 2023-04-24 | 2023-07-11 | 山东溯源安全科技有限公司 | 一种存储空间扩容提示方法、装置、电子设备及存储介质 |
-
2022
- 2022-07-18 CN CN202210844967.2A patent/CN115168042A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116414662A (zh) * | 2023-04-24 | 2023-07-11 | 山东溯源安全科技有限公司 | 一种存储空间扩容提示方法、装置、电子设备及存储介质 |
CN116414662B (zh) * | 2023-04-24 | 2023-10-10 | 山东溯源安全科技有限公司 | 一种存储空间扩容提示方法、装置、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2021179462A1 (zh) | 基于改进量子蚁群算法的Spark平台任务调度方法 | |
US9535775B2 (en) | Session-based remote management system and load balance controlling method | |
EP2633403B1 (en) | System and method of active risk management to reduce job de-scheduling probability in computer clusters | |
CN102694868B (zh) | 一种集群系统实现及任务动态分配方法 | |
CN109788315A (zh) | 视频转码方法、装置及系统 | |
US10887199B2 (en) | Performance adjustment method, apparatus for performance adjustment, and non-transitory computer-readable storage medium for storing program | |
US11579933B2 (en) | Method for establishing system resource prediction and resource management model through multi-layer correlations | |
CN104113585A (zh) | 用于产生指示负载平衡状态的硬件级中断的方法和设备 | |
CN108092813A (zh) | 数据中心综合管理系统服务器硬件管理框架及实现方法 | |
US9804993B1 (en) | Data volume placement techniques | |
CN104298550A (zh) | 一种面向Hadoop的动态调度方法 | |
CN103581339A (zh) | 基于云计算的存储资源分配监控处理方法 | |
CN115373835A (zh) | Flink集群的任务资源调整方法、装置及电子设备 | |
CN103595815A (zh) | 基于云计算的存储资源分配方法 | |
CN115115030A (zh) | 系统监控方法、装置、电子设备及存储介质 | |
CN115269108A (zh) | 一种数据处理方法、装置及设备 | |
CN113672345A (zh) | 一种基于io预测的云虚拟化引擎分布式资源调度方法 | |
CN115168042A (zh) | 监控集群的管理方法及装置、计算机存储介质、电子设备 | |
CN115080373A (zh) | 配电终端操作系统的性能检测方法、装置、设备及介质 | |
WO2020206699A1 (en) | Predicting virtual machine allocation failures on server node clusters | |
CN114090201A (zh) | 资源调度方法、装置、设备及存储介质 | |
CN112054926B (zh) | 集群管理方法、装置、电子设备及存储介质 | |
CN111159237B (zh) | 系统数据分发方法、装置、存储介质及电子设备 | |
CN114819367A (zh) | 一种基于工业互联网的公共服务平台 | |
CN114090256A (zh) | 一种基于云计算的应用交付负载管理方法及其系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |