CN111464616A - 自动调节应用负载服务数量的方法、服务器及存储介质 - Google Patents

自动调节应用负载服务数量的方法、服务器及存储介质 Download PDF

Info

Publication number
CN111464616A
CN111464616A CN202010235408.2A CN202010235408A CN111464616A CN 111464616 A CN111464616 A CN 111464616A CN 202010235408 A CN202010235408 A CN 202010235408A CN 111464616 A CN111464616 A CN 111464616A
Authority
CN
China
Prior art keywords
server
preset
servers
evaluation value
comprehensive evaluation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010235408.2A
Other languages
English (en)
Inventor
陈志军
李勉才
黄龙华
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Merchants Finance Technology Co Ltd
Original Assignee
China Merchants Finance Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Merchants Finance Technology Co Ltd filed Critical China Merchants Finance Technology Co Ltd
Priority to CN202010235408.2A priority Critical patent/CN111464616A/zh
Publication of CN111464616A publication Critical patent/CN111464616A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00—Arrangements for monitoring or testing data switching networks
    • H04L43/16—Threshold monitoring

Abstract

本发明公开了一种自动调节应用负载服务数量的方法，应用于第一服务器，实时监控服务器集群中每个第二服务器的预设指标值，基于监控得到的所述预设指标值，利用第一算法计算得到每个第二服务器在预设时间段的综合评估值，分别比较每个第二服务器的综合评估值与第一预设阈值的大小，当判断多个第二服务器的综合评估值大于或等于第一预设阈值时，判断需要扩容，根据多个第二服务器的预设指标值及第二算法分别计算多个第二服务器的优先级别，选取优先级别最高的第二服务器进行容器扩容，并根据容器配置信息为该第二服务器创建预设数量的容器。本发明能够保证服务器使用率的同时，降低成本，并且能够保证应用总是处于最理想的可用状态。

Description

自动调节应用负载服务数量的方法、服务器及存储介质
技术领域
本发明涉及数据处理技术领域，尤其涉及一种自动调节应用负载服务数量的方法、服务器及存储介质。
背景技术
为了实现系统的平衡，当系统压力比较大时需要增加服务器的容器数量实现扩容，目前是通过服务器发出异常(例如不能访问服务的接口)来提醒用户当前的系统压力比较大，再通过用户主动增加服务器容器的数量实现扩容，现有技术中扩容采用的方式缺乏自发性，当出现系统压力增加时造成的服务器异常会影响系统正常运行。
扩容后当系统压力降下来时，如果无法及时地将资源恢复到原来的状态，则又可能导致资源的浪费。因此如何更好地自动调节服务器容器的数量满足系统的正常运行成为了亟需解决的技术问题。
发明内容
本发明的主要目的在于提供一种自动调节应用负载服务数量的方法、服务器及存储介质，旨在如何实现自动调节服务器容器的数量满足系统的正常运行的问题。
为实现上述目的，本发明提供的一种自动调节应用负载服务数量的方法，应用于服务器，该方法包括：
监控步骤：实时监控服务器集群中每个第二服务器的预设指标值，基于监控得到的所述预设指标值，利用预先确定的第一算法计算得到每个第二服务器在预设时间段的综合评估值；
判断步骤：分别比较每个第二服务器的综合评估值与第一预设阈值的大小；及
处理步骤：当判断多个第二服务器的综合评估值大于或等于所述第一预设阈值时，判断需要扩容，根据所述多个第二服务器的预设指标值及预先确定的第二算法分别计算所述多个第二服务器的优先级别，选取优先级别最高的第二服务器进行容器扩容，并根据预先在数据库中设置的容器配置信息为该优先级别最高的第二服务器创建预设数量的容器
优选地，所述分别比较每个所述第二服务器计算得出的综合评估值与第一预设阈值的大小包括：
利用所述第一算法计算得出每个第二服务器在预设时间段后的综合评估值；及
基于所有所述第二服务器计算得出的综合评估值，利用所述第一算法计算得出所述第一预设阈值。
优选地，所述处理步骤还包括：
当判断多个第二服务器的综合评估值小于所述第一预设阈值时，判断需要缩容，根据所述多个第二服务器的预设指标值及预先确定的第二算法分别计算所述多个第二服务器的优先级别，选取优先级别最低的第二服务器进行容器缩容。
优选地，所述处理步骤包括：
当选取好优先级别最低的第二服务器进行容器缩容后，通过网页计时器分别计算出该第二服务器的各容器的创建时间，将所述创建时间最早的一个容器进行销毁。
优选地，所述第二算法为：
S总＝Wx1Sx1+Wx2Sx2+...+WxnSxn
Sxn＝int[(total resources-use resources)*10/total resources)]
其中，S总为单个第二服务器的综合评分值，x表示各预设指标项，Wxn为各项预设指标资源占总资源的权重值，Sxn为单个第二服务器上各预设指标资源的权重得分，totalresources为预设指标资源总量，useresources为该预设指标资源已经使用量，并对计算结果用int取整，最后获得该预设指标资源的权重得分。
优选地，所述处理步骤还包括筛选步骤：
判断所述第二服务器是否符合预设条件，若不符合则标记该第二服务器为不合格服务器，所述不合格服务器不接收所述容器扩容请求。
为实现上述目的，本发明还进一步提供一种第一服务器，所述第一服务器包括存储器和处理器，所述存储器上存储有自动调节应用负载服务数量的程序，所述自动调节应用负载服务数量的程序被所述处理器执行时实现如下步骤：
监控步骤：实时监控服务器集群中每个第二服务器的预设指标值，基于监控得到的所述预设指标值，利用预先确定的第一算法计算得到每个第二服务器在预设时间段的综合评估值；
判断步骤：分别比较每个第二服务器的综合评估值与第一预设阈值的大小；及
处理步骤：当判断多个第二服务器的综合评估值大于或等于所述第一预设阈值时，判断需要扩容，根据所述多个第二服务器的预设指标值及预先确定的第二算法分别计算所述多个第二服务器的优先级别，选取优先级别最高的第二服务器进行容器扩容，并根据预先在数据库中设置的容器配置信息为该优先级别最高的第二服务器创建预设数量的容器。
优选地，所述分别比较每个所述服务器计算得出的综合评估值与第一预设阈值的大小包括：
利用所述第一算法计算得出每个服务器在预设时间段后的综合评估值；及
基于所有所述第二服务器计算得出的综合评估值，利用所述第一算法计算得出所述第一预设阈值。
优选地，所述处理步骤还包括：
当判断多个第二服务器的综合评估值小于所述第一预设阈值时，判断需要缩容，根据所述多个第二服务器的预设指标值及预先确定的第二算法分别计算所述多个第二服务器的优先级别，选取优先级别最低的第二服务器进行容器缩容。
为实现上述目的，本发明进一步提供一种计算机可读存储介质，所述计算机可读存储介质上存储有自动调节应用负载服务数量的程序，所述自动调节应用负载服务数量的程序可被一个或者多个处理器执行，以实现如上所述的自动调节应用负载服务数量的方法的步骤。
本发明提出的自动调节应用负载服务数量的方法、服务器及存储介质，通过实时监控服务器集群中每个第二服务器的预设指标值，基于监控得到的所述预设指标值，计算每个第二服务器在预设时间段的综合评估值，分别比较每个第二服务器的综合评估值与第一预设阈值的大小，当一个第二服务器的综合评估值大于第一预设阈值时发出容器扩容请求，根据每个服务器的预设指标值分别计算每个第二服务器的优先级别，选取优先级别最高的第二服务器进行容器扩容。本发明能够保证第二服务器使用率的同时，降低成本，并且能够保证应用总是处于最理想的可用状态。
附图说明
图1为本发明服务器较佳实施例的应用环境图；
图2为图1中自动调节应用负载服务数量的程序较佳实施例的程序模块示意图；
图3为本发明自动调节应用负载服务数量的方法较佳实施例的流程示意图。
本发明目的的实现、功能特点及优点将结合实施例，参附图做进一步说明。
具体实施方式
为了使本发明的目的、技术本实施例及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
需要说明的是，在本发明中涉及“第一”、“第二”等的描述仅用于描述目的，而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外，各个实施例之间的技术本实施例可以相互结合，但是必须是以本领域普通技术人员能够实现为基础，当技术本实施例的结合出现相互矛盾或无法实现时应当认为这种技术本实施例的结合不存在，也不在本发明要求的保护范围之内。
本发明提供一种第一服务器1。
所述第一服务器1包括，但不仅限于，存储器11、处理器12及网络接口13。
其中，存储器11至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等)、磁性存储器、磁盘、光盘等。存储器11在一些实施例中可以是第一服务器1的内部存储单元，例如该第一服务器1的硬盘。存储器11在另一些实施例中也可以是第一服务器1的外部存储设备，例如该第一服务器1上配备的插接式硬盘，智能存储卡(Smart Media Card，SMC)，安全数字(Secure Digital，SD)卡，闪存卡(Flash Card)等。
进一步地，存储器11还可以既包括第一服务器1的内部存储单元也包括外部存储设备。存储器11不仅可以用于存储安装于第一服务器1的应用软件及各类数据，例如自动调节应用负载服务数量的程序10的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。
处理器12在一些实施例中可以是一中央处理器(Central Processing Unit，CPU)、控制器、微控制器、微处理器或其他数据处理芯片，用于运行存储器11中存储的程序代码或处理数据，例如执行自动调节应用负载服务数量的程序10等。
网络接口13可选的可以包括标准的有线接口、无线接口(如WI-FI接口)，通常用于在该服务器与其他电子设备之间建立通信连接。
客户端可以是桌上型计算机、笔记本、平板电脑、手机等。
网络可以为互联网、云网络、无线保真(Wi-Fi)网络、个人网(PAN)、局域网(LAN)和/或城域网(MAN)。网络环境中的各种设备可以被配置为根据各种有线和无线通信协议连接到通信网络。这样的有线和无线通信协议的例子可以包括但不限于以下中的至少一个：传输控制协议和互联网协议(TCP/IP)、用户数据报协议(UDP)、超文本传输协议(HTTP)、文件传输协议(FTP)、ZigBee、EDGE、IEEE 802.11、光保真(Li-Fi)、802.16、IEEE 802.11s、IEEE 802.11g、多跳通信、无线接入点(AP)、设备对设备通信、蜂窝通信协议和/或蓝牙(BlueTooth)通信协议或其组合。
可选地，该第一服务器1还可以包括用户接口，用户接口可以包括显示器(Display)、输入单元比如键盘(Keyboard)，可选的用户接口还可以包括标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode，有机发光二极管)触摸器等。其中，显示器也可以称为显示屏或显示单元，用于显示在第一服务器1中处理的信息以及用于显示可视化的用户界面。
图1仅示出了具有组件11-13以及自动调节应用负载服务数量的程序10的第一服务器1，本领域技术人员可以理解的是，图1示出的结构并不构成对第一服务器1的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。
在本实施例中，图1的自动调节应用负载服务数量的程序10被处理器12执行时，实现以下步骤：
监控步骤：实时监控服务器集群中每个第二服务器的预设指标值，基于监控得到的所述预设指标值，利用预先确定的第一算法计算得到每个第二服务器在预设时间段的综合评估值；
判断步骤：分别比较每个第二服务器的综合评估值与第一预设阈值的大小；及
处理步骤：当判断多个第二服务器的综合评估值大于或等于所述第一预设阈值时，判断需要扩容，根据所述多个第二服务器的预设指标值及预先确定的第二算法分别计算所述多个第二服务器的优先级别，选取优先级别最高的第二服务器进行容器扩容，并根据预先在数据库中设置的容器配置信息为该优先级别最高的第二服务器创建预设数量的容器。
在另一实施例中，该程序还包括执行以下步骤：
当判断多个第二服务器的综合评估值小于所述第一预设阈值时，判断需要缩容，根据所述多个第二服务器的预设指标值及预先确定的第二算法分别计算所述多个第二服务器的优先级别，选取优先级别最低的第二服务器进行容器缩容。
在另一实施例中，该程序还包括执行以下步骤：
判断所述第二服务器是否符合预设条件，若不符合则标记该第二服务器为不合格服务器，所述不合格服务器不接收所述容器扩容请求。
关于上述步骤的详细介绍，请参照下述图2关于自动调节应用负载服务数量的程序10实施例的程序模块示意图及图3关于自动调节应用负载服务数量的方法实施例的方法流程示意图的说明。
参照图2所示，为图1中自动调节应用负载服务数量的程序10实施例的程序模块示意图。自动调节应用负载服务数量的程序10被分割为多个模块，该多个模块存储于存储器11中，并由处理器12执行，以完成本发明。本发明所称的模块是指能够完成特定功能的一系列计算机程序指令段。
在本实施例中，所述自动调节应用负载服务数量的程序10包括监控模块110、判断模块120及处理模块130。
监控模块110，用于实时监控服务器集群中每个第二服务器的预设指标值，基于监控得到的所述预设指标值，利用预先确定的第一算法计算得到每个第二服务器在预设时间段的综合评估值。
在本实施例中，第一服务器1实时监控服务器集群中每个第二服务器，每个第二服务器包括至少一个预设指标值，所述预设指标包括CPU使用率，CPU负载，内存使用率，内存空闲率，网络出入流量，磁盘使用率，磁盘的io，HTTP请求数量，TCP连接数，网络丢包率等。通过获取每个第二服务器的预设指标对应的值并存储至数据库中，定时从数据库中调取每个第二服务器对应的预设指标值，利用预先确定的第一算法计算得出在预设时间段(例如8:00)每个第二服务器的综合评估值，所述综合评估值用于下述预测之后的第二服务器服务负载情况。
标记模块120，用于分别比较每个第二服务器的综合评估值与第一预设阈值的大小。
在本实施例中，通过比较每个第二服务器的综合评估值与第一预设阈值(例如80)的大小关系，判断之后的第二服务器的服务负载情况。
进一步地，所述分别比较每个所述第二服务器计算得出的综合评估值与第一预设阈值的大小包括：
利用所述第一算法计算得出每个第二服务器在预设时间段(例如一小时)后的综合评估值，所述第一算法为线性回归算法；
将所有所述第二服务器的综合评估值利用所述第一算法计算得出所述第一预设阈值(例如80)。
在本实施例中，所述第一算法为线性回归算法，利用线性回归算法将每个第二服务器至少一个预设指标值输入线性回归方程中形成一条趋势线，再将服务器集群中每个第二服务器对应的综合评估值输入线性回归方程中得出在同时间段(例如8:00)的值作为第一预设阈值，将每个第二服务器对应的综合评估值与第一预设阈值进行比较，当第二服务器的综合评估值大于第一预设阈值(例如80)时，发出容器扩容请求。通过动态调节第二服务器的容器数量，使得在第二服务器负载高时可以增加容器分散应用压力，最大化第二服务器的使用率。利用本方案能够保证服务器使用率的同时，降低成本，并且能够保证应用总是处于最理想的可用状态。
处理模块130，用于当判断多个第二服务器的综合评估值大于或等于所述第一预设阈值时，判断需要扩容，根据所述多个第二服务器的预设指标值及预先确定的第二算法分别计算所述多个第二服务器的优先级别，选取优先级别最高的第二服务器进行容器扩容，并根据预先在数据库中设置的容器配置信息为该优先级别最高的第二服务器创建预设数量的容器。
在本实施例中，为了从服务器集群中选出最适合进行容器扩容的第二服务器，因此当获取到容器扩容请求时，根据每个第二服务器至少一个预设指标值及预先确定的第二算法分别计算每个服务器的优先级别，选取优先级别最高的服务器进行容器扩容，即性能最好的服务器以满足增加容器的要求。并根据预先在数据库中设置的容器配置信息为该优先级别最高的第二服务器创建预设数量的容器。当第二服务器的综合评估值大于第一预设阈值(例如80)时，发出容器扩容请求。通过动态调节第二服务器的容器数量，使得在第二服务器负载高时可以增加容器分散应用压力，最大化第二服务器的使用率。利用本方案能够保证服务器使用率的同时，降低成本，并且能够保证应用总是处于最理想的可用状态。
在另一实施例中，所述处理模块130还用于：
用于当判断只有一个第二服务器的综合评估值大于或等于所述第一预设阈值时，判断需要扩容，并根据预先在数据库中设置的容器配置信息为该第二服务器创建预设数量的容器。
在另一实施例中，所述处理模块130还用于：
当判断多个第二服务器的综合评估值小于所述第一预设阈值(例如80)时，判断需要缩容，根据所述多个第二服务器的预设指标值及预先确定的第二算法分别计算所述多个第二服务器的优先级别，选取优先级别最低的第二服务器进行容器缩容。
在本实施例中，为了实现保证服务器使用率的同时，降低成本，并且能够保证应用总是处于最理想的可用状态，因此利用本方案能够。因此当判断多个第二服务器的综合评估值小于所述第一预设阈值(例如80)时，即判断为需要进行容器缩容，根据多个第二服务器的预设指标值及预先确定的第二算法分别计算多个第二服务器的优先级别，选取优先级别最低的第二服务器进行容器缩容。
当确定好进行容器缩容的第二服务器后，通过网页计时器分别计算出该第二服务器的各容器的创建时间，将所述创建时间最早的一个容器进行销毁。通过动态调节第二服务器的容器数量，使得在第二服务器负载低时可以减少容器降低应用数量，释放资源给其它应用，实现资源合理分配。利用本方案能够保证第二服务器使用率的同时，降低成本，并且能够保证应用总是处于最理想的可用状态。
在另一实施例中，所述处理模块130还用于：
用于当判断只有一个第二服务器的综合评估值小于所述第一预设阈值时，判断需要缩容，并通过网页计时器分别计算出该第二服务器的各容器的创建时间，将所述创建时间最早的一个容器进行销毁。
进一步地，利用所述第二算法计算每个第二服务器的优先级别的过程具体包括：
分别将所述第二服务器的预设指标值输入所述第二算法得到每个第二服务器的评分值，对计算得出的每个所述评分值进行排序，取评分值最高对应的第二服务器进行容器扩容，取评分值最低对应的第二服务器进行容器缩容，其中所述预设指标包括CPU使用率，CPU负载，内存使用率，内存空闲率，网络出入流量，磁盘使用率，磁盘的io，HTTP请求数量，TCP连接数，网络丢包率。所述第二算法为：
S总＝Wx1Sx1+Wx2Sx2+...+WxnSxn
Sxn＝int[(total resources-use resources)*10/total resources)]
其中，S总为单个第二服务器的综合评分值，x表示各预设指标项，Wxn为各项预设指标资源占总资源的权重值，Sxn为单个第二服务器上各预设指标资源的权重得分，totalresources为预设指标资源总量，useresources为该预设指标资源已经使用量，并对计算结果用int取整，最后获得该预设指标资源的权重得分。
在另一实施例中，该程序还执行筛选模块：
判断所述第二服务器是否符合预设条件，若不符合则标记该服务器为不合格服务器，所述不合格服务器不接收所述容器扩容请求。
在本实施例中，为了避免服务器集群中存在部分不符合适合容器扩容的第二服务器，影响处理步骤中选取第二服务器的效率，因此在处理步骤之前先判断第二服务器是否符合预设条件，若不符合则标记该第二服务器为不合格服务器，被标记为不合格的第二服务器不接收容器扩容请求。所述预设条件包括：第二服务器的综合评估值小于第二预设阈值(第二预设阈值大于第一预设阈值，例如90)。
此外，本发明还提供一种自动调节应用负载服务数量的方法。参照图3所示，为本发明自动调节应用负载服务数量的方法的实施例的方法流程示意图。第一服务器1的处理器12执行存储器11中存储的自动调节应用负载服务数量的程序10时实现自动调节应用负载服务数量的方法的如下步骤：
S110，实时监控服务器集群中每个第二服务器的预设指标值，基于监控得到的所述预设指标值，利用预先确定的第一算法计算得到每个第二服务器在预设时间段的综合评估值。
在本实施例中，第一服务器1实时监控服务器集群中每个第二服务器，每个第二服务器包括至少一个预设指标值，所述预设指标包括CPU使用率，CPU负载，内存使用率，内存空闲率，网络出入流量，磁盘使用率，磁盘的io，HTTP请求数量，TCP连接数，网络丢包率等。通过获取每个第二服务器的预设指标对应的值并存储至数据库中，定时从数据库中调取每个第二服务器对应的预设指标值，利用预先确定的第一算法计算得出在预设时间段(例如8:00)每个第二服务器的综合评估值，所述综合评估值用于下述预测之后的第二服务器服务负载情况。
S120，分别比较每个第二服务器的综合评估值与第一预设阈值的大小。
在本实施例中，通过比较每个第二服务器的综合评估值与第一预设阈值(例如80)的大小关系，判断之后的第二服务器的服务负载情况。
进一步地，所述分别比较每个所述第二服务器计算得出的综合评估值与第一预设阈值的大小包括：
利用所述第一算法计算得出每个第二服务器在预设时间段(例如一小时)后的综合评估值，所述第一算法为线性回归算法；
将所有所述第二服务器的综合评估值利用所述第一算法计算得出所述第一预设阈值(例如80)。
在本实施例中，所述第一算法为线性回归算法，利用线性回归算法将每个第二服务器至少一个预设指标值输入线性回归方程中形成一条趋势线，再将服务器集群中每个第二服务器对应的综合评估值输入线性回归方程中得出在同时间段(例如8:00)的值作为第一预设阈值，将每个第二服务器对应的综合评估值与第一预设阈值进行比较，当第二服务器的综合评估值大于第一预设阈值(例如80)时，发出容器扩容请求。通过动态调节第二服务器的容器数量，使得在第二服务器负载高时可以增加容器分散应用压力，最大化第二服务器的使用率。利用本方案能够保证服务器使用率的同时，降低成本，并且能够保证应用总是处于最理想的可用状态。
S130，当判断多个第二服务器的综合评估值大于或等于所述第一预设阈值时，判断需要扩容，根据所述多个第二服务器的预设指标值及预先确定的第二算法分别计算所述多个第二服务器的优先级别，选取优先级别最高的第二服务器进行容器扩容，并根据预先在数据库中设置的容器配置信息为该优先级别最高的第二服务器创建预设数量的容器。
在本实施例中，为了从服务器集群中选出最适合进行容器扩容的第二服务器，因此当获取到容器扩容请求时，根据每个第二服务器至少一个预设指标值及预先确定的第二算法分别计算每个服务器的优先级别，选取优先级别最高的服务器进行容器扩容，即性能最好的服务器以满足增加容器的要求。并根据预先在数据库中设置的容器配置信息为该优先级别最高的第二服务器创建预设数量的容器。当第二服务器的综合评估值大于第一预设阈值(例如80)时，发出容器扩容请求。通过动态调节第二服务器的容器数量，使得在第二服务器负载高时可以增加容器分散应用压力，最大化第二服务器的使用率。利用本方案能够保证服务器使用率的同时，降低成本，并且能够保证应用总是处于最理想的可用状态。
在另一实施例中，该方法还包括以下步骤：
用于当判断只有一个第二服务器的综合评估值大于或等于所述第一预设阈值时，判断需要扩容，并根据预先在数据库中设置的容器配置信息为该第二服务器创建预设数量的容器。
在另一实施例中，该方法还包括以下步骤：
当判断多个第二服务器的综合评估值小于所述第一预设阈值(例如80)时，判断需要缩容，根据所述多个第二服务器的预设指标值及预先确定的第二算法分别计算所述多个第二服务器的优先级别，选取优先级别最低的第二服务器进行容器缩容。
在本实施例中，为了实现保证服务器使用率的同时，降低成本，并且能够保证应用总是处于最理想的可用状态，因此利用本方案能够。因此当判断多个第二服务器的综合评估值小于所述第一预设阈值(例如80)时，即判断为需要进行容器缩容，根据多个第二服务器的预设指标值及预先确定的第二算法分别计算多个第二服务器的优先级别，选取优先级别最低的第二服务器进行容器缩容。
当确定好进行容器缩容的第二服务器后，通过网页计时器分别计算出该第二服务器的各容器的创建时间，将所述创建时间最早的一个容器进行销毁。通过动态调节第二服务器的容器数量，使得在第二服务器负载低时可以减少容器降低应用数量，释放资源给其它应用，实现资源合理分配。利用本方案能够保证第二服务器使用率的同时，降低成本，并且能够保证应用总是处于最理想的可用状态。
在另一实施例中，该方法还包括以下步骤：
用于当判断只有一个第二服务器的综合评估值小于所述第一预设阈值时，判断需要缩容，并通过网页计时器分别计算出该第二服务器的各容器的创建时间，将所述创建时间最早的一个容器进行销毁。
进一步地，利用所述第二算法计算每个第二服务器的优先级别的过程具体包括：
分别将所述第二服务器的预设指标值输入所述第二算法得到每个第二服务器的评分值，对计算得出的每个所述评分值进行排序，取评分值最高对应的第二服务器进行容器扩容，取评分值最低对应的第二服务器进行容器缩容，其中所述预设指标包括CPU使用率，CPU负载，内存使用率，内存空闲率，网络出入流量，磁盘使用率，磁盘的io，HTTP请求数量，TCP连接数，网络丢包率。所述第二算法为：
S总＝Wx1Sx1+Wx2Sx2+...+WxnSxn
Sxn＝int[(total resources-use resources)*10/total resources)]
其中，S总为单个第二服务器的综合评分值，x表示各预设指标项，Wxn为各项预设指标资源占总资源的权重值，Sxn为单个第二服务器上各预设指标资源的权重得分，totalresources为预设指标资源总量，useresources为该预设指标资源已经使用量，并对计算结果用int取整，最后获得该预设指标资源的权重得分。
在另一实施例中，该方法还包括以下步骤：
判断所述第二服务器是否符合预设条件，若不符合则标记该服务器为不合格服务器，所述不合格服务器不接收所述容器扩容请求。
在本实施例中，为了避免服务器集群中存在部分不符合适合容器扩容的第二服务器，影响处理步骤中选取第二服务器的效率，因此在处理步骤之前先判断第二服务器是否符合预设条件，若不符合则标记该第二服务器为不合格服务器，被标记为不合格的第二服务器不接收容器扩容请求。所述预设条件包括：第二服务器的综合评估值小于第二预设阈值(第二预设阈值大于第一预设阈值，例如90)。
此外，本发明实施例还提出一种计算机可读存储介质，计算机可读存储介质可以是硬盘、多媒体卡、SD卡、闪存卡、SMC、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器等中的任意一种或者几种的任意组合。计算机可读存储介质中包括自动调节应用负载服务数量的程序10，本发明之计算机可读存储介质的具体实施方式与上述自动调节应用负载服务数量的方法以及第一服务器1的具体实施方式大致相同，在此不再赘述。
需要说明的是，上述本发明实施例序日仅仅为了描述，不代表实施例的优劣。并且本文中的术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、装置、物品或者方法不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、装置、物品或者方法所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、装置、物品或者方法中还存在另外的相同要素。
上述本发明实施例序日仅仅为了描述，不代表实施例的优劣。通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术本实施例本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在如上所述的一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (10)

1.一种自动调节应用负载服务数量的方法，应用于第一服务器，其特征在于，该方法包括：
监控步骤：实时监控服务器集群中每个第二服务器的预设指标值，基于监控得到的所述预设指标值，利用预先确定的第一算法计算得到每个第二服务器在预设时间段的综合评估值；
判断步骤：分别比较每个第二服务器的综合评估值与第一预设阈值的大小；及
处理步骤：当判断多个第二服务器的综合评估值大于或等于所述第一预设阈值时，判断需要扩容，根据所述多个第二服务器的预设指标值及预先确定的第二算法分别计算所述多个第二服务器的优先级别，选取优先级别最高的第二服务器进行容器扩容，并根据预先在数据库中设置的容器配置信息为该优先级别最高的第二服务器创建预设数量的容器。
2.如权利要求1所述的自动调节应用负载服务数量的方法，其特征在于，所述分别比较每个所述第二服务器计算得出的综合评估值与第一预设阈值的大小包括：
利用所述第一算法计算得出每个第二服务器在预设时间段后的综合评估值；及
基于所有所述第二服务器计算得出的综合评估值，利用所述第一算法计算得出所述第一预设阈值。
3.如权利要求1所述的自动调节应用负载服务数量的方法，其特征在于，所述处理步骤还包括：
当判断多个第二服务器的综合评估值小于所述第一预设阈值时，判断需要缩容，根据所述多个第二服务器的预设指标值及预先确定的第二算法分别计算所述多个第二服务器的优先级别，选取优先级别最低的第二服务器进行容器缩容。
4.如权利要求3所述的自动调节应用负载服务数量的方法，其特征在于，所述处理步骤包括：
当选取好优先级别最低的第二服务器进行容器缩容后，通过网页计时器分别计算出该第二服务器的各容器的创建时间，将所述创建时间最早的一个容器进行销毁。
5.如权利要求4所述的自动调节应用负载服务数量的方法，其特征在于，所述第二算法为：
S总＝Wx1Sx1+Wx2Sx2+...+WxnSxn
Sxn＝int[(total resources-use resources)*10/total resources)]
其中，S总为单个第二服务器的综合评分值，x表示各预设指标项，Wxn为各项预设指标资源占总资源的权重值，Sxn为单个第二服务器上各预设指标资源的权重得分，totalresources为预设指标资源总量，use resources为该预设指标资源已经使用量，并对计算结果用int取整，最后获得该预设指标资源的权重得分。
6.如权利要求1-5任一项所述的自动调节应用负载服务数量的方法，其特征在于，所述处理步骤还包括筛选步骤：
判断所述第二服务器是否符合预设条件，若不符合则标记该第二服务器为不合格服务器，所述不合格服务器不接收所述容器扩容请求。
7.一种第一服务器，其特征在于，所述第一服务器包括存储器和处理器，所述存储器上存储有自动调节应用负载服务数量的程序，所述自动调节应用负载服务数量的程序被所述处理器执行时实现如下步骤：
监控步骤：实时监控服务器集群中每个第二服务器的预设指标值，基于监控得到的所述预设指标值，利用预先确定的第一算法计算得到每个第二服务器在预设时间段的综合评估值；
判断步骤：分别比较每个第二服务器的综合评估值与第一预设阈值的大小；及
处理步骤：当判断多个第二服务器的综合评估值大于或等于所述第一预设阈值时，判断需要扩容，根据所述多个第二服务器的预设指标值及预先确定的第二算法分别计算所述多个第二服务器的优先级别，选取优先级别最高的第二服务器进行容器扩容，并根据预先在数据库中设置的容器配置信息为该优先级别最高的第二服务器创建预设数量的容器。
8.如权利要求7所述的第一服务器，其特征在于，所述分别比较每个所述第二服务器计算得出的综合评估值与第一预设阈值的大小包括：
利用所述第一算法计算得出每个第二服务器在预设时间段后的综合评估值；及
基于所有所述第二服务器计算得出的综合评估值，利用所述第一算法计算得出所述第一预设阈值。
9.如权利要求8所述的第一服务器，其特征在于，所述处理步骤还包括：
当判断多个第二服务器的综合评估值小于所述第一预设阈值时，判断需要缩容，根据所述多个第二服务器的预设指标值及预先确定的第二算法分别计算所述多个第二服务器的优先级别，选取优先级别最低的第二服务器进行容器缩容。
10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有自动调节应用负载服务数量的程序，所述自动调节应用负载服务数量的程序可被一个或者多个处理器执行，以实现如权利要求1-6中任一项所述的自动调节应用负载服务数量的方法的步骤。
CN202010235408.2A 2020-03-30 2020-03-30 自动调节应用负载服务数量的方法、服务器及存储介质 Pending CN111464616A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010235408.2A CN111464616A (zh) 2020-03-30 2020-03-30 自动调节应用负载服务数量的方法、服务器及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010235408.2A CN111464616A (zh) 2020-03-30 2020-03-30 自动调节应用负载服务数量的方法、服务器及存储介质

Publications (1)

Publication Number Publication Date
CN111464616A true CN111464616A (zh) 2020-07-28

Family

ID=71680143

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010235408.2A Pending CN111464616A (zh) 2020-03-30 2020-03-30 自动调节应用负载服务数量的方法、服务器及存储介质

Country Status (1)

Country Link
CN (1) CN111464616A (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112328462A (zh) * 2020-11-06 2021-02-05 杭州米络星科技(集团)有限公司 基于服务器健康状态评估的服务器扩容方法和系统
CN112783607A (zh) * 2021-01-29 2021-05-11 上海哔哩哔哩科技有限公司 容器集群中任务部署方法及装置
CN112965806A (zh) * 2021-03-26 2021-06-15 北京汇钧科技有限公司 用于确定资源的方法和装置
CN112988389A (zh) * 2021-03-22 2021-06-18 成都卓拙科技有限公司 结合负载调节及周期性调节的自动伸缩方法及系统
CN113157390A (zh) * 2021-04-09 2021-07-23 烽火通信科技股份有限公司 一种电力终端中针对电力应用的容器资源管理方法和装置
CN114356558A (zh) * 2021-12-21 2022-04-15 北京穿杨科技有限公司 一种基于集群的缩容处理方法及装置
CN114979276A (zh) * 2022-05-13 2022-08-30 深信服科技股份有限公司 一种资源动态调度方法、装置、设备及存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017028697A1 (zh) * 2015-08-17 2017-02-23 阿里巴巴集团控股有限公司 计算机集群的扩容和缩容方法及设备
CN107026802A (zh) * 2016-01-30 2017-08-08 华为技术有限公司 一种资源管理方法及设备
CN107919977A (zh) * 2016-10-11 2018-04-17 阿里巴巴集团控股有限公司 一种基于Paxos协议的分布式一致性系统的在线扩容、在线缩容的方法和装置
CN107977252A (zh) * 2016-10-21 2018-05-01 中兴通讯股份有限公司 一种云平台业务的缩容方法、装置及云平台
WO2018077079A1 (zh) * 2016-10-31 2018-05-03 阿里巴巴集团控股有限公司 一种应用的扩容方法、装置和系统
CN109586952A (zh) * 2018-11-07 2019-04-05 广州虎牙信息科技有限公司 服务器扩容方法、装置
CN109669758A (zh) * 2018-09-11 2019-04-23 深圳平安财富宝投资咨询有限公司 服务器资源的调配方法、装置、设备及存储介质
CN109873718A (zh) * 2019-01-23 2019-06-11 平安科技（深圳）有限公司 一种容器自适应伸缩方法、服务器及存储介质
CN110019503A (zh) * 2017-09-01 2019-07-16 北京京东尚科信息技术有限公司 Redis集群的扩容和/或缩容的方法及装置
CN110795236A (zh) * 2019-09-26 2020-02-14 北京大米科技有限公司 调整服务器容量的方法、装置、电子设备及介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017028697A1 (zh) * 2015-08-17 2017-02-23 阿里巴巴集团控股有限公司 计算机集群的扩容和缩容方法及设备
CN107026802A (zh) * 2016-01-30 2017-08-08 华为技术有限公司 一种资源管理方法及设备
CN107919977A (zh) * 2016-10-11 2018-04-17 阿里巴巴集团控股有限公司 一种基于Paxos协议的分布式一致性系统的在线扩容、在线缩容的方法和装置
CN107977252A (zh) * 2016-10-21 2018-05-01 中兴通讯股份有限公司 一种云平台业务的缩容方法、装置及云平台
WO2018077079A1 (zh) * 2016-10-31 2018-05-03 阿里巴巴集团控股有限公司 一种应用的扩容方法、装置和系统
CN110019503A (zh) * 2017-09-01 2019-07-16 北京京东尚科信息技术有限公司 Redis集群的扩容和/或缩容的方法及装置
CN109669758A (zh) * 2018-09-11 2019-04-23 深圳平安财富宝投资咨询有限公司 服务器资源的调配方法、装置、设备及存储介质
CN109586952A (zh) * 2018-11-07 2019-04-05 广州虎牙信息科技有限公司 服务器扩容方法、装置
CN109873718A (zh) * 2019-01-23 2019-06-11 平安科技（深圳）有限公司 一种容器自适应伸缩方法、服务器及存储介质
CN110795236A (zh) * 2019-09-26 2020-02-14 北京大米科技有限公司 调整服务器容量的方法、装置、电子设备及介质

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112328462A (zh) * 2020-11-06 2021-02-05 杭州米络星科技(集团)有限公司 基于服务器健康状态评估的服务器扩容方法和系统
CN112783607A (zh) * 2021-01-29 2021-05-11 上海哔哩哔哩科技有限公司 容器集群中任务部署方法及装置
CN112988389A (zh) * 2021-03-22 2021-06-18 成都卓拙科技有限公司 结合负载调节及周期性调节的自动伸缩方法及系统
CN112988389B (zh) * 2021-03-22 2023-08-11 成都卓拙科技有限公司 结合负载调节及周期性调节的自动伸缩方法及系统
CN112965806A (zh) * 2021-03-26 2021-06-15 北京汇钧科技有限公司 用于确定资源的方法和装置
CN112965806B (zh) * 2021-03-26 2023-08-04 北京汇钧科技有限公司 用于确定资源的方法和装置
CN113157390A (zh) * 2021-04-09 2021-07-23 烽火通信科技股份有限公司 一种电力终端中针对电力应用的容器资源管理方法和装置
CN114356558A (zh) * 2021-12-21 2022-04-15 北京穿杨科技有限公司 一种基于集群的缩容处理方法及装置
CN114979276A (zh) * 2022-05-13 2022-08-30 深信服科技股份有限公司 一种资源动态调度方法、装置、设备及存储介质
CN114979276B (zh) * 2022-05-13 2024-02-23 深信服科技股份有限公司 一种资源动态调度方法、装置、设备及存储介质

Similar Documents

Publication Publication Date Title
CN111464616A (zh) 自动调节应用负载服务数量的方法、服务器及存储介质
CN110138732B (zh) 访问请求的响应方法、装置、设备及存储介质
CN111475373A (zh) 微服务下的服务控制方法、装置、计算机设备及存储介质
CN109901881B (zh) 应用程序的插件加载方法、装置、计算机设备及存储介质
CN109213493B (zh) 容器部署方法、特殊资源管理终端及可读存储介质
CN111698303A (zh) 数据处理方法、装置、电子设备及存储介质
CN112422450B (zh) 计算机设备、服务请求的流量控制方法及装置
CN114095567A (zh) 数据访问请求的处理方法、装置、计算机设备及介质
CN109951551B (zh) 一种容器镜像管理系统及方法
WO2021012506A1 (zh) 语音识别系统中的负载均衡实现方法、装置以及计算机设备
CN113656098B (zh) 配置获取方法及系统
CN111245928A (zh) 基于超融合架构的资源调节方法、物联网服务器及介质
CN111885184A (zh) 高并发场景下热点访问关键字处理方法和装置
CN111988429A (zh) 算法调度方法以及系统
CN112130936B (zh) 基于轮询的数据调用方法、装置、设备及存储介质
US9442741B2 (en) Method, terminal, server, and system for data processing
CN111148054B (zh) 流量切换使用方法、装置、存储介质
CN113342502B (zh) 数据湖的性能诊断方法、装置、计算机设备及存储介质
CN111431769A (zh) 数据监控方法、服务器及存储介质
CN110188006B (zh) 一种数据维护方法、装置及设备
CN114995914A (zh) 图片数据的处理方法、装置、计算机设备及存储介质
CN114675845A (zh) 信息年龄优化方法、装置、计算机设备及存储介质
CN114138401A (zh) 基于人工智能的容器配置方法、装置、设备及介质
CN111143033B (zh) 基于可伸缩操作系统的操作执行方法及装置
CN112491939B (zh) 多媒体资源调度方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20200728

RJ01 Rejection of invention patent application after publication