CN116954893A - 一种自适应资源调度方法、装置及电子设备 - Google Patents
一种自适应资源调度方法、装置及电子设备 Download PDFInfo
- Publication number
- CN116954893A CN116954893A CN202310785902.XA CN202310785902A CN116954893A CN 116954893 A CN116954893 A CN 116954893A CN 202310785902 A CN202310785902 A CN 202310785902A CN 116954893 A CN116954893 A CN 116954893A
- Authority
- CN
- China
- Prior art keywords
- server
- real
- time
- load condition
- monitoring
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 60
- 238000012544 monitoring process Methods 0.000 claims abstract description 78
- 238000013468 resource allocation Methods 0.000 claims abstract description 19
- 230000015654 memory Effects 0.000 claims description 44
- 230000003044 adaptive effect Effects 0.000 claims description 18
- 230000008569 process Effects 0.000 claims description 7
- 230000007246 mechanism Effects 0.000 claims description 5
- 238000012423 maintenance Methods 0.000 abstract description 2
- 238000005516 engineering process Methods 0.000 description 7
- 238000011161 development Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 230000006872 improvement Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/3006—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is distributed, e.g. networked systems, clusters, multiprocessor systems
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Quality & Reliability (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种自适应资源调度方法、装置及电子设备,方法包括:检测到服务器运行时,对服务器的运行状态进行监测,得到实时运行状态;检测到服务器接收到请求数据时,对服务器的负载情况进行监测,得到实时负载情况;基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整。本发明实施例通过监测Tomcat等服务器运行状态和负载情况,智能地分配资源并合理调度,以最大化地提升Tomcat等服务器的性能和稳定性,有效解决了目前通过运维人员监测和判断服务器的过载情况的人力成本高且准确性低的问题。
Description
技术领域
本发明涉及金融科技技术领域,尤其涉及一种自适应资源调度方法、装置及电子设备。
背景技术
随着技术的发展,金融科技出现在人们的生活中。金融科技是基于大数据、云计算、人工智能、区块链等一系列技术创新,全面应用于支付清算、借贷融资、财富管理、零售银行、保险、交易结算等六大金融领域,是金融业未来的主流趋势。金融科技通过利用各类科技手段创新传统金融行业所提供的产品和服务,提升效率并有效降低运营成本。
在金融科技中,应用系统的底层开发经常采用Java Web进行开发。而Tomcat是一款广泛应用的Web服务器和Servlet容器,被广泛应用于Java Web开发领域。例如,采用Tomcat作为服务器提供服务时,每连接一个负载都要消耗资源,当大量负载同时连接并发起服务器请求,Tomcat可能会出现服务器不再响应客户端请求,甚至出现服务器崩溃的情况。现有技术中需要工作人员对服务器的运行情况进行监测,并依据工作人员的经验判断是否存在服务器过载的情况,消耗大量的人力资源,而且判断准确性低的问题。
因此,现有技术还有待于改进和发展。
发明内容
鉴于上述现有技术的不足,本发明提供了一种自适应资源调度方法、装置及电子设备,旨在解决现有技术中需要工作人员对服务器的运行情况进行监测,并依据工作人员的经验判断是否存在服务器过载的情况,消耗大量的人力资源,而且判断准确性低的问题。
本发明的技术方案如下:
本发明第一实施例提供了一种自适应资源调度方法,所述方法包括:
检测到服务器运行时,对服务器的运行状态进行监测,得到实时运行状态;
检测到服务器接收到请求数据时,对服务器的负载情况进行监测,得到实时负载情况;
基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整。
进一步地,所述基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整后,还包括:
每隔一预定时间对服务器的性能进行监测,得到监测信息,将所述监测信息发送至开发人员终端。
进一步地,所述检测到服务器运行时,对服务器的运行状态进行监测,得到实时运行状态,包括:
检测到服务器运行时,对服务器的运行过程中的CPU占用率、内存使用信息及线程池状态进行监测,得到服务器的实时运行状态。
进一步地,所述检测到服务器接收到请求数据时,对服务器的负载情况进行监测,得到实时负载情况,包括:
检测到服务器接收到的请求数据时,对请求数据进行解析;
根据解析后的请求数据对服务器的负载情况进行监测,得到实时负载情况。
进一步地,所述每隔一预定时间对服务器的性能进行监测,得到监测信息,将所述监测信息发送至开发人员终端,包括:
每隔一预定时间对服务器的性能进行监测,得到监测信息;
将监测信息导出为预定格式的目标监控信息;
将所述目标监控信息通过邮件、消息队列或API接口发送至开发人员终端。
进一步地,所述基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整,包括:
获取所述实时运行状态和实时负载情况,对服务器的运行状态和负载情况进行解析,判断应用程序的内存溢出次数是否超过预设的次数阈值;
若存在应用程序的内存溢出的次数超过预设的次数阈值,则增加JVM内存参数或是调整垃圾回收机制。
进一步地,所述基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整,包括:
获取所述实时运行状态和实时负载情况,对服务器的运行状态和负载情况进行解析,判断应用程序的线程资源占用比例是否超过预设的比例阈值;
若应用程序的线程资源占用比例超过预设的比例阈值,则对服务器中的线程池大小、线程数和连接数进行调整。
本发明的另一实施例提供了一种自适应资源调度装置,装置包括:
运行监测模块,用于检测到服务器运行时,对服务器的运行状态进行监测,得到实时运行状态;
负载监测模块,用于检测到服务器接收到数据时,对服务器的负载情况进行监测,得到实时负载情况;
资源调度模块,用于基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整。
本发明的另一实施例提供了一种电子设备,所述电子设备包括至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述的自适应资源调度方法。
本发明的另一实施例还提供了一种非易失性计算机可读存储介质,所述非易失性计算机可读存储介质存储有计算机可执行指令,该计算机可执行指令被一个或多个处理器执行时,可使得所述一个或多个处理器执行上述的自适应资源调度方法。
有益效果:本发明实施例的自适应资源调度方法,通过监测Tomcat等服务器运行状态和负载情况,智能地分配资源并合理调度,以最大化地提升Tomcat等服务器的性能和稳定性,有效解决了目前通过运维人员监测和判断服务器的过载情况的人力成本高且准确性低的问题。
附图说明
下面将结合附图及实施例对本发明作进一步说明,附图中:
图1为本发明一种自适应资源调度方法较佳实施例的流程图;
图2为本发明一种自适应资源调度装置的较佳实施例的功能模块示意图;
图3为本发明一种电子设备的较佳实施例的硬件结构示意图。
具体实施方式
为使本发明的目的、技术方案及效果更加清楚、明确,以下对本发明进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
以下结合附图对本发明实施例进行介绍。
针对上述问题,本发明实施例提供了一种自适应资源调度方法,请参阅图1,图1为本发明一种自适应资源调度方法较佳实施例的流程图。如图1所示,其包括:
步骤S100、检测到服务器运行时,对服务器的运行状态进行监测,得到实时运行状态;
步骤S200、检测到服务器接收到请求数据时,对服务器的负载情况进行监测,得到实时负载情况;
步骤S300、基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整。
具体实施时,本发明实施例的自适应资源调度方法,应用于服务器。以Tomcat服务器为例进行介绍。Tomcat服务器是一个免费的开放源代码的Web应用服务器,属于轻量级应用服务器,在中小型系统和并发访问用户不是很多的场合下被普遍使用,是开发和调试JSP程序的首选。当在一台机器上配置好Apache服务器,可利用它响应HTML(标准通用标记语言下的一个应用)页面的访问请求。实际上Tomcat是Apache服务器的扩展,但运行时它是独立运行的,所以当公司运行tomcat时,它实际上作为一个与Apache独立的进程单独运行的。
监测Tomcat运行状态:采集Tomcat的运行数据,得到Tomcat的实时运行状态;
检测到服务器接收到请求数据时,对服务器的负载情况进行监测,得到实时负载情况,负载主要是指与服务器连接的应用程序。
根据Tomcat的运行状态和负载情况,自动调整资源分配策略,如增加或减少线程数、优化JVM参数、合理分配内存等。
在一个实施例中,基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整后,还包括:
每隔一预定时间对服务器的性能进行监测,得到监测信息,将所述监测信息发送至开发人员终端。
具体实施时,在Tomcat运行过程中,定期进行性能监测和告警,并将性能监测数据及时发送至开发人员终端,使得开发人员能够及时发现潜在的性能问题并进行处理。
在一个实施例中,检测到服务器运行时,对服务器的运行状态进行监测,得到实时运行状态,包括:
检测到服务器运行时,对服务器的运行过程中的CPU占用率、内存使用信息及线程池状态进行监测,得到服务器的实时运行状态。
具体实施时,采集Tomcat的运行数据,包括CPU占用率、内存使用情况、线程池状态等。监测方式主要通过启用Tomcat JMX监控器,可以在运行时获取各种性能指标,包括CPU使用率,内存占用情况等。在Tomcat的bin/catalina.sh脚本中设置CATALINA_OPTS环境变量,指定JMX监控端口和密码等参数即可。
在一个实施例中,检测到服务器接收到请求数据时,对服务器的负载情况进行监测,得到实时负载情况,包括:
检测到服务器接收到的请求数据时,对请求数据进行解析;
根据解析后的请求数据对服务器的负载情况进行监测,得到实时负载情况。
具体实施时,检测到Tomcat接收到的请求数据时,对请求数据进行解析,解析的请求数据包括请求量、响应时间等,根据请求量、响应时间来对服务器的负载情况进行监测,得到实时负载情况。
在一个实施例中,每隔一预定时间对服务器的性能进行监测,得到监测信息,将所述监测信息发送至开发人员终端,包括:
每隔一预定时间对服务器的性能进行监测,得到监测信息;
将监测信息导出为预定格式的目标监控信息;
将所述目标监控信息通过邮件、消息队列或API接口发送至开发人员终端。
具体实施时,性能监控可以通过java自带的jconsole工具,可以连接到Tomcat服务器的JMX监控端口,并查看监控数据,我们可以把监控数据导出成CSV或Json格式,然后沟通邮件、消息队列或RESTFul API等方式发送给开发人员进行分析。
JConsole是一个基于JMX的GUI工具,用于连接正在运行的JVM,不过此JVM需要使用可管理的模式启动。
RESTFul是用URL定位资源、用HTTP动词(GET、POST、PUT、DELETE)描述操作。RESTFul以资源为基础:资源可以是一个图片、音乐、一个XML格式、HTML格式或者JSON格式等网络上的一个实体,除了一些二进制的资源外普通的文本资源更多以JSON为载体、面向用户的一组数据(通常从数据库中查询而得到)。
RESTFul具有统一接口:对资源的操作包括获取、创建、修改和删除,这些操作正好对应HTTP协议提供的GET、POST、PUT和DELETE方法。换言而知,使用RESTful风格的接口但从接口上你可能只能定位其资源,但是无法知晓它具体进行了什么操作,需要具体了解其发生了什么操作动作要从其HTTP请求方法类型上进行判断。具体的HTTP方法和方法含义如下:
GET(SELECT):从服务器取出资源(一项或多项);
POST(CREATE):在服务器新建一个资源;
PUT(UPDATE):在服务器更新资源(客户端提供完整资源数据);
PATCH(UPDATE):在服务器更新资源(客户端提供需要修改的资源数据);
DELETE(DELETE):从服务器删除资源。
在一个实施例中,基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整,包括:
获取所述实时运行状态和实时负载情况,对服务器的运行状态和负载情况进行解析,判断应用程序的内存溢出次数是否超过预设的次数阈值;
若存在应用程序的内存溢出的次数超过预设的次数阈值,则增加JVM内存参数或是调整垃圾回收机制。
具体实施时,具体分配策略可以根据监控数据进行调整,如发现Tomcat应用程序经常出现内存溢出等问题,内存溢出次数超过预设的次数阈值时,可以适当增加JVM内存参数,如-Xmx、-Xms等,也可以调整垃圾回收机制(如-XX:+UseConcMarkSweepGC)来优化内存使用效率。预设的次数阈值可设置为大于2的整数时。
在一个实施例中,基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整,包括:
获取所述实时运行状态和实时负载情况,对服务器的运行状态和负载情况进行解析,判断应用程序的线程资源占用比例是否超过预设的比例阈值;
若应用程序的线程资源占用比例超过预设的比例阈值,则对服务器中的线程池大小、线程数和连接数进行调整。
具体实施时,发现Tomcat应用程序中线程资源占用过高,即线程资源占用比例超过预设的比例阈值,例如预设的比例阈值或设置为50%-99%之间。可以适当调整Tomcat中的线程池大小、线程数和连接数等参数来优化资源分配策略。调整的策略可以根据研发人员自定义策略进行调整。
与现有技术相比,本发明实施例的自适应资源调度方法,具有以下特点:
自适应性强:能够根据不同的负载情况和资源限制,自动调整资源分配策略。
性能提升:合理分配资源,避免资源浪费和拥堵,最大限度地提升Tomcat的性能表现。
稳定性保障:在确保性能的前提下,最大限度地保障Tomcat的稳定性和可靠性。
需要说明的是,上述各步骤之间并不必然存在一定的先后顺序,本领域普通技术人员,根据本发明实施例的描述可以理解,不同实施例中,上述各步骤可以有不同的执行顺序,亦即,可以并行执行,亦可以交换执行等等。
本发明另一实施例提供一种自适应资源调度装置,如图2所示,装置1包括:
运行监测模块11,用于检测到服务器运行时,对服务器的运行状态进行监测,得到实时运行状态;
负载监测模块12,用于检测到服务器接收到数据时,对服务器的负载情况进行监测,得到实时负载情况;
资源调度模块13,用于基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整。
具体实施方式见方法实施例,此处不再赘述。
在一个实施例中,装置还包括信息发送模块,信息发送模块具体用于:
每隔一预定时间对服务器的性能进行监测,得到监测信息,将所述监测信息发送至开发人员终端。
具体实施方式见方法实施例,此处不再赘述。
在一个实施例中,运行监测模块11具体用于:
检测到服务器运行时,对服务器的运行过程中的CPU占用率、内存使用信息及线程池状态进行监测,得到服务器的实时运行状态。
具体实施方式见方法实施例,此处不再赘述。
在一个实施例中,负载监测模块12具体用于:
检测到服务器接收到的请求数据时,对请求数据进行解析;
根据解析后的请求数据对服务器的负载情况进行监测,得到实时负载情况。
具体实施方式见方法实施例,此处不再赘述。
在一个实施例中,信息发送模块还用于:
每隔一预定时间对服务器的性能进行监测,得到监测信息;
将监测信息导出为预定格式的目标监控信息;
将所述目标监控信息通过邮件、消息队列或API接口发送至开发人员终端。
具体实施方式见方法实施例,此处不再赘述。
在一个实施例中,资源调度模块13还用于:
获取所述实时运行状态和实时负载情况,对服务器的运行状态和负载情况进行解析,判断应用程序的内存溢出次数是否超过预设的次数阈值;
若存在应用程序的内存溢出的次数超过预设的次数阈值,则增加JVM内存参数或是调整垃圾回收机制。
具体实施方式见方法实施例,此处不再赘述。
在一个实施例中,资源调度模块13还用于:
获取所述实时运行状态和实时负载情况,对服务器的运行状态和负载情况进行解析,判断应用程序的线程资源占用比例是否超过预设的比例阈值;
若应用程序的线程资源占用比例超过预设的比例阈值,则对服务器中的线程池大小、线程数和连接数进行调整。
具体实施方式见方法实施例,此处不再赘述。
本发明另一实施例提供一种电子设备,如图3所示,电子设备10包括:
一个或多个处理器110以及存储器120,图3中以一个处理器110为例进行介绍,处理器110和存储器120可以通过总线或者其他方式连接,图3中以通过总线连接为例。
处理器110用于完成电子设备10的各种控件逻辑,其可以为通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、单片机、ARM(Acorn RISCMachine)或其它可编程逻辑器件、分立门或晶体管逻辑、分立的硬件控件或者这些部件的任何组合。还有,处理器110还可以是任何传统处理器、微处理器或状态机。处理器110也可以被实现为计算设备的组合,例如,DSP和微处理器的组合、多个微处理器、一个或多个微处理器结合DSP核、或任何其它这种配置。
存储器120作为一种非易失性计算机可读存储介质,可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块,如本发明实施例中的自适应资源调度方法对应的程序指令。处理器110通过运行存储在存储器120中的非易失性软件程序、指令以及单元,从而执行设备10的各种功能应用以及数据处理,即实现上述方法实施例中的自适应资源调度方法。
存储器120可以包括存储程序区和存储数据区,其中,存储程序区可存储操作装置、至少一个功能所需要的应用程序;存储数据区可存储根据设备10使用所创建的数据等。此外,存储器120可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中,存储器120可选包括相对于处理器110远程设置的存储器,这些远程存储器可以通过网络连接至设备10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
一个或者多个单元存储在存储器120中,当被一个或者多个处理器110执行时,执行上述任意方法实施例中的自适应资源调度方法,例如,执行以上描述的图1中的方法步骤S100至步骤S300。
本发明实施例提供了一种非易失性计算机可读存储介质,计算机可读存储介质存储有计算机可执行指令,该计算机可执行指令被一个或多个处理器执行,例如,执行以上描述的图1中的方法步骤S100至步骤S300。
作为示例,非易失性存储介质能够包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦ROM(EEPROM)或闪速存储器。易失性存储器能够包括作为外部高速缓存存储器的随机存取存储器(RAM)。通过说明并非限制,RAM可以以诸如同步RAM(SRAM)、动态RAM、(DRAM)、同步DRAM(SDRAM)、双数据速率SDRAM(DDR SDRAM)、增强型SDRAM(ESDRAM)、Synchlink DRAM(SLDRAM)以及直接Rambus(兰巴斯)RAM(DRRAM)之类的许多形式得到。本文中所描述的操作环境的所公开的存储器控件或存储器旨在包括这些和/或任何其他适合类型的存储器中的一个或多个。
本发明的另一种实施例提供了一种计算机程序产品,计算机程序产品包括存储在非易失性计算机可读存储介质上的计算机程序,计算机程序包括程序指令,当程序指令被处理器执行时,使处理器执行上述方法实施例的自适应资源调度方法。例如,执行以上描述的图1中的方法步骤S100至步骤S300。
以上所描述的实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际需要选择其中的部分或者全部模块来实现本实施例方案的目的。
通过以上的实施例的描述,本领域的技术人员可以清楚地了解到各实施例可借助软件加通用硬件平台的方式来实现,当然也可以通过硬件实现。基于这样的理解,上述技术方案本质上或者说对相关技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存在于计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机装置(可以是个人计算机,服务器,或者网络装置等)执行各个实施例或者实施例的某些部分的方法。
除了其他之外,诸如"能够'、"能"、"可能"或"可以"之类的条件语言除非另外具体地陈述或者在如所使用的上下文内以其他方式理解,否则一般地旨在传达特定实施方式能包括(然而其他实施方式不包括)特定特征、元件和/或操作。因此,这样的条件语言一般地还旨在暗示特征、元件和/或操作对于一个或多个实施方式无论如何都是需要的或者一个或多个实施方式必须包括用于在有或没有输入或提示的情况下判定这些特征、元件和/或操作是否被包括或者将在任何特定实施方式中被执行的逻辑。
已经在本文中在本说明书和附图中描述的内容包括能够提供自适应资源调度方法及装置的示例。当然,不能够出于描述本公开的各种特征的目的来描述元件和/或方法的每个可以想象的组合,但是可以认识到,所公开的特征的许多另外的组合和置换是可能的。因此,显而易见的是,在不脱离本公开的范围或精神的情况下能够对本公开做出各种修改。此外,或在替代方案中,本公开的其他实施例从对本说明书和附图的考虑以及如本文中所呈现的本公开的实践中可能是显而易见的。意图是,本说明书和附图中所提出的示例在所有方面被认为是说明性的而非限制性的。尽管在本文中采用了特定术语,但是它们在通用和描述性意义上被使用并且不用于限制的目的。
Claims (10)
1.一种自适应资源调度方法,其特征在于,应用于服务器,所述方法包括:
检测到服务器运行时,对服务器的运行状态进行监测,得到实时运行状态;
检测到服务器接收到请求数据时,对服务器的负载情况进行监测,得到实时负载情况;
基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整。
2.根据权利要求1所述的方法,其特征在于,所述基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整后,还包括:
每隔一预定时间对服务器的性能进行监测,得到监测信息,将所述监测信息发送至开发人员终端。
3.根据权利要求2所述的方法,其特征在于,所述检测到服务器运行时,对服务器的运行状态进行监测,得到实时运行状态,包括:
检测到服务器运行时,对服务器的运行过程中的CPU占用率、内存使用信息及线程池状态进行监测,得到服务器的实时运行状态。
4.根据权利要求3所述的方法,其特征在于,所述检测到服务器接收到请求数据时,对服务器的负载情况进行监测,得到实时负载情况,包括:
检测到服务器接收到的请求数据时,对请求数据进行解析;
根据解析后的请求数据对服务器的负载情况进行监测,得到实时负载情况。
5.根据权利要求4所述的方法,其特征在于,所述每隔一预定时间对服务器的性能进行监测,得到监测信息,将所述监测信息发送至开发人员终端,包括:
每隔一预定时间对服务器的性能进行监测,得到监测信息;
将监测信息导出为预定格式的目标监控信息;
将所述目标监控信息通过邮件、消息队列或API接口发送至开发人员终端。
6.根据权利要求5所述的方法,其特征在于,所述基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整,包括:
获取所述实时运行状态和实时负载情况,对服务器的运行状态和负载情况进行解析,判断应用程序的内存溢出次数是否超过预设的次数阈值;
若存在应用程序的内存溢出的次数超过预设的次数阈值,则增加JVM内存参数或是调整垃圾回收机制。
7.根据权利要求5所述的方法,其特征在于,所述基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整,包括:
获取所述实时运行状态和实时负载情况,对服务器的运行状态和负载情况进行解析,判断应用程序的线程资源占用比例是否超过预设的比例阈值;
若应用程序的线程资源占用比例超过预设的比例阈值,则对服务器中的线程池大小、线程数和连接数进行调整。
8.一种自适应资源调度装置,其特征在于,所述装置包括:
运行监测模块,用于检测到服务器运行时,对服务器的运行状态进行监测,得到实时运行状态;
负载监测模块,用于检测到服务器接收到数据时,对服务器的负载情况进行监测,得到实时负载情况;
资源调度模块,用于基于所述实时运行状态和实时负载情况,对服务器的资源分配策略进行调整。
9.一种电子设备,其特征在于,所述电子设备包括至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7任一项所述的自适应资源调度方法。
10.一种非易失性计算机可读存储介质,其特征在于,所述非易失性计算机可读存储介质存储有计算机可执行指令,该计算机可执行指令被一个或多个处理器执行时,可使得所述一个或多个处理器执行权利要求1-7任一项所述的自适应资源调度方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310785902.XA CN116954893A (zh) | 2023-06-29 | 2023-06-29 | 一种自适应资源调度方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310785902.XA CN116954893A (zh) | 2023-06-29 | 2023-06-29 | 一种自适应资源调度方法、装置及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116954893A true CN116954893A (zh) | 2023-10-27 |
Family
ID=88457484
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310785902.XA Pending CN116954893A (zh) | 2023-06-29 | 2023-06-29 | 一种自适应资源调度方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116954893A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117891696A (zh) * | 2024-03-15 | 2024-04-16 | 天津医康互联科技有限公司 | 计算资源调整方法、装置、电子设备和可读存储介质 |
-
2023
- 2023-06-29 CN CN202310785902.XA patent/CN116954893A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117891696A (zh) * | 2024-03-15 | 2024-04-16 | 天津医康互联科技有限公司 | 计算资源调整方法、装置、电子设备和可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101222349B (zh) | 收集web用户行为及性能数据的方法及系统 | |
CN111124819B (zh) | 全链路监控的方法和装置 | |
US8387059B2 (en) | Black-box performance control for high-volume throughput-centric systems | |
US8707194B1 (en) | System and method for decentralized performance monitoring of host systems | |
US8572158B2 (en) | Distributed computing by carrier-hosted agent | |
CN107370806B (zh) | Http状态码监控方法、装置、存储介质和电子设备 | |
JP4841982B2 (ja) | 性能情報収集方法、装置、及びプログラム | |
TW200419414A (en) | Grid service scheduling of related services using heuristics | |
US8032633B2 (en) | Computer-implemented method for implementing a requester-side autonomic governor using feedback loop information to dynamically adjust a resource threshold of a resource pool scheme | |
US8417744B2 (en) | Techniques to manage a collection of objects in heterogeneous environments | |
CN106027595A (zh) | 用于cdn节点的访问日志处理方法及系统 | |
CN116954893A (zh) | 一种自适应资源调度方法、装置及电子设备 | |
CN112804244B (zh) | Api网关对底层微服务流量智能控制方法、装置及设备 | |
CN109271359A (zh) | 日志信息处理方法、装置、电子设备及可读存储介质 | |
CN110011875A (zh) | 拨测方法、装置、设备及计算机可读存储介质 | |
CN112527600A (zh) | 监控日志处理方法、装置、设备及存储介质 | |
US8250212B2 (en) | Requester-side autonomic governor | |
US9600251B1 (en) | Enhancing API service schemes | |
CN116521344B (zh) | 一种基于资源总线的ai算法调度方法及系统 | |
CN113111077A (zh) | 一致性的控制方法、装置、电子设备、介质和程序产品 | |
US9021109B1 (en) | Controlling requests through message headers | |
CN115002044B (zh) | 控制数据传输的方法、装置、计算机设备及存储介质 | |
CN116095005A (zh) | 流量管理方法、装置、设备、介质和程序产品 | |
CN114417200A (zh) | 网络数据的采集方法、装置及电子设备 | |
CN109034768B (zh) | 财务调拨方法、装置、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |