CN115794660B - 一种基于分布式程序评测的控制方法、装置及系统 - Google Patents
一种基于分布式程序评测的控制方法、装置及系统 Download PDFInfo
- Publication number
- CN115794660B CN115794660B CN202310064636.1A CN202310064636A CN115794660B CN 115794660 B CN115794660 B CN 115794660B CN 202310064636 A CN202310064636 A CN 202310064636A CN 115794660 B CN115794660 B CN 115794660B
- Authority
- CN
- China
- Prior art keywords
- evaluation
- machine
- current
- evaluating
- task
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Abstract
本申请涉及计算机程序评测领域,尤其是涉及一种基于分布式程序评测的控制方法、装置及系统。为了解决当前的负载均衡方式并不能真正做到负载均衡,影响分布式程序评测效率的问题,通过获取评测机当前实际的可再承载负载情况,确定一个目标评测机来执行评测任务,做到真正的负载均衡;有利于提升分布式程序评测网络的评测效率。
Description
技术领域
本申请涉及计算机程序评测领域,尤其是涉及一种基于分布式程序评测的控制方法、装置及系统。
背景技术
对于计算机专业的学生或者业余爱好者,在计算机程序源码编写完成后,通常需要进行评测才能确定程序的完整性或正确性,尤其是在编程竞赛中,需要及时给出每个参赛者所提交源码的评测结果。
在程序评测系统上市之前,主要是通过评判老师人工识别每一行代码,一一进行检测,这种评测方式效率非常低,而且也不够准确。于是,后续衍生了程序评测系统,目前,程序评测系统已广泛流行于全国各大高校程序设计类教学中。ACM(AssociationforComputingMachinery,美国计算机协会)竞赛在全国各大高校迅速发展,其中北京大学、浙江大学、华中科技大学等高校中,程序评测体系已经相当完善,吸引了全国各地高校的竞赛集训选手。参赛者通过登录程序评测系统,提交源码,系统评测服务自动编译并执行,并将执行结果对比测试用例,给出评测结果,使得效率和准确性都得到了极大提升。
随着互联网的高速发展,竞赛的难度和参与人数都呈现较大增长趋势,导致评测需求极大地增加,为了更好地满足评测需求,目前程序评测系统采用了分布式程序评测网络,通过多个计算节点共同配合完成评测任务,提高评测效率。当大量的、高并发的评测任务到来时,采用权重、轮询等方式分发评测任务到各个评测机,执行评测任务,以期实现负载均衡。由于每个评测任务的评测难度不尽相同,评测机之间的处理性能也不尽相同,当前的负载均衡方式并不能真正做到负载均衡,影响分布式程序评测的效率。
发明内容
为了解决当前的负载均衡方式并不能真正做到负载均衡,影响分布式程序评测效率的问题,本申请提供了一种基于分布式程序评测的控制方法、装置及系统。
第一方面,本申请提供的基于分布式程序评测的控制方法,采用如下的技术方案:
一种基于分布式程序评测的控制方法,包括:
接收请求方发送的程序评测请求;
基于所述程序评测请求,生成第一评测任务;
获取各评测机当前的可再承载负载;所述各评测机包括与本端建立分布式程序评测网络,且用于执行评测任务的计算节点;
根据所述各评测机当前的可再承载负载,筛选目标评测机;
控制将所述第一评测任务发送给所述目标评测机;
接收所述目标评测机返回的第一评测结果;所述第一评测结果包括所述目标评测机通过执行所述第一评测任务得到的评测结果;
将所述第一评测结果发送给所述请求方。
通过采用上述技术方案:解决了当前分布式程序评测中任务分发(例如权重、轮询等)存在的无法真正做到负载均衡的问题,本方案基于评测机当前实际的可再承载负载情况,确定一个目标评测机来执行评测任务,做到真正的负载均衡;有利于提升分布式程序评测网络的评测效率。
可选的,所述获取各评测机当前的可再承载负载包括:
获取所述各评测机最近一个监听周期发送的心跳包,通过解析所述心跳包所携带的心跳包信息,得到所述评测机当前的可再承载负载。
通过采用上述技术方案,利用评测机向调度机周期性发送心跳包的机会,来监测获取各个评测机的负载情况,从而得到各个评测机当前的可再承载负载,以用于确定目标评测机。
可选的,所述心跳包信息包括对应评测机当前的运行线程数/运行进程数;
所述通过解析所述心跳包所携带的心跳包信息,得到所述评测机当前的可再承载负载包括:
通过解析所述心跳包所携带的心跳包信息,得到对应评测机当前的运行线程数/运行进程数;
获取所述评测机的最大运行线程数/最大运行进程数;
计算所述评测机的最大运行线程数,与所述当前的运行线程数之间的差值,作为所述评测机当前的可再承载负载;或,计算所述评测机的最大运行进程数,与所述当前的运行进程数之间的差值,作为所述评测机当前的可再承载负载。
通过采用上述技术方案,利用心跳包所携带的心跳包信息,线程数/进程数可在一定程度上反映负载大小,基于当前运行的线程数/进程数,与评测机最大可承载的线程数/进程数之间的差值,可准确体现各个评测机还可承载的负载(即可再承载负载),以此筛选出当前可再承载负载最大的评测机作为目标评测机,使得整体评测任务能够更均衡的分发,更高效的完成。
可选的,所述心跳包信息包括对应评测机当前正在执行与等待执行的任务总数;
所述通过解析所述心跳包所携带的心跳包信息,得到所述评测机当前的可再承载负载包括:
通过解析所述心跳包所携带的心跳包信息,得到对应评测机当前正在执行与等待执行的任务总数;
获取所述评测机的当前CPU占用率以及当前内存占用率;
基于所述评测机的所述任务总数与所述当前CPU占用率,计算所述评测机当前可再承载的任务数,作为第一任务数;
基于所述评测机的所述任务总数与所述当前内存占用率,计算所述评测机当前可再承载的任务数,作为第二任务数;
确定所述第一任务数与所述第二任务数之间的较小值;
将所述较小值作为所述评测机当前的可再承载负载。
通过采用上述技术方案,获取评测机当前正在执行与等待执行的任务总数,结合其当前CPU占用率以及当前内存占用率,挖掘占用率与任务数的关系,来预测还可承载的任务数,使得评测任务分配更加均衡。
可选的,所述根据所述各评测机当前的可再承载负载,筛选目标评测机包括:
选取所述可再承载负载对应数值最大的评测机,作为所述目标评测机。
通过采用上述技术方案,使得每一次评测任务都是分发给当前处理性能较强的评测机来处理,有利于提升分布式程序评测网络的整体评测效率。
可选的,所述控制方法还包括:
计算所述分布式程序评测网络中所有评测机当前的可再承载负载总和,与所述所有评测机的最大可承载负载总和之间的比值,作为所述分布式程序评测网络的当前负载水平;
判断所述当前负载水平是否处于设定负载水平区间范围内;所述设定负载水平区间包括设定负载水平下限和设定负载水平上限;
基于判断结果,按照预设优化规则对所述分布式程序评测网络的计算资源进行优化调整。
通过采用上述技术方案,通过计算分布式程序评测网络的当前负载水平,动态优化分布式程序评测网络的计算资源,避免计算资源的浪费或不足;有利于保证程序评测效率与经济性之间的平衡。
可选的,在所述计算所述分布式程序评测网络中所有评测机当前的可再承载负载总和之前,还包括:
判定所述目标评测机当前的可再承载负载小于第一设定可再承载负载阈值;
或,判定所述分布式程序评测网络中的相关评测机当前的可再承载负载,大于第二设定可再承载负载阈值;所述相关评测机为所述分布式程序评测网络中当前的可再承载负载对应数值最小的评测机;
所述第二设定可再承载负载阈值大于所述第一设定可再承载负载阈值。
通过采用上述技术方案,通过监测分布式程序评测网络中目标评测机与相关评测机的可再承载负载,来分析分布式程序评测网络的整体负载情况,达到预警的目的,并针对性地对分布式程序评测网络的计算资源进行优化调整。
可选的,所述基于判断结果,按照预设优化规则对所述分布式程序评测网络的计算资源进行优化调整包括:
在所述判断结果为所述当前负载水平处于所述设定负载水平区间范围内时,保持所述分布式程序评测网络的计算资源不变;
在所述判断结果为所述当前负载水平小于所述设定负载水平下限时,增加部署所述分布式程序评测网络的计算资源;
在所述判断结果为所述当前负载水平大于所述设定负载水平区间范围内时,减少部署所述分布式程序评测网络的计算资源。
通过采用上述技术方案,在分布式程序评测网络的当前负载水平小于设定负载水平下限时,表明整个网络可能已经处于比较超负荷的状态;此时触发增加部署计算资源的策略,以满足评测需求;在分布式程序评测网络的当前负载水平大于设定负载水平上限时,表明整个网络可能已经处于比较空闲的状态;此时触发减少部署计算资源的策略,以降低部署成本。
第二方面,本申请提供的基于分布式程序评测的控制装置,采用如下的技术方案:
一种基于分布式程序评测的控制装置,包括:
第一接收模块,用于接收请求方发送的程序评测请求;
任务生成模块,用于基于所述程序评测请求,生成第一评测任务;
第二接收模块,用于获取各评测机当前的可再承载负载;所述各评测机包括与本端建立分布式程序评测网络,且用于执行评测任务的计算节点;
筛选模块,用于根据所述各评测机当前的可再承载负载,筛选目标评测机;
第一发送模块,用于控制将所述第一评测任务发送给所述目标评测机;
第三接收模块,用于接收所述目标评测机返回的第一评测结果;所述第一评测结果包括所述目标评测机通过执行所述第一评测任务得到的评测结果;
第二发送模块,用于将所述第一评测结果发送给所述请求方。
第三方面,本申请提供的服务器,采用如下的技术方案:
一种服务器,包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述基于分布式程序评测的控制方法。
通过采用上述技术方案,提供了能执行实现上述基于分布式程序评测的控制方法的服务器。
第四方面,本申请提供的计算机可读存储介质,采用如下的技术方案:
计算机可读存储介质,所述计算机存储介质存储有计算机程序;所述计算机程序被处理器执行时实现上述基于分布式程序评测的控制方法。
通过采用上述技术方案,提供了基于分布式程序评测的控制方法的计算机程序的载体。
综上所述,本申请包括以下至少有益技术效果:
1.解决了当前分布式程序评测中任务分发(例如权重、轮询等)存在的无法真正做到负载均衡的问题,本方案基于评测机当前实际的可再承载负载情况,确定一个目标评测机来执行评测任务,做到真正的负载均衡;有利于提升分布式程序评测网络的评测效率。
2.通过计算分布式程序评测网络的当前负载水平,动态优化分布式程序评测网络的计算资源,避免计算资源的浪费或不足;有利于保证程序评测效率与经济性之间的平衡。
附图说明
图1是本申请实施例中一种基于分布式程序评测的控制方法的流程框图;
图2是本申请实施例中一种分布式程序评测网络架构框图;
图3是本申请实施例中另一种基于分布式程序评测的控制方法的流程框图;
图4是本申请实施例中基于分布式程序评测的控制装置结构框体;
图5是本申请实施例中基于分布式程序评测的控制系统流程交互框体;
图6是本申请实施例中服务器结构框体。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本申请,并不用于限定本申请。
本申请实施例公开基于分布式程序评测的控制方法。
参考图1,一种基于分布式程序评测的控制方法,包括以下步骤:
S101、接收请求方发送的程序评测请求。
请求方包括向评测系统发送待评测的软件源码/脚本,以请求对该软件源码/脚本进行评测的一方;例如请求方可以是参与编程竞赛的考生用户端。具体的,请求方可登录评测系统,提交待评测的软件源码/脚本,并发送给评测系统进行系统。
评测系统的调度机可接收请求方发送的程序评测请求。
在本申请的可选实施例中,程序评测系统可采用分布式程序评测网络架构。参考图2所示,程序评测系统可包括多个调度机和多个评测机,调度机主要用于评测请求的接收分发和评测结果转发处理,评测机主要用于执行评测任务,向调度机返回评测结果。
在本申请的可选实施例中,程序评测系统当接收到程序评测请求时,可基于轮询等方式,将程序评测请求发送给对应的调度机进行处理。当然,也可以采用其他方式确定对应的调度机,本实施例对此不做限制。
S102、基于程序评测请求,生成第一评测任务。
调度机接收到程序评测请求,可基于该程序评测请求,将请求进行封装以生成对应的评测任务,即第一评测任务。评测机基于该第一评测任务,即可执行该第一评测任务的处理,以对待评测的程序源码/脚本进行评测。应当理解的是,调度机具体生成评测任务的方式可采用现有任意方式,对此不做限制。
S103、获取各评测机当前的可再承载负载;各评测机包括与本端建立分布式程序评测网络,且用于执行评测任务的计算节点。
基于分布式程序评测网络,调度机可获取网络中各个评测机的负载情况,例如通过监听对方心跳的方式进行获取。评测机在向调度机进行注册之后,可周期性地向调度机发送心跳包,以向调度机反馈自身当前是否在线或存在故障。调度机可通过对各评测机发送的心跳包进行监听,获取每个评测机的正常/异常情况。
例如,超过设定周期未接收到评测机发送的心跳包,可标记该评测机离线;或者接收到评测机发送的心跳包,但是通过解析处理发现该评测机存在异常/故障,也可将该评测机标记为存在异常/故障;当然,若正常接收到评测机发送的心跳包,则解析处理未发现异常,则表明该评测机工作正常。
基于此,本申请可选实施例中,通过控制评测机在向调度机发送心跳包时,携带新增的心跳包信息,使得调度机在对评测机进行心跳监测的同时,获取评测机当前的可再承载负载。进而根据各个评测机当前的可再承载负载情况,选择目标评测机,做到真正的负载均衡;解决当前分布式程序评测中任务分发存在的无法真正做到负载均衡的问题,有利于提升分布式程序评测网络的评测效率。
可选的,调度机获取各评测机最近一个监听周期发送的心跳包,通过解析心跳包所携带的心跳包信息,得到对应评测机当前的可再承载负载。
本申请可选实施例中,心跳包信息包括对应评测机当前的运行线程数/运行进程数。应当理解的是,这里对应评测机指的是发送该心跳包的评测机,也即评测机发送心跳包时,需要将自身当前的运行线程数/运行进程数封装到该心跳包中。
对应的,调度机获取各评测机最近一个监听周期发送的心跳包,通过解析心跳包信息,获得对应评测机当前的运行线程数/运行进程数;进而计算得到该评测机当前的可再承载负载。
具体的,调度机通过获取评测机的最大运行线程数;计算该评测机的最大运行线程数,与其当前的运行线程数之间的差值,作为该评测机当前的可再承载负载。
应当理解的是,评测机的最大运行线程数/最大运行进程数可以采用现有任意方式获得得到,对此不做限制。例如评测机的最大运行线程数/最大运行进程数通常是固定值,这是基于评测机的计算性能所决定的,因此可在程序评测系统中,针对所部署的每个评测机预先设置其最大运行线程数/最大运行进程数。当然,若评测机的计算性能是动态变化的,则可在每个心跳周期内向调度机发送心跳包信息,以将评测机当前计算得到的最大运行线程数/最大运行进程数发送给调度机。
具体的,调度机也可通过获取评测机的最大运行进程数;计算该评测机的最大运行进程数,与其当前的运行进程数之间的差值,作为该评测机当前的可再承载负载。
通过采用上述技术方案,利用心跳包所携带的心跳包信息,线程数/进程数可在一定程度上反映负载大小,基于当前运行的线程数/进程数,与评测机最大可承载的线程数/进程数之间的差值,可准确体现各个评测机还可承载的负载(即可再承载负载),以此筛选出当前可再承载负载最大的评测机作为目标评测机,使得整体评测任务能够更均衡的分发,更高效的完成。
本申请可选实施例中,心跳包信息包括对应评测机当前的当前正在执行与等待执行的任务总数。同理,评测机发送心跳包时,需要将自身当前正在执行与等待执行的任务总数封装到该心跳包中。
对应的,调度机获取各评测机最近一个监听周期发送的心跳包,通过解析心跳包信息,获得对应评测机当前正在执行与等待执行的任务总数;进而计算得到该评测机当前的可再承载负载。
具体的,调度机通过获取评测机当前正在执行与等待执行的任务总数;进一步还需获取该评测机的当前CPU占用率以及当前内存占用率;基于该评测机的任务总数与当前CPU占用率,计算评测机当前可再承载的任务数,作为第一任务数;基于该评测机的任务总数与当前内存占用率,计算评测机当前可再承载的任务数,作为第二任务数;确定第一任务数与第二任务数之间的较小值;将较小值作为该评测机当前的可再承载负载。
应当理解的是,当前正在执行与等待执行的任务总数,评测机可通过统计计数得到。CPU占用率和内存占用率,评测机也可采用现有任意方式采集得到;例如通过任务管理器可实时监测到评测机的CPU和内存占用率。
基于该评测机当前正在执行与等待执行的任务总数与当前CPU占用率,计算该评测机当前可再承载的第一任务数,具体可采用如下方式:
假设任务总数为n,当前CPU占用率为20%,则可计算得到该评测机理论上CPU满负载处理的任务数为n/20%=5n,减去当前正在执行与等待执行的任务总数n(即5n-n),即可得到该评测机当前CPU还可再承载的任务数为5n-n=4n,即第一任务数为4n。
由于程序评测任务的执行过程不仅受限于评测机的CPU处理性能,还主要受限于评测机的内存性能,因此本申请实施例中,还需要结合该评测机的任务总数与当前内存占用率,计算该评测机当前可再承载的任务数(即第二任务数),以综合评判预测各评测机的可再承载负载,提升各评测机关于可再承载负载计算的准确性,有利于筛选出更准确的目标评测机来处理当前的第一评测任务,使得评测任务分配更加均衡。
其中,第二任务数的计算,同样可以采用上述方式。
假设任务总数为n,当前内存占用率为50%,则可计算得到该评测机理论上内存满负载处理的任务数为n/50%=2n,减去当前正在执行与等待执行的任务总数n(即2n-n),即可得到该评测机当前内存还可再承载的任务数为2n-n=n,即第二任务数为n。
根据评测机当前正在执行与等待执行的任务总数,以及当前CPU占用率和当前内存占用率,计算得到对应的第一任务数和第二任务数之后,确定第一任务数与第二任务数之间的较小值;这里该评测机的第一任务数为4n,第二任务数为n,表明该评测机的CPU还存在较大的余量资源,但是内存资源相对于CPU资源明显占用更大,因此该评测机的整体处理性能受限于内存余量资源,此时将内存余量资源对应第二任务数,作为该评测机当前的可再承载负载。
本申请可选实施例中,关于评测机/调度机,可以是物理机,也可以是虚拟机;可以是具体的计算节点/计算单元,例如一台计算机可以是一个评测机/调度机,一个工作站或者一台服务器也可以是一个评测机/调度机。在此不再赘述。
S104、根据各评测机当前的可再承载负载,筛选目标评测机。
通过以上对各评测机当前的可再承载负载的计算处理,选取可再承载负载对应数值最大的评测机,作为目标评测机,使得每一次评测任务都是分发给当前处理性能较强的评测机来处理,有利于提升分布式程序评测网络的整体评测效率。
S105、控制将第一评测任务发送给目标评测机。
在确定目标评测机之后,基于调度机与目标评测机之间的通信连接,可将第一评测任务发送给该目标评测机。
本申请实施例中,评测机主要负责具体评测任务的执行。评测流程设计为数据校验、文件准备、代码编译、用例执行、结果评测、结果同步、数据清理等步骤。
其中,数据校验负责校验评测任务的各项参数是否合法;文件准备负责创建当前评测任务的隔离空间以及代码、用例等文件;代码编译负责调用对应的编程语言的编译器进行代码编译;用例执行负责加载用例入参,并执行编译后的代码程序;结果评测负责判断程序执行结果是否准确以及CPU、内存、磁盘等性能指标是否合格;结果同步负责将评测结果同步至调度机;数据清理负责删除和释放整个评测流程中产生的文件和资源占用。
在本申请可选实施例中,评测机可采用现有任意方式或步骤,实现对评测任务的执行处理,并向调度机返回评测结果。在此不再赘述。
S106、接收目标评测机返回的第一评测结果;第一评测结果包括目标评测机通过执行第一评测任务得到的评测结果。
在本申请可选实施例中,评测结果包括但不限于通过测试“ACCEPTED”、答案错误“WRONG ANSWER”、待测程序没有在时间限制内给出答案“TIME LIMIT EXCEEDED”、待测程序没有在内存限制内给出答案“MEMORY LIMIT EXCEEDED”、待测程序崩溃“RUNTIME ERROE”、待测程序格式错误“PRESENTATION ERROR”、待测程序输出字符大于maxCharBuffer“OUTPUTLIMIT EXCEEDED”、待测程序没有通过编译“COMPILE ERROR”等。
S107、将第一评测结果发送给该请求方。
基于调度机与请求方之间的通信连接,调度机可将对应的第一评测结果发送给该请求方。
参考图3,在以上实施例的基础上,在本申请的可选实施例中,控制方法还包括:
S301、计算分布式程序评测网络中所有评测机当前的可再承载负载总和,与所有评测机的最大可承载负载总和之间的比值,作为分布式程序评测网络的当前负载水平。
以负载为线程数为例,将分布式程序评测网络中所有评测机当前的运行线程数相加求和,得到可再承载负载总和;将分布式程序评测网络中所有评测机的最大可承载负载进行相加求和,得到最大可承载负载总和;基于两者的比值,计算得到分布式程序评测网络的当前负载水平。
负载为进程数同理,在此不再赘述。
以负载为任务数为例,假设,分布式程序评测网络中包含评测机A和评测机B;其中,评测机A当前正在执行与等待执行的任务总数为1,CPU占用率为50%,内存占用率为33%,那么经计算可得评测机A的第一任务数为1,第二任务数为2;
评测机B当前正在执行与等待执行的任务总数为1,CPU占用率为20%,内存占用率为25%,那么经计算可得评测机B的第一任务数为4,第二任务数为3;
基于此,通过选取第一任务数和第二任务数的较小值,可分别确定评测机A当前的可再承载负载为1,评测机B当前的可再承载负载为3;两者相加求和,得到分布式程序评测网络所有评测机的可再承载负载总和为1+3=4,也即还可承载4个评测任务;
然后,计算分布式程序评测网络所有评测机的最大可承载负载总和,这里确定评测机A当前CPU满负载处理的任务数为1/50%=2;评测机B当前内存满负载处理的任务数为1/25%=4;两者相加求和,得到分布式程序评测网络所有评测机的最大可承载负载总和为2+4=6,也即评测机A和评测机B当前满负载预计共计可处理6个评测任务;
最后,计算分布式程序评测网络中所有评测机当前的可再承载负载总和(1+3=4,也即还可承载4个评测任务),与所有评测机的最大可承载负载总和之间的比值(2+4=6,也即当前满负载预计总共可处理6个评测任务),作为分布式程序评测网络的当前负载水平:4/6=66.7%。
在本申请的可选实施例中,在执行步骤S301之前,还包括:判定目标评测机当前的可再承载负载小于第一设定可再承载负载阈值。若目标评测机当前的可再承载负载小于第一设定可再承载负载阈值,表明分布式程序评测网络中,可承载负载最大的评测机已经无法满足当前评测任务的处理要求,表明整个网络可能已经处于超负荷运行;此时触发对整个网络的负载情况进行计算,以确定是否增加部署评测机,从而更好地满足评测需求。
或,判定分布式程序评测网络中的相关评测机当前的可再承载负载,大于第二设定可再承载负载阈值;其中,相关评测机为分布式程序评测网络中当前的可再承载负载对应数值最小的评测机。若相关评测机当前的可再承载负载,大于第二设定可再承载负载阈值,则表明分布式程序评测网络中可承载负载最小的评测机的余量资源较多,表明整个网络可能已经处于比较空闲的状态;此时触发对整个网络的负载情况进行计算,以确定是否减少部署评测机,降低部署成本。
应当理解的是,第二设定可再承载负载阈值与第一设定可再承载负载阈值,可根据实际需求灵活设置,只要第二设定可再承载负载阈值大于第一设定可再承载负载阈值即可。
例如,以线程数为例,第一设定可再承载负载阈值设置为500,第二设定可再承载负载阈值设置为5000;以任务数为例,第一设定可再承载负载阈值设置为2,第二设定可再承载负载阈值设置为10。
通过采用上述技术方案,通过监测分布式程序评测网络中目标评测机与相关评测机的可再承载负载,来分析分布式程序评测网络的整体负载情况,达到预警的目的,并针对性地对分布式程序评测网络的计算资源进行优化调整。
S302、判断当前负载水平是否处于设定负载水平区间范围内;其中设定负载水平区间包括设定负载水平下限和设定负载水平上限。
其中,设定负载水平下限和设定负载水平上限可根据实际需求灵活设置,对此不做限制。例如,设定负载水平下限设置为10%,设定负载水平上限为90%。
S303、基于判断结果,按照预设优化规则对分布式程序评测网络的计算资源进行优化调整。
在本申请可选实施例中,在判断结果为当前负载水平处于设定负载水平区间范围内时,保持分布式程序评测网络的计算资源不变。
在判断结果为当前负载水平小于设定负载水平下限时,表明当前余量资源较少,增加部署分布式程序评测网络的计算资源。
在判断结果为当前负载水平大于设定负载水平区间范围内时,表明当前余量资源较多,减少部署分布式程序评测网络的计算资源。
在分布式程序评测网络的当前负载水平小于设定负载水平下限时,表明整个网络可能已经处于比较超负荷的状态;此时触发增加部署计算资源的策略,以满足评测需求。在分布式程序评测网络的当前负载水平大于设定负载水平上限时,表明整个网络可能已经处于比较空闲的状态;此时触发减少部署计算资源的策略,以降低部署成本。
在本申请可选实施例中,当需要增加部署计算资源时,可通过调度机向设定云平台自主按需购买、申请、创建计算资源,并在计算资源上自动实现评测功能和/或调度功能的部署;以将该计算资源作为一评测机和/或调度机。当需要减少部署计算资源时,可通过调度机向对应的云平台申请释放计算资源,以减少费用。
其中,设定云平台可以是华为云、阿里云等公有云设施,也可以是基于 OpenStack的自建云设施,或Kubernetes等容器集群。公有云设施需要购买付费才能使用计算资源;而自建云、私有云不需要单独付费,但需要前期购买服务器并完成搭建部署才能使用;在需要使用计算资源时向服务器申请即可,例如申请资源配额、使用时长等。创建计算资源是指申请到资源后需要对其进行初始化操作。
通过计算分布式程序评测网络的当前负载水平,动态优化分布式程序评测网络的计算资源,一方面减少了人工干预和运维成本,同时也避免了计算资源的浪费或不足;有利于保证程序评测效率与经济性之间的平衡。
基于同一设计构思,本实施例还公开基于分布式程序评测的控制装置。
参考图4,一种基于分布式程序评测的控制装置,包括:
第一接收模块41,用于接收请求方发送的程序评测请求;
任务生成模块42,用于基于程序评测请求,生成第一评测任务;
第二接收模块43,用于获取各评测机当前的可再承载负载;各评测机包括与本端建立分布式程序评测网络,且用于执行评测任务的计算节点;
筛选模块44,用于根据各评测机当前的可再承载负载,筛选目标评测机;
第一发送模块45,用于控制将第一评测任务发送给目标评测机;
第三接收模块46,用于接收目标评测机返回的第一评测结果;第一评测结果包括目标评测机通过执行第一评测任务得到的评测结果;
第二发送模块47,用于将第一评测结果发送给请求方。
本申请可选实施例中,基于分布式程序评测的控制装置可实现上述基于分布式程序评测的控制方法的相关步骤,具体请参见上述描述,在此不再赘述。
基于同一设计构思,本申请还提供一种基于分布式程序评测的控制系统,参考图5,包括调度机和评测机;调度机与各评测机建立分布式程序评测网络;
调度机用于接收请求方发送的程序评测请求;基于程序评测请求,生成第一评测任务;获取各评测机当前的可再承载负载;根据各评测机当前的可再承载负载,筛选目标评测机;控制将第一评测任务发送给目标评测机;
目标评测机用于接收并执行第一评测任务,得到第一评测结果;并将第一评测结果发送给调度机;
调度机用于接收目标评测机返回的第一评测结果;将第一评测结果发送给请求方。
本申请可选实施例中,基于分布式程序评测的控制系统可实现上述基于分布式程序评测的控制方法的相关步骤,具体请参见上述描述,在此不再赘述。
本申请还提供一种计算机可读存储介质,存储有能够被处理器加载执行时实现上述步骤。
所述计算机可读存储介质例如包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
基于同一发明构思,本申请实施例提供一种服务器,参考图6,包括存储器62和处理器61,存储器62上存储有能够被处理器61加载并执行上述控制方法的计算机程序。
所述领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器、随机存取存储器、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,以上实施例仅用以对本申请的技术方案进行了详细介绍,但以上实施例的说明只是用于帮助理解本申请的方法及其核心思想,不应理解为对本申请的限制。本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本申请的保护范围之内。
Claims (6)
1.一种基于分布式程序评测的控制方法,其特征在于,所述控制方法包括:
接收请求方发送的程序评测请求;
基于所述程序评测请求,生成第一评测任务;
获取各评测机最近一个监听周期发送的心跳包,通过解析所述心跳包所携带的心跳包信息,得到对应评测机当前正在执行与等待执行的任务总数;
获取所述评测机的当前CPU占用率以及当前内存占用率;
基于所述评测机的所述任务总数与所述当前CPU占用率,计算所述评测机当前可再承载的任务数,作为第一任务数;
基于所述评测机的所述任务总数与所述当前内存占用率,计算所述评测机当前可再承载的任务数,作为第二任务数;
确定所述第一任务数与所述第二任务数之间的较小值;
将所述较小值作为所述评测机当前的可再承载负载;所述各评测机包括与本端建立分布式程序评测网络,且用于执行评测任务的计算节点;
根据所述各评测机当前的可再承载负载,选取所述可再承载负载对应数值最大的评测机,作为目标评测机;
控制将所述第一评测任务发送给所述目标评测机;
接收所述目标评测机返回的第一评测结果;所述第一评测结果包括所述目标评测机通过执行所述第一评测任务得到的评测结果;
将所述第一评测结果发送给所述请求方。
2.根据权利要求1所述的控制方法,其特征在于,所述控制方法还包括:
计算所述分布式程序评测网络中所有评测机当前的可再承载负载总和,与所述所有评测机的最大可承载负载总和之间的比值,作为所述分布式程序评测网络的当前负载水平;
判断所述当前负载水平是否处于设定负载水平区间范围内;所述设定负载水平区间包括设定负载水平下限和设定负载水平上限;
基于判断结果,按照预设优化规则对所述分布式程序评测网络的计算资源进行优化调整。
3.根据权利要求2所述的控制方法,其特征在于,在所述计算所述分布式程序评测网络中所有评测机当前的可再承载负载总和之前,还包括:
判定所述目标评测机当前的可再承载负载小于第一设定可再承载负载阈值;
或,判定所述分布式程序评测网络中的相关评测机当前的可再承载负载,大于第二设定可再承载负载阈值;所述相关评测机为所述分布式程序评测网络中当前的可再承载负载对应数值最小的评测机;
所述第二设定可再承载负载阈值大于所述第一设定可再承载负载阈值。
4.根据权利要求3所述的控制方法,其特征在于,所述基于判断结果,按照预设优化规则对所述分布式程序评测网络的计算资源进行优化调整包括:
在所述判断结果为所述当前负载水平处于所述设定负载水平区间范围内时,保持所述分布式程序评测网络的计算资源不变;
在所述判断结果为所述当前负载水平小于所述设定负载水平下限时,增加部署所述分布式程序评测网络的计算资源;
在所述判断结果为所述当前负载水平大于所述设定负载水平区间范围内时,减少部署所述分布式程序评测网络的计算资源。
5.一种基于分布式程序评测的控制装置,其特征在于,包括:
第一接收模块,用于接收请求方发送的程序评测请求;
任务生成模块,用于基于所述程序评测请求,生成第一评测任务;
第二接收模块,用于获取各评测机最近一个监听周期发送的心跳包,通过解析所述心跳包所携带的心跳包信息,得到对应评测机当前正在执行与等待执行的任务总数;获取所述评测机的当前CPU占用率以及当前内存占用率;基于所述评测机的所述任务总数与所述当前CPU占用率,计算所述评测机当前可再承载的任务数,作为第一任务数;基于所述评测机的所述任务总数与所述当前内存占用率,计算所述评测机当前可再承载的任务数,作为第二任务数;确定所述第一任务数与所述第二任务数之间的较小值;将所述较小值作为所述评测机当前的可再承载负载;所述各评测机包括与本端建立分布式程序评测网络,且用于执行评测任务的计算节点;
筛选模块,用于根据所述各评测机当前的可再承载负载,选取所述可再承载负载对应数值最大的评测机,作为目标评测机;
第一发送模块,用于控制将所述第一评测任务发送给所述目标评测机;
第三接收模块,用于接收所述目标评测机返回的第一评测结果;所述第一评测结果包括所述目标评测机通过执行所述第一评测任务得到的评测结果;
第二发送模块,用于将所述第一评测结果发送给所述请求方。
6.一种基于分布式程序评测的控制系统,其特征在于,包括调度机和评测机;所述调度机与各所述评测机建立分布式程序评测网络;
所述调度机用于接收请求方发送的程序评测请求;基于所述程序评测请求,生成第一评测任务;获取各评测机最近一个监听周期发送的心跳包,通过解析所述心跳包所携带的心跳包信息,得到对应评测机当前正在执行与等待执行的任务总数;获取所述评测机的当前CPU占用率以及当前内存占用率;基于所述评测机的所述任务总数与所述当前CPU占用率,计算所述评测机当前可再承载的任务数,作为第一任务数;基于所述评测机的所述任务总数与所述当前内存占用率,计算所述评测机当前可再承载的任务数,作为第二任务数;确定所述第一任务数与所述第二任务数之间的较小值;将所述较小值作为所述评测机当前的可再承载负载;根据各所述评测机当前的可再承载负载,选取所述可再承载负载对应数值最大的评测机,作为目标评测机;控制将所述第一评测任务发送给所述目标评测机;
所述目标评测机用于接收并执行所述第一评测任务,得到第一评测结果;并将所述第一评测结果发送给所述调度机;
所述调度机用于接收所述目标评测机返回的所述第一评测结果;将所述第一评测结果发送给所述请求方。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310064636.1A CN115794660B (zh) | 2023-02-06 | 2023-02-06 | 一种基于分布式程序评测的控制方法、装置及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310064636.1A CN115794660B (zh) | 2023-02-06 | 2023-02-06 | 一种基于分布式程序评测的控制方法、装置及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115794660A CN115794660A (zh) | 2023-03-14 |
CN115794660B true CN115794660B (zh) | 2023-05-16 |
Family
ID=85429902
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310064636.1A Active CN115794660B (zh) | 2023-02-06 | 2023-02-06 | 一种基于分布式程序评测的控制方法、装置及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115794660B (zh) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108228441A (zh) * | 2016-12-14 | 2018-06-29 | 北京金山云网络技术有限公司 | 一种应用程序评测报告的生成方法、装置以及评测报告 |
CN109508293A (zh) * | 2018-11-08 | 2019-03-22 | 上海洛谷网络科技有限公司 | 一种高并发的算法竞赛程序在线评测系统 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109542791B (zh) * | 2018-11-27 | 2019-11-29 | 湖南智擎科技有限公司 | 一种基于容器技术的程序大规模并发评测方法 |
CN112882827A (zh) * | 2019-11-29 | 2021-06-01 | 伊姆西Ip控股有限责任公司 | 用于负载均衡的方法、电子设备和计算机程序产品 |
CN112416888B (zh) * | 2020-10-16 | 2024-03-12 | 上海哔哩哔哩科技有限公司 | 用于分布式文件系统的动态负载均衡方法及系统 |
CN112099958B (zh) * | 2020-11-17 | 2021-03-02 | 深圳壹账通智能科技有限公司 | 分布式多任务管理方法、装置、计算机设备及存储介质 |
CN113553179A (zh) * | 2021-07-16 | 2021-10-26 | 北京东方国信科技股份有限公司 | 分布式键值存储负载均衡方法及系统 |
CN114676198A (zh) * | 2022-04-08 | 2022-06-28 | 河海大学 | 一种面向多模数据库的基准评测系统及其构建方法 |
CN115269193A (zh) * | 2022-08-01 | 2022-11-01 | 中国银行股份有限公司 | 自动化测试中实现分布式负载均衡的方法及装置 |
-
2023
- 2023-02-06 CN CN202310064636.1A patent/CN115794660B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108228441A (zh) * | 2016-12-14 | 2018-06-29 | 北京金山云网络技术有限公司 | 一种应用程序评测报告的生成方法、装置以及评测报告 |
CN109508293A (zh) * | 2018-11-08 | 2019-03-22 | 上海洛谷网络科技有限公司 | 一种高并发的算法竞赛程序在线评测系统 |
Non-Patent Citations (1)
Title |
---|
"面向大数据存储的主动与被动相结合的性能评测方法体系结构与实现";刘世缘等;《计算机工程与科学》;第44卷(第4期);第584-593页 * |
Also Published As
Publication number | Publication date |
---|---|
CN115794660A (zh) | 2023-03-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Sriram | SPECI, a simulation tool exploring cloud-scale data centres | |
US6434513B1 (en) | Method of load testing web applications based on performance goal | |
CN109062658A (zh) | 实现计算资源服务化的调度方法、装置、介质、设备及系统 | |
CN105242956B (zh) | 虚拟功能服务链部署系统及其部署方法 | |
CN103581247A (zh) | 一种基于云计算环境的分布式Web测试方法 | |
US20180254998A1 (en) | Resource allocation in a cloud environment | |
CN109617759A (zh) | 区块链系统稳定性测试方法、装置、设备及存储介质 | |
CN111611087B (zh) | 一种资源调度方法、装置和系统 | |
CN110262977A (zh) | 一种全链路性能测试方法、装置、计算设备及存储介质 | |
CN111860853B (zh) | 在线预测系统、设备、方法及电子设备 | |
US11838384B2 (en) | Intelligent scheduling apparatus and method | |
EP4095700A1 (en) | Method and system for micro-service testing, and storage medium | |
JP6191695B2 (ja) | 仮想リソース制御システムおよび仮想リソース制御方法 | |
CN111681112A (zh) | 一种管理投放策略的方法、装置和电子设备 | |
Proko et al. | Analysis and strategy for the performance testing in cloud computing | |
CN115794660B (zh) | 一种基于分布式程序评测的控制方法、装置及系统 | |
CN111949398A (zh) | 资源调度方法及装置 | |
CN111654411A (zh) | 一种巡检方法及相关装置 | |
Estrada et al. | EmBOINC: An emulator for performance analysis of BOINC projects | |
Bause et al. | A simulation environment for hierarchical process chains based on OMNeT++ | |
CN110737572B (zh) | 大数据平台资源抢占测试方法、系统、终端及存储介质 | |
Sagbo et al. | Quality architecture for resource allocation in cloud computing | |
Hauck et al. | Automatic derivation of performance prediction models for load-balancing properties based on goal-oriented measurements | |
Caban et al. | Prediction of the performance of Web based systems | |
Benmohammed-Mahieddine | An evaluation of load balancing algorithms for distributed systems |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |