CN115271102B - 一种机器学习引擎的任务导向的优先级方法及系统 - Google Patents
一种机器学习引擎的任务导向的优先级方法及系统 Download PDFInfo
- Publication number
- CN115271102B CN115271102B CN202211169956.5A CN202211169956A CN115271102B CN 115271102 B CN115271102 B CN 115271102B CN 202211169956 A CN202211169956 A CN 202211169956A CN 115271102 B CN115271102 B CN 115271102B
- Authority
- CN
- China
- Prior art keywords
- task
- card
- completed
- priority
- idle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供了一种机器学习引擎的任务导向的优先级方法及系统,其方法包括:确定用户的用户需求以及用卡状态,并判断所述用户的卡时额度是否充足,若不充足,则自动生成所述用户的待完成任务;分析所述待完成任务的任务优先级,并基于机器学习引擎规划对弹性任务的抢占时机;按照所述抢占时机,自动获取匹配资源供所述待完成任务使用。通过对确定需求以及用卡状态,便于向待完成任务规划弹性任务的优先处理情况,进而实现对待完成任务的优先级处理。
Description
技术领域
本发明涉及机器学习技术领域,特别涉及一种机器学习引擎的任务导向的优先级方法及系统。
背景技术
机器学习平台由云架构平台和数据平台共建,目前该平台为多个公司级的业务提供训练平台与加速服务,涉及到NLP、计算机视觉、强化学习、语音、广告等不同AI技术。该平台管理了近2万张GPU卡,这些卡根据运营管理部批算给各业务的不同额度,被各大业务以高优任务的方式使用。然而,有些业务需要跑的训练任务特别多,需要的卡数超过了额度卡预算,同时,有些业务又不可能把自身额度预算内的卡时给用满,这就造成了一部分业务想用而用不到,另一部分业务出现卡时浪费。
因此,本发明提出一种机器学习引擎的任务导向的优先级方法及系统。
发明内容
本发明提供一种机器学习引擎的任务导向的优先级方法及系统,用以通过对确定需求以及用卡状态,便于向待完成任务规划弹性任务的优先处理情况,进而实现对待完成任务的优先级处理。
本发明提出一种机器学习引擎的任务导向的优先级方法,包括:
步骤1:确定用户的用户需求以及用卡状态,并判断所述用户的卡时额度是否充足,若不充足,则自动生成所述用户的待完成任务;
步骤2:分析所述待完成任务的任务优先级,并基于机器学习引擎规划对弹性任务的抢占时机;
步骤3:按照所述抢占时机,自动获取匹配资源供所述待完成任务使用。
优选的,确定用户的用户需求以及用卡状态,并判断所述用户的卡时额度是否充足,包括:
按照所述用户需求,确定需求业务的训练任务;
基于卡使用模型预测基于所述训练任务的卡使用情况,同时,还捕捉所述训练任务基于预先分配的卡额度的实际使用情况以及实际使用过程中涉及到的第一任务;
判断预测的卡使用情况与实际使用情况的第一差异以及所述第一任务与所述训练任务的第二差异;
若所述第一差异为0,且所述第二差异也为0,则判定卡时额度充足;
若所述第一差异大于0,且所述第二差异也大于0,则判定卡时额度不充足;
若所述第一差异小于0,提取卡使用过程的第一日志,同时,还提取所述训练任务的当下执行过程的第二日志;
确定所述第一日志y1与第二日志y1的相似度sim(y1,y1),当所述相似度大于预设度时,判定所述卡使用过程与当下执行过程的过程异常一致;
基于所述过程异常对应的异常指标从过程更正数据库中调取相关的第一更正策略进行过程更正;
否则,基于所述第一日志y1提取第一不一致内容,基于所述第二日志y2提取第二不一致内容;
根据所述第一不一致内容与第二不一致内容的内容不一致指标,计算内容不一致性,并按照所述内容不一致性以及内容不一致指标,从过程更正数据库中,调取相关的第二更正策略进行过程更正;
基于更正结果,重新对卡时额度是否充足进行判断。
优选的,若不充足,则自动生成所述用户的待完成任务,包括:
确定未完成任务,并分析所述未完成任务中的整体未完成子任务的第一数量、部分未完成子任务的第二数量;
统计第一数量对应每个第一子任务的第一占用空间以及第二数量对应每个第二子任务的第二占用空间;
同时,还基于预设任务-权重数据库,获取第一数量对应的每个第一子任务的第一权重以及第二数量对应的每个第二子任务的第二权重;
按照所述第一权重以及第一占用空间,确定对应第一子任务的第一优先级,同时,按照所述第二权重以及第二占用空间,确定对应第二子任务的第二优先级;
基于对每个第一子任务设置的第一优先级以及对每个第二子任务设置的第二优先级,生成所述用户的待完成任务。
优选的,分析所述待完成任务的任务优先级,并基于机器学习引擎规划对弹性任务的抢占时机,包括:
根据所述待完成任务中每个第一子任务的第一优先级以及每个第二子任务的第二优先级,确定所述待完成任务的任务优先级;
同时,获取所述待完成任务的待执行状态以及申请卡数;
统计弹性任务空闲资源;
通过机器学习引擎,对所述任务优先级、待执行状态以及申请卡数基于所述弹性任务空闲资源进行规划,确定所述待完成任务对应的抢占时机。
优选的,通过机器学习引擎,对所述任务优先级、待执行状态以及申请卡数基于所述弹性任务空闲资源进行规划,确定所述待完成任务对应的抢占时机,包括:
建立规划函数u1(r1,d1,s1),其中,r1表示任务优先级;d1表示待执行状态;s1表示申请卡数;
提取所述弹性任务空闲资源中每个空闲卡的卡信息,并构建所述卡信息的信息函数u2(r2,d2,s2),其中,r2表示可执行任务优先级、d2表示可执行状态以及s2表示可申请卡数;
将所述规划函数u1(r1,d1,s1)依次与每个空闲卡的信息函数u2(r2,d2,s2)进行匹配,并从所有信息函数中提取满足r2≥r1、d2≥d1以及s2≥s1的第一函数;
当所述第一函数的个数为1时,基于所述第一函数对应的空闲卡设置与待完成任务匹配的抢占标识;
当所述第一函数的个数为多个时,对每个第一函数对应的空闲卡的运转时长,并筛选运转时长最短的空闲卡设置与待完成任务匹配的抢占标识;
当所述第一函数的个数为0时,筛选满足r2≥r1的第二函数,并对所述第二函数对应的空闲卡的空闲空间进行分别确定,同时,对所有第二函数对应的空闲卡对应的r2进行由小到大的排序,并按照排序结果,依次进行空间累加,当空间累加si和大于所述待完成任务所需要的空间s0时,判断s0*x1是否大于si,其中,x1表示对应待完成任务对应空间的占用补充系数,且取值范围为[1,1.3];
若大于,继续对si进行空间累加,直到s0*x1不大于最新累加后的si,向最新累加后的si对应的空闲卡设置与待完成任务匹配的抢占标识;
若不大于,向所述空间累加si对应的空闲卡设置与待完成任务匹配的抢占标识。
优选的,按照所述抢占时机,自动获取匹配资源供所述待完成任务使用,包括:
确定所述抢占时机对应的弹性任务;
基于所述弹性任务,自动获取匹配资源供所述待完成任务使用。
本发明提供一种机器学习引擎的任务导向的优先级系统,包括:
任务生成模块,用于确定用户的用户需求以及用卡状态,并判断所述用户的卡时额度是否充足,若不充足,则自动生成所述用户的待完成任务;
时机规划模块,用于分析所述待完成任务的任务优先级,并基于机器学习引擎规划对弹性任务的抢占时机;
自动匹配模块,用于按照所述抢占时机,自动获取匹配资源供所述待完成任务使用。
优选的,所述任务生成模块,包括:
任务确定单元,用于按照所述用户需求,确定需求业务的训练任务;
情况预测单元,用于基于卡使用模型预测基于所述训练任务的卡使用情况,同时,还捕捉所述训练任务基于预先分配的卡额度的实际使用情况以及实际使用过程中涉及到的第一任务;
差异判断单元,用于判断预测的卡使用情况与实际使用情况的第一差异以及所述第一任务与所述训练任务的第二差异;
若所述第一差异为0,且所述第二差异也为0,则判定卡时额度充足;
若所述第一差异大于0,且所述第二差异也大于0,则判定卡时额度不充足;
若所述第一差异小于0,提取卡使用过程的第一日志,同时,还提取所述训练任务的当下执行过程的第二日志;
相似度确定单元,用于确定所述第一日志y1与第二日志y1的相似度sim(y1,y1),当所述相似度大于预设度时,判定所述卡使用过程与当下执行过程的过程异常一致;
第一更正单元,用于基于所述过程异常对应的异常指标从过程更正数据库中调取相关的第一更正策略进行过程更正;
否则,基于所述第一日志y1提取第一不一致内容,基于所述第二日志y2提取第二不一致内容;
第二更正单元,用于根据所述第一不一致内容与第二不一致内容的内容不一致指标,计算内容不一致性,并按照所述内容不一致性以及内容不一致指标,从过程更正数据库中,调取相关的第二更正策略进行过程更正;
再判断单元,用于基于更正结果,重新对卡时额度是否充足进行判断。
优选的,所述任务生成模块,还包括:
数量确定单元,用于确定未完成任务,并分析所述未完成任务中的整体未完成子任务的第一数量、部分未完成子任务的第二数量;
空间统计单元,用于统计第一数量对应每个第一子任务的第一占用空间以及第二数量对应每个第二子任务的第二占用空间;
权重获取单元,用于基于预设任务-权重数据库,获取第一数量对应的每个第一子任务的第一权重以及第二数量对应的每个第二子任务的第二权重;
优先级确定单元,用于按照所述第一权重以及第一占用空间,确定对应第一子任务的第一优先级,同时,按照所述第二权重以及第二占用空间,确定对应第二子任务的第二优先级;
任务生成单元,用于基于对每个第一子任务设置的第一优先级以及对每个第二子任务设置的第二优先级,生成所述用户的待完成任务。
优选的,所述时机规划模块,包括:
任务优先级单元,用于根据所述待完成任务中每个第一子任务的第一优先级以及每个第二子任务的第二优先级,确定所述待完成任务的任务优先级;
获取单元,用于获取所述待完成任务的待执行状态以及申请卡数;
统计单元,用于统计弹性任务空闲资源;
规划单元,用于通过机器学习引擎,对所述任务优先级、待执行状态以及申请卡数基于所述弹性任务空闲资源进行规划,确定所述待完成任务对应的抢占时机。
与现有技术相比,本申请的有益效果如下:
通过对确定需求以及用卡状态,便于向待完成任务规划弹性任务的优先处理情况,进而实现对待完成任务的优先级处理。
本发明的其它特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。
下面通过附图和实施例,对本发明的技术方案做进一步的详细描述。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明,并不构成对本发明的限制。在附图中:
图1为本发明实施例中一种机器学习引擎的任务导向的优先级方法的流程图;
图2为本发明实施例中一种机器学习引擎的任务导向的优先级系统的结构图。
具体实施方式
以下结合附图对本发明的优选实施例进行说明,应当理解,此处所描述的优选实施例仅用于说明和解释本发明,并不用于限定本发明。
本发明提出一种机器学习引擎的任务导向的优先级方法,如图1所示,包括:
步骤1:确定用户的用户需求以及用卡状态,并判断所述用户的卡时额度是否充足,若不充足,则自动生成所述用户的待完成任务;
步骤2:分析所述待完成任务的任务优先级,并基于机器学习引擎规划对弹性任务的抢占时机;
步骤3:按照所述抢占时机,自动获取匹配资源供所述待完成任务使用。
该实施例中,确定用户的申请卡型号以及卡数量,当空闲资源中存在满足该条件的资源时,就可以申请到该资源,对待完成任务进行处理。
比如,用户的用户需求是需要执行业务1、2,且向用户分配的是采用GPU卡1处理,但是GPU卡1在处理了业务1之后,已经将卡占满,此时,在判断出GPU卡1卡时额度不充足的情况下,将业务2作为待完成任务。
该实施例中,确定业务2的任务优先级,优先级越高对应需要的执行时间越靠前,比如,业务2的优先级为01,此时,对应的机器学习引擎规划按照优先级以及业务2所需要的用卡型号以及用卡数量规划弹性任务,并根据不同卡型的剩余卡区间信息,来快速提交弹性任务,来抢占对业务2处理的时机,且时机即为对待完成任务需要处理的卡型以及处理时间。
该实施例中,自动获取匹配资源指的是自动获取对应可以处理待完成任务的卡的剩余卡时来对该待完成任务进行继续处理。
该实施例中,在对待完成任务进行规划的过程中,需要确定是否开启弹性任务,当需要开启时,将弹性资源启动,此时,设置相关的任务配置参数,具体参数与待完成任务匹配的业务标识、GPU卡的数量、型号等有关。
该实施例中,在规划弹性任务的过程中,还与不同区域的不同卡型号的剩余卡区间信息有关。
该实施例中,当当前GPU卡的空闲数量与当前任务申请数量自动进行匹配,如果相关需要执行的机器不满足申请需求时,对资源排队,到下一轮时继续为用户申请。
上述技术方案的有益效果是:通过对确定需求以及用卡状态,便于向待完成任务规划弹性任务的优先处理情况,进而实现对待完成任务的优先级处理。
本发明提出一种机器学习引擎的任务导向的优先级方法,确定用户的用户需求以及用卡状态,并判断所述用户的卡时额度是否充足,包括:
按照所述用户需求,确定需求业务的训练任务;
基于卡使用模型预测基于所述训练任务的卡使用情况,同时,还捕捉所述训练任务基于预先分配的卡额度的实际使用情况以及实际使用过程中涉及到的第一任务;
判断预测的卡使用情况与实际使用情况的第一差异以及所述第一任务与所述训练任务的第二差异;
若所述第一差异为0,且所述第二差异也为0,则判定卡时额度充足;
若所述第一差异大于0,且所述第二差异也大于0,则判定卡时额度不充足;
若所述第一差异小于0,提取卡使用过程的第一日志,同时,还提取所述训练任务的当下执行过程的第二日志;
确定所述第一日志y1与第二日志y1的相似度sim(y1,y1),当所述相似度大于预设度时,判定所述卡使用过程与当下执行过程的过程异常一致;
基于所述过程异常对应的异常指标从过程更正数据库中调取相关的第一更正策略进行过程更正;
否则,基于所述第一日志y1提取第一不一致内容,基于所述第二日志y2提取第二不一致内容;
根据所述第一不一致内容与第二不一致内容的内容不一致指标,计算内容不一致性,并按照所述内容不一致性以及内容不一致指标,从过程更正数据库中,调取相关的第二更正策略进行过程更正;
基于更正结果,重新对卡时额度是否充足进行判断。
该实施例中,第一差异为预测使用情况与实际使用情况的差,第二差异为第一任务与训练任务的差。
该实施例中,卡使用模型是预先训练好的,且是由历史训练任务、卡使用情况等为样本对神经网络模型训练得到的,因此,可以根据该模型预测得到卡的使用情况(预测结果),在此过程中,还会对卡的实际使用情况以及实际任务进行捕捉,通过对比,来确定是否是卡本身存在异常,导致对卡时额度的浪费。
该实施例中,训练任务可以就是业务1和业务2。
该实施例中,使用情况指的是该GPU卡对训练任务进行处理的过程中,会存在卡本身的实际使用情况以及在对训练任务进行处理过程中,实际处理到的任务,也就是第一任务。
该实施例中,实际使用情况与预测使用情况以及第一任务与训练任务进行差异判断,一方面是为了确定卡时额度是否充足,另一方面是为了确定GPU卡是否存在异常。
该实施例中,当差异不小于0时,提取日志,日志在GPU卡的使用过程以及执行过程中实时产生的,主要是为了确定两个日志的相似度,来方便对存在的异常的获取。
该实施例中,过程更正数据库中包括不同的更正策略以及不同组合的异常指标在内,因此,可以根据不同的异常指标来调取得到相关的更正策略,进而实现过程更正。
该实施例中,相似度主要是为了对日志的相似程度进行判断,预设度一般取值为0.8,当高于0.8时,判定存在的过程异常一致。
该实施例中,假如第一日志:01、02、03,第二日志:001、002、004,此时,03为第一不一致内容,004为第二不一致内容,进而来获取03与004的内容不一致指标,并计算内容不一致性,且内容不一致性主要时按照内容不一致指标的不一致值确定的。
该实施例中,内容不一致性是由于对应不一致内容的内容权重以及对应不一致内容的内容值相乘,并将所有相乘结果累加得到的。
该实施例中,过程更正数据库是包括不同组合的不一致性指标,以及对应匹配的不一致性在内的,因此,可以有效的调取到相关的更正策略,实现对过程的有效更正。
上述技术方案的有益效果是:通过进行卡使用情况以及任务的差异比较,来对卡时额度是否充足进行判断,同时,还便于对卡存在的异常进行确定,在对异常进行分析的过程中,通过日志相似度的比较,来实现内容不一致的分析,进而来从数据库中调取对应的策略进行更正,实现对卡异常的修复,保证卡的使用合理性,为后续规划提供可靠基础。
本发明提出一种机器学习引擎的任务导向的优先级方法,若不充足,则自动生成所述用户的待完成任务,包括:
确定未完成任务,并分析所述未完成任务中的整体未完成子任务的第一数量、部分未完成子任务的第二数量;
统计第一数量对应每个第一子任务的第一占用空间以及第二数量对应每个第二子任务的第二占用空间;
同时,还基于预设任务-权重数据库,获取第一数量对应的每个第一子任务的第一权重以及第二数量对应的每个第二子任务的第二权重;
按照所述第一权重以及第一占用空间,确定对应第一子任务的第一优先级,同时,按照所述第二权重以及第二占用空间,确定对应第二子任务的第二优先级;
基于对每个第一子任务设置的第一优先级以及对每个第二子任务设置的第二优先级,生成所述用户的待完成任务。
该实施例中,比如,存在业务1、业务2以及业务3,但是执行了业务1,业务2执行了一半,业务3还未开始执行,此时,业务3为整体未完整子任务,业务2为部分未完整子任务。
该实施例中,比如业务3中包含有5个第一子任务,未完成业务2中包含还未执行完的第二子任务为3个,此时,第一数量可以为5,第二数量也可以为3,每个子任务的占用空间都是预先设置好的,所以,可以得到不同子任务对应的占用空间。
该实施例中,预设任务-权重数据库是预先设置好的,且包括不同的子任务以及与子任务匹配的权重在内的,进而可以得到对应的权重。
该实施例中,优先级=权重*占用空间。
该实施例中,待完成任务即为剩余一半未执行的业务2以及还未执行的业务3,不过是将里边存在的任务的优先级进行了细化,来得到待完成任务。
上述技术方案的有益效果是:通过统计整体未完成子任务的数量以及部分未完成子任务的数量,以及不同子任务的占用空间以及权重,来分别向每个子任务设置优先级,进而得到待完成任务,为后续合理规划提供有效基础。
本发明提出一种机器学习引擎的任务导向的优先级方法,分析所述待完成任务的任务优先级,并基于机器学习引擎规划对弹性任务的抢占时机,包括:
根据所述待完成任务中每个第一子任务的第一优先级以及每个第二子任务的第二优先级,确定所述待完成任务的任务优先级;
同时,获取所述待完成任务的待执行状态以及申请卡数;
统计弹性任务空闲资源;
通过机器学习引擎,对所述任务优先级、待执行状态以及申请卡数基于所述弹性任务空闲资源进行规划,确定所述待完成任务对应的抢占时机。
该实施例中,任务优先级为包含的所有子任务的优先级的累加和所求取的平均值。
该实施例中,待执行状态指的是待完成任务需要处理的紧急程度,比如,着急、一般、不着急,申请卡数,比如是,对于该待完成任务一般是需要至少2个GPU卡才能满足处理要求的。
该实施例中,弹性任务空闲资源指的是其余机器的GPU卡的空闲空间以及可以处理的任务类型以及对对应任务类型的处理时间、处理量等。
该实施例中,规划指的是待完成任务的任务处理时间点以及任务处理卡。
上述技术方案的有益效果是:通过确定任务优先级、执行状态以及申请卡数,从多个维度来对待完成任务进行综合规划,保证规划的合理性。
本发明提出一种机器学习引擎的任务导向的优先级方法,通过机器学习引擎,对所述任务优先级、待执行状态以及申请卡数基于所述弹性任务空闲资源进行规划,确定所述待完成任务对应的抢占时机,包括:
建立规划函数u1(r1,d1,s1),其中,r1表示任务优先级;d1表示待执行状态;s1表示申请卡数;
提取所述弹性任务空闲资源中每个空闲卡的卡信息,并构建所述卡信息的信息函数u2(r2,d2,s2),其中,r2表示可执行任务优先级、d2表示可执行状态以及s2表示可申请卡数;
将所述规划函数u1(r1,d1,s1)依次与每个空闲卡的信息函数u2(r2,d2,s2)进行匹配,并从所有信息函数中提取满足r2≥r1、d2≥d1以及s2≥s1的第一函数;
当所述第一函数的个数为1时,基于所述第一函数对应的空闲卡设置与待完成任务匹配的抢占标识;
当所述第一函数的个数为多个时,对每个第一函数对应的空闲卡的运转时长,并筛选运转时长最短的空闲卡设置与待完成任务匹配的抢占标识;
当所述第一函数的个数为0时,筛选满足r2≥r1的第二函数,并对所述第二函数对应的空闲卡的空闲空间进行分别确定,同时,对所有第二函数对应的空闲卡对应的r2进行由小到大的排序,并按照排序结果,依次进行空间累加,当空间累加si和大于所述待完成任务所需要的空间s0时,判断s0*x1是否大于si,其中,x1表示对应待完成任务对应空间的占用补充系数,且取值范围为[1,1.3];
若大于,继续对si进行空间累加,直到s0*x1不大于最新累加后的si,向最新累加后的si对应的空闲卡设置与待完成任务匹配的抢占标识;
若不大于,向所述空间累加si对应的空闲卡设置与待完成任务匹配的抢占标识。
该实施例中,规划函数以及信息函数都是基于相同的函数来确定的,因此,来通过对函数中每个元素的比较情况,可以有效筛选出匹配的空闲卡,进而通过对对应空闲卡设置抢占标识,有效的方便待完成任务的优先处理,且抢占标识包括执行时间、执行任务,主要是为了对待完成任务占据一个坑位,来方便实现对待完成任务的优先级处理。
该实施例中,si针对的空闲卡的空闲空间的累加。
上述技术方案的有益效果是:通过设置规划函数以及信息函数,并进行三元素的比较,便于有效提取对应的空闲卡,来对待完成任务进行执行,且通过对空闲卡的数量进行分析以及对空闲卡的空闲空间进行确定,可以有效的确定出最终所对应的空闲卡,实现对待完成任务的优先级处理。
本发明提出一种机器学习引擎的任务导向的优先级方法,按照所述抢占时机,自动获取匹配资源供所述待完成任务使用,包括:
确定所述抢占时机对应的弹性任务;
基于所述弹性任务,自动获取匹配资源供所述待完成任务使用。
上述技术方案的有益效果是:通过确定弹性任务,方便快速的开始对待完成任务进行继续处理,保证优先处理的效率。
本发明提供一种机器学习引擎的任务导向的优先级系统,如图2所示,包括:
任务生成模块,用于确定用户的用户需求以及用卡状态,并判断所述用户的卡时额度是否充足,若不充足,则自动生成所述用户的待完成任务;
时机规划模块,用于分析所述待完成任务的任务优先级,并基于机器学习引擎规划对弹性任务的抢占时机;
自动匹配模块,用于按照所述抢占时机,自动获取匹配资源供所述待完成任务使用。
优选的,所述任务生成模块,包括:
任务确定单元,用于按照所述用户需求,确定需求业务的训练任务;
情况预测单元,用于基于卡使用模型预测基于所述训练任务的卡使用情况,同时,还捕捉所述训练任务基于预先分配的卡额度的实际使用情况以及实际使用过程中涉及到的第一任务;
差异判断单元,用于判断预测的卡使用情况与实际使用情况的第一差异以及所述第一任务与所述训练任务的第二差异;
若所述第一差异为0,且所述第二差异也为0,则判定卡时额度充足;
若所述第一差异大于0,且所述第二差异也大于0,则判定卡时额度不充足;
若所述第一差异小于0,提取卡使用过程的第一日志,同时,还提取所述训练任务的当下执行过程的第二日志;
相似度确定单元,用于确定所述第一日志y1与第二日志y1的相似度sim(y1,y1),当所述相似度大于预设度时,判定所述卡使用过程与当下执行过程的过程异常一致;
第一更正单元,用于基于所述过程异常对应的异常指标从过程更正数据库中调取相关的第一更正策略进行过程更正;
否则,基于所述第一日志y1提取第一不一致内容,基于所述第二日志y2提取第二不一致内容;
第二更正单元,用于根据所述第一不一致内容与第二不一致内容的内容不一致指标,计算内容不一致性,并按照所述内容不一致性以及内容不一致指标,从过程更正数据库中,调取相关的第二更正策略进行过程更正;
再判断单元,用于基于更正结果,重新对卡时额度是否充足进行判断。
优选的,所述任务生成模块,还包括:
数量确定单元,用于确定未完成任务,并分析所述未完成任务中的整体未完成子任务的第一数量、部分未完成子任务的第二数量;
空间统计单元,用于统计第一数量对应每个第一子任务的第一占用空间以及第二数量对应每个第二子任务的第二占用空间;
权重获取单元,用于基于预设任务-权重数据库,获取第一数量对应的每个第一子任务的第一权重以及第二数量对应的每个第二子任务的第二权重;
优先级确定单元,用于按照所述第一权重以及第一占用空间,确定对应第一子任务的第一优先级,同时,按照所述第二权重以及第二占用空间,确定对应第二子任务的第二优先级;
任务生成单元,用于基于对每个第一子任务设置的第一优先级以及对每个第二子任务设置的第二优先级,生成所述用户的待完成任务。
优选的,所述时机规划模块,包括:
任务优先级单元,用于根据所述待完成任务中每个第一子任务的第一优先级以及每个第二子任务的第二优先级,确定所述待完成任务的任务优先级;
获取单元,用于获取所述待完成任务的待执行状态以及申请卡数;
统计单元,用于统计弹性任务空闲资源;
规划单元,用于通过机器学习引擎,对所述任务优先级、待执行状态以及申请卡数基于所述弹性任务空闲资源进行规划,确定所述待完成任务对应的抢占时机。
上述技术方案的有益效果是:通过对确定需求以及用卡状态,便于向待完成任务规划弹性任务的优先处理情况,进而实现对待完成任务的优先级处理。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。
Claims (3)
1.一种机器学习引擎的任务导向的优先级方法,其特征在于,包括:
步骤1:确定用户的用户需求以及用卡状态,并判断所述用户的卡时额度是否充足,若不充足,则自动生成所述用户的待完成任务;
步骤2:分析所述待完成任务的任务优先级,并基于机器学习引擎规划对弹性任务的抢占时机;
步骤3:按照所述抢占时机,自动获取匹配资源供所述待完成任务使用;
其中,确定用户的用户需求以及用卡状态,并判断所述用户的卡时额度是否充足,包括:
按照所述用户需求,确定需求业务的训练任务;
基于卡使用模型预测基于所述训练任务的卡使用情况,同时,还捕捉所述训练任务基于预先分配的卡额度的实际使用情况以及实际使用过程中涉及到的第一任务;
判断预测的卡使用情况与实际使用情况的第一差异以及所述第一任务与所述训练任务的第二差异;
若所述第一差异为0,且所述第二差异也为0,则判定卡时额度充足;
若所述第一差异大于0,且所述第二差异也大于0,则判定卡时额度不充足;
若所述第一差异小于0,提取卡使用过程的第一日志,同时,还提取所述训练任务的当下执行过程的第二日志;
确定所述第一日志y1与第二日志y2的相似度sim(y1,y2),当所述相似度大于预设度时,判定所述卡使用过程与当下执行过程的过程异常一致;
基于所述过程异常对应的异常指标从过程更正数据库中调取相关的第一更正策略进行过程更正;
否则,基于所述第一日志y1提取第一不一致内容,基于所述第二日志y2提取第二不一致内容;
根据所述第一不一致内容与第二不一致内容的内容不一致指标,计算内容不一致性,并按照所述内容不一致性以及内容不一致指标,从过程更正数据库中,调取相关的第二更正策略进行过程更正;
基于更正结果,重新对卡时额度是否充足进行判断;
其中,若不充足,则自动生成所述用户的待完成任务,包括:
确定未完成任务,并分析所述未完成任务中的整体未完成子任务的第一数量、部分未完成子任务的第二数量;
统计第一数量对应每个第一子任务的第一占用空间以及第二数量对应每个第二子任务的第二占用空间;
同时,还基于预设任务-权重数据库,获取第一数量对应的每个第一子任务的第一权重以及第二数量对应的每个第二子任务的第二权重;
按照所述第一权重以及第一占用空间,确定对应第一子任务的第一优先级,同时,按照所述第二权重以及第二占用空间,确定对应第二子任务的第二优先级;
基于对每个第一子任务设置的第一优先级以及对每个第二子任务设置的第二优先级,生成所述用户的待完成任务;
其中,分析所述待完成任务的任务优先级,并基于机器学习引擎规划对弹性任务的抢占时机,包括:
根据所述待完成任务中每个第一子任务的第一优先级以及每个第二子任务的第二优先级,确定所述待完成任务的任务优先级;
同时,获取所述待完成任务的待执行状态以及申请卡数;
统计弹性任务空闲资源;
通过机器学习引擎,对所述任务优先级、待执行状态以及申请卡数基于所述弹性任务空闲资源进行规划,确定所述待完成任务对应的抢占时机;
其中,通过机器学习引擎,对所述任务优先级、待执行状态以及申请卡数基于所述弹性任务空闲资源进行规划,确定所述待完成任务对应的抢占时机,包括:
建立规划函数u1(r1,d1,s1),其中,r1表示任务优先级;d1表示待执行状态;s1表示申请卡数;
提取所述弹性任务空闲资源中每个空闲卡的卡信息,并构建所述卡信息的信息函数u2(r2,d2,s2),其中,r2表示可执行任务优先级、d2表示可执行状态以及s2表示可申请卡数;
将所述规划函数u1(r1,d1,s1)依次与每个空闲卡的信息函数u2(r2,d2,s2)进行匹配,并从所有信息函数中提取满足r2≥r1、d2≥d1以及s2≥s1的第一函数;
当所述第一函数的个数为1时,基于所述第一函数对应的空闲卡设置与待完成任务匹配的抢占标识;
当所述第一函数的个数为多个时,确定每个第一函数对应的空闲卡的运转时长,并筛选运转时长最短的空闲卡设置与待完成任务匹配的抢占标识;
当所述第一函数的个数为0时,筛选满足r2≥r1的第二函数,并对所述第二函数对应的空闲卡的空闲空间进行分别确定,同时,对所有第二函数对应的空闲卡对应的r2进行由小到大的排序,并按照排序结果,依次进行空间累加,当空间累加si和大于所述待完成任务所需要的空间s0时,判断s0*x1是否大于si,其中,x1表示对应待完成任务对应空间的占用补充系数,且取值范围为[1,1.3];
若大于,继续对si进行空间累加,直到s0*x1不大于最新累加后的si,向最新累加后的si对应的空闲卡设置与待完成任务匹配的抢占标识;
若不大于,向所述空间累加si对应的空闲卡设置与待完成任务匹配的抢占标识。
2.如权利要求1所述的机器学习引擎的任务导向的优先级方法,其特征在于,按照所述抢占时机,自动获取匹配资源供所述待完成任务使用,包括:
确定所述抢占时机对应的弹性任务;
基于所述弹性任务,自动获取匹配资源供所述待完成任务使用。
3.一种机器学习引擎的任务导向的优先级系统,其特征在于,包括:
任务生成模块,用于确定用户的用户需求以及用卡状态,并判断所述用户的卡时额度是否充足,若不充足,则自动生成所述用户的待完成任务;
时机规划模块,用于分析所述待完成任务的任务优先级,并基于机器学习引擎规划对弹性任务的抢占时机;
自动匹配模块,用于按照所述抢占时机,自动获取匹配资源供所述待完成任务使用;
所述任务生成模块,包括:
任务确定单元,用于按照所述用户需求,确定需求业务的训练任务;
情况预测单元,用于基于卡使用模型预测基于所述训练任务的卡使用情况,同时,还捕捉所述训练任务基于预先分配的卡额度的实际使用情况以及实际使用过程中涉及到的第一任务;
差异判断单元,用于判断预测的卡使用情况与实际使用情况的第一差异以及所述第一任务与所述训练任务的第二差异;
若所述第一差异为0,且所述第二差异也为0,则判定卡时额度充足;
若所述第一差异大于0,且所述第二差异也大于0,则判定卡时额度不充足;
若所述第一差异小于0,提取卡使用过程的第一日志,同时,还提取所述训练任务的当下执行过程的第二日志;
相似度确定单元,用于确定所述第一日志y1与第二日志y2的相似度sim(y1,y2),当所述相似度大于预设度时,判定所述卡使用过程与当下执行过程的过程异常一致;
第一更正单元,用于基于所述过程异常对应的异常指标从过程更正数据库中调取相关的第一更正策略进行过程更正;
否则,基于所述第一日志y1提取第一不一致内容,基于所述第二日志y2提取第二不一致内容;
第二更正单元,用于根据所述第一不一致内容与第二不一致内容的内容不一致指标,计算内容不一致性,并按照所述内容不一致性以及内容不一致指标,从过程更正数据库中,调取相关的第二更正策略进行过程更正;
再判断单元,用于基于更正结果,重新对卡时额度是否充足进行判断;
其中,所述任务生成模块,还包括:
数量确定单元,用于确定未完成任务,并分析所述未完成任务中的整体未完成子任务的第一数量、部分未完成子任务的第二数量;
空间统计单元,用于统计第一数量对应每个第一子任务的第一占用空间以及第二数量对应每个第二子任务的第二占用空间;
权重获取单元,用于基于预设任务-权重数据库,获取第一数量对应的每个第一子任务的第一权重以及第二数量对应的每个第二子任务的第二权重;
优先级确定单元,用于按照所述第一权重以及第一占用空间,确定对应第一子任务的第一优先级,同时,按照所述第二权重以及第二占用空间,确定对应第二子任务的第二优先级;
任务生成单元,用于基于对每个第一子任务设置的第一优先级以及对每个第二子任务设置的第二优先级,生成所述用户的待完成任务;
其中,所述时机规划模块,包括:
任务优先级单元,用于根据所述待完成任务中每个第一子任务的第一优先级以及每个第二子任务的第二优先级,确定所述待完成任务的任务优先级;
获取单元,用于获取所述待完成任务的待执行状态以及申请卡数;
统计单元,用于统计弹性任务空闲资源;
规划单元,用于通过机器学习引擎,对所述任务优先级、待执行状态以及申请卡数基于所述弹性任务空闲资源进行规划,确定所述待完成任务对应的抢占时机;
其中,所述规划单元,用于:
建立规划函数u1(r1,d1,s1),其中,r1表示任务优先级;d1表示待执行状态;s1表示申请卡数;
提取所述弹性任务空闲资源中每个空闲卡的卡信息,并构建所述卡信息的信息函数u2(r2,d2,s2),其中,r2表示可执行任务优先级、d2表示可执行状态以及s2表示可申请卡数;
将所述规划函数u1(r1,d1,s1)依次与每个空闲卡的信息函数u2(r2,d2,s2)进行匹配,并从所有信息函数中提取满足r2≥r1、d2≥d1以及s2≥s1的第一函数;
当所述第一函数的个数为1时,基于所述第一函数对应的空闲卡设置与待完成任务匹配的抢占标识;
当所述第一函数的个数为多个时,确定每个第一函数对应的空闲卡的运转时长,并筛选运转时长最短的空闲卡设置与待完成任务匹配的抢占标识;
当所述第一函数的个数为0时,筛选满足r2≥r1的第二函数,并对所述第二函数对应的空闲卡的空闲空间进行分别确定,同时,对所有第二函数对应的空闲卡对应的r2进行由小到大的排序,并按照排序结果,依次进行空间累加,当空间累加si和大于所述待完成任务所需要的空间s0时,判断s0*x1是否大于si,其中,x1表示对应待完成任务对应空间的占用补充系数,且取值范围为[1,1.3];
若大于,继续对si进行空间累加,直到s0*x1不大于最新累加后的si,向最新累加后的si对应的空闲卡设置与待完成任务匹配的抢占标识;
若不大于,向所述空间累加si对应的空闲卡设置与待完成任务匹配的抢占标识。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211169956.5A CN115271102B (zh) | 2022-09-26 | 2022-09-26 | 一种机器学习引擎的任务导向的优先级方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211169956.5A CN115271102B (zh) | 2022-09-26 | 2022-09-26 | 一种机器学习引擎的任务导向的优先级方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115271102A CN115271102A (zh) | 2022-11-01 |
CN115271102B true CN115271102B (zh) | 2022-12-16 |
Family
ID=83756982
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211169956.5A Active CN115271102B (zh) | 2022-09-26 | 2022-09-26 | 一种机器学习引擎的任务导向的优先级方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115271102B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116578406B (zh) * | 2023-07-13 | 2023-10-10 | 太极计算机股份有限公司 | 面向分布式机器学习系统的任务平台连续运行调度方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108768876A (zh) * | 2018-06-05 | 2018-11-06 | 清华大学深圳研究生院 | 一种面向机器学习框架的流量调度方法 |
CN110135575A (zh) * | 2017-12-29 | 2019-08-16 | 英特尔公司 | 用于分布式机器学习的通信优化 |
CN112749729A (zh) * | 2019-10-31 | 2021-05-04 | 辉达公司 | 基于比较模型参数的精度训练机器学习模型的处理器和系统 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7827283B2 (en) * | 2003-02-19 | 2010-11-02 | International Business Machines Corporation | System for managing and controlling storage access requirements |
GB0624024D0 (en) * | 2006-12-01 | 2007-01-10 | Ibm | Event correlation based trouble ticket resolution system incorporating adaptive rules optimization |
-
2022
- 2022-09-26 CN CN202211169956.5A patent/CN115271102B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110135575A (zh) * | 2017-12-29 | 2019-08-16 | 英特尔公司 | 用于分布式机器学习的通信优化 |
CN108768876A (zh) * | 2018-06-05 | 2018-11-06 | 清华大学深圳研究生院 | 一种面向机器学习框架的流量调度方法 |
CN112749729A (zh) * | 2019-10-31 | 2021-05-04 | 辉达公司 | 基于比较模型参数的精度训练机器学习模型的处理器和系统 |
Non-Patent Citations (2)
Title |
---|
任务调度过程中就绪队列的优化研究;陈英革等;《系统仿真学报》;20060420(第04期);全文 * |
数据中心网络流量调度的研究进展与趋势;李文信等;《计算机学报》;20200415(第04期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN115271102A (zh) | 2022-11-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11868890B2 (en) | Workflow optimization | |
CN111176852B (zh) | 资源分配方法、装置、芯片及计算机可读存储介质 | |
US7954106B2 (en) | Estimating resource usage system for allocating resources to tasks based upon the rating value of tasks and resources mapping | |
CN107885595A (zh) | 一种资源分配方法、相关设备及系统 | |
CN112685153A (zh) | 微服务调度方法、装置以及电子设备 | |
CN115271102B (zh) | 一种机器学习引擎的任务导向的优先级方法及系统 | |
CN115543577B (zh) | 基于协变量的Kubernetes资源调度优化方法、存储介质及设备 | |
CN104680302A (zh) | 一种体检导检方法及装置 | |
CN115033357A (zh) | 基于动态资源选择策略的微服务工作流调度方法及装置 | |
CN110263136B (zh) | 基于强化学习模型向用户推送对象的方法和装置 | |
WO2020106696A1 (en) | Scheduling tests in a laboratory environment | |
CN111124791A (zh) | 一种系统测试方法及装置 | |
CN113568747A (zh) | 基于任务分类与时序预测的云机器人资源调度方法及系统 | |
US7398510B2 (en) | Estimating software project requirements for resolving defect backlogs | |
CN114997532B (zh) | 不确定性环境下民事电话送达调度方法、终端及存储介质 | |
CN111046156A (zh) | 奖励数据的确定方法、装置和服务器 | |
CN114971922A (zh) | 车辆勘察的定损方法、装置、设备及存储介质 | |
CN114327925A (zh) | 一种电力数据实时计算调度优化方法及系统 | |
CN116594755B (zh) | 一种多平台机器学习任务的在线调度方法及系统 | |
CN112948092A (zh) | 批量作业的调度方法、装置、电子设备及存储介质 | |
CN111625352A (zh) | 调度方法、装置及存储介质 | |
CN113468036B (zh) | 任务执行耗时分析方法及装置、存储介质、终端 | |
Bartolini et al. | Synthetic incident generation in the reenactment of IT support organization behavior | |
CN115037625B (zh) | 网络切片处理方法、装置、电子设备及可读存储介质 | |
CN116661962B (zh) | 基于云计算技术的数据分析方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |