CN114968507A - 图像处理任务的调度方法及装置 - Google Patents
图像处理任务的调度方法及装置 Download PDFInfo
- Publication number
- CN114968507A CN114968507A CN202110459286.XA CN202110459286A CN114968507A CN 114968507 A CN114968507 A CN 114968507A CN 202110459286 A CN202110459286 A CN 202110459286A CN 114968507 A CN114968507 A CN 114968507A
- Authority
- CN
- China
- Prior art keywords
- task
- request
- task request
- real
- message queue
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请公开了一种图像处理任务的调度方法及装置,图像处理任务的调度方法包括:接收任务请求,其中,所述任务请求用于请求对目标图像进行处理;基于所述任务请求所请求的目标图像,确定所述任务请求的实时权重;在根据所述实时权重,确定所述任务请求为实时任务的情况下,为所述任务请求分配第一目标服务节点,并将所述任务请求发送给所述第一目标服务节点;在根据所述实时权重,确定所述任务请求为非实时任务的情况下,将所述任务请求存入任务消息队列进行排队,以等待调度。
Description
技术领域
本申请涉及终端设备领域,尤其涉及一种图像处理任务的调度方法及装置。
背景技术
目前,图像处理、图像识别这类人工智能算法服务主要以API请求提供实时服务,但API接口提供高算力图像处理服务的时候,需要一个GPU承载一个请求,因此,仅仅通过API为用户提供算法服务无法满足大并发需求。
在相关技术中,通过采用任务调度技术,协调计算任务在不同计算资源上的分配,即给计算任务少的计算资源上多分配任务,给计算任务多的计算资源上少分配任务,使计算处理能力和任务负载相匹配,以提高整个图像处理的效率。但是,在图像请求量爆发时,系统压力过大,会造成服务器算力资源使用率下降。
发明内容
本申请公开一种图像处理任务的调度方法及装置,以解决在图像请求量爆发时,系统压力过大,会造成服务器算力资源使用率下降的问题。
为了解决上述问题,本申请采用下述技术方案:
第一方面,本申请实施例公开一种图像处理任务的调度方法,包括:接收任务请求,其中,所述任务请求用于请求对目标图像进行处理;基于所述任务请求所请求的目标图像,确定所述任务请求的实时权重;在根据所述实时权重,确定所述任务请求为实时任务的情况下,为所述任务请求分配第一目标服务节点,并将所述任务请求发送给所述第一目标服务节点;在根据所述实时权重,确定所述任务请求为非实时任务的情况下,将所述任务请求存入任务消息队列进行排队,以等待调度。
第二方面,本申请实施例公开一种图像处理任务的调度装置,其特征在于,包括:接收模块,用于接收任务请求,其中,所述任务请求用于请求对目标图像进行处理;确定模块,用于基于所述任务请求所请求的目标图像,确定所述任务请求的实时权重;分配模块,用于在根据所述实时权重,确定所述任务请求为实时任务的情况下,为所述任务请求分配第一目标服务节点,并将所述任务请求发送给所述第一目标服务节点;存入模块,用于在根据所述实时权重,确定所述任务请求为非实时任务的情况下,将所述任务请求存入任务消息队列进行排队,以等待调度。
本申请采用的技术方案能够达到以下有益效果:
本申请实施例提供的一种图像处理任务的调度方法,包括:接收任务请求,其中,所述任务请求用于请求对目标图像进行处理;基于所述任务请求所请求的目标图像,确定所述任务请求的实时权重;在根据所述实时权重,确定所述任务请求为实时任务的情况下,为所述任务请求分配第一目标服务节点,并将所述任务请求发送给所述第一目标服务节点;在根据所述实时权重,确定所述任务请求为非实时任务的情况下,将所述任务请求存入任务消息队列进行排队,以等待调度。本申请根据任务请求的实时权重,将任务请求分为实时任务和非实时任务两种,以不同的处理方式分别对实时任务和非实时任务进行处理,有效解决了在图像任务请求量爆发时,系统压力过大,会造成服务器算力资源使用率下降的问题。
附图说明
图1为本申请实施例公开的一种图像处理任务的调度方法的流程示意图;
图2为本申请实施例公开的一种图像处理任务的调度装置的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员获得的所有其他实施例,都属于本申请保护的范围。
本申请的说明书和权利要求书中的术语“第一”、“第二”等是用于区别类似的对象,而不用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施,且“第一”、“第二”等所区分的对象通常为一类,并不限定对象的个数,例如第一对象可以是一个,也可以是多个。此外,说明书以及权利要求中“和/或”表示所连接对象的至少其中之一,字符“/”,一般表示前后关联对象是一种“或”的关系。
本申请实施例公开一种图像处理任务的调度方法,图1为本申请实施例公开的一种图像处理任务的调度方法的流程示意图。
S110、接收任务请求,其中,所述任务请求用于请求对目标图像进行处理。
在本申请中,服务器根据接收到的针对目标图像的任务请求对目标图像进行相应处理,任务请求可以包括图像搜索、图像对比、用户资产上传、下载以及图像资产查看等图像相关的任务请求。
S120、基于所述任务请求所请求的目标图像,确定所述任务请求的实时权重。
进一步的,根据任务请求所请求的目标图像的相关信息,可以确定该任务请求的实时权重,进而可以根据任务请求的实时权重,对任务请求进行调度。具体的,可以根据任务请求所请求的任务类型内容级任务请求所请求的目标图像的占用空间确定任务请求的实时权重。
S130、在根据所述实时权重,确定所述任务请求为实时任务的情况下,为所述任务请求分配第一目标服务节点,并将所述任务请求发送给所述第一目标服务节点。
具体的,在任务请求的实时权重大于且等于第一阈值的情况下,确定任务请求为实时任务,为该任务请求分配第一目标服务节点,并将该任务请求发送给第一目标服务节点进行处理,也就是说,对该任务请求进行实时分发处理,其中,第一阈值可以根据实际应用确定,例如,可以为1.6。
S140、在根据所述实时权重,确定所述任务请求为非实时任务的情况下,将所述任务请求存入任务消息队列进行排队,以等待调度。
具体的,在任务请求的实时权重小于第一阈值的情况下,确定任务请求为非实时任务,将该任务请求存入任务消息队列进行排队,以等待调度。
本申请根据任务请求的实时权重将任务请求分为实时任务和非实时任务,以不同的处理方式分别对实时任务和非实时任务进行处理,保证了实时任务的处理速度,提高了处理效率。
本申请实施例提供一种图像处理任务的调度方法,包括:接收任务请求,其中,所述任务请求用于请求对目标图像进行处理;基于所述任务请求所请求的目标图像,确定所述任务请求的实时权重;在根据所述实时权重,确定所述任务请求为实时任务的情况下,为所述任务请求分配第一目标服务节点,并将所述任务请求发送给所述第一目标服务节点;在根据所述实时权重,确定所述任务请求为非实时任务的情况下,将所述任务请求存入任务消息队列进行排队,以等待调度。本申请根据任务请求的实时权重,将任务请求分为实时任务和非实时任务两种,以不同的处理方式分别对实时任务和非实时任务进行处理,有效解决了在图像任务请求量爆发时,系统压力过大,会造成服务器算力资源使用率下降的问题。
在本申请实施例的一个可能的实现方式中,S120基于所述任务请求所请求的目标图像,确定所述任务请求的实时权重,可以包括:
S121、根据所述任务请求所请求的任务类型内容,确定所述任务请求的第一初始权重值。
具体的,在任务请求所请求的任务类型内容为图像搜索、图像对比等相关请求的情况下,可以确定任务请求的第一初始权重值为1;在任务请求所请求的任务类型内容为用户资产上传、下载、图像资产查看这类请求的情况下,可以确定任务请求的第一初始权重值为0.5。
S122、根据所述任务请求所请求的目标图像的占用空间,确定所述任务请求的第二初始权重值。
具体的,在任务请求所请求的目标图像的占用空间小于第一数值的情况下,可以确定任务请求的第二初始权重值为1;在任务请求的目标图像的占用空间大于第二数值的情况下,可以确定任务请求的第二初始权重值为0.5;在任务请求的目标图像的占用空间大于第一数值且小于第二数值的情况下,任务请求的第二初始权重值可以根据关系式ws=1.2-0.1x确定,ws表示第二初始权重值,x表示任务请求的目标图像的占用空间。其中,第一数值可以为2Mb,第二数值可以为6Mb。
S123、根据所述第一初始权重值和所述第二初始权重值之和确定所述任务请求的实时权重。
也就是说,根据任务请求所请求的任务类型内容确定的第一初始权重值和根据任务请求所请求的目标图像的占用空间确定的第二初始权重值之和,可以确定任务请求的实时权重。具体的,实时权重可以为第一初始权重值和第二初始权重值之和。
在本申请实施例的一个可能的实现方式中,S130确定所述任务请求为实时任务的情况下,为所述任务请求分配第一目标服务节点,可以包括:
S131、根据各个处理节点的传输带宽与第一预设阈值之间的关系,确定各个所述处理节点的第一权重值。
各个处理节点的传输带宽均不相同,根据各个处理节点的传输带宽与第一预设阈值之间的关系,可以确定各个处理节点的第一权重值。具体的,在处理节点的传输带宽小于10M的情况下,确定该处理节点的第一权重值为0.8;在处理节点的传输带宽大于或等于100M的情况下,确定该处理节点的第一权重值为1;在处理节点的传输带宽大于或等于500M的情况下,确定该处理节点的第一权重值为1.2。
S132、根据各个所述处理节点的传输时延与第二预设阈值之间的关系,确定各个所述处理节点的第二权重值。
各个处理节点的传输时延均不相同,根据各个处理节点的传输时延与第二预设阈值之间的关系,可以确定各个处理节点的第一权重值。具体的,在处理节点的传输时延小于10ms的情况下,确定该处理节点的第二权重值为1;在处理节点的传输时延大于或等于10ms的情况下,确定该处理节点的第二权重值为0.9;在处理节点的传输时延大于或等于100ms的情况下,确定该处理节点的第二权重值为0.7。
S133、选择所述第一权重值与所述第二权重值之和最大的处理节点作为第一目标服务节点。
也就是说,选择传输带宽最宽、传输时延最小的处理节点作为第一目标服务节点,并将为实时任务的任务请求发送给第一目标服务节点进行处理,例如,可以将传输带宽大于或等于500M且传输时延小于10ms的处理节点作为第一目标服务节点,从而可以保证实时任务能够及时处理。需要注意的是,随着任务请求数量的变化,处理节点的传输带宽和传输时延也会相应发生变化。
在本申请实施例的一个可能的实现方式中,S140确定所述任务请求为非实时任务的情况下,将所述任务请求存入任务消息队列进行排队,包括:根据发送所述任务请求的用户的优先级,将所述任务请求存入第一任务消息队列的第一位置。在本申请中,可以根据通信协议按照任务消息队列的承载量将任务请求分配至响应最快的第一任务消息队列,然后可以根据发送任务请求的用户的优先级,将该任务请求存入第一任务消息队列的第一位置。具体的,用户的优先级可以按照由低到高分为五个等级,其中,1为最低级优先级,5为最高级优先级。用户优先级默认为1,而存在高优先级的用户,则其优先级为4。在发送任务请求的用户的优先级为1的情况下,将该任务请求按照存入顺序存入第一任务消息队列的最后;在发送任务请求的优先级为4的情况下,将该任务请求存入第一任务消息队列中的低优先级用户的任务请求的前面,同等优先级用户的任务请求的后面。
在进一步的技术方案中,为了避免任务消息队列中某一优先级的用户的任务请求集中在某一个任务消息队列中,从而导致其他用户的任务请求不能被及时处理,在根据发送任务请求的用户的优先级,将任务请求存入第一任务消息队列的第一位置之后,图像任务处理的调度方法还可以包括:在预定周期到达时,获取多个任务消息队列中的任务请求,其中,所述多个任务消息队列包括所述第一任务消息队列;分别计算各个用户在任务系统中的前序任务占比率,其中,所述任务系统包括所述多个任务消息队列,所述前序任务占比率为一个用户在各个任务消息队列中排序前第一预定比例的任务请求与该用户在所述任务系统中的总任务请求的占比率;根据各个用户所述前序任务占比率,进行任务请求的任务消息队列调配。
以计算第一目标用户在各个任务消息队列中排序前百分之五十的任务请求与该用户在任务系统中的总任务请求的占比率为例,任务系统中的任务请求总量tasksum=task1+task2+…,第一目标用户的任务请求总量task1sum=task11+task21+…,第一目标用户的任务请求总量在任务系统中的任务请求总量的占比为ptask1sum=task1sum/tasksum,第一目标用户在各个任务消息队列排序前百分之五十的任务请求量占比p501sum=p5011+p5021+p5031+…,从而可以计算出前序任务占比率p1=ptask1sum*p501sum,其中,tasksum表示任务系统中的任务请求总量,task1表示第一目标用户的任务请求总量,task2表示第二目标用户的任务请求总量,task11表示第一目标用户在第一任务消息队列的任务请求总量,task21表示第一目标用户在第二任务消息队列的任务请求总量,ptask1sum表示第一目标用户的任务请求总量在任务系统中的任务请求总量的占比,p501sum表示第一目标用户在各个任务消息队列排序前百分之五十的任务请求量占比,p5011表示第一目标用户在第一任务消息队列排序前百分之五十的任务请求量占比,p5021表示第一目标用户在第二任务消息队列排序前百分之五十的任务请求量占比,p5031表示第一目标用户在第三任务消息队列排序前百分之五十的任务请求量占比。
在本申请实施例的一个可能的实现方式中,根据各个用户所述前序任务占比率,进行任务请求的任务消息队列调配,包括:在第一目标用户的所述前序任务占比率大于占比阈值的情况下,将所述第一目标用户在第二任务消息队列中的部分或全部任务请求调配到第三任务消息队列,其中,所述第三任务消息队列中的任务请求的数量少于所述第二任务消息队列中的任务请求的数量。也就是说,在第一目标用户的前序任务占比率大于占比阈值的情况下,可以将第一目标用户在第二任务消息队列中的排序前第一预定比例的任务请求调配到任务请求数量少于第二任务消息队列的第三任务消息队列,此外,也可以将第一目标用户在第二任务消息队列中的全部任务请求调配到第三任务消息队列。在第一目标用户的前序任务占比率不大于占比阈值的情况下,可以依旧按照之前的队列顺序进行处理。其中,占比阈值可以为百分之十。
本申请实施例通过对不同目标用户和不同任务请求进行分级处理,可以在提高图像任务请求大并发量下的用户体验的同时减少业务流失。
在一种可选的方案中,由于某种原因,同一用户的同一任务请求可能会同时存在两个任务消息队列中,例如,用户在没有收到某一任务请求的处理结果前,可能会再次发出相同的任务请求,由于同一任务请求到达的时间不同,从而可能导致被分配到不同的任务消息队列中。为了避免重复处理,在分别计算各个用户在任务系统中的前序任务占比率之前,还可以包括:在不同任务消息队列中存在同一用户的同一任务请求的情况下,删除第四任务消息队列中的所述同一任务请求,其中,所述第四任务消息队列中的任务请求的数量多于所述同一任务请求位于的第五任务消息队列中的任务请求的数量。也就是说,在不同任务消息队列中存在同一用户的同一任务请求的情况下,会删除任务请求数量较多的任务消息队列中相同的任务请求,以第一目标用户同时在第四任务消息队列和第五任务消息队列中存在同一任务请求为例,在第四任务消息队列中的任务请求数量多于第五任务消息队列中的任务请求数量的情况下,删除第四任务消息队列中的同一任务请求。在同一任务请求存在两个任务消息队列的情况下,可以将其中任务请求的数量较多的任务消息队列中重复任务请求删除,从而即避免了重复处理,又减少了任务较重的任务消息队列中的任务请求,提高了处理效率。
图2为本申请实施例公开的一种图像处理任务的调度装置的结构示意图。如图2所示,图像处理任务的调度装置200包括接收模块210、确定模块220、分配模块230和存入模块240。
在本申请中,接收模块210,用于接收任务请求,其中,所述任务请求用于请求对目标图像进行处理;确定模块220,用于基于所述任务请求所请求的目标图像,确定所述任务请求的实时权重;分配模块230,用于在根据所述实时权重,确定所述任务请求为实时任务的情况下,为所述任务请求分配第一目标服务节点,并将所述任务请求发送给所述第一目标服务节点;存入模块240,用于在根据所述实时权重,确定所述任务请求为非实时任务的情况下,将所述任务请求存入任务消息队列进行排队,以等待调度。
在一种实现方式中,确定模块220基于所述任务请求所请求的目标图像,确定所述任务请求的实时权重,包括:根据所述任务请求所请求的任务类型内容,确定所述任务请求的第一初始权重值;根据所述任务请求所请求的目标图像的占用空间,确定所述任务请求的第二初始权重值;根据所述第一初始权重值和所述第二初始权重值之和确定所述任务请求的实时权重。
在一种实现方式中,分配模块230确定所述任务请求为实时任务的情况下,为所述任务请求分配第一目标服务节点,包括:根据各个处理节点的传输带宽与第一预设阈值之间的关系,确定各个所述处理节点的第一权重值;根据各个所述处理节点的传输时延与第二预设阈值之间的关系,确定各个所述处理节点的第二权重值;选择所述第一权重值与所述第二权重值之和最大的处理节点作为第一目标服务节点。
在一种实现方式中,存入模块240确定所述任务请求为非实时任务的情况下,将所述任务请求存入任务消息队列进行排队,包括:根据发送所述任务请求的用户的优先级,将所述任务请求存入第一任务消息队列的第一位置。
在一种实现方式中,存入模块240还用于:在预定周期到达时,获取多个任务消息队列中的任务请求,其中,所述多个任务消息队列包括所述第一任务消息队列;分别计算各个用户在任务系统中的前序任务占比率,其中,所述任务系统包括所述多个任务消息队列,所述前序任务占比率为一个用户在各个任务消息队列中排序前第一预定比例的任务请求与该用户在所述任务系统中的总任务请求的占比率;根据各个用户所述前序任务占比率,进行任务请求的任务消息队列调配。
在一种实现方式中,存入模块240根据各个用户所述前序任务占比率,进行任务请求的任务消息队列调配,包括:在第一目标用户的所述前序任务占比率大于占比阈值的情况下,将所述第一目标用户在第二任务消息队列中的部分或全部任务请求调配到第三任务消息队列,其中,所述第三任务消息队列中的任务请求的数量少于所述第二任务消息队列中的任务请求的数量。
在一种实现方式中,存入模块240还用于在分别计算各个用户在任务系统中的前序任务占比率之前,在不同任务消息队列中存在同一用户的同一任务请求的情况下,删除第四任务消息队列中的所述同一任务请求,其中,所述第四任务消息队列中的任务请求的数量多于所述同一任务请求位于的第五任务消息队列中的任务请求的数量。
本申请实施例提供的该装置200,可执行前文方法实施例中所述的各方法,并实现前文方法实施例中所述的各方法的功能和有益效果,在此不再赘述。
本申请上文实施例中重点描述的是各个实施例之间的不同,各个实施例之间不同的优化特征只要不矛盾,均可以组合形成更优的实施例,考虑到行文简洁,在此则不再赘述。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (10)
1.一种图像处理任务的调度方法,其特征在于,包括:
接收任务请求,其中,所述任务请求用于请求对目标图像进行处理;
基于所述任务请求所请求的目标图像,确定所述任务请求的实时权重;
在根据所述实时权重,确定所述任务请求为实时任务的情况下,为所述任务请求分配第一目标服务节点,并将所述任务请求发送给所述第一目标服务节点;
在根据所述实时权重,确定所述任务请求为非实时任务的情况下,将所述任务请求存入任务消息队列进行排队,以等待调度。
2.根据权利要求1所述的图像处理任务的调度方法,其特征在于,基于所述任务请求所请求的目标图像,确定所述任务请求的实时权重,包括:
根据所述任务请求所请求的任务类型内容,确定所述任务请求的第一初始权重值;
根据所述任务请求所请求的目标图像的占用空间,确定所述任务请求的第二初始权重值;
根据所述第一初始权重值和所述第二初始权重值之和确定所述任务请求的实时权重。
3.根据权利要求1所述的图像处理任务的调度方法,其特征在于,确定所述任务请求为实时任务的情况下,为所述任务请求分配第一目标服务节点,包括:
根据各个处理节点的传输带宽与第一预设阈值之间的关系,确定各个所述处理节点的第一权重值;
根据各个所述处理节点的传输时延与第二预设阈值之间的关系,确定各个所述处理节点的第二权重值;
选择所述第一权重值与所述第二权重值之和最大的处理节点作为第一目标服务节点。
4.根据权利要求1所述的图像处理任务的调度方法,其特征在于,确定所述任务请求为非实时任务的情况下,将所述任务请求存入任务消息队列进行排队,包括:
根据发送所述任务请求的用户的优先级,将所述任务请求存入第一任务消息队列的第一位置。
5.根据权利要求4所述的图像处理任务的调度方法,其特征在于,所述方法还包括:
在预定周期到达时,获取多个任务消息队列中的任务请求,其中,所述多个任务消息队列包括所述第一任务消息队列;
分别计算各个用户在任务系统中的前序任务占比率,其中,所述任务系统包括所述多个任务消息队列,所述前序任务占比率为一个用户在各个任务消息队列中排序前第一预定比例的任务请求与该用户在所述任务系统中的总任务请求的占比率;
根据各个用户所述前序任务占比率,进行任务请求的任务消息队列调配。
6.根据权利要求5所述的图像处理任务的调度方法,其特征在于,根据各个用户所述前序任务占比率,进行任务请求的任务消息队列调配,包括:
在第一目标用户的所述前序任务占比率大于占比阈值的情况下,将所述第一目标用户在第二任务消息队列中的部分或全部任务请求调配到第三任务消息队列,其中,所述第三任务消息队列中的任务请求的数量少于所述第二任务消息队列中的任务请求的数量。
7.根据权利要求5所述的图像处理任务的调度方法,其特征在于,在分别计算各个用户在任务系统中的前序任务占比率之前,还包括:
在不同任务消息队列中存在同一用户的同一任务请求的情况下,删除第四任务消息队列中的所述同一任务请求,其中,所述第四任务消息队列中的任务请求的数量多于所述同一任务请求位于的第五任务消息队列中的任务请求的数量。
8.一种图像处理任务的调度装置,其特征在于,包括:
接收模块,用于接收任务请求,其中,所述任务请求用于请求对目标图像进行处理;
确定模块,用于基于所述任务请求所请求的目标图像,确定所述任务请求的实时权重;
分配模块,用于在根据所述实时权重,确定所述任务请求为实时任务的情况下,为所述任务请求分配第一目标服务节点,并将所述任务请求发送给所述第一目标服务节点;
存入模块,用于在根据所述实时权重,确定所述任务请求为非实时任务的情况下,将所述任务请求存入任务消息队列进行排队,以等待调度。
9.根据权利要求8所述的图像处理任务的调度装置,其特征在于,所述确定模块基于所述任务请求所请求的目标图像,确定所述任务请求的实时权重,包括:
根据所述任务请求所请求的任务类型内容,确定所述任务请求的第一初始权重值;
根据所述任务请求所请求的目标图像的占用空间,确定所述任务请求的第二初始权重值;
根据所述第一初始权重值和所述第二初始权重值之和确定所述任务请求的实时权重。
10.根据权利要求8所述的图像处理任务的调度装置,其特征在于,所述分配模块确定所述任务请求为实时任务的情况下,为所述任务请求分配第一目标服务节点,包括:
根据各个处理节点的传输带宽与第一预设阈值之间的关系,确定各个所述处理节点的第一权重值;
根据各个所述处理节点的传输时延与第二预设阈值之间的关系,确定各个所述处理节点的第二权重值;
选择所述第一权重值与所述第二权重值之和最大的处理节点作为第一目标服务节点。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110459286.XA CN114968507B (zh) | 2021-04-27 | 2021-04-27 | 图像处理任务的调度方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110459286.XA CN114968507B (zh) | 2021-04-27 | 2021-04-27 | 图像处理任务的调度方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114968507A true CN114968507A (zh) | 2022-08-30 |
CN114968507B CN114968507B (zh) | 2023-08-15 |
Family
ID=82972974
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110459286.XA Active CN114968507B (zh) | 2021-04-27 | 2021-04-27 | 图像处理任务的调度方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114968507B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011061630A (ja) * | 2009-09-11 | 2011-03-24 | Ricoh Co Ltd | 画像処理システム、画像形成装置、画像処理方法、プログラム、及び記録媒体 |
CN103559239A (zh) * | 2013-10-25 | 2014-02-05 | 北京奇虎科技有限公司 | 图片的处理方法及系统和任务服务器 |
CN105049268A (zh) * | 2015-08-28 | 2015-11-11 | 东方网力科技股份有限公司 | 分布式计算资源分配系统和任务处理方法 |
WO2017028724A1 (zh) * | 2015-08-19 | 2017-02-23 | 阿里巴巴集团控股有限公司 | 一种业务请求调整方法及设备 |
CN108958941A (zh) * | 2018-07-16 | 2018-12-07 | 沈阳东软医疗系统有限公司 | 图像处理方法和装置 |
CN109032801A (zh) * | 2018-07-26 | 2018-12-18 | 郑州云海信息技术有限公司 | 一种请求调度方法、系统及电子设备和存储介质 |
CN112214318A (zh) * | 2020-09-28 | 2021-01-12 | 苏州浪潮智能科技有限公司 | 一种任务调度方法、系统、设备以及介质 |
-
2021
- 2021-04-27 CN CN202110459286.XA patent/CN114968507B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011061630A (ja) * | 2009-09-11 | 2011-03-24 | Ricoh Co Ltd | 画像処理システム、画像形成装置、画像処理方法、プログラム、及び記録媒体 |
CN103559239A (zh) * | 2013-10-25 | 2014-02-05 | 北京奇虎科技有限公司 | 图片的处理方法及系统和任务服务器 |
WO2017028724A1 (zh) * | 2015-08-19 | 2017-02-23 | 阿里巴巴集团控股有限公司 | 一种业务请求调整方法及设备 |
CN105049268A (zh) * | 2015-08-28 | 2015-11-11 | 东方网力科技股份有限公司 | 分布式计算资源分配系统和任务处理方法 |
CN108958941A (zh) * | 2018-07-16 | 2018-12-07 | 沈阳东软医疗系统有限公司 | 图像处理方法和装置 |
CN109032801A (zh) * | 2018-07-26 | 2018-12-18 | 郑州云海信息技术有限公司 | 一种请求调度方法、系统及电子设备和存储介质 |
CN112214318A (zh) * | 2020-09-28 | 2021-01-12 | 苏州浪潮智能科技有限公司 | 一种任务调度方法、系统、设备以及介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114968507B (zh) | 2023-08-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20050055694A1 (en) | Dynamic load balancing resource allocation | |
CN109660376B (zh) | 一种虚拟网络映射方法、设备和存储介质 | |
CN112269641B (zh) | 一种调度方法、装置、电子设备及存储介质 | |
KR20040051007A (ko) | 양방향 위성 멀티미디어 시스템에서의 동적 자원 할당장치 및 그 방법 | |
JP2003229896A (ja) | パケット伝送のスケジューリング装置及びパケット伝送のスケジューリング方法 | |
CN113141590B (zh) | 一种面向工业物联网的无线通信调度方法及装置 | |
CN112888005B (zh) | 一种面向mec的分布式业务调度方法 | |
CN112988354B (zh) | 一种卫星通信系统出站资源优化管理方法 | |
CN112512018A (zh) | 一种基于移动边缘计算的协作车辆间任务动态卸载方法 | |
CN112463044B (zh) | 一种保证分布式存储系统服务器端读尾延迟的方法及系统 | |
CN111949408A (zh) | 一种边缘计算资源的动态分配方法 | |
CN112749002A (zh) | 一种集群资源动态管理的方法和装置 | |
JP2003503943A (ja) | 通信ネットワークのユーザ間でリソースを割り振り/共用する方法 | |
CN113327053A (zh) | 任务处理方法及装置 | |
CN114968507B (zh) | 图像处理任务的调度方法及装置 | |
US7086059B2 (en) | Throttling queue | |
CN115766582A (zh) | 流量控制方法、装置和系统、介质和计算机设备 | |
CN115550284A (zh) | 消息处理方法、装置和设备 | |
CN112055382B (zh) | 一种基于精细化区分的业务接入方法 | |
CN112888072B (zh) | 一种保障服务需求的eMBB和URLLC资源复用方法 | |
CN117056064A (zh) | 资源分配方法、装置、服务器、存储介质和程序产品 | |
CN104010374A (zh) | 一种进行业务调度的方法及装置 | |
CN112684988A (zh) | 基于分布式存储的QoS方法及系统 | |
CN108737289B (zh) | 一种存储多路径负载均衡方法及系统 | |
CN113905448A (zh) | 无线网络资源调度方法、装置及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |