CN111399994B - 请求调度方法、装置、电子设备及存储介质 - Google Patents

请求调度方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN111399994B
CN111399994B CN201911180879.1A CN201911180879A CN111399994B CN 111399994 B CN111399994 B CN 111399994B CN 201911180879 A CN201911180879 A CN 201911180879A CN 111399994 B CN111399994 B CN 111399994B
Authority
CN
China
Prior art keywords
service request
cloud
queue
tail
request
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911180879.1A
Other languages
English (en)
Other versions
CN111399994A (zh
Inventor
陈兴友
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Hikvision System Technology Co Ltd
Original Assignee
Hangzhou Hikvision System Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Hikvision System Technology Co Ltd filed Critical Hangzhou Hikvision System Technology Co Ltd
Priority to CN201911180879.1A priority Critical patent/CN111399994B/zh
Publication of CN111399994A publication Critical patent/CN111399994A/zh
Application granted granted Critical
Publication of CN111399994B publication Critical patent/CN111399994B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5061—Partitioning or combining of resources
    • G06F9/5072—Grid computing
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请实施例提供了请求调度方法、装置、电子设备及存储介质，在调度队列中额外添加一个云头部，使得调度队列的产生过程相当于有两个队列，而处理过程保持一个队列，从原生头部开始处理，保证了重要服务请求的优先处理，在重要服务请求全部处理完成后，原生头部与云头部重合，开始对非重要服务请求进行处理。以通用的调度队列为基础，进行增强，不具有排他性，可以和现有的调度器共存；传统应用产生的重要服务请求总是优先处理，不会被新增的云应用的请求干扰，在原来的服务器硬件能满足传统应用请求的需求时，利用服务器的富余资源对云应用的请求进行处理。

Description

请求调度方法、装置、电子设备及存储介质
技术领域
本申请涉及计算机存储器技术领域，特别是涉及请求调度方法、装置、电子设备及存储介质。
背景技术
相关技术中，在请求调度的过程中，IO(Input/Output，输入/输出)调度器会在进程上下文中，将来自各应用的IO请求整理成调度队列，在单独的上下文中异步地处理队列中的各请求，包括IO请求的合并、删除、顺序调整和取出执行等。
在云计算技术的推进过程中，会面临一个场景，即部分服务器已经在运行传统应用，但资源有富余。因此希望将这些服务器纳入云计算平台，以充分利用这些服务器上过剩的硬件资源，即传统应用和云应用同时存在，不必重新设计，同时不希望新增的云应用影响现有传统应用的运行。
发明内容
本申请实施例的目的在于提供一种请求调度方法、装置、电子设备及存储介质，以实现在不影响传统应用的基础上，实现对云应用的处理。具体技术方案如下：
第一方面，本申请实施例提供了一种请求调度方法，所述方法包括：
获取待加入目标调度队列的服务请求，其中，所述目标调度队列包括原生队列段及云队列段，所述原生队列段包括原生头部及原生尾部，所述云队列段包括云头部及云尾部，所述云头部的前向指针指向所述原生尾部；
判断所述服务请求是否为重要服务请求；
当所述服务请求为重要服务请求时，将所述服务请求添加到所述目标调度队列的原生队列段；
当所述服务请求不为重要服务请求时，将所述服务请求添加到所述目标调度队列的云队列段。
在一种可能的实施方式中，在所述当所述服务请求为重要服务请求时，将所述服务请求添加到所述目标调度队列的原生队列段之后，所述方法还包括：
若所述服务请求插入的位置为当前的原生尾部，将所述服务请求的前向指针设置为当前的原生尾部，将所述服务请求的后向指针设置为云头部；
将所述原生队列段的原生尾部更新为所述服务请求所在的位置。
在一种可能的实施方式中，在所述当所述服务请求不为重要服务请求时，将所述服务请求添加到所述目标调度队列的云队列段之后，所述方法还包括：
若所述服务请求插入的位置为当前的云尾部，将所述服务请求的前向指针设置为当前的云尾部，将所述服务请求的后向指针设置为空指针；
将所述云队列段的云尾部更新为所述服务请求所在的位置。
在一种可能的实施方式中，所述获取待加入目标调度队列的服务请求之前，所述方法还包括：
初始化调度队列，并在所述调度队列中添加云头部及云尾部，得到目标调度队列。
在一种可能的实施方式中，所述方法还包括：
将指定应用添加到白名单中；
所述判断所述服务请求是否为重要服务请求，包括：
判断所述服务请求是否为所述白名单中的应用生成的请求，其中，若所述服务请求为所述白名单中的应用生成的请求，判定所述服务请求为重要服务请求；若所述服务请求不为所述白名单中的应用生成的请求，判定所述服务请求不为重要服务请求。
在一种可能的实施方式中，所述方法还包括：
在处理完云头部所在的请求后，更新所述云头部的位置。
第二方面，本申请实施例提供了一种请求调度装置，所述装置包括：
服务请求获取模块，用于获取待加入目标调度队列的服务请求，其中，所述目标调度队列包括原生队列段及云队列段，所述原生队列段包括原生头部及原生尾部，所述云队列段包括云头部及云尾部，所述云头部的前向指针指向所述原生尾部；
请求判定模块，用于判断所述服务请求是否为重要服务请求；
原生队列段插入模块，用于当所述服务请求为重要服务请求时，将所述服务请求添加到所述目标调度队列的原生队列段；
云队列段插入模块，用于当所述服务请求不为重要服务请求时，将所述服务请求添加到所述目标调度队列的云队列段。
在一种可能的实施方式中，所述装置还包括：
原生尾部更新模块，用于若所述服务请求插入的位置为当前的原生尾部，将所述服务请求的前向指针设置为当前的原生尾部，将所述服务请求的后向指针设置为云头部；将所述原生队列段的原生尾部更新为所述服务请求所在的位置。
在一种可能的实施方式中，所述装置还包括：
云尾部更新模块，用于若所述服务请求插入的位置为当前的云尾部，将所述服务请求的前向指针设置为当前的云尾部，将所述服务请求的后向指针设置为空指针；将所述云队列段的云尾部更新为所述服务请求所在的位置。
在一种可能的实施方式中，所述装置还包括：
云头部添加模块，用于初始化调度队列，并在所述调度队列中添加云头部及云尾部，得到目标调度队列。
在一种可能的实施方式中，所述装置还包括：
白名单添加模块，将指定应用添加到白名单中；
所述请求判定模块，具体用于：判断所述服务请求是否为所述白名单中的应用生成的请求，其中，若所述服务请求为所述白名单中的应用生成的请求，判定所述服务请求为重要服务请求；若所述服务请求不为所述白名单中的应用生成的请求，判定所述服务请求不为重要服务请求。
在一种可能的实施方式中，所述装置还包括：
云头部更新模块，用于在处理完云头部所在的请求后，更新所述云头部的位置。
第三方面，本申请实施例提供了一种电子设备，包括处理器及存储器；
所述存储器，用于存放计算机程序；
所述处理器，用于执行所述存储器上所存放的程序时，实现上述第一方面任一所述的请求调度方法。
第四方面，本申请实施例提供了一种计算机可读存储介质，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现上述第一方面任一所述的请求调度方法。
本申请实施例提供的请求调度方法、装置、电子设备及存储介质，获取待加入目标调度队列的服务请求，其中，目标调度队列包括原生队列段及云队列段，原生队列段包括原生头部及原生尾部，云队列段包括云头部及云尾部，云头部的前向指针指向原生尾部；判断服务请求是否为重要服务请求；当服务请求为重要服务请求时，将服务请求添加到目标调度队列的原生队列段；当服务请求不为重要服务请求时，将服务请求添加到目标调度队列的云队列段。在调度队列中额外添加一个云队列段，使得调度队列的产生过程相当于有两个队列，而处理过程保持一个队列，以通用的调度队列为基础，进行增强，不具有排他性，能够和现有的调度器共存；云头部的前向指针指向原生尾部，能够保证原生队列段中的请求总能优先于云队列段中的请求进行处理，传统应用产生的请求(重要服务请求)添加到原生队列段，云应用产生的请求(非重要服务请求)添加到云队列段，能够使重要服务请求总能优先于非重要服务请求处理，即传统应用的请求不会被新增的云应用的请求干扰，在原来的服务器硬件能满足传统应用请求的需求时，利用服务器的富余资源对云应用的请求进行处理。当然，实施本申请的任一产品或方法并不一定需要同时具备以上所述的所有特点。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例的请求调度方法的第一种示意图；
图2为本申请实施例的请求调度方法的第二种示意图；
图3为本申请实施例的请求调度方法的第三种示意图；
图4为本申请实施例的在调度队列中插入服务请求的一种意图；
图5为本申请实施例的请求调度装置的一种示意图；
图6为本申请实施例的电子设备的一种示意图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
首先，对本申请实施例中的专业术语进行解释：
白名单：产生的IO(Input/Output，输入/输出)请求被优先处理的进程的清单。
传统应用：希望保证IO资源供应的应用。
云应用：在IO资源不足时，可以牺牲性能，为传统应用让步的应用。
现有请求调度技术和应用不是为传统应用和云应用混合的场景设计的，在部分硬件资源被分配给云应用后，传统应用能否正常运行，需要重新评估。最好是服务器优先保障传统应用的运行，在出现资源富余的情况下，才开始运行云应用，降低传统服务器上云的风险。为达到上述目标，本申请实施例提供了一种请求调度方法，该方法包括：
获取待加入目标调度队列的服务请求，其中，上述目标调度队列包括原生队列段及云队列段，上述原生队列段包括原生头部及原生尾部，上述云队列段包括云头部及云尾部，上述云头部的前向指针指向上述原生尾部；
判断上述服务请求是否为重要服务请求；
当上述服务请求为重要服务请求时，将上述服务请求添加到上述目标调度队列的原生队列段；
当上述服务请求不为重要服务请求时，将上述服务请求添加到上述目标调度队列的云队列段。
在本申请实施例中，将一个调度队列分割为两个连续队列，对相关的请求调度技术进行扩展，仅在添加请求进入调度队列时进行少量内存比较，处理进程及内存消耗增加量几乎可以忽略，不侵入应用程序或其他内核组件，对系统的改动小，以进程为单位，不侵入块设备及以下层面，不要求运维开发增加知识量；传统应用产生的请求(重要服务请求)总是优先处理，不会被新增的云应用的请求(非重要服务请求)干扰，在原来的服务器硬件能满足传统应用请求的需求时，利用服务器的富余资源对云应用的请求进行处理。
下面进行具体说明，参见图1，图1为本申请实施例的一种请求调度方法的示意图，该方法包括：
S101，获取待加入目标调度队列的服务请求，其中，上述目标调度队列包括原生队列段及云队列段，上述原生队列段包括原生头部及原生尾部，上述云队列段包括云头部及云尾部，上述云头部的前向指针指向上述原生尾部。
本申请实施例的请求调度方法具体可以通过具有调度队列的电子设备实现。目标调度队列为任一调度队列，原生头部及原生尾部为现有技术中调度队列的头部及尾部，原生头部及原生尾部的初始化、更新方法，可以参见有技术中调度队列的头部及尾部的初始化、更新方法。云头部及云尾部为在现有调度队列的基础上，附加的头部及尾部，具体的云头部及云尾部可以以指针的形式进行添加。
在一种可能的实施方式中，在上述获取待加入目标调度队列的服务请求之前，上述方法还包括：初始化调度队列，并在上述调度队列中添加云头部及云尾部，得到目标调度队列。调度队列初始化的方法可以参见相关技术中调度队列初始化的方法，此处不再赘述。在根据相关技术初始化调度队列后，将调度队列自身的头部及尾部分别称为原生头部及原生尾部，此外还需要在调度队列中附加云头部的指针，将云头部的前向指针指向原生尾部，将云头部的后向指针指向云尾部，将云尾部的前向指针指向云头部，将云尾部的后向指针设置为空指针，从而得到目标调度队列。
S102，判断上述服务请求是否为重要服务请求。
重要服务请求可以自定义设定，例如，可以将传统应用的服务请求作为重要服务请求，可以按照服务请求的类型或产生该服务请求的线程/应用判断该服务请求是否为重要服务请求。
S103，当上述服务请求为重要服务请求时，将上述服务请求添加到上述目标调度队列的原生队列段。
在服务请求为重要服务请求时，将服务请求添加到目标调度队列的原生队列段中，重要服务请求在原生队列段中的插入位置可以自定义设定，例如，插入到原生队列段的原生头部或原生尾部等。
在一种可能的实施方式中，在上述当上述服务请求为重要服务请求时，将上述服务请求添加到上述目标调度队列的原生队列段之后，上述方法还包括：若上述服务请求插入的位置为当前的原生尾部，将上述服务请求的前向指针设置为当前的原生尾部，将上述服务请求的后向指针设置为云头部；将上述原生队列段的原生尾部更新为上述服务请求所在的位置。
一般情况下，会将最新的服务请求插入到队列的尾部，以保证先接收到的请求先被处理。当服务请求为重要服务请求时，可以将该服务请求插入到原生队列段的原生尾部，若此时原生队列段中已经存在有其他的请求，将服务请求的前向指针设置为当前的原生尾部，将服务请求的后向指针设置为云头部，然后将原生队列段的原生尾部更新为该服务请求所在的位置。若上述服务请求插入前原生队列段中不存在其他请求，还需要将原生队列段的原生头部更新为该服务请求所在的位置。
在一种可能的实施方式中，若服务请求插入的位置为原生头部，将服务请求的前向指针设置为空指针，并将该服务请求的后向指针设置为原生头部；然后将原生队列段的原生头部更新为该服务请求所在的位置。
当服务请求的插入位置为原生头部时，原生头部的位置，即原生头部指针的位置也需要更新，先将该服务请求的前向指针初始化为空指针，将该服务请求的后向指针初始化为原生头部，然后将原生头部指针指向插入的服务请求。
S104，当上述服务请求不为重要服务请求时，将上述服务请求添加到上述目标调度队列的云队列段。
在服务请求不为重要服务请求时，将服务请求添加到目标调度队列的云队列段中，服务请求在云队列段中的插入位置可以自定义设定，例如，插入到云队列段的云头部或云尾部等。
在一种可能的实施方式中，在上述当上述服务请求不为重要服务请求时，将上述服务请求添加到上述目标调度队列的云队列段之后，上述方法还包括：若上述服务请求插入的位置为当前的云尾部，将上述服务请求的前向指针设置为当前的云尾部，将上述服务请求的后向指针设置为空指针；将上述云队列段的云尾部更新为上述服务请求所在的位置。
一般情况下，会将最新的服务请求插入到队列的尾部，以保证先接收到的请求先被处理。当服务请求不为重要服务请求时，可以将该服务请求插入到云队列段的云尾部，若此时云队列段中已经存在有其他的请求，将服务请求的前向指针设置为当前的云尾部，将服务请求的后向指针设置为空指针，然后将云队列段的云尾部更新为该服务请求所在的位置。若上述服务请求插入前云队列段中不存在其他请求，还需要将云队列段的云头部更新为该服务请求所在的位置。
在一种可能的实施方式中，若上述服务请求插入的位置为云头部，将上述服务请求的前向指针设置为原生尾部，将上述服务请求的后向指针设置为云头部；然后将云队列段的云头部更新为上述服务请求所在的位置。
当服务请求的插入位置为云头部时，云头部的位置，即云头部指针的位置也需要更新，先将该服务请求的前向指针初始化为原生尾部，将该服务请求的后向指针初始化为云头部，然后将云头部指针指向插入的服务请求。
服务请求的处理过程与现有技术中的服务请求的处理过程相同，从原生头部开始，按照调度器的设计，在目标调度队列中选取一个或多个请求进行操作。因为从原生头部开始处理，所以保证了重要服务请求的优先处理，在重要服务请求全部处理完成后，即目标调度队列中不包括重要服务请求时，原生头部与云头部重合，此时才开始对非重要服务请求进行处理。
在本申请实施例中，传统应用产生的请求(重要服务请求)总是优先处理，不会被新增的云应用的请求干扰，在原来的服务器硬件能满足传统应用请求的需求时，利用服务器的富余资源对云应用的请求进行处理。对相关的请求调度技术进行扩展，仅在添加请求进入调度队列时进行少量内存比较，处理进程及内存消耗增加量几乎可以忽略，不侵入应用程序或其他内核组件，对系统的改动小，以进程为单位，不侵入块设备及以下层面，不要求运维开发增加知识量。
在一种可能的实施方式中，参见图2，上述方法还包括：
S201，将指定应用添加到白名单中。
加入到白名单中的应用可以根据实际情况自定义设定，例如，可以将传统应用添加到白名单中。
可选的，将指定应用添加到白名单中，包括：利用预设标注工具，对指定应用进行标注。其中，标注后的指定应用视为加入白名单。例如，可以通过标注工具将指定应用的优先级标注为“-1”，即优先级为“-1”的应用为白名单中的应用。
此处的标注工具可以按照实际需求进行设定，例如，可以通过renice命令，或调用系统中已有的setpriority(一种用于设置优先级的函数)实现。
上述判断上述服务请求是否为重要服务请求，包括：
S202，判断上述服务请求是否为上述白名单中的应用生成的请求，其中，若上述服务请求为上述白名单中的应用生成的请求，判定上述服务请求为重要服务请求；若上述服务请求不为上述白名单中的应用生成的请求，判定上述服务请求不为重要服务请求。
在本申请实施例中，将指定应用，例如传统应用利用外部标注工具打上标记，所有被打标记的应用形成一个白名单，白名单中应用产生的请求会被优先执行。
在一种可能的实施方式中，上述方法还包括：
在处理完云头部所在的请求后，更新上述云头部的位置。
处理完云头部所在请求后，需要更新云头部及原生头部的位置，将云头部的指针及原生头部的指针下移，将云头部及原生头部的位置更新为目标调度队列中下一请求所在的位置，从而方便对下一请求的处理。
相关技术中，大部分调度器会将新产生的服务请求直接添加到调度队列尾部，在一种可能的实施方式中，本申请实施例的请求调度方法还可以如图3所示，包括：
步骤一，初始化调度器及调度队列，并在调度队列尾部附加云头部的指针。
初始化IO调度队列，在调度队列的原生尾部附加一个指针，作为云头部。还可以添加云尾部。其中，原生头部至原生尾部的队列段称为原生队列段，云头部至云尾部的队列段称为云队列段。
步骤二，利用标注工具，将传统应用的优先级标注为“-1”。
在各应用启动后，针对传统应用，利用标注工具将传统应用的优先级标注为“-1”。
步骤三，判断当前待加入调度队列的服务请求是否为传统应用的服务请求。若该服务请求是传统应用产生的，则执行步骤四；若该服务请求不是传统应用产生的，则执行步骤五。
根据应用进程的上下文，判断产生服务请求的应用的优先级是否为“-1”，如果为“-1”，判定产生服务请求的应用为传统应用；否则判定产生服务请求的应用不为传统应用。
步骤四，将该服务请求插入到原生尾部。
例如图4所示，如果产生该服务请求的应用的优先级等于“-1”，按原调度器规则，将该服务请求插入原生尾部，同时将该服务请求的前向指针初始化为原生尾部，后向指针初始化为云头部，然后将该服务请求更新为原生尾部。若插入前原生队列段为空时，还需要更新原生头部。
步骤五，将该服务请求插入到云尾部。
例如图4所示，如果产生该服务请求的应用的优先级不等于“-1”，将该服务请求插入云头尾部，同时将该服务请求的前向指针初始化为云尾部，后向指针初始化为空指针，然后将该服务请求更新为云尾部；若插入前云队列段为空时，还需要更新云头部。
步骤六，处理调度队列中的服务请求。
调度队列中服务请求处理过程与现有技术相同，从原生头部开始，按调度器设计，在整个调度队列中选取一个或多个服务请求进行操作。此外，在处理完云头部所在请求后，需要将云头部的指针下移。
在本申请实施例中，在调度队列中额外添加一个云头部，使得调度队列的产生过程相当于有两个队列，而处理过程保持一个队列，以通用的调度队列为基础，进行增强，不具有排他性，可以和现有的调度器共存；通过将一个调度队列分割为两个相连队列，保证了指定应用的服务请求总是优先被处理；当偏离预设使用场景时，本申请方法仍可以使用，不带来负面影响，部署复杂度低，应用场景广。
本申请实施例还提供了一种请求调度装置，参见图5，该装置包括：
服务请求获取模块501，用于获取待加入目标调度队列的服务请求，其中，上述目标调度队列包括原生队列段及云队列段，上述原生队列段包括原生头部及原生尾部，上述云队列段包括云头部及云尾部，上述云头部的前向指针指向上述原生尾部；
请求判定模块502，用于判断上述服务请求是否为重要服务请求；
原生队列段插入模块503，用于当上述服务请求为重要服务请求时，将上述服务请求添加到上述目标调度队列的原生队列段；
云队列段插入模块504，用于当上述服务请求不为重要服务请求时，将上述服务请求添加到上述目标调度队列的云队列段。
在一种可能的实施方式中，上述装置还包括：
原生头部更新模块，用于若上述服务请求插入的位置为原生头部，将上述服务请求的前向指针设置为空指针，将上述服务请求的后向指针设置为原生头部，并将上述服务请求的位置更新为上述原生头部。
在一种可能的实施方式中，上述装置还包括：
原生尾部更新模块，用于若所述服务请求插入的位置为当前的原生尾部，将所述服务请求的前向指针设置为当前的原生尾部，将所述服务请求的后向指针设置为云头部；将所述原生队列段的原生尾部更新为所述服务请求所在的位置。
在一种可能的实施方式中，上述装置还包括：
云头部更新模块，用于若上述服务请求插入的位置为云头部，将上述服务请求的前向指针设置为原生尾部，将上述服务请求的后向指针设置为云头部，并将上述服务请求的位置更新为上述云头部。
在一种可能的实施方式中，上述装置还包括：
云尾部更新模块，用于若所述服务请求插入的位置为当前的云尾部，将所述服务请求的前向指针设置为当前的云尾部，将所述服务请求的后向指针设置为空指针；将所述云队列段的云尾部更新为所述服务请求所在的位置。
在一种可能的实施方式中，上述装置还包括：
云头部添加模块，用于初始化调度队列，并在上述调度队列中添加云头部及云尾部，得到目标调度队列。
在一种可能的实施方式中，上述装置还包括：
白名单添加模块，将指定应用添加到白名单中；
上述请求判定模块502，具体用于：判断上述服务请求是否为上述白名单中的应用生成的请求，其中，若上述服务请求为上述白名单中的应用生成的请求，判定上述服务请求为重要服务请求；若上述服务请求不为上述白名单中的应用生成的请求，判定上述服务请求不为重要服务请求。
在一种可能的实施方式中，上述装置还包括：
云头部更新模块，用于在处理完云头部所在的请求后，更新上述云头部的位置。
本申请实施例还提供了一种电子设备，包括：处理器及存储器；
上述存储器，用于存放计算机程序；
上述处理器用于执行上述存储器存放的计算机程序时，实现如下步骤：
获取待加入目标调度队列的服务请求，其中，上述目标调度队列包括原生队列段及云队列段，上述原生队列段包括原生头部及原生尾部，上述云队列段包括云头部及云尾部，上述云头部的前向指针指向上述原生尾部；
判断上述服务请求是否为重要服务请求；
当上述服务请求为重要服务请求时，将上述服务请求添加到上述目标调度队列的原生队列段；
当上述服务请求不为重要服务请求时，将上述服务请求添加到上述目标调度队列的云队列段。
可选的，参见图6，本申请实施例的电子设备还包括通信接口602和通信总线604，其中，处理器601，通信接口602，存储器603通过通信总线604完成相互间的通信。
可选的，上述处理器用于执行上述存储器存放的计算机程序时，还能够实现上述任一请求调度方法。
上述电子设备提到的通信总线可以是PCI(Peripheral ComponentInterconnect，外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture，扩展工业标准结构)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示，图中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述电子设备与其他设备之间的通信。
存储器可以包括RAM(Random Access Memory，随机存取存储器)，也可以包括NVM(Non-Volatile Memory，非易失性存储器)，例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器，包括CPU(Central Processing Unit，中央处理器)、NP(Network Processor，网络处理器)等；还可以是DSP(Digital Signal Processing，数字信号处理器)、ASIC(Application Specific Integrated Circuit，专用集成电路)、FPGA(Field-Programmable Gate Array，现场可编程门阵列)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
本申请实施例还提供了一种计算机可读存储介质，上述计算机可读存储介质内存储有计算机程序，上述计算机程序被处理器执行时实现如下步骤：
获取待加入目标调度队列的服务请求，其中，上述目标调度队列包括原生队列段及云队列段，上述原生队列段包括原生头部及原生尾部，上述云队列段包括云头部及云尾部，上述云头部的前向指针指向上述原生尾部；
判断上述服务请求是否为重要服务请求；
当上述服务请求为重要服务请求时，将上述服务请求添加到上述目标调度队列的原生队列段；
当上述服务请求不为重要服务请求时，将上述服务请求添加到上述目标调度队列的云队列段。
可选的，上述计算机程序被处理器执行时，还能够实现上述任一请求调度方法。
需要说明的是，在本文中，各个可选方案中的技术特征只要不矛盾均可组合来形成方案，这些方案均在本申请公开的范围内。诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置、电子设备及存储介质的实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请的较佳实施例而已，并非用于限定本申请的保护范围。凡在本申请的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本申请的保护范围内。

Claims (12)

1.一种请求调度方法，其特征在于，所述方法包括：
获取待加入目标调度队列的服务请求，其中，所述目标调度队列包括原生队列段及云队列段，所述原生队列段包括原生头部及原生尾部，所述云队列段包括云头部及云尾部，所述云头部的前向指针指向所述原生尾部；
判断所述服务请求是否为重要服务请求；
当所述服务请求为重要服务请求时，将所述服务请求添加到所述目标调度队列的原生队列段；
若所述服务请求插入的位置为所述原生队列段的原生尾部且当前所述原生队列段中已经存在其他服务请求，则将所述服务请求的前向指针设置为当前的原生尾部，将所述服务请求的后向指针设置为当前的云头部，将所述原生队列段的原生尾部更新为所述服务请求所在的位置；若所述服务请求插入的位置为所述原生队列段的原生尾部且当前所述原生队列段中未存在其他服务请求，则将所述原生队列段的原生头部更新为所述服务请求所在的位置；若所述服务请求插入的位置为原生头部，将所述服务请求的前向指针设置为空指针，并将所述服务请求的后向指针设置为原生头部，将所述原生队列段的原生头部更新为所述服务请求所在的位置；
当所述服务请求不为重要服务请求时，将所述服务请求添加到所述目标调度队列的云队列段。
2.根据权利要求1所述的方法，其特征在于，在所述当所述服务请求不为重要服务请求时，将所述服务请求添加到所述目标调度队列的云队列段之后，所述方法还包括：
若所述服务请求插入的位置为当前的云尾部，将所述服务请求的前向指针设置为当前的云尾部，将所述服务请求的后向指针设置为空指针；
将所述云队列段的云尾部更新为所述服务请求所在的位置。
3.根据权利要求1所述的方法，其特征在于，所述获取待加入目标调度队列的服务请求之前，所述方法还包括：
初始化调度队列，并在所述调度队列中添加云头部及云尾部，得到目标调度队列。
4.根据权利要求1所述的方法，其特征在于，所述方法还包括：
将指定应用添加到白名单中；
所述判断所述服务请求是否为重要服务请求，包括：
判断所述服务请求是否为所述白名单中的应用生成的请求，其中，若所述服务请求为所述白名单中的应用生成的请求，判定所述服务请求为重要服务请求；若所述服务请求不为所述白名单中的应用生成的请求，判定所述服务请求不为重要服务请求。
5.根据权利要求1所述的方法，其特征在于，所述方法还包括：
在处理完云头部所在的请求后，更新所述云头部的位置。
6.一种请求调度装置，其特征在于，所述装置包括：
服务请求获取模块，用于获取待加入目标调度队列的服务请求，其中，所述目标调度队列包括原生队列段及云队列段，所述原生队列段包括原生头部及原生尾部，所述云队列段包括云头部及云尾部，所述云头部的前向指针指向所述原生尾部；
请求判定模块，用于判断所述服务请求是否为重要服务请求；
原生队列段插入模块，用于当所述服务请求为重要服务请求时，将所述服务请求添加到所述目标调度队列的原生队列段；
云队列段插入模块，用于当所述服务请求不为重要服务请求时，将所述服务请求添加到所述目标调度队列的云队列段；
所述装置还包括：
原生尾部更新模块，用于若所述服务请求插入的位置为所述原生队列段的原生尾部且当前所述原生队列段中已经存在其他服务请求，则将所述服务请求的前向指针设置为当前的原生尾部，将所述服务请求的后向指针设置为当前的云头部，将所述原生队列段的原生尾部更新为所述服务请求所在的位置；若所述服务请求插入的位置为所述原生队列段的原生尾部且当前所述原生队列段中未存在其他服务请求，则将所述原生队列段的原生头部更新为所述服务请求所在的位置；若所述服务请求插入的位置为原生头部，将所述服务请求的前向指针设置为空指针，并将所述服务请求的后向指针设置为原生头部，将所述原生队列段的原生头部更新为所述服务请求所在的位置。
7.根据权利要求6所述的装置，其特征在于，所述装置还包括：
云尾部更新模块，用于若所述服务请求插入的位置为当前的云尾部，将所述服务请求的前向指针设置为当前的云尾部，将所述服务请求的后向指针设置为空指针；将所述云队列段的云尾部更新为所述服务请求所在的位置。
8.根据权利要求6所述的装置，其特征在于，所述装置还包括：
云头部添加模块，用于初始化调度队列，并在所述调度队列中添加云头部及云尾部，得到目标调度队列。
9.根据权利要求6所述的装置，其特征在于，所述装置还包括：
白名单添加模块，将指定应用添加到白名单中；
所述请求判定模块，具体用于：判断所述服务请求是否为所述白名单中的应用生成的请求，其中，若所述服务请求为所述白名单中的应用生成的请求，判定所述服务请求为重要服务请求；若所述服务请求不为所述白名单中的应用生成的请求，判定所述服务请求不为重要服务请求。
10.根据权利要求6所述的装置，其特征在于，所述装置还包括：
云头部更新模块，用于在处理完云头部所在的请求后，更新所述云头部的位置。
11.一种电子设备，其特征在于，包括处理器及存储器；
所述存储器，用于存放计算机程序；
所述处理器，用于执行所述存储器上所存放的程序时，实现权利要求1-5任一所述的请求调度方法。
12.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质内存储有计算机程序，所述计算机程序被处理器执行时实现权利要求1-5任一所述的请求调度方法。
CN201911180879.1A 2019-11-27 2019-11-27 请求调度方法、装置、电子设备及存储介质 Active CN111399994B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911180879.1A CN111399994B (zh) 2019-11-27 2019-11-27 请求调度方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911180879.1A CN111399994B (zh) 2019-11-27 2019-11-27 请求调度方法、装置、电子设备及存储介质

Publications (2)

Publication Number Publication Date
CN111399994A CN111399994A (zh) 2020-07-10
CN111399994B true CN111399994B (zh) 2023-10-10

Family

ID=71433949

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911180879.1A Active CN111399994B (zh) 2019-11-27 2019-11-27 请求调度方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN111399994B (zh)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104636201A (zh) * 2013-11-15 2015-05-20 中国电信股份有限公司 一种虚拟i/o调度方法和系统
CN107087019A (zh) * 2017-03-14 2017-08-22 西安电子科技大学 一种端云协同计算架构及任务调度装置及方法
CN108121608A (zh) * 2016-11-29 2018-06-05 杭州华为数字技术有限公司 一种队列调度方法以及节点设备
CN109768939A (zh) * 2018-11-27 2019-05-17 中国科学院计算技术研究所 一种支持优先级的标签化网络栈方法和系统
US10402090B1 (en) * 2016-09-30 2019-09-03 EMC IP Holding Company LLC Data service protection for cloud management platforms
WO2019190545A1 (en) * 2018-03-30 2019-10-03 Intel Corporation Methods and apparatus to schedule service requests in a network computing system using hardware queue managers
CN110413365A (zh) * 2019-07-29 2019-11-05 锐捷网络股份有限公司 一种融合调度方法及装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9223624B2 (en) * 2010-10-20 2015-12-29 International Business Machines Corporation Processing requests in a cloud computing environment
US9274832B2 (en) * 2013-02-07 2016-03-01 Htc Corporation Method and electronic device for thread scheduling
US10298969B2 (en) * 2016-11-10 2019-05-21 University Of Louisiana At Lafayette Architecture and method for high performance on demand video transcoding
US10514951B2 (en) * 2017-05-04 2019-12-24 Salesforce.Com, Inc. Systems, methods, and apparatuses for implementing a stateless, deterministic scheduler and work discovery system with interruption recovery

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104636201A (zh) * 2013-11-15 2015-05-20 中国电信股份有限公司 一种虚拟i/o调度方法和系统
US10402090B1 (en) * 2016-09-30 2019-09-03 EMC IP Holding Company LLC Data service protection for cloud management platforms
CN108121608A (zh) * 2016-11-29 2018-06-05 杭州华为数字技术有限公司 一种队列调度方法以及节点设备
CN107087019A (zh) * 2017-03-14 2017-08-22 西安电子科技大学 一种端云协同计算架构及任务调度装置及方法
WO2019190545A1 (en) * 2018-03-30 2019-10-03 Intel Corporation Methods and apparatus to schedule service requests in a network computing system using hardware queue managers
CN109768939A (zh) * 2018-11-27 2019-05-17 中国科学院计算技术研究所 一种支持优先级的标签化网络栈方法和系统
CN110413365A (zh) * 2019-07-29 2019-11-05 锐捷网络股份有限公司 一种融合调度方法及装置

Also Published As

Publication number Publication date
CN111399994A (zh) 2020-07-10

Similar Documents

Publication Publication Date Title
US20080104601A1 (en) Scheduler for multiple software tasks to share reconfigurable hardware
US9703603B1 (en) System and method for executing accelerator call
US11095531B2 (en) Service-aware serverless cloud computing system
US20240111549A1 (en) Method and apparatus for constructing android running environment
CN110413210B (zh) 用于处理数据的方法、设备和计算机程序产品
CN113298331B (zh) 一种工单处理方法、装置、系统及电子设备
US7243354B1 (en) System and method for efficiently processing information in a multithread environment
CN112905342A (zh) 资源调度方法、装置、设备及计算机可读存储介质
CN115292014A (zh) 图像渲染方法、装置和服务器
CN111597040A (zh) 一种资源分配方法、装置、存储介质和电子设备
CN111026552B (zh) 资源的调度方法、装置、电子设备和计算机可读存储介质
CN113886069A (zh) 一种资源分配方法、装置、电子设备及存储介质
CN116069500A (zh) 一种模型训练任务处理方法、装置、电子设备及可读介质
CN115168040A (zh) 一种作业抢占调度方法、装置、设备和存储介质
CN111399994B (zh) 请求调度方法、装置、电子设备及存储介质
CN111143063B (zh) 任务的资源预约方法及装置
US11743200B2 (en) Techniques for improving resource utilization in a microservices architecture via priority queues
CN113344548B (zh) 一种工作流生成方法、装置、设备及存储介质
CN115809126A (zh) 混合部署场景下的作业调度方法、装置及电子设备
CN114675954A (zh) 任务调度方法及装置
US9135054B1 (en) Method and apparatus to migrate stacks for thread execution
CN116560809A (zh) 数据处理方法及装置、设备、介质
CN115878253A (zh) 容器调度方法及装置、电子设备、存储介质
CN110737533A (zh) 一种任务调度方法、装置及电子设备和存储介质
CN111526172A (zh) 一种多设备管理方法和管理系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant