CN111597034B - 处理器资源调度方法、装置、终端设备及计算机存储介质 - Google Patents

Abstract

本发明实施例提供了一种处理器资源调度方法、装置、终端设备及计算机存储介质，处理器资源调度方法包括：确定各个在线应用分别对应的可分享处理器资源，以根据各个所述在线应用分别对应的可分享处理器资源，确定所有的可分享处理器资源；从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源。本实施例提供的方案，可以盘活可分享处理器资源，避免其闲置，进而提高了处理器资源的利用率；并可以实现处理器资源的弹性调度，保证在线应用达到对应的SLO，进而使得用户的体验较好。

Description

处理器资源调度方法、装置、终端设备及计算机存储介质

技术领域

本发明实施例涉及数据处理技术领域，尤其涉及一种处理器资源调度方法、装置、终端设备及计算机存储介质。

背景技术

通常，在为在线应用分配处理器资源时，为了保证在线应用能够达到对应的服务等级目标(SLO)，例如，保证在线应用的响应时间在预设时长范围内，会根据在线应用的处理器资源预估量或者处理器资源上限进行分配，且为了保证处理器资源所在的CPU或GPU等的利用率，不会为在线应用分配过多的处理器资源，以避免处理器资源的浪费。

但是，在实际使用时，存在在线应用流量激增的情况，例如在线应用为购物应用时，购物应用中会出现商品大促的情况。此时，在线应用所需的处理器资源的数量也激增，导致为在线应用分配的处理器资源的数量不足以使得在线应用达到对应的SLO，例如导致在线应用的响应时会超出预设时长范围，进而导致用户使用在线应用时的体验较差。

发明内容

有鉴于此，本发明实施例提供一种处理器资源调度方法、装置、终端设备及计算机存储介质，以解决上述问题。

根据本发明实施例的第一方面，提供了一种处理器资源调度方法，其包括：确定各个在线应用分别对应的可分享处理器资源，以根据各个所述在线应用分别对应的可分享处理器资源，确定所有的可分享处理器资源；从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源。

根据本发明实施例的第二方面，提供了一种处理器资源调度装置，其包括：分享确定模块，用于确定各个在线应用分别对应的可分享处理器资源，以根据各个所述在线应用分别对应的可分享处理器资源，确定所有的可分享处理器资源；调度模块，用于从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源。

根据本发明实施例的第三方面，提供了一种终端设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如上任一项所述的处理器资源调度方法对应的操作。

根据本发明实施例的第四方面，提供了一种计算机存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上任一所述的处理器资源调度方法。

根据本发明实施例提供的方案，通过确定各个在线应用分别对应的可分享处理器资源，以根据各个所述在线应用分别对应的可分享处理器资源，确定所有的可分享处理器资源；从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源，从而可以盘活可分享处理器资源，避免其闲置，进而提高了处理器资源的利用率；并可以出现在线应用流量激增的情况时，通过根据可分享处理器资源的总数量，配置各个所述在线应用可调用的处理器资源总数量，从而允许在线应用可以调用可分享处理器资源，实现了处理器资源的弹性调度，并保证在线应用达到对应的SLO，进而使得用户的体验较好。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明实施例中记载的一些实施例，对于本领域普通技术人员来讲，还可以根据这些附图获得其他的附图。

图1为本发明实施例一的一种处理器资源调度方法的步骤流程图；

图2为本发明实施例二的一种处理器资源调度方法的步骤流程图；

图3为本发明实施例三的一种调度系统结构示意图；

图4为本发明实施例四的一种处理器资源调度装置的结构框图；

图5为本发明实施例五的一种终端设备的结构示意图。

具体实施方式

为了使本领域的人员更好地理解本发明实施例中的技术方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本发明实施例一部分实施例，而不是全部的实施例。基于本发明实施例中的实施例，本领域普通技术人员所获得的所有其他实施例，都应当属于本发明实施例保护的范围。

下面结合本发明实施例附图进一步说明本发明实施例具体实现。

实施例一

参照图1，示出了根据本发明实施例一的一种处理器资源调度方法的步骤流程图。

本实施例的处理器资源调度方法包括以下步骤：

S102、确定各个在线应用分别对应的可分享处理器资源，以根据各个所述在线应用分别对应的可分享处理器资源，确定所有的可分享处理器资源。

本实施例中，在线应用可以为视频应用、购物应用或问答应用等，只要多个在线应用处于同一个处理器架构中，可以共享处理器资源即可。

本实施例中，被调度的处理器资源主要包括逻辑核，逻辑核为一个物理处理器核内的逻辑层面的核，也可以理解为一个物理处理器核中可以处理的线程个数。例如，一个CPU为一个物理处理器核，其中可以包括24个物理核，每个物理核中可以包括一个逻辑核，则逻辑核的个数也为24，若在CPU中应用超线程(Thread)，则其一个CPU中可以包括24*2＝48个逻辑核。当然，本实施例的其他实现方式中，处理器资源也可以不是逻辑核，本实施例对此不进行限定。

在线应用的可分享处理器资源可以包括：在线应用在当前或者在一段时间内不会用到的处理器资源。例如，若分配至在线应用的逻辑核共10个，而当前，仅需要6个逻辑核即可使得在线应用达到对应的SLO，则剩余的4个逻辑核即可以为该在线应用对应的可分享逻辑核。

可选地，确定各个在线应用的可分享处理器资源时，可以确定各个所述在线应用分别对应的可分享处理器资源的数量，以根据各个所述在线应用分别对应的可分享处理器资源的数量，确定可分享处理器资源的总数量，还可以确定各个处理器资源的编号，从而可以根据编号准确地调用可分享处理器资源。

具体地，确定多个应用的可分享处理器资源后，即可将处理器资源数量进行累积，从而得到可分享处理器资源的总数量。

S104、从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源。

进行配置时，可以根据所有的可分享处理器资源来调整各个在线应用可调用处理器资源的上限，即将所有可分享处理器资源中的部分或全部作为各个在线应用可调用的处理器资源，从而提高各个在线应用可调用的处理器资源的数量。

如果出现在线应用流量激增的情况，即可使得在线应用可以调用所有可分享处理器资源中的部分或全部，从而通过调度可分享处理器资源来提高在线应用可调用的处理器资源的数量，实现了处理器资源的弹性调度，并保证在线应用达到对应的SLO，进而使得用户的体验较好；并且，还可以盘活可分享处理器资源，避免其闲置，进而提高了处理器资源的利用率。

具体地，进行配置时，可以根据可分享处理器资源的总数量，配置各个所述在线应用可调用的处理器资源总数量，来提高各个在线应用可调用处理器资源的上限，以从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源。

本实施例提供的方案，通过确定各个在线应用分别对应的可分享处理器资源，以根据各个所述在线应用分别对应的可分享处理器资源，确定所有的可分享处理器资源；从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源，从而可以盘活可分享处理器资源，避免其闲置，进而提高了处理器资源的利用率；并可以出现在线应用流量激增的情况时，通过根据可分享处理器资源的总数量，配置各个所述在线应用可调用的处理器资源总数量，从而允许在线应用可以调用可分享处理器资源，实现了处理器资源的弹性调度，并保证在线应用达到对应的SLO，进而使得用户的体验较好。

实施例二

参照图2，示出了根据本发明实施例二的一种处理器资源调度方法的步骤流程图。

本实施例的处理器资源调度方法包括以下步骤：

S202、确定在线应用的隔离模式，以确定各个所述在线应用分别对应的可分享处理器资源及其数量。

本实施例提供的方案，可以适用于服务器中处理器资源的管理，所述服务器包括但不限于：单台服务器、服务器集群、云端服务器等。服务器中一般包括较多的处理器资源，其可以均属于同一个处理器架构，从而使得服务器可以支撑较多的数据处理，进而使得服务器中的处理器资源的管理更加重要。本实施例中，为了防止同一处理器架构中除本在线应用之外的其他应用的干扰，需要将在线应用通过配置的隔离模式进行隔离，并通过应用容器实现隔离。每个在线应用均配置有一隔离模式。

具体地，在线应用的隔离模式包括独占模式或者预留模式或者分享模式，不同类型的在线应用可以配置三种隔离模式中的一种，不同的隔离模式下处理器资源的使用方式不同。以处理器资源为逻辑核为例，各个模式具体如下：

(1)独占模式(EXCLUS IVE)下，在线应用独占所有被分配的逻辑核，不允许其他任何应用使用，独占模式适用于对延时特别敏感的在线应用。

(2)预留模式(RESERVE)下，在线应用独占部分被分配的逻辑核，另一部分作为预留逻辑核，在线应用不使用预留逻辑核时，其可被离线应用使用，预留模式为在线应用默认的隔离模式。

(3)分享模式(SHARE)下，多个在线应用之间可共享被分配的逻辑核,分享模式适用于长尾或者延时不敏感的在线应用。

通过设置不同的隔离模式，可以为不同类型的在线应用配置不同的隔离模式，进而可以更加精细地为各个在线应用分配逻辑核，以提高逻辑核的利用率，若逻辑核为CPU中的逻辑核，即可提高CPU的利用率，当然，上述隔离方案也可以应用至其他处理器中，例如GPU等本实施例对此不进行限定。

本实施例中，不同模式下的可分享处理器资源数量不同，则确定各个所述在线应用分别对应的可分享处理器资源的数量包括：

若所述在线应用对应的隔离模式为独占模式，则其对应的可分享处理器资源的数量为0，独占模式下，为在线应用分配的处理器资源不能被其他在线应用共享。

或者，若所述在线应用对应的隔离模式为预留模式，则根据在线应用的当前负载以及预留处理器资源的数量，确定可分享处理器资源的数量。具体地，预留模式下为在线应用分配的处理器资源中的预留处理器资源可被其他在线应用，则在确定可分享处理器资源时，可以根据在线应用的负载确定其占用的预留处理器资源的数量，并将其未占用的预留处理器资源的数量作为可分享处理器资源的数量。

或者，由于分享模式下，所有的处理器资源均为共享处理器资源，则若所述在线应用对应的隔离模式为分享模式，则确定所述分享模式对应的处理器资源数量为可分享处理器资源的数量。在实际使用时，由于配置分享模式的为长尾或对延时不敏感的在线应用，则可以将在线应用对应的所有处理器资源作为可分享处理器资源，再根据可分享处理器资源的调度情况以及分享模式下的在线应用的处理进度，从所有可分享处理器资源中为其分配部分处理器资源。

进一步地，由于独占模式对应的可分享处理器资源的数量为0，在实际使用时可以不予考虑。因此，在实际使用时，针对预留模式和分享模式，可以分别设置预留模式分享开关(enable Reserve Cpu To Share＝false/true)用于控制预留模式下的在线应用是否参与处理器资源的分享，以及设置分享模式分享开关(enable Share Cpu To Share＝false/true)，用于控制分享模式下的在线应用是否参与处理器资源的分享。另外，由于分享模式下在线应用的所有处理器资源均为可共享处理器资源，则不需设置分享模式的可分享处理器资源数量，因此，针对预留模式下的在线应用，可以设置预留模式的可分享处理器资源数量(CPU_RESERVE_TO_SHARE_NUM＝num)，用来统计预留模式下的所有在线应用可分享处理器资源的数量。

若预留模式分享开关enable Reserve Cpu To Share＝true，则通过应用容器查看是预留模式下否配置有CPU_RESERVE_TO_SHARE_NUM，如果有，则确定CPU_RESERVE_TO_SHARE_NUM对应个数的处理器资源为所有预留模式下的在线应用可分享处理器资源的数量，如果没有，则不确定。可以根据预留模式下的各个在线应用的实时负载以及各个在线应用的预留处理器资源的数量，分别确定各个在线应用的可分享处理器资源的数量，进而确定CPU_RESERVE_TO_SHARE_NUM的值，以实现可分享处理器资源的动态调整。当然，在调整时还可以考虑在线应用的峰谷特性数据、业务指标等，本实施例对此不进行限定。另外，若预留模式分享开关enable Reserve Cpu To Share＝false，则预留模式下的在线应用不参与处理器资源的分享，预留模式下的在线应用的可分享处理器资源的数量为0。

若分享模式分享开关enable Share Cpu To Share＝true，则直接通过应用容器确定所有分享模式下的在线应用的处理器资源数量为可分享处理器资源数量。若分享模式分享开关enable Share Cpu To Share＝false，则分享模式下的在线应用不参与处理器资源的分享，可分享处理器资源的数量为0。

另外，预留模式分享开关enable Reserve Cpu To Share、以及分享模式分享开关enable Share Cpu To Share的值也可以根据该模式下的在线应用的负载、峰谷特性数据、业务指标等进行调整，以应对在线应用的流量突发的情况，本实施例对此不进行限定。

另外，确定各个模式下的在线应用的可分享处理器资源的数量后，可以直接进行求和计算，从而确定可分享处理器资源的总数量。

可选地，本实施例中，所述确定各个所述在线应用分别对应的可分享处理器资源的数量还可以包括：

1)获取所述在线应用的处理器资源申请请求。

本实施例中，处理器资源申请请求中可以包括：在线应用的标识数据、在线应用申请的处理器资源上限(即处理器资源的资源数量上限)等。

2)根据所述资源申请请求以及所述在线应用与物理处理器核间的峰谷互补数据，确定所述物理处理器核中被分配至所述在线应用的处理器资源及所述在线应用占用该处理器资源的时间片，以将所述在线应用混部至所述物理处理器核。

本实施例中，在线应用与物理处理器核之间的峰谷互补数据，用来表征在线应用所需的处理器资源的高峰期和低谷期，以及物理处理器核中的处理器资源使用情况的高峰期和低谷期。

具体地，峰谷互补数据可以通过下述方法确定：获取在线应用的标识数据后，可以根据标识数据获得在线应用的历史数据，然后根据在线应用的历史数据确定在线应用对应的处理器资源的峰谷特性数据，以确定在线应用所需处理器资源的高峰期和低谷期；根据在线应用的峰谷特性数据，以及物理处理器核中已经分配出去的处理器资源对应的峰谷特性数据，确定在线应用与物理处理器核之间的峰谷互补数据，以根据峰谷互补数据确定在线应用与物理处理器核之间的匹配度，从而尽量使得分配后在线应用的高峰期占用的处理器资源的时间片为分配前物理处理器核对应的低谷期的处理器资源的时间片，分配后在线应用的低谷期占用的处理器资源的时间片为分配前物理处理器核对应的高峰期的处理器资源的时间片，以将所述在线应用混部至所述物理处理器核。

在确定峰谷互补数据时，可以确定一个在线应用与多个物理处理器核间的多个峰谷互补数据，从而确定一个在线应用与多个物理处理器核之间的匹配度，进而在多个物理处理器核中选择该在线应用对应的物理处理器核，并为该在线应用分配物理处理器核上的处理器资源。

3)确定混部后的所述在线应用分别对应的可分享处理器资源的数量，其中，所述在线应用的可分享处理器资源为其被混部至的所述物理处理器核中的处理器资源。

将在线应用混部后，可以根据为其分配的处理器资源所在的物理处理器核，确定该在线应用对应的可分享处理器资源的数量，即所述在线应用的可分享处理器资源为其被混部至的所述物理处理器核中的处理器资源。

另外，除在线应用外，还可以为离线应用分配处理器资源，具体的分配逻辑如下：

1)获取离线应用的处理器资源申请请求。

2)根据所述资源申请请求以及所述离线应用与物理处理器核间的峰谷互补数据，确定所述物理处理器核中被分配至所述离线应用的处理器资源及所述离线应用占用该处理器资源的时间片，以将所述离线应用混部至所述物理处理器核。

其中，所述离线应用可占用的所述处理器资源为以及占用该处理器资源的时间片包括以下至少之一：所述在线应用未占用的所述处理器资源的所有时间片、所述在线应用已占用处理器资源的未被占中的时间片。

本实施例中，由于离线应用对延时等并无较高需求，因此，可以优先为在线应用分配处理器资源，分配完成后可以再将所述在线应用未占用的所述处理器资源的所有时间片、所述在线应用已占用处理器资源的未被占中的时间片分配给离线应用，从而在满足在线应用的SLO的基础上，满足离线应用的SLO，离线应用的SLO包括数据吞吐处理能力等。

另外，离线应用同样存在对应的隔离模式，在此确定其为离线模式，具体地，若处理器资源为逻辑核，则离线模式具体为：

(4)离线模式(NONE)下，未被在线应用独占的逻辑核均可被分配至离线应用，其中包括预留模式下的预留逻辑核，预留模式下的在线应用可以抢占预留逻辑核，同时，被在离线模式下被分配的逻辑核通过resctr l子系统进行prod/non-prod可使用的L3cache进行限制，以保证在线应用可占用足够的缓存。

S204、根据可分享处理器资源的总数量，配置各个所述在线应用可调用的处理器资源总数量，以从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源。

本实施例中，对各个在线应用进行配置时，可以仅针对参与分享的在线应用进行设置；而不针对未参与分享的在线应用进行设置，例如，独占模式下的在线应用。

可选地，在进行配置时，可以根据可调用处理器资源的总数量，以及其中已经被调用的处理器资源的数量，对各个在线应用可调用处理器资源的总数量进行设置，例如，若可分享处理器资源的总数量为m个，其中已被调用的处理器资源的数量为n，在线应用已经调用的处理器资源的数量为l，则在进行设置时，可以设置该在线应用可以调用的处理器资源上限为l+m-n。

另外需要说明的是，若上述enable Reserve Cpu To Share、以及enable ShareCpu To Share的值由true变为false，则可以直接将可分享处理器资源的总数量清零，并停止处理器资源的分享。

当然，在本申请的其他实施例中，还可以通过其他方式确定可分享处理器资源，并实现可分享处理器资源的调度，本实施例对此不进行限定。

可选地，本实施例中，在将物理处理器核中的处理器资源分配给各个在线应用或者离线应用后，可能由于应用发生变化的原因，导致物理处理器核中产生处理器资源碎片增加。则，在使用时，可以监测处理器的所述物理处理器核，根据监测结果确定所述物理处理器核对应的分配合理性数据，所述分配合理性数据用于指示所述物理处理器核中的多个处理器资源被分配的合理性；根据所述分配合理性数据确定是否重新分配所述物理处理器核上多个处理器资源，从而通过合理性数据确定物理处理器核中的处理器资源碎片，并通过重新分配的过程整理物理处理器核中的碎片，以减少处理器资源碎片，并且可以优化隔离布局、提高效能以及更好的达到应用的SLO。

在重新分配时，可以对各个隔离模式下的应用按照所需处理器资源的数量进行排序，若所需处理器资源的数量相同，则按照应用对应的处理器资源申请的时间进行排序，排序完成后，可以根据排序结果重新为各个应用分配该物理处理器核上的处理器资源。

另外，可选地，由于在实际使用时，应用不再使用处理器资源后即空出处理器资源，并可以将空出的处理器资源分配至其他应用，但是整个过程会使得物理处理器核的峰谷特性数据发生变化，但是其上的应用混部效果较差。则本实施例中，可以监测处理器的所述物理处理器核，根据监测结果确定所述物理处理器核对应的混部合理性数据；根据所述混部合理性数据确定是否将所述物理处理器核对应的所述在线应用或所述离线应用进行调度或迁移。

在进行调度时，可以先确定待调度的应用，然后计算待调度的应用与各个处理器资源间的匹配度，并根据匹配度调度待调度应用至另一物理处理器核。

本实施例提供的方案，通过隔离模式将在线应用进行隔离，来避免除在线应用自身之外的其他应用造成的干扰，并通过隔离模式下的处理器资源使用方式，满足了在线应用对处理器资源的基本需求，并通过确定不同模式下的在线应用的可分享处理器资源的数量，可以使得确定的可分享处理器资源的数量更加准确，提高了处理器资源的利用率。

本实施例的处理器资源调度方法可以由任意适当的具有数据处理能力的终端设备执行，包括但不限于：移动终端(如平板电脑、手机等)、PC机和服务器。

实施例三

参照图3，示出了根据本发明实施例三的一种执行处理器资源调度方法的调度系统结构示意图。

本实施例以应用包括离线应用和在线应用、以处理器资源为CPU的处理器资源为例，进行示例性说明。

本实施例的调度系统包括：

协同控制模块302，设置在主设备(master)上的算分模块304、分配模块306，设置在从设备(slave)上的调度模块308、指标采集模块310。

其中，指标采集模块310用于采集各个应用容器的负载信息和各个应用的SLO指标等，指标采集模块获得的数据可被其他模块进行处理以及使用。

获取应用的处理器资源申请请求后，协同控制模块分析应用的历史数据，以确定其峰谷特性数据，并在高峰期和低谷期进行打标，并将打标数据传输至master上的算分模块304；同时，指标采集模块采集各个物理处理器核的处理器资源的分配数据，例如一个物理CPU中的处理器资源分配数据，以及确定各个物理处理器核对应的峰谷特性数据，并传输至master上的算分模块304。

master上的算分模块304根据应用的处理器资源申请请求确定应用请求的处理器资源的数量。若应用为离线应用，则确定的应用请求的处理器资源的数量为处理器资源预估量；若应用为在线应用，则确定的应用请求的处理器资源的数量为处理器资源上限。

master上的算分模块304先根据应用对应的打标数据、物理处理器核对应的峰谷特性数据，确定应用与物理处理器核之间的峰谷互补数据；然后根据各个物理处理器核的处理器资源的分配数据、负载均衡数据以及峰谷互补数据确定应用与物理处理器核之间的匹配度。针对一个应用，每个物理处理器核均对应有一匹配度，以根据匹配度确定为应用分配的是哪个物理处理器核上的处理器资源。

具体地，计算峰谷互补数据时，可以将应用根据不同的高峰期和低谷期分为c类，并计算每类应用在一物理处理器核中的期望分配占比expect_cpu_ratio^k，其中，k＝0，1，…，c。然后根据每类在一物理处理器核中的期望分配占比确定该应用所属的类别在物理处理器核中是否符合期望，从而确定峰谷互补数据。峰谷互补数据具体为：

其中，expect_cpu_ratio^k为第k类应用在该物理处理器核中的期望分配占比，sum_cpu_ratio^k为该物理处理器核中已经分配至第k类应用的处理器资源占比，peak_valley_complementarity为该应用与该物理处理器核之间的峰谷互补数据。

当然，在计算时，还可以通过其他方式进行计算，例如通过标准差等进行计算，在计算时还可以加入其他参数，例如物理处理器核的类型参数等，本实施例对此不进行限定。

确定峰谷互补数据后，即可确定应用与物理处理器核之间的匹配度。

若应用为在线应用，则可以计算

balance、peak_valley_complementarity三者的加权平均值，以得到匹配度score。

其中

中包括多个应用的处理器资源上限，多个应用包括未分配的在线应用以及该物理处理器核对应的已分配物理处理器核的在线应用；balance为负载平衡参数；peak_valley_complementarity为该在线应用与该物理处理器核之间的峰谷互补数据。

若应用为离线应用，则可以计算

balance、peak_valley_complementarity三者的加权平均值，以得到匹配度score。

其中

中包括待分配的离线应用的处理器资源期望值，以及该物理处理器核对应的已分配物理处理器核的在线应用/离线应用的处理器资源期望值；balance为负载平衡参数；peak_valley_complementarity为该在线应用与该物理处理器核之间的峰谷互补数据。

master上的算分模块304确定应用与物理处理器核之间的匹配度score后，master上的分配模块306根据多个score由高到低的排序结果确定进行处理器资源的分配，并将分配结果发送至slave的调度模块308。

slave的调度模块308根据待分配应用对应的隔离模式调整隔离参数，并基于分配模块306的分配结果为应用分配处理器资源。

具体地，隔离模式可以包括独占模式、预留模式、分享模式、离线模式四种，具体详见上述实施例二，本实施例在此不再赘述。

在进行分配时，以CPU为例，需要遵循的基本分配策略可以包括：

1.根据物理处理核的拓扑结构，例如，CPU topology，从多个CPU的Socket中编号大的CPU开始，并优先在某一个CPU上从编号大的物理核core开始，绑完一个物理核上的所有处理器资源，再绑下一个物理核的所有处理器资源。

具体地，在CPU的拓扑结构中，每个Socket对应一个CPU的插槽，用于插一个完成的CPU组件，core为CPU组件中独立的硬件执行单元，处理器资源为core中的处理线程。

2.如果1不满足，即不能绑完一个物理核中的所有处理器资源，则优先在一个socket中分配，但不保证完全独占物理核，而是可能出现一个应用的处理器资源分属两个物理核的情况；

3.如果2不满足，即不能在一个socket中进行分配，则跨socket分配处理器资源。

4.先分配独占模式和预留模式下的应用，再决定分享模式和离线模式下的应用可绑定的处理器资源。

以上为通过调度系统为应用分配处理器资源的整体实现方案。通过上述方案为应用分配处理器资源后，可以通过设置离线模式将在线应用闲置的处理器资源分配给离线应用使用，可以通过设置分享模式使得长尾或延时不敏感的在线应用之间分享处理器资源，提高了离线应用以及长尾或延时不敏感的在线应用的弹性调度需求，但是不能满足预留模式下的在线应用的弹性调度需求。则在上述方案的基础上，可以通过协同控制模块302执行上述实施例一以及实施例二提供的方案，满足预留模式下的在线应用的弹性调度需求，并可以进一步提高处理器资源的利用率。

进一步地，本实施例中，可以通过指标采集模块310采集各个物理处理器核的使用数据，以监测处理器的所述物理处理器核，并将监测结果发送至协同控制模块302，协同控制模块302根据监测结果确定所述物理处理器核对应的分配合理性数据，并根据分配合理性数据确定是否触发调度模块308重新分配所述物理处理器核上多个处理器资源。

具体重新分配的方案详见上述实施例二，本实施例在此不再赘述。

进一步地，本实施例中，还可以通过指标采集模块310采集各个物理处理器核的使用数据，以监测处理器的所述物理处理器核，并将监测结果发送至协同控制模块302，协同控制模块302根据监测结果确定所述物理处理器核对应的混部合理性数据，并根据所述混部合理性数据确定是否触发分配模块306将所述物理处理器核对应的所述在线应用或所述离线应用进行调度或迁移。

具体重新调度的方案详见上述实施例二，本实施例在此不再赘述。

实施例四

参照图4，示出了根据本发明实施例四的一种处理器资源调度装置的结构框图。

如图4所示，处理器资源调度装置包括分享确定模块402、调度模块404。

其中，分享确定模块402，用于确定各个在线应用分别对应的可分享处理器资源，以根据各个所述在线应用分别对应的可分享处理器资源，确定所有的可分享处理器资源。

调度模块404，用于从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源。

在一种可选的实施方式中，所述分享确定模块包括：分享数量确定模块，用于确定各个所述在线应用分别对应的可分享处理器资源的数量，以根据各个所述在线应用分别对应的可分享处理器资源的数量，确定可分享处理器资源的总数量；对应的，所述调度模块包括：数量配置模块，用于根据可分享处理器资源的总数量，配置各个所述在线应用可调用的处理器资源总数量，以从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源。

在一种可选的实施方式中，所述在线应用通过配置的隔离模式进行隔离，所述隔离模式包括独占模式或者预留模式或者分享模式；对应的，若所述在线应用对应的隔离模式为独占模式，则其对应的可分享处理器资源的数量为0；或者，若所述在线应用对应的隔离模式为预留模式，则根据在线应用的当前负载以及预留处理器资源的数量，确定可分享处理器资源的数量；或者，若所述在线应用对应的隔离模式为分享模式，则确定所述分享模式对应的处理器资源数量为可分享处理器资源的数量。

在一种可选的实施方式中，还包括：获取模块，用于获取所述在线应用的处理器资源申请请求；分配模块，用于根据所述资源申请请求以及所述在线应用与物理处理器核间的峰谷互补数据，确定所述物理处理器核中被分配至所述在线应用的处理器资源及所述在线应用占用该处理器资源的时间片，以将所述在线应用混部至所述物理处理器核；对应的，所述分享数量确定模块包括：数量确定子模块，用于确定混部后的所述在线应用分别对应的可分享处理器资源的数量，其中，所述在线应用的可分享处理器资源为其被混部至的所述物理处理器核中的处理器资源。

在一种可选的实施方式中，所述处理器中被混部的应用还包括离线应用，对应地，所述获取模块，还用于获取离线应用的处理器资源申请请求；分配模块，还用于根据所述资源申请请求以及所述离线应用与物理处理器核间的峰谷互补数据，确定所述物理处理器核中被分配至所述离线应用的处理器资源及所述离线应用占用该处理器资源的时间片，以将所述离线应用混部至所述物理处理器核，其中，所述离线应用可占用的所述处理器资源为以及占用该处理器资源的时间片包括以下至少之一：所述在线应用未占用的所述处理器资源的所有时间片、所述在线应用已占用处理器资源的未被占中的时间片。

在一种可选的实施方式中，还包括：合理性监测模块，用于监测处理器的所述物理处理器核，根据监测结果确定所述物理处理器核对应的分配合理性数据，所述分配合理性数据用于指示所述物理处理器核中的多个处理器资源被分配的合理性；根据所述分配合理性数据确定是否重新分配所述物理处理器核上多个处理器资源。

在一种可选的实施方式中，还包括：混部监测模块，用于监测处理器的所述物理处理器核，根据监测结果确定所述物理处理器核对应的混部合理性数据；根据所述混部合理性数据确定是否将所述物理处理器核对应的所述在线应用或所述离线应用进行调度或迁移。

本实施例提供的处理器资源调度方案，通过确定各个在线应用分别对应的可分享处理器资源，以根据各个所述在线应用分别对应的可分享处理器资源，确定所有的可分享处理器资源；从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源，从而可以盘活可分享处理器资源，避免其闲置，进而提高了处理器资源的利用率；并可以出现在线应用流量激增的情况时，通过根据可分享处理器资源的总数量，配置各个所述在线应用可调用的处理器资源总数量，从而允许在线应用可以调用可分享处理器资源，实现了处理器资源的弹性调度，并保证在线应用达到对应的SLO，进而使得用户的体验较好。

实施例五

一种终端设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如上所述的处理器资源调度方法对应的操作。

具体地，参照图5，示出了根据本发明实施例五的一种终端设备的结构示意图，本发明具体实施例并不对终端设备的具体实现做限定。

如图5所示，该终端设备可以包括：处理器(processor)502、通信接口(Communications Interface)504、存储器(memory)506、以及通信总线508。

其中：

处理器502、通信接口504、以及存储器506通过通信总线508完成相互间的通信。

通信接口504，用于与其它终端设备或服务器进行通信。

处理器502，用于执行程序510，具体可以执行上述处理器资源调度方法实施例中的相关步骤。

具体地，程序510可以包括程序代码，该程序代码包括计算机操作指令。

处理器502可能是中央处理器CPU，或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。终端设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个CPU；也可以是不同类型的处理器，如一个或多个CPU以及一个或多个ASIC。

存储器506，用于存放程序510。存储器506可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。

程序510具体可以用于使得处理器502执行以下操作：确定各个在线应用分别对应的可分享处理器资源，以根据各个所述在线应用分别对应的可分享处理器资源，确定所有的可分享处理器资源；从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源。

在一种可选的实施方式中，所述确定各个在线应用分别对应的可分享处理器资源，以根据各个所述在线应用分别对应的可分享处理器资源，确定所有的可分享处理器资源包括：确定各个所述在线应用分别对应的可分享处理器资源的数量，以根据各个所述在线应用分别对应的可分享处理器资源的数量，确定可分享处理器资源的总数量；对应的，所述从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源包括：根据可分享处理器资源的总数量，配置各个所述在线应用可调用的处理器资源总数量，以从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源。

在一种可选的实施方式中，所述在线应用通过配置的隔离模式进行隔离，所述隔离模式包括独占模式或者预留模式或者分享模式；对应的，若所述在线应用对应的隔离模式为独占模式，则其对应的可分享处理器资源的数量为0；

或者，若所述在线应用对应的隔离模式为预留模式，则根据在线应用的当前负载以及预留处理器资源的数量，确定可分享处理器资源的数量；或者，若所述在线应用对应的隔离模式为分享模式，则确定所述分享模式对应的处理器资源数量为可分享处理器资源的数量。

在一种可选的实施方式中，还包括：获取所述在线应用的处理器资源申请请求；根据所述资源申请请求以及所述在线应用与物理处理器核间的峰谷互补数据，确定所述物理处理器核中被分配至所述在线应用的处理器资源及所述在线应用占用该处理器资源的时间片，以将所述在线应用混部至所述物理处理器核；对应的，所述确定各个所述在线应用分别对应的可分享处理器资源的数量包括：确定混部后的所述在线应用分别对应的可分享处理器资源的数量，其中，所述在线应用的可分享处理器资源为其被混部至的所述物理处理器核中的处理器资源。

在一种可选的实施方式中，所述处理器中被混部的应用还包括离线应用，对应地，所述方法还包括：获取离线应用的处理器资源申请请求；根据所述资源申请请求以及所述离线应用与物理处理器核间的峰谷互补数据，确定所述物理处理器核中被分配至所述离线应用的处理器资源及所述离线应用占用该处理器资源的时间片，以将所述离线应用混部至所述物理处理器核，其中，所述离线应用可占用的所述处理器资源为以及占用该处理器资源的时间片包括以下至少之一：所述在线应用未占用的所述处理器资源的所有时间片、所述在线应用已占用处理器资源的未被占中的时间片。

在一种可选的实施方式中，还包括：监测处理器的所述物理处理器核，根据监测结果确定所述物理处理器核对应的分配合理性数据，所述分配合理性数据用于指示所述物理处理器核中的多个处理器资源被分配的合理性；根据所述分配合理性数据确定是否重新分配所述物理处理器核上多个处理器资源。

在一种可选的实施方式中，还包括：监测处理器的所述物理处理器核，根据监测结果确定所述物理处理器核对应的混部合理性数据；根据所述混部合理性数据确定是否将所述物理处理器核对应的所述在线应用或所述离线应用进行调度或迁移。

程序510中各步骤的具体实现可以参见上述处理器资源调度方法实施例中的相应步骤和单元中对应的描述，在此不赘述。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的设备和模块的具体工作过程，可以参考前述方法实施例中的对应过程描述，在此不再赘述。

本实施例的终端设备，通过确定各个在线应用分别对应的可分享处理器资源，以根据各个所述在线应用分别对应的可分享处理器资源，确定所有的可分享处理器资源；从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源，从而可以盘活可分享处理器资源，避免其闲置，进而提高了处理器资源的利用率；并可以出现在线应用流量激增的情况时，通过根据可分享处理器资源的总数量，配置各个所述在线应用可调用的处理器资源总数量，从而允许在线应用可以调用可分享处理器资源，实现了处理器资源的弹性调度，并保证在线应用达到对应的SLO，进而使得用户的体验较好。

需要指出，根据实施的需要，可将本发明实施例中描述的各个部件/步骤拆分为更多部件/步骤，也可将两个或多个部件/步骤或者部件/步骤的部分操作组合成新的部件/步骤，以实现本发明实施例的目的。

上述根据本发明实施例的方法可在硬件、固件中实现，或者被实现为可存储在记录介质(诸如CD ROM、RAM、软盘、硬盘或磁光盘)中的软件或计算机代码，或者被实现通过网络下载的原始存储在远程记录介质或非暂时机器可读介质中并将被存储在本地记录介质中的计算机代码，从而在此描述的方法可被存储在使用通用计算机、专用处理器或者可编程或专用硬件(诸如ASIC或FPGA)的记录介质上的这样的软件处理。可以理解，计算机、处理器、微处理器控制器或可编程硬件包括可存储或接收软件或计算机代码的存储组件(例如，RAM、ROM、闪存等)，当所述软件或计算机代码被计算机、处理器或硬件访问且执行时，实现在此描述的处理器资源调度方法。此外，当通用计算机访问用于实现在此示出的处理器资源调度方法的代码时，代码的执行将通用计算机转换为用于执行在此示出的处理器资源调度方法的专用计算机。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及方法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明实施例的范围。

以上实施方式仅用于说明本发明实施例，而并非对本发明实施例的限制，有关技术领域的普通技术人员，在不脱离本发明实施例的精神和范围的情况下，还可以做出各种变化和变型，因此所有等同的技术方案也属于本发明实施例的范畴，本发明实施例的专利保护范围应由权利要求限定。

Claims (14)

1.一种处理器资源调度方法，其特征在于，包括：

确定各个在线应用分别对应的可分享处理器资源的数量，以根据各个所述在线应用分别对应的可分享处理器资源的数量，确定可分享处理器资源的总数量；

根据可分享处理器资源的总数量，配置各个所述在线应用可调用的处理器资源总数量，以从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源。

2.根据权利要求1所述的方法，其特征在于，所述在线应用通过配置的隔离模式进行隔离，所述隔离模式包括独占模式或者预留模式或者分享模式；对应的，

若所述在线应用对应的隔离模式为独占模式，则其对应的可分享处理器资源的数量为0；

或者，若所述在线应用对应的隔离模式为预留模式，则根据在线应用的当前负载以及预留处理器资源的数量，确定可分享处理器资源的数量；

或者，若所述在线应用对应的隔离模式为分享模式，则确定所述分享模式对应的处理器资源数量为可分享处理器资源的数量。

3.根据权利要求2所述的方法，其特征在于，还包括：

获取所述在线应用的处理器资源申请请求；

根据所述资源申请请求以及所述在线应用与物理处理器核间的峰谷互补数据，确定所述物理处理器核中被分配至所述在线应用的处理器资源及所述在线应用占用该处理器资源的时间片，以将所述在线应用混部至所述物理处理器核；

对应的，所述确定各个所述在线应用分别对应的可分享处理器资源的数量包括：确定混部后的所述在线应用分别对应的可分享处理器资源的数量，其中，所述在线应用的可分享处理器资源为其被混部至的所述物理处理器核中的处理器资源。

4.根据权利要求3所述的方法，其特征在于，所述处理器中被混部的应用还包括离线应用，对应地，所述方法还包括：

获取离线应用的处理器资源申请请求；

根据所述资源申请请求以及所述离线应用与物理处理器核间的峰谷互补数据，确定所述物理处理器核中被分配至所述离线应用的处理器资源及所述离线应用占用该处理器资源的时间片，以将所述离线应用混部至所述物理处理器核，其中，所述离线应用可占用的所述处理器资源为以及占用该处理器资源的时间片包括以下至少之一：所述在线应用未占用的所述处理器资源的所有时间片、所述在线应用已占用处理器资源的未被占中的时间片。

5.根据权利要求3或4所述的方法，其特征在于，还包括：

监测处理器的所述物理处理器核，根据监测结果确定所述物理处理器核对应的分配合理性数据，所述分配合理性数据用于指示所述物理处理器核中的多个处理器资源被分配的合理性；

根据所述分配合理性数据确定是否重新分配所述物理处理器核上多个处理器资源。

6.根据权利要求3或4所述的方法，其特征在于，还包括：

监测处理器的所述物理处理器核，根据监测结果确定所述物理处理器核对应的混部合理性数据；

根据所述混部合理性数据确定是否将所述物理处理器核对应的所述在线应用或离线应用进行调度或迁移。

7.一种处理器资源调度装置，其特征在于，包括：

分享数量确定模块，用于确定各个在线应用分别对应的可分享处理器资源的数量，以根据各个所述在线应用分别对应的可分享处理器资源的数量，确定可分享处理器资源的总数量；

数量配置模块，用于根据可分享处理器资源的总数量，配置各个所述在线应用可调用的处理器资源总数量，以从所有的可分享处理器资源中为各个所述在线应用配置可调用的处理器资源。

8.根据权利要求7所述的装置，其特征在于，所述在线应用通过配置的隔离模式进行隔离，所述隔离模式包括独占模式或者预留模式或者分享模式；对应的，若所述在线应用对应的隔离模式为独占模式，则其对应的可分享处理器资源的数量为0；或者，若所述在线应用对应的隔离模式为预留模式，则根据在线应用的当前负载以及预留处理器资源的数量，确定可分享处理器资源的数量；或者，若所述在线应用对应的隔离模式为分享模式，则确定所述分享模式对应的处理器资源数量为可分享处理器资源的数量。

9.根据权利要求8所述的装置，其特征在于，还包括：

获取模块，用于获取所述在线应用的处理器资源申请请求；

分配模块，用于根据所述资源申请请求以及所述在线应用与物理处理器核间的峰谷互补数据，确定所述物理处理器核中被分配至所述在线应用的处理器资源及所述在线应用占用该处理器资源的时间片，以将所述在线应用混部至所述物理处理器核；

对应的，所述分享数量确定模块包括：数量确定子模块，用于确定混部后的所述在线应用分别对应的可分享处理器资源的数量，其中，所述在线应用的可分享处理器资源为其被混部至的所述物理处理器核中的处理器资源。

10.根据权利要求9所述的装置，其特征在于，所述处理器中被混部的应用还包括离线应用，对应地，

所述获取模块，还用于获取离线应用的处理器资源申请请求；

分配模块，还用于根据所述资源申请请求以及所述离线应用与物理处理器核间的峰谷互补数据，确定所述物理处理器核中被分配至所述离线应用的处理器资源及所述离线应用占用该处理器资源的时间片，以将所述离线应用混部至所述物理处理器核，其中，所述离线应用可占用的所述处理器资源为以及占用该处理器资源的时间片包括以下至少之一：所述在线应用未占用的所述处理器资源的所有时间片、所述在线应用已占用处理器资源的未被占中的时间片。

11.根据权利要求9或10所述的装置，其特征在于，还包括：合理性监测模块，用于监测处理器的所述物理处理器核，根据监测结果确定所述物理处理器核对应的分配合理性数据，所述分配合理性数据用于指示所述物理处理器核中的多个处理器资源被分配的合理性；根据所述分配合理性数据确定是否重新分配所述物理处理器核上多个处理器资源。

12.根据权利要求9或10所述的装置，其特征在于，还包括：混部监测模块，用于监测处理器的所述物理处理器核，根据监测结果确定所述物理处理器核对应的混部合理性数据；根据所述混部合理性数据确定是否将所述物理处理器核对应的所述在线应用或离线应用进行调度或迁移。

13.一种终端设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；

所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-6任一项所述的处理器资源调度方法对应的操作。

14.一种计算机存储介质，其上存储有计算机程序，该程序被处理器执行时实现如权利要求1-6中任一所述的处理器资源调度方法。

Images