CN118170503A - 一种异构处理器及相关调度方法 - Google Patents

Abstract

本申请实施例公开了一种异构处理器及相关调度方法，其特征在于，所述异构处理器包括大小不同的多个处理核，且多个处理核中每个处理核包括场景分类器和性能预测器，第一处理核中的场景分类器，获取第一处理核的运行信息，运行信息包括第一处理核运行目标业务的指令流特征，存储器运行特征中的一种或多种，第一处理核为多个处理核中的任意一个；基于运行信息从多个预设场景中确定目标业务的目标场景；第一处理核中的性能预测器，基于目标场景和运行信息预测目标性能信息，目标性能信息为与目标业务对应的性能预测信息。采用本申请实施例能够提升异构处理器的性能，或是改善异构处理器的能效。

Description

一种异构处理器及相关调度方法

技术领域

本申请涉及多核处理器领域，尤其涉及一种异构处理器及相关调度方法。

背景技术

多核异构处理器(也可称为混合处理器)是指包含多个不同类型的处理器核心的硬件平台。例如，多核异构处理器中可以包括性能核心，能效核心，和低功耗核心。其中，性能核心可提供高的性能，高的吞吐量和低延迟，可用于保证处理器系统的高性能场景；能效核心可提供最优的能效比，可用于保证处理器系统的较优性能和较低能耗场景；低功耗核心可提供最低功耗，可用于保证处理器系统的最低功耗场景。多核异构处理器的大小核调度是对于运行在不同的处理器核心上的线程负载进行实时感知，在性能约束和能耗约束下，确定调度策略，实现将不同类型的线程分配到不同能效的处理器核心上执行，以获得处理器系统的最优能效或最好性能。但由于不同场景下不同类型的线程负载在不同类型的处理器核心上的性能表现和能效表现存在着较大的非线性和时变性，难以准确地预测线程在不同类型处理器核心上的性能表现。

因此，如何确定线程在不同类型的处理器核心上的性能表现，进而可基于该性能表现确定线程的调度策略，以提升异构处理器的性能，或是改善异构处理器的能效，是亟待解决的问题。

发明内容

本申请实施例所要解决的技术问题在于，如何提供一种异构处理器及相关调度方法，以确定线程在不同类型的处理器核心上的性能表现，进而可基于该性能表现确定线程的调度策略，从而提升异构处理器的性能，或是改善异构处理器的能效。

第一方面，本申请实施案例提供一种异构处理器，其特征在于，所述异构处理器包括大小不同的多个处理核，且所述多个处理核中每个处理核包括场景分类器和性能预测器，其中，第一处理核中的场景分类器，用于：获取所述第一处理核的运行信息，所述运行信息包括所述第一处理核运行目标业务的指令流特征和存储器运行特征中的一种或多种，所述第一处理核为所述多个处理核中的任意一个；基于所述运行信息从多个预设场景中确定所述目标业务的目标场景；所述第一处理核中的性能预测器，用于：基于所述目标场景和所述运行信息预测目标性能信息，所述目标性能信息为与所述目标业务对应的性能预测信息。

在本发明实施例中，可通过处理核中的场景分类器获取当前处理核运行目标业务的线程的运行信息(可以包括处理核运行目标业务的指令流特征，数据访问特征，存储器运行特征等)，以基于运行信息确定目标业务的业务场景。接下来，处理核中的性能预测器可以基于当前处理核的运行信息和目标业务的业务场景，预测将当前处理核的线程迁移到不同类型的其他处理器核上的性能，以便后续可以基于预测结果确定线程的调度策略，从而提升异构处理器的性能，或是改善异构处理器的能效。在一些实施例中，仅基于处理器子系统收集应用程序(即业务)的处理核利用率等信息进行粗粒度的性能预测，无法满足实时性的要求，进而导致调度损失性能和能效。

在一种可能的实现方式中，所述每个处理核中的所述性能预测器包括多个性能子预测器和目标选择器，且所述多个性能子预测器中每个性能子预测器对应一个所述预设场景的性能预测算法，所述第一处理核中的所述性能预测器，具体用于：通过每个所述性能子预测器，基于对应所述预设场景的性能预测算法和所述第一处理核的所述运行信息，确定对应的性能信息；通过所述目标选择器，获取所述多个性能子预测器分别对应的多个性能信息，并基于所述目标场景从所述多个性能信息中确定所述目标性能信息。

在本发明实施例中，由于每个性能子预测器都对应了一个预设场景的性能预测算法，因此每个性能子预测器都可以根据自身的性能预测算法和运行信息预测将当前处理核的线程迁移到不同类型的其他处理器核心上的性能(需强调的是，每类性能预测算法会独立选择各自的处理器事件和存储子系统事件来判断将当前处理核的线程迁移到不同类型的其他处理器核心上的性能)。进一步地，目标选择器可以基于场景分类器输出的业务场景从多个预测结果中选择一个作为目标预测结果，从而能够更加准确地预测到将当前处理核的线程迁移到不同类型的其他处理器核心上的性能。

在一种可能的实现方式中，所述第一处理核中的所述性能预测器，具体用于：从多个性能预测算法中确定所述目标场景对应的目标性能预测算法，所述多个性能预测算法与所述多个预设场景一一对应；基于所述第一处理核的所述运行信息和所述目标性能预测算法，确定所述目标性能信息。

在本发明实施例中，由于性能预测器中包括了多个预设场景分别对应的性能预测算法，因此可以先根据场景分类器输出的业务场景，从多个性能预测算法中选择该业务场景对应的性能预测算法，进而可以基于该性能预测算法和运行信息进行预测，从而能够更加准确地预测到将当前处理核的线程迁移到不同类型的其他处理器核心上的性能。

在一种可能的实现方式中，所述第一处理核中的所述性能预测器，还用于：基于样本数据，确定所述多个预设场景以及所述多个预设场景分别对应的多个所述性能预测算法，所述样本数据包括所述多个预设场景分别对应的指令流特征和存储器运行特征。

在本发明实施例中，样本数据可以理解为多个场景分别对应的指令流特征和存储器运行特征，进而可以根据训练算法对样本数据进行训练，从而可以得到多个预设场景，以及每个预设场景对应的性能预测算法。

在一种可能的实现方式中，所述异构处理器上运行操作系统，所述第一处理核中的所述性能预测器，还用于：向所述操作系统发送所述目标性能信息；所述操作系统，用于：基于所述目标性能信息从所述多个处理核中确定第二处理核，并将所述目标业务调度至所述第二处理核进行处理。

在本发明实施例中，当预测到线程在不同类型的处理器核心上的性能表现后，处理核可以将预测结果发送至操作系统，进而操作系统可以基于预测结果确定线程的调度策略，从而提升异构处理器的性能。

在一种可能的实现方式中，所述第一处理核中还包括第一采样单元和第二采样单元，所述第一采样单元，用于：获取所述第一处理核运行所述目标业务的所述指令流特征，所述指令流特征包括指令类型，指令数量，处理器核动态事件中的一种或多种；所述第二采样单元，用于：获取所述第一处理核运行所述目标业务的所述存储器运行特征，所述存储器运行特征包括访问带宽，访问延迟，缺失率，请求队列占用率中的一种或多种。

在本发明实施例中，第一采样单元可以理解为处理器事件采样单元，可以用于采集第一处理核当前运行目标业务的指令流特征，即第一处理核运行目标业务过程中所执行的指令类型，指令数量等信息(可以理解为处理核内部的信息)；第二采样单元可以理解为存储子系统事件采样单元，可以用于采集第一处理核当前运行目标业务的存储器运行特征(可以理解为处理核外部的信息)，即第一处理核访问存储子系统时的访问带宽，访问延迟，缺失率，请求队列占用率等信息。进一步地，第一处理核中的场景分类器可以基于第一处理核运行目标业务时所执行的指令类型，指令数量等信息和第一处理核访问存储子系统时的访问带宽，访问延迟，缺失率，请求队列占用率等信息确定目标业务的业务场景，然后可基于目标业务的业务场景预测将目标业务调度至其他处理核上的性能表现。

第二方面，本申请提供了一种调度方法，其特征在于，应用于异构处理器，所述异构处理器包括大小不同的多个处理核，且所述多个处理核中每个处理核包括场景分类器和性能预测器，所述方法包括：通过第一处理核中的场景分类器，获取所述第一处理核的运行信息，所述运行信息包括所述第一处理核运行目标业务的指令流特征和存储器运行特征中的一种或多种，所述第一处理核为所述多个处理核中的任意一个；基于所述运行信息从多个预设场景中确定所述目标业务的目标场景；通过所述第一处理核中的性能预测器，基于所述目标场景和所述运行信息预测目标性能信息，所述目标性能信息为与所述目标业务对应的性能预测信息。

在一种可能的实现方式中，所述每个处理核中的所述性能预测器包括多个性能子预测器和目标选择器，且所述多个性能子预测器中每个性能子预测器对应一个所述预设场景的性能预测算法，所述基于所述目标场景和所述运行信息预测目标性能信息，包括：通过每个所述性能子预测器，基于对应所述预设场景的性能预测算法和所述第一处理核的所述运行信息，确定对应的性能信息；通过所述目标选择器，获取所述多个性能子预测器分别对应的多个性能信息，并基于所述目标场景从所述多个性能信息中确定所述目标性能信息。

在一种可能的实现方式中，所述基于所述目标场景和所述运行信息预测目标性能信息，包括：从多个性能预测算法中确定所述目标场景对应的目标性能预测算法，所述多个性能预测算法与所述多个预设场景一一对应；基于所述第一处理核的所述运行信息和所述目标性能预测算法，确定所述目标性能信息。

在一种可能的实现方式中，所述方法还包括：通过所述第一处理核中的所述性能预测器，基于样本数据确定所述多个预设场景以及所述多个预设场景分别对应的多个所述性能预测算法，所述样本数据包括所述多个预设场景分别对应的指令流特征和存储器运行特征。

在一种可能的实现方式中，所述异构处理器上运行操作系统，所述方法还包括：通过所述第一处理核中的所述性能预测器，向所述操作系统发送所述目标性能信息；通过所述操作系统，基于所述目标性能信息从所述多个处理核中确定第二处理核，并将所述目标业务调度至所述第二处理核进行处理。

在一种可能的实现方式中，所述第一处理核中还包括第一采样单元和第二采样单元，所述方法还包括：通过所述第一采样单元，获取所述第一处理核运行所述目标业务的所述指令流特征，所述指令流特征包括指令类型，指令数量，处理器核动态事件中的一种或多种；通过所述第二采样单元，获取所述第一处理核运行所述目标业务的所述存储器运行特征，所述存储器运行特征包括访问带宽，访问延迟，缺失率，请求队列占用率中的一种或多种。

第三方面，本申请提供了一种计算机存储介质，其特征在于，所述计算机存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述第二方面任意一项所述的方法。

第四方面，本申请提供了一种芯片系统，该芯片系统包括处理器，用于支持电子设备实现上述第二方面中所涉及的功能，例如，生成或处理上述调度方法中所涉及的信息。在一种可能的设计中，所述芯片系统还包括存储器，所述存储器，用于保存电子设备必要的程序指令和数据。该芯片系统，可以由芯片构成，也可以包含芯片和其他分立器件。

第五方面，本申请提供一种计算机程序产品，其特征在于，所述计算机程序包括指令，当所述计算机程序被计算机执行时，使得所述计算机执行上述第二方面中任意一项所述的方法。

附图说明

图1是本发明实施例提供的一种多核异构处理器的结构示意图。

图2为本发明实施例提供的一种异构处理器的结构示意图。

图3为本发明实施例提供的一种第一处理核的内部结构示意图。

图4为本发明实施例提供的一种异构处理器系统的示意图。

图5为本发明实施例提供的一种处理核的内部结构示意图。

图6为本发明实施例提供的另一种处理核的内部结构示意图。

图7为本发明实施例提供的一种性能预测算法的训练流程图。

图8为本发明实施例提供的一种大小核调度的示意图。

图9是本发明实施例提供的一种调度方法的流程图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例进行描述。

本申请的说明书和权利要求书及所述附图中的术语“第一”、“第二”、“第三”和“第四”等是用于区别不同对象，而不是用于描述特定顺序。此外，术语“包括”和“具有”以及它们任何变形，意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可选地还包括没有列出的步骤或单元，或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。

在本文中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是，本文所描述的实施例可以与其它实施例相结合。

本申请实施例提供了一种多核异构处理器。请参见图1，图1是本发明实施例提供的一种多核异构处理器的结构示意图，多核异构处理器101是指在一个芯片中集成有多个处理器核(也可称为处理器核心)。这些处理器核具有不同的功能和结构，以一种有效的方式集成在同一个芯片中，并以有效的划分方式将应用程序分配给不同的处理器核进行并行处理，从而提高处理器系统的性能。该多核异构处理器101可以位于任意一个电子设备中，如电脑、计算机、手机、平板、个人数字助理、智能穿戴设备、智能车载或智能家电等各类设备中。该多核异构处理器101具体可以是芯片或芯片组或搭载有芯片或者芯片组的电路板。该芯片或芯片组或搭载有芯片或芯片组的电路板可在必要的软件驱动下工作。具体地，

多个处理器核(图1中以F个为例，F为大于1的整数)，如处理器核1011、处理器核1012……处理器核101F，是处理器核心的简称，又称为内核，是中央处理器(CentralProcessing Unit，CPU)最重要的组成部分，它是由单晶硅以一定的生产工艺制造出来的，CPU所有的计算、接收命令或存储命令、处理数据都由处理器核执行。在多个处理器核上可运行操作系统、文件系统(如闪存文件系统F2FS)或应用程序等，以控制连接到处理器的多个硬件或软件元件，并且可处理各种数据并执行操作。多个处理器核中的每个处理器核都可以将存储设备(可以理解为外存储器，如磁盘等)中存储的指令或数据加载到内存储器102中，并把需要运算的指令或数据调到处理器核中进行运算，当运算完成后处理器核再将结果临时存储在内存储器102中，并将需要长期存储的指令或数据通过控制器103存储至存储设备(即外存储器)中。在一些实施例中，多核异构处理器101中的存储器可以为高速缓冲存储器(Cache)。所述Cache中可以包括一级缓存(L1 Cache)、二级缓存(L2 Cache)三级缓存(L3 Cache)等中的一种或多种。所述Cache可以保存多核异构处理器101刚用过或循环使用的指令或数据。如果多核异构处理器101需要再次使用该指令或数据，可从所述Cache中直接调用。避免了重复存取，减少了处理器核的等待时间，因而提高了处理器系统的效率。可以理解的是，处理器核1011与(F-1)个处理器核之间可通过总线或其他方式耦合通信，此处不作具体限定。

在本发明实施例中，各个处理器核之间为异构，即不同处理器核(1011，1012……101F)之间的结构不同，且处理器核可以根据性能分为大核，中核，小核等。处理器核的类型可以包括性能核心(也可以称大核)，能效核心(也可以称为中核)，和低功耗核心(也可以称为小核)等，其中，性能核心可提供高的性能，高的吞吐量和低延迟，可用于保证处理器系统的高性能场景；能效核心可提供最优的能效比，可用于保证处理器系统的较优性能和较低能耗场景；低功耗核心可提供最低功耗，可用于保证处理器系统的最低功耗场景。多核异构处理器101的大小核调度是对于运行在不同的处理器核心上的线程负载进行实时感知，在性能约束和能耗约束下，确定线程的调度策略，实现将不同类型的线程分配到不同能效的处理器核心上执行，以获得处理器系统的最优能效或最好性能。

在本发明实施例中，多核异构处理器101的大小核调度的核心问题是，收集当前处理器A核心上运行的线程(或进程)的性能数据，并预测假设将该线程(或进程)迁移到不同类型的处理器B核心上的性能，进而可以基于预测结果确定线程(或进程)的调度策略，从而提升多核异构处理器101的性能。后续将详细说明如何预测线程(或进程)在不同处理器核心上运行的性能表现，在此先不赘述。

内存储器102(Memory)，简称为内存，可位于多核异构处理器101的外部，通常为掉电易失性存储器，断电时会丢失其上存储的内容，也可称为主存储器。本申请中的内存储器102包括可读可写的运行内存，其作用是用于暂时存放多个处理器核中的运算数据，以及与存储设备或其他外部存储器交互数据，可作为操作系统或其他正在运行中的程序的临时数据的存储媒介。在本申请中，可以基于处理器核访问内存储器102的数据访问特征，预测当前处理器核上运行的任务场景。内存储器102可以包括，动态随机存取存储器(DRAM)、静态随机存取存储器(SRAM)、同步动态随机存取存储器(SDRAM)等中的一种或多种。其中，DRAM又包括双倍速率同步动态随机存储器(Double Data Rate Synchronous Dynamic RandomAccess Memory，DDR SDRAM)简称DDR、二代双倍速率同步动态随机存储器(DDR2)、三代双倍速率同步动态随机存储器(DDR3)、四代低功耗双倍数据率同步动态随机存储器(Low PowerDouble Data Rate 4，LPDDR4)和五代低功耗双倍数据率同步动态随机存储器(Low PowerDouble Data Rate 5，LPDDR5)等。

控制器103，常用于管理并控制多核异构处理器101与外部存储设备(如磁盘等)之间的通信，并为多核异构处理器101和外部存储设备之间的通信提供标准化(例如通用闪存存储UFS标准)的接口。需要说明的是，图1中未示出外部存储设备，但多核异构处理器101不仅能够与内存储器102相连接，还能与外部存储设备相连接。具体地，控制器103可以根据多核异构处理器101发出的读/写等请求，向外部存储设备传递命令(例如，写入、读取、擦除等命令)及数据，以及根据存储设备读/写数据等结果向多核异构处理器101反馈事件(如命令完成事件、命令状态事件、硬件出错事件等)。对于从多核异构处理器101发出的命令或数据，控制器103可将命令或数据通过封装的方式转换为支持某个协议的数据包，而对于多核异构处理器101接收的数据，控制器103则进行反向操作。

可以理解的是，图1中的多核异构处理器101的结构只是本发明实施例提供的一些示例性的实施方式，本发明实施例中的多核异构处理器101的结构包括但不仅限于以上实现方式。

下面结合本发明实施例中的附图对本发明实施例进行描述。

请参见图2，图2为本发明实施例提供的一种异构处理器的结构示意图，下面将结合附图2对本发明实施例中的异构处理器进行详细描述。如图2所示，该异构处理器200可以用于预测线程在不同类型的处理器核心上的性能表现，并可基于预测结果确定线程的调度策略，从而提升异构处理器的性能，或是改善异构处理器的能效。需要说明的是，本发明实施例提供的异构处理器200可以包括上述图1中的多核异构处理器101的部分或全部结构和功能。异构处理器200可以包括但不限于大小不同的多个处理核，且所述多个处理核中每个处理核包括场景分类器和性能预测器，其中，

第一处理核201中的场景分类器2011，用于获取所述第一处理核201的运行信息。

具体的，所述运行信息包括所述第一处理核201运行目标业务的指令流特征，数据访问特征和存储器运行特征中的一种或多种，所述第一处理核201为所述多个处理核中的任意一个。目标业务可以理解为任意的应用程序。

需要说明的是，异构处理器200中包括的多个处理核的性能可以不同，可以根据性能分为大核，中核，小核等。例如，异构处理器200中的处理核可以为性能核心(可称大核)，能效核心(可称为中核)，低功耗核心(可称为小核)等，其中，性能核心可提供高的性能，高的吞吐量和低延迟，可用于保证处理器系统的高性能场景；能效核心可提供最优的能效比，可用于保证处理器系统的较优性能和较低能耗场景；低功耗核心可提供最低功耗，可用于保证处理器系统的最低功耗场景。第一处理核201可以为多个处理核中的任意一个，可以在第一处理核201上运行目标业务的线程。

可选的，在确定第一处理核201时，可以根据各个处理核当前的运行状态，从多个处理核中选择一个当前最优的作为第一处理核201。进一步地，可以将目标业务的线程调度至第一处理核201进行处理。

在运行过程中，由于异构处理器200中的处理核的运行状态在实时变化，第一处理核201不一定在运行过程中还是最优的处理核。因此，第一处理核201中的场景分类器2011可以在预设时间段后获取第一处理核201运行目标业务的运行信息，以便后续确定目标业务的业务场景，进而可基于目标业务的业务场景预测将目标业务调度至其他处理核上的性能表现。

在一种可能的实现方式中，所述第一处理核201中还包括第一采样单元2013和第二采样单元2014，所述第一采样单元2013，用于：获取所述第一处理核201运行所述目标业务的所述指令流特征，所述指令流特征包括指令类型，指令数量，处理器核动态事件中的一种或多种；所述第二采样单元2014，用于：获取所述第一处理核201运行所述目标业务的所述存储器运行特征，所述存储器运行特征包括访问带宽，访问延迟，缺失率，请求队列占用率中的一种或多种。

请参见图3，图3为本发明实施例提供的一种第一处理核的内部结构示意图，图中第一处理核201中还可以包括第一采样单元2013和第二采样单元2014，其中，第一采样单元2013可以理解为处理器事件采样单元，可以用于采集第一处理核201当前运行目标业务的指令流特征，即第一处理核201运行目标业务过程中所执行的指令类型，指令数量，处理器核动态事件等信息，其中，处理器核动态事件的特征中可以包括但不限于一级数据或指令缓存的缺失，分支预测器的缺失，分支预测器的错误，处理器队列的占用，数据和指令转译后备缓冲区缺失，发射带宽，流水线堵塞，硬件预取匹配等；第二采样单元2014可以理解为存储子系统事件采样单元，可以用于采集第一处理核201当前运行目标业务的存储器运行特征(存储器可以包括内存储器和缓存，其中缓存可以包括一级缓存，二级缓存，三级缓存等)，即第一处理核201访问存储子系统时的访问带宽，访问延迟，缺失率，请求队列占用率等信息。进一步地，第一处理核201中的场景分类器2011可以基于第一处理核201运行目标业务时所执行的指令类型，指令数量等信息和第一处理核201访问存储子系统时的访问带宽，访问延迟，缺失率，请求队列占用率等信息确定目标业务的业务场景，进而可基于目标业务的业务场景预测将目标业务调度至其他处理核上的性能表现。

需要说明的是，异构处理器200中的每个处理核中都可以包括处理器事件采样单元和存储子系统事件采样单元，分别用于获取对应的处理核的指令流特征(可以理解为处理核内部的信息)和存储器运行特征(可以理解为处理核外部的信息)。

所述第一处理核201中的所述场景分类器2011，还用于基于所述运行信息从多个预设场景中确定所述目标业务的目标场景。

具体的，多个预设场景可以分别为游戏场景、阅读场景、视频场景、生活服务类场景等，在本申请中并不具体限定预设场景的类型。第一处理核201中的场景分类器2011获取到第一处理核201的运行信息后，可以分析第一处理核201运行目标业务时所执行的指令类型，指令数量等特征，以及第一处理核201访问存储子系统时的访问带宽，访问延迟，缺失率，请求队列占用率等特征，进而可以基于上述特征从多个预设场景中确定目标业务的业务场景，如目标业务为游戏业务等，进而可基于目标业务的业务场景预测将目标业务调度至其他处理核上的性能表现。

例如，如图4所示，图4为本发明实施例提供的一种异构处理器系统的示意图，图中异构处理器中可以包括性能核心(大核)，能效核心1(中核)，能效核心2(中核)，低功耗核心1(小核)，低功耗核心2(小核)，低功耗核心3(小核)，低功耗核心4(小核)等。其中，大核和中核在运行过程中可以与二级缓存进行交互，小核在运行过程中可以与三级缓存进行交互。目标业务的线程可以运行在任意一个处理核上，在此可以假设目标业务最初运行在能效核心1上。在运行过程中，能效核心1中的场景分类器可以根据线程负载的特性进行分类，每个分类代表了一个不同的场景。场景分类器的输入一部分是处理器的事件，一部分是存储子系统的事件，如指令缓存，数据缓存，二级缓存，三级缓存，和内存控制器产生的事件等。进一步地，场景分类器可以基于处理器的事件和存储子系统的事件确定目标业务的业务场景，进而可基于目标业务的业务场景预测将目标业务调度至其他处理核上的性能表现。在一些实施例中，仅需预测将目标业务调度至其他类型的处理器核上的性能表现，而无需预测将目标业务调度至同类型的处理器核上的性能表现。

需要说明的是，处理核中的场景分类器，可以通过软件实现，也可以通过硬件实现，在本申请中不做具体的限定。

可选的，处理核中的场景分类器可以为一个线性分类器，该线性分类器被用于进行场景分类。该线性分类器的输入是来源于处理器和存储子系统的事件，线性分类器的输出是目标业务的场景类别。场景的类别数量可以由分类的精度要求，系统的计算能力等确定。

可选的，处理核中的场景分类器还可以使用感知器模型来实现，使用在线的反馈来矫正该感知器；处理核中的场景分类器还可以采用人工神经网络来实现；处理核中的场景分类器还可以使用离线训练的模型提供。

所述第一处理核201中的性能预测器2012，用于基于所述目标场景和所述运行信息预测所述目标业务对应的目标性能信息。

在一些实施例中，所述目标性能信息可以包括将所述目标业务调度至所述多个处理核上的性能预测信息。目标性能信息可以理解为假设将当前处理核的线程迁移到不同类型的其他处理核上的性能表现，其结果可以是相关系数，也可以是枚举量，如强烈提升，轻微提升，基本不变，轻微下降，强烈下降等。性能预测信息可以理解为假设将当前处理核的线程迁移到另一个处理核上，另一个处理核与当前处理核的性能对比结果，如将能效核心1上的线程迁移到性能核心上，性能会强烈提升等。在本申请中，通过性能预测器2012来判断将当前处理核的线程迁移到不同类型的其他处理核上的性能，且性能预测器2012可以使用场景分类器2011的输出作为输入，并可以通过输入目标业务的场景类型选择相应的性能预测算法，以预测将目标业务调度至其他处理核上的性能表现。

需要说明的是，每类性能预测算法会独立选择各自的处理器事件和存储子系统事件来判断将当前处理核的线程迁移到不同类型的其他处理器核心上的性能。

还需要说明的是，处理核中的性能预测器，可以通过软件实现，也可以通过硬件实现，在本申请中不做具体的限定。

接下来，关于性能预测器2012如何基于目标场景和运行信息预测目标业务对应的目标性能信息，在本申请实施例中提供了两种具体实施方式，详细描述如下：

其一，请参见图5，图5为本发明实施例提供的一种处理核的内部结构示意图，图中每个处理核中的所述性能预测器2012包括多个性能子预测器和目标选择器，且所述多个性能子预测器中每个性能子预测器对应一个所述预设场景的性能预测算法，所述第一处理核201中的所述性能预测器2012，具体用于：通过每个所述性能子预测器，基于对应所述预设场景的性能预测算法和所述第一处理核201的所述运行信息，确定对应的性能信息；通过所述目标选择器，获取所述多个性能子预测器分别对应的多个性能信息，并基于所述目标场景从所述多个性能信息中确定所述目标性能信息。

具体的，可通过第一处理核201中的处理器事件采样单元采集第一处理核201运行目标业务的指令流特征(如各种处理器事件)，也可通过第一处理核201中的存储子系统事件采样单元采集第一处理核201运行目标业务的存储器运行特征(如各种存储子系统事件)，从而场景分类器2011和各个性能子预测器可以获取到第一处理核201运行目标业务的运行信息。由于每个性能子预测器都对应了一个预设场景的性能预测算法，因此每个性能子预测器都可以根据自身的性能预测算法和运行信息预测将当前处理核的线程迁移到不同类型的其他处理器核心上的性能(需强调的是，每类性能预测算法会独立选择各自的处理器事件和存储子系统事件来判断将当前处理核的线程迁移到不同类型的其他处理器核心上的性能)。进一步地，目标选择器可以基于场景分类器2011输出的业务场景从多个预测结果中选择一个作为目标预测结果，从而能够更加准确地预测到将当前处理核的线程迁移到不同类型的其他处理器核心上的性能。

其二，请参见图6，图6为本发明实施例提供的另一种处理核的内部结构示意图，图中所述第一处理核201中的所述性能预测器2012，具体用于：从多个性能预测算法中确定所述目标场景对应的目标性能预测算法，所述多个性能预测算法与所述多个预设场景一一对应；基于所述第一处理核201的所述运行信息和所述目标性能预测算法，确定所述目标性能信息。

具体的，可通过第一处理核201中的处理器事件采样单元采集第一处理核201运行目标业务的指令流特征(如各种处理器事件)，也可通过第一处理核201中的存储子系统事件采样单元采集第一处理核201运行目标业务的存储器运行特征(如各种存储子系统事件)，从而场景分类器2011和性能预测器2012可以获取到第一处理核201运行目标业务的运行信息。由于性能预测器2012中包括了多个预设场景分别对应的性能预测算法，因此可以先根据场景分类器2011输出的业务场景，从多个性能预测算法中选择该业务场景对应的性能预测算法，进而可以基于该性能预测算法和运行信息预测将当前处理核的线程迁移到不同类型的其他处理器核心上的性能(需强调的是，每类性能预测算法会独立选择各自的处理器事件和存储子系统事件来判断将当前处理核的线程迁移到不同类型的其他处理器核心上的性能)。

在一种可能的实现方式中，所述第一处理核201中的所述性能预测器2012，还用于：基于样本数据，确定所述多个预设场景以及所述多个预设场景分别对应的多个所述性能预测算法，所述样本数据包括所述多个预设场景分别对应的指令流特征和存储器运行特征。

具体的，样本数据可以理解为多个场景分别对应的指令流特征和存储器运行特征，进而可以根据训练算法对样本数据进行训练，从而可以得到多个预设场景，以及每个预设场景对应的性能预测算法。

例如，如图7所示，图7为本发明实施例提供的一种性能预测算法的训练流程图，图中预设场景和性能预测算法可以联合进行训练和优化，以实现协同优化，使得精度达到最优，详细流程如下：

步骤S301：初始化场景分类算法。具体的，可以使用其他的算法通过特征聚类获得初始的场景分类算法。

步骤S302：使用场景分类算法对于样本进行分类，分为N个场景。具体的，场景分类算法可用于对于负载进行分类，进而训练的样本点可被分为N类。

步骤S303：将每个场景的样本作为输入，进行训练，共获得独立的N个性能预测算法。具体的，分为N类的样本点被独立用于每类性能预测算法的回归，得到N个性能预测算法。

步骤S304：预测误差是否满足要求。具体的，每个性能预测算法对于本组的样本点计算误差，当预测的误差满足要求，迭代训练的过程就退出到步骤S308。如果预测的误差不满足要求，就进入步骤S305。

步骤S305：将全部的样本作为输入，使用N个性能预测算法进行独立的预测，计算预测的误差。具体的，将全部的样本点作为输入，步骤S303训练的N个性能预测算法对全部的样本点进行独立的预测，计算出每个样本点在不同的性能预测算法下的误差。

步骤S306：根据预测的误差重新进行分组。具体的，根据步骤S305计算的误差，每个样本点被分入到误差最小的分组中。用这种方法，全部的样本点可被重新分成N个组。

步骤S307：将分组的信息用于训练场景分类算法，获得新的场景分类算法。具体的，可使用步骤S306的样本点的分组信息作为输入，训练新的场景分类算法。步骤S307训练的新的场景分类算法重新进入步骤S302，重复步骤S302的迭代过程。重新整个流程，进行循环迭代，直到步骤S304满足误差要求，迭代结束。

步骤S308：输出场景分类算法和对应的性能预测算法。具体的，可以输出场景分类算法和对应的性能预测算法。

在一种可能的实现方式中，所述异构处理器200上运行操作系统，所述第一处理核201中的所述性能预测器2012，还用于：向所述操作系统发送所述目标性能信息；所述操作系统，用于：基于所述目标性能信息从所述多个处理核中确定第二处理核，并将所述目标业务调度至所述第二处理核进行处理。

具体的，第二处理核为多个处理核中的一个。在一些实施例中，第二处理核与上述第一处理核为不同的处理核，若操作系统基于目标性能信息判断线程需要进行调度，则可以从除第一处理核外的剩余处理核中确定一个作为第二处理核。在一些实施例中，第二处理核可以与上述第一处理核为同一个处理核，若操作系统基于目标性能信息判断线程无需进行调度，则第二处理核为之前的第一处理核，表示线程无需进行调度。当预测到线程在不同类型的处理器核心上的性能表现后，处理核可以将预测结果发送至操作系统，进而操作系统可以基于预测结果确定线程的调度策略，从而提升异构处理器的性能，或是改善异构处理器的能效。

可选的，当操作系统接收到处理核发送的预测结果后，可以基于预测结果从多个处理核中确定一个作为目标处理核(即第二处理核)，在此过程中操作系统可以基于处理核的频率和电压等因素进行决策。

在一种可能的实现方式中，线性回归模型被用于预测处理器频率对于性能的影响，还可用于预测存储子系统的频率对于性能的影响。

例如，如图8所示，图8为本发明实施例提供的一种大小核调度的示意图，图中异构处理器可以包括处理器大小核调度控制单元2000，处理器大小核调度控制单元3000，操作系统决策模块5000。其中操作系统决策模块5000为软件部分。处理器大小核调度控制单元2000，处理器大小核调度控制单元3000可以用软件实现，也可以用硬件实现。处理器大小核调度控制单元2000中的处理器事件采样单元，存储子系统事件采样单元被采样和收集，用于获取处理器和存储子系统的状态，识别处理器系统中执行的指令流的业务特征。处理器大小核调度控制单元2000中的场景分类器通过处理器事件采样单元和存储子系统事件采样单元对处理器和存储子系统事件进行采样，使用场景分类器进行负载场景分类，输出负载的场景分类给下一级性能预测算法选择器。性能子预测器1，性能子预测器2，性能子预测器3，性能子预测器4为不同的场景的性能预测器。性能预测器根据不同的性能预测算法预测当前处理器的线程迁移到不同类型的其他处理器核心上的性能。其输出是：当前处理器的线程迁移到不同类型的其他处理器核心上的性能，其结果可以是相关系数，也可以枚举量，例如：强烈提升，轻微提升，基本不变，轻微下降，强烈下降等。操作系统决策模块5000收集全部的核的线程调度结果预测信息。通过汇总各个核的线程调度的预测信息，判断调度的整体方式。

在本申请中，可通过处理核中的场景分类器获取当前处理核运行目标业务的线程的运行信息(可以包括处理核运行目标业务的指令流特征，和存储器运行特征)，以基于运行信息确定目标业务的业务场景。接下来，处理核中的性能预测器可以基于当前处理核的运行信息和目标业务的业务场景，预测将当前处理核的线程迁移到不同类型的其他处理器核上的性能，以便后续可以基于预测结果确定线程的调度策略，从而提升异构处理器的性能，或是改善异构处理器的能效。而在一些实施例中，仅基于处理器子系统收集应用程序(即业务)的处理核利用率等信息进行粗粒度的性能预测，无法满足实时性的要求，进而导致调度损失性能和能效。

上述详细阐述了本发明实施例的异构处理器，下面提供了本发明实施例的相关方法。

请参见图9，图9是本发明实施例提供的一种调度方法的流程图，该方法适用于上述图2中的一种异构处理器以及包含所述异构处理器的设备，所述异构处理器包括大小不同的多个处理核，且所述多个处理核中每个处理核包括场景分类器和性能预测器。该方法可以包括以下步骤S401-步骤S403，详细描述如下：

步骤S401：通过第一处理核中的场景分类器，获取所述第一处理核的运行信息。

具体的，所述运行信息包括所述第一处理核运行目标业务的指令流特征，存储器运行特征中的一种或多种，所述第一处理核为所述多个处理核中的任意一个。

步骤S402：通过第一处理核中的场景分类器，基于所述运行信息从多个预设场景中确定所述目标业务的目标场景。

步骤S403：通过所述第一处理核中的性能预测器，基于所述目标场景和所述运行信息预测所述目标业务对应的目标性能信息。

具体的，所述目标性能信息包括将所述目标业务调度至所述多个处理核上的性能预测信息。

在一种可能的实现方式中，所述每个处理核中的所述性能预测器包括多个性能子预测器和目标选择器，且所述多个性能子预测器中每个性能子预测器对应一个所述预设场景的性能预测算法，所述基于所述目标场景和所述运行信息预测所述目标业务对应的目标性能信息，包括：通过每个所述性能子预测器，基于对应所述预设场景的性能预测算法和所述第一处理核的所述运行信息，确定对应的性能信息；通过所述目标选择器，获取所述多个性能子预测器分别对应的多个性能信息，并基于所述目标场景从所述多个性能信息中确定所述目标性能信息。

在一种可能的实现方式中，所述基于所述目标场景和所述运行信息预测所述目标业务对应的目标性能信息，包括：从多个性能预测算法中确定所述目标场景对应的目标性能预测算法，所述多个性能预测算法与所述多个预设场景一一对应；基于所述第一处理核的所述运行信息和所述目标性能预测算法，确定所述目标性能信息。

在一种可能的实现方式中，所述方法还包括：通过所述第一处理核中的所述性能预测器，基于样本数据确定所述多个预设场景以及所述多个预设场景分别对应的多个所述性能预测算法，所述样本数据包括所述多个预设场景分别对应的指令流特征和存储器运行特征。

在一种可能的实现方式中，所述异构处理器上运行操作系统，所述方法还包括：通过所述第一处理核中的所述性能预测器，向所述操作系统发送所述目标性能信息；通过所述操作系统，基于所述目标性能信息从所述多个处理核中确定第二处理核，并将所述目标业务调度至所述第二处理核进行处理。

在一种可能的实现方式中，所述第一处理核中还包括第一采样单元和第二采样单元，所述方法还包括：通过所述第一采样单元，获取所述第一处理核运行所述目标业务的所述指令流特征，所述指令流特征包括指令类型，指令数量，处理器核动态事件中的一种或多种；通过所述第二采样单元，获取所述第一处理核运行所述目标业务的所述存储器运行特征，所述存储器运行特征包括访问带宽，访问延迟，缺失率，请求队列占用率中的一种或多种。

在本申请中，可通过处理核中的场景分类器获取当前处理核运行目标业务的线程的运行信息(可以包括处理核运行目标业务的指令流特征，和数据访问特征)，以基于运行信息确定目标业务的业务场景。接下来，处理核中的性能预测器可以基于当前处理核的运行信息和目标业务的业务场景，预测将当前处理核的线程迁移到不同类型的其他处理器核上的性能，以便后续可以基于预测结果确定线程的调度策略，从而提升异构处理器的性能，或是改善异构处理器的能效。而在一些实施例中，仅基于处理器子系统收集应用程序(即业务)的处理核利用率等信息进行粗粒度的性能预测，无法满足实时性的要求，进而导致调度损失性能和能效。

本申请提供了一种计算机存储介质，其特征在于，所述计算机存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述任意一种调度方法。

本申请实施例提供一种电子设备，该电子设备中包括处理器，处理器被配置为支持该电子设备实现上述任意一种调度方法中相应的功能。该电子设备还可以包括存储器，存储器用于与处理器耦合，其保存该电子设备必要的程序指令和数据。该电子设备还可以包括通信接口，用于该电子设备与其他设备或通信网络通信。

本申请提供了一种芯片系统，该芯片系统包括处理器，用于支持电子设备实现上述所涉及的功能，例如，生成或处理上述一种调度方法中所涉及的信息。在一种可能的设计中，所述芯片系统还包括存储器，所述存储器，用于保存电子设备必要的程序指令和数据。该芯片系统，可以由芯片构成，也可以包含芯片和其他分立器件。

本申请提供一种计算机程序产品，其特征在于，所述计算机程序包括指令，当所述计算机程序被计算机执行时，使得所述计算机执行上述一种调度方法。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可能可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本申请所必须的。

在本申请所提供的几个实施例中，应该理解到，所揭露的装置，可通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如上述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性或其它的形式。

上述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请各实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

上述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以为个人计算机、服务器或者网络设备等，具体可以是计算机设备中的处理器)执行本申请各个实施例上述方法的全部或部分步骤。其中，而前述的存储介质可包括：U盘、移动硬盘、磁碟、光盘、只读存储器(Read-Only Memory，缩写：ROM)或者随机存取存储器(Random Access Memory，缩写：RAM)等各种可以存储程序代码的介质。

以上所述，以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (14)

1.一种异构处理器，其特征在于，所述异构处理器包括大小不同的多个处理核，且所述多个处理核中每个处理核包括场景分类器和性能预测器，其中，

第一处理核中的场景分类器，用于：获取所述第一处理核的运行信息，所述运行信息包括所述第一处理核运行目标业务的指令流特征和存储器运行特征中的一种或多种，所述第一处理核为所述多个处理核中的任意一个；基于所述运行信息从多个预设场景中确定所述目标业务的目标场景；

所述第一处理核中的性能预测器，用于：基于所述目标场景和所述运行信息预测目标性能信息，所述目标性能信息为与所述目标业务对应的性能预测信息。

2.如权利要求1所述的异构处理器，其特征在于，所述每个处理核中的所述性能预测器包括多个性能子预测器和目标选择器，且所述多个性能子预测器中每个性能子预测器对应一个所述预设场景的性能预测算法，所述第一处理核中的所述性能预测器，具体用于：

通过每个所述性能子预测器，基于对应所述预设场景的性能预测算法和所述第一处理核的所述运行信息，确定对应的性能信息；

通过所述目标选择器，获取所述多个性能子预测器分别对应的多个性能信息，并基于所述目标场景从所述多个性能信息中确定所述目标性能信息。

3.如权利要求1所述的异构处理器，其特征在于，所述第一处理核中的所述性能预测器，具体用于：

从多个性能预测算法中确定所述目标场景对应的目标性能预测算法，所述多个性能预测算法与所述多个预设场景一一对应；

基于所述第一处理核的所述运行信息和所述目标性能预测算法，确定所述目标性能信息。

4.如权利要求2或3所述的异构处理器，其特征在于，所述第一处理核中的所述性能预测器，还用于：

基于样本数据，确定所述多个预设场景以及所述多个预设场景分别对应的多个所述性能预测算法，所述样本数据包括所述多个预设场景分别对应的指令流特征和存储器运行特征。

5.如权利要求1-4任意一项所述的异构处理器，其特征在于，所述异构处理器上运行操作系统，

所述第一处理核中的所述性能预测器，还用于：向所述操作系统发送所述目标性能信息；

所述操作系统，用于：基于所述目标性能信息从所述多个处理核中确定第二处理核，并将所述目标业务调度至所述第二处理核进行处理。

6.如权利要求1-5任意一项所述的异构处理器，其特征在于，所述第一处理核中还包括第一采样单元和第二采样单元，

所述第一采样单元，用于：获取所述第一处理核运行所述目标业务的所述指令流特征，所述指令流特征包括指令类型，指令数量、处理器核动态事件中的一种或多种；

所述第二采样单元，用于：获取所述第一处理核运行所述目标业务的所述存储器运行特征，所述存储器运行特征包括访问带宽，访问延迟，缺失率，请求队列占用率中的一种或多种。

7.一种调度方法，其特征在于，应用于异构处理器，所述异构处理器包括大小不同的多个处理核，且所述多个处理核中每个处理核包括场景分类器和性能预测器，所述方法包括：

通过第一处理核中的场景分类器，获取所述第一处理核的运行信息，所述运行信息包括所述第一处理核运行目标业务的指令流特征和存储器运行特征中的一种或多种，所述第一处理核为所述多个处理核中的任意一个；基于所述运行信息从多个预设场景中确定所述目标业务的目标场景；

通过所述第一处理核中的性能预测器，基于所述目标场景和所述运行信息预测目标性能信息，所述目标性能信息为与所述目标业务对应的性能预测信息。

8.如权利要求7所述的方法，其特征在于，所述每个处理核中的所述性能预测器包括多个性能子预测器和目标选择器，且所述多个性能子预测器中每个性能子预测器对应一个所述预设场景的性能预测算法，所述基于所述目标场景和所述运行信息预测目标性能信息，包括：

通过每个所述性能子预测器，基于对应所述预设场景的性能预测算法和所述第一处理核的所述运行信息，确定对应的性能信息；

通过所述目标选择器，获取所述多个性能子预测器分别对应的多个性能信息，并基于所述目标场景从所述多个性能信息中确定所述目标性能信息。

9.如权利要求7所述的方法，其特征在于，所述基于所述目标场景和所述运行信息预测目标性能信息，包括：

从多个性能预测算法中确定所述目标场景对应的目标性能预测算法，所述多个性能预测算法与所述多个预设场景一一对应；

基于所述第一处理核的所述运行信息和所述目标性能预测算法，确定所述目标性能信息。

10.如权利要求8或9所述的方法，其特征在于，所述方法还包括：

通过所述第一处理核中的所述性能预测器，基于样本数据确定所述多个预设场景以及所述多个预设场景分别对应的多个所述性能预测算法，所述样本数据包括所述多个预设场景分别对应的指令流特征和存储器运行特征。

11.如权利要求7-10任意一项所述的方法，其特征在于，所述异构处理器上运行操作系统，所述方法还包括：

通过所述第一处理核中的所述性能预测器，向所述操作系统发送所述目标性能信息；

通过所述操作系统，基于所述目标性能信息从所述多个处理核中确定第二处理核，并将所述目标业务调度至所述第二处理核进行处理。

12.如权利要求7-11任意一项所述的方法，其特征在于，所述第一处理核中还包括第一采样单元和第二采样单元，所述方法还包括：

通过所述第一采样单元，获取所述第一处理核运行所述目标业务的所述指令流特征，所述指令流特征包括指令类型，指令数量，处理器核动态事件中的一种或多种；

通过所述第二采样单元，获取所述第一处理核运行所述目标业务的所述存储器运行特征，所述存储器运行特征包括访问带宽，访问延迟，缺失率，请求队列占用率中的一种或多种。

13.一种计算机存储介质，其特征在于，所述计算机存储介质存储有计算机程序，该计算机程序被处理器执行时实现上述权利要求7-12中任意一项所述的方法。

14.一种计算机程序产品，其特征在于，所述计算机程序包括指令，当所述计算机程序被计算机或处理器执行时，使得所述计算机或处理器执行如权利要求7-12中任意一项所述的方法。