CN116757915B - 一种集群gpu资源调度方法 - Google Patents

Abstract

本发明提供了一种集群GPU资源调度方法，涉及GPU资源管理技术领域。所述方法包括根据GPU数量创建数据库，根据所述数据库统计各个GPU的已处理图像及其处理参数；对所述已处理图像进行识别，创建集群特征及其概率；其中，一个数据库对应的集群特征的数量为预设值；接收新的待处理图像，基于所述集群特征及其概率对待处理图像进行分配。本发明通过对GPU的历史数据进行分析，确定各个GPU的集群特征及概率，由集群特征及概率对新接收到的图像进行分配，使得原本相同的GPU按照其处理的图像类型进行分类，当GPU处理的图像相似时，预处理过程可以采用相同的预处理过程，降低了预处理过程的重复执行频数，优化了处理过程，提高了资源利用率。

Description

一种集群GPU资源调度方法

技术领域

本发明涉及GPU资源管理技术领域，具体涉及一种集群GPU资源调度方法。

背景技术

GPU是图形处理器，用于对图像文件进行处理，当待处理的图像的数量较多时，管理方一般采用GPU集群的方式进行处理；所述GPU集群可以理解为多个GPU的集合，当接收到需要处理的图像时，由GPU对图像进行处理，处理流程一般采用顺序处理方式，也即，按照顺序，依次由GPU对图像进行处理。

顺序处理方式的处理逻辑非常简单，便于设计，但是对于GPU来说，每张图像都是“新图像”，处理效率还存在优化空间，如何优化处理过程，提高处理效率是本发明技术方案想要解决的技术问题。

发明内容

（一）解决的技术问题

针对现有技术的不足，本发明提供了一种集群GPU资源调度方法，解决了如何对商家反馈的问题进行重要性识别，对有限的处理资源进行合理分配是本发明技术方案想要解决的技术问题。

（二）技术方案

为实现以上目的，本发明通过以下技术方案予以实现：

一种集群GPU资源调度方法，该方法包括：

根据GPU数量创建数据库，根据所述数据库统计各个GPU的已处理图像及其处理参数；

对所述已处理图像进行识别，创建集群特征及其概率；其中，一个数据库对应的集群特征的数量为预设值；

接收新的待处理图像，基于所述集群特征及其概率对待处理图像进行分配。

作为本发明实施例技术方案进一步的限定，所述根据GPU数量创建数据库，根据所述数据库统计各个GPU的已处理图像及其处理参数的步骤包括：

读取GPU数量，以GPU的标识为名称创建数据库；

当检测到开始标签时，开放处理流程监听端口，当检测到结束标签时，拷贝输出的数据，作为已处理图像；

获取已处理图像中涉及到的处理模块及其模块参数，作为处理参数。

作为本发明实施例技术方案进一步的限定，所述对所述已处理图像进行识别，创建集群特征及其概率的步骤包括：

基于预设的色值颗粒度确定切分跨度；所述切分跨度用于对像素点的色值进行分类；

根据所述切分跨度将所述已处理图像转换为特征图像；所述特征图像中的元素是与切分跨度对应的编号；

将所述特征图像转换为数据共生矩阵，提取所述数据共生矩阵中的特征值；

根据所述特征值对已处理图像进行聚类，根据聚类结果选取特征值作为集群特征，并根据对应已处理图像的数量计算概率。

作为本发明实施例技术方案进一步的限定，所述数据共生矩阵的生成过程为：

式中，表示集合x中的元素个数；/>为特征图像，其大小为/>，其元素取值范围为[1,L],L为切分跨度的数量；/>为数据共生矩阵中点/>的元素值；d为点和点/>之间的距离，/>为点/>和点/>之间的连线与横轴间的角度，d和/>均为预设值；

特征值的计算公式为：；式中，T为特征值。

作为本发明实施例技术方案进一步的限定，所述根据所述特征值对已处理图像进行聚类，根据聚类结果选取特征值作为集群特征，并根据对应已处理图像的数量计算概率的步骤包括：

统计所有已处理图像的特征值，根据所述特征值的均值和众值作为公差，最大值和最小值作为端项创建等差阈值；

根据所述等差阈值对已处理图像进行聚类；

计算每类已处理图像的数量占比，根据数量占比对每个聚类结果进行排序；

根据集群特征的数量在排序后的聚类结果中选取目标类，读取目标类对应的等差阈值作为当前GPU的集群特征，读取数量占比作为概率。

作为本发明实施例技术方案进一步的限定，所述接收新的待处理图像，基于所述集群特征及其概率对待处理图像进行分配的步骤包括：

接收新的待处理图像，将新的待处理图像转换为特征图像；

将特征图像转换为数据共生矩阵，提取数据共生矩阵中的特征值；

根据所述特征值遍历各个GPU的集群特征，得到匹配的集群特征及其概率；

根据概率选取GPU，对待处理图像进行分配。

作为本发明实施例技术方案进一步的限定，所述根据概率选取GPU，对待处理图像进行分配的步骤包括：

选取概率最大的匹配的集群特征，定位对应的GPU，对待处理图像进行主动分配；

当不存在匹配的集群特征时，对待处理图像进行随机分配；

其中，主动分配和随机分配时，均插入分配类型标签，所述分配类型标签包括主动标签和随机标签，当GPU接收到主动标签时，基于记录的处理参数对待处理图像进行处理。

作为本发明实施例技术方案进一步的限定，所述接收新的待处理图像，基于所述集群特征及其概率对待处理图像进行分配的步骤还包括：

实时获取各个数据库中的数据量，计算数据变化率；

当某一数据库的数据变化率达到预设的变化率阈值时，拷贝该数据库的集群特征及其概率，替换数据变化率最低的数据库的集群特征及其概率。

（三）有益效果

本发明提供了一种集群GPU资源调度方法。与现有技术相比，具备以下有益效果：

本发明通过对GPU的历史数据进行分析，确定各个GPU的集群特征及概率，由集群特征及概率对新接收到的图像进行分配，使得原本相同的GPU按照其处理的图像类型进行分类，当GPU处理的图像相似时，预处理过程可以采用相同的预处理过程，降低了预处理过程的重复执行频数，优化了处理过程，提高了资源利用率。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为集群GPU资源调度方法的流程框图。

图2为集群GPU资源调度方法的第一子流程框图。

图3为集群GPU资源调度方法的第二子流程框图。

图4为集群GPU资源调度方法的第三子流程框图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

图1为集群GPU资源调度方法的流程框图，本发明实施例中，一种集群GPU资源调度方法，所述方法包括：

步骤S100：根据GPU数量创建数据库，根据所述数据库统计各个GPU的已处理图像及其处理参数；

步骤S200：对所述已处理图像进行识别，创建集群特征及其概率；其中，一个数据库对应的集群特征的数量为预设值；

步骤S300：接收新的待处理图像，基于所述集群特征及其概率对待处理图像进行分配。

GPU是图形处理器，用于对图像文件进行处理，当待处理的图像的数量较多时，管理方一般采用GPU集群的方式进行处理；所述GPU集群可以理解为多个GPU的集合，多个GPU之间存在配合关系，其配合关系就是本申请的重点所在。

本申请的核心思路是，根据已经处理的数据对原本相同的GPU进行分类，使得不同的GPU尽量处理相同的图像，这一过程的好处是，可以降低修正过程的预处理次数，在GPU对图像进行处理时，不同图像对应的处理方式不同，其涉及到的函数或者寄存器不同，如果每个待处理的图像都不同，那么每当GPU接收到一张新的图像，就需要进行一个预处理过程，对各个函数或寄存器等相关软件或硬件进行标定，这一过程的耗时较长；如果根据历史数据对GPU进行分类，有选择的对图像进行分配，那么可以大大地优化预处理过程。

进一步的，关于根据历史数据对GPU进行分类的步骤：其原理较为简单，就是不断地提取已处理图像的特征，得到集群特征，由集群特征的出现频率确定各个集群特征的概率；其中，一个GPU对应一个数据库，一个数据库会统计出两至三个或者更多的集群特征及其概率。

最后，当接收到新的图像时，基于同一特征提取方案，提取图像的集群特征，根据集群特征匹配GPU，根据概率对匹配到的集群特征进行选取，得到最终的GPU。

图2为集群GPU资源调度方法的第一子流程框图，所述根据GPU数量创建数据库，根据所述数据库统计各个GPU的已处理图像及其处理参数的步骤包括：

步骤S101：读取GPU数量，以GPU的标识为名称创建数据库；

步骤S102：当检测到开始标签时，开放处理流程监听端口，当检测到结束标签时，拷贝输出的数据，作为已处理图像；

步骤S103：获取已处理图像中涉及到的处理模块及其模块参数，作为处理参数。

上述内容对GPU的工作流程进行了简单的限定，首先，系统对每个GPU都建立一个独立的数据库，基于独立的数据库监听图像的处理流程，一般情况下，接收到图像输入时，视为检测到开始标签，有图像输出时，视为检测到结束标签；在对图像处理时，同步监测图像处理流程，图像处理流程主要包括涉及到的处理模块及模块参数；所述处理模块包括涉及到的软件和硬件。

图3为集群GPU资源调度方法的第二子流程框图，所述对所述已处理图像进行识别，创建集群特征及其概率的步骤包括：

步骤S201：基于预设的色值颗粒度确定切分跨度；所述切分跨度用于对像素点的色值进行分类；

步骤S202：根据所述切分跨度将所述已处理图像转换为特征图像；所述特征图像中的元素是与切分跨度对应的编号；

步骤S203：将所述特征图像转换为数据共生矩阵，提取所述数据共生矩阵中的特征值；

步骤S204：根据所述特征值对已处理图像进行聚类，根据聚类结果选取特征值作为集群特征，并根据对应已处理图像的数量计算概率。

步骤S201至步骤S204是本申请的核心内容，其公开了一种具体的集群特征提取方案；首先，由管理方输入色值颗粒度，所述色值颗粒度可以理解为容差，色值颗粒度越大，两个像素点归为一类的可能性越高；由色值颗粒度确定切分跨度，所述切分跨度是一个范围，该范围内的所有色值归为一类。

根据切分跨度对已处理图像中的像素点进行分类，可以得到数据量极小的图像，称为特征图像；常用的一种切分跨度为，色值差和为20；色值差和的含义是，R、G和B三个参数的色值差之和；一个切分跨度对应一个编号，[0，20)对应1，[20，40)对应2，依此类推。

为了更好地反映特征图像的特征，将特征图像转换为数据共生矩阵，对数据共生矩阵进行分析，可以提取到特征值；此时，原来的已处理图像被转换为一个数值（特征值）。

对特征值统计分析，可以对已处理图像进行聚类，根据聚类结果可以确定CPU处理的最多的已处理图像，视为该CPU的主要处理图像。然后，在此基础上，根据特征值确定集群特征，根据同类图像的数量与总数量的占比计算概率。

作为本发明技术方案的一个优选实施例，所述数据共生矩阵的生成过程为：

式中，表示集合x中的元素个数；/>为特征图像，其大小为/>，其元素取值范围为[1,L],L为切分跨度的数量；/>为数据共生矩阵中点/>的元素值；d为点和点/>之间的距离，/>为点/>和点/>之间的连线与横轴间的角度，d和/>均为预设值；

特征值的计算公式为：；式中，T为特征值。

上述内容对数据共生矩阵的生成过程及特征值的提取过程进行了限定，一般情况下，d取1，取0度，此时，数据共生矩阵的含义就是在横轴方向上各种相邻特征值出现的次数。它本质上是一个计数矩阵。

直观上来说，当数据共生矩阵中数值集中在主对角线上时，原图的纹理更为粗糙。这是因为数据共生矩阵的主对角线附近保存了两个相差不大的灰度值“共生”的频数，主对角线附近元素的值越大，说明原图中存在很多相邻像素灰度值相差不大的情况，肉眼看上去影像中就会存在若干个面积较大的子区域。

进一步的，所述特征值是基于数据共生矩阵提取的一个数值，其方式有很多，上述公式只是其中一种方式，其目的在于，将数据共生矩阵转换为一个数值。

进一步的，所述根据所述特征值对已处理图像进行聚类，根据聚类结果选取特征值作为集群特征，并根据对应已处理图像的数量计算概率的步骤包括：

统计所有已处理图像的特征值，根据所述特征值的均值和众值作为公差，最大值和最小值作为端项创建等差阈值；

根据所述等差阈值对已处理图像进行聚类；

计算每类已处理图像的数量占比，根据数量占比对每个聚类结果进行排序；

根据集群特征的数量在排序后的聚类结果中选取目标类，读取目标类对应的等差阈值作为当前GPU的集群特征，读取数量占比作为概率。

读取某一个GPU的所有已处理的图像，并读取其特征值，根据特征值的分布情况确定多个梯度，根据这些梯度对已处理图像进行聚类即可；聚类过程非常容易，已处理图像的特征值属于哪个梯度，就将已处理图像归为哪一类。

此时，不同梯度之间的图像数量一目了然，选取数量较多的几个区间（区间的端值为特征值），以区间作为集群特征，根据数量与总数量的比值计算概率。

图4为集群GPU资源调度方法的第三子流程框图，所述接收新的待处理图像，基于所述集群特征及其概率对待处理图像进行分配的步骤包括：

步骤S301：接收新的待处理图像，将新的待处理图像转换为特征图像；

步骤S302：将特征图像转换为数据共生矩阵，提取数据共生矩阵中的特征值；

步骤S303：根据所述特征值遍历各个GPU的集群特征，得到匹配的集群特征及其概率；

步骤S304：根据概率选取GPU，对待处理图像进行分配。

在本发明技术方案的一个实例中，当接收到新的待处理图像时，采用与上述内容相同的特征值提取过程，计算出新的待处理图像的特征值，将特征值与各个GPU的集群特征（区间）进行遍历匹配，可以确定符合需求的GPU，将新的待处理图像分配给GPU即可。

具体的，所述根据概率选取GPU，对待处理图像进行分配的步骤包括：

选取概率最大的匹配的集群特征，定位对应的GPU，对待处理图像进行主动分配；

当不存在匹配的集群特征时，对待处理图像进行随机分配。

分配过程存在两种情况，一种是匹配到一个或以上的GPU，此时，选取概率最大的集群特征对应的GPU即可，随着该GPU处理的图像数量的增多，概率会越来越大，更容易被选取。还有一种情况是，没有匹配到GPU，此时，作为少见的图像，随机分配处理即可。

无论选取何种分配方式，都需要插入分配类型标签，所述分配类型标签包括主动标签和随机标签，当GPU接收到主动标签时，基于记录的处理参数对待处理图像进行处理。其中主动标签对应主动分配，随机标签对应随机分配。

作为本发明技术方案的一个优选实施例，所述接收新的待处理图像，基于所述集群特征及其概率对待处理图像进行分配的步骤还包括：

实时获取各个数据库中的数据量，计算数据变化率；

当某一数据库的数据变化率达到预设的变化率阈值时，拷贝该数据库的集群特征及其概率，替换数据变化率最低的数据库的集群特征及其概率。

如果某一类图像的数量较多，并且集中由某一个CPU处理，这说明该CPU的集群特征符合该类图像的需求，并且概率较高；此时，复制该CPU的集群特征及概率，对其他较为空闲的GPU进行替换赋值，即可使空闲的GPU作为补充GPU，完成当前工作。

综上所述，与现有技术相比，本发明具备以下有益效果：

本发明通过对GPU的历史数据进行分析，确定各个GPU的集群特征及概率，由集群特征及概率对新接收到的图像进行分配，使得原本相同的GPU按照其处理的图像类型进行分类，当GPU处理的图像相似时，预处理过程可以采用相同的预处理过程，降低了预处理过程的重复执行频数，优化了处理过程，提高了资源利用率。

需要说明的是，通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备（可以是个人计算机，服务器，或者网络设备等）执行各个实施例或者实施例的某些部分所述的方法。在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (6)

1.一种集群GPU资源调度方法，其特征在于，所述方法包括：

根据GPU数量创建数据库，根据所述数据库统计各个GPU的已处理图像及其处理参数；

对所述已处理图像进行识别，创建集群特征及其概率；其中，一个数据库对应的集群特征的数量为预设值；

接收新的待处理图像，基于所述集群特征及其概率对待处理图像进行分配；

所述根据GPU数量创建数据库，根据所述数据库统计各个GPU的已处理图像及其处理参数的步骤包括：

读取GPU数量，以GPU的标识为名称创建数据库；

当检测到开始标签时，开放处理流程监听端口，当检测到结束标签时，拷贝输出的数据，作为已处理图像；

获取已处理图像中涉及到的处理模块及其模块参数，作为处理参数；

所述对所述已处理图像进行识别，创建集群特征及其概率的步骤包括：

基于预设的色值颗粒度确定切分跨度；所述切分跨度用于对像素点的色值进行分类；

根据所述切分跨度将所述已处理图像转换为特征图像；所述特征图像中的元素是与切分跨度对应的编号；

将所述特征图像转换为数据共生矩阵，提取所述数据共生矩阵中的特征值；

根据所述特征值对已处理图像进行聚类，根据聚类结果选取特征值作为集群特征，并根据对应已处理图像的数量计算概率。

2.如权利要求1所述的集群GPU资源调度方法，其特征在于，所述数据共生矩阵的生成过程为：

式中，表示集合x中的元素个数；/>为特征图像，其大小为/>，其元素取值范围为[1,L],L为切分跨度的数量；/>为数据共生矩阵中点/>的元素值；d为点和点/>之间的距离，/>为点/>和点/>之间的连线与横轴间的角度，d和/>均为预设值；

特征值的计算公式为：；式中，T为特征值。

3.如权利要求1所述的一种集群GPU资源调度方法，其特征在于，所述根据所述特征值对已处理图像进行聚类，根据聚类结果选取特征值作为集群特征，并根据对应已处理图像的数量计算概率的步骤包括：

统计所有已处理图像的特征值，根据所述特征值的均值和众值作为公差，最大值和最小值作为端项创建等差阈值；

根据所述等差阈值对已处理图像进行聚类；

计算每类已处理图像的数量占比，根据数量占比对每个聚类结果进行排序；

根据集群特征的数量在排序后的聚类结果中选取目标类，读取目标类对应的等差阈值作为当前GPU的集群特征，读取数量占比作为概率。

4.如权利要求3所述的集群GPU资源调度方法，其特征在于，所述接收新的待处理图像，基于所述集群特征及其概率对待处理图像进行分配的步骤包括：

接收新的待处理图像，将新的待处理图像转换为特征图像；

将特征图像转换为数据共生矩阵，提取数据共生矩阵中的特征值；

根据所述特征值遍历各个GPU的集群特征，得到匹配的集群特征及其概率；

根据概率选取GPU，对待处理图像进行分配。

5.如权利要求4所述的集群GPU资源调度方法，其特征在于，所述根据概率选取GPU，对待处理图像进行分配的步骤包括：

选取概率最大的匹配的集群特征，定位对应的GPU，对待处理图像进行主动分配；

当不存在匹配的集群特征时，对待处理图像进行随机分配；

其中，主动分配和随机分配时，均插入分配类型标签，所述分配类型标签包括主动标签和随机标签，当GPU接收到主动标签时，基于记录的处理参数对待处理图像进行处理。

6.如权利要求4所述的集群GPU资源调度方法，其特征在于，所述接收新的待处理图像，基于所述集群特征及其概率对待处理图像进行分配的步骤还包括：

实时获取各个数据库中的数据量，计算数据变化率；

当某一数据库的数据变化率达到预设的变化率阈值时，拷贝该数据库的集群特征及其概率，替换数据变化率最低的数据库的集群特征及其概率。