CN106776023B

CN106776023B - 一种自适应gpu统一染色阵列任务负载均衡方法

Info

Publication number: CN106776023B
Application number: CN201611139602.0A
Authority: CN
Inventors: 韩立敏; 田泽; 郑新建; 任向隆; 张骏; 许宏杰
Original assignee: Xian Aeronautics Computing Technique Research Institute of AVIC
Current assignee: Xian Aeronautics Computing Technique Research Institute of AVIC
Priority date: 2016-12-12
Filing date: 2016-12-12
Publication date: 2021-08-03
Anticipated expiration: 2036-12-12
Also published as: CN106776023A

Abstract

本发明属于图形处理器设计领域，公开了一种自适应GPU统一染色阵列任务负载均衡方法，包括：步骤1、实时统计GPU统一染色阵列n个统一染色核心(unified shading core)的负载状态；步骤2、根据负载状态判定GPU统一染色阵列是否需要执行资源分配操作；步骤3、选择资源分配方案；步骤4、依据资源分配方案实施资源分配与映射。

Description

一种自适应GPU统一染色阵列任务负载均衡方法

技术领域

本发明属于图形处理器设计领域，涉及一种自适应GPU统一染色阵列任务负载均衡的方法。

背景技术

图形处理器(Graphic Process Unit，GPU)是现代计算机硬件的重要组成部分，是进行图形绘制、处理和显示的关键部件，普遍存在于工作站、个人电脑、笔记本、手机以及各类需进行图形显示的系统中。GPU负责产生2D和3D的图形、图像和视频，以支持基于窗口的操作系统、图形用户界面、视频游戏、可视化图像应用和视频播放等可视化计算。GPU流水线高速、并行的特征和灵活的可编程能力，为图形处理和通用并行计算提供了良好的运行平台。

目前，我国GPU研制能力薄弱，各领域显示控制系统中大量采用国外进口的商用GPU芯片。尤其是在军用领域中，国外进口商用GPU芯片存在安全性、可靠性、保障性等方面的隐患，无法满足军用环境的需求；而且，出于政治、军事、经济等原因，国外对我国实行技术“封锁”和产品“垄断”，难以获得GPU芯片的底层技术资料，如寄存器资料、详细内部微架构、核心软件源码等，导致GPU功能、性能无法充分发挥，且移植性较差；上述问题严重制约了我国显示系统的独立研制和自主发展，研制具有自主知识产权的图形处理器芯片已迫在眉睫，自适应GPU统一染色阵列任务负载均衡方法作为统一染色GPU的关键和核心，对其设计技术进行研究和突破已刻不容缓。

发明内容

本发明的目的是：提供一种自适应GPU统一染色阵列任务负载均衡方法，突破统一染色GPU统一染色阵列资源动态分配和负载均衡的关键技术。

本发明的技术解决方案是：

一种自适应GPU统一染色阵列任务负载均衡方法，包括：

实时产生GPU统一染色阵列的两种负载状态标识，以n个统一染色核心的当前状态和任务类型为输入，根据设定的算法产生两种负载状态标识：idle vertex core(空闲顶点核心)，idle pixel core(空闲像素核心)，将两种负载状态标识输出到步骤2；

判定是否需要执行资源分配操作，将步骤1实时统计的GPU统一染色阵列的两种负载状态idle vertex core，idle pixel core为输入，依据预设的判定算法产生是否需要执行资源分配操作的判定标志，将判定标志和两种负载状态输出到步骤3；

步骤3、选择资源分配方案，依据步骤2输出的判定标志和两种负载状态idlevertex core，idle pixel core作为输入，如果需要执行资源分配，则使用设定的算法判定系统性能瓶颈的类型，根据性能瓶颈的类型选择资源分配方案，将资源分配方案输出到步骤4，否则，结束流程；

步骤4、实施资源分配与映射，以步骤3输出的资源分配方案作为控制条件，使用宽度优先的空闲统一染色核心查询算法选择1个空闲的core，将统一染色核心分配给指定的染色任务。

具体的，n的取值为2-80的整数。

步骤1中所述设定的算法具体为：

Idle vertex core：每个统一染色核心的状态包括：当前状态(idle\busy),任务类型(vertex\Pixel)；当某个核心的状态为idle&vertex，则该核心为空闲vertex核心；该核心对应的标识位被置为1，根据n个核心标识位的值产生2bit的Idle vertex core；当n个统一染色核心的标识位全部为0，Idle vertex core为00，00表示GPU存在0个vertex类型的空闲统一染色核心；当n个统一染色核心的标识位有1个为1，Idle vertex core为01，01表示GPU存在1个vertex类型的空闲统一染色核心；当n个统一染色核心的标识位既不是全部为0并且不是只有1个统一染色核心的标识位为1，Idle vertex core为10，10表示GPU存在2个及以上vertex类型的空闲统一染色核心；Idle vertex core为11无意义；

Idle pixel core：当某个统一染色核心的状态为idle&pixel，则该统一染色核心为空闲pixel core；该统一染色核心对应的标识位被置为1，根据n个统一染色核心标识位的值产生2bit的Idle pixel core；当n个统一染色核心的标识位全部为0，Idle pixelcore为00，00表示GPU存在0个pixel类型的空闲统一染色核心；当n个统一染色核心的标识位有1个为1，Idle pixel core为01，01表示GPU存在1个pixel类型的空闲统一染色核心；当n个统一染色核心的标识位既不是全部为0并且不是只有1个统一染色核心的标识位为1，Idle pixel core为10，10表示GPU存在2个及以上pixel类型的空闲统一染色核心；Idlepixel core为11无意义。

步骤2中所述预设的判定算法具体为：

以负载状态标识Idle vertex core和Idle pixel core为输入，当Idle vertexcore不为00，并且Idle pixel core不为00，说明系统不存在性能瓶颈，不执行负载均衡操作，否则，资源映射与分配单元可能需要执行资源分配操作。

步骤3中所述设定的算法具体为：

依据Idle vertex core和Idle pixel core的值，能够实施负载均衡操作的情况包括：

当Idle vertex core为00，存在0个空闲vertex核心，Idle pixel core为10，存在2个及以上空闲pixel核，总体上系统存在2个及以上空闲统一染色核心，并且为pixel类型的，说明pixel负载较vertex负载轻，资源分配方案：将1个空闲pixel core送给vertex任务；

当Idle vertex core为01，存在1个空闲vertex核心，Idle pixel core为0，存在0个空闲pixel核心，总体上系统仅存在1个空闲统一染色核心，为了确保GPU流水线的通畅性，将该空闲统一染色核心给pixel任务使用，资源分配方案：将1个空闲vertex core送给pixel任务；

当Idle vertex core为10，存在2个及以上空闲vertex核心，Idle pixel core为0，存在0个空闲pixel核心，总体上系统存在“2个及以上”的空闲统一染色核心，说明vertex负载较pixel负载轻，将1个空闲统一染色核心送给pixel任务使用，资源分配方案：将1个空闲vertex core送给pixel任务；

依据Idle vertex core和Idle pixel core的值，不实施负载均衡操作的情况包括：

当Idle vertex core不为0，并且Idle pixel core不为0，系统处于负载均衡状态，不执行资源分配与映射操作；当Idle vertex core为0，并且Idle pixel core为0，则系统无法实施负载均衡，无需执行资源分配与映射操作；

当Idle vertex core为0，并且Idle pixel core为01，系统仅存在1个空闲统一染色核心，并且为pixel类型的，为了确保GPU流水线的通畅性，该空闲统一染色核心给pixel任务使用。为了确保GPU流水线不进入死锁状态，不允许执行负载均衡，无需执行资源分配与映射操作。

步骤4中所述宽度优先的空闲统一染色核心查询算法具体为：

如果GPU统一染色阵列具m个SSC，每个SSC具有8个统一染色核心，m*8等于n，m个SSC优先级从高到低依次为：SSC1，SSC2，SSC3，SSC4，SSC5，…，SSCm；n个统一染色核心的优先级顺序从高到低依次为：SSC1的统一染色核心1，SSC2的统一染色核心1，SSC3的统一染色核心1，SSC4的统一染色核心1，…，SSCm的统一染色核心1，SSC1的统一染色核心2，SSC2的统一染色核心2，SSC3的统一染色核心2，SSC4的统一染色核心2，…，SSCm的统一染色核心2，…，SSC1的统一染色核心8，SSC2的统一染色核心8，SSC3的统一染色核心8，SSC4的统一染色核心8，…，SSCm的统一染色核心8。

本发明的技术效果是：

1、本发明涉及一种自适应GPU统一染色阵列任务负载均衡方法，包括：步骤1、实时统计统一染色阵列n个统一染色核心的负载状态；步骤2、判定是否需要执行资源分配操作。步骤3、根据系统性能瓶颈的类型自适应的选择资源分配方案；步骤4、使用宽度优先的空闲统一染色核查找算法实施资源映射。以上四方面的特征使得GPU统一染色阵列任务负载均衡方法能够实现自适应的任务负载均衡功能。

2、自适应GPU统一染色阵列任务负载均衡方法的基本功能包括：产生负载状态标志；判定性能瓶颈类型；选择资源分配方案；实施资源映射。

3、本发明突破了图形处理器设计中自适应GPU统一染色阵列任务负载均衡方法的设计技术，可用于国产图形处理器芯片的研制。

附图说明：

图1是本发明自适应GPU统一染色阵列任务负载均衡方法的整体框图，包含：步骤1，实时统计n个统一染色核心的负载状态；步骤2，判定统一染色资源是否负载均衡；步骤3，根据负载状态自适应的选择资源分配方案；步骤4，资源分配与映射操作。

具体实施方式：

下面结合附图和具体实施例，对本发明的技术方案进行清楚、完整地表述。显然，所表述的实施例仅是本发明一部分实施例，而不是全部的实施例，基于本发明中的实施例，本领域技术人员在没有做出创造性劳动前提所获得的所有其他实施例，都属于本发明的保护范围。

一种自适应GPU统一染色阵列任务负载均衡方法，包括：

具体的，n的取值为2-80的整数。

步骤1中所述设定的算法具体为：

步骤2中所述预设的判定算法具体为：

步骤3中所述设定的算法具体为：

步骤4中所述宽度优先的空闲统一染色核心查询算法具体为：

实施例

如图1所示，自适应GPU统一染色阵列任务负载均衡方法的整体框图，包含：包括：步骤1、实时统计n个统一染色核心的负载状态；步骤2、是否需要执行资源分配操作；步骤3、选择资源分配方案；步骤4、资源分配与映射。

下面详细介绍每个步骤的具体功能和算法：

1、步骤1：实时统计n个统一染色核心的负载状态。为自适应GPU统一染色阵列任务负载均衡方法提供输入数据，实时统计GPU统一染色资源的负载状态，产生Idle vertexcore和Idle pixel core两种负载状态标识，具体定义如下。

1.1、Idle vertex core：每个统一染色核心的状态包括：当前状态(idle\busy),任务类型(vertex\Pixel)。当某个核心的状态为idle&vertex，则该核心为空闲vertex核心。该核心对应的标识位被置为1，根据n个核心标识位的值产生2bit的Idle vertex core。当n个统一染色核心的标识位全部为0，Idle vertex core为00，00表示GPU存在0个vertex类型的空闲统一染色核心；当n个统一染色核心的标识位有1个为1，Idle vertex core为01，01表示GPU存在1个vertex类型的空闲统一染色核心；当n个统一染色核心的标识位既不是全部为0并且不是只有1个统一染色核心的标识位为1，Idle vertex core为10，10表示GPU存在2个及以上vertex类型的空闲统一染色核心；Idle vertex core为11无意义。

1.2、Idle pixel core：当某个统一染色核心的状态为idle&pixel，则该统一染色核心为空闲pixel core。该统一染色核心对应的标识位被置为1，根据n个统一染色核心标识位的值产生2bit的Idle pixel core。当n个统一染色核心的标识位全部为0，Idle pixelcore为00，00表示GPU存在0个pixel类型的空闲统一染色核心；当n个统一染色核心的标识位有1个为1，Idle pixel core为01，01表示GPU存在1个pixel类型的空闲统一染色核心；当n个统一染色核心的标识位既不是全部为0并且不是只有1个统一染色核心的标识位为1，Idle pixel core为10，10表示GPU存在2个及以上pixel类型的空闲统一染色核心；Idlepixel core为11无意义。

2、步骤2：判定系统是否需要实施资源分配。以负载状态标识Idle vertex core和Idle pixel core为输入，当Idle vertex core不为00，并且Idle pixel core不为00，说明系统不存在性能瓶颈，不执行负载均衡操作，否则，资源映射与分配单元可能需要执行资源分配操作，进入步骤3。

3、步骤3：选择资源分配方案。系统可能需要实施负载均衡，根据性能瓶颈的类型自适应的选择资源分配方案。依据Idle vertex core和Idle pixel core的值，能够实施负载均衡操作的情况包括：当Idle vertex core为00，存在0个空闲vertex核心，Idle pixelcore为10，存在2个及以上空闲pixel核，总体上系统存在2个及以上空闲统一染色核心，并且为pixel类型的，说明pixel负载较vertex负载轻。资源分配方案：将1个空闲pixel core送给vertex任务；当Idle vertex core为01，存在1个空闲vertex核心，Idle pixel core为0，存在0个空闲pixel核心，总体上系统仅存在1个空闲统一染色核心，为了确保GPU流水线的通畅性，将该空闲统一染色核心给pixel任务使用。资源分配方案：将1个空闲vertexcore送给pixel任务；当Idle vertex core为10，存在2个及以上空闲vertex核心，Idlepixel core为0，存在0个空闲pixel核心，总体上系统存在“2个及以上”的空闲统一染色核心，说明vertex负载较pixel负载轻，将1个空闲统一染色核心送给pixel任务使用。资源分配方案：将1个空闲vertex core送给pixel任务。依据Idle vertex core和Idle pixelcore的值，不实施负载均衡操作的情况包括：当Idle vertex core不为0，并且Idle pixelcore不为0，系统处于负载均衡状态，不执行资源分配与映射操作；当Idle vertex core为0，并且Idle pixel core为0，则系统无法实施负载均衡，无需执行资源分配与映射操作；当Idle vertex core为0，并且Idle pixel core为01，系统仅存在1个空闲统一染色核心，并且为pixel类型的，为了确保GPU流水线的通畅性，该空闲统一染色核心给pixel任务使用。为了确保GPU流水线不进入死锁状态，不允许执行负载均衡，无需执行资源分配与映射操作。

4、步骤4：资源分配与映射。依据步骤3输出的资源分配方案，当GPU需要为pixel任务增加统一染色资源，则按照宽度优先的方法执行空闲统一染色核心查询操作，将第1个idle状态的Vertex Core作为资源映射的对象，将此统一染色核心的状态修改为Pixel&idle。当GPU需要为Vertex任务增加统一染色资源，则按照宽度优先方法执行空闲统一染色核心查询操作，将第1个idle状态的Pixel Core作为资源映射的对象，将此统一染色核心的状态修改为Vertex&idle。宽度优先的资源映射算法的描述如下：如果GPU统一染色阵列具m个SSC，每个SSC具有8个统一染色核心，m*8等于n，m个SSC优先级从高到低依次为：SSC1，SSC2，SSC3，SSC4，SSC5，…，SSCm。在宽度优先的资源映射方法中，n个统一染色核心的优先级顺序从高到低依次为：SSC1的统一染色核心1，SSC2的统一染色核心1，SSC3的统一染色核心1，SSC4的统一染色核心1，…，SSCm的统一染色核心1，SSC1的统一染色核心2，SSC2的统一染色核心2，SSC3的统一染色核心2，SSC4的统一染色核心2，…，SSCm的统一染色核心2，…，SSC1的统一染色核心8，SSC2的统一染色核心8，SSC3的统一染色核心8，SSC4的统一染色核心8，…，SSCm的统一染色核心8。宽度优先资源映射算法能使同一类染色任务均匀分布在m个SSC中，最大限度的提高同一类染色任务的并行度，使得GPU取得高性能。在资源分配阶段，宽度优先资源映射算法使得每个SSC既具有Vertex类型的统一染色核心，也具有pixel类型的统一染色核心，能够支持SSC内部染色任务的交错执行，隐藏长存储器访问延迟，提高统一染色核心的计算资源利用率。

最后应说明的是，以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解；其依然可以对前述各实施例记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims

1.一种自适应GPU统一染色阵列任务负载均衡方法，其特征在于，包括：

步骤1、实时产生GPU统一染色阵列的两种负载状态标识，以n个统一染色核心的当前状态和任务类型为输入，根据设定的算法产生两种负载状态标识：idle vertex core(空闲顶点核心)，idle pixel core(空闲像素核心)，将两种负载状态标识输出到步骤2；

步骤2、判定是否需要执行资源分配操作，将步骤1实时统计的GPU统一染色阵列的两种负载状态标识idle vertex core，idle pixel core为输入，依据预设的判定算法产生是否需要执行资源分配操作的判定标志，将判定标志和两种负载状态输出到步骤3；

步骤3、选择资源分配方案，依据步骤2输出的判定标志和两种负载状态idle vertexcore，idle pixel core作为输入，如果需要执行资源分配，则使用设定的算法判定系统性能瓶颈的类型，根据性能瓶颈的类型选择资源分配方案，将资源分配方案输出到步骤4，否则，结束流程；

步骤4、实施资源分配与映射，以步骤3输出的资源分配方案作为控制条件，使用宽度优先的空闲统一染色核心查询算法选择1个空闲的core，将统一染色核心分配给指定的染色任务；

步骤3中所述设定的算法具体为：

当Idle vertex core为00，存在0个空闲vertex核心，Idle pixel core为10，存在2个及以上空闲pixel核，系统存在2个及以上空闲统一染色核心，并且为pixel类型的，说明pixel负载较vertex负载轻，资源分配方案：将1个空闲pixel core送给vertex任务；

当Idle vertex core为01，存在1个空闲vertex核心，Idle pixel core为00，存在0个空闲pixel核心，系统仅存在1个空闲统一染色核心，为了确保GPU流水线的通畅性，将该空闲统一染色核心给pixel任务使用，资源分配方案：将1个空闲vertex core送给pixel任务；

当Idle vertex core为10，存在2个及以上空闲vertex核心，Idle pixelcore为00，存在0个空闲pixel核心，系统存在2个及以上的空闲统一染色核心，说明vertex负载较pixel负载轻，将1个空闲统一染色核心送给pixel任务使用，资源分配方案：将1个空闲vertexcore送给pixel任务；

当Idle vertex core不为00，并且Idle pixel core不为00，系统处于负载均衡状态，不执行资源分配与映射操作；当Idle vertex core为00，并且Idle pixel core为00，则系统无法实施负载均衡，无需执行资源分配与映射操作；

当Idle vertex core为00，并且Idle pixel core为01，系统仅存在1个空闲统一染色核心，并且为pixel类型的，为了确保GPU流水线不进入死锁状态，不允许执行负载均衡，无需执行资源分配与映射操作。

2.如权利要求1所述的一种自适应GPU统一染色阵列任务负载均衡方法，其特征在于，

n的取值为2-80的整数。

3.如权利要求1所述的一种自适应GPU统一染色阵列任务负载均衡方法，其特征在于，

步骤1中所述设定的算法具体为，

当某个统一染色核心的当前状态为idle并且任务类型为vertex，则该核心为空闲vertex核心；该核心对应的标识位被置为1，根据n个核心标识位的值产生2bit的Idlevertex core；当n个统一染色核心的标识位全部为0，Idle vertex core为00，00表示GPU存在0个vertex类型的空闲统一染色核心；当n个统一染色核心的标识位有1个为1，Idlevertex core为01，01表示GPU存在1个vertex类型的空闲统一染色核心；当n个统一染色核心的标识位既不是全部为0并且不是只有1个统一染色核心的标识位为1，Idle vertexcore为10，10表示GPU存在2个及以上vertex类型的空闲统一染色核心；Idle vertex core为11无意义；

当某个统一染色核心的当前状态为idle，并且任务类型为pixel，则该统一染色核心为空闲pixelcore；该统一染色核心对应的标识位被置为1，根据n个统一染色核心标识位的值产生2bit的Idle pixel core；当n个统一染色核心的标识位全部为0，Idle pixel core为00，00表示GPU存在0个pixel类型的空闲统一染色核心；当n个统一染色核心的标识位有1个为1，Idle pixel core为01，01表示GPU存在1个pixel类型的空闲统一染色核心；当n个统一染色核心的标识位既不是全部为0并且不是只有1个统一染色核心的标识位为1，Idlepixelcore为10，10表示GPU存在2个及以上pixel类型的空闲统一染色核心；Idle pixelcore为11无意义。

4.如权利要求1所述的一种自适应GPU统一染色阵列任务负载均衡方法，其特征在于，

步骤2中所述预设的判定算法具体为：

以负载状态标识Idle vertex core和Idle pixel core为输入，当Idle vertex core不为00，并且Idle pixel core不为00，说明系统不存在性能瓶颈，不执行负载均衡操作，否则，资源映射与分配单元需要执行资源分配操作。

5.如权利要求1所述的一种自适应GPU统一染色阵列任务负载均衡方法，其特征在于，

步骤4中所述宽度优先的空闲统一染色核心查询算法具体为：

如果GPU统一染色阵列具有m个SSC，每个SSC具有8个统一染色核心，m*8等于n，m个SSC优先级从高到低依次为：SSC1，SSC2，SSC3，SSC4，SSC5，…，SSCm；n个统一染色核心的优先级顺序从高到低依次为：SSC1的统一染色核心1，SSC2的统一染色核心1，SSC3的统一染色核心1，SSC4的统一染色核心1，…，SSCm的统一染色核心1，SSC1的统一染色核心2，SSC2的统一染色核心2，SSC3的统一染色核心2，SSC4的统一染色核心2，…，SSCm的统一染色核心2，…，SSC1的统一染色核心8，SSC2的统一染色核心8，SSC3的统一染色核心8，SSC4的统一染色核心8，…，SSCm的统一染色核心8。