CN112114967B - 一种基于服务优先级的gpu资源预留方法 - Google Patents
一种基于服务优先级的gpu资源预留方法 Download PDFInfo
- Publication number
- CN112114967B CN112114967B CN202010974257.2A CN202010974257A CN112114967B CN 112114967 B CN112114967 B CN 112114967B CN 202010974257 A CN202010974257 A CN 202010974257A CN 112114967 B CN112114967 B CN 112114967B
- Authority
- CN
- China
- Prior art keywords
- command
- gpu
- graphic
- priority
- resources
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 29
- 241001522296 Erithacus rubecula Species 0.000 claims description 4
- 239000012634 fragment Substances 0.000 description 12
- 238000010586 diagram Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/5038—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the execution order of a plurality of tasks, e.g. taking priority or time dependency constraints into consideration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Image Generation (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明公开了一种基于服务优先级的GPU资源预留方法，步骤如下：1、GPU通过相关配置获取当前的GPU总体资源，根据当前具体显示设置动态计算并预留显示所需要的资源，根据资源申请记录当前需使用的资源；2、图形处理任务通过多级提交图形命令：图形处理任务将图形命令放入一级命令队列，所述一级命令队列根据图形处理任务的优先级将图形命令提交给二级命令队列，所述二级命令队列通过命令提交模块向命令缓冲提交图形命令，命令缓冲向GPU提交图形命令。本发明具有优先处理关键或强实时图形处理任务的能力，从而获得更好用户体验的优点，可以广泛应用于计算机显示领域。
Description
技术领域
本发明涉及计算机显示领域，特别是涉及一种基于服务优先级的GPU资源预留方法。
背景技术
GPU(Graphics Processing Unit，图形处理器)是一种专门在个人电脑、工作站、游戏机和一些移动设备(如平板电脑、智能手机等)上图像运算工作的微处理器。在现代桌面图形系统中，通常使用拥有2D或3D图形加速功能的GPU来完成图像的具体绘制，从而将CPU(central processing unit，中央处理器)从图形处理的任务中解放出来，大大提高计算机的整体性能。
随着图形处理任务的日益复杂，GPU不仅需要完成图像的显示，还需要进行大量的2D和3D计算。不同的图形处理任务都需要占用GPU的计算资源、存储资源和带宽资源等。
为了提升GPU的处理性能，已有的解决方案一般从内核层次或GPU计算单元层次，最大化GPU的吞吐量。从内核层次优化GPU的吞吐量，或者将要提交到GPU的所有任务抽象化为任务队列，在CPU端管理并预测每个任务的执行时长，或者限制非延迟敏感型应用占用资源。从GPU计算单元层次优化GPU的吞吐量，主要基于GPU上的多任务并行，通过运行时策略估计延迟敏感型应用的性能表现，再通过线性性能模型预测各应用所需GPU计算单元的数量，将所有应用分到所有计算单元中。
发明内容
本发明的目的是为了克服上述背景技术的不足，提供一种基于服务优先级的GPU资源预留方法，使其具有优先处理关键或强实时图形处理任务的能力，从而获得更好用户体验的优点。
本发明提供的一种基于服务优先级的GPU资源预留方法，包括如下步骤：S1、GPU通过相关配置获取当前的GPU总体资源，根据当前具体显示设置动态计算并预留显示所需要的资源，根据资源申请记录当前需使用的资源；S2、图形处理任务通过多级提交图形命令：图形处理任务将图形命令放入一级命令队列，所述一级命令队列根据图形处理任务的优先级将图形命令提交给二级命令队列，所述二级命令队列通过命令提交模块向命令缓冲提交图形命令，命令缓冲向GPU提交图形命令。
在上述技术方案中，所述步骤S2的具体步骤如下：S21、所述图形处理任务将图形命令放入一级命令队列：每个图形处理任务都创建属于自身的一级命令队列，并在一级命令队列中插入标识，将图形处理任务划分为可独立执行的图形命令段落，每个图形命令段落作为一个整体进行提交；S22、所述一级命令队列根据图形处理任务的优先级将图形命令提交给对应优先级的二级命令队列：根据具体的系统应用需求确定优先级的数目以及图形处理任务的优先级；所述图形处理任务的优先级在创建任务时指定，如无指定，默认值为最低优先级；每个优先级要创建属于自身的二级命令队列，一级命令队列向二级命令队列提交对需提交的图形命令队列段落的描述：包括当前命令所属的图形处理任务、任务的优先级、当前命令段落的地址、当前命令段落所需要的资源；S23、所述二级命令队列通过命令提交模块向命令缓冲提交图形命令：命令提交模块从各个优先级的二级命令队列中选取需提交的图形命令段落，命令提交模块向GPU资源管理模块申请资源的使用，如果资源无法满足，则暂不提交；如果可以满足，命令提交模块将需要执行的图形命令段落的地址依次写入命令缓冲；S24、命令缓冲向GPU提交图形命令：GPU依次读取命令缓冲中的内容，GPU根据命令缓冲中命令段落的地址读取图形指令，当读取到当前命令段落的结束标识后，GPU再次读取命令缓冲下一个单元中命令段落的地址，开始读取下一个命令段落中的图形命令。
在上述技术方案中，所述步骤S23的具体步骤如下：S231、优先级为0的二级命令队列采用中断模式提交命令，即优先级为0的二级命令队列向命令提交模块发出中断，一旦命令提交模块接收到中断，则对优先级为0的二级命令队列进行读取，直到完成全部图形命令的读取；S232、其他优先级的队列采用轮巡模式提交命令，即命令提交模块从高优先级依次对其他优先级的二级命令队列进行读取，当命令提交模块在同一个二级命令队列读取到指定数目(此二级命令队列一次读取的图形命令段落的最大数目和此二级命令队列中全部的图形命令段落数目，两者中较小值)的图形命令段落后，进行下一优先级二级命令队列的读取。
在上述技术方案中，所述步骤S1的具体步骤如下：S11、估算GPU可使用的资源的总量，估算GPU可使用的资源的当前使用情况和估算显示所需要的资源情况，预留显示所需要的资源，所述预留的资源只能用于图形处理；S12、根据资源申请记录当前需使用的资源：如果申请的资源涉及显示所需的资源，只有当申请的资源不影响显示资源时，GPU资源管理模块才批准当前操作；如果申请的资源不涉及显示所需的资源，所述GPU资源管理模块根据具体情况超量批准资源申请。
在上述技术方案中，所述步骤S1还包括如下步骤：S13、根据资源预估的情况提交图形处理任务：如果提交的图形处理任务会影响显示所需要的资源，该图形处理任务暂缓提交；如果提交的图形处理任务会影响优先级较高的图形处理任务所需要的资源，该图形处理任务暂缓提交；如果提交的图形处理任务会影响优先级较低的图形处理任务所需要的资源，该图形处理任务进行提交。
在上述技术方案中，所述步骤S12中，GPU的图形命令提交前，必须向GPU资源管理模块提交资源申请，申请批准后才能向命令缓冲提交命令；CPU使用GPU资源前，必须向GPU资源管理模块提交资源申请，申请批准后才能进行操作，不再使用GPU资源后，必须向GPU资源管理模块提交资源释放。
在上述技术方案中，所述步骤S2还包括如下步骤：S25、当图形处理任务的相关操作执行完后，GPU资源管理模块将根据资源申请的记录释放相关资源；所述步骤S21中，所述一级命令队列即为当前任务的命令队列；所述步骤S22中，所述二级命令队列即为对应优先级的命令队列；所述步骤S232中，优先级越高的二级命令队列一次可读取的图形命令段落越多；所述步骤S1中，所述当前具体显示包括分辨率和色深；所述步骤S11中，所述GPU可使用的资源的当前使用情况包括GPU正在使用的资源和CPU正在使用的资源。
本发明基于服务优先级的GPU资源预留方法，具有以下有益效果：在具有多个2D和3D应用程序同时运行的复杂环境中，本发明可以优先处理关键的或强实时的图形处理任务，尽可能的获得更好的用户体验。
附图说明
图1为本发明基于服务优先级的GPU资源预留方法的流程示意图；
图2为本发明基于服务优先级的GPU资源预留方法中步骤S1的流程示意图；
图3为本发明基于服务优先级的GPU资源预留方法中步骤S2的流程示意图；
图4为本发明基于服务优先级的GPU资源预留方法步骤S2中读取二级命令的阵列图；
图5为本发明基于服务优先级的GPU资源预留方法中步骤S2中GPU读取图形缓冲的流程示意图；
图6为本发明基于服务优先级的GPU资源预留方法的承载装置的结构示意图；
图7为本发明基于服务优先级的GPU资源预留方法的承载装置中GPU总体资源预估模块的结构示意图；
图8为本发明基于服务优先级的GPU资源预留方法的承载装置中多级图形处理模块的结构示意图。
具体实施方式
下面结合附图及实施例对本发明作进一步的详细描述，但该实施例不应理解为对本发明的限制。
参见图1，本发明基于服务优先级的GPU资源预留方法，包括如下步骤：
S1、GPU通过相关配置获取当前的GPU总体资源，根据当前具体显示设置(包括分辨率和色深)动态计算并预留显示所需要的资源，根据资源申请记录当前需使用的资源，参见图2，所述步骤S1的具体步骤如下：
S11、估算GPU可使用的资源的总量，估算GPU可使用的资源的当前使用情况(包括GPU正在使用的资源和CPU正在使用的资源)和估算显示所需要的资源情况，预留显示所需要的资源，所述预留的资源只能用于图形处理；
S12、根据资源申请记录当前需使用的资源：如果申请的资源涉及显示所需的资源，只有当申请的资源不不影响显示资源时，GPU资源管理模块才批准当前操作，GPU的图形命令提交前，必须向GPU资源管理模块提交资源申请，申请批准后才能向命令缓冲提交命令；如果申请的资源不涉及显示所需的资源，为提高资源使用效率，所述GPU资源管理模块可根据具体情况适度超量批准资源申请，为保证可以合理估计和有效管理GPU资源，CPU使用GPU资源前，也必须向GPU资源管理模块提交资源申请，申请批准后才能进行操作，不再使用GPU资源后，必须向GPU资源管理模块提交资源释放；
S13、根据资源预估的情况提交图形处理任务：如果提交的图形处理任务会影响显示所需要的资源，该图形处理任务暂缓提交；如果提交的图形处理任务会影响优先级较高的图形处理任务所需要的资源，该图形处理任务暂缓提交；如果提交的图形处理任务会影响优先级较低的图形处理任务所需要的资源，该图形处理任务进行提交；
S2、图形处理任务通过多级提交图形命令：图形处理任务将图形命令放入一级命令队列，所述一级命令队列根据图形处理任务的优先级将图形命令提交给二级命令队列，所述二级命令队列通过命令提交模块向命令缓冲提交图形命令，命令缓冲向GPU提交图形命令，参见图3，所述步骤S2的具体步骤如下：
S21、所述图形处理任务将图形命令放入一级命令队列(所述一级命令队列即为当前任务的命令队列)：每个图形处理任务都需创建属于自身的一级命令队列，考虑到每条图形处理命令无法独立完成一个图形绘制任务，需要在一级命令队列中插入标识，将图形处理任务划分为可独立执行的图形命令段落，每个图形命令段落作为一个整体进行提交；
S22、所述一级命令队列根据图形处理任务的优先级将图形命令提交给对应优先级的二级命令队列(所述二级命令队列即为对应优先级的命令队列)：根据具体的系统应用需求确定优先级的数目以及图形处理任务的优先级；所述图形处理任务的优先级在创建任务时指定，如无指定，默认值为最低优先级；每个优先级需要创建属于自身的二级命令队列，一级命令队列向二级命令队列并不提交具体的图形命令，而是提交对需提交的图形命令队列段落的描述：包括当前命令所属的图形处理任务、任务的优先级、当前命令段落的地址、当前命令段落所需要的资源；
参见图4，S23、所述二级命令队列通过命令提交模块向命令缓冲提交图形命令：命令提交模块从各个优先级的二级命令队列中选取需提交的图形命令段落，命令提交模块向GPU资源管理模块申请资源的使用，如果资源无法满足，则暂不提交；如果可以满足，命令提交模块将需要执行的图形命令段落的地址依次写入命令缓冲，所述步骤S23的具体步骤如下：
S231、优先级为0的二级命令队列采用中断模式提交命令，即优先级为0的二级命令队列向命令提交模块发出中断，一旦命令提交模块接收到中断，则对优先级为0的二级命令队列进行读取，这时其他优先级的二级命令队列不会被读取，直到完成全部优先级为0的二级命令队列中的图形命令的读取；
S232、其他优先级的队列采用轮巡模式提交命令，即命令提交模块从高优先级依次对其他优先级的二级命令队列进行读取，当命令提交模块在同一个二级命令队列读取到指定数目(此二级命令队列一次读取的图形命令段落的最大数目和此二级命令队列中全部图形命令段落的数目，两者中较小值)的图形命令段落后，不管当前命令队列是否还有图形命令，都进行下一优先级二级命令队列的读取，优先级越高的二级命令队列一次可读取的图形命令段落越多；
参见图5，S24、命令缓冲向GPU提交图形命令：GPU依次读取命令缓冲中的内容，GPU根据命令缓冲中命令段落的地址读取图形指令，命令缓冲是一个环形缓冲，保存对应图形命令段落的起始地址，当读取到当前命令段落的结束标识后，GPU再次读取命令缓冲下一个单元中命令段落的地址，开始读取下一个命令段落中的图形命令；
S25、当图形处理任务的相关操作执行完后，GPU资源管理模块将根据资源申请的记录释放相关资源。
参见图6，本发明基于服务优先级的GPU资源预留方法的承载装置,包括如下部分：
GPU总体资源预估模块：GPU通过相关配置获取当前的GPU总体资源，根据当前具体显示设置动态计算并预留显示所需要的资源，根据资源申请记录当前需使用的资源，参见图7，所述GPU总体资源预估模块包括如下部分：
估算GPU可使用资源总量子模块：估算GPU可使用的资源的当前使用情况和估算显示所需要的资源情况，预留显示所需要的资源，所述预留的资源只能用于图形显示；
记录当前使用资源子模块：记录预留的显示所需资源；记录显示实际使用的资源；记录提交的图形命令段落所需GPU资源；
GPU资源审批子模块：如果提交的图形处理任务会影响显示所需要的资源，则不批准该图形处理任务的提交；如果提交的图形处理任务会影响优先级较高的图形处理任务所需要的资源，则不批准该图形处理任务的提交；如果提交的图形处理任务会影响优先级较低的图形处理任务所需要的资源，则批准该图形处理任务的提交；如果提交的图形处理任务不会影响其他图形处理任务所需要的资源，则批准该图形处理任务的提交。如果申请的资源不涉及显示所需的资源，所述GPU资源管理模块根据具体情况适度超量批准资源申请；
GPU资源释放子模块：当图形处理任务的相关操作执行完后，GPU资源管理模块将根据资源申请的类型释放相关资源；
多级图形处理模块：图形处理任务通过多级提交图形命令：图形处理任务将图形命令放入一级命令队列，所述一级命令队列根据图形处理任务的优先级将图形命令提交给二级命令队列，所述二级命令队列通过命令提交模块向命令缓冲提交图形命令，命令缓冲向GPU提交图形命令，参见图8，所述多级图形处理模块包括如下部分：
一级命令子模块：所述图形处理任务将图形命令放入一级命令队列：每个图形处理任务都创建属于自身的一级命令队列，并在一级命令队列中插入标识，将图形处理任务划分为可独立执行的图形命令段落，每个图形命令段落作为一个整体进行提交；
二级命令子模块：所述一级命令队列根据图形处理任务的优先级将图形命令提交给对应优先级的二级命令队列：根据具体的系统应用需求确定优先级的数目以及图形处理任务的优先级；所述图形处理任务的优先级在创建任务时指定，如无指定，默认值为最低优先级；每个优先级要创建属于自身的二级命令队列，一级命令队列向二级命令队列提交对需提交的图形命令队列段落的描述：包括当前命令所属的图形处理任务、任务的优先级、当前命令段落的地址、当前命令段落所需要的资源；
命令缓冲提交子模块：所述二级命令队列通过命令提交模块向命令缓冲提交图形命令：命令提交模块从各个优先级的二级命令队列中选取需提交的图形命令段落，命令提交模块向GPU资源管理模块申请资源的使用，如果资源无法满足，则暂不提交；如果可以满足，命令提交模块将需要执行的图形命令段落的地址依次写入命令缓冲，所述命令缓冲提交子模块包括以下部分：
中断模式提交单元：优先级为0的二级命令队列采用中断模式提交命令，即优先级为0的二级命令队列向命令提交模块发出中断，一旦命令提交模块接收到中断，则对优先级为0的二级命令队列进行读取，这时其他优先级的二级命令队列不会被读取，直到完成全部优先级为0的二级命令队列中图形命令的读取；
轮巡模式提交单元：其他优先级的队列采用轮巡模式提交命令，即命令提交模块从高优先级依次对其他优先级的二级命令队列进行读取，当命令提交模块在同一个二级命令队列读取到指定数目(此二级命令队列一次读取的图形命令段落的最大数目和此二级命令队列中全部图形命令段落的数目，两者中较小值)的图形命令段落后，进行下一优先级二级命令队列的读取；
GPU提交图形命令子模块：GPU依次读取命令缓冲中的内容，GPU根据命令缓冲中命令段落的地址读取图形指令，当读取到当前命令段落的结束标识后，GPU再次读取命令缓冲下一个单元中命令段落的地址，开始读取下一个命令段落中的图形命令；
本发明技术原理在于对GPU可能使用的资源情况进行预估，根据当前GPU资源使用情况和图形处理命令所属的服务优先级动态控制图形命令的提交。
其中，
对GPU可使用的资源进行预估：估算GPU可使用的资源的总量，估算GPU可使用的资源的当前使用情况(包括GPU正在使用的资源和CPU正在使用的资源)和估算显示所需要的资源情况。显示所需要的资源进行预留，任何情况下都不能占用。根据资源预估的情况审批图形处理命令的提交。如果提交的图形处理命令会影响显示，则不批准该图形处理命令的提交；如果提交的图形处理命令会影响优先级较高的图形处理任务，则不批准该图形处理命令的提交；如果提交的图形处理命令会影响优先级较低的图形处理任务，则批准该图形处理命令的提交；如果提交的图形处理命令不会影响其他图形处理任务，则批准该图形处理命令的进行提交。
对图形处理任务进行优先级管理，没有指定优先级的图形处理任务默认为最低优先级。根据优先级，图形处理任务将自己命令队列(一级命令队列)中的图形处理命令提交给不同的下一级命令队列(二级命令队列)。二级命令队列根据优先级将图形处理命令提交给命令缓冲，优先级越高的命令队列将越快提交给命令缓冲。命令缓冲将命令队列直接提交给GPU执行。
显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。
本说明书中未作详细描述的内容属于本领域专业技术人员公知的现有技术。
Claims (6)
1.一种基于服务优先级的GPU资源预留方法，其特征在于：包括如下步骤：
S1、GPU通过相关配置获取当前的GPU总体资源，根据当前具体显示设置动态计算并预留显示所需要的资源，根据资源申请记录当前需使用的资源；
S2、图形处理任务通过多级提交图形命令：图形处理任务将图形命令放入一级命令队列，所述一级命令队列根据图形处理任务的优先级将图形命令提交给二级命令队列，所述二级命令队列通过命令提交模块向命令缓冲提交图形命令，命令缓冲向GPU提交图形命令；
其中，所述步骤S2的具体步骤如下：S21、所述图形处理任务将图形命令放入一级命令队列：每个图形处理任务都创建属于自身的一级命令队列，并在一级命令队列中插入标识，将图形处理任务划分为可独立执行的图形命令段落，每个图形命令段落作为一个整体进行提交；
S22、所述一级命令队列根据图形处理任务的优先级将图形命令提交给对应优先级的二级命令队列：根据具体的系统应用需求确定优先级的数目以及图形处理任务的优先级；
所述图形处理任务的优先级在创建任务时指定，如无指定，默认值为最低优先级；每个优先级要创建属于自身的二级命令队列，一级命令队列向二级命令队列提交对需提交的图形命令队列段落的描述：包括当前命令所属的图形处理任务、任务的优先级、当前命令段落的地址、当前命令段落所需要的资源；
S23、所述二级命令队列通过命令提交模块向命令缓冲提交图形命令：命令提交模块从各个优先级的二级命令队列中选取需提交的图形命令段落，命令提交模块向GPU资源管理模块申请资源的使用，如果资源无法满足，则暂不提交；如果可以满足，命令提交模块将需要执行的图形命令段落的地址依次写入命令缓冲；
S24、命令缓冲向GPU提交图形命令：GPU依次读取命令缓冲中的内容，GPU根据命令缓冲中命令段落的地址读取图形指令，当读取到当前命令段落的结束标识后，GPU再次读取命令缓冲下一个单元中命令段落的地址，开始读取下一个命令段落中的图形命令。
2.根据权利要求1所述的基于服务优先级的GPU资源预留方法，其特征在于：所述步骤S23的具体步骤如下：S231、优先级为0的二级命令队列采用中断模式提交命令，即优先级为0的二级命令队列向命令提交模块发出中断，一旦命令提交模块接收到中断，则对优先级为0的二级命令队列进行读取，直到完成全部图形命令的读取；
S232、其他优先级的队列采用轮巡模式提交命令，即命令提交模块从高优先级依次对其他优先级的二级命令队列进行读取，当命令提交模块在同一个二级命令队列读取到指定数目的图形命令段落后，进行下一优先级二级命令队列的读取。
3.根据权利要求2所述的基于服务优先级的GPU资源预留方法，其特征在于：所述步骤S1的具体步骤如下：S11、估算GPU可使用的资源的总量，估算GPU可使用的资源的当前使用情况和估算显示所需要的资源情况，预留显示所需要的资源，所述预留的资源只能用于图形处理；
S12、根据资源申请记录当前需使用的资源：如果申请的资源涉及显示所需的资源，只有当申请的资源不影响显示资源时，GPU资源管理模块才批准当前操作；如果申请的资源不涉及显示所需的资源，所述GPU资源管理模块根据具体情况超量批准资源申请。
4.根据权利要求3所述的基于服务优先级的GPU资源预留方法，其特征在于：所述步骤S1还包括如下步骤：S13、根据资源预估的情况提交图形处理任务：如果提交的图形处理任务会影响显示所需要的资源，该图形处理任务暂缓提交；如果提交的图形处理任务会影响优先级较高的图形处理任务所需要的资源，该图形处理任务暂缓提交；如果提交的图形处理任务会影响优先级较低的图形处理任务所需要的资源，该图形处理任务进行提交。
5.根据权利要求4所述的基于服务优先级的GPU资源预留方法，其特征在于：所述步骤S12中，GPU的图形命令提交前，必须向GPU资源管理模块提交资源申请，申请批准后才能向命令缓冲提交命令；CPU使用GPU资源前，必须向GPU资源管理模块提交资源申请，申请批准后才能进行操作，不再使用GPU资源后，必须向GPU资源管理模块提交资源释放。
6.根据权利要求5所述的基于服务优先级的GPU资源预留方法，其特征在于：所述步骤S2还包括如下步骤：S25、当图形处理任务的相关操作执行完后，GPU资源管理模块将根据资源申请的记录释放相关资源；
所述步骤S21中，所述一级命令队列即为当前任务的命令队列；
所述步骤S22中，所述二级命令队列即为对应优先级的命令队列；
所述步骤S232中，优先级越高的二级命令队列一次可读取的图形命令段落越多；
所述步骤S1中，所述当前具体显示包括分辨率和色深；
所述步骤S11中，所述GPU可使用的资源的当前使用情况包括GPU正在使用的资源和CPU正在使用的资源。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010974257.2A CN112114967B (zh) | 2020-09-16 | 2020-09-16 | 一种基于服务优先级的gpu资源预留方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010974257.2A CN112114967B (zh) | 2020-09-16 | 2020-09-16 | 一种基于服务优先级的gpu资源预留方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112114967A CN112114967A (zh) | 2020-12-22 |
| CN112114967B true CN112114967B (zh) | 2024-01-30 |
Family
ID=73802243
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010974257.2A Active CN112114967B (zh) | 2020-09-16 | 2020-09-16 | 一种基于服务优先级的gpu资源预留方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112114967B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113051071A (zh) * | 2021-03-02 | 2021-06-29 | 长沙景嘉微电子股份有限公司 | 命令提交方法和装置、命令读取方法和装置、电子设备 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106959891A (zh) * | 2017-03-30 | 2017-07-18 | 山东超越数控电子有限公司 | 一种实现gpu调度的集群管理方法和系统 |
| CN110442451A (zh) * | 2019-07-12 | 2019-11-12 | 中电海康集团有限公司 | 一种面向深度学习的多类型gpu集群资源管理调度方法和系统 |
| CN111400022A (zh) * | 2019-01-02 | 2020-07-10 | 中国移动通信有限公司研究院 | 一种资源调度方法、装置及电子设备 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9519943B2 (en) * | 2010-12-07 | 2016-12-13 | Advanced Micro Devices, Inc. | Priority-based command execution |
-
2020
- 2020-09-16 CN CN202010974257.2A patent/CN112114967B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106959891A (zh) * | 2017-03-30 | 2017-07-18 | 山东超越数控电子有限公司 | 一种实现gpu调度的集群管理方法和系统 |
| CN111400022A (zh) * | 2019-01-02 | 2020-07-10 | 中国移动通信有限公司研究院 | 一种资源调度方法、装置及电子设备 |
| CN110442451A (zh) * | 2019-07-12 | 2019-11-12 | 中电海康集团有限公司 | 一种面向深度学习的多类型gpu集群资源管理调度方法和系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112114967A (zh) | 2020-12-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Zhou et al. | S^ 3dnn: Supervised streaming and scheduling for gpu-accelerated real-time dnn workloads | |
| US8310492B2 (en) | Hardware-based scheduling of GPU work | |
| US9176794B2 (en) | Graphics compute process scheduling | |
| US9448864B2 (en) | Method and apparatus for processing message between processors | |
| US8478926B1 (en) | Co-processing acceleration method, apparatus, and system | |
| US8963933B2 (en) | Method for urgency-based preemption of a process | |
| US9858115B2 (en) | Task scheduling method for dispatching tasks based on computing power of different processor cores in heterogeneous multi-core processor system and related non-transitory computer readable medium | |
| US20120297216A1 (en) | Dynamically selecting active polling or timed waits | |
| EP2613257B1 (en) | Systems and methods for use in performing one or more tasks | |
| CN111190735B (zh) | 一种基于Linux的片上CPU/GPU流水化计算方法及计算机系统 | |
| US10545890B2 (en) | Information processing device, information processing method, and program | |
| WO2024040750A1 (zh) | 标量处理单元的访问控制方法及标量处理单元 | |
| WO2020112170A1 (en) | Laxity-aware, dynamic priority variation at a processor | |
| US7765548B2 (en) | System, method and medium for using and/or providing operating system information to acquire a hybrid user/operating system lock | |
| WO2024119988A1 (zh) | 多cpu环境下的进程调度方法、装置、电子设备和介质 | |
| CN114637536A (zh) | 任务处理方法、计算协处理器、芯片及计算机设备 | |
| CN111597044A (zh) | 任务调度方法、装置、存储介质及电子设备 | |
| CN112925616A (zh) | 任务分配方法、装置、存储介质及电子设备 | |
| CN112114967B (zh) | 一种基于服务优先级的gpu资源预留方法 | |
| CN112949847B (zh) | 神经网络算法加速系统、调度系统及调度方法 | |
| CN111045800A (zh) | 一种基于短作业优先的优化gpu性能的方法及系统 | |
| CN113434303A (zh) | 批处理的遥感影像智能处理模型预测性能优化系统及方法 | |
| CN116795503A (zh) | 任务调度方法、任务调度装置、图形处理器及电子设备 | |
| CN113032154B (zh) | 一种虚拟cpu的调度方法、装置、电子设备及存储介质 | |
| WO2023044877A1 (zh) | 一种渲染任务处理方法、装置、电子设备及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| CB02 | Change of applicant information | ||
| CB02 | Change of applicant information |
Address after: No.1, zanlong North Road, Fenghuang Industrial Park, Donghu New Technology Development Zone, Wuhan City, Hubei Province Applicant after: No. 709 Research Institute of China Shipbuilding Corp. Address before: No.1, zanlong North Road, Fenghuang Industrial Park, Donghu New Technology Development Zone, Wuhan City, Hubei Province Applicant before: NO.709 RESEARCH INSTITUTE OF CHINA SHIPBUILDING INDUSTRY Corp. |
|
| TA01 | Transfer of patent application right | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20220811 Address after: 430000 No. 1 Baihe Road, Guandong Industrial Park, Donghu New Technology Development Zone, Wuhan City, Hubei Province Applicant after: Wuhan lingjiu Microelectronics Co.,Ltd. Address before: No.1, zanlong North Road, Fenghuang Industrial Park, Donghu New Technology Development Zone, Wuhan City, Hubei Province Applicant before: No. 709 Research Institute of China Shipbuilding Corp. |
|
| GR01 | Patent grant | ||
| GR01 | Patent grant |