CN104156264B - 一种基于多gpu的基带信号处理任务并行实时调度方法 - Google Patents

Abstract

本发明实施例提供了一种基带信号处理中的任务调度方法，涉及计算机技术领域，可以提高基带信号处理的实时性和吞吐量。所述方法包括：应用发送任务到调度器，调度器根据所述任务的属性将所述任务放到相应的任务队列中；调度器定期检查m个GPU的flag_GPU标志，检查完成后得到m个GPU共需要的任务数m′；然后为所述GPU选取依据排序后的m′个任务，并且所述m′个任务继承其所属任务队列的preDeviee属性；根据所述m′个任务各自的preDevice属性，将所述m′个任务分配给预取处理器，使所述GPU执行所述m′个任务；每个任务执行完成后需要执行完成的任务所属队列的flag置为有效；直到各个任务队列为空。

Description

一种基于多GPU的基带信号处理任务并行实时调度方法

技术领域

本发明涉及计算机技术领域，尤其涉及一种基于多GPU的基带信号处理任务并行实时调度方法。

背景技术

在基带信号处理的过程中所要用到的各种信号调制和变换用到最多的就是向量点乘，即“乘-加”运算，现有基带信号处理主要用专用硬件DSP来实现，DSP可以在一个时钟周期内实现“乘-加”操作。但是DSP编程困难，对于不断升级变化的移动通信标准其灵活性较差。

发明内容

本发明的实施例提供一种基带信号处理中的任务调度方法，可以提高基带信号处理的实时性和吞吐量。

为达到上述目的，本发明的实施例采用如下技术方案：

一种基带信号处理中的任务调度方法，包括：

101、应用发送任务到调度器，调度器根据所述任务的属性将所述任务放到相应的任务队列中。

其中，任务队列共有n个，为Q＝{q₁，q₂，q₃，q₄...，q_n}，每个任务队列q_i都具有属性{qID，flag，preDevice}；其中qID表示队列编号，flag表示队首任务是否可调度，preDevice表示该任务队列的预取处理器编号；初始时flag为1表示可调度，预取处理器编号为空；所述任务的属性包括：所述任务队列的队列编号，到达时间，需要的GPU时间，截止期，n为大于等于1的整数，i＝1，2，...，n；

102、取所述任务队列中可调度的队首任务，该队首任务继承其所属队列的preDevice属性，计算所述任务队列中可调度的队首任务的优先级，并按照优先级从高到低进行排序，获得优先级队列。

103、调度器定期检查m个GPU的flag_GPU标志，检查完成后得到m个GPU共需要的任务数m′；其中每个GPU具有属性：设备编号，flag_GPU，所述flag_GPU表示所述GPU是否达到最佳负载；初始时flag_GPU为0，表示所述GPU没有达到最佳负载；

104、调度器依次扫描步骤102中获得的所述优先级队列中的任务，按照将任务优先调度到其预取处理器和优先调度即将达到截止期任务这两个原则从所述排序后的任务队列中选取m′个任务；

105、根据所述m′个任务各自的preDevice属性，将所述m′个任务分配给相应GPU，使所述相应GPU执行所述m′个任务；

106、每个任务执行完成后需要执行完成的任务所属队列的flag置为有效；

107、按照步骤102-106进行调度，直到各个任务队列为空。

可选的，所述计算所述任务队列中可调度的队首任务的优先级，并按照优先级从高到低进行排序，获得排序后的任务队列，包括：

所述任务队列中可调度的队首任务的优先级根据实时性和吞吐量来计算，其计算公式满足：

P＝ρ₁/t₁+ρ₂/t₂+ρ₃/t₃(ρ₁+ρ₂+ρ₃＝1)

其中，t₁表示到达时间，t₂表示需要GPU时间，t₃表示截止期；ρ₁，ρ₂，ρ₃分别表示计算优先级时到达时间，所需GPU时间，截止期分别所占的权重；

计算出各个任务的优先级后，各个任务按照优先级由高至低排序。

可选的，所述按照将任务优先调度到其预取处理器和优先调度即将达到截止期任务这两个原则从所述优先级队列中选取m′个任务，包括：

所述调度器按优先级从高到底扫描，如果根据所述任务的preDevice属性，确定的所述任务对应的预取处理器是否可用；

若可用，则将所述任务放入发射队列，同时设置该处理器为已占有，并将所述任务从优先级队列中删除，计数器+1，设置该任务对应的任务队列的flag标志为不可调度；若不可用，但是根据所述任务的截止期判断出所述任务不能等待了，则计数器+1，将所述任务放入发射队列，并将所述任务从优先级队列删除；

如果预取处理器不可用但是判断出所述还能等待，则依次往低优先级方向扫描，在扫描过程中如果计数器值＝m′，则停止扫描；若优先级队列扫描完计数器值＜m′，则从优先级队列中剩余任务从高到低取(m′-计数器值)个任务放入发射队列；

将发射队列中的任务依次调度到预取处理器和剩余未占有的处理器上，设置相应任务队列的可调度标志位不可用，更新各个队列对应的预取处理器，清空优先级队列，发射队列，处理器已占有标志。

可选的，所述判断所述任务是否还能等待，包括：

如果(当前时间+一个等待周期t+需要的GPU时间+包括在处理器间拷贝数据时间)＞任务到达时间+截止期，则该任务不能等待了，否则该任务可以继续等待。

上述技术方案提供的基带信号处理中的任务调度方法，其调度操作和GPU的执行操作在时间上是重叠的，调度时GPU上还是有负载的，GPU不是空闲的。这点区别于很多利用中断触发调度的方案，上一个任务执行完GPU向调度器发出中断，调度器收到中断信号，才开始下一次的调度，这期间有时间间隔，造成GPU资源的浪费。也区别于一般的周期性调度，其会造成多个任务累积在GPU上，造成资源竞争严重，严重影响GPU的性能和任务的执行效率。本发明是在GPU有负载，但是负载没有达到最佳峰值的时候进行调度，调度所需的CPU时间和GPU时间是重叠的，并且并行执行任务的GPU时间也是重叠的，这样可以很好的提高实时性，减少GPU资源浪费。

附图说明

图1为本发明实施例提供的一种基带信号处理中的任务调度方法的流程示意图；

图2为本发明实施例提供的一种系统框图；

图3为本发明实施例提供的一种调度过程示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明实施例提供了一种基带信号处理中的任务调度方法，如图1所示，所述方法包括以下步骤：

101、应用发送任务到调度器，调度器根据所述任务的属性将所述任务放到相应的任务队列中。

如图2所示，为本发明实施例提供的方法所在的系统的框图。系统有多个(1-N)，一个调度器，和m个GPU(GPU1-GPUm)，调度器中包括一个调度器，和调度器建立连接，发送任务请求到调度器，调度器根据现有的GPU的可调度情况从发送的任务中进行选择，并调度到合适的GPU上。

其中，任务队列有n个，为Q＝{q₁，q₂，q₃，q₄...q_n}，每个任务队列q_n都具有属性{qID，flag，preDevice}。其中qID表示队列编号，flag表示队首任务是否可调度，preDevice表示该任务队列的预取处理器编号。初始时flag为1，预取处理器编号为空。所述任务的属性包括：所述任务队列的队列编号，在队列内编号，到达时间，需要的GPU时间，截止期。

flag为1表示这个任务队列队首元素可调度。预取处理器为空表示，该任务队列还没有任务在执行或已经执行完毕，因为预取处理器表示该任务队列中上一个任务在哪个处理器上运行。

102、取所述任务队列中可调度的队首任务，该队首任务继承其所属队列的preDevice属性，计算所述任务队列中可调度的队首任务的优先级，并按照优先级从高到低进行排序，获得优先级队列。

所述任务队列中可调度的队首任务的优先级根据实时性和吞吐量来计算，其计算公式满足：

P＝ρ₁/t₁+ρ₂/t₂+ρ₃/t₃(ρ₁+ρ₂+ρ₃＝1)

其中，t₁表示到达时间，t₂表示需要GPU时间，t₃表示截止期；ρ₁，ρ₂，ρ₃分别表示计算优先级时到达时间，所需GPU时间，截止期分别所占的权重。

计算出各个任务的优先级后，各个任务按照优先级由高至低排序。

如图2所示，应用A发送过来的任务在任务队列q₁{A1、A2、A3、……}中，应用B发送过来的任务在任务队列q₂{B1、B2、B3、……}中，应用N发送过来的任务在任务队列q_n{N1、N2、N3、……}中等等，假设任务队列q₁中队首任务A1可调度，任务队列q₂中的队首任务B1可调度，任务队列q_n中的队首任务N1可调度，则先按照上述公式计算A1和N1等的优先级，然后按照优先级从高到低进行排序，获得优先级队列。

103、调度器定期检查m个GPU的flag_GPU标志，检查完成后得到m个GPU共需要的任务数m′。

假设有m个GPU，每个GPU有属性：设备编号，flag_GPU(flag_GPU表示所述GPU是否达到最佳负载)；初始时flag_GPU为0表示所述GPU没有达到最佳负载，可以认为所述GPU此时没有负载。

对于每个GPU来说，调度器定期检查每个GPU的flag_GPU标志，检查完成后得到每个GPU是否需要任务。示例的，flag_GPU为0，表示GPU没有达到最佳负载，需要的任务，flag_GPU为1，表示GPU达到最佳负载，不需要的任务。

这样调度器定期检查计数获得m个GPU中有m′个需要任务。

104、调度器依次扫描步骤102中获得的所述优先级队列中的任务，按照将任务优先调度到其预取处理器和优先调度即将达到截止期任务这两个原则从所述排序后的任务队列中选取m′个任务。

所述调度器按优先级从高到底在所述优先级队列中进行扫描，如果根据所述任务的preDevice属性，确定的所述任务对应的预取处理器是否可用。

若可用，则将所述任务放入发射队列，同时设置该处理器为已占有，并将所述任务从优先级队列中删除，计数器+1，设置该任务对应的任务队列的flag标志为不可调度；若不可用，但是根据所述任务的截止期判断出所述任务不能等待了，则计数器+1，将所述任务放入发射队列，并将所述任务从优先级队列删除。

如果预取处理器不可用但是判断出所述还能等待，则依次往低优先级方向扫描，在扫描过程中如果计数器值＝m′，则停止扫描；若优先级队列扫描完计数器值＜m′，则从优先级队列中剩余任务从高到低取(m′-计数器值)个任务放入发射队列。

105、根据所述m′个任务各自的preDevice属性，将所述m′个任务分配给相应GPU，使所述相应GPU执行所述m′个任务。

将发射队列中的任务依次调度到预取处理器和剩余未占有的处理器上，设置相应任务队列的可调度标志位不可用，更新各个队列对应的预取处理器，清空优先级队列，发射队列，处理器已占有标志。

判断所述任务是否还有更多时间等待：如果(当前时间+一个等待周期t+需要的GPU时间+包括在处理器间拷贝数据时间)＞任务到达时间+截止期，则该任务不能等待了，否则该任务可以继续等待。

在本发明中，preDevice实际存储的是处理器的编号，即来自这个应用的上一个任务是在哪个处理器上运行的。任务继承所属任务队列的preDevices属性，即该任务也尽量调度到所属处理器上。处理器指系统中的GPU，预取处理器是某一个GPU。调度器负责判断哪个任务要分配到哪个处理器上，比如，调度器最后决定要将任务A1分配到GPU1上，调度器就会将任务A1发射到GPU1上，GPU1就可以执行该任务了。

我们会利CUDA编程中流的概念，在处理器上创建新的流，因为流间是并行的，所以不同流内的多个任务可以并行执行。在将m′个任务分配给m′个处理器的时候，我们需要考虑任务的preDevice属性，能够将尽量多的任务分配到其预取处理器上。

106、每个任务执行完成后需要执行完成的任务所属队列的flag置为有效。

107、按照上述方案进行调度，直到各应用的任务队列为空。

每个应用内的任务间是存在先后依赖关系的，不是相互独立的，考虑到这点为避免逻辑错误和数据的来回移植，本发明尽量将同一应用的任务调度到同一个GPU上，引进了预取处理器的概念。

任务队列有一个属性preDevice，即表示该任务队列的预取处理器编号，随着任务的执行，这个属性的值是会发生变化的，每次调度时可调度任务都继承其所属队列的preDevice属性。从优先级队列中取任务并调度到未达到最佳负载的处理器上时，根据任务的preDevice属性，尽量将任务调度到preDevice属性表示的处理器即预取处理器上。

我们的调度操作和GPU的执行操作在时间上是重叠的，我们调度时GPU上还是有负载的，GPU不是空闲的。这点区别于很多利用中断触发调度的方案，上一个任务执行完GPU向调度器发出中断，调度器收到中断信号，才开始下一次的调度，这期间有时间间隔，造成GPU资源的浪费。也区别于一般的周期性调度，其会造成多个任务累积在GPU上，造成资源竞争严重，严重影响GPU的性能和任务的执行效率。本发明是在GPU有负载，但是负载没有达到最佳峰值的时候进行调度，调度所需的CPU时间和GPU时间是重叠的，并且并行执行任务的GPU时间也是重叠的，这样可以很好的提高实时性，减少GPU资源浪费。

现有技术中很多模型中为了避免任务间资源的竞争关系，在模型中只考虑同一时刻GPU上只能执行一个任务，本发明中同一时刻GPU上可以使用流概念运行多个任务，只要GPU的负载情况不超过其最佳峰值。并且使用GPU的负载情况来触发调度，这是前所未有的。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。

Claims (4)

1.一种基带信号处理中的任务调度方法，其特征在于，包括：

101、应用发送任务到调度器，调度器根据所述任务的属性将所述任务放到相应的任务队列中；

其中，任务队列共有n个，为Q＝{q₁，q₂，q₃，q₄...，q_n}，每个任务队列q_i都具有属性{qID，flag，preDevice}；其中qID表示队列编号，flag表示队首任务是否可调度，preDevice表示该任务队列的预取处理器编号；初始时flag为1表示可调度，预取处理器编号为空；所述任务的属性包括：所述任务队列的队列编号，到达时间，需要的GPU时间，截止期，n为大于等于1的整数，i＝1，2，...，n；

102、取所述任务队列中可调度的队首任务，该队首任务继承其所属队列的preDevice属性，计算所述任务队列中可调度的队首任务的优先级，并按照优先级从高到低进行排序，获得优先级队列；

103、调度器定期检查m个GPU的flag_GPU标志，检查完成后得到m个GPU共需要的任务数m′；其中每个GPU具有属性：设备编号，flag_GPU，所述flag_GPU表示所述GPU是否达到最佳负载；初始时flag_GPU为0，表示所述GPU没有达到最佳负载；

104、调度器依次扫描步骤102中获得的所述优先级队列中的任务，按照将任务优先调度到其预取处理器和优先调度即将达到截止期任务这两个原则从所述排序后的任务队列中选取m′个任务；

105、根据所述m′个任务各自的preDevice属性，将所述m′个任务分配给相应GPU，使所述相应GPU执行所述m′个任务；

106、每个任务执行完成后需要执行完成的任务所属队列的flag置为有效；

107、按照步骤102-106进行调度，直到各个任务队列为空。

2.根据权利要求1所述的方法，其特征在于，所述计算所述任务队列中可调度的队首任务的优先级，并按照优先级从高到低进行排序，获得排序后的任务队列，包括：

所述任务队列中可调度的队首任务的优先级根据实时性和吞吐量来计算，其计算公式满足：

P＝ρ₁/t₁+ρ₂/t₂+ρ₃/t₃(ρ₁+ρ₂+ρ₃＝1)

其中，t₁表示到达时间，t₂表示需要GPU时间，t₃表示截止期；ρ₁，ρ₂，ρ₃分别表示计算优先级时到达时间，所需GPU时间，截止期分别所占的权重；

计算出各个任务的优先级后，各个任务按照优先级由高至低排序。

3.根据权利要求1所述的方法，其特征在于，包括：所述按照将任务优先调度到其预取处理器和优先调度即将达到截止期任务这两个原则从所述优先级队列中选取m′个任务，包括：

所述调度器按优先级从高到低扫描，如果根据所述任务的preDevice属性，确定的所述任务对应的预取处理器是否可用；

若可用，则将所述任务放入发射队列，同时设置该处理器为已占有，并将所述任务从优先级队列中删除，计数器+1，设置该任务对应的任务队列的flag标志为不可调度；若不可用，但是根据所述任务的截止期判断出所述任务不能等待了，则计数器+1，将所述任务放入发射队列，并将所述任务从优先级队列删除；

如果预取处理器不可用但是判断出还能等待，则依次往低优先级方向扫描，在扫描过程中如果计数器值＝m′，则停止扫描；若优先级队列扫描完计数器值＜m′，则从优先级队列中剩余任务从高到低取(m′-计数器值)个任务放入发射队列；

将发射队列中的任务依次调度到预取处理器和剩余未占有的处理器上，设置相应任务队列的可调度标志位不可用，更新各个队列对应的预取处理器，清空优先级队列，发射队列，处理器已占有标志。

4.根据权利要求3所述的方法，其特征在于，所述判断所述任务是否还能等待，包括：

如果(当前时间+一个等待周期t+需要的GPU时间+包括在处理器间拷贝数据时间)＞任务到达时间+截止期，则该任务不能等待了，否则该任务可以继续等待。