CN103838631B - 一种面向片上网络的多线程调度实现方法 - Google Patents

Abstract

本发明涉及一种面向片上网络的多线程调度实现方法，包括以下步骤：建立多线程模型；建立片上网络拓扑模型；对多线程集合进行划分；对片上网络进行分区；将多线程分配到片上网络。本发明的技术方案适用于面向片上网络的多线程调度的实现，利用多线程之间的关系，对多线程进行分组，并以此为基础对片上网络进行分区，并进行调度，减少了调度的复杂性，具有动态调度的可扩展性，提高了调度的效率。

Description

一种面向片上网络的多线程调度实现方法

技术领域

本发明属于片上网络线程调度技术领域，特别是涉及一种面向片上网络的多线程调度实现方法。

背景技术

随着半导体技术的发展，标志着计算性能的处理器频率的提升已经逐步减缓，已经无法有效增强系统的整体计算能力。在这样的背景下，硬件厂商纷纷开始了多核处理器和片上系统的研发。多核处理器通过将多处理核封装在同一芯片上提高系统的集成度，而片上系统则在芯片上集成了负责计算外的其它器件，使芯片的功能可以满足各方面的需求。

多核处理器和片上系统都增加了芯片内部器件的数量。实验证明，应用在传统系统中的总线结构并不能满足这些器件之间的通讯需求。由于总线需要对所连接的各器件进行监听，而且在任何时间只有单一的数据传输可以进行，所以随着总线上所连接器件数量的增长，器件之间通讯需要等待更多时间。此外，在多核处理器和片上系统这样复杂的系统中，为了提高执行效率，任务往外会被分割成为多个部分在系统中同时运行。这些部分之间由于存在大量数据依赖和控制依赖关系，所以需要频繁进行数据传输，这更加剧了总线的负载，导致系统性能的下降。随着芯片规模的不断增大，各器件之间的距离也不断增大，因此数据传输对系统整体性能的影响也越来越重要。

片上网络的提出就是为了解决复杂系统中的数据传输问题。片上网络借鉴了成熟的网络传输思想，在芯片内部构造了数据的传输网络。在片上网络的研究中，系统内各器件都被抽象为网络中的节点，数据在打包后通过网络传递到目的节点。片上网络将系统的通讯分布化，避免了总线在传输过程中的瓶颈效应。

硬件结构的变化引起了通讯模式的改变。与传统的总线通讯结构相比，片上网络将通讯分布式化，减少了系统中不同信息交互之间的影响。然而，片上 网络在提高了系统的可扩展性的同时，也使得系统的通讯结构更加复杂，对具体通讯的性能会产生一定的影响。由于目前多核芯片内的计算单元数量还不是很巨大，所以总线架构与片上网络架构在性能上还是互有优劣，特别是层次化总线结构在某些应用领域可以取得很好的效果。因此，多核环境中的硬件对通讯模式的支持分析直接影响着多核系统中任务运行的效率。

片上网络已经开始影响软件设计。由于过去的软件大多是针对单处理器设计的，所以并行度不高，无法有效地利用片上网络环境中的系统资源。其中，多线程在片上网络中的调度非常重要。但是针对单核处理器的调度方法显然不能处理多线程在片上网络上的调度，而现有的一些映射方法是从IP核与片上网络之间的关系着手，如何从操作系统的角度出发，实现多线程在片上网络上的调度，已有的方法较少；而已有的方法则通常较为复杂，难以高效率的完成。本方法中，将多线程之间的连接关系和片上网络的处理器核心利用联系起来，来进行多线程在片上网络上的调度，从而提高调度的效率。

发明内容

本发明旨在克服现有技术缺陷，目的在于别供一种能够别高调度效率和具有可扩展性的面向片上网络的多线程调度实现方法。

为实现上述目的，本发明采用的技术方案是：

一种面向片上网络的多线程调度实现方法，包括如下步骤：

建立多线程模型，包括包含所有线程的多线程集合T，各线程间是否存在通信关系的线程通信关系集合，以及与各线程存在通信关系的任务数量集合；

建立片上网络拓扑模型，包括处理器核的集合和各处理器核之间通路的集合；

对多线程集合T按通信关系进行划分，其中划分后的分属于不同集合中的任务间不存在通信关系；

对片上网络进行分区：提取任务数小于或等于处理器核数的线程来构成新线程集合，将片上网络划分为u个区域，其中u为所述线程集合所包含的线程数，所述片上网络的u个区域分别与u个线程相对应且分别包含了线程中任务数相同的处理器核；

将多线程分配到片上网络：将新线程集合中的u个线程按对应关系分别分配到u个区域，完成多线程集合的调度。

进一还的，还包括下述步骤：在将所述新线程集合中的u个线程分配到对应区域上之后，再将所述线程分配到处理器核上。

进一步的，所述网络拓扑模型还包括：

从一处理器核到另一处理器核所经过的片上网络路由器的数量；

一处理器核在所有方向直接连接的其它处理器核的数量；

与一处理器核具有直接连接的其它处理器核的集合。

由于采用上述技术方案，本发明以多线程模型和片上网络模型的建立为基础，以多线程之间的连接关系为根据，对多线程进行分组，对片上网络进行分区，并进行多线程的调度。本发明与现有技术相比，具有如下积极效果：

(1)高效性。片上网络具有丰富的片上资源，多线程在片上网络的调度需要高效的进行。在本发明中，将多线程之间的连接关系作为中心，对多线程进行分组，将多线程以关联性分配到对应的片上网络区域中，提高了多线程调度的效率；

(2)可扩展性。由于片上网络的结构具有多样性，需要适应不同的片上网络体系结构，本发明中，对片上网络的结构没有进行严格的限定，提供了具有高度抽象的片上网络模型，从而使得多线程调度方法能够适应于多种不同的体系结构，具有很高的可扩展性。

因此，本发明适用于面向片上网络的多线程调度的实现，利用多线程之间的关系，对多线程进行分组，并以此为基础对片上网络进行分区，并进行调度，减少了调度的复杂性，具有动态调度的可扩展性，提高了调度的效率。

附图说明

图1是本发明实施例中的步骤示意图；

图2是本发明实施例中的多线程通信关系示意图；

图3是本发明实施例中的片上网络示意图。

具体实施方式

下面结合附图和具体实施方式对本发明做进一步的描述，并非对其保护范围的限制。

如图1所示，一种面向片上网络的多线程调度实现方法，包括如下步骤：

S10：建立多线程模型，包括包含所有线程的多线程集合T，各线程间是否存在通信关系的线程通信关系集合，以及与各线程存在通信关系的任务数量集合。

对于多线程，建立多线程模型A(T,R)，其中：

T为多线程的集合，T={t₀,t₁,…,t_m}；

R为r_ij的集合，r_ij=1表示线程t_i与线程t_j之间存在着通信关系，r_ij=0表示线程t_i与线程t_j之间不存在通信关系；

L_i表示与线程t_i存在通信关系的任务的数量；

对于具有8个线程的线程集合，按照多线程模型为A(T,R)，其中

T={t₀,t₁,t₂,t₃,t₄,t₅,t₆,t₇}；

R如图2所示。

L值如下表所示：

t0t1t2t3t4t5	t6	t7
			Li422332	3	3

表1

S20：建立片上网络拓扑模型，包括处理器核的集合和各处理器核之间通路的集合，还包括：

从一处理器核到另一处理器核所经过的片上网络路由器的数量；

一处理器核在所有方向直接连接的其它处理器核的数量；

与一处理器核具有直接连接的其它处理器核的集合。

对于片上网络，用N(C,P)表示，其中C是处理器核C_n的集合，P是通路P_ij的集合，其中，P_ij表示从处理器核C_i到处理器核C_j的一条通路；

s=|C_i→C_j|，表示从处理器核C_i到处理器核C_j所经过的片上网络路由器的数量；

h(C_i)表示处理器核C_i在所有方向直接连接的处理器核的数量；

C(Cj)表示与处理器核Ci具有直接连接的处理器核的集合； 对于有9个处理器核的 片上网络，其结构如图3所示，其中s值如下表： _{j i}

s	C0	C1	C2	C3	C4	C5	C6	C7	C8
										C0	/	0	1	0	1	2	1	2	3
C1	0	/	0	1	0	1	2	1	2
										C2	1	0	/	2	1	0	3	2	1
C3	0	1	2	/	0	1	0	1	2
										C4	1	0	1	0	/	0	1	0	1
C5	2	1	0	1	0	/	2	1	0
										C6	1	2	3	0	1	2	/	0	1
C7	2	1	2	1	0	1	0	/	0
										C8	3	2	1	2	1	0	1	0	/

表2

h值如下班所示：

	C0	C1	C2	C3	C4	C5	C6	C7	C8
										h(Cj)	2	3	2	2	4	3	2	3	2

表3

所有的C(Cj)如下表所示： _j

	C(Cx)
		C0	C1,C3
C1	C0,C2,C4
		C2	C1,C5
C3	C0,C4,C6
		C4	C1,C3,C5,C7
C5	C2,C4,C8
		C6	C3,C7
C7	C4,C6,C8
		C8	C5,C7

表4

S30：对多线程集合T进行划分，划分结果为m个多线程集合T₁,T₂,…,T_m，其中从任意一个集合中任取一个任务，与任意另一个集合中任取一个任务，这两个任务之间均不存在通信关系；

对于多线程集合T={t₀,t₁,t₂,t₃,t₄,t₅,t₆,t₇}，划分后的结果为：

T₁={t₀,t₃,t₄,t₆,t₇}；

T₂={t₁,t₂,t₅}；

T₁中的所有任务与T₂中的所有任务均不存在通信关系；

S40：对片上网络进行分区：提取任务数小于或等于处理器核数的线程来构成新线程集合，将片上网络划分为u个区域，其中u为所述新线程集合所包含的线程数，所述片上网络的u个区域分别与u个线程相对应且分别包含了线程中任务数相同的处理器核。

对于所有的T_i，计算每个T_i中任务的数量Num(T_i)；如果ΣNum(T_i)大于处理器核的数量，则去掉c个T_i，直到满足ΣNum(T_i)小于或者等于处理器核的数量；后续的线程实际上仍然在多线程集合当中，相当于没有被挑选出来而已。

在满足ΣNum(T_i)小于或者等于处理器核的数量时，所有的T_i集合为：

T₁,T₂,…,T_m-c；

此时所有的T_i的数量为u；然后将片上网络划分为u个区域，分别为：

U₁,U₂,…,U_u；

片上网络的u个区域与m-c个集合T_i一一对应，其中U₁与T₁对应，包含了Num(T₁)个处理器核；U₂与T₂对应，包含了Num(T₂)个处理器核；U_x与T_y对应，包含了Num(T_y)个处理器核；U_u与T_m-c对应，包含了Num(T_m-c)个处理器核。

对于多线程集合T={t₀,t₁,t₂,t₃,t₄,t₅,t₆,t₇}，与图3中的片上网络，划分后的结果为：

U₁={C₀,C₁,C₂,C₃,C₄}；

U₂={C₅,C₇,C₈}；

U₁对应于T₁，包含5个处理器核；U₂对应于T₂，包含3个处理器核。

S50：将多线程分配到片上网络：将新线程集合中的u个线程按对应关系分别分配到u个区域，完成多线程集合的调度。

(1)按照前述步骤中片上网络的区域与多线程集合之间的对应关系，将划分后的多线程集合Ti分配到片上网络对应的区域上，完成多线程集合的调度；

(2)在将T_i分配到U_i上之后，再将T_i中的线程分配到处理器核上，具体的分配方法可以根据根据线程之间的连接关系、线程间的通信量、线程间的通信延迟要求等来进行分配。

对于多线程集合T={t₀,t₁,t₂,t₃,t₄,t₅,t₆,t₇}，与图3中的片上网络，按照线程之间的连接关系，分配过程如下：

(1)U₁对应于T₁，U₂对应于T₂，则将T₁分配到U₁，T₂分配到U₂；

(2)根据线程之间的连接关系来对T₁在U₁和T₂在U₂进行区域内的线程分配。

对于T₁在U₁的分配，根据表1，线程t₀具有最多的连接，将t₀分配到U₁区域中具有最多连接的C₄上，其余线程具有相同的连接，将t₃,t₄,t₆,t₇分别分配到C=C₀,C₁,C₂,C₃。

对于T₂在U₂的分配，根据表1，三个线程具有相同的连接，将t₁,t₂,t₅分别分配到C=C₅,C₇,C₈。

对于多线程集合T={t₀,t₁,t₂,t₃,t₄,t₅,t₆,t₇}，与图3中的片上网络，通信量如下表所示：

通信量	t0	t1	t2	t3	t4	t5	t6	t7
									t0	/	0	0	80	100	0	20	10
t1	0	/	10	0	0	100	0	0
									t2	0	10	/	0	0	100	0	0
t3	80	0	0	/	40	0	0	10
									t4	100	0	0	40	/	0	100	0
t5	0	100	100	0	0	/	0	0
									t6	20	0	0	0	100	0	/	60
t7	10	0	0	10	0	0	60	/

则每个线程的通信总量分别为：

t₀：210；

t₁：110；

t₂：110；

t₃；130；

t₄：240；

t₅：200；

t₆：180；

t₇：80。

按照线程之间的通信量，分配过程如下：

(1)U₁对应于T₁，U₂对应于T₂，则将T₁分配到U₁，T₂分配到U₂；

(2)根据线程之间的通信量来对T₁在U₁和T₂在U₂进行区域内的线程分配。

对于T₁，按照通信量大小，t₄的通信量最大，将t₄分配到具有最多连接的C₄上，然后将与t₄具有最大通信量的t₀和t₆分别分配到C₁和C₃，然后将t₃分配到C₀，最后将t₇分配到C₆；对于T₂，首先将通信量最大的t₅分配到C₈，2个线程具有相同的连接，将t₁,t₂分别分配到C=C₅和C₇。

以上说述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，任何不超过本发明实质精神范围的发明创造、修改，均落入本发明的保护范围。

Claims (3)

1.一种面向片上网络的多线程调度实现方法，其特征在于，包括如下步骤：

建立多线程模型，包括包含所有线程的多线程集合T，各线程间是否存在通信关系的线程通信关系集合，以及与各线程存在通信关系的任务数量集合；

建立片上网络拓扑模型，包括处理器核的集合和各处理器核之间通路的集合；

对多线程集合T按通信关系进行划分，其中划分后的分属于不同集合中的任务间不存在通信关系；

对片上网络进行分区：提取任务数小于或等于处理器核数的线程来构成新线程集合，将片上网络划分为u个区域，其中u为所述新线程集合所包含的线程数，所述片上网络的u个区域分别与u个线程相对应且分别包含了线程中任务数相同的处理器核；

将多线程分配到片上网络：将新线程集合中的u个线程按对应关系分别分配到u个区域，完成多线程集合的调度。

2.根据权利要求1所述的面向片上网络的多线程调度实现方法，其特征在于，还包括：在将所述新线程集合中的u个线程分配到对应区域上之后，再将所述线程分配到处理器核上。

3.根据权利要求2所述的面向片上网络的多线程调度实现方法，其特征在于，所述网络拓扑模型还包括：

从一处理器核到另一处理器核所经过的片上网络路由器的数量；

一处理器核在所有方向直接连接的其它处理器核的数量；

与一处理器核具有直接连接的其它处理器核的集合。