CN105183536B

CN105183536B - 基于gpu的乐观时间管理方法

Info

Publication number: CN105183536B
Application number: CN201510581194.3A
Authority: CN
Inventors: 姚益平; 唐文杰; 鄢来斌; 蒋志文; 曲庆军; 孟冬; 朱峰; 陈慧龙; 姚峰; 李建波
Original assignee: National University of Defense Technology
Current assignee: National University of Defense Technology
Priority date: 2015-09-14
Filing date: 2015-09-14
Publication date: 2018-11-13
Anticipated expiration: 2035-09-14
Also published as: CN105183536A

Abstract

一种基于GPU的乐观时间管理方法，步骤为：S1：仿真初始化，生成若干的初始化仿真事件；S2：判断仿真是否结束？如结果为“是”，则算法结束；如结果为“否”，则继续执行步骤S3；S3：构建时间窗口；S4：事件提取；GPU线程并行地检查所有仿真事件，若仿真事件的时戳位于时间窗口内部，则将该仿真事件加入到其目标逻辑进程FEL中；S5：前向事件处理；GPU线程并行地处理各个逻辑进程FEL中的事件；S6：逆向事件处理；如发生因果乱序的情况，通过逆向事件处理来修复；S7：事件提交；将所有已处理事件的提交确认，把所有逻辑进程PEL置为空，转步骤S2。本发明具有能够提高系统并行度，高效发挥GPU性能优势等优点。

Description

基于GPU的乐观时间管理方法

技术领域

本发明主要涉及到建模与仿真技术领域，特指一种基于GPU的乐观时间管理方法。

背景技术

近年来，由于系统能耗、存储性能和指令集并行度等多方面限制，传统的通过提高主频以获取更高性能处理器的方法不再可行，众核技术成为处理器发展的新趋势。其中，基于GPU的高性能计算平台，由于具有强大计算能力、低功耗特性以及可持续增长的潜力，正成为高性能计算机发展的重要趋势，也为加速复杂系统仿真应用提供了新的机遇。由于GPU本质上是一个由众多处理单元构成的片上并行处理集群，因此必须通过支持并行仿真才能充分发挥其处理能力加速仿真应用。在并行仿真理论中，被模拟的目标系统可视为一组物理进程及其之间的交互。在仿真系统中，逻辑进程(Logical Process，LP)用来模拟物理进程，物理进程之间的交互则通过在对应逻辑进程之间传递带时戳(Timestamp)的仿真事件(或称消息)来模拟。通过时间管理，逻辑进程可利用不同的处理单元并行地按时戳顺序处理属于自己的事件且能保证仿真结果的正确性。可以说，时间管理算法既是维护仿真全局因果序逻辑的基础，也是提升仿真运行效能的关键所在。

为支持基于GPU的并行仿真，有学者针对时间管理算法进行了研究，获得一些有价值的成果。例如，Perumalla提出了一种事件驱动和时间步进混合的方法在GPU上实现了扩散系统仿真。算法首先从更新时间列表中选择最小时戳事件，然后以此为时间步长同时更新指定范围内的所有单元。Hyungwook Park和Paul Fishwick设计了一种基于GPU的离散事件仿真应用框架，该框架利用时间区间来聚集事件以提高并发度。上述工作本质上属于同步保守时间管理算法，这类算法可简单表述为如下循环过程：计算仿真时间窗口[T_floor，T_ceilling)，提取所有时戳在时间窗口内的事件，将其插入到对应逻辑进程的未来事件队列(Future Event List，FEL)中，之后由各个GPU线程并行处理FEL中的事件。为保证所有时戳在时间窗口内的事件可被安全执行，通常使用前瞻值lookahead来限定时间窗口的大小，即T_floor-T_{ceilling＝lookahead}。Lookahead表示逻辑进程之间互相影响的最小时延。换句话说，若逻辑进程A当前的局部虚拟时间(Local virtual time，lvt)为t，那么其向其他逻辑进程发送的消息时戳必须大于t+Lookahead。

然而，由于GPU通常拥有数百个可并行处理的运算单元，且需要通过大量线程切换来隐藏指令执行延迟，其性能高度依赖于并行度。但同步保守时间管理算法过于悲观，其窗口大小的限制使得算法仅能处理“肯定不会发生因果乱序”的事件，忽略了那些“理论上可能发生因果乱序但实际上并不会”的事件，极大地限制了可并行处理事件的数目，难以有效发掘GPU的计算潜能。

发明内容

本发明要解决的技术问题就在于：针对现有技术存在的技术问题，本发明提供一种能够提高了系统的并行度、更高效地发挥GPU性能优势的基于GPU的乐观时间管理方法。

为解决上述技术问题，本发明采用以下技术方案：

一种基于GPU的乐观时间管理方法，其步骤为：

S1：仿真初始化，生成若干的初始化仿真事件；

S2：判断仿真是否结束？如结果为“是”，则算法结束；如结果为“否”，则继续执行步骤S3；

S3：构建时间窗口[T_floor，T_ceilling)；所述时间窗口的时戳下界T_floor为全局虚拟时间GVT，时戳上界T_ceilling为GVT+2*lookahead；

S4：事件提取；GPU线程并行地检查所有仿真事件，若仿真事件的时戳位于时间窗口内部，则将该仿真事件加入到其目标逻辑进程FEL中，其中仿真事件在FEL中按时戳先后顺序排列；

S5：前向事件处理；GPU线程并行地处理各个逻辑进程FEL中的事件；

S6：逆向事件处理；如发生因果乱序的情况，表明某些事件已被错误的处理，就通过逆向事件处理来修复；

S7：事件提交；将所有已处理事件的提交确认并清除其所占用的存储资源，之后把所有逻辑进程PEL置为空，转步骤S2。

作为本发明的进一步改进：所述步骤S1的步骤为：

S101：在GPU端申请显存，用于存放逻辑进程、仿真事件、以及用于仿真管理的相关数据结构；

S102：初始化所有逻辑进程的状态，并生成若干的初始化仿真事件。

作为本发明的进一步改进：所述步骤S3中，全局虚拟时间GVT的取值为当前所有未处理事件的时戳最小值，由GPU线程通过全局规约计算得到。

作为本发明的进一步改进：所述步骤S4中，当多个线程同时向同一逻辑进程的FEL中插入仿真事件时，通过锁来实现线程间的协同。

作为本发明的进一步改进：所述步骤S5中，在事件处理前，把该逻辑进程的当前状态保存在该事件中以备恢复使用；事件处理将改变逻辑进程的状态，并产生新的消息发送给其他逻辑进程。

作为本发明的进一步改进：所述步骤S5中，记录了当前发送给每个逻辑进程的消息最小时戳，记为tmsg(lp)；若该时戳小于逻辑进程的lvt，则表明因果乱序已经发生，线程将暂停执行该逻辑进程FEL中的事件；事件处理完成后放入该逻辑层的已处理事件队列PEL的尾部。

作为本发明的进一步改进：所述步骤S6的具体流程为：

S6.1线程从PEL的尾部开始，逐步“取消”所有过度乐观执行的事件；所述“取消”事件意味着将逻辑进程的状态恢复到处理该事件之前，并将该事件重新插入到FEL中；逻辑进程的状态使用之前保存在仿真事件中的数据来恢复；

S6.2线程并行地扫描事件池，检查所有新产生的消息；若其“父亲”事件已被取销，表明该消息不应该存在，直接清除该消息。

与现有技术相比，本发明的优点在于：

1、本发明的基于GPU的乐观时间管理方法，突破了保守算法仅处理绝对安全事件的限制，通过扩大时间窗口来引入更多的事件以提高并行度。同时，为应对乐观处理事件可能产生的因果乱序，算法一方面通过实时监控因果乱序的发生来尽快中止无效工作，另一方面则通过状态保存/恢复和消息撤销将仿真恢复到正常状态。

2、本发明的基于GPU的乐观时间管理方法，相比于现有基于GPU的同步保守时间管理算法，通过扩展时间窗口范围，引入了更多事件进行乐观处理，提高了系统的并行度，能更加高效地发挥GPU的性能优势。同时，适度的时间窗口扩展和高效的错误修复方法，避免了过度乐观执行导致的修复开销对整体性能的影响。

附图说明

图1是本发明方法的流程示意图。

图2是本发明在具体应用实例中数据结构的示意图。

具体实施方式

以下将结合说明书附图和具体实施例对本发明做进一步详细说明。

如图1所示，为本发明在具体应用实例中所涉及的主要数据结构的示意图。其中，逻辑进程和仿真事件是时间管理算法操作的最基本要素。G_LP对应逻辑进程，每个逻辑进程拥有唯一的标识符lpid、局部虚拟时间lvt和前瞻值lookahead，appdata示逻辑进程的状态数据。G_SimEvent对应仿真事件，每个仿真事件包含事件执行时戳ts、目标逻辑进程的标识符lpid、事件状态state、用于逻辑进程状态存储/恢复的appdata和用于连接其他仿真事件的索引(before，next，parent)等等。为实现在GPU上高效运行，本发明的方法不对单个对象操作，而是对聚合对象进行并行操作。其中，逻辑进程集LPSet是由所有G_LP构成的集合，而仿真事件池EventPool则包含了所有仿真事件。在仿真运行过程中，逻辑进程基本保持不变，而仿真事件会不断地产生和消失。因此，本发明的方法需要从EventPool获取空闲空间来存储新的事件，并及时将使用完的事件空间释放回EventPool。LPSet和EventPool都是以SOA结构(struct of arrays)来实现，以支持GPU对齐访问的要求。

仿真事件包括以下几个状态：未提取unExtracted，待命Pending，已处理Processed和提交Committed。新的仿真事件可在初始化时或者在处理某个事件时产生。当新的仿真事件产生时，其state设定为unExtracted，同时将其parent索引设定定为当前正在处理的事件(初始化时则设为空)。在仿真执行过程中，算法会把“发送到同一逻辑进程的若干仿真事件”通过before和next按时戳顺序串联起来，构成逻辑上的未来事件队列FEL。进入FEL中的仿真事件状态变为Pending。由于乐观处理，事件处理完后不能立即提交，需要先放入PEL以供错误修复时使用。进入FEL中的仿真事件状态变为Processed。FELSet用于关联逻辑进程及其FEL，PELSet用于关联逻辑进程及其PEL。只有确保已处理事件不会引起因果乱序，才能将其提交。此时，事件状态改为Committed，表明该事件已被提交，其所占存储空间可被新产生的事件所使用。严格来说，状态为Committed时仿真事件不再有效。

如图1所示，本发明的基于GPU的乐观时间管理方法，步骤为：

S1：仿真初始化。

具体应用时，首先在GPU端为LPSet、EventPool、FELSet和PELSet等数据结构申请存储空间。然后初始化所有逻辑进程的状态，并生成若干的初始化仿真事件。此时，GVT设置为0；

S2：判断仿真是否结束？(全局虚拟时间GVT是否大于用户所要求的结束时间)如结果为“是”，则算法结束；如结果为“否”，则继续执行步骤S3；

S3：构建时间窗口[T_floor，T_ceilling)；

上述时间窗口的时戳下界T_floor为GVT，时戳上界T_ceilling为GVT+2*lookahead。其中，GVT表示全局虚拟时间，取值为当前所有未处理事件的时戳最小值，由GPU线程通过全局规约计算得到；由此可见看出，在本发明中，所设定的窗口大小为原来传统保守算法的2倍；

GVT由GPU线程并行扫描EventPool中所有仿真事件，通过全局规约求取时戳最小值计算得到。需要说明的是，由于所有Processed状态事件已被提交(参考步骤S7)，当前仿真事件只可能处于unExtracted和Pending两种状态；

S4：事件提取。

GPU线程并行地检查所有仿真事件，若仿真事件的时戳位于时间窗口内部，则将该仿真事件加入到其目标逻辑进程的FEL中，其中仿真事件在FEL中按时戳先后顺序排列。状态由unExtracted修改为Pending。

由于多个线程可能同时向同一逻辑进程的FEL中插入事件，这一过程需要通过锁来实现线程间的协同；

S5：前向事件处理。

GPU线程并行地处理各个逻辑进程FEL中的事件。

在事件处理前，需要把该逻辑进程的当前状态保存在该事件中以备恢复使用。事件处理将改变逻辑进程的状态，并产生新的消息发送给其他逻辑进程。即：该逻辑进程appdata域中的数据保存在该事件的appdata域中以备恢复使用。

本发明的方法记录了当前发送给每个逻辑进程的消息最小时戳，记为tmsg(lp)。若该时戳小于逻辑进程的lvt，则表明因果乱序已经发生，线程将暂停执行该逻辑进程FEL中的事件。事件处理完成后放入该逻辑层的已处理事件队列PEL(Processed Event List,PEL)的尾部，事件状态由Pending修改为Processed；

具体来说，在事件处理前，需要把本发明记录当前发送给每个逻辑进程的消息最小时戳，记为tmsg(lp)。若该时戳小于逻辑进程的lvt，则表明因果乱序已经发生，线程将暂停执行该逻辑进程FEL中的事件。事件处理完成后放入该逻辑层的已处理事件队列(Processed Event List,PEL)的尾部；

S6：逆向事件处理。

因果乱序的发生，表明某些事件已被错误的处理，需要通过逆向事件处理来修复。错误处理的负面影响主要有两个方面，一是错误地改变了逻辑进程的状态，二是错误处理事件所产生的消息也不应该存在。因此，该步骤包含状态恢复和消息撤销两个方面。具体步骤如下：

S6.1线程从PEL的尾部开始，逐步“取消”所有过度乐观执行的事件(若事件时戳大于等于tmsg(lp)，则该事件需要被取消)。“取消”事件意味着将逻辑进程的状态恢复到处理该事件之前，并将该事件重新插入到FEL中。逻辑进程的状态可以使用之前保存在仿真事件中的数据来恢复。即：事件状态由Processed修改为Pending，状态恢复使用之前保存在仿真事件appdata域中的数据来恢复。

S6.2线程并行地扫描事件池，检查所有新产生的消息。若其“父亲”事件已被取销，表明该消息不应该存在，直接清除该消息。即：若其parent索引指向的仿真事件状态为Pending，表明其父事件已被撤销，该消息不应该存在，需直接清除该消息，即把该消息状态置为Committed。

S7：事件提交。

该步骤将所有已处理事件的提交确认并清除其所占用的存储资源，即将所有Processed状态事件的状态变为Committed，之后把所有逻辑进程的PEL置为空，转步骤S2。

以上仅是本发明的优选实施方式，本发明的保护范围并不仅局限于上述实施例，凡属于本发明思路下的技术方案均属于本发明的保护范围。应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理前提下的若干改进和润饰，应视为本发明的保护范围。

Claims

1.一种基于GPU的乐观时间管理方法，其特征在于，步骤为：

S1：仿真初始化，生成若干的初始化仿真事件；

S2：判断仿真是否结束？即，全局虚拟时间GVT是否大于用户所要求的结束时间；如结果为“是”，则算法结束；如结果为“否”，则继续执行步骤S3；

S3：构建时间窗口[T_floor，T_ceilling)；所述时间窗口的时戳下界T_floor为全局虚拟时间GVT，时戳上界T_ceilling为GVT+2*lookahead；其中，lookahead为前瞻值；

S4：事件提取；GPU线程并行地检查所有仿真事件，若仿真事件的时戳位于时间窗口内部，则将该仿真事件加入到其目标逻辑进程FEL中，其中仿真事件在FEL中按时戳先后顺序排列；其中FEL为逻辑上的未来事件队列；

S7：事件提交；将所有已处理事件的提交，确认并清除其所占用的存储资源，之后把所有逻辑进程PEL置为空，转步骤S2；其中PEL为逻辑进程的已处理事件队列。

2.根据权利要求1所述的基于GPU的乐观时间管理方法，其特征在于，所述步骤S1的步骤为：

3.根据权利要求1所述的基于GPU的乐观时间管理方法，其特征在于，所述步骤S3中，全局虚拟时间GVT的取值为当前所有未处理事件的时戳最小值，由GPU线程通过全局规约计算得到。

4.根据权利要求1所述的基于GPU的乐观时间管理方法，其特征在于，所述步骤S4中，当多个线程同时向同一逻辑进程的FEL中插入仿真事件时，通过锁来实现线程间的协同。

5.根据权利要求1或2或3或4所述的基于GPU的乐观时间管理方法，其特征在于，所述步骤S5中，在事件处理前，把该逻辑进程的当前状态保存在该事件中以备恢复使用；事件处理将改变逻辑进程的状态，并产生新的消息发送给其他逻辑进程。

6.根据权利要求5所述的基于GPU的乐观时间管理方法，其特征在于，所述步骤S5中，记录了当前发送给每个逻辑进程的消息最小时戳，记为tmsg(lp)；若该时戳小于逻辑进程的lvt，lvt为局部虚拟时间，则表明因果乱序已经发生，线程将暂停执行该逻辑进程FEL中的事件；事件处理完成后放入该逻辑进程的已处理事件队列PEL的尾部。

7.根据权利要求6所述的基于GPU的乐观时间管理方法，其特征在于，所述步骤S6的具体流程为：

S6.1线程从PEL的尾部开始，逐步“取消”所有过度乐观执行的事件；即，若事件时戳大于等于tmsg(lp)，则该事件需要被取消；所述“取消”事件意味着将逻辑进程的状态恢复到处理该事件之前，并将该事件重新插入到FEL中；逻辑进程的状态使用之前保存在仿真事件中的数据来恢复；

S6.2线程并行地扫描事件池，检查所有新产生的消息；若其“父亲”事件已被取消，表明该消息不应该存在，直接清除该消息。