CN108196963B - 基于自适应释放的确定性重放方法 - Google Patents

Abstract

本发明公开了一种基于自适应释放的确定性重放方法，基于库函数重载确定线程执行同步操作的顺序，并在线程请求获得共享页面的访问权限失败时调用自适应释放模块，自适应释放模块将引起各线程阻塞的所有共享页面暂存于候选集合，并从候选集合中选出合适的释放线程和被释放共享页面移入待释放集合；所有线程遍历待释放集合判断自身是否为释放线程，若判断结果为是，则当前线程释放相应的共享页面，若判断结果为否，则当前线程替释放线程释放相应的共享页面，释放线程在后续执行过程中取消被释放共享页面的访问权限。本发明能够让最合适的线程在合适的时机释放最合适的共享页面，降低并行程序在记录阶段处理页保护异常的开销，提高记录性能。

Description

基于自适应释放的确定性重放方法

技术领域

本发明涉及并行程序调试技术领域，具体涉及基于自适应释放的确定性重放方法。

背景技术

与传统的串行程序不同，并行程序的执行具有不确定性，即在输入相同的情况下，同一个并行程序执行多次的结果并不相同。造成并行程序不确定性的主要因素是各线程访问共享内存的顺序不确定。并行程序的不确定性会给调试带来困难，为了解决这一问题，目前通常采用确定性重放技术，确定性重放技术包括两步：记录和重放，在记录阶段，将各线程间的访存依赖关系记录在日志文件中；在重放阶段，强制各线程按照所记录的日志执行访存操作。

传统的实现确定性重放的方法主要通过记录所有线程的访存指令顺序来确定并行程序的访存依赖关系，但是其记录开销非常大。为了降低时间开销，现有技术中提出基于页保护机制的确定性重放方法，这种方法利用页保护机制能够为运行的进程提供对虚拟页面的访问控制，通过限定每个线程对共享页面的访问权限，以此来推断各线程访问共享内存的顺序。在记录阶段，记录每个共享页面的访问权限在各线程间的转移顺序；在重放阶段，强制各线程根据日志内容来获得共享页面的访问权限。然而，对于这种确定性重放方法来说，页保护异常是其主要的性能开销来源。并行程序执行过程中触发页保护异常存在两种情况：第一次访问某个共享页面；释放后再次访问同一个共享页面。我们无法避免第一种情况下引入的页保护异常(每个新创建的线程执行前，所有共享页面都被添加页保护，否则将会遗漏某些访存操作)。与前者不同，通过优化释放策略，可以降低第二种情况下引入的页保护异常。为了让各线程公平竞争共享页面的访问权限，基于页保护机制的确定性重放方法一般提供多个释放同步点，例如libc类库函数、同步操作类库函数等。然而，释放同步点的数量越多，页保护异常的次数越少，程序并行度偏低，但并行程序处理页保护异常的开销较小；相反，释放同步点的数量越少，页保护异常的次数越多，程序并行度偏高，但并行程序处理页保护异常的开销较大。目前，对于不同的并行程序来说，无法通过单一的增加或减少释放同步点的数量来提高并行程序的记录性能，现有的基于页保护机制的确定性重放方法的记录性能较差，无法满足设计要求。

发明内容

本发明要解决的技术问题是面向基于页保护机制的确定性重放方法，提供一种基于自适应释放的确定性重放方法，能够以最合适的线程在合适的时机释放最合适的共享页面，改善并行程序当前的并行度，使每一次共享页面的释放获得的收益最优，最大化的降低并行程序在记录阶段处理页保护异常的开销，从而大大提高其记录性能。

为了解决上述技术问题，本发明提供的技术方案如下：

一种基于自适应释放的确定性重放方法，包括以下步骤：

1)并行程序中的每个线程在执行前，将所有的共享页面都设置为不可访问状态；并行程序的线程在缺少共享页面的访问权限而触发页保护异常时会进入共享页面访问权限请求处理模块；

2)线程在共享页面访问权限请求模块中请求获得共享页面的访问权限，若请求成功，则该线程设置该共享页面相应的访问权限，并调用记录重放模块记录本事件，若请求失败，则进入步骤3)；

3)判断当前并行程序的所有线程是否都处于阻塞状态，如果判断结果为是，则调用自适应释放模块并进入步骤4)；若判断结果为否，则再次执行步骤3)；

所述阻塞状态为线程由于缺少共享页面的访问权限或由于执行同步操作而无法继续正常执行的状态；

4)自适应释放模块将引起各线程阻塞的所有共享页面暂存于候选集合，并从候选集合中选出合适的释放线程和被释放共享页面移入待释放集合；

5)并行程序的所有线程遍历待释放集合来判断自身是否为释放线程，如果判断结果为是，则当前线程主动释放相应的共享页面，并调用记录重放模块记录访问权限的转移情况，如果判断结果为否，则进入步骤6)；

6)当前线程替释放线程释放相应的共享页面，并调用记录重放模块记录释放信息，释放线程在后续执行时取消被释放共享页面的访问权限；

7)通过库函数重载模块确定并行程序中的各线程执行同步操作的顺序，并调用记录重放模块记录该顺序。

所述步骤4)中从候选集合中选出合适的释放线程和被释放共享页面移入待释放集合具体包括以下步骤：

S1)第一个进入阻塞状态的线程为候选集合中每个共享页面计算释放代价；

S2)比较每个共享页面释放代价的值，将释放代价值最小的共享页面以及该共享页面的持有线程分别作为合适的被释放共享页面和释放线程移入待释放集合。

所述步骤S1)中第一个进入阻塞状态的线程根据以下公式为候选集合中每个共享页面计算释放代价：

其中，P(A)表示共享页面A的释放代价，P_owned表示线程持有共享页面A的时间，P_{wait_header}表示共享页面A的等待队列中队首线程的等待时间，P_history表示持有线程在历史执行过程中请求获得共享页面A的访问权限的时间之和，P_parallel表示并行度，并行度为当前并行程序的所有线程执行时间总和占所有线程执行时间与等待时间总和的比例，所述线程等待时间是指当次页保护异常触发的开始时刻到当前计算时刻之间的时间段，线程执行时间是指线程从最近一次页保护异常处理完毕到当次页保护异常的触发所经历的时间段。

所述步骤2)中共享页面访问权限请求模块通过查询CREW协议判断线程是否能够获得共享页面的访问权限。

所述记录重放模块包括记录模块和重放模块，所述记录模块用于并行程序的记录阶段，记录获得共享页面访问权限的顺序、释放共享页面访问权限的顺序和同步操作的执行顺序并生成日志文件；所述重放模块用于使得线程按序单条读取并按序执行日志文件的日志项。

线程按序单条读取日志文件的日志项时，对于每一条日志项，每个线程在各重放执行点将该线程与将要执行的操作逐一匹配，如果匹配失败，则阻塞等待直到读取到正确的日志项。

本发明具有以下有益效果：本发明的基于自适应释放的确定性重放方法，能够使得并行程序在记录阶段，以最合适的线程在合适的时机释放最合适的共享页面，能够最大化的降低并行程序在记录阶段处理页保护异常的开销，使得在记录阶段可以低开销地记录并行程序访问共享内存的顺序，从而大大提高其记录性能。

附图说明

图1是本发明的结构框图；

图2是并行度的计算原理示意图；

具体实施方式

下面结合附图和具体实施例对本发明作进一步说明，以使本领域的技术人员可以更好地理解本发明并能予以实施，但所举实施例不作为对本发明的限定。

如图1所示，一种基于自适应释放的确定性重放方法，具体包括以下步骤：

1)并行程序中的每个线程在执行前，将所有的共享页面都设置为不可访问状态，并行程序的线程在缺少共享页面的访问权限而触发页保护异常时会进入共享页面访问权限请求处理模块；

2)线程在共享页面访问权限请求模块中请求获得共享页面的访问权限，若请求成功，则该线程设置该共享页面相应的访问权限，并调用记录重放模块记录本事件，若请求失败，则进入步骤3)；

其中，共享页面访问权限请求模块通过查询CREW(Concurrent read exclusivewrite并发读-独占写)协议判断线程是否能够获得共享页面的访问权限。其中，共享页面的状态分为共享读、独占写和公共状态这三种状态。

3)判断当前并行程序的所有线程是否都处于阻塞状态，如果判断结果为是，则调用自适应释放模块并进入步骤4)；若判断结果为否，则再次执行步骤3)，

所述阻塞状态为线程由于缺少共享页面的访问权限或由于执行同步操作而无法继续正常执行的状态。

其中，由于线程是否处于阻塞状态是会随着时间的推移而发生变化的，因此设置“若判断结果为否，则再次执行步骤3”的步骤，以在判断结果为否的情况下，再次执行步骤3)的操作，从而形成循环实时监测线程状态，直至满足能够进入步骤4)的条件为止。

4)自适应释放模块将引起各线程阻塞的所有共享页面暂存于候选集合，并从候选集合中选出合适的释放线程和被释放共享页面移入待释放集合；

从候选集合中选出合适的释放线程和被释放共享页面移入待释放集合具体包括以下步骤：

S1)由第一个进入阻塞状态的线程为候选集合中每个共享页面计算释放代价；

第一个进入阻塞状态的线程根据以下公式(1)为候选集合中每个共享页面计算释放代价：

其中，P(A)表示共享页面A的释放代价，P_owned表示线程持有共享页面A的时间，P_{wait_header}表示共享页面A的等待队列中队首线程的等待时间，P_history表示持有线程在历史执行过程中请求获得共享页面A的访问权限的时间之和，P_parallel表示并行度，并行度为当前并行程序的所有线程执行时间总和占所有线程执行时间与等待时间总和的比例，所述线程等待时间是指当次页保护异常触发的开始时刻到当前计算时刻之间的时间段，线程执行时间是指线程从最近一次页保护异常处理完毕到当次页保护异常的触发所经历的时间段。

其中，利用第一个进入阻塞状态的线程计算释放代价，有利于降低释放代价的计算开销，此处第一个进入阻塞状态的线程对待释放集合起到决策作用。

关于并行度的计算如图2所示，图中T_x、T_y、T_z、T_m分别表示四个线程，t_{wait_x}和t_{work_x}分别代表线程T_x的等待时间和执行时间，t_{wait_y}和t_{work_y}分别代表线程T_y的等待时间和执行时间，t_{wait_z}和t_{work_z}分别代表线程T_z的等待时间和执行时间，t_{wait_m}和t_{work_m}分别代表线程T_m的等待时间和执行时间，

则并行度P_parallel按照以下公式(2)计算：

S2)比较每个共享页面释放代价P(A)的值，将释放代价P(A)值最小的共享页面以及该共享页面的持有线程分别定义为合适的被释放共享页面和释放线程，然后将合适的被释放共享页面和释放线程移入待释放集合。

5)并行程序的所有线程遍历待释放集合来判断自身是否为释放线程，如果判断结果为是，则当前线程主动释放相应的共享页面，并调用记录重放模块记录访问权限的转移情况，如果判断结果为否，则进入步骤6)；

6)当前线程替释放线程释放相应的共享页面，并调用记录重放模块记录释放信息，之后释放线程在后续执行时会取消被释放共享页面的访问权限；

7)通过库函数重载模块确定并行程序中的各线程执行同步操作的顺序，并调用记录重放模块记录该顺序，以便于精准重放并行程序访问共享内存的顺序。

其中，记录重放模块提供相应的接口供库函数重载模块、共享页面访问权限请求模块、自适应释放模块调用；记录重放模块包括记录模块和重放模块，记录模块用于记录获得共享页面访问权限的顺序、释放共享页面访问权限的顺序和同步操作类函数的执行顺序并生成日志文件；重放模块用于使得线程按序单条读取并按序执行日志文件的日志项，即，使得线程按照日志文件记录的相关顺序执行操作,以实现并行程序的重放。并且线程按序单条读取日志文件的日志项时，对于每一条日志项，每个线程在各重放执行点将该线程与将要执行的操作逐一匹配，如果匹配失败，则阻塞等待直到读取到正确的日志项。

从上述公式(1)中可以看出，本实施例通过计算每个共享页面的释放代价，从而量化每次释放共享页面时当前并行程序的性能收益，释放代价计算主要综合考虑了以下因素：

(1)线程获取共享页面A的历史，即P_history：以线程T_x为例，线程T_x目前持有的共享页面A，线程T_x曾经一定访问过共享页面A。根据程序执行具有局部性，如果线程T_x曾多次获取共享页面A，那么后期执行很大可能会再次访问共享页面A。如果T_x获取A的历史次数较多，且每次获取A的时间代价较高，则线程T_x与共享页面A并不是最优备选；也即是若P_history较大，则P(A)值相对较大，此时释放线程T_x与被释放共享页面A并不是最合适的选择。

(2)当前并行度，即P_parallel：根据当前各线程的有效执行时间与等待时间，确定程序当前的并行度。

(3)线程持有共享页面A的时长，即P_owned：基于公平性原则，持有时间越长的线程应该及时释放该页面的访问权限，体现在公式(1)中，即若P_owned较大，则P(A)值相对较小，此时的释放线程x与被释放共享页面A可列入优先释放考虑。

(4)释放A后的收益，即P_{wait_header}：基于对众多等待线程公平性考虑，某个共享页面的访问权限被释放时，只有等待队列的队首等待者被唤醒，可能是一个写等待者，也可能是多个读等待者。队首等待者的等待时间，视为共享页面A被释放后的收益。

本实施例的基于自适应释放的确定性重放方法，通过建立释放代价模型，得出最合适的释放线程和被释放共享页面并将其移入待释放集合，从而实现以最合适的线程在合适的时机释放最合适的共享页面，改善并行程序当前的并行度，同时还可有效减少自己由于该次释放行为导致后期执行引入的页保护异常，使每一次共享页面的释放获得的收益最优，能够最大化的降低并行程序在记录阶段处理页保护异常的开销，使得在记录阶段可以低开销地记录并行程序访问共享内存的顺序，从而大大提高其记录性能。

以上所述实施例仅是为充分说明本发明而所举的较佳的实施例，本发明的保护范围不限于此。本技术领域的技术人员在本发明基础上所作的等同替代或变换，均在本发明的保护范围之内。本发明的保护范围以权利要求书为准。

Claims (5)

1.一种基于自适应释放的确定性重放方法，其特征是，包括以下步骤：

1)并行程序中的每个线程在执行前，将所有的共享页面都设置为不可访问状态；并行程序的线程在缺少共享页面的访问权限而触发页保护异常时会进入共享页面访问权限请求处理模块；

2)线程在共享页面访问权限请求模块中请求获得共享页面的访问权限，若请求成功，则该线程设置该共享页面相应的访问权限，并调用记录重放模块记录本事件，若请求失败，则进入步骤3)；

3)判断当前并行程序的所有线程是否都处于阻塞状态，如果判断结果为是，则调用自适应释放模块并进入步骤4)；若判断结果为否，则再次执行步骤3)；

所述阻塞状态为线程由于缺少共享页面的访问权限或由于执行同步操作而无法继续正常执行的状态；

4)自适应释放模块将引起各线程阻塞的所有共享页面暂存于候选集合，并从候选集合中选出合适的释放线程和被释放共享页面移入待释放集合；

其中，从候选集合中选出合适的释放线程和被释放共享页面移入待释放集合具体包括以下步骤：

S1)由第一个进入阻塞状态的线程为候选集合中每个共享页面计算释放代价；

S2)比较每个共享页面释放代价P(A)的值，将释放代价P(A)值最小的共享页面以及该共享页面的持有线程分别定义为合适的被释放共享页面和释放线程，然后将合适的被释放共享页面和释放线程移入待释放集合；

5)并行程序的所有线程遍历待释放集合来判断自身是否为释放线程，如果判断结果为是，则当前线程主动释放相应的共享页面，并调用记录重放模块记录访问权限的转移情况，如果判断结果为否，则进入步骤6)；

6)当前线程替释放线程释放相应的共享页面，并调用记录重放模块记录释放信息，释放线程在后续执行时取消被释放共享页面的访问权限；

7)通过库函数重载模块确定并行程序中的各线程执行同步操作的顺序，并调用记录重放模块记录该顺序。

2.如权利要求1所述的基于自适应释放的确定性重放方法，其特征是，所述步骤S1)中第一个进入阻塞状态的线程根据以下公式为候选集合中每个共享页面计算释放代价：

其中，P(A)表示共享页面A的释放代价，P_owned表示线程持有共享页面A的时间，P_{wait_header}表示共享页面A的等待队列中队首线程的等待时间，P_history表示持有线程在历史执行过程中请求获得共享页面A的访问权限的时间之和，P_parallel表示并行度，并行度为当前并行程序的所有线程执行时间总和占所有线程执行时间与等待时间总和的比例，所述线程等待时间是指当次页保护异常触发的开始时刻到当前计算时刻之间的时间段，线程执行时间是指线程从最近一次页保护异常处理完毕到当次页保护异常的触发所经历的时间段。

3.如权利要求1所述的基于自适应释放的确定性重放方法，其特征是，所述步骤2)中共享页面访问权限请求模块通过查询CREW协议判断线程是否能够获得共享页面的访问权限。

4.如权利要求1所述的基于自适应释放的确定性重放方法，其特征是，所述记录重放模块包括记录模块和重放模块，所述记录模块用于记录获得共享页面访问权限的顺序、释放共享页面访问权限的顺序和同步操作的执行顺序并生成日志文件；所述重放模块用于使得线程按序单条读取并按序执行日志文件的日志项。

5.如权利要求4所述的基于自适应释放的确定性重放方法，其特征是，线程按序单条读取日志文件的日志项时，对于每一条日志项，每个线程在各重放执行点将该线程与将要执行的操作逐一匹配，如果匹配失败，则阻塞等待直到读取到正确的日志项。

Images