CN104424009B - OpenCL程序编译方法和编译器 - Google Patents

Abstract

本申请实施例提供了一种开放运算语言OpenCL程序编译方法和编译器，所述方法包括：获取OpenCL程序的源程序文件，并确定所述源程序文件中定义的操作数据的第一数据传输模式；计算所述操作数据分别在所述第一数据传输模式和第二数据传输模式下的执行消耗时间，所述第二数据传输模式与所述第一数据传输模式不同，所述执行消耗时间包括所述操作数据的数据传输时间和设备程序执行时间；选择所述执行消耗时间较小的数据传输模式作为所述源程序文件编译时所述操作数据的编译数据传输模式；按照所述编译数据传输模式生成编译执行代码文件。本申请实施例有效保证了程序执行效率。

Description

OpenCL程序编译方法和编译器

技术领域

本申请涉及计算机处理技术领域，更具体的说是涉及一种OpenCL程序编译方法和编译器。

背景技术

OpenCL(Open Computing Language，开放运算语言)是面向异构系统首个通用目的的并行编程开放式、免费标准语言，其为软件开发人员提供了统一的编程环境，以便于为高性能计算服务器、桌面计算系统、手持设备等编写高效轻便的代码。

OpenCL程序主要分成两部分：设备程序和主机程序。例如一个异构系统由CPU和GPU组成时，在CPU上运行的程序为主机程序时，在GPU上运行的程序即为设备程序。OpenCL程序的执行过程主要包括：主机程序控制数据从主机端传输到设备端，设备端执行设备程序对数据进行处理，主机程序控制将处理结果数据从设备端传输到主机端。

由上述OpenCL程序的执行过程可知，影响OpenCL程序执行效率的主要是数据传输阶段以及设备程序执行阶段，因此OpenCL程序提供了两种数据传输模式，即复制模式和映射模式。复制模式是指将数据从主机内存复制到设备内存，或者从设备内存复制到主机内存，由于数据需要在系统真正复制传输，因此在复制模式下，OpenCL程序在数据传输阶段耗时较长，但是在设备程序执行时，由于数据已经位于设备内存中，因此设备程序执行阶段耗时较短；映射模式是指在数据传输阶段，仅是建立设备内存到主机内存的映射关系，数据仍是位于主机内存中，因此数据传输阶段的耗时较短，但是设备程序执行时，需要访问主机内存中的数据，导致设备执行阶段耗时较长。

发明人在实现本发明的过程中发现，现有技术中，为了保证OpenCL程序的执行效率，通常是由技术人员预先根据系统的不同应用场景，以及硬件平台等特征，选用合适的数据传输模式编写OpenCL程序，但是现有的这种方式，用户主观性较大，并不能有效保证OpenCL程序的执行效率。

发明内容

本申请提供了一种OpenCL程序编译方法和编译器，用以解决现有技术中不能有效保证OpenCL程序执行效率的技术问题。

为实现上述目的，本申请提供如下技术方案：

第一方面，提供了一种开放运算语言OpenCL程序编译方法，包括：

获取OpenCL程序的源程序文件，并确定所述源程序文件中定义的操作数据的第一数据传输模式；

计算所述操作数据分别在所述第一数据传输模式和第二数据传输模式下的执行消耗时间，所述第二数据传输模式与所述第一数据传输模式不同，所述执行消耗时间包括所述操作数据的数据传输时间和设备程序执行时间；

选择所述执行消耗时间较小的数据传输模式作为所述源程序文件编译时所述操作数据的编译数据传输模式；

按照所述编译数据传输模式生成编译执行代码文件。

在所述第一方面的第一种可能实现方式中，所述计算所述操作数据分别在第一数据传输模式和第二数据传输模式下的程序执行消耗时间包括：

验证所述操作数据按照所述第二数据传输模式处理时，所述操作数据是否安全；

当所述操作数据安全时，计算所述操作数据分别在所述第一数据传输模式和所述第二数据传输模式下时的程序执行消耗时间。

结合所述第一方面的第一种可能实现方式，还提供了所述第一方面的第二种可能实现方式，当所述第一数据传输模式为复制模式，所述第二数据传输模式为映射模式，所述验证所述操作数据按照所述第二数据传输模式处理，所述操作数据是否安全包括：

分析在程序执行过程中，是否存在主机端对所述操作数据的写操作，若否，确定所述操作数据按照所述第二数据传输模式处理时安全；

当所述第一数据模式为映射模式，所述第二数据传输模式为复制模式时，所述验证所述操作数据按照所述第二数据传输模式处理，所述操作数据是否安全包括：

分析在程序执行过程中，是否存在设备端对所述操作数据的写操作，若否，确定所述操作数据按照所述第二数据传输模式处理时安全。

结合所述第一方面或所述第一方面的上述任一种可能实现方式，还提供了所述第一方面的第三种可能实现方式，所述第一数据传输模式为复制模式，所述第二数据传输模式为映射模式时；或，所述第一数据传输模式为映射模式，所述第二数据传输模式为复制模式；

所述计算所述操作数据分别在第一数据传输模式和第二数据传输模式下的执行消耗时间包括：

根据所述操作数据的总数据量以及数据传输速率，计算复制模式下所述操作数据的数据传输时间；

根据设备程序执行过程中，对所述操作数据的内存访问总数据量以及访问设备端的内存访问速率，计算复制模式下所述操作数据的设备程序执行时间；

将所述复制模式下计算的数据传输时间以及设备程序执行时间之和，作为所述操作数据在复制模式下的执行消耗时间；

根据主机端与设备端的映射关系建立以及消除时间，计算映射模式下所述操作数据的数据传输时间；

根据设备程序执行过程中，对所述操作数据的内存访问总数据量以及访问主机端的内存访问速率，计算映射模式下所述操作数据的设备程序执行时间；

将所述映射模式下计算的数据传输时间以及设备程序执行之和，作为所述操作数据在映射模式下的执行消耗时间。

结合所述第一方面的第三种可能实现方式，还提供了所述第一方面的第四种可能实现方式，所述对所述操作数据的内存访问总数据量为根据源程序文件中定义的设备程序的工作项数量以及单位工作项的内存访问数据量计算得到。

结合所述第一方面的第三种可能实现方式，还提供了所述第一方面的第五种可能实现方式，所述数据传输速率、所述访问设备端的内存访问速率或者所述访问主机端的内存访问速率均是根据当前异构系统执行硬件平台的硬件特征预先确定的。

第二方面，提供了一种编译器，包括：

模式确定模块，用于获取OpenCL程序的源程序文件，并确定所述源程序文件中定义的操作数据的第一数据传输模式；

计算模块，用于计算所述操作数据分别在所述第一数据传输模式和第二数据传输模式下的执行消耗时间，所述第二数据传输模式与所述第一数据传输模式不同，所述执行消耗时间包括所述操作数据的数据传输时间和设备程序执行时间；

模式选择模块，用于选择消耗时间较小的数据传输模式作为所述源程序文件编译时所述操作数据的编译数据传输模式；

编译模块，用于按照所述编译数据传输模式生成编译执行代码文件。

在所述第二方面的第一种可能实现方式中，还包括：

验证模块，用于验证所述操作数据按照第二数据传输模式处理时，所述操作数据是否安全，若是，再触发所述计算模块。

结合所述第二方面的第一种可能实现方式，还提供了所述第二方面的第二种可能实现方式，所述验证模块具体用于当所述第一数据传输模式为复制模式，所述第二数据传输模式为映射模式，分析在程序执行过程中，是否存在主机端对所述操作数据的写操作，若否，确定所述操作数据安全；或者，当所述第一数据模式为映射模式，所述第二数据传输模式为复制模式时，分析在程序执行过程中，是否存在设备端对所述操作数据的写操作，若否，确定所述数据安全。

结合所述第二方面或所述第二方面的上述任一种可能实现方式，所述第一数据传输模式为复制模式，所述第二数据传输模式为映射模式时；或，所述第一数据传输模式为映射模式，所述第二数据传输模式为复制模式；

所述计算模块包括：

第一传输时间计算模块，用于根据所述操作数据的总数据量以及数据传输速率，计算复制模式下所述操作数据的数据传输时间；

第一执行时间计算模块，用于根据设备程序执行过程中，对所述操作数据的内存访问总数据量以及访问设备端的内存访问速率，计算复制模式下所述操作数据的设备程序执行时间；

第一消耗时间计算模块，用于将将所述复制模式下计算的数据传输时间以及设备程序执行时间之和，作为所述操作数据在复制模式下的执行消耗时间；

第二传输时间计算模块，用于根据主机端与设备端的映射关系建立以及消除时间，计算映射模式下所述操作数据的数据传输时间；

第二执行时间计算模块，用于根据设备程序执行过程中，对所述操作数据的内存访问总数据量以及访问主机端的内存访问速率，计算映射模式下所述操作数据的设备程序执行时间；

第二消耗时间计算模块，用于将所述映射模式下计算的数据传输时间以及设备程序执行之和，作为所述操作数据在映射模式下的执行消耗时间

经由上述的技术方案可知，与现有技术相比，本申请实施例提供了一种OpenCL程序编译方法和编译器，编译器获取OpenCL程序的源程序文件，并确定所述源程序文件中定义的操作数据的第一数据传输模式；计算所述操作数据分别在所述第一数据传输模式和第二数据传输模式下的执行消耗时间，选择所述执行消耗时间较小的数据传输模式作为所述源程序文件编译时所述操作数据的编译数据传输模式，并按照所述编译数据传输模式生成编译执行代码文件。按照本申请实施例编译后的OpenCL程序可以减小程序执行消耗时间，提高了程序执行效率，可以有效保证在不同异构系统中的执行效率。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1为本申请实施例提供的一种OpenCL程序编译方法一个实施例的流程图；

图2为本申请实施例提供的一种OpenCL程序编译方法另一个实施例的流程图；

图3为本申请实施例提供的一种OpenCL程序编译方法又一个实施例的流程图；

图4为本申请实施例提供的一种编译器一个实施例的结构示意图；

图5为本申请实施例提供的一种编译器另一个实施例的结构示意图；

图6为本申请实施例提供的编译器中计算模块的一种结构示意图；

图7为本申请实施例提供的一种计算设备一个实施例的结构示意图。

具体实施方式

下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

本申请实施例的主要思想之一包括：

编译器获取OpenCL程序的源程序文件，并确定所述源程序文件中定义的操作数据的第一数据传输模式；计算所述操作数据分别在所述第一数据传输模式和第二数据传输模式下的执行消耗时间，选择所述执行消耗时间较小的数据传输模式作为所述源程序文件编译时所述操作数据的编译数据传输模式，并按照所述编译数据传输模式生成编译执行代码文件。按照本申请实施例编译后的OpenCL程序可以减小程序执行消耗时间，提高了程序执行效率，还可以有效保证在不同异构系统中的执行效率。

图1为本申请实施例一种开放运算语言OpenCL程序编译方法一个实施例的流程图，可以包括以下几个步骤：

101：获取OpenCL(Open Computing Language，开放运算语言)程序的源程序文件，并确定所述源程序文件中定义的操作数据的第一数据传输模式。

OpenCL程序主要分成两部分：主机程序和设备程序(即Kernel程序)。主机程序运行在主机端，设备程序运行在设备端。主机程序控制将操作数据从主机端传输至设备端，以及操作数据处理后从设备端传输至主机端。设备程序由设备端执行，完成对操作数据的处理。

影响OpenCL程序执行效率的主要是数据传输阶段以及设备程序执行阶段。OpenCL程序提供了两种数据传输模式，即复制模式和映射模式。

复制模式是指将操作数据从主机端内存复制到设备端内存，或者从设备端内存复制到主机端内存。

映射模式是指在数据传输阶段，仅建立设备内存到主机内存的映射关系，操作数据仍存在于主机端内存。

若操作数据的数据传输模式为复制模式，数据传输阶段可能耗时较长，设备程序执行阶段耗时较短；若操作数据的数据传输模式为映射模式，数据传输阶段可能耗时较短，设备程序执行阶段耗时较长。

因此复制模式主要适用于数据一次传输、多次使用的应用场景；映射模式主要适用于数据传输量较大、访问量较小的应用场景，

源程序文件是由用户编写，但是由于用户的主观性较大，且对用户经验要求较高，因此按照源程序文件中定义的操作数据的数据传输模式执行，将无法有效保证程序执行时的执行效率。

且发明人在研究中还进一步发现，由于OpenCL程序移植性较好，可以在不同异构系统执行，但是OpenCL程序在一个异构系统中执行效率较高，但在另一个异构系统中执行效率不一定高。

因此，发明人在实现本发明的过程中，转变了思维模式，由于OpenCL程序在执行过程中，需要进行编译，将源程序文件变成计算机可以识别的二进制语言，因此本申请实施例，即利用编译器对源程序文件进行编译时，对编译过程进行了改进。

当编译器获取到源程序文件后，通过对源程序文件的分析，确定出该源程序文件中定义的操作数据，以及该操作数据的第一数据传输模式。

该第一数据传输模式可以是复制模式或者映射模式，由源程序文件中定义的函数可知，例如，当操作数据对应的操作函数为clWriteBuffer，则表明操作数据的数据传输模式为复制模式，当对应的操作函数为clEnqueueMapBuffer，则表明操作数据的数据传输模式为映射模式。

例如一段OpenCL程序的源程序文件中包括：

Double h_A[65536]＝……；

clWriteBuffer(d_A,65536*8,h_A[0]，……)；

可知，定义的操作数据为A，数据类型为Double(双精度浮点型)，其数据传输模式根据函数clWriteBuffer可知为复制模式。

源程序文件中定义的操作数据可能包括多个，对于每一操作数据均执行本申请实施例所述的处理操作。

102：计算所述操作数据分别在所述第一数据传输模式和第二数据传输模式下的执行消耗时间。

第二数据传输模式为与该第一数据传输模式不同的数据传输模式，本申请实施例中，第一数据传输模式为复制模式时，该第二数据传输模式即为映射模式；第一数据传输模式为映射模式时，该第二数据传输模式即为复制模式。

本实施例中计算操作数据分别在第一数据传输模式和第二数据传输模式下的执行消耗时间，也即分别在复制模式以及映射模式下的执行消耗时间。

该执行消耗时间包括该操作数据的数据传输时间以及设备程序执行时间。

在复制模式下，由于数据需要在主机端内存以及设备端内存中实际传输，因此数据传输时间与该操作数据的总数据量以及数据传输速率有关。

该操作数据的总数据量可以从OpenCL源程序中对操作数据的定义可知。该数据传输速率可以结合当前异构系统的执行平台的硬件特征预先确定。

由于在复制模式下，数据需要在主机端和设备端复制传输，因此数据传输时间包括操作数据从主机端内存传输至设备端内存的时间，以及从设备端内存传输至主机端内存的时间，两次传输时间大致相同。因此数据传输时间可以等于操作数据的总数据量与数据传输速率的乘积的2倍。

设备程序执行时间与设备程序执行过程中，对操作数据的内存访问总数据量以及对设备端内存的内存访问速率有关。

对操作数据的内存访问总数据量可以根据设备程序的工作项work-item数量以及单位工作项的内存访问数据量计算得到，工作项数量以及单位工作项的内存访问数据量可以通过对源程序文件的分析得到。

在映射模式下，操作数据并不在主机端和设备端之间真正传输，而是通过建立映射关系来实现。映射模式下的数据传输时间由建立映射关系的时间确定，其包括映射关系建立时间和映射关系消除时间，通常映射关系消除时间与映射关系建立时间相同，因此映射模式下的数据传输时间可以等于映射关系建立或消除时间的2倍。

映射模式下，设备程序执行过程中，是访问主机端的内存中的操作数据，因此设备程序执行时间与设备程序执行过程中对操作数据的内存访问总数据量以及对主机端内存的内存访问速率有关。

同样，对操作数据的内存访问总数据量可以根据设备程序的工作项work-item数量以及单位工作项的内存访问数据量计算得到。

设备程序对设备端内存的访问速率以及对主机端的内存访问速率，可以结合当前异构向执行平台的硬件特征预先确定。

由此，可以分别计算得出操作数据在复制模式和映射模式下的执行消耗时间。

103：选择所述执行消耗时间较小的数据传输模式作为所述OpenCL源程序编译时所述操作数据的编译数据传输模式。

104：按照所述编译数据传输模式生成编译执行代码文件。

分别计算出操作数据在第一数据传输模式以及第二数据传输模式下的执行消耗时间时，即可从中选择执行消耗时间较小的数据传输模式作为所述源程序文件进行编译时所述操作数据的编译数据传输模式，从而在进行编译时，即按照该编译数据传输模式生成相应的编译执行代码文件，使得OpenCL程序执行时，操作数据按照所选择的编译数据传输模式进行传输和处理，可以缩短执行消耗时间，提高执行效率。

在本实施例中，获取源程序文件，并确定出源程序中定义的操作数据的第一数据传输模式；然后通过分别计算操作数据分别在第一数据传输模式以及第二数据传输模式下的执行消耗时间，选择出执行消耗时间较小的数据传输模式作为该源程序文件编译时所述操作数据的编译数据传输模式，据此可以生成编译执行代码文件，从而程序在机器中运行时，可以按照所选择的编译数据传输模式对操作数据进行处理，缩短了执行消耗时间，可以有效提高执行效率，且将程序移植到另一个异构系统中执行时，采用本申请实施例技术方案，可以确定出操作数据符合该异构系统的数据传输模式，从而有效保证了程序在不同异构系统中的执行效率。

图2为本申请实施例一种开放运算语言OpenCL程序编译方法另一个实施例的流程图，可以包括以下几个步骤：

201：获取OpenCL程序的源程序文件，并确定所述源程序文件中定义的操作数据的第一数据传输模式；

202：验证所述操作数据按照第二数据传输模式处理时，所述操作数据是否安全，如果是，执行步骤203，如果否，则结束流程。

该第二数据传输模式与第一数据传输模式不同，例如，当第一数据传输模式为复制模式时，该第二数据传输模式为映射模式；当第一数据传输模式为映射模式时，该第二数据传输模式为复制模式。

本实施例中，在对源程序文件进行编译时，需要确定该操作数据若按照不同与第一数据传输模式的第二数据传输模式处理时，该操作数据是否安全，若不安全，则直接结束流程。

操作数据是否安全可以通过判断操作数据若按照第二数据传输模式进行处理时，程序执行是否出现错误来进行判断，例如操作数据在主机端和设备端是否保持一致。

作为一种可能的实现方式，

当所述第一数据传输模式为复制模式，所述第二数据传输模式为映射模式，该验证所述操作数据按照所述第二数据传输模式处理，所述操作数据是否安全可以为：

分析在程序执行过程中，是否存在主机端对所述操作数据的写操作，若否，确定所述操作数据按照所述第二数据传输模式处理时安全。

由于操作数据的第一数据传输模式为复制模式，主机端和设备端分别保存该操作数据，而若程序执行过程中，存在主机端对该操作数据的写操作，操作数据将会与设备端的操作数据不一致。

因此，若操作数据按照映射模式处理时，操作数据只存在与主机端，在程序执行过程中，设备端处理的操作数据与主机端的操作数据是一致的，这将导致与操作数据在复制模式下的处理不相同，使得操作数据不安全，程序执行会发生错误。

当所述第一数据模式为映射模式，所述第二数据传输模式为复制模式时，该验证所述操作数据按照所述第二数据传输模式处理，所述操作数据是否安全可以为：

分析在程序执行过程中，是否存在设备端对所述操作数据的写操作，若否，确定所述操作数据按照所述第二数据传输模式处理时安全。

由于操作数据的第一数据传输模式为映射模式，操作数据只存在与主机端。而如若操作数据按照复制模式处理，主机端和设备端均存在该操作数据，设备端若存在对操作数据的写操作，此时设备端的数据就会改变，但是不会同时改变主机端的数据，因此将导致设备端和主机端的数据不一致。使得操作数据在复制模式下处理时，不安全，程序执行会发生错误。

因此，只有在确定出操作数据若按照第二数据传输模式处理安全时，再继续执行本实施例的操作流程。

其中，判断主机端或设备端是否存在对操作数据的写操作，可以通过数据流分析技术对该OpenCL源程序中对数据的定义及使用情况进行分析，以确定出是否存在主机端或设备端对操作数据的写操作。

203：计算所述操作数据分别在所述第一数据传输模式和第二数据传输模式下的执行消耗时间，所述第一数据传输模式与所述第二数据传输模式不同，所述执行消耗时间包括数据传输时间和设备程序执行时间。

其中，该第一数据传输模式可以为复制模式，则该第二数据传输模式即可以为映射模式时；或，该第一数据传输模式为映射模式，该第二数据传输模式即可以为复制模式。

因此，该计算所述操作数据分别在第一数据传输模式和第二数据传输模式下的执行消耗时间可以包括：

根据所述操作数据的总数据量以及数据传输速率，计算所述操作数据在复制模式下的数据传输时间。

其中，该数据传输速率可以以单位数据传输消耗时间表示，该数据传输时间可以等于操作数据的总数据量与单位数据传输消耗时间乘积的2倍。

根据设备程序执行过程中，对所述操作数据的内存访问总数据量以及访问设备端的内存访问速率，计算所述操作数据的设备程序执行时间。

其中，访问设备端的内存访问速率可以根据当前异构系统程序执行平台的硬件特征预先确定。

对所述操作数据的内存访问总数据量可以等于：设备程序的工作项数量以及单位工作项内存访问数据量。

工作项work-item是最小的执行单元，工作项数量表明了计算机被分割成多少单元进行处理，每一工作项的内存访问数据量可以根据该OpenCL源程序中的定义得知，具体可以通过数据流分析技术分析得出。

将所述复制模式下计算的数据传输时间以及设备程序执行时间之和，作为所述操作数据在复制模式下的执行消耗时间。

根据主机端与设备端的映射关系建立和消除时间，计算操作数据在映射模式下的数据传输时间。

映射关系建立和消除时间可以根据当异构系统执行平台的硬件特征预先确定。

根据设备程序执行过程中，对所述操作数据的内存访问总数据量以及访问主机端的内存访问速率，计算所述操作数据的设备程序执行时间。

其中，访问主机端的内存访问速率可以根据当异构系统执行平台的硬件特征预先确定。对所述操作数据的内存访问总数据量可以等于：设备程序的工作项数量以及单位工作项内存访问数据量的乘积。

将所述映射模式下计算的数据传输时间以及设备程序执行时间之和，作为所述操作数据在映射模式下的执行消耗时间。

204：选择所述执行消耗时间较小的数据传输模式作为所述源程序文件编译时所述操作数据的编译数据传输模式。

205：按照所述编译数据传输模式生成编译执行代码文件。

通过计算操作数据分别按照复制模式和映射模式处理时的执行消耗时间，选择执行消耗时间较小的数据传输模式作为操作数据的编译数据传输模式，该编译数据传输模式可能是该操作数据的第一数据传输模式，或者不同与第一数据传输模式的第二数据传输模式。

通过选择执行消耗时间较小的编译数据传输模式，可以使得OpenCL程序在机器上运行时，减小执行时间，提高执行效率。

在本实施例中，获取源程序文件，并确定出源程序中定义的操作数据的第一数据传输模式，对该操作数据进行验证，若其按照第二数据传输模式处理，安全时，则分别计算操作数据分别在第一数据传输模式以及第二数据传输模式下的执行消耗时间，选择出执行消耗时间较小的数据传输模式作为编译时所述操作数据的的编译数据传输模式，据此可以生成编译执行代码文件，从而程序在机器中运行时，可以按照所选择的编译数据传输模式对操作数据进行处理，缩短了执行消耗时间，可以有效提高执行效率，且将程序移植到另一个异构系统中执行时，采用本申请实施例技术方案，可以确定出操作数据符合该异构系统的数据传输模式，从而保证了程序在不同异构系统中的执行效率。

下面结合一个实际应用场景，来详细介绍本申请技术方案，图3为本申请实施例一种开放运算语言OpenCL程序编译方法另一个实施例的流程图，本实施例中，以如下OpenCL程序的源程序文件中的一段片段为例：

由该段源程序文件片段可知，该源程序文件片段中定义的操作数据包括操作数据A和操作数据B，其数据传输模式均为复制模式。下面主要以操作数据A为例进行介绍，对于操作数据B其处理过程与操作数据A类似，不再赘述。

该方法可以包括如下几个步骤：

301：获取OpenCL程序的源程序文件，并确定所述源程序文件中定义的操作数据A的第一数据传输模式为复制模式。

由代码“clWriteBuffer(d_A,65536*8,h_A[0],…)”可知，该操作数据A的第一数据传输模式为复制模式。

302：验证所述操作数据A按照映射模式处理时，所述操作数据是否安全，如果是，执行步骤103，如果否，则结束流程。

通过数据流分析技术可知，该程序中，不存在主机端对操作数据A的写操作，因此操作数据A安全。

303：计算所述操作数据A在复制模式下的数据传输时间和设备程序执行时间，得到所述操作数据A在复制模式下的执行消耗时间。

操作数据A在复制模式下数据传输时间Ct1＝Vt*St*2。

其中，Vt为操作数据A的总数据量，由上述程序可知操作数据A的数量类型为双精度浮点型，占用8字节，而操作数据A的向量长度为65536，因此，因此操作数据A的总数据量为65536*8B(字节)。

St为单位数据消耗时间，用以表示数据传输速率，本实施例中，假设其为4cycle/B(4时钟周期每字节)。

由于数据需要来回传输两次，因此复制模式下的数据传输时间可以为65536*8*4*2＝4Mcycle。

操作数据A在复制模式下的设备程序执行时间Ca1＝Va*Sab。

其中，Va为设备程序对操作数据A的内存访问总数据量，Va＝Ka*Nwi，其中，Nwi为工作项work-item数量，工作项为最小执行单元，由上述程序可知，工作项可以为操作数据中的每一数据分组，Nwi为65536。Ka为设备程序的单位工作项的内存访问数据量，也即每一工作项对应的内存访问数量量。且由程序可以得知，设备程序执行时访问1次操作数据B和1/4次操作数据A，因此Va＝1/4*65536*8＝128KB。

由于在复制模式下，设备端存储有该操作数据A，因此该Sab即是指设备程序访问设备端内存时，单位数据消耗时间，用以表示对设备端内存的内存访问速率。假设为4cycle/B。

则复制模式下设备程序执行时间为128KB*4cycle/B＝0.5Mcycle。

从而可以计算得出复制模式下的执行消耗时间C1＝Ct1+Ca1＝4.5Mcycle。

304：计算所述操作数据A在映射模式下的数据传输时间和设备程序执行时间，得到所述操作数据A在映射模式下的执行消耗时间。

若操作数据A的数据传输模式更改为映射模式，在数据传输阶段只是用于建立和消除映射关系，假设建立或消除映射关系的时间为tm＝10Kcycle。则该映射模式下的数据传输时间Ct2＝2*tm＝0.02Mcycle。

在映射模式下，设备程序执行时间Ca2＝Va*Sam。

由上述描述可知，Va＝128KB。

Sam为设备程序访问主机端内存时，单位数据消耗时间，用以对主机端内存的内存访问速率，假设为16cycle/B.

从而，可以计算得出映射模式的设备程序执行时间Ca2＝128KB*16cycle/B＝2Mcycle。

则映射模式下的执行消耗时间C2＝Ct2+Ca2＝2.022Mcycle。

305：比较所述操作数据A在复制模式下的执行消耗时间以及所述操作数据A在映射模式下的执行消耗时间。

306：选择执行消耗时间较小的映射模式为所述操作数据A在编译时的编译数据模式。

307：生成编译执行代码文件。

由步骤304的计算结果可以得知，映射模式下的执行消耗时间较小，因此映射模式即为操作数据A在编译时的编译数据模式，从而在进行编译时，将操作数据A的数据传输模式进行更改，生成映射模式对应的编译执行代码文件。

OpenCL程序在机器中运行时，对与该操作数据A，即按照映射模式进行处理，使得可以减少操作数据A的执行处理时间，提高了程序执行效率。

且当该OpenCL程序移植到另一异构系统时，可以按照本申请实施例方案确定出该操作数据A符合另一异构系统的数据传输模式，以保证在该另一异构系统中的程序执行效率。

对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本申请所必须的。

图4为本申请实施例提供的一种编译器一个实施例的结构示意图，该编译器可以包括：

模式确定模块401，用于获取OpenCL程序的源程序文件，并确定所述源程序文件中定义的操作数据的第一数据传输模式。

该第一数据传输模式可以是复制模式或者映射模式，由源程序文件中定义的函数可知。

计算模块402，用于计算所述操作数据分别在所述第一数据传输模式和第二数据传输模式下的执行消耗时间。

其中，所述第二数据传输模式与所述第一数据传输模式不同。第一数据传输模式为复制模式时，该第二数据传输模式即为映射模式；第一数据传输模式为映射模式时，该第二数据传输模式即为复制模式。

本实施例中计算操作数据分别在第一数据传输模式和第二数据传输模式下的执行消耗时间，也即分别在复制模式以及映射模式下的执行消耗时间。

所述执行消耗时间包括所述操作数据的数据传输时间和设备程序执行时间。

模式选择模块403，用于选择消耗时间较小的数据传输模式作为所述OpenCL源程序编译时所述操作数据的编译数据传输模式。

编译模块404，用于按照所述编译数据传输模式生成编译执行代码文件。

分别计算出操作数据在第一数据传输模式以及第二数据传输模式下的执行消耗时间时，即可从中选择执行消耗时间较小的数据传输模式作为所述OpenCL源程序编译时所述操作数据的编译数据传输模式，从而在进行编译时，即按照该编译数据传输模式生成相应的编译执行代码文件，使得OpenCL程序执行时，操作数据按照所选择的编译数据传输模式进行传输和处理，可以缩短执行消耗时间，提高执行效率。

在本实施例中，编译器获取源程序文件进行编译时，首先确定出源程序中定义的操作数据的第一数据传输模式；然后通过分别计算操作数据分别在第一数据传输模式以及第二数据传输模式下的执行消耗时间，选择出执行消耗时间较小的数据传输模式作为编译时所述操作数据的的编译数据传输模式，据此可以生成编译执行代码文件，从而程序在机器中运行时，可以按照所选择的编译数据传输模式对操作数据进行处理，缩短了执行消耗时间，可以有效提高执行效率，且将程序移植到另一个异构系统中执行时，采用本申请实施例技术方案，可以确定出操作数据符合该异构系统的数据传输模式，从而保证了程序在不同异构系统中的执行效率。

图5为本申请实施例提供的一种编译器另一个实施例的结构示意图，该编译器可以包括：

模式确定模块501，用于获取OpenCL程序的源程序文件，并确定所述源程序文件中定义的操作数据的第一数据传输模式。

验证模块502，用于验证所述操作数据按照第二数据传输模式处理时，所述操作数据是否安全。

本实施例中，在对源程序文件进行编译时，需要确定该操作数据若按照不同与第一数据传输模式的第二数据传输模式处理时，该操作数据是否安全，若不安全，则直接结束流程。

操作数据是否安全可以通过判断操作数据若按照第二数据传输模式进行处理时，程序执行是否出现错误来进行判断，例如操作数据在主机端和设备端是否保持一致。

作为一种可能的实现方式，

该验证模块具体可以用于当所述第一数据传输模式为复制模式，所述第二数据传输模式为映射模式时，分析在程序执行过程中，是否存在主机端对所述操作数据的写操作，若否，确定所述操作数据按照所述第二数据传输模式处理时安全；当所述第一数据模式为映射模式，所述第二数据传输模式为复制模式时，分析在程序执行过程中，是否存在设备端对所述操作数据的写操作，若否，确定所述操作数据按照所述第二数据传输模式处理时安全。

其中，判断主机端或设备端是否存在对操作数据的写操作，可以通过数据流分析技术对源程序文件中对数据的定义及使用情况进行分析，以确定出是否存在主机端或设备端对操作数据的写操作。

计算模块503，用于当所述验证模块502验证述操作数据安全时，计算所述操作数据分别在第一数据传输模式和第二数据传输模式下时的程序执行消耗时间。

所述第二数据传输模式与所述第一数据传输模式不同，所述执行消耗时间包括所述操作数据的数据传输时间和设备程序执行时间。

其中，该第一数据传输模式可以为复制模式，则该第二数据传输模式即可以为映射模式时；或，该第一数据传输模式为映射模式，该第二数据传输模式即可以为复制模式。

因此，参见图6所示，该计算模块可以具体包括：

第一传输时间计算模块601，用于根据所述操作数据的总数据量以及数据传输速率，计算复制模式下所述操作数据的数据传输时间。

其中，该数据传输速率可以以单位数据传输消耗时间表示，该数据传输时间可以等于操作数据的总数据量与单位数据传输消耗时间乘积的2倍。

第一执行时间计算模块602，用于根据设备程序执行过程中，对所述操作数据的内存访问总数据量以及访问设备端的内存访问速率，计算复制模式下所述操作数据的设备程序执行时间。

所述对所述操作数据的内存访问总数据量为根据源程序文件中定义的设备程序的工作项数量以及单位工作项的内存访问数据量计算得到。

其中，访问设备端的内存访问速率可以根据当前异构系统程序执行平台的硬件特征预先确定。

对所述操作数据的内存访问总数据量可以等于：设备程序的工作项数量以及单位工作项内存访问数据量的乘积。

工作项work-item是最小的执行单元，工作项数量表明了计算机被分割成多少单元进行处理，每一工作项的内存访问数据量可以根据该源程序文件中的定义得知，具体可以通过数据流分析技术分析得出。

第一消耗时间计算模块603，用于将将所述复制模式下计算的数据传输时间以及设备程序执行时间之和，作为所述操作数据在复制模式下的执行消耗时间。

第二传输时间计算模块604，用于根据主机端与设备端的映射关系建立以及消除时间，计算映射模式下所述操作数据的数据传输时间。

映射关系建立和消除时间可以根据当异构系统执行平台的硬件特征预先确定。

第二执行时间计算模块605，用于根据设备程序执行过程中，对所述操作数据的内存访问总数据量以及访问主机端的内存访问速率，计算映射模式下所述操作数据的设备程序执行时间。

其中，访问主机端的内存访问速率可以根据当异构系统执行平台的硬件特征预先确定。对所述操作数据的内存访问总数据量可以等于：设备程序的工作项数量以及单位工作项内存访问数据量的乘积。

第二消耗时间计算模块606，用于将所述映射模式下计算的数据传输时间以及设备程序执行之和，作为所述操作数据在映射模式下的执行消耗时间。

模式选择模块504，用于选择消耗时间较小的数据传输模式作为所述OpenCL源程序编译时所述操作数据的编译数据传输模式。

编译模块505，用于按照所述编译数据传输模式生成编译执行代码文件。

通过计算操作数据分别按照复制模式和映射模式处理时的执行消耗时间，选择执行消耗时间较小的数据传输模式作为操作数据的编译数据传输模式，该编译数据传输模式可能是该操作数据的第一数据传输模式，或者不同与第一数据传输模式的第二数据传输模式。

通过选择执行消耗时间较小的编译数据传输模式，可以使得OpenCL程序在机器上运行时，减小执行时间，提高执行效率。

在本实施例中，编译器获取源程序文件，并确定出源程序文件中定义的操作数据的第一数据传输模式，对该操作数据进行验证，若其按照第二数据传输模式处理，安全时，则分别计算操作数据分别在第一数据传输模式以及第二数据传输模式下的执行消耗时间，选择出执行消耗时间较小的数据传输模式作为编译时所述操作数据的的编译数据传输模式，据此可以生成编译执行代码文件，从而程序在机器中运行时，可以按照所选择的编译数据传输模式对操作数据进行处理，缩短了执行消耗时间，可以有效提高执行效率，且将程序移植到另一个异构系统中执行时，采用本申请实施例技术方案，可以确定出操作数据符合该异构系统的数据传输模式，从而保证了程序在不同异构系统中的执行效率。

上述实施例所述的编译器在实际应用中应用于计算设备中，部署本申请实施例所述编译器的计算设备可以实现源程序文件的编译，将源程序文件编译成机器可识别的代码，可以为源程序文件中定义的操作数据选择执行消耗时间小的数据传输模式进行编译，使得程序运行时的执行时间减小，程序执行效率提高。

通过以上描述可知，本领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件平台的方式来实现。因此，参见图7，本申请实施例还提供了一种计算设备，该计算设备至少可以包括存储器701以及通过总线与存储器701连接的处理器702，

该存储器701存储一组程序指令。该存储器701可以是是高速RAM存储器，也可能是非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器等。

该处理器702用于调用所述存储器701存储的程序指令，执行如下操作：

获取OpenCL程序的源程序文件，并确定所述源程序文件中定义的操作数据的第一数据传输模式；

计算所述操作数据分别在所述第一数据传输模式和第二数据传输模式下的执行消耗时间，所述第二数据传输模式与所述第一数据传输模式不同，所述执行消耗时间包括所述操作数据的数据传输时间和设备程序执行时间；

选择所述执行消耗时间较小的数据传输模式作为所述源程序文件编译时所述操作数据的编译数据传输模式；

按照所述编译数据传输模式生成编译执行代码文件。

该处理器702可能是一个中央处理器CPU，或者是特定集成电路ASIC(ApplicationSpecific Integrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。

可选地，该计算设备可以用于执行本申请实施例提供的图1-图2所示的任一OpenCL程序编译方法。

本说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言，由于其与实施例公开的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。

最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。

通过以上的实施方式的描述可知，本领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例或者实施例的某些部分所述的方法。

对所公开的实施例的上述说明，使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下，在其它实施例中实现。因此，本申请将不会被限制于本文所示的这些实施例，而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (10)

1.一种开放运算语言OpenCL程序编译方法，其特征在于，包括：

获取OpenCL程序的源程序文件，并确定所述源程序文件中定义的操作数据的第一数据传输模式；

计算所述操作数据分别在所述第一数据传输模式和第二数据传输模式下的执行消耗时间，所述第二数据传输模式与所述第一数据传输模式不同，所述执行消耗时间包括所述操作数据的数据传输时间和设备程序执行时间；

选择所述执行消耗时间较小的数据传输模式作为所述源程序文件编译时所述操作数据的编译数据传输模式；

按照所述编译数据传输模式生成编译执行代码文件。

2.根据权利要求1所述的方法，其特征在于，所述计算所述操作数据分别在所述第一数据传输模式和第二数据传输模式下的程序执行消耗时间包括：

验证所述操作数据按照所述第二数据传输模式处理时，所述操作数据是否安全；

当所述操作数据安全时，计算所述操作数据分别在所述第一数据传输模式和所述第二数据传输模式下的程序执行消耗时间。

3.根据权利要求2所述的方法，其特征在于，当所述第一数据传输模式为复制模式，所述第二数据传输模式为映射模式，所述验证所述操作数据按照所述第二数据传输模式处理，所述操作数据是否安全包括：

分析在程序执行过程中，是否存在主机端对所述操作数据的写操作，若否，确定所述操作数据按照所述第二数据传输模式处理时安全；

当所述第一数据模式为映射模式，所述第二数据传输模式为复制模式时，所述验证所述操作数据按照所述第二数据传输模式处理，所述操作数据是否安全包括：

分析在程序执行过程中，是否存在设备端对所述操作数据的写操作，若否，确定所述操作数据按照所述第二数据传输模式处理时安全。

4.根据权利要求1～3任一项所述的方法，其特征在于，所述第一数据传输模式为复制模式时，所述第二数据传输模式为映射模式；或，所述第一数据传输模式为映射模式时，所述第二数据传输模式为复制模式；

所述计算所述操作数据分别在第一数据传输模式和第二数据传输模式下的执行消耗时间包括：

根据所述操作数据的总数据量以及数据传输速率，计算复制模式下所述操作数据的数据传输时间；

根据设备程序执行过程中，对所述操作数据的内存访问总数据量以及访问设备端的内存访问速率，计算所述复制模式下所述操作数据的设备程序执行时间；

将所述复制模式下计算的数据传输时间以及设备程序执行时间之和，作为所述操作数据在所述复制模式下的执行消耗时间；

根据主机端与设备端的映射关系建立以及消除时间，计算映射模式下所述操作数据的数据传输时间；

根据设备程序执行过程中，对所述操作数据的内存访问总数据量以及访问主机端的内存访问速率，计算所述映射模式下所述操作数据的设备程序执行时间；

将所述映射模式下计算的数据传输时间以及设备程序执行之和，作为所述操作数据在所述映射模式下的执行消耗时间。

5.根据权利要求4所述的方法，其特征在于，所述对所述操作数据的内存访问总数据量为根据源程序文件中定义的设备程序的工作项数量以及单位工作项的内存访问数据量计算得到。

6.根据权利要求4所述的方法，其特征在于，所述数据传输速率、所述访问设备端的内存访问速率或者所述访问主机端的内存访问速率均是根据当前异构系统执行硬件平台的硬件特征预先确定的。

7.一种编译器，其特征在于，包括：

模式确定模块，用于获取OpenCL程序的源程序文件，并确定所述源程序文件中定义的操作数据的第一数据传输模式；

计算模块，用于计算所述操作数据分别在所述第一数据传输模式和第二数据传输模式下的执行消耗时间，所述第二数据传输模式与所述第一数据传输模式不同，所述执行消耗时间包括所述操作数据的数据传输时间和设备程序执行时间；

模式选择模块，用于选择消耗时间较小的数据传输模式作为所述源程序文件编译时所述操作数据的编译数据传输模式；

编译模块，用于按照所述编译数据传输模式生成编译执行代码文件。

8.根据权利要求7所述的编译器，其特征在于，还包括：

验证模块，用于验证所述操作数据按照第二数据传输模式处理时，所述操作数据是否安全，若是，再触发所述计算模块。

9.根据权利要求8所述的编译器，其特征在于，所述验证模块具体用于当所述第一数据传输模式为复制模式，所述第二数据传输模式为映射模式，分析在程序执行过程中，是否存在主机端对所述操作数据的写操作，若否，确定所述操作数据安全；或者，当所述第一数据模式为映射模式，所述第二数据传输模式为复制模式时，分析在程序执行过程中，是否存在设备端对所述操作数据的写操作，若否，确定所述数据安全。

10.根据权利要求7～9任一项所述的编译器，其特征在于，所述第一数据传输模式为复制模式，所述第二数据传输模式为映射模式时；或，所述第一数据传输模式为映射模式，所述第二数据传输模式为复制模式；

所述计算模块包括：

第一传输时间计算模块，用于根据所述操作数据的总数据量以及数据传输速率，计算复制模式下所述操作数据的数据传输时间；

第一执行时间计算模块，用于根据设备程序执行过程中，对所述操作数据的内存访问总数据量以及访问设备端的内存访问速率，计算复制模式下所述操作数据的设备程序执行时间；

第一消耗时间计算模块，用于将将所述复制模式下计算的数据传输时间以及设备程序执行时间之和，作为所述操作数据在复制模式下的执行消耗时间；

第二传输时间计算模块，用于根据主机端与设备端的映射关系建立以及消除时间，计算映射模式下所述操作数据的数据传输时间；

第二执行时间计算模块，用于根据设备程序执行过程中，对所述操作数据的内存访问总数据量以及访问主机端的内存访问速率，计算映射模式下所述操作数据的设备程序执行时间；

第二消耗时间计算模块，用于将所述映射模式下计算的数据传输时间以及设备程序执行之和，作为所述操作数据在映射模式下的执行消耗时间。