CN112306718B - 一种本地设备与异构设备之间的通信方法、系统及相关装置 - Google Patents
一种本地设备与异构设备之间的通信方法、系统及相关装置 Download PDFInfo
- Publication number
- CN112306718B CN112306718B CN202011296779.8A CN202011296779A CN112306718B CN 112306718 B CN112306718 B CN 112306718B CN 202011296779 A CN202011296779 A CN 202011296779A CN 112306718 B CN112306718 B CN 112306718B
- Authority
- CN
- China
- Prior art keywords
- heterogeneous
- communication
- data
- memory
- independent
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000006854 communication Effects 0.000 title claims abstract description 199
- 238000004891 communication Methods 0.000 title claims abstract description 190
- 238000000034 method Methods 0.000 title claims abstract description 184
- 230000008569 process Effects 0.000 claims abstract description 132
- 230000015654 memory Effects 0.000 claims abstract description 101
- 230000003993 interaction Effects 0.000 claims abstract description 22
- 230000006870 function Effects 0.000 claims description 34
- 230000004044 response Effects 0.000 claims description 32
- 238000012545 processing Methods 0.000 claims description 25
- 238000012360 testing method Methods 0.000 claims description 14
- 230000007246 mechanism Effects 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 8
- 238000004806 packaging method and process Methods 0.000 claims description 8
- 238000011990 functional testing Methods 0.000 claims description 5
- 230000009286 beneficial effect Effects 0.000 abstract description 3
- 238000004364 calculation method Methods 0.000 abstract 1
- 238000013461 design Methods 0.000 description 7
- 230000009191 jumping Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011112 process operation Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer And Data Communications (AREA)
Abstract
本申请提供一种本地设备与异构设备之间的通信方法，包括：接收异构设备的通信请求；为所述异构设备配置对应的独立MPI进程；在所述独立MPI进程内利用预设异构通信框架执行所述异构设备的第一内存与本地设备的第二内存之间的数据交互，以完成所述本地设备与所述异构设备之间的通信。本申请能够提高异构并行计算能力，显著增加了异构计算效率。本申请还提供一种本地设备与异构设备之间的通信系统、计算机可读存储介质和电子设备，具有上述有益效果。
Description
技术领域
本申请涉及电子设备通信领域，特别涉及一种本地设备与异构设备之间的通信方法、系统及相关装置。
背景技术
随着人工智能、大数据等概念的兴起，传统以CPU作为计算单元的服务器，其计算能力已无法满足目前数据中心的计算需求，为了突破计算瓶颈，异构系统应运而生，所谓的异构，就是CPU、DSP、GPU、FPGA、ASIC等各种计算单元、使用不同的类型指令集、不同的体系架构的计算单元，组成一个混合的系统，即为异构计算。
在实际运用中，为缩减计算时间，应用程序往往使用异构系统进行多设备并行计算，但不同类设备间的通信由于采用的数据处理方式不同，数据难以兼容，造成多异构设备间的协作处理效率较低。
因此，如何提高异构设备间的高效通信是本领域技术人员亟需解决的技术问题。
发明内容
本申请的目的是提供一种本地设备与异构设备之间的通信方法、系统、计算机可读存储介质和电子设备，能够实现本地设备与异构设备之间的通信。
为解决上述技术问题，本申请提供一种本地设备与异构设备之间的通信方法，具体技术方案如下：
接收异构设备的通信请求；
为所述异构设备配置对应的独立MPI进程；
在所述独立MPI进程内利用预设异构通信框架执行所述异构设备的第一内存与本地设备的第二内存之间的数据交互，以完成所述本地设备与所述异构设备之间的通信。
可选的，若所述预设异构通信框架包括OpenCL框架，则所述在所述独立MPI进程内利用预设异构通信框架执行所述异构设备的第一内存与本地设备的第二内存之间的数据交互包括：
利用所述OpenCL框架的缓冲区读取机制从所述异构设备的第一内存中读取待通信数据；
利用所述独立MPI进程在所述第二内存中执行所述待通信数据的进程间通信，得到通信响应数据；
将所述通信响应数据存储于本地设备的第二内存；
利用所述OpenCL框架的写缓冲区机制将所述通信响应数据从所述第二内存写入所述第一内存。
可选的，利用所述独立MPI进程在所述第二内存中执行所述待通信数据的进程间通信，得到通信响应数据包括：
在所述第二内存中将所述待通信数据由所述独立MPI进程切换至第二独立MPI进程处理，并在所述第二独立MPI进程中调用所述待通信数据所需的异构通信算子对所述待通信数据进行数据处理，得到通信响应数据。
可选的，在所述第二独立MPI进程中调用异构通信算子对所述待通信数据进行数据处理之前，还包括：
利用Cmake编译工具编译并封装所述异构通信算子；
其中，所述异构通信算子包括Heter_Send、Heter_Recv、Heter_Broadcast、Heter_Scatter、Heter_Gather、Heter_Reduce、Heter_Allreduce、Heter_Allgather中一种或任意几种的组合。
可选的，利用Cmake编译工具编译并封装所述异构通信算子之后，还包括：
对每个所述异构通信算子调用单元测试框架进行功能测试；
若功能测试失败，重新编译并封装所述异构通信算子。
可选的，为所述异构设备配置对应的独立MPI进程之后，还包括：
将所述独立MPI进程和对应的异构设备信息添加至异构设备管理列表；
利用所述异构设备管理列表管理与所述本地设备通信的所有异构设备。
可选的，若所述通信请求为异构设备间通信请求，则所述在所述第二内存中将所述待通信数据由所述独立MPI进程切换至第二独立MPI进程处理，并在所述第二独立MPI进程中调用所述待通信数据所需的异构通信算子对所述待通信数据进行数据处理，得到通信响应数据包括：
在所述第二内存中由所述独立MPI进程将所述待通信数据发送至第二独立MPI进程；所述第二独立MPI进程用于管理与所述本地设备相连的另一异构设备；
在所述第二独立MPI进程中开辟预设存储空间，并在所述预设存储空间中调用所述待通信数据所需的异构通信算子对所述待通信数据进行数据处理，得到通信响应数据。
本申请还提供一种本地设备与异构设备之间的通信系统，包括：
请求接收模块，用于接收异构设备的通信请求；
进程分配模块，用于为所述异构设备配置对应的独立MPI进程；
异构通信模块，用于在所述独立MPI进程内利用预设异构通信框架执行所述异构设备的第一内存与本地设备的第二内存之间的数据交互，以完成所述本地设备与所述异构设备之间的通信。
本申请还提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现如上所述的方法的步骤。
本申请还提供一种电子设备，包括存储器和处理器，所述存储器中存有计算机程序，所述处理器调用所述存储器中的计算机程序时实现如上所述的方法的步骤。
本申请提供一种本地设备与异构设备之间的通信方法，包括：接收异构设备的通信请求；为所述异构设备配置对应的独立MPI进程；在所述独立MPI进程内利用预设异构通信框架执行所述异构设备的第一内存与本地设备的第二内存之间的数据交互，以完成所述本地设备与所述异构设备之间的通信。
本申请利用MPI进程对异构设备进行管理，将异构设备的通信过程转化为MPI进程间操作，将异构设备的通信数据经由本地设备和异构设备的内存执行内存间数据交互，从而实现本地设备和异构设备间的异构通信，在此基础上，还可以同时建立本地设备与多个异构设备间的通信，从而实现异构设备与异构设备之间的通信，藉由内存间数据交互解决了异构设备兼容性问题，提高异构并行计算能力，显著增加了异构计算效率。
本申请还提供一种本地设备与异构设备之间的通信系统、计算机可读存储介质和电子设备，具有上述有益效果，此处不再赘述。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。
图1为本申请实施例所提供的本地设备与异构设备之间的通信方法的流程图；
图2为本申请实施例所提供的本地设备与异构设备之间的数据交互的流程图；
图3为本申请实施例所提供的本地设备与异构设备之间的通信系统结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
请参考图1，图1为本申请实施例所提供的本地设备与异构设备之间的通信方法的流程图，该方法包括：
S101：接收异构设备的通信请求；
本实施例在此对于异构设备的具体类型不作限定，可以包括GPU、FPGA、DSP等中的一种或几种的组合，或者其他可作为加速器与CPU共同组成异构系统的设备。当然，本实施例以本地设备与某一台异构设备为例对本地设备和异构设备的通信过程进行说明，本领域技术人员在本实施例的基础上有能力将该通信过程应用至其他异构设备。
此外，本实施例对于如何接收异构设备的通信请求不作具体限定，由于异构设备的类型不同，其与本地设备的连接方式可能也存在相应的差异，则相应的接收通信请求所采用的接口、数据类型等存在区别，在此不一一举例限定。
还需要注意的是，本步骤中需要接收异构设备的通信请求，该通信请求可以由异构设备主动发出，也可以为异构设备的通信响应请求。即可以由本地设备先向异构设备发送通信请求，再由异构设备针对该通信请求实现通信响应请求，在本实施例中可以视由异构设备发送的通信响应请求为通信请求。换句话说，本步骤的实行过程等同于本地设备和异构设备建立通信要约。
S102：为所述异构设备配置对应的独立MPI进程；
本步骤旨在接收到异构设备的通信请求后，为该异构设备配置对应的独立MPI(Message Passing Interface，信息传递接口)进程。在利用消息传递进行进程间通信时，各个进程具有自己独立的堆栈，进程之间的通信通过显示调用函数完成。但需要注意的是，本步骤中生成的独立MPI进程区别于本地设备中已经存在的MPI进程，独立MPI进程专用于执行本地设备与异构设备之间的信息交互，负责本地设备与该异构设备的通信过程。
进一步，在本实施例的基础上，为异构设备配置独立MPI进程后，可以将独立MPI进程和对应的异构设备信息添加至异构设备管理列表，以便利用异构设备管理列表管理与本地设备通信的所有异构设备。由于本地设备可能同时对接若干台异构设备，为了便于对异构设备进行管理，同时确保各异构设备与异构设备之间、异构设备与本地设备之间的通信不发生紊乱，可以直接采用异构设备管理列表确认当前本地设备参与通信的异构设备信息，便于管控异构通信。
S103：在所述独立MPI进程内利用预设异构通信框架执行所述异构设备的第一内存与本地设备的第二内存之间的数据交互，以完成所述本地设备与所述异构设备之间的通信。
分配独立MPI进程后，在独立MPI进程中可以调用相应的异构通信框架执行数据交互，在此对于预设异构通信框架不作具体限定，例如可以为OpenMPI、MPICH等通信框架，均可以用于实现异构通信的数据交互。
具体的，需要借助独立MPI进程调用相应的MPI库函数实现CPU的进程间通信，利用预设异构通信框架实现CPU端内存与异构设备端内存之间的数据交互。
以预设异构通信框架为OpenCL框架为例，本步骤具体可以包含如下步骤：
S1031：利用OpenCL框架的缓冲区读取机制从异构设备的第一内存中读取待通信数据；
S1032：利用独立MPI进程在第二内存中执行待通信数据的进程间通信，得到通信响应数据；
S1033：将通信响应数据存储于本地设备的第二内存；
S1034：利用OpenCL框架的写缓冲区机制将通信响应数据从第二内存写入第一内存。
上述步骤S1031至S1034中，第一内存指代异构设备端内存，而第二内存指代CPU端内存。在执行本地设备与异构设备之间的数据交互时，先利用OpenCL框架的缓冲区读取机制从异构设备的内存中读取待通信数据至本地设备的第二内存端，此后由CPU配置完毕的独立MPI进程对该待通信数据进行处理，得到通信响应数据。具体的处理过程应视待通信数据的处理需求而定，若该异构通信过程仅限于本地设备和异构设备，则可以有CPU直接处理待通信数据。若该异构通信过程包括本地设备和多个异构设备，则需要由独立MPI进程执行进程间通信，将待通信数据转发至其余异构设备对应的独立MPI进程。而无论该异构通信过程是否包含其余异构设备，所生成的通信响应数据依旧需要返回独立MPI进程，并再次借助于OpenCL框架的写缓冲区机制写入至异构设备端的第一内存。
本申请实施例利用MPI进程对异构设备进行管理，将异构设备的通信过程转化为MPI进程间操作，将异构设备的通信数据经由本地设备和异构设备的内存执行内存间数据交互，从而实现本地设备和异构设备间的异构通信，藉由内存间数据交互解决了异构设备兼容性问题，提高异构并行计算能力，显著增加了异构计算效率。
基于上述实施例，作为优选的实施例，若在上一实施例的基础上实现异构设备间通信，可以在执行上一实施例中步骤S103时，在第二内存中将待通信数据由独立MPI进程切换至第二独立MPI进程处理，并在第二独立MPI进程中调用待通信数据所需的异构通信算子对待通信数据进行数据处理，得到通信响应数据。该第二独立MPI进程用于管理与本地设备相连的另一异构设备。具体的，在执行另一个异构设备对应的第二独立MPI进程中开辟预设存储空间，并在该预设存储空间中调用待通信数据所需的异构通信算子对待通信数据进行数据处理，从而得到通信响应数据。换句话说，独立MPI进程还可以用于提供异构通信的计算空间。具体的，开启预设存储空间可以通过创建Context上下文实现，当然在此对于预设存储空间的具体大小不作限定，可以根据待通信数据的数据处理需求和数据量作相应配置，也可以预先配置固定大小的存储空间作为预设存储空间。
需要注意的是，各独立MPI进程分别对应管理一个异构设备，并可以调用异构通信算子执行计算，这其中需要占用相应的系统资源，包括CPU资源和内存资源，以及上文的预设存储空间等。在得到通信响应数据后，应当及时释放所占用的资源。但对于独立MPI进程，其可以根据选择释放或者解除独立MPI进程与异构设备的绑定关系。即在本申请的具体应用过程中，独立MPI进程可以为固定数量或者在某一数量范围内波动，也可以根据实时的异构设备通信请求建立相应的独立MPI进程。则相对应的，在异构设备通信过程结束后，独立MPI进程是否结束、或者解绑均可由本领域技术人员进行相应的设定。若采用异构设备管理列表，则需要将对独立MPI进程的后续管理同步至异构设备管理列表中。
为了进一步解决异构设备间通信方式存在差异，导致数据交互效率低下的问题，本实施例可以预先利用Cmake编译工具编译并封装异构通信算子。在此对于异构通信算子的具体内容不作限定，可以包含数据处理过程的任一操作，例如，异构通信算子可以包括Heter_Send、Heter_Recv、Heter_Broadcast、Heter_Scatter、Heter_Gather、Heter_Reduce、Heter_Allreduce、Heter_Allgather中一种或任意几种的组合。通过封装异构通信算法，可以提供异构通信算子的API接口，使得执行数据交互时，直接调用相应算子的API接口实现异构系统中各异构设备的同类设备之间、以及不同类设备之间的自由通信。有助于开发人员充分利用服务器现有计算资源进行异构并行计算，节约资源，同时提升性能。
下文针对上文所举例的八种异构通信算子进行说明：
(1)Heter_Send算子的具体实现方案设计主要包括如下几个步骤：
①首先调用OpenCL库的读buffer函数clEnqueueReadBuffer()从当前独立MPI进程管理的异构设备内存中读取待发送数据到CPU内存；
②然后调用OpenCL库函数clWaitForEvents()等待步骤①中的buffer数据读取完成；
③最后调用MPI接口函数MPI_Send()将待发送数据从当前独立MPI进程的CPU内存发送到指定进程的CPU内存。
(2)Heter_Recv算子的具体实现方案主要包括如下几个步骤：
①首先调用MPI接口函数MPI_Recv()接收其对应进程中MPI_Send()函数发送过来的数据，存储到当前独立MPI进程所在的CPU内存；
②然后调用OpenCL的写buffer函数clEnqueueWriterBuffer()将步骤①中接收到的数据写入指当前独立MPI进程管理的异构设备buffer；
③最后调用OpenCL库函数clWaitForEvents()等待步骤②中的buffer数据写入完成。
(3)Heter_Broadcast算子的详细实现方案设计，主要包括如下几个步骤：
①首先判断当前节点进程是否是指定的root节点进程；若是，执行步骤②，否则跳转至步骤④；
所谓root节点，指的是broadcast的发送数据节点。
②调用OpenCL的读buffer函数clEnqueueReadBuffer()从当前独立MPI进程管理的异构设备中读取待广播数据到当前独立MPI进程的CPU内存；
③等待步骤②中buffer读取操作完成；
④调用MPI接口函数MPI_Bcast()将待广播数据从当前独立MPI进程的CPU内存广播到各个进程的CPU内存；
⑤调用OpenCL库函数clEnqueueWriteBuffer()将数据从CPU内存写入当前独立MPI进程管理的异构设备buffer；
⑥等待步骤⑤的异构设备buffer写入操作完成。
(4)Heter_Scatter算子的详细实现方案设计，主要包括如下两个步骤：
①首先判断当前独立MPI进程是否是指定的root进程，若是，执行步骤②，否则跳转到步骤④执行；
②调用OpenCL库的读buffer函数clEnqueueReadBuffer()从当前独立MPI进程管理的异构设备中读取待Scatter数据到CPU内存；
③等待步骤②中buffer读取操作完成；
④调用MPI接口函数MPI_Scatter将待scatter数据从当前独立MPI进程的CPU内存scatter到各个进程的CPU内存；
⑤调用OpenCL库函数clEnqueueWriteBuffer()将数据从CPU内存写入当前独立MPI进程管理的异构设备buffer；
⑥等待步骤⑤的异构设备buffer写入操作完成。
(5)Heter_Gather算子的详细实现方案设计，主要包括如下几个步骤：
①调用OpenCL库函数clEnqueueReadBuffer()从当前独立MPI进程管理的异构设备中读取待Gather数据到CPU内存；
②等待步骤①的异构设备buffer读取操作完成；
③调用MPI的API接口函数MPI_Gather()将待Gather数据gather到指定的root节点进程，存储在CPU内存；
④判断当前独立MPI进程是否是指定的root节点进程，若是，执行步骤⑤，否则直接跳转到结束；
⑤调用OpenCL库函数clEnqueueWriteBuffer()将步骤③中gather得到的数据从CPU内存写入到当前独立MPI进程管理的异构设备buffer；
⑥等待步骤⑤的异构设备buffer写入操作完成。
(6)Heter_Reduce算子的详细实现方案设计，主要包括如下两个步骤：
①调用OpenCL库函数clEnqueueReadBuffer()从当前独立MPI进程管理的异构设备中读取待reduce数据到CPU内存；
②等待步骤①的异构设备buffer读取操作完成；
③调用MPI的API接口函数MPI_Reduce()将待reduce数据reduce到指定的root节点，存储在CPU内存；
④判断当前独立MPI进程是否是指定的root节点进程，若是，执行步骤⑤，否则直接跳转到结束；
⑤调用OpenCL库函数clEnqueueWriteBuffer()将步骤③中reduce得到的数据从CPU内存写入到当前独立MPI进程管理的异构设备buffer；
⑥等待步骤⑤的异构设备buffer写入操作完成。
(7)Heter_Allreduce算子的详细实现方案设计，主要包括如下两个步骤：
①调用OpenCL库函数clEnqueueReadBuffer()从当前独立MPI进程管理的异构设备中读取待reduce数据到CPU内存；
②等待步骤①中的异构设备buffer读取操作完成；
③调用MPI的API接口函数MPI_Allreduce()将待reduce数据reduce到各个进程的CPU内存；
④调用OpenCL库函数clEnqueueWriteBuffer()将步骤③中reduce得到的数据从CPU内存写入到当前独立MPI进程管理的异构设备buffer；
⑤等待步骤④中的异构设备buffer写入操作完成。
(8)Heter_Allgather算子的详细实现方案设计，主要包括如下两个步骤：
①调用OpenCL库函数clEnqueueReadBuffer()从当前独立MPI进程管理的异构设备中读取待gather数据到CPU内存；
②等待步骤①的异构设备buffer读取操作完成；
③调用MPI的API接口函数MPI_Allgather()将待gather数据gather到各个进程的CPU内存；
④调用OpenCL库函数clEnqueueWriteBuffer()将步骤③中gather得到的数据从CPU内存写入到当前独立MPI进程管理的异构设备buffer；
⑤等待步骤④的异构设备buffer写入操作完成。
上文仅为本申请针对异构通信数据交互过程中常用的八种通信算子的实现过程，在上文公开的几种通信算子的基础上，本领域技术人员还可以对异构通信过程中其他可能应用的通信算子加以封装并应用，也应在本申请的保护范围内。
进一步，利用Cmake编译工具编译并封装异构通信算子之后，还可以对每个异构通信算子调用单元测试框架进行功能测试；若功能测试失败，重新编译并封装异构通信算子。对于每一个异构通信算子在封装后进行功能测试，可以确保封装的通信算子功能正常，避免执行异构数据处理时出现异常，有效保证异构通信交互的稳定性。在此对于如何进行功能测试不作具体限定，可以利用若干中单元测试框架执行，例如采用Google Test，可以通过配置单元测试文件，用于执行异构通信算子的功能测试验证。
下面对本申请实施例提供的一种本地设备与异构设备之间的通信系统进行介绍，下文描述的通信系统与上文描述的本地设备与异构设备之间的通信方法可相互对应参照。
图3为本申请实施例所提供的本地设备与异构设备之间的通信系统结构示意图，该系统可以包括：
请求接收模块100，用于接收异构设备的通信请求；
进程分配模块200，用于为所述异构设备配置对应的独立MPI进程；
异构通信模块300，用于在所述独立MPI进程内利用预设异构通信框架执行所述异构设备的第一内存与本地设备的第二内存之间的数据交互，以完成所述本地设备与所述异构设备之间的通信。
基于上述实施例，作为优选的实施例，若所述预设异构通信框架为OpenCL框架，则异构通信模块300包括：
数据读取单元，用于利用所述OpenCL框架的缓冲区读取机制从所述异构设备的第一内存中读取待通信数据；
进程间通信单元，用于利用所述独立MPI进程在所述第二内存中执行所述待通信数据的进程间通信，得到通信响应数据；
数据读取单元，用于将所述通信响应数据存储于本地设备的第二内存；
数据读取单元，用于利用所述OpenCL框架的写缓冲区机制将所述通信响应数据从所述第二内存写入所述第一内存。
基于上述实施例，作为优选的实施例，进程间通信单元为用于在所述第二内存中将所述待通信数据由所述独立MPI进程切换至第二独立MPI进程处理，并在所述第二独立MPI进程中调用所述待通信数据所需的异构通信算子对所述待通信数据进行数据处理，得到通信响应数据的单元。
基于上述实施例，作为优选的实施例，还包括：
通信算子编译模块，用于利用Cmake编译工具编译并封装所述异构通信算子；
其中，所述异构通信算子包括Heter_Send、Heter_Recv、Heter_Broadcast、Heter_Scatter、Heter_Gather、Heter_Reduce、Heter_Allreduce、Heter_Allgather中一种或任意几种的组合。
基于上述实施例，作为优选的实施例，还可以包括：
通信算子测试模块，用于对每个所述异构通信算子调用单元测试框架进行功能测试；若功能测试失败，重新编译并封装所述异构通信算子。
基于上述实施例，作为优选的实施例，还可以包括：
异构设备管理模块，用于将所述独立MPI进程和对应的异构设备信息添加至异构设备管理列表；利用所述异构设备管理列表管理与所述本地设备通信的所有异构设备。
本申请还提供了一种计算机可读存储介质，其上存有计算机程序，该计算机程序被执行时可以实现上述实施例所提供的步骤。该存储介质可以包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
本申请还提供了一种电子设备，可以包括存储器和处理器，所述存储器中存有计算机程序，所述处理器调用所述存储器中的计算机程序时，可以实现上述实施例所提供的步骤。当然所述电子设备还可以包括各种网络接口，电源等组件。
说明书中各个实施例采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似部分互相参见即可。对于实施例提供的系统而言，由于其与实施例提供的方法相对应，所以描述的比较简单，相关之处参见方法部分说明即可。
本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想。应当指出，对于本技术领域的普通技术人员来说，在不脱离本申请原理的前提下，还可以对本申请进行若干改进和修饰，这些改进和修饰也落入本申请权利要求的保护范围内。
还需要说明的是，在本说明书中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
Claims (9)
1.一种本地设备与异构设备之间的通信方法，其特征在于，包括：
接收异构设备的通信请求；
为所述异构设备配置对应的独立MPI进程；
在所述独立MPI进程内利用预设异构通信框架执行所述异构设备的第一内存与本地设备的第二内存之间的数据交互，以完成所述本地设备与所述异构设备之间的通信；
其中，所述预设异构通信框架包括OpenCL框架，则所述在所述独立MPI进程内利用预设异构通信框架执行所述异构设备的第一内存与本地设备的第二内存之间的数据交互包括：
利用所述OpenCL框架的缓冲区读取机制从所述异构设备的第一内存中读取待通信数据；
利用所述独立MPI进程在所述第二内存中执行所述待通信数据的进程间通信，得到通信响应数据；
将所述通信响应数据存储于本地设备的第二内存；
利用所述OpenCL框架的写缓冲区机制将所述通信响应数据从所述第二内存写入所述第一内存。
2.根据权利要求1所述的通信方法，其特征在于，利用所述独立MPI进程在所述第二内存中执行所述待通信数据的进程间通信，得到通信响应数据包括：
在所述第二内存中将所述待通信数据由所述独立MPI进程切换至第二独立MPI进程处理，并在所述第二独立MPI进程中调用所述待通信数据所需的异构通信算子对所述待通信数据进行数据处理，得到通信响应数据。
3.根据权利要求2所述的通信方法，其特征在于，在所述第二独立MPI进程中调用异构通信算子对所述待通信数据进行数据处理之前，还包括：
利用Cmake编译工具编译并封装所述异构通信算子；
其中，所述异构通信算子包括Heter_Send、Heter_Recv、Heter_Broadcast、Heter_Scatter、Heter_Gather、Heter_Reduce、Heter_Allreduce、Heter_Allgather中一种或任意几种的组合。
4.根据权利要求3所述的通信方法，其特征在于，利用Cmake编译工具编译并封装所述异构通信算子之后，还包括：
对每个所述异构通信算子调用单元测试框架进行功能测试；
若功能测试失败，重新编译并封装所述异构通信算子。
5.根据权利要求1所述的通信方法，其特征在于，为所述异构设备配置对应的独立MPI进程之后，还包括：
将所述独立MPI进程和对应的异构设备信息添加至异构设备管理列表；
利用所述异构设备管理列表管理与所述本地设备通信的所有异构设备。
6.根据权利要求2所述的通信方法，其特征在于，若所述通信请求为异构设备间通信请求，则所述在所述第二内存中将所述待通信数据由所述独立MPI进程切换至第二独立MPI进程处理，并在所述第二独立MPI进程中调用所述待通信数据所需的异构通信算子对所述待通信数据进行数据处理，得到通信响应数据包括：
在所述第二内存中由所述独立MPI进程将所述待通信数据发送至第二独立MPI进程；所述第二独立MPI进程用于管理与所述本地设备相连的另一异构设备；
在所述第二独立MPI进程中开辟预设存储空间，并在所述预设存储空间中调用所述待通信数据所需的异构通信算子对所述待通信数据进行数据处理，得到通信响应数据。
7.一种本地设备与异构设备之间的通信系统，其特征在于，包括：
请求接收模块，用于接收异构设备的通信请求；
进程分配模块，用于为所述异构设备配置对应的独立MPI进程；
异构通信模块，用于在所述独立MPI进程内利用预设异构通信框架执行所述异构设备的第一内存与本地设备的第二内存之间的数据交互，以完成所述本地设备与所述异构设备之间的通信；
其中，所述预设异构通信框架为OpenCL框架，则所述异构通信模块包括：
数据读取单元，用于利用所述OpenCL框架的缓冲区读取机制从所述异构设备的第一内存中读取待通信数据；
进程间通信单元，用于利用所述独立MPI进程在所述第二内存中执行所述待通信数据的进程间通信，得到通信响应数据；
数据读取单元，用于将所述通信响应数据存储于本地设备的第二内存；
数据读取单元，用于利用所述OpenCL框架的写缓冲区机制将所述通信响应数据从所述第二内存写入所述第一内存。
8.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-6任一项所述的本地设备与异构设备之间的通信方法的步骤。
9.一种电子设备，其特征在于，包括存储器和处理器，所述存储器中存有计算机程序，所述处理器调用所述存储器中的计算机程序时实现如权利要求1-6任一项所述的本地设备与异构设备之间的通信方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011296779.8A CN112306718B (zh) | 2020-11-18 | 2020-11-18 | 一种本地设备与异构设备之间的通信方法、系统及相关装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011296779.8A CN112306718B (zh) | 2020-11-18 | 2020-11-18 | 一种本地设备与异构设备之间的通信方法、系统及相关装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112306718A CN112306718A (zh) | 2021-02-02 |
| CN112306718B true CN112306718B (zh) | 2023-02-28 |
Family
ID=74334850
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011296779.8A Active CN112306718B (zh) | 2020-11-18 | 2020-11-18 | 一种本地设备与异构设备之间的通信方法、系统及相关装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112306718B (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112783597A (zh) * | 2021-02-03 | 2021-05-11 | 金蝶蝶金云计算有限公司 | 一种远程桌面实现方法及相关设备 |
| CN114020264A (zh) * | 2021-10-29 | 2022-02-08 | 深圳市商汤科技有限公司 | 算子处理方法及装置、电子设备和存储介质 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101866326A (zh) * | 2010-05-24 | 2010-10-20 | 北京航空航天大学 | 一种消息传递接口支持总线通信框架 |
| CN104714850A (zh) * | 2015-03-02 | 2015-06-17 | 心医国际数字医疗系统(大连)有限公司 | 一种基于opencl的异构共同计算均衡方法 |
| CN105630690A (zh) * | 2014-10-31 | 2016-06-01 | 华为技术有限公司 | 异构硬件中大数据处理的方法及装置 |
| CN108776648A (zh) * | 2018-05-28 | 2018-11-09 | 郑州云海信息技术有限公司 | 数据传输方法、系统及fpga异构加速卡和存储介质 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| RU2600538C2 (ru) * | 2014-04-08 | 2016-10-20 | Интел Корпорейшн | Запуск приложения на основе интерфейса передачи сообщения (mpi) в гетерогенной среде |
-
2020
- 2020-11-18 CN CN202011296779.8A patent/CN112306718B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101866326A (zh) * | 2010-05-24 | 2010-10-20 | 北京航空航天大学 | 一种消息传递接口支持总线通信框架 |
| CN105630690A (zh) * | 2014-10-31 | 2016-06-01 | 华为技术有限公司 | 异构硬件中大数据处理的方法及装置 |
| CN104714850A (zh) * | 2015-03-02 | 2015-06-17 | 心医国际数字医疗系统(大连)有限公司 | 一种基于opencl的异构共同计算均衡方法 |
| CN108776648A (zh) * | 2018-05-28 | 2018-11-09 | 郑州云海信息技术有限公司 | 数据传输方法、系统及fpga异构加速卡和存储介质 |
Non-Patent Citations (1)
| Title |
|---|
| 有毒重气扩散数值型优化与三维仿真研究;郑家琪;《中国优秀硕士学位论文全文数据库 基础科技辑》;20170615;第4章 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112306718A (zh) | 2021-02-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110716748B (zh) | 业务处理方法、装置、计算机可读介质及电子设备 | |
| JP4690437B2 (ja) | ネットワークアプリケーションにおける通信方法、通信装置及びそのためのプログラム | |
| WO2021088419A1 (zh) | 一种多业务请求进程调用fpga设备的方法及相关装置 | |
| CN106161537A (zh) | 远程过程调用的处理方法、装置、系统及电子设备 | |
| CN112306718B (zh) | 一种本地设备与异构设备之间的通信方法、系统及相关装置 | |
| CN104821954B (zh) | 一种跨平台远程过程调用方法 | |
| US9710288B2 (en) | Method and device for loading application program | |
| US11321090B2 (en) | Serializing and/or deserializing programs with serializable state | |
| CN102662740A (zh) | 非对称多核系统及其实现方法 | |
| CN116800616B (zh) | 虚拟化网络设备的管理方法及相关装置 | |
| CN108804100B (zh) | 创建界面元素的方法、装置、存储介质及移动终端 | |
| CN110457132B (zh) | 一种功能对象的创建方法、装置和终端设备 | |
| WO2022166480A1 (zh) | 任务调度方法、装置及系统 | |
| CN109542464A (zh) | IoT设备脚本程序的开发部署系统、方法及存储介质 | |
| CN113179269A (zh) | 基于物联网的协议数据解析方法、系统、介质及程序产品 | |
| WO2021097683A1 (zh) | 安卓系统启动的方法、装置、设备及存储介质 | |
| CN113961194B (zh) | 基于Flutter跨应用的工程构建方法、系统、终端及介质 | |
| CN112579212A (zh) | 跨语言调用的方法、调用方装置及被调用方装置 | |
| CN110609680A (zh) | 基于Spring拦截器的参数传递方法、装置、存储介质及设备 | |
| WO2006015611A2 (en) | Method and system for reading data, related network and computer program product therefor | |
| CN110874321A (zh) | 测试接口的远程调用方法、调用封装引擎及远程代理引擎 | |
| CN112559336B (zh) | 自适应调试异构计算芯片的方法、装置、系统及主板芯片 | |
| CN113835904A (zh) | 一种远程过程调用控制方法、装置、设备及存储介质 | |
| CN115167985A (zh) | 一种虚拟化的算力提供方法及系统 | |
| CN115114022A (zh) | 对gpu资源进行使用的方法、系统、设备及介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| TR01 | Transfer of patent right |
Effective date of registration: 20240703 Address after: 2324, Building 1, Aosheng Building, No. 1166 Xinluo Street, High tech Zone, Jinan City, Shandong Province, 250000 Patentee after: Inspur Computer Technology Co.,Ltd. Country or region after: China Address before: 35th floor, S01 building, Inspur science and Technology Park, 1036 Inspur Road, Jinan area, Jinan pilot Free Trade Zone, Jinan City, Shandong Province Patentee before: Shandong Yunhai guochuang cloud computing equipment industry innovation center Co.,Ltd. Country or region before: China |
|
| TR01 | Transfer of patent right |