CN117370042A - 用于核间远程调用的方法、嵌入式多核系统和存储介质 - Google Patents

Abstract

本申请涉及嵌入式系统领域，具体而言，涉及一种用于核间远程调用的方法、嵌入式多核系统和存储介质。该方法应用于包括客户端和服务端的嵌入式多核系统，并且方法包括以下步骤：由客户端发起调用请求，其中发起调用请求包括：调用桩函数，并将调用服务的服务标识和参数放入共享内存，触发核间中断至服务器；响应于调用请求，由服务器调用相应的服务，其中调用相应的服务包括：在接收到核间中断后，在中断处理函数中调用桩函数，以解析共享内存中的服务标识和参数。

Description

用于核间远程调用的方法、嵌入式多核系统和存储介质

技术领域

本申请涉及嵌入式系统领域，具体而言，涉及一种用于核间远程调用的方法、嵌入式多核系统和存储介质。

背景技术

随着多核处理器被越来越广泛的应用到各技术领域，其强大的并行计算能力、低功耗以及高集成度的优点逐渐被市场所接受。多核处理器的显著特征是同一个任务可以被分解到多个内核的线程或进程上并行运行，这种并行性带来了性能的显著提升。然而，在多核处理器带来性能提升的同时，也带来了频繁的核间通信任务以及对多核通信进行管理等一系列复杂问题，并且随着同一芯片上集成的核的日益增多，此问题变得越来越突出。因此，高速高效的核间通信方法成为多核处理器芯片的关键技术之一。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

为了解决或至少缓解以上问题中的一个或多个，提供了以下技术方案。根据本申请的用于核间远程调用的方法、嵌入式多核系统和存储介质实现了一种高性能的核间交互方式，从而提高了多核芯片的中央处理器(CPU)利用率。

根据本申请的第一方面，提供了一种用于核间远程调用的方法，所述方法应用于包括客户端和服务端的嵌入式多核系统，并且所述方法包括以下步骤：由所述客户端发起调用请求，其中发起所述调用请求包括：调用桩函数，并将调用服务的服务标识和参数放入共享内存，触发核间中断至所述服务器；响应于所述调用请求，由所述服务器调用相应的服务，其中调用相应的服务包括：在接收到所述核间中断后，在中断处理函数中调用桩函数，以解析所述共享内存中的服务标识和参数。

根据本申请一实施例的用于核间远程调用的方法，其中，所述方法还包括：所述服务器将调用结果存入所述共享内存；以及所述客户端从所述共享内存读取所述调用结果。

根据本申请一实施例的用于核间远程调用的方法，其中，由所述客户端支持以阻塞调用或非阻塞调用的方式发起所述调用请求。

根据本申请一实施例的用于核间远程调用的方法，其中，所述方法还包括：在所述共享内存中为所述嵌入式多核系统的每个核创建第一环形缓冲区；并且发起所述调用请求包括：由所述客户端将与所述调用请求相关联的服务标识写入所述第一环形缓冲区，以供所述服务器读取。

根据本申请一实施例的用于核间远程调用的方法，其中，所述方法还包括：在所述共享内存中为所述嵌入式多核系统的每个核创建第二环形缓冲区；发起所述调用请求包括：由所述客户端将与所述调用请求相关联的服务参数序列化后依次写入所述第二环形缓冲区；并且调用相应的服务包括：由所述服务器从所述第二环形缓冲区读取数据并对所述数据进行反序列化。

根据本申请一实施例的用于核间远程调用的方法，其中，所述方法还包括：在所述共享内存中为所述嵌入式多核系统的每个核创建第三环形缓冲区；以及由所述服务器在执行完相应的服务后将返回值写入所述第三环形缓冲区，以供所述客户端读取。

根据本申请一实施例的用于核间远程调用的方法，其中，所述方法还包括：在所述共享内存中为所述嵌入式多核系统的每个核创建第四环形缓冲区，所述第四环形缓冲区用于存放指示服务是否执行完成的第一标识；由所述客户端在发起所述调用请求前将所述第一标识置为无效；以及由所述服务器在执行完相应的服务后将所述第一标识置为有效。

根据本申请一实施例的用于核间远程调用的方法，其中，所述方法还包括：为所述共享内存中的每一个环形缓冲区设置用于标识当前读写位置的读索引和写索引；在对所述环形缓冲区进行读取或写入操作时，在对所述环形缓冲区进行加锁后分别更新所述读索引和所述写索引。

根据本申请的第二方面，提供一种嵌入式多核系统，所述嵌入式多核系统包括客户端和服务器，其中所述客户端与所述服务器执行如本申请的第二方面所述的方法进行通信交互。

根据本申请的第三方面，提供一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，其特征在于，当所述指令由处理器执行时，使得所述处理器根据本申请的第一方面所述的方法。

附图说明

本申请的上述和/或其它方面和优点将通过以下结合附图的各个方面的描述变得更加清晰和更容易理解，附图中相同或相似的单元采用相同的标号表示。附图包括：

图1示出了根据本申请的一个实施例的用于核间远程调用的方法100的示意性流程图；

图2示出了根据本申请的一个实施例的嵌入式多核系统200的示意图；

图3示出了根据本申请的一个实施例的用于核间远程调用的方法300的示意性流程图；以及

图4示出了根据本申请的一个实施例的用于核间远程调用的方法400的示意性流程图。

具体实施方式

在本说明书中，参照其中图示了本申请示意性实施例的附图更为全面地说明本申请。但本申请可以按不同形式来实现，而不应解读为仅限于本文给出的各实施例。给出的各实施例旨在使本文的披露全面完整，以将本申请的保护范围更为全面地传达给本领域技术人员。

诸如“包含”和“包括”之类的用语表示除了具有在说明书和权利要求书中有直接和明确表述的单元和步骤以外，本申请的技术方案也不排除具有未被直接或明确表述的其它单元和步骤的情形。诸如“第一”和“第二”之类的用语并不表示单元在时间、空间、大小等方面的顺序而仅仅是作区分各单元之用。

下文参考根据本申请实施例的方法和系统的流程图说明、框图和/或流程图来描述本申请。将理解这些流程图说明和/或框图的每个框、以及流程图说明和/或框图的组合可以由计算机程序指令来实现。可以将这些计算机程序指令提供给通用计算机、专用计算机或其它可编程数据处理设备的处理器以构成机器，以便由计算机或其它可编程数据处理设备的处理器执行的这些指令创建用于实施这些流程图和/或框和/或一个或多个流程框图中指定的功能/操作的部件。还应该注意在一些备选实现中，框中所示的功能/操作可以不按流程图所示的次序来发生。例如，依次示出的两个框实际可以基本同时地执行或这些框有时可以按逆序执行，具体取决于所涉及的功能/操作。

可以将这些计算机程序指令加载到计算机或其它可编程数据处理器上以使一系列的操作步骤在计算机或其它可编程处理器上执行，以便构成计算机实现的进程，以使计算机或其它可编程数据处理器上执行的这些指令提供用于实施此流程图和/或框图的一个或多个框中指定的功能或操作的步骤。还应该注意在一些备选实现中，框中所示的功能/操作可以不按流程图所示的次序来发生。例如，依次示出的两个框实际可以基本同时地执行或这些框有时可以按逆序执行，具体取决于所涉及的功能/操作。

核间的通信可分为两类：一类是控制与状态信息的通信；另一类则是数据通信。前者一般不携带数据，但往往具有较高的实时要求。后者则主要是各类数据缓冲区，通常实时性要求偏低但数据量大。控制与状态信息的通信有较大的通用性，并且与任务间的同步较为相似。这类通信适合由系统软件实现并提供编程接口。数据通信则往往与具体应用相关较大(尤其是在数据结构上)，需要量体裁衣。在实现时，适合由应用软件定义各种数据结构。而数据通信的效率是核间通信的关键指标，这里RPC协议就显得尤为重要。

RPC(Remote Procedure Call，远程过程调用)协议是一种通过远程请求服务，而不需要了解底层逻辑的协议。RPC协议使得开发包括分布式多程序在内的应用程序变得更加容易。RPC协议采用客户端和服务端的模式。请求程序就是一个客户端(client)，而服务提供程序就是一个服务端(server)。首先，客户端调用进程发送一个有进程参数的调用信息到服务进程，然后等待应答信息。在服务端，进程保持睡眠状态直到调用信息到达为止。当一个调用信息到达，服务端获得进程参数，计算结果，发送答复信息，然后等待下一个调用信息，最后，客户端调用进程接收答复信息，获得进程结果，然后调用执行继续进行。

现在参考图1，图1示出了根据本申请的一个实施例的用于核间远程调用的方法100的示意性流程图。方法100应用于包括客户端和服务端的嵌入式多核系统。

示例性地，嵌入式多核系统中包括多个CPU核，每个核上都可能运行服务端(server)函数，其他核上运行的客户端(client)可以通过RPC接口来请求调用服务端函数，服务端接收到请求后，执行相应的函数，并将执行结果返回给客户端。客户端和服务端之间通过共享内存进行数据交互，通过核间中断进行通知。

具体而言，在步骤S110中，由客户端发起调用请求，其中发起调用请求包括：调用桩函数，并将调用服务的服务标识和参数放入共享内存，触发核间中断至服务器。在步骤S120中，响应于调用请求，由服务器调用相应的服务，其中调用相应的服务包括：在接收到核间中断后，在中断处理函数中调用桩函数，以解析共享内存中的服务标识和参数。可选地，方法100还包括：服务器将调用结果存入共享内存；以及客户端从共享内存读取调用结果。

在根据本申请的一个或多个实施例中，在客户端和服务端均有桩(stub)函数负责实现输入输出数据的序列化及通知。示例性地，客户端执行的调用请求的主要流程为调用stub函数，并传入调用服务的服务标识(ID)及参数。客户端的stub函数会将服务ID及参数放入共享内存中，例如共享内存的环形缓冲区(环形缓冲区)中，为了防止多个客户端同时操作共享内存，之后触发一个核间中断给到服务端所在的CPU。示例性地，服务端的CPU接收到中断后，在中断处理函数中调用服务端的stub函数，服务端的stub函数会解析共享内存中的服务ID和参数，并调用相应的服务。同样，示例性地，服务端可将调用结果存入共享内存中。客户端可以通过读取共享内存得到服务的执行结果。

在根据本申请的一个或多个实施例中，客户端支持以阻塞调用或非阻塞调用的方式发起调用请求。阻塞方式会同步等待服务端的返回结果，非阻塞方式调用后不等待服务端的返回结果直接返回。在根据本申请的一个或多个实施例中，为了提高服务端的执行效率，服务端可支持同步执行这一种方式。

下面参考图2，图2示出了根据本申请的一个实施例的嵌入式多核系统200的示意图。如图2所示，嵌入式多核系统200包括一个或多个客户端和一个或多个服务端，其中一个或多个客户端与一个或多个服务端可执行用于核间远程调用的方法(例如，方法100)进行通信交互。

如图2所示，在共享内存中为每个核创建一个或多个环形缓冲区(例如，4个环形缓冲区)来实现客户端和服务端之间的交互。示例性地，一些环形缓冲区负责客户端到服务端的数据传递，由客户端写，服务端读。

可选地，根据本申请的一个或多个实施例的用于核间远程调用的方法包括：在共享内存中为嵌入式多核系统200的每个核创建第一环形缓冲区；由客户端将与调用请求相关联的服务标识写入第一环形缓冲区，以供服务器读取。示例性地，如图2所示，第一环形缓冲区为服务ID环形缓冲区，用于存放客户端请求的服务ID。每次客户端请求调用服务时，会将服务ID放入环形缓冲区中，服务端根据服务ID来执行对应的服务。

可选地，根据本申请的一个或多个实施例的用于核间远程调用的方法包括：在共享内存中为嵌入式多核系统200的每个核创建第二环形缓冲区；由客户端将与调用请求相关联的服务参数序列化后依次写入第二环形缓冲区；并且由服务器从第二环形缓冲区读取数据并对数据进行反序列化。示例性地，如图2所示，第二环形缓冲区是服务参数环形缓冲区，用于存放客户端调用服务时传入的参数。客户端将参数序列化后依次存放在环形缓冲区中，服务端则对其进行反序列化后取出。

可选地，根据本申请的一个或多个实施例的用于核间远程调用的方法包括：在共享内存中为嵌入式多核系统200的每个核创建第三环形缓冲区；以及由服务器在执行完相应的服务后将返回值写入第三环形缓冲区，以供客户端读取。示例性地，如图2所示，第三环形缓冲区是服务返回值环形缓冲区，负责服务端到客户端的数据传递，由服务端写，客户端读。服务返回值环形缓冲区存放的是服务执行的结果，服务端在执行完服务后将返回值存放到该环形缓冲区中，客户端根据需要来获得服务的返回值。

可选地，根据本申请的一个或多个实施例的用于核间远程调用的方法包括：在共享内存中为嵌入式多核系统200的每个核创建第四环形缓冲区，第四环形缓冲区用于存放指示服务是否执行完成的第一标识；由客户端在发起调用请求前将第一标识置为无效；以及由服务器在执行完相应的服务后将第一标识置为有效。示例性地，如图2所示，第四环形缓冲区为有效标识环形缓冲区，用于客户端和服务端之间的同步，客户端和服务端均会对其进行读写，其中存放服务是否执行完成的标识，客户端在调用服务前将标识置为无效，服务端在服务执行完成后将标识置为有效。

可选地，可以为每个环形缓冲区(例如，第一环形缓冲区、第二环形缓冲区、第三环形缓冲区、第四环形缓冲区)设置一个写索引和一个读索引，以用于标识当前读和写的位置。在读取或写入数据时会分别更新读索引和写索引，由于对同一个环形缓冲区可能有多个CPU同时访问，因此在更新数据前需要先对要操作的环形缓冲区进行加锁。示例性地，上述加锁动作通过CAS(Compare And Swap，比较并替换)操作实现，如果CAS操作失败则循环尝试直到成功。

下面继续参考图3，图3示出了根据本申请的一个实施例的用于核间远程调用的方法300的示意性流程图。

客户端执行一次RPC调用时，根据调用的服务来调用相应的客户端RPC stub函数，并传入服务的参数。在RPC stub函数中，首先对需要操作的环形缓冲区加锁。之后，将传入的参数依次存放入服务参数环形缓冲区中(步骤S303)，这个步骤是通过直接内存拷贝函数memcpy完成的，因此性能非常高，没有多余的数据。

如图3所示，对于指针类型的数据，客户端可以选择是否直接拷贝指针(步骤S301)，也即选择两种拷贝方式，一种是直接拷贝指针，这种方式需要客户端保证在服务调用完成前指针指向的内容始终有效。另一种方式是将指针指向的内容拷贝到环形缓冲区(步骤S305)，这种方式在指针内容的数据量较大时的性能相对会较低，但是客户端完成RPC调用后就可以释放指针。完成参数的入队后，接下来的步骤是将服务ID入队(步骤S307)并将对应的服务标识置为无效，这个步骤同样是通过操作环形缓冲区完成。接着，客户端会给需要调用的服务所在的CPU发送一个核间中断(步骤S309)，通知服务端CPU。至此，客户端就完成了一次RPC调用的过程。客户端可以使用同步或异步的方式来获取返回值。

在同步的方式中，完成上述调用后客户端的RPC stub函数不会返回，而是通过轮询服务标识来判断服务是否执行完成(步骤S313)，当服务标识变为有效时，RPC stub将返回值队列中的结果返回给客户端。在异步的方式中，完成上述调用后客户端的RPC stub函数直接返回，并返回服务的索引号。如果客户端需要使用返回值，则可以通过调用RPC的查询函数，通过传入服务索引来查询该次调用是否已经执行完成并获取到返回值。RPC的查询函数同样是通过判断服务标识是否有效来判断服务是否调用完成。

下面继续参考图4，图4示出了根据本申请的一个实施例的用于核间远程调用的方法400的示意性流程图。

如图4所示，服务端的CPU在接收到核间中断信号后，出发中断服务函数(步骤S401)。接着判断指令是否为有效指令(步骤S403)，若有效，则在核间中断的处理函数中调用服务端RPC stub函数(步骤S405)。在执行服务端RPC stub函数中，从服务ID环形缓冲区中将服务ID出队(步骤S407)。之后，从服务参数环形缓冲区中取出与服务ID对应的长度的内容(步骤S409)，根据服务ID来解析参数的内容，并将其反序列化为一系列参数。然后调用真正的服务函数并传入参数，调用完成后将返回值存放入返回值环形缓冲区中(步骤S411)，并将服务有效标识置为有效，这样就完成了一个服务的调用。服务端RPC stub函数会对环形缓冲区中的每一个服务ID执行一遍上述操作，直到环形缓冲区为空。

根据本申请的一个实施例的用于核间远程调用的方案基于RPC机制，应用程序开发不需要了解底层逻辑，提高应用程序开发效率。此外。在一些实施例中，该方案通过无锁队列解决了多客户端同时操作共享内存的技术难题。在又一些实施例中，该方案基于环形缓存区机制结合传输数据直接进行内存拷贝，减少了中间环节，从而实现高效核间通信策略。此外，该方案能够实现嵌入式多核系统的高性能核间交互方式，提高了多核芯片的CPU利用率。

根据本申请的第三方面，提供一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，其特征在于，当所述指令由处理器执行时，使得所述处理器执行如图1、图3或图4所述的方法。

前述公开不旨在将本公开限制为所公开的精确形式或特别使用领域。因此，设想的是，鉴于本公开，无论在本文中明确描述还是暗示，本公开的各种替代实施例和/或修改都是可能的。在已经像这样描述了本公开的实施例的情况下，本领域普通技术人员将认识到的是，在不脱离本公开的范围的情况下，可以在形式和细节上进行改变。因此，本公开仅由权利要求限制。

Claims (10)

1.一种用于核间远程调用的方法，其特征在于，所述方法应用于包括客户端和服务端的嵌入式多核系统并且所述方法包括以下步骤：

由所述客户端发起调用请求，其中发起所述调用请求包括：

调用桩函数，并将调用服务的服务标识和参数写入共享内存，

触发核间中断至所述服务端；

响应于所述调用请求，由所述服务端调用相应的服务，其中调用相应的服务包括：

在接收到所述核间中断后，在中断处理函数中调用桩函数，以解析所述共享内存中的服务标识和参数。

2.根据权利要求1所述的方法，其中，所述方法还包括：

所述服务端将调用结果存入所述共享内存；以及

所述客户端从所述共享内存读取所述调用结果。

3.根据权利要求1所述的方法，其中，所述客户端支持以阻塞调用或非阻塞调用的方式发起所述调用请求。

4.根据权利要求1所述的方法，其中，

所述方法还包括：

在所述共享内存中为所述嵌入式多核系统中的每个核创建第一环形缓冲区；并且

发起所述调用请求包括：

由所述客户端将与所述调用请求相关联的服务标识写入所述第一环形缓冲区，以供所述服务端读取。

5.根据权利要求1所述的方法，其中，

所述方法还包括：

在所述共享内存中为所述嵌入式多核系统中的每个核创建第二环形缓冲区；发起所述调用请求包括：

由所述客户端将与所述调用请求相关联的服务参数序列化后依次写入所述第二环形缓冲区；并且

调用相应的服务包括：

由所述服务端从所述第二环形缓冲区读取数据并对所述数据进行反序列化。

6.根据权利要求1所述的方法，其中，所述方法还包括：

在所述共享内存中为所述嵌入式多核系统中的每个核创建第三环形缓冲区；以及

由所述服务端在执行完相应的服务后将返回值写入所述第三环形缓冲区，以供所述客户端读取。

7.根据权利要求1所述的方法，其中，所述方法还包括：

在所述共享内存中为所述嵌入式多核系统中的每个核创建第四环形缓冲区，所述第四环形缓冲区用于存放指示服务是否执行完成的第一标识；

由所述客户端在发起所述调用请求前将所述第一标识置为无效；以及

由所述服务端在执行完相应的服务后将所述第一标识置为有效。

8.根据权利要求1所述的方法，其中，所述方法还包括：

为所述共享内存中的每一个环形缓冲区设置用于标识当前读写位置的读索引和写索引；以及

在对所述环形缓冲区进行读取或写入操作时，在对所述环形缓冲区进行加锁后分别更新所述读索引和所述写索引。

9.一种嵌入式多核系统，其特征在于，所述嵌入式多核系统包括客户端和服务端，其中所述客户端与所述服务端执行如权利要求1-8中任一项所述的方法进行通信交互。

10.一种计算机可读存储介质，所述计算机可读存储介质中存储有指令，其特征在于，当所述指令由处理器执行时，使得所述处理器执行如权利要求1-8中任一项所述的方法。