CN105577801B - 一种业务加速方法及装置 - Google Patents

Abstract

本发明公开一种业务加速方法及装置，该方法应用于业务加速装置中，该装置与多个业务处理单元和多个加速引擎相连，该方法包括：查询所述多个加速引擎的加速类型和空闲加速能力信息，根据所述加速类型和空闲加速能力信息形成加速器资源池；在接收到所述多个业务处理单元中的第一业务处理单元的加速申请后，则按照预设的分配粒度从所述加速器资源池中分配与所述第一加速能力的第一加速类型对应的第一空闲加速能力和连接号；将加速处理后得到的结果报文反馈给所述第一业务处理单元。本发明提供的方法和装置解决现有技术中加速器资源不能合理利用，从而出现资源浪费的问题。

Description

一种业务加速方法及装置

技术领域

本发明涉及电子技术领域，尤其涉及一种业务加速方法及装置。

背景技术

目前通信网络通常不同的业务都在不同的硬件上部署，因此通信网络通常由许多业务在不同的专用硬件上实现，如防火墙、负载均衡设备、交换机、路由器、网管等，繁多而复杂的专用硬件设备导致的软硬件耦合强、维护成本高、业务部署慢等问题，而为这些专用硬件寻找部署空间、提供电源也变更加困难。同时，随着业务的多样性的快速创新发展，基于硬件的专用设备很快就到了生命周期，这需要运营商不断地“设计-集成-部署”，成本越来越高，而收益越来越少，使得运营商面临巨大的挑战。在在这种背景下，运营商阵营提出了网络功能虚拟化(Network Functions Virtualisation，NFV)的概念，通过借用IT的虚拟化技术，在标准的IT服务器上通过软件实现诸如路由器、交换机、防火墙和网络存储设备等网络功能，来实现通信网络硬件设备的标准化和简单化，以实现降成本和业务的快速部署、创新，然而，标准的IT服务器运行的软件许多场景下难以满足通信网络的性能和延时目标，因此需要硬件加速设备对业务进行加速。

除了NFV场景的加速需求，目前业界也有很多已有的硬件加速设备，比如图形加速卡、加解密加速卡、编解码加速卡以及其它业务加速芯片等。这种硬件加速设备，通过插卡的形式和业务处理连接在一起，或者专用的加速芯片通过PCB走线的方式和业务处理单元相连，业务处理单元独享加速器资源。也有加速器通过网络和业务单元相连，实现各业务处理单元分时共享加速器资源的方式。

如图1所示，现有技术提供了一种动态的管理加速器资源的方法和信息处理系统。该系统初始化完成后，系统初始地将加速器资源的集合和业务处理单元一一指定的对应起来，如初始化地将加速器资源A指派给业务处理单元A，将加速器资源B指派给业务处理单元B，将加速器资源C指派给业务处理单元C。分配管理器负责监视所有业务单元上业务运行的性能统计信息，当某一业务处理单元A无法满足工作性能目标时，分配管理器会分析其它业务处理单元的工作负载情况，如果将其它另一业务处理单元C对应的加速器资源重新指派给某一无法满足工作性能目标的业务处理单元A，使得业务处理单元C性能下降值大于业务处理单元A的增加值，或者业务处理单元A的性能增加值大于设定的阀值，则将业务处理单元C对应的加速器资源分配给业务处理单元A，业务处理单元C将失去加速器资源。

上述现有技术通过系统分配管理器收集所有业务处理单元的工作情况，动态的分配加速器资源和业务处理单元的绑定关系，一定程度上提高了加速器资源的利用率，但是在任一时刻，某一个加速器资源只能被一个业务处理单元使用，增加一个业务处理单元的加速器资源，提升其工作性能，同时也会使得另一业务处理单元的工作性能的下降，所以加速器资源不能合理利用，从而出现资源浪费的问题。

发明内容

本发明提供一种业务加速方法及装置，本发明所提供的方法和装置解决现有技术中加速器资源不能合理利用，从而出现资源浪费的问题。

第一方面，提供一种业务加速装置，该装置与多个业务处理单元和多个加速引擎相连，该装置包括：

资源池形成模块，用于查询所述多个加速引擎的加速类型和空闲加速能力信息，根据所述加速类型和空闲加速能力信息形成加速器资源池；

判断模块，用于在接收到所述多个业务处理单元中的第一业务处理单元的加速申请后，根据该加速申请确定所述第一业务处理单元请求的第一加速能力和第一加速类型，判断所述加速器资源池中所述第一加速类型对应的空闲加速能力的第一数量是否大于所述第一加速能力所需求的第二数量；

加速能力分配模块，用于当所述第一数量大于第二数量，则按照预设的分配粒度从所述加速器资源池中分配与所述第一加速能力的第一加速类型对应的第一空闲加速能力和连接号；其中，所述分配粒度为预设地分配所述加速器资源池中空闲加速能力的最小分配单位；

建链模块，用于将所述连接号发送给所述第一业务处理单元，使得第一业务处理单元根据所述连接号与业务加速装置建立链接；

转发模块，用于将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空间加速能力的至少一个加速引擎进行加速处理，并将加速处理后得到的结果报文反馈给所述第一业务处理单元。

结合第一方面，在第一种可能的实现方式中，该装置还包括：

指示信息添加模块，用于在确定所述加速申请请求对所述待加速报文进行多种加速类型的加速处理时，则从所述多个加速引擎中确定所述多种加速类型对应的多个目标加速引擎，根据所述多个目标加速引擎的标识信息生成路由信息，并将所述路由信息添加到所述待加速报文中；使得接收到所述待加速报文的加速引擎根据该路由信息将该待加速报文转发到所述路由信息所指示的目标加速引擎进行加速处理。

结合第一方面，或者第一方面的第一种可能的实现方式，在第二种可能的实现方式中，所述转发模块还用于在所述待加速报文中添加标示每个待加速报文的序列号；并在接收到加速处理后得到的结果报文后，根据所述序列号是否连续确定所述待加速报文的加速处理是否异常，如果异常则给所述第一业务处理单元发送重传指示。

结合第一方面，或者第一方面的第一至二种可能的实现方式，在第三种可能的实现方式中，当第一所述业务处理单元与业务加速装置建立的链接为远程直接存储器存取RDMA连接，则所述转发模块还用于在接收到所述待加速报文后，获取所述待加速报文中携带的存储地址，所述存储地址对应第一业务处理单元中的第一存储区域；

则对应的，将加速处理后得到的结果报文反馈给所述第一业务处理单元时，通过RDMA方式将所述结果报文写入所述第一存储区域。

结合第一方面，或者第一方面的第一至三种可能的实现方式，在第四种可能的实现方式中，该装置还包括：

恢复模块，用于在接收到所述第一业务处理单元发送的加速资源释放请求后，删除所述第一业务处理单元与业务加速装置之间的链接，并在所述第一空闲加速能力释放后，更新所述加速器资源池。

第二方面，提供一种业务加速方法，该方法应用于业务加速装置中，该装置与多个业务处理单元和多个加速引擎相连，该方法包括：

查询所述多个加速引擎的加速类型和空闲加速能力信息，根据所述加速类型和空闲加速能力信息形成加速器资源池；

在接收到所述多个业务处理单元中的第一业务处理单元的加速申请后，根据该加速申请确定所述第一业务处理单元请求的第一加速能力和第一加速类型，判断所述加速器资源池中所述第一加速类型对应的空闲加速能力的第一数量是否大于所述第一加速能力所需求的第二数量；

当所述第一数量大于第二数量，则按照预设的分配粒度从所述加速器资源池中分配与所述第一加速能力的第一加速类型对应的第一空闲加速能力和连接号；其中，所述分配粒度为预设地分配所述加速器资源池中空闲加速能力的最小分配单位；

将所述连接号发送给所述第一业务处理单元，使得第一业务处理单元根据所述连接号与业务加速装置建立链接；

将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空间加速能力的至少一个加速引擎进行加速处理，并将加速处理后得到的结果报文反馈给所述第一业务处理单元。

结合第二方面，在第一种可能的实现方式中，将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空间加速能力的至少一个加速引擎进行加速处理之前，该方法还进一步包括：

在确定所述加速申请请求对所述待加速报文进行多种加速类型的加速处理时，则从所述多个加速引擎中确定所述多种加速类型对应的多个目标加速引擎，根据所述多个目标加速引擎的标识信息生成路由信息，并将所述路由信息添加到所述待加速报文中；使得接收到所述待加速报文的加速引擎根据该路由信息将该待加速报文转发到所述路由信息所指示的目标加速引擎进行加速处理。

结合第二方面，或者第二方面的第一种可能的实现方式，在第二种可能的实现方式中，将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空间加速能力的至少一个加速引擎进行加速处理之前，该方法还进一步包括

在所述待加速报文中添加标示每个待加速报文的序列号；

对应的，在接收到加速处理后得到的结果报文后，根据所述序列号是否连续确定所述待加速报文的加速处理是否异常，如果异常则给所述第一业务处理单元发送重传指示。

结合第二方面，或者第二方面的第一至二种可能的实现方式，在第三种可能的实现方式中，当所述第一所述业务处理单元与业务加速装置建立的链接为RDMA连接，将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空间加速能力的至少一个加速引擎进行加速处理之前，该方法还包括：

在接收到所述待加速报文后，获取所述待加速报文中携带的存储地址，所述存储地址对应第一业务处理单元中的第一存储区域；

则对应的，所述将加速处理后得到的结果报文反馈给所述第一业务处理单元时包括：

通过RDMA方式将所述结果报文写入所述第一存储区域。

结合第二方面，或者第二方面的第一至三种可能的实现方式，在第四种可能的实现方式中，所述将加速处理后得到的结果报文反馈给所述第一业务处理单元之后，该方法进一步包括：

在接收到所述第一业务处理单元发送的加速资源释放请求后，删除所述第一业务处理单元与业务加速装置之间的链接，并在所述第一空闲加速能力释放后，更新所述加速器资源池。

上述技术方案中的一个或两个，至少具有如下技术效果：

本发明实施例所提供的方法和装置，将多个加速引擎所提供的加速资源整合成一个加速资源池，然后在统一的对加速资源池中的加速资源进行管理，并从加速资源池中量化的分配加速资源给申请对业务进行加速的各个业务处理单元。在本发明实施例中加速引擎和业务处理单元之间通过网络相连，根据业务处理单元的需求实时建立业务处理单元和加速器资源池的链路连接关系，申请建立连接时，业务处理单元定量的向加速器资源池申请加速能力，本发明提供的装置通过流量控制的方式，完成加速器资源池加速能力的量化分配，业务处理单位完成加速后释放加速器之间的连接，从而充分使所有业务处理单元充分共享加速器资源。

附图说明

图1为现有技术提供的动态分配加速器资源的业务加速系统结构示意图；

图2为本发明实施例提供的一种业务加速装置的结构示意图；

图3为本发明实施例提供的一种业务加速方法的流程示意图；

图4为本发明实施例提供的一种加速管理装置的结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明实施例提供的一种业务加速装置，将多个加速引擎所提供的加速资源整合成一个加速资源池，然后在统一的对加速资源池中的加速资源进行管理，并从加速资源池中量化的分配加速资源给申请对业务进行加速的各个业务处理单元。在本发明实施例中加速引擎和业务处理单元之间通过网络相连，根据业务处理单元的需求实时建立业务处理单元和加速器资源池的链路连接关系，申请建立连接时，业务处理单元定量的向加速器资源池申请加速能力，本发明提供的装置通过流量控制的方式，完成加速器资源池加速能力的量化分配，业务处理单位完成加速后释放加速器之间的连接，从而充分使所有业务处理单元充分共享加速器资源。

下面结合说明书附图对本发明实施例作进一步详细描述。

如图2所示，本发明实施例提供一种业务加速装置，该装置与多个业务处理单元和多个加速引擎相连，该装置包括：

本发明实施例中所提供业务加速装置可以与所述多个加速引擎设置在同一个硬件设备上；另外，该业务加速装置与所述多个加速引擎设置在不同的硬件设备上，设置有业务加速装置的硬件设备和设置有加速引擎的硬件设备可以通过一定的互联方式进行连接，当业务加速装置需要使用某一个或几个加速引擎时，可以与需要使用的加速引擎建立连接然后调用加速引擎。

资源池形成模块201，用于查询所述多个加速引擎的加速类型和空闲加速能力信息，根据所述加速类型和空闲加速能力信息形成加速器资源池；

在本发明实施例中，因为加速资源池是由多个加速引擎组成的，不同的加速引擎可能会对应不同的类型(在该实施例中加速引擎的类型是指加速引擎对数据报文进行那种类型的加速处理，例如：加速引擎进行编码加速处理，则该加速引擎的类型为编码加速类型)，所以在该加速器资源池中，可以对加速资源进行分类，同一类型的加速引擎所提供的加速资源汇总在一起。例如，编码类型的加速引擎包括三个，则在该加速资源池中，统计的编码加速资源则为这个加速引擎所有空闲加速能力的总和。

判断模块202，用于在接收到所述多个业务处理单元中的第一业务处理单元的加速申请后，根据该加速申请确定所述第一业务处理单元请求的第一加速能力和第一加速类型，判断所述加速器资源池中所述第一加速类型对应的空闲加速能力的第一数量是否大于所述第一加速能力所需求的第二数量；

在现有技术中，业务处理单元都是与每个单独的加速引擎对应，如果系统中的单个加速引擎不能满足业务处理单元的需求，则不能响应业务处理单元的申请。但在本发明实施例所提的方案中，将所以加速引擎综合成一个资源池，如果同类型的几个加速引擎的综合空闲资源能够满足业务处理单的需求则可以响应业务处理单元的申请。

加速能力分配模块203，用于当所述第一数量大于第二数量，则按照预设的分配粒度从所述加速器资源池中分配与所述第一加速能力的第一加速类型对应的第一空闲加速能力和连接号；其中，所述分配粒度为预设地分配所述加速器资源池中空闲加速能力的最小分配单位；

在本发明实施例中，该分配粒度对应实际加速引擎而言是与加速类型对应的，例如：加速引擎1对应的加速能力为2路H265的编解码加速处理能力，则对应的分配粒度可以是1路H265的编解码加速处理能力。该分配粒度可以采用默认值或者系统配置值。其他加速类型的分配粒度可以是：1路视频的编解码能力，1Gbps的压缩解压缩能力，1Gbps的加解密处理能力等。

建链模块204，用于将所述连接号发送给所述第一业务处理单元，使得第一业务处理单元根据所述连接号与业务加速装置建立链接；

转发模块205，用于将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空间加速能力的至少一个加速引擎进行加速处理，并将加速处理后得到的结果报文反馈给所述第一业务处理单元。

因为，业务处理单元申请到的加速资源有可能是多个加速引擎的空闲资源综合形成的，所以接收到业务处理单元发送的待加速报文后，可能需要根据申请到的加速能力与加速引擎的对应关系将待加速的报文发送到对应的加速引擎进行处理。所以所述转发模块205还用于在所述待加速报文中添加标示每个待加速报文的序列号；并在接收到加速处理后得到的结果报文后，根据所述序列号是否连续确定所述待加速报文的加速处理是否异常，如果异常则给所述第一业务处理单元发送重传指示。

在本发明实施例中，为了保证每个加速引擎在接收到待加速的报文后能够及时进行处理，则该装置根据业务处理单元分配到的加速能力信息，对各条流进行服务质量(Quality of Service，Qos)控制，超过加速业务单元建链时申请的加速能力的报文则丢弃，同时返回给业务处理单元NAK信息，指示业务处理单元加速器拥塞和指示业务处理单元等待一段时间后重传该报文，即表示对应的加速单元的业务流超流量，根据业务处理单元根据指示，满足Qos后重传该加速报文。

另外，为了实现加速资源的实时共享，减小了加速器资源的闲置和浪费，本发明实施例提供的装置在完成每个业务处理单元申请的加速任务之后，会释放对应的加速资源。则该装置还包括：

恢复模块，用于在接收到所述第一业务处理单元发送的加速资源释放请求后，删除所述第一业务处理单元与业务加速装置之间的链接，并在所述第一空闲加速能力释放后，更新所述加速器资源池。

在本发明实施例中，业务加速装置只是对报文完成业务的加速处理，并不需要缓存报文，并且在业务处理单元申请加速资源的建链请求阶段已经完成资源的分配，业务加速装置会控制业务处理单元和加速引擎之间的报文的流量，这样进入加速引擎的报文都可以被加速引擎及时处理并返回给业务处理单元，所以业务加速装置并不需要先传地址给业务处理单元。所以业务加速装置和业务处理单元之间如果是远程直接存储器存取(Remotedirect memory access，RDMA)连接，业务处理单元不用按照标准的RDMA协议获取业务加速装置的缓存地址，而且业务加速装置反馈报文的存储地址业务处理单元也可以在发送报文之前申请，避免后期再通过多次交互获取地址信息，当第一所述业务处理单元与业务加速装置建立的链接为RDMA连接，则该装置中：

所述转发模块205还用于在接收到所述待加速报文后，获取所述待加速报文中携带的存储地址，所述存储地址对应第一业务处理单元中的第一存储区域；则对应的，将加速处理后得到的结果报文反馈给所述第一业务处理单元时，通过RDMA方式将所述结果报文写入所述第一存储区域。

在本发明实施例中，对于需要多种加速的业务，为了实现待加速报文一次传输到加速器资源池，本发明实施例提供的方案中可以通过在待加速报文的报文头中携带加速路由信息，实现报文依次在各个加速引擎之间直接传输，完成各种加速处理，然后返回给业务处理单元，避免报文在业务处理单元和加速器资源池之间的多次传输。对应的，该装置还包括：

指示信息添加模块，用于在确定所述加速申请请求对所述待加速报文进行多种加速类型的加速处理时，则从所述多个加速引擎中确定所述多种加速类型对应的多个目标加速引擎，根据所述多个目标加速引擎的标识信息生成路由信息，并将所述路由信息添加到所述待加速报文中；使得接收到所述待加速报文的加速引擎根据该路由信息将该待加速报文转发到所述路由信息所指示的目标加速引擎进行加速处理。

本发明实施例提供的业务加速装置所连接的所有加速引擎可以按需分配给多个用户同时共享使用，实现加速器资源的虚拟化和量化分配；另外，通过每个业务处理单元实时按需向加速器申请加速资源，并在业务加速处理完成后释放加速资源，并根据申请量对业务处理单元发送的待加速业务的流量控制，实现了加速资源的实时共享，减小了加速器资源的闲置和浪费。

如果业务处理单元与业务加速装置之间是RDMA连接，本基于本发明业务处理单元和业务加速装置之间业务处理的特性，还对RDMA协议的交互流程进行了简化，降低了业务处理单元和业务加速装置之间的报文传输时延，降低业务处理单元CPU的负荷，提升了系统的性能。

进一步，如果一个待加速报文需要多次加速，则在待加速报文中添加路由信息使得报文可以通过路由信息在多个加速引擎之间转发，使需要多次加速的业务报文不需要在业务处理单元和加速器之间的多次传输，也不需要报文在加速器内部的加速器管理模块的多次转发，简化了多次加速业务的处理延时，提升了系统的性能。

如图3所示，本发明实施例还提供一种业务加速方法，该方法应用于业务加速装置中，该装置与多个业务处理单元和多个加速引擎相连，该方法包括：

步骤301，查询所述多个加速引擎的加速类型和空闲加速能力信息，根据所述加速类型和空闲加速能力信息形成加速器资源池；

在本发明实施例中，因为加速资源池是由多个加速引擎组成的，不同的加速引擎可能会对应不同的类型(在该实施例中加速引擎的类型是指加速引擎对数据报文进行那种类型的加速处理，例如：加速引擎进行编码加速处理，则该加速引擎的类型为编码加速类型)，所以在该加速器资源池中，可以对加速资源进行分类，同一类型的加速引擎所提供的加速资源汇总在一起。例如，编码类型的加速引擎包括三个，则在该加速资源池中，统计的编码加速资源则为这个加速引擎所有空闲加速能力的总和。在该实施例中可以通过表格的形式对各加速引擎的加速能力和加速类型进行统计。如表1所示：

表1

表1根据获取到的各个加速引擎中的加速能力信息以及加速类型信息形成，其中每行代表一个加速引擎当前的状态，例如第一行对应加速引擎1(加速引擎编号AE1)，加速类型是(Type1，具体可以是：编码、解码、压缩、解压缩等等)；加速能力(Ability1)，是指AE1总的加速能力；分配粒度(Cfg1)，是指基于加速引擎的加速类型对应的最小资源非配单位(例如：1路H262的解码加速处理能力，或者需要2Gbps的加解密处理能力)；空闲加速能力是指当前加速引擎空闲的加速能力，如果该值为0则是指该加速引擎正处于忙的状态不能。

步骤302，在接收到所述多个业务处理单元中的第一业务处理单元的加速申请后，根据该加速申请确定所述第一业务处理单元请求的第一加速能力和第一加速类型，判断所述加速器资源池中所述第一加速类型对应的空闲加速能力的第一数量是否大于所述第一加速能力所需求的第二数量；

在现有技术中，业务处理单元都是与每个单独的加速引擎对应，如果系统中的单个加速引擎不能满足业务处理单元的需求，则不能响应业务处理单元的申请。但在本发明实施例所提的方案中，将所以加速引擎综合成一个资源池，如果同类型的几个加速引擎的综合空闲资源能够满足业务处理单的需求则可以响应业务处理单元的申请。

步骤303，当所述第一数量大于第二数量，则按照预设的分配粒度从所述加速器资源池中分配与所述第一加速能力的第一加速类型对应的第一空闲加速能力和连接号；其中，所述分配粒度为预设地分配所述加速器资源池中空闲加速能力的最小分配单位；

在本发明实施例中，该分配粒度对应实际加速引擎而言是与加速类型对应的，例如：加速引擎1对应的加速能力为2路H265的编解码加速处理能力，则对应的分配粒度可以是1路H265的编解码加速处理能力。该分配粒度可以采用默认值或者系统配置值。其他加速类型的分配粒度可以是：1路视频的编解码能力，1Gbps的压缩解压缩能力，1Gbps的加解密处理能力等。

步骤304，将所述连接号发送给所述第一业务处理单元，使得第一业务处理单元根据所述连接号与业务加速装置建立链接；

在进行加速资源分配之后，还可以对表1中内容进行刷新，便于其他业务处理单元对加速资源的申请，如果第一业务处理单元的申请将加速引擎2和加速引擎3的空闲加速能力都申请完了，则可以将表1中加速引擎2(标识AE2)和加速引擎3(标识AE3)的空闲加速能力标示为0，具体的参数如表2所示：

加速引擎编号	加速能力类型	加速能力	分配粒度	空闲加速能力
					AE1	Type1	Ability1	Cfg1	Ability1’
AE2	Type2	Ability2	Cfg2	0
					AE3	Type3	Ability3	Cfg3	0
AE4	Type4	Ability4	Cfg4	Ability4’
					……	……	……	……	……
AEn	Typen	Abilityn	Cfgn	Abilityn’

表2

步骤305，将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空间加速能力的至少一个加速引擎进行加速处理，并将加速处理后得到的结果报文反馈给所述第一业务处理单元。

业务处理单元申请到的加速资源有可能是多个加速引擎的空闲资源综合形成的，所以接收到业务处理单元发送的待加速报文后，可能需要根据申请到的加速能力与加速引擎的对应关系将待加速的报文发送到对应的加速引擎进行处理。所以在本发明实施例提供的方法中，将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空间加速能力的至少一个加速引擎进行加速处理之前，该方法还进一步包括

在所述待加速报文中添加标示每个待加速报文的序列号；

对应的，在接收到加速处理后得到的结果报文后，根据所述序列号是否连续确定所述待加速报文的加速处理是否异常，如果异常则给所述第一业务处理单元发送重传指示。

在具体的实施例中，针对同一业务处理单元的报文还需要打上流号和报文序列号，在转发报文的时候，则识别报文发送的目的AE，流号AE11、AE12表示需要发送到AE1进行加速处理的报文1和报文2，流号AE33、AE34表示需要发送到AE3处理。

另外，为了实现加速资源的实时共享，减小了加速器资源的闲置和浪费，本发明实施例提供的装置在完成每个业务处理单元申请的加速任务之后，会释放对应的加速资源。则该实施例中，所述将加速处理后得到的结果报文反馈给所述第一业务处理单元之后，该方法进一步包括：

在接收到所述第一业务处理单元发送的加速资源释放请求后，删除所述第一业务处理单元与业务加速装置之间的链接，并在所述第一空闲加速能力释放后，更新所述加速器资源池。

在本发明实施例中，对于需要多种加速的业务，为了实现待加速报文一次传输到加速器资源池，本发明实施例提供的方案中可以通过在待加速报文的报文头中携带加速路由信息，实现报文依次在各个加速引擎之间直接传输，完成各种加速处理，然后返回给业务处理单元，避免报文在业务处理单元和加速器资源池之间的多次传输。对应的，将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空间加速能力的至少一个加速引擎进行加速处理之前，该方法还进一步包括：

在确定所述加速申请请求对所述待加速报文进行多种加速类型的加速处理时，则从所述多个加速引擎中确定所述多种加速类型对应的多个目标加速引擎，根据所述多个目标加速引擎的标识信息生成路由信息，并将所述路由信息添加到所述待加速报文中；使得接收到所述待加速报文的加速引擎根据该路由信息将该待加速报文转发到所述路由信息所指示的目标加速引擎进行加速处理。

在本发明实施例中，业务加速装置只是对报文完成业务的加速处理，并不需要缓存报文，并且在业务处理单元申请加速资源的建链请求阶段已经完成资源的分配，业务加速装置会控制业务处理单元和加速引擎之间的报文的流量，这样进入加速引擎的报文都可以被加速引擎及时处理并返回给业务处理单元，所以业务加速装置并不需要先传地址给业务处理单元。所以业务加速装置和业务处理单元之间如果是远程直接存储器存取(Remotedirect memory access，RDMA)连接，业务处理单元不用按照标准的RDMA协议获取业务加速装置的缓存地址，而且业务加速装置反馈报文的存储地址业务处理单元也可以在发送报文之前申请，避免后期再通过多次交互获取地址信息，当第一所述业务处理单元与业务加速装置建立的链接为RDMA连接，则将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空间加速能力的至少一个加速引擎进行加速处理之前，该方法还包括：

在接收到所述待加速报文后，获取所述待加速报文中携带的存储地址，所述存储地址对应第一业务处理单元中的第一存储区域；

则对应的，所述将加速处理后得到的结果报文反馈给所述第一业务处理单元时包括：

通过RDMA方式将所述结果报文写入所述第一存储区域。

如图4所示，本发明还提供另一种加速管理装置，该加速管理装置与多个业务处理单元和多个加速引擎相连，该装置包括至少一个处理器401(例如CPU)，至少一个网络接口402或者其他通信接口，存储器403，和至少一个通信总线404，用于实现这些装置之间的连接通信。处理器401用于执行存储器403中存储的可执行模块，例如计算机程序。存储器403可能包含高速随机存取存储器(RAM：Random Access Memory)，也可能还包括非不稳定的存储器(non-volatile memory)，例如至少一个磁盘存储器。通过至少一个网络接口402(可以是有线或者无线)实现该系统网关与至少一个其他网元之间的通信连接，可以使用互联网，广域网，本地网，城域网等；该服务器中还设置有文件系统；该文件系统用于管理目录和文件，并且每个目录对应一个目录存储对象，该目录存储对象中包括对应的目录中所包括的文件或目录的属性列表，所述属性列表中包括所述文件或目录的名称和属性信息。

在一些实施方式中，存储器存储了程序4031，程序可以被处理器执行，这个程序包括：

查询所述多个加速引擎的加速类型和空闲加速能力信息，根据所述加速类型和空闲加速能力信息形成加速器资源池；

在接收到所述多个业务处理单元中的第一业务处理单元的加速申请后，根据该加速申请确定所述第一业务处理单元请求的第一加速能力和第一加速类型，判断所述加速器资源池中所述第一加速类型对应的空闲加速能力的第一数量是否大于所述第一加速能力所需求的第二数量；

当所述第一数量大于第二数量，则按照预设的分配粒度从所述加速器资源池中分配与所述第一加速能力的第一加速类型对应的第一空闲加速能力和连接号；其中，所述分配粒度为预设地分配所述加速器资源池中空闲加速能力的最小分配单位；

将所述连接号发送给所述第一业务处理单元，使得第一业务处理单元根据所述连接号与业务加速装置建立链接；

将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空间加速能力的至少一个加速引擎进行加速处理，并将加速处理后得到的结果报文反馈给所述第一业务处理单元。

本申请实施例中的上述一个或多个技术方案，至少具有如下的技术效果：

本发明实施例提供的业务加速装置所连接的所有加速引擎可以按需分配给多个用户同时共享使用，实现加速器资源的虚拟化和量化分配；另外，通过每个业务处理单元实时按需向加速器申请加速资源，并在业务加速处理完成后释放加速资源，并根据申请量对业务处理单元发送的待加速业务的流量控制，实现了加速资源的实时共享，减小了加速器资源的闲置和浪费。

如果业务处理单元与业务加速装置之间是RDMA连接，本基于本发明业务处理单元和业务加速装置之间业务处理的特性，还对RDMA协议的交互流程进行了简化，降低了业务处理单元和业务加速装置之间的报文传输时延，降低业务处理单元CPU的负荷，提升了系统的性能。

进一步，如果一个待加速报文需要多次加速，则在待加速报文中添加路由信息使得报文可以通过路由信息在多个加速引擎之间转发，使需要多次加速的业务报文不需要在业务处理单元和加速器之间的多次传输，也不需要报文在加速器内部的加速器管理模块的多次转发，简化了多次加速业务的处理延时，提升了系统的性能。

本发明所述的方法并不限于具体实施方式中所述的实施例，本领域技术人员根据本发明的技术方案得出其它的实施方式，同样属于本发明的技术创新范围。

显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。

Claims (10)

1.一种业务加速装置，其特征在于，该装置与多个业务处理单元和多个加速引擎相连，该装置包括：

资源池形成模块，用于查询所述多个加速引擎的加速类型和空闲加速能力信息，根据所述加速类型和空闲加速能力信息形成加速器资源池；

判断模块，用于在接收到所述多个业务处理单元中的第一业务处理单元的加速申请后，根据该加速申请确定所述第一业务处理单元请求的第一加速能力和第一加速类型，判断所述加速器资源池中所述第一加速类型对应的空闲加速能力的第一数量是否大于所述第一加速能力所需求的第二数量；

加速能力分配模块，用于当所述第一数量大于第二数量，则按照预设的分配粒度从所述加速器资源池中分配与所述第一加速能力的第一加速类型对应的第一空闲加速能力和连接号；其中，所述分配粒度为预设地分配所述加速器资源池中空闲加速能力的最小分配单位；

建链模块，用于将所述连接号发送给所述第一业务处理单元，使得第一业务处理单元根据所述连接号与业务加速装置建立链接；

转发模块，用于将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空闲加速能力的至少一个加速引擎进行加速处理，并将加速处理后得到的结果报文反馈给所述第一业务处理单元。

2.如权利要求1所述的装置，其特征在于，该装置还包括：

指示信息添加模块，用于在确定所述加速申请请求对所述待加速报文进行多种加速类型的加速处理时，则从所述多个加速引擎中确定所述多种加速类型对应的多个目标加速引擎，根据所述多个目标加速引擎的标识信息生成路由信息，并将所述路由信息添加到所述待加速报文中；使得接收到所述待加速报文的加速引擎根据该路由信息将该待加速报文转发到所述路由信息所指示的目标加速引擎进行加速处理。

3.如权利要求1或2任一所述的装置，其特征在于，所述转发模块还用于在所述待加速报文中添加标示每个待加速报文的序列号；并在接收到加速处理后得到的结果报文后，根据所述序列号是否连续确定所述待加速报文的加速处理是否异常，如果异常则给所述第一业务处理单元发送重传指示。

4.如权利要求1所述的装置，其特征在于，当第一所述业务处理单元与业务加速装置建立的链接为远程直接存储器存取RDMA连接，则所述转发模块还用于在接收到所述待加速报文后，获取所述待加速报文中携带的存储地址，所述存储地址对应第一业务处理单元中的第一存储区域；

则对应的，将加速处理后得到的结果报文反馈给所述第一业务处理单元时，通过RDMA方式将所述结果报文写入所述第一存储区域。

5.如权利要求1所述的装置，其特征在于，该装置还包括：

恢复模块，用于在接收到所述第一业务处理单元发送的加速资源释放请求后，删除所述第一业务处理单元与业务加速装置之间的链接，并在所述第一空闲加速能力释放后，更新所述加速器资源池。

6.一种业务加速方法，其特征在于，该方法应用于业务加速装置中，该装置与多个业务处理单元和多个加速引擎相连，该方法包括：

查询所述多个加速引擎的加速类型和空闲加速能力信息，根据所述加速类型和空闲加速能力信息形成加速器资源池；

在接收到所述多个业务处理单元中的第一业务处理单元的加速申请后，根据该加速申请确定所述第一业务处理单元请求的第一加速能力和第一加速类型，判断所述加速器资源池中所述第一加速类型对应的空闲加速能力的第一数量是否大于所述第一加速能力所需求的第二数量；

当所述第一数量大于第二数量，则按照预设的分配粒度从所述加速器资源池中分配与所述第一加速能力的第一加速类型对应的第一空闲加速能力和连接号；其中，所述分配粒度为预设地分配所述加速器资源池中空闲加速能力的最小分配单位；

将所述连接号发送给所述第一业务处理单元，使得第一业务处理单元根据所述连接号与业务加速装置建立链接；

将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空闲加速能力的至少一个加速引擎进行加速处理，并将加速处理后得到的结果报文反馈给所述第一业务处理单元。

7.如权利要求6所述的方法，其特征在于，将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空闲加速能力的至少一个加速引擎进行加速处理之前，该方法还进一步包括：

在确定所述加速申请请求对所述待加速报文进行多种加速类型的加速处理时，则从所述多个加速引擎中确定所述多种加速类型对应的多个目标加速引擎，根据所述多个目标加速引擎的标识信息生成路由信息，并将所述路由信息添加到所述待加速报文中；使得接收到所述待加速报文的加速引擎根据该路由信息将该待加速报文转发到所述路由信息所指示的目标加速引擎进行加速处理。

8.如权利要求6或7任一所述的方法，其特征在于，将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空闲加速能力的至少一个加速引擎进行加速处理之前，该方法还进一步包括

在所述待加速报文中添加标示每个待加速报文的序列号；

对应的，在接收到加速处理后得到的结果报文后，根据所述序列号是否连续确定所述待加速报文的加速处理是否异常，如果异常则给所述第一业务处理单元发送重传指示。

9.如权利要求6所述的方法，其特征在于，当所述第一业务处理单元与业务加速装置建立的链接为RDMA连接，将通过所述链接接收到的待加速报文分发送到所述多个加速引擎中提供所述空闲加速能力的至少一个加速引擎进行加速处理之前，该方法还包括：

在接收到所述待加速报文后，获取所述待加速报文中携带的存储地址，所述存储地址对应第一业务处理单元中的第一存储区域；

则对应的，所述将加速处理后得到的结果报文反馈给所述第一业务处理单元时包括：

通过RDMA方式将所述结果报文写入所述第一存储区域。

10.如权利要求6所述的方法，其特征在于，所述将加速处理后得到的结果报文反馈给所述第一业务处理单元之后，该方法进一步包括：

在接收到所述第一业务处理单元发送的加速资源释放请求后，删除所述第一业务处理单元与业务加速装置之间的链接，并在所述第一空闲加速能力释放后，更新所述加速器资源池。