CN109495540A - 一种数据处理的方法、装置、终端设备及存储介质 - Google Patents

Abstract

本发明实施例适用于数据处理技术领域，提供了一种数据处理的方法、装置、终端设备及存储介质，应用于业务交易系统，所述业务交易系统包括主排队节点和多个备用排队节点，所述方法包括：接收前置业务网关发送的业务处理请求；为所述业务处理请求分配排队序号；复制所述排队序号至多个备用排队节点；当接收到超过预设数量的多个备用排队节点反馈的复制成功的信息时，将所述业务处理请求提交至上层业务处理节点进行处理；以及，将已提交的排队序号发送至所述多个备用排队节点，所述多个备用排队节点用于将所述已提交的排队序号提交至所述上层业务处理节点，提高了数据处理的可靠性和实时性。

Description

一种数据处理的方法、装置、终端设备及存储介质

技术领域

本发明属于数据处理技术领域，特别是涉及一种数据处理的方法、一种数据处理的装置、一种终端设备及一种计算机可读存储介质。

背景技术

随着计算机技术的不断发展，现代金融交易领域中快速交易业务核心系统的技术体系越加复杂，已逐步发展成一种需要具备高性能、高可靠、高可扩展能力的分布式系统。其中，核心业务数据的高可靠传递和全序关系排队机制更是确保业务稳定可靠、可重演溯源处理的重要基础，也是系统技术平台的重要组成部分。

通常，排队机制往往是以中间件服务的形式独立部署，基于分布式共识算法理论，使多活的排队机集群内部形成强一致性状态，从而实现全局排序和稳定高可用的能力。如图1所示，是现有技术中一个典型的金融业务核心系统的示意图。在图1中，前置业务网关集群负责接收外围业务请求并投递给排队机集群，排队机集群负责对业务请求进行全局排序并投递给业务处理核心集群，业务处理核心集群负责对已排序的业务请求进行处理并将处理结果发送给下游子系统。

目前，在金融交易业务核心系统中广泛使用的排队技术包括基于开源RabbitMQ中间件(Guaranteed Multicast共识算法)的方案，也有基于自定义共识算法的主机+备机+仲裁机三角色的方案，以及使用Multi-Paxos共识算法的方案。但上述几种方案在原理或实现机制上均存在一定的不足。例如，上述几种共识算法某些缺乏严格的论证，某些存在不必要的复杂性，增加了系统部署的复杂度和流程时延，也无法同时兼顾系统的可靠性和性能。

发明内容

有鉴于此，本发明实施例提供了一种数据处理的方法、装置、终端设备及存储介质，以解决现有技术中业务交易系统部署复杂且可靠性或性能较低的问题。

本发明实施例的第一方面提供了一种数据处理的方法，应用于业务交易系统，所述业务交易系统包括主排队节点和多个备用排队节点，所述方法包括：

接收前置业务网关发送的业务处理请求；

为所述业务处理请求分配排队序号；

复制所述排队序号至多个备用排队节点；

当接收到超过预设数量的多个备用排队节点反馈的复制成功的信息时，将所述业务处理请求提交至上层业务处理节点进行处理；以及，

将已提交的排队序号发送至所述多个备用排队节点，所述多个备用排队节点用于将所述已提交的排队序号提交至所述上层业务处理节点。

可选地，所述主排队节点和多个备用排队节点以子程序的方式嵌入式地部署于所述上层业务处理节点的服务进程中。

可选地，所述主排队节点通过可靠组播消息总线与所述前置业务网关建立通信连接，所述接收前置业务网关发送的业务处理请求的步骤包括：

接收所述前置业务网关通过所述可靠组播消息总线发送的所述业务处理请求。

可选地，在所述为所述业务处理请求分配排队序号的步骤后，还包括：

将所述业务处理请求及其对应的排队序号进行关联存储。

可选地，所述复制所述排队序号至多个备用排队节点的步骤包括：

基于预设的共识算法，将所述业务处理请求对应的排队序号复制至多个备用排队节点。

可选地，所述当接收到超过预设数量的多个备用排队节点反馈的复制成功的信息时，将所述业务处理请求提交至上层业务处理节点进行处理的步骤包括：

当接收到至少一半的备用排队节点反馈的已成功复制所述排队序号的信息时，将已复制成功的排队序号提交至所述上层业务处理节点，所述上层业务处理节点用于依据所述已复制成功的排队序号获取已存储的所述业务处理请求并对所述已存储的业务处理请求进行处理。

可选地，所述将已提交的排队序号发送至所述多个备用排队节点的步骤包括：

触发额外心跳命令，所述额外心跳命令中携带有已提交的排队序号；

基于所述额外心跳命令，将所述已提交的排队序号通知至所述多个备用排队节点。

本发明实施例的第二方面提供了一种数据处理的装置，应用于业务交易系统，所述业务交易系统包括主排队节点和多个备用排队节点，所述装置包括：

接收模块，用于接收前置业务网关发送的业务处理请求；

分配模块，用于为所述业务处理请求分配排队序号；

同步模块，用于复制所述排队序号至多个备用排队节点；

提交模块，用于在接收到超过预设数量的多个备用排队节点反馈的复制成功的信息时，将所述业务处理请求提交至上层业务处理节点进行处理；以及，

处理模块，用于将已提交的排队序号发送至所述多个备用排队节点，所述多个备用排队节点用于将所述已提交的排队序号提交至所述上层业务处理节点。

可选地，所述主排队节点和多个备用排队节点以子程序的方式嵌入式地部署于所述上层业务处理节点的服务进程中。

可选地，所述主排队节点通过可靠组播消息总线与所述前置业务网关建立通信连接，所述接收模块包括：

接收子模块，用于接收所述前置业务网关通过所述可靠组播消息总线发送的所述业务处理请求。

可选地，所述装置还包括：

存储模块，用于将所述业务处理请求及其对应的排队序号进行关联存储。

可选地，所述同步模块包括：

同步子模块，用于基于预设的共识算法，将所述业务处理请求对应的排队序号复制至多个备用排队节点。

可选地，所述提交模块包括：

提交子模块，用于在接收到至少一半的备用排队节点反馈的已成功复制所述排队序号的信息时，将已复制成功的排队序号提交至所述上层业务处理节点，所述上层业务处理节点用于依据所述已复制成功的排队序号获取已存储的所述业务处理请求并对所述已存储的业务处理请求进行处理。

可选地，所述处理模块包括：

触发子模块，用于触发额外心跳命令，所述额外心跳命令中携带有已提交的排队序号；

通知子模块，用于基于所述额外心跳命令，将所述已提交的排队序号通知至所述多个备用排队节点。

本发明实施例的第三方面提供了一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述数据处理的方法的步骤。

本发明实施例的第四方面提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述数据处理的方法的步骤。

与背景技术相比，本发明实施例包括以下优点：

本发明实施例，通过接收前置业务网关发送的业务处理请求并为上述业务处理请求分配排队序号后，发送复制排队序号请求至多个备用排队节点，当接收到超过预设数量的多个备用排队节点反馈的复制成功的信息时，主排队节点可以将上述业务处理请求提交至上层业务处理节点进行处理，同时，将已提交的排队序号通知至多个备用排队节点，由多个备用排队节点将上述已提交的排队序号提交至上层业务处理节点，确保各个备用排队节点所对应的上层业务处理节点能够及时处理排队节点的已提交数据。本实施例在最新的业务处理请求被主排队节点确认为已提交后，立即将最新的已提交的排队序号通知到各个备用排队机，确保所有的上层业务处理节点都能够及时地收到最新的已提交排队序号并进行处理，提高了数据处理的可靠性和实时性。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍。显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1是现有技术中一个典型的金融业务核心系统的示意图；

图2是本发明一个实施例的一种数据处理的方法的步骤流程示意图；

图3是本发明一个实施例的一种排队节点独立部署的示意图；

图4是本发明一个实施例的一种排队节点嵌入式部署的示意图；

图5是本发明一个实施例的另一种数据处理的方法的步骤流程示意图；

图6是本发明一个实施例的一种消息同步处理流程的示意图；

图7是本发明一个实施例的一种消息通知流程的示意图；

图8是本发明一个实施例的一种数据处理的装置的示意图；

图9是本发明一个实施例的一种终端设备的示意图。

具体实施方式

以下描述中，为了说明而不是为了限定，提出了诸如特定系统结构、技术之类的具体细节，以便透彻理解本发明实施例。然而，本领域技术人员应当清楚，在没有这些具体细节的其他实施例中也可以实现本发明。在其他情况中，省略对众所周知的系统、装置、电路以及方法的详细说明，以免不必要的细节妨碍本发明的描述。

下面通过具体实施例来说明本发明的技术方案。

参照图2，示出了本发明一个实施例的一种数据处理的方法的步骤流程示意图，具体可以包括如下步骤：

S201、接收前置业务网关发送的业务处理请求；

需要说明的是，本方法可以应用于各类业务交易系统。例如，金融业务交易系统、证券业务交易系统或其他类型的业务交易系统，本实施例对业务交易系统的具体类型不作限定。

通常，各类业务交易系统中都设计有排队子系统或节点，通过上述排队子系统或节点可以对成千上万的交易请求进行全局排序，从而使业务交易系统的处理模块按照相应的序号对各个交易请求进行处理，保证业务的稳定和顺畅进行。

另一方面，为了保证业务交易系统的可靠性，通常还可以在上述业务交易系统中配置多个备用排队子系统或备用排队节点，从而在主排队子系统或节点出现宕机或其他故障时，能够通过接入备用排队子系统或节点，确保业务的高可靠性。

在本发明实施例中，业务交易系统中可以包括一个主排队节点和多个备用排队节点，备用排队节点的具体数量可以根据业务交易系统的实际需要确定，本实施例对此不作限定。

需要说明的是，本发明实施例中的主排队节点和多个备用排队节点可以在业务交易系统中独立部署也可以嵌入式地部署在上述业务交易系统中，本实施例对此不作限定。

如图3所示，是本发明一个实施例的一种排队节点独立部署的示意图。在图3中，主排队节点和多个备用排队节点可以以排队子系统的形式独立地部署于业务交易系统中，排队子系统可以通过可靠组播消息总线与前置业务网关和业务处理核心进行通信。如图4所示，是本发明一个实施例的一种排队节点嵌入式部署的示意图。在图4中，主排队节点和多个备用排队节点也可以以子程序的形式嵌入式地部署于业务交易系统的处理核心中，当主排队节点和多个备用排队节点嵌入式地部署时，主排队节点可以通过连接在业务交易系统的处理核心与前置业务网关之间的可靠组播消息总线来实现与前置业务网关之间的通信。

可靠组播消息总线是一种通信模式，该模式的下层基于网络UDP(User DatagramProtocol，用户数据报协议)多播(Multicast)协议，是一种集群间的通信方式。相较于点对点的通信方式，总线的方式可以让发送者发送的消息可以同时让所有接收者收到，可靠组播消息总线还提供了可靠性机制，当发生了UDP丢包或乱序的情况时，总线会自动进行重传处理，确保传输的可靠性。

在本发明实施例中，当前置业务网关生成业务处理请求后，可以将该业务处理请求发送至主排队节点。主排队节点在接收到上述业务处理请求后，可以及时地对该请求作出响应。

需要说明的是，前置业务网关会将业务处理请求发送至消息总线，主排队节点可以通过消息总线收到上述前置业务网关的业务处理请求。根据配置的不同，可以是只有主排队节点接收到上述业务处理请求，也可以是主排队节点和备用排队节点同时能够接收到上述业务处理请求。为了便于理解，本实施例统一以只有主排队节点接收到上述业务处理请求为例进行后续的介绍和说明。

S202、为所述业务处理请求分配排队序号；

通常，由前置业务网关生成并发送至主排队节点的业务处理请求数量非常庞大，因此，为了确保对每一个业务处理请求的有序和稳定的处理，主排队节点可以对接收到的全部业务处理请求分别分配一排队序号。

在具体实现中，主排队节点可以根据接收到的业务处理请求的时间先后顺序为各个业务处理请求分配排队序号。通常，一个业务处理请求对应于一个排队序号。

S203、复制所述排队序号至多个备用排队节点；

在本发明实施例中，主排队节点在完成对业务处理请求的排序后，可以基于已分配的排队序号生成排序日志记录，并将该排序日志记录复制给其他的备用排队节点，使得备用排队节点也能够接收到各个业务处理请求对应的排队序号。

S204、当接收到超过预设数量的多个备用排队节点反馈的复制成功的信息时，将所述业务处理请求提交至上层业务处理节点进行处理；

在本发明实施例中，预设的多个备用排队节点可以是指至少一半的备用排队节点。例如，若备用排队节点共4个，则预设数量即为至少2个；若备用排队节点共7个，则预设数量即为至少4个。

当至少一半的备用排队节点向主排队节点反馈已成功复制各个业务处理请求对应的排队序号后，可以认为多数派的排队节点均成功复制了上述排队序号，系统此时对该排队序号已经达到了某种分布式一致性状态，多数派的备用排队节点已经对该排队序号达成共识，可以忽略其他未成功复制排队序号的备用排队节点的状态。

在本发明实施例中，当主排队节点确认系统已经达成一致性状态，各个业务处理请求相应的排队序号已经被复制至其他备用排队节点后，可以将上述业务处理请求提交至上层业务处理节点进行处理。

S205、将已提交的排队序号发送至所述多个备用排队节点，所述多个备用排队节点用于将所述已提交的排队序号提交至所述上层业务处理节点。

通常，由于上层业务处理节点包括多个，它们可能处理相同的任务或者不同的任务。因此，每个上层业务处理节点都需要对已提交的业务处理请求进行及时地处理。在本发明实施例中，主排队节点将业务处理请求提交至上层处理节点时，也可以将已提交的排队序号通知至多个备用排队节点，由备用排队节点将上述已提交的排队序号提交至上层业务处理节点，保证所有的上层业务处理节点都能够及时地处理已提交的业务处理请求。

在本发明实施例中，通过接收前置业务网关发送的业务处理请求并为上述业务处理请求分配排队序号后，发送复制排队序号请求至多个备用排队节点，当接收到超过预设数量的多个备用排队节点反馈的复制成功的信息时，主排队节点可以将上述业务处理请求提交至上层业务处理节点进行处理，同时，将已提交的排队序号通知至多个备用排队节点，由多个备用排队节点将上述已提交的排队序号提交至上层业务处理节点，确保各个备用排队节点所对应的上层业务处理节点能够及时处理排队节点的已提交数据。本实施例在最新的业务处理请求被主排队节点确认为已提交后，立即将最新的已提交的排队序号通知到各个备用排队机，确保所有的上层业务处理节点都能够及时地收到最新的已提交排队序号并进行处理，提高了数据处理的可靠性和实时性。

参照图5，示出了本发明一个实施例的另一种数据处理的方法的步骤流程示意图，所述方法可以应用于业务交易系统，所述业务交易系统包括主排队节点和多个备用排队节点，所述方法具体可以包括如下步骤：

S501、接收所述前置业务网关通过所述可靠组播消息总线发送的所述业务处理请求；

需要说明的是，本方法可以应用于各类业务交易系统。例如，金融业务交易系统或其他类型的业务交易系统，本实施例对业务交易系统的具体类型不作限定。

为了便于理解，本实施例以金融业务交易系统为例进行后续的介绍和说明。

在金融业务交易系统中，可以传输包括证券类、基金类、期货类等等各种业务请求，如委托订单、查询、资产管理、账户管理等等。用户可以通过在手机、平板电脑等终端设备发起与上述请求相对应的操作，交易系统中的前置业务网关可以接收到上述请求，并在对其进行翻译生成业务处理请求后，将该业务处理请求发送至交易系统中的主排队节点。

在具体实现中，主排队节点可以通过可靠组播消息总线与前置业务网关建立通信连接，因此，前置业务网关可以将业务处理请求发送至可靠组播消息总线，主排队节点可以通过可靠组播消息总线收到上述前置业务网关的业务处理请求。

在本发明实施例中，为了保证金融业务交易系统的可靠性，可以在上述金融业务交易系统中配置多个备用排队节点，从而在主排队节点出现宕机或其他故障时，能够通过接入备用排队节点，确保业务的高可靠性。

在本发明实施例中，主排队节点是通过算法投票机制选举动态产生的。具体地，全部排队节点基于Raft共识算法，根据自己的状态相互投票，获得集群中大多数投票确认的节点会被选举成功为主排队节点。当主排队节点因为某种原因发生故障导致掉线后，备用排队节点会自动察觉到上述异常，并自动同构投票选举机制重新选举出新的主排队节点。

Raft共识算法是一种经过严格学术证明的共识算法，主要用于解决计算机分布式系统中的共识问题，简单说就是集群中的各个节点对某个状态达成共识，且这个共识是可靠的，不会因为某些故障造成已经达成的共识又发生改变。

需要说明的是，当未选举出新的主排队节点时，整个系统是不可用的，所有排队节点可以拒绝全部前置业务网关发送的业务处理请求的数据，前置业务网关负责对上层请求数据进行超时处理和流量控制，运维子系统负责对整体服务状态进行监控管理。

当选举出新的主排队节点后，所有排队节点自动开始接收前置业务网关的业务处理请求并对排队序号进行强一致性同步，业务处理请求的接收可以通过可靠组播消息总线接收并对前置业务网关透明。

在本发明实施例中，主排队节点和多个备用排队节点可以以子程序的方式嵌入式地部署于上层业务处理节点的服务进程中。

如图6所示，是本发明一个实施例的一种消息同步处理流程的示意图。在图6中，包括前置业务网关1和前置业务网关2，前置业务网关1和前置业务网关2通过消息总线与上层业务处理节点建立通信。各个排队节点以子程序的形式嵌入式地部署于上层业务处理节点的服务进程中。在图6中，包括一个主排队节点和两个备用排队节点。

S502、为所述业务处理请求分配排队序号；

通常，由前置业务网关生成并发送至主排队节点的业务处理请求数量非常庞大，因此，为了确保对每一个业务处理请求的有序和稳定的处理，主排队节点可以对接收到的全部业务处理请求分别分配一排队序号。

在具体实现中，主排队节点可以根据接收到的业务处理请求的时间先后顺序为各个业务处理请求分配排队序号。通常，一个业务处理请求对应于一个排队序号。

S503、将所述业务处理请求及其对应的排队序号进行关联存储；

在本发明实施例中，主排队节点在为各个业务处理请求分配排队序号后，还可以将该业务处理请求及其对应的排队序号进行关联存储。例如，可以将上述业务处理请求及其对应的排队序号存储在磁盘或共享内存中。

通过对上述业务处理请求及其对应的排队序号进行存储，使得上层业务处理节点模块可以仅仅依据排队序号便能够从排队节点模块提供的数据获取接口中获得到与该排队序号相对应的数据进行处理，无需对业务处理请求的数据进行拷贝，提高了交易系统数据处理的性能。

S504、基于预设的共识算法，将所述业务处理请求对应的排队序号复制至多个备用排队节点；

在本发明实施例中，预设的共识算法可以是Raft共识算法。在主排队节点为各个业务处理请求分配排队序号后，可以通过上述Raft共识算法，将主排队节点的排序日志记录复制给备用排队节点，使所有的排队节点达到同样的一致性状态，从而起到高可靠性的作用。

需要说明的是，主排队节点可以根据网关输入压力大小对业务处理请求的排序序号进行一致性复制并批量传输。

S505、当接收到至少一半的备用排队节点反馈的已成功复制所述排队序号的信息时，将已复制成功的排队序号提交至所述上层业务处理节点；

在本发明实施例中，当至少一半的备用排队节点向主排队节点反馈已成功复制各个业务处理请求对应的排队序号后，可以认为多数派的排队节点均成功复制了上述排队序号，系统对该排队序号已经达到了分布式一致性状态，多数派的备用排队节点已经对该排队序号达成共识，此时，可以忽略其他未成功复制排队序号的备用排队节点的状态。

在系统达到分布式一致性状态后，可以通知上层业务处理节点对该业务处理请求进行处理。

在具体实现中，主排队节点可以通过回调的方式将已复制成功的排队序号通知给上层业务处理节点，上层业务处理节点可以依据上述已复制成功的排队序号获取已存储的业务处理请求并对已存储的业务处理请求进行处理。

在本发明实施例中，由于业务处理请求的数据已经存储在排队节点模块的磁盘或共享内存中，因此，在上层业务处理节点模块获取到已复制成功的排队序号后，可以通过排队节点提供的数据获取接口获取到该排队序号对应的数据并进行处理，减少了数据拷贝，提高了数据处理的性能灵活性。

需要说明的是，上层业务处理节点可以循环等待并对已提交的排队序号对应的业务数据进行处理，上层业务处理节点的已处理的排队序号状态和已提交的排队序号状态可以分别独立维护，支持重置已处理的排队序号对已提交的排队序号前的数据进行重演处理。

S506、触发额外心跳命令，所述额外心跳命令中携带有已提交的排队序号；

S507、基于所述额外心跳命令，将所述已提交的排队序号通知至所述多个备用排队节点，所述多个备用排队节点用于将所述已提交的排队序号提交至所述上层业务处理节点。

在本发明实施例中，为了确保各个备用排队节点所在的上层业务处理节点能够及时处理排队节点已提交的数据，在当最新的业务处理请求被主排队节点确认已提交后，可以立即触发一次额外的Raft心跳到各个备用排队节点。可以在该心跳中携带最新的已提交的排队序号，从而确保所有的上层业务处理节点都能够及时接收到最新的已提交的排队序号并进行处理。

当然，由于在最新的业务处理请求被主排队节点确认已提交后，此时主排队节点还可能从前置业务网关接收到新的业务处理请求的数据，因此，作为本发明实施例的一种示例，还可以在最新的业务处理请求被主排队节点确认已提交后，还可以通过触发一次带有最新接收到的前置业务网关发送的针对业务处理请求的待排队数据的复制请求，通过该复制请求，将已提交的排队序号通知到各个备用排队节点。

在基本的Raft协议的队列日志复制流程中，数据的复制请求是由主排队节点发起的，复制确认也是主排队节点进行收集的。当收集到多数派的确认信息后，该消息在主排队节点中视为被Raft集群已提交，然而这个已提交的信息在第一时间只有主排队节点知道但是在各个备用排队节点是不知道的，Raft算法也没有约定要求对这个信息在集群中进行立即扩散，只有主排队节点在下一次心跳或是下一次发起复制请求时携带最新的已提交序号。这将导致在嵌入式部署时，备用排队节点所在的上层业务处理节点无法及时处理已提交的业务处理请求的数据，从而导致备用排队节点所在的上层业务处理节点对业务处理的延时明显增加，无法满足实时性的需要。为了确保各个备用排队节点所在的上层业务处理节点能够及时处理排队节点的已提交数据，本实施例在当最新业务请求被主排队节点确认为已提交后，立即触发一次额外的Raft心跳或是一次带有最新收到的前置业务网关发送的针对最新业务处理请求的待排队数据的复制请求(因为此时刻可能从前置业务网关接收到新的业务处理请求的数据)，并同时携带最新的已提交的排队序号到各个备用排队节点，确保所有的上层业务处理节点都能及时接收到最新的已提交的排队序号并进行处理。而对于使用其他方式去通知已提交的排队序号，需要实现排队节点之间额外的通讯机制和额外的逻辑确保在备用排队节点中的已提交的排队序号所指向的存储数据与主排队节点一致，否则该数据在该备用排队节点是无效的，需要等待数据的同步。相较于其他方案，本实施例利用Raft已有的协议机制使得这种通知形式变得简单且正确。

为了便于理解，下面以一个完整的示例对本发明的数据处理的方法作一介绍。

如图7所示，是本发明一个实施例的一种消息通知流程的示意图。在图7中，当业务交易系统接收到一个业务处理请求时，由选举产生的主排队节点可以发送排队序号复制请求到各个备用排队节点，同时将排序信息和请求数据落盘存储。各个备用排队节点在接收到排队序号复制请求后，可以对该请求进行处理并在落盘存储后将复制确认的信息反馈给主排队节点。当主排队节点接收到多数派反馈的复制确认信息后，通知本地上层业务处理节点对该排队序号对应的业务处理请求进行处理，并触发额外的心跳或复制请求发送至备用排队节点。备用排队节点在接收到上述额外的心跳或复制请求后，可以将最新已提交的排队序号通知至上层业务处理节点，由上层业务处理节点进行处理。

本实施例提供的数据处理方法基于对Raft算法的改进，上述改进只是在嵌入式部署时增加了排队节点之间的一次额外可能的Raft心跳(或复制请求)，可以证明这没有违背和破坏Raft算法的正确性，而这样的额外交互是为了确保业务数据在各核心节点及时处理的必要开销，是无法避免的。本实施例确保了排队数据强一致性机制的简洁、正确和高性能，也具备了更加容易的扩展能力，同时可选择的模块化嵌入集成方式让排队子系统的部署更加容易和灵活，降低了通信时延，同时也兼顾了系统的可靠性和性能。

需要说明的是，上述实施例中各步骤的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。

参照图8，示出了本发明一个实施例的一种数据处理的装置的示意图，所述装置可以应用于业务交易系统，所述业务交易系统包括主排队节点和多个备用排队节点，所述装置具体可以包括如下模块：

接收模块801，用于接收前置业务网关发送的业务处理请求；

分配模块802，用于为所述业务处理请求分配排队序号；

同步模块803，用于复制所述排队序号至多个备用排队节点；

提交模块804，用于在接收到超过预设数量的多个备用排队节点反馈的复制成功的信息时，将所述业务处理请求提交至上层业务处理节点进行处理；以及，

处理模块805，用于将已提交的排队序号发送至所述多个备用排队节点，所述多个备用排队节点用于将所述已提交的排队序号提交至所述上层业务处理节点。

在本发明实施例中，所述主排队节点和多个备用排队节点可以以子程序的方式嵌入式地部署于所述上层业务处理节点的服务进程中。

在本发明实施例中，所述主排队节点可以通过可靠组播消息总线与所述前置业务网关建立通信连接，所述接收模块801具体可以包括如下子模块：

接收子模块，用于接收所述前置业务网关通过所述可靠组播消息总线发送的所述业务处理请求。

在本发明实施例中，所述装置还可以包括如下模块：

存储模块，用于将所述业务处理请求及其对应的排队序号进行关联存储。

在本发明实施例中，所述同步模块803具体可以包括如下子模块：

同步子模块，用于基于预设的共识算法，将所述业务处理请求对应的排队序号复制至多个备用排队节点。

在本发明实施例中，所述提交模块804具体可以包括如下子模块：

提交子模块，用于在接收到至少一半的备用排队节点反馈的已成功复制所述排队序号的信息时，将已复制成功的排队序号提交至所述上层业务处理节点，所述上层业务处理节点用于依据所述已复制成功的排队序号获取已存储的所述业务处理请求并对所述已存储的业务处理请求进行处理。

在本发明实施例中，所述处理模块805具体可以包括如下子模块：

触发子模块，用于触发额外心跳命令，所述额外心跳命令中携带有已提交的排队序号；

通知子模块，用于基于所述额外心跳命令，将所述已提交的排队序号通知至所述多个备用排队节点。

对于装置实施例而言，由于其与方法实施例基本相似，所以描述得比较简单，相关之处参见方法实施例部分的说明即可。

参照图9，示出了本发明一个实施例的一种终端设备的示意图。如图9所示，本实施例的终端设备900包括：处理器910、存储器920以及存储在所述存储器920中并可在所述处理器910上运行的计算机程序921。所述处理器910执行所述计算机程序921时实现上述数据处理的方法各个实施例中的步骤，例如图2所示的步骤S201至S205。或者，所述处理器910执行所述计算机程序921时实现上述各装置实施例中各模块/单元的功能，例如图8所示模块801至805的功能。

示例性的，所述计算机程序921可以被分割成一个或多个模块/单元，所述一个或者多个模块/单元被存储在所述存储器920中，并由所述处理器910执行，以完成本发明。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段可以用于描述所述计算机程序921在所述终端设备900中的执行过程。例如，所述计算机程序921可以被分割成接收模块、分配模块、复制模块、提交模块和发送模块，各模块具体功能如下：

接收模块，用于接收前置业务网关发送的业务处理请求；

分配模块，用于为所述业务处理请求分配排队序号；

同步模块，用于复制所述排队序号至多个备用排队节点；

提交模块，用于在接收到超过预设数量的多个备用排队节点反馈的复制成功的信息时，将所述业务处理请求提交至上层业务处理节点进行处理；以及，

处理模块，用于将已提交的排队序号发送至所述多个备用排队节点，所述多个备用排队节点用于将所述已提交的排队序号提交至所述上层业务处理节点。

所述终端设备900可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述终端设备900可包括，但不仅限于，处理器910、存储器920。本领域技术人员可以理解，图9仅仅是终端设备900的一种示例，并不构成对终端设备900的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如所述终端设备900还可以包括输入输出设备、网络接入设备、总线等。

所述处理器910可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

所述存储器920可以是所述终端设备900的内部存储单元，例如终端设备900的硬盘或内存。所述存储器920也可以是所述终端设备900的外部存储设备，例如所述终端设备900上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(SecureDigital,SD)卡，闪存卡(Flash Card)等等。进一步地，所述存储器920还可以既包括所述终端设备900的内部存储单元也包括外部存储设备。所述存储器920用于存储所述计算机程序921以及所述终端设备900所需的其他程序和数据。所述存储器920还可以用于暂时地存储已经输出或者将要输出的数据。

本领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明。实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将所述装置/终端设备的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本发明的保护范围。上述系统中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其他实施例的相关描述。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

在本发明所提供的实施例中，应该理解到，所揭露的装置/终端设备和方法，可以通过其他的方式实现。例如，以上所描述的装置/终端设备实施例仅仅是示意性的，例如，所述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一方面，所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口，装置或单元的间接耦合或通讯连接，可以是电性，机械或其他的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明实现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件完成，所述的计算机程序可存储于计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，所述计算机程序包括计算机程序代码，所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读存储介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，所述计算机可读存储介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读存储介质不包括电载波信号和电信信号。

以上所述实施例仅用以说明本发明的技术方案，而非对其限制。尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围，均应包含在本发明的保护范围之内。

Claims (10)

1.一种数据处理的方法，应用于业务交易系统，其特征在于，所述业务交易系统包括主排队节点和多个备用排队节点，所述方法包括：

接收前置业务网关发送的业务处理请求；

为所述业务处理请求分配排队序号；

复制所述排队序号至多个备用排队节点；

当接收到超过预设数量的多个备用排队节点反馈的复制成功的信息时，将所述业务处理请求提交至上层业务处理节点进行处理；以及，

将已提交的排队序号发送至所述多个备用排队节点，所述多个备用排队节点用于将所述已提交的排队序号提交至所述上层业务处理节点。

2.根据权利要求1所述的方法，其特征在于，所述主排队节点和多个备用排队节点以子程序的方式嵌入式地部署于所述上层业务处理节点的服务进程中。

3.根据权利要求1或2所述的方法，其特征在于，所述主排队节点通过可靠组播消息总线与所述前置业务网关建立通信连接，所述接收前置业务网关发送的业务处理请求的步骤包括：

接收所述前置业务网关通过所述可靠组播消息总线发送的所述业务处理请求。

4.根据权利要求2所述的方法，其特征在于，在所述为所述业务处理请求分配排队序号的步骤后，还包括：

将所述业务处理请求及其对应的排队序号进行关联存储。

5.根据权利要求4所述的方法，其特征在于，所述复制所述排队序号至多个备用排队节点的步骤包括：

基于预设的共识算法，将所述业务处理请求对应的排队序号复制至多个备用排队节点。

6.根据权利要求5所述的方法，其特征在于，所述当接收到超过预设数量的多个备用排队节点反馈的复制成功的信息时，将所述业务处理请求提交至上层业务处理节点进行处理的步骤包括：

当接收到至少一半的备用排队节点反馈的已成功复制所述排队序号的信息时，将已复制成功的排队序号提交至所述上层业务处理节点，所述上层业务处理节点用于依据所述已复制成功的排队序号获取已存储的所述业务处理请求并对所述已存储的业务处理请求进行处理。

7.根据权利要求1或2或4或5或6任一项所述的方法，其特征在于，所述将已提交的排队序号发送至所述多个备用排队节点的步骤包括：

触发额外心跳命令，所述额外心跳命令中携带有已提交的排队序号；

基于所述额外心跳命令，将所述已提交的排队序号通知至所述多个备用排队节点。

8.一种数据处理的装置，应用于业务交易系统，其特征在于，所述业务交易系统包括主排队节点和多个备用排队节点，所述装置包括：

接收模块，用于接收前置业务网关发送的业务处理请求；

分配模块，用于为所述业务处理请求分配排队序号；

同步模块，用于复制所述排队序号至多个备用排队节点；

提交模块，用于在接收到超过预设数量的多个备用排队节点反馈的复制成功的信息时，将所述业务处理请求提交至上层业务处理节点进行处理；以及，

处理模块，用于将已提交的排队序号发送至所述多个备用排队节点，所述多个备用排队节点用于将所述已提交的排队序号提交至所述上层业务处理节点。

9.一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述数据处理的方法的步骤。

10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述数据处理的方法的步骤。