CN115203334A - 数据处理方法、装置、电子设备和存储介质 - Google Patents

Abstract

本公开提供了一种数据处理方法、装置、电子设备和存储介质，可用于数据处理技术领域或金融领域，该方法包括：根据从客户端获取的操作请求，确定与操作请求对应的存储节点，存储节点包括主节点和M个从节点，M为正整数；根据M个从节点的实时可用状态，对操作请求和等待指令请求处理，生成合并请求，M个从节点的实时可用状态是通过与注册中心通信的监控组件实时获取的；根据合并请求，建立代理端与存储节点之间的动态连接关系，动态连接关系在满足预设条件时解除；根据动态连接关系，将合并请求发送至存储节点，代理端接收并转发基于存储节点的执行结果生成的响应结果，执行结果是所储节点的主节点及从节点根据合并请求生成的。

Description

数据处理方法、装置、电子设备和存储介质

技术领域

本公开涉及数据处理技术领域，具体涉及一种数据处理方法、装置、电子设备和存储介质。

背景技术

随着互联网的发展，为了保证数据在进行操作时候具有高可用的特性，需要对数据进行同步等处理，在数据结构服务器中，主节点和从节点数据同步策略为异步复制，当存储层出现硬件故障、网络中断等异常情况发生时，主节点触发高可用切换，从节点变成主节点，替代出现问题的主节点。而现有技术中，主节点与从节点之间的数据为异步复制，异步复制过程中，无法保证数据能够完全实现主从节点的数据同步，进而在进行秒杀、抢购等场景时，当主从数据未完全实现同步时而进行主从节点切换，将导致操作请求丢失导致数据错误等问题。

发明内容

有鉴于此，本公开提供一种数据处理方法、装置、电子设备和存储介质，至少部分地解决了主从节点切换后导致数据丢失的问题，可以保证主节点、从节点切换后数据的一致性，提高存储节点的高可用性。

本公开的第一方面提供了一种数据处理方法，包括：根据从客户端获取的操作请求，确定与所述操作请求对应的存储节点，所述存储节点包括主节点和M个从节点，M为正整数；根据所述M个从节点的实时可用状态，对所述操作请求和等待指令请求处理，生成合并请求，所述M个从节点的实时可用状态是通过与注册中心通信的监控组件实时获取的；根据所述合并请求，建立代理端与所述存储节点之间的动态连接关系，所述动态连接关系在满足预设条件时解除；根据所述动态连接关系，将所述合并请求发送至存储节点，所述代理端接收并转发基于所述存储节点的执行结果生成的响应结果，所述执行结果是所述存储节点的主节点及从节点根据所述合并请求生成的。

在本公开的一些示例性实施例中，所述的方法还包括：在所述根据所述M个从节点的实时可用状态，对所述操作请求与等待指令请求处理，生成合并请求之前，从所述注册中心获取由所述监控组件实时获取的所述M个从节点中每个从节点的可用状态。

在本公开的一些示例性实施例中，所述的方法还包括：在根据从客户端获取的操作请求，确定与所述操作请求对应的存储节点之前，从客户端获取操作请求；在接收到从客户端获取的操作请求后，将与所述操作请求相关联的客户端信息和请求数据存储至目标队列。

在本公开的一些示例性实施例中，所述根据从客户端获取的操作请求，确定与所述操作请求对应的存储节点，包括：根据预设算法对从客户端获取的操作请求进行解析，确定目标数据；根据所述目标数据，确定与所述操作请求对应的存储节点。

在本公开的一些示例性实施例中，所述根据所述M个从节点的实时可用状态，对所述操作请求和等待指令请求处理，生成合并请求包括：根据获取的M个从节点中每一个节点的可用状态，统计可用从节点数目；在所述可用从节点数目大于设定阈值时，对所述操作请求和等待指令请求处理，生成合并请求。

在本公开的一些示例性实施例中，所述预设条件包括：建立所述动态连接关系所用时间超过设定时间；以及所述从节点根据所述合并请求生成执行结果。

在本公开的一些示例性实施例中，所述的方法还包括：在所述动态连接关系解除时，删除与所述动态连接关系相关联的请求队列，以及释放存储的与所述动态连接关系相关联的内存信息。

在本公开的一些示例性实施例中，所述代理端接收并转发基于所述存储节点的执行结果生成的响应结果，包括：所述代理端接收第一执行结果，所述第一执行结果是所述主节点根据所述合并请求中的操作请求生成的；所述代理端接收第二执行结果，所述第二执行结果是所述从节点根据所述合并请求中的等待指令请求，将所述主节点的数据同步至M个从节点生成的；所述代理端根据接收的第一执行结果和第二执行结果，生成响应结果并转发至客户端。

本公开的第二方面，提供了一种数据处理装置，包括：确定模块，配置为根据从客户端获取的操作请求，确定与所述操作请求对应的存储节点，所述存储节点包括主节点和M个从节点，M为正整数；生成模块，配置为根据所述M个从节点的实时可用状态，对所述操作请求和等待指令请求处理，生成合并请求，所述M个从节点的实时可用状态是通过与注册中心通信的监控组件实时获取的；处理模块，配置为根据所述合并请求，建立代理端与所述存储节点之间的动态连接关系，所述动态连接关系在满足预设条件时解除；接收转发模块，配置为根据所述动态连接关系，将所述合并请求发送至存储节点，所述代理端接收并转发基于所述存储节点的执行结果生成的响应结果，所述执行结果是所述存储节点的主节点及从节点根据所述合并请求生成的。

在本公开的一些示例性实施例中，所述数据处理装置还包括获取模块，所述获取模块配置为在所述根据所述M个从节点的实时可用状态，对所述操作请求与等待指令请求处理，生成合并请求之前，从所述注册中心获取由所述监控组件实时获取的所述M个从节点中每个从节点的可用状态。

在本公开的一些示例性实施例中，所述数据处理装置还包括存储模块，所述存储模块配置为：在根据从客户端获取的操作请求，确定与所述操作请求对应的存储节点之前，从客户端获取操作请求；在接收到从客户端获取的操作请求后，将与所述操作请求相关联的客户端信息和请求数据存储至目标队列。

在本公开的一些示例性实施例中，所述确定模块包括确定子模块，所述确定子模块配置为：根据预设算法对从客户端获取的操作请求进行解析，确定目标数据；根据所述目标数据，确定与所述操作请求对应的存储节点。

在本公开的一些示例性实施例中，所述生成模块包括生成子模块，所述生成子模块配置为：根据获取的M个从节点中每一个节点的可用状态，统计可用从节点数目；在所述可用从节点数目大于设定阈值时，对所述操作请求和等待指令请求处理，生成合并请求。

在本公开的一些示例性实施例中，所述数据处理装置还包括删除释放模块，所述删除释放模块配置为：在所述动态连接关系解除时，删除与所述动态连接关系相关联的请求队列，以及释放存储的与所述动态连接关系相关联的内存信息。

在本公开的一些示例性实施例中，所述接收转发模块还包括接收转发子模块，所述接收转发子模块配置为：所述代理端接收第一执行结果，所述第一执行结果是所述主节点根据所述合并请求中的操作请求生成的；所述代理端接收第二执行结果，所述第二执行结果是所述从节点根据所述合并请求中的等待指令请求，将所述主节点的数据同步至M个从节点生成的；所述代理端根据接收的第一执行结果和第二执行结果，生成响应结果并转发至客户端。

本公开的第三方面，提供了一种电子设备，包括：一个或多个处理器；存储装置，用于存储可执行指令，所述可执行指令在被所述处理器执行时，实现根据上文所述的方法。

本公开的第四方面，提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时，实现根据上文所述的方法。

本公开的第五方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时，实现根据上文所述的方法。

根据本公开的实施例，该数据处理方法可以应用于代理端，通过根据获取的从节点的实时可用状态，对来自客户端操作请求和等待指令请求处理，生成合并请求，根据建立的动态连接关系，发送合并请求至存储节点，接收基于存储节点的执行结果生成的响应结果，一方面，合并请求是基于从节点的可用状态生成的，可以保证存储节点中从节点的可用性，避免从节点不可用时，从节点的等待指令请求无法响应而导致的主节点、从节点的操作请求失败或者延时的问题，也可以减少操作请求的网络传输资源消耗，可以提高数据处理的速度。另一方面，由于执行结果是存储节点的主节点及从节点根据合并请求生成的，且每个合并请求对应于一个动态连接关系，可以保证在进行操作时，主节点、从节点数据的一致性，并且采用动态连接关系，保证操作请求不会阻塞，提高数据处理的效率。

附图说明

通过以下参照附图对本公开实施例的描述，本公开的上述以及其他目的、特征和优点将更为清楚，在附图中：

图1示意性示出了根据本公开实施例的可以应用数据处理方法的示例性系统架构；

图2示意性示出了根据本公开实施例的数据处理方法的流程图；

图3示意性示出了根据本公开实施例的数据处理方法在获取从节点的可用状态的流程图；

图4示意性示出了根据本公开实施例的数据处理方法在操作400的流程图；

图5示意性示出了根据本公开实施例的数据处理方法在操作S210的流程图；

图6示意性示出了根据本公开实施例的数据处理方法在操作S220的流程图；

图7示意性示出了根据本公开实施例的数据处理方法在动态连接关系解除时的流程图；

图8示意性示出了根据本公开实施例的数据处理方法在操作600的流程图；

图9示意性示出了根据本公开实施例的数据处理方法的执行过程示意图；

图10示意性示出了根据本公开实施例的数据处理方法的合并请求中的等待指令请求的响应结果；

图11示意性示出了根据本公开实施例的数据处理方法中的代理端、注册中心与监控组件的通信关系图；

图12示意性示出了根据本公开实施例的数据处理装置的框图；

图13示意性示出了根据本公开实施例的用于实现数据处理方法的电子设备的框图。

具体实施方式

以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。

在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。

在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。

在使用类似于“A、B或C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个特征。

在本公开的实施例中，术语“等待指令请求”表示用于等待其他的指令执行完成的请求，该命令会进行等待，直到当前连接的存储节点的主节点所有操作请求(写命令)都被传送到指定数量的从节点，如果在超时时间内，未能完成主节点、从节点数据同步，则返回0。示例性地，等待指令请求可以是指wait请求。

在本公开的技术方案中，所涉及的用户个人信息的获取、存储和应用等，均符合相关法律法规的规定，采取了必要保密措施，且不违背公序良俗。在本公开的技术方案中，所涉及的用户个人信息的获取、存储和应用等操作，均获得了用户的授权。

现有技术中，存储节点接收到客户端的操作请求后，对主节点进行操作，并在主节点操作完成后直接向客户端返回主接地点基于操作请求的响应结果。当存储节点中的主节点无法使用时，直接将从节点作为备用主节点以实现主节点的功能，然而，由于主节点和从节点之间采用的异步复制策略，当由主节点切换到从节点后，会有一定的概率出现操作请求丢失。此外，若要对从节点的同步状态进行等待，并在从节点完成同步后，向客户端返回同步完成的响应结果，当从节点损坏或无法连接时，则会导致客户端无法接收响应结果，也会导致耗费等待时间，且不能保证从节点的可用性，由于在等待同步完成的相应结果，导致连接资源被大量占用，降低数据传输的效率。

为了解决相关技术中的上述问题，本公开的实施例提供了一种数据处理方法、装置、电子设备和存储介质，可以应用于代理端，实现对从节点的可用状态进行实时获取，同时基于从节点的可用状态将包含操作请求和等待指令请求的合并请求发送至存储节点，使存储节点可以完成主节点及从节点的数据同步过程，保证主节点、从节点的数据一致性，同时降低连接资源的占用情况，有效提高数据传输的效率。本公开的数据处理方法包括：根据从客户端获取的操作请求，确定与操作请求对应的存储节点，存储节点包括主节点和M个从节点，M为正整数；根据M个从节点的实时可用状态，对操作请求和等待指令请求处理，生成合并请求，M个从节点的实时可用状态是通过与注册中心通信的监控组件实时获取的；根据合并请求，建立代理端与存储节点之间的动态连接关系，动态连接关系在满足预设条件时解除；根据动态连接关系，将合并请求发送至存储节点，代理端接收并转发基于存储节点的执行结果生成的响应结果，执行结果是存储节点的主节点及从节点根据合并请求生成的。

根据本公开的实施例，该数据处理方法可以应用于代理端，通过根据获取的从节点的实时可用状态，对来自客户端操作请求和等待指令请求处理，生成合并请求，根据建立的动态连接关系，发送合并请求至存储节点，接收基于存储节点的执行结果生成的响应结果，一方面，合并请求是基于从节点的可用状态生成的，可以保证存储节点中从节点的可用性，避免从节点不可用时，从节点的等待指令请求无法响应而导致的主节点、从节点的操作请求失败或者延时的问题，也可以减少操作请求的网络传输资源消耗，可以提高数据处理的速度。另一方面，由于执行结果是存储节点的主节点及从节点根据合并请求生成的，且每个合并请求对应于一个动态连接关系，可以保证在进行操作时，主节点、从节点数据的一致性，并且采用动态连接关系，保证操作请求不会阻塞，提高数据处理的效率。

图1示意性示出了根据本公开实施例的可以应用数据处理方法的示例性系统架构。需要注意的是，图1所示仅为可以应用本公开实施例的系统架构的示例，以帮助本领域技术人员理解本公开的技术内容，但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。需要说明的是，本公开实施例提供的数据处理方法、装置、电子设备和可读存储介质可用于数据处理技术领域、金融领域的相关方面，也可用于除金融领域之外的多种领域，本公开实施例提供的数据处理方法、装置、电子设备和可读存储介质对应用领域不做限定。

如图1所示，根据该实施例的系统架构100可以包括终端设备101、102，网络103，代理服务器104以及数据库服务器105。

网络103用以在终端设备101、102和代理服务器104以及数据库服务器105之间提供通信链路的介质。网络103可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102通过网络103与代理服务器104以及数据库服务器105交互，以接收或发送数据、指令等。终端设备101、102上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)，终端设备101、102用于从数据库服务器105中获取数据，或者向数据库服务器105发送数据请求等。

终端设备101、102可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。

代理服务器104可以为终端设备101、102和数据库服务器105之间提供中间服务。

数据库服务器105可以是提供各种数据库服务的服务器，例如对用户利用终端设备101、102所浏览的网站的数据提供数据支持的数据库服务器(仅为示例)。数据库服务器可以对接收到的用户请求等数据进行分析等，并根据用户的请求，并将数据服务库服务器中的数据(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。

需要说明的是，本公开实施例所提供的数据处理方法一般可以由代理服务器104执行，相应地，本公开实施例所提供的数据处理装置一般可以设置于代理服务器104中。本公开实施例所提供的数据处理方法也可以由不同于代理服务器104且能够与终端设备101、102和/或数据库服务器105通信的其他代理服务器执行。相应地，本公开实施例所提供的数据处理装置也可以设置于不同于终端设备101、102且能够与终端设备101、102和/或数据库服务器105通信的其他代理服务器内。

应该理解，图1中的终端设备、网络和代理服务器、数据库服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和代理服务器、数据库服务器。

图2示意性示出了根据本公开实施例的数据处理方法的流程图。本公开实施例的数据处理方法可以应用于代理端，例如代理模块Proxy。如图2所示，本公开实施例的数据处理方法的流程200包括操作S210至操作S240。

在操作S210中，根据从客户端获取的操作请求，确定与操作请求对应的存储节点，存储节点包括主节点和M个从节点，M为正整数。

在本公开的实施例中，客户端向代理端发送请求报文，请求报文中包含有操作请求，例如写请求，即向存储节点写入相应数据的操作请求。代理端在接收到来自客户端的操作请求后，对操作请求进行处理，例如解析等操作，从而确定与该操作请求对应的存储节点。

示例性地，每一个操作请求具有对应的存储节点，通过确定对应的存储节点，可以有效针对存储节点中的主节点和从节点进行操作。例如包括确定主节点、从节点的可用状态，或者根据操作请求对主节点和从节点进行操作，或者获取对应的主节点和从节点的响应结果等等。

在本公开的实施例中，每个存储节点对应有主节点以及作为主节点的备用节点的一个或多个从节点，该从节点在主节点发生故障(例如，损坏或者不可用)后，从节点切换为主节点，代替主节点实现相应的功能，从而保证系统的高可用性能。

根据本公开的实施例，存储节点的主节点和M个从节点可以实现切换，实现客户端在向存储节点发送操作请求时，保证存储节点的高可用性能，提高数据处理过程中的数据一致性。

在操作S220中，根据M个从节点的实时可用状态，对操作请求和等待指令请求处理，生成合并请求，M个从节点的实时可用状态是通过与注册中心通信的监控组件实时获取的。

在本公开的实施例中，通过监控组件实时获取存储节点的M个从节点的实时可用状态，并根据M个从节点的实时可用状态对操作请求和等待指令请求进行处理。

示例性地，从节点的实时可用状态包括可用和不可用，当M个从节点中实时可用状态为可用的从节点的数目大于或等于1，则对操作请求和等待指令请求进行处理，生成合并请求。

当M个从节点中实时可用状态为可用的从节点的数目小于1，则部对操作请求和等待指令请求进行处理，直接将操作请求发送至存储节点的主节点。

在本公开的实施例中，等待指令请求(例如wait请求)用于将主节点的写入的数据同步至从节点，并且在从节点同步完成后，将同步的结果反馈至代理端，并由代理端将最终结果反馈至客户端，便于客户端根据反馈的结果进行进一步的操作。当至少存在一个从节点为可用时，则需向从节点发送等待指令请求，以获取从节点的从主节点的数据同步结果。当从节点中可用的数目为0时，此时无需获取从节点的数据同步结果，直接向客户端反馈存储节点的主节点基于客户端发送的操作请求的执行结果。可以有效提高数据处理的效率，无需等待。

在本公开的实施例中，等待指令请求是代理端向存储节点发送的，用于确定存储节点中主节点向从节点同步数据的同步结果。例如，当存储节点中包括有至少一个以上的可用从节点，则主节点基于操作请求相代理端反馈操作请求的结果，从节点基于等待指令请求由主节点向从节点同步数据，并在同步完成后，向代理端反馈同步结果。由此，可以保证从节点与主节点的数据一致性，即在从节点可用状态下，并且从节点基于操作请求完成数据由主节点向从节点同步完成后，将相应结果反馈至客户端。

在操作S230中，根据合并请求，建立代理端与存储节点之间的动态连接关系，动态连接关系在满足预设条件时解除。

在本公开的实施例中，在生成合并请求时，表明存储节点中包括有可用的从节点。当存在可用节点时，需要获取主节点向从节点同步数据的同步结果，针对每一个操作请求，需要获取该操作请求对应的主节点和从节点之间的数据同步结果。对此，本公开通过建立代理端与存储节点之间的动态连接关系，在主节点基于客户端的操作请求向代理端反馈执行结果后，同时通过同一动态连接关系向代理端反馈从节点基于操作请求以及等待指令请求的执行结果，即向代理端反馈从节点与主节点之间的数据同步结果。在代理端获取到主节点的执行结果以及从节点的同步结果后，解除动态连接关系，从而减少系统资源占用情况。

示例性地，客户端的操作请求例如可以是写请求，在M个从节点中具有一个或多个可用的从节点时，根据操作请求(例如写请求)和等待指令请求生成合并请求，并建立代理端与存储节点之间的动态连接关系，即，根据每个合并请求，新建连接，通过增加连接数的方式，提升并发度，达到较高的吞吐量的处理能力。由于新建连接为动态连接关系，该动态连接关系在满足预设条件是解除。

在本公开的实施例中，预设条件包括建立动态连接关系所用时间超过设定时间；以及从节点根据合并请求生成执行结果。

例如，周期性地对动态连接关系进行检测和监控，当建立动态连接关系所用的时间超过设定时间，则表明代理端与存储节点之间无法在设定时间完成动态连接的建立，此时解除该动态连接关系的建立过程，或者解除该动态连接关系。

又例如，从节点根据合并请求生成执行结果后，即从节点根据合并请求中的等待指令请求，将主节点的数据同步至从节点后，并且基于同步的结果生成执行结果，此时解除该动态连接关系。通过解除动态连接关系，从而减少系统资源占用情况。

在操作S240中，根据动态连接关系，将合并请求发送至存储节点，代理端接收并转发基于存储节点的执行结果生成的响应结果，执行结果是存储节点的主节点及从节点根据合并请求生成的。

在本公开的实施例中，基于建立的动态连接关系，将合并请求发送至存储节点，代理端基于动态连接关系接收存储节点根据合并请求的执行结果生成的响应结果。

示例性地，在合并请求发送至存储节点后，存储节点中的主节点基于合并请求中的操作请求，生成一个执行结果，从节点基于等待指令请求将主节点中的数据同步至从节点中，又生成另一个执行结果。将两个执行结果进行处理，生成响应结果，该响应结果用于反馈至客户端。

图3示意性示出了根据本公开实施例的数据处理方法在获取从节点的可用状态的流程图。

如图3所示，本公开实施例的数据处理方法还包括操作S300。在操作S300中，在根据M个从节点的实时可用状态，对操作请求与等待指令请求处理，生成合并请求之前，从注册中心获取由监控组件实时获取的M个从节点中每个从节点的可用状态。

在本公开的实施例中，通过监控组件对存储节点中的从节点的可用状态进行监控，并将从节点的可用状态实时更新至注册中心中，由于代理端可以从注册中心实时获取到每个从节点的可用状态。进而可以根据从节点的可用状态来决定是否生成合并请求，以及在接收响应结果时，可以确定从节点基于合并请求得到的执行结果的数目，例如当从节点具有N个(N为小于或等于M的正整数)时，则从节点返回的执行结果为N个，则可以认为主节点向N个从节点进行数据同步的过程执行完毕。

图4示意性示出了根据本公开实施例的数据处理方法在操作400的流程图。

如图4所示，本公开实施例的数据处理方法还包括流程400，流程400为在根据从客户端获取的操作请求，确定与操作请求对应的存储节点之前的操作，其中，流程400包括操作S410至操作S420。

在操作S410中，从客户端获取操作请求。

在本公开的实施例中，该操作请求例如可以是写请求，存储节点可以基于该写请求向主节点写入数据。

在操作S420中，在接收到从客户端获取的操作请求后，将与操作请求相关联的客户端信息和请求数据存储至目标队列。

根据本公开的实施例，通过将与操作请求相关联的客户端信息以及请求数据存储至目标队列，便于在存储节点接收到操作请求后对相关联的请求数据进行处理。并且，在接收到响应结果后基于客户端信息将响应结果反馈至客户端。

在本公开的实施例中，由于将客户端的操作请求与等待指令请求生成为合并请求，代理端会接收到存储节点基于合并请求的两次响应结果，即基于操作请求的响应结果以及基于等待指令请求的响应结果。根据代理端的队列出栈原理，每次接收到一个响应结果后，则从队列中弹出一个客户端请求对象(例如请求数据)，在生成合并请求后，则向队列中重复添加客户端请求对象(例如请求数据)。

图5示意性示出了根据本公开实施例的数据处理方法在操作S210的流程图。

如图5所示，操作S210包括操作S211至操作S212。

在操作S211中，根据预设算法对从客户端获取的操作请求进行解析，确定目标数据。

在本公开的实施例中，在接收到客户端的操作请求后，对获取的操作请求进行解析。例如，预设算法可以是路由算法，根据多个特征来加以区分。通过对操作请求进行解析，获取操作请求中的key值，该key值即目标数据。

在操作S212中，根据目标数据，确定与操作请求对应的存储节点。

例如，根据确定的key值，计算确定出与操作请求对应的存储节点，该存储节点上具有主节点以及M个从节点。

图6示意性示出了根据本公开实施例的数据处理方法在操作S220的流程图。

如图6所示，操作S220包括操作S221至操作S222。

在操作S221中，根据获取的M个从节点中每一个节点的可用状态，统计可用从节点数目。

在本公开的实施例中，从节点的可用状态包括可用和不可用，当从节点的可用状态为可用时，则对该从节点的数目进行统计，当从节点的可用状态为不可用时，不对该从节点的数目进行统计。

根据本公开的实施例，通过对可用的从节点的数目进行统计，可以有效提高存储节点中的可靠性，例如，当存储节点中的从节点不存在可用节点时，则可以提醒维护，防止主节点失效时，数据丢失或者服务中断的问题。在本公开的实施例中，通过统计可用从节点数目，还可以确定在接收存储节点基于合并请求时从节点执行结果的数目。例如，当存在2个可用节点，则需要接收从节点基于合并请求的执行结果的数目为2，当接收的数目小于2，则表明从节点未执行完成，可以执行等待操作，从而保证每个可用的从节点能够对合并请求进行执行。

在操作S222中，在可用从节点数目大于设定阈值时，对操作请求和等待指令请求处理，生成合并请求。

在本公开的实施例中，设定阈值可以是大于0的正整数，例如，设定阈值为0时，当可用节点数目为1，则对操作请求和等待指令请求处理，生成合并请求。

在其他的可选实施例中，设定阈值也可以是其他的合适的数值。

图7示意性示出了根据本公开实施例的数据处理方法在动态连接关系解除时的流程图。

如图7所示，本公开实施例的数据处理方法还包括操作S500。

在操作S500中，在动态连接关系解除时，删除与动态连接关系相关联的请求队列，以及释放存储的与动态连接关系相关联的内存信息。

根据本公开的实施例，在动态连接关系建立时，根据上文所述，将与操作请求相关联的客户端信息和请求数据存储至目标队列，该目标队列可以是与动态连接关系相关联的请求队列。当动态连接关系解除时，则表明该队列中的数据无法进行执行。此时删除与动态连接关系相关联的请求队列，并释放存储的与动态连接关系相关联的内存信息。可以有效节省内存资源的占用，避免存储层无响应时导致的内存泄漏的问题。

图8示意性示出了根据本公开实施例的数据处理方法在操作600的流程图。

在本公开的实施例中，在操作S240中，在根据动态连接关系，将合并请求发送至存储节点，将还包括流程600：代理端接收并转发基于存储节点的执行结果生成的响应结果。其中，流程600包括操作S610至操作S630。

在操作S610中，代理端接收第一执行结果，第一执行结果是主节点根据合并请求中的操作请求生成的。

在本公开的实施例中，在合并请求发送至存储节点后，存储节点中的主节点根据合并请求中的操作请求进行执行，生成第一执行结果，例如第一执行结果为OK，则表明主节点基于操作请求执行成功。代理端接收该第一执行结果。

在操作S620中，代理端接收第二执行结果，第二执行结果是从节点根据合并请求中的等待指令请求，将主节点的数据同步至M个从节点生成的。

在本公开的实施例中，存储节点中的从节点在主节点生成第一执行结果后，从节点根据合并请求中的等待指令请求，将主节点的数据同步至M个从节点，生成第二执行结果。在本实施例中，第二执行结果表明主节点的数据已经同步至M个从节点的所有节点中，可选的实施例中，第二执行结果可以表示主节点的数据同步至M个从节点中的至少一个。

在操作S630中，代理端根据接收的第一执行结果和第二执行结果，生成响应结果并转发至客户端。

在本公开的实施例中，代理端在接收到存储节点的第一执行结果和第二执行结果后，生成响应结果，该响应结果可以表示存储节点中的主节点的执行操作请求，在本实施例中，该响应结果也表明主节点的数据全部同步至从节点，客户端在接收到响应结果后，可以进行其他操作，此时主节点与从节点的数据保持一致，在主节点发生故障并切换至从节点时，不会存在数据丢失的情况，实现了主从节点的数据一致性。

图9示意性示出了根据本公开实施例的数据处理方法的执行过程示意图。

如图9所示，数据处理方法通过客户端701、代理端702、存储节点703执行。

客户端701向代理端702发送操作请求704，操作请求704例如可以是写操作。代理端702在接收到客户端701的操作请求704后，确定与该操作请求704对应的存储节点703，存储节点703包括主节点和M个从节点。代理端702通过与注册中心通信的监控组件实时获取M个从节点的实时可用状态，并且基于M个从节点的实时可用状态，对操作请求704和等待指令请求705进行处理，生成合并请求706。

在生成合并请求706后，根据合并请求建立代理端702与存储节点703之间的动态连接关系，并通过动态连接关系将合并请求706发送至存储节点，以及基于该动态连接关系返回存储节点703基于合并请求706的执行结果。

存储节点703中的主节点基于合并请求中的操作请求生成第一执行结果707，存储节点703中的从节点基于合并请求中的等待指令请求，将主节点的数据同步至从节点生成第二执行结果708。

代理端根据接收的第一执行结果707和第二执行结果708生成响应结果709，并将该响应结果转发至客户端701。

根据本公开的实施例，通过对从节点的可用状态进行实时获取，可以保证存储节点中从节点的可用性，避免从节点不可用时，从节点的等待指令请求无法响应而导致的主节点、从节点的操作请求失败或者延时的问题。通过生成合并请求，可以减少操作请求的网络传输资源消耗，可以提高数据处理的速度。通过代理端根据接收的第一执行结果和第二执行结果生成响应请求，并将该响应请求转发至客户端，保证主节点、从节点数据的一致性，并且采用动态连接关系，保证操作请求不会阻塞，提高数据处理的效率。

图10示意性示出了根据本公开实施例的数据处理方法的合并请求中的等待指令请求的响应结果。

如图10所示，从节点基于合并请求中的等待指令请求进行响应，例如，当将主节点的数据全部同步至从节点，则响应成功，响应给客户端操作请求成功结果。当主节点的数据未同步至从节点，则响应不成功，进一步判断主节点基于合并请求中的操作请求是否成功。当主节点基于操作请求(例如写请求)成功，则响应给客户端自定义错误结果，此时主节点完成操作请求，从节点未完成将主节点的数据同步至从节点。当主节点基于操作请求(例如写请求)不成功，则响应给客户端操作请求错误结果，此时主节点未完成操作请求，从节点未玩完成数据同步。

图11示意性示出了根据本公开实施例的数据处理方法中的代理端、注册中心与监控组件的通信关系图。

如图11所示，通过监控组件实时监控存储节点中的主节点和从节点，具体地，实时获取从节点的可用状态，并将从节点的可用状态更新至注册中心，代理端在接收到客户端的操作请求后，通过注册中心实时获取与操作请求对应的存储节点中的从节点的可用状态。根据从节点的可用状态可以确定待同步的从节点的数目，从而基于可用从节点的数目来接收存储节点基于合并请求中的等待指令请求生成的执行结果，准确实现对从节点同步状态的响应。

图12示意性示出了根据本公开实施例的数据处理装置的框图。

如图12所示，数据处理装置800包括确定模块810、生成模块820、处理模块830、接收转发模块840。

确定模块810配置为根据从客户端获取的操作请求，确定与操作请求对应的存储节点，存储节点包括主节点和M个从节点，M为正整数。在一实施例中，确定模块810可以用于执行前文描述的操作S210，在此不再赘述。

生成模块820，配置为根据M个从节点的实时可用状态，对操作请求和等待指令请求处理，生成合并请求，M个从节点的实时可用状态是通过与注册中心通信的监控组件实时获取的。在一实施例中，生成模块820可以用于执行前文描述的操作S220，在此不再赘述。

处理模块830，配置为根据合并请求，建立代理端与存储节点之间的动态连接关系，动态连接关系在满足预设条件时解除。在一实施例中，处理模块830可以用于执行前文描述的操作S230，在此不再赘述。

接收转发模块840，配置为根据动态连接关系，将合并请求发送至存储节点，代理端接收并转发基于存储节点的执行结果生成的响应结果，执行结果是存储节点的主节点及从节点根据合并请求生成的。在一实施例中，接收转发模块840可以用于执行前文描述的操作S240，在此不再赘述。

在本公开的一些示例性实施例中，所述数据处理装置还包括获取模块，所述获取模块配置为在所述根据所述M个从节点的实时可用状态，对所述操作请求与等待指令请求处理，生成合并请求之前，从所述注册中心获取由所述监控组件实时获取的所述M个从节点中每个从节点的可用状态。

在本公开的一些示例性实施例中，所述数据处理装置还包括存储模块，所述存储模块配置为：在根据从客户端获取的操作请求，确定与所述操作请求对应的存储节点之前，从客户端获取操作请求；在接收到从客户端获取的操作请求后，将与所述操作请求相关联的客户端信息和请求数据存储至目标队列。

在本公开的一些示例性实施例中，所述确定模块包括确定子模块，所述确定子模块配置为：根据预设算法对从客户端获取的操作请求进行解析，确定目标数据；根据所述目标数据，确定与所述操作请求对应的存储节点。

在本公开的一些示例性实施例中，所述生成模块包括生成子模块，所述生成子模块配置为：根据获取的M个从节点中每一个节点的可用状态，统计可用从节点数目；在所述可用从节点数目大于设定阈值时，对所述操作请求和等待指令请求处理，生成合并请求。

在本公开的一些示例性实施例中，所述数据处理装置还包括删除释放模块，所述删除释放模块配置为：在所述动态连接关系解除时，删除与所述动态连接关系相关联的请求队列，以及释放存储的与所述动态连接关系相关联的内存信息。

在本公开的一些示例性实施例中，所述接收转发模块还包括接收转发子模块，所述接收转发子模块配置为：所述代理端接收第一执行结果，所述第一执行结果是所述主节点根据所述合并请求中的操作请求生成的；所述代理端接收第二执行结果，所述第二执行结果是所述从节点根据所述合并请求中的等待指令请求，将所述主节点的数据同步至M个从节点生成的；所述代理端根据接收的第一执行结果和第二执行结果，生成响应结果并转发至客户端。

根据本公开的实施例，确定模块810、生成模块820、处理模块830、接收转发模块840中的任意多个模块可以合并在一个模块中实现，或者其中的任意一个模块可以被拆分成多个模块。或者，这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合，并在一个模块中实现。根据本公开的实施例，确定模块810、生成模块820、处理模块830、接收转发模块840中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，确定模块810、生成模块820、处理模块830、接收转发模块840中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。

图13示意性示出了根据本公开实施例的用于实现数据处理方法的电子设备的框图。图13示出的电子设备仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图13所示，根据本公开实施例的电子设备900包括处理器901，其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。处理器901例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))等等。处理器901还可以包括用于缓存用途的板载存储器。处理器901可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。

在RAM 903中，存储有电子设备900操作所需的各种程序和数据。处理器901、ROM902以及RAM 903通过总线904彼此相连。处理器901通过执行ROM 902和/或RAM 903中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 902和RAM 903以外的一个或多个存储器中。处理器901也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。

根据本公开的实施例，电子设备900还可以包括输入/输出(I/O)接口905，输入/输出(I/O)接口905也连接至总线904。电子设备900还可以包括连接至I/O接口905的以下部件中的一项或多项：包括键盘、鼠标等的输入部分906；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907；包括硬盘等的存储部分908；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器910上，以便于从其上读出的计算机程序根据需要被安装入存储部分908。

本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的数据处理方法。

根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质，例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 902和/或RAM 903和/或ROM 902和RAM 903以外的一个或多个存储器。

本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时，该程序代码用于使计算机系统实现本公开实施例所提供的数据处理方法。

在该计算机程序被处理器901执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。

在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分909被下载和安装，和/或从可拆卸介质911被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。

在这样的实施例中，该计算机程序可以通过通信部分909从网络上被下载和安装，和/或从可拆卸介质911被安装。在该计算机程序被处理器901执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。

根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。

以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (12)

1.一种数据处理方法，包括：

根据从客户端获取的操作请求，确定与所述操作请求对应的存储节点，所述存储节点包括主节点和M个从节点，M为正整数；

根据所述M个从节点的实时可用状态，对所述操作请求和等待指令请求处理，生成合并请求，所述M个从节点的实时可用状态是通过与注册中心通信的监控组件实时获取的；

根据所述合并请求，建立代理端与所述存储节点之间的动态连接关系，所述动态连接关系在满足预设条件时解除；

根据所述动态连接关系，将所述合并请求发送至存储节点，所述代理端接收并转发基于所述存储节点的执行结果生成的响应结果，所述执行结果是所述存储节点的主节点及从节点根据所述合并请求生成的。

2.根据权利要求1所述的方法，其中，还包括：

在所述根据所述M个从节点的实时可用状态，对所述操作请求与等待指令请求处理，生成合并请求之前，

从所述注册中心获取由所述监控组件实时获取的所述M个从节点中每个从节点的可用状态。

3.根据权利要求1所述的方法，其中，还包括：

在根据从客户端获取的操作请求，确定与所述操作请求对应的存储节点之前，

从客户端获取操作请求；

在接收到从客户端获取的操作请求后，将与所述操作请求相关联的客户端信息和请求数据存储至目标队列。

4.根据权利要求1所述的方法，其中，

所述根据从客户端获取的操作请求，确定与所述操作请求对应的存储节点，包括：

根据预设算法对从客户端获取的操作请求进行解析，确定目标数据；

根据所述目标数据，确定与所述操作请求对应的存储节点。

5.根据权利要求1所述的方法，其中，

所述根据所述M个从节点的实时可用状态，对所述操作请求和等待指令请求处理，生成合并请求包括：

根据获取的M个从节点中每一个节点的可用状态，统计可用从节点数目；

在所述可用从节点数目大于设定阈值时，对所述操作请求和等待指令请求处理，生成合并请求。

6.根据权利要求1所述的方法，其中，所述预设条件包括：

建立所述动态连接关系所用时间超过设定时间；以及

所述从节点根据所述合并请求生成执行结果。

7.根据权利要求5所述的方法，其中，还包括：

在所述动态连接关系解除时，删除与所述动态连接关系相关联的请求队列，以及释放存储的与所述动态连接关系相关联的内存信息。

8.根据权利要求1所述的方法，其中，

所述代理端接收并转发基于所述存储节点的执行结果生成的响应结果，包括：

所述代理端接收第一执行结果，所述第一执行结果是所述主节点根据所述合并请求中的操作请求生成的；

所述代理端接收第二执行结果，所述第二执行结果是所述从节点根据所述合并请求中的等待指令请求，将所述主节点的数据同步至M个从节点生成的；

所述代理端根据接收的第一执行结果和第二执行结果，生成响应结果并转发至客户端。

9.一种数据处理装置，包括：

确定模块，配置为根据从客户端获取的操作请求，确定与所述操作请求对应的存储节点，所述存储节点包括主节点和M个从节点，M为正整数；

生成模块，配置为根据所述M个从节点的实时可用状态，对所述操作请求和等待指令请求处理，生成合并请求，所述M个从节点的实时可用状态是通过与注册中心通信的监控组件实时获取的；

处理模块，配置为根据所述合并请求，建立代理端与所述存储节点之间的动态连接关系，所述动态连接关系在满足预设条件时解除；

接收转发模块，配置为根据所述动态连接关系，将所述合并请求发送至存储节点，所述代理端接收并转发基于所述存储节点的执行结果生成的响应结果，所述执行结果是所述存储节点的主节点及从节点根据所述合并请求生成的。

10.一种电子设备，包括：

一个或多个处理器；

存储装置，用于存储可执行指令，所述可执行指令在被所述处理器执行时，实现根据权利要求1至8任一项所述的方法。

11.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时，实现根据权利要求1至8任一项所述的方法。

12.一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时，实现根据权利要求1至8任一项所述的方法。

Images