CN103685501A - 数据处理方法、装置和系统 - Google Patents

Abstract

本发明公开了一种数据处理方法、装置和系统；其中的方法包括：后端服务器存活状态检测部分以及数据中转部分；后端服务器存活状态检测部分包括：中间层向各后端服务器发送连接检测请求，并监听各后端服务器返回的连接检测响应；中间层将承载有连接检测成功信息的连接检测响应所对应的后端服务器的存活状态设置为可用状态，将承载有连接检测失败信息的连接检测响应所对应的后端服务器的存活状态设置为不可用状态，将未返回连接检测响应的后端服务器的存活状态设置为不可用状态；其中的数据中转部分包括：中间层接收来自前端应用的数据处理请求，并仅从存活状态为可用状态的后端服务器中选择后端服务器，将数据处理请求转发给其选择的后端服务器。

Description

数据处理方法、装置和系统

技术领域

本发明涉及网络通讯技术，具体涉及一种数据处理方法和相应的数据处理装置以及数据处理系统。

背景技术

中间层（middle tier）设置于前端应用（application)与后端服务器（backend）之间。中间层的主要作用包括：为前端应用屏蔽后端服务器，以降低前端的开发成本；具体而言，中间层在接收到来自前端应用的数据处理请求后，会选择一个后端服务器，并将该数据处理请求转发给其选择的后端服务器；中间层在接收到来自后端服务器的数据处理结果信息后，将该数据处理结果信息转发给相应的前端应用。

目前，中间层通常具有后端服务器存活状态检测功能，以确定后端服务器是否处于可用状态；在确定出后端服务器处于不可用状态的情况下，中间层会暂时屏蔽该后端服务器，即中间层不会向处于不可用状态的后端服务器发送数据处理请求；在确定出后端服务器由不可用状态恢复为可用状态的情况下，中间层会向该恢复为可用状态的后端服务器发送数据处理请求，以充分利用硬件资源。

中间层通常是在数据处理过程中实现后端服务器存活状态检测的，且现有的数据处理方式通常为：中间层维护每台后端服务器的存活状态（如为后端服务器设置存活状态标识），且后端服务器的存活状态包括三种：Up（可用）状态、Down（不可用）状态以及Unknown（未知）状态；中间层在接收到来自前端应用的数据处理请求后，会选择一个处于Up（可用）状态或者处于Unknown（未知）状态的后端服务器，并向其选择的后端服务器转发该数据处理请求；中间层检测每一个数据处理请求的处理结果，中间层将处理成功的数据处理请求对应的后端服务器的存活状态设置为Up（可用）状态，并将处理失败的数据处理请求对应的后端服务器的存活状态设置为Down（不可用）状态。另外，中间层屏蔽处于Down状态的后端服务器，且在屏蔽期满后，中间层会将该后端服务器的存活状态修改为Unknown状态。

发明人在实现本发明过程中发现，在现有的数据处理过程中，屏蔽时间设置的长短会对前端应用以及资源的充分利用产生不良影响，具体而言，如果中间层将屏蔽时间设置的较短（如4秒），则在后端服务器持续较长时间（如1小时）处于不可用状态的情况下，会出现数据处理请求较多次（如3600/4=900次）发送失败的现象，从而会对前端应用产生较大影响；而如果中间层将屏蔽时间设置的较长（如10分钟），则在后端服务器较快恢复为可用状态的情况下，会使该后端服务器等待较长时间后才能够被使用，从而导致后端服务器以及网络连接等硬件资源的闲置。

发明内容

鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的数据处理方法和相应的数据处理装置以及数据处理系统。

依据本发明的一个方面，提供了一种数据处理方法，该方法包括：后端服务器存活状态检测部分以及数据中转部分；所述后端服务器存活状态检测部分包括：中间层向各后端服务器发送连接检测请求；中间层监听各后端服务器返回的连接检测响应；中间层将承载有连接检测成功信息的连接检测响应所对应的后端服务器的存活状态设置为可用状态，将承载有连接检测失败信息的连接检测响应所对应的后端服务器的存活状态设置为不可用状态，将未返回连接检测响应的后端服务器的存活状态设置为不可用状态；所述数据中转部分包括：中间层接收前端应用发送来的数据处理请求；中间层仅从存活状态为可用状态的后端服务器中为所述数据处理请求选择后端服务器，并将所述数据处理请求转发给其选择的后端服务器。

根据本发明的另一方面，提供了一种数据处理装置，包括：后端服务器存活状态检测部分以及数据中转部分；所述后端服务器存活状态检测部分包括：请求模块，适于向各后端服务器发送连接检测请求；监听模块，适于监听各后端服务器返回的连接检测响应；状态维护模块，适于将承载有连接检测成功信息的连接检测响应所对应的后端服务器的存活状态设置为可用状态，将承载有连接检测失败信息的连接检测响应所对应的后端服务器的存活状态设置为不可用状态，将未返回连接检测响应的后端服务器的存活状态设置为不可用状态；所述数据中转部分包括：接收模块，适于接收前端应用发送来的数据处理请求；中转模块，适于仅从存活状态为可用状态的后端服务器中为所述数据处理请求选择后端服务器，并将所述数据处理请求转发给其选择的后端服务器。

根据本发明的另一方面，提供了一种数据处理系统，包括：至少一个前端应用、中间层以及多台后端服务器，所述中间层与各前端应用以及各后端服务器分别连接，且所述中间层包括上述的数据处理装置；所述前端应用适于，向中间层发送数据处理请求，并接收中间层返回的数据处理响应；所述后端服务器适于，在接收到来自中间层的连接检测请求时，向中间层返回连接检测响应，在接收到来自中间层的数据处理请求时，向中间层返回数据处理响应。

本发明的数据处理方法、装置和系统通过在中间层设置基于连接检测请求来检测各后端服务器存活状态的后端服务器存活状态检测部分以及对来自前端应用的数据处理请求进行中转处理的数据中转部分，使中间层可以不再利用来自前端应用的数据处理请求来检测处于未知状态的后端服务器是否恢复为可用状态，且由于数据中转部分仅将可用状态的后端服务器作为来自前端应用的数据处理请求对应的后端服务器，因此，本发明可以在很大程度上避免数据处理请求失败的现象，且可以不再针对处于不可用状态的后端服务器设置屏蔽时间，进而也就避免了屏蔽时间设置的较长对前端应用的影响以及屏蔽时间设置的较短对硬件资源利用率的影响；从而本发明提高了前端应用的鲁棒性，并提高了硬件资源的利用率。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。本实施例的附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了根据本发明实施例一的数据处理方法所适用的网络构架示意图；

图2示出了根据本发明实施例一的数据处理方法流程图；

图3示出了根据本发明实施例二的中间层对数据处理请求和数据处理结果方法流程图；

图4示出了根据本发明实施例二的中间层维护后端服务器存活状态的流程图；

图5示出了根据本发明实施例三的数据处理装置示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

实施例一、数据处理方法。下面结合图1和图2对本实施例的方法进行说明。

本实施例的数据处理方法可以适用于图1所示的网络构架中，即中间层设置于前端应用与多台后端服务器之间（图1中仅示意性的示出了三个后端服务器，即backend-1、backend-2和backend-3，在实际应用中，与中间层连接的后端服务器的数量可以更多一些）；且本实施例的中间层所执行的主要操作可以被划分为两部分，其中，一部分操作属于后端服务器存活状态检测部分（如图1中示出的检测线程mon thread），另一部分操作属于数据中转部分（也可以称为主流程模块等，如图1中示出的main process）。

上述后端服务器存活状态检测部分所包含的操作具体可以如图2左侧的流程（S200-S220）所示，上述数据中转部分所包含的操作具体可以如图2右侧的流程（S201-S202）所示。需要说明的是，后端服务器存活状态检测部分和数据中转部分是两个并行的处理流程。

图2中，S200、中间层向各后端服务器发送连接检测请求。

具体的，中间层可以根据预定时间隔定时向各后端服务器分别发送连接检测请求。当然，中间层也可以采用不定时等方式向各后端服务器分别发送连接检测请求。该连接检测请求主要用于检测后端服务器的存活状态，且该连接检测请求通常为基于应用层的连接检测请求。

针对一台后端服务器而言，中间层发送连接检测请求的一个具体的例子为，中间层将连接检测请求的源地址设置为中间层所在设备的IP地址，将连接检测请求的目的地址设置为该后端服务器的IP地址，并在连接检测请求中设置连接检测请求标识，以表示中间层请求后端服务器针对该连接检测请求向其回复相应的连接检测响应；另外，中间层还可以将发送时间戳或者发送序列号承载于连接检测请求中；之后，中间层发送该连接检测请求。

针对同一后端服务器而言，连接检测请求中承载的上述发送时间戳或者发送序列号主要用于区别中间层向该后端服务器所发出的不同的连接检测请求。

上述连接检测请求可以采用中间层和后端服务器均支持的协议。

如果后端服务器成功接收到连接检测请求，且后端服务器可以对前端应用的数据处理请求进行正常处理，则后端服务器可以针对该连接检测请求向后端服务器返回承载有连接检测成功信息的连接检测响应；例如，后端服务器在其接收到的该连接检测请求中承载响应时间戳，并在该连接检测请求中承载连接检测成功信息，同时，后端服务器将该连接检测请求的源地址中的IP地址与目的地址中的IP地址互换，并将该连接检测请求中承载的连接检测请求标识修改为连接检测响应标识，使其接收到的连接检测请求成为连接检测响应，之后，后端服务器向中间层返回该连接检测响应。

如果后端服务器成功接收到连接检测请求，且后端服务器不能够对前端应用的数据处理请求进行正常处理（如中间层的IP地址属于其预先设置的禁用IP地址、或者后端服务器的应用层存在故障等），则后端服务器可以针对该连接检测请求向后端服务器返回承载有连接检测失败信息的连接检测响应；例如，后端服务器在其接收到的连接检测请求中承载响应时间戳，并在该连接检测请求中承载连接检测失败信息，同时，后端服务器将该连接检测请求的源地址中的IP地址与目的地址中的IP地址互换，并将该连接检测请求中承载的连接检测请求标识修改为连接检测响应标识，使其接收到的连接检测请求成为连接检测响应，之后，后端服务器向中间层返回该连接检测响应。

如果由于网络连接故障或者后端服务器故障等原因导致后端服务器未能成功接收该连接检测请求，则中间层针对该后端服务器而发送的连接检测请求应不会存在对应的连接检测响应。

上述连接检测响应同样可以采用中间层和后端服务器均支持的协议，且连接检测响应和上述连接检测请求应采用相同的协议。

S210、中间层监听各后端服务器返回的连接检测响应。

具体的，中间层在接收到后端服务器返回的消息后，可以根据消息中承载的信息判断出该消息是否为连接检测响应，例如，中间层在判断出其接收到的消息中承载有连接检测响应标识的情况下，确定该消息为连接检测响应。

S220、中间层将承载有连接检测成功信息的连接检测响应所对应的后端服务器的存活状态设置为可用状态，将承载有连接检测失败信息的连接检测响应所对应的后端服务器的存活状态设置为不可用状态，将未返回连接检测响应的后端服务器的存活状态设置为不可用状态。

具体的，针对一台后端服务器而言，中间层对该后端服务器的存活状态进行设置的具体情况可以分为如下三种：

情况一、中间层在发出连接检测请求后，判断是否在预定时间段内接收到后端服务器返回的连接检测响应，如果中间层在预定时间段内接收到连接检测响应，则中间层认为其成功接收连接检测响应；如果中间层在预定时间段内未接收到连接检测响应，则中间层认为其未成功接收连接检测响应；针对未接收到连接检测响应的后端服务器，中间层可以在本轮连接检测过程中再次向该后端服务器发送连接检测请求，在中间层针对其再次连续发出的预定数量（如1个或者2个）的连接检测请求均未成功接收连接检测响应的情况下，中间层将该后端服务器的存活状态设置为不可用状态。

在上述情况一中，预定数量可以设置于配置文件中，且该预定数量可以由中间层动态调整，如中间层根据其与后端服务器之间的消息传输的当前延迟时间来调整预定数量，一个具体的例子，在延迟时间较短的情况下，中间层应适当减小该预定数量，在延迟时间较长的情况下，中间层应适当增大该预定数量。

情况二、中间层在发出连接检测请求后，判断是否在预定时间段内接收到后端服务器返回的连接检测响应，如果中间层在预定时间段内接收到连接检测响应，则中间层认为其成功接收连接检测响应；如果中间层在预定时间段内未接收到连接检测响应，则中间层认为其未成功接收连接检测响应；在中间层成功接收连接检测响应，且该连接检测响应中承载有连接检测失败信息的情况下，中间层将该后端服务器的存活状态设置为不可用状态。

情况三、中间层在发出连接检测请求后，判断是否在预定时间段内接收到后端服务器返回的连接检测响应，如果中间层在预定时间段内接收到连接检测响应，则中间层认为其成功接收连接检测响应；如果中间层在预定时间段内未接收到连接检测响应，则中间层认为其未成功接收连接检测响应；在中间层成功接收连接检测响应，且该连接检测响应中承载有连接检测成功信息的情况下，中间层将该后端服务器的存活状态设置为可用状态。

S201、中间层接收前端应用发送来的数据处理请求。该数据处理请求可以是针对后端服务器的数据库进行操作的请求。

S202中间层仅从存活状态为可用状态的后端服务器中为其接收到的数据处理请求选择后端服务器，并将该数据处理请求转发给其选择的后端服务器。

具体的，针对中间层接收的一条数据处理请求而言，中间层可以根据其预先设定的预定策略（如轮询策略或者负载均衡策略等）从与其连接的所有后端服务器中选择一台后端服务器，并判断当前选择出的该后端服务器的存活状态，如果该后端服务器的存活状态为可用状态，则中间层将该数据处理请求转发给该后端服务器；如果该后端服务器的存活状态为不可用状态，则中间层应继续根据上述预定策略再次从与其连接的所有后端服务器中选择一台后端服务器（该预定策略应能够避免前次选择的处于不可用状态的后端服务器被再次选择），进而中间层应继续判断其当前选择的该后端服务器的存活状态，以此类推，直到中间层当前选择的后端服务器的存活状态为可用状态，并将该数据处理请求转发给该后端服务器为止。

本实施例的中间层在向后端服务器发送数据处理请求后，应监测该数据处理请求的处理结果，如果该数据处理请求的处理结果为失败，则中间层应将该数据处理请求所对应的后端服务器的存活状态设置为不可用状态，如果该数据处理请求的处理结果为成功，则中间层可以刷新该数据处理请求所对应的后端服务器的存活状态，即该后端服务器的存活状态仍然被中间层维护为可用状态。

中间层可以通过监测后端服务器是否向其返回数据处理响应来判断该数据处理请求的处理结果为失败，还是为成功；如中间层在转发数据处理请求后的预定时间段内没有接收到后端服务器传输来的数据处理响应，则中间层判断该数据处理请求的处理结果为失败，否则，中间层判断该数据处理请求的处理结果为成功。

由上述描述可知，本实施例的中间层不会再为处于不可用状态的后端服务器设置屏蔽时间，而且，中间层为各后端服务器维护的存活状态中不再包括未知状态，这样，本实施例可以避免屏蔽时间的设置长短而给前端应用或者硬件资源所带来的不良影响。

实施例二、数据处理方法。下面结合图3和图4对本实施例的方法进行说明。

本实施例在中间层引入了检测线程（如图1中的mon thread），该检测线程属于中间层中的主流程模块（main process）对应的进程。需要说明的是，本发明中的后端服务器存活状态检测部分以及数据中转部分也可以分别位于不同的进程，此时，后端服务器的存活状态可以通过进程间通讯交互。

上述检测线程主要用于定时检测中间层与每台后端服务器的连接，如果与某台后端服务器的连接检测成功，则说明该后端服务器工作正常，中间层将该后端服务器的存活状态设置为Up（即可用状态），如果与某台后端服务器的连接检测失败，则说明该后端服务器工作异常，该后端服务器当前不可用，中间层将该后端服务器的存活状态设置为Down（即不可用状态），中间层不会再使该后端服务器对来自前端应用的数据处理请求进行相应的处理。

上述主流程模块主要用于为来自前端应用的数据处理请求选择后端服务器，并将数据处理请求转发给后端服务器；主流程模块会屏蔽存活状态为Down的后端服务器，直到存活状态为Down的后端服务器的存活状态恢复为Up；主流程模块只会将数据处理请求导向存活状态为Up的后端服务器。

由于本实施例中的检测线程属于主流程模块所对应的进程，因此，检测线程通过检测而获得的每台后端服务器的存活状态可以很方便的被主流程模块获得。

本实施例中的主流程模块的工作流程如图3所示。

图3中，主流程模块启动后，主流程模块等待来自前端应用的数据处理请求；主流程模块在确定接收到来自前端应用的数据处理请求后，根据预定策略（如轮询策略或者基于加权的负载均衡策略等）从所有的后端服务器中为该数据处理请求选择一台后端服务器；主流程模块检查该后端服务器的存活状态是否为Up，如果不是Up，则主流程模块返回到上述选择后端服务器的步骤，如果是Up，则主流程模块将上述来自前端应用的数据处理请求转发给该后端服务器；之后，主流程模块检测后端服务器对该数据处理请求的处理结果，如主流程模块监听后端服务器针对该数据处理请求返回的数据处理响应，主流程模块判断该数据处理请求的执行结果（如判断是否接收到数据处理响应等），如果执行结果为失败，则主流程模块将该后端服务器的存活状态设置为Down（不可用）；如果执行结果为成功，则主流程模块可以不对该后端服务器的存活状态进行设置操作，并继续等待来自前端应用的数据处理请求。

由于本实施例的主流程模块会根据数据处理请求的处理结果将后端服务器的存活状态设置为Down，因此，本实施例可以更及时的发现后端服务器的不可用状态；由于主流程模块仅从存活状态为Up的后端服务器中为数据处理请求选择后端服务器，因此，数据处理请求被发送到不可用的后端服务器的几率非常小；因此，本实施例基本上不会对前端应用造成不良影响。

本实施例中的检测线程的工作流程如图4所示。

图4中，检测线程启动后，检测线程定时检测与中间层连接的每台后端服务器的存活状态，即检测线程尝试与每台后端服务器连接（如向每台后端服务器发送连接检测请求），并判断与每台后端服务器的连接是否成功（如检测线程判断中间层是否接收到连接检测响应以及接收到的连接检测响应中是否承载有连接检测成功信息等）；针对连接成功的后端服务器，检测线程将该后端服务器的存活状态设置为Up（可用状态）；针对连接失败的后端服务器，检测线程再次尝试与这些后端服务器连接，并继续判断与这些后端服务器的连接是否成功，如果连接成功，检测线程将该后端服务器的存活状态设置为Up（可用状态）；如果连接失败，则检测线程将连接失败对应的后端服务器的存活状态设置为Down（不可用状态）；检测线程在等待一个检测时间间隔后，开始下一轮存活状态检测。

由于检测线程会针对连接失败的后端服务器尝试再次与其进行连接，因此，本实施例可以避免网络不稳定等情况而导致检测结果可靠性较差的问题。

另外，图4中尝试再次连接的次数为一次，而在实际应用中，尝试再次连接的次数可以为两次或者三次等；该次数可以设置于配置文件中，且该次数可以根据实际情况动态调整，例如，检测线程可以根据每次尝试连接后端服务器的延迟时间（即消息在中间层和后端服务器往返传输的时间）对重试次数进行修改，一个具体的例子，在延迟时间较短的情况下，网络状况通常良好，上述尝试再次连接的次数应适当减小，在延迟时间较长的情况下，网络状况通常较差（如负荷较重），上述尝试再次连接的次数应适当增大。本实施例中的检测线程可以根据延迟时间自动调整其尝试再次连接的次数。

由上述描述可知，本实施例使后端服务器的存活状态维护方案成为旁路形式；本实施例在能够准确及时地检测出后端服务器的存活状态的同时，避免了存活状态维护对前端应用造成的不良影响，也就是说，本实施例使后端服务器的故障及恢复过程尽可能地对前端应用透明化。

实施例三、数据处理装置。下面结合图5对本实施例的装置进行详细说明。

图5中，数据处理装置主要包括：请求模块500、监听模块510、状态维护模块520、接收模块501、中转模块502以及检测模块503；其中，请求模块500、监听模块510以及状态维护模块520属于后端服务器存活状态检测部分（图5中未示出），接收模块501、中转模块502以及检测模块503属于数据中转部分（图5中未示出）。后端服务器存活状态检测部分和数据中转部分可以属于同一进程，如后端服务器存活状态检测部分由检测线程实现，数据中转部分由主流程进程实现，且检测线程属于主流程进程。当然，后端服务器存活状态检测部分和数据中转部分也可以属于不同的进程。

请求模块500与监听模块510连接，请求模块500主要适于向各后端服务器发送连接检测请求。

具体的，请求模块500可以根据预定时间隔定时向各后端服务器分别发送连接检测请求。当然，请求模块500也可以采用不定时等方式向各后端服务器分别发送连接检测请求。该连接检测请求主要用于检测后端服务器的存活状态，且该连接检测请求通常为基于应用层的连接检测请求。

针对一台后端服务器而言，请求模块500发送连接检测请求的一个具体的例子为，请求模块500将连接检测请求的源地址设置为中间层所在设备的IP地址，将连接检测请求的目的地址设置为该后端服务器的IP地址，并在连接检测请求中设置连接检测请求标识，以表示中间层请求后端服务器针对该连接检测请求向其回复相应的连接检测响应；另外，请求模块500还可以将发送时间戳或者发送序列号承载于连接检测请求中；之后，请求模块500发送该连接检测请求。

针对同一后端服务器而言，连接检测请求中承载的上述发送时间戳或者发送序列号主要用于区别请求模块500向该后端服务器所发出的不同的连接检测请求。

监听模块510主要适于监听各后端服务器返回的连接检测响应。

具体的，监听模块510在中间层接收到后端服务器返回的消息后，可以根据消息中承载的信息判断出该消息是否为连接检测响应，例如，监听模块510在判断出中间层接收到的消息中承载有连接检测响应标识的情况下，确定该消息为连接检测响应。监听模块510在监听到的连接检测响应时，应通知状态维护模块520，如将连接检测响应传输给状态维护模块520。

状态维护模块520主要适于将承载有连接检测成功信息的连接检测响应所对应的后端服务器的存活状态设置为可用状态，将承载有连接检测失败信息的连接检测响应所对应的后端服务器的存活状态设置为不可用状态，将未返回连接检测响应的后端服务器的存活状态设置为不可用状态。

具体的，针对一台后端服务器而言，状态维护模块520对该后端服务器的存活状态进行设置的具体情况可以分为如下三种：

情况一、状态维护模块520在请求模块500发出连接检测请求后，判断监听模块510是否在预定时间段内监听到后端服务器返回的相应的连接检测响应，如果监听模块510在预定时间段内监听到相应的连接检测响应，则状态维护模块520认为中间层成功接收连接检测响应；如果监听模块510在预定时间段内未监听到相应的连接检测响应，则状态维护模块520认为中间层未成功接收连接检测响应；针对未接收到连接检测响应的后端服务器，状态维护模块520可以在本轮连接检测过程中触发请求模块500再次向该后端服务器发送连接检测请求，在监听模块510针对向该后端服务器再次连续发出的预定数量（如1个或者2个）的连接检测请求均未监听到相应的连接检测响应的情况下，状态维护模块520将该后端服务器的存活状态设置为不可用状态。

在上述情况一中，预定数量可以设置于配置文件中，请求模块500可以听通过读取配置文件来获得预定数量，且该预定数量可以由中间层动态调整，如请求模块500根据其与后端服务器之间的消息传输的当前延迟时间来调整预定数量，一个具体的例子，在延迟时间较短的情况下，请求模块500应适当减小该预定数量，在延迟时间较长的情况下，请求模块500应适当增大该预定数量。

情况二、状态维护模块520在请求模块500发出连接检测请求后，判断监听模块510是否在预定时间段内监听到后端服务器返回的相应的连接检测响应，如果监听模块510在预定时间段内监听到相应的连接检测响应，则状态维护模块520认为中间层成功接收连接检测响应；如果监听模块510在预定时间段内未监听到相应的连接检测响应，则状态维护模块520认为中间层未成功接收连接检测响应；在中间层成功接收连接检测响应，且状态维护模块520在判断出该连接检测响应中承载有连接检测失败信息的情况下，状态维护模块520将该后端服务器的存活状态设置为不可用状态。

情况三、状态维护模块520在请求模块500发出连接检测请求后，判断监听模块510是否在预定时间段内监听到后端服务器返回的相应的连接检测响应，如果监听模块510在预定时间段内监听到相应的连接检测响应，则状态维护模块520认为中间层成功接收连接检测响应；如果监听模块510在预定时间段内未监听到相应的连接检测响应，则状态维护模块520认为中间层未成功接收连接检测响应；在中间层成功接收连接检测响应，且状态维护模块520在判断出该连接检测响应中承载有连接检测成功信息的情况下，状态维护模块520将该后端服务器的存活状态设置为可用状态。

接收模块501主要适于接收前端应用发送来的数据处理请求。接收模块501接收到的数据处理请求可以是针对后端服务器的数据库进行操作的请求。

中转模块502主要适于仅从存活状态为可用状态的后端服务器中为数据处理请求选择后端服务器，并将数据处理请求转发给其选择的后端服务器。

具体的，针对接收模块501接收的一条数据处理请求而言，中转模块502可以根据其预先设定的预定策略（如轮询策略或者负载均衡策略等）从与中间层连接的所有后端服务器中选择一台后端服务器，并判断当前选择出的该后端服务器的存活状态，如果该后端服务器的存活状态为可用状态，则中转模块502将该数据处理请求转发给该后端服务器；如果该后端服务器的存活状态为不可用状态，则中转模块502应继续根据上述预定策略再次从与中间层连接的所有后端服务器中选择一台后端服务器（该预定策略应能够避免中转模块502前次选择的处于不可用状态的后端服务器被再次选择），进而中转模块502应继续判断其当前选择的该后端服务器的存活状态，直到中转模块502当前选择的后端服务器的存活状态为可用状态，并将该数据处理请求转发给该后端服务器为止。

检测模块503主要适于检测数据处理请求的处理结果，并将处理失败的数据处理请求所对应的后端服务器的存活状态设置为不可用状态。

本实施例在中转模块502向后端服务器发送数据处理请求后，检测模块503应监测该数据处理请求的处理结果，如果该数据处理请求的处理结果为失败，则检测模块503应将该数据处理请求所对应的后端服务器的存活状态设置为不可用状态，如果该数据处理请求的处理结果为成功，则检测模块503可以刷新该数据处理请求所对应的后端服务器的存活状态，即该后端服务器的存活状态仍然被维护为可用状态。

检测模块503可以通过监测后端服务器是否向中间层返回数据处理响应来判断该数据处理请求的处理结果为失败，还是为成功；如在中转模块502转发数据处理请求后的预定时间段内检测模块503没有接收到后端服务器传输来的数据处理响应，则检测模块503判断该数据处理请求的处理结果为失败，否则，检测模块503判断该数据处理请求的处理结果为成功。

实施例四、数据处理系统。下面结合图1对本实施例的数据处理系统进行详细说明。

本实施例的系统包括：至少一个前端应用（图1中仅示意性的示出了一个前端应用）、中间层以及多台后端服务器（图1中仅示意性的示出了三台后端服务器）。中间层与各前端应用以及各后端服务器分别连接，且中间层中设置有数据处理装置。

前端应用主要适于向中间层发送数据处理请求，并接收中间层返回的数据处理响应。

中间层中的数据处理装置如上述实施例三中的描述，在此不再详细说明。

后端服务器主要适于在接收到来自中间层的连接检测请求时，向中间层返回连接检测响应，在接收到来自中间层的数据处理请求时，向中间层返回数据处理响应。

具体的，如果后端服务器成功接收到连接检测请求，且后端服务器可以对前端应用的数据处理请求进行正常处理，则后端服务器可以针对该连接检测请求向后端服务器返回承载有连接检测成功信息的连接检测响应；如后端服务器在其接收到的该连接检测请求中承载响应时间戳，并在该连接检测请求中承载连接检测成功信息，同时，后端服务器将该连接检测请求的源地址中的IP地址与目的地址中的IP地址互换，并将该连接检测请求中承载的连接检测请求标识修改为连接检测响应标识，使其接收到的连接检测请求成为连接检测响应，之后，后端服务器向中间层返回该连接检测响应。

如果后端服务器成功接收到连接检测请求，且后端服务器不能够对前端应用的数据处理请求进行正常处理（如中间层的IP地址属于其预先设置的禁用IP地址、或者后端服务器的应用层存在故障等），则后端服务器可以针对该连接检测请求向后端服务器返回承载有连接检测失败信息的连接检测响应；例如，后端服务器在其接收到的连接检测请求中承载响应时间戳，并在该连接检测请求中承载连接检测失败信息，同时，后端服务器将该连接检测请求的源地址中的IP地址与目的地址中的IP地址互换，并将该连接检测请求中承载的连接检测请求标识修改为连接检测响应标识，使其接收到的连接检测请求成为连接检测响应，之后，后端服务器向中间层返回该连接检测响应。

A1、一种数据处理方法，其包括：后端服务器存活状态检测部分以及数据中转部分；

所述后端服务器存活状态检测部分包括：

中间层向各后端服务器发送连接检测请求；

中间层监听各后端服务器返回的连接检测响应；

中间层将承载有连接检测成功信息的连接检测响应所对应的后端服务器的存活状态设置为可用状态，将承载有连接检测失败信息的连接检测响应所对应的后端服务器的存活状态设置为不可用状态，将未返回连接检测响应的后端服务器的存活状态设置为不可用状态；

所述数据中转部分包括：

中间层接收前端应用发送来的数据处理请求；

中间层仅从存活状态为可用状态的后端服务器中为所述数据处理请求选择后端服务器，并将所述数据处理请求转发给其选择的后端服务器。

A2、如A1所述的方法，其中，所述中间层向各后端服务器发送连接检测请求包括：

中间层根据预定时间间隔定时向各后端服务器发送连接检测请求。

A3、如A1所述的方法，其中，所述将未返回连接检测响应的后端服务器的存活状态设置为不可用状态包括：

将连续预定次数未返回连接检测响应的后端服务器的存活状态设置为不可用状态。

A4、如A1所述的方法，其中，所述中间层仅从存活状态为可用状态的后端服务器中为所述数据处理请求选择后端服务器包括：

中间层根据预定策略从所有后端服务器中选择一台后端服务器，并在确定出该后端服务器的存活状态不是可用状态的情况下，重新根据所述预定策略从所有后端服务器中选择一台后端服务器，直到中间层选择的后端服务器的存活状态为可用状态。

A5、如A1所述的方法，其中，所述数据中转部分还包括：

中间层检测所述数据处理请求的处理结果，并将处理失败的数据处理请求所对应的后端服务器的存活状态设置为不可用状态。

A6、如A1或A2或A3或A4或A5所述的方法，其中：

所述后端服务器存活状态检测部分由检测线程实现，所述数据中转部分由主流程进程实现，且所述检测线程属于所述主流程进程。

B7、一种数据处理装置，其包括：后端服务器存活状态检测部分以及数据中转部分；

所述后端服务器存活状态检测部分包括：

请求模块，适于向各后端服务器发送连接检测请求；

监听模块，适于监听各后端服务器返回的连接检测响应；

状态维护模块，适于将承载有连接检测成功信息的连接检测响应所对应的后端服务器的存活状态设置为可用状态，将承载有连接检测失败信息的连接检测响应所对应的后端服务器的存活状态设置为不可用状态，将未返回连接检测响应的后端服务器的存活状态设置为不可用状态；

所述数据中转部分包括：

接收模块，适于接收前端应用发送来的数据处理请求；

中转模块，适于仅从存活状态为可用状态的后端服务器中为所述数据处理请求选择后端服务器，并将所述数据处理请求转发给其选择的后端服务器。

B8、如B7所述的装置，其中，所述请求模块还适于：

根据预定时间间隔定时向各后端服务器发送连接检测请求。

B9、如B7所述的装置，其中，所述将状态维护模块还适于：

将连续预定次数未返回连接检测响应的后端服务器的存活状态设置为不可用状态。

B10、如B7所述的装置，其中，所述中转模块还适于：

根据预定策略从所有后端服务器中选择一台后端服务器，并在确定出该后端服务器的存活状态不是可用状态的情况下，重新根据所述预定策略从所有后端服务器中选择一台后端服务器，直到选择的后端服务器的存活状态为可用状态。

B11、如B7所述的装置，其中，所述数据中转部分还包括：

检测模块，适于检测所述数据处理请求的处理结果，并将处理失败的数据处理请求所对应的后端服务器的存活状态设置为不可用状态。

B12、如B7或B8或B9或B10或B11所述的装置，其中：

所述后端服务器存活状态检测部分由检测线程实现，所述数据中转部分由主流程进程实现，且所述检测线程属于所述主流程进程。

C13、一种数据处理系统，其包括：至少一个前端应用、中间层以及多台后端服务器，所述中间层与各前端应用以及各后端服务器分别连接，且所述中间层包括如上述B7-B12中任一所述的数据处理装置；

所述前端应用适于，向中间层发送数据处理请求，并接收中间层返回的数据处理响应；

所述后端服务器适于，在接收到来自中间层的连接检测请求时，向中间层返回连接检测响应，在接收到来自中间层的数据处理请求时，向中间层返回数据处理响应。

在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书（包括伴随的权利要求、摘要和附图）中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书（包括伴随的权利要求、摘要和附图）中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器（DSP）来实现根据本发明实施例的数据处理装置以及数据处理系统中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序（如计算机程序和计算机程序产品）。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是，上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

Claims (10)

1.一种数据处理方法，其包括：后端服务器存活状态检测部分以及数据中转部分；

所述后端服务器存活状态检测部分包括：

中间层向各后端服务器发送连接检测请求；

中间层监听各后端服务器返回的连接检测响应；

中间层将承载有连接检测成功信息的连接检测响应所对应的后端服务器的存活状态设置为可用状态，将承载有连接检测失败信息的连接检测响应所对应的后端服务器的存活状态设置为不可用状态，将未返回连接检测响应的后端服务器的存活状态设置为不可用状态；

所述数据中转部分包括：

中间层接收前端应用发送来的数据处理请求；

中间层仅从存活状态为可用状态的后端服务器中为所述数据处理请求选择后端服务器，并将所述数据处理请求转发给其选择的后端服务器。

2.如权利要求1所述的方法，其中，所述中间层向各后端服务器发送连接检测请求包括：

中间层根据预定时间间隔定时向各后端服务器发送连接检测请求。

3.如权利要求1所述的方法，其中，所述将未返回连接检测响应的后端服务器的存活状态设置为不可用状态包括：

将连续预定次数未返回连接检测响应的后端服务器的存活状态设置为不可用状态。

4.如权利要求1所述的方法，其中，所述中间层仅从存活状态为可用状态的后端服务器中为所述数据处理请求选择后端服务器包括：

中间层根据预定策略从所有后端服务器中选择一台后端服务器，并在确定出该后端服务器的存活状态不是可用状态的情况下，重新根据所述预定策略从所有后端服务器中选择一台后端服务器，直到中间层选择的后端服务器的存活状态为可用状态。

5.如权利要求1所述的方法，其中，所述数据中转部分还包括：

中间层检测所述数据处理请求的处理结果，并将处理失败的数据处理请求所对应的后端服务器的存活状态设置为不可用状态。

6.如权利要求1或2或3或4或5所述的方法，其中：

所述后端服务器存活状态检测部分由检测线程实现，所述数据中转部分由主流程进程实现，且所述检测线程属于所述主流程进程。

7.一种数据处理装置，其包括：后端服务器存活状态检测部分以及数据中转部分；

所述后端服务器存活状态检测部分包括：

请求模块，适于向各后端服务器发送连接检测请求；

监听模块，适于监听各后端服务器返回的连接检测响应；

状态维护模块，适于将承载有连接检测成功信息的连接检测响应所对应的后端服务器的存活状态设置为可用状态，将承载有连接检测失败信息的连接检测响应所对应的后端服务器的存活状态设置为不可用状态，将未返回连接检测响应的后端服务器的存活状态设置为不可用状态；

所述数据中转部分包括：

接收模块，适于接收前端应用发送来的数据处理请求；

中转模块，适于仅从存活状态为可用状态的后端服务器中为所述数据处理请求选择后端服务器，并将所述数据处理请求转发给其选择的后端服务器。

8.如权利要求7所述的装置，其中，所述请求模块还适于：

根据预定时间间隔定时向各后端服务器发送连接检测请求。

9.如权利要求7所述的装置，其中，所述将状态维护模块还适于：

将连续预定次数未返回连接检测响应的后端服务器的存活状态设置为不可用状态。

10.一种数据处理系统，其包括：至少一个前端应用、中间层以及多台后端服务器，所述中间层与各前端应用以及各后端服务器分别连接，且所述中间层包括如上述权利要求7-9中任一权利要求所述的数据处理装置；

所述前端应用适于，向中间层发送数据处理请求，并接收中间层返回的数据处理响应；

所述后端服务器适于，在接收到来自中间层的连接检测请求时，向中间层返回连接检测响应，在接收到来自中间层的数据处理请求时，向中间层返回数据处理响应。

Images