CN110502426A - 分布式数据处理系统的测试方法和装置 - Google Patents

Abstract

本发明提供一种分布式数据处理系统的测试方法和装置，该方法包括：获取待测集群各节点的交易数据包；根据待测交易的交易标识获取待测集群各节点的交易数据包中对应该待测交易的待测交易数据；根据所述待测交易的交易类型以及所述待测集群的路由策略表生成预期交易链路；根据所述待测交易数据的节点标识和流经节点时间生成该待测交易的实际交易链路；对所述实际交易链路和所述预期交易链路进行一致性比对，并将一致性对比结果作为待测交易的测试结果，其中，基于交易链路追踪故障源，以便自动快速高效追踪故障位置，不依赖于测试人员的技能和经验，不依赖于被测集群或组件日志输出的完整性与规范性。

Description

分布式数据处理系统的测试方法和装置

技术领域

本发明涉及计算机应用软件的测试技术领域，尤其涉及一种分布式数据处理系统的测试方法和装置。

背景技术

分布式数据处理系统(Distributed Data Stream Management System，DDSMS)是可以对数据进行分布式处理的系统。DDSMS可以极大地缩短数据处理时间、提高响应速度，在实际生活中具有极其广泛的用途。

大型分布式数据处理系统中调用关系非常复杂，用户的一个交易请求在系统中会经由多个组件的处理，而且这些处理是发生在不同节点甚至是不同集群上的，交易链路也并不一定固定。在测试过程中，当某个交易请求处理出现异常时，通常需要收集整个交易链路上的各个组件日志，由人工进行逐一分析与排查，从大量日志中提取关键信息定位问题，一方面定位问题的精准度依赖于测试人员的技能和经验，另一方面定位问题的过程十分缓慢，效率低下。

发明内容

有鉴于此，本发明提供一种分布式数据处理系统的测试方法和装置、电子设备、计算机可读存储介质，能够自动快速高效定位问题，不依赖于测试人员的技能和经验。

为了实现上述目的，本发明采用如下技术方案：

第一方面，提供一种分布式数据处理系统的测试方法，包括：

获取待测集群各节点的交易数据包，所述交易数据包包括多条交易数据，所述交易数据包括：交易标识、交易类型、节点标识以及流经节点时间；

根据待测交易的交易标识获取待测集群各节点的交易数据包中对应该待测交易的待测交易数据；

根据所述待测交易的交易类型以及所述待测集群的路由策略表生成预期交易链路；

根据所述待测交易数据的节点标识和流经节点时间生成该待测交易的实际交易链路；

对所述实际交易链路和所述预期交易链路进行一致性比对，并将一致性对比结果作为待测交易的测试结果。

进一步地，所述根据所述待测交易数据的节点标识和流经节点时间生成该待测交易的实际交易链路，包括：

根据流经节点时间对待测交易数据进行排序；

根据排序后的待测交易数据中的节点标识得到实际交易链路。

进一步地，还包括：

根据预设的解析规则解析待测集群各节点的交易数据包得到交易数据。

进一步地，还包括：

根据所述待测交易数据的流经节点时间获取该待测交易的处理时间；

判断所述处理时间是否超过预设超时时间参数；

若是，则进行交易告警。

进一步地，还包括：

根据预设的模拟规则模拟各种类型的交易数据并根据预设的发送规则向所述待测集群发送。

进一步地，所述交易数据还包括：流入流出标识以及累计交易量；

所述测试方法还包括：

实时统计所述待测集群各节点的流量信息，所述流量信息包括：节点标识、流经节点时间、流入流出标识以及累计交易量。

进一步地，所述获取待测集群各节点的交易数据包后，还包括：

对所述交易数据包进行过滤。

进一步地，还包括：

根据预设异常模拟策略控制待测集群各节点进行异常模拟。

第二方面，提供一种分布式数据处理系统的测试装置，包括：

数据获取模块，获取待测集群各节点的交易数据包，所述交易数据包包括多条交易数据，所述交易数据包括：交易标识、交易类型、节点标识以及流经节点时间；

数据筛选模块，根据待测交易的交易标识获取待测集群各节点的交易数据包中对应该待测交易的待测交易数据；

预期结果生成模块，根据所述待测交易的交易类型以及所述待测集群的路由策略表生成预期交易链路；

实际交易链路获取模块，根据所述待测交易数据的节点标识和流经节点时间生成该待测交易的实际交易链路；

链路核对模块，对所述实际交易链路和所述预期交易链路进行一致性比对，并将一致性对比结果作为待测交易的测试结果。

进一步地，所述实际交易链路获取模块包括：

数据排序子模块，根据流经节点时间对待测交易数据进行排序；

链路构建子模块，根据排序后的待测交易数据中的节点标识得到实际交易链路。

进一步地，还包括：

交易解析模块，根据预设的解析规则解析待测集群各节点的交易数据包得到交易数据。

进一步地，还包括：

处理时间获取模块，根据所述待测交易数据的流经节点时间获取该待测交易的处理时间；

超时判断模块，判断所述处理时间是否超过预设超时时间参数；

交易告警模块，处理时间超过预设超时时间参数则进行交易告警。

进一步地，还包括：

数据模拟模块，根据预设的模拟规则模拟各种类型的交易数据并根据预设的发送规则向所述待测集群发送。

进一步地，所述交易数据还包括：流入流出标识以及累计交易量；

所述测试装置还包括：

流量统计模块，实时统计所述待测集群各节点的流量信息，所述流量信息包括：节点标识、流经节点时间、流入流出标识以及累计交易量。

进一步地，还包括：

数据过滤模块，对所述交易数据包进行过滤。

进一步地，还包括：

故障模拟模块，根据预设异常模拟策略控制待测集群各节点进行异常模拟。

第三方面，提供一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现：

获取待测集群各节点的交易数据包，所述交易数据包包括多条交易数据，所述交易数据包括：交易标识、交易类型、节点标识以及流经节点时间；

根据待测交易的交易标识获取待测集群各节点的交易数据包中对应该待测交易的待测交易数据；

根据所述待测交易的交易类型以及所述待测集群的路由策略表生成预期交易链路；

根据所述待测交易数据的节点标识和流经节点时间生成该待测交易的实际交易链路；

对所述实际交易链路和所述预期交易链路进行一致性比对，并将一致性对比结果作为待测交易的测试结果。

第四方面，提供一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现：

获取待测集群各节点的交易数据包，所述交易数据包包括多条交易数据，所述交易数据包括：交易标识、交易类型、节点标识以及流经节点时间；

根据待测交易的交易标识获取待测集群各节点的交易数据包中对应该待测交易的待测交易数据；

根据所述待测交易的交易类型以及所述待测集群的路由策略表生成预期交易链路；

根据所述待测交易数据的节点标识和流经节点时间生成该待测交易的实际交易链路；

对所述实际交易链路和所述预期交易链路进行一致性比对，并将一致性对比结果作为待测交易的测试结果。

本发明提供的分布式数据处理系统的测试方法、装置、电子设备、计算机可读存储介质，该方法包括：获取待测集群各节点的交易数据包，所述交易数据包包括多条交易数据，所述交易数据包括：交易标识、交易类型、节点标识以及流经节点时间；根据待测交易的交易标识获取待测集群各节点的交易数据包中对应该待测交易的待测交易数据；根据所述待测交易的交易类型以及所述待测集群的路由策略表生成预期交易链路；根据所述待测交易数据的节点标识和流经节点时间生成该待测交易的实际交易链路；对所述实际交易链路和所述预期交易链路进行一致性比对，并将一致性对比结果作为待测交易的测试结果，其中，通过获取待测集群各节点的交易数据包(即进、出的交易报文)，并获取交易标识(报文唯一标识)、交易类型、节点标识以及流经节点时间(时间戳)、源目地址、源目端口等信息后，进行实时分析处理，实时形成实际交易链路和预期交易链路，基于交易链路追踪故障源，以便自动快速高效追踪故障位置，不依赖于测试人员的技能和经验，不依赖于被测集群或组件日志输出的完整性与规范性。

另外，可以根据预设异常模拟策略控制待测集群各节点进行异常模拟，并测试存在异常时待测集群是否能够无故障工作，可进行故障模拟下的交易路径的追踪与流量分析，实现分布式数据处理系统的高可用性测试和功能性测试。

为让本发明的上述和其他目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附图式，作详细说明如下。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：

图1是本发明实施例中的分布式数据处理系统的测试方法的流程示意图一；

图2是本发明实施例中的分布式数据处理系统的测试方法的流程示意图二；

图3是本发明实施例中的分布式数据处理系统的测试方法的流程示意图三；

图4是本发明实施例中的分布式数据处理系统的测试方法的流程示意图四；

图5是本发明实施例中的分布式数据处理系统的测试方法的流程示意图五；

图6示出了图1至图5中步骤S400的具体步骤；

图7为本发明实施例中实现分布式数据处理系统的测试方法的系统架构示意图；

图8是采用本发明实施例中分布式数据处理系统的测试方法进行测试时待测集群故障模拟前交易链路显示示意图；

图9是采用本发明实施例中分布式数据处理系统的测试方法进行测试时待测集群故障模拟后，交易链路显示示意图；

图10为本发明实施例电子设备的结构图。

具体实施方式

为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分的实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。

本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

需要说明的是，本申请的说明书和权利要求书及上述附图中的术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。

目前在进行分布式数据处理系统测试过程中，当某个交易请求处理出现异常时，通常需要收集整个交易链路上的各个组件日志，由人工进行逐一分析与排查，从大量日志中提取关键信息定位问题，一方面定位问题的精准度依赖于测试人员的技能和经验，另一方面定位问题的过程十分缓慢，效率低下。

为解决现有技术中的上述技术问题，本发明实施例提供一种分布式数据处理系统的测试方法，通过获取待测集群各节点的交易数据包(即进、出的交易报文)，并获取交易标识(报文唯一标识)、交易类型、节点标识以及流经节点时间(时间戳)、源目地址、源目端口等信息后，进行实时分析处理，实时形成实际交易链路和预期交易链路，基于交易链路追踪故障源，以便自动快速高效追踪故障位置，不依赖于测试人员的技能和经验，不依赖于被测集群或组件日志输出的完整性与规范性。

图1是本发明实施例中的分布式数据处理系统的测试方法的流程示意图一。如图1所示，该分布式数据处理系统的测试方法可以包括以下技术内容：

步骤S100：获取待测集群各节点的交易数据包，所述交易数据包包括多条交易数据，所述交易数据包括：交易标识、交易类型、节点标识以及流经节点时间。

待测集群为测试对象，是一个包含了多种不同类型的处理节点集群的分布式数据处理系统，其中，每个节点集群包含了多个节点处理交易数据。

具体地，分布式数据处理系统根据交易类别及预设交易路径，将交易数据发送至不同处理类型节点集群串行处理，每个节点集群会根据当前集群资源情况和待测集群的负载均衡策略为每条交易数据分配一个实际处理节点，整个交易数据的处理在系统中为单向链路结构(即实际交易链路)，从头节点开始逐个节点处理交易数据，并依次向后续节点路由数据，数据可以传递给一个或多个后续节点。

其中，该交易数据包由部署在待测集群各节点上的交易拦截单元实时拦截得到。

步骤S200：根据待测交易的交易标识获取待测集群各节点的交易数据包中对应该待测交易的待测交易数据。

具体地，实际交易链路时交易数据流经的节点按顺序组成，因此，需要在待测集群各节点的交易数据包中筛选对应与某一交易标识的所有数据，才能得到其实际交易链路。

步骤S300：根据所述待测交易的交易类型以及所述待测集群的路由策略表生成预期交易链路。

其中，路由策略表根据待测集群信息生成，是指根据交易业务类型，交易数据预期会流经的交易路径。

具体地，根据交易类型，实时与待测集群的路由策略配置进行匹配，逐层拼接出预期交易链路，预期交易链路以键值对(key-value存储结构)的形式存储，采用“交易标识”作为Key，“节点处理类型编号”依次拼接作为Value，拼接后形如：处理节点类型编号1处理节点类型编号2...处理节点类型编号3。

步骤S400：根据所述待测交易数据的节点标识和流经节点时间生成该待测交易的实际交易链路。

具体地，针对某一交易标识所对应的所有交易数据，根据流经节点时间的先后，对节点进行排序，得到交易实际的交易链路。

其中，对待测交易数据进行实时快速计算，链路信息以键值对(Key-Value存储结构)的形式存储，采用“交易标识”作为Key，交易流经的节点标识、流经节点时间、流入/流出标志(in/out)拼接作为Value，最终按照时间戳顺序拼接每笔交易数据流经的节点标识，为每笔交易形成一条实际交易链路，形如：IP1#in#时间戳11IP1#out#时间戳12IP2#in#时间戳21IP2#out#时间戳22...IPn#in#时间戳n1IPn#out#时间戳n2。如交易解析异常，则将Value值置为DecodeERR。

步骤S500：对所述实际交易链路和所述预期交易链路进行一致性比对，并将一致性对比结果作为待测交易的测试结果。

具体地，当实际交易链路和预期交易链路一致时，则判断交易正确执行，当实际交易链路和预期交易链路不一致，通过对比可以发现不一致的节点，可以进行前端显示或报警，以追踪故障位置。

若实际交易链路Value中节点标识(也可称为节点IP)的数量与预期链路节点处理节点类型数量是完全一致的，并且每个IP对应节点所属的节点集群均能依次匹配对应预期链路中节点处理类型，则在实际交易链路的Value中追加标识“Done(SUCC)”，标识核对一致。

若实际交易链路Value中节点IP的数量大于预期链路节点处理节点类型数量，或者数量一致但每个IP对应节点所属的节点集群不能依次匹配对应预期链路中节点处理类型，则在实际交易链路的Value中追加标识“Done(FAIL)”，标识核对不一致。

若实际交易链路Value中节点IP的数量小于预期链路节点处理节点类型数量，则认为当笔交易未按在链路核对超时参数阀值内按照预期的交易链路走完整个交易流程，则认为该笔交易在某个节点出现处理失败或处理超时。在实际交易链路的Value中追加标识“Done(OT)”，标识交易处理超时。

通过上述技术方案可以得知，本发明实施例通过获取待测集群各节点的交易数据包(即进、出的交易报文)，并获取交易标识(报文唯一标识)、交易类型、节点标识以及流经节点时间(时间戳)、源目地址、源目端口等信息后，进行实时分析处理，实时形成实际交易链路和预期交易链路，基于交易链路追踪故障源，以便自动快速高效追踪故障位置，不依赖于测试人员的技能和经验，不依赖于被测集群或组件日志输出的完整性与规范性。

在一个可选的实施例中，参见图2，该分布式数据处理系统的测试方法还可以包括：

步骤S150：根据预设的解析规则解析待测集群各节点的交易数据包得到交易数据。

在一个可选的实施例中，参见图3，该分布式数据处理系统的测试方法还可以包括：

步骤S350：根据所述待测交易数据的流经节点时间获取该待测交易的处理时间。

具体地，待测交易数据的最早的流经节点时间和最晚的流经节点时间之差为待测交易的处理时间。

步骤S360：判断所述处理时间是否超过预设超时时间参数。

若是，执行步骤S700；若否，执行步骤S400。

步骤S700：进行交易告警。

其中，对于超时的交易，不再继续进行实际交易链路构建，此时，根据“交易标识”获取每笔交易的实际链路，进行一致性比对，当出现异常时，进行交易告警。所述超时时间参数是用户针对每种交易类型设置的交易预期完成时间，比如反欺诈交易需在毫秒级时间内完成。

具体地，以交易流入待测集群头节点时刻作为起始时间的开始计算，经过“超时时间”后，若交易仍未按照预期交易链路走完整个交易流程，则认为该笔交易在某个节点出现处理失败或处理超时。

需要说明的是，不会对解析异常的交易进行一致性比对。

在一个可选的实施例中，参见图4，该分布式数据处理系统的测试方法还可以包括：

步骤S10：根据预设的模拟规则模拟各种类型的交易数据并根据预设的发送规则向所述待测集群发送。

在验证系统准确性过程中所发交易数据需确保涵盖全交易类型，以便交易数据能覆盖待测集群中所有类型的节点。

预设的模拟规则可以包括：交易的发送逻辑、报文格式、交易数据，由用户自行封装，发发送规则包括：发送并发数、发送时间、发送数据总量、发送速度等。

在一个可选的实施例中，参见图5，该分布式数据处理系统的测试方法还可以包括：

步骤S140：实时统计所述待测集群各节点的流量信息，所述流量信息包括：节点标识、流经节点时间、流入流出标识以及累计交易量。

其中，交易数据还包括：流入流出标识以及累计交易量。

具体地，流量信息以键值对(Key-Value存储结构)的形式存储，数据类型为Hash结构，“流经节点时间”和“节点标识”作为Key，“流入流出标识”作为Field，“累计交易量”作为Value。

在一个可选的实施例中，该分布式数据处理系统的测试方法还可以包括：

步骤S10：根据预设异常模拟策略控制待测集群各节点进行异常模拟。

具体地，用户可对待测集群中的各类节点进行异常模拟，用于监控待测集群的高可用性保障是否正常生效，交易实际链路是否正确。具体异常模拟包括：关闭节点上的计算进程、重启操作系统、模拟磁盘故障、对节点的各类资源(CPU、内存、IO、网络等)进行限制等。如在每一类节点集群中，随机挑选半数节点进行服务下线。

其中，根据待测集群信息，使用SSH协议连接至待测集群的各类节点，执行操作系统的kill、reboot、dd、tc等操作系统命令进行异常模拟。

在监测周期内，根据负载均衡策略，待测集群中每个节点至少能统计到一次流入、流出的流量，并且一个集群内的各节点流量是基本一致的。在进行故障模拟(如下线特定节点上的进程)后，与异常节点有关的高亮连接，均不再高亮，且无法再统计到该节点的流出流量。

在故障模拟过程中，为了防止出现大量交易处理超时的情况，将测试自动发报终端群组1的交易发送速率也做等幅调整，其余条件保持不变。

根据预设异常模拟策略控制待测集群各节点进行异常模拟，然后对存在异常的待测集群进行测试，能够有效进行高可用性测试，应用效果好，利于推广。

在一个进一步地的实施例中，该分布式数据处理系统的测试方法还可以包括：根据异常恢复策略控制待测集群各节点进行异常恢复。

举例来说，恢复所有之前下线节点上的服务。同时，将模拟交易数据的发送速率也一并恢复，其余条件保持不变，然后启动异常恢复，进行恢复性验证。

恢复故障后，即特定节点上的进程又重新启动，与该节点相关的交易链路又将恢复，在运行一定时间后,待测集群中每个节点至少又能统计到一次流入、流出的流量。

通过观察所有节点的流量变化情况，是否所有节点均能统计到流入及流出，且在等待时间t(等待时间t由用户在主控单元8中设置)后同一类节点集群中流入量最大节点与流入量最小节点的流量差值保持在ΔQ内，若流量差大于ΔQ，则说明待测集群中的节点恢复服务后，集群无法探测到重新上线的节点，则进行告警。

在一个可选的实施例中，参见图6，该步骤S400具体可以包括以下内容：

步骤S410：根据流经节点时间对待测交易数据进行排序。

具体地，根据流经节点时间的先后数据对多条对应待测交易的交易标识的交易数据进行排序，能够体现交易经过的节点的先后关系。

步骤S420：根据排序后的待测交易数据中的节点标识得到实际交易链路。

提取排序后的待测交易数据中的节点标识，即可得到实际的交易链路。

在一个可选的实施例中，该分布式数据处理系统的测试方法还可以包括：根据预设的过滤规则对所述交易数据包进行过滤。

具体地，根据采集规则对交易捕获模块所捕获到的数据包进行规则匹配，将符合条件的数据包进行放行。主要采用Libpcap中BPF(BSDPacket Filter)算法对数据包执行过滤操作。

在过滤数据包过程中，首先需要根据技术过滤规则来构造一个过滤表达式，过滤表达式可根据源目IP、源目端口、协议类型等各种复杂条件进行组合筛选，只采集用户关心的原始数据报文，既可以减少数据抓取的数据量、降低对磁盘IO的压力，同时也可提升后续实时计算的计算效率。例如过滤表达式“dst port 8080”，表示仅放行目的端口是8080的数据包；其次，需对构造的表达式进行编译；最后，应用此过滤表达式，即可达到对于交易数据的过滤。

在一个可选的实施例中，该分布式数据处理系统的测试方法还可以包括：根据预设的采集规则实时拦截流入、流出节点的交易数据包以及累计交易量。

其中，该采集规则包括数据采集频度等。

具体地，通过对待测集群各节点的网卡设备进行探测及拷贝，实时获取节点网卡设备上流入及流出的TCP数据包，实现采集网卡流入、流出的数据包。当一个数据包流入或流出节点的网络接口时，利用已经创建的Socket从链路层驱动程序中获得该数据包的拷贝。

由于本发明实施例是对原始交易数据包的拷贝进行操作，故不会对原始交易正常发送及处理产生影响。

在一个可选的实施例中，该分布式数据处理系统的测试方法还可以包括：设置解析规则、采集规则、过滤规则以及发送规则。

其中，采集规则支持实时热生效，包括采集策略及技术过滤规则，可对源目IP、源目端口、协议类型(TCP、JSION、XML)等复杂条件进行组合。

采集规则的数据采集频度，默认为100％全量交易采集。但在极端情况下，全交易采集可能会对待测集群性能产生影响。故可设计限速采集，即按固定频率采集若干条交易。

过滤规则用于设置一些个性化过滤条件，可根据源目IP、源目端口、协议类型等各种复杂条件进行组合筛选，只采集用户关心的原始数据报文，既可以减少数据抓取的数据量、降低对磁盘IO的压力，同时也可提升后续实时计算的计算效率。过滤规则可以对解析后的数据按交易种类、交易地区、交易渠道等业务条件来进行数据过滤。将用户不关心的业务数据直接过滤，提升后续实时计算的处理性能。

具体地，解析规则用于定义交易数据的报文格式及结构信息，支持TCP解析、JSION解析、XML解析、URL解析等预定义格式，也可由用户进行自定义配置。

在一个可选的实施例中，该分布式数据处理系统的测试方法还可以包括：存储实时流量统计数据、实际交易链路信息以及相关数据，以提供实时交易链路信息查询访问，以及历史交易链路的查询与追溯。

基于数据读写速度与实时处理效率考虑，本发明实施例采用基于内存的NoSQL数据库实现数据存储，如Redis内存数据库来实现，NoSQL数据库存储结构为键值对(key-value存储结构)形式，因此后续对于数据维护都将基于key-value进行描述。

在一个可选的实施例中，该分布式数据处理系统的测试方法还可以包括：展示实际交易链路和预期交易链路，并对核对不一致的交易进行前端展现或实时告警。

具体地，将每一笔流入系统的交易流经的节点链路、每个节点的处理时间进行可视化展现。对于不符合预期交易链路或超时无响应的交易进行告警。同时实时展现当前交易链路，以及节点的交易数据流入量与流出量。

在一个可选的实施例中，该分布式数据处理系统的测试方法还可以包括：根据实际交易链路及流量监测判断系统是否有异常工作的节点，如有节点始终无数据流入，则中断测试，调整相应参数。

在一个可选的实施例中，该分布式数据处理系统的测试方法还可以包括：监测待测集群的负载是否均衡。若否，中断测试，调整交易数据模拟规则，重新执行测试。

具体地，在监测周期内，确认模拟的交易数据是否能覆盖待测集群中所有类型的节点，并且同一时间同一类型的节点集群中流入量最大的节点与流入量最小的节点的流量差值是否在ΔQ内，若流量差大于ΔQ，则说明待测集群的负载均衡策略存在问题，则中断测试，调整系统参数；如流量差小于ΔQ，则说明待测集群的负载均衡策略符合预期，进入后续步骤，所述ΔQ基于待测集群负载均衡策略的预设值，由用户设定。

在一个可选的实施例中，该分布式数据处理系统的测试方法还可以包括：交易数据包预处理步骤。

具体地，判断交易数据包的报文结构是否准确，如正确进入解析，将数据包解析为可读的业务数据；如不正确记录异常情况，另外，存储解析异常交易信息，以对解析异常交易信息进行前端展现及实时告警。

在一个可选的实施例中，该分布式数据处理系统的测试方法还可以包括：过滤交易数据。

具体地，在进行数据解析后，根据交易过滤规则判断是否需要过滤无效交易数据，并经过滤后的数据用于后续流程，无效交易数据是指不符合预设的业务过滤规则的数据。业务过滤规则可以对解析后的数据按交易种类、交易地区、交易渠道等业务条件来进行数据过滤筛选。将用户不关心的业务数据直接过滤，提升后续实时计算的处理性能。

基于同一发明构思，本申请实施例还提供了一种分布式数据处理系统的测试装置，可以用于实现上述实施例所描述的方法，如下面的实施例所述。由于分布式数据处理系统的测试装置的装置解决问题的原理与上述方法相似，因此分布式数据处理系统的测试装置的实施与上述方法实施相互参见即可，重复之处不再赘述。以下所使用的，术语“单元”或者“模块”可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件，或者软件和硬件的组合的实现也是可能并被构想的。

图7为本发明实施例中实现分布式数据处理系统的测试方法的系统架构示意图。如图1所示，该系统架构包括：分布式数据处理系统的测试装置S以及待测集群2，分布式数据处理系统的测试装置S包括：测试自动发报终端群组1以及测试控制子装置3。该分布式数据处理系统的测试装置S用于实现本发明实施例提供的分布式数据处理系统的测试方法。

具体地，测试自动发报终端群组1由多台服务器终端组成，可根据实际发送需求进行横向扩展，每台服务器终端均包括数据模拟模块以及数据发送模块，数据模拟模块负责根据预设的模拟规则模拟各种类型的交易数据，数据发送模块根据预设的发送规则向待测集群2的头节点进行发送。

其中，在验证系统准确性过程中所发交易数据需确保涵盖全交易类型，以便交易数据能覆盖待测集群中所有类型的节点。

预设的模拟规则可以包括：交易的发送逻辑、报文格式、交易数据，由用户自行封装，发送过程由测试控制子装置3基于发送规则进行统一调度，发送规则包括：发送并发数、发送时间、发送数据总量、发送速度等。

待测集群2为测试对象，是一个包含了多种不同类型的处理节点集群的分布式数据处理系统，其中，每个节点集群包含了多个节点处理交易数据。

具体地，分布式数据处理系统根据交易类别及预设交易路径，将交易数据发送至不同处理类型节点集群串行处理，每个节点集群会根据当前集群资源情况和待测集群的负载均衡策略为每条交易数据分配一个实际处理节点，整个交易数据的处理在系统中为单向链路结构，从头节点开始逐个节点处理交易数据，并依次向后续节点路由数据，数据可以传递给一个或多个后续节点。

本发明实施例在待测集群2的每个节点上都会部署一个交易拦截单元，用于根据预设的采集规则实时拦截流入、流出节点的交易数据包，将符合采集规则的交易数据旁路至数据处理单元5解析，同时将流量信息写入测试控制子装置3的数据存储单元6，用于待测集群各节点的实时流量统计。

其中，待测集群2每个节点上的拦截单元的内部构造、性能完全一致，该交易拦截单元可以包括：交易捕获模块和数据过滤模块。

交易捕获模块接收主控单元8发送的采集规则，对数据包采集过程中所需使用的采集规则进行设置与更新，通过对待测集群各节点的网卡设备进行探测及拷贝，实时获取节点网卡设备上流入及流出的TCP数据包，负责采集网卡流入、流出的数据包。

具体地，当一个数据包流入或流出节点的网络接口时，利用已经创建的Socket从链路层驱动程序中获得该数据包的拷贝，再将数据包转发给数据过滤模块。

由于交易捕获模块是对原始交易数据包的拷贝进行操作，故不会对原始交易正常发送及处理产生影响。

本发明交易捕获模块主要是采用类Unix平台下的网络数据包捕获函数库Libpcap(Packet Capture Library)来采集网卡流入及流出的数据包，该函数库实现和封装了与数据包截获有关的过程，提供了用户级别的网络数据包捕获接口，并充分考虑到应用程序的可移植性，可以在绝大多数Linux平台上运行。若待测集群为Windows平台，则可采用WinPcap库(Windows Packet Capture)来实现网卡数据包的采集，其同样基于Libpcap函数库实现。抓包过程中，主要利用Libpcap库提供的回调函数pcap_loop()和pcap_dispatch()来抓取数据包。

数据过滤模块根据主控单元8设置的采集规则(包含数据采集频度、技术过滤规则等)，对交易捕获模块所捕获到的数据包进行规则匹配，将符合条件的数据包进行放行。

本发明数据过滤模块主要采用Libpcap中BPF(BSDPacket Filter)算法对数据包执行过滤操作。

在过滤数据包过程中，首先需要根据主控单元8设置的技术过滤规则来构造一个过滤表达式，过滤表达式可根据源目IP、源目端口、协议类型等各种复杂条件进行组合筛选，只采集用户关心的原始数据报文，既可以减少数据抓取的数据量、降低对磁盘IO的压力，同时也可提升后续实时计算的计算效率。例如过滤表达式“dst port 8080”，表示仅放行目的端口是8080的数据包；其次，需对构造的表达式进行编译；最后，应用此过滤表达式，即可达到对于交易数据的过滤。最终，过滤后的数据包将被转发至数据处理单元5进行后续处理。

测试控制子装置3包含了数据处理单元5、数据存储单元6、结果核对单元7、主控单元8四个部分。本发明可将测试控制子装置3中的数据处理单元5、数据存储单元6、结果核对单元7、主控单元8部署在同一台服务器上开展测试工作，在实际测试中也可将其部署在多台服务器上。

所述数据处理单元5可以包括：数据获取模块、交易解析模块、数据筛选模块、实际交易链路获取模块等。

数据获取模块用于实时接收交易拦截单元拦截到的待测集群各节点的交易数据包，交易数据包包括多条交易数据，所述交易数据包括：交易标识、交易类型、节点标识以及流经节点时间。

交易解析模块用于根据预设的解析规则将数据包解析待测集群各节点的交易数据包得到可读的交易数据，交易标识(交易唯一键)、交易类型、节点标识(节点IP)、流入流出标志、流经节点时间等实际交易路径写入数据存储单元6。同时，将“交易标识”、“交易类型”信息发送至结果核对单元7，供其自动生成预期交易链路。

数据筛选模块根据待测交易的交易标识获取待测集群各节点的交易数据包中对应该待测交易的待测交易数据。

实际交易链路获取模块根据所述待测交易数据的节点标识和流经时间生成该待测交易的实际交易链路。

具体地，该实际交易链路获取模块包括：数据排序子模块以及链路构建子模块。

数据排序子模块根据流经节点时间对待测交易数据进行排序。

链路构建子模块根据排序后的待测交易数据中的节点标识得到实际交易链路。

具体地，实际交易链路获取模块从交易解析模块实时接收解析后的交易数据，进行实时快速计算，将实际交易链路信息维护进数据存储单元6中，链路信息以键值对(Key-Value存储结构)的形式存储在数据存储单元6中，采用“交易标识”作为Key，交易流经的节点标识、流经节点时间、流入/流出标志(in/out)拼接作为Value，最终按照时间戳顺序拼接每笔交易数据流经的节点标识，为每笔交易形成一条实际交易链路，形如：IP1#in#时间戳11IP1#out#时间戳12IP2#in#时间戳21IP2#out#时间戳22...IPn#in#时间戳n1IPn#out#时间戳n2。如交易解析异常，则将Value值置为DecodeERR。

数据存储单元6负责存储交易拦截单元的实时流量统计及实际交易链路信息；供结果核对单元7实时获取实际交易链路信息，形成预期交易链路；并且，向主控单元8提供实时交易链路信息查询访问，以及历史交易链路的查询与追溯。

基于数据读写速度与实时处理效率考虑，本发明采用基于内存的NoSQL数据库实现数据存储单元6，如Redis内存数据库来实现，NoSQL数据库存储结构为键值对(key-value存储结构)形式，因此后续对于数据维护都将基于key-value进行描述。

在数据处理单元5写入过程中，由于K-V数据库的存储特性，在以“交易标识”为KEY，实时追加交易最新“节点标识”、“流经节点时间”的Value数据，形成实际交易链路。其中，“交易标识”是一笔交易的唯一标识，“节点标识”是指处理交易数据的实际节点。

结果核对单元7可以包括：预期结果生成模块、链路核对模块、处理时间获取模块、超时判断模块、交易告警模块等。

预期结果生成模块接收主控单元8发送的路由策略表(路由策略表是指根据交易业务类型，交易数据预期会流经的交易路径)及各类型处理节点的IP列表，从数据处理单元5获取“交易标识”、“交易类型”，根据“交易类型”结合路由策略表为每笔交易生成预期交易链路，写入数据存储单元6。

具体地，预期结果生成模块根据交易类型，实时与待测集群的路由策略配置进行匹配，逐层拼接出预期交易链路后以键值对(key-value存储结构)的形式一次性写入数据存储单元6。采用“交易标识”作为Key，“节点处理类型编号”依次拼接作为Value，拼接后形如：处理节点类型编号1处理节点类型编号2...处理节点类型编号3。

处理时间获取模块根据待测交易数据的流经节点时间获取该待测交易的处理时间。

具体地，待测交易数据的最早的流经节点时间和最晚的流经节点时间之差为待测交易的处理时间。

超时判断模块接收主控单元8发送的链路核对超时时间参数，然后根据处理时间和超时时间参数判断交易在待测集群中的整体处理时间是否超，交易告警模块对于超时的交易，不再继续进行实际交易链路构建，根据“交易标识”至数据存储单元6获取每笔交易的实际链路，进行一致性比对，并将比对结果存储入数据存储单元6。所述超时时间参数是用户针对每种交易类型设置的交易预期完成时间，比如反欺诈交易需在毫秒级时间内完成。

具体地，以交易流入待测集群头节点时刻作为起始时间的开始计算，经过“超时时间”后，若交易仍未按照预期交易链路走完整个交易流程，则认为该笔交易在某个节点出现处理失败或处理超时。

需要说明的是，解析异常数据，结果核对单元7则不会对解析异常的交易进行比对。

链路核对模块对所述实际交易链路和所述预期交易链路进行一致性比对，并将一致性对比结果作为待测交易的测试结果。

具体地，链路核对模块用于比较预期交易链路与实际交易链路，并将比较结果存入数据存储单元6，同时发送至主控单元8，进行交易链路展现，并对核对不一致的交易进行前端展现或实时告警。具体地，系统从节点流入的时间截获交易进入待测集群的时间(T0)，根据当前系统时间(T1)，等待交易时长T(T＝T1－T0)超过链路核对超时参数后，使用交易唯一键作为key，获取数据存储单元6中的实际交易链路与预期链路节点。

若实际交易链路Value中节点标识(也可称为节点IP)的数量与预期链路节点处理节点类型数量是完全一致的，并且每个IP对应节点所属的节点集群均能依次匹配对应预期链路中节点处理类型，则在实际交易链路的Value中追加标识“Done(SUCC)”，标识核对一致。

若实际交易链路Value中节点IP的数量大于预期链路节点处理节点类型数量，或者数量一致但每个IP对应节点所属的节点集群不能依次匹配对应预期链路中节点处理类型，则在实际交易链路的Value中追加标识“Done(FAIL)”，标识核对不一致。

若实际交易链路Value中节点IP的数量小于预期链路节点处理节点类型数量，则认为当笔交易未按在链路核对超时参数阀值内按照预期的交易链路走完整个交易流程，则认为该笔交易在某个节点出现处理失败或处理超时。在实际交易链路的Value中追加标识“Done(OT)”，标识交易处理超时。如下表1所示：

表1

主控单元8提供一个开放式的界面，用户可通过此界面实现采集规则、交易解析规则、待测集群信息等参数的设置和维护，采集规则、交易解析规则变化后，将由主控单元8主动推送至交易拦截单元和数据处理单元5；待测集群信息设置完成后将由主控单元8推送至结果核对单元7。所述采集规则支持实时热生效，包括采集策略及技术过滤规则，可对源目IP、源目端口、协议类型(TCP、JSION、XML)等复杂条件进行组合。

在一个可选的实施例中，主控单元8可以包括：流量统计模块，实时读取数据存储单元6中构建的实际交易链路，提供待测集群的交易链路上节点流量的实时监控统计。

具体地，交易数据还包括：流入流出标识以及累计交易量。流量统计模块实时统计所述待测集群各节点的流量信息，所述流量信息包括：节点标识、流经节点时间、流入流出标识以及累计交易量。

值得说明的是，每一笔交易在转发至数据处理单元5的同时，会将本节点流入、流出的交易流量(即累计交易量)写入数据存储单元6中，用于交易流量的实时监控与统计。流量信息以键值对(Key-Value存储结构)的形式存储在数据存储单元6中，数据类型为Hash结构，“流经节点时间”和“节点标识”作为Key，“流入流出标识”作为Field，“累计交易量”作为Value。具体地，使用“流经节点时间”、“节点标识”和“流入流出标识”读取数据存储单元6，获取当前“累计交易量”，交易流量统计的key-value结构信息如表2所示：

表2

同时，主控单元8用于设置测试自动发报终端群组1的发送规则。

在一个可选的实施例中，主控单元8还可以包括：故障模拟模块，用户可以通过主控单元8根据预设异常模拟策略控制待测集群各节点进行异常模拟，用于监控待测集群的高可用性保障是否正常生效，交易实际链路是否正确。具体异常模拟包括：关闭节点上的计算进程、重启操作系统、模拟磁盘故障、对节点的各类资源(CPU、内存、IO、网络等)进行限制等。如在每一类节点集群中，随机挑选半数节点进行服务下线。

其中，根据待测集群信息，使用SSH协议连接至待测集群的各类节点，执行操作系统的kill、reboot、dd、tc等操作系统命令进行异常模拟。

所有启动的节点均会根据实际交易数据流入、流出的路径高亮显示连接，图8是采用本发明实施例中分布式数据处理系统的测试方法进行测试时待测集群故障模拟前交易链路显示示意图。

在监测周期内，根据负载均衡策略，待测集群中每个节点至少能统计到一次流入、流出的流量，并且一个集群内的各节点流量是基本一致的。在主控单元8进行故障模拟(如下线特定节点上的进程)后，与异常节点有关的高亮连接，均不再高亮，且无法再统计到该节点的流出流量。图9是采用本发明实施例中分布式数据处理系统的测试方法进行测试时待测集群故障模拟后，交易链路显示示意图，模拟节点2b、3a关闭的情况下，交易链路显示示意图，其中实线箭头表示高亮，虚线箭头表示暗灭，说明2b、3a关闭后，被节点流量变成0，相应的路径上节点变暗。主控单元8恢复故障后，即特定节点上的进程又重新启动，与该节点相关的交易链路又将恢复，在运行一定时间后,待测集群中每个节点至少又能统计到一次流入、流出的流量。

在故障模拟过程中，为了防止出现大量交易处理超时的情况，将测试自动发报终端群组1的交易发送速率也做等幅调整，其余条件保持不变。

所述待测集群与所述分布式数据处理系统的测试装置S之间可以使用任何合适的网络协议进行通信，包括在本申请提交日尚未开发出的网络协议。所述网络协议例如可以包括TCP/IP协议、UDP/IP协议、HTTP协议、HTTPS协议等。当然，所述网络协议例如还可以包括在上述协议之上使用的RPC协议(Remote Procedure Call Protocol，远程过程调用协议)、REST协议(Representational State Transfer，表述性状态转移协议)等。

在一个可选的实施例中，该数据处理单元5还包括：消息队列。

消息队列用于实时接收、存储由数据过滤模块转发而来的交易数据包，并将队列中的数据提供给交易解析模块进行使用。具体的，数据过滤模块作为生产者实时将采集到的交易数据放入消息队列的队尾，交易解析模块作为消费者，根据数据进入队列的先后顺序从消息队列中获取交易数据并进行后续处理。使用消息队列的方式获取交易数据，既可以实现上下游模块之间的解耦，也可以实现数据的延迟消费，保证数据可靠性，避免因为瞬时TPS过高而引起的数据丢失。

在一个可选的实施例中，该结果核对单元7还可以包括：实际交易链路获取模块，用于获取实际交易链路获取模块生成的待测交易的实际交易链路，并获取交易解析模块发送的实际交易的“交易类型”和“交易标识”，并根据“交易类型”从主控单元8获取的链路核对超时时间参数，以用于判断交易在待测集群中的整体处理时间是否超时，对于超时的交易，系统不再继续进行实际交易链路构建，此时，根据“交易标识”从数据存储单元6获取每笔交易的实际链路。

在一个可选的实施例中，主控单元8还可以包括：参数设置模块、测试监控模块以及历史交易链路查询模块。

参数设置模块881供用户设置采集规则、解析规则、发送规则、过滤规则以及预期结果生成、链路一致性核对等步骤中涉及的相关参数。

具体地，采集规则的数据采集频度，默认为100％全量交易采集。但在极端情况下，全交易采集可能会对待测集群性能产生影响。故可设计限速采集，即按固定频率采集若干条交易。过滤规则用于设置一些个性化过滤条件，可根据源目IP、源目端口、协议类型等各种复杂条件进行组合筛选，只采集用户关心的原始数据报文，既可以减少数据抓取的数据量、降低对磁盘IO的压力，同时也可提升后续实时计算的计算效率。过滤规则可以对解析后的数据按交易种类、交易地区、交易渠道等业务条件来进行数据过滤。将用户不关心的业务数据直接过滤，提升后续实时计算的处理性能。

具体地，解析规则用于定义交易数据的报文格式及结构信息，支持TCP解析、JSION解析、XML解析、URL解析等预定义格式，也可由用户进行自定义配置。

值得说明的是，主控单元8将待测集群信息、超时参数、交易链路明细保留周期推送至结果核对单元7，所述待测集群信息包括路由策略配置、各组件IP列表，所述路由策略配置主要是指包含了两类信息，一类是交易类型与预期链路的关系，数据类型为String结构、以交易类型为Key、以预期经过的处理节点类型链路为Value，二是处理节点类型与处理节点IP对应关系，数据类型为Set结构，处理节点类型的编号为Key，该节点类型所有的节点IP为Value；所述超时参数为用户预设的预期交易完成时间，用于判定是否已到达可获取实际交易链路的时间；所述交易链路明细保留周期用于控制历史链路明细数据在数据存储单元6中保留时间的长短，以便对历史交易数据的问题排查及追溯。

测试监控模块实时访问数据存储单元6，将每一笔流入系统的交易流经的节点链路、每个节点的处理时间进行可视化展现。对于不符合预期交易链路或超时无响应的交易进行告警。同时实时展现当前交易链路，以及节点的交易数据流入量与流出量。

历史交易链路查询模块对于在保留周期内的历史交易链路明细，可以通过交易标识访问数据存储单元6，进行交易链路查询展现，便于对历史交易数据的问题排查及追溯。

在一个可选的实施例中，主控单元8进行实际交易链路及流量监测,判断系统是否有异常工作的节点，如有节点始终无数据流入，则中断测试，调整相应参数。

在一个可选的实施例中，主控单元8还用于监测系统负载均衡策略，即在监测周期内，确认模拟的交易数据是否能覆盖待测集群中所有类型的节点，并且同一时间同一类型的节点集群中流入量最大的节点与流入量最小的节点的流量差值是否在ΔQ内，若流量差大于ΔQ，则说明待测集群的负载均衡策略存在问题，则中断测试，调整系统参数；如流量差小于ΔQ，则说明待测集群的负载均衡策略符合预期，进入后续步骤，所述ΔQ为用户在主控单元8中基于待测集群负载均衡策略的预设值。

其中，在高可用性验证阶段，可通过主控单元8观察下线节点的流量变化情况。具体地，可以监测异常节点的明暗变化，与异常节点有关的高亮连接，均不再高亮，且无法再统计到该节点的流出流量；另外，可监测集群切换时间与交易丢失率是否符合预期。具体地，下线指令发时间(T0)，直至各类下线节点再无数据流入量的时间(T1)的差值是否小于故障切换时间T(故障切换时间T由用户在主控单元8中设置)，若T1-T0>T，则认为待测集群的高可用性保障未实时生效，并在主控单元8进行告警。其次，实时统计T0至T1时间段内的交易丢失比率情况，即：访问数据存储单元6，获取T0至T1时间段内Value值包含标识“Done(OT)”或“Done(FAIL)”的交易笔数。若交易丢失比率L0，大于故障交易丢失率L(故障交易丢失率L由用户在主控单元8中设置)，则同样认为待测集群的高可用性保障未实时生效，并在主控单元8进行告警。

值得说明的是，可通过主控单元8设置异常恢复策略。如恢复所有之前下线节点上的服务。同时，将测试自动发报终端群组1的发送速率也一并恢复，其余条件保持不变，然后启动异常恢复，进行恢复性验证。

主控单元8恢复故障后，即特定节点上的进程又重新启动，与该节点相关的交易链路又将恢复，在运行一定时间后,待测集群中每个节点至少又能统计到一次流入、流出的流量。

通过主控单元8，观察所有节点的流量变化情况，是否所有节点均能统计到流入及流出，且在等待时间t(等待时间t由用户在主控单元8中设置)后同一类节点集群中流入量最大节点与流入量最小节点的流量差值保持在ΔQ内，若流量差大于ΔQ，则说明待测集群中的节点恢复服务后，集群无法探测到重新上线的节点，并在主控单元8进行告警。

在一个可选的实施例中，交易解析模块在进行数据解析之前判断交易数据包的报文结构是否准确，如正确进入解析，将数据包解析为可读的业务数据；如不正确记录异常情况，另外，将解析异常交易信息写入数据存储单元6，供主控单元8读取访问，进行前端展现及实时告警。结果核对单元7则不会对解析异常的交易进行比对。

在一个可选的实施例中，该装置还可以包括：交易数据过滤模块，在进行数据解析后，根据交易过滤规则判断是否需要过滤无效交易数据，并经过滤后的数据用于后续流程，无效交易数据是指不符合在主控单元8设置的业务过滤规则的数据。业务过滤规则可以对解析后的数据按交易种类、交易地区、交易渠道等业务条件来进行数据过滤筛选。将用户不关心的业务数据直接过滤，提升后续实时计算的处理性能。

综上所述，本发明实施例提供的分布式数据处理系统的测试装置，基于交易链路追踪故障源，以便自动快速高效追踪故障位置，不依赖于测试人员的技能和经验，不依赖于被测集群或组件日志输出的完整性与规范性。

并且，通过事先设置采集规则、解析规则等参数，自动实现对交易报文的实时采集、跟踪处理以及自动核对，并提供前端的展现及查询，提高了分布式数据处理系统自动化测试的效率和测试质量，测试工程师通过访问前端展现模块，即可实现交易跟踪、快速定位集群异常组件或节点。不仅降低了分布式系统测试的技术门槛，同时也大大提高了分布式系统自动化测试的效率和测试质量。

再者，对于业务系统无侵入，对业务系统本身的性能影响降至最低，且具有较好的通用性。

上述实施例阐明的装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为电子设备，具体的，电子设备例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。

在一个典型的实例中电子设备具体包括存储器、处理器以及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现下述步骤：

获取待测集群各节点的交易数据包，所述交易数据包包括多条交易数据，所述交易数据包括：交易标识、交易类型、节点标识以及流经节点时间；

根据待测交易的交易标识获取待测集群各节点的交易数据包中对应该待测交易的待测交易数据；

根据所述待测交易的交易类型以及所述待测集群的路由策略表生成预期交易链路；

根据所述待测交易数据的节点标识和流经时间生成该待测交易的实际交易链路；

对所述实际交易链路和所述预期交易链路进行一致性比对，并将一致性对比结果作为待测交易的测试结果。

从上述描述可知，本发明实施例提供的电子设备，可用于测试分布式数据处理系统，通过获取待测集群各节点的交易数据包(即进、出的交易报文)，并获取交易标识(报文唯一标识)、交易类型、节点标识以及流经节点时间(时间戳)、源目地址、源目端口等信息后，进行实时分析处理，实时形成实际交易链路和预期交易链路，基于交易链路追踪故障源，以便自动快速高效追踪故障位置，不依赖于测试人员的技能和经验，不依赖于被测集群或组件日志输出的完整性与规范性。

下面参考图10，其示出了适于用来实现本申请实施例的电子设备600的结构示意图。

如图10所示，电子设备600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM))603中的程序而执行各种适当的工作和处理。在RAM603中，还存储有系统600操作所需的各种程序和数据。CPU601、ROM602、以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡，调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口606。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装如存储部分608。

特别地，根据本发明的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本发明的实施例包括一种计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现下述步骤：

获取待测集群各节点的交易数据包，所述交易数据包包括多条交易数据，所述交易数据包括：交易标识、交易类型、节点标识以及流经节点时间；

根据待测交易的交易标识获取待测集群各节点的交易数据包中对应该待测交易的待测交易数据；

根据所述待测交易的交易类型以及所述待测集群的路由策略表生成预期交易链路；

根据所述待测交易数据的节点标识和流经时间生成该待测交易的实际交易链路；

对所述实际交易链路和所述预期交易链路进行一致性比对，并将一致性对比结果作为待测交易的测试结果。

从上述描述可知，本发明实施例提供的计算机可读存储介质，可用于测试分布式数据处理系统，通过获取待测集群各节点的交易数据包(即进、出的交易报文)，并获取交易标识(报文唯一标识)、交易类型、节点标识以及流经节点时间(时间戳)、源目地址、源目端口等信息后，进行实时分析处理，实时形成实际交易链路和预期交易链路，基于交易链路追踪故障源，以便自动快速高效追踪故障位置，不依赖于测试人员的技能和经验，不依赖于被测集群或组件日志输出的完整性与规范性。

在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

本领域技术人员应明白，本申请的实施例可提供为方法、系统或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (18)

1.一种分布式数据处理系统的测试方法，其特征在于，包括：

获取待测集群各节点的交易数据包，所述交易数据包包括多条交易数据，所述交易数据包括：交易标识、交易类型、节点标识以及流经节点时间；

根据待测交易的交易标识获取待测集群各节点的交易数据包中对应该待测交易的待测交易数据；

根据所述待测交易的交易类型以及所述待测集群的路由策略表生成预期交易链路；

根据所述待测交易数据的节点标识和流经节点时间生成该待测交易的实际交易链路；

对所述实际交易链路和所述预期交易链路进行一致性比对，并将一致性对比结果作为待测交易的测试结果。

2.根据权利要求1所述的分布式数据处理系统的测试方法，其特征在于，所述根据所述待测交易数据的节点标识和流经节点时间生成该待测交易的实际交易链路，包括：

根据流经节点时间对待测交易数据进行排序；

根据排序后的待测交易数据中的节点标识得到实际交易链路。

3.根据权利要求1所述的分布式数据处理系统的测试方法，其特征在于，还包括：

根据预设的解析规则解析待测集群各节点的交易数据包得到交易数据。

4.根据权利要求1所述的分布式数据处理系统的测试方法，其特征在于，所述根据所述待测交易数据的节点标识和流经节点时间生成该待测交易的实际交易链路之前，还包括：

根据所述待测交易数据的流经节点时间获取该待测交易的处理时间；

判断所述处理时间是否超过预设超时时间参数；

若是，则进行交易告警。

5.根据权利要求1所述的分布式数据处理系统的测试方法，其特征在于，还包括：

根据预设的模拟规则模拟各种类型的交易数据并根据预设的发送规则向所述待测集群发送。

6.根据权利要求1所述的分布式数据处理系统的测试方法，其特征在于，所述交易数据还包括：流入流出标识以及累计交易量；

所述测试方法还包括：

实时统计所述待测集群各节点的流量信息，所述流量信息包括：节点标识、流经节点时间、流入流出标识以及累计交易量。

7.根据权利要求1所述的分布式数据处理系统的测试方法，其特征在于，所述获取待测集群各节点的交易数据包后，还包括：

对所述交易数据包进行过滤。

8.根据权利要求1所述的分布式数据处理系统的测试方法，其特征在于，还包括：

根据预设异常模拟策略控制待测集群各节点进行异常模拟。

9.一种分布式数据处理系统的测试装置，其特征在于，包括：

数据获取模块，获取待测集群各节点的交易数据包，所述交易数据包包括多条交易数据，所述交易数据包括：交易标识、交易类型、节点标识以及流经节点时间；

数据筛选模块，根据待测交易的交易标识获取待测集群各节点的交易数据包中对应该待测交易的待测交易数据；

预期结果生成模块，根据所述待测交易的交易类型以及所述待测集群的路由策略表生成预期交易链路；

实际交易链路获取模块，根据所述待测交易数据的节点标识和流经节点时间生成该待测交易的实际交易链路；

链路核对模块，对所述实际交易链路和所述预期交易链路进行一致性比对，并将一致性对比结果作为待测交易的测试结果。

10.根据权利要求9所述的分布式数据处理系统的测试装置，其特征在于，所述实际交易链路获取模块包括：

数据排序子模块，根据流经节点时间对待测交易数据进行排序；

链路构建子模块，根据排序后的待测交易数据中的节点标识得到实际交易链路。

11.根据权利要求9所述的分布式数据处理系统的测试装置，其特征在于，还包括：

交易解析模块，根据预设的解析规则解析待测集群各节点的交易数据包得到交易数据。

12.根据权利要求9所述的分布式数据处理系统的测试装置，其特征在于，还包括：

处理时间获取模块，根据所述待测交易数据的流经节点时间获取该待测交易的处理时间；

超时判断模块，判断所述处理时间是否超过预设超时时间参数；

交易告警模块，处理时间超过预设超时时间参数则进行交易告警。

13.根据权利要求9所述的分布式数据处理系统的测试装置，其特征在于，还包括：

数据模拟模块，根据预设的模拟规则模拟各种类型的交易数据并根据预设的发送规则向所述待测集群发送。

14.根据权利要求9所述的分布式数据处理系统的测试装置，其特征在于，所述交易数据还包括：流入流出标识以及累计交易量；

所述测试装置还包括：

流量统计模块，实时统计所述待测集群各节点的流量信息，所述流量信息包括：节点标识、流经节点时间、流入流出标识以及累计交易量。

15.根据权利要求9所述的分布式数据处理系统的测试装置，其特征在于，还包括：

数据过滤模块，对所述交易数据包进行过滤。

16.根据权利要求9所述的分布式数据处理系统的测试装置，其特征在于，还包括：

故障模拟模块，根据预设异常模拟策略控制待测集群各节点进行异常模拟。

17.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现权利要求1至8任一项所述的分布式数据处理系统的测试方法的步骤。

18.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该计算机程序被处理器执行时实现权利要求1至8任一项所述的分布式数据处理系统的测试方法的步骤。