CN103902447B - 一种分布式系统的系统测试方法及装置 - Google Patents

Abstract

本发明提供了一种分布式系统的系统测试方法及装置，其中所述方法包括：A.对线上的分布式系统进行监控，以获取在所述线上的分布式系统上执行目标作业所依赖的第一标识文件；B.根据线下的分布式系统的集群规模对所述第一标识文件进行修改，以获取在所述线下的分布式系统上执行所述目标作业所依赖的第二标识文件，以及，根据所述第二标识文件获取在所述线下的分布式系统上执行所述目标作业所依赖的输入数据；C.在所述线下的分布式系统上根据所述第二标识文件及获取的输入数据执行所述目标作业，以对所述线下的分布式系统进行测试。通过上述方式，本发明能够增加系统测试的有效性。

Description

一种分布式系统的系统测试方法及装置

【技术领域】

本发明涉及系统测试技术领域，特别涉及一种分布式系统的系统测试方法及装置。

【背景技术】

系统测试是针对整个系统进行的测试，目的是验证系统是否满足了需求规格的定义，是系统发布前进行的非常重要的环节。

在系统测试中，测试用例包括用户怎样使用系统和在什么环境下使用系统两方面，在现有技术中，测试用例是通过人工的方式得到的，例如测试人员对用户怎样使用系统和在什么环境下使用系统进行调查，并设计相应的测试用例，由于要得知用户怎样使用系统和在什么环境下使用系统是非常困难的，因此，现有技术的这种方法得到的测试用例的质量不高，数量也有限，从而影响了系统测试的有效性。

【发明内容】

本发明所要解决的技术问题是提供一种分布式系统的系统测试方法及装置，以增加系统测试的有效性。

本发明为解决技术问题而采用的技术方案是提供一种分布式系统的系统测试方法，包括：A.对线上的分布式系统进行监控，以获取在所述线上的分布式系统上执行目标作业所依赖的第一标识文件；B.根据线下的分布式系统的集群规模对所述第一标识文件进行修改，以获取在所述线下的分布式系统上执行所述目标作业所依赖的第二标识文件，以及，根据所述第二标识文件获取在所述线下的分布式系统上执行所述目标作业所依赖的输入数据；C.在所述线下的分布式系统上根据所述第二标识文件及获取的输入数据执行所述目标作业，以对所述线下的分布式系统进行测试。

根据本发明之一优选实施例，所述步骤A包括：A1.从所述线上的分布式系统中提取当前作业所依赖的当前标识文件；A2.对所述线上的分布式系统进行轮询，以获取当前作业的状态；A3.当所述状态为执行失败时，将所述步骤A1中提取的当前标识文件丢弃，否则将所述步骤A1中提取的当前标识文件作为所述第一标识文件。

根据本发明之一优选实施例，所述分布式系统为Hadoop系统。

根据本发明之一优选实施例，所述第一标识文件及所述第二标识文件均包含作业程序文件、作业分块文件及作业配置文件。

根据本发明之一优选实施例，所述步骤B包括：根据预设的配置修改条件对所述第一标识文件包含的作业配置文件中的配置项进行修改，以得到所述第二标识文件包含的作业配置文件，其中所述配置修改条件由所述线下系统的集群规模决定；从在所述线上的分布式系统上执行所述目标作业所依赖的输入数据中复制指定规模的输入数据到所述线下的分布式系统中，以得到在所述线下的分布式系统上执行所述目标作业所依赖的输入数据，其中所述指定规模是由所述第二标识文件包含的作业配置文件中的配置项确定的规模；利用所述第一标识文件包含的作业分块文件确定输入分块的大小，按照所述大小对复制到所述线下的分布式系统中的输入数据进行切分，并将切分结果覆盖至所述第一标识文件包含的作业分块文件中，以得到所述第二标识文件包含的作业分块文件，以及，将所述第一标识文件包含的作业程序文件作为所述第二标识文件包含的作业程序文件。

本发明还提供了一种分布式系统的系统测试装置，包括：监控单元，用于对线上的分布式系统进行监控，以获取在所述线上的分布式系统上执行目标作业所依赖的第一标识文件；转换单元，用于根据所述第一标识文件获取在线下的分布式系统上执行目标作业所依赖的第二标识文件，以及，根据所述第二标识文件获取在所述线下的分布式系统上执行所述目标作业所依赖的输入数据；提交单元，用于在所述线下的分布式系统上根据所述第二标识文件及获取的输入数据执行所述目标作业，以对所述线下系统进行测试。

根据本发明之一优选实施例，所述监控单元包括：提取单元，用于从所述线上的分布式系统中提取当前作业所依赖的当前标识文件；轮询单元，用于对所述线上的分布式系统进行轮询，以获取当前作业的状态；确定单元，用于当所述状态为执行失败时，将所述提取单元提取的当前标识文件丢弃，否则将所述提取单元提取的当前标识文件作为所述第一标识文件。

根据本发明之一优选实施例，所述分布式系统为Hadoop系统。

根据本发明之一优选实施例，所述第一标识文件及所述第二标识文件均包含作业程序文件、作业分块文件及作业配置文件。

根据本发明之一优选实施例，所述转换单元包括：修改单元，用于根据预设的配置修改条件对所述第一标识文件包含的作业配置文件中的配置项进行修改，以得到所述第二标识文件包含的作业配置文件，其中所述配置修改条件由所述线下系统的集群规模决定；复制单元，用于从在所述线上的分布式系统上执行所述目标作业所依赖的输入数据中复制指定规模的输入数据到所述线下的分布式系统中，以得到在所述线下的分布式系统上执行所述目标作业所依赖的输入数据，其中所述指定规模是由所述第二标识文件包含的作业配置文件中的配置项确定的规模；文件生成单元，用于利用所述第一标识文件包含的作业分块文件确定输入分块的大小，按照所述大小对复制到所述线下的分布式系统中的输入数据进行切分，并将切分结果覆盖至所述第一标识文件包含的作业分块文件中，以得到所述第二标识文件包含的作业分块文件，以及，将所述第一标识文件包含的作业程序文件作为所述第二标识文件包含的作业程序文件。

由以上技术方案可以看出，本发明通过对线上的分布式系统进行监控，可以获取到目标作业对应的第一标识文件，对该标识文件进行修改，可以得到与线下的分布式系统相适应的第二标识文件，利用第二标识文件还可以得到与线下的分布式系统相适应的的输入数据，从而可以在线下的分布式系统上执行目标作业，实现对线下的分布式系统进行系统测试的目的。通过这种方式，可以自动将线上用户对系统的真实使用情况变为系统测试用例，以对线下系统进行测试，这样，在线下系统的系统测试中，测试用例的数量和质量都得到了提高，大大增加了系统测试的有效性。

【附图说明】

图1为本发明中分布式系统的系统测试方法的实施例的流程示意图；

图2为Hadoop系统的结构图；

图3为用户向Hadoop系统提交作业时的交互过程示意图；

图4为本发明中分布式系统的系统测试装置的实施例的结构示意框图；

图5为本发明中监控单元201的一个实施例的结构示意框图；

图6为本发明中转换单元202的一个实施例的结构示意框图。

【具体实施方式】

为了使本发明的目的、技术方案和优点更加清楚，下面结合附图和具体实施例对本发明进行详细描述。

请参考图1，图1为本发明中分布式系统的系统测试方法的实施例的流程示意图。如图1所示，该实施例包括：

步骤S101：对线上的分布式系统进行监控，以获取在线上的分布式系统上执行目标作业所依赖的第一标识文件。

步骤S102：根据线下的分布式系统的集群规模对第一标识文件进行修改，以获取在线下的分布式系统上执行目标作业所依赖的第二标识文件，以及，根据第二标识文件获取在线下的分布式系统上执行目标作业所依赖的输入数据。

步骤S103：在线下的分布式系统上根据第二标识文件及获取的输入数据执行目标作业，以对线下的分布式系统进行测试。

本发明中线上的分布式系统指的是正在线上运行的、向用户提供服务的系统，线下的分布式系统指的是待测试的系统。第一标识文件指的是在线上的分布式系统中执行目标作业所依赖的标识文件，第二标识文件指的是在线下的分布式系统中执行目标作业所依赖的标识文件。为了更好地理解本发明，下面先通过Hadoop系统对上述步骤进行详细介绍，而后本领域技术人员可以看出，本发明也可以应用于其他的分布式系统当中。

Hadoop系统由许多元素构成，其最底部是Hadoop Distributed File System（HDFS），由DataNode和NameNode组成。HDFS的上一层是MapReduce引擎，该引擎由JobTracker和TaskTracker组成。请参考图2，图2为Hadoop系统的结构图。如图2所示，当用户通过客户端向Hadoop提交作业之后，作业依赖的输入数据被分块存储在DataNode节点上，NameNode节点则负责管理HDFS的命名空间和控制客户机对各个DataNode的访问。JobTracker负责将作业程序复制到存有输入分块（input split）的DataNode节点上以创建TaskTracker的任务。更为详细的Hadoop系统的介绍可参考“http://hadoop.apache.org/”网站，这里不再赘述。

用户向Hadoop系统提交作业的过程当中，会在Hadoop系统中产生三个文件，分别是job.xml、job.jar和job.split文件。其中，job.xml是作业配置文件，包含执行该作业所需的各种配置信息。job.jar是作业程序文件，包含了执行该作业所需要的各种类实现。job.split是作业分块文件，包含了对该作业依赖的输入数据进行分块所需要的信息。这三个文件就是在hadoop系统上执行对应作业所依赖的标识文件。请参考图3，图3示出了用户向Hadoop系统提交作业时的交互过程。可见，在一个作业提交过程中，Hadoop系统中将产生与这个作业相关的三个文件，Hadoop系统后续将依赖这三个文件才能够分布式地执行对应作业。

具体地，步骤S101包括：

步骤S1011：从线上的分布式系统中提取当前作业所依赖的当前标识文件。

步骤S1012：对线上的分布式系统进行轮询，以获取当前作业的状态。

步骤S1013：当上述状态为执行失败时，将步骤S101中提取的当前标识文件丢弃，否则将步骤S101中提取的当前标识文件作为第一标识文件。

当前作业指的是已提交并在Hadoop系统中正在执行的作业，当前作业所依赖的标识文件就是当前标识文件，例如当前作业为作业A，则执行作业A所依赖的job.xml、job.jar和job.split就是当前标识文件。由于一个作业的标识文件只在提交和执行过程中存在，因此步骤S1011中先将当前标识文件提取出来，并通过步骤S1012和步骤S1013保证只将执行成功的作业的标识文件提取出来。其中，执行成功的作业就是目标作业，在步骤S1011中已经提取的与目标作业相关的job.xml、job.jar和job.split就是第一标识文件。后续在步骤S102和步骤S103中，将通过第一标识文件实现对线下的分布式系统进行测试的目的。

对Hadoop系统而言，步骤S102具体包括：

步骤S1021：根据预设的配置修改条件对第一标识文件包含的作业配置文件中的配置项进行修改，以得到第二标识文件包含的作业配置文件，其中配置修改条件由线下系统的集群规模决定。

第一标识文件包含的作业配置文件，即从线上系统获取到的job.xml文件中包含了与目标作业相关的各种配置信息，例如与目标作业相关的task的数目、map数目、reduce数目，以及线上系统的集群规模等信息。由于线下的分布式系统是用于测试的系统，集群规模远小于线上系统的集群规模，因此，需要修改从线上系统获取到的job.xml中的配置项，使得最终线下系统能够依据修改后的job.xml执行目标作业。由于线下系统是待测系统，集群规模是预先已知的，因此，配置修改条件只需要预先根据线下系统的集群规模设置好即可，此外，配置修改条件中还定义了对集群基础数据（例如各种文件的存放位置）进行修改的规则。

步骤S1022：从在线上的分布式系统上执行目标作业所依赖的输入数据中复制指定规模的输入数据到线下的分布式系统中，以得到在线下的分布式系统上执行目标作业所依赖的输入数据，其中指定规模是由第二标识文件包含的作业配置文件中的配置项确定的规模。

在线上系统执行目标作业时所处理的输入数据的数量可能非常庞大，由于线下系统的集群规模可能远小于线上系统的集群规模，因此在线下系统执行目标作业时对如此巨量的输入数据进行处理是不现实的。在本发明的步骤S1022中，只复制指定规模的输入数据到线下系统中，这些复制到线下系统中的输入数据，就是在线下系统上执行目标作业所依赖的输入数据。这里的指定规模，是由修改后的job.xml，即第二标识文件包含的作业配置文件中的配置项确定的规模。通过前面的描述可以知道，job.xml中包含了多个配置项，其中有集群规模的配置项，在前面对job.xml进行修改时，可以设置线下集群与线上集群的比例，这样，在步骤S1022中即可根据这个比例确定指定规模的输入数据是多少。例如线上系统的集群数量为1万台机器，线下系统的集群数量为100台机器，则在修改job.xml时，可以设置集群比例配置项为百分之一。假设线上系统处理的输入数据数量为100T，则在步骤S1022中，可以确定指定规模的输入数据就是1T，这样在步骤S1022中，就会从线上系统复制1T的输入数据到线下系统。

值得注意的是，在步骤S1022中，对输入数据的复制是均匀进行的。例如输入数据是100个文件，如果要复制百分之一的数据，优选的复制方式是从每个文件中复制百分之一的数据，而不是复制数据量占比为百分之一的文件。也就是说，步骤S1022中，对线上的输入数据进行了过滤，这种过滤是对输入数据的每个文件中的数据进行过滤，而不是对输入数据的文件数量进行过滤，如果线上的输入数据为100个文件，在复制到线下时，仍然是100个文件，只是每个文件中的数据量变少了。

步骤S1023：利用第一标识文件包含的作业分块文件确定输入分块的大小，按照所述大小对复制到线下的分布式系统中的输入数据进行切分，并将切分结果覆盖至第一标识文件包含的作业分块文件中，以得到第二标识文件包含的作业分块文件，以及，将第一标识文件包含的作业程序文件作为第二标识文件包含的作业程序文件。

下面是job.split文件的示意结构：

split1：filename：startoffset，length/*分块1对应的文件名，在该文件

split2：...中的偏移量、长度*/

split3：...

从中可以看出，根据从线上获取的job.split文件，可以得到在线上系统中的输入分块的大小，依据这个大小，可以对线下系统中的输入数据重新进行切分，得到切分结果，切分结果也可以表示为上述split1、split2、split3的形式，将这种形式的切分结果覆盖到线上获取的job.split文件，即可得到供线下系统执行目标作业所使用的job.split文件，也就是第二标识文件包含的作业分块文件。而job.jar文件是目标作业依赖的程序包，线上获取到的job.jar不需要修改，可直接作为线下系统执行目标作业时的job.jar文件。

至此，在线下的Hadoop系统执行目标作业所依赖的job.xml、job.split和job.jar文件均得到了，在步骤S103中，利用这些文件组成的第二标识文件，即可在线下的Hadoop系统中执行目标作业，从而实现对线下的Hadoop系统进行测试的目的。具体地，步骤S103中，利用job.xml、job.split和job.jar文件执行目标作业的过程，就是模拟客户端向Hadoop提交作业，以触发线下系统执行目标作业的过程，该过程的实现逻辑与现有的客户端向Hadoop提交作业的逻辑是类似的，这里不再赘述。

通过前面的介绍，可以看出，本发明通过对线上的分布式系统进行监控，可以获取到多个目标作业的标识文件，又通过对每个目标作业的标识文件进行规模适应性修改，以及对每个目标作业依赖的输入数据进行规模适应性复制，可以在线下的分布式系统中执行与线上相同的目标作业。也就是说，对线下待测试的分布式系统而言，测试用例是自动获取的，并且这样获取到的测试用例，真实地反映了用户对系统的使用情况，用户所有在线上对系统的使用情况，都可以自动变为线下系统的测试用例，从而实现对线下系统进行系统测试的目的。

通过以上介绍，本领域技术人员应该理解，本发明的系统测试方法并不限于Hadoop系统，实际上，任何的分布式系统，在作业提交后都会产生与作业相关的标识文件，对该标识文件和作业依赖数据进行适应性修改，均能够实现将线上系统执行的作业，移植到线下系统执行，从而实现对线下系统进行测试的目的。

请参考图4，图4为本发明中分布式系统的系统测试装置的实施例的结构示意框图。如图4所示，该实施例包括：监控单元201、转换单元202及提交单元203。

其中监控单元201，用于对线上的分布式系统进行监控，以获取在线上的分布式系统上执行目标作业所依赖的第一标识文件。

转换单元202，用于根据第一标识文件获取在线下的分布式系统上执行目标作业所依赖的第二标识文件，以及，在线下的分布式系统上执行目标作业所依赖的输入数据。

提交单元203，用于在线下的分布式系统上根据第二标识文件及转换单元202获取的输入数据执行目标作业，以对线下系统进行测试。

根据一个实施例，本发明的分布式系统为Hadoop系统，与之对应的，上述的第一标识文件和第二标识文件均包含作业程序文件、作业分块文件和作业配置文件。

请参考图5，图5为本发明中监控单元201的一个实施例的结构示意框图。如图5所示，监控单元201包括提取单元2011、轮询单元2012及确定单元2013。其中，提取单元2011，用于从线上的分布式系统中提取当前作业所依赖的当前标识文件。轮询单元2012，用于对线上的分布式系统进行轮询，以获取当前作业的状态。确定单元2013，用于当上述状态为执行失败时，将提取单元2011提取的当前标识文件丢弃，否则将提取单元2011提取的当前标识文件作为第一标识文件。

请参考图6，图6为本发明中转换单元202的一个实施例的结构示意框图。如图6所示，转换单元202包括修改单元2021、复制单元2022及文件生成单元2023。

其中，修改单元2021，用于根据预设的配置修改条件对第一标识文件包含的作业配置文件中的配置项进行修改，以得到第二标识文件包含的作业配置文件，其中配置修改条件由线下系统的集群规模决定。

复制单元2022，用于从在线上的分布式系统上执行目标作业所依赖的输入数据中复制指定规模的输入数据到线下的分布式系统中，以得到所述线下的分布式系统上执行目标作业所依赖的输入数据，其中指定规模是由第二标识文件包含的作业配置文件中的配置项确定的规模。

文件生成单元2023，用于利用第一标识文件包含的作业分块文件确定输入分块的大小，按照所述大小对复制到线下的分布式系统中的输入数据进行切分，并将切分结果覆盖至第一标识文件包含的作业分块文件中，以得到第二标识文件包含的作业分块文件，以及，将第一标识文件包含的作业程序文件作为第二标识文件包含的作业程序文件。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明保护的范围之内。

Claims (8)

1.一种分布式系统的系统测试方法，包括：

A.对线上的分布式系统进行监控，以获取在所述线上的分布式系统上执行目标作业所依赖的第一标识文件；

B.根据线下的分布式系统的集群规模对所述第一标识文件进行修改，以获取在所述线下的分布式系统上执行所述目标作业所依赖的第二标识文件，以及，根据所述第二标识文件获取在所述线下的分布式系统上执行所述目标作业所依赖的输入数据；

C.在所述线下的分布式系统上根据所述第二标识文件及获取的输入数据执行所述目标作业，以对所述线下的分布式系统进行测试；

其中，所述线上的分布式系统为正在线上运行的、向用户提供服务的系统，所述线下的分布式系统为待测试的系统，标识文件包括作业程序文件、作业分块文件以及作业配置文件。

2.根据权利要求1所述的方法，其特征在于，所述步骤A包括：

A1.从所述线上的分布式系统中提取当前作业所依赖的当前标识文件；

A2.对所述线上的分布式系统进行轮询，以获取当前作业的状态；

A3.当所述状态为执行失败时，将所述步骤A1中提取的当前标识文件丢弃，否则将所述步骤A1中提取的当前标识文件作为所述第一标识文件。

3.根据权利要求1或2所述的方法，其特征在于，所述分布式系统为Hadoop系统。

4.根据权利要求1所述的方法，其特征在于，所述步骤B包括：

根据预设的配置修改条件对所述第一标识文件包含的作业配置文件中的配置项进行修改，以得到所述第二标识文件包含的作业配置文件，其中所述配置修改条件由所述线下系统的集群规模决定；

从在所述线上的分布式系统上执行所述目标作业所依赖的输入数据中复制指定规模的输入数据到所述线下的分布式系统中，以得到在所述线下的分布式系统上执行所述目标作业所依赖的输入数据，其中所述指定规模是由所述第二标识文件包含的作业配置文件中的配置项确定的规模；

利用所述第一标识文件包含的作业分块文件确定输入分块的大小，按照所述大小对复制到所述线下的分布式系统中的输入数据进行切分，并将切分结果覆盖至所述第一标识文件包含的作业分块文件中，以得到所述第二标识文件包含的作业分块文件，以及，将所述第一标识文件包含的作业程序文件作为所述第二标识文件包含的作业程序文件。

5.一种分布式系统的系统测试装置，包括：

监控单元，用于对线上的分布式系统进行监控，以获取在所述线上的分布式系统上执行目标作业所依赖的第一标识文件；

转换单元，用于根据所述第一标识文件获取在线下的分布式系统上执行目标作业所依赖的第二标识文件，以及，根据所述第二标识文件获取在所述线下的分布式系统上执行所述目标作业所依赖的输入数据；

提交单元，用于在所述线下的分布式系统上根据所述第二标识文件及获取的输入数据执行所述目标作业，以对所述线下系统进行测试；

其中，所述线上的分布式系统为正在线上运行的、向用户提供服务的系统，所述线下的分布式系统为待测试的系统，标识文件包括作业程序文件、作业分块文件以及作业配置文件。

6.根据权利要求5所述的装置，其特征在于，所述监控单元包括：

提取单元，用于从所述线上的分布式系统中提取当前作业所依赖的当前标识文件；

轮询单元，用于对所述线上的分布式系统进行轮询，以获取当前作业的状态；

确定单元，用于当所述状态为执行失败时，将所述提取单元提取的当前标识文件丢弃，否则将所述提取单元提取的当前标识文件作为所述第一标识文件。

7.根据权利要求5或6所述的装置，其特征在于，所述分布式系统为Hadoop系统。

8.根据权利要求5所述的装置，其特征在于，所述转换单元包括：

修改单元，用于根据预设的配置修改条件对所述第一标识文件包含的作业配置文件中的配置项进行修改，以得到所述第二标识文件包含的作业配置文件，其中所述配置修改条件由所述线下系统的集群规模决定；

复制单元，用于从在所述线上的分布式系统上执行所述目标作业所依赖的输入数据中复制指定规模的输入数据到所述线下的分布式系统中，以得到在所述线下的分布式系统上执行所述目标作业所依赖的输入数据，其中所述指定规模是由所述第二标识文件包含的作业配置文件中的配置项确定的规模；

文件生成单元，用于利用所述第一标识文件包含的作业分块文件确定输入分块的大小，按照所述大小对复制到所述线下的分布式系统中的输入数据进行切分，并将切分结果覆盖至所述第一标识文件包含的作业分块文件中，以得到所述第二标识文件包含的作业分块文件，以及，将所述第一标识文件包含的作业程序文件作为所述第二标识文件包含的作业程序文件。