CN108446222A - 应用测试方法、装置及设备 - Google Patents

Abstract

本发明提出一种应用测试方法、装置及设备，其中，方法包括：确定目标应用当前的测试目的；根据测试目的，确定目标用户特征集；根据目标用户特征集，从目标应用的用户群中选取实验用户集及对照用户集，其中，实验用户集与对照用户集的用户特征集相同；控制实验用户集中各用户的目标应用进行更新；根据实验用户集及对照用户集分别对应的目标应用运行日志，确定当前的测试结果。由此，该方法根据待测应用的功能特征选取测试对象，提高了测试结果的准确性和可靠性，通过控制不同组测试对象使用不同版本的应用，降低了测试开发成本，减少了对用户的干扰。

Description

应用测试方法、装置及设备

技术领域

本发明涉及终端应用技术领域，尤其涉及一种应用测试方法、装置及设备。

背景技术

随着移动互联网技术的不断发展，终端应用APP的总量持续增多。目前，应用的功能和使用体验成为用户评价应用的重要指标。为了巩固和扩大用户群，各应用提供商需要不断通过升级应用功能来优化体验。而为了避免升级带来的漏洞和缺陷，需要对应用升级进行准确的评估。

目前，常用的应用升级测试方法为A/B测试。相关技术中，通常是在应用代码中部署新旧功能的代码，并设置环境变量或功能开关，通过改变变量值或开关状态使不同用户组使用不同功能的应用，进而对照不同组用户的使用数据，评估升级带来的影响。

这种测试方法，应用的代码结构复杂，成本高，控制方式复杂，对用户的使用干扰大，且缺乏对当前应用测试的针对性、无法保证测试结果的准确性和可靠性。

发明内容

本发明旨在至少在一定程度上解决相关技术中的技术问题之一。

为此，本发明的第一个目的在于提出一种应用测试方法。该方法根据待测应用的功能特征选取测试对象，提高了测试结果的准确性和可靠性，通过控制不同组测试对象使用不同版本的应用，降低了测试成本，减少了对用户的干扰。

本发明的第二个目的在于提出一种应用测试装置。

本发明的第三个目的在于提出一种计算机设备。

本发明的第四个目的在于提出一种非临时性计算机可读存储介质。

为达上述目的，本发明第一方面实施例提出了一种应用测试方法，包括以下步骤：

确定目标应用当前的测试目的；

根据测试目的，确定目标用户特征集；

根据目标用户特征集，从目标应用的用户群中选取实验用户集及对照用户集，其中，实验用户集与对照用户集的用户特征集相同；

控制实验用户集中各用户的目标应用进行更新；

根据实验用户集及对照用户集分别对应的目标应用运行日志，确定当前的测试结果。

本发明实施例的应用测试方法，首先确定目标应用当前的测试目的，并根据测试目的，确定目标用户特征集，进而根据目标用户特征集，从目标应用的用户群中选取实验用户集及对照用户集，然后控制实验用户集中各用户的目标应用进行更新，最后根据实验用户集及对照用户集分别对应的目标应用运行日志，确定当前的测试结果。由此，该方法根据待测应用的功能特征选取测试对象，提高了测试结果的准确性和可靠性，通过控制不同组测试对象使用不同版本的应用，降低了测试成本，减少了对用户的干扰。

另外，根据本发明上述实施例的应用测试方法，还可以具有如下附加的技术特征：

在本发明一个实施例中，根据目标应用当前待测试的功能属性，确定测试目的。

在本发明一个实施例中，控制实验用户集中各用户的目标应用进行更新之前，还包括：向实验用户集中各用户发送更新提醒消息；在确定获取到实验用户集中任一用户返的确认指令时，控制任一用户的目标应用进行更新。

在本发明一个实施例中，确定当前的测试结果之前，还包括：确定实验用户中集完成目标应用更新的用户数量大于或等于阈值。

在本发明一个实施例中，根据完成目标应用更新的用户数量，与实验用户集中包括的用户总数量的比值，确定当前的测试结果的置信度。

在本发明一个实施例中，根据实验用户集及对照用户集分别对应的目标应用运行日志，确定当前的测试结果，包括：从实验用户集中选取当前处于活跃状态的用户，确定为最终实验用户；从对照用户集中选取当前处于活跃状态的用户，确定为最终对照用户；根据最终实验用户集及最终对照用户集分别对应的目标应用运行日志，确定当前的测试结果。

在本发明一个实施例中，从目标应用的用户群中选取实验用户集及对照用户集之前，还包括：获取目标应用的各客户端上传的各用户的特征。

在本发明一个实施例中，用户特征，包括以下信息中的至少一个：目标应用的版本、所在终端属性、所在终端的操作系统信息、终端所在的位置、目标应用的使用频率、目标应用中各功能的历史使用记录。

为达上述目的，本发明第二方面实施例提出了一种应用测试装置，包括：

第一确定模块，用于确定目标应用当前的测试目的；

第二确定模块，用于根据所述测试目的，确定目标用户特征集；

选取模块，用于根据所述目标用户特征集，从所述目标应用的用户群中选取实验用户集及对照用户集，其中，实验用户集与对照用户集的用户特征集相同；

控制模块，用于控制所述实验用户集中各用户的目标应用进行更新；

第三确定模块，用于根据所述实验用户集及所述对照用户集分别对应的目标应用运行日志，确定当前的测试结果。

为了实现上述目的，本发明还提出一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行程序时，实现如上述实施例所述的应用测试方法。

为了实现上述目的，本发明还提出一种非临时性计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上述实施例所述的应用测试方法。

本发明附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。

附图说明

本发明上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解，其中：

图1为本发明实施例所提供的一种应用测试方法的流程示意图；

图2为本发明实施例所提供的一种具体的应用测试方法的流程示意图；

图3为本发明实施例所提供的一种测试用户选择方法的流程示意图；

图4为本发明实施例所提供的一种应用测试装置的结构示意图；以及

图5是根据本发明一个实施例的来实现本发明实施方式的示例性计算机设备的框图。

具体实施方式

下面详细描述本发明的实施例，所述实施例的示例在附图中示出，其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的，旨在用于解释本发明，而不能理解为对本发明的限制。

下面参考附图描述本发明实施例的应用测试方法和装置。

其中，本发明实施例的应用测试方法的执行主体可以是为应用客户端提供服务的服务器。

可以理解，应用升级后需要对应用的各项指标进行测试，避免升级更新后带来的漏洞和缺陷。目前，各应用提供商普遍使用A/B测试方法对应用进行测试，具体方法是在应用代码中部署新旧功能代码，并设置环境变量或者功能开关，通过服务器控制变量使不同用户使用不同功能的代码。这种随机选取测试用户的方法缺乏对当前应用测试的针对性，并且代码结构复杂，开发成本高，对用户干扰大。

图1为本发明实施例所提供的一种应用测试方法的流程示意图。如图1所示，该应用测试方法可以由服务器执行，该服务器可以与装载了待测试应用的客户端进行交互，该应用测试方法包括：

步骤101，确定目标应用当前的测试目的。

其中，目标应用可以为任意终端应用。

在本发明实施例中，服务器在对目标应用进行测试之前，可以首先确定目标应用此次测试的目的。

具体的，服务器可以根据目标应用当前待测试的功能属性，确定测试目的。

其中待测试的功能属性，可以由目标应用升级的功能确定，也可以由目标应用升级后待测试的内容确定，本实施例对此不做限定。

本发明中，根据目标应用待测试的功能属性确定测试目，从而可以实现针对性的检测目标应用升级后的功能是否可以优化用户的使用体验。

比如目标应用的当前升级功能用于美化操作界面，则服务器以比较升级前后目标应用界面的美观程度为测试目的。或者，目标应用通过升级以改进语音识别技术的算法进而提高语音控制功能，则服务器以测试升级后目标应用的语音控制功能的准确性和响应时间为测试目的，便于准确评估升级后语音控制的优化体验。

步骤102，根据测试目的，确定目标用户特征集。

步骤103，根据目标用户特征集，从目标应用的用户群中选取实验用户集及对照用户集，其中，实验用户集与对照用户集的用户特征集相同。

需要说明的是，在目标应用的用户群中，由于目标应用的各客户端的属性信息和各用户的行为习惯都不相同，目标应用的用户特征存在较大差异，如果随机选取测试用户，可能会因为选取的用户的客户端设备并不符合测试的要求，或者用户的行为特征不适应测试的场景而导致测试结果出现误差。

进而，为了提高测试的准确性和可靠性，便于选取具有针对性的测试用户，服务器可以先获取各用户的特征，然后根据测试目的确定目标用户特征集，其中，目标用户特征集是与当前测试目的对应的特征集，最后根据目标用户特征集，从目标应用的用户群中选取实验用户集及对照用户集。

具体的，根据实际应用的不同，服务器可以通过多种方式获得用户的特征。

第一种示例，服务器可以接收目标应用的各客户端上传的各用户的特征。

其中，客户端可以通过各种方式获取用户特征，比如，目标应用的客户端可以通过检测用户的终端设备获取目标应用的版本、所在终端属性、所在终端的操作系统信息、终端所在的位置等，并且在用户使用目标应用的过程中客户端还可以记录目标应用的使用频率、目标应用中各功能的历史使用记录等。客户端通过各种方式获取上述信息中的至少一个后发送给服务器，服务器接收并存储各客户端上传的用户特征。

第二种示例，服务器也可以通过对各客户端发送的信息进行解析分析，以获取各客户端所在终端的属性，所在终端的操作系统信息、终端所在的位置，及目标应用的使用频率等。

其中，目标应用所在终端属性，可以是指终端的型号、设备识别号、品牌等，本实施例对此不做限定。

进一步的，服务器在获取用户特征后，即可根据目标应用当前测试目的确定与当前的测试目的对应的特征集，进而根据特征集在目标应用的用户群中选取实验用户集及对照用户集。

以上述测试目标应用的语音控制功能为例，服务器在确定测试目的为测试升级后目标应用的语音控制功能的准确性和响应时间后，确定的目标用户特征集包含终端语音识别模块识别率满足测试最低要求、用户使用过语音控制功能和用户热衷使用语音控制功能等特征。进而，服务器根据确定的目标用户特征集从目标应用的用户群中选取实验用户集及对照用户集。

具体的，服务器首先根据测试所需的用户数量，在目标应用的用户群中选取满足目标用户特征集中全部特征的用户为目标用户，再把目标用户分成两组数量相同的实验用户集和对照用户集，实验用户集和对照用户集中的用户均满足测试所需的目标用户特征，便于下一步对目标应用的测试。从而根据本发明测试方法选取的目标用户更加适合升级后的语音功能的测试，避免选取无法测试语音控制功能的用户对测试结果产生干扰。

由此，本发明应用测试方法根据测试目的选取出的目标用户更加符合测试所需的用户特征，相比于随机选取的测试用户，以本发明测试方法选取的目标用户为测试用户可以全面、准确的测试目标应用升级后更新内容，提高了应用测试的准确性和可靠性。

步骤104，控制实验用户集中各用户的目标应用进行更新。

具体的，服务器向实验用户集各客户端发送包含新版本代码的安装包，实验用户集中的用户打开安装包后运行新版本的代码对目标应用进行更新，对照用户集中的用户仍使用未升级的目标应用。由此，本发明的应用测试方法仅需要在安装包中单独部署升级后的新功能代码，而无需同时部署新、旧功能的代码及环境变量值，相比于传统的应用测试方法，代码结构简单，开发成本低。

需要说明的是，本发明实施例中，服务器在确定了实验用户集后，可以直接控制实验用户集中的各用户的目标应用进行更新。或者，也可以在获得用户同意的情况下，再进行目标应用的更新，即本发明实施例中，在上述步骤104之前，还可以包括：

向所述实验用户集中各用户发送更新提醒消息；

在确定获取到所述实验用户集中任一用户返的确认指令时，控制所述任一用户的目标应用进行更新。

其中，提醒消息可以通过文字或语音等方式向实验用户集中各用户表述更新的内容和升级后的优化效果，从而提醒实验用户集中各用户安装更新。在本发明一个实施例中，服务器可以向实验用户集的客户端发送升级弹窗，其中，弹窗中包含确认安装和取消安装的控件以及更新内容的概述，用户通过点击弹窗中的确认控件可以返回同意安装更新的指令，服务器根据指令向用户发送安装包并控制目标应用升级。

步骤105，根据实验用户集及对照用户集分别对应的目标应用运行日志，确定当前的测试结果。

具体的，服务器记录目标用户使用目标应用的运行日志，其中运行日志包含用户使用目标应用的各种测试数据，通过比较实验用户集和对照用户集测试数据的差异，确定当前测试的结果。例如上述语音控制功能测试的实施例，服务器记录用户目标应用更新后对用户的控制语音进行识别的响应时间，以及正确识别的次数占总识别次数的比重等，然后与对照用户集客户端记录的历史数据进行对比，当实验用户集中的客户端上传的运行日志相比于对照用户集客户端上传的运行日志，响应时间更短，正确率更高，则确定当前测试中更新后的目标应用达到预期要求。

综上所述，本发明实施例的应用测试方法，首先确定目标应用当前的测试目的，并根据测试目的，确定目标用户特征集，进而根据目标用户特征集，从目标应用的用户群中选取实验用户集及对照用户集，然后控制实验用户集中各用户的目标应用进行更新，最后根据实验用户集及对照用户集分别对应的目标应用运行日志，确定当前的测试结果。由此，该方法根据待测应用的功能特征选取测试对象，提高了测试结果的准确性和可靠性，通过控制不同组测试对象使用不同版本的应用，降低了测试成本，减少了对用户的干扰。

基于上述实施例，在实际应用中，可能出现实验用户集中的部分用户拒绝接受更新，或者在接收到安装包后未能成功更新目标应用的情况，为了进一步提高测试的准确性和可靠性，本实施例中，针对上述情况，可以采用图2所示的方式进行处理。

图2为本发明实施例所提供的一种具体的应用测试方法流程示意图，如图2所示，该应用测试方法包括：

步骤201，确定目标应用当前的测试目的。

具体的，在本发明一个实施例中，服务器可以根据目标应用当前待测试的功能属性，确定测试目的。其中待测试的功能属性，可以由目标应用升级的功能确定，也可以由目标应用升级后待测试的内容确定，本实施例对此不做限定。本发明中，根据目标应用待测试的功能属性确定测试目，从而可以实现针对性的检测目标应用升级后的功能是否可以优化用户的使用体验。

步骤202，根据测试目的，确定目标用户特征集。

步骤203，根据目标用户特征集，从目标应用的用户群中选取实验用户集及对照用户集，其中，实验用户集与对照用户集的用户特征集相同。

其中，根据目标用户特征集选取实验用户集及对照用户集的方法参照上述实施例的描述，此处不再赘述。

步骤204，向所述实验用户集中各用户发送更新提醒消息。

步骤205，控制实验用户集中返回确认指令的用户的目标应用进行更新。

具体的，服务器获取任一用户返回的同意更新的指令后，即可向该用户发送包含新版本代码的安装包，从而控制该用户的目标应用进行更新。

步骤206，判断实验用户集中完成目标应用更新的用户数量是否大于或等于阈值，若是，则执行步骤208，若否，则执行步骤207。

步骤207，向实验用户集中未完成目标应用更新的用户重新发送更新提醒消息。

需要说明的是，为了能够准确获得目标应用当前进行的功能升级，对用户的影响，通常要求实验用户集中完成目标应用更新的用户的数量不能太少，比如为实验用户集中用户数量的70％、80％等。

具体实现时，服务器向所有实验用户集中的用户发送提醒消息后，即可根据接收到的确认指令数量，检测实验用户集中完成目标应用更新的用户数量是否大于或等于阈值。当验用户集中完成目标应用更新的用户数量大于或等于阈值时，表明实验用户集满足进行测试的最低需求，服务器即可对目标应用进行测试。而若验用户集中完成目标应用更新的用户数量小于阈值时，服务器可以检测未进行目标应用更新的客户端，并向未进行目标应用更新的客户端做进一步提醒。

具体的，当服务器检测到实验用户集中的客户端未选择安装更新时可以反复发送提醒消息，提醒实验用户集中未安装更新的用户升级。例如，上述弹窗实施例中若实验用户未选择安装更新，则服务器在预设的时间间隔内重新发送弹窗提醒，并强调更新后的优化体验，吸引实验用户集中未安装更新的用户安装更新。

需要说明的是，服务器可以根据检测到的完成目标应用更新的用户数量，与实验用户集中包括的用户总数量的比值，确定当前的测试结果的置信度。其中，上述比值越大则表明实验用户集中参与测试的用户数量越多。在本发明中，选取实验用户集中完成目标应用更新的用户作为抽样样本对实验用户集总体的测试结果进行估计，因此根据计算出的置信度可以直观反映出当前测试的可靠程度。

步骤208，根据实验用户集及对照用户集分别对应的目标应用运行日志，确定当前的测试结果。

进一步的，由于服务器在确定实验用户集及对照用户集后，在测试过程中可能出现部分实验用户集或者对照用户集中的用户未登陆目标应用，或用户长期处于离线状态的情况，此时，确定的测试结果准确性可能较低，本发明实施例中，在确定测试结果时，还可以根据实验用户集及对照用户集中各用户的活跃状态，对实验用户集及对照用户集中的用户进行更新，以提高测试的准确性。

具体的，服务器可以检测实验用户集和对照用户集中用户的在线状态，比如，根据当前是否在线、完成目标更新后用户的登录次数和/或登录时长等，确定用户是否为活跃用户，以在实验用户集和对照用户集中选取活跃用户组成最终实验用户集及最终对照用户集，并且保证最终实验用户集及最终对照用户集中的用户数量相同，进而比较最终实验用户集及最终对照用户集的目标应用运行日志，进一步保证测试的可靠性和准确性。

具体的，如图3所示，服务器从升级目标应用的实验用户集中选取当前处于活跃状态的用户组成最终实验用户集，从对照用户集中选取当前处于活跃状态的用户组成最终对照用户集，根据最终实验用户集及最终对照用户集分别对应的运行日志，确定当前的测试结果，具体确定测试结果的方法参照上述实施例，在此不做赘述。

综上所述，本发明实施例的应用测试方法，首先服务器向实验用户集中各用户发送更新提醒消息，当获取到用户返的确认指令后控制该用户的目标应用进行更新，然后服务确定实验用户集中完成目标应用更新的用户数量大于或等于阈值后，在确定当前的测试结果的置信度基础上,根据最终实验用户集及最终对照用户集分别对应的目标应用运行日志，确定当前的测试结果。由此，该方法确保实验用户集中完成目标应用的更新的用户数量符合测试要求，避免了离线用户对测试结果的影响，进一步提高了测试的准确性和可靠性。

为了实现上述实施例，本发明实施例还提出一种应用测试装置。图4为本发明实施例所提供的一种资源处理装置结构示意图。如图4所示，该资源处理装置包括：第一确定模块110、第二确定模块120、选取模块130、控制模块140和第三确定模块150。

其中，第一确定模块110，用于确定目标应用当前的测试目的。

具体的，第一确定模块110选取待测试的应用为目标应用，根据目标应用升级后待测试的更新内容确定测试目的，从而评估当前升级是否达到预期的目的。

第二确定模块120，用于根据测试目的，确定目标用户特征集。

具体的，第二确定模块120根据目标应用当前的测试目的，选取进行该测试的用户需要具备的特征，并统计所有测试所需的用户特征，确定进行测试的目标用户特征集。

选取模块130，用于根据目标用户特征集，从目标应用的用户群中选取实验用户集及对照用户集，其中，实验用户集与对照用户集的用户特征集相同。

具体的，选取模块130在目标应用的用户群中选取满足目标用户特征集并且用户特征集和数量相同的实验用户集和对照用户集。其中，根据具体应用场景的不同，可以采用不同的方式选取实验用户集及对照用户集，作为一种示例，在目标应用的用户群中筛选出用户特征集与目标用户特征集完全相等的用户作为实验用户集及对照用户集。

控制模块140，用于控制实验用户集中各用户的目标应用进行更新。

第三确定模块150，用于根据所述实验用户集及所述对照用户集分别对应的目标应用运行日志，确定当前的测试结果。

具体的，第三确定模块150记录用户使用目标应用的运行日志，其中运行日志包含用户使用目标应用的各种数据，通过比较不同组用户的数据差异，确定当前测试的结果。

需要说明的是，前述对应用测试方法实施例的解释说明也适用于该实施例的应用测试装置，此处不再赘述。

综上所述，本发明实施例的应用测试装置，首先确定目标应用当前的测试目的，并根据测试目的，确定目标用户特征集，进而根据目标用户特征集，从目标应用的用户群中选取实验用户集及对照用户集，然后控制实验用户集中各用户的目标应用进行更新，最后根据实验用户集及对照用户集分别对应的目标应用运行日志，确定当前的测试结果。由此，该装置根据待测应用的功能特征选取测试对象，提高了测试结果的准确性和可靠性，通过控制不同组测试对象使用不同版本的应用，降低了测试成本，减少了对用户的干扰。

为了实现上述实施例，本发明还提出一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行程序时，实现如上述实施例所述的应用测试方法。

为了实现上述实施例，本发明还提出一种非临时性计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上述实施例所述的应用测试方法。

图5示出了适于用来实现本发明实施方式的示例性计算机设备的框图。图5显示的计算机设备12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图5所示，计算机设备12以通用计算设备的形式表现。计算机设备12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，系统存储器28，连接不同系统组件(包括系统存储器28和处理单元16)的总线18。

总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(Industry StandardArchitecture；以下简称：ISA)总线，微通道体系结构(Micro Channel Architecture；以下简称：MAC)总线，增强型ISA总线、视频电子标准协会(Video Electronics StandardsAssociation；以下简称：VESA)局域总线以及外围组件互连(Peripheral ComponentInterconnection；以下简称：PCI)总线。

计算机设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机设备12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(Random Access Memory；以下简称：RAM)30和/或高速缓存存储器32。计算机设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图5未显示，通常称为“硬盘驱动器”)。尽管图5中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如：光盘只读存储器(Compact Disc Read OnlyMemory；以下简称：CD-ROM)、数字多功能只读光盘(Digital Video Disc Read OnlyMemory；以下简称：DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如存储器28中，这样的程序模块42包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。

计算机设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该计算机系统/服务器12交互的设备通信，和/或与使得该计算机系统/服务器12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，计算机设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(Local AreaNetwork；以下简称：LAN)，广域网(Wide Area Network；以下简称：WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器20通过总线18与计算机设备12的其它模块通信。应当明白，尽管图中未示出，可以结合计算机设备12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现前述实施例中提及的方法。

在本说明书的描述中，参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中，对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且，描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中，“多个”的含义是至少两个，例如两个，三个等，除非另有明确具体的限定。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本发明的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本发明的实施例所属技术领域的技术人员所理解。

在流程图中表示或在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。

应当理解，本发明的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中，多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如，如果用硬件来实现和在另一实施方式中一样，可用本领域公知的下列技术中的任一项或他们的组合来实现：具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路，具有合适的组合逻辑门电路的专用集成电路，可编程门阵列(PGA)，现场可编程门阵列(FPGA)等。

本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，该程序在执行时，包括方法实施例的步骤之一或其组合。

此外，在本发明各个实施例中的各功能单元可以集成在一个处理模块中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现，也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时，也可以存储在一个计算机可读取存储介质中。

上述提到的存储介质可以是只读存储器，磁盘或光盘等。尽管上面已经示出和描述了本发明的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本发明的限制，本领域的普通技术人员在本发明的范围内可以对上述实施例进行变化、修改、替换和变型。

Claims (11)

1.一种应用测试方法，其特征在于，包括：

确定目标应用当前的测试目的；

根据所述测试目的，确定目标用户特征集；

根据所述目标用户特征集，从所述目标应用的用户群中选取实验用户集及对照用户集，其中，实验用户集与对照用户集的用户特征集相同；

控制所述实验用户集中各用户的目标应用进行更新；

根据所述实验用户集及所述对照用户集分别对应的目标应用运行日志，确定当前的测试结果。

2.如权利要求1所述的方法，其特征在于，所述确定目标应用当前的测试目的，包括：

根据所述目标应用当前待测试的功能属性，确定所述测试目的。

3.如权利要求1所述的方法，其特征在于，所述控制所述实验用户集中各用户的目标应用进行更新之前，还包括：

向所述实验用户集中各用户发送更新提醒消息；

在确定获取到所述实验用户集中任一用户返的确认指令时，控制所述任一用户的目标应用进行更新。

4.如权利要求1-3任一所述的方法，其特征在于，所述确定当前的测试结果之前，还包括：

确定所述实验用户集中完成目标应用更新的用户数量大于或等于阈值。

5.如权利要求4所述的方法，其特征在于，所述方法，还包括：

根据完成目标应用更新的用户数量，与所述实验用户集中包括的用户总数量的比值，确定所述当前的测试结果的置信度。

6.如权利要求1-5任一所述的方法，其特征在于，根据所述实验用户集及所述对照用户集分别对应的目标应用运行日志，确定当前的测试结果，包括：

从所述实验用户集中选取当前处于活跃状态的用户，确定为最终实验用户；

从所述对照用户集中选取当前处于活跃状态的用户，确定为最终对照用户；

根据所述最终实验用户集及所述最终对照用户集分别对应的目标应用运行日志，确定当前的测试结果。

7.如权利要求1-5任一所述的方法，其特征在于，所述从所述目标应用的用户群中选取实验用户集及对照用户集之前，还包括：

获取所述目标应用的各客户端上传的各用户的特征。

8.如权利要求7所述的方法，其特征在于，所述用户特征，包括以下信息中的至少一个：目标应用的版本、所在终端属性、所在终端的操作系统信息、终端所在的位置、目标应用的使用频率、目标应用中各功能的历史使用记录。

9.一种应用测试装置，其特征在于，包括：

第一确定模块，用于确定目标应用当前的测试目的；

第二确定模块，用于根据所述测试目的，确定目标用户特征集；

选取模块，用于根据所述目标用户特征集，从所述目标应用的用户群中选取实验用户集及对照用户集，其中，实验用户集与对照用户集的用户特征集相同；

控制模块，用于控制所述实验用户集中各用户的目标应用进行更新；

第三确定模块，用于根据所述实验用户集及所述对照用户集分别对应的目标应用运行日志，确定当前的测试结果。

10.一种计算机设备，其特征在于，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时，实现如权利要求1-8任一项所述的应用测试方法。

11.一种非临时性计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-8任一项所述的应用测试方法。