CN111382064A - 一种测试方法、装置、介质和电子设备 - Google Patents
一种测试方法、装置、介质和电子设备 Download PDFInfo
- Publication number
- CN111382064A CN111382064A CN201811653115.5A CN201811653115A CN111382064A CN 111382064 A CN111382064 A CN 111382064A CN 201811653115 A CN201811653115 A CN 201811653115A CN 111382064 A CN111382064 A CN 111382064A
- Authority
- CN
- China
- Prior art keywords
- output
- data
- output data
- group
- test
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012360 testing method Methods 0.000 title claims abstract description 224
- 238000010998 test method Methods 0.000 title claims abstract description 11
- 238000012545 processing Methods 0.000 claims abstract description 76
- 238000000034 method Methods 0.000 claims abstract description 63
- 238000012549 training Methods 0.000 claims abstract description 53
- 239000013598 vector Substances 0.000 claims description 165
- 238000003860 storage Methods 0.000 claims description 17
- 238000010606 normalization Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 description 19
- 230000006870 function Effects 0.000 description 18
- 238000012795 verification Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 17
- 238000012423 maintenance Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 10
- 238000012986 modification Methods 0.000 description 9
- 230000004048 modification Effects 0.000 description 9
- 238000006243 chemical reaction Methods 0.000 description 8
- 238000002372 labelling Methods 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 6
- 238000004590 computer program Methods 0.000 description 5
- 238000013178 mathematical model Methods 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 238000007726 management method Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 238000003066 decision tree Methods 0.000 description 3
- 238000007689 inspection Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000003245 working effect Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000001364 causal effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000000547 structure data Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/368—Test management for test version control, e.g. updating test cases to a new software version
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/3692—Test management for test results analysis
Abstract
本发明实施例提供了一种测试方法、装置、介质和电子设备，其中，所述方法包括：确定输入数据；将所述输入数据分别输入到不同版本的测试系统中，得到对应组的输出数据，其中，所述不同版本的测试系统至少包括第一测试系统和第二测试系统，一组输出数据至少包括所述第一测试系统的第一输出数据和所述第二测试系统的第二输出数据；通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，其中，所述设定模型依据所述不同版本的测试系统对应标记的各组输出数据训练得到。能够减少由于不影响数据正确性的辅助字段差异过大而发起的误报，减少人工维护测试用例的成本，并且提高测试的准确性。
Description
技术领域
本发明涉及计算机技术领域，特别是涉及一种测试方法和装置，一种存储介质和一种电子设备。
背景技术
回归测试的通常目的之一是检查系统在修改代码后，原有功能是否保持完整。对接口的自动化回归测试通常会采用一套固定的测试用例集，依次将用例集的输入给需要测试的系统，检查该系统的输出结果和测试用例的预期结果是否一致。其中，检查方式包括多种，如直接进行输出结果中字符串的对比而忽略结构化信息，又如遍历树状结构以依照节点进行对比。
但是，由于需要测试的系统本身通常比较复杂，输出结果往往不是绝对固定，而是包含一些不影响数据正确性的辅助字段(例如：本次查询耗时)，这也造成接口自动化回归测试中，常常因为输出结果和用例中的预期结果不一致而导致误判，进而发出报警。由于这类原因而导致报警，然后上交给人工进一步检查的用例数量较多，相对也需要投入大量人力维护测试用例以维持报警准确率。
因此，本领域技术人员亟需解决的一个技术问题是，提出一种测试方法以提高测试准确性并降低维护成本。
发明内容
本发明实施例提供一种测试方法，以提高测试准确性并降低维护成本。
相应的，本发明实施例还提供了一种测试装置、一种存储介质和一种电子设备，用以保证上述方法的实现及应用。
为了解决上述问题，本发明实施例公开了一种测试方法，包括：确定输入数据；将所述输入数据分别输入到不同版本的测试系统中，得到对应组的输出数据，其中，所述不同版本的测试系统至少包括第一测试系统和第二测试系统，一组输出数据至少包括所述第一测试系统的第一输出数据和所述第二测试系统的第二输出数据；通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，其中，所述设定模型依据所述不同版本的测试系统对应标记的各组输出数据训练得到。
可选的，所述通过设定模型对各组输出数据分别进行处理前，还包括：对目标数据分别进行转换，得到对应的目标向量，其中，所述目标数据包括输入数据和/或输出数据，所述目标向量包括输入向量和/或输出向量。
可选的，将各目标数据分别进行归一化处理，得到对应的数值信息；按照所述目标数据的结构信息，将所述各数值信息进行转换，得到对应的结构特征信息；依据所述结构特征信息，确定各目标数据对应的目标向量。
可选的，所述结构特征信息包括所述目标数据的特征树，所述目标向量的维数依据对应目标数据的属性确定。
可选的，所述输出向量包括第一输出向量和第二输出向量；所述通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，包括：将所述各组输出数据对应的第一输出向量和所述第二输出向量，输入到所述设定模型中；获取所述设定模型输出的相似结果，将所述相似结果作为所述不同版本的测试系统对应输出的相似度。
可选的，所述方法还包括：确定满足上报条件的相似信息，上报对应组输出数据和输入数据。
可选的，所述方法还包括所述设定模型的训练步骤：依据输入数据对应组输出数据的相似度进行标记；将所述组输出数据输入到设定模型中进行处理，得到输出结果；依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整。
可选的，所述依据输入数据对应组输出数据的相似度进行标记，包括：确定输入数据对应组输出数据的相似度，将所述相似度作为所述组输出数据的标记结果。
可选的，所述依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整，包括：依据损失函数和对应组输出数据的标记结果对所述输出结果进行验证，得到验证结果；依据所述验证结果调整所述设定模型的参数。
可选的，所述依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整，包括：将所述输出结果和对应组输出数据的标记结果进行比较，确定比较结果；依据所述比较结果，反向调整所述设定模型的参数。
本发明实施例还公开了一种测试装置，所述装置包括：输入确定模块，用于确定输入数据；输出确定模块，用于将所述输入数据分别输入到不同版本的测试系统中，得到对应组的输出数据，其中，所述不同版本的测试系统至少包括第一测试系统和第二测试系统，一组输出数据至少包括所述第一测试系统的第一输出数据和所述第二测试系统的第二输出数据；模型处理模块，用于通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，其中，所述设定模型依据所述不同版本的测试系统对应标记的各组输出数据训练得到。
可选的，所述装置还包括：转换模块，用于对目标数据分别进行转换，得到对应的目标向量，其中，所述目标数据包括输入数据和/或输出数据，所述目标向量包括输入向量和/或输出向量。
可选的，所述转换模块，用于将各目标数据分别进行归一化处理，得到对应的数值信息；按照所述目标数据的结构信息，将所述各数值信息进行转换，得到对应的结构特征信息；依据所述结构特征信息，确定各目标数据对应的目标向量。
可选的，所述结构特征信息包括所述目标数据的特征树，所述目标向量的维数依据对应目标数据的属性确定。
可选的，所述输出向量包括第一输出向量和第二输出向量；所述模型处理模块，用于将所述各组输出数据对应的第一输出向量和所述第二输出向量，输入到所述设定模型中；获取所述设定模型输出的相似结果，将所述相似结果作为所述不同版本的测试系统对应输出的相似度。
可选的，所述装置还包括：上报模块，用于确定满足上报条件的相似信息，上报对应组输出数据和输入数据。
可选的，所述装置还包括模型训练模块；所述模型训练模块，包括：标记子模块，用于依据输入数据对应组输出数据的相似度进行标记；处理子模块，用于将所述组输出数据输入到设定模型中进行处理，得到输出结果；调整子模块，用于依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整。
可选的，所述标记子模块，用于确定输入数据对应组输出数据的相似度，将所述相似度作为所述组输出数据的标记结果。
可选的，所述调整子模块，用于依据损失函数和对应组输出数据的标记结果对所述输出结果进行验证，得到验证结果；依据所述验证结果调整所述设定模型的参数。
可选的，所述调整子模块，用于将所述输出结果和对应组输出数据的标记结果进行比较，确定比较结果；依据所述比较结果，反向调整所述设定模型的参数。
本发明实施例还公开了一种可读存储介质，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行如本发明实施例任一所述的测试方法。
本发明实施例还公开了一种电子设备，其特征在于，包括有存储器，以及一个或者一个以上的程序，其中一个或者一个以上程序存储于存储器中，且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令：确定输入数据；将所述输入数据分别输入到不同版本的测试系统中，得到对应组的输出数据，其中，所述不同版本的测试系统至少包括第一测试系统和第二测试系统，一组输出数据至少包括所述第一测试系统的第一输出数据和所述第二测试系统的第二输出数据；通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，其中，所述设定模型依据所述不同版本的测试系统对应标记的各组输出数据训练得到。
可选的，所述通过设定模型对各组输出数据分别进行处理前，还包括用于进行以下操作的指令：对目标数据分别进行转换，得到对应的目标向量，其中，所述目标数据包括输入数据和/或输出数据，所述目标向量包括输入向量和/或输出向量。
可选的，所述对目标数据分别进行转换，得到对应的目标向量，包括：将各目标数据分别进行归一化处理，得到对应的数值信息；按照所述目标数据的结构信息，将所述各数值信息进行转换，得到对应的结构特征信息；依据所述结构特征信息，确定各目标数据对应的目标向量。
可选的，所述结构特征信息包括所述目标数据的特征树，所述目标向量的维数依据对应目标数据的属性确定。
可选的，所述输出向量包括第一输出向量和第二输出向量；所述通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，包括：将所述各组输出数据对应的第一输出向量和所述第二输出向量，输入到所述设定模型中；获取所述设定模型输出的相似结果，将所述相似结果作为所述不同版本的测试系统对应输出的相似度。
可选的，还包括用于进行以下操作的指令：确定满足上报条件的相似信息，上报对应组输出数据和输入数据。
可选的，还包括进行以下所述设定模型的训练操作的指令：依据输入数据对应组输出数据的相似度进行标记；将所述组输出数据输入到设定模型中进行处理，得到输出结果；依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整。
可选的，所述依据输入数据对应组输出数据的相似度进行标记，包括：确定输入数据对应组输出数据的相似度，将所述相似度作为所述组输出数据的标记结果。
可选的，所述依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整，包括：依据损失函数和对应组输出数据的标记结果对所述输出结果进行验证，得到验证结果；依据所述验证结果调整所述设定模型的参数。
可选的，所述依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整，包括：将所述输出结果和对应组输出数据的标记结果进行比较，确定比较结果；依据所述比较结果，反向调整所述设定模型的参数。
本发明实施例包括以下优点：
本发明实施例中，可将输入数据分别输入到不同版本的测试系统中，得到对应组的输出数据，其中，所述不同版本的测试系统至少包括第一测试系统和第二测试系统，一组输出数据至少包括所述第一测试系统的第一输出数据和所述第二测试系统的第二输出数据，然后通过设定模型进行输出数据的相似性比较，采用设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，其中，所述设定模型依据所述不同版本的测试系统对应标记的各组输出数据训练得到，能够减少由于不影响数据正确性的辅助字段差异过大而发起的误报，减少人工维护测试用例的成本，并且提高测试的准确性。
附图说明
图1是本发明的一种测试方法实施例的步骤流程图；
图2是本发明的一种基于测试的模型训练方法实施例的步骤流程图；
图3是本发明实施例中一种树型结构示例的示意图；
图4是本发明的另一种基于测试的模型训练方法实施例的步骤流程图；
图5是本发明的另一种测试方法实施例的步骤流程图；
图6是本发明的一种测试装置实施例的结构框图；
图7是本发明的另一种测试装置实施例的结构框图；
图8是根据一示例性实施例示出的一种用于测试的电子设备的结构框图；
图9是本发明根据另一示例性实施例示出的一种用于测试的电子设备的结构示意图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。
回归测试可在系统版本升级、修改等维护过程中，检测版本修改没有引入新的错误或导致其他代码产生错误，以及原有功能是否保持完整等。本发明实施例中，不同版本的测试系统至少包括第一测试系统和第二测试系统，实际处理中还可能包括其他第三、第四等测试系统，未一一列举，不应理解为是对本发明实施例的限制。其中，不限制新、旧版本测试系统和第一、第二或更多测试系统的对应关系；以两个测试系统为例，如第一测试系统为旧版本系统，第二测试系统为新版本系统；又如第一测试系统为新版本系统，第二测试系统为旧版本系统等，在更多版本测试系统的场景下，不同版本测试系统可分别对应第一、第二、第三等测试系统。
本发明实施例以两个测试系统为例进行论述，则在回归测试中，可将相同输入数据输入两个不同版本的测试系统，从而得到两个测试系统各自对应的输出数据，再进行比较，得到相应的测试结果。若应用在多于两个版本测试系统的场景下，可将各个版本测试系统的输出数据进行比较，得到相应的测试结果。
为了提高测试准确性并降低维护成本，本发明实施例可维护一个设定模型来进行输出数据的比较，从而减少由于不影响数据正确性的辅助字段差异过大而发起的误报。其中，设定模型可用于比较两个输出数据的相似性。
其中，设定模型可通过机器学习、深度学习等数学模型训练得到，如采用神经网络模型训练得到设定模型。所述数学模型是运用数理逻辑方法和数学语言建构的科学或工程模型，数学模型是针对参照某种事物系统的特征或数量依存关系，采用数学语言，概括地或近似地表述出的一种数学结构，这种数学结构是借助于数学符号刻画出来的某种系统的纯关系结构。数学模型可以是一个或一组代数方程、微分方程、差分方程、积分方程或统计学方程及其组合，通过这些方程定量地或定性地描述系统各变量之间的相互关系或因果关系。除了用方程描述的数学模型外，还有用其他数学工具，如代数、几何、拓扑、数理逻辑等描述的模型。数学模型描述的是系统的行为和特征而不是系统的实际结构。
参照图1，示出了本发明的一种测试方法实施例的步骤流程图，具体可以包括如下步骤：
步骤102、确定输入数据。
对于不同版本的测试系统，可确定进行测试所需的输入数据，该输入数据可依据系统和测试需求确定，本发明实施例对此不做限制。其中，输入数据可包括结构化数据，如XML(Extensible Markup Language，可扩展标记语言)数据，又如JSON(JavaScript ObjectNotation,JS对象简谱)数据等。
步骤104、将所述输入数据分别输入到不同版本的测试系统中，得到对应组的输出数据。
可将相同的输入数据分别输入到不同版本的测试系统中，得到对应的输出数据作为该输入数据对应的一组输出数据，其中每个版本测试系统基于该输入系统可得到至少一个输出数据，加入到该输入数据对应组输出数据中。如将输入数据A输入到第一测试系统中，得到第一输出数据B1，将输入数据A输入到第二测试系统中，得到第二输出数据B2，将第一输出数据B1和第二输出数据B2作为输入数据A对应的一组输出数据，则每个输入数据输入到不同版本的测试系统后，可得到对应的一组输出数据，该一组输出数据至少包括：第一测试系统输出的第一输出数据，以及，第二测试系统输出的第二输出数据，若测试系统还包括第三测试系统、第四测试系统等，则相应该组输出数据中还可包括第三测试系统的第三输出数据、第四测试系统的第四输出数据等。
步骤106、通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息。
本发明实施例中，可基于输入数据对应组输出数据进行设定模型的训练，其中，可预先对各组输出数据进行标记，如标记各组输出数据的相似性等，从而在训练设定模型的过程中基于模型输出结果和标记等调整该设定模型，得到准确性满足要求的设定模型进行输出的相似性判断，还可基于已判断的结果不断的训练设定模型，提高模型处理的准确性。
对于一个训练结果达到准确性需求的设定模型，可应用于测试过程中。因此可将各组输出数据分别输入到设定模型中，得到模型对应的输出结果，作为不同版本的测试系统对应输出的相似信息。
基于该相似信息可判断两个不同版本的测试系统的输出是否满足要求，是否差异过大等，从而对于差异较大的topN组的输出可上报进行人工复核，从而通过设定模型进行输出数据的相似性比较，能够减少由于不影响数据正确性的辅助字段差异过大而发起的误报，减少人工维护测试用例的成本，并且提高测试的准确性。
在上述实施例的基础上，本实施例还提供了一种基于测试的模型训练方法，能够标记各组输出数据中第一输出数据和第二输出数据的相似度，从而基于标记的各组输出数据作为样本数据训练设定模型。
参照图2，示出了本发明的一种基于测试的模型训练方法实施例的步骤流程图，具体可以包括如下步骤：
步骤202，确定各输入数据，以及各输入数据对应组输出数据。
步骤204，确定各组输出数据的相似度，并对所述各组输出数据的相似度分别进行标记。
本发明实施例可预先基于不同版本的测试系统确定出训练所需的样本数据，也就是各个输入数据，以及各个输入数据对应的至少一组输出数据。并且可确定各组输出数据中第一输出数据和第二输出数据的相似度，依据该相似度对该组输出数据进行标记，从而可以标记出该组输出数据的相似度。如在0-1之间取值，则0是完全不相似，1是相似。
一个可选实施例中，所述依据输入数据对应组输出数据的相似度进行标记，包括：确定输入数据对应组输出数据的相似度，将所述相似度作为所述组输出数据的标记结果。可预先计算一组输出数据中第一输出数据和第二输出数据的相似度，相似度计算方法可依据需求确定，如计算欧氏距离等，然后可将所述相似度作为所述组输出数据的标记结果，从而每组输出数据对应相似度标记结果。
在完成样本数据的准备以及设定模型的初始化设置后，可基于样本数据进行设定模型的训练。
步骤206，将所述组输出数据输入到设定模型中进行处理，得到输出结果。
步骤208，依据所述输出结果和对应组输出数据的标记结果对所述设定模型的参数进行调整。
可将各组输出数据输入到设定模型中进行处理，得到相应的输出结果，然后将该输出结果和对应组输出数据的标记结果进行匹配，依据匹配结果可对设定模型的参数进行调整。
本发明实施例中，模型训练可通过多种方式实现，具体可依据需求、实际的训练效果的确定。例如通过分类与回归树(Classification and Regression Trees,CART)算法构建决策树来进行输出结果的验证，又如通过反向传播的方式验证输出结果，从而调整设定模型的参数等。
一个可选实施例中，所述依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整，包括：依据损失函数和对应组输出数据的标记结果对所述输出结果进行验证，得到验证结果；依据所述验证结果调整所述设定模型的参数。可通过损失函数来验证输出结果，因此可基于损失函数和对应组输出数据的标记结果确定输出结果的相似性，例如可基于相应的算法构建决策树，然后损失函数可设定为用决策树验证输出结果和标记结果的相似程度，如正确为1，错误为0，将一批输出结果(如32个)取平均值，从而得到相应损失函数的值，进而调整设定模型的参数，以通过训练过程提高设定模型处理的准确性。
另一个可选实施例中，所述依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整，包括：将所述输出结果和对应组输出数据的标记结果进行比较，确定比较结果；依据所述比较结果，反向调整所述设定模型的参数。还可通过反向传播的方式进行模型训练，其中可将输出结果和对应组输出数据的标记结果进行比较，来确定模型处理的损失，得到相应的比较结果，再基于该比较结果反向调整设定模型的参数，以通过训练过程提高设定模型处理的准确性。
在上述实施例的基础上，针对接口等进行回归测试的过程中，接口传输的数据通常是结构化数据，结构化数据指的是由二维表结构来逻辑表达和实现的数据，遵循相应的数据格式与长度规范，可通过关系型数据库进行存储和管理。因此为了便于模型进行数据的处理，本发明实施例还可将结构化数据转换为向量等形式，然后基于向量进行模型的训练，以及通过模型进行向量的处理。可将输入数据和输出数据作为目标数据，从而对目标数据分别进行转换，得到对应的目标向量，相应所述目标向量包括输入向量和/或输出向量。其中，可将输入数据转换为输入向量，将第一输出数据转换为第一输出向量，将第二输出数据转换为第二输出向量等。
一个可选实施例中，所述对目标数据分别进行转换，得到对应的目标向量，包括：将各目标数据分别进行归一化处理，得到对应的数值信息；按照所述目标数据的结构信息，将所述各数值信息进行转换，得到对应的结构特征信息；依据所述结构特征信息，确定各目标数据对应的目标向量。
可依据目标数据的属性等确定归一化处理的规则，然后对各目标数据分别进行归一化处理，例如依据目标数据对应的业务特征等将非数值类的属性值、字段值等参数设置对应的数值，如基于业务确定用户类型包括旅客和贵宾(very important person，VIP)，则可相应设置旅客对应0，VIP对应1。然后将目标数据中相应的属性值、字段值等转换为数值，得到通过数值描述的目标数据，也就是目标数据中的各种属性值、字段值等转换得到对应的数值信息。例如，目标数据描述不同类型用户限制行李的最大高度和重量，一种由类型(type)、高度(height)和重量(carry)构成的目标数据的示例如：一条目标数据为用户X1的["type":"旅客","height":170,"carry":50]，另一条目标数据为用户X2的["type":"VIP","height":180,"carry":100]，则将“旅客”设定为0，VIP设定为1，通过数值代表相应文字的含义，通过归一化处理，得到用户X1为["type":"0","height":170,"carry":50]，用户X2为["type":"1","height":180,"carry":100]等。
然后可依据各目标数据之间的关系确定结构信息，如数据之间的父子、从属关系等结构信息，依据该结构信息可建立各数值信息之间的关系，构建能够表示目标数据的结构特征的结构特征信息。例如依据目标数据之间的父子关系，将目标数据按照树型结构表示，作为对应的结构特征信息。如图3所示，用户X1、用户X2和根节点root之间的关系树。所述结构特征信息包括所述目标数据的特征树。
再依据所述结构特征信息，确定该结构特征下的一个或多个目标向量，其中，依照不同的计算方法，可以得到不同的向量。其中，所述目标向量的维数依据对应目标数据的属性确定，如针对树型结构的特征树，每个节点对应向量的维数依据该节点对应目标数据的属性确定。如上例中树型结构中，将type、height、carry三个属性值分别作为向量的一个维度，则一个叶子节点表示为三维向量，如用户X1对应(0,170,50)，用户X2(1,180,100)，而根节点root可通过整个结构特征表示，对应可通过六维向量表示，即(0,170,50,1,180,100)。从而得到各目标数据对应的目标向量，对于向量的计算方式可依据需求确定。本发明实施例可将结构化数据转化为特征向量的集合，该特征要表示的内容包括但不限于树形结构，属性，数据类型和值，如上述根节点root能够表示出属性结构、各个属性或数据类型对应的值等特征。
在通过向量转换，得到输入数据、输出数据等目标数据对应的向量后，可依据向量进行设定模型的训练。
参照图4，示出了本发明的另一种基于测试的模型训练方法实施例的步骤流程图，具体可以包括如下步骤：
步骤402，确定各输入数据，以及各输入数据对应组输出数据。
步骤404，将所述输入数据转换为输入向量，将一组输出数据转换为对应组输出向量，其中，一组输出向量包括第一输出向量和第二输出向量。
步骤406，确定各组输出向量的相似度，并对所述各组输出向量的相似度分别进行标记。
本发明实施例可预先基于不同版本的测试系统确定出训练所需的样本数据，也就是各个输入数据，以及各个输入数据对应的至少一组输出数据。然后对样本数据进行转换，得到相应的向量数据，包括输入向量、一组输出向量中的第一输出数据对应的第一输出向量和第二输出数据对应的第二输出向量等，转换方法可参照上述实施例，在此不再赘述。然后可对各组输出向量，计算第一输出向量和第二输出向量的相似度，并作为该组输出向量的标记结果。
步骤408，将所述组输出向量输入到设定模型中进行处理，得到输出结果。
步骤410，依据所述输出结果和对应组输出向量的标记结果对所述设定模型的参数进行调整。
可将各组输出向量输入到设定模型中进行处理，得到相应的输出结果，则该输出结果也是通过向量表示，然后将该输出结果和对应组输出向量的标记结果进行匹配，依据匹配结果可对设定模型的参数进行调整。一个可选实施例中，可依据损失函数和对应组输出向量的标记结果对所述输出结果进行验证，得到验证结果；依据所述验证结果调整所述设定模型的参数。另一个可选实施例中，将所述输出结果和对应组输出向量的标记结果进行比较，确定比较结果；依据所述比较结果，反向调整所述设定模型的参数。
从而通过训练过程提高设定模型处理的准确性，直到设定模型处理的输出结果达到准确性要求，可以通过该设定模型进行处理。并且设定模型已处理的各组输出数据也可作为历史数据，标记相似性的标记结果，从而用于模型训练。
本发明实施例中，通常训练出一个设定模型是针对一类被测系统产出结果进行识别，如果要对新的另外一类测试系统进行识别，可重新训练相应的模型。如果需要测试的模型较多，也可建立针对模型的管理系统，接收测试人员对模型识别最终结果的正确率反馈，量化显示当前模型的工作效果。
在上述实施例的基础上，本发明实施例还可将数据转换成向量形式，并通过设定模型进行处理，从而进行回归测试。
参照图5，示出了本发明的另一种测试方法实施例的步骤流程图，具体可以包括如下步骤：
步骤502，确定输入数据。
步骤504，将所述输入数据输入到第一测试系统，得到对应的第一输出数据；以及将所述输入数据输入到第二测试系统，得到对应的第二输出数据；得到所述输入数据对应组输出数据。
对于不同版本的测试系统，可确定进行测试所需的输入数据，然后将输入数据分别输入到不同版本的测试系统中，通过第一测试系统可得到对应的第一输出数据，通过第二测试系统可得到对应的第二输出数据，从而得到该输入数据对应组输出数据。
步骤506，将各输入数据转换为输入向量，并将对应组输出数据转换对应组输出向量。
可将结构化数据转换为向量的形式，从而可将各输入数据转换为对应的输入向量，并将一组输出数据转换一组输出向量，其中，第一输出数据转换得到第一输出向量，第二输出数据转换得到第二输出向量，则一组输出向量包括第一输出向量和第二输出向量。转换方式可参照上述实施例，在此不再赘述。
步骤508，将所述各组输出数据对应的第一输出向量和所述第二输出向量，输入到所述设定模型中。
步骤510，获取所述设定模型输出的相似结果，将所述相似结果作为所述不同版本的测试系统对应输出的相似度。
在准备好测试所需输入向量以及对应组输出向量后，可将一组输出向量输入到设定模型中，从而设定模型可识别该组输出向量中第一输出向量和所述第二输出向量的相似性，得到相似结果，该相似结果为不同版本的测试系统对应一个输入数据的输出相似度，从而不同输入向量对应组输出向量，可得到相应输出的相似性，从而确定各类型输入对应输出的相似信息，判断版本修改、升级等是否对系统的运行造成影响。
步骤512，确定满足上报条件的相似信息，上报对应组输出数据和输入数据。
在获取到相似信息后，还可基于相似信息和上报条件进行判断，例如上报条件为相似度低于相似阈值，则可将不同版本的测试系统对应输出的相似度和相似阈值进行判断，从而得到一条或多条满足上报条件的相似信息，然后可上报对应的输入数据、对应组输出数据，还可上报相应的相似信息等，然后可进一步检查导致差异的原因，其中，回归测试可发现系统运行中的风险，通过从测试的输入-输出对比中发现不一致的结果，然后针对该不一致的结果进行检查，确认是否是代码修改等导致的问题，如通过人工或自动化的方式排查差异原因等。
本发明实施例中，若针对一类测试系统已训练设定模型，但对该系统进行较大规模的更新，此时可重新对设定模型进行训练，则样本数据构成的训练集可使用程序批量处理，来降低重新人工标记的工作量。例如，版本修改后返回的结构化数据中增加了一个字段，如增加的字段为“本次查询用户地区”，则可将样本数据中该结构化数据对应标记为相似的输出数据中增加该地区字段。例如，上述图3对应结构数据的例子中，如果版本修改后输出数据多加了一个字段，则相应会转换为6+1＝7个维度，而版本修改前输出数据为6个维度，则可为版本修改前的输出数据添加一个维度，如将该维度的值均设为0等或相同的其他值。从而能够有效减少标记的工作量。
本发明实施例中，通过引入神经网络等模型来进行结果数据的特征识别，从而能能够区分出系统中不同节点的重要程度，避免由于不影响数据正确性的辅助字段差异过大而发起的误报。
通过训练设定模型的方式来降低维护成本，无需人力介入的，不同的设定模型维护相应的训练集，可扩展性较高，在覆盖面很广的情况下，维护工作量低于修改检查规则逻辑等工作量，降低了维护成本。
本发明实施例不局限于只根据整个系统的最终输出进行测试的方式，测试系统可以是任意能返回结构化数据的接口，对于一个多模块组成的复杂系统而言，可以针对性测试其内部中的多个模块。
需要说明的是，对于方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明实施例并不受所描述的动作顺序的限制，因为依据本发明实施例，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作并不一定是本发明实施例所必须的。
参照图6，示出了本发明的一种测试装置实施例的结构框图，具体可以包括如下模块：输入确定模块602，输出确定模块604和模型处理模块606，其中，
输入确定模块602，用于确定输入数据。
输出确定模块604，用于将所述输入数据分别输入到不同版本的测试系统中，得到对应组的输出数据，其中，所述不同版本的测试系统至少包括第一测试系统和第二测试系统，一组输出数据至少包括所述第一测试系统的第一输出数据和所述第二测试系统的第二输出数据。
模型处理模块606，用于通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，其中，所述设定模型依据所述不同版本的测试系统对应标记的各组输出数据训练得到。
综上，可将输入数据分别输入到不同版本的测试系统中，得到对应组的输出数据，其中，所述不同版本的测试系统包括第一测试系统和第二测试系统，一组输出数据包括第一输出数据和第二输出数据，然后通过设定模型进行输出数据的相似性比较，采用设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，其中，所述设定模型依据所述不同版本的测试系统对应标记的各组输出数据训练得到，能够减少由于不影响数据正确性的辅助字段差异过大而发起的误报，减少人工维护测试用例的成本，并且提高测试的准确性。
参照图7，示出了本发明的另一种测试装置实施例的结构框图，具体可以包括如下模块：输入确定模块602，输出确定模块604、转换模块608、模型处理模块606、上报模块610和模型训练模块612，其中，
所述输入确定模块602，用于确定输入数据。
所述输出确定模块604，用于将所述输入数据分别输入到不同版本的测试系统中，得到对应组的输出数据，其中，所述不同版本的测试系统至少包括第一测试系统和第二测试系统，一组输出数据至少包括所述第一测试系统的第一输出数据和所述第二测试系统的第二输出数据。
所述转换模块608，用于对目标数据分别进行转换，得到对应的目标向量，其中，所述目标数据包括输入数据和/或输出数据，所述目标向量包括输入向量和/或输出向量。
所述模型处理模块606，用于通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，其中，所述设定模型依据所述不同版本的测试系统对应标记的各组输出数据训练得到。
所述上报模块610，用于确定满足上报条件的相似信息，上报对应组输出数据和输入数据。
所述模型训练模块612，用于训练设定模型。
一个可选实施例中，所述输出确定模块604，用于将所述输入数据输入到第一测试系统，得到对应的第一输出数据；将所述输入数据输入到第二测试系统，得到对应的第二输出数据；将所述第一输出数据和第二输出数据作为，所述输入数据对应组输出数据。
一个可选实施例中，所述转换模块608，用于将各目标数据分别进行归一化处理，得到对应的数值信息；按照所述目标数据的结构信息，将所述各数值信息进行转换，得到对应的结构特征信息；依据所述结构特征信息，确定各目标数据对应的目标向量。其中，所述结构特征信息包括所述目标数据的特征树，所述目标向量的维数依据所述节点对应目标数据的属性确定。
一个可选实施例中，所述输出向量包括第一输出向量和第二输出向量；模型处理模块606，用于将所述各组输出数据对应的第一输出向量和所述第二输出向量，输入到所述设定模型中；获取所述设定模型输出的相似结果，将所述相似结果作为所述不同版本的测试系统对应输出的相似度。
一个可选实施例中，所述模型训练模块612，包括：标记子模块6122、处理子模块6124和调整子模块6126，其中：
所述标记子模块6122，用于依据输入数据对应组输出数据的相似度进行标记。
所述处理子模块6124，用于将所述组输出数据输入到设定模型中进行处理，得到输出结果。
所述调整子模块6126，用于依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整。
其中，所述标记子模块6122，用于确定输入数据对应组输出数据的相似度，将所述相似度作为所述组输出数据的标记结果。
一个可选实施例中，所述调整子模块6126，用于依据损失函数和对应组输出数据的标记结果对所述输出结果进行验证，得到验证结果；依据所述验证结果调整所述设定模型的参数。
另一个可选实施例中，所述调整子模块6126，用于将所述输出结果和对应组输出数据的标记结果进行比较，确定比较结果；依据所述比较结果，反向调整所述设定模型的参数。
另一个可选实施例中，可将结构化数据转换为向量等形式，然后基于向量进行模型的训练。
则对于模型训练的输入数据、对应组输出数据等样本数据，可转换为向量数据。则所述标记子模块6122，用于将所述输入数据转换为输入向量，将一组输出数据转换为对应组输出向量；以及，确定各组输出向量的相似度，并所述各组输出向量的相似度分别进行标记。或者在训练模块中设置单独的转换子模块，用于将所述输入数据转换为输入向量，将一组输出数据转换为对应组输出向量，本发明实施例对此不做限定。其中，一组输出向量包括第一输出向量和第二输出向量。相应的，所述处理子模块6124，用于将所述组输出向量输入到设定模型中进行处理，得到输出结果。所述调整子模块6126，用于依据所述输出结果和对应组输出向量的标记结果对所述设定模型的参数进行调整。包括：可依据损失函数和对应组输出向量的标记结果对所述输出结果进行验证，得到验证结果；依据所述验证结果调整所述设定模型的参数；或者，将所述输出结果和对应组输出向量的标记结果进行比较，确定比较结果；依据所述比较结果，反向调整所述设定模型的参数。
通过训练过程提高设定模型处理的准确性，直到设定模型处理的输出结果达到准确性要求，可以通过该设定模型进行处理。并且设定模型已处理的各组输出数据也可作为历史数据，标记相似性的标记结果，从而用于模型训练。
本发明实施例中，通常训练出一个设定模型是针对一类被测系统产出结果进行识别，如果要对新的另外一类测试系统进行识别，可重新训练相应的模型。如果需要测试的模型较多，也可建立针对模型的管理系统，接收测试人员对模型识别最终结果的正确率反馈，量化显示当前模型的工作效果。
本发明实施例中，通过引入神经网络等模型来进行结果数据的特征识别，从而能能够区分出系统中不同节点的重要程度，避免由于不影响数据正确性的辅助字段差异过大而发起的误报。
通过训练设定模型的方式来降低维护成本，无需人力介入的，不同的设定模型维护相应的训练集，可扩展性较高，在覆盖面很广的情况下，维护工作量低于修改检查规则逻辑等工作量，降低了维护成本。
本发明实施例不局限于只根据整个系统的最终输出进行测试的方式，测试系统可以是任意能返回结构化数据的接口，对于一个多模块组成的复杂系统而言，可以针对性测试其内部中的多个模块。
对于装置实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
图8是根据一示例性实施例示出的一种用于测试的电子设备800的结构框图。例如，电子设备800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
参照图8，电子设备800可以包括以下一个或多个组件：处理组件802，存储器804，电力组件806，多媒体组件808，音频组件810，输入/输出(I/O)的接口812，传感器组件814，以及通信组件816。
处理组件802通常控制电子设备800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理元件802可以包括一个或多个处理器820来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理部件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在电子设备800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电力组件806为电子设备800的各种组件提供电力。电力组件806可以包括电源管理系统，一个或多个电源，及其他与为电子设备800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述电子设备800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当电子设备800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当电子设备800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器，用于为电子设备800提供各个方面的状态评估。例如，传感器组件814可以检测到设备800的打开/关闭状态，组件的相对定位，例如所述组件为电子设备800的显示器和小键盘，传感器组件814还可以检测电子设备800或电子设备800一个组件的位置改变，用户与电子设备800接触的存在或不存在，电子设备800方位或加速/减速和电子设备800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件816被配置为便于电子设备800和其他设备之间有线或无线方式的通信。电子设备800可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信部件814经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信部件814还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，电子设备800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器804，上述指令可由电子设备800的处理器820执行以完成上述方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
一种非临时性计算机可读存储介质，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行一种测试方法，所述方法包括：确定输入数据；将所述输入数据分别输入到不同版本的测试系统中，得到对应组的输出数据，其中，所述不同版本的测试系统至少包括第一测试系统和第二测试系统，一组输出数据至少包括所述第一测试系统的第一输出数据和所述第二测试系统的第二输出数据；通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，其中，所述设定模型依据所述不同版本的测试系统对应标记的各组输出数据训练得到。
可选的，所述通过设定模型对各组输出数据分别进行处理前，还包括：对目标数据分别进行转换，得到对应的目标向量，其中，所述目标数据包括输入数据和/或输出数据，所述目标向量包括输入向量和/或输出向量。
可选的，将各目标数据分别进行归一化处理，得到对应的数值信息；按照所述目标数据的结构信息，将所述各数值信息进行转换，得到对应的结构特征信息；依据所述结构特征信息，确定各目标数据对应的目标向量。
可选的，所述结构特征信息包括所述目标数据的特征树，所述目标向量的维数依据对应目标数据的属性确定。
可选的，所述输出向量包括第一输出向量和第二输出向量；所述通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，包括：将所述各组输出数据对应的第一输出向量和所述第二输出向量，输入到所述设定模型中；获取所述设定模型输出的相似结果，将所述相似结果作为所述不同版本的测试系统对应输出的相似度。
可选的，所述方法还包括：确定满足上报条件的相似信息，上报对应组输出数据和输入数据。
可选的，所述方法还包括所述设定模型的训练步骤：依据输入数据对应组输出数据的相似度进行标记；将所述组输出数据输入到设定模型中进行处理，得到输出结果；依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整。
可选的，所述依据输入数据对应组输出数据的相似度进行标记，包括：确定输入数据对应组输出数据的相似度，将所述相似度作为所述组输出数据的标记结果。
可选的，所述依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整，包括：依据损失函数和对应组输出数据的标记结果对所述输出结果进行验证，得到验证结果；依据所述验证结果调整所述设定模型的参数。
可选的，所述依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整，包括：将所述输出结果和对应组输出数据的标记结果进行比较，确定比较结果；依据所述比较结果，反向调整所述设定模型的参数。
图9是本发明根据另一示例性实施例示出的一种用于测试的电子设备900的结构示意图。该电子设备900可以是服务器，该服务器可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上中央处理器(central processing units，CPU)922(例如，一个或一个以上处理器)和存储器932，一个或一个以上存储应用程序942或数据944的存储介质930(例如一个或一个以上海量存储设备)。其中，存储器932和存储介质930可以是短暂存储或持久存储。存储在存储介质930的程序可以包括一个或一个以上模块(图示没标出)，每个模块可以包括对服务器中的一系列指令操作。更进一步地，中央处理器922可以设置为与存储介质930通信，在服务器上执行存储介质930中的一系列指令操作。
服务器还可以包括一个或一个以上电源926，一个或一个以上有线或无线网络接口950，一个或一个以上输入输出接口958，一个或一个以上键盘956，和/或，一个或一个以上操作系统941，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM等等。
一种电子设备，包括有存储器，以及一个或者一个以上的程序，其中一个或者一个以上程序存储于存储器中，且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令：确定输入数据；将所述输入数据分别输入到不同版本的测试系统中，得到对应组的输出数据，其中，所述不同版本的测试系统至少包括第一测试系统和第二测试系统，一组输出数据至少包括所述第一测试系统的第一输出数据和所述第二测试系统的第二输出数据；通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，其中，所述设定模型依据所述不同版本的测试系统对应标记的各组输出数据训练得到。
可选的，所述通过设定模型对各组输出数据分别进行处理前，还包括用于进行以下操作的指令：对目标数据分别进行转换，得到对应的目标向量，其中，所述目标数据包括输入数据和/或输出数据，所述目标向量包括输入向量和/或输出向量。
可选的，所述对目标数据分别进行转换，得到对应的目标向量，包括：将各目标数据分别进行归一化处理，得到对应的数值信息；按照所述目标数据的结构信息，将所述各数值信息进行转换，得到对应的结构特征信息；依据所述结构特征信息，确定各目标数据对应的目标向量。
可选的，所述结构特征信息包括所述目标数据的特征树，所述目标向量的维数依据对应目标数据的属性确定。
可选的，所述输出向量包括第一输出向量和第二输出向量；所述通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，包括：将所述各组输出数据对应的第一输出向量和所述第二输出向量，输入到所述设定模型中；获取所述设定模型输出的相似结果，将所述相似结果作为所述不同版本的测试系统对应输出的相似度。
可选的，还包括用于进行以下操作的指令：确定满足上报条件的相似信息，上报对应组输出数据和输入数据。
可选的，还包括进行以下所述设定模型的训练操作的指令：依据输入数据对应组输出数据的相似度进行标记；将所述组输出数据输入到设定模型中进行处理，得到输出结果；依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整。
可选的，所述依据输入数据对应组输出数据的相似度进行标记，包括：确定输入数据对应组输出数据的相似度，将所述相似度作为所述组输出数据的标记结果。
可选的，所述依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整，包括：依据损失函数和对应组输出数据的标记结果对所述输出结果进行验证，得到验证结果；依据所述验证结果调整所述设定模型的参数。
可选的，所述依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整，包括：将所述输出结果和对应组输出数据的标记结果进行比较，确定比较结果；依据所述比较结果，反向调整所述设定模型的参数。
本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。
本发明实施例是参照根据本发明实施例的方法、终端设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理终端设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理终端设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理终端设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理终端设备上，使得在计算机或其他可编程终端设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程终端设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明实施例的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例做出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明实施例范围的所有变更和修改。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者终端设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者终端设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者终端设备中还存在另外的相同要素。
以上对本发明所提供的一种测试方法、一种测试装置和一种电子设备，进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种测试方法，其特征在于，包括：
确定输入数据；
将所述输入数据分别输入到不同版本的测试系统中，得到对应组的输出数据，其中，所述不同版本的测试系统至少包括第一测试系统和第二测试系统，一组输出数据至少包括所述第一测试系统的第一输出数据和所述第二测试系统的第二输出数据；
通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，其中，所述设定模型依据所述不同版本的测试系统对应标记的各组输出数据训练得到。
2.根据权利要求1所述的方法，其特征在于，所述通过设定模型对各组输出数据分别进行处理前，还包括：
对目标数据分别进行转换，得到对应的目标向量，其中，所述目标数据包括输入数据和/或输出数据，所述目标向量包括输入向量和/或输出向量。
3.根据权利要求2所述的方法，其特征在于，所述对目标数据分别进行转换，得到对应的目标向量，包括：
将各目标数据分别进行归一化处理，得到对应的数值信息；
按照所述目标数据的结构信息，将所述各数值信息进行转换，得到对应的结构特征信息；
依据所述结构特征信息，确定各目标数据对应的目标向量。
4.根据权利要求3所述的方法，其特征在于，所述结构特征信息包括所述目标数据的特征树，所述目标向量的维数依据对应目标数据的属性确定。
5.根据权利要求2所述的方法，其特征在于，所述输出向量包括第一输出向量和第二输出向量；
所述通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，包括：
将所述各组输出数据对应的第一输出向量和所述第二输出向量，输入到所述设定模型中；
获取所述设定模型输出的相似结果，将所述相似结果作为所述不同版本的测试系统对应输出的相似度。
6.根据权利要求2所述的方法，其特征在于，还包括：
确定满足上报条件的相似信息，上报对应组输出数据和输入数据。
7.根据权利要求2所述的方法，其特征在于，还包括所述设定模型的训练步骤：
依据输入数据对应组输出数据的相似度进行标记；
将所述组输出数据输入到设定模型中进行处理，得到输出结果；
依据所述输出结果和对应组输出数据的标记对所述设定模型的参数进行调整。
8.一种测试装置，其特征在于，所述装置包括：
输入确定模块，用于确定输入数据；
输出确定模块，用于将所述输入数据分别输入到不同版本的测试系统中，得到对应组的输出数据，其中，所述不同版本的测试系统至少包括第一测试系统和第二测试系统，一组输出数据至少包括所述第一测试系统的第一输出数据和所述第二测试系统的第二输出数据；
模型处理模块，用于通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，其中，所述设定模型依据所述不同版本的测试系统对应标记的各组输出数据训练得到。
9.一种可读存储介质，其特征在于，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行如方法权利要求1-7任一所述的测试方法。
10.一种电子设备，其特征在于，包括有存储器，以及一个或者一个以上的程序，其中一个或者一个以上程序存储于存储器中，且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于进行以下操作的指令：
确定输入数据；
将所述输入数据分别输入到不同版本的测试系统中，得到对应组的输出数据，其中，所述不同版本的测试系统至少包括第一测试系统和第二测试系统，一组输出数据至少包括所述第一测试系统的第一输出数据和所述第二测试系统的第二输出数据；
通过设定模型对各组输出数据分别进行处理，确定所述不同版本的测试系统对应输出的相似信息，其中，所述设定模型依据所述不同版本的测试系统对应标记的各组输出数据训练得到。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811653115.5A CN111382064B (zh) | 2018-12-28 | 2018-12-28 | 一种测试方法、装置、介质和电子设备 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811653115.5A CN111382064B (zh) | 2018-12-28 | 2018-12-28 | 一种测试方法、装置、介质和电子设备 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN111382064A true CN111382064A (zh) | 2020-07-07 |
| CN111382064B CN111382064B (zh) | 2023-12-22 |
Family
ID=71221250
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811653115.5A Active CN111382064B (zh) | 2018-12-28 | 2018-12-28 | 一种测试方法、装置、介质和电子设备 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111382064B (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112799966A (zh) * | 2021-03-29 | 2021-05-14 | 广州嘉为科技有限公司 | 可扩展插件化批量生成测试数据方法、系统、设备及介质 |
| CN114721936A (zh) * | 2022-02-28 | 2022-07-08 | 阿里巴巴（中国）有限公司 | 数据处理方法、电子设备、介质及程序产品 |
| WO2024069925A1 (ja) * | 2022-09-30 | 2024-04-04 | 日立Astemo株式会社 | 電子制御装置、車両制御システム、及びソフトウェア検証方法 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20120164978A1 (en) * | 2010-12-27 | 2012-06-28 | Bruno CRISPO | User authentication method for access to a mobile user terminal and corresponding mobile user terminal |
| CN107678951A (zh) * | 2017-09-21 | 2018-02-09 | 平安科技（深圳）有限公司 | 测试用例自动化管理方法、装置、设备及存储介质 |
| US20180373620A1 (en) * | 2017-06-23 | 2018-12-27 | Ge Aviation Systems Llc | Generating scripts that facilitate execution of tasks within different run-time environments that utilize different languages and syntax |
-
2018
- 2018-12-28 CN CN201811653115.5A patent/CN111382064B/zh active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20120164978A1 (en) * | 2010-12-27 | 2012-06-28 | Bruno CRISPO | User authentication method for access to a mobile user terminal and corresponding mobile user terminal |
| US20180373620A1 (en) * | 2017-06-23 | 2018-12-27 | Ge Aviation Systems Llc | Generating scripts that facilitate execution of tasks within different run-time environments that utilize different languages and syntax |
| CN107678951A (zh) * | 2017-09-21 | 2018-02-09 | 平安科技（深圳）有限公司 | 测试用例自动化管理方法、装置、设备及存储介质 |
Non-Patent Citations (1)
| Title |
|---|
| 马亮;张刚;: "测试用例自动生成方法的现状及研究", 现代电子技术, no. 06 * |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112799966A (zh) * | 2021-03-29 | 2021-05-14 | 广州嘉为科技有限公司 | 可扩展插件化批量生成测试数据方法、系统、设备及介质 |
| CN112799966B (zh) * | 2021-03-29 | 2021-06-29 | 广州嘉为科技有限公司 | 可扩展插件化批量生成测试数据方法、系统、设备及介质 |
| CN114721936A (zh) * | 2022-02-28 | 2022-07-08 | 阿里巴巴（中国）有限公司 | 数据处理方法、电子设备、介质及程序产品 |
| WO2024069925A1 (ja) * | 2022-09-30 | 2024-04-04 | 日立Astemo株式会社 | 電子制御装置、車両制御システム、及びソフトウェア検証方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111382064B (zh) | 2023-12-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107491541B (zh) | 文本分类方法及装置 | |
| CN108256555B (zh) | 图像内容识别方法、装置及终端 | |
| CN106202330B (zh) | 垃圾信息的判断方法及装置 | |
| CN111382064B (zh) | 一种测试方法、装置、介质和电子设备 | |
| CN109359056B (zh) | 一种应用程序测试方法及装置 | |
| EP3923202A1 (en) | Method and device for data processing, and storage medium | |
| US20160224453A1 (en) | Monitoring the quality of software systems | |
| CN107784034B (zh) | 页面类别识别方法及装置、用于页面类别识别的装置 | |
| CN109255128B (zh) | 多层级标签的生成方法、装置和存储介质 | |
| CN112508612B (zh) | 训练广告创意生成模型、生成广告创意的方法及相关装置 | |
| CN109272118B (zh) | 数据训练方法、装置、设备及存储介质 | |
| CN111209354A (zh) | 一种地图兴趣点判重的方法、装置及电子设备 | |
| CN108509406B (zh) | 一种语料抽取方法、装置和电子设备 | |
| CN111046927A (zh) | 标注数据的处理方法、装置、电子设备及存储介质 | |
| CN113779257A (zh) | 文本分类模型的解析方法、装置、设备、介质及产品 | |
| CN104090915B (zh) | 用户数据更新方法及装置 | |
| CN109460458B (zh) | 查询改写意图的预测方法及装置 | |
| CN112331194A (zh) | 一种输入方法、装置和电子设备 | |
| CN112559673A (zh) | 语言处理模型的训练方法及装置、电子设备及存储介质 | |
| CN116310633A (zh) | 一种关键点检测模型训练方法及关键点检测方法 | |
| CN112308588A (zh) | 广告的投放方法、装置及存储介质 | |
| CN112884040B (zh) | 训练样本数据的优化方法、系统、存储介质及电子设备 | |
| CN115146633A (zh) | 一种关键词识别方法、装置、电子设备及存储介质 | |
| CN112712385B (zh) | 广告推荐方法、装置、电子设备及存储介质 | |
| CN114462410A (zh) | 实体识别方法、装置、终端及存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |