CN112035341A - 一种自动化测试方法及装置 - Google Patents
一种自动化测试方法及装置 Download PDFInfo
- Publication number
- CN112035341A CN112035341A CN202010802870.6A CN202010802870A CN112035341A CN 112035341 A CN112035341 A CN 112035341A CN 202010802870 A CN202010802870 A CN 202010802870A CN 112035341 A CN112035341 A CN 112035341A
- Authority
- CN
- China
- Prior art keywords
- prompt
- semantic segment
- error
- similarity
- semantic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000012360 testing method Methods 0.000 title claims abstract description 134
- 238000013102 re-test Methods 0.000 claims abstract description 22
- 230000000875 corresponding effect Effects 0.000 claims description 227
- 238000000034 method Methods 0.000 claims description 41
- 238000004364 calculation method Methods 0.000 claims description 29
- 238000004422 calculation algorithm Methods 0.000 claims description 19
- 239000013598 vector Substances 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 17
- 230000002596 correlated effect Effects 0.000 claims description 11
- 238000010998 test method Methods 0.000 abstract description 7
- 238000013515 script Methods 0.000 description 24
- 230000006870 function Effects 0.000 description 21
- 238000010586 diagram Methods 0.000 description 13
- 230000008569 process Effects 0.000 description 10
- 230000006872 improvement Effects 0.000 description 9
- 230000005856 abnormality Effects 0.000 description 7
- 238000012545 processing Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 3
- 230000011218 segmentation Effects 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 239000002699 waste material Substances 0.000 description 3
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- BUGBHKTXTAQXES-UHFFFAOYSA-N Selenium Chemical compound [Se] BUGBHKTXTAQXES-UHFFFAOYSA-N 0.000 description 1
- 230000007488 abnormal function Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000012812 general test Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 229920001296 polysiloxane Polymers 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 229910052711 selenium Inorganic materials 0.000 description 1
- 239000011669 selenium Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 229910052714 tellurium Inorganic materials 0.000 description 1
- PORWMNRCUJJQNO-UHFFFAOYSA-N tellurium atom Chemical compound [Te] PORWMNRCUJJQNO-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/3684—Test management for test design, e.g. generating new test cases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/3688—Test management for test execution, e.g. scheduling of test suites
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Hardware Design (AREA)
- Quality & Reliability (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Debugging And Monitoring (AREA)
Abstract
本说明书公开了一种自动化测试方法及装置,可先确定目标应用测试失败时的错误提示信息,并针对每个提示语义段,确定该提示语义段与各参照语义段的相似度。之后,根据确定出的各相似度落入的相似度阈值区间对应的分数,确定该提示语义段对应各错误类型的得分,并根据该错误提示信息中各提示语义段对应各错误类型的得分,确定该错误提示信息所属的错误类型。最后,确定本次所属错误类型的重测次数,并根据确定出重测次数,执行后续测试步骤。基于该错误提示信息中各提示语义段与各错误类型中各参照语义段的相似度,确定该错误提示信息所属的错误类型,并采用错误类型对应的测试方法继续进行测试。无需对故障性错误继续进行重试,节省了测试资源。
Description
技术领域
本申请涉及测试技术领域,尤其涉及一种自动化测试方法及装置。
背景技术
通常在应用程序上线之前,可采用自动化测试方法测试该应用程序的功能是否完善。在运行测试脚本进行自动化测试的过程中,可能会出现一些问题导致测试脚本运行失败。
一般测试脚本运行失败可能是测试脚本或被测应用出错导致的故障性错误,例如:测试脚本的代码、配置参数出现错误,或被测应用的代码、配置参数出现错误等。
现有技术在测试平台中进行自动化测试时,只要出现测试脚本运行失败的情况,都会由测试平台先进行重试,直至重试次数达到预设的次数阈值时,才会显示错误提示信息,提示测试人员进行错误修改。
发明内容
本说明书实施例提供一种自动化测试方法及装置,用于部分解决现有技术中当出现的错误为故障性错误时,即使重试运行测试脚本,造成故障性错误的原因也不会消失,重试反而导致资源浪费的问题。
本说明书实施例采用下述技术方案:
本说明书提供的一种自动化测试方法,包括:
确定目标应用测试失败时的错误提示信息,所述错误提示信息包含若干提示语义段;
针对所述错误提示信息中的每个提示语义段,对该提示语义段以及预设的各错误类型包含的参照语义段分别进行相似度计算,确定该提示语义段与各参照语义段的相似度,其中,每个错误类型包含至少一个参照语义段;
根据预设的不同相似度阈值区间对应的分数,以及该提示语义段与各参照语义段的相似度,分别确定该提示语义段对应各错误类型的得分,其中,相似度与分数正相关;
根据所述错误提示信息中各提示语义段对应各错误类型的得分,确定各错误类型的总分,并根据各错误类型的总分,确定所述错误提示信息所属的错误类型;
根据预设的各错误类型对应的重测次数以及所述错误提示信息所属的错误类型,确定所属错误类型的重测次数,并根据确定出所属错误类型的重测次数,执行后续测试步骤,其中,不同错误类型对应的重试次数不完全相同。
可选地,进行相似度计算之前,所述方法还包括:
根据预设的各非特征分词,从各提示语义段中删除与非特征分词相匹配的分词。
可选地,根据预设的不同相似度阈值区间对应的分数,以及该提示语义段与各参照语义段的相似度,分别确定该提示语义段对应各错误类型的得分,具体包括:
针对每个参照语义段,根据预设的不同相似度阈值区间对应的分数,确定该提示语义段与该参照语义段的相似度落入的相似度阈值区间对应的分数,作为该提示语义段对应该参照语义段的得分;
针对每个错误类型,根据该提示语义段分别对应该错误类型包含的各参照语义段的得分,确定该提示语义段对应该错误类型的得分。
可选地,根据该提示语义段分别对应该错误类型包含的各参照语义段的得分,确定该提示语义段对应该错误类型的得分,具体包括:
根据预设的不同相似度阈值区间对应的权重,确定该提示语义段与该参照语义段的相似度落入的相似度阈值区间对应的权重,作为该提示语义段对应该参照语义段的权重,其中,相似度与权重正相关;
根据该提示语义段分别对应该错误类型包含的各参照语义段的得分以及权重,确定该提示语义段对应该错误类型的得分。
可选地,确定该提示语义段与各错误类型的参照语义段的相似度,具体包括:
根据该提示语义段以及预设的各错误类型包含的参照语义段,通过词向量相似度算法,分别确定该提示语义段与各错误类型包含的参照语义段之间的第一相似度,以及通过余弦相似度算法,分别确定该提示语义段与各错误类型包含的参照语义段之间的第二相似度。
可选地,根据预设的不同相似度阈值区间对应的分数,以及该提示语义段与各参照语义段的相似度,分别确定该提示语义段对应各错误类型的得分,具体包括:
针对每个参照语义段,根据该提示语义段与该参照语义段之间的第一相似度,以及预先划分的各第一相似度阈值区间,确定所述第一相似度落入的第一相似度阈值区间;
根据该提示语义段与该参照语义段之间的第二相似度,以及预先划分的各第二相似度阈值区间,确定所述第二相似度落入的第二相似度阈值区间;
根据预设的各阈值区间组合对应的分数,确定所述落入第一相似度阈值区间与所述落入第二相似度阈值区间的阈值区间组合所对应的分数,作为该提示语义段对应该参照语义段的得分;
针对每个错误类型,根据确定出的该提示语义段对应该错误类型包含的各参照语义段的得分,确定该提示语义段对应该错误类型的得分。
可选地,根据确定出的该提示语义段对应该错误类型包含的各参照语义段的得分,确定该提示语义段对应该错误类型的得分,具体包括:
根据预设的各阈值区间组合对应的权重,确定所述落入第一相似度阈值区间与所述落入第二相似度阈值区间的阈值区间组合所对应的权重,作为该提示语义段对应该参照语义段的权重;
根据确定出的该提示语义段对应该错误类型包含的各参照语义段的得分以及权重,确定该提示语义段对应该错误类型的得分。
可选地,所述方法还包括:
根据各提示语义段对应各错误类型的得分,确定得分最高的提示语义段及其对应的错误类型;
当确定出的得分最高的错误类型与确定出的所述错误提示信息所属的错误类型相同时,判断所述得分最高的提示语义段与所述所属的错误类型的各参照语义段的相似度中,是否至少一个相似度落入预设的指定阈值区间;
若是,则将该语义段添加到所述所属的错误类型包含的参照语义段中。
本说明书提供一种自动化测试装置,包括:
第一确定模块,确定目标应用测试失败时的错误提示信息,所述错误提示信息包含若干提示语义段;
相似度计算模块,针对所述错误提示信息中的每个提示语义段,对该提示语义段以及预设的各错误类型包含的参照语义段分别进行相似度计算,确定该提示语义段与各参照语义段的相似度,其中,每个错误类型包含至少一个参照语义段;
第二确定模块,根据预设的不同相似度阈值区间对应的分数,以及该提示语义段与各参照语义段的相似度,分别确定该提示语义段对应各错误类型的得分,其中,相似度与分数正相关;
第三确定模块,根据所述错误提示信息中各提示语义段对应各错误类型的得分,确定各错误类型的总分,并根据各错误类型的总分,确定所述错误提示信息所属的错误类型;
第四确定模块,根据预设的各错误类型对应的重测次数以及所述错误提示信息所属的错误类型,确定所属错误类型的重测次数,并根据确定出所属错误类型的重测次数,执行后续测试步骤,其中,不同错误类型对应的重试次数不完全相同。
本说明书提供的一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述自动化测试方法。
本说明书提供的一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述自动化测试方法。
本说明书实施例采用的上述至少一个技术方案能够达到以下有益效果:
在本说明书中,可先确定目标应用测试失败时的错误提示信息,并针对该错误提示信息中的每个提示语义段,将该提示语义段以及预设的各错误类型包含的参照语义段分别进行相似度计算,确定该提示语义段与各参照语义段的相似度。之后,根据确定出的各相似度落入的相似度阈值区间对应的分数,确定该提示语义段对应各错误类型的得分,并根据该错误提示信息中各提示语义段对应各错误类型的得分,确定该错误提示信息所属的错误类型。最后,确定本次所属错误类型的重测次数,并根据确定出重测次数,执行后续测试步骤。基于该错误提示信息中各提示语义段与各错误类型中各参照语义段的相似度,确定该错误提示信息所属的错误类型,并采用错误类型对应的测试方法继续进行测试。无需对故障性错误继续进行重试,节省了测试资源。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1为本说明书实施例提供的一种自动化测试方法的流程示意图;
图2为本说明书实施例提供的阈值区间组合的示意图;
图3为本说明书实施例提供的一种自动化测试装置的结构示意图;
图4为本说明书实施例提供的实现自动化测试方法的电子设备示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
以下结合附图,详细说明本申请各实施例提供的技术方案。
通常在开发的目标应用上线之前,需要对该目标应用的各项功能进行测试,以检验该目标应用的各项功能是否完善,避免上线后出现功能异常的状况。其中,该目标应用可以是终端上安装的客户端,也可以是通过浏览器访问的网页应用(web app)。
在对目标应用进行测试时,测试人员可根据该目标应用的各项功能,在测试平台中编写用于测试各项功能的测试脚本。当需要对该目标应用中的某项功能进行自动化测试时,测试平台可通过运行该项功能对应的测试脚本,并根据运行结果,判断该项功能是否完善。其中,测试平台是用于测试目标应用的工具,具体可以是各种测试框架,例如:selenium框架、Tellurium框架等。
在测试过程中运行测试脚本时,也会出现测试脚本运行失败,导致测试出错的情况。这种情况的出现可能是由于测试脚本或被测目标应用出错导致的故障性错误,例如:测试脚本的代码、配置参数出现错误,或被测应用的代码、配置参数出现错误等。也可能是由于其它原因导致的暂时性错误,例如:数据库连接超时或被测的目标应用所调用的第三方系统环境出现问题等。当由于暂时性错误导致运行失败时,只需重试运行测试脚本,造成暂时性错误的原因可能会消失,测试脚本可能运行成功。
因此,为了减少测试人员的工作量,目前测试平台在运行测试脚本失败时,通常先进行重试,直至重试次数到达预设的最大重试次数时,再显示错误提示信息,提示测试人员进行修改。也就是说,无论是故障性错误导致测试脚本运行失败,还是暂时性错误导致测试脚本运行失败,都需要先进行重试操作。
但是对于故障性错误导致的运行失败,即使重试运行测试脚本,造成故障行错误的原因也不会消失,因此对于故障性错误进行重试,造成资源浪费。
图1为本说明书实施例提供的一种自动化测试方法的流程示意图,具体可包括以下步骤:
S100:确定目标应用测试失败时的错误提示信息。
因此在本说明书自动化测试过程中,当测试平台运行测试脚本失败时,可先确定本次运行失败属于哪种错误类型,再根据确定出的错误类型,确定是否进行重试,以减少资源的浪费。由于测试平台运行测试脚本失败时,会显示错误提示信息,该错误提示信息中包含出错的原因,于是,在本说明书中,可先确定运行失败的错误提示信息,以后续根据该错误提示信息,确定本次运行出错属于哪种错误类型。
本说明书提供的自动化测试方法,可由测试平台执行,或者由测试平台与异常判断平台共同执行,当由测试平台与异常判断平台共同执行时,测试平台可将测试失败的错误提示信息发送至异常判断平台,由异常判断平台判断完成后,再将判断结果返回给测试平台,由测试平台根据判断结果,确定是否进行重试。为方便描述,在本说明书中以测试平台为执行主体为例进行说明。
在对目标应用中的某项功能进行测试时,可通过测试平台运行该项功能对应的测试脚本,并根据运行结果判断该项功能是否完善。当该测试脚本运行失败时,测试平台可先确定测试失败生成的错误提示信息,以后续根据该错误提示信息确定本次测试失败所属的错误类型,以进一步判断是否进行重试。其中,由于测试平台在生成该错误提示信息时,是根据换行符按行生成的,因此可将每行提示信息作为一个提示语义段,根据各行提示语义段,确定该错误提示信息。
进一步的,由于生成错误提示信息时,每行的提示语义段中可能存在重复的分词,这类重复的分词对于后续判断属于哪种错误类型的影响并不大,且由于后续是通过计算相似度进行错误类型的分类,因此出于减少计算量以及去除重复分词干扰的影响,可预先对各提示语义段进行预处理,删除各提示语义段中的各重复分词。具体的,由于目前自动化测试框架在生成错误提示信息时,会采用与正常文章中词与词分隔的空格符,将错误提示信息中的每个词进行分隔,便于用户理解,因此针对每行提示语义段,该测试平台可根据该行提示语义段中的各空格符,将该行语义段划分为若干分词。之后,针对该行语义段中的每个分词,将该分词分别与预设的各非特征分词进行匹配。最后,从各行语义段中确定与各非特征分词相匹配的各分词,并进行删除。其中,非特征分词可根据经验设置,本说明书对此不做限制。
S102:针对所述错误提示信息中的每个提示语义段,对该提示语义段以及预设的各错误类型包含的参照语义段分别进行相似度计算,确定该提示语义段与各参照语义段的相似度。
在本说明书实施例中,当确定出测试失败生成的错误提示信息后,便可根据该错误提示信息,判断本次测试失败属于哪种错误类型,以进一步确定是否进行重试。
由于测试平台测试失败时,生成的错误提示信息的数据较大,直接进行相似度匹配的计算较为复杂,因此可分别对该错误提示信息中的各提示语义段进行判断,根据各提示语义段的综合判断结果,确定该错误提示信息所属的错误类型。
具体的,针对该错误提示信息中的每个提示语义段,该测试平台可对该提示语义段以及预设的各错误类型包含的参照语义段分别进行相似度计算,确定该提示语义段与各参照语义段的相似度。其中,本说明书对相似度计算的方法不做限制,可根据需要设置。
例如:假设经过预处理后确定出的各提示语义段分别为a、b、c,预设的各错误类型A、B、C,其中,如表1所示,错误类型A中包含有参照语义段A1、A2、A3,错误类型B中包含有参照语义段B1、B2,错误类型C中包含有参照语义段C1。则在进行相似度计算时,可针对提示语义段a,确定该提示语义段a分别与各参照语义段A1、A2、A3、B1、B2、C1之间的相似度。
表1
在本说明书实施例中,可基于词向量相似度算法进行相似度计算。具体的,该测试平台针对预设的每个参照语义段,将该提示语义段与该参照语义段输入预先训练的词向量相似度计算模型,得到该词向量相似度计算模型输出的相似度。其中,词向量相似度计算模型是基于词向量相似度算法预先训练得到的。
在本说明书另一种实施例中,也可基于余弦相似度算法进行相似度计算。具体的,该测试平台也可按照空格符对该提示语义段进行分词。之后,根据该提示语义段中的各分词,确定该提示语义段对应的词向量。然后,针对预设的每个参照语义段,根据该提示语义段对应的词向量以及该参照语义段对应的词向量,确定两个词向量之间夹角的余弦值。最后,根据确定出的余弦值,确定该提示语义段与该参照语义段之间的相似度。
S104:根据预设的不同相似度阈值区间对应的分数,以及该提示语义段与各参照语义段的相似度,分别确定该提示语义段对应各错误类型的得分。
在本说明书实施例中,当确定出该提示语义段与各参照语义段的相似度后,便可根据确定出的各相似度,确定该提示语义段与各错误类型的相似程度,后续可根据该错误提示信息包含的各提示语义段与各错误类型,进一步确定本次错误提示信息所属的错误类型。
在根据提示语义段与参照语义段的相似度,确定提示语义段与各错误类型的相似程度时,由于一定区间范围内的相似度差异(如,相似度50%和相似度55%),对于确定提示语义段与各错误类型的相似程度的区别较小,测试平台可根据预设的不同相似度阈值区间对应的分数,确定提示语义段与参照语义段的相似度对应的分数。其中,相似度与分数正相关,也就是说越高相似度所落入的阈值区间对应的分数越高。
同时为了根据提示语义段与各参照语义段的相似度,确定提示语义段与各错误类型的相似程度,在本说明书中测试平台还可根据提示语义段与各参照语义段之间的相似度,确定提示语义段对应各参照语义段的相似的分数,以根据确定出的该错误提示信息的各提示语义段分别与各错误类型包含的各参照语义段的相似的分数,确定该错误提示信息所属的错误类型。
具体的,该测试平台可先针对每个参照语义段,根据预设的不同相似度阈值区间对应的分数,确定该提示语义段与该参照语义段的相似度落入的相似度阈值区间对应的分数,作为该提示语义段对应该参照语义段的得分。之后,将该提示语义段分别对应该错误类型包含的各参照语义段的得分相加,作为该提示语义段对应该错误类型的得分。其中,相似度与分数正相关,相似度越大,分数越高。
接上述举例,假设提示语义段a分别与参照语义段A1、A2、A3之间的相似度分别为S(a,A1)=0.2、S(a,A2)=0.5、S(a,A3)=0.8,预设的不同相似度阈值区间分别为(0,0.3)(0.3,0.6)(0.6,1),其中,相似度阈值区间(0,0.3)对应的分数为1分,相似度阈值区间(0.3,0.6)对应的分数为2分,相似度阈值区间(0.6,1)对应的分数为3分。由S(a,A1)=0.2落入相似度阈值区间(0,0.3)对应的分数,可确定提示语义段a对应参照语义段A1的得分为1分。同理,由S(a,A2)=0.5落入相似度阈值区间(0.3,0.6)对应的分数,可确定提示语义段a对应参照语义段A2的得分为2分。由S(a,A3)=0.8落入相似度阈值区间(0.6,1)对应的分数,可确定提示语义段a对应参照语义段A3的得分为3分。之后,可根据该提示语义段a分别对应该错误类型A中各参照语义段A1、A2、A3的得分,确定该提示语义段a对应该错误类型A的得分为1+2+3=6分。
进一步的,为了根据各提示语义段对应的错误类型,更准确的确定错误提示信息的错误类型。在本说明书中,该测试平台还可根据预设的不同相似度阈值区间对应的权重,确定该提示语义段与该参照语义段的相似度落入的相似度阈值区间对应的权重,作为该提示语义段对应该参照语义段的权重,之后,根据该提示语义段分别对应该错误类型包含的各参照语义段的得分以及权重,确定该提示语义段对应该错误类型的得分。其中,相似度与权重正相关,也就是说越高相似度所落入的阈值区间对应的权重越大。
更进一步的,在根据该提示语义段分别对应该错误类型包含的各参照语义段的得分以及权重,确定该提示语义段对应该错误类型的得分时,可将该提示语义段分别对应该错误类型包含的各参照语义段的得分以及权重相加,作为该提示语义段对应该错误类型的得分。也可将该提示语义段分别对应该错误类型包含的各参照语义段的得分以及权重相乘,作为该提示语义段对应该错误类型的得分。本说明书对此不做限制,可根据需要设置。
接上述举例,假设相似度阈值区间(0,0.3)对应的权重为1,相似度阈值区间(0.3,0.6)对应的权重为2,相似度阈值区间(0.6,1)对应的权重为3。由S(a,A1)=0.2落入相似度阈值区间(0,0.3)对应的权重,可确定提示语义段a对应参照语义段A1的权重为1。同理,由S(a,A2)=0.5落入相似度阈值区间(0.3,0.6)对应的权重,可确定提示语义段a对应参照语义段A2的权重为2。由S(a,A3)=0.8落入相似度阈值区间(0.6,1)对应的权重,可确定提示语义段a对应参照语义段A3的权重为3。之后,可根据该提示语义段a分别对应该错误类型A中各参照语义段A1、A2、A3的得分以及权重,确定该提示语义段a对应该错误类型A的得分为1×1+2×2+3×3=14。
S106:根据所述错误提示信息中各提示语义段对应各错误类型的得分,确定各错误类型的总分,并根据各错误类型的总分,确定所述错误提示信息所属的错误类型。
在本说明书实施例中,当通过步骤S104分别确定出该提示语义段对应各错误类型的得分后,便可根据该错误提示信息包含的各提示语义段对应各错误类型的得分,确定该错误提示信息所属的错误类型。
具体的,该测试平台可针对每个错误类型,根据该错误提示信息中各提示语义段对应该错误类型的得分,确定该错误提示信息对应该错误类型的总分。之后,根据该错误提示信息对应各错误类型的总分,从中确定总分最高的错误类型,为该错误提示信息所属的错误类型。
S108:根据预设的各错误类型对应的重测次数以及所述错误提示信息所属的错误类型,确定所属错误类型的重测次数,并根据确定出所属错误类型的重测次数,执行后续测试步骤。
在本说明书实施例中,当确定出错误提示信息所属的错误类型后,该测试平台可确定各错误类型对应的重测次数,以根据该重测次数,确定继续进行重试,或者显示错误提示信息。
具体的,该测试平台可根据本次错误提示信息所属的错误类型,以及各错误类型对应的重测次数,确定本次所属的错误类型的重测次数,当确定出的重试次数大于0时,该测试平台可再次运行测试脚本进行测试。当确定出的重试次数为0时,该测试平台可显示错误提示信息,以提示测试人员进行修改。其中,不同错误类型对应的重试次数不完全相同。当本次所属错误类型为故障性错误时,可确定重试次数为预设的最大重试次数,当本次所属错误类型为暂时性错误时,可确定重试次数为0。
基于图1所示的自动化测试方法,可先确定目标应用测试失败时的错误提示信息,并针对该错误提示信息中的每个提示语义段,将该提示语义段以及预设的各错误类型包含的参照语义段分别进行相似度计算,确定该提示语义段与各参照语义段的相似度。之后,根据确定出的各相似度落入的相似度阈值区间对应的分数,确定该提示语义段对应各错误类型的得分,并根据该错误提示信息中各提示语义段对应各错误类型的得分,确定该错误提示信息所属的错误类型。最后,确定本次所属错误类型的重测次数,并根据确定出重测次数,执行后续测试步骤。基于该错误提示信息中各提示语义段与各错误类型中各参照语义段的相似度,确定该错误提示信息所属的错误类型,并采用错误类型对应的测试方法继续进行测试。无需对故障性错误继续进行重试,节省了测试资源。
在本说明书步骤S102中,为了更准确地确定该提示语义段与各参照语义段之间的相似度,也可分别基于词向量相似度算法以及余弦相似度算法,确定该提示语义段与各参照语义段之间的第一相似度与第二相似度。之后在步骤S104中,再根据该第一相似度以及该第二相似度,确定该提示语义段对应各错误类型的得分。
具体的,针对每个参照语义段,该测试平台可先通过词向量相似度算法,确定该提示语义段与该参照语义段之间的第一相似度,并通过余弦相似度算法,确定该提示语义段与该参照语义段之间的第二相似度。其中,基于词向量相似度算法确定第一相似度,以及基于余弦相似度算法确定第二相似度的方法已经在上述步骤S102中进行了详细阐述,本说明书在此不再赘述。
之后,根据该提示语义段与该参照语义段之间的第一相似度,以及预先划分的各第一相似度阈值区间,确定该第一相似度落入的第一相似度阈值区间。并根据该提示语义段与该参照语义段之间的第二相似度,以及预先划分的各第二相似度阈值区间,确定该第二相似度落入的第二相似度阈值区间。
然后,根据预设各阈值区间组合对应的分数,确定该第一相似度阈值区间与该第二相似度阈值区间组合对应的分数,作为该提示语义段对应该参照语义段的得分。
最后,针对每个错误类型,将确定出的该提示语义段对应该错误类型包含的各参照语义段的得分相加,确定得分之和作为该提示语义段对应该错误类型的得分。
进一步的,由于词向量相似度算法相较于余弦相似度算法还包含有提示语义段中的语义信息,因此可认为基于词向量相似度算法计算出的第一相似度的可信度更高。于是,可对确定出的该提示语义段与该参照语义段的第一相似度与第二相似度分别赋予不同的权重,以根据不同权重的第一相似度与第二相似度,确定该提示语义段对应各错误类型的得分。其中,第一相似度的权重大于第二相似度的权重。
具体的,该测试平台可根据预设阈值区间组合对应的权重,确定该第一相似度阈值区间与该第二相似度阈值区间组合对应的权重,作为该提示语义段对应该参照语义段的权重。之后,根据确定出的该提示语义段对应该错误类型包含的各参照语义段的得分以及权重,确定该提示语义段对应该错误类型的得分。
其中,在根据确定出的该提示语义段对应该错误类型包含的各参照语义段的得分以及权重,确定该提示语义段对应该错误类型的得分时,可将该提示语义段分别对应该错误类型包含的各参照语义段的得分以及权重相加,作为该提示语义段对应该错误类型的得分。也可将该提示语义段分别对应该错误类型包含的各参照语义段的得分以及权重相乘,作为该提示语义段对应该错误类型的得分。本说明书对此不做限制,可根据需要设置。
继续接上述举例,假设提示语义段a分别与参照语义段B1、B2之间的第一相似度分别为S1(a,B1)=0.27、S1(a,B2)=0.7,第二相似度分别为S2(a,B1)=0.4、S2(a,B2)=0.8。预先划分的第一相似度阈值区间为(0,0.3)(0.3,0.6)(0.6,1),预先划分的第二相似度阈值区间为(0,0.5)(0.5,0.7)(0.7,1)。
假设预设的各阈值区间组合对应的分数如图2所示,图2中以X表示分数,Y表示权重。图2坐标系中存在9中不同阈值区间的组合,不同阈值区间组合对应的分数和权重不同。其中,第一相似度阈值区间(0,0.3)与第二相似度阈值区间(0,0.5)的阈值区间组合对应的分数为1分,权重为1,第一相似度阈值区间(0.3,0.6)与第二相似度阈值区间(0,0.5)的阈值区间组合对应的分数为2分,权重为3,第一相似度阈值区间(0.6,1)与第二相似度阈值区间(0,0.5)的阈值区间组合对应的分数为3分,权重为4,第一相似度阈值区间(0,0.3)与第二相似度阈值区间(0.5,0.7)的阈值区间组合对应的分数为2分,权重为2,第一相似度阈值区间(0.3,0.6)与第二相似度阈值区间(0.5,0.7)的阈值区间组合对应的分数为3分,权重为3,第一相似度阈值区间(0.6,1)与第二相似度阈值区间(0.5,0.7)的阈值区间组合对应的分数为4分,权重为4,第一相似度阈值区间(0,0.3)与第二相似度阈值区间(0.7,1)的阈值区间组合对应的分数为3分,权重为3,第一相似度阈值区间(0.5,0.7)与第二相似度阈值区间(0.7,1)的阈值区间组合对应的分数为4分,权重为3,第一相似度阈值区间(0.7,1)与第二相似度阈值区间(0.7,1)的阈值区间组合对应的分数为5分,权重为5。
由上述以及该图2可确定S1(a,B1)=0.27落入第一相似度阈值区间(0,0.3),S1(a,B2)=0.7落入第一相似度阈值区间(0.6,1),S2(a,B1)=0.4落入第二相似度阈值区间(0,0.5),S2(a,B2)=0.8落入第二相似度阈值区间(0.5,1)。
之后,可根据该提示语义段a与该参照语义段B1的第一相似度S1(a,B1)=0.27落入的第一相似度阈值区间(0,0.3),以及第二相似度S2(a,B1)=0.4落入的第二相似度阈值区间(0,0.5),以及预设的各阈值区间组合对应的分数以及权重,确定第一相似度阈值区间(0,0.3)与第二相似度阈值区间(0,0.5)的阈值区间组合对应的分数为1分以及权重为1。
同理,可根据该提示语义段a与该参照语义段B2的第一相似度S1(a,B2)=0.7落入的第一相似度阈值区间(0.6,1),以及第二相似度S2(a,B2)=0.8落入的第二相似度阈值区间(0.7,1),以及预设的各阈值区间组合对应的分数以及权重,确定第一相似度阈值区间(0.6,1)与第二相似度阈值区间(0.5,1)的阈值区间组合对应的分数为5分以及权重为5。
最后,根据该提示语义段a对应该参照语义段B1的得分以及权重以及对应该参照语义段B2的得分以及权重,确定该提示语义段a对应该错误类型B的总分为1×5+1×5=10。
需要说明的是,为了更准确地确定该提示语义段与各参照语义段之间的相似度,可采用多种相似度计算方法确定相似度。本说明书示例性的以基于词向量相似度算法确定第一相似度,以及基于余弦相似度算法确定第二相似度为例进行说明,具体对采用哪种相似度计算方法确定相似度,以及采用几种相似度计算方法确定相似度不做限制,可根据需要设置。
则对应在确定各种相似度计算方法确定出的相似度权重时,本说明书中也只是以基于词向量相似度算法确定出的第一相似度的权重,大于基于余弦相似度算法确定第二相似度的权重为例进行说明。当采用不同的相似度计算方法确定相似度时,可根据需要设置不同相似度计算方法确定出的相似度的权重。本说明书对此不做限制,具体可根据需要设置。
在本说明书中,错误类型包含的各参照语义段是分别从不同维度表征该错误类型的。当错误类型包含的参照语义段的数量较多时,表明该错误类型可从多个维度表示,每个维度对确定该错误类型的影响较小。当错误类型包含的参照语义段的数量较少时,表明该错误类型仅能从较少的维度表示,每个维度对确定该错误类型的影响较大。
因此在本说明书一个或多个实施例中,在确定提示语义段对应错误类型的得分时,可通过将该提示语义段分别与对应该错误类型包含的各参照语义段的得分相加的方式,确定该提示语义段对应该错误类型的得分。可分别从不同的维度确定该提示语义段对应该错误类型的得分。
在本说明书实施例中,预设的各错误类型中包含的各参照语义段可以是根据测试人员的经验设置的,但由于根据经验设置的参照语义段的数量有限,且随着应用功能的更新,可能会出现新的错误类型。因此还可根据各提示语义段与各错误类型中各参照语义段的相似度,确定是否需要对该提示语义段进行学习,将该提示语义段作为各错误类型中新的参照语义段。
具体的,该测试平台可先根据各提示语义段对应各错误类型的得分,确定得分最高的提示语义段及其对应的错误类型。由于本次错误提示信息所属的错误类型是基于各提示语义段对应的各错误类型的总分确定的,当确定出的得分最高的错误类型与确定出的所属的错误类型不同时,可认为得分最高的提示语义段对于确定本次所属的错误类型的作用较弱,无需进行学习。因此只有当确定出的得分最高的错误类型与确定出的所属的错误类型相同时,才会对该得分最高的提示语义段进行学习。
进一步的,在对该得分最高的提示语义段进行学习时,还需根据该得分最高的提示语义段与确定出的本次所属错误类型中的各参照语义段的相似度,确定该提示语义段是否与本次所属错误类型中已有的参照语义段相同,若相同,则表明该提示语义段已经是本次所属错误类型中包含的参照语义段中的一个,无需进行学习。否则,则需要进行学习。
具体的,该测试平台可判断该得分最高的提示语义段与本次所属的错误类型的各参照语义段的相似度中,是否至少一个相似度落入预设的指定阈值区间,若至少存在一个相似度落入预设的指定阈值区间,则确定需要进行学习,将该语义段添加到本次所属的错误类型包含的参照语义段中。当然,也可确定该得分最高的提示语义段与本次所属的错误类型的各参照语义段的相似度中,最高的相似度是否落入预设的指定阈值区间,当该最高的相似度落入预设的指定阈值区间时,将该语义段添加到本次所属的错误类型包含的参照语义段中。其中,预设的指定阈值区间可根据需要设置,本说明书对此不做限制。
进一步的,为了保证学习的正确性,当存在多个相同且最高的得分时,即,得分最高的错误类型有多个,得分最高的提示语义段也有多个,此时无法确定哪个得分最高的提示语义段对确定本次所属的错误类型的影响最大,无法确定将哪个提示语义段作为新的参照语义段,因此可不再对本次错误提示信息进行学习。
在本说明书另一种实施例中,当由测试平台与异常判断平台共同执行本说明书提供的自动化测试方法时,测试平台可将测试失败的错误提示信息发送至异常判断平台,由异常判断平台执行上述步骤S100~步骤S108,当确定出本次错误类型对应的测试方法后,将该测试方法发送至该测试平台,由该测试平台继续进行测试。
基于图1所示的自动化测试方法,本说明书实施例还对应提供一种模型训练装置的结构示意图,如图3所示。
图3为本说明书实施例提供的一种自动化测试装置的结构示意图,所述装置包括:
第一确定模块200,确定目标应用测试失败时的错误提示信息,所述错误提示信息包含若干提示语义段;
相似度计算模块202,针对所述错误提示信息中的每个提示语义段,对该提示语义段以及预设的各错误类型包含的参照语义段分别进行相似度计算,确定该提示语义段与各参照语义段的相似度,其中,每个错误类型包含至少一个参照语义段;
第二确定模块204,根据预设的不同相似度阈值区间对应的分数,以及该提示语义段与各参照语义段的相似度,分别确定该提示语义段对应各错误类型的得分,其中,相似度与分数正相关;
第三确定模块206,根据所述错误提示信息中各提示语义段对应各错误类型的得分,确定各错误类型的总分,并根据各错误类型的总分,确定所述错误提示信息所属的错误类型;
第四确定模块208,根据预设的各错误类型对应的重测次数以及所述错误提示信息所属的错误类型,确定所属错误类型的重测次数,并根据确定出所属错误类型的重测次数,执行后续测试步骤,其中,不同错误类型对应的重试次数不完全相同。
可选地,所述第一确定模块200具体用于,根据预设的各非特征分词,从各提示语义段中删除与非特征分词相匹配的分词。
可选地,所述第二确定模块204具体用于,针对每个参照语义段,根据预设的不同相似度阈值区间对应的分数,确定该提示语义段与该参照语义段的相似度落入的相似度阈值区间对应的分数,作为该提示语义段对应该参照语义段的得分,针对每个错误类型,根据该提示语义段分别对应该错误类型包含的各参照语义段的得分,确定该提示语义段对应该错误类型的得分。
可选地,所述第二确定模块204具体用于,根据预设的不同相似度阈值区间对应的权重,确定该提示语义段与该参照语义段的相似度落入的相似度阈值区间对应的权重,作为该提示语义段对应该参照语义段的权重,其中,相似度与权重正相关,根据该提示语义段分别对应该错误类型包含的各参照语义段的得分以及权重,确定该提示语义段对应该错误类型的得分。
可选地,所述第二确定模块204具体用于,根据该提示语义段以及预设的各错误类型包含的参照语义段,通过词向量相似度算法,分别确定该提示语义段与各错误类型包含的参照语义段之间的第一相似度,以及通过余弦相似度算法,分别确定该提示语义段与各错误类型包含的参照语义段之间的第二相似度。
可选地,所述第二确定模块204具体用于,针对每个参照语义段,根据该提示语义段与该参照语义段之间的第一相似度,以及预先划分的各第一相似度阈值区间,确定所述第一相似度落入的第一相似度阈值区间,根据该提示语义段与该参照语义段之间的第二相似度,以及预先划分的各第二相似度阈值区间,确定所述第二相似度落入的第二相似度阈值区间,根据预设的各阈值区间组合对应的分数,确定所述落入第一相似度阈值区间与所述落入第二相似度阈值区间的阈值区间组合所对应的分数,作为该提示语义段对应该参照语义段的得分,针对每个错误类型,根据确定出的该提示语义段对应该错误类型包含的各参照语义段的得分,确定该提示语义段对应该错误类型的得分。
可选地,所述第二确定模块204具体用于,根据预设的各阈值区间组合对应的权重,确定所述落入第一相似度阈值区间与所述落入第二相似度阈值区间的阈值区间组合所对应的权重,作为该提示语义段对应该参照语义段的权重;
根据确定出的该提示语义段对应该错误类型包含的各参照语义段的得分以及权重,确定该提示语义段对应该错误类型的得分。
可选地,所述第四确定模块208具体用于,根据各提示语义段对应各错误类型的得分,确定得分最高的提示语义段及其对应的错误类型,当确定出的得分最高的错误类型与确定出的所述错误提示信息所属的错误类型相同时,判断所述得分最高的提示语义段与所述所属的错误类型的各参照语义段的相似度中,是否至少一个相似度落入预设的指定阈值区间,若是,则将该语义段添加到所述所属的错误类型包含的参照语义段中。
本说明书实施例还提供了一种计算机可读存储介质,该存储介质存储有计算机程序,计算机程序可用于执行上述图1提供的自动化测试方法。
基于图1所示的模型训练方法,本说明书实施例还提出了图4所示的电子设备的示意结构图。如图4,在硬件层面,该电子设备包括处理器、内部总线、网络接口、内存以及非易失性存储器,当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,以实现上述图1所示的自动化测试方法。
当然,除了软件实现方式之外,本说明书并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本说明书。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。
Claims (11)
1.一种自动化测试方法,其特征在于,包括:
确定目标应用测试失败时的错误提示信息,所述错误提示信息包含若干提示语义段;
针对所述错误提示信息中的每个提示语义段,对该提示语义段以及预设的各错误类型包含的参照语义段分别进行相似度计算,确定该提示语义段与各参照语义段的相似度,其中,每个错误类型包含至少一个参照语义段;
根据预设的不同相似度阈值区间对应的分数,以及该提示语义段与各参照语义段的相似度,分别确定该提示语义段对应各错误类型的得分,其中,相似度与分数正相关;
根据所述错误提示信息中各提示语义段对应各错误类型的得分,确定各错误类型的总分,并根据各错误类型的总分,确定所述错误提示信息所属的错误类型;
根据预设的各错误类型对应的重测次数以及所述错误提示信息所属的错误类型,确定所属错误类型的重测次数,并根据确定出所属错误类型的重测次数,执行后续测试步骤,其中,不同错误类型对应的重试次数不完全相同。
2.如权利要求1所述的方法,其特征在于,进行相似度计算之前,所述方法还包括:
根据预设的各非特征分词,从各提示语义段中删除与非特征分词相匹配的分词。
3.如权利要求1所述的方法,其特征在于,根据预设的不同相似度阈值区间对应的分数,以及该提示语义段与各参照语义段的相似度,分别确定该提示语义段对应各错误类型的得分,具体包括:
针对每个参照语义段,根据预设的不同相似度阈值区间对应的分数,确定该提示语义段与该参照语义段的相似度落入的相似度阈值区间对应的分数,作为该提示语义段对应该参照语义段的得分;
针对每个错误类型,根据该提示语义段分别对应该错误类型包含的各参照语义段的得分,确定该提示语义段对应该错误类型的得分。
4.如权利要求3所述的方法,其特征在于,根据该提示语义段分别对应该错误类型包含的各参照语义段的得分,确定该提示语义段对应该错误类型的得分,具体包括:
根据预设的不同相似度阈值区间对应的权重,确定该提示语义段与该参照语义段的相似度落入的相似度阈值区间对应的权重,作为该提示语义段对应该参照语义段的权重,其中,相似度与权重正相关;
根据该提示语义段分别对应该错误类型包含的各参照语义段的得分以及权重,确定该提示语义段对应该错误类型的得分。
5.如权利要求1所述的方法,其特征在于,确定该提示语义段与各错误类型的参照语义段的相似度,具体包括:
根据该提示语义段以及预设的各错误类型包含的参照语义段,通过词向量相似度算法,分别确定该提示语义段与各错误类型包含的参照语义段之间的第一相似度,以及通过余弦相似度算法,分别确定该提示语义段与各错误类型包含的参照语义段之间的第二相似度。
6.如权利要求5所述的方法,其特征在于,根据预设的不同相似度阈值区间对应的分数,以及该提示语义段与各参照语义段的相似度,分别确定该提示语义段对应各错误类型的得分,具体包括:
针对每个参照语义段,根据该提示语义段与该参照语义段之间的第一相似度,以及预先划分的各第一相似度阈值区间,确定所述第一相似度落入的第一相似度阈值区间;
根据该提示语义段与该参照语义段之间的第二相似度,以及预先划分的各第二相似度阈值区间,确定所述第二相似度落入的第二相似度阈值区间;
根据预设的各阈值区间组合对应的分数,确定所述落入第一相似度阈值区间与所述落入第二相似度阈值区间的阈值区间组合所对应的分数,作为该提示语义段对应该参照语义段的得分;
针对每个错误类型,根据确定出的该提示语义段对应该错误类型包含的各参照语义段的得分,确定该提示语义段对应该错误类型的得分。
7.如权利要求6所述的方法,其特征在于,根据确定出的该提示语义段对应该错误类型包含的各参照语义段的得分,确定该提示语义段对应该错误类型的得分,具体包括:
根据预设的各阈值区间组合对应的权重,确定所述落入第一相似度阈值区间与所述落入第二相似度阈值区间的阈值区间组合所对应的权重,作为该提示语义段对应该参照语义段的权重;
根据确定出的该提示语义段对应该错误类型包含的各参照语义段的得分以及权重,确定该提示语义段对应该错误类型的得分。
8.如权利要求1所述的方法,其特征在于,所述方法还包括:
根据各提示语义段对应各错误类型的得分,确定得分最高的提示语义段及其对应的错误类型;
当确定出的得分最高的错误类型与确定出的所述错误提示信息所属的错误类型相同时,判断所述得分最高的提示语义段与所述所属的错误类型的各参照语义段的相似度中,是否至少一个相似度落入预设的指定阈值区间;
若是,则将该语义段添加到所述所属的错误类型包含的参照语义段中。
9.一种自动化测试装置,其特征在于,具体包括:
第一确定模块,确定目标应用测试失败时的错误提示信息,所述错误提示信息包含若干提示语义段;
相似度计算模块,针对所述错误提示信息中的每个提示语义段,对该提示语义段以及预设的各错误类型包含的参照语义段分别进行相似度计算,确定该提示语义段与各参照语义段的相似度,其中,每个错误类型包含至少一个参照语义段;
第二确定模块,根据预设的不同相似度阈值区间对应的分数,以及该提示语义段与各参照语义段的相似度,分别确定该提示语义段对应各错误类型的得分,其中,相似度与分数正相关;
第三确定模块,根据所述错误提示信息中各提示语义段对应各错误类型的得分,确定各错误类型的总分,并根据各错误类型的总分,确定所述错误提示信息所属的错误类型;
第四确定模块,根据预设的各错误类型对应的重测次数以及所述错误提示信息所属的错误类型,确定所属错误类型的重测次数,并根据确定出所属错误类型的重测次数,执行后续测试步骤,其中,不同错误类型对应的重试次数不完全相同。
10.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述权利要求1-8任一所述的方法。
11.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现上述权利要求1-8任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010802870.6A CN112035341A (zh) | 2020-08-11 | 2020-08-11 | 一种自动化测试方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010802870.6A CN112035341A (zh) | 2020-08-11 | 2020-08-11 | 一种自动化测试方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112035341A true CN112035341A (zh) | 2020-12-04 |
Family
ID=73578411
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010802870.6A Withdrawn CN112035341A (zh) | 2020-08-11 | 2020-08-11 | 一种自动化测试方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112035341A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113672496A (zh) * | 2021-07-09 | 2021-11-19 | 微梦创科网络科技(中国)有限公司 | 一种基于余弦相似度的测试方法及系统 |
JP2022172604A (ja) * | 2021-05-06 | 2022-11-17 | 楽天グループ株式会社 | アクセス方法、通信システム、及びプログラム |
CN116627807A (zh) * | 2023-05-12 | 2023-08-22 | 南京数睿数据科技有限公司 | 融合界面元素语义和结构信息的移动应用测试修复方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100218049A1 (en) * | 2009-02-24 | 2010-08-26 | International Business Machines Corporation | Method of Creating Signatures for Classifying Program Failures |
CN108920364A (zh) * | 2018-06-21 | 2018-11-30 | 深圳壹账通智能科技有限公司 | 软件缺陷定位方法、装置、终端及计算机可读存储介质 |
CN110795342A (zh) * | 2019-10-11 | 2020-02-14 | 杭州迪普信息技术有限公司 | 一种错误检测方法及装置 |
CN111045902A (zh) * | 2018-10-10 | 2020-04-21 | 中国移动通信集团浙江有限公司 | 服务器的压力测试方法及装置 |
CN111241851A (zh) * | 2020-04-24 | 2020-06-05 | 支付宝(杭州)信息技术有限公司 | 语义相似度确定方法、装置及处理设备 |
-
2020
- 2020-08-11 CN CN202010802870.6A patent/CN112035341A/zh not_active Withdrawn
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100218049A1 (en) * | 2009-02-24 | 2010-08-26 | International Business Machines Corporation | Method of Creating Signatures for Classifying Program Failures |
CN108920364A (zh) * | 2018-06-21 | 2018-11-30 | 深圳壹账通智能科技有限公司 | 软件缺陷定位方法、装置、终端及计算机可读存储介质 |
CN111045902A (zh) * | 2018-10-10 | 2020-04-21 | 中国移动通信集团浙江有限公司 | 服务器的压力测试方法及装置 |
CN110795342A (zh) * | 2019-10-11 | 2020-02-14 | 杭州迪普信息技术有限公司 | 一种错误检测方法及装置 |
CN111241851A (zh) * | 2020-04-24 | 2020-06-05 | 支付宝(杭州)信息技术有限公司 | 语义相似度确定方法、装置及处理设备 |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022172604A (ja) * | 2021-05-06 | 2022-11-17 | 楽天グループ株式会社 | アクセス方法、通信システム、及びプログラム |
JP7216767B2 (ja) | 2021-05-06 | 2023-02-01 | 楽天グループ株式会社 | アクセス方法、通信システム、及びプログラム |
US11977435B2 (en) | 2021-05-06 | 2024-05-07 | Rakuten Group, Inc. | Access method, communication system, and non-transitory computer readable memory |
CN113672496A (zh) * | 2021-07-09 | 2021-11-19 | 微梦创科网络科技(中国)有限公司 | 一种基于余弦相似度的测试方法及系统 |
CN113672496B (zh) * | 2021-07-09 | 2023-12-22 | 微梦创科网络科技(中国)有限公司 | 一种基于余弦相似度的测试方法及系统 |
CN116627807A (zh) * | 2023-05-12 | 2023-08-22 | 南京数睿数据科技有限公司 | 融合界面元素语义和结构信息的移动应用测试修复方法 |
CN116627807B (zh) * | 2023-05-12 | 2024-04-09 | 南京数睿数据科技有限公司 | 融合界面元素语义和结构信息的移动应用测试修复方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108845936B (zh) | 一种基于海量用户的ab测试方法及系统 | |
CN112035341A (zh) | 一种自动化测试方法及装置 | |
CN107808098B (zh) | 一种模型安全检测方法、装置以及电子设备 | |
CN109062782B (zh) | 一种回归测试用例的选择方法、装置及设备 | |
CN109033772B (zh) | 一种验证信息的输入方法及装置 | |
CN110457578A (zh) | 一种客服服务需求识别方法及装置 | |
CN110069736A (zh) | 页面加载方法及设备 | |
CN109828926B (zh) | 一种判断应用界面是否加载异常的方法和装置 | |
CN114840427A (zh) | 一种代码测试、测试用例生成的方法及装置 | |
CN106201859A (zh) | 一种回归测试方法及系统 | |
US9501390B1 (en) | Enhancing automated mobile application testing | |
CN114840426A (zh) | 一种代码测试的方法及装置 | |
CN112416725A (zh) | 一种压力测试方法及装置 | |
CN116402165A (zh) | 一种算子检测的方法、装置、存储介质以及电子设备 | |
CN115840704A (zh) | 一种仿真软件测试方法、装置、存储介质及电子设备 | |
CN112380127B (zh) | 测试用例回归方法、装置、设备和存储介质 | |
CN110018957B (zh) | 一种资损核对脚本检测方法及装置 | |
CN108762959B (zh) | 一种选取系统参数的方法、装置及设备 | |
CN109903165B (zh) | 一种模型合并方法和装置 | |
CN108712284B (zh) | 一种故障业务的定位方法、装置、及业务服务器 | |
CN113220382A (zh) | 一种应用语言包的异常检测方法及装置 | |
CN109324966B (zh) | 一种测试脚本的生成和执行方法及装置 | |
US20220188213A1 (en) | Selecting automation scripts using reinforced learning | |
CN113448818B (zh) | 一种基于概率的日志跟踪方法、设备及介质 | |
CN117573422A (zh) | 针对机器学习模型的比特翻转控制方法、系统以及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20201204 |
|
WW01 | Invention patent application withdrawn after publication |