CN111767224A - 自动化测试的方法、装置、设备及计算机存储介质 - Google Patents

自动化测试的方法、装置、设备及计算机存储介质 Download PDF

Info

Publication number
CN111767224A
CN111767224A CN202010606756.6A CN202010606756A CN111767224A CN 111767224 A CN111767224 A CN 111767224A CN 202010606756 A CN202010606756 A CN 202010606756A CN 111767224 A CN111767224 A CN 111767224A
Authority
CN
China
Prior art keywords
control
tested
icon
sample
interface picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010606756.6A
Other languages
English (en)
Inventor
李波波
余锦润
沈孟龙
杨丹君
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhejiang Supcon Technology Co Ltd
Original Assignee
Zhejiang Supcon Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang Supcon Technology Co Ltd filed Critical Zhejiang Supcon Technology Co Ltd
Priority to CN202010606756.6A priority Critical patent/CN111767224A/zh
Publication of CN111767224A publication Critical patent/CN111767224A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • G06F11/3668Software testing
    • G06F11/3672Test management
    • G06F11/3684Test management for test design, e.g. generating new test cases
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/36Preventing errors by testing or debugging software
    • G06F11/3668Software testing
    • G06F11/3672Test management
    • G06F11/3688Test management for test execution, e.g. scheduling of test suites

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本申请提供了一种自动化测试的方法、装置、设备及计算机存储介质,该方法包括:选取与待测试的控件的图标的匹配值最大的样本图标;获取待测试的控件对应的界面图片,以及样本图标对应的控件的界面图片;其中,待测试的控件对应的界面图片是待测试的控件所属的应用程序响应对待测试的控件的点击指令而显示的界面图片;计算得到待测试的控件对应的界面图片与样本图标对应的控件的界面图片的相似度;若待测试的控件对应的界面图片与样本图标对应的控件的界面图片的相似度小于所述第一阈值,确定待测试的控件的图标发生变化。从而达到在自动化测试的过程中快速确定图片的元素标识所对应的界面是否发生改变,从而提高自动化测试的扩展性的目的。

Description

自动化测试的方法、装置、设备及计算机存储介质
技术领域
本申请涉及计算机技术领域,特别涉及一种自动化测试的方法、装置、设备及计算机存储介质。
背景技术
目前,针对桌面端的自动化测试的主流方法,通常采用图片像素的识别方式对整个软件界面进行二进制比对。
在对整个软件界面进行二进制比对的过程,类似于大多数测试工具中的录制-回放功能。在一些录制-回放功能中,通常会含有对图片的元素标识进行识别。但是,由于很多非常规应用,或者开发修改过代码的定制应用,其图片的元素标识是无法识别的,从而难以判断该图片的元素标识所对应的界面是否发生改变,从而影响后续的自动化测试。
因此,亟需一种在自动化测试的过程中快速确定图片的元素标识所对应的界面是否发生改变的方法,以此来提高自动化测试的扩展性。
发明内容
有鉴于此,本申请提供一种自动化测试的方法、装置、设备及计算机存储介质,用于在UI自动化测试的过程中快速确定图片的元素标识所对应的界面是否发生改变,从而提高UI自动化测试的扩展性。
本申请第一方面提供了一种自动化测试的方法,包括:
选取与待测试的控件的图标的匹配值最大的样本图标;
获取所述待测试的控件对应的界面图片,以及所述样本图标对应的控件的界面图片;其中,所述待测试的控件对应的界面图片是所述待测试的控件所属的应用程序响应对所述待测试的控件的点击指令而显示的界面图片;
计算得到所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度;
若所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度小于所述第一阈值,则确定所述待测试的控件的图标发生变化。
可选的,所述选取与待测试的控件的图标的匹配值最大的样本图标,包括:
计算样本图标集中的每一个样本图标与所述待测试的控件的图标的匹配值;
从与所述待测试的控件的图标的匹配值大于第二阈值的样本图标中,选取与待测试的控件的图标的匹配值最大的样本图标。
可选的,所述计算样本图标集中的每一个样本图标与所述待测试的控件的图标的匹配值,包括:
针对所述样本图标集中的每一个所述样本图标,计算得到所述样本图标的像素平均值和所述待测试的控件的图标的像素的平均值;
计算得到所述样本图标的像素平均值和所述待测试的控件的图标的像素的平均值的数量积,将所述数量积作为所述样本图标与所述待测试的控件的图标的匹配值。
可选的,所述计算得到所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度,包括:
利用预设的相似度计算公式计算得到,所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度;
其中,所述相似度公式为:
Figure BDA0002559456260000021
上述公式中,x表示所述待测试的控件对应的界面图片;y表示所述样本图标对应的控件的界面图片;SSIM(x,y)表示所述待测试的控件对应的界面图片和所述样本图标对应的控件的界面图片的相似度;μx表示x的亮度的均值;μy表示y的亮度的均值;
Figure BDA0002559456260000022
表示x的对比度的方差;
Figure BDA0002559456260000023
表示y的对比度的方差;σxy表示x和y的结构的协方差;c1和c2为常数;L为图像灰度级数L=2d-1,d为bit数,k1,k2为预先设定的稳定参数。
可选的,所述确定所述待测试的控件的图标发生变化之后,还包括:
将所述样本图标替换成所述待测试的控件的图标。
本申请第二方面提供了一种自动化测试的装置,包括:
选取单元,用于选取与待测试的控件的图标的匹配值最大的样本图标;
获取单元,用于获取所述待测试的控件对应的界面图片,以及所述样本图标对应的控件的界面图片;其中,所述待测试的控件对应的界面图片是所述待测试的控件所属的应用程序响应对所述待测试的控件的点击指令而显示的界面图片;
第一计算单元,用于计算得到所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度;
确定单元,用于若所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度小于所述第一阈值,则确定所述待测试的控件的图标发生变化。
可选的,所述选取单元,包括:
第二计算单元,用于计算样本图标集中的每一个样本图标与所述待测试的控件的图标的匹配值;
选取子单元,用于从与所述待测试的控件的图标的匹配值大于第二阈值的样本图标中,选取与待测试的控件的图标的匹配值最大的样本图标。
可选的,所述第二计算单元,包括:
平均值计算单元,用于针对所述样本图标集中的每一个所述样本图标,计算得到所述样本图标的像素平均值和所述待测试的控件的图标的像素的平均值;
数量积计算单元,用于计算得到所述样本图标的像素平均值和所述待测试的控件的图标的像素的平均值的数量积,将所述数量积作为所述样本图标与所述待测试的控件的图标的匹配值。
可选的,所述第一计算单元,包括:
第一计算子单元,用于利用预设的相似度计算公式计算得到,所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度;
其中,所述相似度公式为:
Figure BDA0002559456260000031
上述公式中,x表示所述待测试的控件对应的界面图片;y表示所述样本图标对应的控件的界面图片;SSIM(x,y)表示所述待测试的控件对应的界面图片和所述样本图标对应的控件的界面图片的相似度;μx表示x的亮度的均值;μy表示y的亮度的均值;
Figure BDA0002559456260000041
表示x的对比度的方差;
Figure BDA0002559456260000042
表示y的对比度的方差;σxy表示x和y的结构的协方差;c1和c2为常数;L为图像灰度级数L=2d-1,d为bit数,k1,k2为预先设定的稳定参数。
可选的,所述自动化测试的装置,还包括:
替换单元,用于将所述样本图标替换成所述待测试的控件的图标。
本申请第三方面提供了一种设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如第一方面任意一项所述的方法。
本申请第四方面提供了一种计算机存储介质,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现如第一方面任意一项所述的方法。
由以上方案可知,本申请提供的一种自动化测试的方法、装置、设备及计算机存储介质中,首先,通过选取与待测试的控件的图标的匹配值最大的样本图标;然后,获取所述待测试的控件对应的界面图片,以及所述样本图标对应的控件的界面图片;其中,所述待测试的控件对应的界面图片是所述待测试的控件所属的应用程序响应对所述待测试的控件的点击指令而显示的界面图片;之后,计算得到所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度;最终,若所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度小于所述第一阈值,则确定所述待测试的控件的图标发生变化。从而达到在自动化测试的过程中快速确定图片的元素标识所对应的界面是否发生改变,从而提高自动化测试的扩展性的目的。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本申请实施例提供的一种自动化测试的方法的具体流程图;
图2为本申请另一实施例提供的一种自动化测试的方法的具体流程图;
图3为本申请另一实施例提供的一种自动化测试的方法的具体流程图;
图4为本申请另一实施例提供的一种结构相似度的算法流程的示意图;
图5为本申请另一实施例提供的一种不同工具的元素识别数对比的示意图;
图6为本申请另一实施例提供的一种自动化测试的装置的示意图;
图7为本申请另一实施例提供的一种选取单元的示意图;
图8为本申请另一实施例提供的一种第二计算单元的示意图;
图9为本申请另一实施例提供的一种用于执行自动化测试的方法的设备的示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
需要注意,本申请中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系,而术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本申请实施例提供了一种自动化测试的方法,如图1所示,具体包括以下步骤:
S101、选取与待测试的控件的图标的匹配值最大的样本图标。
其中,待测试的控件为待测试软件多个控件中的一个,对待测试软件中的控件的次数顺序,是可以自定义的,此处不限定。
需要说明的是,在计算待测试的控件的图标与样本图标的匹配值时,如若出现待测试软件的界面被遮挡,从而导致识别不出相应的图标,那么可以采用区域遍历的方式,找到被遮挡的区域,在确认出存在遮挡后,可以将待测试软件进行前置,从而可以识别到遮挡部分的图标,若被遮挡部分十分严重,那么也可以采用将待测试软件强制重启,从而识别到完整的图标;如若出现待测试软件崩溃的情况,那么弹出代表错误的指示框,在识别出指示框的界面后,标记待测试的控件为未通过测试,并强制重启待测试软件,进行下一个待测试的控件的测试。
具体的,可以采用Opencv对待测试的控件的图标和样本图标的的匹配值进行计算,并选取选取与待测试的控件的图标的匹配值最大的样本图标。其中,Opencv是目前最流行的计算机视觉开源库,在人工智能领域应用完善。需要说明的是,在实际的应用过程中,Opencv的匹配算法,如表1所示,包括平方差匹配、相关匹配和相关系数匹配。平方差匹配的成功率最低,其次为相关匹配,其相关系数的成功率最高。但是,成功率越高,则计算的复杂程度也就越高,即匹配耗时越长。因此,在实际的应用过程中,通过归一化降低计算的复杂程度,降低计算的时间。因此,在采用Opencv对待测试的控件的图标和样本图标的的匹配值进行计算时,最好采用归一化的相关系数匹配。
Figure BDA0002559456260000071
表1
可选的,在本申请的另一实施例中,步骤S101的一种实施方式,如图2所示,包括:
S201、计算样本图标集中的每一个样本图标与待测试的控件的图标的匹配值。
具体的,采用预设的计算方法,逐一计算样本图标集中的每一个样本图标与待测试的控件的图标的匹配值,例如,采用上述实施例中的归一化的相关系数匹配算法,逐一计算样本图标集中的每一个样本图标与待测试的控件的图标的匹配值。
可选的,在本申请的另一实施例中,步骤S201的一种实施方式,如图3所示,包括:
S301、针对样本图标集中的每一个样本图标,计算得到样本图标的像素平均值和待测试的控件的图标的像素的平均值。
具体的,分别计算得到样本图标集中的每一个样本图标的像素平均值,以及待测试的控件的图标的像素的平均值。
S302、计算得到样本图标的像素平均值和待测试的控件的图标的像素的平均值的数量积,将数量积作为样本图标与待测试的控件的图标的匹配值。
需要说明的是,计算得到的样本图标的像素平均值和待测试的控件的图标的像素的平均值的数量积的范围为[-1,1],并且,正值越大,则匹配度越高,如果,计算得到的样本图标的像素平均值和待测试的控件的图标的像素的平均值的数量积为0。那么,就表示样本图标与待测试的控件的图标无法进行匹配。
具体的,分别计算得到样本图标集中的每一个样本图标的像素平均值和待测试的控件的图标的像素的平均值的数量积,将数量积作为样本图标与待测试的控件的图标的匹配值。
S202、从与待测试的控件的图标的匹配值大于第二阈值的样本图标中,选取与待测试的控件的图标的匹配值最大的样本图标。
需要说明的是,第二阈值可以是根据待测试的控件的类型而对应设置的,例如:待测试的控件为按钮,那么可以设置第二阈值为1;待测试的控件为复选框,那么可以设置第二阈值为6等。此处不做限定。
还需要说明的是,若待测试的控件的图标与样本图标集中的每一个样本图标的匹配值,均不大于第二阈值,那么,就说明无法识别出待测试的控件的图标。
具体的,可以将待测试的控件的图标和样本图标的匹配值大于第二阈值的样本图标,按大小进行排序,进而选取与待测试的空间的图标匹配值最大的样本图标。
S102、获取待测试的控件对应的界面图片,以及样本图标对应的控件的界面图片。
其中,待测试的控件对应的界面图片是待测试的控件所属的应用程序响应对待测试的控件的点击指令而显示的界面图片。
具体的,模拟人工操作,对待测试控件进行点击操作,从而获取得到待测试控件所属的应用程序或软件响应对待测试的控件的点击指令而显示的界面图片,即待测试的控件对应的界面图片,样本图标对应的控件的界面图片可以是直接从数据库中进行获取,也可以同样进行模拟人工操作,进而得到的样本图标对应的控件的界面图片。
S103、计算得到待测试的控件对应的界面图片与样本图标对应的控件的界面图片的相似度。
具体的,计算得到待测试的控件对应的界面图片与样本图标对应的控件的界面图片相似度的方式十分多样化,例如:均方差(Mean Squared Error,MSE)对比、峰值信噪比(Peak Signal to Noise Ratio,PSNR)对比等。
可选的,在本申请的另一实施例中,步骤S103的一种实施方式,具体包括:
利用预设的相似度计算公式计算得到,待测试的控件对应的界面图片与样本图标对应的控件的界面图片的相似度。
其中,相似度公式为:
Figure BDA0002559456260000091
上述公式中,x表示待测试的控件对应的界面图片;y表示样本图标对应的控件的界面图片;SSIM(x,y)表示待测试的控件对应的界面图片和样本图标对应的控件的界面图片的相似度;μx表示x的亮度的均值;μy表示y的亮度的均值;
Figure BDA0002559456260000092
表示x的对比度的方差;
Figure BDA0002559456260000093
表示y的对比度的方差;σxy表示x和y的结构的协方差;c1和c2为常数;常数c1=(k1L)2,c2=(k2L)2是为了避免分母接近0时引起系统不稳定;L为图像灰度级数L=2d-1,d为bit数,k1,k2为预先设定的稳定参数,可以是但不限于,k1=0.01,k2=0.03,是可以根据实际情况,进行调整的,此处不做限定。
需要说明的是,上述相似度计算公式,是通过结构相似性对比算法中的三个模块的函数进行整合之后得到的表达式。其中,结构相似性对比算法中的三个模块分别为结构、对比度和亮度。具体的,结构相似性的算法流程可以参见图4。
可以看出,区别于现有技术中,基于图片像素识别方式主要通过对整个软件界面进行二进制比对的方式,本申请不再需要对待测试控件对应的界面图片和样本图标对应的控件的界面图片的坐标点进行计算,从而避免了在不同分辨率、不同浏览器的渲染方式下,坐标点引起的偏移和失真。
S104、若待测试的控件对应的界面图片与样本图标对应的控件的界面图片的相似度小于第一阈值,则确定待测试的控件的图标发生变化。
需要说明的是,第一阈值可以是根据待测试的控件的类型而对应设置的,例如:待测试的控件为按钮,那么可以设置第一阈值为2;待测试的控件为复选框,那么可以设置第一阈值为5等。此处不做限定。
以electron为例,electron的应用界面一共拥有126个可点击的键盘编辑元素,即控件。UI自动化测试的前提是能在不同分辨率下识别这126个键盘编辑元素。
参见图5,为将本申请的方案和主流的UI自动化工具进行对比实验,并增加了不同分辨率以及匹配度优化的实验数据。Ranorex和UFT由于无法识别到元素id,而自带的位图识别功能效果不佳,导致识别率很低。其中,UFT是惠普公司开发的自动化测试工具,Ranorex为较为通用的自动化测试工具;Spectron由于是electron官方提供的框架,能准确识别元素id,因此均能完整识别。但是由于Spectron专门针对Electron,无法作为常规的测试工具,扩展性弱,而且使用JS语言,对于以python为基础语言的测试人员而言,学习成本也比较高。而本文sikulix方案,由于基于图片识别匹配,在匹配度没有进行调整的状态下,会出现少量的错误,在匹配度优化后,能完全识别,进而可以满足UI自动化的功能测试要求。并且扩展性,代码易读性方面均优于Spectron。
在本申请的实施过程中,可以采用JVM虚拟机,Sikulix组件库,python代码环境,RobotFramework,底层驱动Opencv对本申请进行实现。其中,Sikulix是麻省理工学院的一个开源项目,是一种全新的UI自动化测试模式,俗称“上帝之眼”,完全模拟人的操作模式,可以利用opencv提供的图像识别算法进行可视化检索和操作,拥有独立的IDE。本申请使用Sikulix的库函数来支持python代码的自定义封装。但是,为了实现更复杂的测试需求,本申请不使用Sikulix组件库自带的IDE,而是应用Jython集成python环境编写驱动模块;底层驱动Opencv用于图像对比和图片匹配;RobotFramework用于管理整个测试工程以及测试用例的编写。
可选的,在本申请的另一实施例中,步骤S104之后的一种实施方式,包括:
将样本图标替换成待测试的控件的图标。
具体的,在确定待测试的控件的图标发生变化后,测试人员可以根据发生变化的待测试的空间的图标的截图,从而决定是否要将样本图标替换成待测试的控件的图标。决定是否要将样本图标替换成待测试的控件的图标的方式可以为但不限于,判断待测试的控件所属的软件的核心框架是否发生变换,如果核心框架发生变化,那么就需要项目流程来对待测试的控件所属的软件进行查看;如果核心框架并未发生变化,那么就可以由测试员自己进行操作将样本图标替换成待测试的控件图标。
由以上方案可知,本申请提供的一种自动化测试的方法中,首先,通过选取与待测试的控件的图标的匹配值最大的样本图标;然后,获取待测试的控件对应的界面图片,以及样本图标对应的控件的界面图片;其中,待测试的控件对应的界面图片是待测试的控件所属的应用程序响应对待测试的控件的点击指令而显示的界面图片;之后,计算得到待测试的控件对应的界面图片与样本图标对应的控件的界面图片的相似度;最终,若待测试的控件对应的界面图片与样本图标对应的控件的界面图片的相似度小于所述第一阈值,则确定待测试的控件的图标发生变化。从而达到在自动化测试的过程中快速确定图片的元素标识所对应的界面是否发生改变,从而提高自动化测试的扩展性的目的。
本申请的另一实施例提供了一种自动化测试的装置,如图6所示,具体包括:
选取单元601,用于选取与待测试的控件的图标的匹配值最大的样本图标。
可选的,在本申请的另一实施例中,选取单元601的一种实施方式,如图7所示,包括:
第二计算单元701,用于计算样本图标集中的每一个样本图标与待测试的控件的图标的匹配值。
可选的,在本申请的另一实施例中,第二计算单元701的一种实施方式,如图8所示,包括:
平均值计算单元801,用于针对样本图标集中的每一个样本图标,计算得到样本图标的像素平均值和待测试的控件的图标的像素的平均值。
数量积计算单元802,用于计算得到样本图标的像素平均值和待测试的控件的图标的像素的平均值的数量积,将数量积作为所述样本图标与待测试的控件的图标的匹配值。
本申请上述实施例公开的单元的具体工作过程,可参见对应的方法实施例内容,如图3所示,此处不再赘述。
选取子单元702,用于从与待测试的控件的图标的匹配值大于第二阈值的样本图标中,选取与待测试的控件的图标的匹配值最大的样本图标。
本申请上述实施例公开的单元的具体工作过程,可参见对应的方法实施例内容,如图2所示,此处不再赘述。
获取单元602,用于获取待测试的控件对应的界面图片,以及样本图标对应的控件的界面图片。
其中,待测试的控件对应的界面图片是所述待测试的控件所属的应用程序响应对所述待测试的控件的点击指令而显示的界面图片。
第一计算单元603,用于计算得到待测试的控件对应的界面图片与样本图标对应的控件的界面图片的相似度。
可选的,在本申请的另一实施例中,第一计算单元603的一种实施方式,包括:
第一计算子单元,用于利用预设的相似度计算公式计算得到,待测试的控件对应的界面图片与样本图标对应的控件的界面图片的相似度。
其中,相似度公式为:
Figure BDA0002559456260000121
上述公式中,x表示待测试的控件对应的界面图片;y表示样本图标对应的控件的界面图片;SSIM(x,y)表示待测试的控件对应的界面图片和样本图标对应的控件的界面图片的相似度;μx表示x的亮度的均值;μy表示y的亮度的均值;
Figure BDA0002559456260000122
表示x的对比度的方差;
Figure BDA0002559456260000123
表示y的对比度的方差;σxy表示x和y的结构的协方差;c1和c2为常数;L为图像灰度级数L=2d-1,d为bit数,k1,k2为预先设定的稳定参数。
本申请上述实施例公开的单元的具体工作过程,可参见对应的方法实施例内容,此处不再赘述。
确定单元604,用于若待测试的控件对应的界面图片与样本图标对应的控件的界面图片的相似度小于所述第一阈值,则确定待测试的控件的图标发生变化。
本申请上述实施例公开的单元的具体工作过程,可参见对应的方法实施例内容,如图1所示,此处不再赘述。
可选的,在本申请的另一实施例中,自动化测试的装置的一种实施方式,还包括:
替换单元,用于将样本图标替换成待测试的控件的图标。
本申请上述实施例公开的单元的具体工作过程,可参见对应的方法实施例内容,此处不再赘述。
由以上方案可知,本申请提供的一种自动化测试的装置中,首先,通过选取单元601选取与待测试的控件的图标的匹配值最大的样本图标;然后,获取单元602获取待测试的控件对应的界面图片,以及样本图标对应的控件的界面图片;其中,待测试的控件对应的界面图片是待测试的控件所属的应用程序响应对待测试的控件的点击指令而显示的界面图片;之后,第一计算单元603计算得到待测试的控件对应的界面图片与样本图标对应的控件的界面图片的相似度;最终,若待测试的控件对应的界面图片与样本图标对应的控件的界面图片的相似度小于所述第一阈值,确定单元604确定待测试的控件的图标发生变化。从而达到在自动化测试的过程中快速确定图片的元素标识所对应的界面是否发生改变,从而提高自动化测试的扩展性的目的。
本申请另一实施例提供了一种设备,如图9所示,包括:
一个或多个处理器901。
存储装置902,其上存储有一个或多个程序。
当所述一个或多个程序被所述一个或多个处理器901执行时,使得所述一个或多个处理器901实现如上述实施例中任意一项所述的方法。
本申请另一实施例提供了一种计算机存储介质,其上存储有计算机程序,其中,计算机程序被处理器执行时实现如上述实施例中任意一项所述的方法。
在本申请公开的上述实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置和方法实施例仅仅是示意性的,例如,附图中的流程图和框图显示了根据本公开的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
另外,在本公开各个实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本公开的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,直播设备,或者网络设备等)执行本公开各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (10)

1.一种自动化测试的方法,其特征在于,包括:
选取与待测试的控件的图标的匹配值最大的样本图标;
获取所述待测试的控件对应的界面图片,以及所述样本图标对应的控件的界面图片;其中,所述待测试的控件对应的界面图片是所述待测试的控件所属的应用程序响应对所述待测试的控件的点击指令而显示的界面图片;
计算得到所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度;
若所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度小于所述第一阈值,则确定所述待测试的控件的图标发生变化。
2.根据权利要求1所述的方法,其特征在于,所述选取与待测试的控件的图标的匹配值最大的样本图标,包括:
计算样本图标集中的每一个样本图标与所述待测试的控件的图标的匹配值;
从与所述待测试的控件的图标的匹配值大于第二阈值的样本图标中,选取与待测试的控件的图标的匹配值最大的样本图标。
3.根据权利要求2所述的方法,其特征在于,所述计算样本图标集中的每一个样本图标与所述待测试的控件的图标的匹配值,包括:
针对所述样本图标集中的每一个所述样本图标,计算得到所述样本图标的像素平均值和所述待测试的控件的图标的像素的平均值;
计算得到所述样本图标的像素平均值和所述待测试的控件的图标的像素的平均值的数量积,将所述数量积作为所述样本图标与所述待测试的控件的图标的匹配值。
4.根据权利要求1所述的方法,其特征在于,所述计算得到所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度,包括:
利用预设的相似度计算公式计算得到,所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度;
其中,所述相似度公式为:
Figure FDA0002559456250000011
上述公式中,x表示所述待测试的控件对应的界面图片;y表示所述样本图标对应的控件的界面图片;SSIM(x,y)表示所述待测试的控件对应的界面图片和所述样本图标对应的控件的界面图片的相似度;μx表示x的亮度的均值;μy表示y的亮度的均值;
Figure FDA0002559456250000021
表示x的对比度的方差;
Figure FDA0002559456250000022
表示y的对比度的方差;σxy表示x和y的结构的协方差;c1和c2为常数;L为图像灰度级数L=2d-1,d为bit数,k1,k2为预先设定的稳定参数。
5.根据权利要求1所述的方法,其特征在于,所述确定所述待测试的控件的图标发生变化之后,还包括:
将所述样本图标替换成所述待测试的控件的图标。
6.一种自动化测试的装置,其特征在于,包括:
选取单元,用于选取与待测试的控件的图标的匹配值最大的样本图标;
获取单元,用于获取所述待测试的控件对应的界面图片,以及所述样本图标对应的控件的界面图片;其中,所述待测试的控件对应的界面图片是所述待测试的控件所属的应用程序响应对所述待测试的控件的点击指令而显示的界面图片;
第一计算单元,用于计算得到所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度;
确定单元,用于若所述待测试的控件对应的界面图片与所述样本图标对应的控件的界面图片的相似度小于所述第一阈值,则确定所述待测试的控件的图标发生变化。
7.根据权利要求6所述的装置,其特征在于,所述选取单元,包括:
第二计算单元,用于计算样本图标集中的每一个样本图标与所述待测试的控件的图标的匹配值;
选取子单元,用于从与所述待测试的控件的图标的匹配值大于第二阈值的样本图标中,选取与待测试的控件的图标的匹配值最大的样本图标。
8.根据权利要求7所述的装置,其特征在于,所述第二计算单元,包括:
平均值计算单元,用于针对所述样本图标集中的每一个所述样本图标,计算得到所述样本图标的像素平均值和所述待测试的控件的图标的像素的平均值;
数量积计算单元,用于计算得到所述样本图标的像素平均值和所述待测试的控件的图标的像素的平均值的数量积,将所述数量积作为所述样本图标与所述待测试的控件的图标的匹配值。
9.一种设备,其特征在于,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如权利要求1至5中任一所述的方法。
10.一种计算机存储介质,其特征在于,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现如权利要求1至5中任一所述的方法。
CN202010606756.6A 2020-06-29 2020-06-29 自动化测试的方法、装置、设备及计算机存储介质 Pending CN111767224A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010606756.6A CN111767224A (zh) 2020-06-29 2020-06-29 自动化测试的方法、装置、设备及计算机存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010606756.6A CN111767224A (zh) 2020-06-29 2020-06-29 自动化测试的方法、装置、设备及计算机存储介质

Publications (1)

Publication Number Publication Date
CN111767224A true CN111767224A (zh) 2020-10-13

Family

ID=72724377

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010606756.6A Pending CN111767224A (zh) 2020-06-29 2020-06-29 自动化测试的方法、装置、设备及计算机存储介质

Country Status (1)

Country Link
CN (1) CN111767224A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113553261A (zh) * 2021-07-22 2021-10-26 上汽通用五菱汽车股份有限公司 软件自动化测试方法、设备及计算机可读存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10222674A (ja) * 1997-01-30 1998-08-21 Seiyu Kagi Kofun Yugenkoshi 印章を自動的に照合する方法と印章自動照合装置
CN104252410A (zh) * 2013-06-27 2014-12-31 阿里巴巴集团控股有限公司 一种对页面中的控件进行测试的方法和设备
CN111078556A (zh) * 2019-12-17 2020-04-28 腾讯科技(深圳)有限公司 应用测试方法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10222674A (ja) * 1997-01-30 1998-08-21 Seiyu Kagi Kofun Yugenkoshi 印章を自動的に照合する方法と印章自動照合装置
CN104252410A (zh) * 2013-06-27 2014-12-31 阿里巴巴集团控股有限公司 一种对页面中的控件进行测试的方法和设备
CN111078556A (zh) * 2019-12-17 2020-04-28 腾讯科技(深圳)有限公司 应用测试方法及装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
小白学视觉: "【从零学习OpenCV 4】图像模板匹配", pages 1 - 9, Retrieved from the Internet <URL:https://mp.weixin.qq.com/s?> *
星海之眸: "图像相似度评价指标", pages 1 - 8, Retrieved from the Internet <URL:https://www.jianshu.com/p/43d548ad6b5d?> *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113553261A (zh) * 2021-07-22 2021-10-26 上汽通用五菱汽车股份有限公司 软件自动化测试方法、设备及计算机可读存储介质
CN113553261B (zh) * 2021-07-22 2023-09-15 上汽通用五菱汽车股份有限公司 软件自动化测试方法、设备及计算机可读存储介质

Similar Documents

Publication Publication Date Title
CN109741332B (zh) 一种人机协同的图像分割与标注方法
US11551134B2 (en) Information processing apparatus, information processing method, and storage medium
CN110610197B (zh) 一种困难样本挖掘和模型训练方法、装置和电子设备
US20010014173A1 (en) Color Region Based Recognition of Unidentified Objects
CN104391797A (zh) Gui控件的识别方法和装置
US10169853B2 (en) Score weights for user interface (UI) elements
CN112559341A (zh) 一种画面测试方法、装置、设备及存储介质
CN111144493A (zh) 一种自动识别算法指标测试的方法、存储介质及电子终端
US20100318971A1 (en) Systems And Methods For Identifying Graphic User-Interface Components
CN110990617B (zh) 一种图片标记方法、装置、设备及存储介质
CN112633341A (zh) 一种界面测试方法、装置、计算机设备和存储介质
CN112381092A (zh) 跟踪方法、装置及计算机可读存储介质
CN111767224A (zh) 自动化测试的方法、装置、设备及计算机存储介质
CN113516697B (zh) 图像配准的方法、装置、电子设备及计算机可读存储介质
CN106910207B (zh) 用于识别图像局部区域的方法、装置及终端设备
CN111274152B (zh) 应用程序测试方法、装置、设备及存储介质
JP2021089711A (ja) 動画ブレの検出方法及び装置
CN111401465A (zh) 训练样本优化方法、装置、设备及存储介质
CN107767434B (zh) 虚拟现实技术中纹理贴图配置信息的获取方法、存储介质
CN111258875A (zh) 界面测试方法及系统、电子设备、存储介质
CN112817863B (zh) 一种基于ai深度学习的ai辅助自动化测试方法及系统
CN112559362B (zh) 动态用户界面的自动化测试方法及测试装置
CN112559340A (zh) 一种画面测试方法、装置、设备及存储介质
Simko et al. Screen recording segmentation to scenes for eye-tracking analysis
WO2021106028A1 (ja) 機械学習装置、機械学習方法、及び、機械学習プログラムが格納された記録媒体

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination