CN114371985A - 自动化测试方法、电子设备及存储介质 - Google Patents

Abstract

本申请实施例公开一种自动化测试方法，所述方法包括以下步骤：获取第一用户界面上目标控件的图像信息，将所述图像信息记录为所述目标控件的参数信息，记录所述目标控件的操作事件，以及根据所述参数信息及所述操作事件生成脚本文件。本申请还提供一种电子设备及存储介质，采用本申请的实施例，在无法得到控件参数信息时，通过将目标控件的图像信息作为目标控件的参数信息，以通过该图像信息获取目标控件，以解决在无法得到控件参数信息时无法进行自动化测试的问题。

Description

自动化测试方法、电子设备及存储介质

技术领域

本申请实施例涉及计算机技术领域，尤其涉及一种自动化测试方法、电子设备及存储介质。

背景技术

随着软件技术的飞速发展和软件规模的不断扩大，基于用户界面的软件越来越多。用户界面是设备和用户进行交互的主要途径，界面美观、操作方便、功能完善以及运行稳定是设备取得用户信任的重要前提。因此对设备的用户界面进行测试显得尤其重要。

用户界面的测试主要包括手工测试和自动化测试两种方式，由于手工测试效率较低，越来越多的厂商集中发展用户界面的自动化测试。而为了进行自动化测试，通常需生成纯文本形式的命令代码，即需生成自动化测试脚本，以根据该自动化测试脚本进行自动化测试。在用户界面进行自动化测试中，很多软件体系都采用录制回放技术。这种技术要求测试者通过鼠标和键盘或其它输入装置对控件进行操作，例如测试者通过鼠标点击控件，脚本记录事件，然后以自动化测试的方式进行回放。

以多屏协同场景为例，当手机屏幕投影到电脑屏幕上以后，电脑屏幕上显示的界面是手机界面，但它是纯粹的图片，并不包含控件的参数信息，因此用户无法获取控件的参数信息，进而无法对控件进行模拟操作，导致无法准确的实现自动化测试。

在实现过程中，申请人发现相关技术至少存在如下问题：在进行自动化测试中,无法得到控件的参数信息，进而无法对控件进行点击、长按、拖拽等操作，导致有些用户场景无法准确实现自动化测试。

发明内容

本申请实施例提供一种自动化测试方法、电子设备及存储介质，可以无法得到控件参数信息时无法进行自动化测试的问题。

第一方面，本申请的实施例提供一种自动化测试方法，包括：

获取第一用户界面上目标控件的图像信息；

将所述图像信息记录为所述目标控件的参数信息；

记录所述目标控件的操作事件；以及，

根据所述参数信息及所述操作事件生成脚本文件。

在本申请实施例中，在无法得到控件参数信息时，通过将目标控件的图像信息作为目标控件的参数信息，以通过该图像信息获取目标控件，以解决在无法得到控件参数信息时无法进行自动化测试的问题。

在一种可能的设计中，所述自动化测试方法还包括：

当回放所述脚本文件时，获取所述目标控件的图像信息；

根据所述目标控件的图像信息，确定该目标控件的图像在当前第二用户界面上显示位置区域；以及，

根据目标控件的操作事件对所述显示位置区域进行相应操作。

在本申请实施例中，通过目标控件的图像信息标识目标控件，确定该目标控件的图像在当前第二用户界面上显示位置区域，进而对该显示位置区域进行操作，解决在无法得到控件参数信息时无法进行自动化测试的问题。

在一种可能的设计中，所述自动化测试方法还包括：

记录所述第一用户界面截图的分辨率；

将所述分辨率保存至所述脚本文件。

在一种可能的设计中，所述根据所述目标控件的图像信息，确定该目标控件的图像在当前第二用户界面上显示位置区域包括：

获取当前第二用户界面截图与该截图的分辨率；

当第一用户界面截图分辨率与当前第二用户界面截图分辨率不一致时，根据第一用户界面截图分辨率对当前第二用户界面截图进行处理，以使得第一用户界面截图分辨率与当前第二用户界面截图分辨率一致；

当第一用户界面截图分辨率与当前第二用户界面截图分辨率一致时，识别当前第二用户界面截图中与该图像信息相同的图像；

当识别出相同图像时，确定该相同图像在当前第二用户界面的显示位置区域，以得到该目标控件的图像在当前第二用户界面上显示位置区域。

在一种可能的设计中，所述根据目标控件的操作事件对所述显示位置区域进行相应操作包括：

根据所述显示位置区域计算出该区域中心坐标值；

将该区域中心坐标值记录为目标控件的坐标值；

根据目标控件的操作事件对目标控件的坐标值进行相应操作。

在一种可能的设计中，所述自动化测试方法还包括：

监控到对第一用户界面进行操作的操作事件时，确定所述操作事件对应的目标控件；

确定是否得到目标控件的参数信息；

当得到目标控件的参数信息时，将所述参数信息输出；

当未得到目标控件的参数信息时，进入图像获取模式，以获取第一用户界面上目标控件的图像信息。

在一种可能的设计中，所述自动化测试方法还包括：

监控到对第一用户界面进行操作的操作事件时，输出提示框，其中，所述提示框用于展示该目标控件可选择的操作类型。

在一种可能的设计中，所述根据第一用户界面截图分辨率对当前第二用户界面截图进行处理，以使得第一用户界面截图分辨率与当前第二用户界面截图分辨率一致包括：

根据第一用户界面截图分辨率对所述第二用户界面截图进行图像处理，以使得第一用户界面截图分辨率与当前第二用户界面截图分辨率一致。

第二方面本申请的实施例还提供一种电子设备，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述存储器存储的所述计算机程序，当所述计算机程序被执行时，所述处理器用于执行如上述所述的方法。因此，在无法得到控件参数信息时，通过将目标控件的图像信息作为目标控件的参数信息，以通过该图像信息获取目标控件，以解决在无法得到控件参数信息时无法进行自动化测试的问题。

第三方面，本申请的实施例还提供一种计算机可读存储介质，所述计算机可读存储介质包括计算机指令，当所述计算机指令在电子设备上运行时，使得所述电子设备执行如上述所述的方法。因此，在无法得到控件参数信息时，通过将目标控件的图像信息作为目标控件的参数信息，以通过该图像信息获取目标控件，以解决在无法得到控件参数信息时无法进行自动化测试的问题。

本申请实施例中，获取第一用户界面上目标控件的图像信息，将所述图像信息记录为所述目标控件的参数信息，记录所述目标控件的操作事件，以及根据所述参数信息及所述操作事件生成脚本文件。在无法得到控件参数信息时，通过将目标控件的图像信息作为目标控件的参数信息，以通过该图像信息获取目标控件，以解决在无法得到控件参数信息时无法进行自动化测试的问题。

附图说明

图1为本申请实施例中电子设备结构示意图。

图2为本申请实施例中电子设备的软件结构框图。

图3为本申请实施例提供用户界面关系示意图。

图4为本申请实施例提供的一种自动化测试方法流程示意图。

图5为本申请实施例提供的另一种自动化测试方法流程示意图。

图6为本申请实施例提供的一种录制过程中用户界面示意图。

图7为本申请实施例提供的另一种录制过程中用户界面示意图。

图8为本申请实施例提供的另一种录制过程中用户界面示意图。

图9为本申请实施例提供的另一种录制过程中用户界面示意图。

图10为本申请实施例提供的另一种录制过程中用户界面示意图。

图11为本申请实施例提供的另一种录制过程中用户界面示意图。

图12为本申请实施例提供的另一种录制过程中用户界面示意图。

图13为本申请实施例提供的另一种录制过程中用户界面示意图。

图14为本申请实施例提供的另一种自动化测试方法流程示意图。

图15为本申请实施例提供的另一种自动化测试方法流程示意图。

图16为本申请实施例提供的一种回放过程中用户界面示意图。

图17为本申请实施例提供的另一种自动化测试方法流程示意图。

图18为本申请实施例提供的一种自动化测试装置示意图。

具体实施方式

为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。

本申请中所涉及的多个，是指两个或两个以上。另外，需要理解的是，在本申请的描述中，“第一”、“第二”等词汇，仅用于区分描述的目的，而不能理解为指示或暗示相对重要性，也不能理解为指示或暗示顺序。

请参阅图1，图1为本申请实施例中电子设备100的结构示意图。

电子设备100可以是手机、平板电脑、桌面型计算机、膝上型计算机、手持计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer，UMPC)、上网本，以及蜂窝电话、个人数字助理(personal digital assistant，PDA)、增强现实(augmentedreality，AR)设备、虚拟现实(virtual reality，VR)设备、人工智能(artificialintelligence,AI)设备、可穿戴式设备、车载设备、智能家居设备和/或智慧城市设备，本申请实施例对该电子设备的具体类型不作特殊限制。

电子设备100可以包括处理器110，外部存储器接口120，内部存储器121，通用串行总线(universal serial bus，USB)接口130，充电管理模块140，电源管理模块141，电池142，天线1，天线2，移动通信模块150，无线通信模块160，音频模块170，扬声器170A，受话器170B，麦克风170C，耳机接口170D，传感器模块180，按键190，马达191，指示器192，摄像头193，显示屏194，以及用户标识模块(subscriber identification module，SIM)卡接口195等。其中传感器模块180可以包括压力传感器180A，陀螺仪传感器180B，气压传感器180C，磁传感器180D，加速度传感器180E，距离传感器180F，接近光传感器180G，指纹传感器180H，温度传感器180J，触摸传感器180K，环境光传感器180L，骨传导传感器180M等。

可以理解的是，本申请实施例示意的结构并不构成对电子设备100的具体限定。在本申请另一些实施例中，电子设备100可以包括比图示更多或更少的部件，或者组合某些部件，或者拆分某些部件，或者不同的部件布置。图示的部件可以以硬件，软件或软件和硬件的组合实现。

处理器110可以包括一个或多个处理单元，例如：处理器110可以包括应用处理器(application processor，AP)，调制解调处理器，图形处理器(graphics processingunit，GPU)，图像信号处理器(image signal processor，ISP)，控制器，视频编解码器，数字信号处理器(digital signal processor，DSP)，基带处理器，和/或神经网络处理器(neural-network processing unit，NPU)等。其中，不同的处理单元可以是独立的器件，也可以集成在一个或多个处理器中。

控制器可以根据指令操作码和时序信号，产生操作控制信号，完成取指令和执行指令的控制。

处理器110中还可以设置存储器，用于存储指令和数据。在一些实施例中，处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据，可从所述存储器中直接调用。避免了重复存取，减少了处理器110的等待时间，因而提高了系统的效率。

在一些实施例中，处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit，I2C)接口，集成电路内置音频(inter-integrated circuitsound，I2S)接口，脉冲编码调制(pulse code modulation，PCM)接口，通用异步收发传输器(universal asynchronous receiver/transmitter，UART)接口，移动产业处理器接口(mobile industry processor interface，MIPI)，通用输入输出(general-purposeinput/output，GPIO)接口，用户标识模块(subscriber identity module，SIM)接口，和/或通用串行总线(universal serial bus，USB)接口等。

I2C接口是一种双向同步串行总线，包括一根串行数据线(serial data line，SDA)和一根串行时钟线(derail clock line，SCL)。在一些实施例中，处理器110可以包含多组I2C总线。处理器110可以通过不同的I2C总线接口分别耦合触摸传感器180K，充电器，闪光灯，摄像头193等。例如：处理器110可以通过I2C接口耦合触摸传感器180K，使处理器110与触摸传感器180K通过I2C总线接口通信，实现电子设备100的触摸功能。

I2S接口可以用于音频通信。在一些实施例中，处理器110可以包含多组I2S总线。处理器110可以通过I2S总线与音频模块170耦合，实现处理器110与音频模块170之间的通信。在一些实施例中，音频模块170可以通过I2S接口向无线通信模块160传递音频信号，实现通过蓝牙耳机接听电话的功能。

PCM接口也可以用于音频通信，将模拟信号抽样，量化和编码。在一些实施例中，音频模块170与无线通信模块160可以通过PCM总线接口耦合。在一些实施例中，音频模块170也可以通过PCM接口向无线通信模块160传递音频信号，实现通过蓝牙耳机接听电话的功能。所述I2S接口和所述PCM接口都可以用于音频通信。

UART接口是一种通用串行数据总线，用于异步通信。该总线可以为双向通信总线。它将要传输的数据在串行通信与并行通信之间转换。在一些实施例中，UART接口通常被用于连接处理器110与无线通信模块160。例如：处理器110通过UART接口与无线通信模块160中的蓝牙模块通信，实现蓝牙功能。在一些实施例中，音频模块170可以通过UART接口向无线通信模块160传递音频信号，实现通过蓝牙耳机播放音乐的功能。

MIPI接口可以被用于连接处理器110与显示屏194，摄像头193等外围器件。MIPI接口包括摄像头串行接口(camera serial interface，CSI)，显示屏串行接口(displayserial interface，DSI)等。在一些实施例中，处理器110和摄像头193通过CSI接口通信，实现电子设备100的拍摄功能。处理器110和显示屏194通过DSI接口通信，实现电子设备100的显示功能。

GPIO接口可以通过软件配置。GPIO接口可以被配置为控制信号，也可被配置为数据信号。在一些实施例中，GPIO接口可以用于连接处理器110与摄像头193，显示屏194，无线通信模块160，音频模块170，传感器模块180等。GPIO接口还可以被配置为I2C接口，I2S接口，UART接口，MIPI接口等。

USB接口130是符合USB标准规范的接口，具体可以是Mini USB接口，Micro USB接口，USB Type C接口等。USB接口130可以用于连接充电器为电子设备100充电，也可以用于电子设备100与外围设备之间传输数据。也可以用于连接耳机，通过耳机播放音频。该接口还可以用于连接其他电子设备，例如AR设备等。

可以理解的是，本申请实施例示意的各模块间的接口连接关系，只是示意性说明，并不构成对电子设备100的结构限定。在本申请另一些实施例中，电子设备100也可以采用上述实施例中不同的接口连接方式，或多种接口连接方式的组合。

充电管理模块140用于从充电器接收充电输入。其中，充电器可以是无线充电器，也可以是有线充电器。在一些有线充电的实施例中，充电管理模块140可以通过USB接口130接收有线充电器的充电输入。在一些无线充电的实施例中，充电管理模块140可以通过电子设备100的无线充电线圈接收无线充电输入。充电管理模块140为电池142充电的同时，还可以通过电源管理模块141为电子设备供电。

电源管理模块141用于连接电池142，充电管理模块140与处理器110。电源管理模块141接收电池142和/或充电管理模块140的输入，为处理器110，内部存储器121，显示屏194，摄像头193，和无线通信模块160等供电。电源管理模块141还可以用于监测电池容量，电池循环次数，电池健康状态(漏电，阻抗)等参数。在其他一些实施例中，电源管理模块141也可以设置于处理器110中。在另一些实施例中，电源管理模块141和充电管理模块140也可以设置于同一个器件中。

电子设备100的无线通信功能可以通过天线1，天线2，移动通信模块150，无线通信模块160，调制解调处理器以及基带处理器等实现。

天线1和天线2用于发射和接收电磁波信号。电子设备100中的每个天线可用于覆盖单个或多个通信频带。不同的天线还可以复用，以提高天线的利用率。例如：可以将天线1复用为无线局域网的分集天线。在另外一些实施例中，天线可以和调谐开关结合使用。

移动通信模块150可以提供应用在电子设备100上的包括2G/3G/4G/5G等无线通信的解决方案。移动通信模块150可以包括至少一个滤波器，开关，功率放大器，低噪声放大器(low noise amplifier，LNA)等。移动通信模块150可以由天线1接收电磁波，并对接收的电磁波进行滤波，放大等处理，传送至调制解调处理器进行解调。移动通信模块150还可以对经调制解调处理器调制后的信号放大，经天线1转为电磁波辐射出去。在一些实施例中，移动通信模块150的至少部分功能模块可以被设置于处理器110中。在一些实施例中，移动通信模块150的至少部分功能模块可以与处理器110的至少部分模块被设置在同一个器件中。

调制解调处理器可以包括调制器和解调器。其中，调制器用于将待发送的低频基带信号调制成中高频信号。解调器用于将接收的电磁波信号解调为低频基带信号。随后解调器将解调得到的低频基带信号传送至基带处理器处理。低频基带信号经基带处理器处理后，被传递给应用处理器。应用处理器通过音频设备(不限于扬声器170A，受话器170B等)输出声音信号，或通过显示屏194显示图像或视频。在一些实施例中，调制解调处理器可以是独立的器件。在另一些实施例中，调制解调处理器可以独立于处理器110，与移动通信模块150或其他功能模块设置在同一个器件中。

无线通信模块160可以提供应用在电子设备100上的包括无线局域网(wirelesslocal area networks，WLAN)(如无线保真(wireless fidelity，Wi-Fi)网络)，蓝牙(bluetooth，BT)，全球导航卫星系统(global navigation satellite system，GNSS)，调频(frequency modulation，FM)，近距离无线通信技术(near field communication，NFC)，红外技术(infrared，IR)等无线通信的解决方案。无线通信模块160可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块160经由天线2接收电磁波，将电磁波信号调频以及滤波处理，将处理后的信号发送到处理器110。无线通信模块160还可以从处理器110接收待发送的信号，对其进行调频，放大，经天线2转为电磁波辐射出去。

在一些实施例中，电子设备100的天线1和移动通信模块150耦合，天线2和无线通信模块160耦合，使得电子设备100可以通过无线通信技术与网络以及其他设备通信。所述无线通信技术可以包括全球移动通讯系统(global system for mobile communications，GSM)，通用分组无线服务(general packet radio service，GPRS)，码分多址接入(codedivision multiple access，CDMA)，宽带码分多址(wideband code division multipleaccess，WCDMA)，时分码分多址(time-division code division multiple access，TD-SCDMA)，长期演进(long term evolution，LTE)，BT，GNSS，WLAN，NFC，FM，和/或IR技术等。所述GNSS可以包括全球卫星定位系统(global positioning system，GPS)，全球导航卫星系统(global navigation satellite system，GLONASS)，北斗卫星导航系统(beidounavigation satellite system，BDS)，准天顶卫星系统(quasi-zenith satellitesystem，QZSS)和/或星基增强系统(satellite based augmentation systems，SBAS)。

电子设备100通过GPU，显示屏194，以及应用处理器等实现显示功能。GPU为图像处理的微处理器，连接显示屏194和应用处理器。GPU用于执行数学和几何计算，用于图形渲染。处理器110可包括一个或多个GPU，其执行程序指令以生成或改变显示信息。

显示屏194用于显示图像，视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display，LCD)，有机发光二极管(organic light-emittingdiode，OLED)，有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的，AMOLED)，柔性发光二极管(flex light-emittingdiode，FLED)，Miniled，MicroLed，Micro-oLed，量子点发光二极管(quantum dot lightemitting diodes，QLED)等。在一些实施例中，电子设备100可以包括1个或N个显示屏194，N为大于1的正整数。

电子设备100可以通过ISP，摄像头193，视频编解码器，GPU，显示屏194以及应用处理器等实现拍摄功能。

ISP用于处理摄像头193反馈的数据。例如，拍照时，打开快门，光线通过镜头被传递到摄像头感光元件上，光信号转换为电信号，摄像头感光元件将所述电信号传递给ISP处理，转化为肉眼可见的图像。ISP还可以对图像的噪点，亮度，肤色进行算法优化。ISP还可以对拍摄场景的曝光，色温等参数优化。在一些实施例中，ISP可以设置在摄像头193中。

摄像头193用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device，CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor，CMOS)光电晶体管。感光元件把光信号转换成电信号，之后将电信号传递给ISP转换成数字图像信号。ISP将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB，YUV等格式的图像信号。在一些实施例中，电子设备100可以包括1个或N个摄像头193，N为大于1的正整数。

数字信号处理器用于处理数字信号，除了可以处理数字图像信号，还可以处理其他数字信号。例如，当电子设备100在频点选择时，数字信号处理器用于对频点能量进行傅里叶变换等。

视频编解码器用于对数字视频压缩或解压缩。电子设备100可以支持一种或多种视频编解码器。这样，电子设备100可以播放或录制多种编码格式的视频，例如：动态图像专家组(moving picture experts group，MPEG)1，MPEG2，MPEG3，MPEG4等。

NPU为神经网络(neural-network，NN)计算处理器，通过借鉴生物神经网络结构，例如借鉴人脑神经元之间传递模式，对输入信息快速处理，还可以不断的自学习。通过NPU可以实现电子设备100的智能认知等应用，例如：图像识别，人脸识别，语音识别，文本理解等。

内部存储器121可以包括一个或多个随机存取存储器(random access memory，RAM)和一个或多个非易失性存储器(non-volatile memory，NVM)。

随机存取存储器可以包括静态随机存储器(static random-access memory，SRAM)、动态随机存储器(dynamic random access memory，DRAM)、同步动态随机存储器(synchronous dynamic random access memory,SDRAM)、双倍资料率同步动态随机存取存储器(double data rate synchronous dynamic random access memory,DDR SDRAM，例如第五代DDR SDRAM一般称为DDR5 SDRAM)等；

非易失性存储器可以包括磁盘存储器件、快闪存储器(flash memory)。

快闪存储器按照运作原理划分可以包括NOR FLASH、NAND FLASH、3D NAND FLASH等，按照存储单元电位阶数划分可以包括单阶存储单元(single-level cell,SLC)、多阶存储单元(multi-level cell,MLC)、三阶储存单元(triple-level cell,TLC)、四阶储存单元(quad-level cell,QLC)等，按照存储规范划分可以包括通用闪存存储(英文：universalflash storage，UFS)、嵌入式多媒体存储卡(embedded multi media Card，eMMC)等。

随机存取存储器可以由处理器110直接进行读写，可以用于存储操作系统或其他正在运行中的程序的可执行程序(例如机器指令)，还可以用于存储用户及应用程序的数据等。

非易失性存储器也可以存储可执行程序和存储用户及应用程序的数据等，可以提前加载到随机存取存储器中，用于处理器110直接进行读写。

外部存储器接口120可以用于连接外部的非易失性存储器，实现扩展电子设备100的存储能力。外部的非易失性存储器通过外部存储器接口120与处理器110通信，实现数据存储功能。例如将音乐，视频等文件保存在外部的非易失性存储器中。

电子设备100可以通过音频模块170，扬声器170A，受话器170B，麦克风170C，耳机接口170D，以及应用处理器等实现音频功能。例如音乐播放，录音等。

音频模块170用于将数字音频信息转换成模拟音频信号输出，也用于将模拟音频输入转换为数字音频信号。音频模块170还可以用于对音频信号编码和解码。在一些实施例中，音频模块170可以设置于处理器110中，或将音频模块170的部分功能模块设置于处理器110中。

扬声器170A，也称“喇叭”，用于将音频电信号转换为声音信号。电子设备100可以通过扬声器170A收听音乐，或收听免提通话。

受话器170B，也称“听筒”，用于将音频电信号转换成声音信号。当电子设备100接听电话或语音信息时，可以通过将受话器170B靠近人耳接听语音。

麦克风170C，也称“话筒”，“传声器”，用于将声音信号转换为电信号。当拨打电话或发送语音信息时，用户可以通过人嘴靠近麦克风170C发声，将声音信号输入到麦克风170C。电子设备100可以设置至少一个麦克风170C。在另一些实施例中，电子设备100可以设置两个麦克风170C，除了采集声音信号，还可以实现降噪功能。在另一些实施例中，电子设备100还可以设置三个，四个或更多麦克风170C，实现采集声音信号，降噪，还可以识别声音来源，实现定向录音功能等。

耳机接口170D用于连接有线耳机。耳机接口170D可以是USB接口130，也可以是3.5mm的开放移动电子设备平台(open mobile terminal platform，OMTP)标准接口，美国蜂窝电信工业协会(cellular telecommunications industry association of the USA，CTIA)标准接口。

压力传感器180A用于感受压力信号，可以将压力信号转换成电信号。在一些实施例中，压力传感器180A可以设置于显示屏194。压力传感器180A的种类很多，如电阻式压力传感器，电感式压力传感器，电容式压力传感器等。电容式压力传感器可以是包括至少两个具有导电材料的平行板。当有力作用于压力传感器180A，电极之间的电容改变。电子设备100根据电容的变化确定压力的强度。当有触摸操作作用于显示屏194，电子设备100根据压力传感器180A检测所述触摸操作强度。电子设备100也可以根据压力传感器180A的检测信号计算触摸的位置。在一些实施例中，作用于相同触摸位置，但不同触摸操作强度的触摸操作，可以对应不同的操作指令。例如：当有触摸操作强度小于第一压力阈值的触摸操作作用于短消息应用图标时，执行查看短消息的指令。当有触摸操作强度大于或等于第一压力阈值的触摸操作作用于短消息应用图标时，执行新建短消息的指令。

陀螺仪传感器180B可以用于确定电子设备100的运动姿态。在一些实施例中，可以通过陀螺仪传感器180B确定电子设备100围绕三个轴(即，x，y和z轴)的角速度。陀螺仪传感器180B可以用于拍摄防抖。示例性的，当按下快门，陀螺仪传感器180B检测电子设备100抖动的角度，根据角度计算出镜头模组需要补偿的距离，让镜头通过反向运动抵消电子设备100的抖动，实现防抖。陀螺仪传感器180B还可以用于导航，体感游戏场景。

气压传感器180C用于测量气压。在一些实施例中，电子设备100通过气压传感器180C测得的气压值计算海拔高度，辅助定位和导航。

磁传感器180D包括霍尔传感器。电子设备100可以利用磁传感器180D检测翻盖皮套的开合。在一些实施例中，当电子设备100是翻盖机时，电子设备100可以根据磁传感器180D检测翻盖的开合。进而根据检测到的皮套的开合状态或翻盖的开合状态，设置翻盖自动解锁等特性。

加速度传感器180E可检测电子设备100在各个方向上(一般为三轴)加速度的大小。当电子设备100静止时可检测出重力的大小及方向。还可以用于识别电子设备姿态，应用于横竖屏切换，计步器等应用。

距离传感器180F，用于测量距离。电子设备100可以通过红外或激光测量距离。在一些实施例中，拍摄场景，电子设备100可以利用距离传感器180F测距以实现快速对焦。

接近光传感器180G可以包括例如发光二极管(LED)和光检测器，例如光电二极管。发光二极管可以是红外发光二极管。电子设备100通过发光二极管向外发射红外光。电子设备100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时，可以确定电子设备100附近有物体。当检测到不充分的反射光时，电子设备100可以确定电子设备100附近没有物体。电子设备100可以利用接近光传感器180G检测用户手持电子设备100贴近耳朵通话，以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式，口袋模式自动解锁与锁屏。

环境光传感器180L用于感知环境光亮度。电子设备100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合，检测电子设备100是否在口袋里，以防误触。

指纹传感器180H用于采集指纹。电子设备100可以利用采集的指纹特性实现指纹解锁，访问应用锁，指纹拍照，指纹接听来电等。

温度传感器180J用于检测温度。在一些实施例中，电子设备100利用温度传感器180J检测的温度，执行温度处理策略。例如，当温度传感器180J上报的温度超过阈值，电子设备100执行降低位于温度传感器180J附近的处理器的性能，以便降低功耗实施热保护。在另一些实施例中，当温度低于另一阈值时，电子设备100对电池142加热，以避免低温导致电子设备100异常关机。在其他一些实施例中，当温度低于又一阈值时，电子设备100对电池142的输出电压执行升压，以避免低温导致的异常关机。

触摸传感器180K，也称“触控器件”。触摸传感器180K可以设置于显示屏194，由触摸传感器180K与显示屏194组成触摸屏，也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器，以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中，触摸传感器180K也可以设置于电子设备100的表面，与显示屏194所处的位置不同。

骨传导传感器180M可以获取振动信号。在一些实施例中，骨传导传感器180M可以获取人体声部振动骨块的振动信号。骨传导传感器180M也可以接触人体脉搏，接收血压跳动信号。在一些实施例中，骨传导传感器180M也可以设置于耳机中，结合成骨传导耳机。音频模块170可以基于所述骨传导传感器180M获取的声部振动骨块的振动信号，解析出语音信号，实现语音功能。应用处理器可以基于所述骨传导传感器180M获取的血压跳动信号解析心率信息，实现心率检测功能。

按键190包括开机键，音量键等。按键190可以是机械按键。也可以是触摸式按键。电子设备100可以接收按键输入，产生与电子设备100的用户设置以及功能控制有关的键信号输入。

马达191可以产生振动提示。马达191可以用于来电振动提示，也可以用于触摸振动反馈。例如，作用于不同应用(例如拍照，音频播放等)的触摸操作，可以对应不同的振动反馈效果。作用于显示屏194不同区域的触摸操作，马达191也可对应不同的振动反馈效果。不同的应用场景(例如：时间提醒，接收信息，闹钟，游戏等)也可以对应不同的振动反馈效果。触摸振动反馈效果还可以支持自定义。

指示器192可以是指示灯，可以用于指示充电状态，电量变化，也可以用于指示消息，未接来电，通知等。

SIM卡接口195用于连接SIM卡。SIM卡可以通过插入SIM卡接口195，或从SIM卡接口195拔出，实现和电子设备100的接触和分离。电子设备100可以支持1个或N个SIM卡接口，N为大于1的正整数。SIM卡接口195可以支持Nano SIM卡，Micro SIM卡，SIM卡等。同一个SIM卡接口195可以同时插入多张卡。所述多张卡的类型可以相同，也可以不同。SIM卡接口195也可以兼容不同类型的SIM卡。SIM卡接口195也可以兼容外部存储卡。电子设备100通过SIM卡和网络交互，实现通话以及数据通信等功能。在一些实施例中，电子设备100采用eSIM，即：嵌入式SIM卡。eSIM卡可以嵌在电子设备100中，不能和电子设备100分离。

电子设备100的软件系统可以采用分层架构，事件驱动架构，微核架构，微服务架构，或云架构。本发明实施例以分层架构的Android系统为例，示例性说明电子设备100的软件结构。

请参阅图2，图2为本申请实施例中电子设备100的软件结构框图。

分层架构将软件分成若干个层，每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中，将Android系统分为四层，从上至下分别为应用程序层，应用程序框架层，安卓运行时(Android runtime)和系统库，以及内核层。

应用程序层可以包括一系列应用程序包。

如图2所示，应用程序包可以包括相机，图库，日历，通话，地图，导航，WLAN，蓝牙，音乐，视频，短信息等应用程序。

应用程序框架层为应用程序层的应用程序提供应用编程接口(applicationprogramming interface，API)和编程框架。应用程序框架层包括一些预先定义的函数。

如图2所示，应用程序框架层可以包括窗口管理器，内容提供器，视图系统，电话管理器，资源管理器，通知管理器等。

窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小，判断是否有状态栏，锁定屏幕，截取屏幕等。

内容提供器用来存放和获取数据，并使这些数据可以被应用程序访问。所述数据可以包括视频，图像，音频，拨打和接听的电话，浏览历史和书签，电话簿等。

视图系统包括可视控件，例如显示文字的控件，显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如，包括短信通知图标的显示界面，可以包括显示文字的视图以及显示图片的视图。

电话管理器用于提供电子设备100的通信功能。例如通话状态的管理(包括接通，挂断等)。

资源管理器为应用程序提供各种资源，比如本地化字符串，图标，图片，布局文件，视频文件等等。

通知管理器使应用程序可以在状态栏中显示通知信息，可以用于传达告知类型的消息，可以短暂停留后自动消失，无需用户交互。比如通知管理器被用于告知下载完成，消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知，例如后台运行的应用程序的通知，还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息，发出提示音，电子设备振动，指示灯闪烁等。

Android Runtime包括核心库和虚拟机。Android runtime负责安卓系统的调度和管理。

核心库包含两部分：一部分是java语言需要调用的功能函数，另一部分是安卓的核心库。

应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理，堆栈管理，线程管理，安全和异常的管理，以及垃圾回收等功能。

系统库可以包括多个功能模块。例如：表面管理器(surface manager)，媒体库(Media Libraries)，三维图形处理库(例如：OpenGL ES)，2D图形引擎(例如：SGL)等。

表面管理器用于对显示子系统进行管理，并且为多个应用程序提供了2D和3D图层的融合。

媒体库支持多种常用的音频，视频格式回放和录制，以及静态图像文件等。媒体库可以支持多种音视频编码格式，例如:MPEG4，H.264，MP3，AAC，AMR，JPG，PNG等。

三维图形处理库用于实现三维图形绘图，图像渲染，合成，和图层处理等。

2D图形引擎是2D绘图的绘图引擎。

内核层是硬件和软件之间的层。内核层至少包含显示驱动，摄像头驱动，音频驱动，传感器驱动。

下面结合捕获拍照场景，示例性说明电子设备100软件以及硬件的工作流程。

当触摸传感器180K接收到触摸操作，相应的硬件中断被发给内核层。内核层将触摸操作加工成原始输入事件(包括触摸坐标，触摸操作的时间戳等信息)。原始输入事件被存储在内核层。应用程序框架层从内核层获取原始输入事件，识别该输入事件所对应的控件。以该触摸操作是触摸单击操作，该单击操作所对应的控件为相机应用图标的控件为例，相机应用调用应用框架层的接口，启动相机应用，进而通过调用内核层启动摄像头驱动，通过摄像头193捕获静态图像或视频。

为便于对本申请实施方式所描述的技术方案的理解，请参阅图3，首先对用户界面、图形用户接口和控件三者之间的关系进行介绍。用户界面(User Interface，UI)是系统和用户之间进行交互和信息交换的媒介，包含了人机交互与图形用户接口，参与人类与机械的信息交流的领域均存在着用户界面。人机交互是指人与计算机之间使用某种对话语言，以一定的交互方式，为完成确定任务的人与计算机之间的信息交换过程。图形用户接口是指采用图形方式显示的计算机操作用户界面。用户界面自动化测试的对象主要包括基于图形用户接口(Graphical User Interface，GUI)的控件。其中，用户界面包括很多可视化的界面图形元素，而图形用户接口元素是用户界面中可视化的界面图形元素的一种，体现为具体的图形设计。控件是指对数据和方法的封装，可以理解，用户界面是根据若干控件进行创建的，用户界面上包括若干控件。具体地，用户界面上的各个图形用户接口元素对应各个控件。用户运行软件应用后，通过对可视的图形用户接口元素的操作来实现对控件的操控，从而实现对软件应用的使用。

录制回放技术核心思想在于获取控件元素，然后调用系统函数模拟用户的行为对控件元素进行操作。其可以分为录制脚本和回放脚本两个大的步骤，其中在录制脚本的过程中，在用户对某一图形用户接口元素进行操作时，要实现对该图形用户接口元素对应的控件的操作，需获取该控件对应的控件元素，并保存该控件对应的操作事件。在一次成功录制形成脚本文件后，该脚本文件可加载到本设备或其他终端设备中进行重复的自动调用，运行该脚本文件，即“回放”脚本文件，以达到在电子设备中自动进行测试的目的。

可以理解，控件是指用户界面上可操作的对象，控件是一种图形用户界面元素，是一种基本的可视构件块，控件包含在应用程序之中，控制着该应用程序处理的数据以及关于数据与用户之间的交互操作。控件可以包括按钮控件、文本框控件、普通链接控件、下拉框控件、表格控件、树型控件和日期选择控件等，控件还可以包括组合控件，例如，对于搜索控件而言，搜索控件包括文本框控件和按钮控件。控件元素即控件对象，是控件对象实体化后的控件对象，表示控件的代码对象。

通常采用控件的参数信息作为控件查找依据，以进行控件元素的查找。控件的参数信息包括但不限于身份标识(Identity，ID)、名称(Name)、层叠样式表(Cascading StyleSheets，CSS)选择器(Selector)、控件当中显示的文字(Text)、控件当中字体的大小(Textsize)、控件所使用的背景色(Background)、控件的宽度(Width)、控件的高度(Height)等。

示例的，按钮控件的名称可以确定为“Button”，文本框控件的名称可以确定为“Text”，普通链接控件的名称可以确定为“LinkNormal”，下拉框控件的名称可以确定为“ComboBox”，表格控件的名称可以确定为“Table”，树型控件的名称可以确定为“Tree”，日期选择控件的名称可以确定为“DateTime”。

需要说明的是，对控件元素进行的操作是其支持的操作，操作类型包括点击操作、输入操作、拖动操作、缩放操作、长按操作、滑动操作或其他在控件元素上实现该控件元素进行交互的操作。则相应的操作指令可包括：点击指令、输入指令、拖动指令、缩放指令、长按指令、滑动指令或其他在控件元素上实现该控件元素进行交互的操作指令。控件的操作类型根据控件本身的功能或者类型来确定，用户对控件的操作需因控件的类型不同而有所区别。可以根据获取的控件元素的参数信息，判断控件元素所支持的操作类型，例如文本域(text fields)可以支持点击、滑动、输入等操作指令。

经研究发现，现有的录制回放技术，在某一些场景中无法获取目标控件的参数信息，或目标控件的参数信息不存在，无法通过目标控件的参数信息获取目标控件元素，则无法对目标控件元素进行操作，也无法将目标控件元素与该目标控件对应的操作事件绑定，导致无法准确实现自动化测试。

为此，本申请实施实施例提供了一种自动化测试方法，截取目标控件的图像，该目标控件是基于图形用户接口(Graphical User Interface，GUI)的控件，截取目标控件在用户界面上的可视化图形设计的图像，将截取到的该目标控件的图像信息记录为该目标控件的参数信息，以根据该图像信息获取目标控件元素。由此，在无法得到目标控件的参数信息时，通过新增一种参数标识目标控件，以新增的参数查找该目标控件对应的控件元素的，进而通过该新增参数获取到目标控件元素，解决无法得到目标控件的参数信息时则无法进行自动化测试的问题。

在录制过程中，我们已通过目标控件的图像来标记我们需要操控的目标控件元素，则在回放的过程中，根据该目标控件的图像信息确定该目标控件在当前用户界面的位置，然后在该目标控件在当前用户界面的位置模拟用户对目标控件进行的操作，通过目标控件的图像信息完成目标控件标识，以此实现对目标控件的测试。

本申请实施例的自动化测试方法可以应用于一种电子设备，该电子设备可为录屏终端或是回放终端，其中，录屏终端为生成录屏文件的终端设备，回放终端则为回放录屏文件的终端设备。电子设备包括但不限于手机、电脑、平板电脑、个人数字助理(PersonalDigital Assistant,PDA)、媒体播放器、智能电视、智能手表、智能眼镜、智能手环等用户设备，或是其他能够执行类似于点击、滑动等操作的电子设备。而其中的电子设备基于的操作系统包括但不仅限于Android、IOS、windows等。通常情况下，录屏终端与回放终端是两个不同的终端设备，但也有可能是同一终端设备。比如，不同用户在同一终端上分别完成录屏文件的生成及回放功能，或是，同一用户使用同一终端为不同用户演示相同操作的过程。

本申请实施例的自动化测试方法可实例化为独立的测试工具，该测试工具可以以应用作为载体，将测试工具应用直接运行在电子设备上，如Android应用、IOS应用等，极大程度地提高自动化测试效率。

在本申请实施中，第一用户界面为录制脚本时电子设备上的用户界面，第二用户界面为回放脚本文件时电子设备上的用户界面。在录屏终端与回放终端是两个不同的终端设备时，第一用户界面为录屏终端的用户界面，第二用户界面为回放终端的用户界面。目标控件为用户通过对可视的图形用户接口元素的操作来操控的控件。目标控件元素为目标控件的控件元素。

请参阅图4，图4为本申请实施例提供的一种自动化测试方法流程示意图。本实施例中自动化测试方法的执行主体为电子设备，该自动化测试方法可实例化为自动化测试应用，该自动化测试应用安装运行于电子设备上。如安装运行于录屏终端。如图所示的自动化测试方法可包括：

步骤S10：获取第一用户界面上目标控件的图像信息。

在申请实施例中，将要进行自动化测试的待测应用安装于录屏终端上，该待测应用运行时，会在录屏终端的显示屏上实时显示该应用的界面，即会在录屏终端的桌面显示一系列的用户界面，该应用的控件以可视的图形用户接口图像显示在第一用户界面上，由此用户可以对目标控件对应的可视的图形用户接口元素进行操作，进而通过对可视的图形用户接口元素的操作来操控该目标控件。

在本申请实施例中，获取第一用户界面上目标控件的图像信息方式包括但不限于以下两种：

第一种方法：通过待测应用的用户界面资源包获取。测试人员从待测应用的用户界面资源包中匹配该目标控件的图像用户接口图像，匹配成功后，直接将该图像用户接口图像导出，得到目标控件的图像用户接口图像。

第二种方法：通过图像截图工具获取。测试人员操作图像截图工具，通过图像截图工具以截图的方式获取目标控件的图形用户接口元素图像，例如，通过矩形窗选择目标控件的图形用户接口元素图像。该图像截图工具可以是录屏终端操作系统的截图工具也可以是自动化测试应用中的截图工具。

在本申请实施例中，第一用户界面上的控件可以包括多个，当用户对某一控件进行操作，则该控件为目标控件。

下面以本申请实施例的自动化测试方法可实例化为自动化测试应用，录屏终端与回放终端是两个不同的终端设是两个不同的终端设备，并以对待测应用进行自动化测试进行说明。

请参阅图5，图5为本申请实施例提供的另一种自动化测试方法流程示意图。用户对目标控件输入操作，若无法获取该目标控件的参数信息，则通过执行本申请实施例的自动化测试方法获取目标控件元素。因此，在执行步骤S10之前可以进行如下步骤：

步骤S101：监控到对第一用户界面进行操作的操作事件时，确定所述操作事件对应的目标控件。

在本申请实施例中，在对某一待测应用进行自动化测试时，用户需要对该待测应用输入操作，即向录屏终端输入操作指令。用户通过对第一用户界面上的界面元素输入操作，例如对第一用户界面上可视的图形用户接口元素件进行操作，通过对该可视的图形用户接口元素操作实现对控件的操控。

可以理解，不同的电子设备或不同的操作系统，对用户输入等操作事件的响应或处理的方式不同，因而在不同的电子设备或操作系统中，对第一用户界面进行操作的操作事件的监控方式也各不相同。例如，移动终端设备中所搭载的输入装置主要包括触摸屏和系统按键(如HOME键、返回键)等，对应用的操作主要是通过触屏和系统按键来实现，因此可以监控在触屏和系统按键触发的操作事件。

示例性地，对于通过系统按键触发的操作事件，可以对通过监听的方式实现监控，例如在操作系统中注册系统按键事件监听器，通过所注册的系统按键事件监听器，监控通过系统按键对第一用户界面进行操作的操作事件。相应地，也可以在本申请自动化测试应用中注册事件监听器来监听操作事件。

在本申请实施例中，监控到对第一用户界面进行操作的操作事件后，需进一步确定执行该操作事件的目标控件，即确定待测应用中处理该操作事件的目标控件。可以对通过输入装置输入的操作指令进行拦截，进而对操作指令的传递过程进行分析，确定出执行操作指令的对应的目标控件。

具体地，电子设备处理输入事件包括两种处理任务，一种是处理指示操作事件开始的操作指令，例如，键盘按下触发的操作指令，在触屏上按下触发的操作指令，在触屏上按下并开始移动的操作指令等等；另一个是指示操作事件结束的操作指令，例如按键弹起触发的操作指令，手指从触屏上抬起触发的操作指令等等。因此在确定第一用户界面中处理操作事件的目标控件时，首先，监控到用于指示操作事件开始或者进行中的开始操作指令，然后透传该开始操作指令，以便在待测应用中调用对应的控件处理该开始操作指令。目标控件在接收到开始操作指令后，可修改自身的处理标识状态，此时通过递归调用的方式，可以查找待测应用的视图的树型数据结构，通过处理标识的状态，判断真正用于处理操作指令的控件，在确定真正用于处理操作指令的控件后，将用于指示操作事件结束的结束操作指令透传给该控件，在监控到用于指示操作事件结束的结束操作指令时，拦截该结束操作指令，将该结束操作指令进行透传，以便该控件完成执行所有操作指令。具体在查询控件的处理标识状态时，可以使用JAVA反射调用的方式寻找和确定最终处理该操作的控件。

步骤S102：确定是否得到目标控件的参数信息。

在本申请实施例中，应用一般由多个控件组成，每个用户界面一般由多个控件组成，每个控件作为一个组成模块，且每个控件都有唯一的标识信息。例如，每个控件可以对应唯一的索引index，可以以这种唯一的标识信息作为控件的参数信息。参数信息包括但不限于：控件当中显示的文字(Text)及身份标识(ID)等。

对于不同的控件，在其获取参数信息的过程中，可以获取其控件类型，控件类型主要包括了操作系统原生的控件类型、WebView控件类型。在步骤S10中，通过递归调用的方式可以查找带有处理标识的控件，并确定为处理当前操作事件的目标控件，同时还可以将该目标控件的参数信息返回。

可以理解，在获取控件的参数信息的过程中，以上所列举的各种参数信息只是示例性的，在实际应用中，任何可以唯一标识控件的信息，或者可以定位控件的信息，都可以作为目标控件的参数信息进行获取，此外，一些具有参考价值的控件的附加信息也可以进行获取和记录，本申请对此并没有限制。

在本申请实施例中，基于有些场景无法获取目标控件的参数信息，则存在没有得到目标控件的参数信息的场景，因此需要确定是否得到目标控件的参数信息。

步骤S103：当得到目标控件的参数信息时，将所述参数信息输出。

在本申请实施例中，在得到目标控件的参数信息时，则对该目标控件的处理方式不一定需要使用本申请实施例的自动化测试方法。将该目标控件的参数信息输出给用户，以告知用户该目标控件的参数信息存在，便于用户对该目标控件对应的控件元素的标识做出选择。

示例性地，请参阅图6，在获取得到控件参数信息时，在第一用户界面上输出一个提示框，用于展示目标控件的参数信息，如在参数信息一栏显示控件的ID和控件当中显示的文字Text。

在其中一种可能实现方式中，如图6所示，该提示框还向用户返回该目标控件可选择的操作类型，例如对于按钮控件,其可选择的操作类型包括：单击、长按等，以便用户根据对该目标控件输入的操作选择该目标控件对应的操作类型。在用户对目标控件输入操作时，对于单击和长按的操作，录屏终端可能无法准确识别，因此通过向用户返回可选择的操作类型，根据用户的选择，确定该目标控件对应的操作类型，进而可以确定对应的操作事件。

在其中一种可能实现方式中，如图6所示，该提示框还输出对目标控件进行标识的方式，例如，“图像标识”对应的“是”与“否”按钮，在选择“是”按钮对应的是通过目标控件的图像信息标识目标控件，以在无法得到目标控件的常规参数信息时，选择将该目标控件的图像信息作为该目标控件的一种新参数信息，以该新参数信息作为目标控件的标识，通过该新参数信息获取目标控件对应的控件元素。在选择“否”按钮，则对应的是通过控件常规参数信息标识目标控件，控件常规参数信息即指目标控件的图像信息作为参数信息之外的参数信息。

步骤S104：当未得到目标控件的参数信息时，进入图像获取模式。

在未得到目标控件的参数信息时，对该目标控件采取本申请实施例的自动化测试方法，将未得到该目标控件参数信息的信息输出给用户，以告知用户该目标控件的参数信息未得到，则进入图像获取模式，执行上述步骤S10。

请参阅图7，在没有获取得到控件参数信息时，输出一个提示框，用于提示没有获取得到控件参数信息。如参数信息一栏显示“无”。

在其中一种可能实现方式中，如图7所示，该提示框还向用户返回该目标控件可选择的操作类型，例如对于按钮控件,其可选择的操作类型包括：单击、长按等，以便用户根据对该目标控件输入的操作选择该目标控件对应的操作类型。在用户对目标控件输入操作时，对于单击和长按的操作，录屏终端可能无法准确识别，因此通过向用户返回可选择的操作类型，根据用户的选择，确定该目标控件对应的操作类型，进而可以确定对应的操作事件。

在其中一种可能实现方式中，如图7所示，该提示框还输出对目标控件进行标识的方式，例如，“图像标识”对应的“是”与“否”按钮，在选择“是”按钮对应的是通过目标控件的图像信息标识目标控件，以在无法得到目标控件的常规参数信息时，选择将该目标控件的图像信息作为该目标控件的一种新参数信息，以该新参数信息作为目标控件的标识，通过该新参数信息获取目标控件对应的控件元素。在选择“否”按钮，则对应的是通过控件常规参数信息标识目标控件，控件常规参数信息即指目标控件的图像信息作为参数信息之外的参数信息。

步骤S104：当未得到目标控件的参数信息时，进入图像获取模式。

步骤S20：将所述图像信息记录为所述目标控件的参数信息。

在本申请实施例中，在无法得到控件常规参数信息标识目标控件时，即无法得到除目标控件的图像信息作为参数信息之外的参数信息标识目标控件，如无法得到控件当中显示的文字(Text)及身份标识(ID)等时，将步骤S101得到的图像信息作为该目标控件的一种新的参数信息，并记录该图像信息。以实现在无法得到目标控件的参数信息时，通过一种新的参数即目标控件的图像信息作为该目标控件的参数信息，通过目标控件的图像信息标识目标控件。

步骤S30：记录所述目标控件的操作事件。

在对应用进行测试脚本的录制时，可以将操作事件与对应的控件参数信息对应存储，以在使用录制好的测试脚本进行自动化测试时，只需根据控件参数信息向相应的控件元素发送模拟的操作事件即可对相应的控件进行调用和测试，因此需要记录目标控件对应的操作事件。

在本申请实施例中，可以根据步骤S10得到该目标控件对应的操作事件，也可以根据用户通过输入框输入的操作类型，确定目标控件对应的操作事件，本申请对此不作具体限定。

步骤S40：根据所述参数信息及所述操作事件生成脚本文件。

在本申请实施例中，将所述图像信息与所述操作事件进行绑定，生成自动化测试脚本文件，该脚本文件包括目标控件的图像信息和对应的操作事件。例如，将控件的参数信息与控件的操作类型绑定，控件与控件的对应操作进行绑定，生成套件。如：控件+单击作为一个套件，控件+长按作为一个套件，所有的套件放入指定套件库，供用户选取，方便通过控件调用各种操作。

在其中一种可能实现方式中，脚本文件还记录第一用户界面截图分辨率，将第一用户界面截图，并获取该第一用户界面截图分辨率，将所述分辨率保存至所述脚本文件。

在本申请实施例中，将目标控件的图像信息、操作事件以及分辨率绑定，根据所述目标控件的图像信息、操作事件以及分辨率生成脚本文件。

可以理解，在进行自动化测试时，有些目标控件可以得到常规的控件参数信息，有些目标控件不可得到常规的控件参数信息，在得到常规的目标控件参数信息时，脚本文件中就保存该目标控件参数信息，在不得到常规的目标控件参数信息时，脚本文件中就保存该目标控件的图像信息，将该目标控件的图像信息记录为该目标控件的参数信息。

在本申请实施例中，将目标控件的图像信息作为目标控件的参数信息，以通过目标控件的图像信息查找对应的目标控件元素，解决在进行自动化测试中,无法获取目标控件的常规参数信息，进而无法对控件进行单击、长按、拖拽等操作，导致有些用户场景无法实现自动化测试的问题。

在本申请实施例中，在测试脚本文件中，各操作步骤所执行的动作，以及各步骤执行的先后顺序，可以通过预置格式的序列条目来标识。因此在获取到目标控件的参数信息和操作事件后，可以将操作事件与对应的参数信息保存为测试脚本文件中的条目。则在利用测试脚本文件进行应用的测试时，只需依次读取测试脚本中的序列条目，即可自动完成其所标识的一系列测试动作，从而提高应用测试的自动化程度和执行效率。

在本申请实施例中，在将操作事件和对应的参数信息保存为测试脚本的序列条目时，所使用的数据格式可以是JSON格式，在具体应用时，较常用的JSON格式的数据包括JSONArray(JSON数组)和JSONObject(JSON对象)，其中以JSONObject为例，JSONObject表示为“{}”内的内容，数据结构为{key:value,key:value,...}的键值对结构。

下面对测试人员进行本申请实施例自动化测试方法的过程进行说明。

首先，用户在录屏终端上输入脚本录制指令。在本申请实施例的自动化测试方法可实例化为自动化测试应用，并将该自动化测试应用安装于录屏终端后，运行该自动化测试应用，该自动化测试应用运行时会在录屏终端显示器上呈现该应用的应用界面，该应用界面为第一用户界面。准备开始录制测试脚本文件前，需要先启动待测应用，用户可以在录屏终端中启动待测应用，也可以通过自动化测试应用启动待测应用。在待测应用启动完成后，可以接收脚本录制指令，进而开始测试脚本的录制。用户通过输入装置如鼠标、键盘或触控屏进行相应的操作，以输入脚本录制指令。示例性地，请一并参阅图8，用户在触控屏上进行触摸，以在第一用户界面上点击自动化测试应用上的“开始录制”按钮控件，则用户在录屏终端上输入脚本录制指令，启动自动化测试应用进行录制的功能。则录屏终端响应脚本录制指令，启动监控，以监控用户对第一用户界面进行操作的操作事件。

然后，用户对待测应用输入操作。用户可以根据测试目的对该待测应用进行相应操作。示例性地，请一并参阅图9，在第一用户界面上显示提示框正在录制，说明已经启动了自动化测试应用进行录制的功能。用户想要测试该待测应用在运行过程中的性能，用户点击待测应用界面中的控件，通过点击第一用户界面上呈现的该待测应用的可视的图形用户接口元素，进而点击了该待测应用的控件，如用户点击第一用户界面上“开始游戏”按钮控件，对该待测应用输入操作指令，则录屏终端通过监控获取用户对待测应用进行操作的操作事件，然后确定操作事件对应的目标控件，并获取目标控件的参数信息。可以理解，用户还可以输入其它操作。

在录屏终端进行获取目标控件的参数信息的操作之后，确定是否得到目标控件的参数信息，然后根据操作结果进行显示。录屏终端获取该控件的参数信息时，存在两种可能，第一种是得到目标控件参数信息，则向用户展示得到的控件参数信息。第二种是没有得到控件参数信息，则不展示控件参数信息。

对于第一种情况，请一并参阅图10，输出提示框种包括三个内容，参数信息、操作类型及和“图像标识”的标识方式。用户可以选定操作类型种的“单击”按钮，在“图像标识”中点击“否”按钮，即用户并选择参数标识方式。录屏终端根据用户的选择，记录目标控件的控件参数信息和操作事件，完成对此目标控件的录制。

对于第二种情况，请一并参阅图11，输出提示框种包括三个内容，参数信息、操作类型及和“图像标识”的标识方式。用户可以选定操作类型种的“单击”按钮，，在“图像标识”中点击“是”按钮。录屏终端根据用户的选择，进入截图，进入图像获取模式。

在进入图像获取模式时，用户可以调用截图工具对目标控件的可视图像用户接口图像进行截图。请一并参阅图12，用户调用录屏终端上的截图工具或调用自动化测试应用的截图工具，通过矩形窗选择目标控件对应的可视图像用户接口图像，保存该目标控件的图像信息。录屏终端保存目标控件的图像信息及目标控件的操作事件，并将图像信息及操作事件进行绑定。在其中一种可能实现方式中，录屏终端还获取第一用户界面截图分辨率。保存图像信息、操作事件及分辨率后，完成对此目标控件的录制。如，在调用截图工具后，对“登录”按钮控件进行截图。

用户继续对待测应用进行测试操作，继续对其它控件输入操作，完成其它目标控件的录制。

然后，用户输入结束录制指令。在完成对待测应用的所有测试操作之后，或用户需要结束录制时，用户在第一用户界面上输入操作，请一并参阅图13，用户点击“结束录制”按钮，则结束对待测应用的录制。录屏终端响应结束录制指令，生成自动化测试脚本文件。

在本申请实施例中，录屏终端中安装的自动化测试应用将根据结束指令生成自动化测试脚本文件。所述脚本文件包括目标控件参数信息和目标控件对应的操作类型。或，所述脚本文件包括目标控件的图像信息和目标控件对应的操作类型。或，所述脚本文件包括目标控件的图像信息、目标控件对应的操作类型及第一用户界面截图分辨率。

请参阅图14，图14为本申请实施例提供的另一种自动化测试方法流程示意图。该自动化测试方法应用于电子设备上，该自动化测试方法可实例化为自动化测试应用，安装运行于电子设备上。如安装运行于回放终端。

步骤S21：获取脚本文件。

在本申请实施例中，脚本文件中包括对多个目标控件的测试录制，获取脚本文件后，回放脚本文件。在回放脚本文件时，对脚本文件进行解析，得到各步骤信息，每个步骤信息对应一个目标控件，并分别对各步骤信息中的目标控件元素执行对应的操作事件。具体地，在回放脚本文件时，首先对脚本文件进行解析，以得到各步骤信息，每个步骤信息中包括目标控件参数信息和目标控件对应的操作类型。或，每个步骤信息中包括目标控件的图像信息和目标控件对应的操作类型。或，每个步骤信息中包括目标控件的图像信息、目标控件对应的操作类型及第一用户界面截图分辨率。之后，按照操作事件的发生时间由先到后的顺序，分别对各步骤信息中的目标控件元素执行对应的操作事件。

具体地，针对任一步骤信息，可分别进行以下处理：

步骤S22：判断目标控件的标识是否为图像。

可以理解，脚本文件中有些目标控件可以得到控件参数信息，有些目标控件不可得到控件参数信息，在得到控件参数信息时，脚本文件中就保存该目标控件参数信息，在不得到控件参数信息时，脚本文件中就保存该目标控件的图像信息。

在本申请实施例中，获取得到脚本文件后，对该脚本文件进行解析，判断目标控件的参数信息是否为图像信息，可以读取用户在提示框的对“参数标识”和“图像标识”的标识方式的选择，确定该目标控件的标识是否为“图像标识”。也可以通过判断目标控件的参数信息确定该目标控件的标识是否为“图像标识”。在目标控件的参数消息为图像信息时，则目标控件的标识是图像。在目标控件的参数消息不是图像信息时，则目标控件的标识不是图像。

步骤S23：在目标控件的标识不是图像时，读取目标控件的参数信息和操作事件，并根据操作事件对目标控件进行操作。

在本申请实施例中，根据目标控件的标识不是图像，读取该目标控件对应的参数信息，如控件当中显示的文字(Text)及身份标识(ID)等，以根据目标控件的参数信息查找到对应的控件元素，然后对该控件元素执行对应的操作事件。

示例性地，用户在录屏终端的第一用户界面上对目标控件A进行点击，则回放终端回放所述脚本文件，在回放目标控件A的步骤信息时，在回放终端第二用户界面上显示目标控件A，即呈现目标控件A对应的可视图形用户接口图像。根据目标控件A的参数信息查到目标控件A对应的控件元素，然后对该控件元素执行点击操作事件，用户在第二用户界面上可以看到对目标控件A对应的可视图形用户接口图像的点击。

在本申请实施例中，第二用户界面是该自动化测试应用运行后，对脚本文件进行回放时的界面，即自动化测试应用在回放终端运行后，回放脚本文件，在回放终端显示器上呈现的界面。

步骤S24：在目标控件的标识是图像时，获取目标控件的图像信息。

在本申请实施例中，在目标控件的标识是图像时，读取该目标控件对应的可视图形用户接口图像的图像信息，该目标控件的图像信息即该目标控件的参数信息，以便通过该目标控件的图像信息查找到目标控件对应的控件元素。

步骤S25：根据目标控件的图像信息，确定该目标控件的图像在当前第二用户界面上显示位置区域。

可以理解，在回放脚本文件时，即是根据脚本文件对待测应用进行自动化测试过程，则待测应用的界面会根据脚本文件进行不断更新变换，在第二界面上就不断更新待测应用的界面。

在申请实施例中，在回放脚本时，对某一控件元素执行操作事件，是根据该目标控件在当前屏幕中的坐标位置输入操作事件的，由此，我们需要根据目标控件的图像信息，确定该目标控件的图像在第二用户界面上显示位置，以便在该显示位置进行相应的操作事件，模拟用户进行点击、拖拽等操作。

请一并参阅图15，进一步地，步骤S25具体包括如下步骤：

步骤S251：获取当前第二用户界面截图与该截图的分辨率。

在本申请实施例中，将当前第二用户界面进行截图，即将回放终端当前屏幕进行截图，得到当前第二用户界面截图，获取该截图的分辨率。

可以理解，该当前第二用户界面对应的是当前处理的目标控件所在的用户界面。

步骤S252：判断第一用户界面截图分辨率是否与当前第二用户界面截图分辨率一致。

在本申请实施例中，根据记录的第一用户界面截图分辨率与第二用户界面截图分辨率进行判断比较，确定第一用户界面截图分辨率是否与第二用户界面截图分辨率是否一致。示例性地，在第一用户界面截图分辨率为1600x1200，第二用户界面截图分辨率也为1600x1200时，则第一用户界面截图分辨率是否与第二用户界面截图分辨率一致。

步骤S253：当第一用户界面截图分辨率与当前第二用户界面截图分辨率不一致时，根据第一用户界面截图分辨率对当前第二用户界面截图进行处理，以使得第一用户界面截图分辨率与当前第二用户界面截图分辨率一致。

在本申请实施例中，根据第一用户界面截图分辨率对当前第二用户界面截图进行处理时，可以截取第二用户界面图像，得到第二用户界面截图，根据第一用户界面截图分辨率对第二用户界面截图图像进行图像处理，如进行区域插值，以使得第二用户界面截图分辨率与第一用户界面截图分辨率一致。

可以理解，可以采用其他图像处理方式使得第二用户界面截图分辨率与第一用户界面截图分辨率一致，本申请对此不做具体限定。

步骤S254：当第一用户界面截图分辨率与当前第二用户界面截图分辨率一致时，识别当前第二用户界面截图中与该图像信息相同的图像。

在本申请实施例中，在第二用户界面截图分辨率进行与第一用户界面截图分辨率适配后，获取处理后的第二用户界面截图图像。采用图像识别技术，根据目标控件的截图图像信息识别出该处理后的第二用户界面截图图像中与该图像信息相同的图像，进而识别出当前第二用户界面上对应的目标控件。

示例性地，采用归一化平方差匹配算法，计算目标控件截图图像在处理后的第二用户界面截图图像中的位置，归一化平方差匹配算法采用模板和图像的互相关计算作为相似度的度量方法，所以较大的数表示匹配程度较高，0标识最坏的匹配效果。去除了亮度线性变化对相似度计算的影响，可以保证图像和模板同时变亮或变暗k倍时结果不变。

在本申请实施例中，在进行图像识别之前，通过对第二用户界面截图的分辨率进行处理，调整当前第二用户界面截图的分辨率，使得图像识别的准确率进一步提高，解决了不同设备屏幕分辨率和尺寸不同而导致的目标图像识别不准确的问题。

步骤S255：当识别出相同图像时，确定该相同图像在当前第二用户界面的显示位置区域，以得到该目标控件的图像在当前第二用户界面上显示位置区域。

示例性地，请参阅图16，目标控件的图像信息A，当前第二用户界面上呈现很多界面元素，其中界面元素B的图像与目标控件的图像信息A相同，则确定界面元素B在当前第二用户界面的显示位置，进而得到目标控件对应的图像在第二用户界面上显示位置区域，即为界面元素B显示位置区域。

步骤S26：根据目标控件的操作事件对显示位置区域进行相应操作。

在本申请实施例中，在得到目标控件在当前第二用户界面上的位置区域后，可以通过系统函数调用方法对该位置区域进行相应的操作。

在其中一种可能实现方式中，请参阅图17，步骤S26具体包括：

步骤S221：根据显示位置区域计算出该区域中心坐标值。

步骤S222：将该区域中心坐标值记录为目标控件的坐标值。

步骤S223：根据目标控件的操作事件对目标控件的坐标值进行相应操作。

在本申请实施例中，根据目标控件截图图像识别出目标控件在当前第二用户界面上的显示位置区域，根据显示位置区域计算出该位置区域的中心坐标值，然后将该位置区域的中心坐标值记录为目标控件的坐标值。目标控件的图像信息与目标控件的操作事件绑定，则可以绑定的目标控件的操作事件对目标控件的坐标值进行相应操作，进而实现对目标控件元素执行操作事件。

示例性地，用户在录屏终端的第一用户界面上对目标控件B进行点击，则回放终端回放所述脚本文件时，在执行到目标控件B的步骤时，在回放终端第二用户界面上显示目标控件B，根据目标控件B的截图图像识别出在当前第二用户界面上的目标控件B，确定该目标控件B在当前第二用户界面上的显示位置区域，根据该显示位置区域计算出该区域的中心坐标值，将该区域中心坐标值记录为目标控件B的坐标值，然后对目标控件B的坐标值进行点击。即回放脚本在执行目标控件B步骤时，当前第二用户界面的界面内容与录制目标控件B时的第一界面内容一致，且当前第二用户界面也显示对目标控件B的点击。

在其中一种可能实现方式中，检测到脚本文件中所有的步骤信息均执行完成，则回放结束。根据测试结果生成对应的测试报告。

下面简述用户在执行本申请实施例自动化测试方法过程：

用户获取脚本文件，脚本文件和待测应用在回放终端上运行，对脚本文件进行解析，得到各步骤信息，根据各个步骤信息对待测应用进行自动化测试。

在本申请实施例中，将目标控件的图像信息作为目标控件的参数信息，以通过目标控件的图像信息查找对应的目标控件元素，在回放过程中，通过图像识别出目标控件后，找到该目标控件的坐标点，进而对该坐标点进行相应操作，解决在进行自动化测试中,无法获取控件的参数信息，进而无法对控件进行点击、长按、拖拽等操作，导致有些用户场景无法实现自动化测试的问题。

请参阅图18，图18为本申请实施例提供的一种自动化测试装置示意图。其中，该自动化测试装置可以用于执行图3至图17中所描述的方法的部分或全部步骤，具体请参见图3至图17中的相关描述，在此不再赘述。如图18所示，所述自动化测试装置可以包括：

获取单元10，用于获取第一用户界面上目标控件的图像信息。

参数记录单元20，用于将所述图像信息记录为所述目标控件的参数信息。

事件记录单元30，用于记录所述目标控件的操作事件。

脚本生成单元40，用于根据所述参数信息及所述操作事件生成脚本文件。

可以理解的是，上述自动化测试装置中各个模块的划分仅用于举例说明，在其他的实施例中，可将自动化测试装置按照需要划分为不同的模块，以完成上述自动化测试装置的全部或部分功能。

本申请实施例中提供的自动化测试装置中的各个模块的实现，可为计算机程序的形式。该计算机程序可在电子设备或服务器上运行。该计算机程序构成的程序模块可存储在终端或服务器的存储器上。该计算机程序被处理器执行时，实现本申请实施例中所描述的步骤。在本申请实施例中各个模块的具体实现还可以对应参照图4至图17所示的方法实施例的相应描述。在图18所描述的自动化测试装置中，可以提前回收低使用率内存，从而可以避免应用卡顿，提升用户体验。具体内容可以参见上述自动化测试方法的具体实施例，在此不再详述。

本申请实施例还提供了一种计算机可读存储介质。所述可读存储介质中存储有计算机指令，所述指令在计算设备上运行时，使得计算设备执行前述实施例提供的自动化测试方法。

对于本领域的技术人员而言，显然本申请不限于上述示范性实施例的细节，而且在不背离本申请的精神或基本特征的情况下，能够以其他具体形式实现本申请。因此，只要在本申请的实质精神范围之内，对以上实施例所作的适当改变和变化都应该落在本申请要求保护的范围之内。

Claims (10)

1.一种自动化测试方法，其特征在于，所述方法包括：

获取第一用户界面上目标控件的图像信息；

将所述图像信息记录为所述目标控件的参数信息；

记录所述目标控件的操作事件；以及，

根据所述参数信息及所述操作事件生成脚本文件。

2.如权利要求1所述的自动化测试方法，其特征在于，还包括：

当回放所述脚本文件时，获取所述目标控件的图像信息；

根据所述目标控件的图像信息，确定该目标控件的图像在当前第二用户界面上显示位置区域；以及，

根据目标控件的操作事件对所述显示位置区域进行相应操作。

3.如权利要求2所述的自动化测试方法，其特征在于，还包括：

记录所述第一用户界面截图的分辨率；

将所述分辨率保存至所述脚本文件。

4.如权利要求3所述的自动化测试方法，其特征在于，所述根据所述目标控件的图像信息，确定该目标控件的图像在当前第二用户界面上显示位置区域包括：

获取当前第二用户界面截图与该截图的分辨率；

当第一用户界面截图分辨率与当前第二用户界面截图分辨率不一致时，根据第一用户界面截图分辨率对当前第二用户界面截图进行处理，以使得第一用户界面截图分辨率与当前第二用户界面截图分辨率一致；

当第一用户界面截图分辨率与当前第二用户界面截图分辨率一致时，识别当前第二用户界面截图中与该图像信息相同的图像；

当识别出相同图像时，确定该相同图像在当前第二用户界面的显示位置区域，以得到该目标控件的图像在当前第二用户界面上显示位置区域。

5.如权利要求2至4任一项所述的自动化测试方法，其特征在于，所述根据目标控件的操作事件对所述显示位置区域进行相应操作包括：

根据所述显示位置区域计算出该区域中心坐标值；

将该区域中心坐标值记录为目标控件的坐标值；

根据目标控件的操作事件对目标控件的坐标值进行相应操作。

6.如权利要求2至5任一项所述的自动化测试方法，其特征在于，还包括：

监控到对第一用户界面进行操作的操作事件时，确定所述操作事件对应的目标控件；

确定是否得到目标控件的参数信息；

当得到目标控件的参数信息时，将所述参数信息输出；

当未得到目标控件的参数信息时，进入图像获取模式，以获取第一用户界面上目标控件的图像信息。

7.如权利要求2至6任一项所述的自动化测试方法，其特征在于，还包括：

监控到对第一用户界面进行操作的操作事件时，输出提示框，其中，所述提示框用于展示该目标控件可选择的操作类型。

8.如权利要求4至7任一项所述的自动化测试方法，其特征在于，所述根据第一用户界面截图分辨率对当前第二用户界面截图进行处理，以使得第一用户界面截图分辨率与当前第二用户界面截图分辨率一致包括：

根据第一用户界面截图分辨率对所述第二用户界面截图进行图像处理，以使得第一用户界面截图分辨率与当前第二用户界面截图分辨率一致。

9.一种电子设备，其特征在于，包括：

存储器，用于存储计算机程序；

处理器，用于执行所述存储器存储的所述计算机程序，当所述计算机程序被执行时，所述处理器用于执行如权利要求1至8任意一项所述的自动化测试方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质包括计算机指令，当所述计算机指令在电子设备上运行时，使得所述电子设备执行如权利要求1至8任意一项所述的自动化测试方法。

Images