CN113190455A - 一种元素定位方法及计算设备 - Google Patents
一种元素定位方法及计算设备 Download PDFInfo
- Publication number
- CN113190455A CN113190455A CN202110520722.XA CN202110520722A CN113190455A CN 113190455 A CN113190455 A CN 113190455A CN 202110520722 A CN202110520722 A CN 202110520722A CN 113190455 A CN113190455 A CN 113190455A
- Authority
- CN
- China
- Prior art keywords
- image
- coordinate point
- area
- region
- predetermined
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 59
- 230000004807 localization Effects 0.000 claims description 13
- 230000008569 process Effects 0.000 abstract description 5
- 238000004891 communication Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 8
- 230000009286 beneficial effect Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000012360 testing method Methods 0.000 description 5
- 238000012545 processing Methods 0.000 description 4
- 241000981770 Buddleja asiatica Species 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000002349 favourable effect Effects 0.000 description 2
- 230000007723 transport mechanism Effects 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/56—Extraction of image or video features relating to colour
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Hardware Design (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种元素定位方法,在计算设备中执行,包括步骤:获取包括待识别元素的特征区域图像;获取屏幕图像;将所述屏幕图像中的每个坐标点与特征区域图像中的每个坐标点的颜色值分别进行比对,以便确定所述屏幕图像中与所述特征区域图像相匹配的目标区域;以及根据所述目标区域在屏幕图像中的位置来确定所述特征区域图像在屏幕图像中的相对位置。本发明还一并公开了相应的计算设备。根据本发明的元素定位方法,匹配过程更加稳定,且匹配速度更快,提高了对元素的定位速度。
Description
技术领域
本发明涉及自动化测试技术领域,特别涉及一种元素定位方法及计算设备。
背景技术
元素的定位是自动化测试的核心内容,无论是web自动化测试还是app自动化测试都存在元素定位不到的问题。
根据现有技术中的技术方案,基于Accessibility对Qt应用的元素控件添加ObjectName,利用Dogtail工具提供的方法定位元素控件。由于Dogtail寻找元素时会遍历树形结构里面的所有元素,从而导致元素定位速度慢。而且,Dogtail工具本身存在不稳定性,经常会出现找不到元素的情况。另外,当应用中存在无法添加ObjectName的元素时,只能通过索引的方式寻找元素,不利于自动化测试的维护。
还有一种方案,是采用Opencv提供的模板匹配技术,通过对比目标小图和屏幕大图,进而计算出小图在屏幕中的位置。这种方案,需要通过Opencv提供的imread函数来读取图片,而imread函数需要传入图片的路径,这样,必须要生成目标小图和屏幕大图的本地文件,导致匹配速度较慢,具有一定滞后性。
为此,需要一种元素定位方法来解决上述技术方案中存在的问题。
发明内容
为此,本发明提供一种元素定位方法,以力图解决或者至少缓解上面存在的问题。
根据本发明的一个方面,提供了一种元素定位方法,在计算设备中执行,包括步骤:获取包括待识别元素的特征区域图像;获取屏幕图像;将所述屏幕图像中的每个坐标点与特征区域图像中的每个坐标点的颜色值分别进行比对,以便确定所述屏幕图像中与所述特征区域图像相匹配的目标区域;以及根据所述目标区域在屏幕图像中的位置来确定所述特征区域图像在屏幕图像中的相对位置。
可选地,在根据本发明的元素定位方法中,将屏幕图像中的每个坐标点与特征区域图像中的每个坐标点的颜色值进行比对的步骤包括:遍历所述屏幕图像中的每个坐标点,如果所述屏幕图像中的坐标点与特征区域图像中的一个坐标点的颜色值相等,则:将所述屏幕图像中的坐标点对应的预定区域中的每个坐标点与所述特征区域图像中的相应的每个坐标点的颜色值进行比对,以确定所述预定区域是否与特征区域图像相匹配;如果预定区域与特征区域图像相匹配,则将该预定区域作为目标区域。
可选地,在根据本发明的元素定位方法中,确定预定区域是否与特征区域图像相匹配的步骤包括:如果所述预定区域中的每个坐标点与所述特征区域图像中的相应的每个坐标点的颜色值分别相等,则确定预定区域与所述特征区域图像相匹配;如果所述预定区域中的每个坐标点与所述特征区域图像中的相应的每个坐标点的颜色值不相等,则确定预定区域与所述特征区域图像不匹配。
可选地,在根据本发明的元素定位方法中,还包括步骤:如果所述屏幕图像中的坐标点与特征区域图像中的每个坐标点的颜色值均不相等,则将屏幕图像中的下一个坐标点与特征区域图像中的每个坐标点的颜色值进行比对。
可选地,在根据本发明的元素定位方法中,确定预定区域是否与特征区域图像相匹配的步骤还包括:确定匹配度;确定所述预定区域中与所述特征区域图像中颜色值相等的坐标点的数量与坐标点总数量的比值,判断该比值是否超过匹配度;如果所述比值超过匹配度,则确定该预定区域与所述特征区域图像相匹配;如果所述比值不超过匹配度,则确定该预定区域与特征区域图像不匹配。
可选地,在根据本发明的元素定位方法中,确定预定区域是否与特征区域图像相匹配的步骤还包括:从所述特征区域图像中随机获取预定数量的坐标点;确定所述预定区域中的相应坐标点是否与所述预定数量的坐标点的颜色值分别相等;如果与预定数量的坐标点中的每个坐标点的颜色值分别相等,则确定预定区域与特征区域图像相匹配;如果与预定数量的坐标点中的其中一个或多个坐标点的颜色值不相等,则确定预定区域与特征区域图像不匹配。
可选地,在根据本发明的元素定位方法中,确定所述特征区域图像在屏幕图像中的相对位置的步骤包括:获取所述目标区域的中心坐标;根据所述中心坐标确定所述特征区域图像在屏幕图像中的相对位置。
可选地,在根据本发明的元素定位方法中,所述颜色值为RGB颜色值;所述元素包括按钮、控件。
可选地,在根据本发明的元素定位方法中,遍历所述屏幕图像中的每个坐标点包括:从屏幕图像中的坐标原点开始遍历所述屏幕图像中的每个坐标点。
根据本发明的一个方面,提供了一种计算设备,包括:至少一个处理器;以及存储器,存储有程序指令,其中,所述程序指令被配置为适于由所述至少一个处理器执行,所述程序指令包括用于执行如上所述的元素定位方法的指令。
根据本发明的一个方面,提供了一种存储有程序指令的可读存储介质,当所述程序指令被计算设备读取并执行时,使得所述计算设备执行如上所述方法。
根据本发明的技术方案,提供了一种元素定位方法,通过截取包括待识别元素的特征区域图像,将特征区域图像与整个屏幕图像的坐标点进行颜色值的比对,便能够确定屏幕图像中与特征区域图像相匹配的目标区域,根据目标区域的位置能够确定特征区域图像及其待识别元素在屏幕图像中的相对位置,从而实现了对元素的精准、快速定位。根据本发明的技术方案,针对特征区域图像与屏幕图像进行匹配,匹配过程更加稳定,且匹配速度更快,从而提高了对元素的定位速度。
进一步地,本发明通过预设相应的匹配度,根据匹配度来确定是否匹配,有利于提高对特征区域图像的匹配效率。
此外,本发明中通过随机获取坐标点进行比对的方式,有利于提高对图像的匹配速度,从而提高对元素的定位速度。
附图说明
为了实现上述以及相关目的,本文结合下面的描述和附图来描述某些说明性方面,这些方面指示了可以实践本文所公开的原理的各种方式,并且所有方面及其等效方面旨在落入所要求保护的主题的范围内。通过结合附图阅读下面的详细描述,本公开的上述以及其它目的、特征和优势将变得更加明显。遍及本公开,相同的附图标记通常指代相同的部件或元素。
图1示出了根据本发明一个实施例的计算设备100的示意图;
图2示出了根据本发明一个实施例的元素定位方法200的流程图;
图3示出了根据本发明一个实施例的屏幕图像与特征区域图像的初始比对示意图;以及
图4示出了根据本发明一个实施例的屏幕图像与特征区域图像匹配成功时的示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
图1是示例计算设备100的示意框图。
如图1所示,在基本的配置102中,计算设备100典型地包括系统存储器106和一个或者多个处理器104。存储器总线108可以用于在处理器104和系统存储器106之间的通信。
取决于期望的配置,处理器104可以是任何类型的处理,包括但不限于:微处理器(UP)、微控制器(UC)、数字信息处理器(DSP)或者它们的任何组合。处理器104可以包括诸如一级高速缓存110和二级高速缓存112之类的一个或者多个级别的高速缓存、处理器核心114和寄存器116。示例的处理器核心114可以包括运算逻辑单元(ALU)、浮点数单元(FPU)、数字信号处理核心(DSP核心)或者它们的任何组合。示例的存储器控制器118可以与处理器104一起使用,或者在一些实现中,存储器控制器118可以是处理器104的一个内部部分。
取决于期望的配置,系统存储器106可以是任意类型的存储器,包括但不限于:易失性存储器(诸如RAM)、非易失性存储器(诸如ROM、闪存等)或者它们的任何组合。系统存储器106可以包括操作系统120、一个或者多个应用122以及程序数据124。在一些实施方式中,应用122可以布置为在操作系统上由一个或多个处理器104利用程序数据124执行指令。
计算设备100还包括储存设备132,储存设备132包括可移除储存器136和不可移除储存器138。
计算设备100还可以包括储存接口总线134。储存接口总线134实现了从储存设备132(例如,可移除储存器136和不可移除储存器138)经由总线/接口控制器130到基本配置102的通信。操作系统120、应用122以及数据124的至少一部分可以存储在可移除储存器136和/或不可移除储存器138上,并且在计算设备100上电或者要执行应用122时,经由储存接口总线134而加载到系统存储器106中,并由一个或者多个处理器104来执行。
计算设备100还可以包括有助于从各种接口设备(例如,输出设备142、外设接口144和通信设备146)到基本配置102经由总线/接口控制器130的通信的接口总线140。示例的输出设备142包括图形处理单元148和音频处理单元150。它们可以被配置为有助于经由一个或者多个A/V端口152与诸如显示器或者扬声器之类的各种外部设备进行通信。示例外设接口144可以包括串行接口控制器154和并行接口控制器156,它们可以被配置为有助于经由一个或者多个I/O端口158和诸如输入设备(例如,键盘、鼠标、笔、语音输入设备、触摸输入设备)或者其他外设(例如打印机、扫描仪等)之类的外部设备进行通信。示例的通信设备146可以包括网络控制器160,其可以被布置为便于经由一个或者多个通信端口164与一个或者多个其他计算设备162通过网络通信链路的通信。
网络通信链路可以是通信介质的一个示例。通信介质通常可以体现为在诸如载波或者其他传输机制之类的调制数据信号中的计算机可读指令、数据结构、程序模块,并且可以包括任何信息递送介质。“调制数据信号”可以是这样的信号,它的数据集中的一个或者多个或者它的改变可以在信号中以编码信息的方式进行。作为非限制性的示例,通信介质可以包括诸如有线网络或者专线网络之类的有线介质,以及诸如声音、射频(RF)、微波、红外(IR)或者其它无线介质在内的各种无线介质。这里使用的术语计算机可读介质可以包括存储介质和通信介质二者。
计算设备100可以实现为包括桌面计算机和笔记本计算机配置的个人计算机。当然,计算设备100也可以实现为小尺寸便携(或者移动)电子设备的一部分,这些电子设备可以是诸如蜂窝电话、数码照相机、个人数字助理(PDA)、个人媒体播放器设备、无线网络浏览设备、个人头戴设备、应用专用设备、或者可以包括上面任何功能的混合设备。甚至可以被实现为服务器,如文件服务器、数据库服务器、应用程序服务器和WEB服务器等。本发明的实施例对此均不做限制。
在根据本发明的实施例中,计算设备100被配置为执行根据本发明的元素定位方法200。其中,计算设备100的应用122中包含用于执行本发明的元素定位方法200的多条程序指令,这些程序指令可以被计算设备100读取并执行,以便计算设备100执行根据本发明的元素定位方法200。
图2示出了根据本发明一个实施例的元素定位方法200的流程图。
如图2所示,方法200始于步骤S210。在步骤S210中,获取包括待识别元素的特征区域图像。这里,通过截取待识别的元素所在的区域,以获取特征区域图像。
根据本发明的一个实施例,待识别的元素例如是应用界面中的元素,元素可以包括按钮、控件等。应当指出,本发对元素的具体种类不做限制,并且,本发明也不限于元素所在的应用的具体类型。
随后,在步骤S220中,获取屏幕图像。
随后,在步骤S230中,将屏幕图像中的每个坐标点与特征区域图像中的每个坐标点的颜色值进行比对,以便确定屏幕图像中与特征区域图像相匹配的目标区域。在一个实施例中,颜色值例如为RGB颜色值,但本发明不限于此。
在一个实施例中,遍历屏幕图像中的每个坐标点,例如,可以从屏幕图像中的坐标原点开始遍历屏幕图像中的每个坐标点。对于屏幕图像中的每个坐标点,如果屏幕图像中的坐标点与特征区域图像中的一个坐标点的颜色值相等,则:将屏幕图像中的坐标点对应的预定区域中的每个坐标点与特征区域图像中的相应的每个坐标点的颜色值进行比对,根据每个坐标点的颜色值的比对结果来确定预定区域是否与特征区域图像相匹配。这里,如果预定区域与特征区域图像相匹配,说明屏幕图像与特征区域图像匹配成功,则将该预定区域作为目标区域。
图3示出了根据本发明一个实施例的屏幕图像与特征区域图像的初始比对示意图;图4示出了根据本发明一个实施例的屏幕图像与特征区域图像匹配成功时的示意图。
需要说明的是,如图3和图4所示,屏幕图像即是图3、图4中的外框大图区域,特征区域图像即是填充颜色的小图区域。图4中的中心坐标(x+small.width/2,y+small.height/2)即是匹配成功时屏幕图像中的预定区域的中心坐标。
另外,在遍历屏幕图像中的每个坐标点时,对于屏幕图像中的每个坐标点,如果屏幕图像中的坐标点与特征区域图像中的每个坐标点的颜色值均不相等,说明基于该坐标点与特征区域图像的匹配不成功,则将屏幕图像中的下一个坐标点与特征区域图像中的每个坐标点的颜色值进行比对。直到遍历完屏幕图像中的全部坐标点为止。
最后,在步骤S240中,根据目标区域在屏幕图像中的位置,来确定特征区域图像在屏幕图像中的相对位置。
具体地,在确定屏幕图像中与特征区域图像相匹配的目标区域之后,可以获取目标区域的中心点在屏幕图像中的坐标位置,即获取目标区域的中心坐标。根据该中心坐标可以确定特征区域图像在屏幕图像中的相对位置。
根据一个实施例,可以根据以下方法来确定屏幕图像中的预定区域是否与特征区域图像相匹配:
如果预定区域中的每个坐标点与特征区域图像中的相应的每个坐标点的颜色值分别相等,则确定预定区域与特征区域图像相匹配。这样,该预定区域即被确定为目标区域。
如果预定区域中的每个坐标点与特征区域图像中的相应的每个坐标点的颜色值不相等(包括存在一个或多个坐标点的颜色值不相等),则确定预定区域与特征区域图像不匹配。
根据又一个实施例,可以预先设定相应的匹配度,根据匹配度来确定预定区域是否与特征区域图像相匹配。
具体地,首先确定预设的匹配度。随后,确定预定区域中与特征区域图像中颜色值相等的坐标点的数量与坐标点总数量的比值,并判断该比值是否超过匹配度。
如果预定区域中与特征区域图像中颜色值相等的坐标点的数量与坐标点总数量的比值超过匹配度,则确定该预定区域与特征区域图像相匹配。如果颜色值相等的坐标点的数量与坐标点总数量的比值不超过匹配度,则确定该预定区域与特征区域图像不匹配。
应当理解,根据匹配度来确定是否匹配,有利于提高对特征区域图像的匹配效率。
应当指出,本发明对匹配度的取值大小不做具体限定。在一种实施方式中,匹配度例如是90%,但不限于该数值。
根据又一个实施例,还可以从特征区域图像中随机获取多个坐标点,通过比对随机获取的坐标点与屏幕图像中的预定区域的坐标点的颜色值,来确定预定区域是否与特征区域图像相匹配。
具体而言,从特征区域图像中随机获取预定数量的坐标点,并确定预定区域中的相应坐标点是否与随机获取的预定数量的坐标点的颜色值分别相等。如果与随机获取的预定数量的坐标点中的每个坐标点的颜色值分别相等,则确定预定区域与特征区域图像相匹配。
如果与随机获取的预定数量的坐标点中的其中一个或多个坐标点的颜色值不相等,则确定预定区域与特征区域图像不匹配。也即是,如果在随机获取的坐标点中存在与预定区域的相应坐标点的颜色值不相等的情况,则确定预定区域与特征区域图像不匹配,并可以直接结束本次匹配,进行屏幕图像中的下一个坐标点与特征区域图像坐标点的匹配。
应当理解,通过随机获取坐标点进行比对的方式,有利于提高对图像的匹配速度,从而提高对元素的定位速度。
应当指出,本发明对随机获取的坐标点的预定数量不做限定,其可以由本领域技术人员根据实际情况自行设置。
根据又一个实施例,在从特征区域图像中随机获取坐标点来与屏幕图像中预定区域的坐标点的颜色值进行比对时,也可以预先设定相应的匹配度,根据预设的匹配度来确定预定区域是否与特征区域图像相匹配。具体而言,从特征区域图像中随机获取预定数量的坐标点,确定预定区域中的相应坐标点是否与随机获取的预定数量的坐标点的颜色值相等,随后确定颜色值相等的坐标点数量与预定数量的比值。如果颜色值相等的坐标点数量与预定数量的比值超过匹配度,则确定预定区域与特征区域图像相匹配。反之,如果颜色值相等的坐标点数量与预定数量的比值不超过匹配度,则确定预定区域与特征区域图像不匹配。这样,有利于进一步提高匹配效率。
根据本发明的元素定位方法200,通过截取包括待识别元素的特征区域图像,将特征区域图像与整个屏幕图像的坐标点进行颜色值的比对,便能够确定屏幕图像中与特征区域图像相匹配的目标区域,根据目标区域的位置能够确定特征区域图像及其待识别元素在屏幕图像中的相对位置,从而实现了对元素的精准、快速定位。根据本发明的技术方案,针对特征区域图像与屏幕图像进行匹配,匹配过程更加稳定,且匹配速度更快,从而提高了对元素的定位速度。进一步地,本发明通过预设相应的匹配度,根据匹配度来确定是否匹配,有利于提高对特征区域图像的匹配效率。此外,本发明中通过随机获取坐标点进行比对的方式,有利于提高对图像的匹配速度,从而提高对元素的定位速度。
A9、如A2所述的方法,其中,遍历所述屏幕图像中的每个坐标点包括:从屏幕图像中的坐标原点开始遍历所述屏幕图像中的每个坐标点。
这里描述的各种技术可结合硬件或软件,或者它们的组合一起实现。从而,本发明的方法和设备,或者本发明的方法和设备的某些方面或部分可采取嵌入有形媒介,例如可移动硬盘、U盘、软盘、CD-ROM或者其它任意机器可读的存储介质中的程序代码(即指令)的形式,其中当程序被载入诸如计算机之类的机器,并被所述机器执行时,所述机器变成实践本发明的设备。
在程序代码在可编程计算机上执行的情况下,计算设备一般包括处理器、处理器可读的存储介质(包括易失性和非易失性存储器和/或存储元件),至少一个输入装置,和至少一个输出装置。其中,存储器被配置用于存储程序代码;处理器被配置用于根据该存储器中存储的所述程序代码中的指令,执行本发明的多语言垃圾文本的识别方法。
以示例而非限制的方式,可读介质包括可读存储介质和通信介质。可读存储介质存储诸如计算机可读指令、数据结构、程序模块或其它数据等信息。通信介质一般以诸如载波或其它传输机制等已调制数据信号来体现计算机可读指令、数据结构、程序模块或其它数据,并且包括任何信息传递介质。以上的任一种的组合也包括在可读介质的范围之内。
在此处所提供的说明书中,算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与本发明的示例一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下被实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员应当理解在本文所公开的示例中的设备的模块或单元或组件可以布置在如该实施例中所描述的设备中,或者可替换地可以定位在与该示例中的设备不同的一个或多个设备中。前述示例中的模块可以组合为一个模块或者此外可以分成多个子模块。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
此外,所述实施例中的一些在此被描述成可以由计算机系统的处理器或者由执行所述功能的其它装置实施的方法或方法元素的组合。因此,具有用于实施所述方法或方法元素的必要指令的处理器形成用于实施该方法或方法元素的装置。此外,装置实施例的在此所述的元素是如下装置的例子:该装置用于实施由为了实施该发明的目的的元素所执行的功能。
如在此所使用的那样,除非另行规定,使用序数词“第一”、“第二”、“第三”等等来描述普通对象仅仅表示涉及类似对象的不同实例,并且并不意图暗示这样被描述的对象必须具有时间上、空间上、排序方面或者以任意其它方式的给定顺序。
尽管根据有限数量的实施例描述了本发明,但是受益于上面的描述,本技术领域内的技术人员明白,在由此描述的本发明的范围内,可以设想其它实施例。此外,应当注意,本说明书中使用的语言主要是为了可读性和教导的目的而选择的,而不是为了解释或者限定本发明的主题而选择的。因此,在不偏离所附权利要求书的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。对于本发明的范围,对本发明所做的公开是说明性的,而非限制性的,本发明的范围由所附权利要求书限定。
Claims (10)
1.一种元素定位方法,在计算设备中执行,包括步骤:
获取包括待识别元素的特征区域图像;
获取屏幕图像;
将所述屏幕图像中的每个坐标点与特征区域图像中的每个坐标点的颜色值分别进行比对,以便确定所述屏幕图像中与所述特征区域图像相匹配的目标区域;以及
根据所述目标区域在屏幕图像中的位置来确定所述特征区域图像在屏幕图像中的相对位置。
2.如权利要求1所述的方法,其中,将屏幕图像中的每个坐标点与特征区域图像中的每个坐标点的颜色值进行比对的步骤包括:
遍历所述屏幕图像中的每个坐标点,如果所述屏幕图像中的坐标点与特征区域图像中的一个坐标点的颜色值相等,则:
将所述屏幕图像中的坐标点对应的预定区域中的每个坐标点与所述特征区域图像中的相应的每个坐标点的颜色值进行比对,以确定所述预定区域是否与特征区域图像相匹配;
如果预定区域与特征区域图像相匹配,则将该预定区域作为目标区域。
3.如权利要求2所述的方法,其中,确定预定区域是否与特征区域图像相匹配的步骤包括:
如果所述预定区域中的每个坐标点与所述特征区域图像中的相应的每个坐标点的颜色值分别相等,则确定预定区域与所述特征区域图像相匹配;
如果所述预定区域中的每个坐标点与所述特征区域图像中的相应的每个坐标点的颜色值不相等,则确定预定区域与所述特征区域图像不匹配。
4.如权利要求2所述的方法,其中,还包括步骤:
如果所述屏幕图像中的坐标点与特征区域图像中的每个坐标点的颜色值均不相等,则将屏幕图像中的下一个坐标点与特征区域图像中的每个坐标点的颜色值进行比对。
5.如权利要求2所述的方法,其中,确定预定区域是否与特征区域图像相匹配的步骤还包括:
确定匹配度;
确定所述预定区域中与所述特征区域图像中颜色值相等的坐标点的数量与坐标点总数量的比值,判断该比值是否超过匹配度;
如果所述比值超过匹配度,则确定该预定区域与所述特征区域图像相匹配;
如果所述比值不超过匹配度,则确定该预定区域与特征区域图像不匹配。
6.如权利要求2-5中任一项所述的方法,其中,确定预定区域是否与特征区域图像相匹配的步骤还包括:
从所述特征区域图像中随机获取预定数量的坐标点;
确定所述预定区域中的相应坐标点是否与所述预定数量的坐标点的颜色值分别相等;
如果与预定数量的坐标点中的每个坐标点的颜色值分别相等,则确定预定区域与特征区域图像相匹配;
如果与预定数量的坐标点中的其中一个或多个坐标点的颜色值不相等,则确定预定区域与特征区域图像不匹配。
7.如权利要求1-5中任一项所述的方法,其中,确定所述特征区域图像在屏幕图像中的相对位置的步骤包括:
获取所述目标区域的中心坐标;
根据所述中心坐标确定所述特征区域图像在屏幕图像中的相对位置。
8.如权利要求1-5中任一项所述的方法,其中,
所述颜色值为RGB颜色值;
所述元素包括按钮、控件。
9.一种计算设备,包括:
至少一个处理器;以及
存储器,存储有程序指令,其中,所述程序指令被配置为适于由所述至少一个处理器执行,所述程序指令包括用于执行如权利要求1-8中任一项所述的方法的指令。
10.一种存储有程序指令的可读存储介质,当所述程序指令被计算设备读取并执行时,使得所述计算设备执行如权利要求1-8中任一项所述方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110520722.XA CN113190455B (zh) | 2021-05-13 | 一种元素定位方法及计算设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110520722.XA CN113190455B (zh) | 2021-05-13 | 一种元素定位方法及计算设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113190455A true CN113190455A (zh) | 2021-07-30 |
CN113190455B CN113190455B (zh) | 2024-06-07 |
Family
ID=
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107330917A (zh) * | 2017-06-23 | 2017-11-07 | 歌尔股份有限公司 | 移动目标的跟踪拍摄方法和跟踪设备 |
CN107845113A (zh) * | 2017-10-20 | 2018-03-27 | 广州阿里巴巴文学信息技术有限公司 | 目标元素定位方法、装置以及用户界面测试方法、装置 |
WO2018082332A1 (zh) * | 2016-11-07 | 2018-05-11 | 深圳光启合众科技有限公司 | 图像处理方法和装置、机器人 |
CN111353485A (zh) * | 2018-12-20 | 2020-06-30 | 中国移动通信集团辽宁有限公司 | 印章识别方法、装置、设备及介质 |
CN112235650A (zh) * | 2020-10-19 | 2021-01-15 | 广州酷狗计算机科技有限公司 | 视频处理方法、装置、终端及存储介质 |
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018082332A1 (zh) * | 2016-11-07 | 2018-05-11 | 深圳光启合众科技有限公司 | 图像处理方法和装置、机器人 |
CN107330917A (zh) * | 2017-06-23 | 2017-11-07 | 歌尔股份有限公司 | 移动目标的跟踪拍摄方法和跟踪设备 |
CN107845113A (zh) * | 2017-10-20 | 2018-03-27 | 广州阿里巴巴文学信息技术有限公司 | 目标元素定位方法、装置以及用户界面测试方法、装置 |
CN111353485A (zh) * | 2018-12-20 | 2020-06-30 | 中国移动通信集团辽宁有限公司 | 印章识别方法、装置、设备及介质 |
CN112235650A (zh) * | 2020-10-19 | 2021-01-15 | 广州酷狗计算机科技有限公司 | 视频处理方法、装置、终端及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11055561B2 (en) | Similar picture identification method, device, and storage medium | |
CN107610059B (zh) | 一种图像处理方法及移动终端 | |
CN110008997B (zh) | 图像纹理相似度识别方法、装置及计算机可读存储介质 | |
CN112000417B (zh) | 一种窗口展示效果的控制方法及计算设备 | |
CN111582267B (zh) | 一种文本检测方法、计算设备及可读存储介质 | |
WO2018184255A1 (zh) | 图像校正的方法和装置 | |
CN109683841B (zh) | 多显示器环境下的控件显示方法及计算设备 | |
CN114416252A (zh) | 一种窗口显示方法、装置、计算设备和存储介质 | |
CN114691226A (zh) | 一种多操作系统切换运行方法、计算设备及存储介质 | |
CN114880072A (zh) | 一种虚拟机的应用窗口显示方法、计算设备及存储介质 | |
CN111563259B (zh) | 一种傀儡进程检测方法、装置、可读存储介质及计算设备 | |
KR102239588B1 (ko) | 이미지 처리 방법 및 장치 | |
CN110989880B (zh) | 一种界面元素处理方法、装置及可读存储介质 | |
CN113190455B (zh) | 一种元素定位方法及计算设备 | |
CN113190455A (zh) | 一种元素定位方法及计算设备 | |
CN111932198A (zh) | 文件审核方法及相关产品 | |
CN108629219B (zh) | 一种识别一维码的方法及装置 | |
CN113961086B (zh) | 一种快捷键实现方法、计算设备及存储介质 | |
CN111966262B (zh) | 一种图片显示方法及计算设备 | |
CN113095320A (zh) | 一种车牌识别方法、系统及计算设备 | |
CN107688613B (zh) | 一种数据包的处理规则优化方法及计算设备 | |
CN113467695B (zh) | 一种任务执行方法、装置、计算设备及存储介质 | |
CN113190340B (zh) | 一种任务切换方法及计算设备 | |
CN112580638B (zh) | 文本检测方法、装置、存储介质及电子设备 | |
CN114020701A (zh) | 一种快捷方式创建方法、计算设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |