CN110909739B - 图片识别并操作的方法、装置、计算机设备及存储介质 - Google Patents
图片识别并操作的方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN110909739B CN110909739B CN201911135204.5A CN201911135204A CN110909739B CN 110909739 B CN110909739 B CN 110909739B CN 201911135204 A CN201911135204 A CN 201911135204A CN 110909739 B CN110909739 B CN 110909739B
- Authority
- CN
- China
- Prior art keywords
- picture
- webpage
- coordinate
- coordinates
- clicking
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 28
- 238000012360 testing method Methods 0.000 claims abstract description 27
- 238000004590 computer program Methods 0.000 claims description 11
- 230000009471 action Effects 0.000 claims description 8
- 238000012545 processing Methods 0.000 claims description 6
- BUGBHKTXTAQXES-UHFFFAOYSA-N Selenium Chemical compound [Se] BUGBHKTXTAQXES-UHFFFAOYSA-N 0.000 claims 2
- 229910052711 selenium Inorganic materials 0.000 claims 2
- 239000011669 selenium Substances 0.000 claims 2
- 238000004364 calculation method Methods 0.000 description 5
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/62—Text, e.g. of license plates, overlay texts or captions on TV images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明公开了图片识别并操作的方法、装置、计算机设备及存储介质，其中，方法包括：当接收到需要操作的网页元素的元素信息时，判断所述元素信息中是否包含所述网页元素的元素图片；若包含所述网页元素的元素图片，则截取当前网页为网页图片；查找所述元素图片在所述网页图片上的坐标；基于查找到的坐标，对所述网页上的所述网页元素进行定位，并在定位到所述网页元素后，对相应的网页元素进行自动化测试；该方法利用元素图片在网页图片上进行定位获取坐标，然后通过该坐标对页面上的元素进行定位，可以提高定位效率，简化定位步骤。
Description
技术领域
本发明涉及界面自动化测试领域，尤其涉及图片识别并操作的方法、装置、计算机设备及存储介质。
背景技术
现有技术中，网页界面自动化测试一般是通过编写脚本模拟人工对页面进行操作。编写脚本需要通过元素的路径、名称等信息定位到对应的元素，然后再对元素进行点击或输入等模拟人工的操作，而元素的各种信息的获取，需要通过打开网页源码，查看到该元素的信息才能确定。显然，现有技术执行起来比较繁琐费时，且存在部分元素无法通过上述信息获取。
发明内容
本发明实施例提供了图片识别并操作的方法、装置、计算机设备及存储介质，旨在解决现有技术中元素定位方式繁琐费时等问题。
一种图片识别并操作的方法，其中，包括：
当接收到需要操作的网页元素的元素信息时，判断所述元素信息中是否包含所述网页元素的元素图片；
若包含所述网页元素的元素图片，则截取当前网页为网页图片；
查找所述元素图片在所述网页图片上的坐标；
基于查找到的坐标，对所述网页上的所述网页元素进行定位，并在定位到所述网页元素后，对相应的网页元素进行自动化测试。
优选的，所述自动化测试包括：点击、输入或断言。
优选的，所述查找所述元素图片在所述网页图片上的坐标，包括：
通过opencv在网页图片中查找元素图片的位置；
通过元素图片的大小和元素图片的位置计算出该元素图片在网页图片上的坐标。
优选的，所述通过元素图片的大小和元素图片的位置计算出该元素图片在网页图片上的坐标，包括：
获取元素图片的宽度和长度；
将元素图片的左上角横坐标加上元素图片宽度的一半作为元素图片中心坐标的横坐标；
将元素图片的左上角纵坐标加上元素图片长度的一半作为元素图片中心坐标的纵坐标。
优选的，还包括：
当断言方式是图片断言，并在所述网页图片查找到所述元素图片时，则返回断言成功。
优选的，所述查找所述元素图片在所述网页图片上的坐标，包括：
若在所述网页图片上查找到多个所述元素图片时，则查找所述网页图片上从上至下、从左至右的第一个元素图片的坐标。
优选的，所述通过opencv在网页图片中查找元素图片的位置，包括：
对元素图片与所述网页图片进行匹配识别；
获取所述网页图片中与所述元素图片相似度超过预设阈值的区域；
将所述区域的位置作为元素图片的位置。
本发明实施例还提供一种图片识别并操作的装置，其中，包括：
判断单元，用于当接收到需要操作的网页元素的元素信息时，判断所述元素信息中是否包含所述网页元素的元素图片；
截取单元，用于若包含所述网页元素的元素图片，则截取当前网页为网页图片；
查找单元，用于查找所述元素图片在所述网页图片上的坐标；
测试单元，用于基于查找到的坐标，对所述网页上的所述网页元素进行定位，并在定位到所述网页元素后，对相应的网页元素进行自动化测试。
本发明实施例还提供一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其中，所述处理器执行所述计算机程序时实现如上所述的图片识别并操作的方法。
本发明实施例还提供一种计算机可读存储介质，其中，所述计算机可读存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行如上所述的图片识别并操作的方法。
本发明实施例提供了图片识别并操作的方法、装置、计算机设备及存储介质，其中，方法包括：当接收到需要操作的网页元素的元素信息时，判断所述元素信息中是否包含所述网页元素的元素图片；若包含所述网页元素的元素图片，则截取当前网页为网页图片；查找所述元素图片在所述网页图片上的坐标；基于查找到的坐标，对所述网页上的所述网页元素进行定位，并在定位到所述网页元素后，对相应的网页元素进行自动化测试。该方法利用元素图片在网页图片上进行定位获取坐标，然后通过该坐标对页面上的元素进行定位，可以提高定位效率，简化定位步骤。
附图说明
为了更清楚地说明本发明实施例技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的图片识别并操作的方法的流程示意图；
图2为本发明实施例提供的图片识别并操作的装置的示意性框图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
请参阅图1，图1为本发明实施例提供的一种图片识别并操作的方法的流程示意图，该方法可以包括步骤S101～S104：
S101、当接收到需要操作的网页元素的元素信息时，判断所述元素信息中是否包含所述网页元素的元素图片；
在需要进行界面自动化测试时，会接收到需要操作(即测试)的网页元素的元素信息，接收到该元素信息后，首先对该元素信息进行分析，以便确认该元素信息中是否包含网页元素的元素图片。
如果该元素信息不包含网页元素的元素图片，那么可以按照传统的方法进行定位和测试。如果该元素信息包含网页元素的元素图片，那么进入后续步骤进行基于图片的定位和测试操作。
具体的，使用者可在界面自动化测试平台的元素管理中上传需要操作的元素图片，这样即可自动创建一图片元素。
S102、若包含所述网页元素的元素图片，则截取当前网页为网页图片；
本步骤中，若确定上传的元素信息包含元素图片，那么截取当前网页为网页图片，以便在后续步骤中进行识别和定位。
S103、查找所述元素图片在所述网页图片上的坐标；
本步骤中，可以根据元素图片在网页图片中快速进行定位，即获取元素图片在网页图片上的坐标。
在一实施例中，所述步骤S103包括：
通过opencv在网页图片中查找元素图片的位置；
通过元素图片的大小和元素图片的位置计算出该元素图片在网页图片上的坐标。opencv是一个基于BSD许可(开源)发行的跨平台计算机视觉库，可以运行在Linux、Windows、Android和Mac OS操作系统上。opencv具有轻量级而且高效的特点，具体是由一系列C函数和少量C++类构成，同时提供了Python、Ruby、MATLAB等语言的接口，实现了图像处理和计算机视觉方面的很多通用算法。
具体的，先利用opencv在网页图片中查找元素图片的位置，然后通过元素图片的大小和元素图片的位置计算出坐标。
在一实施例中，所述通过opencv在网页图片中查找元素图片的位置，包括：
对元素图片与所述网页图片进行匹配识别；
获取所述网页图片中与所述元素图片相似度超过预设阈值的区域；
将所述区域的位置作为元素图片的位置。
本实施例中，可先利用元素图片与网页图片进行匹配识别，也就是将元素图片与网页图片进行比对，从而获取网页图片中与元素图片相似的区域，该区域应是与元素图片相似度超过预设阈值的区域，如超过该预设阈值，则本实施例则认为该区域与元素图片相同，所以可将该区域的位置作为元素图片的位置。
在一实施例中，所述通过元素图片的大小和元素图片的位置计算出该元素图片在网页图片上的坐标，包括：
获取元素图片的宽度和长度；
将元素图片的左上角横坐标加上元素图片宽度的一半作为元素图片中心坐标的横坐标；
将元素图片的左上角纵坐标加上元素图片长度的一半作为元素图片中心坐标的纵坐标。
在本实施例中，可先获取元素图片的宽度和长度，然后并获取元素图片的左上角横坐标和左上角纵坐标，然后将元素图片的左上角横坐标加上元素图片宽度的一半作为元素图片中心坐标的横坐标；以及将元素图片的左上角纵坐标加上元素图片长度的一半作为元素图片中心坐标的纵坐标，这样整个元素图片在网页图片上的坐标就以其在网页图片上的中心坐标为准。
在一实施例中，所述步骤S103包括：
若在所述网页图片上查找到多个所述元素图片时，则查找所述网页图片上从上至下、从左至右的第一个元素图片的坐标。
本实施例中，可能会在网页图片上找到多个元素图片，也就是在网页图片上找到多个与所述元素图片相似度超过阈值的区域，那么可以判定在所述网页图片上可查找到多个元素图片，在此情况下，将网页图片上从上至下、从左至右的第一个区域作为目标区域，即该区域即为需要查找的元素图片。该区域的位置就是元素图片在网页图片上的坐标。
S104、基于查找到的坐标，对所述网页上的所述网页元素进行定位，并在定位到所述网页元素后，对相应的网页元素进行自动化测试。
此处就是根据查找到的坐标，对网页上的对应的网页元素进行定位，也就是直接在网页上定位出该坐标，该坐标的位置就是需要测试的网页元素的位置，这样可以方便对相应的网页元素进行自动化测试。
在一实施例中，所述自动化测试包括：点击、输入或断言。
例如，通过selenium.webdriver.common.action_chains的鼠标事件，点击坐标或者点击坐标后输入文本，从而实现点击或输入的测试。
上述selenium.webdriver.common.action_chains的鼠标事件具体可包括：
click(on_element＝None)——单击鼠标左键；
click_and_hold(on_element＝None)——点击鼠标左键，不松开；
context_click(on_element＝None)——点击鼠标右键；
double_click(on_element＝None)——双击鼠标左键；
drag_and_drop(source,target)——拖拽到某个元素然后松开；
drag_and_drop_by_offset(source,xoffset,yoffset)——拖拽到某个坐标然后松开；
key_down(value,element＝None)——按下某个键盘上的键；
key_up(value,element＝None)——松开某个键；
move_by_offset(xoffset,yoffset)——鼠标从当前位置移动到某个坐标；
move_to_element(to_element)——鼠标移动到某个元素；
move_to_element_with_offset(to_element,xoffset,yoffset)——移动到距某个元素(左上角坐标)多少距离的位置；
perform()——执行链中的所有动作；
release(on_element＝None)——在某个元素位置松开鼠标左键；
send_keys(*keys_to_send)——发送某个键到当前焦点的元素；
send_keys_to_element(element,*keys_to_send)——发送某个键到指定元素。
在一实施例中，所述的图片识别并操作的方法还包括：
当断言方式是图片断言，并在所述网页图片查找到所述元素图片时，则返回断言成功。
具体的，执行用例断言，当断言方式是图片断言时，则在网页图片中找到元素图片则返回断言正确，未找到则返回断言失败。
本发明实施例在现有的元素定位方式上提供一种新的定位方式，使界面自动化测试有更多的选择，并且自动化测试能覆盖更多的场景。
请参阅图2，图2为本发明实施例提供的一种图片识别并操作的装置的示意性框图，该装置200可以包括：
判断单元201，用于当接收到需要操作的网页元素的元素信息时，判断所述元素信息中是否包含所述网页元素的元素图片；
截取单元202，用于若包含所述网页元素的元素图片，则截取当前网页为网页图片；
查找单元203，用于查找所述元素图片在所述网页图片上的坐标；
测试单元204，用于基于查找到的坐标，对所述网页上的所述网页元素进行定位，并在定位到所述网页元素后，对相应的网页元素进行自动化测试。
在一实施例中，所述自动化测试包括：点击、输入或断言。
在一实施例中，所述查找单元203包括：
位置查找单元，用于通过opencv在网页图片中查找元素图片的位置；
坐标计算单元，用于通过元素图片的大小和元素图片的位置计算出该元素图片在网页图片上的坐标。
在一实施例中，所述坐标计算单元包括：
尺寸获取单元，用于获取元素图片的宽度和长度；
横坐标计算单元，用于将元素图片的左上角横坐标加上元素图片宽度的一半作为元素图片中心坐标的横坐标；
纵坐标计算单元，用于将元素图片的左上角纵坐标加上元素图片长度的一半作为元素图片中心坐标的纵坐标。
在一实施例中，所述的图片识别并操作的装置还包括：
断言单元，用于当断言方式是图片断言，并在所述网页图片查找到所述元素图片时，则返回断言成功。
在一实施例中，所述查找单元203包括：
遍历单元，用于若在所述网页图片上查找到多个所述元素图片时，则查找所述网页图片上从上至下、从左至右的第一个元素图片的坐标。
在一实施例中，所述位置查找单元包括：
识别单元，用于对元素图片与所述网页图片进行匹配识别；
相似度计算单元，用于获取所述网页图片中与所述元素图片相似度超过预设阈值的区域；
确认单元，用于将所述区域的位置作为元素图片的位置。
本发明实施例还提供一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上所述的图片识别并操作的方法。
本发明实施例还提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行如上所述的图片识别并操作的方法。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的设备、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
在本发明所提供的几个实施例中，应该理解到，所揭露的设备、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为逻辑功能划分，实际实现时可以有另外的划分方式，也可以将具有相同功能的单元集合成一个单元，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接，也可以是电的，机械的或其它的形式连接。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本发明实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以是两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分，或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。
Claims (4)
1.一种图片识别并操作的方法，其特征在于，包括：
当接收到需要操作的网页元素的元素信息时，判断所述元素信息中是否包含所述网页元素的元素图片；
若包含所述网页元素的元素图片，则截取当前网页为网页图片；
查找所述元素图片在所述网页图片上的坐标；
基于查找到的坐标，对所述网页上的所述网页元素进行定位，并在定位到所述网页元素后，对相应的网页元素进行自动化测试；
所述查找所述元素图片在所述网页图片上的坐标，包括：
通过opencv在网页图片中查找元素图片的位置；
通过元素图片的大小和元素图片的位置计算出该元素图片在网页图片上的坐标；
所述通过元素图片的大小和元素图片的位置计算出该元素图片在网页图片上的坐标，包括：
获取元素图片的宽度和长度；
将元素图片的左上角横坐标加上元素图片宽度的一半作为元素图片中心坐标的横坐标；
将元素图片的左上角纵坐标加上元素图片长度的一半作为元素图片中心坐标的纵坐标；
所述查找所述元素图片在所述网页图片上的坐标，包括：
若在所述网页图片上查找到多个所述元素图片时，则查找所述网页图片上从上至下、从左至右的第一个元素图片的坐标；
所述通过opencv在网页图片中查找元素图片的位置，包括：
对元素图片与所述网页图片进行匹配识别；
获取所述网页图片中与所述元素图片相似度超过预设阈值的区域；
将所述区域的位置作为元素图片的位置；
所述自动化测试包括：点击、输入或断言，通过selenium.webdriver.common.action_chains的鼠标事件，点击坐标或者点击坐标后输入文本，从而实现点击或输入的测试；
所述selenium.webdriver.common.action_chains的鼠标事件包括：单击鼠标左键；点击鼠标左键，不松开；点击鼠标右键；双击鼠标左键；拖拽到某个元素然后松开；拖拽到某个坐标然后松开；按下某个键盘上的键；松开某个键；鼠标从当前位置移动到某个坐标；鼠标移动到某个元素；移动到距某个元素多少距离的位置；执行链中的所有动作；在某个元素位置松开鼠标左键；发送某个键到当前焦点的元素；发送某个键到指定元素；
还包括：
当断言方式是图片断言，并在所述网页图片查找到所述元素图片时，则返回断言成功，未找到则返回断言失败。
2.一种图片识别并操作的装置，其特征在于，包括：
判断单元，用于当接收到需要操作的网页元素的元素信息时，判断所述元素信息中是否包含所述网页元素的元素图片；
截取单元，用于若包含所述网页元素的元素图片，则截取当前网页为网页图片；
查找单元，用于查找所述元素图片在所述网页图片上的坐标；
测试单元，用于基于查找到的坐标，对所述网页上的所述网页元素进行定位，并在定位到所述网页元素后，对相应的网页元素进行自动化测试；
所述查找所述元素图片在所述网页图片上的坐标，包括：
通过opencv在网页图片中查找元素图片的位置；
通过元素图片的大小和元素图片的位置计算出该元素图片在网页图片上的坐标；
所述通过元素图片的大小和元素图片的位置计算出该元素图片在网页图片上的坐标，包括：
获取元素图片的宽度和长度；
将元素图片的左上角横坐标加上元素图片宽度的一半作为元素图片中心坐标的横坐标；
将元素图片的左上角纵坐标加上元素图片长度的一半作为元素图片中心坐标的纵坐标；
所述查找所述元素图片在所述网页图片上的坐标，包括：
若在所述网页图片上查找到多个所述元素图片时，则查找所述网页图片上从上至下、从左至右的第一个元素图片的坐标；
所述通过opencv在网页图片中查找元素图片的位置，包括：
对元素图片与所述网页图片进行匹配识别；
获取所述网页图片中与所述元素图片相似度超过预设阈值的区域；
将所述区域的位置作为元素图片的位置；
所述自动化测试包括：点击、输入或断言，通过selenium.webdriver.common.action_chains的鼠标事件，点击坐标或者点击坐标后输入文本，从而实现点击或输入的测试；
所述selenium.webdriver.common.action_chains的鼠标事件包括：单击鼠标左键；点击鼠标左键，不松开；点击鼠标右键；双击鼠标左键；拖拽到某个元素然后松开；拖拽到某个坐标然后松开；按下某个键盘上的键；松开某个键；鼠标从当前位置移动到某个坐标；鼠标移动到某个元素；移动到距某个元素多少距离的位置；执行链中的所有动作；在某个元素位置松开鼠标左键；发送某个键到当前焦点的元素；发送某个键到指定元素；
还包括：
当断言方式是图片断言，并在所述网页图片查找到所述元素图片时，则返回断言成功，未找到则返回断言失败。
3.一种计算机设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1所述的图片识别并操作的方法。
4.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，所述计算机程序当被处理器执行时使所述处理器执行如权利要求1所述的图片识别并操作的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911135204.5A CN110909739B (zh) | 2019-11-19 | 2019-11-19 | 图片识别并操作的方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201911135204.5A CN110909739B (zh) | 2019-11-19 | 2019-11-19 | 图片识别并操作的方法、装置、计算机设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN110909739A CN110909739A (zh) | 2020-03-24 |
| CN110909739B true CN110909739B (zh) | 2021-01-08 |
Family
ID=69818132
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201911135204.5A Active CN110909739B (zh) | 2019-11-19 | 2019-11-19 | 图片识别并操作的方法、装置、计算机设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN110909739B (zh) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102549556A (zh) * | 2010-09-28 | 2012-07-04 | 株式会社野村综合研究所 | 图像取得装置、图像取得方法及计算机程序 |
| CN104427172A (zh) * | 2013-08-30 | 2015-03-18 | 京瓷办公信息系统株式会社 | 图像形成装置、测试系统、以及测试方法 |
| CN105068918A (zh) * | 2015-06-03 | 2015-11-18 | 中国人民财产保险股份有限公司 | 一种页面测试方法及装置 |
| CN108021353A (zh) * | 2017-12-11 | 2018-05-11 | 中盈优创资讯科技有限公司 | 软件产品的说明文档的生成装置、方法、设备及存储介质 |
| CN110188275A (zh) * | 2019-05-30 | 2019-08-30 | 广州虎牙信息科技有限公司 | 一种网页元素的浏览监控方法、装置、设备和存储介质 |
Family Cites Families (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102143016B (zh) * | 2010-11-25 | 2013-08-07 | 中国移动（深圳）有限公司 | 网站自动化测试方法和系统 |
| CN102932197B (zh) * | 2011-08-11 | 2017-05-10 | 阿里巴巴集团控股有限公司 | 一种测试方法及测试系统 |
| US9523735B2 (en) * | 2014-10-08 | 2016-12-20 | Eastman Kodak Company | Electrical test system with vision-guided alignment |
| US9946638B1 (en) * | 2016-03-30 | 2018-04-17 | Open Text Corporation | System and method for end to end performance response time measurement based on graphic recognition |
| CN107133177A (zh) * | 2017-05-12 | 2017-09-05 | 郑州云海信息技术有限公司 | 一种自动化测试框架 |
| CN107845113B (zh) * | 2017-10-20 | 2021-07-30 | 阿里巴巴（中国）有限公司 | 目标元素定位方法、装置以及用户界面测试方法、装置 |
| CN108108101B (zh) * | 2017-12-28 | 2020-10-16 | 广州京墨医疗科技有限公司 | 图片测试方法、装置、系统、计算机设备和存储介质 |
| CN110058991A (zh) * | 2018-11-30 | 2019-07-26 | 阿里巴巴集团控股有限公司 | 一种应用软件的自动测试方法和系统 |
| CN110209978B (zh) * | 2019-01-28 | 2023-05-16 | 腾讯科技（深圳）有限公司 | 一种数据处理方法和相关装置 |
-
2019
- 2019-11-19 CN CN201911135204.5A patent/CN110909739B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102549556A (zh) * | 2010-09-28 | 2012-07-04 | 株式会社野村综合研究所 | 图像取得装置、图像取得方法及计算机程序 |
| CN104427172A (zh) * | 2013-08-30 | 2015-03-18 | 京瓷办公信息系统株式会社 | 图像形成装置、测试系统、以及测试方法 |
| CN105068918A (zh) * | 2015-06-03 | 2015-11-18 | 中国人民财产保险股份有限公司 | 一种页面测试方法及装置 |
| CN108021353A (zh) * | 2017-12-11 | 2018-05-11 | 中盈优创资讯科技有限公司 | 软件产品的说明文档的生成装置、方法、设备及存储介质 |
| CN110188275A (zh) * | 2019-05-30 | 2019-08-30 | 广州虎牙信息科技有限公司 | 一种网页元素的浏览监控方法、装置、设备和存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN110909739A (zh) | 2020-03-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7454743B2 (ja) | ジェスチャの検出及び分析に基づくバーコードスキャン | |
| US9582737B2 (en) | Context-sensitive gesture classification | |
| WO2018089163A1 (en) | Methods and systems of performing object pose estimation | |
| EP3614317A1 (en) | Robotic process automation | |
| US10810113B2 (en) | Method and apparatus for creating reference images for an automated test of software with a graphical user interface | |
| US20210390728A1 (en) | Object area measurement method, electronic device and storage medium | |
| CN111401318B (zh) | 动作识别方法及装置 | |
| CN110162454B (zh) | 游戏运行方法和装置、存储介质及电子装置 | |
| US8392887B2 (en) | Systems and methods for identifying graphic user-interface components | |
| CN110610127A (zh) | 人脸识别方法、装置、存储介质及电子设备 | |
| KR20200052416A (ko) | 객체 영역 추출을 수행하는 인공 신경망을 위한 학습 데이터를 생성하는 방법 및 장치 | |
| CN112308069A (zh) | 一种软件界面的点击测试方法、装置、设备及存储介质 | |
| CN113256583A (zh) | 图像质量检测方法及装置、计算机设备和介质 | |
| CN107797748B (zh) | 虚拟键盘输入方法和装置及机器人 | |
| US20220300774A1 (en) | Methods, apparatuses, devices and storage media for detecting correlated objects involved in image | |
| CN110909739B (zh) | 图片识别并操作的方法、装置、计算机设备及存储介质 | |
| KR101628602B1 (ko) | 프로그램의 유사도를 판단하기 위한 유사도 판단 방법 및 유사도 판단 장치 | |
| CN116894317A (zh) | 数据处理方法、装置、电子设备和介质 | |
| CN115620095A (zh) | 一种手部信息的标注方法、装置、设备及存储介质 | |
| CN114972500A (zh) | 查验方法、标注方法、系统、装置、终端、设备及介质 | |
| CN114168470A (zh) | 软件系统的测试方法及装置、电子设备、存储介质 | |
| CN111580902A (zh) | 一种基于图片分析的移动端元素定位方法及系统 | |
| CN112579587A (zh) | 数据清洗方法及装置、设备和存储介质 | |
| JP7470069B2 (ja) | 指示物体検出装置、指示物体検出方法及び指示物体検出システム | |
| CN111782847A (zh) | 图像处理方法、装置和计算机可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| CP01 | Change in the name or title of a patent holder |
Address after: 518000 north of the intersection of Zhenxing Avenue and Chuangye Avenue in Shenzhen Shantou Special Cooperation Zone, Guangdong Province Patentee after: China Resources Intelligent Computing Technology (Guangdong) Co.,Ltd. Address before: 518000 north of the intersection of Zhenxing Avenue and Chuangye Avenue in Shenzhen Shantou Special Cooperation Zone, Guangdong Province Patentee before: Guangdong Runlian Information Technology Co.,Ltd. |
|
| CP01 | Change in the name or title of a patent holder |