CN115934567A - 一种界面控件检测识别方法、装置、电子设备及存储介质 - Google Patents

Abstract

本发明实施例公开了一种界面控件检测识别方法、装置、电子设备及存储介质。该方法包括：采集界面样本图，并获取界面样本图中标注的界面样本控件信息；通过预设控件检测模型，根据界面样本控件信息，对界面样本图中的各界面样本控件进行轮廓检测；根据轮廓检测结果以及界面样本控件信息，对预设控件检测模型进行模型训练，得到目标控件检测模型；获取待识别界面图，并将待识别界面图输入至目标控件检测模型中进行控件检测识别，得到待识别界面图中各目标界面控件的控件信息。该方法可以对界面中的控件进行检测识别，从而便于自动化对控件进行操控。

Description

一种界面控件检测识别方法、装置、电子设备及存储介质

技术领域

本发明涉及计算机技术领域，尤其涉及一种界面控件检测识别方法、装置、电子设备及存储介质。

背景技术

随着计算机技术的发展，各种智能应用扑面而来。在各智能应用中，通常会在界面图中设置不同的界面控件。例如，在购物界面中可以设置加购控件、购买控件、加购数量控件；在音乐播放界面中可以设置音乐播放与暂停控件、上一曲控件以及下一曲控件等。

现有技术中，对于各界面图中的控件通常是通过人眼识别，实现控件控制的。致使在对界面进行自动化控制时，需要依靠人工方式对界面进行控件识别，浪费人力，且自动化程度低。

发明内容

本发明提供了一种界面控件检测识别方法、装置、电子设备及存储介质，以对界面图中的界面控件进行检测识别。

根据本发明的一方面，提供了一种界面控件检测识别方法，该方法包括：

采集界面样本图，并获取所述界面样本图中标注的界面样本控件信息；

通过预设控件检测模型，根据所述界面样本控件信息，对所述界面样本图中的各界面样本控件进行轮廓检测；

根据轮廓检测结果以及所述界面样本控件信息，对所述预设控件检测模型进行模型训练，得到目标控件检测模型；

获取待识别界面图，并将所述待识别界面图输入至目标控件检测模型中进行控件检测识别，得到所述待识别界面图中各目标界面控件的控件信息。

根据本发明的另一方面，提供了一种界面控件检测识别装置，该装置包括：

样本控件信息获取模块，用于采集界面样本图，并获取所述界面样本图中标注的界面样本控件信息；

轮廓检测模块，用于通过预设控件检测模型，根据所述界面样本控件信息，对所述界面样本图中的各界面样本控件进行轮廓检测；

检测模型训练模块，用于根据轮廓检测结果以及所述界面样本控件信息，对所述预设控件检测模型进行模型训练，得到目标控件检测模型；

目标控件信息识别模块，用于获取待识别界面图，并将所述待识别界面图输入至目标控件检测模型中进行控件检测识别，得到所述待识别界面图中各目标界面控件的控件信息。

根据本发明的另一方面，提供了一种电子设备，所述电子设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行本发明任一实施例所述的界面控件检测识别方法。

根据本发明的另一方面，提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现本发明任一实施例所述的界面控件检测识别方法。

本发明实施例的技术方案，通过采集界面样本图，并获取界面样本图中标注的界面样本控件信息；通过预设控件检测模型，根据界面样本控件信息，对界面样本图中的各界面样本控件进行轮廓检测；根据轮廓检测结果以及界面样本控件信息，对预设控件检测模型进行模型训练，得到目标控件检测模型；获取待识别界面图，并将待识别界面图输入至目标控件检测模型中进行控件检测识别，得到待识别界面图中各目标界面控件的控件信息，解决了界面图中控件的识别问题，可以对界面中的控件进行检测识别，从而便于提高操控控件的自动化程度。

应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是根据本发明实施例一提供的一种界面控件检测识别方法的流程图；

图2是根据本发明实施例二提供的一种界面控件检测识别方法的流程图；

图3是根据本发明实施例三提供的一种界面控件检测识别装置的结构示意图；

图4是实现本发明实施例的界面控件检测识别方法的电子设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

实施例一

图1是根据本发明实施例一提供的一种界面控件检测识别方法的流程图，本实施例可适用于在对界面进行自动化操控时，识别界面图中界面控件的情况，例如，识别购物界面中的界面控件以进行自动购物的情况。该方法可以由界面控件检测识别装置来执行，该界面控件检测识别装置可以采用硬件和/或软件的形式实现，该界面控件检测识别装置可配置于电子设备如计算机或者智能手机中。如图1所示，该方法包括：

步骤110、采集界面样本图，并获取界面样本图中标注的界面样本控件信息。

界面样本图可以是界面图的一些样本示例图。比如，界面样本图可以是某购物软件的界面截图；或者，某音乐软件的界面截图；或者某视频播放软件的界面截图等。界面样本控件可以是界面样本图中的控件。例如，购物控件、播放控件、开始控件等。

控件信息可以是与控件相关的属性信息。在本发明实施例的一个可选实施方式中，控件信息，包括：颜色信息、文本信息、控件类别信息、控件尺寸信息、控件形状信息以及控件位置信息。

其中，文本信息可以是控件上或者附近的文字。控件类别信息可以是与文本信息相应的。例如，文本信息可以是“加入购物车”，控件类别信息可以是加购。控件尺寸信息可以是控件的大小，比如控件为30毫米×30毫米。

示例性的，控件可以是蓝色、标有“加入购物车”文本信息的加购控件。该加购控件的尺寸可以是28毫米×18毫米，形状为椭圆形，位置为界面图右下方。

步骤120、通过预设控件检测模型，根据界面样本控件信息，对界面样本图中的各界面样本控件进行轮廓检测。

其中，预设控件检测模型可以是一种深度学习模型，可以对界面图进行轮廓检测。轮廓检测可以是确定控件外边界信息。例如，轮廓检测可以是确定控件的边缘信息和/或外切矩形框的轮廓信息。

具体的，在本发明实施例的一个可选实施方式中，根据界面样本控件信息，对界面样本图中的各界面样本控件进行轮廓检测，包括：对界面样本图进行图片预处理，得到目标界面图；根据界面样本控件信息，对目标界面图中的各界面样本控件进行形状检测，确定各界面样本控件的边缘信息；根据边缘信息，确定各界面样本控件对应的外切矩形框的轮廓信息；并将边缘信息以及轮廓信息作为轮廓检测结果。

其中，边缘信息可以是控件形状的边缘线。例如，可以通过一种跨平台计算机视觉和机器学习软件库(OpenCV)中的cv.canny方法分离出控件的边缘线。外切矩形框可以是与控件形状边缘线相外切的矩形边线。例如，可以通过OpenCV中的cv.findcontours方法检测控件的外切矩形框的轮廓信息。根据轮廓检测结果可以确定控件在界面图中的位置。具体的，可以通过坐标形式体现控件在界面图中的位置。

步骤130、根据轮廓检测结果以及界面样本控件信息，对预设控件检测模型进行模型训练，得到目标控件检测模型。

其中，通过轮廓检测结果可以与界面样本控件信息进行比对，确定检测的可靠性，对检测结果进行评估，从而对预设控件检测模型进行模型训练，得到目标控件检测模型。

步骤140、获取待识别界面图，并将待识别界面图输入至目标控件检测模型中进行控件检测识别，得到待识别界面图中各目标界面控件的控件信息。

其中，待识别界面图可以是需要进行控件检测的界面图。待识别界面图中可以包括一个或者多个目标界面控件。通过目标控件检测模型可以检测到待识别界面图中的各目标界面控件，包括得到目标界面控件的颜色信息、文本信息、控件类别信息、控件尺寸信息、控件形状信息以及控件位置信息。通过得到控件信息可以进一步判断检测的可靠性，从而确定控件的可靠类别以及位置，从而对控件进行操控。

本实施例的技术方案，通过采集界面样本图，并获取界面样本图中标注的界面样本控件信息；通过预设控件检测模型，根据界面样本控件信息，对界面样本图中的各界面样本控件进行轮廓检测；根据轮廓检测结果以及界面样本控件信息，对预设控件检测模型进行模型训练，得到目标控件检测模型；获取待识别界面图，并将待识别界面图输入至目标控件检测模型中进行控件检测识别，得到待识别界面图中各目标界面控件的控件信息，解决了界面图中控件的识别问题，可以对界面中的控件进行检测识别，从而便于提高操控控件的自动化程度。

实施例二

图2是根据本发明实施例二提供的一种界面控件检测识别方法的流程图，本实施例是对上述技术方案的进一步细化，本实施例中的技术方案可以与上述一个或者多个实施例中的各个可选方案结合。如图2所示，该方法包括：

步骤210、采集界面样本图，并获取界面样本图中标注的界面样本控件信息。

在本发明实施例的一个可选实施方式中，采集界面样本图，并获取界面样本图中标注的界面样本控件信息，包括：收集已存在的第一界面图，并获取第一界面图中标注的第一界面控件信息；根据第一界面图以及对应的第一界面控件信息，生成第二界面图；第二界面图中包括与第一界面控件信息相匹配的第二界面控件；获取第二界面图中标注的第二界面控件的第二界面控件信息；将第一界面图与第二界面图，作为界面样本图；并对应的将第一界面控件信息与第二界面控件，作为界面样本控件信息。

其中，第一界面图可以是收集的已经存在的界面图，例如某软件中的截面图。第一界面控件信息可以是人工在第一界面图中标注的，或者也可以是目标控件检测模型根据第一界面图识别得到的。第二界面图可是通过软件库生成的。例如，可以在puppeteer(一种Node库)中输入与第一界面控件信息相匹配的控件信息，生成包含第二界面控件的第二界面图。第二界面控件信息的标注方式可以是人工在第二界面图中标注的，或者也可以是目标控件检测模型根据第二界面图识别得到的。通过在收集第一界面图的基础上可以通过上述方式得到第二界面图，实现样本数据的无限扩增，从而可以提高模型训练时的样本数量级，进而提高模型可靠性。

在本发明实施例的一个可选实施方式中，控件信息，包括：颜色信息、文本信息、控件类别信息、控件尺寸信息、控件形状信息以及控件位置信息。

步骤220、通过预设控件检测模型，对界面样本图进行图片预处理，得到目标界面图。

其中，图片预处理可以是图片进行降噪处理，滤除图中的干扰线条、颜色等。或者，图片预处理也可以是对图片进行色彩处理。例如，可以得到图片的灰度图，或者变更图片的颜色空间等。

具体的，在本发明实施例的一个可选实施方式中，对界面样本图进行图片预处理，得到目标界面图，包括：对界面样本图进行颜色空间转换；根据界面样本控件信息中的颜色信息，设置目标颜色空间的界限值，得到目标颜色空间下的目标界面图。

示例性的，可以将界面样本图转换至六角锥体模型的颜色空间(Hue SaturationValue，HSV)。在HSV颜色空间中，具有色调、饱和度以及明度等参数信息，可以提高界面图中控件检测的准确性。通过控件的颜色信息对颜色空间中的图进行界限值限定，可以滤除界面图中非控件的图信息，减少检测数据量，并提高检测准确性。例如，控件为橘色，可以根据橘色设置HSV上下限，使用OpenCv中的trackbar方法找出对应的颜色特征，作为目标界面图，进行控件检测。

在本发明实施例的一个可选实施方式中，在对界面样本图进行颜色空间转换之前，还包括：对界面样本图进行高斯模糊处理。其中，通过高斯模糊处理可以滤除界面图中的一些干扰信息，例如一些干扰线条，提高控件检测准确性。示例性的，可以使用OpenCV中的cv.gaussianblur方法对界面图进行高斯模糊。

步骤230、根据界面样本控件信息，对目标界面图中的各界面样本控件进行形状检测，确定各界面样本控件的边缘信息。

示例性的，形状检测可以采用OpenCV中的cv.canny方法。

步骤240、根据边缘信息，确定各界面样本控件对应的外切矩形框的轮廓信息；并将边缘信息以及轮廓信息作为轮廓检测结果。

示例性的，轮廓信息可以采用OpenCV中的cv.findcontours方法确定。

步骤250、根据轮廓检测结果以及界面样本控件信息，对预设控件检测模型进行模型训练，得到目标控件检测模型。

步骤260、获取待识别界面图，并将待识别界面图输入至目标控件检测模型中进行控件检测识别，得到待识别界面图中各目标界面控件的控件信息。

在本实施例中，通过目标控件检测模型可以得到目标界面控件的HSV颜色信息、边缘信息、以及轮廓信息等。目标控件检测模型可以基于这些信息对检测到的控件进行进一步的判断，确定满足控件信息特征的目标界面控件，提高控件检测的准确性。

步骤270、根据控件信息，操控待识别界面图中的各目标界面控件进行界面控制。

在本实施例中，在得到控件信息后，可以根据控件信息对界面图中的控件进行操控实现界面自动控制。例如，可以点击界面图中的加购控件，实现物品的自动加购。

本实施例的技术方案，通过采集界面样本图，并获取界面样本图中标注的界面样本控件信息；通过预设控件检测模型，对界面样本图进行图片预处理，得到目标界面图；根据界面样本控件信息，对目标界面图中的各界面样本控件进行形状检测，确定各界面样本控件的边缘信息；根据边缘信息，确定各界面样本控件对应的外切矩形框的轮廓信息；并将边缘信息以及轮廓信息作为轮廓检测结果；根据轮廓检测结果以及界面样本控件信息，对预设控件检测模型进行模型训练，得到目标控件检测模型；获取待识别界面图，并将待识别界面图输入至目标控件检测模型中进行控件检测识别，得到待识别界面图中各目标界面控件的控件信息；根据控件信息，操控待识别界面图中的各目标界面控件进行界面控制，解决了界面图中控件的识别问题，可以对界面中的控件进行检测识别，并依据检测结果对控件进行操控，提高控件操控的自动化程度，实现界面自动控制。

本发明实施例的技术方案中，所涉及界面图信息以及界面控件信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。

实施例三

图3是根据本发明实施例三提供的一种界面控件检测识别装置的结构示意图。如图3所示，该装置包括：样本控件信息获取模块310，轮廓检测模块320，检测模型训练模块330和目标控件信息识别模块340。其中：

样本控件信息获取模块310，用于采集界面样本图，并获取界面样本图中标注的界面样本控件信息；

轮廓检测模块320，用于通过预设控件检测模型，根据界面样本控件信息，对界面样本图中的各界面样本控件进行轮廓检测；

检测模型训练模块330，用于根据轮廓检测结果以及界面样本控件信息，对预设控件检测模型进行模型训练，得到目标控件检测模型；

目标控件信息识别模块340，用于获取待识别界面图，并将待识别界面图输入至目标控件检测模型中进行控件检测识别，得到待识别界面图中各目标界面控件的控件信息。

可选的，轮廓检测模块320，包括：

目标界面图确定单元，用于对界面样本图进行图片预处理，得到目标界面图；

边缘信息确定单元，用于根据界面样本控件信息，对目标界面图中的各界面样本控件进行形状检测，确定各界面样本控件的边缘信息；

轮廓检测结果确定单元，用于根据边缘信息，确定各界面样本控件对应的外切矩形框的轮廓信息；并将边缘信息以及轮廓信息作为轮廓检测结果。

可选的，目标界面图确定单元，包括：

颜色空间转换子单元，用于对界面样本图进行颜色空间转换；

目标界面图确定子单元，用于根据界面样本控件信息中的颜色信息，设置目标颜色空间的界限值，得到目标颜色空间下的目标界面图。

可选的，该装置，还包括：

模糊处理模块，用于在对界面样本图进行颜色空间转换之前，对界面样本图进行高斯模糊处理。

可选的，样本控件信息获取模块310，包括：

第一界面控件信息获取单元，用于收集已存在的第一界面图，并获取第一界面图中标注的第一界面控件信息；

第二界面图生成单元，用于根据第一界面图以及对应的第一界面控件信息，生成第二界面图；第二界面图中包括与第一界面控件信息相匹配的第二界面控件；

获取第二界面图中标注的第二界面控件的第二界面控件信息；

样本控件信息获取单元，用于将第一界面图与第二界面图，作为界面样本图；并对应的将第一界面控件信息与第二界面控件，作为界面样本控件信息。

可选的，该装置，还包括：

界面控制模块，用于在将待识别界面图输入至目标控件检测模型中进行控件检测识别，得到待识别界面图中各目标界面控件的控件信息之后，根据控件信息，操控待识别界面图中的各目标界面控件进行界面控制。

可选的，控件信息，包括：颜色信息、文本信息、控件类别信息、控件尺寸信息、控件形状信息以及控件位置信息。

本发明实施例所提供的界面控件检测识别装置可执行本发明任意实施例所提供的界面控件检测识别方法，具备执行方法相应的功能模块和有益效果。

实施例四

图4示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。

如图4所示，电子设备10包括至少一个处理器11，以及与至少一个处理器11通信连接的存储器，如只读存储器(ROM)12、随机访问存储器(RAM)13等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序，来执行各种适当的动作和处理。在RAM 13中，还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。

电子设备10中的多个部件连接至I/O接口15，包括：输入单元16，例如键盘、鼠标等；输出单元17，例如各种类型的显示器、扬声器等；存储单元18，例如磁盘、光盘等；以及通信单元19，例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理，例如界面控件检测识别方法。

在一些实施例中，界面控件检测识别方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元18。在一些实施例中，计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时，可以执行上文描述的界面控件检测识别方法的一个或多个步骤。备选地，在其他实施例中，处理器11可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行界面控件检测识别方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在电子设备上实施此处描述的系统和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。

计算系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种界面控件检测识别方法，其特征在于，包括：

采集界面样本图，并获取所述界面样本图中标注的界面样本控件信息；

通过预设控件检测模型，根据所述界面样本控件信息，对所述界面样本图中的各界面样本控件进行轮廓检测；

根据轮廓检测结果以及所述界面样本控件信息，对所述预设控件检测模型进行模型训练，得到目标控件检测模型；

获取待识别界面图，并将所述待识别界面图输入至目标控件检测模型中进行控件检测识别，得到所述待识别界面图中各目标界面控件的控件信息。

2.根据权利要求1所述的方法，其特征在于，根据所述界面样本控件信息，对所述界面样本图中的各界面样本控件进行轮廓检测，包括：

对所述界面样本图进行图片预处理，得到目标界面图；

根据所述界面样本控件信息，对所述目标界面图中的各界面样本控件进行形状检测，确定各界面样本控件的边缘信息；

根据所述边缘信息，确定各界面样本控件对应的外切矩形框的轮廓信息；并将所述边缘信息以及所述轮廓信息作为轮廓检测结果。

3.根据权利要求2所述的方法，其特征在于，对所述界面样本图进行图片预处理，得到目标界面图，包括：

对所述界面样本图进行颜色空间转换；

根据所述界面样本控件信息中的颜色信息，设置目标颜色空间的界限值，得到目标颜色空间下的目标界面图。

4.根据权利要求3所述的方法，其特征在于，在对所述界面样本图进行颜色空间转换之前，还包括：

对所述界面样本图进行高斯模糊处理。

5.根据权利要求1所述的方法，其特征在于，采集界面样本图，并获取所述界面样本图中标注的界面样本控件信息，包括：

收集已存在的第一界面图，并获取所述第一界面图中标注的第一界面控件信息；

根据所述第一界面图以及对应的第一界面控件信息，生成第二界面图；所述第二界面图中包括与所述第一界面控件信息相匹配的第二界面控件；

获取所述第二界面图中标注的所述第二界面控件的第二界面控件信息；

将所述第一界面图与所述第二界面图，作为界面样本图；并对应的将所述第一界面控件信息与所述第二界面控件，作为界面样本控件信息。

6.根据权利要求1所述的方法，其特征在于，在将所述待识别界面图输入至目标控件检测模型中进行控件检测识别，得到所述待识别界面图中各目标界面控件的控件信息之后，还包括：

根据所述控件信息，操控所述待识别界面图中的各所述目标界面控件进行界面控制。

7.根据权利要求1-6任一项所述的方法，其特征在于，所述控件信息，包括：颜色信息、文本信息、控件类别信息、控件尺寸信息、控件形状信息以及控件位置信息。

8.一种界面控件检测识别装置，其特征在于，包括：

样本控件信息获取模块，用于采集界面样本图，并获取所述界面样本图中标注的界面样本控件信息；

轮廓检测模块，用于通过预设控件检测模型，根据所述界面样本控件信息，对所述界面样本图中的各界面样本控件进行轮廓检测；

检测模型训练模块，用于根据轮廓检测结果以及所述界面样本控件信息，对所述预设控件检测模型进行模型训练，得到目标控件检测模型；

目标控件信息识别模块，用于获取待识别界面图，并将所述待识别界面图输入至目标控件检测模型中进行控件检测识别，得到所述待识别界面图中各目标界面控件的控件信息。

9.一种电子设备，其特征在于，所述电子设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的界面控件检测识别方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的界面控件检测识别方法。

Images