CN113703655A - 移动终端及其定屏检测方法 - Google Patents
移动终端及其定屏检测方法 Download PDFInfo
- Publication number
- CN113703655A CN113703655A CN202010436757.0A CN202010436757A CN113703655A CN 113703655 A CN113703655 A CN 113703655A CN 202010436757 A CN202010436757 A CN 202010436757A CN 113703655 A CN113703655 A CN 113703655A
- Authority
- CN
- China
- Prior art keywords
- image
- mobile terminal
- area
- touch operation
- similarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 67
- 230000002452 interceptive effect Effects 0.000 claims abstract description 143
- 238000000034 method Methods 0.000 claims abstract description 39
- 230000003993 interaction Effects 0.000 claims description 81
- 230000009471 action Effects 0.000 claims description 19
- 230000000007 visual effect Effects 0.000 description 21
- 239000010410 layer Substances 0.000 description 19
- 230000004044 response Effects 0.000 description 19
- 230000001960 triggered effect Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 230000008569 process Effects 0.000 description 12
- 230000036961 partial effect Effects 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 230000008859 change Effects 0.000 description 8
- 238000012545 processing Methods 0.000 description 7
- 238000004590 computer program Methods 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000002829 reductive effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000012792 core layer Substances 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 235000015872 dietary supplement Nutrition 0.000 description 1
- 238000007599 discharging Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04886—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本申请公开了一种移动终端及其定屏检测方法,涉及计算机技术领域。该方法可以响应于触控操作,获取交互控件所在区域中目标区域的第一图像,且在检测到触控操作结束后,获取目标区域的第二图像。根据该第一图像与第二图像的相似度是否大于或等于相似度阈值确定移动终端是否出现定屏。通过两个图像的相似度确定移动终端是否出现定屏,检测的准确性较高。
Description
技术领域
本申请涉及计算机技术领域,特别涉及一种移动终端及其定屏检测方法。
背景技术
移动终端中可以安装有多个应用程序,每个应用程序均可以通过服务访问资源以实现某些功能。
相关技术中,为了保证移动终端的系统稳定性,通常采用看门狗(watchdog)机制检测移动终端的系统中的服务是否被锁定。若watchdog检测到某个服务的锁变量被某个应用程序占用的时间大于时间阈值,即该watchdog确定该服务被锁定,进而确定移动终端的系统死锁,移动终端出现定屏。此时,该watchdog可以向移动终端的系统发送重启信号,以便移动终端的系统重启。其中,定屏是指移动终端无法响应触控操作导致其显示界面锁定的现象。
但是,由于watchdog仅能够检测已添加监听的服务是否被锁定,对于未添加监听的服务,该watchdog无法确定该服务是否被锁定,进而无法确定移动终端是否出现定屏,定屏检测的准确性较低。
发明内容
本申请提供了一种移动终端及其定屏检测方法,可以解决相关技术中定屏检测的准确性较低的问题。所述技术方案如下:
一方面,提供了一种移动终端,所述移动终端包括处理器和显示屏;
所述显示屏用于在显示界面中显示交互控件;
所述处理器用于:
响应于针对所述显示界面中显示的交互控件的触控操作,获取所述交互控件所在区域中的目标区域的第一图像,所述交互控件所在区域的面积小于所述显示界面的面积,所述第一目标区域的面积小于或等于所述交互控件所在区域的面积;
在检测到所述触控操作结束后,获取所述目标区域的第二图像;
若确定所述第一图像与所述第二图像的相似度大于或等于相似度阈值,则确定所述移动终端出现定屏。
可选的,所述处理器用于:
在确定出所述第一图像与所述第二图像的相似度大于或等于相似度阈值时,确定在响应于针对所述触控操作时,所述显示界面中除所述目标区域之外的其他区域的图像,与检测到所述触控操作结束后所述其他区域的图像的相似度是否大于或等于所述相似度阈值;
若在响应于触控操作时所述其他区域的图像,与检测到所述触控操作结束后所述其他区域的图像的相似度大于或等于所述相似度阈值,则确定所述移动终端出现定屏。
另一方面,提供了一种移动终端,所述移动终端包括处理器和显示屏;
所述显示屏用于在显示界面中显示交互控件;
所述处理器用于:
响应于针对所述显示界面中显示的交互控件的触控操作,获取所述显示界面的第一图像;
在检测到所述触控操作结束后,获取所述显示界面的第二图像;
若确定所述第一图像与所述第二图像的相似度大于或等于相似度阈值,则确定所述移动终端出现定屏。
可选的,所述处理器中运行有检测程序和操作系统,所述检测程序独立于所述操作系统运行;
所述检测程序用于执行获取所述第一图像,获取所述第二图像以及确定所述移动终端是否出现定屏的步骤。
可选的,移动终端还包括:存储器;所述存储器,用于在共享内存中存储位置信息,所述共享内存为所述检测程序和所述操作系统均能够访问的内存;所述检测程序还用于:
根据所述共享内存中存储的位置信息确定所述交互控件在所述显示界面中的显示区域;
确定接收到触控操作在所述显示界面中的作用区域;
若所述作用区域位于所述显示区域内,则确定所述触控操作为针对所述交互控件的操作;
其中,所述位置信息用于指示所述显示界面的可见区域中能够响应触控操作的区域的位置。
可选的,所述处理器,用于:
在检测到所述触控操作结束后的目标时长之后,获取所述目标区域的第二图像。
可选的,所述目标区域为所述触控操作的区域的中心位置的邻域,所述邻域为矩形。
又一方面,提供了一种移动终端的定屏检测方法,所述方法包括:
响应于针对显示界面中显示的交互控件的触控操作,获取所述交互控件所在区域中的目标区域的第一图像,所述交互控件所在区域的面积小于所述显示界面的面积,所述第一目标区域的面积小于或等于所述交互控件所在区域的面积;
在检测到所述触控操作结束后,获取所述目标区域的第二图像;
若确定所述第一图像与所述第二图像的相似度大于或等于相似度阈值,则确定所述移动终端出现定屏。
再一方面,提供了一种移动终端的定屏检测方法,所述方法包括:
响应于针对显示界面中显示的交互控件的触控操作,获取所述显示界面的第一图像;
在检测到所述触控操作结束后,获取所述显示界面的第二图像;
若确定所述第一图像与所述第二图像的相似度大于或等于相似度阈值,则确定所述移动终端出现定屏。
可选的,所述若确定所述第一图像与所述第二图像的相似度大于或等于相似度阈值,则确定所述移动终端出现定屏,包括:
若确定所述第一图像与所述第二图像的相似度大于或等于相似度阈值,则确定在响应于针对所述触控操作时,所述显示界面中除所述目标区域之外的其他区域的图像,与检测到所述触控操作结束后所述其他区域的图像的相似度是否大于或等于所述相似度阈值;
若在响应于触控操作时所述其他区域的图像,与检测到所述触控操作结束后所述其他区域的图像的相似度大于或等于所述相似度阈值,则确定所述移动终端出现定屏。
可选的,所述移动终端中运行有操作系统和检测程序,所述检测程序独立于所述操作系统运行;
所述定屏检测方法由所述检测程序执行。
可选的,所述方法还包括:
根据所述共享内存中存储的位置信息确定所述交互控件在所述显示界面中的显示区域,其中,所述共享内存为所述检测程序和所述操作系统均能够访问的内存;
确定接收到触控操作在所述显示界面中的作用区域;
若所述作用区域位于所述显示区域内,则确定所述触控操作为针对所述交互控件的操作;
其中,所述位置信息用于指示所述显示界面的可见区域中能够响应触控操作的区域的位置。
再一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有指令,当所述计算机可读存储介质中存储的指令在计算机上运行时,使得计算机执行如上述方面所述的移动终端的定屏检测方法。
再一方面,提供了一种包含指令的计算机程序产品,当所述计算机程序产品中包含的指令在所述计算机上运行时,使得所述计算机执行上述方面所述的移动终端的定屏检测方法。
本申请提供的技术方案带来的有益效果至少包括:
本申请提供了一种移动终端及其定屏检测方法,该方法可以响应于触控操作,获取交互控件所在区域中目标区域的第一图像,且在检测到触控操作结束后,获取目标区域的第二图像。根据该第一图像与第二图像的相似度是否大于或等于相似度阈值确定移动终端是否出现定屏。通过两个图像的相似度确定移动终端是否出现定屏,检测的准确性较高。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种移动终端的结构示意图;
图2是本申请实施例提供的一种移动终端的定屏检测方法的流程图;
图3是本申请实施例提供的另一种移动终端的定屏检测方法的流程图;
图4是本申请实施例提供的又一种移动终端的定屏检测方法的流程图;
图5是本申请实施例提供的一种移动终端的操作系统的示意图;
图6是本申请实施例提供的一种显示界面的示意图;
图7是本申请实施例提供的另一种显示界面的示意图;
图8是本申请实施例提供的又一种显示界面的示意图;
图9是图8所示的显示界面的局部示意图;
图10是本申请实施例提供的另一种移动终端的结构示意图;
图11是本申请实施例提供的又一种移动终端的结构示意图;
图12是本申请实施例提供的一种移动终端的软件结构框图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
相关技术中,若该移动终端的操作系统中的窗口管理(Window Manager)模块出现问题(例如窗口管理模块绘制显示界面时处于停滞状态),导致移动终端的显示界面被锁定。也即是,该窗口管理模块可能反复刷新同一个显示界面。此时,该窗口管理模块的锁变量可能并未被长时间占用,因此采用watchdog机制无法确定此种情况下移动终端出现定屏,定屏检测的准确性较低。
图1是本申请实施例提供一种移动终端的结构示意图。参考图1,该移动终端01可以为智能手机。或者,该移动终端01也可以为计算机、平板电脑、车载导航仪、多媒体播放器、膝上型便携计算机、台式计算机或者可穿戴式设备等。
在本申请实施例中,移动终端可以通过检测该第一图像与第二图像的相似度是否大于或等于相似度阈值确定移动终端是否出现定屏。通过两个图像的相似度确定移动终端是否出现定屏,检测的准确性较高。
图2是本申请实施例提供的一种移动终端的定屏检测方法的流程图,该方法可以应用于图1所示的移动终端01中。参考图2可以看出,该方法可以包括:
步骤101、响应于针对显示界面中显示的交互控件的触控操作,获取交互控件所在区域中的目标区域的第一图像。
在本申请实施例中,移动终端中可以安装有多个应用程序,且每个应用程序可以包括至少一个交互控件。并且,每个应用程序运行时,其应用界面可以显示在该移动终端的显示界面中,即该移动终端的显示界面中可以显示有应用程序的交互控件。
用户在触发针对该交互控件的触控操作时,移动终端可以接收到该触控操作,并响应于该触控操作,获取交互控件所在区域中的目标区域的第一图像。通常情况下,若移动终端未出现定屏,用户在触发针对该交互控件的触控操作时,移动终端能够响应于该触控操作更新该移动终端的显示界面显示的应用界面,从而使得该交互控件所在区域的图像发生变化。
需要说明的是,交互控件所在区域的面积可以小于显示界面的面积,且该目标区域的面积可以小于或等于交互控件所在区域的面积。例如,该目标区域可以为该交互控件所在区域,也即是,移动终端获取到的第一图像为该交互控件所在区域的图像。或者,该目标区域可以为交互控件所在区域中的部分区域,也即是,该移动终端获取到的第一图像为该交互控件所在区域的部分区域的图像。
步骤102、在检测到触控操作结束后,获取目标区域的第二图像。
在本申请实施例中,用户在停止对该交互控件的触控操作后,移动终端可以检测到该触控操作结束,并可以获取该目标区域的第二图像。
步骤103、检测第一图像与第二图像的相似度是否大于或等于相似度阈值。
在本申请实施例中,为了确定移动终端是否出现定屏,该移动终端可以根据获取到的第一图像和第二图像,确定该第一图像和第二图像的相似度,若确定出第一图像与第二图像的相似度大于或等于相似度阈值,执行下述步骤104;若确定出第一图像与第二图像的相似度小于相似度阈值,执行下述步骤105。
可选的,该第一图像和第二图像的相似度S1可以满足:S1=G1/Z1。其中,G1为第一图像中像素的像素值与第二图像中对应位置处像素的像素值相同的数量,Z1为第一图像(或第二图像)中像素的总数量。该相似度阈值可以是移动终端中预先存储的。
示例的,该相似度阈值为100%。移动终端将第一图像中每个像素的像素值,与第二图像中对应位置处的像素的像素值进行对比,若第一图像中每个像素的像素值与第二图像中对应位置处的像素的像素值均相同(即该第一图像与第二图像完全相同),则表示第一图像与第二图像的相似度为100%,等于该相似度阈值,移动终端可以执行下述步骤104。若第一图像中每个像素的像素值与第二图像中对应位置处的像素的像素值至少一个不同,则表示第一图像与第二图像的相似度小于100%,即小于该相似度阈值,移动终端可以执行下述步骤105。
步骤104、确定移动终端出现定屏。
在本申请实施例中,若移动终端根据上述步骤103检测出第一图像与第二图像的相似度大于或等于相似度阈值,说明移动终端在接收到用户触发的触控操作时,并未响应该触控操作,即移动终端的显示界面并未发生变化,因此可以确定移动终端出现定屏。
步骤105、确定移动终端未出现定屏。
在本申请实施例中,若移动终端根据上述步骤103检测出第一图像与第二图像的相似度小于相似度阈值,说明移动终端在接收到用户触发的触控操作时,能够响应于该触控操作,即移动终端的显示界面发生了变化,因此可以确定移动终端未出现定屏。
综上所述,本申请实施例提供了一种移动终端的定屏检测方法,该方法可以响应于触控操作,获取交互控件所在区域中目标区域的第一图像,且在检测到触控操作结束后,获取目标区域的第二图像。根据该第一图像与第二图像的相似度是否大于或等于相似度阈值确定移动终端是否出现定屏。通过两个图像的相似度确定移动终端是否出现定屏,检测的准确性较高。
图3是本申请实施例提供的另一种移动终端的定屏检测方法的流程图,该方法可以应用于图1所示的移动终端01中。参考图3可以看出,该方法可以包括:
步骤201、响应于针对显示界面中显示的交互控件的触控操作,获取显示界面的第一图像。
在本申请实施例中,移动终端中可以安装有多个应用程序,且每个应用程序可以包括至少一个交互控件。并且,每个应用程序运行时,其应用界面可以显示在该移动终端的显示界面中,即该移动终端的显示界面中可以显示有应用程序的交互控件。
用户在触发针对该交互控件的触控操作时,移动终端可以接收到该触控操作,并响应于该触控操作,获取该显示界面的第一图像。通常情况下,若移动终端未出现定屏,用户在触发针对该交互控件的触控操作时,移动终端能够响应于该触控操作更新该移动终端的显示界面显示的应用界面,即该显示界面的图像发生变化。
步骤202、在检测到触控操作结束后,获取显示界面的第二图像。
在本申请实施例中,用户在停止对该交互控件的触控操作后,移动终端可以检测到该触控操作结束,并可以获取该显示界面的第二图像。
步骤203、检测第一图像与第二图像的相似度是否大于或等于相似度阈值。
在本申请实施例中,为了确定移动终端是否出现定屏,该移动终端可以根据获取到的第一图像和第二图像,确定该第一图像和第二图像的相似度,若确定出第一图像与第二图像的相似度大于或等于相似度阈值,执行下述步骤104;若确定出第一图像与第二图像的相似度小于相似度阈值,执行下述步骤105。
可选的,该第一图像和第二图像的相似度S1可以满足:S1=G1/Z1。其中,G1为第一图像中像素的像素值与第二图像中对应位置处像素的像素值相同的数量,Z1为第一图像(或第二图像)中像素的总数量。该相似度阈值可以是移动终端中预先存储的。
示例的,该相似度阈值为100%。移动终端将第一图像中每个像素的像素值,与第二图像中对应位置处的像素的像素值进行对比,若第一图像中每个像素的像素值与第二图像中对应位置处的像素的像素值均相同(即该第一图像与第二图像完全相同),则表示第一图像与第二图像的相似度为100%,等于该相似度阈值,移动终端可以执行下述步骤204。若第一图像中每个像素的像素值与第二图像中对应位置处的像素的像素值至少一个不同,则表示第一图像与第二图像的相似度小于100%,即小于该相似度阈值,移动终端可以执行下述步骤205。
步骤204、确定移动终端出现定屏。
在本申请实施例中,若移动终端根据上述步骤203检测出第一图像与第二图像的相似度大于或等于相似度阈值,说明移动终端在接收到用户触发的触控操作时,并未响应该触控操作,即移动终端的显示界面并未发生变化,因此可以确定移动终端出现定屏。
步骤205、确定移动终端未出现定屏。
在本申请实施例中,若移动终端根据上述步骤203检测出第一图像与第二图像的相似度小于相似度阈值,说明移动终端在接收到用户触发的触控操作时,能够响应于该触控操作,即移动终端的显示界面发生了变化,因此可以确定移动终端未出现定屏。
综上所述,本申请实施例提供了一种移动终端的定屏检测方法,该方法可以响应于触控操作,获取显示界面的第一图像,且在检测到触控操作结束后,获取显示界面的第二图像。根据该第一图像与第二图像的相似度是否大于或等于相似度阈值确定移动终端是否出现定屏。通过两个图像的相似度确定移动终端是否出现定屏,检测的准确性较高。
需要说明的是,由于图2所示的定屏检测方法只需比较交互控件所在区域的目标区域的图像是否相同,因此无需对移动终端的显示界面的整体图像进行比较,该检测过程中占用的内存较少,对处理器的资源消耗较少。
示例的,对于分辨率为1080×800的移动终端,若在接收到针对显示界面中显示的交互控件的触控操作,获取到的是该显示界面的第一图像,且在检测到触控操作结束后,获取到的是显示界面的第二图像,则移动终端需对该第一图像和第二图像进行对比。该第一图像和第二图像中的每个图像需要占用的内存为1080×800×像素点位数。假设图像为ALPHA_8格式,像素点位数为1byte(字节),则每个图像占用的内存为1080×800×1byte=843Kb(千字节),两个图像占用的内存则接近2M(兆),占用的内存较高,处理器资源消耗较高。其中,ALPHA_8格式的图像只占用透明度(alpha,A)通道。像素点位数是指每个像素点占用的内存的大小。而对于图2所示的定屏检测方法只需比较交互控件所在区域的目标区域的图像是否相同,因此检测过程中占用的内存的较少,对处理器的资源消耗较少。
在本申请实施例中,若移动终端出现定屏,通常情况下是移动终端的操作系统出现故障,因此本申请实施例提供的定屏检测方法无法由操作系统执行,因此开发人员在开发的过程中,可以开发一个独立于操作系统的检测程序(例如将该检测程序命名为hangdetect程序)。也即是,该移动终端中可以运行有操作系统和检测程序,该定屏检测方法可以由该检测程序执行。并且,该检测程序可以在移动终端开机时与操作系统同步启动。
图4是本申请实施例提供的另一种移动终端的定屏检测方法的流程图。该方法可以应用于图1所示的移动终端01中运行的检测程序。参考图4可以看出,该方法可以包括:
步骤301、确定交互控件在显示界面中的显示区域。
在本申请实施例中,移动终端中可以安装有多个应用程序,且每个应用程序可以包括至少一个交互控件。并且,每个应用程序运行时,其应用界面可以显示在该移动终端的显示界面中,即该移动终端的显示界面中可以显示有应用程序的交互控件。该交互控件是指能够响应触控操作,使得显示界面发生变化的控件。例如,交互控件响应触控操作后,其自身的显示效果发生变化,或者可以使得显示界面跳转至另一页面。
移动终端的共享内存中可以存储有位置信息,该位置信息可以用于指示显示界面的可见区域中能够响应触控操作的区域的位置(即交互控件所在区域的位置)。移动终端中运行的检测程序进而可以根据移动终端的共享内存中存储的位置信息确定交互控件在显示界面中的显示区域。其中,该共享内存可以是指操作系统以及检测程序均能够访问的内存。也即是,操作系统以及检测程序均能够从该共享内存中获取信息。显示界面的可见区域可以是指移动终端的显示界面当前显示的应用界面。
需要说明的是,移动终端中运行有操作系统,例如安卓(Android)操作系统。交互(View)控件中可以具有其位置和尺寸,而该操作系统无法从交互控件中获取显示界面当前显示的应用界面中所有交互控件的位置和尺寸。因此为了便于对显示界面当前显示的应用界面中所有交互控件进行统一的维护和管理,开发人员在开发过程中可以在操作系统中新增一个可点击可视服务(Touchable View Service)模块。该可视可点击服务模块具有记录接口,该记录接口可以采用记录可点击可见区域(区域,应用界面所属应用程序的标识)来表示。例如record Touchable View Region(Region,Window Token)。其中,第一个参数(Region)用于表示交互控件的位置和尺寸,第二个参数(Window Token)用于表示交互控件所属的应用程序,例如该第二个参数可以为交互控件所属的应用程序的标识。
并且,开发人员可以在交互控件中注册该可视可点击服务模块,使该可视可点击服务模块可以与该交互控件进行通信。由此,该交互控件可以将其位置和尺寸发送至该可视可点击服务模块,即该可视可点击服务模块可以从交互控件中获取交互控件的位置以及尺寸。
在本申请实施例中,可视可点击服务模块可以确定显示界面当前显示的应用界面中显示的交互控件的位置和尺寸,并将交互控件的位置和尺寸记录在移动终端的共享内存中,即该共享内存中存储有位置信息。该位置信息可以为系统属性(System Properties)信息。对于显示界面当前显示的应用界面中中未显示的交互控件,该可视可点击服务模块可以无需记录该交互控件的位置和尺寸。
因此,为了便于可视可点击服务模块确定显示界面当前显示的应用界面中的交互控件的位置和尺寸,移动终端的操作系统需先确定哪些交互控件是可见的(显示界面当前显示的应用界面中的交互控件是可见的),哪些交互控件是能够响应触控操作(即是否可点击)的。对于每个交互控件,其是否可见可以采用该交互控件中的第一内部变量(如newVisibility)表示,是否能够响应触控操作可以采用该交互控件中的第二内部变量(如isClickable)表示。其中,该第二内部变量由操作系统的接口setClickable()确定。
并且,操作系统可以调用不同的接口,在不同的接口处根据交互控件的第一内部变量确定交互控件是否可见,以及根据第二内部变量确定交互控件是否可点击。若交互控件可见且可点击,则该交互控件可以通过可视可点击服务模块的记录接口(recordTouchable View Region)将其位置和尺寸发送至该可视可点击服务模块。
示例的,参考图5,操作系统可以具有设置标记信息(set Flag)接口,设置控件是否可点击(set Clickable)接口以及设置控件布局(set Layout Params)接口。也即是,操作系统可以在该set Flag接口,set Clickable接口,以及set Layout Params接口处分别确定交互控件是否可见且是否可点击。若在每个接口处确定出该交互控件均可见且可点击,则该可视可点击服务模块的记录接口可以从交互控件中获取该交互控件的位置和尺寸。
在本申请实施例中,对于交互控件而言,该交互控件是否可见以及是否可点击均是其所属的应用程序的运行状态确定的。若应用程序启动但该应用程序运行在移动终端后台,而应用程序的应用界面并未显示在移动终端的显示界面。此时,该交互控件的第一内部变量仍表示该交互控件可视,该交互控件的第二内部变量仍表示该交互控件可点击。也即是,交互控件是否可见以及是否可点击的结果存在错误,导致可视可点击服务模块记录的可视且可点击的交互控件的位置以及尺寸错误,进而导致检测程序确定出的交互控件在显示界面中的显示区域有误。
示例的,参考图6,假设移动终端显示界面显示的界面为该移动终端的主界面,此时,该主界面中的交互控件a1和a2可视且可点击,例如,参考图6,交互控件a1可以为蓝牙按钮,交互控件a2可以为应用中心的图标。参考图7,若应用程序A启动,应用程序A(参考图7,该应用程序A可以为购物类应用程序)的应用界面覆盖主界面。此时主界面中的交互控件a1和a2,操作系统可以根据交互控件a1的第一内部参数确定该交互控件a1可视,根据交互控件a1的第二内部参数确定该交互控件a1可点击,根据交互控件a2的第一内部参数确定该交互控件a2可视,根据交互控件a2的第二内部参数确定该交互控件a2可点击。但是此时主界面并未显示在移动终端的显示界面,因此若可视可点击服务模块记录的可视且可点击的交互控件仍为主界面的交互控件a1和a2的位置和尺寸,会导致检测程序确定出的交互控件在显示界面中的显示区域有误。
因此,为了确保可视可点击服务模块记录的可视且可点击的交互控件的位置以及尺寸的准确性,该可视可点击服务模块的记录接口还可以记录交互控件所属的应用程序的标识。其中,操作系统中可以具有窗口管理模块,该窗口管理模块可以确定移动终端显示界面当前显示的应用界面所属的应用程序。并且,该窗口管理模块还可以确定各个应用程序的切换情况,该切换情况是指各个应用程序在移动终端后台执行的顺序。若该窗口管理模块检测到显示界面当前显示的应用界面所属的应用程序发生变化时,可以通过可视可点击服务模块的更新记录(refresh New Record)接口向可视可点击服务模块发送通知信息,以便可视可点击服务模块根据该通知信息确定移动终端前显示界面当显示的应用界面所属的应用程序,保证可视可点击服务模块记录的可视且可点击的交互控件的位置和尺寸的准确性。
示例的,窗口管理模块可以向可视可点击服务模块发送应用程序A的标识,假设应用程序A的交互控件包括交互控件b1和交互控件b2,参考图7,该交互控件b1为“每天的营养补给站”的入口按钮,交互控件b2为“购买”按钮。该可视可点击服务模块根据接收到窗口管理模块发送的标识,确定可视且可点击的交互控件的位置和尺寸包括:交互控件b1的位置和尺寸,以及交互控件b2的位置和尺寸。
可选的,可视可点击服务模块确定显示界面当前显示的应用界面中的交互控件的位置和尺寸之后,可以将该交互控件的位置和尺寸记录在移动终端的共享内存中。由此,移动终端中运行的检测程序可以从其共享内存中存储的位置信息确定显示界面中当前显示的应用界面中的各个交互控件在显示界面的显示区域。
例如,参考图7,移动终端显示界面当前显示的应用界面包括交互控件b1和交互控件b2,则该共享内存中的位置信息可以包括:交互控件b1的位置和尺寸,以及交互控件b2的位置和尺寸。其中,每个交互控件的位置可以采用该交互控件的至少两个边界点(例如左上角和右下角的边界点)的坐标来表示,每个交互控件的尺寸可以采用该交互控件两个边界点的坐标的差值来表示。例如,根据第一边界点的横坐标与第二边界点的横坐标的差值确定交互控件的长度,根据第一边界点的纵坐标与第二边界点的纵坐标的差值确定交互控件的宽度。
示例的,该位置信息sys.touchable.region可以为:100,100,200,150;250,100,350,150。其中,分号“;”用于划分不同的交互控件,逗号“,”用于划分交互控件的坐标信息。交互控件b1的第一边界点b11的坐标为(100,100),第二边界点b12的坐标为(200,150),该第一边界点b11和第二边界点b12为交互控件b1的相对的两个边界点。交互控件b2的第三边界点b21的坐标为(250,100),第四边界点b22的坐标为(350,150),该第三边界点b21和第四边界点b22为交互控件b2的相对的两个边界点。
由此,移动终端中运行的检测程序可以从其共享内存中存储的位置信息确定交互控件在显示界面的显示区域包括:第一矩形区域和第二矩形区域。该第一矩形区域的第一边界点的坐标为(100,100),第二边界点的坐标为(200,150),该第一边界点和第二边界点的连线为第一矩形区域的对角线,该第一矩形区域在像素行方向上包括的像素数量为200-100=100个,在像素列方向上包括的像素数量为150-100=50个。该第二矩形区域的第三边界点的坐标为(250,100),第四边界点的坐标为(350,150),该第三边界点和第四边界点的连线为第二矩形区域的对角线,该第二矩形区域在像素行方向上包括的像素数量为350-250=100个,在像素列方向上包括的像素数量为150-100=50个。
当然,交互控件的形状除了可以为矩形之外,还可以为其他形状,本申请实施例对此不作限定。假设交互控件为圆形,则共享内存中的位置信息可以包括:交互控件的圆心坐标以及半径。
需要说明的是,交互控件可以包括:按钮和可滑动界面中的至少一种。示例的,用户在触发针对移动终端中显示界面显示的按钮的触控操作时,移动终端可以响应于该触控操作跳转至另一显示界面,或者移动终端可以响应于该触控操作调整该按钮的颜色。其中,该触控操作可以为针对按钮的点击操作。该可滑动界面可以为列表界面,用户在触发针对移动终端中显示界面显示的列表界面的触控操作时,移动终端可以响应于该触控操作调整显示界面显示的图像,例如,该显示界面显示的图像可以上下滑动。其中,该触控操作可以为针对该列表界面的滑动操作。
步骤302、接收针对显示界面的第一触控操作。
在本申请实施例中,用户可以触发针对显示界面的第一触控操作,检测程序进而可以接收到该用户触发的第一触控操作。
步骤303、确定接收到第一触控操作在显示界面中的作用区域。
在本申请实施例中,检测程序在接收到针对显示界面的第一触控操作之后,即可确定该第一触控操作在显示界面中的作用区域。
示例的,参考图8和图9,若用户通过手指触发第一触控操作,且用户所点击的区域为交互控件c1所在区域的部分区域c11。检测程序在接收到用户触发的第一触控操作时,即可接收到区域c11的中心位置X的坐标,检测程序可以将该中心位置X的坐标作为作用区域。或者,检测程序也可以直接将区域c11作为作用区域。
步骤304、确定作用区域是否位于显示区域内。
在本申请实施例中,检测程序可以确定第一触控操作在显示界面中的作用区域是否位于交互控件在显示界面中的显示区域内。若作用区域位于显示区域内,则说明第一触控操作为针对显示界面中显示的交互控件的操作,检测程序可以继续执行下述步骤305;若作用区域不位于显示区域内,则说明第一触控操作不是针对显示界面中显示的交互控件的操作,因此可以结束操作,并无需再执行下述步骤305。
步骤305、响应于针对显示界面中显示的交互控件的第一触控操作,获取交互控件所在区域中的第一目标区域的第一图像。
在本申请实施例中,若第一触控操作为针对交互控件的操作,检测程序可以响应于该第一触控操作,获取交互控件所在区域中的第一目标区域的第一图像。通常情况下,若移动终端未出现定屏,用户在触发针对该交互控件的第一触控操作时,移动终端能够响应于该第一触控操作更新该移动终端的显示界面显示的应用界面,从而使得该交互控件所在区域的图像发生变化。
需要说明的是,该第一目标区域可以为该交互控件所在区域,也即是,检测程序获取到的第一图像为该交互控件所在区域的图像。或者,该第一目标区域可以为交互控件所在区域中的部分区域,也即是,该检测程序获取到的第一图像为该交互控件所在区域的部分区域的图像。本申请实施例对此不作限定。
参考图9,为了减少检测过程中占用的内存,以及减少对处理器的资源消耗,该第一目标区域可以为检测程序接收到的第一触控操作的区域的中心位置的矩形领域U,该邻域U的面积小于交互控件所在区域的面积。
示例的,该第一目标区域可以为第一触控操作的区域的中心位置的L×L邻域,L为大于1的奇数,例如L可以为5,7以及9。其中,该L×L邻域可以包括L行L列像素,即共包括L2个像素,且该第一触控操作的区域的中心位置可以位于该L×L邻域中第(L+1)/2行第(L+1)/2列。
需要说明的是,移动终端出现定屏时,用户通常采用单一点触控的方式确定该移动终端是否能够响应。例如移动终端处于游戏界面,用户在发现该游戏界面不发生变化时(移动终端可能出现定屏),通常会单手指点击该游戏界面中的交互控件,确定该移动终端是否能够响应。因此本申请实施例提供的定屏检测方法可以在接收到针对显示界面中显示的一个交互控件的触控操作时进行检测。
步骤306、在检测到第一触控操作结束后,获取第一目标区域的第二图像。
在本申请实施例中,用户在停止对该交互控件的第一触控操作后,移动终端中运行的检测程序可以检测到该第一触控操作结束,该检测程序可以获取第一目标区域的第二图像。
示例的,若用户通过手指点击交互控件时,检测程序可以获取第一目标区域的第一图像,用户抬起手指时,检测程序可以确定第一触控操作结束,并可以获取第一目标区域的第二图像。
需要说明的是,检测程序获取到的第二图像可以与获取到的第一图像的尺寸相同。例如,检测程序获取到的第一图像包括25个像素,则检测程序获取到的第二图像也包括25个像素,并且,该第一图像中包括的25个像素在移动终端的显示界面上的位置,与第二图像中包括的25个像素在移动终端的显示界面上的位置一一对应。
在本申请实施例中,移动终端在未出现定屏时,移动终端在检测到第一触控操作结束后,通常会具有一定的响应时间来响应该第一触控操作。也即是,移动终端在未出现定屏时,该移动终端中显示的内容会在一定的响应时间之后才会发生变化。因此该移动终端可以在检测到该第一触控操作结束后的目标时长之后,再获取该第一目标区域的第二图像,使得该移动终端具有足够的时间响应该第一触控操作,提高定屏检测的准确性。其中,该目标时长可以是移动终端中预先存储的。
步骤307、检测第一图像与第二图像的相似度是否大于或等于第一相似度阈值。
在本申请实施例中,为了确定移动终端是否出现定屏,该移动终端中运行的检测程序可以根据获取到的第一图像和第二图像,确定该第一图像和第二图像的相似度,并在确定出第一图像与第二图像的相似度大于或等于第一相似度阈值,执行下述步骤308;在确定出第一图像与第二图像的相似度小于第一相似度阈值,执行下述步骤315。
可选的,该第一图像和第二图像的相似度S1可以满足:S1=G1/Z1。其中,G1为第一图像中像素的像素值与第二图像中对应位置处像素的像素值相同的数量,Z1为第一图像(或第二图像)中像素的总数量。该第一相似度阈值可以是移动终端中预先存储的。
示例的,该第一相似度阈值为100%,检测程序将第一图像中每个像素的像素值,与第二图像中对应位置处的像素的像素值进行对比,若第一图像中每个像素的像素值与第二图像中对应位置处的像素的像素值均相同(即该第一图像与第二图像完全相同),则表示第一图像与第二图像的相似度为100%,等于该第一相似度阈值,检测程序可以执行下述步骤308。若第一图像中每个像素的像素值与第二图像中对应位置处的像素的像素值至少一个不同,则表示第一图像与第二图像的相似度小于100%,即小于该第一相似度阈值,检测程序可以执行下述步骤315。
步骤308、在第一检测间隔之后,若检测到针对交互控件的第二触控操作,获取第二目标区域的第三图像。
在本申请实施例中,若检测出第一图像和第二图像的相似度大于或等于第一相似度阈值,即移动终端可能发生定屏,此时若移动终端中运行的检测程序直接确定该移动终端发生定屏,可能会影响确定的准确性。因此在第一检测间隔之后,移动终端的检测程序检测到用户触发针对该交互控件的第二触控操作,可以响应于该第二触控操作,获取交互控件所在区域中的第二目标区域的第三图像。
需要说明的是,该第二目标区域可以为该交互控件所在区域,也即是,检测程序获取到的第三图像为该交互控件所在区域的图像。或者,该第二目标区域可以为交互控件所在区域中的部分区域,也即是,该检测程序获取到的第三图像为该交互控件所在区域的部分区域的图像。并且,该第二目标区域可以与第一目标区域相同,也可以不同,本申请实施例对此不作限定。
可选的,为了减少移动终端占用的内存,以及减少移动终端中处理器的资源消耗,该第二目标区域可以包括检测程序接收到的第二触控操作的区域的中心位置的领域,该邻域的面积小于交互控件所在区域的面积。
示例的,该第二目标区域可以为第二触控操作的区域的中心位置的M×M邻域,M为大于1的奇数,例如M可以为5,7以及9。其中,该M×M邻域可以包括M行M列像素,即共包括M2个像素,且该第一触控操作的区域的中心位置可以位于该M×M邻域中第(M+1)/2行第(M+1)/2列。
需要说明的是,在获取第二目标区域的第三图像之前,检测程序还需要先确定交互控件在显示界面中的显示区域,并在接收针对显示界面的第二触控操作之后,确定该第二触控操作在显示界面中的作用区域。若确定该第二触控操作在显示界面中的作用区域位于显示区域内,检测程序在获取第二目标区域的第三图像。其中,该过程可以参考上述步骤301至步骤304,本申请实施例在此不再赘述。
步骤309、在检测到第二触控操作结束之后,获取第二目标区域的第四图像。
在本申请实施例中,用户在停止对该交互控件的第二触控操作后,移动终端中运行的检测程序可以检测到该第二触控操作结束,该检测程序可以获取目标区域的第四图像。
需要说明的是,检测程序获取到的第四图像可以与获取到的第三图像的尺寸相同。例如,检测程序获取到的第三图像包括49个像素,则检测程序获取到的第四图像也包括49个像素,并且,该第三图像中包括的49个像素在移动终端的显示界面上的位置,与第四图像中包括的49个像素在移动终端的显示界面上的位置一一对应。
在本申请实施例中,该移动终端可以在检测到该第二触控操作结束后的目标时长之后,再获取该第二目标区域的第四图像,使得该移动终端具有足够的时间响应该第二触控操作,提高定屏检测的准确性。
步骤310、检测第三图像与第四图像的相似度是否大于或等于第二相似度阈值。
在本申请实施例中,为了确定移动终端是否出现定屏,该检测程序可以根据获取到的第三图像和第四图像,确定该第三图像和第四图像的相似度,并在确定出第三图像与第四图像的相似度大于或等于第二相似度阈值,执行下述步骤311;在确定出第一图像与第二图像的相似度小于第二相似度阈值,执行下述步骤315。
可选的,该第三图像和第四图像的相似度S2可以满足:S2=G2/Z2。其中,G2为第三图像中像素的像素值与第四图像中对应位置处像素的像素值相同的数量,Z2为第三图像(或第四图像)中像素的总数量。该第二相似度阈值可以是移动终端预先存储的,该第二相似度阈值可以与第一相似度阈值相等,也可以不等,本申请实施例对此不作限定。例如,该第二相似度阈值为100%。
步骤311、在第二检测间隔之后,若检测到针对交互控件的第三触控操作,获取第三目标区域的第五图像。
在申请实施例中,为了进一步保证确定出的移动终端是否定屏的准确性,该移动终端中运行的检测程序还可以在检测出第三图像和第四图像的相似度大于或等于第二相似度阈值时,在第二检测间隔之后,移动终端的检测程序检测到用户触发针对该交互控件的第三触控操作,可以响应于该第三触控操作,获取交互控件所在区域中的第三目标区域的第五图像。
其中,该第二时间间隔可以小于第一时间间隔,例如,该第一时间间隔可以为30s(秒),该第二时间间隔可以为10s。
需要说明的是,该第三目标区域可以为该交互控件所在区域,也即是,检测程序获取到的第五图像为该交互控件所在区域的图像。或者,该第三目标区域可以为交互控件所在区域中的部分区域,也即是,该检测程序获取到的第五图像为该交互控件所在区域的部分区域的图像。并且,该第三目标区域可以与第一目标区域以及第二目标区域相同,也可以不同,本申请实施例对此不作限定。
可选的,为了减少移动终端占用的内存,以及减少移动终端中处理器的资源消耗,该第三目标区域可以包括检测程序接收到的第三触控操作的区域的中心位置的领域,该邻域的面积小于交互控件所在区域的面积。
示例的,该第三目标区域可以为第三触控操作的区域的中心位置的N×N邻域,N为大于1的奇数,例如N可以为5,7以及9。其中,该N×N邻域可以包括N行N列像素,即共包括N2个像素,且该第三触控操作的区域的中心位置可以位于该N×N邻域中第(N+1)/2行第(N+1)/2列。
需要说明的是,在获取第三目标区域的第五图像之前,检测程序还需要先确定交互控件在显示界面中的显示区域,并在接收针对显示界面的第三触控操作之后,确定该第三触控操作在显示界面中的作用区域。若确定该第三触控操作在显示界面中的作用区域位于显示区域内,检测程序在获取该第三目标区域的第五图像。其中,该过程可以参考上述步骤301至步骤304,本申请实施例在此不再赘述。
步骤312、在检测到第三触控操作结束之后,获取第三目标区域的第六图像。
在本申请实施例中,用户在停止对该交互控件的第三触控操作后,移动终端中运行的检测程序可以检测到该第三触控操作结束,该检测程序可以获取第三目标区域的第六图像。
需要说明的是,检测程序获取到的第六图像可以与获取到的第五图像的尺寸相同。例如,检测程序获取到的第五图像包括25个像素,则检测程序获取到的第六图像也包括25个像素,并且,该第五图像中包括的25个像素在移动终端的显示界面上的位置,与第六图像中包括的25个像素在移动终端的显示界面上的位置一一对应。
在本申请实施例中,该移动终端可以在检测到该第三触控操作结束后的目标时长之后,再获取该第三目标区域的第六图像,使得该移动终端具有足够的时间响应该第三触控操作,提高定屏检测的准确性。
步骤313、检测第五图像与第六图像的相似度是否大于或等于第三相似度阈值。
在本申请实施例中,为了确定移动终端是否出现定屏,该移动终端中运行的检测程序可以根据获取到的第五图像和第六图像,确定该第五图像和第六图像的相似度,并在确定出第五图像与第六图像的相似度大于或等于第三相似度阈值,执行下述步骤314;在确定出第一图像与第二图像的相似度小于第三相似度阈值,执行下述步骤315。
可选的,该第五图像和第六图像的相似度S3可以满足:S3=G3/Z3。其中,G3为第五图像中像素的像素值与第六图像中对应位置处像素的像素值相同的数量,Z3为第五图像(或第六图像)中像素的总数量。该第三相似度阈值可以是移动终端预先存储的,该第三相似度阈值可以与第一相似度阈值以及第二相似度阈值相等,也可以不等,本申请实施例对此不作限定。例如,该第三相似度阈值为100%。
步骤314、确定移动终端出现定屏。
在本申请实施例中,若移动终端中运行的检测程序根据上述步骤确定出第一图像与第二图像的相似度大于或等于第一相似度阈值,第三图像与第四图像的相似度大于或等于第二相似度阈值,且第五图像与第六图像的相似度大于或等于第三相似度阈值,说明移动终端在接收到用户触发的触控操作时,并不能响应于其触控操作,该移动终端的显示界面并未发生变化,因此可以确定移动终端出现定屏。
为了能够提高确定移动终端是否出现定屏的准确性,可以在第五图像与第六图像的相似度大于或等于第三相似度阈值时,在第三检测间隔之后,若检测到针对交互控件的第四触控操作,获取交互控件所在区域的第四目标区域的第七图像。并在检测到第四触控操作结束之后,获取第四目标区域的第八图像。之后,移动终端的检测程序可以检测该第七图像与第八图像的相似度是否大于第四相似度阈值。在检测到第七图像与第八图像的相似度大于或等于第四相似度阈值时,确定移动终端出现定屏。其中,该第三检测间隔可以小于第二检测检测,例如,该第三检测间隔为5s。第四相似度阈值可以是移动终端中预先存储的,该第四相似度阈值可以为100%。
当然,为了进一步提高确定移动终端是否出现定屏的准确性,检测程序可以在第七图像与第八图像的相似度大于或等于第四相似度阈值时,继续在一定检测间隔之后进行检测,本申请实施例在此不再赘述。其中,检测间隔的时长可以随着检测次数的增多而减少。并且,为了提高检测的准确性,可以适当减少各个检测间隔的时长。
需要说明的是,本申请实施例提供的定屏检测方法是确定两个图像的相似度大于或等于相似度阈值时,在一定的检测间隔之后再次进行检测,而不是接收到触控操作就检测,节省了移动终端中的处理器的资源消耗。
步骤315、确定移动终端未出现定屏。
在本申请实施例中,若移动终端在接收到用户触发的触控操作时,能够响应于该触控操作使其显示界面发生变化,即确定移动终端未出现定屏。
示例的,若移动终端的检测程序在步骤307检测出第一图像与第二图像的相似度小于第一相似度阈值,该检测程序可以确定移动终端未出现定屏。或者,若移动终端的检测程序在步骤307检测出第一图像与第二图像的相似度大于或等于第一相似度阈值,且在步骤310检测出第三图像与第四图像的相似度小于第二相似度阈值,该检测程序可以确定移动终端未出现定屏。又或者,若移动终端的检测程序在步骤307检测出第一图像与第二图像的相似度大于或等于第一相似度阈值,在步骤310检测出第三图像与第四图像的相似度大于或等于第二相似度阈值,且在步骤313检测出第五图像与第六图像的相似度小于第三相似度阈值,该检测程序可以确定移动终端未出现定屏。
在本申请实施例中,在检测程序确定出移动终端未出现定屏时,可以在第一检测间隔之后,响应于接收到针对显示界面中显示的交互控件的触控操作,再次对移动终端是否出现定屏进行检测。
需要说明的是,移动终端响应于用户触发的触控操作获取的图像可能与检测到触控操作结束后获取到的图像相同,即目标区域的图像在响应于触控操作前后不发生变化,而实际上除该目标区域之外的区域的图像在响应于触控操作前后可能发生变化。此种情况下,移动终端实际上并未出现定屏,但根据上述步骤301至步骤313可能会确定出移动终端出现定屏,导致定屏检测的准确性较低。
因此在本申请实施例中,为了提高定屏检测的准确性,在步骤307,步骤310,以及步骤313中的任一步骤之后,移动终端可以确定在响应于针对用户触发的触控操作时,显示界面中除目标区域之外的其他区域的图像,与检测到触控操作结束后该其他区域的图像的相似度是否大于或等于相似度阈值。若在响应于触控操作前后该其他区域的图像的相似度大于或等于相似度阈值,则确定移动终端出现定屏。若在响应于触控操作前后该其他区域的图像的相似度小于相似度阈值,则确定移动终端未出现定屏。
其中,移动终端响应于显示界面中显示的交互控件的触控操作,除了获取该交互控件所在区域中目标区域的图像之外,还可以获取显示界面中除该目标区域之外的其他区域的图像。并在检测到触控操作结束,且确定出响应于触控操作前后该目标区域的图像并未发生变化时,获取触控操作结束后该其他区域的图像,以对该其他区域的图像进行对比,进而确定移动终端是否出现定屏。
可选的,该其他区域可以包括:除用户触发的交互控件之外的其他交互控件所在的区域,以及除所有交互控件之外的背景区域。例如,该其他区域可以为用户触发的交互控件的周边区域,或者用户触发的交互控件的周边交互控件所在的区域。
还需要说明的是,本申请实施例提供的移动终端的定屏检测方法的步骤的先后顺序可以进行适当调整,步骤也可以根据情况进行相应增减。例如,步骤308至步骤313可以根据实际情况删除。任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化的方法,都应涵盖在本申请的保护范围之内,因此不再赘述。
综上所述,本申请实施例提供了一种移动终端的定屏检测方法,该方法可以响应于触控操作,获取交互控件所在区域中目标区域的第一图像,且在检测到触控操作结束后,获取目标区域的第二图像。根据该第一图像与第二图像的相似度是否大于或等于相似度阈值确定移动终端是否出现定屏。通过两个图像的相似度确定移动终端是否出现定屏,检测的准确性较高。
并且,本申请实施例提供的定屏检测方法只需比较交互控件所在区域的目标区域的图像是否相同,无需对移动终端的显示界面的整体图像进行比较,该检测过程中占用的内存较少,对处理器的资源消耗较少。
图10是本申请实施例提供的另一种移动终端的结构示意图。参考图10可以看出,该移动终端40可以包括处理器401和显示屏402。
其中,该显示屏402可以用于在显示界面中显示交互控件。
作为一种可选的实现方式,该处理器401可以用于:响应于针对显示界面中显示的交互控件的触控操作,获取交互控件所在区域中的目标区域的第一图像;在检测到触控操作结束后,获取目标区域的第二图像;若确定第一图像与第二图像的相似度大于或等于相似度阈值,则确定移动终端出现定屏。
可选的,所述处理器401可以用于:
在确定出第一图像与所述第二图像的相似度大于或等于相似度阈值时,确定在响应于针对触控操作时,显示界面中除目标区域之外的其他区域的图像,与检测到触控操作结束后其他区域的图像的相似度是否大于或等于相似度阈值;
若在响应于触控操作时其他区域的图像,与检测到触控操作结束后其他区域的图像的相似度大于或等于相似度阈值,则确定移动终端出现定屏。
作为另一种可选的实现方式,处理器401可以用于:响应于针对显示界面中显示的交互控件的触控操作,获取显示界面的第一图像;在检测到触控操作结束后,获取显示界面的第二图像;若确定第一图像与第二图像的相似度大于或等于相似度阈值,则确定移动终端出现定屏。
可选的,该处理器401中可以运行有检测程序和操作系统。该检测程序可以独立于操作系统运行,该检测程序可以用于执行获取第一图像,获取第二图像以及确定移动终端是否出现定屏的步骤。
可选的,参考图10,该移动终端40还可以包括:存储器403。该存储器403,可以用于在共享内存中存储位置信息,该共享内存为检测程序和操作系统均能够访问的内存。
该检测程序还用于:根据共享内存中存储的位置信息确定交互控件在显示界面中的显示区域;确定接收到触控操作在显示界面中的作用区域;若作用区域位于显示区域内,则确定触控操作为针对交互控件的操作。
其中,位置信息用于指示显示界面的可见区域中能够响应触控操作的区域的位置。
可选的,该处理器401,用于在检测到触控操作结束后的目标时长之后,获取目标区域的第二图像。
可选的,目标区域为触控操作的区域的中心位置的邻域,该邻域为矩形。
综上所述,本申请实施例提供了一种移动终端,该移动终端可以响应于第一触控操作,获取第一图像,且在检测到第一触控操作结束后,获取第二图像。其中,该第一图像和第二图像为交互控件所在区域中的目标区域的图像,或者,该第一图像和第二图像为显示界面的图像。根据该第一图像与第二图像的相似度是否大于或等于相似度阈值确定移动终端是否出现定屏。通过两个图像的相似度确定移动终端是否出现定屏,检测的准确性较高。
并且,若该第一图像和第二图像为交互控件所在区域中的目标区域的图像,则移动终端只需比较交互控件所在区域的目标区域的图像是否相同,无需对移动终端的显示界面的整体图像进行比较,该检测过程中占用的内存较少,对处理器的资源消耗较少。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的移动终端和各器件的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
图11本申请实施例提供的又一种移动终端的结构示意图,如图11所示,该移动终端50可以包括:显示单元501、存储器502、射频(radio frequency,RF)电路503、音频电路504、无线保真(wireless fidelity,Wi-Fi)模块505、蓝牙模块506、电源507、摄像头508和处理器509等部件。
其中,摄像头508可用于捕获静态图片或视频。物体通过镜头生成光学图片投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给处理器509转换成数字图片信号。
处理器509是移动终端50的控制中心,利用各种接口和线路连接整个终端的各个部分,通过运行或执行存储在存储器502内的软件程序,以及调用存储在存储器502内的数据,执行移动终端50的各种功能和处理数据。在一些实施例中,处理器509可包括一个或多个处理单元;处理器509还可以集成应用处理器和基带处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,基带处理器主要处理无线通信。可以理解的是,上述基带处理器也可以不集成到处理器509中。本申请中处理器509可以运行操作系统和应用程序,可以控制用户界面显示,并可以实现本申请实施例所述的移动终端的定屏检测方法。另外,处理器509与输入单元和显示单元501耦接。
显示单元501可用于接收输入的数字或字符信息,产生与移动终端50的用户设置以及功能控制有关的信号输入,可选的,显示单元501还可以用于显示由用户输入的信息或提供给用户的信息以及移动终端50的各种菜单的图形用户界面(graphical userinterface,GUI)。显示单元501可以包括设置在移动终端50正面的显示屏5011。其中,显示屏5011可以采用液晶显示器、发光二极管等形式来配置。显示单元501可以用于显示本申请中所述的各种图形用户界面。
显示单元501包括:显示屏5011和设置在移动终端50正面的触摸屏5012。该显示屏5011可以用于显示预览图片。触摸屏5012可收集用户在其上或附近的触摸操作,例如点击按钮,拖动滚动框等。其中,触摸屏5012可以覆盖在显示屏5011之上,也可以将触摸屏5012与显示屏5011集成而实现移动终端50的输入和输出功能,集成后可以简称触摸显示屏。
存储器502可用于存储软件程序及数据。处理器509通过运行存储在存储器502的软件程序或数据,从而执行移动终端50的各种功能以及数据处理。存储器502可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。存储器502存储有使得移动终端50能运行的操作系统。本申请中存储器502可以存储操作系统及各种应用程序,还可以存储执行本申请实施例所述的移动终端的定屏检测方法。
RF电路503可用于在收发信息或通话过程中信号的接收和发送,可以接收基站的下行数据后交给处理器509处理;可以将上行数据发送给基站。通常,RF电路包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等器件。
音频电路504、扬声器5041、麦克风5042可提供用户与移动终端50之间的音频接口。音频电路504可将接收到的音频数据转换后的电信号,传输到扬声器5041,由扬声器5041转换为声音信号输出。移动终端50还可配置音量按钮,用于调节声音信号的音量。另一方面,麦克风5042将收集的声音信号转换为电信号,由音频电路504接收后转换为音频数据,再将音频数据输出至RF电路503以发送给比如另一终端,或者将音频数据输出至存储器502以便进一步处理。本申请中麦克风5042可以获取用户的语音。
Wi-Fi属于短距离无线传输技术,移动终端50可以通过Wi-Fi模块505帮助用户收发电子邮件、浏览网页和访问流媒体等,它为用户提供了无线的宽带互联网访问。
蓝牙模块506,用于通过蓝牙协议来与其他具有蓝牙模块的蓝牙设备进行信息交互。例如,移动终端50可以通过蓝牙模块506与同样具备蓝牙模块的可穿戴电子设备(例如智能手表)建立蓝牙连接,从而进行数据交互。
移动终端50还包括给各个部件供电的电源507(比如电池)。电源可以通过电源管理系统与处理器509逻辑相连,从而通过电源管理系统实现管理充电、放电以及功耗等功能。移动终端50还可配置有电源按钮,用于终端的开机和关机,以及锁屏等功能。
移动终端50可以包括至少一种传感器510,比如运动传感器5101、距离传感器5102、指纹传感器5103和温度传感器5104。移动终端50还可配置有陀螺仪、气压计、湿度计、温度计和红外线传感器等其他传感器。
图12是本申请实施例提供的移动终端的软件结构框图。分层架构将软件分成若干个层,每一层都有清晰的角色和分工。层与层之间通过软件接口通信。在一些实施例中,将android系统分为四层,从上至下分别为应用程序层,应用程序框架层,安卓运行时(android runtime)和系统库,以及内核层。
应用程序层可以包括一系列应用程序包。如图12所示,应用程序包可以包括相机,图库,日历,通话,地图,导航,WLAN,蓝牙,音乐,视频,短信息等应用程序。应用程序框架层为应用程序层的应用程序提供应用编程接口(application programming interface,API)和编程框架。应用程序框架层包括一些预先定义的函数。
如图12所示,应用程序框架层可以包括窗口管理器,内容提供器,视图系统,电话管理器,资源管理器,通知管理器等。
窗口管理器用于管理窗口程序。窗口管理器可以获取显示屏大小,判断是否有状态栏,锁定屏幕,截取屏幕等。
内容提供器用来存放和获取数据,并使这些数据可以被应用程序访问。所述数据可以包括视频,图片,音频,拨打和接听的电话,浏览历史和书签,电话簿等。
视图系统包括可视控件,例如显示文字的控件,显示图片的控件等。视图系统可用于构建应用程序。显示界面可以由一个或多个视图组成的。例如,包括短信通知图标的显示界面,可以包括显示文字的视图以及显示图片的视图。
电话管理器用于提供移动终端的通信功能。例如通话状态的管理(包括接通,挂断等)。
资源管理器为应用程序提供各种资源,比如本地化字符串,图标,图片,布局文件,视频文件等等。
通知管理器使应用程序可以在状态栏中显示通知信息,可以用于传达告知类型的消息,可以短暂停留后自动消失,无需用户交互。比如通知管理器被用于告知下载完成,消息提醒等。通知管理器还可以是以图表或者滚动条文本形式出现在系统顶部状态栏的通知,例如后台运行的应用程序的通知,还可以是以对话窗口形式出现在屏幕上的通知。例如在状态栏提示文本信息,发出提示音,通信终端振动,指示灯闪烁等。
android runtime包括核心库和虚拟机。android runtime负责安卓系统的调度和管理。
核心库包含两部分:一部分是java语言需要调用的功能函数,另一部分是安卓的核心库。
应用程序层和应用程序框架层运行在虚拟机中。虚拟机将应用程序层和应用程序框架层的java文件执行为二进制文件。虚拟机用于执行对象生命周期的管理,堆栈管理,线程管理,安全和异常的管理,以及垃圾回收等功能。
系统库可以包括多个功能模块。例如:表面管理器(surface manager),媒体库(media libraries),三维图形处理库(例如openGL ES),2D图形引擎(例如:SGL)等。
表面管理器用于对显示子系统进行管理,并且为多个应用程序提供了2D和3D图层的融合。
媒体库支持多种常用的音频,视频格式回放和录制,以及静态图片文件等。媒体库可以支持多种音视频编码格式,例如:MPEG4,H.264,MP3,AAC,AMR,JPG,PNG等。
三维图形处理库用于实现三维图形绘图,图片渲染,合成,和图层处理等。
2D图形引擎是2D绘图的绘图引擎。
内核层是硬件和软件之间的层。内核层至少包含显示驱动,摄像头驱动,音频驱动,传感器驱动。
本申请实施例提供了一种计算机可读存储介质,计算机可读存储介质中存储有指令,当计算机可读存储介质中存储的指令在计算机上运行时,使得计算机执行上述实施例提供的移动终端的定屏检测方法,例如图2至图4所示的方法。
本申请实施例还提供了一种包含指令的计算机程序产品,当计算机程序产品中的指令在计算机上运行时,使得计算机执行上述方法实施例提供的移动终端的定屏检测方法,例如图2至图4所示的方法。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本申请的可选实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
Claims (10)
1.一种移动终端,其特征在于,所述移动终端包括处理器和显示屏;
所述显示屏用于在显示界面中显示交互控件;
所述处理器用于:
响应于针对所述显示界面中显示的交互控件的触控操作,获取所述交互控件所在区域中的目标区域的第一图像,所述交互控件所在区域的面积小于所述显示界面的面积,所述目标区域的面积小于或等于所述交互控件所在区域的面积;
在检测到所述触控操作结束后,获取所述目标区域的第二图像;
若确定所述第一图像与所述第二图像的相似度大于或等于相似度阈值,则确定所述移动终端出现定屏。
2.根据权利要求1所述的移动终端,其特征在于,所述处理器用于:
在确定出所述第一图像与所述第二图像的相似度大于或等于相似度阈值时,确定在响应于针对所述触控操作时,所述显示界面中除所述目标区域之外的其他区域的图像,与检测到所述触控操作结束后所述其他区域的图像的相似度是否大于或等于所述相似度阈值;
若在响应于触控操作时所述其他区域的图像,与检测到所述触控操作结束后所述其他区域的图像的相似度大于或等于所述相似度阈值,则确定所述移动终端出现定屏。
3.一种移动终端,其特征在于,所述移动终端包括处理器和显示屏;
所述显示屏用于在显示界面中显示交互控件;
所述处理器用于:
响应于针对所述显示界面中显示的交互控件的触控操作,获取所述显示界面的第一图像;
在检测到所述触控操作结束后,获取所述显示界面的第二图像;
若确定所述第一图像与所述第二图像的相似度大于或等于相似度阈值,则确定所述移动终端出现定屏。
4.根据权利要求1至3任一所述的移动终端,其特征在于,所述处理器中运行有检测程序和操作系统,所述检测程序独立于所述操作系统运行;
所述检测程序用于执行获取所述第一图像,获取所述第二图像以及确定所述移动终端是否出现定屏的步骤。
5.根据权利要求4所述的移动终端,其特征在于,移动终端还包括:存储器;所述存储器,用于在共享内存中存储位置信息,所述共享内存为所述检测程序和所述操作系统均能够访问的内存;所述检测程序还用于:
根据所述共享内存中存储的位置信息确定所述交互控件在所述显示界面中的显示区域;
确定接收到触控操作在所述显示界面中的作用区域;
若所述作用区域位于所述显示区域内,则确定所述触控操作为针对所述交互控件的操作;
其中,所述位置信息用于指示所述显示界面的可见区域中能够响应触控操作的区域的位置。
6.根据权利要求1至3,以及5任一所述的移动终端,其特征在于,所述处理器,用于:
在检测到所述触控操作结束后的目标时长之后,获取所述目标区域的第二图像。
7.根据权利要求1至3,以及5任一所述的移动终端,其特征在于,所述目标区域为所述触控操作的作用区域的中心位置的邻域,所述邻域为矩形。
8.一种移动终端的定屏检测方法,其特征在于,所述方法包括:
响应于针对显示界面中显示的交互控件的触控操作,获取所述交互控件所在区域中的目标区域的第一图像,所述交互控件所在区域的面积小于所述显示界面的面积,所述目标区域的面积小于或等于所述交互控件所在区域的面积;
在检测到所述触控操作结束后,获取所述目标区域的第二图像;
若确定所述第一图像与所述第二图像的相似度大于或等于相似度阈值,则确定所述移动终端出现定屏。
9.根据权利要求8所述的方法,其特征在于,所述若确定所述第一图像与所述第二图像的相似度大于或等于相似度阈值,则确定所述移动终端出现定屏,包括:
若确定所述第一图像与所述第二图像的相似度大于或等于相似度阈值,则确定在响应于针对所述触控操作时,所述显示界面中除所述目标区域之外的其他区域的图像,与检测到所述触控操作结束后所述其他区域的图像的相似度是否大于或等于所述相似度阈值;
若在响应于触控操作时所述其他区域的图像,与检测到所述触控操作结束后所述其他区域的图像的相似度大于或等于所述相似度阈值,则确定所述移动终端出现定屏。
10.一种移动终端的定屏检测方法,其特征在于,所述方法包括:
响应于针对显示界面中显示的交互控件的触控操作,获取所述显示界面的第一图像;
在检测到所述触控操作结束后,获取所述显示界面的第二图像;
若确定所述第一图像与所述第二图像的相似度大于或等于相似度阈值,则确定所述移动终端出现定屏。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010436757.0A CN113703655A (zh) | 2020-05-21 | 2020-05-21 | 移动终端及其定屏检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010436757.0A CN113703655A (zh) | 2020-05-21 | 2020-05-21 | 移动终端及其定屏检测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113703655A true CN113703655A (zh) | 2021-11-26 |
Family
ID=78645844
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010436757.0A Pending CN113703655A (zh) | 2020-05-21 | 2020-05-21 | 移动终端及其定屏检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113703655A (zh) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103841369A (zh) * | 2012-11-22 | 2014-06-04 | 北大方正集团有限公司 | 一种监控广告大屏幕状态的方法及系统 |
CN105913088A (zh) * | 2016-04-13 | 2016-08-31 | 厦门美图移动科技有限公司 | 一种卡顿识别方法、装置及计算设备 |
CN109726031A (zh) * | 2018-12-27 | 2019-05-07 | 努比亚技术有限公司 | 一种冻屏监测方法、移动终端及计算机可读存储介质 |
CN110430425A (zh) * | 2019-07-31 | 2019-11-08 | 北京奇艺世纪科技有限公司 | 一种视频流畅度确定方法、装置、电子设备及介质 |
-
2020
- 2020-05-21 CN CN202010436757.0A patent/CN113703655A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103841369A (zh) * | 2012-11-22 | 2014-06-04 | 北大方正集团有限公司 | 一种监控广告大屏幕状态的方法及系统 |
CN105913088A (zh) * | 2016-04-13 | 2016-08-31 | 厦门美图移动科技有限公司 | 一种卡顿识别方法、装置及计算设备 |
CN109726031A (zh) * | 2018-12-27 | 2019-05-07 | 努比亚技术有限公司 | 一种冻屏监测方法、移动终端及计算机可读存储介质 |
CN110430425A (zh) * | 2019-07-31 | 2019-11-08 | 北京奇艺世纪科技有限公司 | 一种视频流畅度确定方法、装置、电子设备及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111597000B (zh) | 一种小窗口管理方法及终端 | |
AU2017418882A1 (en) | Display method and apparatus | |
CN111367456A (zh) | 通信终端及多窗口模式下的显示方法 | |
CN111225108A (zh) | 一种通信终端及负屏界面的卡片显示方法 | |
US20240236227A9 (en) | Information display method and electronic device | |
CN112835472B (zh) | 通信终端及显示方法 | |
CN112114733B (zh) | 一种截屏、录屏方法、移动终端及计算机存储介质 | |
CN113835569A (zh) | 终端设备、应用内部功能的快捷启动方法和存储介质 | |
CN110865765A (zh) | 终端及地图控制方法 | |
CN113360122B (zh) | 移动终端及其文本显示方法 | |
CN111176766A (zh) | 一种通信终端及组件显示方法 | |
CN114035870A (zh) | 一种终端设备、应用资源控制方法和存储介质 | |
CN113055585B (zh) | 拍摄界面的缩略图显示方法及移动终端 | |
CN113253905B (zh) | 基于多指操作的触控方法及智能终端 | |
CN112992082B (zh) | 电子设备及其电子墨水屏的刷新方法 | |
CN114546219A (zh) | 图片列表的处理方法及相关装置 | |
CN114067758B (zh) | 移动终端及其图像显示方法 | |
CN113642010B (zh) | 一种获取扩展存储设备数据的方法及移动终端 | |
CN113900740A (zh) | 加载多项列表数据的方法及装置 | |
CN111399955B (zh) | 移动终端及其应用程序的界面显示方法 | |
CN113760164A (zh) | 显示设备及其控制操作的响应方法 | |
CN113703655A (zh) | 移动终端及其定屏检测方法 | |
CN111324255A (zh) | 一种基于双屏终端的应用处理方法及通信终端 | |
CN111159734A (zh) | 通信终端及多应用数据互访处理方法 | |
CN115277937B (zh) | 待办事项的显示方法及移动终端 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information | ||
CB02 | Change of applicant information |
Country or region after: China Address after: Shandong City, Qingdao Province, Jiangxi City Road No. 11 Applicant after: Qingdao Hisense Mobile Communication Technology Co.,Ltd. Address before: Shandong City, Qingdao Province, Jiangxi City Road No. 11 Applicant before: HISENSE MOBILE COMMUNICATIONS TECHNOLOGY Co.,Ltd. Country or region before: China |