CN107797750A - 一种屏幕内容识别处理方法、装置、终端和介质 - Google Patents
一种屏幕内容识别处理方法、装置、终端和介质 Download PDFInfo
- Publication number
- CN107797750A CN107797750A CN201711025280.1A CN201711025280A CN107797750A CN 107797750 A CN107797750 A CN 107797750A CN 201711025280 A CN201711025280 A CN 201711025280A CN 107797750 A CN107797750 A CN 107797750A
- Authority
- CN
- China
- Prior art keywords
- screen content
- region
- identified
- screen
- determined
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明公开了一种屏幕内容识别处理方法、装置、终端和介质，用以简化针对屏幕内容的处理操作流程，提高用户体验。屏幕内容识别处理方法，包括：监控用户针对显示屏幕的触控操作；以及如果确定监控到的触控操作为预设的屏幕内容识别触发操作，则确定待识别的屏幕内容所在的区域；识别确定出的区域内所包含的屏幕内容类型；根据所述屏幕内容类型提供相应的操作类型供用户选择。
Description
技术领域
本发明涉及智能终端技术领域，尤其涉及一种屏幕内容识别处理方法、装置、终端和介质。
背景技术
本部分旨在为权利要求书中陈述的本发明的实施方式提供背景或上下文。此处的描述不因为包括在本部分中就承认是现有技术。
随着移动通信技术的发展，移动终端的处理能力逐渐增强，允许在显示屏幕上显示网页图像或文档等信息。
目前，移动终端的屏幕一般采用支持触控技术的电阻屏和电容屏，以电容屏应用居多。现有的电容屏支持多点触控技术，可以让用户使用手指来控制终端屏幕的显示，如放大、缩小或移动等操作。多点触控技术是基于人机交互技术与硬件设备的结合而共同实现，其可以在没有传统输入设备(如：鼠标、键盘等)的情况下，通过触摸屏(屏幕、桌面或墙壁等)或触控板同时接受来自屏幕上多个点进行计算机的人机交互操作。用户可通过双手进行单点触摸，也可以以单击、双击、平移、按压、滚动以及旋转等不同手势触摸屏幕，从而使用户可以更好更全面地了解对象的相关特征(文字、录像、图片、卫片、三维模拟等信息)。
用户在浏览移动终端屏幕上的显示内容时，如果用户需要对正在浏览的部分内容进一步进行处理，例如，用户需要复制部分内容，或者用户需要分享部分内容，或者用户需要搜索部分内容等等，根据现有技术，用户往往需要经过一系列的操作才能实现，以用户需要复制屏幕显示的部分内容为例，用户需要执行以下操作：长按屏幕，触发移动终端弹出弹出“选择，全选”等选项，选择复制内容时，操纵左右选定轴框选所需内容，选定后弹出“复制”选项；至此，完成复制操作，如果用户需要进一步搜索相关内容，则需要退出当前应用程序，打开提供搜索服务的应用程序后，将复制的内容粘贴至搜索框中，点击开始搜索后，才能获得相关的搜索结果。
由此可见，现有的针对屏幕内容的处理操作流程比较复杂，导致用户操作繁琐，降低了用户体验。
发明内容
本发明实施例提供一种屏幕内容识别处理方法、装置、终端和介质，用以简化针对屏幕内容的处理操作流程，提高用户体验。
第一方面，提供一种屏幕内容识别处理方法，包括：
监控用户针对显示屏幕的触控操作；以及
如果确定监控到的触控操作为预设的屏幕内容识别触发操作，则确定待识别的屏幕内容所在的区域；
识别确定出的区域内所包含的屏幕内容类型；
根据所述屏幕内容类型提供相应的操作类型供用户选择。
可选地，在识别确定出的区域内所包含的屏幕内容类型之前，还包括：
对所在区域内包含的页面元素进行识别得到可编辑的页面元素；以及
以屏幕浮窗的形式显示得到的页面元素。
可选地，如果确定监控到的触控操作为预设的屏幕内容识别触发操作，则在确定待识别的屏幕内容所在区域之前，还包括：
提供区域选取框用于引导用户选择待识别的屏幕内容所在区域；以及
确定待识别的屏幕内容所在区域，包括：
确定用户利用所述区域选取框选择出的区域为待识别的屏幕内容所在区域。
可选地，所述屏幕内容识别触发操作包括用户针对显示屏幕的多点触控操作；以及
确定待识别的屏幕内容所在的区域，包括：
获取每一触点的触点坐标；
根据获取的多个触点坐标确定待识别的屏幕内容所在的区域。
可选地，所述多点触控操作包括两点触控操作；以及
根据获取的多个触点坐标确定待识别的屏幕内容所在的区域，包括：
以获取的两个触点坐标为对角线顶点坐标构造待识别的屏幕内容所在的矩形区域；或者
按照页面元素排列方式，以获取的两个触点坐标作为屏幕内容识别的起始点坐标和终止点坐标标记待识别的屏幕内容所在的区域。
可选地，在监控到用户针对显示屏幕的多点触控操作的同时，还包括：
启动计时器；
在获取每一触点的触点坐标之前，还包括：
确定所述计时器的计时时长达到预设阈值。
可选地，所述屏幕内容类型包括文字和图片；以及如果所述屏幕内容类型为文字，则提供的操作类型包括以下至少一项：复制操作、收藏操作、分享操作、翻译操作、编辑操作和文字搜索操作；如果所述屏幕内容类型为图片，则提供的操作类型包括以下至少一项：收藏操作、图片搜索操作、编辑操作和分享操作。
第二方面，提供一种屏幕内容识别处理装置，包括：
监控单元，用于监控用户针对显示屏幕的触控操作；
确定单元，用于如果确定所述监控单元监控到的触控操作为预设的屏幕内容识别触发操作，则确定待识别的屏幕内容所在的区域；
第一识别单元，用于识别确定出的区域内所包含的屏幕内容类型；
第一响应单元，用于根据所述屏幕内容类型提供相应的操作类型供用户选择。
可选地，本发明提供的屏幕内容识别处理装置，还包括：
第二识别单元，用于在所述第一识别单元识别确定出的区域内所包含的屏幕内容类型之前，对所在区域内包含的页面元素进行识别得到可编辑的页面元素；
显示单元，还用于以屏幕浮窗的形式显示得到的页面元素。
可选地，本发明提供的屏幕内容识别处理装置，还包括第二响应单元，其中：
所述第二响应单元，用于如果确定所述监控单元监控到的触控操作为预设的屏幕内容识别触发操作，则在所述确定单元确定待识别的屏幕内容所在区域之前，提供区域选取框用于引导用户选择待识别的屏幕内容所在区域；
所述确定单元，用于确定用户利用所述区域选取框选择出的区域为待识别的屏幕内容所在区域。
可选地，所述屏幕内容识别触发操作包括用户针对显示屏幕的多点触控操作；以及
所述确定单元，具体用于获取每一触点的触点坐标；根据获取的多个触点坐标确定待识别的屏幕内容所在的区域。
可选地，所述多点触控操作包括两点触控操作；以及
所述确定单元，具体用于以获取的两个触点坐标为对角线顶点坐标构造待识别的屏幕内容所在的矩形区域；或者按照页面元素排列方式，以获取的两个触点坐标作为屏幕内容识别的起始点坐标和终止点坐标标记待识别的屏幕内容所在的区域。
可选地，本发明提供的屏幕内容识别处理装置，还包括：
计时器，用于在所述监控单元监控到用户针对显示屏幕的多点触控操作的同时启动；以及在所述确定单元获取每一触点的触点坐标之前，确定计时时长达到预设阈值。
可选地，所述屏幕内容类型包括文字和图片；以及如果所述屏幕内容类型为文字，则提供的操作类型包括以下至少一项：复制操作、收藏操作、分享操作、翻译操作、编辑操作和文字搜索操作；如果所述屏幕内容类型为图片，则提供的操作类型包括以下至少一项：收藏操作、图片搜索操作、编辑操作和分享操作。
第三方面，提供了一种终端，所述终端包括处理器和存储器，所述处理器用于执行存储器中存储的计算机程序时实现上述任一项所述方法的步骤。
第四方面，提供了一种可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现上述任一项所述方法的步骤。
本发明实施例提供的屏幕内容识别处理方法、装置、终端和介质，在监控到屏幕内容识别的触发操作时，确定待识别的屏幕内容所在的区域并进一步识别该区域内的屏幕内容类型，根据识别出的屏幕内容类型提供不同的操作类型供用户选择，这样，用户可以在当前页面完成针对屏幕内容的一系列操作，简化了屏幕内容处理的流程，提高了用户体验。
本发明的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。
附图说明
此处所说明的附图用来提供对本发明的进一步理解，构成本发明的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：
图1a为根据本发明实施方式的屏幕内容识别处理方法的实施流程示意图；
图1b为本发明实施例中，屏幕内容为文字时的页面变化示意图；
图1c为本发明实施例中，屏幕内容为图片时的页面变化示意图；
图2为根据本发明实施方式的屏幕内容识别处理装置的结构示意图；
图3为根据本发明实施方式的终端结构示意图。
具体实施方式
为了简化针对屏幕内容的处理操作流程，提高用户体验，本发明实施例提供了一种屏幕内容识别处理方法、装置、终端和介质。
以下结合说明书附图对本发明的优选实施例进行说明，应当理解，此处所描述的优选实施例仅用于说明和解释本发明，并不用于限定本发明，并且在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。
实施例一
如图1a所示，其为本发明实施例提供的屏幕内容识别处理方法的处理流程示意图，可以包括以下步骤：
S11、监控用户针对显示屏幕的触控操作。
具体实施时，终端设备实时检测用户针对屏幕的触控操作。
S12、如果确定监控到的触控操作为预设的屏幕内容识别触发操作，则确定待识别的屏幕内容所在区域。
其中，屏幕内容识别触发操作可以包括多点触控操作。优选地，为了区别屏幕内容识别触发操作与屏幕内容放大、缩小操作等普通的多点触控操作，提高屏幕内容识别触发操作的识别准确性，本发明实施例中，在检测到多点触控操作的同时可以启动计时器，如果计时器的计时时长达到预设阈值，则确定监控到的多点触控操作为屏幕内容识别触发操作；或者，在检测到多点触控操作的同时检测触控操作的压力值，如果检测到的压力值达到预设压力阈值，则确定监控到的多点触控操作为屏幕内容识别触发操作。
S13、识别确定出的区域内所包含的屏幕内容类型。
本步骤中，终端设备根据步骤S12中确定出的区域内包含的屏幕内容，识别其对应的类型，其中，屏幕内容类型包括文字、图片或者页面链接等。
S14、根据屏幕内容类型提供相应的操作类型供用户选择。
本步骤中，终端设备根据步骤S13的识别得到的屏幕内容类型，提供相应的操作类型供用户选择。其中，如果屏幕内容类型为文字，则提供的操作类型包括以下至少一项：复制操作、收藏操作、分享操作、翻译操作、编辑操作和文字搜索操作等等。
具体实施时，复制操作，允许用户对确定出的区域内包含的文字复制至内存，收藏操作允许用户收藏确定出的区域内包含的文字，分享操作允许用户将确定出的区域内包含的文字通过终端设备中安装的其他应用程序进行分享，针对分享操作，终端设备显示提供了分享接口的应用程序，例如，微信，QQ，电子邮件、蓝牙等等；翻译操作允许用户对确定出的区域内包含的文字进行翻译，针对翻译操作，终端设备可显示提供了调用接口的翻译客户端，例如，有道翻译等，编辑操作允许用户对确定出的区域内包含的文字进行编辑，而文字搜索操作允许用户以确定出的区域内包含的文字为关键字在搜索客户端中搜索相关内容，针对文字搜索操作，终端设备显示提供调用接口的搜索客户端，用户选中其中任一搜索客户端后，终端设备将确定出的区域内包含的文字复制至内存，并打开该搜索客户端，在搜索框中粘贴复制的、确定出的区域内包含的文字进行搜索。
如果所述屏幕内容类型为图片，则提供的操作类型包括以下至少一项：收藏操作、图片搜索操作、编辑操作和分享操作等等。
其中，收藏操作允许用户收藏确定出的区域内包含的图片至相册中，图片搜索操作允许用户以确定出的区域内包含的图片搜索相关内容，针对图片搜索操作，终端设备显示图片搜索客户端，例如拍立淘等，与文字搜索类似，如果用户选择拍立淘，则复制确定出的区域内包含的图片至内存，并打开拍立淘客户端后，将复制的图片粘贴到搜索框中进行搜索；编辑操作允许用户对确定出的区域内包含的图片进行编辑，分享操作允许用户将确定出的区域内包含的图片通过终端设备中安装的其他应用程序进行分享，针对分享操作，终端设备显示提供了分享接口的应用程序，例如，微信，QQ，电子邮件、蓝牙等等。
具体实施时，终端设备提供的操作类型中也可以包括其他应用程序，例如，如果识别出屏幕内容类型为图片时，提供的操作类型还可以包括搜索客户端，如拍立淘，如果用户选择拍立淘，则打开拍立淘客户端，并以识别得到的图片进行搜索。
实施例二
针对屏幕内容类型为不可编辑内容的应用场景，本发明实施例中，还可以进一步识别屏幕内容中包含的页面元素。例如，针对PDF格式的文件，如果PDF页面由图片组成，由于其本身不可编辑，这种情况下，用户如果想针对PDF页面中的内容进一步进行处理时，需要自行编辑得到待处理的内容，例如，针对PDF页面中包含的文字，用户希望以相关文字作为关键字搜索相关内容，则需要打开搜索客户端，在搜索框内输入相关文字才能进行搜索。
有鉴于此，本发明实施例中，在执行步骤S13之前，还可以对步骤S12中确定出的区域内包含的页面元素进行识别得到可编辑的页面元素，并以屏幕浮窗的形式显示识别得到的页面元素。在屏幕浮窗中，允许用户对其中显示的页面元素进行编辑，以文字为例，提供删除，修改或者新增等编辑操作。如图1b所示，其为待识别屏幕内容的区域内为文字时的页面变化示意图；图1c为识别出待识别屏幕内容的区域内为图片时的页面变化示意图。
另外，如果页面图片中既包含文字又包含说明图，则可以根据识别结果针对文字部分和说明图部分分别提供不同的操作类型供用户选择。
具体实施时，在步骤S12中，可以按照以下任一方式确定待识别的屏幕内容所在区域：
第一种方式、提供区域选取框
这种实施方式中，在确定监控到的触控操作为预设的屏幕内容识别触发操作时，则提供区域选取框用于引导用户选择待识别的屏幕内容所在区域，用户可以对区域选取框进行拖拉、放大或者缩小操作，根据用户的操作，将用户利用区域选取框选择出的区域为待识别的屏幕内容所在区域。
这种实施方式下，屏幕内容识别触发操作可以为多点触控操作，即终端设备在检测到多点触控操作时，响应于用户的多点触控操作弹出区域选取框，其中，区域选取框的大小可以根据实际需要进行设置，例如，可以设置为2cm*2cm，用户通过调整区域选取框的宽度和高度，使其覆盖自己需要选取的屏幕内容。
第二种方式、
这种实施方式针对屏幕内容识别触发操作为多点触控操作的应用场景，终端设备获取多点触控操作的每一触点的触点坐标，根据获取的多个触点坐标确定待识别的屏幕内容所在的区域。以多点触控操作为两点触控操作为例，终端设备可以以获取的两个触点坐标为对角线顶点坐标构造待识别的屏幕内容所在的矩形区域。这种情况下，针对两个触点在一条直线上的情况，如果两个触点坐标的横坐标相同，则可以以两个触点的纵坐标和屏幕宽度确定出的区域作为待识别的屏幕内容所在的矩形区域。如果两个触点坐标的纵坐标相同，则以触点横坐标确定出的一行区域作为待识别的屏幕内容所在的矩形区域。
或者，终端设备可以按照页面元素排列方式，以获取的两个触点坐标作为屏幕内容识别的起始点坐标和终止点坐标标记待识别的屏幕内容所在的区域。终端设备显示的屏幕内容是逐行排列的，可以从起始点坐标开始逐行标记直至达到终止点坐标。
具体实施时，如果多点触控操作为三点及以上操作，则可以以多个触点坐标确定出的多边形区域作为待识别的屏幕内容所在的区域。优选地，为了保证识别的内容完整，本发明实施例中，还可以对根据多个触点坐标确定出的多边形进行扩展，例如，以多边形的外接矩形作为待识别的屏幕内容所在的区域。
本发明实施例提供的在监控到屏幕内容识别的触发操作时，确定待识别的屏幕内容所在的区域并进一步识别该区域内的屏幕内容类型，根据识别出的屏幕内容类型提供不同的操作类型供用户选择，例如，可以针对文字和图片分别提供不同的操作类型，这样，用户可以在当前页面完成针对屏幕内容的一系列操作；而且，针对页面为图片的，还可以进一步对图片中的文字进行识别，并允许用户对识别得到的文字进行编辑，从而进一步提高了用户体验。
基于同一发明构思，本发明实施例中还提供了一种屏幕内容识别处理装置，由于上述装置解决问题的原理与屏幕内容识别处理方法相似，因此上述装置的实施可以参见方法的实施，重复之处不再赘述。
如图2所示，其为本发明实施例提供的屏幕内容识别处理装置的结构示意图，包括：
监控单元21，用于监控用户针对显示屏幕的触控操作；
确定单元22，用于如果确定所述监控单元监控到的触控操作为预设的屏幕内容识别触发操作，则确定待识别的屏幕内容所在的区域；
第一识别单元23，用于识别确定出的区域内所包含的屏幕内容类型；
第一响应单元24，用于根据所述屏幕内容类型提供相应的操作类型供用户选择。
可选地，本发明提供的屏幕内容识别处理装置，还包括：
第二识别单元，用于在所述第一识别单元识别确定出的区域内所包含的屏幕内容类型之前，对所在区域内包含的页面元素进行识别得到可编辑的页面元素；
显示单元，还用于以屏幕浮窗的形式显示得到的页面元素。
可选地，本发明提供的屏幕内容识别处理装置，还包括第二响应单元，其中：
所述第二响应单元，用于如果确定所述监控单元监控到的触控操作为预设的屏幕内容识别触发操作，则在所述确定单元确定待识别的屏幕内容所在区域之前，提供区域选取框用于引导用户选择待识别的屏幕内容所在区域；
所述确定单元，用于确定用户利用所述区域选取框选择出的区域为待识别的屏幕内容所在区域。
可选地，所述屏幕内容识别触发操作包括用户针对显示屏幕的多点触控操作；以及
所述确定单元，具体用于获取每一触点的触点坐标；根据获取的多个触点坐标确定待识别的屏幕内容所在的区域。
可选地，所述多点触控操作包括两点触控操作；以及
所述确定单元，具体用于以获取的两个触点坐标为对角线顶点坐标构造待识别的屏幕内容所在的矩形区域；或者按照页面元素排列方式，以获取的两个触点坐标作为屏幕内容识别的起始点坐标和终止点坐标标记待识别的屏幕内容所在的区域。
可选地，本发明提供的屏幕内容识别处理装置，还包括：
计时器，用于在所述监控单元监控到用户针对显示屏幕的多点触控操作的同时启动；以及在所述确定单元获取每一触点的触点坐标之前，确定计时时长达到预设阈值。
可选地，所述屏幕内容类型包括文字和图片；以及如果所述屏幕内容类型为文字，则提供的操作类型包括以下至少一项：复制操作、收藏操作、分享操作、翻译操作、编辑操作和文字搜索操作；如果所述屏幕内容类型为图片，则提供的操作类型包括以下至少一项：收藏操作、图片搜索操作、编辑操作和分享操作。
为了描述的方便，以上各部分按照功能划分为各模块(或单元)分别描述。当然，在实施本发明时可以把各模块(或单元)的功能在同一个或多个软件或硬件中实现。
在介绍了本发明示例性实施方式的屏幕内容识别处理方法和装置之后，接下来，介绍根据本发明的另一示例性实施方式的终端。
所属技术领域的技术人员能够理解，本发明的各个方面可以实现为系统、方法或程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。
在一些可能的实施方式中，根据本发明的终端可以至少包括至少一个处理单元、以及至少一个存储单元。其中，所述存储单元存储有程序代码，当所述程序代码被所述处理单元执行时，使得所述处理单元执行本说明书上述描述的根据本发明各种示例性实施方式的屏幕内容识别处理方法中的步骤。例如，所述处理单元可以执行如图1a中所示的步骤S11、监控用户针对显示屏幕的触控操作，和步骤S12、如果确定监控到的触控操作为预设的屏幕内容识别触发操作，则确定待识别的屏幕内容所在区域，步骤S13、识别确定出的区域内所包含的屏幕内容类型，以及步骤S14、根据屏幕内容类型提供相应的操作类型供用户选择。
下面参照图3来描述根据本发明的这种实施方式的终端30。图3显示的终端30仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图3所示，终端30以通用计算设备的形式表现。终端30的组件可以包括但不限于：上述至少一个处理单元31、上述至少一个存储单元32、连接不同系统组件(包括存储单元32和处理单元31)的总线33。
总线33表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器、外围总线、处理器或者使用多种总线结构中的任意总线结构的局域总线。
存储单元32可以包括易失性存储器形式的可读介质，例如随机存取存储器(RAM)321和/或高速缓存存储器322，还可以进一步包括只读存储器(ROM)323。
存储单元32还可以包括具有一组(至少一个)程序模块324的程序/实用工具325，这样的程序模块324包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
终端30也可以与一个或多个外部设备34(例如键盘、指向设备等)通信，还可与一个或者多个使得用户能与终端30交互的设备通信，和/或与使得该终端30能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口35进行。并且，终端30还可以通过网络适配器36与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图3所示，网络适配器36通过总线33与用于终端30的其它模块通信。应当理解，尽管图中未示出，可以结合终端30使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
在一些可能的实施方式中，本发明提供的屏幕内容识别处理方法的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在计算机设备上运行时，所述程序代码用于使所述计算机设备执行本说明书上述描述的根据本发明各种示例性实施方式的屏幕内容识别处理方法中的步骤，例如，所述计算机设备可以执行如图1a中所示的S11、监控用户针对显示屏幕的触控操作，和步骤S12、如果确定监控到的触控操作为预设的屏幕内容识别触发操作，则确定待识别的屏幕内容所在区域，步骤S13、识别确定出的区域内所包含的屏幕内容类型，以及步骤S14、根据屏幕内容类型提供相应的操作类型供用户选择。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
本发明的实施方式的用于屏幕内容识别处理的程序产品可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在计算设备上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括——但不限于——电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于——无线、有线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
应当注意，尽管在上文详细描述中提及了装置的若干单元或子单元，但是这种划分仅仅是示例性的并非强制性的。实际上，根据本发明的实施方式，上文描述的两个或更多单元的特征和功能可以在一个单元中具体化。反之，上文描述的一个单元的特征和功能可以进一步划分为由多个单元来具体化。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明的优选实施例，但本领域内的技术人员一旦得知了基本创造性概念，则可对这些实施例做出另外的变更和修改。所以，所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然，本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样，倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内，则本发明也意图包含这些改动和变型在内。
Claims (10)
1.一种屏幕内容识别处理方法，其特征在于，包括：
监控用户针对显示屏幕的触控操作；以及
如果确定监控到的触控操作为预设的屏幕内容识别触发操作，则确定待识别的屏幕内容所在的区域；
识别确定出的区域内所包含的屏幕内容类型；
根据所述屏幕内容类型提供相应的操作类型供用户选择。
2.如权利要求1所述的方法，其特征在于，在识别确定出的区域内所包含的屏幕内容类型之前，还包括：
对所在区域内包含的页面元素进行识别得到可编辑的页面元素；以及
以屏幕浮窗的形式显示得到的页面元素。
3.如权利要求1所述的方法，其特征在于，如果确定监控到的触控操作为预设的屏幕内容识别触发操作，则在确定待识别的屏幕内容所在区域之前，还包括：
提供区域选取框用于引导用户选择待识别的屏幕内容所在区域；以及
确定待识别的屏幕内容所在区域，包括：
确定用户利用所述区域选取框选择出的区域为待识别的屏幕内容所在区域。
4.如权利要求1所述的方法，其特征在于，所述屏幕内容识别触发操作包括用户针对显示屏幕的多点触控操作；以及
确定待识别的屏幕内容所在的区域，包括：
获取每一触点的触点坐标；
根据获取的多个触点坐标确定待识别的屏幕内容所在的区域。
5.如权利要求4所述的方法，其特征在于，所述多点触控操作包括两点触控操作；以及
根据获取的多个触点坐标确定待识别的屏幕内容所在的区域，包括：
以获取的两个触点坐标为对角线顶点坐标构造待识别的屏幕内容所在的矩形区域；或者
按照页面元素排列方式，以获取的两个触点坐标作为屏幕内容识别的起始点坐标和终止点坐标标记待识别的屏幕内容所在的区域。
6.如权利要求4所述的方法，其特征在于，在监控到用户针对显示屏幕的多点触控操作的同时，还包括：
启动计时器；
在获取每一触点的触点坐标之前，还包括：
确定所述计时器的计时时长达到预设阈值。
7.如权利要求1～6任一权利要求所述的方法，其特征在于，所述屏幕内容类型包括文字和图片；以及如果所述屏幕内容类型为文字，则提供的操作类型包括以下至少一项：复制操作、收藏操作、分享操作、翻译操作、编辑操作和文字搜索操作；如果所述屏幕内容类型为图片，则提供的操作类型包括以下至少一项：收藏操作、图片搜索操作、编辑操作和分享操作。
8.一种屏幕内容识别处理装置，其特征在于，包括：
监控单元，用于监控用户针对显示屏幕的触控操作；
确定单元，用于如果确定所述监控单元监控到的触控操作为预设的屏幕内容识别触发操作，则确定待识别的屏幕内容所在的区域；
第一识别单元，用于识别确定出的区域内所包含的屏幕内容类型；
第一响应单元，用于根据所述屏幕内容类型提供相应的操作类型供用户选择。
9.一种终端，其特征在于，所述终端包括处理器和存储器，所述处理器用于执行存储器中存储的计算机程序时实现如权利要求1-7中任一项所述方法的步骤。
10.一种可读存储介质，其特征在于，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1-7中任一项所述方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711025280.1A CN107797750A (zh) | 2017-10-27 | 2017-10-27 | 一种屏幕内容识别处理方法、装置、终端和介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711025280.1A CN107797750A (zh) | 2017-10-27 | 2017-10-27 | 一种屏幕内容识别处理方法、装置、终端和介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN107797750A true CN107797750A (zh) | 2018-03-13 |
Family
ID=61547987
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201711025280.1A Pending CN107797750A (zh) | 2017-10-27 | 2017-10-27 | 一种屏幕内容识别处理方法、装置、终端和介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN107797750A (zh) |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108762628A (zh) * | 2018-04-23 | 2018-11-06 | 广州视源电子科技股份有限公司 | 页面元素移动显示方法、装置、终端设备及存储介质 |
| CN108803961A (zh) * | 2018-05-24 | 2018-11-13 | Oppo广东移动通信有限公司 | 数据处理方法、装置以及移动终端 |
| CN108958576A (zh) * | 2018-06-08 | 2018-12-07 | Oppo广东移动通信有限公司 | 内容识别方法、装置及移动终端 |
| CN109213400A (zh) * | 2018-08-23 | 2019-01-15 | Oppo广东移动通信有限公司 | 多媒体对象的处理方法、装置、终端及存储介质 |
| CN109933275A (zh) * | 2019-02-12 | 2019-06-25 | 努比亚技术有限公司 | 一种识屏方法、终端及计算机可读存储介质 |
| CN109948102A (zh) * | 2019-03-27 | 2019-06-28 | 维沃移动通信有限公司 | 页面内容编辑方法及终端 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103941969A (zh) * | 2014-03-27 | 2014-07-23 | 小米科技有限责任公司 | 菜单显示方法及装置 |
| CN104142774A (zh) * | 2013-05-06 | 2014-11-12 | 腾讯科技（深圳）有限公司 | 页面内容的处理方法及装置 |
| CN105468226A (zh) * | 2014-09-11 | 2016-04-06 | 深圳富泰宏精密工业有限公司 | 图片浏览系统及方法 |
| CN106325699A (zh) * | 2015-06-30 | 2017-01-11 | 北京金山安全软件有限公司 | 应用程序的启动方法和装置 |
| CN106502533A (zh) * | 2016-10-21 | 2017-03-15 | 上海与德信息技术有限公司 | 一种截屏方法及装置 |
| CN106897291A (zh) * | 2015-12-18 | 2017-06-27 | 北京奇虎科技有限公司 | 基于截屏操作的搜索方法及装置 |
-
2017
- 2017-10-27 CN CN201711025280.1A patent/CN107797750A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104142774A (zh) * | 2013-05-06 | 2014-11-12 | 腾讯科技（深圳）有限公司 | 页面内容的处理方法及装置 |
| CN103941969A (zh) * | 2014-03-27 | 2014-07-23 | 小米科技有限责任公司 | 菜单显示方法及装置 |
| CN105468226A (zh) * | 2014-09-11 | 2016-04-06 | 深圳富泰宏精密工业有限公司 | 图片浏览系统及方法 |
| CN106325699A (zh) * | 2015-06-30 | 2017-01-11 | 北京金山安全软件有限公司 | 应用程序的启动方法和装置 |
| CN106897291A (zh) * | 2015-12-18 | 2017-06-27 | 北京奇虎科技有限公司 | 基于截屏操作的搜索方法及装置 |
| CN106502533A (zh) * | 2016-10-21 | 2017-03-15 | 上海与德信息技术有限公司 | 一种截屏方法及装置 |
Cited By (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108762628A (zh) * | 2018-04-23 | 2018-11-06 | 广州视源电子科技股份有限公司 | 页面元素移动显示方法、装置、终端设备及存储介质 |
| CN108762628B (zh) * | 2018-04-23 | 2020-10-02 | 广州视源电子科技股份有限公司 | 页面元素移动显示方法、装置、终端设备及存储介质 |
| CN108803961A (zh) * | 2018-05-24 | 2018-11-13 | Oppo广东移动通信有限公司 | 数据处理方法、装置以及移动终端 |
| CN108803961B (zh) * | 2018-05-24 | 2020-12-04 | Oppo广东移动通信有限公司 | 数据处理方法、装置以及移动终端 |
| CN108958576A (zh) * | 2018-06-08 | 2018-12-07 | Oppo广东移动通信有限公司 | 内容识别方法、装置及移动终端 |
| WO2019233318A1 (zh) * | 2018-06-08 | 2019-12-12 | Oppo广东移动通信有限公司 | 内容识别方法、装置及移动终端 |
| CN109213400A (zh) * | 2018-08-23 | 2019-01-15 | Oppo广东移动通信有限公司 | 多媒体对象的处理方法、装置、终端及存储介质 |
| CN109933275A (zh) * | 2019-02-12 | 2019-06-25 | 努比亚技术有限公司 | 一种识屏方法、终端及计算机可读存储介质 |
| CN109948102A (zh) * | 2019-03-27 | 2019-06-28 | 维沃移动通信有限公司 | 页面内容编辑方法及终端 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107797750A (zh) | 一种屏幕内容识别处理方法、装置、终端和介质 | |
| CN110162371A (zh) | 显示控制方法及装置、电子设备和存储介质 | |
| CN105988860B (zh) | 执行应用程序的方法及移动装置 | |
| RU2706951C2 (ru) | Способ и устройство для обеспечения графического интерфейса пользователя | |
| US11010211B2 (en) | Content processing across applications | |
| CN111580923B (zh) | 一种控制方法、装置及电子设备 | |
| CN110083278A (zh) | 电子设备及其方法 | |
| US9632693B2 (en) | Translation of touch input into local input based on a translation profile for an application | |
| CN104063128B (zh) | 一种信息处理方法及电子设备 | |
| JP6640893B2 (ja) | 文字を入力する方法及び装置 | |
| CN106649639A (zh) | 一种页面显示方法及设备 | |
| US9235326B2 (en) | Manipulation of user interface controls | |
| MX2014002955A (es) | Entrada de formula para dispositivos de presentacion limitada. | |
| CN106095248A (zh) | 一种基于移动终端的应用程序查找启动方法及系统 | |
| US20220221970A1 (en) | User interface modification | |
| CN109189954A (zh) | 内容推荐方法和装置 | |
| CN106687900A (zh) | 可采取动作的项切换器视图 | |
| CN104571811A (zh) | 一种信息处理方法及电子设备 | |
| US11237699B2 (en) | Proximal menu generation | |
| US20130249810A1 (en) | Text entry mode selection | |
| CN107239209A (zh) | 一种拍照搜索方法、装置、终端及存储介质 | |
| US9904461B1 (en) | Method and system for remote text selection using a touchscreen device | |
| CN109739422B (zh) | 一种窗口控制方法、装置及设备 | |
| US11460971B2 (en) | Control method and electronic device | |
| US10732794B2 (en) | Methods and systems for managing images |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180313 |
|
| RJ01 | Rejection of invention patent application after publication |