CN111090372B - 一种人机交互方法及电子设备 - Google Patents

一种人机交互方法及电子设备 Download PDF

Info

Publication number
CN111090372B
CN111090372B CN201910327623.2A CN201910327623A CN111090372B CN 111090372 B CN111090372 B CN 111090372B CN 201910327623 A CN201910327623 A CN 201910327623A CN 111090372 B CN111090372 B CN 111090372B
Authority
CN
China
Prior art keywords
instruction
user
matching degree
preselected
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910327623.2A
Other languages
English (en)
Other versions
CN111090372A (zh
Inventor
张卓
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Genius Technology Co Ltd
Original Assignee
Guangdong Genius Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Genius Technology Co Ltd filed Critical Guangdong Genius Technology Co Ltd
Priority to CN201910327623.2A priority Critical patent/CN111090372B/zh
Publication of CN111090372A publication Critical patent/CN111090372A/zh
Application granted granted Critical
Publication of CN111090372B publication Critical patent/CN111090372B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching

Abstract

本发明涉及电子设备技术领域,公开一种人机交互方法及电子设备,包括:电子设备的显示屏包括墨水屏,采集用户手指在墨水屏上触发移动轨迹时的运动视频;以移动轨迹与运动视频为依据,确定移动轨迹对应的目标指令;控制电子设备响应目标指令。实施本发明实施例,能够通过墨水屏和图像采集设备共同识别用户基于墨水屏触发的移动轨迹对应的目标指令,以使电子设备可以响应用户触发的目标指令,既能够通过墨水屏保护用户的视力,防止用户视力受损,又能够提升识别用户触发的操作的准确率,从而提高用户的使用体验。

Description

一种人机交互方法及电子设备
技术领域
本发明涉及电子设备技术领域,具体涉及一种人机交互方法及电子设备。
背景技术
随着智能手机、平板电脑等电子设备的快速发展,越来越多的用户选择使用电子设备进行学习、工作或是娱乐。由于当前电子设备的显示屏通常为LCD显示屏,长期使用会导致用户视力受损,因此市面上出现了使用墨水屏的电子设备。然而,在实践中发现,由于墨水屏的刷新率较低,因此当用户在墨水屏上执行点击或涂抹等交互性操作时,墨水屏可能出现延迟、卡顿等现象,从而无法准确的识别出用户触发的操作,导致用户对墨水屏的使用体验较差。
发明内容
本发明实施例公开一种人机交互方法及电子设备,既能够防止用户视力受损,又能够提升识别用户触发的操作的准确率,从而提高用户的使用体验。
本发明实施例第一方面公开一种人机交互方法,所述方法应用于电子设备,所述电子设备的显示屏包括墨水屏,所述方法包括:
采集用户手指在所述墨水屏上触发移动轨迹时的运动视频;
以所述移动轨迹与所述运动视频为依据,确定所述移动轨迹对应的目标指令;
控制所述电子设备响应所述目标指令。
作为一种可选的实施方式,在本发明实施例第一方面中,所述电子设备的显示屏还包含LCD显示屏,所述控制所述电子设备响应所述目标指令,包括:
判断所述目标指令是否为LCD显示屏开启指令;
如果是,控制所述电子设备开启所述LCD显示屏。
作为一种可选的实施方式,在本发明实施例第一方面中,所述控制所述电子设备开启所述LCD显示屏之后,所述方法还包括:
检测用户是否通过所述墨水屏触发内容输出指令;
如果是,获取与所述内容输出指令对应的输出内容,并通过所述LCD显示屏输出所述输出内容。
作为一种可选的实施方式,在本发明实施例第一方面中,所述以所述移动轨迹与所述运动视频为依据,确定所述移动轨迹对应的目标指令,包括:
将所述移动轨迹与预存储的任一操作指令的标准移动轨迹进行比对,获得所述操作指令对应的第一匹配度;
当所述第一匹配度大于预设匹配度时,将所述操作指令确定为预选指令,获得预选指令集合;
从所述运动视频中获取用户手指在所述墨水屏上触发移动轨迹时的目标运动姿态;
将所述目标运动姿态与所述预选指令集合中的任一预选指令的标准运动姿态进行比对,获得所述预选指令对应的第二匹配度;
以所述第二匹配度为依据,从所述预选指令集合中确定所述移动轨迹对应的目标指令。
作为一种可选的实施方式,在本发明实施例第一方面中,所述以所述第二匹配度为依据,从所述预选指令集合中确定所述移动轨迹对应的目标指令,包括:
获取所述移动轨迹对应的第一权重值,以及获取所述目标运动姿态对应的第二权重值;
以所述预选指令集合中任一预选指令对应的第一匹配度和第二匹配度、所述第一权重值以及所述第二权重值为依据,计算得到相似度;
当所述相似度中的最高相似度大于预设相似度时,将所述最高的相似度对应的预选指令确定为所述移动轨迹对应的目标指令。
本发明实施例第二方面公开一种电子设备,所述电子设备的显示屏包括墨水屏,包括:
采集单元,用于采集用户手指在所述墨水屏上触发移动轨迹时的运动视频;
确定单元,用于以所述移动轨迹与所述运动视频为依据,确定所述移动轨迹对应的目标指令;
响应单元,用于控制所述电子设备响应所述目标指令。
作为一种可选的实施方式,在本发明实施例第二方面中,所述电子设备的显示屏还包含LCD显示屏,所述响应单元包括:
判断子单元,用于判断所述目标指令是否为LCD显示屏开启指令;
开启子单元,用于在所述判断子单元的判断结果为是时,控制所述电子设备开启所述LCD显示屏。
作为一种可选的实施方式,在本发明实施例第二方面中,所述电子设备还包括:
检测单元,用于在所述开启子单元控制所述电子设备根据所述屏幕开启指令开启所述LCD显示屏之后,检测用户是否通过所述墨水屏触发内容输出指令;
输出单元,用于在所述检测单元的检测结果为是时,获取与所述内容输出指令对应的输出内容,并通过所述LCD显示屏输出所述输出内容。
作为一种可选的实施方式,在本发明实施例第二方面中,所述确定单元包括:
第一比对子单元,用于将所述移动轨迹与预存储的任一操作指令的标准移动轨迹进行比对,获得所述操作指令对应的第一匹配度;
第一确定子单元,用于当所述第一匹配度大于预设匹配度时,将所述操作指令确定为预选指令,获得预选指令集合;
获取子单元,用于从所述运动视频中获取用户手指在所述墨水屏上触发移动轨迹时的目标运动姿态;
第二比对子单元,用于将所述目标运动姿态与所述预选指令集合中的任一预选指令的标准运动姿态进行比对,获得所述操作指令对应的第二匹配度;
第二确定子单元,用于以所述第二匹配度为依据,从所述预选指令集合中确定所述移动轨迹对应的目标指令。
作为一种可选的实施方式,在本发明实施例第二方面中,所述第二确定子单元包括:
获取模块,用于获取所述移动轨迹对应的第一权重值,以及获取所述目标运动姿态对应的第二权重值;
计算模块,用于以所述预选指令集合中任一预选指令对应的第一匹配度和第二匹配度、所述第一权重值以及所述第二权重值为依据,计算得到相似度;
确定模块,用于当所述相似度中的最高相似度大于预设相似度时,将所述最高的相似度对应的预选指令确定为所述移动轨迹对应的目标指令。
本发明实施例第三方面公开另一种电子设备,包括:
存储有可执行程序代码的存储器;
与所述存储器耦合的处理器;
所述处理器调用所述存储器中存储的所述可执行程序代码,执行第一方面的任意一种方法的部分或全部步骤。
本发明实施例第四方面公开一种计算机可读存储介质,所述计算机可读存储介质存储了程序代码,其中,所述程序代码包括用于执行第一方面的任意一种方法的部分或全部步骤的指令。
本发明实施例第五方面公开一种计算机程序产品,当所述计算机程序产品在计算机上运行时,使得所述计算机执行第一方面的任意一种方法的部分或全部步骤。
本发明实施例第六方面公开一种应用发布平台,所述应用发布平台用于发布计算机程序产品,其中,当所述计算机程序产品在计算机上运行时,使得所述计算机执行第一方面的任意一种方法的部分或全部步骤。
与现有技术相比,本发明实施例具有以下有益效果:
本发明实施例中,电子设备的显示屏包括墨水屏,采集用户手指在墨水屏上触发移动轨迹时的运动视频;以移动轨迹与运动视频为依据,确定移动轨迹对应的目标指令;控制电子设备响应目标指令。可见,实施本发明实施例,能够通过墨水屏和图像采集设备共同识别用户基于墨水屏触发的移动轨迹对应的目标指令,以使电子设备可以响应用户触发的目标指令,既能够通过墨水屏保护用户的视力,防止用户视力受损,又能够提升识别用户触发的操作的准确率,从而提高用户的使用体验。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例公开的一种人机交互方法的流程示意图;
图2是本发明实施例公开的另一种人机交互方法的流程示意图;
图3是本发明实施例公开的另一种人机交互方法的流程示意图;
图4是本发明实施例公开的一种电子设备的结构示意图;
图5是本发明实施例公开的另一种电子设备的结构示意图;
图6是本发明实施例公开的另一种电子设备的结构示意图;
图7是本发明实施例公开的另一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,本发明实施例及附图中的术语“包括”和“具有”以及它们任何变形,意图在于覆盖不排他的包含。例如包含了一系列步骤或单元的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可选地还包括没有列出的步骤或单元,或可选地还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
本发明实施例公开一种人机交互方法及电子设备,能够防止用户视力受损,还能够提升识别用户触发的操作的准确率,从而提高用户的使用体验。以下分别进行详细说明。
实施例一
请参阅图1,图1是本发明实施例公开的一种人机交互方法的流程示意图。方法可以应用于电子设备,电子设备的显示屏可以包括墨水屏,如图1所示,该人机交互方法可以包括以下步骤:
101、电子设备采集用户手指在墨水屏上触发移动轨迹时的运动视频。
本发明实施例中,电子设备可以为家教机、学习平板等,且电子设备上设置的显示屏可以包含墨水屏,且本发明实施例对墨水屏的大小不做限定,此外,墨水屏可以通过电子纸显技术实现,墨水屏可以模拟书本的效果,从而实现保护用户视力的效果。此外,用户可以在墨水屏上通过手指触发移动轨迹,以通过该移动轨迹向电子设备输入需要执行的指令,电子设备在检测到用户的手指接触到墨水屏时可以采集得到用户手指在墨水屏上的移动轨迹,同时还可以采集到用户手指在触发移动轨迹过程中的运动视频,以使电子设备可以根据移动轨迹和运动视频同时对用户输入的指令进行识别,从而使得识别出的目标指令更加准确。
本发明实施例中,移动轨迹可以为连续的线条,且移动轨迹的起点可以为用户手指初次接触墨水屏的位置,移动轨迹的终点可以为用户手指离开墨水屏的位置。
作为一种可选的实施方式,电子设备采集用户手指在墨水屏上触发移动轨迹时的运动视频的方式可以包含以下步骤:
当检测到用户的手指接触墨水屏时,电子设备控制图像采集设备开启;
在通过墨水屏采集用户手指在墨水屏上触发的移动轨迹的同时,电子设备通过图像采集设备采集触发移动轨迹的用户手指的运动视频;
当检测到用户的手指离开墨水屏时,电子设备停止采集移动轨迹和运动视频,从而得到电子设备采集到的用户手指在墨水屏上的移动轨迹和用户手指的运动视频。
其中,实施这种实施方式,可以在检测到用户手指接触墨水屏的同时采集用户手指在墨水屏上的移动轨迹和用户手指的运动视频,从而保证了采集到的移动轨迹与运动视频的同步性。
可选的,电子设备在检测到用户的手指在墨水屏上触发移动轨迹时,可以记录用户手指初次接触墨水屏的初始时刻,并且控制图像采集设备开启;在通过墨水屏采集用户手指在墨水屏上触发的移动轨迹的同时,电子设备通过图像采集设备采集触发移动轨迹的用户手指的初始运动视频;当检测到用户的手指离开墨水屏时,电子设备可以记录用户手指离开墨水屏的结束时刻,并且控制墨水屏停止采集用户手指在墨水屏上的移动轨迹,以及控制图像采集设备停止采集用户手指的初始运动视频;图像采集设备在采集用户手指的初始运动视频的过程中可以记录录制视频的当前时间,因此,电子设备可以从图像采集设备采集的初始运动视频中截取以获取到的初始时刻为起点、结束时刻为终点的视频,并且可以将截取到的视频确定为最终的用户手指的运动视频。从而根据墨水屏上获取到的初始时刻和结束时刻截取图像采集设备采集的运动视频,以使最终得到的用户手指的运动视频与墨水屏采集到的移动轨迹更加匹配。
102、电子设备以移动轨迹与运动视频为依据,确定移动轨迹对应的目标指令。
本发明实施例中,电子设备可以预先存储一种或多种操作指令,更进一步,电子设备还可以预先存储各个操作指令对应的移动轨迹,且一个操作指令对应唯一的一个移动轨迹,以使电子设备可以根据用户输入的移动轨迹准确的识别出该移动轨迹对应的目标指令。此外,移动轨迹可以通过墨水屏输入,也可以通过外接于电子设备的显示屏输入,对此,本发明实施例不做限定。
103、电子设备控制电子设备响应目标指令。
本发明实施例中,电子设备可以通过确定的目标指令确定该目标指令对应的操作,并且可以通过电子设备响应该目标指令,以使电子设备执行该目标指令对应的操作。
在图1所描述的方法中,能够防止用户视力受损,还能够提升识别用户触发的操作的准确率,从而提高用户的使用体验。此外,实施图1所描述的方法,保证了采集到的移动轨迹与运动视频的同步性。此外,实施图1所描述的方法,可以使最终得到的用户手指的运动视频与墨水屏采集到的移动轨迹更加匹配。
实施例二
请参阅图2,图2是本发明实施例公开的另一种人机交互方法的流程示意图。方法可以应用于电子设备,电子设备的显示屏可以包括墨水屏,电子设备的显示屏还可以包含LCD显示屏,如图2所示,该人机交互方法可以包括以下步骤:
201、电子设备采集用户手指在墨水屏上触发移动轨迹时的运动视频。
本发明实施例中,电子设备的显示屏还可以包含LCD显示屏(Liquid CrystalDisplay,液晶显示屏),由于墨水屏输出的多媒体内容在墨水屏上输出的效果为黑白效果,因此用墨水屏输出多媒体内容的效果较差,可以通过彩色显示屏输出多媒体内容,以使终端设备的用户可以通过彩色显示屏看到更为清晰、效果更好的多媒体内容,提高了终端设备用户的使用体验。此外,本发明实施例对彩色显示屏的大小以及墨水屏和彩色显示屏的相对位置关系均不做限定。
202、电子设备以移动轨迹与运动视频为依据,确定移动轨迹对应的目标指令。
203、电子设备判断目标指令是否为LCD显示屏开启指令,如果是,执行步骤204~步骤205;如果否,结束本流程。
204、电子设备控制电子设备开启LCD显示屏。
本发明实施例中,实施上述的步骤203~步骤204,可以检测到识别出的指令是否为LCD显示屏开启指令,如果是,可以控制LCD显示屏自动开启,从而提高了LCD显示屏开启的智能性。
205、电子设备检测用户是否通过墨水屏触发内容输出指令,如果是,执行步骤206;如果否,结束本流程。
本发明实施例中,内容输出指令可以通过用户的手指在墨水屏上触发的移动轨迹来实现,也可以通过语音输入指令的实现,还可以通过点击墨水屏或LCD显示屏上的按键来实现,对此,本发明实施例不做限定,本实施例中的内容输出指令可以通过墨水屏触发。此外,内容输出指令中可以包含需要输出的输出内容的内容标识,电子设备可以从内容输出指令中获得内容标识,并且可以根据该内容标识确定输出内容,并通过LCD显示屏输出该输出内容。
206、电子设备获取与内容输出指令对应的输出内容,并通过LCD显示屏输出该输出内容。
本发明实施例中,实施上述的步骤205~步骤206,可以在开启LCD显示屏之后继续检测用户触发的内容输出指令,以使电子设备可以根据内容输出指令确定需要通过LCD显示屏输出的内容,从而提高LCD显示屏的使用效率。
在图2所描述的方法中,能够防止用户视力受损,还能够提升识别用户触发的操作的准确率,从而提高用户的使用体验。此外,实施图2所描述的方法,提高了LCD显示屏开启的智能性。此外,实施图2所描述的方法,提高了LCD显示屏的使用效率。
实施例三
请参阅图3,图3是本发明实施例公开的另一种人机交互方法的流程示意图。方法可以应用于电子设备,电子设备的显示屏可以包括墨水屏,如图3所示,该人机交互方法可以包括以下步骤:
301、电子设备采集用户手指在墨水屏上触发移动轨迹时的运动视频。
302、电子设备将移动轨迹与预存储的任一操作指令的标准移动轨迹进行比对,获得操作指令对应的第一匹配度。
本发明实施例中,电子设备可以将移动轨迹转换为移动轨迹图像,以使该移动轨迹图像中可以包含与移动轨迹匹配的线条,电子设备还可以获取预存储的任一操作指令的标准移动轨迹,并且可以将该标准移动轨迹转换为标准移动轨迹图像,从而将移动轨迹图像和标准移动轨迹图像进行对比,从而根据上述移动轨迹图像和标准移动轨迹图像的对比结果确定该操作指令对应的第一匹配度。
303、当第一匹配度大于预设匹配度时,电子设备将操作指令确定为预选指令,获得预选指令集合。
本发明实施例中,当电子设备未识别出任一个操作指令的第一匹配度大于预设匹配度时,可以认为本次识别失败,还可以认为用户输入的移动轨迹为无意义的移动轨迹,电子设备还可以通过墨水屏向电子设备的用户发出识别失败提示信息,该识别失败提示信息可以用于提示用户未识别出用户输入的移动轨迹对应的操作指令,还可以提示用户再次输入移动轨迹。此外,第一匹配度大于预设匹配度的操作指令的数量可以为一个或多个,因此可以将都符合第一匹配度大于预设匹配度的操作指令组成预选指令集合,以缩小识别运动视频的操作指令的范围,提高目标指令的确定效率。
304、电子设备从运动视频中获取用户手指在墨水屏上触发移动轨迹时的目标运动姿态。
本发明实施例中,电子设备可以对运动视频中用户手指的运动姿态进行识别,可以从运动视频中识别出用户手指的运动特征,并将该运动特征进行整合,从而得到用户手指的目标运动姿态。
305、电子设备将目标运动姿态与预选指令集合中的任一预选指令的标准运动姿态进行比对,获得预选指令对应的第二匹配度。
306、电子设备以第二匹配度为依据,从预选指令集合中确定移动轨迹对应的目标指令。
本发明实施例中,实施上述的步骤302~步骤306,可以计算得到采集到的移动轨迹与任一操作指令的标准移动轨迹的第一匹配度,还可以计算得到运动视频中用户手指的运动姿态与任一操作指令的标准运动姿态的第二匹配度,进而从电子设备预存的操作指令中选取与用户触发的移动轨迹最为匹配的目标指令,以使目标指令的确定方式更加准确。
作为一种可选的实施方式,电子设备以第二匹配度为依据,从预选指令集合中确定移动轨迹对应的目标指令的方式可以包含以下步骤:
电子设备获取移动轨迹对应的第一权重值,以及获取目标运动姿态对应的第二权重值;
电子设备以预选指令集合中任一预选指令对应的第一匹配度和第二匹配度、第一权重值以及第二权重值为依据,计算得到相似度;
当相似度中的最高相似度大于预设相似度时,电子设备将最高的相似度对应的预选指令确定为移动轨迹对应的目标指令。
其中,实施这种实施方式,可以根据移动轨迹与运动姿态对应的不同权重,以及任一预选指令对应的第一匹配度和第二匹配度,计算得到移动轨迹与任一预选指令的相似度,进而根据相似度确定移动轨迹对应的目标指令,从而提高了目标指令确定的精准度。
可选的,电子设备以预选指令集合中任一预选指令对应的第一匹配度和第二匹配度、第一权重值以及第二权重值为依据,计算得到相似度的方式可以包含以下步骤:
电子设备从预选指令集合中获取任一预选指令对应的第一匹配度和第二匹配度,并将第一匹配度与第一权重值相乘,得到第一乘积;
电子设备将第二匹配度与第二权重值相乘,得到第二乘积;
电子设备将第一乘积和第二乘积相加,得到初始相似度;
电子设备计算该初始相似度的百分比,并将该百分比确定为最终的相似度。
其中,实施这种实施方式,可以通过上述方式根据获取到的任一预选指令对应的第一匹配度和第二匹配度以及第一权重值和第二权重值计算得到相似度,提高了相似度计算的精确性。
307、电子设备控制电子设备响应目标指令。
在图3所描述的方法中,能够防止用户视力受损,还能够提升识别用户触发的操作的准确率,从而提高用户的使用体验。此外,实施图3所描述的方法,可以使目标指令的确定方式更加准确。此外,实施图3所描述的方法,提高了目标指令确定的精准度。此外,实施图3所描述的方法,提高了相似度计算的精确性。
实施例四
请参阅图4,图4是本发明实施例公开的一种电子设备的结构示意图。其中,电子设备的显示屏可以包括墨水屏,如图4所示,该电子设备可以包括:
采集单元401,用于采集用户手指在墨水屏上触发移动轨迹时的运动视频。
作为一种可选的实施方式,采集单元401采集用户手指在墨水屏上触发移动轨迹时的运动视频的方式具体可以为:
当检测到用户的手指接触墨水屏时,控制图像采集设备开启;
在通过墨水屏采集用户手指在墨水屏上触发的移动轨迹的同时,通过图像采集设备采集触发移动轨迹的用户手指的运动视频;
当检测到用户的手指离开墨水屏时,停止采集移动轨迹和运动视频,从而得到电子设备采集到的用户手指在墨水屏上的移动轨迹和用户手指的运动视频。
其中,实施这种实施方式,可以在检测到用户手指接触墨水屏的同时采集用户手指在墨水屏上的移动轨迹和用户手指的运动视频,从而保证了采集到的移动轨迹与运动视频的同步性。
可选的,在检测到用户的手指在墨水屏上触发移动轨迹时,可以记录用户手指初次接触墨水屏的初始时刻,并且控制图像采集设备开启;在通过墨水屏采集用户手指在墨水屏上触发的移动轨迹的同时,通过图像采集设备采集触发移动轨迹的用户手指的初始运动视频;当检测到用户的手指离开墨水屏时,可以记录用户手指离开墨水屏的结束时刻,并且控制墨水屏停止采集用户手指在墨水屏上的移动轨迹,以及控制图像采集设备停止采集用户手指的初始运动视频;图像采集设备在采集用户手指的初始运动视频的过程中可以记录录制视频的当前时间,因此,可以从图像采集设备采集的初始运动视频中截取以获取到的初始时刻为起点、结束时刻为终点的视频,并且可以将截取到的视频确定为最终的用户手指的运动视频。从而根据墨水屏上获取到的初始时刻和结束时刻截取图像采集设备采集的运动视频,以使最终得到的用户手指的运动视频与墨水屏采集到的移动轨迹更加匹配。
确定单元402,用于以采集单元401采集的移动轨迹与运动视频为依据,确定移动轨迹对应的目标指令。
响应单元403,用于控制电子设备响应确定单元402确定的目标指令。
可见,实施图4所描述的电子设备,能够防止用户视力受损,还能够提升识别用户触发的操作的准确率,从而提高用户的使用体验。此外,实施图4所描述的电子设备,保证了采集到的移动轨迹与运动视频的同步性。此外,实施图4所描述的电子设备,可以使最终得到的用户手指的运动视频与墨水屏采集到的移动轨迹更加匹配。
实施例五
请参阅图5,图5是本发明实施例公开的另一种电子设备的结构示意图。其中,图5所示的电子设备是由图4所示的电子设备进行优化得到的。其中,电子设备的显示屏可以包括墨水屏,电子设备的显示屏还可以包含LCD显示屏,图5所示的电子设备的响应单元403可以包括:
判断子单元4031,用于判断目标指令是否为LCD显示屏开启指令。
开启子单元4032,用于在判断子单元4031的判断结果为是时,控制电子设备开启LCD显示屏。
本发明实施例中,可以检测到识别出的指令是否为LCD显示屏开启指令,如果是,可以控制LCD显示屏自动开启,从而提高了LCD显示屏开启的智能性。
作为一种可选的实施方式,图5所示的电子设备还可以包括:
检测单元404,用于在开启子单元4032控制电子设备根据屏幕开启指令开启LCD显示屏之后,检测用户是否通过墨水屏触发内容输出指令;
输出单元405,用于在检测单元404的检测结果为是时,获取与内容输出指令对应的输出内容,并通过LCD显示屏输出该输出内容。
其中,实施这种实施方式,可以在开启LCD显示屏之后继续检测用户触发的内容输出指令,以使电子设备可以根据内容输出指令确定需要通过LCD显示屏输出的内容,从而提高LCD显示屏的使用效率。
可见,实施图5所描述的电子设备,能够防止用户视力受损,还能够提升识别用户触发的操作的准确率,从而提高用户的使用体验。此外,实施图5所描述的电子设备,提高了LCD显示屏开启的智能性。此外,实施图5所描述的电子设备,提高了LCD显示屏的使用效率。
实施例六
请参阅图6,图6是本发明实施例公开的另一种电子设备的结构示意图。其中,图6所示的电子设备是由图5所示的电子设备进行优化得到的。其中,电子设备的显示屏可以包括墨水屏,电子设备的显示屏还可以包含LCD显示屏,图6所示的电子设备的确定单元402可以包括:
第一比对子单元4021,用于将采集单元401采集的移动轨迹与预存储的任一操作指令的标准移动轨迹进行比对,获得操作指令对应的第一匹配度。
第一确定子单元4022,用于当第一比对子单元4021获得的第一匹配度大于预设匹配度时,将操作指令确定为预选指令,获得预选指令集合。
获取子单元4023,用于从采集单元401采集的运动视频中获取用户手指在墨水屏上触发移动轨迹时的目标运动姿态。
第二比对子单元4024,用于将获取子单元4023获取的目标运动姿态与第一确定子单元4022获得的预选指令集合中的任一预选指令的标准运动姿态进行比对,获得操作指令对应的第二匹配度。
第二确定子单元4025,用于以第二比对子单元4024获得的第二匹配度为依据,从预选指令集合中确定移动轨迹对应的目标指令。
本发明实施例中,可以计算得到采集到的移动轨迹与任一操作指令的标准移动轨迹的第一匹配度,还可以计算得到运动视频中用户手指的运动姿态与任一操作指令的标准运动姿态的第二匹配度,进而从电子设备预存的操作指令中选取与用户触发的移动轨迹最为匹配的目标指令,以使目标指令的确定方式更加准确。
作为一种可选的实施方式,图6所示的电子设备的第二确定子单元4025可以包括:
获取模块40251,用于获取移动轨迹对应的第一权重值,以及获取目标运动姿态对应的第二权重值;
计算模块40252,用于以预选指令集合中任一预选指令对应的第一比对子单元4021获得的第一匹配度和第二比对子单元4024获得的第二匹配度、获取模块40251获取的第一权重值以及第二权重值为依据,计算得到相似度;
确定模块40253,用于当计算模块40252得到的相似度中的最高相似度大于预设相似度时,将最高的相似度对应的预选指令确定为移动轨迹对应的目标指令。
其中,实施这种实施方式,可以根据移动轨迹与运动姿态对应的不同权重,以及任一预选指令对应的第一匹配度和第二匹配度,计算得到移动轨迹与任一预选指令的相似度,进而根据相似度确定移动轨迹对应的目标指令,从而提高了目标指令确定的精准度。
可选的,计算模块40252以预选指令集合中任一预选指令对应的第一匹配度和第二匹配度、第一权重值以及第二权重值为依据,计算得到相似度的方式具体可以为:
从预选指令集合中获取任一预选指令对应的第一匹配度和第二匹配度,并将第一匹配度与第一权重值相乘,得到第一乘积;
将第二匹配度与第二权重值相乘,得到第二乘积;
将第一乘积和第二乘积相加,得到初始相似度;
计算该初始相似度的百分比,并将该百分比确定为最终的相似度。
其中,实施这种实施方式,可以通过上述方式根据获取到的任一预选指令对应的第一匹配度和第二匹配度以及第一权重值和第二权重值计算得到相似度,提高了相似度计算的精确性。
可见,实施图6所描述的电子设备,能够防止用户视力受损,还能够提升识别用户触发的操作的准确率,从而提高用户的使用体验。此外,实施图6所描述的电子设备,可以使目标指令的确定方式更加准确。此外,实施图6所描述的电子设备,提高了目标指令确定的精准度。此外,实施图6所描述的电子设备,提高了相似度计算的精确性。
实施例七
请参阅图7,图7是本发明实施例公开的另一种电子设备的结构示意图。如图7所示,该电子设备可以包括:
存储有可执行程序代码的存储器701;
与存储器701耦合的处理器702;
其中,处理器702调用存储器701中存储的可执行程序代码,执行以上各方法实施例中的方法的部分或全部步骤。
本发明实施例还公开一种计算机可读存储介质,其中,计算机可读存储介质存储了程序代码,其中,程序代码包括用于执行以上各方法实施例中的方法的部分或全部步骤的指令。
本发明实施例还公开一种计算机程序产品,其中,当计算机程序产品在计算机上运行时,使得计算机执行如以上各方法实施例中的方法的部分或全部步骤。
本发明实施例还公开一种应用发布平台,其中,应用发布平台用于发布计算机程序产品,其中,当计算机程序产品在计算机上运行时,使得计算机执行如以上各方法实施例中的方法的部分或全部步骤。
应理解,说明书通篇中提到的“本发明实施例”意味着与实施例有关的特定特征、结构或特性包括在本发明的至少一个实施例中。因此,在整个说明书各处出现的“在本发明实施例中”未必一定指相同的实施例。此外,这些特定特征、结构或特性可以以任意适合的方式结合在一个或多个实施例中。本领域技术人员也应该知悉,说明书中所描述的实施例均属于可选实施例,所涉及的动作和模块并不一定是本发明所必须的。
在本发明的各种实施例中,应理解,上述各过程的序号的大小并不意味着执行顺序的必然先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
另外,本文中术语“系统”和“网络”在本文中常可互换使用。应理解,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
在本发明所提供的实施例中,应理解,“与A对应的B”表示B与A相关联,根据A可以确定B。但还应理解,根据A确定B并不意味着仅仅根据A确定B,还可以根据A和/或其他信息确定B。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质包括只读存储器(Read-Only Memory,ROM)、随机存储器(Random Access Memory,RAM)、可编程只读存储器(Programmable Read-only Memory,PROM)、可擦除可编程只读存储器(Erasable Programmable Read Only Memory,EPROM)、一次可编程只读存储器(One-time Programmable Read-Only Memory,OTPROM)、电子抹除式可复写只读存储器(Electrically-Erasable Programmable Read-Only Memory,EEPROM)、只读光盘(CompactDisc Read-Only Memory,CD-ROM)或其他光盘存储器、磁盘存储器、磁带存储器、或者能够用于携带或存储数据的计算机可读的任何其他介质。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可位于一个地方,或者也可以分布到多个网络单元上。可根据实际的需要选择其中的部分或全部单元来实现本实施例方案的目的。
另外,在本发明各实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
上述集成的单元若以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可获取的存储器中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或者部分,可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储器中,包括若干请求用以使得一台计算机设备(可以为个人计算机、服务器或者网络设备等,具体可以是计算机设备中的处理器)执行本发明的各个实施例上述方法的部分或全部步骤。
以上对本发明实施例公开的一种人机交互方法及电子设备进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。

Claims (8)

1.一种人机交互方法,其特征在于,所述方法应用于电子设备,所述电子设备的显示屏包括墨水屏,所述方法包括:
采集用户手指在所述墨水屏上触发移动轨迹时的运动视频;
以所述移动轨迹与所述运动视频为依据,确定所述移动轨迹对应的目标指令;
控制所述电子设备响应所述目标指令;
所述以所述移动轨迹与所述运动视频为依据,确定所述移动轨迹对应的目标指令,包括:
将所述移动轨迹与预存储的任一操作指令的标准移动轨迹进行比对,获得所述操作指令对应的第一匹配度;
当所述第一匹配度大于预设匹配度时,将所述操作指令确定为预选指令,获得预选指令集合;
从所述运动视频中获取用户手指在所述墨水屏上触发移动轨迹时的目标运动姿态;
将所述目标运动姿态与所述预选指令集合中的任一预选指令的标准运动姿态进行比对,获得所述预选指令对应的第二匹配度;
以所述第二匹配度为依据,从所述预选指令集合中确定所述移动轨迹对应的目标指令。
2.根据权利要求1所述的方法,其特征在于,所述电子设备的显示屏还包含LCD显示屏,所述控制所述电子设备响应所述目标指令,包括:
判断所述目标指令是否为LCD显示屏开启指令;
如果是,控制所述电子设备开启所述LCD显示屏。
3.根据权利要求2所述的方法,其特征在于,所述控制所述电子设备开启所述LCD显示屏之后,所述方法还包括:
检测用户是否通过所述墨水屏触发内容输出指令;
如果是,获取与所述内容输出指令对应的输出内容,并通过所述LCD显示屏输出所述输出内容。
4.根据权利要求1所述的方法,其特征在于,所述以所述第二匹配度为依据,从所述预选指令集合中确定所述移动轨迹对应的目标指令,包括:
获取所述移动轨迹对应的第一权重值,以及获取所述目标运动姿态对应的第二权重值;
以所述预选指令集合中任一预选指令对应的第一匹配度和第二匹配度、所述第一权重值以及所述第二权重值为依据,计算得到相似度;
当所述相似度中的最高相似度大于预设相似度时,将所述最高的相似度对应的预选指令确定为所述移动轨迹对应的目标指令。
5.一种电子设备,其特征在于,所述电子设备的显示屏包括墨水屏,包括:
采集单元,用于采集用户手指在所述墨水屏上触发移动轨迹时的运动视频;
确定单元,用于以所述移动轨迹与所述运动视频为依据,确定所述移动轨迹对应的目标指令;
响应单元,用于控制所述电子设备响应所述目标指令;
所述确定单元包括:
第一比对子单元,用于将所述移动轨迹与预存储的任一操作指令的标准移动轨迹进行比对,获得所述操作指令对应的第一匹配度;
第一确定子单元,用于当所述第一匹配度大于预设匹配度时,将所述操作指令确定为预选指令,获得预选指令集合;
获取子单元,用于从所述运动视频中获取用户手指在所述墨水屏上触发移动轨迹时的目标运动姿态;
第二比对子单元,用于将所述目标运动姿态与所述预选指令集合中的任一预选指令的标准运动姿态进行比对,获得所述操作指令对应的第二匹配度;
第二确定子单元,用于以所述第二匹配度为依据,从所述预选指令集合中确定所述移动轨迹对应的目标指令。
6.根据权利要求5所述的电子设备,其特征在于,所述电子设备的显示屏还包含LCD显示屏,所述响应单元包括:
判断子单元,用于判断所述目标指令是否为LCD显示屏开启指令;
开启子单元,用于在所述判断子单元的判断结果为是时,控制所述电子设备开启所述LCD显示屏。
7.根据权利要求6所述的电子设备,其特征在于,所述电子设备还包括:
检测单元,用于在所述开启子单元控制所述电子设备根据所述屏幕开启指令开启所述LCD显示屏之后,检测用户是否通过所述墨水屏触发内容输出指令;
输出单元,用于在所述检测单元的检测结果为是时,获取与所述内容输出指令对应的输出内容,并通过所述LCD显示屏输出所述输出内容。
8.根据权利要求5所述的电子设备,其特征在于,所述第二确定子单元包括:
获取模块,用于获取所述移动轨迹对应的第一权重值,以及获取所述目标运动姿态对应的第二权重值;
计算模块,用于以所述预选指令集合中任一预选指令对应的第一匹配度和第二匹配度、所述第一权重值以及所述第二权重值为依据,计算得到相似度;
确定模块,用于当所述相似度中的最高相似度大于预设相似度时,将所述最高的相似度对应的预选指令确定为所述移动轨迹对应的目标指令。
CN201910327623.2A 2019-04-22 2019-04-22 一种人机交互方法及电子设备 Active CN111090372B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910327623.2A CN111090372B (zh) 2019-04-22 2019-04-22 一种人机交互方法及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910327623.2A CN111090372B (zh) 2019-04-22 2019-04-22 一种人机交互方法及电子设备

Publications (2)

Publication Number Publication Date
CN111090372A CN111090372A (zh) 2020-05-01
CN111090372B true CN111090372B (zh) 2021-11-05

Family

ID=70392943

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910327623.2A Active CN111090372B (zh) 2019-04-22 2019-04-22 一种人机交互方法及电子设备

Country Status (1)

Country Link
CN (1) CN111090372B (zh)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008093278A1 (en) * 2007-02-01 2008-08-07 Nxp B.V. Control of awake time in mobile device
CN103092343A (zh) * 2013-01-06 2013-05-08 深圳创维数字技术股份有限公司 一种基于摄像头的控制方法和移动终端
CN105446647A (zh) * 2015-12-25 2016-03-30 智慧方舟科技有限公司 一种电纸书及其阅读笔记实现方法、装置
CN107463326A (zh) * 2017-07-17 2017-12-12 努比亚技术有限公司 一种移动终端触控手势识别方法、移动终端及存储介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008093278A1 (en) * 2007-02-01 2008-08-07 Nxp B.V. Control of awake time in mobile device
CN103092343A (zh) * 2013-01-06 2013-05-08 深圳创维数字技术股份有限公司 一种基于摄像头的控制方法和移动终端
CN105446647A (zh) * 2015-12-25 2016-03-30 智慧方舟科技有限公司 一种电纸书及其阅读笔记实现方法、装置
CN107463326A (zh) * 2017-07-17 2017-12-12 努比亚技术有限公司 一种移动终端触控手势识别方法、移动终端及存储介质

Also Published As

Publication number Publication date
CN111090372A (zh) 2020-05-01

Similar Documents

Publication Publication Date Title
CN109635772B (zh) 一种听写内容的批改方法及电子设备
CN109255989B (zh) 一种智能点读方法及点读设备
CN105895093A (zh) 语音信息处理方法及装置
CN109086590B (zh) 一种电子设备的界面显示方法及电子设备
CN108877334B (zh) 一种语音搜题方法及电子设备
CN108897589B (zh) 显示设备中人机交互方法、装置、计算机设备和存储介质
CN111077996B (zh) 一种基于点读的信息推荐方法及学习设备
CN109086431B (zh) 一种知识点巩固学习方法及电子设备
CN111026949A (zh) 一种基于电子设备的搜题方法及系统
CN107239202B (zh) 控制指令识别方法和装置
CN111722711B (zh) 增强现实场景输出方法及电子设备、计算机可读存储介质
CN111077997B (zh) 一种点读模式下的点读控制方法及电子设备
CN111090372B (zh) 一种人机交互方法及电子设备
CN111090383B (zh) 一种指令识别方法及电子设备
CN111077993B (zh) 一种学习场景的切换方法、电子设备及存储介质
CN111079498B (zh) 一种基于口型识别的学习功能切换方法及电子设备
CN111091821B (zh) 一种基于语音识别的控制方法及终端设备
CN111077989B (zh) 一种基于电子设备的屏幕控制方法及电子设备
CN111027353A (zh) 一种搜索内容的提取方法及电子设备
CN111090382B (zh) 一种文字内容的输入方法及终端设备
CN111077990B (zh) 一种待点读内容的确定方法及学习设备
CN112732079A (zh) 一种基于体感的虚拟人机交互方法、设备及存储介质
CN111078098B (zh) 一种听写控制方法及装置
CN110174924B (zh) 一种基于可穿戴设备的交友方法及可穿戴设备
CN111078099A (zh) 一种基于手势识别的学习功能切换方法及学习设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant