CN110941333A - 基于眼部动作的交互方法、装置、介质和电子设备 - Google Patents

基于眼部动作的交互方法、装置、介质和电子设备 Download PDF

Info

Publication number
CN110941333A
CN110941333A CN201911101969.7A CN201911101969A CN110941333A CN 110941333 A CN110941333 A CN 110941333A CN 201911101969 A CN201911101969 A CN 201911101969A CN 110941333 A CN110941333 A CN 110941333A
Authority
CN
China
Prior art keywords
eye
characteristic
position information
interaction
acquiring
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201911101969.7A
Other languages
English (en)
Inventor
李云飞
张前川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing ByteDance Network Technology Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN201911101969.7A priority Critical patent/CN110941333A/zh
Publication of CN110941333A publication Critical patent/CN110941333A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/19Sensors therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/193Preprocessing; Feature extraction

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Ophthalmology & Optometry (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本公开提供了一种基于眼部动作的交互方法、装置、介质和电子设备,该方法包括:获取眼部多个特征点的位置信息;基于所述位置信息计算所述眼部的动作特性;根据不同的所述眼部动作特性,匹配不同类型模型,其中,所述不同类型模型具有不同的渲染方式。本方法一方面提供了另外的交互方式,通过眼部表情或动作就可以控制界面终端中的人物角色或控制多个人物角色之间的交互,解放了手势的控制,使得控制方式更加简单、便捷。另一方面,通过将用户的真实头像映射到交互界面,使得用户能够更加深入的参与到角色交互过程中,增加了用户面部交互的乐趣。

Description

基于眼部动作的交互方法、装置、介质和电子设备
技术领域
本公开涉及计算机技术领域,具体而言,涉及一种基于眼部动作的交互方法、装置、介质和电子设备。
背景技术
随时移动互联网的发展,对于交互的终端也渐渐从PC端转移到移动端,例如,对于手游的开发、操控方式,多还是需要通过物理触控的方式进行交互控制,而对于一些场景,通过横屏状态下,双手操控的方式显然显得过于复杂,特别是对于一些小程序的随时随地娱乐,复杂的操控特性就显得更加笨拙,对于屏幕较小的手机也不便于操作。
公开内容
本公开的目的在于提供一种基于眼部动作的交互方法、装置、介质和电子设备,能够解决上述提到的至少一个技术问题。具体方案如下:
根据本公开的具体实施方式,第一方面,本公开提供一种基于眼部动作的交互方法,包括:
获取眼部多个特征点的位置信息;
基于所述位置信息计算所述眼部的动作特性;
根据不同的所述眼部动作特性,匹配不同类型模型,其中,所述不同类型模型具有不同的渲染方式。
可选的,所述获取眼部多个特征点的位置信息,之前包括:
通过摄像头获取用户真实的眼部图像;
将所述眼部图像映射到交互界面;
基于所述交互界面确定眼部图像的多个特征区域,所述多个特征区域包括眉毛区域、眼皮区域以及瞳孔区域;
在每个所述特征区域,选择至少一个特征点。
可选的,所述获取眼部多个特征点的位置信息,包括:
确定所述交互界面的基准位置O;
基于所述基准位置O,确定每个特征点的坐标信息;
根据所述坐标信息确定多个特征点在所述交互界面的位置信息。
可选的,所述基于所述位置信息计算所述眼部的动作特性,包括:
在第一时间t1,获取一个所述特征点的第一位置坐标信息;
在第二时间t2,获取同一个所述特征点的第二位置坐标信息;
通过所述第一位置坐标信息和第二位置坐标信息判断所述特征点的移动矢量R;
根据所述移动矢量R,确定至少一个特征区域的动作特性。
可选的,所述第二时间t2与第一时间t1的间隔Δt在预设范围内。
可选的,所述基于所述位置信息计算所述眼部的动作特性,包括:
获取所述眼部图像的连续两帧图像;
比较所述连续两帧图像中的特征点位置信息;
判断所述特征点位置信息是否有变化;
若是,根据所述变化确定所述眼部的动作特性。
可选的,所述眼部动作特性包括:挑眉、眨眼或眼球左右晃动;
所述根据不同的所述眼部动作特性,匹配不同类型模型,其中,所述不同类型模型具有不同的渲染方式,包括:
挑眉匹配第一类型模型,所述第一类型模型具有第一伤害特性,所述第一类型模型通过激光柱方式渲染;和/或,
眨眼匹配第二类型模型,所述第二类型模型具有第二伤害特性,所述第二类型模型通过子弹或火球方式渲染;和/或,
眼球左右晃动匹配第三类型模型,所述第三类型模型具有第三伤害特性,所述第三类型模型通过火球或子弹方式渲染。
可选的,还包括:
通过摄像头获取手势方向信息;
基于所述手势方向信息,确定所述不同类型模型的投射方向。
根据本公开的具体实施方式,第二方面,本公开提供一种基于眼部动作的交互装置,包括:
获取单元,用于获取眼部多个特征点的位置信息;
计算单元,用于基于所述位置信息计算所述眼部的动作特性;
匹配单元,用于根据不同的所述眼部动作特性,匹配不同类型模型,其中,所述不同类型模型具有不同的渲染方式。
根据本公开的具体实施方式,第三方面,本公开提供一种计算机可读存储介质,其上存储有计算机程序,所述程序被处理器执行时实现如上任一项所述的方法。
根据本公开的具体实施方式,第四方面,本公开提供一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如上任一项所述的方法。
本公开实施例的上述方案与现有技术相比,至少具有以下有益效果:本公开通过提供一种基于眼部动作的交互方法、装置、介质和电子设备,本方法通过提供一种基于眼部动作的交互方法,一方面提供了另外的交互方式,通过眼部表情或动作就可以控制界面终端中的人物角色或控制多个人物角色之间的交互,解放了手势的控制,使得控制方式更加简单、便捷。另一方面,通过将用户的真实头像映射到交互界面,使得用户能够更加深入的参与到角色交互过程中,增加了用户面部交互的乐趣。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示出了根据本公开实施例的基于眼部动作的交互方法的应用场景图;
图2示出了根据本公开实施例的基于眼部动作的交互方法流程图;
图3示出了根据本公开实施例的基于眼部动作的交互动作的示意图;
图4示出了根据本公开实施例的基于眼部动作的交互装置结构示意图;
图5示出了根据本公开的实施例的电子设备连接结构示意图。
具体实施方式
为了使本公开的目的、技术方案和优点更加清楚,下面将结合附图对本公开作进一步地详细描述,显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本公开保护的范围。
在本公开实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本公开。在本公开实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义,“多种”一般包含至少两种。
应当理解,本文中使用的术语“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
应当理解,尽管在本公开实施例中可能采用术语第一、第二、第三等来描述……,但这些……不应限于这些术语。这些术语仅用来将……区分开。例如,在不脱离本公开实施例范围的情况下,第一……也可以被称为第二……,类似地,第二……也可以被称为第一……。
取决于语境,如在此所使用的词语“如果”、“若”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地,取决于语境,短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的商品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种商品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的商品或者装置中还存在另外的相同要素。
下面结合附图详细说明本公开的可选实施例。
实施例1
如图1所示,为本公开实施例的一种应用场景图,该应用场景为提供一种利用真实表情进行实时交互的小程序,该小程序包括第一区域和第二区域,第一区域用于显示用户的真实头像,该头像通过移动终端的摄像头获取后投射到显示界面,第二区域为提供一种与第一区域进行数据交互的区域。例如,一种实施方式为第二区域包括多个对抗类小人,小人与第一区域的用户进行对战;另一种实施方式为第二区域是另外一个用户的真实头像,两个用户之间进行对战。但并不限于上述应用场景,可以理解的任何能够应用于本实施方案的交互场景均包括在内,为了说明方便,本实施例以上述人物对抗类小游戏的应用场景为例进行描述。
如图2所示,根据本公开的具体实施方式,本公开提供一种基于眼部动作的交互方法,包括如下方法步骤:
步骤S202:获取眼部多个特征点的位置信息。
通过移动终端摄像头获取用户的面部信息,特别是获取到用户的眼部信息,所述眼部是指鼻孔以上、额头中线以下、两鬓之间的区域,如图3所示。
移动终端获取到眼部图像信息后,发送到显示界面,一种实施方式,用户真实的面部信息会显示到显示界面,并且随着用户面部表情的动作而实时活动。另一种实施方式,在获取到用户的真实面部表情后,用户可以通过界面选择是否以真实面部显示,如果不以真实面部表情显示,可以选择一种模型面部显示,模型面部的任意位置都和用户面部对应的位置一一对应,面部表情发生变化时,模型的相应位置的表情也体现相应的变化。
特征点,是指为了分析眼部各区域的动作而随机定义的点,特征点的选取可以为一个或多个,如图3中,例如在眉毛上选取特征点a,在眼皮上选取特征b,在瞳孔上选取特征点c。
具体的,所述获取眼部多个特征点的位置信息,之前包括步骤S200,步骤S200包括如下多个子步骤:
步骤S200-1:通过摄像头获取用户真实的眼部图像。
步骤S200-2:将所述眼部图像映射到交互界面。
步骤S200-3:基于所述交互界面确定眼部图像的多个特征区域,所述多个特征区域包括眉毛区域、眼皮区域以及瞳孔区域。
步骤S200-4:在每个所述特征区域,选择至少一个特征点。
可选的,所述获取眼部多个特征点的位置信息,包括:
步骤S202-1:确定所述交互界面的基准位置O。
步骤S202-2:基于所述基准位置O,确定每个特征点的坐标信息。
步骤S202-3:根据所述坐标信息确定多个特征点在所述交互界面的位置信息。
原则上可以选取显示界面的任意位置为坐标原点O,通常为了计算方便,可以选取屏幕的某一角落作为坐标原点,例如选取第一区域的左下角为坐标原点O,可以确定特征点abc的坐标位置。
步骤S204:基于所述位置信息计算所述眼部的动作特性。可选的,所述眼部动作特性包括:挑眉、眨眼或眼球左右晃动。当然也可以包括更加丰富的眼部特性,例如挑眉的次数或频率,眨眼的次数或频率,眼球左右晃动的次数或频率等。
可选的,所述基于所述位置信息计算所述眼部的动作特性,包括:
步骤S204-1:在第一时间t1,获取一个所述特征点的第一位置坐标信息。
移动终端通过摄像头获取到用户的面部信息后,会实时监视用户定义的特征点的坐标信息是否发生变化,例如首先在游戏开始后就会记录特征点a的位置坐标参数,并不断的监控该特征点a的位置坐标是否发生变化。
步骤S204-2:在第二时间t2,获取同一个所述特征点的第二位置坐标信息。
在t2时刻,如果移动终端监视到所述特征点a的位置信息发生了变化,例如通过比较特征点a的坐标参数,就可以判断出特征点a的位置是否发生变化。该位置发生变化通常在一个合理的行程之内,如果超出该行程,可以判断为非正常变化,例如摄像头移动幅度过大,或者用户头像移动到别的位置造成的非控制性动作。
步骤S204-3:通过所述第一位置坐标信息和第二位置坐标信息判断所述特征点的移动矢量R。
通过计算两个位置之间的坐标参数,可以获得移动矢量R,移动矢量R包括移动距离和移动方向,例如通过判断移动方向,可以确定眼部动作为挑眉、眨眼或晃动瞳孔等动作。通过判断移动距离可以判断出眼部动作是否在合理动作范围内,从而确定该动作是否有效。
步骤S204-4:根据所述移动矢量R,确定至少一个特征区域的动作特性。
动作特性包括但不限于挑眉、眨眼或晃动瞳孔,也包括对于挑眉、眨眼或晃动瞳孔的频率、幅度、次数等特性的确定。
可选的,所述第二时间t2与第一时间t1的间隔Δt在预设范围内。
间隔Δt通程在0.1-2s之内,如果间隔时间太长,则可以认为是非有效的自主控制。
在另外的一种实施方式中,可选的,所述基于所述位置信息计算所述眼部的动作特性,包括:
步骤S204-5:获取所述眼部图像的连续两帧图像。
步骤S204-6:比较所述连续两帧图像中的特征点位置信息。
步骤S204-7:判断所述特征点位置信息是否有变化;
步骤S204-8:若是,根据所述变化确定所述眼部的动作特性。
移动终端获取到用户的眼部区域图像后,将开始游戏后的图像实时保存于后端数据库,此时,数据库会不断的保存用户的眼部图像。对于保存的眼部图像,后端服务器实时的比较所述连续两帧图像中的特征点位置信息,如果两帧图像相同,则删除上一帧相同图像,若特征点位置信息有变化,根据所述变化确定所述眼部的动作特性。例如可以判断出后一帧图像相对于前一帧图像是挑眉、眨眼或晃动瞳孔。
步骤S206:根据不同的所述眼部动作特性,匹配不同类型模型,其中,所述不同类型模型具有不同的渲染方式。
不同类型模型可以根据不同程序的需求,通过定义、设置、渲染的方式呈现于交互界面。对于对抗类游戏交互类型,可选的模型包括但不限于激光柱、子弹、炮弹、火球等等,每一种模型都有其自身的特性,例如以数据表示的伤害值,以数据表示的攻击距离,以数据表示的攻击频率等。例如激光柱的攻击数据为10000,攻击距离为10000,攻击频率为连续;火球的攻击数据为8000,攻击距离为8000,攻击频率为每一表情动作1次(例如眨眼一次发射一个火球);子弹的攻击数据为1000,攻击距离为1000,攻击频率为每一表情动作10次等等。
渲染方式可以通过真实性的外观特性,将不同武器做不同的效果渲染,渲染方法是一种公知的方法,此处不做赘述。具体效果可以描述为,例如挑眉,可以从眼睛里释放激光柱,眨眼可以释放火球或子弹等。上述攻击武器描述不做唯一限定。
具体的,包括如下子步骤:
步骤S206-1:挑眉匹配第一类型模型,所述第一类型模型具有第一伤害特性,所述第一类型模型通过激光柱方式渲染;和/或,
步骤S206-2:眨眼匹配第二类型模型,所述第二类型模型具有第二伤害特性,所述第二类型模型通过子弹或火球方式渲染;和/或,
步骤S206-3:眼球左右晃动匹配第三类型模型,所述第三类型模型具有第三伤害特性,所述第三类型模型通过火球或子弹方式渲染。
可选的,还包括如下步骤:
步骤S208:通过摄像头获取手势方向信息;基于所述手势方向信息,确定所述不同类型模型的投射方向。
手势信息的获取方式为,将手指移动到摄像头视界范围内,以不遮挡眼部表情为前提条件,然后做出一个方向性的指示动作,指示动作被摄像头捕捉后,通过手指的位置坐标的判断给出手势的方向信息。例如手指向下、向右或向左滑动,上述攻击性武器会随着手指的方向发射。
本方法通过提供一种基于眼部动作的交互方法,一方面提供了另外的交互方式,通过眼部表情或动作就可以控制界面终端中的人物角色或控制多个人物角色之间的交互,解放了手势的控制,使得控制方式更加简单、便捷。另一方面,通过将用户的真实头像映射到交互界面,使得用户能够更加深入的参与到角色交互过程中,增加了用户面部交互的乐趣。
实施例2
本实施例承接实施例1,用于实现如实施例1所述的方法步骤,基于相同的名称含义的解释与实施例1相同,具有与实施例1相同的技术效果,此处不再赘述。
如图4所示,根据本公开的具体实施方式,本公开提供一种基于眼部动作的交互装置,包括:获取单元402、计算单元404、匹配单元406。
获取单元402:用于获取眼部多个特征点的位置信息。
可选的,所述获取单元402还用于:
第一、通过摄像头获取用户真实的眼部图像。
第二、将所述眼部图像映射到交互界面。
第三、基于所述交互界面确定眼部图像的多个特征区域,所述多个特征区域包括眉毛区域、眼皮区域以及瞳孔区域。
第四、在每个所述特征区域,选择至少一个特征点。
可选的,所述获取单元402还用于:确定所述交互界面的基准位置O;基于所述基准位置O,确定每个特征点的坐标信息;根据所述坐标信息确定多个特征点在所述交互界面的位置信息。
计算单元404:用于基于所述位置信息计算所述眼部的动作特性。
可选的,所述计算单元404还用于:
第一、在第一时间t1,获取一个所述特征点的第一位置坐标信息;
第二、在第二时间t2,获取同一个所述特征点的第二位置坐标信息;
第三、通过所述第一位置坐标信息和第二位置坐标信息判断所述特征点的移动矢量R;
第四、根据所述移动矢量R,确定至少一个特征区域的动作特性。
可选的,所述第二时间t2与第一时间t1的间隔Δt在预设范围内。
可选的,另一种实施方式中,所述基于所述位置信息计算所述眼部的动作特性,包括:
第五、获取所述眼部图像的连续两帧图像;
第六、比较所述连续两帧图像中的特征点位置信息;
第七、判断所述特征点位置信息是否有变化;
第八、若是,根据所述变化确定所述眼部的动作特性。
匹配单元406:用于根据不同的所述眼部动作特性,匹配不同类型模型,其中,所述不同类型模型具有不同的渲染方式。
可选的,所述眼部动作特性包括:挑眉、眨眼或眼球左右晃动;
所述根据不同的所述眼部动作特性,匹配不同类型模型,其中,所述不同类型模型具有不同的渲染方式,包括:
第一、挑眉匹配第一类型模型,所述第一类型模型具有第一伤害特性,所述第一类型模型通过激光柱方式渲染;和/或,
第二、眨眼匹配第二类型模型,所述第二类型模型具有第二伤害特性,所述第二类型模型通过子弹或火球方式渲染;和/或,
第三、眼球左右晃动匹配第三类型模型,所述第三类型模型具有第三伤害特性,所述第三类型模型通过火球或子弹方式渲染。
可选的,所述装置还包括:通过摄像头获取手势方向信息;基于所述手势方向信息,确定所述不同类型模型的投射方向。
通过提供一种基于眼部动作的交互装置,一方面提供了另外的交互方式,通过眼部表情或动作就可以控制界面终端中的人物角色或控制多个人物角色之间的交互,解放了手势的控制,使得控制方式更加简单、便捷。另一方面,通过将用户的真实头像映射到交互界面,使得用户能够更加深入的参与到角色交互过程中,增加了用户面部交互的乐趣。
实施例3
如图5所示,本实施例提供一种电子设备,该设备用于交互,所述电子设备,包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上实施例所述的方法步骤。
实施例4
本公开实施例提供了一种非易失性计算机存储介质,所述计算机存储介质存储有计算机可执行指令,该计算机可执行指令可执行如上实施例所述的方法步骤。
实施例5
下面参考图5,其示出了适于用来实现本公开实施例的电子设备的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图5示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图5所示,电子设备可以包括处理装置(例如中央处理器、图形处理器等)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有电子设备操作所需的各种程序和数据。处理装置501、ROM 502以及RAM 503通过总线505彼此相连。输入/输出(I/O)接口505也连接至总线505。
通常,以下装置可以连接至I/O接口505:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置505;包括例如磁带、硬盘等的存储装置508;以及通信装置505。通信装置505可以允许电子设备与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的电子设备,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置505从网络上被下载和安装,或者从存储装置508被安装,或者从ROM 502被安装。在该计算机程序被处理装置501执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。

Claims (11)

1.一种基于眼部动作的交互方法,其特征在于,包括:
获取眼部多个特征点的位置信息;
基于所述位置信息计算所述眼部的动作特性;
根据不同的所述眼部动作特性,匹配不同类型模型,其中,所述不同类型模型具有不同的渲染方式。
2.根据权利要求1所述的交互方法,其特征在于,所述获取眼部多个特征点的位置信息,之前包括:
通过摄像头获取用户真实的眼部图像;
将所述眼部图像映射到交互界面;
基于所述交互界面确定眼部图像的多个特征区域,所述多个特征区域包括眉毛区域、眼皮区域以及瞳孔区域;
在每个所述特征区域,选择至少一个特征点。
3.根据权利要求2所述的交互方法,其特征在于,所述获取眼部多个特征点的位置信息,包括:
确定所述交互界面的基准位置O;
基于所述基准位置O,确定每个特征点的坐标信息;
根据所述坐标信息确定多个特征点在所述交互界面的位置信息。
4.根据权利要求3所述的交互方法,其特征在于,所述基于所述位置信息计算所述眼部的动作特性,包括:
在第一时间t1,获取一个所述特征点的第一位置坐标信息;
在第二时间t2,获取同一个所述特征点的第二位置坐标信息;
通过所述第一位置坐标信息和第二位置坐标信息判断所述特征点的移动矢量R;
根据所述移动矢量R,确定至少一个特征区域的动作特性。
5.根据权利要求4所述的交互方法,其特征在于,所述第二时间t2与第一时间t1的间隔Δt在预设范围内。
6.根据权利要求3所述的交互方法,其特征在于,所述基于所述位置信息计算所述眼部的动作特性,包括:
获取所述眼部图像的连续两帧图像;
比较所述连续两帧图像中的特征点位置信息;
判断所述特征点位置信息是否有变化;
若是,根据所述变化确定所述眼部的动作特性。
7.根据权利要求1所述的交互方法,其特征在于,所述眼部动作特性包括:挑眉、眨眼或眼球左右晃动;
所述根据不同的所述眼部动作特性,匹配不同类型模型,其中,所述不同类型模型具有不同的渲染方式,包括:
挑眉匹配第一类型模型,所述第一类型模型具有第一伤害特性,所述第一类型模型通过激光柱方式渲染;和/或,
眨眼匹配第二类型模型,所述第二类型模型具有第二伤害特性,所述第二类型模型通过子弹或火球方式渲染;和/或,
眼球左右晃动匹配第三类型模型,所述第三类型模型具有第三伤害特性,所述第三类型模型通过火球或子弹方式渲染。
8.根据权利要求7所述的交互方法,其特征在于,还包括:
通过摄像头获取手势方向信息;
基于所述手势方向信息,确定所述不同类型模型的投射方向。
9.一种基于眼部动作的交互装置,其特征在于,包括:
获取单元,用于获取眼部多个特征点的位置信息;
计算单元,用于基于所述位置信息计算所述眼部的动作特性;
匹配单元,用于根据不同的所述眼部动作特性,匹配不同类型模型,其中,所述不同类型模型具有不同的渲染方式。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1至8中任一项所述的方法。
11.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如权利要求1至8中任一项所述的方法。
CN201911101969.7A 2019-11-12 2019-11-12 基于眼部动作的交互方法、装置、介质和电子设备 Pending CN110941333A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911101969.7A CN110941333A (zh) 2019-11-12 2019-11-12 基于眼部动作的交互方法、装置、介质和电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911101969.7A CN110941333A (zh) 2019-11-12 2019-11-12 基于眼部动作的交互方法、装置、介质和电子设备

Publications (1)

Publication Number Publication Date
CN110941333A true CN110941333A (zh) 2020-03-31

Family

ID=69906697

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911101969.7A Pending CN110941333A (zh) 2019-11-12 2019-11-12 基于眼部动作的交互方法、装置、介质和电子设备

Country Status (1)

Country Link
CN (1) CN110941333A (zh)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130136302A1 (en) * 2011-11-25 2013-05-30 Samsung Electronics Co., Ltd. Apparatus and method for calculating three dimensional (3d) positions of feature points
CN107608523A (zh) * 2017-09-30 2018-01-19 广东欧珀移动通信有限公司 移动终端的控制方法、装置及存储介质和移动终端
CN107648846A (zh) * 2017-09-22 2018-02-02 广州帕克西软件开发有限公司 一种人脸跟踪的游戏交互方法及装置
CN108335345A (zh) * 2018-02-12 2018-07-27 北京奇虎科技有限公司 面部动画模型的控制方法及装置、计算设备
CN108615014A (zh) * 2018-04-27 2018-10-02 京东方科技集团股份有限公司 一种眼睛状态的检测方法、装置、设备和介质
CN108905193A (zh) * 2018-07-03 2018-11-30 百度在线网络技术(北京)有限公司 游戏操控处理方法、设备及存储介质
US20190130652A1 (en) * 2017-06-12 2019-05-02 Midea Group Co., Ltd. Control method, controller, smart mirror, and computer readable storage medium

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130136302A1 (en) * 2011-11-25 2013-05-30 Samsung Electronics Co., Ltd. Apparatus and method for calculating three dimensional (3d) positions of feature points
US20190130652A1 (en) * 2017-06-12 2019-05-02 Midea Group Co., Ltd. Control method, controller, smart mirror, and computer readable storage medium
CN107648846A (zh) * 2017-09-22 2018-02-02 广州帕克西软件开发有限公司 一种人脸跟踪的游戏交互方法及装置
CN107608523A (zh) * 2017-09-30 2018-01-19 广东欧珀移动通信有限公司 移动终端的控制方法、装置及存储介质和移动终端
CN108335345A (zh) * 2018-02-12 2018-07-27 北京奇虎科技有限公司 面部动画模型的控制方法及装置、计算设备
CN108615014A (zh) * 2018-04-27 2018-10-02 京东方科技集团股份有限公司 一种眼睛状态的检测方法、装置、设备和介质
CN108905193A (zh) * 2018-07-03 2018-11-30 百度在线网络技术(北京)有限公司 游戏操控处理方法、设备及存储介质

Similar Documents

Publication Publication Date Title
US10318011B2 (en) Gesture-controlled augmented reality experience using a mobile communications device
US9345967B2 (en) Method, device, and system for interacting with a virtual character in smart terminal
US10139901B2 (en) Virtual reality distraction monitor
US20140068526A1 (en) Method and apparatus for user interaction
US11833430B2 (en) Menu placement dictated by user ability and modes of feedback
CN109407959B (zh) 虚拟场景中的虚拟对象控制方法、设备以及存储介质
WO2022142626A1 (zh) 虚拟场景的适配显示方法、装置、电子设备、存储介质及计算机程序产品
US10671151B2 (en) Mitigating digital reality leakage through session modification
CN110992947B (zh) 一种基于语音的交互方法、装置、介质和电子设备
CN114449162A (zh) 一种播放全景视频的方法、装置、计算机设备及存储介质
JP6393387B1 (ja) 仮想体験を提供するためのプログラム、コンピュータ、および方法
WO2023065949A1 (zh) 虚拟场景中的对象控制方法、装置、终端设备、计算机可读存储介质、计算机程序产品
CN111013139B (zh) 角色交互方法、系统、介质和电子设备
CN110928410A (zh) 基于多个表情动作的交互方法、装置、介质和电子设备
CN110941333A (zh) 基于眼部动作的交互方法、装置、介质和电子设备
CN112473138B (zh) 游戏的显示控制方法及装置、可读存储介质、电子设备
CN111013135A (zh) 一种交互方法、装置、介质和电子设备
CN111068308A (zh) 基于嘴部动作的数据处理方法、装置、介质和电子设备
CN110882537B (zh) 一种交互方法、装置、介质和电子设备
US11417042B2 (en) Animating body language for avatars
CN111580667A (zh) 注视点显示方法及相关装置
US11691072B2 (en) Aiming display automation for head mounted display applications
CN112822396B (zh) 一种拍摄参数的确定方法、装置、设备及存储介质
JP2019032715A (ja) 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
US20230386443A1 (en) Method for adjusting noise cancellation in headphones based on real-world activity or game context

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination