CN112702533B - 视线修正方法及视线修正装置 - Google Patents

视线修正方法及视线修正装置 Download PDF

Info

Publication number
CN112702533B
CN112702533B CN202011605349.XA CN202011605349A CN112702533B CN 112702533 B CN112702533 B CN 112702533B CN 202011605349 A CN202011605349 A CN 202011605349A CN 112702533 B CN112702533 B CN 112702533B
Authority
CN
China
Prior art keywords
user
image
face image
target
electronic equipment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011605349.XA
Other languages
English (en)
Other versions
CN112702533A (zh
Inventor
陈成磊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Vivo Mobile Communication Co Ltd
Original Assignee
Vivo Mobile Communication Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Vivo Mobile Communication Co Ltd filed Critical Vivo Mobile Communication Co Ltd
Priority to CN202011605349.XA priority Critical patent/CN112702533B/zh
Publication of CN112702533A publication Critical patent/CN112702533A/zh
Application granted granted Critical
Publication of CN112702533B publication Critical patent/CN112702533B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/14Systems for two-way working
    • H04N7/141Systems for two-way working between two video terminals, e.g. videophone

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • User Interface Of Digital Computer (AREA)
  • Image Analysis (AREA)

Abstract

本申请公开了一种视线修正方法及视线修正装置,属于终端技术领域。该视线修正方法包括:获取用户的脸部图像,脸部图像为第一电子设备的拍摄单元拍摄的图像,根据脸部图像,确定目标区域,目标区域为拍摄脸部图像时,用户注视的区域;在目标区域位于第一电子设备的显示区域内的情况下,将脸部图像修正为用户注视目标方向的人脸图像。本申请在视频聊天过程中可以让对方以为用户正在注视自己或者注视自己所处空间内的某一位置处的物品,从而提升视频聊天过程中的体验。

Description

视线修正方法及视线修正装置
技术领域
本申请属于终端技术领域,具体涉及一种视线修正方法及视线修正装置。
背景技术
随着科技的发展,电子设备在人们生活中扮演着越来越重要的角色。其中视频聊天作为社交应用的主要功能,不仅能够满足人们的基本沟通需求,而且大大减轻了人们之间的距离感。
如图1所示,在通过电子设备进行视频聊天过程中,用户本人通过眼睛观看电子设备上显示的对方的视频画面;同时电子设备通过上方的摄像头11采集用户本人的图像信息,并实时传输至对方,从而实现视频聊天。
然而,由于摄像头与显示对方的视频画面的区域存在物理位置的差异,用户在注视对方的视频画面时,摄像头采集的图像却是用户正在注视另外的方向,例如用户正在注视视频画面中对方的影像时,用户本地的电子设备采集的图像会显示用户正在注视电子设备下方的物品,这种注视方向上的差异将大大降低了视频聊天的体验。
发明内容
本申请实施例的目的是提供一种视线修正方法及视线修正装置,能够解决现有技术中通过电子设备进行视频聊天时,由于摄像头与显示对方的视频画面的区域存在物理位置的差异,影响用户体验的问题。
为了解决上述技术问题,本申请是这样实现的:
第一方面,本申请实施例提供了一种视线修正方法,所述视线修正方法包括:
获取用户的脸部图像,其中,所述脸部图像为第一电子设备的拍摄单元拍摄的图像;
根据所述脸部图像,确定目标区域,其中,所述目标区域为拍摄所述脸部图像时,所述用户注视的区域;
在所述目标区域位于第一电子设备的显示区域内的情况下,将所述脸部图像修正为所述用户注视目标方向的人脸图像;
其中,所述目标方向为所述拍摄单元所在的方向,或者,在所述用户通过所述第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,所述目标方向与所述目标区域中显示的物品相对于所述第二电子设备的第一方向相同。
第二方面,本申请实施例提供了一种视线修正装置,所述视线修正装置包括:
获取模块,用于获取用户的脸部图像,其中,所述脸部图像为第一电子设备的拍摄单元拍摄的图像;
视线区域模块,用于根据所述脸部图像,确定目标区域,其中,所述目标区域为拍摄所述脸部图像时,所述用户注视的区域;
视线修正模块,用于在所述目标区域位于第一电子设备的显示区域内的情况下,将所述脸部图像修正为所述用户注视目标方向的人脸图像;
其中,所述目标方向为所述拍摄单元所在的方向,或者,在所述用户通过所述第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,所述目标方向与所述目标区域中显示的物品相对于所述第二电子设备的第一方向相同。
第三方面,本申请实施例提供了一种电子设备,该电子设备包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的程序或指令,所述程序或指令被所述处理器执行时实现如第一方面所述的视线修正方法的步骤。
第四方面,本申请实施例提供了一种可读存储介质,所述可读存储介质上存储程序或指令,所述程序或指令被处理器执行时实现如第一方面所述的视线修正方法的步骤。
第五方面,本申请实施例提供了一种芯片,所述芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现如第一方面所述的视线修正方法。
在本申请实施例中,在获取用户的脸部图像之后,可以根据脸部图像确定用户注视的区域,进而在用户注视的区域位于第一电子设备的显示区域内的情况下,对脸部图像进行修正,使得修正后的人脸图像显示用户正在注视目标方向;其中,目标方向为拍摄单元所在的方向,或者,在用户通过第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,目标方向与目标区域中显示的物品相对于第二电子设备的第一方向相同。可以让与用户进行视频通话的另一方观察到的画面是:用户正在注视自己或者注视自己所处空间内的某一位置处的物品的画面,从而提升视频聊天过程中的体验。
附图说明
图1是现有技术中视频聊天的展示示意图;
图2是本申请实施例提供的视线修正方法的步骤流程图;
图3是本申请实施例提供的标记有位置点的第一图像展示示意图;
图4是本申请实施例提供的第一电子设备的旋转示意图;
图5是本申请实施例提供的第一电子设备的显示区域展示示意图;
图6是本申请实施例提供的视线修正装置的结构框图;
图7是本申请实施例提供的电子设备的硬件结构示意图之一;
图8是本申请实施例提供的电子设备的硬件结构示意图之二。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请的说明书和权利要求书中的术语“第一”、“第二”等是用于区别类似的对象,而不用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施,且“第一”、“第二”等所区分的对象通常为一类,并不限定对象的个数,例如第一对象可以是一个,也可以是多个。此外,说明书以及权利要求中“和/或”表示所连接对象的至少其中之一,字符“/”,一般表示前后关联对象是一种“或”的关系。
下面结合附图,通过具体的实施例及其应用场景对本申请实施例提供的视线修正方法进行详细地说明。
如图2所示,为本申请实施例提供的视线修正方法,该视线修正方法包括:
步骤201:获取用户的脸部图像。
本步骤中,脸部图像为第一电子设备的拍摄单元拍摄的图像,拍摄单元可以为第一电子设备的前置摄像头。具体的,用户使用第一电子设备进行视频聊天过程中,通过第一电子设备的前置摄像头采集用户的人脸图像,得到该脸部图像。这里的图像可以为图片或者视频中的视频帧。脸部图像至少包括分别以一只眼睛为中心预设范围内的图像。
步骤202:根据脸部图像,确定目标区域。
本步骤中,目标区域为拍摄脸部图像时,用户注视的区域。也可以理解为拍摄脸部图像时,以用户视线的焦点为中心预设范围内的区域。具体的,目标区域为以目标交点为中心预设范围内的区域,这里,目标交点为拍摄脸部图像时,用户视线与第一电子设备的显示屏所属平面的交点。
步骤203:在目标区域位于第一电子设备的显示区域内的情况下,将脸部图像修正为用户注视目标方向的人脸图像。
本步骤中,可以将目标区域分为位于显示区域内和位于显示区域外两种情况。目标方向为拍摄单元所在的方向,或者,在用户通过第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,目标方向与目标区域中显示的物品相对于第二电子设备的第一方向相同。
用户与第一对象进行视频通话过程中,第一电子设备将采集用户的脸部图像并进行修正,将修正后的脸部图像发送至第二电子设备,第一对象通过第二电子设备可以看到该修正后的脸部图像。在修正后的脸部图像为用户注视拍摄单元所在的方向的人脸图像时,第一对象将会有对方正在注视自己的感觉。同样的,在修正后的脸部图像为用户注视第一方向的人脸图像时,第一对象将会有对方正在注视自己所在空间内某一位置处的物品的感觉。
本申请实施例中,在获取用户的脸部图像之后,可以根据脸部图像确定用户注视的区域,进而在用户注视的区域位于第一电子设备的显示区域内的情况下,对脸部图像进行修正,使得修正后的人脸图像显示用户正在注视目标方向;其中,目标方向为拍摄单元所在的方向,或者,在用户通过第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,目标方向与目标区域中显示的物品相对于第二电子设备的第一方向相同。可以让与用户进行视频通话的另一方观察到的画面是:用户正在注视自己或者注视自己所处空间内的某一位置处的物品的画面,从而提升视频聊天过程中的体验。
可选地,为提升用户选择性,可以由用户决定是否对脸部图像进行修正,在获取用户的脸部图像之前,确定用户选择的视频模式,在第一视频模式下,执行上述步骤201-步骤203,将修正后的脸部图像发送至第二电子设备;在第二视频模式下,将未修正的脸部图像发送至第二电子设备。
这里,可以通过弹框的方式弹出关于视频模式的悬浮框,供用户选择视频模式。当然也可以设置预设控件供用户选择视频模式,例如双击摄像头控件则切换视频模式,将第一视频模式切换为第二视频模式,或者将第二视频模式切换为第一视频模式。
可选地,在用户通过第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,将脸部图像修正为用户注视目标方向的人脸图像之前,视线修正方法还包括:
在显示区域的第一显示区域显示第一画面,第一画面为第二电子设备的摄像单元拍摄的画面。
本步骤中,显示区域为第一电子设备的显示屏,第一显示区域为显示屏的部分或者全部区域。在第一电子设备与第二电子设备之间进行视频会话的过程中,会在双方的电子设备屏幕上显示己方画面和对方画面,例如,在第一电子设备的屏幕上会显示第一电子设备的摄像头拍摄的画面,以及显示第二电子设备发送的画面(可以是摄像头拍摄的也可以是录制的),即把第一电子设备上显示的第二电子设备发送的画面称作第一画面。
在目标区域位于第一显示区域内的情况下,将目标区域在第一显示区域中的第一位置信息发送至第二电子设备。
本步骤中,目标区域位于第一显示区域内,说明用户正在注视第一画面。第二电子设备可以根据目标区域在第一显示区域中的第一位置信息,确定目标区域显示的物品的情况。例如用户与第一对象进行视频通话过程中,第一电子设备将显示第二电子设备拍摄的第一画面,即第一对象所处空间的画面。若用户正在注视第一画面中的一本书,则第一位置信息为这本书的影像所处区域在第一电子设备的第一显示区域中的位置信息。第二电子设备可以根据该第一位置信息确定第一对象所处空间中这本书相对于第二电子设备的位置。位置信息可以仅包括方向,也可以既包括方向,也包括距离;这里的方向和距离指的是目标区域显示的物品相对于第二电子设备的方向和距离。具体的,目标区域在第一显示区域中的位置的信息可以为目标区域在第一显示区域中的坐标,或者将目标区域显示的图像在第一显示区域显示的第一图像中标记出来的图像信息,但不限于此。
将脸部图像修正为用户注视目标方向的人脸图像,包括:
在接收到第二电子设备发送的第二位置信息的情况下,将脸部图像修正为用户注视第二位置信息指示的方向的人脸图像。
应当说明的是,第二电子设备在接收到第一电子设备发送的第一位置信息之后,可以得到第二位置信息。其中,第二位置信息包括目标区域内显示的物品相对于第二电子设备的位置信息。
本发明实施例中,根据用户注视的目标区域,确定用户注视的第一画面中的目标物品,进而根据该目标物品相对于第二电子设备的位置信息,对脸部图像进行修正,从而使得与用户视频聊天的第一对象,认为用户正在注视自己所处空间内的目标物品,从而提升第一对象的聊天体验。
可选地,将脸部图像修正为用户注视第二位置信息指示的方向的人脸图像之前,视线修正方法还包括:
在第一电子设备以预设姿态置于用户的前方时,拍摄用户分别注视不同预设方向时的人脸图像。
本步骤中,为更加适用于视频聊天场景,第一电子设备以预设姿态置于用户的前方时,其与用户之间的相对位置,与用户通过第一电子设备进行视频聊天时,第一电子设备与用户之间的相对位置相同。例如将第一电子设备放置于用户两眼平行、中间的位置,并且与用户脸部的距离在20~30cm之内,但不限于此。可选地,拍摄的用户分别注视不同预设方向时的人脸图像,可以为通过第一电子的前置摄像头拍摄得到的图像。应当说明的是,在拍摄人脸图像过程中,将对应记录拍摄该人脸图像时用户注视的方向,即记录人脸图像与拍摄人脸图像时用户注视的方向之间的对应关系。从而在确定用户注视的方向之后,就可以确定对应该方向的人脸图像,即拍摄得到的用户注视该方向时的人脸图像。
将脸部图像修正为用户注视第二位置信息指示的方向的人脸图像,包括:
将不同预设方向中与第二位置信息指示的方向相同的方向确定为目标方向。
本步骤中,将第二位置信息指示的方向与前述步骤中的预设方向进行匹配,确定匹配成功的目标方向;其中,与第二位置信息指示的方向匹配成功的预设方向即为与其方向相同的方向。
将脸部图像替换为用户注视目标方向的人脸图像。
本步骤中,在确定目标方向之后,根据预先记录的人脸图像与拍摄人脸图像时用户注视的方向之间的对应关系,可以确定目标方向对应的人脸图像,即用户注视目标方向的人脸图像,进而采用用户注视目标方向的人脸图像对脸部图像进行替换。
当然,在修正脸部图像时,还可以根据图像算法生成仅与脸部图像的眼部区域存在差异的人脸图像,从而采用生成的人脸图像替换修正前的脸部图像,无需预先拍摄用户注视方向时的人脸图像。
本发明实施例中,预先拍摄用户注视不同方向时的人脸图像,建立方向与人脸图像的对应关系。在对脸部图像进行修正过程中,在确定目标方向之后,根据建立的对应关系,采用目标方向对应人脸图像对原脸部图像进行替换,过程方便简单,无需复杂的计算。
可选地,在第一电子设备以预设姿态置于用户的前方时,拍摄用户分别注视不同预设方向时的人脸图像,包括:
在第一电子设备以预设姿态置于用户的前方时,拍摄用户前方场景得到第一图像。
本步骤中,为更加适用于视频聊天场景,第一电子设备以预设姿态置于用户的前方时,其与用户之间的相对位置,与用户通过第一电子设备进行视频聊天时,第一电子设备与用户之间的相对位置相同。例如将第一电子设备放置于用户两眼平行、中间的位置,并且与用户脸部的距离在20~30cm之内,但不限于此。这里的第一图像可以为第一电子设备通过后置摄像头拍摄得到的图像。第一电子设备的后置摄像头可以确定其视场范围内的物品与其的相对位置。
在第一图像中显示场景中的N个位置点的标识信息,并确定N个位置点相对于第一电子设备的N个第三位置信息。
本步骤中,可以根据预先设定的位置点生成规则,在拍摄得到第一图像之后,生成N各位置点,并在第一图像中显示各位置点的标识信息。如图3所示,位置点31在第一图像中通过标识信息被标记出来。其中,位置点31的数量可以根据需求自行设定,例如位置点31的数量可以为20,但不限于此。可选地,各位置点31在第一电子设备所处空间中对应的位置之间相隔至少1米,最上面的位置点31在第一电子设备所处空间中对应的位置和最下面的位置点31在第一电子设备所处空间中对应的位置,分别与第一电子设备之间的连线所成的夹角的角度为90°,最左侧的位置点31在第一电子设备所处空间中对应的位置和最右侧的位置点31在第一电子设备所处空间中对应的位置,分别与第一电子设备之间的连线所成的夹角的角度为120°。
当然,也可以根据用户输入确定位置点。例如在拍摄得到第一图像时,通过第一电子设备的显示区域显示第一图像,用户通过对第一图像中不同位置进行输入,从而在第一图像中对应的位置显示标识信息,其中,用户输入的位置即为位置点。用户的输入包括但不限于点击、长按等输入。
在用户注视每个位置点的情况下,分别拍摄用户的人脸图像。
本步骤中,人脸图像分别与N个第三位置信息相关联,N为大于1的整数。也就是说,每一人脸图像对应一位置点,根据一位置点可以确定对应的人脸图像,即用户注视该位置点时拍摄的人脸图像。具体的,建立位置点与人脸图像的对应关系,例如在用户注视位置点中的目标位置点时,拍摄得到人脸图像为目标人脸图像,则建立目标位置点与目标人脸图像的对应关系。
相应的,将不同预设方向中与第二位置信息指示的方向相同的方向确定为目标方向,包括:将N个位置点中具有第二位置信息的位置点指示的方向确定为目标方向。将脸部图像替换为用户注视目标方向的人脸图像,包括:将脸部图像替换为用户注视具有第二位置信息的位置点的人脸图像。
应当说明的是,在用户注视每个位置点的情况下,分别拍摄用户的人脸图像时,第一电子设备的拍摄单元所处的位置保持不变,当第一电子设备遮挡位置点时,以拍摄单元为中心在第一电子设备所处平面旋转第一电子设备,使得第一电子设备不再遮挡位置点。具体的,以第一电子设备为手机为例,如图4所示,眼睛向左看时,旋转手机保持屏幕在右方;眼睛向右看时,旋转手机保持屏幕在左方;眼睛向上看时,手机屏幕在下方。
本发明实施例中,预先拍摄用户注视不同位置时的人脸图像,从而使用图像替换的方式完成对脸部图像的修正,整个过程方便简单。
可选地,根据脸部图像,确定目标区域,包括:
根据脸部图像,确定图像集合中与脸部图像相匹配的目标图像。
本步骤中,图像集合包括:拍摄单元拍摄的用户注视显示区域中不同区域时的人脸图像。如图5所示,第一电子设备51的显示区域52包括九个位置,每个位置具有一位置标识,该位置标识可以为数字、字母或者其组合。可以将第一电子51设备摆放至用户前方,打开拍摄单元,分别拍摄用户注视不同位置时的人脸图像,得到图像集合。
可选地,为更加适用于视频聊天场景,在第一电子设备的拍摄单元拍摄的用户注视显示区域中不同区域的人脸图像时,第一电子设备51与用户之间的相对位置,与用户通过第一电子设备51进行视频聊天时,第一电子设备51与用户之间的相对位置相同。例如,在视频聊天时,第一电子设备51通常摆放在用户脸部正前方,并且与用户的脸部平行,即在此刻获取脸部图像,而图像集合中的人脸图像也是用户同样位于第一电设备正前方,并且与用户的脸部平行的时候获取。因此,根据拍摄图像集合中的人脸图像时用户注视区域与拍摄得到的人脸图像之间的对应关系,将拍摄得到目标图像时用户注视的区域确定为目标区域。
本步骤中,预先建立有人脸图像与区域的对应关系,每一人脸图像对应一区域。例如用户注视第一区域时,拍摄得到的人脸图像为第一人脸图像,则建立第一区域与第一人脸图像的对应关系,从而当采集到用户此时的人脸图像与第一人脸图像相同,则可以确定用户此时正在注视第一区域。
可选地,还可以根据拍摄得到的人脸图像中眼部区域的参数建立视线模型,进而在判断某一人脸图像中用户注视的区域时,根据该人脸图像中眼部区域的参数即可确定用户注视的区域。这里眼部区域的参数至少包括:瞳孔的大小和位置。
本发明实施例中,采用预先拍摄的用户注视不同区域的人脸图像,确定用户当前正在注视的目标区域,整个过程方便简单,并且耗时较短。
可选地,在目标方向为拍摄单元所在的方向的情况下,将脸部图像修正为用户注视目标方向的人脸图像,包括:
采用预先拍摄的用户注视拍摄单元时的人脸图像替换脸部图像。
这里,可以通过第一电子设备预先拍摄并存储用户注视拍摄单元时的人脸图像,在替换时可以对脸部图像的全部区域进行替换,当然也可以仅针对眼部区域进行替换。例如裁剪人脸图像中的眼部区域,采用裁剪出的眼部区域替换脸部图像中相同范围的眼部区域。
需要说明的是,本申请实施例提供的视线修正方法,执行主体可以为视线修正装置,或者该视线修正装置中的用于执行视线修正方法的控制模块。本申请实施例中以视线修正装置执行视线修正方法为例,说明本申请实施例提供的视线修正装置。
如图6所示,本申请实施例还提供了一种视线修正装置,该视线修正装置包括:
获取模块61,用于获取用户的脸部图像,其中,脸部图像为第一电子设备的拍摄单元拍摄的图像;
视线区域模块62,用于根据脸部图像,确定目标区域,其中,目标区域为拍摄脸部图像时,用户注视的区域;
视线修正模块63,用于在目标区域位于第一电子设备的显示区域内的情况下,将脸部图像修正为用户注视目标方向的人脸图像;
其中,目标方向为拍摄单元所在的方向,或者,在用户通过第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,目标方向与目标区域中显示的物品相对于第二电子设备的第一方向相同。
可选地,在用户通过第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,视线修正装置还包括:
画面显示模块,用于在显示区域的第一显示区域显示第一画面,第一画面为第二电子设备的摄像单元拍摄的画面;
发送模块,用于在目标区域位于第一显示区域内的情况下,将目标区域在第一显示区域中的第一位置信息发送至第二电子设备;
视线修正模块63,具体用于在接收到第二电子设备发送的第二位置信息的情况下,将脸部图像修正为用户注视第二位置信息指示的方向的人脸图像;
其中,第二位置信息包括目标区域内显示的物品相对于第二电子设备的位置信息。
可选地,视线修正装置还包括:
拍摄模块,用于在第一电子设备以预设姿态置于用户的前方时,拍摄用户分别注视不同预设方向时的人脸图像;
视线修正模块63,具体用于将不同预设方向中与第二位置信息指示的方向相同的方向确定为目标方向;将脸部图像替换为用户注视目标方向的人脸图像。
可选地,拍摄模块包括:
第一拍摄单元,用于在第一电子设备以预设姿态置于用户的前方时,拍摄用户前方场景得到第一图像;
处理单元,用于在第一图像中显示场景中的N个位置点的标识信息,并确定N个位置点相对于第一电子设备的N个第三位置信息;
第二拍摄单元,用于在用户注视每个位置点的情况下,分别拍摄用户的人脸图像;
其中,人脸图像分别与N个第三位置信息相关联,N为大于1的整数。
可选地,视线区域模块62,包括:
匹配单元,用于根据脸部图像,确定图像集合中与脸部图像相匹配的目标图像;其中,图像集合包括:拍摄单元拍摄的用户注视显示区域中不同区域时的人脸图像;
确定单元,用于根据拍摄图像集合中的人脸图像时用户注视区域与拍摄得到的人脸图像之间的对应关系,将拍摄得到目标图像时用户注视的区域确定为目标区域。
本申请实施例中,在获取用户的脸部图像之后,可以根据脸部图像确定用户注视的区域,进而在用户注视的区域位于第一电子设备的显示区域内的情况下,对脸部图像进行修正,使得修正后的人脸图像显示用户正在注视目标方向;其中,目标方向为拍摄单元所在的方向,或者,在用户通过第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,目标方向与目标区域中显示的物品相对于第二电子设备的第一方向相同。可以让与用户进行视频通话的另一方观察到的画面是:用户正在注视自己或者注视自己所处空间内的某一位置处的物品的画面,从而提升视频聊天过程中的体验。
本申请实施例中的视线修正装置可以是装置,也可以是终端中的部件、集成电路、或芯片。该装置可以是移动电子设备,也可以为非移动电子设备。示例性的,移动电子设备可以为手机、平板电脑、笔记本电脑、掌上电脑、车载电子设备、可穿戴设备、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本或者个人数字助理(personaldigital assistant,PDA)等,非移动电子设备可以为服务器、网络附属存储器(NetworkAttached Storage,NAS)、个人计算机(personal computer,PC)、电视机(television,TV)、柜员机或者自助机等,本申请实施例不作具体限定。
本申请实施例中的视线修正装置可以为具有操作系统的装置。该操作系统可以为安卓(Android)操作系统,可以为iOS操作系统,还可以为其他可能的操作系统,本申请实施例不作具体限定。
本申请实施例提供的视线修正装置能够实现图2的方法实施例实现的各个过程,为避免重复,这里不再赘述。
可选的,如图7所示,本申请实施例还提供一种电子设备700,包括处理器701,存储器702,存储在存储器702上并可在所述处理器701上运行的程序或指令,该程序或指令被处理器701执行时实现上述视线修正方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
需要说明的是,本申请实施例中的电子设备包括上述所述的移动电子设备和非移动电子设备。
图8为实现本申请实施例的一种电子设备的硬件结构示意图。
该电子设备800包括但不限于:射频单元801、网络模块802、音频输出单元803、输入单元804、传感器805、显示单元806、用户输入单元807、接口单元808、存储器809、以及处理器810等部件。
本领域技术人员可以理解,电子设备800还可以包括给各个部件供电的电源(比如电池),电源可以通过电源管理系统与处理器810逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。图8中示出的电子设备结构并不构成对电子设备的限定,电子设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置,在此不再赘述。
传感器805,用于获取用户的脸部图像,其中,脸部图像为第一电子设备的拍摄单元拍摄的图像;
处理器810,用于根据脸部图像,确定目标区域,其中,目标区域为拍摄脸部图像时,用户注视的区域;
处理器810,还用于在目标区域位于第一电子设备的显示区域内的情况下,将脸部图像修正为用户注视目标方向的人脸图像;
其中,目标方向为拍摄单元所在的方向,或者,在用户通过第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,目标方向与目标区域中显示的物品相对于第二电子设备的第一方向相同。
本申请实施例中,在获取用户的脸部图像之后,可以根据脸部图像确定用户注视的区域,进而在用户注视的区域位于第一电子设备的显示区域内的情况下,对脸部图像进行修正,使得修正后的人脸图像显示用户正在注视目标方向;其中,目标方向为拍摄单元所在的方向,或者,在用户通过第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,目标方向与目标区域中显示的物品相对于第二电子设备的第一方向相同。可以让与用户进行视频通话的另一方观察到的画面是:用户正在注视自己或者注视自己所处空间内的某一位置处的物品的画面,从而提升视频聊天过程中的体验。
应理解的是,本申请实施例中,输入单元804可以包括图形处理器(GraphicsProcessing Unit,GPU)8041和麦克风8042,图形处理器8041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。显示单元806可包括显示面板8061,可以采用液晶显示器、有机发光二极管等形式来配置显示面板8061。用户输入单元807包括触控面板8071以及其他输入设备8072。触控面板8071,也称为触摸屏。触控面板8071可包括触摸检测装置和触摸控制器两个部分。其他输入设备8072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆,在此不再赘述。存储器809可用于存储软件程序以及各种数据,包括但不限于应用程序和操作系统。处理器810可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器810中。
本申请实施例还提供一种可读存储介质,所述可读存储介质上存储有程序或指令,该程序或指令被处理器执行时实现上述视线修正方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
其中,所述处理器为上述实施例中所述的电子设备中的处理器。所述可读存储介质,包括计算机可读存储介质,如计算机只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等。
本申请实施例另提供了一种芯片,所述芯片包括处理器和通信接口,所述通信接口和所述处理器耦合,所述处理器用于运行程序或指令,实现上述视线修正方法实施例的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。
应理解,本申请实施例提到的芯片还可以称为系统级芯片、系统芯片、芯片系统或片上系统芯片等。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。此外,需要指出的是,本申请实施方式中的方法和装置的范围不限按示出或讨论的顺序来执行功能,还可包括根据所涉及的功能按基本同时的方式或按相反的顺序来执行功能,例如,可以按不同于所描述的次序来执行所描述的方法,并且还可以添加、省去、或组合各种步骤。另外,参照某些示例所描述的特征可在其他示例中被组合。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本申请各个实施例所述的方法。
上面结合附图对本申请的实施例进行了描述,但是本申请并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本申请的启示下,在不脱离本申请宗旨和权利要求所保护的范围情况下,还可做出很多形式,均属于本申请的保护之内。

Claims (8)

1.一种视线修正方法,其特征在于,所述视线修正方法包括:
获取用户的脸部图像,其中,所述脸部图像为第一电子设备的拍摄单元拍摄的图像;
根据所述脸部图像,确定目标区域,其中,所述目标区域为拍摄所述脸部图像时,所述用户注视的区域;
在所述目标区域位于第一电子设备的显示区域内的情况下,将所述脸部图像修正为所述用户注视目标方向的人脸图像;
其中,所述目标方向为在所述用户通过所述第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,所述目标方向与所述目标区域中显示的物品相对于所述第二电子设备的第一方向相同;
在所述用户通过所述第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,所述将所述脸部图像修正为所述用户注视目标方向的人脸图像之前,所述视线修正方法还包括:
在所述显示区域的第一显示区域显示第一画面,所述第一画面为所述第二电子设备的摄像单元拍摄的画面;
在所述目标区域位于所述第一显示区域内的情况下,将所述目标区域在所述第一显示区域中的第一位置信息发送至所述第二电子设备;
所述将所述脸部图像修正为所述用户注视目标方向的人脸图像,包括:
在接收到所述第二电子设备发送的第二位置信息的情况下,将所述脸部图像修正为所述用户注视所述第二位置信息指示的方向的人脸图像;
其中,所述第二位置信息包括所述目标区域内显示的物品相对于所述第二电子设备的位置信息。
2.根据权利要求1所述的视线修正方法,其特征在于,所述将所述脸部图像修正为所述用户注视所述第二位置信息指示的方向的人脸图像之前,所述视线修正方法还包括:
在所述第一电子设备以预设姿态置于所述用户的前方时,拍摄所述用户分别注视不同预设方向时的人脸图像;
所述将所述脸部图像修正为所述用户注视所述第二位置信息指示的方向的人脸图像,包括:
将所述不同预设方向中与所述第二位置信息指示的方向相同的方向确定为所述目标方向;
将所述脸部图像替换为所述用户注视所述目标方向的人脸图像。
3.根据权利要求2所述的视线修正方法,其特征在于,所述在所述第一电子设备以预设姿态置于所述用户的前方时,拍摄所述用户分别注视不同预设方向时的人脸图像,包括:
在所述第一电子设备以预设姿态置于所述用户的前方时,拍摄所述用户前方场景得到第一图像;
在所述第一图像中显示所述场景中的N个位置点的标识信息,并确定所述N个位置点相对于所述第一电子设备的N个第三位置信息;
在所述用户注视每个所述位置点的情况下,分别拍摄所述用户的人脸图像;
其中,所述人脸图像分别与所述N个第三位置信息相关联,N为大于1的整数。
4.根据权利要求1所述的视线修正方法,其特征在于,所述根据所述脸部图像,确定目标区域,包括:
根据所述脸部图像,确定图像集合中与所述脸部图像相匹配的目标图像;其中,所述图像集合包括:所述拍摄单元拍摄的所述用户注视所述显示区域中不同区域时的人脸图像;
根据拍摄所述图像集合中的人脸图像时用户注视区域与拍摄得到的人脸图像之间的对应关系,将拍摄得到所述目标图像时用户注视的区域确定为目标区域。
5.一种视线修正装置,其特征在于,所述视线修正装置包括:
获取模块,用于获取用户的脸部图像,其中,所述脸部图像为第一电子设备的拍摄单元拍摄的图像;
视线区域模块,用于根据所述脸部图像,确定目标区域,其中,所述目标区域为拍摄所述脸部图像时,所述用户注视的区域;
视线修正模块,用于在所述目标区域位于第一电子设备的显示区域内的情况下,将所述脸部图像修正为所述用户注视目标方向的人脸图像;
其中,所述目标方向为在所述用户通过所述第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,所述目标方向与所述目标区域中显示的物品相对于所述第二电子设备的第一方向相同;
在所述用户通过所述第一电子设备与第二电子设备对应的第一对象进行视频通话的情况下,所述视线修正装置还包括:
画面显示模块,用于在所述显示区域的第一显示区域显示第一画面,所述第一画面为所述第二电子设备的摄像单元拍摄的画面;
发送模块,用于在所述目标区域位于所述第一显示区域内的情况下,将所述目标区域在所述第一显示区域中的第一位置信息发送至所述第二电子设备;
所述视线修正模块,具体用于在接收到所述第二电子设备发送的第二位置信息的情况下,将所述脸部图像修正为所述用户注视所述第二位置信息指示的方向的人脸图像;
其中,所述第二位置信息包括所述目标区域内显示的物品相对于所述第二电子设备的位置信息。
6.根据权利要求5所述的视线修正装置,其特征在于,所述视线修正装置还包括:
拍摄模块,用于在所述第一电子设备以预设姿态置于所述用户的前方时,拍摄所述用户分别注视不同预设方向时的人脸图像;
所述视线修正模块,具体用于将所述不同预设方向中与所述第二位置信息指示的方向相同的方向确定为所述目标方向;将所述脸部图像替换为所述用户注视所述目标方向的人脸图像。
7.根据权利要求6所述的视线修正装置,其特征在于,所述拍摄模块包括:
第一拍摄单元,用于在所述第一电子设备以预设姿态置于所述用户的前方时,拍摄所述用户前方场景得到第一图像;
处理单元,用于在所述第一图像中显示所述场景中的N个位置点的标识信息,并确定所述N个位置点相对于所述第一电子设备的N个第三位置信息;
第二拍摄单元,用于在所述用户注视每个所述位置点的情况下,分别拍摄所述用户的人脸图像;
其中,所述人脸图像分别与所述N个第三位置信息相关联,N为大于1的整数。
8.根据权利要求5所述的视线修正装置,其特征在于,所述视线区域模块,包括:
匹配单元,用于根据所述脸部图像,确定图像集合中与所述脸部图像相匹配的目标图像;其中,所述图像集合包括:所述拍摄单元拍摄的所述用户注视所述显示区域中不同区域时的人脸图像;
确定单元,用于根据拍摄所述图像集合中的人脸图像时用户注视区域与拍摄得到的人脸图像之间的对应关系,将拍摄得到所述目标图像时用户注视的区域确定为目标区域。
CN202011605349.XA 2020-12-28 2020-12-28 视线修正方法及视线修正装置 Active CN112702533B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011605349.XA CN112702533B (zh) 2020-12-28 2020-12-28 视线修正方法及视线修正装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011605349.XA CN112702533B (zh) 2020-12-28 2020-12-28 视线修正方法及视线修正装置

Publications (2)

Publication Number Publication Date
CN112702533A CN112702533A (zh) 2021-04-23
CN112702533B true CN112702533B (zh) 2022-08-19

Family

ID=75512344

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011605349.XA Active CN112702533B (zh) 2020-12-28 2020-12-28 视线修正方法及视线修正装置

Country Status (1)

Country Link
CN (1) CN112702533B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022261856A1 (zh) * 2021-06-16 2022-12-22 华为技术有限公司 图像处理方法、装置及存储介质
CN114531560A (zh) * 2022-02-18 2022-05-24 深圳地平线机器人科技有限公司 一种视频通话方法及装置
CN114706484B (zh) * 2022-04-18 2024-08-09 Oppo广东移动通信有限公司 视线坐标确定方法及装置、计算机可读介质和电子设备

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103458219A (zh) * 2013-09-02 2013-12-18 小米科技有限责任公司 一种视频通话面部调整方法、装置及终端设备

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008140271A (ja) * 2006-12-04 2008-06-19 Toshiba Corp 対話装置及びその方法
CN103630116B (zh) * 2013-10-10 2016-03-23 北京智谷睿拓技术服务有限公司 图像采集定位方法及图像采集定位装置
CN105787884A (zh) * 2014-12-18 2016-07-20 联想(北京)有限公司 一种图像处理方法及电子设备
CN108491775B (zh) * 2018-03-12 2021-04-23 维沃移动通信有限公司 一种图像修正方法及移动终端
CN111145087B (zh) * 2019-12-30 2023-06-30 维沃移动通信有限公司 一种图像处理方法及电子设备

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103458219A (zh) * 2013-09-02 2013-12-18 小米科技有限责任公司 一种视频通话面部调整方法、装置及终端设备

Also Published As

Publication number Publication date
CN112702533A (zh) 2021-04-23

Similar Documents

Publication Publication Date Title
CN110058694B (zh) 视线追踪模型训练的方法、视线追踪的方法及装置
CN112702533B (zh) 视线修正方法及视线修正装置
CN112135046A (zh) 视频拍摄方法、视频拍摄装置及电子设备
CN109002248B (zh) Vr场景截图方法、设备及存储介质
CN112532885B (zh) 防抖方法、装置及电子设备
CN107835404A (zh) 基于头戴式虚拟现实设备的图像显示方法、设备及系统
US20240292087A1 (en) Photographing method and apparatus
US20160350622A1 (en) Augmented reality and object recognition device
CN116149471A (zh) 显示控制方法、装置、增强现实设备和介质
CN112672058B (zh) 拍摄方法及装置
CN112511743B (zh) 视频拍摄方法和装置
CN111901518A (zh) 显示方法、装置和电子设备
CN113709375B (zh) 一种图像显示方法及其装置、电子设备
CN112399077B (zh) 拍摄方法、装置及电子设备
CN114466140A (zh) 图像拍摄方法及装置
CN104156138B (zh) 拍摄控制方法及拍摄控制装置
CN112925497A (zh) 内容显示方法、装置、电子设备及可读存储介质
CN112887621B (zh) 控制方法和电子设备
CN117097982B (zh) 目标检测方法及系统
CN112533071B (zh) 图像处理方法、装置及电子设备
CN112367470B (zh) 图像处理方法、装置及电子设备
CN114449172B (zh) 拍摄方法、装置和电子设备
CN112367468B (zh) 图像处理方法、装置及电子设备
CN115454247A (zh) 虚拟内容交互的方法、装置、电子设备及存储介质
CN116033227A (zh) 视频播放方法、装置、电子设备和可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant