CN101815174B - 摄像控制方法及控制装置 - Google Patents

摄像控制方法及控制装置 Download PDF

Info

Publication number
CN101815174B
CN101815174B CN201010033872.XA CN201010033872A CN101815174B CN 101815174 B CN101815174 B CN 101815174B CN 201010033872 A CN201010033872 A CN 201010033872A CN 101815174 B CN101815174 B CN 101815174B
Authority
CN
China
Prior art keywords
dimensional face
mrow
msub
main camera
reconstructed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201010033872.XA
Other languages
English (en)
Other versions
CN101815174A (zh
Inventor
崔国勤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
GUANGDONG ZHONGXING ELECTRONICS Co Ltd
Original Assignee
Vimicro Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Vimicro Corp filed Critical Vimicro Corp
Priority to CN201010033872.XA priority Critical patent/CN101815174B/zh
Publication of CN101815174A publication Critical patent/CN101815174A/zh
Application granted granted Critical
Publication of CN101815174B publication Critical patent/CN101815174B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)

Abstract

本发明公开了一种摄像控制方法及装置。本发明设置主摄像头、以及与拍摄方向与主摄像头呈预定角度的辅助摄像头,先从主摄像头拍摄到的画面图像中检测到若干二维人脸图像、并定位每个二维人脸图像中的双眼和鼻尖位置,然后利用每个二维人脸图像中的双眼和鼻尖位置、以及辅助摄像头拍摄到的人脸深度信息确定每个二维人脸图像所匹配的三维人脸模版,再利用匹配的三维人脸模版分别建立表征多人群体场景中对应人体头部姿态的重构三维人脸,最后计算各重构三维人脸的注意方向的量化,从而实现人头姿态估计;利用人头姿态估计得到的各重构三维人脸的注意方向,即可自动调节主摄像机的拍摄方向和/或焦距,从而提高拍摄调节的效率和准确度。

Description

摄像控制方法及控制装置
技术领域
本发明涉及控制技术,特别涉及一种摄像控制方法、以及一种摄像控制装置。
背景技术
在摄像过程中,通常需要被拍摄对象调整其头部姿态、以使双眼基本正对摄像头的镜头。然而,在包括多人的群体场景中,被拍摄对象可能会由于相互间的不断交谈而相应改变自身的头部姿态,从而难以达到尽可能多的被拍摄对象的人头注意方向都正对摄像头的镜头。
如此一来,就不得不通过手动调整摄像头镜头的方向,以捕捉可基本正对所有被拍摄对象双眼的角度,从而造成拍摄的效率和准确度较低。
发明内容
有鉴于此,本发明提供了一种摄像控制方法、以及一种摄像控制装置,能够依据群体头部姿态自动调节摄像角度、以提高拍摄调节的效率和准确度。
本发明提供的一种摄像控制方法,在多人群体场景中设置主摄像头、以及与拍摄方向与主摄像头呈预定角度的辅助摄像头,并预先保存不同的三维人脸模版,且该摄像控制方法包括:
a、从主摄像头拍摄到的画面图像中检测到若干二维人脸图像;
b、定位每个二维人脸图像中的双眼和鼻尖位置;
c、利用每个二维人脸图像中的双眼和鼻尖位置、以及辅助摄像头拍摄到的人脸深度信息,确定每个二维人脸图像所匹配的三维人脸模版;
d、利用匹配的三维人脸模版,分别建立表征多人群体场景中对应人体头部姿态的重构三维人脸;
e、计算各重构三维人脸的注意Gaze方向,所述Gaze方向为重构三维人脸的双目及鼻尖所构成平面的法线方向的量化;
f、依据各重构三维人脸的Gaze方向调节主摄像机的拍摄方向和/或焦距。
所述步骤e包括:
e1、分别利用第i个重构三维人脸在主摄像机焦平面中的位置(xui,yui)、以及主摄像机的焦距f,计算每个重构三维人脸在主摄像机坐标系下的旋转矩阵R-1xi h,φyi h,φzi h),其中,
e2、分别计算表示第i个重构三维人脸的姿势矩阵Rpose_i,Rpose_i表示第i个重构三维人脸的Gaze方向相对于主摄像机拍摄方向偏移角度的量化,其中,R-1c,φc,ψc)为主摄像机坐标系在世界坐标系中的旋转矩阵,R-1wi,φwi,ψwi)为当前帧中第i个重构三维人脸相比于前一帧中第i个重构三维人脸在世界坐标系中的旋转矩阵。
所述步骤f包括:
f11、计算各重构三维人脸的姿势矩阵Rpose_i所表示的偏移角度量化的方差;
f12、利用所述方差表示的方向调节主摄像机的拍摄方向;
或者,所述步骤f包括:
f21、计算各重构三维人脸的姿势矩阵Rpose_i所表示的偏移角度量化的均值;
f22、利用所述均值表示的方向调节主摄像机的拍摄方向;
再或者,所述步骤f包括:
f31、从各重构三维人脸的姿势矩阵Rpose_i中所表示的偏移角度量化随机选择一个;
f32、利用选择的姿势矩阵Rpose_i所表示的偏移角度量化调节主摄像机的拍摄方向。
所述步骤a之前,进一步产生可引起多人群体汇聚注意方向的信号。
所述信号为音频信号。
本发明提供的一种摄像控制装置,包括:
人脸检测单元,用于从主摄像头拍摄到的画面图像中检测到若干二维人脸图像,所述主摄像头设置在多人群体场景中;
区域定位单元,用于定位每个二维人脸图像中的双眼和鼻尖位置;
模版匹配单元,用于利用每个二维人脸图像中的双眼和鼻尖位置、以及辅助摄像头拍摄到的人脸深度信息,确定每个二维人脸图像所匹配的三维人脸模版,所述辅助摄像头与所述主摄像头呈预定角度;
三维重构单元,用于利用匹配的三维人脸模版,分别建立表征多人群体场景中对应人体头部姿态的重构三维人脸;
方向计算单元,用于计算各重构三维人脸的注意Gaze方向,所述Gaze方向为重构三维人脸的双目及鼻尖所构成平面的法线方向的量化;
旋转控制单元,用于依据各重构三维人脸的Gaze方向调节主摄像机的拍摄方向和/或焦距。
所述方向计算单元包括:
第一计算子单元,别利用第i个重构三维人脸在主摄像机焦平面中的位置(xui,yui)、以及主摄像机的焦距f,计算每个重构三维人脸在主摄像机坐标系下的旋转矩阵R-1xi h,φyi h,φzi h),其中,
第二计算子单元,分别计算表示第i个重构三维人脸的姿势矩阵Rpose_i,Rpose_i表示第i个重构三维人脸的Gaze方向相对于主摄像机拍摄方向偏移角度的量化,其中,R-1c,φc,ψc)为主摄像机坐标系在世界坐标系中的旋转矩阵,R-1wi,φwi,ψwi)为当前帧中第i个重构三维人脸相比于前一帧中第i个重构三维人脸在世界坐标系中的旋转矩阵。
所述旋转控制单元包括:
方差计算子单元,计算各重构三维人脸的姿势矩阵Rpose_i所表示的偏移角度量化的方差;
第一执行子单元,利用所述方差表示的方向调节主摄像机的拍摄方向;
或者,所述旋转控制单元包括:
均值计算子单元,计算各重构三维人脸的姿势矩阵Rpose_i所表示的偏移角度量化的均值;
第二执行子单元,利用所述均值表示的方向调节主摄像机的拍摄方向;
再或者,所述旋转控制单元包括:
随机选择子单元,从各重构三维人脸的姿势矩阵Rpose_i中随机选择一个;
第三执行子单元,利用选择的姿势矩阵Rpose_i所表示的偏移角度量化调节主摄像机的拍摄方向。
进一步包括信号发生单元,用于在人脸检测单元接收主摄像头拍摄到的画面图像之前,产生可引起多人群体汇聚注意方向的信号。
所述信号发生单元为音频发生器。
由上述技术方案可见,本发明设置主摄像头、以及与拍摄方向与主摄像头呈预定角度的辅助摄像头,先从主摄像头拍摄到的画面图像中检测到若干二维人脸图像、并定位每个二维人脸图像中的双眼和鼻尖位置,然后利用每个二维人脸图像中的双眼和鼻尖位置、以及辅助摄像头拍摄到的人脸深度信息确定每个二维人脸图像所匹配的三维人脸模版,再利用匹配的三维人脸模版分别建立表征多人群体场景中对应人体头部姿态的重构三维人脸,最后计算各重构三维人脸的Gaze方向的量化,从而实现人头姿态估计;利用人头姿态估计得到的各重构三维人脸的Gaze方向,即可自动调节主摄像机的拍摄方向和/或焦距,从而提高拍摄调节的效率和准确度。
附图说明
图1为本发明实施例中摄像控制方法的示例性流程示意图;
图2为本发明实施例中主摄像机坐标系下旋转矩阵各角度的示意图;
图3为本发明实施例中摄像控制装置的示例性结构示意图。
具体实施方式
为使本发明的目的、技术方案及优点更加清楚明白,以下参照附图并举实施例,对本发明进一步详细说明。
本实施例中,主要是先通过二维人脸图像估计出各人头姿态的注意(Gaze)方向,然后利用各人头姿态的Gaze方向自动调节摄像机的拍摄角度。
图1为本发明实施例中的摄像控制方法的示例性流程示意图。如图1所示,本实施例中的摄像控制方法,在多人群体场景中设置主摄像头、以及与拍摄方向与主摄像头呈预定角度的辅助摄像头,其中,多人群体场景中具有世界坐标系、主摄像头和辅助摄像头还分别具有各自的坐标系,且该摄像控制方法包括:
步骤101,从主摄像头拍摄到的画面图像中检测到若干二维人脸图像。
实际应用中,本步骤可以利用自适应增强(AdaBoost)等现有人脸检测技术,如果利用AdaBoost实现二维人脸图像的检测,则提取的人脸特征可以采用局部二值模式(Local Byte Pattern),此类人脸特征概括了局部灰度级结构,利用相应的算子分别将各像素与其邻域像素比较,即可得到每个像素的二进制取值,即:
LBP ( x c , y c ) = Σ i = 0 7 2 i sign ( p i - p c )
其中,LBP(xc,yc)表示像素c的局部二值模式灰度值,pc表示像素c的实际灰度值,pi表示像素c的第i个邻域像素的实际灰度值,sign为符号函数。
步骤102,定位每个二维人脸图像中的双眼和鼻尖位置。
实际应用中,本步骤中可以依据人脸结构的经验值识别出双眼和鼻尖位置,其中,考虑到人脸的鼻尖对光照和其邻域的皮肤纹理差别较小,因而可以先确定包含有鼻尖及其邻域的区域,然后在该区域内确定鼻尖位置。
步骤103,利用每个二维人脸图像中的双眼和鼻尖位置、以及辅助摄像头拍摄到的人脸深度信息,在预先保存的所有三维人脸模版中,确定每个二维人脸图像最为匹配的三维人脸模版。
步骤104,利用匹配的三维人脸模版,分别建立表征多人群体场景中对应人体头部姿态的重构三维人脸。
实际应用中,本步骤中的处理过程实际上是将匹配的三维人脸模版按照二维人脸图像的姿态还原至世界坐标系中。
步骤105,计算各重构三维人脸的Gaze方向,Gaze方向表示重构三维人脸的双目及鼻尖所构成平面的法线方向在世界坐标系中的量化。
实际应用中,如何确定Gaze方向可以采用多种现有方式来实现,而除了现有的多种方式之外,参见图2,本步骤中又提供了一种新的方式并具体包括如下处理过程:
a、分别利用第i个重构三维人脸在主摄像机焦平面中的位置(xui,yui)、以及主摄像机的焦距f,计算每个重构三维人脸在主摄像机坐标系下的旋转矩阵R-1xi h,φyi h,φzi h),其中,
b、分别计算表示第i个重构三维人脸的姿势矩阵Rpose_i,Rpose_i表示第i个重构三维人脸的Gaze方向相对于主摄像机拍摄方向偏移角度的量化,其中,
R pose _ i = R - 1 ( θ c , φ c , ψ c ) R - 1 ( φ xi h , φ yi h , φ zi h ) R - 1 ( θ wi , φ wi , ψ wi ) ;
R-1c,φc,ψc)为主摄像机坐标系在世界坐标系中的旋转矩阵、该旋转矩阵可以依据主摄像机坐标系预先设置的标定值来得到,对于利用坐标系标定值获取坐标系旋转矩阵的过程,本领域技术人员可以参照现有方式来实现,在此不再赘述;R-1wi,φwi,ψwi)为当前帧中第i个重构三维人脸相比于前一帧中第i个重构三维人脸在世界坐标系中的旋转矩阵,对于利用连续两帧中同一人头获取旋转矩阵的过程,本领域技术人员可以参照现有方式来实现,在此不再赘述。
步骤106,依据各重构三维人脸的Gaze方向调节主摄像机的拍摄方向和/或焦距,以使多人群体场景中尽可能多的人头注意方向正对摄像头的镜头。当然,如果主摄像机的拍摄方向调整,则可以随之调整辅助摄像机,以使辅助摄像机拍摄角度与主摄像机所呈的角度固定不变。
实际应用中,本步骤中调节主摄像机拍摄方向可以依据不同的实际需求任意设定,本实施例给出了如下的几种可选方式:
方差方式,计算各重构三维人脸的姿势矩阵Rpose_i所表示的偏移角度量化的方差,并利用所述方差表示的方向调节主摄像机的拍摄方向;
均值方式,计算各重构三维人脸的姿势矩阵Rpose_i所表示的偏移角度量化的均值,并利用所述均值表示的方向调节主摄像机的拍摄方向;
随机方式,从各重构三维人脸的姿势矩阵Rpose_i中所表示的偏移角度量化随机选择一个,并利用选择的姿势矩阵Rpose_i所表示的偏移角度量化调节主摄像机的拍摄方向。
需要说明的是,本实施例中的摄像控制方法,主要关注的是利用Gaze方向作为摄像头调节的控制条件、以及如何获取该Gaze方向,至于如何实施对摄像头拍摄方向和/或焦距的调整,本领域技术人员可依据实际需要任意设定,例如,参照概率学、几何图形学等各类计算方式设定其他的调节方式,在此不再一一赘述。
此外,考虑到多人群体场景中,各人头姿态的Gaze方向有可能是离散的,那么此时,无论采用哪一种调节方式均不能够最佳地将主摄像头拍摄方向对准所有人头姿态的Gaze方向,因此,在执行步骤101之前,可以产生例如音频信号等能够引起多人群体汇聚注意方向的信号,然后再执行上述步骤101至106的流程;最佳状态下,多人群体的注意方向可存在汇聚点,此式调整主摄像机的拍摄方向和/或焦距、使汇聚点位于焦平面内即可。
至此,上述循环执行的流程结束。
以上,是对本实施例中摄像控制方法的详细说明,下面,再对本实施例中的摄像控制装置进行说明。
图3为本发明实施例中摄像控制装置的示例性结构示意图。如图3所示,本实施例中的摄像控制装置包括:
人脸检测单元301,用于从主摄像头拍摄到的画面图像中检测到若干二维人脸图像,所述主摄像头设置在具有世界坐标系的多人群体场景中,且主摄像头具有自身的摄像坐标系;实际应用中,人脸检测单元301可以利用AdaBoost等现有人脸检测技术,如果利用AdaBoost实现二维人脸图像的检测,则提取的人脸特征可以采用局部二值模式,此类人脸特征概括了局部灰度级结构,利用相应的算子分别将各像素与其邻域像素比较,即可得到每个像素的二进制取值,即LBP(xc,yc)表示像素c的局部二值模式灰度值,pc表示像素c的实际灰度值,pi表示像素c的第i个邻域像素的实际灰度值,sign为符号函数。
区域定位单元302,用于定位每个二维人脸图像中的双眼和鼻尖位置;实际应用中,区域定位单元302可以依据人脸结构的经验值识别出双眼和鼻尖位置,其中,考虑到人脸的鼻尖对光照和其邻域的皮肤纹理差别较小,因而可以先确定包含有鼻尖及其邻域的区域,然后在该区域内确定鼻尖位置。
模版匹配单元303,用于利用每个二维人脸图像中的双眼和鼻尖位置、以及辅助摄像头拍摄到的人脸深度信息,在预先保存的所有三维人脸模版中,确定每个二维人脸图像所匹配的三维人脸模版,所述辅助摄像头与前述主摄像头呈预定角度,且辅助摄像头也具有自身的摄像坐标系。
三维重构单元304,用于利用匹配的三维人脸模版,分别建立表征多人群体场景中对应人体头部姿态的重构三维人脸;实际应用中,可以看作是三维重构单元304将匹配的三维人脸模版按照二维人脸图像的姿态还原至世界坐标系中。
方向计算单元305,用于计算各重构三维人脸的Gaze方向,所述Gaze方向为重构三维人脸的双目及鼻尖所构成平面的法线方向的量化;实际应用中,如何确定Gaze方向可以采用多种现有方式来实现,而除了现有的多种方式之外,方向计算单元305可以采用一种新的方式并具体包括:第一计算子单元和第二计算子单元(图3中均未示出),其中,
第一计算子单元,分别利用第i个重构三维人脸在主摄像机焦平面中的位置(xui,yui)、以及主摄像机的焦距f,计算每个重构三维人脸在主摄像机坐标系下的旋转矩阵R-1xi h,φyi h,φzi h),其中,
第二计算子单元,分别计算表示第i个重构三维人脸的姿势矩阵Rpose_i,Rpose_i表示第i个重构三维人脸的Gaze方向相对于主摄像机拍摄方向偏移角度的量化,R-1c,φc,ψc)为主摄像机坐标系在世界坐标系中的旋转矩阵、该旋转矩阵可以依据主摄像机坐标系预先设置的标定值来得到,对于利用坐标系标定值获取坐标系旋转矩阵的过程,本领域技术人员可以参照现有方式来实现,在此不再赘述;R-1wi,φwi,ψwi)为当前帧中第i个重构三维人脸相比于前一帧中第i个重构三维人脸在世界坐标系中的旋转矩阵,对于利用连续两帧中同一人头获取旋转矩阵的过程,本领域技术人员可以参照现有方式来实现,在此不再赘述。
旋转控制单元306,用于依据各重构三维人脸的Gaze方向调节主摄像机的拍摄方向和/或焦距,以使多人群体场景中尽可能多的人头注意方向正对摄像头的镜头,当然,如果主摄像机的拍摄方向调整,则可以随之调整辅助摄像机,以使辅助摄像机拍摄角度与主摄像机所呈的角度固定不变;实际应用中,旋转控制单元306调节主摄像机拍摄方向可以依据不同的实际需求任意设定,本实施例给出了方差方式、均值方式、随机方式,其中,
如果采用方差方式,则旋转控制单元306可以包括(图3中未示出):方差计算子单元,计算各重构三维人脸的姿势矩阵Rpose_i所表示的偏移角度量化的方差;第一执行子单元,利用所述方差表示的方向调节主摄像机的拍摄方向;
如果采用均值方式,则旋转控制单元306可以包括(图3中未示出):均值计算子单元,计算各重构三维人脸的姿势矩阵Rpose_i所表示的偏移角度量化的均值;第二执行子单元,利用所述均值表示的方向调节主摄像机的拍摄方向;
如果采用随机方式,则旋转控制单元306可以包括(图3中未示出):随机选择子单元,从各重构三维人脸的姿势矩阵Rpose_i中随机选择一个;第三执行子单元,利用选择的姿势矩阵Rpose_i所表示的偏移角度量化调节主摄像机的拍摄方向。
需要说明的是,本实施例中的摄像控制装置,主要关注的是利用Gaze方向作为摄像头调节的控制条件、以及如何获取该Gaze方向,至于旋转控制单元306如何实施对摄像头拍摄方向和/或焦距的调整,本领域技术人员可依据实际需要任意设定,例如,参照概率学、几何图形学等各类计算方式设定其他的调节方式,在此不再一一赘述。
此外,考虑到多人群体场景中,各人头姿态的Gaze方向有可能是离散的,那么此时,无论采用哪一种调节方式均不能够最佳地将主摄像头拍摄方向对准所有人头姿态的Gaze方向,因此,如图3所示的装置中还可以进一步包括如虚线框所示的信号发生单元307,用于在人脸检测单元301接收主摄像头拍摄到的画面图像之前,产生可引起多人群体汇聚注意方向的信号;最佳状态下,多人群体的注意方向可存在汇聚点,此式调整主摄像机的拍摄方向和/或焦距、使汇聚点位于焦平面内即可。实际应用中,信号发生单元307可以选用音频发生器。
如上可见,本实施例设置主摄像头、以及与拍摄方向与主摄像头呈预定角度的辅助摄像头,先从主摄像头拍摄到的画面图像中检测到若干二维人脸图像、并定位每个二维人脸图像中的双眼和鼻尖位置,然后利用每个二维人脸图像中的双眼和鼻尖位置、以及辅助摄像头拍摄到的人脸深度信息确定每个二维人脸图像所匹配的三维人脸模版,再利用匹配的三维人脸模版分别建立表征多人群体场景中对应人体头部姿态的重构三维人脸,最后计算各重构三维人脸的Gaze方向的量化,从而实现人头姿态估计;利用人头姿态估计得到的各重构三维人脸的Gaze方向,即可自动调节主摄像机的拍摄方向,从而提高拍摄调节的效率和准确度。
以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内,所作的任何修改、等同替换以及改进等,均应包含在本发明的保护范围之内。

Claims (8)

1.一种摄像控制方法,其特征在于,在多人群体场景中设置主摄像头、以及与拍摄方向与主摄像头呈预定角度的辅助摄像头,并预先保存不同的三维人脸模版,且该摄像控制方法包括:
a、从主摄像头拍摄到的画面图像中检测到若干二维人脸图像;
b、定位每个二维人脸图像中的双眼和鼻尖位置;
c、利用每个二维人脸图像中的双眼和鼻尖位置、以及辅助摄像头拍摄到的人脸深度信息,确定每个二维人脸图像所匹配的三维人脸模版;
d、利用匹配的三维人脸模版,分别建立表征多人群体场景中对应人体头部姿态的重构三维人脸;
e、计算各重构三维人脸的注意Gaze方向,所述Gaze方向为重构三维人脸的双目及鼻尖所构成平面的法线方向的量化;
所述步骤e包括:
e1、分别利用第i个重构三维人脸在主摄像机焦平面中的位置(xui,yui)、以及主摄像机的焦距f,计算每个重构三维人脸在主摄像机坐标系下的旋转矩阵其中, φ xi h = arctan y ui f , φ yi h = - arctan x ui f 2 + y ui 2 , φ zi h = 0 ;
e2、分别计算表示第i个重构三维人脸的姿势矩阵Rpose_i,Rpose_i表示第i个重构三维人脸的Gaze方向相对于主摄像机拍摄方向偏移角度的量化,其中,
R pose _ i = R - 1 ( θ c , φ c , ψ c ) R - 1 ( φ xi h , φ yi h , φ zi h ) R - 1 ( θ wi , φ wi , ψ wi ) , R-1ccc)为主摄像机坐标系在世界坐标系中的旋转矩阵,R-1wiwiwi)为当前帧中第i个重构三维人脸相比于前一帧中第i个重构三维人脸在世界坐标系中的旋转矩阵;
f、依据各重构三维人脸的Gaze方向调节主摄像机的拍摄方向和/或焦距。
2.如权利要求1所述的摄像控制方法,其特征在于,
所述步骤f包括:
f11、计算各重构三维人脸的姿势矩阵Rpose_i所表示的偏移角度量化的方差;
f12、利用所述方差表示的方向调节主摄像机的拍摄方向;
或者,所述步骤f包括:
f21、计算各重构三维人脸的姿势矩阵Rpose_i所表示的偏移角度量化的均值;
f22、利用所述均值表示的方向调节主摄像机的拍摄方向;
再或者,所述步骤f包括:
f31、从各重构三维人脸的姿势矩阵Rpose_i中所表示的偏移角度量化随机选择一个;
f32、利用选择的姿势矩阵Rpose_i所表示的偏移角度量化调节主摄像机的拍摄方向。
3.如权利要求1至2中任一项所述的摄像控制方法,其特征在于,所述步骤a之前,进一步产生可引起多人群体汇聚注意方向的信号。
4.如权利要求3所述的摄像控制方法,其特征在于,所述信号为音频信号。
5.一种摄像控制装置,其特征在于,包括:
人脸检测单元,用于从主摄像头拍摄到的画面图像中检测到若干二维人脸图像,所述主摄像头设置在多人群体场景中;
区域定位单元,用于定位每个二维人脸图像中的双眼和鼻尖位置;
模版匹配单元,用于利用每个二维人脸图像中的双眼和鼻尖位置、以及辅助摄像头拍摄到的人脸深度信息,确定每个二维人脸图像所匹配的三维人脸模版,所述辅助摄像头与所述主摄像头呈预定角度;
三维重构单元,用于利用匹配的三维人脸模版,分别建立表征多人群体场景中对应人体头部姿态的重构三维人脸;
方向计算单元,用于计算各重构三维人脸的注意Gaze方向,所述Gaze方向为重构三维人脸的双目及鼻尖所构成平面的法线方向的量化;
所述方向计算单元包括:
第一计算子单元,别利用第i个重构三维人脸在主摄像机焦平面中的位置(xui,yui)、以及主摄像机的焦距f,计算每个重构三维人脸在主摄像机坐标系下的旋转矩阵其中, φ xi h = arctan y ui f , φ yi h = - arctan x ui f 2 + y ui 2 , φ zi h = 0 ;
第二计算子单元,分别计算表示第i个重构三维人脸的姿势矩阵Rpose_i,Rpose_i表示第i个重构三维人脸的Gaze方向相对于主摄像机拍摄方向偏移角度的量化,其中, R pose _ i = R - 1 ( θ c , φ c , ψ c ) R - 1 ( φ xi h , φ yi h , φ zi h ) R - 1 ( θ wi , φ wi , ψ wi ) , R-1ccc)为主摄像机坐标系在世界坐标系中的旋转矩阵,R-1wiwiwi)为当前帧中第i个重构三维人脸相比于前一帧中第i个重构三维人脸在世界坐标系中的旋转矩阵;
旋转控制单元,用于依据各重构三维人脸的Gaze方向调节主摄像机的拍摄方向和/或焦距。
6.如权利要求5所述的摄像控制装置,其特征在于,
所述旋转控制单元包括:
方差计算子单元,计算各重构三维人脸的姿势矩阵Rpose_i所表示的偏移角度量化的方差;
第一执行子单元,利用所述方差表示的方向调节主摄像机的拍摄方向;
或者,所述旋转控制单元包括:
均值计算子单元,计算各重构三维人脸的姿势矩阵Rpose_i所表示的偏移角度量化的均值;
第二执行子单元,利用所述均值表示的方向调节主摄像机的拍摄方向;
再或者,所述旋转控制单元包括:
随机选择子单元,从各重构三维人脸的姿势矩阵Rpose_i中随机选择一个;
第三执行子单元,利用选择的姿势矩阵Rpose_i所表示的偏移角度量化调节主摄像机的拍摄方向。
7.如权利要求5至6中任一项所述的摄像控制装置,其特征在于,进一步包括信号发生单元,用于在人脸检测单元接收主摄像头拍摄到的画面图像之前,产生可引起多人群体汇聚注意方向的信号。
8.如权利要求7所述的摄像控制装置,其特征在于,所述信号发生单元为音频发生器。
CN201010033872.XA 2010-01-11 2010-01-11 摄像控制方法及控制装置 Active CN101815174B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201010033872.XA CN101815174B (zh) 2010-01-11 2010-01-11 摄像控制方法及控制装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201010033872.XA CN101815174B (zh) 2010-01-11 2010-01-11 摄像控制方法及控制装置

Publications (2)

Publication Number Publication Date
CN101815174A CN101815174A (zh) 2010-08-25
CN101815174B true CN101815174B (zh) 2015-03-04

Family

ID=42622285

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201010033872.XA Active CN101815174B (zh) 2010-01-11 2010-01-11 摄像控制方法及控制装置

Country Status (1)

Country Link
CN (1) CN101815174B (zh)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102385692B (zh) * 2010-08-31 2015-07-08 中国科学院深圳先进技术研究院 人脸偏转图像获取系统及方法
CN101969539A (zh) * 2010-09-30 2011-02-09 冠捷显示科技(厦门)有限公司 基于用户视角的电视自动转向方法
KR101874494B1 (ko) 2011-11-25 2018-07-06 삼성전자주식회사 특징점의 삼차원 위치 계산 장치 및 방법
CN102722080B (zh) * 2012-06-27 2015-11-18 杭州南湾科技有限公司 一种基于多镜头拍摄的多用途立体摄像方法
CN103810491B (zh) * 2014-02-19 2017-02-22 北京工业大学 融合深度和灰度图像特征点的头姿估计兴趣点检测方法
CN104935912B (zh) * 2014-03-19 2017-09-29 联想(北京)有限公司 一种信息处理方法及电子设备
EP3134850B1 (en) 2014-04-22 2023-06-14 Snap-Aid Patents Ltd. Method for controlling a camera based on processing an image captured by other camera
CN104917959A (zh) * 2015-05-19 2015-09-16 广东欧珀移动通信有限公司 一种拍照方法及终端
CN105007432B (zh) * 2015-07-03 2018-09-04 广东欧珀移动通信有限公司 一种拍照方法及终端
CN105976429B (zh) * 2016-05-03 2022-04-22 西安邮电大学 刑侦画像计算机辅助系统及方法
CN107399241B (zh) * 2016-05-20 2021-02-19 中兴通讯股份有限公司 一种无线充电定位方法、装置、系统及电动汽车
CN106295533B (zh) * 2016-08-01 2019-07-02 厦门美图之家科技有限公司 一种自拍图像的优化方法、装置和拍摄终端
CN108335328B (zh) * 2017-01-19 2021-09-24 富士通株式会社 摄像机姿态估计方法和摄像机姿态估计装置
CN106991376B (zh) * 2017-03-09 2020-03-17 Oppo广东移动通信有限公司 结合深度信息的侧脸验证方法及装置与电子装置
CN106991377B (zh) * 2017-03-09 2020-06-05 Oppo广东移动通信有限公司 结合深度信息的人脸识别方法、人脸识别装置和电子装置
CN106991378B (zh) * 2017-03-09 2020-02-04 Oppo广东移动通信有限公司 基于深度的人脸朝向检测方法、检测装置和电子装置
CN108921000B (zh) * 2018-04-16 2024-02-06 深圳市深网视界科技有限公司 头部角度标注、预测模型训练、预测方法、设备和介质
CN109146962B (zh) * 2018-09-07 2020-06-09 百度在线网络技术(北京)有限公司 检测脸部角度的方法、装置、存储介质和终端设备
CN109759339B (zh) * 2019-03-01 2021-09-17 邯郸学院 物流包裹的分拣方法、分拣装置及分拣终端
CN110246279A (zh) * 2019-05-23 2019-09-17 北京东晟先创科技发展有限公司 具有安全防护功能的柜员机
CN110191280A (zh) * 2019-05-24 2019-08-30 Oppo广东移动通信有限公司 基于盖板显示的拍照方法及相关产品
CN111967431A (zh) * 2020-08-31 2020-11-20 珠海研果科技有限公司 角度校正方法和装置
CN112991813B (zh) * 2021-03-03 2022-08-16 广州小鹏自动驾驶科技有限公司 一种停车位对齐方法、装置、设备和计算机可读存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1423228A (zh) * 2002-10-17 2003-06-11 南开大学 识别人眼注视方向的装置和方法及其应用
CN101183424A (zh) * 2006-11-14 2008-05-21 上海银晨智能识别科技有限公司 一种基于二维图片的三维建模的比对方法
CN101377814A (zh) * 2007-08-27 2009-03-04 索尼株式会社 人脸图像处理设备、人脸图像处理方法以及计算机程序
CN101388114A (zh) * 2008-09-03 2009-03-18 北京中星微电子有限公司 一种人体姿态估计的方法和系统
CN101489467A (zh) * 2006-07-14 2009-07-22 松下电器产业株式会社 视线方向检测装置和视线方向检测方法
CN201307266Y (zh) * 2008-06-25 2009-09-09 韩旭 双目视线跟踪装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AUPQ896000A0 (en) * 2000-07-24 2000-08-17 Seeing Machines Pty Ltd Facial image processing system
US6937745B2 (en) * 2001-12-31 2005-08-30 Microsoft Corporation Machine vision system and method for estimating and tracking facial pose
JP4829141B2 (ja) * 2007-02-09 2011-12-07 株式会社東芝 視線検出装置及びその方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1423228A (zh) * 2002-10-17 2003-06-11 南开大学 识别人眼注视方向的装置和方法及其应用
CN101489467A (zh) * 2006-07-14 2009-07-22 松下电器产业株式会社 视线方向检测装置和视线方向检测方法
CN101183424A (zh) * 2006-11-14 2008-05-21 上海银晨智能识别科技有限公司 一种基于二维图片的三维建模的比对方法
CN101377814A (zh) * 2007-08-27 2009-03-04 索尼株式会社 人脸图像处理设备、人脸图像处理方法以及计算机程序
CN201307266Y (zh) * 2008-06-25 2009-09-09 韩旭 双目视线跟踪装置
CN101388114A (zh) * 2008-09-03 2009-03-18 北京中星微电子有限公司 一种人体姿态估计的方法和系统

Also Published As

Publication number Publication date
CN101815174A (zh) 2010-08-25

Similar Documents

Publication Publication Date Title
CN101815174B (zh) 摄像控制方法及控制装置
US10297076B2 (en) Apparatus and method for generating 3D face model using mobile device
JP4728432B2 (ja) 顔姿勢推定装置、顔姿勢推定方法、及び、顔姿勢推定プログラム
US20080278487A1 (en) Method and Device for Three-Dimensional Rendering
KR100930994B1 (ko) 3차원 영상 모델 생성 방법 및 장치, 이를 이용한 영상인식 방법 및 장치 그리고 상기 방법들을 수행하는프로그램이 기록된 기록 매체
JPWO2012077286A1 (ja) 物体検出装置および物体検出方法
JP2007011667A (ja) 虹彩認証装置および虹彩認証方法
JP2009199417A (ja) 顔追跡装置及び顔追跡方法
US10878265B2 (en) Image processing device and image processing method for setting important areas in an image
KR101510312B1 (ko) 복수의 카메라들을 이용한 3d 얼굴 모델링 장치, 시스템 및 방법
JP5068732B2 (ja) 3次元形状生成装置
EP3975047B1 (en) Method for determining validness of facial feature, and electronic device
WO2017187694A1 (ja) 注目領域画像生成装置
KR101053253B1 (ko) 3차원 정보를 이용한 얼굴 인식 장치 및 방법
WO2021248564A1 (zh) 一种全景大数据应用监测管控系统
JP2019185556A (ja) 画像解析装置、方法およびプログラム
CN110852934A (zh) 图像处理方法及装置、图像设备及存储介质
JP2006215743A (ja) 画像処理装置及び画像処理方法
KR20140052769A (ko) 왜곡 영상 보정 장치 및 방법
JP2006177937A (ja) 距離計測装置及び距離計測方法
KR101050364B1 (ko) 3차원 객체를 제공하는 사진 장치 및 그 제공방법
CN113486691A (zh) 一种智能设备及其控制方法
Huang et al. Image deblurring for less intrusive iris capture
WO2020263277A1 (en) Landmark temporal smoothing
JP2006227739A (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20160516

Address after: 519031 Guangdong city of Zhuhai province Hengqin Baohua Road No. 6, room 105 -478

Patentee after: GUANGDONG ZHONGXING ELECTRONICS CO., LTD.

Address before: 100083, Haidian District, Xueyuan Road, Beijing No. 35, Nanjing Ning building, 15 Floor

Patentee before: Beijing Vimicro Corporation