CN105517680B - 用于识别人脸的装置、系统和方法 - Google Patents

用于识别人脸的装置、系统和方法 Download PDF

Info

Publication number
CN105517680B
CN105517680B CN201580000322.9A CN201580000322A CN105517680B CN 105517680 B CN105517680 B CN 105517680B CN 201580000322 A CN201580000322 A CN 201580000322A CN 105517680 B CN105517680 B CN 105517680B
Authority
CN
China
Prior art keywords
measured point
light
face
light source
group
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201580000322.9A
Other languages
English (en)
Other versions
CN105517680A (zh
Inventor
范浩强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Kuangshi Technology Co Ltd
Beijing Megvii Technology Co Ltd
Original Assignee
Beijing Kuangshi Technology Co Ltd
Beijing Megvii Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Kuangshi Technology Co Ltd, Beijing Megvii Technology Co Ltd filed Critical Beijing Kuangshi Technology Co Ltd
Publication of CN105517680A publication Critical patent/CN105517680A/zh
Application granted granted Critical
Publication of CN105517680B publication Critical patent/CN105517680B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/145Illumination specially adapted for pattern recognition, e.g. using gratings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/254Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/12Acquisition of 3D measurements of objects
    • G06V2201/121Acquisition of 3D measurements of objects using special illumination

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Electromagnetism (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

公开了一种用于识别人脸的装置、系统和方法,所述方法包括:对被测的人脸依次发射至少一组有结构的光线;采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集;获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。

Description

用于识别人脸的装置、系统和方法
技术领域
本公开涉及人脸识别领域,并且具体涉及一种用于识别人脸的装置、系统和方法。
背景技术
当前,使用摄像头的人脸识别系统得到广泛使用。在通常的人脸识别系统中,使用的是被动式的图像采集方法,即,所述系统只接收光线而不主动发出光线,或者仅仅利用补光灯打出仅用于照明目的的、没有结构的光线。这样采集到的人脸信号非常受环境光照变化、人的姿态变化等因素的影响。当人脸角度变化时(例如,人脸侧过来或扬起来),人脸的图像会产生巨大的变化,导致识别变得很难。而当外界环境光照变化时(例如,太阳的位置变化或周围灯光的开闭),采集到的图像也会产生极其显著的变化。这些因素阻碍了一般的人脸识别系统的准确度的提高。
发明内容
根据本公开的一个方面,提供了一种用于识别人脸的系统,包括:光源发生模块,对被测的人脸依次发射至少一组有结构的光线;图像采集模块,采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;处理器;存储器;和存储在所述存储器中的计算机程序指令,在所述计算机程序指令被所述处理器运行时执行以下步骤:基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。
根据本公开的另一方面,提供了一种用于识别人脸的方法,包括:对被测的人脸依次发射至少一组有结构的光线;采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。
根据本公开的另一方面,提供了一种用于识别人脸的设备,包括:光源发生模块,对被测的人脸依次发射至少一组有结构的光线;图像采集模块,采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;提取模块,基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;获取模块,获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;计算模块,基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及识别模块,如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。
根据本公开的另一方面,提供了一种用于识别人脸的装置,包括:光源发生模块,对待识别的人脸依次发射至少一组有结构的光线;图像采集模块,采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;发送模块,将所述有光源图像集发送至与所述装置可通信地连接的计算机。
根据本公开的另一方面,提供了一种用于识别人脸的装置,包括:光源发生模块,对待识别的人脸依次发射至少一组有结构的光线;图像采集模块,采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;提取模块,基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;发送模块,将所述第一特征集发送至与所述装置可通信地连接的计算机。
根据本公开的另一方面,提供了一种计算机程序产品,包括计算机可读存储介质,在所述计算机可读存储介质上存储了计算机程序指令,所述计算机程序指令在被计算机运行时执行以下步骤:基于被测的人脸在依次经受至少一组有结构的光线中的每一组光线的照射时所采集的有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。
利用根据本公开的上述方面的装置、系统、方法和计算机程序产品,可以不受外界环境光照、人脸姿态变化的影响而进行人脸识别,从而极大地改善了人脸识别的准确度。
附图说明
通过结合附图对本公开示例性实施方式进行更详细的描述,本公开的上述以及其它目的、特征和优势将变得更加明显,在附图中,相同的参考标号通常指示相同的部件。
图1是示意性图示可用于实现根据本公开实施例的用于识别人脸的方法的系统的框图。
图2是示意性图示根据本公开实施例的系统中的光源发生模块的详细配置的图。
图3是示意性图示根据本公开实施例的光源发生模块的光栅所投射出的图案的图。
图4是示意性示出本公开实施例的人脸识别方法的主要步骤的流程图。
图5是示意性示出根据本公开实施例的用于识别人脸的设备的主要配置的框图。
图6是示意性图示根据本公开实施例的用于识别人脸的装置的主要配置的框图。
图7是示意性图示根据本公开另一实施例的用于识别人脸的装置的主要配置的框图。
具体实施方式
为了使得本发明的目的、技术方案和优点更为明显,下面将参照附图详细描述根据本发明的示例实施例。显然,所描述的实施例仅仅是本发明的一部分实施例,而不是本发明的全部实施例,应理解,本发明不受这里描述的示例实施例的限制。基于本公开中描述的本发明实施例,本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。
首先,参照图1来描述根据本公开实施例的用于识别人脸的系统的主要配置的框图。
如图1所示,本公开实施例的用于识别人脸的系统100主要包括:一个或多个处理器102、一个或多个存储器104、光源发生模块106、以及图像采集模块108。这些组件通过总线系统110和/或其它形式的连接机构(未示出)互连。
具体地,所述处理器102可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元,并且可以所述系统100中的其它组件以执行期望的功能。
存储器104可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器102可以运行所述程序指令,以实现下文所述的本公开的实施例的人脸识别方法的相应功能以及/或者其它期望的功能。
所述光源发生模块106例如为包括激光、LED等的任何一个的光源模块,用于对被测的人脸依次发射至少一组有结构的光线。
具体地,图2示意性示出了本公开实施例的光源发生模块106的更详细配置。在图2中,本公开实施例的光源发生模块106包括第一组光源202、第二组光源204A-204D和第三组光源206A-206F。在不需要单独区分的情况下,将所述第二组光源204A-204D统称为第二组光源204,将所述第三组光源206A-206F统称为第三组光源206。
需要指出的是,虽然在图2中示意性地示出了上述三组光源,但本公开实施例的光源发生模块不必包括其全部,而是可以包括其中的任何一组或多组光源。当然,本公开实施例的光源发生模块也可以包括除了上述三组光源以外的其他光源。
具体地,所述第一组光源202包括激光器。示例性地,所述激光器可以为红外点状激光器。示例性地,所述红外点状激光器的波长为850nm。所述激光器与所述人脸之间布置预定图案的光栅。由此,所述激光器可以通过所述光栅向被测人脸投射出预定图案的光线。
图3示意性示出了本公开实施例的光栅所投射出的图案。如图3所示,示例性地,所述图案为双斜线图案,其中两组斜线的每一组均由一组平行线所组成。这两组平行线之间互相垂直,并且与垂直方向之间构成例如45度的夹角。这两组平行线内线与线之间的间距例如可以为0.002rad、0.003rad等。
需要指出的是,图3仅是本公开实施例的光栅的一个示例,本公开不限于此,而是可以包括其他各种预定图案的光栅。
继续返回图2,所述第二组光源204A-204D例如为LED光源。示例性地,所述第二组光源204为红外LED。示例性地,所述红外LED的波长为850nm。所述第二组光源204中的每一个光源设置在不同位置,并且在空间上构成一个矩形,其所在平面面向被测人脸。
需要指出的是,虽然在图2中示出第二组光源204包括四个光源、并且所述四个光源在空间上构成矩形,但本公开不限于此,而是可以包括其他数量和其他排列的光源,只要所述光源的数量为三个以上,并且所述三个以上的光源中的至少三个光源照射所述人脸的方向非线性相关。
继续参照图2,所述第三组光源206A-206F例如为LED光源。示例性地,所述第三组光源206例如为红外LED。示例性地,所述红外LED的波长在532nm至940nm之间,并且所述第三组光源206A-206F中的每个光源的波长可以是不同的。第三组光源206A-206F的各光源在空间上紧邻布置。
需要指出的是,虽然在图2中示出第三组光源206包括六个光源、并且所述六个光源在空间上的一条直线上紧邻布置,但本公开不限于此,而是可以包括其他数量和其他排列的光源,只要所述光源的数量为三个以上,并且所述光源在空间上紧邻布置。例如,所述第三组光源206可以包括四个光源,并且所述四个光源在空间上紧邻布置为2*2的正方形结构。
返回图1,所述图像采集模块108例如为摄像头等的单元,用于采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集。示例性地,所述图像采集模块108可以由单色摄像头构成。例如,在如上所述采用红外波段的光源发生模块的情况下,所述图像采集模块108可以为对应的红外摄像头。示例性地,所述图像采集模块108的帧率大于等于120fps,分辨率大于等于1080p。
应当注意,图1所示的系统100的组件和结构只是示例性的,而非限制性的,根据需要,系统100也可以具有其他组件和结构。
例如,所述系统还可包括未示出的输入装置和输出装置。输入装置可以是用户用来输入指令的装置,并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。所述指令例如是使用所述图像采集模块104拍摄图像的指令。输出装置可以向外部(例如用户)输出各种信息(例如图像或声音),并且可以包括显示器、扬声器等中的一个或多个。所述信息例如可以为所述系统的识别结果等。
下面,参照图4描述本公开实施例的用于识别人脸的方法。
图4是示意性示出本公开实施例的人脸识别方法的主要步骤的流程图。如图4所示,首先,在步骤S410,所述方法对被测的人脸依次发射至少一组有结构的光线。具体地,所述至少一组有结构的光线包括所述第一组光源中的所述激光器发射的第一组光线、由所述第二组光源中的每个光源依次发射的光线所形成的第二组光线、以及由所述第三组光源中的每个光源依次发射的光线所形成的第三组光线中的至少之一。
接下来,在步骤S420,所述方法采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集。例如,在图2所示的光源发生模块的情况下,所述方法可以分别采集所述人脸在经受激光器202的光线照射时的图像、所述人脸在依次经受LED 204A-204D的每一个的光线照射时的图像集(数量为4)、以及所述人脸在依次经受LED 206A-206F的每一个的光线照射时的图像集(数量为6),由此获得图像数量为11的有光源图像集。
然后,在步骤S430,所述方法基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集。每个被测点的特征包括被测点的位置信息、被测点的表面信息和被测点的材质信息中的至少一个。具体地,所述位置信息表示所述被测点的三维相对坐标。所述表面信息表示所述被测点的相对表面法向。所述材质信息表示所述被测点的光线吸收特性。
需要指出的是,在提取所述特征时,作为准备工作,所述方法可以首先检测所述有光源图像集中的每个有光源图像的人脸区域图像。示例性地,所述方法可以通过诸如HaarCascade(Haar级联)人脸检测器的方式检测人脸区域图像,并且基于所述人脸区域图像提取所述第一特征集,而忽略其他部分。在以下的说明中,提取所述特征所用的有光源图像指的是所述有光源图像中的人脸区域图像。
此外,需要指出的是,所述位置信息、所述表面信息和所述材质信息的提取过程可以是相互独立的。因此,下面将在两个具体示例中分别对上述三种信息的每一种详述其提取过程。
在第一示例中,首先,关于位置信息,所述方法基于所述人脸在经受所述第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息。
具体地,在所述图像采集模块采集了所述激光器通过如图3所示的光栅向被测人脸投射第一组光线而形成的第一有光源图像之后,所述方法可以通过使用诸如高斯模糊的方式对所述第一有光源图像进行诸如低通滤波等的预处理。
此后,所述方法计算所述第一有光源图像在例如图像的(1,1)和(1,-1)方向的方向梯度,并取计算得到的方向梯度中的局部极值,从而得到投射出的两组平行线在所述第一有光源图像中的位置,从而确定所述第一有光源图像中与所述光栅的预定点相对应的像素点。示例性地,所述预定点为两组斜线相交而产生的交点。
接下来,所述方法计算与所述像素点对应的被测点相对于所述图像采集模块的三维坐标,并由此确定由所述被测点集中所有被测点的三维坐标组成的三维坐标集。具体地,所述方法可以通过例如三角测距原理而确定所述被测点相对于所述图像采集模块的三维坐标。更具体地,所述方法可以通过如下所示的表达式(1)而计算所述被测点的三维坐标(x,y,z):
Figure GDA0002324137530000081
其中,(x0,y0)为所述被测点所对应的像素点在所述第一有光源图像中的坐标,f为所述图像采集模块的相机焦距,(cx,cy)为所述图像采集模块的相机光心在所述第一有光源图像中所对应的坐标,L为相机与光源(激光器)之间的距离,α为由被测点和光源之间的连线与相机和光源之间的连线所形成的夹角,并且β为由被测点和相机之间的连线与相机和光源之间的连线所形成的夹角。
在获得所有预定点(例如,两组斜线的交点)对应的被测点的三维坐标之后,所述方法可以通过例如插值等的各种方式而计算所有被测点的三维坐标。示例性地,所述方法对所述第一有光源图像中的所有像素点的每一个,选取距离所述像素点最近的若干(例如,4个)预定点,使用线性插值法计算所述像素点对应的被测点的三维坐标,从而得到所述三维坐标集。
此后,所述方法可以基于所述三维坐标集确定所述被测点集中的特定被测点。例如,所述方法可以将其z坐标最小的点(即,距离相机最近的点)确定为被测人脸中鼻尖的位置。由此,所述方法例如可以以上述特定被测点为原点,计算所述被测点集中其他被测点相对于所述特定被测点的三维相对坐标,以获得由被测点集中所有被测点的三维相对坐标所组成的三列矩阵P。
接下来,所述方法对所述三列矩阵进行奇异值分解处理P=Up Sp Vp,然后进行归一化处理Q=PVpT。所获得的矩阵Q即是以每个被测点的位置信息(px,py,pz)所组成的被测点集的位置信息集。所述矩阵Q是在P的正交变换下保持不变的。换言之,所获得的每个被测点的位置信息是不受环境光照和人脸姿态的影响的。
关于表面信息,首先,在所述图像采集模块采集了所述第二组光源中的每个光源依次向被测人脸照射的光线而形成的第二组有光源图像之后,所述方法计算所述第二组有光源图像的均值图像。例如,设所述图像采集模块采集通过如图2所示的光源204A照射的光线而形成的图像为I[3],所述图像采集模块采集通过如图2所示的光源204B照射的光线而形成的图像为I[4],所述图像采集模块采集通过如图2所示的光源204C照射的光线而形成的图像为I[5],所述图像采集模块采集通过如图2所示的光源204D照射的光线而形成的图像为I[6]。所述方法首先计算M=(I[3]+I[4]+I[5]+I[6])/4。
接下来,所述方法计算所述第二组有光源图像与所述均值图像之间的差分图像集。即,所述方法依次计算H[1]=I[3]-M,H[2]=I[4]-M,H[3]=I[5]-M,H[4]=I[6]-M。
然后,所述方法确定由所述被测点集中每个被测点的至少四维向量构成的至少四列矩阵,其中,所述每个被测点的至少四维向量由与所述被测点对应的像素点在所述差分图像集中相应的像素值所组成。此后,所述方法对所述至少四列矩阵进行奇异值分解处理,并基于所述奇异值分解处理的结果,获得每个被测点的表面信息。具体地,所述方法将每个被测点对应的像素点在H[1]-H[4]中对应的像素值视作4维向量h。所有点的h组成n*4的矩阵S。此后,所述方法计算S的SVD分解S=Un Sn Vn,并截取Un的前3列来得到以每个点的表面特征(sx,sy,sz)所组成的被测点集的表面特征集。根据Lambertian光照模型可知,如上所述所获得的每个被测点的表面特征是不受环境光照和人脸姿态的影响的。
关于材质信息,首先,在所述图像采集模块采集了所述第三组光源中的每个光源依次向被测人脸照射的光线而形成的第三组有光源图像之后,所述方法对于每个被测点确定所述被测点在所述第三组有光源图像中相应的像素值集。然后,所述方法计算所述像素值集的平均值和方差,并基于所述像素值集的平均值和方差,计算所述被测点的材质信息。
具体地,设所述图像采集模块依次采集通过如图2所示的光源206A-206F照射的光线而形成的图像为I[7]-I[12]。令G[1]=I[7],G[2]=I[8],…G[6]=I[12]。对i=1..6,所述方法分别计算以下表达式(2):
Figure GDA0002324137530000091
由此计算所获得的g'[1]~g'[6]构成每个被测点的材质特征。这样提取到的材质特征是不受环境光照和人脸姿态影响的。
在如上所述的第一示例中,基于所述有光源图像集来提取被测点的位置信息、表面信息和材质信息中的至少一个,从而以较少的处理量和较短的处理时间来获得了所述第一特征集。
替代地,为使所获得的所述第一特征集中的每个被测点的特征更加精确,所述方法可以基于所述有光源图像集以及无光源图像来提取所述特征。下面,将在第二示例中详细描述在此情况下的处理。
具体地,在此第二示例中,所述图像采集模块还采集所述人脸在未接受所述至少一组有结构的光线中的任一组光线的照射时的无光源图像。需要说明的是,在本说明书中,术语“无光源图像”并非指不存在任何光源(如自然光源),而是指未经受如上所述的光源发生模块的任一光源所发射的有结构的光线的照射时所采集的图像。相应地,术语“有光源图像”指经受如上所述的光源发生模块的任一光源所发射的有结构的光线的照射时所采集的图像。可选地,所述图像采集模块采集所述无光源图像与所述有光源图像集中的每个有光源图像时的间隔尽可能短,以确保采集每个图像时被测人脸基本处于相同状态下。
在如上所述采集了无光源图像之后,首先,关于位置信息,所述方法基于所述无光源图像以及所述第一有光源图像,提取每个被测点的位置信息。
具体地,所述方法可以计算所述第一有光源图像与所述无光源图像之间的差分图像。当然,所述方法同样可以通过使用诸如高斯模糊的方式对所述差分图像进行诸如低通滤波等的预处理。
此后,所述方法计算所述差分图像在例如图像(1,1)和(1,-1)方向的方向梯度,并取计算得到的方向梯度中的局部极值,从而得到投射出的两组平行线在所述第一有光源图像中的位置,也即,确定所述差分图像中与所述光栅的预定点相对应的像素点。
接下来,所述方法计算与所述像素点对应的被测点相对于所述图像采集模块的三维坐标,并由此确定由所述被测点集中所有被测点的三维坐标组成的三维坐标集。具体地,所述方法可以通过例如三角测距原理而确定所述被测点相对于所述图像采集模块的三维坐标。更具体地,所述方法可以通过如上所示的表达式(1)而计算所述被测点的三维坐标(x,y,z),其中,(x0,y0)为所述被测点所对应的像素点在所述差分图像中的坐标,f为所述图像采集模块的相机焦距,(cx,cy)为所述图像采集模块的相机光心在所述差分图像中所对应的坐标,L为相机与光源(激光器)之间的距离,α为由被测点和光源之间的连线与相机和光源之间的连线所形成的夹角,并且β为由被测点和相机之间的连线与相机和光源之间的连线所形成的夹角。在获得所有预定点对应的被测点的三维坐标之后,所述方法可以通过例如插值等的各种方式而计算所有被测点的三维坐标。示例性地,所述方法对所述差分图像中的所有像素点的每一个,选取距离所述像素点最近的若干(例如,4个)预定点,使用线性插值法计算所述像素点对应的被测点的三维坐标,从而得到所述三维坐标集。
此后,所述方法可以基于所述三维坐标集确定所述被测点集中的特定被测点。例如,所述方法可以将其z坐标最小的点(即,距离相机最近的点)确定为被测人脸中鼻尖的位置。由此,所述方法例如可以以上述特定被测点为原点,计算所述被测点集中其他被测点相对于所述特定被测点的三维相对坐标,以获得由被测点集中所有被测点的三维相对坐标所组成的三列矩阵P。
接下来,所述方法对所述三列矩阵进行奇异值分解处理P=Up Sp Vp,然后进行归一化处理Q=PVpT。所获得的矩阵Q即是以每个被测点的位置信息(px,py,pz)所组成的被测点集的位置信息集。所述矩阵Q是在P的正交变换下保持不变的。换言之,所获得的每个被测点的位置信息是不受环境光照和人脸姿态的影响的。
关于表面信息,首先,所述方法计算所述第二组有光源图像与所述无光源图像之间的差分图像集。例如,同样设所述图像采集模块采集被测人脸依次通过如图2所示的光源204A-204D照射的光线而形成的图像分别为I[3]-I[6],并且设所述图像采集模块采集被测人脸未经受任一光源的照射时而形成的图像为I[1]。设H[1]=I[3]-I[1],H[2]=I[4]-I[1],H[3]=I[5]-I[1],H[4]=I[6]-I[1]。
接下来,所述方法确定由所述被测点集中每个被测点的至少四维向量构成的至少四列矩阵,其中,所述每个被测点的至少四维向量由与所述被测点对应的像素点在所述差分图像集中相应的像素值所组成。此后,所述方法对所述至少四列矩阵进行奇异值分解处理,并基于所述奇异值分解处理的结果,获得每个被测点的表面信息。具体地,所述方法将每个被测点对应的像素点在H[1]-H[4]中对应的像素值视作4维向量h。所有点的h组成n*4的矩阵S。此后,所述方法计算S的SVD分解S=Un Sn Vn,并截取Un的前3列来得到以每个点的表面特征(sx,sy,sz)所组成的被测点集的表面特征集。根据Lambertian光照模型可知,如上所述所获得的每个被测点的表面特征是不受环境光照和人脸姿态的影响的。
关于材质信息,首先,所述方法计算所述第三组有光源图像与所述无光源图像之间的差分图像集。然后,所述方法对于每个被测点确定所述被测点在所述差分图像集中相应的像素值集。然后,所述方法计算所述像素值集的平均值和方差,并基于所述像素值集的平均值和方差,计算所述被测点的材质信息。
具体地,设所述图像采集模块依次采集通过如图2所示的光源206A-206F照射的光线而形成的图像为I[7]-I[12]。令G[1]=I[7]-i[1],G[2]=I[8]-I[1],…G[6]=I[12]-I[1]。对i=1..6,所述方法通过如上所述的表达式(2)计算所获得的g'[1]~g'[6]构成每个被测点的材质特征。这样提取到的材质特征是不受环境光照和人脸姿态影响的。
以上,以两个具体示例描述了所述第一特征集中的每个被测点的位置信息、表面信息和材质信息的提取过程。需要指出的是,如上所述的提取方式仅为示例。本领域技术人员能够在此基础之上通过其他各种方式来提取所述位置信息、表面信息和材质信息,其都在本公开的范围内。
此外,需要指出的是,所述位置信息、表面信息和材质信息仅是所述被测人脸的基于有结构的光线而提取的特征的一些示例。本领域技术人员能够在此基础上提取所述被测人脸的其他特征,其都在本公开的范围内。
在步骤S430中通过如上所述的处理提取了每个被测点的特征X=(px,py,pz,sx,sy,sz,g'[1],g'[2],g'[3],g'[4],g'[5],g'[6])之后,所述方法进行到步骤S440。
在步骤S440,所述方法获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集。所述第二特征集中的每个测定点的特征可通过与步骤S430的处理类似的处理预先提取,并通过例如数据库的方式存储在存储器中,其处理过程不再详述。
需要指出的是,虽然在图4中将步骤S440示出为在步骤S410-S430之后,但是本公开实施例的方法不限于此,而是可以将步骤S440与步骤S410-S430以任何顺序(例如并行地或颠倒地)执行。
然后,在步骤S450,所述方法基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度。
具体地,首先,所述方法对于所述被测点集中的每个被测点,确定所述人脸模板的测定点集中的对应点。
更具体地,由于如上所述有光源图像集中的每个有光源图像之间的采集间隔很短,可以认为人脸的状态基本不变,因此,所述方法可以检测所述有光源图像集中的任一有光源图像中表示所述人脸的结构信息的第一关键点集。在还采集所述无光源图像的情况下,所述方法还可以检测所述无光源图像中表示所述人脸的结构信息的第一关键点集。所述关键点例如为人脸上的眼、鼻、嘴、脸轮廓等等。示例性地,所述方法可以采用事先训练好的诸如Adaboost Cascade(Adaboost级联)的人脸特征检测器而检测所述第一关键点集。然后,所述方法可以获取所述人脸模板中表示所述人脸模板的结构信息的第二关键点集。所述第二关键点集可以以与所述第一关键点集同样的方式预先检测并存储在数据库中,在此不再详述。接下来,所述方法基于所述第一关键点集和所述第二关键点集,对于每个被测点确定所述对应点。示例性地,所述方法可以利用诸如Thin Plate Spline(薄板样条)插值等的方式来计算确定每个被测点在所述人脸模板中的对应点。
在确定了对应点之后,所述方法计算所述被测点的特征与所述对应点的特征之间的差值Xd=|X1-X2|,其中,X1为被测点的特征,X2为对应点的特征,Xd为所述差值。在对每个被测点进行如上所述的计算之后,所述方法获得被测点集中所有被测点与相应的对应点之间的差值集。
此后,所述方法基于所述差值集,使用预先训练的神经网络例如卷积神经网络来计算所述人脸与所述人脸模板之间的相似度。使用神经网络计算人脸相似度的方式为本领域技术人员所知,在此不再详述。
在以上所述的示例中,对于被测人脸的每个被测点确定人脸模板上的对应点,从而计算相似度。替代地,也可以对于人脸模板上的每个测定点确定被测人脸上的对应点,从而计算相似度。即,所述方法对于所述测定点集中的每个测定点,确定所述人脸的被测点集中的对应点。然后,所述方法计算所述测定点的特征与所述对应点的特征之间的差值,以获得测定点集中所有测定点与相应的对应点之间的差值集,并且基于所述差值集,使用预先训练的卷积神经网络来计算所述人脸与所述人脸模板之间的相似度。
在通过步骤S450计算了所述人脸与所述人脸模板之间的相似度之后,在步骤S460,如果所述相似度大于阈值,则所述方法将所述人脸识别为与所述人脸模板相一致。当然,另一方面,如果所述相似度小于等于阈值,则所述方法将所述人脸识别为与所述人脸模板不一致。
以上,参照图4描述了本公开实施例的用于识别人脸的方法。在所述方法中,通过对被测人脸依次发射有结构的光线并采集相应的图像,能够提取出不受环境光照和人脸姿态影响的人脸特征,由此,能够极大地改善人脸识别的准确度。
下面,将参照图5描述本公开实施例的用于识别人脸的设备。
如图5所示,本公开此实施例的用于识别人脸的设备500包括:光源发生模块510、图像采集模块520、提取模块530、获取模块540、计算模块550和识别模块560。
所述光源发生模块510对被测的人脸依次发射至少一组有结构的光线。
所述图像采集模块520采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集。
所述提取模块530基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个。
所述获取模块540获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集。
所述计算模块550基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度。
所述识别模块560在所述相似度大于阈值的情况下将所述人脸识别为与所述人脸模板相一致。
所述提取模块530、所述获取模块540、所述计算模块550和所述识别模块560均可以适当地实现为硬件、软件、固件或它们的任意可行的组合。示例性地,本公开实施例的设备500的各个模块可以由运行在计算机中的软件实现,所述软件当被计算机运行时,执行如上所述的各个处理。
在一实施例中,所述光源发生模块510包括第一组光源、第二组光源和第三组光源中的至少一组。所述第一组光源包括激光器,所述激光器与所述人脸之间布置预定图案的光栅。所述第二组光源包括三个以上的光源,所述三个以上的光源中的至少三个光源照射所述人脸的方向非线性相关。所述第三组光源包括在空间上紧邻布置的三个以上的光源。
在另一实施例中,所述至少一组有结构的光线包括所述第一组光源中的所述激光器发射的第一组光线、由所述第二组光源中的每个光源依次发射的光线所形成的第二组光线、以及由所述第三组光源中的每个光源依次发射的光线所形成的第三组光线中的至少之一。所述提取模块530被配置为执行以下操作至少之一:基于所述人脸在经受所述第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息;基于所述人脸在依次经受所述第二组光线中的各束光线的照射时所采集的第二组有光源图像,提取每个被测点的表面信息;以及基于所述人脸在依次经受所述第三组光线中的各束光线的照射时所采集的第三组有光源图像,提取每个被测点的材质信息。所述提取模块530提取所述位置信息、表面信息和材质信息的具体操作已经在上面参照图4的人脸识别方法中详细描述,在此不再重复。
在另一实施例中,所述计算模块550包括:对应点确定模块,对于所述被测点集中的每个被测点,确定所述人脸模板的测定点集中的对应点;差值计算模块,计算所述被测点的特征与所述对应点的特征之间的差值,以获得被测点集中所有被测点与相应的对应点之间的差值集;以及相似度计算模块,基于所述差值集,使用预先训练的神经网络例如卷积神经网络来计算所述人脸与所述人脸模板之间的相似度。
在另一实施例中,所述对应点确定模块包括:关键点检测模块,检测所述有光源图像集的任一有光源图像中表示所述人脸的结构信息的第一关键点集;关键点获取模块,获取所述人脸模板中表示所述人脸模板的结构信息的第二关键点集;对应点确定子单元,基于所述第一关键点集和所述第二关键点集,对于每个被测点确定所述对应点。
在另一实施例中,所述计算模块包括:对应点确定模块,对于所述测定点集中的每个测定点,确定所述人脸的被测点集中的对应点;差值计算模块,计算所述测定点的特征与所述对应点的特征之间的差值,以获得测定点集中所有测定点与相应的对应点之间的差值集;以及相似度计算模块,基于所述差值集,使用预先训练的卷积神经网络来计算所述人脸与所述人脸模板之间的相似度。
在另一实施例中,所述提取模块530包括:人脸检测模块,检测所述有光源图像集中的每个有光源图像的人脸区域图像;以及子提取单元,基于所检测的每个有光源图像中的人脸区域图像,提取所述第一特征集。
以上,参照图5描述了本公开实施例的用于识别人脸的设备。在所述设备中,通过对被测人脸依次发射有结构的光线并采集相应的图像,能够提取出不受环境光照和人脸姿态影响的人脸特征,由此,能够极大地改善人脸识别的准确度。
需要指出的是,本公开实施例的人脸识别方法和系统既可以以集中方式部署在需要进行人脸识别的终端处,也可以以分布式方式部署在服务器端(云端)和终端处。下面,将参照图6和图7详细描述本公开实施例的用于识别人脸的装置。
具体地,图6是示意性图示根据本公开实施例的用于识别人脸的装置的主要配置的框图。
如图6所示,本公开实施例的用于识别人脸的装置600主要包括:光源发生模块610、图像采集模块620、发送模块630以及接收模块640。
所述光源发生模块610对待识别的人脸依次发射至少一组有结构的光线。所述图像采集模块620采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集。所述发送模块630将所述有光源图像集发送至与所述装置可通信地连接的计算机。所述接收模块640从所述计算机接收所述人脸的识别结果。其中,该用于识别人脸的装置600也可以不包括接收模块640,而在与该用于识别人脸的装置600相连的其他装置的合适位置处设置接收模块。
所述光源发生模块610和所述图像采集模块620的具体配置和操作已经在前面参照图1-5详细描述,在此不再重复。所述发送模块630和所述接收模块640可实现为以各种通信协议与所述计算机进行通信的通信模块。所述通信可以是有线通信,也可以是无线通信。
所述计算机包括:接收模块,从所述装置接收所述有光源图像集;处理器;存储器;存储在所述存储器中的计算机程序指令,在所述计算机程序指令被所述处理器运行时执行以下步骤:基于所述有光源图像集,提取表示所述人脸的被测点集的特征的第一特征集;获取表示人脸模板的被测点集的特征的第二特征集;基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致;以及发送模块,将所述人脸的识别结果发送至识别结果接收模块。其中识别结果接收模块可以为设置在该用于识别人脸的装置600内的上述的接收模块640,也可以设置在其他合适的位置的接收模块。
在参照图6所述的人脸识别装置600中,将所采集的有光源图像发送至例如位于云端的计算机,所述计算机执行如上所述的操作之后将结果返回至所述人脸识别装置600,由此,能够提取出不受环境光照和人脸姿态影响的人脸特征,并极大地改善人脸识别的准确度。由此,即便终端处的装置的处理能力有限,也能够通过与服务器侧的计算机合作而实现人脸识别。而且,终端处的装置不必存储众多人脸模板的第二特征集,从而降低了对所述装置的存储要求。
替代地,在终端处的装置与服务器处的计算机之间的通信速率不高的情况下,或者在终端处的装置的处理能力相对较高的情况下,所述装置可以在终端处提取所述第一特征集,并将所提取的第一特征集发送至位于云端的服务器。
图7是示意性示出根据本公开另一实施例的用于识别人脸的装置的主要配置的框图。
如图7所示,本公开此实施例的用于识别人脸的装置700主要包括:光源发生模块710、图像采集模块720、处理模块730、发送模块740以及接收模块750。
所述光源发生模块710对待识别的人脸依次发射至少一组有结构的光线。所述图像采集模块720采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集。所述处理模块730基于所述有光源图像集,提取表示所述人脸的被测点集的特征的第一特征集。所述发送模块740将所述第一特征集发送至与所述装置可通信地连接的计算机。所述接收模块750从所述计算机接收所述人脸的识别结果。其中,该用于识别人脸的装置700也可以不包括接收模块750,而在与该用于识别人脸的装置700相连的其他装置的合适位置处设置接收模块。
所述光源发生模块710和所述图像采集模块720的具体配置和操作已经在前面参照图1-5详细描述,在此不再重复。所述处理模块730可实现为各种具有数据处理能力和/或指令执行能力的处理单元。所述发送模块740和所述接收模块750可实现为以各种通信协议与所述计算机进行通信的通信模块。所述通信可以是有线通信,也可以是无线通信。
所述计算机包括:接收模块,从所述装置接收所述第一特征集;处理器;存储器;存储在所述存储器中的计算机程序指令,在所述计算机程序指令被所述处理器运行时执行以下步骤:获取表示人脸模板的被测点集的特征的第二特征集;基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致;以及发送模块,将所述人脸的识别结果发送至所述装置。
在参照图7所述的人脸识别装置700中,将基于所采集的有光源图像而提取的第一特征集发送至例如位于云端的计算机,所述计算机执行如上所述的操作之后将结果返回至所述人脸识别装置700,由此,能够提取出不受环境光照和人脸姿态影响的人脸特征,并极大地改善人脸识别的准确度。由此,即便终端处的装置的处理能力有限,也能够通过与服务器侧的计算机合作而实现人脸识别。而且,终端处的装置不必存储众多人脸模板的第二特征集,从而降低了对所述装置的存储要求。此外,与图6所示的人脸识别装置相比,由于仅发送相对较小数据量的第一特征集而不必发送较大数据量的图像,可以减小终端处的装置与服务器侧的计算机之间的通信量。
此外,根据本公开实施例,还提供了一种计算机程序产品。根据本公开实施例的计算机程序产品包括计算机可读存储介质,在所述计算机可读存储介质上存储了计算机程序指令。
所述计算机程序指令在被计算机运行时可以实现根据本公开实施例的用于识别人脸的系统的各个功能模块的功能,并且/或者可以执行根据本公开实施例的用于识别人脸的方法。
例如,所述计算机程序指令在被计算机运行时可执行以下步骤:基于被测的人脸在依次经受至少一组有结构的光线中的每一组光线的照射时所采集的有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致。
所述计算机可读存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。
在上面详细描述的本发明的示例实施例仅仅是说明性的,而不是限制性的。本领域技术人员应该理解,在不脱离本发明的原理和精神的情况下,可对这些实施例进行各种修改,组合或子组合,并且这样的修改应落入本发明的范围内。

Claims (32)

1.一种用于识别人脸的系统,包括:
光源发生模块,对被测的人脸依次发射至少一组有结构的光线,所述光源发生模块包括第一组光源、第二组光源和第三组光源中的至少一组;
图像采集模块,采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;
处理器;
存储器;和
存储在所述存储器中的计算机程序指令,在所述计算机程序指令被所述处理器运行时执行以下步骤:
基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;
获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;
基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及
如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致,
其中,所述至少一组有结构的光线包括由所述第一组光源中的激光器发射的第一组光线、由所述第二组光源中的每个光源依次发射的光线所形成的第二组光线、以及由所述第三组光源中的每个光源依次发射的光线所形成的第三组光线中的至少之一;
提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集包括以下至少之一:
基于所述人脸在经受所述第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息;
基于所述人脸在依次经受所述第二组光线中的各束光线的照射时所采集的第二组有光源图像,提取每个被测点的表面信息;以及
基于所述人脸在依次经受所述第三组光线中的各束光线的照射时所采集的第三组有光源图像,提取每个被测点的材质信息。
2.如权利要求1所述的系统,其中,
所述第一组光源包括激光器,所述激光器与所述人脸之间布置预定图案的光栅;
所述第二组光源包括三个以上的光源,所述三个以上的光源中的至少三个光源照射所述人脸的方向非线性相关;
所述第三组光源包括在空间上紧邻布置的三个以上的光源。
3.如权利要求2所述的系统,其中,提取每个被测点的位置信息包括:
计算所述第一有光源图像的方向梯度,以确定所述第一有光源图像中与所述光栅的预定点相对应的像素点;
计算与所述像素点对应的被测点相对于所述图像采集模块的三维坐标,并由此确定由所述被测点集中所有被测点的三维坐标组成的三维坐标集;
基于所述三维坐标集确定所述被测点集中的特定被测点,并计算所述被测点集中其他被测点相对于所述特定被测点的三维相对坐标,以获得由被测点集中所有被测点的三维相对坐标所组成的三列矩阵;以及
对所述三列矩阵进行奇异值分解处理和归一化处理,以获得每个被测点的位置信息。
4.如权利要求1所述的系统,其中,提取每个被测点的表面信息包括:
计算所述第二组有光源图像的均值图像;
计算所述第二组有光源图像与所述均值图像之间的差分图像集;
确定由所述被测点集中每个被测点的至少四维向量构成的至少四列矩阵,其中,所述每个被测点的至少四维向量由与所述被测点对应的像素点在所述差分图像集中相应的像素值所组成;
对所述至少四列矩阵进行奇异值分解处理;以及
基于所述奇异值分解处理的结果,获得每个被测点的表面信息。
5.如权利要求1所述的系统,其中,提取每个被测点的材质信息包括:
对于每个被测点,确定所述被测点在所述第三组有光源图像中相应的像素值集;
计算所述像素值集的平均值和方差;以及
基于所述像素值集的平均值和方差,计算所述被测点的材质信息。
6.如权利要求2所述的系统,所述图像采集模块还采集所述人脸在未接受所述至少一组有结构的光线中的任一组光线的照射时的无光源图像;
其中,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集包括以下至少之一:
基于所述无光源图像以及所述人脸在经受所述第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息;
基于所述无光源图像以及所述人脸在依次经受所述第二组光线中的各束光线的照射时所采集的第二组有光源图像,提取每个被测点的表面信息;以及
基于所述无光源图像以及所述人脸在依次经受所述第三组光线中的各束光线的照射时所采集的第三组有光源图像,提取每个被测点的材质信息。
7.如权利要求6所述的系统,其中,提取每个被测点的位置信息包括:
计算所述第一有光源图像与所述无光源图像之间的差分图像;
计算所述差分图像的方向梯度,以确定所述差分图像中与所述光栅的预定点相对应的像素点;
计算与所述像素点对应的被测点相对于所述图像采集模块的三维坐标,并由此确定由所述被测点集中所有被测点的三维坐标组成的三维坐标集;
基于所述三维坐标集确定所述被测点集中的特定被测点,并计算所述被测点集中其他被测点相对于所述特定被测点的三维相对坐标,以获得由被测点集中所有被测点的三维相对坐标所组成的三列矩阵;以及
对所述三列矩阵进行奇异值分解处理和归一化处理,以获得每个被测点的位置信息。
8.如权利要求6所述的系统,其中,提取每个被测点的表面信息包括:
计算所述第二组有光源图像与所述无光源图像之间的差分图像集;
确定由所述被测点集中每个被测点的至少四维向量构成的至少四列矩阵,其中,所述每个被测点的至少四维向量由与所述被测点对应的像素点在所述差分图像集中相应的像素值所组成;
对所述至少四列矩阵进行奇异值分解处理;以及
基于所述奇异值分解处理的结果,获得每个被测点的表面信息。
9.如权利要求6所述的系统,其中,提取每个被测点的材质信息包括:
计算所述第三组有光源图像与所述无光源图像之间的差分图像集;
对于每个被测点,确定所述被测点在所述差分图像集中相应的像素值集;
计算所述像素值集的平均值和方差;以及
基于所述像素值集的平均值和方差,计算所述被测点的材质信息。
10.如权利要求1所述的系统,其中,计算所述人脸与所述人脸模板之间的相似度包括:
对于所述被测点集中的每个被测点,确定所述人脸模板的测定点集中的对应点;
计算所述被测点的特征与所述对应点的特征之间的差值,以获得被测点集中所有被测点与相应的对应点之间的差值集;以及
基于所述差值集,使用预先训练的神经网络来计算所述人脸与所述人脸模板之间的相似度。
11.如权利要求10所述的系统,其中,确定所述人脸模板的测定点集中的对应点包括:
检测所述有光源图像集的任一有光源图像中表示所述人脸的结构信息的第一关键点集;
获取所述人脸模板中表示所述人脸模板的结构信息的第二关键点集;
基于所述第一关键点集和所述第二关键点集,对于每个被测点确定所述对应点。
12.如权利要求1所述的系统,其中,计算所述人脸与所述人脸模板之间的相似度包括:
对于所述测定点集中的每个测定点,确定所述人脸的被测点集中的对应点;
计算所述测定点的特征与所述对应点的特征之间的差值,以获得测定点集中所有测定点与相应的对应点之间的差值集;以及
基于所述差值集,使用预先训练的神经网络来计算所述人脸与所述人脸模板之间的相似度。
13.如权利要求1所述的系统,其中,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集包括:
检测所述有光源图像集中的每个有光源图像的人脸区域图像;以及
基于所检测的每个有光源图像中的人脸区域图像,提取所述第一特征集。
14.一种用于识别人脸的方法,包括:
对被测的人脸依次发射至少一组有结构的光线;
采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;
基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;
获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;
基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及
如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致,
其中,所述至少一组有结构的光线包括由第一组光源中的激光器发射的第一组光线、由第二组光源中的每个光源依次发射的光线所形成的第二组光线、以及由第三组光源中的每个光源依次发射的光线所形成的第三组光线中的至少之一;
提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集包括以下至少之一:
基于所述人脸在经受第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息;
基于所述人脸在依次经受第二组光线中的各束光线的照射时所采集的第二组有光源图像,提取每个被测点的表面信息;以及
基于所述人脸在依次经受第三组光线中的各束光线的照射时所采集的第三组有光源图像,提取每个被测点的材质信息。
15.如权利要求14所述的方法,其中,所述激光器与所述人脸之间布置预定图案的光栅;
所述第二组光源包括三个以上的光源,所述三个以上的光源中的至少三个光源照射所述人脸的方向非线性相关;以及
所述第三组光源包括在空间上紧邻布置的三个以上的光源。
16.如权利要求15所述的方法,还包括:
采集所述人脸在未接受所述至少一组有结构的光线中的任一组光线的照射时的无光源图像;
其中,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集包括以下至少之一:
基于所述无光源图像以及所述人脸在经受所述第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息;
基于所述无光源图像以及所述人脸在依次经受所述第二组光线中的各束光线的照射时所采集的第二组有光源图像,提取每个被测点的表面信息;以及
基于所述无光源图像以及所述人脸在依次经受所述第三组光线中的各束光线的照射时所采集的第三组有光源图像,提取每个被测点的材质信息。
17.一种用于识别人脸的装置,包括:
光源发生模块,对待识别的人脸依次发射至少一组有结构的光线,所述光源发生模块包括第一组光源、第二组光源和第三组光源中的至少一组;
图像采集模块,采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;以及
发送模块,将所述有光源图像集发送至与所述装置可通信地连接的计算机,
其中,所述至少一组有结构的光线包括由所述第一组光源中的激光器发射的第一组光线、由所述第二组光源中的每个光源依次发射的光线所形成的第二组光线、以及由所述第三组光源中的每个光源依次发射的光线所形成的第三组光线中的至少之一;
提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集包括以下至少之一:
基于所述人脸在经受所述第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息;
基于所述人脸在依次经受所述第二组光线中的各束光线的照射时所采集的第二组有光源图像,提取每个被测点的表面信息;以及
基于所述人脸在依次经受所述第三组光线中的各束光线的照射时所采集的第三组有光源图像,提取每个被测点的材质信息。
18.如权利要求17所述的装置,其中,所述计算机包括:
接收模块,从所述装置接收所述有光源图像集;
处理器;
存储器;
存储在所述存储器中的计算机程序指令,在所述计算机程序指令被所述处理器运行时执行以下步骤:
基于所述有光源图像集,提取表示所述人脸的被测点集的特征的第一特征集;
获取表示人脸模板的被测点集的特征的第二特征集;
基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及
如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致;以及
发送模块,将所述人脸的识别结果发送至识别结果接收模块。
19.一种计算机可读存储介质,在所述计算机可读存储介质上存储了计算机程序指令,所述计算机程序指令在被计算机运行时执行以下步骤:
基于被测的人脸在依次经受至少一组有结构的光线中的每一组光线的照射时所采集的有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;
获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;
基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及
如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致,
其中,所述至少一组有结构的光线包括由第一组光源中的激光器发射的第一组光线、由第二组光源中的每个光源依次发射的光线所形成的第二组光线、以及由第三组光源中的每个光源依次发射的光线所形成的第三组光线中的至少之一;
提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集包括以下至少之一:
基于所述人脸在经受所述第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息;
基于所述人脸在依次经受所述第二组光线中的各束光线的照射时所采集的第二组有光源图像,提取每个被测点的表面信息;以及
基于所述人脸在依次经受所述第三组光线中的各束光线的照射时所采集的第三组有光源图像,提取每个被测点的材质信息。
20.一种用于识别人脸的设备,包括:
光源发生模块,对被测的人脸依次发射至少一组有结构的光线,所述光源发生模块包括第一组光源、第二组光源和第三组光源中的至少一组;
图像采集模块,采集所述人脸在依次经受所述至少一组有结构的光线中的每一组光线的照射时的有光源图像集;
提取模块,基于所述有光源图像集,提取由所述人脸的被测点集中的每个被测点的特征所组成的第一特征集,其中,每个被测点的特征包括表示所述被测点的三维相对坐标的位置信息、表示所述被测点的相对表面法向的表面信息、以及表示所述被测点的光线吸收特性的材质信息中的至少一个;
获取模块,获取由人脸模板的测定点集中的每个测定点的特征所组成的第二特征集;
计算模块,基于所述第一特征集和所述第二特征集,计算所述人脸与所述人脸模板之间的相似度;以及
识别模块,如果所述相似度大于阈值,则将所述人脸识别为与所述人脸模板相一致,
其中,所述至少一组有结构的光线包括由所述第一组光源中的激光器发射的第一组光线、由所述第二组光源中的每个光源依次发射的光线所形成的第二组光线、以及由所述第三组光源中的每个光源依次发射的光线所形成的第三组光线中的至少之一;
所述提取模块被配置为执行以下操作中的至少之一:
基于所述人脸在经受所述第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息;
基于所述人脸在依次经受所述第二组光线中的各束光线的照射时所采集的第二组有光源图像,提取每个被测点的表面信息;以及
基于所述人脸在依次经受所述第三组光线中的各束光线的照射时所采集的第三组有光源图像,提取每个被测点的材质信息。
21.如权利要求20所述的设备,其中,
所述第一组光源包括激光器,所述激光器与所述人脸之间布置预定图案的光栅;
所述第二组光源包括三个以上的光源,所述三个以上的光源中的至少三个光源照射所述人脸的方向非线性相关;
所述第三组光源包括在空间上紧邻布置的三个以上的光源。
22.如权利要求21所述的设备,其中,所述提取模块被配置为:
计算所述第一有光源图像的方向梯度,以确定所述第一有光源图像中与所述光栅的预定点相对应的像素点;
计算与所述像素点对应的被测点相对于所述图像采集模块的三维坐标,并由此确定由所述被测点集中所有被测点的三维坐标组成的三维坐标集;
基于所述三维坐标集确定所述被测点集中的特定被测点,并计算所述被测点集中其他被测点相对于所述特定被测点的三维相对坐标,以获得由被测点集中所有被测点的三维相对坐标所组成的三列矩阵;以及
对所述三列矩阵进行奇异值分解处理和归一化处理,以获得每个被测点的位置信息。
23.如权利要求20所述的设备,其中,所述提取模块被配置为:
计算所述第二组有光源图像的均值图像;
计算所述第二组有光源图像与所述均值图像之间的差分图像集;
确定由所述被测点集中每个被测点的至少四维向量构成的至少四列矩阵,其中,所述每个被测点的至少四维向量由与所述被测点对应的像素点在所述差分图像集中相应的像素值所组成;
对所述至少四列矩阵进行奇异值分解处理;以及
基于所述奇异值分解处理的结果,获得每个被测点的表面信息。
24.如权利要求20所述的设备,其中,所述提取模块被配置为:
对于每个被测点,确定所述被测点在所述第三组有光源图像中相应的像素值集;
计算所述像素值集的平均值和方差;以及
基于所述像素值集的平均值和方差,计算所述被测点的材质信息。
25.如权利要求21所述的设备,所述图像采集模块还采集所述人脸在未接受所述至少一组有结构的光线中的任一组光线的照射时的无光源图像;
其中,所述提取模块被配置为执行以下操作中的至少之一:
基于所述无光源图像以及所述人脸在经受所述第一组光线的照射时所采集的第一有光源图像,提取每个被测点的位置信息;
基于所述无光源图像以及所述人脸在依次经受所述第二组光线中的各束光线的照射时所采集的第二组有光源图像,提取每个被测点的表面信息;以及
基于所述无光源图像以及所述人脸在依次经受所述第三组光线中的各束光线的照射时所采集的第三组有光源图像,提取每个被测点的材质信息。
26.如权利要求25所述的设备,其中,所述提取模块被配置为:
计算所述第一有光源图像与所述无光源图像之间的差分图像;
计算所述差分图像的方向梯度,以确定所述差分图像中与所述光栅的预定点相对应的像素点;
计算与所述像素点对应的被测点相对于所述图像采集模块的三维坐标,并由此确定由所述被测点集中所有被测点的三维坐标组成的三维坐标集;
基于所述三维坐标集确定所述被测点集中的特定被测点,并计算所述被测点集中其他被测点相对于所述特定被测点的三维相对坐标,以获得由被测点集中所有被测点的三维相对坐标所组成的三列矩阵;以及
对所述三列矩阵进行奇异值分解处理和归一化处理,以获得每个被测点的位置信息。
27.如权利要求25所述的设备,其中,所述提取模块被配置为:
计算所述第二组有光源图像与所述无光源图像之间的差分图像集;
确定由所述被测点集中每个被测点的至少四维向量构成的至少四列矩阵,其中,所述每个被测点的至少四维向量由与所述被测点对应的像素点在所述差分图像集中相应的像素值所组成;
对所述至少四列矩阵进行奇异值分解处理;以及
基于所述奇异值分解处理的结果,获得每个被测点的表面信息。
28.如权利要求25所述的设备,其中,所述提取模块被配置为:
计算所述第三组有光源图像与所述无光源图像之间的差分图像集;
对于每个被测点,确定所述被测点在所述差分图像集中相应的像素值集;
计算所述像素值集的平均值和方差;以及
基于所述像素值集的平均值和方差,计算所述被测点的材质信息。
29.如权利要求20所述的设备,其中,所述计算模块包括:
对应点确定模块,对于所述被测点集中的每个被测点,确定所述人脸模板的测定点集中的对应点;
差值计算模块,计算所述被测点的特征与所述对应点的特征之间的差值,以获得被测点集中所有被测点与相应的对应点之间的差值集;以及
相似度计算模块,基于所述差值集,使用预先训练的神经网络来计算所述人脸与所述人脸模板之间的相似度。
30.如权利要求29所述的设备,其中,所述对应点确定模块包括:
关键点检测模块,检测所述有光源图像集的任一有光源图像中表示所述人脸的结构信息的第一关键点集;
关键点获取模块,获取所述人脸模板中表示所述人脸模板的结构信息的第二关键点集;
对应点确定子单元,基于所述第一关键点集和所述第二关键点集,对于每个被测点确定所述对应点。
31.如权利要求20所述的设备,其中,所述计算模块包括:
对应点确定模块,对于所述测定点集中的每个测定点,确定所述人脸的被测点集中的对应点;
差值计算模块,计算所述测定点的特征与所述对应点的特征之间的差值,以获得测定点集中所有测定点与相应的对应点之间的差值集;以及
相似度计算模块,基于所述差值集,使用预先训练的神经网络来计算所述人脸与所述人脸模板之间的相似度。
32.如权利要求20所述的设备,其中,所述提取模块包括:
人脸检测模块,检测所述有光源图像集中的每个有光源图像的人脸区域图像;以及
子提取单元,基于所检测的每个有光源图像中的人脸区域图像,提取所述第一特征集。
CN201580000322.9A 2015-04-28 2015-04-28 用于识别人脸的装置、系统和方法 Active CN105517680B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2015/077692 WO2016172856A1 (zh) 2015-04-28 2015-04-28 用于识别人脸的装置、系统、方法和计算机程序产品

Publications (2)

Publication Number Publication Date
CN105517680A CN105517680A (zh) 2016-04-20
CN105517680B true CN105517680B (zh) 2020-03-10

Family

ID=55724962

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201580000322.9A Active CN105517680B (zh) 2015-04-28 2015-04-28 用于识别人脸的装置、系统和方法

Country Status (3)

Country Link
US (1) US10360439B2 (zh)
CN (1) CN105517680B (zh)
WO (1) WO2016172856A1 (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101788269B1 (ko) 2016-04-22 2017-10-19 주식회사 에스원 이상 상황을 감지하는 장치 및 방법
WO2018033137A1 (zh) * 2016-08-19 2018-02-22 北京市商汤科技开发有限公司 在视频图像中展示业务对象的方法、装置和电子设备
CN108875482B (zh) * 2017-09-14 2022-01-21 北京旷视科技有限公司 物体检测方法和装置、神经网络训练方法和装置
CN110047101A (zh) * 2018-01-15 2019-07-23 北京三星通信技术研究有限公司 物体姿态估计方法、获得稠密深度图像的方法、相应装置
KR102457462B1 (ko) 2018-03-06 2022-10-21 삼성전자주식회사 전자장치의 이미지 처리 장치 및 방법
CN110751767A (zh) * 2019-10-31 2020-02-04 中国联合网络通信集团有限公司 一种图像处理方法和装置
KR20220122645A (ko) * 2019-12-29 2022-09-02 매직 아이 인코포레이티드 3차원 좌표를 2차원 피처 포인트와 연관
CN111460910A (zh) * 2020-03-11 2020-07-28 深圳市新镜介网络有限公司 人脸脸型的分类方法、装置、终端设备及存储介质
CN114257707A (zh) * 2020-09-21 2022-03-29 安霸国际有限合伙企业 具有彩色夜间模式的智能ip摄像头
CN117387939B (zh) * 2023-12-08 2024-02-09 珠海市钧兴机电有限公司 齿轮测试控制方法、电子设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101339607A (zh) * 2008-08-15 2009-01-07 北京中星微电子有限公司 人脸识别方法及系统、人脸识别模型训练方法及系统
CN102208032A (zh) * 2011-07-04 2011-10-05 徐杰 基于球面重采样的三维人脸识别
CN102346857A (zh) * 2011-09-14 2012-02-08 西安交通大学 人脸图像光照参数和去光照图的高精度同时估计方法
CN102567706A (zh) * 2010-12-24 2012-07-11 汉王科技股份有限公司 一种人脸识别装置和方法
CN102930257A (zh) * 2012-11-14 2013-02-13 汉王科技股份有限公司 人脸识别装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8760499B2 (en) * 2011-04-29 2014-06-24 Austin Russell Three-dimensional imager and projection device
US9392262B2 (en) * 2014-03-07 2016-07-12 Aquifi, Inc. System and method for 3D reconstruction using multiple multi-channel cameras

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101339607A (zh) * 2008-08-15 2009-01-07 北京中星微电子有限公司 人脸识别方法及系统、人脸识别模型训练方法及系统
CN102567706A (zh) * 2010-12-24 2012-07-11 汉王科技股份有限公司 一种人脸识别装置和方法
CN102208032A (zh) * 2011-07-04 2011-10-05 徐杰 基于球面重采样的三维人脸识别
CN102346857A (zh) * 2011-09-14 2012-02-08 西安交通大学 人脸图像光照参数和去光照图的高精度同时估计方法
CN102930257A (zh) * 2012-11-14 2013-02-13 汉王科技股份有限公司 人脸识别装置

Also Published As

Publication number Publication date
WO2016172856A1 (zh) 2016-11-03
CN105517680A (zh) 2016-04-20
US10360439B2 (en) 2019-07-23
US20170004355A1 (en) 2017-01-05

Similar Documents

Publication Publication Date Title
CN105517680B (zh) 用于识别人脸的装置、系统和方法
CN108549873B (zh) 三维人脸识别方法和三维人脸识别系统
CN108875524B (zh) 视线估计方法、装置、系统和存储介质
CN105335722B (zh) 一种基于深度图像信息的检测系统及方法
US10832039B2 (en) Facial expression detection method, device and system, facial expression driving method, device and system, and storage medium
EP3284011B1 (en) Two-dimensional infrared depth sensing
US8989455B2 (en) Enhanced face detection using depth information
Dikovski et al. Evaluation of different feature sets for gait recognition using skeletal data from Kinect
CN104951769B (zh) 活体识别装置、活体识别方法和活体认证系统
JP2021517470A (ja) 家畜体重を見積もるシステムおよび方法
CN108171133A (zh) 一种基于特征协方差矩阵的动态手势识别方法
JP6101134B2 (ja) 情報処理装置及び情報処理方法
CN107832736B (zh) 实时人体动作的识别方法和实时人体动作的识别装置
CN104392223A (zh) 二维视频图像中的人体姿态识别方法
JP6487642B2 (ja) 手指形状の検出方法、そのプログラム、そのプログラムの記憶媒体、及び、手指の形状を検出するシステム。
Liu et al. Ear-parotic face angle: A unique feature for 3D ear recognition
CN112287865B (zh) 一种人体姿态识别的方法及装置
CN109829380B (zh) 一种狗脸特征点的检测方法、装置、系统及存储介质
Zhang et al. Fully automatic system for fish biomass estimation based on deep neural network
JP5351084B2 (ja) 画像認識装置及び画像認識方法
KR101480816B1 (ko) 입술 영상에서 추출된 다수의 입술 움직임 특징을 이용한 시각적 음성인식 시스템
TWM468728U (zh) 人體姿態動作辨識系統
CN109034138B (zh) 图像处理方法及装置
JP2013246009A (ja) 物体検出装置
Mattheij et al. Depth-based detection using Haarlike features

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: 100190 Beijing, Haidian District Academy of Sciences, South Road, No. 2, block A, No. 313

Applicant after: MEGVII INC.

Applicant after: Beijing maigewei Technology Co., Ltd.

Address before: 100190 Beijing, Haidian District Academy of Sciences, South Road, No. 2, block A, No. 313

Applicant before: MEGVII INC.

Applicant before: Beijing aperture Science and Technology Ltd.

CB02 Change of applicant information
GR01 Patent grant
GR01 Patent grant