CN108764180A - 人脸识别方法、装置、电子设备及可读存储介质 - Google Patents
人脸识别方法、装置、电子设备及可读存储介质 Download PDFInfo
- Publication number
- CN108764180A CN108764180A CN201810551536.0A CN201810551536A CN108764180A CN 108764180 A CN108764180 A CN 108764180A CN 201810551536 A CN201810551536 A CN 201810551536A CN 108764180 A CN108764180 A CN 108764180A
- Authority
- CN
- China
- Prior art keywords
- key point
- dimensional
- face
- facial image
- template
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Abstract
本申请提出一种人脸识别方法、装置、电子设备及可读存储介质,其中,方法包括:获取二维的人脸图像,以及人脸图像对应的深度信息;根据深度信息和人脸图像,进行三维重构,得到人脸三维模型;根据人脸三维模型中各第一关键点相对位置,从预存的各三维模板中,确定匹配的目标三维模板;其中,目标三维模板中各第二关键点相对位置与人脸三维模型中对应的各第一关键点相对位置匹配;将人脸图像中的人脸识别为目标三维模板关联的人物信息。该方法能够实现提升人脸识别的准确性。
Description
技术领域
本申请涉及移动终端技术领域,尤其涉及一种人脸识别方法、装置、电子设备及可读存储介质。
背景技术
随着信息安全技术和移动终端技术的不断发展,移动终端可以根据用户的生物特征信息,进行鉴权处理。当用户通过鉴权时,表明该用户为移动终端的合法用户,从而该用户可以进行开机、支付、玩游戏等操作。其中,人脸识别技术是被用户广泛使用的一种生物特征识别技术,用户打开摄像头即可进行身份识别,操作简单。
相关技术中,基于二维图像识别技术识别人脸,容易受到人脸角度、年龄、亮度、化妆等因素的影响,导致识别的准确率较低。
发明内容
本申请旨在至少在一定程度上解决相关技术中的技术问题之一。
为此,本申请提出一种人脸识别方法,以实现提升人脸识别的准确性。
本申请提出一种人脸识别装置。
本申请提出一种电子设备。
本申请提出一种计算机可读存储介质。
本申请提出一种图像处理电路。
本申请一方面实施例提出了一种人脸识别方法,包括:
获取二维的人脸图像,以及所述人脸图像对应的深度信息;
根据所述深度信息和所述人脸图像,进行三维重构,得到人脸三维模型;
根据所述人脸三维模型中各第一关键点相对位置,从预存的各三维模板中,确定匹配的目标三维模板;其中,所述目标三维模板中各第二关键点相对位置与所述人脸三维模型中对应的各第一关键点相对位置匹配;
将所述人脸图像中的人脸识别为所述目标三维模板关联的人物信息。
本申请实施例的人脸识别方法,通过获取二维的人脸图像,以及人脸图像对应的深度信息,根据深度信息和人脸图像,进行三维重构,得到人脸三维模型,而后根据人脸三维模型中各第一关键点相对位置,从预存的各三维模板中,确定匹配的目标三维模板,最后将人脸图像中的人脸识别为目标三维模板关联的人物信息。本申请中,预存的三维模板中的各个人脸信息是三维的,可以携带各个关键点的深度信息,由于人脸角度改变、亮度改变、化妆等情况的变化,并不会影响人脸的深度信息,因此基于人脸的三维模型与预存的三维模板进行匹配,可以提升人脸识别的准确性。
本申请又一方面实施例提出了一种人脸识别装置,包括:
获取模块,用于获取二维的人脸图像,以及所述人脸图像对应的深度信息;
重构模块,用于根据所述深度信息和所述人脸图像,进行三维重构,得到人脸三维模型;
确定模块,用于根据所述人脸三维模型中各第一关键点相对位置,从预存的各人脸三维模板中,确定匹配的目标三维模板;其中,所述目标三维模板中各第二关键点相对位置与所述人脸三维模型中对应的各第一关键点相对位置匹配;
识别模块,用于将所述人脸图像中的人脸识别为所述目标三维模板关联的人物信息。
本申请实施例的人脸识别装置,通过获取二维的人脸图像,以及人脸图像对应的深度信息,根据深度信息和人脸图像,进行三维重构,得到人脸三维模型,而后根据人脸三维模型中各第一关键点相对位置,从预存的各三维模板中,确定匹配的目标三维模板,最后将人脸图像中的人脸识别为目标三维模板关联的人物信息。本申请中,预存的三维模板中的各个人脸信息是三维的,可以携带各个关键点的深度信息,由于人脸角度改变、亮度改变、化妆等情况的变化,并不会影响人脸的深度信息,因此基于人脸的三维模型与预存的三维模板进行匹配,可以提升人脸识别的准确性。
本申请又一方面实施例提出了一种电子设备,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时,实现如本申请前述实施例提出的人脸识别方法。
本申请又一方面实施例提出了一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如本申请前述实施例提出的人脸识别方法。
本申请又一方面实施例提出了一种图像处理电路,所述图像处理电路包括:图像单元、深度信息单元和处理单元;
所述图像单元,用于输出二维的人脸图像;
所述深度信息单元,用于输出深度信息;
所述处理单元,分别与所述图像单元和所述深度信息单元电性连接,用于根据所述图像单元获取的二维的人脸图像,以及所述深度信息单元获取的对应的深度信息,识别与所述人脸图像中的人脸匹配的目标三维模板,输出所述目标三维模块关联的人物信息。
本申请实施例的图像处理电路,通过图像单元输出二维的人脸图像,以及通过深度信息单元输出人脸图像对应的深度信息,而后通过处理单元根据二维的人脸图像以及对应的深度信息,识别与人脸图像中的人脸匹配的目标三维模板,输出目标三维模块关联的人物信息。本申请中,由于人脸角度改变、亮度改变、化妆等情况的变化,并不会影响人脸的深度信息,因此,基于人脸的三维模型,对人脸进行识别,可以提升人脸识别的准确性。
本申请附加的方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实践了解到。
附图说明
本申请上述的和/或附加的方面和优点从下面结合附图对实施例的描述中将变得明显和容易理解,其中:
图1为本申请实施例一所提供的人脸识别方法的流程示意图;
图2为本申请实施例中标注后的人脸图像示意图;
图3为本申请实施例二所提供的人脸识别方法的流程示意图;
图4本申请实施例中人脸三维模型的框架示意图一;
图5本申请实施例中人脸三维模型的框架示意图二;
图6为本申请实施例中皮肤纹理图的生成过程示意图;
图7为本发明实施例三所提供的人脸识别方法的流程示意图;
图8为本发明实施例四所提供的人脸识别方法的流程示意图;
图9为本申请实施例五所提供的人脸识别装置的结构示意图;
图10为本申请实施例六所提供的人脸识别装置的结构示意图;
图11为一个实施例中电子设备的内部结构示意图;
图12为作为一种可能的实现方式的图像处理电路的示意图;
图13为作为另一种可能的实现方式的图像处理电路的示意图。
具体实施方式
下面详细描述本申请的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本申请,而不能理解为对本申请的限制。
针对现有技术中基于二维图像识别技术识别人脸,容易受到人脸角度、年龄、亮度、化妆等因素的影响,导致识别的准确率较低的技术问题,本申请实施例中,通过获取二维的人脸图像,以及人脸图像对应的深度信息,根据深度信息和人脸图像,进行三维重构,得到人脸三维模型,而后根据人脸三维模型中各第一关键点相对位置,从预存的各三维模板中,确定匹配的目标三维模板,最后将人脸图像中的人脸识别为目标三维模板关联的人物信息。本申请中,预存的三维模板中的各个人脸信息是三维的,可以携带各个关键点的深度信息,由于人脸角度改变、亮度改变、化妆等情况的变化,并不会影响人脸的深度信息,因此基于人脸的三维模型与预存的三维模板进行匹配,可以提升人脸识别的准确性。
下面参考附图描述本申请实施例的人脸识别方法、装置、电子设备及可读存储介质。
图1为本申请实施例一所提供的人脸识别方法的流程示意图。
本申请实施例的人脸识别方法可以应用于电子设备上需要进行身份认证的应用程序,例如游戏类、支付类、社交类等应用程序,或者,也可以应用于门禁、安防等需要身份认证的场所,或者,也可以仅仅应用于具有人脸识别功能的应用程序,对此不作限制。
其中,电子设备可以为手机、平板电脑、个人数字助理、穿戴式设备等具有各种操作系统、触摸屏和/或显示屏的硬件设备。
如图1所示,该人脸识别方法包括以下步骤:
步骤101,获取二维的人脸图像,以及人脸图像对应的深度信息。
本申请实施例中,电子设备可以包括可见光图像传感器,可以基于电子设备中的可见光图像传感器获取二维的人脸图像。具体地,可见光图像传感器可以包括可见光摄像头,可见光摄像头可以捕获由成像对象反射的可见光进行成像,得到成像对象对应的二维的人脸图像。其中,成像对象可以为人脸。
本申请实施例中,电子设备还可以包括结构光图像传感器,可以基于电子设备中的结构光图像传感器,获取成像对象对应的深度信息。可选地,结构光图像传感器可以包括镭射灯以及激光摄像头。脉冲宽度调制(Pulse Width Modulation,简称PWM)可以调制镭射灯以发出结构光,结构光照射至成像对象,激光摄像头可以捕获由成像对象反射的结构光进行成像,得到成像对象对应的结构光图像。深度引擎可以根据成像对象对应的结构光图像,计算获得成像对象对应的深度信息。
步骤102,根据深度信息和人脸图像,进行三维重构,得到人脸三维模型。
本申请实施例中,在获取深度信息和人脸图像后,可以根据深度信息和人脸图像,进行三维重构,得到人脸三维模型。本申请中,人脸的三维模型的构建,是根据深度信息和人脸图像,进行三维重构得到的,而不是简单的获取RGB数据和深度数据。
作为一种可能的实现方式,可以将深度信息与二维人脸图像对应的色彩信息进行融合,得到人脸三维模型。具体地,可以基于人脸关键点检测技术,从深度信息提取人脸的关键点,以及从色彩信息中提取人脸的关键点,而后将从深度信息中提取的关键点和从色彩信息中提取的关键点,进行配准和关键点融合处理,最终根据融合后的关键点,生成人脸三维模型。其中,关键点为人脸上显眼的点,或者为关键位置上的点,例如关键点可以为眼角、鼻尖、嘴角等。
作为另一种可能的实现方式,可以基于人脸关键点检测技术,对人脸图像进行关键点识别,得到人脸图像对应的第三关键点,而后根据第三关键点的深度信息和第三关键点在人脸图像上的位置,确定第三关键点对应的第一关键点在人脸三维模型中的相对位置,从而可以根据第一关键点在三维空间中的相对位置,连接相邻的第一关键点,生成局部人脸三维框架。其中,局部人脸可以包括鼻部、唇部、眼部、脸颊等脸部部位。
在生成局部人脸三维框架后,可以根据不同的局部人脸三维框架中包含的相同第一关键点,对不同的局部人脸三维框架进行拼接,得到人脸三维模型的框架,最后将人脸图像映射到人脸三维模型的框架,可以得到覆盖框架的皮肤纹理图。
步骤103,根据人脸三维模型中各第一关键点相对位置,从预存的各三维模板中,确定匹配的目标三维模板;其中,目标三维模板中各第二关键点相对位置与人脸三维模型中对应的各第一关键点相对位置匹配。
本申请实施例中,预存的三维模板的个数可以为多个,具体实现时,可以逐次从预存的各三维模板中选取一个三维模板,与人脸三维模型进行匹配。具体地,针对人脸三维模型中的每个第一关键点,可以将该第一关键点与选取的三维模板中对应的关键点进行匹配,得到第一关键点与选取的三维模板中对应的关键点的匹配度。
需要说明的是,第一关键点与选取的三维模板中对应的关键点的匹配度,可以是指第一关键点与选取的三维模板中对应的关键点的总体匹配度,例如,该匹配度可以包括形状、大小、位置等特征信息的总体匹配度。具体实现时,对于每个第一关键点,可以将第一关键点的形状、大小、或该第一关键点在人脸三维模型中的相对位置等特征信息,分别与选取的三维模板中对应的关键点的形状、大小、或该关键点在选取的三维模板中的相位位置等特征信息进行匹配,可以获得形状特征的匹配度、大小特征的匹配度、相对位置特征的匹配度等。而后可以将获取的匹配度累加,求取均值,将均值作为第一关键点与选取的三维模板中对应的关键点的匹配度。
或者,第一关键点与选取的三维模板中对应的关键点的匹配度,可以指第一关键点与选取的三维模板中对应的关键点的部分匹配度,例如,该匹配度可以包括形状特征的匹配度、大小特征的匹配度、和/或相对位置特征的匹配度等。具体实现时,对于每个第一关键点,可以将第一关键点的形状与选取的三维模板中对应的关键点的形状进行匹配,获取形状特征的匹配度,和/或,将第一关键点的大小与该选取的三维模板中对应的关键点的大小进行匹配,获取大小特征的匹配度,和/或,将第一关键点在人脸三维模型中的相对位置与对应的关键点在选取的三维模板中的相对位置进行匹配,获取相对位置特征的匹配度。而后,可以将形状特征的匹配度、大小特征的匹配度、和/或相对位置特征的匹配度,作为第一关键点与选取的三维模板中对应的关键点的匹配度,对此不作限制。
本申请实施例中,在确定每个第一关键点与选取的三维模板中对应的关键点的匹配度后,可以确定人脸三维模型与该选取的三维模板的匹配度。具体地,可以预先设置每个第一关键点对应的权重,在确定每个第一关键点与选取的三维模板中对应的关键点的匹配度后,可以将第一关键点对应的权重乘以该第一关键点与选取的三维模板中对应的关键点的匹配度,得到乘积值,而后将所有的乘积值进行累加,可以得到人脸三维模型与选取的三维模板的匹配度。
可选地,当人脸三维模型与选取的三维模板的匹配度超过阈值时,则认为该选取的三维模板为人脸三维模型匹配的目标三维模板。其中,阈值可以由电子设备的内置程序预先设定,或者,阈值也可以由用户进行设置,对此不作限制,例如阈值可以为85%。
进一步地,与人脸三维模型匹配的三维模板可能不止一个,因此,可以将人脸三维模型与选取的三维模板的匹配度中的最高值所对应的三维模板,作为目标三维模板。
步骤104,将人脸图像中的人脸识别为目标三维模板关联的人物信息。
本申请实施例中,目标三维模板中可以携带该目标三维模板关联的人物信息,例如为关联人物的标识信息,比如姓名、职工号、性别、和/或年龄等信息。在确定与人脸三维模型匹配的目标三维模板后,可以将目标三维模板关联的人物信息,作为人脸图像中的人脸所对应的人物信息。
本申请实施例的人脸识别方法,通过获取二维的人脸图像,以及人脸图像对应的深度信息,根据深度信息和人脸图像,进行三维重构,得到人脸三维模型,而后根据人脸三维模型中各第一关键点相对位置,从预存的各三维模板中,确定匹配的目标三维模板,最后将人脸图像中的人脸识别为目标三维模板关联的人物信息。本申请中,预存的三维模板中的各个人脸信息是三维的,可以携带各个关键点的深度信息,由于人脸角度改变、亮度改变、化妆等情况的变化,并不会影响人脸的深度信息,因此基于人脸的三维模型与预存的三维模板进行匹配,可以提升人脸识别的准确性。
作为一种可能的实现方式,在将人脸图像中的人脸识别为目标三维模板关联的人物信息之后,还可以根据人物信息,在人脸图像中进行人物标注,而后对人物标注后的人脸图像进行展示。由此,可以使得用户更加直观化地获知识别结果,提升用户的拍摄体验。
可选地,可以根据人物信息,获取对应的标记,采用人物信息对应的标记,对人脸图像中的人脸部分进行标注。
例如,当该人脸识别方法应用于公司的门禁系统时,人物信息可以为用户的职工号、姓名等信息,可以将用户的职工号、姓名等信息标注在人脸图像中的人脸部分。
或者,当该人脸识别方法仅仅应用于具有人脸识别功能的应用程序时,例如相机,此时,人物信息可以为用户的姓名、性别、年龄等信息,可以将用户的姓名、性别、年龄等信息标注在人脸图像中的人脸部分。
可选地,为了使得用户能够快速获取人物信息,可以将人物信息标注在人脸图像中的醒目位置,例如,可以将人物信息标注在人脸部分上方,或者,也可以将人物信息标注在人脸部分下方,对此不作限制。
作为一种示例,参见图2,图2为本申请实施例中标注后的人脸图像示意图。如图2所示,当用户通过相机拍摄二维人脸图像后,在经过图1所示的人脸识别后,确定人脸图像中左边人脸区域对应的人物信息为:<女20岁姓名A>时,此时,可以将<女20岁姓名A>,标注在左边人脸区域的上方。以及确定人脸图像中右边人脸区域对应的人物信息为:<男21岁姓名B>时,此时,可以将<男21岁姓名B>,标注在右边人脸区域的上方。
作为一种可能的实现方式,为了提升人脸识别的准确性,在视频采集过程中,可以从至少两个不同的角度获取至少两张人脸图像,则参见图3,步骤102具体可以包括以下子步骤:
步骤201,对每一张人脸图像进行关键点识别,得到第三关键点。
可选地,可以基于人脸关键点检测技术,对每一张人脸图像进行关键点识别,得到第三关键点。
步骤202,对每一张人脸图像,根据第三关键点的深度信息和第三关键点在人脸图像上的位置,确定第三关键点对应的第一关键点在三维空间中的相对位置。
本申请实施例中,由于人脸三维模型是人脸图像对应的立体模型,人脸三维模型中第一关键点和人脸图像中的第三关键点是一一对应的关系,针对每一张人脸图像,可以根据第三关键点的深度信息和第三关键点在人脸图像上的位置,确定第三关键点对应的第一关键点在三维空间中的相对位置。
步骤203,根据第一关键点在三维空间中的相对位置,连接相邻的第一关键点,生成局部人脸三维框架。
本申请实施例中,在确定第一关键点在三维空间中的相对位置后,可以连接相邻的第一关键点,生成局部人脸三维框架。
步骤204,根据不同的局部人脸三维框架中包含的相同第一关键点,对不同的局部人脸三维框架进行拼接,得到人脸三维模型的框架。
本申请实施例中,在确定每个局部人脸三维框架后,可以根据不同局部人脸三维框架中的重合部分,对不同的局部人脸三维框架进行拼接,得到人脸三维模型的框架。具体地,可以根据不同的局部人脸三维框架中包含的相同第一关键点,对不同的局部人脸三维框架进行拼接,得到人脸三维模型的框架。
作为一种示例,参见图4和图5,图4和图5分别为不同的角度获取的两张人脸图像所对应的人脸三维模型的框架示意图。
步骤205,将人脸图像映射到人脸三维模型的框架,得到覆盖框架的皮肤纹理图。
本申请实施例中,在确定人脸三维模型的框架后,可以将人脸图像映射到人脸三维模型的框架,得到覆盖框架的皮肤纹理图。
作为一种可能的实现方式,可以获取框架中的多个第一区域,其中,第一区域是以各第一关键点为顶点得到的封闭区域,而后可以根据人脸图像中的第三关键点,将人脸图像的人脸部分划分为以第三关键点为顶点的多个第二区域,接着可以根据第一关键点与第三关键点之间的对应关系,确定各第二区域对应的第一区域,最后可以对各第二区域内展示的图片内容渲染后,作为局部皮肤纹理贴图至人脸三维模型中对应的第一区域,得到覆盖框架的皮肤纹理图,或者,可以将各第二区域内展示的图片内容,作为局部皮肤纹理贴图至人脸三维模型中对应的第一区域,而后对贴图后的第一区域对应的画面进行渲染,得到覆盖框架的皮肤纹理图,或者,可以在将各第二区域内展示的图片内容,作为局部皮肤纹理贴图至人脸三维模型中对应的第一区域的过程中,对第一区域已贴图的画面进行渲染,得到覆盖框架的皮肤纹理图,对此不作限制。
作为一种示例,参见图6,图6为本申请实施例中皮肤纹理图的生成过程示意图。其中,标定,是指对摄像头进行标定,确定人脸图像中的关键点在三维空间中对应的关键点。
如图6所示,当用户进行人脸识别时,可以通过摄像头预览扫描人脸,获取人脸图像,基于人脸关键点检测技术,可以从色彩信息,例如YUV信息中提取人脸的关键点,即第三关键点。
根据标定数据和深度信息,可以确定第三关键点对应的第一关键点在人脸三维模型中的相对位置,从而根据第一关键点在三维空间中的相对位置,连接相邻的第一关键点,可以生成局部人脸三维框架。根据不同的局部人脸三维框架中包含的相同第一关键点,对不同的局部人脸三维框架进行拼接,得到人脸三维模型的框架,最后可以将人脸图像贴图进行渲染,贴图至人脸三维模型中,得到覆盖所述框架的皮肤纹理图。
本申请实施例的人脸识别方法,通过对每一张人脸图像进行关键点识别,得到第三关键点;对每一张人脸图像,根据第三关键点的深度信息和第三关键点在人脸图像上的位置,确定第三关键点对应的第一关键点在三维空间中的相对位置;根据第一关键点在三维空间中的相对位置,连接相邻的第一关键点,生成局部人脸三维框架;根据不同的局部人脸三维框架中包含的相同第一关键点,对不同的局部人脸三维框架进行拼接,得到人脸三维模型的框架;将人脸图像映射到人脸三维模型的框架,得到覆盖框架的皮肤纹理图。由此,可以实时获取人脸三维模型,以及获取不同的角度所对应的人脸三维模型,从而可以进一步提升人脸识别的准确性。
作为一种可能的实现方式,在得到人脸三维模型的皮肤纹理图之后,还可以根据皮肤纹理图的颜色信息,检测是否有异常范围,若有,则对该异常范围进行修正。下面结合图7,对上述过程进行详细说明。
图7为本发明实施例三所提供的人脸识别方法的流程示意图。
如图7所示,在步骤205之后,该人脸识别方法还可以包括以下步骤:
步骤301,根据皮肤纹理图的颜色检测异常范围。
可以理解的是,当人脸图像中有痘痘时,皮肤纹理图中痘痘对应的部位的颜色可以为红色,或者,当人脸图像中有雀斑时,皮肤纹理图中雀斑对应的部位的颜色可以为咖啡色或黑色,或者,当人脸图像中有黑痣时,皮肤纹理图中黑痣对应的部位的颜色可以为黑色。
因此,本申请实施例中,可以根据皮肤纹理图的颜色,确定是否存在异常范围,当未存在异常范围时,可以不做任何处理,而当存在异常范围时,可以触发步骤302。
步骤302,对异常范围进行修正。
一般情况下,痘痘是突出皮肤表面的,或者,黑痣也可以是突出皮肤表面的,因此,本申请实施例中,可以根据异常范围在人脸图像中对应的深度信息,识别异常类型,例如,异常类型可以为凸起或者未凸起。在确定异常类型后,可以根据异常类型和颜色信息,确定对应的策略,采用对应的策略对异常范围内的肤色进行修正。
例如,可以根据异常范围对应的匹配肤色,采用对应的策略指示的滤波范围和滤波强度对异常范围进行磨皮处理。
举例而言,当异常类型为凸起,颜色信息为红色时,此时,该异常范围内可以为痘痘,或者,当异常类型为凸起,颜色信息为咖啡色,此时,该异常范围内可以为斑痕,由于痘痘、斑痕等异常影响人脸的美观性,用户希望能够弱化,则对应的美化策略中磨皮程度较强。当异常类型为未凸起,颜色为青色时,此时,该异常范围内可以为纹身,或者,当异常类型为凸起,颜色信息为黑色时,此时,该异常范围内可以为黑痣,由于纹身、胎记、痣等异常为用户特征,不影响人脸的美观性,通过通常用户希望能够保留这些用户特征,则对应的美化策略中磨皮程度较弱。
或者,可以根据异常范围对应的匹配肤色,填充异常范围内的肤色。
例如,当异常类型为凸起,颜色信息为红色时,此时,该异常范围内可以为痘痘,则祛痘的美化策略可以为:根据痘痘附近的正常肤色,本申请实施例中记为匹配肤色,填充痘痘对应的异常范围内的肤色,或者,当异常类型为未凸起,颜色为咖啡色时,此时,该异常范围内可以为雀斑,则祛斑的美化策略可以为:根据雀斑附近的正常肤色,本申请实施例中记为匹配肤色,填充雀斑对应的异常范围内的肤色。
作为一种可能的实现方式,可以根据人脸三维模型中的颜色信息,确定匹配肤色。具体地,可以将人脸三维模型中,与异常范围三维空间距离最短且光线投射角度最接近的局部皮肤,作为异常范围对应的匹配肤色。
具体地,可以根据人脸三维模型中以第一关键点为顶点的多个第一区域,将皮肤纹理图划分为覆盖各第一区域的局部皮肤,而后从覆盖各第一区域的局部皮肤中,确定与异常范围三维空间距离最短且光线投射角度最接近的目标局部皮肤,将目标局部皮肤,作为匹配肤色。
本申请中,由于匹配肤色是与异常范围三维空间距离最短且光线投射角度最接近的局部皮肤,当根据匹配肤色,采用所述美化策略指示的滤波范围和滤波强度对所述异常范围进行磨皮处理时,可以有效提升美化效果。
作为另一种可能的实现方式,可以根据人脸图像中的颜色信息,确定匹配肤色。
具体地,可以根据人脸三维模型中以第一关键点为顶点的多个第一区域,将皮肤纹理图划分为覆盖各第一区域的局部皮肤,以及根据对人脸图像关键点识别得到的第二关键点,将人脸图像的人脸部分划分为以相邻第二关键点为顶点的多个第二区域。可以理解的是,由于人脸三维模型是人脸图像对应的立体模型,人脸图像和人脸三维模型之间具有映射关系,该映射关系可以通过第二区域与第一区域之间的对应关系来表现。
因此,在从覆盖各第一区域的局部皮肤中,确定与异常范围三维空间距离最短且光线投射角度最接近的目标局部皮肤后,可以根据目标局部皮肤覆盖的第一区域,查询第一区域和第二区域之间对应关系,确定人脸图像中对应的第二区域的颜色信息,将确定出的颜色信息作为匹配肤色。
本申请实施例中,由于皮肤纹理图是三维的,根据皮肤纹理图的颜色检测异常范围,对异常范围进行修正,可以使得修正后的皮肤纹理图更加自然,美化效果更加突出,提升用户的拍摄体验。
作为一种可能的实现方式,在确定匹配的目标三维模板之后,还可以根据目标三维模板关联的用户偏好,对人脸三维模型中各第一关键点进行位置调整,例如放大眼部处理,下面结合图6,对上述过程进行详细说明。
图8为本发明实施例四所提供的人脸识别方法的流程示意图。
如图8所示,在步骤103之后,该人脸识别方法还可以包括以下步骤:
步骤401,获取目标三维模板关联的用户偏好。
作为一种可能的实现方式,可以根据目标三维模板关联的用户的历史操作数据,确定目标三维模板关联的用户偏好。例如,目标三维模板关联的用户在历史拍照过程中,经常对眼部进行放大处理,对鼻孔进行缩小处理,因此,根据用户的历史操作数据,可以确定该用户偏好。
作为另一种可能的实现方式,在执行用户注册过程时,可以记录目标三维模板关联的用户,对目标三维模板的调整信息,例如,目标三维模板关联的用户可以根据自身的美化需求,对眼部进行放大处理,对鼻孔进行缩小处理,当关联的用户在注册完毕时,电子设备可以同时保存目标三维模板和对应的调整信息。进而可以根据目标三维模板的调整信息,确定用户偏好。
步骤402,根据用户偏好,对人脸三维模型中各第一关键点进行位置调整。
可选地,可以根据用户偏好,确定需调整的第一关键点,以及对应的调整幅度范围,对需调整的第一关键点,在对应的调整幅度范围内进行位置调整。
步骤403,在人脸三维模型中,确定与已调整的第一关键点相关联的第一关键点。
本申请实施例中,为了使得调整后的皮肤纹理图较为自然,在对人脸三维模型中各第一关键点进行位置调整时,针对各个关联的第一关键点,在调整的过程中需要平滑过渡,可以逐渐减小调整幅度。因此,本申请中,可以在人脸三维模型中,确定与已调整的第一关键点相关联的第一关键点。
步骤404,对关联的第一关键点,根据对应已调整的第一关键点的调整幅度,进行位置调整;其中,关联的第一关键点的调整幅度小于对应已调整的第一关键点的调整幅度。
本申请实施例中,在确定与已调整的第一关键点相关联的第一关键点后,可以对关联的第一关键点,根据对应已调整的第一关键点的调整幅度,进行位置调整。其中,为了使得调整后的皮肤纹理图较为自然,关联的第一关键点的调整幅度可以小于对应已调整的第一关键点的调整幅度,从而在位置的调整过程中可以实现平滑过渡。
作为一种可能的实现方式,可以确定关联的第一关键点,与对应已调整的第一关键点之间的距离,而后根据距离,减小对应已调整的第一关键点的调整幅度,得到关联的第一关键点的调整幅度。
举例而言,当已调整的第一关键点为距离眼睑最近的第一关键点,关联的第一关键点可以为距离已调整的第一关键点最近的第一关键点,为了使得调整后的皮肤纹理图较为自然,在调整的过程中需要平滑过渡,逐渐减小调整幅度。因此,关联的第一关键点的调整幅度可以小于对应已调整的第一关键点的调整幅度。
步骤405,对位置调整过程中出现形变的第一区域,拉伸或收缩第一区域内的局部皮肤纹理以填充形变后的第一区域。
本申请实施例中,当第一关键点在位置的调整过程中,如果出现形变的第一区域,为了使得调整后的皮肤纹理图更加自然,美化效果更加突出,需要对第一区域的局部皮肤纹理进行拉伸或收缩处理,以填充形变后的第一区域。
本申请实施例的人脸识别方法,通过根据用户偏好,对人脸三维模型中各第一关键点进行位置调整,可以实现对人脸三维模型中的第一关键点进行调整,从而可以实现人脸三维模型的个性化设置。此外,通过对关联的第一关键点,根据对应已调整的第一关键点的调整幅度,进行位置调整,从而可以实现在调整的过程中平滑过渡,使得调整后的皮肤纹理图更加自然。通过对位置调整过程中出现形变的第一区域,拉伸或收缩第一区域内的局部皮肤纹理以填充形变后的第一区域,可以进一步使得调整后的皮肤纹理图更加自然,美化效果更加突出,提升用户的拍照体验。
作为一种可能的实现方式,在从预存的各三维模板中,确定匹配的目标三维模板之前,该人脸识别方法还可以包括:在执行用户注册过程时,获取注册用户的人脸三维模型,并作为三维模板进行存储,从而后续步骤中可以根据存储的三维模板进行人脸识别以及美颜处理。
作为一种可能的实现方式,为了提升人脸识别的效率和准确率,在对用户进行人脸识别的过程中,该用户的人脸部分可以不包含饰物。具体地,在获取二维的人脸图像后,可以对人脸图像进行识别,以确定人脸图像的人脸部分不包含饰物。
作为一种可能的实现方式,在确定匹配的目标三维模板之后,还可以根据人脸三维模型,对匹配的目标三维模板进行修正。本申请中,通过更新与人脸三维模型匹配的目标三维模板,可以提升目标三维模板的精度,从而可以提升后续人脸识别的准确性。
为了实现上述实施例,本申请还提出一种人脸识别装置。
图9为本申请实施例五所提供的人脸识别装置的结构示意图。
如图9所示,该人脸识别装置100包括:获取模块101、重构模块102、确定模块103,以及识别模块104。其中,
获取模块101,用于获取二维的人脸图像,以及人脸图像对应的深度信息。
重构模块102,用于根据深度信息和人脸图像,进行三维重构,得到人脸三维模型。
确定模块103,用于根据人脸三维模型中各第一关键点相对位置,从预存的各人脸三维模板中,确定匹配的目标三维模板;其中,目标三维模板中各第二关键点相对位置与人脸三维模型中对应的各第一关键点相对位置匹配。
识别模块104,用于将人脸图像中的人脸识别为目标三维模板关联的人物信息。
进一步地,在本申请实施例的一种可能的实现方式中,参见图10,在图9所示实施例的基础上,该人脸识别装置100还可以包括:
标注模块105,用于在将人脸图像中的人脸识别为目标三维模板关联的人物信息之后,根据人物信息,在人脸图像中进行人物标注。
作为一种可能的实现方式,标注模块105,具体用于根据人物信息,获取对应的标记;采用标记,对人脸图像中的人脸部分进行标注。
展示模块106,对人物标注后的人脸图像进行展示。
作为一种可能的实现方式,获取模块101,具体用于在视频采集过程中,从至少两个不同的角度获取至少两张人脸图像。
则重构模块102,具体用于对每一张人脸图像进行关键点识别,得到第三关键点;对每一张人脸图像,根据第三关键点的深度信息和第三关键点在人脸图像上的位置,确定第三关键点对应的第一关键点在三维空间中的相对位置;根据第一关键点在三维空间中的相对位置,连接相邻的第一关键点,生成局部人脸三维框架;根据不同的局部人脸三维框架中包含的相同第一关键点,对不同的局部人脸三维框架进行拼接,得到人脸三维模型的框架;将人脸图像映射到人脸三维模型的框架,得到覆盖框架的皮肤纹理图。
作为一种可能的实现方式,重构模块102,具体用于获取框架中的多个第一区域;第一区域,是以各第一关键点为顶点得到的封闭区域;根据人脸图像中的第三关键点,将人脸图像的人脸部分划分为以第三关键点为顶点的多个第二区域;根据第一关键点与第三关键点之间的对应关系,确定各第二区域对应的第一区域;对各第二区域内展示的图片内容渲染后,作为局部皮肤纹理贴图至人脸三维模型中对应的第一区域,得到覆盖框架的皮肤纹理图。
检测模块107,用于在得到人脸三维模型的皮肤纹理图之后,根据皮肤纹理图的颜色检测异常范围。
修正模块108,用于对异常范围进行修正。
作为一种可能的实现方式,修正模块108,具体用于根据异常范围在人脸图像中对应的深度信息,识别异常类型;根据异常类型,采用对应的策略对异常范围内的肤色进行修正。
处理模块109,用于在确定匹配的目标三维模板之后,获取目标三维模板关联的用户偏好;根据用户偏好,对人脸三维模型中各第一关键点进行位置调整;对位置调整过程中出现形变的第一区域,拉伸或收缩第一区域内的局部皮肤纹理以填充形变后的第一区域。
作为一种可能的实现方式,处理模块109,具体用于根据用户偏好,确定需调整的第一关键点,以及对应的调整幅度范围;对需调整的第一关键点,在对应的调整幅度范围内进行位置调整。
作为一种可能的实现方式,处理模块109,还用于在对需调整的第一关键点,在对应的调整幅度范围内进行位置调整之后,在人脸三维模型中,确定与已调整的第一关键点相关联的第一关键点;对关联的第一关键点,根据对应已调整的第一关键点的调整幅度,进行位置调整;其中,关联的第一关键点的调整幅度小于对应已调整的第一关键点的调整幅度。
可选地,处理模块109,具体用于确定关联的第一关键点,与对应已调整的第一关键点之间的距离;根据距离,减小对应已调整的第一关键点的调整幅度,得到关联的第一关键点的调整幅度。
存储模块110,用于在从预存的各三维模板中,确定匹配的目标三维模板之前,在执行用户注册过程时,获取注册用户的人脸三维模型,并作为三维模板进行存储。
识别模块111,用于在获取二维的人脸图像之后,对人脸图像进行识别,确定人脸图像的人脸部分不包含饰物。
修正模块112,用于在从预存的各人脸三维模板中,确定匹配的目标三维模板之后,根据人脸三维模型,对匹配的目标三维模板进行修正。
需要说明的是,前述对人脸识别方法实施例的解释说明也适用于该实施例的人脸识别装置100,此处不再赘述。
本申请实施例的人脸识别装置,通过获取二维的人脸图像,以及人脸图像对应的深度信息,根据深度信息和人脸图像,进行三维重构,得到人脸三维模型,而后根据人脸三维模型中各第一关键点相对位置,从预存的各三维模板中,确定匹配的目标三维模板,最后将人脸图像中的人脸识别为目标三维模板关联的人物信息。本申请中,预存的三维模板中的各个人脸信息是三维的,可以携带各个关键点的深度信息,由于人脸角度改变、亮度改变、化妆等情况的变化,并不会影响人脸的深度信息,因此基于人脸的三维模型与预存的三维模板进行匹配,可以提升人脸识别的准确性。
为了实现上述实施例,本申请还提出一种电子设备,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时,实现如本发明前述实施例提出的人脸识别方法。
图11为一个实施例中电子设备200的内部结构示意图。该电子设备200包括通过系统总线210连接的处理器220、存储器230、显示器240和输入装置250。其中,电子设备200的存储器230存储有操作系统和计算机可读指令。该计算机可读指令可被处理器220执行,以实现本申请实施方式的人脸识别方法。该处理器220用于提供计算和控制能力,支撑整个电子设备200的运行。电子设备200的显示器240可以是液晶显示屏或者电子墨水显示屏等,输入装置250可以是显示器240上覆盖的触摸层,也可以是电子设备200外壳上设置的按键、轨迹球或触控板,也可以是外接的键盘、触控板或鼠标等。该电子设备200可以是手机、平板电脑、笔记本电脑、个人数字助理或穿戴式设备(例如智能手环、智能手表、智能头盔、智能眼镜)等。
本领域技术人员可以理解,图11中示出的结构,仅仅是与本申请方案相关的部分结构的示意图,并不构成对本申请方案所应用于其上的电子设备200的限定,具体的电子设备200可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
为了清楚说明本实施例提供的电子设备,请参阅图12,提供了本申请实施例的图像处理电路,图像处理电路可利用硬件和/或软件组件实现。
需要说明的是,图12为作为一种可能的实现方式的图像处理电路的示意图。为便于说明,仅示出与本申请实施例相关的各个方面。
如图12,该图像处理电路具体包括:图像单元310、深度信息单元320和处理单元330。其中,
图像单元310,用于输出二维的人脸图像。
深度信息单元320,用于输出深度信息。
本申请实施例中,可以通过图像单元310,获取二维的人脸图像,以及通过深度信息单元320,获取人脸图像对应的深度信息。
处理单元330,分别与图像单元310和深度信息单元320电性连接,用于根据图像单元获取的二维的人脸图像,以及深度信息单元获取的对应的深度信息,识别与人脸图像中的人脸匹配的目标三维模板,输出目标三维模块关联的人物信息。
本申请实施例中,图像单元310获取的二维的人脸图像可以发送至处理单元330,以及深度信息单元320获取的人脸图像对应的深度信息可以发送至处理单元330,处理单元330可以根据人脸图像以及深度信息,识别与人脸图像中的人脸匹配的目标三维模板,输出目标三维模块关联的人物信息。具体的实现过程,可以参见上述图1至图8实施例中对人脸识别方法的解释说明,此处不做赘述。
进一步地,作为本申请一种可能的实现方式,参见图13,在图12所示实施例的基础上,该图像处理电路还可以包括:
作为一种可能的实现方式,图像单元310具体可以包括:电性连接的图像传感器311和图像信号处理(Image Signal Processing,简称ISP)处理器312。其中,
图像传感器311,用于输出原始图像数据。
ISP处理器312,用于根据原始图像数据,输出人脸图像。
本申请实施例中,图像传感器311捕捉的原始图像数据首先由ISP处理器312处理,ISP处理器312对原始图像数据进行分析以捕捉可用于确定图像传感器311的一个或多个控制参数的图像统计信息,包括YUV格式或者RGB格式的人脸图像。其中,图像传感器311可包括色彩滤镜阵列(如Bayer滤镜),以及对应的感光单元,图像传感器311可获取每个感光单元捕捉的光强度和波长信息,并提供可由ISP处理器312处理的一组原始图像数据。ISP处理器312对原始图像数据进行处理后,得到YUV格式或者RGB格式的人脸图像,并发送至处理单元330。
其中,ISP处理器312在对原始图像数据进行处理时,可以按多种格式逐个像素地处理原始图像数据。例如,每个图像像素可具有8、10、12或14比特的位深度,ISP处理器312可对原始图像数据进行一个或多个图像处理操作、收集关于图像数据的统计信息。其中,图像处理操作可按相同或不同的位深度精度进行。
作为一种可能的实现方式,深度信息单元320,包括电性连接的结构光传感器321和深度图生成芯片322。其中,
结构光传感器321,用于生成红外散斑图。
深度图生成芯片322,用于根据红外散斑图,输出深度信息;深度信息包括深度图。
本申请实施例中,结构光传感器321向被摄物投射散斑结构光,并获取被摄物反射的结构光,根据反射的结构光成像,得到红外散斑图。结构光传感器321将该红外散斑图发送至深度图生成芯片322,以便深度图生成芯片322根据红外散斑图确定结构光的形态变化情况,进而据此确定被摄物的深度,得到深度图(Depth Map),该深度图指示了红外散斑图中各像素点的深度。深度图生成芯片322将深度图发送至处理单元330。
作为一种可能的实现方式,处理单元330,包括:电性连接的CPU331和GPU(Graphics Processing Unit,图形处理器)332。其中,
CPU331,用于根据标定数据,对齐人脸图像与深度图,根据对齐后的人脸图像与深度图,输出人脸三维模型。
GPU332,用于根据人脸三维模型,确定匹配的目标三维模板,输出目标三维模板关联的人物信息。
本申请实施例中,CPU331从ISP处理器312获取到人脸图像,从深度图生成芯片322获取到深度图,结合预先得到的标定数据,可以将人脸图像与深度图对齐,从而确定出人脸图像中各像素点对应的深度信息。进而,CPU331根据深度信息和人脸图像,进行三维重构,得到人脸三维模型。
CPU331将人脸三维模型发送至GPU332,以便GPU332根据人脸三维模型执行如前述实施例中描述的人脸识别方法,实现人脸识别,得到人脸图像中的人脸所对应的人物信息。
具体地,GPU332可以根据人脸三维模型,确定匹配的目标三维模板,而后根据目标三维模板关联的人物信息,在人脸图像中进行标注,输出标注人物信息的人脸图像。
进一步地,图像处理电路还可以包括:显示单元340。
显示单元340,与GPU332电性连接,用于对标注人物信息的人脸图像进行显示。
具体地,GPU332处理得到的美化后的人脸图像,可以由显示器340显示。
可选地,图像处理电路还可以包括:编码器350和存储器360。
本申请实施例中,GPU332处理得到的美化后的人脸图像,还可以由编码器350编码后存储至存储器360,其中,编码器350可由协处理器实现。
在一个实施例中,存储器360可以为多个,或者划分为多个存储空间,存储GPU312处理后的图像数据可存储至专用存储器,或者专用存储空间,并可包括DMA(DirectMemoryAccess,直接直接存储器存取)特征。存储器360可被配置为实现一个或多个帧缓冲器。
下面结合图13,对上述过程进行详细说明。
如图13所示,图像传感器311捕捉的原始图像数据首先由ISP处理器312处理,ISP处理器312对原始图像数据进行分析以捕捉可用于确定图像传感器311的一个或多个控制参数的图像统计信息,包括YUV格式或者RGB格式的人脸图像,并发送至CPU331。
如图13所示,结构光传感器321向被摄物投射散斑结构光,并获取被摄物反射的结构光,根据反射的结构光成像,得到红外散斑图。结构光传感器321将该红外散斑图发送至深度图生成芯片322,以便深度图生成芯片322根据红外散斑图确定结构光的形态变化情况,进而据此确定被摄物的深度,得到深度图(Depth Map)。深度图生成芯片322将深度图发送至CPU331。
CPU331从ISP处理器312获取到人脸图像,从深度图生成芯片322获取到深度图,结合预先得到的标定数据,可以将人脸图像与深度图对齐,从而确定出人脸图像中各像素点对应的深度信息。进而,CPU331根据深度信息和人脸图像,进行三维重构,得到人脸三维模型。
CPU331将人脸三维模型发送至GPU332,以便GPU332根据人脸三维模型执行如前述实施例中描述的人脸识别方法,实现人脸识别,得到人脸图像中的人脸所对应的人物信息。GPU332处理得到的美化后的人脸图像,可以由显示器340显示,和/或,由编码器350编码后存储至存储器360。
例如,以下为运用图11中的处理器220或运用图13中的图像处理电路(具体为CPU331和GPU332)实现控制方法的步骤:
CPU331获取二维的人脸图像,以及所述人脸图像对应的深度信息;CPU331根据所述深度信息和所述人脸图像,进行三维重构,得到人脸三维模型;GPU332根据所述人脸三维模型中各第一关键点相对位置,从预存的各三维模板中,确定匹配的目标三维模板;GPU332将所述人脸图像中的人脸识别为所述目标三维模板关联的人物信息。
为了实现上述实施例,本申请还提出一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如本申请前述实施例提出的人脸识别方法。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本申请的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或更多个用于实现定制逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请的实施例所属技术领域的技术人员所理解。
在流程图中表示或在此以其他方式描述的逻辑和/或步骤,例如,可以被认为是用于实现逻辑功能的可执行指令的定序列表,可以具体实现在任何计算机可读介质中,以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用,或结合这些指令执行系统、装置或设备而使用。就本说明书而言,"计算机可读介质"可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。计算机可读介质的更具体的示例(非穷尽性列表)包括以下:具有一个或多个布线的电连接部(电子装置),便携式计算机盘盒(磁装置),随机存取存储器(RAM),只读存储器(ROM),可擦除可编辑只读存储器(EPROM或闪速存储器),光纤装置,以及便携式光盘只读存储器(CDROM)。另外,计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质,因为可以例如通过对纸或其他介质进行光学扫描,接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序,然后将其存储在计算机存储器中。
应当理解,本申请的各部分可以用硬件、软件、固件或它们的组合来实现。在上述实施方式中,多个步骤或方法可以用存储在存储器中且由合适的指令执行系统执行的软件或固件来实现。如,如果用硬件来实现和在另一实施方式中一样,可用本领域公知的下列技术中的任一项或他们的组合来实现:具有用于对数据信号实现逻辑功能的逻辑门电路的离散逻辑电路,具有合适的组合逻辑门电路的专用集成电路,可编程门阵列(PGA),现场可编程门阵列(FPGA)等。
本技术领域的普通技术人员可以理解实现上述实施例方法携带的全部或部分步骤是可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,该程序在执行时,包括方法实施例的步骤之一或其组合。
此外,在本申请各个实施例中的各功能单元可以集成在一个处理模块中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个模块中。上述集成的模块既可以采用硬件的形式实现,也可以采用软件功能模块的形式实现。所述集成的模块如果以软件功能模块的形式实现并作为独立的产品销售或使用时,也可以存储在一个计算机可读取存储介质中。
上述提到的存储介质可以是只读存储器,磁盘或光盘等。尽管上面已经示出和描述了本申请的实施例,可以理解的是,上述实施例是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型。
Claims (24)
1.一种人脸识别方法,其特征在于,所述方法包括以下步骤:
获取二维的人脸图像,以及所述人脸图像对应的深度信息;
根据所述深度信息和所述人脸图像,进行三维重构,得到人脸三维模型;
根据所述人脸三维模型中各第一关键点相对位置,从预存的各三维模板中,确定匹配的目标三维模板;其中,所述目标三维模板中各第二关键点相对位置与所述人脸三维模型中对应的各第一关键点相对位置匹配;
将所述人脸图像中的人脸识别为所述目标三维模板关联的人物信息。
2.根据权利要求1所述的人脸识别方法,其特征在于,所述将所述人脸图像中的人脸识别为所述目标三维模板关联的人物信息之后,还包括:
根据所述人物信息,在所述人脸图像中进行人物标注;
对人物标注后的人脸图像进行展示。
3.根据权利要求2所述的人脸识别方法,其特征在于,所述根据所述人物信息,在所述人脸图像中进行人物标注,包括:
根据所述人物信息,获取对应的标记;
采用所述标记,对所述人脸图像中的人脸部分进行标注。
4.根据权利要求1所述的人脸识别方法,其特征在于,所述获取二维的人脸图像,包括:
在视频采集过程中,从至少两个不同的角度获取至少两张人脸图像。
5.根据权利要求4所述的人脸识别方法,其特征在于,所述根据所述深度信息和所述人脸图像,进行三维重构,得到人脸三维模型,包括:
对每一张人脸图像进行关键点识别,得到第三关键点;
对每一张人脸图像,根据第三关键点的深度信息和第三关键点在所述人脸图像上的位置,确定所述第三关键点对应的第一关键点在三维空间中的相对位置;根据所述第一关键点在三维空间中的相对位置,连接相邻的第一关键点,生成局部人脸三维框架;
根据不同的局部人脸三维框架中包含的相同第一关键点,对不同的局部人脸三维框架进行拼接,得到所述人脸三维模型的框架;
将所述人脸图像映射到所述人脸三维模型的框架,得到覆盖所述框架的皮肤纹理图。
6.根据权利要求5所述的人脸识别方法,其特征在于,所述将所述人脸图像映射到所述人脸三维模型的框架,得到覆盖所述框架的皮肤纹理图,包括:
获取所述框架中的多个第一区域;所述第一区域,是以各第一关键点为顶点得到的封闭区域;
根据所述人脸图像中的第三关键点,将所述人脸图像的人脸部分划分为以第三关键点为顶点的多个第二区域;
根据第一关键点与第三关键点之间的对应关系,确定各所述第二区域对应的第一区域;
对各第二区域内展示的图片内容渲染后,作为局部皮肤纹理贴图至所述人脸三维模型中对应的第一区域,得到覆盖所述框架的皮肤纹理图。
7.根据权利要求6所述的人脸识别方法,其特征在于,所述得到所述人脸三维模型的皮肤纹理图之后,还包括:
根据所述皮肤纹理图的颜色检测异常范围;
对所述异常范围进行修正。
8.根据权利要求7所述的人脸识别方法,其特征在于,所述对所述异常范围进行修正,包括:
根据所述异常范围在所述人脸图像中对应的深度信息,识别异常类型;
根据所述异常类型,采用对应的策略对所述异常范围内的肤色进行修正。
9.根据权利要求6所述的人脸识别方法,其特征在于,所述确定匹配的目标三维模板之后,还包括:
获取所述目标三维模板关联的用户偏好;
根据所述用户偏好,对所述人脸三维模型中各第一关键点进行位置调整;
对位置调整过程中出现形变的第一区域,拉伸或收缩第一区域内的局部皮肤纹理以填充形变后的第一区域。
10.根据权利要求9所述的人脸识别方法,其特征在于,所述根据所述用户偏好,对所述人脸三维模型中各第一关键点进行位置调整,包括:
根据所述用户偏好,确定需调整的第一关键点,以及对应的调整幅度范围;
对所述需调整的第一关键点,在对应的调整幅度范围内进行位置调整。
11.根据权利要求10所述的人脸识别方法,其特征在于,所述对所述需调整的第一关键点,在对应的调整幅度范围内进行位置调整之后,还包括:
在所述人脸三维模型中,确定与已调整的第一关键点相关联的第一关键点;
对关联的第一关键点,根据对应已调整的第一关键点的调整幅度,进行位置调整;其中,所述关联的第一关键点的调整幅度小于对应已调整的第一关键点的调整幅度。
12.根据权利要求11所述的人脸识别方法,其特征在于,所述对关联的第一关键点,根据对应已调整的第一关键点的调整幅度,进行位置调整,包括:
确定关联的第一关键点,与对应已调整的第一关键点之间的距离;
根据所述距离,减小对应已调整的第一关键点的调整幅度,得到所述关联的第一关键点的调整幅度。
13.根据权利要求1-12任一项所述的人脸识别方法,其特征在于,所述从预存的各三维模板中,确定匹配的目标三维模板之前,还包括:
在执行用户注册过程时,获取注册用户的人脸三维模型,并作为所述三维模板进行存储。
14.根据权利要求1-12任一项所述的人脸识别方法,其特征在于,所述获取二维的人脸图像之后,还包括:
对所述人脸图像进行识别,确定所述人脸图像的人脸部分不包含饰物。
15.根据权利要求1-12任一项所述的人脸识别方法,其特征在于,所述从预存的各人脸三维模板中,确定匹配的目标三维模板之后,还包括:
根据所述人脸三维模型,对所述匹配的目标三维模板进行修正。
16.一种人脸识别装置,其特征在于,所述装置包括:
获取模块,用于获取二维的人脸图像,以及所述人脸图像对应的深度信息;
重构模块,用于根据所述深度信息和所述人脸图像,进行三维重构,得到人脸三维模型;
确定模块,用于根据所述人脸三维模型中各第一关键点相对位置,从预存的各人脸三维模板中,确定匹配的目标三维模板;其中,所述目标三维模板中各第二关键点相对位置与所述人脸三维模型中对应的各第一关键点相对位置匹配;
识别模块,用于将所述人脸图像中的人脸识别为所述目标三维模板关联的人物信息。
17.一种电子设备,其特征在于,包括:存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时,实现如权利要求1-15中任一所述的人脸识别方法。
18.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-15中任一所述的人脸识别方法。
19.一种图像处理电路,其特征在于,所述图像处理电路包括:图像单元、深度信息单元和处理单元;
所述图像单元,用于输出二维的人脸图像;
所述深度信息单元,用于输出深度信息;
所述处理单元,分别与所述图像单元和所述深度信息单元电性连接,用于根据所述图像单元获取的二维的人脸图像,以及所述深度信息单元获取的对应的深度信息,识别与所述人脸图像中的人脸匹配的目标三维模板,输出所述目标三维模块关联的人物信息。
20.根据权利要求19所述的图像处理电路,其特征在于,所述图像单元,包括电性连接的图像传感器和图像信号处理ISP处理器;
所述图像传感器,用于输出原始图像数据;
所述ISP处理器,用于根据所述原始图像数据,输出所述人脸图像。
21.根据权利要求19或20所述的图像处理电路,其特征在于,所述深度信息单元,包括电性连接的结构光传感器和深度图生成芯片;
所述结构光传感器,用于生成红外散斑图;
所述深度图生成芯片,用于根据所述红外散斑图,输出所述深度信息;所述深度信息包括深度图。
22.根据权利要求21所述的图像处理电路,其特征在于,所述处理单元,包括电性连接的CPU和GPU;
其中,所述CPU,用于根据标定数据,对齐所述人脸图像与所述深度图,根据对齐后的所述人脸图像与所述深度图,输出人脸三维模型;
所述GPU,用于根据所述人脸三维模型,确定匹配的目标三维模板,输出所述目标三维模板关联的人物信息。
23.根据权利要求22所述的图像处理电路,其特征在于,所述GPU具体用于:
根据所述人脸三维模型,确定匹配的目标三维模板;
根据所述目标三维模板关联的人物信息,在所述人脸图像中进行标注;
输出标注人物信息的人脸图像。
24.根据权利要求23所述的图像处理电路,其特征在于,所述图像处理电路还包括显示单元;
所述显示单元,与所述GPU电性连接,用于对所述标注人物信息的人脸图像进行显示。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810551536.0A CN108764180A (zh) | 2018-05-31 | 2018-05-31 | 人脸识别方法、装置、电子设备及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810551536.0A CN108764180A (zh) | 2018-05-31 | 2018-05-31 | 人脸识别方法、装置、电子设备及可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108764180A true CN108764180A (zh) | 2018-11-06 |
Family
ID=64001285
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810551536.0A Pending CN108764180A (zh) | 2018-05-31 | 2018-05-31 | 人脸识别方法、装置、电子设备及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108764180A (zh) |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109584358A (zh) * | 2018-11-28 | 2019-04-05 | 深圳市商汤科技有限公司 | 一种三维人脸重建方法及装置、设备和存储介质 |
CN109740005A (zh) * | 2018-12-29 | 2019-05-10 | 北京经纬恒润科技有限公司 | 一种图像目标标注方法及装置 |
CN109753873A (zh) * | 2018-11-23 | 2019-05-14 | 合刃科技(武汉)有限公司 | 图像处理方法及相关装置 |
CN109876457A (zh) * | 2019-02-21 | 2019-06-14 | 百度在线网络技术(北京)有限公司 | 游戏角色生成方法、装置及存储介质 |
CN110222942A (zh) * | 2019-05-14 | 2019-09-10 | 北京天正聚合科技有限公司 | 一种识别导购员的方法、装置、电子设备及存储介质 |
CN110249340A (zh) * | 2019-04-24 | 2019-09-17 | 深圳市汇顶科技股份有限公司 | 人脸注册方法、人脸识别装置、识别设备和可存储介质 |
CN110276831A (zh) * | 2019-06-28 | 2019-09-24 | Oppo广东移动通信有限公司 | 三维模型的建构方法和装置、设备、计算机可读存储介质 |
CN110428390A (zh) * | 2019-07-18 | 2019-11-08 | 北京达佳互联信息技术有限公司 | 一种素材展示方法、装置、电子设备和存储介质 |
CN111144357A (zh) * | 2019-12-31 | 2020-05-12 | 北京明略软件系统有限公司 | 人脸识别方法和装置 |
CN111177677A (zh) * | 2018-11-09 | 2020-05-19 | 天梭股份有限公司 | 用于手表佩戴者的面部认证的方法 |
CN111325078A (zh) * | 2018-12-17 | 2020-06-23 | 航天信息股份有限公司 | 一种人脸识别方法、装置及存储介质 |
CN111401244A (zh) * | 2020-03-16 | 2020-07-10 | 安博思华智能科技有限责任公司 | 自适应控制多媒体黑板的方法、装置、介质和电子设备 |
CN112183508A (zh) * | 2020-11-30 | 2021-01-05 | 深圳阜时科技有限公司 | 指纹识别方法、指纹识别传感器及电子设备 |
CN112766215A (zh) * | 2021-01-29 | 2021-05-07 | 北京字跳网络技术有限公司 | 人脸融合方法、装置、电子设备及存储介质 |
CN113284229A (zh) * | 2021-05-28 | 2021-08-20 | 上海星阑信息科技有限公司 | 三维人脸模型生成方法、装置、设备及存储介质 |
CN115050149A (zh) * | 2022-06-17 | 2022-09-13 | 郑州铁路职业技术学院 | 基于人脸识别的自助取款机及其取款方法 |
WO2023001095A1 (zh) * | 2021-07-23 | 2023-01-26 | 百果园技术(新加坡)有限公司 | 人脸关键点的插值方法、装置、计算机设备和存储介质 |
WO2024045454A1 (zh) * | 2022-08-29 | 2024-03-07 | 湖北星纪魅族科技有限公司 | 目标识别方法、存储介质及设备 |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100328307A1 (en) * | 2009-06-25 | 2010-12-30 | Samsung Electronics Co., Ltd. | Image processing apparatus and method |
CN102968645A (zh) * | 2012-10-24 | 2013-03-13 | 蔡翔 | 通过更新图像提高人脸识别准确率及适应性的方法 |
CN102999942A (zh) * | 2012-12-13 | 2013-03-27 | 清华大学 | 三维人脸重建方法 |
CN103745208A (zh) * | 2014-01-27 | 2014-04-23 | 中国科学院深圳先进技术研究院 | 一种人脸识别的方法及装置 |
CN104036546A (zh) * | 2014-06-30 | 2014-09-10 | 清华大学 | 一种基于自适应形变模型的任意视角人脸三维重构方法 |
CN105205779A (zh) * | 2015-09-15 | 2015-12-30 | 厦门美图之家科技有限公司 | 一种基于图像变形的眼部图像处理方法、系统及拍摄终端 |
CN105530435A (zh) * | 2016-02-01 | 2016-04-27 | 深圳市金立通信设备有限公司 | 一种拍摄方法及移动终端 |
CN106503606A (zh) * | 2015-09-08 | 2017-03-15 | 宏达国际电子股份有限公司 | 人脸影像调整系统及人脸影像调整方法 |
CN107093171A (zh) * | 2016-02-18 | 2017-08-25 | 腾讯科技(深圳)有限公司 | 一种图像处理方法及装置、系统 |
CN107622478A (zh) * | 2017-09-04 | 2018-01-23 | 维沃移动通信有限公司 | 一种图像处理方法、移动终端及计算机可读存储介质 |
CN107862663A (zh) * | 2017-11-09 | 2018-03-30 | 广东欧珀移动通信有限公司 | 图像处理方法、装置、可读存储介质和计算机设备 |
-
2018
- 2018-05-31 CN CN201810551536.0A patent/CN108764180A/zh active Pending
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20100328307A1 (en) * | 2009-06-25 | 2010-12-30 | Samsung Electronics Co., Ltd. | Image processing apparatus and method |
CN102968645A (zh) * | 2012-10-24 | 2013-03-13 | 蔡翔 | 通过更新图像提高人脸识别准确率及适应性的方法 |
CN102999942A (zh) * | 2012-12-13 | 2013-03-27 | 清华大学 | 三维人脸重建方法 |
CN103745208A (zh) * | 2014-01-27 | 2014-04-23 | 中国科学院深圳先进技术研究院 | 一种人脸识别的方法及装置 |
CN104036546A (zh) * | 2014-06-30 | 2014-09-10 | 清华大学 | 一种基于自适应形变模型的任意视角人脸三维重构方法 |
CN106503606A (zh) * | 2015-09-08 | 2017-03-15 | 宏达国际电子股份有限公司 | 人脸影像调整系统及人脸影像调整方法 |
CN105205779A (zh) * | 2015-09-15 | 2015-12-30 | 厦门美图之家科技有限公司 | 一种基于图像变形的眼部图像处理方法、系统及拍摄终端 |
CN105530435A (zh) * | 2016-02-01 | 2016-04-27 | 深圳市金立通信设备有限公司 | 一种拍摄方法及移动终端 |
CN107093171A (zh) * | 2016-02-18 | 2017-08-25 | 腾讯科技(深圳)有限公司 | 一种图像处理方法及装置、系统 |
CN107622478A (zh) * | 2017-09-04 | 2018-01-23 | 维沃移动通信有限公司 | 一种图像处理方法、移动终端及计算机可读存储介质 |
CN107862663A (zh) * | 2017-11-09 | 2018-03-30 | 广东欧珀移动通信有限公司 | 图像处理方法、装置、可读存储介质和计算机设备 |
Non-Patent Citations (2)
Title |
---|
李晓东: "《基于子空间和流行学习的人脸识别算法研究》", 30 June 2013, 山东人民出版社 * |
陈乙雄等: "《移动设备新技术简明教程》", 31 August 2016, 重庆大学出版社 * |
Cited By (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111177677A (zh) * | 2018-11-09 | 2020-05-19 | 天梭股份有限公司 | 用于手表佩戴者的面部认证的方法 |
CN109753873A (zh) * | 2018-11-23 | 2019-05-14 | 合刃科技(武汉)有限公司 | 图像处理方法及相关装置 |
CN109584358A (zh) * | 2018-11-28 | 2019-04-05 | 深圳市商汤科技有限公司 | 一种三维人脸重建方法及装置、设备和存储介质 |
CN111325078A (zh) * | 2018-12-17 | 2020-06-23 | 航天信息股份有限公司 | 一种人脸识别方法、装置及存储介质 |
CN109740005A (zh) * | 2018-12-29 | 2019-05-10 | 北京经纬恒润科技有限公司 | 一种图像目标标注方法及装置 |
CN109876457A (zh) * | 2019-02-21 | 2019-06-14 | 百度在线网络技术(北京)有限公司 | 游戏角色生成方法、装置及存储介质 |
CN110249340A (zh) * | 2019-04-24 | 2019-09-17 | 深圳市汇顶科技股份有限公司 | 人脸注册方法、人脸识别装置、识别设备和可存储介质 |
CN110222942A (zh) * | 2019-05-14 | 2019-09-10 | 北京天正聚合科技有限公司 | 一种识别导购员的方法、装置、电子设备及存储介质 |
CN110222942B (zh) * | 2019-05-14 | 2022-11-25 | 北京天正聚合科技有限公司 | 一种识别导购员的方法、装置、电子设备及存储介质 |
CN110276831A (zh) * | 2019-06-28 | 2019-09-24 | Oppo广东移动通信有限公司 | 三维模型的建构方法和装置、设备、计算机可读存储介质 |
CN110276831B (zh) * | 2019-06-28 | 2022-03-18 | Oppo广东移动通信有限公司 | 三维模型的建构方法和装置、设备、计算机可读存储介质 |
CN110428390A (zh) * | 2019-07-18 | 2019-11-08 | 北京达佳互联信息技术有限公司 | 一种素材展示方法、装置、电子设备和存储介质 |
US11521368B2 (en) | 2019-07-18 | 2022-12-06 | Beijing Dajia Internet Information Technology Co., Ltd. | Method and apparatus for presenting material, and storage medium |
CN110428390B (zh) * | 2019-07-18 | 2022-08-26 | 北京达佳互联信息技术有限公司 | 一种素材展示方法、装置、电子设备和存储介质 |
CN111144357A (zh) * | 2019-12-31 | 2020-05-12 | 北京明略软件系统有限公司 | 人脸识别方法和装置 |
CN111144357B (zh) * | 2019-12-31 | 2023-12-12 | 北京明略软件系统有限公司 | 人脸识别方法和装置 |
CN111401244A (zh) * | 2020-03-16 | 2020-07-10 | 安博思华智能科技有限责任公司 | 自适应控制多媒体黑板的方法、装置、介质和电子设备 |
CN111401244B (zh) * | 2020-03-16 | 2023-06-02 | 安博思华智能科技有限责任公司 | 自适应控制多媒体黑板的方法、装置、介质和电子设备 |
CN112183508A (zh) * | 2020-11-30 | 2021-01-05 | 深圳阜时科技有限公司 | 指纹识别方法、指纹识别传感器及电子设备 |
CN112183508B (zh) * | 2020-11-30 | 2021-06-29 | 深圳阜时科技有限公司 | 指纹识别方法、指纹识别传感器及电子设备 |
CN112766215A (zh) * | 2021-01-29 | 2021-05-07 | 北京字跳网络技术有限公司 | 人脸融合方法、装置、电子设备及存储介质 |
CN113284229A (zh) * | 2021-05-28 | 2021-08-20 | 上海星阑信息科技有限公司 | 三维人脸模型生成方法、装置、设备及存储介质 |
WO2023001095A1 (zh) * | 2021-07-23 | 2023-01-26 | 百果园技术(新加坡)有限公司 | 人脸关键点的插值方法、装置、计算机设备和存储介质 |
CN115050149A (zh) * | 2022-06-17 | 2022-09-13 | 郑州铁路职业技术学院 | 基于人脸识别的自助取款机及其取款方法 |
CN115050149B (zh) * | 2022-06-17 | 2023-08-04 | 郑州铁路职业技术学院 | 基于人脸识别的自助取款机及其取款方法 |
WO2024045454A1 (zh) * | 2022-08-29 | 2024-03-07 | 湖北星纪魅族科技有限公司 | 目标识别方法、存储介质及设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108764180A (zh) | 人脸识别方法、装置、电子设备及可读存储介质 | |
CN108550185A (zh) | 人脸美化处理方法和装置 | |
CN108876709A (zh) | 人脸美化方法、装置、电子设备及可读存储介质 | |
CN108765273A (zh) | 人脸拍照的虚拟整容方法和装置 | |
CN109118569A (zh) | 基于三维模型的渲染方法和装置 | |
CN108447017B (zh) | 人脸虚拟整容方法和装置 | |
CN107682607B (zh) | 图像获取方法、装置、移动终端和存储介质 | |
CN108876708A (zh) | 图像处理方法、装置、电子设备和存储介质 | |
CN107563304A (zh) | 终端设备解锁方法及装置、终端设备 | |
CN109191584A (zh) | 三维模型处理方法、装置、电子设备及可读存储介质 | |
CN109147037B (zh) | 基于三维模型的特效处理方法、装置和电子设备 | |
CN107480613A (zh) | 人脸识别方法、装置、移动终端和计算机可读存储介质 | |
CN108765272A (zh) | 图像处理方法、装置、电子设备及可读存储介质 | |
CN109147024A (zh) | 基于三维模型的表情更换方法和装置 | |
US20100189357A1 (en) | Method and device for the virtual simulation of a sequence of video images | |
CN107481304A (zh) | 在游戏场景中构建虚拟形象的方法及其装置 | |
CN107820005B (zh) | 图像处理方法、装置和电子装置 | |
CN109102559A (zh) | 三维模型处理方法和装置 | |
CN108682050A (zh) | 基于三维模型的美颜方法和装置 | |
CN107551549A (zh) | 游戏形象调整方法及其装置 | |
CN109191393A (zh) | 基于三维模型的美颜方法 | |
CN109242760A (zh) | 人脸图像的处理方法、装置和电子设备 | |
CN107895110A (zh) | 终端设备的解锁方法、装置及移动终端 | |
CN107392874A (zh) | 美颜处理方法、装置及移动设备 | |
CN107800962A (zh) | 图像处理方法、装置和电子装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20181106 |