CN108665421A - 人脸图像高光分量去除装置和方法、存储介质产品 - Google Patents
人脸图像高光分量去除装置和方法、存储介质产品 Download PDFInfo
- Publication number
- CN108665421A CN108665421A CN201710208707.5A CN201710208707A CN108665421A CN 108665421 A CN108665421 A CN 108665421A CN 201710208707 A CN201710208707 A CN 201710208707A CN 108665421 A CN108665421 A CN 108665421A
- Authority
- CN
- China
- Prior art keywords
- value
- high light
- light component
- color
- facial image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000001815 facial effect Effects 0.000 title claims abstract description 254
- 238000000034 method Methods 0.000 title claims abstract description 49
- 238000012937 correction Methods 0.000 claims abstract description 52
- 239000011159 matrix material Substances 0.000 claims description 223
- 230000006870 function Effects 0.000 claims description 69
- 238000005516 engineering process Methods 0.000 claims description 28
- 238000007689 inspection Methods 0.000 claims description 22
- 230000015654 memory Effects 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 17
- 238000000354 decomposition reaction Methods 0.000 claims description 6
- 229940050561 matrix product Drugs 0.000 claims 1
- 238000001914 filtration Methods 0.000 description 15
- 150000003254 radicals Chemical class 0.000 description 9
- 238000001514 detection method Methods 0.000 description 7
- 210000001508 eye Anatomy 0.000 description 6
- 239000000203 mixture Substances 0.000 description 6
- 238000005457 optimization Methods 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000004458 analytical method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000002945 steepest descent method Methods 0.000 description 2
- 210000000216 zygoma Anatomy 0.000 description 2
- BVPWJMCABCPUQY-UHFFFAOYSA-N 4-amino-5-chloro-2-methoxy-N-[1-(phenylmethyl)-4-piperidinyl]benzamide Chemical compound COC1=CC(N)=C(Cl)C=C1C(=O)NC1CCN(CC=2C=CC=CC=2)CC1 BVPWJMCABCPUQY-UHFFFAOYSA-N 0.000 description 1
- 210000005252 bulbus oculi Anatomy 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000004744 fabric Substances 0.000 description 1
- 210000001061 forehead Anatomy 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- G06T5/70—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20182—Noise reduction or smoothing in the temporal domain; Spatio-temporal filtering
Abstract
一种人脸图像高光分量去除装置和方法、存储介质产品。该人脸图像高光分量去除装置包括全局估计模块、局部修正模块和高光分量去除模块。全局估计模块配置为基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计人脸图像皮肤区域的高光分量的粗略数值;局部修正模块配置为基于图像颜色值获取人脸图像皮肤区域的高光概率值,并基于高光概率值和人脸皮肤颜色值的连续特性修正粗略数值,以获取高光分量的修正数值;高光分量去除模块配置为基于修正数值去除人脸图像的高光分量。该人脸图像高光分量去除装置和方法提升了上述装置和方法的通用性和精确性。
Description
技术领域
本公开的实施例涉及一种人脸图像高光分量去除装置和方法、存储介质产品。
背景技术
由于人脸的部分区域(例如,鼻尖、额头、苹果肌等区域,参见图6(a))存在油光,使得所获取的人脸图像的颜色值(例如,RGB值)不仅包括与皮肤颜色相关的漫反射分量,还会包括与在拍摄人脸图像时照射到人脸上的光源的颜色相关的非漫反射分量(也即,镜面反射分量),上述人脸图像的颜色值所包含的非漫反射分量也被称为高光分量或高光噪声。例如,在拍摄人脸图像时照射到人脸上的光源的颜色为白色的情况下,上述非漫反射分量将使得人脸图像的部分区域的颜色相比于皮肤颜色偏白。高光分量或高光噪声会影响人脸的纹理特征,并使得人脸检测或识别的性能下降。去除人脸的高光分量将有助于提升人脸图片质量以及人脸识别准确性。
发明内容
本公开的一个实施例提供了一种人脸图像高光分量去除装置,该人脸图像高光分量去除装置包括全局估计模块、局部修正模块和高光分量去除模块。全局估计模块配置为基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计人脸图像皮肤区域的高光分量的粗略数值;局部修正模块配置为基于图像颜色值获取人脸图像皮肤区域的高光概率值,并基于高光概率值和人脸皮肤颜色值的连续特性修正粗略数值,以获取高光分量的修正数值;高光分量去除模块配置为基于修正数值去除人脸图像的高光分量。
例如,在本公开的一个实施例提供的人脸图像高光分量去除装置中,所述全局估计模块配置为基于所述图像颜色值和所述高光分量颜色值的经验值、使用非负矩阵分解法估计所述粗略数值。
例如,在本公开的一个实施例提供的人脸图像高光分量去除装置中,使用非负矩阵分解法估计所述粗略数值包括:基于所述图像颜色值和所述高光分量颜色值的经验值,通过迭代,最优化由所述人脸图像皮肤区域的所述图像颜色值构成的图像颜色值矩阵、系数矩阵和基矩阵构成的全局估计模块代价函数,以将所述人脸图像皮肤区域的所述图像颜色值构成的所述图像颜色值矩阵分解为所述系数矩阵和所述基矩阵的乘积,并由此获取所述粗略数值,所述全局估计模块代价函数包括稀疏性惩罚项。
例如,在本公开的一个实施例提供的人脸图像高光分量去除装置中,所述图像颜色值矩阵An,c与所述系数矩阵Bn,m和所述基矩阵Cm,c满足以下条件:
An,c=Bn,m×Cm,c
所述全局估计模块代价函数Fg满足以下条件:
Fg=||An,c-Bn,m×Cm,c||2+λ×||Bn,m||
其中,λ为稀疏性系数,n为所述人脸图像皮肤区域的像素个数,c为所选用的颜色模式表示颜色值使用的颜色分量个数,m为表示任一所述颜色分量所使用的基的个数,所述m为大于2的整数。
例如,在本公开的一个实施例提供的人脸图像高光分量去除装置中,所述图像颜色值矩阵An,c与所述系数矩阵Bn,m和所述基矩阵Cm,c分别满足以下条件:
其中,表示高光分量颜色值的基位于所述基矩阵Cm,c的第j行,所述j大于等于1、小于等于m;所述人脸图像皮肤区域的所述高光分量的所述粗略数值Hg满足以下条件:
所述粗略数值Hg和图像颜色值矩阵An,c的第i行分别表示人脸图像皮肤区域第i个像素的所述高光分量的所述粗略数值和所述图像颜色值,所述i大于等于1、小于等于n。
例如,在本公开的一个实施例提供的人脸图像高光分量去除装置中,根据所述高光分量颜色值的经验值获取所述基矩阵Cm,c迭代初值中的表示所述高光分量颜色值的基。
例如,在本公开的一个实施例提供的人脸图像高光分量去除装置中,所述图像颜色值、所述高光分量颜色值和所述人脸皮肤颜色值使用所述RGB颜色模式表示,表示所述高光分量颜色值的基的设定值满足R:G:B=0.33:0.66:0.66。
例如,在本公开的一个实施例提供的人脸图像高光分量去除装置中,表示任一所述颜色分量所使用的所述基的个数m为5-8个。
例如,在本公开的一个实施例提供的人脸图像高光分量去除装置中,所述局部修正模块配置为基于最优化局部修正模块代价函数来获得所述高光分量的所述修正数值,所述局部修正模块代价函数包括皮肤颜色值非连续惩罚项、高光分量漏检惩罚项和高光分量误报惩罚项。
例如,在本公开的一个实施例提供的人脸图像高光分量去除装置中,所述皮肤颜色值非连续惩罚项Flc、所述高光分量漏检惩罚项Flm和所述高光分量误报惩罚项Flf分别满足如下条件:
Flc=||▽(I-H)||,
Flm=||w·(H-Hg)||,
Flf=||(1-w)·H||,
其中,H表示所述高光分量的所述修正数值,Hg表示所述高光分量的所述粗略数值,w表示所述高光概率值,I表示所述人脸图像皮肤区域的所述图像颜色值。
例如,在本公开的一个实施例提供的人脸图像高光分量去除装置中,所述图像的任一像素处的所述高光概率值w满足如下条件:
其中,An,c表示所述人脸图像皮肤区域的所述图像颜色值构成的图像颜色值矩阵,表示对所述图像颜色值矩阵An,c每一列的最大值组成的行向量求和所获得的数值,sum(An,c,2)表示对所述图像颜色值矩阵An,c每一行求和后所获得的列向量。
例如,在本公开的一个实施例提供的人脸图像高光分量去除装置中,所述局部修正模块代价函数Fl满足如下条件:
Flc=||▽(I-H)||2+||w·(H-Hg)||2+||(1-w)·H||2。
例如,在本公开的一个实施例提供的人脸图像高光分量去除装置中,还包括人脸检测模块,所述人脸检测模块配置为获取所述人脸图像的人脸图像皮肤区域。
例如,在本公开的一个实施例提供的人脸图像高光分量去除装置中,还包括高斯滤波模块,其中,所述高斯滤波模块配置为对所述修正数值进行高斯滤波,以获取所述高光分量的所述修正数值的高斯滤波值,并将所述高光分量的所述高斯滤波值传递给所述高光分量去除模块。
本公开的另一个实施例提供了一种人脸图像高光分量去除方法,该人脸图像高光分量去除方法包括:基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计人脸图像皮肤区域的高光分量的粗略数值;基于图像颜色值获取人脸图像皮肤区域的高光概率值,并基于高光概率值和人脸皮肤颜色值的连续特性修正粗略数值,以获取高光分量的修正数值;基于修正数值去除人脸图像的高光分量。
例如,在本公开的另一个实施例提供的人脸图像高光分量去除方法中,基于所述图像颜色值和所述高光分量颜色值的经验值、使用非负矩阵分解法估计所述粗略数值。
例如,在本公开的另一个实施例提供的人脸图像高光分量去除方法中,使用非负矩阵分解法估计所述粗略数值包括:基于所述图像颜色值和所述高光分量颜色值的经验值,通过迭代,最优化由所述人脸图像皮肤区域的所述图像颜色值构成的图像颜色值矩阵、系数矩阵和基矩阵构成的全局估计模块代价函数,以将所述人脸图像皮肤区域的所述图像颜色值构成的所述图像颜色值矩阵分解为所述系数矩阵和所述基矩阵的乘积,并由此获取所述粗略数值,所述全局估计模块代价函数包括稀疏性惩罚项。
例如,在本公开的另一个实施例提供的人脸图像高光分量去除方法中,所述图像颜色值矩阵An,c与所述系数矩阵Bn,m和所述基矩阵Cm,c满足以下条件:
An,c=Bn,m×Cm,c
所述全局估计模块代价函数Fg满足以下条件:
Fg=||An,c-Bn,m×Cm,c||2+λ×||Bn,m||
其中,λ为稀疏性系数,n为所述人脸图像皮肤区域的像素个数,c为所选用的颜色模式表示颜色值使用的颜色分量个数,m为表示任一所述颜色分量所使用的基的个数,所述m为大于2的整数。
例如,在本公开的另一个实施例提供的人脸图像高光分量去除方法中,所述图像颜色值矩阵An,c与所述系数矩阵Bn,m和所述基矩阵Cm,c分别满足以下条件:
其中,表示高光分量颜色值的基位于所述基矩阵Cm,c的第j行,所述j大于等于1、小于等于m;所述人脸图像皮肤区域的所述高光分量的所述粗略数值Hg满足以下条件:
所述粗略数值Hg和图像颜色值矩阵An,c的第i行分别表示人脸图像皮肤区域第i个像素的所述高光分量的所述粗略数值和所述图像颜色值,所述i大于等于1、小于等于n。
例如,在本公开的另一个实施例提供的人脸图像高光分量去除方法中,根据所述高光分量颜色值的经验值获取所述基矩阵Cm,c迭代初值中的表示所述高光分量颜色值的基。
例如,在本公开的另一个实施例提供的人脸图像高光分量去除方法中,所述图像颜色值、所述高光分量颜色值和所述人脸皮肤颜色值使用所述RGB颜色模式表示,表示所述高光分量颜色值的基的设定值满足R:G:B=0.33:0.66:0.66。
例如,在本公开的另一个实施例提供的人脸图像高光分量去除方法中,表示任一所述颜色分量所使用的所述基的个数m为5-8个。
例如,在本公开的另一个实施例提供的人脸图像高光分量去除方法中,基于所述高光概率值和人脸皮肤颜色值的连续特性修正所述粗略数值,以获取所述高光分量的修正数值包括:基于最优化局部修正模块代价函数来获得所述高光分量的所述修正数值,所述局部修正模块代价函数包括皮肤颜色值非连续惩罚项、高光分量漏检惩罚项和高光分量误报惩罚项。
例如,在本公开的另一个实施例提供的人脸图像高光分量去除方法中,所述皮肤颜色值非连续惩罚项Flc、所述高光分量漏检惩罚项Flm和所述高光分量误报惩罚项Flf分别满足如下条件:
Flc=||▽(I-H)||,
Flm=||w·(H-Hg)||,
Flf=||(1-w)·H||,
其中,H表示所述高光分量的所述修正数值,Hg表示所述高光分量的所述粗略数值,w表示所述高光概率值,I表示所述人脸图像皮肤区域的所述图像颜色值。
例如,在本公开的另一个实施例提供的人脸图像高光分量去除方法中,所述图像的任一像素处的所述高光概率值w满足如下条件:
其中,An,c表示所述人脸图像皮肤区域的所述图像颜色值构成的图像颜色值矩阵,表示对所述图像颜色值矩阵An,c每一列的最大值组成的行向量求和所获得的数值,sum(An,c,2)表示对所述图像颜色值矩阵An,c每一行求和后所获得的列向量。
例如,在本公开的另一个实施例提供的人脸图像高光分量去除方法中,所述局部修正模块代价函数Fl满足如下条件:
Flc=||▽(I-H)||2+||w·(H-Hg)||2+||(1-w)·H||2。
例如,在本公开的另一个实施例提供的人脸图像高光分量去除方法中,还包括获取所述人脸图像的人脸图像皮肤区域。
例如,在本公开的另一个实施例提供的人脸图像高光分量去除方法中,在基于所述修正数值去除所述人脸图像的所述高光分量之前,对所述修正数值进行高斯滤波,以获取所述高光分量的所述修正数值的高斯滤波值。
本公开的再一个实施例提供了一种人脸图像高光分量去除装置,该人脸图像高光分量去除装置包括处理器和存储器,存储器中存储有计算机程序指令,计算机程序指令被处理器运行时执行以下步骤:基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计人脸图像皮肤区域的高光分量的粗略数值;基于图像颜色值获取人脸图像皮肤区域的高光概率值,并基于高光概率值和人脸皮肤颜色值的连续特性修正粗略数值,以获取高光分量的修正数值;基于修正数值去除人脸图像的高光分量。
本公开的再一个实施例提供了一种存储介质产品,该存储介质产品存储有计算机程序指令,计算机程序指令被处理器运行时执行以下步骤:基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计人脸图像皮肤区域的高光分量的粗略数值;基于图像颜色值获取人脸图像皮肤区域的高光概率值,并基于高光概率值和人脸皮肤颜色值的连续特性修正粗略数值,以获取高光分量的修正数值;基于修正数值去除人脸图像的高光分量。
附图说明
为了更清楚地说明本公开实施例的技术方案,下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅涉及本公开的一些实施例,并非对本公开的限制。
图1是本公开一个实施例提供的一种人脸图像高光分量去除装置的示意性框图;
图2是本公开一个实施例提供的一种将人脸图像皮肤区域的图像颜色值构成的图像颜色值矩阵分解为系数矩阵和基矩阵的乘积的示例性方法;
图3是本公开一个实施例提供的另一种人脸图像高光分量去除装置的示意性框图;
图4是本公开另一个实施例提供的一种人脸图像高光分量去除方法的流程图;
图5是本公开再一个实施例提供的一种人脸图像高光分量去除装置的示意性框图;
图6(a)是去除人脸图像高光分量之前的人脸图像;
图6(b)是去除人脸图像高光分量之后的人脸图像;以及
图7是人脸图像皮肤区域网格化的一种示例性方法。
具体实施方式
下面将结合附图,对本公开实施例中的技术方案进行清楚、完整地描述参考在附图中示出并在以下描述中详述的非限制性示例实施例,更加全面地说明本公开的示例实施例和它们的多种特征及有利细节。应注意的是,图中示出的特征不是必须按照比例绘制。本公开省略了已知材料、组件和工艺技术的描述,从而不使本公开的示例实施例模糊。所给出的示例仅旨在有利于理解本公开示例实施例的实施,以及进一步使本领域技术人员能够实施示例实施例。因而,这些示例不应被理解为对本公开的实施例的范围的限制。
除非另外特别定义,本公开使用的技术术语或者科学术语应当为本公开所属领域内具有一般技能的人士所理解的通常意义。本公开中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性,而只是用来区分不同的组成部分。此外,在本公开各个实施例中,相同或类似的参考标号表示相同或类似的构件。
发明人注意到,现有的去除人脸图像高光分量的方法主要是基于分析人脸的局部颜色来查找高光分量以消除人脸图像的高光分量。例如,现有的去除人脸图像高光分量的方法可以基于人脸图像中的颜色差异(例如,存在高光分量的区域相比于周围区域的颜偏白)获取人脸图像的每个像素存在高光分量的概率,在像素存在高光分量的概率大于某一预先设定的固定阈值的情况下,认为该像素位于高光区域中。然而,现有的去除人脸图像高光分量的方法主要存在以下的两个问题。第一,受限于基于分析人脸的局部颜色来查找高光分量的技术方案的局限性(例如,图像采集设备的非线性响应效应以及图像采集过程中的过曝现象),上述方法查找到的高光区域不准确。第二,由于上述方法基于预先设定的固定阈值判定人脸图像的各个像素是否位于高光区域,而不同人脸的高光分量大小差异较大,由此降低了上述方法的通用性。
本公开的实施例提供了一种人脸图像高光分量去除装置和方法,提升了人脸图像高光分量去除装置和方法的通用性和精确性。
本公开的至少一个实施例提供了一种人脸图像高光分量去除装置,该人脸图像高光分量去除装置包括全局估计模块、局部修正模块和高光分量去除模块。全局估计模块配置为基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计人脸图像皮肤区域的高光分量的粗略数值;局部修正模块配置为基于图像颜色值获取人脸图像皮肤区域的高光概率值,并基于高光概率值和人脸皮肤颜色值的连续特性修正粗略数值,以获取高光分量的修正数值;高光分量去除模块配置为基于修正数值去除人脸图像的高光分量。
例如,图1是本公开一个实施例提供的人脸图像高光分量去除装置100的示意性框图。例如,如图1所示,该人脸图像高光分量去除装置100包括全局估计模块110、局部修正模块120和高光分量去除模块130。全局估计模块110、局部修正模块120和高光分量去除模块130可以通过软件、硬件、固件或它们的任意组合实现,并且可以根据如下的描述实现,而具体实现方式(例如软件编程、FPGA编程等)这里不再详述。
例如,全局估计模块110可以配置为基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计人脸图像皮肤区域的高光分量的粗略数值。例如,根据实际应用需求,人脸图像皮肤区域可以是人脸图像除眼球、鼻孔之外的图像区域。例如,获取人脸图像皮肤区域的具体方法可以根据经验设置,在此不再赘述。
例如,人脸图像皮肤区域的图像颜色值可以使用RGB颜色模式来描述,也即是使用分别代表红色、绿色和蓝色颜色分量的三个数值表示颜色值。例如,在使用RGB颜色模式来描述颜色值的情况下,可以使用(255,0,0)代表红色,使用(0,0,0)代表黑色,使用(255,255,255)代表白色,使用(160,32,240)代表紫色。例如,本公开将以使用RGB颜色模式为例来具体阐述相关实施例,但本公开的实施例并不限于此。
例如,全局估计模块110的估计人脸图像皮肤区域的高光分量的粗略数值的方法可以根据实际应用需求进行选择,本公开的实施例对此不做具体限定。例如,可以基于图像颜色值和高光分量颜色值的经验值、使用非负矩阵分解法估计粗略数值。
例如,可以基于图像颜色值和高光分量颜色值的经验值,通过迭代,最优化由人脸图像皮肤区域的图像颜色值构成的图像颜色值矩阵、系数矩阵和基矩阵构成的全局估计模块代价函数,以将人脸图像皮肤区域的图像颜色值构成的图像颜色值矩阵分解为系数矩阵和基矩阵的乘积,并由此获取粗略数值,全局估计模块代价函数例如可以包括稀疏性惩罚项。
例如,在使用非负矩阵分解法的情况下,人脸图像皮肤区域的图像颜色值可以使用图像颜色值矩阵An,c进行表示。n表示人脸图像皮肤区域的像素的个数;c为所选用的颜色模式表示颜色值使用的颜色分量个数,对于RGB颜色模式,c等于3。例如,图像颜色值矩阵An,c满足以下条件:
图像颜色值矩阵An,c的第i行表示人脸图像皮肤区域第i个像素的图像颜色值,i大于等于1、小于等于n。
例如,可以将人脸图像皮肤区域划分为多个像素(例如,n个像素),然后可以基于多个像素对应的皮肤图像的颜色值形成一个图像颜色值矩阵An,c,以作为人脸图像皮肤区域的图像颜色值。例如,将人脸图像皮肤区域划分为多个像素的方法,以及基于多个像素对应的皮肤图像的颜色值形成图像颜色值矩阵的方法可以参见本领域现有的技术方法,本公开的实施例对此不做具体限定。例如,可以将人脸图像皮肤区域网格化成如图7所示的形式,然后基于人脸皮肤区域的多个像素获取图像颜色值矩阵An,c,例如,在获取图像颜色值矩阵An,c的同时,可以记录下图像颜色值矩阵每个像素的位置信息,例如,每个像素的位置信息可以由(x,y)表示,(x,y)例如可以表示该像素位于人脸皮肤区域网格的第几行和第几列,但本公开实施例的获取图像颜色值矩阵的方法和记录像素的位置信息的方法不限于此。
例如,高光分量颜色值的经验值可以根据拍摄人脸图像时照射到人脸的光源颜色以及人脸的皮肤颜色进行设定,本公开的实施例对此不做具体限定。例如,在拍摄人脸图像时照射到人脸上的光源颜色为白色的情况下,高光分量颜色值的经验值可设定为(0.33,0.66,0.66)。
例如,基于图像颜色值和高光分量颜色值的经验值,通过迭代,最优化由图像颜色值矩阵、系数矩阵和基矩阵构成的全局估计模块代价函数的具体方法可以根据实际应用需求进行选择,本申请的实施例对此不做具体限定。为便于理解,在此先阐述通过迭代获取的系数矩阵Bn,m和基矩阵Cm,c,迭代的具体实现方法的示例将在其后阐述。
例如,在基于图像颜色值和高光分量颜色值的经验值,通过迭代,最优化全局估计模块代价函数之后,人脸图像皮肤区域的图像颜色值构成的图像颜色值矩阵An,c可以分解为系数矩阵Bn,m和基矩阵Cm,c的乘积。例如,图像颜色值矩阵An,c、系数矩阵Bn,m和基矩阵Cm,c可以满足以下条件:
An,c=Bn,m×Cm,c。
例如,m为表示任一颜色分量所使用的基的个数,m为大于2的整数。例如,表示任一颜色分量所使用的基的个数m可以为5-8范围内的任一整数,m例如可以设置为5或7。例如,将人脸图像皮肤区域的图像颜色值构成的图像颜色值矩阵An,c分解为系数矩阵Bn,m和基矩阵Cm,c的乘积的含义是使得An,c-Bn,m×Cm,c尽可能的接近零,而不是仅限于An,c-Bn,m×Cm,c=0情形。
例如,系数矩阵Bn,m和基矩阵Cm,c可以分别满足以下条件:
例如,基矩阵Cm,c中表示高光分量颜色值的基位于第j行,j大于等于1、小于等于m。例如,可以使用基矩阵Cm,c的最后一行(也即是第m行)作为表示高光分量颜色值的基。
例如,在表示高光分量颜色值的基位于基矩阵Cm,c的第j行的情况下,根据迭代获得的系数矩阵Bn,m和基矩阵Cm,c,人脸图像皮肤区域的高光分量的粗略数值Hg可以表示为如下形式:
其中,粗略数值Hg的第i行表示人脸图像皮肤区域第i个像素的高光分量的粗略数值,i大于等于1、小于等于n。
例如,为了便于理解图像颜色值矩阵An,c、系数矩阵Bn,m和基矩阵Cm,c,下面将使用以下的示例对图像颜色值矩阵An,c、系数矩阵Bn,m和基矩阵Cm,c做具体阐述,也即是,使用RGB颜色模式来描述颜色值、表示任一颜色分量所使用的基的个数m为5、且表示高光分量颜色值的基位于基矩阵的最后一行的示例,但本公开的实施例不限于此。例如,在满足上述情况下,图像颜色值矩阵An,3、系数矩阵Bn,5和基矩阵C5,3可以具体表示为如下形式:
例如,图像颜色值矩阵An,3第n行表示图像颜色值矩阵An,3中的第n个像素的RGB值;基矩阵C5,3的第一、二、三列分别为用于表示红色、绿色、蓝色颜色分量的基;系数矩阵Bn,5中第n行表示第n个像素的基对应的系数,系数矩阵Bn,5中最后一列的列向量代表n个像素的高光分量的系数。例如,在通过迭代将图像颜色值矩阵An,3分解为系数矩阵Bn,5和基矩阵C5,3之后,图像颜色值矩阵An,3中的第n个像素对应的皮肤图像的颜色值(rn,gn,bn)可以表示为如下形式:
rn=Bn1×rc1+Bn2×rc2+Bn3×rc3+Bn4×rc4+Bng×rcg
gn=Bn1×gc1+Bn2×gc2+Bn3×gc3+Bn4×gc4+Bng×gcg
bn=Bn1×bc1+Bn2×bc2+Bn3×bc3+Bn4×bc4+Bng×bcg
例如,在基矩阵C5,3的第一行(rc1,gc2,bc1)表示皮肤颜色值的基,基矩阵C5,3的最后一行(rcg,gcg,bcg)表示高光分量颜色值的基的情况下,基矩阵C5,3中的第二行至第四行代表自由基。例如,对于红色颜色分量,rc1和rcg可以分别代表皮肤颜色值的基和高光分量颜色值的基,rc2、rc3和rc4可以代表红色颜色分量的自由基。
例如,图像颜色值矩阵An,3中的第n个像素对应的高光分量值可以由以下的表达式表示:
(rn,gn,bn)=(Bng×rcg,Bng×gcg,Bng×bcg)。
由此可以获得人脸图像皮肤区域的高光分量的粗略数值。
下面将详细阐述基于图像颜色值和高光分量颜色值的经验值,通过迭代,最优化由人脸图像皮肤区域的图像颜色值构成的图像颜色值矩阵、系数矩阵和基矩阵构成的全局估计模块代价函数、以将人脸图像皮肤区域的所述图像颜色值构成的图像颜色值矩阵分解为系数矩阵和基矩阵的乘积的具体方法。例如,如图2所示,将人脸图像皮肤区域的图像颜色值构成的图像颜色值矩阵分解为系数矩阵和基矩阵的乘积可以通过以下的步骤实现:
步骤S101:获取系数矩阵Bn,m和基矩阵Cm,c的初值;
步骤S102:构建全局估计模块代价函数;
步骤S103:执行迭代以最优化全局估计模块代价函数,并获取优化后的系数矩阵Bn,m和基矩阵Cm,c。
例如,在步骤S101中,系数矩阵Bn,m的初值可以随机产生;基矩阵Cm,c的表示高光分量颜色值的基的矩阵分量的初值可以由高光分量颜色值的经验值表示(例如,可以由(0.33,0.66,0.66)表示),基矩阵Cm,c的除表示高光分量颜色值的基的矩阵分量的初值可以随机产生。例如,随机产生初值的方法可以参照现有的随机数产生技术,在此不再赘述。
例如,在步骤S102中,使用图像颜色值矩阵An,c、系数矩阵Bn,m和基矩阵Cm,c构成全局估计模块代价函数可以根据实际应用需求进行设定,本公开的实施例对此不做具体限定。例如,全局估计模块代价函数Fg可以满足以下条件:
Fg=||An,c-Bn,m×Cm,c||2+λ×||Bn,m||,
其中,λ×||Bn,m||表示稀疏性惩罚项,λ为稀疏性系数,|| ||表示矩阵的范数。例如,稀疏性系数λ可以设置为1-10之间的任意数值,稀疏性系数λ例如可以设置为3或7。例如,||Bn,m||可以表示系数矩阵Bn,m的1-范数。例如,||An,c-Bn,m×Cm,c||2可以表示矩阵An,c-Bn,m×Cm,c的2-范数的平方。
例如,步骤S101和步骤S102的执行顺序可以互换,也即是,可以首先构建全局估计模块代价函数,然后再获取系数矩阵Bn,m和基矩阵Cm,c的初值。
例如,在步骤S103中,可以通过执行迭代以最优化全局估计模块代价函数。例如,迭代方法可以根据实际应用需求进行设定,本公开的实施例对此不做具体限定。例如,可以使用乘性迭代或最速下降法最优化(例如,最小化)全局估计模块代价函数。例如,通过最小化全局估计模块代价函数,可以使得An,c-Bn,m×Cm,c尽可能的接近零,由此图像颜色值构成的图像颜色值矩阵An,c可以分解为系数矩阵Bn,m和基矩阵Cm,c的乘积Bn,m×Cm,c,进而可以基于优化后的系数矩阵Bn,m和基矩阵Cm,c以及前述的方法获取人脸图像皮肤区域的高光分量的粗略数值。
例如,由于在表示人脸图像皮肤区域颜色值时,除使用了皮肤颜色值的基以及高光分量颜色值的基之外,还使用了自由基,使得全局估计模块110获取的人脸图像皮肤区域的高光分量的粗略数值与表示任一颜色分量所使用的基的个数m以及基矩阵中表示高光分量颜色值的基的矩阵分量的初值(也即是,高光分量颜色值的经验值)弱相关,由此可以提升人脸图像高光分量去除装置100的通用性。
例如,由于全局估计模块代价函数中包含稀疏性惩罚项λ×||Bn,m||,在最小化全局估计模块代价函数之后,可以使得系数矩阵Bn,m中除表示皮肤颜色值的矩阵分量以及表示高光分量粗略值的矩阵分量之外的矩阵分量(也即是,系数矩阵Bn,m中对应于自由基的矩阵分量)接近于零,由此可以提升所获取的人脸图像皮肤区域的高光分量的粗略数值的准确性。
例如,局部修正模块120可以配置为基于图像颜色值获取人脸图像皮肤区域的高光概率值,并基于高光概率值和人脸皮肤颜色值的连续特性修正粗略数值,以获取高光分量的修正数值。例如,局部修正模块120的具体实现方式可以根据实际应用需求进行选择,本公开的实施例对此不做具体限定。
例如,可以基于高光概率值和人脸皮肤颜色值的连续特性构建局部修正模块代价函数来修正粗略数值。例如,局部修正模块120可以配置为基于最优化局部修正模块代价函数来获得高光分量的修正数值,局部修正模块代价函数包括皮肤颜色值非连续惩罚项、高光分量漏检惩罚项和高光分量误报惩罚项。例如,皮肤颜色值非连续惩罚项、高光分量漏检惩罚项以及高光分量误报惩罚项的具体实现方式可以根据实际应用需求进行选择,本公开的实施例对此不做具体限定。
例如,皮肤颜色值非连续惩罚项Flc、高光分量漏检惩罚项Flm和高光分量误报惩罚项Flf可以分别满足以下条件:
Flc=||▽(I-H)||,
Flm=||w·(H-Hg)||,
Flf=||(1-w)·H||。
例如,H表示高光分量的修正数值,也即是局部修正模块120在最优化局部修正模块代价函数后输出的数值。I表示人脸图像皮肤区域的图像颜色值,例如,I可以由图像颜色值矩阵An,c表示。I-H可以表示人脸皮肤的颜色值,例如,I-H可以使用M表示。例如,||▽(I-H)||2可以表示矩阵▽(I-H)的2-范数的平方。▽表示不连续惩罚函数,例如▽对矩阵(I-H)操作可以表示使用一个像素的皮肤颜色值的4倍减去与该像素相邻的上下左右位置处的四个像素的颜色值,也即是▽(I-H)可以表示为以下形式:
▽(I-H)=▽M(x,y)=4×M(x,y)-M(x,y+1)-M(x+1,y)-M(x-1,y)。
例如,在迭代中,可以根据图像颜色值矩阵An,c、图像颜色值矩阵An,c中每个像素的位置信息以及高光分量的修正数值计算获得矩阵▽(I-H)。例如,如果一个像素的皮肤颜色值与该像素相邻的上下左右位置处的四个像素的皮肤颜色值差值较小的情况下,▽(I-H)的绝对值较小,因此,非连续惩罚项Flc的数值也较小。由此,局部修正模块120可以通过最小化局部修正模块代价函数可以使得去除高光分量之后的人脸图像的颜色值具有连贯性。
例如,Hg表示高光分量的粗略数值,也即是全局估计模块110输出的数值。例如,高光分量漏检惩罚项和高光分量误报惩罚项中的范数可以均表示2-范数,但本公开的实施例不限于此。
例如,w表示高光概率值,高光概率值w的具体实现方式可以根据实际应用需求进行选择,本公开的实施例对此不做具体限定。例如,图像的任一像素处的高光概率值w可以满足如下条件:
表示对图像颜色值矩阵An,c每一列的最大值组成的行向量求和所获得的数值,sum(An,c,2)表示对图像颜色值矩阵An,c每一行求和后所获得的列向量。
例如,在使用RGB颜色模式表示人脸图像皮肤区域的图像颜色值的情况下,第n列像素的高光概率值可以表示为以下形式:
rn,gn和bn分别代表第n个像素皮肤图像的红色、绿色和蓝色颜色分量值。rmax,gmax和bmax分别代表图像颜色值矩阵中代表红色、绿色和蓝色颜色值分量的列矩阵中的最大值。例如,如果一个像素的皮肤图像的红色、绿色和蓝色颜色分量值之和越大,代表该像素有更大可能性包含更大的高光分量值,也即是高光概率值w越大。
例如,在一个像素具有较大的高光概率值w、且高光分量的修正数值漏检了该像素的高光分量(例如,该像素处的高光分量的修正数值小于该像素处的高光分量的真实值),高光分量漏检惩罚项Flm的数值将较大。因此,局部修正模块120可以通过最小化局部修正模块代价函数可以填补未检测出的高光分量(例如,将该像素处的高光分量值修正为更接近高光分量真实值的数值)。
例如,在一个像素具有较小的高光概率值w、且高光分量的修正数值误报了该像素的高光分量(例如,该像素处的高光分量的修正数值大于该像素处的高光分量的真实值),高光分量误报惩罚项Flf的数值将较大。因此,局部修正模块120可以通过最小化局部修正模块代价函数可以抑制过高的高光分量(例如,将像素处的高光分量值修正为更接近高光分量真实值的数值)。
例如,局部修正模块代价函数Fl可以满足如下条件:
Flc=||▽(I-H)||2+||w·(H-Hg)||2+||(1-w)·H||2,
也即是,皮肤颜色值非连续惩罚项、高光分量漏检惩罚项和高光分量误报惩罚项的数值之和。显然,本公开的实施例不限于此,例如,在高光分量的修正数值H的误报现象比较严重的情况下,可以将局部修正模块代价函数中的高光分量误报惩罚项前乘以一个大于1的系数,该系数值例如可以为5,由此局部修正模块代价函数可以更好的修正人脸图像皮肤区域的高光分量的粗略数值,以获得更加接近高光分量真实值的高光分量修正数值。
例如,如图1所示,高光分量去除模块130可以配置为基于修正数值去除人脸图像的高光分量。例如,可以使用人脸图像的颜色值(例如,包括眼睛和鼻孔位置的人脸图像)直接减去局部修正模块120获取的高光分量的修正数值来去除人脸图像的高光分量。例如,使用人脸图像的颜色值直接减去局部修正模块120获取的高光分量的修正数值时,可以将人脸图像中的眼睛、鼻孔等部位的高光分量假定为零。
例如,如图3所示,人脸图像高光分量去除装置100还可以包括高斯滤波模块150。高斯滤波模块150可以通过软件、硬件、固件或它们的任意组合实现,并且可以根据如下的描述实现,而具体实现方式(例如软件编程、FPGA编程等)这里不再详述。例如,高斯滤波模块150可以配置为对高光分量的修正数值进行高斯滤波,以获取高光分量的修正数值的高斯滤波值,并将高光分量的高斯滤波值传递给高光分量去除模块130。由此,得到的高光分量的修正数值将更加平滑,对应地,高光分量去除模块130输出的去除了高光分量后的人脸图像的颜色值的连续性可以得到进一步的提升。
例如,如图3所示,人脸图像高光分量去除装置100还可以包括人脸检测模块140,人脸检测模块140可以配置为获取人脸图像的人脸图像皮肤区域。例如,人脸检测模块140可以包括人脸位置确定单元、关键点定位单元和皮肤区域确定单元。例如,人脸位置确定单元可以确定人脸在图像中的位置;关键点定位单元可以得到人脸图像中人脸的各个关键点(例如,眼角、嘴角、鼻翼、颧骨最高点、外轮廓点等)的精确位置;皮肤区域确定单元可以通过连接关键点确定眼睛、鼻孔的位置,然后在将眼睛鼻孔去除后获取人脸图像皮肤区域。人脸检测模块140(包括人脸位置确定单元、关键点定位单元和皮肤区域确定单元等)可以通过软件、硬件、固件或它们的任意组合实现,并且可以根据如下的描述实现,而具体实现方式(例如软件编程、FPGA编程等)这里不再详述。例如,该人脸检测模块140接收输入的图像,该图像例如来自图像输入装置或来自网络接口程序等,该图像输入装置例如为摄像头(例如CMOS或CCD摄像头)。
例如,人脸位置确定单元和关键点定位单元可以使用现有的人脸位置确定算法和人脸关键点定位算法来实现。例如,可以预先搜集大量(例如,10000张或更多)人脸图像,人工在每张图像中标注出人脸的眼角、嘴角、鼻翼、颧骨最高点、外轮廓点等一系列关键点,然后使用机器学习算法(如深度学习,或者基于局部特征的回归算法)进行训练,从而得到人脸位置确定单元和关键点定位单元。
本公开的至少一个实施例提供了一种人脸图像高光分量去除方法,该人脸图像高光分量去除方法包括:基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计人脸图像皮肤区域的高光分量的粗略数值;基于图像颜色值获取人脸图像皮肤区域的高光概率值,并基于高光概率值和人脸皮肤颜色值的连续特性修正粗略数值,以获取高光分量的修正数值;基于修正数值去除人脸图像的高光分量。
例如,图4是本公开另一个实施例提供的人脸图像高光分量去除方法的流程图。例如,如图4所示,该人脸图像高光分量去除方法可以包括以下的步骤:
步骤S10:基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计人脸图像皮肤区域的高光分量的粗略数值;
步骤S20:基于图像颜色值获取人脸图像皮肤区域的高光概率值,并基于高光概率值和人脸皮肤颜色值的连续特性修正粗略数值,以获取高光分量的修正数值;
步骤S30:基于修正数值去除人脸图像的高光分量。
例如,在步骤S10中,根据实际应用需求,人脸图像皮肤区域可以是人脸图像除眼球、鼻孔之外的图像区域,人脸图像皮肤区域的图像颜色值可以使用RGB颜色模式来描述。例如,人脸图像皮肤区域的图像颜色值可以使用图像颜色值矩阵An,c进行表示,n表示人脸图像皮肤区域的像素的个数,c为所选用的颜色模式表示颜色值使用的颜色分量个数。例如,图像颜色值矩阵An,c满足以下条件:
图像颜色值矩阵An,c的第i行表示人脸图像皮肤区域第i个像素的图像颜色值,i大于等于1、小于等于n。例如,获取人脸图像皮肤区域的具体方法、人脸图像皮肤区域的图像颜色值的表示方法以及高光分量颜色值的经验值的设定方法可以参见本公开一个实施例提供的人脸图像高光分量去除装置,在此不再赘述。
例如,基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计人脸图像皮肤区域的高光分量的粗略数值的方法可以根据实际应用需求进行选择,本公开的实施例对此不做具体限定。例如,可以基于图像颜色值和高光分量颜色值的经验值,通过迭代,最优化由人脸图像皮肤区域的图像颜色值构成的图像颜色值矩阵、系数矩阵和基矩阵构成的全局估计模块代价函数,以将人脸图像皮肤区域的图像颜色值构成的图像颜色值矩阵分解为系数矩阵和基矩阵的乘积,并由此获取粗略数值,全局估计模块代价函数例如可以包括稀疏性惩罚项。
例如,通过迭代,最优化全局估计模块代价函数之后,人脸图像皮肤区域的图像颜色值构成的图像颜色值矩阵An,c可以分解为系数矩阵Bn,m和基矩阵Cm,c的乘积,具体地,图像颜色值矩阵An,c、系数矩阵Bn,m和基矩阵Cm,c可以满足以下条件:
An,c=Bn,m×Cm,c。
例如,m为表示任一颜色分量所使用的基的个数,m为大于2的整数。由于表示颜色所使用的基的个数m大于2,因此在表示人脸图像皮肤区域的颜色值时,除了使用皮肤颜色值的基以及高光分量颜色值的基,还使用了自由基。
例如,将人脸图像皮肤区域的图像颜色值构成的图像颜色值矩阵An,c分解为系数矩阵Bn,m和基矩阵Cm,c的乘积的含义是使得An,c-Bn,m×Cm,c尽可能的接近零,而不是仅限于An,c-Bn,m×Cm,c=0情形。
例如,系数矩阵Bn,m和基矩阵Cm,c可以分别满足以下条件:
例如,表示高光分量颜色值的基位于基矩阵Cm,c的第j行,j大于等于1、小于等于m。例如,在表示高光分量颜色值的基位于基矩阵Cm,c的第j行的情况下,根据迭代获得的系数矩阵Bn,m和基矩阵Cm,c,人脸图像皮肤区域的高光分量的粗略数值Hg可以表示为如下形式:
其中,粗略数值Hg的第i行表示人脸图像皮肤区域第i个像素的高光分量的粗略数值,i大于等于1、小于等于n。
例如,基于图像颜色值和高光分量颜色值的经验值,通过迭代,最优化由图像颜色值矩阵、系数矩阵和基矩阵构成的全局估计模块代价函数、以将人脸图像皮肤区域的所述图像颜色值构成的图像颜色值矩阵分解为系数矩阵和基矩阵的乘积可以通过图2所示的步骤实现,也即是,获取系数矩阵Bn,m和基矩阵Cm,c的初值以及构建全局估计模块代价函数之后,执行迭代以最优化全局估计模块代价函数,并获取优化后的系数矩阵Bn,m和基矩阵Cm,c。
例如,在步骤S101中,基矩阵Cm,c的表示高光分量颜色值的基的矩阵分量的初值可以由高光分量颜色值的经验值表示,基矩阵的除表示高光分量颜色值的基的矩阵分量的初值以及系数矩阵Bn,m的初值可以随机产生。
例如,在步骤S102中,使用图像颜色值矩阵An,c、系数矩阵Bn,m和基矩阵Cm,c构成全局估计模块代价函数可以根据实际应用需求进行设定,本公开的实施例对此不做具体限定。例如,全局估计模块代价函数Fg可以满足以下条件:
Fg=||An,c-Bn,m×Cm,c||2+λ×||Bn,m||,
其中,λ×||Bn,m||表示稀疏性惩罚项,λ为稀疏性系数,|| ||表示矩阵的范数。
例如,在步骤S103中,可以通过执行迭代以最优化全局估计模块代价函数。例如,迭代方法的可以根据实际应用需求进行设定,本公开的实施例对此不做具体限定。例如,可以使用乘性迭代或最速下降法最优化(例如,最小化)全局估计模块代价函数。例如,通过最小化全局估计模块代价函数,可以使得An,c-Bn,m×Cm,c尽可能的接近零,由此图像颜色值构成的图像颜色值矩阵An,c可以分解为系数矩阵Bn,m和基矩阵Cm,c的乘积Bn,m×Cm,c,进而可以基于优化后的系数矩阵Bn,m和基矩阵Cm,c以及前述的方法获取人脸图像皮肤区域的高光分量的粗略数值。
例如,由于在表示人脸皮肤区域的颜色值时,除使用了皮肤颜色值的基以及高光分量颜色值的基之外,还使用了自由基,使得获取的人脸图像皮肤区域的高光分量的粗略数值与表示任一颜色分量所使用的基的个数m以及基矩阵中表示高光分量颜色值的基的矩阵分量的初值(也即是,高光分量颜色值的经验值)弱相关,由此可以提升人脸图像高光分量去除方法的通用性。
例如,由于全局估计模块代价函数中包含稀疏性惩罚项λ×||Bn,m||,在最小化全局估计模块代价函数之后,可以使得系数矩阵Bn,m中除表示皮肤颜色值的矩阵分量以及表示高光分量粗略值的矩阵分量之外的矩阵分量(也即是,系数矩阵Bn,m中对应于自由基的矩阵分量)接近于零,由此可以提升所获取的人脸图像皮肤区域的高光分量的粗略数值的准确性。
例如,在步骤S20中,基于图像颜色值获取人脸图像皮肤区域的高光概率值,并基于高光概率值和人脸皮肤颜色值的连续特性修正粗略数值,以获取高光分量的修正数值的具体实现方法可以根据实际应用需求进行选择,本公开的实施例对此不做具体限定。
例如,可以基于高光概率值和人脸皮肤颜色值的连续特性构建局部修正模块代价函数来修正粗略数值。例如,可以基于最优化局部修正模块代价函数来获得高光分量的修正数值,局部修正模块代价函数包括皮肤颜色值非连续惩罚项、高光分量漏检惩罚项和高光分量误报惩罚项。例如,皮肤颜色值非连续惩罚项、高光分量漏检惩罚项以及高光分量误报惩罚项的具体实现方式可以根据实际应用需求进行选择,本公开的实施例对此不做具体限定。
例如,皮肤颜色值非连续惩罚项Flc、高光分量漏检惩罚项Flm和高光分量误报惩罚项Flf可以分别满足以下条件:
Flc=||▽(I-H)||,
Flm=||w·(H-Hg)||,
Flf=||(1-w)·H||。
例如,H表示高光分量的修正数值。I表示人脸图像皮肤区域的图像颜色值,例如,I可以由图像颜色值矩阵An,c表示。I-H可以表示人脸皮肤的颜色值,例如,I-H可以使用M表示。例如,||▽(I-H)||2可以表示矩阵▽(I-H)的2-范数的平方。▽表示不连续惩罚函数,例如▽(I-H)可以表示使用一个像素的皮肤颜色值的4倍减去与该像素相邻的上下左右位置处的四个像素的颜色值,也即是▽(I-H)可以表示为以下形式:
▽(I-H)=▽M(x,y)=4×M(x,y)-M(x,y+1)-M(x+1,y)-M(x-1,y)。
此时,如果一个像素的皮肤颜色值与该像素相邻的上下左右位置处的四个像素的皮肤颜色值差值较小的情况下,▽(I-H)的绝对值较小,因此,非连续惩罚项Flc的数值也较小。由此可以通过最小化局部修正模块代价函数可以使得去除高光分量之后的人脸图像的颜色值具有连贯性。
例如,Hg表示高光分量的粗略数值。例如,w表示高光概率值,高光概率值w的具体实现方式可以根据实际应用需求进行选择,本公开的实施例对此不做具体限定。例如,图像的任一像素处的高光概率值w可以满足如下条件:
表示对图像颜色值矩阵An,c每一列的最大值组成的行向量求和所获得的数值,sum(An,c,2)表示对图像颜色值矩阵An,c每一行求和后所获得的列向量。
例如,在一个像素具有较大的高光概率值w、且高光分量的修正数值漏检了该像素的高光分量(例如,该像素处的高光分量的修正数值小于该像素处的高光分量的真实值),高光分量漏检惩罚项Flm的数值将较大。因此,局部修正模块可以通过最小化局部修正模块代价函数可以填补未检测出的高光分量(例如,将像素处的高光分量值修正为更接近高光分量真实值的数值)。
例如,在一个像素具有较小的高光概率值w、且高光分量的修正数值误报了该像素的高光分量(例如,该像素处的高光分量的修正数值大于该像素处的高光分量的真实值),高光分量误报惩罚项Flf的数值将较大。因此,局部修正模块可以通过最小化局部修正模块代价函数可以抑制过高的高光分量(例如,将像素处的高光分量值修正为更接近高光分量真实值的数值)。
例如,局部修正模块代价函数Fl可以满足如下条件:
Flc=||▽(I-H)||2+||w·(H-Hg)||2+||(1-w)·H||2,
也即是,皮肤颜色值非连续惩罚项、高光分量漏检惩罚项和高光分量误报惩罚项的数值之和。显然,本申请的实施例不限于此。
例如,在步骤S30中,可以基于修正数值去除人脸图像的高光分量。例如,可以使用人脸图像的颜色值直接减去局部修正模块获取的高光分量的修正数值来去除人脸图像的高光分量。例如,使用人脸图像的颜色值直接减去局部修正模块获取的高光分量的修正数值时,可以将人脸图像中的眼睛、鼻孔等部位的高光分量假定为零。
例如,在步骤S10之前,还可以获取人脸图像的人脸图像皮肤区域,获取人脸图像的人脸图像皮肤区域的方法可以参见本公开一个实施例提供的人脸图像高光分量去除装置,在此不再赘述。
例如,在步骤S20之后、步骤S30之前,还可以包括对修正数值进行高斯滤波,以获取高光分量的修正数值的高斯滤波值,然后基于高光分量的修正数值的高斯滤波值去除人脸图像的高光分量。由于高斯滤波后的高光分量的修正数值的更加平滑,去除人脸图像的高光分量后得到的人脸图像的颜色值的连续性可以得到进一步的提升。
本公开的至少一个实施例提供了一种人脸图像高光分量去除装置,该人脸图像高光分量去除装置包括处理器和存储器,存储器中存储有计算机程序指令,计算机程序指令被处理器运行时执行以下步骤:基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计人脸图像皮肤区域的高光分量的粗略数值;基于图像颜色值获取人脸图像皮肤区域的高光概率值,并基于高光概率值和人脸皮肤颜色值的连续特性修正粗略数值,以获取高光分量的修正数值;基于修正数值去除人脸图像的高光分量。
例如,图5是本公开再一个实施例提供的人脸图像高光分量去除装置200的示意性框图。例如,如图5所示,该人脸图像高光分量去除装置200包括处理器210和存储器220,存储器220中存储有计算机程序指令,计算机程序指令被处理器210运行时执行以下步骤:
S201:基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计人脸图像皮肤区域的高光分量的粗略数值;
S202:基于图像颜色值获取人脸图像皮肤区域的高光概率值,并基于高光概率值和人脸皮肤颜色值的连续特性修正粗略数值,以获取高光分量的修正数值;
S203:基于修正数值去除人脸图像的高光分量。
例如,该处理器210可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元,可以X86架构或ARM架构实现,例如,该处理器210可以为通用处理器,并且也可以为单片机、微处理器、数字信号处理器、专用的图像处理芯片(例如GPU)、或现场可编程逻辑阵列等。例如,该处理器210可以为单核处理器,也可以为多核处理器;该处理器210可以为单个处理器,也可以为多个处理器的组合,并且这些处理器可以布置同一地理位置,也可以布置在不同地理位置。
例如,该存储器220例如可以包括易失性存储器和/或非易失性存储器,例如可以包括只读存储器(ROM)、硬盘、闪存等多种类型的存储装置或存储介质。相应地,该存储器220可以实现为一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,在所述计算机可读存储介质上可以存储一个或多个计算机程序指令。该存储器220可以为多个存储器的组合,这些存储器可以布置同一地理位置,也可以布置在不同地理位置。
例如,该处理器210可以运行所述程序指令,以实现下文所述的本公开至少一个实施例中人脸图像高光分量去除装置200的功能以及/或者其它期望的功能,例如可以估计人脸图像皮肤区域的高光分量的粗略数值、获取高光分量的修正数值等。
例如,该存储器220还可以存储其他各种应用程序和各种数据,例如,人脸图像皮肤区域的图像颜色值、高光分量颜色值的经验值以及所述应用程序使用和/或产生的各种数据等。
例如,在步骤S201中,由于在表示人脸图像皮肤区域颜色值时,除使用了皮肤颜色值的基以及高光分量颜色值的基之外,还使用了自由基,使得全局估计模块获取的人脸图像皮肤区域的高光分量的粗略数值与表示任一颜色分量所使用的基的个数以及基矩阵中表示高光分量颜色值的基的矩阵分量的初值(也即是,高光分量颜色值的经验值)弱相关,由此可以提升人脸图像高光分量去除装置200的通用性。
例如,在步骤S201中,由于全局估计模块代价函数中包含稀疏性惩罚项,在最小化全局估计模块代价函数之后,可以使得系数矩阵中除表示皮肤颜色值的矩阵分量以及表示高光分量粗略值的矩阵分量之外的矩阵分量(也即是系数矩阵中对应于自由基的矩阵分量)接近于零,由此可以提升所获取的人脸图像皮肤区域的高光分量的粗略数值的准确性。
例如,在步骤S202中,如果一个像素的皮肤颜色值与该像素相邻的上下左右位置处的四个像素的皮肤颜色值差值较小的情况下,非连续惩罚项的数值也较小。由此,局部修正模块可以通过最小化局部修正模块代价函数可以使得去除高光分量之后的人脸图像的颜色值具有连贯性。
例如,在步骤S202中,在一个像素具有较大的高光概率值w、且高光分量的修正数值漏检了该像素的高光分量(例如,该像素处的高光分量的修正数值小于该像素处的高光分量的真实值),高光分量漏检惩罚项的数值将较大。因此,局部修正模块可以通过最小化局部修正模块代价函数可以填补未检测出的高光分量(例如,将像素处的高光分量值修正为更接近高光分量真实值的数值)。
例如,在步骤S202中,在一个像素具有较小的高光概率值w、且高光分量的修正数值误报了该像素的高光分量(例如,该像素处的高光分量的修正数值大于该像素处的高光分量的真实值),高光分量误报惩罚项的数值将较大。因此,局部修正模块可以通过最小化局部修正模块代价函数可以抑制过高的高光分量(例如,将像素处的高光分量值修正为更接近高光分量真实值的数值)。
例如,步骤S201-步骤S203的具体内容可以参见本公开另一个实施例提供的人脸图像高光分量去除方法中的步骤S10-S30,在此不再赘述。
本公开的再一个实施例提供了一种存储介质产品,该存储介质产品存储有计算机程序指令,计算机程序指令被处理器运行时执行以下步骤:基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计人脸图像皮肤区域的高光分量的粗略数值;基于图像颜色值获取人脸图像皮肤区域的高光概率值,并基于高光概率值和人脸皮肤颜色值的连续特性修正粗略数值,以获取高光分量的修正数值;基于修正数值去除人脸图像的高光分量。该存储介质产品例如可以包括易失性存储器和/或非易失性存储器,例如可以包括只读存储器(ROM)、硬盘、闪存等多种类型的存储装置或存储介质。
本公开的实施例提供了一种人脸图像高光分量去除装置和方法,提升了人脸图像高光分量去除装置和方法的通用性和精确性。
虽然上文中已经用一般性说明及具体实施方式,对本公开作了详尽的描述,但在本公开实施例基础上,可以对之作一些修改或改进,这对本领域技术人员而言是显而易见的。因此,在不偏离本公开精神的基础上所做的这些修改或改进,均属于本公开要求保护的范围。
Claims (10)
1.一种人脸图像高光分量去除装置,包括:
全局估计模块,配置为基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计所述人脸图像皮肤区域的高光分量的粗略数值;
局部修正模块,配置为基于所述图像颜色值获取所述人脸图像皮肤区域的高光概率值,并基于所述高光概率值和人脸皮肤颜色值的连续特性修正所述粗略数值,以获取所述高光分量的修正数值;
高光分量去除模块,配置为基于所述修正数值去除所述人脸图像的所述高光分量。
2.根据权利要求1所述的人脸图像高光分量去除装置,其中,
所述全局估计模块配置为基于所述图像颜色值和所述高光分量颜色值的经验值、使用非负矩阵分解法估计所述粗略数值。
3.根据权利要求2所述的人脸图像高光分量去除装置,其中,
使用非负矩阵分解法估计所述粗略数值包括:基于所述图像颜色值和所述高光分量颜色值的经验值,通过迭代,最优化由所述人脸图像皮肤区域的所述图像颜色值构成的图像颜色值矩阵、系数矩阵和基矩阵构成的全局估计模块代价函数,以将所述人脸图像皮肤区域的所述图像颜色值构成的所述图像颜色值矩阵分解为所述系数矩阵和所述基矩阵的乘积,并由此获取所述粗略数值,
所述全局估计模块代价函数包括稀疏性惩罚项。
4.根据权利要求1-3任一项所述的人脸图像高光分量去除装置,其中,
所述局部修正模块配置为基于最优化局部修正模块代价函数来获得所述高光分量的所述修正数值,所述局部修正模块代价函数包括皮肤颜色值非连续惩罚项、高光分量漏检惩罚项和高光分量误报惩罚项。
5.根据权利要求4所述的人脸图像高光分量去除装置,其中,
所述皮肤颜色值非连续惩罚项Flc、所述高光分量漏检惩罚项Flm和所述高光分量误报惩罚项Flf分别满足如下条件:
Flc=||▽(I-H)||,
Flm=||w·(H-Hg)||,
Flf=||(1-w)·H||,
其中,H表示所述高光分量的所述修正数值,Hg表示所述高光分量的所述粗略数值,w表示所述高光概率值,I表示所述人脸图像皮肤区域的所述图像颜色值。
6.一种人脸图像高光分量去除装置,包括处理器和存储器,其中,所述存储器中存储有计算机程序指令,所述计算机程序指令被所述处理器运行时执行以下步骤:
基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计所述人脸图像皮肤区域的高光分量的粗略数值;
基于所述图像颜色值获取所述人脸图像皮肤区域的高光概率值,并基于所述高光概率值和人脸皮肤颜色值的连续特性修正所述粗略数值,以获取所述高光分量的修正数值;
基于所述修正数值去除所述人脸图像的所述高光分量。
7.一种人脸图像高光分量去除方法,包括:
基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计所述人脸图像皮肤区域的高光分量的粗略数值;
基于所述图像颜色值获取所述人脸图像皮肤区域的高光概率值,并基于所述高光概率值和人脸皮肤颜色值的连续特性修正所述粗略数值,以获取所述高光分量的修正数值;
基于所述修正数值去除所述人脸图像的所述高光分量。
8.根据权利要求7所述的人脸图像高光分量去除方法,其中,
基于所述图像颜色值和所述高光分量颜色值的经验值、使用非负矩阵分解法估计所述粗略数值。
9.根据权利要求7或8所述的人脸图像高光分量去除方法,
其中,基于所述高光概率值和人脸皮肤颜色值的连续特性修正所述粗略数值,以获取所述高光分量的修正数值包括:
基于最优化局部修正模块代价函数来获得所述高光分量的所述修正数值,所述局部修正模块代价函数包括皮肤颜色值非连续惩罚项、高光分量漏检惩罚项和高光分量误报惩罚项。
10.一种存储介质产品,该存储介质产品存储有计算机程序指令,计算机程序指令被处理器运行时执行以下步骤:
基于人脸图像皮肤区域的图像颜色值和高光分量颜色值的经验值估计人脸图像皮肤区域的高光分量的粗略数值;
基于图像颜色值获取人脸图像皮肤区域的高光概率值,并基于高光概率值和人脸皮肤颜色值的连续特性修正粗略数值,以获取高光分量的修正数值;
基于修正数值去除人脸图像的高光分量。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710208707.5A CN108665421B (zh) | 2017-03-31 | 2017-03-31 | 人脸图像高光分量去除装置和方法、存储介质产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710208707.5A CN108665421B (zh) | 2017-03-31 | 2017-03-31 | 人脸图像高光分量去除装置和方法、存储介质产品 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108665421A true CN108665421A (zh) | 2018-10-16 |
CN108665421B CN108665421B (zh) | 2021-05-14 |
Family
ID=63783922
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710208707.5A Active CN108665421B (zh) | 2017-03-31 | 2017-03-31 | 人脸图像高光分量去除装置和方法、存储介质产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108665421B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109903320A (zh) * | 2019-01-28 | 2019-06-18 | 浙江大学 | 一种基于肤色先验的人脸本征图像分解方法 |
CN111192241A (zh) * | 2019-12-23 | 2020-05-22 | 深圳市优必选科技股份有限公司 | 一种人脸图像的质量评估方法、装置及计算机存储介质 |
CN111583128A (zh) * | 2020-04-09 | 2020-08-25 | 清华大学 | 基于深度学习和真实感渲染的人脸图片高光去除方法 |
CN111882495A (zh) * | 2020-07-05 | 2020-11-03 | 东北林业大学 | 一种基于自定义模糊逻辑与gan的图像高光处理方法 |
CN113221618A (zh) * | 2021-01-28 | 2021-08-06 | 深圳市雄帝科技股份有限公司 | 人脸图像去高光的方法、系统及其存储介质 |
CN113469895A (zh) * | 2021-05-12 | 2021-10-01 | 电子科技大学 | 一种基于颜色分区的图像高光去除方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040130731A1 (en) * | 2002-12-11 | 2004-07-08 | Fuji Xerox Co., Ltd. | Range finder and method |
CN105405130A (zh) * | 2015-11-02 | 2016-03-16 | 北京旷视科技有限公司 | 基于聚类的证照图像高光检测方法及装置 |
CN105469034A (zh) * | 2015-11-17 | 2016-04-06 | 西安电子科技大学 | 基于加权式鉴别性稀疏约束非负矩阵分解的人脸识别方法 |
CN105678713A (zh) * | 2016-02-03 | 2016-06-15 | 哈尔滨理工大学 | 基于线性扩散板与反射分量分离理论的高光去除方法 |
CN105719234A (zh) * | 2016-01-26 | 2016-06-29 | 厦门美图之家科技有限公司 | 用于人脸区域的自动去油光方法、系统及拍摄终端 |
CN106296617A (zh) * | 2016-08-22 | 2017-01-04 | 腾讯科技(深圳)有限公司 | 人脸图像的处理方法及装置 |
CN106327438A (zh) * | 2016-08-12 | 2017-01-11 | 武汉秀宝软件有限公司 | 一种对高光和重复纹理消除的增强现实方法及爬行垫应用 |
CN107924579A (zh) * | 2015-08-14 | 2018-04-17 | 麦特尔有限公司 | 生成个性化3d头部模型或3d身体模型的方法 |
-
2017
- 2017-03-31 CN CN201710208707.5A patent/CN108665421B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040130731A1 (en) * | 2002-12-11 | 2004-07-08 | Fuji Xerox Co., Ltd. | Range finder and method |
CN107924579A (zh) * | 2015-08-14 | 2018-04-17 | 麦特尔有限公司 | 生成个性化3d头部模型或3d身体模型的方法 |
CN105405130A (zh) * | 2015-11-02 | 2016-03-16 | 北京旷视科技有限公司 | 基于聚类的证照图像高光检测方法及装置 |
CN105469034A (zh) * | 2015-11-17 | 2016-04-06 | 西安电子科技大学 | 基于加权式鉴别性稀疏约束非负矩阵分解的人脸识别方法 |
CN105719234A (zh) * | 2016-01-26 | 2016-06-29 | 厦门美图之家科技有限公司 | 用于人脸区域的自动去油光方法、系统及拍摄终端 |
CN105678713A (zh) * | 2016-02-03 | 2016-06-15 | 哈尔滨理工大学 | 基于线性扩散板与反射分量分离理论的高光去除方法 |
CN106327438A (zh) * | 2016-08-12 | 2017-01-11 | 武汉秀宝软件有限公司 | 一种对高光和重复纹理消除的增强现实方法及爬行垫应用 |
CN106296617A (zh) * | 2016-08-22 | 2017-01-04 | 腾讯科技(深圳)有限公司 | 人脸图像的处理方法及装置 |
Non-Patent Citations (4)
Title |
---|
ALI MADOOEI等: "DETECTING SPECULAR HIGHLIGHTS IN DERMATOLOGICAL IMAGES", 《ICIP2015》 * |
曹彦玲: "基于样条插值的胶囊内窥镜图像三维重建", 《中国优秀硕士学位论文全文数据库信息科技辑》 * |
王超群等: "一种去除单张图片中高光的方法", 《上海大学学报(自然科学版)》 * |
程岳: "基于光度立体的高质量表面重建研究", 《中国博士学位论文全文数据库信息科技辑》 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109903320A (zh) * | 2019-01-28 | 2019-06-18 | 浙江大学 | 一种基于肤色先验的人脸本征图像分解方法 |
CN109903320B (zh) * | 2019-01-28 | 2021-06-08 | 浙江大学 | 一种基于肤色先验的人脸本征图像分解方法 |
CN111192241A (zh) * | 2019-12-23 | 2020-05-22 | 深圳市优必选科技股份有限公司 | 一种人脸图像的质量评估方法、装置及计算机存储介质 |
CN111192241B (zh) * | 2019-12-23 | 2024-02-13 | 深圳市优必选科技股份有限公司 | 一种人脸图像的质量评估方法、装置及计算机存储介质 |
CN111583128A (zh) * | 2020-04-09 | 2020-08-25 | 清华大学 | 基于深度学习和真实感渲染的人脸图片高光去除方法 |
CN111583128B (zh) * | 2020-04-09 | 2022-08-12 | 清华大学 | 基于深度学习和真实感渲染的人脸图片高光去除方法 |
CN111882495A (zh) * | 2020-07-05 | 2020-11-03 | 东北林业大学 | 一种基于自定义模糊逻辑与gan的图像高光处理方法 |
CN113221618A (zh) * | 2021-01-28 | 2021-08-06 | 深圳市雄帝科技股份有限公司 | 人脸图像去高光的方法、系统及其存储介质 |
CN113221618B (zh) * | 2021-01-28 | 2023-10-17 | 深圳市雄帝科技股份有限公司 | 人脸图像去高光的方法、系统及其存储介质 |
CN113469895A (zh) * | 2021-05-12 | 2021-10-01 | 电子科技大学 | 一种基于颜色分区的图像高光去除方法 |
CN113469895B (zh) * | 2021-05-12 | 2023-05-23 | 电子科技大学 | 一种基于颜色分区的图像高光去除方法 |
Also Published As
Publication number | Publication date |
---|---|
CN108665421B (zh) | 2021-05-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108665421A (zh) | 人脸图像高光分量去除装置和方法、存储介质产品 | |
CN103262119B (zh) | 用于对图像进行分割的方法和系统 | |
Li et al. | Nonnegative mixed-norm preconditioning for microscopy image segmentation | |
CN107123088B (zh) | 一种自动更换证件照背景颜色的方法 | |
US8346022B2 (en) | System and method for generating an intrinsic image using tone mapping and log chromaticity | |
CN104252700B (zh) | 一种红外图像的直方图均衡化方法 | |
US8483480B2 (en) | Method and system for factoring an illumination image | |
CN108550125A (zh) | 一种基于深度学习的光学畸变修正方法 | |
US8385655B2 (en) | Method and system for generating intrinsic images using single reflectance technique | |
US8559714B2 (en) | Post processing for improved generation of intrinsic images | |
US9760799B2 (en) | Pipeline for generating an intrinsic image | |
CN108961250A (zh) | 一种目标物统计方法、装置、终端以及存储介质 | |
CN105590307A (zh) | 基于透明度的抠图方法和装置 | |
Buyssens et al. | Eikonal-based vertices growing and iterative seeding for efficient graph-based segmentation | |
US20130084025A1 (en) | Method for Brightness Correction of Defective Pixels of Digital Monochrome Image | |
US9754155B2 (en) | Method and system for generating intrinsic images using a single reflectance technique | |
Lecca et al. | An image contrast measure based on Retinex principles | |
US8655102B2 (en) | Method and system for identifying tokens in an image | |
US8428352B1 (en) | Post processing for improved generation of intrinsic images | |
US8787662B2 (en) | Method and system for identifying tokens in an image | |
US8553979B2 (en) | Post processing for improved generation of intrinsic images | |
Xu et al. | A reference image database approach for NLM filter-regularized CT reconstruction | |
JP2023003763A (ja) | 学習装置、画像処理装置、学習処理方法、及びプログラム | |
CN110991225A (zh) | 基于多列卷积神经网络的人群计数与密度估计方法及装置 | |
Zheng et al. | 3D consistent biventricular myocardial segmentation using deep learning for mesh generation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |