CN102985941A - 彩色图像处理方法、彩色图像处理设备和彩色图像处理程序 - Google Patents
彩色图像处理方法、彩色图像处理设备和彩色图像处理程序 Download PDFInfo
- Publication number
- CN102985941A CN102985941A CN2011800310074A CN201180031007A CN102985941A CN 102985941 A CN102985941 A CN 102985941A CN 2011800310074 A CN2011800310074 A CN 2011800310074A CN 201180031007 A CN201180031007 A CN 201180031007A CN 102985941 A CN102985941 A CN 102985941A
- Authority
- CN
- China
- Prior art keywords
- component
- surface reflection
- reflection component
- color
- subject area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 76
- 238000003672 processing method Methods 0.000 title claims description 34
- 238000012937 correction Methods 0.000 claims abstract description 56
- 238000004364 calculation method Methods 0.000 claims abstract description 6
- 238000000034 method Methods 0.000 claims description 99
- 238000009792 diffusion process Methods 0.000 claims description 62
- 230000008569 process Effects 0.000 claims description 48
- 238000004040 coloring Methods 0.000 claims description 37
- 238000012360 testing method Methods 0.000 claims description 4
- 238000013459 approach Methods 0.000 claims 1
- 238000001514 detection method Methods 0.000 abstract description 15
- 230000003993 interaction Effects 0.000 description 22
- 238000010586 diagram Methods 0.000 description 17
- 238000005516 engineering process Methods 0.000 description 12
- 230000001815 facial effect Effects 0.000 description 12
- 230000008859 change Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 108091006146 Channels Proteins 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 238000013139 quantization Methods 0.000 description 5
- 230000003595 spectral effect Effects 0.000 description 5
- 238000001228 spectrum Methods 0.000 description 5
- 239000003086 colorant Substances 0.000 description 4
- 238000005286 illumination Methods 0.000 description 4
- 230000001105 regulatory effect Effects 0.000 description 4
- 101100310856 Drosophila melanogaster spri gene Proteins 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000006467 substitution reaction Methods 0.000 description 3
- 239000012237 artificial material Substances 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000001143 conditioned effect Effects 0.000 description 2
- 239000006185 dispersion Substances 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000002715 modification method Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 239000004033 plastic Substances 0.000 description 2
- 229920003023 plastic Polymers 0.000 description 2
- 238000002310 reflectometry Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 241000196324 Embryophyta Species 0.000 description 1
- 241001062009 Indigofera Species 0.000 description 1
- 241000406668 Loxodonta cyclotis Species 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000005315 distribution function Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 239000003973 paint Substances 0.000 description 1
- 239000000123 paper Substances 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000011514 reflex Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/001—Texturing; Colouring; Generation of texture or colour
-
- G06T5/77—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
- H04N1/62—Retouching, i.e. modification of isolated colours only or in isolated picture areas only
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
- H04N1/62—Retouching, i.e. modification of isolated colours only or in isolated picture areas only
- H04N1/628—Memory colours, e.g. skin or sky
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Abstract
对象区域检测装置从输入图像中检测对象区域,其为将要经历图像处理的区域。反射分量重建装置计算对象区域的颜色信息以及作为对象区域的低频分量的全漫射分量,以及基于颜色信息和低频分量来重建表面反射分量。表面反射分量修正装置根据参考表面反射分量来修正重建的表面反射分量,其中参考表面反射分量是根据对象区域事先设置的表面反射分量。重现颜色计算装置计算重现颜色,该重现颜色是通过使用全漫射分量和修正的表面反射分量、修正包括在输入图像中的每个像素而获取的颜色,以及基于重现颜色来生成输出图像。
Description
技术领域
本发明涉及对彩色图像的图像处理,以及更具体地,涉及彩色图像处理方法、彩色图像处理设备和彩色图像处理程序,其用于执行对实际上是使用成像设备捕获的彩色图像中的对象纹理进行改善的图像处理。
背景技术
作为对彩色图像捕获设备捕获的彩色图像质量进行改善的技术,已经提出了使彩色图像中特定对象的颜色(例如,肉色、植物的绿色和蓝色天空)更接近于该对象的存储器颜色的各种技术。使用这些方法能够重现期望的颜色。
例如,专利文献1公开了用于对彩色图像的颜色进行修正的技术。在专利文献1公开的自动颜色修正方法中,从图像的修正对象区域中提取代表性颜色,以及将该代表性颜色与用于修正的预定中心颜色(central color)进行比较,以确定RGB修正参数。而且,通过根据图像中的像素与中心颜色之间的距离、控制修正参数的应用强度来修正每个像素。
具体地,在专利文献1公开的方法中,根据作为相应像素的颜色信息的RGB值来计算相应像素的亮度、饱和度和色度(hue)。而且,计算颜色空间中每个像素的颜色与用于修正的中心颜色之间的距离,以及根据该距离调整修正强度。以此方式,集中修正对象的颜色。
在此技术中,基于RGB颜色空间中修正参数的加法和减法来执行颜色修正。例如,在人脸是肉色的情况下,根据每个颜色与用于修正的中心颜色之间的距离,针对每个像素计算RGB修正量。如果整张脸区域被照亮,则从基本上位于整个面部区域中每个像素的RGB值中减去或向其添加与距用于修正的中心颜色的距离相对应的修正参数。
专利文献2公开了在输入图像中检测面部区域的技术。根据专利文献2中公开的眼部检测方法,即使归因于在评估单个眼睛时会出现缺陷特征而不能将眼部与其他部分区分开,但是可以基于一双眼睛的特征、使用一双眼睛的评估值来区分眼睛和其他部分。
除了上述专利文献,专利文献3-5公开了与彩色图像修正过程有关的技术。专利文献3公开了颜色修正设备和方法,其中,当在光谱色的图像数据上执行颜色修正时,该光谱色的颜色空间被转换成具有比原始维度低的维度的颜色空间,在低维度颜色空间中执行颜色修正,以及根据低维度的光谱色生成适当维度的光谱色。
专利文献4公开了在具有不同参考白色的颜色系统之间将原始颜色空间转换成目标颜色空间的方法,其无需改变查看颜色的方式。具体地,在专利文献4公开的颜色转换方法中,根据作为原始颜色空间的参考白色的原始参考白色的色温来重建原始参考白色的光谱分布特征。而且,根据作为目标颜色空间的参考白色的目标参考白色的色温来重建目标参考白色的光谱分布特征。此外,使用可选颜色的三色值、原始参考白色的光谱分布特征以及人类的颜色匹配功能来重建原始颜色空间中该可选颜色的表面反射。此外,基于重建的表面反射、目标参考白色的重建光谱分布特征和人类的颜色匹配功能来获取作为目标颜色空间中的颜色的三色值。
专利文献5公开了针对在各种照明环境中捕获的自然图像中重要主体自动执行令人满意的颜色修正的技术。具体地,在专利文献5中公开的颜色修正方法中,提取特定对象的主体表面颜色,以及针对提取的主体表面颜色设置最优颜色修正参数。使用这些参数执行仅针对特定颜色应用的颜色修正转换。通过执行这种转换,可以针对在各种照明环境下捕获的、自然图像中的重要主体自动执行颜色修正。
而且,专利文献6公开了生成人脸皮肤反射模型以应用该模型渲染面部图像的技术。在专利文献6公开的方法中,首先,使用3D扫描仪扫描人脸以获取3维形状。在这种情况下,通过从不同方向和不同视点照射面部来获取多个面部图像。而且,使用表面扫描数据和图像数据来估计总反射率和法线图。而且,总反射率划分为(光谱)表面反射分量和表面下散射分量的两个分量,以及基于这些分量来估计漫反射。此外,使用光纤分光仪来扫描表面下反射,以获取透射图。
在专利文献7中,公开了这样的图像处理方法,其中,构成图像的每个像素的像素值划分为根据3维对象上表面反射的表面反射光分量和根据漫反射的漫反射光分量,并且漫反射光分量和表面反射光分量中的至少一个被改变。在专利文献7公开的图像处理方法中,使用Klinker的反射模型(下文称为Klinker的划分方法)和其他,反射模型划分成表面反射光分量和漫反射光分量。继而,每个划分的反射分量通过使用Phong照明模型、Lambertian反射模型等进行改变。
此外,非专利文献1公开了使用通用学习向量量化的面部检测方法。而且,非专利文献2公开了使用通用学习向量量化的面部检测方法,在该方法中,结合了检测眼睛的基于特征的面部检测方法和基于图像的面部检测方法。
而且,作为获取面部3维形状的方法,除了使用专利文献6中公开的3D扫描仪的方法之外,还已知(例如,非专利文献3)根据2维面部图像重建3维形状的面部信息(3维信息)的方法。
在专利文献1和2中公开的内容以及非专利文献1-2中公开的内容在本发明的示例性实施方式中的适当位置处进行参考。
引用列表
专利文献
专利文献1:日本专利号No.3264273
专利文献2:日本专利申请特开平(JP-A)No.2003-317084
专利文献3:JP-A No.2004-45189
专利文献4:JP-A No.10-229499
专利文献5:JP-A No.2001-92956
专利文献6:JP-A No.2006-277748
专利文献7:JP-A No.2001-52144
非专利文献
非专利文献1:2002年9月,I-30,FIT2002,Hosoi Toshinori、Suzuki Tetsuaki和Sato Atsushi的“Face Detection based onGeneralized Learning Vector Quantization”
非专利文献2:1996年9月30日,Maruzen公司,Tajima Johji的“Image Engineering Series 10,Color Image Duplication Theory,Basics of Color Management”,第33-39页
非专利文献3:2007年,IEICE(电子、信息和通信工程师协会)通用会议2007的会议记录,D-12-085,Ishiyama Rui,“Recognitionof Non-Frontal Facial Images by Pose Conversion using General 3DFace Model”,第201页
发明内容
技术问题
如在专利文献1中描述的颜色修正方法,在使用颜色的三个属性(诸如,色度、饱和度和亮度)和RGB来针对彩色图像中的修正目标区域进行修正的方法中,存在对象的原始纹理退化的情况。这是因为,在根据专利文献1公开的颜色修正方法对图像中包括的对象所代表的区域进行修正时,针对整个对象实施用于提高亮度、提高饱和度、改变色度等的颜色修正。当对图像中的某个对象的颜色进行修正以使得图像更亮时,会引起这样的现象,即,原始具有高像素值的颜色分量(例如,红色)饱和,而向其他颜色分量(绿色和蓝色)添加修正参数或从其减去修正参数。如果针对整个对象区域执行此过程,则该对象区域中的像素值或颜色信息的色散(dispersion)变窄,以及该对象区域中外观纹理退化。
换言之,在专利文献1描述的通用修正方法中,尽管通过将包括在彩色图像中对象的颜色设置为更期望的颜色,但是存在纹理退化的问题。
而且,专利文献6提出了应用至渲染面部图像的人类皮肤反射模型。然而,专利文献6中公开的方法需要光纤分光计,该光纤分光计是用于获取面部图像的3维信息的专门测量设备。因此,难以将此方法应用于由这种普通彩色图像处理设备执行的颜色修正。
为了解决这些问题,如非专利文献3所公开的,可以将根据2维面部图像重建3维面部图像的技术用作获取面部图像3维信息的方法。然而,当由普通的彩色图像处理执行颜色修正时,优选的是能够较之于非专利文献3中公开的重建技术进一步抑制计算成本。换言之,优选的是执行彩色图像处理,而无需使用上述专门测量设备或者使用需要高计算成本的技术。
另外,在专利文献7中公开的图像处理方法中,颜色是通过应用Klinker的划分方法和与照明和反射有关的模型(诸如,Phong照明模型或Lambertian反射模型)来改变的,而不用对包括在图像中的对象的3维信息进行重建。专利文献7中公开的图像处理方法是这样的技术,其在诸如塑料、油漆、纸张或陶瓷的假设反射模型频繁地与实际对象相符的情况下有效。然而,在具有复杂反射特征的对象(诸如,人类皮肤)使用专利文献7中公开的图像处理方法进行改变的情况下,存在可能出现伪象等的问题。由此,难以确定专利文献7中公开的图像处理方法能够以期望的颜色重现对象并且改善对象的纹理。在专利文献7中,未公开用于针对期望的图像质量对包括在输入图像中的对象进行修正的方法。
因此,本发明的示例性目的在于提供一种彩色图像处理方法、彩色图像处理设备以及彩色图像处理程序,其能够以较低的计算成本改善由彩色图像设备捕获的彩色图像中对象的纹理。
针对问题的解决方案
根据本发明的彩色图像处理方法包括:从输入图像检测对象区域,该对象区域是将要经历图像处理的区域;计算对象区域的颜色信息以及全漫射分量,该全漫射分量是对象区域的低频分量;基于颜色信息和低频分量来重建表面反射分量;根据参考表面反射分量来修正重建的表面反射分量,其中参考表面反射分量是根据对象区域事先设置的表面反射分量;计算重现颜色,该重现颜色是通过使用全漫射分量和修正的表面反射分量、修正包括在输入图像中的每个像素而获取的颜色;以及基于重现颜色来生成输出图像。
根据本发明的彩色图像处理设备包括:对象区域检测装置,其从输入图像检测对象区域,该对象区域是将要经历图像处理的区域;反射分量重建装置,其计算对象区域的颜色信息以及全漫射分量,该全漫射分量是对象区域的低频分量,以及基于颜色信息和低频分量来重建表面反射分量;表面反射分量修正装置,其根据参考表面反射分量来修正重建的表面反射分量,其中参考表面反射分量是根据对象区域事先设置的表面反射分量;以及重现颜色计算装置,其计算重现颜色,其中重现颜色是通过使用全漫射分量和修正的表面反射分量、修正包括在输入图像中的每个像素而获取的颜色,以及基于重现颜色来生成输出图像。
根据本发明的用于引起计算机执行下述操作的彩色图像处理程序:对象区域检测过程,其从输入图像检测对象区域,该对象区域是将要经历图像处理的区域;反射分量重建过程,其计算对象区域的颜色信息以及全漫射分量,其中全漫射分量是对象区域的低频分量,以及基于颜色信息和低频分量来重建表面反射分量;表面反射分量修正过程,其根据参考表面反射分量来修正重建的表面反射分量,其中参考表面反射分量是根据对象区域事先设置的表面反射分量;以及重现颜色计算过程,其计算重现颜色,其中重现颜色是通过使用全漫射分量和修正的表面反射分量、修正包括在输入图像中的每个像素而获取的颜色,以及基于重现颜色来生成输出图像。发明的有益效果
根据本发明,可以以较低的计算成本、对由彩色图像设备捕获的彩色图像中对象的纹理进行改善。
附图说明
[图1]描绘了示出根据本发明的彩色图像处理示例的示意图。
[图2]描绘了示出根据本发明的彩色图像处理设备示例性实施方式的框图。
[图3]描绘了示出根据本发明第一示例性实施方式的、彩色图像处理方法示例的流程图。
[图4]描绘了示出检测输入图像中的对象区域的过程示例的示意图。
[图5]描绘了示出适用于根据第一示例性实施方式的彩色图像处理方法的彩色图像处理设备示例的框图。
[图6]描绘了示出适用于根据第一示例性实施方式的彩色图像处理方法的彩色图像处理设备示例的框图。
[图7]描绘了示出由用户交互单元9显示的GUI示例的示意图。
[图8]描绘了示出根据本发明的彩色图像处理设备最小配置示例的框图。
具体实施方式
在下文中,将参考附图来描述本发明的示例性实施方式。为了澄清本描述,在下述描述中适当地使用示意图。而且,在附图中,具有相同配置或相同功能的结构部件或与该结构部件对应的部分将由相同的附图标记指代,以及描述过的配置或功能的描述将不会在后续描述中提供。
首先,将描述由根据本发明的彩色图像处理设备执行的彩色图像处理方法的一个方面的总览。在根据本发明的彩色图像处理方法中,当改善输入图像中特定对象的纹理时,首先,该彩色图像处理设备计算输入图像中特定对象的低频分量。随后,该彩色图像处理设备将计算出的低频分量用作包括特定对象阴影信息的全漫射(perfect diffusion)分量。而且,该彩色图像处理设备从输入图像中减去该全漫射分量(包括该阴影信息),由此计算特定对象上的表面反射分量(高光)。
随后,该彩色图像处理设备将特定对象的表面反射分量的计算出的量修正为期望的量。继而,该彩色图像处理设备使用修正的表面反射分量和包括阴影信息的全漫射分量来计算该特定对象的重现颜色。此处,重现颜色是通过修正输入图像的像素获取的、以及使用修正的表面反射分量和全漫射分量计算的颜色。由此,可以以更接近于本来的颜色和更期望的纹理来表达修正了特定对象之后的外观纹理。
稍后,将给出在上述处理的总览中描述的词汇的含义。
图1是示出根据本发明的彩色图像处理示例的示意图。在下文中,将参考图1进一步描述由根据本发明的彩色图像处理设备执行的彩色图像处理方法总览。
I.首先,该彩色图像处理设备获取有关所输入的输入图像的信息(下文称为图像信息获取过程)。具体地,在输入该输入图像时,该彩色图像处理设备从输入图像中指定特定对象。该特定对象是指定为待修正对象的区域。该彩色图像处理设备指定此特定对象,以由此检测在其中修正表面反射分量的区域(下文有时称为对象区域)。而且,该彩色图像处理设备获取该特定对象的颜色信息(即,对象区域的颜色)。
II.随后,该彩色图像处理设备重建此特定对象的反射信息(下文称为反射信息重建过程)。此处,反射信息是反射自该特定对象的反射光的信息。特定对象的反射信息通常是基于照明的几何条件和特定对象的3维形状而重建的。在另一方面,在根据本发明的彩色图像处理方法中,使用此特定对象的低频分量以替代3维形状。
首先,该彩色图像处理设备将包括阴影信息的全漫射分量用作此特定对象的低频分量。而且,该彩色图像处理设备通过从该特定对象的颜色信息移除低频分量来重建表面反射分量。在此情况中,该彩色图像处理设备通过从关于输入图像相应像素的像素值的颜色信息中减去低频分量来计算表面反射分量。以此方式,将特定对象的颜色信息划分为表面反射分量和全漫射分量(即,包括阴影信息的全漫射分量)。也即,对表面反射分量进行重建。
此处,表面反射分量是反射自对象表面的反射光的分量,以及是代表所谓闪亮的信息。而且,全漫射分量是特定对象的低频分量,以及阴影信息是代表全漫射分量的照度的信息。
III.该彩色图像处理设备修正表面反射分量(下文称为表面反射分量修正过程)。具体地,该彩色图像处理设备使用参考表面反射分量和表面反射分量的均值来修正该表面反射分量。此处,该参考表面反射分量是由用户或其他人根据特定对象(对象区域)事先设置的、确定为期望纹理的表面反射分量。
IV.该彩色图像处理设备使用包括阴影信息的全漫射分量和已修正的表面反射分量(下文有时称为修正的表面反射分量)来计算特定对象的重现颜色(下文称为重现颜色计算过程)。
在以下描述中,假设从特定对象检测的对象区域由多个像素组成。而且,假设每个像素具有颜色信息。此外,假设颜色信息有时称为像素值。假设颜色信息至少包括表面反射分量和全漫射分量(包括阴影信息)。颜色信息可以包括除了上述之外的、关于颜色的信息。而且,在下述描述中,特定对象和对象区域彼此并未区分。下文将描述执行上述各个过程的彩色图像处理设备的配置。
接着,将描述根据本发明的彩色图像处理设备的配置。图2是示出根据本发明的彩色图像处理设备示例性实施方式的框图。图2中示出的彩色图像处理设备100包括图像信息获取单元110、反射信息重建单元120、表面反射分量修正单元130和重现颜色计算单元140。
图像信息获取单元110基于从外部输入的输入图像来指定特定对象,以及检测该特定对象的对象区域。而且,图像信息获取单元110获取该对象区域的颜色信息。
反射信息重建单元120计算对象区域的低频分量。计算的低频分量是包括对象区域的阴影信息的全漫射分量。而且,反射信息重建单元120从对象区域的颜色信息中移除全漫射分量,以由此重建该对象区域的表面反射分量。即,对象区域的颜色信息被划分成全漫射分量和表面反射分量(闪亮),它们被重建为相应的分量。
表面反射分量修正单元130修正由反射信息重建单元120重建的表面反射分量。此处,表面反射分量的修正意味着改变具有表面反射分量的像素的区域(面积)或改变表面反射分量的强度。表面反射分量修正单元130例如可以通过改变表面反射分量的形状来修正表面反射分量。另外,表面反射分量修正单元130可以通过增大或减小表面反射分量的强度来修正表面反射分量。
在执行该修正时,表面反射分量修正单元130计算对象区域的表面反射分量的均值,以及使用计算的均值来修正表面反射分量。表面反射分量修正单元130例如可以通过将事先设置的可选值与该对象区域的表面反射分量的均值进行比较来修正该表面反射分量。表面反射分量修正单元130例如可以将该参考表面反射分量用作可选值。参考表面反射分量例如事先存储在包括于彩色图像处理设备100中的存储器(在下文中,称为参考表面反射分量存储用存储器)中。另外,表面反射分量修正单元130可以从用户接收修正值,以及使用接收的修正值来修正该表面反射分量。此处,修正值是在表面反射分量修正单元130修正表面反射分量时所使用的信息的通用术语。
在以下呈现的描述中,具有表面反射分量的像素面积和表面反射分量的强度统称为表面反射分量的量。因此,对表面反射分量的量的修正代表修正表面反射分量的像素面积,或修正代表表面反射分量强度的像素值。
重现颜色计算单元140使用包括阴影信息的全漫射分量和修正的表面反射分量来计算重现颜色。继而,重现颜色计算单元140使用计算的重现颜色来生成输出图像。
在总结上述描述时,首先,图像信息获取单元110获取对象区域的低频分量。接着,反射信息重建单元120使用获取的对象区域的低频分量对该区域的全漫射分量和表面反射分量进行重建。继而,表面反射分量修正单元130修正重建的表面反射分量。通过执行上述过程,彩色图像处理设备100可以使用该对象区域的低频分量来修正重建的表面反射分量。
另外,反射信息重建单元120根据从该图像获取的颜色信息来重建该对象区域的表面反射分量和包括阴影信息的全漫射分量,以及表面反射分量修正单元130仅针对表面反射分量执行修正。通过执行这样的过程,抑制不自然的赝像的出现。另外,通过不重建3维信息,可以将处理成本抑制得较低。
在下文中,将针对相应的示例性实施方式描述根据本发明的彩色图像处理设备的操作。
第一示例性实施方式
首先,将参考附图描述根据本发明第一示例性实施方式的彩色图像处理方法的过程流程。图3是示出根据本发明第一示例性实施方式的彩色图像处理方法示例的流程图。在下述描述中,假设使用图2中所示彩色图像处理设备100来实现根据示例性实施方式的彩色图像处理方法。而且,在下述描述中,假设图像的颜色系统是RGB颜色系统。即,假设图像的颜色是由R(红色)、G(绿色)和B(蓝色)的组合表示的。在下文中,假设输入图像的颜色信息表示为颜色信息RGB。然而,图像的颜色系统不限于RGB颜色系统。图像的颜色系统可以是除了RGB系统之外的其他颜色系统。
在下文中,将描述图2中所示彩色图像处理设备100重新计算彩色图像中对象区域的每个像素的重现颜色、以改善可选彩色图像中该特定对象的纹理的操作。
首先,图像信息获取单元110自动地从输入图像检测特定对象(步骤S1)。在此情况下,图像信息获取单元110获取所检测特定对象中对象区域的颜色信息。此处,从输入图像自动检测特定对象意味着从输入图像中检测作为特定对象的预定对象(例如,人脸)以及检测由用户单独指定为特定对象的对象。
此处,检测为特定对象的个体对象可以彼此不同。即,即使在存在个体差异时,由于粗糙颜色信息和纹理是普遍的,所以特定对象并不限于特定个体对象,只要其可以根据获取自彩色图像的特征指定为假定的对象即可。
图4是示出检测输入图像中对象区域的过程示例的示意图。在图4的示例中,对象区域是人脸。图像信息获取单元110使用来自图4所示彩色图像的颜色信息、纹理等来检测特定对象。在下文中,将描述特定对象是人脸的情况。
在特定对象是人脸时,图像信息获取单元110使用眼睛、鼻子和嘴的形状特征来检测面部区域。图像信息获取单元110可以例如将非专利文献2中公开的面部检测方法用作检测面部区域的方法。如上所述,非专利文献2中公开的面部检测方法是使用通用学习向量量化的方法,在该通用学习向量量化中,结合了基于图像的面部检测方法和基于特征的面部检测方法。
除了上述之外,图像信息获取单元110可以将例如专利文献2中公开的从图像中检测眼睛的方法用作从输入图像中检测面部区域的方法。面部区域是容易估计的,只要眼部的位置可以从输入图像中检测到即可。
在非专利文献2中公开的面部检测方法和专利文献2中公开的眼部检测方法中,使用单色信息来检测面部。图像信息获取单元110还确定作为检测结果的面部区域是否具有肉色。通过添加这种确定过程,可以改善面部区域的检测准确性。作为确定指定区域是否具有肉色的方法,例如可以使用专利文献1中公开的图像直方图。
图像信息获取单元110从输入图像中检测面部区域的方法不限于上述方法。而且,在上述描述中,已经描述了从可选输入图像中自动检测的对象是人脸的情形。然而,自动检测的对象不限于人脸。在自动检测除人脸之外的对象时,图像信息获取单元110可以通过将事先记录的对象区域的可视特征信息与例如图像数据的可视特征信息进行比较而自动地检测对象。
接着,反射信息重建单元120计算表面反射分量和全漫射分量。在本发明中,聚焦于图像中特定对象的表面反射分量(闪亮)具有包括高频分量的方面。具体地,反射信息重建单元120根据特定对象的外观的颜色信息来计算表面反射分量(闪亮)和全漫射分量(包括阴影信息),而不用使用特定对象的3维形状。因此,可以以较低的计算成本计算表面反射分量。在下文中,将在步骤S2和S3中详细描述由反射信息重建单元120执行的过程。
首先,反射信息重建单元120计算由图像中特定对象指示的区域的低频分量(步骤S2)。反射信息重建单元120可以通过计算例如由图像中特定对象指示的区域中每个像素的周围像素的均值来计算低频分量。而且,反射信息重建单元120可以使用将相应像素代入高斯值或其他中的平滑过滤器来计算低频分量。然而,计算低频分量的方法不限于上述方法。
随后,反射信息重建单元120将在步骤S2中计算的低频分量用作输入图像中特定对象的全漫射分量。而且,反射信息重建单元120从输入图像中特定对象的颜色信息中减去全漫射分量,以由此计算表面反射分量(步骤S3)。
通常,对象区域的反射取决于入射光和发射光的几何条件,以及此反射特征表述为BRDF(双向反射分布函数)。BRDF通常包括表面反射分量(长期分量)和全漫射分量(主体反射分量)这两个分量。例如,当特定对象是诸如人类的生物时,表面反射分量是在皮肤表面上反射的光的分量。而且,在此情况中,全漫射分量是在光临时进入皮肤时生成的、以及在皮肤内散射的并且通过皮肤再次分散的光分量。
全漫射分量具有低频特征。由此,由特定对象指示的区域的低频分量可以视作特定对象的全漫射分量DR(漫反射)。在此示例中,假设全漫射分量DR是针对每个颜色通道(例如,R、G、B等)计算的,以及每个颜色通道的全漫射分量表达为DRi。此处,字符i代表每个颜色通道。
现在,计算全漫射分量,假设特定对象是朗伯(Lambertian)。然而,全漫射分量实际上不仅仅包括漫反射分量,而且包括表面反射分量。即,可以说输入图像的每个颜色通道的像素值代表颜色通道的表观像素值(照度或亮度),包括漫反射分量和表面反射分量。由此,反射信息重建单元120基于下述等式(1)来计算包括在由特定对象指示的区域中的像素的每个颜色通道的表面反射分量SPi。
对于Ii-DRi>0,SPi=Ii-DRi
否则,SPi=0 等式(1)
此处,“Ii”代表包括在由输入图像的特定对象所指示的区域中的像素的像素值,以及“i”代表颜色通道(例如,R、G、B或其他)。
接着,表面反射分量修正单元130修正该特定对象的表面反射分量(步骤S4)。具体地,当获取了包括在彩色图像中的特定对象区域的表面反射分量时,表面反射分量修正单元130通过控制表面反射分量的量(面积或强度)来改善特定对象的纹理。此处,对“面积”进行控制意味着增大或减小包括表面反射分量的像素的数量(面积)。此外,对“强度”进行控制代表着增大或减小表面反射分量的每个像素的值。换言之,表面反射分量修正单元130控制或调整表面反射分量的量,诸如,包括在输入彩色图像中的特定对象的表面反射分量的强度量级或面积,从而生成期望的表面反射分量。
首先,将描述使用表面反射分量修正单元130来修正作为表面反射分量的量的表面反射分量强度的方法。在以下给出的描述中,假设对象区域的表面反射分量的期望量(即,参考表面反射分量)事先存储在彩色图像处理设备100的存储器(未示出)中。表面反射分量的量的均值在下文给出。
[公式1]
此均值可以按照下述进行计算。首先,事先准备其中的特定对象的纹理被用户或任何其他人视为满意的图像(在下文中,称为参考图像)。继而,通过执行上文描述的针对参考图像的步骤S 1-S3中呈现的过程,计算特定对象的表面反射分量。此参考图像可以视为这样的图像,其中,根据对象区域事先设置表面反射分量,该表面反射分量的纹理是用户或其他人满意的。此处,基于参考图像计算每个像素的表面反射分量,其称为SPRi。由于SPRi代表每个像素的像素值,所以表面反射分量修正单元130可以通过获取SPRi的均值来计算表面反射分量的量的均值。
接着,表面反射分量修正单元130计算包括在输入图像中的对象区域中的表面反射分量的均值。该包括在输入图像中的对象区域中的表面反射分量的均值表示如下。
[公式2]
继而,表面反射分量修正单元130通过基于均值使用下述等式(2)来计算修正系数αi。
[公式3]
在计算了修正系数之后,表面反射分量修正单元130将包括在输入图像中的对象区域中的表面反射分量SPi乘以通过使用等式(2)计算的修正系数αi,从而将表面反射分量修正为具有表面反射分量的期望量(强度)。表面反射分量修正单元130例如可以使用下述等式(3)来修正表面反射分量的量。
SPi’=αi×SPi 等式(3)
如上所述,表面反射分量修正单元130根据输入图像的对象区域中表面反射分量的均值与根据对象区域事先设置的表面反射分量(即,参考表面反射分量)的均值之间的比例,来修正表面反射分量的像素值。以此方式,通过修正包括在对象区域中的表面反射分量的强度,可以改善纹理。
接着,将描述使用表面反射分量修正单元130来修正作为表面反射分量的量的表面反射分量的面积的方法。此外,在修正表面反射分量的面积的情况下,与修正强度的情况类似,使用包括在事先设置的参考图像的对象区域中的表面反射分量。然而,在修正面积的情况下,使用表面反射分量的期望量(面积)来调整包括在输入图像特定对象中的表面反射分量的量(面积)。面积可以表示为表面反射分量的像素数量与对象区域像素数量的比例。
首先,将描述通过减少表面反射分量的面积来修正表面反射分量的方法。在此情况中,该表面反射分量修正单元130修正该表面反射分量,使得包括在输入图像的特定对象区域中的表面反射分量的像素数量(即,面积)接近该对象区域的表面反射分量的期望量(面积)。具体地,表面反射分量修正单元130执行用于通过使用系数βi(βi<αi)(替代使用上述αi)减小等式3中表面反射分量的量(强度)来减小表面反射分量的量(强度)的修正。继而,表面反射分量修正单元130将修正后的像素值SPi’低于事先设置的阈值的像素的像素值SPi’设置为0。通过如上所述将表面反射分量设置为0,减小表面反射分量的量(面积)。
如上所述,表面反射分量修正单元130执行用于减小包括在输入图像的对象区域中的表面反射分量的面积的修正,使得该面积成为根据该对象区域事先设置的表面反射分量(即,参考表面反射分量)的面积。此时,表面反射分量修正单元130基于预定规则、通过将包括在对象区域中的表面反射分量的像素值乘以用于减小表面反射分量的像素值的系数或其他来减小该像素值。继而,表面反射分量修正单元130从来自表面反射分量的像素值中去除每个具有低于事先设置的阈值的像素值的像素。以此方式,通过执行用于减小包括在对象区域中的表面反射分量的面积的修正,可以改善纹理。
接着,将描述通过减小表面反射分量的面积来修正表面反射分量的方法。在此情况中,如等式(1)所示,不是原始表面反射分量的像素不会在未改变的情况下成为表面反射分量。因此,为了增大表面反射分量的面积,需要执行单独的划分过程。
在这种情况下,表面反射分量修正单元130例如随机选择这样的像素,即,最初不是表面反射分量(换言之,未由反射信息重建单元120重建为表面反射分量的像素)并且邻近于最初是表面反射分量的像素(即,由反射信息重建单元120重建为表面反射分量的像素)。继而,表面反射分量修正单元130例如在等式(3)中呈现的SPi中代入所选像素的像素值,从而计算修正后的像素值SPi’。此外,在所选像素的像素值是0(零)的情况下,表面反射分量修正单元130向所选像素的像素值(即,表面反射分量)SPi添加正实数。此处,在使用等式(3)的情况下,表面反射分量修正单元130可以通过使用用于增加像素值以增大面积的系数替代系数αi来计算修正后的像素值SPi’。此后,表面反射分量修正单元130随机选择邻近最初是表面反射分量的像素的像素,直到得到了期望的面积,以及重复修正像素的像素值的操作。以此方式,通过增大作为表面反射分量的像素的数量,增大了表面反射分量的量(面积)。
如上所述,表面反射分量修正单元130修正包括在输入图像的对象区域中的表面反射分量的面积,以便增大至根据对象区域事先设置的表面反射分量(即,参考表面反射分量)的面积。此时,表面反射分量修正单元130例如基于预定规则(诸如,用于随机选择的规则)来从不是表面反射分量的像素中选择邻近于表面反射分量的像素。继而,表面反射分量修正单元130向表面反射分量添加所选的像素。如上所述,通过执行用于增大包括在对象区域中的表面反射分量的面积的修正,可以改善纹理。
接着,重现颜色计算单元140使用修正后的表面反射分量和全漫射分量(包括阴影信息)来计算包括在包含于输入图像中的对象中的每个像素的修正后的颜色(步骤S5)。可以将修正之后的颜色视为重现颜色。
重现颜色计算单元140如在下述等式(4)中表示的以及作为示例,通过将在步骤S4中修正的表面反射分量SPi’与包括阴影信息的全漫射分量DRi相加来计算颜色修正之后的像素值Ii’。
Ii’=DRi+SPi’ 等式(4)
继而,重现颜色计算单元140输出这样的图像来作为输出图像,即,在该图像中,包括在输入图像中的对象区域的颜色是使用了上述方法进行了修正的。
在上述描述中,已经描述了输入图像和输出图像的依赖于设备的颜色是RGB的情况。“依赖于设备的颜色”意味着依赖于输出目标设备的颜色空间。然而,依赖于设备的颜色不限于RGB。依赖于设备的颜色可以是除了RGB之外的CMY和CMYK,只要可以获得这些依赖于设备的颜色与独立于设备的颜色的三色值XYZ之间的对应关系即可。在此情况下,本发明的颜色修正方法可以应用于除了RGB之外的彩色图像。
如上所述,根据本示例性实施方式,图像信息获取单元110从输入图像中检测对象区域。随后,反射信息重建单元120计算该对象区域的全漫射分量和颜色信息,以及基于颜色信息和低频分量来重建表面反射分量。继而,当表面反射分量修正单元130根据参考表面反射分量来修正重建的表面反射分量时,重现颜色计算单元140通过使用全漫射分量和修正的表面反射分量来计算重现颜色,以及基于重现颜色来生成输出图像。因此,可以以较低的计算成本改善彩色图像中对象的纹理。
接着,将描述彩色图像处理设备(也称为颜色修正设备)的修改示例。图5是示出适用于根据第一示例性实施方式的彩色图像处理方法的彩色图像处理设备示例的框图。
图5中作为示例示出的彩色图像处理设备101是对输入图像1中对象区域中包括的表面反射分量进行修正并输出输出图像2的设备。彩色图像处理设备101包括对象区域检测单元3、对象区域低频分量计算单元4(下文中称为低频分量计算单元4)、对象区域表面反射分量和全漫射分量计算单元5(在下文中称为反射信息重建单元5)、表面反射分量修正单元6、参考表面反射分量存储用存储器7和对象区域重现颜色计算单元8(在下文中称为重现颜色计算单元8)。
在提供输入图像1时,对象区域检测单元3分析输入图像1以检测事先假设的特定对象。而且,对象区域检测单元3输出代表所检测特定对象中的对象区域的信息。此处,代表对象区域的信息包括对象区域的颜色信息。具体地,对象区域检测单元3使用图像信息获取单元110如在图3的步骤S1中描述的那样执行的方法来获取对象区域的颜色信息。
而且,如上所述,从输入图像1检测的特定对象是这样的对象,其使得对象区域的颜色和形状特征可以在某种程度上限定于人脸。此外,检测特定对象的方法如在图像信息获取单元110的描述中所描述的。此外,在不可能从输入图像1中检测对象时,稍后描述的重现颜色计算单元12将输入图像1作为输出图像2输出。
低频分量计算单元4计算由对象区域检测单元3检测的对象区域的低频分量。具体地,低频分量计算单元6基于反射信息重建单元120如在步骤S2中描述的那样执行的过程来计算对象区域的低频分量。
反射信息重建单元5通过使用对象区域的低频分量来获取表面反射分量和全漫射分量。具体地,反射信息重建单元5根据反射信息重建单元120如步骤S3中所描述的那样执行的过程来获取对象区域的全漫射分量和表面反射分量。
参考表面反射分量存储用存储器7存储对象区域的参考表面反射分量。另外,如上所述,参考表面反射分量是这样的表面反射分量,其带来对象区域的期望图像质量,并且根据对象区域事先设置在参考表面反射分量存储用存储器7中。
表面反射分量修正单元6通过使用参考表面反射分量来将包括在对象区域中已经计算的表面反射分量的量修正为期望的量。具体地,表面反射分量修正单元6根据由表面反射分量修正单元130如图3所示步骤S4中所描述的那样执行的过程来修正包括在对象区域中的表面反射分量。通过使用表面反射分量修正单元6来执行上述修正,具有诸如人皮肤的复合反射特征的对象的颜色可以以较高准确度重现。另外,通过执行上述修正,可以避免赝像的出现。
重现颜色计算单元8计算对象区域的重现颜色。具体地,重现颜色计算单元8通过使用修正的表面反射分量和全漫射分量(包括阴影信息)来计算包括在对象区域中的每个像素修正之后的颜色(换言之,重现的颜色)。而且,重现颜色计算单元12将计算的修正图像输出为输出图像。此外,修正的表面反射分量是由表面反射分量修正单元6修正的且代表包括在对象区域中的每个像素的期望表面反射分量的分量。另外,全漫射分量是由反射信息重建单元5计算的分量。重现颜色计算单元12根据重现颜色计算单元140如步骤S5中描述的那样执行的过程流程来输出修正后的图像。
如上所述,彩色图像处理设备101提供了通过调整表面反射分量(即,闪亮)来改善图像质量的方法,以作为实现人脸的期望图像质量的方法。闪亮可以视为不受欢迎的光谱反射分量。例如,在上述专利文献7中,作为相关技术,描述了改变具有从红到蓝的二色性反射模型的人造材料(诸如,塑料)的颜色的方法。然而,专利文献7中公开的方法的目的不是用于通过改善图像质量来修正图像以具有期望的图像质量,而是用于将人造材料的颜色改变至不同颜色(颜色改变)。同时,根据本发明,表面反射分量修正单元6修正表面反射分量,以及重现颜色计算单元8使用修正的表面反射分量来生成输出图像。换言之,由于颜色图像处理设备101包括表面反射分量修正单元6和重现颜色计算单元8,其可以修正对象以具有期望的图像质量。
从上文可见,图5中示出的彩色图像处理设备101和图2中示出的彩色图像处理设备100具有下述对应关系。图像信息获取单元110对应于对象区域检测单元3。反射信息重建单元120由低频分量计算单元4和反射信息重建单元5实现。表面反射分量修正单元130由表面反射分量修正单元6和参考表面反射分量存储用存储器7实现。重现颜色计算单元140对应于重现颜色计算单元8。图2或图5中示出的彩色图像处理设备的配置仅是示例,只要设备可以实现相同的功能,则可以使用其他设备配置。
此外,彩色图像处理设备101可以由计算机实现。具体地,构成彩色图像处理设备的各个构成成分,即,对象区域检测单元3、低频分量计算单元4、反射信息重建单元5、表面反射分量修正单元6和重现颜色计算单元8由计算机中根据程序(彩色图像处理程序)操作的中央处理单元(CPU)实现。而且,代表性的表面反射分量存储用存储器7例如由包括在例如彩色图像处理设备101中的存储器设备实现。
例如,程序可以存储在彩色图像处理设备101的存储单元(未示出)中,以及CPU可以读取程序以及根据该程序作为对象区域检测单元3、低频分量计算单元4、反射信息重建单元5、表面反射分量修正单元6和重现颜色计算单元8进行操作。另外,可以由专用硬件分别实现对象区域检测单元3、低频分量计算单元4、反射信息重建单元5、表面反射分量修正单元6和重现颜色计算单元8。
此外,构成彩色图像处理设备的各个构成部件的语句可以由CPU和存储器实现,以及可以根据还适用于稍后描述的第二示例性实施方式的程序进行操作,而不用限定于第一示例性实施方式。
第二示例性实施方式
随后将描述根据本发明第二示例性实施方式的彩色图像处理方法的过程流程。根据第二示例性实施方式的彩色图像处理方法与根据第一示例性实施方式的彩色图像处理方法的不同之处在于表面反射分量是根据用户指令改变的。
图6是示出适用于根据第二示例性实施方式的彩色图像处理方法的彩色图像处理设备示例的框图。图6中示出的彩色图像处理设备102是对包括在输入图像1中的对象区域的表面反射分量进行修正并输出输出图像2的设备。彩色图像设备102包括对象区域检测单元3、低频分量计算单元4、反射信息重建单元5、表面反射分量修正单元6、用户交互单元9和重现颜色计算单元8。
如图6所示,在彩色图像处理设备102中,图5中所示的彩色图像处理设备101的参考表面反射分量存储用存储器7由用户交互单元9所替代。由此,在下文中,将仅描述用户交互单元9。
用户交互单元9提供供用户调整包括在输入图像中的特定对象区域中所包括的表面反射分量的量的交互工具。具体地,用户交互单元9是用于输入包括在输入图像中的特定对象区域所包括的表面反射分量的量的输入装置。用户交互单元9例如利用诸如触摸板或显示器的显示设备以及诸如鼠标的指点设备来实现。
图7是示出由用户交互单元9显示的图形用户接口(GUI)示例的示意图。图7中所示GUI用于以交互方式调整经计算的、包括在输入图像中的特定对象区域所包括的表面反射分量的量。图7中所示滑动条10例如具有调节上述等式(3)中呈现的修正系数αi的值的功能。例如,在滑动条10被调节以弱化表面反射分量的情况下,用户交互单元9可以调节修正系数αi的值以减小之(参见图7(a))。相反,在滑动条10被调节以加亮表面反射分量的情况下,用户交互单元9可以调节修正系数αi以增大之(参见图7(b))。另外,在调节表面反射分量的量时,用户交互单元9显示经修正的图像,在该图像上,实时反映了包括在输入图像中的表面反射分量的调节结果。
用户交互单元9接收用户输入的表面反射分量的量(修正值)以及向表面反射分量修正单元6通知该量。修正值可以是用于指定表面反射分量的总量的值,或者可以是代表要从当前表面反射分量改变的量。此时,表面反射分量修正单元6通过使用表面反射分量的通知量来修正每个像素的表面反射分量。以此方式,可以生成用户期望的输出图像。
例如,假设用户交互单元9接收用于增大或减小表面反射分量的面积的指令以作为修正值。在此情况下,表面反射分量修正单元6可以通过使用减小表面反射分量的面积的方法或已经在第一示例性实施方式中描述的减小表面反射分量的面积的方法,来修正表面反射分量。此外,在用户交互单元9接收用于增加或减小表面反射分量的强度的指令以作为修正值的情况下,表面反射分量修正单元6可以使用已经在第一示例性实施方式中描述的修正表面反射分量的强度的方法来修正表面反射分量。
在上文呈现的描述中,已经描述了图5中所示彩色图像处理设备101的参考表面反射分量存储用存储器7被用户交互单元9替代的示例。然而,彩色图像处理设备102不限于参考表面反射分量存储用存储器7和用户交互单元9中的一个构成元件被包括进来的情况。由此,彩色图像处理设备102可以包括参考表面反射分量存储用存储器7和用户交互单元9这两个构成元件。
例如,在此情况下,首先,表面反射分量修正单元6使用存储在参考表面反射分量存储用存储器7中的参考表面反射分量来修正表面反射分量。继而,用户交互单元9向用户显示包括经修正的表面反射分量的图像。在用户希望进一步针对修正的图像改变表面反射分量的情况下,用户可以通过用户交互单元9来输入修正值。以此方式,表面反射分量修正单元6和重现颜色计算单元8可以生成用户期望的输出图像。此外,也在用户侧,可以根据使用目的来改变表面反射分量。
接着,将描述用于实现本发明的各种示例实施方式。可以使用计算机来实现根据本发明的彩色图像处理方法和设备。而且,由根据本发明的彩色图像处理方法和彩色图像处理设备执行的相应过程可以由软件、硬件和固件中的至少两个的组合实现。
例如,在图2中所示彩色图像处理设备100由计算机使用程序实现时,该程序(或程序命令的组)引起计算机至少执行下述过程。具体地,该程序被加载至计算机的存储器中,以及在CPU的控制下执行下述命令(a)-(d)。
(a)用于从输入图像检测对象区域的对象区域检测过程,该对象区域是将要经历图像处理的区域。此过程对应于由图2中图像信息获取单元110执行的过程。
(b)用于计算对象区域的颜色信息和作为该对象区域的低频分量的全漫射分量,以及基于该颜色信息和低频分量来重建表面反射分量的反射分量重建过程。此过程对应于由图2中的反射信息重建单元120执行的过程。
(c)表面反射分量修正过程,其中根据参考反射分量修正重建的表面反射分量,该参考表面反射分量是根据对象区域事先设置的表面反射分量。此过程对应于由图2中表面反射分量修正单元130执行的过程。
(d)重现颜色计算过程,其中该重新颜色是通过使用全漫射分量和修正的表面反射分量来计算、修正包括在输入图像中的每个像素而获取的颜色,以及基于重现颜色来生成输出图像。此过程对应于由图2中重现颜色计算单元140执行的过程。
另外,由程序执行的命令可以包括用户交互过程,其中从用户输入修正值,该修正值是在修正表面反射分量时使用的信息。此时,在表面反射分量修正过程中,可以通过使用输入修正值来修正表面反射分量。
而且,程序(彩色图像处理程序)可以通过在记录介质中记录程序来提供,并且也可以通过经由因特网或其他通信介质传输程序来提供。而且,存储介质的示例包括柔性盘、硬盘、磁盘、光磁盘、CD-ROM、DVD、ROM盒、具有电池备份的RAM存储器盒、闪存盒和非易失性RAM盒。此外,通信介质的示例包括诸如电话线的有线通信介质、诸如微波线路的无线电通信介质。
如上所述,根据本发明,对包含于由彩色图像设备捕获的彩色图像中的特定对象所包括的表面反射分量的量进行控制,由此可以改善纹理。
根据本发明,解决了在使用通用颜色修正方法的情况下会出现对象纹理的恶化这样的问题。具体地,通过控制由彩色图像设备捕获的彩色图像中所包括的特定对象的表面反射分量,可以改变该对象区域以具有期望的纹理。此外,根据本发明,可以使用仅利用输入图像而不需要诸如光纤分光仪等的测量设备的更容易方法来改善该图像的纹理。
接着,将描述根据本发明的彩色图像处理设备的最小配置示例。图8是示出根据本发明的彩色图像处理设备的最小配置示例的框图。根据本发明的彩色图像处理设备包括:对象区域检测装置81(例如,图像信息获取单元110),其从输入图像中检测作为将要经历图像处理的区域的对象区域;反射分量重建装置82(例如,反射信息重建单元120),其计算对象区域的颜色信息以及作为对象区域的低频分量的全漫射分量,并基于颜色信息和低频分量来重建表面反射分量(例如,从颜色信息排除低频分量);表面反射分量修正装置83(例如,表面反射分量修正单元130),其根据参考表面反射分量来修正重建的表面反射分量,该参考表面反射分量是依据对象区域事先设置的表面反射分量;和重现颜色计算装置84(例如,重现颜色计算单元140),其计算重现颜色,该重新颜色是通过使用全漫射分量和修正的表面反射分量来修正包括在输入图像中的每个像素而获取的,以及基于重现颜色来生成输出图像。
利用这种配置,可以以较低的计算成本来改善由彩色成像设备捕获的彩色图像中对象的纹理。
另外,彩色图像处理设备可以包括修正值输入装置(例如,用户交互单元9),其从用户接收作为在修正表面反射分量时使用的信息的修正值(例如,表面反射分量的量)。此时,表面反射分量修正装置83可以使用该输入的修正值来修正表面反射分量。
此外,表面反射分量修正装置83可以根据包括在输入图像的对象区域中的表面反射分量的均值与参考表面反射分量的均值之间的比例(例如,通过使用等式(2)计算的系数)来对表面反射分量的像素值进行修正(例如,使用等式(3)进行修正)。
另外,表面反射分量修正装置83可以修正表面反射分量的面积,以接近对象区域的参考表面反射分量的面积,或者参考表面反射分量的面积与对象区域的比例。
具体地,表面反射分量修正装置83可以通过基于预定规则(例如,将像素值乘以用于减小表面反射分量的量(强度)的系数βi)减小包括在对象区域中的表面反射分量的像素值以及从来自表面反射分量的像素值中排除像素值低于事先设置的阈值的像素,来执行用于减小表面反射分量的面积的修正。
另外,表面反射分量修正装置83可以通过基于预定规则(例如,随机选择的规则)从不是表面反射分量的像素中选择邻近表面反射分量的像素以及添加所选像素以作为表面反射分量,来执行用于增大表面反射分量的面积的修正。
尽管已经参照示例性实施方式描述了本发明,但是本发明不限于上述示例性实施方式。可以在本发明范围内对本发明的配置和细节做出本领域技术人员可以理解的各种修改。
此申请基于2010年6月30日提交的、日本专利申请号No.2010-149234,并要求享有其优先权的权益,该公开通过参考而整体并入于此。
工业应用性
本发明可以适当地应用于各种功能以便对输入至彩色图像输入/输出设备的图像的图像质量进行改善。而且,本发明可以通过以运行在计算机系统上的程序的形式实现本发明而具体化为用于可选彩色图像的颜色修正软件或者工具。
附图标记列表
1:输入图像
2:输出图像
3:对象区域检测单元
4:对象区域低频分量计算单元
5:对象区域表面反射分量和全漫射分量计算单元
6:表面反射分量修正单元
7:参考表面反射分量存储用存储器
8:对象区域重现颜色计算单元
9:用户交互单元
10:滑动条
100、101、102:彩色图像处理设备
110:图像信息获取单元
120:反射信息重建单元
130:表面反射分量修正单元
140:重现颜色计算单元
Claims (10)
1.一种彩色图像处理方法,包括:
从输入图像检测对象区域,所述对象区域是将要经历图像处理的区域;
计算所述对象区域的颜色信息以及全漫射分量,所述全漫射分量是所述对象区域的低频分量;
基于所述颜色信息和所述低频分量来重建表面反射分量;
根据参考表面反射分量来修正所述重建的表面反射分量,其中所述参考表面反射分量是根据所述对象区域事先设置的表面反射分量;
计算重现颜色,其中所述重现颜色是通过使用所述全漫射分量和所述修正的表面反射分量、修正包括在所述输入图像中的每个像素而获取的颜色;以及
基于所述重现颜色来生成输出图像。
2.如权利要求1所述的彩色图像处理方法,
其中作为在修正所述表面反射分量时使用的信息的修正值是从用户输入的,以及
在修正所述重建的表面反射分量时,使用所述输入的修正值来修正所述表面反射分量。
3.如权利要求1或2所述的彩色图像处理方法,其中,在修正所述重建的表面反射分量时,根据包括在所述输入图像的所述对象区域中的所述表面反射分量的均值与所述参考表面反射分量的均值之间的比例来修正所述表面反射分量的像素值。
4.如权利要求1或2所述的彩色图像处理方法,其中,在修正所述重建的表面反射分量时,修正所述表面反射分量的面积,以接近包括在所述对象区域中的所述参考表面反射分量的面积或所述参考表面反射分量的面积与所述对象区域的比例。
5.如权利要求4所述的彩色图像处理方法,其中,在修正所述重建的表面反射分量时,通过基于预定规则减小包括在所述对象区域中所述表面反射分量的像素值以及从来自所述表面反射分量的所述像素值中排除像素值低于事先设置的阈值的像素,来执行用于减小所述表面反射分量的所述面积的修正。
6.如权利要求4所述的彩色图像处理方法,其中,在修正所述重建的表面反射分量时,通过基于预定规则从不是所述表面反射分量的像素中选择邻近所述表面反射分量的像素以及添加所述选择的像素作为所述表面反射分量,来执行用于增大所述表面反射分量的所述面积的修正。
7.一种彩色图像处理设备,包括:
对象区域检测装置,其从输入图像检测对象区域,所述对象区域是将要经历图像处理的区域;
反射分量重建装置,其计算所述对象区域的颜色信息以及全漫射分量,其中所述全漫射分量是所述对象区域的低频分量,以及基于所述颜色信息和所述低频分量来重建表面反射分量;
表面反射分量修正装置,其根据参考表面反射分量来修正所述重建的表面反射分量,所述参考表面反射分量是根据所述对象区域事先设置的表面反射分量;以及
重现颜色计算装置,其计算重现颜色,其中所述重现颜色是通过使用所述全漫射分量和所述修正的表面反射分量、修正包括在所述输入图像中的每个像素而获取的颜色,以及基于所述重现颜色来生成输出图像。
8.如权利要求7所述的彩色图像处理设备,进一步包括修正值输入装置,其从用户接收作为在修正所述表面反射分量时使用的信息的修正值以作为输入,
其中所述表面反射分量修正装置使用所述输入的修正值来修正所述表面反射分量。
9.一种用于引起计算机执行下述操作的彩色图像处理程序:
对象区域检测过程,用于从输入图像检测对象区域,所述对象区域是将要经历图像处理的区域;
反射分量重建过程,用于计算所述对象区域的颜色信息以及全漫射分量,所述全漫射分量是所述对象区域的低频分量,以及基于所述颜色信息和所述低频分量来重建表面反射分量;
表面反射分量修正过程,用于根据参考表面反射分量来修正所述重建的表面反射分量,其中所述参考表面反射分量是根据所述对象区域事先设置的表面反射分量;以及
重现颜色计算过程,用于计算重现颜色,其中所述重现颜色是通过使用所述全漫射分量和所述修正表面反射分量、修正包括在所述输入图像中的每个像素而获取的颜色,以及基于所述重现颜色来生成输出图像。
10.如权利要求9所述的彩色图像处理程序,
其中,在作为修正所述表面反射分量时使用的信息的修正值是从用户输入的情况下,引起所述计算机使用所述输入的修正值来修正所述表面反射分量。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010-149234 | 2010-06-30 | ||
JP2010149234 | 2010-06-30 | ||
PCT/JP2011/003681 WO2012001949A1 (ja) | 2010-06-30 | 2011-06-28 | カラー画像処理方法、カラー画像処理装置およびカラー画像処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102985941A true CN102985941A (zh) | 2013-03-20 |
CN102985941B CN102985941B (zh) | 2015-08-19 |
Family
ID=45401691
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201180031007.4A Active CN102985941B (zh) | 2010-06-30 | 2011-06-28 | 彩色图像处理方法和彩色图像处理设备 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8855371B2 (zh) |
EP (1) | EP2590136A1 (zh) |
JP (1) | JP5867390B2 (zh) |
CN (1) | CN102985941B (zh) |
WO (1) | WO2012001949A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103679649A (zh) * | 2013-11-18 | 2014-03-26 | 联想(北京)有限公司 | 一种信息处理方法和电子设备 |
CN114022395A (zh) * | 2022-01-06 | 2022-02-08 | 广州卓腾科技有限公司 | 一种证件照头发颜色矫正方法、装置及介质 |
Families Citing this family (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5158100B2 (ja) * | 2008-02-22 | 2013-03-06 | 日本電気株式会社 | カラー画像処理方法、装置およびプログラム |
CN102985943A (zh) * | 2010-06-30 | 2013-03-20 | 日本电气株式会社 | 彩色图像处理方法、彩色图像处理装置以及彩色图像处理程序 |
JP5356590B1 (ja) * | 2012-10-02 | 2013-12-04 | 株式会社東芝 | 画像処理装置及びその方法 |
JP6088260B2 (ja) * | 2013-01-24 | 2017-03-01 | 株式会社リコー | 処理装置、処理システム、処理方法及びプログラム |
US9251567B1 (en) | 2014-03-13 | 2016-02-02 | Google Inc. | Providing color corrections to photos |
WO2015163169A1 (ja) * | 2014-04-23 | 2015-10-29 | ソニー株式会社 | 画像処理装置および方法 |
JP6423625B2 (ja) | 2014-06-18 | 2018-11-14 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
JP2014211914A (ja) * | 2014-08-06 | 2014-11-13 | Eizo株式会社 | 階調補正装置またはその方法 |
JP6393153B2 (ja) * | 2014-10-31 | 2018-09-19 | 株式会社スクウェア・エニックス | プログラム、記録媒体、輝度演算装置及び輝度演算方法 |
JP6501868B2 (ja) * | 2015-03-26 | 2019-04-17 | マクセル株式会社 | 撮像装置、信号処理装置、および肌診断システム |
US10567670B2 (en) * | 2015-03-30 | 2020-02-18 | Sharp Kabushiki Kaisha | Image-processing device |
CN107533757B (zh) * | 2015-05-22 | 2022-06-07 | 索尼公司 | 处理图像的装置和方法 |
US10242287B2 (en) * | 2015-06-11 | 2019-03-26 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and recording medium |
KR101772626B1 (ko) | 2016-02-03 | 2017-08-29 | 서강대학교산학협력단 | 단일 영상으로부터 반사성분을 분리하는 방법 및 그 방법에 따른 영상처리 장치 |
CN106097240B (zh) * | 2016-06-13 | 2019-05-17 | 天津大学 | 一种彩色图像自适应隐写方法 |
JP6833415B2 (ja) | 2016-09-09 | 2021-02-24 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP6827782B2 (ja) * | 2016-11-30 | 2021-02-10 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および記録媒体 |
JP6701299B2 (ja) * | 2018-10-19 | 2020-05-27 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
US10839560B1 (en) * | 2019-02-26 | 2020-11-17 | Facebook Technologies, Llc | Mirror reconstruction |
CN110880166A (zh) * | 2019-11-20 | 2020-03-13 | 天津津航计算技术研究所 | 多目标光纤光谱减天光处理方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005222405A (ja) * | 2004-02-06 | 2005-08-18 | Kao Corp | ファンデーションの推奨方法 |
JP2006004432A (ja) * | 2004-06-18 | 2006-01-05 | Mitsubishi Electric Research Laboratories Inc | シーンの反射率関数を推定する方法 |
CN101263721A (zh) * | 2005-07-13 | 2008-09-10 | 日本电气株式会社 | 颜色修正方法和颜色修正设备 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03264273A (ja) | 1990-03-13 | 1991-11-25 | Nissan Kohki Co Ltd | 吸排気バルブコッター組付装置 |
JP3008878B2 (ja) | 1997-02-14 | 2000-02-14 | 日本電気株式会社 | 色変換方法及びその装置並びにプログラムを記録した機械読み取り可能な記録媒体 |
JP2001052144A (ja) | 1999-08-10 | 2001-02-23 | Sony Corp | 画像処理装置および画像処理方法、並びに媒体 |
JP3264273B2 (ja) * | 1999-09-22 | 2002-03-11 | 日本電気株式会社 | 自動色補正装置及び自動色補正方法並びにその制御プログラムを記録した記録媒体 |
JP2003317084A (ja) | 2002-04-19 | 2003-11-07 | Nec Corp | 顔画像からの目検出システム、目検出方法および目検出用プログラム |
JP2004045189A (ja) | 2002-07-11 | 2004-02-12 | Matsushita Electric Ind Co Ltd | 色補正装置及び色補正方法 |
EP1610544A1 (en) * | 2004-06-25 | 2005-12-28 | STMicroelectronics Limited | Readout Circuit for image sensor array |
JP4477951B2 (ja) * | 2004-07-07 | 2010-06-09 | 花王株式会社 | 化粧シミュレーション装置 |
US7319467B2 (en) * | 2005-03-29 | 2008-01-15 | Mitsubishi Electric Research Laboratories, Inc. | Skin reflectance model for representing and rendering faces |
-
2011
- 2011-06-28 WO PCT/JP2011/003681 patent/WO2012001949A1/ja active Application Filing
- 2011-06-28 EP EP11800419.1A patent/EP2590136A1/en not_active Withdrawn
- 2011-06-28 CN CN201180031007.4A patent/CN102985941B/zh active Active
- 2011-06-28 JP JP2012522462A patent/JP5867390B2/ja active Active
- 2011-06-28 US US13/702,637 patent/US8855371B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005222405A (ja) * | 2004-02-06 | 2005-08-18 | Kao Corp | ファンデーションの推奨方法 |
JP2006004432A (ja) * | 2004-06-18 | 2006-01-05 | Mitsubishi Electric Research Laboratories Inc | シーンの反射率関数を推定する方法 |
CN101263721A (zh) * | 2005-07-13 | 2008-09-10 | 日本电气株式会社 | 颜色修正方法和颜色修正设备 |
Non-Patent Citations (1)
Title |
---|
MASATO TSUKADA,ET AL: "Face Image Enhancement Using 3D and Spectral Information", 《IMAGE PROCESSING 2009》 * |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103679649A (zh) * | 2013-11-18 | 2014-03-26 | 联想(北京)有限公司 | 一种信息处理方法和电子设备 |
CN103679649B (zh) * | 2013-11-18 | 2016-10-05 | 联想(北京)有限公司 | 一种信息处理方法和电子设备 |
CN114022395A (zh) * | 2022-01-06 | 2022-02-08 | 广州卓腾科技有限公司 | 一种证件照头发颜色矫正方法、装置及介质 |
CN114022395B (zh) * | 2022-01-06 | 2022-04-12 | 广州卓腾科技有限公司 | 一种证件照头发颜色矫正方法、装置及介质 |
Also Published As
Publication number | Publication date |
---|---|
CN102985941B (zh) | 2015-08-19 |
US8855371B2 (en) | 2014-10-07 |
JPWO2012001949A1 (ja) | 2013-08-22 |
JP5867390B2 (ja) | 2016-02-24 |
WO2012001949A1 (ja) | 2012-01-05 |
US20130083969A1 (en) | 2013-04-04 |
EP2590136A1 (en) | 2013-05-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102985941B (zh) | 彩色图像处理方法和彩色图像处理设备 | |
JP6004481B2 (ja) | カラー画像処理方法、カラー画像処理装置およびカラー画像処理プログラム | |
JP5648483B2 (ja) | カラー画像処理方法、カラー画像処理装置およびカラー画像処理プログラム | |
JP5533670B2 (ja) | カラー画像処理方法、カラー画像処理装置およびカラー画像処理プログラム | |
US8194975B2 (en) | Use of an intrinsic image in face recognition | |
US20080069444A1 (en) | Image mask generation | |
RU2581567C2 (ru) | Система и способ для сжатия сигнала цифрового изображения с использованием истинных изображений | |
Vazquez-Corral et al. | A fast image dehazing method that does not introduce color artifacts | |
Yang et al. | Underwater image enhancement using scene depth-based adaptive background light estimation and dark channel prior algorithms | |
CN109949248A (zh) | 修改车辆在图像中的颜色的方法、装置、设备及介质 | |
Lei et al. | A novel intelligent underwater image enhancement method via color correction and contrast stretching | |
Yin et al. | Multiscale fusion algorithm for underwater image enhancement based on color preservation | |
Jang et al. | Spectrum‐Based Color Reproduction Algorithm for Makeup Simulation of 3D Facial Avatar | |
US20220335578A1 (en) | Colorization To Show Contribution of Different Camera Modalities | |
Górriz et al. | End-to-end conditional GAN-based architectures for image colourisation | |
KR101772626B1 (ko) | 단일 영상으로부터 반사성분을 분리하는 방법 및 그 방법에 따른 영상처리 장치 | |
US11562464B1 (en) | Systems and methods for image postprocessing via viewport demosaicing | |
Zeng et al. | Modelling skin colours for preferred colour reproduction | |
Chisholm et al. | Tone mapping by interactive evolution | |
Kumar et al. | Unevenly illuminated image distortion correction using brightness perception and chromatic luminance | |
Subash et al. | Comparison of Image Enhancement Algorithms for Improving the Visual Quality in Computer Vision Application | |
PRO | CIC | |
Benedetti | Color to gray conversions for stereo matching | |
AU2014201797A1 (en) | Method, apparatus and system for determining chromatic difference |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |