CN102387373A - 图像处理设备和图像处理方法 - Google Patents

图像处理设备和图像处理方法 Download PDF

Info

Publication number
CN102387373A
CN102387373A CN2011102640530A CN201110264053A CN102387373A CN 102387373 A CN102387373 A CN 102387373A CN 2011102640530 A CN2011102640530 A CN 2011102640530A CN 201110264053 A CN201110264053 A CN 201110264053A CN 102387373 A CN102387373 A CN 102387373A
Authority
CN
China
Prior art keywords
light source
white balance
image data
value
video picture
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2011102640530A
Other languages
English (en)
Other versions
CN102387373B (zh
Inventor
清水佑辅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of CN102387373A publication Critical patent/CN102387373A/zh
Application granted granted Critical
Publication of CN102387373B publication Critical patent/CN102387373B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/73Colour balance circuits, e.g. white balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • H04N1/6086Colour correction or control controlled by factors external to the apparatus by scene illuminant, i.e. conditions at the time of picture capture, e.g. flash, optical filter used, evening, cloud, daylight, artificial lighting, white point measurement, colour temperature
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters

Abstract

本发明涉及图像处理设备和图像处理方法。本发明通过利用与第一光源相对应的第一白平衡校正值校正图像数据来生成第一显像图像数据;通过利用与第二光源相对应的第二白平衡校正值校正图像数据来生成第二显像图像数据;通过针对分割出的各个块、将图像数据中的像素的颜色评价值相加并平均化,来计算各个块的颜色评价值;基于计算出的各个块的颜色评价值与在第二光源下的白色的颜色评价值之间的差来计算合成比率;并且根据计算出的合成比率来合成第一显像图像数据和第二显像图像数据。

Description

图像处理设备和图像处理方法
技术领域
本发明涉及通过摄像设备所拍摄的图像的白平衡校正。
背景技术
通常,诸如数字照相机和数字摄像机等的利用图像传感器的摄像设备设置有用于调整通过摄像操作所拍摄的图像的色调的白平衡控制功能。该白平衡控制包括通过预先拍摄白色被摄体获取白平衡系数并且将计算出的白平衡系数应用至整个画面的手动白平衡控制。此外,白平衡控制包括从所拍摄图像自动检测可能的白色部分、根据整个画面中的各颜色成分的平均值计算白平衡系数、并且将计算出的白平衡系数应用至整个画面的自动白平衡控制。
现在将说明自动白平衡控制的传统方法。通过模拟/数字(A/D)转换将从图像传感器输出的模拟信号转换为数字信号,并且将数字信号分割为如图3所示的多个块。各个块包括红(R)、绿(G)和蓝(B)的颜色像素,并且通过例如以下的公式(1)针对各个块计算颜色评价值(Cx[i],Cy[i])。
公式1
Cx[i]=(R[i]-B[i])/Y[i]×1024
Cy[i]=(R[i]+B[i]-2G[i])/Y[i]×1024
(在该公式中,i表示块编号,R[i]、G[i]和B[i]各自表示包括在块i中的RGB像素的平均值,并且Y[i]=(R[i]+2G[i]+B[i])/4。)
然后,如果计算出的颜色评价值(Cx[i],Cy[i])落入预先设置的白色检测范围内,则将这个块判断为白色块。然后,计算在这些块中包括的颜色像素的累加值(SumR,Sum G,SumB),并且通过以下的公式(2)计算白平衡系数(WBCo_R,WBCo_G,WBCo_B)。
公式2
WBCo_R=SumY×1024/sumR
WBCo_G=SumY×1024/sumG
WBCo_B=SumY×1024/sumB
(在该公式中,SumY=(sumR+2×sumG+sumB)/4。)
然而,这样的自动白平衡控制具有以下的问题:即使在图像中存在多个不同光源的场景中,摄像设备也通过将如上所述计算出的白平衡系数应用至整个画面来进行白平衡控制。因此,难以针对所有光源进行实现适当的色感的白平衡控制。例如,在摄像设备发出作为具有高色温的光源的闪光灯光的场景中,如果环境光包含诸如灯泡颜色光源等的低色温光源,则基于闪光灯光所控制的白平衡导致对环境光中的低色温光源不适当的白平衡。另一方面,基于环境光的低色温光源所控制的白平衡导致对闪光灯不适当的白平衡。此外,即使摄像设备通过将白平衡调整至各个光源之间的中间来进行白平衡控制,这也导致对各光源均不适当的白平衡,结果生成用闪光灯光照射的区域带有蓝色感、而用低色温光源照射的区域带有红色感的图像。
因此,为解决这个问题,例如日本专利3540485所说明的技术通过针对各任意被摄体区域将闪光灯打开时所拍摄的图像与闪光灯关闭时所拍摄的图像进行比较来计算数据比率,并且基于计算出的比率值来确定闪光灯光的贡献度。然后,该技术通过根据贡献度、针对在闪光灯打开时执行曝光所拍摄的视频数据、针对各区域选择白平衡控制值,来进行白平衡控制。
然而,日本专利3540485所说明的传统技术设计为应用于发出闪光灯光时所拍摄的图像的白平衡控制,而不能应用于不发出闪光灯光时所拍摄的图像。此外,该传统技术在对各个区域改变白平衡控制值之后进行显像处理,使得诸如颜色再现等的其它控制相对于白平衡控制值可能变得不适当。结果,传统技术不能完全再现适当的色感。
发明内容
为解决上述问题,本发明在一个方面涉及即使当存在多个光源时也实现适当色感的图像的生成。
根据本发明的方面,提供一种图像处理设备,包括:校正部件,用于根据场景图像数据,通过利用与场景的第一光源相对应的第一白平衡校正值校正所述场景图像数据来生成第一显像图像数据,并且通过利用与场景的第二光源相对应的第二白平衡校正值校正所述场景图像数据来生成第二显像图像数据;分割部件,用于将所述场景图像数据分割成多个块;颜色评价值计算部件,用于通过针对由所述分割部件分割得到的所述多个块中的各个块、将所述场景图像数据中的像素的值相加并平均化,来计算所述多个块中的各个块的颜色评价值;合成比率计算部件,用于基于由所述颜色评价值计算部件计算出的各个块的颜色评价值与在所述第二光源下的白色的颜色评价值之间的差,来计算合成比率;以及合成部件,用于根据所述合成比率来合成由所述校正部件生成的所述第一显像图像数据和所述第二显像图像数据。
根据本发明的方面,还提供一种图像处理方法,包括以下步骤:根据场景图像数据,通过利用与场景的第一光源相对应的第一白平衡校正值校正所述场景图像数据来生成第一显像图像数据,并且通过利用与场景的第二光源相对应的第二白平衡校正值校正所述场景图像数据来生成第二显像图像数据;将所述场景图像数据分割成多个块;通过针对分割得到的所述多个块中的各个块、将所述场景图像数据中的像素的值相加并平均化,来计算所述多个块中的各个块的颜色评价值;基于计算出的各个块的颜色评价值与在所述第二光源下的白色的颜色评价值之间的差,来计算合成比率;以及根据计算出的所述合成比率来合成通过所述校正所生成的所述第一显像图像数据和所述第二显像图像数据。
本发明的方面还可以提供用于执行这里所述的任意方法和/或用于体现这里所述的任意设备特征的计算机程序和计算机程序产品,以及存储有用于执行这里所述的任意方法和/或用于实现这里所述的任意设备特征的程序的计算机可读介质。本发明的方面可以大致扩展至如这里参考附图所述的方法、设备和/或使用。在本发明的一个方面中的任意特征可以以任意适当的组合应用至本发明的其它方面。特别地,方法方面的特征可以应用至设备方面,反之亦然。此外,在硬件中实现的特征通常可以在软件中实现,反之亦然。这里提及的任何软件和硬件特征应当进行相应地解释。现在将参考附图通过示例说明本发明的其它优选特征和方面。
附图说明
包含在说明书中并构成说明书一部分的附图示出了本发明的典型实施例、特征和方面,并和说明书一起用来解释本发明的原理。
图1是示出根据本发明的典型实施例的数字照相机的结构的例子的框图。
图2是示出用于合成图像的处理过程的例子的流程图。
图3示出各自由R、G和B颜色像素构成的块。
图4A和4B是各自示出用于白色检测的颜色评价值的关系的例子的特性图。
图5是示出用于确定第一WB校正值的处理的例子的流程图。
图6示出在计算合成比率时使用的颜色评价值的关系的例子。
图7示出在计算合成比率时使用的颜色评价值的关系的其它例子。
图8示出当使用具有低色温的光源拍摄图像时颜色评价值的关系的例子。
图9是示出当使用具有低色温的光源拍摄图像时输入和输出之间的关系的特性图。
具体实施方式
以下将参考附图详细说明本发明的各种典型实施例、特征和方面。
以下将参考附图详细说明本发明的有用的典型实施例。图1是示出根据本典型实施例的数字照相机100的结构的例子的框图。参考图1,固体图像传感器101是例如由电荷耦合装置(CCD)或互补金属氧化物半导体(CMOS)构成的图像传感器。固体图像传感器101的表面覆盖有例如诸如拜耳阵列等的RGB颜色滤波器,以允许彩色拍摄。当在固体图像传感器101上形成被摄体图像时,固体图像传感器101生成随后存储在存储器102中的图像数据(图像信号)。
控制单元114计算照亮整个图像的快门速度和光圈值,并且计算聚焦于位于聚焦区域内的被摄体的调焦透镜的驱动量。然后,将由控制单元114计算出的信息、即曝光值(快门速度和光圈值)和调焦透镜的驱动量传送至摄像控制电路113,并且根据各个值控制相应的单元和部件。白平衡(WB)控制单元103基于存储在存储器102中的图像信号计算WB校正值,并且利用计算出的WB校正值对存储在存储器102中的图像信号应用WB校正。稍后将说明WB控制单元103的结构的细节和用于计算WB校正值的方法。
颜色转换矩阵电路104通过将WB控制单元103已应用了WB校正的图像信号乘以颜色增益以使得能够以最优颜色再现图像信号,来将图像信号转换为色差信号R-Y/B-Y。低通滤波器(LPF)电路105是用于限制色差信号R-Y/B-Y的频带的电路。彩度抑制(CSUP)电路106是用于在通过LPF电路105限制了频带的图像信号中去除饱和部分的伪色信号的电路。
另一方面,还将WB控制单元103已应用了WB校正的图像信号输出至亮度信号生成电路111。亮度信号生成电路111从输入图像信号生成亮度信号Y。边缘增强电路112对所生成的亮度信号Y应用边缘增强处理。
RGB转换电路107将从CSUP电路106输出的色差信号R-Y/B-Y和从边缘增强电路112输出的亮度信号Y转换为RGB信号。伽玛校正电路108对转换后的RGB信号应用灰度校正。之后,颜色亮度转换电路109将具有校正后的灰度的RGB信号转换为YUV信号。此外,联合图像专家组(JPEG)压缩电路110通过例如JPEG方法压缩转换得到的YUV信号,并且将压缩后的数据作为图像信号存储在外部或内部记录介质115中。
接着,将详细说明WB控制单元103计算WB校正值的方法。图5是示出WB控制单元103进行的用于确定第一白平衡校正值(第一WB校正值)的处理过程的例子的流程图。如这里将要使用的那样,第一WB校正值指的是针对在第一光源下拍摄的图像通过正常白平衡控制所计算出的校正值。
首先,在步骤S501中,WB控制单元103读出存储在存储器102中的图像信号,并且将图像空间分割成任意数量m的块。然后,在步骤S502中,针对m个块中的各个块,WB控制单元103针对各个颜色将像素值相加并且平均化,以计算颜色平均值(R[i],G[i],B[i])。然后,WB控制单元103进一步利用以下的公式(3)计算颜色评价值(Cx[i],Cy[i])。
公式3
Cx[i]=(R[i]-B[i])/Y[i]×1024
Cy[i]=(R[i]+B[i]-2G[i])/Y[i]×1024
(在该公式中,Y[i]=(R[i]+2G[i]+B[i])/4。)
随后,在步骤S503中,WB控制单元103进行白色检测以判断颜色评价值是否在白色检测范围内。现在,将说明白色检测的方法。
图4A和4B是各自表示在白色检测时使用的颜色评价值的关系的特性图。在图4A中,x轴(Cx)的负方向表示当拍摄高色温被摄体的白色时的颜色评价值,而x轴的正方向表示当拍摄低色温被摄体的白色时的颜色评价值。此外,y轴(Cy)表示光源的绿色成分的程度。随着值在y轴的负方向上增大,绿色成分增大,这表示光源是荧光灯泡。在步骤S503中,WB控制单元103判断在步骤S502中计算出的第i个块的颜色评价值(Cx[i],Cy[i])是否位于如图4A所示的预先设置的白色检测范围401内。
通过预先在不同光源下拍摄白色图像并且沿黑体轨迹描绘计算出的颜色评价值,来限定如图4A所示的白色检测范围401。可以设置该白色检测范围401以使其根据拍摄模式而具有不同的范围。如果计算出的颜色评价值(Cx[i],Cy[i])位于该白色检测范围401内(步骤S503中为“是”),则WB控制单元103判断为该块是白色。然后,在步骤S504中,WB控制单元103对该块的颜色平均值(R[i],G[i],B[i])进行相加计算。另一方面,如果计算出的颜色评价值不位于白色检测范围401内(步骤S503中为“否”),则处理在不对该块的颜色平均值进行相加的情况下进入步骤S505。在步骤S504的该计算中,WB控制单元103利用以下的公式(4)对颜色平均值(R[i],G[i],B[i])进行相加。
公式4
SumR 1 = Σ i = 0 m Sw [ i ] × R [ i ]
SumG 1 = Σ i = 0 m Sw [ i ] × G [ i ]
SumB 1 = Σ i = 0 m Sw [ i ] × B [ i ]
在该公式(4)中,如果颜色评价值(Cx[i],Cy[i])位于白色检测范围401内,则将Sw[i]设置为1,而如果颜色评价值(Cx[i],Cy[i])不位于白色检测范围401内,则将Sw[i]设置为0。以此方式设置Sw[i]允许WB控制单元103进行或者跳过对颜色平均值(R[i],G[i],B[i])的相加处理。
随后,在步骤S505中,WB控制单元103判断WB控制单元103是否已针对所有块确定了颜色评价值是否位于白色检测范围内。作为在步骤S505中判断的结果,如果存在任何剩余的要处理的块(步骤S505中为“否”),则处理返回步骤S502。如果已处理了所有块(步骤S505中为“是”),则处理进入下一步骤S506。以这种方式,当WB控制单元103已结束针对所有块的处理时,确定了公式(4)中的累加值(SumR1,SumG1,SumB1)。
随后,在步骤S506中,WB控制单元103利用以下的公式(5)根据确定出的颜色平均值的累加值(SumR1,SumG1,SumB1)计算第一WB校正值(WBCol_R1,WBCol_G1,WBCol_B1)。
公式5
WBCol_R1=SumY1×1024/SumR1
WBCol_G1=SumY1×1024/SumG1
WBCol_B1=SumY1×1024/SumB1
(在该公式中,SumY1=(SumR1+2×SumG1+SumB1)/4。)
此外,当发出闪光灯光时,WB控制单元103利用与如图4B所示的与闪光灯光相对应的白色检测范围402、以与上述的WB校正值计算方法相同的方式计算第一WB校正值。这是因为闪光灯是已知光源,从而可以限制白色检测范围。可选地,当发出闪光灯光时,可以将作为第一WB校正值的针对闪光灯光的WB校正值预先设置为已知值。
接着,将说明用于确定针对第二光源的第二白平衡校正值(第二WB校正值)的方法。WB控制单元103利用针对各光源预先确定的值来确定第二WB校正值。该值是通过预先在各光源下拍摄白色图像并且计算校正值所准备的值。首先,判断场景以估计光源。例如,作为场景判断的结果,如果将光源判断为水银灯,则WB控制单元103利用针对水银灯预先确定的WB校正值作为第二WB校正值。在存在多种类型的光源的情况下,第二WB校正值根据光源的类型可以是可变的。例如,在存在两种类型的水银灯的情况下,根据各水银灯的类型改变WB校正值。
此外,如果在发出闪光灯光时利用诸如具有灯泡颜色的光源等的低色温光源照射背景,则可以计算第二WB校正值以维持色感来保留场景的氛围。例如,设置色温的关系以使得如图9示出的关系所示,将输入图像作为具有不同色温的图像输出。以此方式,如果当第二WB校正值的色温低时控制白平衡以维持色感,则可以生成例如保持具有灯泡颜色的光源的红色感的图像。
然后,将参考图2所示的流程图说明图像合成处理。图2是示出WB控制单元103进行的用于合成图像的处理过程的例子的流程图。首先,在步骤S201中,WB控制单元103根据存储在存储器102中的图像信号分析场景,并且判断是否能够确定光源的类型。作为该判断的结果,如果不能确定光源的类型(步骤S201中为“否”),则处理进入步骤S208,在步骤S208中,WB控制单元103在不进行图像合成处理的情况下利用通过图5所示的过程计算出的第一WB校正值来进行正常白平衡控制。另一方面,作为步骤S201中的判断结果,如果能够确定光源的类型(步骤S201中为“是”),则处理进入步骤S202,其中,WB控制单元103进行图像合成处理。
随后,在步骤S202中,WB控制单元103对存储在存储器102中的图像信号应用利用上述第一WB校正值的白平衡校正,并且生成显像图像信号Yuv1作为第一显像图像数据。然后,在步骤S203中,类似地,WB控制单元103对图像数据应用利用上述第二WB校正值的白平衡校正,并且生成显像图像信号Yuv2作为第二显像图像数据。接着,在步骤S204中,WB控制单元103将存储在存储器102中的图像信号、显像图像信号Yuv1和显像图像信号Yuv2各自分割为n个块。
随后,在步骤S205中,WB控制单元103针对存储在存储器102中的图像信号中的各个块,针对各颜色对像素值进行相加并平均化,以计算颜色平均值(R2[i],G2[i],B2[i])。此外,WB控制单元103利用上述的公式(3)计算颜色评价值(Cx[i],Cy[i])。可选地,WB控制单元103可以在不进行任何额外处理的情况下使用在步骤S502中计算出的颜色评价值(Cx[i],Cy[i])。这时,如果存在任何饱和像素,则WB控制单元103可以从相加处理中排除该饱和像素的像素值以及与该饱和像素相对应的其它颜色的像素的像素值。例如,如果R像素是饱和像素,则WB控制单元103从相加处理中排除该R像素的像素值以及与该R像素相对应的G像素和B像素的像素值。
随后,在步骤S206中,WB控制单元103根据各光源设置评价框,并且基于上述的第二WB校正值和各块的颜色评价值之间的差来计算各块的合成比率。例如,在使用水银灯作为光源的场景中,如图6所示,WB控制单元103设置水银灯用的评价框601,其中,将作为第二WB校正值预先确定的、在水银灯下所获得的白色的颜色评价值配置在框的中心。然后,WB控制单元103基于在水银灯下获得的白色的预定颜色评价值与各块的颜色评价值之间的距离,计算各块的合成比率。基于通过预先在水银灯下拍摄白色被摄体并且计算其颜色评价值所准备的颜色评价值,设置评价框601。
首先,如果块的颜色评价值与在水银灯下所获得的白色的颜色评价值的差异小并且位于如图6所示的内部框602内,则WB控制单元103设置1作为该块的合成比率α[i]。另一方面,如果块的颜色评价值位于在如图6所示的内部框602与评价框601之间的区域内,则WB控制单元103如下计算该块的合成比率α[i]:WB控制单元103从内部框602朝向评价框601线性减小合成比率,以使得内部框602示出合成比率α[i]=1并且评价框601示出合成比率α[i]=0。此外,如果块的颜色评价值位于评价框601外,则WB控制单元103设置0作为该块的合成比率α[i]。
评价框601和内部框602可以具有代替四边形的任意形状。例如,如图7所示,可以将评价框601设置为具有椭圆(圆)形。此外,例如,对于使用诸如具有灯泡颜色的光源等的低色温光源的场景,还可以通过设置如图8所示的评价框601和内部框602来应用该方法。在此情况下,可以通过与针对使用水银灯作为光源的场景的合成比率计算方法相同的处理,来计算合成比率。
随后,在步骤S207中,WB控制单元103利用各块的合成比率α[i]合成显像图像信号Yuv1和显像图像信号Yuv2以生成合成图像信号Yuv3。利用显像图像信号Yuv1的颜色评价值(Y1[i],u1[i],v1[i])和显像图像信号Yuv2的颜色评价值(Y2[i],u2[i],v2[i])来计算合成图像信号Yuv3的颜色评价值(Y3[i],u3[i],v3[i])。更具体地,通过以下的公式(6)来计算合成图像信号Yuv3的颜色评价值(Y3[i],u3[i],v3[i])。
公式6
Y3[i]=Y1[i]×(1-α[i])+Y2[i]×α[i]
u3[i]=u1[i]×(1-α[i])+u2[i]×α[i]
v3[i]=v1[i]×(1-α[i])+v2[i]×α[i]
这时,WB控制单元103可以在步骤S207中进一步进行像素插值处理以根据各块的合成比率α[i]计算各像素的合成比率α’[j],以减小在块之间的边界处可能生成的色感变化。例如,WB控制单元103利用作为像素插值处理的双线性插值根据各块的合成比率α[i]计算各像素的合成比率α’[j]。这时,在步骤S207中,通过利用各像素的合成比率α’[j]合成显像图像信号Yuv1和显像图像信号Yuv2,来生成合成图像信号Yuv3。利用显像图像信号Yuv1的颜色评价值(Y1[i],u1[i],v1[i])和显像图像信号Yuv2的颜色评价值(Y2[i],u2[i],v2[i])计算合成图像信号Yuv3的颜色评价值(Y3[i],u3[i],v3[i])。更具体地,通过以下的公式(7)来计算合成图像信号Yuv3的颜色评价值(Y3[i],u3[i],v3[i])。
公式7
Y3[j]=Y1[j]×(1-α′[j])+Y2[j]×α′[j]
u3[j]=u1[j]×(1-α′[j])+u2[j]×α′[j]
v3[j]=v1[j]×(1-α′[j])+v2[j]×α′[j]
此外,WB控制单元103可以仅合成作为颜色成分的u成分和v成分以减少电路的计算量。例如,在图像合成处理中,通过以下的公式(8)来计算合成图像信号Yuv3的颜色评价值(Y3[i],u3[i],v3[i])。
公式8
Y3[i]=Y1[i]
u3[i]=u1[i]×(1-α[i])+u2[i]×α[i]
v3[i]=v1[i]×(1-α[i])+v2[i]×α[i]
此外,尽管上述图像合成处理针对显像图像信号采用Yuv格式,但可以采用例如RGB格式作为图像格式。在此情况下,代替在步骤S207中使用的公式(6),WB控制单元103利用以下的公式(9)。更具体地,WB控制单元103首先计算利用第一WB校正值显像的显像图像信号RGB1的颜色评价值(R1[i],G1[i],B1[i])和利用第二WB校正值显像的显像图像信号RGB2的颜色评价值(R2[i],G2[i],B2[i])。然后,WB控制单元103通过以下的公式(9)计算合成图像信号RGB3的颜色评价值(R3[i],G3[i],B3[i])。
公式9
R3[i]=R1[i]×(1-α[i])+R2[i]×α[i]
G3[i]=G1[i]×(1-α[i])+G2[i]×α[i]
B3[i]=B1[i]×(1-α[i])+B2[i]×α[i]
此外,在上述的图像合成处理中,如果存在两种以上类型的光源,则WB控制单元103可以生成两个以上显像图像以合成这些图像。例如,如果在使用水银灯的场景中发出闪光灯光,则WB控制单元103除了确定上述的第一WB校正值和第二WB校正值以外,还以与上述用于确定第二WB校正值的方法相同的方式确定与闪光灯光相对应的第三WB校正值。然后,WB控制单元103通过分别使用三个WB校正值对三个图像进行显像,来进行图像合成处理。通过三个光源的光量之间的比率来确定针对三个WB校正值中的各WB校正值的合成比率。
以此方式,根据本典型实施例的图像处理,即使在存在多种不同类型的光源的场景中,也可以生成主被摄体和背景均具有适当色感的图像,从而为用户提供优选的图像。
其它实施例
还可以利用读出并执行记录在存储器装置上的程序以进行上述实施例的功能的系统或设备的计算机(或者CPU或MPU等装置)和通过下面的方法实现本发明的方面,其中,利用系统或设备的计算机通过例如读出并执行记录在存储器装置上的程序以进行上述实施例的功能来进行上述方法的步骤。为此,例如,通过网络或者通过用作存储器装置的各种类型的记录介质(例如,计算机可读介质)将该程序提供给计算机。
尽管已经参考典型实施例说明了本发明,但是应该理解,本发明不限于所公开的典型实施例。可以单独地或以适当的组合来提供说明书以及(在合适的情况下)权利要求书和附图中所公开的各特征。

Claims (13)

1.一种图像处理设备,包括:
校正部件,用于根据场景图像数据,通过利用与场景的第一光源相对应的第一白平衡校正值校正所述场景图像数据来生成第一显像图像数据,并且通过利用与场景的第二光源相对应的第二白平衡校正值校正所述场景图像数据来生成第二显像图像数据;
分割部件,用于将所述场景图像数据分割成多个块;
颜色评价值计算部件,用于通过针对由所述分割部件分割得到的所述多个块中的各个块、将所述场景图像数据中的像素的值相加并平均化,来计算所述多个块中的各个块的颜色评价值;
合成比率计算部件,用于基于由所述颜色评价值计算部件计算出的各个块的颜色评价值与在所述第二光源下的白色的颜色评价值之间的差,来计算合成比率;以及
合成部件,用于根据所述合成比率来合成由所述校正部件生成的所述第一显像图像数据和所述第二显像图像数据。
2.根据权利要求1所述的图像处理设备,其特征在于,还包括:
第一确定部件,用于根据所述场景图像数据确定与所述第一光源相对应的所述第一白平衡校正值;以及
第二确定部件,用于根据所述场景图像数据确定与所述第二光源相对应的所述第二白平衡校正值。
3.根据权利要求2所述的图像处理设备,其特征在于,所述第一确定部件基于利用黑体轨迹的白平衡控制,来确定所述第一白平衡校正值。
4.根据权利要求2或3所述的图像处理设备,其特征在于,所述第二确定部件利用针对各光源预先确定的值来确定所述第二白平衡校正值。
5.根据权利要求1到3中任一项所述的图像处理设备,其特征在于,在不能判断所述场景图像数据的光源的情况下,所述合成部件不进行所述合成。
6.根据权利要求1到3中任一项所述的图像处理设备,其特征在于,所述合成比率计算部件通过插值处理计算各像素的合成比率。
7.根据权利要求1到3中任一项所述的图像处理设备,其特征在于,在存在饱和像素的情况下,所述颜色评价值计算部件从相加并平均化中排除所述饱和像素的像素值以及与所述饱和像素相对应的其它颜色的像素的像素值。
8.根据权利要求4所述的图像处理设备,其特征在于,所述第二确定部件确定所述第二白平衡校正值以保持光源的色感。
9.根据权利要求1到3中任一项所述的图像处理设备,其特征在于,所述合成部件仅合成所述第一显像图像数据和所述第二显像图像数据的颜色成分。
10.根据权利要求1所述的图像处理设备,其特征在于,所述校正部件还通过利用与场景的第三光源相对应的第三白平衡校正值校正所述场景图像数据,来生成第三显像图像数据,以及所述合成部件合成所述第一显像图像数据、所述第二显像图像数据和所述第三显像图像数据。
11.根据权利要求10所述的图像处理设备,其特征在于,还包括第二确定部件,所述第二确定部件用于根据所述场景图像数据,利用针对各光源预先确定的值,来确定与所述第二光源相对应的所述第二白平衡校正值和与所述第三光源相对应的所述第三白平衡校正值。
12.一种图像处理方法,包括以下步骤:
根据场景图像数据,通过利用与场景的第一光源相对应的第一白平衡校正值校正所述场景图像数据来生成第一显像图像数据,并且通过利用与场景的第二光源相对应的第二白平衡校正值校正所述场景图像数据来生成第二显像图像数据;
将所述场景图像数据分割成多个块;
通过针对分割得到的所述多个块中的各个块、将所述场景图像数据中的像素的值相加并平均化,来计算所述多个块中的各个块的颜色评价值;
基于计算出的各个块的颜色评价值与在所述第二光源下的白色的颜色评价值之间的差,来计算合成比率;以及
根据计算出的所述合成比率来合成通过所述校正所生成的所述第一显像图像数据和所述第二显像图像数据。
13.根据权利要求12所述的图像处理方法,其特征在于,还包括:
根据所述场景图像数据确定与所述第一光源相对应的所述第一白平衡校正值;以及
根据所述场景图像数据确定与所述第二光源相对应的所述第二白平衡校正值。
CN201110264053.0A 2010-09-02 2011-09-01 图像处理设备和图像处理方法 Expired - Fee Related CN102387373B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2010196827A JP5761946B2 (ja) 2010-09-02 2010-09-02 画像処理装置、画像処理方法及び記憶媒体
JP2010-196827 2010-09-02

Publications (2)

Publication Number Publication Date
CN102387373A true CN102387373A (zh) 2012-03-21
CN102387373B CN102387373B (zh) 2015-03-25

Family

ID=44651223

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201110264053.0A Expired - Fee Related CN102387373B (zh) 2010-09-02 2011-09-01 图像处理设备和图像处理方法

Country Status (6)

Country Link
US (2) US8941756B2 (zh)
EP (1) EP2426928B1 (zh)
JP (1) JP5761946B2 (zh)
KR (1) KR101388130B1 (zh)
CN (1) CN102387373B (zh)
RU (1) RU2491760C2 (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104780353A (zh) * 2015-03-26 2015-07-15 广东欧珀移动通信有限公司 一种图像处理方法及装置
WO2015124022A1 (zh) * 2014-02-22 2015-08-27 努比亚技术有限公司 拍摄方法和拍摄装置
CN105306916A (zh) * 2014-05-30 2016-02-03 佳能株式会社 执行白平衡控制的图像拾取装置及其控制方法
WO2019019904A1 (zh) * 2017-07-25 2019-01-31 Oppo广东移动通信有限公司 白平衡处理方法、装置和终端
CN113315956A (zh) * 2020-02-26 2021-08-27 佳能株式会社 图像处理设备、摄像设备、图像处理方法和机器可读介质

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5804857B2 (ja) * 2011-09-07 2015-11-04 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP5804856B2 (ja) 2011-09-07 2015-11-04 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP5911241B2 (ja) 2011-09-07 2016-04-27 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP5882787B2 (ja) * 2012-02-28 2016-03-09 キヤノン株式会社 画像処理装置及び画像処理方法
JP6083974B2 (ja) * 2012-04-24 2017-02-22 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2014014044A (ja) * 2012-07-05 2014-01-23 Sony Corp 画像処理装置、画像処理方法、および、プログラム
JP2014120813A (ja) * 2012-12-13 2014-06-30 Samsung R&D Institute Japan Co Ltd 撮像装置及び撮像方法
US11418753B2 (en) * 2014-06-13 2022-08-16 Sony Corporation Transmission device, transmission method, reception device, and reception method
US10074165B2 (en) * 2014-09-10 2018-09-11 Morpho, Inc. Image composition device, image composition method, and recording medium
JP6425571B2 (ja) * 2015-02-02 2018-11-21 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
JP6595880B2 (ja) * 2015-10-22 2019-10-23 キヤノン株式会社 画像処理装置、画像処理方法
CN109151426B (zh) 2017-06-28 2020-05-22 杭州海康威视数字技术股份有限公司 一种白平衡调整方法、装置、相机及介质
JP6944350B2 (ja) * 2017-11-13 2021-10-06 アルパイン株式会社 撮影画像表示システム、電子ミラーシステム及び撮影画像表示方法
CN113366527A (zh) * 2019-01-31 2021-09-07 三星电子株式会社 用于处理图像的电子装置和方法

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5808681A (en) * 1995-04-13 1998-09-15 Ricoh Company, Ltd. Electronic still camera
CN1846447A (zh) * 2003-09-04 2006-10-11 索尼株式会社 图像处理方法、图像处理装置和计算机程序
CN1885952A (zh) * 2005-06-20 2006-12-27 佳能株式会社 摄像设备和图像处理方法
CN101088297A (zh) * 2004-12-22 2007-12-12 皇家飞利浦电子股份有限公司 自动白平衡控制
CN101179663A (zh) * 2006-11-07 2008-05-14 明基电通股份有限公司 拍照方法及系统及其机器可读取介质
CN101283604A (zh) * 2005-08-30 2008-10-08 诺基亚公司 具有自动白平衡的图像处理设备
CN101350883A (zh) * 2007-07-17 2009-01-21 富士胶片株式会社 自动白平衡校正值计算装置、方法、程序以及摄像装置
CN101527860A (zh) * 2008-03-04 2009-09-09 佳能株式会社 白平衡控制设备及其控制方法和摄像设备

Family Cites Families (36)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5053871A (en) * 1989-04-28 1991-10-01 Canon Kabushiki Kaisha Still video camera with automatic exposure control and flicker detection
JP3664582B2 (ja) * 1998-03-17 2005-06-29 富士写真フイルム株式会社 ホワイトバランス調整方法および装置
JP4063418B2 (ja) * 1998-09-11 2008-03-19 イーストマン コダック カンパニー オートホワイトバランス装置
DE60039323D1 (de) * 1999-02-12 2008-08-14 Fujifilm Corp Verfahren und Vorrichtung zur Messung des von einer beleuchteten Probe ausgehenden Lichts mit Eliminierung des Einflusses von Hintergrundlicht
KR100363826B1 (ko) * 1999-06-07 2002-12-06 히다치덴시 가부시키가이샤 넓은 다이내믹레인지의 영상신호를 생성하는텔레비젼신호처리장치와 그 신호처리장치를 가지는텔레비젼카메라 및 텔레비젼신호처리방법
JP4048407B2 (ja) * 2001-01-18 2008-02-20 富士フイルム株式会社 デジタルカメラ
JP4228180B2 (ja) * 2001-08-24 2009-02-25 富士フイルム株式会社 デジタルカメラ及びプリンタ
EP1311111A3 (en) * 2001-11-08 2004-12-08 Fuji Photo Film Co., Ltd. Method and apparatus for correcting white balance, method for correcting density and program recording medium
JP4407514B2 (ja) * 2002-07-18 2010-02-03 ソニー株式会社 撮像データ処理方法、および撮像データ処理装置、並びにコンピュータ・プログラム
US7283166B1 (en) * 2002-10-15 2007-10-16 Lockheed Martin Corporation Automatic control method and system for electron bombarded charge coupled device (“EBCCD”) sensor
JP4049257B2 (ja) * 2002-12-02 2008-02-20 富士フイルム株式会社 固体撮像装置及びデジタルカメラ
JP4026516B2 (ja) * 2003-03-07 2007-12-26 富士フイルム株式会社 画像処理装置及び方法
JP2005033609A (ja) * 2003-07-08 2005-02-03 Fuji Film Microdevices Co Ltd 固体撮像装置及びデジタルカメラ
JP2005167476A (ja) * 2003-12-01 2005-06-23 Canon Inc ホワイトバランス制御装置
US7423674B2 (en) * 2003-12-08 2008-09-09 Nikon Corporation Electronic camera having color adjustment function and program therefor
US8675059B2 (en) * 2010-07-29 2014-03-18 Careview Communications, Inc. System and method for using a video monitoring system to prevent and manage decubitus ulcers in patients
JP4433883B2 (ja) * 2004-05-31 2010-03-17 カシオ計算機株式会社 ホワイトバランス補正装置及びホワイトバランス補正方法、プログラム、電子カメラ装置
US7728880B2 (en) * 2004-06-25 2010-06-01 Qualcomm Incorporated Automatic white balance method and apparatus
JP2006129442A (ja) * 2004-09-30 2006-05-18 Fuji Photo Film Co Ltd 画像補正装置および方法,ならびに画像補正プログラム
KR100639111B1 (ko) * 2005-03-14 2006-10-30 주식회사 코아로직 이미지 센서의 노출 조절 장치 및 그의 조절 방법
US7443443B2 (en) 2005-07-28 2008-10-28 Mitsubishi Electric Research Laboratories, Inc. Method and apparatus for enhancing flash and ambient images
JP4635828B2 (ja) * 2005-11-07 2011-02-23 コニカミノルタホールディングス株式会社 撮像装置、画像処理装置、画像処理方法及び画像処理プログラム
JP4832899B2 (ja) 2006-01-05 2011-12-07 イーストマン コダック カンパニー ゲイン算出装置
US7590344B2 (en) * 2006-02-28 2009-09-15 Microsoft Corp. Adaptive processing for images captured with flash
TW200820797A (en) 2006-10-23 2008-05-01 Benq Corp Photographing methods and systems, and machine readable medium thereof
JP4677391B2 (ja) * 2006-10-26 2011-04-27 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、コンピュータプログラム、及び記憶媒体
JP2008135824A (ja) * 2006-11-27 2008-06-12 Matsushita Electric Ind Co Ltd 位相調整装置、デジタルカメラおよび位相調整方法
US8049789B2 (en) * 2006-12-15 2011-11-01 ON Semiconductor Trading, Ltd White balance correction using illuminant estimation
JP5021338B2 (ja) * 2007-03-02 2012-09-05 富士フイルム株式会社 ホワイトバランス補正装置および方法
JP5066398B2 (ja) * 2007-06-29 2012-11-07 富士フイルム株式会社 画像処理装置および方法並びにプログラム
US8040391B2 (en) * 2007-08-06 2011-10-18 Panasonic Corporation White balance adjustment device, image capture device, white balance adjustment method, storage medium, and integrated circuit
JP5178170B2 (ja) * 2007-12-11 2013-04-10 オリンパス株式会社 ホワイトバランス調整装置及びホワイトバランス調整方法
JP2009147608A (ja) * 2007-12-13 2009-07-02 Sony Corp 撮像装置、撮像装置の制御方法、撮像装置の制御方法のプログラム及び撮像装置の制御方法のプログラムを記録した記録媒体
JP5113514B2 (ja) * 2007-12-27 2013-01-09 キヤノン株式会社 ホワイトバランス制御装置およびホワイトバランス制御方法
JP2010050798A (ja) 2008-08-22 2010-03-04 Sanyo Electric Co Ltd 電子カメラ
JP4688044B2 (ja) * 2009-04-21 2011-05-25 富士フイルム株式会社 ホワイトバランス調整方法および画像処理装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5808681A (en) * 1995-04-13 1998-09-15 Ricoh Company, Ltd. Electronic still camera
CN1846447A (zh) * 2003-09-04 2006-10-11 索尼株式会社 图像处理方法、图像处理装置和计算机程序
CN101088297A (zh) * 2004-12-22 2007-12-12 皇家飞利浦电子股份有限公司 自动白平衡控制
CN1885952A (zh) * 2005-06-20 2006-12-27 佳能株式会社 摄像设备和图像处理方法
CN101283604A (zh) * 2005-08-30 2008-10-08 诺基亚公司 具有自动白平衡的图像处理设备
CN101179663A (zh) * 2006-11-07 2008-05-14 明基电通股份有限公司 拍照方法及系统及其机器可读取介质
CN101350883A (zh) * 2007-07-17 2009-01-21 富士胶片株式会社 自动白平衡校正值计算装置、方法、程序以及摄像装置
CN101527860A (zh) * 2008-03-04 2009-09-09 佳能株式会社 白平衡控制设备及其控制方法和摄像设备

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015124022A1 (zh) * 2014-02-22 2015-08-27 努比亚技术有限公司 拍摄方法和拍摄装置
US10237526B2 (en) 2014-02-22 2019-03-19 Nubia Technology Co., Ltd Shooting method and shooting device
CN105306916A (zh) * 2014-05-30 2016-02-03 佳能株式会社 执行白平衡控制的图像拾取装置及其控制方法
CN105306916B (zh) * 2014-05-30 2017-06-30 佳能株式会社 执行白平衡控制的图像拾取装置及其控制方法
CN104780353A (zh) * 2015-03-26 2015-07-15 广东欧珀移动通信有限公司 一种图像处理方法及装置
WO2019019904A1 (zh) * 2017-07-25 2019-01-31 Oppo广东移动通信有限公司 白平衡处理方法、装置和终端
CN113315956A (zh) * 2020-02-26 2021-08-27 佳能株式会社 图像处理设备、摄像设备、图像处理方法和机器可读介质
CN113315956B (zh) * 2020-02-26 2024-03-29 佳能株式会社 图像处理设备、摄像设备、图像处理方法和机器可读介质

Also Published As

Publication number Publication date
RU2491760C2 (ru) 2013-08-27
KR101388130B1 (ko) 2014-04-23
KR20120025415A (ko) 2012-03-15
US20120057045A1 (en) 2012-03-08
EP2426928B1 (en) 2020-04-22
RU2011136503A (ru) 2013-03-10
EP2426928A2 (en) 2012-03-07
US8941756B2 (en) 2015-01-27
EP2426928A3 (en) 2016-04-13
CN102387373B (zh) 2015-03-25
US9438875B2 (en) 2016-09-06
JP2012054827A (ja) 2012-03-15
US20150116536A1 (en) 2015-04-30
JP5761946B2 (ja) 2015-08-12

Similar Documents

Publication Publication Date Title
CN102387373B (zh) 图像处理设备和图像处理方法
CN102387372B (zh) 图像处理设备和图像处理方法
US6995791B2 (en) Automatic white balance for digital imaging
JP5743696B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP4678218B2 (ja) 撮像装置及び画像処理方法
JP6049343B2 (ja) 画像処理装置、画像処理方法及びプログラム
US20120127334A1 (en) Adaptive spatial sampling using an imaging assembly having a tunable spectral response
US8810681B2 (en) Image processing apparatus and image processing method
JP5804857B2 (ja) 画像処理装置、画像処理方法及びプログラム
CN102769760A (zh) 图像处理设备和图像处理方法
JP2006333113A (ja) 撮像装置
EP2515543B1 (en) Image capturing apparatus and image capturing method
JP6021885B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5597124B2 (ja) 画像信号処理装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20150325