CN109922325B - 图像处理设备及其控制方法和计算机可读存储介质 - Google Patents

图像处理设备及其控制方法和计算机可读存储介质 Download PDF

Info

Publication number
CN109922325B
CN109922325B CN201811456279.9A CN201811456279A CN109922325B CN 109922325 B CN109922325 B CN 109922325B CN 201811456279 A CN201811456279 A CN 201811456279A CN 109922325 B CN109922325 B CN 109922325B
Authority
CN
China
Prior art keywords
achromatic
image data
region
image
processing apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811456279.9A
Other languages
English (en)
Other versions
CN109922325A (zh
Inventor
三宅利尚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP2018193495A external-priority patent/JP7191633B2/ja
Application filed by Canon Inc filed Critical Canon Inc
Publication of CN109922325A publication Critical patent/CN109922325A/zh
Application granted granted Critical
Publication of CN109922325B publication Critical patent/CN109922325B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Image Processing (AREA)

Abstract

本发明提供图像处理设备及其控制方法。该图像处理设备基于在通过摄像获得的第一图像数据中所检测到的非彩色区域来确定非彩色区域位置;以及计算用于对通过在第一图像数据的摄像之后进行的摄像所获得的第二图像数据进行颜色校正处理的颜色校正参数,其中,基于与第二图像数据中的与所确定出的非彩色区域位置相对应的位置有关的颜色信息来计算颜色校正参数。

Description

图像处理设备及其控制方法和计算机可读存储介质
技术领域
本发明的各方面一般涉及图像处理设备、图像处理方法和存储介质,其中图像处理设备、图像处理方法和存储介质各自适合用于调整拍摄图像的颜色。
背景技术
已知如下的传统方法:为了调整白平衡,从图像信号中提取非彩色区域,并且基于所提取的非彩色区域来调整拍摄图像整体的颜色。
提取非彩色区域的方法包括从摄像设备所获得的图像中提取颜色饱和度低的区域的已知方法。然而,在未获得足够照度的环境中,由于拍摄图像整体的颜色饱和度变低,因此原本为彩色的区域可能被误识别为非彩色区域,并且在特定波长区域强的光源下,非彩色区域可能被误识别为彩色区域。因此,在低照度环境中或在特定光源下,尽管对同一被摄体进行了摄像,但是可能无法正确地再现该被摄体的色调。
为了解决这个问题,提出了如下方法:在调整白平衡时,使用与先前拍摄的图像有关的信息。日本特开2002-34053讨论了如下方法:预先存储先前拍摄的图像的红色、绿色和蓝色(RGB)的各增益值,然后在不能判断光源的情况下使用所存储的增益值。此外,日本特开2010-147651讨论了如下方法:预先存储在广角设置下拍摄的图像中所包括的非彩色区域,并且在回放时基于所存储的非彩色区域来进行颜色调整。
发明内容
根据本发明的一个或多个方面,并且为了提供对图像处理技术的进一步增强,一种图像处理设备,用于处理通过摄像所获得的图像数据,所述图像处理设备包括:确定部件,用于基于在通过所述摄像所获得的第一图像数据中所检测到的非彩色区域来确定非彩色区域位置;以及计算部件,用于计算用于对通过在所述第一图像数据的摄像之后进行的摄像所获得的第二图像数据进行颜色校正处理的颜色校正参数,其中,所述计算部件基于与所述第二图像数据中的与所述确定部件所确定出的非彩色区域位置相对应的位置有关的颜色信息来计算所述颜色校正参数。
根据本发明的一个或多个方面,一种图像处理设备的控制方法,所述图像处理设备用于处理通过摄像获得的图像数据,所述控制方法包括:基于在通过所述摄像所获得的第一图像数据中所检测到的非彩色区域来确定非彩色区域位置;以及计算用于对通过在所述第一图像数据的摄像之后进行的摄像所获得的第二图像数据进行颜色校正处理的颜色校正参数,其中,基于与所述第二图像数据中的与所确定出的非彩色区域位置相对应的位置有关的颜色信息来计算所述颜色校正参数。
通过以下参考附图对典型实施例的说明,本发明的其它特征将变得明显。
附图说明
图1是示出图像处理设备的硬件结构示例的框图。
图2是示出根据第一典型实施例的图像处理设备的功能结构示例的框图。
图3是示出在第一典型实施例中用于进行白平衡控制的处理过程的示例的流程图。
图4A和4B是用于说明基于非彩色区域来调整白平衡的示例的图。
图5A和5B是用于说明在低照度下不能检测到非彩色区域的示例的图。
图6是示出根据第二典型实施例的图像处理设备的功能结构示例的框图。
图7是示出在第二典型实施例中用于进行白平衡控制的处理过程的示例的流程图。
图8A、8B和8C是用于说明用于进行权重相加的处理的图。
图9是示出根据第三典型实施例的图像处理设备的功能结构示例的框图。
图10是示出根据第四典型实施例的图像处理设备的功能结构示例的框图。
图11A和11B是示出在第四典型实施例中用于进行白平衡控制的处理过程的示例的流程图。
具体实施方式
以下将参考附图来详细描述本发明的各种典型实施例、特征和方面。
图1是示出根据本发明的第一典型实施例的图像处理设备100的硬件结构示例的框图。在第一典型实施例中所要使用的图像处理设备包括例如安装在特定位置处的设备,诸如监视照相机等。图像处理设备100包括中央处理单元(CPU)101、只读存储器(ROM)102、随机存取存储器(RAM)103、存储装置104、显示单元105、输入单元106、通信单元107和摄像单元108。可以包括一个或多个处理器、一个或多个存储器、电路或者它们的组合等的CPU101可以读出存储在ROM 102中的控制程序,并且进行对诸如摄像、存储、通信、显示以及输入和输出等的各种处理操作的控制。RAM 103用作诸如用于CPU 101的主存储器和工作区域等的临时存储区域。存储装置104例如是可移动存储器,并且存储例如各种数据和各种程序。此外,存储装置104可以是内置型存储器。显示单元105显示各种信息。输入单元106接收用户所进行的各种操作。
通信单元107经由网络进行与诸如图像形成设备等的外部设备的通信处理。此外,作为另一示例,通信单元107可以经由无线进行与外部设备的通信。摄像单元108利用例如图像传感器、透镜组和模数(A/D)转换器来配置,并生成图像数据。此外,通过CPU 101读出存储在例如ROM 102中的程序并执行所读出的程序来实现下面描述的图像处理设备100的功能和处理操作。
此外,上述硬件结构仅是示例,并且一个硬件不一定对应于一个结构。例如,彼此协作的多个处理器可以用作一个控制单元,或者单个处理器可以用作多个单元。此外,图像处理设备100所进行的控制的至少一部分可以由硬件电路实现。
此外,图1所示的结构的一部分可以包括在与图像处理设备100不同的设备中。例如,在监视照相机的情况下,设想如下系统,该系统包括用于处理摄像和图像输出的监视照相机主体以及用于显示和存储从监视照相机主体发送的图像的控制终端。在这种情况下,控制终端用作图像处理设备100,并且图像处理设备100不一定需要摄像单元108。然后,假设从控制终端的通信单元107接收监视照相机主体所拍摄的图像。
接着,参考图2来描述如下白平衡控制:在第一典型实施例中的图像处理设备100不能检测到非彩色区域的情况下,图像处理设备100使用先前检测到的非彩色区域。在第一典型实施例中的图像处理设备100不能检测到非彩色区域的情况下,图像处理设备100能够获得用于白平衡的调整标准。
图2是示出根据第一典型实施例的用于在图像处理设备100的CPU 101的控制下存储与非彩色区域有关的信息并利用与非彩色区域有关的信息来进行用以调整白平衡的控制的功能结构示例的框图。
参考图2,图像输入单元210从例如摄像单元108或存储装置104获取图像数据。如上所述,在图像处理设备100是控制终端的情况下,图像输入单元210从通信单元107获取图像数据。非彩色区域检测单元220从图像输入单元210所获取到的图像数据中检测用于下述白平衡处理的诸如白色区域或灰色区域等的非彩色区域,并输出与所检测到的非彩色区域有关的坐标位置信息。存储单元230与例如存储装置104等效,并存储与非彩色区域检测单元220所检测到的非彩色区域有关的坐标位置信息。
白平衡(WB)处理单元240从非彩色区域检测单元220或存储单元230获取与非彩色区域有关的坐标位置信息。然后,WB处理单元240通过以使非彩色区域更接近非彩色的方式调整各个颜色的增益值来进行作为一种颜色处理(校正)的白平衡处理(校正)。以下描述该处理。图像输出单元250将通过WB处理单元240进行的处理所获得的图像输出到显示单元105或通信单元107。此外,如上所述,图2所示的各功能可以是由例如彼此协作的多个CPU、ROM和RAM实现的功能,或者可以是由硬件电路实现的功能。
图3是示出在第一典型实施例中用于进行白平衡控制的处理过程的示例的流程图。
首先,在步骤S310中,图像输入单元210获取图像数据。接着,在步骤S311中,非彩色区域检测单元220从在步骤S310中获取到的图像数据中以像素为单位或以预定块为单位获取RGB的值或诸如CrCb等的色差信息。然后,在步骤S312中,非彩色区域检测单元220判断RGB的值或诸如CrCb等的色差信息是否在预定阈值范围内。该预定阈值范围指示表示非彩色的颜色范围,并且假设被预先存储在ROM 102中。换句话说,在步骤S312中,非彩色区域检测单元220判断对象像素或块是否能够被检测为非彩色区域(判断是否能够检测到非彩色区域)。如果判断为RGB的值或诸如CrCb等的色差信息在预定阈值范围内(步骤S312中为“是”,即,检测到非彩色区域),则处理进入步骤S313,否则(步骤S312中为“否”,即,未检测到非彩色区域),处理进入步骤S314。
在步骤S313中,非彩色区域检测单元220将与被检测为非彩色区域的区域有关的坐标位置信息存储在存储单元230中。此外,在坐标位置信息已经存储在存储单元230中的情况下,非彩色区域检测单元220重写要存储的坐标位置信息。另一方面,在步骤S314中,非彩色区域检测单元220从存储单元230获取与先前检测到的(换句话说,先前在步骤S313中存储的)非彩色区域有关的坐标位置信息。然后,在步骤S315中,WB处理单元240通过以利用与非彩色区域有关的坐标位置信息使非彩色区域的色差变小的方式调整各个颜色的增益值(校正参数),来对图像数据进行白平衡处理。此时,在步骤S314中获取到与先前存储的非彩色区域有关的坐标位置信息的情况下,WB处理单元240以由该坐标位置信息表示的区域的色差变小的方式调整各个颜色的增益值。换句话说,WB处理单元240进行用以使先前判断为非彩色区域的区域变为非彩色的控制。这是基于如下假设:在例如监视照相机(定点照相机)用于以恒定角度连续获取图像数据的情况下,非彩色区域(例如,建筑物的墙壁)的坐标即使时间过去也不会改变。
图4A是用于说明已经检测到非彩色区域的示例的图。在步骤S312中,在色差信号Cr和Cb各自在从阈值th1到阈值th2的范围内的情况下,非彩色区域检测单元220判断为对象区域是非彩色区域,以及在色差信号Cr和Cb中的至少一个在该范围之外的情况下,非彩色区域检测单元220判断为对象区域是彩色区域。此外,图4B是用于说明调整了白平衡的示例的图,并且在步骤S315中,WB处理单元240以被检测为非彩色区域的区域更接近非彩色的方式来调整色差信号Cr和Cb的增益值。
图5A和5B是用于说明在低照度下不能检测到非彩色区域的示例的图。因为在低照度下颜色饱和度降低,因此如图5A所示的由于色差大而可能原本被判断为彩色区域的区域可能被视为如图5B所示的色差信号Cr和Cb在针对非彩色区域的从阈值th1到阈值th2的范围内的区域。这可能导致彩色区域被误识别为非彩色区域。因此,在步骤S312中图像数据的亮度Y小于预定阈值的情况下,即使色差信号Cr和Cb在针对非彩色区域的从阈值th1到阈值th2的范围内,根据第一典型实施例的图像处理设备100也被配置为不将该对象区域判断为非彩色区域。这是因为,如果在这种条件下进行白平衡控制,则不能判断用作标准的非彩色区域,从而不能获得原始颜色。此外,虽然在上面的描述中,亮度Y用作不将对象区域判断为非彩色区域的基础,但是在亮度Y小于预定值的情况下,可以使用于判断为对象区域是非彩色区域的范围更窄。例如,可以想到可以使阈值th1更大或者可以使阈值th2更小。
如上所述,根据第一典型实施例,即使在无法检测到非彩色区域的情况下,也可以将先前能够被检测为非彩色区域的区域用作白平衡调整的标准。例如,在如监视照相机的情况那样用于摄像的对象几乎没有变化的情况下,由于先前非彩色区域和当前非彩色区域彼此一致的可能性高,因此可以通过使用先前非彩色区域作为标准来获得原始颜色。
此外,在一些情况下,可以通过照相机的平摇或俯仰或光学变焦而改变视角来改变非彩色区域的坐标。在以这种方式改变视角的情况下,可以删除存储在存储单元230中的非彩色区域的坐标,或者可以使其无效以使其不可用。此外,可以基于平摇或俯仰的角度或光学变焦的倍率来计算在视角改变之后获得的非彩色区域的坐标,并且可以将该坐标新存储在存储单元230中。
接着,描述本发明的第二典型实施例。第一典型实施例基于如下假设:在以恒定视角连续获取图像数据的情况下,非彩色区域(例如,建筑物的墙壁)的坐标即使时间过去也不会改变。然而,在即使没有视角变化的情况下,例如,在视角中存在非彩色移动体,非彩色区域也可能随时间改变。因此,在第二典型实施例中,为了解决在视角发生变化从而非彩色区域发生变化的情况下预先存储的非彩色区域的精度降低这样的问题,针对各区域设置权重。此外,根据第二典型实施例的图像处理设备的硬件结构与图1所示的硬件结构相同,因此省略其描述。
图6是示出根据第二典型实施例的图像处理设备600的功能结构示例的框图。在以下描述中,仅描述与图2所示的功能不同的功能。
在第一典型实施例中,直接存储与所检测到的非彩色区域有关的坐标位置信息。另一方面,在第二典型实施例中,设置权重控制单元610以将与非彩色区域检测单元220所检测到的非彩色区域有关的坐标位置信息和与存储在存储单元230中的非彩色区域有关的坐标位置信息彼此进行比较,并且针对各个区域进行权重相加。
图7是示出在第二典型实施例中用于进行白平衡控制的处理过程的示例的流程图。在以下描述中,省略了与图3所示的处理操作相同的处理操作的描述。
如果在步骤S312中判断为RGB的值或诸如CrCb等的色差信息在预定阈值范围内(已经检测到非彩色区域)(步骤S312中为“是”),则处理进入步骤S710。然后,在步骤S710中,权重控制单元610从存储单元230读出并参考与先前被检测为非彩色区域的区域有关的坐标位置信息和权重信息。
接着,在步骤S711中,权重控制单元610将当前被检测为非彩色区域的区域与先前被检测为非彩色区域的区域(包括作为权重为“1”以上的区域的并且当前从非彩色区域排除的部分)彼此进行比较。然后,权重控制单元610判断是否存在与先前被检测为非彩色区域的区域一致的区域。如果在步骤S711中判断为存在与先前被检测为非彩色区域的区域一致的区域(步骤S711中为“是”),则在步骤S712中,权重控制单元610对一致区域的权重进行相加,并在不一致的区域中将权重设置为“1”。具体而言,如图8A、8B和8C所示,权重控制单元610对划分的多个块中的各块进行加权,并且在作为非彩色区域的一致的块中加上权重“1”。另一方面,如果在步骤S711中判断为不存在一致区域(步骤S711中为“否”),则在步骤S713中,权重控制单元610将当前被检测为非彩色区域的区域的权重设置为“1”。然后,在步骤S714中,权重控制单元610将与非彩色区域有关的坐标位置信息和新权重信息存储在存储单元230中。
另一方面,如果在步骤S312中判断为RGB的值或诸如CrCb等的色差信息在预定阈值范围之外(不能检测到非彩色区域)(步骤S312中为“否”),则处理进入步骤S715。然后,在步骤S715中,非彩色区域检测单元220从存储单元230获取与先前检测到的非彩色区域有关的坐标位置信息和权重信息。
接着,在步骤S716中,非彩色区域检测单元220判断在针对非彩色区域的块中是否存在预定时间段内仍未被检测为非彩色区域的块。如果在步骤S716中判断为存在预定时间段内仍未被检测为非彩色区域的块(步骤S716中为“是”),则该块作为非彩色区域的可靠度低。因此,在步骤S717中,非彩色区域检测单元220改变非彩色区域的范围,并将与新的非彩色区域有关的坐标位置信息和权重信息存储在存储单元230中。具体而言,如图8B和8C所示的示例,在权重为“1”以上但是权重在预定时间段内没有改变的块的情况下,非彩色区域检测单元220从非彩色区域中排除该块。另一方面,如果在步骤S716中判断为不存在预定时间段内仍未检测到作为非彩色区域的块(步骤S716中为“否”),则处理直接进入步骤S718。
在步骤S718中,WB处理单元240以利用存储在存储单元230中的与非彩色区域有关的坐标位置信息和权重信息而使权重高的非彩色区域(例如,在8A至8C所示的示例中,权重为3以上的区域)更接近白色的方式调整增益值,从而对图像数据进行白平衡处理。
图8A至8C是用于说明进行权重相加以设置非彩色区域的示例的图。例如,在图8A所示的权重为“1”的区域中的一些区域与当前检测到的一些非彩色区域一致的情况下,在步骤S712中,如图8B所示,在相应的区域中,通过相加而将权重增加为“2”。之后,图8B中权重为“1”的区域被判断为在预定时间段内未被检测为非彩色区域的区域,并且在步骤S717中,从非彩色区域中排除这些区域。接着,在图8B所示的权重为“1”或“2”的一些区域与当前检测到的一些非彩色区域一致的情况下,在步骤S712中,如图8C所示,在相应的区域中,通过相加而将权重增加为“2”或“3”。将通过该处理权重从“1”变为“2”的区域作为一些非彩色区域进行处理。此后,图8C中权重为“2”的一些区域被判断为在预定时间段内未被检测为非彩色区域的区域,并且在步骤S717中,从非彩色区域排除这些区域。
如上所述,根据第二典型实施例,将先前检测到的非彩色区域和当前检测到的非彩色区域彼此进行比较,并相应地进行权重的相加。由此,在不能检测到非彩色区域并且因此参考先前信息的情况下,可以基于作为非彩色区域的可能性更高的区域来进行颜色调整。此外,可以根据权重的数值来改变在步骤S716中进行的判断中所使用的“预定时间段”。例如,在权重数值高的块的情况下,“预定时间段”可以是长时间段,以及在权重数值低的块的情况下,“预定时期”可以是短时间段。
此外,根据第二典型实施例,即使在正在进行摄像并且非彩色区域正在改变的帧中存在变化的情况下,也可以获得适当的颜色。如果在非彩色区域正在改变的场景中,这些区域被简单地存储为非彩色区域,则即使从非彩色区域改变为彩色区域的区域也将被作为用作白平衡调整标准的非彩色区域进行处理。然而,对非彩色区域施加权重使得能够假设权重的结果高的区域是先前是非彩色区域的可能性高并且发生改变的可能性低的地方。因此,以权重的结果高的区域变得更加非彩色的方式进行白平衡调整,这使得能够获得适当的颜色。
接着,描述本发明的第三典型实施例。在第三典型实施例中,可以另外获得在进行正常白平衡控制的情况下所获取到的图像。此外,根据第三典型实施例的图像处理设备的硬件结构与图1所示的硬件结构相同,因此省略其描述。
图9是示出根据第三典型实施例的图像处理设备900的功能结构示例的框图。在以下描述中,仅描述与图2所示的功能不同的功能。
非彩色区域检测单元220检测用于以下所述的白平衡处理的诸如白色区域或灰色区域等的非彩色区域,并输出与所检测的非彩色区域有关的坐标位置信息。然后,在检测到非彩色区域的情况下,非彩色区域检测单元220将与所检测到的非彩色区域有关的坐标位置信息存储在存储单元230中。WB处理单元240通过以非彩色区域检测单元220所获取到的非彩色区域变得更接近非彩色的方式调整各个颜色的增益值来进行白平衡处理。在该处理中,WB处理单元240进行已知的正常白平衡处理。然后,WB处理单元240将该处理的结果存储在与存储装置104等效的图像存储单元910中。
图像显示单元920利用存储在存储单元230中的与非彩色区域有关的坐标位置信息对存储在图像存储单元910中的图像数据进行颜色调整。然后,图像显示单元920将经过颜色调整的图像数据输出到显示单元105。此外,图像显示单元920还将存储在图像存储单元910中的图像数据直接输出到显示单元105。
如上所述,根据第三典型实施例,针对经过正常白平衡处理的图像,紧挨在显示图像之前,再次进行使用与非彩色区域有关的先前信息的白平衡处理。然后,可以显示两个图像,即通过再次进行白平衡处理所获得的图像和通过进行正常白平衡控制所获得的图像。
虽然在第三典型实施例中所获得的图像接近原始颜色,但是通过进行正常白平衡处理而获得的图像有时可能更接近表观颜色。在这种情况的假设下,第三典型实施例使得能够获得两种类型的图像并且使得能够选择有利的图像。
接着,描述本发明的第四典型实施例。在上述典型实施例中,例如,在低照度下非彩色区域已经改变的情况(例如,白色车辆在黑暗状态下移动的情况)下,可能无法正确地进行白平衡处理。因此,第四典型实施例设置有用于预先检测在非彩色区域中可能发生改变的区域的单元和用于在不能检测到非彩色区域的情况下检测所存储的非彩色区域的改变和使该区域权重变化的单元。此外,根据第四典型实施例的图像处理设备的硬件结构与图1所示的硬件结构相同,因此省略其描述。
图10是示出根据第四典型实施例的图像处理设备1000的功能结构示例的框图。在以下描述中,仅描述与图6所示的功能不同的功能。
在第二典型实施例中,权重控制单元610将与非彩色区域检测单元220所检测到的非彩色区域有关的坐标位置信息与存储在存储单元230中的非彩色区域有关的坐标位置信息彼此进行比较,并针对各个区域进行权重相加。另一方面,在第四典型实施例中,亮度和颜色变化获取单元1010、移动被摄体检测单元1020和图像变化获取单元1030检测与非彩色区域检测单元220所检测到的非彩色区域有关的坐标位置信息和存储在存储单元230中的非彩色区域的坐标位置的变化,并且改变针对各个区域的权重。
图11A和11B是示出在第四典型实施例中用于进行白平衡控制的处理过程的示例的流程图。在以下描述中,省略了与图7所示的处理操作相同的处理操作的描述。
如果在步骤S312中判断为RGB的值或诸如CrCb等的色差信息在预定阈值范围内(已经检测到非彩色区域)(步骤S312中为“是”),则处理进入步骤S710,其中在步骤S710中,权重控制单元610读出与先前被检测为非彩色区域的区域有关的信息。在步骤S711中,权重控制单元610将当前被检测为非彩色区域的区域与先前被检测为非彩色区域的区域(包括作为权重为“1”以上的区域的并且当前从非彩色区域排除的部分)彼此进行比较。如果在步骤S711中判断为在当前被检测为非彩色区域的区域与从存储单元230读出的先前被检测为非彩色区域的区域之间存在一致区域(步骤S711中为“是”),则处理进入步骤S1110。然后,在步骤S1110中,亮度和颜色变化获取单元1010从存储单元230中读出与先前被检测为非彩色区域的区域有关的亮度信息和颜色信息,并参考亮度信息和颜色信息。
接着,在步骤S1110中,亮度和颜色变化获取单元1010对当前被检测为非彩色区域的区域和先前被检测为非彩色区域的区域之间的亮度信息和颜色信息进行比较。然后,亮度和颜色变化获取单元1010判断是否存在亮度信息或颜色信息的变化大的区域。即使在被判断为非彩色区域的区域中,亮度或颜色变化大的区域也可以说是在将来颜色也发生变化的可能性高且可靠度低的区域。如果在步骤S1110中判断为存在亮度信息或颜色信息的变化大的区域(步骤S1110中为“是”),则在步骤S1111中,权重控制单元610对区域的权重进行相减,接着,处理进入步骤S714。
接着,处理进入步骤S1112。在步骤S1112中,WB处理单元240考虑到快门速度、增益和光圈值的设置值来判断当前摄像条件是否有利。如果判断为摄像条件不是有利的(步骤S1112中为“否”),则在步骤S1113中,WB处理单元240从存储单元230读出与被检测为非彩色区域的区域有关的颜色信息并且参考该颜色信息,然后基于与非彩色区域有关的先前颜色信息来判断用作颜色调整目标的目标值。
另一方面,如果在步骤S312中判断为RGB的值或诸如CrCb等的色差信息在预定阈值范围之外(不能检测到非彩色区域)(步骤S312中为“否”),则处理进入步骤S715,其中在步骤S715中,非彩色区域检测单元220读出与先前被检测为非彩色区域的区域有关的信息。在步骤S716中,非彩色区域检测单元220判断在针对非彩色区域的块中是否存在预定时间段内仍未被检测为非彩色区域的块。如果在步骤S716中判断为不存在预定时间段内仍未被检测为非彩色区域的块(步骤S716中为“否”),则处理进入步骤S1114。
在步骤S1114中,移动被摄体检测单元1020判断存储在存储单元230中的非彩色区域的坐标位置和已经出现的移动被摄体的区域是否彼此一致。在出现移动被摄体的区域和所存储的非彩色区域的坐标位置彼此一致的情况下,即使存在具有高权重的非彩色区域,也可以判断为该区域的可靠度低。如果判断为出现了移动被摄体的区域和所存储的非彩色区域的坐标位置彼此一致(步骤S1114中为“否”),则处理进入步骤S1115,其中在步骤S1115中,权重控制单元610针对判断为出现了移动被摄体的区域和所存储的非彩色区域的坐标位置彼此一致的区域的权重进行相减。
另一方面,如果在步骤S1114中判断为移动被摄体检测单元1020未能检测到移动被摄体区域(步骤S1114中为“是”),则在步骤S1116中,为了判断存储在存储单元230中的非彩色区域的坐标位置是否可靠,图像变化获取单元1030获取在检测到存储单元230中所存储的非彩色区域时获得的图像与当前拍摄的图像之间的变化,并且在步骤S1117中,图像变化获取单元1030判断所获取到的结果。
在步骤S1117中,针对所获取到的图像的差异区域,图像变化获取单元1030判断存储在存储单元230中的非彩色区域的坐标位置和产生差异的区域是否彼此一致。在产生差异的区域和所存储的非彩色区域的坐标位置彼此一致的情况下,即使存在具有高权重的非彩色区域,也可以判断为该区域的可靠度低。如果判断为产生了差异的区域和所存储的非彩色区域的坐标位置彼此一致(步骤S1117中为“否”),则处理进入步骤S1118,其中在步骤S1118中,权重控制单元610对产生了差异的区域和所存储的非彩色区域的坐标位置彼此一致的区域的权重进行相减。接着,处理进入步骤S1119。在步骤S1119中,基于所存储的颜色差异信息来判断颜色目标。
如上所述,第四典型实施例被配置为基于先前检测到的非彩色区域、和与在该检测时获得的图像有关的信息、除此之外和当前移动的被摄体、以及和当前拍摄的图像之间的差异来改变权重。由此,在不能检测到非彩色区域并且因此参考先前信息的情况下,可以基于作为非彩色区域的可能性更高的并且具有很少变化的区域来进行颜色调整。
此外,根据第四典型实施例,即使在正在进行摄像并且非彩色区域正在改变的帧存在变化的情况下,也可以获得适当的颜色。虽然可以假设权重的结果高的区域是先前是非彩色区域的可能性高并且发生变化的可能性低的地方,但是在这样的区域中也可能发生变化。因此,在使用加权结果的情况下,改变移动被摄体区域、与先前区域的差异和用于白平衡的目标使得能够获得适当的颜色。
贯穿本发明描述的单元是用于实现在本发明中描述的处理的典型的和/或优选的模块。如这里使用的术语“单元”通常可以指用于实现目的的固件、软件、硬件或诸如电路等的其它组件或者它们的任意组合。模块可以是硬件单元(诸如电路、固件、现场可编程门阵列、数字信号处理器或专用集成电路等)和/或软件模块(诸如计算机可读程序等)。以上没有详尽描述用于实现各个步骤的模块。然而,在存在进行特定处理的步骤的情况下,可以存在用于实现相同处理的相应功能模块或单元(由硬件和/或软件实现)。通过所描述的步骤和对应于这些步骤的单元的所有组合的技术解决方案包括在本发明中。
其它实施例
本发明的实施例还可以通过如下的方法来实现,即,通过网络或者各种存储介质将进行上述实施例的功能的软件(程序)提供给系统或装置,该系统或装置的计算机或是中央处理单元(CPU)、微处理单元(MPU)读出并进行程序的方法。
尽管已经参考典型实施例说明了本发明,但是应该理解,本发明不局限于所公开的典型实施例。所附权利要求书的范围符合最宽的解释,以包含所有这类修改、等同结构和功能。

Claims (15)

1.一种图像处理设备,用于处理通过摄像所获得的图像数据,所述图像处理设备包括:
输入部件,用于获取通过摄像所获得的图像数据;
确定部件,用于确定在所述图像数据中是否检测到非彩色区域,如果在所述图像数据中检测到所述非彩色区域,则基于在所述图像数据中所检测到的非彩色区域来确定非彩色区域位置并将所述非彩色区域位置存储在存储单元中,以及如果在所述图像数据中未检测到所述非彩色区域,则从所述存储单元获取先前存储的非彩色区域位置作为非彩色区域位置;以及
计算部件,用于基于所述图像数据中的与所述非彩色区域位置有关的颜色信息来计算用于对所述图像数据进行颜色校正处理的颜色校正参数。
2.根据权利要求1所述的图像处理设备,还包括用于检测图像数据中的非彩色区域的第一检测部件,
其中,所述第一检测部件基于所述图像数据的亮度来改变用于检测所述非彩色区域的条件。
3.根据权利要求2所述的图像处理设备,其中,在所述图像数据的亮度小于预定值的情况下,所述第一检测部件判断为未检测到所述非彩色区域。
4.根据权利要求1所述的图像处理设备,其中,所述确定部件基于在多个图像数据中所检测到的非彩色区域来确定所述非彩色区域位置。
5.根据权利要求4所述的图像处理设备,其中,针对在所述多个图像数据中共同检测到的非彩色区域,所述确定部件增加所述非彩色区域位置的权重。
6.根据权利要求4所述的图像处理设备,其中,所述确定部件还基于所述多个图像数据之间的差来确定所述非彩色区域位置。
7.根据权利要求4所述的图像处理设备,其中,所述确定部件还基于所述多个图像数据之间的亮度或颜色的变化来确定所述非彩色区域位置。
8.根据权利要求4所述的图像处理设备,其中,所述确定部件还基于所述多个图像数据中的移动被摄体的检测结果来确定所述非彩色区域位置。
9.根据权利要求1至8中任一项所述的图像处理设备,其中,所述图像处理设备是监视照相机。
10.根据权利要求1至8中任一项所述的图像处理设备,还包括用于检测摄像的视角变化的第二检测部件,
其中,在所述第二检测部件检测到视角变化的情况下,不使用所述确定部件所确定出的非彩色区域位置。
11.根据权利要求1至8中任一项所述的图像处理设备,还包括用于检测摄像的视角变化的第二检测部件,
其中,在所述第二检测部件检测到视角变化的情况下,所述确定部件基于视角的变化来确定新的非彩色区域位置。
12.根据权利要求1至8中任一项所述的图像处理设备,其中,所述计算部件还基于在先前图像数据中所检测到的非彩色区域来计算用于对所述图像数据进行所述颜色校正处理的其它颜色校正参数。
13.根据权利要求1至8中任一项所述的图像处理设备,其中,所述颜色校正处理是白平衡校正处理。
14.一种图像处理设备的控制方法,所述图像处理设备用于处理通过摄像获得的图像数据,所述控制方法包括:
获取通过摄像所获得的图像数据;
确定在所述图像数据中是否检测到非彩色区域;
如果在所述图像数据中检测到所述非彩色区域,则基于在所述图像数据中所检测到的非彩色区域来确定非彩色区域位置并将所述非彩色区域位置存储在存储单元中;
如果在所述图像数据中未检测到所述非彩色区域,则从所述存储单元获取先前存储的非彩色区域位置作为非彩色区域位置;以及
基于所述图像数据中的与所述非彩色区域位置有关的颜色信息来计算用于对所述图像数据进行颜色校正处理的颜色校正参数。
15.一种计算机可读存储介质,其存储有用于使计算机执行根据权利要求14所述的图像处理设备的控制方法的程序。
CN201811456279.9A 2017-12-01 2018-11-30 图像处理设备及其控制方法和计算机可读存储介质 Active CN109922325B (zh)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2017231970 2017-12-01
JP2017-231970 2017-12-01
JP2018193495A JP7191633B2 (ja) 2017-12-01 2018-10-12 画像処理装置、制御方法及びプログラム
JP2018-193495 2018-10-12

Publications (2)

Publication Number Publication Date
CN109922325A CN109922325A (zh) 2019-06-21
CN109922325B true CN109922325B (zh) 2021-11-16

Family

ID=64331660

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811456279.9A Active CN109922325B (zh) 2017-12-01 2018-11-30 图像处理设备及其控制方法和计算机可读存储介质

Country Status (3)

Country Link
US (1) US10764550B2 (zh)
EP (1) EP3493539B1 (zh)
CN (1) CN109922325B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10887567B2 (en) * 2019-03-19 2021-01-05 Microsoft Technology Licensing, Llc Camera color image processing
CN110611803A (zh) * 2019-09-03 2019-12-24 珠海格力电器股份有限公司 色温预估的方法、装置及计算机可读介质
KR20210104462A (ko) * 2020-02-17 2021-08-25 삼성전자주식회사 이미지 센서, 이미지 센서의 교정 방법, 그리고 이미지 센서를 교정하는 전자 장치
CN112532960B (zh) * 2020-12-18 2022-10-25 Oppo(重庆)智能科技有限公司 白平衡同步方法及装置、电子设备和存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015145917A1 (ja) * 2014-03-28 2015-10-01 日本電気株式会社 画像補正装置、画像補正方法およびプログラム記録媒体
CN106797453A (zh) * 2014-07-08 2017-05-31 富士胶片株式会社 图像处理装置、摄像装置、图像处理方法以及图像处理程序

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4543514B2 (ja) 2000-07-18 2010-09-15 株式会社ニコン 電子カメラ
KR100900485B1 (ko) * 2002-10-26 2009-06-03 삼성디지털이미징 주식회사 구조가 개선된 디지털 카메라용 이미지 센싱 수단 및 이를채용한 디지털 카메라
KR101451982B1 (ko) * 2008-02-12 2014-10-24 삼성전자주식회사 디지털 영상 장치에서 화이트 밸런스 조정 장치 및 방법
JP2010147651A (ja) 2008-12-17 2010-07-01 Sanyo Electric Co Ltd 撮像装置、及び画像再生装置
JP5741171B2 (ja) * 2010-04-23 2015-07-01 株式会社リコー 画像処理装置及び画像処理プログラム
JP2014053855A (ja) * 2012-09-10 2014-03-20 Sony Corp 画像処理装置および方法、並びにプログラム
US9462160B2 (en) * 2012-11-22 2016-10-04 Nec Corporation Color correction device, method, and program
JP6286944B2 (ja) * 2013-08-28 2018-03-07 ソニー株式会社 情報処理装置、撮像装置、情報処理方法、およびプログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015145917A1 (ja) * 2014-03-28 2015-10-01 日本電気株式会社 画像補正装置、画像補正方法およびプログラム記録媒体
CN106797453A (zh) * 2014-07-08 2017-05-31 富士胶片株式会社 图像处理装置、摄像装置、图像处理方法以及图像处理程序

Also Published As

Publication number Publication date
US10764550B2 (en) 2020-09-01
CN109922325A (zh) 2019-06-21
EP3493539B1 (en) 2021-03-24
US20190174107A1 (en) 2019-06-06
EP3493539A1 (en) 2019-06-05

Similar Documents

Publication Publication Date Title
CN109922325B (zh) 图像处理设备及其控制方法和计算机可读存储介质
CN109089047B (zh) 控制对焦的方法和装置、存储介质、电子设备
CN111028189B (zh) 图像处理方法、装置、存储介质及电子设备
US11159711B2 (en) Image-capturing apparatus
US8648961B2 (en) Image capturing apparatus and image capturing method
CN109698905B (zh) 控制设备、摄像设备、控制方法和计算机可读存储介质
JP2009177472A (ja) 画像処理方法、画像処理装置及び撮像装置
CN111107276B (zh) 信息处理设备及其控制方法、存储介质以及摄像系统
KR101441786B1 (ko) 피사체 판정 장치, 피사체 판정 방법, 및 기록 매체
CN107493407B (zh) 拍照装置及拍照方法
CN113691795A (zh) 图像处理设备、图像处理方法和存储介质
CN108289170B (zh) 能够检测计量区域的拍照装置、方法及计算机可读介质
JP2014146979A (ja) 監視カメラシステム、撮像装置及び撮像方法
US10944929B2 (en) Imaging apparatus and imaging method
CN110930340B (zh) 一种图像处理方法及装置
US20120188437A1 (en) Electronic camera
CN114143421B (zh) 双传感器摄像系统及其校准方法
JP7191633B2 (ja) 画像処理装置、制御方法及びプログラム
JP2022086311A (ja) 撮像装置、撮像装置の制御方法、およびプログラム
US10070056B2 (en) Omnidirectional camera system
JP2021136671A (ja) 情報処理装置、撮像装置、方法、プログラム及び記憶媒体
US12003854B2 (en) Imaging device, storage medium, and method of controlling imaging device
US20230209187A1 (en) Image pickup system that performs automatic shooting using multiple image pickup apparatuses, image pickup apparatus, control method therefor, and storage medium
JP7353864B2 (ja) 情報処理装置、情報処理装置の制御方法およびプログラム、撮像システム
US20220272274A1 (en) Imaging device, storage medium, and method of controlling imaging device

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant