CN103379343A - 图像处理装置、图像处理方法和程序 - Google Patents

图像处理装置、图像处理方法和程序 Download PDF

Info

Publication number
CN103379343A
CN103379343A CN2013101163675A CN201310116367A CN103379343A CN 103379343 A CN103379343 A CN 103379343A CN 2013101163675 A CN2013101163675 A CN 2013101163675A CN 201310116367 A CN201310116367 A CN 201310116367A CN 103379343 A CN103379343 A CN 103379343A
Authority
CN
China
Prior art keywords
pixel
image
value
purple boundary
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN2013101163675A
Other languages
English (en)
Inventor
斋藤泰
竹内悟
安间文仁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN103379343A publication Critical patent/CN103379343A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Processing (AREA)

Abstract

本发明涉及一种图像处理装置、图像处理方法和程序。所述图像处理装置包括数据转换处理单元,该数据转换处理单元接收RGBW阵列图像的输入并且生成RGB阵列图像作为输出图像。所述数据转换处理单元包括:像素插值单元,其通过对所述RGBW阵列图像执行像素插值处理来计算与所述RGB阵列图像的阵列对应的插值像素值;紫边检测单元,其通过分析所述RGBW阵列图像来检测每个像素是否是紫边像素;校正值计算单元,其通过校正所述紫边像素的像素值来计算校正像素值,以及混合处理单元,其通过执行将由所述像素插值单元计算的所述插值像素值与由所述校正值计算单元计算的校正像素值进行混合的混合处理,计算所述输出图像的构成像素值RGB。

Description

图像处理装置、图像处理方法和程序
技术领域
本公开涉及一种图像处理装置、图像处理方法和程序,更具体地,本公开涉及一种能够对相机拍摄的图像中所产生的伪彩色执行校正处理的图像处理装置、图像处理方法和程序。
背景技术
在相机所拍摄的图像中,在一些情形下出现摄像镜头的像差问题。具体而言,例如,色像差是一种因镜头像差的影响而引起的像差。当相机的摄像镜头中的光的折射率根据波长不同时,出现色像差,并且在成像表面上引起伪彩色。
作为色像差的代表示例已知:例如,由于光轴上的聚焦位置根据波长而不同,所以出现色彩模糊的轴向色像差、以及由于因波长不同而导致图像高倍率不同,所以出现色彩偏离的放大率色像差。
在其中存在其亮度达到饱和值的过曝光像素的高对比度边缘的外围中产生的紫色的伪彩色一般被称为紫边。该紫边是由轴向色像差或放大率色像差引起的,因此导致图像品质劣化。
在很多情况下,紫边的颜色是与紫色更接近的颜色。但是,实际上,在一些情况下由于镜头、摄像条件等产生不是紫色的其它颜色。这里,无论伪彩色的颜色,将在过曝光的高对比度边缘的外围中产生的伪彩色称为紫边。
将参照图1(a)和1(b)说明紫边的出现原因和出现区域。
图1(a)是其中横轴表示像素位置且纵轴表示像素值的图。
图1(b)是示出拍摄图像的示意图。
常用作通用相机的图像传感器的像素阵列的拜耳阵列包括具有红(R)、绿(G)和蓝(B)三种颜色的像素。
在图1(a)中,像素位置0到X1的区域是其中像素值是最大值的所谓过曝光区。像素位置X1对应于亮度值急剧改变的边缘位置。从像素位置X1到紧接着像素位置X1的位置的区域是其中初始像素值被设定为几乎是0的区域。
因此,由于在其中像素值从具有最大像素值的过曝光区急剧地改变的边缘的外围中的过曝光区附近存在因色像差而引起的RGB的像素值之间的差异,所以产生伪彩色。
为了减少色像差,理想的是,使用由几乎不出现色像差的诸如萤石的特殊材料玻璃制成的镜头。但是,存在制造成本高的缺点。
例如,在日本未审查专利申请公报No.2009-124598和日本未审查专利申请公报No.2006-14261中,公开了通过图像处理来减少因这种色像差而产生的伪彩色的方法。
然而,在日本未审查专利申请公报No.2009-124598和日本未审查专利申请公报No.2006-14261中公开的处理中,使用对于从图像传感器输出的马赛克图像通过诸如像素值插值的信号处理执行去马赛克处理之后的RGB图像来检测和校正伪彩色,在所述马赛克图像中每一个像素中设定有RGB的一个像素值,在所述去马赛克处理中设定各个像素中的RGB的所有像素值。
因此,日本未审查专利申请公报No.2009-124598和日本未审查专利申请公报No.2006-14261中公开的处理不能应用为对于刚从图像传感器输出的马赛克图像,即其中在每个像素中设定有RGB的一个像素值的马赛克图像的处理。
此外,日本未审查专利申请公报No.2010-136225公开了通过在去马赛克处理之前对马赛克图像执行图像处理来去除伪彩色的处理。
然而,所公开的处理仅仅是对于根据现有技术多在相机中使用的图2(a)中所示的像素阵列的拜耳阵列图像执行的处理。
另一方面,近年来,已经出现了如下问题:由于图像传感器的像素密度增大,每像素的入射光量减小,因此相对噪声增大。作为解决该问题的方法,已经提出了具有RGBW阵列的图像传感器,所述RGBW阵列除了RGB颜色之外还包括全波长传输型白(W)像素。
具体而言,图2(b)中示出了具有包括白(W)像素的RGBW阵列的图像传感器。作为由具有RGBW阵列的图像传感器拍摄并且从图像传感器输出的图像的马赛克图像被配置为其中在根据图2(b)所示的像素阵列的每个像素中仅设定有RGBW的一个颜色的像素值的马赛克图像。
现有技术未公开去除具有这种RGBW阵列的图像传感器所拍摄的马赛克图像中的紫边的技术。此外,存在现有技术中之前公开的对于RGB阵列的校正处理不能被直接应用的问题。
发明内容
期望提供一种图像处理装置、图像处理方法和程序,其能够通过执行作为对马赛克图像的处理的如下处理而输出高品质图像:检测或校正其中产生诸如紫边的伪彩色的区域,所述马赛克图像是图像传感器的去马赛克处理之前的输出图像。
也期望提供一种图像处理装置、图像处理方法和程序,其能够从具有包括白像素的阵列的马赛克图像通过检测或校正其中产生有如紫边的伪彩色的区域来输出高品质图像。
根据本公开的第一实施例,提供了一种图像处理装置,该图像处理装置包括数据转换处理单元,其接收RGBW阵列图像的输入并生成RGB阵列图像作为输出图像。该数据转换处理单元可包括:像素插值单元,其通过对所述RGBW阵列图像执行像素插值处理来计算与所述RGB阵列图像的阵列对应的插值像素值r1、g1和b1,紫边检测单元,其通过分析所述RGBW阵列图像来检测每个像素是否是紫边像素,校正值计算单元,其通过校正所述紫边像素的像素值来计算校正像素值r2、g2和b2,以及混合处理单元,其通过执行将由所述像素插值单元计算的所述插值像素值r1、g1和b1与由所述校正值计算单元计算的校正像素值r2、g2和b2进行混合的混合处理,计算所述输出图像的构成像素值RGB。
此外,根据本公开的第一实施例,所述紫边检测单元可根据参考区域的W像素值计算W像素动态范围Wd,所述参考区域被设定在所述RGBW阵列图像中并且包括作为所述输出图像的所述构成像素值的计算目标像素的关注像素,以及当所述W像素动态范围Wd比阈值ThrW大时,执行判定所述关注像素是紫边像素的可能性大的初始判定。
此外,根据第一实施例,当所述紫边检测单元在所述初始判定中判定所述关注像素是紫边像素的可能性大时,所述紫边检测单元可验证所述参考区域中的RGB像素或RGBW像素中是否存在饱和像素,并且当存在饱和像素时执行判定所述关注像素是紫边像素的最终判定。
此外,根据第一实施例,所述校正值计算单元可根据用作参考区域的亮度信号主分量的彩色像素的像素值计算所述亮度信号主分量的低通信号,所述参考区域被设定在所述RGBW阵列图像中并且包括作为所述输出图像的构成像素值的计算目标像素的关注像素,以及通过根据所述关注像素的转换后的颜色对所计算的所述亮度信号主分量的低通信号执行白平衡调整来计算所述校正像素值。
此外,根据第一实施例,用作所述亮度信号主分量的所述彩色像素可以是W像素或G像素。
此外,根据第一实施例,所述混合处理单元可根据从参考区域的W像素值计算的W像素动态范围Wd计算混合率,并且根据所计算的混合率执行所述混合处理,所述参考区域被设定在所述RGBW阵列图像中并且包括作为所述输出图像的构成像素值的计算目标像素的关注像素。
此外,根据第一实施例,当所述参考区域的W像素动态范围Wd较大时,所述混合处理单元可通过将由所述校正值计算单元计算的所述校正像素值r2、g2和b2的贡献率设定为比由所述像素插值单元计算的插值像素值r1、g1和b1的贡献率大来执行所述混合处理,并且计算所述输出图像的所述构成像素值RGB。
此外,根据第一实施例,所述混合处理单元可通过按照下面的表达式应用所述参考区域的W像素动态范围Wd和所述W像素动态范围Wd的最大值MAX来计算由所述校正值计算单元计算的校正像素值r2、g2和b2的混合率rate:
rate=Wd/MAX。
此外,根据第一实施例,所述混合处理单元可通过将由所述校正值计算单元计算的所述校正像素值r2、g2和b2的混合率rate设定为1.0来对被所述紫边检测单元判定为紫边像素的像素执行所述混合处理,并且将所述校正像素值r2、g2和b2输出作为所述输出图像的所述构成像素值RGB。
此外,根据本公开的第二实施例,提供了一种图像处理装置,该图像处理装置包括数据校正处理单元,其接收RGB阵列图像的输入作为输入图像并通过执行像素值校正处理来生成校正图像。所述数据校正处理单元包括:紫边检测单元,其分析所述输入图像以检测每个像素是否是紫边像素,校正值计算单元,其通过对所述紫边像素执行像素值校正来计算校正像素值r2、g2和b2,以及混合处理单元,其通过执行将所述输入图像的像素值r1、g1和b1与由所述校正值计算单元计算的所述校正像素值r2、g2和b2进行混合的混合处理,计算所述校正图像的构成像素值RGB。
此外,根据第二实施例,所述紫边检测单元可根据参考区域的G像素值计算G像素动态范围Gd,所述参考区域被设定在所述输入图像中并且包括作为所述校正图像的所述构成像素值的计算目标像素的关注像素,以及当所述G像素动态范围Gd比阈值ThrG大时,执行判定所述关注像素是紫边像素的可能性大的初始判定。
此外,根据第二实施例,当所述紫边检测单元在所述初始判定中判定所述关注像素是紫边像素的可能性大时,所述紫边检测单元可验证所述参考区域中的RGB像素中是否存在饱和像素,并且当存在饱和像素时执行判定所述关注像素是紫边像素的最终判定。
此外,根据第二实施例,所述校正值计算单元可根据参考区域的G像素的像素值计算G低通信号,所述参考区域被设定在所述输入图像中并且包括作为所述校正图像的构成像素值的计算目标像素的关注像素,以及通过根据所述关注像素的转换后的颜色对所计算的G低通信号执行白平衡调整来计算所述校正像素值。
此外,根据第二实施例,所述混合处理单元可根据从参考区域的G像素值计算的G像素动态范围Gd计算混合率,并且根据所计算的混合率执行所述混合处理,所述参考区域被设定在所述输入图像中并且包括作为所述校正图像的构成像素值的计算目标像素的关注像素。
此外,根据第二实施例,当所述参考区域的G像素动态范围Gd较大时,所述混合处理单元可通过将由所述校正值计算单元计算的所述校正像素值r2、g2和b2的贡献率设定为比所述输入图像的所述像素值r1、g1和b1的贡献率大来执行所述混合处理,并且计算所述校正图像的所述构成像素值RGB。
此外,根据第二实施例,所述混合处理单元通过按照下面的表达式应用所述参考区域的G像素动态范围Gd和所述G像素动态范围Gd的最大值MAX来计算由所述校正值计算单元计算的所述校正像素值r2、g2和b2的混合率rate:
rate=Gd/MAX。
此外,根据本公开的第三实施例,提供一种由图像处理装置执行的图像处理方法,所述方法包括:由数据转换处理单元执行接收RGBW阵列图像的输入并生成RGB阵列图像作为输出图像的数据转换处理。所述数据转换处理包括:通过对所述RGBW阵列图像执行像素插值处理来计算与所述RGB阵列图像的阵列对应的插值像素值r1、g1和b1,通过分析所述RGBW阵列图像来检测每个像素是否是紫边像素,通过校正所述紫边像素的像素值来计算校正像素值r2、g2和b2,以及通过执行将在计算插值像素值的处理中计算的所述插值像素值r1、g1和b1与在计算校正值的处理中计算的所述校正像素值r2、g2和b2进行混合的混合处理,计算所述输出图像的构成像素值RGB。
此外,根据第三实施例,所述检测紫边的处理可包括根据参考区域的W像素值来计算W像素动态范围Wd,所述参考区域被设定在所述RGBW阵列图像中并且包括作为所述输出图像的所述构成像素值的计算目标像素的关注像素;以及当所述W像素动态范围Wd比阈值ThrW大时,执行判定所述关注像素是紫边像素的可能性大的初始判定。
此外,根据本公开的第四实施例,提供了一种使图像处理装置执行图像处理的程序,所述程序使得数据转换处理单元执行接收RGBW阵列图像的输入并生成RGB阵列图像作为输出图像的数据转换处理。在所述数据转换处理中,所述程序使得下列处理被执行:通过对所述RGBW阵列图像执行像素插值处理来计算与所述RGB阵列图像的阵列对应的插值像素值r1、g1和b1,通过分析所述RGBW阵列图像来检测每个像素是否是紫边像素,通过校正所述紫边像素的像素值来计算校正像素值r2、g2和b2,以及通过执行将在计算插值像素值的处理中计算的所述插值像素值r1、g1和b1与在计算校正值的处理中计算的所述校正像素值r2、g2和b2进行混合的混合处理,计算所述输出图像的构成像素值RGB。
此外,根据第四实施例,在检测紫边的处理中,所述程序可使得下列处理被执行:根据参考区域的W像素值计算W像素动态范围Wd,所述参考区域被设定在所述RGBW阵列图像中并且包括作为所述输出图像的所述构成像素值的计算目标像素的关注像素;以及当所述W像素动态范围Wd比阈值ThrW大时,执行判定所述关注像素是紫边像素的可能性大的初始判定。
应当注意,根据本公开的程序是可在存储介质或通信介质中提供的程序,存储介质或通信介质对于能够例如执行各种程序代码的信息处理装置或计算机系统被设置成计算机可读取的形式。提供这种计算机可读取形式的程序使得能够在信息处理装置或计算机系统中实施根据程序的处理。
通过基于本公开的实施例和附图的更详细的说明,本公开的目的、特征和优点将更加清楚。此外,本说明书中的系统不限于逻辑上聚集多个装置的配置,所有的装置可被容纳在同一外壳内。
根据本公开的实施例,实现一种用于对从图像传感器输出的马赛克图像校正紫边的装置和方法。
具体而言,例如提供如下单元:像素插值单元,其通过对RGBW阵列图像执行像素插值处理,计算RGB阵列图像的插值像素值;紫边检测单元,其从RGBW阵列图像检测紫边像素;校正值计算单元,其通过校正紫边像素的像素值来计算校正像素值;混合处理单元,其通过混合由像素插值单元计算的插值像素值与由校正值计算单元计算的校正像素值来计算输出图像的构成像素值RGB。紫边检测单元当参考区域的W像素动态范围大于预先定义的阈值并且在参考区域中存在饱和RGB像素或饱和RGBW像素时判定关注像素为紫边像素。
通过执行这样的处理,能够实现对从图像传感器输出的马赛克图像的紫边像素的高精度检测、以及其中紫边的影响减少的高品质图像的生成。
附图说明
图1(a)和1(b)是示出紫边出现区的图;
图2(a)和2(b)是示出成像装置的像素阵列的结构的示例的图;
图3是示出根据本公开的实施例的图像处理装置的配置示例的图;
图4是示出根据本公开的实施例的图像处理装置的图像传感器的像素阵列的图;
图5是示出根据本公开的实施例的图像处理装置的数据转换处理单元的配置示例的图;
图6(a)和6(b)是示出紫边出现区与W像素动态范围Wd之间的对应关系的图;
图7(a)和7(b)是示出根据本公开的实施例的图像处理装置所执行的紫边校正处理的图;
图8(a)至8(d)是示出应用到根据本公开的实施例的图像处理装置所执行的紫边校正处理的滤波器(LPF)的设定示例的图;
图9是示出应用到根据本公开的实施例的图像处理装置的数据转换处理单元执行的混合处理的混合率rate的设定示例的图;
图10是示出根据本公开的实施例的图像处理装置所执行的处理序列的流程图;
图11是示出根据本公开的实施例的图像处理装置的配置示例的图;
图12是示出根据本公开的实施例的图像处理装置的数据校正处理单元的配置示例的图;
图13(a)和13(b)是示出紫边出现区与G像素动态范围Gd之间的对应关系的图;
图14(a)和14(b)是示出根据本公开的实施例的图像处理装置所执行的紫边校正处理的图;
图15是示出应用到根据本公开的实施例的图像处理装置的数据转换处理单元执行的混合处理的混合率rate的设定示例的图;以及
图16是示出根据本公开的实施例的图像处理装置所执行的处理序列的流程图。
具体实施方式
下文中,将参照附图详细说明本公开的优选实施例。应当注意,在该说明书和附图中,具有大致相同功能和结构的结构元件用相同的附图标记表示,省略对这些结构元件的重复说明。
下文中,将参照附图说明根据本公开实施例的图像处理装置、图像处理方法和程序。将参照下列项目进行说明。
1.根据本公开的第一实施例的图像处理装置的配置和处理;
2.根据本公开的第二实施例的图像处理装置的配置和处理;
3.根据本公开的第三实施例的图像处理装置的配置和处理;
4.根据本公开的第四实施例的图像处理装置的配置和处理;
5.根据本公开的实施例的图像处理装置的处理的优点;
6.根据本公开的实施例的配置的概述。
【1.根据本公开的第一实施例的图像处理装置的配置和处理】
根据本公开的第一实施例的图像处理装置对从如下图像传感器获取的数据进行处理:该图像传感器不仅具有选择性透射各RGB波长的光的RGB滤光器并且还具有包括白色(W)并且透射所有RGB波长的光的RGBW型彩色滤光器。
具体而言,对如下二维像素阵列信号进行分析并且执行像素转换:其中,用作亮度信号的主分量的像素被排列成方格棋盘的形状,用作颜色信息分量的多个彩色像素被排列在剩余部分中。此外,作为亮度信号的主分量的颜色是白色和绿色。
根据本公开的实施例的图像处理装置执行将从例如如图2(b)所示具有包括白色(W)的RGBW型彩色滤光器的图像传感器获取的数据转换成如图2(a)所示的RGB阵列(例如,拜耳阵列)的数据的处理。在下文中,这个彩色阵列转换处理被称为再马赛克(re-mosaic)处理。
例如,在日本未审查专利申请公报No.2011-182354中详细公开了作为像素阵列转换处理的再马赛克处理。
根据本公开的实施例的图像处理装置在将RGBW像素阵列的图像转换成形成为RGB像素阵列的拜耳阵列的图像的像素阵列转换处理(再马赛克处理)中执行校正紫边的处理。
通过像素阵列转换处理(再马赛克处理)转换的拜耳阵列的图像被输入到后级的信号处理单元。
信号处理单元执行根据拜耳阵列的马赛克图像设定各个像素中的所有RGB像素值的去马赛克处理,或者执行诸如白平衡(WB)调整处理或伽马校正处理的一般信号处理。
包括在许多相机中的信号处理单元被配置成:在从图像传感器输入的图像是形成为RGB像素阵列的拜耳阵列的图像的假设下,执行信号处理。
因此,通过在前级将输入到信号处理单元的图像转换成拜耳阵列的图像,可使用根据现有技术的信号处理单元,而不需做改变。
因此,在其中来自具有RGBW阵列的图像传感器的输出输入到信号处理单元的前级,执行将RGBW阵列转换成拜耳阵列的再马赛克处理。
将参照图3和后面的附图说明根据本公开的实施例的图像处理装置的示例性配置和示例性处理。
图3是示出作为根据本公开的实施例的图像处理装置的成像装置100的配置的图。
成像装置100包括:光学镜头105、图像传感器110、信号处理单元120、存储器130和控制单元140。成像装置是根据本公开的实施例的图像处理装置的示例。根据本公开的实施例的图像处理装置的示例包括诸如PC的装置。诸如PC的图像处理装置不包括如图3所示的成像装置100的光学镜头105和图像传感器110,但是包括其它构成元件。图像处理装置被配置成包括用于输入与从图像传感器110或存储单元获取的数据对应的数据的输入单元。具体而言,成像装置100是照相机、摄影机等。图像处理装置的示例不仅包括成像装置,还包括能够执行图像处理的如PC的信息处理装置。
下文中,成像装置100将被描述为根据本公开的实施例的图像处理装置的代表示例。图3所示的成像装置100的图像传感器110被配置成包括图4所示具有白色(W)的RGBW阵列181的滤光器。
也就是,如图4所示,图像传感器110是含有具有如下四种分光特征的滤光器的图像传感器:
透射近红波长的红色(R);
透射近绿波长的绿色(G);
透射近蓝波长的蓝色(B);以及
透射所有RGB的白色(W)。
图4示出二维像素阵列,其中,形成为亮度信号的主分量的像素(W)被排列成方格棋盘的形状,形成为颜色信息分量的多个颜色的像素(RGB)被排列在剩余部分中。
如图3所示,包括具有RGBW阵列181的滤光器的图像传感器110经由光学镜头105在每个像素单元中接收RGBW光之一,通过光电转换生成与光接收信号强度对应的电信号,并且输出电信号。可通过图像传感器110获取从四种RGBW分光特征形成的马赛克图像。
从图像传感器110输出的信号被输入到信号处理单元120的数据转换处理单元200。
数据转换处理单元200执行从RGBW阵列181到RGB阵列182的像素阵列转换处理。在像素阵列转换处理中,数据转换处理单元200执行抑制紫边的处理。
由数据转换处理单元200生成的RGB阵列182(即具有拜耳阵列的数据)是具有由根据现有技术的相机等的图像传感器获取的颜色阵列的数据。颜色阵列数据被输入到RGB信号处理单元250。
RGB信号处理单元250执行与包括在根据现有技术的相机等中的信号处理单元的处理相同的处理。具体而言,通过执行去马赛克处理、白平衡调整处理、伽马校正处理等生成彩色图像183。所生成的彩色图像183被记录在存储器130中。
控制单元140控制处理的序列。例如,由于引起执行处理序列的程序存储在存储器130中,所以控制单元140通过执行从存储器130中读取的程序来控制处理序列。
将参照图5说明数据转换处理单元200的详细配置。数据转换处理单元200执行从RGBW阵列181到RGB阵列182的像素阵列转换处理。此外,还在像素阵列转换处理中执行抑制紫边的处理。
到数据转换处理单元200的输入像素单元被设定成以要经受作为像素阵列转换处理执行的紫边去除处理和像素值转换的处理目标像素为中心的7×7像素。也就是,执行设定参考区域的处理,参考区域具有以处理目标像素为中心的7×7像素。此外,顺序地改变处理目标像素,并且数据转换处理单元200顺序地对每个像素执行处理。
作为具有在输入像素单元中设定的参考区域的尺寸的区域,可以设定具有7×7像素尺寸之外的其它尺寸的区域。
如图5所示,数据转换处理单元200包括:紫边检测单元201、校正值计算单元202、像素插值单元203和混合处理单元204。
像素插值单元203判定处理目标像素(=关注像素)的像素值,即输入像素单元(7×7像素)区域的中心像素,使得从图像传感器110输出的RGBW阵列181转换成RGB阵列182。
关注像素是RGBW之一的像素。像素插值单元203执行根据要输出的RGB像素阵列将位于关注像素位置的像素转换并设定为RGB之一的像素的像素插值处理,
像素插值处理被执行为如下处理:从7×7像素的参考区域选择具有与计划设定的RGB之一的颜色相同的颜色的像素,将选择的像素的值设定为参考像素并且应用参考像素的像素值,以及计算处理目标像素即7×7像素的中心像素的像素值。
在插值处理中,可以应用考虑边缘方向的处理或者诸如利用参考区域的W像素与RGB像素之间的相关的方法之类的各种已知方法。
紫边检测单元201检测紫边出现区。
将参照图6(a)和6(b)说明由紫边检测单元201执行的检测紫边出现区的处理。
图6(a)是示出关注像素的位置(横轴)和RGBW的每个像素值(纵轴)之间的对应关系的图。图6(b)是示出关注像素的位置(横轴)和以关注像素为中心的参考区域(例如,7×7像素)的W像素动态范围(最大W像素值-最小W像素值)(纵轴)之间的对应关系的图。图6(a)和6(b)中表示关注像素的像素位置的横轴在图6(a)和6(b)中具有相同的位置关系。
如先前参照图1(a)和1(b)所述,紫边多出现在像素值从具有最大像素值的过曝光区急剧改变的边缘的外围中的过曝光区附近。在图6(a)所示的X1之后的区域中频繁地检测到引起伪彩色的紫边。
从图6(a)和6(b)的对应关系可以理解,紫边出现区具有在参考区域(例如7×7像素)中W像素动态范围(最大W像素值-最小W像素值)大的特征。
可使用参考区域的W像素的变化率(即动态范围)作为指标来检测紫边。
此外,从图4所示的像素阵列可以理解,在R、G、B和W像素中,W像素的排列最密。因此,通过基于使用W像素动态范围执行判定处理,存在提高检测精度的好处。
将参照图7(a)和7(b)说明紫边检测处理。
例如,从图7(a)所示的参考区域(7×7像素)计算W像素的最大值Wmax和最小值Wmin。
此外,根据下列(表达式1)通过计算最大值和最小值之间的差来计算W像素动态范围Wd。
Wd=Wmax-Wmin   (表达式1)
将W像素动态范围Wd与阈值ThrW比较。
Wd>ThrW   (表达式2)
当满足上述(表达式2)时,即当W像素动态范围Wd比预先定义的阈值ThrW大时,执行判定参考区域的中心的关注像素是出现紫边的像素的初始判定。
该判定为初始判定。在初始判定之后,基于参考区域的RGB像素值执行最终判定。下面将说明该处理。
相反,当不满足上述(表达式2)时,即当W像素动态范围Wd等于或小于预先定义的阈值ThrW时,判定参考区域的中心的关注像素不是出现紫边的像素,并且通过将混合率设定为0来执行下述混合处理。也就是,执行混合处理,使得由校正值计算单元202生成的像素值被设定成不被反映在由混合处理单元204生成的输出像素值中。
将说明上述初始判定之后执行的最终判定。
例如,在如CZP图的具有高对比度的图像中,W像素动态范围Wd的值甚至在其中没有饱和像素和不出现紫边的区域中增大。在该情况下,当根据上述(表达式1)和(表达式2)执行判定处理时,由于尽管区域不是紫边出现区,但是该区域被判定为紫边出现区,所以假设执行了误检测。
为了防止这种误检测,如图7(b)所示,与在计算W像素动态范围Wd的处理中相同,选择参考区域的RGB像素或RGBW像素,并且验证RGB像素的像素值。
也就是,验证在参考区域(=7×7像素的输入像素单元区域)中的RGB像素或RGBW像素中是否存在饱和像素。
基于验证处理执行下列的最终判定。
(1)当RGB像素或RGBW像素中存在饱和像素时,执行确认根据上述(表达式1)和(表达式2)的判定的最终判定。
(2)当RGB像素或RGBW像素中不存在饱和像素时,无效根据上述(表达式1)和(表达式2)的判定。因此,即使当根据上述表达式1和表达式2执行判定关注像素为其中出现紫边的像素的初始判定时,执行判定像素不是其中出现紫边的像素的最终判定。
用于验证饱和像素的存在的像素被设定为RGB像素还是RGBW像素是由参考区域的尺寸或期望校正的紫边的特征来确定的。
校正值计算单元202对由紫边检测单元201最终判定为其中检测到紫边的像素的关注像素进行像素值校正。
也就是,计算通过减小紫边的影响而获得的校正像素值,作为其中检测到紫边的像素的校正像素值,然后校正像素值被输出到混合处理单元204。
校正值计算单元202不对由紫边检测单元201判定为不是其中检测到紫边的像素的关注像素进行像素值校正,并将像素值无变化地输出到混合处理单元204。
在紫边出现区中,由于RGB像素的值之间的比率(ratio)与初始比率不同,所以出现伪彩色。因此,通过仅根据G像素的值而不使用R和B像素的值计算校正值并且降低伪彩色出现区的饱和度来抑制伪彩色。
将参照图8(a)-8(d)说明该处理。
作为参考像素区域的7×7像素区域的设定形式,图8(a)和8(d)中示出四种形式。
图8(a)是示出其中中心像素设定为W且中心像素的右侧和下侧像素设定为G的设定形式的图。
图8(b)是示出其中中心像素设定为W且中心像素的左侧和上侧像素设定为G的设定形式的图。
图8(c)是示出其中中心像素设定为G的设定形式的图。
图8(d)是示出其中中心像素设定为R或B的设定形式的图。
校正值计算单元202所执行的紫边校正处理的校正模式是用于根据图8(a)-8(d)的参考像素区域的设定而不同的处理的模式。
首先,通过执行卷积运算来计算G像素的低通信号mG,其中,根据图8(a)-8(d)中的四种模式,具有图8(a)-8(d)中所示的滤波器系数的低通滤波器(LPF)系数的低通滤波器被施加至参考区域中的G像素。图8(a)-8(d)中所示的LPF系数是被应用以计算G像素的低通信号mG的系数的示例,并且要被应用的系数不限于上述系数的示例。
附图中所示的示例是如下示例:其中,通过应用位于要被校正的7×7像素参考区域的中心位置的关注像素的外围中的5×5像素区域的G像素来执行计算低通信号mG的处理。
校正值计算单元202首先通过应用根据图8(a)-8(d)中所示的四个参考区域的设定的每一个的LPF来计算与参考区域的中心校正目标像素(关注像素)对应的G低通信号mG。
接着,通过应用所计算的G低通信号mG计算关注像素(即7×7像素的参考像素区域的中心像素)的校正像素值。
根据下面的(表达式3g)、(表达式3r)和(表达式3b)计算校正像素值。
下面的(表达式3g)、(表达式3r)和(表达式3b)均为根据转换目的地的输出像素的颜色(RGB)选择性地应用的表达式。
也就是,每个表达式均为根据关注像素的颜色(RGB)(即作为图5中所示的输出图像的RGB阵列182中的7×7像素的参考像素区域的中心像素的位置处设定的像素的颜色(RGB)),即根据通过再马赛克处理转换的转换目的地的输出像素的颜色(RGB)选择性地应用的表达式。
(1)当转换目的地的像素为G像素时,校正值g’根据下面的(表达式3g)计算:
g’=mG   (表达式3g)。
(2)当转换目的地的像素为R像素时,校正值r’根据下面的(表达式3r)计算:
r’=mG/gainR   (表达式3r)。
(3)当转换目的地的像素为B像素时,校正值b’根据下面的(表达式3b)计算:
b’=mG/gainB   (表达式3b)。
在上述表达式中,gainR表示R像素的白平衡增益,gainB表示B像素的白平衡增益。
校正值计算单元202计算判定为紫边像素的关注像素的校正像素值r’、g’和b’,并且将校正像素值r’、g’和b’输出到混合处理单元204。
校正值计算单元202不计算判定为不是紫边像素的关注像素的校正像素值,并且将校正前的输入像素值无变化地输出到混合处理单元204。
混合处理单元204通过根据下面的(表达式4G)、(表达式4R)和(表达式4B)在每个对应像素的位置处将像素插值单元203的输出信号(r、g和b)与校正值计算单元202的输出信号进行混合来计算最终像素值,并且输出最终像素值。
(1)当转换目的地为G像素时,输出值G根据下面的(表达式4G)计算:
G=(1-rate)×g+rate×g'   (表达式4G)。
(2)当转换目的地为R像素时,输出值R根据下面的(表达式4R)计算:
R=(1-rate)×r+rate×r'   (表达式4R)。
(3)当转换目的地为B像素时,输出值B根据下面的(表达式4B)计算:
B=(1-rate)×b+rate×b'   (表达式4B)。
上述(表达式4G)、(表达式4R)、(表达式4B)是用于计算作为在如下假定下获得的混合处理(加权相加)的结果的输出值R、G和B的计算表达式:假定紫边校正后获得的像素值r’、g’和b’的每个像素值的混合率(权重)为rate,并且假定由执行从RGBW阵列到RGB阵列的再马赛克处理的像素插值单元203插值的像素值r、g、b的每个混合率(权重)为(1-rate)。
由于伪彩色的强度与参考区域中的W像素动态范围Wd几乎成比例,所以通过将W像素动态范围Wd归一化到0-1的范围而获得的值rate被设定为根据下面的(表达式5)的混合率。
rate=Wd/MAX   (表达式5)。
MAX表示W像素动态范围Wd的最大值。
也就是,执行应用图9中设定的混合率(rate)的混合处理。
执行紫边校正的校正值计算单元202计算被判定为紫边像素的关注像素的校正像素值r’、g’和b’,并且将校正像素值r’、g’和b’输出到混合处理单元204。因此,混合处理单元204通过将上述(表达式4G)、(表达式4R)和(表达式4B)直接应用到紫边的像素来计算最终像素值RGB。
然而,执行紫边校正的校正值计算单元202不计算被判定为不是紫边像素的关注像素的校正像素值r’、g’和b’,并且将输入图像的RGBW的像素值无变化地输出到混合处理单元204。
因此,输入到混合处理单元204的像素值仍是像素阵列转换之前的根据RGBW阵列的RGBW的像素值。然而,混合处理单元204通过将RGBW的像素值解释(interpret)为像素阵列转换后的根据RGB阵列182的RGB的像素值,即根据上面的(表达式4G)、(表达式4R)和(表达式4B)获得的校正像素值r’、g’和b’来执行处理。
在这种情况下,上面的(表达式4G)、(表达式4R)和(表达式4B)中的混合率(rate)被设定为rate=0,并且执行计算最终输出值RGB的处理。
也就是,当像素不是其中出现紫边的像素时,混合处理单元204无变化地输出通过由像素插值单元203的插值处理获得的像素值。
因此,混合处理单元204通过以下处理之一判定输出像素值:
(a)通过根据按照参考区域的W像素动态范围Wd判定的混合率来将由像素插值单元203生成的像素值r、g和b与由校正值计算单元202生成的像素值r’、g’和b’混合,判定其中出现紫边的像素的输出像素值的处理;以及
(b)将由像素插值单元203生成的像素值r、g和b设定为其中不出现紫边的像素的输出像素值的处理。
数据转换处理单元200除了将RGBW阵列转换成RGB阵列的再马赛克处理之外还减小紫边,生成具有RGB阵列182的输出图像,并将输出图像输出到RGB信号处理单元250。
图10中示出了数据转换处理单元200所执行的处理序列的流程图。
图10是由数据转换处理单元200所执行的紫边的检测、校正值的计算和混合处理的流程图。下文中,将说明每个步骤的处理。
步骤S101、S102和S103是图5中所示的数据转换处理单元200的紫边检测单元201执行的处理。
首先,在步骤S101中,计算从包括要被校正的关注像素的参考区域形成的输入像素单元区域中的W像素的最大值和最小值之间的差,即W像素动态范围Wd。
在实施例中的上述示例中,输入像素单元区域是包括要被校正的关注像素的7×7像素区域。
获取包括在7×7像素区域中的W像素的最大值(Wmax)和最小值(Wmin)并且根据下面的表达式计算W像素动态范围Wd:
Wd=Wmax-Wmin。
接着,在步骤S102中,将W像素动态范围Wd与阈值ThrW比较,以判定W像素动态范围Wd是否大于阈值ThrW。
即,Wd>ThrW。
判定是否满足上述判定表达式。
阈值ThrW可以是固定值,可以是可由用户设定的值,或者被自动地计算。
如上参照图6(a)和6(b)所述,其中W像素动态范围Wd大于阈值ThrW的情况指示其中紫边的出现可能性高的区域。此外,其中W像素动态范围Wd不大于阈值ThrW的情况指示其中紫边的出现可能性低的区域。
当不满足判定表达式,即W像素动态范围Wd不大于阈值ThrW时,处理进行到步骤S107。
在步骤S107中,混合率rate被设定为0。也就是,在图5中所示的数据转换处理单元200的混合处理单元204中的用于计算输出像素值的混合处理中,计算输出像素值的校正值计算单元202的输出像素值的混合率被设定为0。
混合率rate是根据上述的(表达式4G)、(表达式4R)和(表达式4B)设定的混合率。
也就是,当转换目的地为G像素时,输出值G的计算表达式如下:
G=(1-rate)×g+rate×g'   (表达式4G)。
当转换目的地为R像素时,输出值R的计算表达式如下:
R=(1-rate)×r+rate×r'   (表达式4R)。
当转换目的地为B像素时,输出值B的计算表达式如下:
B=(1-rate)×b+rate×b'   (表达式4B)。
混合率rate是根据输出像素值的计算表达式设定的。
也就是,当W像素动态范围Wd不大于阈值ThrW且该区域被判定为其中紫边的出现可能性小的区域时,根据(表达式4G)、(表达式4R)和(表达式4B)在混合率rate被设定为rate=0的情况下执行步骤S106的混合处理。
结果,当W像素动态范围Wd不大于阈值ThrW且该区域被判定为其中紫边的出现可能性低的区域时,由图5中所示的数据转换处理单元200的像素插值单元203设定的插值像素值被设定为输出像素值。
相反,在步骤S102中当W像素动态范围Wd与阈值ThrW相比并且满足判定表达式Wd>ThrW时,处理进行到步骤S103。
满足判定表达式的情况是区域被判定为其中紫边的出现可能性高的区域的情况。
在该情况下,在步骤S103中,检查在输入像素单元区域中是否存在饱和的RGB像素或饱和的RGBW像素。
在上述实施例中,输入像素单元区域是包括要被校正的关注像素的7×7像素区域。
判定包括在7×7像素区域中的RGB像素或RGBW像素中是否存在饱和像素值。
当RGB像素或RGBW像素中不存在饱和像素时,处理进行到步骤S107并且混合率rate设定为0。也就是,在图5中所示的数据转换处理单元200的混合处理单元204中用于计算输出像素值的混合处理中,校正值计算单元202的输出像素值的混合率被设定为0。
混合率rate是根据上述(表达式4G)、(表达式4R)和(表达式4B)设定的混合率。
其中在输入像素单元区域即参考区域中的RGB像素或RGBW像素中没有饱和像素的情况是其中该区域被判定为不是紫边出现区的情况。
在该情况下,通过将校正值计算单元202的输出像素值的混合率设定为0,根据上述(表达式4G)、(表达式4R)和(表达式4B)执行混合处理,将由像素插值单元203计算的插值像素值设定为输出像素值。
相反,当在步骤S103中在输入像素单元区域中存在饱和的RGB像素或饱和的RGBW像素时,处理进行到步骤S104。
步骤S104和S105的处理是由图5中所示的数据转换处理单元200的校正值计算单元202执行的处理。
在步骤S104中,通过应用作为输入像素单元区域的参考区域的G像素值来计算G像素的低通信号。
该处理是通过施加根据上面参照图8(a)-8(d)所述的像素阵列选择的LPF来执行的处理。
在步骤S105中,通过将G像素的低通信号乘以白平衡增益的倒数来计算校正值。具体而言,通过应用上述(表达式3g)、(表达式3r)、(表达式3b)根据转换之后获得的像素值的颜色来计算校正值。也就是,执行下列处理。
(1)当转换目的地的像素是G像素时,校正值g’根据下面的(表达式3g)计算:
g’=mG   (表达式3g)。
(2)当转换目的地的像素为R像素时,校正值r’根据下面的(表达式3r)计算:
r’=mG/gainR   (表达式3r)。
(3)当转换目的地的像素为B像素时,校正值b’根据下面的(表达式3b)计算:
b’=mG/gainB   (表达式3b)。
步骤S106的处理是由图5中所示的数据转换处理单元200的混合处理单元204执行的处理。
在步骤S106中,根据混合率rate将像素插值单元203的输出信号与校正值计算单元202的输出信号混合。
也就是,如上所述,根据下列计算表达式来计算输出像素值。
(a)当转换目的地为G像素时,输出值G的计算表达式如下:
G=(1-rate)×g+rate×g'   (表达式4G)。
(b)当转换目的地为R像素时,输出值R的计算表达式如下:
R=(1-rate)×r+rate×r'   (表达式4R)。
(c)当转换目的地为B像素时,输出值B的计算表达式如下:
B=(1-rate)×b+rate×b'   (表达式4B)。
根据这些表达式计算具有图5中所示的RGB阵列182的输出图像的输出像素值。
在图10中所示的流程图中,未对图5中所示的数据转换处理单元200的像素插值单元203的处理进行说明。
像素插值单元203通过应用已知的处理执行将RGBW阵列转换成RGB阵列的再马赛克处理。
在图10中所示的流程的步骤S106中,根据按照上述(表达式4R)、(表达式4G)和(表达式4B)判定的混合率rate将由图5中所示的数据转换处理单元200的像素插值单元203生成的像素值r、g和b与作为由校正值计算单元202输出的像素值r’、b’和g’的像素值的同一像素位置的像素值进行混合,并判定输出像素值。
通过执行这样的处理,可以生成具有如下的RGB阵列182的图像:该图像中因紫边引起的如伪彩色的像素值误差得到减小。
具有由图5中所示的数据转换处理单元200生成的RGB阵列182的图像被输入到图3中所示的RGB信号处理单元250。
RGB信号处理单元250执行与包括在根据现有技术的相机等中的信号处理单元的处理相同的处理。具体而言,通过执行去马赛克处理、白平衡调整处理、伽马校正处理等来生成彩色图像183。生成的彩色图像183被记录在存储器130中。
【2.根据本公开的第二实施例的图像处理装置的配置和处理】
接着,将对根据本公开的第二实施例的图像处理装置的配置和处理进行说明。
在上述第一实施例中,图5中所示的数据转换处理单元200的校正值计算单元202对其中出现紫边的像素执行在校正值计算处理中的下列处理。
首先,如参照图8(a)-8(d)所述,通过应用在参考区域内的G像素来执行计算低通信号mG的处理。
然后,通过应用上述(表达式3g)、(表达式3r)和(表达式3b)使用所计算的低通信号mG计算校正像素值g’、r’和b’。
也就是,根据下面的表达式执行处理。
(1)当转换目的地的像素为G像素时,校正值g’的计算表达式如下:
g’=mG   (表达式3g)。
(2)当转换目的地的像素为R像素时,校正值r’的计算表达式如下:
r’=mG/gainR   (表达式3r)。
(3)当转换目的地的像素为B像素时,校正值b’的计算表达式如下:
b’=mG/gainB   (表达式3b)。
在上述表达式中,gainR表示R像素的白平衡增益,gainB表示B像素的白平衡增益。
在本实施例中,校正值计算单元202计算W像素的低通信号mW而不是参考区域的G像素的低通信号mG,并且根据W像素的低通信号mW生成其中紫边减少的校正像素值r’、b’和g’。
也就是,通过执行将LPF施加到其中关注像素位于中心的参考区域(例如7×7像素区域)的W像素的像素值的卷积运算来计算W像素的低通信号mW。
此外,根据下面的(表达式6g)、(表达式6r)和(表达式6b)通过应用所计算的W像素的低通信号mW来计算校正像素值g’、r’和b’。
(1)当转换目的地的像素为G像素时,校正值g’根据下面的(表达式6g)计算:
g’=mW/senseWG   (表达式6g)。
(2)当转换目的地的像素为R像素时,校正值r’根据下面的(表达式6r)计算:
r’=mW/gainR/senseWG   (表达式6r)
(3)当转换目的地的像素为B像素时,校正值b’根据下面的(表达式6b)计算:
b’=mW/gainB/senseWG   (表达式6b)
在上述表达式中,gainR表示R像素的白平衡增益,gainB表示B像素的白平衡增益,senseWG表示下面的(表达式7)中表示的W像素相对于G像素的灵敏度比值:
senseWG=(W的灵敏度)/(G的灵敏度)   (表达式7)。
因此,在第二实施例中,在计算紫边像素的校正像素值的处理中,计计算参考区域的W像素的低通信号mW,并且通过应用计算的W像素的低通信号mW来计算校正像素值g’、r’和b’。
【3.根据本公开的第三实施例的图像处理装置的配置和处理】
接着,将对根据本公开的第三实施例的图像处理装置的配置和处理进行说明。
在上述第一实施例中,图5中所示的数据转换处理单元200的混合处理单元204通过根据预定的混合率rate将校正值计算单元202的紫边减少处理之后获得的校正像素值r’、g’和b’与通过像素插值单元203的插值处理生成的像素值r、g和b进行混合来生成输出像素值RGB。也就是,根据上述的(表达式4R)、(表达式4G)和(表达式4B)执行混合处理。
如图9中所示,基于参考区域的W像素动态范围Wd来设定应用到混合处理的混合率rate。也就是,根据上述(表达式5)即下面的表达式来设定混合率rate:
rate=Wd/MAX   (表达式5)
在本实施例中,混合率被设定为0和1中的一个。
对于被判定为其中检测到紫边的像素的像素,混合率rate设定为1.0。
对于被判定为不是其中检测到紫边的像素的像素,混合率rate设定为0.0。
当执行该处理时,用由校正值计算单元202校正的校正像素值来替换被判定为其中检测到紫边的像素的像素的像素值。
作为被判定为不是其中检测到紫边的像素的像素的像素值,无变化地输出像素插值单元203的像素值。
当执行该处理时,可省略根据各种混合率rate执行混合处理和判定输出像素值的处理,也就是根据上述(表达式4R)、(表达式4G)和(表达式4B)计算输出像素值的处理。因此,可减少处理的数目。
然而,存在在其中检测到紫边的区域和其中未检测到紫边的区域之间的边界中出现假象(artifact)的可能性。
【4.根据本公开的第四实施例的图像处理装置的配置和处理】
接着,将对根据本公开的第四实施例的图像处理装置的配置和处理进行说明。
在上述第一实施例中,输入图像是具有RGBW阵列的图像。
下文中,将根据第四实施例对输入图像被配置成具有RGB阵列时的图像处理装置的配置和处理进行说明。在该情况下,作为亮度的主分量的颜色是G像素。
图11是示出作为根据第四实施例的图像处理装置的一个示例的成像装置400的配置示例的图。
图11中所示的成像装置400具有与作为根据第一实施例的图3中的成像装置的上述成像装置100的配置大体相同的配置。
成像装置400包括:光学镜头405、图像传感器410、信号处理单元420、存储器430和控制单元440。成像装置是根据本公开的实施例的一种图像处理装置。根据本公开的实施例的图像处理装置的示例包括诸如PC的装置。诸如PC的图像处理装置不包括图11中所示的成像装置400的光学镜头405和图像传感器410,但是包括其它构成元件。图像处理装置被配置成包括用于输入与从图像传感器410或存储单元获取的数据对应的数据的输入单元。具体而言,成像装置400是照相机、摄影机等。图像处理装置的示例不仅包括成像装置,还包括能够执行图像处理的如PC的信息处理装置。
与上述第一实施例不同,图11中所示的成像装置400的图像传感器410被配置成包括由不具有白(W)像素的RGB阵列481的RGB形成的滤光器,例如图2(a)中所示的拜耳阵列。
也就是,图像传感器410是包括具有如下三种分光特征的滤光器的图像传感器:
透射近红波长的红(R);
透射近绿波长的绿(G);以及
透射近蓝波长的蓝(B)。
来自图像传感器410的输出信号被输入到信号处理单元420的数据校正处理单元500。数据校正处理单元500执行抑制紫边的处理。此外,根据第四实施例的数据校正处理单元500不执行由根据第一实施例的数据转换处理单元200执行的再马赛克处理,即从RGBW阵列到RGB阵列的阵列转换处理。
将参照图12说明数据校正处理单元500的详细配置。
数据校正处理单元500的输入像素单元被设定成以要经受像素值校正处理的处理目标像素为中心的7×7像素。也就是,执行设定具有以处理目标像素为中心的7×7像素的参考区域的处理。此外,顺序地改变处理目标像素,并且数据校正处理单元500顺序地对每个像素执行处理。
作为具有在输入像素单元中设定的参考区域的尺寸的区域,可以设定具有不是7×7像素的尺寸的其它尺寸的区域。
如图12中所示,数据校正处理单元500包括紫边检测单元501、校正值计算单元502和混合处理单元503。
紫边检测单元501检测紫边出现区。
将参照图13(a)和13(b)说明由紫边检测单元501执行的检测紫边出现区的处理。
图13(a)是示出关注像素的位置(横轴)和RGB的每个像素值(纵轴)之间的对应关系的图。图13(b)是示出关注像素的位置(横轴)和以关注像素为中心的参考区域(例如,7×7像素)中的G像素动态范围(最大G像素值-最小G像素值)(纵轴)的图。图13(a)和13(b)中表示关注像素的像素位置的横轴在图13(a)和13(b)中具有相同的位置关系。
如先前参照图1(a)和1(b)所述,紫边多出现在其中像素值从具有最大像素值的过曝光区急剧改变的边缘的外围中的过曝光区附近。在图13(a)中所示的X1之后的区域中频繁地检测到引起伪彩色的紫边。
从图13(a)和13(b)之间的对应关系可以理解,紫边出现区具有在参考区域(例如7×7像素)中的G像素动态范围(最大G像素值-最小G像素值)大的特征。
可使用参考区域的G像素的变化率即动态范围作为指标来检测紫边。
此外,从图2(a)中所示的像素阵列(拜耳阵列)可以理解,在R、G、和B像素中,G像素的排列最密。因此,通过基于使用G像素的动态范围执行判定处理,也存在提高检测精度的好处。
将参照图14(a)和14(b)说明紫边检测处理。
例如,紫边检测单元501首先从图14(a)中所示的参考区域(7×7像素)计算G像素的最大值Gmax和最小值Gmin。
此外,根据下列下面的(表达式8)通过计算最大值和最小值之间的差来计算G像素动态范围Gd。
Gd=Gmax-Gmin   (表达式8)
紫边检测单元501将G像素动态范围Gd与阈值ThrG做比较。
Gd>ThrG   (表达式9)
当满足上述(表达式9)时,即当G像素动态范围Gd比预先定义的阈值ThrG大时,执行判定参考区域的中心的关注像素是其中出现紫边的像素的初始判定。
该判定为初始判定。此外,基于参考区域的RGB像素值执行最终判定。下面将说明该处理。
相反,当不满足上述(表达式9)时,即当G像素动态范围Gd等于或小于预先定义的阈值ThrG时,判定参考区域的中心的关注像素不是其中出现紫边的像素,并且通过将混合率设定为0来执行下面将描述的混合处理。也就是,执行混合处理,使得由校正值计算单元502生成的像素值被设定成不被反映在由混合处理单元503生成的输出像素值中。
将说明在上述初始判定之后执行的最终判定。
如上所述,例如,在如CZP图的具有高对比度的图像中,W像素动态范围Wd的值甚至在其中不存在饱和像素和不出现紫边的区域中增大。在该情况下,当根据上述(表达式8)和(表达式9)执行判定处理时,由于尽管区域不是紫边出现区,但是该区域被判定为紫边出现区,所以假设执行了误检测。
为了防止这种误检测,如图14(b)中所示,如在计算G像素动态范围Gd的处理中那样,从参考区域选择RGB像素并验证RGB像素。
也就是,验证在参考区域(=7×7像素的输入像素单元区域)中的RGB像素中是否存在饱和像素。基于验证处理执行下列的最终判定。
(1)当RGB像素中存在饱和像素时,执行确认根据上述(表达式8)和(表达式9)的判定的最终判定。
(2)当RGB像素中不存在饱和像素时,无效根据上述(表达式8)和(表达式9)的判定。因此,即使当根据上述(表达式8)和(表达式9)执行判定关注像素为其中出现紫边的像素的初始判定时,执行判定像素不是其中出现紫边的像素的最终判定。
校正值计算单元502对由紫边检测单元501最终判定为其中检测到紫边的像素的关注像素进行像素值校正。
也就是,计算通过减小紫边的影响而获得的像素值作为其中检测到紫边的像素的校正像素值,然后校正像素值输出到混合处理单元503。
校正值计算单元502不对由紫边检测单元501判定为不是其中检测到紫边的像素的关注像素进行像素值校正,并将校正前的像素值无变化地输出到混合处理单元503。
校正值计算单元502计算用于校正其中检测到紫边的区域中的像素值。
首先,校正值计算单元502通过将LPF的卷积运算应用到以作为要被校正的关注像素为中心的参考区域的G像素,计算G像素的低通信号mG。
该处理与第一实施例中参照图8(a)-8(d)所述的处理相同。
接着,校正值计算单元502通过应用所计算的G低通信号mG计算关注像素的校正像素值,即7×7像素的参考像素区域的中心像素。
根据下面的(表达式10g)、(表达式10r)和(表达式10b)计算校正像素值。
根据关注像素的颜色,即位于7×7像素的参考像素区域的中心像素位置处的像素的颜色,选择性地应用下面的(表达式10g)、(表达式10r)和(表达式10b)。
(1)当输出像素为G像素时,校正值g’根据下面的(表达式10g)计算:
g’=mG   (表达式10g)。
(2)当输出像素为R像素时,校正值r’根据下面的(表达式10r)计算:
r’=mG/gainR   (表达式10r)。
(3)当输出像素为B像素时,校正值b’根据下面的(表达式10b)计算:
b’=mG/gainB   (表达式10b)。
在上述表达式中,gainR表示R像素的白平衡增益,gainB表示B像素的白平衡增益。
校正值计算单元502计算判定为紫边像素的关注像素的校正像素值r’、g’和b’,并且将校正像素值r’、g’和b’输出到混合处理单元503。
校正值计算单元502不计算判定为不是紫边像素的关注像素的校正像素值,并且将校正前的输入像素值无变化地输出到混合处理单元503。
混合处理单元503通过执行混合处理(加权相加)来计算最终像素值,并输出最终像素值,其中所述混合处理根据下面的(表达式11G)、(表达式11R)和(表达式11B)将由图像传感器410输出的输入像素值(r、g和b)与校正值计算单元502的输出信号在每个对应像素的位置处进行混合。
(1)当输出像素为G像素时,从图像传感器410输入的像素值g无变化地被设定为输出值G,如下面的(表达式11G)所示:
G=g   (表达式11G)。
(2)当输出像素为R像素时,输出值R根据下面的(表达式11R)计算:
R=(1-rate)×r+rate×r'   (表达式11R)。
(3)当输出像素为B像素时,输出值B根据下面的(表达式11B)计算:
B=(1-rate)×b+rate×b'   (表达式11B)。
上述(表达式11R)和(表达式11B)是用于计算作为通过如下假定而获得的混合处理(加权相加)的结果的输出值R和B的计算表达式:假定紫边校正后获得的像素值r’和b’的每个像素值的混合率(权重)为rate,并且假定来自图像传感器410的输出像素值r和b的每个混合率(权重)为(1-rate)。
由于伪彩色的强度与参考区域中的G像素动态范围Gd几乎成比例,所以根据下面的(表达式12)通过将G像素动态范围Gd归一化到0-1的范围所获得的值rate被设定为混合率:
rate=Wd/MAX   (表达式12)。
MAX表示G像素动态范围Gd的最大值。
也就是,执行应用图15中设定的混合率(rate)的混合处理。
因此,混合处理单元503通过以下处理中的一个来判定输出像素值:
(a)将从图像传感器410输入的G像素的像素值g无变化地设定为输出值G的处理;
(b1)通过根据基于参考区域的G像素动态范围Gd所判定的混合率,将图像传感器410的像素值r和b与由校正值计算单元502生成的像素值r’和b’混合来确定其中出现紫边的像素的输出像素值的处理;以及
(b2)将图像传感器410的像素值r和b设定为其中未出现紫边的R和B像素的像素的输出像素值的处理。
数据校正处理单元500减小紫边,生成具有RGB阵列的输出图像,并且将输出图像输出到RGB信号处理单元450。
图16中示出了由数据校正处理单元500执行的处理序列的流程图。
图16是数据校正处理单元500所执行的紫边的检测、校正值的计算和混合处理的流程图。下文中,将说明每个步骤的处理。
步骤S201、S202和S203是图12中所示的数据校正处理单元500的紫边检测单元501执行的处理。
首先,在步骤S201中,计算从包括要被校正的关注像素的参考区域形成的输入像素单元区域中的G像素的最大值和最小值之间的差,即G像素动态范围Gd。
在实施例中的上述示例中,输入像素单元区域是包括要被校正的关注像素的7×7像素区域。
获取包括在7×7像素区域中的G像素的最大值(Gmax)和最小值(Gmin)并且根据下面的表达式计算G像素动态范围Gd:
Gd=Gmax-Gmin。
接着,在步骤S202中,G像素动态范围Gd与阈值ThrG做比较,以判定G像素动态范围Gd是否大于阈值ThrG。
即,Gd>ThrG。
判定是否满足上述判定表达式。
阈值ThrG可以是固定值,也可以是可由用户设定的值,或者可被自动地计算。
如上参照图13(a)和13(b)所述,其中G像素动态范围Gd大于阈值ThrG的情况指示其中紫边的出现可能性高的区域。此外,其中G像素动态范围Gd不大于阈值ThrG的情况指示其中紫边的出现可能性低的区域。
当不满足判定表达式,即G像素动态范围Gd不大于阈值ThrG时,处理进行到步骤S207。
在步骤S207中,混合率rate被设定为0。也就是,在图12中所示的数据校正处理单元500的混合处理单元503中的用于计算输出像素值的混合处理中,计算输出像素值的校正值计算单元502的输出像素值的混合率被设定为0。
混合率rate是根据上述(表达式11R)和(表达式11B)设定的混合率。
也就是,当G像素动态范围Gd不大于阈值ThrG且该区域被判定为其中紫边的出现可能性小的区域时,在根据(表达式11R)和(表达式11B)设定的混合率rate=0的情况下,执行步骤S206的混合处理。
结果,当G像素动态范围Gd不大于阈值ThrG且该区域被判定为其中紫边的出现可能性小的区域时,图12中所示的数据校正处理单元500将从图像传感器410输入的像素值无改变地设定为输出像素值。
相反,当执行将G像素动态范围Gd与阈值ThrG作比较的处理时,即当在步骤S202中满足判定表达式Gd>ThrG时,处理进行到步骤S203。
其中满足判定表达式的情况是其中区域被判定为紫边的出现可能性高的区域的情况。
在该情况下,在步骤S203中,检查在输入像素单元区域中是否存在饱和的RGB像素。
在上述实施例中,输入像素单元区域是包括要被校正的关注像素的7×7像素区域。
判定包括在7×7像素区域中的RGB像素中是否存在饱和像素值。
当RGB像素中没有饱和像素时,处理进行到步骤S207并且混合率rate设定为0。也就是,在图12中所示的数据校正处理单元500的混合处理单元503中用于计算输出像素值的混合处理中,校正值计算单元502的输出像素值的混合率被设定为0。
混合率rate是根据上述(表达式11R)和(表达式11B)设定的混合率。
其中输入像素单元区域即参考区域中的RGB像素中没有一个饱和像素的情况是其中该区域是紫边出现区域的可能性被判定为低的情况。
在该情况下,通过将校正值计算单元502的输出像素值的混合率设定为0,根据上述(表达式11G)、(表达式11R)和(表达式11B)执行混合处理,将从图像传感器410输入的像素值无变化地设定为输出像素值。
相反,当在步骤S203中在输入像素单元区域中存在饱和RGB像素时,处理进行到步骤S204。
步骤S204和S205的处理是由图12中所示的数据校正处理单元500的校正值计算单元502执行的处理。
在步骤S204中,通过应用作为输入像素单元区域的参考区域的G像素值来计算G像素的低通信号。
该处理是通过应用根据像素阵列选择的LPF来执行的处理。
在步骤S205中,通过将G像素的低通信号乘以白平衡增益的倒数来计算校正值。具体而言,根据通过应用上述(表达式10g)、(表达式10r)、(表达式10b)转换之后获得的像素值的颜色来计算校正值。也就是,执行下列处理。
(1)当输出像素是G像素时,校正值g’根据下面的(表达式10g)计算:
g’=mG   (表达式10g)。
(2)当输出像素为R像素时,校正值r’根据下面的(表达式10r)计算:
r’=mG/gainR   (表达式10r)。
(3)当输出像素为B像素时,校正值b’根据下面的(表达式10b)计算:
b’=mG/gainB   (表达式10b)。
在上述表达式中,gainR表示R像素的白平衡增益,gainB表示B像素的白平衡增益。
步骤S206的处理是由图12中所示的数据校正处理单元500的混合处理单元503执行的处理。
在步骤S206中,根据混合率rate将图像传感器410的输出信号与校正值计算单元502的输出信号进行混合。
也就是,如上所述,根据下列计算表达是来计算输出像素值。
(a)当输出像素为G像素时,输出值G的计算表达式如下:
G=g   (表达式11G)。
(2)当输出像素为R像素时,输出值R的计算表达式如下:
R=(1-rate)×r+rate×r'   (表达式11R)。
(3)当输出像素为B像素时,输出值B的计算表达式如下:
B=(1-rate)×b+rate×b'   (表达式11B)。
根据这些表达式计算具有图12中所示的RGB阵列482的输出图像的输出像素值。
通过执行这些处理,可以生成如下RGB图像:其中因紫边引起的如伪彩色的像素值误差被减小。
具有图12中所示的数据校正处理单元500生成的RGB阵列482的图像被输入到图11中所示的RGB信号处理单元450。
RGB信号处理单元450执行与包括在根据现有技术的相机等中的信号处理单元的处理相同的处理。具体而言,通过执行去马赛克处理、白平衡调整处理、伽马校正处理等来生成彩色图像483。生成的彩色图像483被记录在存储器430中。
由于数据校正处理单元500的输入图像和输出图像的像素阵列在第四实施例的配置中是同一RGB阵列,所以与上述第一实施例不同,执行紫边校正,而不执行作为像素阵列转换处理的再马赛克处理,并且将校正后的RGB阵列图像输出到后级的RGB信号处理单元450。
【5.根据本公开的实施例的图像处理装置的处理的优点】
已经说明了根据本公开的多个实施例的图像处理装置。
在根据本公开的实施例的图像处理装置中,能够获得以下优点。
(a)能够减小因成像装置的镜头的色像差而出现的紫边。
(b)与使用昂贵镜头减小色像差的方法相比,能够低成本地减小紫边。
(c)由于可将校正处理应用至去马赛克之前的RAW数据(原始数据),所以,例如,可将校正处理单元嵌入在图像传感器中。
(d)能够将实施例应用至具有在彩色滤光器中包括白像素的RGBW阵列的图像。
例如,可获得这样的优点。
【6.根据本公开的实施例的配置的概述】
已经详细说明了本公开的具体实施例。然而,对于本领域的技术人员明显的是,在不背离本公开的精神的前提下,可在本公开的范围外对实施例进行修改或替换。即,由于本公开以示例形式进行了说明,所以本公开不应解释为限制。为了确定本公开的精神,应参照权利要求。
此外,本技术还可被如下配置。
(1)一种图像处理装置,包括:
数据转换处理单元,其接收RGBW阵列图像的输入并生成RGB阵列图像作为输出图像,
其中,所述数据转换处理单元包括:
像素插值单元,其通过对所述RGBW阵列图像执行像素插值处理来计算与所述RGB阵列图像的阵列对应的插值像素值r1、g1和b1,
紫边检测单元,其通过分析所述RGBW阵列图像来检测每个像素是否是紫边像素,
校正值计算单元,其通过校正所述紫边像素的像素值来计算校正像素值r2、g2和b2,以及
混合处理单元,其通过执行将由所述像素插值单元计算的所述插值像素值r1、g1和b1与由所述校正值计算单元计算的校正像素值r2、g2和b2进行混合的混合处理,计算所述输出图像的构成像素值RGB。
(2)根据(1)所述的图像处理装置,其中,所述紫边检测单元:
根据参考区域的W像素值计算W像素动态范围Wd,所述参考区域被设定在所述RGBW阵列图像中并且包括作为所述输出图像的所述构成像素值的计算目标像素的关注像素;以及
当所述W像素动态范围Wd比阈值ThrW大时,执行判定所述关注像素是紫边像素的可能性大的初始判定。
(3)根据(2)所述的图像处理装置,其中,当所述紫边检测单元在所述初始判定中判定所述关注像素是紫边像素的可能性大时,所述紫边检测单元验证所述参考区域中的RGB像素或RGBW像素中是否存在饱和像素,并且当存在饱和像素时执行判定所述关注像素是紫边像素的最终判定。
(4)根据(1)-(3)中的任一项所述的图像处理装置,其中,所述校正值计算单元:
根据用作参考区域的亮度信号主分量的彩色像素的像素值计算所述亮度信号主分量的低通信号,所述参考区域被设定在所述RGBW阵列图像中并且包括作为所述输出图像的构成像素值的计算目标像素的关注像素,以及
通过根据所述关注像素的转换后的颜色对所计算的所述亮度信号主分量的低通信号执行白平衡调整来计算所述校正像素值。
(5)根据(4)所述的图像处理装置,其中,用作所述亮度信号主分量的所述彩色像素为W像素或G像素。
(6)根据(1)-(5)中的任一项所述的图像处理装置,其中,所述混合处理单元根据从参考区域的W像素值计算的W像素动态范围Wd计算混合率,并且根据所计算的混合率执行所述混合处理,所述参考区域被设定在所述RGBW阵列图像中并且包括作为所述输出图像的构成像素值的计算目标像素的关注像素。
(7)根据(1)-(6)中的任一项所述的图像处理装置,其中,当所述参考区域的W像素动态范围Wd较大时,所述混合处理单元通过将由所述校正值计算单元计算的所述校正像素值r2、g2和b2的贡献率设定为比由所述像素插值单元计算的插值像素值r1、g1和b1的贡献率大来执行所述混合处理,并且计算所述输出图像的所述构成像素值RGB。
(8)根据(1)-(7)中的任一项所述的图像处理装置,其中,所述混合处理单元通过按照下面的表达式应用所述参考区域的W像素动态范围Wd和所述W像素动态范围Wd的最大值MAX来计算由所述校正值计算单元计算的校正像素值r2、g2和b2的混合率rate:
rate=Wd/MAX。
(9)根据(1)-(8)中的任一项所述的图像处理装置,其中,所述混合处理单元通过将由所述校正值计算单元计算的所述校正像素值r2、g2和b2的混合率rate设定为1.0来对被所述紫边检测单元判定为紫边像素的像素执行所述混合处理,并且将所述校正像素值r2、g2和b2输出作为所述输出图像的所述构成像素值RGB。
(10)一种图像处理装置,包括:
数据校正处理单元,其接收RGB阵列图像的输入作为输入图像并通过执行像素值校正处理来生成校正图像,
其中,所述数据校正处理单元包括:
紫边检测单元,其分析所述输入图像以检测每个像素是否是紫边像素,
校正值计算单元,其通过对所述紫边像素执行像素值校正来计算校正像素值r2、g2和b2,以及
混合处理单元,其通过执行将所述输入图像的像素值r1、g1和b1与由所述校正值计算单元计算的所述校正像素值r2、g2和b2进行混合的混合处理,计算所述校正图像的构成像素值RGB。
(11)根据(10)所述的图像处理装置,其中,所述紫边检测单元:
根据参考区域的G像素值计算G像素动态范围Gd,所述参考区域被设定在所述输入图像中并且包括作为所述校正图像的所述构成像素值的计算目标像素的关注像素;以及
当所述G像素动态范围Gd比阈值ThrG大时,执行判定所述关注像素是紫边像素的可能性大的初始判定。
(12)根据(11)所述的图像处理装置,其中,当所述紫边检测单元在所述初始判定中判定所述关注像素是紫边像素的可能性大时,所述紫边检测单元验证所述参考区域中的RGB像素中是否存在饱和像素,并且当存在饱和像素时执行判定所述关注像素是紫边像素的最终判定。
(13)根据(10)-(12)中的任一项所述的图像处理装置,其中,所述校正值计算单元:
根据参考区域的G像素的像素值计算G低通信号,所述参考区域被设定在所述输入图像中并且包括作为所述校正图像的构成像素值的计算目标像素的关注像素,以及
通过根据所述关注像素的转换后的颜色对所计算的G低通信号执行白平衡调整来计算所述校正像素值。
(14)根据(10)-(13)中的任一项所述的图像处理装置,其中,所述混合处理单元根据从参考区域的G像素值计算的G像素动态范围Gd计算混合率,并且根据所计算的混合率执行所述混合处理,所述参考区域被设定在所述输入图像中并且包括作为所述校正图像的构成像素值的计算目标像素的关注像素。
(15)根据(10)-(14)中的任一项所述的图像处理装置,其中,当所述参考区域的G像素动态范围Gd较大时,所述混合处理单元通过将由所述校正值计算单元计算的所述校正像素值r2、g2和b2的贡献率设定为比所述输入图像的所述像素值r1、g1和b1的贡献率大来执行所述混合处理,并且计算所述校正图像的所述构成像素值RGB。
(16)根据(10)-(15)中的任一项所述的图像处理装置,其中,所述混合处理单元通过按照下面的表达式应用所述参考区域的G像素动态范围Gd和所述G像素动态范围Gd的最大值MAX来计算由所述校正值计算单元计算的所述校正像素值r2、g2和b2的混合率rate:
rate=Gd/MAX。
此外,在上述设备或系统中的执行的处理的方法、用于执行处理的程序和其上记录有程序的记录介质均包括在根据本公开的实施例的配置中。
此外,在说明书中所述的处理序列可由硬件、软件以及组合硬件和软件的配置实施。在由软件实施处理的情况下,可将其中编码处理序列的程序安装在结合进专用硬件的计算机中的存储器中并执行该程序。还可将程序安装在能够执行各种处理的通用计算机中并且执行该程序。例如,程序可以预先安装在存储介质中。程序除了被从存储介质安装到计算机中之外,还可通过网络诸如局域网(LAN)或因特网被接收,并且可安装在嵌入在计算机中的如硬盘等的存储介质中。
应当注意,根据执行处理的装置的处理能力或根据需要,本说明书中所述的各种处理不仅可以如所述按照时间顺序执行,也可以并列或独立地执行。此外,本说明书中的系统不限于逻辑上结合多个装置的配置,所有的装置可容纳在同一外壳内。
如上所述,根据本公开的实施例,实现了一种用于校正从图像传感器输出的马赛克图像的紫边的装置和方法。
具体而言,例如设置有:像素插值单元,其通过对RGBW阵列图像执行像素插值处理来计算RGB阵列图像的插值像素值;紫边检测单元,其从RGBW阵列图像检测紫边像素;校正值计算单元,其通过校正所述紫边像素的像素值来计算校正像素值;以及混合处理单元,其通过将由所述像素插值单元计算的插值像素值与由所述校正值计算单元计算的校正像素值进行混合来计算输出图像的构成像素值RGB。当参考区域的W像素动态范围大于预先定义的阈值并且参考区域中存在饱和RGB像素或饱和RGBW像素时,紫边检测单元判定关注像素为紫边像素。
通过执行这样的处理,能够实现对从图像传感器输出的马赛克图像以高精度检测紫边像素,并且生成其中紫边的影响减少的高品质图像。
本领域的普通技术人员应当理解的是,根据设计需要和其它因素,可进行各种修改、组合、子组合和替换,只要它们在随附的权利要求及其等同的范围内。
本公开包含与在2012年4月12日提交日本专利局的日本在先专利申请JP2012-090748中公开的主题相关的主题,其全部内容通过引用合并在此。

Claims (20)

1.一种图像处理装置,包括:
数据转换处理单元,其接收RGBW阵列图像的输入并生成RGB阵列图像作为输出图像,
其中,所述数据转换处理单元包括:
像素插值单元,其通过对所述RGBW阵列图像执行像素插值处理来计算与所述RGB阵列图像的阵列对应的插值像素值r1、g1和b1,
紫边检测单元,其通过分析所述RGBW阵列图像来检测每个像素是否是紫边像素,
校正值计算单元,其通过校正所述紫边像素的像素值来计算校正像素值r2、g2和b2,以及
混合处理单元,其通过执行将由所述像素插值单元计算的所述插值像素值r1、g1和b1与由所述校正值计算单元计算的校正像素值r2、g2和b2进行混合的混合处理,计算所述输出图像的构成像素值RGB。
2.根据权利要求1所述的图像处理装置,其中,所述紫边检测单元:
根据参考区域的W像素值计算W像素动态范围Wd,所述参考区域被设定在所述RGBW阵列图像中并且包括作为所述输出图像的所述构成像素值的计算目标像素的关注像素;以及
当所述W像素动态范围Wd比阈值ThrW大时,执行判定所述关注像素是紫边像素的可能性大的初始判定。
3.根据权利要求2所述的图像处理装置,其中,当所述紫边检测单元在所述初始判定中判定所述关注像素是紫边像素的可能性大时,所述紫边检测单元验证所述参考区域中的RGB像素或RGBW像素中是否存在饱和像素,并且当存在饱和像素时执行判定所述关注像素是紫边像素的最终判定。
4.根据权利要求1所述的图像处理装置,其中,所述校正值计算单元:
根据用作参考区域的亮度信号主分量的彩色像素的像素值计算所述亮度信号主分量的低通信号,所述参考区域被设定在所述RGBW阵列图像中并且包括作为所述输出图像的构成像素值的计算目标像素的关注像素,以及
通过根据所述关注像素的转换后的颜色对所计算的所述亮度信号主分量的低通信号执行白平衡调整来计算所述校正像素值。
5.根据权利要求4所述的图像处理装置,其中,用作所述亮度信号主分量的所述彩色像素为W像素或G像素。
6.根据权利要求1所述的图像处理装置,其中,所述混合处理单元根据从参考区域的W像素值计算的W像素动态范围Wd计算混合率,并且根据所计算的混合率执行所述混合处理,所述参考区域被设定在所述RGBW阵列图像中并且包括作为所述输出图像的构成像素值的计算目标像素的关注像素。
7.根据权利要求1所述的图像处理装置,其中,当所述参考区域的W像素动态范围Wd较大时,所述混合处理单元通过将由所述校正值计算单元计算的所述校正像素值r2、g2和b2的贡献率设定为比由所述像素插值单元计算的插值像素值r1、g1和b1的贡献率大来执行所述混合处理,并且计算所述输出图像的所述构成像素值RGB。
8.根据权利要求1所述的图像处理装置,其中,所述混合处理单元通过按照下面的表达式应用所述参考区域的W像素动态范围Wd和所述W像素动态范围Wd的最大值MAX来计算由所述校正值计算单元计算的校正像素值r2、g2和b2的混合率rate:
rate=Wd/MAX。
9.根据权利要求1所述的图像处理装置,其中,所述混合处理单元通过将由所述校正值计算单元计算的所述校正像素值r2、g2和b2的混合率rate设定为1.0来对被所述紫边检测单元判定为紫边像素的像素执行所述混合处理,并且将所述校正像素值r2、g2和b2输出作为所述输出图像的所述构成像素值RGB。
10.一种图像处理装置,包括:
数据校正处理单元,其接收RGB阵列图像的输入作为输入图像并通过执行像素值校正处理来生成校正图像,
其中,所述数据校正处理单元包括:
紫边检测单元,其分析所述输入图像以检测每个像素是否是紫边像素,
校正值计算单元,其通过对所述紫边像素执行像素值校正来计算校正像素值r2、g2和b2,以及
混合处理单元,其通过执行将所述输入图像的像素值r1、g1和b1与由所述校正值计算单元计算的所述校正像素值r2、g2和b2进行混合的混合处理,计算所述校正图像的构成像素值RGB。
11.根据权利要求10所述的图像处理装置,其中,所述紫边检测单元:
根据参考区域的G像素值计算G像素动态范围Gd,所述参考区域被设定在所述输入图像中并且包括作为所述校正图像的所述构成像素值的计算目标像素的关注像素;以及
当所述G像素动态范围Gd比阈值ThrG大时,执行判定所述关注像素是紫边像素的可能性大的初始判定。
12.根据权利要求11所述的图像处理装置,其中,当所述紫边检测单元在所述初始判定中判定所述关注像素是紫边像素的可能性大时,所述紫边检测单元验证所述参考区域中的RGB像素中是否存在饱和像素,并且当存在饱和像素时执行判定所述关注像素是紫边像素的最终判定。
13.根据权利要求10所述的图像处理装置,其中,所述校正值计算单元:
根据参考区域的G像素的像素值计算G低通信号,所述参考区域被设定在所述输入图像中并且包括作为所述校正图像的构成像素值的计算目标像素的关注像素,以及
通过根据所述关注像素的转换后的颜色对所计算的G低通信号执行白平衡调整来计算所述校正像素值。
14.根据权利要求10所述的图像处理装置,其中,所述混合处理单元根据从参考区域的G像素值计算的G像素动态范围Gd计算混合率,并且根据所计算的混合率执行所述混合处理,所述参考区域被设定在所述输入图像中并且包括作为所述校正图像的构成像素值的计算目标像素的关注像素。
15.根据权利要求10所述的图像处理装置,其中,当所述参考区域的G像素动态范围Gd较大时,所述混合处理单元通过将由所述校正值计算单元计算的所述校正像素值r2、g2和b2的贡献率设定为比所述输入图像的所述像素值r1、g1和b1的贡献率大来执行所述混合处理,并且计算所述校正图像的所述构成像素值RGB。
16.根据权利要求10所述的图像处理装置,其中,所述混合处理单元通过按照下面的表达式应用所述参考区域的G像素动态范围Gd和所述G像素动态范围Gd的最大值MAX来计算由所述校正值计算单元计算的所述校正像素值r2、g2和b2的混合率rate:
rate=Gd/MAX。
17.一种由图像处理装置执行的图像处理方法,所述方法包括:
由数据转换处理单元执行接收RGBW阵列图像的输入并生成RGB阵列图像作为输出图像的数据转换处理,
其中,所述数据转换处理包括:
通过对所述RGBW阵列图像执行像素插值处理来计算与所述RGB阵列图像的阵列对应的插值像素值r1、g1和b1,
通过分析所述RGBW阵列图像来检测每个像素是否是紫边像素,
通过校正所述紫边像素的像素值来计算校正像素值r2、g2和b2,以及
通过执行将在计算插值像素值的处理中计算的所述插值像素值r1、g1和b1与在计算校正值的处理中计算的所述校正像素值r2、g2和b2进行混合的混合处理,计算所述输出图像的构成像素值RGB。
18.根据权利要求17所述的图像处理方法,其中,所述检测紫边的处理包括:
根据参考区域的W像素值来计算W像素动态范围Wd,所述参考区域被设定在所述RGBW阵列图像中并且包括作为所述输出图像的所述构成像素值的计算目标像素的关注像素;以及
当所述W像素动态范围Wd比阈值ThrW大时,执行判定所述关注像素是紫边像素的可能性大的初始判定。
19.一种使图像处理装置执行图像处理的程序,所述程序使得数据转换处理单元执行接收RGBW阵列图像的输入并生成RGB阵列图像作为输出图像的数据转换处理,
其中,在所述数据转换处理中,所述程序使得下列处理被执行:
通过对所述RGBW阵列图像执行像素插值处理来计算与所述RGB阵列图像的阵列对应的插值像素值r1、g1和b1,
通过分析所述RGBW阵列图像来检测每个像素是否是紫边像素,
通过校正所述紫边像素的像素值来计算校正像素值r2、g2和b2,以及
通过执行将在计算插值像素值的处理中计算的所述插值像素值r1、g1和b1与在计算校正值的处理中计算的所述校正像素值r2、g2和b2进行混合的混合处理,计算所述输出图像的构成像素值RGB。
20.根据权利要求19所述的程序,其中,在检测紫边的处理中,所述程序使得下列处理被执行:
根据参考区域的W像素值计算W像素动态范围Wd,所述参考区域被设定在所述RGBW阵列图像中并且包括作为所述输出图像的所述构成像素值的计算目标像素的关注像素;以及
当所述W像素动态范围Wd比阈值ThrW大时,执行判定所述关注像素是紫边像素的可能性大的初始判定。
CN2013101163675A 2012-04-12 2013-04-03 图像处理装置、图像处理方法和程序 Pending CN103379343A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2012-090748 2012-04-12
JP2012090748A JP2013219705A (ja) 2012-04-12 2012-04-12 画像処理装置、および画像処理方法、並びにプログラム

Publications (1)

Publication Number Publication Date
CN103379343A true CN103379343A (zh) 2013-10-30

Family

ID=49325148

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2013101163675A Pending CN103379343A (zh) 2012-04-12 2013-04-03 图像处理装置、图像处理方法和程序

Country Status (3)

Country Link
US (1) US9147230B2 (zh)
JP (1) JP2013219705A (zh)
CN (1) CN103379343A (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106251298A (zh) * 2016-07-22 2016-12-21 华为技术有限公司 处理图像的方法和装置
CN106657946A (zh) * 2017-01-12 2017-05-10 深圳岚锋创视网络科技有限公司 图像紫边消除系统和方法
CN109636753A (zh) * 2018-12-11 2019-04-16 珠海奔图电子有限公司 图像处理方法和装置、电子设备及计算机可读存储介质
CN111340734A (zh) * 2020-03-02 2020-06-26 浙江大学 一种利用卷积神经网络模型的图像紫边校正方法
CN111353960A (zh) * 2020-03-02 2020-06-30 浙江大学 一种基于区域生长与交叉通道信息的图像紫边校正方法
CN111970449A (zh) * 2020-08-27 2020-11-20 豪威科技(武汉)有限公司 图像处理方法、装置、终端及计算机可读存储介质
CN112468789A (zh) * 2021-02-02 2021-03-09 湖北芯擎科技有限公司 Raw图像转换电路及raw图像转换方法
CN113793249A (zh) * 2021-08-09 2021-12-14 深圳曦华科技有限公司 一种Pentile图像转换为RGB图像的方法、装置及存储介质

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2861220C (en) 2012-01-24 2020-02-11 Sony Corporation Image processing apparatus and image processing method, and program
JP5935876B2 (ja) 2012-03-27 2016-06-15 ソニー株式会社 画像処理装置、撮像素子、および画像処理方法、並びにプログラム
US9401012B2 (en) * 2012-10-18 2016-07-26 Athentech Technologies Inc. Method for correcting purple distortion in digital images and a computing device employing same
KR102025184B1 (ko) * 2013-07-31 2019-09-25 엘지디스플레이 주식회사 데이터 변환 장치 및 이를 이용한 디스플레이 장치
KR101566201B1 (ko) 2013-11-04 2015-11-05 에스케이하이닉스 주식회사 Wrgb-rgb 변환 방법 및 그 처리 장치
US9520077B2 (en) * 2014-05-29 2016-12-13 Shenzhen China Star Optoelectronics Technology Co., Ltd Four color converter, display apparatus and method for converting three color data to four color data
US10594996B2 (en) 2014-09-24 2020-03-17 Sony Semiconductor Solutions Corporation Image processing apparatus, image pickup device, image pickup apparatus, and image processing method
US10110825B2 (en) 2014-12-18 2018-10-23 Sony Semiconductor Solutions Corporation Imaging apparatus, imaging method, and program
WO2016136501A1 (ja) 2015-02-26 2016-09-01 ソニー株式会社 撮像装置、撮像方法、およびプログラム
KR102329440B1 (ko) 2015-10-01 2021-11-19 에스케이하이닉스 주식회사 칼라 필터 어레이의 변환 방법 및 장치
KR102519288B1 (ko) 2015-10-27 2023-04-07 삼성전자주식회사 콘텐츠 에코시스템에서 콘텐츠의 명암비 제어 장치 및 방법
CN108702494B (zh) 2016-03-09 2020-12-04 索尼公司 图像处理装置、成像装置、图像处理方法和存储介质
CN106780324B (zh) * 2016-11-28 2020-06-09 北京航天泰坦科技股份有限公司 一种正射影像镶嵌的接边纠正方法
CN107219629B (zh) * 2017-07-14 2021-01-08 惠州Tcl移动通信有限公司 采用rgb叠加防vr设备色散的方法、存储介质及设备
JP6980492B2 (ja) 2017-11-13 2021-12-15 キヤノン株式会社 撮像装置及び撮像システム
JP6953297B2 (ja) * 2017-12-08 2021-10-27 キヤノン株式会社 撮像装置及び撮像システム
CN111163301B (zh) * 2018-11-07 2021-04-20 浙江宇视科技有限公司 色彩调整方法、装置及计算机可读存储介质
JP7115241B2 (ja) * 2018-11-16 2022-08-09 セイコーエプソン株式会社 画像変換装置および画像変換方法
WO2023276249A1 (ja) * 2021-06-29 2023-01-05 ソニーグループ株式会社 画像処理装置、撮像装置、画像処理方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09163162A (ja) * 1995-12-08 1997-06-20 Canon Inc 画像処理方法及び装置
FR2827459B1 (fr) * 2001-07-12 2004-10-29 Poseidon Procede et systeme pour fournir a des logiciels de traitement d'image des informations formatees liees aux caracteristiques des appareils de capture d'image et/ou des moyens de restitution d'image
JP4479457B2 (ja) 2004-05-27 2010-06-09 ソニー株式会社 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JP4487902B2 (ja) * 2005-11-09 2010-06-23 ソニー株式会社 画像処理装置および方法、並びにプログラム
US7577292B2 (en) * 2005-12-30 2009-08-18 Microsoft Corporation Automatic removal of purple fringing from images
KR100866490B1 (ko) * 2007-01-17 2008-11-03 삼성전자주식회사 영상의 색 수차를 보정하기 위한 장치 및 방법
JP4930109B2 (ja) * 2007-03-06 2012-05-16 ソニー株式会社 固体撮像装置、撮像装置
JP5349790B2 (ja) 2007-11-16 2013-11-20 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム
KR101460610B1 (ko) * 2008-07-30 2014-11-13 삼성전자주식회사 색수차 제거 방법 및 장치
JP4683121B2 (ja) 2008-12-08 2011-05-11 ソニー株式会社 固体撮像装置、固体撮像装置の信号処理方法および撮像装置
KR101000623B1 (ko) * 2008-12-31 2010-12-10 포항공과대학교 산학협력단 색수차 검출 및 보정 방법, 이를 이용한 영상 처리 장치 및그 방법
JP5326943B2 (ja) * 2009-08-31 2013-10-30 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
US8830256B2 (en) * 2009-12-23 2014-09-09 Samsung Display Co., Ltd. Color correction to compensate for displays' luminance and chrominance transfer characteristics
JP5724185B2 (ja) 2010-03-04 2015-05-27 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
JP4904440B2 (ja) * 2010-03-25 2012-03-28 富士フイルム株式会社 画像処理方法および装置,ならびに画像処理プログラムおよびこのプログラムを記録した媒体
JP5577939B2 (ja) * 2010-08-20 2014-08-27 ソニー株式会社 撮像装置、収差補正方法、および、プログラム
JP2012105225A (ja) * 2010-11-12 2012-05-31 Sony Corp 画像処理装置、撮像装置、および画像処理方法、並びにプログラム
CN103430551B (zh) * 2011-01-14 2017-06-09 索尼公司 使用具有纵色像差的透镜单元的成像系统及其操作方法

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106251298B (zh) * 2016-07-22 2020-03-31 华为技术有限公司 处理图像的方法和装置
CN106251298A (zh) * 2016-07-22 2016-12-21 华为技术有限公司 处理图像的方法和装置
US11050985B2 (en) 2017-01-12 2021-06-29 Arashi Vision Inc. Image purple fringe eliminating system, method, computer-readable storage medium, and photographing device
CN106657946A (zh) * 2017-01-12 2017-05-10 深圳岚锋创视网络科技有限公司 图像紫边消除系统和方法
CN109636753A (zh) * 2018-12-11 2019-04-16 珠海奔图电子有限公司 图像处理方法和装置、电子设备及计算机可读存储介质
CN111340734A (zh) * 2020-03-02 2020-06-26 浙江大学 一种利用卷积神经网络模型的图像紫边校正方法
CN111353960A (zh) * 2020-03-02 2020-06-30 浙江大学 一种基于区域生长与交叉通道信息的图像紫边校正方法
CN111340734B (zh) * 2020-03-02 2022-03-29 浙江大学 一种利用卷积神经网络模型的图像紫边校正方法
CN111353960B (zh) * 2020-03-02 2022-04-26 浙江大学 一种基于区域生长与交叉通道信息的图像紫边校正方法
CN111970449A (zh) * 2020-08-27 2020-11-20 豪威科技(武汉)有限公司 图像处理方法、装置、终端及计算机可读存储介质
CN111970449B (zh) * 2020-08-27 2022-03-29 豪威科技(武汉)有限公司 图像处理方法、装置、终端及计算机可读存储介质
CN112468789A (zh) * 2021-02-02 2021-03-09 湖北芯擎科技有限公司 Raw图像转换电路及raw图像转换方法
CN112468789B (zh) * 2021-02-02 2021-04-23 湖北芯擎科技有限公司 Raw图像转换电路及raw图像转换方法
CN113793249A (zh) * 2021-08-09 2021-12-14 深圳曦华科技有限公司 一种Pentile图像转换为RGB图像的方法、装置及存储介质
CN113793249B (zh) * 2021-08-09 2023-12-08 深圳曦华科技有限公司 Pentile图像转换RGB图像的方法及相关设备

Also Published As

Publication number Publication date
US20130272605A1 (en) 2013-10-17
US9147230B2 (en) 2015-09-29
JP2013219705A (ja) 2013-10-24

Similar Documents

Publication Publication Date Title
CN103379343A (zh) 图像处理装置、图像处理方法和程序
CN109076169B (zh) 捕获彩色图像数据的方法、装置及计算机可读媒体
CN102273208B (zh) 图像处理设备和图像处理方法
EP3509034B1 (en) Image filtering based on image gradients
US8199229B2 (en) Color filter, image processing apparatus, image processing method, image-capture apparatus, image-capture method, program and recording medium
JP4709084B2 (ja) 画像処理装置及び画像処理方法
CN102984527A (zh) 图像处理装置、图像处理方法、信息记录介质和程序
FI115942B (fi) Menetelmä kuvien interpoloimiseksi ja terävöittämiseksi
JP5672776B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
CN102970459A (zh) 图像处理设备、摄像设备和图像处理方法
US20050225807A1 (en) Methods and systems for anti shading correction in image sensors
JP5840008B2 (ja) 画像処理装置、画像処理方法およびプログラム
US8463068B2 (en) Methods, systems and apparatuses for pixel value correction using multiple vertical and/or horizontal correction curves
WO2005112470A1 (ja) 画像処理装置および画像処理プログラム
US9264635B2 (en) Image processing apparatus, image processing method, and imaging apparatus
CN111711755B (zh) 图像处理方法及装置、终端和计算机可读存储介质
CN103517004B (zh) 修正图像系统的渐晕的方法及装置
US9443290B2 (en) Defringing RAW images
JP6282123B2 (ja) 画像処理装置、画像処理方法及びプログラム
CN104410786A (zh) 图像处理设备和图像处理设备的控制方法
JP5479187B2 (ja) 画像処理装置及びそれを用いた撮像装置
US9373158B2 (en) Method for reducing image artifacts produced by a CMOS camera
CN109565556A (zh) 图像处理装置、图像处理方法和程序
US8953069B2 (en) Image capturing module and image capturing apparatus with multiple image capturing systems of multiple wavelength regions
US20090244321A1 (en) Multi-segment reading ccd correcting apparatus and method

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C02 Deemed withdrawal of patent application after publication (patent law 2001)
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20131030