CN103733608B - 图像处理设备及其控制方法 - Google Patents
图像处理设备及其控制方法 Download PDFInfo
- Publication number
- CN103733608B CN103733608B CN201280038880.0A CN201280038880A CN103733608B CN 103733608 B CN103733608 B CN 103733608B CN 201280038880 A CN201280038880 A CN 201280038880A CN 103733608 B CN103733608 B CN 103733608B
- Authority
- CN
- China
- Prior art keywords
- pixel
- signal level
- color
- defect pixel
- described defect
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 73
- 238000012545 processing Methods 0.000 title claims description 68
- 230000007547 defect Effects 0.000 claims description 163
- 238000012937 correction Methods 0.000 claims description 87
- 239000003086 colorant Substances 0.000 claims description 12
- 238000004364 calculation method Methods 0.000 claims description 5
- 230000002950 deficient Effects 0.000 abstract description 15
- 238000010586 diagram Methods 0.000 description 7
- 239000000284 extract Substances 0.000 description 6
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 5
- 230000001502 supplementing effect Effects 0.000 description 4
- 239000007787 solid Substances 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 241001269238 Data Species 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/68—Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2209/00—Details of colour television systems
- H04N2209/04—Picture signal generators
- H04N2209/041—Picture signal generators using solid-state devices
- H04N2209/042—Picture signal generators using solid-state devices having a single pick-up sensor
- H04N2209/045—Picture signal generators using solid-state devices having a single pick-up sensor using mosaic colour filter
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Color Television Image Signal Generators (AREA)
Abstract
判断穿过缺陷像素并且配置用于计算所述缺陷像素的信号水平的像素的方向。获取如下的信号水平之间的比:与所述缺陷像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平;以及与沿着所判断出的方向相对于所述缺陷像素进行配置且颜色与所述缺陷像素相同的像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平。输出通过将用于计算所述缺陷像素的信号水平的像素的信号水平的平均值乘以所计算出的比而获得的值,作为所述缺陷像素的信号水平。
Description
技术领域
本发明涉及一种图像处理设备及其控制方法,尤其涉及对所拍摄图像进行处理的图像处理设备及其控制方法。
背景技术
诸如数字照相机和摄像机等的传统摄像装置通常使用诸如CCD图像传感器和CMOS图像传感器等的固态图像传感器。固态图像传感器可能包括制造过程中出现的缺陷像素。这种缺陷像素是导致所拍摄图像的质量降低及固态图像传感器的制造成品率降低的原因之一。
为了抑制由缺陷像素所导致的图像质量的降低,已建议使用其它正常像素的像素信号来补充与缺陷像素相对应的像素信号。日本特开2008-263521号公报建议了一种根据像素的输出之间的比来从像素对之中选择一对像素的方法,其中各像素对被配置为夹持缺陷像素并且沿着0°、45°、90°和135°四个方向与缺陷像素邻接,并且使用所选择对的像素信号的平均值作为缺陷像素的输出信号。
然而,利用日本特开2008-263521号公报的使用从夹持缺陷像素的沿着0°、45°、90°和135°四个方向的像素对中所选择一对像素来校正缺陷像素的方法,存在经由补充处理所获取到的像素校正值的精度不一定足够的情况。
发明内容
本发明是考虑到传统技术所具有的上述问题而想到的,并且提供了一种能够实现用于校正缺陷像素的像素校正值的精度的进一步提高的图像处理设备以及该图像处理设备的控制方法。
根据本发明的一个方面,提供了一种图像处理设备,用于校正图像数据中所包括的缺陷像素的信号水平,所述图像数据是利用设置有规则地排列多个特定颜色的颜色滤波器的图像传感器所拍摄的,所述图像处理设备包括:判断部件,用于基于各自位于夹持所述缺陷像素的位置并且颜色与所述缺陷像素相同的多个像素对的信号水平的差,来判断穿过所述缺陷像素并且配置有用于计算所述缺陷像素的信号水平的像素的方向;比计算部件,用于计算如下的信号水平之间的比:与所述缺陷像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平;以及与相对于所述缺陷像素沿着所述判断部件所判断出的方向进行配置且颜色与所述缺陷像素相同的像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平;以及第一校正处理部件,用于输出通过将相对于所述缺陷像素沿着所述判断部件所判断出的方向进行配置且颜色与所述缺陷像素相同的像素的信号水平的平均值乘以所述比计算部件所计算出的比而获得的值,作为所述缺陷像素的信号水平。
根据本发明的另一个方面,提供了一种图像处理设备的控制方法,其中所述图像处理设备用于校正图像传感器的缺陷像素的信号水平,所述图像传感器设置有规则地排列多个特定颜色的颜色滤波器,所述缺陷像素包括在利用所述图像传感器所拍摄的图像数据中,所述控制方法包括以下步骤:判断步骤,用于基于各自位于夹持所述缺陷像素的位置并且颜色与所述缺陷像素相同的多个像素对的信号水平的差,来判断穿过所述缺陷像素并且配置有用于计算所述缺陷像素的信号水平的像素的方向;比计算步骤,用于计算如下的信号水平之间的比:与所述缺陷像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平;以及与相对于所述缺陷像素沿着所述判断步骤所判断出的方向进行配置且颜色与所述缺陷像素相同的像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平;以及第一校正处理步骤,用于输出通过将相对于所述缺陷像素沿着所述判断步骤所判断出的方向进行配置且颜色与所述缺陷像素相同的像素的信号水平的平均值乘以所述比计算步骤所计算出的比而获得的值,作为所述缺陷像素的信号水平。
通过以下参考附图对典型实施例的说明,本发明的其它特征将变得明显。
附图说明
图1是示意性地示出与本发明第一实施例有关的图像处理设备的功能结构的示例的框图。
图2是用于说明图1所示的图像处理设备的操作的流程图。
图3A是用于说明像素排列的示例和方向判断单元的示例的图。
图3B是用于说明水平比计算单元的操作的图。
图4是示意性地示出与本发明第二实施例有关的图像处理设备的功能结构的示例的框图。
图5是示意性地示出图4所示的像素校正处理单元的功能结构的示例的框图。
图6是用于说明图4所示的图像处理设备的操作的流程图。
图7是用于说明图6的S1001中计算像素校正值的处理的详细内容的流程图。
图8A是用于说明与本发明第二实施例有关的加权系数α1的示例的图。
图8B是用于说明与本发明第二实施例有关的加权系数α2的示例的图。
具体实施方式
将参照附图详细描述本发明的优选实施例。
第一实施例
图1是示意性地示出与本发明第一实施例有关的图像处理设备的功能结构的示例的框图。这里,应该注意,图1所示的功能块可通过计算机执行软件或者通过硬件逻辑来实现。图像处理设备可以通过例如中央处理单元(CPU)经由控制程序的执行控制通用计算机的硬件(例如,存储装置和接口)来实现。
下述说明是在如下的前提下给出的:图像处理设备100能够判断构成输入图像数据的多个像素数据中的与缺陷像素相对应的像素数据。例如,图像处理设备100预先设置有与拍摄输入图像数据的图像传感器的缺陷像素的坐标有关的信息。可选地,图像处理设备100可以获得输入图像数据中作为辅助信息所包括的缺陷像素的位置信息。
在本实施例中,使用设置有原色拜耳滤波器的图像传感器来拍摄输入图像数据。原色拜耳滤波器为红色(R)、绿色(G)和蓝色(B)的马赛克滤波器,这些滤波器按照如下方式进行配置:在水平方向和垂直方向这两者上,两个相同颜色的滤波器以其间夹持一个不同颜色的像素的方式彼此邻接配置。
方向判断单元101基于多个像素对的信号水平的差来判断如下的方向,其中该方向穿过缺陷像素且沿着该方向配置用于计算缺陷像素的信号水平的像素,各像素对被配置于夹持缺陷像素的位置并且其颜色与缺陷像素相同。
信号水平比计算单元102获取以下的信号水平之间的比率:
·与缺陷像素邻接并且颜色与缺陷像素不同的像素的信号水平;以及
·与如下的像素邻接并且颜色与缺陷像素不同的像素的信号水平,其中所述像素位于缺陷像素周围并且颜色与缺陷像素相同。
第一校正处理单元103通过将位于缺陷像素周围并且颜色与缺陷像素相同的像素的信号水平的平均值乘以信号水平比计算单元102所计算出的比,来计算用作缺陷像素的信号水平的像素校正数据。
下面将参照图2的流程图来更详尽地说明图1所示的各单元的操作的详细内容。注意,下面的描述是在输入具有图3A所示的颜色排列的图像数据且红色像素R4是缺陷像素800的假设下给出的。在图3A中,B代表蓝色像素,并且G0~G23代表绿色像素。实际上,通常的情况是以重复方式来进行相似的像素排列。然而,图3A仅示出包括位于缺陷像素周围的像素的图像数据的一部分以便于本发明的理解和说明。
首先,图像处理设备100接收根据拜耳排列来配置红色像素、蓝色像素和绿色像素的图像数据的输入(S501)。这里,图像数据可以是来自诸如半导体存储卡等的可移除记录介质或者经由网络的输入。可选地,在与本实施例有关的图像处理设备内置于摄像装置内的情况下,可以通过摄像装置来拍摄输入图像数据。
方向判断单元101从输入图像数据获得位于缺陷像素800周围并且颜色与缺陷像素800相同的像素R0、R1、R2、R3、R5、R6、R7和R8的信号水平。这里,“位于缺陷像素‘周围’并且颜色与缺陷像素相同的像素”代表如下的像素,其中这些像素是以缺陷像素为这些像素的中心沿着穿过缺陷像素的诸如水平方向(0°)、垂直方向(90°)、45°方向和135°方向等的方向与缺陷像素邻接并且颜色与缺陷像素相同的像素。
然后,方向判断单元101针对各方向,获取邻接像素之间的差的绝对值。更具体地,方向判断单元101获取像素R0和R8之间的差的绝对值|R0-R8|、像素R1和R7之间的差的绝对值|R1-R7|、像素R2和R6之间的差的绝对值|R2-R6|、以及像素R3和R5之间的差的绝对值|R3-R5|。
方向判断单元101将差具有最小绝对值的邻接像素对所配置的方向判断为方向判断结果801。在图3A的示例中,像素R2和R6之间的差的绝对值|R2-R6|最小,因此将45°获得作为方向判断结果。方向判断单元101输出表示方向判断结果801的方向判断信息(S502)。
应该注意,还可以使用其它方法来进行提取用于补充缺陷像素的像素的方向的上述判断(方向判断)。
接下来,信号水平比计算单元102提取位于缺陷像素周围并且颜色与缺陷像素相同的像素中的像素R2和R6的信号水平,其中像素R2和R6沿着方向判断单元101所获得的方向判断信息所表示的方向(45°)进行配置。
之后,如图3B所示,信号水平比计算单元102提取如下的像素的信号水平:
·绿色像素G8、G11、G12和G15,其是与缺陷像素800邻接并且颜色与缺陷像素800不同的像素,
·绿色像素G2、G5、G6和G9,其是与像素R2邻接并且颜色与像素R2不同的像素,以及
·绿色像素G14、G17、G18和G21,其是与像素R6邻接并且颜色与像素R6不同的像素。
这里,提取出信号水平的三个区域中的像素具有相同的颜色。可选地,代替上述绿色像素,还可以提取相对于缺陷像素对角配置的蓝色像素作为与像素R2和像素R6邻接并且颜色与这些红色像素不同的像素。在缺陷像素是蓝色像素的情况下,可以以与缺陷像素是红色像素的情况相同的方式来执行处理。在缺陷像素是绿色像素的情况下,与缺陷像素邻接并且颜色与缺陷像素不同的像素由两个蓝色像素和两个红色像素构成。在该情况下,可以提取两种颜色的像素的信号水平,或者可以提取两种颜色中的一种颜色的像素的信号水平。例如,在缺陷像素是绿色像素的情况下,信号水平比计算单元102可以根据以下表达式,通过使用与所有三个区域中的绿色像素垂直邻接的两个红色像素以及与绿色像素水平邻接的两个蓝色像素,来计算信号水平比。
信号水平比计算单元102根据以下表达式1~4来计算信号水平比(S503)。
与缺陷像素800(R4)邻接的绿色像素的平均值G_AVE0(第一平均值):
[表达式1]
G_AVE0=(G8+G11+G12+G15)/4
与像素R6邻接的绿色像素的平均值G_AVE1(第二平均值):
[表达式2]
G_AVE1=(G14+G18+G17+G21)/4
与像素R2邻接的绿色像素的平均值G_AVE2(第三平均值):
[表达式3]
G_AVE2=(G2+G5+G6+G9)/4
[表达式4]
信号水平比=(G_AVE0/((G_AVE1+G_AVE2)/2))
接下来,第一校正处理单元103提取位于缺陷像素周围并且颜色与缺陷像素相同的像素中的像素R2和R6的信号水平,其中像素R2和R6沿着方向判断单元101所获得的方向判断信息所表示的方向(45°)进行配置。之后,第一校正处理单元103通过使用信号水平比计算单元102基于表达式4所获取到的信号水平比,根据以下表达式5来计算用作缺陷像素的信号水平的像素校正值(S504)。
[表达式5]
缺陷像素800的校正值=((R2+R6)/2)×(G_AVE0/(G_AVE1+G_AVE2)/2)
如上所述,在使用位于缺陷像素周围的像素的信号水平补充缺陷像素的信号水平的情况下,本实施例基于位于缺陷像素周围并且颜色与缺陷像素相同的像素对的信号水平,来判断用于补充处理的像素所配置的特定方向。特定方向是从颜色滤波器的排列所确定的多个方向中所选择的。在拜耳排列的情况下,特定方向是0°、45°、90°和135°其中之一。
此外,本实施例获取如下的平均值之间的比:与缺陷像素邻接并且颜色与缺陷像素不同的像素的信号水平的平均值;以及与用于补充缺陷像素的像素邻接并且颜色与缺陷像素不同的像素的信号水平的平均值。使用所获取到的比来校正像素校正值。该校正使得可以获得如下的像素校正值,其中利用该所获得的像素校正值,校正了上述特定方向和被摄体的颜色边缘的方向上的偏移,因此提高了像素校正值的精度。
上述说明是针对缺陷像素的校正值的计算所涉及的像素都是非缺陷像素的情况。然而,在缺陷像素包括在要提取信号水平的像素中的情况下,可以不使用所包括的缺陷像素,或者可选地,代替地可以使用与作为校正对象的缺陷像素次邻接的另一像素(假定所包括的缺陷像素与作为校正对象的缺陷像素最邻接)。例如,在图3A的示例中,在像素R2是缺陷像素的情况下,可以不使用45°方向作为方向判断结果,或者可选地,可以通过使用次邻接像素(假定像素R2是最邻接像素)(图3A中未示出的沿着45°方向与像素R2相距两个像素的红色像素)的值,将45°方向用作方向判断结果。
第二实施例
现在给出本发明第二实施例的说明。
图4是示意性地示出与本实施例有关的图像处理设备的功能结构的示例的框图。图5是示出图4所示的与0°、45°、90°和135°方向相对应的像素校正处理单元200-1~200-4的功能结构的示例的框图。由于可以以相同方式构建像素校正处理单元200-1~200-4,图5中的附图标记200可代表它们中的任意一个。
在图4中,方向判断单元101与第一实施例中所说明的方向判断单元相同。像素校正处理单元200-1~200-4分别计算与0°、45°、90°和135°方向相对应的像素校正值。选择单元701基于方向判断单元101所输出的结果来选择来自像素校正处理单元200-1~200-4的像素校正值其中之一,并且输出所选择的值作为最终像素校正值。
在图5中,信号水平比计算单元102和第一校正处理单元103以与第一实施例中所说明的信号水平比计算单元102和第一校正处理单元103相同的方式进行构建。第二校正处理单元201计算位于缺陷像素周围并且颜色与缺陷像素相同的像素的信号水平的平均值,作为像素校正数据。此外,第一加权系数计算单元202、第二加权系数计算单元203及加权系数选择单元204整体计算用于对从第一校正处理单元103和第二校正处理单元201输出的值进行加权相加所使用的加权系数。
第一加权系数计算单元202计算从第二校正处理单元201所获得的校正值和从第一校正处理单元103所获得的校正值的加权系数α1。
第二加权系数计算单元203计算从第二校正处理单元201所获得的校正值和从第一校正处理单元103所获得的校正值的加权系数α2。
加权系数选择单元204选择加权系数α1和α2中的一个并输出所选择的系数作为加权系数α。
第三校正处理单元205通过使用从加权系数选择单元204所输出的加权系数α而对从第一校正处理单元103所获得的校正值和从第二校正处理单元201所获得的校正值的加权系数进行加权相加,来计算缺陷像素的像素校正数据。
下面参考图6的流程图更详细地说明图4所示的各单元的操作的详细内容。注意,S501和S502与第一实施例中所说明的步骤相同,因此这里省略对这些步骤的描述。
校正处理单元200-1~200-4分别计算与0°、45°、90°和135°方向相对应的像素校正值,并且将所计算出的像素校正值输入到选择单元701(S1001)。
选择单元701从与0°、45°、90°和135°方向相对应的像素校正值中,选择与S502中获得的方向判断结果相对应的像素校正值,并且输出所选择的值作为最终像素校正值(S1002)。
现在下面将参考图7的流程图给出图6的S1001中用于计算像素校正值的处理的说明。尽管下面描述了用于计算与45°方向相对应的像素校正值的像素校正处理单元200-1的处理作为像素校正处理单元200-1~200-4的处理的代表,但以相同的方式计算与0°、90°和135°方向相对应的像素校正值。图7所示的S503和S504的处理与第一实施例中所说明的相同,因此省略了对这些步骤的描述。与第一实施例相同,下面的描述是在计算图3A所示的缺陷像素的像素校正值的假设的情况下给出的。
S601
根据下面的表达式6,第二校正处理单元201计算沿着45°方向配置的夹持缺陷像素800并且颜色与缺陷像素800相同的像素R2和R6的信号水平的平均值。
[表达式6]
与45°方向相对应的像素校正值=(R2+R6)/2
也就是说,与第一校正处理单元103不同,第二校正处理单元201计算没有考虑信号水平比计算单元102所计算出的比的像素校正值。
S602
根据下面的表达式7,第一加权系数计算单元202获取信号水平比计算单元102所计算出的三个信号水平G_AVE0、G_AVE1和G_AVE2中的最小值G_AVE_MIN。
[表达式7]
G_AVE_MIN=最小值(G_AVE0,G_AVE1,G_AVE2)
基于所计算出的G_AVE_MIN的值,第一加权系数计算单元202计算第一校正处理单元103在S504中计算出的像素校正值和第二校正处理单元201在S601中计算出的与45°方向相对应的像素校正值的加权系数α1(0≤α1≤1)。
图8A示出G_AVE_MIN与加权系数α1之间的关系的例子。第一加权系数计算单元202可以配置加权系数α1超过0的第一阈值300。当G_AVE_MIN小于或等于第一阈值时,第一加权系数计算单元202考虑将G区域作为暗部区域。第一阈值300可以根据图像传感器的属性等来预先进行配置。在暗部区域中,噪声等级相对于信号水平较大,因此信号水平比计算单元102所计算出的比的可靠性降低。由于这种原因,当G_AVE_MIN小于或等于第一阈值300时,第一加权系数计算单元202将加权系数α1设置为0。
优选地,当G_AVE_MIN大于第一阈值300时,对第一倾斜302进行配置,以使得G区域不受暗部区域的影响。第一倾斜302的具体值可以通过实验等来获取。
尽管在本情况下根据信号水平的平均值中的最小值G_AVE_MIN来配置加权系数α1,但加权系数α1代替地也可以根据平均值(G_AVE0,G_AVE1,G_AVE2)和最大值(G_AVE0,G_AVE1,G_AVE2)等来计算。此外,图8A所示的G_AVE_MIN和加权系数α1之间的关系能够作为表或作为以G_AVE_MIN用作自变量的函数存储在第一加权系数计算单元202中。
S603
第二加权系数计算单元203提取如下像素的信号水平:
·沿着45°方向配置为夹持缺陷像素800并且颜色与缺陷像素800相同的像素R2和R6;
·与缺陷像素800邻接并且颜色与缺陷像素800不同的像素G8、G11、G12和G15;
·与像素R2和R6邻接并且颜色与缺陷像素800不同的像素G2、G5、G6、G9、G14、G17、G18和G21,其中像素R2和R6沿着45°方向与缺陷像素800邻接并且颜色与缺陷像素800相同。
根据下面的表达式8,第二加权系数计算单元203获取所提取的信号水平中的最大值RG_MAX。
[表达式8]
RG_MAX=最大值(R2,R6,G8,G11,G12,G15,G2,G5,G6,G9,G14,G17,G18,G19)
基于所计算出的RG_MAX的值,第二加权系数计算单元203计算第一校正处理单元103在S504中计算出的像素校正值和第二校正处理单元201在S601中计算出的像素校正值的加权系数α2(0≤α2≤1)。
图8B示出RG_MAX与加权系数α2之间的关系的例子。第二加权系数计算单元203可以配置加权系数α2等于0的第二阈值400。当RG_MAX大于或等于第二阈值时,第二加权系数计算单元203考虑将G区域作为饱和区域。第二阈值400可以根据图像传感器的属性等来预先进行配置。信号水平比计算单元102所计算出的比的可靠性在饱和区域中同样降低。由于这种原因,当RG_MAX大于或等于第二阈值400时,第二加权系数计算单元203将加权系数α2设置为0。
尽管在本情况中加权系数α2根据信号水平中的最大值RG_MAX来进行配置,但加权系数α2也可以代替地根据平均值(R2,R6,G8,G11,G12,G15,G2,G5,G6,G9,G14,G17,G18,G19)和最小值(R2,R6,G8,G11,G12,G15,G2,G5,G6,G9,G14,G17,G18,G19)等来计算。此外,图8B所示的RG_MAX和加权系数α2之间的关系能够作为表或作为以RG_MAX用作自变量的函数存储在第二加权系数计算单元203中。
优选地,当RG_MAX小于第二阈值400时,对第二倾斜402进行配置,以使得G区域不受饱和区域的影响。第二倾斜402的具体值可以通过实验等来获取。
S604
加权系数选择单元204对S602中计算出的加权系数α1和S603中计算出的加权系数α2进行比较,并且根据下面的表达式9来计算(选择)较小的值作为最终加权系数α。
[表达式9]
加权系数α=最小值(加权系数α1,加权系数α2)
在信号水平比计算单元102所计算出的颜色信号水平的比的可靠度较低的情况下,上述的较小加权系数的选择降低了考虑到颜色信号水平的比所获取到的像素校正值的权重,因此抑制暗部区域和饱和区域的影响。
S605
根据下面的表达式10,第三校正处理单元205计算与45°方向相对应的最终像素校正值。
[表达式10]
沿着45°方向的缺陷像素800的最终像素校正值=第二校正处理单元201计算出的像素校正值×(1-α)+第一校正处理单元103计算出的校正值×α
如上所述,在本实施例中,通过对不考虑信号水平比计算单元102计算出的颜色信号水平的比所获取到的像素校正值和考虑到信号水平比计算单元102计算出的颜色信号水平的比所获取到的像素校正值进行加权相加,来获取最终像素校正值。在信号水平比计算单元102所计算出的颜色信号水平的比的可靠度被认为较低的情况下,降低考虑到颜色信号水平的比所获取到的像素校正值的权重。通过这种方式,在颜色信号水平的比的可靠度较高时,本实施例实现了与第一实施例所实现的效果同样的有利效果,并且当颜色信号水平的比的可靠度较低时,本实施例能够抑制像素校正值的误校正。
在第二实施例中,同样,代替绿色像素,可以提取蓝色像素作为与缺陷像素、像素R2和像素R6邻接并且颜色与这些像素不同的像素。上述处理同样按照原样可以应用于缺陷像素是蓝色像素的情况。然而,由于与蓝色像素接近红色像素的程度相比,绿色像素更接近红色像素,因而认为将绿色像素用作与红色像素邻接的像素时的校正精度要高于将蓝色像素用作与红色像素邻接的像素时的校正精度。此外,在缺陷像素是绿色像素的情况下,与缺陷像素邻接并且颜色与缺陷像素不同的像素由两个蓝色像素和两个红色像素构成。在这种情况下,可以提取这两种颜色的像素的信号水平,或者可以提取这两种颜色其中之一的像素的信号水平。
其它实施例
上述实施例描述的是如下示例,其中在该示例中,处理对象是设置有根据拜耳排列所配置的颜色滤波器的图像传感器所拍摄的图像数据。然而,本发明的原理也可应用于设置有多个特定颜色规则排列的颜色滤波器的图像传感器所拍摄的图像数据。
此外,第二实施例描述的是如下结构,其中在该结构中,与方向判断单元101能够判断出的各方向(在具有拜耳排列的颜色滤波器的情况下,0°、45°、90°和35°方向)相对应地产生像素校正值,并且基于方向判断单元101的方向判断结果来选择像素校正值其中之一。可选地,与第一实施例同样,可以具有与方向判断单元101所判断出的方向相对应地计算像素校正值。在这种情况下,选择单元701并不是必需的,仅具有像素校正处理单元200-1~200-4其中之一就足够了,并且将来自方向判断单元101的输出提供给信号水平比计算单元102、第一校正处理单元103和第二校正处理单元201。因此,信号水平比计算单元102、第一校正处理单元103和第二校正处理单元201代替上述的45°方向而是针对所判断出的方向执行同样的处理,并且将来自第三校正处理单元205的输出用作缺陷像素的像素校正值。
还可以通过读出并执行记录在存储器装置上的程序以进行上述实施例的功能的系统或设备的计算机(或者CPU或MPU等装置)和通过下面的方法来实现本发明的各方面,其中,系统或设备的计算机通过例如读出并执行记录在存储器装置上的程序以进行上述实施例的功能来进行上述方法的各步骤。由于该原因,例如经由网络或者通过用作存储器装置的各种类型的记录介质(例如,计算机可读介质)将该程序提供给计算机。
尽管已经参考典型实施例说明了本发明,但是应该理解,本发明不限于所公开的典型实施例。所附权利要求书的范围符合最宽的解释,以包含所有这类修改、等同结构和功能。
本申请要求2011年8月9日提交的日本专利申请2011-174252和2012年6月21日提交的日本专利申请2012-140037的优先权,在此通过引用而包含这两个专利申请的全部内容。
Claims (7)
1.一种图像处理设备,用于校正图像数据中所包括的缺陷像素的信号水平,所述图像数据是利用设置有规则地排列多个特定颜色的颜色滤波器的图像传感器所拍摄的,所述图像处理设备的特征在于包括:
判断部件,用于基于各自位于夹持所述缺陷像素的位置并且颜色与所述缺陷像素相同的多个像素对的信号水平的差,来判断穿过所述缺陷像素并且配置有用于计算所述缺陷像素的信号水平的像素的方向;
比计算部件,用于计算如下的信号水平之间的比:与所述缺陷像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平;以及与相对于所述缺陷像素沿着所述判断部件所判断出的方向进行配置且颜色与所述缺陷像素相同的像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平;以及
第一校正处理部件,用于输出通过将相对于所述缺陷像素沿着所述判断部件所判断出的方向进行配置且颜色与所述缺陷像素相同的像素的信号水平的平均值乘以所述比计算部件所计算出的比而获得的值,作为所述缺陷像素的信号水平。
2.根据权利要求1所述的图像处理设备,其中,还包括:
第二校正处理部件,用于输出所述平均值;
系数计算部件,用于根据如下的信号水平来计算加权系数:与所述缺陷像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平;以及与相对于所述缺陷像素沿着所述判断部件所判断出的方向进行配置且颜色与所述缺陷像素相同的像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平;以及
第三校正处理部件,用于通过使用所述系数计算部件所计算出的加权系数,来对从所述第一校正处理部件所输出的值和从所述第二校正处理部件所输出的值进行加权相加,并且输出所述加权相加的结果作为所述缺陷像素的信号水平,
其中,所述系数计算部件在如下的情况下,将所述加权相加中所使用的针对从所述第一校正处理部件所输出的值的加权系数设置为0:与所述缺陷像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平以及与相对于所述缺陷像素沿着所述判断部件所判断出的方向进行配置且颜色与所述缺陷像素相同的像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平处于预定的暗部区域或饱和区域内。
3.根据权利要求2所述的图像处理设备,其中,
所述系数计算部件在如下的情况下,将所述加权相加中所使用的针对从所述第一校正处理部件所输出的值的加权系数设置为1:与所述缺陷像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平以及与相对于所述缺陷像素沿着所述判断部件所判断出的方向进行配置且颜色与所述缺陷像素相同的像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平没有处于预定的暗部区域或饱和区域内。
4.根据权利要求2所述的图像处理设备,其中,
所述系数计算部件在如下两种情况中的任一情况下,将所述加权相加中所使用的针对从所述第一校正处理部件所输出的值的加权系数设置为0:
与所述缺陷像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平的平均值以及与相对于所述缺陷像素沿着所述判断部件所判断出的方向进行配置且颜色与所述缺陷像素相同的像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平的平均值小于或等于预定的第一阈值;或者
与所述缺陷像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平以及与相对于所述缺陷像素沿着所述判断部件所判断出的方向进行配置且颜色与所述缺陷像素相同的像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平中的最大值大于或等于预定的第二阈值。
5.根据权利要求1至4中任一项所述的图像处理设备,其中,
所述判断部件基于各自位于夹持所述缺陷像素的位置并且颜色与所述缺陷像素相同的多个像素对中的信号水平具有最小差的像素对的位置,来判断所述方向。
6.根据权利要求1至4中任一项所述的图像处理设备,其中,
所述比计算部件进行以下操作:
计算第一平均值,其中所述第一平均值是与所述缺陷像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平的平均值;
计算第二平均值和第三平均值,其中所述第二平均值和所述第三平均值各自是与相对于所述缺陷像素沿着所述判断部件所判断出的方向进行配置且颜色与所述缺陷像素相同的两个像素中的相应像素相邻接、并且颜色与所述缺陷像素不同的多个像素的信号水平的平均值;以及
将通过以下表达式所获得的值获取作为所述比:所述第一平均值/((所述第二平均值+所述第三平均值)/2)。
7.一种图像处理设备的控制方法,其中所述图像处理设备用于校正图像传感器的缺陷像素的信号水平,所述图像传感器设置有规则地排列多个特定颜色的颜色滤波器,所述缺陷像素包括在利用所述图像传感器所拍摄的图像数据中,所述控制方法的特征在于包括以下步骤:
判断步骤,用于基于各自位于夹持所述缺陷像素的位置并且颜色与所述缺陷像素相同的多个像素对的信号水平的差,来判断穿过所述缺陷像素并且配置有用于计算所述缺陷像素的信号水平的像素的方向;
比计算步骤,用于计算如下的信号水平之间的比:与所述缺陷像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平;以及与相对于所述缺陷像素沿着所述判断步骤所判断出的方向进行配置且颜色与所述缺陷像素相同的像素相邻接、并且颜色与所述缺陷像素不同的像素的信号水平;以及
第一校正处理步骤,用于输出通过将相对于所述缺陷像素沿着所述判断步骤所判断出的方向进行配置且颜色与所述缺陷像素相同的像素的信号水平的平均值乘以所述比计算步骤所计算出的比而获得的值,作为所述缺陷像素的信号水平。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011174252 | 2011-08-09 | ||
JP2011-174252 | 2011-08-09 | ||
JP2012140037A JP6046927B2 (ja) | 2011-08-09 | 2012-06-21 | 画像処理装置及びその制御方法 |
JP2012-140037 | 2012-06-21 | ||
PCT/JP2012/070586 WO2013022113A1 (en) | 2011-08-09 | 2012-08-07 | Image processing apparatus and control method therefor |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103733608A CN103733608A (zh) | 2014-04-16 |
CN103733608B true CN103733608B (zh) | 2017-02-15 |
Family
ID=46750394
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201280038880.0A Expired - Fee Related CN103733608B (zh) | 2011-08-09 | 2012-08-07 | 图像处理设备及其控制方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US9030579B2 (zh) |
EP (1) | EP2742681B1 (zh) |
JP (1) | JP6046927B2 (zh) |
CN (1) | CN103733608B (zh) |
WO (1) | WO2013022113A1 (zh) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2803190B1 (en) * | 2012-01-09 | 2017-10-25 | Dolby Laboratories Licensing Corporation | Hybrid reference picture reconstruction method for multiple layered video coding systems |
WO2014186542A1 (en) * | 2013-05-15 | 2014-11-20 | Vid Scale, Inc. | Single loop decoding based inter layer prediction |
JP2017041738A (ja) * | 2015-08-19 | 2017-02-23 | 株式会社東芝 | 固体撮像装置 |
JP2017055309A (ja) * | 2015-09-10 | 2017-03-16 | キヤノン株式会社 | 撮像装置及びその制御方法 |
JP2017055308A (ja) | 2015-09-10 | 2017-03-16 | キヤノン株式会社 | 撮像装置及びその制御方法 |
CN109565558B (zh) * | 2016-07-29 | 2021-03-26 | 奥林巴斯株式会社 | 图像处理装置、图像处理方法和存储介质 |
US10536621B2 (en) * | 2016-10-19 | 2020-01-14 | Canon Kabushiki Kaisha | Image capturing apparatus, storage medium and controlling method for correcting a second image by correcting a pixel value of the second image corresponding to a detected defective pixel |
KR102049681B1 (ko) * | 2016-11-30 | 2019-11-27 | 광동 오포 모바일 텔레커뮤니케이션즈 코포레이션 리미티드 | 이미지 데드 픽셀 보상 방법, 장치 및 비 일시적 컴퓨터 판독 저장 매체 |
WO2019076278A1 (en) * | 2017-10-19 | 2019-04-25 | Zhejiang Dahua Technology Co., Ltd. | METHODS AND DEVICES FOR PROCESSING IMAGES |
JP2023010159A (ja) * | 2021-07-09 | 2023-01-20 | 株式会社ソシオネクスト | 画像処理装置および画像処理方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7477781B1 (en) * | 2002-10-10 | 2009-01-13 | Dalsa Corporation | Method and apparatus for adaptive pixel correction of multi-color matrix |
CN102055917A (zh) * | 2009-11-02 | 2011-05-11 | 索尼公司 | 像素缺陷校正器件、成像设备、像素缺陷校正方法和程序 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4043197B2 (ja) * | 2000-03-24 | 2008-02-06 | 三洋電機株式会社 | 単板式カラーカメラの色分離回路 |
JP2001307079A (ja) * | 2000-04-26 | 2001-11-02 | Seiko Epson Corp | 画像処理装置、画像処理方法および記録媒体 |
JP4054184B2 (ja) * | 2001-10-03 | 2008-02-27 | オリンパス株式会社 | 欠陥画素補正装置 |
JP4311745B2 (ja) | 2003-07-16 | 2009-08-12 | キヤノン株式会社 | 地中探査装置、システム及び方法 |
JP2005167974A (ja) * | 2003-11-10 | 2005-06-23 | Seiko Epson Corp | 画像処理方法及び画像処理装置、画像処理プログラム並びに半導体装置 |
US7460688B2 (en) * | 2004-12-09 | 2008-12-02 | Aptina Imaging Corporation | System and method for detecting and correcting defective pixels in a digital image sensor |
US7667747B2 (en) * | 2006-03-15 | 2010-02-23 | Qualcomm Incorporated | Processing of sensor values in imaging systems |
JP4935162B2 (ja) * | 2006-04-11 | 2012-05-23 | 株式会社ニコン | 撮像装置、カメラおよび画像処理方法 |
JP5038005B2 (ja) | 2007-04-13 | 2012-10-03 | キヤノン株式会社 | 撮像装置及び画像処理方法 |
JP5056501B2 (ja) * | 2008-03-12 | 2012-10-24 | 株式会社Jvcケンウッド | 撮像装置及びこれに用いる欠陥画素補正方法 |
JP2011174252A (ja) | 2010-02-23 | 2011-09-08 | Takenaka Komuten Co Ltd | 多段拡径杭及び構造物 |
US8351696B2 (en) * | 2010-09-17 | 2013-01-08 | Foveon, Inc. | Correcting defective pixels in digital color images |
JP5602008B2 (ja) | 2010-12-28 | 2014-10-08 | アルパイン株式会社 | 車載装置及び携帯装置 |
WO2012117616A1 (ja) * | 2011-02-28 | 2012-09-07 | 富士フイルム株式会社 | 撮像装置及び欠陥画素補正方法 |
JP5898428B2 (ja) * | 2011-08-09 | 2016-04-06 | キヤノン株式会社 | 画像処理装置及びその制御方法 |
-
2012
- 2012-06-21 JP JP2012140037A patent/JP6046927B2/ja not_active Expired - Fee Related
- 2012-08-07 WO PCT/JP2012/070586 patent/WO2013022113A1/en active Application Filing
- 2012-08-07 US US14/131,377 patent/US9030579B2/en not_active Expired - Fee Related
- 2012-08-07 CN CN201280038880.0A patent/CN103733608B/zh not_active Expired - Fee Related
- 2012-08-07 EP EP12751132.7A patent/EP2742681B1/en not_active Not-in-force
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7477781B1 (en) * | 2002-10-10 | 2009-01-13 | Dalsa Corporation | Method and apparatus for adaptive pixel correction of multi-color matrix |
CN102055917A (zh) * | 2009-11-02 | 2011-05-11 | 索尼公司 | 像素缺陷校正器件、成像设备、像素缺陷校正方法和程序 |
Also Published As
Publication number | Publication date |
---|---|
CN103733608A (zh) | 2014-04-16 |
EP2742681B1 (en) | 2017-05-31 |
US9030579B2 (en) | 2015-05-12 |
EP2742681A1 (en) | 2014-06-18 |
JP2013055640A (ja) | 2013-03-21 |
JP6046927B2 (ja) | 2016-12-21 |
WO2013022113A1 (en) | 2013-02-14 |
US20140125847A1 (en) | 2014-05-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103733608B (zh) | 图像处理设备及其控制方法 | |
JP4054184B2 (ja) | 欠陥画素補正装置 | |
US8576309B2 (en) | Pixel defect correction device, imaging apparatus, pixel defect correction method, and program | |
TWI407800B (zh) | 馬賽克影像的改良處理 | |
US8253828B2 (en) | Image capture device including edge direction determination unit, and image processing method for the same | |
CN101242542B (zh) | 一种图像坏点检测方法与装置 | |
EP1515545A1 (en) | Image processing apparatus and method, recording medium, and program for correcting shading of a captured image | |
US8284278B2 (en) | Image processing apparatus, imaging apparatus, method of correction coefficient calculation, and storage medium storing image processing program | |
US8854511B2 (en) | Apparatus and method for image processing and storage medium, and image pickup apparatus | |
CN104067611A (zh) | 图像处理设备、图像处理方法及程序 | |
US20080239121A1 (en) | Imaging apparatus including noise suppression circuit | |
WO2016031597A1 (ja) | 画像処理装置、画像処理方法、及び、画像処理システム | |
US20130229550A1 (en) | Defective pixel correction apparatus, method for controlling the apparatus, and program for causing computer to perform the method | |
CN102595061A (zh) | 图像处理装置、图像处理方法和程序 | |
US7471842B2 (en) | Method and apparatus for dynamically detecting pixel values | |
CN104935838A (zh) | 一种图像还原的方法 | |
US20110254982A1 (en) | Method for detecting/correcting bad pixel in image sensor | |
EP2103979B1 (en) | Method for correcting chromatic aberration | |
KR101854432B1 (ko) | 역광 프레임을 검출하고, 보정하는 방법 및 장치 | |
JP5378282B2 (ja) | パープルフリンジ補正装置およびその制御方法,ならびにパープルフリンジを補正するためのプログラム | |
US8655058B2 (en) | Method and apparatus for spatial noise adaptive filtering for digital image and video capture systems | |
CN113850738A (zh) | 图像紫边的校正装置及方法 | |
KR100691250B1 (ko) | 휴대용 단말기의 자동 색 온도 보정 촬영 방법 | |
US20130077861A1 (en) | Image sensing device and image data processing method using the same | |
KR102315200B1 (ko) | 자동 화이트 밸런스를 위한 영상 처리 장치 및 그 처리 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20170215 |
|
CF01 | Termination of patent right due to non-payment of annual fee |