CN102893609B - 图像处理设备和图像处理设备的控制方法 - Google Patents
图像处理设备和图像处理设备的控制方法 Download PDFInfo
- Publication number
- CN102893609B CN102893609B CN201180023704.5A CN201180023704A CN102893609B CN 102893609 B CN102893609 B CN 102893609B CN 201180023704 A CN201180023704 A CN 201180023704A CN 102893609 B CN102893609 B CN 102893609B
- Authority
- CN
- China
- Prior art keywords
- view data
- pixel
- frequency band
- signal
- color component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims abstract description 40
- 238000000034 method Methods 0.000 title claims description 51
- 230000008569 process Effects 0.000 claims description 40
- 230000015572 biosynthetic process Effects 0.000 claims description 19
- 238000012937 correction Methods 0.000 claims description 19
- 238000003786 synthesis reaction Methods 0.000 claims description 18
- 230000004075 alteration Effects 0.000 claims description 4
- 238000011946 reduction process Methods 0.000 claims 1
- 239000003086 colorant Substances 0.000 abstract description 12
- 230000009467 reduction Effects 0.000 description 20
- 238000005070 sampling Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 8
- 230000001360 synchronised effect Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 238000013519 translation Methods 0.000 description 7
- 230000003247 decreasing effect Effects 0.000 description 5
- 238000009499 grossing Methods 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 230000006866 deterioration Effects 0.000 description 3
- 230000005484 gravity Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000000638 solvent extraction Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000013075 data extraction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/21—Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
- H04N5/213—Circuitry for suppressing or minimising impulsive noise
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Color Television Image Signal Generators (AREA)
- Image Processing (AREA)
- Color Image Communication Systems (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color, Gradation (AREA)
- Record Information Processing For Printing (AREA)
Abstract
一种图像处理设备,其能够在防止用于存储不同频带的多个图像数据的存储器的容量增大的同时执行适当的图像处理。该图像处理设备将不同频带的多个图像数据中具有最高频率的第一图像数据以该第一图像数据的各像素包括多个颜色中的任意颜色的颜色成分信号的状态存储在存储器上,并且进一步将频带低于第一图像数据的频带的第二图像数据和第三图像数据以该第二图像数据和第三图像数据各自的部分或者全部像素具有多个颜色的颜色成分信号的状态存储在存储器上。
Description
技术领域
本发明涉及一种用于对基于一个图像数据所生成的并且经过图像处理的不同频带的多个图像数据进行合成的技术。
背景技术
通常,诸如数字照相机或摄像机等的摄像设备从诸如电荷耦合装置(CCD)或者互补金属氧化物半导体(CMOS)传感器等的图像传感器读取图像数据,并且执行包括伽玛校正、像素插值和矩阵变换等的各种图像处理。由单板构成的图像传感器包括用于多个颜色的颜色滤波器。在这样的图像传感器中,对于每一像素设置多个颜色中的任意颜色用的一个颜色滤波器。如图4所示,具有包括红色(R)、绿色(G)和蓝色(B)的原色(RGB)用的颜色滤波器的Bayer阵列的图像传感器,其通常具有下面的递归像素图案。更具体地,在该递归像素图案中,一个垂直2像素×水平2像素的像素块的四个像素包括对角设置的一个R像素和一个B像素以及相反对角设置的其它两个G像素。
从图像传感器所读取的图像数据可能通常包括图像传感器的构成电路可能导致的噪声成分。此外,在从图像传感器所读取的图像数据中,可能发生伪色现象。因此,对图像数据进行用于减少上述不必要的信号成分的图像处理。
例如,有一种传统方法,该方法通过将输入图像数据分成不同频带的多个图像数据,并且随后将这些不同频带的多个图像数据合成在一起,来减少图像数据中所包括的不必要的信号成分。
日本特开2008-015741号公报所述的方法首先对图像数据分层执行低通滤波(LPF)处理和缩小处理,以将输入图像数据分成不同频带的多个图像数据。然后,根据基于各频带的图像数据的低频带成分所计算出的边缘信息,对与各频带相对应的多个图像数据的高频带成分进行降噪。随后,将低频带的图像数据和各自经过了降噪的高频带的图像数据合成在一起。
下面将参考图5详细说明一般的图像处理单元的结构,其中,该图像处理单元首先将输入图像数据分成不同频带的多个图像数据,并且随后将这些不同频带的多个图像数据合成在一起。
参考图5,图像处理单元包括分割单元510、存储器520、校正单元530和合成单元540。分割单元510将输入图像数据分割成不同频带的多个图像数据。校正单元530对各频带的图像数据执行校正。合成单元540将图像处理后的不同频带的多个图像数据合成在一起。
分割单元510将输入图像数据Sin作为第一频带的图像数据输出至存储器520。然后,分割单元510将输入图像数据Sin输入至高通滤波器(HPF)511。此外,分割单元510将通过提取高频成分所生成的图像数据作为第一频带的图像数据输出至存储器520。然后,分割单元510将输入图像数据Sin输入至低通滤波器512以对图像数据Sin执行平滑化。随后,将平滑后的图像数据输入至缩小电路513。因此,生成了像素少于输入图像数据S in的像素的图像数据。此外,分割单元510将该图像数据输入至高通滤波器514。此外,分割单元510将通过提取高频成分所生成的图像数据作为第二频带的图像数据输出至存储器520。
另外,低通滤波器515对缩小电路513所生成的图像数据执行平滑化。然后,将平滑后的图像数据输入至缩小电路516。因此,生成了像素少于缩小电路513所生成的图像数据的像素的图像数据。然后,将该图像数据作为第三频带的图像数据输出至存储器520。第一频带是最高频带,并且第二频带和第三频带依次逐渐降低。
在图5所示的分割单元510中,高通滤波器、低通滤波器和缩小电路构成一个带分割电路。换句话说,分割单元510包括以树状结构设置的两个带分割电路。
校正单元530包括分别与第一频带~第三频带的图像数据相对应的三个校正电路531~533。校正电路531~533对从存储器520读取的各频带的图像数据执行诸如像差校正或用于生成高清晰度图像的降噪和边缘信息存储处理等的各种处理。
合成单元540将校正电路533进行了处理的第三频带的图像数据输入至放大电路541,以生成像素数量与校正电路532进行了处理的第二频带的图像数据的像素数量相同的图像数据。然后,通过低通滤波器542对所生成的图像数据进行平滑化。相加电路543将校正电路532处理后的第二频带的图像数据与从低通滤波器542输出的图像数据进行相加。放大电路544基于从相加电路543输出的图像数据,生成像素数量与校正电路531进行了处理后的第一频带的图像数据的像素数量相同的图像数据。然后,通过低通滤波器545对所生成的图像数据进行平滑化。相加电路546将校正电路531处理后的第一频带的图像数据与从低通滤波器545输出的图像数据进行相加,以生成输出图像数据Sout。
在图5所示的合成单元540中,放大电路、低通滤波器和相加电路构成一个频带合成电路。换句话说,合成单元540包括以树状结构设置的两个频带合成电路。
如上所述,在具有Bayer阵列的原色滤波器并且包括以马赛克状配置所排列的多个颜色用的颜色滤波器的图像传感器所获取的图像数据中,可以从一个像素获取与多个颜色中的仅一个颜色相对应的像素值。
然而,日本特开2008-015741号公报并没有说明用于对各像素包括与颜色滤波器的多个颜色中的任意颜色相对应的信号的图像数据进行处理的任何方法。
在具有原色Bayer阵列的单板图像传感器的情况下,通过执行在将图像数据分割成不同频带的多个图像数据时所执行的下采样而实现的缩小处理,无需对针对各颜色具有零信号的像素进行插值,图像传感器的各像素即可具有所有颜色成分的信号。如图6所示,为了特别说明具有Bayer阵列的图像传感器的特定行,依次递归配置R信号颜色滤波器和G信号颜色滤波器。下面将说明用于在水平方向上将以该方式配置的像素的数量减小至原始数量的一半的传统方法。为了特别说明特定行的R信号,将原本以两个像素中存在一个R像素为周期所排列的R信号通过缩小处理缩小成针对每一像素的一个信号。类似地,为了特别说明同一行的G信号,将原本以两个像素中存在一个G像素为周期所排列的G信号通过缩小处理缩小成针对每一像素的一个信号。然而,在用于缩小G信号的处理期间,为了将G信号的重心位置与R信号的重心位置对准,通过对相邻像素的像素值进行平均来计算重心位置的值。通过以上述方式执行缩小,无需对针对各颜色具有零信号的像素进行插值,可以在一个像素位置处生成RGB原色的所有颜色成分的信号。通常,将针对同一像素生成多个颜色的信号通称为同步化(synchronization)。
由于通过缩小而对第二频带的图像数据和第三频带的图像数据进行同步化,因而可以以同步化状态将第二频带的图像数据和第三频带的图像数据存储在存储器520上。如果将同步化后的第二频带的图像数据和同步化后的第三频带的图像数据逆变换回Bayer阵列的图像数据,则图像数据的信息量可能由于逆变换而减小。因此,校正单元530的降噪或者像差校正的校正精度可能劣化。
假定:可以对第一频带的图像数据进行与第二频带的图像数据和第三频带的图像数据相关联的同步化,然后将同步化后的图像数据存储在存储器520上。然而,在这种情况下,信息量是最大数据的第一频带的图像数据的信息量可能变成三倍的大小。因此,必须将存储器520的容量增大至非常大的容量。
引文列表
专利文献
[专利文献1]日本特开2008-015741号公报
发明内容
本发明旨在对如下图像处理设备的改进,其中该图像处理设备用于将通过包括多个颜色滤波器的单板图像传感器所拍摄的图像数据分成不同频带的多个图像数据,将该图像数据存储在存储器中,并且校正从该存储器所读取的这些不同频带的多个图像数据。
根据本发明的一个方面,一种图像处理设备,其包括:带分割单元,用于基于第一图像数据而输出频带低于所述第一图像数据的频带的第二图像数据以及频带还低于所述第二图像数据的频带的第三图像数据,其中,所述第一图像数据包括多个颜色成分信号,并且所述第一图像数据的各像素包括所述多个颜色成分信号中的任意颜色成分信号;存储器,用于存储所述第一图像数据、所述第二图像数据和所述第三图像数据;校正单元,用于对存储在所述存储器上的所述第一图像数据、所述第二图像数据和所述第三图像数据执行校正处理;以及合成单元,用于将所述校正单元进行了校正的所述第一图像数据、所述第二图像数据和所述第三图像数据合成在一起,其中,从所述带分割单元输出的所述第二图像数据和所述第三图像数据各自的部分像素或者全部像素包括所述多个颜色成分信号,以及所述存储器将所述第一图像数据以各像素包括所述多个颜色成分信号中的任意颜色成分信号的状态进行存储,并且将所述第二图像数据和所述第三图像数据以各自的部分像素或者全部像素包括所述多个颜色成分信号的状态进行存储。
通过以下参考附图对典型实施例的详细说明,本发明的其它特征和方面将显而易见。
附图说明
包含在说明书中并构成说明书一部分的附图示出了本发明的典型实施例、特征和方面,并与说明书一起用来解释本发明的原理。
图1是根据本发明典型实施例的摄像设备的功能框图。
图2是示出根据本发明第一典型实施例的与图像处理单元的降噪有关的结构的框图。
图3是示出根据本发明第二典型实施例的与图像处理单元的降噪有关的结构的框图。
图4示出Bayer阵列的像素图案。
图5是示出执行用于将不同频带的多个图像数据合成在一起的处理的传统图像处理单元的一般结构的框图。
图6示出通过利用下采样进行缩小所得到的图像数据的同步化。
具体实施方式
下面将参考附图详细说明本发明的各种典型实施例、特征和方面。
图1是根据本发明典型实施例的摄像设备的功能框图。
参考图1,图像形成光学单元101包括镜头和光圈。图像形成光学单元101可以控制调焦和曝光。图像传感器102具有用于将光学图像转换成电信号的光电转换功能。图像传感器102由CCD或者CMOS传感器构成。模拟-数字(A/D)转换电路103将来自图像传感器102的模拟图像信号转换成数字图像数据。图像处理单元104对从A/D转换电路103输出的图像数据执行诸如降噪、像差校正、伪色去除、伽玛校正、插值和矩阵变换等的各种处理。
存储器接口(I/F)105作为与由动态随机存取存储器(DRAM)构成的存储器106的接口,具有用于写入和读取图像处理单元104处理后的图像数据和各种控制数据的功能。中央处理单元(CPU)107执行各种控制操作。显示单元108包括液晶显示器(LCD)监视器。显示单元108顺次显示图像处理单元104处理后的图像数据,以允许用户实时查看所拍摄的被摄体图像。
入射至图像形成光学单元101的光在图像传感器102的光接收面上形成图像,并且从图像传感器102输出该图像的信号作为模拟图像信号。在图像传感器102中,对各像素设置各个R(红色)、G(绿色)和B(蓝色)颜色滤波器。从各像素输出的信号水平对应于R、G和B信号中的任意信号的水平。A/D转换电路103将模拟图像信号转换成作为Bayer阵列的RAW图像的数字图像数据,然后将该数字图像数据输入至图像处理单元104。
图2是示出根据第一典型实施例的与图像处理单元104的降噪有关的结构的框图。
参考图2,图像处理单元104包括分割单元210、存储器220、校正单元230和合成单元240。分割单元210将输入图像数据分割成多个不同频带的图像数据。校正单元230对各频带的图像数据执行降噪。合成单元240将不同频带的图像数据合成在一起。
分割单元210将输入图像数据Sin原样地作为第一频带的图像数据输出至存储器220。
分割单元210还将输入图像数据Sin输入至LPF 211。在通过LPF 211进行平滑化之后,将输入图像数据Sin输入至缩小电路212。因而,生成了所包括的像素少于输入图像数据Sin的像素的图像数据。在本典型实施例中,缩小电路212通过执行下采样来缩小输入图像数据,从而使得在垂直和水平方向两者上的像素的数量可以变成原始像素数量的一半。此外,缩小电路212将缩小后的图像数据作为第二频带的图像数据输出至存储器220。
此外,随后通过低通滤波器213对缩小电路212所生成的图像数据进行平滑化。然后,将平滑化后的图像数据输入至缩小电路214。因此,缩小电路214生成所包括的像素少于缩小电路212所生成的图像数据的像素的图像数据。在本典型实施例中,缩小电路214还对输入图像数据执行下采样,以在垂直和水平方向上将图像数据的大小减小至原始大小的一半。将缩小后的图像数据作为第三频带的图像数据输出至存储器220。
例如,可以通过下面的传递函数实现低通滤波器211和213。
H(z)=1/2*(1+Z-1)...(数学式1)
分割单元210用作带分割单元。第一频带为最高频带。第二频带和第三频带依次逐渐降低。
如上所述,通过低通滤波器来处理第二频带的图像数据和第三频带的图像数据,以对这些图像数据进行可在一个像素位置处生成RGB颜色的所有颜色成分的信号的同步化。可以以同步化状态将第二频带的图像数据和第三频带的图像数据存储在存储器220上。
对于第一频带的图像数据,作为下游单元的校正单元230使用同步化后的图像数据。然而,将尚未同步化的具有Bayer阵列的RAW图像数据存储在存储器220上。因而,本典型实施例可以减小存储器220的用于存储图像数据的所需容量。
校正单元230从存储器220读取第一频带~第三频带的图像数据,并且对所读取的图像数据执行降噪。代替一次读取全部图像数据,每当执行处理时,校正单元230读取与高通滤波器231和232以及降噪电路233~235通过一个操作要处理的区域相对应的所需图像数据。因而,校正单元230包括存储器(未示出),但是与存储器220的容量相比,该存储器的所需容量十分小。例如,可以通过下面的传递函数实现高通滤波器231和232。
H(z)=1/2*(1-Z-1)...(数学式2)
校正单元230读取包括以目标像素为中心的预定数量的像素的第一频带的图像数据。然后,通过高通滤波器231来处理该第一频带的图像数据。因而,校正单元230可以提取以目标像素为中心的第一频带的图像数据的区域的高频带成分。然后,将所读取的具有预定数量的像素的第一频带的图像数据输入至高通滤波器231,以对其进行用于在各像素的位置处生成所有RGB颜色的颜色成分的信号的同步化。
降噪(NR)电路233使用从高通滤波器231输出的具有高频带成分的图像数据,并且判断图像数据的边缘的方向。更具体地,降噪电路233例如基于同步化后的G信号的颜色成分的信号水平来判断所读取图像数据的区域的边缘的方向。另外,降噪电路233执行用于在所判断出的边缘方向上对信号进行混合的处理,以对图像数据进行平滑化。以上述方式,本典型实施例减少图像数据中所包含的噪声。
同样,校正单元230读取包括以目标像素为中心的预定数量的像素的第二频带的图像数据,并且使高通滤波器232从所读取的第二频带的图像数据提取高频带成分。此外,校正单元230使降噪电路234对高通滤波器232已处理的图像数据执行降噪。
校正单元230读取包括以目标像素为中心的预定数量的像素的第三频带的图像数据。随后,在无需通过高通滤波器提取高频带成分的情况下,降噪电路235对所读取的第三频带的图像数据进行降噪。
除通过使用第一频带~第三频带的图像数据的降噪以外,校正单元230还可以执行用于校正倍率的色像差的处理和用于去除伪色的处理。即使在校正处理中要执行与降噪不同的处理来提高图像质量,也可以通过使用同步化后的第二频带的图像数据和同步化后的第三频带的图像数据来应用本发明。
随后,合成单元240将从降噪电路235输出的图像数据输入至放大电路241。放大电路241放大图像数据,以使得同一区域所包括的像素的数量变得等于从降噪电路234输出的图像数据的像素的数量。更具体地,放大电路241对从降噪电路235输出的图像数据执行上采样来增加垂直方向和水平方向两个方向上的像素的数量,以变大至上采样之前的数量的两倍。随后,将经过了上采样的图像数据输入至低通滤波器242。低通滤波器242对图像数据执行平滑化。
相加电路243通过使从低通滤波器242输出的图像数据和从降噪电路234输出的图像数据的空间相位一致,将这些图像数据合成在一起。然后,将合成后的图像数据输出至放大电路244。放大电路244放大图像数据,以使得同一区域中的像素的数量变得与从降噪电路233输出的图像数据的像素的数量相同。更具体地,放大电路244对从相加电路243输出的图像数据执行上采样来增加垂直方向和水平方向两个方向上的像素的数量,以变大至上采样之前的数量的两倍。随后,将上采样后的图像数据输入至低通滤波器245。低通滤波器245对图像数据执行平滑化。
相加电路246通过使从低通滤波器245输出的图像数据和从降噪电路233输出的图像数据的空间相位一致,将这些图像数据合成在一起,以生成与目标像素相对应的输出图像数据Sout。图像处理单元104对图像数据的所有区域执行上述处理。因而,可以生成噪声得以减少的图像数据。
在相加电路243和246的图像数据相加处理期间,使从降噪电路233和234输出的图像数据延迟,以使要相加在一起的图像数据的空间相位一致。因而,校正单元230和合成单元240可以减少存储器的所需容量。
为了使校正单元230在期望时刻读取所需区域的全部图像数据,需要使存储器220存储图像数据的所有区域的第一频带~第三频带的图像数据。如果要以与第二频带的图像数据和第三频带的图像数据同样的同步化状态将第一频带~第三频带的所有图像数据中具有最大像素数量的第一频带的图像数据存储在存储器220上,则需要存储器220具有非常大的容量。
为了防止这种情况,在本典型实施例中,以同步化状态将分别由分割单元210进行了同步化的第二频带的图像数据和第三频带的图像数据存储在存储器220上。另一方面,将第一频带的图像数据以没有进行同步化的状态存储在存储器220上。
输入至图像处理单元104的图像数据原本仅包括与各颜色用的颜色滤波器中的任一颜色相对应的颜色成分的信号。因而,如果将第一频带的图像数据原样地存储在存储器上,则图像数据的信息量不会减少。如果要对第一频带的图像数据进行可以维持Bayer阵列的校正(例如,缺陷像素的校正),则可以在将第一频带的图像数据存储在存储器220上之前,对其执行该校正。
可以假定:类似于第一频带的图像数据,对同步化后的第二频带和第三频带的图像数据进行使得各像素具有一个颜色成分信号的采样从而维持Bayer阵列结构,然后将这些图像数据存储在存储器220上。然而,在这种情况下,如果校正单元230通过再次执行同步化而生成图像,则图像数据的信息量少于以Bayer阵列进行设置之前的图像的信息量。换句话说,降噪的精度可能劣化。为了防止这种情况,本典型实施例以同步化状态将第二频带的图像数据和第三频带的图像数据存储在存储器220上。
校正单元230的高通滤波器231和232不总是必需的。如果放大电路241和244所执行的合成图像数据的合成比率可以根据第一频带的图像数据所包括的边缘成分的强度而适当地进行改变,则校正单元230可以不包括高通滤波器231和232。更具体地,随着第一频带的边缘成分所包括的图像数据的强度的变大,频带的图像数据的合成比率可以增大。
图3是示出根据本发明第二典型实施例的图像处理单元104所执行的降噪的结构的框图。
参考图3,图像处理单元104包括分割单元310、存储器320、校正单元330和合成单元340。分割单元310将输入图像数据分割成多个不同频带的图像数据。校正单元330对各频带的图像数据执行降噪。合成单元340将不同频带的图像数据合成在一起。
存储器320和合成单元340分别具有与图2所示的存储器220和合成单元240相同的结构。
在分割单元310中,低通滤波器311、缩小电路312、低通滤波器313和缩小电路314分别具有与图2所示的低通滤波器211、缩小电路212、低通滤波器213和缩小电路214相同的结构。与不图2所示的分割单元210的不同之处在于:根据本典型实施例的分割单元310还包括红色和蓝色(RB)变换电路315和316。
在校正单元330中,高通滤波器331和332以及降噪电路333~335分别具有与图2所示的校正单元230中的高通滤波器231和232以及降噪电路233~235相同的结构。与图2所示的校正单元230的不同之处在于:根据本典型实施例的校正单元330还包括RB逆变换电路336和337。
RB变换电路315和316执行用于将包括从缩小电路312和314输出的同步化后的图像数据的红色和蓝色颜色成分的信号的图像数据的水平分辨率减少至原始水平分辨率的一半的处理。更具体地,对图像数据进行处理,以使得所有像素具有绿色颜色成分的信号,而仅一部分(一半)像素具有红色和蓝色颜色成分的信号。例如,通过使用以下面的传递函数所实现的低通滤波而在水平方向上进行下采样,可以对图像数据进行间隔剔除。
H(z)=1/4*(1+2*Z-1+Z-2)...(数学式3)
RB逆变换电路336和337执行用于使水平分辨率被RB变换电路315和316减小至原始水平的一半的、包括红色和蓝色颜色成分的信号的图像数据的水平分辨率恢复为两倍高的水平的处理。更具体地,可以通过在水平方向上对图像数据进行两倍大的上采样,来对该图像数据进行插值。
与绿色颜色成分的信号相比,红色颜色成分信号和蓝色颜色成分信号对包括红色、绿色和蓝色颜色成分信号的图像数据的视觉特性的影响相对较低。因而,如果在绿色颜色成分的水平分辨率不变的情况下,将红色颜色成分和蓝色颜色成分各自的水平分辨率减小至原始水平的一半,则所拍摄图像的质量的劣化可能不会太大。
因而,在本典型实施例中,在将红色和蓝色颜色成分的水平分辨率减小至原始水平的一半之后,将第二频带的图像数据和第三频带的图像数据存储在存储器320上。因此,本典型实施例可以减少存储器320的所需容量和带宽。
可以根据摄像设备的工作模式来改变是否执行RB变换电路315和316以及RB逆变换电路336和337所执行的处理。除静止图像拍摄模式以外,近年来的数字照相机还包括诸如运动图像记录模式和高速连续拍摄模式等的多个工作模式(功能)。在运动图像记录模式和高速连续拍摄模式下,需要向数字照相机设置具有适当带宽的存储器。
如果图像传感器102处于诸如运动图像记录模式或者高速连续拍摄模式等的存储器的带宽消耗大的工作模式,则可以使RB变换电路315和316以及RB逆变换电路336和337所进行的处理有效。
另一方面,如果图像传感器102处于静止图像记录模式,则可以使RB变换电路315和316以及RB逆变换电路336和337所进行的处理无效。利用上述结构,与使RB变换电路和RB逆变换电路所进行的上述处理有效的情况相比,本典型实施例可以通过使用信息量较大的图像数据来执行降噪。因而,本典型实施例可以高精度地执行降噪。
在以上参考相应附图所述的各典型实施例中,为了便于理解,对于不同内容的处理设置不同电路。然而,可以利用集成电路来实现上述多个电路。另一方面,多个电路可以分担实现上述的一个电路所进行的处理。
如上所述,各典型实施例使用由具有Bayer阵列并且具有RGB原色用的颜色滤波器的图像传感器所生成的图像数据。然而,本发明不局限于该结构。换句话说,还可以对由具有诸如黄色(Y)、品红色(M)和青色(C)等的补色用的颜色滤波器的图像传感器所生成的图像数据执行上述处理。
在各典型实施例中,将图像数据分割成三个不同频带的图像数据。然而,可以通过可选地将图像数据仅分割成两个不同频带的图像数据来实现本发明。此外,可选地,在将图像数据分割成四个以上不同频带的图像数据的情况下,也可以实现本发明。
作为除上述方法以外的用于将图像数据分割成不同频带的多个图像数据的方法,可以可选地使用下面的方法。更具体地,可以通过小波变换而将图像数据分割成相互不同的频带的多个图像数据,以实现本发明。
此外,本发明不局限于摄像设备。如果安装了图像处理应用程序的个人计算机(PC)可以用作如下的图像处理设备,则可以通过该PC来实现本发明,其中该图像处理设备能够通过对根据各像素不同而不同的颜色成分信号执行同步化,来对包括这些信号的图像数据进行处理。
还可以通过向系统或设备提供存储用于实现这些实施例的功能的软件的程序代码的非易失性存储介质并且通过利用该系统或设备的计算机(CPU或者微处理单元(MPU))读取并执行存储在该存储介质上的程序代码来实现本发明。
尽管已经参考典型实施例说明了本发明,但是应该理解,本发明不局限于所公开的典型实施例。所附权利要求书的范围符合最宽的解释,以包含所有修改、等同结构和功能。
本申请要求2010年5月11日提交的日本专利申请2010-109548的优先权,其全部内容通过引用包含于此。
Claims (6)
1.一种图像处理设备,其包括:
带分割单元,用于基于第一图像数据而输出频带低于所述第一图像数据的频带的第二图像数据以及频带还低于所述第二图像数据的频带的第三图像数据,其中,所述第一图像数据与多个颜色成分信号相对应,并且所述第一图像数据的各像素与所述多个颜色成分信号中的一个颜色成分信号相对应;
存储器,用于存储所述第一图像数据、所述第二图像数据和所述第三图像数据;
校正单元,用于对存储在所述存储器上的所述第一图像数据、所述第二图像数据和所述第三图像数据执行校正处理;以及
合成单元,用于将所述校正单元进行了校正的所述第一图像数据、所述第二图像数据和所述第三图像数据合成在一起,
其中,从所述带分割单元输出的所述第二图像数据和所述第三图像数据各自的部分像素或者全部像素与所述多个颜色成分信号相对应,以及
其特征在于,所述存储器将所述第一图像数据以各像素与所述多个颜色成分信号中的一个颜色成分信号相对应的状态进行存储,并且将所述第二图像数据和所述第三图像数据以各自的部分像素或者全部像素与所述多个颜色成分信号相对应的状态进行存储。
2.根据权利要求1所述的图像处理设备,其中,
所述多个颜色成分信号与红色颜色成分信号、绿色颜色成分信号和蓝色颜色成分信号相对应,
所述带分割单元基于所述第一图像数据,来生成频带低于所述第一图像数据的频带并且各像素与所述多个颜色成分信号相对应的第四图像数据、以及频带低于所述第四图像数据的频带并且各像素与所述多个颜色成分信号相对应的第五图像数据,所述带分割单元进一步基于所述第四图像数据,通过减少所述第四图像数据的包括红色颜色成分信号的像素的数量和包括蓝色颜色成分信号的像素的数量,来生成第六图像数据,并且基于所述第五图像数据,通过减少所述第五图像数据的包括红色颜色成分信号的像素的数量和包括蓝色颜色成分信号的像素的数量,来生成第七图像数据,并且所述带分割单元还进一步将所述第六图像数据和所述第七图像数据分别作为所述第二图像数据和所述第三图像数据输出至所述存储器,以及
所述校正单元在将所述第六图像数据的包括红色颜色成分信号的像素的数量和包括蓝色颜色成分信号的像素的数量改变为与所述第六图像数据的包括绿色颜色成分信号的像素的数量相同之后,执行校正处理,并且进一步在将所述第七图像数据的包括红色颜色成分信号的像素的数量和包括蓝色颜色成分信号的像素的数量改变为与所述第七图像数据的包括绿色颜色成分信号的像素的数量相同之后,执行校正处理。
3.根据权利要求2所述的图像处理设备,其中,
所述带分割单元根据用于生成所述第一图像数据的图像传感器的工作模式,判断是将所述第四图像数据作为所述第二图像数据输出至所述存储器还是将所述第六图像数据作为所述第二图像数据输出至所述存储器,并且判断是将所述第五图像数据作为第三图像数据输出至所述存储器还是将所述第七图像数据作为所述第三图像数据输出至所述存储器。
4.根据权利要求1所述的图像处理设备,其中,
所述校正处理包括降噪处理、倍率色像差校正处理和伪色去除处理至少之一。
5.根据权利要求1所述的图像处理设备,其中,
所述校正单元对所述第一图像数据进行转换,以使得所述第一图像数据的各像素与所述多个颜色成分信号相对应,然后对所述第一图像数据执行所述校正处理。
6.一种图像处理设备的控制方法,包括以下步骤:
基于第一图像数据而输出频带低于所述第一图像数据的频带的第二图像数据以及频带还低于所述第二图像数据的频带的第三图像数据,其中,所述第一图像数据与多个颜色成分信号相对应,并且所述第一图像数据的各像素与所述多个颜色成分信号中的一个颜色成分信号相对应;
将所述第一图像数据、所述第二图像数据和所述第三图像数据存储在存储器上;
对存储在所述存储器上的所述第一图像数据、所述第二图像数据和所述第三图像数据执行校正处理;以及
将进行了校正的所述第一图像数据、所述第二图像数据和所述第三图像数据合成在一起,
其中,所述第二图像数据和所述第三图像数据各自的部分像素或者全部像素与所述多个颜色成分信号相对应,以及
其特征在于,所述存储器将所述第一图像数据以各像素与所述多个颜色成分信号中的一个颜色成分信号相对应的状态进行存储,并且将所述第二图像数据和所述第三图像数据以各自的部分像素或者全部像素与所述多个颜色成分信号相对应的状态进行存储。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410669965.XA CN104410786B (zh) | 2010-05-11 | 2011-05-06 | 图像处理设备和图像处理设备的控制方法 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010109548A JP4991907B2 (ja) | 2010-05-11 | 2010-05-11 | 画像処理装置、および、画像処理装置の制御方法 |
JP2010-109548 | 2010-05-11 | ||
PCT/JP2011/002551 WO2011142105A1 (en) | 2010-05-11 | 2011-05-06 | Image processing apparatus and control method for image processing apparatus |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410669965.XA Division CN104410786B (zh) | 2010-05-11 | 2011-05-06 | 图像处理设备和图像处理设备的控制方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102893609A CN102893609A (zh) | 2013-01-23 |
CN102893609B true CN102893609B (zh) | 2015-03-25 |
Family
ID=44914165
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201180023704.5A Active CN102893609B (zh) | 2010-05-11 | 2011-05-06 | 图像处理设备和图像处理设备的控制方法 |
CN201410669965.XA Active CN104410786B (zh) | 2010-05-11 | 2011-05-06 | 图像处理设备和图像处理设备的控制方法 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410669965.XA Active CN104410786B (zh) | 2010-05-11 | 2011-05-06 | 图像处理设备和图像处理设备的控制方法 |
Country Status (7)
Country | Link |
---|---|
US (1) | US9113024B2 (zh) |
EP (2) | EP2827588B1 (zh) |
JP (1) | JP4991907B2 (zh) |
CN (2) | CN102893609B (zh) |
BR (1) | BR112012028956B1 (zh) |
RU (2) | RU2523003C1 (zh) |
WO (1) | WO2011142105A1 (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9001895B2 (en) * | 2011-06-08 | 2015-04-07 | Panasonic Intellectual Property Management Co., Ltd. | Image display device and image processing device |
JP6058924B2 (ja) * | 2012-07-04 | 2017-01-11 | キヤノン株式会社 | 画像処理装置、制御方法、及びプログラム |
JP6128817B2 (ja) * | 2012-11-30 | 2017-05-17 | キヤノン株式会社 | 画像形成装置および画像形成方法 |
JP5668105B2 (ja) * | 2013-06-25 | 2015-02-12 | アキュートロジック株式会社 | 画像処理装置、画像処理方法及び画像処理プログラム |
WO2016072174A1 (ja) * | 2014-11-07 | 2016-05-12 | ソニー株式会社 | 通信制御装置、通信制御方法、プログラム及び通信制御システム |
CN105916430B (zh) | 2014-11-25 | 2019-04-23 | 索尼公司 | 内窥镜系统以及内窥镜系统的操作方法 |
JP2020061080A (ja) * | 2018-10-12 | 2020-04-16 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法 |
RU2728949C1 (ru) * | 2019-10-09 | 2020-08-03 | федеральное государственное бюджетное образовательное учреждение высшего образования "Южно-Российский государственный политехнический университет (НПИ) имени М.И. Платова" | Способ построения и обработки изображений и система его реализующая |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2003877A1 (en) * | 2006-03-31 | 2008-12-17 | Nikon Corporation | Image processing method |
Family Cites Families (33)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5596418A (en) * | 1990-08-17 | 1997-01-21 | Samsung Electronics Co., Ltd. | Deemphasis and subsequent reemphasis of high-energy reversed-spectrum components of a folded video signal |
FR2697706B1 (fr) * | 1992-11-03 | 1994-11-25 | Thomson Csf | Procédé et dispositif de réduction de débit pour l'enregistrement d'images sur magnétoscope. |
US5485215A (en) * | 1994-05-19 | 1996-01-16 | Matsushita Electric Corporation Of America | HDTV raster converter and interpolation filter with section overlap |
US6067383A (en) * | 1995-09-12 | 2000-05-23 | Matsushita Electric Industrial Co., Ltd. | Coding method, coding apparatus, wavelet transform apparatus, and wavelet reverse transform apparatus |
JP2003069998A (ja) * | 2001-08-28 | 2003-03-07 | Canon Inc | 画像処理装置及び画像処理方法 |
JP4305071B2 (ja) * | 2003-06-30 | 2009-07-29 | 株式会社ニコン | 信号補正方法 |
CN100353753C (zh) | 2004-03-01 | 2007-12-05 | 三洋电机株式会社 | 摄像装置和摄像装置的控制装置 |
JP4402994B2 (ja) * | 2004-03-23 | 2010-01-20 | 富士フイルム株式会社 | 画像処理方法および装置並びにプログラム |
JP4665422B2 (ja) | 2004-04-02 | 2011-04-06 | ソニー株式会社 | 撮像装置 |
JP4479457B2 (ja) | 2004-05-27 | 2010-06-09 | ソニー株式会社 | 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム |
JP2005354610A (ja) * | 2004-06-14 | 2005-12-22 | Canon Inc | 画像処理装置、画像処理方法および画像処理プログラム |
JP3965402B2 (ja) * | 2004-08-23 | 2007-08-29 | 富士フイルム株式会社 | ノイズ低減装置および方法ならびにノイズ低減プログラム |
EP1865460B1 (en) * | 2005-03-31 | 2011-05-04 | Nikon Corporation | Image processing method |
RU2298226C1 (ru) * | 2005-10-28 | 2007-04-27 | Самсунг Электроникс Ко., Лтд. | Способ улучшения цифровых изображений |
WO2007083783A1 (ja) * | 2006-01-20 | 2007-07-26 | Acutelogic Corporation | 光学的ローパスフィルタおよびこれを用いた撮像装置 |
JP5183880B2 (ja) * | 2006-03-14 | 2013-04-17 | ソニー株式会社 | カラーフィルタおよび撮像素子 |
US8514303B2 (en) * | 2006-04-03 | 2013-08-20 | Omnivision Technologies, Inc. | Advanced imaging systems and methods utilizing nonlinear and/or spatially varying image processing |
JP2008015741A (ja) * | 2006-07-05 | 2008-01-24 | Konica Minolta Holdings Inc | 画像処理装置、画像処理方法及びこれを用いた撮像装置 |
JP4983141B2 (ja) | 2006-08-04 | 2012-07-25 | ソニー株式会社 | カラーフィルタ |
JP2008104013A (ja) | 2006-10-19 | 2008-05-01 | Fujifilm Corp | 固体撮像素子の駆動方法及び撮像装置。 |
US7912307B2 (en) | 2007-02-08 | 2011-03-22 | Yu Wang | Deconvolution method using neighboring-pixel-optical-transfer-function in fourier domain |
JP4925198B2 (ja) * | 2007-05-01 | 2012-04-25 | 富士フイルム株式会社 | 信号処理装置および方法、ノイズ低減装置および方法並びにプログラム |
JP4386096B2 (ja) * | 2007-05-18 | 2009-12-16 | ソニー株式会社 | 画像入力処理装置、および、その方法 |
CN100562067C (zh) * | 2007-07-26 | 2009-11-18 | 上海交通大学 | 带有去噪功能的实时数字图像处理增强方法 |
JP5109551B2 (ja) * | 2007-09-21 | 2012-12-26 | コニカミノルタアドバンストレイヤー株式会社 | 画像処理装置、画像処理方法、及び撮像装置 |
WO2009066770A1 (ja) * | 2007-11-22 | 2009-05-28 | Nikon Corporation | デジタルカメラおよびデジタルカメラシステム |
JP5366619B2 (ja) * | 2008-08-12 | 2013-12-11 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム |
KR101531709B1 (ko) * | 2008-10-17 | 2015-07-06 | 삼성전자 주식회사 | 고감도 컬러 영상을 제공하기 위한 영상 처리 장치 및 방법 |
US8436909B2 (en) * | 2008-10-21 | 2013-05-07 | Stmicroelectronics S.R.L. | Compound camera sensor and related method of processing digital images |
TWI387312B (zh) * | 2008-10-28 | 2013-02-21 | Novatek Microelectronics Corp | 影像雜訊消除方法以及影像處理裝置 |
KR101538655B1 (ko) * | 2008-11-21 | 2015-07-22 | 삼성전자주식회사 | 이미지 처리장치, 이미지 처리방법 및 처리방법을 실행시키기 위한 프로그램을 저장한 기록매체 |
JP5574615B2 (ja) * | 2009-04-20 | 2014-08-20 | キヤノン株式会社 | 画像処理装置、その制御方法、及びプログラム |
US8638342B2 (en) * | 2009-10-20 | 2014-01-28 | Apple Inc. | System and method for demosaicing image data using weighted gradients |
-
2010
- 2010-05-11 JP JP2010109548A patent/JP4991907B2/ja active Active
-
2011
- 2011-05-06 EP EP14187659.9A patent/EP2827588B1/en active Active
- 2011-05-06 RU RU2012153223/07A patent/RU2523003C1/ru active
- 2011-05-06 WO PCT/JP2011/002551 patent/WO2011142105A1/en active Application Filing
- 2011-05-06 US US13/697,109 patent/US9113024B2/en active Active
- 2011-05-06 EP EP11780364.3A patent/EP2569948B1/en active Active
- 2011-05-06 CN CN201180023704.5A patent/CN102893609B/zh active Active
- 2011-05-06 CN CN201410669965.XA patent/CN104410786B/zh active Active
- 2011-05-06 BR BR112012028956-0A patent/BR112012028956B1/pt not_active IP Right Cessation
-
2014
- 2014-04-08 RU RU2014113867/07A patent/RU2557067C1/ru active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2003877A1 (en) * | 2006-03-31 | 2008-12-17 | Nikon Corporation | Image processing method |
Also Published As
Publication number | Publication date |
---|---|
CN104410786B (zh) | 2018-04-17 |
EP2827588B1 (en) | 2017-07-12 |
EP2569948B1 (en) | 2016-08-24 |
BR112012028956A2 (pt) | 2016-07-26 |
WO2011142105A1 (en) | 2011-11-17 |
EP2827588A3 (en) | 2015-02-18 |
BR112012028956B1 (pt) | 2022-03-03 |
EP2569948A1 (en) | 2013-03-20 |
CN102893609A (zh) | 2013-01-23 |
JP2011239231A (ja) | 2011-11-24 |
JP4991907B2 (ja) | 2012-08-08 |
US20130063623A1 (en) | 2013-03-14 |
EP2827588A2 (en) | 2015-01-21 |
RU2523003C1 (ru) | 2014-07-20 |
EP2569948A4 (en) | 2014-05-28 |
RU2557067C1 (ru) | 2015-07-20 |
CN104410786A (zh) | 2015-03-11 |
RU2012153223A (ru) | 2014-07-20 |
US9113024B2 (en) | 2015-08-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102893609B (zh) | 图像处理设备和图像处理设备的控制方法 | |
TWI737979B (zh) | 圖像去馬賽克裝置及方法 | |
CN103856767B (zh) | 用于处理图像的方法和设备 | |
US9344639B2 (en) | High dynamic range array camera | |
US8605164B2 (en) | Image processing apparatus, control method therefor, and storage medium | |
CN102754443B (zh) | 图像处理设备和图像处理方法 | |
RU2556022C2 (ru) | Устройство формирования цветного изображения | |
CN1312939C (zh) | 图像处理方法、图像处理程序、图像处理装置 | |
US20120287286A1 (en) | Image processing device, image processing method, and program | |
CN102870417A (zh) | 彩色成像设备 | |
CN102868890B (zh) | 图像处理设备、成像设备和图像处理方法 | |
CN102655564A (zh) | 图像处理设备、图像处理方法以及程序 | |
CN113454687A (zh) | 图像处理方法、装置和系统,计算机可读存储介质 | |
CN108122201A (zh) | 一种拜耳插值拉链效应去除方法 | |
JP5943393B2 (ja) | 撮像装置 | |
US20220309712A1 (en) | Application processor including neural processing unit and operating method thereof | |
CN101511032B (zh) | 图像信号处理设备、图像信号处理方法和成像设备 | |
CN114125319A (zh) | 图像传感器、摄像模组、图像处理方法、装置和电子设备 | |
US20240273781A1 (en) | Electronic device and method of image processing | |
US8705884B2 (en) | Image processing apparatus and method for controlling the same | |
JP2013055622A (ja) | 画像処理装置、および画像処理方法、情報記録媒体、並びにプログラム | |
JP2016076009A (ja) | 信号処理装置、および信号処理方法、撮像装置、電子機器、並びにプログラム | |
CN115719311A (zh) | 处理图像的方法和相关设备 | |
CN104754314A (zh) | 图像处理装置 | |
JP2012099870A (ja) | 撮像装置及び撮像方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |