CN103020903B - 图像处理装置和图像拾取装置 - Google Patents
图像处理装置和图像拾取装置 Download PDFInfo
- Publication number
- CN103020903B CN103020903B CN201210224947.1A CN201210224947A CN103020903B CN 103020903 B CN103020903 B CN 103020903B CN 201210224947 A CN201210224947 A CN 201210224947A CN 103020903 B CN103020903 B CN 103020903B
- Authority
- CN
- China
- Prior art keywords
- image
- optical transfer
- point spread
- interpolation
- contact conditions
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims abstract description 33
- 230000006870 function Effects 0.000 claims abstract description 105
- 230000003287 optical effect Effects 0.000 claims abstract description 93
- 238000000034 method Methods 0.000 claims description 50
- 239000000203 mixture Substances 0.000 claims description 35
- 230000005484 gravity Effects 0.000 claims description 29
- 230000008569 process Effects 0.000 claims description 21
- 230000004075 alteration Effects 0.000 claims description 16
- 238000003672 processing method Methods 0.000 claims description 2
- 238000012805 post-processing Methods 0.000 description 21
- 230000006866 deterioration Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 6
- 238000011084 recovery Methods 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 2
- 239000000470 constituent Substances 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000005693 optoelectronics Effects 0.000 description 2
- 210000001747 pupil Anatomy 0.000 description 2
- 108010022579 ATP dependent 26S protease Proteins 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000009792 diffusion process Methods 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000010287 polarization Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
- H04N25/615—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4" involving a transfer function modelling the optical system, e.g. optical transfer function [OTF], phase transfer function [PhTF] or modulation transfer function [MTF]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/61—Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/76—Television signal recording
- H04N5/765—Interface circuits between an apparatus for recording and another apparatus
- H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
- H04N5/772—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
本发明提供图像处理装置和图像拾取装置。一种图像处理装置包括:存储器,配置为存储光学系统关于至少一种捕获条件的OTF或PSF的信息;以及图像处理器,配置为在点扩散函数的微分均方根值最小或者重心位置或最大强度位置彼此一致时,通过基于存储器中的至少两个OTF或PSF进行插值来产生与所捕获的图像的捕获条件对应的OTF的相的二次和更高次成分或者PSF的形状成分,并利用所生成的OTF或从所生成的PSF得到的OTF来恢复图像。
Description
技术领域
本发明涉及将因图像拾取系统的像差而劣化的(劣化)图像恢复成(原始)图像或劣化前的图像的图像处理装置和图像拾取装置。
背景技术
一种常规已知的技术是恢复由于光学系统的像差而劣化的图像(下文称为“图像恢复处理”)。一种图像恢复处理是使用光学系统的光学传递函数(“OTF”)或者与OTF具有傅里叶变换关系的点扩散函数(“PSF”)的信息的方法。
OTF具有实部和虚部,通常作为二维数据存储在存贮器(诸如存储器)中。以下将将该二维数据称为“OTF数据”。在一般的图像恢复处理中,为每个RGB准备OTF数据,并且用于一个图像高度的OTF数据是x方向上的抽头数量×y方向上的抽头数量×2(实部、虚部)×3(色度成分)。OTF和PSF根据捕获条件(诸如通过光学系统捕获的图像的图像高度以及光学系统的焦距、F值和物距)而不同。
日本专利特开No.(“JP”)2005-308490提出了一种用于对具有任意物距的玻璃的光学特性进行插值的方法,JP 2003-132351采取椭圆PSF和通过根据图像高度位置进行插值来产生PSF的方法。
以上存储关于每种色度成分和至少一种捕获条件的OTF数据的方法使得数据量庞大。因此,本发明人尝试存储与图像处理装置(或图像拾取装置)中的代表性捕获条件对应的离散OTF数据并且通过利用所存储的OTF数据进行插值来产生与其余捕获条件对应的OTF数据。此时,在OTF数据的减少数据量与插值精度(图像恢复精度)之间存在权衡关系。
然而,当在用于插值的PSF的重心位置彼此不一致(或者OTF的相的一次成分彼此不一致)时对PSF或OTF数据进行插值时,插值不可能是高精度的。现有技术未提及该问题的解决方案。
发明内容
本发明提供一种能抑制要存储的OTF数据容量并执行高精度图像恢复的图像处理装置和图像拾取装置。
虽然以上常规问题论述了OTF,但是PSF与OTF具有傅里叶变换关系,因此当PSF数据被存储且用于图像恢复处理时,发生相同问题。
根据本发明的图像处理装置或图像拾取装置包括:存储器,配置为存储图像拾取光学系统关于至少一种捕获条件的光学传递函数或点扩散函数的信息;以及图像处理器,配置为在重心位置或最大强度位置彼此一致或者点扩散函数的微分均方根值最小时,通过基于与不同捕获条件对应并且从存储在所述存储器中的信息得到的至少两个光学传递函数或点扩散函数进行插值,来产生与通过所述图像拾取光学系统捕获的图像的捕获条件对应的光学传递函数的相的二次和更高次成分或者点扩散函数的形状成分,并且利用从通过所述插值产生的光学传递函数得到的光学传递函数或者从通过所述插值产生的点扩散函数得到的光学传递函数来恢复所述图像。
从以下参照附图对示例性实施例的描述,本发明的进一步特征将会变得显然。
附图说明
图1A是图像处理装置的框图,图1B是根据第一实施例的图像恢复处理的流程图。
图2A和图2B是用于说明根据第一实施例的存储在图1A所示的存储器中的数据的生成例子的视图。
图3A和图3B是用于说明根据第一实施例的图1B所示的S16的视图。
图4是根据第二实施例的数字摄像机的框图。
具体实施方式
在图像恢复中,建立以下表达式,其中(x,y)是实空间,f(x,y)是被光学系统劣化之前的原始图像,h(x,y)是PSF,g(x,y)是劣化图像。
g(x,y)=∫∫f(X,Y)·h(x-X,y-Y)dXdY (1)
通过下述方式建立以下表达式,即,对表达式(1)进行傅里叶变换以将实空间(x,y)转换为频率空间(u,v),其中,F(u,v)是f(x,y)的傅里叶变换,G(u,v)是g(x,y)的傅里叶变换,H(u,v)是h(x,y)的傅里叶变换和光学传递函数(“OTF”):
G(u,v)=F(u,v)·H(u,v) (2)
从表达式(1)和(2)建立以下表达式:
F(u,v)=G(u,v)/H(u,v) (3)
因此,F(u,v)可通过在频率空间中将傅里叶变换G(u,v)除以H(u,v)而获得,原始图像f(x,y)可通过对F(u,v)进行逆傅里叶变换而获得。
因为以上处理实际上放大了噪声,所以已知的是可将以下维纳滤波器用于表达式3中的1/H(u,v),其中Γ是用于减小噪声放大量的常数:
1/H(u,v)≡1/H(u,v)·|H(u,v)|2/(|H(u,v)|2+Γ) (4)
将具有光学系统的频率和相信息的OTF乘以表达式(4)可用使由光学系统的衍射和像差引起的PSF的相为零,放大振幅的频率特性,并且提供高精度的、良好恢复的图像。
虽然因此需要获得图像拾取光学系统的精确OTF信息,但是用于摄像机的图像拾取光学系统的光学性能(诸如F值和像差)通常在图像高度之间显著地波动。为了校正物体图像的劣化,表达式(4)不能照原样用于频率空间中的批量计算,对于每个图像高度,表达式(4)转换为实空间中的(图像恢复)滤波器。
在利用图像恢复滤波器的图像恢复中,需要在装置中存储图像恢复滤波器或者用于生成图像恢复滤波器的OTF信息。当图像恢复滤波器的信息存储在图像拾取装置中时,用于校正图像劣化的计算仅是滤波处理,处理变得更快。然而,图像恢复滤波器的改变变得不可能,并且难以控制劣化校正的水平。
另一方面,如果用于生成图像恢复滤波器的OTF信息被存储,则可以根据物体图像的劣化程度来自由地控制劣化校正的水平。图像恢复滤波器可通过对OTF信息进行傅里叶变换来产生。
OTF是具有实部和虚部的二维数据。在一般的图像恢复中,波长用RGB三种色度成分的变量来表达,因此一个图像高度的OTF数据用x方向上的抽头数量×y方向上的抽头数量×2(实部、虚部)×3(色度成分)来表达。另外,OTF根据捕获条件(诸如图像高度、焦距、F值和物距)而不同。因此,存储关于每种色度成分和至少一种捕获条件的OTF数据使数据量不切实际地庞大。
因此,将与代表性捕获条件对应的离散OTF数据存储在图像处理装置(或图像拾取装置)中,并且通过利用所存储的OTF数据进行插值来产生与其余的捕获条件对应的OTF数据。此时,在OTF数据的减少数据量与插值精度(图像恢复精度)之间存在权衡关系。
关于一般图像拾取光学系统中的像差的绝对量,由波长之间的横向色差引起的对于每个波长的像点位置偏移量大于PSF的扩散,并且在离轴物点处变得特别显著。这对应于OTF的相的一次成分。OTF的相成分是atan(Im(OTF)/Re(OTF)),一次成分将被称为一次相。
然而,即使对于相同波长,PSF(点图像)的重心位置也根据捕获条件而不同。例如,当通过利用具有第一位置(诸如(0,a))处的重心位置的PSF和具有第二位置(诸如(0,b))处的重心位置的PSF执行线性插值来产生位于XY坐标系中的该第一位置与该第二位置之间的目标位置处的PSF时,插值了的PSF的形状崩坏。
因此,在对PSF的形状进行高精度插值时,本实施例使两个重心位置一致(对准或匹配)(例如,通过将它们移到原点),并且通过根据这两个重心位置进行加权来对形状进行插值。换句话说,在频率空间中消除代表PSF的重心位置的OTF的相的一次成分,并且使用二次和更高次成分用于插值。
第一实施例
图1A是根据第一实施例的图像处理装置20的框图。图1B是由根据第一实施例的图像处理装置20执行的图像恢复处理的流程图,“S”代表步骤。图1B所示的图像处理方法(图像处理程序)用于指示计算机为每个步骤服务。
图像处理装置20是与图1A的摄像机(图像拾取装置)10分开的单元,但是可如稍后所述那样与摄像机10集成。摄像机10产生因图像拾取光学系统的像差而劣化的物体图像(劣化图像)。物体图像作为图像拾取元件对图像拾取光学系统所捕获的光学图像进行光电转换的结果而产生。
图像处理装置20包括图像处理/操作单元22和存储器24,并且可包括计算机和安装在计算机中的软件(图像处理程序)。
图像处理/操作单元22是配置为提供包括图像恢复处理的图像处理的图像处理器,并且包括微计算机(处理器)。图像处理/操作单元22可通过利用存储在存储器24中的光学传递函数(“OTF”)或点扩散函数(“PSF”)的信息来恢复图像。
存储器24存储程序,该程序包含图像处理(包括图像恢复处理)和摄像机的图像拾取光学系统关于至少一种捕获条件(诸如图像高度、焦距、F值和物距)的OTF或PSF的信息。本实施例允许除了图像高度、焦距、F值和物距的组合之外的捕获条件。因为存储器24仅存储关于捕获条件的组合的一部分的OTF或PSF的信息,所以可减小存储容量。
根据本实施例,存储在存储器24中的OTF(OTF数据)或PSF的信息是从其消除了OTF的相的一次成分的二次和更高次成分的信息,或者从其消除了PSF的重心位置成分的形状成分的信息。然而,存储在存储器24中的OTF或PSF信息可以包含OTF的相的一次成分或者PSF的重心。在这种情况下,图像处理/操作单元22使用该信息来产生从其消除了OTF的相的一次成分的二次和更高次成分的插值前信息,或者从其消除了PSF的重心位置成分的形状成分的信息。
图2A和图2B是用于说明存储在存储器24中的数据的生成例子的视图。OTF是通过PSF的傅里叶变换而计算的PSF的频率响应,PSF和OTF拥有等价信息。获得PSF的方法可包括计算光学系统的波前像差,产生瞳孔函数,对瞳孔函数进行傅里叶变换和对所得绝对值取平方。
在计算波前像差中,选择参考波长和参考球面的方法是任意的。例如,所获取的PSF在通过光学系统的傍轴放大倍率确定的理想图像高度附近的计算与通过实际光学系统的光线跟踪获得的主光线的终点附近的计算之间是不同的。
根据前一种计算,PSF包含参考波长的失真成分,因此,整个PSF偏移失真量。根据后一种计算,PSF不包含参考波长的失真成分,并且PSF不偏移。
本实施例可任意地设置计算PSF时的参考球面的中心,但是如果参考球面的中心没有设置到主光线的终点,则对于计算PSF之后所计算的波长,消除了参考波长的所产生的失真成分。
将给出当两个PSF之间仅焦距不同时,在一个示范性变焦光学系统中通过插值产生具有中间焦距的PSF的描述。图像高度之间、F值之间以及物距之间的PSF插值可利用类似的方法。
用于插值的PSF可对应于单个波长,但是当波长根据任意光源的光谱强度分布而进行加权并且被累加时,可对应于多个波长。
一开始,图像处理/操作单元22选择与第一捕获条件(h1,f1,F1,d1)对应的PSF和与第二捕获条件(h1,f2,F1,d1)对应的PSF作为用于插值的两个不同的PSF数据。同时,与不同捕获条件对应的至少两个PSF或OTF用于插值是足够的。通过插值产生的PSF数据被设置为与具有图像高度hi、焦距fj、F值Fk和物距d1的捕获条件(hi,fj,Fk,d1)对应的PSF。
横向色差成分在与不同捕获条件对应的PSF(比如,第一捕获条件(h1,f1,F1,d1)的PSF和与第二捕获条件(h1,f2,F1,d1)对应的PSF)之间是不同的。假设f(x,y-a)表示与第一捕获条件(h1,f1,F1,d1)对应的PSF,g(x,y-b)表示与第二捕获条件(h1,f2,F1,d1)对应的PSF。那么,每个PSF的重心位置由于横向色差成分而在y方向上偏移“a”和“b”。XY坐标与作为用表达式(1)描述的PSF的h(x,y)的xy坐标一致。
因此,图像处理/操作单元22将两个PSF的最大强度位置或重心位置移到坐标原点,并且使这两个PSF的重心位置彼此一致。当PSF的重心位置彼此一致时,使OTF的相的一次成分大致相等。
接着,图像处理/操作单元22对PSF进行傅里叶变换,以便将它转换为OTF,并且将它存储在存储器24中。OTF的数量对应于捕获条件的数量。如图2A中的实线所包围的那样,H1(u,v)表示与第一捕获条件对应的OFT,H2(u,v)表示与第二捕获条件对应的OTF。这些OTF存储在存储器24中。
在获得作为与图像的捕获条件(h1,f3,F1,d1)对应的OTF的H3(u,v)时,与第一捕获条件(h1,f1,F1,d1)对应的OTF和与第二捕获条件(h1,f2,F1,d1)对应的OTF被从存储器24获得,并被加权和累加。
例如,在具有关系h1<h2<h3的图像高度,可对具有图像高度h1和h3的OTF进行插值,并且可产生具有图像高度h2的OTF。当变焦时的焦距具有关系f1≤f2≤f3时,可对具有焦距f1和f3的OTF进行插值,并且可产生具有焦距f2的OTF。在具有F值关系F1≤F2≤F3的光圈状态下,可对具有光圈状态F1和F3的OTF进行插值,并且可产生具有光圈状态F2的OTF。在d1≤d2≤d3的物距中,可对具有物距d1和d3的OTF进行插值,并且可产生具有物距d2的OTF。
如图2B所示,存储器24存储其中PSF的最大强度位置或重心位置偏移到原点位置的PSF数据,并且可用于以上处理。换句话说,在图2B中,均被实线包围的两个PSF(f(x,y)和g(x,y))存储在存储器24中。可以确定PSF的偏移量使得PSF的RMS值对于每种色度成分可以最小化。
例如,在具有关系h1<h2<h3的图像高度,可对具有图像高度h1和h3的PSF进行插值,并且可产生具有图像高度h2的PSF。当变焦时的焦距具有关系f1≤f2≤f3时,可对具有焦距f1和f3的PSF进行插值,并且可产生具有焦距f2的PSF。在具有F值关系F1≤F2≤F3的光圈状态下,可对具有光圈状态F1和F3的PSF进行插值,并且可产生具有光圈状态F2的PSF。在d1≤d2≤d3的物距中,可对具有物距d1和d3的PSF进行插值,并且可产生具有物距d2的PSF。
这是因为使用PSF的插值等价于使用OTF的插值。一个例子示于下面:
同时,h(x,y)表示与提供插值之后的图像拾取位置(h1,f2,F1,d1)对应的PSF,OTF(u,v)表示那样的OTF。
可以偏移它使得与第一捕获条件(h1,f1,F1,d1)和第二捕获条件(h1,f2,F1,d1)对应的PSF的最大强度位置或者均方根(“RMS”)值可以是最小的。备选地,它可与除了原点之外的位置一致。
在图像恢复处理开始之后,图像处理/操作单元22确定所捕获的图像的捕获条件是否与存储在存储器24中的捕获条件之一一致(S12)。如果是这样(S12的是),则图像处理/操作单元22使用对应的OTF数据来生成图像恢复滤波器,并且执行图像恢复(S14)。
另一方面,当与捕获条件对应的OTF没有存储在存储器24中(S12的否)时,对存储在存储器24中的OTF进行插值,并且产生OTF(S16),用所产生的OTF恢复图像。
图3是用于说明S16的细节的视图。一开始,如图3A所示,从轴向图像高度到最外离轴图像高度将图像拾取区域分成N段,将OTF与捕获条件一起存储。对于不具有OTF或捕获条件的区域,与最接近目标位置的两个图像高度位置对应的两个OTF被根据距离进行加权并被插值,并且产生与目标位置对应的OTF。
因为图像拾取光学系统的OTF根据捕获条件而不同,所以通过基于离散存在的数据、实际OTF和捕获条件进行插值来产生与捕获对象的捕获条件对应的OTF。例如,捕获条件可包含20mm的焦距f、2.8的F值和∞的物距d等。
为简单起见,将给出对第I图像高度位置处的处理的描述。如图3B中的黑点所示,实际捕获条件位于焦距、F值和物距变量的三维空间中的格点处。与其对应的OTF数据实际存在于三维空间上的捕获条件用黑点示出。捕获图像的捕获条件(hI,fj,FK,dL)可用(I,j,k,l)=(I,J,K,L)简写。
一开始,获得图3B中的黑点所示的八种实际捕获条件:(i,j,k,l)=(I,1,1,1)、(I,2,1,1)、(I,1,1,2)、(I,2,1,2)、(I,1,2,1)、(I,2,2,1)、(I,1,2,2)、(I,2,2,2)。还获取对应的OTF。
接着,如图3B中的黑三角所示,准备四种第一插值捕获条件:基于与(I,1,1,1)和(I,2,1,1)对应的两个OTF产生与(I,J,1,1)对应的OTF;基于与(I,1,1,2)和(I,2,1,2)对应的两个OTF产生与(I,J,1,2)对应的OTF;基于与(I,1,2,1)和(I,2,2,1)对应的两个OTF产生与(I,J,2,1)对应的OTF;基于与(I,1,2,2)和(I,2,2,2)对应的两个OTF产生与(I,J,2,2)对应的OTF。
接着,如图3B中的黑菱形所示,从所述四种第一插值捕获条件准备两种第二插值捕获条件:基于与(I,J,1,1)和(I,J,2,1)对应的两个OTF产生与(I,J,K,1)对应的OTF;基于与(I,J,1,2)和(I,J,2,2)对应的两个OTF产生与(I,J,K,2)对应的OTF。
接着,基于与所述两种第二插值捕获条件(I,J,K,1)和(I,J,K,2)对应的两个OTF产生与捕获条件(I,J,K,L)对应的OTF。本实施例于是通过共同使用图像高度、焦距、F值和物距之中的三个变量来提供插值。
以上例子按焦距、F值和物距的顺序提供OTF数据的插值,但是极化顺序不特别局限于该顺序。虽然本实施例提供利用线性加权的插值处理,但是可以使用利用三角函数的双三次插值或者另一类型的插值。
类似的方法可用于通过在实空间区域中对PSF进行插值并且通过执行频率转换来获得OTF。
S14和S18中的图像恢复处理将插值的OTF的H3(u,v)用于表达式(3)和(4)的H(u,v)。此时,插值的OTF在相中不具有一次成分,并且不能恢复由图像拾取光学系统的像差之中的横向色差和失真引起的劣化。然而,可恢复由另一像差成分引起的劣化。
因此,另一实施例通过将OTF的相的一次成分加到通过插值产生的OTF或者通过对经由插值产生的PSF进行傅里叶变换而产生的OTF来恢复图像。备选地,如本实施例中的S14和S18中那样,图像处理/操作单元22利用通过插值产生的OTF(其相中没有一次成分)或者通过对通过插值产生的PSF进行傅里叶变换而产生的OTF来恢复图像。与图1B所示的图像恢复处理分开,可对所恢复的图像执行已知处理,以便减小横向色差或失真。
在图2A中,在PSF的重心位置彼此一致时对两个PSF进行傅里叶变换以产生OTF,并且通过对该相的二次和更高次成分进行插值来对OTF进行插值。另外,在图2B中,在两个PSF的重心位置彼此一致时,通过插值获得与图像的捕获条件对应的PSF的相成分,然后通过傅里叶变换产生对应的OTF的相的二次和更高次成分。
本发明不限于图2A和图2B所示的实施例。例如,在两个PSF的重心位置彼此不一致时,图像处理/操作单元22对这两个PSF进行傅里叶变换。然后,图像处理/操作单元22从通过傅里叶变换产生的两个OTF中的每个消除相的一次成分,并且产生与图像的捕获条件对应的OTF的相的二次和更高次成分。
如上所述,图像处理/操作单元22可通过对于RGB的每种色度成分进行插值来产生OTF或PSF。
第二实施例
图4是根据第二实施例的数字摄像机(图像拾取装置)的框图。数字摄像机包括图像拾取光学系统401,图像拾取光学系统401包括光圈401a和聚焦透镜401b,并形成物体的光学图像。图像拾取元件402配置为将光学图像光电转换为模拟电信号。A/D转换器403将模拟电信号转换为数字信号,图像处理器404对数字信号执行各种图像处理。
各种图像处理包含以上图像恢复处理。换句话说,根据本实施例,图像处理装置作为图像处理器404合并到摄像机中。在这种情况下,离散OTF数据(或PSF数据)存储在存储器408中。经过各种处理(包含图像恢复)的图像显示在显示器405上,或者记录在图像记录介质409中。摄像机中的每个部件由系统控制器410控制。
虽然已参照示例性实施例描述了本发明,但是要理解,本发明不限于所公开的示例性实施例。下面的权利要求的范围与最宽解释一致,以涵盖所有这样的修改以及等同的结构和功能。
Claims (17)
1.一种图像处理装置,包括存储器,所述存储器配置为存储图像拾取光学系统关于捕获条件中的至少一种的光学传递函数或点扩散函数的信息,其特征在于
所述图像处理装置还包括图像处理器,所述图像处理器配置为:
在所述点扩散函数的微分均方根值最小时,或者在重心位置彼此一致时,或者在最大强度位置彼此一致时,通过基于至少两个光学传递函数或点扩散函数进行插值,来产生与通过所述图像拾取光学系统捕获的图像的捕获条件对应的光学传递函数的相的二次成分和更高次成分或者点扩散函数的形状成分,所述至少两个光学传递函数或点扩散函数与不同的捕获条件对应且是从存储在所述存储器中的所述信息得到的,并且
利用从通过所述插值已经产生的光学传递函数得到的光学传递函数或者从通过所述插值已经产生的点扩散函数得到的光学传递函数来恢复所述图像。
2.根据权利要求1所述的图像处理装置,其中,存储在所述存储器中的所述信息是所述光学传递函数的相中从其消除了一次成分的二次成分和更高次成分、或者从其消除了重心位置成分的点扩散函数的形状成分的信息。
3.根据权利要求1所述的图像处理装置,其中,存储在所述存储器中的所述信息包含所述光学传递函数的相的一次成分或所述点扩散函数的重心位置成分,并且
其中,所述图像处理器利用存储在所述存储器中的所述信息来产生所述光学传递函数的相中从其消除了所述一次成分的二次成分和更高次成分的插值前信息、或者从其消除了所述点扩散函数的重心成分的形状成分的插值前信息,并且利用所述插值前信息来执行所述插值。
4.根据权利要求1所述的图像处理装置,其中,所述图像处理器通过将所述光学传递函数的相的一次成分加到通过所述插值产生的光学传递函数或者加到通过对通过所述插值产生的点扩散函数进行傅里叶变换得到的光学传递函数来恢复所述图像。
5.根据权利要求1所述的图像处理装置,其中,所述图像处理器利用通过所述插值产生的光学传递函数或者通过对通过所述插值产生的点扩散函数进行傅里叶变换得到的光学传递函数来恢复所述图像,并且对所恢复的图像执行用于减小横向色差或失真的处理。
6.根据权利要求1所述的图像处理装置,其中,所述图像处理器在与不同捕获条件对应的两个点扩散函数的重心位置彼此一致时对所述两个点扩散函数进行傅里叶变换,并且通过对通过傅里叶变换产生的两个光学传递函数的相的二次成分和更高次成分进行插值来产生与所述图像的捕获条件对应的光学传递函数的相的二次成分和更高次成分。
7.根据权利要求1所述的图像处理装置,其中,所述图像处理器在与不同捕获条件对应的两个点扩散函数的重心位置彼此一致时通过所述插值获得与所述图像的捕获条件对应的点扩散函数的形状成分,然后通过傅里叶变换产生与所述图像的捕获条件对应的光学传递函数的相的二次成分和更高次成分。
8.根据权利要求1所述的图像处理装置,其中,所述图像处理器对于RGB中的每种色度成分通过所述插值产生所述光学传递函数或所述点扩散函数。
9.根据权利要求1所述的图像处理装置,其中,在具有关系h1<h2<h3的图像高度,所述不同捕获条件包括图像高度h1和h3,并且所述图像的捕获条件具有图像高度h2。
10.根据权利要求1所述的图像处理装置,其中,当变焦时的焦距具有关系f1≤f2≤f3时,所述不同捕获条件包括焦距f1和f3,并且所述图像的捕获条件具有焦距f2。
11.根据权利要求1所述的图像处理装置,其中,在具有关系F1≤F2≤F3的光圈状态下,所述不同捕获条件包括光圈状态F1和F3,并且所述图像的捕获条件具有光圈状态F2。
12.根据权利要求1所述的图像处理装置,其中,在d1≤d2≤d3的物距中,所述不同捕获条件包括物距d1和d3,并且所述图像的捕获条件具有物距d2。
13.根据权利要求1所述的图像处理装置,其中,所述捕获条件包括图像高度、焦距、光圈状态F值和物距。
14.一种图像处理装置,包括存储器,所述存储器配置为存储图像拾取光学系统关于捕获条件中的至少一种的光学传递函数或点扩散函数的信息,其特征在于,
所述图像处理装置还包括图像处理器,所述图像处理器配置为:
在与不同捕获条件对应的两个点扩散函数的重心位置彼此不一致时对所述两个点扩散函数进行傅里叶变换;
从通过对所述两个点扩散函数进行傅里叶变换而形成的两个光学传递函数消除相的一次成分;
通过对所述两个光学传递函数进行插值来产生与通过所述图像拾取光学系统捕获的图像的捕获条件对应的光学传递函数的相的二次成分和更高次成分;以及
利用与所述捕获条件对应的所述光学传递函数来恢复所述图像。
15.一种图像拾取装置,包括存储器,所述存储器配置为存储图像拾取光学系统关于捕获条件中的至少一种的光学传递函数或点扩散函数的信息,其特征在于,
所述图像拾取装置还包括图像处理器,所述图像处理器配置为:
在所述点扩散函数的微分均方根值最小时,或者在重心位置彼此一致时,或者在最大强度位置彼此一致时,通过基于至少两个光学传递函数或点扩散函数进行插值,来产生与通过所述图像拾取光学系统捕获的图像的捕获条件对应的光学传递函数的相的二次成分和更高次成分或者点扩散函数的形状成分,所述至少两个光学传递函数或点扩散函数与不同的捕获条件对应且是从存储在所述存储器中的所述信息得到的,并且
利用从通过所述插值已经产生的光学传递函数得到的光学传递函数或者从通过所述插值已经产生的点扩散函数得到的光学传递函数来恢复所述图像。
16.一种图像处理方法,包括:
将图像拾取光学系统关于捕获条件中的至少一种的光学传递函数或点扩散函数的信息存储在存储器中;
在所述点扩散函数的微分均方根值最小时,或者在重心位置彼此一致时,或者在最大强度位置彼此一致时,通过基于至少两个光学传递函数或点扩散函数进行插值来产生与通过所述图像拾取光学系统捕获的图像的捕获条件对应的光学传递函数的相的二次成分和更高次成分或者点扩散函数的形状成分,所述至少两个光学传递函数或点扩散函数与不同的捕获条件对应且是从存储在所述存储器中的所述信息得到的;以及
利用从通过所述插值已经产生的光学传递函数得到的光学传递函数或者从通过所述插值已经产生的点扩散函数得到的光学传递函数来恢复所述图像。
17.一种图像处理设备,包括:
用于将图像拾取光学系统关于捕获条件中的至少一种的光学传递函数或点扩散函数的信息存储在存储器中的装置;
用于在所述点扩散函数的微分均方根值最小时,或者在重心位置彼此一致时,或者在最大强度位置彼此一致时,通过基于至少两个光学传递函数或点扩散函数进行插值,来产生与通过所述图像拾取光学系统捕获的图像的捕获条件对应的光学传递函数的相的二次成分和更高次成分或者点扩散函数的形状成分的装置,所述至少两个光学传递函数或点扩散函数与不同的捕获条件对应且是从存储在所述存储器中的所述信息得到的;以及
用于利用从通过所述插值已经产生的光学传递函数得到的光学传递函数或者从通过所述插值已经产生的点扩散函数得到的光学传递函数来恢复所述图像的装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011-148164 | 2011-07-04 | ||
JP2011148164A JP5274623B2 (ja) | 2011-07-04 | 2011-07-04 | 画像処理装置、撮像装置、画像処理プログラム、および画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103020903A CN103020903A (zh) | 2013-04-03 |
CN103020903B true CN103020903B (zh) | 2015-06-17 |
Family
ID=47438445
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210224947.1A Active CN103020903B (zh) | 2011-07-04 | 2012-06-29 | 图像处理装置和图像拾取装置 |
Country Status (3)
Country | Link |
---|---|
US (1) | US8792014B2 (zh) |
JP (1) | JP5274623B2 (zh) |
CN (1) | CN103020903B (zh) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101809992B (zh) | 2007-07-30 | 2016-05-04 | 康道尔有限责任公司 | 便携式数码摄像机的部件 |
US8989447B2 (en) * | 2012-08-13 | 2015-03-24 | Texas Instruments Incorporated | Dynamic focus for computational imaging |
JP6236908B2 (ja) | 2013-06-21 | 2017-11-29 | 株式会社リコー | 撮像装置、撮像システムおよび撮像方法 |
CN105432068B (zh) | 2013-08-01 | 2018-08-24 | 富士胶片株式会社 | 摄像装置、摄像方法及图像处理装置 |
JP6318520B2 (ja) * | 2013-09-27 | 2018-05-09 | 株式会社リコー | 撮像装置、撮像システムおよび撮像方法 |
US9438771B2 (en) | 2013-10-08 | 2016-09-06 | Canon Kabushiki Kaisha | Image processing apparatus, image pickup apparatus, image pickup system, image processing method, and non-transitory computer-readable storage medium |
JP6124849B2 (ja) * | 2013-10-09 | 2017-05-10 | キヤノン株式会社 | 画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム |
CN104580879B (zh) * | 2013-10-09 | 2018-01-12 | 佳能株式会社 | 图像处理设备、图像拾取设备以及图像处理方法 |
JP6255892B2 (ja) * | 2013-10-23 | 2018-01-10 | 富士通株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP2015165610A (ja) * | 2014-02-28 | 2015-09-17 | 株式会社リコー | 撮像装置、撮像システムおよび撮像方法 |
CN106165392B (zh) * | 2014-03-31 | 2019-01-22 | 富士胶片株式会社 | 图像处理装置、摄影装置以及图像处理方法 |
JP6385206B2 (ja) * | 2014-09-02 | 2018-09-05 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 |
JP6071966B2 (ja) * | 2014-09-17 | 2017-02-01 | キヤノン株式会社 | 画像処理方法およびそれを用いた撮像装置、画像処理装置、画像処理プログラム |
CN104574302A (zh) * | 2014-12-25 | 2015-04-29 | 深圳市一体太赫兹科技有限公司 | 一种太赫兹图像的恢复方法及系统 |
KR102195407B1 (ko) * | 2015-03-16 | 2020-12-29 | 삼성전자주식회사 | 이미지 신호 프로세서와 이를 포함하는 장치들 |
JP6521763B2 (ja) * | 2015-06-26 | 2019-05-29 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、プログラム、及び記録媒体 |
EP3348015B1 (en) * | 2015-09-07 | 2022-09-07 | Cohere Technologies, Inc. | Multiple access using orthogonal time frequency space modulation |
KR20170138644A (ko) | 2016-06-08 | 2017-12-18 | 삼성전자주식회사 | Pop 구조의 반도체 어셈블리 및 이를 포함하는 전자 장치 |
US11308592B2 (en) | 2018-10-04 | 2022-04-19 | Canon Kabushiki Kaisha | Image processing method, image processing apparatus, imaging apparatus, and storage medium, that correct a captured image using a neutral network |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102082912A (zh) * | 2009-11-30 | 2011-06-01 | 佳能株式会社 | 图像拍摄装置及图像处理方法 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4067806B2 (ja) * | 2001-10-22 | 2008-03-26 | オリンパス株式会社 | 画像処理装置及びその方法 |
JP4846985B2 (ja) * | 2004-04-20 | 2011-12-28 | セイコーオプティカルプロダクツ株式会社 | 光学特性補間方法、眼鏡装用シミュレーション画像処理方法、眼鏡装用シミュレーション画像処理装置、眼鏡レンズの評価方法、眼鏡レンズの評価装置 |
JP2007322560A (ja) * | 2006-05-30 | 2007-12-13 | Kyocera Corp | 撮像装置、並びにその製造装置および製造方法 |
JP4749959B2 (ja) * | 2006-07-05 | 2011-08-17 | 京セラ株式会社 | 撮像装置、並びにその製造装置および製造方法 |
JP4749985B2 (ja) * | 2006-09-28 | 2011-08-17 | 京セラ株式会社 | 撮像装置、並びにその製造装置および製造方法 |
US8169516B2 (en) * | 2008-07-18 | 2012-05-01 | Ricoh Co., Ltd. | Electo-optical color imaging systems having strong lateral chromatic aberration compensated by digital image processing |
JP4618355B2 (ja) * | 2008-09-25 | 2011-01-26 | ソニー株式会社 | 画像処理装置及び画像処理方法 |
JP5284537B2 (ja) * | 2010-03-31 | 2013-09-11 | キヤノン株式会社 | 画像処理装置、画像処理方法、画像処理プログラム、およびそれを用いた撮像装置 |
JP5188651B2 (ja) * | 2010-03-31 | 2013-04-24 | キヤノン株式会社 | 画像処理装置、およびそれを用いた撮像装置 |
-
2011
- 2011-07-04 JP JP2011148164A patent/JP5274623B2/ja active Active
-
2012
- 2012-06-29 US US13/537,176 patent/US8792014B2/en active Active
- 2012-06-29 CN CN201210224947.1A patent/CN103020903B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102082912A (zh) * | 2009-11-30 | 2011-06-01 | 佳能株式会社 | 图像拍摄装置及图像处理方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2013016008A (ja) | 2013-01-24 |
US8792014B2 (en) | 2014-07-29 |
JP5274623B2 (ja) | 2013-08-28 |
CN103020903A (zh) | 2013-04-03 |
US20130010158A1 (en) | 2013-01-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103020903B (zh) | 图像处理装置和图像拾取装置 | |
US8432479B2 (en) | Range measurement using a zoom camera | |
JP5709911B2 (ja) | 画像処理方法、画像処理装置、画像処理プログラムおよび撮像装置 | |
US11195257B2 (en) | Image processing method, image processing apparatus, imaging apparatus, lens apparatus, storage medium, and image processing system | |
JP4942216B2 (ja) | 画像処理方法、画像処理装置、撮像装置及びプログラム | |
EP2536125B1 (en) | Imaging device and method, and image processing method for imaging device | |
JP5535053B2 (ja) | 画像処理装置、及び画像処理方法 | |
CN102957845B (zh) | 图像处理程序、方法、装置和图像拾取装置 | |
CN104363986A (zh) | 一种图像处理方法和设备 | |
CN103971331B (zh) | 图像处理装置、图像拾取装置和图像处理方法 | |
CN104580879A (zh) | 图像处理设备、图像拾取设备以及图像处理方法 | |
US9473700B2 (en) | Camera systems and methods for gigapixel computational imaging | |
JP2012073691A (ja) | 画像処理装置、撮像装置、画像処理方法、及び、プログラム | |
CN103426147A (zh) | 图像处理装置、图像拾取装置和图像处理方法 | |
US9247111B2 (en) | Imaging device using an optical phase filter that moduates a optical transfer function of an optical image of an object | |
JP2015004883A (ja) | 結像光学系および撮像システムおよび撮像方法 | |
US11599973B2 (en) | Image processing apparatus, lens apparatus, and image processing method for sharpening processing | |
JP2012156716A (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム。 | |
JP2013033496A (ja) | 画像処理装置、撮像装置、画像処理方法、及び、プログラム | |
JP2010177919A (ja) | 画像記録装置及び画像記録装置の製造装置 | |
JP6537228B2 (ja) | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 | |
JP6333076B2 (ja) | 撮像装置、撮像装置の制御方法、プログラム、および、記憶媒体 | |
JP5344647B2 (ja) | 画像処理方法、画像処理装置および画像処理プログラム | |
EP0623209A4 (en) | Multifocal optical apparatus. | |
JP6221399B2 (ja) | 撮像システムおよび結像光学系および撮像システムの製造方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |