CN102224524B - 图像处理装置以及图像处理方法 - Google Patents
图像处理装置以及图像处理方法 Download PDFInfo
- Publication number
- CN102224524B CN102224524B CN200980146419.5A CN200980146419A CN102224524B CN 102224524 B CN102224524 B CN 102224524B CN 200980146419 A CN200980146419 A CN 200980146419A CN 102224524 B CN102224524 B CN 102224524B
- Authority
- CN
- China
- Prior art keywords
- characteristic quantity
- value
- concerned pixel
- pixel
- filter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims description 10
- 238000001514 detection method Methods 0.000 claims abstract description 9
- 238000001914 filtration Methods 0.000 claims description 30
- 238000000034 method Methods 0.000 claims description 16
- 238000010586 diagram Methods 0.000 description 21
- 230000000295 complement effect Effects 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 230000001235 sensitizing effect Effects 0.000 description 9
- 230000000694 effects Effects 0.000 description 6
- 230000035945 sensitivity Effects 0.000 description 6
- 230000004304 visual acuity Effects 0.000 description 6
- 230000004075 alteration Effects 0.000 description 4
- 230000007613 environmental effect Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 2
- 230000003321 amplification Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000003278 mimic effect Effects 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 241001062009 Indigofera Species 0.000 description 1
- 206010070834 Sensitisation Diseases 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000005693 optoelectronics Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000008313 sensitization Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
- H04N25/136—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements using complementary colours
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
- G06T2207/20032—Median filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20201—Motion blur correction
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Color Television Image Signal Generators (AREA)
- Studio Devices (AREA)
Abstract
输出值计算部(5)使用由特征量检测部(1)检测到的特征量、由方向相关值计算部(2)计算出的方向相关值以及由振幅水平计算部(3)计算出的振幅水平,实施对由滤波值计算部4计算出的多个滤波值的加权运算,对该加权运算的结果乘以增感倍率来生成恰当曝光图像的像素信号。
Description
技术领域
本发明涉及一种获得高分辨率的增感图像的图像处理装置以及图像处理方法。
背景技术
在具备CCD等摄像元件的数字静态照相机(digital still camera)中,例如在夜间等低照度的条件下不使用闪光等来进行恰当曝光的摄影的情况下,一般进行长时间曝光、或者进行将从摄像元件输出的图像信号进行电放大来提升图像信号水平(level)的高灵敏度摄影。
但是,在进行长时间曝光的情况下,容易产生照相机的手抖动、被摄体抖动,因此将照相机固定在三脚上进行拍摄的限制、如人物那样有活动的物体不采用为被摄体的限制等,在摄影环境中产生限制的情况多。
另外,在进行高灵敏度摄影的情况下,在模拟电路中混入的噪声与图像信息一起以高的放大率进行放大,因此存在图像的S/N恶化的问题。
与此相对,在下面的专利文献1中公开了如下图像处理方法:使用以不同的灵敏度以及曝光时间来拍摄的2张图像中以相对低的灵敏度来拍摄的图像的信息,消除以较高灵敏度来拍摄的图像的噪声。
但是,在使用该图像处理方法的情况下,也无法防止在拍摄2张图像的期间产生的手抖动、被摄体抖动,因此在摄影环境中依然伴有限制。
另外,还使用如下方法:不使用多张图像而是使用通过在由1次摄影所获得的图像内相加附近像素的信号水平来抵消随机噪声、且提升被摄体的信号水平的数字像素混合处理。但是存在被摄体的分辨率显著下降的问题。
专利文献1:日本特开2007-312284号公报(段号[0009]、图1)
发明内容
以往的图像处理方法如以上那样构成,因此能够消除以较高灵敏度来拍摄的图像的噪声,但是无法防止在拍摄2张图像的期间产生的手抖动、被摄体抖动,存在在摄影环境中产生很多限制等课题。
本发明是为了解决如上述那样的课题而作出的,其目的在于,获得一种不受摄影环境的限制就能够获取高分辨率且低噪声的恰当曝光图像的图像处理装置以及图像处理方法。
与本发明有关的图像处理装置,设有:特征量检测单元,检测二维图像中在关注像素的周边存在的被摄体的特征量;方向相关值计算单元,从由特征量检测单元检测到的特征量计算在关注像素的周边存在的被摄体的方向相关值;滤波值计算单元,参照关注像素的像素信号以及关注像素的周边像素的像素信号来计算多个滤波值,其中,恰当曝光图像生成单元使用由特征量检测单元检测到的特征量以及由方向相关值计算单元计算出的方向相关值,实施对由滤波值计算单元计算出的多个滤波值的加权运算,对上述加权运算的结果乘以增感倍率(sensitization magnification)来生成恰当曝光图像的像素信号。
根据本发明,构成为设有:特征量检测单元,检测二维图像中在关注像素的周边存在的被摄体的特征量;方向相关值计算单元,从由特征量检测单元检测到的特征量计算在关注像素的周边存在的被摄体的方向相关值;滤波值计算单元,参照关注像素的像素信号以及关注像素的周边像素的像素信号来计算多个滤波值,其中,恰当曝光图像生成单元使用由特征量检测单元检测到的特征量以及由方向相关值计算单元计算出的方向相关值,实施对由滤波值计算单元计算出的多个滤波值的加权运算,对上述加权运算的结果乘以增感倍率来生成恰当曝光图像的像素信号,因此具有不受摄影环境的限制就能够获取高分辨率且低噪声的恰当曝光图像的效果。
附图说明
图1是表示本发明的实施方式1的图像处理装置的结构图。
图2是表示本发明的实施方式1的图像处理装置的处理内容的流程图。
图3是表示数字静态照相机中一般使用的原色系拜耳型单板图像传感器的感光元件群的示意图。
图4是表示进行特征量检测时的像素位置的关系的说明图。
图5是表示使用关注像素和水平方向的3像素的滤波运算的说明图。
图6是表示使用关注像素和垂直方向的3像素的滤波运算的说明图。
图7是表示使用包含关注像素的9像素的滤波运算的说明图。
图8是示意性地表示代表性的补色系图像传感器的感光元件和和滤色器的排列的说明图。
图9是表示将图8的二维图像转换为亮度色差系信号之后的亮度信号Y的分布的示意图。
图10是表示与式(19)(20)的滤波运算相对应的参照像素位置的说明图。
图11是表示与式(21)(22)的滤波运算相对应的参照像素位置的说明图。
图12是表示与式(23)(24)的滤波运算相对应的参照像素位置的说明图。
图13是表示能够使用的周边像素的分布的说明图。
图14是表示阈值TH1和阈值TH2的设定例的说明图。
具体实施方式
下面,为了更详细地说明本发明,按照附图来说明用于实施本发明的方式。
实施方式1.
图1是表示本发明的实施方式1的图像处理装置的结构图。
在图1中,特征量检测部1如果输入二维图像,则实施检测该二维图像中的在关注像素的周边存在的被摄体的特征量的处理。此外,特征量检测部1构成特征量检测单元。
方向相关值计算部2实施从由特征量检测部1检测到的特征量算出在关注像素的周边存在的被摄体的方向相关值的处理。此外,方向相关值计算部2构成方向相关值计算单元。
振幅水平计算部3实施从由特征量检测部1检测到的特征量算出相对于周边像素(以关注像素为中心的周边的像素)的关注像素的振幅水平的处理。此外,振幅水平计算部3构成振幅水平计算单元。
滤波值计算部4实施参照关注像素的像素信号以及周边像素的像素信号来算出多个滤波值(例如,包含关注像素的一维方向的低通滤波值、包含关注像素的一维方向的中值滤波值(median filtervalue)、包含关注像素的二维的低通滤波值、包含关注像素的二维的中值滤波值)的处理。此外,滤波值计算部4构成滤波值计算单元。
输出值计算部5实施如下处理:使用由特征量检测部1检测到的特征量、由方向相关值计算部2计算出的方向相关值以及由振幅水平计算部3计算出的振幅水平,实施对于由滤波值计算部4计算出的多个滤波值的加权运算,对该加权运算的结果乘以增感倍率来生成恰当曝光图像的像素信号。此外,输出值计算部5构成恰当曝光图像生成单元。
图2是表示本发明的实施方式1的图像处理装置的处理内容的流程图。
图3是表示数字静态照相机中一般使用的原色系拜耳型单板图像传感器的感光元件群的示意图。
在图3中,各格子表示一个感光元件,通过由二维地配置的感光元件群进行光电转换来拍摄二维图像。
使用1组该二维感光元件群的部件被称为单板图像传感器,为了能够由1组来拍摄全彩色的图像,设置有为每个感光元件分配进行拍摄的颜色的滤色器。
在图3的例子中,粘贴了G(绿)的滤色器的感光元件只拍摄G色,粘贴了R(红)的滤色器的感光元件只拍摄R色,粘贴了B(蓝)的滤色器的感光元件只拍摄B色。以图3的排列来配置滤色器的排列被称为拜耳排列,一般性地使用该排列。
接着说明动作。
在该实施方式1中,设为使用图3的原色系拜耳型单板图像传感器来拍摄。
在下面的说明中,设为各处理部在处理窗口(processing window)中进行处理,该处理窗口由以关注像素为中心的水平5×垂直5像素构成。
首先,特征量检测部1如果输入二维图像,则检测该二维图像中的在关注像素的周边存在的被摄体的特征量(步骤ST1)。
下面,具体地说明特征量检测部1的特征量的检测处理。
图4是表示进行特征量检测时的像素位置的关系的说明图。
在该实施方式1中,关于G信号,设为将GR线的G(下面表述为“Gr”)、以及GB线的G(下面表述为“Gb”)处理为不同颜色的信号。
在图4中,“P”表示具有R色、Gr色、Gb色或者B色中的某一个摄像信号的像素。
另外,“P22”是处理对象的关注像素,P00~P44为止的9像素是与5×5窗口中的P22同色的像素。
如上述那样,特征量检测部1检测在关注像素的周边存在的被摄体的特征量,具体地说,如下述的式(1)以及式(2)所示,作为被摄体的特征量,算出关注像素的水平方向的2次微分值IntH、以及关注像素的垂直方向的2次微分值IntV。
IntH=|P22-P02|+|P22-P42| (1)
IntV=|P22-P20|+|P22-P24| (2)
例如,从图4的P22看,被摄体的边沿横在垂直方向的情况下,2次微分值IntH成为比较大的值,2次微分值IntV成为比较小的值。
相反,从图4的P22看,被摄体的边沿横在水平方向的情况下,2次微分值IntV成为比较大的值,2次微分值IntH成为比较小的值。
当特征量检测部1计算2次微分值IntH、IntV作为特征量时,如下述的式(3)所示,方向相关值计算部2使用该2次微分值IntH、IntV,计算在关注像素的周边存在的被摄体的方向相关值IntHV(在关注像素与水平方向的像素或者垂直方向的像素中的某一个方向的像素的相关性高的情况下,表示该意思的指标值)(步骤ST2)。
IntHV=|IntH-IntV| (3)
在式(3)中,在关注像素与某一个方向的像素的相关性高的情况下,2次微分值IntH和2次微分值IntV之差变大,因此方向相关值IntHV成为比较大的值。
相反,在方向相关性为相同程度的情况下(例如,被摄体位于在边沿周边所没有的平坦的部分的情况、被摄体位于凹凸的顶点的情况等),方向相关值IntHV成为比较小的值。
当特征量检测部1计算2次微分值IntH、IntV作为特征量时,如下述的式(4)所示,振幅水平计算部3使用该2次微分值IntH、IntV,计算相对于周边像素的关注像素的振幅水平DifHV(表示关注像素相对于周边像素具有哪个程度的凹凸的信号水平的振幅指标值)(步骤ST3)。
DifHV=IntH+IntV (4)
在式(4)中,在关注像素位于在边沿周边所没有的平坦的部分的情况下,2次微分值IntH、IntV都是比较小的值,因此振幅水平DifHV成为小的值。
相反,在关注像素位于凹凸的顶点的情况下,2次微分值IntH、IntV都是比较大的值,因此振幅水平DifHV成为大的值。
滤波值计算部4参照关注像素的像素信号以及周边像素的像素信号,计算多个滤波值(例如,包含关注像素的一维方向的低通滤波值、包含关注像素的一维方向的中值滤波值、包含关注像素的二维的低通滤波值、包含关注像素的二维的中值滤波值)(步骤ST4)。
即,滤波值计算部4进行使用图5所示的关注像素和水平方向的3像素的滤波运算、使用图6所示的关注像素和垂直方向的3像素的滤波运算、以及使用包含图7所示的关注像素的9像素的滤波运算。
其中,关于图5的水平方向,使用下述的式(5)来计算低通滤波值lpf000,并且使用下述的式(6)来计算3像素的中值滤波值med000。
lpf000=(P22+P02+P42)/3 (5)
med000=[P22,P02,P42的中央值] (6)
另外,关于图6的垂直方向,使用下述的式(7)来计算低通滤波值lpf090,并且使用下述的式(8)来计算3像素的中值滤波值med090。
lpf090=(P22+P20+P24)/3 (7)
med090=[P22,P20,P24的中央值] (8)
另外,关于图7,使用下述的式(9)来计算低通滤波值Alpf,并且使用下述的式(10)来计算中值滤波值Amed。
Alpf
=(P22+P00+P20+P40+P02+P42+P04+P24+P44)/9 (9)
Amed
=[P22,P00,P20,P40,P02,P42,P04,P24,P44的中央值](10)
输出值计算部5使用作为由特征量检测部1检测到的特征量的2次微分值IntH、IntV、由方向相关值计算部2计算出的方向相关值IntHV以及由振幅水平计算部3计算出的振幅水平DifHV,实施对于由滤波值计算部4计算出的多个滤波值的加权运算,在该加权运算的结果上乘以增感倍率DGain来生成恰当曝光图像的像素信号Out(步骤ST5)。
下面,具体地说明基于输出值计算部5的恰当曝光图像的像素信号Out的生成处理。
首先,输出值计算部5使用由振幅水平计算部3计算出的振幅水平DifHV,将针对各方向的每一个的低通滤波值和中值滤波值加权相加。
下述的式(11)进行与图5相对应的水平方向的低通滤波值和中值滤波值的加权相加,下述的式(12)进行与图6相对应的垂直方向的低通滤波值和中值滤波值的加权相加。
另外,下述的式(13)进行与图7相对应的低通滤波值和中值滤波值的加权相加。
其中,在式(11)~(13)中,Diflimit表示振幅水平DifHV能够取的最大值,是事先设定的固定值。
另外,设为振幅水平DifHV是根据Diflimit值来事先进行了限幅处理。
dlpf000
={DifHV×med000+(Diflimit-DifHV)×lpf000}/Diflimit (11)
dlpf090
={DifHV×med090+(Diflimit-DifHV)×lpf090}/Diflimit (12)
Alpf2
={DifHV×Amed+(Diflimit-DifHV)×Alpf}/Diflimit (13)
通过输出值计算部5实施式(11)~(13)的计算,在关注像素与周边像素相比振幅大的情况下,中值滤波值的权重变大,在关注像素为孤立点噪声的情况下变得容易消除。
另外,在关注像素是与周边像素相同程度的水平地振幅小的情况下,低通滤波值的权重变大,图像的平滑效果增加。
接着,如下述的式(14)所示,输出值计算部5根据作为由特征量检测部1检测到的特征量的2次微分值IntH、IntV来进行对各方向的滤波值的加权相加。
Dlpf=(IntV×dlpf000+IntH×dlpf090)/DifHV (14)
在式(14)中,例如,在关注像素位于垂直方向的边沿上的情况下,2次微分值IntH大,2次微分值IntV小,因此Dlpf在垂直方向的滤波值dlpf090的权重变大。
另外,在关注像素位于水平方向的边沿上的情况下,2次微分值IntV大,2次微分值IntH小,因此Dlpf在水平方向的滤波值dlpf000的权重变大。
接着,输出值计算部5使用由方向相关值计算部2计算出的方向相关值IntHV,如下述的式(15)所示,通过对在水平方向或者垂直方向被加权的Dlpf和区域一样(uniform in the region)的Alpf2进行加权相加,算出作为最终的输出值的恰当曝光图像的像素信号Out。
Out
={IntHV×Dlpf+(Intlimit-IntHV)×Alpf2}
×DGain/Intlimit (15)
其中,在式(15)中,Intlimit表示方向相关值IntHV能够取的最大值,是事先设定的固定值。
另外,设为方向相关值IntHV是根据Intlimit值来事先进行了限幅处理。
另外,DGain是进行数字增感的增感倍率。
从式(15)可知:在方向相关性低的情况下,对区域一样的滤波值Alpf2加上更高权重,在方向相关性高的情况下,对方向性滤波值Dlpf加上更高权重。
从以上说明可知,根据该实施方式1,构成为设置:特征量检测部1,检测二维图像中的在关注像素的周边存在的被摄体的特征量;方向相关值计算部2,从由特征量检测部1检测到的特征量计算在关注像素的周边存在的被摄体的方向相关值;振幅水平计算部3,从由特征量检测部1检测到的特征量计算相对于周边像素的关注像素的振幅水平;以及滤波值计算部4,参照关注像素的像素信号以及周边像素的像素信号来计算多个滤波值,其中,输出值计算部5使用由特征量检测部1检测到的特征量、由方向相关值计算部2计算出的方向相关值以及由振幅水平计算部3计算出的振幅水平来实施对由滤波值计算部4计算出的多个滤波值的加权运算,在该加权运算的结果上乘以增感倍率来生成恰当曝光图像的像素信号,因此起到不受摄影环境的限制就能够获取高分辨率且低噪声的恰当曝光图像的效果。
即,根据该实施方式1,通过在1画面内进行增感处理,能够不受由使用了多个帧的增感处理产生的手抖动、被摄体抖动的影响就进行增感处理。
另外,使用低通滤波器、中值滤波器等具有噪声降低(reduction)效果的滤波器来计算恰当曝光图像的像素信号,因此与由模拟电路来对曝光不足(under exposure)的输入图像进行信号放大的情况、单纯对数字数据进行信号放大的情况相比,能够实现低噪声下的增感。
另外,对微小区域检测被摄体的特征量来计算方向相关值,根据该方向相关值来加权相加具有方向性的滤波值,因此与单纯地相加周边像素的以往的像素混合处理相比,获得高分辨率的增感图像。
另外,对微小区域检测被摄体的特征量来计算关注像素的振幅水平,根据该振幅水平来进行低通滤波值和中值滤波值的加权相加,因此获得消除图像中的随机噪声且抑制灰度平坦的部分的噪声导致的摇动的高画质的增感图像。
另外,对微小区域检测被摄体的特征量,从该特征量计算加权相加用的各种权重系数,加权相加多个滤波值,因此使所应用的滤波器无缝地(seamlessly)发生变化。因此,与按照区域的特征检测结果切换所应用的滤波器来使用的情况相比,具有图像的质感以像素单位突然变化的画质劣化变得难以产生的特征。
实施方式2.
在上述实施方式1中,表示了输入使用图3的原色系拜耳型单板图像传感器来拍摄的二维图像,但是也可以输入使用其它图像传感器来拍摄的二维图像。
但是,如果所应用的图像传感器的种类不同,则特征量检测部1、滤波值计算部4的运算稍微变化。
图8是示意性地表示代表性的补色系图像传感器的感光元件和滤色器的排列的说明图。
在补色系图像传感器中,配置有Ye(黄)、Mg(品红)、Cy(蓝绿)的补色滤波器,并且作为亮度检测用而配置有G滤色器。
在原色系传感器中,只有G对明亮度表示出充足的反应,但是在补色系传感器用滤色器中,各像素容易对明亮度表示出反应,能够从全像素取出亮度信息,因此具有拍摄的图像的分辨率高这样的特征。
在该实施方式2中,为了充分利用补色系图像传感器的高分辨率来进行处理,在将使用补色系图像传感器来拍摄的二维图像转换(未图示)为亮度色差系信号的基础上,变更运算时的参照像素位置来进行处理。
图9是表示将图8的二维图像转换为亮度色差系信号之后的亮度信号Y的分布的示意图。
使用补色系图像传感器来拍摄的二维图像是以水平2像素、垂直2像素为1单位,能够使用下述的式(16)来转换为亮度信号Y。
Y=Mg+G+Cy+Ye (16)
在上述实施方式1中,为了使用同色的像素来进行特征量的检测和滤波值的计算,如图4至图7所示,使用了隔1像素的像素,但是在补色系图像传感器中,如图9所示,在全部的像素中分布有亮度信号,因此在使用邻近关注像素Y22的像素Y11~Y33来进行运算这点上,与上述实施方式1不同。
特征量检测部1例如将式(1)(2)变形为如下述的式(17)(18),使用式(17)(18)来计算作为特征量的2次微分值IntH、IntV。
IntH=|Y22-Y12|+|Y22-Y32| (17)
IntV=|Y22-Y21|+|Y22-Y23| (18)
滤波值计算部4是通过例如代替式(5)~(10)而使用下述的式(19)~(24)来计算低通滤波值、中值滤波值。
这里,图10是表示与式(19)(20)的滤波运算相对应的参照像素位置的说明图,图11是表示与式(21)(22)的滤波运算相对应的参照像素位置的说明图。
另外,图12是表示与式(23)(24)的滤波运算相对应的参照像素位置的说明图。
lpf000=(Y22+Y12+Y32)/3 (19)
med000=[Y22,Y12,Y32的中央值] (20)
lpf090=[Y22+Y21+Y23]/3 (21)
med090=[Y22,Y21,Y23的中央值] (22)
Alpf
=(Y22+Y11+Y21+Y31+Y12+Y32+Y13+Y23+Y33)/9
(23)
Amed
=[Y22,Y11,Y21,Y31,Y12,Y32,Y13,Y23,Y33的中央值](24)
在对原色系图像传感器的处理中,无法使用同色像素不存在的邻接像素的特征量,因此例如在被摄体中存在隔1像素的条纹图样的情况下,无法恰当地检测被摄体的特征量,但是如该实施方式2那样,通过使用补色系图像传感器来进行处理,能够检测包含邻接像素的特征量,因此能够实现更高分辨率的像素混合处理。
实施方式3.
在上述实施方式1中,表示了将Gb和Gr作为别的颜色来进行处理,但是也可以将Gb和Gr作为相同的G色来进行处理。
在这种情况下,能够使用的周边像素成为图13的分布。因此,与图7不同,能够使用关注像素的在倾斜方向上邻接的像素,通过将在倾斜方向上邻接的像素用于特征量的检测、方向相关值的计算,能够实现更高分辨率的处理。
在上述实施方式1,2中,表示了在式(15)中根据方向相关值IntHV来自动地进行滤波值Dlpf和滤波值Alpf2的加权相加,但是这只不过是一个例子,也可以设为能够根据用户的喜好来进行控制的结构。
例如,如果用户预先设定阈值TH1和阈值TH2(参照图14),IntHV≤TH1,则无条件地将滤波值Alpf2设为最终的输出值Out,如果是IntHV≥TH2,则无条件地将滤波值Dlpf设为最终的输出值Out。
另外,如果是TH1<IntHV<TH2,则按照式(15)来进行基于方向相关值IntHV的加权相加。
由此,获得增加符合用户喜好的画质调整的自由度的优点。
在上述实施方式1、2中,表示了在式(15)中乘以增感倍率DGain,但是例如也可以在dlpf000、dlpf090、Alpf、Alpf2的计算过程中在相除之前乘以DGain。
由此,通过在式(9)(11)(12)(13)的相除之前乘以增感倍率DGain,能够在相除时的舍入运算中包含增感倍率DGain,因此能够实现更高精度的像素值运算。
在上述实施方式1、2中,表示了在式(13)中根据振幅水平DifHV来进行滤波值Amed和滤波值Alpf的加权相加,但是这只不过是一个例子,作为区域一样的滤波值,也可以始终使用滤波值Alpf。
在这种情况下,在方向性低的区域中,如孤立点那样的随机噪声变得难以降低,但是可以不进行式(10)和式(13)的运算,因此在对图像处理装置进行电路化的情况下,有效地削减电路规模。
在上述实施方式1、2中,表示了在式(11)以及式(12)中根据振幅水平DifHV来进行中值滤波值和低通滤波值的加权相加,但是这只不过是一个例子,例如也可以通过由用户将与振幅水平DifHV相当的参数预先作为固定参数来提供,使得固定中值滤波值和低通滤波值的权重。
在这种情况下,除了具有向用户提供画质调整的自由度的优点之外,通过与在式(13)中不进行滤波值Amed和滤波值Alpf的加权相加的结构合并,不需要计算振幅水平DifHV(不需要振幅水平计算部3),在对图像处理装置进行电路化的情况下,有效地削减电路规模。
在上述实施方式1、2中,表示了对从图像传感器输入的二维图像进行处理,但是不限于此,也可以对在各像素中备齐RGB或者亮度色差系信号的图像进行处理。
即,在上述实施方式2中,计算全像素的亮度信号之后进行处理,但是在预先备齐全像素的处理对象信号的前提下,能够构成相同的处理。
在上述实施方式1、2中,表示了特征量检测部1计算2次微分值作为特征量,但是不限于此,如果是表示区域中的被摄体的形状的物理量,则例如既可以计算1次微分值,也可以计算类似度,该类似度是通过比较为了检测水平边沿以及垂直边沿而预先定义的图案和区域的像素信号值而获得的,能够起到相同的效果。
另外,在上述实施方式1、2中,表示了特征量检测部1对水平以及垂直这2方向检测特征量,但是不限于此,例如也可以使用图4中的倾斜方向的像素P00、P40、P04、P44来检测倾斜方向的特征量。
在这种情况下,虽然运算规模增加,但是关于倾斜方向的边沿也能够以高分辨率进行再现。
产业上的可利用性
根据与本发明有关的图像处理装置以及图像处理方法,具有不受摄影环境的限制就能够获取高分辨率且低噪声的恰当曝光图像的效果。因此,适合用于获得高分辨率的增感图像的图像处理装置以及图像处理方法等。
Claims (3)
1.一种图像处理装置,具备:
特征量检测单元,检测二维图像中的在关注像素的周边存在的被摄体的特征量;
方向相关值计算单元,从由所述特征量检测单元检测到的特征量计算在所述关注像素的周边存在的被摄体的方向相关值;
滤波值计算单元,参照所述关注像素的像素信号以及所述关注像素的周边像素的像素信号来计算多个滤波值;
振幅水平计算单元,从由所述特征量检测单元检测到的特征量计算相对于周边像素的关注像素的振幅水平;以及
恰当曝光图像生成单元,使用由所述特征量检测单元检测到的特征量、由所述方向相关值计算单元计算出的方向相关值以及由所述振幅水平计算单元计算出的振幅水平,实施对由所述滤波值计算单元计算出的多个滤波值的加权运算,对所述加权运算的结果乘以增感倍率来生成恰当曝光图像的像素信号。
2.根据权利要求1所述的图像处理装置,其特征在于,
滤波值计算单元计算:包含关注像素的一维方向的低通滤波值、包含所述关注像素的一维方向的中值滤波值、包含所述关注像素的二维的低通滤波值以及包含所述关注像素的二维的中值滤波值。
3.一种图像处理方法,包括:
特征量检测步骤,特征量检测单元检测二维图像中的在关注像素的周边存在的被摄体的特征量;
方向相关值计算步骤,方向相关值计算单元从在所述特征量检测步骤中检测到的特征量,计算在所述关注像素的周边存在的被摄体的方向相关值;
滤波值计算步骤,滤波值计算单元参照所述关注像素的像素信号以及所述关注像素的周边像素的像素信号来计算多个滤波值;
振幅水平计算步骤,振幅水平计算单元从在所述特征量检测步骤中检测到的特征量,计算相对于周边像素的关注像素的振幅水平;以及
恰当曝光图像生成步骤,恰当曝光图像生成单元使用在所述特征量检测步骤中检测到的特征量、在所述方向相关值计算步骤中计算出的方向相关值以及在所述振幅水平计算步骤中计算出的振幅水平,实施对在所述滤波值计算步骤中计算出的多个滤波值的加权运算,对所述加权运算的结果乘以增感倍率来生成恰当曝光图像的像素信号。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008298074 | 2008-11-21 | ||
JP2008-298074 | 2008-11-21 | ||
PCT/JP2009/003607 WO2010058497A1 (ja) | 2008-11-21 | 2009-07-30 | 画像処理装置及び画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102224524A CN102224524A (zh) | 2011-10-19 |
CN102224524B true CN102224524B (zh) | 2014-03-12 |
Family
ID=42197942
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN200980146419.5A Active CN102224524B (zh) | 2008-11-21 | 2009-07-30 | 图像处理装置以及图像处理方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8477210B2 (zh) |
EP (1) | EP2348482B1 (zh) |
JP (1) | JP5414691B2 (zh) |
CN (1) | CN102224524B (zh) |
WO (1) | WO2010058497A1 (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5220677B2 (ja) * | 2009-04-08 | 2013-06-26 | オリンパス株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
JP6112764B2 (ja) * | 2011-11-22 | 2017-04-12 | 三菱電機株式会社 | 撮像装置、輝度制御方法、及び輝度制御装置 |
JP5843641B2 (ja) * | 2012-02-07 | 2016-01-13 | 株式会社東芝 | 画像処理装置及び固体撮像装置 |
RU2014131903A (ru) * | 2012-02-09 | 2016-02-20 | Сони Корпорейшн | Устройство обработки изображения и способ обработки изображения |
EP2835963B1 (en) | 2012-04-04 | 2017-03-22 | Mitsubishi Electric Corporation | Image processing device and method, and image processing program |
JP2013239904A (ja) * | 2012-05-15 | 2013-11-28 | Sony Corp | 画像処理装置と画像処理方法およびプログラム |
JP6305290B2 (ja) * | 2014-09-16 | 2018-04-04 | オリンパス株式会社 | 画像処理装置、撮像装置、画像処理方法 |
ITUB20154156A1 (it) * | 2015-10-06 | 2017-04-06 | Osram Spa | Sistema di illuminazione e relativo procedimento |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5454052A (en) * | 1992-04-09 | 1995-09-26 | Matsushita Electric Industrial Co., Ltd. | Method and apparatus for converting halftone images |
JP2001211388A (ja) * | 2000-01-25 | 2001-08-03 | Fuji Photo Film Co Ltd | 画像信号処理装置 |
JP2001224555A (ja) * | 2000-02-18 | 2001-08-21 | Fuji Photo Optical Co Ltd | 電子内視鏡装置 |
JP2003069901A (ja) * | 2001-08-23 | 2003-03-07 | Fuji Photo Film Co Ltd | 画像信号処理装置および欠陥画素補正方法 |
JP2008072450A (ja) * | 2006-09-14 | 2008-03-27 | Mitsubishi Electric Corp | 画像処理装置及び画像処理方法 |
JP2008172566A (ja) * | 2007-01-12 | 2008-07-24 | Mitsubishi Electric Corp | 撮像装置及び撮像方法 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5760922A (en) | 1993-10-08 | 1998-06-02 | Matsushita Electric Industrial Co., Ltd. | Area recognizing device and gradation level converting device employing area recognizing device |
JP2931520B2 (ja) | 1993-08-31 | 1999-08-09 | 三洋電機株式会社 | 単板式カラービデオカメラの色分離回路 |
JP3380065B2 (ja) * | 1993-10-08 | 2003-02-24 | 松下電器産業株式会社 | 領域識別装置及び階調変換処理装置 |
JP3503372B2 (ja) * | 1996-11-26 | 2004-03-02 | ミノルタ株式会社 | 画素補間装置及びその画素補間方法 |
JP2002064831A (ja) | 2000-08-15 | 2002-02-28 | Sanyo Electric Co Ltd | 単板式カラーカメラの色分離回路 |
US20020167602A1 (en) | 2001-03-20 | 2002-11-14 | Truong-Thao Nguyen | System and method for asymmetrically demosaicing raw data images using color discontinuity equalization |
JP3750797B2 (ja) | 2001-06-20 | 2006-03-01 | ソニー株式会社 | 画像処理方法および装置 |
US6904169B2 (en) * | 2001-11-13 | 2005-06-07 | Nokia Corporation | Method and system for improving color images |
JP3863808B2 (ja) | 2002-05-27 | 2006-12-27 | 三洋電機株式会社 | 輪郭強調回路 |
US7558435B2 (en) | 2003-03-24 | 2009-07-07 | Sony Corporation | Signal processing apparatus, method of processing a signal, recording medium, and program |
JP4277550B2 (ja) * | 2003-03-24 | 2009-06-10 | ソニー株式会社 | 信号処理装置および方法、記録媒体、並びにプログラム |
JP2005065196A (ja) * | 2003-08-20 | 2005-03-10 | Sony Corp | フィルタ、信号処理装置、信号処理方法、記録媒体及びプログラム |
CN1857008B (zh) | 2004-02-19 | 2010-05-05 | 三菱电机株式会社 | 图像处理方法 |
JP3729842B1 (ja) * | 2004-12-02 | 2005-12-21 | 三菱電機株式会社 | 画素信号処理装置及び方法 |
JP4708180B2 (ja) * | 2005-12-20 | 2011-06-22 | 三菱電機株式会社 | 画像処理装置 |
JP2007312304A (ja) | 2006-05-22 | 2007-11-29 | Fujitsu Ltd | 画像処理装置および画像処理方法 |
JP4769634B2 (ja) | 2006-05-22 | 2011-09-07 | パナソニック株式会社 | 撮像装置および撮像装置におけるノイズ除去方法 |
EP2061233B1 (en) | 2006-09-14 | 2013-06-26 | Mitsubishi Electric Corporation | Image processing device and image processing method |
US8284314B2 (en) * | 2009-12-16 | 2012-10-09 | Vixs Systems, Inc. | Adaptive edge enhancement using directional components from non-linear filtering |
-
2009
- 2009-07-30 CN CN200980146419.5A patent/CN102224524B/zh active Active
- 2009-07-30 EP EP09827280.0A patent/EP2348482B1/en active Active
- 2009-07-30 WO PCT/JP2009/003607 patent/WO2010058497A1/ja active Application Filing
- 2009-07-30 US US13/126,799 patent/US8477210B2/en active Active
- 2009-07-30 JP JP2010539107A patent/JP5414691B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5454052A (en) * | 1992-04-09 | 1995-09-26 | Matsushita Electric Industrial Co., Ltd. | Method and apparatus for converting halftone images |
JP2001211388A (ja) * | 2000-01-25 | 2001-08-03 | Fuji Photo Film Co Ltd | 画像信号処理装置 |
JP2001224555A (ja) * | 2000-02-18 | 2001-08-21 | Fuji Photo Optical Co Ltd | 電子内視鏡装置 |
JP2003069901A (ja) * | 2001-08-23 | 2003-03-07 | Fuji Photo Film Co Ltd | 画像信号処理装置および欠陥画素補正方法 |
JP2008072450A (ja) * | 2006-09-14 | 2008-03-27 | Mitsubishi Electric Corp | 画像処理装置及び画像処理方法 |
JP2008172566A (ja) * | 2007-01-12 | 2008-07-24 | Mitsubishi Electric Corp | 撮像装置及び撮像方法 |
Non-Patent Citations (2)
Title |
---|
潘琪 等.运动模糊图象中运动方向的自动检测算法.《中国体视学与图像分析》.2004,第9卷(第3期),183-185. |
运动模糊图象中运动方向的自动检测算法;潘琪 等;《中国体视学与图像分析》;20040903;第9卷(第3期);第183-185页 * |
Also Published As
Publication number | Publication date |
---|---|
US8477210B2 (en) | 2013-07-02 |
CN102224524A (zh) | 2011-10-19 |
EP2348482A4 (en) | 2013-04-03 |
JPWO2010058497A1 (ja) | 2012-04-12 |
EP2348482B1 (en) | 2015-06-17 |
EP2348482A1 (en) | 2011-07-27 |
JP5414691B2 (ja) | 2014-02-12 |
WO2010058497A1 (ja) | 2010-05-27 |
US20110205404A1 (en) | 2011-08-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102224524B (zh) | 图像处理装置以及图像处理方法 | |
JP5206796B2 (ja) | 画像入力装置 | |
CN104349018B (zh) | 图像处理设备、图像处理方法和电子设备 | |
JP5672776B2 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
EP1255410A2 (en) | System and method for capturing color images that extends the dynamic range of an image sensor | |
KR101826721B1 (ko) | 렌즈 쉐이딩 보정 팩터 산출 방법 및 그것을 이용한 렌즈 쉐이딩 보정 방법 및 렌즈 쉐이딩 보정 장치 | |
US8248496B2 (en) | Image processing apparatus, image processing method, and image sensor | |
US20050270402A1 (en) | Method, apparatus, imaging module and program for improving image quality in a digital imaging device | |
JP5709131B2 (ja) | 画像処理システム | |
CN104702854B (zh) | 图像数据的聚合高动态范围的成像系统及相关方法 | |
EP2214136B1 (en) | Method and program for controlling image capture apparatus | |
WO2012153532A1 (ja) | 撮像装置 | |
JP4104495B2 (ja) | データ処理装置、画像処理装置およびカメラ | |
JP2011013857A (ja) | 画像処理装置 | |
WO2016167140A1 (ja) | 撮像装置、撮像方法、並びにプログラム | |
WO2010149845A1 (en) | An adaptive method for processing digital images, and an image processing device | |
WO2006059365A1 (ja) | 画像処理装置、非撮像色信号算出装置及び画像処理方法 | |
JP5110289B2 (ja) | ノイズ低減装置およびデジタルカメラ | |
US11153467B2 (en) | Image processing | |
WO2017047080A1 (ja) | 映像処理装置、撮影装置、映像処理方法及びプログラム記録媒体 | |
CN113840124A (zh) | 图像处理方法及系统 | |
CN110248169B (zh) | 用于Bayer域的绿通道不平衡的图像校正方法及其图像校正系统 | |
CN109816597B (zh) | 去除图像GrGb噪声的方法和装置 | |
JP2015159472A (ja) | 撮像装置 | |
JP4309237B2 (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |