JP6004221B2 - Image processing device - Google Patents

Image processing device Download PDF

Info

Publication number
JP6004221B2
JP6004221B2 JP2012065092A JP2012065092A JP6004221B2 JP 6004221 B2 JP6004221 B2 JP 6004221B2 JP 2012065092 A JP2012065092 A JP 2012065092A JP 2012065092 A JP2012065092 A JP 2012065092A JP 6004221 B2 JP6004221 B2 JP 6004221B2
Authority
JP
Japan
Prior art keywords
shading correction
color shading
signal
color
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012065092A
Other languages
Japanese (ja)
Other versions
JP2013198041A (en
Inventor
剛志 森谷
剛志 森谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Priority to JP2012065092A priority Critical patent/JP6004221B2/en
Publication of JP2013198041A publication Critical patent/JP2013198041A/en
Application granted granted Critical
Publication of JP6004221B2 publication Critical patent/JP6004221B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、画像処理装置に関する。   The present invention relates to an image processing apparatus.

従来から、撮像画像の色シェーディング補正を行う技術が知られている。例えば下記の特許文献1には、被写体明度や色温度などに基づいて所定の色シェーディング補正を行う構成が記載されている。また、特許文献2には、光学系データと色温度との組み合わせを用いて色シェーディング補正を行う構成が記載されている   Conventionally, a technique for performing color shading correction of a captured image is known. For example, Patent Document 1 below describes a configuration in which predetermined color shading correction is performed based on subject brightness, color temperature, and the like. Japanese Patent Application Laid-Open No. H10-228561 describes a configuration in which color shading correction is performed using a combination of optical system data and color temperature.

また、下記の特許文献3には、フィルタのカットオフ周波数近傍の帯域において相対輝度を検出し、検出結果に応じて色シェーディング補正係数を選択する方法が記載されている。また、特許文献4には、色温度の推定結果に基づいて色シェーディング計数を補正する方法が記載されている。また、特許文献5には、撮像素子が検出した色分布に基づいて照明光の種類を判定し、その判定結果に応じて色シェーディング補正の補正量を設定する方法が記載されている。   Patent Document 3 below describes a method of detecting relative luminance in a band near a filter cutoff frequency and selecting a color shading correction coefficient in accordance with the detection result. Patent Document 4 describes a method of correcting a color shading count based on a color temperature estimation result. Patent Document 5 describes a method of determining the type of illumination light based on the color distribution detected by the image sensor and setting a correction amount for color shading correction according to the determination result.

特開2007−104580号公報JP 2007-104580 A 特開2008−35282号公報JP 2008-35282 A 特開2011−091513号公報JP 2011-091513 A 特開2010−147800号公報JP 2010-147800 A 特開2009−088800号公報JP 2009-088800 A

上記従来の技術では、被写体明度(輝度)、色温度や色分布に基づいて色シェーディングを推定しているが、光源が異なる場合であっても被写体明度、色温度や色分布などのパラメータは近似した値となる場合がある。このため、被写体明度、色温度、または色分布等に基づいて色シェーディングを精度良く推定して補正することは困難である。特に、上記従来の技術では、近赤外光付近のスペクトラム含有量が異なる光源の場合、シェーディング補正に過不足が生じ、シェーディングを補正することは困難であった。   In the above conventional techniques, color shading is estimated based on subject brightness (luminance), color temperature, and color distribution, but parameters such as subject brightness, color temperature, and color distribution are approximate even when the light source is different. The value may be For this reason, it is difficult to accurately estimate and correct color shading based on subject brightness, color temperature, color distribution, or the like. In particular, in the conventional technique described above, in the case of light sources having different spectrum contents in the vicinity of near-infrared light, shading correction is excessive and insufficient, and it is difficult to correct shading.

そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、色シェーディングを精度良く推定して処理を行うことが可能な、新規かつ改良された画像処理装置を提供することにある。   Accordingly, the present invention has been made in view of the above problems, and an object of the present invention is to provide a new and improved image processing apparatus capable of accurately estimating and processing color shading. Is to provide.

上記課題を解決するために、本発明のある観点によれば、撮像画像を取得する撮像画像取得部と、前記撮像画像に複数の異なる色シェーディング補正を適用した結果に基づいて、前記撮像画像に発生する色シェーディングを推定する色シェーディング推定部と、前記色シェーディング推定部が推定した色シェーディングに基づいて、前記撮像画像に基づく処理を行う処理部と、を備える画像処理装置が提供される。   In order to solve the above-described problem, according to an aspect of the present invention, a captured image acquisition unit that acquires a captured image and a result obtained by applying a plurality of different color shading corrections to the captured image are applied to the captured image. There is provided an image processing apparatus comprising: a color shading estimation unit that estimates generated color shading; and a processing unit that performs processing based on the captured image based on the color shading estimated by the color shading estimation unit.

上記構成によれば、撮像画像に複数の異なる色シェーディング補正を適用した結果に基づいて、撮像画像に発生する色シェーディングを推定するため、色シェーディングを高精度に推定することが可能となる。   According to the above configuration, since the color shading generated in the captured image is estimated based on the result of applying a plurality of different color shading corrections to the captured image, the color shading can be estimated with high accuracy.

また、所定の光源毎に最適化した複数の色シェーディング補正係数を記憶する色シェーディング補正係数記憶部と、前記撮像画像を複数のブロックに分割するブロック分割部と、前記ブロック毎に画素値を統計することでブロック統計値を算出する統計値算出部と、を備え、前記色シェーディング推定部は、前記ブロック統計値に前記色シェーディング補正係数を乗算した後、ブロック毎にR信号、G信号及びB信号に対するR信号の比を算出し、前記複数の色シェーディング補正係数の中から、画像中央部から周辺部へ向けて連続するブロック群内の前記R信号の比の変動が最少となる色シェーディング補正係数を選択する。この構成によれば、色シェーディング補正係数記憶部に記憶された複数の色シェーディング補正係数の中から、画像中央部から周辺部へ向けて連続するブロック群内の前記R信号の比の変動が最少となる色シェーディング補正係数が選択される。従って、画像周辺部でのR画素値の落ち込みを補償することが可能となり、最適な色シェーディング補正係数を選択することが可能となる。   In addition, a color shading correction coefficient storage unit that stores a plurality of color shading correction coefficients optimized for each predetermined light source, a block division unit that divides the captured image into a plurality of blocks, and a pixel value statistically for each block The color shading estimation unit multiplies the block statistical value by the color shading correction coefficient, and then outputs an R signal, a G signal, and a B signal for each block. The ratio of the R signal to the signal is calculated, and the color shading correction that minimizes the variation in the ratio of the R signal in the block group that continues from the central portion to the peripheral portion of the image among the plurality of color shading correction coefficients. Select a coefficient. According to this configuration, among the plurality of color shading correction coefficients stored in the color shading correction coefficient storage unit, the variation in the ratio of the R signal in the block group continuous from the central part of the image to the peripheral part is minimized. The color shading correction coefficient is selected. Accordingly, it is possible to compensate for the drop in the R pixel value in the peripheral portion of the image, and it is possible to select an optimal color shading correction coefficient.

また、前記色シェーディング推定部は、画像中央部から周辺部へ向けて連続するブロック群内の前記R信号の比の変動に基づいてR信号偏移度を算出し、全てのR信号偏移度のうち最も小さいものに対応する色シェーディング補正係数を選択する。この構成によれば、全てのR信号偏移度のうち最も小さいものに対応する色シェーディング補正係数が選択されるため、選択した色シェーディング補正係数を分割ブロックに適用した場合に、画像中央部から周辺部にかけてのR信号の比の変動が最も小さくなる。従って、画像周辺部でのR画素値の落ち込みを補償することが可能となり、最適な色シェーディング補正係数を選択することが可能となる。   The color shading estimation unit calculates an R signal deviation degree based on a change in the ratio of the R signal in a block group continuous from the central part of the image toward the peripheral part, and all the R signal deviation degrees are calculated. The color shading correction coefficient corresponding to the smallest one is selected. According to this configuration, since the color shading correction coefficient corresponding to the smallest one of all the R signal deviation degrees is selected, when the selected color shading correction coefficient is applied to the divided block, the color shading correction coefficient is selected from the center of the image. The fluctuation of the ratio of the R signal to the peripheral part is the smallest. Accordingly, it is possible to compensate for the drop of the R pixel value in the peripheral portion of the image, and it is possible to select an optimal color shading correction coefficient.

また、画像中央部から周辺部へ向けて連続するブロック群内の前記R信号の比の分散値または標準偏差を用いて前記R信号偏移度を算出する。この構成によれば、R信号偏移度は、ブロック群内の前記R信号の比の分散値または標準偏差を用いて算出される。従って、R信号偏移度に基づいてブロック群内のR信号の比の変動が最も小さい色シェーディング補正係数を選択することができる。   Further, the R signal deviation degree is calculated using a variance value or a standard deviation of the ratio of the R signals in a block group continuous from the central portion of the image toward the peripheral portion. According to this configuration, the R signal deviation degree is calculated using a variance value or a standard deviation of the ratio of the R signals in the block group. Accordingly, it is possible to select a color shading correction coefficient with the smallest variation in the ratio of the R signal in the block group based on the R signal deviation degree.

また、前記処理部は、前記色シェーディング推定部が選択した色シェーディング補正係数に基づいて、前記撮像画像の色シェーディングを補正する。この構成によれば、撮像画像の色シェーディングは、色シェーディング推定部が選択した色シェーディング補正係数に基づいて補正される。従って、撮像画像の色シェーディングを高精度に補正することができる。   The processing unit corrects the color shading of the captured image based on the color shading correction coefficient selected by the color shading estimation unit. According to this configuration, the color shading of the captured image is corrected based on the color shading correction coefficient selected by the color shading estimation unit. Accordingly, the color shading of the captured image can be corrected with high accuracy.

また、前記処理部は、前記色シェーディング推定部が選択した色シェーディング補正係数に基づいて、光源に近赤外光付近の波長の光線が含まれるかを判定して光源を推定する。この構成によれば、光源に近赤外光付近の波長の光線が含まれるかが、色シェーディング推定部が選択した色シェーディング補正係数に基づいて判定される。従って、光源の種類を高精度に判定することが可能となる。   In addition, the processing unit determines whether the light source includes a light beam having a wavelength near near infrared light based on the color shading correction coefficient selected by the color shading estimation unit, and estimates the light source. According to this configuration, it is determined based on the color shading correction coefficient selected by the color shading estimation unit whether the light source includes a light beam having a wavelength near near infrared light. Therefore, the type of light source can be determined with high accuracy.

本発明によれば、色シェーディングを精度良く推定して補正することが可能な画像処理装置を提供することができる。   According to the present invention, it is possible to provide an image processing apparatus capable of accurately estimating and correcting color shading.

シェーディングが発生した様子を示す図である。It is a figure which shows a mode that the shading generate | occur | produced. 本実施形態に係る画像処理装置を備えたデジタルスチルカメラを示すブロック図である。It is a block diagram which shows the digital still camera provided with the image processing apparatus which concerns on this embodiment. 撮像素子のR信号の受光感度と赤外カットフィルタの入射角度の違いによるカットオフ周波数の差異を、撮像素子の中央部と周辺部で比較した特性図である。It is the characteristic figure which compared the difference of the cutoff frequency by the difference in the light reception sensitivity of the R signal of an image sensor, and the incident angle of an infrared cut filter in the center part and peripheral part of the image sensor. 本実施形態に係るデータフローを示す模式図である。It is a schematic diagram which shows the data flow which concerns on this embodiment. シェーディング推定部の内部処理を示すフローチャートである。It is a flowchart which shows the internal process of a shading estimation part. シェーディング補正係数記憶部に記憶されたシェーディング補正係数を示す特性図である。It is a characteristic view which shows the shading correction coefficient memorize | stored in the shading correction coefficient memory | storage part. キャプチャー画像にシェーディング補正を行った場合に得られる結果画像を示す図である。It is a figure which shows the result image obtained when shading correction is performed to a captured image. R信号変動値を算出するブロック群の設定例を示す模式図である。It is a schematic diagram which shows the example of a setting of the block group which calculates R signal fluctuation value. 最適なシェーディング補正係数が算出される過程を示す模式図である。It is a schematic diagram which shows the process in which the optimal shading correction coefficient is calculated.

以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。   Exemplary embodiments of the present invention will be described below in detail with reference to the accompanying drawings. In addition, in this specification and drawing, about the component which has the substantially same function structure, duplication description is abbreviate | omitted by attaching | subjecting the same code | symbol.

最初にデジタルカメラ等において発生するシェーディングについて説明する。図1は、シェーディングが発生した様子を示す図である。デジタルカメラなどの電子的撮像装置においては、レンズ等の光学系の影響によって、図1に示すような画像周辺部の光量が減衰するレンズシェーディング(Lens Sharding)と呼ばれる不自然な結果(Artifact)が発生することが知られている。特に、撮像素子より得られた画像RGB(赤、緑、青)信号の色別にシェーディング特性が異なることによって発生する色むらを、色シェーディングと称する。このため、デジタルカメラでは、シェーディングを補正するための処理が行われる。   First, shading that occurs in a digital camera or the like will be described. FIG. 1 is a diagram illustrating a state in which shading has occurred. In an electronic imaging device such as a digital camera, an unnatural result (Artifact) called lens shading in which the amount of light at the periphery of an image is attenuated as shown in FIG. 1 due to the influence of an optical system such as a lens. It is known to occur. In particular, color unevenness that occurs due to different shading characteristics for each color of image RGB (red, green, blue) signals obtained from the image sensor is referred to as color shading. For this reason, in the digital camera, processing for correcting shading is performed.

図2は、本実施形態に係る画像処理装置を備えたデジタルスチルカメラ(Digital still camera)100を示すブロック図である。図2に示すように、デジタルカメラ100は、レンズ光学系102、撮像素子104、撮像素子104の前面に装着された赤外(IR)カットフィルタ106、AFE回路(A/D変換部)108、画像信号処理回路110、画像表示部112、画像記録部114、画像ブロック統計回路116、ドライバ118、タイミングジェネレータ(TG)120、デバイス制御部122、露出補正算出部124、ホワイトバランス(WB)補正係数算出部128、色シェーディング推定部130、シェーディング補正係数記憶部132を有して構成される。   FIG. 2 is a block diagram illustrating a digital still camera 100 including the image processing apparatus according to the present embodiment. As shown in FIG. 2, the digital camera 100 includes a lens optical system 102, an image sensor 104, an infrared (IR) cut filter 106 mounted on the front surface of the image sensor 104, an AFE circuit (A / D converter) 108, Image signal processing circuit 110, image display unit 112, image recording unit 114, image block statistical circuit 116, driver 118, timing generator (TG) 120, device control unit 122, exposure correction calculation unit 124, white balance (WB) correction coefficient A calculation unit 128, a color shading estimation unit 130, and a shading correction coefficient storage unit 132 are included.

図2に示す構成において、レンズ光学系102は、レンズ102a、絞り102b、シャッター102c等を備え、被写体像を撮像素子104の撮像面に結像する。レンズ光学系102のレンズ102a、絞り102b、シャッター102cは、デバイス制御部122によってドライバ118を介して駆動される。露出補正算出部124は、後述するブロック統計値に基づいて露出補正のパラメータを算出し、デバイス制御部122はこのパラメータに基づいて絞り102b、シャッター102cを駆動する。また、デバイス制御部122は、タイミングジェネレータ120を制御し、撮像素子104を駆動するためのタイミングを生成させる。ホワイトバランス補正係数算出部128は、ブロック統計値に基づいてホワイトバランスの補正係数を算出する。画像表示部112は、液晶表示ディスプレイ(LCD)等から構成され、撮像素子104で撮像された撮像画像に対して画像信号処理回路110で処理が施されて得られた画像を表示する。画像記録部114は、撮像素子で撮像された撮像画像に対して画像信号処理回路110で処理が施されて得られた画像を記憶するメモリである。   In the configuration shown in FIG. 2, the lens optical system 102 includes a lens 102 a, a diaphragm 102 b, a shutter 102 c, and the like, and forms a subject image on the imaging surface of the imaging element 104. The lens 102a, the diaphragm 102b, and the shutter 102c of the lens optical system 102 are driven by the device control unit 122 via the driver 118. The exposure correction calculation unit 124 calculates an exposure correction parameter based on a block statistical value described later, and the device control unit 122 drives the aperture 102b and the shutter 102c based on the parameter. The device control unit 122 also controls the timing generator 120 to generate timing for driving the image sensor 104. The white balance correction coefficient calculation unit 128 calculates a white balance correction coefficient based on the block statistical value. The image display unit 112 is configured by a liquid crystal display (LCD) or the like, and displays an image obtained by processing the captured image captured by the image sensor 104 by the image signal processing circuit 110. The image recording unit 114 is a memory that stores an image obtained by processing the captured image captured by the imaging element by the image signal processing circuit 110.

デジタルカメラ100のような電子的撮像装置においては、CCD、CMOSなどの光電変換を行う撮像素子104より取得された画像信号(RGB色信号)は、CDS回路(不図示)による信号処理が施された後、AFE回路によってA/D変換されてデジタル信号となる。その画像信号は、画像信号処理回路110へ送られる。画像信号処理回路110は、Demosaic処理部110a、エッジ(Edge)強調部110b、ホワイトバランス(WB)補正部110c、色シェーディング補正部110d、ガンマ(Gamma)補正部110e、光源推定部110fを備えており、各部において、Demosaic処理、エッジ(Edge)強調処理、ホワイトバランス(WB)補正処理、シェーディング補正処理、ガンマ(Gamma)補正処理など、数多くの電子的処理が行われて画像記録が行われる。また、後述するように、光源推定部110fは、シェーディング補正係数の算出結果に基づいて光源を推定する。なお、色シェーディング補正部110d、光源推定部110fは、シェーディング推定部130が推定した色シェーディングに基づいて、撮像画像に基づく処理(シェーディング補正処理、光源推定処理)を行う処理部として機能する。   In an electronic imaging apparatus such as the digital camera 100, an image signal (RGB color signal) acquired from an imaging element 104 that performs photoelectric conversion such as CCD or CMOS is subjected to signal processing by a CDS circuit (not shown). After that, it is A / D converted by the AFE circuit to become a digital signal. The image signal is sent to the image signal processing circuit 110. The image signal processing circuit 110 includes a demosaic processing unit 110a, an edge enhancement unit 110b, a white balance (WB) correction unit 110c, a color shading correction unit 110d, a gamma (Gamma) correction unit 110e, and a light source estimation unit 110f. In each unit, image recording is performed by performing a large number of electronic processing such as demosaicing processing, edge enhancement processing, white balance (WB) correction processing, shading correction processing, and gamma correction processing. As will be described later, the light source estimation unit 110f estimates the light source based on the calculation result of the shading correction coefficient. Note that the color shading correction unit 110d and the light source estimation unit 110f function as processing units that perform processing (shading correction processing, light source estimation processing) based on the captured image based on the color shading estimated by the shading estimation unit 130.

色シェーディング補正部110dは、撮影時に発生するシェーディングを補正する。一般的には、色シェーディング補正部110dは、レンズ光学系102のレンズ102aのズーム(Zoom)や絞り102bといった光学要素の状態、露出補正算出部124が算出した被写体明度、ホワイトバランス(WB)補正係数算出部128が算出したホワイトバランスゲイン(White Balance Gain)又は色温度等の光源情報を参照し、撮影時に発生するシェーディングを補正する。なお、図中の色シェーディング補正部110dを、画像ブロック(Block)統計回路126の前段に構成することもできる。   The color shading correction unit 110d corrects shading that occurs during shooting. In general, the color shading correction unit 110d corrects the state of optical elements such as the zoom and the aperture 102b of the lens 102a of the lens optical system 102, the subject brightness and white balance (WB) correction calculated by the exposure correction calculation unit 124. With reference to light source information such as white balance gain or color temperature calculated by the coefficient calculation unit 128, shading that occurs during shooting is corrected. It should be noted that the color shading correction unit 110d in the drawing can also be configured before the image block (Block) statistical circuit 126.

一方、本実施形態では、色シェーディング補正部110dは、画像ブロック統計回路116が算出したブロックに対して、予め記憶された複数の補正テーブルの中から、画像中央部から周辺部にかけてのR信号比の変化が最もフラットになるように選択された補正テーブルを用いてシェーディング補正を行う。このため、被写体明度、ホワイトバランスゲイン、色温度等の情報に基づく補正と比較すると、より精度の高いシェーディング補正が可能である。   On the other hand, in the present embodiment, the color shading correction unit 110d performs the R signal ratio from the center to the periphery of the image from among a plurality of correction tables stored in advance for the block calculated by the image block statistical circuit 116. The shading correction is performed using the correction table selected so that the change in the value becomes the flattest. Therefore, more accurate shading correction can be performed as compared with correction based on information such as subject brightness, white balance gain, and color temperature.

シェーディング特性は、レンズ光学系102のズーム(Zoom)や絞り102bによって変化することが知られているが、撮影光源の種類によってもその特性は変化する。電子的撮像装置では、可視光より長波長である赤外域にも受光感度を持つため、赤外カットフィルタ(Cut
Filter)を用いて赤外光を遮断する。赤外カットフィルタは、透過型と反射型(蒸着型)の2つに大別される。反射型はレンズ面に蒸着形成するため薄型化しやすく透過型より安価というメリットがあり、モバイル機器等への更なる適用が期待されている。一方で、反射型は、光の入射角度によりカットオフ(Cut Off)周波数が変化する特性がある。
Although it is known that the shading characteristic changes depending on the zoom of the lens optical system 102 and the stop 102b, the characteristic also changes depending on the type of photographing light source. In an electronic imaging device, since it has a light receiving sensitivity in an infrared region having a longer wavelength than visible light, an infrared cut filter (Cut
Infrared light is blocked using a filter. Infrared cut filters are broadly classified into two types, a transmission type and a reflection type (evaporation type). Since the reflective type is formed by vapor deposition on the lens surface, it has the merit that it is easy to reduce the thickness and is cheaper than the transmissive type. On the other hand, the reflection type has a characteristic that the cut-off frequency changes depending on the incident angle of light.

図3は、撮像素子のR(赤色光)信号の受光感度(図3中に実線で示す)と、赤外カットフィルタ106の入射角度の違いによる透過特性(カットオフ周波数)の差異を、撮像素子104の撮像面(または撮像画像)の中央部と周辺部で比較した特性図(Graph)である。図3において、横軸は波長(nm)を、縦軸は赤外カットフィルタ106の透過特性(%)を示している。図3においては、R信号の受光感度は実線の特性で、撮像素子104の中央部のカットオフ周波数の特性は破線で、撮像素子の周辺部のカットオフ周波数の特性は一点鎖線でそれぞれ示している。   FIG. 3 shows the difference between the light receiving sensitivity (indicated by the solid line in FIG. 3) of the R (red light) signal of the image sensor and the transmission characteristic (cutoff frequency) due to the difference in the incident angle of the infrared cut filter 106. FIG. 10 is a characteristic diagram (Graph) compared between the central portion and the peripheral portion of the imaging surface (or captured image) of the element 104. In FIG. 3, the horizontal axis indicates the wavelength (nm), and the vertical axis indicates the transmission characteristic (%) of the infrared cut filter 106. In FIG. 3, the light receiving sensitivity of the R signal is indicated by a solid line, the cutoff frequency characteristic at the center of the image sensor 104 is indicated by a broken line, and the cutoff frequency characteristic at the periphery of the image sensor is indicated by a one-dot chain line. Yes.

撮像素子104の中央部に入射する光線は、撮像面に対して垂直に近い方向で入射する。一方、撮像素子104の周辺部に入射する光線は、撮像面に対して斜めの方向から入射する。このため、図3に示すように、撮像素子の中央部と周辺部とでは、赤外カットフィルタ106のカットオフ周波数が変化し、中央部では周辺部よりもカットオフ周波数が高くなる。この赤外カットフィルタ106のカットオフ周波数の変化に伴い、図3中に斜線で示した部分のR信号の受光感度特性は、画像中央部から周辺部になるにつれて短波長側にシフトする。図3の例では、660nm〜700nm付近の光源波長をもつ光源下での撮影時には、撮像素子104の中央部と周辺部で、R信号の感度特性に斜線で示す領域の差異が生じることになる。この場合、中央部では赤外カットフィルタ106によってカットされずに撮像される660nmnm〜700nm付近の波長の光は、周辺部では赤外カットフィルタ106によってカットされてしまい、中央部と周辺部とで色シェーディング(むら)が生じ、R成分が中央部よりも周辺で減ってしまう。換言すれば、660nm〜700mnの波長を含まない光源下であれば上記R感度の差異が撮像画像に現れることはない。以上のような過程によって、光源に応じて特性の異なる色シェーディングが発生する。   The light beam incident on the central portion of the image sensor 104 is incident in a direction that is nearly perpendicular to the imaging surface. On the other hand, a light beam incident on the peripheral portion of the image sensor 104 enters from an oblique direction with respect to the imaging surface. For this reason, as shown in FIG. 3, the cutoff frequency of the infrared cut filter 106 changes between the central portion and the peripheral portion of the image sensor, and the cutoff frequency is higher in the central portion than in the peripheral portion. With the change in the cutoff frequency of the infrared cut filter 106, the light receiving sensitivity characteristic of the R signal in the hatched portion in FIG. 3 shifts to the short wavelength side from the central portion of the image to the peripheral portion. In the example of FIG. 3, when photographing under a light source having a light source wavelength in the vicinity of 660 nm to 700 nm, there is a difference in the area indicated by hatching in the sensitivity characteristic of the R signal between the central portion and the peripheral portion of the image sensor 104. . In this case, light having a wavelength in the vicinity of 660 nm to 700 nm that is imaged without being cut by the infrared cut filter 106 at the central portion is cut by the infrared cut filter 106 at the peripheral portion. Color shading (unevenness) occurs, and the R component is reduced at the periphery rather than at the center. In other words, the difference in R sensitivity does not appear in the captured image under a light source that does not include a wavelength of 660 nm to 700 mn. Through the above process, color shading having different characteristics depending on the light source occurs.

赤外カットフィルタ106に起因する色シェーディング補正技術として、前述した特許文献1,2のように、被写体輝度と色温度を算出し、太陽光、電球、蛍光灯など光源種別の可能性を判断し、予め複数光源に最適化したシェーディング補正テーブルの何れかを選択して適用する手法が知られている。   As a color shading correction technique caused by the infrared cut filter 106, as described in Patent Documents 1 and 2, the subject brightness and the color temperature are calculated, and the possibility of the light source type such as sunlight, a light bulb, and a fluorescent lamp is determined. A method of selecting and applying any one of shading correction tables optimized in advance for a plurality of light sources is known.

しかしながら、光源の色温度が近似していた場合であっても、例えば電球と電球色蛍光灯とでは色特性が異なる。このため、従来手法では、電球と電球色蛍光灯のように色温度が近似していた場合に、どちらか一方の光源に最適化したシェーディング補正テーブルを適用する他に方法が存在しなかった。そして、従来手法では、被写体光源が低色温度と判断した場合に電球用の補正テーブルを適用するといった判定を行うため、実際には被写体光源が電球色蛍光灯であった場合には、シェーディング補正が過補正となり、画像中央部が青くなるといった色むらが発生する。   However, even when the color temperature of the light source is approximate, for example, the color characteristics of a light bulb and a light bulb color fluorescent light are different. For this reason, in the conventional method, there is no method other than applying the shading correction table optimized for one of the light sources when the color temperatures are similar as in a light bulb and a light bulb color fluorescent lamp. In the conventional method, when the subject light source is determined to have a low color temperature, the light bulb correction table is applied. Therefore, when the subject light source is actually a light bulb color fluorescent lamp, the shading correction is performed. Is overcorrected, and color unevenness occurs such that the center of the image becomes blue.

同様に、色温度による判定では、日蔭の植物など暗所の屋外の被写体では、色温度が蛍光灯の場合と近似するため、光源が太陽光ではなく蛍光灯である誤判断してしまう。この場合、蛍光灯には赤外光は多く含まれないため、シェーディング補正が不足してしまい、画像中央部が赤くなるといったシェーディング補正不足による色むらが発生する。   Similarly, in the determination based on the color temperature, since the color temperature approximates that of a fluorescent lamp in a dark outdoor subject such as a sunflower plant, the light source is erroneously determined to be a fluorescent lamp instead of sunlight. In this case, since the fluorescent lamp does not contain much infrared light, shading correction is insufficient, and color shading due to insufficient shading correction occurs such that the center of the image becomes red.

このため、本実施形態では、赤外カットフィルタ106に起因する色シェーディングを撮像画像より推定し、光源種別ごとに異なる色シェーディングを効果的に除去する。   For this reason, in this embodiment, the color shading resulting from the infrared cut filter 106 is estimated from the captured image, and the color shading that differs for each light source type is effectively removed.

図4は、本実施形態に係るシェーディング補正に係る構成の主要部と、データフロー(Data flow)を示す模式図である。撮像素子104から入力された画像データは、画像ブロック統計回路116によって、n×m ブロック(Block)で構成されるブロック(Block)毎に分割され、ブロック毎にブロック統計値が算出される。このため、画像ブロック統計回路116は、ブロック分割を行うブロック分割部116aと、統計値を算出する統計値算出部116bを有している。ブロック統計値とは、各ブロック内のRGB別の画素積算値またはRGB別の画素平均値である。   FIG. 4 is a schematic diagram showing a main part of the configuration related to the shading correction and the data flow (Data flow) according to this embodiment. The image data input from the image sensor 104 is divided into blocks (blocks) composed of n × m blocks (blocks) by the image block statistics circuit 116, and block statistics are calculated for each block. For this reason, the image block statistical circuit 116 includes a block dividing unit 116a that performs block division and a statistical value calculating unit 116b that calculates statistical values. The block statistical value is a pixel integrated value for each RGB or a pixel average value for each RGB in each block.

シェーディング補正係数記憶部132は、予め光源別に最適化されたシェーディング補正係数(補正テーブル)を複数保持している。そして、色シェーディング推定部130は、複数の補正テーブルのそれぞれをブロック統計値に適用し、シェーディング補正係数記憶部132から1つのシェーディング補正係数(色シェーディング補正係数)を読み出し、ブロック統計値に乗算してブロック毎にR信号比を算出する。   The shading correction coefficient storage unit 132 holds a plurality of shading correction coefficients (correction tables) optimized in advance for each light source. Then, the color shading estimation unit 130 applies each of the plurality of correction tables to the block statistical value, reads one shading correction coefficient (color shading correction coefficient) from the shading correction coefficient storage unit 132, and multiplies the block statistical value. The R signal ratio is calculated for each block.

次に、色シェーディング推定部130は、画像中央部から周辺部に連続するブロックのR信号比の偏移度を標準偏差または分散を用いて算出し一時記憶する。そして、シェーディング補正係数記憶部132から複数のシェーディング補正係数を順次読み出し、ブロック統計値への乗算とR信号比偏移度の算出を繰り返し、全てのシェーディング補正係数に対応するR信号比偏移度を求める。   Next, the color shading estimation unit 130 calculates and temporarily stores the deviation degree of the R signal ratio of the blocks continuous from the central part of the image to the peripheral part using the standard deviation or the variance. Then, a plurality of shading correction coefficients are sequentially read out from the shading correction coefficient storage unit 132, multiplication of block statistics and calculation of R signal ratio deviation are repeated, and R signal ratio deviation corresponding to all shading correction coefficients is repeated. Ask for.

そして、色シェーディング推定部130は、全てのシェーディング補正係数に対応するR信号比偏移度のうち、最も小さいR信号比偏移度に対応するシェーディング補正係数を選択し、最終的なシェーディング補正係数として出力する。   Then, the color shading estimation unit 130 selects a shading correction coefficient corresponding to the smallest R signal ratio deviation degree among the R signal ratio deviation degrees corresponding to all the shading correction coefficients, and obtains a final shading correction coefficient. Output as.

色シェーディング推定部130から出力されたシェーディング補正係数は、色シェーディング補正部110dに送られる。シェーディング補正係数は、色シェーディング補正部110dにて、撮像画像のデータと乗算される。これにより、撮像画像の色シェーディングが補正される。   The shading correction coefficient output from the color shading estimation unit 130 is sent to the color shading correction unit 110d. The shading correction coefficient is multiplied by the captured image data in the color shading correction unit 110d. Thereby, the color shading of the captured image is corrected.

図5は、色シェーディング推定部130の内部処理を示すフローチャートである。先ず、ステップS10では、画像ブロック統計回路116よりブロック統計値を取得する。ブロック分割が16×16ブロックの場合、各ブロックについてブロック統計値を取得する。次のステップS12では、シェーディング補正係数記憶部132からシェーディング補正係数を読み込む。   FIG. 5 is a flowchart showing internal processing of the color shading estimation unit 130. First, in step S10, a block statistical value is acquired from the image block statistical circuit 116. When the block division is 16 × 16 blocks, block statistics are acquired for each block. In the next step S 12, the shading correction coefficient is read from the shading correction coefficient storage unit 132.

次のステップS14では、ステップS12で読み込んだシェーディング補正係数と各ブロック統計値を乗算し、補正済ブロック統計値を算出する。上述したように、ブロック統計値は各ブロック内のRGB別の画素積算値またはRGB別の画素平均値であるため、補正済ブロック統計値は、RGB毎に算出される。次のステップS16では、ステップS14で求めた補正済ブロック統計値からR信号比を算出する。具体的には、R/(R+G+B)の演算を行うことにより、R信号比ブロック統計値を算出する。   In the next step S14, the shading correction coefficient read in step S12 is multiplied by each block statistical value to calculate a corrected block statistical value. As described above, since the block statistical value is a pixel integrated value for each RGB or a pixel average value for each RGB in each block, the corrected block statistical value is calculated for each RGB. In the next step S16, the R signal ratio is calculated from the corrected block statistical value obtained in step S14. Specifically, the R signal ratio block statistical value is calculated by calculating R / (R + G + B).

次のステップS18では、ステップS16で求めたR信号比ブロック統計値から、R信号偏移度を算出する。R信号偏移度は、画像中央部から周辺部に連続するブロックのR信号比ブロック統計値について、標準偏差または分散を用いて算出する。   In the next step S18, the R signal deviation degree is calculated from the R signal ratio block statistical value obtained in step S16. The R signal deviation degree is calculated using the standard deviation or variance for the R signal ratio block statistical value of the blocks continuous from the central part of the image to the peripheral part.

次のステップS20では、シェーディング補正係数記憶部132に記憶された全てのシェーディング補正係数のR信号偏移度の算出が完了したか否かを判定し、完了していない場合はステップS12に戻り、ステップS12以降の処理を再度行う。一方、全てのシェーディング補正係数のR信号偏移度の算出が完了した場合は、ステップS22へ進み、シェーディング補正係数を選択する。ステップS22では、R信号偏移度の最も小さいシェーディング補正係数を選択する。   In the next step S20, it is determined whether or not the calculation of the R signal deviation degree of all the shading correction coefficients stored in the shading correction coefficient storage unit 132 is completed. If not completed, the process returns to step S12. The process after step S12 is performed again. On the other hand, when the calculation of the R signal deviation degree of all the shading correction coefficients is completed, the process proceeds to step S22, and the shading correction coefficient is selected. In step S22, a shading correction coefficient with the smallest R signal deviation is selected.

そして、ステップS22の後、撮像素子104での撮像により得られた撮像画像(キャプチャー(Capture)画像)に対して、ステップS22で選択されたシェーディング補正係数を乗算する。   After step S22, the captured image (capture image) obtained by imaging with the image sensor 104 is multiplied by the shading correction coefficient selected in step S22.

図6は、シェーディング補正係数記憶部132に記憶されたシェーディング補正係数を示す特性図である。シェーディング補正係数記憶部132は、一例として、複数の光源別に、シェーディング補正係数を保持している。シェーディング補正係数は、シェーディング特性、またはシェーディング補正テーブルとして保持されている。また、シェーディング補正係数は、RGB毎に設定されており、RGB毎に適用される。   FIG. 6 is a characteristic diagram showing the shading correction coefficients stored in the shading correction coefficient storage unit 132. As an example, the shading correction coefficient storage unit 132 holds a shading correction coefficient for each of a plurality of light sources. The shading correction coefficient is held as a shading characteristic or a shading correction table. The shading correction coefficient is set for each RGB and is applied for each RGB.

図6では、複数の光源として、タングステン(Tangsten)、ハロゲン(Halogen)、太陽光(Sunlight Sunny)、蛍光灯(Fluorescent)を示している。また、図6では、左側に各光源のシェーディング特性(Sharding characteristic)を、右側にシェーディング補正テーブル(Sharding correction Table)を示している。各特性、補正テーブルにおいて、中央の値は撮像画像の中心部の値を示しており、左右の周辺の値は撮像画像の周辺部の値を示している。   In FIG. 6, tungsten (Tangsten), halogen (Halogen), sunlight (Sunlight Sunny), and a fluorescent lamp (Fluorescent) are shown as a plurality of light sources. In FIG. 6, the shading characteristics of each light source are shown on the left side, and the shading correction table (shading correction table) is shown on the right side. In each characteristic and correction table, the center value indicates the value at the center of the captured image, and the left and right peripheral values indicate the values at the peripheral portion of the captured image.

図6に示すシェーディング特性では、画像の中央部から周辺部にかけてRGB毎に画素値が低下する様子を示している。また、図6に示すシェーディング補正テーブルは、シェーディング特性に示される画素値の落ち込みを補償するため、RGB毎の特性として設定されている。図6のシェーディング特性に示すように、光源によって中央部から周辺部にかけての画素値の低下量が異なるため、これを補償する補正テーブルの強度も光源に応じて異なるものとなる。特に、光源が近赤外光に近くなると、図3で説明したカットオフ周波数の変化により、中央部から周辺部にかけての画素値の落ち込みが大きくなる。一方、図6に示す蛍光灯の場合は、赤外光は多く含まれていないため、中央部から周辺部にかけての画素値の落ち込みは少なくなる。   The shading characteristics shown in FIG. 6 show a state in which the pixel value decreases for each RGB from the center to the periphery of the image. Further, the shading correction table shown in FIG. 6 is set as a characteristic for each RGB in order to compensate for a drop in the pixel value indicated by the shading characteristic. As shown in the shading characteristics of FIG. 6, since the amount of decrease in the pixel value from the central part to the peripheral part differs depending on the light source, the intensity of the correction table for compensating for this also differs depending on the light source. In particular, when the light source is close to near-infrared light, the drop in the pixel value from the central portion to the peripheral portion increases due to the change in the cutoff frequency described in FIG. On the other hand, since the fluorescent lamp shown in FIG. 6 does not contain much infrared light, the drop in the pixel value from the central portion to the peripheral portion is reduced.

シェーディング特性またはシェーディング補正テーブルは、画像中央からの距離に応じた係数であってもよいし、適当なサイズの2次元ビットマップ(BitMap)形式であってもよい。シェーディング特性またはシェーディング補正テーブルは、図6では、一次元の特性を示しているが、2次元の撮像画像の領域に応じたものが好適である。あるいは、縦方向と横方向のそれぞれの1次元の特性を乗算することで、撮像画像の全領域を補間しても良い。シェーディング特性またはシェーディング補正テーブルは、予め登録する光源下で一様なグレーチャート(Gray Chart)等を撮影して得られた画像から、シェーディング特性を計測して作成することができる。   The shading characteristic or the shading correction table may be a coefficient corresponding to the distance from the center of the image, or may be in a two-dimensional bitmap (BitMap) format of an appropriate size. Although the shading characteristics or the shading correction table shows one-dimensional characteristics in FIG. 6, a shading characteristic or a shading correction table suitable for a two-dimensional captured image region is preferable. Or you may interpolate the whole area | region of a captured image by multiplying each one-dimensional characteristic of a vertical direction and a horizontal direction. The shading characteristics or the shading correction table can be created by measuring the shading characteristics from an image obtained by photographing a uniform gray chart (Gray Chart) or the like under a light source registered in advance.

図7は、キャプチャー画像にシェーディング補正を行った場合に得られる結果画像を示す図である。ここで、図7の上段は、キャプチャー画像のブロック統計値、シェーディング補正係数、及びシェーディング補正後の画像(結果画像)のブロック統計値を、画像として示したものである。また、図7の下段は、キャプチャー画像のブロック統計値、シェーディング補正係数、及びシェーディング補正後の画像のブロック統計値を、特性値として示したものである。   FIG. 7 is a diagram illustrating a result image obtained when shading correction is performed on a captured image. Here, the upper part of FIG. 7 shows the block statistical value of the captured image, the shading correction coefficient, and the block statistical value of the image after shading correction (result image) as an image. The lower part of FIG. 7 shows the block statistical value of the captured image, the shading correction coefficient, and the block statistical value of the image after shading correction as characteristic values.

図7に示すように、各ブロック統計値にシェーディング補正係数を乗算し、シェーディング補正後のブロック統計値を取得する。キャプチャー画像にシェーディング補正係数を乗算することで、結果画像の画素値のブロック統計値を画像の中央から周辺にかけてフラットな特性にすることができる。   As shown in FIG. 7, each block statistical value is multiplied by a shading correction coefficient to obtain a block statistical value after shading correction. By multiplying the captured image by the shading correction coefficient, the block statistical value of the pixel value of the result image can be flattened from the center to the periphery of the image.

図7に示すように、シェーディング補正テーブルを乗算する前のキャプチャー画像は、図1と同様にシェーディングによる色むらが生じている。キャプチャー画像にシェーディング補正テーブルを乗算することで、シェーディングによる色むらが補正されたシェーディング補正画像(Shading correction Image)を取得することができる。   As shown in FIG. 7, the captured image before being multiplied by the shading correction table has color unevenness due to shading as in FIG. By multiplying the captured image by the shading correction table, it is possible to obtain a shading correction image in which color unevenness due to shading is corrected.

次に、図5のステップS16で算出したR信号比(Rr)の算出について説明する。ここでは、以下の式1により補正済ブロック統計値のR信号比(Rr)を算出する。式1において、R,G,Bは、補正済ブロックのR信号、G信号、B信号のブロック統計値を示している。
Rr=R/(R+G+B)・・・(式1)
Next, calculation of the R signal ratio (Rr) calculated in step S16 of FIG. 5 will be described. Here, the R signal ratio (Rr) of the corrected block statistical value is calculated by the following formula 1. In Equation 1, R, G, and B indicate block statistical values of the R signal, G signal, and B signal of the corrected block.
Rr = R / (R + G + B) (Formula 1)

全ての補正済ブロック統計値のR信号比を算出した後、図5のステップS18では、補正済ブロック統計値のうち画像全体の中央部から周辺部に連続したブロック統計値のR信号比の変動値を算出し、複数の変動値の平均値をR信号偏移度として一時記憶する。   After calculating the R signal ratio of all the corrected block statistics, in step S18 in FIG. 5, the fluctuation of the R signal ratio of the block statistics continuous from the central portion to the peripheral portion of the entire image among the corrected block statistics. A value is calculated, and an average value of a plurality of fluctuation values is temporarily stored as an R signal deviation degree.

図8は、R信号偏移度を算出するブロック群UR,UL,V,Hの設定例を示す模式図である。ここでは、画像ブロック統計回路116によって、16×16ブロックで構成されるブロック毎に、ブロック統計値を算出した場合を示す。図8に示すUR,UL,V,Hのように、ブロック群は画像の中央部を中心として中心部から周辺部へ延存する放射状に設定する。そして、画像の中央部を含むブロック群UR,UL,V,Hのグループ別にR信号比の変動値を求める。なお、ブロック群のグループ分類は図8に示したパターンに限定されるものではなく、異なるパターン、グループ数としてもよい。そして、ブロック群別のR信号比の変動値を平均してR信号偏移度とする。   FIG. 8 is a schematic diagram showing a setting example of the block groups UR, UL, V, and H for calculating the R signal deviation degree. Here, a case where the block statistical value is calculated for each block constituted by 16 × 16 blocks by the image block statistical circuit 116 is shown. As in UR, UL, V, and H shown in FIG. 8, the block group is set in a radial shape extending from the central portion to the peripheral portion around the central portion of the image. Then, the fluctuation value of the R signal ratio is obtained for each group of the block groups UR, UL, V, and H including the central portion of the image. The group classification of the block group is not limited to the pattern shown in FIG. 8, and may be a different pattern or the number of groups. The fluctuation value of the R signal ratio for each block group is averaged to obtain the R signal deviation degree.

グループ別に算出するR信号比の変動値νは、以下の式2に示すように、グループ毎の分散、標準偏差等を用いて算出することができる。ここで、xはi番目の補正済ブロックの補正済みブロック統計値を示している。図8に示す例では、各ブロック群UR,UL,V,Hは16個のブロックから構成されているため、i=16である。 The variation value ν of the R signal ratio calculated for each group can be calculated using the variance, standard deviation, etc. for each group as shown in the following equation 2. Here, x i denotes the corrected block statistics of the i-th corrected block. In the example shown in FIG. 8, since each block group UR, UL, V, H is composed of 16 blocks, i = 16.

・・・ (式2) ... (Formula 2)

求められたグループ毎のR信号比の変動値を平均して、対象となるシェーディング補正適用後のR信号偏移度sとする。例えば、ν1はブロック群URの変動値を表し、ν2はブロック群ULの変動値を表している。   The obtained variation value of the R signal ratio for each group is averaged to obtain an R signal deviation degree s after applying the target shading correction. For example, ν1 represents the fluctuation value of the block group UR, and ν2 represents the fluctuation value of the block group UL.

・・・ (式3) ... (Formula 3)

そして、シェーディング補正係数記憶部132に記憶された複数のシェーディング補正係数を順次読み出し、図5のステップS12〜S20を繰り返し、全てのシェーディング補正係数についてR信号偏移度sを算出する。図6の例では、シェーディング補正係数は各光源に対応して4つ用意されているため、この場合は4つのR信号偏移度sが算出される。   Then, the plurality of shading correction coefficients stored in the shading correction coefficient storage unit 132 are sequentially read out, and steps S12 to S20 in FIG. 5 are repeated to calculate the R signal deviation degree s for all the shading correction coefficients. In the example of FIG. 6, since four shading correction coefficients are prepared corresponding to each light source, in this case, four R signal deviation degrees s are calculated.

図9は、3つのシェーディング補正係数(テーブルA,B,C)の中から、最適なシェーディング補正係数が算出される過程を示す模式図である。図9に示すように、キャプチャー画像にシェーディング補正係数を乗算して得られた各ブロック統計値について、R信号比を算出する。図9の最下段に示す特性図は、各ブロック群UR,UL,V,HのR信号比を示している。そして、各ブロック群UR,UL,V,HのR信号比の変動値の平均値をR信号偏移度sとして算出し、最もR信号偏移度の小さいシェーディング補正係数を最終的なシェーディング補正係数として選択する。   FIG. 9 is a schematic diagram showing a process in which an optimum shading correction coefficient is calculated from three shading correction coefficients (tables A, B, and C). As shown in FIG. 9, an R signal ratio is calculated for each block statistical value obtained by multiplying a captured image by a shading correction coefficient. The characteristic diagram shown at the bottom of FIG. 9 shows the R signal ratio of each block group UR, UL, V, H. Then, the average value of the fluctuation value of the R signal ratio of each block group UR, UL, V, H is calculated as the R signal deviation degree s, and the shading correction coefficient having the smallest R signal deviation degree is finally subjected to the shading correction. Select as a coefficient.

図9に示す例では、3つのシェーディング補正係数のうち、テーブルBによって算出されたR信号比の各ブロック群UR,UL,V,H毎の変動が最も小さく、テーブルBのR信号偏移度sが最も小さくなる。従って、色シェーディング推定部130は、シェーディング補正係数としてテーブルAを選択し、色シェーディング補正部110dは、撮像画像にテーブルAを乗算してシェーディング補正を行う。   In the example shown in FIG. 9, among the three shading correction coefficients, the variation of the R signal ratio calculated by the table B for each block group UR, UL, V, H is the smallest, and the R signal deviation degree of the table B s becomes the smallest. Accordingly, the color shading estimation unit 130 selects the table A as the shading correction coefficient, and the color shading correction unit 110d performs the shading correction by multiplying the captured image by the table A.

色シェーディング推定部130では、最適なシェーディング補正係数を求める過程で、ブロック統計値に各シェーディング補正係数を乗算することで、シェーディング補正係数を求めるまでの処理を簡素にすることができる。一方、色シェーディング補正部110dによる撮像画像の補正においては、撮像画像の各画素のR,G,B信号値にシェーディング補正係数を乗算することで、より高精度にシェーディング補正が成された補正後の画像を得ることができる。但し、色シェーディング補正部110dによる撮像画像の補正においても、ブロック統計値に各シェーディング補正係数を乗算してシェーディング補正を行っても良い。   In the process of obtaining the optimum shading correction coefficient, the color shading estimation unit 130 can simplify the process up to obtaining the shading correction coefficient by multiplying the block statistical value by each shading correction coefficient. On the other hand, in the correction of the captured image by the color shading correction unit 110d, the corrected shading correction is performed with higher accuracy by multiplying the R, G, and B signal values of each pixel of the captured image by the shading correction coefficient. Images can be obtained. However, also in the correction of the captured image by the color shading correction unit 110d, the shading correction may be performed by multiplying the block statistical value by each shading correction coefficient.

RGBの各画素値、ブロック統計値は、被写体輝度に応じて変化するが、最もR信号偏移度sが小さくなるテーブルAを選択することで、中央部から周辺部にかけての画素値の落ち込みを確実に補償することが可能である。また、R信号比を用いることで、ブロック毎に被写体輝度に変化した場合も、R信号の落ち込みを確実に判別して最適なテーブルを選択することが可能である。   The RGB pixel values and block statistical values change according to the subject brightness, but by selecting the table A with the smallest R signal deviation degree s, the pixel values drop from the central part to the peripheral part. It is possible to reliably compensate. Further, by using the R signal ratio, even when the subject luminance changes for each block, it is possible to reliably determine the drop of the R signal and select an optimal table.

また、光源推定部110fは、シェーディング補正係数に基づいて、光源を推定する。例えば、図6に示すタングステンのシェーディング補正係数が最適なテーブルとして選択された場合、光源推定部110fは被写体の光源がタングステンであると推定する。光源推定部110による光源推定結果は、ホワイトバランス補正部110cにおけるホワイトバランス補正に適用される。これにより、光源の推定精度を大幅に高めることが可能となり、光源の誤推定に起因するホワイトバランス補正精度の低下を確実に抑止することが可能である。   In addition, the light source estimation unit 110f estimates a light source based on the shading correction coefficient. For example, when the shading correction coefficient of tungsten shown in FIG. 6 is selected as the optimum table, the light source estimation unit 110f estimates that the light source of the subject is tungsten. The light source estimation result by the light source estimation unit 110 is applied to white balance correction in the white balance correction unit 110c. As a result, it is possible to significantly increase the estimation accuracy of the light source, and it is possible to reliably suppress the decrease in the white balance correction accuracy caused by the erroneous estimation of the light source.

なお、上述した例では、R信号に基づいてシェーディングを求めたが、同様の手法により、G信号、B信号に基づいてシェーディングを求めることも可能である。   In the above-described example, shading is obtained based on the R signal. However, it is also possible to obtain shading based on the G signal and the B signal by the same method.

以上説明したように本実施形態によれば、撮像画像をブロック分割したブロック統計値に対し、予め光源別に用意したシェーディング補正係数を乗算する演算を行い、そのR信号比を用いて、画像中央から周辺部へのR信号比のR信号偏移度を算出する。そして、R信号偏移度が最も小さくなるシェーディング補正係数を用いて撮像画像のシェーディング補正を行う。従って、実際の撮像画像に基づいて、複数のシェーディング補正係数の中から最適なシェーディング補正係数を適用することができるため、光源によって特性の異なる色シェーディングの発生要因を高精度に推定することができ、色シェーディングを格段に高い精度で補正する事が可能となる。   As described above, according to the present embodiment, the block statistical value obtained by dividing the captured image into blocks is calculated by multiplying the shading correction coefficient prepared for each light source in advance, and the R signal ratio is used to calculate from the center of the image. The R signal deviation degree of the R signal ratio to the peripheral part is calculated. Then, the shading correction of the captured image is performed using the shading correction coefficient that minimizes the R signal deviation degree. Therefore, since an optimal shading correction coefficient can be applied from among a plurality of shading correction coefficients based on the actual captured image, it is possible to accurately estimate the cause of color shading having different characteristics depending on the light source. Color shading can be corrected with much higher accuracy.

以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。   The preferred embodiments of the present invention have been described in detail above with reference to the accompanying drawings, but the present invention is not limited to such examples. It is obvious that a person having ordinary knowledge in the technical field to which the present invention pertains can come up with various changes or modifications within the scope of the technical idea described in the claims. Of course, it is understood that these also belong to the technical scope of the present invention.

100 デジタルカメラ
110d 色シェーディング補正部(処理部)
110f 光源推定部
116 画像ブロック統計回路
116a ブロック分割部
116b 統計値算出部
130 色シェーディング推定部
132 シェーディング補正係数記憶部
100 Digital camera 110d Color shading correction unit (processing unit)
110f Light source estimation unit 116 Image block statistical circuit 116a Block division unit 116b Statistical value calculation unit 130 Color shading estimation unit 132 Shading correction coefficient storage unit

Claims (5)

撮像画像を取得する撮像画像取得部と、
前記撮像画像に複数の異なる色シェーディング補正を適用した結果に基づいて、前記撮像画像に発生する色シェーディングを推定する色シェーディング推定部と、
前記色シェーディング推定部が推定した色シェーディングに基づいて、前記撮像画像に基づく処理を行う処理部と、
所定の光源毎に最適化した複数の色シェーディング補正係数を記憶する色シェーディング補正係数記憶部と、
前記撮像画像を複数のブロックに分割するブロック分割部と、
前記ブロック毎に画素値を統計することでブロック統計値を算出する統計値算出部と、を備え、
前記色シェーディング推定部は、
前記ブロック統計値に前記色シェーディング補正係数を乗算した後、ブロック毎にR信号、G信号及びB信号に対するR信号の比を算出し、前記複数の色シェーディング補正係数の中から、画像中央部から周辺部へ向けて連続するブロック群内の前記R信号の比の変動が最少となる色シェーディング補正係数を選択することを特徴とする、画像処理装置。
A captured image acquisition unit for acquiring a captured image;
A color shading estimation unit that estimates color shading generated in the captured image based on a result of applying a plurality of different color shading corrections to the captured image;
A processing unit that performs processing based on the captured image based on the color shading estimated by the color shading estimation unit;
A color shading correction coefficient storage unit that stores a plurality of color shading correction coefficients optimized for each predetermined light source;
A block division unit for dividing the captured image into a plurality of blocks;
A statistical value calculation unit that calculates a block statistical value by statistically calculating a pixel value for each block, and
The color shading estimation unit
After the block statistic value is multiplied by the color shading correction coefficient, a ratio of the R signal to the R signal, the G signal, and the B signal is calculated for each block. An image processing apparatus, wherein a color shading correction coefficient that minimizes a variation in the ratio of the R signal in a block group continuous toward a peripheral portion is selected .
前記色シェーディング推定部は、  The color shading estimation unit
画像中央部から周辺部へ向けて連続するブロック群内の前記R信号の比の変動に基づいてR信号偏移度を算出し、全てのR信号偏移度のうち最も小さいものに対応する色シェーディング補正係数を選択することを特徴とする請求項1に記載の画像処理装置。  A color corresponding to the smallest one of all the R signal deviation degrees is calculated by calculating the R signal deviation degree based on the fluctuation of the ratio of the R signals in the block group continuous from the central part of the image toward the peripheral part. The image processing apparatus according to claim 1, wherein a shading correction coefficient is selected.
画像中央部から周辺部へ向けて連続するブロック群内の前記R信号の比の分散値または標準偏差を用いて前記R信号偏移度を算出することを特徴とする、請求項2に記載の画像処理装置。  The R signal shift degree is calculated using a variance value or a standard deviation of a ratio of the R signals in a block group continuous from the central part of the image toward the peripheral part. Image processing device. 前記処理部は、前記色シェーディング推定部が選択した色シェーディング補正係数に基づいて、前記撮像画像の色シェーディングを補正することを特徴とする、請求項1〜3のいずれかに記載の画像処理装置。  The image processing apparatus according to claim 1, wherein the processing unit corrects color shading of the captured image based on a color shading correction coefficient selected by the color shading estimation unit. . 前記処理部は、前記色シェーディング推定部が選択した色シェーディング補正係数に基づいて、光源に近赤外光付近の波長の光線が含まれるかを判定して光源を推定することを特徴とする、請求項1〜3のいずれかに記載の画像処理装置。  The processing unit is configured to estimate a light source by determining whether the light source includes a light beam having a wavelength near near infrared light based on the color shading correction coefficient selected by the color shading estimation unit. The image processing apparatus according to claim 1.
JP2012065092A 2012-03-22 2012-03-22 Image processing device Expired - Fee Related JP6004221B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012065092A JP6004221B2 (en) 2012-03-22 2012-03-22 Image processing device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012065092A JP6004221B2 (en) 2012-03-22 2012-03-22 Image processing device

Publications (2)

Publication Number Publication Date
JP2013198041A JP2013198041A (en) 2013-09-30
JP6004221B2 true JP6004221B2 (en) 2016-10-05

Family

ID=49396424

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012065092A Expired - Fee Related JP6004221B2 (en) 2012-03-22 2012-03-22 Image processing device

Country Status (1)

Country Link
JP (1) JP6004221B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USD819186S1 (en) 2011-12-12 2018-05-29 Hs R & A Co., Ltd. Connector for double pipe heat exchanger
WO2020146118A1 (en) * 2019-01-11 2020-07-16 Qualcomm Incorporated Lens rolloff assisted auto white balance

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5646705B1 (en) * 2013-07-18 2014-12-24 アキュートロジック株式会社 Image processing apparatus, image processing method, and image processing program
JP6346431B2 (en) * 2013-11-13 2018-06-20 三星電子株式会社Samsung Electronics Co.,Ltd. Image processing apparatus and image processing method
JP6276564B2 (en) * 2013-11-18 2018-02-07 三星電子株式会社Samsung Electronics Co.,Ltd. Image processing apparatus and image processing method
US9361537B2 (en) * 2013-11-27 2016-06-07 Intel Corporation Techniques to reduce color artifacts in a digital image
JP2015109582A (en) * 2013-12-05 2015-06-11 三星電子株式会社Samsung Electronics Co.,Ltd. Image processing device and image processing method
JP6284428B2 (en) * 2014-05-22 2018-02-28 オリンパス株式会社 Microscope system
US9661290B2 (en) 2014-11-21 2017-05-23 Samsung Electronics Co., Ltd. Image processing apparatus and method
JP6573798B2 (en) * 2014-11-21 2019-09-11 三星電子株式会社Samsung Electronics Co.,Ltd. Image processing apparatus and image processing method
JP6563751B2 (en) 2015-09-09 2019-08-21 三星電子株式会社Samsung Electronics Co.,Ltd. Image processing apparatus and image processing method
WO2017043811A1 (en) * 2015-09-09 2017-03-16 삼성전자 주식회사 Image processing apparatus and image processing method

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001275029A (en) * 2000-03-28 2001-10-05 Minolta Co Ltd Digital camera, its image signal processing method and recording medium
JP4222130B2 (en) * 2003-07-08 2009-02-12 コニカミノルタオプト株式会社 White balance control device and electronic device
JP4134991B2 (en) * 2005-02-16 2008-08-20 三菱電機株式会社 IMAGING DEVICE AND MOBILE PHONE HAVING IMAGING DEVICE
JP2008277926A (en) * 2007-04-25 2008-11-13 Kyocera Corp Image data processing method and imaging device using same
US8228406B2 (en) * 2010-06-04 2012-07-24 Apple Inc. Adaptive lens shading correction

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
USD819186S1 (en) 2011-12-12 2018-05-29 Hs R & A Co., Ltd. Connector for double pipe heat exchanger
WO2020146118A1 (en) * 2019-01-11 2020-07-16 Qualcomm Incorporated Lens rolloff assisted auto white balance

Also Published As

Publication number Publication date
JP2013198041A (en) 2013-09-30

Similar Documents

Publication Publication Date Title
JP6004221B2 (en) Image processing device
JP5188651B2 (en) Image processing apparatus and imaging apparatus using the same
US8941762B2 (en) Image processing apparatus and image pickup apparatus using the same
JP5546229B2 (en) Image processing method, image processing apparatus, imaging apparatus, and image processing program
US10419685B2 (en) Image processing apparatus, image processing method, and computer-readable recording medium
KR101685887B1 (en) Image processing device, image processing method, and computer-readable storage medium having image processing program
JP2011123589A5 (en)
JP6013284B2 (en) Imaging apparatus and imaging method
JP2007306320A (en) Method and program of white balance control and imaging apparatus
US10416026B2 (en) Image processing apparatus for correcting pixel value based on difference between spectral sensitivity characteristic of pixel of interest and reference spectral sensitivity, image processing method, and computer-readable recording medium
JP5524133B2 (en) Image processing device
US20130329097A1 (en) Image processing apparatus that corrects for chromatic aberration for taken image, image pickup apparatus, method of correcting for chromatic aberration of magnification therefor, and storage medium
JP2007202128A (en) Imaging apparatus and image data correcting method
JP4993670B2 (en) Imaging apparatus and control method thereof
US9143762B2 (en) Camera module and image recording method
JP5505718B2 (en) Image input device
JP5173664B2 (en) Image processing apparatus and image processing method
JP6086829B2 (en) Image processing apparatus and image processing method
JP4993275B2 (en) Image processing device
JP7090323B2 (en) Imaging device
JP5409158B2 (en) Image pickup apparatus including single-plate color two-dimensional image pickup device
JP6604737B2 (en) Image processing apparatus, imaging apparatus, image processing method, image processing program, and storage medium
JP6011022B2 (en) Image processing apparatus, image processing program, and image processing method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150305

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160726

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20160823

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160824

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20160823

R150 Certificate of patent or registration of utility model

Ref document number: 6004221

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees