JP2011250276A - Image processing device, image processing method, and imaging apparatus - Google Patents
Image processing device, image processing method, and imaging apparatus Download PDFInfo
- Publication number
- JP2011250276A JP2011250276A JP2010122897A JP2010122897A JP2011250276A JP 2011250276 A JP2011250276 A JP 2011250276A JP 2010122897 A JP2010122897 A JP 2010122897A JP 2010122897 A JP2010122897 A JP 2010122897A JP 2011250276 A JP2011250276 A JP 2011250276A
- Authority
- JP
- Japan
- Prior art keywords
- color adjustment
- image
- white balance
- pixel
- color
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
Description
本発明は、撮像素子で得られた画像データを処理する画像処理装置及び方法、並びに該画像処理装置を備えた画像撮像装置に関し、詳しくは、車載カメラ用途などに好適な色味調整技術に関する。 The present invention relates to an image processing apparatus and method for processing image data obtained by an image sensor, and an image imaging apparatus including the image processing apparatus, and more particularly to a color adjustment technique suitable for in-vehicle camera applications.
デジタルカメラなど一般的なカメラでは、撮影画像の色味を自然に(人の見た眼と同じように)見せるために、撮像素子(センサ)で得られた画像データに対し、ホワイトバランスという色味を調整する処理を行っている。通常、ホワイトバランスは、画像データの画素のうち、輝度が所定値以上の画素の画素値(RGB値など)を用いて色味を調整するため、夜間画像など輝度が小さい画素で構成される暗部領域が多い画像の場合は、ホワイトバランスが正しく行われない傾向がある。 In general cameras such as digital cameras, a color called white balance is applied to image data obtained by an image sensor (sensor) in order to show the color of the captured image naturally (similar to human eyes). Processing to adjust the taste. Normally, white balance is a dark part composed of pixels with low brightness, such as night images, because the color is adjusted using pixel values (RGB values, etc.) of the pixels of the image data whose brightness is a predetermined value or higher. In the case of an image with many areas, white balance tends to be not performed correctly.
車載カメラの場合もセンサの性能や個体差により、ホワイトバランスが正しく行われず、暗部領域において偽色ノイズが発生する。また、夜間時に車載カメラで自車両の前方を撮影する場合は、ヘッドライトの光により撮影画像の中央部のみが明るくなり、画像の周囲は暗部領域となるため、該暗部領域に強い偽色ノイズが発生して画質の低下を招くことになる。つまり、車載カメラでは、撮影画像の周囲の視認できないほど暗い領域に偽色が発生する。 In the case of an in-vehicle camera, white balance is not correctly performed due to sensor performance and individual differences, and false color noise occurs in a dark area. In addition, when photographing the front of the host vehicle with an in-vehicle camera at night, only the central part of the photographed image is brightened by the light of the headlight, and the periphery of the image becomes a dark part area. Occurs, and the image quality is degraded. That is, in the in-vehicle camera, a false color is generated in a dark area that is not visible around the captured image.
なお、特許文献1には、デジタルカメラやカメラ付携帯電話などの撮影機能を有する電子機器において、撮像素子で得られた画像データに対してホワイトバランスを行った後に更に色味を補正する処理を行って、撮影時の色環境における被写体の色味を反映した画像を得るようにする技術が開示されているが、画面全体の色味を補正する手法のため、明部領域と暗部領域が共存する画像の場合は、暗部領域の色味も調整されてしまい、暗部領域に不自然な色が表示されてしまう恐れがある。 In Patent Document 1, in an electronic device having a photographing function such as a digital camera or a camera-equipped mobile phone, a process for further correcting the color after white balance is performed on image data obtained by an image sensor. Has been disclosed to obtain an image that reflects the color of the subject in the color environment at the time of shooting, but the bright area and the dark area coexist because of the method of correcting the color of the entire screen. In the case of an image to be printed, the color of the dark area is also adjusted, and an unnatural color may be displayed in the dark area.
上述のように、通常のホワイトバランスを行っても、画面全体が明るい場合には、自然な色味に調整できていたが、画面全体内に輝度が大きい明部領域と輝度が小さい暗部領域が共存する場合は、明部領域の色味を調整するために暗部領域の色味も調整され、本来黒であるはずの暗部領域の色成分にゲインが掛かり、色が付いてしまうという問題があった。また、センサの個体差などが原因で、ホワイトバランス結果の色味が不自然になるという問題があった。これは特許文献1に記載の色味補正方法を適用しても解決されない。 As described above, even if normal white balance is performed, if the entire screen is bright, it can be adjusted to a natural color, but there are bright areas with high luminance and dark areas with low luminance within the entire screen. In the case of coexistence, the color of the dark area is also adjusted to adjust the color of the bright area, and there is a problem that the color component of the dark area, which should originally be black, is gained and colored. It was. In addition, there is a problem that the color of the white balance result becomes unnatural due to individual differences among sensors. This cannot be solved even if the color correction method described in Patent Document 1 is applied.
一般的なデジタルカメラなどでは、色を忠実に再現することが要求されるため、暗部領域の色は残すように画像処理が行われるが、車載カメラでは偽色の発生箇所は視認できないほど暗い領域になるので、暗部領域の画素の色は無くしても大きな問題はないと判断される。暗部領域の画素の色をなくすという単純な処理でも、車載カメラの場合は十分な効果を得ることができる。 In general digital cameras and the like, it is required to faithfully reproduce the color, so image processing is performed so that the color in the dark area remains, but in the in-vehicle camera, the area where the false color is generated cannot be visually recognized. Therefore, it is determined that there is no significant problem even if the color of the pixel in the dark area is eliminated. Even with a simple process of eliminating the color of the pixels in the dark area, a sufficient effect can be obtained in the case of an in-vehicle camera.
本発明は、このような点に鑑みなされたもので、映像の暗部領域で偽色ノイズが目立つことを抑えるようにした、車載カメラ用途などに好適な画像処理装置及び方法、並びに該画像処理装置を備えた画像撮像装置を提供することを目的とする。 The present invention has been made in view of the above points, and is an image processing apparatus and method suitable for use in an in-vehicle camera and the like, which suppresses the appearance of false color noise in a dark area of an image, and the image processing apparatus. It aims at providing the image pick-up device provided with.
上記目的を達成するため、請求項1の発明は、撮像素子で得られた画像データを処理する画像処理装置において、前記画像データについてホワイトバランス処理を行うホワイトバランス処理手段と、前記ホワイトバランス処理手段でホワイトバランス処理された画像データについて、各画素もしくは一定の大きさを持つ領域ごとに、色味調整を行うかどうか判定する色味調整判定手段と、前記色味調整判定手段で色味調整が必要と判定された場合、前記ホワイトバランス処理手段でホワイトバランス処理された画像データの当該画素もしくは領域について色味調整を行う色味調整手段とを有することを特徴とする。 In order to achieve the above object, according to a first aspect of the present invention, there is provided an image processing apparatus for processing image data obtained by an image sensor, wherein the white balance processing means performs white balance processing on the image data, and the white balance processing means. For the image data that has been subjected to white balance processing in step 1, the color adjustment is performed by the color adjustment determination unit that determines whether or not the color adjustment is performed for each pixel or each region having a certain size, and the color adjustment is performed by the color adjustment determination unit. And a tint adjusting unit that performs tint adjustment on the pixel or region of the image data subjected to white balance processing by the white balance processing unit when it is determined to be necessary.
請求項2の発明は、請求項1に記載の画像処理装置において、前記色味調整判定手段は、画素の輝度の大きさと色の偏りとから色味調整を行うかどうか判定することを特徴とする。 According to a second aspect of the present invention, in the image processing apparatus according to the first aspect, the tint adjustment determination unit determines whether or not to perform the tint adjustment from the luminance level of the pixel and the color deviation. To do.
請求項3の発明は、請求項1又は2に記載の画像処理装置において、画像上の画素の位置情報を算出する画素位置情報算出手段を更に有し、前記色味調整手段は、前記画素位置情報算出手段で算出された位置情報に基づいて色味調整の度合いを変更することを特徴とする。 A third aspect of the present invention is the image processing apparatus according to the first or second aspect, further comprising pixel position information calculating means for calculating position information of pixels on the image, wherein the color adjusting means The degree of color adjustment is changed based on the position information calculated by the information calculation means.
請求項4の発明は、請求項1乃至3のいずれか1項に記載の画像処理装置において、画像全体から一定値以上の輝度を持つ画素の数をカウントする明画素カウント手段を更に有し、前記明画素カウント手段のカウント数が一定数以上の場合、前記ホワイトバランス処理された画像データに対して、前記色味調整手段で色味調整を行わないようにすることを特徴とする。 The invention of claim 4 is the image processing apparatus according to any one of claims 1 to 3, further comprising bright pixel counting means for counting the number of pixels having a luminance of a certain value or more from the entire image, When the count number of the bright pixel counting means is a certain number or more, the color adjustment is not performed by the color adjustment means on the image data subjected to the white balance processing.
請求項5の発明は、請求項1乃至3のいずれか1項に記載の画像処理装置において、前記撮像素子の露光時間を取得する露光時間取得手段を更に有し、前記露光時間取得手段で取得された露光時間が一定値以下の場合、前記ホワイトバランス処理された画像データに対して、前記色味調整手段で色味調整を行わないようにすることを特徴とする。 According to a fifth aspect of the present invention, in the image processing apparatus according to any one of the first to third aspects of the present invention, the image processing apparatus further includes an exposure time acquisition unit that acquires an exposure time of the image sensor, and the exposure time acquisition unit acquires the exposure time. When the exposure time is less than a predetermined value, the color adjustment is not performed by the color adjustment means on the image data subjected to the white balance processing.
請求項6の発明は、撮像素子で得られた画像データを処理する画像処理方法において、前記画像データについてホワイトバランス処理を行うホワイトバランス処理過程と、前記ホワイトバランス処理過程でホワイトバランス処理された画像データについて、各画素もしくは一定の大きさを持つ領域ごとに、色味調整を行うかどうか判定する色味調整判定過程と、前記色味調整判定過程で色味調整が必要と判定された場合、前記ホワイトバランス処理過程でホワイトバランス処理された画像データの当該画素もしくは領域について色味調整を行う色味調整過程とを有することを特徴とする。 According to a sixth aspect of the present invention, in an image processing method for processing image data obtained by an image sensor, a white balance processing process for performing white balance processing on the image data, and an image subjected to white balance processing in the white balance processing process For data, for each pixel or area having a certain size, if it is determined that color adjustment is necessary in the color adjustment determination process for determining whether to perform color adjustment, and the color adjustment determination process, A tint adjustment process for performing tint adjustment on the pixel or region of the image data subjected to the white balance process in the white balance process.
請求項7の発明は、請求項6に記載の画像処理方法において、前記色味調整判定過程では、画素の輝度の大きさと色の偏りとから色味調整を行うかどうか判定することを特徴とする。 According to a seventh aspect of the present invention, in the image processing method according to the sixth aspect, in the hue adjustment determination step, it is determined whether or not the color adjustment is performed based on a luminance level and a color deviation of the pixel. To do.
請求項8の発明は、請求項6又は7に記載の画像処理方法において、画像上の画素の位置情報を算出する画素位置情報算出過程を更に有し、前記色味調整過程は、前記画素位置情報算出過程で算出された位置情報に基づいて色味調整の度合いを変更することを特徴とする。 According to an eighth aspect of the present invention, in the image processing method according to the sixth or seventh aspect, the image processing method further includes a pixel position information calculation process for calculating pixel position information on the image, and the color adjustment process includes the pixel position information. The degree of color adjustment is changed based on the position information calculated in the information calculation process.
請求項9の発明は、請求項6乃至8のいずれか1項に記載の画像処理方法において、画像全体から一定値以上の輝度を持つ画素の数をカウントする明画素カウント過程を更に有し、前記明画素カウント過程で得られたカウント数が一定数以上の場合、前記ホワイトバランス処理された画像データに対して、前記色味調整過程で色味調整を行わないようにすることを特徴とする。 The invention of claim 9 is the image processing method according to any one of claims 6 to 8, further comprising a bright pixel counting step of counting the number of pixels having a luminance of a certain value or more from the entire image, When the count obtained in the bright pixel counting process is a certain number or more, the color adjustment is not performed in the color adjustment process on the image data subjected to the white balance processing. .
請求項10の発明は、請求項6乃至8のいずれか1項に記載の画像処理方法において、前記撮像素子の露光時間を取得する露光時間取得過程を更に有し、前記露光時間取得過程で取得された露光時間が一定値以下の場合、前記ホワイトバランス処理された画像データに対して、前記色味調整過程で色味調整を行わないようにすることを特徴とする。 A tenth aspect of the present invention is the image processing method according to any one of the sixth to eighth aspects, further comprising an exposure time acquisition process for acquiring an exposure time of the image sensor, wherein the acquisition is performed in the exposure time acquisition process. If the exposure time is less than a certain value, the color adjustment is not performed in the color adjustment process on the image data subjected to the white balance process.
請求項11の発明は、光学系と、該光学系を通して得られた撮像光を電気信号の画像データに変換する撮像素子とを有する撮像部と、請求項1乃至5のいずれか1項に記載の画像処理装置と、前記画像処理装置で処理された画像データを表示する表示装置とを備えてなる画像撮像装置を特徴とする。 The invention according to claim 11 is the imaging unit according to any one of claims 1 to 5, comprising an optical system and an imaging device that converts imaging light obtained through the optical system into image data of an electrical signal. And an image capturing device including a display device that displays image data processed by the image processing device.
請求項12の発明は、請求項11の画像撮像装置は車載カメラ装置であることを特徴とする。 The invention of claim 12 is characterized in that the image pickup apparatus of claim 11 is an in-vehicle camera apparatus.
本発明の画像処理装置及び方法によれば、ホワイトバランス後の画像に対して、低輝度かつ色味に偏りのある画素あるいは一定の大きさの領域のみ色味を再調整するため、明部領域と暗部領域が共存する画像について、暗部領域の不自然な色味を抑制することができる。また、色味調整の際に、画素の位置をパラメータとして色味調整の度合いを変更することで、暗部領域の不自然な色味を画素位置に応じてより効果的に抑制することが可能になる。 According to the image processing apparatus and method of the present invention, for the image after white balance, in order to readjust the color of only a pixel having a low luminance and biased color or an area of a certain size, For an image in which the dark area and the dark area coexist, an unnatural color in the dark area can be suppressed. In addition, by adjusting the degree of color adjustment using the pixel position as a parameter at the time of color adjustment, it is possible to more effectively suppress the unnatural color in the dark area according to the pixel position. Become.
したがって、本発明の画像処理装置を備えた画像撮像装置によれば、映像の暗部で偽色ノイズが目立つことを抑えることができる。また、比較的単純な処理で効果が上がるため、ハードウエアの回路規模を小さく抑えて実装することが可能になる。 Therefore, according to the image pickup apparatus including the image processing apparatus of the present invention, it is possible to suppress the false color noise from being noticeable in the dark part of the video. In addition, since the effect is improved by a relatively simple process, it is possible to mount with a reduced hardware circuit scale.
以下、本発明の実施形態について図面を参照して説明する。 Embodiments of the present invention will be described below with reference to the drawings.
図1に本発明の第1の実施例の全体構成図を示す。図1において、200が本発明に係る画像処理装置であり、該画像処理装置200と撮像部100と表示装置300とで画像撮像装置を構成している。そして、該画像撮像装置は、例えば車載カメラ装置として車両に搭載されて用いられる。これは後述の実施例2〜4の場合も同様である。
FIG. 1 shows an overall configuration diagram of a first embodiment of the present invention. In FIG. 1, reference numeral 200 denotes an image processing apparatus according to the present invention, and the image processing apparatus 200, the
撮像部100は、図1では省略したが、光学系、CCDやCMOMなどの撮像素子(センサ)、A/D変換器などを備え、光学系を通して得た撮像光をセンサにて電気信号に変換し、該電気信号のアナログ信号をA/D変換器にてデジタル信号の画像データに変換する。
Although not shown in FIG. 1, the
画像処理装置200は、撮像部100から出力される画像データを取り込んで所定の画像処理を実施する。該画像処理装置200は、撮像部100の出力画像データについてホワイトバランスの調整を行うホワイトバランス処理部210と、ホワイトバランス後の画像データに対して、各画素の色味調整を行うかどうか判定する色味調整判定部220と、該色味調整判定部220で色味調整が必要と判定された場合、ホワイトバランス後の画像データの当該画素に対して色味調整を行う色味調整部230とを有する。画像処理装置200は、他にMTF補正部、ガンマ補正部などを有するが、図1では省略してある。
The image processing apparatus 200 takes in image data output from the
表示装置300は、画像処理装置200から出力される所定処理後の画像データを入力し、例えばNTSC方式の映像信号に変換して表示する。
The
ここで、画像処理装置200は、例えば、CPU,ROM,RAM等で構成され、ROMに記憶されたプログラムをCPUが実行することで、ホワイトバランス処理部210、色味調整判定部220、色味調整部230、その他の処理部(MTF補正部、ガンマ補正部等)の機能を実現する。RAMは、処理途中の画像データや必要な閾値、パラメータ等を記憶するために用いられる。
Here, the image processing apparatus 200 includes, for example, a CPU, a ROM, a RAM, and the like. When the CPU executes a program stored in the ROM, the white
以下、画像処理装置200中の色味調整判定部220と色味調整部230での処理について詳述する。なお、ホワイトバランス処理部210でのホワイトバランス調整処理は従来と同様である。
Hereinafter, processing in the color
ホワイトバランス後の画像データに対して、暗部領域での色味を調整するため、色味調整判定部220で、各画素について輝度が十分小さいか、及び、色味の偏りがあるかどうか判定する。該色味調整判定部220にて、輝度が十分小さく、かつ色味の偏りがあると判定されると、色味調整部230で、当該画素について色味の調整が行われる。
In order to adjust the color tone in the dark area with respect to the image data after white balance, the color tone
図2に、本実施例における色味調整判定部220と色味調整部230の処理フローチャートを示す。
FIG. 2 shows a process flowchart of the color
色味調整判定部220は、ホワイトバランス後の画像データについて、まず、最初の画素を取り込む(ステップ1001)。そして、当該画素の各RGB成分の和Sを算出する(ステップ1002)。すなわち、
S=(R成分値)+(G成分値)+(B成分値)
を算出する。このSの値を当該画素の明るさの度合いとする。
The color
S = (R component value) + (G component value) + (B component value)
Is calculated. The value of S is defined as the degree of brightness of the pixel.
次に、色味調整判定部220は、RGB成分の和Sに対する各成分の構成比Rを算出する(ステップ1003)。いま、R成分、G成分、B成分の構成比をそれぞれRr,Rg,Rbとすると、
Rr=(R成分値)/S
Rg=(G成分値)/S
Rb=(B成分値)/S
で表わされる。この構成比(割合い)を色の偏りの度合いとする。
Next, the color
Rr = (R component value) / S
Rg = (G component value) / S
Rb = (B component value) / S
It is represented by This component ratio (ratio) is defined as the degree of color deviation.
続いて、色味調整判定部220は、当該画素について色味調整を行うか否か判定する(ステップ1004)。本実施例では、当該画素の各成分(RGB)の色味調整を行うか否かは次のようにして判定する。
S<Ts かつ Rr>Trr ⇒ R成分を調整する
S<Ts かつ Rg>Trg ⇒ G成分を調整する
S<Ts かつ Rb>Trb ⇒ B成分を調整する
ここで、Tsは明るさの閾値である。Tsより大きいSを有する画素は明るい画素と判定し、色味調整を行わない。TrrはR成分の偏りの度合いの閾値であり、R成分の構成比RrがTrrより大きい場合、R成分の偏りがあると判定し、S>Tsの条件下で、該R成分を色味調整の対象とする。G成分、B成分についても同様である。なお、各成分の偏りの度合いの閾値Trr,Trg,TrbはTrr=Trg=Trbである。
Subsequently, the color
S <Ts and Rr> Trr ⇒ adjust the R component S <Ts and Rg> Trg ⇒ adjust the G component S <Ts and Rb> Trb ⇒ adjust the B component where Ts is the brightness threshold . A pixel having S greater than Ts is determined to be a bright pixel, and color adjustment is not performed. Trr is a threshold value of the degree of bias of the R component. When the component ratio Rr of the R component is larger than Trr, it is determined that there is a bias of the R component, and the color of the R component is adjusted under the condition of S> Ts. The target of. The same applies to the G component and the B component. Note that the thresholds Trr, Trg, Trb of the degree of bias of each component are Trr = Trg = Trb.
色味調整部230は、色味調整判定部220にて色味調整を行うと判定された場合、当該画素の色味調整を行う(ステップ1005)。ここでは、R成分あるいはB成分が色味調整を行うと判定された場合には、該R成分あるいはB成分の値をG成分の値と同じにすることで、色味の調整を行うとする。また、G成分が色味調整を行うと判定された場合には、該G成分の値を半分とすることで、色味の調整を行うとする。
When the color
一方、色味調整判定部220にて色味調整を行うと判定されなかった場合、色味調整部230は、当該画素について何もしないで処理を終了する。すなわち、ステップ1005の処理をスキップする。
On the other hand, when it is not determined that the color adjustment is performed by the color
次に、色味調整判定部220は、ホワイトバランス後の画像データについて、全画素の処理を終了したか判定する(ステップ1006)。そして、全画素の処理を終了しない場合、色味調整判定部220は、次の画素を取り込んで(ステップ1007)、再び、ステップ1002〜1004の処理を実行する。また、色味調整部230は、色味調整判定部220にて色味調整を行うと判定された場合、ステップ1005の色味調整処理を実行する。
Next, the color
上記色味調整判定部220及び色味調整部230の処理を、ホワイトバランス後の画像データの全ての画素について行うことで、輝度が小さくかつ色味の偏りがある画素のみ色味調整が行われることとなる。したがって、明部領域と暗部領域が共存する画像に対して、ホワイトバランス後の暗部領域の不自然な色味を抑制することができる。
By performing the processes of the color
なお、ここでは、RGBの全ての成分を色味調整の対象としたが、G成分は色味調整を行わないことでもよい。この場合、G成分の構成比は算出しないですむ。R成分とB成分の色味調整を行うかどうかの判定条件は先の説明と同様である。また、色味調整を行うと判定された画素は、調整する成分値(RまたはB成分)をG成分の値と同じにすることで、色味の調整を行うこととなる。 Here, although all the RGB components are subject to color adjustment, the G component may not be subjected to color adjustment. In this case, it is not necessary to calculate the composition ratio of the G component. The conditions for determining whether or not to adjust the color of the R component and the B component are the same as described above. In addition, a pixel that is determined to be subjected to color adjustment is adjusted in color by making the component value (R or B component) to be adjusted the same as the value of the G component.
図3に本発明の第2の実施例の全体構成図を示す。図3において、先の図1との相違は、画像処理装置200が明画素カウンタ部240を更に有していることである。これ以外の構成は図1と同じである。明画素カウンタ部240は、ホワイトバランス処理部210から出力されるホワイトバランス後の画像データを入力して、画面全体(1フレーム)から一定値以上の輝度を持つ画素の数をカウントするものである。輝度は、先のS値とすることでもよい。色味調整判定部220は、明画素カウンタ部240でのカウント数が一定値以上の場合には、色味調整の判定処理を行わないようにする。この場合、色味調整部230では色味調整処理が行われない。
FIG. 3 shows an overall configuration diagram of the second embodiment of the present invention. In FIG. 3, the difference from the previous FIG. 1 is that the image processing apparatus 200 further includes a bright
図4に、本実施例の場合の色味調整判定部220と色味調整部230の処理フローチャートを示す。図4において、先の図2との相違は、ステップ1000が追加されていることである。これ以外は、図2とまったく同じである。
FIG. 4 shows a process flowchart of the color
色味調整判定部220は、ホワイトバランス後の画像データの画素を取り込むのに先立って、明画素カウンタ部240のカウント数が一定数以上がどうか判定する(ステップ1000)。そして、明画素カウンタ部240のカウント数が一定数以上ならば、その時点で処理を終了する。一方、明画素カウンタ部240のカウント数が一定数未満の場合のみ、ステップ1001の処理に進む。ステップ1001以降の処理は図2と同じであるので、説明は省略する。
Prior to capturing pixels of image data after white balance, the color
本実施例によれば、全体が明るい画像の場合、ホワイトバランス後の画像データがそのまま出力されるため、撮影画像の色味を自然に見せることが可能になる。 According to the present embodiment, when the whole image is bright, the image data after white balance is output as it is, so that it is possible to make the color of the photographed image look natural.
なお、色味調整部230にて、明画素カウンタ部240のカウント数が一定数以上かどうか判定し、一定数以上の場合、色味調整判定部220での判定結果に関係なく、ホワイトバランス処理部210でホワイトバランス調整された画像データをそのまま出力するようにしてもよい。
Note that the
図5に本発明の第3の実施例の全体構成図を示す。図5において、先の図1との相違は、画像処理装置200が露光時間取得部250を更に有していることである。これ以外の構成は図1と同じである。露光時間取得部250は、撮像部100のセンサ(撮像素子)の露光時間を取得する。該露光時間は被写体の明るさを反映している。色味調整判定部220は、露光時間取得部250で取得されたセンサの露光時間が一定値以下の場合には、色味調整の判定処理を行わないようにする。この場合、色味調整部230では色味調整処理が行われない。
FIG. 5 shows an overall configuration diagram of the third embodiment of the present invention. In FIG. 5, the difference from the previous FIG. 1 is that the image processing apparatus 200 further includes an exposure
図6に、本実施例の場合の色味調整判定部220と色味調整部230の処理フローチャートを示す。図6において、先の図2との相違は、ステップ1000’が追加されていることである。これ以外は、図2とまったく同じである。
FIG. 6 shows a process flowchart of the color
色味調整判定部220は、ホワイトバランス後の画像データの画素を取り込むのに先立って、露光時間取得部250で取得されたセンサの露光時間が一定数以下がどうか判定する(ステップ1000’)。そして、露光時間取得部250で取得されたセンサの露光時間が一定値以下ならば、その時点で処理を終了する。一方、露光時間取得部250で取得されたセンサの露光時間が一定値以上の場合のみ、ステップ1001の処理に進む。ステップ1001以降の処理は図2と同じであるので、説明は省略する。
The color
本実施例においても、全体が明るい画像の場合、ホワイトバランス後の画像データがそのまま出力されるため、撮影画像の色味を自然に見せることが可能になる。 Also in this embodiment, when the whole image is bright, the image data after white balance is output as it is, so that it is possible to make the color of the photographed image look natural.
なお、本実施例でも、色味調整部230にて、露光時間取得部250で取得されたセンサの露光時間が一定値以下かどうか判定し、一定値以下の場合、色味調整判定部220での判定結果に関係なく、ホワイトバランス処理部210でホワイトバランス調整された画像データをそのまま出力するようにしてもよい。
In the present embodiment as well, the
図7に本発明の第4の実施例の全体構成図を示す。図7において、先の図1との相違は、画像処理装置200が画素位置情報算出部260を更に有していることである。これ以外の構成は図1と同じである。
FIG. 7 shows an overall configuration diagram of the fourth embodiment of the present invention. In FIG. 7, the difference from the previous FIG. 1 is that the image processing apparatus 200 further includes a pixel position
画素位置情報算出部260は、撮像部100で得られた画像データの各画素の位置情報を算出するものである。一般に撮像部100は水平/垂直同期信号、クロック信号を生成する同期信号生成器を内蔵し、該水平/垂直同期信号、クロック信号に同期して、センサから画像データを読み出すようになっている。画素位置情報算出部260は、撮像部100内の同期信号生成器から水平/垂直同期信号、クロック信号を取り込み、画像データの各画素の位置情報を算出する。なお、同期信号生成器が外付けされた構成の場合は、当該同期信号生成器から取り込めばよい。
The pixel position
色味調整部230は、注目画素に対し、色味調整判定部220で色味調整を行うと判定された場合、当該画素について色味の調整を行うが、その際、画素位置情報算出部260で算出された位置情報に基づいて色味調整の度合いを変更するようにする。例えば、画像中心から遠い画素ほど色の彩度を落とすようになる。
If the color
図8に、本実施例における色味調整判定部220と色味調整部230の処理フローチャートを示す。
FIG. 8 is a process flowchart of the color
色味調整判定部220は、ホワイトバランス処理部210で調整されたホワイトバランス後の画像データについて、まず、最初の画素を取り込む(ステップ2001)。そして、当該画素の各成分(R,G,B)の和Sを算出し(ステップ2002)、さらに各成分の構成比R(Rr,Rg,Rb)を算出する(ステップ2003)。先に述べたように、これらの値は、以下のように求められる。
S =(R成分値)+(G成分値)+(B成分値)
Rr=(R成分値)/S
Rg=(G成分値)/S
Rb=(B成分値)/S
ここで、Sは当該画素の明るさの度合いを表し、Rr,Rg,Rbは当該画素の各成分の偏りを表している。
The color
S = (R component value) + (G component value) + (B component value)
Rr = (R component value) / S
Rg = (G component value) / S
Rb = (B component value) / S
Here, S represents the degree of brightness of the pixel, and Rr, Rg, and Rb represent the bias of each component of the pixel.
続いて、色味調整判定部220は、上記算出したS、及びRr,Rg,Rbの値を閾値処理して、当該画素について色味調整を行うか否か判定する(ステップ2004)。ここでは、Sの閾値をTs、Rr,Rg,Rbの閾値をそれぞれTrr,Trg,Trbとして、判定条件を以下のように求める。なお、Trr=Trg=Trbとする。
(1) S<Ts かつ Rr>Trrの場合には、R成分はそのままとし、G成分とB成分を調整する。
(2) S<Ts かつ Rg>Trgの場合には、G成分をそのままとし、R成分とB成分を調整する。
(3) S<Ts かつ Rb>Trbの場合には、B成分をそのままとし、R成分とG成分を調整する。
Subsequently, the color
(1) When S <Ts and Rr> Trr, the R component is left as it is, and the G component and the B component are adjusted.
(2) When S <Ts and Rg> Trg, the G component is left as it is, and the R component and the B component are adjusted.
(3) In the case of S <Ts and Rb> Trb, the B component is left as it is, and the R component and the G component are adjusted.
色味調整部230は、色味調整判定部220で色味調整を行うと判定された場合、当該画素について、上記判定条件に従って色味の調整を行う。この場合、本実施例では、画素位置情報算出部260で算出された当該画素の画像上の位置情報をパラメータとして色味の調整を行う(ステップ2005)。例えば、画像中心から遠い画素ほど色の彩度をより落とす処理を実施する。
When the color
以下、上記(1)の判定条件を満たす場合を例えに、色味調整部230での色味調整処理を詳述する。なお、上記(2)及び(3)の判定条件を満たす場合の処理も同様に類推可能である。
Hereinafter, the color adjustment processing in the
今、色味調整を行う画素のRGB成分の内、最大の成分がR成分で、最小の成分が例えばB成分の場合、最大のR成分以外のG成分とB成分について、
G_delta ← D×(R成分+B成分)
B_delta ← D×(R成分+B成分)
G成分 ← G成分+G_delta
B成分 ← B成分+B_delta
但し、D=(|X−width/2|+|Y−height/2|)/(|X−width/2|+|Y−height/2|)
(X,Y)を画素の位置、width=画素の幅、height=画像の高さ
として、色味を調整する。これにより、当該画素の彩度を落とすことができる。
Now, in the case where the maximum component is the R component and the minimum component is, for example, the B component among the RGB components of the pixel for which the color adjustment is performed, the G component and the B component other than the maximum R component are
G_delta ← D x (R component + B component)
B_delta ← D x (R component + B component)
G component ← G component + G_delta
B component ← B component + B_delta
However, D = (| X−width / 2 | + | Y−height / 2 |) / (| X−width / 2 | + | Y−height / 2 |)
The color is adjusted with (X, Y) as the pixel position, width = pixel width, and height = image height. Thereby, the saturation of the pixel can be reduced.
ここで、Dは画像中心からの距離を示すパラメータであり、0〜1の値をとる。D=0は画像中心を示し、この場合、彩度は変わらない。D=1は画像中心から最も遠い距離を示し、この場合、彩度は0に近くなる。すなわち、上記演算を施すことにより、画像中心付近の画素の彩度はあまり落とさず、画像中心から離れるほど彩度を落とすことができる。 Here, D is a parameter indicating a distance from the center of the image, and takes a value of 0 to 1. D = 0 indicates the center of the image, and in this case, the saturation does not change. D = 1 indicates the farthest distance from the image center. In this case, the saturation is close to zero. That is, by performing the above calculation, the saturation of the pixels near the center of the image is not reduced so much, and the saturation can be decreased as the distance from the center of the image increases.
ところで、上記演算のままでは、G及びB成分調整後の当該画素の輝度が増加してしまう。そこで、輝度を調整前の値にするために、G及びB成分調整後のRGB値から輝度Y’を算出し、調整前のRGB値の輝度をYとして、
dY ← Y’−Y
R成分 ← R成分−dY
G成分 ← G成分−dY
B成分 ← B成分−dY
と補正する。これにより、色味調整を行う画素について輝度の値を増加させずに彩度を落とすことができる。
By the way, with the above calculation, the luminance of the pixel after adjustment of the G and B components increases. Therefore, in order to set the luminance to a value before adjustment, the luminance Y ′ is calculated from the RGB values after adjustment of the G and B components, and the luminance of the RGB values before adjustment is set as Y.
dY ← Y'-Y
R component ← R component-dY
G component ← G component-dY
B component ← B component-dY
And correct. Thereby, it is possible to reduce the saturation without increasing the luminance value of the pixel for which the color adjustment is performed.
図8に戻り、色味調整判定部220にて色味調整を行うと判定されなかった場合には、色味調整部230は、当該画素について何もしないで処理を終了する。すなわち、ステップ2005をスキップする。
Returning to FIG. 8, when it is not determined that the color adjustment is performed by the color
次に、色味調整判定部220は、ホワイトバランス後の画像データについて、全画素の処理を終了したか判定する(ステップ2006)。そして、全画素の処理を終了しない場合、色味調整判定部220は、次の画素を取り込んで(ステップ2007)、再び、ステップ2002〜2004の処理を実行する。また、色味調整部230は、色味調整判定部220にて色味調整を行うと判定された場合、ステップ2005の色味調整処理を実行する。
Next, the color
上記色味調整判定部220及び色味調整部230の処理を、ホワイトバランス後の画像データの全ての画素について行うことで、先の実施例1と同様に、輝度が小さくかつ色味の偏りがある画素のみ色味調整が行われることとなる。更に、本実施例では、色味調整を行う場合、画素の位置をパラメータとして色味調整の度合いを変更することができる。したがって、明部領域と暗部領域が共存する画像に対して、ホワイトバランス後の暗部領域の不自然な色味を、画素位置に応じてより効果的に抑制することが可能になる。
By performing the processes of the color
なお、色味の調整は、先の実施例1のように、色味調整を行う画素について、判定条件により、RあるいはB成分の値をG成分の値と同じにするか、G成分の値を半分にすることでもよい。この場合には、その値にDを乗じることで、同様に画像上の画素の位置に応じて色味調整の度合いを変更することができる。 Note that the color adjustment is performed by setting the R or B component value to be the same as the G component value or the G component value according to the determination condition for the pixel for which the color adjustment is performed, as in the first embodiment. Can be halved. In this case, by multiplying the value by D, the degree of color adjustment can be similarly changed according to the position of the pixel on the image.
また、図7の構成に、図3の明画素カウンタ部240あるいは図5の露光時間取得部250を更に付加すれば、先の実施例2や3と同様に、画像全体が明るい場合、ホワイトバランス後の画像データについて色味調整を行わないようにすることが可能になる。
Further, if the bright
また、これまでの説明では、色味調整の判定や色味調整は、ホワイトバランス後の画像データについて、各画素ごとに行うとしたが、一定の大きさを持った領域(m×n画素)ごとに行うことでもよい。この場合、RGB和のSや、各成分の構成比(偏り)Rr,Rg,Rbは、例えば、当該領域に含まれる各画素の平均値を用いればよい。また、色味調整は、当該領域に含まれる各画素に対して、同じ処理を行うようにすればよい。 In the description so far, the determination of the color adjustment and the color adjustment are performed for each pixel with respect to the image data after white balance, but an area having a certain size (m × n pixels). It may be done every time. In this case, for example, the average value of each pixel included in the region may be used as S of the RGB sum and the component ratios (bias) Rr, Rg, Rb of each component. In addition, the color adjustment may be performed for each pixel included in the area.
100 撮像部
200 画像処理装置
210 ホワイトバランス処理部
220 色味調整判定部
230 色味調整部
240 明画素カウンタ部
250 露光時間取得部
260 画素位置情報算出部
300 表示装置
DESCRIPTION OF
Claims (12)
前記画像データについてホワイトバランス処理を行うホワイトバランス処理手段と、
前記ホワイトバランス処理手段でホワイトバランス処理された画像データについて、各画素もしくは一定の大きさを持つ領域ごとに、色味調整を行うかどうか判定する色味調整判定手段と、
前記色味調整判定手段で色味調整が必要と判定された場合、前記ホワイトバランス処理手段でホワイトバランス処理された画像データの当該画素もしくは領域について色味調整を行う色味調整手段と、
を有することを特徴とする画像処理装置。 In an image processing apparatus that processes image data obtained by an image sensor,
White balance processing means for performing white balance processing on the image data;
Color adjustment determination means for determining whether or not to perform color adjustment for each pixel or area having a certain size for the image data subjected to white balance processing by the white balance processing means;
When it is determined that the color adjustment is necessary by the color adjustment determination means, a color adjustment means for adjusting the color of the pixel or region of the image data subjected to white balance processing by the white balance processing means;
An image processing apparatus comprising:
前記色味調整手段は、前記画素位置情報算出手段で算出された位置情報に基づいて色味調整の度合いを変更することを特徴とする請求項1又は2に記載の画像処理装置。 Pixel position information calculating means for calculating pixel position information on the image;
The image processing apparatus according to claim 1, wherein the color adjustment unit changes a degree of color adjustment based on the position information calculated by the pixel position information calculation unit.
前記明画素カウント手段のカウント数が一定数以上の場合、前記ホワイトバランス処理された画像データに対して、前記色味調整手段で色味調整を行わないようにすることを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。 It further has a bright pixel counting means for counting the number of pixels having a luminance of a certain value or more from the entire image,
2. The color adjustment by the color adjustment unit is not performed on the image data subjected to the white balance processing when the count number of the bright pixel counting unit is a certain number or more. 4. The image processing device according to any one of items 1 to 3.
前記露光時間取得手段で取得された露光時間が一定値以下の場合、前記ホワイトバランス処理された画像データに対して、前記色味調整手段で色味調整を行わないようにすることを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。 Further comprising an exposure time acquisition means for acquiring an exposure time of the image sensor;
When the exposure time acquired by the exposure time acquisition unit is a predetermined value or less, the color adjustment is not performed by the color adjustment unit on the image data subjected to the white balance processing. The image processing apparatus according to claim 1.
前記画像データについてホワイトバランス処理を行うホワイトバランス処理過程と、
前記ホワイトバランス処理過程でホワイトバランス処理された画像データについて、各画素もしくは一定の大きさを持つ領域ごとに、色味調整を行うかどうか判定する色味調整判定過程と、
前記色味調整判定過程で色味調整が必要と判定された場合、前記ホワイトバランス処理過程でホワイトバランス処理された画像データの当該画素もしくは領域について色味調整を行う色味調整過程と、
を有することを特徴とする画像処理方法。 In an image processing method for processing image data obtained by an image sensor,
A white balance process for performing white balance processing on the image data;
A color adjustment determination process for determining whether or not to perform color adjustment for each pixel or an area having a certain size for the image data subjected to white balance processing in the white balance processing process;
When it is determined that the color adjustment is necessary in the color adjustment determination process, a color adjustment process for performing color adjustment on the pixel or region of the image data subjected to the white balance process in the white balance process;
An image processing method comprising:
前記色味調整過程は、前記画素位置情報算出過程で算出された位置情報に基づいて色味調整の度合いを変更することを特徴とする請求項6又は7に記載の画像処理方法。 A pixel position information calculation process for calculating pixel position information on the image;
8. The image processing method according to claim 6, wherein in the color adjustment process, a degree of color adjustment is changed based on the position information calculated in the pixel position information calculation process.
前記明画素カウント過程で得られたカウント数が一定数以上の場合、前記ホワイトバランス処理された画像データに対して、前記色味調整過程で色味調整を行わないようにすることを特徴とする請求項6乃至8のいずれか1項に記載の画像処理方法。 A bright pixel counting process for counting the number of pixels having a luminance of a certain value or more from the entire image;
When the count obtained in the bright pixel counting process is a certain number or more, the color adjustment is not performed in the color adjustment process on the image data subjected to the white balance processing. The image processing method according to claim 6.
前記露光時間取得過程で取得された露光時間が一定値以下の場合、前記ホワイトバランス処理された画像データに対して、前記色味調整過程で色味調整を行わないようにすることを特徴とする請求項6乃至8のいずれか1項に記載の画像処理方法。 Further comprising an exposure time acquisition step of acquiring an exposure time of the image sensor;
When the exposure time acquired in the exposure time acquisition process is a predetermined value or less, the color adjustment is not performed in the color adjustment process on the image data subjected to the white balance process. The image processing method according to claim 6.
請求項1乃至5のいずれか1項に記載の画像処理装置と、
前記画像処理装置で処理された画像データを表示する表示装置と、
を備えてなる画像撮像装置。 An imaging unit having an optical system and an imaging element that converts imaging light obtained through the optical system into image data of an electrical signal;
The image processing apparatus according to any one of claims 1 to 5,
A display device for displaying image data processed by the image processing device;
An image pickup apparatus comprising:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010122897A JP2011250276A (en) | 2010-05-28 | 2010-05-28 | Image processing device, image processing method, and imaging apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010122897A JP2011250276A (en) | 2010-05-28 | 2010-05-28 | Image processing device, image processing method, and imaging apparatus |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011250276A true JP2011250276A (en) | 2011-12-08 |
Family
ID=45414943
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010122897A Pending JP2011250276A (en) | 2010-05-28 | 2010-05-28 | Image processing device, image processing method, and imaging apparatus |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011250276A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9618834B2 (en) | 2013-10-16 | 2017-04-11 | Seiko Epson Corporation | Polarization conversion element, projector, and method for manufacturing polarization conversion element |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02250472A (en) * | 1989-03-24 | 1990-10-08 | Konica Corp | Exposure control circuit for camera |
JP2001189945A (en) * | 1999-12-28 | 2001-07-10 | Sony Corp | Image pickup device |
JP2003235050A (en) * | 2002-02-12 | 2003-08-22 | Nikon Corp | Image processing apparatus, image processing program, and image processing method |
JP2005142637A (en) * | 2003-11-04 | 2005-06-02 | Canon Inc | Signal processor and imaging apparatus |
JP2005159918A (en) * | 2003-11-27 | 2005-06-16 | Kyocera Corp | In-vehicle camera |
JP2007081724A (en) * | 2005-09-13 | 2007-03-29 | Canon Inc | Imaging apparatus and control method thereof |
-
2010
- 2010-05-28 JP JP2010122897A patent/JP2011250276A/en active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH02250472A (en) * | 1989-03-24 | 1990-10-08 | Konica Corp | Exposure control circuit for camera |
JP2001189945A (en) * | 1999-12-28 | 2001-07-10 | Sony Corp | Image pickup device |
JP2003235050A (en) * | 2002-02-12 | 2003-08-22 | Nikon Corp | Image processing apparatus, image processing program, and image processing method |
JP2005142637A (en) * | 2003-11-04 | 2005-06-02 | Canon Inc | Signal processor and imaging apparatus |
JP2005159918A (en) * | 2003-11-27 | 2005-06-16 | Kyocera Corp | In-vehicle camera |
JP2007081724A (en) * | 2005-09-13 | 2007-03-29 | Canon Inc | Imaging apparatus and control method thereof |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9618834B2 (en) | 2013-10-16 | 2017-04-11 | Seiko Epson Corporation | Polarization conversion element, projector, and method for manufacturing polarization conversion element |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3892648B2 (en) | Image input device, white balance adjustment method, and computer-readable recording medium storing program for executing the method | |
CN104980652B (en) | Image processing apparatus and image processing method | |
US9288392B2 (en) | Image capturing device capable of blending images and image processing method for blending images thereof | |
CN110022469B (en) | Image processing method, image processing device, storage medium and electronic equipment | |
KR100615277B1 (en) | Method and apparatus for compensating Image sensor lens shading | |
CN105208281A (en) | Night scene shooting method and device | |
CN108156369B (en) | Image processing method and device | |
JP2002232906A (en) | White balance controller | |
CN108337450B (en) | Image processing apparatus, image processing method, and recording medium | |
JP2011124967A (en) | Imaging apparatus, imaging method and imaging program | |
CN104221364A (en) | Imaging device and image processing method | |
KR100956228B1 (en) | Image processing apparatus having function of correctting distortion of image | |
JP4352730B2 (en) | Auto white balance processing apparatus and method, and image signal processing apparatus | |
JP2013029995A (en) | Imaging system | |
KR101854432B1 (en) | Method and apparatus for detecting and compensating back light frame | |
JP5591026B2 (en) | Imaging apparatus and control method thereof | |
JP2011250276A (en) | Image processing device, image processing method, and imaging apparatus | |
US20050162535A1 (en) | Image processing apparatus and method | |
JP2010213105A (en) | Imaging apparatus | |
JP2012044560A (en) | Image processing apparatus, image processing method, and imaging apparatus | |
JP5520863B2 (en) | Image signal processing device | |
JP5038190B2 (en) | Image capturing apparatus and setting method thereof | |
CN107734246B (en) | Image processing method, device and related circuit | |
JP2013115571A (en) | Information processing apparatus | |
CN111885281B (en) | Image Processing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130306 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20130801 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20130826 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20130826 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20131213 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140121 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140319 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20141028 |