JP4889391B2 - Image processing apparatus and image processing method - Google Patents
Image processing apparatus and image processing method Download PDFInfo
- Publication number
- JP4889391B2 JP4889391B2 JP2006193925A JP2006193925A JP4889391B2 JP 4889391 B2 JP4889391 B2 JP 4889391B2 JP 2006193925 A JP2006193925 A JP 2006193925A JP 2006193925 A JP2006193925 A JP 2006193925A JP 4889391 B2 JP4889391 B2 JP 4889391B2
- Authority
- JP
- Japan
- Prior art keywords
- color difference
- color
- signal
- horizontal
- vertical
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 107
- 238000003672 processing method Methods 0.000 title claims description 11
- 230000002950 deficient Effects 0.000 claims description 5
- 230000035945 sensitivity Effects 0.000 claims description 5
- 230000003595 spectral effect Effects 0.000 claims description 5
- 238000000034 method Methods 0.000 description 42
- 239000003086 colorant Substances 0.000 description 14
- 238000007796 conventional method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000014509 gene expression Effects 0.000 description 2
- 238000010187 selection method Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
Images
Landscapes
- Color Television Image Signal Generators (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color Image Communication Systems (AREA)
Description
本発明は、画素に不足している色を周囲画素から補間により求める際に、偽色(色ノイズ)を除去あるいは抑圧するための画像処理装置および画像処理方法に関する。 The present invention relates to an image processing apparatus and an image processing method for removing or suppressing false colors (color noise) when an insufficient color of a pixel is obtained from surrounding pixels by interpolation.
従来周知のように、色を表現するためには様々な表色系があり、色は3つ程度の要素で表現されることが一般的である。その中で最も知られているのは、緑、青、赤の3原色により色を表現するRGB表色系である。以下、緑、青、赤をそれぞれG、B、Rと表記する。 As is well known in the art, there are various color systems for expressing colors, and colors are generally expressed by about three elements. Among them, the most well known is the RGB color system that expresses colors using three primary colors of green, blue, and red. Hereinafter, green, blue, and red are written as G, B, and R, respectively.
撮像素子からなる撮像センサーとしては、3板撮像センサーや単板撮像センサーが知られている。3板撮像センサーは、色の全ての構成要素の信号を取り込み、画像データを生成するのに対して、単板撮像センサーは、1画素に1色の信号のみを取得し、それ以外の信号を周囲画素の信号からの補間により求める。 As an image sensor composed of an image sensor, a three-plate image sensor and a single-plate image sensor are known. The three-plate image sensor captures the signals of all the components of the color and generates image data, whereas the single-plate image sensor acquires only one color signal per pixel and receives the other signals. It is obtained by interpolation from the signals of surrounding pixels.
単板撮像センサーは、安価で小型化が可能なため、様々な用途で広く利用されている。この単板撮像センサーは、補間処理に際して、画像の高周波部あるいはエッジ部に発生する偽色(色ノイズ)を除去あるいは抑圧することが求められる。 Single-plate imaging sensors are widely used in various applications because they are inexpensive and can be miniaturized. This single-plate image sensor is required to remove or suppress false colors (color noise) generated in a high-frequency part or an edge part of an image during interpolation processing.
偽色を防ぐ従来技術としては、例えば、色信号と輝度との垂直相関、水平相関を見て輝度を決定する手法が知られている。この従来技術を輝度選択方式と呼ぶ。 As a conventional technique for preventing false colors, for example, a method is known in which luminance is determined by looking at a vertical correlation and a horizontal correlation between a color signal and luminance. This prior art is called a luminance selection method.
また、さらに進んだ取組みとして、特許文献1の技術が知られている。この従来技術では、水平相関度と垂直相関度とが比較されて、相関が強い方向のG信号を用いて色差(R−Ga1、B−Ga2)が求められる。さらに、別途、垂直、水平の両方向のG信号を用いて色差(R−Gb、B−Gb)が算出される。色差(R−Ga1、B−Ga2)から彩度SatAが求められ、色差(R−Gb、R−Gb)から彩度SatBが求められる。そして、彩度が小さい方の色差が選択される。このような従来技術を色差再評価方式と呼ぶ。
しかしながら、従来の画像処理装置では、輝度選択方式の場合、垂直方向と水平方向の相関しか見ていない。そのため、動画処理では、垂直方向から水平方向へと(またはその逆に)選択する輝度の方向を変更したときに、色の変化が目立ってしまうという課題があった。 However, in the conventional image processing apparatus, only the correlation between the vertical direction and the horizontal direction is observed in the luminance selection method. For this reason, the moving image processing has a problem that the color change becomes conspicuous when the luminance direction to be selected is changed from the vertical direction to the horizontal direction (or vice versa).
この点については、色差再評価方式においても同様である。より詳細には、同方式において、既に述べたように、再評価対象の2種類の色差の一方は、垂直方向と水平方向のうちで相関の強い方向の信号を使って求められた色差(R−Ga1、B−Ga2)である。この色差(R−Ga1、B−Ga2)を求める回路は、R色差(R−Ga1)とB色差(B−Ga2)を求めるのに使うG信号の方向を揃えるように配慮されている。すなわち、R色差、B色差とも垂直方向(または水平方向)のG信号を使って求められる。しかしながら、従来技術では、垂直方向と水平方向のどちらのG信号を使うかは選択的である。そのため、動画処理では、選択する輝度の方向を変更したときに、色の変化が目立ってしまうという課題がある。 This also applies to the color difference reevaluation method. More specifically, in the same method, as already described, one of the two kinds of color differences to be re-evaluated is the color difference (R) obtained using a signal in a direction having a strong correlation between the vertical direction and the horizontal direction. -Ga1, B-Ga2). The circuit for obtaining the color differences (R-Ga1, B-Ga2) is designed so that the directions of the G signals used for obtaining the R color difference (R-Ga1) and the B color difference (B-Ga2) are aligned. That is, both the R color difference and the B color difference are obtained using the G signal in the vertical direction (or horizontal direction). However, in the prior art, it is selective whether to use the G signal in the vertical direction or the horizontal direction. Therefore, in the moving image processing, there is a problem that the color change becomes conspicuous when the direction of the luminance to be selected is changed.
本発明は、従来の問題を解決するためになされたもので、その目的は、偽色を除去または抑圧できるとともに、輝度が大きく切り替わることを抑え、動画処理でも自然な画像を出力することができる画像処理装置を提供することにある。 The present invention has been made to solve the conventional problems, and its purpose is to remove or suppress false colors, to suppress a large change in luminance, and to output a natural image even in moving image processing. An object is to provide an image processing apparatus.
本発明の画像処理装置は、画素ごとに分光感度特性の異なる色信号を入力する画像色信号入力手段と、画素に不足する色を周囲画素から補間により求める色補間処理手段とを有し、前記色補間処理手段は、垂直方向の画素の信号に基づいた垂直色差と水平方向の画素の信号に基づいた水平色差の正負が一致する場合には、前記垂直色差と前記水平色差のうちで色差絶対値の小さい方の色差を求め、前記垂直色差と前記水平色差の正負が異なる場合には色差をゼロとするように構成されている。 The image processing apparatus of the present invention includes an image color signal input unit that inputs color signals having different spectral sensitivity characteristics for each pixel, and a color interpolation processing unit that obtains a color deficient in the pixel from surrounding pixels by interpolation, When the vertical color difference based on the vertical pixel signal and the horizontal color difference based on the horizontal pixel signal coincide with each other, the color interpolation processing means calculates the absolute color difference between the vertical color difference and the horizontal color difference. The color difference having the smaller value is obtained, and the color difference is set to zero when the vertical color difference and the horizontal color difference are different from each other.
この構成により、垂直色差と水平色差の符号(正負)に応じて色差が求められる。そして、水平色差と垂直色差で符号が異なる場合には色差がゼロになる。これにより、垂直と水平で色相が反転するために最も偽色が目立つ部分において、色差あるいは彩度を落とすことができ、偽色を除去あるいは抑圧することが可能となり、そして、輝度の急激な切り替わりを抑えることができ、こうして、動画処理でも自然な画像を出力することができる。 With this configuration, the color difference is obtained according to the sign (positive / negative) of the vertical color difference and the horizontal color difference. When the sign differs between the horizontal color difference and the vertical color difference, the color difference becomes zero. This makes it possible to reduce the color difference or saturation in the portion where the false color is most noticeable because the hue is reversed vertically and horizontally, and it is possible to remove or suppress the false color, and the brightness is rapidly switched. Thus, a natural image can be output even with moving image processing.
本発明の画像処理装置において、前記色補間処理手段は、前記垂直色差を生成する垂直色差生成部と、前記水平色差を生成する水平色差生成部と、前記垂直色差および前記水平色差の符号を判定する符号判定部と、前記垂直色差と前記水平色差の正負が一致する場合に、前記垂直色差と前記水平色差のうちで色差絶対値の小さい方の色差を選択する色差選択部と、前記垂直色差と前記水平色差の正負が異なる場合には色差をゼロとする色差ゼロ処理部とを有する。この構成により、垂直色差と水平色差の符号に応じて色差を求める本発明の色補間を好適に実現できる。 In the image processing apparatus of the present invention, the color interpolation processing unit determines a vertical color difference generation unit that generates the vertical color difference, a horizontal color difference generation unit that generates the horizontal color difference, and a sign of the vertical color difference and the horizontal color difference. A sign determination unit, a color difference selection unit that selects a color difference having a smaller color difference absolute value among the vertical color difference and the horizontal color difference when the vertical color difference and the horizontal color difference match, and the vertical color difference And a color difference zero processing unit for setting the color difference to zero when the horizontal color difference is different in sign. With this configuration, the color interpolation according to the present invention for obtaining the color difference according to the signs of the vertical color difference and the horizontal color difference can be suitably realized.
また、本発明の画像処理装置において、前記色補間処理手段は、注目箇所の色信号と色差基準信号との差を求めることによって色差を算出する色差計算部と、前記色差基準信号を求めて前記色差計算部に供給する中央値選択部とを有し、前記中央値選択部は、垂直方向の画素の信号に基づく垂直色差基準信号と、水平方向の画素の信号に基づく水平色差基準信号と、注目箇所の色信号とに基づき、前記垂直基準信号と前記水平基準信号と前記色信号の中央値を選択して前記色差基準信号に設定する。 In the image processing apparatus of the present invention, the color interpolation processing unit obtains the color difference reference signal by calculating a color difference by obtaining a difference between the color signal of the target location and the color difference reference signal, and obtaining the color difference reference signal. A median value selection unit for supplying to the color difference calculation unit, the median value selection unit, a vertical color difference reference signal based on the signal of the pixel in the vertical direction, a horizontal color difference reference signal based on the signal of the pixel in the horizontal direction, Based on the color signal of the point of interest, the vertical reference signal, the horizontal reference signal, and the median value of the color signal are selected and set as the color difference reference signal.
この構成により、垂直色差と水平色差の符号に応じて色差を求める本発明の色補間を好適に実現できる。特に、この構成により、偽色を抑圧した色補間を、3値の中央値を求めるという単純な処理によって実現できる。そして、処理を削減でき、構成を簡素化できる。 With this configuration, the color interpolation according to the present invention for obtaining the color difference according to the signs of the vertical color difference and the horizontal color difference can be suitably realized. In particular, with this configuration, color interpolation in which false colors are suppressed can be realized by a simple process of obtaining a ternary median value. And processing can be reduced and a structure can be simplified.
また、本発明の画像処理装置において、前記画像色信号入力手段は、RGBベイヤ信号を入力し、前記中央値選択部は、垂直方向緑信号と水平方向緑信号と赤信号の3つの中央値を赤色差基準信号として求め、垂直方向緑信号と水平方向緑信号と青信号の3つの中央値を青色差基準信号として求める。この構成により、最も一般的なRBGベイヤフィルタの信号処理において、3値の中央値を求めるという単純な処理により、偽色を抑圧した色補間が可能となる。 In the image processing apparatus of the present invention, the image color signal input means inputs an RGB Bayer signal, and the median value selection unit obtains three median values of a vertical direction green signal, a horizontal direction green signal, and a red signal. It is obtained as a red difference reference signal, and three median values of the vertical direction green signal, the horizontal direction green signal and the blue signal are obtained as the blue difference reference signal. With this configuration, it is possible to perform color interpolation in which false colors are suppressed by a simple process of obtaining a median of three values in the most common RBG Bayer filter signal processing.
本発明の画像処理方法は、画素ごとに分光感度特性の異なる色信号を入力する画像色信号入力ステップと、画素に不足する色を周囲画素から補間により求める色補間処理ステップとを有し、前記色補間処理ステップは、垂直方向の画素の信号に基づいた垂直色差と水平方向の画素の信号に基づいた水平色差の正負が一致する場合には、前記垂直色差と前記水平色差のうちで色差絶対値の小さい方の色差を求め、前記垂直色差と前記水平色差の正負が異なる場合には色差をゼロとする。この態様によっても上述の本発明の利点が得られる。 The image processing method of the present invention includes an image color signal input step for inputting a color signal having different spectral sensitivity characteristics for each pixel, and a color interpolation processing step for determining a color deficient in the pixel from surrounding pixels by interpolation, In the color interpolation processing step, if the vertical color difference based on the vertical pixel signal and the horizontal color difference based on the horizontal pixel signal match, the absolute color difference of the vertical color difference and the horizontal color difference is determined. The color difference having the smaller value is obtained, and the color difference is set to zero when the vertical color difference and the horizontal color difference are different from each other. This aspect also provides the above-described advantages of the present invention.
本発明の画像処理方法において、前記色補間処理ステップは、前記垂直色差を生成する垂直色差生成ステップと、前記水平色差を生成する水平色差生成ステップと、前記垂直色差および前記水平色差の符号を判定する符号判定ステップと、前記垂直色差と前記水平色差の正負が一致する場合に、前記垂直色差と前記水平色差のうちで色差絶対値の小さい方の色差を選択する色差選択ステップと、前記垂直色差と前記水平色差の正負が異なる場合には色差をゼロとする色差ゼロ処理ステップとを有する。この方法によっても上述の本発明の利点が得られる。 In the image processing method of the present invention, the color interpolation processing step determines a vertical color difference generation step for generating the vertical color difference, a horizontal color difference generation step for generating the horizontal color difference, and a sign of the vertical color difference and the horizontal color difference. A sign determination step, a color difference selection step of selecting a color difference having a smaller color difference absolute value of the vertical color difference and the horizontal color difference when the vertical color difference and the horizontal color difference match, and the vertical color difference And a color difference zero processing step of setting the color difference to zero when the horizontal color difference is different in sign. This method also provides the above-described advantages of the present invention.
また、本発明の画像処理方法において、前記色補間処理ステップは、注目箇所の色信号と色差基準信号との差を求めることによって色差を算出する色差計算ステップと、前記色計算ステップで使われる前記色差基準信号を求める中央値選択ステップとを有し、前記中央値選択ステップは、垂直方向の画素の信号に基づく垂直色差基準信号と、水平方向の画素の信号に基づく水平色差基準信号と、注目箇所の色信号とに基づき、前記垂直基準信号と前記水平基準信号と前記色信号の中央値を選択して前記色差基準信号に設定する。この方法によっても上述の本発明の利点が得られる。 In the image processing method of the present invention, the color interpolation processing step includes a color difference calculation step for calculating a color difference by obtaining a difference between a color signal of a target location and a color difference reference signal, and the color calculation step used in the color calculation step. A median selection step for obtaining a color difference reference signal, the median value selection step comprising: a vertical color difference reference signal based on a vertical pixel signal; a horizontal color difference reference signal based on a horizontal pixel signal; Based on the color signal of the location, the vertical reference signal, the horizontal reference signal, and the median value of the color signal are selected and set as the color difference reference signal. This method also provides the above-described advantages of the present invention.
また、本発明の画像処理方法において、前記画像色信号入力ステップは、RGBベイヤ信号を入力し、前記中央値選択ステップは、垂直方向緑信号と水平方向緑信号と赤信号の3つの中央値を赤色差基準信号として求め、垂直方向緑信号と水平方向緑信号と青信号の3つの中央値を青色差基準信号として求める。この方法によっても上述の本発明の利点が得られる。 In the image processing method of the present invention, the image color signal input step inputs an RGB Bayer signal, and the median value selection step calculates three median values of a vertical direction green signal, a horizontal direction green signal, and a red signal. It is obtained as a red difference reference signal, and three median values of the vertical direction green signal, the horizontal direction green signal and the blue signal are obtained as the blue difference reference signal. This method also provides the above-described advantages of the present invention.
本発明は、上述のように垂直色差と水平色差の符号に応じて色差を求めることで、垂直と水平で色相が反転するために最も偽色が目立つ部分において色差あるいは彩度を落として、偽色を除去あるいは抑圧し、輝度の急激な切り替わりを抑えて、動画処理でも自然な画像を出力できるという効果を有する画像処理装置を提供できる。 As described above, the present invention obtains the color difference according to the signs of the vertical color difference and the horizontal color difference, thereby reducing the color difference or the saturation at the portion where the false color is most conspicuous because the hue is inverted vertically and horizontally. It is possible to provide an image processing apparatus that has the effect of removing or suppressing colors, suppressing a sudden change in luminance, and outputting a natural image even in moving image processing.
以下、本発明の実施の形態に係る画像処理装置について、図面を用いて説明する。 Hereinafter, an image processing apparatus according to an embodiment of the present invention will be described with reference to the drawings.
本発明の第1の実施の形態に係る画像処理装置を図1に示す。本実施の形態の画像処理装置は、画像データを入力し、画像データに対してYC処理を行って輝度および色差を出力する。図1において、画像処理装置は、画像色信号入力部11、色補間処理部12および輝度生成部13で構成されている。
An image processing apparatus according to the first embodiment of the present invention is shown in FIG. The image processing apparatus according to the present embodiment receives image data, performs YC processing on the image data, and outputs luminance and color difference. In FIG. 1, the image processing apparatus includes an image color
画像色信号入力部11は、画像データを入力する構成であり、画素ごとに分光感度特性の異なる色信号を入力する。画像色信号入力部11は、例えば、CCD等の撮像素子で構成されてよい。また、画像色信号入力部11は、過去の撮影等で記録された画像データを入力する構成でもよい。本実施の形態では、画像データとしてRGBベイヤ配列の信号が入力される。
The image color
色補間処理部12は、画像データを処理して、画素に不足する色を周囲画素から補間により求める構成であり、色の情報として色差を求めて出力する。また、輝度生成部13は、画像データを処理して輝度を求めて出力する構成である。色補間処理部12および輝度生成部13は、回路によって実現されてもよく、また、ソフトウエアプログラムによって実現されてもよい。
The color
画像処理装置の全体的な動作としては、画像色信号入力部11から画像データが入力されると、色補間処理部12および輝度生成部13が画像データを処理して、それぞれ色差信号および輝度信号を出力する。
As an overall operation of the image processing apparatus, when image data is input from the image color
次に、本実施の形態に特徴的な色補間処理部12の構成と動作についてさらに説明する。色補間処理部12は、上述のように色補間を行って色差を求める。ここで、垂直方向の画素の信号に基づいた色差を垂直色差といい、水平方向の画素の信号に基づいた色差を色差という。本実施の形態では、色補間処理部12が出力する色差が、以下に説明するように、垂直色差と水平色差それぞれの相関量に加えて、垂直色差と水平色差それぞれの符号に応じて異なる値になる。なお、色補間処理では、青色補間処理と赤色補間処理を行うが、同様の処理を行うため、ここでは、赤色補間処理についてのみ説明する。
Next, the configuration and operation of the color
図1において、色補間処理部12は、垂直色差を生成する垂直色差生成部14と、水平色差を生成する水平色差生成部15と、垂直色差および水平色差の符号を判定する符号判定部16と、垂直色差と水平色差の正負が一致する場合に、垂直色差と前記水平色差のうちで色差絶対値の小さい方の色差を選択する色差選択部17と、垂直色差と水平色差の正負が異なる場合には色差をゼロとする色差ゼロ処理部18とを有する。
In FIG. 1, a color
次に、色補間処理部12の動作を説明する。垂直色差生成部14は、赤(R)と垂直方向の輝度(Y)を用いて垂直色差(R−Y)を求める。水平色差生成部15は、赤(R)と水平方向の輝度(Y)を用いて水平色差(R−Y)を求める。図2〜図4を参照し、垂直色差および水平色差の具体的な求め方について説明する。
Next, the operation of the color
図2は、RGBベイヤの色フィルタの配列である。緑(G)は市松上に配置され、赤(R)と青(B)は、1行置きに交互に配置されている。画面全体の緑:赤:青の比率は2:1:1となっている。 FIG. 2 shows an array of RGB Bayer color filters. Green (G) is arranged on a checkered pattern, and red (R) and blue (B) are arranged alternately every other line. The ratio of green: red: blue on the entire screen is 2: 1: 1.
図3を用いて垂直色差の求め方を説明する。図3では、垂直色差を求めるために使う画素のみに、R、Gの記号を付している。図示のように、R画素に対して垂直方向に位置するG画素のみが使われる。図3の例では、図中の4×4の領域にある4つのR画素の信号の重みづけ平均により、赤(R)が求められる。また、図3の領域にて赤(R)に対して垂直方向に隣接した4つのG画素の信号の重み付け平均により、輝度(Y)求められる。そして、これら赤(R)と輝度(Y)から、垂直色差(R−Y)が算出される。 A method of obtaining the vertical color difference will be described with reference to FIG. In FIG. 3, only the pixels used for obtaining the vertical color difference are given R and G symbols. As shown in the figure, only the G pixel positioned in the direction perpendicular to the R pixel is used. In the example of FIG. 3, red (R) is obtained by weighted average of signals of four R pixels in the 4 × 4 region in the figure. Also, the luminance (Y) is obtained by the weighted average of the signals of the four G pixels adjacent to the red (R) in the vertical direction in the region of FIG. Then, a vertical color difference (R−Y) is calculated from these red (R) and luminance (Y).
ここでは、輝度(Y)は色差の基準信号であり、本実施の形態では輝度(Y)として緑(G)が用いられている。周知のように、緑(G)は輝度(Y)の7割以上を占める主要成分であるので、この例に見られるように色差を求めるときなどには輝度(Y)の代用として緑(G)を用いることができる。 Here, the luminance (Y) is a color difference reference signal, and in this embodiment, green (G) is used as the luminance (Y). As is well known, green (G) is a main component that occupies 70% or more of luminance (Y). Therefore, as shown in this example, when obtaining a color difference, green (G) is used as a substitute for luminance (Y). ) Can be used.
また、上記の処理にて重み付け平均をするのは、緑(G)、赤(R)、青(B)の加算処理後の重心を一致させるためである。 The reason why the weighted average is performed in the above processing is to make the centers of gravity after the addition processing of green (G), red (R), and blue (B) coincide.
図4は、水平色差を求める処理を示している。図4では、水平色差を求めるために使う画素のみに、R、Gの記号を付している。図示のように、R画素に対して水平方向に位置するG画素のみが使われる。このようにR画素に対して水平方向に隣接するG画素を使う点を除いて、水平色差を求める処理は、垂直色差を求める処理と同様であり、以下の説明を省略する。 FIG. 4 shows a process for obtaining the horizontal color difference. In FIG. 4, only the pixels used for obtaining the horizontal color difference are given R and G symbols. As shown, only G pixels located in the horizontal direction with respect to R pixels are used. The process for obtaining the horizontal color difference is the same as the process for obtaining the vertical color difference except that the G pixel that is adjacent to the R pixel in the horizontal direction is used, and the following description is omitted.
図1に戻り、符号判定部16は、垂直色差および水平色差それぞれの符号(正負)を比較判定する。符号判定部16にて、垂直色差と水平色差の正負が一致すると判定された場合には、色差選択部17が、垂直色差と水平色差のうちで色差絶対値の小さい方の色差を選択する。ここでは、垂直色差の絶対値と、水平色差の絶対値が求められ、両者が比較される。そして、信号レベルが低い方の色差が選択される。一方、符号判定部16にて、垂直色差と水平色差の正負が不一致と判定された場合には、色信号(色差信号)が偽色になりやすいので、色差ゼロ処理部18が色差をゼロにする。このようにして、色差選択部17または色差ゼロ処理部18によって求められた色差が、色補間処理部12から出力される。
Returning to FIG. 1, the
上述の説明では、赤(R)の補間処理のみが説明された。しかし、本実施の形態の画像処理装置は、青(B)の補間処理も同様に行うように構成されている。したがって、赤(R)の信号の代わりに、青(B)の信号が使われる点を除き、青(B)の色差も赤(R)の色差と同様の処理によって求められる。 In the above description, only the red (R) interpolation process has been described. However, the image processing apparatus according to the present embodiment is configured to perform blue (B) interpolation processing in the same manner. Therefore, the color difference of blue (B) is obtained by the same process as the color difference of red (R) except that the signal of blue (B) is used instead of the signal of red (R).
なお、本実施の形態は、RGBベイヤ配列に適応していた。しかし、本発明はこれに限定されない。そのほかの色配列においても、垂直色差と水平色差を求めることが出来るなら、本発明を適用することが可能である。 Note that this embodiment is adapted to the RGB Bayer array. However, the present invention is not limited to this. The present invention can be applied to other color arrangements as long as the vertical color difference and the horizontal color difference can be obtained.
また、本実施の形態では、色差の基準信号が緑(G)であった。ここでは、既に説明したように輝度(Y)として緑(G)が利用された。しかし、本発明はこれに限定されない。他の色信号も使って、本当の輝度に近い値を算出することも可能である。 In the present embodiment, the color difference reference signal is green (G). Here, green (G) is used as the luminance (Y) as already described. However, the present invention is not limited to this. It is also possible to calculate a value close to the true luminance using other color signals.
また、本実施の形態における画像処理の説明では、通常、カメラ信号処理で行われるエッジ強調機能、ノイズ除去機能、キズ補正機能についての説明を省略している。しかし、本発明の画像処理がこれらの処理を妨げることはなく、これらの処理も一緒に実行することは可能である。 In the description of image processing in the present embodiment, descriptions of an edge enhancement function, a noise removal function, and a defect correction function that are normally performed in camera signal processing are omitted. However, the image processing of the present invention does not prevent these processes, and these processes can be executed together.
以上に、本発明の第1の実施の形態に係る画像処理装置について説明した。上述のように、本実施の形態では、色補間処理において、垂直色差と水平色差の正負が一致する場合には、垂直色差と水平色差のうちで色差絶対値の小さい方の色差が求められる。また、垂直色差と水平色差の正負が異なる場合には色差がゼロとされる。このようにして、垂直色差と水平色差それぞれの相関量の比較だけでなく、垂直色差と水平色差の符号(正負)に応じて色差が求められ、水平色差と垂直色差で符号が異なる場合には色差がゼロになる。したがって、垂直と水平で色相が反転するために最も偽色が目立つ部分において、色差あるいは彩度を落とすことができ、偽色を除去あるいは抑圧することが可能となり、そして、輝度の急激な切り替わりを抑えることができ、こうして、動画処理でも自然な画像を出力することができる。 The image processing apparatus according to the first embodiment of the present invention has been described above. As described above, in the present embodiment, in the color interpolation process, when the positive and negative of the vertical color difference and the horizontal color difference coincide with each other, the color difference having the smaller color difference absolute value among the vertical color difference and the horizontal color difference is obtained. Further, when the vertical color difference and the horizontal color difference are different from each other, the color difference is set to zero. In this way, not only the comparison of the correlation amount between the vertical color difference and the horizontal color difference, but also the color difference is obtained according to the sign (positive or negative) of the vertical color difference and the horizontal color difference, and when the sign differs between the horizontal color difference and the vertical color difference. The color difference becomes zero. Therefore, since the hue is reversed vertically and horizontally, the color difference or saturation can be reduced at the portion where the false color is most conspicuous, and the false color can be removed or suppressed. In this way, a natural image can be output even in moving image processing.
また、本実施の形態によれば、色補間処理部12が上述のような符号判定部16、色差選択部17および色差ゼロ処理部18を備えており、これにより、垂直色差と水平色差の符号に応じて色差を求める本発明の色補間を好適に実現できる。
In addition, according to the present embodiment, the color
なお、本実施の形態の画像処理装置が本発明の一態様であるのはもちろんのこと、上記の画像処理装置により実行される画像処理方法も本発明を構成し、さらに、この画像処理方法を実現するソフトウエアプログラムおよびそれを記録した記録媒体も本発明を構成する。 Note that the image processing apparatus according to this embodiment is one aspect of the present invention, and the image processing method executed by the image processing apparatus also constitutes the present invention. A software program to be realized and a recording medium on which the software program is recorded also constitute the present invention.
次に、本発明の第2の実施の形態に係る画像処理装置について説明する。以下、第1の実施の形態と重複する事項の説明は適宜省略する。なお、第1の実施の形態と同様、第2の実施の形態でも、青色補間処理と赤色補間処理は同様なので、ここでは主として赤色補間処理について説明する。 Next, an image processing apparatus according to the second embodiment of the present invention will be described. Hereinafter, description of matters overlapping with the first embodiment will be omitted as appropriate. As in the first embodiment, the blue interpolation process and the red interpolation process are the same in the second embodiment, and therefore, the red interpolation process will be mainly described here.
図5は、第2の実施の形態の画像処理装置を示している。図示のように、第1の実施の形態と第2の実施の形態では、色補間処理部12の内部構成が異なる。ただし、以下に説明するように、色補間処理部12で求められる色差は、2つの実施の形態で同じである。
FIG. 5 shows an image processing apparatus according to the second embodiment. As illustrated, the internal configuration of the color
図5において、色補間処理部12は、中央値選択部51と色差計算部52で構成されている。中央値選択部51は、色差基準信号を求めて色差計算部52に供給する構成であり、色差計算部52は、色信号と色差基準信号との差を求めることによって色差を算出する構成である。
In FIG. 5, the color
上記構成のうち、中央値選択部51は、垂直色差基準信号、水平色差基準信号、注目箇所の色信号の中央値を選択し、色差基準信号に設定する。垂直色差基準信号は、垂直方向の画素の信号に基づく色差基準信号であり、本実施の形態では、垂直方向の輝度信号である。同様に、水平色差基準信号は、、水平方向の画素の信号に基づく色差基準信号であり、本実施の形態では、水平方向の輝度信号である。ここでは、垂直方向の輝度信号を垂直輝度信号(Yv)といい、水平方向の輝度信号を水平輝度信号(Yh)という。また、注目箇所の色信号は、前出の赤(R)の信号である。さらに、中央値(メディアン)は、3つの値の中で真中の大きさの値(2番目の大きさの値)である。
Among the above-described configurations, the median
次に、本実施の形態における画像処理装置の動作を説明する。ここでは、第1の実施の形態の説明で用いた図3および図4を参照しながら、色補間処理部12の動作を説明する。
Next, the operation of the image processing apparatus in this embodiment will be described. Here, the operation of the color
中央値選択部51は、図3に示される4×4の領域中の4つの画素のR信号を重み付け加算して、赤(R)の信号を求める。また、中央値選択部51は、図3にて赤(R)に対して垂直方向に隣接した4つのG画素の信号を重み付け加算して、垂直輝度信号(Yv)を求める。さらに、中央値選択部51は、図4にて赤(R)に対して水平方向に隣接した4つのG画素の信号を重み付け加算して、水平輝度信号(Yh)を求める。
The median
これら赤(R)、垂直輝度信号(Yv)、水平輝度信号(Yh)の計算処理は、第1の実施の形態と同様である。これら3つの値の利用方法としては、第1の実施の形態では、最初にこれらの値から垂直色差と水平色差が計算され、それから符号比較が行われた。 The calculation processing of these red (R), vertical luminance signal (Yv), and horizontal luminance signal (Yh) is the same as that in the first embodiment. As a method of using these three values, in the first embodiment, first, a vertical color difference and a horizontal color difference are calculated from these values, and then a code comparison is performed.
一方、第2の実施の形態では、色差を計算するよりも前に、これら赤(R)、垂直輝度信号(Yv)、水平輝度信号(Yh)の中央値が色差基準信号として求められる。そして、色差基準信号が色差計算部52にて処理され、色差基準信号が赤(R)から引き算されて、色差が求められる。
On the other hand, in the second embodiment, before calculating the color difference, the median value of these red (R), vertical luminance signal (Yv), and horizontal luminance signal (Yh) is obtained as the color difference reference signal. Then, the color difference reference signal is processed by the color
図6は、赤信号(R)、垂直輝度信号(Yv)、水平輝度信号(Yh)の大小関係の3つのパターンを示している。図6を参照し、第1の実施の形態と第2の実施の形態では同じ色差が出力されることを説明する。 FIG. 6 shows three patterns of magnitude relationship between the red signal (R), the vertical luminance signal (Yv), and the horizontal luminance signal (Yh). With reference to FIG. 6, it will be described that the same color difference is output in the first embodiment and the second embodiment.
図6の上段では、R<Yv<Yhである。第1の実施の形態の処理を行ったとすると、垂直色差(R−Yv)と水平色差(R−Yh)が共に負である。そこで、色差絶対値が小さい垂直色差(R−Yv)が選択される。一方、第2の実施の形態の処理を行ったとすると、垂直輝度信号Yvが中央値であり、色差基準信号として選択され、色差はR−Yvになる。したがって、両実施の形態で色差は同じになる。 In the upper part of FIG. 6, R <Yv <Yh. If the processing of the first embodiment is performed, the vertical color difference (R−Yv) and the horizontal color difference (R−Yh) are both negative. Therefore, the vertical color difference (R−Yv) with a small color difference absolute value is selected. On the other hand, if the processing of the second embodiment is performed, the vertical luminance signal Yv has a median value and is selected as a color difference reference signal, and the color difference becomes R−Yv. Therefore, the color difference is the same in both embodiments.
図6の中段では、Yv<Yh<Rである。この場合、第1の実施の形態の処理を行ったとすると、垂直色差(R−Yv)と水平色差(R−Yh)が共に正である。そこで、色差絶対値が小さい垂直色差(R−Yh)が選択される。一方、第2の実施の形態の処理を行ったとすると、垂直輝度信号Yhが中央値であり、色差基準信号として選択され、色差はR−Yhになる。したがって、両実施の形態で色差は同じになる。 In the middle part of FIG. 6, Yv <Yh <R. In this case, if the processing of the first embodiment is performed, both the vertical color difference (R−Yv) and the horizontal color difference (R−Yh) are positive. Therefore, a vertical color difference (R−Yh) having a small color difference absolute value is selected. On the other hand, if the processing of the second embodiment is performed, the vertical luminance signal Yh has a median value and is selected as a color difference reference signal, and the color difference becomes R−Yh. Therefore, the color difference is the same in both embodiments.
図6の下段では、Yv<R<Yhである。この場合、第1の実施の形態の処理を行ったとすると、垂直色差(R−Yv)が正であり、水平色差(R−Yh)が負であり、符号が異なる。そこで、色差はゼロになる。一方、第2の実施の形態の処理を行ったとすると、赤(R)が中央値であり、色差基準信号として選択される。そして、色差はR−R=0になる。したがって、両実施の形態で色差は同じになる。 In the lower part of FIG. 6, Yv <R <Yh. In this case, if the processing of the first embodiment is performed, the vertical color difference (R−Yv) is positive, the horizontal color difference (R−Yh) is negative, and the signs are different. Therefore, the color difference becomes zero. On the other hand, if the processing of the second embodiment is performed, red (R) is the median value and is selected as the color difference reference signal. The color difference is RR = 0. Therefore, the color difference is the same in both embodiments.
上述の3つのパターンでは、Yv<Yhであった。Yv>Yhの3つのパターンでも、同様に、第1の実施の形態と第2の実施の形態の処理で色差は同じになる。 In the above three patterns, Yv <Yh. Similarly, even in the three patterns of Yv> Yh, the color difference is the same between the processes of the first embodiment and the second embodiment.
このようにして、第2の実施の形態でも、第1の実施の形態と同様に、色補間処理部12は、垂直色差と水平色差の正負が一致する場合には色差絶対値の小さい方の色差を求め、垂直色差と水平色差の正負が異なる場合には色差をゼロとする処理を行うことができる。
In this way, in the second embodiment as well, as in the first embodiment, the color
次に、第2の実施の形態で行われる処理を式のかたちで示す。まず、中央値(色差基準信号)は、最大値(MAX)と最小値(MIN)の演算を用いて、下記の4行の式で計算するこtができる。
G1 = MIN(水平G , 垂直G)
G2 = MAX(水平G , 垂直G)
G3 = MAX(R , G1)
G4 = MIN(G2 , G3)
Next, processing performed in the second embodiment is shown in the form of an expression. First, the median value (color difference reference signal) can be calculated by the following four lines using the maximum value (MAX) and minimum value (MIN).
G1 = MIN (horizontal G, vertical G)
G2 = MAX (horizontal G, vertical G)
G3 = MAX (R, G1)
G4 = MIN (G2, G3)
ここで、水平Gは、垂直Gは、それぞれ、上述の水平輝度信号Yhおよび垂直輝度信号Yvである。本実施の形態の色差処理では輝度信号として緑(G)を用いることから、ここでは、水平G、垂直Gといった表現を用いている。また、上記のMAX(a , b)は、a、bの最大値(大きい方の値)を意味し、MAX(a , b)は、a、bの最小値(小さい方の値)を意味する。 Here, the horizontal G and the vertical G are the horizontal luminance signal Yh and the vertical luminance signal Yv, respectively. Since color (G) is used as the luminance signal in the color difference processing of the present embodiment, expressions such as horizontal G and vertical G are used here. The above MAX (a, b) means the maximum value (larger value) of a and b, and MAX (a, b) means the minimum value (smaller value) of a and b. To do.
上記のG4が、水平G、垂直Gおよび赤Rの中央値(メディアン)である。そこで、下記の式により、色差が求められる。
色差 = R−G4
The above G4 is the median value of the horizontal G, vertical G and red R. Therefore, the color difference is obtained by the following equation.
Color difference = R-G4
色補間処理部12の中央値選択部51および色計算部52は、上記の式の計算を実現するように構成されればよい。色補間処理部12は、回路で実現されてもよく、ソフトウエア処理(プログラム)で実現されてもよい。本実施の形態では、上記のように中央値を求めるという簡単な処理を行って色差を求めるので、色補間処理12の構成も簡素化できる。
The median
上述の説明では、赤(R)の補間処理のみが説明された。しかし、本実施の形態の画像処理装置は、青(B)の補間処理も同様に行うように構成されている。したがって、赤(R)の信号の代わりに、青(B)の信号が使われる点を除き、青(B)の色差も赤(R)の色差と同様の処理によって求められる。 In the above description, only the red (R) interpolation process has been described. However, the image processing apparatus according to the present embodiment is configured to perform blue (B) interpolation processing in the same manner. Therefore, the color difference of blue (B) is obtained by the same process as the color difference of red (R) except that the signal of blue (B) is used instead of the signal of red (R).
以上に本発明の第2の実施の形態に係る画像処理装置について説明した。図6を用いて説明したように、本実施の形態でも、色補間処理部12は、垂直色差と水平色差の正負が一致する場合には色差絶対値の小さい方の色差を求め、垂直色差と水平色差の正負が異なる場合には色差をゼロとする処理を行う。したがって、第1の実施の形態と同じく、偽色を除去あるいは抑圧することが可能となり、そして、輝度の急激な切り替わりを抑えることができ、動画処理でも自然な画像を出力することができる。
The image processing apparatus according to the second embodiment of the present invention has been described above. As described with reference to FIG. 6, also in the present embodiment, the color
また、本実施の形態によれば、色補間処理部12が、色差基準信号を求める中央値選択部51と、色差基準信号を用いて色差を求める色差計算部52とで構成される。中央値選択部51は、垂直方向の画素の信号に基づく垂直色差基準信号と、水平方向の画素の信号に基づく水平色差基準信号と、注目箇所の色信号とに基づき、それら垂直基準信号と水平基準信号と色信号の中央値を選択して色差基準信号に設定する。これにより、3値の中央値を求めるという単純な処理によって本発明の色補間を実現できる。そして、処理を削減でき、回路削減やプログラム量削減ができ、構成を簡素化できる。
Further, according to the present embodiment, the color
また、本実施の形態によれば、RGBベイヤ信号が入力され、中央値選択部51は、垂直方向緑信号と水平方向緑信号と赤信号の3つの中央値を赤色差基準信号として求め、垂直方向緑信号と水平方向緑信号と青信号の3つの中央値を青色差基準信号として求める。赤信号から赤色基準信号が引き算されて赤色差が求められ、青信号から青色差基準信号が引かれて青色差が求められる。こうして、最も一般的なRBGベイヤフィルタの信号処理において、3値の中央値を求めるという単純な処理により、偽色を抑圧した色補間が可能となる。
Further, according to the present embodiment, the RGB Bayer signal is input, and the median
以上に本発明の好適な実施の形態を説明した。しかし、本発明は上述の実施の形態に限定されず、当業者が本発明の範囲内で上述の実施の形態を変形可能なことはもちろんである。 The preferred embodiments of the present invention have been described above. However, the present invention is not limited to the above-described embodiments, and it goes without saying that those skilled in the art can modify the above-described embodiments within the scope of the present invention.
以上のように、本発明にかかる画像処理装置は、偽色を除去または抑圧できるとともに、輝度が大きく切り替わることを抑え、動画処理でも自然な画像を出力するできるという効果を有し、カメラ等の画像処理装置として有用である。 As described above, the image processing apparatus according to the present invention can remove or suppress false colors, has an effect of suppressing a large change in luminance, and can output a natural image even in moving image processing. It is useful as an image processing apparatus.
11 画像色信号入力部
12 色補間処理部
13 輝度生成部
14 垂直色差生成部
15 水平色差生成部
16 符号判定部
17 色差選択部
18 色差ゼロ処理部
51 中央値選択部
52 色差計算部
DESCRIPTION OF
Claims (8)
画素に不足する色を周囲画素から補間により求める色補間処理手段とを有し、
前記色補間処理手段は、垂直方向の画素の信号に基づいた垂直色差と水平方向の画素の信号に基づいた水平色差の正負が一致する場合には、前記垂直色差と前記水平色差のうちで色差絶対値の小さい方の色差を求め、前記垂直色差と前記水平色差の正負が異なる場合には色差をゼロとすることを特徴とする画像処理装置。 Image color signal input means for inputting color signals having different spectral sensitivity characteristics for each pixel;
Color interpolation processing means for obtaining a color deficient in pixels from surrounding pixels by interpolation,
When the vertical color difference based on the vertical pixel signal and the horizontal color difference based on the horizontal pixel signal coincide with each other, the color interpolation processing means determines the color difference between the vertical color difference and the horizontal color difference. An image processing apparatus characterized by obtaining a color difference having a smaller absolute value and setting the color difference to zero when the vertical color difference and the horizontal color difference are different from each other.
画素に不足する色を周囲画素から補間により求める色補間処理ステップとを有し、
前記色補間処理ステップは、垂直方向の画素の信号に基づいた垂直色差と水平方向の画素の信号に基づいた水平色差の正負が一致する場合には、前記垂直色差と前記水平色差のうちで色差絶対値の小さい方の色差を求め、前記垂直色差と前記水平色差の正負が異なる場合には色差をゼロとすることを特徴とする画像処理方法。 An image color signal input step for inputting color signals having different spectral sensitivity characteristics for each pixel;
A color interpolation processing step for interpolating a color deficient in pixels from surrounding pixels,
In the color interpolation processing step, the color difference between the vertical color difference and the horizontal color difference is determined when the vertical color difference based on the vertical pixel signal and the horizontal color difference based on the horizontal pixel signal match. An image processing method characterized by obtaining a color difference having a smaller absolute value and setting the color difference to zero when the vertical color difference and the horizontal color difference are different from each other.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006193925A JP4889391B2 (en) | 2006-07-14 | 2006-07-14 | Image processing apparatus and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006193925A JP4889391B2 (en) | 2006-07-14 | 2006-07-14 | Image processing apparatus and image processing method |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2008022426A JP2008022426A (en) | 2008-01-31 |
JP2008022426A5 JP2008022426A5 (en) | 2009-08-13 |
JP4889391B2 true JP4889391B2 (en) | 2012-03-07 |
Family
ID=39078038
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006193925A Expired - Fee Related JP4889391B2 (en) | 2006-07-14 | 2006-07-14 | Image processing apparatus and image processing method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4889391B2 (en) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3576600B2 (en) * | 1994-07-11 | 2004-10-13 | キヤノン株式会社 | Color imaging device |
JP4038867B2 (en) * | 1998-03-19 | 2008-01-30 | 株式会社ニコン | Interpolation method |
JP2002016930A (en) * | 2000-06-28 | 2002-01-18 | Canon Inc | Image pickup device and method, signal processing device and method |
JP4840740B2 (en) * | 2004-12-01 | 2011-12-21 | 株式会社メガチップス | Pixel interpolation method and image determination method |
-
2006
- 2006-07-14 JP JP2006193925A patent/JP4889391B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2008022426A (en) | 2008-01-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100780932B1 (en) | Color interpolation method and device | |
JP4054184B2 (en) | Defective pixel correction device | |
US7570288B2 (en) | Image processor | |
EP2099229A1 (en) | Image processing method and apparatus | |
JP2004153823A (en) | Image processing system using local linear regression | |
KR101389562B1 (en) | Image signal processing apparatus and Method for the same | |
JP2010252231A (en) | Image processing apparatus, method of controlling the same, and program | |
JP6046927B2 (en) | Image processing apparatus and control method thereof | |
JP2005056374A (en) | Apparatus for and method of edge enhancement in image processing | |
JP4321064B2 (en) | Image processing apparatus and image processing program | |
JP2006311314A (en) | Color isolation processing method and color isolation processing circuit | |
JP4947624B2 (en) | White balance adjustment method | |
JP2008258909A (en) | Signal processing circuit | |
JP2005167974A (en) | Image processing method and image processor, image processing program, and semiconductor device | |
JP6041133B2 (en) | Image processing apparatus, image processing method, image processing program, and chip circuit | |
US7046277B2 (en) | Image interpolating device, including interpolation and modification processors | |
US6747698B2 (en) | Image interpolating device | |
JP2009194721A (en) | Image signal processing device, image signal processing method, and imaging device | |
WO2010099048A2 (en) | Method and apparatus for spatial noise adaptive filtering for digital image and video capture systems | |
JP4889391B2 (en) | Image processing apparatus and image processing method | |
US7106341B2 (en) | Image interpolating device | |
JP2005260908A (en) | Image processing method, image processing device, semiconductor device, electronic apparatus, image processing program, and computer-readable recording medium | |
US6900833B2 (en) | Image interpolating device | |
JP4334150B2 (en) | Image interpolation device | |
US7499086B2 (en) | Image signal processing apparatus, image signal processing circuit, image signal processing method, program, and recording medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090626 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090626 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20111013 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20111122 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20111213 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20141222 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |