JP2017112421A - Image processing apparatus, imaging device and image processing program - Google Patents

Image processing apparatus, imaging device and image processing program Download PDF

Info

Publication number
JP2017112421A
JP2017112421A JP2015243278A JP2015243278A JP2017112421A JP 2017112421 A JP2017112421 A JP 2017112421A JP 2015243278 A JP2015243278 A JP 2015243278A JP 2015243278 A JP2015243278 A JP 2015243278A JP 2017112421 A JP2017112421 A JP 2017112421A
Authority
JP
Japan
Prior art keywords
value
image processing
processing apparatus
white balance
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015243278A
Other languages
Japanese (ja)
Other versions
JP6676948B2 (en
Inventor
佐野 央
Hiroshi Sano
央 佐野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2015243278A priority Critical patent/JP6676948B2/en
Publication of JP2017112421A publication Critical patent/JP2017112421A/en
Application granted granted Critical
Publication of JP6676948B2 publication Critical patent/JP6676948B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide an image processing apparatus capable of avoiding achromatic coloring.SOLUTION: An image processing apparatus includes a white balance adjustment section performing white balance adjustment of image data having pixel values of first, second and third color components in each pixel, and a processing section for changing the pixel values of the second and third color components of some pixels, out of the pixels where the pixel value of the first color component of the image data subjected to the white balance adjustment is a first saturated value, and the pixel values of the second and third color components are larger than the first saturated value.SELECTED DRAWING: Figure 1

Description

本発明は、画像処理装置、撮像装置および画像処理プログラムに関する。   The present invention relates to an image processing device, an imaging device, and an image processing program.

ホワイトバランス調整を行う撮像装置が知られている(特許文献1)。ホワイトバランス調整によって偽色が生じる場合があるという問題が知られている。   An imaging apparatus that performs white balance adjustment is known (Patent Document 1). There is a known problem that false color may occur due to white balance adjustment.

特許3943719号公報Japanese Patent No. 3934719

本発明の第1の態様によると、画像処理装置は、各画素に第1、第2および第3の色成分の画素値を有する画像データにホワイトバランス調整を行うホワイトバランス調整部と、前記ホワイトバランス調整を行った前記画像データの前記第1の色成分の画素値が第1の飽和した値であり、前記第2および前記第3の色成分の画素値がともに前記第1の飽和した値よりも大きい画素のうちの一部の画素の前記第2および前記第3の色成分の画素値を変化させる処理部と、を備える。
本発明の第2の態様によると、撮像装置は、請求項1〜10のいずれか一項に記載の画像処理装置と、被写体像を撮像して画像データを生成する撮像部と、を備える。
本発明の第3の態様によると、画像処理プログラムは、コンピュータを、請求項1〜10のいずれか一項に記載の画像処理装置として機能させる。
According to the first aspect of the present invention, the image processing apparatus includes: a white balance adjustment unit that performs white balance adjustment on image data having pixel values of first, second, and third color components in each pixel; The pixel value of the first color component of the image data subjected to balance adjustment is a first saturated value, and the pixel values of the second and third color components are both the first saturated value. A processing unit that changes pixel values of the second and third color components of some of the larger pixels.
According to a second aspect of the present invention, an imaging apparatus includes the image processing apparatus according to any one of claims 1 to 10 and an imaging unit that captures a subject image and generates image data.
According to the third aspect of the present invention, the image processing program causes a computer to function as the image processing apparatus according to any one of claims 1 to 10.

本発明の一実施の形態に係る画像処理装置を有する撮像装置の構成例を示すブロック図である。1 is a block diagram illustrating a configuration example of an imaging apparatus having an image processing apparatus according to an embodiment of the present invention. 画像処理の流れを示すフローチャートである。It is a flowchart which shows the flow of an image process. ホワイトバランスゲイン乗算後の画像データを示すRGB空間を示す図である。It is a figure which shows the RGB space which shows the image data after white balance gain multiplication. RGB空間における白色点Wを通る直線Lを示す図である。It is a figure which shows the straight line L which passes along the white point W in RGB space. RGB空間におけるクリップ平面を示す図である。It is a figure which shows the clip plane in RGB space. RGB空間における高輝度側の点Pを示す図である。It is a figure which shows the point P on the high-intensity side in RGB space. RGB空間における直線WMと平面G=Giとの交点Cの具体例を示す図である。It is a figure which shows the specific example of the intersection C of the straight line WM in RGB space, and the plane G = Gi. クリップ処理の具体例を示す図である。It is a figure which shows the specific example of a clip process. 変形例に係るRGB空間における白色点Wを通る線を示す図である。It is a figure which shows the line which passes along the white point W in RGB space which concerns on a modification. 変形例に係るRGB空間におけるクリップ平面を示す図である。It is a figure which shows the clip plane in the RGB space which concerns on a modification.

図1は、一実施の形態に係る画像処理装置を有する撮像装置の構成例を示すブロック図である。撮像装置の一例であるデジタルカメラ10は、撮像光学系11と、撮像素子12と、アナログ信号処理部13と、画像処理部30と、操作部17と、メモリIF部18と、表示部19と、制御部20とを備える。   FIG. 1 is a block diagram illustrating a configuration example of an imaging apparatus having an image processing apparatus according to an embodiment. A digital camera 10, which is an example of an imaging apparatus, includes an imaging optical system 11, an imaging element 12, an analog signal processing unit 13, an image processing unit 30, an operation unit 17, a memory IF unit 18, and a display unit 19. The control unit 20 is provided.

撮像光学系11は、複数のレンズ、レンズ駆動部、絞りなどから構成され、撮像素子12の撮像面に被写体像を結像させる。なお、図1では、簡単のため、撮像光学系11を1枚のレンズとして図示している。   The imaging optical system 11 includes a plurality of lenses, a lens driving unit, a diaphragm, and the like, and forms a subject image on the imaging surface of the imaging element 12. In FIG. 1, for the sake of simplicity, the imaging optical system 11 is illustrated as a single lens.

撮像素子12は、CCDやCMOSイメージセンサ等の撮像素子であり、撮像光学系11により結像された被写体像を撮像してアナログ画像信号を出力する。撮像素子12には、R(赤)、G(緑)、B(青)の各色フィルタを備えた撮像画素が、例えば、ベイヤー配列に従って配列されている。   The image pickup device 12 is an image pickup device such as a CCD or a CMOS image sensor, picks up a subject image formed by the image pickup optical system 11 and outputs an analog image signal. In the imaging element 12, imaging pixels each provided with R (red), G (green), and B (blue) color filters are arranged according to a Bayer array, for example.

アナログ信号処理部13は、撮像素子12から出力されたアナログ画像信号に対して信号処理を行う。アナログ信号処理部13は、例えば、相関二重サンプリング(CDS;Correlated Double Sampling)、ゲイン調整、アナログデジタル(AD;Analog Digital)変換、色分離などの信号処理を行う。AD変換処理では、アナログ画像信号をデジタル画像信号に変換する。色分離処理では、画像信号をR、G、Bの色フィルタ毎に分離することにより、各色に対応したRAW画像データを生成する。   The analog signal processing unit 13 performs signal processing on the analog image signal output from the image sensor 12. The analog signal processing unit 13 performs signal processing such as correlated double sampling (CDS), gain adjustment, analog digital (AD) conversion, and color separation, for example. In the AD conversion process, an analog image signal is converted into a digital image signal. In the color separation process, RAW image data corresponding to each color is generated by separating the image signal for each of R, G, and B color filters.

画像処理部30は、ホワイトバランス(WB)調整部14、クリップ処理部15、補正処理部16などから構成され、ホワイトバランス調整、クリップ処理、ガンマ補正などの画像処理を行う。画像処理部30は、例えば、一部または全部がASIC(Application Specific Integrated Circuit)として構成される。   The image processing unit 30 includes a white balance (WB) adjustment unit 14, a clip processing unit 15, a correction processing unit 16, and the like, and performs image processing such as white balance adjustment, clip processing, and gamma correction. For example, part or all of the image processing unit 30 is configured as an ASIC (Application Specific Integrated Circuit).

ホワイトバランス(WB)調整部14は、各色成分の画素値を有するRaw画像データに対してホワイトバランス調整を行う。ホワイトバランス(WB)調整部14は、例えば、各色のRaw画像データに対してホワイトバランスゲイン値を乗算することで、ホワイトバランス調整を行う。   The white balance (WB) adjustment unit 14 performs white balance adjustment on Raw image data having pixel values of each color component. The white balance (WB) adjustment unit 14 performs white balance adjustment, for example, by multiplying the raw image data of each color by a white balance gain value.

クリップ処理部15は、面設定部31と、上限値決定部32と、補正部33とを有し、ホワイトバランス調整後の画像データに対して各色成分の画素値を変化させる処理を行う。面設定部31は、RGB色空間内の白色点を通る面(クリップ面)を設定する。上限値決定部32は、面設定部31により設定されたクリップ面に基づいて、ホワイトバランス調整後の画像データの上限値(クリップ値)を決定する。補正部33は、上限値決定部32により決定されたクリップ値に基づいて、ホワイトバランス調整後の画像データを補正する処理を行う。   The clip processing unit 15 includes a surface setting unit 31, an upper limit determination unit 32, and a correction unit 33, and performs processing for changing the pixel value of each color component with respect to image data after white balance adjustment. The surface setting unit 31 sets a surface (clip surface) that passes through the white point in the RGB color space. The upper limit determination unit 32 determines the upper limit (clip value) of the image data after white balance adjustment based on the clip plane set by the plane setting unit 31. The correction unit 33 performs processing for correcting the image data after white balance adjustment based on the clip value determined by the upper limit determination unit 32.

補正処理部16は、クリップ処理部15から出力された画像データに対して画像処理を行う。補正処理部16は、例えば、色階調処理、輪郭強調処理などの画像処理を行う。   The correction processing unit 16 performs image processing on the image data output from the clip processing unit 15. The correction processing unit 16 performs image processing such as color gradation processing and contour enhancement processing, for example.

制御部20は、CPU、メモリ、周辺回路などから構成され、デジタルカメラ10の各部を制御する。CPUは、メモリから制御プログラムやパラメータを読み込んで実行することにより、デジタルカメラ10の各部の制御などを行う。メモリには、例えばフラッシュメモリやDRAMが含まれる。フラッシュメモリは、不揮発性の記憶媒体であり、予め所定の制御プログラムや種々のパラメータなどが記憶されている。DRAMは、揮発性の記憶媒体であり、CPUの作業用領域として使用したり、データを一時的に記憶したりするために使用される。   The control unit 20 includes a CPU, a memory, a peripheral circuit, and the like, and controls each unit of the digital camera 10. The CPU controls each part of the digital camera 10 by reading and executing a control program and parameters from the memory. Examples of the memory include flash memory and DRAM. The flash memory is a non-volatile storage medium, and stores a predetermined control program and various parameters in advance. The DRAM is a volatile storage medium, and is used as a work area for the CPU or for temporarily storing data.

操作部17は、種々の操作部材などから構成され、操作部材の操作に応じた操作信号を制御部20に出力する。制御部20は、入力された操作信号に基づいて、デジタルカメラ10の各部を制御する。メモリIF部18は、不図示のコネクタを有し、メモリカードなどの記憶媒体が接続される。メモリIF部18は、接続された記憶媒体に対して画像データの書き込みや、記憶媒体からの画像データの読み込みを行う。表示部19は、例えば、液晶モニタなどから構成され、撮像して生成された画像信号に基づく画像や、デジタルカメラ10を設定するための設定メニューなどが表示される。   The operation unit 17 includes various operation members, and outputs an operation signal corresponding to the operation of the operation member to the control unit 20. The control unit 20 controls each unit of the digital camera 10 based on the input operation signal. The memory IF unit 18 has a connector (not shown) to which a storage medium such as a memory card is connected. The memory IF unit 18 writes image data to the connected storage medium and reads image data from the storage medium. The display unit 19 includes, for example, a liquid crystal monitor and displays an image based on an image signal generated by imaging, a setting menu for setting the digital camera 10, and the like.

現在、多くのデジタルカメラでは、ベイヤー配列の撮像素子を用いて撮像が行われ、ベイヤー補間、ホワイトバランス処理、色階調処理が行われ画像が記録される。ホワイトバランス処理では、無彩色を撮影した場合のRGB画像データが、1:1:1になるよう、ホワイトバランスを調整する。その後、色階調処理によって、好みの色、あるいは忠実な色など、再現意図に応じた変換が適用される。多くの場合、色階調処理では、その入力として、ホワイトバランスが調整された画像を前提としている。   Currently, in many digital cameras, imaging is performed using Bayer array imaging elements, and Bayer interpolation, white balance processing, and color gradation processing are performed, and an image is recorded. In the white balance process, the white balance is adjusted so that the RGB image data when an achromatic color is captured is 1: 1: 1. Thereafter, conversion according to the reproduction intention, such as a favorite color or a faithful color, is applied by color gradation processing. In many cases, color gradation processing assumes an image with adjusted white balance as its input.

無彩色を撮影した場合、撮像の生出力であるRawデータは光源によって変化するため、ホワイトバランス処理は光源に対応して適用される。どのような光源であったか、カメラが自動的に判別するオートホワイトバランス機能や、撮影者が手動で設定するマニュアルホワイトバランス機能、無彩色被写体を予備撮影することによって行うプリセットホワイトバランス機能などを、デジタルカメラ10は備えている。   When an achromatic color is photographed, the raw data, which is the raw image output, varies depending on the light source, and therefore the white balance processing is applied corresponding to the light source. A digital white balance function that automatically determines the light source, a manual white balance function that is manually set by the photographer, and a preset white balance function that is performed by pre-shooting an achromatic object The camera 10 is provided.

ホワイトバランス処理は具体的には、チャンネルごとにRawデータにホワイトバランスゲイン値を乗算する方法が知られている。これは、無彩色の物体が撮影された場合、その画像データが、1:1:1になるよう、チャンネルごとのホワイトバランスゲイン値をRawデータに乗算するものである。ホワイトバランスゲイン値は、オートホワイトバランス機能を使用した場合はデジタルカメラ10が算出し、マニュアルホワイトバランス機能を使用した場合は、あらかじめデジタルカメラ10内に記憶されたホワイトバランスゲイン値を使用する。   Specifically, as the white balance processing, a method of multiplying Raw data by a white balance gain value for each channel is known. In this case, when an achromatic object is photographed, the raw data is multiplied by the white balance gain value for each channel so that the image data becomes 1: 1: 1. The white balance gain value is calculated by the digital camera 10 when the auto white balance function is used, and the white balance gain value stored in advance in the digital camera 10 is used when the manual white balance function is used.

ホワイトバランスゲイン乗算後の画像データは、元のRawデータが飽和していなければ、無彩色の被写体に対して1:1:1とすることができる。しかしながら、無彩色被写体を撮影した場合に、元のRawデータのいずれかのチャンネルが飽和している場合、乗算後の画像データを、1:1:1とすることができない。   As long as the original raw data is not saturated, the image data after white balance gain multiplication can be 1: 1: 1 for an achromatic subject. However, when an achromatic subject is photographed, if any channel of the original raw data is saturated, the image data after multiplication cannot be 1: 1: 1.

例えば、Rawデータが12bit(最大4095)で(240,480,300)でありゲイン値が(2.00,1.00,1.60)であれば、乗算後の画像データは、(480,480,480)となり、1:1:1とすることができる。しかし、高輝度部分の無彩色を撮影した場合のRawデータは、例えば(2400,4095,3000)といったように、撮像時にGチャンネルが飽和している場合が考えられ、このときホワイトバランスゲイン乗算後の画像データは、(4800,4095,4800)となり、1:1:1とすることができない。その結果、偽色の一種である、無彩色の高輝度部分に色がついたような、色づき現象が発生してしまう。   For example, if Raw data is 12 bits (maximum 4095) and (240, 480, 300) and the gain value is (2.00, 1.00, 1.60), the image data after multiplication is (480, 480, 480), and 1: 1: 1. However, the Raw data when an achromatic color in a high-luminance part is photographed may be a case where the G channel is saturated at the time of imaging, for example (2400, 4095, 3000). The image data of (4800, 4095, 4800) becomes 1: 1: 1. As a result, a coloring phenomenon occurs in which a high-intensity portion of an achromatic color, which is a kind of false color, is colored.

このような現象を生じさせないために、ホワイトバランスゲインを乗算した後、画像データを制限値でクリップさせる、クリップ処理が知られている。これは例えば、4095を制限値とした場合、4095を超える画像データは4095に制限されるというものである。クリップ処理を行う場合、上記の例での(2400,4095,3000)というRawデータは、(4800,4095,4800)とならずに、(4095,4095, 4095)となり、1:1:1とすることができ、無彩色の色づき現象を避けることができる。   In order to prevent such a phenomenon from occurring, a clipping process is known in which image data is clipped by a limit value after multiplication by a white balance gain. For example, when 4095 is set as a limit value, image data exceeding 4095 is limited to 4095. When clip processing is performed, the raw data (2400, 4095, 3000) in the above example is not (4800, 4095, 4800) but (4095, 4095, 4095), and 1: 1: 1. And achromatic coloring phenomenon can be avoided.

クリップ処理ではこのように、高輝度の無彩色被写体に対して、無彩色の色づき現象を防ぐことができる。しかし、低輝度の有彩色の被写体に対して、偽色の一種である色回りや、彩度の低下を発生させてしまったりする場合がある。例えば、ホワイトバランスゲインが(2.00,1.00,1.60)であり、Rawデータが(3000,1000,1500)となっている場合に対し、ホワイトバランスゲインを乗算して4095を制限値としたクリップ処理を行うことを考えてみる。Rチャンネルに対しては、3000×2.00=6000となり、これは4095を超えてしまうので、ホワイトバランスゲイン乗算後にクリップ処理を行うと、画像データは(4095,1000,2400)となる。RGBの画像データ比が、クリップ処理によって変化するため、色回りを発生することになる。RawデータのG成分と、B成分とが、R成分に対して極めて小さい場合、例えばRawデータが(3000,100,100)といった場合に対して、同様の処理を行ったとすると、処理後の画像データは(4095,100,160)になり彩度の低下が目立つようになる。   As described above, the clipping process can prevent the achromatic coloring phenomenon with respect to the high brightness achromatic object. However, there are cases in which a low-luminance chromatic subject is subject to color rotation, which is a kind of false color, or a reduction in saturation. For example, when the white balance gain is (2.00, 1.00, 1.60) and the raw data is (3000, 1000, 1500), 4095 is limited by multiplying the white balance gain. Consider performing clip processing with values. For the R channel, 3000 × 2.00 = 6000, which exceeds 4095. Therefore, when clip processing is performed after white balance gain multiplication, the image data is (4095, 1000, 2400). Since the RGB image data ratio is changed by the clipping process, color rotation occurs. If the same processing is performed when the G component and the B component of the raw data are extremely small relative to the R component, for example, when the raw data is (3000, 100, 100), the processed image The data becomes (4095, 100, 160), and the decrease in saturation becomes conspicuous.

特許文献1に記載の撮像装置では、ホワイトバランス調整前又は調整後の一つの色信号のレベルに応じて、ホワイトバランス調整後の他の色信号のクリップレベルを設定する。このため、基準とする一つの色信号のレベルが高い場合は、画像データがクリップされることになり、色回りや彩度の低下を発生させてしまう。そこで、本発明の実施の形態では、図5に示すような色空間内の白色点を通るクリップ面を設定することで、広範な条件で色回りや彩度の低下を回避する。   In the imaging apparatus described in Patent Document 1, the clip level of another color signal after white balance adjustment is set according to the level of one color signal before or after white balance adjustment. For this reason, when the level of one color signal as a reference is high, the image data is clipped, which causes a decrease in color and saturation. Therefore, in the embodiment of the present invention, by setting a clip plane that passes through the white point in the color space as shown in FIG. 5, a decrease in color rotation and saturation is avoided under a wide range of conditions.

本実施の形態では、ホワイトバランスゲイン乗算後の画像データを示すRGB空間において、平面を参照してクリップ値を求めることを行う。まずこの平面(以下、クリップ平面とよぶ)について述べる。Rawデータの最大値を1.0に正規化すると、ホワイトバランスゲイン値(Rチャンネル:Rg,Bチャンネル:Bg)をかけた画像データは、RGB空間において
0≦R≦Rg
0≦G≦1.0
0≦B≦Bg
で囲まれる直方体(Rg=2.0、Bg=1.6の場合について図3に示す)の内部になる。白色点Wは(1.0,1.0,1.0)になる。クリップ平面はこのRGB空間において定義する。以下、クリップ平面の算出方法を述べる。
In the present embodiment, a clip value is obtained with reference to a plane in an RGB space indicating image data after white balance gain multiplication. First, this plane (hereinafter referred to as clip plane) will be described. When the maximum value of the Raw data is normalized to 1.0, the image data multiplied by the white balance gain value (R channel: Rg, B channel: Bg) is 0 ≦ R ≦ Rg in the RGB space.
0 ≦ G ≦ 1.0
0 ≦ B ≦ Bg
Is a rectangular parallelepiped (shown in FIG. 3 for the case of Rg = 2.0, Bg = 1.6). The white point W becomes (1.0, 1.0, 1.0). The clip plane is defined in this RGB space. The clip plane calculation method will be described below.

G=1.0面内で、白色点W(1.0,1.0,1.0)を通り所定の傾きmの直線Lを求める。この直線Lは、R−B座標系であらわすと、
B=m・(R−1.0)+1.0 ・・・(1)
となり、これは
−mR+B=1.0−m ・・・(2)
と表せる。この直線Lを図4に示す。
A straight line L having a predetermined slope m is obtained through the white point W (1.0, 1.0, 1.0) within the G = 1.0 plane. This straight line L is expressed in the RB coordinate system.
B = m · (R−1.0) +1.0 (1)
This is -mR + B = 1.0-m (2)
It can be expressed. This straight line L is shown in FIG.

クリップ平面は、(2)式で表される直線を含むものとする。平面を示す式は、G=1.0のときに上記の直線を示す式になる。したがって、実数pを用いて、次式(3)が得られる。
−mR+p(1.0−G)+B=1.0−m ・・・(3)
The clip plane includes a straight line represented by the formula (2). The expression indicating the plane is an expression indicating the straight line when G = 1.0. Therefore, using the real number p, the following equation (3) is obtained.
-MR + p (1.0-G) + B = 1.0-m (3)

クリップ平面は、平面R=Rgと平面B=Bgとの交線を示す直線上で、G=Gn(0<Gn<1.0)を満たす所定の点M(Rg,Gn,Bg)を通るものとする。したがって、次式(4)、(5)が得られる。
−mRg+p(1.0−Gn)+Bg=1.0−m ・・・(4)
p=(mRg−Bg+1.0−m)/(1.0−Gn) ・・・(5)
The clip plane passes through a predetermined point M (Rg, Gn, Bg) satisfying G = Gn (0 <Gn <1.0) on a straight line indicating an intersection line between the plane R = Rg and the plane B = Bg. Shall. Therefore, the following expressions (4) and (5) are obtained.
-MRg + p (1.0-Gn) + Bg = 1.0-m (4)
p = (mRg−Bg + 1.0−m) / (1.0−Gn) (5)

図5にクリップ平面を示す。ここで、所定の値mとGnについてそれぞれ、m=−1.0、Gn=0.5とすると、
p=(−Rg−Bg+2.0)/(1.0−0.5)
=−2Rg−2Bg+4.0 ・・・(6)
となるので、クリップ平面の式は、
R+(−2Rg−2Bg+4.0)(1.0−G)+B=1.0−m ・・・(7)
R+(2Rg+2Bg−4.0)G+B=2Rg+2Bg−2.0 ・・・(8)
となる。以上がクリップ平面の算出方法である。クリップ平面は、画像にかけられるホワイトバランスゲイン値によって決定されるものとなる。ホワイトバランスゲイン値を入力として、上記の平面算出ができるよう、情報をデジタルカメラ10に記憶しておく。
FIG. 5 shows the clip plane. Here, assuming that m = −1.0 and Gn = 0.5 for the predetermined values m and Gn,
p = (-Rg-Bg + 2.0) / (1.0-0.5)
= -2Rg-2Bg + 4.0 (6)
Therefore, the expression of the clip plane is
R + (-2Rg-2Bg + 4.0) (1.0-G) + B = 1.0-m (7)
R + (2Rg + 2Bg−4.0) G + B = 2Rg + 2Bg−2.0 (8)
It becomes. The above is the calculation method of the clip plane. The clip plane is determined by the white balance gain value applied to the image. Information is stored in the digital camera 10 so that the above-described plane calculation can be performed using the white balance gain value as an input.

次に、デジタルカメラ10での動作フローを、図2を用いて示す。本実施の形態では、R、Bチャンネルのホワイトバランスゲイン値Rg、Bgは、それぞれ2.0、1.6であるとする。   Next, an operation flow in the digital camera 10 will be described with reference to FIG. In this embodiment, it is assumed that the white balance gain values Rg and Bg of the R and B channels are 2.0 and 1.6, respectively.

ステップ1(S1)において、撮影者は撮影を行い、Rawデータ(12bitとする)がデジタルカメラ10の記憶領域に記憶される。   In step 1 (S 1), the photographer takes a picture, and Raw data (12 bits) is stored in the storage area of the digital camera 10.

ステップ2(S2)において、Rawデータにベイヤー補間が施され、一画素につき3色のデータが作成され、記憶領域に記憶される。   In step 2 (S2), Bayer interpolation is performed on the Raw data, and data of three colors per pixel is created and stored in the storage area.

ステップ3(S3)において、ホワイトバランスゲイン値の決定を行う。ホワイトバランスゲイン値は、ホワイトバランスモード(オートホワイトバランス、マニュアルホワイトバランスなど)によって決定される。ここでは、上述のとおり、R、Bチャンネルのホワイトバランスゲイン値Rg、Bgは、それぞれ2.0、1.6であることとする。   In step 3 (S3), the white balance gain value is determined. The white balance gain value is determined by a white balance mode (auto white balance, manual white balance, etc.). Here, as described above, the white balance gain values Rg and Bg of the R and B channels are 2.0 and 1.6, respectively.

ステップ4(S4)において、クリップ平面の式を求める。(8)式に、Rg=2.0、Bg=1.6をそれぞれ代入し、次式(9)が得られる。
R+3.2・G+B=5.2 ・・・(9)
In step 4 (S4), an expression of the clip plane is obtained. Substituting Rg = 2.0 and Bg = 1.6 into the equation (8), the following equation (9) is obtained.
R + 3.2 · G + B = 5.2 (9)

ステップ5(S5)において、Rawデータにホワイトバランスゲインを乗算する。また、画像データを、Rawデータの上限値4095で除算し正規化する。乗算後の画像データ最大値は(R,G,B)=(2.0,1.0,1.6)になる。以下、ステップ6(S6)〜ステップ9(S9)の処理は、画素値に応じた処理となり、画素ごとに処理を行う。   In step 5 (S5), the raw data is multiplied by the white balance gain. Further, the image data is normalized by being divided by the upper limit value 4095 of the Raw data. The maximum value of the image data after multiplication is (R, G, B) = (2.0, 1.0, 1.6). Hereinafter, the processing of step 6 (S6) to step 9 (S9) is processing according to the pixel value, and processing is performed for each pixel.

ステップ6(S6)において、ホワイトバランスゲイン乗算後の画像データ(Ri,Gi,Bi)をRGB空間での点で表した場合、その点がクリップ平面R+3.2G+B=5.2より高輝度側(点P(2.0,1.0,1.6)側)かどうか判定する(図6)。高輝度側ならばステップ7(S7)へ、そうでないならば、クリップ処理を行わないものとしてステップ9(S9)に移る。   In step 6 (S6), when the image data (Ri, Gi, Bi) after white balance gain multiplication is represented by a point in the RGB space, that point is on the higher brightness side than the clip plane R + 3.2G + B = 5.2 ( It is determined whether the point is P (2.0, 1.0, 1.6) side (FIG. 6). If it is on the high luminance side, the process proceeds to step 7 (S7), and if not, the process proceeds to step 9 (S9) assuming that the clipping process is not performed.

ステップ7(S7)において、RsとBsを算出する。Rs、Bsは、RGB空間で、点W(1.0,1.0,1.0)と点M(Rg,Gn,Bg)(=(2.0,0.5,1.6))とを通る直線(直線WM)と、平面G=Giとの交点C(Rs,Gi,Bs)のR座標、B座標であることとする(図7)。直線WMは、実数αを用いて、
(R,G,B)=(1.0,1.0,1.0)+α((2.0,0.5,1.6)-(1.0,1.0,1.0)) ・・・(10)
とかける。
In step 7 (S7), Rs and Bs are calculated. Rs and Bs are the RGB space, point W (1.0, 1.0, 1.0) and point M (Rg, Gn, Bg) (= (2.0, 0.5, 1.6)) And the R and B coordinates of the intersection C (Rs, Gi, Bs) between the straight line passing through (straight line WM) and the plane G = Gi (FIG. 7). The straight line WM uses the real number α,
(R, G, B) = (1.0,1.0,1.0) + α ((2.0,0.5,1.6)-(1.0,1.0,1.0)) (10)
Call it.

(Rs,Bs)は、直線WMと平面G=Giとの交点のR座標、B座標であるので、G=Giを直線WMの式に代入してαを求め、さらに求められたαを使用することで、(Rs,Bs)が求められる。例えば、Gi=0.7の場合、(10)式よりαが求められる。
0.7=1.0+α・(0.5−1.0) ・・・(11)
α=0.6 ・・・(12)
さらに、α=0.6を(10)式に代入し、(Rs,Bs)が求められる。
(Rs,Bs)=(1.0,1.0)+0.6・((2.0,1.6)-(1.0,1.0))=(1.6,1.36)
また例えば、Gi=1.0の場合は、(Rs,Bs)=(1.0,1.0)となり、Gi=0.5の場合は、(Rs,Bs)=(2.0,1.6)となる。
Since (Rs, Bs) is the R coordinate and B coordinate of the intersection of the straight line WM and the plane G = Gi, α is obtained by substituting G = Gi into the equation of the straight line WM, and the obtained α is used. Thus, (Rs, Bs) is obtained. For example, when Gi = 0.7, α is obtained from equation (10).
0.7 = 1.0 + α · (0.5−1.0) (11)
α = 0.6 (12)
Furthermore, α = 0.6 is substituted into the equation (10) to obtain (Rs, Bs).
(Rs, Bs) = (1.0,1.0) +0.6 ・ ((2.0,1.6)-(1.0,1.0)) = (1.6,1.36)
Further, for example, when Gi = 1.0, (Rs, Bs) = (1.0, 1.0), and when Gi = 0.5, (Rs, Bs) = (2.0, 1). .6).

ステップ8(S8)において、クリップ処理を実行する。Ri>RsかつBi>Bsの場合は、Ri=Rs、Bi=Bsにクリップする。   In step 8 (S8), clip processing is executed. If Ri> Rs and Bi> Bs, clip to Ri = Rs and Bi = Bs.

Ri>RsかつBi≦Bsの場合は、Rチャンネルのクリップ値を求めクリップする。クリップ値は、クリップ平面の式にB=Bi、G=Giを代入してRを求め、これをクリップ値としてクリップを行う。例えば、(Rs,Bs)=(1.6,1.36)であり、(Ri,Gi,Bi)=(1.9,0.7,1.1)である場合、(9)式から、
R=5.2−3.2・0.7−1.1=1.86
となるので、Ri=1.9を1.86にクリップする。
If Ri> Rs and Bi ≦ Bs, the R channel clip value is obtained and clipped. For the clip value, R is obtained by substituting B = Bi and G = Gi into the expression of the clip plane, and clipping is performed using this as the clip value. For example, when (Rs, Bs) = (1.6, 1.36) and (Ri, Gi, Bi) = (1.9, 0.7, 1.1), ,
R = 5.2-3.2.0.7-1.1 = 1.86
Therefore, Ri = 1.9 is clipped to 1.86.

Ri≦RsかつBi>Bsの場合は、Bチャンネルのクリップ値を求めクリップする。クリップ値は、クリップ平面の式にR=Ri、G=Giを代入してBを求め、これをクリップ値としてクリップする。例えば、(Rs,Bs)=(1.6,1.36)であり、(Ri,Gi,Bi)=(1.5,0.7,1.55)である場合、(9)式から、
B=5.2−3.2・0.7−1.5=1.46
となるので、Bi=1.55を1.46にクリップする。
When Ri ≦ Rs and Bi> Bs, the clip value of the B channel is obtained and clipped. The clip value is obtained by substituting R = Ri and G = Gi into the expression of the clip plane to obtain B, and clips this as the clip value. For example, when (Rs, Bs) = (1.6, 1.36) and (Ri, Gi, Bi) = (1.5, 0.7, 1.55), from equation (9) ,
B = 5.2-3.2 ・ 0.7-1.5 = 1.46
Therefore, Bi = 1.55 is clipped to 1.46.

Ri≦RsかつBi≦Bsの場合は、ステップS6(S6)の判定がNになるため、このステップ8(S8)の処理対象外となる。   In the case of Ri ≦ Rs and Bi ≦ Bs, the determination in step S6 (S6) is N, so the processing is not performed in step 8 (S8).

図8に、Gi=0.7、(Rs,Bs)=(1.6,1.36)である場合のクリップ処理を示す。Ri>RsかつBi>Bsの場合は、(Rs,Bs)=(1.6,1.36)にクリップされる。Ri>RsかつBi≦Bsの場合は、Biの値は保持したまま、Riのみ、クリップ平面と平面G=Gi(=0.7)との交線にクリップされる。Ri≦RsかつBi>Bsの場合は、Riの値は保持したまま、Biのみ、クリップ平面と平面G=Gi(=0.7)との交線にクリップされる。   FIG. 8 shows clip processing when Gi = 0.7 and (Rs, Bs) = (1.6, 1.36). When Ri> Rs and Bi> Bs, the clip is made to (Rs, Bs) = (1.6, 1.36). In the case of Ri> Rs and Bi ≦ Bs, only Ri is clipped at the intersection of the clip plane and the plane G = Gi (= 0.7) while maintaining the value of Bi. When Ri ≦ Rs and Bi> Bs, the value of Ri is maintained and only Bi is clipped to the intersection line between the clip plane and the plane G = Gi (= 0.7).

ステップ9(S9)において、終了判定を行い、すべての画素についてステップ6(S6)以下の処理を行った場合はステップ10(S10)へ、そうでない場合は、次の画素についてステップ6(S6)を行う。   In step 9 (S9), an end determination is made, and if the processing of step 6 (S6) and subsequent steps is performed for all pixels, the process proceeds to step 10 (S10). Otherwise, the process proceeds to step 6 (S6) for the next pixel. I do.

ステップ10(S10)において、正規化を行って12bit値に戻す。すなわち、4095を乗算する。以上が本実施の形態でのホワイトバランス処理、クリップ処理である。   In step 10 (S10), normalization is performed to return to a 12-bit value. That is, 4095 is multiplied. The above is the white balance processing and clip processing in the present embodiment.

例えば本実施の形態において、ホワイトバランスゲイン値が(2.00,1.00,1.60)である場合、下記の4つのRawデータについて、(Ri,Gi,Bi)、R+3.2・G+B、クリップ処理の有無は下記のようになる。
Rawデータ (Ri,Gi,Bi) R+3.2G+B クリップ処理
(2400,4095,3000) → (1.172,1.000,1.172) → 5.544 → 有
(3000,1000,1500) → (1.465,0.2442,0.5860) → 2.832 → なし
(3000,4000,1500) → (1.465,0.9768,0.5860) → 5.177 → なし
(2000,3500,3800) → (0.9768,0.8547,1.484) → 5.196 → なし
For example, in this embodiment, when the white balance gain value is (2.00, 1.00, 1.60), (Ri, Gi, Bi), R + 3.2 · G + B for the following four Raw data: The presence or absence of clip processing is as follows.
Raw data (Ri, Gi, Bi) R + 3.2G + B Clip processing
(2400,4095,3000) → (1.172,1.000,1.172) → 5.544 → Yes
(3000,1000,1500) → (1.465,0.2442,0.5860) → 2.832 → None
(3000,4000,1500) → (1.465,0.9768,0.5860) → 5.177 → None
(2000,3500,3800) → (0.9768,0.8547,1.484) → 5.196 → None

Rawデータが(2400,4095,3000)の場合の、Rs、Bs値はともに1.0になるため、本実施の形態の処理では、Ri、Biはともに1.0にクリップされる。したがって、本実施形態の適用後の処理後RGBデータ、偽色の有無は下記のとおりである。
Rawデータ 処理後データ 偽色
(2400,4095,3000) → (4095,4095,4095) なし(無彩色の色づき)
(3000,1000,1500) → (6000,1000,2400) なし(有彩色の色回り)
(3000,4000,1500) → (6000,4000,2400) なし(有彩色の色回り)
(2000,3500,3800) → (4000,3500,6080) なし(有彩色の色回り)
When the raw data is (2400, 4095, 3000), the Rs and Bs values are both 1.0, and therefore Ri and Bi are both clipped to 1.0 in the processing of this embodiment. Therefore, the post-processing RGB data after application of the present embodiment and the presence or absence of false colors are as follows.
Raw data Data after processing False color
(2400,4095,3000) → (4095,4095,4095) None (Natural coloring)
(3000,1000,1500) → (6000,1000,2400) None (around chromatic colors)
(3000,4000,1500) → (6000,4000,2400) None (around chromatic colors)
(2000,3500,3800) → (4000,3500,6080) None (around chromatic colors)

以上、本実施の形態の処理では、Gチャンネルの値が低い場合だけでなく、高い場合についても、クリップを避けることができ、有彩色の色回りを避けることができる。また、(2400,4095,3000)といったように、撮像時にGチャンネルが飽和している場合について、本実施の形態では1:1:1にすることができ、無彩色の色づきを避けることができる。すなわち、撮像時に飽和していることに起因する色づきを低減させることができ、また、ホワイトバランス乗算後のクリップ処理による色回りや彩度の低下を低減させることができる。   As described above, in the processing according to the present embodiment, not only when the value of the G channel is low but also when it is high, clipping can be avoided and chromatic color rotation can be avoided. Further, when the G channel is saturated at the time of imaging, such as (2400, 4095, 3000), it can be 1: 1: 1 in this embodiment, and achromatic coloring can be avoided. . That is, it is possible to reduce coloring caused by saturation at the time of imaging, and it is possible to reduce color rotation and saturation reduction due to clip processing after white balance multiplication.

特許文献1に記載の撮像装置では、ホワイトバランス調整前又は調整後の一つの色信号のレベルに応じて、ホワイトバランス調整後の他の色信号のクリップレベルを設定する。ここで、無彩色被写体を撮影した場合のRawデータレベルが最も高いチャンネルをC1チャンネル、次に高いチャンネルをC2チャンネル、最も低いチャンネルをC3チャンネルとする。この先行技術では、C1チャンネル(例えばG)のRawデータに応じて、C2チャンネル(例えばR)とC3チャンネル(例えばB)に対するクリップレベルを可変とし、C1チャンネル(G)のRawデータが低い場合にはクリップレベルを高く、C1チャンネル(G)のRawデータが高い場合にはクリップレベルを低くする。   In the imaging apparatus described in Patent Document 1, the clip level of another color signal after white balance adjustment is set according to the level of one color signal before or after white balance adjustment. Here, the channel with the highest Raw data level when an achromatic subject is photographed is the C1 channel, the next highest channel is the C2 channel, and the lowest channel is the C3 channel. In this prior art, the clip level for the C2 channel (for example, R) and the C3 channel (for example, B) is made variable according to the raw data for the C1 channel (for example, G), and the raw data for the C1 channel (G) is low. Increases the clip level, and lowers the clip level when the Raw data of the C1 channel (G) is high.

R、BチャンネルのホワイトバランスゲインをそれぞれRgain,Bgainとすると、例えば、C1チャンネル(G)のRawデータが2047以下の場合は、C1チャンネル(R)に対するクリップレベルを4095×Rgain(実質的にクリップ処理なしに相当)に設定する。C1チャンネル(G)のRawデータが4095の場合は、クリップレベルを4095に設定する。C1チャンネル(G)のRawデータが2047より大きく4095未満の場合は、4095×Rgainと4095を線形補間した値に設定する。Rgainが2.0、Bgainが1.6であるとすると、線形補間する場合のRチャンネルのクリップレベルClipRと、線形補間する場合のBチャンネルのクリップレベルClipBとは、それぞれ次式(13)、(14)で表されることになる。
ClipR={(4095-4095×2.0)/(4095-2047)}(G-4095)+4095 ・・・(13)
ClipB={(4095-4095×1.6)/(4095-2047)}(G-4095)+4095 ・・・(14)
If the white balance gain of the R and B channels is Rgain and Bgain, respectively, for example, if the Raw data of the C1 channel (G) is 2047 or less, the clip level for the C1 channel (R) is 4095 × Rgain (substantially clip Equivalent to no processing). When the Raw data of the C1 channel (G) is 4095, the clip level is set to 4095. When the Raw data of the C1 channel (G) is greater than 2047 and less than 4095, 4095 × Rgain and 4095 are set to values obtained by linear interpolation. Assuming that Rgain is 2.0 and Bgain is 1.6, the R channel clip level ClipR for linear interpolation and the B channel clip level ClipB for linear interpolation are expressed by the following equations (13), It will be represented by (14).
ClipR = {(4095-4095 × 2.0) / (4095-2047)} (G-4095) +4095 (13)
ClipB = {(4095-4095 × 1.6) / (4095-2047)} (G-4095) +4095 (14)

特許文献1の先行技術では、C1チャンネル(G)のRawデータが高い場合はクリップされることがある。例えば、Rawデータが(3000,4000,1500)の場合、上記(13)式、(14)式によれば、クリップ値は、
ClipR={(4095-4095×2.0)/(4095-2047)}(4000-4095)+4095=4284
ClipB={(4095-4095×1.6)/(4095-2047)}(4000-4095)+4095=4208
であるので、ホワイトバランスゲイン乗算後の画像データは、次の処理になる。
R:6000 (3000×2.0) → 4284にクリップされる
B:2400 (1500×1.6) → クリップされない
また例えば、Rawデータが(2000,3500,3800)となっている場合は、クリップ値は、ClipR=5284、ClipB=4808であるので、ホワイトバランスゲイン乗算後の画像データは、次の処理になる。
R:4000 (2000×2.0) → クリップされない
B:6080 (3800×1.6) → 4808にクリップされる
In the prior art of Patent Document 1, when the Raw data of the C1 channel (G) is high, it may be clipped. For example, when the Raw data is (3000, 4000, 1500), according to the above equations (13) and (14), the clip value is
ClipR = {(4095-4095 × 2.0) / (4095-2047)} (4000-4095) + 4095 = 4284
ClipB = {(4095-4095 × 1.6) / (4095-2047)} (4000-4095) + 4095 = 4208
Therefore, the image data after the white balance gain multiplication is processed as follows.
R: 6000 (3000 × 2.0) → Clipped to 4284 B: 2400 (1500 × 1.6) → Not clipped For example, if Raw data is (2000, 3500, 3800), clip Since the values are ClipR = 5284 and ClipB = 4808, the image data after white balance gain multiplication is processed as follows.
R: 4000 (2000 × 2.0) → Not clipped B: 6080 (3800 × 1.6) → Clipped to 4808

このように、先行技術では、特定のチャンネル(C1チャンネル)のRawデータのレベルが高い場合は、画像データがクリップされることになり、色回りや彩度の低下を発生させてしまうことになる。先行技術において、ホワイトバランスゲイン値が(2.00,1.00,1.60)である場合、下記の4つのRawデータについて、処理後のRGBデータ、偽色の有無は下記のようになる。
Rawデータ 処理後データ 偽色
(2400,4095,3000) → (4095,4095,4095) なし (無彩色の色づき)
(3000,1000,1500) → (6000,1000,2400) なし (有彩色の色回り)
(3000,4000,1500) → (4284,4000,2400) 有 (有彩色の色回り)
(2000,3500,3800) → (4000,3500,4808) 有 (有彩色の色回り)
これに対して、本実施の形態では、上述したように特定のチャンネルのデータが低い場合に限定されることなく、広範な条件で色回りや彩度の低下を回避することができる。
Thus, in the prior art, when the level of the Raw data of a specific channel (C1 channel) is high, the image data is clipped, which causes a decrease in color and saturation. . In the prior art, when the white balance gain value is (2.00, 1.00, 1.60), the RGB data after processing and the presence / absence of false color are as follows for the following four Raw data: .
Raw data Data after processing False color
(2400,4095,3000) → (4095,4095,4095) None (Natural coloring)
(3000,1000,1500) → (6000,1000,2400) None (colored around chromatic colors)
(3000,4000,1500) → (4284,4000,2400) Yes (around chromatic colors)
(2000,3500,3800) → (4000,3500,4808) Yes (around chromatic colors)
On the other hand, in the present embodiment, as described above, it is not limited to the case where the data of a specific channel is low, and it is possible to avoid a decrease in color rotation and saturation under a wide range of conditions.

上述した実施の形態によれば、次の作用効果が得られる。
(1)画像処理装置は、各画素に第1、第2および第3の色成分の画素値を有する画像データにホワイトバランス調整を行うホワイトバランス調整部14と、ホワイトバランス調整を行った画像データの第1の色成分の画素値が第1の飽和した値であり、第2および第3の色成分の画素値がともに第1の飽和した値よりも大きい画素のうちの一部の画素の第2および第3の色成分の画素値を変化させる処理部15と、を備える。このようにしたので、各色成分の画素値に基づいて、画素値を変化させることができる。
(2)処理部15は、第1、第2および第3の色成分の画素値を小さくすることにより画素の画素値を変化させる。このようにしたので、Rawデータ飽和による無彩色の色づきを回避することができる。また、色回りや彩度の低下を回避することができる。
According to the embodiment described above, the following operational effects can be obtained.
(1) The image processing apparatus includes a white balance adjustment unit 14 that performs white balance adjustment on image data having pixel values of the first, second, and third color components in each pixel, and image data that has undergone white balance adjustment. The pixel values of the first color component are the first saturated value, and the pixel values of the second and third color components are both larger than the first saturated value. And a processing unit 15 that changes the pixel values of the second and third color components. Since it did in this way, a pixel value can be changed based on the pixel value of each color component.
(2) The processing unit 15 changes the pixel value of the pixel by reducing the pixel values of the first, second, and third color components. Since this is done, achromatic coloring due to Raw data saturation can be avoided. In addition, it is possible to avoid a reduction in color and saturation.

(3)画像処理装置は、各画素に第1、第2および第3の色成分の画素値を有する画像データにホワイトバランス調整を行うホワイトバランス調整部14と、第1、第2および第3の色成分による色空間において、色空間内の白色点または白色点の近傍点を通る面を設定する面設定部31と、ホワイトバランス調整が行われた画像データを、面設定部31により設定された面から生成される上限値により補正する補正部33と、を備える。このようにしたので、色空間内の白色点または白色点の近傍点を通るクリップ面に基づいて、ホワイトバランス調整後の画像データを補正することができる。
(4)補正部33は、ホワイトバランス調整後の画像データを、面設定部31により設定された面から生成される上限値以内の値に補正する。このようにしたので、無彩色の色づきを回避することができる。また、特定のチャンネルのデータが低い場合に限定されることなく、広範な条件で色回りや彩度の低下を回避することができる。
(3) The image processing apparatus includes a white balance adjustment unit 14 that performs white balance adjustment on image data having pixel values of the first, second, and third color components in each pixel, and the first, second, and third. In the color space based on the color component, the surface setting unit 31 that sets a surface that passes through the white point in the color space or a point near the white point, and the image data that has undergone white balance adjustment are set by the surface setting unit 31. And a correction unit 33 that performs correction using an upper limit value generated from the surface. Since it did in this way, the image data after white balance adjustment can be correct | amended based on the clip surface which passes the white point in a color space, or the point near a white point.
(4) The correction unit 33 corrects the image data after the white balance adjustment to a value within the upper limit value generated from the surface set by the surface setting unit 31. Since it did in this way, achromatic coloring can be avoided. Further, the present invention is not limited to the case where the data of a specific channel is low, and it is possible to avoid a decrease in color rotation and saturation under a wide range of conditions.

次のような変形も本発明の範囲内であり、変形例の一つ、もしくは複数を上述の実施形態と組み合わせることも可能である。
(変形例1)
上述した実施の形態では、図5においてクリップ面は1つとしたが、複数の面を連結させたものであってもよい。
(変形例2)
上述した実施の形態では、図4において直線Lは1本の直線とし、図5においてクリップ面は一つの平面としたが、直線Lのかわりに図9のような折れ曲がりのある線を使用し、図10のようなクリップ面として2つの平面を連結したものを用いてもよい。
The following modifications are also within the scope of the present invention, and one or a plurality of modifications can be combined with the above-described embodiment.
(Modification 1)
In the embodiment described above, the number of clip surfaces is one in FIG. 5, but a plurality of surfaces may be connected.
(Modification 2)
In the embodiment described above, the straight line L in FIG. 4 is a single straight line, and the clip surface in FIG. 5 is a single plane, but instead of the straight line L, a bent line as shown in FIG. You may use what connected two planes as a clip surface like FIG.

(変形例3)
上述した実施の形態では、図5においてクリップ面は平面としたが、曲面を使用して、クリップ値を求めるときにこの曲面を参照することもできる。
(変形例4)
上述した実施の形態では、クリップ面は白色点を通ることとしたが、白色点の近傍点を通るものであってもよい。
(変形例5)
上述した実施の形態では、画像データのクリップ処理をRGB色空間で行う例を示したが、CMY(シアン、マゼンタ、イエロー)色空間などの他の空間で行ってもよい。
(Modification 3)
In the above-described embodiment, the clip surface is a flat surface in FIG. 5, but this curved surface can also be referred to when a clip value is obtained using a curved surface.
(Modification 4)
In the embodiment described above, the clip surface passes through the white point, but may pass through a point near the white point.
(Modification 5)
In the above-described embodiment, the example in which the clipping process of the image data is performed in the RGB color space is shown, but the image data may be performed in another space such as a CMY (cyan, magenta, yellow) color space.

(変形例6)
上述した実施の形態では、撮像装置に画像処理装置を搭載する例を説明したが、画像処理装置をコンピュータによって構成するようにしてもよい。図2に例示したフローチャートに基づく処理を行うプログラムをコンピュータ(またはCPUなど)に実行させることにより、画像処理装置を構成する。プログラムをコンピュータに取込んで使用する場合には、コンピュータのデータストレージ装置にプログラムをローディングした上で、当該プログラムを実行させる。
(Modification 6)
In the above-described embodiment, the example in which the image processing device is mounted on the imaging device has been described. However, the image processing device may be configured by a computer. The image processing apparatus is configured by causing a computer (or a CPU or the like) to execute a program that performs processing based on the flowchart illustrated in FIG. When a program is used by being taken into a computer, the program is executed after being loaded into a data storage device of the computer.

コンピュータに対するプログラムのローディングは、プログラムを格納したCD−ROMなどの記憶媒体をコンピュータにセットして行ってもよいし、ネットワークなどの通信回線を経由する方法でコンピュータへローディングしてもよい。通信回線を経由する場合は、通信回線に接続されたサーバー(コンピュータ)のストレージ装置などにプログラムを格納しておく。プログラムは、記憶媒体や通信回線を介する提供など、種々の形態のコンピュータプログラム製品として供給することができる。   The program may be loaded into the computer by setting a storage medium such as a CD-ROM storing the program in the computer, or may be loaded into the computer by a method via a communication line such as a network. When passing through a communication line, the program is stored in a storage device of a server (computer) connected to the communication line. The program can be supplied as various forms of computer program products such as provision via a storage medium or a communication line.

上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。   Although various embodiments and modifications have been described above, the present invention is not limited to these contents. Other embodiments conceivable within the scope of the technical idea of the present invention are also included in the scope of the present invention.

10…デジタルカメラ、11…撮像光学系、12…撮像素子、13…アナログ信号処理部、14…ホワイトバランス(WB)調整部、15…クリップ処理部、16…補正処理部、17…操作部、18…メモリIF部、19…表示部、20…制御部、30…画像処理部、31…面設定部、32…上限値決定部、33…補正部 DESCRIPTION OF SYMBOLS 10 ... Digital camera, 11 ... Imaging optical system, 12 ... Imaging device, 13 ... Analog signal processing part, 14 ... White balance (WB) adjustment part, 15 ... Clip processing part, 16 ... Correction processing part, 17 ... Operation part, DESCRIPTION OF SYMBOLS 18 ... Memory IF part, 19 ... Display part, 20 ... Control part, 30 ... Image processing part, 31 ... Surface setting part, 32 ... Upper limit determination part, 33 ... Correction part

Claims (12)

各画素に第1、第2および第3の色成分の画素値を有する画像データにホワイトバランス調整を行うホワイトバランス調整部と、
前記ホワイトバランス調整を行った前記画像データの前記第1の色成分の画素値が第1の飽和した値であり、前記第2および前記第3の色成分の画素値がともに前記第1の飽和した値よりも大きい画素のうちの一部の画素の前記第2および前記第3の色成分の画素値を変化させる処理部と、
を備える画像処理装置。
A white balance adjustment unit that performs white balance adjustment on image data having pixel values of the first, second, and third color components for each pixel;
The pixel value of the first color component of the image data subjected to the white balance adjustment is a first saturated value, and the pixel values of the second and third color components are both the first saturation. A processing unit that changes pixel values of the second and third color components of some of the pixels that are larger than the calculated value;
An image processing apparatus comprising:
請求項1に記載の画像処理装置において、
前記処理部は、さらに、前記ホワイトバランス調整を行った前記画像データの画素のうちの前記第1の色成分の画素値が第1の所定値から前記第1の飽和した値の間であり、前記第2の色成分の画素値が第2の所定値から第2の飽和した値の間であり、前記第3の色成分の画素値が第3の所定値から第3の飽和した値の間であり、かつ前記第1、前記第2および前記第3の色成分の画素値が前記第1の所定値、前記第2の所定値および前記第3の所定値である画素を含まない範囲の画素の画素値を前記範囲外の画素値に変化させる画像処理装置。
The image processing apparatus according to claim 1.
The processing unit is further configured such that a pixel value of the first color component among pixels of the image data subjected to the white balance adjustment is between a first predetermined value and a first saturated value. The pixel value of the second color component is between a second predetermined value and a second saturated value, and the pixel value of the third color component is between a third predetermined value and a third saturated value. A range that does not include pixels in which the pixel values of the first, second, and third color components are the first predetermined value, the second predetermined value, and the third predetermined value. An image processing apparatus that changes the pixel value of the pixel to a pixel value outside the range.
請求項1または2に記載の画像処理装置において、
前記処理部は、前記第1、前記第2および前記第3の色成分の画素値を小さくすることにより前記画素の画素値を変化させる画像処理装置。
The image processing apparatus according to claim 1 or 2,
The image processing apparatus, wherein the processing unit changes a pixel value of the pixel by reducing a pixel value of the first, second, and third color components.
各画素に第1、第2および第3の色成分の画素値を有する画像データにホワイトバランス調整を行うホワイトバランス調整部と、
第1、第2および第3の色成分による色空間において、前記色空間内の白色点または前記白色点の近傍点を通る面を設定する面設定部と、
前記ホワイトバランス調整が行われた画像データを、前記面設定部により設定された前記面から生成される上限値により補正する補正部と、
を備える画像処理装置。
A white balance adjustment unit that performs white balance adjustment on image data having pixel values of the first, second, and third color components for each pixel;
A surface setting unit that sets a surface that passes through a white point in the color space or a point near the white point in the color space of the first, second, and third color components;
A correction unit that corrects the image data subjected to the white balance adjustment with an upper limit value generated from the surface set by the surface setting unit;
An image processing apparatus comprising:
請求項4に記載の画像処理装置において、
前記補正部は、前記ホワイトバランス調整後の画像データを、前記面設定部により設定された前記面から生成される上限値以内の値に補正する画像処理装置。
The image processing apparatus according to claim 4.
The correction unit corrects the image data after the white balance adjustment to a value within an upper limit value generated from the surface set by the surface setting unit.
請求項4または5に記載の画像処理装置において、
前記色空間は、前記第1、第2および第3の色成分にそれぞれ対応する第1、第2および第3の座標軸を有し、
前記白色点または前記近傍点は、前記第1、第2および第3の座標軸のうちの二つの座標軸により規定される平面に平行な平面内に位置し、
前記面は、前記平行な平面内において前記白色点または前記近傍点を通り所定の傾きを有する線を含み、前記平行な平面に交差する画像処理装置。
The image processing apparatus according to claim 4 or 5,
The color space has first, second and third coordinate axes corresponding respectively to the first, second and third color components;
The white point or the neighboring point is located in a plane parallel to a plane defined by two of the first, second and third coordinate axes;
The image processing apparatus, wherein the surface includes a line having a predetermined inclination through the white point or the neighboring point in the parallel plane, and intersects the parallel plane.
請求項6に記載の画像処理装置において、
前記線は、直線と曲線と折れ線との少なくとも一つを含む画像処理装置。
The image processing apparatus according to claim 6.
The line is an image processing apparatus including at least one of a straight line, a curved line, and a broken line.
請求項6または7に記載の画像処理装置において、
前記面は、前記第1の座標軸に平行な軸上の点と、前記第2の座標軸に平行な軸上の点と、前記第3の座標軸に平行な軸上の点とを頂点として含む画像処理装置。
The image processing apparatus according to claim 6 or 7,
The surface includes, as vertices, points on an axis parallel to the first coordinate axis, points on an axis parallel to the second coordinate axis, and points on an axis parallel to the third coordinate axis. Processing equipment.
請求項8に記載の画像処理装置において、
前記第1、第2および第3の座標軸にそれぞれ対応する変数をR、G、Bとし、係数をs(s>0)、t(t>0)、u(u>0)、K(K>0)とした場合に、
前記面は、平面の式sR+tG+uB=Kで表される平面である画像処理装置。
The image processing apparatus according to claim 8.
The variables corresponding to the first, second, and third coordinate axes are R, G, and B, respectively, and the coefficients are s (s> 0), t (t> 0), u (u> 0), and K (K > 0)
The image processing apparatus, wherein the surface is a plane represented by a plane expression sR + tG + uB = K.
請求項9に記載の画像処理装置において、
無彩色に対応するRaw画像データのうちの前記第1、第2および第3の色成分の画像データについて、前記第1、第2および第3の色成分の画像データのうち前記画像データが最大となる色成分を基準色成分とし、前記基準色成分の前記ホワイトバランス調整後の画像データの最大値を第1の最大値とし、前記基準色成分とは異なる他の二つの色成分のうちの一方の色成分の前記ホワイトバランス調整後の画像データの最大値を第2の最大値とし、他方の色成分の前記ホワイトバランス調整後の画像データの最大値を第3の最大値とした場合に、
前記平行な平面は、前記基準色成分に対応する前記座標軸上の前記第1の最大値に対応する座標値において前記基準色成分に対応する前記座標軸と直交し、
前記面は、前記一方の色成分に対応する前記座標軸上の前記第2の最大値に対応する座標値において前記一方の色成分に対応する前記座標軸に直交する平面と、前記他方の色成分に対応する前記座標軸上の前記第3の最大値に対応する座標値において前記他方の色成分に対応する前記座標軸に直交する平面とが直交する直線上の点を前記頂点として含み、
前記直線上の点は、前記基準色成分に対応する前記座標軸の座標値が0より大きく前記第1の最大値に対応する座標値より小さい画像処理装置。
The image processing apparatus according to claim 9.
Regarding the image data of the first, second and third color components in the Raw image data corresponding to the achromatic color, the image data is the maximum among the image data of the first, second and third color components. Is a reference color component, the maximum value of the image data after the white balance adjustment of the reference color component is a first maximum value, and the other of the two other color components different from the reference color component When the maximum value of the image data after the white balance adjustment of one color component is the second maximum value, and the maximum value of the image data of the other color component after the white balance adjustment is the third maximum value ,
The parallel plane is orthogonal to the coordinate axis corresponding to the reference color component at a coordinate value corresponding to the first maximum value on the coordinate axis corresponding to the reference color component;
The surface includes a plane orthogonal to the coordinate axis corresponding to the one color component in a coordinate value corresponding to the second maximum value on the coordinate axis corresponding to the one color component, and the other color component. A point on a straight line orthogonal to a plane orthogonal to the coordinate axis corresponding to the other color component in the coordinate value corresponding to the third maximum value on the corresponding coordinate axis, as the vertex,
The point on the straight line is an image processing apparatus in which a coordinate value of the coordinate axis corresponding to the reference color component is larger than 0 and smaller than a coordinate value corresponding to the first maximum value.
請求項1〜10のいずれか一項に記載の画像処理装置と、
被写体像を撮像して画像データを生成する撮像部と、
を備える撮像装置。
The image processing apparatus according to any one of claims 1 to 10,
An imaging unit that captures a subject image and generates image data;
An imaging apparatus comprising:
コンピュータを、請求項1〜10のいずれか一項に記載の画像処理装置として機能させる画像処理プログラム。   An image processing program for causing a computer to function as the image processing apparatus according to claim 1.
JP2015243278A 2015-12-14 2015-12-14 Image processing apparatus, imaging apparatus, and image processing program Active JP6676948B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015243278A JP6676948B2 (en) 2015-12-14 2015-12-14 Image processing apparatus, imaging apparatus, and image processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015243278A JP6676948B2 (en) 2015-12-14 2015-12-14 Image processing apparatus, imaging apparatus, and image processing program

Publications (2)

Publication Number Publication Date
JP2017112421A true JP2017112421A (en) 2017-06-22
JP6676948B2 JP6676948B2 (en) 2020-04-08

Family

ID=59081041

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015243278A Active JP6676948B2 (en) 2015-12-14 2015-12-14 Image processing apparatus, imaging apparatus, and image processing program

Country Status (1)

Country Link
JP (1) JP6676948B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11917335B2 (en) 2018-06-25 2024-02-27 Sony Corporation Image processing device, movable device, method, and program

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11917335B2 (en) 2018-06-25 2024-02-27 Sony Corporation Image processing device, movable device, method, and program

Also Published As

Publication number Publication date
JP6676948B2 (en) 2020-04-08

Similar Documents

Publication Publication Date Title
US9438875B2 (en) Image processing apparatus, image processing method, and program
US7969480B2 (en) Method of controlling auto white balance
US8508625B2 (en) Image processing apparatus
US7362895B2 (en) Image processing apparatus, image-taking system and image processing method
US8970745B2 (en) Image processing device, image processing method and storage medium to suppress shading of images in which pixel addition processing is performed
US7479991B2 (en) Digital camera, and signal processing method and signal processing apparatus for the same
US8144211B2 (en) Chromatic aberration correction apparatus, image pickup apparatus, chromatic aberration amount calculation method, and chromatic aberration amount calculation program
JP2008153768A (en) Imaging apparatus, and white balance processor
JP2012165204A (en) Signal processing apparatus, signal processing method, imaging apparatus, and imaging processing method
US8818128B2 (en) Image processing apparatus, image processing method, and program
CN107534759A (en) Camera device, image capture method and program
JP2008124928A (en) Auto white balance system
US20080068472A1 (en) Digital camera and method
JP2007158628A (en) Imaging apparatus and image processing method
JP2014033273A (en) Color gamut conversion device, digital camera, color gamut conversion program, and color gamut conversion method
JPH08223599A (en) High luminance compressor and video camera device applying it
US8115834B2 (en) Image processing device, image processing program and image processing method
JP6676948B2 (en) Image processing apparatus, imaging apparatus, and image processing program
JP4004849B2 (en) Color correction circuit and imaging device
US8804025B2 (en) Signal processing device and imaging device
JP2010068465A (en) Image processing apparatus, image capturing apparatus, and image processing method
US7512266B2 (en) Method and device for luminance correction
JP4767525B2 (en) Imaging system and imaging processing program
JP7134666B2 (en) Image processing device, image processing method, and program
JP5333163B2 (en) Imaging device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181114

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190924

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20191125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200123

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20200123

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200225

R150 Certificate of patent or registration of utility model

Ref document number: 6676948

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250