JP2013201477A - Image processing apparatus, imaging apparatus, and image processing program - Google Patents

Image processing apparatus, imaging apparatus, and image processing program Download PDF

Info

Publication number
JP2013201477A
JP2013201477A JP2012066908A JP2012066908A JP2013201477A JP 2013201477 A JP2013201477 A JP 2013201477A JP 2012066908 A JP2012066908 A JP 2012066908A JP 2012066908 A JP2012066908 A JP 2012066908A JP 2013201477 A JP2013201477 A JP 2013201477A
Authority
JP
Japan
Prior art keywords
white balance
image
subject
target image
scene
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012066908A
Other languages
Japanese (ja)
Inventor
Tetsuya Takeshita
哲也 武下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2012066908A priority Critical patent/JP2013201477A/en
Publication of JP2013201477A publication Critical patent/JP2013201477A/en
Pending legal-status Critical Current

Links

Images

Abstract

PROBLEM TO BE SOLVED: To provide a technique capable of quickly and accurately obtaining an amount of adjustment of white balance processing on an image taken under plural light sources.SOLUTION: An image processor comprises: a scene recognition unit which calculates the feature amount of a target image being processed and recognizes the scene of the subject of the target image on the basis of the feature amount; a storage unit which previously stores weight information representing a likelihood that the subject is one of the plural scenes by each scene; a white balance calculation unit which proportionally divides a recognition result obtained by the scene recognition unit with the weight information to calculate and obtain a white balance adjustment value on the target image; and a white balance processing unit which on the basis of the white balance adjustment value, performs white balance processing on the target image.

Description

本発明は、シーンに応じてホワイトバランス調整値を取得することができる画像処理装置、撮像装置および画像処理プログラムに関する。   The present invention relates to an image processing apparatus, an imaging apparatus, and an image processing program capable of acquiring a white balance adjustment value according to a scene.

従来、撮像された画像に対するホワイトバランス処理は、例えば、ユーザにより予め指定された、または被写体に対するシーン認識により特定された1つの光源の波長特性に基づいて行われる。しかしながら、実際の被写体は様々な光源で照明されているので、正しくホワイトバランス処理されず、撮像された画像の被写体と実際の被写体との印象が異なる場合がある。   Conventionally, white balance processing for a captured image is performed based on, for example, the wavelength characteristics of one light source specified in advance by a user or specified by scene recognition for a subject. However, since the actual subject is illuminated with various light sources, the white balance processing is not performed correctly, and the subject of the captured image may differ from the actual subject.

それを解決するために、例えば、撮像した画像を複数のブロックに分割し、各ブロックで求められる代表色と複数の光源それぞれの典型色差とに基づいて、各光源が各ブロックのシーンを照明している信頼度および画像全体に対する寄与成分を推定し、それら信頼度および寄与成分に応じて、画像全体のシーンを照明する複合照明の照明色を推定しホワイトバランス処理を行う技術がある(例えば、特許文献1参照)。   In order to solve this, for example, the captured image is divided into a plurality of blocks, and each light source illuminates the scene of each block based on the representative color obtained in each block and the typical color difference of each of the plurality of light sources. There is a technology that estimates the reliability and the contribution component for the entire image, and performs white balance processing by estimating the illumination color of the composite illumination that illuminates the scene of the entire image according to the reliability and the contribution component (for example, Patent Document 1).

特許第4081213号Patent No. 4081213

しかしながら、特許文献1等の従来技術では、各ブロックにおいて各光源に対する信頼度および寄与成分を求める必要があり、画像サイズの増大に伴い処理量が増大し、処理に時間がかかるという問題がある。   However, in the prior art such as Patent Document 1, it is necessary to obtain the reliability and contribution component for each light source in each block, and there is a problem that the processing amount increases as the image size increases and the processing takes time.

従来技術が有する問題に鑑み、本発明は、複数の光源下で撮像された画像に対してホワイトバランス処理の調整量を迅速かつ確度高く取得できる技術を提供することにある。   In view of the problems of the prior art, it is an object of the present invention to provide a technique that can quickly and accurately acquire an adjustment amount of white balance processing for an image captured under a plurality of light sources.

上記課題を解決するために、本発明を例示する画像処理装置の一態様は、処理対象の対象画像の特徴量を算出し、特徴量に基づいて対象画像の被写体のシーンを認識するシーン認識部と、被写体が複数のシーンのうちのいずれかであるシーンごとの確率を示す重み情報を予め記憶する記憶部と、シーン認識部による認識結果を重み情報と案分し、対象画像に対するホワイトバランス調整値を算出し取得するホワイトバランス算出部と、ホワイトバランス調整値に基づいて、対象画像のホワイトバランス処理を行うホワイトバランス処理部と、を備える。   In order to solve the above-described problem, an aspect of an image processing apparatus illustrating the present invention provides a scene recognition unit that calculates a feature amount of a target image to be processed and recognizes a subject scene of the target image based on the feature amount. And a storage unit that preliminarily stores weight information indicating the probability of each scene in which the subject is one of a plurality of scenes, and a white balance adjustment for the target image by dividing the recognition result by the scene recognition unit into weight information. A white balance calculation unit that calculates and acquires a value; and a white balance processing unit that performs white balance processing of the target image based on the white balance adjustment value.

また、重み情報は、被写体の輝度に応じて異なってもよい。   Further, the weight information may be different depending on the luminance of the subject.

また、ホワイトバランス算出部は、対象画像に対して白検出し、白検出された画素の数に基づいて、シーン認識部による認識結果を重み情報と案分してもよい。   In addition, the white balance calculation unit may detect white from the target image and apportion the recognition result by the scene recognition unit as weight information based on the number of pixels detected as white.

また、シーン認識部は、特徴量と教師有り学習に基づいて求められた判別基準とに基づいて、被写体のシーンを認識してもよい。   Further, the scene recognition unit may recognize the scene of the subject based on the feature amount and the discrimination criterion obtained based on supervised learning.

また、判別基準は、閃光装置以外の光源により撮像され、被写体を照明する光源が予め特定された複数の画像を教師有り学習に適用して求められたものであってもよい。   Further, the discrimination criterion may be obtained by applying a plurality of images captured by a light source other than the flash device and specifying a light source for illuminating the subject in advance to supervised learning.

また、シーンは、被写体を照明する光源であり、シーン認識部は、光源を特定してもよい。   The scene may be a light source that illuminates the subject, and the scene recognition unit may identify the light source.

本発明を例示する撮像装置の一態様は、被写体を撮像して対象画像を生成する撮像部と、本発明の画像処理装置と、を備える。   One aspect of an imaging apparatus illustrating the present invention includes an imaging unit that captures an image of a subject and generates a target image, and the image processing apparatus of the present invention.

また、被写体を閃光照明する閃光装置を備え、撮像部は、閃光装置を用いて対象画像を撮像する場合、閃光無しのテスト画像を撮像し、ホワイトバランス算出部は、テスト画像と対象画像との輝度分布の変化量を算出し、変化量に基づいてホワイトバランス調整値を調整してもよい。   In addition, a flash device for flashing a subject is provided, and when the imaging unit captures a target image using the flash device, a test image without flash is captured, and a white balance calculation unit is configured to calculate the test image and the target image. A change amount of the luminance distribution may be calculated, and the white balance adjustment value may be adjusted based on the change amount.

本発明を例示する画像処理プログラムの一態様は、処理対象の対象画像の特徴量を算出し、特徴量に基づいて対象画像の被写体のシーンを認識するシーン認識手順、シーン認識手順による認識結果を、被写体が複数のシーンのうちのいずれかであるシーンごとの確率を示す重み情報と案分し、対象画像に対するホワイトバランス調整値を算出し取得するホワイトバランス算出手順、ホワイトバランス調整値に基づいて、対象画像のホワイトバランス処理を行うホワイトバランス処理手順、をコンピュータに実行させる。   One aspect of the image processing program illustrating the present invention is to calculate a feature amount of a target image to be processed, and to recognize a scene of a subject of the target image based on the feature amount, and a recognition result by the scene recognition procedure. , Based on the white balance adjustment value, the white balance calculation procedure for calculating and acquiring the white balance adjustment value for the target image by dividing with the weight information indicating the probability of each scene where the subject is one of a plurality of scenes The computer executes a white balance processing procedure for performing white balance processing on the target image.

本発明によれば、複数の光源下で撮像された画像に対してホワイトバランス処理の調整量を迅速かつ確度高く取得できる。   ADVANTAGE OF THE INVENTION According to this invention, the adjustment amount of a white balance process can be acquired rapidly and highly accurately with respect to the image imaged under the several light source.

本発明の一の実施形態に係るデジタルカメラの構成を示すブロック図1 is a block diagram showing a configuration of a digital camera according to an embodiment of the present invention. 被写体の輝度に応じた重み係数の一覧表の一例を示す図The figure which shows an example of the list of the weighting coefficient according to the luminosity of a photographic subject 被写体の輝度に応じたシーン認識結果を参照する度合いの関数の一例を示す図The figure which shows an example of the function of the degree which refers the scene recognition result according to the brightness | luminance of a to-be-photographed object 閃光装置によるホワイトバランス調整値に対する影響度の関数の一例を示す図The figure which shows an example of the function of the influence degree with respect to the white balance adjustment value by a flash device 本発明の一の実施形態に係るデジタルカメラの処理動作のフローチャートThe flowchart of the processing operation of the digital camera which concerns on one Embodiment of this invention.

図1は、本発明の一の実施形態に係るデジタルカメラの構成を示すブロック図である。   FIG. 1 is a block diagram showing a configuration of a digital camera according to an embodiment of the present invention.

本実施形態のデジタルカメラは、撮像光学系11、撮像素子12、AFE13、バッファメモリ14、画像処理部15、モニタ16、閃光発光制御部17、閃光装置18、CPU19、操作部材22、記録I/F23、記憶部25、バスから構成される。バッファメモリ14、画像処理部15、モニタ16、閃光発光制御部17、CPU19、記録I/F23、記憶部25は、バスを介して情報伝達可能にそれぞれ接続される。また、操作部材22はCPU19に接続される。   The digital camera of this embodiment includes an imaging optical system 11, an imaging device 12, an AFE 13, a buffer memory 14, an image processing unit 15, a monitor 16, a flash emission control unit 17, a flash device 18, a CPU 19, an operation member 22, and a recording I / O. F23, a storage unit 25, and a bus. The buffer memory 14, the image processing unit 15, the monitor 16, the flash emission control unit 17, the CPU 19, the recording I / F 23, and the storage unit 25 are connected to each other via a bus so as to be able to transmit information. The operation member 22 is connected to the CPU 19.

撮像光学系11は、ズームレンズやフォーカシングレンズを含む複数のレンズ群で構成されている。撮像光学系11のレンズ位置は、レンズ駆動部(不図示)によって光軸方向に調整される。なお、簡単のため、図1では撮像光学系11を1枚のレンズとして図示する。   The imaging optical system 11 includes a plurality of lens groups including a zoom lens and a focusing lens. The lens position of the imaging optical system 11 is adjusted in the optical axis direction by a lens driving unit (not shown). For simplicity, the imaging optical system 11 is illustrated as a single lens in FIG.

撮像素子12は、撮像光学系11を通過した光束によって結像される被写体を撮像するデバイスである。この撮像素子12の出力はAFE13に入力される。なお、本実施形態の撮像素子12は、順次走査方式の固体撮像素子(CCD等)であっても、XYアドレス方式の固体撮像素子(CMOS等)であってもよい。   The image pickup device 12 is a device that picks up an image of a subject imaged by a light beam that has passed through the image pickup optical system 11. The output of the image sensor 12 is input to the AFE 13. Note that the image sensor 12 of the present embodiment may be a progressive scan type solid-state image sensor (CCD or the like) or an XY address type solid-state image sensor (CMOS or the like).

また、撮像素子12の受光面には、複数の受光素子がマトリックス状に配列されている。撮像素子12の各受光素子には、赤色(R)、緑色(G)、青色(B)のカラーフィルタが公知のベイヤ配列にしたがって配置されている。そのため、撮像素子12の各受光素子は、カラーフィルタでの色分解によってそれぞれの色に対応する画像信号を出力する。これにより、撮像素子12は、カラーの画像を取得できる。   A plurality of light receiving elements are arranged in a matrix on the light receiving surface of the image sensor 12. In each light receiving element of the image sensor 12, red (R), green (G), and blue (B) color filters are arranged according to a known Bayer array. Therefore, each light receiving element of the imaging element 12 outputs an image signal corresponding to each color by color separation in the color filter. Thereby, the image sensor 12 can acquire a color image.

ここで、デジタルカメラの撮影モードにおいて、撮像素子12は操作部材22を構成するレリーズ釦の全押し操作に応答して記録画像(本画像)を撮像する。また、撮影モードでの撮像素子12は、撮影待機時にも所定の時間間隔で構図確認用画像(スルー画像)を撮像する。このスルー画像のデータは、撮像素子12から間引き読み出しで出力される。なお、スルー画像のデータは、モニタ16での画像表示や、CPU19による各種演算処理などに使用される。   Here, in the shooting mode of the digital camera, the image pickup device 12 picks up a recorded image (main image) in response to a full pressing operation of a release button constituting the operation member 22. Further, the imaging element 12 in the shooting mode captures a composition confirmation image (through image) at a predetermined time interval even during shooting standby. The through image data is output from the image sensor 12 by thinning-out readout. The through image data is used for image display on the monitor 16 and various arithmetic processes by the CPU 19.

AFE13は、撮像素子12の出力に対してアナログ信号処理を施すアナログフロントエンド回路である。このAFE13は、相関二重サンプリング、画像信号のゲインの調整、画像信号のA/D変換を行う。AFE13の出力は、バッファメモリ14に一時的に記録される。なお、本実施形態では、撮像素子12とAFE13とで撮像部を構成する。また、バッファメモリ14は、一般的な揮発性の半導体メモリ等を適宜選択して用いることができ、画像処理部15による画像処理の前工程や後工程での画像データを一時的に記憶する。   The AFE 13 is an analog front end circuit that performs analog signal processing on the output of the image sensor 12. The AFE 13 performs correlated double sampling, image signal gain adjustment, and image signal A / D conversion. The output of the AFE 13 is temporarily recorded in the buffer memory 14. In the present embodiment, the imaging device 12 and the AFE 13 constitute an imaging unit. The buffer memory 14 can be used by appropriately selecting a general volatile semiconductor memory or the like, and temporarily stores image data in a pre-process or post-process of image processing by the image processing unit 15.

画像処理部15は、バッファメモリ14に記憶された1フレーム分のデジタル画像信号に対して、各種画像処理(例えば、色補間処理、階調変換処理、輪郭強調処理など)を施す。また、本実施形態の画像処理部15は、後述するCPU19により取得されたホワイトバランス調整値に基づいて、上記各種画像処理とともに、デジタル画像信号に対しホワイトバランス処理を行うホワイトバランス処理部として動作する。   The image processing unit 15 performs various types of image processing (for example, color interpolation processing, gradation conversion processing, contour enhancement processing, etc.) on the digital image signal for one frame stored in the buffer memory 14. In addition, the image processing unit 15 according to the present embodiment operates as a white balance processing unit that performs white balance processing on a digital image signal together with the above-described various image processing based on a white balance adjustment value acquired by a CPU 19 described later. .

モニタ16は、液晶モニタなどの表示部であり、CPU19の指示に応じて各種画像を表示する。   The monitor 16 is a display unit such as a liquid crystal monitor and displays various images in accordance with instructions from the CPU 19.

閃光発光制御部17は、CPU19により測光される被写体の輝度に応じて、閃光装置18の閃光動作を制御する。閃光装置18を閃光させて画像を撮像する場合、閃光発光制御部17は、閃光装置18に本画像撮像時における本発光の発光量を求めるためのプリ発光をさせる。CPU19は、そのプリ発光による被写体の輝度に基づいて、本発光の発光量を演算する。本撮像時、閃光発光制御部17は、演算された発光量に基づいて、閃光装置18に本発光させる。閃光装置18の光源には、キセノンランプや発光ダイオード(LED)等を適宜選択して用いることができる。   The flash emission control unit 17 controls the flash operation of the flash device 18 according to the luminance of the subject measured by the CPU 19. When the flash device 18 is flashed to capture an image, the flash light emission control unit 17 causes the flash device 18 to perform pre-light emission for determining the amount of main light emission at the time of main image capturing. The CPU 19 calculates the light emission amount of the main light emission based on the luminance of the subject by the pre-light emission. At the time of actual imaging, the flash light emission control unit 17 causes the flash device 18 to perform main light emission based on the calculated light emission amount. As the light source of the flash device 18, a xenon lamp, a light emitting diode (LED), or the like can be appropriately selected and used.

CPU19は、デジタルカメラの各部を統括的に制御するプロセッサである。CPU19は、制御プログラムおよび画像処理プログラムを実行することにより、スルー画像のデータに基づいて、位相差検出方式やコントラスト検出方式による公知の自動焦点(AF)制御や、自動露出(AE)演算などを行う。また、CPU19は、ユーザにより操作部材22のレリーズ釦が半押しされた場合、スルー画像を用いて被写体の輝度を測光するなど、撮像モードにおける各種の演算処理を行うとともに、撮像した画像のファイル生成処理や設定画面での表示処理などを行う。さらに、本実施形態のCPU19は、画像処理プログラムの実行により、画像処理部15によるホワイトバランス処理に用いるホワイトバランス調整値を取得するシーン認識部20、ホワイトバランス(WB)算出部21として動作する。   The CPU 19 is a processor that comprehensively controls each unit of the digital camera. The CPU 19 executes a control program and an image processing program to perform known automatic focus (AF) control by a phase difference detection method or a contrast detection method, automatic exposure (AE) calculation, and the like based on the data of the through image. Do. In addition, when the release button of the operation member 22 is pressed halfway by the user, the CPU 19 performs various arithmetic processes in the imaging mode, such as photometry of the luminance of the subject using a through image, and generates a file of the captured image. Perform processing and display processing on the setting screen. Furthermore, the CPU 19 of this embodiment operates as a scene recognition unit 20 and a white balance (WB) calculation unit 21 that acquire a white balance adjustment value used for white balance processing by the image processing unit 15 by executing an image processing program.

シーン認識部20は、撮像素子12により撮像された本画像(対象画像)の輝度や色差などの特徴量を算出し、対象画像の露出条件を含む上記特徴量と公知のシーン認識の手法とに基づいて被写体のシーンを認識し、被写体を照明する光源を特定する。ここで、本実施形態では、例えば、パターンマッチングやニューラルネットなどの教師有り学習を、閃光装置以外の光源を用いて撮像され、その光源が予め特定されている様々な被写体の複数のサンプル画像に適用し、各サンプル画像の露出条件や輝度、色差などの特徴量と各光源の波長特性との対応付けの判断基準を予め求められ、その判断基準が記憶部25に記憶されているものとする。シーン認識部20は、記憶部25に記憶された判断基準に基づいて、対象画像の被写体を照明する光源を特定する。   The scene recognition unit 20 calculates feature quantities such as luminance and color difference of the main image (target image) captured by the image sensor 12, and uses the feature quantities including the exposure condition of the target image and a known scene recognition method. Based on this, the scene of the subject is recognized, and the light source that illuminates the subject is specified. Here, in this embodiment, for example, supervised learning such as pattern matching or neural network is captured using a light source other than the flash device, and the light source is pre-specified on a plurality of sample images of various subjects. It is assumed that a determination criterion for associating a feature amount such as an exposure condition, luminance, and color difference of each sample image with a wavelength characteristic of each light source is obtained in advance, and that the determination criterion is stored in the storage unit 25. . The scene recognition unit 20 identifies a light source that illuminates the subject of the target image based on the determination criteria stored in the storage unit 25.

WB算出部21は、シーン認識部20の認識結果および測光された被写体の輝度に基づいて、対象画像に対するホワイトバランス調整値を算出し取得する。なお、本実施形態のWB算出部21の動作については、後ほど詳細に説明する。   The WB calculation unit 21 calculates and acquires a white balance adjustment value for the target image based on the recognition result of the scene recognition unit 20 and the measured luminance of the subject. The operation of the WB calculation unit 21 of this embodiment will be described in detail later.

操作部材22は、例えば、レリーズ釦、コマンドダイヤル、十字状のカーソルキー、決定釦などで構成される。そして、操作部材22はデジタルカメラの各種入力をユーザから受け付ける。例えば、操作部材22は、撮像操作、デジタルカメラの動作モードの切替操作や、設定画面での入力操作などに用いられる。   The operation member 22 includes, for example, a release button, a command dial, a cross-shaped cursor key, a determination button, and the like. The operation member 22 receives various inputs of the digital camera from the user. For example, the operation member 22 is used for an imaging operation, a digital camera operation mode switching operation, an input operation on a setting screen, and the like.

記録I/F23には、記憶媒体24を接続するためのコネクタが形成されている。そして、記録I/F23は、コネクタに接続された記憶媒体24に対してデータの書き込み/読み込みを実行する。上記記憶媒体24は、ハードディスクや、半導体メモリを内蔵したメモリカードなどで構成される。なお、図1では記憶媒体24の一例としてメモリカードを示す。   The recording I / F 23 is formed with a connector for connecting the storage medium 24. The recording I / F 23 writes / reads data to / from the storage medium 24 connected to the connector. The storage medium 24 is composed of a hard disk, a memory card incorporating a semiconductor memory, or the like. In FIG. 1, a memory card is shown as an example of the storage medium 24.

記憶部25は、デジタルカメラによって撮像された本画像のデータ、CPU19によって実行される制御プログラムや画像処理プログラムなどを記憶する。また、記憶部25は、シーン認識部20が参照する判断基準のデータとともに、図2に示す一覧表および図3、図4に示す関数を記憶する。なお、記憶部25には、不揮発性の半導体メモリなどを用いることができる。   The storage unit 25 stores main image data captured by a digital camera, a control program executed by the CPU 19, an image processing program, and the like. The storage unit 25 stores the list shown in FIG. 2 and the functions shown in FIG. 3 and FIG. 4 together with the data of the judgment criteria referred to by the scene recognition unit 20. Note that a nonvolatile semiconductor memory or the like can be used for the storage unit 25.

ここで、記憶部25に記憶される図2の一覧表、および図3、図4の関数について簡単に説明する。図2は、被写体の輝度に応じて、被写体を照明する各光源の確率を示す重み係数の一覧表である。この一覧表は、例えば、上記複数のサンプル画像を用いて、被写体の輝度(BV)ごとにサンプル画像の被写体を照射する光源の分布を求め、その分布に基づいて、各光源の確率を重み係数として一覧にしたものである。例えば、BV=5のとき、晴天および曇天下で撮像されたサンプル画像が40%、蛍光灯および電球の照明下で撮像されたサンプル画像が20%で分布していた場合、図2に示す各光源の重み係数の値が設定される。そして、図2の一覧表に示すように、BV値が小さく被写体が暗くなるにつれて光源の区別が困難になり、各光源の重み係数の値は等しく設定される。一方、BV値が大きく被写体が明るくなるにつれて、光源が蛍光灯や電灯よりも晴天や日陰である確率が高くなることから、晴天や日陰の重み係数の値が他の光源より大きな値に設定される。   Here, the list of FIG. 2 and the functions of FIGS. 3 and 4 stored in the storage unit 25 will be briefly described. FIG. 2 is a list of weighting factors indicating the probability of each light source that illuminates the subject according to the luminance of the subject. This list uses, for example, the plurality of sample images to determine the distribution of light sources that irradiate the subject of the sample image for each subject brightness (BV), and based on the distribution, the probability of each light source is a weighting factor. As a list. For example, when BV = 5, sample images taken under clear and cloudy weather are distributed at 40%, and sample images taken under illumination of fluorescent lamps and light bulbs are distributed at 20%. The value of the weighting factor of the light source is set. Then, as shown in the list of FIG. 2, as the BV value becomes smaller and the subject becomes darker, it becomes difficult to distinguish the light sources, and the value of the weight coefficient of each light source is set equal. On the other hand, as the BV value increases and the subject becomes brighter, the probability that the light source is clear or shaded is higher than that of the fluorescent light or electric light. The

なお、本実施形態の光源として、図2に示すように、晴天、日陰、蛍光灯、電球としたが、曇天や水銀灯等の光源が含まれてもよい。また、本実施形態では、重み係数の値を0〜32としたが、要求されるホワイトバランスの補正値の決定精度やCPU19の処理能力に応じて、適宜設定されることが好ましい。   As shown in FIG. 2, the light source of this embodiment is a clear sky, a shade, a fluorescent lamp, or a light bulb. However, a light source such as a cloudy sky or a mercury lamp may be included. In this embodiment, the value of the weighting factor is set to 0 to 32. However, it is preferable that the weighting factor is appropriately set according to the required accuracy of determining the white balance correction value and the processing capability of the CPU 19.

図3に示す関数は、WB算出部21が対象画像に対するホワイトバランス調整量を取得するにあたり、シーン認識部20による認識結果を参照する度合いを、被写体の輝度に応じて関係付けたものである。すなわち、上述したように、BV値が小さく被写体が暗い場合、被写体を照明する光源を特定することは困難であり、シーン認識部20による認識結果の信頼性は低くなる。そこで、本実施形態では、図3に示すように、BV=6より小さい場合、図2に示す重み情報のみに基づいて、WB算出部21はホワイトバランス調整値を算出し取得する。一方、BV値が大きく被写体が明るい場合、被写体を照明する光源を特定することは容易になる。そこで、本実施形態のWB算出部21は、BV値が6以上で大きくなるに従いシーン認識部20の認識結果を重要視しつつ、図2のBV値に応じた重み係数(重み情報)と案分し、ホワイトバランス調整値を算出し取得する。なお、図3において、横軸は被写体の輝度(BV)、縦軸はシーン認識部20の認識結果の参照度合αを示す。   The function shown in FIG. 3 relates the degree of referring to the recognition result by the scene recognition unit 20 in accordance with the luminance of the subject when the WB calculation unit 21 acquires the white balance adjustment amount for the target image. That is, as described above, when the BV value is small and the subject is dark, it is difficult to specify the light source that illuminates the subject, and the reliability of the recognition result by the scene recognition unit 20 is low. Therefore, in the present embodiment, as shown in FIG. 3, when BV = 6 is smaller, the WB calculation unit 21 calculates and acquires the white balance adjustment value based only on the weight information shown in FIG. On the other hand, when the BV value is large and the subject is bright, it is easy to specify the light source that illuminates the subject. Therefore, the WB calculation unit 21 of the present embodiment attaches importance to the recognition result of the scene recognition unit 20 as the BV value increases to 6 or more, and proposes a weighting coefficient (weight information) corresponding to the BV value of FIG. And calculate and obtain the white balance adjustment value. In FIG. 3, the horizontal axis indicates the luminance (BV) of the subject, and the vertical axis indicates the reference degree α of the recognition result of the scene recognition unit 20.

図4に示す関数は、対象画像が閃光装置18を用いて撮像された場合、閃光装置18によるホワイトバランス調整値への影響の度合いを、閃光装置18による寄与度に応じて関係付けたものである。すなわち、本実施形態のWB算出部21は、対象画像が閃光装置18を用いて撮像された場合、図4に示す関数に基づいて、閃光装置18の影響を考慮したホワイトバランス調整値に取得する。なお、閃光装置18の寄与度とは、例えば、閃光装置18の発光前後に撮像された画像における輝度分布の変化量に応じて定義される指標である。本実施形態では、閃光装置18の発光前の画像としてスルー画像(テスト画像)を用い、発光後の画像として対象画像を用いる。また、図4において、横軸は閃光装置18の寄与度、縦軸は閃光装置18による影響度βを示す。   The function shown in FIG. 4 relates the degree of influence of the flash device 18 on the white balance adjustment value according to the contribution degree of the flash device 18 when the target image is captured using the flash device 18. is there. That is, when the target image is captured using the flash device 18, the WB calculation unit 21 of the present embodiment acquires a white balance adjustment value that takes into account the influence of the flash device 18 based on the function shown in FIG. . The degree of contribution of the flash device 18 is an index defined according to the amount of change in the luminance distribution in images captured before and after the flash device 18 emits light. In the present embodiment, a through image (test image) is used as an image before light emission of the flash device 18, and a target image is used as an image after light emission. In FIG. 4, the horizontal axis represents the contribution of the flash device 18, and the vertical axis represents the influence β of the flash device 18.

次に、図5のフローチャートを参照しつつ、本実施形態のデジタルカメラによるホワイトバランス処理について説明する。ただし、本実施形態のデジタルカメラは予め撮像モードに設定されているものとする。また、以下において、本実施形態のデジタルカメラは、被写体を単写して静止画像の本画像(対象画像)を取得する場合の動作について説明するが、連写および動画の場合についても同様に動作し詳細な説明は省略する。   Next, white balance processing by the digital camera of the present embodiment will be described with reference to the flowchart of FIG. However, it is assumed that the digital camera of this embodiment is set to the imaging mode in advance. In the following description, the digital camera according to the present embodiment will be described with respect to an operation in which a subject is captured in a single image to acquire a main image (target image) of a still image. Detailed description is omitted.

CPU19は、ユーザによる操作部材22の電源釦操作により、電源投入指示を受け付け、デジタルカメラの電源を投入する。CPU19は、記憶部25より制御プログラムおよび画像処理プログラムを読み込んで実行し、デジタルカメラを初期化する。CPU19は、撮像素子12に30fpsなどのフレームレートでスルー画像を撮像させ、モニタ16にそのスルー画像を表示させる。CPU19は、ステップS101からの処理を開始する。   The CPU 19 accepts a power-on instruction by turning on the power button on the operation member 22 by the user, and turns on the power of the digital camera. The CPU 19 reads and executes the control program and the image processing program from the storage unit 25, and initializes the digital camera. The CPU 19 causes the image sensor 12 to capture a through image at a frame rate such as 30 fps, and causes the monitor 16 to display the through image. The CPU 19 starts processing from step S101.

ステップS101:CPU19は、ユーザによる操作部材22のレリーズ釦の半押し操作を受け付けたか否かを判定する。CPU19は、ユーザからの半押し操作を受け付けた場合、ステップS102へ移行する。一方、CPU19は、半押し操作を受け付けなかった場合(NO側)、ユーザから半押し操作を受け付けるまで待機する。   Step S101: The CPU 19 determines whether or not a half press operation of the release button of the operation member 22 by the user has been accepted. When the CPU 19 receives a half-press operation from the user, the CPU 19 proceeds to step S102. On the other hand, if the CPU 19 does not accept the half-press operation (NO side), the CPU 19 waits until the half-press operation is accepted from the user.

ステップS102:CPU19は、ユーザからの半押し操作を受け付けた場合、撮像素子12により撮像されたスルー画像に基づき被写体の輝度を測光する。CPU19は、その測光した輝度に基づいてAE演算を行い露出条件を算出する。なお、CPU19は、被写体の測光や露光条件の算出の結果、閃光装置18による閃光撮像を行うと判定した場合、測光に用いたスルー画像をバッファメモリ14に一時的に記録する。   Step S102: When receiving a half-press operation from the user, the CPU 19 measures the luminance of the subject based on the through image captured by the image sensor 12. The CPU 19 calculates an exposure condition by performing an AE calculation based on the measured luminance. Note that if the CPU 19 determines to perform flash imaging by the flash device 18 as a result of subject photometry or calculation of exposure conditions, the through image used for photometry is temporarily recorded in the buffer memory 14.

ステップS103:CPU19は、ユーザによる操作部材22のレリーズ釦の全押し操作を受け付けたか否かを判定する。CPU19は、ユーザからの全押し操作を受け付けた場合、被写体の撮像指示を受け付けたとして、撮像素子12に被写体を本撮像させる。CPU19は、AFE13のよりデジタル信号に変換され出力された対象画像をバッファメモリ14に一時的に記録し、ステップS104(YES側)へ移行する。一方、CPU19は、全押し操作を受け付けなかった場合(NO側)、ユーザからの全押し操作による撮像指示を受け付けるまで待機する。   Step S103: The CPU 19 determines whether or not the user has fully pressed the release button of the operation member 22. When the CPU 19 accepts the full-press operation from the user, the CPU 19 causes the image sensor 12 to perform the actual imaging on the assumption that the subject imaging instruction has been accepted. The CPU 19 temporarily records the target image converted into a digital signal and output from the AFE 13 in the buffer memory 14, and proceeds to step S104 (YES side). On the other hand, when the CPU 19 does not accept the full-press operation (NO side), the CPU 19 stands by until an imaging instruction is received from the user.

ステップS104:CPU19のシーン認識部20は、バッファメモリ14から対象画像を読み込み、対象画像の輝度、色差などの特徴量を算出する。シーン認識部20は、対象画像の露出条件を含む上記特徴量と記憶部25の判断基準とに基づいて被写体のシーンを認識し、被写体を照明する光源を特定する。   Step S104: The scene recognition unit 20 of the CPU 19 reads the target image from the buffer memory 14 and calculates feature quantities such as luminance and color difference of the target image. The scene recognition unit 20 recognizes the scene of the subject based on the feature amount including the exposure condition of the target image and the determination criterion of the storage unit 25, and identifies the light source that illuminates the subject.

ステップS105:CPU19のWB算出部21は、シーン認識部20の認識結果および測光された被写体の輝度に基づいて、対象画像に対するホワイトバランス調整値を算出し取得する。まず、WB算出部21は、シーン認識部20の認識結果を図2に示す一覧表の重み情報と案分するために、シーン認識部20により特定された光源に対し重み係数を設定する。すなわち、WB算出部21は、例えば、シーン認識部20により「晴天」と認識された場合、認識結果の信頼性が100%であるとして、BV値にかかわらず(晴天,曇天,蛍光灯,電灯)=(32,0,0,0)と重み係数を設定する。あるいは、WB算出部21は、シーン認識部20により「蛍光灯」と認定された場合、BV値にかかわらず(晴天,曇天,蛍光灯,電灯)=(0,0,32,0)と設定する。   Step S105: The WB calculation unit 21 of the CPU 19 calculates and acquires a white balance adjustment value for the target image based on the recognition result of the scene recognition unit 20 and the measured luminance of the subject. First, the WB calculation unit 21 sets a weighting factor for the light source specified by the scene recognition unit 20 in order to apportion the recognition result of the scene recognition unit 20 with the weight information of the list shown in FIG. That is, for example, when the scene recognition unit 20 recognizes “sunny sky”, the WB calculation unit 21 assumes that the reliability of the recognition result is 100% (regardless of the BV value) (sunny sky, cloudy sky, fluorescent light, electric light) ) = (32, 0, 0, 0) and a weighting coefficient are set. Alternatively, when the scene recognizing unit 20 recognizes “fluorescent lamp”, the WB calculating unit 21 sets (0, 0, 32, 0) regardless of the BV value (clear sky, cloudy sky, fluorescent lamp, electric light). To do.

次に、WB算出部21は、対象画像に対して公知の白検出を行い、白色の画像値を有する画素を抽出する。WB算出部21は、例えば、白検出された各画素のG/R、G/Bなどの値に基づいて、各画素の色温度に対応する光源を特定する。WB算出部21は、光源ごとに白検出された画素数を数える。ここで、晴天、日陰、蛍光灯、電灯ごとに数えられた画素の数をn、n、n、nとする。なお、以下の記載において、晴天、日陰、蛍光灯、電灯の各光源は、符号i=1、2、3、4のそれぞれに対応するものとする。 Next, the WB calculation unit 21 performs known white detection on the target image and extracts pixels having a white image value. For example, the WB calculation unit 21 specifies a light source corresponding to the color temperature of each pixel based on values such as G / R and G / B of each pixel detected as white. The WB calculation unit 21 counts the number of pixels in which white is detected for each light source. Here, n 1 , n 2 , n 3 , and n 4 are the numbers of pixels counted for each of clear sky, shade, fluorescent lamp, and electric lamp. In the following description, the light sources of clear sky, shade, fluorescent light, and electric light correspond to the symbols i = 1, 2, 3, 4, respectively.

WB算出部21は、図3に示す関数に基づいて、ステップS102で測光された被写体の輝度に対応する参照度合αを決定し、次式(1)に基づきシーン認識部20の認識結果と図2に示す一覧表の重み情報とを案分する。
Gi=α×WSi×n+(1−α)×W×n ・・・(1)
ここで、WSi、W、WGiそれぞれは、光源iにおける、シーン認識部20の認識結果の重み係数、測光された被写体の輝度における図2の一覧表の重み係数、案分された重み係数を示す。一例として、シーン認識部20の認識結果が「晴天」で、測光された被写体の輝度BV=9の場合、(WS1,WS2,WS3,WS4)=(32,0,0,0)、(W,W,W,W)=(32,16,0,0)、α=0.25となる。
The WB calculation unit 21 determines the reference degree α corresponding to the luminance of the subject measured in step S102 based on the function shown in FIG. 3, and the recognition result of the scene recognition unit 20 based on the following equation (1) The weight information of the list shown in FIG.
W Gi = α × W Si × n i + (1−α) × W i × n i (1)
Here, W Si , W i , and W Gi respectively indicate the weight coefficient of the recognition result of the scene recognition unit 20 for the light source i, the weight coefficient of the list of FIG. Indicates the coefficient. As an example, the recognition result of the scene recognition unit 20 is "sunny", when the photometry has been subject luminance BV = 9, (W S1, W S2, W S3, W S4) = (32,0,0,0 ), (W 1 , W 2 , W 3 , W 4 ) = (32, 16, 0, 0), α = 0.25.

最後に、WB算出部21は、案分された各光源iの重み係数WGiに基づいて、例えば、各光源の波長特性を加重平均して、対象画像に対するホワイトバランス調整値εを算出し取得する。 Finally, the WB calculation unit 21 calculates and obtains the white balance adjustment value ε for the target image, for example, by weighted averaging the wavelength characteristics of each light source based on the weighted weighting factor W Gi of each light source i. To do.

ステップS106:CPU19は、ステップS103の本撮像において閃光装置18が閃光発光したか否かを、閃光発光制御部17からのフラグ信号に基づいて判定する。CPU19は、本撮像において閃光装置18が閃光発光したというフラグ信号を閃光発光制御部17から受信した場合、ステップS107(YES側)へ移行し、フラグ信号を受信しなかった場合、ステップS108(NO側)へ移行する。   Step S106: The CPU 19 determines whether or not the flash device 18 flashes in the main imaging in step S103 based on the flag signal from the flash light emission control unit 17. The CPU 19 proceeds to step S107 (YES side) when the flag signal that the flash device 18 flashes in the main imaging is received from the flash light emission control unit 17, and proceeds to step S108 (NO) when the flag signal is not received. Side).

ステップS107:WB算出部21は、ステップS105で取得したホワイトバランス調整値εを、閃光発光した閃光装置18の被写体の照明に対する寄与度に応じて調整する。そのために、WB算出部21は、閃光装置18の発光前の被写体の輝度分布を、ステップS102で用いバッファメモリ14に記録されているスルー画像を次式(2)に適用して算出する。
発光前の輝度分布DBb=(スルー画像中央域の平均輝度)/(スルー画像周辺域の平均輝度) ・・・(2)
同時に、WB算出部21は、発光後の被写体の輝度分布を、対象画像を次式(3)に適用して算出する。
発光後の輝度分布DBa=(対象画像中央域の平均輝度)/(対象画像周辺域の平均輝度) ・・・(3)
WB算出部21は、閃光装置18の閃光発光による被写体の輝度分布の変化量を、次式(4)に基づいて寄与度として算出する。
寄与度=|輝度分布DBa−輝度分布DBb| ・・・(4)
WB演算部21は、この寄与度を図4に示す関数に適用して、閃光装置18によるホワイトバランス調整値εに対する影響度βの値を取得する。WB算出部21は、次式(5)に基づいて、ホワイトバランス調整値εと閃光装置18のホワイトバランス調整値εとを案分し、調整したホワイトバランス調整値ε’を取得する。なお、閃光装置18のホワイトバランス調整値εは、予め記憶部25に記憶されているものとする。
ε’=(1−β)×ε+β×ε ・・・(5)
ステップS108:CPU19は、ステップS105で取得したホワイトバランス調整値εまたはステップS107で取得したホワイトバランス調整値ε’を、画像処理部15へ出力する。画像処理部15は、対象画像に対し、色補間処理、階調変換処理、輪郭強調処理などの各種画像処理とともに、受信したホワイトバランス調整値を用いてホワイトバランス処理を行う。
Step S107: The WB calculation unit 21 adjusts the white balance adjustment value ε acquired in step S105 according to the degree of contribution of the flash device 18 that has flashed light to the illumination of the subject. For this purpose, the WB calculation unit 21 calculates the luminance distribution of the subject before the flash device 18 emits light by applying the through image recorded in the buffer memory 14 in step S102 to the following equation (2).
Luminance distribution before light emission DBb = (average luminance in the central area of the through image) / (average luminance in the peripheral area of the through image) (2)
At the same time, the WB calculation unit 21 calculates the luminance distribution of the subject after light emission by applying the target image to the following equation (3).
Luminance distribution after light emission DBa = (average luminance in the central area of the target image) / (average luminance in the peripheral area of the target image) (3)
The WB calculating unit 21 calculates the amount of change in the luminance distribution of the subject due to the flash emission of the flash device 18 as a contribution based on the following equation (4).
Contribution = | luminance distribution DBa−luminance distribution DBb | (4)
The WB calculating unit 21 applies the contribution degree to the function shown in FIG. 4 and acquires the value of the influence degree β with respect to the white balance adjustment value ε by the flash device 18. The WB calculation unit 21 apportions the white balance adjustment value ε and the white balance adjustment value ε f of the flash device 18 based on the following equation (5), and acquires the adjusted white balance adjustment value ε ′. It is assumed that the white balance adjustment value ε f of the flash device 18 is stored in the storage unit 25 in advance.
ε ′ = (1−β) × ε + β × ε f (5)
Step S108: The CPU 19 outputs the white balance adjustment value ε ′ acquired in step S105 or the white balance adjustment value ε ′ acquired in step S107 to the image processing unit 15. The image processing unit 15 performs white balance processing on the target image using various received image processing such as color interpolation processing, gradation conversion processing, and contour enhancement processing using the received white balance adjustment value.

ステップS109:CPU19は、画像処理された対象画像の画像ファイルを生成する。CPU19は、その画像ファイルを記憶媒体24や記憶部25などに記録し、一連の処理を終了する。   Step S109: The CPU 19 generates an image file of the target image subjected to image processing. The CPU 19 records the image file in the storage medium 24, the storage unit 25, and the like, and ends a series of processes.

なお、本実施形態のCPU19は、画像ファイルの生成にあたり、露光条件などとともに、シーン認識部20の判定結果や閃光装置18の閃光動作の有無などの情報を、Exif(Exchangeable image file format for digital still cameras)規格に準拠したメタデータを画像ファイルのヘッダ領域に付加することが好ましい。これにより、他のコンピュータに上記画像ファイルを読み込ませることにより、同様のホワイトバランス処理が可能となる。   It should be noted that the CPU 19 according to the present embodiment, when generating an image file, uses the Exif (Exchangeable image file format for digital still) information such as the exposure condition and the determination result of the scene recognition unit 20 and the presence or absence of the flash operation of the flash device 18. Preferably, metadata compliant with the cameras) standard is added to the header area of the image file. Thus, the same white balance processing can be performed by causing the other computer to read the image file.

このように、本実施形態では、撮像された対象画像のシーン認識により特定された光源を、測光された輝度における各光源の確率である重み情報と案分することにより、複数の光源下で撮像された対象画像に対しても、そのホワイトバランス調整量を確度高く取得することができる。   As described above, in the present embodiment, the light source identified by scene recognition of the captured target image is divided into the weight information that is the probability of each light source in the photometric luminance, and is thus imaged under a plurality of light sources. The white balance adjustment amount can be acquired with high accuracy even for the target image that has been set.

また、閃光装置18による影響を個別に考慮することにより、対象画像に対するホワイトバランス調整量をより確度高く取得できる。   Further, by considering the influence of the flash device 18 individually, the white balance adjustment amount for the target image can be acquired with higher accuracy.

また、対象画像の被写体を照射する光源をシーン認識によって特定することにより、演算量の増大を招くことなく、複数の光源下で撮像された対象画像に対するホワイトバランス調整量を迅速に取得できる。
《実施形態の補足事項》
(1)上記実施形態では、シーン認識部20、WB算出部21の各処理を、CPU19がソフトウエア的に実現する例を説明したが、ASICを用いてこれらの各処理をハードウエア的に実現してもよい。
Further, by specifying the light source that irradiates the subject of the target image by scene recognition, the white balance adjustment amount for the target image captured under a plurality of light sources can be quickly acquired without causing an increase in the amount of calculation.
<< Additional items of embodiment >>
(1) In the above embodiment, an example in which the CPU 19 realizes each process of the scene recognition unit 20 and the WB calculation unit 21 by software has been described. However, each of these processes is realized by hardware using an ASIC. May be.

(2)本発明の画像処理装置は、上記実施形態のデジタルカメラの例に限定されない。例えば、画像をコンピュータに読み込ませ、コンピュータに画像処理プログラムを実行させることにより、コンピュータを本発明の画像処理装置として機能させてもよい。   (2) The image processing apparatus of the present invention is not limited to the example of the digital camera of the above embodiment. For example, the computer may function as the image processing apparatus of the present invention by causing the computer to read an image and causing the computer to execute an image processing program.

(3)上記実施形態では、CPU19は被写体の輝度を撮像素子12のスルー画像から測光したが、本発明はこれに限定されず、例えば、デジタルカメラは、撮像素子12とともに、被写体の輝度を測光する測光センサを備えてもよい。その場合、ステップS107において、式(2)を用いて算出される発光前の輝度分布DBbを、測光センサが撮像した画像から算出されるのが好ましい。   (3) In the above embodiment, the CPU 19 measures the luminance of the subject from the through image of the image sensor 12. However, the present invention is not limited to this. For example, the digital camera measures the luminance of the subject together with the image sensor 12. A photometric sensor may be provided. In that case, in step S107, it is preferable to calculate the luminance distribution DBb before light emission calculated using Expression (2) from the image captured by the photometric sensor.

(4)上記実施形態では、シーン認識部20の認識結果の参照度合α、および閃光装置18によるホワイトバランス調整値に対する影響度βを取得するために、図3および図4に示す関数を用いたが、本発明はこれに限定されず、対象画像の被写体や要求されるホワイトバランス処理の精度などに応じた関数を用いることが好ましい。   (4) In the above embodiment, the functions shown in FIGS. 3 and 4 are used to obtain the reference degree α of the recognition result of the scene recognition unit 20 and the degree of influence β on the white balance adjustment value by the flash device 18. However, the present invention is not limited to this, and it is preferable to use a function corresponding to the subject of the target image, the required accuracy of white balance processing, and the like.

(5)上記実施形態では、図2に示す一覧表の各光源は輝度に応じて異なる重み係数を有したが、本発明はこれに限定されない。例えば、各光源は、輝度に関係なく1つの重み係数を有してもよい。   (5) In the above embodiment, each light source in the list shown in FIG. 2 has a different weighting factor depending on the luminance, but the present invention is not limited to this. For example, each light source may have one weight coefficient regardless of luminance.

以上の詳細な説明により、実施形態の特徴点および利点は明らかになるであろう。これは、特許請求の範囲が、その精神および権利範囲を逸脱しない範囲で前述のような実施形態の特徴点および利点にまで及ぶことを意図する。また、当該技術分野において通常の知識を有する者であれば、あらゆる改良および変更に容易に想到できるはずであり、発明性を有する実施形態の範囲を前述したものに限定する意図はなく、実施形態に開示された範囲に含まれる適当な改良物および均等物によることも可能である。   From the above detailed description, features and advantages of the embodiments will become apparent. It is intended that the scope of the claims extend to the features and advantages of the embodiments as described above without departing from the spirit and scope of the right. Further, any person having ordinary knowledge in the technical field should be able to easily come up with any improvements and modifications, and there is no intention to limit the scope of the embodiments having the invention to those described above. It is also possible to use appropriate improvements and equivalents within the scope disclosed in.

11…撮像光学系、12…撮像素子、13…AFE、14…バッファメモリ、15…画像処理部、16…モニタ、17…閃光発光制御部、18…閃光装置、19…CPU、20…シーン認識部、21…WB算出部、22…操作部材、23…記録I/F、24…記憶媒体、25…記憶部 DESCRIPTION OF SYMBOLS 11 ... Imaging optical system, 12 ... Imaging device, 13 ... AFE, 14 ... Buffer memory, 15 ... Image processing part, 16 ... Monitor, 17 ... Flash emission control part, 18 ... Flash apparatus, 19 ... CPU, 20 ... Scene recognition , 21 ... WB calculation unit, 22 ... operation member, 23 ... recording I / F, 24 ... storage medium, 25 ... storage unit

Claims (9)

処理対象の対象画像の特徴量を算出し、前記特徴量に基づいて前記対象画像の被写体のシーンを認識するシーン認識部と、
前記被写体が複数のシーンのうちのいずれかである前記シーンごとの確率を示す重み情報を予め記憶する記憶部と、
前記シーン認識部による認識結果を前記重み情報と案分し、前記対象画像に対するホワイトバランス調整値を算出し取得するホワイトバランス算出部と、
前記ホワイトバランス調整値に基づいて、前記対象画像のホワイトバランス処理を行うホワイトバランス処理部と、
を備えることを特徴とする画像処理装置。
A scene recognition unit that calculates a feature amount of a target image to be processed and recognizes a subject scene of the target image based on the feature amount;
A storage unit that preliminarily stores weight information indicating a probability for each scene in which the subject is one of a plurality of scenes;
A white balance calculation unit that divides the recognition result by the scene recognition unit into the weight information and calculates and acquires a white balance adjustment value for the target image;
A white balance processing unit that performs white balance processing of the target image based on the white balance adjustment value;
An image processing apparatus comprising:
請求項1に記載の画像処理装置において、
前記重み情報は、前記被写体の輝度に応じて異なることを特徴とする画像処理装置。
The image processing apparatus according to claim 1.
The image processing apparatus according to claim 1, wherein the weight information varies depending on luminance of the subject.
請求項1または請求項2に記載の画像処理装置において、
前記ホワイトバランス算出部は、前記対象画像に対して白検出し、白検出された画素の数に基づいて、前記シーン認識部による認識結果を前記重み情報と案分することを特徴とする画像処理装置。
The image processing apparatus according to claim 1 or 2,
The white balance calculation unit performs white detection on the target image, and based on the number of pixels detected as white, the recognition result by the scene recognition unit is divided into the weight information. apparatus.
請求項1ないし請求項3のいずれか1項に記載の画像処理装置において、
前記シーン認識部は、前記特徴量と教師有り学習に基づいて求められた判別基準とに基づいて、前記被写体のシーンを認識することを特徴とする画像処理装置。
The image processing apparatus according to any one of claims 1 to 3,
The image processing apparatus, wherein the scene recognition unit recognizes the scene of the subject based on the feature amount and a discrimination criterion obtained based on supervised learning.
請求項4に記載の画像処理装置において、
前記判別基準は、閃光装置以外の光源により撮像され、前記被写体を照明する光源が予め特定された複数の画像を前記教師有り学習に適用して求められたものであることを特徴とする画像処理装置。
The image processing apparatus according to claim 4.
The image processing is characterized in that the determination criterion is obtained by applying to the supervised learning a plurality of images that are captured by a light source other than a flash device and a light source that illuminates the subject is specified in advance. apparatus.
請求項1ないし請求項5のいずれか1項に記載の画像処理装置において、
前記シーンは、前記被写体を照明する光源であり、
前記シーン認識部は、前記光源を特定する
ことを特徴とする画像処理装置。
The image processing apparatus according to any one of claims 1 to 5,
The scene is a light source that illuminates the subject,
The image processing apparatus, wherein the scene recognition unit identifies the light source.
被写体を撮像して対象画像を生成する撮像部と、
請求項1ないし請求項6のいずれか1項に記載の画像処理装置と、
を備えることを特徴とする撮像装置。
An imaging unit that images a subject and generates a target image;
An image processing apparatus according to any one of claims 1 to 6,
An imaging apparatus comprising:
請求項7に記載の撮像装置において、
前記被写体を閃光照明する閃光装置を備え、
前記撮像部は、前記閃光装置を用いて前記対象画像を撮像する場合、閃光無しのテスト画像を撮像し、
前記ホワイトバランス算出部は、前記テスト画像と前記対象画像との輝度分布の変化量を算出し、前記変化量に基づいて前記ホワイトバランス調整値を調整する
ことを特徴とする撮像装置。
The imaging apparatus according to claim 7,
A flash device for flashing the subject;
The imaging unit, when capturing the target image using the flash device, captures a test image without flash,
The white balance calculation unit calculates an amount of change in luminance distribution between the test image and the target image, and adjusts the white balance adjustment value based on the amount of change.
処理対象の対象画像の特徴量を算出し、前記特徴量に基づいて前記対象画像の被写体のシーンを認識するシーン認識手順、
前記シーン認識手順による認識結果を、前記被写体が複数のシーンのうちのいずれかである前記シーンごとの確率を示す重み情報と案分し、前記対象画像に対するホワイトバランス調整値を算出し取得するホワイトバランス算出手順、
前記ホワイトバランス調整値に基づいて、前記対象画像のホワイトバランス処理を行うホワイトバランス処理手順、
をコンピュータに実行させることを特徴とする画像処理プログラム。
A scene recognition procedure for calculating a feature amount of a target image to be processed and recognizing a subject scene of the target image based on the feature amount;
A white balance obtained by calculating a white balance adjustment value for the target image by dividing the recognition result obtained by the scene recognition procedure into weight information indicating the probability of each scene where the subject is one of a plurality of scenes. Balance calculation procedure,
A white balance processing procedure for performing white balance processing of the target image based on the white balance adjustment value;
An image processing program for causing a computer to execute.
JP2012066908A 2012-03-23 2012-03-23 Image processing apparatus, imaging apparatus, and image processing program Pending JP2013201477A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012066908A JP2013201477A (en) 2012-03-23 2012-03-23 Image processing apparatus, imaging apparatus, and image processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012066908A JP2013201477A (en) 2012-03-23 2012-03-23 Image processing apparatus, imaging apparatus, and image processing program

Publications (1)

Publication Number Publication Date
JP2013201477A true JP2013201477A (en) 2013-10-03

Family

ID=49521389

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012066908A Pending JP2013201477A (en) 2012-03-23 2012-03-23 Image processing apparatus, imaging apparatus, and image processing program

Country Status (1)

Country Link
JP (1) JP2013201477A (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112533319A (en) * 2018-12-29 2021-03-19 中国计量大学 Scene type classroom intelligent lighting control device
CN114500969A (en) * 2022-01-17 2022-05-13 Oppo广东移动通信有限公司 Image processing method, image processing device, storage medium and terminal

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112533319A (en) * 2018-12-29 2021-03-19 中国计量大学 Scene type classroom intelligent lighting control device
CN112533319B (en) * 2018-12-29 2023-09-22 中国计量大学 Scene type classroom intelligent lighting control device
CN114500969A (en) * 2022-01-17 2022-05-13 Oppo广东移动通信有限公司 Image processing method, image processing device, storage medium and terminal

Similar Documents

Publication Publication Date Title
US10574961B2 (en) Image processing apparatus and image processing method thereof
KR20090098197A (en) Digital photographing apparatus to control flash lighting, controlling method for the same, and recording medium which records the program for carrying the same method
JP2008141740A (en) Apparatus, method and program for photography
JP2012119858A (en) Imaging device, imaging method, and program
US8860840B2 (en) Light source estimation device, light source estimation method, light source estimation program, and imaging apparatus
JP6210775B2 (en) Imaging apparatus, imaging method, and imaging program
KR20150109177A (en) Photographing apparatus, method for controlling the same, and computer-readable recording medium
US11889202B2 (en) Image processing apparatus, image processing method, and storage medium
JP5092565B2 (en) Imaging apparatus, image processing apparatus, and program
US7679653B2 (en) Digital image acquisition arranged to acquire image data related to different light configurations
CN111434104B (en) Image processing apparatus, image capturing apparatus, image processing method, and recording medium
JP2013168723A (en) Image processing device, imaging device, image processing program, and image processing method
JP2010187113A (en) Imaging apparatus, and white balance bracketing photographing program
JP5566680B2 (en) Imaging apparatus and imaging method
JP2013201477A (en) Image processing apparatus, imaging apparatus, and image processing program
JP2009055077A (en) Imaging apparatus
JP5854716B2 (en) Image processing apparatus, image processing method, and program
JP2012163679A (en) Imaging device, stroboscope control method, and stroboscope control program
JP4705146B2 (en) Imaging apparatus and imaging method
JP2012074962A (en) Imaging apparatus
KR101589493B1 (en) White ballance control method and apparatus using a flash and digital photographing apparatus using thereof
JP2010124258A (en) Imaging apparatus and control method of the same
JP2013132065A (en) Imaging apparatus and flash control method
JP6616674B2 (en) Image processing apparatus and method, and imaging apparatus
JP2015192179A (en) White balance control device, imaging apparatus, and white balance control method