JP2019134332A - Image processor and control method therefor - Google Patents

Image processor and control method therefor Download PDF

Info

Publication number
JP2019134332A
JP2019134332A JP2018015723A JP2018015723A JP2019134332A JP 2019134332 A JP2019134332 A JP 2019134332A JP 2018015723 A JP2018015723 A JP 2018015723A JP 2018015723 A JP2018015723 A JP 2018015723A JP 2019134332 A JP2019134332 A JP 2019134332A
Authority
JP
Japan
Prior art keywords
white
area
region
processing apparatus
white balance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018015723A
Other languages
Japanese (ja)
Inventor
利尚 三宅
Toshinao Miyake
利尚 三宅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018015723A priority Critical patent/JP2019134332A/en
Publication of JP2019134332A publication Critical patent/JP2019134332A/en
Pending legal-status Critical Current

Links

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Studio Devices (AREA)

Abstract

To solve the following problem: a conventional image processor cannot acquire an appropriate white balance due to an influence of a light source of any other area than an originally interest area in a normal white balance, particularly in the case of an image with a wide field angle.SOLUTION: The image processor executes adjustment of white balance more suitable for an interest area by improving priority of a detected white area near to the interest area, based on distance information from the interest area to the white area.SELECTED DRAWING: Figure 1

Description

本発明は、画像処理装置およびその制御方法に関し、特に注目領域に対してより良好なホワイトバランス調整が可能な画像処理装置に関する。   The present invention relates to an image processing apparatus and a control method thereof, and more particularly to an image processing apparatus capable of performing better white balance adjustment for a region of interest.

一般に、デジタルカメラやデジタルビデオカメラ等の、撮像素子を用いた撮像装置においては、撮像によって得られた画像の色調を調整するホワイトバランス制御機能を備えている。ホワイトバランス制御には、マニュアルホワイトバランス制御とオートホワイトバランス制御とがある。マニュアルホワイトバランス制御は、予め白色被写体を撮像してホワイトバランス係数を求めておき、算出したホワイトバランス係数を画面全体に適用する制御である。一方、オートホワイトバランス制御は、撮像した画像から白色と思われる部分を自動検出し、画面全体の各色成分の平均値からホワイトバランス係数を算出し、算出したホワイトバランス係数を画面全体に適用する制御である。   In general, an imaging apparatus using an imaging element such as a digital camera or a digital video camera has a white balance control function for adjusting the color tone of an image obtained by imaging. White balance control includes manual white balance control and automatic white balance control. Manual white balance control is control in which a white subject is imaged in advance to obtain a white balance coefficient, and the calculated white balance coefficient is applied to the entire screen. Auto white balance control, on the other hand, automatically detects white parts from captured images, calculates the white balance coefficient from the average value of each color component on the entire screen, and applies the calculated white balance coefficient to the entire screen. It is.

ここで、従来のオートホワイトバランス制御について簡単に説明する。従来のオートホワイトバランス制御は、撮像された画像データのブロック毎に色評価値が求められ、色評価値が白検出領域に含まれる場合、そのブロックが白であると判定される。そして、白と判定されたブロックの画素の積分値が求められることにより、ホワイトバランス係数が算出される。   Here, the conventional auto white balance control will be briefly described. In the conventional auto white balance control, a color evaluation value is obtained for each block of captured image data, and when the color evaluation value is included in the white detection area, it is determined that the block is white. Then, the white balance coefficient is calculated by obtaining the integral value of the pixels of the block determined to be white.

従来のオートホワイトバランス制御では、撮影する範囲内に複数の光源が存在する場面において、撮像した画像全体を一意のホワイトバランスに補正(調整)するため、複数の光源のそれぞれに対して適切なホワイトバランス補正を行うことができない。そのため、どれか一つの光源に対してホワイトバランス補正(調整)を行うか、すべての光源に対して平均的なホワイトバランス補正(調整)を行う。このようなホワイトバランス補正を行うとき、ユーザーの注目領域に対して適切なホワイトバランスを得られない場合があった。   Conventional auto white balance control corrects (adjusts) the entire captured image to a unique white balance when there are multiple light sources within the shooting range. Balance correction cannot be performed. Therefore, white balance correction (adjustment) is performed for any one light source, or average white balance correction (adjustment) is performed for all light sources. When such white balance correction is performed, there is a case where an appropriate white balance cannot be obtained for the attention area of the user.

このような課題を解決するために、ホワイトバランス補正を画像全体ではなく、所定の条件で限定した領域に合わせて、ホワイトバランスを補正する手段が知られている。例えば、特許文献1では、画像全体を複数の領域に分割してホワイトバランスを補正する場合に、注目領域を検出し、その注目領域を含む分割領域の評価値の優先度を上げてホワイトバランス補正を行う方法が開示されている。特許文献2では、表示された画像上に抽出された白領域(グレイ領域)を重畳表示すること、また白領域(グレイ領域)と判断する閾値をユーザーが任意に設定可能な構成が開示されている。   In order to solve such a problem, means for correcting white balance in accordance with a region limited by a predetermined condition instead of the entire image is known. For example, in Patent Document 1, when the entire image is divided into a plurality of areas and white balance is corrected, the attention area is detected, and the priority of the evaluation value of the divided area including the attention area is increased to perform white balance correction. A method of performing is disclosed. Patent Document 2 discloses a configuration in which a white area (gray area) extracted on a displayed image is superimposed and a user can arbitrarily set a threshold value for determining a white area (gray area). Yes.

特開2006−211416JP 2006-2111416 A 特開2002−185972JP2002-185972

しかしながら、特許文献1では、画面全体を領域分割したうえで、注目領域を含む分割領域を使ってホワイトバランスを調整しているため、その注目領域内に白領域(グレイ領域)が存在しなかった場合、適切なホワイトバランスにならない。特許文献2では、ユーザが白(グレイ)領域を容易に把握でき、また閾値を変更することで白(グレイ)領域とする範囲を変更可能であるが、指定した注目領域に合わせたホワイトバランスの補正については開示されていない。また、例えば、監視カメラのように長時間撮影し続けていて被写体が変わるような環境においては、いちいちユーザが設定を変更するような構成は煩わしい。   However, in Patent Literature 1, since the entire screen is divided into regions and the white balance is adjusted using the divided regions including the attention region, there is no white region (gray region) in the attention region. If this is the case, the proper white balance will not be achieved. In Patent Document 2, the user can easily grasp the white (gray) region, and the range of the white (gray) region can be changed by changing the threshold value. However, the white balance of the designated attention region can be changed. No amendment is disclosed. In addition, for example, in an environment where the subject changes while shooting for a long time like a surveillance camera, a configuration in which the user changes the setting every time is troublesome.

そこで、本発明の目的は、注目領域に白領域が含まれない場合においても、注目領域に対して好適なホワイトバランスの調整が可能な手段を提供することを目的とする。   Accordingly, an object of the present invention is to provide means capable of adjusting white balance suitable for a region of interest even when the region of interest does not include a white region.

上記目的を達成するために、本発明は、被写体の画像データを取得する取得手段と、前記画像データから所定の範囲内の色信号を有する白領域を検出する検出手段と、前記白領域の色信号を用いて前記画像データのホワイトバランス調整値を算出する算出手段と注目領域を決定する決定手段と、を有し、前記算出手段は、前記注目領域と少なくとも1つの前記白領域との距離に基づいて前記ホワイトバランス調整値を算出することを特徴とする。   In order to achieve the above object, the present invention provides acquisition means for acquiring image data of a subject, detection means for detecting a white area having a color signal within a predetermined range from the image data, and the color of the white area. A calculation unit that calculates a white balance adjustment value of the image data using a signal and a determination unit that determines a region of interest; and the calculation unit determines a distance between the region of interest and at least one of the white regions. Based on this, the white balance adjustment value is calculated.

本発明によれば、注目領域に白領域が含まれない場合においても、注目領域に対し好適なホワイトバランス調整を行うことができる。   According to the present invention, it is possible to perform a suitable white balance adjustment for a region of interest even when the region of interest does not include a white region.

本発明の第1の実施形態に係る撮像装置の構成例を示すブロック図1 is a block diagram illustrating a configuration example of an imaging apparatus according to a first embodiment of the present invention. 本発明の第1の実施形態に係るホワイトバランス補正処理を示すフローチャートThe flowchart which shows the white balance correction process which concerns on the 1st Embodiment of this invention. 本発明の第1の実施形態に係る白領域の検出を示す図The figure which shows the detection of the white area | region which concerns on the 1st Embodiment of this invention. 本発明の第1の実施形態に係る白領域の優先度決定の例を示す図The figure which shows the example of the priority determination of the white area | region which concerns on the 1st Embodiment of this invention 本発明の第2の実施形態に係るホワイトバランス補正処理を示すフローチャートThe flowchart which shows the white balance correction process which concerns on the 2nd Embodiment of this invention. 本発明の第2の実施形態に係る変更した白領域抽出範囲と優先度の関係を示す図The figure which shows the relationship of the changed white area extraction range and priority which concerns on the 2nd Embodiment of this invention. 本発明の第3の実施形態に係るホワイトバランス補正処理を示すフローチャートThe flowchart which shows the white balance correction process which concerns on the 3rd Embodiment of this invention. 本発明の第3の実施形態に係る白領域のグループ化の例を示す図The figure which shows the example of grouping of the white area | region which concerns on the 3rd Embodiment of this invention. 本発明の第3の実施形態に係るグループ化された白領域に対する優先付けの例を示す図The figure which shows the example of the priority with respect to the grouped white area | region which concerns on the 3rd Embodiment of this invention. 本発明の第4の実施形態に係る画像処理システムの構成例を示すブロック図The block diagram which shows the structural example of the image processing system which concerns on the 4th Embodiment of this invention. 本発明の第4の実施形態に係る注目領域の指定を示す図The figure which shows designation | designated of the attention area | region which concerns on the 4th Embodiment of this invention. 本発明の第4の実施形態に係る優先領域の表示を示す図The figure which shows the display of the priority area which concerns on the 4th Embodiment of this invention. 本発明の第5の実施形態に係る白領域の優先度付けの例を示す図The figure which shows the example of prioritization of the white area | region which concerns on the 5th Embodiment of this invention

以下に本発明の好ましい実施形態を、添付の図面にもとづいて詳細に説明する。以下では、画像処理装置として撮像装置(カメラ)を用いる例を説明するが、本発明は撮像装置に限定されず、ソフトウェアを用いたPCなどにおける画像処理にも適用できる。   Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. Hereinafter, an example in which an imaging device (camera) is used as an image processing device will be described. However, the present invention is not limited to the imaging device, and can also be applied to image processing in a PC or the like using software.

(第1の実施形態)
図1は、本発明の第1の実施形態に係る撮像装置の構成例を示すブロック図である。本実施形態に係る画像処理装置である撮像装置1000は、外部のクライアント装置80(情報処理装置)と通信部70を介して相互に通信可能に接続されている。なお、本実施形態では、撮像装置1000とクライアント装置80とが別体である例を説明しているが、撮像装置1000とクライアント装置80の一部(画像表示や操作パネルなど)が一体の構成であってもよい。撮像装置1000は、外部から光をとり込んで画像信号を生成し、生成した画像信号を、通信部70を介して、クライアント装置80や不図示のサーバなどの外部装置に配信することが可能である。
(First embodiment)
FIG. 1 is a block diagram illustrating a configuration example of an imaging apparatus according to the first embodiment of the present invention. An imaging apparatus 1000 that is an image processing apparatus according to the present embodiment is connected to an external client apparatus 80 (information processing apparatus) via a communication unit 70 so that they can communicate with each other. In the present embodiment, an example is described in which the imaging device 1000 and the client device 80 are separate. However, a part of the imaging device 1000 and the client device 80 (such as an image display and an operation panel) is integrated. It may be. The imaging device 1000 can capture light from the outside to generate an image signal, and can distribute the generated image signal to an external device such as a client device 80 or a server (not shown) via the communication unit 70. is there.

画像入力部10は、外部から光を取り込んで撮像することにより、周囲の被写体の画像信号を生成することで、画像取得する。不図示のレンズ群、IRCF(Infrared Ray Cut Filter:赤外光除去フィルタ)、撮像素子(イメージセンサー)、CDS回路、AGCアンプ、およびA/D変換器を備える。画像入力部10で被写体を撮影すると、レンズ群およびIRCFを通過した光学像が、CCDセンサ、CMOSセンサなどから成る撮像素子(イメージセンサー)上に結像される。   The image input unit 10 acquires an image by generating an image signal of a surrounding subject by capturing light from outside and capturing the image. A lens group (not shown), an IRCF (Infrared Ray Cut Filter), an image sensor (image sensor), a CDS circuit, an AGC amplifier, and an A / D converter are provided. When a subject is photographed by the image input unit 10, an optical image that has passed through the lens group and the IRCF is formed on an image sensor (image sensor) including a CCD sensor, a CMOS sensor, and the like.

撮像素子(イメージセンサー)は、撮像素子上に結像された光学像を光電変換して、アナログ画像信号として出力する。撮像素子(イメージセンサー)の表面は、例えばベイヤー配列のようなRGBカラーフィルタにより覆われ、カラー撮影が可能な構成となっている。CDS(Correlated Double Sampling)回路は、撮像素子より入力した電気信号に対して相関二重サンプリング処理などを実施する。AGC(Automatic Gain Control)アンプは、CDS回路より入力された電気信号に対して増幅処理などを行う。A/D変換器は、AGCアンプにより増幅処理されたアナログ信号をデジタル信号へと変換する。   An image sensor (image sensor) photoelectrically converts an optical image formed on the image sensor and outputs it as an analog image signal. The surface of the image sensor (image sensor) is covered with an RGB color filter such as a Bayer array, for example, so that color photographing is possible. A CDS (Correlated Double Sampling) circuit performs a correlated double sampling process on an electric signal input from an image sensor. An AGC (Automatic Gain Control) amplifier performs an amplification process on the electric signal input from the CDS circuit. The A / D converter converts the analog signal amplified by the AGC amplifier into a digital signal.

白領域抽出部20は、画像入力部10から出力された画像信号(色信号)から白色であると判別される領域を検出する。例えば、撮像素子の領域を所定の枠数(本実施形態では24×16)でメッシュ状に分割してそれぞれを評価枠とし、領域ごとのRGB信号に基づいて算出した色評価値が所定の白範囲の評価値に含まれる領域を白領域として検出する。なお、以降、「白領域」は白に限られず、グレイすなわち無彩色の領域を含むものとする。   The white area extraction unit 20 detects an area determined to be white from the image signal (color signal) output from the image input unit 10. For example, the area of the image sensor is divided into a mesh shape with a predetermined number of frames (24 × 16 in the present embodiment) and each is used as an evaluation frame, and the color evaluation value calculated based on the RGB signal for each area is a predetermined white An area included in the range evaluation value is detected as a white area. Hereinafter, the “white region” is not limited to white, but includes a gray region, that is, an achromatic region.

注目領域決定部30は、画像入力部10から出力された画像信号に対し注目する領域を決定する。例えば、クライアント装置80へのユーザ操作により注目領域の設定する構成や、画像入力部10により取得した画像から特定の顔や物体などを検出することに応答して注目領域を決定する構成とすることが可能である。   The attention area determination unit 30 determines an area of interest for the image signal output from the image input unit 10. For example, the region of interest is set by a user operation on the client device 80, or the region of interest is determined in response to detecting a specific face or object from the image acquired by the image input unit 10. Is possible.

距離算出部40は、注目領域決定部30で決定された注目領域から抽出部30で検出された白領域への距離を算出する。   The distance calculation unit 40 calculates the distance from the attention area determined by the attention area determination unit 30 to the white area detected by the extraction unit 30.

優先度決定部50では距離算出部40で算出された距離情報を元に、白領域に対する優先度を決定する。   The priority determination unit 50 determines the priority for the white area based on the distance information calculated by the distance calculation unit 40.

ホワイトバランス制御部60(WB制御部)は、白領域抽出部20で検出された白領域の信号が、予め設定された目標の白に近づくようにホワイトバランスゲインを算出する。その際、本実施形態においては、優先度決定部50で決定された優先度に応じてホワイトバランス調整値(ゲイン)を決定する。そして、決定したホワイトバランス調整値(ゲイン)を用いてホワイトバランス(WB)を調整する。   The white balance control unit 60 (WB control unit) calculates the white balance gain so that the signal of the white area detected by the white area extraction unit 20 approaches a preset target white. At this time, in the present embodiment, the white balance adjustment value (gain) is determined according to the priority determined by the priority determination unit 50. Then, the white balance (WB) is adjusted using the determined white balance adjustment value (gain).

通信部70は、クライアント装置80などの外部端末(情報処理装置など)へ、ホワイトバランス制御部60(WB制御部)でホワイトバランスが調整された画像信号を出力する。また、例えば、映像配または本システムの状態や処理結果などを出力し、本システムの動作を制御するための制御情報などを外部端末から入力するために用いられる。不図示の制御部が、通信部70を介して入力された情報を取得し、その情報に基づいて各機能ブロックの制御を行う。   The communication unit 70 outputs an image signal whose white balance has been adjusted by the white balance control unit 60 (WB control unit) to an external terminal (such as an information processing device) such as the client device 80. Further, for example, it is used to output the video distribution or the status or processing result of the system, and to input control information for controlling the operation of the system from an external terminal. A control unit (not shown) acquires information input via the communication unit 70 and controls each functional block based on the information.

クライアント装置80は、上述した画像処理を施された画像信号を、通信部70を介して取得し表示する。クライアント装置80は、撮像装置1000に対する制御指示が可能な外部端末の一部として構成されてもよい。クライアント装置80が、タッチパネルやPC画面などであり、クライアント装置80に対する操作に基づいて、撮像装置1000への指示が生成されるような構成としてもよい。   The client device 80 acquires and displays the image signal subjected to the above-described image processing via the communication unit 70. The client device 80 may be configured as a part of an external terminal capable of giving a control instruction to the imaging device 1000. The client device 80 may be a touch panel, a PC screen, or the like, and an instruction to the imaging device 1000 may be generated based on an operation on the client device 80.

図2を参照して、画像入力部10から入力された画像信号、注目領域に対して好適なホワイトバランス(WB)を得る処理について説明する。WB制御には様々な手法があるが、本実施形態では、画像から白い被写体の画像領域(白領域)を検出し、その画像領域を白にするようにホワイトバランス調整値を決定する方法を用いたWB制御について説明する。図2は、本実施形態に係るホワイトバランス補正処理を示すフローチャートである。図2のフローチャートは、撮像装置1000内の不図示の制御部によって、各処理ブロックを制御し実行される処理手順を図示したものである。制御部が有するメモリ(ROM)に格納されているプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。   A process for obtaining a suitable white balance (WB) for the image signal input from the image input unit 10 and the region of interest will be described with reference to FIG. There are various methods for WB control. In this embodiment, a method of detecting an image area (white area) of a white subject from an image and determining a white balance adjustment value so that the image area is white is used. The WB control performed will be described. FIG. 2 is a flowchart showing white balance correction processing according to the present embodiment. The flowchart in FIG. 2 illustrates a processing procedure executed by controlling each processing block by a control unit (not shown) in the imaging apparatus 1000. This is realized by developing a program stored in a memory (ROM) of the control unit in the memory (RAM) and executing it by the CPU.

まず白領域抽出ステップS10にて、イメージセンサーから出力された画像信号(色信号)から、白として判定された白領域を抽出する。ここで、図3は、本発明の第1の実施形態に係る白領域の検出を示す図である。画像入力部10で取得した画像、および白領域抽出部20によって抽出された白領域を示している。画像上の破線で示されたメッシュ状の評価領域のうち、白領域として抽出した領域(白領域C)の内部を斜線(灰色)で示している。光源Aと光源Bの二つの光源が存在しているが、この段階では、入力された画像信号全体から白領域抽出を行っているため、光源によらず画像信号から一様に白領域Cが抽出されている。   First, in a white region extraction step S10, a white region determined as white is extracted from the image signal (color signal) output from the image sensor. Here, FIG. 3 is a diagram showing detection of a white region according to the first embodiment of the present invention. An image acquired by the image input unit 10 and a white region extracted by the white region extraction unit 20 are shown. Of the mesh-like evaluation areas indicated by broken lines on the image, the inside of the area (white area C) extracted as a white area is indicated by diagonal lines (gray). There are two light sources, light source A and light source B. At this stage, since the white region is extracted from the entire input image signal, the white region C is uniformly formed from the image signal regardless of the light source. Has been extracted.

注目領域決定ステップS11では、イメージセンサーから出力された画像信号に対して、優先的にホワイトバランスをあわせる注目領域を決定する。注目領域は、ユーザ操作により設定したり、検出機能を使って検出された特定の被写体や、ユーザにより監視されている領域(切り出し表示されている領域)などを注目領域としてもよい。また、置き去り検知や人物検知などの、画像解析領域と連携して設定されてもよいし、例えば、ヒートマップなどから注目したい物体がよく出現する領域を取得して、その領域を注目領域として設定することも可能である。   Attention area determination step S11, an attention area that preferentially adjusts the white balance is determined for the image signal output from the image sensor. The attention area may be set by a user operation, a specific subject detected using a detection function, an area monitored by the user (an area that is cut out and displayed), or the like. Moreover, it may be set in cooperation with an image analysis area such as detection of abandonment or person detection. For example, an area where an object of interest often appears is obtained from a heat map, and the area is set as an attention area. It is also possible to do.

白領域判定ステップS12では、白領域抽出ステップS10にてイメージセンサーから出力された画像信号から白領域が抽出されていたかを判定する。白領域が抽出されていた場合は距離算出ステップS13へ進み、白領域が抽出されていない場合は本処理を終了する。本実施形態に係るWB調整フローを終了したのちは、例えば画面全体の画素の積分値が白に近くなるようにゲインを調整するなど、白領域を使わない別の手法を用いてWB調整を行う。   In white region determination step S12, it is determined whether a white region has been extracted from the image signal output from the image sensor in white region extraction step S10. If a white area has been extracted, the process proceeds to a distance calculation step S13. If a white area has not been extracted, this process ends. After completing the WB adjustment flow according to the present embodiment, the WB adjustment is performed using another method that does not use the white region, for example, the gain is adjusted so that the integral value of the pixels of the entire screen is close to white. .

距離算出ステップS13へ進むと、注目領域決定ステップS11にて決定された注目領域から、白領域抽出ステップS10で得られた各白領域までの距離情報を算出する。距離情報は、例えば、注目領域から各白領域までの画素数である。   When proceeding to the distance calculation step S13, the distance information from the attention area determined in the attention area determination step S11 to each white area obtained in the white area extraction step S10 is calculated. The distance information is, for example, the number of pixels from the attention area to each white area.

優先度決定ステップS14では、距離算出ステップS13にて算出した距離情報(画素数)から各白領域の優先度を決定する。   In priority determination step S14, the priority of each white region is determined from the distance information (number of pixels) calculated in distance calculation step S13.

図4は、本発明の第1の実施形態に係る白領域の優先度決定の例を示す図である。ステップS13、S14で、白領域抽出部20、注目領域決定部30、距離算出部40、および優先度決定部40によって、各白領域に対する優先度を決定する例を示している。図4において、優先度Eは、白領域C内に数字で示しており、数字が小さいほど優先度が高い。注目領域D内部の白領域の優先度は図示していないが、優先度「0」であり、最も優先度が高い。   FIG. 4 is a diagram illustrating an example of white region priority determination according to the first embodiment of the present invention. In the example shown in steps S13 and S14, the priority for each white region is determined by the white region extraction unit 20, the attention region determination unit 30, the distance calculation unit 40, and the priority determination unit 40. In FIG. 4, the priority E is indicated by a number in the white area C. The smaller the number, the higher the priority. Although the priority of the white area inside the attention area D is not shown, the priority is “0”, which is the highest priority.

優先度は、対象の白領域が注目領域から何画素離れているかに応じて設定され、注目領域から対象領域までの画素数が少ないほど優先度は高く、画素数が多いほど優先度は低くなる。白領域Cは画像信号全体から抽出され、注目領域Dからの距離(画素数)に応じて注目領域に近い白領域に対し優先度が高く設定される。これにより、複数の光源が存在していた場合でも、注目領域Dに照射されている光源に対して優先的にホワイトバランス補正を行うことが可能となる。   The priority is set according to how many pixels the target white area is away from the target area. The smaller the number of pixels from the target area to the target area, the higher the priority, and the higher the number of pixels, the lower the priority. . The white area C is extracted from the entire image signal, and the priority is set higher for the white area close to the attention area according to the distance (number of pixels) from the attention area D. Thereby, even when there are a plurality of light sources, white balance correction can be performed preferentially with respect to the light source irradiated on the attention area D.

なお、注目領域Dは、ユーザ操作などに応じて設定された領域に限られず、特定の被写体を検出することで注目領域Dとしてその移動に応じて位置が変動するような構成であってもよい。また、注目領域内に白領域が検出された場合は、注目領域内の白領域が優先度がもっとも高くなる。その場合は、注目領域内の白領域のみを使ってホワイトバランスを調整することも可能である。   Note that the attention area D is not limited to an area set according to a user operation or the like, and may be configured such that the position of the attention area D varies according to the movement by detecting a specific subject. . Further, when a white area is detected in the attention area, the white area in the attention area has the highest priority. In that case, it is also possible to adjust the white balance using only the white area within the attention area.

ホワイトバランス制御ステップS15では、白領域抽出ステップS10で抽出した白領域およびステップS14にて決定した優先度を元にして、優先度の高い白領域がより白となるようなホワイトバランス(WB)制御を実施する。例えば、検出された白領域の信号を平均してホワイトバランス調整値(ゲイン)を決定するときに、優先度の高い白領域ほどその重みづけを大きくして平均を算出する。そうすることで、優先度の高い白領域の信号値がより白の信号値に近くなるようなホワイトバランスゲインを設定することができる。ステップS15で本実施形態におけるホワイトバランス調整の処理は終了となる。   In the white balance control step S15, white balance (WB) control is performed such that the white region having a higher priority becomes whiter based on the white region extracted in the white region extraction step S10 and the priority determined in step S14. To implement. For example, when the white balance adjustment value (gain) is determined by averaging the signals of the detected white area, the average is calculated by increasing the weight of the white area having a higher priority. By doing so, it is possible to set the white balance gain such that the signal value of the white region having a high priority is closer to the white signal value. In step S15, the white balance adjustment process in the present embodiment ends.

以上、本実施形態によれば、注目領域に近い白領域ほど重みをつけてホワイトバランス調整を行うので、注目領域の近傍の光源に合わせた好適なホワイトバランス調整が可能になる。   As described above, according to the present embodiment, white balance adjustment is performed by weighting the white area closer to the attention area, so that it is possible to perform suitable white balance adjustment according to the light source in the vicinity of the attention area.

(第2の実施形態)
以下、図5と図6を参照して、本発明の第2の実施形態として、第1の実施形態において、さらに、優先度の高い白領域の割合に応じて、白領域を抽出する範囲を変更する構成について説明する。
(Second Embodiment)
Hereinafter, referring to FIG. 5 and FIG. 6, as the second embodiment of the present invention, in the first embodiment, a range in which white areas are extracted according to the ratio of white areas with higher priority is further described. The configuration to be changed will be described.

図5は、第2の実施形態に係るホワイトバランス補正処理を示すフローチャートである。図5のフローチャートは、撮像装置1000内の不図示の制御部によって、各処理ブロックを制御し実行される処理手順を図示したものである。制御部が有するメモリ(ROM)に格納されているプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。   FIG. 5 is a flowchart showing white balance correction processing according to the second embodiment. The flowchart in FIG. 5 illustrates a processing procedure executed by controlling each processing block by a control unit (not illustrated) in the imaging apparatus 1000. This is realized by developing a program stored in a memory (ROM) of the control unit in the memory (RAM) and executing it by the CPU.

まず白領域抽出ステップS20にて、イメージセンサーから出力された画像信号から、白として判定された白領域を抽出する。前述した図2におけるステップS10と同様の処理である。   First, in a white area extraction step S20, a white area determined as white is extracted from the image signal output from the image sensor. This is the same processing as step S10 in FIG.

注目領域決定ステップS21にて、イメージセンサーから出力された画像信号に対して、優先的にホワイトバランスをあわせる注目領域を決定する。前述した図2におけるステップS11と同様の処理である。   Attention area determination step S21, an attention area that preferentially adjusts the white balance is determined for the image signal output from the image sensor. This is the same processing as step S11 in FIG.

白領域判定ステップS22にて、白領域抽出ステップS20にてイメージセンサーから出力された画像信号から白領域が抽出されていたかを判定する。前述した図2におけるステップS12と同様の処理である。白領域が抽出されていた場合はステップS23へ進み、白領域が抽出されていない場合は本処理を終了する。   In white region determination step S22, it is determined whether a white region has been extracted from the image signal output from the image sensor in white region extraction step S20. This is the same processing as step S12 in FIG. If a white area has been extracted, the process proceeds to step S23. If a white area has not been extracted, the process ends.

距離算出ステップS23にて、注目領域決定ステップS21にて決定された注目領域から、白領域抽出ステップS20で得られた各白領域までの距離情報(画素数)を算出する。前述した図2におけるステップS13と同様の処理である。   In the distance calculation step S23, distance information (number of pixels) from the attention area determined in the attention area determination step S21 to each white area obtained in the white area extraction step S20 is calculated. This is the same processing as step S13 in FIG.

優先度決定ステップS24では、距離算出ステップS23にて算出した距離情報(画素数)から各白領域の優先度を決定する。前述した図2におけるステップS14と同様の処理である。   In the priority determination step S24, the priority of each white region is determined from the distance information (number of pixels) calculated in the distance calculation step S23. This is the same processing as step S14 in FIG.

白領域検出範囲判定ステップS25では、白領域として抽出された領域全体に対し優先度の高い白領域が占める割合を判定する。割合は、例えば、白領域全体の面積に対する優先度の高い白領域の面積、又は白領域として検出されたブロック数に対する優先度の高い白領域のブロック数に基づいて算出する。優先度が高い白領域が多くを占め、優先度が低い白領域が少ない場合はステップS26へ進み、一方、優先度が高い白領域の割合が少ない場合はステップS27へ進む。   In the white region detection range determination step S25, the ratio of the white region having a high priority to the entire region extracted as the white region is determined. The ratio is calculated based on, for example, the area of the white region having a high priority with respect to the area of the entire white region or the number of blocks in the white region having a high priority with respect to the number of blocks detected as the white region. When the white area with high priority occupies a large number and there are few white areas with low priority, the process proceeds to step S26, whereas when the ratio of white areas with high priority is small, the process proceeds to step S27.

ホワイトバランス制御ステップS26では、白領域抽出ステップS20で抽出した白領域および優先度決定ステップS24にて決定した優先度を元にして、優先度の高い白領域がより白となるようなホワイトバランス制御を実施する。以上で本処理は終了する。前述した図2におけるステップS15と同様の処理である。   In the white balance control step S26, based on the white region extracted in the white region extraction step S20 and the priority determined in the priority determination step S24, white balance control that makes the white region with a higher priority whiter. To implement. This process is complete | finished above. This is the same processing as step S15 in FIG.

一方、ステップS27へ進んだ場合は、白領域抽出範囲変更ステップS27にて、優先度の高い領域を多く含むように白領域抽出を実行する範囲を変更する。   On the other hand, if the process proceeds to step S27, the white area extraction execution range is changed so as to include many high priority areas in the white area extraction range changing step S27.

ここで、図6は、本発明の第2の実施形態に係る変更した白領域抽出範囲Fと優先度Eの関係を示す図である。(1)は白領域抽出範囲Fの初期設定時を示しており、白領域Cの抽出を実行する範囲である、破線でメッシュ状に示された複数の評価領域(ブロック)を含む実線の四角形として示された白領域抽出範囲F1が、画角の全域となっている。ステップS27が実行されることにより、(2)に示すように、白領域抽出範囲Fが白領域抽出範囲F2として各評価領域(ブロック)の大きさを小さくした白抽出範囲が新たに選択される。白抽出範囲全体を小さくすることで、(1)の場合より優先度の高い白領域Cの割合が多くなり、また、各評価領域を小さくすることで各評価領域の混色が低減され、より詳細な白領域Cの抽出を実行することができる。ここで、本実施形態では、評価領域が所定の枠数(例えば24×16)になるように白抽出範囲全体を小さする例を説明したが、処理能力が十分あれば白抽出範囲は画面全体のまま、各評価領域を細かくする構成としても構わない。   Here, FIG. 6 is a diagram showing the relationship between the changed white area extraction range F and the priority E according to the second embodiment of the present invention. (1) shows the initial setting of the white area extraction range F, and is a solid rectangle including a plurality of evaluation areas (blocks) indicated by a broken line in a mesh shape, which is a range in which the extraction of the white area C is performed. A white area extraction range F1 shown as is the entire field angle. By executing step S27, as shown in (2), the white area extraction range F is selected as the white area extraction range F2, and a white extraction area in which the size of each evaluation area (block) is reduced is newly selected. . By reducing the entire white extraction range, the ratio of the white area C having a higher priority than in the case of (1) increases, and by reducing each evaluation area, the color mixture of each evaluation area is reduced, and more details are obtained. Extraction of a white area C can be executed. Here, in this embodiment, the example in which the entire white extraction range is reduced so that the evaluation area has a predetermined number of frames (for example, 24 × 16) has been described. However, if the processing capability is sufficient, the white extraction range is the entire screen. The configuration may be such that each evaluation region is made finer.

白領域抽出を実行する各検出領域のサイズや検出範囲を変更したのち、白領域抽出検出ステップS20に戻り、白領域抽出範囲変更ステップS27にて変更した白領域抽出範囲に対し白領域抽出を実行する。ステップS20以降の処理を再度実行し、白領域の抽出範囲を変更した結果、ステップS25にて優先度の高い白領域の割合が所定以上になっていた場合には、ステップS26で優先度の高い白領域がより白となるようなホワイトバランス制御を行う。そして、本処理を終了する。   After changing the size and detection range of each detection area for executing the white area extraction, the process returns to the white area extraction detection step S20, and the white area extraction is executed for the white area extraction range changed in the white area extraction range change step S27. To do. If the processing of step S20 and subsequent steps is executed again and the white area extraction range is changed, and the ratio of the white area having a high priority is greater than or equal to a predetermined value in step S25, the priority is high in step S26. White balance control is performed so that the white area becomes whiter. Then, this process ends.

なお、本実施形態において、白検出範囲が小さくなり過ぎた場合は、白検出範囲の初期化を行う。例えば、面積などで画像全体に対する割合に関する閾値を設けておき、白検出範囲が閾値以下になった場合に、図6(1)に示すような初期設定時の白検出範囲F1に変更する。   In the present embodiment, when the white detection range becomes too small, the white detection range is initialized. For example, a threshold value regarding the ratio of the entire image, such as an area, is provided, and when the white detection range is equal to or less than the threshold value, the white detection range F1 is changed to the initial white detection range F1 as illustrated in FIG.

以上、本実施形態によれば、注目被写体の近傍の優先度の高い白領域抽出の結果が得られるため、より注目被写体の周辺の光源に適したホワイトバランス制御を行うことが可能となる。   As described above, according to the present embodiment, the result of white region extraction with high priority in the vicinity of the subject of interest can be obtained, so that white balance control more suitable for the light source around the subject of interest can be performed.

(第3の実施形態)
以下図7、図8および図9を参照して、本発明第3の実施形態による抽出された白領域のグループ化を行い、グループ化された各白領域に対して注目領域からの距離に応じた優先度に基づくホワイトバランス調整について説明する。
(Third embodiment)
Hereinafter, with reference to FIG. 7, FIG. 8, and FIG. 9, the extracted white areas are grouped according to the third embodiment of the present invention, and each grouped white area is set according to the distance from the attention area. The white balance adjustment based on the priority will be described.

図7は、第3の実施形態に係るホワイトバランス補正処理を示すフローチャートである。画像入力部10から入力された画像信号から抽出された白領域Cをグループ化し、グループ化された白領域Cに対して注目領域Dからの距離に応じた優先度Eを決定して、注目領域Dに対してホワイトバランス(WB)を調整する処理を示している。図7のフローチャートは、撮像装置1000内の不図示の制御部によって、各処理ブロックを制御し実行される処理手順を図示したものである。制御部が有するメモリ(ROM)に格納されているプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。   FIG. 7 is a flowchart showing white balance correction processing according to the third embodiment. The white area C extracted from the image signal input from the image input unit 10 is grouped, and the priority E corresponding to the distance from the attention area D is determined for the grouped white area C, and the attention area A process for adjusting white balance (WB) with respect to D is shown. The flowchart in FIG. 7 illustrates a processing procedure executed by controlling each processing block by a control unit (not illustrated) in the imaging apparatus 1000. This is realized by developing a program stored in a memory (ROM) of the control unit in the memory (RAM) and executing it by the CPU.

まず白領域抽出ステップS30にて、イメージセンサーから出力された画像信号(色信号)から、白として判定された白領域を抽出する。前述した図2におけるステップS10と同様の処理である。   First, in a white region extraction step S30, a white region determined as white is extracted from the image signal (color signal) output from the image sensor. This is the same processing as step S10 in FIG.

注目領域決定ステップS31にて、イメージセンサーから出力された画像信号に対して、優先的にホワイトバランスをあわせる注目領域Dを決定する。前述した図2におけるステップS11と同様の処理である。   Attention area determination step S31, an attention area D in which white balance is preferentially adjusted with respect to the image signal output from the image sensor is determined. This is the same processing as step S11 in FIG.

白領域判定ステップS32にて、白領域抽出ステップS30にてイメージセンサーから出力された画像信号から白領域Cが抽出されていたかを判定する。前述した図2におけるステップS12と同様の処理である。白領域Cが抽出されていた場合はステップS33へ進み、白領域Cが抽出されていない場合は本処理を終了する。   In white area determination step S32, it is determined whether the white area C has been extracted from the image signal output from the image sensor in white area extraction step S30. This is the same processing as step S12 in FIG. If the white area C has been extracted, the process proceeds to step S33. If the white area C has not been extracted, the process ends.

白領域グループ化ステップS33では、白領域抽出ステップS30にて抽出された各白領域Cに対し、輝度、色差の近い隣接領域を同一のグループとしてグループ化を実施する。図8は、白領域グループ化ステップS33の処理に係る、白領域のグループ化の例を示す図である。輝度、色差情報を元に、白領域抽出された隣接した白領域を類似度に基づいてグループ化し、G1〜G7のグループに分けている。   In the white area grouping step S33, adjacent areas having similar luminance and color differences are grouped into the same group for each white area C extracted in the white area extraction step S30. FIG. 8 is a diagram illustrating an example of white area grouping related to the processing of the white area grouping step S33. Based on the luminance and color difference information, adjacent white areas extracted from the white area are grouped based on the similarity and divided into groups G1 to G7.

距離算出ステップS34では、注目領域決定ステップS31にて決定された注目領域Dから、白領域グループ化ステップS33で得られた各白領域グループまでの距離情報(画素数)を算出する。このとき、距離情報は、例えば、グループに含まれる白領域のうち、一番近い白領域までの距離としてもよいし、グループ化された領域の中心や重心の位置からの距離としてもよい。   In the distance calculation step S34, distance information (number of pixels) from the attention area D determined in the attention area determination step S31 to each white area group obtained in the white area grouping step S33 is calculated. At this time, the distance information may be, for example, the distance to the nearest white area among the white areas included in the group, or may be the distance from the center of the grouped area or the position of the center of gravity.

優先度決定ステップS35では、距離算出ステップS34にて算出した距離情報から各白領域グループの優先度Eを決定する。図9は、優先度決定ステップS35の処理に係る、グループ化された白領域に対する優先付けの例を示す図である。G1〜G7のグループに分けられた領域に対して、注目領域Dからの距離に応じた優先度設定が行われている。図9においては、G1が優先度1、G4が優先度2、G3が優先度3、に設定されている。白領域がグループ化されているため、白領域に対してそれぞれで優先度を設定する場合と比較して、優先度の高い白領域が拡張されることになる。   In priority determination step S35, the priority E of each white area group is determined from the distance information calculated in distance calculation step S34. FIG. 9 is a diagram illustrating an example of prioritizing a grouped white area according to the processing of the priority determination step S35. Priorities according to the distance from the attention area D are set for the areas divided into groups G1 to G7. In FIG. 9, G1 is set to priority 1, G4 is set to priority 2, and G3 is set to priority 3. Since the white area is grouped, the white area having a higher priority is expanded as compared with the case where the priority is set for each of the white areas.

ホワイトバランス制御ステップS36では、ステップS33でグループ化した白領域について、ステップS35にて決定した優先度を元にして、優先度の高い白領域グループがより白となるようにホワイトバランス(WB)を調整する。以上で、本フローチャートの処理は終了する。   In the white balance control step S36, the white balance (WB) is set so that the white region group having a higher priority becomes white based on the priority determined in step S35 for the white regions grouped in step S33. adjust. Above, the process of this flowchart is complete | finished.

以上、第3の実施形態によれば、より広範囲な白領域を得ることができ、評価対象が増えることによって、より好適なホワイトバランス(WB)制御を行うことが可能となる。   As described above, according to the third embodiment, a wider white area can be obtained, and more suitable white balance (WB) control can be performed by increasing the number of evaluation objects.

(第4の実施形態)
以下、図10、図11、および図12を参照して、本発明の第4の実施形態によるユーザーが通信部を介して入力画像に注目領域を指定する構成について説明する。なお、前述の実施形態と同様の構成については同じ符号を付し、その説明を省略する。
(Fourth embodiment)
Hereinafter, a configuration in which a user designates a region of interest in an input image via a communication unit according to a fourth embodiment of the present invention will be described with reference to FIGS. In addition, the same code | symbol is attached | subjected about the structure similar to the above-mentioned embodiment, and the description is abbreviate | omitted.

図10は、本発明の第4の実施形態に係る画像処理システムの構成例を示すブロック図である。本実施形態に係る画像処理装置である撮像装置1000は、外部のクライアント装置80(情報処理装置)と通信部を介して相互に通信可能に接続されている。クライアント装置70は、不図示の通信部を介して、撮像装置1000又はサーバなどの外部装置と通信することが可能である。   FIG. 10 is a block diagram illustrating a configuration example of an image processing system according to the fourth embodiment of the present invention. An imaging apparatus 1000 that is an image processing apparatus according to the present embodiment is connected to an external client apparatus 80 (information processing apparatus) via a communication unit so that they can communicate with each other. The client device 70 can communicate with an external device such as the imaging device 1000 or a server via a communication unit (not shown).

クライアント装置80は、撮像装置1000に対する制御指示が可能な外部端末の一部として構成される。クライアント装置80は、注目領域設定UI部180、白領域表示UI部190を含む操作手段を有しており、その操作手段に対する操作に応じて撮像装置1000への指示が生成される。   The client device 80 is configured as a part of an external terminal capable of giving a control instruction to the imaging device 1000. The client device 80 includes an operation unit including an attention area setting UI unit 180 and a white area display UI unit 190, and an instruction to the imaging apparatus 1000 is generated according to an operation on the operation unit.

注目領域設定UI部180は、注目領域を設定するためのインターフェイスであって、コンピュータ上の画面と操作手段から構成される。ユーザーは、注目領域設定UI部180であるコンピュータ上のタッチパネル又は外部の操作手段を介して、注目領域を指定し、不図示の通信部を介して撮像装置1000へ送信する。通信部70を介して設定された注目領域を受信した撮像装置1000は、注目領域決定部130に注目領域の指定を行う。   The attention area setting UI unit 180 is an interface for setting the attention area, and includes a screen on the computer and operation means. The user designates a region of interest via a touch panel on the computer that is the region-of-interest setting UI unit 180 or an external operation unit, and transmits it to the imaging apparatus 1000 via a communication unit (not shown). The imaging apparatus 1000 that has received the attention area set via the communication unit 70 designates the attention area to the attention area determination unit 130.

白領域表示UI部190は、白領域と優先度を表示するためのインターフェイスであって、不図示の通信部を介して撮像装置1000から出力される画像信号、白領域、優先度の設定に関する表示をしてユーザに報知する。例えば、画像情報に白領域、優先度を重畳して表示可能で、ユーザーに対してどの領域を使用してホワイトバランスを制御しているかを通知することができる。   The white area display UI unit 190 is an interface for displaying white areas and priorities, and is a display related to setting of image signals, white areas, and priorities output from the imaging apparatus 1000 via a communication unit (not shown). To inform the user. For example, the image information can be displayed with the white area and the priority superimposed, and the user can be notified of which area is used to control the white balance.

図11は、ユーザーが注目領域設定UI部180にて注目領域を指定することを示す図である。ユーザーは任意の領域をUI上で注目領域として設定し、不図示通信部を通じて、撮像装置1000の優先領域決定部50に設定することができる。   FIG. 11 is a diagram illustrating that the user designates a region of interest using the region-of-interest setting UI unit 180. The user can set an arbitrary region as a region of interest on the UI and set it in the priority region determination unit 50 of the imaging apparatus 1000 through a communication unit (not shown).

図12は、白領域表示UI部190にて優先的にホワイトバランス(WB)を合わせる優先度の高い白領域を表示することを示す図である。ユーザーはUI上に表示された白領域を確認し、ユーザーの意図した領域がホワイトバランス(WB)の補正範囲として使用されているかを確認することが可能となる。   FIG. 12 is a diagram showing that a white region with a high priority for preferentially adjusting white balance (WB) is displayed on the white region display UI unit 190. The user can check the white area displayed on the UI and check whether the area intended by the user is used as a white balance (WB) correction range.

以上、第4の実施形態によれば、外部のクライアント装置から、任意の注目領域が設定可能であり、また、優先度の高い白領域が表示され、どの領域に合わせてホワイトバランス(WB)が調整されているかを容易に確認することができる。   As described above, according to the fourth embodiment, an arbitrary attention area can be set from an external client device, and a white area with a high priority is displayed, and the white balance (WB) is adjusted to which area. It can be easily confirmed whether it is adjusted.

(第5の実施形態)
ここで、画像表面上の距離が近くても、被写体の空間的な距離が遠い場合も考えられる。例えば、注目被写体の背面に何も物体が存在せず、奥行きがあるようなシーンでは、画像表面上の距離だけで優先度を付けると、実際には距離が離れていて光源が異なる場合がある。そのような場合は、被写体の空間的な位置関係を取得して、その位置関係を加味して白領域の重みづけを行うことで、より注目領域に好適にホワイトバランス(WB)を調整することが可能である。
(Fifth embodiment)
Here, even when the distance on the image surface is short, the spatial distance of the subject may be long. For example, in a scene where there is no object behind the subject of interest and there is depth, if priority is given only by the distance on the image surface, the distance may actually be far and the light source may be different . In such a case, the white balance (WB) is adjusted more suitably for the attention area by acquiring the spatial positional relation of the subject and weighting the white area in consideration of the positional relation. Is possible.

画像処理装置において、被写体の空間的な位置関係を取得する。取得方法は公知の技術を用いるため詳細な説明は割愛するが、例えば、撮像装置のイメージセンサーによる位相差情報や、測距センサの出力から測距情報を取得することが可能である。また、あらかじめクライアント装置に撮像範囲内の構造物の距離マップを登録しておいてもよい。   In the image processing apparatus, the spatial positional relationship of the subject is acquired. Since the acquisition method uses a known technique, a detailed description is omitted. For example, it is possible to acquire distance measurement information from phase difference information by an image sensor of an imaging apparatus or output of a distance measurement sensor. In addition, a distance map of a structure within the imaging range may be registered in advance in the client device.

図13は、本発明の第5の実施形態に係る白領域の優先度付けの例を示す図である。(1)は、第1の実施形態により白領域Cの優先度を付けた結果を示している。本実施形態による優先度付けの結果を(2)に示す。(1)で優先度を付けた白領域Cのうち、メッシュ内を黒く塗りつぶした除外領域Hは、白抽出結果から除外する。除外領域Hは、注目領域Dから奥行方向に離れた位置に存在する被写体であり、注目領域Dとは異なる光源環境である可能性があるため、この領域を除外することで注目領域Dにより好適なホワイトバランス(WB)を取得できる。   FIG. 13 is a diagram showing an example of prioritizing white areas according to the fifth embodiment of the present invention. (1) shows the result of assigning the priority of the white region C according to the first embodiment. The result of prioritization according to this embodiment is shown in (2). Of the white region C to which the priority is assigned in (1), the excluded region H in which the mesh is blacked out is excluded from the white extraction result. The excluded area H is a subject that exists at a position away from the attention area D in the depth direction, and may have a light source environment different from the attention area D. Therefore, the exclusion area H is more suitable by excluding this area. White balance (WB) can be acquired.

以上、第5の実施形態によれば、実空間での注目被写体との距離に基づいて白領域の優先度を決めるため、奥行方向に離れていて光源が異なるような領域の優先度を下げることができ、より注目被写体に好適なホワイトバランス調整が可能である。   As described above, according to the fifth embodiment, since the priority of the white area is determined based on the distance from the subject of interest in the real space, the priority of the area that is separated in the depth direction and has a different light source is lowered. White balance adjustment more suitable for the subject of interest is possible.

以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。本発明は、本発明の技術思想の範囲内において、対象となる回路形態により適時変更されて適応するべきものである。例えば、上述した実施形態で、撮像装置として説明したカメラは、デジタルスチルカメラやデジタルビデオカメラに適用することができる。画像処理装置は、撮像装置の内部の処理に限定されず、外部のコンピュータ装置に適用することも可能である。   As mentioned above, although preferable embodiment of this invention was described, this invention is not limited to these embodiment, A various deformation | transformation and change are possible within the range of the summary. The present invention should be adapted by being changed as appropriate according to the target circuit form within the scope of the technical idea of the present invention. For example, the camera described as the imaging device in the above-described embodiment can be applied to a digital still camera or a digital video camera. The image processing apparatus is not limited to processing inside the imaging apparatus, and can be applied to an external computer apparatus.

また、本発明は、例えばシステム、装置、方法、コンピュータプログラムもしくは記録媒体などとしての実施形態も可能であり、具体的には、1つの装置で実現しても、複数の装置からなるシステムに適用してもよい。本実施形態に係る画像処理装置を構成する各手段および画像処理装置の制御方法の各ステップは、コンピュータのメモリなどに記憶されたプログラムが動作することによっても実現できる。このコンピュータプログラムおよびこのプログラムを記録したコンピュータ読み取り可能な記録媒体は本発明に含まれる。   Further, the present invention can be embodied as a system, apparatus, method, computer program, or recording medium, for example. Specifically, the present invention can be applied to a system composed of a plurality of apparatuses even if it is realized by one apparatus. May be. Each unit of the image processing apparatus according to the present embodiment and each step of the control method of the image processing apparatus can be realized by operating a program stored in a memory of a computer or the like. The computer program and a computer-readable recording medium on which the program is recorded are included in the present invention.

本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。   The present invention supplies a program that realizes one or more functions of the above-described embodiments to a system or apparatus via a network or a storage medium, and one or more processors in a computer of the system or apparatus read and execute the program This process can be realized. It can also be realized by a circuit (for example, ASIC) that realizes one or more functions.

1000 撮像装置
10 画像入力部
20 白領域抽出部
30 注目領域決定部
40 距離算出部
50 優先度決定部
60 ホワイトバランス制御部
70 通信部
80 クライアント装置
DESCRIPTION OF SYMBOLS 1000 Imaging device 10 Image input part 20 White area extraction part 30 Attention area determination part 40 Distance calculation part 50 Priority determination part 60 White balance control part 70 Communication part 80 Client apparatus

Claims (19)

被写体の画像データを取得する取得手段と、
前記画像データから所定の範囲内の色信号を有する白領域を検出する検出手段と、
前記白領域の色信号を用いて前記画像データのホワイトバランス調整値を算出する算出手段と
注目領域を決定する決定手段と、を有し、
前記算出手段は、前記注目領域と少なくとも1つの前記白領域との距離に基づいて前記ホワイトバランス調整値を算出する
ことを特徴とする画像処理装置。
Acquisition means for acquiring image data of a subject;
Detecting means for detecting a white region having a color signal within a predetermined range from the image data;
A calculation unit that calculates a white balance adjustment value of the image data using a color signal of the white region; and a determination unit that determines a region of interest.
The image processing apparatus, wherein the calculating means calculates the white balance adjustment value based on a distance between the attention area and at least one of the white areas.
前記算出手段は、前記注目領域から所定の距離に含まれる白領域の色信号を用いてホワイトバランス調整値を算出することを特徴とする請求項1に記載の画像処理装置。   The image processing apparatus according to claim 1, wherein the calculation unit calculates a white balance adjustment value using a color signal of a white area included at a predetermined distance from the attention area. 前記注目領域から前記白領域ごとの距離を算出する第1の距離算出手段と、
前記注目領域から前記白領域の距離が近いほど該白領域の優先度を高くする第1の重みづけ手段と、をさらに有し、
前記算出手段は、前記第1の重みづけ手段による優先度に基づいて前記ホワイトバランス調整値を算出することを特徴とする請求項1又は2に記載の画像処理装置。
First distance calculation means for calculating a distance for each of the white areas from the attention area;
First weighting means for increasing the priority of the white region as the distance from the region of interest to the white region is closer,
The image processing apparatus according to claim 1, wherein the calculation unit calculates the white balance adjustment value based on a priority by the first weighting unit.
前記検出手段による前記白領域の検出範囲または検出サイズを変更する変更手段、をさらに有し、
前記変更手段は、前記検出範囲に対して前記注目領域から所定の距離に含まれる白領域の割合が所定以上になるように前記検出範囲または検出サイズを変更することを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
Change means for changing the detection range or detection size of the white area by the detection means;
The change unit changes the detection range or the detection size so that a ratio of a white area included in a predetermined distance from the attention area with respect to the detection range is equal to or greater than a predetermined value. 4. The image processing apparatus according to any one of items 3.
前記変更手段は、前記検出範囲に対して前記第1の重みづけ手段による優先度が高い白領域の割合が所定以上になるように前記検出範囲または検出サイズを変更することを特徴とする請求項4に記載の画像処理装置。   The said changing means changes the said detection range or detection size so that the ratio of the white area | region where the priority by the said 1st weighting means is high with respect to the said detection range becomes more than predetermined. 5. The image processing apparatus according to 4. 前記変更手段は、前記検出範囲が所定より小さくなった場合に前記検出範囲または検出サイズを初期化する請求項4又は5に記載の画像処理装置。   The image processing apparatus according to claim 4, wherein the changing unit initializes the detection range or the detection size when the detection range becomes smaller than a predetermined value. 前記被写体の奥行き情報を取得して前記注目領域に対する空間的な距離を算出する第2の距離算出手段、をさらに有し、
前記算出手段は、請求項1乃至6のいずれか1項の画像処理装置において、前記空間的な距離に基づいて前記ホワイトバランス調整値を算出することを特徴とする。
Second distance calculating means for acquiring depth information of the subject and calculating a spatial distance to the region of interest;
The image processing apparatus according to claim 1, wherein the calculation unit calculates the white balance adjustment value based on the spatial distance.
隣接する前記白領域を輝度、色差の類似度に基づいてグループ化するグループ化手段と、
前記注目領域から前記白領域のグループごとの距離を算出する第3の距離算出手段と、
前記算出された距離に基づいて前記グループごとの優先度を決定する第2の重みづけ手段と、
をさらに有し、
前記算出手段は、前記注目領域から少なくとも1つの前記グループとの距離に基づいて前記ホワイトバランス調整値を算出することを特徴とする請求項1乃至7のいずれか1項に記載の画像処理装置。
Grouping means for grouping adjacent white regions based on the similarity of luminance and color difference;
Third distance calculating means for calculating a distance for each group of the white area from the attention area;
Second weighting means for determining a priority for each group based on the calculated distance;
Further comprising
The image processing apparatus according to claim 1, wherein the calculation unit calculates the white balance adjustment value based on a distance from the attention area to at least one of the groups.
前記決定手段は、UI手段に対するユーザ操作に応じて前記注目領域を決定することを特徴とする請求項1乃至8のいずれか1項に記載の画像処理装置。   The image processing apparatus according to claim 1, wherein the determination unit determines the attention area in accordance with a user operation on the UI unit. 前記決定手段は、通信を介して前記UI手段と接続して前記ユーザ操作の受信に応じて前記注目領域を決定することを特徴とする請求項9に記載の画像処理装置。   The image processing apparatus according to claim 9, wherein the determination unit is connected to the UI unit via communication to determine the attention area in response to reception of the user operation. 前記UI手段は、前記白領域、前記ホワイトバランス調整に用いる白領域、前記グループ化された白領域、前記優先度、の少なくともいずれかを画像とともに表示可能であることを特徴とする請求項9又は10に記載の画像処理装置。   The UI unit can display at least one of the white area, the white area used for the white balance adjustment, the grouped white area, and the priority with an image. The image processing apparatus according to 10. 前記算出されたホワイトバランス調整値を通信を介して外部装置へ画像データとともに出力する出力手段と、をさらに有することを特徴とする請求項1乃至11のいずれか1項に記載の画像処理装置。   The image processing apparatus according to claim 1, further comprising: an output unit that outputs the calculated white balance adjustment value together with image data to an external apparatus through communication. 前記注目領域内に前記白領域が検出された場合、前記算出手段は、前記注目領域内の白領域の信号値を用いてホワイトバランス調整値を算出することを特徴とする請求項1乃至12のいずれか1項に記載の画像処理装置。   13. The white balance adjustment value is calculated using the signal value of the white area in the attention area when the white area is detected in the attention area. The image processing apparatus according to any one of the above. 被写体の画像データを取得する取得手段と、
前記画像データから所定の範囲内の色信号を有する白領域を検出する検出手段と、
前記白領域の色信号を用いて前記画像データのホワイトバランスを調整する調整手段と、
注目領域を決定する決定手段と、を有し、
前記調整手段は、前記注目領域からの距離が近い白領域ほど、該白領域の色信号がより白を示す信号値に近くなるようにホワイトバランスを調整することを特徴とする画像処理装置。
Acquisition means for acquiring image data of a subject;
Detecting means for detecting a white region having a color signal within a predetermined range from the image data;
Adjusting means for adjusting a white balance of the image data using a color signal of the white region;
Determining means for determining a region of interest;
The image processing apparatus according to claim 1, wherein the adjustment unit adjusts the white balance so that the white area closer to the attention area has a color signal closer to a signal value indicating white in the white area.
前記調整手段は、前記注目領域から所定の距離に含まれる白領域の色信号を用いてホワイトバランスを調整することを特徴とする請求項14に記載の画像処理装置。   The image processing apparatus according to claim 14, wherein the adjustment unit adjusts a white balance using a color signal of a white area included at a predetermined distance from the attention area. 画像処理装置の制御方法であって、
被写体の画像データを取得するステップと、
注目領域を決定するステップと、
前記画像データから所定の範囲内の色信号を有する白領域を検出するステップと、
前記注目領域と少なくとも1つの前記白領域との距離に基づいてホワイトバランスを調整するステップとを有することを特徴とする画像処理装置の制御方法。
A control method for an image processing apparatus, comprising:
Obtaining image data of the subject;
Determining a region of interest;
Detecting a white region having a color signal within a predetermined range from the image data;
And a step of adjusting a white balance based on a distance between the region of interest and at least one of the white regions.
ホワイトバランスを調整するステップにおいて、前記注目領域との距離が近い白領域ほど白に近くなるようにホワイトバランスを調整する、ことを特徴とする請求項16に記載の画像処理装置の制御方法。   The method of controlling an image processing apparatus according to claim 16, wherein in the step of adjusting the white balance, the white balance is adjusted so that a white region closer to the region of interest is closer to white. 請求項16又は17に記載の各ステップをコンピュータによって実行させるためのコンピュータプログラム。   A computer program for causing a computer to execute each step according to claim 16 or 17. 請求項18に記載のプログラムを記載したコンピュータで読み取り可能な記録媒体。   The computer-readable recording medium which described the program of Claim 18.
JP2018015723A 2018-01-31 2018-01-31 Image processor and control method therefor Pending JP2019134332A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018015723A JP2019134332A (en) 2018-01-31 2018-01-31 Image processor and control method therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018015723A JP2019134332A (en) 2018-01-31 2018-01-31 Image processor and control method therefor

Publications (1)

Publication Number Publication Date
JP2019134332A true JP2019134332A (en) 2019-08-08

Family

ID=67546498

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018015723A Pending JP2019134332A (en) 2018-01-31 2018-01-31 Image processor and control method therefor

Country Status (1)

Country Link
JP (1) JP2019134332A (en)

Similar Documents

Publication Publication Date Title
JP6267502B2 (en) IMAGING DEVICE, IMAGING DEVICE CONTROL METHOD, AND PROGRAM
CN109698905B (en) Control apparatus, image pickup apparatus, control method, and computer-readable storage medium
JP6361931B2 (en) Image processing apparatus, imaging system including the same, and image processing method
JP2010147786A (en) Imaging device and image processing method
JP2022179514A (en) Control apparatus, imaging apparatus, control method, and program
WO2017149854A1 (en) Signal processing apparatus, imaging apparatus, and signal processing method
JP2015019354A (en) Imaging apparatus, image processing apparatus, and control method therefor
JP2018186514A (en) Image processing device, imaging system having the same and image processing method
US9762805B2 (en) Image processing apparatus performing tone correction process and method, and image capturing apparatus performing tone correction process
JP6800806B2 (en) Image processing equipment, image processing methods and programs
JP5956844B2 (en) Image processing apparatus and control method thereof
JP2006287814A (en) Imaging apparatus and method of determining motion vector
JP2010183460A (en) Image capturing apparatus and method of controlling the same
JP6176073B2 (en) Imaging system and program
JP2017138927A (en) Image processing device, imaging apparatus, control method and program thereof
CN116266877A (en) Image processing apparatus and method, image capturing apparatus, and computer readable medium
JP7442989B2 (en) Imaging device, control method for the imaging device, and program
JP6552261B2 (en) Imaging device, control method thereof, and control program
JP2019134332A (en) Image processor and control method therefor
JP7346077B2 (en) Image processing device, image processing method and program
JP6971589B2 (en) Imaging device, imaging system, its control method and program
JP6245847B2 (en) Image processing apparatus and image processing method
JP6157274B2 (en) Imaging apparatus, information processing method, and program
JP2017212698A (en) Imaging apparatus, control method for imaging apparatus, and program
JP2021136671A (en) Information processing device, imaging device, method, program and storage medium