JP2022186166A - 撮像装置、その制御方法、プログラムおよび記憶媒体 - Google Patents

撮像装置、その制御方法、プログラムおよび記憶媒体 Download PDF

Info

Publication number
JP2022186166A
JP2022186166A JP2021094252A JP2021094252A JP2022186166A JP 2022186166 A JP2022186166 A JP 2022186166A JP 2021094252 A JP2021094252 A JP 2021094252A JP 2021094252 A JP2021094252 A JP 2021094252A JP 2022186166 A JP2022186166 A JP 2022186166A
Authority
JP
Japan
Prior art keywords
evaluation
area
image
evaluation value
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021094252A
Other languages
English (en)
Inventor
裕也 藤原
Hironari Fujiwara
成悟 金子
Seigo Kaneko
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2021094252A priority Critical patent/JP2022186166A/ja
Priority to US17/828,695 priority patent/US11825210B2/en
Publication of JP2022186166A publication Critical patent/JP2022186166A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)

Abstract

【課題】 領域別に露出を制御可能な撮像装置において、ホワイトバランスの評価値の精度を向上させること。【解決手段】 撮像装置100は、撮像部101と露出制御部104と抽出部102と算出部105と補正部106とを有する。被写体の像を撮像して画像を生成する撮像部101は、露出制御部104によって1以上の画素からなる画素グループ毎に露出を制御される。撮像部101が撮像した画像から抽出部102が無彩色の領域を抽出し、抽出された領域に含まれる1以上の前記画素グループ毎に第一の算出部は第一の評価値を算出する。第一の評価値は前記画素グループの露出に基づいてそれぞれ重みづけされ、抽出された領域における第二の評価値を第二の算出部が算出する。補正部106は第二の評価値に基づいて、撮像部101が撮像した画像を補正する。【選択図】 図1

Description

本発明は、撮像装置、その制御方法、プログラムおよび記憶媒体に関する。
従来、領域を複数に分けて、最高輝度の領域からホワイトバランスの補正値を取得することで、ホワイトバランスの評価値の精度を高める技術が知られている(特許文献1)。
特開2000-295632号公報
本発明が解決しようとする課題は、領域別に露出を制御可能な撮像装置において、ホワイトバランスの評価値の精度を向上させることである。
上記課題を解決するために、本発明の一態様に係る撮像装置は、被写体の像を撮像して画像を生成する撮像部と、前記撮像部の1以上の画素からなる画素グループ毎に露出を制御する露出制御部と、前記画像から無彩色の領域を抽出する抽出部と、前記抽出部によって抽出された前記領域に含まれる1以上の前記画素グループ毎に第一の評価値を算出する第一の算出部と、前記画素グループの露出に基づいてそれぞれ重みづけされた前記第一の評価値から、前記領域における第二の評価値を算出する第二の算出部と、前記第二の算出部が算出した第二の評価値に基づいて、前記画像を補正する補正部と、を有することを特徴とする撮像装置。
本発明によれば、ホワイトバランスの評価値の精度をより高めることができる。
本発明の実施形態1に係る撮像装置の構成例を示すブロック図。 本発明の実施形態1に係る撮像装置によって撮像された画像を示す図。 本発明の実施形態1に係る撮像装置の動作を示すフローチャート。 本発明の実施形態1に係る撮像装置の露光条件と重みづけ値のテーブル。 本発明の実施形態1に係る撮像装置の露光領域と露光条件とホワイトバランス評価値についての表。 本発明の実施形態2に係る撮像装置によって撮像された画像を示す図。 本発明の実施形態2に係る撮像装置の動作を示すフローチャート。 本発明の実施形態2に係る撮像装置のゲイン領域と重みづけ値の対応表。 本発明の実施形態3に係る撮像装置によって撮像された画像を示す図。
以下、添付図面を参照して、本発明を実施するための形態について詳細に説明する。いかに説明する実施形態は、本発明の実現手段としての一例であり、本発明が適用される装置の構成や各種条件によって適宜修正または変更されるべきものであり、本発明は以下の実施形態に限定されるものではない。また、後述する各実施形態の一部を適宜組み合わせて構成してもよい。
<実施形態1>
本実施形態では、画像から無彩色の領域を抽出し、ホワイトバランスの評価値を算出する評価領域を決める。評価領域における画素グループ毎にホワイトバランス評価値1を算出し、画素グループ毎の露出にしたがってホワイトバランス評価値1に重みづけする。評価領域内の重みづけしたホワイトバランス評価値1を加重平均することによってホワイトバランス評価値2を決定する。ホワイトバランス評価値2の値にしたがって画像全体のホワイトバランスを補正する。なお、本実施形態ではホワイトバランスについて説明するが、ホワイトバランスだけでなく、彩度または色相を補正する色補正にかかわる評価値であってもよい。
(機能構成)
図1は、本実施形態に係る撮像装置100の構成例を示すブロック図である。図1に示す各機能ブロックのうち、ソフトウェアにより実現される機能については、各機能ブロックの機能提供するためのプログラムがROM(Read Only Memory)等のメモリに記憶される。そして、そのプログラムをRAM(Random Access Memory)に読み出してCPU(Central Processing Unit)が実行することにより実現される。ハードウェアにより実現される機能については、例えば、所定のコンパイラを用いることで、各機能ブロックの機能を実現するためのプログラムからFPGA上に自動的に専用回路を生成すればよい。FPGAとは、Field Programmable Gate Arrayの略である。また、FPGAと同様にしてゲートアレイ回路を形成し、ハードウェアとして実現するようにしてもよい。また、ASIC(Application Specific Integrated Circuit)により実現するようにしてもよい。なお、図1に示した機能ブロックの構成は一例であり、複数の機能ブロックが1つの機能ブロックを構成するようにしてもよいし、いずれかの機能ブロックが複数の機能を行うブロックに分かれてもよい。
図1において、撮像装置100は、撮像部101、抽出部102、領域決定部103、露出制御部104、算出部105、補正部106および通信部107を備える。
撮像部101はレンズ群101a、撮像素子101bおよび増幅器101cを備える。
撮像部101は、被写体からの光に基づいて被写体の像を撮像し画像を生成する。レンズ群101aは、被写体からの光を撮像素子101bの受光面に集光する。図1では、1枚のレンズのみ示しているが、複数のレンズを備えてもよく、例えば、ズームレンズ、フォーカスレンズおよびぶれ補正レンズなどが含まれていてもよい。撮像素子101bは、被写体からの光を画素ごとに電気信号に変換して出力する。撮像素子101bは、1以上の画素を含む画素グループごと(すなわち複数の分割領域毎)に露光条件を変更できる。撮像素子101bは、例えば、CCD(Charge Coupled Device)センサまたはCMOS(Complementary Metal Oxide Semiconductor)センサなどの半導体素子および周辺回路である。増幅器101cは、撮像素子101bから出力された電気信号を増幅して撮像信号を出力する。増幅器101cの増幅率は画素グループごとに変更できる。不図示の画像処理部は、デジタル信号である映像信号に対して、現像処理を含めた画像処理を行う。映像信号を画像データ(JPEG形式など)に変換する。このとき増幅部101cから出力されるRGBの色情報を持った映像信号は、YUV形式などの色差信号に変換されてデジタル信号処理される。最終的に映像信号が画像データとして変換(現像)され、画像データは画像出力部205を介して出力される。現像処理とは、後述するホワイトバランス補正、彩度補正、色調補正(色相補正)、シャープネス補正、ガンマ補正、階調補正などである。ホワイトバランスは固定の現像パラメーターでなく、映像信号からホワイトバランス評価値(現像パラメーター)を算出する。算出された現像パラメーターを適用してホワイトバランス補正を行う。また、不図示の画像処理部はYUV変換することで輝度情報および色差情報を算出することが可能である。また、画像処理部は画素グループごとの露光条件に基づいて、各画素グループに対応する画像情報に明るさ補正をする。
抽出部102は、不図示の画像処理部によってA/D変換された画像信号(色信号)から白色であると判別される画像領域を検出する。例えば、撮像素子101bの各画素グループから得られる画像信号(RGB信号)に基づいて算出した色評価値が所定の白範囲の評価値に含まれる画素グループの画像領域を白領域として検出する。なお、以降、「白領域」は白に限られず、グレイすなわち無彩色の領域を含むものとする。
領域決定部103は、不図示の画像処理部から出力された画像信号に対し、ホワイトバランスを補正するための評価値を算出する領域を決定する。図2は、本実施形態に係る撮像装置100によって撮像された画像の一例である。画像201は、ホワイトバランスを補正するための全体の画像である。評価領域202は、画像201のホワイトバランスを補正するためのホワイトバランス評価値2を算出する領域である。評価領域202は画像201と同じ領域でもよいし、抽出部102によって抽出された白領域に基づいて決定してもよい。最小露光領域203は、前述した画素グループに対応する画像領域であり、領域毎に露光条件が設定可能な最小の領域である。評価領域202は複数の最小露光領域203から構成されることが好ましい。なお、本実施形態では評価領域202が1つの場合について説明するが、後述する実施形態3のように評価領域を2つ以上決定してもよい。
露出制御部104は画素グループ毎に露光時間やアナログゲイン等の露出を制御する。最小露光領域毎に露光条件を割り当て、撮像素子101aを制御する。露出制御部104は被写体の明るさに対するダイナミックレンジを向上するために、例えば最小露光領域203内の平均輝度値が、出力可能なデータ諧調の中央値となるように露光条件を設定する。なお、抽出部102によって抽出、あるいは領域決定部によって決定された評価領域202に対応する画素グループにおいて、抽出・決定されなかった他の画素グループよりも露光時間を長秒にかつアナログゲインが低くなるように制御をする。これにより、後述するホワイトバランス評価値の算出において、ノイズの増幅量が小さい評価値を取得することができ、より精度の高いホワイトバランス補正をすることが可能となる。
算出部105は、領域決定部103によって決定された評価領域202におけるホワイトバランス評価値2を算出する。より具体的には、評価領域202内の最小露光領域203毎にホワイトバランス評価値1を算出し、最小露光領域203毎に割り当てられた露光条件に基づいた重みづけに従って、ホワイトバランス評価値2を算出する。なお、算出部105を第一の算出部と第二の算出部とに分け、それぞれホワイトバランス評価値1とホワイトバランス評価値2とを算出するように構成してもよい。
補正部106は、算出部105によって算出されたホワイトバランス評価値2に基づいて、画像全体のホワイトバランスを補正する。より具体的には、ホワイトバランス評価値2に従って、画像201における複数の色信号のデジタルゲインを制御することで画像のホワイトバランスを補正する。ここでいう色信号とはRGB信号(R:赤、G:緑、B:青の3色に分解された信号)やYUV信号(Y:輝度、U:青色成分の差、V:赤色成分の差の1つの輝度と2つの色差で表される信号)などである。なお、補正部106はホワイトバランス補正に限らず、彩度補正、色調補正、シャープネス補正、ガンマ補正、階調補正などを行ってもよい。
抽出部102、領域決定部103、算出部105および補正部106は前述した不図示の画像処理部に含まれていてもよい。
通信部107は、クライアント装置やサーバーなどの不図示の外部装置とのネットワーク108を介した通信によって、撮像装置100が撮像した画像を送信する。また、同通信によって、外部装置からCPUへの制御信号を受信し、撮像装置100の各部に係る制御が行われてもよい。
(動作説明)
次に、図3を参照して、本実施形態に係るホワイトバランス(WB)補正について説明する。WB補正には様々な手法があるが、本実施形態では、画像から白領域を検出し、その画像領域を白にするようにホワイトバランス評価値を決定する方法を用いたWB補正について説明する。図3は、本実施形態におけるホワイトバランスの補正処理を示すフローチャートである。図3のフローチャートは、撮像装置100内の不図示の制御部によって、各処理ブロックを制御し実行される処理手順を図示したものである。制御部が有するメモリ(ROM)に格納されているプログラムをメモリ(RAM)に展開し、CPUが実行することにより実現される。
ステップS301において、抽出部102は、不図示の画像処理部によってデジタルデータとなった画像信号を参照して無彩色の領域を抽出する。抽出された領域の領域情報は領域決定部103へと出力される。
ステップS302において、領域決定部103は抽出部102から出力された領域情報に基づいて、評価領域202を決定する。評価領域202は出力された領域情報の全てを評価領域202としてもよいし、一部を評価領域202としてもよい。抽出部102によって抽出された領域をそのまま評価領域202として使用する場合はステップS302を介さずステップS303へと移る。すなわち、抽出部102が領域決定部103に含まれるように構成してもよい。また、ユーザーや設計者が評価領域202を指定してもよい。なお、評価領域202は動体領域以外に設定することが好ましい。動体領域とは、最小露光領域毎にフレーム間の輝度変化量を算出し、輝度変化が閾値を超えた場合に、動体領域として判定する。動体領域では、動体の動きブレを抑制するために、露光時間を短秒に設定することが好ましい。逆に非動体領域では動体がいないため、ブレを抑制する必要がなく、露光時間が長秒に設定することが可能である。そのため、露光時間を長秒に設定した分だけ、ゲインを低く設定することが可能となり、非動体領域のSNRが向上し、適切に評価値を算出することが可能となる。
ステップS303では、ステップS302で決定した評価領域202における最小露光領域203に対応する画素グループの露光条件を参照する。参照した各露光条件が全て同じ露光条件であった場合は、露光条件毎にホワイトバランス評価値1の重みづけをする必要がないため、ステップS306へと移り、評価領域202におけるホワイトバランス評価値2を算出して終了する。異なる露光条件を有する最小露光領域203が評価領域202に存在する場合はステップS304へと進む。
ステップS304では、最小露光領域203ごとにホワイトバランス評価値1を算出部105が算出する。
ステップS305では、ステップS304で算出したホワイトバランス評価値1に対して、評価領域202における各最小露光領域203に対応する画素グループの露光条件を参照して重みづけする。各最小露光領域203における重みづけ値は重みづけ値と露光条件とのテーブルを用意することによって決定してもよいし、露光条件の設定値を用いて算出してもよい。その場合は算出部105が重みづけ値を算出する。
図4は露光条件Gから重みづけ値αを求めるためのテーブルを示している。露光条件GがG1より大きくG2以下である場合、重みづけ値αはA1となり、露光条件GがG2より大きくG3以下である場合、重みづけ値αはA2となる。このように露光条件の範囲に対して重みづけ値αを設定して露光条件から重みづけ値を決定する。図4の場合は、露光条件GがGnより大きくG(n+1)以下である場合、重みづけ値αはAnとなるように、n番目の条件まで設定している。
下式(1)は露光条件Xから重みづけ値αを求めるための式である。下式(1)の具体的な例は後述するが、下式(1)は露光条件Gの設定値を入力すると、重みづけ値αを返す関数となっている。
α=f(X) 式(1)
ステップS306では、ステップS304で算出した、各最小露光領域203におけるホワイトバランス評価値1と、S306で取得した重みづけ値とを用いて下式(2)によって、評価領域202におけるホワイトバランス評価値2を算出する。
Figure 2022186166000002
Wはホワイトバランス評価値2であり、数式の計算結果である。αは露光条件から決定した重みづけ値である。iは評価値算出領域202におけるi番目の最小露光領域203を示す数であり、α_iはi番目の最小露光領域に対応する画素グループの露光条件から決定した重みづけの値である。W_iはステップ302で算出したi番目のホワイトバランス評価値1であり、i番目の最小露光領域203にそれぞれ対応している。ステップS304で算出したホワイトバランス評価値1とステップS305で取得した重みづけ値とを用いた加重平均によって、ホワイトバランス評価値2を求めることができる。なお、ステップS303において評価領域202における露光条件が全て同じである場合には、ホワイトバランス評価値1は重みづけされないため、ホワイトバランス評価値1の平均値がホワイトバランス評価値2として算出される。
ステップS307では、ステップS306で算出したホワイトバランス評価値2に基づいて、画像全体のホワイトバランスを補正部106が補正する。
図5を用いて、本実施形態におけるホワイトバランス補正をより具体的に説明する。前提として、評価領域202における最小露光領域203が4つあり、それぞれに対応する画素グループのゲイン値がそれぞれ、0、1、-1、0であったとする。また、式(1)が下式(3)であるとする。
Figure 2022186166000003
Gはゲイン値を示しており、この場合、各最小露光領域203におけるホワイトバランス評価値1の重みづけ値は算出部105によって、それぞれ1、0.5、2、1と算出される。
なお、ここでは露光条件としてアナログゲインを用いて重みづけ値を決定するが、その他の露光条件(例えばシャッタースピード)を用いてもよい。各最小露光領域203のホワイトバランス評価値1がそれぞれW1、W2、W3、W4とすると、重みづけ値αと式(3)により、ホワイトバランス評価値2は下式(4)のようになる。
Figure 2022186166000004
上記のように算出されたホワイトバランス評価値2を用いて、前述したように画面全体のホワイトバランスを補正部106が補正する。
本実施形態においては、評価領域202が複数の最小露光領域203から構成される場合について説明したが、評価領域202と最小露光領域203の領域が一致しない場合にについて補足で説明する。このとき、評価領域202と最小露光領域203の領域が不一致の画素分だけ、評価領域202のサイズまたは最小露光領域203のサイズを変更することが好ましい。これにより、評価領域202が複数の最小露光領域203から構成されるため、適切に評価値の算出が可能となる。また、サイズを変更できない場合には、最小露光領域203内で評価領域202に含まれない画素は評価値の算出時に除外して算出することが望ましい。また、一部のみ評価領域202に含まれる最小露光領域203に対しては、最小露光領域203の画素数に対して、評価領域202に含まれる画素数の比率を掛け合わせて、最小露光領域203ごとに重み付けを変更する。これらの処理により、評価領域202と最小露光領域203の領域が一致しない場合においても適切に評価値を算出することが可能となる。
評価領域202に含まれる最小露光領域203は、画像中のRGBの輝度が最小値以下、または最大値以上に設定可能な範囲を超えないことが好ましい。最小値以下の場合は露光条件を変更して、露光量を増やす。最大値以上の場合は露光量を減らす。このようにして露光量を変更することで、RGB画素で飽和していない映像データを使用することができるため、適切に評価値を算出することが可能となる。評価値の算出後に明るさ補正を行い変更した露光量を補正する。
本実施形態によれば、ホワイトバランスの評価領域内に露光条件の異なる画素グループが複数混在する場合であっても、好適なホワイトバランス評価値を算出することができるしたがって、ホワイトバランス補正の精度が向上する。
<実施形態2>
本実施形態では、実施形態1とは異なるホワイトバランス評価値の算出方法について説明する。本実施形態では、評価領域における複数の最小露光領域を露光条件によって分類し、分類ごとに重みづけ値を決定する。なお、本実施形態に係る撮像装置100の機能構成については、前述した実施形態1と同一なので説明を省略する。
以下、図6、図7および図8を参照して、本実施形態における画像のホワイトバランス評価値の取得方法について説明する。
図6は本実施形態に係る撮像装置100によって撮像された画像の一例である。画像601において、評価領域602は実施形態1と同様に決定される。評価領域602内には最小露光領域603が複数あり、本実施形態では最小露光領域603の各領域における露光条件が異なる場合について説明する。低ゲイン領域604および高ゲイン領域605は後述するホワイトバランス補正処理内で最小露光領域603を分類することで決定される。
図7は本実施形態におけるホワイトバランス補正処理を示すフローチャートである。本実施形態において、ステップS701、ステップS702、ステップS703、ステップS707およびステップS708は実施形態1と同様であるため、説明は省略する。
ステップS704では、評価領域602内の最小露光領域603を最小露光領域603に対応する画素グループの露光条件によって分類する、本実施形態では露光条件としてゲインを用いて分類しているが、露光時間を用いて分類してもよい。図6は分類後の評価領域602を示しており、低ゲイン領域604は所定の閾値よりも低いゲインである最小露光領域603を示し、高ゲイン領域605は所定の閾値よりも高いゲインである最小露光領域603を示している。この、所定の閾値は画像601内で設定されているアナログゲインのうち、平均値や中央値などを閾値と設定することで、領域を2つに大きく分けることができる。また、画像601内の設定値ではなく、撮像装置100が設定可能なアナログゲインに対して、平均値や中央値でもよく、設計者やユーザーが任意に設定してもよい。なお、本実施形態では所定の閾値を1つとして2つの領域に分類したが、閾値は2以上であってもよく、その場合、最小露光領域603は3つまたはそれ以上に分類される。本実施形態において分類された領域はゲイン領域と呼称する。
ステップS705では、分類されたゲイン領域毎にホワイトバランス評価値1を算出部106が算出する。
ステップS706では、ステップS705で算出されたゲイン領域毎のホワイトバランス評価値1に重みづけをする。重みづけ値は図8のようにゲイン領域毎に決められた重みづけ値を用いてもよいし、各ゲイン領域における各最小露光領域603の露光条件の平均値から決定してもよい。
本実施形態によれば、実施形態1と比べてホワイトバランス評価値1およびその重みづけ値の算出に必要な演算回数が少なく済むため、計算によるメモリの使用量およびCPUの負荷を軽減することができる。
<実施形態3>
本実施形態では、評価領域が複数ある場合について説明する。本実施形態において、抽出部102および領域決定部103によって決定された評価領域が複数存在する場合、評価領域毎にホワイトバランス評価値2を算出する。次に、各評価領域におけるホワイトバランス評価値2に対して再び重みづけし、画像全体のホワイトバランス評価値を算出して補正する。なお、本実施形態に係る撮像装置100の機能構成は実施形態1および実施形態2と同様であるため、説明は省略する。
以下、図9を参照して本実施形態におけるホワイトバランス補正処理について説明する。
図9は、図9は本実施形態に係る撮像装置100によって撮像された画像の一例である。画像901は、ホワイトバランスを補正するための全体の画像である。評価領域902は、画像901のホワイトバランスを補正するための評価値を算出する領域のうちの1つである。最小露光領域903は、領域毎に露光条件を設定できる撮像素子が設定可能な最小の領域である。評価領域904は、902とは別の評価領域であり、画像901のホワイトバランスを補正するための評価値を算出する領域のうちの1つである。最小露光領域905は、領域毎に露光条件を設定できる撮像素子が設定可能な最小の領域である。なお、本実施形態では評価領域が2つ存在する場合について説明するが、3つ以上あってもよい。本実施形態において、ホワイトバランス評価値の計算は評価領域902および評価領域904のそれぞれで計算される。各評価領域におけるホワイトバランス評価値の計算は実施形態1または実施形態2と同様に計算されるため、各領域におけるホワイトバランス評価値の算出処理については説明を省略する。
各評価領域ではホワイトバランス評価値2がそれぞれ算出される。算出されたホワイトバランス評価値が同一である場合は実施形態1または実施形態2と同様に、ホワイトバランス評価値2にしたがって画像全体のホワイトバランスを好適に補正することが可能となる。しかし、2つの評価領域が同一のホワイトバランス評価値となることはまれであり、一般的には異なる。
本実施形態では算出された各評価領域におけるホワイトバランス評価値2が同一でなかった場合について説明する。この場合、各評価領域におけるホワイトバランス評価値2のそれぞれに対して、再び重みづけを行い、画像全体のホワイトバランス評価値を算出する。具体的には、評価領域902および評価領域904に対して、評価領域におけるRGBの輝度の標準偏差が小さいほど重いづけが大きくなるように重みづけ値を決定する。重みづけした後の画像全体のホワイトバランス評価値の算出方法については実施形態1および実施形態2におけるホワイトバランス評価値2の算出と同様であるため省略する。
本実施形態によれば、評価領域が2つ以上存在する場合には、輝度がより均一な評価領域の重みづけを大きくすることによって、精度の高いホワイトバランス評価値を算出することができる。
<その他の実施形態>
本発明は、上述の実施形態1、実施形態2および実施形態3の1以上の機能を実現するプログラムを読み出し実行する処理によって実現可能である。このプログラムは、ネットワークまたは記憶媒体を介してシステム又は装置に供給され、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサによって読み出され、実行される。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 撮像装置
101 撮像部
101a レンズ群
101b 撮像素子
101c 増幅器
102 抽出部
103 領域決定部
104 露出制御部
105 算出部
106 補正部
107 通信部

Claims (22)

  1. 被写体の像を撮像して画像を生成する撮像部と、
    前記撮像部の撮像面の画素または画素グループ毎にゲインまたは露光時間を制御する露出制御部と、
    前記画像から無彩色の領域を抽出する抽出部と、
    前記抽出部によって抽出された領域に基づいて決定された評価領域に含まれる前記画素または画素グループ毎に第一の評価値を算出する第一の算出部と、
    前記画素または画素グループ毎の前記露出制御部が制御したゲインに基づいてそれぞれ重みづけされた前記第一の評価値から、前記評価領域における第二の評価値を算出する第二の算出部と、
    前記第二の算出部が算出した第二の評価値に基づいて、前記画像を補正する補正部と、
    を有することを特徴とする撮像装置。
  2. 前記抽出部によって抽出された領域内の画素または画素グループを含むように前記評価領域を決定する領域決定部をさらに有する請求項1に記載の撮像装置。
  3. 前記評価領域は、動く被写体を含まないことを特徴とする請求項1または2に記載の撮像装置。
  4. 前記第一の評価値と前記第二の評価値とは、ホワイトバランス、色相、彩度のうちいずれかの評価値であることを特徴とする請求項1乃至3のいずれか一項に記載の撮像装置。
  5. 前記露出制御部は、前記評価領域における画素または画素グループの露光時間が前記評価領域以外の領域における画素または画素グループの露光時間よりも長秒となるように制御することを特徴とする請求項1乃至4のいずれか一項に記載の撮像装置。
  6. 前記露出制御部は、前記評価領域における画素グループのアナログゲインが前記評価領域以外の領域における画素または画素グループのアナログゲインよりも低くなるように制御することを特徴とする請求項1乃至5のいずれか一項に記載の撮像装置。
  7. 前記補正部は、前記画像に含まれる複数の色信号のデジタルゲインを制御することで前記画像のホワイトバランスを補正することを特徴とする請求項1乃至6のいずれか一項に記載の撮像装置。
  8. 前記第二の算出部は、複数の前記第一の評価値を加重平均することによって算出することを特徴とする請求項1乃至7のいずれか一項に記載の撮像装置。
  9. 前記評価領域における前記画素または前記画素グループを前記ゲインの閾値に基づいて複数の領域に分類し、前記分類された領域毎に前記第一の評価値に重みづけをすることを特徴とする請求項1乃至8のいずれか一項に記載の撮像装置。
  10. 前記第二の算出部は、前記評価領域が複数あった場合に、前記評価領域における前記第二の評価値をそれぞれ算出し、前記評価領域における輝度の標準偏差に基づいて重みづけされた前記第二の評価値を加重平均することで算出することを特徴とする請求項1乃至9のいずれか一項に記載の撮像装置。
  11. 被写体の像を撮像して画像を生成する撮像ステップと、
    前記撮像ステップにおける、画素または画素グループ毎のゲインまたは露光時間を制御する露出制御ステップと、
    前記画像から無彩色の領域を抽出する抽出ステップと、
    前記抽出ステップにおいて抽出された領域に基づいて決定された評価領域に含まれる前記画素または前記画素グループ毎に第一の評価値を算出する第一の算出ステップと、
    前記露出制御ステップで制御された前記画素または画素グループ毎のゲインに基づいてそれぞれ重みづけされた前記第一の評価値から、前記評価領域における第二の評価値を算出する第二の算出ステップと、
    前記第二の算出ステップで算出した第二の評価値に基づいて、前記画像を補正する補正ステップと、
    を有することを特徴とする撮像装置の制御方法。
  12. 前記抽出ステップで抽出された領域内の画素または前記画素グループを含むように前記評価領域を決定する領域決定ステップをさらに有する請求項11に記載の撮像装置の制御方法。
  13. 前記評価領域は、動く被写体を含まないことを特徴とする請求項11または12に記載の撮像装置の制御方法。
  14. 前記第一の評価値と前記第二の評価値は、ホワイトバランス、色相、彩度のうちいずれかの評価値であることを特徴とする請求項11乃至13のいずれか一項に記載の撮像装置の制御方法。
  15. 前記露出制御ステップでは、前記評価領域における画素または画素グループの露光時間が前記評価領域以外の画素または画素グループの露光時間よりも長秒となるように制御することを特徴とする請求項11乃至14のいずれか一項に記載の撮像装置の制御方法。
  16. 前記露出制御ステップでは、前記評価領域における画素または画素グループのアナログゲインが前記評価領域以外の領域における画素または画素グループにおけるアナログゲインよりも低くなるように制御することを特徴とする請求項11乃至15のいずれか1項に記載の撮像装置の制御方法。
  17. 前記補正ステップでは、前記画像に含まれる複数の色信号のデジタルゲインを制御することで前記画像のホワイトバランスを補正することを特徴とする請求項11乃至16のいずれか一項に記載の撮像装置の制御方法。
  18. 前記第二の算出ステップでは、複数の前記第一の評価値を加重平均することによって算出することを特徴とする請求項11乃至17のいずれか一項に記載の撮像装置の制御方法。
  19. 前記評価領域における前記画素または前記画素グループを、前記ゲインの閾値に基づいて複数の領域に分類し、前記分類された領域毎に前記第一の評価値に重みづけすることを特徴とする請求項11乃至18のいずれか一項に記載の撮像装置の制御方法。
  20. 前記第二の算出ステップでは、前記評価領域が複数あった場合に、前記評価領域における前記第二の評価値をそれぞれ算出し、前記評価領域における輝度の標準偏差に基づいて重みづけされた前記第二の評価値の加重平均を算出することを特徴とする請求項11乃至19のいずれか1項に記載の撮像装置の制御方法。
  21. 請求項11乃至20のいずれか1項に記載の撮像装置の制御方法をコンピュータに実行させるためのプログラム。
  22. 請求項11乃至20のいずれか1項に記載の撮像装置の制御方法をコンピュータに実行させるためのプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
JP2021094252A 2021-06-04 2021-06-04 撮像装置、その制御方法、プログラムおよび記憶媒体 Pending JP2022186166A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021094252A JP2022186166A (ja) 2021-06-04 2021-06-04 撮像装置、その制御方法、プログラムおよび記憶媒体
US17/828,695 US11825210B2 (en) 2021-06-04 2022-05-31 Apparatus, control method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021094252A JP2022186166A (ja) 2021-06-04 2021-06-04 撮像装置、その制御方法、プログラムおよび記憶媒体

Publications (1)

Publication Number Publication Date
JP2022186166A true JP2022186166A (ja) 2022-12-15

Family

ID=84285524

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021094252A Pending JP2022186166A (ja) 2021-06-04 2021-06-04 撮像装置、その制御方法、プログラムおよび記憶媒体

Country Status (2)

Country Link
US (1) US11825210B2 (ja)
JP (1) JP2022186166A (ja)

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000295632A (ja) 2000-01-01 2000-10-20 Canon Inc 撮像装置
JP4067775B2 (ja) * 2001-03-09 2008-03-26 株式会社リコー ホワイトバランス調整装置
US7236190B2 (en) * 2002-10-31 2007-06-26 Freescale Semiconductor, Inc. Digital image processing using white balance and gamma correction
JP4304628B2 (ja) * 2006-01-31 2009-07-29 ソニー株式会社 撮像装置、撮像装置の制御方法、撮像装置の制御方法のプログラム、撮像装置の制御方法のプログラムを記録した記録媒体
CN105611265B (zh) * 2016-02-16 2017-08-04 上海斐讯数据通信技术有限公司 一种白平衡调节装置及方法
JP7285778B2 (ja) * 2016-12-23 2023-06-02 マジック リープ, インコーポレイテッド コンテンツ捕捉デバイスのための設定を決定するための技法
CN108377372B (zh) * 2018-03-13 2019-10-29 普联技术有限公司 一种白平衡处理方法、装置、终端设备和存储介质
US11445127B2 (en) * 2020-06-15 2022-09-13 Samsung Electronics Co., Ltd. Leveraging HDR sensors for handling mixed illumination auto white balance

Also Published As

Publication number Publication date
US20220394224A1 (en) 2022-12-08
US11825210B2 (en) 2023-11-21

Similar Documents

Publication Publication Date Title
JP5398156B2 (ja) ホワイトバランス制御装置およびその制御方法並びに撮像装置
JP4154847B2 (ja) 画像処理装置、画像処理方法および画像処理プログラムを記録したコンピュータ読取可能な記録媒体
EP2426928B1 (en) Image processing apparatus, image processing method and program
JP2000228747A (ja) 画像処理装置
JP2004088149A (ja) 撮像システムおよび画像処理プログラム
WO2005041560A1 (ja) 信号処理システム、信号処理方法、信号処理プログラム
JP5901667B2 (ja) 画像処理装置及び方法、画像処理プログラム、撮像装置
JP2006324840A (ja) 画像処理装置及びホワイトバランス調整装置
US11272095B2 (en) Detection apparatus for detecting portion satisfying predetermined condition from image, image processing apparatus for applying predetermined image processing on image, detection method, and image processing method
US20040119859A1 (en) Circuit and method for contour enhancement
JP2017130836A (ja) 画像処理装置、画像処理方法、およびプログラム
JP2022186166A (ja) 撮像装置、その制御方法、プログラムおよび記憶媒体
JP6570311B2 (ja) 画像処理装置及び画像処理方法
JP4335727B2 (ja) 顔抽出を行うディジタルカメラ
JP2929983B2 (ja) カラー画像処理装置
US11696044B2 (en) Image capturing apparatus, control method, and storage medium
CN110166716B (zh) 图像处理设备和图像处理方法
JP7263018B2 (ja) 画像処理装置、画像処理方法およびプログラム
US11153467B2 (en) Image processing
CN113259634B (zh) 光源信息预测模型建立方法与系统
JP2000078437A (ja) 映像信号処理装置
JP6366432B2 (ja) 画像処理装置およびその制御方法ならびにプログラム
JP2009004893A (ja) 画像処理装置およびこれを備える撮像システム
KR101645542B1 (ko) 노출 융합 장치 및 방법, 그리고 그를 이용한 이미지 처리 장치
JP3943895B2 (ja) 画像処理装置、画像処理システム、及び画像処理制御方法

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213