JP2017046072A - 画像処理装置及び画像処理方法、プログラム、記憶媒体 - Google Patents

画像処理装置及び画像処理方法、プログラム、記憶媒体 Download PDF

Info

Publication number
JP2017046072A
JP2017046072A JP2015165151A JP2015165151A JP2017046072A JP 2017046072 A JP2017046072 A JP 2017046072A JP 2015165151 A JP2015165151 A JP 2015165151A JP 2015165151 A JP2015165151 A JP 2015165151A JP 2017046072 A JP2017046072 A JP 2017046072A
Authority
JP
Japan
Prior art keywords
area
luminance
subject
main subject
gradation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015165151A
Other languages
English (en)
Other versions
JP6562770B2 (ja
Inventor
小林 悟
Satoru Kobayashi
悟 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015165151A priority Critical patent/JP6562770B2/ja
Priority to US15/240,136 priority patent/US10108878B2/en
Publication of JP2017046072A publication Critical patent/JP2017046072A/ja
Application granted granted Critical
Publication of JP6562770B2 publication Critical patent/JP6562770B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T5/92
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration by the use of histogram techniques
    • G06T5/94
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation

Abstract

【課題】撮影画像中における主被写体領域の階調を改善しつつ、主被写体領域以外の領域の階調も可能な限り損なうことがないように階調を制御する。
【解決手段】入力された画像において、複数の被写体領域を検出する被写体領域検出部と、被写体領域において、主被写体領域を検出する主被写体領域検出部と、被写体領域毎に、主被写体領域に重み付けをして、それぞれの被写体領域についてそれぞれ1つの代表輝度値を算出する代表輝度値算出部と、被写体領域毎に、主被写体領域に重み付けをして、被写体領域内の輝度分布を算出する輝度分布算出部と、代表輝度値算出部により算出された被写体領域の代表輝度値と、輝度分布算出部により算出された被写体領域内の輝度分布とに基づいて、入力された画像の階調を制御するための階調特性を決定する階調特性決定部と、階調特性決定部により決定された階調特性を用いて入力された画像の階調を補正する階調補正部とを備える。
【選択図】 図3

Description

本発明は、画像処理装置に関し、特に画像内の被写体領域毎に最適な階調制御を行うための画像処理技術に関する。
従来から、撮影被写体に対して撮像素子のダイナミックレンジが不足していることにより、撮影した画像の一部で白飛びや黒潰れが発生することが知られている。例えば、晴天屋外の逆光シーンで人物を撮影する場合、人物に対して空の輝度が非常に大きいため、人物を適正とする露出条件では、空は全体的に白飛びし、空を適正とする露出条件では、人物が黒潰れしてしまう。
このような逆光シーンに対し、白飛びや黒潰れが起こらないように階調を制御する技術が特許文献1に開示されている。特許文献1では、顔領域を検出し、顔領域とその周囲領域の明るさに基づき、顔の明るさや階調を制御することにより、白飛びや黒潰れを抑制している。
特開2009−71768号公報
しかしながら、上述したように、特許文献1に開示されている技術は、顔領域に特化した階調制御方法であるため、顔以外の被写体(例えば、花、動物、オブジェ)の白飛びや黒潰れは抑制することはできない。
本発明は、上述した課題に鑑みてなされたものであり、その目的は、撮影画像中における主被写体領域の階調を改善しつつ、主被写体領域以外の領域の階調も可能な限り損なうことがないように階調を制御することである。
本発明に係わる画像処理装置は、入力された画像において、複数の被写体領域を検出する被写体領域検出手段と、前記被写体領域において、主被写体領域を検出する主被写体領域検出手段と、前記被写体領域毎に、前記主被写体領域に重み付けをして、それぞれの被写体領域についてそれぞれ1つの代表輝度値を算出する代表輝度値算出手段と、前記被写体領域毎に、前記主被写体領域に重み付けをして、前記被写体領域内の輝度分布を算出する輝度分布算出手段と、前記代表輝度値算出手段により算出された前記被写体領域の代表輝度値と、前記輝度分布算出手段により算出された前記被写体領域内の輝度分布とに基づいて、前記入力された画像の階調を制御するための階調特性を決定する階調特性決定手段と、前記階調特性決定手段により決定された階調特性を用いて前記入力された画像の階調を補正する階調補正手段と、を備えることを特徴とする。
本発明によれば、撮影画像中における主被写体領域の階調を改善しつつ、主被写体領域以外の領域の階調も可能な限り損なうことがないように階調を制御することができる。
本発明の画像処理装置を撮像装置に適用した一実施形態のブロック図。 画像処理部における階調制御処理を行う部分の構成を示す図。 画像処理部で行われる階調補正処理の動作を示すフローチャート。 被写体領域の検出方法を示す図。 主被写体領域の検出方法を示す図。 主被写体重み係数を示す図。 重み付き輝度ヒストグラムを示す図。 階調特性を示す図。
以下、本発明の一実施形態について、添付図面を参照して詳細に説明する。図1は、本発明の階調制御を行う画像処理装置を撮像装置に適用した一実施形態の構成を示すブロック図である。本実施形態における撮像装置100は、撮像した画像データ内において主被写体領域を検出し、主被写体領域に重みを付けた階調制御を行う。以下、本実施形態について図1を参照して説明する。
図1において、レンズ群101はズームレンズ、フォーカスレンズを含む。シャッター102は絞り機能を備える。撮像部103は光学像を電気信号に変換するCCDやCMOSセンサ等の撮像素子を備える。A/D変換器104は撮像部103が出力するアナログ信号をデジタル信号に変換する。AFセンサ105はAF制御のために光学像を電気信号に変換するCCDやCMOSセンサ等で構成される。AF用A/D変換器106はAFセンサ105が出力するアナログ信号をデジタル信号に変換する。画像処理部107はA/D変換器104から出力される画像データに対し、ホワイトバランス処理や、階調補正処理などの各種画像処理を施す。画像メモリ108は、メモリ制御部109により制御される。D/A変換器110は入力されたデジタル信号をアナログ信号に変換し、LCD等の表示部111に表示させる。コーデック部112は画像データを圧縮符号化及び復号化する。
記録媒体113は、画像データを記録するメモリカードやハードディスク等からなる。記録I/F114は、記録媒体113とのインタフェースである。システム制御部50は撮像装置100のシステム全体を制御する。操作部120はユーザーからの各種操作指示を入力するための操作部材を有する。電源スイッチ121は、システム制御部50に電源のON/OFF信号を入力し、電源部122はシステム制御部50により制御される。不揮発性メモリ123は電気的に消去・記録可能なメモリであり、例えばEEPROM等が用いられる。システムタイマ124は各種制御に用いる時間や、内蔵された時計の時間を計測する。システムメモリ125はシステム制御部50の動作用の定数、変数、不揮発性メモリ123から読みだしたプログラム等を展開するために用いられる。
次に、上記のように構成された撮像装置100における撮影時の基本的な処理の流れについて説明する。
撮像部103は、レンズ101及びシャッター102を介して入射した光を光電変換し、アナログ画像信号をA/D変換器104へ出力する。A/D変換器104は撮像部103から出力されるアナログ画像信号をデジタル画像信号に変換し画像処理部107に出力する。AFセンサ105は、レンズ101及びシャッター102を介して入射した光を複数の対となるラインセンサで受光し、AF用A/D変換器106へ出力する。AF用A/D変換器106はAFセンサ105から出力されるアナログ信号をデジタル信号に変換し、システム制御部50に出力する。システム制御部50は、一対のラインセンサが出力した像信号に基づいて、被写体像の光束分割方向における相対的位置ずれ量を検出し、いわゆる位相差AF制御を行う。
画像処理部107は、A/D変換器104からの画像データ、又は、メモリ制御部109から読み出した画像データに対し、ホワイトバランス処理や、階調補正処理などの各種画像処理を行う。なお、階調補正処理の詳細については後述する。画像処理部107から出力された画像データは、メモリ制御部109を介して画像メモリ108に書き込まれる。また、画像処理部107では、撮像部103が撮像した画像データを用いて所定の演算処理を行い、得られた演算結果に基づいてシステム制御部50が露光制御、焦点調節制御を行う。これにより、AE(自動露出)処理、AF(オートフォーカス)処理などを行う。
画像メモリ108は、撮像部103から出力された画像データや、表示部111に表示するための画像データを格納する。また、D/A変換器110は、画像メモリ108に格納されている画像表示用のデータをアナログ信号に変換して表示部111に供給する。表示部111は、LCD等の表示器上に、D/A変換器110からのアナログ信号に応じた表示を行う。コーデック部112は、画像メモリ108に記録された画像データをJPEGやMPEGなどの規格に基づき圧縮符号化する。
上記の基本動作以外に、システム制御部50は、前述した不揮発性メモリ123に記録されたプログラムを実行することで、後述する本実施形態の各処理を実行する。ここでいうプログラムとは、本実施形態において後述する各種フローチャートを実行するためのプログラムのことである。この際、システム制御部50の動作用の定数、変数、不揮発性メモリ123から読み出したプログラム等をシステムメモリ125に展開する。以上、撮像装置100の構成と、基本動作について説明した。
次に、画像処理部107について詳しく説明する。まず、画像処理部107のうち、階調補正処理を行う部分の構成について、図2を参照して説明する。
画像処理部107は、階調補正処理を行う構成として、被写体領域検出部201、主被写体領域検出部202、主被写体重み係数算出部203を有する。また、これらの後段に、重み付き代表輝度値算出部204、被写体領域ゲイン算出部205、重み付き輝度ヒストグラム算出部206、被写体領域輝度区間算出部207、階調特性決定部208及び階調補正処理部209を有する。
次に、画像処理部107で行われる階調補正処理の動作について、図3のフローチャートを参照して説明する。
まず、階調補正処理が開始されると、被写体領域検出部201は、ステップS301において、入力画像から特定の被写体領域を検出する。本実施形態では、例えば、空領域を検出する。空領域の検出方法は、輝度値や色情報、エッジ情報等を用いた既存の技術により検出するものとし、詳細な説明は省略する。
図4に被写体領域の検出の例を示す。図4(a)は入力画像を示す。図4(b)は、空領域の検出結果であり、白い領域が検出した空領域を示す。図4(c)は、背景領域の検出結果であり、白い領域が検出した背景領域を示す。被写体領域検出部201は、図4(a)のような入力画像に対し、既存の技術により空領域を検出し、図4(b)のような空領域情報を出力する。また、被写体領域検出部201は、空領域以外の領域を背景領域と定義し、図4(c)のような背景領域情報を出力する。
以下では、被写体領域検出部201が2つの領域情報を出力する例について説明するが、被写体領域の検出数は2つに限ったものではない。例えば、空以外にも森や建物といった被写体も検出し、3つ以上の被写体領域としてもよい。
ステップS302において、主被写体領域検出部202は、入力画像の被写体の中から主要な被写体である主被写体を検出する。主被写体の検出方法について、図5を参照して説明する。
図5(a)は、主被写体領域を検出するための内側領域501及び周囲領域502の例を示した図であり、図5(b)は、検出した主被写体度合いである視覚的顕著度を示した図である。なお、図5(b)は、白いほど主被写体度合いが大きいことを示している。
主被写体領域検出部202は、内側領域501及び周囲領域502を画面全体において移動させ、複数の位置において内側領域501のヒストグラムと周囲領域502のヒストグラムの比較を行う。内側領域501のヒストグラムと周囲領域502のヒストグラムの違いが大きい場合は、目立ち易い領域と判定し、大きい視覚的顕著度を算出する。逆に、内側領域501のヒストグラムと周囲領域502のヒストグラムの違いが小さい場合は、目立ち難い領域と判定し、小さい視覚的顕著度を算出する。
図4(a)の向日葵シーンの例では、図5(a)のように内側領域が向日葵周辺に位置する場合は、内側領域501のヒストグラムと周囲領域502のヒストグラムの違いが大きいため、視覚的顕著度は大きい値を示す。一方、内側領域が向日葵周辺以外(例えば、空)に位置する場合は、内側領域501のヒストグラムと周囲領域502のヒストグラムの違いが小さいため、視覚的顕著度は小さい値を示す。主被写体領域検出部202は、以上のように算出した視覚的顕著度が大きい領域を主被写体領域として出力する。
なお、主被写体領域の検出方法は、視覚的顕著度に基づく方法に限ったものではない。例えば、合焦領域、追尾被写体領域、画面中心のサイズの大きい類似色領域、操作部120を通じユーザーが指定した領域としてもよい。
ステップS303において、主被写体重み係数算出部203は、被写体領域毎に主被写体領域の重み係数を算出する。主被写体重み係数の算出方法について、図4、図5及び図6を参照して説明する。
まず、空領域の主被写体重み係数の算出について説明する。主被写体重み係数算出部203は、被写体領域検出部201が検出した図4(b)の空領域情報と主被写体領域検出部202が検出した図5(b)の主被写体領域情報に基づき、被写体領域内をそれぞれブロック分割し、図6(a)のような主被写体の重み係数を算出する。本実施形態の例では、空領域には主被写体領域が存在しないため、空領域の各ブロックの主被写体重み係数は、一律同値(重み係数1)となる。つまり、空領域内における重み付けは行わない。
次に、背景領域の主被写体重み係数の算出について説明する。主被写体重み係数算出部203は、被写体領域検出部201が検出した図4(c)の背景領域情報と主被写体領域検出部202が検出した図5(b)の主被写体領域情報に基づき、被写体領域内をそれぞれブロック分割し、図6(b)のような主被写体の重み係数を算出する。本実施形態の例では、背景領域には主被写体領域が存在するため、図6(b)のように、背景領域のうち、主被写体が存在する領域の重み係数を高くする。このように、主被写体重み係数算出部203は、被写体領域と重複する主被写体領域の重み係数を高くするように、主被写体重み係数を算出する。
なお、図6(b)のように、主被写体領域の境界付近は、主被写体重み係数を小さくしてもよい。これは、検出した主被写体領域が実際の被写体領域よりも大きかった場合の影響度を低減するためである。また、主被写体領域が、空領域及び背景領域の両方に存在する場合は、空領域及び背景領域のそれぞれにおいて、主被写体領域の重み係数を高くする。
また、主被写体度合いに応じて、主被写体重み係数を変更しても良い。具体的には、以下の式(1)により主被写体重み係数(重み付けの程度)を算出する。
主被写体重み係数=α×主被写体度合い+基準重み係数 …(1)
ここで、αは、主被写体度合いに掛ける固定係数である。基準重み係数は、重み係数の基準となる値であり、図6の例では基準重み係数は1である。式(1)に従えば、主被写体度合いが大きい領域については、主被写体重み係数が大きくなる。
ステップS304において、重み付き代表輝度値算出部204は、被写体領域毎の主被写体重み係数に基づき、被写体領域毎に重み付き代表輝度値を算出する。重み付き代表輝度値の算出方法について、図6を参照して説明する。まず、重み付き代表輝度値算出部204は、入力画像をブロック分割し、ブロック毎に輝度積分値を算出する。ブロック分割したブロックサイズは、主被写体重み係数を算出したブロックサイズと整合させるものとする。次に、重み付き代表輝度値算出部204は、ブロック毎に算出した輝度積分値を主被写体重み係数に基づき重み付き平均し、これを重み付き代表輝度値として出力する。重み付き代表輝度値算出部204は、被写体領域毎に1つの重み付き代表輝度値を算出する。これにより、主被写体領域の平均輝度値に寄った重み付き代表輝度値を被写体領域毎に算出することができる。本実施形態の例では、図6(b)の背景領域の主被写体重み係数の場合について、主被写体領域の平均輝度値寄りの重み付き代表輝度値を算出する。
ステップS305において、被写体領域ゲイン算出部205は、被写体領域毎に重み付き代表輝度値が所定輝度値になるようなゲインを算出する。所定輝度値は、被写体領域の明るさを適正値に補正する目標値である。具体的には、背景領域の重み付き代表輝度値が500であり、背景領域の明るさの適正値である所定輝度値が1000であった場合は、ゲインを2倍と算出する。
ステップS306において、重み付き輝度ヒストグラム算出部206は、被写体領域毎の主被写体重み係数に基づき、被写体領域毎に重み付き輝度ヒストグラムを算出する(輝度分布算出)。重み付き輝度ヒストグラムの算出方法について、図6及び図7を参照して説明する。図7は、被写体領域毎の重み付き輝度ヒストグラムを示した図である。
重み付き輝度ヒストグラム算出部206は、図6(a)及び図6(b)の主被写体重み係数に基づき、被写体領域毎に1つの輝度ヒストグラムを算出する。本実施形態における重み付け輝度ヒストグラムとは、主被写体重み係数に基づきヒストグラムのカウント値を調整するヒストグラムである。例えば、主被写体重み係数が「4」の場合、その主被写体重み係数を示す領域のカウント値を4倍してヒストグラムを取得する。例えば、主被写体領域の輝度値が、図7のビン701、ビン702、ビン703に分布していたとすると、その主被写体領域のカウント値は、主被写体重み係数倍してカウントアップするため、重みを付けない場合に比べ、カウント値が大きくなる。
ステップS307において、被写体領域輝度区間算出部207は、被写体領域毎の重み付き輝度ヒストグラムに基づき、被写体領域毎に輝度区間を算出する。被写体領域毎の輝度区間とは、被写体領域毎に算出したゲインを適用する輝度区間を示す情報である。被写体領域毎の輝度区間について、図7を参照して説明する。
被写体領域輝度区間算出部207は、まず、重み付き輝度ヒストグラムのカウント値を低輝度側、若しくは、高輝度側から累積加算し、累積加算値(累積輝度分布)が総カウント値(総累積数)の所定割合になる輝度ビン値を算出する。そして、累積加算を開始した低輝度側、若しくは、高輝度側から所定割合になる輝度ビン値までを輝度区間とする。累積加算を開始する輝度側は、被写体領域の平均輝度に基づき決定する。例えば、背景領域と空領域の平均輝度を比較し、背景領域の平均輝度の方が小さい場合は、背景領域は低輝度側から累積加算を行い、空領域は高輝度側から累積加算を行う。図7には低輝度側から累積加算する例を示しており、低輝度側から輝度ビン703までのカウント値を累積加算した際に総カウント値の所定割合以上になるため、輝度区間は、低輝度側から輝度ビン703までの区間となる。
ステップS308において、階調特性決定部208は、被写体領域毎のゲイン値と輝度区間に基づき、階調特性を決定する。階調特性の決定方法について、図8を参照して説明する。図8は、背景領域の方が空領域よりも暗い場合の階調特性の例を示した図である。
まず、区間Iの背景領域の階調特性について説明する。階調特性決定部208は、背景領域のゲイン値に応じて、背景領域の輝度区間における階調特性の傾きを決定する。つまり、背景領域の輝度区間における階調特性は、背景領域のゲイン値を傾きとし、原点を通る直線となる。
次に、区間IIIの空領域の階調特性について説明する。階調特性決定部208は、空領域のゲイン値に応じて、空領域の輝度区間における階調特性の傾きを決定する。つまり、空領域の輝度区間における階調特性は、空領域のゲイン値を傾きとし、出力最大値を通る直線となる。
背景領域の輝度区間と空領域の輝度区間が重複しない場合は、背景領域及び空領域の階調特性の直線が交差しないので、区間Iと区間IIIの階調特性の直線を繋ぐ区間IIの階調特性を設ける。以上のように、階調特性決定部208は、被写体領域毎のゲインと輝度区間に基づき、階調特性を決定する。
ステップS309において、階調補正処理部209は、ステップS308で得られた階調特性に基づき、入力画像の階調を補正する。具体的には、階調特性を入力信号に対する出力信号のゲインに変換し、入力画像の画素値に乗算する。このように階調特性を決定し、階調補正を行うことにより、主被写体領域の階調を改善し、且つ、主被写体領域以外の領域の階調を保持し易くすることができる。
例えば、図4(a)の入力画像では、背景領域に属する主被写体領域である向日葵は、向日葵以外の背景領域よりも暗い。そのため、本実施形態の階調制御を用いると、主被写体重み係数を用いない場合に比べ、背景領域のゲインは高くなり、輝度区間は、原点からより低輝度側までの区間となり狭くなる。このようにゲインと輝度区間を制御することにより、区間IIの中輝度領域の階調を損なわずに保持し易くすることが可能となる。
なお、被写体領域ゲイン算出部205は、被写体領域毎の面積比に応じて、被写体領域毎のゲインを調整しても良い。例えば、図4の例のように、背景領域の面積が、空領域の面積よりも大きい場合は、背景領域のゲインを大きくなるよう調整し、逆に、空領域のゲインを小さくなるように調整する。
さらに、被写体領域ゲイン算出部205は、主被写体重み係数を掛けた重み付き面積比に応じてゲインを調整しても良い。具体的には、図6(b)のような主被写体重み係数の場合、背景領域の面積は、主被写体重み係数倍して算出する(面積算出)。これにより、背景領域の面積はより大きくなるため、被写体領域ゲイン算出部205は、背景領域のゲインをさらに大きくなるよう調整し、空領域のゲインをさらに小さくなるよう調整する。
なお、主被写体重み係数は、主被写体領域と主被写体領域を除く被写体領域の平均輝度差に応じて調整しても良い。具体的には、まず、主被写体領域の平均輝度と主被写体領域を除く被写体領域(例えば、図6(b)の重み係数が1の領域)の平均輝度の差を算出する(平均輝度算出)。平均輝度差が大きいほど、主被写体重み係数を小さな値とする。例えば、図6(b)では、重み係数4であった重み係数を2にする。主被写体には、反射率が高い被写体や低い被写体が存在し、画像だけでは主被写体の反射率の違いが判別できず、黒い被写体なのか暗い被写体なのか分からない。そのため、黒い被写体の明るさを極端に明るくしないように、主被写体重み係数を小さくする。これにより、ゲインは小さくなり黒い被写体の明るさは極端に明るくならなくなる。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100:撮像装置、101:レンズ、102:シャッター、103:撮像部、107:画像処理部、201:被写体領域検出部、202:主被写体領域検出部、203:主被写体重み係数算出部、204:重み付き代表輝度値算出部、205:被写体領域ゲイン算出部、206:重み付き輝度ヒストグラム算出部、207:被写体領域輝度区間算出部

Claims (14)

  1. 入力された画像において、複数の被写体領域を検出する被写体領域検出手段と、
    前記被写体領域において、主被写体領域を検出する主被写体領域検出手段と、
    前記被写体領域毎に、前記主被写体領域に重み付けをして、それぞれの被写体領域についてそれぞれ1つの代表輝度値を算出する代表輝度値算出手段と、
    前記被写体領域毎に、前記主被写体領域に重み付けをして、前記被写体領域内の輝度分布を算出する輝度分布算出手段と、
    前記代表輝度値算出手段により算出された前記被写体領域の代表輝度値と、前記輝度分布算出手段により算出された前記被写体領域内の輝度分布とに基づいて、前記入力された画像の階調を制御するための階調特性を決定する階調特性決定手段と、
    前記階調特性決定手段により決定された階調特性を用いて前記入力された画像の階調を補正する階調補正手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記被写体領域毎に画像信号のゲインを算出するゲイン算出手段をさらに備え、前記ゲイン算出手段は、前記被写体領域毎に前記代表輝度値が所定輝度値となるようにゲインを算出することを特徴とする請求項1に記載の画像処理装置。
  3. 前記被写体領域毎に、前記主被写体領域に重み付けをして、前記被写体領域の面積を算出する面積算出手段をさらに備え、前記ゲイン算出手段は、前記面積算出手段により算出された前記被写体領域毎の面積の大きさに基づいて、前記ゲインを調整することを特徴とする請求項2に記載の画像処理装置。
  4. 前記被写体領域内の輝度分布に基づき、前記ゲインを適用する輝度区間を算出する輝度区間算出手段をさらに備え、前記輝度区間算出手段は、前記被写体領域毎に、輝度分布のヒストグラムにおける低輝度側または高輝度側からの累積輝度分布が前記ヒストグラムの輝度分布の総累積数の所定割合になった輝度値に基づき、前記輝度区間を算出することを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
  5. 前記階調特性決定手段は、前記被写体領域毎に算出した前記ゲインと前記輝度区間とに基づいて、前記階調特性を決定することを特徴とする請求項4に記載の画像処理装置。
  6. 前記代表輝度値算出手段と前記輝度分布算出手段は、前記主被写体領域の主被写体度合いに基づいて前記重み付けの程度を変更することを特徴とする請求項1に記載の画像処理装置。
  7. 前記主被写体領域の平均輝度を算出する第1の平均輝度算出手段と、前記被写体領域における前記主被写体領域を除いた領域の平均輝度を算出する第2の平均輝度算出手段とをさらに備え、前記代表輝度値算出手段と前記輝度分布算出手段は、前記主被写体領域の平均輝度と前記主被写体領域を除いた領域の平均輝度の違いに応じて前記重み付けの程度を変更することを特徴とする請求項1に記載の画像処理装置。
  8. 前記代表輝度値算出手段と前記輝度分布算出手段は、前記主被写体領域の平均輝度と前記主被写体を除いた領域の平均輝度の違いが大きい場合は、前記主被写体領域に対する重み付けを小さくすることを特徴とする請求項7に記載の画像処理装置。
  9. 前記代表輝度値算出手段と前記輝度分布算出手段は、前記主被写体領域の境界付近の重み付けを小さくすることを特徴とする請求項1に記載の画像処理装置。
  10. 前記被写体領域検出手段は、特定の被写体領域を検出することを特徴とする請求項1乃至9のいずれか1項に記載の画像処理装置。
  11. 前記主被写体領域検出手段は、複数の被写体のうち、主要な被写体を検出することを特徴とする請求項1乃至10のいずれか1項に記載の画像処理装置。
  12. 入力された画像において、複数の被写体領域を検出する被写体領域検出工程と、
    前記被写体領域において、主被写体領域を検出する主被写体領域検出工程と、
    前記被写体領域毎に、前記主被写体領域に重み付けをして、それぞれの被写体領域についてそれぞれ1つの代表輝度値を算出する代表輝度値算出工程と、
    前記被写体領域毎に、前記主被写体領域に重み付けをして、前記被写体領域内の輝度分布を算出する輝度分布算出工程と、
    前記代表輝度値算出工程において算出された前記被写体領域の代表輝度値と、前記輝度分布算出工程において算出された前記被写体領域内の輝度分布とに基づいて、前記入力された画像の階調を制御するための階調特性を決定する階調特性決定工程と、
    前記階調特性決定工程において決定された階調特性を用いて前記入力された画像の階調を補正する階調補正工程と、
    を備えることを特徴とする画像処理方法。
  13. 請求項12に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラム。
  14. 請求項12に記載の画像処理方法の各工程をコンピュータに実行させるためのプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
JP2015165151A 2015-08-24 2015-08-24 画像処理装置及び画像処理方法、プログラム、記憶媒体 Active JP6562770B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015165151A JP6562770B2 (ja) 2015-08-24 2015-08-24 画像処理装置及び画像処理方法、プログラム、記憶媒体
US15/240,136 US10108878B2 (en) 2015-08-24 2016-08-18 Image processing apparatus, image processing method, and storage medium for tone control of each object region in an image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015165151A JP6562770B2 (ja) 2015-08-24 2015-08-24 画像処理装置及び画像処理方法、プログラム、記憶媒体

Publications (2)

Publication Number Publication Date
JP2017046072A true JP2017046072A (ja) 2017-03-02
JP6562770B2 JP6562770B2 (ja) 2019-08-21

Family

ID=58096343

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015165151A Active JP6562770B2 (ja) 2015-08-24 2015-08-24 画像処理装置及び画像処理方法、プログラム、記憶媒体

Country Status (2)

Country Link
US (1) US10108878B2 (ja)
JP (1) JP6562770B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2018225360A1 (ja) * 2017-06-08 2020-03-19 富士フイルム株式会社 撮像装置、撮像装置の制御方法、及び撮像装置の制御プログラム

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7285778B2 (ja) * 2016-12-23 2023-06-02 マジック リープ, インコーポレイテッド コンテンツ捕捉デバイスのための設定を決定するための技法
US11503204B2 (en) 2019-12-19 2022-11-15 Magic Leap, Inc. Gradient-based exposure and gain control techniques
CN115696027A (zh) * 2021-07-22 2023-02-03 中兴通讯股份有限公司 拍摄方法、装置、控制器、设备和计算机可读存储介质
EP4277259A1 (de) * 2022-05-13 2023-11-15 Sick Ag Aufnehmen und helligkeitsanpassung eines bildes
CN115086632A (zh) * 2022-05-23 2022-09-20 奥比中光科技集团股份有限公司 三维图像系统、图像传感器的增益调节方法及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010072619A (ja) * 2008-08-22 2010-04-02 Nikon Corp 露出演算装置およびカメラ
JP2014153959A (ja) * 2013-02-08 2014-08-25 Canon Inc 画像処理装置及び画像処理方法、プログラム、記憶媒体
JP2015032966A (ja) * 2013-08-01 2015-02-16 キヤノン株式会社 画像処理装置、撮像装置、制御方法、及びプログラム
JP2015082768A (ja) * 2013-10-23 2015-04-27 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム、記憶媒体

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5724456A (en) * 1995-03-31 1998-03-03 Polaroid Corporation Brightness adjustment of images using digital scene analysis
JPH11339035A (ja) * 1998-05-21 1999-12-10 Fuji Photo Film Co Ltd 画像処理パラメータ決定方法および装置
TWI231701B (en) * 2001-06-14 2005-04-21 Matsushita Electric Ind Co Ltd Automatic tone correction device, automatic tone correction method, and tone correction program recording medium
EP1292113A3 (en) * 2001-08-23 2005-03-23 Eastman Kodak Company Tone scale adjustment
WO2008004439A1 (fr) * 2006-07-06 2008-01-10 Nikon Corporation Dispositif d'évaluation de caractéristiques de correction de gradation, dispositif de traitement d'image, procédé d'évaluation de caractéristiques de correction de gradation, procédé de traitement d'image, programme d'évaluation de caractéristiques de cor
JP5223675B2 (ja) * 2006-08-18 2013-06-26 日本電気株式会社 車両検知装置,車両検知方法並びに車両検知プログラム
JP5111872B2 (ja) * 2007-01-23 2013-01-09 パナソニック株式会社 映像信号処理装置、映像信号処理方法、映像信号処理プログラムおよび映像信号表示装置
JP5096089B2 (ja) 2007-09-18 2012-12-12 オリンパス株式会社 画像信号処理装置、画像信号処理方法及び撮像装置
JP5574812B2 (ja) * 2010-05-12 2014-08-20 キヤノン株式会社 画像処理装置及び画像処理方法
JP5909704B2 (ja) * 2011-01-13 2016-04-27 パナソニックIpマネジメント株式会社 立体画像処理装置、立体画像処理方法およびプログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010072619A (ja) * 2008-08-22 2010-04-02 Nikon Corp 露出演算装置およびカメラ
JP2014153959A (ja) * 2013-02-08 2014-08-25 Canon Inc 画像処理装置及び画像処理方法、プログラム、記憶媒体
JP2015032966A (ja) * 2013-08-01 2015-02-16 キヤノン株式会社 画像処理装置、撮像装置、制御方法、及びプログラム
JP2015082768A (ja) * 2013-10-23 2015-04-27 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム、記憶媒体

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2018225360A1 (ja) * 2017-06-08 2020-03-19 富士フイルム株式会社 撮像装置、撮像装置の制御方法、及び撮像装置の制御プログラム

Also Published As

Publication number Publication date
US10108878B2 (en) 2018-10-23
JP6562770B2 (ja) 2019-08-21
US20170061237A1 (en) 2017-03-02

Similar Documents

Publication Publication Date Title
JP6562770B2 (ja) 画像処理装置及び画像処理方法、プログラム、記憶媒体
JP5624809B2 (ja) 画像信号処理装置
US9838658B2 (en) Image processing apparatus that performs tone correction, image processing method, and storage medium
EP1814081A2 (en) Exposure control apparatus and image pickup apparatus
US9826167B2 (en) Imaging apparatus and imaging method which perform focus adjustment while performing live-view display
US9025050B2 (en) Digital photographing apparatus and control method thereof
JP2010016664A (ja) 撮像装置
JP2009177472A (ja) 画像処理方法、画像処理装置及び撮像装置
US20150281540A1 (en) Image processing device, control method thereof, and program
US10600165B2 (en) Image processing apparatus capable of performing tone conversion with a visually equivalent luminance change, image processing method, and storage medium
US20220239819A1 (en) Device, control method, and storage medium
US11115637B2 (en) Image processing apparatus, image capturing apparatus, image processing method, and storage medium
US10271029B2 (en) Image pickup apparatus and method of controlling an image pickup apparatus
US9191573B2 (en) Image capturing apparatus for determining an exposure condition by calculating aphotmetric value for each object region and method of controlling the same
JP2017073639A (ja) 画像処理装置およびその制御方法ならびにプログラム
JP2013192057A (ja) 撮像装置、その制御方法、および制御プログラム
JP2013186144A (ja) 撮像装置、撮像方法、及びプログラム
JP4666964B2 (ja) 撮像装置及び撮像方法
JP6554009B2 (ja) 画像処理装置、その制御方法、プログラム及び記録媒体
JP6514577B2 (ja) 画像処理装置および画像処理方法ならびに撮像装置
JP6272006B2 (ja) 撮像装置、画像処理方法及びプログラム
JP5359330B2 (ja) 露光量制御装置および露光量制御方法
KR101470001B1 (ko) 역광 보정 기능을 갖는 카메라 모듈 및 그 방법
JP2021027407A (ja) 撮像装置、その制御方法とプログラム
JP2023098113A (ja) 撮像システム、撮像装置及びその制御方法とプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180803

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190514

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190613

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190624

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190723

R151 Written notification of patent or utility model registration

Ref document number: 6562770

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151