JP2018198029A - 画像処理装置、画像処理方法、及びプログラム - Google Patents

画像処理装置、画像処理方法、及びプログラム Download PDF

Info

Publication number
JP2018198029A
JP2018198029A JP2017103404A JP2017103404A JP2018198029A JP 2018198029 A JP2018198029 A JP 2018198029A JP 2017103404 A JP2017103404 A JP 2017103404A JP 2017103404 A JP2017103404 A JP 2017103404A JP 2018198029 A JP2018198029 A JP 2018198029A
Authority
JP
Japan
Prior art keywords
image
correction
area
region
face
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017103404A
Other languages
English (en)
Other versions
JP6904788B2 (ja
Inventor
将浩 高山
Masahiro Takayama
将浩 高山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2017103404A priority Critical patent/JP6904788B2/ja
Priority to US15/980,549 priority patent/US10929645B2/en
Publication of JP2018198029A publication Critical patent/JP2018198029A/ja
Application granted granted Critical
Publication of JP6904788B2 publication Critical patent/JP6904788B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/162Detection; Localisation; Normalisation using pixel segmentation or colour matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20012Locally adaptive
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30088Skin; Dermal
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Studio Devices (AREA)

Abstract

【課題】顔などの被写体の画像領域に発生するテカリを補正する際に、複数の被写体の画像領域が検出された場合の補正ムラを低減可能にすることを課題とする。
【解決手段】顔検出部(113)は入力された画像から顔領域を検出する。画像処理部(105)は、顔領域から高輝度領域を抽出して、高輝度領域の補正量を生成し、その補正量を用いて高輝度領域を補正する。そして、画像処理部(105)は、複数の顔領域が検出された場合、複数の顔領域の特徴情報を基に補正量を調整する。
【選択図】図1

Description

本発明は、撮像等された画像を処理する画像処理装置、画像処理方法、及びプログラムに関する。
従来、デジタルカメラ等の撮像装置においては、被写体等からの入射光の光量を、カメラ内の絞りの調整やシャッター速度の調整等により制御することで、適正な露出の撮影画像を取得する。しかし、被写体として例えば人物が撮影された画像において、最適な露出制御を行い撮影したとしても、環境光源やストロボ光の影響等により、顔領域にテカリが発生してしまう場合がある。テカリとは、環境光源やストロボ光が被写体の人物の肌等の表面で反射し、撮像装置が取り込んだ入力信号値が飽和して色情報が失われ、肌の一部が白く撮像されてしまう(白く飛んでしまう)現象である。肌色の領域の中にテカリが生じて局所的に高輝度になった部分が存在すると、人物画像として好ましくない印象を与えてしまう。このため、入力信号値が飽和している飽和領域(テカリが生じている領域)がある画像に対して、その飽和を補正してテカリを軽減するような補正技術が要求されている。
このような要求に対して、特許文献1には、被写体としての人物の顔や目や口などの所定部位を検出し、その所定部位の位置や色などに基づいて各画素の補正の程度を決定する技術が開示されている。これにより、輝度や明度を下げる必要のない部位についてはその高い輝度や明度が維持され、輝度を下げる必要のある肌のテカリが生じている部位のみに対して補正することが可能となる。
特開2005−327009号公報
しかし、顔などの被写体が例えば複数存在する場合において、特許文献1の方法では、それら複数の被写体の画像領域に対する補正処理を行うことで、好ましくない印象を与える補正画像が得られてしまう場合がある。特許文献1では所定部位つまり目や口などの器官を基に補正を行うが、器官検出ができた顔とできなかった顔がある場合、器官検出ができた顔の画像領域には正しい補正が行われ、器官検出を誤った顔の画像領域には補正が行われないことになる。この場合、正しく補正された顔と補正されていない顔とが混在した補正ムラのある不自然な画像となってしまう。
そこで本発明は、複数の被写体の画像領域が検出された場合の補正ムラを低減可能にすることを目的とする。
本発明は、入力された画像から所定の被写体の画像領域を検出する検出手段と、前記所定の被写体の画像領域から高輝度領域を抽出して前記高輝度領域の補正量を生成し、前記補正量を用いて前記高輝度領域に対する補正処理を行う補正手段と、を有し、前記補正手段は、前記入力された画像から複数の前記画像領域が検出された場合、前記複数の画像領域の特徴情報を基に、前記高輝度領域に対して生成した前記補正量を調整することを特徴とする。
本発明によれば、複数の被写体の画像領域が検出された場合の補正ムラを低減可能となる。
本実施形態のデジタルカメラの概略構成例を示す図である。 画像処理部の詳細な構成例を示す図である。 顔領域を検出してテカリ補正を行うまでの処理のフローチャートである。 検出される顔領域の説明に用いる図である。 本実施形態のテカリ補正処理の詳細なフローチャートである。 テカリ補正量を決める際のゲイン特性を示す図である。 補正処理前後のRGB値の一例を示す図である。 顔領域が複数検出された場合の補正処理の説明図である。 テカリ補正量を調整する際のゲイン特性を示す図である。 顔領域から抽出される高輝度領域とテカリ量の説明図である。
以下、本発明の好ましい実施形態について、添付の図面に基づいて詳細に説明する。
本発明の画像処理装置は、デジタルスチルカメラやデジタルビデオカメラ、デジタルカメラ機能を備えたスマートフォンやタブレット端末、パーソナルコンピュータ等の各種情報端末、工業用カメラ、車載カメラ、医療用カメラなどの各種カメラに適用可能である。本実施形態では、本発明の画像処理装置をデジタルスチルカメラ(以下、単にデジタルカメラと呼ぶ。)に適用した例を挙げて説明する。
図1は、本実施形態の画像処理装置の一適用例であるデジタルカメラ100の概略的な構成例を示すブロック図である。
レンズ群101は、フォーカスレンズを含むズームレンズである。シャッター102は、絞り機能を備え、システム制御部50による制御の下、撮像部103が備えている撮像素子への入射光量と露光時間を調整する。撮像部103は、レンズ群101を介して撮像素子の撮像面上に形成された光学像を光電変換により電気信号に変換してアナログ画像信号を出力する。撮像部103の撮像素子は、CCDイメージセンサ又はCMOSイメージセンサである。撮像素子の撮像面の前には、三原色のR(赤),G(緑),B(青)の各色成分に対応したカラーフィルタがいわゆるベイヤー配列と呼ばれる配列で画素毎に設けられている。このため、撮像部103からは、ベイヤー配列に対応したRGBの各画素の色信号からなるアナログ画像信号が出力される。A/D変換部104は、撮像部103から出力されたアナログ画像信号をデジタル画像データに変換し、その画像データを画像処理部105に出力する。
画像処理部105は、撮像部103により撮像されてA/D変換部104から出力された画像データ、又はメモリ制御部107がメモリ106から読み出した画像データに対して、ホワイトバランス調整、γ(ガンマ)補正などの各種画像処理を行う。また、画像処理部105は、顔検出部113による顔検出結果や撮像した画像データを用いて所定の評価値算出処理を行う。ここでの所定の評価値算出処理により得られる算出値は、露光制御、測距制御に用いられる評価値として、システム制御部50に送られる。この場合、システム制御部50は、その評価値に基づいて露光制御、測距制御を行い、これによりTTL(スルー・ザ・レンズ)方式のAF(オートフォーカス)処理、AE(自動露出)処理、AWB(オートホワイトバランス)処理などが行われる。また、本実施形態の場合、画像処理部105は、後述するように、撮像された画像に写っている所定の被写体の画像領域の中に高輝度のテカリ領域が存在する場合、そのテカリ領域に対するテカリ補正処理をも行う。
コーデック部110は、画像データを圧縮符号化・復号化する。コーデック部110は、メモリ106に記憶された画像データを例えばMPEGなどの規格に準拠した形式で符号化または復号化する。
顔検出部113は、撮像部103にて撮像されてA/D変換部104から出力された画像データ、又は、メモリ制御部107がメモリ106から読み出した画像データに対し、所定の画像解析処理を行うことで、画像内から人の顔が映っている領域を検出する。顔検出部113により検出された顔検出結果のデータは、メモリ制御部107を介して、メモリ106に一時的に記憶され、また必要に応じてメモリ106から読み出されて画像処理部105に送られる。
メモリ106は、画像処理部105が各種画像処理を行う際に一時的に画像データを記憶する他、記録媒体インターフェース(I/F)111を介して記録媒体112から読み込まれた画像データや、表示部109に表示するための画像データ等を記憶する。メモリ制御部107は、メモリ106の読み書きを制御する。D/A変換器108は、例えばメモリ制御部107によりメモリ106から読み出された画像表示用の画像データを、アナログ映像信号に変換して表示部109に出力する。
表示部109は、LCD(液晶ディスプレイ)等の表示装置を有し、撮影された画像、記録媒体112から読み出された画像、いわゆるライブビュー表示の際に撮像部103にて撮像されているライブビュー画像等を表示する。また、表示部109には、デジタルカメラ100をユーザが操作等する際のユーザインターフェース画像も表示される。操作部120は、上述したユーザインターフェース画像を表示するタッチパネル、ボタンやスイッチを含み、ユーザによる操作を検知し、その検知した操作情報をシステム制御部50に通知する。
システム制御部50は、CPU又はMPUを含み、不揮発性メモリ121に記憶されているプログラムをシステムメモリ122の作業領域に展開することにより実行して、本実施形態のデジタルカメラ100全体の各機能を制御する。不揮発性メモリ121は、補助記憶装置として、プログラムやパラメータなどを格納するEEPROMなどの不揮発性の半導体メモリを含む。システムメモリ122は、主記憶装置として、不揮発性メモリ121から読み出したプログラム等を展開する他、システム制御部50の動作用の定数、変数を記憶する。記録媒体I/F111は、例えば半導体メモリカードやカード型ハードディスク等の着脱可能な記録媒体112を、デジタルカメラ100と機械的及び電気的に接続する。
以下、画像処理部105の詳細な構成と、画像処理部105にて行われる画像処理の詳細について図2を参照しながら説明する。
画像処理部105の画像信号生成部201は、撮像部103にて撮像されてA/D変換部104から出力された画像データが入力される。この画像データは、前述したようにベイヤー配列で構成されたRGBの各色のデータからなる。画像信号生成部201は、ベイヤー配列に対応したRGBの各色の画像データに対して同時化処理を行って、1画素あたりRGBの各色を含む画像データを生成する。画像信号生成部201は、同時化処理で生成した画像データをホワイトバランス制御部202(以下、WB制御部202とする。)に出力する。
WB制御部202は、画像信号生成部201より出力された画像データを基にホワイトバランス補正値(以下、WB補正値とする。)を算出する。そして、WB制御部202は、算出したWB補正値を用いて、画像データのホワイトバランスを補正する。
テカリ補正回路203は、WB制御部202によってホワイトバランス補正された画像データを基にテカリ補正処理を行う。このテカリ補正回路203におけるテカリ補正処理の詳細については後述する。テカリ補正回路203によるテカリ補正後の画像データは、色変換マトリックス回路204とY生成回路211に送られる。
色変換マトリックス回路204(以下、色変換MTX回路204とする。)は、テカリ補正回路203によるテカリ補正後の画像データが最適な色で再現されるように色ゲインを乗じた後、二つの色差データR−Y,B−Yに変換する。色変換MTX回路204から出力された二つの色差データR−Y,B−Yは、ローパスフィルタ回路205(以下、LPF回路205とする。)に送られる。LPF回路205は、色差データR−Y,B−Yの帯域を制限し、その帯域制限後の色差データR−Y,B−YをCSUP回路206に出力する。CSUP(Chroma Supress)回路206は、LPF回路205で帯域制限された色差データR−Y,B−Yの飽和部分の偽色信号を抑圧する処理を行う。このCSUP回路206による偽色信号抑圧後の色差データR−Y,B−YはRGB変換回路207に出力される。
Y生成回路211は、テカリ補正回路203によるテカリ補正後の画像データから輝度データYを生成する。Y生成回路211にて生成された輝度データYはエッジ強調回路212に送られる。エッジ強調回路212は、輝度データYに対してエッジ強調処理を行い、その処理後の輝度データYをRGB変換回路207に出力する。
RGB変換回路207は、CSUP回路206から出力された色差データR−Y,B−Yと、エッジ強調回路212から出力される輝度データYとから、RGBデータを生成するRGB変換処理を行う。RGB変換回路207から出力されたRGBデータは、γ(ガンマ)補正回路208に送られる。γ補正回路208は、RGBデータに対し、予め定められたγ特性に従った階調補正処理(γ補正処理)を行う。γ補正回路208によりγ補正処理されたRGBデータは、色輝度変換回路209によってYUVの画像データに変換された後、JPEG圧縮回路210にて圧縮符号化される。この圧縮符号化された画像データは、その後、図1の記録媒体112に画像データファイルとして記録される。
次に、本実施形態のデジタルカメラ100において行われるテカリ補正の詳細について説明する。
図3は、デジタルカメラ100において、撮像部103の撮像画像又はメモリ106に記憶されている画像から所定の被写体の画像領域を検出し、その画像領域からテカリ領域を抽出してテカリ補正が行われるまでの処理の流れを示すフローチャートである。なお、図3のフローチャートでは、ステップS301〜ステップS304をそれぞれS301〜S304と略記する。また、図3のフローチャートの処理は、ハードウェア構成又はソフトウェア構成により実行されてもよいし、一部がソフトウェア構成で残りがハードウェア構成により実現されてもよい。ソフトウェア構成により処理が実行される場合、図3のフローチャートの処理は、一例として、図3の不揮発性メモリ121に格納されているプログラムをシステムメモリ122に展開し、システム制御部50が実行することなどにより実現可能である。本実施形態に係るプログラムは、不揮発性メモリ121に予め用意されているが、例えば着脱可能な半導体メモリから読み出されたり、不図示のインターネット等のネットワークからダウンロードされたりして、システムメモリ122にロードされてもよい。これらのことは後述する他のフローチャートにおいても同様とする。
本実施形態では、撮像画像等の入力画像から、所定の被写体の画像領域の一例として人物の顔画像を検出し、その顔画像の中から高輝度領域のテカリ領域を抽出し、そのテカリ領域に対してテカリ補正を行う例を挙げて説明する。
本実施形態のデジタルカメラ100では、先ず、S301の処理として、顔検出部113が、撮像部103の撮像画像又はメモリ106に記憶されている画像から、人物の顔画像の領域(以下、顔領域とする。)を検出する。また、顔検出部113は、画像内に顔が複数存在する場合には、それら複数の顔領域を検出して、それぞれ顔領域の情報を取得する。
次に、S302において、顔検出部113は、S301で検出した顔領域から、目や口、眉などの顔を構成する各部位である各器官の領域を検出する。以下、顔の中の各器官の領域を器官領域と表記する。このように、顔領域から器官領域を検出することにより、顔領域の中で肌色領域とそれ以外の色の領域とを区別可能となる。つまり、目、口などの器官領域は一般に肌色でないため、これら器官領域を検出してそれら器官領域を顔領域から除外することにより、顔領域の中の肌色領域を特定可能となる。また本実施形態の場合、顔検出部113は、器官領域の検出情報として、目、口等の各器官の座標位置情報や器官検出の信頼度を表す情報をも検出する。器官検出の信頼度情報は、一例として、検出された器官領域の形状、傾き、色、顔領域内における器官領域の位置及びその配置関係などを基に、目、口などの各器官領域の確からしさを表す情報として取得される。一例として、顔領域から目として検出された器官領域が、顔内で目が配置されるべき位置にあり、またその形状と色が目の形状と色である場合、目である確からしさが高いことを示す信頼度情報が得られる。なお、信頼度情報を取得する方法は、この例に限定されるものではなく、各器官領域の確からしさを表すことができる情報であれば、他の方法により取得されてもよい。S302で検出された器官領域の検出情報は、例えばメモリ106に一時的に記憶された後、システム制御部50による制御の下でメモリ制御部107により読み出され、画像処理部105のテカリ補正回路203に送られる。
次のS303において、顔検出部113は、顔領域から器官領域を除いた領域、つまり顔の肌色領域を特定し、さらに、その肌色領域から後述するテカリ領域の検出及びテカリ領域に対するテカリ補正に用いられる評価値の取得を行う。
図4は、顔検出部113が検出した顔領域401の一例を示した図である。顔検出部113は、S303において、図4に示すように人物の顔領域401を複数のブロックに分割して、ブロック毎に画素値(RGBの各値)の積分値を求める。また、顔検出部113は、顔領域401の各ブロックから、S302で検出した目や口などの器官領域の各ブロック、つまり肌色でない領域の各ブロックを除外することにより、肌色領域の各ブロックを特定する。そして、顔検出部113は、その肌色領域の各ブロックの積分値を、後述するテカリ補正に用いられる評価値として取得する。このように、S303では、顔領域401の中で目や口などの肌色でない領域を除いた、肌色領域の各ブロックの評価値が取得される。S303で取得された肌色領域のブロック毎の評価値は、例えば、メモリ106に一時的に記憶された後、システム制御部50による制御の下でメモリ制御部107により読み出され、画像処理部105のテカリ補正回路203に送られる。
次に、S304の処理として、テカリ補正回路203は、S303で肌色領域のブロック毎に取得された積分値(評価値)を基に、肌色領域の中のテカリ領域(高輝度領域)に対する補正処理(テカリ補正処理)を行う。すなわち、S304において、テカリ補正回路203は、S303で肌色領域のブロック毎に取得された積分値(評価値)を基に、肌色領域の中のテカリ領域(高輝度領域)を抽出し、また肌色領域の肌色評価値の算出も行う。そして、テカリ補正回路203は、肌色領域の肌色評価値を基にテカリ補正量を算出し、そのテカリ補正量を用いてテカリ領域に対するテカリ補正を行う。テカリ補正回路203におけるテカリ補正量の算出処理、テカリ領域に対するテカリ補正処理の詳細については後述する。
なお、テカリ補正回路203は、後述するように器官領域の検出情報を基に高輝度領域の抽出や肌色評価値の算出を行っているが、顔領域に含まれる色情報と輝度情報を基に高輝度領域の抽出や肌色評価値の算出を行ってもよい。すなわち例えば、テカリ補正回路203は、顔領域の中の肌色に近い色成分のブロック積分値のみを取得し、それら肌色に近い色成分のブロック積分値を基に、高輝度領域の抽出や肌色評価値の算出を行ってもよい。
ここで、本実施形態のテカリ補正では、前述のように顔領域から器官領域を除いた肌色領域について高輝度領域の抽出や肌色評価値の算出を行い、それらを基にテカリ補正量を算出してテカリ補正を行うようになされている。このため、例えば器官検出ができなかった場合や器官検出が誤っている可能性がある場合にはテカリ補正を行わないことが望ましい。
また、例えば入力画像から複数の顔領域が検出されている場合、テカリ補正回路203は、それら顔領域毎に、器官領域を除いた肌色領域について高輝度領域の抽出や肌色評価値の算出を行ってテカリ補正量を算出することになる。ただし、正しく器官検出ができた顔領域のみテカリ補正を行い、器官検出ができなかった顔領域や器官検出が誤っている可能性がある顔領域のテカリ補正を行わないようにすると、テカリ補正された顔領域と補正されていない顔領域とが混在することになる。この場合、補正ムラのある不自然な補正画像が生成されることになる。
このため、複数の顔領域が検出されている場合、本実施形態のテカリ補正回路203は、それら顔領域毎に、前述した器官領域の検出情報を基に、誤り無く器官検出が行われていてテカリ補正を実施可能な状態の顔領域であるか否かの判定を行う。そして、本実施形態のテカリ補正回路203は、器官検出ができてテカリ補正を実施可能な状態の顔領域について、算出したテカリ補正量を、複数の顔領域から取得した特徴情報を基に調整し、その調整後の補正量を用いたテカリ補正を行うようにする。詳細は後述するが、テカリ補正量を調整する際に用いる顔領域の特徴情報としては、顔領域の大きさ情報(サイズ)と、顔の器官領域の検出情報と、高輝度領域の抽出情報との、少なくとも一つを用いる。また詳細は後述するが、この場合の高輝度領域の抽出情報としては高輝度領域の少なくとも面積を表す情報を用い、器官領域の検出情報としては各器官検出の信頼度を表す情報を用いる。
以下、図5以降の各図を参照し、入力画像から複数の顔領域が検出されている場合に、本実施形態のテカリ補正回路203にて行われるテカリ補正量の算出、そのテカリ補正量の調整、その調整されたテカリ補正量を用いたテカリ補正の詳細を説明する。
図5は、図3のS304においてテカリ補正回路203が行うテカリ補正処理の詳細な流れを示すフローチャートである。
テカリ補正回路203は、S501において、図3のS302で検出された器官領域の検出情報を取得する。このときのテカリ補正回路203は、器官領域の検出情報として、前述した目、口等の各器官の座標位置情報や器官検出の信頼度情報を取得する。
次に、S502において、テカリ補正回路203は、図3のS303で取得されたブロック積分値から、RGBの各平均画素値(AveR,AveG,AveB)を算出し、目や口等の器官領域を除いた顔領域の輝度情報(Y)を算出する。
また、S503において、テカリ補正回路203は、同様に目や口等の器官領域を除いた顔領域の肌色平均値(Skin_R,Skin_G,Skin_B)を算出する。
すなわち、テカリ補正回路203は、S502とS503の処理により、顔領域401から目や口等の器官領域を除外した肌色領域の輝度値と肌色平均値とを求める。
次に、S504において、テカリ補正回路203は、S503で取得した肌色平均値と、S502で取得した顔領域の輝度値と、S501で取得した器官検出の信頼度情報とを基に、テカリ補正量を算出する。
図6(a)と図6(b)は、S504において、テカリ補正回路203がテカリ補正量を算出する際に設定するゲイン特性を示した図である。
図6(a)は、輝度情報(輝度値Y)を基に補正ゲインGainAを設定する際のゲイン特性600を示した図である。図6(a)のゲイン特性600によれば、輝度値Yが所定の閾値Th1_Y以下である場合には、補正ゲインとして所定の初期ゲインが設定される。なお、所定の初期ゲインは、例えばゲイン=0(ゼロ)であるとする。また、ゲイン特性600の場合、輝度値Yが所定の閾値Th1_Yを超えると初期ゲインより大きい補正ゲインに設定され、これ以降は輝度値Yが高くなるのに応じて補正ゲインが上昇するように設定される。なお、閾値Th1_Yから閾値Th2_Yまでのゲイン特性600は、輝度値Yに応じて補正ゲインが所定のカーブを描くように上昇するような特性となされている。そして、輝度値Yが閾値Th2_Y以上になると補正ゲインは最大の値に設定され、それ以降は最大の値が続くようになされる。なお、最大の値は、例えばゲイン=1に設定されているとする。このように、図6(a)のゲイン特性600は、輝度値Yが低い場合には補正ゲインを低くし、輝度値Yが高い場合には補正ゲインを高くするような特性となされている。
図6(b)は、器官検出の信頼度情報を基に補正ゲインGainBを設定する際のゲイン特性601を示した図である。図6(b)のゲイン特性601によれば、器官検出の信頼度が所定の閾値Th1_Org以下である場合には、補正ゲインとして所定の初期ゲイン(例えば「0」)が設定される。また、ゲイン特性601の場合、器官検出の信頼度が所定の閾値Th1_Orgを超えると初期ゲインより大きい補正ゲインに設定され、これ以降は信頼度が高くなるのに応じて補正ゲインが上昇するように設定される。なお、閾値Th1_Orgから閾値Th2_Orgまでのゲイン特性601は、信頼度が高くなるのに応じて補正ゲインが直線状に上昇するような特性となされている。そして、器官検出の信頼度が閾値Th2_Org以上になると補正ゲインは最大の値(例えば「1」)に設定され、それ以降は最大の値が続くようになされる。すなわち、図6(b)のゲイン特性601は、器官検出の信頼度が低い場合には誤補正や過補正になる可能性があるため、補正ゲインを低くし、器官検出の信頼度が低い場合には補正ゲインを高くするような特性となされている。
また、テカリ補正回路203は、S504において、前述のようにして設定した補正ゲインGainAとGainBとを基に、前述の各ブロックに対する補正ゲインαを算出する。補正ゲインαは、例えば下記式(1)を用いて算出される。
α=GainA×GainB 式(1)
さらに、テカリ補正回路203は、S504において、前述のS503で算出した肌色平均値(Skin_R,Skin_G,Skin_B)から、肌色の補色(Skin_R'、Skin_G'、Skin_B')をも算出する。
そして、テカリ補正回路203は、それら算出した肌色の補色(Skin_R'、Skin_G'、Skin_B')と補正ゲインαとを基に、顔領域の高輝度領域(テカリ領域)に対するテカリ補正量を算出する。具体的には、テカリ補正回路203は、肌色の補色(Skin_R',Skin_G',Skin_B')にそれぞれ補正ゲインαを乗算することでテカリ補正量(α×Skin_R',α×Skin_G',α×Skin_B')を算出する。
ここで、顔領域が複数検出されている場合、テカリ補正回路203は、各々の顔領域について、前述同様にしてテカリ補正量を算出することになる。ただし、前述したように、器官検出ができなかった顔領域や器官検出が誤っている可能性がある顔領域のテカリ補正を行わないようにすると、テカリ補正された顔領域と補正されていない顔領域とが混在した補正ムラのある不自然な画像が生成される。
このため、テカリ補正回路203は、S505において、顔領域が複数検出されているか否かを判定する。テカリ補正回路203は、顔領域が複数検出されていないと判定(No)した場合、つまり検出された顔領域が一つのみである場合にはS508に処理を進め、一方、複数検出されていると判定(Yes)した場合にはS506に処理を進める。
検出された顔領域が一つのみであると判定されてS508に進んだ場合、テカリ補正回路203は、S504で算出したテカリ補正量を、顔領域内の高輝度領域(テカリ領域)の信号値(R0,G0,B0)からそれぞれ減算するテカリ補正処理を行う。すなわち、この場合のテカリ補正処理は、下記式(2)により表される。
R1=R0−α×Skin_R'
G1=G0−α×Skin_G' 式(2)
B1=B0−α×Skin_B'
このテカリ補正処理により、例えば図7に示すように、高輝度領域の補正が行われる前に飽和していたRGB値700(R0,G0,B0)からは、肌色の補色が減算された補正後のRGB値701(R1,G1,B1)が得られる。これにより高輝度領域(テカリ領域)の肌色が再現された顔領域の画像が得られることになる。
S505で複数の顔領域が検出されていると判定されてS506に進んだ場合、テカリ補正回路203は、各々の顔領域における各器官検出の信頼度情報を基に、器官検出の信頼度が高い顔領域と低い顔領域とが混在しているか否か判定する。ここで、器官検出の信頼度が高い顔領域とは、誤補正や過補正の虞が無いためテカリ補正を実施可能な状態の顔領域であり、一方、器官検出の信頼度が低い顔領域とは、誤補正や過補正が生ずる虞があるためテカリ補正を実施できない状態の顔領域である。
具体的には、テカリ補正回路203は、全ての顔領域における器官検出の信頼度が前述の図6(b)の閾値Th1_Org以下、又は閾値Th2_Org以上である場合、S506にて信頼度が高い顔領域と低い顔領域とは混在していないと判定(No)する。この場合、テカリ補正回路203は、S508に処理を進め、前述同様にS504で算出したテカリ補正量を用いたテカリ補正を行う。
一方、テカリ補正回路203は、全顔領域の器官検出の信頼度が図6(b)の閾値Th1_Org以下、又は閾値Th2_Org以上になっていない場合には、S506にて信頼度が高い顔領域と低い顔領域とが混在していると判定(Yes)する。言い換えると、テカリ補正回路203は、少なくとも一つの顔領域の器官検出の信頼度が、他の顔領域の器官検出の信頼度とは大きく異なっている場合、信頼度が高い顔領域と低い顔領域とが混在していると判定する。そして、テカリ補正回路203は、S506において、信頼度が高い顔領域と低い顔領域とが混在していると判定した場合には、S507に処理を進める。
S507に進んだ場合、テカリ補正回路203は、S504で算出されたテカリ補正量(α×Skin_R',α×Skin_G',α×Skin_B')を調整する制御値βを算出する。そして、テカリ補正回路203は、S504で算出されたテカリ補正量に対して制御値βを乗算することによって、テカリ補正量を調整する。
以下、制御値βの算出処理について、図8(a)〜図8(c)と図9(a)及び図9(b)を例に挙げて説明する。
図8(a)〜図8(c)の画像800はテカリ補正が行われる前の画像例、画像801は制御値βによって調整されたテカリ補正量を用いたテカリ補正後の画像例を示している。
図8(a)〜図8(c)の画像例は、検出された複数の顔領域として、主顔810と副顔811の二つが存在している例を挙げている。本実施形態において、主顔810とは、前述した器官検出の信頼度が高い顔領域であり、誤補正や過補正の虞が無いためテカリ補正を実施可能な状態の顔領域であるとする。一方、副顔811とは、器官検出の信頼度が低い顔領域であり、誤補正や過補正が生ずる虞があるためテカリ補正を実施できない状態の顔領域であるとする。図8(a)〜図8(c)の画像例の場合、副顔811は例えば左目を瞑っているため器官検出の信頼度が低いと判定され、一方、主顔810は両目を開けているため器官検出の信頼度が高いと判定される例を挙げている。なお、器官検出の信頼度が低いと判定される例は、片目を瞑っている場合だけに限定されず、一例として、顔が正面ではなく横向きの場合、顔の一部が画角からはみ出している(顔の一部しか写っていない)場合なども挙げることができる。
また、図8(a)には、副顔811の大きさ(サイズ)が非常に小さい場合の画像例を示しており、この例では主顔810に対して副顔811の相対的な大きさが非常に小さくなっているとする。一方、図8(b)と図8(c)には、副顔811の大きさ(サイズ)が或る程度大きい画像例を示しており、この例では副顔811が主顔810の大きさに近い大きさになっているとする。なお、図8(a)〜図8(c)の矩形エリア820は主顔810の大きさを表し、矩形エリア821は副顔811の大きさを表している。
また、図8(a)〜図8(c)のテカリ補正前の画像例において、主顔810内にはテカリ領域830が存在し、副顔811内にはテカリ領域831が存在しているとする。ただし、図8(b)のテカリ補正前の画像例の場合、副顔811のテカリ領域831は非常に小さく目立ち難い領域になっている。一方、図8(c)のテカリ補正前の画像例の場合、副顔811のテカリ領域831が或る程度大きく目立ち易い領域になっているとする。
ここで、図8(a)の画像例のように、副顔811のサイズが非常に小さい場合には、例えば主顔810についてのみテカリ補正が実施され、副顔811についてテカリ補正が実施されなかったとしても画像全体として違和感は少ないと考えられる。
これに対し、図8(c)の画像例のように副顔811が大きい場合、例えば主顔810のみテカリ補正が実施され、副顔811のテカリ補正が実施されなかったとすると、補正ムラが目立って画像全体で違和感が生ずると考えられる。
一方、図8(b)の画像例のように副顔811が大きくてもテカリ領域831が非常に小さい場合、主顔810のテカリ補正が実施され、副顔811のテカリ補正が実施されなかったとしても、補正ムラは目立たず画像全体の違和感は少ないと考えられる。
このため、本実施形態では、主顔810と副顔811とが混在する場合、それら主顔810と副顔811の特徴情報を基に、主顔810について算出されたテカリ補正量を調整することで、補正ムラが目立たず違和感の少ない画像を得られるようにしている。具体的には、テカリ補正回路203は、先ず、主顔810と副顔811の特徴情報のうち器官検出の信頼度情報を基に、信頼度が高くテカリ補正を実施できるのは主顔810であると判定する。そしてテカリ補正回路203は、主顔810について算出したテカリ補正量を調整するための制御値βを、副顔811の特徴情報のうち、副顔811の大きさ情報(サイズ)と、副顔811のテカリ領域831の後述するテカリ量を表す情報とを基に算出する。詳細は後述するが、本実施形態の場合、テカリ補正回路203は、副顔811のサイズに応じた制御ゲインGainCと、副顔811のテカリ領域831のテカリ量に応じた制御ゲインGainDとを求め、これらを基に制御値βを算出する。制御ゲインGainCは図9(a)に示すように副顔811のサイズに応じて設定され、制御ゲインGainDは図9(b)に示すように副顔811のテカリ領域831のテカリ量に応じて設定される。
図9(a)は、S504で主顔810について算出されたテカリ補正量を調整する制御値βを求める際に用いられる制御ゲインGainCを、副顔811のサイズに応じて設定するゲイン特性900を示した図である。図9(a)のゲイン特性900によれば、副顔811のサイズが所定の第1の大きさ閾値以下(大きさ閾値Th1_Size以下)である場合には、制御ゲインとして所定の初期ゲインが設定される。なお、制御ゲインGainCを求める際の所定の初期ゲインは、例えば「1」になされている。また、ゲイン特性900の場合、副顔811のサイズが第1の大きさ閾値Th1_Sizeを上回ると、初期ゲインより小さい制御ゲインに設定され、これ以降は副顔811のサイズが大きくなるのに応じて制御ゲインが下降するように設定される。なお、第1の大きさ閾値Th1_Sizeから第2の大きさ閾値Th2_Sizeまでのゲイン特性900は、副顔811のサイズが大きくなるのに応じて制御ゲインが直線状に下がるような特性となされている。そして、副顔811のサイズが、第2の大きさ閾値以上(大きさ閾値Th2_Size以上)になると、制御ゲインは最小の値に設定され、それ以降は最小の値が続くようになされる。なお、最小の値は、例えば「0(ゼロ)」に設定されているとする。すなわち、図9(a)のゲイン特性900は、副顔811のサイズが、第1の大きさ閾値Th1_Size以下である場合には制御ゲインGainCとして「1」が設定される。また、副顔811のサイズが、第1の大きさ閾値Th1_Sizeより大きく、第2の大きさ閾値Th2_Size未満である場合には1>GainC>0の制御ゲインが設定され、大きさ閾値Th2_Size以上になるとGainC=0の制御ゲインが設定される。
図9(b)は、S504で主顔810について算出されたテカリ補正量を調整する制御値βを求める際に用いられる制御ゲインGainDを、副顔811のテカリ領域831におけるテカリ量に応じて設定するゲイン特性901を示した図である。本実施形態において、テカリ量とは、所定の輝度閾値以上になっている高輝度領域の少なくとも面積を基に算出される算出量である。
図10(a)は顔領域から抽出される高輝度領域の各ブロックを表した図であり、テカリ補正回路203は、所定の輝度閾値以上(例えば図6(a)のTh1_Y以上)のブロックをカウントすることでテカリ量Shを算出する。すなわち、図10(a)は、所定の輝度閾値以上となっている高輝度領域の面積に応じたテカリ量Shが算出された例である。図10(a)の例では、図中の白色のブロックが輝度閾値以上のブロックを表しているとする。
なお、テカリ補正回路203は、図6(a)に示した輝度値Yに応じた補正ゲインGainAの加重加算によりテカリ量を算出してもよい。図10(b)は、図6(a)の補正ゲインGainAを考慮してテカリ量が算出されたブロックの例を示している。図10(b)では、図中の各ブロックにおけるグレー色の濃淡(ドット数の多少)によりテカリ量が表されており、ブロックの色が白色に近づくほど、テカリ量が大きく、黒色に近づくほどテカリ量が小さいことを表している。この例の場合、図6(a)に示したゲインGainAをブロック毎に積算することで、高輝度領域の面積と輝度値Yとを考慮したテカリ量Shが算出される。本実施形態において、検出した顔領域のブロック数をNとすると、テカリ補正回路203は、下記式(3)によりテカリ量Shを算出することができる。
Figure 2018198029
図9(b)に示したゲイン特性901では、副顔811の高輝度領域のテカリ量Shが所定の第1の量閾値以下(量閾値Th1_Sh以下)である場合には、制御ゲインGainDとして所定の初期ゲイン(例えば「1」)が設定される。また、ゲイン特性901の場合、副顔811のテカリ量Shが第1の量閾値Th1_Shを上回ると初期ゲインより小さい制御ゲインに設定され、これ以降は副顔811のテカリ量Shが大きくなるのに応じて制御ゲインが下降するように設定される。なお、第1の量閾値Th1_Shから第2の量閾値Th2_Shまでのゲイン特性901は、副顔811のテカリ量Shが大きくなるのに応じて制御ゲインが直線状に下がるような特性となされている。そして、副顔811のテカリ量Shが所定の第2の量閾値以上(量閾値Th2_Sh以上)になると制御ゲインは最小の値(「0」)に設定され、それ以降は最小の値が続くようになされる。すなわち、図9(b)のゲイン特性901は、副顔811のテカリ量Shが、第1の量閾値Th1_Sh以下である場合には制御ゲインGainDとして「1」が設定される。また、副顔811のテカリ量Shが、第1の量閾値Th1_Shより大きく、第2の量閾値Th2_Sh未満の場合には1>GainD>0の制御ゲインが設定され、第2の量閾値Th2_Sh以上になるとGainD=0の制御ゲインが設定される。
そして、主顔810のテカリ補正量を調整する制御値βは、前述の図9(a)により設定された制御ゲインGainCと、図9(b)により設定された制御ゲインGainDとを用いた、例えば下記式(4)により算出される。
β=GainC×GainD 式(4)
さらに、テカリ補正回路203は、式(4)により算出した制御値βを、図5のS504で主顔810について算出したテカリ補正量(α×Skin_R',α×Skin_G',α×Skin_B')に乗算する。これにより、最終的なテカリ補正量(α×β×Skin_R',α×β×Skin_G',α×β×Skin_B')が算出される。前述のようにしてS507により最終的なテカリ補正量の算出がなされた後、テカリ補正回路203の処理は、S508に進む。
この場合のS508において、テカリ補正回路203は、S507で算出した最終的なテカリ補正量を、式(5)に示すように主顔810のテカリ領域の信号値(R0,G0,B0)から減算するテカリ補正処理を行う。
R1=R0−α×β×Skin_R'
G1=G0−α×β×Skin_G' 式(5)
B1=B0−α×β×Skin_B'
前述のように、本実施形態によれば、器官検出の信頼度が高くテカリ補正を実施できる主顔810と信頼度が低くテカリ補正を実施できない副顔811とが混在する場合において、副顔811のサイズが非常に小さいときには主顔810のみテカリ補正が行われる。例えば図8(a)のように副顔811のサイズが非常に小さい場合、主顔810のみテカリ補正が実施されて肌色が再現され、サイズが小さい副顔811のテカリ補正が実施されなかったとしても補正ムラが目立たない違和感の少ない画像が得られる。
一方、図8(c)のように副顔811が大きく、その副顔811のテカリ領域831も大きい(テカリ量が大きい)場合、本実施形態によれば、主顔810に対するテカリ補正を実施しないようになされているため、補正ムラが低減された画像を得ることができる。
また、図8(b)のように副顔811が大きくてもテカリ領域831が非常に小さい(テカリ量が小さい)場合、本実施形態によれば、主顔810のみテカリ補正が実施される。すなわち、副顔811が大きくてもテカリ領域831が非常に小さい場合には、主顔810のみテカリ補正が行われて肌色が再現され、副顔811のテカリ補正が実施されなかったとしても、補正ムラが目立たない違和感の少ない画像が得られる。
なお、図8(a)〜図8(c)では主顔810のテカリ補正を行うか否かの制御がなされる例のみを挙げたが、式(4)のように制御値βは制御ゲインGainCとGainDを乗算して得られる値である。これら制御ゲインGainCとGainDは、前述した図(a)と図9(b)のように1>GainC>0、1>GainD>0の値を採り得る。したがって、本実施形態における主顔810のテカリ補正量の調整には、それら制御ゲインGainCとGainDの値に応じた可変の調整が行われる場合も含まれる。
<その他の実施形態>
以上、本発明の好ましい実施形態について説明したが、本発明は前述した実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。前述の実施形態では、所定の被写体の画像領域として顔画像の肌色領域に対するテカリ補正処理の例を挙げたが、本発明は顔画像の肌色領域のテカリ補正処理には限定されない。一例として、所定の被写体として略々同じ車体色の複数の自動車等が写っている画像において、それら自動車の車体の高輝度領域(テカリ領域)を補正する場合などにも適用可能である。この例の場合、複数の自動車の画像領域の大きさ(サイズ)、自動車の向きや自動車が画角に収まっているか等の検出の信頼度情報、車体の高輝度領域の抽出情報(テカリ量)の、少なくとも一つを基に、前述同様に補正量を調整する。これにより、被写体が人の顔ではない場合において複数の被写体の画像領域が検出された場合でも、補正ムラが低減された違和感の少ない画像を得ることができる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
上述の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明は、その技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
50:システム制御部、100:デジタルカメラ、103:撮像部、105:画像処理部、106:メモリ、107:メモリ制御部、113:顔検出部、121:不揮発性メモリ、203:テカリ補正回路

Claims (16)

  1. 入力された画像から所定の被写体の画像領域を検出する検出手段と、
    前記所定の被写体の画像領域から高輝度領域を抽出して前記高輝度領域の補正量を生成し、前記補正量を用いて前記高輝度領域に対する補正処理を行う補正手段と、を有し、
    前記補正手段は、前記入力された画像から複数の前記画像領域が検出された場合、前記複数の画像領域の特徴情報を基に、前記高輝度領域に対して生成した前記補正量を調整することを特徴とする画像処理装置。
  2. 前記補正手段は、前記補正量を調整する際に用いる前記画像領域の特徴情報として、前記所定の被写体の画像領域の大きさと、前記所定の被写体を構成している部位の検出情報と、前記高輝度領域の抽出情報との、少なくとも一つを取得することを特徴とする請求項1に記載の画像処理装置。
  3. 前記補正手段は、前記補正量を調整する際に用いる前記高輝度領域の抽出情報として、前記高輝度領域の少なくとも面積を表す情報を、取得することを特徴とする請求項2に記載の画像処理装置。
  4. 前記補正手段は、前記補正量を調整する際に用いる前記部位の検出情報として、前記部位の検出の信頼度を表す情報を、取得することを特徴とする請求項2又は3に記載の画像処理装置。
  5. 前記補正手段は、前記入力された画像から複数の前記画像領域が検出され、前記複数の画像領域の中に、前記信頼度が高い画像領域と前記信頼度が低い画像領域とが混在する場合、前記信頼度が低い画像領域の大きさと、前記信頼度が低い画像領域の前記高輝度領域の抽出情報との、少なくとも一つを基に、前記信頼度が高い画像領域の高輝度領域に対する前記補正量を調整することを特徴とする請求項4に記載の画像処理装置。
  6. 前記補正手段は、前記信頼度が低い画像領域の大きさが所定の第1の大きさ閾値以下である場合、前記補正量の調整を行わずに、前記信頼度が高い画像領域に対して算出された補正量を用いて、前記信頼度が高い画像領域の前記高輝度領域の補正処理を行うことを特徴とする請求項5に記載の画像処理装置。
  7. 前記補正手段は、前記信頼度が低い画像領域の大きさが所定の第1の大きさ閾値を超える場合、前記信頼度が低い画像領域の大きさに応じて値が小さくなる制御ゲインにより前記補正量を調整し、前記調整された補正量を用いて前記信頼度が高い画像領域の高輝度領域の補正処理を行うことを特徴とする請求項5又は6に記載の画像処理装置。
  8. 前記補正手段は、前記信頼度が低い画像領域の大きさが、前記第1の大きさ閾値よりも大きい第2の大きさ閾値以上である場合、前記信頼度の高い画像領域の前記高輝度領域に対する前記補正処理を行わないことを特徴とする請求項6又は7に記載の画像処理装置。
  9. 前記補正手段は、前記信頼度が低い画像領域の前記高輝度領域の少なくとも面積に基づく算出量が、所定の第1の量閾値以下である場合、前記補正量の調整を行わずに、前記信頼度が高い画像領域に対して算出された補正量を用いて、前記信頼度が高い画像領域の前記高輝度領域の補正処理を行うことを特徴とする請求項5から8の何れか1項に記載の画像処理装置。
  10. 前記補正手段は、前記信頼度が低い画像領域の前記高輝度領域の少なくとも面積に基づく算出量が、所定の第1の量閾値を超える場合、前記算出量に応じて値が小さくなる制御ゲインにより前記補正量を調整し、前記調整された補正量を用いて、前記信頼度が高い画像領域の高輝度領域の補正処理を行うことを特徴とする請求項5から9の何れか1項に記載の画像処理装置。
  11. 前記補正手段は、前記信頼度が低い画像領域の前記高輝度領域の少なくとも面積に基づく算出量が、前記第1の量閾値よりも大きい第2の量閾値以上である場合、前記信頼度の高い画像領域の前記高輝度領域に対する前記補正処理を行わないことを特徴とする請求項9又は10に記載の画像処理装置。
  12. 前記補正手段は、前記複数の画像領域の中に、前記信頼度が高い画像領域と前記信頼度が低い画像領域とが混在しない場合、前記補正量の調整を行わずに、前記信頼度が高い画像領域に対して算出された補正量を用いて、前記信頼度が高い画像領域の高輝度領域の補正処理を行うことを特徴とする請求項5から11の何れか1項に記載の画像処理装置。
  13. 前記検出手段は、前記所定の被写体の画像領域として人の顔の画像領域を検出し、さらに前記顔を構成している前記部位として器官領域を検出し、
    前記補正手段は、前記顔の画像領域から前記器官領域を除いた画像領域の肌色の平均値を基に算出した前記肌色の補色と、前記顔の画像領域から前記器官領域を除いた画像領域の中の前記高輝度領域の輝度値に応じたゲインと、前記器官の検出の信頼度に応じたゲインと、を基に算出した補正ゲインを、前記肌色の補色に乗算して前記補正量を生成することを特徴とする請求項4から12の何れか1項に記載の画像処理装置。
  14. 前記補正処理は、前記高輝度領域の信号値から前記補正量を減算する処理であることを特徴とする請求項1から13の何れか1項に記載の画像処理装置。
  15. 入力された画像から所定の被写体の画像領域を検出する検出工程と、
    前記所定の被写体の画像領域から高輝度領域を抽出して前記高輝度領域の補正量を生成し、前記補正量を用いて前記高輝度領域に対する補正処理を行う補正工程と、を有し、
    前記補正工程では、前記入力された画像から複数の前記画像領域が検出された場合、前記複数の画像領域の特徴情報を基に、前記高輝度領域に対して生成した前記補正量を調整することを特徴とする画像処理装置の画像処理方法。
  16. コンピュータを、請求項1から14の何れか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
JP2017103404A 2017-05-25 2017-05-25 画像処理装置、画像処理方法、及びプログラム Active JP6904788B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017103404A JP6904788B2 (ja) 2017-05-25 2017-05-25 画像処理装置、画像処理方法、及びプログラム
US15/980,549 US10929645B2 (en) 2017-05-25 2018-05-15 Image processing apparatus, image processing method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017103404A JP6904788B2 (ja) 2017-05-25 2017-05-25 画像処理装置、画像処理方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2018198029A true JP2018198029A (ja) 2018-12-13
JP6904788B2 JP6904788B2 (ja) 2021-07-21

Family

ID=64401220

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017103404A Active JP6904788B2 (ja) 2017-05-25 2017-05-25 画像処理装置、画像処理方法、及びプログラム

Country Status (2)

Country Link
US (1) US10929645B2 (ja)
JP (1) JP6904788B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020154640A (ja) * 2019-03-19 2020-09-24 カシオ計算機株式会社 画像処理装置、画像処理方法、及び画像処理プログラム

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017149932A1 (ja) * 2016-03-03 2017-09-08 ソニー株式会社 医療用画像処理装置、システム、方法及びプログラム
WO2019133991A1 (en) * 2017-12-29 2019-07-04 Wu Yecheng System and method for normalizing skin tone brightness in a portrait image
CN109903248B (zh) * 2019-02-20 2021-04-16 厦门美图之家科技有限公司 一种生成自动白平衡模型的方法和图像处理方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005237009A (ja) * 2004-02-20 2005-09-02 Lucent Technol Inc アプリケーション間で移動するための方法およびシステム
JP2007281847A (ja) * 2006-04-06 2007-10-25 Fujifilm Corp 赤目補正処理システム、赤目補正処理方法、および赤目補正処理プログラム
JP2011044132A (ja) * 2009-07-23 2011-03-03 Casio Computer Co Ltd 画像処理装置、画像処理方法及び画像処理プログラム
JP2013161348A (ja) * 2012-02-07 2013-08-19 Nikon Corp 画像補正装置、方法、及びプログラム、並びに記録媒体
JP2015094991A (ja) * 2013-11-08 2015-05-18 株式会社ニコン 画像処理装置、撮像装置および画像処理プログラム
WO2016151850A1 (ja) * 2015-03-26 2016-09-29 日立マクセル株式会社 撮像装置、信号処理装置、および肌診断システム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005242535A (ja) * 2004-02-25 2005-09-08 Omron Corp 画像補正装置
JP4396387B2 (ja) 2004-05-13 2010-01-13 オムロン株式会社 画像補正装置
JP4867365B2 (ja) * 2006-01-30 2012-02-01 ソニー株式会社 撮像制御装置、撮像装置および撮像制御方法
JP5249077B2 (ja) * 2009-02-17 2013-07-31 キヤノン株式会社 撮像装置及び画像処理方法
JP6351238B2 (ja) * 2013-11-15 2018-07-04 キヤノン株式会社 画像処理装置、撮像装置および距離補正方法
JP6299300B2 (ja) * 2014-03-14 2018-03-28 オムロン株式会社 画像処理装置および画像処理方法
JP6720881B2 (ja) * 2017-01-19 2020-07-08 カシオ計算機株式会社 画像処理装置及び画像処理方法
JP7039183B2 (ja) * 2017-05-31 2022-03-22 キヤノン株式会社 画像処理装置、画像処理方法、及びプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005237009A (ja) * 2004-02-20 2005-09-02 Lucent Technol Inc アプリケーション間で移動するための方法およびシステム
JP2007281847A (ja) * 2006-04-06 2007-10-25 Fujifilm Corp 赤目補正処理システム、赤目補正処理方法、および赤目補正処理プログラム
JP2011044132A (ja) * 2009-07-23 2011-03-03 Casio Computer Co Ltd 画像処理装置、画像処理方法及び画像処理プログラム
JP2013161348A (ja) * 2012-02-07 2013-08-19 Nikon Corp 画像補正装置、方法、及びプログラム、並びに記録媒体
JP2015094991A (ja) * 2013-11-08 2015-05-18 株式会社ニコン 画像処理装置、撮像装置および画像処理プログラム
WO2016151850A1 (ja) * 2015-03-26 2016-09-29 日立マクセル株式会社 撮像装置、信号処理装置、および肌診断システム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020154640A (ja) * 2019-03-19 2020-09-24 カシオ計算機株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP7375313B2 (ja) 2019-03-19 2023-11-08 カシオ計算機株式会社 画像処理装置、画像処理方法、及び画像処理プログラム

Also Published As

Publication number Publication date
US10929645B2 (en) 2021-02-23
US20180341804A1 (en) 2018-11-29
JP6904788B2 (ja) 2021-07-21

Similar Documents

Publication Publication Date Title
US10397486B2 (en) Image capture apparatus and method executed by image capture apparatus
WO2018176925A1 (zh) Hdr图像的生成方法及装置
JP6833415B2 (ja) 画像処理装置、画像処理方法、及びプログラム
US9813634B2 (en) Image processing apparatus and method
JP4694424B2 (ja) 認証装置
JP6904788B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP6720881B2 (ja) 画像処理装置及び画像処理方法
US10796418B2 (en) Image processing apparatus, image processing method, and program
JP7129520B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US11889202B2 (en) Image processing apparatus, image processing method, and storage medium
JP6412386B2 (ja) 画像処理装置およびその制御方法、プログラムならびに記録媒体
CN110324529B (zh) 图像处理设备及其控制方法
US20200005435A1 (en) Image processing apparatus, control method for image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium
JP4629002B2 (ja) 撮像装置
JP6740109B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US10021314B2 (en) Image processing apparatus, image capturing apparatus, method of controlling the same, and storage medium for changing shading using a virtual light source
JP5743456B2 (ja) 画像処理装置、画像処理方法及び撮像装置
JP2015119436A (ja) 撮像装置
US11523064B2 (en) Image processing apparatus, image processing method, and storage medium
JP6849351B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2018151766A (ja) 画像処理装置、画像処理方法、及びプログラム
JP6991750B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2019003694A (ja) 画像処理装置およびその制御方法、ならびにプログラム
JP2018196069A (ja) 撮像装置
JP2018152700A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200522

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210302

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210525

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210624

R151 Written notification of patent or utility model registration

Ref document number: 6904788

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151