JP2010219573A - 画像処理装置、撮像装置、画像処理方法、及び、コンピュータプログラム - Google Patents

画像処理装置、撮像装置、画像処理方法、及び、コンピュータプログラム Download PDF

Info

Publication number
JP2010219573A
JP2010219573A JP2009059699A JP2009059699A JP2010219573A JP 2010219573 A JP2010219573 A JP 2010219573A JP 2009059699 A JP2009059699 A JP 2009059699A JP 2009059699 A JP2009059699 A JP 2009059699A JP 2010219573 A JP2010219573 A JP 2010219573A
Authority
JP
Japan
Prior art keywords
area
image processing
region
image data
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009059699A
Other languages
English (en)
Other versions
JP5251629B2 (ja
Inventor
Haike Guan
海克 関
Tao Li
タオ リー
Xun Yuan
シイウン イウアン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2009059699A priority Critical patent/JP5251629B2/ja
Priority to US13/202,496 priority patent/US8792016B2/en
Priority to PCT/JP2010/050868 priority patent/WO2010095488A1/en
Priority to CN201080008528.3A priority patent/CN102326393B/zh
Priority to EP10743617.2A priority patent/EP2399397B1/en
Publication of JP2010219573A publication Critical patent/JP2010219573A/ja
Application granted granted Critical
Publication of JP5251629B2 publication Critical patent/JP5251629B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6027Correction or control of colour gradation or colour contrast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

【課題】画像中の光源に照射されている部分と光源から陰となる部分とに、それぞれ最適な画像処理を行う画像処理装置、撮像装置、画像処理方法、及び、コンピュータプログラムを提供すること。
【解決手段】入力された処理画像データを、該処理画像データの特徴量に基づいて、日向領域と日陰領域とに分離する日向日陰分離手段と、前記日向領域に適した画像処理の情報と、前記日陰領域に適した画像処理の情報と、を取得する情報取得手段と、前記日向領域に適した画像処理の情報により、前記日向領域に対する画像処理を行い、及び/又は、前記日陰処理に適した画像処理の情報により、前記日陰領域に適した画像処理を行う、画像処理手段と、を有する画像処理装置。
【選択図】図4

Description

本発明は、画像処理装置、撮像装置、画像処理方法、及び、コンピュータプログラムに関する。
従来から、デジタルカメラ等の撮像装置によって撮像された画像データに対し、ホワイトバランスの補正を行う技術がある。ホワイトバランスの補正は、例えば、画像データのR、G、Bの信号の比率を変えることにより行う。
特許第3849834号公報(特許文献1)には、オートホワイトバランスを行うために、撮影EV値を用いて光源種を判別することと、その光源種に基づいてホワイトバランスの補正を行うことが記載されている。また、例えば、特開2004−64468号公報(特許文献2)には、画像データのRGBの各色の平均値に基づいて、光源種を判定してホワイトバランス補正を行うことが記載されている。
しかしながら、上記特許文献1及び2に記載のオートホワイトバランス制御方法等の発明では、光源種に基づいて、一枚の画像のデータに対して一様に補正を行うため、一の画像の中で、複数の光源の影響がある場合については考慮されていない。
例えば、一の画像の中で、光源に照射されている部分と、陰となっている部分とでは、それぞれに異なる色特性がある。そのような画像に対し、何れか一方の光源種の影響に基づいて、ホワイトバランスの補正を行うと、他の一方の領域の色が不自然になることがある。
より詳細には、例えば、デジタルカメラのような撮影装置を用いて撮影する際に、被写体に日向領域と日陰領域とがある場合に、全画面に対して、均一なホワイトバランス処理すると日向領域又は日陰領域の色が不自然になることがある。例えば、日陰領域に人物がある場合に、背景にある日向領域に合わせて色を調整すると、人物の顔色は青くなり、不健康な色になる。日陰領域にいる人物に合わせて色を調整すると背景にある緑の森は赤くなり不自然な色になる。
このように、画像の全面に対して、一様にホワイトバランス処理を行うと、画像中に日向領域と日陰領域とが同時に存在するとき、両方の領域に最適な色再現はできない課題があった。
本発明は、上記の点に鑑みて、これらの問題を解消するために発明されたものであり、画像中の光源に照射されている部分と光源から陰となる部分とに、それぞれ最適な画像処理を行う画像処理装置、撮像装置、画像処理方法、及び、コンピュータプログラムを提供することを目的としている。
上記目的を達成するために、本発明の画像処理装置は次の如き構成を採用した。
本発明の画像処理装置は、入力された処理画像データを日向領域と日陰領域とに分離する分離手段と、前記日向領域に適した画像処理の情報と、前記日陰領域に適した画像処理の情報と、を取得する情報取得手段と、前記日向領域に適した画像処理の情報により、前記日向領域に対する画像処理を行い、前記日陰処理に適した画像処理の情報により、前記日陰領域に適した画像処理を行う、画像処理手段と、を有する構成とすることができる。
これにより、これらの問題を解消するために発明されたものであり、画像中の光源に照射されている部分と光源から陰となる部分とに、それぞれ最適な画像処理を行う画像処理装置を提供することができる。
なお、上記課題を解決するため、本発明は、上記画像処理装置を有する撮像装置、上記画像処理装置において実行される画像処理方法、及び、その画像処理方法をコンピュータに実行させるコンピュータプログラムとしてもよい。
本発明の画像処理装置、撮像装置、画像処理方法、及び、コンピュータプログラムによれば、画像中の光源に照射されている部分と光源から陰となる部分とに、それぞれ最適な画像処理を行う画像処理装置、撮像装置、画像処理方法、及び、コンピュータプログラムを提供することが可能になる。
図1は、輝度値Yと赤成分と青成分との比B/Rとの相関図である。 図2は、日向領域と日陰領域とを分離するパラメータを得る処理を行う構成を示すブロック図である。 図3は、実施形態に係る撮像装置の機能構成の例を示すブロック図である。 図4は、領域分離パラメータを説明する図である。 図5は、実施の形態にかかるデジタルカメラのハードウェア構成を示すブロック図である。 図6は、日向領域と日陰領域とを分離した結果を示す図である。 図7は、撮像装置100における画像補正処理を示すフロー図である。 図8は、実施の形態に係る画像処理装置の機能構成の例を示すブロック図である。 図9は、実施の形態に係る画像処理装置のハードウェア構成を示すブロック図である。 図10は、実施の形態に係る画像処理装置における画像補正処理を示すフロー図である。 図11は、日向領域と日陰領域とを分離するパラメータを得る処理を行う構成を示すブロック図である。 図12は、画像サンプルが有する画素の、輝度値YとBs/Rとの相関関係を示す図である。 図13は、空領域を分離するパラメータを得る処理を行う構成を示すブロック図である。 図14は、第3の実施の形態に係る画像処理装置の例を示す図である。 図15は、空識別パラメータの例を示す図である。 図16は、日向領域、日陰領域、及び、空領域を説明する図である。 図17は、撮像装置100における画像補正処理を示すフロー図である。 図18は、画像処理装置700における画像補正処理を示すフロー図である。
以下、実施の形態を図面に基づき説明する。なお、以下の説明において、日陰領域と日向領域とを「分割」する処理を、「分離」する処理ともいう。
〔日向領域と日陰領域とを分離する実施の形態〕
(日向領域と日陰領域とに分離する処理の説明)
本実施の形態における、画像を日向領域と日陰領域に分離する方法を説明する。
画像データの画素の輝度値をYとし、画素の赤成分の値Rと画素の青成分の値Bの比率B/Rを用いて、画像データから日向領域と日陰領域とを分離する。日向領域と日陰領域とを分離するため、YとB/Rの分離条件を求める。
より詳細には、予め日向領域、日陰領域の範囲の情報を有する画像データ(以下、「画像サンプル」という。)を用いて、各領域における画素毎にYとB/Rの値を求め、分離条件を得る。
図1は、輝度値Yと赤成分と青成分との比B/Rとの相関図である。画像サンプルは、画素毎に、日向領域に属するか、日陰領域に属するかの情報を有するので、それぞれの画素毎に、輝度値YとB/Rとの相関関係を求め、図1の相関図を得る。相関図では、日向領域の画素と日陰領域の画素とが、分離してそれぞれクラスタとして分布する。そこで、2つのクラスタを分離する条件を求めれば良い。
例えば、輝度値Yと比B/Rの値を用い、日向領域と、日陰領域とを分離するには、式(1)及び式(2)で表される条件に基づくとよい。より詳細には、式(1)と式(2)との条件を満足する画素を日陰領域に含まれる画素と判断する。ここで、Kは直線部の傾斜率であり、Y_threは輝度の閾値である。

Y<K・B/R (1)
Y<Y_thre (2)
式(1)及び式(2)により定められる条件により、日向領域と日陰領域との画素を分離できる。
式(1)の分離条件は、撮影条件の露出、オートホワイトバランス(以下、「AWB」という。)等の設定により、変更されることがあり、例えば、デジタルカメラにおいて撮影条件毎に決定されるとよい。また、閾値Y_threは、撮影条件によって、変わることがある。そこで、予め、複数の撮影条件に対して、それぞれの閾値を測定する実験を行い、パラメータK、Y_threをパラメータDBに記録すればよい。
図2は、日向領域と日陰領域とを分離するパラメータを得る処理を行う構成を示すブロック図である。図2の構成は、画像サンプル入力部201、パラメータ計算部202、パラメータ出力部203を有する。画像サンプル入力部201は、画像サンプルが入力される。画像サンプルは、日向領域と、日陰領域との範囲の情報を有する。
パラメータ計算部202は、それぞれの領域の画素値により、図1で説明した相関を得ることにより、パラメータKとY_threを計算する。パラメータ出力部203は、パラメータ計算部202で取得されたパラメータを出力する。
(第1の実施の形態−デジタルカメラの例)
図3は、本実施形態に係る撮像装置の機能構成の例を示すブロック図である。図3の撮像装置300は、例えば、デジタルカメラとして構成され、撮像部301、日向/日陰領域分離処理部302、画像補正処理部303、画像出力部304、カメラパラメータ入力部305、領域分割パラメータ取得部306、及び、領域分離パラメータデータベース(以下、「領域分離パラメータDB」という。)307を有する。
撮像部301は、被写体を撮像して得られた画像データを取得し、日向/日陰領域分離処理部302に入力させる。撮像部301は、例えば、デジタルカメラにおける撮像機能を実現する手段である。
日向/日陰領域分離処理部302は、撮像部301から入力された画像データに対して、日向領域と日陰領域とを分離する処理を行う。分離する処理は、領域分割パラメータ取得部306から入力される領域分離パラメータに基づく処理を行う。より詳細には、式(1)及び式(2)に示された条件に従う画素を、日陰領域の画素とし、それらの条件に従わない画素を、日向領域の画素とする。
カメラパラメータ入力部305は、デジタルカメラにおける撮影条件パラメータを取得する。撮影条件パラメータは、「カメラパラメータ」ともいう。領域分割パラメータ取得部306は、撮影条件パラメータに基づいて、領域分離パラメータを取得する。領域分離パラメータは、領域分離パラメータDB307に格納されている。
図4は、領域分離パラメータを説明する図である。図4では、撮影条件パラメータ毎に対応するK値及びY_thre値が示されている。図4に示す、K値及びY_thre値を、それぞれ、式(1)及び式(2)に代入することにより、撮影条件パラメータ毎に対応する、日向領域と日陰領域とを分離する処理が行われる。
画像補正処理部303は、分離された日向領域と日陰領域とに対し、それぞれの領域に適したオートホワイトバランス処理を行う。より詳細には、それぞれの領域のRゲイン、Gゲイン、Bゲイン、つまりR、G、B画素の比率を求め、処理を行う。画像出力部304は、画像補正処理部303により処理された画像を出力する。なお、オートホワイトバランス処理は、それぞれの領域毎に適した処理パラメータに基づいてもよい。処理パラメータは、例えば、領域分離パラメータDB307に格納され、領域分割パラメータ取得部306により読み出されることにより、画像補正処理部303に入力されるとよい。
(デジタルカメラのハードウェア構成)
図5は、本実施の形態にかかるデジタルカメラのハードウェア構成を示すブロック図である。図5の撮像装置100は、撮影光学系1、メカシャッタ2、CCD(Charge Coupled Device)3、CDS(Correlated Double Sampling:相関2重サンプリング)回路4、A/D変換器5、モータ6、タイミング信号発生器7、画像処理回路8、CPU(Central Processing Unit)9、RAM(Random Access Memory)10、ROM(Read Only Memory)11、SDRAM(SynchronousDRAM)12、圧縮伸張器13、メモリ14、操作部15、及び、液晶ディスプレイ(以下、「LCD16」という)16を有する。
被写体光は、まず撮影光学系1を通してCCD3に入射される。撮影光学系1とCCD3との間に配置されるメカシャッタ2は、CCD3への入射光を遮断することが出来る。なお、撮影光学系1及びメカシャッタ2は、モータ6により駆動される。
CCD3は、撮像面に結像された光学像を電気信号に変換し、アナログの画像データを出力する。CCD3から出力された画像データは、CDS回路4によりノイズ成分を除去され、A/D変換器5によりアナログデータがデジタルデータに変換された後、画像処理回路8に対して出力される。
画像処理回路8は、画像データを一時的に格納するSDRAM12を用いて、RGB信号をYCrCb信号に変換する処理、ホワイトバランス制御処理、コントラスト補正処理、エッジ強調処理、色変換処理等の各種画像処理を行う。ホワイトバランス制御処理は、画像情報の色濃さを調整する。コントラスト補正処理は、画像情報のコントラストを調整する。エッジ強調処理は、画像情報のシャープネスを調整し、色変換処理は、画像情報の色合いを調整する。また、画像処理回路8は、信号処理や画像処理が施された画像情報を液晶ディスプレイ16に表示する。
画像処理回路8により、画像処理が施された画像データは、圧縮伸張器13においてデータ圧縮された後、メモリ14に記録されるとよい。圧縮伸張器13は、操作部15から取得した指示により、画像処理回路8から出力される画像データを圧縮してメモリ14に出力し、また、メモリ14から読み出した画像データを伸張して画像処理回路8に出力する。
CCD3、CDS回路4及びA/D変換器5は、タイミング信号を発生するタイミング信号発生器7を介してCPU9によって、タイミングが制御されている。さらに、画像処理回路8、圧縮伸張器13、メモリ14も、CPU9によって制御されている。
撮像装置100において、CPU9はプログラムに従って各種演算処理を行い、プログラムなどを格納した読み出し専用メモリであるROM11および各種の処理過程で利用するワークエリア、各種データ格納エリアなどを有する読み出し書き込み自在のメモリであるRAM10などを内蔵し、これらがバスラインによって相互接続されている。
撮像装置100は、入力された画像データをメモリ領域SDRAM12に一時的に保存する。このとき、日向日陰領域分離処理プログラム、及び、画像補正プログラムがROM11から読み出されて起動され、日向領域と日陰領域との分離処理を行う。日向領域と日陰領域との分離処理は、ROM11に格納されている領域分離パラメータDB307からパラメータを読み出し、そのパラメータにより分離処理を行う。日向領域と日陰領域とを分離した結果は、SDRAM12に保存される。
図6は、日向領域と日陰領域とを分離した結果を示す図である。領域A及びBは日陰領域、領域C及びDは日向領域である。
次に、画像補正プログラムによる画像補正処理が行われる。日陰領域の画像に対しては、白い部分が探し出され、白い部分による日陰領域のR、G、BのゲインRg_S, Gg_S, Bg_Sが算出される。日向領域の画像に対しては、同様に、白い領域を探して、Rg_B、Gg_B、Bg_Bのゲインが算出される。日向領域及び日陰領域のそれぞれのゲインに基づいて、オートホワイトバランス処理を行う。
本実施の形態のデジタルカメラで実行される画像処理プログラムは、日向日陰分離機能、画像補正機能を含むモジュール構成となっている。CPU9が記憶媒体から画像処理プログラムを読み出して実行することにより各部が主記憶装置上にロードされ、日向領域及び日陰領域を抽出する処理と、日向領域及び日陰領域のそれぞれに対するオートホワイトバランス処理とを実行し、処理された画像データが圧縮され、メモリカード上の記憶領域に格納される。
(撮像装置100における画像補正処理の例)
図7は、撮像装置100における画像補正処理を示すフロー図である。図7のステップS101では、撮像手段により被写体が撮影され、画像データが取得される。ステップS101に続いてステップS102及びステップS104に進む。
ステップS101に続くステップS102では、ステップS101において撮像された際のカメラパラメータが取得される。ステップS102に続いてステップS103に進み、ステップS102で取得されたカメラパラメータに対応する、画像処理パラメータが取得される。画像処理パラメータは、例えば、日向領域と日陰領域とを分離する領域分離パラメータであり、例えば、図4に示すK値及びY_thre値である。
画像処理パラメータは、また例えば、画像データに対する画像処理の際に用いられる処理パラメータを含んでもよい。画像処理パラメータは、領域分離パラメータDB307に格納されているものが読み出されるとよい。
一方、ステップS101に続くステップS104では、日向領域と日陰領域との分離処理が行われる。ここでは、ステップS103で取得された領域分離パラメータにより、分離処理が行われる。
ステップS104に続いてステップS105に進み、ステップS104で分離された、日向領域及び日陰領域のそれぞれに対し、処理パラメータに基づく画像色補正の処理が行われる。これにより、日向領域と日陰領域とのそれぞれに対し、好適なオートホワイトバランス処理が行われる。なお、処理パラメータは、ステップS103において、領域分離パラメータDB307から読み出されたものでもよい。
ステップS105に続いてステップS106に進み、ステップS105で処理された画像データが出力される。
(第2の実施の形態−画像処理装置による実現)
第2の実施の形態について、図面を参照して説明する。ここでは、第1の実施の形態と異なる部分について説明する。
本実施例における画像処理装置は、撮影装置から記録した画像データが、ファイルの形式により画像入力部から入力される。入力された画像データに対して、日向日陰領域分離処理を行い、それぞれの領域についてオートホワイトバランス処理を行う。
(画像処理装置の機能構成の例)
図8は、本実施の形態に係る画像処理装置の機能構成の例を示すブロック図である。図8の画像処理装置400において、図3における撮像装置300と同一の機能及び構成を有するブロックについては同一の符号を付し、ここでは説明を省略する。
図8の画像処理装置400では、画像入力部401及びカメラパラメータ取得部405が、図3の撮像装置300と構成が異なっている。画像入力部401は、画像データをファイルの形式で取得する。例えば、外部から入力される画像データでもよく、図示しない記憶装置等から読み出される画像データでもよい。
カメラパラメータ取得部405は、画像入力部401により取得された画像データの中から、カメラパラメータを取得する。例えば、画像データから、Exifデータを取得することにより、カメラパラメータが取得される。
なお、本実施の形態の画像処理装置では、画像補正処理部303において、日陰領域にのみ画像処理を行うことにより、背景ぼかしの機能を実現してもよい。
(画像処理装置のハードウェア構成)
図9は、本実施の形態に係る画像処理装置のハードウェア構成を示すブロック図である。画像処理装置200は、RAM21、ROM22、通信インタフェース(以下、「通信I/F」という。)23、CPU24、ハードディスク装置(以下、「HDD」という。)25、CD−ROMドライブ20、及び、メモリカードドライブ27を有する。
CPU24は、画像処理装置200が有する各デバイス及び接続されている各デバイスを制御する。CPU24には、BIOSなどを記憶した読出し専用メモリであるROM(Read Only Memory)22と、各種データを書換え可能に記憶してCPUの作業エリアとして機能するRAM(Random Access Memory)21とがバスを介して接続されて、マイクロコンピュータの機能を実現する。
バスには、さらに、コンピュータプログラムが記憶されたHDD25、CD(Compact Disc)−ROMを読み取るCD−ROMドライブ20、及び、プリンタ等の外部の装置との通信を司るインタフェースである通信I/F23とが接続されている。
記録媒体28は、例えば、CD−ROMであり、CPU24が実行するコンピュータプログラムが記憶されている。CPU24は、記録媒体28に記憶されているコンピュータプログラムをCD−ROMドライブ20で読み取り、HDD25にインストールする。これにより、上述したような各種の処理を行うことが可能な状態となる。また、メモリカード29には、画像情報などが格納され、メモリカードドライブ27で読み取られる。なお、本実施の形態は、CD−ROMドライブ20及びメモリカードドライブ27に代えて、他の記憶媒体から情報を読み出すドライブ装置が接続されてもよい。
記憶媒体は、また、CD−ROMやメモリカードのみならず、DVDなどの各種の光ディスク、各種光磁気ディスク、フロッピー(登録商標)ディスクなどの各種磁気ディスク、半導体メモリ等、各種方式のメディアでもよい。
CPU24によって実行されるコンピュータプログラムは、また、インターネットなどのネットワークに接続されているサーバ装置等からダウンロードされ、HDD25にインストールされてもよい。この場合に、送信側のサーバ装置に接続され、コンピュータプログラムを記憶している記憶装置も、本実施形態に係る記憶媒体である。
本実施の形態に係るコンピュータプログラムは、所定のOS(Operating System)上で動作するものであってもよい。その場合には、後述の各種処理の一部をOSに実行させてもよく、ワープロソフト等の所定のアプリケーションソフトやOSなどを構成する一群のプログラムファイルの一部として含まれているものであってもよい。
本実施の形態のコンピュータプログラムが、CPU24によって実行されることにより、図8に示す機能の各ブロックが実現される。
(画像処理装置400における画像補正処理の例)
図10は、画像処理装置400における画像補正処理を示すフロー図である。図10のステップS201では、カメラパラメータを含む画像データのファイルが取得される。ステップS201に続いてステップS202及びステップS204に進む。
ステップS201に続くステップS202では、ステップS201において取得された画像データのファイルから、カメラパラメータが取得される。ステップS202に続いてステップS203に進み、ステップS202で取得されたカメラパラメータに対応する、画像処理パラメータが取得される。画像処理パラメータは、例えば、日向領域と日陰領域とを分離する領域分離パラメータであり、例えば、図4に示すK値及びY_thre値である。
画像処理パラメータは、また例えば、画像データに対する画像処理の際に用いられる処理パラメータを含んでもよい。画像処理パラメータは、領域分離パラメータDB307に格納されているものが読み出されるとよい。
一方、ステップS201に続くステップS204では、日向領域と日陰領域との分離処理が行われる。ここでは、ステップS203で取得された領域分離パラメータにより、分離処理が行われる。
ステップS204に続いてステップS205に進み、ステップS204で分離された、日向領域及び日陰領域のそれぞれに対し、処理パラメータに基づく画像色補正の処理が行われる。これにより、日向領域と日陰領域とのそれぞれに対し、好適なオートホワイトバランス処理が行われる。なお、処理パラメータは、ステップS203において、領域分離パラメータDB307から読み出されたものでもよい。
ステップS205では、また、オートホワイトバランス処理に代えて、背景ぼかし処理が行われてもよい。例えば、日陰領域の画素に対してぼかし処理を行うことにより、背景ぼかしの機能が実現できる。ステップS205に続いてステップS206に進み、ステップS205で処理された画像データが出力される。
(コンピュータプログラムの態様)
本実施形態の画像処理装置が有する各機能を実現するコンピュータプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、本実施形態の画像処理を実現するコンピュータプログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。また、本実施の形態に係るコンピュータプログラムを、ROM等に予め組み込んで提供するように構成してもよい。
本実施形態の画像処理装置で実行されるコンピュータプログラムは、また、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供されてもよい。
(本実施形態の画像処理装置によって処理される画像データのファイル構成の例)
本実施形態に係る画像処理装置によって処理される画像データのファイルは、被写体が撮影された際の、撮影条件が記録されているとよい。撮影条件の情報は、画像データのファイル内に記録される。
なお、本実施の形態において、「分離手段」は「日向/日陰領域分離処理部302」に対応する。「情報取得手段」は「領域分割パラメータ取得部306」に対応する。
「画像処理手段」は「画像補正処理部303」に対応する。「記憶手段」は「領域分離パラメータDB307」に対応する。「撮像手段」は、「撮像部301」に対応する。
〔空領域を日向領域とする実施の形態〕
例えば、デジタルカメラを用いて撮影する場合に、被写体に日向領域と日陰領域とがあるときに、全画面に対して均一なホワイトバランス処理をすると日向領域又は日陰領域の色が不自然になることがある。例えば、人物が日陰領域にあり、背景が日向領域にある場合に、日向領域に合わせて色を調整すると、人物の顔色は青くなり、不健康な色になる。また、日陰領域にある人物に合わせて色を調整すると、例えば、背景に緑の森がある場合には、森の色の赤味が強くなり不自然な色になる。
例えば、特開2000−224608号公報(特許文献3)に記載の撮像装置の発明では、画像の輝度および色情報を用いて、画像の光源種を推定する。推定した光源種に適したホワイトバランス制御を行う。特許文献3に記載の撮像装置では、画像全面に対して、ホワイトバランス処理を行うので、画像の中に日向領域と日陰領域とが同時に存在する場合に、両方の領域に最適な色再現を行うことは考慮されていない。
特に、画像の中に青空領域が存在する場合には、青空領域は、日陰領域として分割される傾向がある。そして、青空領域を日陰領域として分割し、色の補正を行うと、青空領域の赤味が強くなる課題がある。
そこで、本実施の形態では、青空領域を含む空領域を、日向領域として分割する例について、説明する。
(空領域を日向領域とする実施の形態における画像処理の概略)
(1)日向領域と日陰領域とを分割する
(1A)日向領域と日陰領域とを区別する情報が対応づけられている画像データから特徴データを抽出する。例えば、特徴データは、R、G、Bの値、輝度値、画像内の位置等である。
(1B)(1A)で抽出した特徴データを、学習データとして、日向領域と日陰領域とを分離する条件(以下、「日向日陰分離条件」という。)を求める。
(1C)日向日陰分離条件により、日向領域と日陰領域とを分割する。
(2)空領域を分離する
(2A)空領域と空領域ではない領域とを区別する情報が対応づけられている画像データから、特徴データを抽出する。
(2B)(2A)で抽出した特徴データを、学習データとして、空領域と空ではない領域とを分離する条件(以下、「空領域分離条件」という。)を求める。
(2C)空領域分離条件により、空領域と空でない領域を分割する。
(3)(1C)で分割された日陰領域のうち、(2C)で識別された空領域となる領域を、日向領域とする。
(4)日向領域と日陰領域とのそれぞれに対して、オートホワイトバランス処理を行う。
((1)日向領域と日陰領域とを分離する処理)
(1A)の日向領域と日陰領域とに分割する処理は、第1の実施の形態における処理と同一であるので、ここでは説明を省略する。
図11は、日向領域と日陰領域とを分離するパラメータを得る処理を行う構成を示すブロック図である。図11の構成は、画像サンプル入力部501、特徴量抽出部502、パラメータ計算部503、及び、パラメータ出力部504を有する。
画像サンプル入力部501は、画像サンプルが入力される。画像サンプルは、画素毎に、日向領域と日陰領域との何れに属するかの情報が対応づけられている。
特徴量抽出部502は、画像サンプルから特徴データを抽出する。パラメータ計算部503は、第1の実施の形態の図1で説明した相関を得ることにより、パラメータKとY_threを計算する。パラメータ出力部504は、パラメータ計算部503で計算されたパラメータを出力する。
((2)空領域を識別する処理)
画像から空領域を識別する処理について、以下説明する。
((2A)特徴量抽出)
入力された画像データから所定の特徴量を抽出する。特徴量は、例えば、輝度値Y、R成分とB成分との比B/R、等がある。なお、特徴量は、画像処理装置の特性や、被写体の特性に応じて、他の特徴量を用いてもよい。例えば、R、G、Bのそれぞれの値、輝度値、彩度、明度、又は、画素の画面内の位置等でよい。
((2B)空領域分離条件を求める)
空領域分離条件は、空識別パラメータとして求める。予め、空領域の情報を有する画像サンプルを用い、学習により分離条件を求める。図12は、画像サンプルが有する画素の、輝度値YとB/Rとの相関関係を示す図である。図12の相関図は、横軸をBs/R、縦軸をYsとする。なお、添字sは、空領域に係る値であることを表す。
図12の相関図では、空領域に含まれる画素と、空ではない領域に含まれる画素とが、それぞれ、分離したクラスタとして分布する。そこで、2つのクラスタを分離する条件を求め、これを空領域分離条件とする。空領域分離条件を表す数を、空識別パラメータという。
例えば、輝度値Ysと比Bs/Rとの値を用い、空領域と空ではない領域とを分離するには、次式(3)及び式(4)で表される条件に基づくとよい。より詳細には、式(3)と式(4)との条件を満足する画素を、空領域に含まれる画素と判断する。ここで、直線部の傾斜率Ksと、輝度値の閾値Y_threSが、空識別パラメータである。

Ys<Ks・Bs/R (3)
Ys<Y_threS (4)

式(3)及び式(4)により定められる条件により、空領域の画素を分離することができる。
式(3)及び式(4)による分離条件は、撮影する際の、露出、AWB等の設定により、変更されることがあり、例えば、デジタルカメラにおいては、撮影条件毎に決定されるとよい。また、閾値Y_threSは、撮影条件によって変わることがある。そこで、予め複数の撮影条件に対して、それぞれの空識別パラメータを測定する実験を行い、パラメータKs、Y_threSをパラメータDBに記録すればよい。
図13は、空領域を分離するパラメータを得る処理を行う構成を示すブロック図である。図13の構成は、画像サンプル入力部601、特徴量抽出部602、パラメータ計算部603、及び、パラメータ出力部604を有する。
画像サンプル入力部601は、画像サンプルが入力される。画像サンプルは、画素毎に、空領域に属するか否かの情報が対応づけられている。
特徴量抽出部602は、画像サンプルから特徴データを抽出する。パラメータ計算部603は、図12で説明した相関を得ることにより、パラメータKsとY_threSを計算する。パラメータ出力部604は、パラメータ計算部603で計算されたパラメータを出力する。
なお、日向日陰分離条件、又は、空領域分離条件を定める際に、2つ以上の特徴量を用いる場合には、特徴量の相関を多次元空間にマップさせて、分離条件、すなわち空識別パラメータを求めればよい。
((2C)空領域の分割)
(2B)で求めた空分離条件により、入力される画像データから、空領域を分離させる。これにより、画像データが、空領域と空ではない領域とに分割される。より詳細には、入力される画像データの各画素の値が、式(3)及び式(4)を満たす場合には、空領域と判断する。また、入力される画像データの各画素の値が、式(3)と式(4)との何れか一以上を満たさない場合には、空領域ではないと判断する。
((3)日向/日陰領域分割結果と空識別結果の統合)
日向領域と日陰領域とを分離した結果と空領域を分離した結果とを統合する。ここでは、(2)の処理で、空領域として分離された領域は、日向領域とする。
((4)分離処理後の画像に対するAWB)
(1)から(3)による日向領域と日陰領域との分離結果を用いて、日向領域と日陰領域とのそれぞれに対し、所定のパラメータによるAWB処理を行う。
日向領域と日陰領域を分離する際に、青空領域が存在する場合、青空領域は日陰にある被写体と同じく、青白い色合いを持つ傾向がある。そのため、空領域が日陰領域として、分離されやすく、分離後にそれぞれの領域に適した処理を行うことができない。本実施の形態によれば、空領域を日向領域とすることにより、領域毎に適する処理を行うことができる。
(第3の実施の形態−画像処理装置の例)
図14は、本実施の形態に係る画像処理装置の例を示す図である。図14の画像処理装置700は、画像入力部701、特徴量抽出部702、空領域識別部703、空識別パラメータ取得部704、空識別パラメータDB705、日向/日陰領域分離処理部706、領域分割パラメータ取得部306、領域分割パラメータデータベース(以下、「領域分割パラメータDB」という。)307、画像補正処理部303、画像出力部304、及び、カメラパラメータ入力部711を有する。
なお、図3の撮像装置300と同一の機能及び構成を有する各部は、図3と同一の符号を付し、ここでは説明を省略する。
画像入力部701は、画像データを受け付ける。画像データは、図示しない撮像装置又は画像処理装置等から入力される。特徴量抽出部702は、入力された画像データから、輝度値Y及びB/Rを抽出する。
空領域識別部703は、特徴量抽出部702で抽出された特徴量により、空領域の分離を行う。空領域識別部703は、空領域の分離を行う際の空識別パラメータを、空識別パラメータ取得部704から取得する。
空識別パラメータ取得部704は、空領域の分離を行う際の空識別パラメータを、カメラパラメータ入力部711から入力されるカメラパラメータから取得する。カメラパラメータは、画像データが図示しない撮像装置により撮像される際の、撮像装置に設定される値である。カメラパラメータの項目は、例えば、露出、露光時間、ISO感度、シャッタースピード、及び、絞り等がある。
空識別パラメータ取得部704は、カメラパラメータ入力部711から入力されるカメラパラメータに対応する空識別パラメータを取得する。空識別パラメータは、画像データから空領域を識別する際に用いるパラメータである。空識別パラメータ取得部704は、また、空領域を他の領域と区別する情報を含む画像データの特徴量から、空識別パラメータを生成するとよい。生成した空識別パラメータは、空識別パラメータDBに格納される。空識別パラメータ取得部704は、空識別パラメータDB705に格納されている空識別パラメータを、空領域識別部703に対して出力する。
図15は、空領域を分離する際に用いる、空識別パラメータの例を示す図である。図15では、異なる撮影条件毎に、図12のグラフにおける傾きKs及び輝度の上限値Y_threSが示されている。
空識別パラメータは、例えば、次のように定めるとよい。
(1) 明るい日における外光下での撮影では、露光時間が短くなる。そこで、露光時間が短い場合は、空領域の分離を行う際の輝度の閾値を、露光時間が長い場合よりも小さな値とする。
(2) 雨の日の撮影では、露光時間が長くなる。そこで、露光時間が長い場合は、空領域の分離を行う際の輝度の閾値を、露光時間が短い場合よりも大きな値とする。
空識別パラメータDB705は、空識別パラメータ取得部704により取得された空識別パラメータを保持し、空識別パラメータ取得部704に対して、その空識別パラメータを出力する。
日向/日陰領域分離処理部706は、入力された画像データに対し、日向領域と日陰領域とを分離する。日向/日陰領域分離処理部706は、特徴量抽出部702で抽出された特徴量により、日向領域と日陰領域との分離を行う。日向/日陰領域分離処理部706は、日向領域と日陰領域の分離を行う際の領域分離パラメータを、領域分割パラメータ取得部306から取得する。
日向領域と日陰領域とを分離する際の領域分離パラメータは、例えば、図1に示す相関図から得るとよい。また、日向領域と日陰領域とを分離する際の領域分離パラメータの例を、図4に示す。図1及び図4に係る説明は、第1の実施例で行っているので、ここでは省略する。
図14に戻り、日向/日陰領域分離処理部706は、さらに、空領域識別部703で分離された空領域を、日向領域とする。例えば、日向/日陰領域分離処理部706は、日向領域と日陰領域との分離を先ず行い、日陰領域として分離された領域のうち、空領域と識別された領域を日向領域に変更してもよい。これにより、「青み」の強い空領域を日陰領域と判断することを避けることができる。
(デジタルカメラのハードウェア構成)
本実施の形態にかかるデジタルカメラのハードウェア構成は、図5に示す構成と同一である。ここでは、第1の実施の形態と異なる点について説明する。
撮像装置100は、入力された画像データをメモリ領域SDRAM12に一時的に保存する。このとき、空領域分離処理プログラムがROM11から読み出されて起動され、空領域の分離処理を行う。空領域の分離処理は、ROM11からROM11に格納されている空識別パラメータDB705からパラメータを読み出し、そのパラメータにより分離処理を行う。空領域を分離した情報は、SDRAM12に保存される。
さらに、日向日陰領域分離処理プログラム、及び、画像補正プログラムがROM11から読み出されて起動され、日向領域と日陰領域との分離処理を行う。日向領域と日陰領域との分離処理は、ROM11に格納されている領域分離パラメータDB307からパラメータを読み出し、そのパラメータにより分離処理を行う。日向領域と日陰領域とを分離した結果は、SDRAM12に保存される。
本実施の形態のデジタルカメラで実行される画像処理プログラムは、空領域識別機能、日向日陰分離機能、及び、画像補正機能を含むモジュール構成となっている。CPU9が記憶媒体から画像処理プログラムを読み出して実行することにより各部が主記憶装置上にロードされ、空領域を抽出し、さらに、日向領域及び日陰領域を抽出する処理と、日向領域及び日陰領域のそれぞれに対するオートホワイトバランス処理とを実行し、処理された画像データが圧縮され、メモリカード上の記憶領域に格納される。
図16は、日向領域、日陰領域、及び、空領域を説明する図である。図16において、日陰領域は、領域A及び領域Bである。日向領域は、領域C及び領域Eである。また、空領域は、領域Sである。日向領域は、輝度Yの値が大きく、日陰領域は、輝度Yの値が小さい。また、空領域の輝度Yの値は、日向領域よりは小さい。そこで、空領域Sを日向領域とする。
次に、画像補正プログラムによる画像補正処理が行われる。日陰領域の画像に対しては、白い部分が探し出され、白い部分による日陰領域のR、G、BのゲインRg_S, Gg_S, Bg_Sが算出される。日向領域の画像に対しては、同様に、白い領域を探して、Rg_B、Gg_B、Bg_Bのゲインが算出される。日向領域及び日陰領域のそれぞれのゲインに基づいて、オートホワイトバランス処理を行う。
本実施の形態のデジタルカメラで実行される画像処理プログラムは、空領域識別機能、日向日陰分離機能、画像補正機能を含むモジュール構成となっている。CPU9が記憶媒体から画像処理プログラムを読み出して実行することにより各部が主記憶装置上にロードされ、日向領域及び日陰領域を抽出する処理と、日向領域及び日陰領域のそれぞれに対するオートホワイトバランス処理とを実行し、処理された画像データが圧縮され、メモリカード上の記憶領域に格納される。
(撮像装置100における画像補正処理の例)
図17は、撮像装置100における画像補正処理を示すフロー図である。図17のステップS501では、カメラパラメータ入力部711が、撮像手段により被写体が撮像される際のカメラパラメータを取得する。ステップS501に続いてステップS502及びステップS503に進む。ステップS502では、領域分割パラメータ取得部306が、カメラパラメータに対応する、日向領域と日陰領域とを分割する際の領域分割パラメータを取得する。一方、ステップS503では、空識別パラメータ取得部704が、カメラパラメータに対応する、空領域を識別する際の空識別パラメータを取得する。
一方、ステップS601では、画像入力部701から画像データが入力される。この画像データは、撮像手段が、ステップS501において取得されるカメラパラメータによる撮影により取得される。ステップS601に続いてステップS602に進み、特徴量抽出部702が、ステップS601で入力された画像データの特徴量を抽出する。
ステップS602に続いてステップS603に進み、ステップS602で抽出された特徴量と、ステップS503で取得された空識別パラメータと、に基づいて、ステップS601で入力された画像データにおける空領域を識別して分離する。
ステップS603に続いてステップS604に進み、日向/日陰領域分離処理部706が、ステップS602で抽出された特徴量と、ステップS502で取得された日向領域と日陰領域とを分割する際の、領域分割パラメータと、に基づいて、ステップS601で入力された画像データにおける日向領域と日陰領域とを分離する。日向/日陰領域分離処理部706は、さらに、ステップS603で取得された空領域の情報に基づいて、空領域を日向領域に加える。
ステップS604に続いてステップS605に進み、画像補正処理部303が、ステップS604で分離された、日向領域及び日陰領域のそれぞれに対し、領域の特性に適した処理を行う。画像補正処理部303は、例えば、AWB処理等の画像を補整する処理を行う。ステップS605に続いてステップS606に進み、画像出力部304が、ステップS605で画像処理が施された画像データを出力する。
(第4の実施の形態−画像処理装置による実現)
第4の実施の形態について、図面を参照して説明する。ここでは、第1ないし第3の実施の形態と異なる部分について説明する。
本実施例における画像処理装置は、撮影装置から記録した画像データが、ファイルの形式により画像入力部から入力される。入力された画像データに対して、日向日陰領域分離処理を行い、それぞれの領域についてオートホワイトバランス処理を行う。
(画像処理装置の機能構成の例)
本実施の形態に係る画像処理装置の機能構成の例は、図14の画像処理装置700と同一である。
(画像処理装置のハードウェア構成)
本実施形態に係る画像処理装置のハードウェア構成の例は、図9に示す画像処理装置200と同一である。
本実施の形態に係るコンピュータプログラムは、所定のOS(Operating System)上で動作するものであってもよい。その場合には、後述の各種処理の一部をOSに実行させてもよく、ワープロソフト等の所定のアプリケーションソフトやOSなどを構成する一群のプログラムファイルの一部として含まれているものであってもよい。
本実施の形態のコンピュータプログラムが、CPU24によって実行されることにより、図14に示す機能の各ブロックが実現される。
(画像処理装置700における画像補正処理の例)
図18は、画像処理装置700における画像補正処理を示すフロー図である。図18のステップS701では、画像入力部701から、画像ファイルが入力される。画像ファイルは、例えば、HDD25から読み出される。画像ファイルは、また、図示しない外部装置から、通信I/F23等により入力されてもよい。
ステップS701に続いて、ステップS702、ステップS704、及び、ステップS801に進む。ステップS702では、カメラパラメータ入力部711が、ステップS701で入力された画像ファイルから、カメラパラメータを取得する。例えば、画像ファイルのExifデータを取得することにより、カメラパラメータが取得される。
ステップS702に続いてステップS703に進み、領域分割パラメータ取得部306が、ステップS702で取得されたカメラパラメータに対応する、日向領域と日陰領域とを分割する際の領域分割パラメータを取得する。領域分割パラメータは、領域分割パラメータDB307から読み出される。
ステップS704では、ステップS702と同一の処理が行われる。なお、ステップS704を実行することに代えて、ステップS702に続いてステップS703とステップS705とに進んでもよい。ステップS704に続くステップS705では、空識別パラメータ取得部704が、ステップS704で取得されたカメラパラメータに対応する空領域を抽出する際の空識別パラメータを取得する。空識別パラメータは、空識別パラメータDBから読み出される。
一方、ステップS801では、ステップS701で入力された画像ファイルから、画像の特徴量を抽出する。ステップS801に続いてステップS802に進み、空領域識別部703が、ステップS801で取得された特徴量と、ステップS705で取得された空識別パラメータと、により、ステップS701で入力された画像ファイルの画像から、空領域を分離する。
ステップS802に続いてステップS803に進み、日向/日陰領域分離処理部706が、ステップS801で取得された特徴量と、ステップS703で取得された領域分割パラメータと、により、日向領域と日陰領域との分割を行う。日向/日陰領域分離処理部706は、さらに、日陰領域のうち、ステップS802で分離された空領域を、日向領域とする。
ステップS803に続いてステップS804に進み、画像補正処理部303が、ステップS803で分離された、日向領域と日向領域とに、それぞれに適する画像補正処理を行う。
なお、本実施の形態の画像処理装置では、画像補正処理部303において、日陰領域にのみ画像処理を行うことにより、背景ぼかしの機能を実現してもよい。
ステップS804に続いてステップS805に進み、画像出力部304が、ステップS804で処理された画像データを出力する。
(コンピュータプログラムの態様)
本実施形態の画像処理装置が有する各機能を実現するコンピュータプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、本実施形態の画像処理を実現するコンピュータプログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。また、本実施の形態に係るコンピュータプログラムを、ROM等に予め組み込んで提供するように構成してもよい。
本実施形態の画像処理装置で実行されるコンピュータプログラムは、また、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供されてもよい。
(本実施形態の画像処理装置によって処理される画像データのファイル構成の例)
本実施形態に係る画像処理装置によって処理される画像データのファイルは、被写体が撮影された際の、撮影条件が記録されているとよい。撮影条件の情報は、画像データのファイル内に記録される。
以上、発明を実施するための最良の形態について説明を行ったが、本発明は、この最良の形態で述べた実施の形態に限定されるものではない。本発明の主旨をそこなわない範囲で変更することが可能である。
以上のように、本発明にかかる画像処理装置は、ホワイトバランス処理に有用であり、特に、デジタルカメラに適している。
1 撮影光学系
2 メカシャッタ
3 CCD
4 CDS回路
5 A/D変換器
6 モータ
7 タイミング信号発生器
8 画像処理回路
13 圧縮伸張器
14 メモリ
15 操作部
16 液晶ディスプレイ
20 CD−ROMドライブ
21 RAM
22 ROM
23 通信I/F
24 CPU
25 HDD
27 メモリカードドライブ
28 記録媒体
29 メモリカード
100 撮像装置
200 画像処理装置
201 画像サンプル入力部
202 パラメータ計算部
203 パラメータ出力部
300 撮像装置
301 撮像部
302 日向/日陰領域分離処理部
303 画像補正処理部
304 画像出力部
305 カメラパラメータ入力部
306 領域分割パラメータ取得部
400 画像処理装置
401 画像入力部
405 カメラパラメータ取得部
501 画像サンプル入力部
502 特徴量抽出部
503 パラメータ計算部
504 パラメータ出力部
601 画像サンプル入力部
602 特徴量抽出部
603 パラメータ計算部
604 パラメータ出力部
700 画像処理装置
701 画像入力部
702 特徴量抽出部
703 空領域識別部
704 空識別パラメータ取得部
706 日向/日陰領域分離処理部
711 カメラパラメータ入力部
特許第3849834号公報 特開2004−64468号公報 特開2000−224608号公報

Claims (16)

  1. 入力された処理画像データを、該処理画像データの特徴量に基づいて、日向領域と日陰領域とに分離する日向日陰分離手段と、
    前記日向領域に適した画像処理の情報と、前記日陰領域に適した画像処理の情報と、を取得する情報取得手段と、
    前記日向領域に適した画像処理の情報により、前記日向領域に対する画像処理を行い、及び/又は、前記日陰処理に適した画像処理の情報により、前記日陰領域に適した画像処理を行う、画像処理手段と、
    を有することを特徴とする画像処理装置。
  2. 前記処理画像データの特徴量は、該処理画像データが有する画素毎の色値及び輝度値であることを特徴とする請求項1記載の画像処理装置。
  3. 日向領域の領域情報と日陰領域の領域情報とを有する第1のサンプル画像データの日向領域の特徴量と、前記第1のサンプル画像データの日陰領域の特徴量と、に基づいて、前記処理画像データを日向領域と日陰領域とに分離する際の領域分離パラメータを取得する分離パラメータ取得手段を有することを特徴とする請求項1又は2記載の画像処理装置。
  4. 前記処理画像データが、撮像手段により撮像される際のカメラパラメータと対応づけられる場合に、
    前記分離パラメータ取得手段は、前記カメラパラメータに基づいて、前記分離パラメータを取得することを特徴とする請求項3記載の画像処理装置。
  5. 前記処理画像データから、該処理画像データの特徴量に基づいて、空領域を分離する空領域分離手段を有し、
    前記日向日陰分離手段は、前記空領域を日向領域とする請求項1ないし4何れか一項に記載の画像処理装置。
  6. 空領域の領域情報を有する第2のサンプル画像データの空領域の特徴量に基づいて、前記空領域分離手段が前記処理画像データから空領域を分離する際の空識別パラメータを取得する空識別パラメータ取得手段を有することを特徴とする請求項5記載の画像処理装置。
  7. 前記処理画像データが、撮像手段により撮像される際のカメラパラメータと対応づけられる場合に、
    前記空識別パラメータ取得手段は、前記カメラパラメータに基づいて、前記空識別パラメータを取得することを特徴とする請求項6記載の画像処理装置。
  8. 前記日向領域に適した画像処理の情報及び前記日陰領域に適した画像処理の情報は、それぞれの領域に対する色値補正の情報であることを特徴とする請求項1ないし7何れか一項に記載の画像処理装置。
  9. 請求項1ないし8何れか一項に記載の画像処理装置と、
    被写体を撮像して画像データを生成して前記画像処理装置に入力させる撮像手段と、
    を有する撮像装置。
  10. 入力された処理画像データを、該処理画像データの特徴量に基づいて、日向領域と日陰領域とに分離する日向日陰分離ステップと、
    前記日向領域に適した画像処理の情報と、前記日陰領域に適した画像処理の情報と、を取得する情報取得ステップと、
    前記日向領域に適した画像処理の情報により、前記日向領域に対する画像処理を行い、及び/又は、前記日陰処理に適した画像処理の情報により、前記日陰領域に適した画像処理を行う、画像処理ステップと、
    を有することを特徴とする画像処理方法。
  11. 前記処理画像データの特徴量は、該処理画像データが有する画素毎の色値及び輝度値であることを特徴とする請求項10記載の画像処理方法。
  12. 日向領域の領域情報と日陰領域の領域情報とを有する第1のサンプル画像データの日向領域の特徴量と、前記第1のサンプル画像データの日陰領域の特徴量と、に基づいて、前記処理画像データを日向領域と日陰領域とに分離する際の領域分離パラメータを取得する分離パラメータ取得ステップを有することを特徴とする請求項10又は11記載の画像処理方法。
  13. 前記処理画像データから、該処理画像データの特徴量に基づいて、空領域を分離する空領域分離ステップを有し、
    前記日向日陰分離ステップにおいて、前記空領域を日向領域とする請求項10ないし12何れか一項に記載の画像処理方法。
  14. 空領域の領域情報を有する第2のサンプル画像データの空領域の特徴量に基づいて、前記空領域分離ステップにおいて前記処理画像データから空領域を分離する際の空識別パラメータを取得する空識別パラメータ取得ステップを有することを特徴とする請求項13記載の画像処理方法。
  15. 前記日向領域に適した画像処理の情報及び前記日陰領域に適した画像処理の情報は、それぞれの領域に対する色値補正の情報であることを特徴とする請求項10ないし14何れか一項に記載の画像処理方法。
  16. 請求項10ないし15何れか一項に記載の画像処理方法を、コンピュータに実行させるためのコンピュータプログラム。
JP2009059699A 2008-05-20 2009-03-12 画像処理装置、撮像装置、画像処理方法、及び、コンピュータプログラム Expired - Fee Related JP5251629B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2009059699A JP5251629B2 (ja) 2008-05-20 2009-03-12 画像処理装置、撮像装置、画像処理方法、及び、コンピュータプログラム
US13/202,496 US8792016B2 (en) 2009-02-20 2010-01-19 Image processing apparatus, image pickup apparatus, image processing method, and computer program
PCT/JP2010/050868 WO2010095488A1 (en) 2009-02-20 2010-01-19 Image processing apparatus, image pickup apparatus, image processing method, and computer program
CN201080008528.3A CN102326393B (zh) 2009-02-20 2010-01-19 图像处理设备、图像拾取设备和图像处理方法
EP10743617.2A EP2399397B1 (en) 2009-02-20 2010-01-19 Image processing apparatus, image pickup apparatus, image processing method, and computer program

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2008131585 2008-05-20
JP2008131585 2008-05-20
JP2009037999 2009-02-20
JP2009037999 2009-02-20
JP2009059699A JP5251629B2 (ja) 2008-05-20 2009-03-12 画像処理装置、撮像装置、画像処理方法、及び、コンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2010219573A true JP2010219573A (ja) 2010-09-30
JP5251629B2 JP5251629B2 (ja) 2013-07-31

Family

ID=42633774

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009059699A Expired - Fee Related JP5251629B2 (ja) 2008-05-20 2009-03-12 画像処理装置、撮像装置、画像処理方法、及び、コンピュータプログラム

Country Status (5)

Country Link
US (1) US8792016B2 (ja)
EP (1) EP2399397B1 (ja)
JP (1) JP5251629B2 (ja)
CN (1) CN102326393B (ja)
WO (1) WO2010095488A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013025650A (ja) * 2011-07-23 2013-02-04 Canon Inc 画像処理装置、画像処理方法およびプログラム
JP2014064162A (ja) * 2012-09-21 2014-04-10 Fujitsu Ltd 画像処理装置、方法及びプログラム
JPWO2019131198A1 (ja) * 2017-12-28 2020-12-24 ソニー株式会社 制御装置、および制御方法、プログラム、並びに移動体

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8823829B2 (en) * 2010-09-16 2014-09-02 Canon Kabushiki Kaisha Image capture with adjustment of imaging properties at transitions between regions
JP6106921B2 (ja) 2011-04-26 2017-04-05 株式会社リコー 撮像装置、撮像方法および撮像プログラム
JP6442209B2 (ja) * 2014-09-26 2018-12-19 キヤノン株式会社 画像処理装置およびその制御方法
JP2016140030A (ja) 2015-01-29 2016-08-04 株式会社リコー 画像処理装置、撮像装置、及び画像処理プログラム
WO2016154225A1 (en) * 2015-03-23 2016-09-29 Dolby Laboratories Licensing Corporation Dynamic power management for an hdr display
CN104780353B (zh) * 2015-03-26 2017-11-07 广东欧珀移动通信有限公司 一种图像处理方法及装置
CN106954022B (zh) * 2017-03-08 2019-10-25 Oppo广东移动通信有限公司 图像处理方法、装置及终端
JP7114335B2 (ja) * 2018-05-23 2022-08-08 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、及び、プログラム
JP6726324B1 (ja) * 2019-01-17 2020-07-22 オリンパス株式会社 撮像装置、画像合成方法、及び画像合成プログラム
GB201908521D0 (en) * 2019-06-13 2019-07-31 Spectral Edge Ltd Image white balance processing system and method
EP4416918A1 (en) * 2021-10-11 2024-08-21 Dolby Laboratories Licensing Corporation Context-dependent color-mapping of image and video data

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2559000B2 (ja) * 1992-09-04 1996-11-27 松下電器産業株式会社 逆光検出装置と自動レベル制御装置
JP2002281512A (ja) * 2001-03-19 2002-09-27 Sony Corp ホワイトバランス制御装置及びホワイトバランス制御方法
JP2003061103A (ja) * 2001-08-09 2003-02-28 Canon Inc 撮像装置およびホワイトバランス調整方法およびその動作処理プログラム
JP2003163944A (ja) * 2001-11-28 2003-06-06 Fuji Photo Film Co Ltd ホワイトバランス制御方法及びデジタルカメラ。
JP2008052428A (ja) * 2006-08-23 2008-03-06 Nikon Corp 画像処理方法、画像処理装置、画像処理プログラム、撮像装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3554069B2 (ja) * 1995-04-07 2004-08-11 キヤノン株式会社 撮像装置
US6493468B1 (en) * 1998-05-06 2002-12-10 Canon Kabushiki Kaisha Image processing apparatus and method
JP3849834B2 (ja) 1999-02-02 2006-11-22 富士写真フイルム株式会社 オートホワイトバランス制御方法
US6788813B2 (en) * 2000-10-27 2004-09-07 Sony Corporation System and method for effectively performing a white balance operation
JP2004064468A (ja) 2002-07-30 2004-02-26 Fuji Photo Film Co Ltd 撮像装置
EP1538848A4 (en) * 2002-09-12 2009-04-15 Panasonic Corp IMAGE PROCESSING DEVICE
US7356180B2 (en) * 2003-09-30 2008-04-08 Sharp Laboratories Of America, Inc. Systems and methods for correcting image color balance
JP4677226B2 (ja) * 2004-12-17 2011-04-27 キヤノン株式会社 画像処理装置及び方法
JP4414369B2 (ja) * 2005-06-03 2010-02-10 本田技研工業株式会社 車両及び路面標示認識装置
JP4635828B2 (ja) * 2005-11-07 2011-02-23 コニカミノルタホールディングス株式会社 撮像装置、画像処理装置、画像処理方法及び画像処理プログラム
JP5116393B2 (ja) * 2007-07-31 2013-01-09 キヤノン株式会社 画像処理装置及び画像処理方法
JP2009110137A (ja) 2007-10-29 2009-05-21 Ricoh Co Ltd 画像処理装置、画像処理方法及び画像処理プログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2559000B2 (ja) * 1992-09-04 1996-11-27 松下電器産業株式会社 逆光検出装置と自動レベル制御装置
JP2002281512A (ja) * 2001-03-19 2002-09-27 Sony Corp ホワイトバランス制御装置及びホワイトバランス制御方法
JP2003061103A (ja) * 2001-08-09 2003-02-28 Canon Inc 撮像装置およびホワイトバランス調整方法およびその動作処理プログラム
JP2003163944A (ja) * 2001-11-28 2003-06-06 Fuji Photo Film Co Ltd ホワイトバランス制御方法及びデジタルカメラ。
JP2008052428A (ja) * 2006-08-23 2008-03-06 Nikon Corp 画像処理方法、画像処理装置、画像処理プログラム、撮像装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013025650A (ja) * 2011-07-23 2013-02-04 Canon Inc 画像処理装置、画像処理方法およびプログラム
US9256928B2 (en) 2011-07-23 2016-02-09 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and storage medium capable of determining a region corresponding to local light from an image
JP2014064162A (ja) * 2012-09-21 2014-04-10 Fujitsu Ltd 画像処理装置、方法及びプログラム
JPWO2019131198A1 (ja) * 2017-12-28 2020-12-24 ソニー株式会社 制御装置、および制御方法、プログラム、並びに移動体
JP7151725B2 (ja) 2017-12-28 2022-10-12 ソニーグループ株式会社 制御装置、および制御方法、プログラム、並びに移動体
US11822341B2 (en) 2017-12-28 2023-11-21 Sony Corporation Control device, control method, and mobile object to estimate the mobile object's self-position

Also Published As

Publication number Publication date
EP2399397B1 (en) 2020-04-08
CN102326393B (zh) 2014-12-17
CN102326393A (zh) 2012-01-18
EP2399397A1 (en) 2011-12-28
JP5251629B2 (ja) 2013-07-31
WO2010095488A1 (en) 2010-08-26
US8792016B2 (en) 2014-07-29
EP2399397A4 (en) 2014-07-30
US20110298946A1 (en) 2011-12-08

Similar Documents

Publication Publication Date Title
JP5251629B2 (ja) 画像処理装置、撮像装置、画像処理方法、及び、コンピュータプログラム
US8014627B2 (en) Image processing apparatus, imaging apparatus, image processing method, and computer program product
US8351731B2 (en) Image processing apparatus, imaging apparatus, image processing method, and computer program product
JP4803284B2 (ja) 画像処理装置、及び画像処理プログラム
JP4803178B2 (ja) 画像処理装置、コンピュータプログラム製品および画像処理方法
JP6720881B2 (ja) 画像処理装置及び画像処理方法
US9185265B2 (en) Image processing method and image processing apparatus for performing a tone correction to acquire a combined image
JP2005136852A (ja) 画像処理方法、画像処理装置および画像処理プログラム
JP5589660B2 (ja) 画像処理装置、撮像装置及び画像処理プログラム
CN109104601B (zh) 检测装置、图像处理装置、检测方法以及图像处理方法
JP2008109305A (ja) 画像処理装置および画像処理装置の制御方法
US9432646B2 (en) Image processing apparatus, image processing method, program and electronic apparatus
JP5181913B2 (ja) 画像処理装置、撮像装置、画像処理方法及びプログラム
US8743230B2 (en) Digital photographing apparatus, method for controlling the same, and recording medium storing program to execute the method
JP2011044989A (ja) 画像処理装置、画像処理プログラムおよび画像処理方法
JP2006180078A (ja) 電子カメラ、画像処理装置および画像処理プログラム
US8131101B2 (en) Image processing method and image processing apparatus
JP2008071014A (ja) 画像処理プログラム、画像処理装置および電子カメラ
JP2007150491A (ja) カメラ、および画像管理プログラム
JP4335727B2 (ja) 顔抽出を行うディジタルカメラ
JP2017229025A (ja) 画像処理装置、画像処理方法、及びプログラム
JP5606300B2 (ja) 撮像装置及び撮像装置の制御方法
JP5264541B2 (ja) 撮像装置及びその制御方法
JP2009205610A (ja) 画像分類装置、画像分類方法、画像分類プログラム及び記憶媒体
JP5881350B2 (ja) 画像処理装置、画像処理方法、および画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130401

R151 Written notification of patent or utility model registration

Ref document number: 5251629

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160426

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees