JP2007235365A - 撮像装置、画像処理方法及び画像処理プログラム - Google Patents

Abstract

【課題】撮影者の好みに合致した画像を提供する。
【解決手段】撮影により取得された第１の画像から画像サイズを縮小した第２の画像を取得し（ステップＳ５）、第２の画像に基づいて撮影シーンを判別する（ステップＳ６）。撮影シーンの判別結果に基づいて、第１の画像に対する複数の階調処理条件を設定する（ステップＳ７）。複数の階調処理条件には、基準階調処理条件と、基準階調処理条件を変更することにより設定されたその他の階調処理条件とが含まれる。基準階調処理条件、その他の階調処理条件に基づいて、第１の画像に対しそれぞれ階調変換処理を行い（ステップＳ９、ステップＳ１３）、階調変換処理が行われた複数の画像を記録する（ステップＳ１２、ステップＳ１６）。
【選択図】図１３

Description

本発明は、カラー画像を取得する撮像装置、画像処理方法及び画像処理プログラムに関する。

近年、デジタルスチルカメラ（携帯電話機やラップトップパソコン等の機器に組み込まれたものを含む。以下、ＤＳＣと略称する。）が広く普及し、従来のカラー写真フィルムのシステムと同様に、ハードコピー画像として出力したり、ＣＲＴ等の媒体に表示したり、ＣＤ−Ｒ（ＣＤ−Recordable）等の記録媒体に記録したりするシステムが広く利用されている。

ＤＳＣ等で撮影された画像を、種々の媒体を通じて画像として鑑賞する際には、撮影時の露出調整の不備等により、逆光で撮影された人物の顔が暗くなる等、そのままでは鑑賞用画像として適切でない場合が多い。

そのため、撮影者の好みに合った露出画像を選択できるように、一度の撮影で露出を段階的に変更した撮影を連続的に行うオートブラケット機能を搭載したＤＳＣが普及している。しかし、オートブラケット撮影は数回の撮影を行うため、撮影のタイムラグが生じ、例えば、被写体の動きが速いシーンを撮影する場合には同じシーンを撮影することができない。また、逆光下でフラッシュ撮影を行う場合には、元々の露出設定の不備等で、露出を何段階かに振ったにもかかわらず、好みの露出を得られない場合がある。

また、画像データの輝度ヒストグラムを解析することにより、画像のシーンを判別し、画像シーンに応じて画像処理を自動的に施す方法が提案されている（特許文献１参照）。
特開２０００−１３４４６７号公報

しかしながら、撮影者の趣向は多様であり、自動的に処理された画像が必ずしも撮影者の好みに合致するとは限らなかった。

本発明は、上記の従来技術における問題に鑑みてなされたものであって、撮影者の好みに合致した画像を提供することを課題とする。

上記課題を解決するために、請求項１に記載の発明は、撮影により取得された第１の画像から画像サイズを縮小した第２の画像を取得する第２の画像取得手段と、前記第２の画像に基づいて撮影シーンを判別するシーン判別処理手段と、前記シーン判別処理手段により判別された撮影シーンの判別結果に基づいて、前記第１の画像に対する複数の階調処理条件を設定する階調処理条件設定手段と、前記階調処理条件設定手段により設定された複数の階調処理条件に基づいて、前記第１の画像に対しそれぞれ階調変換処理を行う階調変換処理手段と、前記階調変換処理手段により階調変換処理が行われた複数の画像を記録する記録手段と、を備えたことを特徴とする撮像装置である。

請求項２に記載の発明は、請求項１に記載の撮像装置において、前記階調処理条件設定手段は、前記シーン判別処理手段により判別された撮影シーンの判別結果に基づいて、前記第１の画像に対する基準階調処理条件を設定し、前記基準階調処理条件を変更することにより、その他の複数の階調処理条件を設定することを特徴とする。

請求項３に記載の発明は、請求項１又は２に記載の撮像装置において、前記シーン判別処理手段は、前記第２の画像の画像データから色情報を取得する色情報取得手段と、前記取得された色情報に基づいて、前記画像データを所定の明度と色相の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第１の占有率を算出する第１の占有率算出手段と、前記取得された色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第２の占有率を算出する第２の占有率算出手段と、前記第１の占有率に予め設定された第１の係数を乗算することにより、第１の指標を算出する第１の指標算出手段と、前記第１の占有率に予め設定された第２の係数を乗算することにより、第２の指標を算出する第２の指標算出手段と、前記第２の占有率に予め設定された第３の係数を乗算することにより、第３の指標を算出する第３の指標算出手段と、少なくとも前記画像データの画面中央部における肌色の平均輝度に、予め設定された第４の係数を乗算することにより、第４の指標を算出する第４の指標算出手段と、前記第１の指標、前記第２の指標及び前記第３の指標のうち少なくとも一つ以上の指標に予め設定された第５の係数を乗算することにより、第５の指標を算出する第５の指標算出手段と、前記第１の指標、前記第２の指標及び前記第３の指標のうち少なくとも一つ以上の指標に予め設定された第６の係数を乗算することにより、第６の指標を算出する第６の指標算出手段と、前記第４の指標、前記第５の指標及び前記第６の指標に基づいて、前記画像データの撮影シーンを特定するシーン判別手段と、を備えたことを特徴とする。

請求項４に記載の発明は、撮影により取得された第１の画像から画像サイズを縮小した第２の画像を取得する第２の画像取得工程と、前記第２の画像に基づいて撮影シーンを判別するシーン判別処理工程と、前記シーン判別処理工程において判別された撮影シーンの判別結果に基づいて、前記第１の画像に対する複数の階調処理条件を設定する階調処理条件設定工程と、前記階調処理条件設定工程において設定された複数の階調処理条件に基づいて、前記第１の画像に対しそれぞれ階調変換処理を行う階調変換処理工程と、前記階調変換処理工程において階調変換処理が行われた複数の画像を記録する記録工程と、を含むことを特徴とする画像処理方法である。

請求項５に記載の発明は、請求項４に記載の画像処理方法において、前記階調処理条件設定工程では、前記シーン判別処理工程において判別された撮影シーンの判別結果に基づいて、前記第１の画像に対する基準階調処理条件を設定し、前記基準階調処理条件を変更することにより、その他の複数の階調処理条件を設定することを特徴とする。

請求項６に記載の発明は、請求項４又は５に記載の画像処理方法において、前記シーン判別処理工程は、前記第２の画像の画像データから色情報を取得する色情報取得工程と、前記取得された色情報に基づいて、前記画像データを所定の明度と色相の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第１の占有率を算出する第１の占有率算出工程と、前記取得された色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第２の占有率を算出する第２の占有率算出工程と、前記第１の占有率に予め設定された第１の係数を乗算することにより、第１の指標を算出する第１の指標算出工程と、前記第１の占有率に予め設定された第２の係数を乗算することにより、第２の指標を算出する第２の指標算出工程と、前記第２の占有率に予め設定された第３の係数を乗算することにより、第３の指標を算出する第３の指標算出工程と、少なくとも前記画像データの画面中央部における肌色の平均輝度に、予め設定された第４の係数を乗算することにより、第４の指標を算出する第４の指標算出工程と、前記第１の指標、前記第２の指標及び前記第３の指標のうち少なくとも一つ以上の指標に予め設定された第５の係数を乗算することにより、第５の指標を算出する第５の指標算出工程と、前記第１の指標、前記第２の指標及び前記第３の指標のうち少なくとも一つ以上の指標に予め設定された第６の係数を乗算することにより、第６の指標を算出する第６の指標算出工程と、前記第４の指標、前記第５の指標及び前記第６の指標に基づいて、前記画像データの撮影シーンを特定するシーン判別工程と、を含むことを特徴とする。

請求項７に記載の発明は、コンピュータに、撮影により取得された第１の画像から画像サイズを縮小した第２の画像を取得する第２の画像取得機能と、前記第２の画像に基づいて撮影シーンを判別するシーン判別処理機能と、前記シーン判別処理機能により判別された撮影シーンの判別結果に基づいて、前記第１の画像に対する複数の階調処理条件を設定する階調処理条件設定機能と、前記階調処理条件設定機能により設定された複数の階調処理条件に基づいて、前記第１の画像に対しそれぞれ階調変換処理を行う階調変換処理機能と、前記階調変換処理機能により階調変換処理が行われた複数の画像を記録する記録機能と、を実現させるための画像処理プログラムである。

請求項８に記載の発明は、請求項７に記載の画像処理プログラムにおいて、前記階調処理条件設定機能を実現させる際に、前記シーン判別処理機能により判別された撮影シーンの判別結果に基づいて、前記第１の画像に対する基準階調処理条件を設定させ、前記基準階調処理条件を変更することにより、その他の複数の階調処理条件を設定させることを特徴とする。

請求項９に記載の発明は、請求項７又は８に記載の画像処理プログラムにおいて、前記シーン判別処理機能は、前記第２の画像の画像データから色情報を取得する色情報取得機能と、前記取得された色情報に基づいて、前記画像データを所定の明度と色相の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第１の占有率を算出する第１の占有率算出機能と、前記取得された色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第２の占有率を算出する第２の占有率算出機能と、前記第１の占有率に予め設定された第１の係数を乗算することにより、第１の指標を算出する第１の指標算出機能と、前記第１の占有率に予め設定された第２の係数を乗算することにより、第２の指標を算出する第２の指標算出機能と、前記第２の占有率に予め設定された第３の係数を乗算することにより、第３の指標を算出する第３の指標算出機能と、少なくとも前記画像データの画面中央部における肌色の平均輝度に、予め設定された第４の係数を乗算することにより、第４の指標を算出する第４の指標算出機能と、前記第１の指標、前記第２の指標及び前記第３の指標のうち少なくとも一つ以上の指標に予め設定された第５の係数を乗算することにより、第５の指標を算出する第５の指標算出機能と、前記第１の指標、前記第２の指標及び前記第３の指標のうち少なくとも一つ以上の指標に予め設定された第６の係数を乗算することにより、第６の指標を算出する第６の指標算出機能と、前記第４の指標、前記第５の指標及び前記第６の指標に基づいて、前記画像データの撮影シーンを特定するシーン判別機能と、を含むことを特徴とする。

請求項１、４、７に記載の発明によれば、１回の撮影で階調処理条件が異なる複数の画像を生成することができるため、撮影者の好みに合致した画像を提供することができる。

請求項２、５、８に記載の発明によれば、基準階調処理条件に基づいて複数の階調処理条件を設定することができる。

請求項３、６、９に記載の発明によれば、撮影シーンを正確に特定することができる。

（撮像装置１００の構成）
以下、本発明の実施形態における撮像装置１００の構成について説明する。
図１（ａ）は、撮像装置１００の前面図であり、図１（ｂ）は、撮像装置１００の背面図である。撮像装置１００は、例えば、デジタルカメラであり、金属又は合成樹脂等の材料で構成された筐体１の内部又は表面に、十字キー２、撮影光学系３、フラッシュ４、ファインダ５、電源スイッチ６、表示部７、レリーズボタン８が設けられている。

図２に、撮像装置１００の内部構成を示す。撮像装置１００は、図２に示すように、プロセッサ３１、メモリ３２、ＣＣＤ（Charge Coupled Device）等の撮像素子３３、撮影光学系３、画像データ出力部３４、操作部３５、タイミングジェネレータ３６、シャッタユニット３７、絞りユニット３８、フォーカスユニット３９、表示部７により構成される。プロセッサ３１は、画像処理を行う画像処理部１０と、撮影制御や撮影画像の処理を行う撮影処理部２０とを含む。

十字キー２は、上下左右の４方向のボタンからなり、ユーザが種々のモードを選択又は設定するためのものである。

撮影光学系３は、複数のレンズ、鏡胴等によって構成され、ズーム機能を有している。撮影光学系３は、レンズが受光した光を撮像素子３３に結像させる。フラッシュ４は、被写体輝度が低い時に、プロセッサ３１からの制御信号により補助光を照射する。

ファインダ５は、ユーザが接眼して撮影対象及び撮影領域を確認するためのものである。電源スイッチ６は、撮像装置１００における動作のＯＮ／ＯＦＦを操作するためのスイッチである。

表示部７は、液晶パネルにより構成され、プロセッサ３１から入力される表示制御信号に従って、撮像素子３３に現在写っている画像、過去に撮影した画像、メニュー画面、設定画面等を表示する。

レリーズボタン８は、筐体１の上面に設けられており、ユーザによる半押し状態（予備撮影）と全押し状態（本撮影）とを区別して検出可能な２段階押し込みスイッチである。

メモリ３２は、撮影によって得られた画像データを記憶（保存）する。また、メモリ３２は、撮像装置１００において実行される各種処理プログラム及び当該処理プログラムで利用されるデータ等を記憶する。

画像データ出力部３４は、保存用の記録媒体（ＳＤメモリカード又はマルチメディアカード（ＭＭＣ）等）にメモリ３２内の画像データを転送し、記録する。あるいは外部装置へ転送する。画像データ出力部３４はプロセッサ３１により制御される。

撮像素子３３は、結像された光を電荷に変換する。これにより、例えば、図１２（ａ）に示すような画像データが得られる。この画像には、撮像範囲（撮影範囲）にある物、すなわち、撮影対象物（撮影の目標物）とそれ以外の物（背景）とが含まれている。この全体画像の各画素のＲＧＢ値は、例えば、２５６階調で表される。

シャッタユニット３７は、レリーズボタン８によって検出された状態（半押し状態又は全押し状態）に基づいて撮像素子３３をリセットするタイミング及び電荷変換を行うタイミング等を制御する。タイミングの制御はタイミングジェネレータ３６により行われる。

撮像素子３３が受光する光量の調節は、絞りユニット３８及び／又はシャッタユニット３７によって行われる。フォーカスユニット３９は、撮影光学系３を駆動させ撮影被写体に対して焦点を合わせる制御動作を実行する。

（撮影処理部２０の内部構成）
図３に、撮影処理部２０の内部構成を示す。撮影処理部２０は、撮影時に撮影条件に関わる制御や、撮影された画像の処理を行う。

図３に示すように、撮影処理部２０は、撮影条件に関わるＡＥ制御部２１、ＡＦ制御部２２、画素補間部２３、ＡＷＢ制御部２４、ガンマ補正部２５等により構成される。

ＡＥ制御部２１は、画像撮影時にその露光量の自動制御を行う。通常、撮影待機時の露光量制御は、絞り開放でシャッタ速度を制御することによって行われ、撮影時の露光量は絞りとシャッタ速度とで制御される。

図４（ａ）のフローチャートを参照して、ＡＥ制御部２１における撮影待機時の露光量制御例を説明する。

まず、絞りユニット３８により、絞りが開放固定絞りに設定される（ステップＳ１１１）。ＡＥ制御部２１により、撮像素子３３によって得られた画像データから所定の測光エリアのデータが読み出され（ステップＳ１１２）、輝度値に相当する情報が取得される（ステップＳ１１３）。この輝度値に相当する情報は、ＡＥ制御のための情報として用いられ、簡易的にＲＧＢ３色成分のうちのＧ値が用いられることが多い（以下、これを輝度情報Ｇと呼ぶ）。この輝度情報Ｇに応じて撮像素子３３の次のフレームにおける電荷蓄積時間が設定され（ステップＳ１１４）、タイミングジェネレータ３６により、所定の輝度レベルとなるように、次のフレームにおける電荷蓄積時間が制御される（ステップＳ１１７）。これがシャッタ速度の制御であり、電荷が蓄積される様子を図５に示す。すなわち、取得した輝度レベルが大きい（明るい）ときは電荷蓄積時間が短くなり、輝度レベルが小さい（暗い）ときは電荷蓄積時間が長くなることで、露光量を安定させる。

このように撮影待機時の露光量制御が行われることにより、撮影者は液晶等の表示部７で露光量制御されたライブビュー画像を見ることができる。

実際の撮影時には、上記のシャッタ速度制御に加えて、絞りの制御も行われる。図４（ｂ）は、ＡＥ制御部２１における実際の撮影時の露光量制御例を示すフローチャートである。上記同様（ステップＳ１１２、Ｓ１１３）に得られた測光エリアの輝度情報Ｇに応じて、絞りユニット３８が制御され、絞り値が設定される（ステップＳ１１６）。すなわち、取得した輝度レベルが大きい（明るい）ときは絞り値を小さくし、輝度レベルが小さい（暗い）ときは絞り値を大きくすることで、露光量を安定させる。シャッタ速度と組み合わせての調節レベルは、予め定められたプログラム線図のデータに基づき、例えば、撮像素子３３の電荷蓄積時間が絞り値に応じて調整される等の制御が行われる（ステップＳ１１５、Ｓ１１７）。

このように撮影時に露光量制御が行われることで、撮影者は任意の、あるいは既定の、絞り値とシャッタ速度の組み合わせで、撮影画像に対する露光量設定を自動的に行うことができる。

ＡＦ制御部２２は、画像撮影時に画像の焦点を合わせる自動制御を行う。この合焦点制御は、例えば、図６のフローチャートに示すように、撮影光学系３を駆動することで合焦点位置を検知し、その位置に合わせて停止させることで行われる。

撮影光学系３の駆動が開始されると（ステップＳ１２１）、その駆動に伴い逐次、ＡＦ制御部２２により、撮像素子３３によって得られた画像データから所定の測距エリアのデータが読み出され（ステップＳ１２２）、このデータに応じてコントラスト情報が取得される（ステップＳ１２３）。これは、合焦点位置に達したかどうかを検知するためであり、次のように判定される。すなわち、コントラスト情報は、測距エリアのデータの各隣接画素間の差を取ることにより、エッジ部のシャープさに依存するように設定、算出されるものであり、測距エリア全体での総和が最大に達した状態が合焦点と判断される（ステップＳ１２４、Ｓ１２５）。合焦点位置でないと判断された場合は（ステップＳ１２５；Ｎｏ）、撮影光学系３の駆動が継続される（ステップＳ１２６）。

撮影光学系３の移動に伴うコントラスト情報の変化と合焦点位置検出の様子を図７に示す。上記動作は、光学系を駆動しながら逐次コントラスト情報を取得して、合焦点位置を求めるという測距演算が行われたものであり、その焦点距離に合わせて撮影光学系３は停止される（ステップＳ１２７）。

このようなＡＦ制御により、撮影時に常に自動的にピントの合った撮影画像を得ることができる。

画素補間部２３は、撮像素子３３におけるＲＧＢ各色成分を分散配置したＣＣＤ配列に対して、各色成分毎に画素間の補間を行い、同一画素位置で各色成分値が得られるように画像データを処理する。

図８のフローチャートに示すように、画素補間部２３は、撮像素子３３によって得られたＲＧＢ画像データ（ステップＳ１３１）をＲＧＢの各画素フィルタパターンでマスキングし（ステップＳ１３２、Ｓ１３４、Ｓ１３６）、その後で平均補間（画素補間ともいう）を行う（ステップＳ１３３、Ｓ１３５、Ｓ１３７）。このうち、高帯域にまで画素を有するＧの画素フィルタパターンは、周辺４画素の中間２値の平均値に置換して平均補間を行うメディアン（中間値）フィルタであり、ＲとＢの画素フィルタパターンは、周辺９画素から同色に対して平均補間を行うものである。

ＡＷＢ制御部２４は、撮影画像におけるホワイトバランスを自動的に調整する。撮影された画像は、その中にＲＧＢのカラーバランスがとれている（総和すればホワイト）被写体領域があるものという想定で、その領域のホワイトバランスを達成するように、画像のＲＧＢの各成分値に対するレベル調整を行う。このホワイトバランス処理は、例えば以下のように行われる。

図９のフローチャートに示すように、ＡＷＢ制御部２４は、撮像素子３３によって得られた画像データの輝度や彩度のデータから（ステップＳ１４１）、本来ホワイトであると思われる領域を推測する（ステップＳ１４２）。その領域について、ＲＧＢ各成分値の平均強度、及びＧ／Ｒ比、Ｇ／Ｂ比を求め、Ｇ値に対するＲ値、Ｂ値の補正ゲインを算出する（ステップＳ１４３、Ｓ１４４）。これに基づき、画像全体における各色成分に対するゲインの補正を行う（ステップＳ１４５）。

このようなＡＷＢ制御により、撮影時に生ずる画面全体のカラーバランスの崩れを自動的に補正することができ、実際の被写体の照明状態に拘わらず、安定した色調の画像を得ることができる。

ガンマ補正部２５は、撮影画像の階調性を出力機器のガンマ特性に適するように変換する処理を行う。

ガンマ特性とは階調特性のことであり、入力階調に対してどのように出力階調を設定するかを補正値あるいは補正曲線等で示すものである。図１０に、入力値に対して、補正した出力値を示す補正曲線の例を示す。ガンマ補正は、この補正値あるいは補正曲線等に従い、入力値に対する出力値への変換を行う変換処理である。出力機器によってこの階調特性は異なるため、その出力機器に適した階調とするために、このガンマ特性の補正を行う必要がある。これにより撮影されたリニア画像はノンリニア画像に変換されることになる。

出力機器としては一般的にはモニタが設定され、一般的なモニタのガンマ特性に合うように撮影画像のガンマ補正が行われる。

（画像処理部１０の内部構成）
図１１に、画像処理部１０の内部構成を示す。画像処理部１０は、撮像装置１００における撮影画像に対して、シーン判別に基づく階調の補正動作を制御するものであり、撮影処理部２０での処理後に、あるいはその処理とは独立して、画像取得、シーン判別、階調処理条件設定等の一連の処理を実行する。

図１１に示すように、画像処理部１０は、第１画像取得部１１、第２画像取得部１２、占有率算出部１３、指標算出部１４、シーン判別部１５、階調処理条件設定部１６、階調変換処理部１７により構成される。

第１画像取得部１１は、レリーズボタン８が全押しされたタイミングで、撮像素子３３に写った最新の画像の画像データを第１の画像として取得する。また、撮影時における撮影条件も合わせて取得する。取得した第１の画像の画像データ及び撮影条件はメモリ３２に保持される。

第２画像取得部１２は、取得した第１の画像を、Ｎ×Ｍ個の矩形の領域（垂直方向にＭ個及び水平方向にＮ個に分割された領域）に分割する。図１２（ａ）に、第１の画像の一例を示し、図１２（ｂ）に、当該第１の画像が２２×１４個の領域に分割された例を示す。なお、分割領域の数は特に限定されない。分割された各領域が第２の画像の画像データの１画素に相当する。すなわち、第２の画像は、実質的にサイズが縮小された画像となる。この縮小された画像が第２の画像であり、上記操作により第２の画像を取得することになる。

占有率算出部１３は、第２の画像の画像データ、すなわち画像を構成する各画素から色情報を取得する。取得された色情報に基づいて、画像の各画素を、明度と色相の組み合わせからなる所定の階級に分類し（図１６参照）、分類された階級毎に、当該階級に属する画素が画像全体に占める割合を示す第１の占有率を算出する。

また、占有率算出部１３は、各画素を、第２の画像の画面の外縁からの距離と明度の組み合わせからなる所定の階級に分類し（図１７参照）、分類された階級毎に、当該階級に属する画素が画像全体に占める割合を示す第２の占有率を算出する。

占有率算出部１３において実行される占有率算出処理については、後に図１５を参照して詳細に説明する。

指標算出部１４は、占有率算出部１３で算出された第１の占有率に、撮影条件に応じて予め設定された係数を乗算することにより、撮影シーンを特定するための指標１及び指標２を算出する。すなわち、指標算出部１４は、第１の指標算出手段及び第２の指標算出手段として機能する。

また、指標算出部１４は、占有率算出部１３で算出された第２の占有率に、撮影条件に応じて予め設定された係数を乗算することにより、撮影シーンを特定するための指標３を算出する。すなわち、指標算出部１４は、第３の指標算出手段として機能する。

さらに、指標算出部１４は、第２の画像の画面中央部における肌色領域の平均輝度値（指標７とする）、最大輝度値と平均輝度値との差分値等に、撮影条件に応じて予め設定された係数を乗算することにより、撮影シーンを特定するための指標４を算出する。すなわち、指標算出部１４は、第４の指標算出手段として機能する。

また、指標算出部１４は、第２の画像の画面中央部における肌色領域の平均輝度値と、指標１及び指標３に、それぞれ、撮影条件に応じて予め設定された係数を乗算して和をとることにより、新たな指標５を算出する。すなわち、指標算出部１４は、第５の指標算出手段として機能する。

また、指標算出部１４は、第２の画像の画面中央部における肌色領域の平均輝度値と、指標２及び指標３に、それぞれ、撮影条件に応じて予め設定された係数を乗算して和をとることにより、新たな指標６を算出する。すなわち、指標算出部１４は、第６の指標算出手段として機能する。

指標算出部１４において実行される指標算出処理については、後に図１８を参照して詳細に説明する。

シーン判別部１５は、指標算出部１４で算出された各指標に基づいて、第１の画像の撮影シーンを特定する。ここで、撮影シーンとは、順光、逆光、近接フラッシュ等の被写体を撮影する時の光源条件を示しており、主要被写体（主に人物のことを指すが、これに限るものではない）のオーバー度、アンダー度等もこれに含まれる。撮影シーンの判別方法については、後に詳細に説明する。

以上のように、占有率算出部１３、指標算出部１４、そしてシーン判別部１５がシーン判別処理手段として機能する。

階調処理条件設定部１６は、シーン判別部１５で判別された撮影シーンに基づいて、第１の画像に対する複数の階調処理条件を設定する。階調処理条件の設定については、後に図２４を参照して詳細に説明する。

階調変換処理部１７は、階調処理条件設定部１６において設定された複数の階調処理条件に基づいて、第１の画像に対しそれぞれ階調変換処理を行う。

プロセッサ３１は、画像処理部１０で行われる処理以外に、公知技術に基づいて、自動ホワイトバランス処理、ガンマ変換処理等の撮影処理部２０での処理や、その他の画像処理、画像フォーマット変換、画像データの記録等の処理動作を制御する機能を有する。

またプロセッサ３１における各部の処理は、基本的にハードウェア処理によって行われるが、一部についてはメモリ３２に記憶（保存）されているプログラムを実行する等してソフトウェア処理によって行われる。

（撮像装置１００の動作）
次に、本実施形態における撮像装置１００の動作について説明する。以下では、撮影対象物を「主要被写体」と呼ぶことにする。

まず、図１３のフローチャートを参照して、撮像装置１００で実行される処理の全体の流れを説明する。

まず、電源スイッチ６がＯＮに操作されると（電源が投入されると）、メモリ３２のリセット等の前処理が行われる。ユーザは、主要被写体が撮像装置１００の被写界に入るように撮像装置１００をその主要被写体の方に向け、撮影のための操作を関始する。レリーズボタン８が押されて撮影が行われると（ステップＳ１）、撮像素子３３に結像した画像は電気信号として取り込まれ、ＣＣＤ配列に基づく補間処理が行われる（ステップＳ２）。そして、第１画像取得部１１により、撮影画像として第１の画像が取得され、メモリ３２に保持される（ステップＳ３）。第１の画像はリニア画像（ＲＡＷ画像）である。

一方、撮影とともに撮影条件の取り込みが行われる。撮影条件は、撮影画像がＥｘｉｆ形式（Exchangeable Image File Format）で記録される際に、合わせて記録されるものである。取得した撮影条件はメモリ３２に保持される。

撮影により取得された第１の画像には、ＡＷＢ（自動ホワイトバランス）処理が施される（ステップＳ４）。これは以下に述べる第２の画像の取得が行われてから、第１の画像と第２の画像とに対して別々に処理されてもよい。

ＡＷＢ処理の後、第２画像取得部１２により、第１の画像の画像データの画像サイズが縮小され、第２の画像として取得される（ステップＳ５）。実際の画像データのサイズ縮小方法は、単純平均やバイリニア法やバイキュービック法等の公知の技術を用いることができる。

次いで、取得された第２の画像の画像データに基づいて、撮影シーンを判別するシーン判別処理が行われる（ステップＳ６）。シーン判別処理については、後に図１４を参照して説明する。

次いで、シーン判別処理で得られた各指標及び撮影シーンの判別結果に基づいて、第１の画像に対する複数の階調処理条件が設定される（ステップＳ７）。複数の階調処理条件には、基準階調処理条件及びその他の階調処理条件が含まれる。階調処理条件設定については、後に図２４を参照して説明する。

一方、ＡＷＢ処理後の第１の画像については、ガンマ変換処理が行われ、ノンリニア画像に変換される（ステップＳ８）。ただし、ガンマ変換処理は階調の変換処理であり、次に述べるステップＳ９又はステップＳ１３の階調変換処理と合わせて行ってもよい。ガンマ変換は視覚に合わせてノンリニアの階調に変換するものであるが、ステップＳ９又はステップＳ１３の階調変換処理は撮影シーンの光源条件等による階調への影響を補正するものである。

次いで、ステップＳ７において設定された基準階調処理条件に基づいて、撮影画像である第１の画像の画像データに対する階調変換処理が行われる（ステップＳ９）。そして、階調変換処理後の画像データに対して、その他の画像処理（ノイズ処理やシャープネス処理等）が行われる（ステップＳ１０）。

次いで、画像記録のため、ＪＰＥＧ形式、ＴＩＦＦ形式、ＢＭＰ形式等の画像へと画像フォーマットの変換が行われ（ステップＳ１１）、画像フォーマット変換後の画像データが、保存用の記録媒体（ＳＤメモリカード又はマルチメディアカード（ＭＭＣ）等）に記録される（ステップＳ１２）。

また、ガンマ変換処理後の第１の画像の画像データに対して、ステップＳ７において設定されたその他の階調処理条件に基づいて、階調変換処理が行われる（ステップＳ１３）。そして、階調変換処理後の画像データに対して、その他の画像処理（ノイズ処理やシャープネス処理等）が行われる（ステップＳ１４）。

次いで、画像記録のため、ＪＰＥＧ形式、ＴＩＦＦ形式、ＢＭＰ形式等の画像へと画像フォーマットの変換が行われ（ステップＳ１５）、画像フォーマット変換後の画像データが、保存用の記録媒体に記録される（ステップＳ１６）。

次の撮影に移るか、あるいは電源スイッチ６がＯＦＦに操作されると、撮像装置１００における動作は終了する。

（シーン判別処理）
次に、図１４〜図２３を参照して、撮像装置１００でのシーン判別処理（図１３のステップＳ６）について説明する。

シーン判別処理は、図１４に示すように、色空間変換処理（ステップＳ２０）、占有率算出処理（ステップＳ２１）、指標算出処理（ステップＳ２２）、シーン判別（ステップＳ２３）の各処理により構成される。以下、図１４に示す各処理について詳細に説明する。

＜色空間変換処理＞
図１４のステップＳ２０の色空間変換処理では、まず、撮影された第１の画像から得られた第２の画像の各画素のＲＧＢ値、輝度値及びホワイトバランスを示す情報が取得される。なお、輝度値としては、ＲＧＢ値を公知の変換式に代入して算出した値を用いてもよい。次いで、取得されたＲＧＢ値がＨＳＶ表色系に変換され、画像の色情報が取得される。ＨＳＶ表色系とは、画像データを色相（Hue）、彩度（Saturation）、明度（Value又はBrightness）の３つの要素で表すものであり、マンセルにより提案された表色体系を元にして考案されたものである。ＨＳＶ表色系への変換は、ＨＳＶ変換プログラム等を用いて行われ、通常、入力であるＲ、Ｇ、Ｂに対して、算出された色相値Ｈは、スケールを０〜３６０と定義し、彩度値Ｓ、明度値Ｖは、単位を０〜２５５と定義している。

なお、本実施形態において、「明度」は特に注釈を設けない限り一般に用いられる「明るさ」の意昧である。以下の記載において、ＨＳＶ表色系のＶ（０〜２５５）を「明度」として用いるが、他の如何なる表色系の明るさを表す単位系を用いてもよい。その際、本実施形態で記載する各種係数等の数値を、改めて算出し直すことは言うまでもない。

また、本実施形態において、「色相」は特に注釈を設けない限り一般に用いられる「色」の意味である。以下の記載において、ＨＳＶ表色系のＨ（０〜３６０）を「色相」として用いるが、例えば赤色差値（Ｃｒ）や青色差値（Ｃｂ）によって表現される色を用いてもよい。その際、本実施形態で記載する各種係数等の数値を、改めて算出し直すことは言うまでもない。ステップＳ２０では、上記のようにして求められたＨ、Ｓ、Ｖの値が色情報として取得される。

＜占有率算出処理＞
次に、図１５のフローチャートを参照して、占有率算出処理（図１４のステップＳ２１）について説明する。

まず、色空間変換処理で算出されたＨＳＶ値に基づいて、第２の画像の各画素が、色相と明度の組み合わせからなる所定の階級に分類され、分類された階級毎に累積画素数を算出することによって２次元ヒストグラムが作成される（ステップＳ３０）。

図１６に、明度と色相の組み合わせからなる階級を示す。ステップＳ３０では、明度（Ｖ）は、明度値が０〜５（ｖ１）、６〜１２（ｖ２）、１３〜２４（ｖ３）、２５〜７６（ｖ４）、７７〜１０９（ｖ５）、１１０〜１４９（ｖ６）、１５０〜２５５（ｖ７）の７つの階級に分割される。図１６に示すように、最も低明度の階級における明度の範囲よりも、最も高明度の階級における明度の範囲の方が広い。

色相（Ｈ）は、色相値が０〜３９、３３０〜３５９の肌色色相領域（Ｈ１及びＨ２）、色相値が４０〜１６０の緑色色相領域（Ｈ３）、色相値が１６１〜２５０の青色色相領域（Ｈ４）、赤色色相領域（Ｈ５）の４つの領域に分割される。なお、赤色色相領域（Ｈ５）は、撮影シーンの判別への寄与が少ないとの知見から、以下の計算では用いていない。肌色色相領域は、さらに、肌色領域（Ｈ１）と、それ以外の領域（Ｈ２）に分割される。以下、肌色色相領域（Ｈ＝０〜３９、３３０〜３５９）のうち、下記の式（１）を満たす色相’（Ｈ）を肌色領域（Ｈ１）とし、式（１）を満たさない領域を（Ｈ２）とする。

10＜彩度（Ｓ）＜175；
色相’（Ｈ）＝色相（Ｈ）＋60 （0≦色相（Ｈ）＜300のとき）；
色相’（Ｈ）＝色相（Ｈ）−300 （300≦色相（Ｈ）＜360のとき）．
輝度（Ｙ）＝Ｒ×0.30＋Ｇ×0.59＋Ｂ×0.11 （Ａ）
として、
色相’（Ｈ）／輝度（Ｙ）＜3.0×（彩度（Ｓ）／255）＋0.7 （１）

従って、第２の画像における階級の数は４×７＝２８個となる。また、最大の明度値（２５５）の１割の値以内に、少なくとも３つの階級（ｖ１、ｖ２、ｖ３）を有する。なお、式（Ａ）及び式（１）において明度（Ｖ）を用いることも可能である。

ステップＳ３０の後、第２の画像の各画素が、画面の外縁からの距離と明度の組み合わせからなる所定の階級に分類され、分類された階級毎に累積画素数を算出することによって２次元ヒストグラムが作成される（ステップＳ３１）。

図１７（ａ）に、ステップＳ３１において、第２の画像の画面の外縁からの距離に応じて分割された３つの領域ｎ１〜ｎ３を示す。領域ｎ１が外枠であり、領域ｎ２が外枠の内側の領域であり．領域ｎ３が第２の画像の中央部の領域である。ここで、ｎ１〜ｎ３は略同等の画素数となるように分割することが好ましい。また本実施形態においては３つの分割としたがこれに限定されるものではない。また、ステップＳ３１において、明度は、上述のようにｖ１〜ｖ７の７つの領域に分割するものとする。図１７（ｂ）に、３つの領域ｎ１〜ｎ３と明度の組み合わせからなる階級を示す。図１７（ｂ）に示すように、第２の画像を画面の外縁からの距離と明度の組み合わせからなる階級に分類した場合の階級の数は３×７＝２１個となる。

ステップＳ３０において２次元ヒストグラムが作成されると、色相と明度の組み合わせからなる所定の階級毎に算出された累積画素数の全画素数（Ｎ×Ｍ個）に占める割合を示す第１の占有率が算出される（ステップＳ３２）。すなわち、ステップＳ３０及びステップＳ３２は第１の占有率算出工程に相当する。

明度領域ｖi、色相領域Ｈjの組み合わせからなる階級において算出された第１の占有率をＲijとすると、各階級における第１の占有率は表１のように表される。

ステップＳ３１において２次元ヒストグラムが作成されると、画面の外縁からの距離と明度の組み合わせからなる所定の階級毎に算出された累積画素数の全画素数に占める割合を示す第２の占有率が算出され（ステップＳ３３）、占有率算出処理が終了する。すなわち、ステップＳ３１及びステップＳ３３は第２の占有率算出工程に相当する。

明度領域ｖi、画面領域ｎjの組み合わせからなる各階級において算出された第２の占有率をＱijとすると、各階級における第２の占有率は表２のように表される。

なお、各画素を画面の外縁からの距離、明度及び色相からなる階級に分類し、分類された階級毎に累積画素数を算出することによって３次元ヒストグラムを作成してもよい。以下では、２次元ヒストグラムを用いる方式を採用するものとする。

＜指標算出処理＞
次に、図１８のフローチャートを参照して、指標算出処理（図１４のステップＳ２２）について説明する。

まず、占有率算出処理において階級毎に算出された第１の占有率に、撮影条件に応じて予め設定された係数（第１の係数）を乗算して和をとることにより、撮影シーンを特定するための指標１が算出される（ステップＳ４０）。指標１は、主要被写体のオーバー度を表す指標であり、「主要被写体がオーバー」と判別されるべき画像のみを他の撮影シーンから分離するためのものである。

次いで、同じく階級毎に算出された第１の占有率に、撮影条件に応じて予め設定された第１の係数とは異なる係数（第２の係数）を乗算して和をとることにより、撮影シーンを特定するための指標２が算出される（ステップＳ４１）。指標２は、空色高明度、顔色低明度等の逆光撮影時の特徴を複合的に表す指標であり、「逆光」、「主要被写体がアンダー」と判別されるべき画像のみを他の撮影シーンから分離するためのものである。

以下、指標１及び指標２の算出方法について詳細に説明する。
表３に、指標１を算出するために必要な第１の係数を階級別に示す。表３に示された各階級の係数は、表１に示した各階級の第１の占有率Ｒijに乗算する重み係数であり、撮影条件に応じて予め設定されている。

表３によると、高明度（ｖ６）の肌色色相領域（Ｈ１）に分布する領域から算出される第１の占有率には、正（＋）の係数が用いられ、それ以外の色相である青色色相領域から算出される第１の占有率には、負（−）の係数が用いられる。図１９は、肌色領域（Ｈ１）における第１の係数と、その他の領域（緑色色相領域（Ｈ３））における第１の係数を、明度全体に渡って連続的に変化する曲線（係数曲線）として示したものである。表３及び図１９によると、高明度（Ｖ＝７７〜１５０）の領域では、肌色領域（Ｈ１）における第１の係数の符号は正（＋）であり、その他の領域（例えば、緑色色相領域（Ｈ３））における第１の係数の符号は負（−）であり、両者の符号が異なっていることがわかる。

明度領域ｖi、色相領域Ｈjにおける第１の係数をＣijとすると、指標１を算出するためのＨｋ領域の和は、式（２）のように定義される。

従って、Ｈ１〜Ｈ４領域の和は、下記の式（２−１）〜（２−４）のように表される。
Ｈ１領域の和＝Ｒ11×0＋Ｒ21×0＋(中略)…＋Ｒ71×(-8) （２−１）
Ｈ２領域の和＝Ｒ12×(-2)＋Ｒ22×(-1)＋(中略)…＋Ｒ72×(-10) （２−２）
Ｈ３領域の和＝Ｒ13×5＋Ｒ23×(-2)＋(中略)…＋Ｒ73×(-12) （２−３）
Ｈ４領域の和＝Ｒ14×0＋Ｒ24×(-1)＋(中略)…＋Ｒ74×(-12) （２−４）

指標１は、式（２−１）〜（２−４）で示されたＨ１〜Ｈ４領域の和を用いて、式（３）のように定義される。
指標１＝Ｈ１領域の和＋Ｈ２領域の和＋Ｈ３領域の和＋Ｈ４領域の和＋1.5
（３）

表４に、指標２を算出するために必要な第２の係数を階級別に示す。表４に示された各階級の係数は、表１に示した各階級の第１の占有率Ｒijに乗算する重み係数であり、撮影条件に応じて予め設定されている。

表４によると、肌色色相領域（Ｈ１）の中間明度に分布する領域（ｖ４、ｖ５）から算出される占有率には負（−）の係数が用いられ、肌色色相嶺域（Ｈ１）の低明度（シャドー）領域（ｖ２、ｖ３）から算出される占有率には係数０が用いられる。図２０は、肌色領域（Ｈ１）における第２の係数を、明度全体にわたって連続的に変化する曲線（係数曲線）として示したものである。表４及び図２０によると、肌色色相領域の、明度値が２５〜１５０の中間明度領域の第２の係数の符号は負（−）であり、明度値６〜２４の低明度（シャドー）領域の第２の係数は０であり、両領域での係数に大きな違いがあることがわかる。

明度領域ｖi、色相領域Ｈjにおける第２の係数をＤijとすると、指標２を算出するためのＨｋ領域の和は、式（４）のように定義される。

従って、Ｈ１〜Ｈ４領域の和は、下記の式（４−１）〜（４−４）のように表される。
Ｈ１領域の和＝Ｒ11×0＋Ｒ21×0＋(中略)…＋Ｒ71×2 （４−１）
Ｈ２領域の和＝Ｒ12×(-2)＋Ｒ22×(-1)＋(中略)…＋Ｒ72×2 （４−２）
Ｈ３領域の和＝Ｒ13×2＋Ｒ23×1＋(中略)…＋Ｒ73×3 （４−３）
Ｈ４領域の和＝Ｒ14×0＋Ｒ24×(-1)＋(中略)…＋Ｒ74×3 （４−４）

指標２は、式（４−１）〜（４−４）で示されたＨ１〜Ｈ４領域の和を用いて、式（５）のように定義される。
指標２＝Ｈ１領域の和＋Ｈ２領域の和＋Ｈ３領域の和＋Ｈ４領域の和＋1.7
（５）

指標１及び指標２は、第２の画像の明度と色相の分布量に基づいて算出されるため、画像がカラー画像である場合の撮影シーンの判別に有効である。

指標１及び指標２が算出されると、占有率算出処理において階級毎に算出された第２の占有率に、撮影条件に応じて予め設定された第３の係数（第１の係数、第２の係数とは異なる係数）を乗算して和をとることにより、撮影シーンを特定するための指標３が算出される（ステップＳ４２）。指標３は、主要被写体がアンダーな逆光と主要被写体がオーバーな画像間における、画像データの画面の中心と外側の明暗関係の差異を示すものである。

以下、指標３の算出方法について説明する。
表５に、指標３を算出するために必要な第３の係数を階級別に示す。表５に示された各階級の係数は、表２に示した各階級の第２の占有率Ｑijに乗算する重み係数であり、撮影条件に応じて予め設定されている。

図２１は、画面領域ｎ１〜ｎ３における第３の係数を、明度全体に渡って連続的に変化する曲線（係数曲線）として示したものである。

明度領域ｖi、画面領域ｎjにおける第３の係数をＥijとすると、指標３を算出するためのｎｋ領域（画面領域ｎｋ）の和は、式（６）のように定義される。

従って、ｎ１〜ｎ３領域の和は、下記の式（６−１）〜（６−３）のように表される。
ｎ１領域の和＝Ｑ11×12＋Ｑ21×10＋(中略)…＋Ｑ71×0 （６−１）
ｎ２領域の和＝Ｑ12×5＋Ｑ22×3＋(中略)…＋Ｑ72×0 （６−２）
ｎ３領域の和＝Ｑ13×(-1)＋Ｑ23×(-4)＋(中略)…＋Ｑ73×(-8) （６−３）

指標３は、式（６−１）〜（６−３）で示されたｎ１〜ｎ３領域の和を用いて、式（７）のように定義される。
指標３＝ｎ１領域の和＋ｎ２領域の和＋ｎ３領域の和＋0.7 （７）

指標３は、第２の画像の明度の分布位置による構図的な特徴（全体画像の画面の外縁からの距離）に基づいて算出されるため、カラー画像だけでなくモノクロ画像の撮影シーンを判別するのにも有効である。

また、例えば公知の方法によって検出された焦点検出領域に応じて、画面の外縁からの距離と明度の所定の階級から算出される第２占有率に対して乗算される第３の係数の重みを変えることで、より高精度にシーンを判別する指標を算出することが可能である。

指標１〜３が算出されると、第２の画像の画面中央部における肌色領域の平均輝度値、第２の画像の最大輝度植と平均輝度値との差分値等に、撮影条件に応じて予め設定された係数（第４の係数）を乗算することにより、撮影シーンを特定するための指標４が算出される（ステップＳ４３）。

以下、図２２のフローチャートを参照して、指標４算出処理について詳細に説明する。
まず、第２の画像のＲＧＢ（Red、Green、Blue）値から、式（Ａ）を用いて輝度Ｙが算出される。次いで、第２の画像の画面中央部における肌色領域の平均輝度値ｘ１が算出される（ステップＳ５０）。ここで、画面中央部とは、例えば図１７（ａ）に示した領域ｎ３により構成される領域である。次いで、第２の画像の最大輝度値と平均輝度値との差分値ｘ２＝最大輝度値−平均輝度値が算出される（ステップＳ５１）。

次いで、第２の画像の輝度の標準偏差ｘ３が算出され（ステップＳ５２）、画面中央部における平均輝度値ｘ４が算出される（ステップＳ５３）。次いで、第２の画像における肌色領域の最大輝度値Ｙskin_maxと最小輝度値Ｙskin_minの差分値と、肌色領域の平均輝度値Ｙskin_aveとの比較値ｘ５が算出される（ステップＳ５４）。この比較値ｘ５は、下記の式（８−１）のように表される。
ｘ５＝（Ｙskin_max−Ｙskin_min）／２−Ｙskin_ave （８−１）

次いで、ステップＳ５０〜Ｓ５４で算出された値ｘ１〜ｘ５の値の各々に、撮影条件に応じて予め設定された第４の係数を乗算して和をとることにより、指標４が算出され（ステップＳ５５）、指標４算出処理が終了する。指標４は、下記の式（８−２）のように定義される。
指標４＝0.05×ｘ１＋1.41×ｘ２＋(-0.01)×ｘ３
＋(-0.01)×ｘ４＋0.01×ｘ５−5.34 （８−２）

この指標４は、第２の画像の画面の構図的な特徴だけでなく、輝度ヒストグラム分布情報を持ち合わせており、特に、主要被写体がオーバーである撮影シーンとアンダー撮影シーンの判別に有効である。

図１８に戻り、指標４が算出されると、指標１、指標３及び第２の画像の画面中央部における肌色領域の平均輝度値に、撮影条件に応じて予め設定された重み係数（第５の係数）を乗算することにより、指標５が算出される（ステップＳ４４）。

さらに、指標２、指標３及び第２の画像の画面中央部における肌色領域の平均輝度値に、撮影条件に応じて予め設定された重み係数（第６の係数）を乗算することにより、指標６が算出され（ステップＳ４５）、本指標算出処理が終了する。

以下、指標５及び指標６の算出方法について詳細に説明する。
第２の画像の画面中央部における肌色領域の平均輝度値を指標７とする。ここでの画面中央部とは、例えば、図１７（ａ）の領域ｎ２及び領域ｎ３から構成される領域である。このとき、指標５は、指標１、指標３、指標７を用いて式（９）のように定義され、指標６は、指標２、指標３、指標７を用いて式（１０）のように定義される。
指標５＝0.54×指標１＋0.50×指標３＋0.01×指標７−0.65 （９）
指標６＝0.83×指標２＋0.23×指標３＋0.01×指標７−1.17 （１０）

なお、図２２における平均輝度値（例えば、全体平均輝度値）の算出方法としては、撮像装置１００の各受光部から得られた個別輝度データの単純な加算平均値を求めてもよいし、撮像装置１００の測光方式としてよく用いられる中央重点平均測光に類似した、画面中心付近の受光部より得られた輝度データに重み付けを高く、画面の周辺付近の受光部より得られた輝度データに重み付けを低くして加算平均値を求める手法を用いてもよい。また、焦点検出領域に対応した受光部付近より得られた輝度データに重み付けを高くし、焦点検出位置から離れた受光部より得られた輝度データに重み付けを低くして加算平均値を求める手法等を用いてもよい。

＜シーン判別＞
図１４に戻って、シーン判別（ステップＳ２３）を説明する。
指標４〜６が算出されると、これらの指標の値に基づいて撮影シーンが判別される。表６に、指標４、指標５及び指標６の値による撮影シーンの判別内容を示す。

図２３は、表６に示した判別内容を、指標４〜６の座標系を用いて表した判別マップである。

（階調処理条件設定）
次に、図２４のフローチャートを参照して、ガンマ変換処理後の第１の画像に対する階調処理条件設定（図１３のステップＳ７）について説明する。

まず、判別された撮影シーンに応じて、第１の画像の画像データに対する階調調整方法が決定され（ステップＳ６０）、階調調整パラメータが算出される（ステップＳ６１）。そして、階調調整パラメータに基づいて、基準階調処理条件（階調変換曲線）が設定され（ステップＳ６２）、基準階調処理条件に基づいて、その他の複数の階調処理条件が設定される（ステップＳ６３）。

＜階調調整方法決定＞
ステップＳ６０で階調調整方法を決定する場合、図２５に示すように、撮影シーンが順光である場合は階調調整方法Ａ（図２５（ａ））が選択され、逆光である場合は階調調整方法Ｂ（図２５（ｂ））が選択され、主要被写体がオーバーである場合は階調調整方法Ｃ（図２５（ｃ））が選択され、アンダーである場合は、階調調整方法Ｂ（図２５（ｂ））が選択される。

なお、本実施形態においては、第１の画像のガンマ変換後の画像へ適用する階調変換曲線を決定する方法を示したが、階調変換処理をガンマ変換の前に実施する場合には、図２５の階調変換曲線に対して、ガンマ変換の逆変換を施した曲線で階調変換が行われる。

＜階調調整パラメータ算出＞
階調調整方法が決定されると、ステップＳ６１では、指標算出処理で算出された各指標に基づいて、階調調整に必要なパラメータが算出される。以下、階調調整パラメータの算出方法について説明する。なお、以下では、８bitの撮影画像データは１６bitへと事前に変換されているものとし、撮影画像データの値の単位は１６bitであるものとする。

階調調整に必要なパラメータ（階調調整パラメータ）として、下記のＰ１〜Ｐ９のパラメータが算出される。
Ｐ１：撮影画面全体の平均輝度
Ｐ２：ブロック分割平均輝度
Ｐ３：肌色領域（Ｈ１）の平均輝度
Ｐ４：輝度補正値１＝Ｐ１−Ｐ２
Ｐ５：再現目標修正値＝輝度再現目標値（30360）−Ｐ４
Ｐ６：オフセット値１＝Ｐ５−Ｐ１
Ｐ７：キー補正値
Ｐ７’：キー補正値２
Ｐ８：輝度補正値２
Ｐ９：オフセット値２＝Ｐ５−Ｐ８−Ｐ１

ここで、図２６及び図２７を参照して、パラメータＰ２（ブロック分割平均輝度）の算出方法について説明する。
まず、画像データを正規化するために、ＣＤＦ（累積密度関数）を作成する。次いで、得られたＣＤＦから最大値と最小値を決定する。この最大値と最小値は、ＲＧＢ毎に求める。ここで、求められたＲＧＢ毎の最大値と最小値を、それぞれ、Ｒmax、Ｒmin、Ｇmax、Ｇmin、Ｂmax、Ｂminとする。

次いで、画像データの任意の画素（Ｒx、Ｇx、Ｂx）に対する正規化画像データを算出する。ＲプレーンにおけるＲxの正規化データをＲpoint、ＧプレーンにおけるＧxの正規化データをＧpoint、ＢプレーンにおけるＢxの正規化データをＢpointとすると、正規化データＲpoint、Ｇpoint、Ｂpointは、それぞれ、式（１１）〜式（１３）のように表される。

Ｒpoint＝｛（Ｒx−Ｒmin）／（Ｒmax−Ｒmin）｝×65535 （１１）；
Ｇpoint＝｛（Ｇx−Ｇmin）／（Ｇmax−Ｇmin）｝×65535 （１２）；
Ｂpoint＝｛（Ｂx−Ｂmin）／（Ｂmax−Ｂmin）｝×65535 （１３）．

次いで、式（１４）により画素（Ｒx、Ｇx、Ｂx）の輝度Ｎpointを算出する。
Ｎpoint＝（Ｂpoint＋Ｇpoint＋Ｒpoint）／３ （１４）

図２６（ａ）は、正規化する前のＲＧＢ画素の輝度の度数分布（ヒストグラム）である。図２６（ａ）において、横軸は輝度、縦軸は画素の頻度である。このヒストグラムは、ＲＧＢ毎に作成する。輝度のヒストグラムが作成されると、式（１１）〜式（１３）により、画像データに対し、プレーン毎に正規化を行う。図２６（ｂ）は、式（１４）により算出された輝度のヒストグラムを示す。撮影画像データが６５５３５で正規化されているため、各画素は、最大値が６５５３５で最小値が０の間で任意の値をとる。

図２６（ｂ）に示す輝度ヒストグラムを所定の範囲で区切ってブロックに分割すると、図２６（ｃ）に示すような度数分布が得られる。図２６（ｃ）において、横軸はブロック番号（輝度）、縦軸は頻度である。

次いで、図２６（ｃ）に示された輝度ヒストグラムから、ハイライト、シャドー領域を削除する処理を行う。これは、白壁や雪上シーンでは、平均輝度が非常に高くなり、暗闇のシーンでは平均輝度は非常に低くなっているため、ハイライト、シャドー領域は、平均輝度制御に悪影響を与えてしまうことによる。そこで、図２６（ｃ）に示した輝度ヒストグラムのハイライト領域、シャドー領域を制限することによって、両領域の影響を減少させる。図２７（ａ）（又は図２６（ｃ））に示す輝度ヒストグラムにおいて、高輝度領域（ハイライト領域）及び低輝度領域（シャドー領域）を削除すると、図２７（ｂ）のようになる。

次いで、図２７（ｃ）に示すように、輝度ヒストグラムにおいて、頻度が所定の閾値より大きい領域を削除する。これは、頻度が極端に多い部分が存在すると、この部分のデータが、撮影画像全体の平均輝度に強く影響を与えてしまうため、誤補正が生じやすいことによる。そこで、図２７（ｃ）に示すように、輝度ヒストグラムにおいて、閾値以上の画素数を制限する。図２７（ｄ）は、画素数の制限処理を行った後の輝度ヒストグラムである。

正規化された輝度ヒストグラムから、高輝度領域及び低輝度領域を削除し、さらに、累積画素数を制限することによって得られた輝度ヒストグラム（図２７（ｄ））の各ブロック番号と、それぞれの頻度に基づいて、輝度の平均値を算出したものがパラメータＰ２である。

パラメータＰ１は、画像データ全体の輝度の平均値であり、パラメータＰ３は、画像データのうち肌色領域（Ｈ１）の輝度の平均値である。パラメータＰ７のキー補正値、パラメータＰ７’のキー補正値２、パラメータＰ８の輝度補正値２は、それぞれ、式（１５）、式（１６）、式（１７）のように定義される。

Ｐ７（キー捕正値）＝{Ｐ３−((指標６／６)×18000＋22000)}／24.78 （１５）
Ｐ７’（キー補正値２）＝{Ｐ３−((指標４／６)×10000＋30000)}／24.78
（１６）
Ｐ８（輝度補正値２）＝（指標５／６）×17500 （１７）

＜基準階調処理条件設定＞
図２４に戻り、階調調整パラメータが算出されると、ステップＳ６２では、その算出された階調調整パラメータに基づいて、撮影画像データに対する基準階調処理条件が設定される。具体的には、既に決定された階調調整方法に対応して予め設定された複数の階調変換曲線の中から、撮影シーンに応じて選択されたパラメータの値に対応する階調変換曲線が選択（決定）される。あるいは、パラメータの値に基づいて、階調変換曲線を算出するようにしてもよい。

以下、各撮影シーン（光源条件及び露出条件）毎に、階調変換曲線の決定方法（ステップＳ６２での基準階調処理条件の決定）について説明する。

＜＜順光の場合＞＞
撮影シーンが順光である場合、パラメータＰ６を用いて、Ｐ１をＰ５と一致させるオフセット補正（８bit値の平行シフト）を下記の式（１８）により行う。
出力画像のＲＧＢ値＝入力画像のＲＧＢ値＋Ｐ６ （１８）

従って、撮影シーンが順光の場合、図２５（ａ）に示す複数の階調変換曲線の中から、式（１８）に対応する階調変換曲線が選択される。または、式（１８）に基づいて階調変換曲線を算出（決定）してもよい。

＜＜逆光の場合＞＞
撮影シーンが逆光である場合、図２５（ｂ）に示す複数の階調変換曲線の中から、パラメータＰ７（キー補正値）に対応する階調変換曲線が選択される。図２５（ｂ）の階調変換曲線の具体例を図２８に示す。パラメータＰ７の値と、選択される階調変換曲線の対応関係を以下に示す。

−50＜Ｐ７＜＋50 の場合→Ｌ３
＋50≦Ｐ７＜＋150 の場合→Ｌ４
＋150≦Ｐ７＜＋250 の場合→Ｌ５
−150＜Ｐ７≦−50 の場合→Ｌ２
−250＜Ｐ７≦−150 の場合→Ｌ１

なお、撮影シーンが逆光の場合、この階調変換処理とともに、覆い焼き処理を併せて行うことが好ましい。この場合、逆光度を示す指標６に応じて覆い焼き処理の程度も調整されることが望ましい。

＜＜アンダーの場合＞＞
撮影シーンがアンダーである場合、図２５（ｂ）に示す複数の階調変換曲線の中から、パラメータＰ７’（キー補正値２）に対応する階調変換曲線が選択される。具体的には、撮影シーンが逆光の場合の階調変換曲線の選択方法と同様に、図２８に示す階調変換曲線の中から、パラメータＰ７’の値に対応した階調変換曲線が選択される。なお、撮影シーンがアンダーである場合は、逆光の場合に示したような覆い焼き処理は行わない。

＜＜主要被写体がオーバーの場合＞＞
主要被写体がオーバーである場合、パラメータＰ９を用いてオフセット補正（８bit値の平行シフト）を式（１９）により行う。
出力画像のＲＧＢ値＝入力画像のＲＧＢ値十Ｐ９ （１９）

従って、主要被写体がオーバーの場合、図２５（ｃ）に示す複数の階調変換曲線の中から、パラメータＰ９に対応する階調変換曲線が選択される。または、式（１９）に基づいて階調変換曲線を算出（決定）してもよい。なお、式（１９）のパラメータＰ９の値が、予め設定された所定値αを上回った場合、図２８に示す曲線Ｌ１〜Ｌ５の中から、キー補正値がＰ９−αに対応する曲線が選択される。

なお、本実施形熊では、実際に撮影画像データに対して階調変換処理を施す場合、上述の階調変換処理条件を１６bitから８bitへ変更するものとする。

＜その他の階調処理条件設定＞
ステップＳ６３では、基準階調処理条件に基づいて、その他の複数の階調処理条件が設定される。例えば、基準階調処理条件を設定する際の階調調整パラメータの値を上下に振って階調処理条件を変更したり、基準階調処理条件として決定された階調変換曲線をシフト又は変形させたりして、その他の複数の階調処理条件を設定する。基準階調処理条件を変更し、少なくとも、より明るく補正する階調処理条件と、より暗く補正する階調処理条件とを設定することが望ましい。

以上説明したように、撮像装置１００によれば、１回の撮影で階調処理条件が異なる複数の画像を生成することができるため、例えば、被写体の動きが速いシーンであっても、撮影者の好みに合致した画像を提供することができる。

また、１回の撮影で取得した画像に対してシーン判別を行い、ほぼ最適な明るさとなるような基準階調処理条件を算出し、さらに基準階調処理条件を変更することにより、明るさを微調整した画像を複数生成することができる。したがって、撮影者の好みの明るさを選択できるような擬似的なオートブラケット機能を提供することができる。

なお、上記実施形態における記述は、本発明に係る撮像装置の例であり、これに限定されるものではない。撮像装置を構成する各部の細部構成及び細部動作に関しても本発明の趣旨を逸脱することのない範囲で適宜変更可能である。

本発明の実施形態における撮像装置１００の外観構成図である。 撮像装置１００の内部構成を示すブロック図である。 撮影処理部２０の内部構成を示すブロック図である。 ＡＥ制御部２１での露光量制御を示すフローチャートである。 シャッタ速度の制御において撮像素子に電荷が蓄積される様子を示す図である。 ＡＦ制御部２２での画像の焦点を合わせる制御を示すフローチャートである。 撮影光学系３の移動に伴うコントラスト情報の変化と合焦点位置検出の様子を示す図である。 画素補間部２３での、ＲＧＢ各色成分毎に画素間の補間を行う画像データの処理を示すフローチャートである。 ＡＷＢ制御部２４での、撮影画像におけるホワイトバランスを自動的に調整する処理を示すフローチャートである。 ガンマ補正曲線の例を示す図である。 画像処理部１０の内部構成を示すブロック図である。 （ａ）は、撮影された第１の画像の一例を示す図であり、（ｂ）は、第１の画像を分割し、Ｎ×Ｍ画素の縮小画像とした第２の画像の一例を示す図である。 撮像装置１００において実行される処理の全体の流れを示すフローチャートである。 シーン判別処理を示すフローチャートである。 占有率算出処理を示すフローチャートである。 明度と色相からなる階級を示す図である。 （ａ）は、画面の外縁からの距離に応じて決定される領域ｎ１〜ｎ３を示す図であり、（ｂ）は、領域ｎ１〜ｎ３と明度からなる階級を示す図である。 指標算出処理を示すフローチャートである。 指標１を算出するための、第１の占有率に乗算する第１の係数を表す曲線を示す図である。 指標２を算出するための、第１の占有率に乗算する第２の係数を表す曲線を示す図である。 指標３を算出するための、第２の占有率に乗算する第３の係数を表す曲線を領域別（ｎ１〜ｎ３）に示す図である。 指標４算出処理を示すフローチャートである。 撮影シーン（順光、ストロボ、逆光、アンダー）と指標４〜６の関係を示すプロット図である。 階調処理条件設定を示すフローチャートである。 各階調調整方法に対応する階調変換曲線を示す図である。 （ａ）は、輝度の度数分布（ヒストグラム）であり、（ｂ）は、正規化されたヒストグラムであり、（ｃ）は、ブロック分割されたヒストグラムである。 （ａ）及び（ｂ）は、輝度のヒストグラムからの低輝度領域及び高輝度領域の削除を説明する図であり、（ｃ）及び（ｄ）は、輝度の頻度の制限を説明する図である。 撮影シーンが逆光又はアンダーである場合の階調処理条件を表す階調変換曲線を示す図である。

符号の説明

１００ 撮像装置
１ 筐体
２ 十字キー
３ 撮影光学系
４ フラッシュ
５ ファインダ
６ 電源スイッチ
７ 表示部
８ レリーズボタン
１０ 画像処理部
１１ 第１画像取得部
１２ 第２画像取得部
１３ 占有率算出部
１４ 指標算出部
１５ シーン判別部
１６ 階調処理条件設定部
１７ 階調変換処理部
２０ 撮影処理部
２１ ＡＥ制御部
２２ ＡＦ制御部
２３ 画素補間部
２４ ＡＷＢ制御部
２５ ガンマ補正部
３１ プロセッサ
３２ メモリ
３３ 撮像素子
３４ 画像データ出力部
３５ 操作部
３６ タイミングジェネレータ
３７ シャッタユニット
３８ 絞りユニット
３９ フォーカスユニット

Claims (9)

1. 撮影により取得された第１の画像から画像サイズを縮小した第２の画像を取得する第２の画像取得手段と、
   前記第２の画像に基づいて撮影シーンを判別するシーン判別処理手段と、
   前記シーン判別処理手段により判別された撮影シーンの判別結果に基づいて、前記第１の画像に対する複数の階調処理条件を設定する階調処理条件設定手段と、
   前記階調処理条件設定手段により設定された複数の階調処理条件に基づいて、前記第１の画像に対しそれぞれ階調変換処理を行う階調変換処理手段と、
   前記階調変換処理手段により階調変換処理が行われた複数の画像を記録する記録手段と、
   を備えたことを特徴とする撮像装置。
2. 前記階調処理条件設定手段は、
   前記シーン判別処理手段により判別された撮影シーンの判別結果に基づいて、前記第１の画像に対する基準階調処理条件を設定し、
   前記基準階調処理条件を変更することにより、その他の複数の階調処理条件を設定することを特徴とする請求項１に記載の撮像装置。
3. 前記シーン判別処理手段は、
   前記第２の画像の画像データから色情報を取得する色情報取得手段と、
   前記取得された色情報に基づいて、前記画像データを所定の明度と色相の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第１の占有率を算出する第１の占有率算出手段と、
   前記取得された色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第２の占有率を算出する第２の占有率算出手段と、
   前記第１の占有率に予め設定された第１の係数を乗算することにより、第１の指標を算出する第１の指標算出手段と、
   前記第１の占有率に予め設定された第２の係数を乗算することにより、第２の指標を算出する第２の指標算出手段と、
   前記第２の占有率に予め設定された第３の係数を乗算することにより、第３の指標を算出する第３の指標算出手段と、
   少なくとも前記画像データの画面中央部における肌色の平均輝度に、予め設定された第４の係数を乗算することにより、第４の指標を算出する第４の指標算出手段と、
   前記第１の指標、前記第２の指標及び前記第３の指標のうち少なくとも一つ以上の指標に予め設定された第５の係数を乗算することにより、第５の指標を算出する第５の指標算出手段と、
   前記第１の指標、前記第２の指標及び前記第３の指標のうち少なくとも一つ以上の指標に予め設定された第６の係数を乗算することにより、第６の指標を算出する第６の指標算出手段と、
   前記第４の指標、前記第５の指標及び前記第６の指標に基づいて、前記画像データの撮影シーンを特定するシーン判別手段と、
   を備えたことを特徴とする請求項１又は２に記載の撮像装置。
4. 撮影により取得された第１の画像から画像サイズを縮小した第２の画像を取得する第２の画像取得工程と、
   前記第２の画像に基づいて撮影シーンを判別するシーン判別処理工程と、
   前記シーン判別処理工程において判別された撮影シーンの判別結果に基づいて、前記第１の画像に対する複数の階調処理条件を設定する階調処理条件設定工程と、
   前記階調処理条件設定工程において設定された複数の階調処理条件に基づいて、前記第１の画像に対しそれぞれ階調変換処理を行う階調変換処理工程と、
   前記階調変換処理工程において階調変換処理が行われた複数の画像を記録する記録工程と、
   を含むことを特徴とする画像処理方法。
5. 前記階調処理条件設定工程では、
   前記シーン判別処理工程において判別された撮影シーンの判別結果に基づいて、前記第１の画像に対する基準階調処理条件を設定し、
   前記基準階調処理条件を変更することにより、その他の複数の階調処理条件を設定することを特徴とする請求項４に記載の画像処理方法。
6. 前記シーン判別処理工程は、
   前記第２の画像の画像データから色情報を取得する色情報取得工程と、
   前記取得された色情報に基づいて、前記画像データを所定の明度と色相の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第１の占有率を算出する第１の占有率算出工程と、
   前記取得された色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第２の占有率を算出する第２の占有率算出工程と、
   前記第１の占有率に予め設定された第１の係数を乗算することにより、第１の指標を算出する第１の指標算出工程と、
   前記第１の占有率に予め設定された第２の係数を乗算することにより、第２の指標を算出する第２の指標算出工程と、
   前記第２の占有率に予め設定された第３の係数を乗算することにより、第３の指標を算出する第３の指標算出工程と、
   少なくとも前記画像データの画面中央部における肌色の平均輝度に、予め設定された第４の係数を乗算することにより、第４の指標を算出する第４の指標算出工程と、
   前記第１の指標、前記第２の指標及び前記第３の指標のうち少なくとも一つ以上の指標に予め設定された第５の係数を乗算することにより、第５の指標を算出する第５の指標算出工程と、
   前記第１の指標、前記第２の指標及び前記第３の指標のうち少なくとも一つ以上の指標に予め設定された第６の係数を乗算することにより、第６の指標を算出する第６の指標算出工程と、
   前記第４の指標、前記第５の指標及び前記第６の指標に基づいて、前記画像データの撮影シーンを特定するシーン判別工程と、
   を含むことを特徴とする請求項４又は５に記載の画像処理方法。
7. コンピュータに、
   撮影により取得された第１の画像から画像サイズを縮小した第２の画像を取得する第２の画像取得機能と、
   前記第２の画像に基づいて撮影シーンを判別するシーン判別処理機能と、
   前記シーン判別処理機能により判別された撮影シーンの判別結果に基づいて、前記第１の画像に対する複数の階調処理条件を設定する階調処理条件設定機能と、
   前記階調処理条件設定機能により設定された複数の階調処理条件に基づいて、前記第１の画像に対しそれぞれ階調変換処理を行う階調変換処理機能と、
   前記階調変換処理機能により階調変換処理が行われた複数の画像を記録する記録機能と、
   を実現させるための画像処理プログラム。
8. 前記階調処理条件設定機能を実現させる際に、
   前記シーン判別処理機能により判別された撮影シーンの判別結果に基づいて、前記第１の画像に対する基準階調処理条件を設定させ、
   前記基準階調処理条件を変更することにより、その他の複数の階調処理条件を設定させることを特徴とする請求項７に記載の画像処理プログラム。
9. 前記シーン判別処理機能は、
   前記第２の画像の画像データから色情報を取得する色情報取得機能と、
   前記取得された色情報に基づいて、前記画像データを所定の明度と色相の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第１の占有率を算出する第１の占有率算出機能と、
   前記取得された色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級毎に、前記画像データ全体に占める割合を示す第２の占有率を算出する第２の占有率算出機能と、
   前記第１の占有率に予め設定された第１の係数を乗算することにより、第１の指標を算出する第１の指標算出機能と、
   前記第１の占有率に予め設定された第２の係数を乗算することにより、第２の指標を算出する第２の指標算出機能と、
   前記第２の占有率に予め設定された第３の係数を乗算することにより、第３の指標を算出する第３の指標算出機能と、
   少なくとも前記画像データの画面中央部における肌色の平均輝度に、予め設定された第４の係数を乗算することにより、第４の指標を算出する第４の指標算出機能と、
   前記第１の指標、前記第２の指標及び前記第３の指標のうち少なくとも一つ以上の指標に予め設定された第５の係数を乗算することにより、第５の指標を算出する第５の指標算出機能と、
   前記第１の指標、前記第２の指標及び前記第３の指標のうち少なくとも一つ以上の指標に予め設定された第６の係数を乗算することにより、第６の指標を算出する第６の指標算出機能と、
   前記第４の指標、前記第５の指標及び前記第６の指標に基づいて、前記画像データの撮影シーンを特定するシーン判別機能と、
   を含むことを特徴とする請求項７又は８に記載の画像処理プログラム。

Images