JP2011182147A - 撮影シーン判定装置 - Google Patents

撮影シーン判定装置 Download PDF

Info

Publication number
JP2011182147A
JP2011182147A JP2010043693A JP2010043693A JP2011182147A JP 2011182147 A JP2011182147 A JP 2011182147A JP 2010043693 A JP2010043693 A JP 2010043693A JP 2010043693 A JP2010043693 A JP 2010043693A JP 2011182147 A JP2011182147 A JP 2011182147A
Authority
JP
Japan
Prior art keywords
scene
lightness
hue
saturation
brightness
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010043693A
Other languages
English (en)
Other versions
JP5482292B2 (ja
Inventor
Yasushi Tanaka
康 田中
Nariyasu Murase
成康 村瀬
Kazuo Kaneko
和夫 金子
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Semiconductor Ltd
Original Assignee
Fujitsu Semiconductor Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Semiconductor Ltd filed Critical Fujitsu Semiconductor Ltd
Priority to JP2010043693A priority Critical patent/JP5482292B2/ja
Publication of JP2011182147A publication Critical patent/JP2011182147A/ja
Application granted granted Critical
Publication of JP5482292B2 publication Critical patent/JP5482292B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Details Of Cameras Including Film Mechanisms (AREA)

Abstract

【課題】
撮影シーンの判定精度を向上させた撮影シーン判定装置を提供することにある。
【解決手段】
撮像した画像データに基づいて複数の撮影シーンのいずれかを判定する撮影シーン判定装置において,1画像を分割した複数のブロックについての,画像データの明度が明度閾値以上かそれより低いかの明度領域情報と,画像データの前記明度が明度閾値以上の場合の画像データの色相彩度座標上における色相彩度領域情報とに基づいて,撮影シーンを判定する第1のシーン判定を行い,第1のシーン判定において複数の撮影シーンのうち予め決められた特定の撮影シーンに判定された場合に,明度が明度閾値より低い明度領域情報を有する低明度ブロックについての色相彩度領域情報に基づいて撮影シーンを再判定する第2のシーン判定を行うシーン検出部を有する。
【選択図】 図3

Description

本発明は,撮影シーン判定装置に関する。
デジタルスチールカメラなどの撮像装置に,撮像画像データから撮影シーンの種類を自動的に判定する機能を搭載して,判定した撮影シーンに対応して最適な撮影モードを設定することが提案されている。たとえば,特許文献1などである。
この撮影シーンの自動判定によれば,画像データのRGBデータをHSIデータ(色相H,彩度S,明度I)に変換し,画像データの分割されたブロック毎のHSデータを色相Hと彩度Sの二次元座標上にプロットした分布を,予め撮影シーン別に求めておいた分布と比較することで,撮影シーンを判定している。
また,画像データを解析して最適な画像に補正することが種々提案されている。たとえば,特許文献2〜4などである。
特開2008−11289号公報 特開2004−274367号公報 特開2005−268857号公報 特開2005−228076号公報
撮影シーンの判定工程において,夜景シーンなどを判定するために明度Iが低いブロックの数をカウントする場合において,色相Hと彩度Sの二次元座標上の分布に基づいて撮影シーン判定を行うと,明度の低いブロックが夜景による低い明度の場合なのか,何らかの要因で偶然低い明度になっているのかを区別することができない。その結果,色相と彩度の色情報が類似するシーンを区別できない場合が発生し,撮影シーンの判定精度が低下するという課題がある。
そこで,本発明の目的は,撮影シーンの判定精度を向上させた撮影シーン判定装置を提供することにある。
撮影シーン判定装置の第1の側面は,撮像した画像データに基づいて複数の撮影シーンのいずれかを判定する撮影シーン判定装置において,1画像を分割した複数のブロックについての,前記画像データの明度が明度閾値以上かそれより低いかの明度領域情報と,前記画像データの前記明度が前記明度閾値以上の場合の前記画像データの色相彩度座標上における色相彩度領域情報とに基づいて,前記撮影シーンを判定する第1のシーン判定を行い,前記第1のシーン判定において前記複数の撮影シーンのうち予め決められた特定の撮影シーンに判定された場合に,前記明度が明度閾値より低い明度領域情報を有する低明度ブロックについての前記色相彩度領域情報に基づいて前記撮影シーンを再判定する第2のシーン判定を行うシーン検出部を有する。
第1の側面によれば,色情報が類似する画像の撮影シーンの誤判定率を低減することができる。
本実施の形態における撮像装置の構成図である。 システム制御部の構成図である。 本実施の形態におけるシーン判定部による撮影シーンの判定処理を示すフローチャート図である。 撮影シーンの判定処理における第2のシーン判定工程に対応するシーンシンボル再割り当て工程のフローチャート図である。 HSIの六角錘モデルを示す図である。 HSI色空間内の複数領域情報(シーンシンボル)の一例を示す図である。 本実施の形態における第1のルックアップテーブルを示す図である。 本実施の形態における第2のルックアップテーブルを示す図である。 本実施の形態におけるシーン判定でのブロック毎のシーンシンボル例を示す図である。 HSI色空間内の複数領域情報(シーンシンボル)の断面図である。 シーンシンボル再割り当て工程での明度加算を示す図である。 雪景シーンの例を示す図である。 曇りシーンの例を示す図である。 夕景シーンの例を示す図である。 紅葉シーンの例を示す図である。
図1は,本実施の形態における撮像装置の構成図である。この撮像装置は,レンズ部100と,撮像素子101と,アナログ信号処理部102と,デジタル信号処理部103と,システム制御部104と,画像表示部105と,メモリなどの記憶部106と,キー操作部107,シャッタ受付部108,タイミングジェネレータ109,レンズ駆動部110を有する。
レンズ部100は,被写体の光を撮像素子に結像させるレンズと,露出量を調整する絞りと,露出時間を調整するシャッタとを有する。撮像素子101は,たとえばCCDやMOSイメージセンサであり,結像を電気信号に変換しアナログ信号を出力する。アナログ信号処理部102は,撮像素子から出力されるアナログ信号に対してリセットノイズの除去や利得制御を行い,AD変換してデジタル信号を出力する。そして,デジタル信号処理部103は,デジタル信号に対して適切なデジタル信号処理を行う。デジタル信号処理部103から出力される画像データは,RGBデータやYUVデータなどである。
図2は,システム制御部の構成図である。システム制御部104は,画像データから撮影シーンを検出するシーン検出部201と,検出した撮影シーンに対応して適切な露出制御をレンズ駆動部110に対して行い更にオートホワイトバランス制御を行う撮像制御部202と,検出した撮影シーンに対応して適切なエフェクト処理を画像データに対して行い,画像表示部105や記憶部106にエフェクト処理した画像データを出力する画像処理部203とを有する。
システム制御部104は,上記のようにシーン判定部がデジタル信号処理部103からの画像データを用いて後述する方法により撮影シーンの判定を行い,判定結果に応じて撮像画像データに適切なエフェクト処理を行い画像表示部105や記憶部106に出力する。エフェクト処理は,例えば,夕景シーンに対して赤色を強調する処理である。また,システム制御部104は,キー操作部107とシャッタ受付部108とタイミングジェネレータ109とレンズ駆動部110の制御などシステム全体に対して制御を行う。
したがって,システム制御部104は,本実施の形態における撮影シーン判定装置に対応し,シーン検出部201を有する。システム制御部104は,例えば,制御プログラムがインストールされたマイクロプロセッサや専用処理回路を有するASICなどである。
画像表示部105は,液晶表示パネルや有機EL表示パネルなどであり,エフェクト処理後の画像データに基づいて画像を表示する。ユーザは,このエフェクト処理された画像を確認して,撮像される画像を確認することができる。記憶部106は,エフェクト処理後の画像データを記録する外部記録媒体であり,SDカードなどの不揮発性メモリカードである。キー操作部107は,ユーザインターフェース部であり十字キーや決定ボタンなどの操作入力を受け付ける。シャッタ受付部108は,シャッターボタンの操作指令を受け付ける。
また,タイミングジェネレータ109は,撮像素子101に駆動パルスを供給する。また,レンズ駆動部110は,システム制御部からの露出制御情報に従ってレンズ部100の絞り値やシャッタスピードなどの制御を行う。
[撮影シーンの判定処理]
図3は,本実施の形態におけるシーン判定部による撮影シーンの判定処理を示すフローチャート図である。図4は,撮影シーンの判定処理における第2のシーン判定工程に対応するシーンシンボル再割り当て工程のフローチャート図である。
本実施の形態における撮影シーン判定は,1つの画像の画像データの明度,色相,彩度の色情報の特徴から予め決められた複数の撮影シーンのいずれかを判定する。判定可能な撮影シーンには,例えば,雪景シーン,曇りシーン,夕景シーン,紅葉シーン,夜景シーン,その他のシーンなどである。雪景シーンと曇りシーンは,共に白色の画像データを有する画素が多く存在する類似する撮影シーンである。また,夕景シーンや紅葉シーンは,共に赤色の画像データを有する画素が多く存在する類似する撮影シーンである。夜景シーンは低い明度の画素が多く存在する。
図3の撮影シーン判定処理によれば,まず,1つの画像の画像データを,所定のサイズをもつ複数のブロックに分割する(工程300)。例えば,画像サイズが640×480画素のVGAの場合は,8×8=64個のブロックに分割すれば,1つのブロックサイズは80×60画素になる。
[HSIデータへの変換工程301]
次に,分割された複数のブロック毎に代表の色情報を算出する(301)。即ち,ブロック内のすべての画素の画像データのRGBデータを平均してブロックのRGB平均値を算出し,そのRGB平均値をHSIデータに変換する。このHSIデータ(色相H,彩度S,明度I)をブロックの色情報とする。
図5は,HSIの六角錘モデルを示す図である。HSIの六角錘モデルは,HSIの色空間を示し,縦軸が明度Iを,明度Iの軸を中心とする半径方向の軸が彩度S,反時計方向の角度軸が色相Hに対応する。この六角錘モデルに基づいて,平均されたRGBデータがHSIデータに変換される。この変換式は,以下のとおりである。
Imax = max{R,G,B}
Imin = min{R,G,B}
I = Imax
S = (Imax −Imin)/I
H = π/3*(b−g) (R= Imaxのとき)
H = π/3*(2+r−b) (G= Imaxのとき)
H = π/3*(4+g−r) (B= Imaxのとき)
但し,
r = (Imax−R)/( Imax −Imin)
g = (Imax−G)/( Imax −Imin)
b = (Imax−B)/( Imax −Imin)
RGB値がそれぞれ0〜255の値(8ビット)であるとすると,例えば,明度Iは0〜255,彩度Sは0〜1,色相Hは0以上360未満の値となる。
[シーンシンボルの割り当て工程302]
次に,撮影シーンの判定処理は,8×8のブロックそれぞれについて,ブロックのHSIデータに基づいて六角錘モデルの色空間領域からシーンシンボルの割り当てを行う(302)。即ち,各ブロックのHSIデータが,HSI色空間内の予め定められた複数の領域のどれに属するかを判定して,その属する色領域情報を示すシーンシンボルを各ブロックに割り当てる。このシーンシンボルが,明度領域情報,色相彩度領域情報に対応する。例えば,所定のシーンシンボルが予め求めた基準値以上存在する画像は,所定の撮影シーンと判定される。つまり,シーンシンボルの数,占有比率が撮影シーンの特徴を表しているのである。
図6は,HSI色空間内の複数領域(シーンシンボル)の一例を示す図である。図6(a)は三次元のHSI色空間に対する複数のシーンシンボルを示し,図6(b)は明度Iが最大値255におけるHSI色空間の断面図を示す。
本実施の形態では,HSI色空間内を,明度Iが所定の閾値Ithより低い低明度領域と,明度Iが所定の閾値Ith以上であって色相Hと彩度Sとにより区分される7つの色相彩度領域とに分割する。そして,図示されるとおり,低明度領域には領域情報としてシーンシンボル「夜」を,7つの色相彩度領域には領域情報として赤色の領域にシーンシンボル「夕」を,緑色の領域にシーンシンボル「緑」を,青色の領域にシーンシンボル「空」を,彩度Sが低い白色の領域にシーンシンボル「雪」をそれぞれ割り当てる。
具体的には,閾値Ithより高い明度であって彩度Sが0.3未満の領域にシーンシンボル「雪」を割り当てる。更に,高い明度であって彩度Sが0.3以上の領域を,色相Hにより次のようにシーンシンボルを割り当てる。
色相Hが0以上60未満,330以上360未満の領域にシーンシンボル「夕」
色相Hが80以上140未満の領域にシーンシンボル「緑」
色相Hが220以上260未満の領域にシーンシンボル「空」
色相Hが上記以外の領域にシーンシンボル「他」
シーンシンボル「夕」の色相彩度領域は,夕景シーンや紅葉シーンなどの赤系色を多く有する撮影シーンに代表的に現れる色相彩度領域情報である。シーンシンボル「緑」の色相彩度領域は,草,山,森林などの緑系色を多く有する撮影シーンに代表的に現れる色相彩度領域である。そして,シーンシンボル「空」の色相彩度領域は,青空や海などの青系色を多く有する撮影シーンに代表的に現れる色相彩度領域である。
本実施の形態では,各ブロックに割り当てるシーンシンボル(色領域情報)に,低い明度Iの低明度領域情報(シーンシンボル「夜」)を含ませている。これにより,シーンシンボル「夜」が割り当てられたブロックの数が基準値以上であれば,撮影シーンを夜景シーンと判定することができる。さらに,高い明度Iの高明度領域においては,色相と彩度の2次元座標内を複数の色相彩度領域に分けているので,それらの色相彩度領域情報を有するブロックの数が基準値以上であれば,撮影シーンを夕景シーンや青空シーンなどと判定することができる。
図2に示したとおり,シーン検出部201はブロックのシーンシンボル(色領域情報)を判定するためにルックアップテーブルLUTを有する。シーン検出部201は,HSIデータをアドレスとしてルックアップテーブルLUTのメモリに入力し,メモリから読み出されるシーンシンボル(色領域情報)を示すデータを,複数のブロック毎に記録する。
図7は,本実施の形態における第1のルックアップテーブルを示す図である。ルックアップテーブルLUT1は,例えばメモリで構成され,各ブロックのHSIデータをアドレスとして入力すると,図示される6つのシーンシンボル「夜」「雪」「夕」「緑」「空」「他」が色領域情報の読み出しデータとして出力される。前述のとおりシーンシンボル「夜」は,明度Hが閾値Ithより低ければ割り当てられる。したがって,シーン検出部201は,各ブロックのHSIデータについてルックアップテーブルLUT1を参照することで,各ブロックに割り当てられるシーンシンボルを取得することができる。
図8は,本実施の形態における第2のルックアップテーブルを示す図である。このルックアップテーブルLUT2も,メモリで構成され,各ブロックのHSIデータをアドレスとして入力すると,図示される9つのシーンシンボル「赤系夜」「緑系夜」「青系夜」「他夜」「雪」「夕」「緑」「空」「他」が読み出しデータとして出力される。つまり,低明度領域ではシーンシンボル「赤系夜」「緑系夜」「青系夜」「他夜」が,高明度領域ではシーンシンボル「雪」「夕」「緑」「空」「他」が割り当てられる。
本実施の形態では,シーン検出部201は,図7のルックアップテーブルLUT1を参照するものとする。
図9は,本実施の形態におけるシーン判定でのブロック毎のシーンシンボル例を示す図である。図9に示されるとおり,シーン判定部201は,8×8=64のブロックの色情報(HSIデータ)が,色空間内の6つの領域情報(6つのシーンシンボル)のいずれに該当するかを,ルックアップテーブルLUT1を参照して取得する。
図9において左上の(0,0)のブロックでは,例えば,明度I=50,彩度S=0.6,色相H=220の場合に,明度の閾値Ith=100とすると,明度I=50>Ithであるので,シーンシンボル「夜」になる。それ以外のブロックの色情報とシーンシンボルの例は以下のとおりである。
(0,1):明度I=180,彩度S=0.6,色相H=100 :シーンシンボル「緑」
(0,2):明度I=220,彩度S=0.8,色相H=235 :シーンシンボル「空」
(0,3):明度I=130,彩度S=0.7,色相H=50 :シーンシンボル「夕」
(0,4):明度I=110,彩度S=0.4,色相H=280 :シーンシンボル「他」
シーン判定部201は,すべてのブロックについてシーンシンボルの割り当てを実施する。
[シーン判定303]
次に,シーン判定部201は,64個のブロックのシーンシンボルの占有比率から,撮像シーンとして雪景シーン候補と夕景シーン候補を選択する(303)。これらの撮像シーンが曇りシーンと紅葉シーンと誤判定される確率が高いからである。1つの画像の64個のブロックにおいてシーンシンボル「雪」の数が基準値を超えていれば,その画像の撮像シーンは雪景シーン候補と判定され,越えていなければ雪景シーン候補から外される。また,同様に,シーンシンボル「夕」の数が基準値を超えていれば,その画像の撮像シーンは夕景シーン候補と判定され,越えていなければ夕景シーン候補から外される。具体的な基準値の例は後述するとおりである。
[シーンシンボル再割り当て304]
図3に示されるとおり,第1のシーン判定工程303で雪景シーン候補または夕景シーン候補が選択されると,シーン判定部はシーンシンボル再割り当て工程304を実行する。
図4は,シーンシンボル再割り当て工程のフローチャート図である。このシーンシンボル再割り当て工程304では,最初のシーンシンボル割り当て工程302でシーンシンボル「夜」が割り当てられたブロックについて,色相Hと彩度Sとがどの色相彩度領域に属しているかをチェックし,シーンシンボル「夕」「緑」「空」「雪」「他」のいずれかを割り当てる。シンボル割り当て工程302でシーンシンボル「夜」が割り当てられたブロックの中には,明度I以外の色相Hや彩度Sがシーンシンボル「夕」の領域や「緑」「空」の領域に属する可能性がある。例えば,被写体の影や撮影時の逆光などの影響でたまたま明度Iが閾値Ithを越えない場合には,シーンシンボル「夜」が割り当てられることになる。そこで,そのようなブロックに対して,シーンシンボル再割り当て工程304では,明度Iによるシーンシンボルの判定を行わずに,色相Hと彩度Sによるシーンシンボル(領域情報)の判定を行い,シーンシンボル「夕」「緑」「空」「他」に属するか否かを確認する。
その場合,図7のルックアップテーブルLUT1を参照するために,ブロックの色情報のうち明度Iについて明度加算を実行して明度Iが低い閾値Ithと高い閾値Iuとの間の値になるよう補正し,補正された色情報HSIデータをアドレスとしてルックアップテーブルLUT1を参照する。
このシーンシンボル再割り当て工程304は,シーンシンボル「夜」のブロックについてのみ実施すればよい。ただし,全ブロックについて実施しても良い。
さらに,シーンシンボルの再割り当てが行われた後,シーン再判定工程305により,雪景シーン候補または夕景シーン候補の画像について,再割り当てされたシーンシンボルに基づいて,再度撮影シーンの判定が行われる。これにより,雪景シーン候補または夕景シーン候補の誤判定が除去される。
図10は,HSI色空間内の複数領域(シーンシンボル)の断面図である。図6を参照すると理解できるとおり,色相Hが0,120,240,100の断面図が,図10(a)〜(d)に示されている。各断面図から明らかなとおり,それぞれ明度Iが閾値Ithより小さい領域に領域情報としてシーンシンボル「夜」が割り当てられ,明度Iが閾値Ithと上限値Iuとの間の領域に領域情報としてシーンシンボル「夕」「緑」「青」「他」が色相Hに応じて割り当てられ,ただし,明度が閾値Ithと上限値Iuとの間であっても,彩度Sが小さい領域には領域情報としてシーンシンボル「雪」が割り当てられている。そして,閾値Ithと上限値Inは必ずしもすべて同じではなく,色相Hの値に応じてそれぞれ異なっている。
図11は,シーンシンボル再割り当て工程での明度加算を示す図である。明度加算とは,ブロックの色情報HSIについて,彩度Sと色相Hは変更せずに,明度Iを明度上限値Iuと下限値Ithとの間の値まで明度を増加させる演算である。ただし,図10で説明したとおり,明度の上限値Iuと下限値Ithとは色相Hによって異なるので,シーンシンボル「夕」,「緑」「空」か否かの確認を行うために,それぞれに対応する上限値Iuと下限値Ithとに対応した明度加算が必要になる。
図11のフローチャートに示されるとおり,工程400,401では,工程302でシーンシンボル「夜」が割り当てられたブロックが,シーンシンボル「夕」に属する可能性がないか否かを確認する。そのために,まず,シーンシンボル「夕」の色領域に対する明度加算を行い(工程400),そのブロックがシーンシンボル「夕」の範囲内にあるか否かをルックアップテーブルLUT1を参照して確認する(401)。具体的には,図11(a)に従い,
Iu_r=220,Ith_r=100
の場合であれば,ブロックの色情報が
明度I=80,彩度S=0.6,色相H=0
について明度加算すると,明度加算後の色情報は,
明度I=160,彩度S=0.6,色相H=0
になる。つまり,明度IはIu_r=220とIth_r=100との間のI=160になる。
この色情報をアドレスにしてルックアップテーブルLUT1を参照すると,明度加算前の色情報ではシーンシンボル「夜」が割り当てられていたものが,明度加算後の色情報ではシーンシンボル「夕」が割り当てられる。このブロックは,本来なら色領域が「夕」である色相Hと彩度Sの色情報を持っていたが,何らかの要因で明度Iが閾値Ith未満であったため色領域が「夜」に対応していた場合に該当する。そこで,シーンシンボル再割り当て工程により,このブロックはシーンシンボル「夕」が割り当てられる。
そして,工程401において,明度加算した色情報が領域「夕」に属するか否かをチェックする。もし属する場合は,そのブロックにはシーンシンボル「夕」に再割り当てされる。属さない場合は,次の工程402に進む。
次に工程402,403では,工程302でシーンシンボル「夜」が割り当てられたブロックが,シーンシンボル「緑」に属する可能性がないか否かを確認する。そのために,シーンシンボル「緑」の色領域に対する明度加算を行い(工程400),そのブロックがシーンシンボル「緑」の範囲内にあるか否かをルックアップテーブルLUT1を参照して確認する(401)。具体的には,図11(b)に従い
Iu_g=240,Ith_g=100
の場合であれば,ブロックの色情報が
明度I=80,彩度S=0.6,色相H=120
について明度加算すると,明度加算後の色情報は,
明度I=170,彩度S=0.6,色相H=120
になる。つまり,明度IはIu_g=240とIth_g=100との間のI=170になる。
この色情報をアドレスにしてルックアップテーブルLUT1を参照すると,明度加算前の色情報ではシーンシンボル「夜」が割り当てられていたものが,明度加算後の色情報ではシーンシンボル「緑」が割り当てられる。
そして,工程402において,明度加算した色情報が領域「緑」に属するか否かをチェックする。もし属する場合は,そのブロックにはシーンシンボル「緑」に再割り当てされる。属さない場合は,次の工程404に進む。
次に工程404,405では,工程302でシーンシンボル「夜」が割り当てられたブロックが,シーンシンボル「空」に属する可能性がないか否かを確認する。具体的な方法は,上記と同様である。例えば,図11(c)に従い
Iu_b=200,Ith_b=100
の場合であれば,ブロックの色情報が
明度I=80,彩度S=0.6,色相H=240
について明度加算すると,明度加算後の色情報は,
明度I=150,彩度S=0.6,色相H=240
になる。つまり,明度IはIu_b=200とIth_b=100との間のI=150になる。
この色情報をアドレスにしてルックアップテーブルLUT1を参照すると,明度加算前の色情報ではシーンシンボル「夜」が割り当てられていたものが,明度加算後の色情報ではシーンシンボル「空」が割り当てられる。
そして,工程405において,明度加算した色情報が領域「空」に属するか否かをチェックする。もし属する場合は,そのブロックにはシーンシンボル「空」に再割り当てされる。属さない場合は,シーンシンボル「他」に再割り当てされる。
以上のように,上記の実施の形態では,シーンシンボル割り当てのために参照するルックアップテーブルLUT1を使用することで,ブロックの明度Iが閾値Ithより小さければ一律にシーンシンボル「夜」を割り当てる。このようにすることで,ルックアップテーブルLUT1のメモリ容量を少なくすることができる。ただし,一旦シーンシンボル「夜」と割り当てられたブロックについてシーンシンボル「夕」「緑」「空」「雪」「他」の可能性を確認するシーンシンボル再割り当て工程では,同じルックアップテーブルLUT1を参照するために,ブロックの色情報に対して上記の明度加算の演算を行う。
それに対して,図8のルックアップテーブルLUT2を使用してもよい。ただし,その場合は,テーブルのメモリ容量が大きくなる。そして,シーンシンボル再割り当て工程304では,明度加算することなく,工程302で割り当てられたシーンシンボルが「赤系夜」「緑系夜」「青系夜」か否かに基づいて,シーンシンボル「夕」「緑」「空」「雪」「他」に再割り当てされる。
[シーン再判定305]
図3に戻り,シーン判定部は,シーンシンボルが再割り当てされた画像について,シーン再判定305を行う。シーン再判定でも,画像の64個のブロックに再割り当てされたシーンシンボルの占有状態に基づいて撮影シーンの判定を行う。なお,シーンシンボル「他」を含めると誤検出の可能性があるので,撮影シーンの判定ではシーンシンボル「他」は除外する。
本実施の形態では,撮影シーンの誤判定の例は,曇りシーンを雪景シーンと誤判定したり,紅葉シーンを夕景シーンと誤判定したりする場合である。1つの例では,画像の64個のブロックのシーンシンボルのうちシーンシンボル「雪」が50%以上である場合は,雪景シーンと判定する。ただし,シーンシンボル「雪」以外にシーンシンボル「夕」が4%以上ある場合は,たとえシーンシンボル「雪」が50%以上あっても雪景シーンとは判定せずに,雪景シーン以外の撮影シーンとして検出する。したがって,再割り当てされたシーンシンボルにシーンシンボル「夕」が4%以上存在するか否かにより,雪景シーン候補は雪景シーン以外の撮影シーンに判定される。
別の例では,画像の64個のブロックのシーンシンボルのうちシーンシンボル「夕」が70%以上である場合は,夕景シーンと判定する。ただし,シーンシンボル「夕」以外にシーンシンボル「緑」が3%以上ある場合は,たとえシーンシンボル「夕」が70%以上あっても夕景シーンとは判定せずに,夕景シーン以外の撮影シーンとして検出する。したがって,再割り当てされたシーンシンボルにシーンシンボル「緑」が3%以上存在するか否かにより,夕景シーン候補は夕景シーン以外の撮影シーンに判定される。
[シーンの具体例]
以下,雪景シーン,雪景シーンと誤検出されやすいシーン,夕景シーン,夕景シーンと誤検出されやすいシーンの例について説明する。
図12は,雪景シーンの例を示す図である。図12(A)の雪景画像について図12(B)はシーンシンボル再割り当て後の64個のブロックのシーンシンボルを示している。各シーンシンボルの占有状態は,「雪」が53%,「夕」が0%であり,「雪」が占有比率50%以上であり「夕」が4%未満であるので,雪景シーンと判定される。
図13は,曇りシーンの例を示す図である。図13(A)の曇り画像について図13(B)はシーンシンボル再割り当て前のブロックのシーンシンボルを示し,図13(C)はシーンシンボル再割り当て後のブロックのシーンシンボルを示している。図13(B)によれば,シーンシンボルの占有状態は,「雪」が38個で50%の32個を越えているので,雪景シーン候補と判定される。しかし,図13(C)によれば,シーンシンボル「夜」のブロック群500について再度割り当てが行われた結果,ブロック群501は「雪」「夕」「緑」「他」に再割り当てされている。そのため,シーン再判定では,シーンシンボルの占有状態は,「雪」59%,「夕」5%であるので,シーンシンボル「雪」の占有比率が50%以上ではあるが,シーンシンボル「夕」が5%含まれているので,雪景シーン以外のシーンと判定される。もし,曇りシーンの判定アルゴリズムがあれば,そのアルゴリズムにより曇りシーンと判定されるかもしれない。
このように,本実施の形態によれば,シーンシンボル「雪」が多い場合に雪景シーンと誤判定されやすい曇りシーンについて,雪景シーンと誤判定されることが回避される。
図14は,夕景シーンの例を示す図である。図14(A)の夕景画像について図14(B)はシーンシンボル再割り当て後の64個のブロックのシーンシンボルを示している。各シーンシンボルの占有状態は,「夕」が97%,「緑」が0%であり,「夕」が占有比率70%以上であり「緑」が3%未満であるので,夕景シーンと判定される。
図15は,紅葉シーンの例を示す図である。図15(A)の紅葉の画像について図15(B)はシーンシンボル再割り当て前のブロックのシーンシンボルを示し,図15(C)はシーンシンボル再割り当て後のブロックのシーンシンボルを示している。図15(B)によれば,シーンシンボルの占有状態は,「夕」が59個で70%の50個を越えているので,夕景シーン候補と判定される。しかし,図15(C)によれば,シーンシンボル「夜」のブロック群502,503について再度割り当てが行われた結果,ブロック群504,505は「緑」「緑」に再割り当てされている。そのため,シーン再判定では,シーンシンボルの占有状態は,「夕」94%,「緑」3%であるので,シーンシンボル「夕」の占有比率が70%以上ではあるが,シーンシンボル「緑」が3%含まれているので,夕景シーン以外のシーンと判定される。もし,紅葉シーンの判定アルゴリズムがあれば,そのアルゴリズムにより紅葉シーンと判定されるかもしれない。
このように,本実施の形態によれば,シーンシンボル「夕」が多い場合に夕景シーンと誤判定されやすい紅葉シーンについて,夕景シーンと誤判定されることが回避される。
以上の通り,本実施の形態によれば,撮像画像を雪景シーンや夕景シーンと誤って判定される可能性を抑制することができる。さらに,ルックアップテーブルLUT1を使用すれば,参照すべきテーブルのメモリ容量を小さくすることができ,明度加算などのソフトウエア処理により同じテーブルを参照してシーンシンボルの再割り当てを行うことができる。
以上の実施の形態をまとめると,次の付記のとおりである。
(付記1)
撮像した画像データに基づいて複数の撮影シーンのいずれかを判定する撮影シーン判定装置において,
1画像を分割した複数のブロックについての,前記画像データの明度が明度閾値以上かそれより低いかの明度領域情報と,前記画像データの前記明度が前記明度閾値以上の場合の前記画像データの色相彩度座標上における色相彩度領域情報とに基づいて,前記撮影シーンを判定する第1のシーン判定を行い,
前記第1のシーン判定において前記複数の撮影シーンのうち予め決められた特定の撮影シーンに判定された場合に,前記明度が明度閾値より低い明度領域情報を有する低明度ブロックについての前記色相彩度領域情報に基づいて前記撮影シーンを再判定する第2のシーン判定を行うシーン検出部を有する撮影シーン判定装置。
(付記2)
付記1において,
さらに,前記画像データの明度,色相,彩度データの入力に応じて,前記低明度の明度領域情報または前記明度領域情報が高明度の場合の色相彩度領域情報を出力するルックアップテーブルを有し,
前記シーン検出部は,
前記第1のシーン判定においては,前記ルックアップテーブルを参照して,前記撮像した画像データの明度,色相,彩度データに対する前記明度領域情報,または色相彩度領域情報を前記複数のブロック毎に抽出し,
前記第2のシーン判定においては,前記低明度ブロックの画像データの明度を前記明度閾値以上に加算し,前記ルックアップテーブルを参照して,前記加算した明度データと色相,彩度データとに対する前記色相彩度領域情報を前記低明度ブロック毎に抽出する撮影シーン判定装置。
(付記3)
付記1において,
さらに,前記画像データの明度,色相,彩度データの入力に応じて,前記明度領域情報が低明度の場合の低明度色相彩度領域情報,または前記明度領域情報が高明度の場合の高明度色相彩度領域情報を出力するルックアップテーブルを有し,
前記シーン検出部は,
前記第1のシーン判定においては,前記ルックアップテーブルを参照して,前記撮像した画像データの明度,色相,彩度データに対する前記低明度色相彩度領域情報または前記高明度色相彩度領域情報を前記複数のブロック毎に抽出し,
前記第2のシーン判定においては,前記低明度ブロックについての前記低明度色相彩度領域情報に基づいて前記第2のシーン判定を行う撮影シーン判定装置。
(付記4)
付記2または3において,
前記色相彩度領域情報は,前記色相彩度座標上の複数領域のうちいずれの色相彩度領域かを示し,
前記第1及び第2のシーン判定では,前記複数のブロックそれぞれの明度領域情報と色相彩度領域情報の数が,前記複数の撮影シーン毎に予め決められた基準数と一致する場合に,一致した撮影シーンを前記撮像した画像の撮影シーンと判定する撮影シーン判定装置。
(付記5)
付記2において,
前記前記色相彩度領域情報は,前記色相彩度座標上の複数領域のうちいずれの色相彩度領域かを示し,
前記第2のシーン判定において,前記低明度ブロックの画像データの明度を前記明度閾値以上に加算するとき前記色相彩度領域毎に定められた加算演算に基づいて加算し,当該色相彩度領域毎加算した明度データと色相,彩度データとに対する前記色相彩度領域情報を前記低明度ブロック毎に抽出する撮影シーン判定装置。
(付記6)
付記1,2または3のいずれかにおいて,
前記前記色相彩度領域情報は,前記色相彩度座標上の複数領域のうちいずれの色相彩度領域かを示し,
前記特定の撮影シーンは,前記色相彩度領域情報が白色に対応する色相彩度領域であるブロックの数が第1の基準値以上のときに判定される雪景シーン,前記色相彩度領域情報が赤色に対応する色相彩度領域であるブロックの数が第2の基準値以上のときに判定される夕景シーンのいずれかを有する撮影シーン判定装置。
(付記7)
付記6において,
前記第1のシーン判定において,前記雪景シーンまたは夕景シーンに判定された場合でも,前記第2のシーン判定において,前記色相彩度領域情報が前記白色以外または赤色以外に対応する色相彩度領域であるブロックの数が第3または第4の基準値以上のときには,前記雪景シーン以外の撮影シーンまたは前記夕景シーン以外の撮影シーンに判定される撮影シーン判定装置。
(付記8)
付記1乃至7のいずれかに記載の撮影シーン判定装置と,
撮像素子とを有するデジタルカメラ。
303:第1のシーン判定 305:第2のシーン判定

Claims (5)

  1. 撮像した画像データに基づいて複数の撮影シーンのいずれかを判定する撮影シーン判定装置において,
    1画像を分割した複数のブロックについての,前記画像データの明度が明度閾値以上かそれより低いかの明度領域情報と,前記画像データの前記明度が前記明度閾値以上の場合の前記画像データの色相彩度座標上における色相彩度領域情報とに基づいて,前記撮影シーンを判定する第1のシーン判定を行い,
    前記第1のシーン判定において前記複数の撮影シーンのうち予め決められた特定の撮影シーンに判定された場合に,前記明度が明度閾値より低い明度領域情報を有する低明度ブロックについての前記色相彩度領域情報に基づいて前記撮影シーンを再判定する第2のシーン判定を行うシーン検出部を有する撮影シーン判定装置。
  2. 請求項1において,
    さらに,前記画像データの明度,色相,彩度データの入力に応じて,前記低明度の明度領域情報または前記明度領域情報が高明度の場合の色相彩度領域情報を出力するルックアップテーブルを有し,
    前記シーン検出部は,
    前記第1のシーン判定においては,前記ルックアップテーブルを参照して,前記撮像した画像データの明度,色相,彩度データに対する前記明度領域情報,または色相彩度領域情報を前記複数のブロック毎に抽出し,
    前記第2のシーン判定においては,前記低明度ブロックの画像データの明度を前記明度閾値以上に加算し,前記ルックアップテーブルを参照して,前記加算した明度データと色相,彩度データとに対する前記色相彩度領域情報を前記低明度ブロック毎に抽出する撮影シーン判定装置。
  3. 請求項1において,
    さらに,前記画像データの明度,色相,彩度データの入力に応じて,前記明度領域情報が低明度の場合の低明度色相彩度領域情報,または前記明度領域情報が高明度の場合の高明度色相彩度領域情報を出力するルックアップテーブルを有し,
    前記シーン検出部は,
    前記第1のシーン判定においては,前記ルックアップテーブルを参照して,前記撮像した画像データの明度,色相,彩度データに対する前記低明度色相彩度領域情報または前記高明度色相彩度領域情報を前記複数のブロック毎に抽出し,
    前記第2のシーン判定においては,前記低明度ブロックについての前記低明度色相彩度領域情報に基づいて前記第2のシーン判定を行う撮影シーン判定装置。
  4. 請求項2において,
    前記前記色相彩度領域情報は,前記色相彩度座標上の複数領域のうちいずれの色相彩度領域かを示し,
    前記第2のシーン判定において,前記低明度ブロックの画像データの明度を前記明度閾値以上に加算するとき前記色相彩度領域毎に定められた加算演算に基づいて加算し,当該色相彩度領域毎加算した明度データと色相,彩度データとに対する前記色相彩度領域情報を前記低明度ブロック毎に抽出する撮影シーン判定装置。
  5. 請求項1,2または3のいずれかにおいて,
    前記前記色相彩度領域情報は,前記色相彩度座標上の複数領域のうちいずれの色相彩度領域かを示し,
    前記特定の撮影シーンは,前記色相彩度領域情報が白色に対応する色相彩度領域であるブロックの数が第1の基準値以上のときに判定される雪景シーン,前記色相彩度領域情報が赤色に対応する色相彩度領域であるブロックの数が第2の基準値以上のときに判定される夕景シーンのいずれかを有する撮影シーン判定装置。
JP2010043693A 2010-03-01 2010-03-01 撮影シーン判定装置 Expired - Fee Related JP5482292B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010043693A JP5482292B2 (ja) 2010-03-01 2010-03-01 撮影シーン判定装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010043693A JP5482292B2 (ja) 2010-03-01 2010-03-01 撮影シーン判定装置

Publications (2)

Publication Number Publication Date
JP2011182147A true JP2011182147A (ja) 2011-09-15
JP5482292B2 JP5482292B2 (ja) 2014-05-07

Family

ID=44693199

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010043693A Expired - Fee Related JP5482292B2 (ja) 2010-03-01 2010-03-01 撮影シーン判定装置

Country Status (1)

Country Link
JP (1) JP5482292B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008011289A (ja) * 2006-06-30 2008-01-17 Sanyo Electric Co Ltd デジタルカメラ
JP2008242751A (ja) * 2007-03-27 2008-10-09 Seiko Epson Corp 画像識別方法、画像識別装置及びプログラム
JP2010041288A (ja) * 2008-08-04 2010-02-18 Sony Corp 撮像装置と画像処理装置と撮像方法およびプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008011289A (ja) * 2006-06-30 2008-01-17 Sanyo Electric Co Ltd デジタルカメラ
JP2008242751A (ja) * 2007-03-27 2008-10-09 Seiko Epson Corp 画像識別方法、画像識別装置及びプログラム
JP2010041288A (ja) * 2008-08-04 2010-02-18 Sony Corp 撮像装置と画像処理装置と撮像方法およびプログラム

Also Published As

Publication number Publication date
JP5482292B2 (ja) 2014-05-07

Similar Documents

Publication Publication Date Title
US8164649B2 (en) White balance adjusting device, imaging apparatus, and recording medium storing white balance adjusting program
KR102346522B1 (ko) 영상 처리 장치 및 그것의 자동 화이트 밸런싱 방법
JP5918915B2 (ja) カラーフィルタを有するセンサを用いて、改善されたカラー画像を作成するための方法およびデバイス
US10325354B2 (en) Depth assisted auto white balance
KR100955145B1 (ko) 적응형 자동 화이트 밸런스
US20070047803A1 (en) Image processing device with automatic white balance
US8879841B2 (en) Anisotropic denoising method
CN107872663B (zh) 图像处理方法及装置、计算机可读存储介质和计算机设备
JP2016151955A (ja) 画像処理装置、撮像装置、距離計測装置、および画像処理方法
JP5782311B2 (ja) 撮像装置及びその制御方法
CN108063934B (zh) 图像处理方法及装置、计算机可读存储介质和计算机设备
JP2007097175A (ja) ゾーン重み付け機能を備えたホワイトバランス機構
TWI736599B (zh) 影像中飽和像素之檢測方法
US9092661B2 (en) Facial features detection
JP5706705B2 (ja) 画像処理装置およびその制御方法、ならびに撮像装置
JP2009004966A (ja) 撮像装置
JP5482292B2 (ja) 撮影シーン判定装置
US9239947B2 (en) Face detection method
WO2022067761A1 (zh) 图像处理方法、装置、拍摄设备、可移动平台及计算机可读存储介质
JP5159647B2 (ja) 画像処理装置及び画像処理方法
CN111885281A (zh) 图像处理
CN109788217B (zh) 不良像素补偿方法与装置
JP6257292B2 (ja) 画像処理装置、その制御方法、および制御プログラム
CN109543678B (zh) 敏感图像鉴别方法及装置
US20220101622A1 (en) Image processing method, image processing device, and recording medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121031

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131010

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131022

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140121

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140203

R150 Certificate of patent or registration of utility model

Ref document number: 5482292

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees