JP2011030207A - 撮像装置、閃光判定方法およびプログラム - Google Patents

撮像装置、閃光判定方法およびプログラム Download PDF

Info

Publication number
JP2011030207A
JP2011030207A JP2010133530A JP2010133530A JP2011030207A JP 2011030207 A JP2011030207 A JP 2011030207A JP 2010133530 A JP2010133530 A JP 2010133530A JP 2010133530 A JP2010133530 A JP 2010133530A JP 2011030207 A JP2011030207 A JP 2011030207A
Authority
JP
Japan
Prior art keywords
flash
image
unit
imaging
screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010133530A
Other languages
English (en)
Other versions
JP5520704B2 (ja
Inventor
Satoaki Wada
学明 和田
Yutaka Furukawa
豊 古川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2010133530A priority Critical patent/JP5520704B2/ja
Publication of JP2011030207A publication Critical patent/JP2011030207A/ja
Application granted granted Critical
Publication of JP5520704B2 publication Critical patent/JP5520704B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Exposure Control For Cameras (AREA)
  • Stroboscope Apparatuses (AREA)

Abstract

【課題】外部閃光の検出精度を高めることができる撮像装置を実現する。
【解決手段】撮像装置1000は、CMOS型撮像素子を用いて画像を連続して撮像する撮像部11と、撮像部11により撮像された画像に基づいて閃光の有無を判定する閃光判定部12と、を備える。閃光判定部12は、撮像部11により撮像された画像の画面下部の所定領域の平均輝度レベルの変化量を監視し、平均輝度レベルの変化量に基づいて閃光の有無を判定する。
【選択図】図1

Description

本発明は、連続画像を撮像するデジタルカメラやビデオカメラなどに活用され、外部閃光があっても帯状のノイズを発生させることなく、かつ、閃光瞬間(外部閃光が発生した時)のフレーム画像も適切に出力することができる撮像装置および閃光判定方法に関するものである。
最近のビデオカメラではCMOS(Complementary Metal−Oxide Semiconductor)撮像素子(CMOSイメージセンサ)を用いて画像の撮像を行なっているものが増えている。こういったCMOS撮像素子を用いたビデオカメラでは、動画撮像時にフラッシュ発光のような外部閃光があった場合、1フレームの瞬間画面全体が明るくなるのではなく、画面の上部と下部で明るさの異なった不自然な画像が出力される。この問題は、例えば、特許文献1の図3および段落番号[0059]〜[0065]の説明にもあるように一般的に知られている。
CMOS撮像素子を用いた撮像装置で、画面の上部と下部で明るさの異なった不自然な画像が出力される原因について図面を用いて説明する。
図7は、フレーム周波数60Hz、有効走査線数1080本の画像を、CMOS撮像素子を用いた撮像装置で撮像したときの露光タイミングを示した図であり、外部閃光があったとき帯状の高輝度部分が発生していることを示している。CMOS撮像素子では、各ラインの露光タイミングがずれており、画面最上部の1ライン目と最下部の1080ライン目ではおよそ1/60秒の時差がある。ここで、外部閃光があると、その外部閃光の影響は、前のフレーム(2)の画像として露光されるラインと、後のフレーム(3)の画像として露光されるラインに分れて発生する。その結果、撮像装置から出力される画像(映像)において、画面下部が明るくなるフレームが発生し、次のフレームでは画面上部が明るくなるフレームが発生する。また、外部閃光は、撮像装置の動作とは非同期に発生するため、撮像装置により取得される画像(撮像画像)の画面が明るくなる開始点がどこのラインになるか不明である。
こういった撮像画像の画面の上部と下部とで明るさの異なった不自然な画像が出力される課題に対して、特許文献1では、外部閃光を検出して、外部閃光が検出されたときには、当該外部閃光の影響を受けている不自然な画像を除いて記録する方法が提案されている。
また、特許文献1に開示されている撮像装置では、以下のようにして、外部閃光を検出する。すなわち、特許文献1に開示されている撮像装置は、画像の明るさや色の分布を検波する検波部を備え、画像の所定の部分の明るさや色の分布を示す情報や、画像の所定の部分の空間周波数を示す情報を評価値として出力し、当該評価値と比較対象画像の評価値との差分を取って、この差分が基準値以上であれば、外部閃光の影響ありと判定する。
特開2007−306225号公報
しかしながら、ニュース取材等で用いられるビデオカメラでは、例えば、夜間の屋外で警察の護送で人物が車で運ばれて来るシーンなど、フラッシュ閃光があった瞬間の画像も記録させたいという要望がある。
すなわち、CMOS撮像素子を使用したビデオカメラで撮像する場合、外部閃光があっても上部と下部で明るさの異なった不自然な画像になるのではなく、閃光瞬間の一様に明るくなった画像を出力させたいという要望がある。
一方、外部閃光の検出にあたっては、検出精度の問題を抱えている。
特許文献1では、所定の部分の明るさ情報を評価値とし、当該評価値と比較対象画像の評価値との差分を取り、その差分が基準値以上であれば、外部閃光の影響ありとする閃光検出処理を行うが、具体的に画面内のどの領域を処理対象として閃光検出処理を行うのかについては示されていない。ここで、(1)監視する領域を画面全体とし、画面全体の平均輝度を評価値として利用する場合と、(2)監視する領域を画面最下部の1ラインのみとして、最下部1ラインの平均輝度を評価値として利用する場合とについて、閃光の検出精度を検証する。
(1)まず、監視する領域を画面全体として、画面全体の平均輝度を評価値として利用する場合について、閃光の検出精度を検証する。閃光がある環境下で撮像装置による撮像を行った場合、撮像装置により取得される撮像画像の画面の平均輝度も上昇するが、この平均輝度の上昇のばらつきが大きい。図7で説明したように、外部閃光は、撮像装置の動作とは非同期であるため、撮像画像の画面が明るくなる開始点がどこのラインになるか不明である。よって、撮像画像の画面の上部から明るくなっている場合もあれば、撮像画像の画面の下の方から明るくなっている場合もある。
図8(a)、(b)は、撮像画像の画面が一様に輝度レベル20%になっているところに外部閃光により画面下部が輝度レベル100%になっている例を示した図である。図8(a)は画面の9割が外部閃光により輝度が上昇している例であり、図8(b)は画面の1割が外部閃光により輝度が上昇している例である。なお、「輝度レベル100%」とは、SMPTE(Society of Motion Picture and Television Engineers)や電波産業界のスタジオ規格でいうところの白ピークレベルに相当するレベルをいう。そして、この白ピークレベルを「100%」とすることで、「%」により、輝度レベルを含む画像信号のレベル(信号値)を表現する。
図8(a)について、画面全体の平均輝度を計算すると92%になる。一方、図8(b)について画面全体の平均輝度を計算すると28%になる。すなわち、外部閃光があっても画面全体で平均輝度を計算して評価値とすると、高輝度部分のラインがどこから始まるかによって、評価値(この場合は、画面全体の平均輝度レベル)がレベル28%からレベル92%のように大きくばらついてしまう。
ここで、上記閃光検出方法において、閃光を判定する基準値を、1フレーム前のフレーム(フレーム画像)の平均輝度レベルの2倍の値に設定すると、上記の場合、現フレーム画像(処理対象のフレーム画像)の平均輝度レベルが40%以上である場合、「閃光あり」と判定される。図8(a)の場合、評価値が92%であるので、上記閃光検出方法により、「閃光あり」と判定することができるが、図8(b)の場合、評価値が28%であるので、上記閃光検出方法では、「閃光あり」と判定されない。
また、高輝度になる開始ラインの影響を小さくするために、閃光を判定する基準値を低めにする、例えば、当該基準値を、1フレーム前のフレーム(フレーム画像)の平均輝度レベルの1.2倍に設定すると、上記閃光検出方法により、フレーム画像の平均輝度レベルが24%以上で「閃光あり」と判定される。このとき、上記閃光検出方法により、図8(a)の場合も、図8(b)の場合も、「閃光あり」と判定することができるが、閃光のない通常撮像時にズーム操作やパン・チルト操作を行ったとき、あるいは、被写体が動いたとき、撮像画像(フレーム画像)の画面の輝度が変化し、「閃光あり」と判定してしまうという誤検出が起こる可能性がある。
以上のように、撮像画像(フレーム画像)の画面全体で平均輝度を評価値として採用し、評価値の変化を監視する手法では、閃光があったにも関わらず「閃光あり」と判定されない無反応や、閃光がないにも関わらず「閃光あり」と判定してしまう誤検出がある。
(2)次に、上記(1)の場合とは逆に、監視する領域を小さくして、監視領域を撮像画像(フレーム画像)の最下部の1ラインのみとし、最下部1ラインの平均輝度を評価値として利用する場合の閃光検出方法の閃光の検出精度について検証する。
この場合、最下部1ラインの平均輝度は、ビデオカメラの動きにより大きく変化してしまう。例えば、ビデオカメラにおいて、チルト操作や手振れが発生したときは、撮像画像(フレーム画像)の画面最下部で撮像していた被写体(物体)が上下方向に動くため、1ラインの平均輝度が大きく変化してしまう。図8(c)は、撮像画像の画面下方から高輝度物体が上方にフレームインしてきた例を示している。図8(c)の場合、撮像画像の最下部ラインの平均輝度は、フレーム間において、レベル20%からレベル50%に急上昇してしまう。閃光検出方法において、閃光を判定する基準値を、1フレーム前のフレーム画像のライン平均輝度レベルの2倍の値に設定すると、図8(c)の場合、現フレームの1フレーム前のフレーム画像の評価値がレベル20%であるので、現フレームのライン平均輝度レベルが40%以上で「閃光あり」と判定される。つまり、上記閃光検出方法では、図8(c)の場合、外部閃光がないにも関わらず「閃光あり」と判定してしまう誤検出を起こしてしまう。
以上のように、従来技術では、閃光を検出するための輝度変化の監視する領域設定によって誤検出や無反応を起こしてしまうという閃光検出の検出精度の問題がある。
本発明は、上記従来の課題を解決するもので、外部閃光の検出精度を高める撮像装置、閃光検出方法、および、プログラムを実現することを目的とする。
第1の発明は、撮像部と、判定部と、を備える撮像装置である。
撮像部は、CMOS型撮像素子を含み、被写体光を電気信号に変換し、画像を取得する。判定部は、撮像部により取得された画像の画面下部の所定領域を閃光検出用監視領域に設定し、閃光検出用監視領域から評価値を算出し、算出した評価値が所定の値以上変化したとき、画像内に閃光の影響があると判定する。
この撮像装置では、判定部により、画像の画面下部の所定領域を閃光検出用監視領域に設定し、閃光検出用監視領域から評価値を算出し、算出した評価値が所定の値以上変化したとき、画像内に閃光の影響があると判定するので、外部閃光の誤検出や無反応を減らすことができ、閃光の検出精度を高めることができる。
なお、「画像」とは、表示装置において1つの画面を構成することができるものであり、例えば、フレーム画像がこれに該当する。
また、「画面下部」とは、画像の画面の下半分以下の画像領域を含む概念であり、例えば、画像の画面の最下部の1ラインを含む画面の下半分以下の画像領域がこれに該当する。
また、「評価値」とは、閃光検出用監視領域の状態を表す物理量であり、例えば、閃光検出用監視領域における、平均信号レベルや信号レベルの積分値、平均輝度レベルや輝度レベルの積分値、RGB成分ごとの信号レベルの平均値や、RGB成分信号の全部または一部の信号レベルの平均値や積分値等、である。
また、「変化」とは、画像間における変化、例えば、フレーム画像間の変化を含む概念である。例えば、第N番目(Nは整数)のフレーム画像の評価値と、その次のフレームである第N+1番目のフレーム画像の評価値とにおける変化が、「変化」の一例である。
第2の発明は、第1の発明であって、判定部は、画像の画面の最下ラインを含む所定数のラインからなる領域を、閃光検出用監視領域に設定する。
この撮像装置では、外部閃光の影響を最も受けやすい画像の画面の最下ライン(有効画面を構成するラインの最も下に位置するライン)を含む所定数のラインからなる領域を、閃光検出用監視領域に設定するので、外部閃光の影響をより精度よく検出することができる。
なお、この撮像装置では、例えば、閃光検出用監視領域を、最下ラインを含む連続したラインで構成される領域に設定する。例えば、この撮像装置では、画像の画面が1080ラインで構成されている場合、閃光検出用監視領域を、第1017ライン〜第1080ラインの画面下部の64ライン分の領域に設定する。
第3の発明は、第1または第2の発明であって、判定部は、閃光検出用監視領域をn個(nは2以上の整数)の領域に分割し、n個に分割した領域ごとに、分割領域評価値を算出し、算出したn個の分割領域評価値の全部又は一部の変化量を監視し、監視している分割領域のうちの全ての分割領域における分割領域評価値の変化量に基づいて、画像内の閃光の影響の有無を判定する。
これにより、この撮像装置では、閃光検出用監視領域をn個(nは2以上の整数)の領域に分割した分割領域から算出した分割領域評価値を用いて、より精度よく、閃光検出を行うことができる。
第4の発明は、第1から第3のいずれかの発明であって、判定部により画像内に閃光の影響が有ると判定された場合、撮像部により取得された画像に対して閃光の影響を補正する処理を行う補正部をさらに備える。
これにより、この撮像装置では、画像内の閃光の影響を補正することができる。
第5の発明は、撮像ステップと、判定ステップと、を備える閃光判定方法である。
撮像ステップでは、CMOS型撮像素子を用いて、被写体光を電気信号に変換し、画像を取得する。判定ステップでは、撮像ステップにより取得された画像の画面下部の所定領域を閃光検出用監視領域に設定し、閃光検出用監視領域から評価値を算出し、算出した評価値が所定の値以上変化したとき、画像内に閃光の影響があると判定する。
これにより、第1の発明と同様の効果を奏する閃光判定方法を実現することができる。
第6の発明は、第5の発明であって、判定ステップでは、画像の画面の最下ラインを含む所定数のラインからなる領域を、閃光検出用監視領域に設定する。
これにより、第2の発明と同様の効果を奏する閃光判定方法を実現することができる。
第7の発明は、第5または第6の発明であって、判定ステップでは、閃光検出用監視領域をn個(nは2以上の整数)の領域に分割し、n個に分割した領域ごとに、分割領域評価値を算出し、算出したn個の分割領域評価値の全部又は一部の変化量を監視し、監視している分割領域のうちの全ての分割領域における分割領域評価値の変化量に基づいて、画像内の閃光の影響の有無を判定する。
これにより、第3の発明と同様の効果を奏する閃光判定方法を実現することができる。
第8の発明は、第5から第7のいずれかの発明であって、判定ステップにより画像内に閃光の影響が有ると判定された場合、撮像部により取得された画像に対して閃光の影響を補正する処理を行う補正ステップをさらに備える。
これにより、第4の発明と同様の効果を奏する閃光判定方法を実現することができる。
第9の発明は、撮像ステップと、判定ステップと、を備える閃光判定方法をコンピュータに実行させるプログラムである。
撮像ステップでは、CMOS型撮像素子を用いて、被写体光を電気信号に変換し、画像を取得する。判定ステップでは、撮像ステップにより取得された画像の画面下部の所定領域を閃光検出用監視領域に設定し、閃光検出用監視領域から評価値を算出し、算出した評価値が所定の値以上変化したとき、画像内に閃光の影響があると判定する。
これにより、第1の発明と同様の効果を奏する閃光判定方法をコンピュータに実行させるプログラムを実現することができる。
本発明によれば、外部閃光の誤検出や無反応を減らすことができ、閃光の検出精度を高めることができる撮像装置、閃光検出方法、および、プログラムを実現することができる。
第1実施形態における撮像装置のブロック図 第1実施形態における撮像部のブロック図 第1実施形態における閃光判定部のブロック図 第1実施形態における補正部のブロック図 第2実施形態における撮像装置のブロック図 第2実施形態における閃光判定部のブロック図 CMOS撮像素子の露光タイミングの説明図 従来例における輝度レベル変化の説明図 第1実施形態における補正部出力画像を説明するタイミング図 第1実施形態における外部閃光時の輝度レベル変化の説明図 第1実施形態における移動する高輝度物体による輝度レベル変化の説明図 第2実施形態における移動する高輝度物体による輝度レベル変化の説明図 第1実施形態における撮像装置の処理を説明するフローチャート 第2実施形態における撮像装置の処理を説明するフローチャート
以下、実施形態について、図面を参照しながら説明する。
[第1実施形態]
<1.1:撮像装置の構成>
図1は、第1実施形態における撮像装置1000のブロック図である。
図1に示すように、撮像装置1000は、被写体からの光を集光するレンズ部10と、レンズ部10により集光した被写体光を電気信号に変換することにより画像信号を取得する撮像部11と、撮像部11により取得された画像信号から外部閃光の有無を検出し、検出結果を閃光検出信号として出力する閃光判定部12と、を備える。また、撮像装置1000は、閃光検出信号に基づいて、撮像部11から出力される画像信号に対して補正処理を行う補正部13と、補正部13の出力に対して画像処理を行う画像処理部14と、を備える。また、撮像装置1000は、画像処理部14から出力される画像信号を表示する表示部15と、画像処理部14から出力される画像信号を記憶する記録部16と、撮像装置1000の各機能部を制御する制御部17と、ユーザからの各種指示を制御部17に伝える操作部18と、を備える。
レンズ部10は、1または複数のレンズから構成され、被写体からの光を集光し、撮像部11の撮像素子面に被写体の光学像を結像させる。レンズ部10は、フォーカス調整機能や、ズーム機能、露光調整機能等を有しており、制御部17からの制御信号により制御される。
撮像部11は、撮像素子(例えば、CMOSイメージセンサ)、およびセンサ駆動部を有し、レンズ部10により集光された被写体からの光を光電変換により電気信号に変換し、画像信号として、閃光判定部12および補正部13に出力する。撮像部11は、連続画像を撮像して、例えば、垂直有効ラインが1080、水平有効画素が1920、フレーム周波数60Hzの順次走査画像信号を出力する。
閃光判定部12は、撮像部11から出力される画像信号を入力とし、連続する各フレームの画像(画像信号により形成されるフレーム画像)を比較し、外部閃光の有無を検出する(フレーム画像内に外部閃光の影響を受けている画像信号があるか否かを検出する)。そして、閃光判定部12は、外光閃光の有無を示す閃光検出信号を補正部13に出力する。
補正部13は、撮像部11から出力される画像信号および閃光判定部12から出力される閃光検出信号を入力とする。補正部13は、閃光検出信号に基づいて、画像信号により形成されるフレーム画像に対して、所定の補正処理を行う。そして、補正部13は、補正処理後の画像信号を画像処理部14に出力する。
画像処理部14は、補正部13から出力される画像信号に対して、所定の画像処理(例えば、カメラ信号処理(例えば、ホワイトバランス処理、ガンマ処理、輝度/色差信号への変換、輪郭強調の処理等))を実行し、画像処理後の画像信号を、表示部15および記録部16に出力する。
表示部15は、画像処理部14から出力される画像信号を所定の表示形式で表示する。
記録部16は、画像処理部14から出力される画像信号を所定の記録形式で記録する。
制御部17は、撮像装置1000の各機能部に対して各種制御信号を出力し、撮像装置1000の各機能部を制御する。
操作部18は、ユーザからの指示を制御部17に伝える。
<1.2:撮像装置の動作>
以上のように構成された撮像装置1000について、各部の動作を説明する。
まず、レンズ部10では、制御部17からの信号により制御され、ズーム、フォーカス、絞りが調整され、光信号(被写体からの光)が撮像部11に供給(入力)される。
撮像部11は、例えば、図2に示したブロック図で実現される。図2に示すように、撮像部11は、プリズム20と、CMOS撮像素子21、24、27と、CDS(Correlated Double Sampling)部22、25、28と、アナログ/デジタル(A/D)変換部23、26、29と、駆動部30と、を備える。
レンズ部10から入力された光信号は、プリズム20にて、R(赤色成分)、G(緑色成分)、B(青色成分)の3つに分光され、R信号はCMOS撮像素子21に、G信号はCMOS撮像素子24に、B信号はCMOS撮像素子27に、それぞれ、入力される。
CMOS撮像素子21、24、27は、それぞれ、駆動部30から供給される信号により制御され、入射した光を受光してCMOS撮像素子の各画素で電荷が蓄積される。そして、CMOS撮像素子21、24、27は、それぞれ、光電変換により、電荷に対応した電気信号を画像信号として、CDS部22、25、28に出力する。本実施形態では、CMOS撮像素子21、24、27は、水平1920画素、垂直1080ラインの有効画素に、それぞれフォトダイオードを有しており、1/60秒毎に全画素分(フレーム画像1枚分)の電気信号(画像信号)を出力する。
CDS部(例えば、CDS回路)22、25、28は、駆動部30からの信号によって制御され、CMOS撮像素子21、24、27のそれぞれから供給されたアナログの電気信号のノイズ成分を、相関二重サンプリング処理を施すことによって除去する。そして、CDS部22、25、28は、ノイズ成分を除去したアナログの電気信号をアナログ/デジタル変換部23、26、29のそれぞれに供給する。
アナログ/デジタル変換部23、26、29は、駆動部30からのクロック信号によって制御され、アナログ電気信号をデジタル信号に変換する。そして、アナログ/デジタル変換部23、26、29によりデジタル信号に変換された信号は、それぞれ、R成分画像信号(R成分映像信号)、G成分画像信号(G成分映像信号)およびB成分画像信号(B成分映像信号)として、アナログ/デジタル変換部23、26、29から出力される。
以上のように、撮像部11では、入射した光信号をR、G、Bの3色のデジタル映像信号に変換し、1/60秒を1フレームとして水平1920画素、垂直1080ライン分の画素データを出力している。
次に、閃光判定部12について説明する。
閃光判定部12は、例えば、図3で示したブロック図の構成により実現される。図3に示すように、閃光判定部12は、輝度演算部31と、ブロック平均演算部32と、保持部33と、比較判定部34と、を備える。
輝度演算部31は、入力されたR、G、Bのデジタル映像信号から各画素(デジタル信号により形成される画像の各画素)の輝度信号を計算し、計算した各画素の輝度信号をブロック平均演算部32に出力する。
ブロック平均演算部32は、輝度演算部31から入力された各画素の輝度信号から、同一フレーム画像の画面の最下部64ラインを監視対象領域と設定して、この領域内全画素の平均輝度レベルを計算する。そして、ブロック平均演算部32は、計算結果をブロック平均輝度レベルYaとしてフレーム毎に保持部33および比較判定部34に出力する。
保持部33は、ブロック平均演算部32から1フレーム毎に出力されるブロック平均輝度レベルを1フレームの時間(1/60秒)だけ保持し、Ybとして比較判定部34に出力する。
比較判定部34は、ブロック平均演算部32から入力されるブロック平均輝度レベルYaと、保持部33から入力されるYbとを比較して、フレーム毎に判定結果を出力する。具体的には、比較判定部34は、式 Ya≧Yb×2を満足したとき、判定結果として「1」を出力、それ以外は「0」を出力する。
次に、補正部13について説明する。
補正部13は、例えば、図4で示したブロック図の構成により実現される。
図4に示すように、補正部13は、選択部35、40、45、39、44、49と、各画素の信号を1フレーム分記憶して1フレーム分(1/60秒)だけ遅延させるメモリ部36、41、46と、加算部37、42、47と、倍率0.5を乗じる乗算部38、43、48と、を備える。
選択部35、40、45、および選択部39、44、49は、閃光判定部12から入力される信号、すなわち、閃光判定結果が「0」のときは、それぞれ、端子aが選択され、閃光判定結果が「1」のときは、それぞれ、端子bが選択される。
ここで、閃光判定結果が「0」のときは、補正部13に入力されるR、G、Bの映像信号は、それぞれ、選択部35、40、45を介して、メモリ部36、41、46に入力され、1フレーム分の遅延がなされる。この1フレーム遅延したR、G、Bそれぞれの映像信号が、それぞれ選択部39、44、49を介して、画像処理部14へ出力される。
一方、閃光判定結果が「1」のときは、補正部13に入力されるR、G、Bの映像信号は、それぞれ、加算部37、42、47に入力され、1フレーム遅延した信号と加算される。加算結果は、それぞれ、乗算部38、43、48にて、0.5倍される。これは、加算した後に、0.5倍するため、加算平均の演算をしていることになる。この加算平均した結果は、それぞれ、選択部39、44、49を介して、画像処理部14へ出力される。これと同時に、加算平均した結果である乗算部38、43、48の出力は、それぞれ、選択部35、40、45を介して、メモリ部36、41、46へ入力される。
現フレーム(処理対象フレーム)で閃光判定結果が「1」となり、次のフレームで「0」となる場合は、閃光判定結果が「1」のフレームでは、補正部13から、加算平均された映像(画像信号)が出力されるが、次のフレームでは、メモリ部36、41、46に記憶された映像(画像信号)が補正部13から出力されるため、同じフレームの映像(画像)が2フレーム続けて出力されることになる。
この動作について、図9を参照して説明する。
図9は、補正部13からの出力画像を説明するためのタイミング図である。
図9(b)は撮像部11出力の画像を示しており、(2)のフレームで画面下部に白帯が発生している。このフレーム(2)で画面最下部64ラインの領域のブロック平均輝度が上昇し、閃光判定部12からは閃光判定結果として「1」が出力される。この閃光判定部12の出力信号は、図9(c)のようになっており、(2)のフレーム直後に閃光判定結果「1」を示す信号が出力されている。補正部13の出力画像は、図9(d)に示すように、図9(b)に比べ1フレーム分遅延しており、閃光判定部12から閃光判定結果として「1」が出力されているタイミングとその直後のフレームとの2フレームにわたって加算平均処理した補正画面(補正処理を実行したフレーム画像)が現れる(補正部13から出力される)。
図9(b)に示すように、外部閃光があったときの撮像部出力画像には、連続する2フレーム、具体的には、フレーム(2)とフレーム(3)にわたって白帯が発生する。このように連続する2フレームにわたって白帯が発生するのは、外部閃光をCMOS撮像素子21、24、27で露光されて電荷を蓄積している期間が、フレーム(2)とフレーム(3)に対応する期間に分かれている(またがっている)ためである。よって、撮像装置1000において、フレーム(2)とフレーム(3)との各画素の信号を加算平均することで、全ての画素に対して同じ外部閃光を露光して電荷を蓄積した信号が生成でき、画面全体が明るくなった補正画面(補正したフレーム画像)を取得することができる。
次に、画像処理部14の動作について説明する。
画像処理部14は、入力されたR、G、Bの映像信号に対して、ホワイトバランスの調整処理を施し、ガンマ処理、輝度/色差信号への変換処理、輪郭強調の処理等を行ない、輝度/色差の映像信号を出力する。
この画像処理部14の出力映像信号は、表示部15と記録部16へ出力される。
表示部15は、例えば、液晶パネル上に画像処理部14から出力される映像信号(画像信号)により形成される画像を表示し、操作者がその表示された画像を確認することができる。
記録部16は、画像処理部14から出力される映像信号(画像信号)により形成される画像に対して、例えば、情報圧縮を施した上で半導体メモリ等の記録媒体に、画像データを書き込み、記録する。
操作部18は、ボタン、スイッチ等が配置されており、ズーム、フォーカス、絞りの制御や、記録の開始/終了など操作者からの操作入力ができるようになっている。これらの操作入力信号は、制御部17へ送られる。制御部17は、当該操作入力信号に基づいて、撮像装置1000の各機能部の制御を行う。
次に、第1実施形態の撮像装置1000の動作および制御手順についてフローチャートを用いて説明する。
図13は、第1実施形態の撮像装置1000の動画撮像の処理を説明するためのフローチャートである。
例えば、操作者が操作部18の録画ボタンを操作して撮像が要求されたと判断されると、撮像装置1000において、処理(撮像処理)が開始される。
まず、ステップS100にて、撮像部11は、1フレーム分の画像を撮像する(1フレーム分の画像信号を取得する)。
次に、ステップS110では、閃光判定部12が、撮像画像(フレーム画像)の画面最下部64ラインのブロック平均輝度を算出し、算出したブロック平均輝度を評価値とする。
ステップS120では、ステップ110で演算された評価値が、保持部33に書き込まれる。
ステップS130では、撮像部11で撮像された画像が、補正部13内のメモリ部36、41、46に書き込まれる。
ステップS140では、次の1フレームの画像が撮像される。
ステップS150では、閃光判定部12が、新しい画像について、画面最下部64ラインのブロック平均輝度を算出し、算出したブロック平均輝度を評価値とする。
ステップS160では、閃光判定部12により演算(算出)された新しい評価値と、保持部33に記憶していた評価値とを比較する。
ステップS170では、ステップS160で比較した結果、新しい評価値が保持部33に記憶していた評価値の2倍以上になっていれば、ステップS210に進み、2倍未満であれば、ステップS180へ進む。
ステップS180では、メモリ部36、41、46に蓄えていた画像が出力され、表示部15で画像表示するとともに、記録部16で所定のフォーマットで記録する。
次に、ステップS190では、新しく撮像した画像、すなわち、ステップS140で撮像した画像をメモリ部36、41、46に上書きする。
そして、ステップS200では、ステップS150で演算(算出)した評価値を保持部33に上書きし、ステップS250に進む。
一方、ステップS210では、ステップS140で撮像した画像と、メモリ部36、41、46に格納されていた画像とを画素単位で加算平均の演算をする。
ステップS220では、S210での加算平均演算された画像を表示部15に画像表示するとともに、記録部16で所定のフォーマットで記録する。
そして、ステップS230では、ステップS210で演算した画像をメモリ部36、41、46に上書きする。
さらに、ステップS240では、ステップ150で演算した新しい評価値を保持部33に上書きし、ステップS250に進む。
ステップS250では、例えば、操作者が操作部18の録画停止ボタンを操作して撮像終了を要求したと判断されると処理が終了する。一方、撮像終了が要求されたと判断されない場合はステップS140に戻り、次のフレームの撮像を行なう。
≪閃光検出の精度について≫
以上のように動作する第1実施形態における撮像装置1000の閃光検出の精度について検証する。
図10(a)、(b)は、撮像画像(フレーム画像)の画面全体を閃光検出領域として平均輝度を監視し、現フレーム画像の平均輝度が1フレーム前のフレーム画像の平均輝度の2倍になったとき、閃光検出(「閃光あり」と判定)する場合の説明図である。
図10(a)、(b)は、閃光に関係のない画面の部分の輝度がレベル20%、閃光により明るくなった画面の部分の輝度がレベル100%になっている例である。図10(a)は撮像画像(フレーム画像)の画面の上部108ライン目から閃光による白帯(影響)が始まっている例であり、図10(b)は撮像画像(フレーム画像)の画面の下部972ライン目から閃光による白帯(影響)が始まっている例である。
図10(a)は、撮像画像(フレーム画像)の画面全体の平均輝度がレベル92%となり、レベル20%の2倍、すなわちレベル40%を超えているため、閃光検出(「閃光あり」と判定)される。しかし、図10(b)では、撮像画像(フレーム画像)の画面全体の平均輝度がレベル28%となり、レベル40%より下回っているため、閃光検出(「閃光あり」と判定)されない。すなわち、この場合、閃光を検出できない無反応になってしまう。
次に、図10(c)、(d)、(e)、は、第1実施形態の撮像装置1000と同じ画面最下部64ラインを閃光検出領域として平均輝度を監視し、現フレーム画像の平均輝度が1フレーム前のフレーム画像の平均輝度の2倍になったとき、閃光を検出したと判定する場合の説明図である。図10(c)、(d)、(e)、は、閃光に関係のない撮像画像(フレーム画像)の画面の部分の輝度がレベル20%、閃光により明るくなった画面の部分の輝度がレベル100%になっている例である。
図10(c)は、撮像画像(フレーム画像)の画面の上部108ライン目から閃光による白帯が始まっている例である。図10(d)は、撮像画像(フレーム画像)の画面の下部972ライン目から閃光による白帯が始まっている例である。図10(e)は、撮像画像(フレーム画像)の画面の下部1060ライン目から閃光による白帯が始まっている例である。
図10(c)は、閃光検出領域の平均輝度がレベル100%となり、レベル20%の2倍、すなわちレベル40%を超えているため、閃光検出(「閃光あり」と判定)される。
図10(d)についても閃光検出領域の平均輝度がレベル100%となり、閃光検出(「閃光あり」と判定)される。さらに、もっと画面下方から白帯が始まることを想定し、図10(e)のように、撮像画像(フレーム画像)の画面下部の1060ライン目から閃光による白帯が始まったとしても、閃光検出領域の平均輝度はレベル45%となり閃光検出(「閃光あり」と判定)される。
以上のように、第1実施形態における撮像装置1000は、撮像画像(フレーム画像)の画面全体を閃光検出領域として平均輝度を監視する場合に比べ、閃光があるのに閃光が検出されない無反応(閃光検出についての誤判定)が減少する。
図11(a)は、撮像画像(フレーム画像)の画面最下部の1ラインを閃光検出領域としてライン平均輝度を監視し、現フレーム画像の平均輝度が1フレーム前のフレーム画像の平均輝度の2倍になったとき、閃光を検出した(閃光あり)と判定する場合の説明図である。図11(a)は、通常の画面の輝度がレベル20%のところへ、フレーム画像の画面の水平方向の長さの半分の大きさを持ち、輝度がレベル80%の物体が画面の下方から上方へ移動し、画面内に32ライン分入ってくる例である。
図11(a)の場合では、撮像画像(フレーム画像)の画面最下部の1ラインを閃光検出領域としているため、監視しているライン平均輝度はレベル20%(現フレームの1フレーム前のフレーム画像のライン平均輝度レベル)からレベル50%(現フレーム画像のライン平均輝度レベル)へ増加する。この場合、現フレーム画像のライン平均輝度レベル(画面最下部の1ラインのライン平均輝度レベル)が、1フレーム前のフレーム画像のライン平均輝度レベル(画面最下部の1ラインのライン平均輝度レベル)の2倍、すなわちレベル40%を超えているため、閃光があったと判定してしまい誤検出となる。
図11(b)は、第1実施形態の撮像装置1000において採用される閃光検出方法の閃光検出精度を説明するための図である。つまり、図11(b)は、撮像画像(フレーム画像)の画面最下部64ラインを閃光検出領域として平均輝度を監視し、現フレーム画像の平均輝度が1フレーム前のフレーム画像の平均輝度の2倍になったとき、閃光を検出した(閃光あり)と判定する場合の説明図である。図11(b)は、図11(a)と同様に、フレーム画像の画面の輝度がレベル20%のところへ、フレーム画像の画面の水平方向の長さの半分の大きさを持ち、輝度がレベル80%の物体が画面の下方から上方へ移動し、画面内に32ライン分入ってくる例である。
図11(b)では、フレーム画像の画面最下部の64ラインを閃光検出領域としているため、監視しているブロック平均輝度はレベル20%(現フレームの1フレーム前のフレーム画像のブロック平均輝度レベル)からレベル35%(現フレームのブロック平均輝度レベル)へ増加する。この場合、現フレーム画像のブロック平均輝度レベルが、1フレーム前のフレーム画像のブロック平均輝度レベルの2倍、すなわち、レベル40%を超えていないため、撮像装置1000では、閃光があったとは判定されず、誤検出は起こらない。
以上説明したように、フレーム画像の画面全体を閃光検出領域とし平均輝度を監視すると閃光があるにも関わらず閃光が検出できない無反応(閃光検出の誤判定)が起こるが、第1実施形態の撮像装置1000では、無反応(閃光検出の誤判定)を減らすことができる。また、フレーム画像の画面最下部の1ラインのみを閃光検出領域としてライン平均輝度を監視すると被写体の動きに対して敏感に反応し、誤検出を起こしていたが、第1実施形態の撮像装置1000では、誤検出を減らすことができ、閃光の検出精度を向上させることができる。
以上のように、第1実施形態の撮像装置1000では、フレーム画像の画面最下部の64ライン分の閃光検出領域を設け、ブロック平均輝度を監視して、現フレーム画像のブロック平均輝度と1フレーム前のフレームのブロック平均輝度と比べ、現フレーム画像のブロック平均輝度が1フレーム前のフレームのブロック平均輝度の2倍以上になったとき、閃光検出(閃光あり)と判定する。これにより、撮像装置1000では、閃光検出の誤検出や無反応を減らすことができる。また、撮像装置1000では、閃光のあった連続2フレーム(閃光の影響がある連続する2つのフレーム)の画像に対して、画素ごとに加算平均することにより、出力画像を生成する。これにより、撮像装置1000から出力される画像は、画面の上部と下部で明るさの異なった不自然な画像になることはなく、閃光瞬間の一様に明るくなった画像(閃光があったことを認識できる自然な画像)となる。
なお、本実施形態の撮像装置1000では、フレーム画像の画面最下部の64ライン分の閃光検出領域を設け、ブロック平均輝度を監視して現フレーム画像のブロック平均輝度と現フレームの1フレーム前のフレームのブロック平均輝度と比べ、現フレーム画像のブロック平均輝度が1フレーム前のフレームのブロック平均輝度の2倍以上になったとき、閃光検出(閃光あり)と判定する場合について説明したが、これに限定されることはなく、例えば、撮像装置1000において、フレーム画像の画面最下部の32ラインや128ラインのように閃光検出領域の設定を変えてもよい。この場合も、閃光検出領域を最下部1ラインに設定する場合に比べて誤検出は減少する。また、現フレームのブロック平均輝度が現フレームの1フレーム前のフレームのブロック平均輝度と比べ1.5倍以上になったとき、閃光検出(閃光あり)と判定するようにしても、フレーム画像の画面全体の平均輝度を監視して閃光を検出する場合に比べ無反応は減少し、閃光検出精度は改善される。
また、本実施形態の撮像装置1000では、撮像部11のCMOS撮像素子21、24、27に水平1920画素、垂直1080ラインの有効画素数を有するものを用いたが、これに限定されることはなく、画素数の異なる撮像素子を用いても構わない。
また、本実施形態では、撮像部11としてプリズム20と3個のCMOS撮像素子21、24、27を用いたが、これに限定されることはなく、例えば、撮像素子のチップ上にカラーフィルタを配置した単板式のCMOS撮像素子を用いてもよい。
さらに、本実施形態では、フレーム周波数60Hzの順次走査映像を扱い、記録部16に記録するようにしたが、これに限定されることはなく、例えば、フレーム周波数を50Hzや24Hzとしても構わない。また、撮像装置1000において、順次走査から飛越走査への変換を施し、飛越走査の映像として記録するようにしても構わない。
[第2実施形態]
次に、第2実施形態について、図面を参照しながら説明する。
<2.1:撮像装置の構成>
図5は、第2実施形態の撮像装置2000のブロック図である。
図5に示すように、第2実施形態の撮像装置2000は、第1実施形態の撮像装置1000の閃光判定部12を閃光判定部50に置換した構成となっている。なお、本実施形態において、第1実施形態と同様の部分については、同一符号を付して詳細な説明は省略する。
<2.2:撮像装置の動作>
以上のように構成された撮像装置2000について、その動作を説明する。
レンズ部10、撮像部11、補正部13、画像処理部14、表示部15、記録部16、制御部17、操作部18の動作については、第1実施形態の撮像装置1000と同じである。本実施形態の撮像装置2000において、第1実施形態の撮像装置1000の動作と異なるのは、閃光判定部50についての動作である。
図6は、閃光判定部50の詳細を示したブロック図である。
図6に示すように、閃光判定部50は、輝度演算部51と、フレーム画像の画面最下部64ラインの領域を6つの領域に分割するブロック分割部52と、分割された各ブロックの平均輝度を演算するブロック平均演算部53〜58と、各ブロックの平均輝度を1フレーム分遅延させる保持部59〜64と、比較部65〜70と、閃光の有無を判定する判定部71と、を備える。
輝度演算部51は、入力されたR、G、Bのデジタル映像信号から各画素の輝度信号を計算し、ブロック分割部52に出力する。
ブロック分割部52は、入力された各画素の輝度信号から、フレーム画像の画面の最下部64ライン、水平1920画素の監視対象領域のうち、1ブロックを水平320画素分として6つのブロックに分割して、それぞれのブロックに該当している画素の輝度信号のみをブロック平均演算部53〜58へ出力する。
ブロック平均演算部53〜58は、入力された輝度信号の平均値を計算し、各ブロックの平均輝度レベルをフレーム毎に出力する。
図12(a)は、ブロック分割部52で分割された領域を示す図であり、フレーム画像の画面内の6つの領域の平均輝度レベルをそれぞれY0〜Y5としている。
保持部59〜64は、ブロック平均演算部53〜58出力のブロック平均輝度レベルそれぞれを1フレームの時間(1/60秒)だけ保持し、出力する。
比較部65〜70は、ブロック平均演算部53〜58出力のブロック平均輝度レベルそれぞれと、保持部59〜64出力のブロック平均輝度レベルそれぞれを比較し、ブロック平均演算部53〜58出力のブロック平均輝度レベルそれぞれが保持部59〜64出力のブロック平均輝度レベルそれぞれの2倍以上であれば「1」を出力、2倍未満であれば「0」を出力する。
判定部71は、比較部65〜70出力全てが「1」のとき判定結果として「1」を出力し、それ以外は「0」を出力する。
補正部13は、判定部71の出力信号にもとづき補正処理を行う。この補正部13の動作については、第1実施形態の撮像装置1000と同じである。
次に、第2実施形態の撮像装置2000の動作および制御手順についてフローチャートを用いて説明する。
図14は、第2実施形態の撮像装置2000の動画撮像の処理を説明するフローチャートである。例えば、操作者が操作部18の録画ボタンを操作して撮像が要求されたと判断されると処理が開始される。
まず、ステップS300にて、撮像部11は、1フレームの画像を撮像する。
次に、ステップS310では、閃光判定部50において、フレーム画像の画面最下部を6つの領域に分割して各ブロックの平均輝度を評価値として演算(算出)する。
ステップS320では、ステップS310で算出された6つの評価値(各ブロックの評価値)が保持部59〜64に書き込まれる。
ステップS330では、ステップS300で撮像された画像を補正部13内のメモリ部36、41、46が書き込まれる。
ステップS340では、次の1フレームの画像が撮像される。
ステップS350では、新しい画像について、フレーム画像の画面最下部を6つの領域に分割して各ブロックの平均輝度を評価値として演算(算出)する。
ステップS360では、演算した新しい6つの評価値(現フレームの各ブロックの評価値)と、保持部59〜64に記憶していた評価値(現フレームの1フレーム前のフレームの各ブロックの評価値)とを比較する。
ステップS370では、新しい6個の評価値が保持部59〜64に記憶していた6個の評価値に対して、6組ともの2倍以上になっていればステップS410に進み、1組でも2倍未満の組があればステップS380へ進む。
ステップS380では、メモリ部36、41、46に蓄えていた画像を出力し、表示部15に画像表示するとともに、記録部16でこの画像を記録する。
次にステップS390で、新しく撮像した画像、すなわち、ステップS340で撮像した画像をメモリ部36、41、46に上書きする。
そして、ステップS400では、ステップS350で演算した6つの評価値を保持部59〜64に上書きし、ステップS450に進む。
一方、ステップS410では、ステップS340で撮像した画像と、メモリ部36、41、46に格納されていた画像とを画素単位で加算平均の演算をする。
ステップS420では、この加算平均演算された画像を表示部15に画像表示するとともに、記録部16で記録する。
そして、ステップS430では、ステップS410で演算した画像をメモリ部36、41、46に上書きする。
さらに、ステップ440では、ステップ350で演算した新しい6つの評価値を保持部59〜64に上書きし、ステップS450に進む。
ステップS450では、例えば、操作者が操作部18の録画停止ボタンを操作して撮像終了を要求したと判断されると処理が終了する。一方、撮像終了が要求されたと判断されない場合はステップS340に戻り、次のフレームの撮像を行なう。
≪閃光検出の精度について≫
以上のように動作する第2実施形態の撮像装置2000の閃光検出の精度について検証する。
まず、外部閃光があった場合の閃光検出について検証する。
撮像装置2000で取得されるフレーム画像の同一ラインに対応する撮像素子面上の同一ラインに属する画素の露光時間は同一、すなわち、同一ラインに属する画素の電荷蓄積時間は、同一であるとみなせるので、図12(a)で示したように閃光を監視する領域を水平方向に6つのブロックに分割しても、外部閃光による影響を受けてフレーム画像上に白帯が発生する場合において、それぞれの分割領域での輝度レベル上昇は同様である。よって、第1実施形態で、図10(c)、(d)、(e)で説明したのと同様に、図10(c)に示すように、フレーム画像の108ライン目から白帯が始まっているときも、図10(d)に示すように、フレーム画像の972ライン目から白帯が始まっているときも、図10(e)に示すように、フレーム画像の1060ライン目から白帯が始まっているときも、現フレームのブロック平均輝度Y0(N)〜Y5(N)の全てが、それぞれ、1フレーム前のブロック平均輝度Y0(N−1)〜Y5(N−1)の2倍以上に上昇する。つまり、下式(1)〜(5)のすべての条件が満たされるため、比較部65〜70出力全てが「1」となり、判定部71の出力も「1」となる。
(1)Y0(N)≧2×Y0(N−1)
(2)Y1(N)≧2×Y1(N−1)
(3)Y2(N)≧2×Y2(N−1)
(4)Y3(N)≧2×Y3(N−1)
(5)Y4(N)≧2×Y4(N−1)
なお、Yk(N)(kは、0〜4のいずれかの整数、Nは自然数)は、N番目のフレーム画像の分割ブロックYk(Y0〜Y4のいずれかの分割ブロック)の評価値(ブロック平均輝度)であり、Yk(N−1)は、N−1番目のフレーム画像(N番目のフレームの1フレーム前のフレーム画像)の分割ブロックYk(Y0〜Y4のいずれかの分割ブロック)の評価値(ブロック平均輝度)である。
このようにして、撮像装置2000では、正常に閃光検出がされる。そして、撮像装置2000では、閃光検出されたフレーム画像に対して補正処理がなされる。つまり、撮像装置2000では、フレーム画像の画面全体の平均輝度を検出領域と設定する場合に比べ、閃光の検出ができない無反応(誤判定)を改善することができる。
次に、高輝度物体がフレーム画像の画面下方から上方へ移動し、画面にフレームインするときの誤検出について検証する。
図12(b)、(c)は、第2実施形態の撮像装置2000の閃光判定の説明図である。
図12(b)は、フレーム画像の画面の輝度がレベル20%のところへ、画面の水平方向の長さの半分の大きさを持ち、輝度がレベル80%の物体が下方から上方へ移動し、画面内に32ライン分入ってくる例である。この場合、各ブロックの平均輝度は、Y0=20%、Y1=35%、Y2=50%、Y3=50%、Y4=35%、Y5=20%となる。ここで、Y2とY3については、現フレームの平均輝度レベルが1フレーム前のフレームの平均輝度レベルの2倍以上に上昇しているため、比較部67と68は「1」を出力するが、他の比較部は「0」を出力する。よって、判定部71の出力は「0」となり、撮像装置2000において、閃光検出はされていない結果となる。すなわち、この場合、撮像装置2000において、閃光の誤検出は起こらない。
次に、図12(c)のように、さらに高速に高輝度物体が移動したためにフレーム画像の画面最下部の64ライン以上の部分まで高輝度となった場合、各ブロックの平均輝度レベルは、Y0=20%、Y1=60%、Y2=80%、Y3=80%、Y4=60%、Y5=20%となり、Y1〜Y4については、現フレームの平均輝度レベルが1フレーム前のフレームの平均輝度レベルの2倍以上の上昇を示し、比較部66〜69出力は「1」となる。しかし、比較部65と70の出力が「0」となるため、判定部71出力は「0」となる。すなわち、撮像装置2000において、閃光は検出されていないと判定され、誤検出にはならない。
以上説明したように、フレーム画像の画面全体を閃光検出領域とし平均輝度を監視すると、閃光があるにも関わらず閃光が検出できない無反応が起こるが、第2実施形態の撮像装置2000では、無反応(閃光検出の誤判定)を減らすことができる。また、フレーム画像の画面最下部の1ラインのみを閃光検出領域としてライン平均輝度を監視すると被写体の動きに対して敏感に反応し、誤検出を起こしていたが、第2実施形態の撮像装置2000では、誤検出を減らすことができ、高速で高輝度物体が移動する場合においても誤検出を減らすことができる。よって、第2実施形態の撮像装置2000では、従来の閃光検出方法に比べ、閃光の検出精度が向上している。
以上のように、第2実施形態の撮像装置2000では、フレーム画像の画面最下部の64ラインに6つの閃光検出領域(分割ブロック領域)を設け、各ブロック平均輝度を監視して、全てのブロックで、現フレームのブロック平均輝度と1フレーム前のフレームのブロック平均輝度とを比べ、全てのブロックで、現フレームのブロック平均輝度が1フレーム前のフレームのブロック平均輝度の2倍以上になったとき、閃光検出(閃光あり)と判定する。これにより、撮像装置2000では、閃光検出における誤検出や無反応を減らすことができる。また、撮像装置2000では、閃光のあった連続2フレームの画像を加算平均することにより、フレーム画像の画面の上部と下部で明るさの異なった不自然な画像になるのではなく、閃光瞬間の一様に明るくなった画像を出力することができる。
なお、本実施形態の撮像装置2000では、フレーム画像の画面最下部の64ラインの部分に6つの閃光検出領域(分割ブロック領域)を設け、各ブロック平均輝度を監視して、全てのブロックで、現フレームのブロック平均輝度と1フレーム前のフレームのブロック平均輝度と比べ、現フレームのブロック平均輝度が1フレーム前のフレームのブロック平均輝度の2倍以上になったとき、閃光検出(閃光あり)と判定することとしたが、これに限定されることはなく、例えば、撮像装置2000において、フレーム画像の画面最下部の32ラインや128ラインのように閃光検出領域の設定を変えてもよい。この場合も、フレーム画像の最下部1ラインを閃光検出領域とする場合に比べて、閃光検出の誤検出は減少する。また、撮像装置2000において、各ブロックの全てにおいて、現フレームのブロック平均輝度が1フレーム前のフレームのブロック平均輝度の1.5倍以上になったとき、閃光検出(閃光あり)と判定するようにしても、フレーム画像の画面全体の平均輝度を監視して閃光を検出する場合に比べ無反応は減少し、閃光検出精度は改善される。さらに、撮像装置2000において、閃光検出領域の分割を「6」でなく「8」にしても同様な効果が得られる。また、上記実施形態において、閃光検出領域の分割数を「6」の場合について説明したが、これに限定されることはなく、閃光検出領域の分割数を「6」以外の数としてもよい。
[他の実施形態]
なお、上記実施形態で説明した撮像装置において、各ブロックは、LSIなどの半導体装置により個別に1チップ化されても良いし、一部又は全部を含むように1チップ化されても良い。
なお、ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサーを利用しても良い。
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適用等が可能性としてあり得る。
また、上記実施形態の各処理をハードウェアにより実現してもよいし、ソフトウェア(OS(オペレーティングシステム)、ミドルウェア、あるいは、所定のライブラリとともに実現される場合を含む。)により実現してもよい。さらに、ソフトウェアおよびハードウェアの混在処理により実現しても良い。なお、上記実施形態に係る撮像装置をハードウェアにより実現する場合、各処理を行うためのタイミング調整を行う必要があるのは言うまでもない。上記実施形態においては、説明便宜のため、実際のハードウェア設計で生じる各種信号のタイミング調整の詳細については省略している。
また、上記実施形態における処理方法の実行順序は、必ずしも、上記実施形態の記載に制限されるものではなく、発明の要旨を逸脱しない範囲で、実行順序を入れ替えることができるものである。
本発明にかかる撮像装置は、外部閃光があった場合、撮像画像(フレーム画像)の画面の上部と下部で明るさの異なった不自然な画像になるのではなく、閃光瞬間の一様に明るくなった画像を出力することができ、かつ、閃光の誤検出や無反応を減らすことができる。これにより、夜間の撮像、特にニュース取材などに効果を発揮し、連続画像を撮像するデジタルカメラやビデオカメラなどに非常に有用である。
1000、2000 撮像装置
10 レンズ部
11 撮像部
12、50 閃光判定部(判定部)
13 補正部
14 画像処理部
15 表示部
16 記録部
17 制御部
18 操作部

Claims (9)

  1. CMOS型撮像素子を含み、被写体光を電気信号に変換し、画像を取得する撮像部と、
    前記撮像部により取得された前記画像の画面下部の所定領域を閃光検出用監視領域に設定し、前記閃光検出用監視領域から評価値を算出し、算出した前記評価値が所定の値以上変化したとき、前記画像内に閃光の影響があると判定する判定部と、
    を備える撮像装置。
  2. 前記判定部は、前記画像の画面の最下ラインを含む所定数のラインからなる領域を、前記閃光検出用監視領域に設定する、
    請求項1に記載の撮像装置。
  3. 前記判定部は、前記閃光検出用監視領域をn個(nは2以上の整数)の領域に分割し、n個に分割した領域ごとに、分割領域評価値を算出し、算出したn個の前記分割領域評価値の全部又は一部の変化量を監視し、監視している分割領域のうちの全ての分割領域における前記分割領域評価値の変化量に基づいて、前記画像内の閃光の影響の有無を判定する、
    請求項1または2に記載の撮像装置。
  4. 前記判定部により前記画像内に閃光の影響が有ると判定された場合、前記撮像部により取得された前記画像に対して閃光の影響を補正する処理を行う補正部をさらに備える、
    請求項1から3のいずれかに記載の撮像装置。
  5. CMOS型撮像素子を用いて、被写体光を電気信号に変換し、画像を取得する撮像ステップと、
    前記撮像ステップにより取得された前記画像の画面下部の所定領域を閃光検出用監視領域に設定し、前記閃光検出用監視領域から評価値を算出し、算出した前記評価値が所定の値以上変化したとき、前記画像内に閃光の影響があると判定する判定ステップと、
    を備える閃光判定方法。
  6. 前記判定ステップでは、前記画像の画面の最下ラインを含む所定数のラインからなる領域を、前記閃光検出用監視領域に設定する、
    請求項5に記載の閃光判定方法。
  7. 前記判定ステップでは、前記閃光検出用監視領域をn個(nは2以上の整数)の領域に分割し、n個に分割した領域ごとに、分割領域評価値を算出し、算出したn個の前記分割領域評価値の全部又は一部の変化量を監視し、監視している分割領域のうちの全ての分割領域における前記分割領域評価値の変化量に基づいて、前記画像内の閃光の影響の有無を判定する、
    請求項5または6に記載の閃光判定方法。
  8. 前記判定ステップにより前記画像内に閃光の影響が有ると判定された場合、前記撮像部により取得された前記画像に対して閃光の影響を補正する処理を行う補正ステップをさらに備える、
    請求項5から7のいずれかに記載の閃光判定方法。
  9. CMOS型撮像素子を用いて、被写体光を電気信号に変換し、画像を取得する撮像ステップと、
    前記撮像ステップにより取得された前記画像の画面下部の所定領域を閃光検出用監視領域に設定し、前記閃光検出用監視領域から評価値を算出し、算出した前記評価値が所定の値以上変化したとき、前記画像内に閃光の影響があると判定する判定ステップと、
    を備える閃光判定方法をコンピュータに実行させるプログラム。
JP2010133530A 2009-07-03 2010-06-11 撮像装置、閃光判定方法およびプログラム Active JP5520704B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010133530A JP5520704B2 (ja) 2009-07-03 2010-06-11 撮像装置、閃光判定方法およびプログラム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009158744 2009-07-03
JP2009158744 2009-07-03
JP2010133530A JP5520704B2 (ja) 2009-07-03 2010-06-11 撮像装置、閃光判定方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2011030207A true JP2011030207A (ja) 2011-02-10
JP5520704B2 JP5520704B2 (ja) 2014-06-11

Family

ID=43412437

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010133530A Active JP5520704B2 (ja) 2009-07-03 2010-06-11 撮像装置、閃光判定方法およびプログラム

Country Status (2)

Country Link
US (1) US8502893B2 (ja)
JP (1) JP5520704B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014110536A (ja) * 2012-12-03 2014-06-12 Jvc Kenwood Corp 画像処理装置及び方法
JP2015228616A (ja) * 2014-06-02 2015-12-17 株式会社リコー 撮像装置、画像補正プログラムおよび画像処理装置

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5634901B2 (ja) * 2010-05-10 2014-12-03 パナソニック株式会社 撮像装置、外部閃光補正方法、プログラム、および、集積回路
JP2013165439A (ja) * 2012-02-13 2013-08-22 Sony Corp フラッシュバンド補正装置、フラッシュバンド補正方法及び撮像装置
JP6156686B2 (ja) * 2013-02-20 2017-07-05 パナソニックIpマネジメント株式会社 画像処理装置
US9363445B2 (en) * 2014-06-30 2016-06-07 Qualcomm Incorporated Flash collision detection, compensation, and prevention
JP6527579B2 (ja) * 2014-07-30 2019-06-05 エスケー テックス カンパニー、リミテッド クラウドストリーミングサービスシステム、スチールイメージ基盤クラウドストリーミングサービス方法及びそのための装置
US10607300B1 (en) 2015-07-31 2020-03-31 Intuit Inc. Ad hoc electronic messaging using financial transaction data

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007306225A (ja) * 2006-05-10 2007-11-22 Sony Corp 撮像装置および方法、並びにプログラム
JP2010135921A (ja) * 2008-12-02 2010-06-17 Fujifilm Corp 撮像装置及び撮像方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7499570B2 (en) * 2004-03-02 2009-03-03 Siemens Corporate Research, Inc. Illumination invariant change detection
US8451356B2 (en) * 2008-10-09 2013-05-28 Sony Corporation System and method for correcting artifacts in sequential imagers caused by transient light disturbances

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007306225A (ja) * 2006-05-10 2007-11-22 Sony Corp 撮像装置および方法、並びにプログラム
JP2010135921A (ja) * 2008-12-02 2010-06-17 Fujifilm Corp 撮像装置及び撮像方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014110536A (ja) * 2012-12-03 2014-06-12 Jvc Kenwood Corp 画像処理装置及び方法
JP2015228616A (ja) * 2014-06-02 2015-12-17 株式会社リコー 撮像装置、画像補正プログラムおよび画像処理装置

Also Published As

Publication number Publication date
US20110001849A1 (en) 2011-01-06
JP5520704B2 (ja) 2014-06-11
US8502893B2 (en) 2013-08-06

Similar Documents

Publication Publication Date Title
JP5520704B2 (ja) 撮像装置、閃光判定方法およびプログラム
TWI432019B (zh) An image processing apparatus, an image pickup apparatus, an image processing method, and an image processing program
JP5523124B2 (ja) 撮像装置
JP4840578B2 (ja) 撮像装置のフリッカ検出方法と装置
US8767095B2 (en) Imaging apparatus, external flash correction method, recording medium, and integrated circuit
US20110080494A1 (en) Imaging apparatus detecting foreign object adhering to lens
JP5167405B2 (ja) 閃光の影響を補正する撮像装置
KR20080023745A (ko) 촬상 장치
JP2008131407A (ja) 固体撮像素子およびそれを用いた撮像装置
KR20060128649A (ko) 화상 처리 장치 및 촬상 장치
JP2012044452A (ja) 撮像装置及びその欠陥画素検出方法
JP2001016508A (ja) 固体撮像装置
JP2010098416A (ja) 撮像装置
US20060197854A1 (en) Image capturing apparatus and computer software product
KR100843195B1 (ko) 디스플레이 처리와 데이터 압축을 동시에 수행하는 촬상신호 처리 장치 및 그 방법
JP5829122B2 (ja) 撮像装置および評価値生成装置
JP5320245B2 (ja) 撮像装置、撮像方法、プログラムおよび集積回路
JP2014216775A (ja) 撮像装置、検出方法およびプログラム
US20070269133A1 (en) Image-data noise reduction apparatus and method of controlling same
JP2011114473A (ja) 画素欠陥補正装置
JP2008072501A (ja) 撮像装置、撮像方法、プログラムおよび記録媒体
JP2007158964A (ja) 画像処理装置および撮像装置
JP2010273147A (ja) 撮像信号特定状態検出装置、撮像装置、撮像信号特定状態検出方法、プログラムおよび集積回路
JP5630132B2 (ja) 撮像装置
JP2007189639A (ja) デジタルカメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130419

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140401

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140407

R151 Written notification of patent or utility model registration

Ref document number: 5520704

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151