JP2016213661A - 撮像装置、光量変化の検出方法及びプログラム - Google Patents

撮像装置、光量変化の検出方法及びプログラム Download PDF

Info

Publication number
JP2016213661A
JP2016213661A JP2015095593A JP2015095593A JP2016213661A JP 2016213661 A JP2016213661 A JP 2016213661A JP 2015095593 A JP2015095593 A JP 2015095593A JP 2015095593 A JP2015095593 A JP 2015095593A JP 2016213661 A JP2016213661 A JP 2016213661A
Authority
JP
Japan
Prior art keywords
image
light amount
light
feature point
amount change
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015095593A
Other languages
English (en)
Other versions
JP6525715B2 (ja
Inventor
雄一 有賀
Yuichi Ariga
雄一 有賀
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015095593A priority Critical patent/JP6525715B2/ja
Priority to US15/145,092 priority patent/US9716840B2/en
Priority to CN201610302287.2A priority patent/CN106131543B/zh
Publication of JP2016213661A publication Critical patent/JP2016213661A/ja
Application granted granted Critical
Publication of JP6525715B2 publication Critical patent/JP6525715B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/531Control of the integration time by controlling rolling shutters in CMOS SSIS

Abstract

【課題】光量が変化する光源下で連写を行う際に、コマ速を落とすことなく撮像画像への光量変化の影響を抑える。
【解決手段】デジタルカメラ100において、第1の撮像素子106から読み出した画像信号を用いてライブビュー映像を表示装置113に表示している状態で、第1の撮像素子106から読み出した1フレーム分の画像信号に基づき光量変化の周波数と特徴点を検出し、連写時に第1の撮像素子106から読み出した1フレーム分の画像信号に基づき光量変化の特徴点を検出する。連写時には、前回検出された光量変化の特徴点に基づき、第1の撮像素子106から読み出す1フレーム分の画像信号の中央に今回検出する光量変化の特徴点が位置するように第1の撮像素子106からの信号の読み出しを制御する。
【選択図】図6

Description

本発明は、デジタルカメラ等の撮像装置、撮像時の光量変化の検出方法及びプログラムに関し、特に、人工光源下での撮像時における人工光源からの光量変化に起因する露光ムラを低減する技術に関する。
光量が変化する人工光源下でデジタルカメラ等の撮像装置による撮像を行う場合、従来は、露光のシャッタスピードを光量変化の周期に合わせて、撮像素子の走査ライン毎の露光量を一定にすることで、フリッカの撮像画像への影響を抑えている。以下の説明では、適宜、光量が変化する人工光源をフリッカ光源と称呼し、光量変化をフリッカと称呼することとする。
撮像時にフリッカを精度よく検出する方法は、種々、提案されている。例えば、1フレーム内で走査ライン毎に画素レベルを積算してライン明度値を算出し、算出したライン明度値の垂直走査方向の変動周期を抽出し、抽出した変動周期が所定の周波数範囲内である場合にフリッカがあると判定する手法が提案されている(特許文献1参照)。
特開2004−260574号公報
しかし、フリッカを高精度に検出することができても、露光のシャッタスピードをフリッカ周期に合わせたのでは、連写時のコマ速を上げることができない。また、連写を行う際に1フレームの静止画撮像毎にフリッカの有無を判定していたのでは、コマ速を上げることができない。一方、近年では、撮像素子の高感度化によってフリッカ光源下でも1/4000秒等の高速シャッタでの撮像を行うことができるようになってきており、上記従来技術には、フリッカの検出結果を高速シャッタでの連写に適用する技術について記載されていない。
本発明は、光量が変化する人工光源下で高速シャッタによる連写を行う際に、コマ速を落とすことなく撮像画像への光量変化の影響を抑えることができる撮像装置を提供することを目的とする。
本発明に係る撮像装置は、被写体の光学像を撮像する撮像素子と、連写による撮像の前に光量変化の周波数と特徴点を検出することができるように前記撮像素子から1フレーム分の画像信号を読み出し、連写時に1フレームの静止画が撮像される度に前記光量変化の特徴点のみを検出することができるように前記撮像素子から1フレーム分の画像信号を読み出す読み出し手段と、前記読み出し手段が読み出した画像信号に基づき前記光量変化の周波数および/または特徴点を検出する検出手段と、連写による撮像の前に前記検出手段により検出された光量変化の周波数と、連写時に前記検出手段により今回検出した光量変化の特徴点とに基づいて、前記今回検出した光量変化の特徴点以降の光量変化のピークタイミングを予測する予測手段と、前記予測手段が予測した光量変化のピークタイミングと一致するように、前記撮像素子に対する露光のタイミングを制御する制御手段と、を備えることを特徴とする。
本発明によれば、連写時に撮像素子を用いて光量変化の特徴点を検出し、検出した特徴点から予測される光量のピークタイミングにシャッタタイミングを一致させる。これにより、光量が変化する人工光源下で高速シャッタによる連写を行う際に、コマ速を落とすことなく撮像画像への光量変化の影響を抑えた静止画を撮像することができる。
本発明の実施形態に係るデジタルカメラの概略構成を示すブロック図である。 図1のデジタルカメラの主要な構成要素の配設位置を示す断面図である。 図1のデジタルカメラが備える第1の撮像素子の概略構成を示す図である。 図1のデジタルカメラが備える第1の撮像素子でのスリットローリングシャッタ動作を説明する図である。 図1のデジタルカメラにおける、電子先幕シャッタとメカ後幕シャッタによるシャッタ動作と第1の撮像素子の動作を説明する図である。 図1のデジタルカメラにおける、フリッカ光源下で表示装置にライブビュー映像を表示させた状態からの連写の動作を説明するタイミングチャートである。 図6に示す露光条件B,Aによりそれぞれ取得される画像B,Aからフリッカの周期とピークを求める方法を模式的に示す図である。 図7に示す画像F1からフリッカの周波数(周期)を算出する方法を模式的に説明する図である。 図6に示す露光条件Aにより画像Aを取得した後の1枚目の静止画撮像のシャッタタイミングを説明する図である。 図6に示す露光条件C,Bによりそれぞれ取得される画像からフリッカのピークを求める方法を模式的に示す図である。 図1のデジタルカメラが備える第2の撮像素子によるフリッカの検出方法を説明する図である。
以下、本発明の実施形態について、添付図面を参照して詳細に説明する。本実施形態では、本発明に係る撮像装置の一例として、デジタル一眼レフカメラ(以下「デジタルカメラ」と記す)を取り上げて、説明を行う。
図1は、本発明の実施形態に係るデジタルカメラ100の概略構成を示すブロック図である。図2は、デジタルカメラ100の主要な構成要素の配設位置を示す断面図である。
デジタルカメラ100は、カメラ本体100Aと、カメラ本体100Aに対して着脱自在な交換レンズ鏡筒200とを有する。カメラ本体100Aは、全体制御部101、ミラー102、ミラー駆動装置103、シャッタ104、シャッタ駆動装置105、第1の撮像素子106、第1の撮像信号処理部107、第1のタイミング発生部108及びメモリ部109を備える。また、カメラ本体100Aは、記憶媒体制御I/F部110、表示駆動部112、表示装置113、外部インタフェース114、第2の撮像素子116、第2の撮像信号処理部117、及び第2のタイミング発生部118を備える。更に、カメラ本体100Aは、ペンタプリズム119、測距駆動装置120、位相差測距部121、接眼レンズ123、レリーズスイッチ125及びモード切替スイッチ126を備える。
全体制御部101は、具体的にはCPUを含むマイクロプロセッサであり、デジタルカメラ100(カメラ本体100Aと交換レンズ鏡筒200)の全体的な制御を行う。一般的にクイックリターンミラーと呼ばれるミラー102は、図2に示す測光時の状態では交換レンズ鏡筒200を通過した光をファインダ側へ導き、撮像時には跳ね上がって第1の撮像素子106へと導く。ミラー駆動装置103は、ミーら102を駆動する。シャッタ104は、フォーカルプレーン型の先幕/後幕に相当するシャッタ機構であり、交換レンズ鏡筒200を通過した光の第1の撮像素子106に対する露光時間の制御と遮光を行う。シャッタ駆動装置105は、シャッタ104の駆動を行う。
交換レンズ鏡筒200を通過した光は、第1の撮像素子106の表面に被写体の光学像となって結像する。第1の撮像素子106は、光学像を電気信号(画像信号)に変換して、第1の撮像信号処理部107へ出力する。第1の撮像素子106は、具体的には、X−Yアドレスで形成されているCMOSセンサである。第1の撮像信号処理部107は、第1の撮像素子106から出力される画像信号の増幅処理、アナログ信号からデジタル信号への変換(A/D変換)処理、A/D変換処理後の画像データに対するキズ補正等の各種の補正処理、画像データを圧縮する圧縮処理等を行う。第1のタイミング発生部108は、第1の撮像素子106と第1の撮像信号処理部107に対して、各種のタイミング信号を供給する。
メモリ部109は、第1の撮像信号処理部107により処理された画像データ等を一時的に記憶するRAMや、各種の調整値や全体制御部101による各種の制御を実行させるためのプログラム等を記憶するROMによって構成されている。記憶媒体制御I/F部110は、記憶媒体111への画像データ等の書き込み処理又は記憶媒体111からの画像データ等の読み出し処理を行うためのインタフェースである。記憶媒体111は、画像データ等の各種データを記憶する半導体メモリ等であり、カメラ本体100Aに対して着脱自在である。
表示装置113は、撮像された静止画や動画、ライブビュー映像(以下「LV映像」と記す)、カメラ本体100Aでの撮像条件を決定するためのメニュー画面(UI)等を表示する液晶ディスプレイ等である。表示駆動部112は、表示装置113を駆動する。外部インタフェース114は、外部装置の一例であるコンピュータ115等と全体制御部101との間で、画像信号や制御信号等の情報の送受信を可能とするためのインタフェースである。
AEセンサとして機能する第2の撮像素子116は、AE信号/光源検出信号を取得するための光電変換素子であり、RGBのベイヤ配置のセンサである。第2の撮像素子116には、グローバル電子シャッタ機能を有するCCDセンサが一般的に用いられるが、CMOSセンサであっても、読み出しが速ければ(読み出し時間が短ければ)、用いることができる。第2の撮像信号処理部117は、第2の撮像素子116から出力される画像信号の増幅処理、A/D変換処理、A/D変換後の画像データに対するキズ補正等の各種の補正処理、画像データを圧縮する圧縮処理等を行う。第2のタイミング発生部118は、第2の撮像素子116と第2の撮像信号処理部117に対して、各種のタイミング信号を供給する。
ペンタプリズム119は、ミラー102で曲げられた光をファインダの接眼レンズ123と第2の撮像素子116へ導くための部材である。位相差測距部121は、位相差方式により、ミラー102を透過した光線により被写体のデフォーカス量により位相が変化する2つ画像を取得し、2つの画像のズレ量から被写体のデフォーカス量を演算する。測距駆動装置120は、位相差測距部121を駆動する。
レリーズスイッチ125は、半押しされることによりオンするSW1と、全押しされることによりオンされるSW2とを有する。SW1がオンすることで、自動露出とオートフォーカスに加えて、光量変化(フリッカ)の周波数と特徴点(ピーク又はボトム)の検出が行われ、SW2がオンすることで、第1の撮像素子106による撮像が行われる。SW2がオンされた状態が維持されると、連写が行われ、連写時には1フレームの静止画の撮像毎にフリッカの特徴点のみが検出される。モード切替スイッチ126は、ユーザがファインダを通した撮像を行うか、表示装置113にLV映像を表示させた状態から撮像を行うかを選択するためのスイッチである。
交換レンズ鏡筒200は、レンズ制御部201、撮像レンズ202、レンズ駆動装置203、絞り204及び絞り駆動装置205を備える。撮像レンズ202は、被写体の光学像を第1の撮像素子106に結像させる。レンズ駆動装置203は、位相差測距部121が算出したデフォーカス量に基づき、撮像レンズ202を光軸方向に移動させて、被写体にフォーカスを合わせる。絞り204は、撮像レンズ202を通る光量を制御する。絞り駆動装置205は、AEセンサとして機能する第2の撮像素子116の出力による求められる測光値に基づいて絞り204を駆動する。レンズ制御部201は、全体制御部101と通信を行い、全体制御部101からの指令に基づいて交換レンズ鏡筒200での動作制御を行う。
表示装置113にLV映像を表示させて撮像を行う際のデジタルカメラ100での撮像動作について説明する前に、第1の撮像素子106の構成と、第1の撮像素子106に対する露光方法について、図3乃至図5を参照して説明する。
図3は、第1の撮像素子106の概略構成を示す図である。第1の撮像素子106は、XYアドレス型の走査方法を採るCMOSセンサである。第1の撮像素子106は、駆動単位である画素301が縦横に所定数配置された構成を有し、画素301は、フォトダイオード(以下「PD」と記す)302、転送スイッチ303、フローティングディフュージョン(以下「FD」と記す)306、増幅MOSアンプ307、選択スイッチ308及びリセットスイッチ309を有する。
PD302は、光を電荷に変換する。FD306は、電荷を一時的に蓄積する領域である。転送スイッチ303は、転送パルスφTXによってPD302で発生した電荷をFD306に転送する。増幅MOSアンプ307は、ソースフォロアとして機能する。選択スイッチ308は、選択パルスφSELVによって画素を選択する。リセットスイッチ309は、リセットパルスφRESによってFD306に蓄積された電荷を除去する。
第1の撮像素子106は、信号出力線310、定電流源311、選択スイッチ312、出力アンプ313、垂直走査回路314、読み出し回路315及び水平走査回路316を有する。定電流源311は、増幅MOSアンプ307の負荷となる。読み出し回路315は、選択スイッチ308で選択された画素301のFD306に蓄積された電荷を増幅MOSアンプ307と定電流源311による電荷・電圧変換で電圧に変換した後、信号出力線310を経て画素データ(画素信号)として読み出す。水平走査回路316は、選択スイッチ312を駆動する。選択スイッチ312は、読み出し回路315で読み出した画素データを選択する。選択スイッチ312によって選択された画素データは、出力アンプ313で増幅されて第1の撮像素子106から出力される。
垂直走査回路314は、転送スイッチ303,選択スイッチ308及びリセットスイッチ309を選択する。ここで、転送パルスφTX、リセットパルスφRES及び選択パルスφSELVのそれぞれにおいて、垂直走査回路314によって走査選択された第n番目の走査ラインをφTXn、φRESn、φSELVn、第n+1番目の走査ラインをφTXn+1、φRESn+1、φSELVn+1とする。図3には、便宜上、第n番目の走査ラインから第n+6番目の走査ラインまでが示されている。FD306、増幅MOSアンプ307及び定電流源311により、フローティングディフュージョンアンプが構成される。
図4は、第1の撮像素子106での電子的な先幕シャッタ(以下「電子先幕シャッタ」という)と電子的な後幕シャッタ(以下「電子後幕シャッタ」という)によるスリットローリングシャッタ動作を説明する図である。
電子先幕シャッタの動作では、第n番目の走査ラインにおいて、時刻t401から時刻t402の間はφRESnとφTXnにパルスが印加されて、転送スイッチ303及びリセットスイッチ309がオンする(リセット動作)。これにより、第n番目の走査ラインのPD302とFD306に蓄積されている不要電荷が除去されてリセット動作が行われる。続いて、時刻t402でφRESnとφTXnへのパルスの印加が解除されて、転送スイッチ303及びリセットスイッチ309がオフになり、第n番目の走査ラインのPD302に発生する電荷の蓄積動作が開始される(蓄積動作)。
第n+1番目の走査ライン及び第n+2番目の走査ラインは、画像として使用しないので、ここでは何も処理を行わない。なお、PD302に電荷が溜まって周辺の画素へ漏れ出すことを考慮するのであれば、第n+1番目の走査ライン及び第n+2番目の走査ラインのφRESnとφTXnをオンし、PDの電荷を常にリセットしておく必要がある。
時刻t403では、時刻t402と同様に、第n+3番目の走査ラインの蓄積動作が開始され、時刻t404で第n+6番目の走査ラインの蓄積動作が開始される。このように、一定間隔で、順次、走査ラインのリセットを解除して電荷の蓄積動作を開始することにより電子先幕シャッタ動作を実現している。
ここで、第n番目の走査ラインに戻り、時刻t405から時刻t406の間、φTXnにパルスが印加されて転送スイッチ303がオンし、PD302に蓄積された電荷をFD306に転送する(転送動作)。第n番目の走査ラインでの転送動作の終了に続いて、時刻t406から時刻t407の間、φSELVnにパルスが印加されて選択スイッチ308がオンする。これにより、FD306で保持した電荷が電圧に変換され、画素データとして読み出し回路315に出力される(読み出し動作)。読み出し回路315で一時的に保持された画素データは、水平走査回路316によって時刻t407から順次出力される。そして、時刻t408で第nラインにおける画素からの画素データの読み出しが完了する。
第n+3番目の走査ラインにおいて、時刻t408から時刻t409の間、φTXn+3にパルスが印加されて転送スイッチ303がオンし、PD302に蓄積された電荷をFD306に転送する転送動作が行われる。第n+3番目の走査ラインでの転送動作の終了に続いて、時刻t409から時刻t410の間、φSELVn+3にパルスが印加されて選択スイッチ308がオンすることにより、FD306で保持した電荷が電圧に変換され、画素データとして読み出し回路315に出力される。読み出し回路315で一時的に保持された画素データは、水平走査回路316によって時刻t410から順次出力される。そして、時刻t411で第n+3番目の走査ラインにおける画素からの画素データの読み出しが完了する。このように、一定間隔で電荷の転送及び読出しを行うことにより、電子後幕シャッタを実現している。なお、各走査ラインのPD302のリセット完了から転送動作開始までの時間が各画素の露光時間となっている。
図5は、電子先幕シャッタと機械的な後幕シャッタ(以下「メカ後幕シャッタ」という)によるシャッタ動作と、第1の撮像素子106の動作を説明する図である。なお、メカ後幕シャッタは、シャッタ104の後幕シャッタである。
電子先幕シャッタの動作では、第n番目の走査ラインにおいて、時刻t501から時刻t502の間、φRESnとφTXnにパルスが印加されて、転送スイッチ303及びリセットスイッチ309がオンする。これにより、第n番目の走査ラインのPD302とFD306に蓄積されている不要電荷が除去されてリセット動作が行われる。続いて、時刻t502でφRESnとφTXnへのパルスの印加が解除されて、転送スイッチ303及びリセットスイッチ309がオフになり、第n番目の走査ラインのPD302に発生する電荷の蓄積動作が開始される。
同様に、時刻t503では、第n+1番目の走査ラインの蓄積動作が開始され、時刻t504で第n+2番目の走査ラインの蓄積動作が、時刻t505で第n+3番目の走査ラインの蓄積動作が開始される。更に、時刻t508で第n+4番目の走査ラインの蓄積動作が、時刻t510で第n+5番目の走査ラインの蓄積動作が、時刻t513で第n+6番目の走査ラインの蓄積動作が開始される。このように、順次、走査ラインのリセットを解除して電荷の蓄積動作を開始することにより、電子先幕シャッタ動作を実現している。
これに続いて、メカ後幕シャッタを走行させる。電子先幕シャッタとメカ後幕シャッタとの間が露光時間となり、各走査ラインの露光量が適切になるように電子先幕シャッタのリセットタイミングを制御している。なお、図5では、蓄積動作がメカ後幕シャッタの走行後も一定時間続いているが、メカ後幕シャッタの走行後は、遮光されているために蓄積動作が行われても、電荷が蓄積されることはない。
ここで、第nラインに戻り、時刻t505から時刻t506の間、φTXnにパルスが印加されて転送スイッチ303がオンし、PD302に蓄積された電荷をFD306に転送する転送動作が行われる。第n番目の走査ラインの転送動作が終了すると、時刻t506から時刻t507の間、φSELVnにパルスが印加されて選択スイッチ308がオンすることにより、FD306で保持した電荷が電圧に変換され、画素データとして読み出し回路315に出力される。読み出し回路315で一時的に保持された画素データは、水平走査回路316によって時刻t507から順次出力される。そして、時刻t509で第n番目の走査ラインにおける画素からの画素データの読み出しが完了する。
第n+1ラインにおいて、時刻t509からt511の間、φTXn+1にパルスが印加されて転送スイッチ303がオンし、PD302に蓄積された電荷をFD306に転送する転送動作が行われる。第n+1番目の走査ラインの転送動作が終了すると、時刻t511から時刻t512の間、φSELVn+1にパルスが印加されて選択スイッチ308がオンすることにより、FD306で保持した電荷が電圧に変換され、画素データとして読み出し回路315に出力される。読み出し回路315で一時的に保持された画素データは、水平走査回路316によって時刻t512から順次出力される。そして、時刻t513で第n+1番目の走査ラインにおける画素からの画素データの読み出しが完了する。
次に、表示装置113にLV映像を表示させた状態から静止画を連写する撮像を行う際のデジタルカメラ100での環境光の光量変化の検出方法と撮像動作について説明する。
図6は、フリッカ光源下で表示装置113にLV映像を表示させた状態から、環境光の光量変化を検出し、静止画を連写により撮像する動作を説明するタイミングチャートである。レリーズスイッチ125の全押しによってSW2がオンする前は、全体制御部101は、フリッカによる露光ムラ(縞模様)が発生しない露光条件Bで第1の撮像素子106から読み出した画像信号に基づき、表示装置113にLV映像を表示している。露光時間の制御は、フリッカの周期の少なくとも2周期分を含む整数倍の時間で蓄積を行うか又はフリッカの周期よりも十分に長い時間での蓄積を行うことによって行われる。このときのLV映像の取得は、図4を参照して説明した電子先幕シャッタと電子後幕シャッタによるスロットローリングシャッタによって実現されており、露光条件Bで得られる映像は後述する図7の画像Bとなる。
SW2がオンすると、全体制御部101は、タイミングaにおいて露光条件を露光条件Bから露光条件Aへ変更して第1の撮像素子106から1フレーム分の画像信号を読み出すことにより、フリッカによる露光ムラのシマが発生した画像Aを故意に取得する。この場合の露光時間の制御は、フリッカの周期よりも短い時間で各走査ラインに対して露光を行うことにより行われ、フリッカによる露光のムラを故意に発生させることができる。このとき、フリッカの周波数(周期)とピーク(時間軸上の最大光量位置)を検出するために、2乃至3周期のフリッカの波形にわたる長い読み出しを行う。
画像Aの取得は、図4を参照して説明した電子先幕シャッタと電子後幕シャッタによるスロットローリングシャッタによって実現され、露光条件Aで得られる映像は、後述する図7の画像Aとなる。但し、画像Aは、表示装置113には表示されず、表示装置113は何も表示されない状態となる。これは、表示装置113に縞模様が入った映像を表示してしまうと、ユーザが故障が生じたと判断してしまうこと等を防止するためである。表示装置113に何も表示されない状態は、連写が終了するまで(SW2がオンの間)継続し、連写が終了すると(SW2がオフになると)解除される。
図7は、露光条件B,Aによりそれぞれ取得される画像B,Aからフリッカの周期とピークを求める方法を模式的に示す図である。露光条件Bでの蓄積時間はフリッカの周期の概ね整数倍としているため、露光条件Bでは、どのタイミングで画像を取得しても、フリッカに起因する縞模様が発生しない画像Bが得られる。これに対して、露光条件Aでの蓄積時間はフリッカ周期に対して短くなっているため、得られる画像Aにはフリッカに起因する縞模様が発生する。更に、露光条件Aでは、読み出し時間が長いため、画像A内には複数の縞が発生する(第1の読み出しステップ)。
フリッカによる縞模様が発生した画像Aをフリッカによる縞模様が発生していない画像Bで除することにより、フリッカによる縞模様のみの画像F1を得ることができる。画像F1において白く見える帯の中心がフリッカのピークに対応する。画像F1からフリッカのピークにタイミングを求め、ピークタイミングとピークタイミングの時間差から、フリッカの周波数(周期)を算出することができる(第1の検出ステップ)。
図8は、画像F1からフリッカの周波数(周期)を算出する方法を模式的に説明する図である。画像F1から得られるフリッカの波形は、そのままでは特徴点の1つであるピークを検出し難いため、元の波形の微分値(隣接差分)を求め、その微分波形がゼロ(0)となる時刻t11,t12を求めると、これらがフリッカのピークタイミングとなる。そして、時刻t11,t12間の時間差をフリッカの周期として求めることができる。
なお、図8では、フリッカの波形を、典型的な正弦波(光の強さで表すために負側を正側へ反転させた波形)として示している。しかし、実際に取得することができるフリッカの波形にはノイズが含まれ、また、波形が崩れる等して1周期に微分波形がゼロとなるタイミングが3カ所以上発生する場合がある。この場合には、第1の撮像素子106に入射する光のノイズ除去にローパスフィルタを用い、このローパスフィルタを通した光で露光を行う等の対応を取ればよい。但し、フリッカのピークタイミングの検出に必要な部分である領域800(微分波形の値がゼロとなる領域)が画像Aに含まれている必要がある。また、なお、微分波形を用いた場合に、フリッカの特徴点の1つであるボトムの時刻t13の方が検出し易い場合がある。その場合、予め時刻t11,t12,t13の時間差を算出しておき、連写中はボトムのタイミングを検出してピークのタイミングを算出すればよい。
図9は、露光条件Aにより画像Aを取得した後の1枚目の静止画撮像のシャッタタイミングを説明する図である。図7を参照して説明したように、画像Aの取得によってフリッカの周期と特徴点がわかっている。そこで、全体制御部101は、画像Aの撮像によって検出されるフリッカの特徴点以降のピークタイミングを予測する。そして、全体制御部101は、予測したピークタイミングとシャッタタイミングとが一致するように、図5を参照して説明した電子先幕シャッタとメカ後幕シャッタによるシャッタ動作を制御して、静止画を撮像する。これにより、フリッカの少ない静止画FLを得ることができる。なお、図6に示す「静止画撮像」は、静止画FLを得る際のシャッタ動作と第1の撮像素子106からの電荷(画像信号)の読み出しを示している。
次に、SW2のオンにより1枚目の静止画の撮像が終了すると、全体制御部101は、連写を行うために、タイミングbにおいて、フリッカによる露光ムラに起因する縞模様が発生する露光条件Cにより1フレーム分の画像Cを取得する。また、全体制御部101は、露光条件Bによる縞模様の発生しない1フレーム分の画像Bを取得する。
ここで、連写中にフリッカのピークが少なくとも2つ含まれるような縞模様が発生する画像が得られるように長い時間を取ってしまうと、コマ速が低下してしまう。そこで、少なくともフリッカのピークを検出することができるように、露光条件Aよりも短時間の露光条件C(例えば、1周期より長く2周期より短いフリッカの波形)により、縞模様が発生した画像Cを取得する。なお、画像Bの取得するための露光条件Bは、LV映像取得時と同じ条件とすることができる。
図10は、図6中の露光条件C,Bによりそれぞれ取得される画像からフリッカのピークを求める方法を模式的に示す図である。図10(a),(b)は、前回の静止画撮像後に、前回検出したフリッカのピークタイミングを考慮しない露光条件C(以下「露光条件C´」とする)で露光した一例として、フリッカのピークが画面の上下端にある例である画像C´を示している。前回の静止画撮像後にフリッカの周期とピークタイミングを考慮せずに露光条件Cでの露光を行った場合には、フリッカのピークが画面内のどこに位置するかが分からない。
画像C´を画像Bで除することによって画像F2´が得られる(第2の読み出しステップ)。画像F2´では、明るい部分がピークなのか、明るくなっていく途中なのか暗くなっていく途中なのかの判断が難しく、そのため、フリッカのピークのタイミングを間違えてしまう可能性がある。よって、前回の静止画撮像後に前回検出したフリッカの周期を考慮せずにランダムなタイミングでフリッカの発生する画像を取得すると、フリッカのピークを検出できない場合が発生してしまうことがある。
これに対して、図10(c),(d)は、前回の静止画撮像後に、前回検出したフリッカのピークタイミングを考慮した露光条件Cで露光した一例として、フリッカのピークが画面の略中央にある画像Cを示している。ここでは、前回検出したフリッカのピークタイミングに基づいて、前回検出したフリッカのピーク以降のフリッカのピークタイミングを予測し、今回検出されるフリッカのピークが画像の上下方向の中心に位置するように、露光タイミングが制御されている。即ち、タイミングaで検出したフリッカのピークタイミング(前回検出されたピーク)を“t1”、フリッカの周期“T”とすると、タイミングa以降のフリッカのピークタイミングt2は、t2=t1+T×n(nは整数)、で表すことができる。よって、露光がほぼ半分だけ終了する時刻を時刻t2に合わせるように制御した露光条件Cを用いることにより、フリッカのピークが画像中央近傍に位置する画像Cを得ることができる(第2の読み出しステップ)。
画像Cを画像Bで除して得られる画像F2からは、フリッカのピークを明確に求めることができる(第2の検出ステップ)。よって、画像Cを取得する前にわかっているフリッカの周波数と画像F2から求めたフリッカのピークとに基づき、全体制御部101はフリッカのピークタイミングとシャッタタイミングが一致するようにシャッタ動作を制御する。これにより、図9に示したフリッカの少ない静止画FLを得ることができる。
図6に示すように、タイミングbでフリッカを検出した後には、1フレームの静止画が撮像される。その後、タイミングcにて、タイミングbでの処理と同様に、画像C,Bが取得される。このように、SW2が押下された状態が維持される間、フリッカのピークタイミングの検出は、静止画が撮像される度に行われる。
なお、図10(a)の画像C´を取得した時点でフリッカの周期は既知である。そこで、画像C´の中央部の暗い位置(フリッカのボトム)を特定し、そこから1/2周期だけずらした位置をフリッカのピークとして決定することで、フリッカのピークが画像中央近傍に位置するような画像Cを得ることができる。しかし、フリッカ光源には、図8を参照して説明したような典型的な正弦波で表されてボトムが尖った形態とはならずに、平らな形態(暗い状態が一定時間続く形態)となるものもあり、この場合には、フリッカのボトムの正確な位置を特定することは難しい。よって、フリッカのピークを直接特定する方法には、フリッカのボトムを特定することでフリッカのピークを決定するよりも、フリッカ光源の性質に依存することなく用いることができる利点がある。
<その他の実施形態>
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。上記実施形態では、本発明に係る撮像装置としてデジタル一眼レフカメラ100を取り上げたが、これに限られるものではない。例えば、本発明に係る撮像装置は、LV機能を有し、LV状態から撮像素子を用いた静止画撮像を行うことができる機能を有するものであればよい。また、連写時の第1の撮像素子106やシャッタ104の動作制御を実行するためのプログラムは、撮像装置のファームウェアのアップデートに用いることができる。
上記実施形態では、LV状態から第1の撮像素子106による静止画撮像を行う際に、AEセンサとして機能する第2の撮像素子116を用いていないが、図6のタイミングaでの露光条件による露光が開始されると、LV映像が表示装置113に表示されなくなる。そこで、図7を参照して説明したフリッカの周波数及びピークを測定する方法に代えて、同様にLV映像が表示装置113に表示されなくなる、第2の撮像素子116を用いたフリッカの検出を行ってもよい。
図11は、第2の撮像素子116によるフリッカの検出方法を説明する図である。ここでは、フリッカの周波数が50Hzか60Hzかを判断する例を示している。図11中の「フリッカ:50Hz」はフリッカの周期が1/50秒(周波数50Hz)の光の強さを模式的に示しており、「フリッカ:60Hz」はフリッカの周期が1/60秒(周波数60Hz)の光の強さを模式的に示している。
LV映像が表示装置113に表示されている状態では、ミラー102がペンタプリズム119側へアップしている状態となっているが、第2の撮像素子116によりフリッカを検出する際には、ミラー102はダウンして、図2に示した位置に配置される。図11中、「蓄積」は、フリッカを検出するための電荷の蓄積タイミングを示している。「光量検出」の部分は、フリッカ光源からの光量の平均を検出し、12個の短い蓄積時間a〜lからなる「フリッカ検出」の部分で、フリッカの周波数(周期)とピークを検出する。図11中の「蓄積量60Hz」は、フリッカの周波数が60Hzの場合の蓄積時間毎の積分値を示しており、フリッカの周波数が50Hzの場合については省略している。フリッカ検出のための蓄積時間a〜lの12個の積分値に50Hzと60Hzのどちらの周波数であってもフリッカのピークが2回以上入るように、蓄積時間a〜lの値が設定されている。これによって、積分値の大小関係に基づいてフリッカのピークを求め、ピークからピークまでの時間を演算して、フリッカの周波数が50Hzであるか又は60Hzであるかを判断することができる。フリッカの検出が終了すると、ミラーがアップして、フリッカのピークタイミングにシャッタタイミングを一致させて静止画撮影が行われ、その後の連写時の制御は、既に説明した通りに行われる。
100 デジタルカメラ
100A カメラ本体
101 全体制御部
104 シャッタ
106 第1の撮像素子
107 第1の撮像信号処理部
113 表示装置
116 第2の撮像素子(AEセンサ)
117 第2の撮像信号処理部
125 レリーズスイッチ
126 モード切替スイッチ
200 交換レンズ鏡筒

Claims (10)

  1. 被写体の光学像を撮像する撮像素子と、
    連写による撮像の前に光量変化の周波数と特徴点を検出することができるように前記撮像素子から1フレーム分の画像信号を読み出し、連写時に1フレームの静止画が撮像される度に前記光量変化の特徴点のみを検出することができるように前記撮像素子から1フレーム分の画像信号を読み出す読み出し手段と、
    前記読み出し手段が読み出した画像信号に基づき前記光量変化の周波数および/または特徴点を検出する検出手段と、
    連写による撮像の前に前記検出手段により検出された光量変化の周波数と、連写時に前記検出手段により今回検出した光量変化の特徴点とに基づいて、前記今回検出した光量変化の特徴点以降の光量変化のピークタイミングを予測する予測手段と、
    前記予測手段が予測した光量変化のピークタイミングと一致するように、前記撮像素子に対する露光のタイミングを制御する制御手段と、を備えることを特徴とする撮像装置。
  2. 前記読み出し手段は、連写による撮像の前には、光量変化による縞模様を有する画像と縞模様を有さない画像とが得られるように前記撮像素子からの信号の読み出しを制御し、
    前記検出手段は、前記縞模様を有する画像と縞模様を有さない画像とに基づいて光量変化の周波数と特徴点を検出することを特徴とする請求項1に記載の撮像装置。
  3. 前記読み出し手段は、連写時には、前記検出手段により前回検出された光量変化の特徴点に基づいて前記今回検出する光量変化の特徴点が前記撮像素子から読み出す1フレーム分の画像信号の中央に位置するように前記撮像素子からの信号の読み出しを制御することを特徴とする請求項1又は2に記載の撮像装置。
  4. 前記特徴点として、光量変化の波形のピークまたはボトムが用いられることを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記検出手段は、光量変化の波形を微分した微分波形における値がゼロとなる点を前記特徴点として検出することを特徴とする請求項4に記載の撮像装置。
  6. 前記撮像素子に入射する光のノイズを除去するノイズ除去手段を備え、
    前記検出手段は、前記ノイズ除去手段を通した光の光量変化の波形を微分した微分波形における値がゼロとなる点を前記特徴点として検出することを特徴とする請求項5に記載の撮像装置。
  7. 前記読み出し手段は、連写による撮像の前には前記光量変化の少なくとも2周期分を含む時間で前記撮像素子から1フレーム分の画像信号を読み出し、連写時には前記光量変化の1周期より長く2周期より短い時間で前記撮像素子から1フレーム分の画像信号を読み出すことを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。
  8. 撮像装置における環境光の光量変化の検出方法であって、
    撮像素子から読み出した画像信号を用いてライブビュー映像を表示装置に表示する表示ステップと、
    連写による撮像の前に光量変化の周波数と特徴点を検出することができるように前記撮像素子から1フレーム分の画像信号を読み出す第1の読み出しステップと、
    前記第1の読み出しステップで読み出した画像信号に基づき光量変化の周波数と特徴点を検出する第1の検出ステップと、
    連写時に1フレームの静止画が撮像される度に光量変化の特徴点のみを検出することができるように前記撮像素子から1フレーム分の画像信号を読み出す第2の読み出しステップと、
    前記第2の読み出しステップで読み出した画像信号に基づき光量変化の特徴点を検出する第2の検出ステップと、を有し、
    前記第2の読み出しステップでは、前回検出された光量変化の特徴点に基づき、前記撮像素子から読み出す1フレーム分の画像信号の中央に、今回検出する光量変化の特徴点が位置するように前記撮像素子からの信号の読み出しが制御されることを特徴とする光量変化の検出方法。
  9. 前記第1の検出ステップで検出された光量変化の周波数と、前記第2の検出ステップで検出された光量変化の特徴点とに基づいて、前記第2の検出ステップで検出された光量変化の特徴点以降の光量変化のピークタイミングを予測する予測ステップを更に有することを特徴とする請求項8に記載の光量変化の検出方法。
  10. 請求項8又は9に記載の光量変化の検出方法の各ステップを撮像装置が備えるコンピュータに実行させることを特徴とするプログラム。
JP2015095593A 2015-05-08 2015-05-08 撮像装置、光量変化の検出方法及びプログラム Expired - Fee Related JP6525715B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015095593A JP6525715B2 (ja) 2015-05-08 2015-05-08 撮像装置、光量変化の検出方法及びプログラム
US15/145,092 US9716840B2 (en) 2015-05-08 2016-05-03 Image pickup apparatus that reduces unevenness of exposure caused by artificial light source, method of detecting change in amount of light, and storage medium
CN201610302287.2A CN106131543B (zh) 2015-05-08 2016-05-09 摄像设备和用于检测光量变化的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015095593A JP6525715B2 (ja) 2015-05-08 2015-05-08 撮像装置、光量変化の検出方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2016213661A true JP2016213661A (ja) 2016-12-15
JP6525715B2 JP6525715B2 (ja) 2019-06-05

Family

ID=57223004

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015095593A Expired - Fee Related JP6525715B2 (ja) 2015-05-08 2015-05-08 撮像装置、光量変化の検出方法及びプログラム

Country Status (3)

Country Link
US (1) US9716840B2 (ja)
JP (1) JP6525715B2 (ja)
CN (1) CN106131543B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019029726A (ja) * 2017-07-26 2019-02-21 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019220764A (ja) * 2018-06-15 2019-12-26 オリンパス株式会社 取得方法、プログラムおよび撮像装置。
US11012634B2 (en) * 2018-06-29 2021-05-18 Canon Kabushiki Kaisha Image pickup apparatus capable of performing image pickup with reduced flicker influence, method for controlling the same, and storage medium
US10944912B2 (en) * 2019-06-04 2021-03-09 Ford Global Technologies, Llc Systems and methods for reducing flicker artifacts in imaged light sources
WO2021095257A1 (ja) * 2019-11-15 2021-05-20 オリンパス株式会社 撮像装置、フリッカーによる色ムラ低減方法および色ムラ低減プログラム
CN112672009B (zh) * 2020-12-14 2022-09-02 浙江大华技术股份有限公司 一种视频处理方法、装置、设备及存储介质
CN113301220B (zh) * 2021-04-27 2024-01-05 上海欧菲智能车联科技有限公司 一种车载摄像头与车灯的同步方法及fpga芯片
US20230209210A1 (en) * 2021-12-28 2023-06-29 Advanced Micro Devices, Inc. System and method for image banding detection

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014220764A (ja) * 2013-05-10 2014-11-20 キヤノン株式会社 撮像装置、制御方法、プログラム及び記憶媒体
JP2015088917A (ja) * 2013-10-30 2015-05-07 キヤノン株式会社 撮像装置、撮像方法、プログラム、及び記録媒体
JP2017069741A (ja) * 2015-09-30 2017-04-06 カシオ計算機株式会社 撮像装置、フリッカ検出方法及びプログラム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7298401B2 (en) * 2001-08-10 2007-11-20 Micron Technology, Inc. Method and apparatus for removing flicker from images
JP2004260574A (ja) 2003-02-26 2004-09-16 Matsushita Electric Ind Co Ltd フリッカ検出方法およびフリッカ検出装置
JP4207922B2 (ja) * 2005-04-19 2009-01-14 ソニー株式会社 フリッカ補正方法、フリッカ補正装置及び撮像装置
US8451345B2 (en) * 2008-11-20 2013-05-28 Panasonic Corporation Flicker reduction device, integrated circuit, and flicker reduction method
US20110255786A1 (en) * 2010-04-20 2011-10-20 Andrew Hunter Method and apparatus for determining flicker in the illumination of a subject
US9088727B2 (en) * 2011-04-06 2015-07-21 Pelco, Inc. Spatially-varying flicker detection
US9247223B2 (en) * 2013-01-25 2016-01-26 Blackberry Limited Reduce operating environment effect using multiple cameras
JP6108946B2 (ja) * 2013-05-10 2017-04-05 キヤノン株式会社 撮像装置、制御方法、プログラム及び記憶媒体
US9648249B2 (en) * 2013-11-20 2017-05-09 Canon Kabushiki Kaisha Image capturing apparatus, method of controlling the same, and storage medium
JP6537224B2 (ja) * 2014-04-23 2019-07-03 キヤノン株式会社 撮像装置、制御方法、プログラム及び記憶媒体

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014220764A (ja) * 2013-05-10 2014-11-20 キヤノン株式会社 撮像装置、制御方法、プログラム及び記憶媒体
JP2015088917A (ja) * 2013-10-30 2015-05-07 キヤノン株式会社 撮像装置、撮像方法、プログラム、及び記録媒体
JP2017069741A (ja) * 2015-09-30 2017-04-06 カシオ計算機株式会社 撮像装置、フリッカ検出方法及びプログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019029726A (ja) * 2017-07-26 2019-02-21 キヤノン株式会社 撮像装置及びその制御方法、プログラム、記憶媒体

Also Published As

Publication number Publication date
US9716840B2 (en) 2017-07-25
CN106131543A (zh) 2016-11-16
CN106131543B (zh) 2018-07-31
US20160330359A1 (en) 2016-11-10
JP6525715B2 (ja) 2019-06-05

Similar Documents

Publication Publication Date Title
JP6220225B2 (ja) 撮像装置、撮像装置の制御方法、プログラム、及び記録媒体
JP6525715B2 (ja) 撮像装置、光量変化の検出方法及びプログラム
US10447923B2 (en) Image processing apparatus, imaging apparatus, and method of controlling image processing apparatus
JP6320503B1 (ja) 撮像装置、フリッカ検出方法、およびプログラム
JP2015108778A (ja) 撮像装置及びその制御方法
JP5039588B2 (ja) 撮像装置及び撮像装置の制御方法
JP2015111252A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
US9571750B2 (en) Image capturing apparatus, method for controlling the same, and storage medium
JP6482370B2 (ja) 撮像装置、光量変化の検出方法及びプログラム
CN107205123B (zh) 闪光带判断装置及其控制方法、存储介质和摄像设备
JP4637029B2 (ja) 撮像装置及びその制御方法
US11102423B2 (en) Image pickup apparatus that performs flicker detection, control method for image pickup apparatus, and storage medium
JP2016039596A (ja) 撮像装置及びその制御方法
JP6501512B2 (ja) フォーカス制御装置、フォーカス制御方法およびフォーカス制御プログラム
JP6704718B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP2019220764A (ja) 取得方法、プログラムおよび撮像装置。
US11678062B2 (en) Image capturing apparatus, control method thereof, and storage medium for performing exposure control by prioritizing increasing an image capturing sensitivity
JP2012257043A (ja) 撮像装置および撮像方法
JP6504845B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP5899707B2 (ja) 撮像装置
JP2021043371A (ja) 撮像装置およびその制御方法
JP2017126921A (ja) 撮像装置
JP2008113276A (ja) 撮像装置、ノイズ除去方法、およびノイズ除去制御プログラム
JP2013198120A (ja) 撮像装置、撮像制御方法およびプログラム
JP2015050747A (ja) 撮影装置、その制御方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180420

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190115

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190314

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190507

R151 Written notification of patent or utility model registration

Ref document number: 6525715

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees