JP2020072392A - 撮像装置、撮像装置の制御方法およびプログラム - Google Patents

撮像装置、撮像装置の制御方法およびプログラム Download PDF

Info

Publication number
JP2020072392A
JP2020072392A JP2018205620A JP2018205620A JP2020072392A JP 2020072392 A JP2020072392 A JP 2020072392A JP 2018205620 A JP2018205620 A JP 2018205620A JP 2018205620 A JP2018205620 A JP 2018205620A JP 2020072392 A JP2020072392 A JP 2020072392A
Authority
JP
Japan
Prior art keywords
frame rate
flicker
image pickup
image
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018205620A
Other languages
English (en)
Inventor
晃平 太田
Kohei Ota
晃平 太田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018205620A priority Critical patent/JP2020072392A/ja
Priority to US16/666,535 priority patent/US11102423B2/en
Priority to CN201911044125.3A priority patent/CN111131667B/zh
Publication of JP2020072392A publication Critical patent/JP2020072392A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/099Arrangement of photoelectric elements in or on the camera
    • G03B7/0993Arrangement of photoelectric elements in or on the camera in the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/54Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof

Abstract

【課題】被写体の輝度によらず、フリッカー検知の精度を向上させることができる撮像装置、撮像装置の制御方法およびプログラムを提供する。【解決手段】撮像装置は、ローリングシャッター方式で駆動することで被写体を撮像する撮像手段と、第1のフレームレートよりも低い第2のフレームレートで撮像手段を駆動した場合、撮像手段が連続撮影した複数の画像データをそれぞれ所定の領域に分割し、分割された分割領域のデータに基づいて、フリッカー検知を行う制御手段と、を備える。【選択図】図3

Description

本発明は、撮像装置、撮像装置の制御方法およびプログラムに関する。
近年のデジタルカメラでは、人工光源下でも高速シャッターを切ることが可能になっている。ただし、フリッカー光源下におけるスリット露光方式での高速シャッター撮影では、シャッターの走行中に光源の明るさが変化し、フレームごと、もしくは、フレーム内でも画面の露出や色のムラが発生することがある。関連する技術として、特許文献1および特許文献2の技術が提案されている。
特許文献1の技術では、商用電源周波数のゆらぎが多少あっても、連続撮影の駒間にフリッカー光源の光量のピークのタイミングを算出し、算出したピークのタイミングに合わせて各撮影を行っている。特許文献2の技術では、複数のフレーム画像信号から、フレーム内の選択された部分領域におけるそれぞれの輝度評価値を算出し、算出された輝度評価値の変化に基づいて被写界に存在する光源のフリッカー周波数を検出している。
特開2014−220764号公報 特開2012−120132号公報
フリッカーを検知するための方法として、フリッカー周期の数倍以上の周波数によるサンプリングを行う、という方法が知られている。この方法を採用する場合、低輝度の被写体を撮像する場合等の状況下では、十分な明るさを有する画像データを取得するために、電荷の蓄積時間を確保する必要がある。このため、撮像装置が撮像するフレームレートを下げる必要がある。フレームレートを下げると、サンプリング数が減少するため、フリッカーの検知精度が低下する可能性がある。フリッカーの検知精度が低下すると、実際のフリッカーのピークタイミングからずれたタイミングでフリッカーレス撮影が行われることがある。
本発明の目的は、被写体の輝度によらず、フリッカー検知の精度を向上させることができる撮像装置、撮像装置の制御方法およびプログラムを提供することにある。
上記目的を達成するために、本発明の撮像装置は、ローリングシャッター方式で駆動することで被写体を撮像する撮像手段と、第1のフレームレートよりも低い第2のフレームレートで前記撮像手段を駆動した場合、前記撮像手段が連続撮影した複数の画像データをそれぞれ所定の領域に分割し、分割された分割領域のデータに基づいて、フリッカー検知を行う制御手段と、を備えることを特徴とする。
本発明によれば、被写体の輝度によらず、フリッカー検知の精度を向上させることができる。
実施形態に係る撮像装置の構成例を示す図である。 ローリングシャッター方式による電荷の転送を示す図である。 センサ駆動とフリッカーとの関係を示す図である。 フリッカー検知用の連続画像をそれぞれ規格化した例を示す図である。 ブランキング期間が生じた場合における補間の例を示す図である。 フリッカーの影響を低減したタイミングで撮影を行うためのセンサ駆動とフリッカーとの関係を示す図である。 実施形態の処理の流れを示すフローチャートである。 フリッカー検知およびグローバルシャッター方式でセンサ駆動した場合における本撮影前後のセンサ駆動を示す図である。
以下、本発明の各実施の形態について図面を参照しながら詳細に説明する。しかしながら、以下の各実施の形態に記載されている構成はあくまで例示に過ぎず、本発明の範囲は各実施の形態に記載されている構成によって限定されることはない。
図1は、実施形態に係る撮像装置100の構成例を示す図である。撮像装置100には、例えば、デジタルカメラが適用される。撮像装置100は、本体部101および撮影レンズ102を有する。本体部101と撮影レンズ102とは、相互に機械的および電気的に接続されている。撮影レンズ102は、フォーカシングレンズ103および絞り104を有する。撮影レンズ102は、本体部101からレンズマウント接点群105を介して、制御される。本体部101は、撮像素子106、フォーカルプレーンシャッター107、モニタ108、CPU109、RAM110およびROM111を有する。撮像素子106は、CMOSイメージセンサやCCDイメージセンサ等である。撮像素子106には、光電変換素子を有する画素が複数配列されている。
撮像装置100による撮像が行われる際には、フォーカルプレーンシャッター107が開かれる制御が行われる。これにより、撮像素子106が露光され、被写体像が結像される。撮像手段としての撮像素子106は、露光中に撮影レンズ102を通して入射する光を各画素で電気信号に変換して画像データを形成し、形成された画像データをCPU109に出力する。実施形態の撮像素子(センサ)106は、グローバルシャッター方式またはローリングシャッター方式により駆動される。グローバルシャッター方式は、撮像素子106に蓄積された全ての画素の電荷を同時に転送する方式である。グローバルシャッター方式では、撮像素子106の全画素について、電荷のリセットから電荷の転送までの露光期間が全て同じになる。
ローリングシャッター方式は、撮像素子106に蓄積された電荷を、選択された行(ライン、走査線)ごとに順次転送する方式である。図2は、ローリングシャッター方式による電荷の転送を示す図である。図2に示されるように、ローリングシャッター方式では、選択された行ごとに順次電荷のリセットから電荷の転送および読み出しが行われる。そして、破線矢印のように走査して蓄積された電荷が、選択された行ごとに順次転送されるため、行ごとに露光タイミングが異なる。従って、フリッカーの影響等により被写体の明るさが変化していると、行ごとに明るさが異なる画像データが得られる場合がある。
CPU109は、実施形態に係る各種の制御を行う制御手段(コンピュータ)である。また、CPU109は、撮像素子106が出力した画像データに対して所定の画像処理を施し、画像処理が施された画像データをモニタ108に表示する制御を行う。例えば、ROM111に記憶されたプログラムがRAM110に展開され、CPU109がRAM111に記憶されたプログラムを実行することで、実施形態の各種の制御が実現されてもよい。
次に、フリッカー検知処理について説明する。図3は、被写体の輝度に応じたフリッカー検知用画像を取得するためのセンサ駆動とフリッカーとの関係を示す図である。以下において、フリッカーは、周期的な光量変化であるものとし、フリッカーが発生し得る光源(光量が周期的に変化する光源)をフリッカー光源と称する。また、フリッカー検出は、フリッカーの発生有無、フリッカー周波数(周期)および光量が所定の光量(ピークまたはボトム(最大値または最小値))となるタイミングの検出であるものとする。例えば、一般的な蛍光管の場合、フリッカー周波数は点灯に用いる電源の周波数の2倍となるため、100Hzまたは120Hzである。フリッカー周波数は、これらの値には限定されない。図3(A)は、被写体の輝度が低輝度ではない場合におけるセンサ駆動とフリッカーとを示す図である。なお、被写体の輝度が低輝度であるか否かは、被写体の輝度が所定値より高いか否かに基づいて、判定されてもよい。例えば、フリッカーの光量変化の1周期に対応する露光期間により事前に得られた画像信号に基づいて被写体の輝度を算出し、当該算出された輝度に基づいて、CPU109が被写体の輝度が低輝度であるか否かを判定する構成であればよい。従って、図3(A)は、被写体の輝度が所定値より高い場合の例を示す。
図3(A)の設定例の場合、第1のフレームレートで複数のフレーム分(第1のフレーム分)連続して画像データの蓄積および読み出しが行われる。図3(A)の例は、第1のフレームレートが「600fps」であり、12フレーム分連続して画像データが取得された例を表している。第1のフレームレートは、フリッカーの検知のために電荷の蓄積時間を確保することができるフレームレートである。なお、第1のフレームレートは、「600fps」には限定されず、発生が想定される複数のフリッカーの周波数の公倍数であればよい。図3(A)の例では、蓄積時間は、最大で「1.66ms」になる。ローリングシャッター方式により繰り返し撮像が行われると、CPU109は、連続して画像データを取得する。CPU109は、取得した画像データごとに面全体の輝度の積分値を求め、画像データごとに求めた積分値の推移からフリッカーの周期およびフリッカーのピークタイミングを算出する。
図3(B)および(C)は、被写体の輝度が低輝度である場合におけるセンサ駆動とフリッカーとを示す図である。被写体の輝度が低輝度である場合、CPU109は、フレームレートを、第1のフレームレートよりも低い第2のフレームレートに設定する。これは、フリッカーを検知する際に、画像データを適切な明るさで取得するための蓄積時間を確保するためである。従って、フレームレートが第2のフレームレートに設定されると、第1のフレーム数よりも少ない複数のフレーム分(第2のフレーム数分)、連続して画像データの蓄積および読み出しが行われる。第2のフレームレートは、例えば、第1のフレームレートを2以上の整数値で除算したフレームレートに設定される。図3(B)および(C)の例では、第2のフレームレートが「300fps」に設定されている例を示す。つまり、第2のフレームレートは、第1のフレームレートの半分のフレームレートに設定されている。この場合、蓄積時間は、最大で「3.33ms」になる。また、第1のフレーム数(12フレーム)の半分となる6フレーム分の画像データが連続して取得される。
図3(A)の例のように、高いフレームレート(第1のフレームレート)で画像データを取得するためには、画像データの読み出し行の間引き等により、高精度な画像データを短時間で蓄積することができる。一方、図3(B)および(C)のように、フレームレートを下げて画像データを取得する場合、画像データの読み出し行の間引き行を減らすことにより高精度な画像データを取得することができる。そして、画像データの蓄積時間は、フリッカー検知用画像がフリッカーを検知可能な十分な明るさを確保できる時間に設定される。
第2のフレームレートで画像データの蓄積および読み出しを行う場合、第1のフレームレートで画像データの蓄積および読み出しを行う場合と比較して、同一時間中で取得できる画像データの枚数は少なくなる。第2のフレームレートが第1のフレームレートの半分である場合、CPU109が取得可能なサンプリング数も半分になる。この場合、サンプリング数が、第1のフレームレートの場合の半分になるため、第1のフレームレートである場合に比べて、フリッカー波形を正確に導出することが難しくなる。その結果、フリッカーの周期やピークタイミングの算出精度が低下する。
そこで、実施形態のCPU109は、図3(C)に示すように、連続して取得された画像データをそれぞれ所定の領域に分割し、分割領域ごとの積分値の推移に基づいて、フリッカー検知を行う。CPU109は、第1のフレームレートを第2のフレームレートで除算した整数値(2以上の整数値)で、画像データを分割する。第1のフレームレートが「600fps」であり、第2のフレームレートが「300fps」である場合、上記の除算した整数値は「2」になる。この場合、図3(C)に示されるように、CPU109は、画像データを2つに分割する。これにより、各画像データは、2つの分割領域に分割される。例えば、1枚目の画像データは、分割領域1−(1)と1−(2)とに分割される。図3(C)の例の場合、取得できる画像データの数は、図3(A)の例と比較して少なくなるが、分割領域を1つのサンプリングデータとみなした場合、図3(A)と図3(C)とで、サンプリング数は変わらない。このため、第2のフレームレートに設定されたとしても、第1のフレームレートと同等の高精度のフリッカー波形を導出することができる。なお、第2のフレームレートで得た画像データの分割方法についての詳細は後述する。
ここで、取得された各画像データの面内においては、フリッカーの影響以外に起因して被写体の輝度が異なる。従って、CPU109が算出した積分値はフリッカーの影響以外の被写体変化も含むことになる。そこで、CPU109は、フリッカーの影響の度合いが所定量より小さい画像(所定の画像データ)を用いて、フリッカー検知用の連続画像をそれぞれ規格化(正規化)する。図4は、CPU109が、フリッカーの影響を受けていない画像データ(フリッカー無画像)によりフリッカー検知用の連続画像をそれぞれ規格化した例を示す。この場合におけるフリッカー無画像(比較画像データ)に対するフリッカーの影響の度合いは「0」である。なお、以下、説明のために、フリッカー無画像がフリッカーの影響を受けていない画像データであるものとして説明するが、例えば、フリッカーの影響が所定値よりも小さい画像をフリッカーの影響を受けていない基準画像としてもよい。CPU109は、画像データを取得する際の蓄積時間を予め定めた時間に設定することで、フリッカー無画像を取得してもよい。例えば、CPU109が、以前に周波数が100Hzのフリッカーを検知した場合、CPU109は、蓄積時間を「1/100秒」に設定する。CPU109は、以前に周波数が120Hzのフリッカーを検知した場合、蓄積時間を「1/120秒」に設定する。フリッカー無画像は、フリッカー検知を行う直前に取得されてもよいし、フリッカー検知直前に被写体の測光のために取得した画像データが利用されてもよい。
CPU109は、取得したフリッカー無画像とフリッカー検知のために取得した連続画像のそれぞれとの差分を求めることで、規格化を行う。CPU109は、フリッカー無画像に対するフリッカー検知のために取得した連続画像のそれぞれの比率を求めることで、規格化を行ってもよい。これにより、フリッカー無画像を基準として規格化が行われることから、被写体中のフリッカー成分を精度よく抽出することができる。そして、CPU109は、取得した画像データごとに面内を複数の領域に分割し、分割領域ごとの輝度の積分値を求める。上述したように、図3(B)の例では、画像データの分割が行われていないため、各画像データの積分値の推移からフリッカー検知を行ったとしても、サンプリング数が少ないことに起因して、フリッカーの波形を正確に求めることが難しい。従って、フリッカーの周期判定やピークタイミングが高精度に検出できない場合がある。そこで、CPU109は、前述したように、図3(A)で示される低輝度時以外の場合と同等のサンプリング数を得るために、図3(C)のように、フリッカー検知用画像を複数の領域に分割する。
ローリングシャッター方式による撮像の場合、図2に示されるように、撮像素子106に蓄積された電荷は、選択された行ごとに順次転送することになり、行ごとに蓄積タイミングが異なる。これにより、フリッカーの経時変化による影響を受けて、画像データの面内で輝度のムラが生じる。そこで、CPU109は、上述した画像データの分割を行う際に、画像データを構成する各行(図2で示される各行)を2つ以上の領域に分割する。これにより、1つの画像データについて2つ以上の分割領域が得られる。図3(C)の例では、各画像データは、2つの領域に分割されているため、分割領域(1−(1)、1−(2)、…、6−(1)、6−(2))の数は、合計で12個になる。
ここで、CPU109が取得する分割領域のタイミングは、上記のように、「1−(1)、1−(2)、…、6−(1)、6−(2)」の順番となる。これは、ローリングシャッター方式では、撮像素子106から読み出される各行のタイミングが異なるためである。つまり、CPU109は、分割領域1−(1)を最初に取得し、次に、分割領域1−(2)を取得する。そして、CPU109は、分割領域2−(1)〜分割領域6−(2)まで順番に取得していく。これにより、フレームレートが第2のフレームレート(第1のフレームレートの半分)である場合でも、図4(A)のように、2倍の連続画像を取得した場合と同等のサンプリング数を得ることができる。このため、CPU109は、低輝度のために第2のフレームレートで撮影を行うとしても、第1のフレームレートと同様に、輝度変化の推移(経時変化)を認識することができる。
ここで、画像データを取得する際に設定したフレームレートや蓄積時間によっては、次の撮像までに露光を行わない期間であるブランキング期間が生じる場合がある。図5は、ブランキング期間が生じた場合における補間の例を示す図である。ブランキング期間は、センサ駆動などの種々の影響により、次の撮像までに露光が行われない期間である。つまり、ブランキング期間は、フリッカー波形のサンプリングが実施されない期間である。そこで、CPU109は、ブランキング期間のサンプリングデータの補間を行う。例えば、CPU109は、ブランキング期間前後の領域(分割領域)の積分値から、ブランキング期間の近似データを作成して補間してもよい。また、CPU109は、ブランキング期間前後の2つの分割領域のデータの加算平均をとってもよい。CPU109は、補間した積分値の推移に基づいて、フリッカーの波形を求めることができ、フリッカーの周期を判定することができる。また、CPU109は、分割領域ごとに求めた積分値からフリッカーのピークタイミングを算出する。つまり、ローリングシャッター方式で撮像し、分割領域ごとの積分値の推移に基づいて、フリッカーの波形を求める。これにより、フリッカーの周期やピークタイミングを算出することができる。
次に、図6を参照して、撮像装置100のフリッカーレス撮影に関する制御について説明する。図6は、フリッカーの影響を低減したタイミングで撮影を行うためのセンサ駆動とフリッカーとの関係を示す。図6では、撮像装置100のレリーズスイッチの押下による撮影指示が行われる前にフリッカー検知が完了している場合について説明する。フリッカー検知処理によりフリッカーが検知されると、フリッカーのピークタイミングが検出される。フリッカーのピークタイミングが検出されたことに応じてフリッカーのピークと撮影タイミングとを同調させるための信号(以下、フリッカー同調信号という)が出力され続ける。フリッカー同調信号が出力されている間に、レリーズスイッチ押下により撮影指示がなされると、撮影指示直後ではなく、フリッカー同調信号の出力に合わせたセンサ駆動がされて、露光が行われる。これにより、撮影のたびにフリッカーのピークタイミングに合わせた露光を行うことができ、露出のばらつきを抑制することができる。つまり、フリッカーの影響を受けないフリッカーレス撮影が実現できる。上述した例では、レリーズスイッチが押下される前にフリッカーを検知していた場合について説明したが、レリーズスイッチが押下されてからフリッカー検知処理を行った場合でも同様である。この場合、フリッカーを検知した後にフリッカー同調信号が出力されて、フリッカー同調信号に合わせてセンサや露光の制御が行われる。
次に、図7のフローチャートを参照して、本実施形態の処理の流れについて説明する。図7のフローチャートは、撮像装置100による被写体の測光からフリッカーレス撮影までの処理の流れを示す。CPU109は、被写体の測光を行うための画像データの蓄積制御および読み出し制御を行う(S301)。そして、CPU109は、読み出した画像データの測光値(輝度)を取得する(S302)。CPU109は、撮影指示を受け付けたかを判定する(S303)。S303でNOと判定された場合、フローは、S301に戻る。S303でYESと判定された場合、CPU109は、測光値(画像データの輝度)が閾値を超えているかを判定する(S304)。閾値は、例えば、フリッカー検知用画像を、フリッカー検知が可能な十分な明るさで取得できる限界の輝度に設定される。
S304でYESと判定された場合、画像データの輝度は閾値より高いため、低輝度ではない。この場合、CPU109は、フリッカー検知を行う画像データを取得するための蓄積パラメータの設定を行う。S304でYESと判定された場合、CPU109は、蓄積パラメータとして、被写体輝度が低輝度以外の場合の第1のフレームレートを設定する(S305)。CPU109は、第1のフレーム分連続して画像データの蓄積制御および読み出し制御を行う(S306)。CPU109は、連続して取得した画像データを、画像データごとに面全体を積分して、積分値を算出する(S307)。CPU109は、S307で求めた積分値の推移(経時変化)に基づいて、図3(A)に基づくフリッカー検知処理(第1のフリッカー検知処理)を行う(S308)。
一方、S304でNOと判定された場合、画像データの輝度は閾値以下であり、低輝度である。CPU109は、蓄積パラメータとして、第1のフレームレートよりも低い第2のフレームレートを設定する(S309)。上述した例では、第2のフレームレートは、第1のフレームレートを2以上の整数値で除算したフレームレートである。CPU109は、第2のフレーム分連続して画像データを蓄積制御および読み出し制御を行う(S310)。CPU109は、連続して取得した画像データ(連続画像)のそれぞれを、フリッカー無画像で規格化する(S311)。フリッカー無画像には、S301で取得した画像データが用いられてもよいし、別途フリッカー検知前に取得された画像データが用いられてもよい。CPU109は、規格化後のフリッカー検知用画像それぞれを複数の領域に分割し、分割領域ごとに積分値を算出する(S312)。分割する領域数は、設定された第2のフレームレートによる。
S309で設定された第2のフレームレートやS310の蓄積時間によっては、上述したブランキング期間が生じることがある。ブランキング期間が生じる場合、CPU109は、ブランキング期間のサンプリングデータの補間を行う(S313)。ブランキング期間が生じない場合、S313の処理は行われなくてよい。CPU109は、ブランキング期間におけるデータ補間を実施した後、時間方向に連続する分割領域ごとの積分値の変化を見てフリッカー検知処理を行う(S314)。S314のフリッカー検知処理は、図3(C)に基づくフリッカー検知処理(第2のフリッカー検知処理)である。
S308のフリッカー検知処理(第1のフリッカー検知処理)またはS314のフリッカー検知処理(第2のフリッカー検知処理)が行われた後、CPU109は、フリッカーが検知されたかを判定する(S315)。S315でYESと判定された場合、フリッカーが検知されたため、CPU109は、フリッカーのピークタイミングに基づいてフリッカーレス撮影を実施する制御を行う(S316)。S315でYESと判定された場合、フリッカーが検知されていないため、CPU109は、フリッカーレス撮影ではなく、通常撮影を実施する制御を行う(S317)。
次に、図8を参照し、グローバルシャッター方式でセンサ駆動した場合に、フリッカーレス撮影を行う場合の本撮影前後のフリッカー検知のためのセンサ駆動について説明する。図8は、フリッカー検知およびグローバルシャッター方式でセンサ駆動して撮影を行う場合における本撮影前後のセンサ駆動を示す図である。フリッカー検知を行うための連続画像はローリングシャッター駆動による撮像により取得される。そのため、グローバルシャッター駆動による撮像を行う場合、撮像装置100のレリーズスイッチの押下による撮影指示に応じてセンサ駆動を切替える必要がある。撮像装置100は、フリッカー検知の結果に基づいて、フリッカー同調信号に合わせて撮像を行う。撮影指示が続く場合、撮像装置100は、フリッカー同調信号に合わせて撮像処理を続ける。撮像装置100のレリーズスイッチの押下が解除され撮影指示がなくなった場合、CPU109は、再度フリッカー検知のためのセンサ駆動としてローリングシャッター駆動を行うように制御する。
以上のように、実施形態では、CPU109は、被写体の輝度に応じて画像データを取得するフレームレートを変更する。そして、CPU109は、被写体の輝度が低輝度の場合、フリッカー検出用画像を分割し、分割領域ごとの積分値の推移に基づいてフリッカー検知を行うように制御する。これにより、フリッカー検知のためのサンプリング数が確保でき、ピークタイミングを含むフリッカー波形を高精度に取得することが可能になる。そして、被写体の輝度によるフリッカー検知精度の低下を抑えフリッカーレス撮影を行うことができる。
以上において、撮像装置100は、撮影指示に応じてフリッカー検知を行った後に撮影処理を行っていたが、撮影指示のタイミングに依らず、フリッカー検知を定期的に行い、撮影指示があった直前のフリッカー検知の結果を用いて撮影を行うようにしてもよい。また、上述した例では、フレームレートが第1のフレームレートに設定された場合、CPU109は、取得されたフリッカー検知用画像の面内における一部の領域のデータの積分値の経時変化(時間的変化)に基づいて、フリッカー検知を実行してもよい。これにより、被写体中に部分的に発生しているフリッカーを検知することができ、部分的に発生しているフリッカーの検知結果に基づいて、フリッカーレス撮影を行うことができる。
また、被写体の輝度が、例えば、上記の低輝度より低い場合等においては、画像データを適切な明るさで取得するための蓄積時間を確保するために、第2のフレームレートよりもさらに低いフレームレートに設定されることがある。また、撮像装置100が、モニタ108にライブビュー表示(LV表示)を行う場合、フリッカー検知が同時に行われると、フレームレートは、ライブビュー表示を行うためのフレームレートより低いフレームレートに設定される。このような場合、CPU109は、連続する画像データの積分値の変化ではなく、取得した画像データの面内の時間軸方向の輝度変化に基づいてフリッカー検知を行うようにしてもよい。
また、CPU109は、連続画像の分割領域ごとの時間方向における積分値変化からサンプリング数の少ないフリッカー波形を分割領域ごとに算出し、各フリッカー波形を合成してもよい。これにより、一定のサンプリング数を有したフリッカー波形を取得することができる。この場合、同じ分割領域についての上述した各フリッカー波形が合成されるため、フリッカー以外の被写体成分の影響を考慮しなくてもよく、規格化の必要がない。これにより、規格化のためにフリッカー無画像を別途取得する必要がなく、規格化を行う処理を省略することができる。また、CPU109は、第1のフレームレートと第2のフレームレートとの何れを設定するかを、被写体の測光値が閾値以上であるかではなく、蓄積時間に応じて、判定してもよい。例えば、撮像装置100に対して、夜景撮影モード等の長い時間の蓄積時間が設定された場合、設定された蓄積時間に応じてフレームレートの設定が行われてもよい。
以上、本発明の好ましい実施の形態について説明したが、本発明は上述した各実施の形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。本発明は、上述の各実施の形態の1以上の機能を実現するプログラムを、ネットワークや記憶媒体を介してシステムや装置に供給し、そのシステム又は装置のコンピュータの1つ以上のプロセッサーがプログラムを読み出して実行する処理でも実現可能である。また、本発明は、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 撮像装置
101 本体部
102 撮影レンズ
106 撮像素子
108 モニタ
109 CPU

Claims (12)

  1. ローリングシャッター方式で駆動することで被写体を撮像する撮像手段と、
    第1のフレームレートよりも低い第2のフレームレートで前記撮像手段を駆動した場合、前記撮像手段が連続撮影した複数の画像データをそれぞれ所定の領域に分割し、分割された分割領域のデータに基づいて、フリッカー検知を行う制御手段と、
    を備えることを特徴とする撮像装置。
  2. 前記制御手段は、前記画像データの輝度が閾値より高い場合、前記第1のフレームレートで前記撮像手段を駆動させて得られた複数の画像データに基づいてフリッカー検知を行い、前記輝度が前記閾値以下の場合、前記第2のフレームレートで前記撮像手段を駆動させて得られた前記分割領域のデータに基づいてフリッカー検知を行う、
    ことを特徴とする請求項1記載の撮像装置。
  3. 前記制御手段は、前記第1のフレームレートで前記撮像手段を駆動させた場合、前記複数の画像データの輝度を積分した値の時間的な変化に基づいて、前記フリッカー検知を行い、前記第2のフレームレートで前記撮像手段を駆動させた場合、前記分割領域のデータの輝度を積分した値の時間的な変化に基づいて、前記フリッカー検知を行う、
    ことを特徴とする請求項2記載の撮像装置。
  4. 前記第2のフレームレートは、前記第1のフレームレートを2以上の整数値で除算したフレームレートであり、
    前記制御手段は、前記整数値で、前記画像データを分割する、
    を特徴とする請求項1乃至3のうち何れか1項に記載の撮像装置。
  5. 前記制御手段は、前記第2のフレームレートで前記撮像手段を駆動させた場合、フリッカーの影響の度合いが所定量より小さい所定の画像データと前記分割領域のデータのそれぞれとに基づいてフリッカー検知を行う、
    を特徴とする請求項1乃至4のうち何れか1項に記載の撮像装置。
  6. 前記制御手段は、前記所定の画像データと前記分割領域のデータのそれぞれとの差分または比率を求めて、前記フリッカー検知を行う、
    ことを特徴とする請求項5記載の撮像装置。
  7. 前記制御手段は、前記連続撮影を行う際にブランキング期間が生じる場合、当該ブランキング期間の前後の前記分割領域のデータを用いて補間を行う、
    ことを特徴とする請求項1乃至6のうち何れか1項に記載の撮像装置。
  8. 前記制御手段は、前記第1のフレームレートで前記撮像手段を駆動した場合、前記撮像手段が連続撮影した複数の画像データのうちの一部の領域のデータの輝度の積分値の時間的変化に基づいて、フリッカー検知を行う、
    ことを特徴とする請求項1乃至7のうち何れか1項に記載の撮像装置。
  9. 前記制御手段は、ライブビュー表示が行われる場合、ライブビュー表示を行うためのフレームレートよりも低いフレームレートに設定し、設定されたフレームレートに応じて取得された連続画像の輝度変化に基づいて、フリッカー検知を行う、
    ことを特徴とする請求項1乃至8のうち何れか1項に記載の撮像装置。
  10. 前記制御手段は、前記分割領域のデータごとに、輝度を積分した値の時間的変化に基づいて、フリッカー波形を算出し、算出された前記分割領域のデータごとのフリッカー波形を合成すること、
    を特徴とする請求項1乃至4のうち何れか1項に記載の撮像装置。
  11. ローリングシャッター方式で駆動することで被写体を撮像する撮像手段を有する撮像装置の制御方法であって、
    第1のフレームレートよりも低い第2のフレームレートで前記撮像手段を駆動した場合、前記撮像手段が連続撮影した複数の画像データをそれぞれ所定の領域に分割し、分割された分割領域のデータに基づいて、フリッカー検知を行う工程と、
    を備えることを特徴とする撮像装置の制御方法。
  12. 請求項11記載の撮像装置の制御方法をコンピュータに実行させるためのコンピュータで読み取り可能なプログラム。
JP2018205620A 2018-10-31 2018-10-31 撮像装置、撮像装置の制御方法およびプログラム Pending JP2020072392A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018205620A JP2020072392A (ja) 2018-10-31 2018-10-31 撮像装置、撮像装置の制御方法およびプログラム
US16/666,535 US11102423B2 (en) 2018-10-31 2019-10-29 Image pickup apparatus that performs flicker detection, control method for image pickup apparatus, and storage medium
CN201911044125.3A CN111131667B (zh) 2018-10-31 2019-10-30 进行闪烁检测的摄像设备及其控制方法和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018205620A JP2020072392A (ja) 2018-10-31 2018-10-31 撮像装置、撮像装置の制御方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2020072392A true JP2020072392A (ja) 2020-05-07

Family

ID=70325651

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018205620A Pending JP2020072392A (ja) 2018-10-31 2018-10-31 撮像装置、撮像装置の制御方法およびプログラム

Country Status (3)

Country Link
US (1) US11102423B2 (ja)
JP (1) JP2020072392A (ja)
CN (1) CN111131667B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023034920A (ja) 2021-08-31 2023-03-13 キヤノン株式会社 撮像装置、フリッカー検出方法およびプログラム

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7298401B2 (en) * 2001-08-10 2007-11-20 Micron Technology, Inc. Method and apparatus for removing flicker from images
JP4207923B2 (ja) * 2005-04-19 2009-01-14 ソニー株式会社 フリッカ補正方法、フリッカ補正装置及び撮像装置
JP4840578B2 (ja) * 2006-06-29 2011-12-21 京セラ株式会社 撮像装置のフリッカ検出方法と装置
JP2008109370A (ja) 2006-10-25 2008-05-08 Sanyo Electric Co Ltd 画像補正装置及び方法並びに撮像装置
US8451345B2 (en) * 2008-11-20 2013-05-28 Panasonic Corporation Flicker reduction device, integrated circuit, and flicker reduction method
TW201042617A (en) * 2009-05-19 2010-12-01 Chunghwa Picture Tubes Ltd LCD device of improvement of flicker upon switching frame rate and method for the same
JP5331766B2 (ja) 2010-09-03 2013-10-30 株式会社日立製作所 撮像装置
JP5389274B2 (ja) 2010-11-30 2014-01-15 富士フイルム株式会社 画像処理装置、撮影装置、画像処理方法及びホワイトバランス調整方法
JP2012120132A (ja) 2010-12-03 2012-06-21 Nikon Corp 撮像装置およびプログラム
JP2012134663A (ja) * 2010-12-20 2012-07-12 Samsung Electronics Co Ltd 撮像装置および撮像方法
JP6296697B2 (ja) 2013-05-10 2018-03-20 キヤノン株式会社 撮像装置、制御方法、プログラム及び記憶媒体
WO2016132615A1 (ja) * 2015-02-16 2016-08-25 富士フイルム株式会社 撮像装置、フリッカ検出方法、及びフリッカ検出プログラム
JP6460829B2 (ja) 2015-02-20 2019-01-30 キヤノン株式会社 撮像装置、電子機器及び光量変化特性の算出方法
JP6171116B2 (ja) 2015-03-02 2017-07-26 富士フイルム株式会社 撮像装置、フリッカ検出方法、及びフリッカ検出プログラム
CN107431769B (zh) * 2015-03-02 2018-07-10 富士胶片株式会社 摄像装置、闪烁检测方法及闪烁检测程序
JP6320503B1 (ja) * 2016-12-28 2018-05-09 オリンパス株式会社 撮像装置、フリッカ検出方法、およびプログラム
JP7013730B2 (ja) * 2017-08-29 2022-02-15 株式会社Jvcケンウッド 画像生成制御装置、画像生成制御方法、及び画像生成制御プログラム
KR20200016559A (ko) * 2018-08-07 2020-02-17 삼성전자주식회사 복수의 구간 영상들을 포함하는 동영상 데이터를 생성하는 전자 장치 및 방법

Also Published As

Publication number Publication date
CN111131667A (zh) 2020-05-08
US20200137291A1 (en) 2020-04-30
CN111131667B (zh) 2022-07-12
US11102423B2 (en) 2021-08-24

Similar Documents

Publication Publication Date Title
US9794493B2 (en) Image capturing apparatus, image capturing method, and control method
US9106830B2 (en) Image capture apparatus and method for tracking a subject
RU2627933C2 (ru) Устройство захвата изображения и способ управления им
US20110080494A1 (en) Imaging apparatus detecting foreign object adhering to lens
US20150009352A1 (en) Imaging apparatus and method for controlling the same
JP6362091B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP2016015615A (ja) 撮像装置、その制御方法、および制御プログラム
US9875423B2 (en) Image pickup apparatus that calculates light amount change characteristic, electronic apparatus, and method of calculating light amount change characteristic
JP2009284136A (ja) 電子カメラ
JP2013031010A (ja) 撮像装置、撮像方法およびプログラム
JP2015111252A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP6393091B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
CN111131667B (zh) 进行闪烁检测的摄像设备及其控制方法和存储介质
JP4867822B2 (ja) 画像処理装置及び画像処理方法、並びに撮像装置
JP4871664B2 (ja) 撮像装置及び撮像装置の制御方法
JP2005122016A (ja) オートフォーカスカメラ
JP2013162188A (ja) パノラマ撮影機能付きカメラ
JP2012063664A (ja) 測光装置及び電子カメラ
JP5482560B2 (ja) 測光装置、撮像装置、およびフリッカの検出方法
JP6659163B2 (ja) フラッシュバンド判定装置、その制御方法、およびプログラム
JP2008283477A (ja) 画像処理装置及び画像処理方法
JP6704718B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP2017098777A (ja) 撮像装置及びその制御方法、プログラム
JP2022093912A (ja) 撮像装置、撮像方法およびプログラム
JP2014127770A (ja) 撮像装置