JP6950698B2 - 撮像制御装置、撮像制御方法および撮像装置 - Google Patents

撮像制御装置、撮像制御方法および撮像装置 Download PDF

Info

Publication number
JP6950698B2
JP6950698B2 JP2018539536A JP2018539536A JP6950698B2 JP 6950698 B2 JP6950698 B2 JP 6950698B2 JP 2018539536 A JP2018539536 A JP 2018539536A JP 2018539536 A JP2018539536 A JP 2018539536A JP 6950698 B2 JP6950698 B2 JP 6950698B2
Authority
JP
Japan
Prior art keywords
flicker
flicker component
exposure time
imaging
timing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018539536A
Other languages
English (en)
Other versions
JPWO2018051615A1 (ja
Inventor
雄太郎 本田
雄太郎 本田
鈴木 智子
智子 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2018051615A1 publication Critical patent/JPWO2018051615A1/ja
Application granted granted Critical
Publication of JP6950698B2 publication Critical patent/JP6950698B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • G03B7/093Digital circuits for control of exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/73Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/745Detection of flicker frequency or suppression of flicker wherein the flicker is caused by illumination, e.g. due to fluorescent tube illumination or pulsed LED illumination

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Exposure Control For Cameras (AREA)

Description

本開示は、撮像制御装置撮像装置方法および撮像装置に関する。
室内用の光源として普及している蛍光灯や近年普及が拡大しているLED(Light Emitting Diode)等は、商用電源周波数の影響により周期的に照明光が明滅するいわゆるフリッカが生じる。このようなフリッカによる色むら等の画質の低下を防止するための撮像装置に関する技術が提案されている(例えば、下記特許文献1を参照のこと。)。
特開2014−220763号公報
このような分野では、フリッカによる画質の低下を効果的に低減することが望まれている。
本開示はこのような問題点に鑑みなされたものであり、フリッカによる画質の低下を防止する撮像制御装置撮像制御方法および撮像装置を提供することを目的の一つとする。
上述の課題を解決するために、本開示は、例えば、
画像に含まれる光源のフリッカ成分を検出するフリッカ検出部と、
フリッカ検出部による検出結果に応じて、撮像のタイミングを制御する制御部と
を有し、
制御部は、
フリッカ成分のピークまたはボトムのタイミングに加え、撮像におけるセンサ部の露光時間に応じて撮像のタイミングを制御し、
さらに、制御部は、
センサ部の露光時間がフリッカ成分の周期の整数倍と一致せず、且つ、露光時間内に1周期に相当するフリッカ成分が奇数個含まれる場合に、検出されたフリッカ成分のボトムで撮像がなされるように制御し、
センサ部の露光時間がフリッカ成分の周期の整数倍と一致せず、且つ、露光時間内に1周期に相当するフリッカ成分が偶数個含まれる場合に、検出されたフリッカ成分のピークで撮像がなされるように制御する
撮像制御装置である。
また、本開示は、例えば、
フリッカ検出部が、画像に含まれる光源のフリッカ成分を検出し、
制御部が、フリッカ成分の検出結果に応じて、撮像のタイミングを制御し、
制御部は、
フリッカ成分のピークまたはボトムのタイミングに加え、撮像におけるセンサ部の露光時間に応じて撮像のタイミングを制御し、
さらに、制御部は、
センサ部の露光時間がフリッカ成分の周期の整数倍と一致せず、且つ、露光時間内に1周期に相当するフリッカ成分が奇数個含まれる場合に、検出されたフリッカ成分のボトムで撮像がなされるように制御し、
センサ部の露光時間がフリッカ成分の周期の整数倍と一致せず、且つ、露光時間内に1周期に相当するフリッカ成分が偶数個含まれる場合に、検出されたフリッカ成分のピークで撮像がなされるように制御する
撮像制御方法である。
また、本開示は、例えば、
撮像部と、
画像に含まれる光源のフリッカ成分を検出するフリッカ検出部と、
フリッカ検出部による検出結果に応じて、撮像のタイミングを制御する制御部と
を有し、
制御部は、
フリッカ成分のピークまたはボトムのタイミングに加え、撮像におけるセンサ部の露光時間に応じて撮像のタイミングを制御し、
さらに、制御部は、
センサ部の露光時間がフリッカ成分の周期の整数倍と一致せず、且つ、露光時間内に1周期に相当するフリッカ成分が奇数個含まれる場合に、検出されたフリッカ成分のボトムで撮像がなされるように制御し、
センサ部の露光時間がフリッカ成分の周期の整数倍と一致せず、且つ、露光時間内に1周期に相当するフリッカ成分が偶数個含まれる場合に、検出されたフリッカ成分のピークで撮像がなされるように制御する
撮像装置である。
本開示の少なくとも一の実施形態によれば、フリッカによる画質の低下を防止することができる。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれの効果であってもよい。また、例示された効果により本開示の内容が限定して解釈されるものではない。
図1は、本開示の一実施形態に係る撮像装置の構成例を示すブロック図である。 図2は、本開示の一実施形態に係るデジタル信号処理部の構成例を示すブロック図である。 図3は、フリッカ成分の一例を示す図である。 図4は、本開示の実施形態に係るフリッカ検出部の構成例を示すブロック図である。 図5は、本開示の実施形態に係る撮像装置の動作例を説明するための図である。 図6は、フリッカレス撮影処理の一例を説明するための図である。 図7は、本開示の一実施形態に係る処理の流れの一例を示すフローチャートである。 図8は、フリッカ成分の検出時における画像の露光時間と、フリッカ光源の周期との関係(露光時間がフリッカ光源の周期より短い場合の例)を説明するための図である。 図9は、フリッカ成分の検出時における画像の露光時間と、フリッカ光源の周期との関係(露光時間がフリッカ光源の周期より長い場合の例)を説明するための図である。 図10は、露光時間に応じてフリッカ成分のピーク位置が反転することを説明するための図である。 図11は、フリッカ検出部により実行される処理の一例等を説明するための図である。 図12は、フリッカ成分のボトムに撮影のタイミングを同期させる制御を説明するための図である。 図13は、システムコントローラにより実行される処理の一例等を説明するための図である。 図14は、検出時におけるフリッカ成分のピーク位置の反転の有無と、本撮影のタイミングを同期させるタイミングとの関係をパターン化して示し、各パターンにおける処理を示した図である。
以下、本開示の実施形態等について図面を参照しながら説明する。なお、説明は以下の順序で行う。
<1.一実施形態>
<2.変形例>
以下に説明する実施形態等は本開示の好適な具体例であり、本開示の内容がこれらの実施形態等に限定されるものではない。
<1.一実施形態>
[撮像装置の構成例]
「全体的な構成例」
図1は、本開示の実施形態に係る撮像装置(撮像装置100)の構成例を示している。撮像装置100は、被写体からの光が、撮像光学系11を介してCMOS(Complementary Metal Oxide Semiconductor)撮像素子12に入射して、CMOS撮像素子12で光電変換され、CMOS撮像素子12からアナログ画像信号が得られる。例えば、撮像光学系11およびCMOS撮像素子12により撮像部が構成される。
センサ部の一例であるCMOS撮像素子12は、CMOS基板上に、フォトダイオード(フォトゲート)、転送ゲート(シャッタトランジスタ)、スイッチングトランジスタ(アドレストランジスタ)、増幅トランジスタ、リセットトランジスタ(リセットゲート)などを有する画素が複数、2次元状に配列されて形成されるとともに、垂直走査回路、水平走査回路および映像信号出力回路が形成されたものである。
CMOS撮像素子12は、後述のように原色系と補色系のいずれでもよく、CMOS撮像素子12から得られるアナログ画像信号は、RGB各色の原色信号または補色系の色信号である。
CMOS撮像素子12からのアナログ画像信号は、IC(Integrated circuit)(集積回路)として構成されたアナログ信号処理部13において、色信号ごとに、サンプルホールドされ、AGC(Automatic Gain Control)(自動利得制御)によってゲインが制御され、A/D(Analog to Digital)変換によってデジタル信号に変換される。
アナログ信号処理部13からのデジタル画像信号は、ICとして構成され、検出部として機能するデジタル信号処理部20において、後述のように処理される。そして、デジタル信号処理部20内のフリッカ検出部25において、後述のように信号成分ごとにフリッカ成分が検出され、当該フリッカ成分が適宜、低減された上で、最終的に輝度信号Yと赤、青の色差信号R−Y,B−Yに変換されて、デジタル信号処理部20から出力される。
制御部の一例であるシステムコントローラ14は、マイクロコンピュータなどによって構成され、撮像装置100の各部を制御する。一例として、システムコントローラ14は、フリッカ検出部25による検出結果に応じて、撮像(例えば、本撮影)のタイミングを制御する。
具体的に、システムコントローラ14から、ICによって構成されたレンズ駆動用ドライバ15に、レンズ駆動制御信号が供給され、レンズ駆動用ドライバ15によって、撮像光学系11のレンズやアイリスが駆動される。
また、システムコントローラ14からタイミングジェネレータ16に、タイミング制御信号が供給され、タイミングジェネレータ16からCMOS撮像素子12に、各種タイミング信号が供給されて、CMOS撮像素子12が駆動される。
このとき、CMOS撮像素子12のシャッタスピード(露光時間)も、システムコントローラ14からのタイミング制御信号によって制御される。具体的に、システムコントローラ14内のシャッタ制御部14cによって、シャッタスピードが設定される。シャッタスピードは、例えば、モードに応じて手動または自動で設定される。
さらに、デジタル信号処理部20からシステムコントローラ14に、各信号成分の検波信号が取り込まれ、システムコントローラ14からのAGC信号によって、アナログ信号処理部13において、上記のように各色信号のゲインが制御されるとともに、システムコントローラ14によって、デジタル信号処理部20における信号処理が制御される。
また、システムコントローラ14には、手ぶれセンサ17が接続され、これから得られる手ぶれ情報が、手ぶれ補正に利用される。
また、システムコントローラ14には、マイクロコンピュータなどによって構成されたインタフェース19を介して、ユーザインタフェース18を構成する操作部18aおよび表示部18bが接続され、操作部18aでの設定操作や選択操作などが、システムコントローラ14によって検出されるとともに、カメラの設定状態や制御状態などが、システムコントローラ14によって表示部18bに表示される。例えば、操作部18aを使用して、後述するフリッカレス撮影を行うか否かの設定を行うことが可能とされている。
なお、撮像装置100が記憶装置を備えていてもよい。記憶装置は、ハードディスク等の撮像装置100に内蔵されたものでもよく、USB(Universal Serial Bus)メモリ等の撮像装置100に着脱自在とされるメモリでもよい。また、撮像装置100が通信装置を備えていてもよい。この通信装置を使用して、インターネット等を介して、外部装置との間で画像データや各種の設定データ等が送受信可能とされてもよい。通信は、有線によるものでもよいし、無線によるものでもよい。
「デジタル信号処理部の構成例」
図2は、原色系システムの場合のデジタル信号処理部20の構成例を示す。原色系システムは、図1の撮像光学系11が被写体からの光をRGB各色の色光に分離する分解光学系を有し、CMOS撮像素子12としてRGB各色用のCMOS撮像素子を有する3板システム、または、CMOS撮像素子12として、光入射面にRGB各色の色フィルタが画面水平方向に1画素ごとに順次、繰り返し配列された一つのCMOS撮像素子を有する1板システムである。この場合、CMOS撮像素子12からは、RGB各色の原色信号がパラレルに読み出される。
図2のデジタル信号処理部20では、クランプ回路21で、入力のRGB原色信号の黒レベルが所定レベルにクランプされ、ゲイン調整回路22で、露出量に応じてクランプ後のRGB原色信号のゲインが調整され、フリッカ検出部25R,25G,25Bで、後述の方法によって、ゲイン調整後のRGB原色信号中のフリッカ成分が検出され、当該フリッカ成分が適宜、低減される。また、本撮影時には、システムコントローラ14の制御に応じてフリッカレス撮影を行うための処理が行われる。本撮影とは、所定操作(例えば、シャッタボタンを全押しする操作)に応じてなされる撮影であり、例えば、記憶媒体に画像を記録する撮影を意味する。また、フリッカレス撮影とは、フリッカ光源から生じるフリッカによる画質への影響(画質の低下)を防止することができる撮影を意味する。
さらに、図2のデジタル信号処理部20では、ホワイトバランス調整回路27で、フリッカ低減後のRGB原色信号のホワイトバランスが調整され、ガンマ補正回路28で、ホワイトバランス調整後のRGB原色信号の階調が変換され、合成マトリクス回路29で、ガンマ補正後のRGB原色信号から、出力の輝度信号Yおよび色差信号R−Y,B−Yが生成される。
なお、合成マトリクス回路29の輝度信号Yの出力側にフリッカ検出部25を設けて、輝度信号Y中のフリッカ成分を検出するように構成してもよい。
一方、補色系システムは、図1のCMOS撮像素子12として、光入射面に補色系の色フィルタが形成された一つのCMOS撮像素子を有する1板システムである。
補色系システムでは、CMOS撮像素子12からは、隣接する2水平ライン位置の映像信号が合成されて読み出され、デジタル信号処理部20では、その補色信号(合成信号)の黒レベルが所定レベルにクランプされ、クランプ後の補色信号のゲインが露出量に応じて調整され、さらにゲイン調整後の補色信号から輝度信号およびRGB原色信号が生成される。
そして、輝度信号の階調が補正されて、出力の輝度信号Yが得られるとともに、RGB原色信号のホワイトバランスが調整され、ホワイトバランス調整後のRGB原色信号の階調が変換され、そのガンマ補正後のRGB原色信号から色差信号R−Y,B−Yが生成される。
[動作例]
「基本的な動作」
次に、撮像装置100の動作例について説明する。ここでは、静止画を撮影する例について説明する。撮像装置100の電源が投入されると、撮像前における被写体の構図決め(フレーミング)等の際に、動画的態様の画像(スルー画像)が表示部18bに表示される(ライブビュー表示)。
続いて、被写体が決定された後、準備操作がなされる。準備操作は、撮影を行う準備の操作であり、撮影の直前になされる操作である。準備操作は、例えば、操作部18aに含まれるシャッタボタンを途中まで(半分程度まで)押し込む半押し操作である。シャッタボタンに対する半押し操作がなされると、例えば、被写体の静止画を撮像するための準備動作が行われる。被写体の静止画を撮像するための準備動作としては、露出制御値の設定や焦点を検出する検出動作、補助光部の発光等が挙げられる。なお、半押し状態でシャッタボタンの押下が解除されると、これらの準備動作が終了する。
半押し状態からさらにシャッタボタンが押しこまれ、シャッタボタンが全押しされると撮像装置100に対して本撮影が指示され、CMOS撮像素子12を使用して被写体像(被写体の光像)に関する露光動作が行われる。露光動作により得られた画像データに対して、アナログ信号処理部13やデジタル信号処理部20による所定の信号処理が施され、静止画像が得られる。得られた静止画像に対応する画像データが、図示しない記憶装置に適宜、記憶される。
なお、撮像装置100により動画の撮影が行われてもよい。動画の撮像がなされる場合は、例えば、シャッタボタンが押下されると動画の撮影および当該動画の記録がなされ、再度、シャッタボタンが押下されると動画の撮影が停止される。
「フリッカ低減処理について」
次に、撮像装置100におけるフリッカ低減処理等について説明する。フリッカ低減処理は、例えば、ライブビュー表示におけるスルー画像に対して施される処理である。説明の前に理解を容易とするために、NTSCシステムで発生する蛍光灯により生じるフリッカ成分の一例について説明する。なお、本例では、フレームレートを60fps(frames per second)、商用電源周波数を50Hz(ヘルツ)とした場合について説明する。この場合に生じるフリッカ成分の特徴は以下の通りである。
(1)1画面中には、5/3周期分発生する(3フレーム(フィールドでもよい)を繰り返し周期とする)。
(2)1ラインごとに位相が変化する。
(3)商用電源周波数(50Hz)の2倍の周波数(100Hz)を持つ正弦波として扱うことができる。
上記の特徴から、フリッカ現象が起きている際には、図3のようなフリッカ成分が発生している。なお、図3では、上側(画面上部)から下側(画面下部)に向かって走査が行われているものとする。CMOS撮像素子12では、水平ラインごとに露光タイミングが異なるため、水平ラインに応じて受光量が変化してしまう。よって、蛍光灯が空間的に均一に照明していたとしても、図3のように、映像信号の値が平均値よりも高い水平ラインと、映像信号の値が平均値よりも小さい水平ラインが存在してしまう。例えば、図3のフレームでは、画像中の最も上の水平ライン、すなわち、先頭ラインでフリッカ成分(フリッカ成分の振幅)が最も高くなるピークとなっている。さらに、先頭ラインから、1画面に含まれる総ライン数の3/5に相当するラインずれた水平ラインで、フリッカ成分も最も高くなる。このように、フリッカ成分は、図3に示すような、振幅、周期、及び初期位相を持つ、sin関数(正弦波)で表すことができる。なお、本例での初期位相とは先頭ラインでの位相を意味している。
さらに、フレームに応じて、各水平ラインの位相が変化する。すなわち、フレーム毎に、映像信号の値が平均値よりも高い水平ラインと、映像信号の値が平均値よりも低い水平ラインが変化する。次のフレームでは、初期位相が異なる正弦波となる。例えば、蛍光灯によるフリッカが100Hzで発生し、フレームレートが60fpsであるとすると、蛍光灯のフリッカの5周期分が、3フレームに相当する時間となる。よって、3フレーム毎に初期位相が同じ位相となる。このように、水平ラインおよびフレームに応じて、フリッカ成分が変動する。なお、PAL方式、すなわち、フレームレートが50fpsで商用電源周波数を60Hzの場合には、フリッカ成分は5フレームを周期とする正弦波で表すことが可能となる。以上のような性質を有するフリッカ成分を検出して低減する処理(動作)の一例について説明する。
図4は、フリッカ検出部25の詳細な構成例を示す。なお、以下の説明において、入力画像信号とは、それぞれ、フリッカ検出部25に入力されるフリッカ低減処理前のRGB原色信号または輝度信号を意味し、出力画像信号とは、それぞれ、フリッカ検出部25で検出されたフリッカ成分が低減された後のRGB原色信号または輝度信号を意味する。
フリッカ検出部25は、例えば、正規化積分値算出ブロック30と、演算ブロック40と、DFT(離散フーリエ変換)ブロック50と、フリッカ生成ブロック55と、周波数推定/ピーク検出ブロック60とを備えている。正規化積分値算出ブロック30は、積分ブロック31と、積分値保持ブロック32と、平均値計算ブロック33と、差分計算ブロック34と、正規化ブロック35とを備えている。
積分ブロック31は、入力画像信号In'(x,y)の画面水平方向に1ライン分に渡って積分し、積分値Fn(y)を算出する。算出された積分値Fn(y)は、以後のフレームでのフリッカ検出用に、積分値保持ブロック32に記憶保持される。垂直同期周波数が60Hzの場合には、積分値保持ブロック32は、少なくとも2フレーム分の積分値を保持できる構成とされる。
平均値計算ブロック33は、3つの積分値Fn(y),Fn_1(y),Fn_2(y)の平均値AVE[Fn(y)]を算出する。なお、Fn_1(y)は、1フレーム前の同じラインの積分値Fn_1(y)であり、Fn_2(y)は、2フレーム前の同じラインの積分値Fn_2(y)であり、これらの積分値は積分値保持ブロック32から読み出された値である。
差分計算ブロック34は、積分ブロック31から供給される積分値Fn(y)と、積分値保持ブロック32から供給される1フレーム前の積分値Fn_1(y)との差分を算出する。差分値Fn(y)−Fn_1(y)では、被写体の影響が十分除去されるため、積分値Fn(y)に比べてフリッカ成分(フリッカ係数)の様子が明確に現れる。
さらに、正規化ブロック35で、差分計算ブロック34からの差分値Fn(y)−Fn_1(y)が、平均値計算ブロック33からの平均値AVE[Fn(y)]で除算されることによる正規化処理がなされ、正規化後の差分値gn(y)が算出される。
DFTブロック50は、正規化ブロック35からの正規化後の差分値gn(y)の、フリッカの1波長分(Lライン分)に相当するデータを、離散フーリエ変換する。これにより、各次のフリッカ成分の振幅γmおよび初期位相Φmnが推定される。なお、初期位相Φmnは、撮像装置100内において生成される所定時間毎(例えば、0.5μs(マイクロ秒)毎)のカウンタに対応付けられて保持される。
さらに、フリッカ生成ブロック55で、DFTブロック50からのγm,Φmnの推定値から、フリッカ係数Γn(y)が算出される。そして、演算ブロック40は、フリッカ生成ブロック53からのフリッカ係数Γn(y)に1を加え、その和[1+Γn(y)]で入力画像信号In'(x,y)が除算する逆ゲインをかける処理を行う。これによって、入力画像信号In'(x,y)に含まれるフリッカ成分がほぼ完全に除去され、演算ブロック40からは、出力画像信号(フリッカ低減処理後のRGB原色信号または輝度信号)として、実質的にフリッカ成分を含まない信号成分In(x,y)が得られる。
以上のような処理により、フリッカの有無を検出し、当該フリッカによるスルー画像の画質低下を防止することが可能となる。なお、上述したフリッカ低減処理が動画の撮影(記録を含む)時に行われてもよい。なお、本実施形態では、RGB毎のフリッカ成分を検出している。この場合には、振幅が最大となる色成分(チャンネル)のピークのタイミングを検出する。これに代えて、輝度信号のピークを検出するようにしてもよい。
なお、DFTブロック50で計算された初期位相Φmnは、周波数推定/ピーク検出ブロック60に供給される。周波数推定/ピーク検出ブロック60は、入力される初期位相Φmnに基づいて、少なくともフリッカ成分(光源)の周波数、換言すればフリッカ成分の周期を推定し、さらに、フリッカ成分のピークのタイミング(以下、適宜、ピーク位置とも称する)を検出する。例えば、周波数推定/ピーク検出ブロック60は、フレームレートに基づく時間差と初期位相Φmnの位相差とからフリッカ成分の周波数を推定する。さらに、周波数推定/ピーク検出ブロック60は、例えば最初のフレームにおける初期位相Φmnと当該初期位相Φmnに対応付けられたカウンタとからフリッカ成分のピークおよびボトムのタイミングを検出する。
例えば、初期位相Φmnが60度であれば、正弦波で近似できるフリッカ成分のピーク(例えば90度)がでるタイミングをカウンタの時間間隔を使用して求めることが可能である。周波数推定/ピーク検出ブロック60により得られた情報がシステムコントローラ14に通知される。なお、フリッカ成分のピーク(フリッカ成分の山)とは、上述したように、フリッカ明滅の最明部である。また、フリッカ成分のボトム(フリッカ成分の谷)とは、フリッカ明滅の最暗部である。
このように、CMOS撮像素子12を用いた撮像結果(撮像部を介して得られる撮影画像)に基づいてフリッカ成分の特徴(フリッカ成分の周期やピークのタイミング等)を検出することができる。このため、専用のセンサを設ける必要がないので、部品点数の増加によるコストの増加を防止できる。また、撮像装置の小型化が可能となる。但し、本実施形態において、専用の測光センサが設けられてもよい。なお、フリッカ成分の特徴を求める処理は、上述した方法に限定されるものではなく、公知の方法を適用することができる。
「フリッカレス撮影処理について」
次に、フリッカレス撮影処理について説明する。フリッカレス撮影処理は、例えば、フリッカレス撮影モードが撮像装置100に設定されている場合に実行される処理である。
上述したフリッカ成分を検出、低減する処理では、複数フレーム(例えば、3フレーム)の画像を使用してその平均から背景成分を抽出している。このため、フレームレートと蛍光灯等のフリッカ光源の明滅周期とが一致する場合には、背景とフリッカとの分離が困難となりフリッカの検出が困難となる。また、複数フレームの画像を使用するので、静止画像をフリッカレス撮影する場合には上述した処理をそのまま適用することが困難である。そこで、静止画像をフリッカレス撮影する場合には、以下に説明するフリッカレス撮影処理が実行される。
始めに、フレームレートを通常時のフレームレートより高速に切り替える処理が実行される。切り替え後のフレームレートは、例えば、光源の周波数のN倍(但し、フリッカ成分の周波数(100Hzまたは120Hz)より大きい周波数)であり、フレーム内においてフリッカ成分の1周期があることが好ましく、一例として、N=4、すなわち200fps(光源の周波数50Hzの場合)または240fps(光源の周波数60Hzの場合)に設定される。
なお、フリッカ光源の周波数は、ユーザの設定から得てもよく、ライブビュー表示における上述したフリッカ低減処理の結果に基づいて、自動で設定されてもよい。すなわち、フリッカ低減処理において、フレームレートが60fpsの場合にフリッカ成分が検出されない場合には、光源の周波数が50Hzと判別され、フレームレートが50fpsの場合にフリッカ成分が検出されない場合には、光源の周波数が60Hzと判別されてその結果がフリッカレス撮影処理に使用されてもよい。また、フリッカレス撮影処理でフリッカの有無が検出されてもよい。
フレームレートを切り替えるタイミングは適宜、設定可能であるが、好ましくは、本撮影の直前であり、例えば、本撮影の準備操作であるシャッタボタンを半押しする操作がなされたときにフレームレートが切り替えられる。より具体的には、シャッタボタンを半押しする操作に応じた操作信号がインタフェース19を介してシステムコントローラ14に供給される。システムコントローラ14は、タイミングジェネレータ16を制御してCMOS撮像素子12を駆動し、フレームレートを高速化する。
フレームレートが高速化するとフリッカ成分の繰り返し周期が変化する。例えば、フレームレートが200fpsの場合には、フリッカ成分の繰り返し周期は20フレームとなり、フレームレートが240fpsの場合には、フリッカ成分の繰り返し周期は12フレームとなる。
高速化されたフレームレートに基づいて、画像データが得られる。得られた画像データがアナログ信号処理部13による処理を経てデジタル信号処理部20に入力される。高フレームレートで得られる画像データに対して、フリッカ検出部25により上述したフリッカ低減処理が同様に行われる。さらに、この処理では、DFTブロック50からの出力である初期位相Φmnが、フリッカ検出部25の周波数推定/ピーク検出ブロック60に入力される。
周波数推定/ピーク検出ブロック60は、入力される初期位相Φmnに基づいて、少なくともフリッカ成分(光源)の周波数(周期)を推定し、さらに、フリッカ成分のピークタイミングを検出する。
図5は、上述した処理をまとめた図である。通常のフレームレート(例えば、50または60fps)で取り込まれた画像に対してフリッカ低減処理が施され、フリッカ低減処理が施された画像がスルー画像として表示部18bに表示される。そして、シャッタボタンが半押しされると、フレームレートが高速に切り替えられ(例えば、200または240fps)、フリッカ低減処理とともに、周波数推定およびピーク検出処理が行われる。そして、フリッカ低減処理が施された画像が表示部18bに表示される。なお、表示系統におけるデータの帯域を減らす観点や、消費電力等の観点から表示部18bには、得られた画像データの一部を間引いた画像データに基づく表示がなされる。そして、シャッタボタンが深押しされると、本撮影がなされる。
図6は、シャッタボタンに対する深押し操作に応じてなされる撮影における処理を説明するための図である。上述したように、シャッタボタンが半押しされる操作がなされると、フリッカ成分の周波数が推定され、ピークのタイミングを検出する処理が行われる。この処理は、半押し操作がなされている間、繰り返し実行される。なお、半押し操作がなされる際に、フリッカレス撮影を行うモードが設定されているか(モードがオンに設定されているか)否かが判断される。ここで、フリッカレス撮影を行うモードが設定されている場合には、以下に説明する処理が実行される。
図6において、例えば、タイミングTAでシャッタボタンに対する深押し操作がなされたとする。深押し操作に応じて、フリッカ検出部25がシステムコントローラ14(シャッタ制御部14c)に対して、フリッカ成分の次のピークのタイミング(本例ではTB)を通知する。なお、ここでのピークのタイミングは、例えば、深押し操作がなされる直前で得られたタイミングである。
システムコントローラ14は、フリッカ成分のピークのタイミングに露光タイミングを同期させた撮影を実行する。なお、図6に示す例は、フリッカ成分がピークとなる直近のタイミングはタイミングTBである。本例では、静止画撮影に係る処理の遅延等を考慮して、タイミングTBからフリッカ成分の周期倍数分、時間的に後のタイミング(例えば、タイミングTC)に露光タイミングを同期させている。但し、処理的に間に合うのであればタイミングTBに露光タイミングを同期させても構わない。
フリッカ成分のピークのタイミングに露光タイミングを同期させた撮影とは、例えば、露光時間内にフリッカ成分のピークが含まれる撮影であり、より具体的には、露光時間の中心および幕速の中心が、フリッカ成分のピークと一致または略一致するタイミングとすることである。略一致するとは、タイミングのずれが所定の誤差の範囲内であることを意味する。これにより図6中、露光量を示す斜線を付した四角形の重心(露光重心)がフリッカ成分のピークと一致または略一致することになる。フリッカ成分のピークに露光タイミングが常に同期するため、フリッカ成分により画像の画質が低下することを防止したフリッカレス撮影を実現することができる。
「処理の流れ」
図7は、フリッカレス撮影における処理の流れの一例を示すフローチャートである。ステップST11では、フリッカレス撮影を行うモード(フリッカレス撮影モード)が設定されているか否かがシステムコントローラ14により判断される。ここで、フリッカレス撮影モードが設定されていないと判断された場合には、以降の処理では通常撮影(ここでは、フリッカレス撮影処理がなされない撮影を意味する)に係る処理が実行される。ステップST11において、フリッカレス撮影モードが設定されていると判断された場合には、処理がステップST12に進む。
ステップST12では、操作部18aに含まれるシャッタボタンが半押しされたか否かが判断される。半押しされていない場合には、通常のフレームレート(例えば、50または60fps)で取り込まれた画像に対してフリッカ低減処理が行われ、フリッカ低減処理が実行された画像がスルー画像として表示部18bに表示される。なお、フリッカ低減処理を実行する際に、屋外での撮影等のフリッカが生じずフリッカ成分が検出されない場合には、フリッカ低減処理は実行されない。シャッタボタンが半押しされた場合には、処理がステップST13に進む。
ステップST13では、シャッタボタンの半押し操作に応じてフリッカレス撮影処理が実行される。具体的には、CMOS撮像素子12を高フレームレート(例えば200または240fps)で駆動し、得られた画像データを使用してフリッカ成分の周波数を推定し、フリッカ成分のピークがくるタイミングを検出する処理が実行される。なお、フリッカ低減処理においてフリッカ成分の周波数が推定されている場合には、フリッカ成分のピークのタイミングを検出する処理のみが実行されてもよい。得られたタイミング等のデータがシステムコントローラ14に対して通知される。以上の処理は、例えば、半押し操作が継続されている間、継続される。そして、処理がステップST14に進む。
ステップST14では、フリッカが発生するフリッカ環境下でシャッタボタンの深押し操作がなされたか否かが判断される。この判断でフリッカが発生していない環境下でシャッタボタンの深押し操作がなされた場合には、処理がステップST15に進む。ステップST15では、フリッカレス撮影処理が行われない静止画撮影処理が実行される。一方、フリッカが発生している環境下でシャッタボタンの深押し操作がなされた場合には、処理がステップST16に進む。
ステップST16では、本撮影の一つであるフリッカレス撮影が行われる。すなわち、ステップST13の処理で得られたフリッカ成分のピークに露光タイミングを同期させた撮影が行われる。これにより、フリッカ成分による静止画の画質の低下を防止した撮影を行うことができる。なお、後述するように、フリッカレス撮影における露光タイミングを同期させるタイミングは、場合によってはフリッカ成分のボトムとなり得る。
「画像の露光時間とフリッカ光源の電源周期との関係」
ところで、画像の露光時間とフリッカ光源の周期との関係によっては、フリッカ光源の明滅が反転して識別され得る。この点について、説明する。図8および図9は、フリッカ成分の検出時(検波時)における画像の露光時間と、フリッカ光源の周期(電源周期)との関係を説明するための図である。
図8は、露光時間がフリッカ光源の周期より短い場合の例を示している。図8に示す例では、フリッカ光源の周波数を50Hz(周期としては1/100秒)としている。図示の通り、フリッカ波形のボトムでの露光(CMOS撮像素子12のライン0での蓄積タイミング)では最も暗くなり、所定時間経過後の露光(CMOS撮像素子12のラインMでの蓄積タイミング)ではやや明るくなり、フリッカ波形のピークでの露光(CMOS撮像素子12のラインNでの蓄積タイミング)では最も明るくなる。すなわち、露光時間がフリッカ光源の周期より短い場合には、フリッカ光源のピーク位置と識別された箇所が画面内の最も明るい部分に対応することになる。
図9は、露光時間がフリッカ光源の周期より長い場合の例を示している。図9に示す例においても、フリッカ光源の周波数を50Hz(周期としては1/100秒)としている。また、露光時間は、フリッカ光源の周期よりやや長い程度の時間としている。図示の通り、フリッカ波形のピークを中心とする露光(CMOS撮像素子12のライン0での蓄積タイミング)では最も暗くなり、所定時間経過後の露光(CMOS撮像素子12のラインPでの蓄積タイミング)ではやや明るくなり、フリッカ波形のボトムを中心とする露光(CMOS撮像素子12のラインQでの蓄積タイミング)では最も明るくなる。すなわち、露光時間がフリッカ光源の周期より長い場合には、画像に現れた明滅のピーク位置(センサ部が認識する見かけ上のピーク位置)が実際の光源明滅の最暗部に対応することになる。このように、画像の露光時間がフリッカ光源の周期を跨ぐ度に、識別されるフリッカ成分の明暗の特性(以下、適宜、明暗の特性または単に特性と略称する)が反転する。
図10は、上述した説明を表として示した図である。シャッタスピードが1/100秒より高速である場合、換言すれば、露光時間内に1周期に相当するフリッカ成分(本例では1/100秒のフリッカ波形)を含まない(0個)場合には特性は反転しない。シャッタスピードが1/100秒より遅く2/100秒より高速である場合、換言すれば、露光時間内に1周期に相当するフリッカ成分を1個含む場合には特性は反転する。シャッタスピードが2/100秒より遅く3/100秒より高速である場合、換言すれば、露光時間内に1周期に相当するフリッカ成分を2個含む場合には特性は反転しない。
シャッタスピードが3/100秒より遅く4/100秒より高速である場合、換言すれば、露光時間内に1周期に相当するフリッカ成分を3個含む場合には特性は反転する。シャッタスピードが4/100秒より遅く5/100秒より高速である場合、換言すれば、露光時間内に1周期に相当するフリッカ成分を4個含む場合には特性は反転しない。シャッタスピードが5/100秒より遅く6/100秒より高速である場合、換言すれば、露光時間内に1周期に相当するフリッカ成分を5個含む場合には特性は反転する。このように、光源の周期を跨ぐ度に特性が反転する若しくは反転しないことになる。なお、上述した露光時間内に含まれる1周期に相当するフリッカ成分の個数は、例えば、周期性のあるフリッカ波形の所定位置の谷に露光時間の始期を一致させた場合に、当該露光時間内に含まれる1周期に相当するフリッカ成分の個数により規定される。
以上、説明した事項を数式により示すと下記の式(1)、(2)になる。下記式(1)は、フリッカ成分の検出時における露光時間内に、1周期に相当するフリッカ成分(波形)が偶数個含まれる場合であり、下記式(2)は、フリッカ成分の検出時における露光時間内に、1周期に相当するフリッカ成分(波形)が奇数個含まれる場合を数式化したものである。
2m×光源周期<フリッカ成分の検出時における露光時間<(2m+1)×光源周期
・・式(1)
(但し、mは整数であり、光源周期は、例えば、1/100または1/120である。)
(2m+1)×光源周期<フリッカ成分の検出時における露光時間<2(m+1)×光源周期
・・式(2)
(但し、mは整数であり、光源周期は、例えば、1/100または1/120である。)
上述した式(2)の場合には、明暗の特性が反転するので、フリッカ検出部25の周波数推定/ピーク検出ブロック60は、検出したフリッカ成分の位相を反転させて出力する。位相を反転させて出力するとは、検出したフリッカ光源のピーク位置をΠ[rad]ずらして出力する。
図11は、フリッカ成分の検出時における上述した処理をまとめた図である。CMOS撮像素子12から出力された画像に対して適宜な信号処理が施された後、当該画像がフリッカ検出部25に入力される。フリッカ検出部25は、入力画像の検波値から入力画像に含まれるフリッカ画像のピーク位置を算出する。ピーク位置の算出例については上述しているので、重複した説明を省略する。フリッカ検出部25の周波数推定/ピーク検出ブロック60は、CMOS撮像素子12の露光時間が式(1)の場合には、検出したフリッカ成分のピーク位置をシステムコントローラ14に出力する。また、フリッカ検出部25の周波数推定/ピーク検出ブロック60は、CMOS撮像素子12の露光時間が式(2)の場合には、検出したフリッカ成分の位相を反転させるピーク反転処理を行ってシステムコントローラ14に出力する。これにより、システムコントローラ14には、フリッカ光源の正しいピーク位置が記憶される。
なお、フリッカ成分の検出時におけるCMOS撮像素子12の露光時間は、例えば、フリッカ成分の検出に適した時間となるようにシステムコントローラ14の制御により最適化されている。システムコントローラ14がCMOS撮像素子12の露光時間をフリッカ検出部25に通知することにより、フリッカ検出部25は、フリッカ成分の検出時における露光時間を得ることができる。フリッカ検出部25が、フリッカ成分の検出時における露光時間を記憶していてもよい。フリッカ成分の周期に関しては、フリッカ成分の周波数に基づいて、周波数推定/ピーク検出ブロック60が判別することができる。
なお、露光時間がフリッカ光源の周期と一致する場合には、フリッカ成分による画質の影響が低減できることが知られているので、その場合は、上述した明暗の特性の反転を考慮する必要がなく、上述した処理を行う必要はない。
ところで、フリッカ成分の明暗の特性が反転して識別され得る現象は、フリッカ成分の検出時だけでなく、本撮影においても生じ得るため、本撮影のタイミングも適切に制御する必要がある。下記の式(3)および式(4)は、フリッカ成分の検出時における露光時間が、本撮影時における露光時間となる他は、式(1)および式(2)と同様のことを示している。
2m×光源周期<本撮影における露光時間<(2m+1)×光源周期
・・式(3)
(但し、mは整数であり、光源周期は、例えば、1/100または1/120である。)
(2m+1)×光源周期<本撮影における露光時間<2(m+1)×光源周期
・・式(4)
(但し、mは整数であり、光源周期は、例えば、1/100または1/120である。)
式(3)の場合には、識別されるフリッカ成分のピーク位置が反転することがないので、周波数推定/ピーク検出ブロック60から供給されるフリッカ成分のピーク位置で本撮影がなされるように、システムコントローラ14は、撮影のタイミングを制御する。例えば、図6を参照して説明したタイミングで本撮影がなされる。
式(4)の場合には、識別されるフリッカ成分のピーク位置が反転するので、本撮影のタイミングをピーク位置から180度ずらす。図12を参照して、具体的に説明する。図12において、例えば、タイミングTaでシャッタボタンに対する深押し操作がなされたとする。深押し操作に応じて、フリッカ検出部25がフリッカ成分のボトムのタイミングを識別する。例えば、フリッカ検出部25の周波数推定/ピーク検出ブロック60が、フリッカ成分の初期位相に基づいて、フリッカ成分のボトムのタイミングを識別する。フリッカ検出部25は、フリッカ成分のボトムのタイミングをシステムコントローラ14に通知する。
システムコントローラ14は、フリッカ成分のボトムのタイミング(本例では、タイミングTb)に露光タイミングを同期させた撮影を実行する。なお、図12に示す例では、静止画撮影に係る処理の遅延等を考慮して、タイミングTbからフリッカ成分の周期倍数分、時間的に後のタイミング(例えば、タイミングTc)に露光タイミングを同期させている。但し、処理的に間に合うのであればタイミングTbに露光タイミングを同期させても構わない。
フリッカ成分のボトムのタイミングに露光タイミングを同期させた撮影とは、例えば、露光時間内にフリッカ成分のボトムが含まれる撮影であり、より具体的には、露光時間の中心および幕速の中心が、フリッカ成分のボトムと一致または略一致するタイミングとすることである。略一致するとは、タイミングのずれが所定の誤差の範囲内であることを意味する。これにより図12中、露光量を示す斜線を付した四角形の重心(露光重心)がフリッカ成分のボトムと一致または略一致することになる。実際には、フリッカ成分のボトムがフリッカ光源の最も明るい箇所に対応することになる。すなわち、式(4)の場合には、フリッカ成分のボトムに露光タイミングを同期させることにより、フリッカレス撮影を実現することができる。
図13は、本撮影時における上述した処理をまとめた図である。フリッカ検出部25からシステムコントローラ14に対して、フリッカ光源の正しいピーク位置が供給される。システムコントローラ14は、フリッカ検出部25で検出されたフリッカ成分の周期(周波数の逆数)と、本撮影時における露光時間(シャッタスピード)とから、露光時間内に含まれる1周期分のフリッカ成分が偶数個または奇数個含まれているか、すなわち、上述した式(3)の場合または式(4)の場合であるかを判別する。
式(3)の場合には、フリッカ成分の位相が反転することがないので、システムコントローラ14は、フリッカ検出部25で検出されたフリッカ成分のピーク位置に露光タイミングを同期させる制御を行う。
式(4)の場合には、フリッカ成分の位相が反転するので、システムコントローラ14は、フリッカ成分のボトム位置に露光タイミングを同期させる制御を行う。これにより、結果として、フリッカ光源の最も明るいタイミングで撮影を行うことができる。
図14は、検出時におけるフリッカ成分のピーク位置の反転の有無と、本撮影のタイミングを同期させるタイミングとの関係をパターン化して示し、各パターンにおける処理を示した図である。パターン1、2は、検出時においてフリッカ成分の位相が反転しない(上述した式(1)に相当する)パターンである。パターン1、2では、フリッカ検出部25は、検出したフリッカ成分の位相をそのまま出力する。パターン1の場合は、本撮影時におけるフリッカ成分の位相が反転しない(上述した式(3)に相当する)パターンであるので、システムコントローラ14は、フリッカ検出部25から供給されたフリッカ成分のピーク位置に露光タイミングを同期させた本撮影を行う。パターン2の場合は、本撮影時におけるフリッカ成分の位相が反転する(上述した式(4)に相当する)パターンであるので、システムコントローラ14は、フリッカ検出部25から供給されたフリッカ成分のボトム位置に露光タイミングを同期させた本撮影を行う。
パターン3、4は、検出時においてフリッカ成分の位相が反転する(上述した式(2)に相当する)パターンである。パターン3、4では、フリッカ検出部25は、検出したフリッカ成分の位相を反転させて出力する。パターン3の場合は、本撮影時におけるフリッカ成分の位相が反転しない(上述した式(3)に相当する)パターンであるので、システムコントローラ14は、フリッカ検出部25から供給されたフリッカ成分のピーク位置に露光タイミングを同期させた本撮影を行う。パターン4の場合は、本撮影時におけるフリッカ成分の位相が反転する(上述した式(4)に相当する)パターンであるので、システムコントローラ14は、フリッカ検出部25から供給されたフリッカ成分のボトム位置に露光タイミングを同期させた本撮影を行う。以上の処理により、いずれのパターンにおいてもフリッカ光源の最も明るいタイミングでの撮影が可能となり、上述したフリッカレス撮影を実現することができる。
「露光時間の調整処理について」
上述したフリッカ成分の特性が反転する現象は、検出時および本撮影時における露光時間を調整することによって回避することができる。以下、この方法について説明する。
上述した式(1)〜(4)を例えば、下記のようにグループ化する。
グループ1:1周期に相当するフリッカ成分が露光時間内に偶数個含まれる(式(1)、式(3)に相当する)
グループ2:1周期に相当するフリッカ成分が露光時間内に奇数個含まれる(式(2)、式(4)に相当する)
そして、システムコントローラ14は、検出時の露光時間および本撮影時における露光時間が同一となるように、若しくは、同一のグループとなるように露光時間を調整する。なお、露光時間を調整する処理では、式(2)の場合でも、フリッカ検出部25は、フリッカ成分のピーク位置を補正(反転)せずにそのまま出力する。
グループ1の場合には、検出時においてフリッカ成分の位相は反転せず、且つ、本撮影時においてもフリッカ成分の位相は反転しない。したがって、上述したパターン1の処理と同様に、フリッカ検出部25から出力されるフリッカ成分のピーク位置に露光タイミングを同期させた本撮影がなされることで、フリッカ光源の最も明るいタイミングで撮影を行うことができる。
グループ2の場合には、検出時においてフリッカ成分の位相は反転し、且つ、本撮影時においてもフリッカ成分の位相が反転する。この場合には、上述したパターン4の処理と同様の処理が行われる。フリッカ検出部25の出力は補正されないので、フリッカ検出部25から出力されるフリッカ成分の見かけ上のピーク位置はフリッカ光源の最も暗い箇所に対応するものの、本撮影ではフリッカ成分の見かけ上のボトム位置、すなわちフリッカ光源の最も明るい箇所に露光タイミングを同期させた制御が行われる。これにより、フリッカ光源の最も明るいタイミングで本撮影を行うことができる。以上、説明したように、フリッカ成分の検出時における露光時間および本撮影時における露光時間を調整することにより、フリッカ成分の明暗の特性が反転する事象に対応することができる。
なお、調整する露光時間は、フリッカ成分の検出時における露光時間でもよいし、本撮影における露光時間でもよいし、両方の露光時間でもよい。モードの設定により本撮影時における露光時間を調整することができない場合には、露光時間を調整する処理を行わずに、上述したフリッカ成分の位相を適宜、反転させる処理を行うようにしてもよい。
<3.変形例>
なお、本開示は、以下のような構成も取ることができる。
(1)
画像に含まれる光源のフリッカ成分を検出するフリッカ検出部と、
前記フリッカ検出部による検出結果に応じて、撮像のタイミングを制御する制御部と
を有し、
前記制御部は、前記検出されたフリッカ成分のピークまたはボトムのタイミングに応じて、前記撮像のタイミングを制御する
撮像制御装置。
(2)
前記制御部は、前記フリッカ成分のピークまたはボトムのタイミングに加え前記撮像におけるセンサ部の露光時間に応じて、前記撮像のタイミングを制御する
(1)に記載の撮像制御装置。
(3)
前記制御部は、
前記センサ部の露光時間が前記フリッカ成分の周期の整数倍と一致せず、且つ、前記露光時間内に1周期に相当する前記フリッカ成分が奇数個含まれる場合に、前記検出されたフリッカ成分のボトムで前記撮像がなされるように制御し、
前記センサ部の露光時間が前記フリッカ成分の周期の整数倍と一致せず、且つ、前記露光時間内に1周期に相当する前記フリッカ成分が偶数個含まれる場合に、前記検出されたフリッカ成分のピークで前記撮像がなされるように制御する
(2)に記載の撮像制御装置。
(4)
前記制御部は、設定されたモードに基づいて前記センサ部の露光時間を判別する
(2)又は(3)に記載の撮像制御装置。
(5)
前記センサ部の露光時間内に前記フリッカ成分のピークまたはボトムが含まれる
(2)〜(4)の何れかに記載の撮像制御装置。
(6)
前記撮像のタイミングは、露光のタイミングである
(1)〜(5)の何れかに記載の撮像制御装置。
(7)
前記センサ部が撮像素子である
(1)〜(6)の何れかに記載の撮像制御装置。
(8)
撮像部を有する
(1)〜(7)の何れかに記載の撮像制御装置。
(9)
画像に含まれる光源のフリッカ成分を検出するフリッカ検出部を有し、
前記フリッカ検出部は、前記検出時におけるセンサ部の露光時間に応じて、検出したフリッカ成分の位相を反転させた情報を出力する
撮像制御装置。
(10)
前記フリッカ検出部は、
前記センサ部の露光時間が前記フリッカ成分の周期の整数倍と一致せず、且つ、前記露光時間内に1周期の前記フリッカ成分が奇数個含まれる場合に、前記検出したフリッカ成分の位相を反転させた情報を出力し、
前記センサ部の露光時間が前記フリッカ成分の周期の整数倍と一致せず、且つ、前記露光時間内に1周期の前記フリッカ成分が偶数個含まれる場合に、前記検出したフリッカ成分の位相をそのまま出力する
(9)に記載の撮像制御装置。
(11)
前記センサ部が撮像素子である
(9)又は(10)に記載の撮像制御装置。
(12)
フリッカ成分の検出時における第1センサ部の第1露光時間と撮像時における第2センサ部の第2露光時間とを制御する制御部を有し、
前記制御部は、1周期に相当する前記フリッカ成分が、第1露光時間内および前記第2露光時間内のそれぞれに、奇数個または偶数個含まれるように、且つ、前記フリッカ成分の周期の整数倍でないように、前記第1露光時間および前記第2露光時間の少なくとも一方を調整する
撮像制御装置。
(13)
前記制御部は、前記第1露光時間内に1周期に相当する前記フリッカ成分が奇数個含まれる場合には、前記第2露光時間内に1周期に相当する前記フリッカ成分が奇数個含まれるように当該第2露光時間を調整し、前記第1露光時間内に1周期に相当する前記フリッカ成分が偶数個含まれる場合には、前記第2露光時間内に1周期に相当する前記フリッカ成分が偶数個含まれるように当該第2露光時間を調整する
(12)に記載の撮像制御装置。
(14)
前記フリッカ成分を検出するフリッカ検出部を有し、
前記フリッカ検出部は、検出したフリッカ成分の情報をそのまま出力する
(13)に記載の撮像制御装置。
(15)
前記第1センサ部と前記第2センサ部とが同一の撮像素子である
(12)〜(14)の何れかに記載の撮像制御装置。
(16)
フリッカ検出部が、画像に含まれる光源のフリッカ成分を検出し、
制御部が、前記フリッカ成分の検出結果に応じて、撮像のタイミングを制御し、
前記制御部が、前記検出されたフリッカ成分のピークまたはボトムのタイミングに応じて、前記撮像のタイミングを制御する
撮像制御方法。
(17)
フリッカ検出部が、画像に含まれる光源のフリッカ成分を検出し、前記検出時におけるセンサ部の露光時間に応じて、検出したフリッカ成分の位相を反転させた情報を出力する
撮像制御方法。
(18)
制御部が、フリッカ成分の検出時における第1センサ部の第1露光時間と撮像時における第2センサ部の第2露光時間とを制御し、
前記制御部が、1周期に相当する前記フリッカ成分が、第1露光時間内および前記第2露光時間内のそれぞれに、奇数個または偶数個含まれるように、且つ、前記フリッカ成分の周期の整数倍でないように、前記第1露光時間および前記第2露光時間の少なくとも一方を調整する
撮像制御方法。
上述した実施形態では、画像に含まれるフリッカ成分を効果的に検出するためにフレームレートを高速化したが、高速化しなくてもよい。但し、フレームレートを高速化することにより、高フレームレートに基づく画像に基づく十分なサンプリング数によりフリッカ成分の周波数等が推定されるので、処理結果の精度を向上させることができる。
なお、フレームレートを高速化した結果シャッタスピードの範囲が制限される。シャッタスピードの範囲が制限されることにより、フリッカ成分の検出時において、フリッカ成分のピークを反転させる処理を省略することが可能となる。但し、本撮影時のシャッタスピードがフリッカ成分の1周期を跨ぐ場合には、上述したピーク反転処理が行われる。
本撮影時における露光時間は、撮像装置100に設定されたモードに基づいて判別されてもよい。例えば、マニュアルモードの場合には、ユーザによって設定されたシャッタスピードが露光時間となる。また、オートモードの場合には、撮像装置100(例えば、システムコントローラ14)により設定されたシャッタスピードが露光時間となる。
上述した実施形態では、準備操作の例として半押し操作を挙げたか、準備操作は、一定期間以上、撮像装置100を停止または略停止させる操作等、他の操作でもよい。
また、上述した実施形態は、フリッカ検出部25を含むデジタル信号処理部20をハードウェアによって構成する場合であるが、フリッカ検出部25またはデジタル信号処理部20の一部または全部をソフトウェアによって構成してもよい。
上述した実施形態では、フリッカが発生する光源として蛍光灯を例にして説明したが、蛍光灯に限定されるものではなく、周期性をもって明滅するものであれば他の光源(例えばLED)にも本開示を適用することができる。この場合、LEDの周波数を特定する処理を前段階として行ってもよい。
さらに、上述した実施形態は、CMOS撮像素子以外のXYアドレス走査型の撮像素子やローリングシャッタが適用される撮像素子を使用した撮像装置にも適用可能である。
上述した実施形態において、フリッカレス撮影に代えて、またはこれと共に、フリッカを低減するための公知の信号処理や他の処理が行われてもよい。
撮像制御装置の構成は、例えば、実施形態のように、システムコントローラ14およびデジタル信号処理部20を含む構成でもよいし、これらの構成に撮像部やその他の構成が含まれたものが撮像制御装置でもよいし、撮像装置の構成そのものが撮像制御装置であってもよい。
上述した実施形態における撮像装置は、医療用の機器やスマートフォン、コンピュータ装置、ゲーム機器、ロボット、防犯カメラ、移動体(電車、飛行機、ヘリコプター、小型飛行体等)に組み込まれていてもよい。
以上、本開示の実施形態について具体的に説明したが、上述の各実施形態に限定されるものではなく、本開示の技術的思想に基づく各種の変形が可能である。例えば、上述の実施形態において挙げた構成、方法、工程、形状、材料および数値などはあくまでも例に過ぎず、必要に応じてこれと異なる構成、方法、工程、形状、材料および数値などを用いてもよい。上述した実施形態および変形例を実現するための構成が適宜、追加されてもよい。また、装置に限らず、方法、プログラム、プログラムが記録された記録媒体等、任意の形態によって本開示を実現することができる。
100・・・撮像装置
11・・・撮像光学系
12・・・CMOS撮像素子
14・・・システムコントローラ
20・・・デジタル信号処理部
25,25R、25G,25B・・・フリッカ検出部

Claims (7)

  1. 画像に含まれる光源のフリッカ成分を検出するフリッカ検出部と、
    前記フリッカ検出部による検出結果に応じて、撮像のタイミングを制御する制御部と
    を有し、
    前記制御部は、
    前記フリッカ成分のピークまたはボトムのタイミングに加え、前記撮像におけるセンサ部の露光時間に応じて前記撮像のタイミングを制御し、
    さらに、前記制御部は、
    前記センサ部の露光時間が前記フリッカ成分の周期の整数倍と一致せず、且つ、前記露光時間内に1周期に相当する前記フリッカ成分が奇数個含まれる場合に、前記検出されたフリッカ成分のボトムで前記撮像がなされるように制御し、
    前記センサ部の露光時間が前記フリッカ成分の周期の整数倍と一致せず、且つ、前記露光時間内に1周期に相当する前記フリッカ成分が偶数個含まれる場合に、前記検出されたフリッカ成分のピークで前記撮像がなされるように制御する
    撮像制御装置。
  2. 前記制御部は、設定されたモードに基づいて前記センサ部の露光時間を判別する
    請求項に記載の撮像制御装置。
  3. 前記センサ部の露光時間内に前記フリッカ成分のピークまたはボトムが含まれる
    請求項1または2に記載の撮像制御装置。
  4. 前記撮像のタイミングは、露光のタイミングである
    請求項1からまでの何れかに記載の撮像制御装置。
  5. 前記センサ部が撮像素子である
    請求項1から4までの何れかに記載の撮像制御装置。
  6. フリッカ検出部が、画像に含まれる光源のフリッカ成分を検出し、
    制御部が、前記フリッカ成分の検出結果に応じて、撮像のタイミングを制御し、
    前記制御部は、
    前記フリッカ成分のピークまたはボトムのタイミングに加え、前記撮像におけるセンサ部の露光時間に応じて前記撮像のタイミングを制御し、
    さらに、前記制御部は、
    前記センサ部の露光時間が前記フリッカ成分の周期の整数倍と一致せず、且つ、前記露光時間内に1周期に相当する前記フリッカ成分が奇数個含まれる場合に、前記検出されたフリッカ成分のボトムで前記撮像がなされるように制御し、
    前記センサ部の露光時間が前記フリッカ成分の周期の整数倍と一致せず、且つ、前記露光時間内に1周期に相当する前記フリッカ成分が偶数個含まれる場合に、前記検出されたフリッカ成分のピークで前記撮像がなされるように制御する
    撮像制御方法。
  7. 撮像部と、
    画像に含まれる光源のフリッカ成分を検出するフリッカ検出部と、
    前記フリッカ検出部による検出結果に応じて、撮像のタイミングを制御する制御部と
    を有し、
    前記制御部は、
    前記フリッカ成分のピークまたはボトムのタイミングに加え、前記撮像におけるセンサ部の露光時間に応じて前記撮像のタイミングを制御し、
    さらに、前記制御部は、
    前記センサ部の露光時間が前記フリッカ成分の周期の整数倍と一致せず、且つ、前記露光時間内に1周期に相当する前記フリッカ成分が奇数個含まれる場合に、前記検出されたフリッカ成分のボトムで前記撮像がなされるように制御し、
    前記センサ部の露光時間が前記フリッカ成分の周期の整数倍と一致せず、且つ、前記露光時間内に1周期に相当する前記フリッカ成分が偶数個含まれる場合に、前記検出されたフリッカ成分のピークで前記撮像がなされるように制御する
    撮像装置。
JP2018539536A 2016-09-14 2017-07-06 撮像制御装置、撮像制御方法および撮像装置 Active JP6950698B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016179441 2016-09-14
JP2016179441 2016-09-14
PCT/JP2017/024754 WO2018051615A1 (ja) 2016-09-14 2017-07-06 撮像制御装置および撮像制御方法

Publications (2)

Publication Number Publication Date
JPWO2018051615A1 JPWO2018051615A1 (ja) 2019-06-24
JP6950698B2 true JP6950698B2 (ja) 2021-10-13

Family

ID=61620045

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018539536A Active JP6950698B2 (ja) 2016-09-14 2017-07-06 撮像制御装置、撮像制御方法および撮像装置

Country Status (5)

Country Link
US (1) US10972677B2 (ja)
EP (1) EP3515059B1 (ja)
JP (1) JP6950698B2 (ja)
CN (1) CN109661807A (ja)
WO (1) WO2018051615A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3474544B1 (en) * 2016-06-15 2023-06-28 Sony Group Corporation Image processing device, image processing method, and program
US10694112B2 (en) * 2018-01-03 2020-06-23 Getac Technology Corporation Vehicular image pickup device and image capturing method
CN110536073B (zh) * 2018-05-25 2021-05-11 神讯电脑(昆山)有限公司 车用取像装置及影像撷取方法
CN110536072A (zh) * 2018-05-25 2019-12-03 神讯电脑(昆山)有限公司 车用取像装置及影像撷取方法
US11012634B2 (en) 2018-06-29 2021-05-18 Canon Kabushiki Kaisha Image pickup apparatus capable of performing image pickup with reduced flicker influence, method for controlling the same, and storage medium
JP6816210B2 (ja) * 2018-06-29 2021-01-20 キヤノン株式会社 撮像装置およびその制御方法、プログラム
US20200021730A1 (en) * 2018-07-12 2020-01-16 Getac Technology Corporation Vehicular image pickup device and image capturing method
US11196940B2 (en) 2018-10-10 2021-12-07 Johnson Controls Tyco IP Holdings LLP Systems and methods of eliminating video flicker caused by LED duty cycling to maintain brightness and control power consumption
CN112532888B (zh) * 2019-09-19 2022-10-04 杭州海康慧影科技有限公司 一种抑制图像横纹现象的方法及装置
JP2022129925A (ja) * 2021-02-25 2022-09-06 キヤノン株式会社 撮像装置、その制御方法およびプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004200885A (ja) * 2002-12-17 2004-07-15 Matsushita Electric Ind Co Ltd 電子機器搭載型撮像装置
GB0323767D0 (en) * 2003-10-10 2003-11-12 Koninkl Philips Electronics Nv Electroluminescent display devices
JP4626689B2 (ja) 2008-08-26 2011-02-09 ソニー株式会社 撮像装置、補正回路および補正方法
CN101567977B (zh) * 2009-06-09 2013-09-18 北京中星微电子有限公司 一种闪烁检测方法及其装置
JP5625371B2 (ja) * 2010-01-29 2014-11-19 ソニー株式会社 画像処理装置、および信号処理方法、並びにプログラム
JP2013121099A (ja) * 2011-12-08 2013-06-17 Sony Corp 画像処理装置、および画像処理方法、並びにプログラム
US9648249B2 (en) * 2013-11-20 2017-05-09 Canon Kabushiki Kaisha Image capturing apparatus, method of controlling the same, and storage medium
JP6456038B2 (ja) * 2014-04-23 2019-01-23 キヤノン株式会社 電子機器、光量変化特性の算出方法、プログラム及び記憶媒体
JP6370134B2 (ja) 2014-07-02 2018-08-08 キヤノン株式会社 撮像装置、その制御方法、および制御プログラム

Also Published As

Publication number Publication date
US10972677B2 (en) 2021-04-06
US20190199906A1 (en) 2019-06-27
WO2018051615A1 (ja) 2018-03-22
CN109661807A (zh) 2019-04-19
EP3515059A1 (en) 2019-07-24
JPWO2018051615A1 (ja) 2019-06-24
EP3515059A4 (en) 2019-10-30
EP3515059B1 (en) 2021-06-16

Similar Documents

Publication Publication Date Title
JP6950698B2 (ja) 撮像制御装置、撮像制御方法および撮像装置
US10771713B2 (en) Imaging control device, imaging control method, and program
JP4371108B2 (ja) 撮像装置および方法、記録媒体、並びにプログラム
JP2010114834A (ja) 撮像装置
JP2009212627A (ja) 画像処理装置、フリッカ低減方法、撮像装置及びフリッカ低減プログラム
JP6244062B2 (ja) 撮影装置、撮影装置本体、及び撮影装置の制御方法
JP6911850B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2004193922A (ja) カメラ装置
JP5440245B2 (ja) 撮像装置
JP2012119788A (ja) 撮影装置、画像処理装置、撮影方法及び画像処理方法
EP4280590A1 (en) Imaging device, imaging control method, and program
JPH1169217A (ja) 電子カメラ及びその電子シャッター制御方法
JP2016134753A (ja) 画像処理装置、情報処理方法及びプログラム
WO2022172639A1 (ja) 撮像装置、撮像方法、プログラム
US10848684B2 (en) Imaging control device, imaging control method, and imaging system
JP2013255005A (ja) 電子カメラ
JP5631084B2 (ja) 画像記録装置
WO2021038692A1 (ja) 撮像装置、撮像方法、および映像処理プログラム
JP2005286427A (ja) 撮像装置および合焦方法、制御プログラム、記録媒体
JP2006050308A (ja) 撮像装置
JP2001061097A (ja) 撮像装置
JP2013211863A (ja) 撮像装置及び撮像装置の制御方法
JP2012070221A (ja) 撮像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200508

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200508

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210629

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210802

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210824

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210906

R151 Written notification of patent or utility model registration

Ref document number: 6950698

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151