JP2018148512A - 撮像装置と撮像装置の制御方法、及びプログラム - Google Patents
撮像装置と撮像装置の制御方法、及びプログラム Download PDFInfo
- Publication number
- JP2018148512A JP2018148512A JP2017044586A JP2017044586A JP2018148512A JP 2018148512 A JP2018148512 A JP 2018148512A JP 2017044586 A JP2017044586 A JP 2017044586A JP 2017044586 A JP2017044586 A JP 2017044586A JP 2018148512 A JP2018148512 A JP 2018148512A
- Authority
- JP
- Japan
- Prior art keywords
- image
- pixel
- image sensor
- imaging
- timing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Cameras In General (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
【課題】歪みの少ない高画質な画像を生成可能にすることを課題とする。【解決手段】カメラ(100)は、光学系により形成される同光学像を撮像可能に配置された第一撮像素子(105)及び第二撮像素子(106)を有する。第一撮像制御部(180)は第一撮像素子(105)をローリングシャッタ駆動させ、第二撮像制御部(181)は第二撮像素子(106)をグローバル電子シャッタ駆動させ、第一撮像制御部(180)と第二撮像制御部(181)は第一撮像素子(105)と第二撮像素子(106)の露光時間が重なるように制御する。映像信号処理部(121)は、第一撮像素子(105)にて撮像された第一画像を、第二撮像素子(106)にて撮像された第二画像に基づいて補正する。【選択図】図1
Description
本発明は、画像を撮像する撮像装置とその制御方法及びプログラム、画像処理装置、画像処理方法及びプログラムに関する。
画像を撮像する撮像装置では、メカニカルシャッタによる音や振動によるブレを防止するため、電子シャッタを使用して撮影を行うことがある。しかし、電子シャッタの一つであるローリングシャッタで撮像が行われた場合、撮像素子の水平方向の各ラインにおいて露光のタイミングがそれぞれ時間的に異なるため、例えば動体を撮影した際に、画像に歪みが生じることがある。この歪みは、ローリングシャッタ歪みと呼ばれている。
一方、特許文献1には、二つ撮像素子を備え、ローリングシャッタを使用してそれぞれの撮像素子で撮像する撮像装置が開示されている。特許文献1の撮像装置では、二つの撮像素子の読み出し方向を反対向きにして読み出した2つの画像を合成することにより、ローリングシャッタ歪みを補正するようにしている。
また、特許文献2には、一つの撮像素子でメカニカルシャッタと電子シャッタを使用して複数の画像を撮像する撮像装置が開示されている。特許文献2の撮像装置では、メカニカルシャッタで撮像したローリングシャッタ歪みのない画像と、電子シャッタで撮像したローリングシャッタ歪みのある画像とを合成することにより、良質の画像を生成可能としている。
また、特許文献2には、一つの撮像素子でメカニカルシャッタと電子シャッタを使用して複数の画像を撮像する撮像装置が開示されている。特許文献2の撮像装置では、メカニカルシャッタで撮像したローリングシャッタ歪みのない画像と、電子シャッタで撮像したローリングシャッタ歪みのある画像とを合成することにより、良質の画像を生成可能としている。
特許文献1に記載の撮像装置は、2つの撮像素子で撮像した画像を合成することにより、ローリングシャッタ歪みをある程度補正することが可能である。しかしながら、2つの撮像素子ではそれぞれローリングシャッタによる撮影がなされるため、それぞれの画像にはローリングシャッタ歪みが生じており、それら画像を合成しても、ある程度の歪みが残ってしまい、高画質な画像が得られない。
特許文献2に記載の撮像装置の場合、メカニカルシャッタで撮像した画像にはローリングシャッタ歪みはないが、一つの撮像素子で複数回の撮影を行うため、撮影開始時刻が異なる画像を合成することによる時間的な画像のずれが生じてしまう。また、電子シャッタで撮影した画像には、やはりローリングシャッタ歪みが生じているため、メカニカルシャッタで撮影した画像と合成しても、やはりある程度の歪みが残ってしまい、高画質な画像が得られない。
特許文献2に記載の撮像装置の場合、メカニカルシャッタで撮像した画像にはローリングシャッタ歪みはないが、一つの撮像素子で複数回の撮影を行うため、撮影開始時刻が異なる画像を合成することによる時間的な画像のずれが生じてしまう。また、電子シャッタで撮影した画像には、やはりローリングシャッタ歪みが生じているため、メカニカルシャッタで撮影した画像と合成しても、やはりある程度の歪みが残ってしまい、高画質な画像が得られない。
そこで、本発明は、歪みの少ない高画質な画像を生成可能にすることを目的とする。
本発明は、光学系により形成される同光学像を撮像可能に配置された第一の撮像素子及び第二の撮像素子と、前記第一の撮像素子をローリングシャッタ駆動させ、前記第二の撮像素子をグローバル電子シャッタ駆動させる制御手段と、前記第一の撮像素子により撮像された第一の画像を補正する補正手段と、を有し、前記制御手段は、前記第一の撮像素子と前記第二の撮像素子との露光時間が重なるように、前記第一の撮像素子と前記第二の撮像素子を制御し、前記補正手段は、前記第一の撮像素子にて撮像された第一の画像を、前記第二の撮像素子にて撮像された第二の画像に基づいて補正することを特徴とする。
本発明によれば、歪みの少ない高画質な画像を生成可能となる。
以下、図面を参照しながら、本発明の実施形態を詳細に説明する。
本実施形態の撮像装置は、例えば、デジタルカメラやデジタルビデオカメラ、カメラ機能を備えたスマートフォンやタブレット端末などの各種携帯端末、工業用カメラ、車載カメラ、医療用カメラなどの各種カメラに適用可能である。本実施形態の撮像装置は、二つの撮像素子を備え、電子シャッタで撮像する際のローリングシャッタ歪みの補正が可能となされている。
本実施形態の撮像装置は、例えば、デジタルカメラやデジタルビデオカメラ、カメラ機能を備えたスマートフォンやタブレット端末などの各種携帯端末、工業用カメラ、車載カメラ、医療用カメラなどの各種カメラに適用可能である。本実施形態の撮像装置は、二つの撮像素子を備え、電子シャッタで撮像する際のローリングシャッタ歪みの補正が可能となされている。
<第一の実施形態>
図1は、第一の実施形態に係る撮像装置の一例としてのカメラ100の概略構成例を示したブロック図である。カメラ100は、カメラ100内の撮像素子の撮像面上に被写体等の光学像を形成するレンズ101と、該レンズ101を着脱可能なカメラ本体とからなる、レンズ交換可能なカメラであるとする。なお、本発明が適用される撮像装置は、レンズ交換可能なカメラ100だけではなく、例えばレンズ101とカメラ本体とが一体構造となっているカメラであってもよい。
図1は、第一の実施形態に係る撮像装置の一例としてのカメラ100の概略構成例を示したブロック図である。カメラ100は、カメラ100内の撮像素子の撮像面上に被写体等の光学像を形成するレンズ101と、該レンズ101を着脱可能なカメラ本体とからなる、レンズ交換可能なカメラであるとする。なお、本発明が適用される撮像装置は、レンズ交換可能なカメラ100だけではなく、例えばレンズ101とカメラ本体とが一体構造となっているカメラであってもよい。
レンズ101は、フォーカスレンズやズームレンズなどを含む複数のレンズからなるレンズ群と、絞りとを有した光学系であり、入射した被写体等の光学像を、ハーフミラー103を介して第一撮像素子105及び第二撮像素子106の両撮像面上に形成する。図1の構成例の場合、第一撮像素子105の撮像面上にはハーフミラー103を透過した光学像が形成され、第二撮像素子106の撮像面上にはハーフミラー103により反射された光学像が形成される。なお、第二撮像素子106は、ハーフミラー103の反射光方向に撮像面が配置されているとする。すなわち、第一撮像素子105と第二撮像素子106は、レンズ101の光学系により形成される同光学像を撮像可能に配置されている。また、レンズ101は、カメラ本体に設けられているレンズマウント102により、カメラ本体に対して着脱可能となされている。レンズ制御部141は、レンズ101の駆動制御部であり、レンズ101のズームレンズ、フォーカスレンズ、絞り等の駆動とその制御を行う。
シャッタ104は、静止画撮影時に露出時間を調節するフォーカルプレーンシャッタである。本実施形態の場合、シャッタ104は、例えばタイミング発生部142からのシャッタ開閉タイミング信号により開閉駆動及び開成時間が調整される。そして、シャッタ104の開成時間が制御されることにより、第一撮像素子105の露出時間が調整される。
第一撮像素子105は、CMOS撮像素子等で構成される光電変換素子である。本実施形態の第一撮像素子105は、ローリングシャッタ機能を備えており、第一撮像制御部180によりローリングシャッタ駆動の制御が行われる。第一撮像素子105は、レンズ101を介し、更にハーフミラー103を透過して撮像面上に形成された被写体等の光学像を光電変換し、その光電変換によるアナログ画像信号をデジタル画像データに変換して、映像信号処理部121に出力する。なお、第一撮像素子105は、ローリングシャッタ駆動による静止画撮影や動画撮影が可能となされている。
第二撮像素子106は、CMOS撮像素子等で構成される光電変換素子である。本実施形態の第二撮像素子106は、グローバル電子シャッタ機能を備えており、第二撮像制御部181によりグローバル電子シャッタ駆動の制御が行われる。第二撮像素子106は、レンズ101を介し、ハーフミラー103で反射されて撮像面上に形成された被写体等の光学像を光電変換し、その光電変換によるアナログ画像信号をデジタル画像データに変換して、映像信号処理部121に出力する。
ここで、電子シャッタの一つであるグローバル電子シャッタの場合、全画素のリセットと露光のタイミングが時間的に一致するため、ローリングシャッタの場合のような画像の歪みは発生しない。ただし、グローバル電子シャッタを搭載すると画素の開口率が下がるため、1画素のサイズを大きくしなければならず、1画素のサイズを大きくすると回路規模の増加や撮像素子自体の構成が複雑になってしまう。このため、本実施形態の場合、第二撮像素子106は、回路規模を増加させずにグローバル電子シャッタ駆動を行えるように、第一撮像素子105よりも画素数が少ない撮像素子となされている。そして、第二撮像素子106は、グローバル電子シャッタ駆動による静止画撮影や動画撮影が可能となされている。
第一撮像制御部180は、第一撮像素子105の駆動制御部である。本実施形態の第一撮像制御部180は、第一撮像素子105に対し、水平ライン順に画素の露光を開始させ、さらに水平ライン順に順次光電変換された画像信号を読み出すようなローリングシャッタ駆動とその制御を行う。なお、本実施形態の第一撮像素子105において、ローリングシャッタ駆動により例えば静止画撮影が行われる際の水平ライン毎の露光開始及び水平ライン毎の画像信号の読み出しの詳細については後述する。
第二撮像制御部181は、第二撮像素子106の駆動制御部である。本実施形態の第二撮像制御部181は、第二撮像素子106を制御して全画素を一括して露光させ、光電変換された画像信号を読み出すようなグローバル電子シャッタ駆動とその制御を行う。なお、本実施形態の第二撮像素子106において、グローバル電子シャッタ駆動により例えば静止画撮影が行われる際の全画素の一括露光及び読み出しの詳細については後述する。
図2は、映像信号処理部121の詳細な構成例を示す図である。
映像信号処理部121は、第一画像補正部201、第一現像処理部202、第一焦点検出部203、第一露出検出部204、第二画像補正部205、第二現像処理部206、第二焦点検出部207、第二露出検出部208を有している。また、映像信号処理部121は、メモリインターフェイス209、静止画エンコード処理部210、動画エンコード処理部211を有している。
映像信号処理部121は、第一画像補正部201、第一現像処理部202、第一焦点検出部203、第一露出検出部204、第二画像補正部205、第二現像処理部206、第二焦点検出部207、第二露出検出部208を有している。また、映像信号処理部121は、メモリインターフェイス209、静止画エンコード処理部210、動画エンコード処理部211を有している。
第一画像補正部201は、第一撮像素子105から供給された画像データに対し、デジタルゲイン処理やレンズ101の光学特性の補正処理等の各種処理を行い、その補正後の画像データを出力する。第一現像処理部202は、第一画像補正部201による補正後の画像データに対し、ホワイトバランス、色補間、色補正、γ変換、エッジ強調、解像度変換、ノイズ低減処理等の現像処理を行う。第一現像処理部202による現像処理後の画像データは、メモリインターフェイス209から、バス150を介してメモリ132に送られて一時的に記憶される。
第一焦点検出部203は、第一画像補正部201から出力された画像のコントラスト解析を行う。第一焦点検出部203による解析データは、メモリインターフェイス209からバス150を介してメモリ132に送られて一時的に記憶された後、レンズ制御部141により読み出されてオートフォーカス制御に利用される。第一露出検出部204は、第一画像補正部201から出力された画像の明るさ解析を行う。第一露出検出部204による解析データは、メモリインターフェイス209からバス150を介してメモリ132に一時的に記憶される。その後、メモリ132に記憶された解析データは、CPU131により読み出され、タイミング発生部142を介して第一撮像制御部180に送られて、第一撮像素子105の露光制御に利用される。
第二画像補正部205は、第二撮像素子106から供給された画像データに対し、第一画像補正部201と同様に光学特性の補正等の各種処理を行い、その補正後の画像データを出力する。第二現像処理部206は、第二画像補正部205による補正後の画像データに対し、第一現像処理部202と同様の現像処理を行う。なお、第二撮像素子106で動画撮像が行われる場合には、第二現像処理部206におけるノイズ低減等の処理は動画に適した処理となされる。第二現像処理部206による現像処理後の画像データは、メモリインターフェイス209から、バス150を介してメモリ132に送られて一時的に記憶される。
第二焦点検出部207、第二露出検出部208は、それぞれ第一焦点検出部203、第一露出検出部204と同様の処理を行う。第二露出検出部208による解析データは、メモリ132に一時的に記憶される。その後、メモリ132に記憶された解析データは、CPU131により読み出され、タイミング発生部142を介して第二撮像制御部181に送られて、第二撮像素子106の露光制御に利用される。なお、第二焦点検出部207による解析データは、例えば第二撮像素子106による動画撮像が行われていて、第一撮像素子105での撮像が行われていない場合に、レンズ制御部141により読み出されてオートフォーカス制御等に利用される。
静止画エンコード処理部210は、メモリインターフェイス209を介してメモリ132から画像データを読み出し、その画像データに対し、いわゆるJPEG等に代表される画像圧縮処理を行う。この圧縮画像データは、メモリインターフェイス209を介しメモリ132に一時的に記憶される。
動画エンコード処理部211は、例えば動画撮像が行われた場合の動画データを、メモリインターフェイス209を介してメモリ132から読み出し、その動画データに対し、H.264規格などに代表される圧縮処理を行う。この圧縮動画データは、メモリインターフェイス209を介しメモリ132に一時的に記憶される。
動画エンコード処理部211は、例えば動画撮像が行われた場合の動画データを、メモリインターフェイス209を介してメモリ132から読み出し、その動画データに対し、H.264規格などに代表される圧縮処理を行う。この圧縮動画データは、メモリインターフェイス209を介しメモリ132に一時的に記憶される。
図1の構成に説明を戻す。メモリ132は、映像信号処理部121による処理後の画像データの他、CPU131が各種処理を行う際の各種データについても一時的に記憶する。不揮発性メモリ133は、CPU131が実行するプログラムデータを保持する。CPU131が実行するプログラムデータには、本実施形態のカメラ100の各部をCPU131が制御する際の制御プログラムである。なお、プログラムには、本実施形態に係る画像処理をCPU131が実行する場合の画像処理プログラムが含まれていてもよい。
タイミング発生部142は、第一撮像素子105、第二撮像素子106の撮像動作に使用される撮像タイミング信号を発生する。撮像タイミング信号には、撮像素子の撮像開始から撮影終了までの露出時間を決めるタイミング信号、後述する同期信号などの各種信号が含まれる。また、タイミング発生部142は、シャッタ104に対するシャッタ開閉タイミング信号も発生する。さらに、タイミング発生部142は、映像信号処理部121が映像信号処理を行う際の制御タイミング、表示部153に映像を表示させる際の表示タイミング信号も発生する。なお、タイミング発生部142が発生する同期信号は、第一撮像制御部180と第二撮像制御部181に送られると共にCPU131にも送られる。同期信号の詳細については後述する。
バス150には、前述したレンズ制御部141、タイミング発生部142、映像信号処理部121、メモリ132、CPU131、表示制御部151が接続されている。また、バス150には、電源部110、不揮発性メモリ133、カード入出力部171、動画記録開始/終了ボタン165、メインスイッチ161、第一レリーズスイッチ162、第二レリーズスイッチ163、カード入出力部171等も接続されている。
電源部110は、バス150を介してカメラ100の内部に設けられている各回路に電源供給を行う。
電源部110は、バス150を介してカメラ100の内部に設けられている各回路に電源供給を行う。
表示制御部151は、メモリ132に記憶されている画像データを、バス150を介して受け取り、その画像データから表示用の画像データを生成する。表示用の画像データは、D/A変換部152により表示用のアナログ映像信号へと変換されて、表示部153に送られる。表示部153は、TFT素子などの液晶表示素子を有した表示装置であり、表示用のアナログ映像信号に基づいて液晶表示素子が駆動されることにより、映像の表示を行う。また、D/A変換部152は、ビデオ出力端子154やマルチメディアインターフェイス規格に対応した出力端子155にも接続されている。これにより、それら出力端子154、155を介して、不図示の外部表示装置等へも画像の出力が可能となる。なお、メモリ132内で表示用の画像データが記憶される領域はVRAMと呼ばれ、表示制御部151は、メモリ132のVRAMから画像データを読み出して、前述した表示用の画像データを生成する。また、表示制御部151は、動画を構成する各フレームのタイミング毎にメモリ132のVRAMから順次画像データを読み出して、表示部153に表示する画像を更新することにより、動画表示を行わせることも可能である。
カードスロット172は、メモリカード等の記録媒体173が着脱可能となされている。記録媒体173は、カードスロット172に差し込まれた状態でカード入出力部171と電気的に接続される。カード入出力部171は、CPU131による制御の下、メモリ132から読み出された画像データを記録媒体173へ記録、又は、記録媒体173に記録されているデータを読み出してメモリ132へ送る。
CPU131は、バス150を介して、上述したカメラ100内の各部と接続されており、カメラ100内の各部を統括的に制御する制御部である。また、CPU131は、レンズ制御部141、映像信号処理部121、表示制御部151、タイミング発生部142に対し、それぞれに接続されている各構成への制御を指示する。例えば、CPU131は、タイミング発生部142に対し、第一撮像制御部180と第二撮像制御部181へ送る撮像タイミング信号等を発生させる制御指示を送ることにより、第一撮像制御部180と第二撮像制御部181を制御する。また、CPU131は、タイミング発生部142に対し、シャッタ104へのシャッタ開閉タイミング信号を発生させる制御指示を送ることにより、シャッタ104の開閉駆動及び開成時間を制御する。また、CPU131は、映像信号処理部121に対しては図2の各部の制御指示を送り、レンズ制御部141に対してはレンズ101の駆動や絞りの駆動制御指示を送ることでレンズ101の駆動や絞りの駆動を制御する。また、CPU131は、表示制御部151に対しては表示部153等の動作の制御指示を送ることで、表示部153の表示動作を制御する。
以下、説明を簡略にするため、CPU131が各制御部等へ制御指示を送ることについての記載は適宜省略することとする。また、本実施形態では、CPU131が各制御部や各処理部に制御指示を送る例を挙げたが、上述した各制御部や各処理部等を用いず、CPU131がカメラ100内の各部を直接制御、駆動するような構成であってもよい。また、CPU131が制御を指示するのではなく、上述した各制御部や各処理部がそれぞれ連動して自ら処理(制御)を行うような構成であってもよい。
第一レリーズスイッチ162は、不図示のレリーズボタンが第一ストローク状態(いわゆる半押し状態)のときにオンとなるスイッチである。以下、レリーズボタンが第一ストローク状態(半押し状態)になっていて第一レリーズスイッチ162がオンになっている状態を、SW1半押し状態と表記する。SW1半押し状態のとき、CPU131は、カメラ100の各部を撮影準備状態に制御する。撮影準備状態とは、レンズ制御部141によるレンズ101の駆動制御によって前述したフォーカス、ズーム、絞りなどの制御が、必要に応じて実行される状態である。また、本実施形態の場合、CPU131は、SW1半押し状態のときには、タイミング発生部142を介したシャッタ開閉タイミング信号により、シャッタ104を開成状態に駆動させてその状態を維持させる。なお、CPU131は、メインスイッチ161がオンになされた時点でシャッタ104を開成状態に駆動させてその状態を維持させてもよい。
第二レリーズスイッチ163は、不図示のレリーズボタンが第二ストローク状態(いわゆる全押し状態)のときにオンとなるスイッチである。以下、レリーズボタンが第二ストローク状態(全押し状態)になり第二レリーズスイッチ163がオンになった状態を、SW2全押し状態と表記する。SW2全押し状態になったとき、CPU131は、カメラ100の各部を制御して撮影を開始させる。本実施形態の場合、SW2全押し状態になると、CPU131は、タイミング発生部142から撮像タイミング信号を出力させて第一撮像制御部180の撮像制御を開始させて、第一撮像素子105にローリングシャッタ駆動による撮像を実行させる。
以下、前述した図1、図2の構成を有する本実施形態のカメラ100の基本動作について説明する。
先ず、ユーザによりメインスイッチ161がオンされることで、電源部110は、カメラ100の各部へ電力を供給する。カメラ100の各部に電力供給が開始されると、CPU131は、タイミング発生部142を介し、さらに第二撮像制御部181を介して、第二撮像素子106のグローバル電子シャッタ駆動を開始させる。これにより、第二撮像素子106は、レンズ101により撮像面上に形成されている光学像を、グローバル電子シャッタ駆動により定期的(例えば1秒間に60回)に撮像する。第二撮像素子106により定期的に撮像された画像データは映像信号処理部121に送られ、そして、映像信号処理部121により処理された画像データは、メモリ132のVRAMに格納される。
先ず、ユーザによりメインスイッチ161がオンされることで、電源部110は、カメラ100の各部へ電力を供給する。カメラ100の各部に電力供給が開始されると、CPU131は、タイミング発生部142を介し、さらに第二撮像制御部181を介して、第二撮像素子106のグローバル電子シャッタ駆動を開始させる。これにより、第二撮像素子106は、レンズ101により撮像面上に形成されている光学像を、グローバル電子シャッタ駆動により定期的(例えば1秒間に60回)に撮像する。第二撮像素子106により定期的に撮像された画像データは映像信号処理部121に送られ、そして、映像信号処理部121により処理された画像データは、メモリ132のVRAMに格納される。
また、CPU131は、メモリ132のVRAMから読み出した画像データを、表示制御部151に送って表示用の画像データに変換させる。表示制御部151から出力された表示用の画像データは、D/A変換部152によりアナログ映像信号に変換されて表示部153に送られる。これにより、表示部153には、第二撮像素子106にて逐次撮像されている画像データに基づく動画が表示される。このような動画の表示は、いわゆるライブビュー表示と呼ばれている。なお、ライブビュー表示中に、ユーザにより動画記録開始/終了ボタン165を介して記録開始の指示が入力されると、CPU131は、映像信号処理部121の動画エンコード処理部211による動画圧縮処理を行わせる。そして、CPU131は、その圧縮処理された動画データを、カード入出力部171を介して記録媒体173に記録させる。一方、動画データの記録中に、ユーザにより動画記録開始/終了ボタン165を介して記録終了の指示が入力されると、CPU131は、動画エンコード処理部211による動画圧縮処理を終了させるとともに記録媒体173への記録も終了させる。
次に、前述のようなライブビュー表示中に、ユーザによりレリーズボタンがSW1半押し状態になされると、CPU131は、前述した撮影準備状態となるようにカメラ100の各部を制御する。また、CPU131は、SW1半押し状態である場合、タイミング発生部142を介してシャッタ104を開成状態に駆動させてその状態を維持させるように制御する。
その後、ユーザによりレリーズボタンがSW2全押し状態になされると、CPU131は、前述したようにカメラ100の各部を制御して撮影を開始させる。この場合、CPU131は、タイミング発生部142を介し、さらに第一撮像制御部180を介して、第一撮像素子105のローリングシャッタ駆動を開始させて静止画の撮像を行わせる。これにより、第一撮像素子105からは、レンズ101により撮像面上に形成されている光学像がローリングシャッタ駆動により撮像された静止画の画像データが出力される。第一撮像素子105により撮像された静止画の画像データは映像信号処理部121に送られ、そして、映像信号処理部121により処理された画像データは、メモリ132のVRAMに格納される。以上が、本実施形態におけるカメラ100の基本的な動作である。
ここで、本実施形態の場合、シャッタ104は、前述したようにレリーズボタンがSW1半押し状態になった時点で開成状態になされ、その状態が維持される。このため、その後、レリーズボタンがSW2全押し状態になって第一撮像素子105による静止画の撮像が行われる際に、シャッタ104の開閉動作は行われない。したがって、第一撮像素子105により静止画撮影が行われた際には、シャッタ104の開閉動作による音や振動が撮影画像に影響(ブレ等)を及ぼすことは殆ど無い。
また、本実施形態の場合、レリーズボタンがSW2全押し状態になされて第一撮像素子105による静止画の撮像が行われる際には、第一撮像素子105と第二撮像素子106の両露光時間が重なるように、それら撮像素子の露光タイミングが制御される。そして、本実施形態のカメラ100は、第一撮像素子105でローリングシャッタ駆動により撮像された画像データを、第二撮像素子106のグローバル電子シャッタ駆動により撮像された画像データに基づいて補正する。これにより、本実施形態のカメラ100は、ローリングシャッタ歪みの少ない高品質な静止画像の生成を可能としている。
また、本実施形態の場合、レリーズボタンがSW2全押し状態になされて第一撮像素子105による静止画の撮像が行われる際には、第一撮像素子105と第二撮像素子106の両露光時間が重なるように、それら撮像素子の露光タイミングが制御される。そして、本実施形態のカメラ100は、第一撮像素子105でローリングシャッタ駆動により撮像された画像データを、第二撮像素子106のグローバル電子シャッタ駆動により撮像された画像データに基づいて補正する。これにより、本実施形態のカメラ100は、ローリングシャッタ歪みの少ない高品質な静止画像の生成を可能としている。
以下、本実施形態において、第一撮像素子105と第二撮像素子106の二つを使用して電子シャッタによる撮像が行われる際のローリングシャッタ歪み補正の詳細を、図3以降の各図を参照しながら説明する。
図3は、本実施形態のカメラ100において画像を撮影する際の処理の流れを示すフローチャートである。図3のフローチャートでは、ステップS301〜S309をそれぞれS301〜S309と略記する。また図3のフローチャートの処理は、例えば不揮発性メモリ133に記憶されているプログラムをCPU131が実行して各部を制御することにより実現される。なお、図3のフローチャートの処理は、ハードウェア構成により実行されてもよいし、一部がソフトウェア構成で残りがハードウェア構成により実現されてもよい。これらのことは後述する他のフローチャートにおいても同様である。
図3は、本実施形態のカメラ100において画像を撮影する際の処理の流れを示すフローチャートである。図3のフローチャートでは、ステップS301〜S309をそれぞれS301〜S309と略記する。また図3のフローチャートの処理は、例えば不揮発性メモリ133に記憶されているプログラムをCPU131が実行して各部を制御することにより実現される。なお、図3のフローチャートの処理は、ハードウェア構成により実行されてもよいし、一部がソフトウェア構成で残りがハードウェア構成により実現されてもよい。これらのことは後述する他のフローチャートにおいても同様である。
図3のフローチャートの処理の開始前には、前述したように第二撮像素子106はグローバル電子シャッタ駆動によりプレビュー表示用の動画の撮像が行われており、また、既にレリーズボタンはSW1半押し状態となされているとする。そして、S301において、ユーザによりレリーズボタンがSW2全押し状態になされると、CPU131は、カメラ100の各部を制御して撮影を開始させる。
次のS302において、CPU131は、タイミング発生部142が発生する同期信号を受信したか否か判断し、それら同期信号を受信した場合(Yes)にはS303とS304に処理を進める。
S303において、CPU131は、タイミング発生部142を介して第一撮像制御部180を制御することで、第一撮像素子105をローリングシャッタ駆動させ、また同期信号を基に露光時間を制御して、第一撮像素子105に画像の撮像を行わせる。
S304において、CPU131は、タイミング発生部142を介して第二撮像制御部181に制御することで、第二撮像素子106をグローバル電子シャッタ駆動させ、また同期信号を基に露光時間を制御して、第二撮像素子106に画像の撮像を行わせる。
S304において、CPU131は、タイミング発生部142を介して第二撮像制御部181に制御することで、第二撮像素子106をグローバル電子シャッタ駆動させ、また同期信号を基に露光時間を制御して、第二撮像素子106に画像の撮像を行わせる。
ここで、タイミング発生部142が発生する同期信号に基づく露光時間の制御について図4を用いて説明する。
図4中の縦方向の点線(401,402)は、タイミング発生部142から出力された同期信号の区切りを表し、第一撮像制御部180と第二撮像制御部181が同期信号を受信したタイミングを表している。以下、これらのタイミングを同期タイミング401,402と表記し、各同期信号の受信を同期タイミングの受信と表記する。なお、これら同期タイミング401,402は、CPU131でも受信される。これら同期タイミング401,402の同期信号は、タイミング発生部142により任意に生成されてもよいが、本実施形態では、例えば表示部153におけるライブビュー表示の垂直同期信号を使用することとする。垂直同期信号を同期信号として用いた場合、同期タイミング401,402の間に、第二撮像素子106から画像が取り込まれることで、ライブビュー表示を止めることなく撮影が可能になる。
図4中の縦方向の点線(401,402)は、タイミング発生部142から出力された同期信号の区切りを表し、第一撮像制御部180と第二撮像制御部181が同期信号を受信したタイミングを表している。以下、これらのタイミングを同期タイミング401,402と表記し、各同期信号の受信を同期タイミングの受信と表記する。なお、これら同期タイミング401,402は、CPU131でも受信される。これら同期タイミング401,402の同期信号は、タイミング発生部142により任意に生成されてもよいが、本実施形態では、例えば表示部153におけるライブビュー表示の垂直同期信号を使用することとする。垂直同期信号を同期信号として用いた場合、同期タイミング401,402の間に、第二撮像素子106から画像が取り込まれることで、ライブビュー表示を止めることなく撮影が可能になる。
図4中の横方向の各細線(421)は第一撮像素子105の各水平ラインにおけるそれぞれの露光時間を表しており、第一撮像素子105の各水平ラインは各細線(421)の幅に相当する時間だけ露光される。以下、第一撮像素子105の各水平ラインにおける各露光時間を第一露光時間421と表記する。本実施形態の場合、第一撮像素子105は、第一撮像制御部180による制御の下、同期信号の同期タイミング401で電荷がリセットされて電荷の蓄積を開始し、ローリングシャッタ駆動により各水平ラインの露光と読み出しが順次行われる。図4中の縦方向の実線(412)は、第一撮像素子105のローリングシャッタ駆動において最後に露光される水平ライン(最終水平ラインとする。)の露光開始のタイミングを表している。以下、この最終水平ラインの露光開始のタイミングを、第一最終露光タイミング412と表記する。
図4中の横方向の各細線(422)は第二撮像素子106の各水平ラインにおける露光時間を表しており、第二撮像素子106の各水平ラインは各細線(422)の幅に相当する時間だけ露光される。以下、第二撮像素子106の各水平ラインにおける各露光時間を第二露光時間422と表記する。また、図4中の縦方向の実線(411)は、第二撮像素子106の電荷がリセットされるタイミングを示している。以下、第二撮像素子106の電荷がリセットされるタイミングを第二リセットタイミング411と表記する。本実施形態の場合、第二リセットタイミング411は、第一撮像素子105で電荷がリセットされる同期タイミング401の後で、第一最終露光タイミング412になるよりも時間的に前のタイミングとなされる。そして、本実施形態の場合、第二撮像素子106は、第二撮像制御部181による制御の下、第二リセットタイミング411で電荷がリセットされて電荷の蓄積を開始し、グローバル電子シャッタ駆動により全水平ラインの露光と読み出しが一括して行われる。このように、本実施形態の場合、第二撮像素子106は、同期信号の同期タイミング401と402との間に画像を撮像するので、ライブビュー表示が止まることはない。
そして、本実施形態の場合、図4に示したように、第一撮像素子105と第二撮像素子106の露光時間は、第二リセットタイミング411と第一最終露光タイミング412の間において重なっている。すなわち、第一撮像素子105と第二撮像素子106とは、露光時間が重なっていることで同時刻の撮像が可能となされている。言い換えると、本実施形態の場合、露光時間が重なっている部分では、第一撮像素子105と第二撮像素子106の両撮像画像は略々同撮影時刻の撮像画像であり、それら両撮像画像に時間的なズレはない。したがって、第二撮像素子106のグローバル電子シャッタ駆動で撮像された画像を、第一撮像素子105でローリングシャッタ駆動により撮像された画像のローリングシャッタ歪みの補正に用いることが可能となる。
以下、図5を参照しながら、第二撮像素子106により撮像された画像データに基づいて、第一撮像素子105により撮像された画像データが補正される様子を説明する。
図5において、画像501は、第一撮像素子105により撮像された画像例を示しており、以下これを第一画像501とする。第一画像501は、第一撮像素子105でローリングシャッタ駆動により撮像された画像であるため、静止体である被写体の画像領域511にローリングシャッタ歪みは無いが、動体である被写体の画像領域512にはローリングシャッタ歪みが生じている。
図5において、画像501は、第一撮像素子105により撮像された画像例を示しており、以下これを第一画像501とする。第一画像501は、第一撮像素子105でローリングシャッタ駆動により撮像された画像であるため、静止体である被写体の画像領域511にローリングシャッタ歪みは無いが、動体である被写体の画像領域512にはローリングシャッタ歪みが生じている。
一方、図5の画像502は、第二撮像素子106により撮像された画像例を示しており、以下これを第二画像502とする。第一画像501と第二画像502は、前述したように露光時間が重なるようにして同撮影時刻で撮像された画像であるため、それぞれ同じ被写体が画像内の略々同位置に写っている。また、第二画像502は、第二撮像素子106でグローバル電子シャッタ駆動により撮像された画像であるため、動体でない被写体の画像領域511だけでなく動体の被写体の画像領域512にも歪みは生じていない。
図5の画像503は、第二画像502を、第一画像501と同画素数となるように拡大した画像であり、以下これを第三画像503とする。本実施形態の場合、映像信号処理部121が、第二撮像素子106により撮像された第二画像502を拡大処理して第三画像503を生成する。
そして、映像信号処理部121は、第一撮像素子105により撮像された第一画像501を、第三画像503を用いて補正処理500することにより、第一画像501のローリングシャッタ歪みが補正された第四画像504を生成する。ローリングシャッタ歪みが補正された第四画像504の生成処理の詳細は後述する。
図3に説明を戻す。S303の後、S305において、CPU131は、映像信号処理部121を制御し、第一撮像素子105からの撮影画像に前述した映像信号処理を実行させて第一画像501を生成させる。この第一画像501のデータはメモリ132に一時的に記憶される。
また、S304の後、S306において、CPU131は、映像信号処理部121を制御し、第二撮像素子106からの撮影画像に映像信号処理を実行させて第二画像502を生成させる。この第一画像501のデータはメモリ132に一時的に記憶される。
また、S304の後、S306において、CPU131は、映像信号処理部121を制御し、第二撮像素子106からの撮影画像に映像信号処理を実行させて第二画像502を生成させる。この第一画像501のデータはメモリ132に一時的に記憶される。
S305とS306の後、CPU131は、S307に処理を進める。S307において、CPU131は、メモリ132から第一画像501と第二画像502のデータを読み出して、映像信号処理部121に送る。そして、CPU131は、映像信号処理部121を制御して、第二画像502を基に、第一画像501のローリングシャッタ歪みの補正を行わせる。
図6には、図3のS307においてCPU131による制御の下で映像信号処理部121により行われるローリングシャッタ歪みの補正処理の詳細なフローチャートを示す。
図6のS601において、映像信号処理部121は、第一画像501と画素数が同じになるように、第二画像502を拡大して第三画像503を生成する。この第三画像503のデータはメモリ132に一時的に記憶される。
図6のS601において、映像信号処理部121は、第一画像501と画素数が同じになるように、第二画像502を拡大して第三画像503を生成する。この第三画像503のデータはメモリ132に一時的に記憶される。
次に、S602において、映像信号処理部121は、CPU131の制御の下でメモリ132から読み出された第一画像501と第三画像503について水平ライン毎にそれぞれ同位置の画素値を比較し、比較結果としてそれら各画素値の差分を算出する。さらに、S603において、映像信号処理部121は、第一画像501の各画素のうち、S602で求めた画素値の差分が所定の閾値以上となっている画素を判定する。そして、映像信号処理部121は、第一画像501の各画素のうち、S602で求めた画素値の差分が所定の閾値以上となっている画素にはローリングシャッタ歪みが生じていると判定(Yes)し、S604に処理を進める。なお、S603において、画素値の差分が所定の閾値未満である場合(No)、映像信号処理部121は、後述するS606に処理を進める。
S604に進むと、映像信号処理部121は、S603において第一画像501の中で差分が所定値以上と判定された画素を補正の対象とする画素として特定する。また、映像信号処理部121は、第一画像501の中で特定された画素について、第三画像503の中で画素値が一致する画素の位置を求める。さらに、映像信号処理部121は、第一画像501の中で特定された画素から、第三画像503の中で画素値が一致する画素の位置までの距離と方向に相当する情報を、特定した画素をずらす際の補正量として算出する。そして、次のS605において、映像信号処理部121は、S604で算出した補正量に基づき、第一画像501の特定した画素の位置をずらすような補正処理を行う。また、第一画像501の画素位置をずらしたことで生じた空き領域の画素位置には、第三画像503の同位置の画素を入れるような補間処理を行う。これにより、第一画像501のローリングシャッタ歪みが補正された第四画像504が生成されることになる。この第四画像504は、CPU131の制御の下、メモリ132のVRAMに記憶される。
次のS606において、映像信号処理部121は、第一画像501の全水平ラインの画素について前述した処理が完了したか否か確認し、未処理の画素が存在する場合(No)にはS602に処理を戻してS602以降の各処理を行う。一方、S606において、第一画像501の全水平ラインの画素について処理が完了した場合(Yes)、図6のフローチャートの処理を終了し、CPU131は、図3のS308に処理を進める。
図3のフローチャートに説明を戻す。S307の後のS308において、CPU131は、図6の処理より生成された第四画像504のデータをメモリ132のVRAMから読み出させて、表示制御部151に送る。これにより、表示部153には、第四画像504が表示されることになる。さらに、次のS309において、CPU131は、メモリ132から第四画像504を読み出させ、映像信号処理部121の静止画エンコード処理部210で圧縮処理させた後、カード入出力部171を介して記録媒体173に記録させる。その後、CPU131は、図3のフローチャートの処理を終了する。
以上説明したように第一の実施形態のカメラ100によれば、ローリングシャッタ駆動の第一撮像素子105とグローバル電子シャッタ駆動の第二撮像素子106の二つの撮像素子を有している。そして、本実施形態のカメラ100は、第一撮像素子105と第二撮像素子106とで露出時間が重なるように撮像を行い、第一撮像素子105による撮像画像を第二撮像素子106による撮像画像を用いて補正する。これにより、本実施形態のカメラ100によれば、ローリングシャッタ歪みの少ない高品質な画像を生成することが可能となる。
<第二の実施形態>
以下、第二の実施形態について説明する。第二の実施形態のカメラ100の構成は、第一の実施形態と略々同様である。第二の実施形態では、例えば第一撮像素子105の露光が完了する前に、次の同期信号の同期タイミング(402)、つまり次の垂直同期信号のタイミングが受信されてしまう場合の処理方法について説明する。
以下、第二の実施形態について説明する。第二の実施形態のカメラ100の構成は、第一の実施形態と略々同様である。第二の実施形態では、例えば第一撮像素子105の露光が完了する前に、次の同期信号の同期タイミング(402)、つまり次の垂直同期信号のタイミングが受信されてしまう場合の処理方法について説明する。
図7(a)は前述の図4と同様に示される図である。ただし、図7(a)の例では、第一撮像素子105において全ての水平ラインの露光が完了する前に、次の同期信号の同期タイミング402が受信された例を示している。第二の実施形態の場合、CPU131は、第一撮像素子105の全水平ラインの露光完了前に次の同期タイミング402を受信した場合、その同期タイミング402以降のタイミング731で、第二撮像素子106をリセットさせる制御を行う。これにより、第二撮像素子106では、タイミング731で再度電荷の蓄積が開始され、グローバル電子シャッタ駆動により各水平ラインの露光が一括して行われることになる。
タイミング731は、同期タイミング401の後に生成される第二リセットタイミング411と同様に、同期タイミングの受信後に生成される第二リセットタイミングであり、CPU131による制御の下でタイミング発生部142にて生成される。なお、図示は省略するが、第一撮像素子105の全水平ラインの露光が完了する前に、同期タイミング402より更に時間的に後の同期タイミングが受信された場合には、その同期タイミングの後にも同様に第二リセットタイミングが生成される。つまり、第二の実施形態の場合、第二リセットタイミングは、第一撮像素子105で全水平ラインの露光が完了するまでは、同期タイミングが順次受信される毎に生成される。
図7(b)の画像711は、図7(a)の第二リセットタイミング731によるリセット後に第二撮像素子106のグローバル電子シャッタ駆動により撮像された画像例を示しており、以下、これを第五画像711とする。また、図7(b)は、第五画像711を前述の図5の例と同様に拡大した画像を示しており、以下、これを第六画像712とする。第五画像711は、グローバル電子シャッタ駆動により撮像された画像であるため、前述の図5の第二画像502と同様に、動体でない被写体の画像領域511だけでなく動体の被写体の画像領域512にも歪みは生じていない。したがって、第六画像712も図5の第三画像503と同様に歪みの生じていない画像となる。
ただし、図5の第二画像502は図4の第二リセットタイミング411を基に撮像された画像であるのに対し、図7(b)の第五画像711は第二リセットタイミング411よりも時間的に後の第二リセットタイミング731を基に撮像された画像である。このため、図7(b)の第五画像711の場合、この第五画像711内における動体の画像領域512の位置は、図5の第二画像502内の動体の画像領域512の位置とは異なる。つまり、図7(b)の第五画像711内の画像領域512と図5の第二画像502内の画像領域512とは、第二リセットタイミング411と第二リセットタイミング731の時間差内で動体の被写体が移動した距離に相当する分だけ位置がずれている。また、図7(a)の例の場合、第二撮像素子106では、第二リセットタイミング411を基に撮像された図5の第二画像502と、第二リセットタイミング731を基に撮像された第五画像711の二つの画像が得られている。
このため、第二の実施形態では、第二撮像素子106のグローバル電子シャッタ駆動で得られて拡大された第三画像503と第六画像712を用い、第一撮像素子105のローリングシャッタ駆動による第一画像501のローリングシャッタ歪み補正が行われる。なお、第一撮像素子105の露光完了までに同期タイミングが複数回受信され、複数回の第二リセットタイミングが生成されて第二撮像素子106で複数の画像が取得された場合には、それら複数の画像群を用いたローリングシャッタ歪み補正が行われる。第二の実施形態の場合、カメラ100は、以下の図8(a)と図8(b)のフローチャートに示す処理を行うことにより、ローリングシャッタ歪みの少ない高品質な静止画像を生成可能としている。
図8(a)は、第二の実施形態のカメラ100において画像を撮影する際の処理の流れを示すフローチャートである。また、図8(b)は、図8(a)のS307で行われるローリングシャッタ歪み補正処理の詳細なフローチャートである。図8(a)、図8(b)において、前述の図3、図6のフローチャートと同じ処理には図3、図6と同じ参照符号を付して、それらの詳細な説明は省略する。
図8(a)のフローチャートのS303では、第一撮像素子105が図7(a)の同期タイミング401でリセットされてローリングシャッタ駆動されることにより画像の撮像が行われる。ここで、第二の実施形態の場合、図7(a)に示したように、第一撮像素子105の各水平ラインの第一露光時間421が図4の例より長いために、第一撮像素子105の全水平ラインの露光が完了する前に、次の同期信号の同期タイミング402が来てしまう。第二の実施形態の場合、全水平ラインの露光完了前に次の同期信号の同期タイミング402が来ても、第一撮像素子105では、そのままローリングシャッタ駆動による撮像が続けられ、したがってS305では図5と同様の第一画像501が生成される。ただし、第二の実施形態の場合、図7(a)のように第一露光時間421が長くなっているため、第一撮像素子105の露光開始から全水平ラインの露光が完了するまでの時間も長くなる。このため、第二の実施形態における第一画像501内の動体の画像領域512のローリングシャッタ歪み量は、図5の第一画像501の例よりも大きくなっている。
第二の実施形態の場合、図8(a)のS304において、第二撮像素子106は、先ず図7(a)の第二リセットタイミング411でグローバル電子シャッタ駆動される。したがって、次のS701では、CPU131による制御の下、映像信号処理部121での映像処理により、図5の例と同様の第二画像502が生成される。S701の後、CPU131は、S702に処理を進める。
S702において、CPU131は、第一撮像素子105が図7(a)の同期タイミング401で開始した撮像動作が完了したか否か、つまり第一撮像素子105の全水平ラインの露光が完了したか否か判定する。そして、第一撮像素子105の撮像動作が完了していないと判定(No)した場合、CPU131は、S703に処理を進める。S703において、CPU131は、次の同期信号の同期タイミング402を受信したか否か判定し、次の同期タイミング402を受信していない場合(No)にはS702に処理を戻し、一方、受信した場合(Yes)にはS304に処理を戻す。
S703で例えば同期タイミング402が受信されたと判定されてS304に戻った場合、CPU131は、第二撮像素子106を図7(a)の第二リセットタイミング731でグローバル電子シャッタ駆動させる制御を行う。これにより、次のS701では、前述したように図7(b)に示した第五画像711が生成されることになる。そして、次のS702において、CPU131は、第一撮像素子105の撮像動作が完了したか否か判定することになる。図7(a)の例の場合は、同期タイミング402の後、更に次の同期タイミングが受信される前に、第一撮像素子105の撮像動作が完了する。したがって、第一撮像素子105の撮像動作が完了すると、CPU131は、その後、S307に処理を進める。なお、第一撮像素子105の撮像動作が完了する前に、複数回同期タイミングが受信される場合には、同期タイミングが受信される毎にS304、S701、S702、S703の各処理が繰り返されることになる。
S307の処理に進むと、第二の実施形態の場合は図8(b)のフローチャートの処理が行われる。図8(b)の処理は、CPU131による制御の下、映像信号処理部121により行われる。
先ず、図8(b)のフローチャートのS601において、映像信号処理部121は、前述の図6のフローチャートの場合と同様に、第二画像502を拡大して第三画像503を生成する。そして、第三画像503は、メモリ132に一時的に記憶される。第二の実施形態の場合、S601の後、映像信号処理部121は、S721に処理を進める。
先ず、図8(b)のフローチャートのS601において、映像信号処理部121は、前述の図6のフローチャートの場合と同様に、第二画像502を拡大して第三画像503を生成する。そして、第三画像503は、メモリ132に一時的に記憶される。第二の実施形態の場合、S601の後、映像信号処理部121は、S721に処理を進める。
次のS721において、映像信号処理部121は、第五画像711を拡大処理して、第六画像712を生成する。そして、第六画像712は、メモリ132に一時的に記憶される。なお、第一撮像素子105の撮像動作が完了する前に、複数回同期タイミングが受信されて第五画像711が複数取得された場合には、それら複数の第五画像711の各画像に対してそれぞれ拡大処理が行われて、複数の第六画像712が生成されることになる。これ以降は、複数の第五画像711(以下、第五画像群とする。)が取得され、さらに複数の第六画像712(以下、第六画像群とする。)が生成されている例を用いて説明を行う。S721の後、映像信号処理部121は、S722に処理を進める。
S722において、映像信号処理部121は、CPU131による制御の下でメモリ132から第一画像501と第三画像503と第六画像群を読み出す。そして、映像信号処理部121は、第三画像503と第六画像群の中から、第一画像501と時間的に近い画像を選択する。さらに、映像信号処理部121は、その選択した画像と第一画像501とについて水平ライン毎にそれぞれ同位置の画素値を比較し、その比較結果としてそれら各画素値の差分を算出する。
その後、S603において、映像信号処理部121は、第一画像501の各画素のうち、S722で求めた画素値の差分が所定の閾値以上となっている画素を判定する。そして、映像信号処理部121は、第一画像501の各画素のうち、S722で求めた画素値の差分が所定の閾値以上となっている画素にはローリングシャッタ歪みが生じていると判定(Yes)し、S723に処理を進める。なお、S603において、画素値の差分が所定の閾値未満である場合(No)、映像信号処理部121は、S606に処理を進める。
S723に進むと、映像信号処理部121は、S603において第一画像501の水平ラインの中で差分が所定値以上と判定されて特定された画素について、S722で選択された画像の中で画素値が一致する画素の位置を求める。そして、映像信号処理部121は、その位置までの距離と方向に相当する情報を補正量として算出する。
そして、次のS724において、映像信号処理部121は、S723で算出した補正量に基づき、第一画像501の該当する画素の位置をずらすような補正処理を行う。また、第一画像501の画素位置をずらしたことで生じた空き領域の画素位置には、S722で選択された画像の同位置の画素を入れるような補間処理を行う。これにより、第一画像501のローリングシャッタ歪みが補正された第四画像504が生成されることになる。この第四画像504は、CPU131の制御の下、メモリ132のVRAMに記憶される。
次のS606の処理は前述同様であり、映像信号処理部121は、S606において、第一画像501の全水平ラインの画素について処理が完了した場合(Yes)、図8(b)のフローチャートの処理を終了する。そして、CPU131は、図8(a)のS308に処理を進める。S308、S309の処理は、前述同様であるためその説明は省略する。
前述したように、第二の実施形態では、第一撮像素子105のローリングシャッタ駆動における露光時間が長い場合も、第一撮像素子105と露光時間が重なるようにして、第二撮像素子106でグローバル電子シャッタ駆動による複数回の撮像を行う。第二の実施形態によれば、第二撮像素子106のグローバル電子シャッタ駆動による複数の撮像画像を基に、第一撮像素子105のローリングシャッタ駆動による撮像画像に生ずるローリングシャッタ歪みを補正する。これにより、第二の実施形態のカメラ100においても、ローリングシャッタ歪みの少ない高品質な画像を生成することが可能となる。
<第三の実施形態>
以下、第三の実施形態について説明する。第三の実施形態のカメラ100の構成は、第一の実施形態と略々同様である。第三の実施形態では、第一撮像素子105で取得された第一画像501のデータを記録媒体173に記録する場合、前述したローリングシャッタ歪みの補正量と画素補間に用いる画素値の情報を、第一画像501の付帯情報として付加して記録しておく。これにより、第三の実施形態では、記録媒体173から読み出された第一画像501に対し、ローリングシャッタ歪みの補正を可能とする。
以下、第三の実施形態について説明する。第三の実施形態のカメラ100の構成は、第一の実施形態と略々同様である。第三の実施形態では、第一撮像素子105で取得された第一画像501のデータを記録媒体173に記録する場合、前述したローリングシャッタ歪みの補正量と画素補間に用いる画素値の情報を、第一画像501の付帯情報として付加して記録しておく。これにより、第三の実施形態では、記録媒体173から読み出された第一画像501に対し、ローリングシャッタ歪みの補正を可能とする。
図9(a)は、第三の実施形態のカメラ100において画像を撮影して記録媒体173に記録するまでの処理の流れを示すフローチャートである。また、図9(b)は、図9(a)のS307で行われるローリングシャッタ歪み補正量及び補間画素の生成と付帯情報の生成の処理の詳細なフローチャートである。図9(a)、図9(b)において、前述の図3、図6のフローチャートと同じ処理には図3、図6と同じ参照符号を付して、それらの詳細な説明は省略する。
図9(a)のフローチャートでは、S301からS306までの処理は前述の図3のフローチャートと同様である。第3の実施形態の場合、S307において、CPU131は、映像信号処理部121を制御してローリングシャッタ歪みの補正量を算出させ、その補正量の情報をメモリ132に一時的に記憶させる。また、CPU131は、ローリングシャッタ歪みの補正の際に第一画像501の画素位置がずらされることで生じる空き領域の画素位置に補間する補間画素についても映像信号処理部121に生成させ、その補間画素のデータもメモリ132に一時記憶させる。
第三の実施形態の場合、図9(a)のS307の処理の詳細を示す図9(b)のフローチャートのS604において、CPU131は、映像信号処理部121にローリングシャッタ歪みの補正量だけでなく、前述した補間画素の情報をも算出させせる。そして、S811において、CPU131は、映像信号処理部121にて生成されたローリングシャッタ歪みの補正量と補間画素の情報を、メモリ132に一時的に記憶させる。なお、図9(b)のS601からS604までの処理、及びS606の処理は前述の図6のフローチャートと同様である。
また、第三の実施形態の場合、図9(a)のS801において、CPU131は、映像信号処理部121による処理後の第一画像501のデータをメモリ132のVRAMへ記憶させ、例えば表示部153に表示させる。なお、第三の実施形態の場合、第一画像501のローリングシャッタ歪み補正は行っていないため、表示部153には、第一画像501がそのまま表示される。
次に、S802において、CPU131は、メモリ132に記憶されている補正量と補間画素の情報を、第一画像501の付帯情報として付加する。そして、次のS803において、CPU131は、S802で補正量と補間画素の情報が付帯情報として付加された第一画像501のデータを、カード入出力部171を介して記録媒体173に記録させる。
第三の実施形態では、不図示のPC(パーソナルコンピュータ)等の外部機器において、記録媒体173から第一画像501を再生表示する際、付帯情報として付加されている補正量と補間画素の情報を基にローリングシャッタ歪みを補正することができる。この場合、外部機器には、前述した図6のS605や図8(b)のS724の処理に対応したプログラムを含む画像処理アプリケーションプログラムを予めインストールしておくことが望ましい。したがって、外部機器では、この画像処理アプリケーションプログラムを実行することにより、ローリングシャッタ歪みの補正処理を実現できる。すなわち、第三の実施形態の場合、PC等の外部機器が本発明に係るプログラムを実行することにより前述の実施形態と同様の画像処理を行う。第三の実施形態の場合、画像処理装置である外部機器は、記録媒体173から第一画像501と付帯情報を取得し、付帯情報の補正量を基に第一画像501内の特定の画素をずらし、その画素がずらされた後の空き領域に対して補間画素を用いた補間を行う。
第三の実施形態によれば、本実施形態のカメラ100により撮像されて記録媒体173に記録された画像を外部機器により再生表示する場合でも、ローリングシャッタ歪みが補正された高品質な画像の再生表示が可能となる。また第三の実施形態の場合、連写等で大量の画像が撮影された場合や、撮影時の時間制約、メモリ132の容量制約等で、カメラ100側でローリングシャッタ歪みの補正処理を行えない場合でも、PC等での後処理により補正が可能となる。また第三の実施形態では、記録媒体173には第一画像501と付帯情報のみが記録されるため、例えば第一画像501のローリングシャッタ歪み補正のために第三画像503等を記録媒体173に記録しておく場合よりも記録ファイルサイズを小さくできる。
<その他の実施形態>
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
前述の実施形態では、一つのレンズ系を介して二つの撮像素子に同被写体の光学像を形成する例を挙げたが、二つの撮像素子にそれぞれ対応した別のレンズ系を備え、二つの撮像素子に同被写体の光学像を形成する構成にも本発明は適用可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
前述の実施形態では、一つのレンズ系を介して二つの撮像素子に同被写体の光学像を形成する例を挙げたが、二つの撮像素子にそれぞれ対応した別のレンズ系を備え、二つの撮像素子に同被写体の光学像を形成する構成にも本発明は適用可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
上述の実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。即ち、本発明は、その技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
100:カメラ、105:第一撮像素子、106:第二撮像素子、121:映像信号処理部、131:CPU、132:メモリ、142:タイミング発生部、171:カード入出力部、173:記録媒体、180:第一撮像制御部、181:第二撮像制御部
Claims (13)
- 光学系により形成される同光学像を撮像可能に配置された第一の撮像素子及び第二の撮像素子と、
前記第一の撮像素子をローリングシャッタ駆動させ、前記第二の撮像素子をグローバル電子シャッタ駆動させる制御手段と、
前記第一の撮像素子により撮像された第一の画像を補正する補正手段と、を有し、
前記制御手段は、前記第一の撮像素子と前記第二の撮像素子との露光時間が重なるように、前記第一の撮像素子と前記第二の撮像素子を制御し、
前記補正手段は、前記第一の撮像素子にて撮像された第一の画像を、前記第二の撮像素子にて撮像された第二の画像に基づいて補正することを特徴とする撮像装置。 - 前記制御手段は、
前記第一の撮像素子に対しては、所定の同期信号のタイミングで電荷のリセットと各水平ライン順の電荷の蓄積とを開始する制御を行い、
前記第二の撮像素子に対しては、前記第一の撮像素子で前記電荷がリセットされたタイミングより後で、前記第一の撮像素子の最終水平ラインの電荷の蓄積が開始されるタイミングよりも時間的に前のタイミングで、前記第二の撮像素子の電荷のリセットと全ての水平ラインを一括して露光する制御を行うことを特徴とする請求項1に記載の撮像装置。 - 前記第一の撮像素子の画素数は、前記第二の撮像素子の画素数よりも多いことを特徴とする請求項1又は2に記載の撮像装置。
- 前記補正手段は、
前記第二の画像を前記第一の画像と同画素数に拡大して第三の画像を生成し、
前記第一の画像と前記第三の画像とを水平ライン毎に比較した比較結果に基づいて前記第一の画像の中で画素を特定して、前記特定した画素をずらす補正量を求め、
前記第一の画像の中で前記特定した画素を前記補正量だけずらし、前記画素をずらした後の前記第一の画像の空き領域を前記第三の画像の画素を用いて補間することを特徴とする請求項3に記載の撮像装置。 - 前記補正手段は、前記第一の画像と前記第三の画像の水平ライン毎に同位置の画素値の差分を求め、前記差分が所定の閾値以上の画素を前記特定した画素とすることを特徴とする請求項4に記載の撮像装置。
- 前記補正手段は、前記第一の画像の前記特定された画素に対して、前記第三の画像の中で画素値が一致する画素の位置を求め、前記第三の画像の前記画素値が一致する画素に相当する位置まで、前記第一の画素の中で前記特定した画素をずらす前記補正量を算出することを特徴とする請求項5に記載の撮像装置。
- 前記補正量と前記第一の画像の空き領域を補間する画素とを、付帯情報として前記第一の画像に付加することを特徴とする請求項4から6の何れか1項に記載の撮像装置。
- 前記第一の撮像素子と前記露光時間が重なるようにして前記第二の撮像素子により撮像された前記第二の画像が複数ある場合、前記補正手段は、前記複数の第二の画像のうち、前記第一の画像と時間的に近い第二の画像を使用して、前記第一の画像の前記補正を行うことを特徴とする請求項1から7の何れか1項に記載の撮像装置。
- 光学系により形成される同光学像を撮像可能に配置された第一の撮像素子及び第二の撮像素子を有する撮像装置の制御方法であって、
前記第一の撮像素子と前記第二の撮像素子との露光時間が重なるようにして、前記第一の撮像素子をローリングシャッタ駆動させると共に、前記第二の撮像素子をグローバル電子シャッタ駆動させる制御工程と、
前記第一の撮像素子により撮像された第一の画像を、前記第二の撮像素子により撮像された第二の画像に基づいて補正する補正工程と、
を有することを特徴とする撮像装置の制御方法。 - 光学系により形成される同光学像を撮像可能に配置された第一の撮像素子及び第二の撮像素子を具備する撮像装置が有するコンピュータを、請求項1から8の何れか1項に記載の撮像装置の各手段として機能させるためのプログラム。
- 画像の中で特定の画素をずらす補正量と、前記画像の中で前記画素がずらされた後の空き領域を補間する補間画素とを含む情報が、付帯情報として付加された前記画像を取得する取得手段と、
前記画像に付加された付帯情報の前記補正量に基づいて前記特定の画像をずらし、前記画素がずらされた後の空き領域に対して前記補間画素を用いた補間を行う補正手段と、
を有することを特徴とする画像処理装置。 - 画像の中で特定の画素をずらす補正量と、前記画像の中で前記画素がずらされた後の空き領域に補間する補間画素とを含む情報が、付帯情報として付加された前記画像を取得する取得工程と、
前記画像に付加された付帯情報の前記補正量に基づいて前記特定の画像をずらし、前記画素がずらされた後の空き領域に対して前記補間画素を用いた補間を行う補正工程と、
を有することを特徴とする画像処理装置の画像処理方法。 - コンピュータを、請求項11に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017044586A JP2018148512A (ja) | 2017-03-09 | 2017-03-09 | 撮像装置と撮像装置の制御方法、及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017044586A JP2018148512A (ja) | 2017-03-09 | 2017-03-09 | 撮像装置と撮像装置の制御方法、及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018148512A true JP2018148512A (ja) | 2018-09-20 |
Family
ID=63591795
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017044586A Pending JP2018148512A (ja) | 2017-03-09 | 2017-03-09 | 撮像装置と撮像装置の制御方法、及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018148512A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112734659A (zh) * | 2020-12-29 | 2021-04-30 | 维沃移动通信(杭州)有限公司 | 图像校正方法、装置及电子设备 |
JP2021117057A (ja) * | 2020-01-23 | 2021-08-10 | キヤノン株式会社 | 頭部装着型表示装置、頭部装着型表示装置の制御方法、システム、同期制御装置、同期制御装置の制御方法 |
JP2021141469A (ja) * | 2020-03-06 | 2021-09-16 | 株式会社日立国際電気 | 撮像システム |
JP2022506061A (ja) * | 2018-10-29 | 2022-01-17 | エヌイーシー ラボラトリーズ アメリカ インク | ローリングシャッター画像/ビデオのsfm/slamに対するアプリケーションで畳み込みニューラルネットワークを用いる画像/ビデオにおけるローリングシャッター補正 |
-
2017
- 2017-03-09 JP JP2017044586A patent/JP2018148512A/ja active Pending
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022506061A (ja) * | 2018-10-29 | 2022-01-17 | エヌイーシー ラボラトリーズ アメリカ インク | ローリングシャッター画像/ビデオのsfm/slamに対するアプリケーションで畳み込みニューラルネットワークを用いる画像/ビデオにおけるローリングシャッター補正 |
JP7082713B2 (ja) | 2018-10-29 | 2022-06-08 | エヌイーシー ラボラトリーズ アメリカ インク | ローリングシャッター画像/ビデオのsfm/slamに対するアプリケーションで畳み込みニューラルネットワークを用いる画像/ビデオにおけるローリングシャッター補正 |
JP2021117057A (ja) * | 2020-01-23 | 2021-08-10 | キヤノン株式会社 | 頭部装着型表示装置、頭部装着型表示装置の制御方法、システム、同期制御装置、同期制御装置の制御方法 |
JP7357554B2 (ja) | 2020-01-23 | 2023-10-06 | キヤノン株式会社 | 同期制御装置、同期制御装置の制御方法、システム |
JP2021141469A (ja) * | 2020-03-06 | 2021-09-16 | 株式会社日立国際電気 | 撮像システム |
JP7379217B2 (ja) | 2020-03-06 | 2023-11-14 | 株式会社日立国際電気 | 撮像システム |
CN112734659A (zh) * | 2020-12-29 | 2021-04-30 | 维沃移动通信(杭州)有限公司 | 图像校正方法、装置及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5764740B2 (ja) | 撮像装置 | |
JP4569389B2 (ja) | 撮像装置、画像処理方法及びプログラム | |
JP5950678B2 (ja) | 撮像装置、制御方法、及びプログラム | |
JP2011199565A (ja) | 撮像装置、及びプログラム | |
JP5665013B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2013046259A (ja) | 映像機器、制御方法およびプログラム | |
JP2018148512A (ja) | 撮像装置と撮像装置の制御方法、及びプログラム | |
JP2012222541A (ja) | 撮像装置、画像合成方法、及びプログラム | |
JP2013165487A (ja) | 画像処理装置、撮像装置、およびプログラム | |
US8654204B2 (en) | Digtal photographing apparatus and method of controlling the same | |
JP2015053741A (ja) | 画像再生装置 | |
JP2009111596A (ja) | 撮像装置 | |
JP2002027312A (ja) | 撮像装置 | |
JP2006033123A (ja) | 撮像装置 | |
KR20120071972A (ko) | 사용자가 원하는 시점의 정지 영상을 획득할 수 있는 디지털 영상 신호 처리 장치 및 이의 제어 방법 | |
JP2014131190A (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP2019220830A (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP6706167B2 (ja) | 撮像装置、画像合成方法、およびプログラム | |
JP6118118B2 (ja) | 撮像装置およびその制御方法 | |
JP4710351B2 (ja) | デジタルカメラ及びプログラム | |
JP2005277618A (ja) | 撮像装置、シェーディング補正装置、及びシェーディング補正方法 | |
JP2011087203A (ja) | 撮像装置 | |
JP2006352717A (ja) | デジタルカメラ、及びその画像処理方法 | |
JP2020017851A (ja) | 撮像装置、撮像装置の制御方法およびプログラム | |
JP2014176003A (ja) | 撮像装置 |