(第1実施形態)
図1は、撮像装置100の外観図である。図1(A)は撮像装置100の正面図、図1(B)は撮像装置100の背面図である。撮像装置10は、例えば、静止画および動画の撮影が可能なデジタルモーションカメラである。本実施形態では、撮像装置本体とレンズが一体となった撮像装置の例を説明するがこれに限られるものではなく、例えば、レンズ交換式のデジタル一眼カメラであってもよい。また、撮像素子184から出力される画像信号を処理する画像処理部は、必ずしも撮像装置の一部として構成される必要はなく、撮像素子184や撮影光学系とは別のハードウェアにより構成されていてもよい。また、画像処理部の機能の全部又は一部を、撮像素子184に搭載するようにしてもよい。
撮像装置100は、撮像装置本体151、撮像装置本体151の正面部に撮像光学系152、撮像装置本体151の上面部にスイッチST154を備える。また、撮像装置100は撮像装置本体151の背面部に、表示部153、スイッチMV155、選択レバー156、メニューボタン157、アップスイッチ158、ダウンスイッチ159、ダイアル160および再生ボタン161を備える。
撮像装置本体151は、内部に撮像素子184やシャッタ装置を収納した撮像装置100の本体部である。撮像光学系152は、撮像素子184に被写体の光学像を結像するための光学系であり、内部にレンズや絞りを有している。表示部153は、撮影情報や映像を表示するための表示部である。表示部153は、ダイナミックレンジの広い映像の輝度範囲を抑制することなく表示できるだけの表示輝度範囲を有している。また、表示部153には、必要に応じて画面の向きを変えるための可動機構を備えていてもよい。
スイッチST154は、主に静止画の撮影を行うために使用するシャッターボタンである。スイッチMV155は、動画撮影を開始および停止するためのボタンである。選択レバー156は、撮影モードを選択するための切り替えスイッチである。メニューボタン157は、撮像装置100の機能設定を行う機能設定モードへ移行するためのメニューボタンである。アップスイッチ158およびダウンスイッチ159は、各種の設定値を変更するためのアップダウンスイッチである。ダイアル160は、各種の設定値を変更するためのダイアルである。再生ボタン161は、撮像装置100内の記録媒体193に記録されている映像を表示部153上で再生する再生モードへ移行するためのボタンである。
図2は、撮像装置100の構成例を示すブロック図である。撮像装置100は、フォーカスレンズ181、フォーカスレンズ駆動部182、光学フィルタ183、撮像素子184、ブレ補正レンズ185およびブレ補正駆動部186を備える。また、撮像装置100は、デジタル信号処理部187、アナログフロントエンド188、タイミング発生部189、システム制御CPU178、スイッチ入力手段179および映像メモリ190を備える。また、撮像装置100は、表示I/F191、表示部153、記録I/F192、記録媒体193、プリントI/F194、外部I/F196および無線I/F198を備える。
光軸180は、撮像光学系152の光軸である。フォーカスレンズ181は、撮影光学系152の焦点状態を調整するための光学レンズである。フォーカスレンズ駆動部182は、フォーカスレンズ181を駆動させる。ブレ補正レンズ185は、像ブレを補正するための光学レンズである。ブレ補正駆動部186は、ブレ補正レンズ185を駆動させる。光学フィルタ183は、撮像素子184に入射する光の波長および撮像素子184に伝達する空間周波数を制限する。
撮像素子184は、撮像光学系152を介して結像された被写体の光学像を電気的な画像信号に変換する。アナログフロントエンド188は、撮像素子184から出力される画像信号のアナログ処理とアナログ−デジタル変換を行う。アナログフロントエンド188は、読み出し回路と、アナログ信号をデジタル化するA/D変換器等を有する。読み出し回路の詳細は、後述する。
デジタル信号処理部187は、撮像素子184より出力されたデジタル映像データに各種の補正を行った後に、映像データを圧縮する。また、デジタル信号処理部187は、画像生成手段および画像合成手段の機能を有する。タイミング発生部189は、撮像素子184およびデジタル信号処理部187に各種タイミング信号を出力し、各種タイミングを制御する。システム制御CPU178は、各種演算を行い、撮像装置100全体を制御するCPU(Central Processing Unit)である。すなわち、タイミング発生部189およびシステム制御CPU178は、撮像素子184における信号電荷の転送や蓄積、読み出しのタイミングを制御する制御手段の機能を有する。
また、システム制御CPU178は、第1実施形態〜第3実施形態では、デジタル信号処理部187により取得した複数の検出用の画像信号を比較することで撮像装置100および撮影光学系152の状態(撮影状態)を検出する検出手段の機能を有する。また、システム制御CPU178はブレ補正算出手段の機能も有しており、動きベクトルの検出結果に基づきブレ補正信号を生成し、ブレ補正信号をブレ補正駆動部186に送出する。
映像メモリ190は、映像データを一時的に記憶する。表示I/F191は、撮影された映像を表示部153に表示するためのインターフェースである。表示部153は、液晶ディスプレイ等の表示部である。記録I/F192は、記録媒体193に記録または読み出しを行うためのインターフェースである。記録媒体193は、映像データや付加データ等を記録するためのメモリ等の記録媒体である。記録媒体193は、撮像装置100に備え付けられていてもよいし着脱可能でもよい。
プリントI/F194は、撮影された映像を外部のプリンタ195に出力し印刷するためのインターフェースである。プリンタ195は、小型インクジェットプリンタ等のプリンタである。外部I/F196は、外部装置197等と通信するためのインターフェースである。外部装置197は、コンピュータやテレビなどの画像を表示可能な装置である。無線I/F198は、外部のネットワーク199と通信するためのインターフェースである。ネットワーク199は、インターネットなどのコンピュータネットワークである。スイッチ入力部179は、スイッチST154やスイッチMV155や各種モードの切り替えを行う複数のスイッチを含み、ユーザからの操作を受け付ける。
図3は、撮像素子184の画素の構成を示す回路図である。撮像素子184は、2次元配列された多数の画素要素(画素部)を有している。図3では、撮像素子184の多数の画素要素のうち、1行1列目(1,1)の画素要素50と、最終行であるm行1列目(m、1)の画素要素51を示している。画素要素50と画素要素51の構成は同じであるため、各画素の各構成要素には同じ符号を付している。
画素要素50は、光電変換部であるフォトダイオード500、第1の電荷保持部507Aおよび第2の電荷保持部507Bを有する。また、画素要素50は、第1の転送トランジスタ501A、第2の転送トランジスタ502A、第3の転送トランジスタ501B、第4の転送トランジスタ502Bおよび第5の転送トランジスタ503を有する。また、画素要素50は、リセットトランジスタ504、増幅トランジスタ505、選択トランジスタ506およびフローティングディフュージョン領域(以下、FD領域という)508を有している。さらに、画素要素50には、電源線520、電源線521および信号出力線523が含まれる。
撮像素子184の1つの画素要素は、1つのフォトダイオード500に対して2つの電荷保持部(第1の電荷保持部507Aおよび第2の電荷保持部507B)を有している。
これにより、第1の画像信号である静止画像信号と第2の画像信号である検出用画像信号を並行して取得することが可能である。本実施形態においては、第1の電荷保持部507Aが静止画用の電荷を蓄積し、第2の電荷保持部507Bが検出用画像の電荷を蓄積する。電荷保持部を有する撮像素子184の基本構造は、本出願人により特開2013−172210号公報にて開示されているので、説明は省略する。なお、本実施形態では電荷保持部が2つある例を説明するが、これに限られるものではなく、電荷保持部は複数あってもよい。
フォトダイオード500のアノードは、接地線に接続されている。フォトダイオード500のカソードは、第1の転送トランジスタ501Aのソース、第3の転送トランジスタ501Bのソースおよび第5の転送トランジスタ503のソースに、それぞれ接続されている。第1の転送トランジスタ501Aのドレインは、第2の転送トランジスタ502Aのソースに接続されている。第1の転送トランジスタ501Aのドレインと第2の転送トランジスタ502Aのソースとの間の接続ノードは、第1の電荷保持部507Aを構成する。第3の転送トランジスタ501Bのドレインは、第4の転送トランジスタ502Bのソースに接続されている。第3の転送トランジスタ501Bのドレインと第4の転送トランジスタ502Bのソースとの間の接続ノードは、第2の電荷保持部507Bを構成する。
第1の転送トランジスタ502Aのドレインおよび第3の転送トランジスタ502Bのドレインは、リセットトランジスタ504のソースおよび増幅トランジスタ505のゲートに接続されている。第2の転送トランジスタ502Aのドレイン、第4の転送トランジスタ502Bのドレイン、リセットトランジスタ504のソースおよび増幅トランジスタ505のゲートの接続ノードは、FD領域508を構成する。増幅トランジスタ505のソースは、選択トランジスタ506のドレインに接続されている。リセットトランジスタ504のドレインおよび増幅トランジスタ505のドレインは、電源線520に接続されている。第5の転送トランジスタ503のドレインは、電源線521に接続されている。選択トランジスタ506のソースは、信号出力線523に接続されている。信号出力線523の他端は、読み出し回路308に接続されている。
各画素要素は、行単位で、垂直走査回路307から行方向に配された制御線に接続されている。各行の制御線は、各転送トランジスタ501A,502A,501B,502B,503、リセットトランジスタ504および選択トランジスタ506のゲートにそれぞれ接続された複数の制御線を含む。垂直走査回路307から各トランジスタに、システム制御CPU178からの制御信号に基づいて各制御パルスが送出される。各トランジスタは、制御パルスがハイレベルのときにオンとなり、制御パルスがローレベルのときにオフとなる。
具体的には、第1の転送トランジスタ501Aは、転送パルスφTX1Aによって制御される。第2の転送トランジスタ502Aは、転送パルスφTX2Aによって制御される。第3の転送トランジスタ501Bは、転送パルスφTX1Bによって制御される。第4の転送トランジスタ502Bは、転送パルスφTX2Bによって制御される。第5の転送トランジスタ503は、転送パルスφTX3によって制御される。リセットトランジスタ504は、リセットパルスφRESによって制御される。選択トランジスタ506は、選択パルスφSELによって制御される。
第5の転送トランジスタ503を制御する転送パルスφTX3により、フォトダイオード500をリセット状態として、蓄積開始のタイミングを決定する。また、第1の転送トランジスタ501Aを制御する転送パルスφTX1Aにより、フォトダイオード500に蓄積された電荷が第1の電荷保持部507Aへ転送されるタイミングを決定する。第3の転送トランジスタ501Bを制御する転送パルスφTX1Bにより、フォトダイオード500に蓄積された電荷が第2の電荷保持部507Bへ転送されるタイミングを決定する。
図4は、撮像素子184の読み出し回路308の構成例を示す回路図である。読み出し回路308は、第1のスイッチ414、第2のスイッチ415、第3のスイッチ418、第4のスイッチ419、第1の容量410、第2の容量411、第1の水平出力線424、第2の水平出力線425、出力アンプ421を含む。
第1のスイッチ414は、容量410への画素信号の書き込みを制御するスイッチである。第1のスイッチ414は、信号Tsで制御されるスイッチであり、信号Tsがハイレベルのときにオン状態となり、信号出力線523の出力端子と容量410とを接続する。第2のスイッチ415は、容量411への画素信号の書き込みを制御するスイッチである。第2のスイッチ415は、信号Tnで制御されるスイッチであり、信号Tnがハイレベルのときにオン状態となり、信号出力線523の出力端子と容量411とを接続する。
第3のスイッチ418は、容量410に保持されている画素信号の出力アンプ421への出力を制御するスイッチである。第4のスイッチ419は、容量411に保持されている画素信号の出力アンプ421への出力を制御するスイッチである。第3のスイッチ418および第4のスイッチ419は、水平シフトレジスタ431からの制御信号に応じてオン状態になる。これにより、容量410に書き込まれた信号は、第3のスイッチ418および水平出力線424を介して出力アンプ421に出力される。また、容量411に書き込まれた信号は、第4のスイッチ419および水平出力線425を介して出力アンプ421に出力される。
出力アンプ421は、水平出力線424と水平出力線425からの信号の差動信号を出力する。出力アンプ421の出力はアナログフロントエンド188が有するA/D変換器でデジタル信号に変換され、デジタル信号処理部187に送られる。信号Ts、信号Tnおよび水平シフトレジスタ431からの信号は、システム制御CPU178による制御に基づいて、タイミング発生部189から供給される信号である。
図5は、第1実施形態における、撮像素子184の駆動シーケンスを示すタイミングチャートである。以下の説明では、図3に示される回路図の(1,1)の画素要素50を例に、撮像素子の制御のタイミングを説明する。なお、図5のタイミングチャートでは時間の間隔を模式的に示しており、実際の制御の時間間隔とは異なる。
まず、時刻t1において、垂直走査回路307から供給される転送パルスφTX3がハイレベルからローレベルへと遷移する。これにより、画素要素50の転送トランジスタ503がオフとなり、画素要素50のフォトダイオード500のリセットが解除される。そして、画素要素50のフォトダイオード500において、静止画用となる信号電荷の蓄積が開始される。
時刻t2において、選択パルスφSELがローレベルからハイレベルへと遷移する。これにより、画素要素50の選択トランジスタ506がオンとなり、画素要素50からの画像信号の読み出しが可能となる。
時刻t3において、転送パルスφTX1Aがローレベルからハイレベルへと遷移する。これにより、第1の転送トランジスタ501Aがオンとなり、画素要素50のフォトダイオード500に蓄積された信号電荷が第1の電荷保持部507Aに転送される。
時刻t4において、転送パルスφTX1Aがハイレベルからローレベルへと遷移する。これにより、第1の転送トランジスタ501Aがオフとなり、フォトダイオード500に蓄積された信号電荷の第1の電荷保持部507Aへの転送が終了する。
同じく時刻t4において、転送パルスφTX3がローレベルからハイレベルに遷移する。これにより、第5の転送トランジスタ503がオンとなり、フォトダイオード500がリセット状態になる。
時刻t5において、転送パルスφTX3がハイレベルからローレベルに遷移する。これにより、第5の転送トランジスタ503がオフとなり、画素要素50のフォトダイオード500において、検出用となる信号電荷の蓄積が開始される。
時刻t6において、リセットパルスφRESがハイレベルからローレベルへ遷移する。これにより、リセットトランジスタ504がオフとなり、FD領域508のリセット状態が解除される。このとき、FD領域508に存在する残留ノイズ成分による電位に応じた信号が、増幅トランジスタ505および選択トランジスタ506を介して、信号出力線523に読み出される。
時刻t7において、信号Tnがローレベルからハイレベルに遷移する。これにより、第2のスイッチ415がオンになり、信号出力線523からの出力信号が容量411に書き込まれる。
時刻t8において、信号Tnをハイレベルからローレベルへ遷移して、第2のスイッチ415をオフ状態とし、容量411への書き込みを終了する。容量411には、時刻t6で信号出力線523で読み出されたFD領域508の残留ノイズに応じた信号が書き込まれる。
時刻t9において、転送パルスφTX1Bがローレベルからハイレベルへと遷移する。これにより、第3の転送トランジスタ501Bがオンとなり、フォトダイオード500に蓄積された信号電荷が第2の電荷保持部507Bに転送される。
時刻t10において、転送パルスφTX1Bがハイレベルからローレベルへと遷移する。これにより、第3の転送トランジスタ501Bがオフとなり、フォトダイオード500に蓄積された信号電荷の第2の電荷保持部507Bへの転送が終了する。
同じく時刻t10において、転送パルスφTX3がローレベルからハイレベルに遷移する。これにより、第5の転送トランジスタ503がオンとなり、フォトダイオード500がリセット状態になる。
時刻t11において、転送パルスφTX3がハイレベルからローレベルに遷移する。これにより、第5の転送トランジスタ503がオフとなり、画素要素50のフォトダイオード500において、静止画となる信号電荷の蓄積が再び開始される。
時刻t12において、転送パルスφTX2Bがローレベルからハイレベルへと遷移する。これにより、第4の転送トランジスタ502Bがオンとなり、第2の電荷保持部507Bに蓄積された信号電荷がFD領域508に転送される。そして、FD領域508の電位の変化に応じた信号が、増幅トランジスタ505および選択トランジスタ506を介して、信号出力線523に読み出される。
時刻t13において、転送パルスφTX2Bがハイレベルからローレベルへと遷移する。これにより、第4の転送トランジスタ502Bがオフとなり、第2の電荷保持部507Bに蓄積された信号電荷のFD領域508への転送が終了する。
時刻t14において、信号Tsがローレベルからハイレベルに遷移する。これにより、第1のスイッチ414がオンになり、信号出力線523からの出力信号が容量410に書き込まれる。
時刻t15において、信号Tsをハイレベルからローレベルへ遷移する。これにより、第1のスイッチ414をオフ状態とし、容量410への書き込みを終了する。容量410には、時刻t12で信号出力線523で読み出されたFD領域508の検出用画像の信号が書き込まれる。
同じく時刻t15において、水平シフトレジスタ431からの信号により、第3のスイッチ418と第4のスイッチ419を同時にオンの状態にする。これにより、容量410に書き込まれた信号を水平出力線424を介して出力アンプ421に出力し、容量411に書き込まれた信号を水平出力線425を介して出力アンプ421に出力する。出力アンプ421では、水平出力線424からの信号の差動信号を出力する。これにより、検出用画像の信号から残留ノイズを取り除いた画像信号を取り出すことが可能となる。
時刻t16において、選択パルスφSELがハイレベルからローレベルへと遷移する。これにより、選択トランジスタ506がオフとなり、非選択の状態となる。
同じく時刻t16において、リセットパルスφRESがローレベルからハイレベルへと遷移する。これにより、リセットトランジスタ504はオン状態になり、FD領域508はリセットされる。
時刻t17において、選択パルスφSELがローレベルからハイレベルへと遷移する。これにより、選択トランジスタ506がオンとなり、画素要素50からの画像信号の読み出しが可能となる。
時刻t18において、転送パルスφTX1Aがローレベルからハイレベルへと遷移する。これにより、第1の転送トランジスタ501Aがオンとなり、フォトダイオード500に蓄積された信号電荷が第1の電荷保持部507Aに転送される。
時刻t19において、転送パルスφTX1Aがハイレベルからローレベルへと遷移する。これにより、第1の転送トランジスタ501Aがオフとなり、フォトダイオード500に蓄積された信号電荷の第1の電荷保持部507Aへの転送が終了する。これにより、第1の電荷保持部507Aには、時刻t1から時刻t4の期間にフォトダイオード500で蓄積され時刻t4に転送された信号電荷に、時刻t11から時刻t19までにフォトダイオード500で蓄積された信号電荷が加算される。
時刻t17から時刻t20の動作は時刻t2から時刻t16の動作と同様のため、以降の詳細な説明は割愛する。
時刻t17から時刻t21の間に、時刻t2から時刻t16の動作が複数回繰り返される。これにより検出用画像の読み出し動作が複数回行われる。検出用画像を使用した像ブレ検出動作については後述する。また、静止画用にフォトダイオード500で蓄積された信号電荷の第1の電荷保持部507Aへの転送動作が複数回行われる。
時刻t21において、選択パルスφSELがローレベルからハイレベルへと遷移する。これにより、選択トランジスタ506がオンとなり、画素要素50からの画像信号の読み出しが可能となる。
時刻t22において、リセットパルスφRESがハイレベルからローレベルへ遷移する。これにより、リセットトランジスタ504がオフとなり、FD領域508のリセット状態が解除される。このとき、時刻t6と同様に、FD領域508に存在する残留ノイズ成分による電位に応じた信号が、増幅トランジスタ505および選択トランジスタ506を介して、信号出力線523に読み出される。
時刻t23において、信号Tnがローレベルからハイレベルに遷移する。これにより、第2のスイッチ415がオンになり、信号出力線523からの出力信号が容量411に書き込まれる。
時刻t24において、信号Tnをハイレベルからローレベルへ遷移する。これにより、第2のスイッチ415をオフ状態とし、容量411への書き込みを終了する。容量411には、時刻t23で信号出力線523で読み出されたFD領域508の残留ノイズに応じた信号が書き込まれる。
時刻t25において、転送パルスφTX1Aがローレベルからハイレベルへと遷移する。これにより、第1の転送トランジスタ501Aがオンとなり、フォトダイオード500に蓄積された信号電荷が第1の電荷保持部507Aに転送される。
時刻t26において、転送パルスφTX1Aがハイレベルからローレベルへと遷移する。これにより、第1の転送トランジスタ501Aがオフとなり、フォトダイオード500に蓄積された信号電荷の第1の電荷保持部507Aへの転送が終了する。
同じく時刻t26において、転送パルスφTX3がローレベルからハイレベルに遷移する。これにより、第5の転送トランジスタ503がオンとなりフォトダイオード500がリセット状態になる。
時刻t27において、転送パルスφTX2Aがローレベルからハイレベルへと遷移する。これにより、第2の転送トランジスタ502Aがオンとなり、第1の電荷保持部507Aに蓄積された信号電荷が、FD領域508に転送される。そして、FD領域508の電位の変化に応じた信号が、増幅トランジスタ505および選択トランジスタ506を介して、信号出力線523に読み出される。
時刻t28において、転送パルスφTX2Aがハイレベルからローレベルへと遷移する。これにより、第2の転送トランジスタ502Aがオフとなり、第2の電荷保持部507Bに蓄積された信号電荷のFD領域508への転送が終了する。
時刻t29において、信号Tsがローレベルからハイレベルに遷移する。これにより、第1のスイッチ414がオンになり、信号出力線523からの出力信号が容量410に書き込まれる。
時刻t30において、信号Tsをハイレベルからローレベルへ遷移する。これにより、スイッチ414をオフ状態とし、容量410への書き込みを終了する。容量410には、時刻t29において信号出力線523から読み出されたFD領域508の静止画の信号が書き込まれた状態となる。
同時に時刻t30において、水平シフトレジスタ431からの信号により、第3のスイッチ418と第4のスイッチ419をオンの状態にする。これにより、容量410に書き込まれた信号を水平出力線424を介して出力アンプ421に出力し、容量411に書き込まれた信号を水平出力線425を介して出力アンプ421に出力する。そして、出力アンプ421では、水平出力線424からの信号の差動信号を出力する。これにより、静止画の信号から残留ノイズを取り除いた画像信号を取り出すことが可能となる。
時刻t31において、選択パルスφSELがハイレベルからローレベルへと遷移する。これにより、選択トランジスタ506がオフとなり、非選択の状態となる。
同時に時刻t31において、リセットパルスφRESがローレベルからハイレベルへと遷移する。これにより、リセットトランジスタ504はオン状態になり、FD領域508はリセットされる。そして、撮像素子184の駆動が終了する。
以上説明したように第1実施形態では、フォトダイオード500で蓄積した静止画の信号電荷を時間分割して第1の電荷保持部507Aに複数周期転送してから、第1の電荷保持部507Aの電荷信号をFD領域508に転送し、画像信号を読み出す。つまり、フォトダイオード500での露光開始から第1の電荷保持部507Aの電荷信号をFD領域508に転送するまでの期間内に、フォトダイオード500で蓄積した静止画の信号電荷の第1の電荷保持部507Aへの転送を複数回行っている。そして、上記の期間内(静止画の1撮影周期中)にフォトダイオード500で蓄積した検出用画像の信号電荷の第2の電荷保持部507Bへの転送および第2の電荷保持部507Bの電荷信号のFD領域508への転送および読み出しを複数回行う。これにより、静止画の1回の撮影動作中に、検出用画像を複数回取得することができる。
次に、図6および図7のフローチャートを用いて、検出用画像を用いた検出動作を含む静止画撮影動作のフローについて説明する。本実施形態の撮像装置100は、撮影光学系152にブレ補正レンズ185およびブレ補正駆動部186を備える手ブレ補正機構を有しており、静止画撮影中においても検出用画像を読み込んで、像ブレ量を検出し像ブレ補正を行う。なお、図6および図7のフローチャートでは、説明の簡易化のために検出動作に関わる部分だけを示している。
図6は、第1実施形態における、検出用画像を用いたブレ補正を含む静止画撮影の処理を示すフローチャートである。本処理は、ユーザによりスイッチST154が押下され静止画撮影の指示が下されることにより開始する。ステップS601において、フォトダイオード500での静止画信号の露光蓄積動作を開始する。具体的には、システム制御CPU178およびタイミング発生部189で構成される信号制御手段からの制御パルス信号により、転送トランジスタ503をオフの状態とし、フォトダイオード500での静止画信号の露光蓄積動作を開始する。ステップS601の動作が、図5のタイミングチャートの時刻t1に相当する。なお、スイッチ入力手段179により静止画撮影の命令が下される前に、静止画の露光時間は予め定められている。
ステップS602において、静止画信号を第1の電荷保持部507Aへ転送する。具体的には、信号制御手段からの制御パルス信号により転送トランジスタ501Aをオンの状態とし、ステップS601においてフォトダイオード500で露光蓄積を行った静止画信号を第1の電荷保持部507Aへ転送する。その後、転送トランジスタ501Aをオフの状態とし、転送を終了する。ステップS602の動作が、図5のタイミングチャートの時刻t3および時刻t4の動作に相当する。
ステップS603において、フォトダイオード500での検出用画像信号の露光蓄積動作を開始する。ステップS603の動作が、図5のタイミングチャートの時刻t5に相当する。
ステップS604において、検出用画像信号を第2の電荷保持部507Bへ転送する。具体的には、信号制御手段からの制御パルス信号により転送トランジスタ501Bをオンの状態とし、ステップS603においてフォトダイオード500で露光蓄積を行った検出用画像信号を第2の電荷保持部507Bへ転送する。その後、転送トランジスタ501Bをオフの状態とし、転送を終了する。ステップS604の動作が、図5のタイミングチャートの時刻t9および時刻10の動作に相当する。
ステップS605において、静止画信号の露光蓄積動作を再開する。具体的には、信号制御手段からの制御パルス信号により転送トランジスタ503をオフの状態とし、フォトダイオード500での静止画信号の露光蓄積動作を再開する。ステップS605の動作が、図5のタイミングチャートの時刻t11の動作に相当する。
ステップS606において、検出用画像信号をFD領域508へ転送する。具体的には、信号制御手段からの制御パルス信号により転送トランジスタ502Bをオンの状態とし、ステップS604において第2の電荷保持部507Bで保持された電荷信号をFD領域508へ転送する。その後、転送トランジスタ502Bをオフの状態とし、転送を終了する。ステップS606の動作が、図5のタイミングチャートの時刻t12および時刻13に相当する。
ステップS607において、検出用画像IMG−D(i)を読み出す。具体的には、ステップS606においてFD領域508へ転送した電荷信号が、読み出し回路308にて検出用画像IMG−D(i)として読み出される。iは0から始まる整数値であり、静止画撮影が開始されてから数えられる検出用画像IMG−Dの数を示している。i=0は最初に読み出された検出用画像IMG−Dを表す。ステップS607の動作が、図5のタイミングチャートの時刻t15に相当する。
ステップS608において、ブレ補正を行う。ブレ補正の詳細については、図7を用いて後述する。
ステップS609において、静止画信号を電荷保持部507Aへ転送する。具体的には、信号制御手段からの制御パルス信号により転送トランジスタ501Aをオンの状態とし、ステップS605からフォトダイオード500で露光蓄積を行った静止画信号を第1の電荷保持部507Aへ転送する。そして、既に電荷保持部507Aに蓄積されている電荷に、ステップS609で転送した静止画信号を加算する。電荷の加算後、転送トランジスタ501Aをオフの状態とし、転送を終了する。ステップS609の動作が、図5のタイミングチャートの時刻t18および時刻19の動作に相当する。
ステップS610において、ステップS607で読み出された検出用画像IMG−D(i)がi=Nか否か、つまりN番目か否かをシステム制御CPU178が判断する。i=Nの場合は、ステップS611に進む。一方、i=N以外の場合は、ステップS614に進む。ステップS614では、i=i+1のようにiをインクリメントし、ステップS603に戻る。なお、Nは静止画撮影中に検出用画像IMG−Dが読み出される回数であり、撮影開始前に予め決められた撮影露光時間に基づき決定される。
ステップS611において、静止画信号をFD領域508へ転送する。具体的には、信号制御手段からの制御パルス信号により転送トランジスタ502Aをオンの状態とし、ステップS601からステップS609の間に断続的に第1の電荷保持部507Aに転送され保持された電荷信号をFD領域508へ転送する。そして、転送トランジスタ502Aをオフの状態とし、転送を終了する。ステップS611の動作が、図5のタイミングチャートの時刻t27および時刻28に相当する。
ステップS612において、静止画信号を読み出す。具体的には、読み出し回路308が、ステップS611でFD領域508へ転送した電荷信号を静止画信号として読み出す。ステップS612の動作が、図5のタイミングチャートの時刻t30に相当する。
ステップS613において、静止画画像と検出用画像を合成した画像を記録する。具体的には、デジタル信号処理部187が、ステップS607で複数回読み出された検出用画像IMG−D(i)とステップS612で読み出された静止画信号を合成し、1枚の合成画像として出力する。システム制御CPU178は、合成画像を映像メモリ190に記録し、本処理を終了する。
図7は、図6のステップS608のブレ補正の処理を示すフローチャートである。
ステップS701おいて、システム制御CPU178が、ステップS607で読み出された検出用画像IMG−D(i)がi=0か否か、つまり1枚目の検出用画像か否かを判定する。i=0の場合は、本処理を終了する。一方、i=0以外の場合は、ステップS702に進む。
ステップS702において、システム制御CPU178は、読み出された2枚の検出用画像IMG−D(i)とIMG−D(i−1)を用いて、動きベクトルを検出する。動きベクトルは、例えば、時間的に連続した2枚の画像の特徴点を比較することで画像の動きを出することで検出できる。動きベクトルの検出は周知の技術のため、その説明を割愛する。第1実施形態では、システム制御CPU178が動きベクトル検出手段として機能する。
ステップS703において、システム制御CPU178は、ステップS702で検出した動きベクトルに基づいて、ブレ補正量を算出する。
ステップS704において、ブレ補正駆動部186は、システム制御CPU178が算出したブレ補正量に応じてブレ補正レンズ185を駆動させ、本処理を終了する。
以上、図6および図7を用いて説明したフローで、撮像装置100は静止画の撮影を行う。フォトダイオード500で断続的に静止画像用信号の露光蓄積を行う合間に、複数回の検出用画像信号の露光蓄積および検出用画像信号としての読み出しを行う。そして、時間的に連続して取得された検出用画像信号を用いて動きベクトルを検出し、ブレ補正量を算出してブレ補正レンズ185駆動により静止画露光中の像ブレを補正することができる。このように、本実施形態では、別途像ブレ検出センサを取り付けることなく静止画露光中の像ブレを検出して、像ブレ補正をすることができる。
なお、本実施形態ではステップS613において、静止画像信号に、動きベクトル検出に用いた複数回の検出用画像信号を加算合成して、一枚の合成画像を生成した。これは、所望の露光量を得るためである。予め定められた撮像画像の設定露光時間が、ステップS601からステップS609までの期間にあたる。なお、設定露光時間は図5のタイミングチャートでは時刻t1から時刻t25の期間に相当する。静止画像信号のフォトダイオード500での露光蓄積は断続的に行われるため、露光蓄積時間の積算は設定露光時間よりも短くなる。つまり、ステップS612で読み出された静止画像信号は設定露光時間よりも短いため、所望の露光量よりも低くなっている。また、フォトダイオード500で静止画像信号の露光蓄積が中断する間は、検出用画像信号の露光蓄積が行われる。そのため、検出用画像信号を静止画像信号に加算合成することで、合成画像の露光蓄積時間を設定露光時間に合わせることができる。
また、ステップS613では、静止画像と検出用画像を単純に加算合成する例を説明したが、これに限られるものではなく、所望の露光量を得るための合成を行えばよい。例えば、静止画像信号と検出用画像信号では露光蓄積時間が異なるため、加算合成時にそれぞれを所定の割合で合成し、記録ビット数を上げて記録することで、ダイナミックレンジが拡大した画像を得ることができる。露光量の異なる複数の画像を用いたダイナミックレンジ拡大の画像処理については、公知の技術のため説明を割愛する。
なお、ステップS613において撮像装置100内で合成画像を生成せずに、静止画像と検出用画像を映像メモリ190に記録するようにしてもよい。この場合、撮影終了後に、記録した静止画像と検出用画像に基づいて、撮像装置100または記録データが転送された外部装置197において、加算合成を行えばよい。
また、本実施形態では、図5のタイミングチャートにおいて、検出用画像の1回の露光蓄積時間である時刻t5から時刻t10は、静止画像のフォトダイオード500での1回の露光蓄積時間である時刻t1から時刻t5よりも短時間に設定されている。動きベクトルの検出に用いられる検出用画像は、ブレの影響が少ないほうが望ましいので、検出用画像の1回の露光蓄積時間は短く設定されている。
本実施形態では、静止画撮影中の像ブレ検出および像ブレ補正について述べたが、静止画撮影中にその他の撮影状態の検出を行ってもよい。例えば、連続する複数の画像に基づいて、被写体の含まれる範囲のコントラスト評価値を算出し、コントラスト評価値の変化により被写体に対しフォーカスレンズ181が合焦状態であるかを検出するコントラスト検出を行ってもよい。この場合、システム制御CPU178がコントラスト評価値を算出して焦点状態を検出する焦点検出手段として機能する。コントラスト検出では、静止画像露光中にフォーカスレンズ駆動部186によりフォーカスレンズ181を微小駆動させるいわゆるウォブリング動作を行い、焦点検出手段により複数回得られる検出用画像のそれぞれのコントラスト評価値を算出する。そして、ウォブリング動作によるフォーカスレンズ181の移動位置とその位置で得られた検出用画像のコントラスト評価値の変化より、被写体が合焦状態になるようにフォーカスレンズ181を駆動さる。
コントラスト検出を行う場合、図6のフローチャートにおいて、フローの開始時からフォーカスレンズ181がウォブリング駆動をし続けることと、ステップS608のブレ補正動作がAF動作となる以外は上述と同じである。AF動作内ではウォブリング駆動中に得られる検出用画像IMG−D(i)を用いてコントラスト評価を行い、被写体が合焦状態になるようにフォーカスレンズ181をウォブリング駆動に重畳して駆動させる。このように制御を行うことで、別途焦点検出用のセンサを取り付けることなく静止画露光中に被写体がピント方向に動いた場合や、光軸方向の手ブレが発生した場合でも、被写体に対する撮影光学系152の焦点状態を検出することができる。そして、焦点検出結果に基づきフォーカスレンズ181を駆動させることで被写体を合焦状態に保つことができる。
以上説明したように、第1実施形態によると、検出用画像から検出された像ブレや合焦状態等の撮影状態に応じて、像ブレ補正やフォーカスを合わせる焦点調節等を行いながら静止画を取得することで、高品位な静止画を取得することができる。
(第2実施形態)
第1実施形態では、1つのフォトダイオードに対して2つの電荷保持部を有する構成の撮像素子184を用いて静止画像と検出用画像を取得し、検出用画像を用いて撮像装置100の状態を検出して、光学状態の補正を行った。第2実施形態では、第1実施形態と同様の構成の撮像素子184を用いて静止画像と検出用画像を取得し、検出用画像を用いて撮像装置100の状態を検出して、検出状態に応じて静止画像用に露光蓄積した電荷の転送を制御する。
第2実施形態では、検出用画像を用いて撮像装置100の状態を検出し、撮影状態の変化が所定以上である場合は、静止画像用に露光蓄積した電荷のフォトダイオード500から第1の電荷保持部507Aへの転送を一旦停止する。以下では、静止画像用に露光蓄積した電荷の第1の電荷保持部507Aへの転送を一旦停止する動作のことを、転送停止動作と呼ぶ。静止画像用の転送停止動作中にも検出用画像の読み出しは行われ、検出用画像の結果に応じて転送停止動作を解除し、静止画像用にフォトダイオード500で露光蓄積した電荷の第1の電荷保持部507Aへの転送を再開する。図8〜図10を参照して、第2実施形態の詳細について説明する。なお、第2実施形態における撮像装置100の全体の構成および撮像素子184の回路構成は第1実施形態と同様のため、詳細な説明は省略する。
図8は、第2実施形態における、撮像素子184の駆動シーケンスを示すタイミングチャートである。図8のタイミングチャートは、撮像素子184の駆動シーケンスの中でも転送停止動作に関わる部分を示しており、時刻t41は第1実施形態の図5に示されるタイミングチャートにおける時刻t16に対応する。時刻t41までの動作は第1実施形態と同様のため説明を割愛し、時刻t42から転送停止動作について説明を行う。時刻t42の時点では、静止画撮影動作中に後述する転送停止FLAGがONの状態になっており、転送停止動作に切り替わっている。
時刻t42において、選択パルスφSELがローレベルからハイレベルへと遷移する。これにより、画素要素50の選択トランジスタ506がオンとなり、画素要素50からの画像信号の読み出しが可能となる。なお、時刻t42は、第1実施形態における時刻t17に対応している。
時刻t43は、第1実施形態では時刻t18に対応するタイミングである。図8において点線で示されるように、時刻t18では静止画第1行の転送パルスφTX1Aがローレベルからハイレベルへと遷移していた。一方、第2実施形態においては、実線で示されるように、転送停止動作中のため転送パルスφTX1Aはローレベルのままである。
時刻t44において、転送パルスφTX3がローレベルからハイレベルに遷移する。これにより、転送トランジスタ503がオンとなり、フォトダイオード500がリセット状態になる。つまり、転送停止動作中は時刻t44までフォトダイオード500で露光蓄積されていた電荷が、第1の電荷保持部507Aに転送することなくリセットされる。
時刻t45において、転送パルスφTX3がハイレベルからローレベルに遷移する。これにより、転送トランジスタ503がオフとなり、フォトダイオード500のリセット状態が解除され、フォトダイオード500において検出用画像の信号電荷の蓄積が開始される。
時刻t46において、リセットパルスφRESがハイレベルからローレベルへ遷移する。これにより、リセットトランジスタ504がオフとなり、FD領域508のリセット状態が解除される。このとき、FD領域508に存在する残留ノイズ成分による電位に応じた信号が、増幅トランジスタ505および選択トランジスタ506を介して信号出力線523に読み出される。
時刻t47から時刻t50までの動作は、第1実施形態の図5のタイミングチャートの時刻t7から時刻t10の動作と同様のため、説明を省略する。
時刻t51において、転送パルスφTX3がハイレベルからローレベルに遷移する。これにより、転送トランジスタ503がオフとなり、フォトダイオード500において静止画の信号電荷の蓄積が再び開始される。
時刻t52以降の動作は、第1実施形態の図5のタイミングチャートの時刻t12以降の動作と同様であるが、転送停止動作中は以降も転送パルスφTX1Aはローレベルのままである。その結果、時刻t45と同様にフォトダイオード500で露光蓄積された電荷は第1の電荷保持部507Aに転送されることなく、フォトダイオード500はリセット状態に遷移する。一方、転送停止動作が解除された場合は、第1実施形態の図5のタイミングチャートの時刻t18と同様に、転送パルスφTX1Aがローレベルからハイレベルへと遷移される。そのため、第1の電荷保持部507Aに蓄積されている信号電荷に、フォトダイオード500で露光蓄積された信号電荷が加算される。
次に、図9のフローチャートを用いて検出用画像を用いた検出動作を含む静止画撮影動作について説明する。図9は、第2実施形態における、検出用画像を用いたブレ補正を含む静止画撮影の処理を示すフローチャートである。本処理は、ユーザによりスイッチST154が押下され静止画撮影の指示が下されることにより開始する。ステップS901からステップS907の処理は、第1実施形態の図6のステップS601からS607と同様のため説明を省略する。
ステップS908において、ブレ補正を行う。ブレ補正の詳細については図10を用いて後述する。
ステップS909において、システム制御CPU178は、転送停止FLAGがONの状態か否かを判定する。転送停止FLAGは、静止画撮影中において転送停止中の状態を示す判定フラグであり、転送停止中は転送停止FLAGがONの状態にある。転送停止FLAGは、システム制御部CPU178によりON/OFFの状態に切り替えられる。また、フローの開始時はシステム制御部CPU178により、転送停止FLAGはOFFの状態になっている。ステップS909で、転送停止FLAGがONの状態と判定されると、ステップS911に進む。一方、転送停止FLAGがOFFの状態と判定されると、ステップS910に進む。
ステップS910において、システム制御CPU178は、制御パルス信号により第1の転送トランジスタ501Aをオンの状態とし、ステップS905からフォトダイオード500において露光蓄積された静止画信号を第1の電荷保持部507Aへ転送する。そして、既に第1の電荷保持部507Aに蓄積されている電荷に加算する。
ステップS911において、システム制御CPU178は、制御パルス信号により転送トランジスタ503をオンの状態とし、フォトダイオード500をリセット状態とする。ステップS909において転送停止FLAGがONと判断されステップS911に進んだ場合は、フォトダイオード500で蓄積されていた電荷は、第1の電荷保持部507Aに転送されることなくリセットされる。
ステップS912からステップS915およびステップS916の処理は、第1実施形態の図6のフローチャートのステップS610からステップS613およびステップS614の処理と同様のため説明を省略する。
図10は、図9のステップS908のブレ補正の処理を示すフローチャートである。ステップS1001からステップS1003の処理は、第1実施形態の図7のフローチャートのステップS701からステップS703の処理と同様のため説明を省略する。
ステップS1004において、システム制御CPU178は、ステップS908が繰り返されることで、ステップS1003において複数回にわたり算出されたブレ補正量を積算し、積算ブレ補正量を算出する。例えば、ステップS1003で算出されるブレ補正量をBc、積算ブレ補正量をBiとしたとき、ステップS1004は下記の式(1)の処理を行う。
Bi(i) = Bi(i−1)+ Bc ・・・式(1)
式(1)で示されるように、1つ前に算出された積算ブレ補正量B(i−1)に補正量Bcを加算し、積算ブレ補正量Bi(i)を算出する。なお、メインのフロー開始時においてBi(0)は0に初期化されている。
ステップS1004において算出される積算ブレ補正量Bi(i)は、静止画撮影が開始されてからのブレ量の合計値であり、ブ静止画撮影開始から移動をしたブレ補正レンズ185の現在の位置とみなすことができる。しかしながら、ブレ補正レンズ185はある所定のストロークの範囲内でしか駆動することができないので、ストロークを超えるブレ補正量が算出された場合は、ブレ補正レンズ185によるブレ補正をすることができない。そこで、積算ブレ補正量Bi(i)がブレ量閾値Bthを超えて、ブレ補正レンズ185のストロークの限界を超える場合には、転送停止FLAGをONにしてブレ補正レンズ185のブレ補正動作を一旦停止にする。ブレ量閾値Bthは、ブレ補正レンズ185のストロークに応じて設定する。
ブレ補正動作を行っていない間に静止画像用にフォトダイオード500で露光蓄積される電荷信号から得られる画像には像ブレが生じてしまう。そこで、ステップS909で転送停止FLAGがONになっていると判断された場合は、ステップS910において第1の電荷保持部507Aへの電荷の転送を行わずに、フォトダイオード500をリセット状態とする。そして、積算ブレ補正量Bi(i)がブレ閾値Bth以下に収まったと判断されると、転送停止FLAGをOFFとする。転送停止FLAGをOFFとすることで、ブレ補正レンズ185の駆動によるブレ補正を再開する。
また、転送停止FLAGをOFFにすることで、ステップS910において第1の電荷保持部507Aへの電荷の転送を行い、既に第1の電荷保持部507Aに保持されている電荷に加算され保持される。このように撮像装置100を制御することで、振れ補正レンズ185のストローク範囲を超える大きなブレが発生した場合においても、ブレ補正の影響を低減した静止画像を得ることができる。
ステップS1005において、システム制御CPU178は、ステップS1004で算出した積算ブレ補正量Bi(i)がブレ量閾値Bth以上か否かを判定する。積算ブレ補正量Bi(i)がブレ量閾値Bth未満の場合はステップS1006に進む。一方、積算ブレ補正量Bi(i)がブレ量閾値Bth以上の場合は、ステップS1008へ進む。
ステップS1006において、システム制御CPU178は、転送停止FLAGをOFFに設定する。
ステップS1007において、ブレ補正駆動部186は、システム制御CPU178が算出した積算ブレ補正量Bi(i)に応じてブレ補正レンズ185を駆動させてブレ補正を行い、本処理を終了する。
一方、ステップS1008において、システム制御CPU178は、転送停止FLAGをONに設定し、本処理を終了する。
第2実施形態では、転送停止FLAGがONになった後、積算ブレ補正量Biがブレ閾値Bthよりも小さくなると再度転送停止FLAGをOFFとしたが、一度転送停止FLAGがONになった場合は、速やかにステップS912に進むように制御してもよい。このように制御しても、ブレ補正の影響を低減した静止画像を得ることができる。この場合、静止画の露光時間が設定よりも短くなり露光量が足りないことが考えられるので、取得した静止画像の全体の輝度を上げるゲインアップ処理を行うようにしてもよい。但し、ゲインアップ処理を行うとノイズも増幅されるので、ゲインアップ処理のゲイン値は所定以下に押さえられることが望ましい。
また、第2実施形態では、ステップS912において検出用画像IMG−D(i)がN枚目かどうかで、ステップS913に進むかを判断していたが、他の判定によりステップS913に進んでもよい。例えば、転送停止動作中は静止画像用のフォトダイオード500で露光蓄積された電荷が第1の電荷保持部507Aに転送されない。つまり、静止画撮影中に転送停止動作に移行した場合に、検出用画像IMG−D(i)がN枚目に到達したタイミングでステップS912に進み、第1の電荷保持部507Aの電荷をFD領域508へ転送されると、以下のようなことが発生する。ステップS914で読み出される静止画像は、撮影命令開始前に設定された露光時間に対し、電荷が露光蓄積された積算時間が短いため、露光量が足りない画像となってしまう。そこで、ステップS910を通過するごとにカウントアップするカウンターjを有しておき、j=Nになった場合にステップS913に進むように制御することが考えられる。このように制御することで、静止画像信号のフォトダイオード500での露光蓄積時間の積算時間が設定された露光時間に達してから、静止画撮影のフローを終了することになる。
また、第2実施形態では、ブレ補正レンズ185を有しており、検出用画像信号を用いて動きベクトル算出を行うことでブレ補正を行ったが、撮像装置100にブレ補正レンズ185がない構成の場合は以下のように制御すればよい。ステップS1005で用いられるブレ量閾値Bthを静止画撮影時に発生しても許容できるブレ量として設定しておき、積算ブレ補正量Bi(i)がブレ量閾値Bthよりも大きいかを判断すればよい。この許容できるブレ量とは、撮像面上でブレに換算した時に数10umであることが望ましい。そして、積算ブレ補正量Bi(i)がブレ量閾値Bthよりも小さい場合、ステップS1006には進むが、ブレ補正レンズ185がないのでステップS1007は進まずにサブフローを終了するように制御する。このように制御することで、積算ブレ補正量Biが大きいときは転送停止動作になり、静止画像用のフォトダイオード500で露光蓄積した信号が電荷保持部507Aに転送されず加算されない。よって、ブレの影響を低減した静止画像を取得することができる。なお、転送停止動作に移行した後、静止画の撮影を終了するとしてステップS913に進んでもよいし、上述のように積算ブレ補正量Biが閾値未満になってから転送停止動作を解除してもよい。
第2実施形態では、1つのフォトダイオードに対して2つの電荷保持部を有する構成の撮像素子184を用いて静止画像と検出用画像を取得し、検出用画像を用いて像ブレの状態を検出して、像ブレ補正および転送停止動作を行った。検出用画像を用いて検出を行う対象は像ブレに限られるものではなく、例えば、合焦状態などの光学状態であってもよい。合焦状態を検出する場合、例えば、連続する複数の画像について被写体の含まれる範囲のコントラスト評価値を算出し、コントラスト評価値の変化により被写体に対しフォーカスレンズ181が合焦状態であるかを検出する。
コントラスト評価値に応じて転送停止動作を行場合、ブレ補正量を算出する代わりにコントラスト評価値を算出し、積算ブレ補正量の変わりにIMG−D(0)のコントラスト評価値との差分がコントラスト評価閾値よりも大きいかを判断する。そして、コントラスト評価値の差分値がコントラスト評価閾値より大きい場合は、被写体の焦点状態のボケ量が範囲を超えたと判断し、転送停止FLAGをONとする。そして、静止画像用のフォトダイオード500で露光蓄積した信号を第1の電荷保持部507Aに転送しないよう制御する。一方、コントラスト評価値の差分値がコントラスト評価閾値より小さい場合は、被写体が合焦状態のままと判断し転送停止FLAGをOFFのままとし、ステップS1007に移行せずにサブフローを終了すればよい。このように制御することで、合焦状態からフォーカス状態が大きく変化した際にフォトダイオード500で露光蓄積した信号は、第1の電荷保持部507Aで蓄積されないので、被写体のピント状態の劣化の少ない静止画像を得ることができる。
以上説明したように、第2実施形態によると、検出用画像から検出される撮影状態に応じて、静止画像用に露光蓄積した電荷のフォトダイオード500から第1の電荷保持部507Aへの転送を停止したり再開したり等の制御を行う。これにより、画像の品位低下につながるような大きなブレや非合焦状態が生じた際の電荷を含まない静止画を生成することができ、より高品位な静止画を取得することができる。
(第3実施形態)
第3実施形態では、静止画撮影中に検出用画像を用いて輝度(露光量)の状態を検出し、検出結果を用いて静止画像の画像内で露光量が飽和している箇所がないかを判断する。そして、そのまま露光を続けると静止画像に飽和する箇所が発生する場合には、露光を終了するように制御する。第3実施形態における撮像装置100の全体の構成および撮像素子184の回路構成は第1実施形態と同様のため、詳細な説明は省略する。また、撮像素子184の制御タイミングについても、図5を用いて示した第1実施形態のタイミングチャートと同様のため説明を省略する。なお、第3実施形態においては、システム制御CPU178が、輝度の検出手段(輝度値算出手段および輝度値推定手段)としての機能を有する。
図11は、第3実施形態における、検出用画像を用いた露光量検出を含む静止画撮影の処理を示すフローチャートである。本処理は、ユーザによりスイッチST154が押下され静止画撮影の指示が下されることにより開始する。ステップS1101からステップS1107の処理は、第1実施形態の図6のフローチャートのステップS601からS607までと同様のため説明を省略する。
ステップS1108においては、システム制御CPU178は、露光量が飽和していないかを判断する露光量検出の処理を行う。露光量検出処理の詳細は、図12を用いて後述する。
ステップS1109において、システム制御CPU178は、飽和FLAGがONの状態か否かを判定する。飽和FLAGは、静止画撮影中において静止画像による画像内でこのまま撮影露光を続けると飽和に達することを示す判定フラグであり、露光量検出動作で飽和直前と判断されると飽和FLAGはONの状態になる。また、飽和FLAGはフローの開始時はOFFの状態になっている。ステップS1109で飽和FLAGがONの状態と判定されると、ステップS1113に進み、第1の電荷保持部507Aの電荷をFD領域508へ転送し、静止画の露光蓄積を終了する。一方、飽和FLAGがOFFの状態と判定されると、ステップS1110に進む。
ステップS1110において、システム制御部CPU178は、ユーザがスイッチST154をOFFにして静止画撮影の停止指示を出したか否かを判定する。スイッチST154がOFFである場合はステップS1113に進む。一方、スイッチST154がONのままである場合はステップS1111に進む。スイッチST154はユーザが押下している間はONの状態で、押下をやめるとOFFになるタクトスイッチなどでもよく、その他のスイッチの方式でもよい。
ステップS1111において、システム制御部CPU178は、第1の転送トランジスタ501Aをオンの状態とする。これにより、ステップS1105から開始されたフォトダイオード500で露光蓄積を行った静止画信号を第1の電荷保持部507Aへ転送し、既に第1の電荷保持部507Aに蓄積されている電荷に加算する。
ステップS1112からステップS1115およびステップS1116の動作は、第1実施形態のステップS610からステップS613およびステップS614の動作と同様であるため、その説明を省略する。
図12は、図11のステップS1108の露光量検出の処理を示すフローチャートである。
ステップS1201において、システム制御部CPU178は、読み出された検出用画像IMG−D(i)の輝度値を検出し、検出用画像IMG−D(i)を所定の補正値Giでゲインアップし、画像全体の輝度値を上昇させる。所定の補正値Giは、フォトダイオード500で周期的に行われる静止画像信号の1回の露光蓄積時間と、検出用画像の1回の露光蓄積時間の比率で定められる。具体的には図5のタイミングチャートの時刻t1からt4までの時間をTs、時刻t5からt10までの時間をTdとすると、補正値Giは下記の式(2)で求められる。
Gi = Ts/Td ・・・式(2)
補正値Giでゲインアップをすることで、フォトダイオード500での1回の露光蓄積で得られる検出用画像の輝度を、1回の露光蓄積で得られる静止画像の蓄積輝度と同等に補正することができる。
ステップS1202において、システム制御部CPU178は、ステップS1201でゲインアップされたIMG−D(i)を積算画像IMG−Iに加算し、検出用画像信号による積算画像を算出する。積算画像IMG−Iは、検出用画像IMG−D(i)と同じ画素数を有する画像である。積算画像IMG−Iは、撮影開始時には全画素について0が設定されている。ゲインアップされた検出用画像信号IMG−D(i)を繰り返し積算することで、積算画像IMG−Iは第1の電荷保持部507Aで蓄積された静止画像信号の電荷信号から生成できる静止画像の輝度値を推定することができる。つまり、静止画像と同等の露光量の仮想画像を積算画像IMG−Iとして得ることができる。
ステップS1203において、システム制御部CPU178は、ステップS1202で作成した積算画像IMG−Iを表示部153に表示し、ユーザに対し現在の露光時間で得られると想定される静止画像の仮想画像を表示する。
ステップS1204において、システム制御部CPU178は、積算画像IMG−Iの全画素の中で輝度の最大値が閾値Dth以上か否かを判定する。IMG−Iが閾値Dth未満の場合は、静止画像はまだ飽和しないと判断しフローを終了する。一方、IMG−Iが閾値Dth以上であれば、静止画像が飽和間近と判断し、ステップS1204に進む。閾値Dthは、静止画像信号の画素値の設定できる最大値つまり飽和値か、飽和値よりも若干少ない値が設定されている。
ステップS1204において、システム制御部CPU178は、飽和FLAGをONにしてフローを終了する。
第3実施形態では、検出用画像を用いて静止画像の仮想画像である積算画像IMG−Iを生成し、生成した積算画像IMG−Iを用いて第1の電荷保持部507Aで蓄積されている静止画像信号が飽和間近かを判定している。そして、この判定結果に基づいて静止画撮影を終了させるかを判定し、静止画像信号のFD領域508への転送を制御している。つまり、積算画像IMG−Iの輝度が所定以上の場合は、第1の転送トランジスタ501Aによる電荷保持部507Aへの転送を停止し、第2の転送トランジスタ502Aにより第1の電荷保持部507Aの電荷をFD領域へ転送する。そのため、静止画撮影において静止画像が飽和することなく適正な露光量で取得することができる。
また、静止画露光中に表示部153に現在の静止画像信号の仮想画像を表示することで、ユーザが仮想画像の露光量を判断し、所望のタイミングで静止画撮影を終了することができ、ユーザが所望する高品位な静止画像を得ることができる。なお、バルブ撮影のような撮影開始前に静止画露光時間を定めないで撮影を行う場合は、ステップS1112での判断は行わずに、常にステップS1111からステップS1116に進むように制御すればよい。このように撮像装置100を制御することで、別途露光状態を検出するセンサを設けることなく、静止画露光中に静止画像が飽和するかどうかの状態を検出することができる。その結果、例えば、長秒露光によって何発もの花火を1枚の静止画像に露光するような露光中に被写体に変化のある長秒露光撮影においても、適正な露光量の静止画像を得ることができる。
なお、第1実施形態〜第3実施形態では、1つのフォトダイオード500に対して第1の電荷保持部507Aと第2の電荷保持部507Bを有する構成の撮像素子184を用いて、静止画像と検出用画像を取得する例を説明した。しかし、これに限られるものではなく、静止画像と検出用画像を並行して取得し、検出用画像を用いた検出結果に応じて静止画像のための電荷の蓄積を制御できる撮像装置であればよい。例えば、図13を用いて後述する1つのフォトダイオードに対して1つの電荷保持部を有する構成の撮像素子を用いて、電荷の蓄積を行う行を異ならせることで、静止画像と検出用画像を並行して取得してもよい。
(第4実施形態)
第1実施形態〜第3実施形態では、静止画像と検出用画像を取得し、検出用画像を用いて撮像状態を検出して、撮像状態に応じて静止画を生成するための電荷の蓄積の制御を行った。本実施形態では、フレームレートの異なる2つの画像を取得する実施形態について、低フレームレートの第1の動画と高フレームレートの第2の動画を例に説明する。
本実施形態における撮像装置100の全体の構成は第1実施形態と同様のため、詳細な説明は省略する。図13は、本実施形態における撮像素子184の画素の構成例を示す回路図である。本実施形態の画素は、1つのフォトダイオード500に対して第1の電荷保持部507Aのみを有している。即ち、1つの光電変換部に対して1つの電荷保持部を有する構成となっている。なお、各構成の詳細は第1実施形態と同様のため、同じ符号を付すことでその詳細な説明を省略する。
図14は、第1の動画(picture A)と第2の動画(picture B)の撮影条件の設定画面を説明する図である。設定画面は、撮像装置本体151の表示部153に表示される。撮影モード選択レバー156を時計方向に回転させることによって、2つの動画を同時に撮影することが出来るデュアル撮影モードに入る。設定画面には、第1の動画と第2の動画について、輝度、レンズの絞り値、ISO感度、シャッタ速度および再生モードが表示される。それぞれの項目は、アップスイッチ158、ダウンスイッチ159およびダイアル160を用いて複数の選択肢の中から撮影の目的に合ったものを選択することで設定する。また、いくつかの項目が入力されると残りの項目は自動演算されて候補が表示されるようにしてもよい。
輝度には、その時の被写体の輝度がBv値1321として表示される。レンズの絞り値には、設定したレンズの絞り値がFナンバー1322として表示される。ISO感度には、第1の動画のISO感度1323と第2の動画のISO感度1324が表示される。シャッタ速度には、第1の動画のシャッタ速度1325と第2の動画の1326が表示される。再生モードには、第1の動画の再生モード1327と第2の動画の再生モード1328が表示される。本実施形態では、第1の動画の再生モード1327に通常再生である「Normal」が、第2の動画の再生モード1328にスロー再生である「Slow」が設定されている例を説明する。再生モード1328に「Slow」が設定されている第2の動画は、スロー再生に対応するため、第1の動画より高フレームレートの動画を取得する。
図15は、第1の動画と第2の動画の撮影条件の設定を説明する図である。一例として、第2の動画のシャッタ速度を変更した、設定項目1と設定項目2を示している。高フレームレートの第2の動画のシャッタ速度は、例えば、スローモーション再生した時に動きが停止する精細な画像が連続再生できているようなシャッタ速度を設定する。本実施形態では、撮影する被写体の移動速度により、第2の動画のシャッタ速度を、1/250秒もしくは1/500秒に設定する。低フレームレートの第1の動画におけるシャッタ速度は、フレームレートに対してパラパラ感のない滑らかな映像を得られる1/60秒に設定する。
一般に、同じ絞り値で同時に撮影されるフレームレートの異なる第1の動画と第2の動画は、シャッタ速度が異なるため、ISO感度が異なるように制御される。そのため、高フレームレートの第2の動画が適正露出になるように露出制御を行うと、低フレームレートの第1の動画は飽和してしまいISO感度を制御することができない。そこで、本実施形態では、低フレームレートの第1の動画を取得する1/60秒の間に、一定の間隔で短い蓄積をNp回加算して動画を生成する、時分割蓄積を行う。時分割蓄積を行うことで、蓄積される期間はパラパラ感の無い1/60秒だが、実際に露光される積算光量は1/60秒より少なくなり、実質的にはISO感度が小さくなるようにしている。時分割蓄積により、本実施形態では、第1の動画と第2の動画のISO感度は100となる。
設定項目1で示されるように、Bv値1321が7、絞り値1322がF4.0、第1の動画のISO感度1323と第2の動画のISO感度1324が共に100の場合、第2の動画のシャッタ速度1326は1/250秒で適性露光となる。また、ここでは第1の動画の蓄積回数Npを16とする。通常再生される第1の動画のシャッタ速度1325は、パラパラ感の無い1/60秒が必要であるが、合計露光量は第2の動画と同じ1/250秒とする必要があるので、第1の動画の1回の蓄積時間は、1/250秒÷16=1/4000秒となる。
以上説明したように、本実施形態では、第1の動画の合計の蓄積時間を、第2の動画の蓄積時間と同じになるように制御する。すなわち、撮像素子184の第1の電荷保持部507Aにて短い蓄積をNp回加算して生成された第1の動画の全蓄積時間は、第2の動画の蓄積時間と等しくなる。そのため、同じ撮影周期に撮影された第1の動画の露出は、第2の動画と同じ露出となり、ISO感度によるゲインアップ操作をしなくても、双方の画質の差が生じないようにすることが可能となる。
図16および図17は、第1の動画と第2の動画を同時に撮影するための、撮像素子184における蓄積および読み出しタイミングを説明する図である。図16が図15に示される設定項目1に、図17が設定項目2に対応している。ここで、蓄積とは、フォトダイオード500で発生した電荷を第1の電荷保持部507Aもしくは第2の電荷保持部507Bに転送することにより実行される。また、読み出しとは、第1の電荷保持部507Aもしくは第2の電荷保持部507Bに保持された電荷を、FD領域508を介して撮像素子184の外部に出力することを指している。
図16および図17は概念図であり、記載された行は実際の撮像素子184の画素の行では無く、同時に読み出す行を一行にまとめて表現している。例えば、撮像素子184の画素がベイヤー配列されている場合、GB行とRG行の2行を、図16および図17では1行で表示している。また、図16および図17では便宜的に数行のタイミングを図示しているが、実際の撮像素子184は数千行を有する。図16および図17では、最終行をm行としている。
図16および図17には、横軸を時間として、垂直同期信号1650、水平同期信号1651、第1の蓄積期間1663、第1の転送期間1664、第1の読み出し期間1666、第2の蓄積期間1661、第2の転送期間1662、第2の読み出し期間1665を示している。本実施形態では、垂直同期信号1650の1撮影周期中に第1の動画と第2の動画を読み出すようになっている。
ここで、第1の蓄積期間1663とは、第1の動画の蓄積期間のための信号電荷のフォトダイオード600への蓄積期間を示している。第1の転送期間1664とは、第1の動画のための信号電荷をフォトダイオード600から第1の電荷保持部607Aに転送する期間を示している。第1の読み出し期間1666とは、第1の動画の読み出し期間である。第2の蓄積期間1661とは、第2の動画の蓄積期間のための信号電荷のフォトダイオード600への蓄積期間を示している。第2の転送期間1662とは、第2の動画のための信号電荷をフォトダイオード600から第2の電荷保持部607Bに転送する期間を示している。第2の読み出し期間1665とは、第2の動画の読み出し期間である。
撮影者により設定項目1が設定された場合の電荷の蓄積、転送、読み出しについて、図16を用いて説明する。まず、蓄積について説明する。ここでは、被写体の移動速度に適したスローモーション再生がされるように、第2の動画のシャッタ速度としてT1=1/250秒を撮影者が選択しているとする。すなわち、図15の設定項目1が設定されているとする。そのため、1撮影周期(時間Tf=1/60秒)において、低フレームレートの第1の動画のために第1の蓄積期間1663でNp回(Np=16)の蓄積がなされる。なお、第1の蓄積期間1663は、T1(=1/250秒)/16で1/4000秒である。16回の蓄積分が第1の電荷保持部607Aにて加算され、合計の露光量は1/250秒の蓄積を1回行った場合と同等となる。また、16回の蓄積を行うが、実質的には第1回目の蓄積期間の開始時刻から16回目の蓄積期間の終了時刻までが1つの長い蓄積期間である。したがって、第1の動画は、パラパラ感の抑制された滑らかな画像を取得することが可能である。
1行目は、低フレームレートの第1の動画のための信号電荷の蓄積を示している。垂直同期信号1650の1周期(時間Tf=1/60秒)中にNp回(Np=16)に分割された第1の蓄積期間1663で蓄積がなされる。2行目は、高フレームレートの第2の動画のための信号電荷の蓄積を示している。垂直同期信号1650の1周期(時間Tf=1/60秒)中の2回の蓄積のうち、T1=1/250秒で、第2の蓄積期間1661で蓄積がなされる。
3行目は、1行目と同様に、低フレームレートの第1の動画のための信号電荷の蓄積を示している。4行目は、2行目と同様に、高フレームレートの第2の動画のための信号電荷の蓄積を示している。ただし、2行目は垂直同期信号1650の1周期(時間Tf=1/60秒)の後半での蓄積であったが、4行目は垂直同期信号1650の1周期の前半での蓄積である。このように、第2の動画は撮影周期毎に蓄積行が異なっている。以降、(2N+1)行目に第1の動画のための信号電荷の蓄積が、(2N)行目に第2の動画のための信号電荷の蓄積が行われ、いわゆる行間間引き撮影が行われる。なお、第2の動画の間引き行の数は2行で、第1の動画の1行に比べて行数が多い。
次に、読み出しついて説明する。1行目において、第1の読み出し期間1666で示されるように、垂直同期信号1650の1周期に第1の蓄積期間1663で蓄積された低フレームレートの第1の動画の読み出しは、次の垂直同期信号1650の周期の最初から開始される。3行目の第1の動画の読み出しは、1行目の読み出しに続いて行われ、以降の(2N+1)行の読み出しも順次同様に動作する。そのため、最終行までの読み出しには垂直同期信号1650の1周期Tfの1/2の時間がかかる。
2行目において、第2の読み出し期間1665で示されるように、垂直同期信号1650の1周期の後半に蓄積された高フレームレートの第2の動画の読み出しは、次の垂直同期信号1650の周期の半分から開始される。6行目の第2の動画の読み出しは、2行目の読み出しに続いて行われ、以降の2(2N+1)行の読み出しも順次同様に動作する。そのため、最終行までの読み出しには垂直同期信号1650の1周期Tfの1/4の時間がかかる。
4行目において、第2の読み出し期間1665で示されるように、垂直同期信号1650の1周期の後半に蓄積された高フレームレートの第2の動画の読み出しは、次の垂直同期信号1650の周期の4分の3から開始される。8行目の第2の動画の読み出しは、4行目の読み出しに続いて行われ、以降の2(2N+2)行の読み出しも順次同様に動作する。そのため、最終行までの読み出しには垂直同期信号1650の1周期Tfの1/4の時間がかかる。
それぞれの動画の最終行までの読み出し時間は、第1の動画は1周期の1/2、第2の動画の2(2N+1)行は1周期の1/4、同じく第2の動画の2(2N+2)行は1周期Tfの1/4かかる。そのため、全ての画素の読み出しは1周期の期間内に終了する。
なお、(2N+1)行に生成される第2の動画の蓄積タイミングは、2行毎に撮影周期の範囲の中で、前半と後半に分けられているが、これは撮影周期内での偏りを防ぐためであり、行毎の露光量に変化はない。
第2の動画の蓄積時間は、撮影者によって設定されたシャッタ速度T1に設定されている。第2の動画の蓄積終了時間は全行固定(垂直同期信号1650からTf時間)で、第2の読み出し期間1665の開始直前に蓄積が終了するように設定されている。第2の動画の蓄積終了時間は全行固定のため、第2の動画のシャッタ速度T1に応じて、垂直同期信号1650に対する第2の動画の蓄積開始時間が設定される。また、第2の動画の蓄積終了時間は、垂直同期信号1650の時間Tfの半分以下に設定される。
また、各行の動画の蓄積開始時間は垂直同期信号1650に対して固定であり、撮影者によって設定された第2の動画のシャッタ速度T1に応じて、第1の動画の1回の蓄積終了時間が垂直同期信号1650に対して設定される。そして本実施形態では、撮影周期の長い第1の動画はNp回に時分割して蓄積されて、その時分割蓄積時間は第2の動画のシャッタ速度に応じて決定している。
また、低フレームレートの第1の動画において「撮影周期」とは、時間Tf=1/60秒となり、同一の蓄積タイミングが繰り返される。高フレームレートの第2の動画における「撮影周期」とは、例えば、時間Tf内の前半と後半となる。したがって、第2の動画では撮影周期毎に蓄積行が異なっている。
次に、被写体の移動速度が速い場合について説明する。移動速度が速い被写体に適したスローモーション再生を実現するために、撮影者は第2の動画のシャッタ速度T2をシャッタ速度T1に比べ短く設定する(例えば、T2=1/500秒)。この設定を示したのが、図15の設定項目2である。設定項目1と比較すると、設定項目2の絞り値1322は1段開いたF2.8となっている。Bv値1321、第1の動画のISO感度1323と第2の動画のISO感度1324、第1の動画のシャッタ速度1325は設定項目1と共通である。そのため、第1の動画の1回の蓄積時間はT2/16(=1/8000秒)に設定される。そして、第1の動画の合計露光量は1/8000秒×16=1/500秒なので、第2の動画の露光量と等しくなる。
撮影者により設定項目2が設定された場合の電荷の蓄積、転送、読み出しについて、図17を用いて説明する。まず、蓄積について説明する。撮影周期の長い第1の動画はNp回に時分割して蓄積されて、第2の動画のシャッタ速度に応じて、第1の画像の時分割蓄積時間が決定している。本実施形態では、第1の動画の1回の蓄積時間はT2/16(=1/8000秒)に設定される。また、図17においては、第2の動画の間引き行の数は4行で、第1の動画の1行に比べて行数が多い。また、第2の動画では撮影周期毎に蓄積行が異なっている。
また、図16で説明したように、第2の動画の蓄積終了時間は全行固定で、第1行目の画像の読み出し開始直前に蓄積が終了するように設定されている。第2の動画の蓄積終了時間は全行固定のため、第2の動画のシャッタ速度に応じて、垂直同期信号1650に対する第1の動画の時分割蓄積時間が設定されるようになっている。
図16と同様に、第1の動画の蓄積は1周期中に均等の時間間隔で行われ、各行の動画の読み出し開始直前までに16回に分割された蓄積が終了するように時間間隔が設定される。このとき第1の動画の蓄積の時間間隔は、水平同期信号1651の間隔Thの整数倍に設定される。その結果、各行の動画の蓄積タイミングが同じになるようになっている。各行の動画の蓄積開始時間は垂直同期信号1650に対して固定であり、撮影者によって設定された第2の動画のシャッタ速度に応じて、第1の動画の1回の蓄積終了時間が垂直同期信号1650に対して設定される。
次に、読み出しついて説明する。低フレームレートの第1の動画では、図16の説明と同様に、最終行までの読み出しには1周期Tfの1/2の時間がかかる。
高フレームレートの第2の動画では、以下のようになる。まず、2(4N+1)行について説明する。2行目では、垂直同期信号1650の1周期Tfの期間の後半に蓄積された高フレームレートの第2の動画の読み出しは、次の垂直同期信号1650の期間の半分から開始される。次の10行目では、第2の動画の読み出しは2行目の読み出しに続いて行われる。以降の2(4N+1)行の読み出しも、順次同様に動作する。そのため、最終行までの読み出しには、1周期の1/8の時間がかかる。
次に、2(4N+2)行について説明する。4行目では、垂直同期信号1650の1周期Tfの期間の最終に蓄積された高フレームレートの第2の動画の読み出しは、次の垂直同期信号1650の期間における蓄積の最終行の読み出しに続いて開始される。次の12行目では、第2の動画の読み出しは、4行目の読み出しに続いて行われる。以降の2(4N+2)行の読み出しも、順次同様に動作する。そのため、最終行までの読み出しには、1周期Tfの1/8の時間がかかる。
次に、2(4N+3)行について説明する。6行目では、垂直同期信号1650の1周期Tfの期間の前半に蓄積された高フレームレートの第2の動画の読み出しは、同じ垂直同期信号1650の期間における2(4N+2)行の最終行の読み出しに続いて開始される。次の14行目では、第2の動画の読み出しは、6行目の読み出しに続いて行われる。以降の2(4N+3)行の読み出しも、順次同様に動作する。そのため、最終行までの読み出しには1周期Tfの1/8の時間がかかる。
次に、2(4N+4)行について説明する。8行目では、垂直同期信号1650の1周期Tfの期間の前半に蓄積された高フレームレートの第2の動画の読み出しは、同じ垂直同期信号1650の期間における2(4N+3)行の最終行の読み出しに続いて開始される。次の16行では、第2の動画の読み出しは、8行目の読み出しに続いて行われる。以降の2(4N+4)行の読み出しも、順次同様に動作する。そのため、最終行までの読み出しには、1周期の1/8の時間がかかる。
第1の動画の最終行までの読み出し時間は、垂直同期信号1650の1周期Tfの1/2となる。第2の動画の最終行までの読み出し時間は、2(4N+1)行〜2(4N+4)行それぞれが垂直同期信号1650の1周期Tfの1/8かかるため、合計で垂直同期信号1650の1周期Tfの1/2となる。したがって、第1の動画の読み出しと第2の動画の読み出しを合わせた全画素の読み出しは、垂直同期信号1650の1周期Tfとなる。
本実施形態では、1行毎に蓄積される第1の動画に対し、第2の動画は2(4N+1)行、2(4N+2)行、2(4N+3)行、2(4N+4)行の合計4行に渡って間引かれて蓄積される。すなわち、第2の動画の間引きの行数は4行で、第1の動画の間引きの行数より多い。なお、2(4N+1)行、2(4N+2)行、2(4N+3)行、2(4N+4)行に生成される第2の動画の蓄積タイミングは、撮影周期である垂直同期信号1650の1周期Tfの範囲の中で、4つに分けられている。これは撮影周期内での偏りを防ぐためであり、行毎の露光量には変わりはない。
以上説明したように、異なる複数のフレームレートで撮影可能な撮像装置において、低フレームレートの第1の動画のシャッタ速度は、通常再生でパラパラ感がないようなシャッタ速度として30fps程度では1/30、或いは1/60を常に選択できる。一方、高フレームレートの第2の動画のシャッタ速度は、被写体の移動速度によって、それに適したスローモーション再生がされるようなシャッタ速度を撮影者が自由に選択できる。また、シャッタ速度の選択に際してISO感度の変更を必要としないので、ゲインアップなどによる画質低下を抑制することができる。
図18は、表示部153に表示される画面を表す図である。撮影光学系152を通して捉えられたフェンシングをする人物163が、表示部153上に表示されている。図18(A)は、通常再生が選択され、第1の動画が表示されている様子を示している。表示部153には、通常再生として第1の動画(picture A)と、第1の動画を撮影するシャッタ速度1791およびFナンバー1793が表示されている。第1の動画は低フレームレートである1/60秒で撮影されており、パラパラ感のない滑らかな映像で再生されている。
図18(B)は、スロー再生が選択され、第2の動画が表示されている様子を示している。表示部153には、スロー再生として第2の動画(picture B)と、第2の動画を撮影したシャッタ速度1791およびFナンバー1793が表示されている。第2の動画は高フレームレートである1/250秒で撮影されており、スローモーション再生によって、肉眼では見えにくかったフェンシングの突きの様子などを確認することができる。なお、第1の動画および第2の動画を再生する端末は撮像装置100に限られるものではなく、タブレット端末、パーソナルコンピュータ、テレビモニタ等の外部装置197で表示してもよい。
図19は、第1の動画と第2の動画の活用例を説明する図である。第1の動画(picture A)と第2の動画(picture B)のデータファイルは、記録媒体193やネットワーク上のストレージ等に格納されている。第1の動画および第2の動画は、例えばMP4ファイルとして保存され、撮影時に同じCLIP−UMIDが設定され、関連付けがなされている。第1のフレーム群1801は、低フレームレートの第1の動画(picture A)のフレーム群である。第2のフレーム群1811は、高フレームレートの第2の動画(picture B)のフレーム群である。
第2の動画(picture B)は1/250秒で撮影され、第1の動画(picture A)のフレームレート1/60秒に対し4倍速い。そのため、第1の動画の1枚のフレーム1802に対応する第2の動画のフレームは、フレーム1821〜1824の4枚の画像群となる。同様に、第1の動画のフレーム1803に対応する第2の動画のフレームは、フレーム1831〜1834である。
通常再生中に、例えばユーザにより画面がタップされる等の再生モードを切り替える操作がなされると、スロー再生に切り替わる。すなわち、第1の動画の再生中に再生モードを切り替える操作がなされると、対応する第2の動画が再生される。例えば、フェンシングをする人を撮影していて、突きの瞬間の画像を視聴したいとする。まず、動画の再生をスタートすると第1の動画のフレーム群1801の先頭のフレーム1802から決められたフレームレートで順次、第1のフレーム群1801のフレームが再生される。
所望のシーン近傍のフレーム1803まで再生が進み、ユーザが画面をタップすると、第1の動画に対応する第2の動画のデータファイルから同一タイムコードのフレーム1831が検索される。そして、ユーザが画面をタップし続けている間、フレーム1831から順次フレーム1832、フレーム1833、フレーム1834と第2のフレーム群1811のフレームがスローモーション再生される。スローモーション再生によって、肉眼では見えにくかったフェンシングの突きの様子などを確認することができる。
そして、ユーザがフレーム1934でタップをやめると、第1の動画の通常再生に戻り、第2の動画に対応する第1の動画の同一タイムコードの次のフレーム1804から再生が再開する。本実施形態では、同一画面において第1の動画の動画を表示する通常再生中に画面をタップすると、画面をタップし続けている間は第2の動画の動画をスローモーション再生する例を説明した。この例に限られるものではなく、図20に示すように、第1の動画の動画を表示する通常再生中に画面をタップすると第2の動画の動画に切り替わり、ユーザの操作に応じて第2の動画をコマ送りで再生できるようにしてもよい。また、表示部が2箇所ある場合は、一方に通常再生を表示しておき、これをタップすると他方の画面にスローモーション再生がされるように構成してもよい。この構成では2つの表示動画が一度に視聴できるが、本実施形態では2つの動画の露出は揃っているので不具合が発生することはない。
また、高フレームレートの第2の動画をコマ送りで再生し、所望のフレームを選択して、希望する瞬間の画像を印刷できるようにしてもよい。フレームを選択後、印刷を決定すると、選択したフレームのデータがプリントI/F194を介してプリンタ195に対して出力される。速いシャッタースピードで撮像した画像をプリントできるため、印刷物はストップモーション効果がある迫力のあるものとなる。
第4実施形態では、1つのフォトダイオードに対して1つの電荷保持部を有する構成の撮像素子を用いて、第1の動画と第2の動画の電荷の蓄積を行う行を異ならせることで、フレームレートの異なる動画を並行して取得する例を説明した。しかし、これに限られるものではなく、フレームレートの異なる動画を並行して取得できる撮像装置であればよい。例えば、図3に示される、1つのフォトダイオード500に対して第1の電荷保持部507Aと第2の電荷保持部507Bを有する構成の撮像素子184を用いて、フレームレートの異なる動画を並行して取得してもよい。1つのフォトダイオードに対して複数の電荷保持部を備える撮像素子を用いる場合も、高フレームレートの動画の露出に低フレームレートの動画の露出が合うように、低フレームレートの動画の時分割を制御することで、露出の揃った動画を取得できる。
以上説明したように、本実施形態によれば、通常再生用のパラパラ感のない滑らかな高品位な動画と、スローモーション再生用の高フレームレートの動画とを、露出を揃えて、並行して取得することができる。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上、本発明の好ましい実施形態について説明したが、本発明は、これらの実施形態に限定されず、その要旨の範囲内で種々の変形および変更が可能である。