以下、本発明の実施形態について図面を用いて説明する。なお、本発明は以下の実施形態に限定されるものではなく、その要旨を逸脱しない範囲において適宜変更可能である。また、以下で説明する図面において、同じ機能を有するものは同一の符号を付し、その説明を省略又は簡潔にすることもある。
(第1実施形態)
一般に、動画撮影時のシャッタースピードが速いと、再生時にコマ送りのようないわゆるジャーキネスが表れて映像の滑らかさが失われてしまう。こういったジャーキネスを抑えた滑らかな映像を得るためには、一連の撮影において、1フレーム期間に近い蓄積期間を設定する必要がある。すなわち、フレームレートが30fpsであれば、1/30秒や1/60秒といった比較的長い蓄積期間が適切となる。特に、空撮などのカメラの姿勢が不安定な状況においては、この設定が重要である。
一方、静止画においては、ブレを抑えて一瞬を写し止めた、いわゆるストップモーション効果のある映像を撮影することが求められる。このため、例えば1/1000秒程度の短い蓄積期間を設定する必要がある。また、高フレームレートの動画では、1フレーム期間が短いので、例えばフレームレートが120fpsであれば、1/125秒や1/250秒といった必然的に短い蓄積期間を設定することとなる。
単一の撮影レンズを通して動画と静止画或いは通常フレームレートの動画と高フレームレートの動画の2つの映像を同時に撮影するということは、それらの撮影で使用される絞りが共通であるということである。このときにも、2つの映像が異なる蓄積期間の設定で撮影されながらも、撮像素子においては同程度の信号電荷を得て、どちらもS/N比の良好なノイズ感のない映像となることが望ましい。
また、映画や家庭用のテレビの映像をより臨場感のあるものにするための技術として、動画のHDR(High Dynamic Range)技術がある。これは、表示画面の輝度再現範囲を拡大し、主に、瞬間的或いは部分的な輝度の突き上げによって、従来以上の臨場感を提供するものである。映像の入力から出力までの全体としてこの技術を高いレベルで完成させるためには、映像を取得する機器側でのダイナミックレンジの拡大がどうしても必要である。
このような背景から、撮像装置内の撮像素子に感度の異なる2つの画素群を設け、これら画素群からの出力を合成することによってダイナミックレンジを拡大する技術が提案されている。この技術においても同様に、2つの画素群のどちらからもS/N比の良好なノイズ感のない中間映像データを作成し、最終的に品位の高いHDR映像を合成できることが望ましい。
本実施形態では、まず、単一の撮像素子を用いて撮影条件が異なる2つの映像を同時に撮影する方法について説明する。なお、本実施形態では、撮像素子から出力される映像信号を処理するための映像処理装置に、撮像のための撮影光学系等を追加した撮像装置を、本発明の好適な実施形態の一例として説明する。ただし、映像処理装置は、必ずしも撮像装置の一部として構成される必要はなく、撮像素子や撮影光学系とは別のハードウェアにより構成されていてもよい。また、映像処理装置の機能の全部又は一部を、撮像素子に搭載するようにしてもよい。
図1は、本実施形態に係る撮像装置の一例としてのデジタルスチルモーションカメラの外観図である。図1(a)がその正面図を示し、図1(b)がその背面図を示している。本実施形態に係る撮像装置100は、筐体151と、筐体151の正面部に設けられた撮影光学系152と、筐体151の上面部に設けられたスイッチST154及びプロペラ162とを有している。また、撮像装置100は、筐体151の背面部に、表示部153と、スイッチMV155と、撮影モード選択レバー156と、メニューボタン157と、アップダウンスイッチ158,159と、ダイアル160と、再生ボタン161とを有している。
筐体151は、撮像素子等の撮像装置100を構成する種々の機能部品を収納する容器である。撮影光学系152は、被写体の光学像を結像するための光学系である。表示部153は、撮影情報や映像を表示するための表示装置により構成される。表示部153には、必要に応じて画面の向きを変えるための可動機構を設けてもよい。表示部153は、ダイナミックレンジの広い映像もその輝度範囲を抑制することなく表示できるだけの表示輝度範囲を有している。スイッチST154は、主に静止画の撮影を行うために使用するシャッターボタンである。スイッチMV155は、動画撮影の開始及び停止を行うためのボタンである。撮影モード選択レバー156は、撮影モードを選択するための切り替えスイッチである。メニューボタン157は、撮像装置100の機能設定を行う機能設定モードへ移行するためのボタンである。アップダウンスイッチ158,159は、各種の設定値を変更する際に用いるボタンである。ダイアル160は、各種の設定値を変更するためのダイアルである。再生ボタン161は、撮像装置100に収納されている記録媒体に記録されている映像を表示部153上で再生する再生モードへ移行するためのボタンである。プロペラ162は、空中からの撮影を行うために撮像装置100を空中に浮上させるためのものである。
図2は、本実施形態に係る撮像装置100の概略構成を示すブロック図である。撮像装置100は、図2に示すように、絞り181、絞り制御部182、光学フィルター183、撮像素子184、アナログフロントエンド185,186、デジタル信号処理部187,188、タイミング発生部189を有している。また、撮像装置100は、システム制御CPU178、スイッチ入力手段179、映像メモリ190、飛行制御装置200を有している。また、撮像装置100は、表示インターフェース部191、記録インターフェース部192、記録媒体193、プリントインターフェース部194、外部インターフェース部196、無線インターフェース部198を有している。
撮像素子184は、撮影光学系152を介して結像された被写体の光学像を電気的な映像信号に変換するためのものである。撮像素子184は、特に限定されるものではないが、例えば、UHDTV(Ultra High Definition Television)の規格を満たすに十分な画素数、信号読み出し速度、色域、ダイナミックレンジを有している。絞り181は、撮影光学系152を通る光の量を調節するためのものである。絞り制御部182は、絞り181を制御するためのものである。光学フィルター183は、撮像素子184に入射する光の波長、撮像素子184に伝達する空間周波数を制限するためのものである。撮影光学系152、絞り181、光学フィルター183、撮像素子184は、撮影光学系152の光軸180上に配置されている。
アナログフロントエンド185,186は、撮像素子184から出力される映像信号のアナログ信号処理及びアナログ−デジタル変換を行うためのものである。アナログフロントエンド185,186は、例えば、ノイズを除去する相関二重サンプリング(CDS)回路、信号ゲインを調整するアンプ、アナログ信号をデジタル信号に変換するA/D変換器等により構成される。デジタル信号処理部187,188は、アナログフロントエンド185,186から出力されるデジタル映像データに対して各種の補正を行った後、映像データを圧縮するためのものである。タイミング発生部189は、撮像素子184、アナログフロントエンド185,186、デジタル信号処理部187,188に各種タイミング信号を出力するためのものである。システム制御CPU178は、各種演算の実行や撮像装置100の全体の制御を司る制御部である。映像メモリ190は、映像データを一時的に記憶するためのものである。
表示インターフェース部191は、撮影された映像を表示部153に表示するためのシステム制御CPU178と表示部153との間のインターフェースである。記録媒体193は、映像データや付加データ等を記録するための半導体メモリ等の記録媒体であり、撮像装置100に備え付けられていてもよいし着脱可能でもよい。記録インターフェース部192は、記録媒体193に記録又は記録媒体193から読み出しを行うためのシステム制御CPU178と記録媒体193との間のインターフェースである。外部インターフェース部196は、外部コンピュータ197等の外部機器と通信するためのシステム制御CPU178と外部機器との間のインターフェースである。プリントインターフェース部194は、撮影された映像を小型インクジェットプリンタ等のプリンタ195に出力し印刷するためのシステム制御CPU178とプリンタ195との間のインターフェースである。無線インターフェース部198は、インターネット等のネットワーク199と通信するためのシステム制御CPU178とネットワーク199との間のインターフェースである。スイッチ入力手段179は、スイッチST154、スイッチMV155、各種モードの切り替えを行う複数のスイッチを含む。飛行制御装置200は、空中からの撮影を行うためにプロペラ162を制御して撮像装置100を飛行させるための制御装置である。
図3は、撮像素子184の構成例を示すブロック図である。撮像素子184は、図3に示すように、画素アレイ302、垂直走査回路307、読み出し回路308A,308B及びタイミング制御回路309A,309Bを含む。
画素アレイ302には、複数の画素303が行列状に配置されている。なお、画素アレイ302に属する画素303の実際の配列数は一般的には多数となるが、ここでは図面の簡略化のため、4行×4列の行列状に配置された16個の画素303のみを示している。複数の画素303の各々は、画素要素303Aと画素要素303Bとの組みを有する。図3では、画素303の上半分の領域を画素要素303Aとし、画素303の下半分の領域を画素要素303Bとしている。画素要素303A及び画素要素303Bは、それぞれ光電変換により信号を生成する。
画素アレイ302の各列には、列方向に延在する信号出力線304A,304Bが、それぞれ設けられている。各列の信号出力線304Aは、当該列に属する画素要素303Aに接続されている。信号出力線304Aには、画素要素303Aからの信号が出力される。各列の信号出力線304Bは、当該列に属する画素要素303Bに接続されている。信号出力線304Bには、画素要素303Bからの信号が出力される。画素アレイ302の各列には、列方向に延在する電源線305及び接地線306が、それぞれ設けられている。各列の電源線305及び接地線306は、当該列に属する画素303に接続されている。電源線305及び接地線306は、行方向に延在する信号線としてもよい。
垂直走査回路307は、画素アレイ302に対して行方向に隣接して配置される。垂直走査回路307は、画素アレイ302の複数の画素303に対して行単位で、行方向に延在して配された不図示の制御線を介して、画素303内の読み出し回路を制御するための所定の制御信号が出力される。図には、制御信号として、リセットパルスφRESnA,φRESnB、転送パルスφTXnA,TXnBを示している(nは、行番号に対応した整数)。
読み出し回路308A,308Bは、画素アレイ302を挟むように、画素アレイ302に対して列方向に隣接して配置されている。読み出し回路308Aは、各列の信号出力線304Aに接続されている。読み出し回路308Aは、各列の信号出力線304Aを順次選択的に活性化することで、各列の信号出力線304Aからの信号を順次読み出し、所定の信号処理を実施する。同様に、読み出し回路308Bは、各列の信号出力線304Bに接続されている。読み出し回路308Bは、各列の信号出力線304Bを順次選択的に活性化することで、各列の信号出力線304Bからの信号を順次読み出し、所定の信号処理を実施する。読み出し回路308A,308Bは、それぞれ、雑音除去回路、増幅回路、アナログデジタル変換回路、水平走査回路などを含むことができ、所定の信号処理を実施した信号を順次出力する。
タイミング制御回路309Aは、垂直走査回路307及び読み出し回路308Aに接続されている。タイミング制御回路309Aは、垂直走査回路307及び読み出し回路308Aの駆動タイミングを制御する制御信号が出力される。タイミング制御回路309Bは、垂直走査回路307及び読み出し回路308Bに接続されている。タイミング制御回路309Bは、垂直走査回路307及び読み出し回路308Bの駆動タイミングを制御する制御信号が出力される。
図4は、撮像素子184の画素303の内部構造を示す断面図である。それぞれの画素303は、図4に示すように、2つのフォトダイオード310A,310Bと、ライトガイド255と、カラーフィルタ256とを含む。フォトダイオード310Aは画素要素303Aの一部を構成し、フォトダイオード310Bは画素要素303Bの一部を構成する。フォトダイオード310A,310Bは、シリコン基板251内に設けられている。ライトガイド255は、シリコン基板251上に設けられた絶縁層254内に設けられている。絶縁層254は例えば酸化シリコンにより構成され、ライトガイド255は絶縁層254よりも高屈折率の材料、例えば窒化シリコンにより構成される。ライトガイド255間の絶縁層254には、配線層252が設けられている。ライトガイド255上には、所定の分光透過率特性を有するカラーフィルタ256が設けられている。なお、図4には、隣接する2つの画素303のカラーフィルタを、互いに異なる分光透過率特性を有するカラーフィルタ256,257により構成した例を示している。
ライトガイド255は、絶縁層254との間の屈折率差によって内部に光を閉じ込める性質を有している。これにより、カラーフィルタ256を介して入射した光をライトガイド255によってフォトダイオード310A,310Bに導くことができる。フォトダイオード310A,310Bは、ライトガイド255に対して非対称に配置されており、ライトガイド255を伝搬した光束は、高い効率でフォトダイオード310Aに入射し、低い効率でフォトダイオード310Bに入射する。更に、ライトガイド255は、その深さや傾斜角を調節することにより、フォトダイオード310A,310Bが有効に光電変換できる入射光束に対して、その入射角特性に偏りが生じないようになっている。
図5は、画素に入射する光線の角度とフォトダイオードからの出力との関係を示すグラフである。図5において、横軸が画素に入射する光線の角度を表し、縦軸がフォトダイオードからの出力を表している。図5には、フォトダイオード310Aからの出力特性261と、フォトダイオード310Bからの出力特性262とを示している。
図5に示すように、出力特性261及び出力特性262は、ともに光線の入射角度がゼロのときをピークとする左右対称の僅かに山なりの形状となっている。また、出力特性262のピーク強度PBは、出力特性261のピーク強度PAの1/8程度になっている。このことは、フォトダイオード310A,310Bの入射角依存性はともに小さく、それらの受光効率はフォトダイオード310Aに比べてフォトダイオード310Bが1/8であるということを表している。すなわち、フォトダイオード310Bは、ISO感度の設定値に置き換えると、フォトダイオード310Aよりも3段分、感度が低いことになる。
次に、撮影光学系152と撮像素子184との関係を、図6を用いてより詳しく説明する。図6は、撮影光学系152と撮像素子184との関係を説明する図である。図6(a)は、撮影光学系152をその光軸180方向から見た図である。図6(b)は、図2の撮影光学系152から撮像素子184に至る部分をより詳細に示した図である。
撮像素子184が、図6(b)に示すように、撮像領域の中央部に位置する画素276と、撮像領域の外縁近傍に位置する画素277とを含むものとする。この場合、画素276は、光線272と光線273とで囲まれた領域からの光束を受光することができる。また、画素277は、光線274と光線275とで囲まれた領域からの光束を受光することができる。この際、フィールドレンズ270が光学フィルター183と撮影光学系152との間に配置されているため、撮影光学系152の付近では、画素276が受光する光束と画素277が受光する光束とは、図6(a)に領域271で示すように重なっている。この結果、撮影光学系152からの光束を何れの画素においても高効率で受光することが可能となっている。
図7は、撮像素子から出力される映像信号を説明するための概略図である。ここで、画素アレイ302に、図7(a)に示すカラーフィルタ配列281で、所定の光透過率特性を有するカラーフィルタ256が配置されている場合を想定する。図7(a)は、6行×8列の行列状に画素303が配列された画素アレイ302と、各画素に配置されるカラーフィルタ256の色を模式的に示したものである。図中、Rは赤色カラーフィルタを、G1及びG2は緑色カラーフィルタを、Bは青色カラーフィルタを、それぞれ表している。図示するカラーフィルタ配列281は、いわゆるベイヤー配列と呼ばれるカラーフィルタ配列であり、行毎に、G1BG1B…,RG2RG2…,G1BG1B…,…、といった繰り返しで、各色のカラーフィルタ256が配置されている。
このようなカラーフィルタ配列281を有する画素アレイ302からは、図7(b)及び図7(c)に示される出力データ282,283が得られる。図7(b)中、g1A及びg2Aは、緑色カラーフィルタが配置された画素303の画素要素303Aからの出力を表している。bAは、青色カラーフィルタが配置された画素303の画素要素303Aからの出力を表している。rAは、赤色カラーフィルタが配置された画素303の画素要素303Aからの出力を表している。図7(c)中、g1B及びg2Bは、緑色カラーフィルタが配置された画素303の画素要素303Bからの出力を表している。bBは、青色カラーフィルタが配置された画素303の画素要素303Bからの出力を表している。rBは、赤色カラーフィルタが配置された画素303の画素要素303Bからの出力を表している。
図3を用いて説明したように、撮像素子184からは、読み出し回路308A,308Bからの2系統の出力が得られ、そのうちの一方が図7(b)に示す出力データ282であり、他方が図7(c)に示す出力データ283である。出力データ282は、所定の信号処理ののちに映像信号pictureAとなる。また、出力データ283は、所定の信号処理ののちに映像信号pictureBとなる。以後の説明では、出力データ282に基づく映像信号を「pictureA」、出力データ283に基づく映像信号を「pictureB」と表記するものとする。なお、pictureA,pictureBは、厳密には所定の補正等の処理を行った後の映像信号であるが、説明の便宜上、補正前或いは補正途中の映像信号についてもpictureA,pictureBと表記することがある。また、映像信号pictureA,pictureBに基づいて得られた画像を、それぞれpictureA,pictureBと表記することもある。
図8は、画素303の構成例を示す回路図である。画素303は、上記のように、画素要素303A及び画素要素303Bを有する。画素要素303Aは、フォトダイオード310Aと、転送トランジスタ311Aと、フローティングディフュージョン領域313Aと、リセットトランジスタ314Aと、増幅トランジスタ315Aとを有する。画素要素303Bは、フォトダイオード310Bと、転送トランジスタ311Bと、フローティングディフュージョン領域313Bと、リセットトランジスタ314Bと、増幅トランジスタ315Bとを有する。なお、フォトダイオード310Aは、図4に示したフォトダイオード310Aに対応し、フォトダイオード310Bは、図4に示したフォトダイオード310Bに対応している。
フォトダイオード310Aのアノードは接地線306に接続され、フォトダイオード310Aのカソードは転送トランジスタ311Aのソースに接続されている。転送トランジスタ311Aのドレインは、リセットトランジスタ314Aのソース及び増幅トランジスタ315Aのゲートに接続されている。転送トランジスタ311Aのドレイン、リセットトランジスタ314Aのソース及び増幅トランジスタ315Aのゲートの接続ノードが、フローティングディフュージョン領域313Aを構成する。リセットトランジスタ314Aのドレイン及び増幅トランジスタ315Aのドレインは、電源線305に接続されている。映像信号出力部316Aを構成する増幅トランジスタ315Aのソースは、信号出力線304Aに接続されている。
同様に、フォトダイオード310Bのアノードは接地線306に接続され、フォトダイオード310Bのカソードは転送トランジスタ311Bのソースに接続されている。転送トランジスタ311Bのドレインは、リセットトランジスタ314Bのソース及び増幅トランジスタ315Bのゲートに接続されている。転送トランジスタ311Bのドレイン、リセットトランジスタ314Bのソース及び増幅トランジスタ315Bのゲートの接続ノードが、フローティングディフュージョン領域313Bを構成する。リセットトランジスタ314Bのドレイン及び増幅トランジスタ315Bのドレインは、電源線305に接続されている。映像信号出力部316Bを構成する増幅トランジスタ315Bのソースは、信号出力線304Bに接続されている。
各列の画素303は、垂直走査回路307から行方向に配されたリセット制御線319A,319B、及び転送制御線320A,320Bに接続されている。リセット制御線319Aは、リセットトランジスタ314Aのゲートに接続されている。同様に、リセット制御線319Bは、リセットトランジスタ314Bのゲートに接続されている。転送制御線320Aは、コンタクト部312Aを介して転送トランジスタ311Aのゲートに接続されている。同様に、転送制御線320Bは、コンタクト部312Bを介して転送トランジスタ311Bのゲートに接続されている。リセット制御線319Aは、リセットトランジスタ314Aのゲートに、垂直走査回路307から出力されるリセットパルスφRESnAを供給する。同様に、リセット制御線319Bは、リセットトランジスタ314Bのゲートに、垂直走査回路307から出力されるリセットパルスφRESnBを供給する。転送制御線320Aは、転送トランジスタ311Aのゲートに、垂直走査回路307から出力される転送パルスφTXnAを供給する。同様に、転送制御線320Bは、転送トランジスタ311Bのゲートに、垂直走査回路307から出力される転送パルスφTXnBを供給する。なお、リセットパルスφRESnA及びφRESnB、転送パルスφTXnA及び転送パルスφTXnBの符号に付したnは、行番号に対応した整数である。図面には、nを行番号に対応した整数で置き換えた符号で表している。
フォトダイオード310Aは光電変換により電荷を生成及び蓄積する第1光電変換部であり、フォトダイオード310Bは光電変換により電荷を生成及び蓄積する第2光電変換部である。フローティングディフュージョン領域313A,313Bは、電荷を保持する領域である。転送トランジスタ311Aは、フォトダイオード310Aにより生成された電荷をフローティングディフュージョン領域313Aに転送するためのものである。転送トランジスタ311Bは、フォトダイオード310Bにより生成された電荷をフローティングディフュージョン領域313Bに転送するためのものである。
垂直走査回路307からハイレベルの転送パルスφTXnAが出力されると、転送トランジスタ311Aがオン状態となり、フォトダイオード310Aとフローティングディフュージョン領域313Aとが接続される。同様に、垂直走査回路307からハイレベルの転送パルスφTXnBが出力されると、転送トランジスタ311Bがオン状態となり、フォトダイオード310Bとフローティングディフュージョン領域313Bとが接続される。垂直走査回路307からハイレベルのリセットパルスφRESnAが出力されると、リセットトランジスタ314Aがオン状態となり、フォトダイオード310A、フローティングディフュージョン領域313Aがリセットされる。同様に、垂直走査回路307からハイレベルのリセットパルスφRESnBが出力されると、リセットトランジスタ314Bがオン状態となり、フォトダイオード310B、フローティングディフュージョン領域313Bがリセットされる。
垂直走査回路307からローレベルの転送パルスφTXnAが出力されると、転送トランジスタ311Aがオフ状態となり、フォトダイオード310Aは、光電変換により生成した信号電荷の蓄積を開始する。次いで、垂直走査回路307からハイレベルの転送パルスφTXnAが出力されると、転送トランジスタ311Aがオン状態となり、フォトダイオード310Aの信号電荷はフローティングディフュージョン領域313Aに転送される。すると、増幅トランジスタ315Aは、フォトダイオード310Aから転送された信号電荷の量に応じたフローティングディフュージョン領域313Aの電圧値に基づく入力を増幅して信号出力線304Aに出力する。
同様に、垂直走査回路307からローレベルの転送パルスφTXnBが出力されると、転送トランジスタ311Bがオフ状態となり、フォトダイオード310Bは、光電変換により生成した信号電荷の蓄積を開始する。次いで、垂直走査回路307からハイレベルの転送パルスφTXnBが出力されると、転送トランジスタ311Bがオン状態となり、フォトダイオード310Bの信号電荷はフローティングディフュージョン領域313Bに転送される。すると、増幅トランジスタ315Bは、フォトダイオード310Bから転送された信号電荷の量に応じたフローティングディフュージョン領域313Bの電圧値に基づく入力を増幅して信号出力線304Bに出力する。
図9及び図10は、画素303の要部を示す平面レイアウト図である。図9には、画素303の構成要素のうち、フォトダイオード310A,310B、転送トランジスタ311A,311B、フローティングディフュージョン領域313A,313Bを示している。リセットトランジスタ314A,314B及び増幅トランジスタ315A,315Bを含むその他の回路要素は、図面において読み出し回路321として表し、詳細な図示は省略している。また、画素303の垂直方向に配される信号出力線304A,304B及び電源線305を省略し、リセット制御線319、電源線305、接地線306のコンタクト部を省略している。図10には、図9に示した構成要素に加え、図4において説明したライトガイド255を示している。ライトガイド255は、斜影線を付した部分が低屈折率領域を示し、白抜き部分が高屈折率領域、すなわち導光部分を示している。
図9及び図10において、コンタクト部312Aは、転送制御線320Aと転送トランジスタ311Aのゲートとを接続するコンタクト部である。コンタクト部312Bは、転送制御線320Bと転送トランジスタ311Bのゲートとを接続するコンタクト部である。フォトダイオード310A,310Bは、光電変換を行う光電変換部であり、第1導電型(例えばP型)の半導体領域と、第1導電型の半導体領域とPN接合を構成する第2導電型(例えばN型)の半導体領域(N型の電子蓄積領域)とを有する。フォトダイオード310Aの第2導電型の半導体領域とフォトダイオード310Bの第2導電型の半導体領域とは、分離部322によって分離されている。
転送トランジスタ311A,311B、コンタクト部312A,312B、転送制御線320A,320Bは、フォトダイオード310A,310B間にある分離部322に対し、それぞれ線対称又は略線対称に配置されている。一方、ライトガイド255は、図10に示すように、分離部322に対して偏った位置に配置されている。すなわち、フォトダイオード310Aがライトガイド255の底部分の多くの面積を占めるのに対して、フォトダイオード310Bはライトガイド255の底部分に僅かに掛かるだけとなっている。この結果、フォトダイオード310Aの受光効率は高く、フォトダイオード310Bの受光効率は低くなっている。
本実施形態に係る撮像素子184では、フォトダイオード310A,310Bの受光効率の比を8:1程度、すなわち感度の差を3段程度に設定している。そして、2つの映像を異なる蓄積期間の設定で撮影しつつ、画素要素においては同程度の信号電荷を得て、どちらもS/N比の良好なノイズ感のない映像としたり、或いは、品位の高いHDR映像を合成可能としたりすることに供している。詳細については、後述する。
図11は、撮像素子184の読み出し回路の構成例を示す回路図である。なお、図11には、読み出し回路308Aを想定して、一部の構成要素の符号の末尾に「A」を付記している。読み出し回路308Bにおいては、対応する構成要素の符号の末尾に「B」が付記されるものと理解されたい。
読み出し回路308Aは、図11に示すように、クランプ容量C0、フィードバック容量Cf、オペアンプ406、基準電圧源407、スイッチ423を含む。オペアンプ406の一方の入力端子は、クランプ容量C0を介して信号出力線304Aに接続されている。オペアンプ406の当該一方の入力端子と出力端子との間には、フィードバック容量Cfとスイッチ423とが並列に接続されている。オペアンプの他方の入力端子は、基準電圧源407に接続されている。基準電圧源407は、オペアンプ406に基準電圧Vrefを供給するためのものである。スイッチ423は、信号PC0RAで制御されるスイッチであり、信号PC0RAがハイレベルのときにオン状態となり、フィードバック容量Cfの両端を短絡させる。
読み出し回路308Aは、また、スイッチ414,415,418,419、容量CTSA、容量CTNA、水平出力線424,425、出力アンプ421を含む。スイッチ414,415は、容量CTSA,CTNAへの映像信号の書き込みを制御するスイッチである。スイッチ414は、信号PTSAで制御されるスイッチであり、信号PTSAがハイレベルのときにオン状態となり、オペアンプ406の出力端子と容量CTSAとを接続する。スイッチ415は、信号PTNAで制御されるスイッチであり、信号PTNAがハイレベルのときにオン状態となり、オペアンプ406の出力端子と容量CTNAとを接続する。
スイッチ418,419は、容量CTSA,CTNAに保持されている映像信号の出力アンプ421への出力を制御するためのスイッチである。スイッチ418,419は、水平シフトレジスタからの制御信号に応じてオン状態となる。これにより、容量CTSAに書き込まれた信号は、スイッチ418及び水平出力線424を介して出力アンプ421に出力される。また、容量CTNAに書き込まれた信号は、スイッチ419及び水平出力線425を介して出力アンプ421に出力される。信号PC0RA、PTNA及びPTSAは、システム制御CPU178による制御の下でタイミング発生部189から供給される信号である。
読み出し回路308Bも、読み出し回路308Aと同様の構成を有している。また、以下の説明における信号PC0RB、PTNB及びPTSBは、システム制御CPU178による制御の下でタイミング発生部189から供給される信号である。読み出し回路308Bでの信号PC0RB、PTNB及びPTSBは、読み出し回路308Aでの信号PC0RA、PTNA及びPTSAと同等の役割を担っている。
次に、撮像素子184におけるリセット、蓄積及び読み出しの動作について、第1行目の画素303からの読み出し動作を例にして、図12のタイミングチャートを用いて順次説明する。
まず、時刻t1において、垂直走査回路307は、転送制御線320Bに出力する転送パルスφTX1Bを、ローレベルからハイレベルへと遷移する。これにより、転送トランジスタ311Bは、オン状態となる。このとき、垂直走査回路307からは、リセット制御線319BにハイレベルのリセットパルスφRES1Bが出力されており、リセットトランジスタ314Bもオン状態である。これにより、フォトダイオード310Bは、転送トランジスタ311B及びリセットトランジスタ314Bを介して電源線305に接続され、リセット状態となる。この際、フローティングディフュージョン領域313Bも、リセット状態となる。
次いで、時刻t2において、垂直走査回路307は、転送パルスφTX1Bをハイレベルからローレベルへと遷移する。これにより、転送トランジスタ311Bはオフ状態となり、フォトダイオード310Bでは光電変換による信号電荷の蓄積が開始する。
次いで、時刻t3において、垂直走査回路307は、転送制御線320Aに出力する転送パルスφTX1Aを、ローレベルからハイレベルへと遷移する。これにより、転送トランジスタ311Aは、オン状態となる。このとき、垂直走査回路307からは、リセット制御線319AにハイレベルのリセットパルスφRES1Aが出力されており、リセットトランジスタ314Aもオン状態である。これにより、フォトダイオード310Aは、転送トランジスタ311A及びリセットトランジスタ314Aを介して電源線305に接続され、リセット状態となる。この際、フローティングディフュージョン領域313Aも、リセット状態となる。
次いで、時刻t4において、垂直走査回路307は、転送パルスφTX1Aをハイレベルからローレベルへと遷移する。これにより、転送トランジスタ311Aはオフ状態となり、フォトダイオード310Aでは光電変換による信号電荷の蓄積が開始する。
次いで、時刻t5において、垂直走査回路307は、リセットパルスφRES1Aをハイレベルからローレベルへと遷移する。これにより、リセットトランジスタ314Aはオフ状態となり、フローティングディフュージョン領域313Aのリセットを解除する。
これにより、フローティングディフュージョン領域313Aの電位が信号出力線304Aに増幅トランジスタ315Aを介してリセット信号レベルの映像信号として読み出され、読み出し回路308Aに入力される。
時刻t5において、タイミング発生部189から読み出し回路308Aには、ハイレベルの信号PC0RAが出力されており、スイッチ423はオン状態である。このため、読み出し回路308Aには、オペアンプ406が基準電圧Vrefの出力をバッファする状態で、画素要素303Aからリセット信号レベルの映像信号が入力される。
次いで、時刻t6において、タイミング発生部189から読み出し回路308Aに出力する信号PC0RAをハイレベルからローレベルへと遷移し、スイッチ423をオフ状態にする。
次いで、時刻t7において、タイミング発生部189から読み出し回路308Aへ出力する信号PTNAをローレベルからハイレベルへと遷移してスイッチ415をオン状態にし、そのときのオペアンプ406の出力を容量CTNAへ書き込む。
次いで、時刻t8において、タイミング発生部189から読み出し回路308Aへ出力する信号PTNAをハイレベルからローレベルへと遷移してスイッチ415をオフ状態にし、容量CTNAへの書き込みを終了する。
次いで、時刻t9において、垂直走査回路307は、転送パルスφTX1Aをローレベルからハイレベルへと遷移し、転送トランジスタ311Aをオン状態にする。これにより、フォトダイオード310Aに蓄積されていた信号電荷をフローティングディフュージョン領域313Aに転送する。
次いで、時刻t10において、垂直走査回路307は、転送パルスφTX1Aをハイレベルからローレベルへと遷移し、転送トランジスタ311Aをオフ状態にする。これにより、フォトダイオード310Aに蓄積された信号電荷のフローティングディフュージョン領域313Aへの読み出しを終了する。
これにより、信号電荷により変化したフローティングディフュージョン領域313Aの電位が信号出力線304Aに増幅トランジスタ315Aを介して光信号レベルとして読み出され、読み出し回路308Aに入力される。
そして、読み出し回路308Aでは、クランプ容量C0とフィードバック容量Cfとの容量比率で電圧変化に対して反転ゲインがかかった電圧が、オペアンプ406から出力される。
次いで、時刻t11において、タイミング発生部189から読み出し回路308Aへ出力する信号PTSAをローレベルからハイレベルへと遷移してスイッチ414をオン状態にし、そのときのオペアンプ406の出力を容量CTSAへ書き込む。
次いで、時刻t12において、タイミング発生部189から読み出し回路308Aへ出力する信号PTSAをハイレベルからローレベルへと遷移してスイッチ414をオフ状態にし、容量CTSAへの書き込みを終了する。
次いで、時刻t13において、垂直走査回路307は、リセットパルスφRES1Aをローレベルからハイレベルへと遷移し、リセットトランジスタ314Aをオン状態とする。これにより、フローティングディフュージョン領域313Aは、リセットトランジスタ314Aを介して電源線305に接続され、リセット状態となる。
次いで、時刻t14において、垂直走査回路307は、リセットパルスφRES1Bをハイレベルからローレベルへと遷移する。これにより、リセットトランジスタ314Bはオフ状態となり、フローティングディフュージョン領域313Bのリセットを解除する。
これにより、フローティングディフュージョン領域313Bの電位が信号出力線304Bに増幅トランジスタ315Bを介してリセット信号レベルの映像信号として読み出され、読み出し回路308Bに入力される。
時刻t14において、タイミング発生部189から読み出し回路308Bには、ハイレベルの信号PC0RBが出力されており、スイッチ423はオン状態である。このため、読み出し回路308Bには、オペアンプ406が基準電圧Vrefの出力をバッファする状態で、画素要素303Bからリセット信号レベルの映像信号が入力される。
次いで、時刻t15において、タイミング発生部189から読み出し回路308Bに出力する信号PC0RBをハイレベルからローレベルへと遷移し、スイッチ423をオフ状態にする。
次いで、時刻t16において、タイミング発生部189から読み出し回路308Bへ出力する信号PTNBをローレベルからハイレベルへと遷移してスイッチ415をオン状態にし、そのときのオペアンプ406の出力を容量CTNBへ書き込む。
次いで、時刻t17において、タイミング発生部189から読み出し回路308Bへ出力する信号PTNBをハイレベルからローレベルへと遷移してスイッチ415をオフ状態にし、容量CTNBへの書き込みを終了する。
次いで、時刻t18において、垂直走査回路307は、転送パルスφTX1Bをローレベルからハイレベルへと遷移し、転送トランジスタ311Bをオン状態にする。これにより、フォトダイオード310Bに蓄積されていた信号電荷をフローティングディフュージョン領域313Bに転送する。
これにより、フォトダイオード310Aの蓄積期間の開始時刻と終了時刻の中間時刻(以下「蓄積期間の中間時刻」という)とフォトダイオード310Bの蓄積期間の中間時刻とは、時刻tcで一致する。
次いで、時刻t19において、垂直走査回路307は、転送パルスφTX1Bをハイレベルからローレベルへと遷移し、転送トランジスタ311Bをオフ状態にする。これにより、フォトダイオード310Bに蓄積された信号電荷のフローティングディフュージョン領域313Bへの読み出しを終了する。
これにより、信号電荷により変化したフローティングディフュージョン領域313Bの電位が信号出力線304Bに増幅トランジスタ315Bを介して光信号レベルとして読み出され、読み出し回路308Bに入力される。
そして、読み出し回路308Bでは、クランプ容量C0とフィードバック容量Cfとの容量比率で電圧変化に対して反転ゲインがかかった電圧が、オペアンプ406から出力される。
次いで、時刻t20において、タイミング発生部189から読み出し回路308Bへ出力する信号PTSBをローレベルからハイレベルへと遷移してスイッチ414をオン状態にし、そのときのオペアンプ406の出力を容量CTSBへ書き込む。
次いで、時刻t21において、タイミング発生部189から読み出し回路308Bへ出力する信号PTSBをハイレベルからローレベルへと遷移してスイッチ414をオフ状態にし、容量CTSBへの書き込みを終了する。
次いで、時刻t22において、垂直走査回路307は、リセットパルスφRES1Bをローレベルからハイレベルへと遷移し、リセットトランジスタ314Bをオン状態とする。これにより、フローティングディフュージョン領域313Bは、リセットトランジスタ314Bを介して電源線305に接続され、リセット状態となる。
図13は、本実施形態に係る撮像装置における撮像シーケンスを説明するためのタイミングチャートである。図面の最上部の「タイムコード」は、電源を投入してからの時間を示し、「00:00:00:00」は「時:分:秒:フレーム」を表している。
時刻t31は、撮像装置100の電源投入時刻である。時刻t32において、動画撮影ボタンであるであるスイッチMV155が使用者によって操作されてONとなり、これに応じて、pictureBの撮像及びpictureAの撮像が開始される。動画撮影のためのボタンであるスイッチMV155が操作されることに応じて、pictureBについては、所定の信号処理を経て記録媒体193にその映像データが書き込まれる。
時刻t33から時刻t34の期間及び時刻t35から時刻t36の期間では、静止画の撮影を行うために使用するスイッチST154が操作されている。これを受けてこれら期間においては、pictureAについても、所定の信号処理を経て記録媒体193にその映像データが書き込まれる。ここで、pictureAの映像データは、時刻t33から時刻t34の期間及び時刻t35から時刻t36の期間のみならず、pictureBの映像データと同じ期間の間、記録媒体193に書き込むようにしてもよい。
pictureA及びpictureBの何れについても、記録媒体193に記録された各映像データは同一フレームレートで、例えば、60fpsの動画であり、NTSC方式のタイムコードが付加されているものとする。動画データの各フレームに付加されるタイムコードの値は、例えば図14に示すようになる。
図15は、pictureA及びpictureBの映像データのファイル構造の一例を示す図である。ここでは映像データのフォーマットとしてMP4ファイルの例を示すが、映像データのフォーマットはこれに限定されるものではない。MP4ファイルフォーマットは、ISO/IEC 14496−1/AMD6で規格化されている。全ての情報はBoxと呼ばれる構造体に格納されており、多重化されたビデオ及びオーディオビットストリーム(メディアデータ)と、これらメディアデータに対する管理情報(メタデータ)から構成されている。各Boxは4文字の識別子でそれぞれのBoxタイプが表される。ファイルタイプBox501(ftyp)は、ファイル先頭にあり、ファイルを識別するためのBoxである。メディアデータBox502(mdat)は、ビデオとオーディオのビットストリームが多重化されて格納されている。ムービーBox503(moov)は、メディアデータBox502に格納されたビットストリームを再生するための管理情報が格納されている。スキップBox504(skip)は、再生時にはスキップBox504内に格納されているデータを読み飛ばし、スキップするためのBoxである。
スキップBox504内には、この映像データファイルを含むクリップのクリップ名508、本素材に付与されているクリップのUMID(Unique Material Identifier)509(CLIP−UMID)が格納される。スキップBox504内には、クリップ先頭フレームのタイムコード値(タイムコード先頭値)510、本素材ファイルが記録された記録メディアのシリアル番号511が格納される。なお、本図においては、スキップBox504に、フリースペース505、ユーザデータ506、メタデータ507も含まれている。本素材ファイルのUMIDや記録メディアのシリアル番号のような特殊なデータは、スキップBox504に格納されているので、汎用のビューアで再生する際に影響を与えない。
pictureA及びpictureBのそれぞれのMP4ファイルには、同じCLIP−UMIDが設定される。これにより、CLIP―UMIDを使って1つの素材ファイルから同じCLIP−UMIDのファイルを検索し、人手による確認作業をすることなく機械的に関連付けを行えるようになる。
図16は、pictureA及びpictureBの撮影条件の設定画面を説明する図である。撮影モード選択レバー156を、例えば図1(b)の位置から時計方向に90度回転させることによって、2つの映像を同時に撮影することができるデュアル映像モードに入るものとする。表示部153には、そのときの被写体の輝度に応じたBv値521、Fナンバー522、pictureA及びpictureBのそれぞれのISO感度523,524、シャッタースピード525,526が表示される。また、pictureA及びpictureBのそれぞれについて、現在設定されているピクチャーモード527,528が表示される。ピクチャーモードは、アップダウンスイッチ158,159及びダイアル160を用いて複数の選択肢の中から撮影の目的に合ったものを選択することができる。
前述したように、フォトダイオード310Aとフォトダイオード310Bとの間の受光効率の差は、3段に設定されている。このため、pictureAとpictureBとの間のISO感度範囲には3段の差がある。図17に示すように、pictureAはISO100〜ISO102400、pictureBはISO12〜ISO12800となっている。
図18は、デュアル映像モードにおけるプログラムAE(Automatic Exposure)線図である。横軸がTv値とそれに対応するシャッタースピードを示し、縦軸がAv値とそれに対応する絞り値を示している。また、斜め方向は等Bv線となっている。pictureAのBv値とISO感度との関係がゲイン表記領域556に表されており、pictureBのBv値とISO感度との関係がゲイン表記領域557に表されている。なお、図18において各Bv値は、他のパラメータと区別するために、四角で囲んだ数値で表している。
高輝度から低輝度になるに従って、シャッタースピード、絞り値、ISO感度がどのように変化するかについて、図18を用いて説明する。
まず、Bv13のときは、pictureAでは、ISO感度はISO100に設定される。pictureAの等Bv線は、pictureAのプログラム線図558と点551で交差し、点551からシャッタースピード1/4000、絞り値F11と定まる。一方、pictureBでは、ISO感度はISO12に設定される。pictureBの等Bv線は、pictureBのプログラム線図559と点552で交差し、点552からシャッタースピード1/500、絞り値F11と定まる。
Bv10のときは、pictureAでは、ISO感度は1段分上昇してISO200に設定される。pictureAの等Bv線は、pictureAのプログラム線図558と点553で交差し、点553からシャッタースピード1/1000、絞り値F11と定まる。一方、pictureBでは、ISO感度はISO12に設定される。pictureBの等Bv線は、pictureBのプログラム線図559と点560で交差し、点560からシャッタースピード1/60、絞り値F11と定まる。
Bv6のときは、pictureAでは、ISO感度はISO200に設定される。pictureAの等Bv線は、pictureAのプログラム線図558と点554で交差し、点554からシャッタースピード1/1000、絞り値F2.8と定まる。一方、pictureBでは、ISO感度はISO12に設定される。pictureBの等Bv線は、pictureBのプログラム線図559と点555で交差し、点555からシャッタースピード1/60、絞り値F2.8と定まる。
Bv5のときは、pictureAでは、ISO感度は1段分上昇してISO400に設定される。pictureAの等Bv線は、pictureAのプログラム線図558と点554で交差し、点554からシャッタースピード1/1000、絞り値F2.8と定まる。一方、pictureBでは、ISO感度はISO25に設定される。pictureBの等Bv線は、pictureBのプログラム線図559と点555で交差し、点555からシャッタースピード1/60、絞り値F2.8と定まる。
以降、輝度が下がるにつれて、pictureA、pictureBともに、シャッタースピードと絞り値は変化せずにゲインアップしISO感度が上昇していく。
このプログラムAE線図に示した露光動作を行うことにより、表記した全輝度範囲においてpictureAは1/1000以上のシャッタースピードを保ち、pictureBは多くの輝度範囲で1/60のシャッタースピードを保っている。これにより、pictureAではストップモーション効果を得つつ、pictureBではコマ送り的なジャーキネスのない高品位な動画を得ることができる。
図19は、撮像装置に電源を投入した後のライブビュー表示中の表示部153の様子を表す図である。表示部153には、撮影光学系152を通して捉えられた人物163のスポーツシーンが表示されている。図19では、撮影モード選択レバー156が、図1(b)の状態から90度時計方向に回動した位置に設定されたデュアル映像モードとなっている。このため、表示部153には、pictureAの蓄積期間164、pictureBの蓄積期間165、及びFナンバー166が表示されている。
図20は、第1実施形態に係る撮像装置によって蓄積期間の中間時刻が一致するように撮影を行う場合の蓄積及び転送タイミングを示す図である。図20には、V同期信号681を示している。また、本発明の技術的特徴であるpictureAの蓄積期間682及び683、pictureBの蓄積期間686及び687を示している。図20の横軸は時間であり、pictureA及びpictureBの蓄積期間の上には、フレーム番号を示している。
時刻t52から時刻t54までの蓄積期間682は、pictureAの画面上端ラインの蓄積期間であり、時刻t57から時刻t59までの蓄積期間683は、pictureAの画面下端ラインの蓄積期間である。また、蓄積期間682の直後に点線で示す転送期間684は、画面上端ラインの画素303のフローティングディフュージョン領域313AからpictureAを読み出す期間を表している。また、蓄積期間686の直後に点線で示す転送期間688は、画面上端ラインの画素303のフローティングディフュージョン領域313BからpictureBを読み出す期間を表している。
撮像素子184は、ローリング電子シャッター方式で露光動作を行うため、pictureAの蓄積期間は、画面上端のラインから画面下端のラインに向かって、所定の時間間隔で順次開始し、当該時間間隔で順次終了する。蓄積期間が終了すると信号電荷は撮像素子184から順次読み出され、アナログフロントエンド185に入力される。
同様に、時刻t51から時刻t56までの蓄積期間686は、pictureBの画面上端ラインの蓄積期間であり、時刻t55から時刻t60までの蓄積期間687は、pictureBの画面下端ラインの蓄積期間である。フォトダイオード310Aはフォトダイオード310Bと比べて感度が高いため、pictureAの蓄積期間はpictureBの蓄積期間と比較して短く設定される。pictureBの蓄積期間もpictureAと同様に、画面上端のラインから画面下端のラインに向かって、所定の時間間隔で順次開始し、当該時間間隔で順次終了する。蓄積期間が終了すると信号電荷は撮像素子184から順次読み出され、アナログフロントエンド186に入力される。
このように、受光効率が高いフォトダイオード310AによるpictureAの蓄積期間を短く設定し、受光効率が低いフォトダイオード310BによるpictureBの蓄積期間を長く設定することにより、同程度の強度の映像信号を得ることができる。これにより、pictureA及びpictureBともゲインアップすることなく、S/N比の良好なノイズ感の無い映像を得ることができる。
また、図20に細い実線で示す中間時刻685は、太い実線で示すpictureAの蓄積期間682、683等の中間時刻を結んだ線である。同様に、細い実線で示す中間時刻689は、太い実線で示すpictureBの蓄積期間686、687等の中間時刻を結んだ線である。pictureAの画面上端ラインの蓄積期間682の中間時刻t53は、pictureBの画面上端ラインの蓄積期間686の中間時刻t53と一致している。同様に、pictureAのその他のラインの蓄積期間の中間時刻は、対応するpictureBのラインの蓄積期間の中間時刻と一致している。このように、本実施形態では、それぞれのラインの蓄積期間の中間時刻が一致するように、pictureAとpictureBの蓄積期間の開始タイミングと終了タイミングを制御している。
図21は、第1実施形態に係る撮像装置によって蓄積期間の中間時刻が一致するように撮影したpictureA及びpictureBの画像の例を示す図である。図21(a)は、撮影対象である被写体1を示している。
被写体1は、図21(a)に示すように矢印の方に動いているため、蓄積期間の長いpictureBには被写体ブレが発生する。一方、蓄積期間の短いpictureAには被写体ブレがほとんど発生しない。図21(b)は、被写体ブレが発生したpictureBの画像を示し、図21(c)は、被写体ブレが発生していないpictureAの画像を示している。
図21(b)には、被写体1の被写体ブレを被写体像1a〜1cとして模式的に示している。被写体像1a〜1cは、それぞれpictureBの蓄積期間の開始時刻、中間時刻、終了時刻における被写体1の像を表している。また、図21(b)の被写体像1a〜1cは、図21(c)の被写体1eよりも細い線で表すことにより、フォトダイオードの受光効率が低いことを表している。
図21(b)及び図21(c)に示す画像は、蓄積期間の中間時刻が一致するように撮影されているので、pictureBにおける被写体ブレの中心の被写体像1bの画像上の位置と、pictureAにおける被写体1eの画像上の位置が一致している。これにより、pictureAとpictureBの一方を用いて他方を正しく補正することできる。また、pictureAとpictureBのいずれか一方を用いて生成した映像の1部のフレーム画像を、他方を用いて生成したフレーム画像で置き換えても、再生時の被写体の動きは滑らかであり、映像を高品位に再生することが可能となる。具体的な再生方法と画像処理方法については後述する。
図22は、従来の撮像装置によって蓄積期間の終了時刻が一致するように撮影したpictureA及びpictureBの画像の例を示す図である。図22(a)は、矢印方向に移動している被写体1を示している。図22(b)は、図21(b)と同様に、被写体ブレが発生したpictureBの画像を示している。図22(c)は、図21(c)と同様に、被写体ブレが発生していないpictureAの画像を示している。
図22(b)及び図22(c)に示す画像は、蓄積期間の終了時刻が一致するように撮影されている。このため、図21とは異なり、pictureAにおける被写体1dは、pictureBにおける被写体ブレの中心の被写体像1bではなく、pictureBにおける被写体ブレの端の被写体像1cと画像上の位置が一致している。このため、pictureA又はpictureBの一方を用いて他方を補正しようとしても、被写体の画像上の位置が異なることから正しく補正することができない。また、pictureAとpictureBの一方を用いて生成した映像の1部のフレーム画像を、他方を用いて生成したフレーム画像で置き換えると、映像再生時に被写体の動作がフレーム落ちしたように不自然となってしまう。
一方、本実施形態では、pictureAとpictureBとで、蓄積期間の中間時刻が一致するように撮影されているので、図21に示すように、pictureA及びpictureBを用いて生成される画像を、高品位に再生することが可能となる。
図23は、タブレット端末、パーソナルコンピュータ、テレビモニタなどにおける、ストレージに格納されたpictureA及びpictureBの活用例を説明するための図である。pictureA及びpictureBのデータファイルは、ネットワーク上のストレージ等に格納されているものとする。図23において、フレーム群581は、MP4ファイルに格納されたpictureAのフレーム群であり、フレーム群571は、別のMP4ファイルに格納されたpictureBのフレーム群である。これらのMP4ファイルは、撮影時に同じCLIP−UMIDが設定されて互いに関連付けがなされている。
まず、動画の再生をスタートすると、pictureBのフレーム群571の先頭フレーム572から決められたフレームレートで順次フレームが再生される。pictureBは、シャッタースピードが過度に速くならないような設定(この例では1/60秒)で撮影されているため、再生された映像はコマ送りのようなジャーキネスのない高品位なものである。図23ではフレーム573の被写体周囲をぼかしてジャーキネスが出ない程度の被写体の動きを表現している。
フレーム573まで再生が進んだ時点で使用者が一時停止の操作を行うと、自動的にpictureAのデータファイルから、pictureBと同一タイムコードのフレーム582が検索されて表示される。pictureAは、ストップモーション効果が得られやすい高速シャッタースピード(この例では1/1000秒)で撮影されており、スポーツシーンの一瞬を写し止めた迫力のある映像である。pictureA,pictureBの2つの映像は、異なる蓄積期間の設定で撮影されるが、pictureAについてゲインアップするのではなく、撮像素子184において同程度の信号電荷を得ている。このため、pictureA及びpictureBのどちらもS/N比の良好なノイズ感のない映像となる。
ここで、印刷の指示を行うと、pictureAのフレーム582のデータがプリントインターフェース部194を介してプリンタ195に対して出力される。したがって、印刷物も、pictureAを反映したストップモーション効果がある迫力のあるものとなる。使用者が一時停止を解除すると、自動的にpictureBのフレーム群571に戻って、フレーム574から再生が再開する。このとき、再生される映像はコマ送りのようなジャーキネスのない高品位なものである。
このように、pictureBを、動画用の映像信号として用いることにより、ジャーキネスのない動画向きの映像を得ることができる。また、pictureAを、静止画用の映像信号として用いることにより、ストップモーション効果が得られた静止画及び印刷向きの映像を得ることができる。本実施形態の撮像装置では、これら2つの効果を1つの撮像素子を用いて実現できる。
また、本実施形態においては、再生時の操作性向上のために、静止画用のファイルと動画用のファイルとを分けて、記録媒体193の別々のフォルダにファイルしている。例えば、前述したように、pictureA、pictureBとも、同一フレームレート且つ同一のMP4フォーマットで、動画用のフォルダと静止画用のフォルダに分けて記録する。そして、再生ボタン161が操作されると、動画用のファイルデータとして記録されたpictureBが、動画として連続再生される。また、静止画用のファイルデータとして記録されたpictureAが、画像送り操作とともに一枚ずつ静止画として再生される。
動画再生中の静止画の表示については、スイッチST154が操作されたタイミングで、再生中の動画のpictureBと同一タイムコードの静止画pictureAを表示するようにしてもよい。また、アップダウンスイッチ158、159を操作してその前後の静止画を表示してもよい。動画撮影及び静止画撮影に用いるpictureA、pictureBの組み合わせは撮影時に決定される。そして、撮影されたpictureA、pictureBの各々が動画用、静止画用のフォルダにファイルされる。
ここで、図23で説明した、動画の一時停止中において静止画を表示する活用例を、蓄積期間の終了時刻が一致するように撮影したpictureA及びpictureBを用いて行う場合について、先の図22を用いて説明する。図22(b)のpictureBの画像を動画として再生中に一時停止を押すと、対応するフレームとして図22(c)のpictureAの画像が表示される。しかし、図22(c)に示すように、pictureAにおける被写体1dは、pictureBにおける被写体ブレの中心の被写体像1bとは異なる位置に表示されてしまう。
特に、スポーツシーン等の映像を再生中に、一瞬を写しとめた所望の画像を一時停止して表示しようとする場合には、このような画像のずれはユーザにとって意図するものではなく、映像の価値を大きく低下させてしまう。そこで、本実施形態では、図20に示すように、蓄積期間の中間時刻が一致するようにpictureAとpictureBの蓄積期間の開始タイミングと終了タイミングを制御する。これにより、図23に示すような、動画の一時停止中において静止画を表示する活用例においても、pictureA及びpictureBを用いて生成されたずれのない画像を、高品位に再生することが可能となる。
次に、pictureAとpictureBのいずれか一方に、いわゆる白とび(オーバー)等の画像ノイズが生じた場合に、画像ノイズが発生している映像信号を画像ノイズが発生していない映像信号を用いて補正する場合について考える。例えば、pictureAの蓄積期間外であるがpictureBの蓄積期間内であるタイミングにおいて一瞬の閃光が生じた場合などである。このような場合には、pictureBのダイナミックレンジを超えて白とびが発生するので、pictureBのフレーム画像をpictureAのフレーム画像で置き換えることが有効である。しかし、pictureAのフレーム画像とpictureBのフレーム画像との差異が大きいと、以下のような問題が生じてしまう。
図24は、従来の撮像装置によって蓄積期間の終了時刻が一致するように撮影された映像の1フレーム画像を置き換えた場合の例を示す図である。図24(a)〜(d)は、移動する被写体1を、蓄積期間の終了時刻が一致するように撮影した映像の4枚のフレーム画像を示している。図24(a)、(b)、(d)に示す画像はpictureBによる画像である。一方、図24(c)に示す画像は、そのpictureBの撮影タイミングにおいて白とびが発生したため、対応するpictureAの画像に置き換えられている。
このような一連のフレーム画像を再生する場合について考える。図24(a)〜(d)に示す一点鎖線は、被写体1の像の重心を示しており、移動量10a〜10cは各フレーム画像間の被写体1の重心の移動量を表している。図24では、移動量10b>10a>10cとなっている。pictureAとpictureBで蓄積期間の終了時刻を一致させて撮影した映像では、図22で説明したように、対応するフレーム画像間の差異が大きくなってしまうので、被写体1の重心の移動量がフレーム画像間で異なってしまう。このような映像を再生すると、被写体1の動作がフレーム落ちしたように不自然となってしまう。
図25は、第1実施形態に係る撮像装置によって蓄積期間の中間時刻が一致するように撮影された映像の1フレーム画像を置き換えた場合の例を示す図である。図24と同様に、図25(a)、(b)、(d)に示す画像はpictureBによる画像であり、図25(c)に示す画像はpictureAによる画像である。
このような一連のフレーム画像を再生する場合について考える。図24と同様に、図25(a)〜(d)に示す一点鎖線は、被写体1の像の重心を示しており、移動量11a〜11cは各フレーム画像間の被写体1の重心の移動量を表している。図25では、移動量10a=10b=10cとなっている。これにより、図25(a)〜(d)に示す映像を再生すると、被写体1の動きは滑らかであり、ユーザの意図に沿った形で映像を高品位に再生することが可能である。
なお、図24及び図25では白とび(オーバー)したフレーム画像を置き換える場合について説明したが、黒つぶれ(アンダー)や、その他の画像ノイズが発生したフレーム画像を置き換える場合であっても同様の効果が得られる。
次に、pictureAとpictureBの間にクロストークノイズが発生する場合においても、蓄積期間の中間時刻を一致させて撮影することが有効であることを説明する。本実施形態のような、単一の撮像素子が2つのフォトダイオード310A,310Bを有する撮像装置においては、一方のフォトダイオードの光電変換により発生した信号電荷が、他方のフォトダイオードに漏れこむクロストークノイズが発生することがある。
図26は、第1実施形態に係る撮像装置におけるクロストークの影響を説明する図である。図26(a)は、従来の撮像装置によって蓄積期間の終了時刻を一致させて撮影したpictureBの画像の例を示している。一方、図26(b)は、本実施形態の撮像装置によって蓄積期間の中間時刻を一致させて撮影したpictureBの画像の例を示している。
図26(a)は、図22(c)に示すpictureAの被写体1dの像が、図22(b)に示すpictureBの画像にクロストークした場合の例を示している。図26(a)では、クロストークの影響によるムラが被写体ブレの端の被写体像1c´において発生しており目立ってしまう。
一方、図26(b)は、図21(c)に示すpictureAの被写体1eの像が、図21(b)に示すpictureBの画像にクロストークした場合の例を示している。図26(b)では、クロストークの影響によるムラが被写体ブレの中心の被写体像1b´において発生するので、図26(a)と比較すると、クロストークの影響が左右の被写体像1a及び1cと重なりあって目立たない。このように、pictureAとpictureBの間にクロストークノイズの影響がある場合においても、蓄積期間の中間時刻を一致させて撮影することが有効である。
以上のように、本実施形態の走査部(垂直走査回路)は、第1光電変換部(フォトダイオード310A)の蓄積期間と第2光電変換部(フォトダイオード310B)の蓄積期間の中間時刻が一致するように画素を駆動する。また、本実施形態の読み出し部(読み出し回路)は、第1光電変換部から第1映像信号(pictureA)を読み出し、第2光電変換部から第2映像信号(pictureB)を読み出す。また、本実施形態の生成部(システム制御CPU)は、蓄積期間の中間時刻が互いに一致する第1映像信号及び第2映像信号を用いて画像を生成する。
これにより、単一の撮像素子から出力される蓄積期間の長さが異なる2つの映像信号を用いて生成される画像を、高品位に再生することが可能となる。
なお、pictureAによる第1画像とpictureBによる第2画像とを互いに関連付けて記録する記録部(記録インターフェース部192)を備えてもよいし、互いに関連付けられた第1画像と第2画像を、撮像装置の外部に送信するようにしてもよい。また、第1画像と第2画像とを互いに関連付けて再生する再生部(表示インターフェース部191)を備えてもよいし、互いに関連付けられた第1画像と第2画像を、撮像装置の外部の再生装置により再生するようにしてもよい。
(第2実施形態)
以下、第2実施形態に係る撮像装置について図27を用いて説明する。第1実施形態では、pictureAとpictureBでフレームレートが等しい場合について説明したが、本実施形態では、pictureAとpictureBでフレームレートが異なる場合について説明する。
第1実施形態では、pictureBの1回の蓄積期間中にpictureAの蓄積を1回しか行わなかったが、pictureBの1回の蓄積期間中にpictureAの蓄積を複数回行うことも可能である。本実施形態では、pictureAとpictureBでフレームレートが異なる場合においても、蓄積期間の中間時刻を一致させて撮影することが有効であることを説明する。この場合、垂直走査回路307は、pictureBの蓄積期間に含まれるpictureAの複数の蓄積期間のうちの1つの蓄積期間の中間時刻が、pictureBの蓄積期間の中間時刻と一致するように画素を駆動する。
図27は、第2実施形態に係る撮像装置による2つの映像信号のフレームレートが異なる場合の蓄積及び転送タイミングを示す図である。図27に示すタイミングシーケンスは、図20に示す第1実施形態のタイミングシーケンスと比較して、pictureAとpictureBでフレームレートが異なっている。その他については図20と同じであるので説明は省略する。
図27に太い実線で示す蓄積期間602、蓄積期間603は、それぞれpictureAの画面上端ラインの蓄積期間、画面下端ラインの蓄積期間である。同様に、太い実線で示す蓄積期間604、蓄積期間605は、それぞれpictureBの画面上端ラインの蓄積期間、画面下端ラインの蓄積期間である。図27では、時刻t61〜t63のpictureBの画面上端ラインの蓄積期間604に、pictureAの画面上端ラインの蓄積期間が3回含まれている。その他のラインについても同様である。
また、pictureBの蓄積期間604の中間時刻t62は、pictureAの蓄積期間602の中間時刻t62と一致している。また、pictureBの蓄積期間605の中間時刻t64は、pictureAの蓄積期間603の中間時刻t64と一致している。その他のラインについても同様である。
以上のように、本実施形態では、第2光電変換部の蓄積期間に含まれる第1光電変換部の複数の蓄積期間のうちの1つの蓄積期間の中間時刻が、第2光電変換部の蓄積期間の中間時刻と一致するように画素を駆動する。これにより、第1実施形態と同様の効果を得るとともに、pictureAとpictureBでフレームレートを独立して設定することができるので、例えばpictureAを用いて高フレームレートのスロー再生を行うことができる。
(第3実施形態)
以下、第3実施形態に係る撮像装置について、図28〜図30を用いて説明する。第1実施形態では、読み出し回路308AがpictureAを読み出し、読み出し回路308BがpictureBを読み出す構成について説明した。これに対して、本実施形態では、共通化された1つの読み出し回路308がpictureA及びpictureBの両方を読み出す構成について説明する。
第1実施形態の図20では、フローティングディフュージョン313からpictureA又はpictureBを読み出す転送期間を点線で示した。図20では、蓄積期間の中間時刻が一致するように蓄積及び転送タイミングを制御しており、この結果として、同一ラインのpictureAとpictureBで読み出しタイミングが異なっている。本実施形態でも、第1実施形態と同様に、蓄積期間の中間時刻が一致するように蓄積及び転送タイミングを制御するため、図20に示すように、同一ラインのpictureAとpictureBで読み出しタイミングが異なる。このため、本実施形態では、pictureAを読み出す読み出し回路308Aと、pictureBを読み出す読み出し回路308Bが同時に動作することがないので、読み出し回路を共通化することができる。
一方、従来のように蓄積期間の終了時刻が一致するように蓄積及び転送タイミングを制御する場合は、映像信号の読み出しタイミングがpictureAとpictureBの対応するラインで一致してしまうので、読み出し回路を共通化することはできない。
図28は、第3実施形態に係る撮像装置における撮像素子184の概略構成を示すブロック図である。図28に示す撮像素子184は、図3に示す第1実施形態の撮像素子184と比較して、読み出し回路308A及び308Bが、1つの読み出し回路308に共通化されている。また、信号出力線304A、304Bは両方とも共通化された読み出し回路308に接続されている。その他については図3と同じであるので説明は省略する。
図29は、第3実施形態に係る撮像装置における読み出し回路308の概略構成を示すブロック図である。図29に示す読み出し回路308は、図11に示す第1実施形態の読み出し回路308と比較して、入力切り替えスイッチ430A、430Bが追加されている。また、入力切り替えスイッチ430A、430Bには、それぞれ信号出力線304A、304Bが接続されている。その他については図11と同じであるので説明は省略する。
図28に示したように、本実施形態では、信号出力線304A、304Bの両方が読み出し回路308に接続されている。入力切り替えスイッチ430A、430Bは、いずれか一方のみがONされることにより、読み出し回路308と接続される信号出力線304A、304Bを選択する。入力切り替えスイッチ430A、430Bは、それぞれ信号PSWA、PSWBにより制御される。
図30は、第3実施形態に係る撮像装置における撮像素子184の駆動シーケンスを示すタイミングチャートである。図30に示すタイミングチャートは、図12に示す第1実施形態のタイミングチャートと比較して、入力切り替えスイッチ430A、430Bを制御するための信号PSWA、PSWBが追加されている。また、時刻t5と時刻t6の間に時刻taが追加され、時刻t14と時刻t15の間に時刻tbが追加されている。その他については図12と同じであるので説明は省略する。以下、図30を用いて、本実施形態の撮像装置における入力切り替えスイッチ430A、430Bの制御方法について説明する。
時刻t1において、信号PSWA、PSWBは共にローレベルの状態にあり、入力切り替えスイッチ430A、430BはOFFであり、読み出し回路308は信号出力線304A、304Bのどちらとも接続されていない状態である。
時刻t1から時刻t5までは第1実施形態の図12と同じである。時刻taにおいて信号PSWAをハイレベルとして、入力切り替えスイッチ430AをONとし、読み出し回路308を信号出力線304Aに接続する。
時刻t6において、信号PC0RAをローレベルとするところから時刻t12までは第1実施形態の図12と同じである。時刻t13において、リセットパルスφRES1Aをハイレベルにし、信号PC0RAをハイレベルにする。そして、信号PSWAをローレベルとして、入力切り替えスイッチ430AをOFFにする。
時刻t14において、リセットパルスφRES1Bをローレベルとして、フローティングディフュージョン領域313Bのリセット状態を解除する。そして、時刻tbにおいて信号PSWBをハイレベルとして、入力切り替えスイッチ430BをONとし、読み出し回路308を信号出力線304Bに接続する。
時刻t15において、信号PC0RBをローレベルとするところから時刻t21までは第1実施形態の図12と同じである。時刻t22において、リセットパルスφRES1Bをハイレベルにし、信号PC0RBをハイレベルにする。そして、信号PSWBをローレベルとして、入力切り替えスイッチ430AをOFFにする。
以上のように、本実施形態では、第1映像信号及び第2映像信号を、同一の読み出し回路を用いて異なるタイミングで読み出す。これにより、第1実施形態と同様の効果を得るとともに、pictureAとpictureBで読み出し回路を共通化することができる。つまり、対応する一対のpictureAとpictureBの画素に対し、読み出し回路を一つのみ有することで、読み出し回路の回路規模を縮小して撮像装置を小型化することができる。
(第4実施形態)
以下、第4実施形態に係る撮像装置について、図31を用いて説明する。本実施形態では、諧調を拡大したいわゆるHDR(High Dynamic Range)画像を合成する方法について説明する。本実施形態の撮像装置の構成は、第1実施形態と同じである。
本実施形態に係る撮像素子184では、第1実施形態と同様に、フォトダイオード310A,310Bの受光効率の比が8:1程度、すなわち感度の差が3段程度に設定されているものとする。この場合、両者に同一の蓄積期間を設定すると、pictureBはpictureAに対して3段アンダーとなる。
したがって、pictureAが低輝度領域を十分に再現可能なときは、pictureの高輝度領域は多くの場合に白とびしてしまうが、pictureBはその高輝度領域においても白とびせずに輝度情報を残すことができる。ただし、pictureBは低輝度領域においては黒つぶれを起こしているので、多くの場合は使用することはできない。
HDR映像を得るためには、まず、アンダー画像とオーバー画像を適切にゲイン調整し、アンダー画像の輝度が閾値より暗い領域はオーバー画像の対応する領域で置き換え、アンダー画像の輝度が閾値より明るい領域はアンダー画像をそのままに合成する。アンダー画像としてpictureBを用い、オーバー映像としてpictureAを用いればよい。ただし、輝度閾値付近の明るさの中間領域は映像の合成比率を徐々に変化させるなど、ユーザにとってより自然な見え方となるようにする必要がある。
pictureBをpictureAに対して何段アンダーに設定するかは、被写体の輝度分布の広さに依存する。輝度分布の範囲が広く、アンダー画像としてのpictureBの信号レベルを3段アンダーよりも低くするときは、pictureBの蓄積期間をpictureAよりも短くする。一方、輝度分布の範囲が狭く、アンダー映像としてのpictureBの信号レベルを3段アンダーよりも高くするには、pictureBの蓄積期間をpictureAよりも長くすればよい。
このような撮影方法及び画像処理によってHDR画像を得ることができる。上述のようなHDR画像を生成する際に、pictureBの蓄積期間を、第1実施形態の場合よりも長く、pictureAの蓄積期間よりも短くする場合でも、pictureAとpictureBの蓄積期間の中間時刻を一致させることは有効である。pictureAの画像とpictureBの画像で差異が大きいと、pictureA及びpictureBを用いて画像を正確に合成することが難しくなるためである。
図31は、第4実施形態に係る撮像装置によってHDR撮影を行うときの蓄積及び転送タイミングを示す図である。図31に示すタイミングシーケンスは、図20に示す第1実施形態のタイミングシーケンスと比較して、pictureAの各ラインの蓄積期間の長さが4倍になっている点が異なっている。その他については図20と同じであるので説明は省略する。
図31に太い実線で示した蓄積期間612はpictureAの画面上端ラインの蓄積期間であり、太い実線で示した蓄積期間613はpictureAの画面下端ラインの蓄積期間である。同様に、太い実線で示した蓄積期間614はpictureBの画面上端ラインの蓄積期間であり、太い実線で示した蓄積期間615はpictureBの画面下端ラインの蓄積期間である。
第1実施形態と比較すると、pictureAの各ラインの蓄積期間は4倍の長さになっている。そこで、本実施形態ではpictureAは蓄積期間の開始時刻を早め、終了時刻を遅らせることで、pictureAの蓄積期間の中間時刻とpictureBの蓄積期間の中間時刻とが一致するように制御する。このような撮影を行うことにより、pictureAとpictureBを用いてHDR撮影を行う場合でも、pictureAとpictureBの差異を低減して、階調を拡大した高品位なHDR画像を生成することができる。
以上のように、本実施形態では、第1映像信号(pictureA)がオーバーするとき又は第2映像信号(pictureB)がアンダーするときは、第1映像信号及び第2映像信号を用いてHDR画像を合成する。これにより、pictureAとpictureBを用いてHDR撮影を行う場合でも、pictureAとpictureBの差異を低減して、高品位のHDR画像を生成することができる。
(第5実施形態)
以下、第5実施形態に係る撮像装置について、図32及び図33を用いて説明する。先の第1実施形態では、受光効率の異なる2つのフォトダイオードを有する画素303を用いて、蓄積期間が異なる2つの映像信号を得る方法について説明した。これに対し、本実施形態では、1つのフォトダイオードに対して2つの電荷保持部を有する画素303bを用いて、蓄積期間が異なる2つの映像信号を得る方法について説明する。本実施形態の撮像装置は、画素303bの構成が第1実施形態と異なっている。その他の構成については概ね第1実施形態と同じであるので説明は省略する。
図32は、本発明の第5実施形態に係る撮像装置における画素303bの構成例を示す回路図である。図32に示す本実施形態の画素303bは、図8に示す第1実施形態の画素303に対応するものである。図32には、行列状に配置された複数の画素303bのうち、第1行第1列(1、1)の画素303bと、第m行第1列(m、1)の画素303bを示し、その他の画素303bについては記載を省略している。第m行は画素アレイ302の最下行を表し、典型的には数千程度である。画素アレイ302を構成する各画素303bは、概ね同一の構成を有している。このため、図32に示す第1行第1列(1、1)の画素303bと第m行第1列(m、1)の画素303bには同一の符号を付している。
本実施形態の画素303bは、1つのフォトダイオード700に対して2つの電荷保持部707A、707Bを有することを特徴としている。例えば特許文献2には、1つのフォトダイオード700に対して1つの電荷保持部を有する画素の構成が開示されているため、電荷保持部の詳細については説明を省略する。以下では、画素303bが、1つのフォトダイオード700に対して2つの電荷保持部707A、707Bを有する構成について説明する。
図32に示す画素303bは、フォトダイオード700、電荷保持部707A、707B、第1転送トランジスタ701A、第2転送トランジスタ701B、フローティングディフュージョン領域708を少なくとも有している。画素303bは更に、リセットトランジスタ704、増幅トランジスタ705、選択トランジスタ706、第3転送トランジスタ702A、第4転送トランジスタ702B、オーバーフロートランジスタ703等を有してもよい。
以下、第1行第1列(1、1)の画素303bの構成について説明するが、その他の行及び列の画素303bの構成についても概ね同じである。画素303bは、垂直走査回路307が出力する制御信号であるφTX1A、φTX2A、φTX1B、φTX2B、φTX3、φRES、φSELにより制御される。信号出力線723には、画素303bからの映像信号が出力される。電源線720、721は、各トランジスタに電源を供給する。
フォトダイオード700は、被写体からの入射光を光電変換し、生じた信号電荷を蓄積する。第1転送トランジスタ701Aは転送パルスφTX1Aにより制御され、フォトダイオード700に蓄積された信号電荷を電荷保持部707Aへ転送する。電荷保持部707Aは、フォトダイオード700から転送された信号電荷を保持する。第3転送トランジスタ702Aは転送パルスφTX2Aにより制御され、電荷保持部707Aが保持する信号電荷をフローティングディフュージョン領域708へ転送する。
同様に、第2転送トランジスタ701Bは転送パルスφTX1Bにより制御され、フォトダイオード700に蓄積された信号電荷を電荷保持部707Bへ転送する。電荷保持部707Bは、フォトダイオード700から転送された信号電荷を保持する。第4転送トランジスタ702Bは転送パルスφTX2Bにより制御され、電荷保持部707Bが保持する信号電荷をフローティングディフュージョン領域708へ転送する。
増幅トランジスタ705はフローティングディフュージョン領域708へ転送された信号電荷量に基づく映像信号を出力する。選択トランジスタ706は選択パルスφSELにより制御され、増幅トランジスタ705が出力する映像信号を信号出力線723に出力する。リセットトランジスタ704はリセットパルスφRESにより制御され、フローティングディフュージョン領域708に転送された信号電荷をリセットする。
このような画素303bの構成により、第1映像信号用の蓄積期間に生じた信号電荷を電荷保持部707Aへ転送して保持しつつ、第2映像信号用の蓄積期間に生じた信号電荷を電荷保持部707Bへ転送して保持することができる。すなわち、蓄積期間が異なる2つの映像信号用の信号電荷を、2つの電荷保持部707A、707Bにおいて独立に保持することができる。
更に、図32に示す画素303bは、オーバーフロートランジスタ703を備えている。オーバーフロートランジスタ703は転送パルスφTX3により制御され、フォトダイオード700に蓄積されている信号電荷を電源線721を介して排出する。これにより、フォトダイオード700には、オーバーフロートランジスタ703がオフである間にだけ信号電荷が蓄積されるため、フォトダイオード700における信号電荷の蓄積期間をより自由に制御することができる。
以後の説明では、電荷保持部707Aに保持した信号電荷に基づく第1映像信号を「pictureA」、電荷保持部707Bに保持した信号電荷に基づく第2映像信号を「pictureB」と表記するものとする。なお、pictureA、pictureBは、厳密には所定の補正等の処理を行った後の映像信号であるが、説明の便宜上、補正前或いは補正途中の映像信号についてもpictureA、pictureBと表記することがある。また、映像信号pictureA,pictureBに基づいて得られた画像を、それぞれpictureA,pictureBと表記することもある。
次に、図32に示した画素303bの制御方法について説明する。図33は、本発明の第5実施形態に係る撮像装置における画素303bの駆動シーケンスを示すタイミングチャートである。図33に示すタイミングチャートは、第1映像信号(pictureA)を用いて静止画を生成し、第2映像信号(pictureB)を用いて動画を生成する場合の、画素303bにおける信号電荷の蓄積期間、転送期間、及び読み出し期間の一例を示している。
ここで、蓄積期間とは、フォトダイオード700に発生した信号電荷を、フォトダイオード700で蓄積している期間をいう。また、転送期間とは、フォトダイオード700に蓄積された信号電荷を、電荷保持部707A又は電荷保持部707Bへ転送している期間をいう。また、読み出し期間とは、電荷保持部707A又は電荷保持部707Bが保持する信号電荷量に応じた映像信号を読み出している期間をいう。図33ではこれらの期間を、例えば「A1」のように1つの文字と1つの数字で表記している。この表記のうち文字はpicture「A」又はpicture「B」のいずれに関するものであるかを示し、数字は、蓄積期間「1」、転送期間「2」、読み出し期間「3」のいずれであるかを示している。
垂直同期信号650と水平同期信号651は、垂直走査回路307からそれぞれ周期Tfと周期Thで出力される。図33では、垂直同期信号650の周期Tfである1フレーム期間を、1/60秒とした。図33には、1フレーム期間において、静止画用及び動画用の映像信号を各画素303bからそれぞれ1回ずつ読み出す場合の、各行の蓄積期間、転送期間、及び読み出し期間を示している。なお、図33では、画素アレイ302の最下行である第m行を便宜的にm=6としたが、実際の画素アレイ302はより多くの行を有している。
まず、第1映像信号(pictureA)を用いて静止画を撮影する方法について説明する。画素303bのフォトダイオード700は、図33に示す蓄積期間A1において静止画用の信号電荷を蓄積する。蓄積期間A1の開始時刻及び終了時刻は、第1転送トランジスタ701A及びオーバーフロートランジスタ703を用いて制御される。静止画の蓄積期間A1の長さTAは、撮影者によって予め設定されたシャッタースピードに基づいて決定される。図33に示す静止画の蓄積期間A1の長さTAは1/2000秒であるが、便宜上、図33にはこの期間をより長く描いている。
静止画用の蓄積期間A1が終了すると、続く転送期間A2において、フォトダイオード700から電荷保持部707Aへ信号電荷が転送される。その後、読み出し期間A3において、電荷保持部707Aが保持する信号電荷に基づく第1映像信号が読み出される。本実施形態では、同一列の画素303bで1つの読み出し回路が共用されているため、読み出し期間A3における読み出し処理は、図33に示すように第1行から最下行の第m行まで2Thずつ遅延させながら順に行われる。
図33に示した画素303bの駆動シーケンスでは、静止画用の第1映像信号の蓄積期間A1が行毎に2Thだけ遅延した、いわゆるローリング電子シャッター動作となる。しかし、蓄積期間A1を全行同時とすることで、静止画用の第1映像信号の蓄積期間A1が全行で一致した、いわゆるグローバル電子シャッター動作とすることも可能である。
なお、本実施形態において全行同時というときの同時性は、実用上問題のない程度であればよい。例えば、複数の画素303bを完全に同時に駆動するとドライバーに負荷がかかるため、この負荷を軽減するために一部の画素303bで小さな時間差を設ける構成としてもよい。
次に、第2映像信号(pictureB)を用いて動画を撮影する方法について説明する。画素303bのフォトダイオード700は、1フレーム期間中に概ね均等に配置された回数Np=8の蓄積期間B1のそれぞれにおいて動画用の信号電荷を蓄積する。なお1フレーム期間中の蓄積期間B1の回数Npは8回に限定されず、2以上の自然数であればよい。蓄積期間B1の開始時刻及び終了時刻は、第2転送トランジスタ701B及びオーバーフロートランジスタ703を用いて制御される。
回数Np=8のそれぞれの蓄積期間B1の間隔(周期)は、水平同期信号651の周期Thの整数倍とすることで、各蓄積期間B1の開始時刻及び終了時刻を各行で一致させることが容易となる。例えば図33では、蓄積期間B1の間隔を、水平同期信号651の周期Thの2倍の2Thとしている。なお蓄積期間B1の間隔はこれに限定されず、均等でなくてもよい。典型的には、蓄積期間B1の間隔は、画素アレイ302の行数mを回数Npで割った値m/Npを超えない自然数を、水平同期信号651の周期Thに対して乗算した値に設定される。
動画の蓄積期間B1の長さTBは、静止画の蓄積期間A1の長さTAと同様に、撮影者によって予め設定されたシャッタースピードに基づいて決定される。例えば図33に示す1フレーム期間の回数Np=8の蓄積期間B1を合計した長さ8×TBは、静止画の蓄積期間A1の長さA1と同じ1/2000秒である。すなわち、1回当りの蓄積期間B1の長さTBは1/16000秒である。便宜上、図33にはこの期間をより長く描いている。
動画用の蓄積期間B1が終了すると、続く転送期間B2において、フォトダイオード700から電荷保持部707Bへ信号電荷が転送される。その後、読み出し期間B3において、電荷保持部707Bが保持する信号電荷に基づく第2映像信号が読み出される。本実施形態では、同一列の画素303bで1つの読み出し回路が共用されているため、読み出し期間B3における読み出し処理は、図33に示すように第1行から最下行の第m行まで2Thずつ遅延させながら順に行われる。
なお、本実施形態では蓄積期間が異なる2つの映像信号用の信号電荷を、2つの電荷保持部707A、707Bにおいて独立に保持することができるため、蓄積期間B1における蓄積動作は、読み出し期間A3における読み出し動作と並行して行われる。また、本実施形態では、動画用の第2映像信号を取得するための回数Npの蓄積期間B1を、1フレーム期間内に分散させて配置しているため、露光期間を1フレーム期間に分散させてシャッタースピードを擬似的に遅らせることができる。これにより、いわゆるジャーキネスを抑えた滑らかな動画を撮影することができる。
図33に示した駆動シーケンスでは、動画用の第1映像信号の各蓄積期間B1の開始及び終了時刻については全行で同時であるが、読み出し期間B3の直前の転送期間B2のタイミングが各行で異なるため、ローリング電子シャッター動作となる。しかし、読み出し期間B3の直前の転送期間B2のタイミングを全行同時とすることで、静止画の場合と同様に動画の撮影をグローバル電子シャッター動作とすることも可能である。
再度、図32及び図33を参照しながら、図32に示した本実施形態の画素303bの駆動シーケンスについてより詳細に説明する。まず、動画用の第2映像信号(pictureB)を取得する際の画素303bの駆動シーケンスについて説明する。
時刻t80において、第1行の転送パルスφTX2B、及び全行の転送パルスφTX2Aがハイレベルとなると、第1行の第4転送トランジスタ702B、及び全行の第3転送トランジスタ702Aがオンとなる。このとき既に、全行のリセットパルスφRESがハイレベルになり、リセットトランジスタ704がオンとなっている。これにより、全行のフローティングディフュージョン領域708、第1行の動画用の電荷保持部707B、及び全行の静止画用の電荷保持部707Aに保持された信号電荷がリセットされる。なお、このときの第1行の選択パルスφSELはローレベルになっている。
時刻t81において、全行の転送パルスφTX3がローレベルとなると、全行のオーバーフロートランジスタ703がオフとなる。これにより、全行のフォトダイオード700が信号電荷を蓄積できるようになり、蓄積期間B1において全行のフォトダイオード700に動画用の信号電荷が蓄積される。
時刻t82において、第1行の転送パルスφTX1Bがハイレベルとなると、第1行の第2転送トランジスタ701Bがオンとなる。これにより、第1行のフォトダイオード700に蓄積された信号電荷が、転送期間B2において、第1行の電荷保持部707Bに転送される。その後、第1行の転送パルスφTX1Bがローレベルとなると、第1行の第2転送トランジスタ701Bがオフとなる。
時刻t83において、時刻t81と同様に、フォトダイオード700で第2回の動画用の信号電荷の蓄積が行われる。また時刻t84において、時刻t82と同様に、フォトダイオード700から電荷保持部707Bへの第2回の動画用の信号電荷の転送が行われる。この第2回の蓄積及び転送による信号電荷は、先の時刻t82で電荷保持部707Bへ転送された信号電荷に加算されて保持される。その後、同様にして、第3回〜第8回の電荷信号の蓄積及び転送が間欠的に繰り返され、先に電荷保持部707Bへ転送された信号電荷に加算されて保持される。
第2行以降においても、第1行と同様に、期間2Thずつ遅延させながら順に動画用の信号電荷の蓄積及び転送が行われる。図33では、動画用の信号電荷の一回の蓄積期間B1の長さ(例えば時刻t81〜時刻t82)は、全て同一の長さTBに設定される。また、動画の蓄積開始時間から次の蓄積開始時間までの間隔(例えば時刻t81〜時刻t83)についても、同一の長さ2Thに設定される。
時刻t92において、第1行の第8回の電荷保持部707Bへの信号電荷の転送が終了すると、第1行のリセットパルスφRESがローレベルとなり、第1行のリセットトランジスタ704がオフとなる。これにより、フローティングディフュージョン領域708のリセット状態が解除される。同時に、第1行の選択パルスφSELがハイレベルとなると、第1行の選択トランジスタ706がオンとなる。これにより、第1行の映像信号の読み出しが可能となる。そして、第1行の転送パルスφTX2Bがハイレベルとなると、第1行の第4転送トランジスタ702Bがオンとなる。これにより、第1回〜第8回の各蓄積期間B1においてフォトダイオード700に生じた動画用の信号電荷が、電荷保持部707Bからフローティングディフュージョン領域708に転送される。
時刻t93からの読み出し期間B3において、フローティングディフュージョン領域708の電位に応じた出力が、増幅トランジスタ705及び選択トランジスタ706を介して信号出力線723に読み出される。そして、不図示の読み出し回路に供給されて第1行の動画用の映像信号として外部に出力される。時刻t94以降の次フレームにおいても、時刻t80から行われた前フレームと同様の動作を繰り返して行い、第1行の動画用の映像信号を取得する。
一方、第1行の読み出し期間B3が開始する時刻t93から更に期間2Thが経過した時刻t95において、第1行と同様に、第2行のフローティングディフュージョン領域708からの読み出し期間B3が開始される。第3行以降においても、同様の動作が期間2Thずつ遅延させながら順に行われ、時刻t97からの読み出し期間B3において最下行の第m行までの映像信号が得られると、動画用の1フレーム分の映像信号を得ることができる。
図33には、動画用の第1行の映像信号を取得するための計8回の蓄積期間B1(時刻t81〜時刻t92)の中間時刻を時刻t86で示している。そして、第2行以降の蓄積期間の中間時刻を繋げた線を点線Cで示している。各行の計8回の蓄積期間B1のうちの最初の蓄積期間は、期間2Thずつ遅延させながら開始されるので、各行の計8回の蓄積期間B1の中間時刻も同様に、期間2Thずつ遅延していく。
次に、静止画用の第1映像信号(pictureA)を取得する際の画素303bの駆動シーケンスについて説明する。
時刻t85において、全行の転送パルスφTX3がローレベルとなると、第1行のオーバーフロートランジスタ703がオフとなる。これにより、第1行のフォトダイオード700が信号電荷を蓄積できるようになり、蓄積期間A1において第1行のフォトダイオード700に静止画用の信号電荷が蓄積される。
時刻t88において、第1行のリセットパルスφRESがローレベルとなると、第1行のリセットトランジスタ704がオフとなる。これにより、フローティングディフュージョン領域708のリセット状態が解除される。同時に、第1行の選択パルスφSELがハイレベルとなると、第1行の選択トランジスタ706がオンとなる。これにより、第1行の映像信号の読み出しが可能となる。更に、第1行の転送パルスφTX1Aがハイレベルとなると、第1行の第1転送トランジスタ701Aがオンとなる。これにより、第1行のフォトダイオード700に蓄積された静止画用の信号電荷が、転送期間A2において、第1行の電荷保持部707Aに転送される。
時刻t89において、第1行の転送パルスφTX1Aがローレベルとなると、第1行の第1転送トランジスタ701Aがオフとなる。これにより、第1行のフォトダイオード700から電荷保持部707Aへの信号電荷の転送が終了する。続いて、第1行の転送パルスφTX2Aがハイレベルとなると、第1行の第3転送トランジスタ702Aがオンとなる。これにより、第1行の電荷保持部707Aに蓄積された静止画用の信号電荷が、フローティングディフュージョン領域708に転送される。その後、読み出し期間A3において、フローティングディフュージョン領域708の電位に応じた出力が、第1行の増幅トランジスタ705、選択トランジスタ706、及び信号出力線723を介して不図示の読み出し回路により読み出される。不図示の読み出し回路は、読み出した信号を第1行の静止画用の映像信号として外部に出力する。
次に、第1行の蓄積期間A1が開始する時刻t85から更に期間2Thが経過した時刻t87において、第1行の蓄積期間A1と同様に、第2行の蓄積期間A1が開始される。すなわち、第2行のオーバーフロートランジスタ703がオフとなり、第2行のフォトダイオード700が信号電荷を蓄積できるようになり、第2行のフォトダイオード700において静止画用の信号電荷の蓄積が開始される。
時刻t90において、第2行のフォトダイオード700に蓄積された静止画用の信号電荷が、電荷保持部707Aに転送される。続いて、時刻t91において、電荷保持部707Aへの信号電荷の転送が終了すると、第2行の電荷保持部707Aからフローティングディフュージョン領域708へ信号電荷が転送される。その後、フローティングディフュージョン領域708の電位に応じた出力が第2行の増幅トランジスタ705、選択トランジスタ706、及び信号出力線723を介して不図示の読み出し回路により読み出される。不図示の読み出し回路は、読み出した信号を第2行の静止画用の映像信号として外部に出力する。
以下、第3行以降においても同様の動作が期間2Thずつ遅延させながら順に行われ、時刻t96からの読み出し期間A3において最下行の第m行までの映像信号が得られると、動画用の1フレーム分の映像信号を得ることができる。なお、静止画用の蓄積期間A1においては動画用の電荷信号の蓄積動作や転送動作は中断され、静止画用の蓄積期間A1が終了した後で再開される。
このように、本実施形態の画素303b駆動シーケンスでは、Np回の動画用の蓄積期間B1を1フレーム期間中に分散させて配置している。そして、静止画用の蓄積期間A1の中間時刻t86よりも前に半数Np/2回の蓄積期間B1を配置し、中間時刻t86よりも後に半数Np/2回の蓄積期間B1を配置している。この結果、1フレーム期間中のNp回の動画用の蓄積期間B1の中間時刻と、1フレーム期間中の静止画用の蓄積期間A1の中間時刻とが各行において一致する。各行の中間時刻の推移は図33に点線Cで示される。静止画用の第1映像信号の蓄積期間の中間時刻と、動画用の第2映像信号の蓄積期間の中間時刻とは、垂直走査回路307により制御される。
なお、以上の説明では、1フレームの動画用の蓄積期間B1の回数Npを8とし、1フレームの静止画用の蓄積期間A1の回数を1としたが、これに限定されない。1フレームの動画用及び静止画用の映像信号の蓄積期間の回数は、撮影条件等に応じて設定され得る。また以上の説明では、第1電荷保持部に保持された信号電荷に基づいて静止画を生成し、第2電荷保持部に保持された信号電荷に基づいて動画を生成したが、逆にしてもよく、フレーム期間ごとに第1電荷保持部と第2電荷保持部を切り替えて用いてもよい。
以上のように、本実施形態の撮像装置は、第1電荷保持部に保持された信号電荷に基づく第1映像信号、及び、第2電荷保持部に保持された信号電荷に基づく第2映像信号を読み出す読み出し部(読み出し回路)を備えている。これにより、第1実施形態と同様に、蓄積期間が異なる2つの映像信号を同時に得ることができる。
また、本実施形態の撮像装置は、1フレーム期間中に第3光電変換部(フォトダイオード)から第2電荷保持部へ信号電荷を転送する回数を、1フレーム期間中に第3光電変換部から第1電荷保持部へ信号電荷を転送する回数よりも多くしている。これにより、第2映像信号の蓄積期間が、1フレーム期間中により分散して配置されるため、第2映像信号ではジャーキネスを抑えた滑らかな動画を得ることができる。
また、第1映像信号の蓄積期間の中間時刻と第2映像信号の蓄積期間の中間時刻とが一致するように画素を駆動する走査部(垂直走査回路)と、第1映像信号及び第2映像信号を用いて画像を生成する生成部(システム制御CPU)と、を備えている。これにより、第1実施形態と同様に、単一の撮像素子から出力される蓄積期間の長さが異なる2つの映像信号を用いて生成される画像を、高品位に再生することが可能となる。
また、本実施形態の構成は、上述の実施形態の構成と組み合わせることも可能である。例えば、第2実施形態と同様に、第2映像信号の蓄積期間に含まれる第1映像信号の複数の蓄積期間のうちの1つの蓄積期間の中間時刻が、第2映像信号の蓄積期間の中間時刻と一致するように画素を駆動してもよい。これにより、第1実施形態と同様の効果を得るとともに、pictureAとpictureBでフレームレートを独立して設定することができるので、例えばpictureAを用いて高フレームレートのスロー再生を行うことができる。
また、第3実施形態と同様に、第1映像信号及び第2映像信号を、同一の読み出し回路を用いて異なるタイミングで読み出してもよい。これにより、第1実施形態と同様の効果を得るとともに、pictureAとpictureBで読み出し回路を共通化することができる。つまり、対応する一対のpictureAとpictureBの画素に対し、読み出し回路を一つのみ有することで、読み出し回路の回路規模を縮小して撮像装置を小型化することができる。
また、第4実施形態と同様に、第1映像信号(pictureA)がオーバーするとき又は第2映像信号(pictureB)がアンダーするときは、第1映像信号及び第2映像信号を用いてHDR画像を合成してもよい。これにより、pictureAとpictureBを用いてHDR撮影を行う場合でも、pictureAとpictureBの差異を低減して、高品位のHDR画像を生成することができる。
(変形実施形態)
本発明は、上記実施形態に限らず種々の変形が可能である。例えば、上記実施形態に記載の撮像装置の構成は一例を示したものであり、本発明を適用可能な撮像装置はこのような構成に限定されるものではない。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
なお、上記実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならない。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。