以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。かかる実施形態に示す寸法、材料、その他具体的な数値などは、発明の理解を容易とするための例示にすぎず、特に断る場合を除き、本発明を限定するものではない。なお、本明細書および図面において、実質的に同一の機能、構成を有する要素については、同一の符号を付することにより重複説明を省略し、また本発明に直接関係のない要素は図示を省略する。
(第1の実施形態)
図1は、第1の実施形態にかかる立体映像撮像装置が生成する映像信号を説明するための説明図である。立体映像装置は、後述するように左右2系統の光路中にそれぞれ個別に第1および第2のシャッタを配置しており、図1(a)に示すように、第1および第2のシャッタにおいて光通過状態と遮光状態とを時分割で交互かつ排他的に切り換えることで、1つのレンズを通して水平視差のある左右2つの映像を並行して撮像する。したがって、図1(b)に示すように、生成される1の映像信号には、左系統の光路に配置されるシャッタを通過した映像信号と、右系統の光路に配置されるシャッタを通過した映像信号とが交互に連続して含まれることになる。
このように立体映像撮像装置で生成された映像信号から、水平視差のある左右2つの映像を別個に取得するためには、シャッタの切換タイミングで映像信号を分割(切断)し、図1(c)に示すように、光通過状態にあったシャッタの極性に対応させて左右2つの映像を切り出し、それぞれの映像を加工することが考えられる。
しかし、立体映像撮像装置に搭載される左右のシャッタは、光通過状態への切り換えを開始してから光通過状態に切り換わるまで、または、遮光状態への切り換えを開始してから遮光状態に切り換わるまでに、移行時間Xを要する。したがって、シャッタが切り換わる最中、すなわち移行時間Xの間は、図1(d)および(e)に示すように左右両方のシャッタがいずれも光通過状態となる場合がある。この場合、第1のシャッタを通過した光束による映像に、図1(c)中矢印で示すように、斜線で示す第2のシャッタを通過した光束による映像が、図1(c)において黒色で示すように混入して、クロストークが生じてしまう。
ここで、例えば、図1(f)に示す第2のシャッタ(図1において左シャッタとする)を通過した光束による映像信号Cに含まれる第1のシャッタ(図1において右シャッタとする)を通過した光束による映像信号のクロストーク成分Bを推定することを試みると、映像信号Cの直前の第1のシャッタを通過した光束による映像信号Aが均一であると仮定するとB=αA(0<α<1)となり、映像信号Cからクロストーク成分を減算した映像信号C’は、C’=C―αAとなる。しかし、映像信号Aには、映像信号Aの直前における第2のシャッタを通過した光束による映像信号のクロストーク成分が含まれているため、クロストーク成分Bの推定値も純粋な推定値ではなくなり、映像信号C’を精度よく抽出することができなかった。
そこで、本実施形態の立体映像撮像装置は、クロストーク成分を減算する際に用いる映像信号を工夫することで、クロストークを高精度に推定し、水平視差による良質な立体映像を生成することを目的としている。
(立体映像撮像装置100)
図2は、第1の実施形態にかかる立体映像撮像装置100の概略的な機能を示した機能ブロック図である。図2に示すように、立体映像撮像装置100は、撮像部110と、撮像素子120と、ディスプレイ130、操作部132と、保持部160と、温度検出部170と、制御部210とを含んで構成される。
撮像部110は、撮像レンズ122を通じて被写体を撮像し映像信号を生成する。具体的に、撮像部110は、2つのシャッタ112(図2中左シャッタ112a、右シャッタ112bで示す)と、ミラー114(図2中左ミラー114a、右ミラー114bで示す)と、プリズム116と、撮像レンズ122と、フォーカスレンズ124と、絞り126と、駆動回路128とを含んで構成され、撮像方向の映像を立体映像撮像装置100に取り込む。
シャッタ112は、液晶シャッタやメカニカルシャッタ等で構成され、左系統の光路中には左シャッタ112aが、右系統の光路中には右シャッタ112bがそれぞれ配置される。シャッタ112は、後述するシャッタ切換部212による制御指令に応じて、例えば、左シャッタ112aが光通過状態であるときは、右シャッタ112bが遮光状態となり、左シャッタ112aが遮光状態であるときは、右シャッタ112bは光通過状態となる。したがって、左シャッタ112aと右シャッタ112bとが撮像方向から光束を交互に透過することになる。ここで、第1のシャッタが左シャッタ112aである場合には、第2のシャッタは右シャッタ112bとなり、第1のシャッタが右シャッタ112bである場合には、第2のシャッタは左シャッタ112aとなる。
ミラー114は、それぞれ対応したシャッタ112の後段(左ミラー114aは左シャッタ112aの後段、右ミラー114bは右シャッタ112bの後段)に配置される。ミラー114は、シャッタ112を通過した光束を反射してプリズム116の方向に導く。
プリズム116は、左ミラー114aおよび右ミラー114bが反射した光束を、左シャッタ112aを通過した光束と、右シャッタ112bを通過した光束の光軸が一致するように撮像レンズ122に導く。フォーカスレンズ124は焦点調整に用いられる。絞り126は露光調整に用いられる。駆動回路128は、フォーカスレンズ124および絞り126を駆動させる。
撮像素子120は、撮像レンズ122を通じて入射する光束を映像信号に光電変換する。本実施形態において撮像素子120は、左シャッタ112aを通過した光束と右シャッタ112bを通過した光束を時分割で交互に、映像信号に光電変換する。したがって、映像信号は、図1(b)に示したように、水平視差のある左右2つの映像信号が交互に連続したものとなる。
保持部160は、RAM、EEPROM(Electrically Erasable and Programmable Read Only Memory)、不揮発性RAM、フラッシュメモリ、HDD(Hard Disk Drive)等で構成され、後述する読出制御部216が撮像素子120から読み出した映像信号を一時的に保持する。なお、HDDは正確には装置であるが、便宜上本説明では他の記憶媒体と同義として扱う。また、本実施形態において保持部160は、シャッタ切換部212により左眼用の映像であるか右眼用の映像であるかを示す左右識別信号を関連付けられた映像信号を保持する。左右識別信号は、映像信号を伝送する形式がインターレース形式の場合、第一フィールドと第二フィールドを識別するフィールドインデックス信号であり、映像信号を伝送する形式がプログレッシブ形式の場合、奇数フレームと偶数フレームを識別するフレームインデックス信号である。ここでは、映像信号を伝送する形式がインターレース信号の場合について説明するが、プログレッシブ信号の場合はフィールドインデックス信号をフレームインデックス信号に置き換える。
ここで、保持部160は、例えば、1つのアドレスに映像信号の1画素を対応させて保持する。
また、保持部160は、温度時間情報を予め保持する。ここで温度時間情報は、温度と、左シャッタ112a、右シャッタ112bそれぞれにおける、遮光状態から光通過状態への移行を開始してから光通過状態への移行が完了するまでの時間(以下、単に予測立ち上がり時間と称する)および光通過状態から遮光状態への移行を開始してから遮光状態への移行が完了するまでの時間(以下、単に予測立ち下がり時間と称する)とを一対一に、および、温度と、後述する所定の係数αとを一対一に関連づけた情報であり、関係式やテーブルによって表される。ただし、所定の係数αは、予測立ち上がり時間や予測立ち下がり時間に比例するので、予測立ち上がり時間や予測立ち下がり時間を用いてその都度計算することもできる。
温度検出部170は、左シャッタ112aおよび右シャッタ112bの周囲温度をそれぞれ検出する。また、温度検出部170を立体映像撮像装置100の筐体内の所定の位置に設置し、左シャッタ112aおよび右シャッタ112bの周囲温度を間接的に測定することもできる。
制御部210は、中央処理装置(CPU)、プログラム等が格納されたROM、ワークエリアとしてのRAM等を含む半導体集積回路により、立体映像撮像装置100全体を制御する。特に本実施形態において、制御部210は、シャッタ切換部212、撮像制御部214、読出制御部216、成分推定部218、信号更新部220、信号処理部222、記録処理部224として機能する。
シャッタ切換部212は、内部クロックを分周した垂直同期信号に同期して、左シャッタ112aと右シャッタ112bとを光通過状態と遮光状態に時分割で交互かつ排他的に切り換えるための切換信号を生成し、生成した切換信号をシャッタ112へ出力する。また、シャッタ切換部212は、左眼用の映像であるか右眼用の映像であるかを示すフィールドインデックス信号を生成し、映像信号に関連づけて保持部160に保持させる。ここでシャッタ切換部212は、左シャッタ112aが光通過状態への切り換えを開始した時点から右シャッタ112bが光通過状態への切り換えを開始した時点までの映像信号が左眼用の映像であることを示すように、また、右シャッタ112bが光通過状態への切り換えを開始した時点から左シャッタ112aが光通過状態への切り換えを開始した時点までの映像信号が右眼用の映像であることを示すようにフィールドインデックス信号を生成する。
図3は、シャッタ切換部212が出力する信号およびシャッタ112の状態を説明するための説明図である。図3(a)および(b)に示すように、垂直同期信号とフィールドインデックス信号は同期している。一方、シャッタ切換部212は、垂直同期信号に基づいて、左シャッタ112aを切り換えるための切換信号を生成し、生成した切換信号を左シャッタ112aに出力する。同様に、シャッタ切換部212は、右シャッタ112bを切り換えるための切換信号を生成し、生成した切換信号を右シャッタ112bに出力する。左シャッタ112aと右シャッタ112bとは、シャッタ切換部212から出力された切換信号に従って、例えば、図3(c)および(d)に示すように、切換信号がオンを示すときは光通過状態に、オフを示すときは遮光状態に時分割で交互かつ排他的に切り換わる。ここでは、フィールドインデックス信号の切換タイミングと切換信号のオンオフのタイミングが一致する場合について説明する。
左右それぞれのシャッタ112は、切換信号がオンを示した時点で光通過状態への移行を開始するが、図3(e)および(f)に示すように、シャッタ112が光通過状態への切り換えを開始してから光通過状態となるまでには移行時間Xを要する。同様に、切換信号がオフを示した時点でシャッタ112は遮光状態への移行を開始するが、シャッタ112が遮光状態への切り換えを開始してから遮光状態となるまでにも移行時間Xを要することになる。このシャッタ112の遮光状態から光通過状態、または、光通過状態から遮光状態への移行時間Xの間は、左シャッタ112aおよび右シャッタ112bがいずれも光通過状態となる場合があり、左シャッタ112aを通過した光束と右シャッタ112bを通過した光束とが重なって、上述したようにクロストークが生じてしまう。
そこで、まず撮像制御部214は、シャッタ切換部212が2つのシャッタ112を切り換えるタイミングに基づいて、左シャッタ112aを通過した光束と右シャッタ112bを通過した光束とが重ならない期間、すなわちクロストークが生じていない期間の映像信号と、クロストークが生じている期間の映像信号とを撮像素子120から読み出すための読出タイミングを生成する。
また、撮像制御部214は、被写体に対して、焦点調整や露光調整を含む撮像制御を遂行する。具体的に、撮像制御部214は、撮像制御を遂行するための制御指令を撮像部110の駆動回路128に出力し、駆動回路128は、撮像制御部214から出力された制御指令に従って、フォーカスレンズ124や絞り126を調整する。
読出制御部212は、撮像制御部214が生成した読出タイミングに基づいて、撮像素子120が光電変換した映像信号を読み出して保持部160に保持させる。
図4および図5は、撮像制御部214が生成する読出タイミングと読出制御部216の処理を説明するための説明図である。図4に示すように、撮像制御部214は、例えば、左シャッタ112aの遮光状態への切り換え開始時点(右シャッタ112bの光通過状態への切り換え開始時点)t1に撮像素子120から映像信号を読み出すための読出タイミングr1を生成する。そうすると読出制御部216は、図5に示すように、読出タイミングr1に基づき、時点t1において、図4(d)に示す、映像信号shortLn−2を読み出し、保持部160に保持させる。映像信号shortLn−2は、左シャッタ112aのみを通過したクロストークを含まない光束の映像信号Aしか含まれてない。ここで、LnやRnで示す映像信号は、撮像素子120から読み出した実際の映像信号である。また、A、D、Gのアルファベットで示す映像信号は、理論上クロストーク成分を含まない左眼用または右眼用の映像信号であり、B、C、E、F、H、Iのアルファベットで示す映像信号は、理論上クロストーク成分を含む左眼用または右眼用の映像信号である。
次に、撮像制御部214は、保持部160に保持された温度時間情報と温度検出部170が検出したシャッタ112の周囲温度とに基づいて、左シャッタ112aの遮光状態への移行が完了する時点(右シャッタ112bの光通過状態への移行が完了する時点)t2を推定し、時点t2に撮像素子120から映像信号を読み出すための読出タイミングr2を生成する。図5に示すように、読出制御部216は、読出タイミングr2に基づき、時点t2において、図4(d)に示す、左シャッタ112aを通過した光束の映像信号Bおよび右シャッタ112bを通過した光束の映像信号Cが混入された映像信号xtalkRn−1を読み出し、保持部160に保持させる。
上述したように保持部160に保持される温度時間情報は、温度とシャッタ112の予測立ち上がり時間および予測立ち下がり時間とを一対一に関連づけた情報であり、関係式やテーブルによって表される。かかる温度時間情報は、シャッタ112の温度特性に基づいて予め設定されている。したがって、撮像制御部214は、温度時間情報を参照して、シャッタ112の周囲温度からシャッタ112の予測立ち上がり時間および予測立ち下がり時間を一義的に推定することができる。なお、ここでは、理解を容易にするため、左シャッタ112aの予測立ち上がり時間と右シャッタ112bの予測立ち上がり時間、および、左シャッタ112aの予測立ち下がり時間と右シャッタ112bの予測立ち下がり時間が実質的に等しいとする。
そして、撮像制御部214は、時点tj(jは0以上の整数)に撮像素子120から映像信号を読み出すための読出タイミングrjを生成し、読出制御部216は、読出タイミングrj毎に映像信号を読み出して保持部160に保持させる。
そして、成分推定部218は、読出制御部216が読み出した映像信号における、クロストークが生じていない期間の第1のシャッタを通過した光束による映像信号に所定の係数を乗じて、クロストークが生じている期間の第1のシャッタを通過した光束による映像信号のクロストーク成分を推定する。ここで成分推定部218は、対応する画素毎にクロストーク成分を推定する。
例えば、フィールドインデックス信号を参照して、図4(d)に示すフィールド番号(n)の左眼用の映像信号Lnを更新する場合、読出制御部216は、まず、図4に示す、第1のシャッタとしての右シャッタ112bの遮光状態への切り換え開始時点である時点t3において、映像信号Rn−1の一部である映像信号shortRn−1を読み出し、保持部160に保持させ、第2のシャッタとしての左シャッタ112aの光通過状態への移行が完了した時点t4において、映像信号xtalkLnを撮像素子120から読み出し、保持部160に保持させる。ここで、映像信号shortRn−1は、右シャッタ112bのみを通過した光束の映像信号Dしか含まれていない、すなわち左シャッタ112aを通過した光束のクロストーク成分を含まない映像信号である。映像信号xtalkLnは、右シャッタ112bを通過した光束の映像信号Eと、左シャッタ112aを通過した光束の映像信号Fとが混入した映像信号である。
そして、読出制御部216は、左シャッタ112aの遮光状態への切り換え開始時点である時点t5において、映像信号shortLnを撮像素子120から読み出すとともに、保持部160から映像信号shortRn−1および、映像信号xtalkLnを読み出す。
成分推定部218は、保持部160から読み出された、クロストークを含まない映像信号shortRn−1に、所定の係数αを乗じて、映像信号xtalkLnに混入していると推定されるクロストーク成分である右シャッタ112bを通過した光束の映像信号Eを推定する。すなわち、E=α×shortRn−1となる。
所定の係数αは、保持部160に保持された温度時間情報を参照して、温度検出部170が検出したシャッタ112の周囲温度から一義的に決定することができる。なお、係数αは、左シャッタ112aと右シャッタ112bとそれぞれ独立して算出されるが、ここでは、理解を容易にするために、左シャッタ112aに関する係数αと右シャッタ112bに関する係数αが実質的に等しいとする。
上述したように成分推定部218は、クロストークのない期間の映像信号shortRn−1のみを用いてクロストーク成分を推定するため、従来のようにクロストークを含む期間すべての映像信号Rn−1を用いる場合と比較して、用いる映像信号の情報量は少なくなるが、クロストークを含む部分を切り離して利用することで、クロストーク成分のみを高精度に推定することが可能となる。
信号更新部220は、第2のシャッタを通過した光束による映像信号(ここでは左シャッタ112aを通過した映像信号xtalkLnおよび映像信号shortLn)から第1のシャッタを通過した光束による映像信号のクロストーク成分(ここでは右シャッタ112bを通過した映像信号shortRn−1に係数αを乗算した値)を減算して第2のシャッタを通過した光束による映像信号の映像信号(映像信号Ln)を更新する。ここで信号更新部220は、対応する画素毎に処理を行う。
こうして、信号更新部220は、成分推定部218が読み出した映像信号と推定されたクロストーク成分とを以下に示す式(1)に代入して、フィールド番号(n)の左眼用の映像信号Lnを更新した左眼用の映像信号L’nを生成する(図4(e)に示す)。
L’n=xtalkLn−α×shortRn−1+shortLn (0<α<1) 式(1)
ここでは、理解を容易にするため、第2のシャッタを通過した光束による映像信号として、左眼用の映像信号Lnを更新する場合を挙げて説明したが、映像信号の更新は、遮光状態への切り換えまたは光透過状態への切り換え開始時点(映像信号Lnや映像信号Rnの終了時点)で毎回実行される。したがって、時点t5で読み出された映像信号shortLnは、次フィールドにおける映像信号Rn+1を更新するために保持部160に保持される。なお、映像信号Rn+1を更新する場合、第2のシャッタは右シャッタ112bとなり、第1のシャッタは左シャッタ112aとなる。こうして、順次映像信号Lnおよび映像信号Rnが更新される。
信号処理部222は、信号更新部220が更新した映像信号に、ガンマ補正、ニー処理等の所定の画像処理を施し、画像処理後の映像信号をディスプレイ130に出力するとともに、保持部160に保持させる。
記録処理部224は、操作部132を通じて記録媒体102への記録が選択されると、保持部160に保持された画像処理後の映像信号をM−JPEG(Motion−Joint Photographic Experts Group)やMPEG(Moving Picture Experts Group)−2、H.264などの所定の符号化方式で符号化し、符号化された映像信号を記録媒体102に記録する。
以上説明したように、本実施形態にかかる立体映像撮像装置100は、クロストークのない映像信号に基づいてクロストーク成分を推定するため、クロストーク成分のみを特定することができ、特定したクロストーク成分を映像信号から減算する構成により、映像信号を減衰させることなく、第2シャッタを通過した光束による映像信号を生成することが可能となる。
(立体映像表示方法)
次に、上述した立体映像撮像装置100を用いて、水平視差による立体映像を生成することが可能な立体映像撮像方法を具体的に説明する。
図6は、立体映像撮像方法の全体的な流れを示したフローチャートである。まず、立体映像撮像装置100の保持部160は、予め、温度時間情報を保持しておく。
図6に示すように、まず、シャッタ切換部212は、垂直同期信号に基づいて、切換信号を生成し、切換信号の切換タイミングで、左シャッタ112aと、右シャッタ112bとを光通過状態と遮光状態に時分割で交互かつ排他的に切り換え(S300)、撮像素子120は、2つのシャッタ112を通過した光束を映像信号に光電変換する(S302)。また、温度検出部170は、左シャッタ112aおよび右シャッタ112bの周囲温度をそれぞれ検出する(S304)。
そして、撮像制御部214は、シャッタ切換部212が2つのシャッタ112を切り換えるタイミングに基づいて、クロストークが生じていない期間の映像信号と、クロストークが生じている期間の映像信号とを撮像素子120から読み出すための読出タイミングを生成する(S306)。また、ここで撮像制御部214は、温度検出ステップS304で検出されたシャッタ112の周囲温度と保持部160に保持された温度時間情報とに基づいて、生成した読出タイミングを調整する。
そして、第2のシャッタを通過した光束による映像信号Mn(MはLまたはR)を更新する場合、読出制御部216は、読出タイミング生成ステップS306で生成された読出タイミングに基づいて撮像素子120から映像信号xtalkMnを読み出し、保持部160に保持させ(S308)、続いて読出タイミングに基づいて映像信号shortMnを読み出し、保持部160に保持させる(S310)。成分推定部218は、フィールドインデックス信号が左眼用の映像信号を示しているか否かすなわちMnがLnであるか否かを判定する(S312)。フィールドインデックス信号が左眼用の映像信号を示している場合(S312のYES)、成分推定部218は、まず、温度検出ステップS304で検出されたシャッタ112の周囲温度と保持部160に保持された温度時間情報とに基づいて、右シャッタ112bに関する係数αを決定する(S314)。
その後、成分推定部218は、読出制御部216に、前回保持されている第1のシャッタを通過した光束による映像信号である右眼用の映像信号shortRn−1を保持部160から読み出させ、映像信号shortRn−1に係数αを乗じて、クロストーク成分を推定する(S316)。
信号更新部220は、読出ステップS308で読み出した映像信号xtalkLnから推定ステップ316で推定されたクロストーク成分α×shortRn−1を減算し、さらに読出ステップS310で読み出した映像信号shortLnを加算して映像信号L’nを算出し(S318)、映像信号Lnを映像信号L’nに更新する(S320)。
フィールドインデックス信号が右眼用の映像信号を示している場合(S312のNO)、成分推定部218は、まず、温度検出ステップS304で検出されたシャッタ112の周囲温度と保持部160に保持された温度時間情報とに基づいて、左シャッタ112aに関する係数αを決定する(S322)。
その後、成分推定部218は、読出制御部216に保持部160から前回保持されている第1のシャッタを通過した光束による映像信号である左眼用の映像信号shortLn−1を読み出させ、映像信号shortLn−1に係数αを乗じて、クロストーク成分を推定する(S324)。
信号更新部220は、読出ステップS308で読み出した映像信号xtalkRnから推定ステップ316で推定されたクロストーク成分α×shortLn−1を減算し、さらに読出ステップS310で読み出した映像信号shortRnを加算して映像信号R’nを算出し(S326)、映像信号Rnを映像信号R’nに更新する(S328)。
以上説明したように、本実施形態にかかる立体映像撮像方法においても、クロストークのない映像信号に基づいてクロストーク成分を推定して、クロストーク成分を映像信号から減算する構成により、映像信号を減衰させることなく、第2のシャッタを通過した光束による映像信号を生成することが可能となる。
(第2の実施形態)
上述した第1の実施形態では、シャッタ112を切り換えるための切換信号のオンオフとフィールドインデックス信号の切り換えとのタイミングが一致する場合を例に挙げて説明したが、切換信号のオンオフのタイミングとフィールドインデックス信号の切換タイミングとを異ならせることによって、より良質な水平視差による立体映像を生成することが可能となる。
図7および図8は、切換信号のオンオフのタイミングとフィールドインデックス信号の切換タイミングとをずらした場合の撮像制御部214、読出制御部216、成分推定部218および信号更新部220の処理を説明するための説明図である。図7および図8に示す例では、シャッタ切換部212は、第2のシャッタが、光通過状態への切り換えを開始した時点から光通過状態に到達するまでの期間の略中央の時点から、遮光状態への切り換えを開始した時点から遮光状態に到達するまでの期間の略中央の時点までの映像信号を、第2のシャッタを通過した光束による映像信号であることを示すフィールドインデックス信号を生成する。
例えば、図7に示すように、フィールドインデックス信号を参照して、図7(d)に示すフィールド番号(m)の第2のシャッタを通過した光束による映像信号としての左眼用の映像信号Lm(mは0以上の整数)を更新する場合、撮像制御部214は、まず、第1のシャッタとしての右シャッタ112bが遮光状態への切り換えの開始時点すなわち第2のシャッタとしての左シャッタ112aが光通過状態への切り換えの開始時点である図7に示す時点t1に撮像素子120から映像信号を読み出すための読出タイミングr1を生成する。そうすると読出制御部216は、図8に示すように、読出タイミングr1に基づき、時点t1において、図7(d)に示す、撮像素子120から映像信号shortRm−1を読み出して保持部160に保持させる。映像信号shortRm−1は、右シャッタ112bのみを通過した光束の映像信号Aしか含まれていない、すなわち左シャッタ112aを通過した光束のクロストーク成分を含まない映像信号である。ここでも、LnやRnで示す映像信号は撮像素子120から読み出した実際の映像信号である。また、A、G、Nのアルファベットで示す映像信号は、理論上クロストーク成分を含まない左眼用または右眼用の映像信号であり、B、C、D、F、H、I、J、K、O、P、Q、Rのアルファベットで示す映像信号は、理論上クロストーク成分を含む左眼用または右眼用の映像信号である。
そして、撮像制御部214は、フィールドインデックス信号が右眼用の映像信号から左眼用の映像信号に切り換えた時点、すなわち、左シャッタ112aが光通過状態への切り換えを開始した時点から光通過状態に到達するまでの期間の略中央の時点である図7(d)に示す時点t2に撮像素子120から映像信号を読み出すための読出タイミングr2を生成する。ここでも、第1の実施形態同様、読み出しタイミングが生成される際、上述した温度時間情報とシャッタ112の周囲温度が参照され、推定されたシャッタ112の予測立ち上がり時間や予測立ち下がり時間が用いられているが、説明の便宜上、かかる記載を省略する。
そうすると読出制御部216は、図8に示すように、読出タイミングr2に基づき、時点t2において、撮像素子120から映像信号xtalk2Rm−1を読み出して保持部160に保持させる。映像信号xtalk2Rm−1は、右シャッタ112bを通過した光束の映像信号Bと、左シャッタ112aを通過した光束の映像信号Dとが混入した映像信号である。映像信号xtalk2Rm−1は、映像信号Rm−1を更新する際に用いる。
さらに、撮像制御部214は、右シャッタ112bが遮光状態への移行を完了した時点すなわち左シャッタ112aが光通過状態への移行を完了した時点である図7に示す時点t3に撮像素子120から映像信号を読み出すための読出タイミングr3を生成する。そうすると読出制御部216は、図8に示すように、読出タイミングr3に基づき、時点t3において、撮像素子120から映像信号xtalk1Lmを読み出して保持部160に保持させる。映像信号xtalk1Lmは、右シャッタ112bを通過した光束の映像信号Cと、左シャッタ112aを通過した光束の映像信号Fとが混入した映像信号である。
このようにして、撮像制御部214は、時点t4、時点t5、時点t6、時点7、…時点ti(iは0以上の整数)に撮像素子120から映像信号を読み出すための読出タイミングr4、r5、r6、r7、…riをそれぞれ生成する。したがって、読出制御部216は、図8に示すように、映像信号を読み出す。
そして、成分推定部218は、保持部160に保持された映像信号shortRm−1に所定の係数αを乗じて、時点t3で読み出された映像信号xtalk1Lmに混入していると推定されるクロストーク成分である、右シャッタ112bを通過した光束の映像信号Cを推定する。すなわち、C=α×shortRm−1となる。また、成分推定部218は、保持部160に保持された映像信号shortRm−1に所定の係数βを乗じて、時点t5で読み出された映像信号xtalk2Lmに混入していると推定されるクロストーク成分である、右シャッタ112bを通過した光束の映像信号Jを推定する。すなわち、J=β×shortRm−1となる。
ここで所定の係数βは、保持部160に保持された温度時間情報を参照して、温度検出部170が検出したシャッタ112の周囲温度から一義的に決定することができる。なお、係数βは、左シャッタ112aと右シャッタ112bとそれぞれ独立して算出されるが、ここでは、理解を容易にするために、左シャッタ112aに関する係数βと右シャッタ112bに関する係数βが実質的に等しいとする。
成分推定部218は、このように時点t1で読み出した映像信号shortRm−1を用いて、クロストーク成分である映像信号Jを推定することもできるが、さらに、精度を高めるべく、時点t5に時間的に最も近い、クロストークが生じていない右シャッタ112bを通過した光束の映像信号、すなわち、時点t7で読み出す映像信号shortRm+1を用いることにする。
映像信号は時々刻々と変化するので、クロストークが生じている期間に時間的に近いクロストークが生じていない期間の映像信号を用いることで、精度よくクロストーク成分を推定することが可能となる。
そこで、成分推定部218は、時点t7で読み出した映像信号shortRm+1に所定の係数βを乗じて、映像信号xtalk2Lmに混入していると推定されるクロストーク成分である映像信号Jを推定する。すなわち、J=β×shortRm+1となる。
上述したように、第2のシャッタが、光通過状態への切り換えを開始した時点から光通過状態に到達するまでの期間の略中央の時点から、遮光状態への切り換えを開始した時点から遮光状態に到達するまでの期間の略中央の時点までの映像信号を、第2のシャッタを通過した光束による映像信号とする構成により、左右双方の映像信号の撮像時間が定められている場合において、光量を最大限に維持するべく、左眼用の映像信号と、右眼用の映像信号とを連続して生成しつつ、クロストーク成分の混入を最小限に抑えることができるため、クロストーク成分を減算する際に生じる誤差を著しく低減することが可能となる。
信号更新部220は、読出制御部216が、時点t3、時点t4、時点t5でそれぞれ読み出した映像信号xtalk1Lm、shortLm、xtalk2Lmと成分推定部218が推定したクロストーク成分とを以下に示す式(2)に代入して、フィールド番号(m)の左眼用の映像信号Lmを更新した左眼用の映像信号L’mを生成する(図7(f)に示す)。
L’ m=xtalk1Lm−α×shortRm−1+shortLm+xtalk2Lm−β×shortRm+1
(0<α<1、0<β<1) 式(2)
ここでも、理解を容易にするため、左眼用の映像信号Lmを更新する場合を挙げて説明したが、第1のシャッタを通過した光束による映像信号の更新は、次回の第2のシャッタにおける遮光状態への切り換えまたは第1のシャッタにおけるに関する光透過状態への切り換え開始時点で毎回実行される。
以上説明したように、本実施形態にかかる立体映像撮像装置100は、クロストークのない映像信号に基づいてクロストーク成分を推定するため、クロストーク成分のみを特定することができる。そして、特定したクロストーク成分を映像信号から減算する構成により、映像信号を減衰させることなく、第2のシャッタを通過した光束による映像信号を生成することが可能となる。さらに、クロストーク成分を含む期間の映像信号も利用するため、低照度の撮影時であっても、光量不足になることがなく、S/Nが低下するといった事態を回避することができる。
(立体映像表示方法)
次に、上述した立体映像撮像装置100を用いて、水平視差による立体映像を生成することが可能な立体映像撮像方法を具体的に説明する。
図9は、立体映像撮像方法の全体的な流れを示したフローチャートである。なお、シャッタ切り換えステップS300からシャッタ温度検出ステップS304までの処理は、図6に示した処理と同様であるため記載を省略する。
シャッタ温度検出ステップS304の後、撮像制御部214は、シャッタ切換部212が2つのシャッタ112を切り換えるタイミングとフィールドインデックス信号に基づいて、クロストークが生じていない期間の映像信号と、クロストークが生じている期間の映像信号とを撮像素子120から読み出すための読出タイミングを生成する(S406)。また、ここで撮像制御部214は、温度検出ステップS304で検出されたシャッタ112の周囲温度と保持部160に保持された温度時間情報とに基づいて、生成した読出タイミングを調整する。
そして、第2のシャッタを通過した光束による映像信号Mm(MはLまたはR)を更新する場合、読出制御部216は、読出タイミング生成ステップS406で生成された読出タイミングに基づいて撮像素子120から映像信号xtalk1Mmを読み出し、保持部160に保持させ(S408)、続いて読出タイミングに基づいて映像信号shortMmを読み出し、保持部160に保持させ(S410)、さらに、読出タイミングに基づいて映像信号xtalk2Mmを読み出し、保持部160に保持させる(S412)。
成分推定部218は、フィールドインデックス信号が左眼用の映像信号を示しているか否かすなわちMmがLmであるか否かを判定する(S414)。フィールドインデックス信号が左眼用の映像信号を示している場合(S412のYES)、成分推定部218は、まず、温度検出ステップS304で検出されたシャッタ112の周囲温度と保持部160に保持された温度時間情報とに基づいて、第1のシャッタとしての右シャッタ112bに関する係数αおよび係数βを決定する(S416)。
成分推定部218は、読出制御部216に、前々回保持されている右眼用の映像信号shortRm−2に係数αを乗じて、今回の右眼用の映像信号shortRmに係数βを乗じて、クロストーク成分を推定する(S418)。
信号更新部220は、前回保持されている映像信号xtalk1Lm−1からクロストーク成分であるα×shortRm−2を減じたものと、映像信号Lm−1と、映像信号xtalk2Lm−1からクロストーク成分であるβ×shortRmを減じたものとを加算して映像信号L’m−1を算出し(S420)、左眼用の映像信号Lm−1を映像信号L’m−1に更新する(S422)。
フィールドインデックス信号が右眼用の映像信号を示している場合(S412のNO)、成分推定部218は、まず、温度検出ステップS304で検出されたシャッタ112の周囲温度と保持部160に保持された温度時間情報とに基づいて、第1のシャッタとしての左シャッタ112aに関する係数αおよび係数βを決定する(S424)。
成分推定部218は、読出制御部216に、前々回保持されている左眼用の映像信号shortLm−2に係数αを乗じて、今回の左眼用の映像信号shortLmに係数βを乗じて、クロストーク成分を推定する(S426)。
信号更新部220は、前回保持されている映像信号xtalk1Rm−1からクロストーク成分であるα×shortLm−2を減じたものと、映像信号Rm−1と、映像信号xtalk2Rm−1からクロストーク成分であるβ×shortLmを減じたものとを加算して映像信号R’m−1を算出し(S428)、右眼用の映像信号Rm−1を映像信号R’m−1に更新する(S430)。
以上説明したように、本実施形態にかかる立体映像撮像方法においても、クロストークのない映像信号に基づいてクロストーク成分を推定して、クロストーク成分を映像信号から減算する構成により、映像信号を減衰させることなく、第2のシャッタを通過した光束による映像信号を生成することが可能となる。そして、クロストーク成分を含む期間の映像信号も利用して映像信号を生成するため、低照度の撮影時であっても、光量不足になることがなく、S/Nが低下するといった事態を回避することができる。
上述した実施形態では、撮像素子120から読み出した映像信号を加工した後保持部160に保持させる構成について説明した。ここでは、まず撮像のみを行い、撮像が完了した後、映像信号を事後的に加工してクロストーク成分を除去する構成について説明する。
まず、読出制御部216は、撮像を完了するまで、撮像素子120から読み出した映像信号をすべて保持部160に保持させる。
そして、ユーザによる操作部132を通じた操作入力等に応じて、例えば、フィールド番号(m)の左眼用の映像信号Lmの更新を試みる場合、読出制御部216は、保持部160に読出タイミングと映像信号の保持されているアドレスを与えることにより、保持部160に保持された映像信号における、クロストークが生じていない期間の第1のシャッタを通過した光束による映像信号(例えば、shortRm−1とshortRm+1)を読み出す。そして、成分推定部218は、shortRm−1に所定の係数αを乗じて、クロストークが生じている期間の映像信号(xtalk1Lm)のクロストーク成分を推定すると共に、shortRm+1に所定の係数βを乗じて、クロストークが生じている期間の映像信号(xtalk2Lm)のクロストーク成分を推定する。
そして信号更新部220は、読出制御部216に、保持部160に保持された映像信号における、映像信号xtalk1Lm、shortLm、xtalk2Lmを、読出タイミングに基づいて、保持部160から読み出させる。そして信号更新部220は、映像信号xtalk1Lm、shortLm、xtalk2Lmと成分推定部218が推定したクロストーク成分とを上述した式(2)に代入してフィールド番号(m)の左眼用の映像信号Lmを更新した左眼用の映像信号L’mを生成する。
以上説明したように、映像信号を一旦保持部160に保持させ、事後的に加工してクロストーク成分を除去する構成により、立体映像撮像装置100の処理負荷が乏しい場合であっても、撮像を円滑に遂行でき、撮像完了後に確実にクロストーク成分を除去することが可能となる。
なお、ここでは、第2の実施形態にかかる式(2)を利用して映像信号を更新しているが、第1の実施形態にかかる式(1)を利用して映像信号を更新できることは言うまでもない。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明はかかる実施形態に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
例えば、上述した実施形態において、クロストーク成分を推定する際に用いる、クロストークが発生していない期間の映像信号は、クロストークが発生していない期間すべてに亘る映像信号としているが、クロストークが発生していない期間の一部における映像信号としてもよい。
なお、本明細書の立体映像撮像方法の各工程は、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はなく、並列的あるいはサブルーチンによる処理を含んでもよい。