JP2011259405A - 撮像装置および撮像方法 - Google Patents
撮像装置および撮像方法 Download PDFInfo
- Publication number
- JP2011259405A JP2011259405A JP2010272480A JP2010272480A JP2011259405A JP 2011259405 A JP2011259405 A JP 2011259405A JP 2010272480 A JP2010272480 A JP 2010272480A JP 2010272480 A JP2010272480 A JP 2010272480A JP 2011259405 A JP2011259405 A JP 2011259405A
- Authority
- JP
- Japan
- Prior art keywords
- image
- time point
- unit
- imaging
- parallax
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】左右の視点画像からただちに立体画像を生成できない撮像装置において、立体画像出力のタイムラグを短縮する。
【解決手段】レリーズボタン19が全押しされるまで、n(n=1、2、3・・)コマ目の左右の画像データA・Bから距離情報を算出し、撮影部20Aから取得されたn+1コマ目の画像データAにnコマ目の画像データA・Bに対応する距離情報を適用して仮想的な画像データB’を生成し、n+1コマ目の画像データAと画像データB’とに基づいてnコマ目の3次元画像データを生成しモニタ18にスルー画像として表示することを繰り返す。このように、前のコマについて算出された距離情報を用いて後のコマの視点画像からスルー画を表示するため、距離情報の算出待ちにより最新のスルー画の表示の遅れが発生することを防止できる。
【選択図】 図3
【解決手段】レリーズボタン19が全押しされるまで、n(n=1、2、3・・)コマ目の左右の画像データA・Bから距離情報を算出し、撮影部20Aから取得されたn+1コマ目の画像データAにnコマ目の画像データA・Bに対応する距離情報を適用して仮想的な画像データB’を生成し、n+1コマ目の画像データAと画像データB’とに基づいてnコマ目の3次元画像データを生成しモニタ18にスルー画像として表示することを繰り返す。このように、前のコマについて算出された距離情報を用いて後のコマの視点画像からスルー画を表示するため、距離情報の算出待ちにより最新のスルー画の表示の遅れが発生することを防止できる。
【選択図】 図3
Description
本発明は、視差を有する画像の撮像装置および撮像方法に関し、特に、視差を有する画像の撮影画角を立体的にスルー画として表示する撮像装置および撮像方法に関する。
特許文献1によると、第1の結像光学系と第1の固体撮像素子とを有する第1の撮像手段と、第2の結像光学系と、上記第1の固体撮像素子より有効画素数の少ない第2の固体撮像素子とを有し、撮像方向が上記第1の撮像手段の撮像方向と略同一である第2の撮像手段と、上記第1の撮像手段により撮像した画像と、上記第2の撮像手段により撮像した画像とを参照することにより、上記第1の撮像手段の画像の深度情報を検出する深度検出手段とを具備することを特徴とする電子ステレオカメラが提供される。
特許文献2によると、入力映像から、被写体の画面上の動き情報を抽出する(工程1)。このとき、ブロックマッチング等の手法を使う。つづいて3次元空間における被写体の現実の動きを算出する(工程2)。入力映像は元の3次元的な動きの投影であるから、複数の代表点の動きから3次元表示の動きが逆変換によって求められる。この結果、被写体の座標が判明するため、被写体の奥行き情報が獲得できる(工程3)。この奥行きに従って視差を計算し、入力映像から両眼用画像を生成する(工程4)。
特許文献3において、ステレオマッチング処理部(対象物検出手段)43は、画像処理部4A、4Bによってそれぞれ処理され、メモリ部31に格納された2つの画像データA、Bにおける、上述の空間設定部42によって設定された検索空間に対して、互いに対応する1つ以上の対応点(対象物)を検出する。距離算出部(位置算出手段)44は、上述したステレオマッチング処理部43によって検出された対応点の3次元座標値(位置情報)を算出する。撮影部20Aおよび撮影部20Bの撮影レンズ21A2、21B2の構成は異なり、撮影レンズ21A2は、ズームレンズおよび該ズームレンズを駆動する図示しないズームレンズ駆動部(駆動手段)を備え、撮影レンズ21B2は、撮影レンズ21A2のズームレンズの広角端と等しい画角の固定焦点レンズを備える。このような構成にすることによりコストを低減する。
特許文献4は2次元画像と距離情報(奥行き情報)を用いた3次元画像生成技術の一例である。特許文献5および6は異なる視点画像間の対応点検索の方法の一例である。
特許文献7は、左右2台のカメラの撮影した左目画像、右目画像に対して、左目画像、右目画像のいずれか一方のステレオ画像を基準にして他方のステレオ画像との間でパターンマッチングを実施し、画素毎のマッチング画像を特定し、左右の画素毎のマッチング画像間で画素間距離の内挿によって中間位置画像を求め、左右の画素毎のマッチング画像間で画素間距離の外挿によって右外画像、左外画像を求める多眼視画像作成方法を開示する。
図9に例示するように、同じ画質の左右の視点画像をそのまま立体画像として表示する通常の複眼カメラにおけるスルー画(ライブビュー)の表示は、1フレームごとに撮影された左右の視点画像に基づいて3次元画像を表示することを繰り返すだけで済む。
一方、特許文献3に例示されるような、左右の撮像部の撮影画素数が異なったり、一方の撮像部は色情報が取得できるが他方の撮像部は色情報を取得できないなど左右の撮像部の仕様が異なる場合や、視点画像の解像度がモニタの解像度と異なる場合など、左右の視点画像からただちに表示用の立体画像を生成できない複眼カメラでは、距離情報の算出に加え、一方の撮像部、例えば画素数の多い撮像部や色情報の取得可能な撮像部の画像の色情報などから3次元画像を生成して表示することを繰り返す必要がある。
図10に例示するように、このようなカメラでは、3次元画像の生成に時間がかかるため、その分視点画像の撮影からスルー画の表示まで間のタイムラグが通常のカメラよりも増大する。そのため、表示されたスルー画による画角の確認などに支障をきたし使いにくい。
本発明は、左右の視点画像からただちに立体画像を生成できない撮像装置において、立体画像出力のタイムラグを短縮する技術を提供する。
本発明は、視差を有する第1光学系および第2光学系の各々を介して結像した被写体像を各々対応する撮像素子で光電変換し、第1光学系の被写体像に対応する視点画像である第1画像および第2光学系の被写体像に対応する視点画像である第2画像からなる視点画像の組を継続的に出力可能な撮像部と、時間的に前後する任意の2つの時点である第1の時点および第2の時点で視点画像の組が出力されるよう撮像部を制御する撮像制御部と、第1の時点で撮像部から出力された視点画像の組に基づいてステレオマッチングを行い視差情報を算出する視差情報算出部と、第2の時点で出力された第1画像に第1の時点に対応する視差情報を適用して第2光学系の位置における仮想第2画像を生成し、第2の時点で出力された第1画像と仮想第2画像から立体画像を生成する立体画像生成部と、を備える撮像装置を提供する。
ここで、視差情報とは、被写体の距離情報または視差マップを含む。
撮像制御部は、第1の時点よりも後の異なる複数の第2の時点の各々で視点画像の組が順次出力されるよう撮像部を制御し、立体画像生成部は、複数の第2の時点で各々出力された複数の視点画像の組に含まれる複数の第1画像に第1の時点に対応する視差情報を適用して第2光学系の位置における複数の仮想第2画像を生成し、複数の第2の時点で各々出力された第1画像と対応する複数の仮想第2画像から複数の立体画像を順次生成する。
こうすると、第1画像と第2画像に基づいて距離計算を行い、その後その計算された距離と当該距離計算を行うのに用いた第1画像に基づいて仮想的な第2画像を生成し、当該第1画像と第2画像から立体画像を生成するのに要する時間よりも、立体画像の生成の時間間隔を短くすることができる。
撮像制御部は、視差情報算出部による第1の時点に対応する視差情報の算出処理が所定の割合だけ完了した第2の時点で視点画像の組が出力されるよう撮像部を制御する。
こうすると、距離計算の完了タイミングに合わせて最新の視点画像に基づいた立体画像を生成することができる。
視差情報算出部は、異なる複数の視点画像の組にそれぞれ対応する複数の視差情報をそれぞれ独立して算出可能な異なる複数の処理系統を有しており、異なる複数の第1の時点に対応する視差情報の各々を異なる処理系統で算出する。
こうすると、距離計算がさらに高速化する。
撮像装置は、所定の記録指示が入力されたことに応じ、第1の時点で出力された第1画像に第1の時点に対応する視差情報を適用して第2光学系の位置における仮想第2画像を生成し、第1の時点で出力された第1画像と仮想第2画像に基づいて立体画像の再生情報を記録する記録部を備える。
こうすると、視差情報と画像の間に時間的ずれのない再生情報を記録できる。
立体画像生成部の生成した立体画像を表示する表示部を備える。
第2画像の解像度は第1画像の解像度よりも低くかつ表示部の表示解像度よりも低い。
第1画像は輝度情報および色情報を含み、第2画像は輝度情報のみを含む。
第2画像に対応する光学系および撮像素子は簡易な構成で済むため、コストを削減でき、デザイン面でも有利であるが、視差情報の計算と立体画像の生成に時間を要する。そこで、上述したように立体画像を生成すれば、より効果的に立体画像の生成の時間間隔を短くすることができる。
視差情報をぼかすぼかし処理部を備え、立体画像生成部は、ぼかし処理部によりぼかされた第1の時点に対応する視差情報を第2の時点で出力された第1画像に適用して第2光学系の位置における仮想第2画像を生成し、第2の時点で出力された第1画像と仮想第2画像から立体画像を生成する。
こうすれば、視差情報と画像情報の時間的ずれに起因する立体画像上の視差の違和感を軽減できる。
立体画像生成部は、第1の時点に対応する視差情報を外挿または内挿して仮想視差情報を生成し、該仮想視差情報と第2の時点で出力された第1画像および/または第2画像に基づいて、所望の視差を有する視点画像の組を生成し、所望の視差を有する画像の組から立体画像を生成する。
こうすれば、立体画像の視差を任意に調整できる。
所望の視差量は、所定の操作手段から入力された指定値、固定値または被写体距離の遠近に応じた値を含む。
本発明は、視差を有する第1光学系および第2光学系の各々を介して結像した被写体像を各々対応する複数の撮像素子の各々で光電変換し、第1光学系の被写体像に対応する視点画像である第1画像および第2光学系の被写体像に対応する視点画像である第2画像からなる視点画像の組を継続的に出力可能な撮像部を備える撮像装置が、時間的に前後する任意の2つの時点である第1の時点および第2の時点で視点画像の組が出力されるよう撮像部を制御するステップと、第1の時点で撮像部から出力された視点画像の組に基づいてステレオマッチングを行い視差情報を算出するステップと、第2の時点で出力された第1画像に第1の時点に対応する視差情報を適用して第2光学系の位置における仮想第2画像を生成し、第2の時点で出力された第1画像と仮想第2画像から立体画像を生成するステップと、を実行する撮像方法を提供する。
本発明は、視差を有する第1光学系および第2光学系の各々を介して結像した被写体像を各々対応する撮像素子で光電変換し、第1光学系の被写体像に対応する視点画像である第1画像および第2光学系の被写体像に対応する視点画像である第2画像からなる視点画像の組を継続的に出力可能な撮像部と、時間的に前後する任意の2つの時点である第1の時点および第2の時点で視点画像の組が出力されるよう撮像部を制御する撮像制御部と、第1の時点で撮像部から出力された視点画像の組に基づいてステレオマッチングを行い視差情報を算出する視差情報算出部と、第1の時点に対応する視差情報を外挿または内挿して仮想視差情報を生成し、該仮想視差情報と第2の時点で出力された第1画像および/または第2画像に基づいて、所望の視差を有する視点画像の組を生成し、所望の視差を有する画像の組から立体画像を生成する立体画像生成部と、を備える撮像装置を提供する。
本発明は、視差を有する第1光学系および第2光学系の各々を介して結像した被写体像を各々対応する複数の撮像素子の各々で光電変換し、第1光学系の被写体像に対応する視点画像である第1画像および第2光学系の被写体像に対応する視点画像である第2画像からなる視点画像の組を継続的に出力可能な撮像部を備える撮像装置が、時間的に前後する任意の2つの時点である第1の時点および第2の時点で視点画像の組が出力されるよう撮像部を制御するステップと、第1の時点で撮像部から出力された視点画像の組に基づいてステレオマッチングを行い視差情報を算出するステップと、第1の時点に対応する視差情報を外挿または内挿して仮想視差情報を生成し、該仮想視差情報と第2の時点で出力された第1画像および/または第2画像に基づいて、所望の視差を有する視点画像の組を生成し、所望の視差を有する画像の組から立体画像を生成するステップと、を実行する撮像方法を提供する。
本発明によると、第1の時点で算出された視差情報と、第1の時点よりも後の第2の時点で出力された視点画像とによって立体画像を生成する。こうすると、後の第2の時点で取得された視点画像に基づいて即座に立体画像を生成でき、第1の時点で算出された視差情報と、第1の時点で出力された視点画像とによって立体画像を生成するよりも新しい立体画像をより早く表示できる。
<第1実施形態>
図1は本発明の好ましい実施形態に係るデジタルカメラ1の正面斜視図を示す。デジタルカメラ1の前面には、撮影レンズ21A1、21B1、電源スイッチ22、フラッシュライト24が設けられ、側面にはメディアスロット26が設けられている。
図1は本発明の好ましい実施形態に係るデジタルカメラ1の正面斜視図を示す。デジタルカメラ1の前面には、撮影レンズ21A1、21B1、電源スイッチ22、フラッシュライト24が設けられ、側面にはメディアスロット26が設けられている。
撮影レンズ21A1、21B1は、被写体像を所定の固体撮像素子(CCDやCMOS等)の結像面上に結像させるためのものである。撮影レンズ21A1と撮影レンズ21B1は、被写体に向けて光軸が平行となるように上下方向は同位置、左右方向は所定値離れて配置され、同じ被写体を異なる視点位置から同時に撮影する。撮影レンズ21A1、21B1は、デジタルカメラ1の電源がオフ状態の時、再生モードであるとき等にそれぞれレンズの表面を覆うレンズカバーが設けられ、汚れやゴミ等からレンズを保護している。
図2はデジタルカメラ1の概略ブロック図を示す。デジタルカメラ1は、撮影部20A、20Bを備え、撮影部20A、20Bはそれぞれ、撮影レンズ21A1、21B1からなる光学系21A、21B(図示せず)と撮影素子としてCCD29A、29Bとを備える。以下の記述や図面では、撮影部20Aは第1カメラ、撮影部20Bは第2カメラで示されることもある。
撮影部20Aは、本撮影に使用される第一の撮影部であり、撮影レンズ21A1としてはフォーカスレンズが設けられる。フォーカスレンズは、モータとモータドライバからなる図示しないフォーカスレンズ駆動部によって後述のCPU32を介して出力される駆動量データに基づいてステップ駆動され、光軸方向に移動可能な構成となっている。この撮影レンズ21A1の後方にはそれぞれモータとモータドライバからなる駆動部によって駆動制御される図示しない絞りやメカニカルシャッタが設けられ、これらによって光学系21A(図示せず)が構成される。絞りは、画像処理部4Aから出力される絞り値データに基づいて絞り径が調整され、メカニカルシャッタは、レリーズボタン19の押下信号と、CPUを介して出力されるシャッタ速度データとに応じて開閉制御される。
上記光学系21Aの後方にはCCD29Aが設けられている。CCD29Aは、多数の受光素子がマトリクス状に配置されてなる光電面を有しており、光学系を通過してCCD29Aの受光面に結像された被写体像は、CCD29A上の各センサで入射光量に応じた量の信号電荷に変換される。なおCCD29Aはシャッターゲートパルスのタイミングによって各センサの電荷蓄積時間(シャッタースピード)を制御する、いわゆる電子シャッタ機能を有している。
各センサに蓄積された信号電荷は、図示しないCCD駆動部から加えられるパルスに基づいて信号電荷に応じた電圧信号(アナログ撮像信号)として順次CCD29Aから読み出される。そしてCCD29Aから出力されたアナログ撮像信号は、A/D処理部3Aに送られる。
A/D処理部3Aは、サンプリングホールド回路、色分離回路、ゲイン調整回路等の信号処理回路およびA/Dコンバータを含み、アナログ撮像信号は、このA/D処理部3Aにおいて、相関二重サンプリング(CDS)処理並びにR,G,Bの各色信号に色分離処理され、各色信号の信号レベルの調整(プリホワイトバランス処理)が行われて、デジタル信号に変換される。そしてA/D処理部3Aによりデジタル信号に変換された後、画像処理部4Aに送られる。なおCCD駆動部、A/D処理部3Aは、CPUの指令に従ってタイミングジェネレータから加えられるタイミング信号により同期して駆動されるようになっている。
画像処理部4Aは、輝度・色差信号生成回路、ガンマ補正回路、シャープネス調整回路、コントラスト補正回路、ホワイトバランス調整回路等の画質調整回路を含むデジタルシグナルプロセッサ(DSP)で構成されており、画質を向上させるべく画像信号を処理する。
また撮影部20Bは、主に測距に使用される撮影部であり、上記第一の撮影部20Aの光学系21Aと同様の構成の光学系21Bを備えている。光学系21Aと光学系21Bとは、同一のフォーカスレンズ駆動部によって同様に駆動制御される。そして光学系21Bの後方にはCCD29Bが設けられている。このCCD29Bは、要求される測距精度を確保できる範囲において、上述した第一の撮影部20AのCCD29Aよりも画素数の少ないものであってもよく、輝度または単色のみに感度を有するものであってもよい。こうすることによりコストを低減することができる。A/D処理部3Bおよび画像処理部4Bは、上述のA/D処理部3Aおよび画像処理部4Aと概略同様の構成であるが、CCD29Bに応じた処理能力を備えていれば良い。そして上記のように構成される撮影部20Aと撮影部20Bは、同じ画角で、かつ同じタイミングで被写体を撮影する。
メモリ部31は、デジタルカメラ1において設定される各種定数、およびCPU32が実行するプログラム等を格納するものであって、さらに、例えば一定周期のバスクロック信号に同期してデータ転送を行うSDRAM(Synchronous Dynamic Random Access Memory)から構成されて、画像データに対して上述の画像処理部4A、4Bがデジタル画像処理(信号処理)を行う際に使用する作業用メモリ等も備えている。そして画像処理部4A、4Bによってそれぞれ画像処理が施された画像データA、Bは、同じタイミングでメモリ部31に格納される。
操作部33は、動作モードスイッチ11、メニュー/OKボタン、上下レバー、左右ボタン、Back(戻り)ボタン、表示切替ボタン、レリーズボタン、電源スイッチ22からなり、操作系制御部34は、操作部33の操作内容をCPU32に伝えるためのインターフェースである。
表示制御部35は、メモリ部31に格納された画像データAをスルー画としてモニタ18に表示させるためのものであり、例えば、輝度(Y)信号と色(C)信号を一緒にして1つの信号としたコンポジット信号に変換して、モニタ18に出力する。スルー画は、撮影者がレリーズボタン19を押して記録撮影する前に画角や被写体などを確認できるように、固体撮像素子(CCD29A・29B)から出力された画像信号を信号処理回路(AD処理部3A・3B、画像処理部4A・4B)で信号処理し画像表示部(表示制御部35・モニタ18)に表示させた画像であり、ライブビュー画像ともいう。スルー画は、撮影モードが「静止画撮影」または「動画撮影」に設定されている間、周期的かつ継続的に取得されてモニタ18に表示される。また、表示制御部35は、外部記録メディア36に記憶され、メディア制御部37によって読み出された再生情報に含まれる画像データAに基づいた画像をモニタ18に表示させる。フラッシュ制御部39は、フラッシュライト24の発光動作を制御する。
圧縮/伸長処理部40は、画像処理部4Aによって画質補正等の処理が行われた画像データAに対して、例えばJPEG等の圧縮形式で圧縮処理を行って、画像ファイルを生成する。この画像ファイルには、各種データ形式に基づいて付帯情報が付加される。またこの圧縮/伸長処理部40は、再生モードにおいては外部記録メディア36から圧縮された画像ファイルを読み出し、伸長処理を行う。伸長後の画像データは表示制御部35に出力され、表示制御部35は画像データに基づいた画像をモニタ18に表示する。
メディア制御部37は、メディアスロット26に挿入された外部記録メディア36に記憶された画像ファイル等の読み出し、または画像ファイルの書き込みを行う。
ステレオマッチング処理部(対象物検出手段)43は、同じタイミングでメモリ部31に格納された2つの画像データA、B間で互いに対応する1つ以上の対応点(対象物)を検出するものである。なおステレオマッチング処理部43における処理方法は、領域ベース法、セグメントベース法、等輝度線法等を用いる公知の技術を使用することができる。また、ステレオマッチングはパッシブ式でもアクティブ式でもよい。また、画素数の異なる画像間でのステレオマッチングは、例えば特許文献3〜6のような公知の技術に基づいて行うことができる。
距離算出部44は、上述したステレオマッチング処理部43によって検出された対応点の3次元座標値(距離情報または視差マップ)を算出するものである。距離算出部44における算出方法は、三角測量の原理により計算する公知の技術を使用することができる。なお、ステレオマッチング処理部43および距離算出部44はプログラムにより構成されるものであっても、IC、LSI等によって構成されるものであってもよい。後述するが、距離算出部44は、距離算出を同時処理可能な複数の処理系統を有していてもよい。なお、距離情報と視差マップは技術的に等価であり、以下の距離情報についての処理は、視差マップについても行うことができる。
CPU32は、操作部33からの入力に基づいてデジタルカメラ1を総括的に制御するものであり、撮影モードの設定に応じたスルー画出力の開始、フォーカスレンズ駆動部のズーミング動作、焦点調節(AF)動作および自動露出調節(AE)動作等を制御する動作制御部としても機能する。
第1画像データの取得画素と第2画像データの取得画素は、同じ構成であってもよいし、そうでなくてもよい。よって、撮影部20Aおよび撮影部20Bの撮影レンズ21A2、21B2の構成は、同じでも異なってもよい。例えば、撮影レンズ21A2は、ズームレンズおよび該ズームレンズを駆動する図示しないズームレンズ駆動部(駆動手段)を備え、撮影レンズ21B2は、撮影レンズ21A2のズームレンズの広角端と等しい画角の固定焦点レンズを備える。撮影レンズ21B2は撮影レンズ21A2のズームレンズと同等のズームレンズを備えてもよいが、その場合、撮影部20Aと撮影部20Bのズームレンズを連動して駆動する駆動部が必要となり、コストがかかってしまう。よって上述のような構成にすることにより撮影部20Bのコストを低減することができる。
あるいは、CCD29Bの撮影画素数はCCD29Aの撮影画素数やよりも低くてもよい。
さらに、CCD29A(カラーCCD)は色情報と輝度情報を取得できるが、CCD29B(白黒CCD)は輝度情報のみ取得できるようにしてもよい。あるいは、CCD29Bは、赤外領域を受光可能な白黒CCDとし、特許文献6のような赤外光を用いたアクティブ式のステレオマッチングが採用されてもよい。
以下では、ステレオマッチングを可能にするため、CCD29A、Bからの画像データA、Bの双方は少なくとも輝度情報を含むものとする。さらに、3次元画像に色情報を付加するため、画像データA、Bの少なくとも一方は色情報を含むものとする。ここでは説明の簡略のため、撮影部20A(第1カメラ)からの画像データAは輝度情報と色情報を含み、撮影部20B(第2カメラ)からの画像データBは輝度情報のみを含むものとする。このような構成にすることにより撮影部20Bのコストを低減することができる。ただし、スルー画を白黒で表示する場合、画像データAの色情報は必須でない。
また、画像データAの解像度はモニタ18の表示解像度以上であり、かつ、画像データBの解像度はモニタ18の表示解像度よりも低いものとする。つまり、3次元画像をモニタ18に表示するには、距離情報の算出と、取得された画像データに対するサイズ調整が必要であり、そのための処理に時間を要する。
3次元画像処理部45は、CCD16から取得された画像データAに、距離算出部84の算出した距離情報を適用することで、画像データAや画像データBの視点位置とは異なる仮想的な視点位置に対応する(一定の視差量を有する)画像データB’を生成することもできる。これは特許文献7と同様である。また、距離情報からの3次元画像生成は、特許文献3〜6のような公知技術に基づいて行うことができる。
画像データAの視点位置と画像データB’の視点位置のずれ(視差量)は、固定値または任意の設定値のいずれでもよい。例えば、3次元画像処理部45は、操作部33から設定された視差量に応じて、仮想的な画像データB’を生成する。あるいは、メモリ部31に記憶された固定の視差量に応じて、仮想的な画像データB’を生成する。
あるいは、3次元画像処理部45は、AF処理で合焦したAF領域内の被写体距離の遠近に応じた視差量を設定し、この設定された視差量に応じて、仮想的な画像データB’を生成する。具体的には、3次元画像処理部45は、合焦被写体までの距離が遠ければ、外挿によりそれだけ視差量を多くする。すなわち、デフォーカス量が0になる合焦被写体までの距離が遠く、立体感が出にくい場合には、視差量を増やし、立体感を持たせることができる。適正な視差量でユーザに立体画像を閲覧させるため、視差量を増大する上限を設けてもよい。さらに、3次元画像処理部45は、合焦被写体までの距離が近ければ、内挿によりそれだけ視差量を少なくすることもできる。
いずれにせよ、3次元画像処理部45は、画像データAとの間で所望の視差量を有するよう、ステレオマッチングされた画像データA・画像データB間の対応点の3次元座標値(距離情報)の内挿または外挿により、画像データB’(中間位置画像、右外画像、または左外画像)を求めることができる。よって、撮影部20A・撮影部20B間の基線長が小さく、立体感が弱くなるときでも、視差量を所望の値に拡大した立体スルー画を遅延なく出力できる。
3次元画像処理部45は、撮影部20Aから取得された画像データAに、距離算出部44の算出した距離情報を適用することで、撮影部20Bの視点位置に対応する仮想的な画像データB’を生成する。3次元画像処理部45は、画像データAと画像データB’から3次元画像データを生成する。この仮想的な画像データB’の生成と3次元画像データの生成を新たな画像データAの取得の度に繰り返すことでスルー画がモニタ18に継続的に表示される。距離情報と2次元画像(撮影部20Aの画像データA)から3次元画像を生成するための手法は任意であり、例えば特許文献2、4、6のような公知の技術に基づいて行うことができる。
モニタ18による3次元画像の表示方法も任意であり、アナグリフ方式、偏光眼鏡方式、レンチキュラレンズ方式、パララックスバリア方式など公知の表示方法が採用されうる。
図3は本発明の好ましい第1実施形態に係るスルー画表示処理のタイミングチャートを示す。この処理は撮影モードが「静止画記録」または「動画記録」に設定されたことに応じて開始される。
S1では、CPU32は、撮影部20A(第1カメラ)と撮影部20B(第2カメラ)からそれぞれ1コマ目の左右の画像データA・Bが取得されるよう制御する。
S2では、CPU32は、ステレオマッチング処理部43と距離算出部44にステレオマッチングと距離情報の算出を行わせる。ステレオマッチング処理部43は、取得された1コマ目の左右の画像データA・Bに基づいてステレオマッチングを行う。距離算出部44は、ステレオマッチング処理部43によって検出された対応点ごとの距離情報を算出する。本実施形態において、このステレオマッチングと距離情報の算出に要する時間は左右の画像データの取得間隔に相当するものとする。
CPU32は、このステレオマッチングと距離情報の算出の間に、撮影部20A(第1カメラ)と撮影部20B(第2カメラ)からそれぞれ2コマ目の左右の画像データが取得されるよう制御する。
S3では、3次元画像処理部45は、撮影部20Aから取得された2コマ目の画像データAに、距離算出部44の算出した1コマ目の画像データAに関する距離情報を適用し、撮影部20Bの視点位置に対応する仮想的な画像データB’を生成する。仮想的な画像データB’は撮影部20Bから直接撮影された画像ではないが、撮影部20Aが撮影部20Bの視点位置に置かれて撮影されたと仮定した場合と同等の画像情報(輝度情報および色情報)を有する。そして3次元画像処理部45は、2コマ目の画像データAと仮想的な画像データB’とに基づき、1コマ目の3次元画像データを生成する。表示制御部35は、3次元画像処理部45の生成した3次元画像データをモニタ18に表示させる。
以下同様、レリーズボタン19が全押しされるまで、n(n=1、2、3・・)コマ目の左右の画像データA・Bから距離情報を算出し、撮影部20Aから取得されたn+1コマ目の画像データAとnコマ目の画像データA・Bに対応する距離情報とに基づいて仮想的な画像データB’を生成した上でnコマ目の3次元画像データを生成しモニタ18にスルー画像として表示することを繰り返す。
このように、前のコマについて算出された距離情報を用いて後のコマの視点画像からスルー画を表示するため、距離情報の算出待ちにより最新のスルー画の表示の遅れが発生することを防止できる。なお、距離情報の算出対象の画像データと3次元画像の生成元の画像データとは取得タイミングが異なるため、スルー画での被写体の3次元位置は実際とは異なるが、1コマ分の画像データの取得時間に相当するずれのため観察者から見て被写体位置の違いは小さいと考えられる。
3次元画像処理部45が所望の視差量dを有する1組の視差画像である画像データA’・B’を生成する方法として、次の3つのパターンのうちのいずれが採用されてもよい。
(1)nコマ目の距離情報を外挿あるいは内挿することで、nコマ目の画像データAの各画素の座標・画像データBの各画素の座標を、それぞれd/2だけ外側あるいは内側に移動した仮想的距離情報を算出する。そして、当該仮想的距離情報に従い、n+1コマ目の画像データAの各画素の座標・画像データBの各画素の座標を、それぞれd/2だけ外側あるいは内側に移動し、画素の色も元の配列順どおりに移動する。この方法は、画像データAの画素数と画像データBの画素数が同等の場合に有効である。
(2)nコマ目の距離情報を外挿あるいは内挿することで、nコマ目の画像データBの各画素の座標を、dだけ外側あるいは内側に移動した仮想的距離情報を算出する。そして、当該仮想的距離情報に従い、n+1コマ目の画像データBの各画素の座標を、dだけ外側あるいは内側に移動し、画素の色も元の配列順どおりに移動する。この方法は、画像データAの画素数が画像データBの画素数よりも多い場合に有効である。この場合、n+1コマ目の画像データA’は、n+1コマ目の画像データAと同じであってもよい。また、特許文献2と同様にして、画像データB’の画素数を画像データA’と同等にすることができる。
(3)nコマ目の距離情報を外挿あるいは内挿することで、nコマ目の画像データAの各画素の座標を、dだけ外側あるいは内側に移動した仮想的距離情報を算出する。そして、当該仮想的距離情報に従い、n+1コマ目の画像データAの各画素の座標を、dだけ外側あるいは内側に移動し、画素の色も元の配列順どおりに移動する。この方法は、画像データBの画素数が画像データAの画素数よりも多い場合に有効である。この場合、n+1コマ目の画像データB’は、n+1コマ目の画像データBと同じであってもよい。また、特許文献2と同様にして、画像データA’の画素数を画像データB’と同等にすることができる。
撮影部20A・撮影部20B間の基線長が小さいと、画像の立体感が弱めになりやすい。撮影された画像でステレオマッチングや視差情報の外挿または内挿の処理などの画像処理を施して視差量を調整することは可能であるが、画像処理時間の増大によりスルー画の表示が遅れる。近年では、ファインダーのないカメラが主流であり、スルー画表示が遅れると、シャッターチャンスを逃す可能性があり、使いにくい。
そこで、3次元画像処理部45は、画像データA・Bの間で所望の視差量dを有するよう、ステレオマッチングされた画像データA・B間の対応点の3次元座標値(距離情報)の内挿または外挿により、画像データB’(中間位置画像、右外画像、または左外画像)を求める。よって、撮影部20A・撮影部20B間の基線長が小さく、立体感が弱くなるときでも、視差量を所望の値に拡大した立体スルー画を遅延なく出力できる。
さらに、被写体の距離情報の外挿・内挿に基づいて所望の視差を有する視点画像の組を生成する代わりに、視差マップ(基準の視点画像、例えば画像データAから、別の視点画像、例えば画像データBへの対応点までの視差で、別の視点画像を表したもの)の外挿・内挿に基づいて所望の視差を有する視点画像の組を生成することもできる。すなわち、距離算出部84は、nコマ目に対応する画像データAと画像データBの間の対応する画素ごとの視差を示す視差マップを算出する。視差マップの算出は、ステレオマッチングなどで行われる。3次元画像処理部45は、nコマ目に対応する視差マップの各画素の視差を外挿または内挿することで仮想視差マップを生成する。nコマ目の仮想視差マップに基づくn+1コマ目の画像データAおよび/または画像データBの各画素の移動は、上記の3パターンと同様、n+1コマ目に対応する画像データAおよび画像データBの双方またはいずれか一方について行う。このように、視差マップの各画素の視差の外挿または内挿によっても、所望の視差を有する視点画像の組を生成することができる。
以下、説明の簡略のため、被写体の距離情報について記述するが、視差マップについても同様の処理が成り立つ。
<第2実施形態>
ステレオマッチングと距離情報の算出に要する時間が、1コマ分の左右の画像データA・Bの取得間隔よりも長い場合、n+1コマ目の画像データにnコマ目の距離情報を適用して3次元画像を生成することはできない。そこで、距離情報の算出以後に取得される複数のコマの画像データに、当該算出された同一の距離情報を適用して複数コマの3次元画像データを生成する。
ステレオマッチングと距離情報の算出に要する時間が、1コマ分の左右の画像データA・Bの取得間隔よりも長い場合、n+1コマ目の画像データにnコマ目の距離情報を適用して3次元画像を生成することはできない。そこで、距離情報の算出以後に取得される複数のコマの画像データに、当該算出された同一の距離情報を適用して複数コマの3次元画像データを生成する。
図4は本発明の好ましい第2実施形態に係るスルー画表示処理のタイミングチャートを示す。
S11はS1と同様であり、撮影部20A(第1カメラ)と撮影部20B(第2カメラ)からそれぞれ1コマ目の左右の画像データA・Bが取得される。
S12はS2と同様であり、ステレオマッチング処理部43は、取得された1コマ目の左右の画像データA・Bに基づいてステレオマッチングを行う。ただし2コマ目の左右の画像データBはメモリ部31に保存されず廃棄される。距離算出部44は、ステレオマッチング処理部43によって1コマ目の画像データA・Bから検出された対応点の距離情報(距離情報)を算出する。このステレオマッチングと距離情報の算出に要する時間が左右の画像データの取得間隔を超え、例えば2倍に相当するとする。すなわち、第1実施形態と異なり、距離情報の算出は、前のコマの画像の取得から次のコマの画像が取得までの間に完了しない。
S13では、CPU32は、このステレオマッチングと距離情報の算出の間に、撮影部20A(第1カメラ)と撮影部20B(第2カメラ)からそれぞれ3コマ目の左右の画像データA・Bが取得されるよう制御する。
S14では、3次元画像処理部45は、撮影部20Aから取得された3コマ目の画像データAに、距離算出部44の算出した1コマ目の画像データA・Bに関する距離情報を適用し、撮影部20Bの視点位置に対応する仮想的な画像データB’を生成する。そして、3コマ目の画像データAと画像データB’とに基づき、1コマ目の3次元画像データを生成し表示制御部35は、生成された3次元画像データをモニタ18に表示する。
この間、CPU32は、撮影部20A(第1カメラ)と撮影部20B(第2カメラ)からそれぞれ4コマ目の左右の画像データが取得されるよう制御する。またCPU32は、3コマ目の画像データA・Bに基づくステレオマッチングおよび距離情報の算出を開始するよう制御する。
S15では、3次元画像処理部45は、撮影部20Aから取得された4コマ目の画像データAに、距離算出部44の算出した1コマ目の画像データA・Bに関する距離情報を適用し、撮影部20Bの視点位置に対応する仮想的な画像データB’を生成する。そして、4コマ目の画像データAと画像データB’とに基づき、2コマ目の3次元画像データを生成し、表示制御部35は、生成された3次元画像データをモニタ18に表示する。
この間、CPU32は、撮影部20A(第1カメラ)と撮影部20B(第2カメラ)からそれぞれ5コマ目の左右の画像データが取得されるよう制御する。
以下同様、レリーズボタン19が全押しされるまで、繰り返して、n(n=1、2、3・・)コマ目の左右の画像データA・Bから距離情報を算出し、撮影部20Aから取得されたn+2コマ目の画像データAとnコマ目の画像データA・Bに対応する距離情報とに基づいてnコマ目の3次元画像データを生成しモニタ18にスルー画像として表示する。さらに、撮影部20Aから取得されたn+3コマ目の画像データAとnコマ目の画像データA・Bに対応する距離情報とに基づいてn+1コマ目の3次元画像データを生成しモニタ18にスルー画像として表示する。
これにより、距離情報の算出待ちによりスルー画の表示の遅れが発生することをより効果的に防止できる。また、距離算出よりスルー画の表示のフレームレートを早くすることができる。
<第3実施形態>
第1・2実施形態において、画像の解像度が高いなどの理由で座標値算出に時間がかかったり、画像の色情報など画像データの情報量によって座標値算出時間が変化する場合、スルー画のコマが定期的に表示されなくなる。そこで、座標値算出が所定の割合完了した時から次のコマの左右画像データの取得を開始してもよい。
第1・2実施形態において、画像の解像度が高いなどの理由で座標値算出に時間がかかったり、画像の色情報など画像データの情報量によって座標値算出時間が変化する場合、スルー画のコマが定期的に表示されなくなる。そこで、座標値算出が所定の割合完了した時から次のコマの左右画像データの取得を開始してもよい。
図5は本発明の好ましい第3実施形態に係るスルー画表示処理のタイミングチャートを示す。
S21はS11と同様であり、CPU32は、撮影モードの設定に応じて、撮影部20A(第1カメラ)と撮影部20B(第2カメラ)からそれぞれ1コマ目の左右の画像データA・Bを取得するよう制御する。
S22はS12と同様であり、ステレオマッチング処理部43は、取得された1コマ目の左右の画像データA・Bに基づいてステレオマッチングを行う。距離算出部44は、ステレオマッチング処理部43によって画像データA・Bから検出された対応点の距離情報を算出する。
S23では、CPU32は、座標値算出が所定の割合完了した時、例えば7割完了した時点で、撮影部20Aと撮影部20Bからそれぞれ2コマ目の左右の画像データA・Bの取得を開始するよう制御する。画像データA・Bの取得開始と連動する座標値算出の完了割合をどのように設定するかは任意である。例えば、1コマ目の左右の画像データA・Bに対応する座標値算出開始後のある時点から距離情報の完全な算出完了までの時間の長さが、画像データの取得完了に必要な時間と略一致する場合、その時点が到来した時点で、撮影部20Aと撮影部20Bからそれぞれ2コマ目の左右の画像データの取得を開始するよう制御するとよい。こうすると画像データの取得後ただちに3次元画像を生成することができる。
S24では、CPU32は、2コマ目の画像データAに距離算出部44から算出された1コマ目の画像データA・Bに対応する距離情報を適用し仮想的な画像データB’を生成するよう3次元画像処理部45を制御する。3次元画像処理部45は、2コマ目の画像データAと画像データB’とに基づいて1コマ目の3次元画像データを生成する。表示制御部35から得られた1コマ目の3次元画像データはモニタ18に出力されスルー画像として表示される。
この間、CPU32は、2コマ目の左右の画像データA・Bに対応するステレオマッチングと距離情報の算出を開始するようステレオマッチング処理部43および距離算出部44を制御する。
以後同様、CPU32は、撮影部20Aと撮影部20Bからそれぞれ取得されたnコマ目の左右の画像データA・Bに基づく距離情報算出が所定の割合完了した時点で、撮影部20Aと撮影部20Bからそれぞれn+1コマ目の左右の画像データA・Bを取得するよう制御する。さらにCPU32は、取得されたn+1コマ目の画像データAに距離算出部44から算出されたnコマ目の画像データA・Bに対応する距離情報を適用して仮想的な画像データB’を生成し、n+1コマ目の画像データAと画像データB’とに基づいてnコマ目の3次元画像データを生成するよう3次元画像処理部45を制御する。
このように、距離情報の算出タイミングに応じて各コマの画像の取得間隔を可変にすることで、最新の画像データによる3次元画像の素早い生成が可能となる。
<第4実施形態>
第3実施形態において、ステレオマッチング処理部43および距離算出部44のセットが複数存在し、複数のコマの画像データの各々について独立した距離情報算出の並列処理が可能な場合は、最新コマの画像データの取得時に距離情報算出を実行していない、空いているセットに対して最新コマに対応する距離情報算出を実行するよう制御するとよい。
第3実施形態において、ステレオマッチング処理部43および距離算出部44のセットが複数存在し、複数のコマの画像データの各々について独立した距離情報算出の並列処理が可能な場合は、最新コマの画像データの取得時に距離情報算出を実行していない、空いているセットに対して最新コマに対応する距離情報算出を実行するよう制御するとよい。
図6は本発明の好ましい第4実施形態に係るデジタルカメラ1のブロック図を示す。説明済みのブロックと同一のブロックには同一の符号を付している。このデジタルカメラ1は、複数セット、ここでは一例として2セットのステレオマッチング処理部43aおよび距離算出部44a、ステレオマッチング処理部43bおよび距離算出部44bを有する。
図7は本発明の好ましい第4実施形態に係るスルー画表示処理のタイミングチャートを示す。
S41では、CPU32は、撮影モードの設定に応じて、撮影部20A(第1カメラ)と撮影部20B(第2カメラ)からそれぞれ1コマ目の左右の画像データA・Bを取得するよう制御する。
S42では、CPU32は、ステレオマッチング処理部43a・距離算出部44aに、1コマ目の画像データA・Bに対応する距離情報の算出を開始させるよう制御する。ステレオマッチング処理部43aは、取得された1コマ目の画像データA・Bに基づいてステレオマッチングを行う。距離算出部44aは、ステレオマッチング処理部43aによって検出された対応点の距離情報を算出する。
同時に、CPU32は、撮影部20Aと撮影部20Bからそれぞれ2コマ目の左右の画像データA・Bを取得するよう制御する。
S43では、CPU32は、ステレオマッチング処理部43b・距離算出部44bに、2コマ目の画像データA・Bに対応する距離情報の算出を開始させるよう制御する。ステレオマッチング処理部43bは、取得された2コマ目の左右の画像データA・Bに基づいてステレオマッチングを行う。距離算出部44bは、ステレオマッチング処理部43によって2コマ目の画像データA・Bから検出された対応点の距離情報を算出する。
ステレオマッチング処理部43b・距離算出部44bによる距離情報の算出の開始時に、ステレオマッチング処理部43a・距離算出部44aによる距離情報の算出が継続していてもよく、双方の距離情報の算出は独立無関係に行われる。
さらにCPU32は、撮影部20Aと撮影部20Bからそれぞれ3コマ目の左右の画像データA・Bを取得するよう制御する。
S44では、CPU32は、S42で算出された1コマ目の画像データA・Bに対応する距離情報をS43で取得された3コマ目の画像データAに適用して仮想的な画像データB’を生成し、3コマ目の画像データAと画像データB’とに基づいて1コマ目の3次元画像を生成するよう3次元画像処理部45を制御する。
同時に、CPU32は、ステレオマッチング処理部43a・距離算出部44aに、3コマ目の画像データA・Bに対応する距離情報の算出を開始させるよう制御する。ただし、3コマ目の画像データA・Bに対応する距離情報の算出を開始するまでに、1コマ目の画像データA・Bに対応する距離情報の算出は完了しているものとする。2コマ目の画像データA・Bに対応する距離情報の算出は完了していなくてもよい。
以下同様、CPU32は、nコマ目(n=1,2,..)の3次元画像を生成するよう3次元画像処理部45を制御する。nが奇数であれば、CPU32は、ステレオマッチング処理部43a・距離算出部44aに、nコマ目に取得された画像データA・Bに対応する距離情報の算出を開始させるよう制御し、nが偶数であれば、CPU32は、ステレオマッチング処理部43b・距離算出部44bに、nコマ目に取得された画像データA・Bに対応する距離情報の算出を開始させるよう制御する。
そして、CPU32は、nコマ目の画像データA・Bに対応する距離情報をn+2コマ目の画像データAに適用して仮想的な画像データB’を生成した上、nコマ目の画像データAと仮想的な画像データB’に基づいてnコマ目の3次元画像を生成するよう3次元画像処理部45を制御する。3次元画像処理部45から得られたnコマ目の3次元画像データはモニタ18に出力されスルー画像として表示される。
ステレオマッチング処理部43および距離算出部44のセットが3つ以上である場合も同様にして、空いているステレオマッチング処理部43・距離算出部44のセットで処理し、いずれかのセットで算出済みの最新の距離情報と取得済みの最新の画像データAとから仮想的な画像データを生成した上で3次元コマ画像を生成する。左右画像データA・Bの取得間隔に対応して必要十分なセットの数は距離情報の算出時間間隔に依存する。図7では一例として当該算出時間が左右画像データの取得間隔の1.5倍程度であるため、2コマ分の画像データを別個に処理する2セットで十分である。
このように、複数のステレオマッチング処理部43および距離算出部44のセットで異なるコマの画像データの距離情報を別個に算出させることで、距離情報の算出に1コマ分の取得間隔以上かかる場合でもスルー画の表示遅れを防止できる。
<第5実施形態>
第1〜4実施形態において、レリーズボタン19の全押しに応じて3次元画像の再生情報を記録するには次のようにする。
第1〜4実施形態において、レリーズボタン19の全押しに応じて3次元画像の再生情報を記録するには次のようにする。
図8は本発明の好ましい第5実施形態に係る動画記録処理のタイミングチャートを示す。この処理は撮影モードが「動画撮影」に設定されており、レリーズボタン19の全押しなど動画記録開始指示が入力されたことに応じて開始する。
S51・52はS1・2と同様である。この結果1コマ目の画像が取得されるとともに1コマ目の画像に対応する距離情報が得られる。
S53では、S51で取得された1コマ目の画像Aに画像A・Bに対応する距離情報を適用して仮想的な画像データB’を生成した上、1コマ目の画像Aと画像B’から3次元画像を生成し、当該生成された3次元画像を記録するようメディア制御部37を制御する。その他はS3と同様である。
以下同様にして、動画記録終了指示が入力されるまで、スルー画の表示と3次元画像の記録が継続される。3次元画像の再生情報として、各コマの画像と距離情報とをそのまま対応づけて記録するだけでもよい。この再生情報に基づいて、再生時に3次元画像を生成することも可能だからである。再生情報から3次元画像を生成する回路は3次元画像処理部45でもよいし、それとは異なる回路でもよい。また、外部記録メディア36に記録するタイミングも任意であり、得られた画像を順次記録してもよいし、動画記録終了指示が入力されたことに応じて一括して記録してもよい。前者の場合は、各コマの視点画像が取得されるタイミングに合わせて各コマの3次元画像の生成が行われることが好ましい。
再生情報の記録についてはスルー画の表示のように実時間からの遅れは問題にならないため、第1実施形態のようにスルー画を表示するのと平行して、3次元画像の再生情報を記録する。記録される再生情報については距離情報と画像情報のずれは生じない。
<第6実施形態>
第1〜5実施形態において、距離情報と色情報が同一のコマ画像に由来して取得されないため、3次元画像の立体感が実際の被写体の奥行きと異なる場合がある。この立体感のずれを軽減するには、次のようにする。
第1〜5実施形態において、距離情報と色情報が同一のコマ画像に由来して取得されないため、3次元画像の立体感が実際の被写体の奥行きと異なる場合がある。この立体感のずれを軽減するには、次のようにする。
ぼかし処理部46は、隣接する画素間の距離情報同士を比較し、隣接する画素間の距離情報の差が所定の閾値を超える場合、当該隣接する画素に対応する距離情報をぼかす。例えば、ぼかし処理部46は、当該隣接する画素に対応する距離情報を平滑化する。
第1〜5実施形態と異なり、3次元画像処理部45は、距離算出部44の算出した距離情報の代わりに、ぼかし処理部46で平滑化された距離情報を画像データAに適用して、仮想的な画像データB’を生成し、3次元画像データを生成する。これにより、3次元画像において被写体の輪郭部分と奥行きの変化が生じる部分とのずれが目立つのを防止できる。
32…CPU、35…表示制御部、43…ステレオマッチング処理部、44…距離算出部、45…3次元画像処理部、46…ぼかし処理部
Claims (14)
- 視差を有する第1光学系および第2光学系の各々を介して結像した被写体像を各々対応する撮像素子で光電変換し、前記第1光学系の被写体像に対応する視点画像である第1画像および前記第2光学系の被写体像に対応する視点画像である第2画像からなる視点画像の組を継続的に出力可能な撮像部と、
時間的に前後する任意の2つの時点である第1の時点および第2の時点で視点画像の組が出力されるよう前記撮像部を制御する撮像制御部と、
前記第1の時点で前記撮像部から出力された視点画像の組に基づいてステレオマッチングを行い視差情報を算出する視差情報算出部と、
前記第2の時点で出力された第1画像に前記第1の時点に対応する視差情報を適用して前記第2光学系の位置における仮想第2画像を生成し、前記第2の時点で出力された第1画像と前記仮想第2画像から立体画像を生成する立体画像生成部と、
を備える撮像装置。 - 前記撮像制御部は、前記第1の時点よりも後の異なる複数の第2の時点の各々で前記視点画像の組が順次出力されるよう前記撮像部を制御し、
前記立体画像生成部は、前記複数の第2の時点で各々出力された複数の視点画像の組に含まれる複数の第1画像に前記第1の時点に対応する視差情報を適用して前記第2光学系の位置における複数の仮想第2画像を生成し、前記複数の第2の時点で各々出力された第1画像と対応する前記複数の仮想第2画像から複数の立体画像を順次生成する請求項1に記載の撮像装置。 - 前記撮像制御部は、前記視差情報算出部による前記第1の時点に対応する視差情報の算出処理が所定の割合だけ完了した第2の時点で視点画像の組が出力されるよう前記撮像部を制御する請求項1に記載の撮像装置。
- 前記視差情報算出部は、異なる複数の視点画像の組にそれぞれ対応する複数の視差情報をそれぞれ独立して算出可能な異なる複数の処理系統を有しており、異なる複数の第1の時点に対応する視差情報の各々を異なる処理系統で算出する請求項1に記載の撮像装置。
- 前記撮像装置は、所定の記録指示が入力されたことに応じ、前記第1の時点で出力された第1画像に前記第1の時点に対応する視差情報を適用して前記第2光学系の位置における仮想第2画像を生成し、前記第1の時点で出力された第1画像と前記仮想第2画像に基づいて立体画像の再生情報を記録する記録部を備える請求項1〜4のいずれか1項に記載の撮像装置。
- 前記立体画像生成部の生成した立体画像を表示する表示部を備える請求項1〜5のいずれか1項に記載の撮像装置。
- 前記第2画像の解像度は前記第1画像の解像度よりも低くかつ前記表示部の表示解像度よりも低い請求項6に記載の撮像装置。
- 前記第1画像は輝度情報および色情報を含み、前記第2画像は輝度情報のみを含む請求項1〜7のいずれか1項に記載の撮像装置。
- 前記視差情報をぼかすぼかし処理部を備え、
前記立体画像生成部は、前記ぼかし処理部によりぼかされた前記第1の時点に対応する視差情報を前記第2の時点で出力された第1画像に適用して前記第2光学系の位置における仮想第2画像を生成し、前記第2の時点で出力された第1画像と前記仮想第2画像から立体画像を生成する請求項1〜8のいずれか1項に記載の撮像装置。 - 前記立体画像生成部は、前記第1の時点に対応する視差情報を外挿または内挿して仮想視差情報を生成し、該仮想視差情報と前記第2の時点で出力された第1画像および/または第2画像に基づいて、所望の視差を有する視点画像の組を生成し、前記所望の視差を有する画像の組から立体画像を生成する請求項1〜9のいずれか1項に記載の撮像装置。
- 前記所望の視差量は、所定の操作手段から入力された指定値、固定値または被写体距離の遠近に応じた値を含む請求項10に記載の撮像装置。
- 視差を有する第1光学系および第2光学系の各々を介して結像した被写体像を各々対応する複数の撮像素子の各々で光電変換し、前記第1光学系の被写体像に対応する視点画像である第1画像および前記第2光学系の被写体像に対応する視点画像である第2画像からなる視点画像の組を継続的に出力可能な撮像部を備える撮像装置が、
時間的に前後する任意の2つの時点である第1の時点および第2の時点で視点画像の組が出力されるよう前記撮像部を制御するステップと、
前記第1の時点で前記撮像部から出力された視点画像の組に基づいてステレオマッチングを行い視差情報を算出するステップと、
前記第2の時点で出力された第1画像に前記第1の時点に対応する視差情報を適用して前記第2光学系の位置における仮想第2画像を生成し、前記第2の時点で出力された第1画像と前記仮想第2画像から立体画像を生成するステップと、
を実行する撮像方法。 - 視差を有する第1光学系および第2光学系の各々を介して結像した被写体像を各々対応する撮像素子で光電変換し、前記第1光学系の被写体像に対応する視点画像である第1画像および前記第2光学系の被写体像に対応する視点画像である第2画像からなる視点画像の組を継続的に出力可能な撮像部と、
時間的に前後する任意の2つの時点である第1の時点および第2の時点で視点画像の組が出力されるよう前記撮像部を制御する撮像制御部と、
前記第1の時点で前記撮像部から出力された視点画像の組に基づいてステレオマッチングを行い視差情報を算出する視差情報算出部と、
前記第1の時点に対応する視差情報を外挿または内挿して仮想視差情報を生成し、該仮想視差情報と前記第2の時点で出力された第1画像および/または第2画像に基づいて、所望の視差を有する視点画像の組を生成し、前記所望の視差を有する画像の組から立体画像を生成する立体画像生成部と、
を備える撮像装置。 - 視差を有する第1光学系および第2光学系の各々を介して結像した被写体像を各々対応する複数の撮像素子の各々で光電変換し、前記第1光学系の被写体像に対応する視点画像である第1画像および前記第2光学系の被写体像に対応する視点画像である第2画像からなる視点画像の組を継続的に出力可能な撮像部を備える撮像装置が、
時間的に前後する任意の2つの時点である第1の時点および第2の時点で視点画像の組が出力されるよう前記撮像部を制御するステップと、
前記第1の時点で前記撮像部から出力された視点画像の組に基づいてステレオマッチングを行い視差情報を算出するステップと、
前記第1の時点に対応する視差情報を外挿または内挿して仮想視差情報を生成し、該仮想視差情報と前記第2の時点で出力された第1画像および/または第2画像に基づいて、所望の視差を有する視点画像の組を生成し、前記所望の視差を有する画像の組から立体画像を生成するステップと、
を実行する撮像方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010272480A JP2011259405A (ja) | 2010-05-10 | 2010-12-07 | 撮像装置および撮像方法 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010108328 | 2010-05-10 | ||
JP2010108328 | 2010-05-10 | ||
JP2010272480A JP2011259405A (ja) | 2010-05-10 | 2010-12-07 | 撮像装置および撮像方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011259405A true JP2011259405A (ja) | 2011-12-22 |
Family
ID=45475039
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010272480A Pending JP2011259405A (ja) | 2010-05-10 | 2010-12-07 | 撮像装置および撮像方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011259405A (ja) |
-
2010
- 2010-12-07 JP JP2010272480A patent/JP2011259405A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5640143B2 (ja) | 撮像装置及び撮像方法 | |
JP5468482B2 (ja) | 画像撮像装置 | |
EP2391119B1 (en) | 3d-image capturing device | |
US9077976B2 (en) | Single-eye stereoscopic image capturing device | |
JP5269252B2 (ja) | 単眼立体撮像装置 | |
JP5371845B2 (ja) | 撮影装置及びその表示制御方法並びに3次元情報取得装置 | |
JP5166650B2 (ja) | 立体撮像装置、画像再生装置及び編集ソフトウエア | |
JP5469258B2 (ja) | 撮像装置および撮像方法 | |
US20130113892A1 (en) | Three-dimensional image display device, three-dimensional image display method and recording medium | |
US10587860B2 (en) | Imaging apparatus and method for controlling same | |
JP4763827B2 (ja) | 立体画像表示装置、複眼撮像装置及び立体画像表示プログラム | |
JP2013013061A (ja) | 撮像装置 | |
JP2011087128A (ja) | 複眼カメラ及び被写体判別方法 | |
JP2010206643A (ja) | 撮像装置、方法およびプログラム | |
JP2010154310A (ja) | 複眼カメラ及び撮影方法 | |
JP4748398B2 (ja) | 撮像装置、撮像方法及びプログラム | |
JP2015139020A (ja) | 電子機器及び制御プログラム | |
JP2010135984A (ja) | 複眼撮像装置及び撮像方法 | |
JP2012216939A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2012124650A (ja) | 撮像装置および撮像方法 | |
JP5001960B2 (ja) | 3次元画像表示装置及び方法 | |
JP2015139018A (ja) | 電子機器及び制御プログラム | |
JP2011259405A (ja) | 撮像装置および撮像方法 | |
JP2012028871A (ja) | 立体画像表示装置、立体画像撮影装置、立体画像表示方法及び立体画像表示プログラム | |
JP5307189B2 (ja) | 立体画像表示装置、複眼撮像装置及び立体画像表示プログラム |