JP2011211386A - 複眼撮影装置及びプログラム - Google Patents

複眼撮影装置及びプログラム Download PDF

Info

Publication number
JP2011211386A
JP2011211386A JP2010075546A JP2010075546A JP2011211386A JP 2011211386 A JP2011211386 A JP 2011211386A JP 2010075546 A JP2010075546 A JP 2010075546A JP 2010075546 A JP2010075546 A JP 2010075546A JP 2011211386 A JP2011211386 A JP 2011211386A
Authority
JP
Japan
Prior art keywords
image
distance
photographing
viewpoint
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010075546A
Other languages
English (en)
Other versions
JP5409481B2 (ja
Inventor
Takashi Hashimoto
貴志 橋本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2010075546A priority Critical patent/JP5409481B2/ja
Priority to US13/072,260 priority patent/US8743182B2/en
Publication of JP2011211386A publication Critical patent/JP2011211386A/ja
Application granted granted Critical
Publication of JP5409481B2 publication Critical patent/JP5409481B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/221Image signal generators using stereoscopic image cameras using a single 2D image sensor using the relative movement between cameras and objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Focusing (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Automatic Focus Adjustment (AREA)

Abstract

【課題】簡易な構成で、立体視表示のための画像を撮影することができるようにする。
【解決手段】被写体との距離が近い場合、レリーズボタンが全押し操作されると(120)、一方の撮影部により左画像を取得する(122)。左画像に対して半透明処理を行い(124)、左画像と右画像との間における視点の最適な移動距離を算出する(126)。半透明処理された左画像と算出された最適な移動距離とを、液晶モニタのスルー画像上に重畳させて表示させ(128)、現在のスルー画像と取得した左画像とについて、被写体領域の相関係数と背景領域の相関係数とを算出する(130)。算出された被写体領域の相関係数が、第1閾値以上であり、かつ、背景領域の相関係数が、第2閾値以下であるか否かを判定し(132)、閾値判定が肯定されると、一方の撮影部により右画像を取得する(134)。
【選択図】図5

Description

本発明は、複眼撮影装置及びプログラムに係り、特に立体視表示するための画像を撮影する複眼撮影装置及びプログラムに関する。
従来より、雲台とレールを用いることにより、3D画像を作成する立体画像撮影補助装置が知られている(特許文献1)。この立体画像撮影補助装置では、レールの中心から左右対称に雲台を動かすことにより、安定した撮影を行うことを可能としている。
また、被写体に対し、焦点距離をずらした状態で複数回撮影を行う立体画像撮影方法が知られている(特許文献2)。この立体画像撮影方法では、最長の焦点距離画像以外の画像を透明部材に印刷し、焦点距離が近いものから一定間隔を保持することで立体画像を観察している。
特開2004−236156号公報 特開2002−341473号公報
しかしながら、上記の特許文献1に記載の技術では、撮影のために特別な装置が必要であり、立体視表示のための画像を簡易に撮影することができない、という問題がある。
また、特許文献2の技術では、印刷を行わなければ立体視表示を行うことができない、という問題がある。
本発明は、上記問題を解決するためになされたもので、簡易な構成で、立体視表示のための画像を撮影することができる複眼撮影装置及びプログラムを提供することを目的とする。
上記目的を達成するために、本発明の複眼撮影装置は、異なる複数の視点から複数の画像を撮影する撮影手段と、前記複数の視点のうちの1つの視点から立体視表示のための1枚目の画像を撮影するように前記撮影手段を制御する第1撮影制御手段と、前記1枚目の画像における被写体との距離を計測する距離計測手段と、前記距離計測手段によって計測された被写体との距離に基づいて、前記1枚目の画像と、前記1つの視点であって、かつ、前記1枚目の画像とは異なる視点から撮影する2枚目の画像とに基づいて立体視表示するための前記1枚目の画像と前記2枚目の画像との間の前記視点の移動距離を算出する移動距離算出手段と、前記2枚目の画像の撮影を案内する案内情報として、前記移動距離算出手段によって算出された前記視点の移動距離を、画像を表示する表示手段によって表示されるスルー画像上に表示するように制御する表示制御手段と、を含んで構成されている。
本発明のプログラムは、コンピュータを、異なる複数の視点から複数の画像を撮影する撮影手段を、前記複数の視点のうちの1つの視点から立体視表示のための1枚目の画像を撮影するように制御する第1撮影制御手段、前記1枚目の画像における被写体との距離を計測する距離計測手段、前記距離計測手段によって計測された被写体との距離に基づいて、前記1枚目の画像と、前記1つの視点であって、かつ、前記1枚目の画像とは異なる視点から撮影する2枚目の画像とに基づいて立体視表示するための前記1枚目の画像と前記2枚目の画像との間の前記視点の移動距離を算出する移動距離算出手段、及び前記2枚目の画像の撮影を案内する案内情報として、前記移動距離算出手段によって算出された前記視点の移動距離を、画像を表示する表示手段によって表示されるスルー画像上に表示するように制御する表示制御手段として機能させるためのプログラムである。
本発明によれば、第1撮影制御手段によって、複数の視点のうちの1つの視点から立体視表示のための1枚目の画像を撮影するように撮影手段を制御する。そして、距離計測手段によって、1枚目の画像における被写体との距離を計測し、移動距離算出手段によって、距離計測手段によって計測された被写体との距離に基づいて、1枚目の画像と、1つの視点であって、かつ、1枚目の画像とは異なる視点から撮影する2枚目の画像とに基づいて立体視表示するための1枚目の画像と2枚目の画像との間の視点の移動距離を算出する。
そして、表示制御手段によって、2枚目の画像の撮影を案内する案内情報として、移動距離算出手段によって算出された視点の移動距離を、表示手段によって表示されるスルー画像上に表示するように制御する。
このように、2枚目の撮影を案内する案内情報として、1枚目の画像と2枚目の画像との間の最適な移動距離をスルー画像上に表示することにより、簡易な構成で、立体視表示のための画像を撮影することができる。
本発明に係る表示制御手段は、案内情報として、半透明処理された1枚目の画像を更にスルー画像上に表示するように制御することができる。これによって、1枚目の画像からの移動距離をユーザが把握することができる。
本発明に係る複眼撮影装置は、1枚目の画像と現在のスルー画像とに基づいて、1枚目の画像における視点と現在の前記視点との移動距離を算出する現在移動距離算出手段を更に含み、表示制御手段は、案内情報として、現在移動距離算出手段によって算出された現在の移動距離及び移動距離算出手段によって算出された視点の移動距離、又は視点の移動距離と現在の移動距離との差分を、スルー画像上に表示するように制御するようにすることができる。これによって、1枚目の画像と2枚目の画像との間の最適な移動距離と現在の移動距離との差を、ユーザが把握することができる。
本発明に係る複眼撮影装置は、1枚目の画像における被写体部分と、スルー画像における被写体部分との相関情報を算出し、1枚目の画像における被写体部分とは異なる背景部分と、スルー画像における背景部分との相関情報を算出する相関情報算出手段と、相関情報算出手段によって算出された被写体部分の相関情報が、第1閾値以上であって、かつ、背景部分の相関情報が、第2閾値以下であるときに、2枚目の画像を撮影するように撮影手段を制御する第2撮影制御手段とを更に含むようにすることができる。これによって、自動的に2枚目の撮影を行うことができる。
また、上記の第2撮影制御手段を含む本発明の複眼撮影装置は、1枚目の画像における水平方向を判定する水平方向判定手段を更に含み、相関情報算出手段は、水平方向判定手段によって判定された水平方向における相関情報を算出するようにすることができる。このように、水平方向の相関情報を用いることで、立体視表示の立体感を損なわずに、2枚目の撮影を行うための条件を緩和することができる。
上記の表示手段は、1枚目の画像及び2枚目の画像を立体視表示するようにすることができる。
本発明に係る複眼撮影装置は、複数の画像の被写体までの距離情報を計測する距離計測手段と、計測された距離情報が、閾値以上であった場合には、撮影手段によって複数の視点から複数の画像を撮影させる第3撮影制御手段とを更に含み、第1撮影制御手段は、計測された距離情報が、閾値未満であった場合に、1枚目の画像を撮影するように撮影手段を制御し、表示制御手段は、1枚目の画像が撮影された場合に、案内情報を、表示手段によって表示されるスルー画像上に表示するように制御することができる。これによって、被写体までの距離に応じて、複眼による撮影を行うか、単眼による2枚の撮影を行うかを切り替えることができる。
また、上記の表示手段は、撮影手段によって撮影された複数の画像、又は1枚目の画像及び2枚目の画像を立体視表示するようにすることができる。
以上説明したように、本発明によれば、2枚目の撮影を案内する案内情報をスルー画像上に表示することにより、簡易な構成で、立体視表示のための画像を撮影することができる、という効果が得られる。
本実施の形態の複眼デジタルカメラの正面側斜視図である。 本実施の形態の複眼デジタルカメラの背面側斜視図である。 本実施の形態の複眼デジタルカメラの内部構成を示す概略ブロック図である。 (A)カメラを右に動かした場合の背景領域の相関係数の算出対象部分を示す図、及び(B)カメラを左に動かした場合の背景領域の相関係数の算出対象部分を示す図である。 第1の実施の形態における立体視用画像撮影処理ルーチンの内容を示すフローチャートである。 第2の実施の形態における立体視用画像撮影処理ルーチンの内容を示すフローチャートである。 第2の実施の形態における立体視用画像撮影処理ルーチンの内容を示すフローチャートである。
以下、図面を参照して、本発明の実施の形態を詳細に説明する。なお、本実施の形態では、本発明の複眼撮影装置を複眼デジタルカメラに適用した場合について説明する。
図1は、第1の実施の形態の複眼デジタルカメラ1の正面側斜視図、図2は背面側斜視図である。図1に示すように、複眼デジタルカメラ1の上部には、レリーズボタン2、電源ボタン3、及びズームレバー4が備えられている。また、複眼デジタルカメラ1の正面には、フラッシュ5及び2つの撮影部21A、21Bのレンズが配設されている。また、複眼デジタルカメラの1の背面には、各種表示を行う液晶モニタ7、及び各種操作ボタン8が配設されている。
図3は、複眼デジタルカメラ1の内部構成を示す概略ブロック図である。図3に示すように、複眼デジタルカメラ1は、2つの撮影部21A、21B、撮影制御部22、画像処理部23、圧縮/伸長処理部24、フレームメモリ25、メディア制御部26、内部メモリ27、表示制御部28、入力部36、及びCPU37を備えている。なお、撮影部21A、21Bは、被写体を見込む輻輳角を持って、予め定められた基線長となるように配置されている。なお、輻輳角及び基線長の情報は内部メモリ27に記憶されている。
撮影制御部22は、不図示のAF処理部及びAE処理部からなる。AF処理部はレリーズボタン2の半押し操作により撮影部21A、21Bが取得したプレ画像に基づいて、合焦領域を決定すると共に、レンズの焦点位置を決定し、撮影部21A、21Bに出力する。AF処理部は、被写体領域を合焦領域として、レンズの焦点位置を決定するだけでなく、後述する処理のために、当該被写体領域とは異なる背景領域を合焦領域として、レンズの焦点位置を決定する。なお、被写体領域及び背景領域は、従来既知の画像認識処理によって特定される。AE処理部は、プレ画像に基づいて絞り値とシャッタ速度とを決定し、撮影部21A、21Bに出力する。
また、撮影制御部22は、レリーズボタン2の全押し操作により、後述する複眼モードでは、撮影部21Aに対して左画像、撮影部21Bに対して右画像の本画像を取得させる本撮影の指示を行い、後述する単眼モードでは、撮影部21Aに対して左画像の本画像を取得させる本撮影の指示を行う。なお、レリーズボタン2が操作される前は、撮影制御部22は、撮影範囲を確認させるための本画像よりも画素数が少ないスルー画像を、所定時間間隔(例えば1/30秒間隔)にて順次取得させる指示を撮影部21A、21Bに対して行う。
画像処理部23は、撮影部21A、21Bより取得した左画像及び右画像のデジタルの画像データに対して、ホワイトバランスを調整する処理、階調補正、シャープネス補正、及び色補正等の画像処理を施す。
圧縮/伸長処理部24は、画像処理部23によって処理が施された左画像及び右画像を表す画像データに対して、例えば、JPEG等の圧縮形式で圧縮処理を行い、立体視用の画像ファイルを生成する。この立体視用の画像ファイルには、左画像及び右画像の画像データを含み、Exifフォーマット等に基づいて、基線長、輻輳角、及び撮影日時等の付帯情報、並びに視点位置を表す視点情報が格納される。
フレームメモリ25は、撮影部21A、21Bが取得した左画像及び右画像を表す画像データに対して、前述の画像処理部23が行う処理を含む各種処理を行う際に使用する作業用メモリである。
メディア制御部26は、記録メディア29にアクセスして画像ファイル等の書き込み及び読み込みの制御を行う。
内部メモリ27は、複眼デジタルカメラ1において設定される各種定数、及びCPU37が実行するプログラム等を記憶する。
表示制御部28は、撮影時においてフレームメモリ25に格納された左画像及び右画像から生成された立体視用画像を液晶モニタ7に表示させたり、記録メディア29に記録されている左画像及び右画像、または立体視用画像を液晶モニタ7に表示させたりする。また、表示制御部28は、スルー画像を液晶モニタ7に表示させる。
また、複眼デジタルカメラ1は、3次元処理部30、距離測定部31、視差調整部32、移動量計算部33、半透明処理部34、及び整合性判定部35を備える。
3次元処理部30は、左画像及び右画像をモニタ7に立体視表示を行うために、左画像及び右画像に3次元処理を行って立体視用画像を生成する。例えば、左画像及び右画像に対して特徴点を求め、特徴点の対応付けを行い、視差量の調整を行うことによって、立体視用画像を生成する。
距離測定部31は、撮影制御部22のAF処理部により得られる被写体領域のレンズ焦点位置に基づいて、被写体までの距離を測定すると共に、背景領域のレンズ焦点位置に基づいて、背景までの距離を測定する。
視差調整部32は、視差として、左画像及び右画像の双方に含まれる被写体の左画像と右画像との横方向における画素位置の相違を算出し、算出された視差に基づいて、位置が対応するように左画像及び右画像を重ね合わせる視差調整処理を行う。
移動量計算部33は、距離測定部31により測定された被写体までの距離と、背景までの距離とに基づいて、単眼モードで撮影されるときの左画像の視点と右画像の視点との、立体視表示のために最適な移動距離を計算する。なお、最適な移動距離の計算方法として、従来既知の方法を用いればよく、このとき、人間の目の間隔、モニタ7の観察距離、モニタ7の実寸幅、撮影部21A、21Bの間隔、撮影部21A、21Bのレンズの視野角を予め求めておき、パラメータとして用いて、最適な移動距離を計算するようすればよい。
半透明処理部34は、単眼モードで撮影された左画像に対して、半透明処理を行う。
整合性判定部35は、単眼モードで撮影された左画像とスルー画像とに対して微分処理(例えば、ラプラシアン処理)を行い、微分処理された左画像の被写体領域とスルー画像の被写体領域の相関係数を算出すると共に、左画像の背景領域とスルー画像の背景領域の相関係数を算出する。なお、背景領域の相関係数を算出するときの算出対象部分について、図4(A)に示すように、1回目の撮影後、カメラを右に動かした場合には、1枚目の撮影画の左端の部分を、算出対象部分とし、図4(B)に示すように、1回目の撮影後、カメラを左に動かした場合には、1枚目の撮影画の右端の部分を、算出対象部分とする。カメラを右及び左のどちらに動かしたか否かは、被写体領域が、左右どちらに動いているかによって判断すればよい。
また、整合性判定部35は、算出した被写体領域の相関係数が、第1閾値以上であり、かつ、算出した背景領域の相関係数が、第2閾値以下である場合に、撮影制御部22に対して、右画像の撮影を指示する。これによって、撮影制御部22は、撮影部21Aに対して右画像の本画像を取得させる本撮影の指示を行う。
なお、整合性判定部35は、相関情報算出手段の一例である。
次に、図5を参照して、第1の実施の形態の複眼デジタルカメラ1における立体視用画像撮影処理ルーチンについて説明する。
ステップ100で、レリーズボタン2が半押しされたか否かを判定する。ユーザによってレリーズボタン2が半押し操作された場合には、ステップ102へ進む。このとき、撮影制御部22のAF処理部によって、レンズの焦点位置が決定されると共に、AE処理部によって、絞り値とシャッタ速度とが決定される。
ステップ102では、AF処理部により決定された被写体領域のレンズの焦点位置及び背景領域のレンズの焦点位置を取得し、被写体までの距離及び背景までの距離を計測する。
そして、ステップ104において、上記ステップ102で測定された被写体までの距離が、閾値以上であるか否かを判定する。なお、上記の閾値については、視差調整が可能な右画像及び左画像における被写体の距離を実験的又は統計的に求めておき、求められた距離に基づいて、閾値を設定しておけばよい。上記ステップ104で、被写体までの距離が閾値以上である場合には、撮影部21A、21Bで左画像及び右画像を同時に撮影する複眼モードで、立体視用の画像を撮影可能であると判断し、ステップ106において、撮影部21A、21Bが取得したプレ画像から、視差を算出して、重ね合わせ処理を行う。重ね合わせ処理が完了すると、ステップ108において、処理完了を示すメッセージをモニタ7に表示させる。これによって、ユーザは、撮影可能な状態になったことを知ることができる。
そして、ステップ110において、レリーズボタン2が全押しされたか否かを判定する。ユーザによってレリーズボタン2が全押し操作された場合には、ステップ112へ進む。
ステップ112では、撮影部21Aに対して左画像、撮影部21Bに対して右画像の本画像を取得させる本撮影の指示を行い、撮影部21A、21Bで撮影された左画像及び右画像を取得する。そして、ステップ114において、左画像及び右画像に基づいて、立体視用画像を生成して、記録メディア29に格納させる。
そして、ステップ116において、撮影を終了するか否かを判定し、終了しない場合には、上記ステップ100へ戻り、次の撮影に備えるが、一方、撮影を終了する場合には、立体視用画像撮影処理ルーチンを終了する。
上記ステップ104で、被写体までの距離が閾値未満であると判定された場合には、被写体との距離が近く、複眼モードでは立体視用の画像を撮影できないと判断し、ステップ118において、複眼モードでは立体視用画像の撮影が不可能であり、一方の撮影部による2回撮りを行う単眼モードで撮影を行うことを示す警告メッセージを、液晶モニタ7に表示させる。
そして、ステップ120において、レリーズボタン2が全押しされたか否かを判定する。ユーザによってレリーズボタン2が全押し操作された場合には、ステップ122へ進む。
ステップ122では、撮影部21Aに対して左画像の本画像を取得させる本撮影の指示を行い、撮影部21Aで撮影された左画像を取得する。次のステップ124では、上記ステップ122で取得した左画像に対して半透明処理を行う。ステップ126では、上記ステップ102で取得した被写体までの距離及び背景までの距離に基づいて、左画像と右画像との間における視点の最適な移動距離を算出する。
そして、ステップ128において、半透明処理された左画像と算出された最適な移動距離とを、液晶モニタ7のスルー画像上に重畳させて表示させる。次のステップ130では、撮影部21Aから現在のスルー画像を取得し、現在のスルー画像と上記ステップ122で取得した左画像との各々に対して微分処理を行った上で、被写体領域の相関係数と背景領域の相関係数とを算出する。
ステップ132では、上記ステップ130で算出された被写体領域の相関係数が、第1閾値以上であり、かつ、背景領域の相関係数が、第2閾値以下であるか否かを判定する。上記の閾値判定が否定される場合には、上記ステップ130へ戻るが、上記の閾値判定が肯定されると、ステップ134において、撮影部21Aに対して右画像の本画像を取得させる本撮影の指示を行い、撮影部21Aで撮影された右画像を取得し、ステップ114へ移行する。
以上説明したように、第1の実施の形態の複眼デジタルカメラによれば、2枚目の右画像の撮影を案内する案内情報として、半透明処理された1枚目の右画像をスルー画像上に表示することにより、簡易な構成で、立体視表示のための画像を撮影できるようにアシストすることができる。また、立体視表示のための、右画像と左画像との間の視点の最適な移動距離をガイドとして表示することにより、立体視表示のための画像の撮影をアシストすることができる。
また、複眼カメラで、被写体との距離が近い状態で、立体視用画像の撮影を行うと、視差量の調整ができず、立体視表示できない画像が生成される。そこで、被写体との距離が近い場合に、2枚撮りによる撮影画像に基づいて立体視用画像を生成する単眼モードに切り替えることで、立体視用画像の撮影を可能とする。また、2枚目の右画像の撮影ポイントまでの移動をアシストすることで、立体視用画像の撮影に不慣れな人でも失敗なく撮影することが可能となる。
なお、上記第1の実施の形態では、複眼カメラに本発明を適用した場合を例に説明したが、これに限定されるものではなく、単眼カメラに本発明を適用してもよい。この場合には、上記図5の立体視用画像撮影処理ルーチンにおいて、上記ステップ104の判定を行わずに、ステップ120〜ステップ134の単眼モードの処理のみを行うようにすればよい。
次に、第2の実施の形態について説明する。第2の実施の形態の複眼デジタルカメラの構成は、第1の実施の形態の複眼デジタルカメラ1と同一であるため、同一符号を付して、説明を省略する。
第2の実施の形態では、単眼モードにおいて、最適な移動量と共に、現在の移動量との差分を表示している点が、第1の実施の形態と異なっている。
第2の実施の形態に係る複眼デジタルカメラでは、移動量計算部33によって、単眼モードで撮影されるときの左画像の視点と、右画像の視点との最適な移動距離を計算すると共に、左画像を撮影したときの視点と現在の視点との移動距離を以下のように計算する。
まず、左画像の背景領域とスルー画像の背景領域との各々に対して、X方向(水平方向)の微分処理を行う。なお、画像の縦方向及び横方向の何れの方向が水平方向であるかは、従来既知の手法により、検出すればよい。
そして、微分処理された左画像の背景領域とスルー画像の背景領域との各々から、特徴点を算出する。次に、左画像の背景領域とスルー画像の背景領域との特徴点が一致するときの画像の移動量を計算する。計算された画像の移動量と、距離測定部31により測定された背景までの距離とに基づいて、三角測量の原理に従って、左画像を撮影したときの視点と現在の視点との移動距離を計算する。
また、移動量計算部33は、最適な移動距離と現在の移動距離との差分を計算して、表示制御部28に出力する。表示制御部28は、液晶モニタ7のスルー画像上に重畳させて、移動距離の差分を表示させる。
なお、移動量計算部33は、移動距離算出手段及び現在移動距離算出手段の一例である。
図6を参照して、第2の実施の形態の複眼デジタルカメラにおける立体視用画像撮影処理ルーチンについて説明する。なお、第1の実施の形態の立体視用画像撮影処理ルーチンと同一の処理については、同一の符号を付して説明を省略する。
ステップ100で、レリーズボタン2が半押しされたか否かを判定し、ステップ102で、被写体までの距離及び背景までの距離を計測する。そして、ステップ104において、測定された被写体までの距離が、閾値以上であるか否かを判定し、被写体までの距離が閾値以上である場合には、ステップ106において、撮影部21A、21Bが取得したプレ画像の重ね合わせ処理を行う。重ね合わせ処理が完了すると、ステップ108において、処理完了を示すメッセージをモニタ7に表示させる。
そして、ステップ110において、レリーズボタン2が全押しされたか否かを判定し、ステップ112で、撮影部21Aに対して左画像、撮影部21Bに対して右画像の本画像を取得させる本撮影の指示を行い、撮影部21A、21Bで撮影された左画像及び右画像を取得する。そして、ステップ114において、左画像及び右画像に基づいて、立体視用画像を生成して、記録メディア29に格納させる。
そして、ステップ116において、撮影を終了するか否かを判定し、終了しない場合には、上記ステップ100へ戻り、次の撮影に備えるが、一方、撮影を終了する場合には、立体視用画像撮影処理ルーチンを終了する。
上記ステップ104で、被写体までの距離が閾値未満であると判定された場合には、ステップ118において、単眼モードで撮影を行うことを示す警告メッセージを液晶モニタ7に表示させる。
そして、ステップ120において、レリーズボタン2が全押しされたか否かを判定し、ステップ122で、撮影部21Aに対して左画像の本画像を取得させる本撮影の指示を行い、撮影部21Aで撮影された左画像を取得する。次のステップ124では、取得した左画像に対して半透明処理を行う。ステップ126では、左画像と右画像との間の視点の最適な移動距離を算出する。そして、ステップ128において、半透明処理された左画像と最適な移動距離を、液晶モニタ7のスルー画像上に重畳させて表示させる。
次のステップ200では、撮影部21Aから現在のスルー画像を取得し、上記ステップ122で取得した左画像と、現在のスルー画像とに基づいて、現在の移動距離を算出し、上記ステップ128で算出した最適な移動距離との差分を算出する。
そして、ステップ202において、上記ステップ200で算出した最適な移動距離との差分を、液晶モニタ7のスルー画像上に重畳させて表示させる。
次のステップ130では、被写体領域の相関係数と背景領域の相関係数とを算出し、ステップ132において、算出された被写体領域の相関係数が、第1閾値以上であり、かつ、背景領域の相関係数が、第2閾値以下であるか否かを判定する。上記の閾値判定が否定される場合には、上記ステップ200へ戻るが、上記の閾値判定が肯定されると、ステップ134において、撮影部21Aに対して右画像の本画像を取得させる本撮影の指示を行い、撮影部21Aで撮影された右画像を取得し、ステップ114へ移行する。
以上説明したように、第2の実施の形態の複眼デジタルカメラによれば、2枚目の右画像の撮影を案内する案内情報として、立体視表示のための、右画像と左画像との間の視点の最適な移動距離と、現在の移動距離との差分を表示することにより、立体視表示のための画像の撮影をアシストすることができる。
また、2枚目の右画像の最適な撮影ポイントに対し、1枚目の左画像の撮影の視点からどれだけ移動しているかを表示してアシストすることで、撮影の失敗を防ぐことができる。
なお、上記の第2の実施の形態では、最適な移動距離との差分を表示する場合を例に説明したが、これに限定されるものではなく、現在の移動距離と、最適な移動距離とをそれぞれスルー画像上に重畳して表示するようにしてもよい。
また、上記第2の実施の形態では、複眼カメラに本発明を適用した場合を例に説明したが、これに限定されるものではなく、単眼カメラに本発明を適用してもよい。この場合には、上記図6の立体視用画像撮影処理ルーチンにおいて、上記ステップ104の判定を行わずに、ステップ120〜ステップ134の単眼モードの処理のみを行うようにすればよい。
次に、第3の実施の形態について説明する。第3の実施の形態の複眼デジタルカメラの構成は、第1の実施の形態の複眼デジタルカメラ1と同一であるため、同一符号を付して説明を省略する。
第3の実施の形態では、単眼モードにおいて、水平方向におけるスルー画像との相関係数を算出して閾値判定を行い、右画像の撮影を行っている点が、第1の実施の形態と異なっている。
第3の実施の形態に係る複眼デジタルカメラでは、整合性判定部35によって、左画像を撮影したときのカメラの水平方向、すなわち、左画像の縦方向及び横方向の何れの方向が、水平方向であるかを判定する。なお、画像上の縦方向及び横方向の何れの方向が水平方向であるかは、従来既知の手法により、判定すればよい。
また、整合性判定部35は、単眼モードで撮影された左画像とスルー画像とに対して、X方向(水平方向)の1次微分処理(あるいは2次微分処理)を行い、微分処理された左画像の被写体領域とスルー画像の被写体領域の相関係数を算出すると共に、左画像の背景領域とスルー画像の背景領域の相関係数を算出する。これによって、被写体領域及び背景領域の各々について、左画像とスルー画像との間における水平方向の相関係数が算出される。
また、整合性判定部35は、算出した被写体領域の相関係数が、第1閾値以上であり、かつ、算出した背景領域の相関係数が、第2閾値以下である場合に、撮影制御部22に対して、右画像の撮影を指示する。これによって、撮影制御部22は、撮影部21Aに対して右画像の本画像を取得させる本撮影の指示を行う。
なお、整合性判定部35は、相関情報算出手段及び水平方向判定手段の一例である。
図7を参照して、第3の実施の形態の複眼デジタルカメラにおける立体視用画像撮影処理ルーチンについて説明する。なお、第1の実施の形態の立体視用画像撮影処理ルーチンと同一の処理については、同一の符号を付して説明を省略する。
ステップ100で、レリーズボタン2が半押しされたか否かを判定し、ステップ102で、被写体までの距離及び背景までの距離を計測する。そして、ステップ104において、測定された被写体までの距離が、閾値以上であるか否かを判定し、被写体までの距離が閾値以上である場合には、ステップ106において、撮影部21A、21Bが取得したプレ画像の重ね合わせ処理を行う。重ね合わせ処理が完了すると、ステップ108において、処理完了を示すメッセージをモニタ7に表示させる。
そして、ステップ110において、レリーズボタン2が全押しされたか否かを判定し、ステップ112で、撮影部21Aに対して左画像、撮影部21Bに対して右画像の本画像を取得させる本撮影の指示を行い、撮影部21A、21Bで撮影された左画像及び右画像を取得する。そして、ステップ114において、左画像及び右画像に基づいて、立体視用画像を生成して、記録メディア29に格納させる。
そして、ステップ116において、撮影を終了するか否かを判定し、終了しない場合には、上記ステップ100へ戻り、次の撮影に備えるが、一方、撮影を終了する場合には、立体視用画像撮影処理ルーチンを終了する。
上記ステップ104で、被写体までの距離が閾値未満であると判定された場合には、ステップ118において、単眼モードで撮影を行うことを示す警告メッセージを液晶モニタ7に表示させる。
そして、ステップ120において、レリーズボタン2が全押しされたか否かを判定し、ステップ122で、撮影部21Aに対して左画像の本画像を取得させる本撮影の指示を行い、撮影部21Aで撮影された左画像を取得する。次のステップ300では、上記ステップ122で左画像を撮影したときのカメラの水平方向を検出して、左画像の縦方向及び横方向の何れが水平方向であるかを判定する。
そして、ステップ124では、取得した左画像に対して半透明処理を行う。ステップ126では、左画像と右画像との間の視点の最適な移動距離を算出する。そして、ステップ128において、半透明処理された左画像と最適な移動距離を、液晶モニタ7のスルー画像上に重畳させて表示させる。
次のステップ302では、撮影部21Aから現在のスルー画像を取得し、現在のスルー画像と上記ステップ122で取得した左画像とに対して、上記ステップ300で判定された水平方向となる方向に微分処理を行った上で、被写体領域の相関係数と背景領域の相関係数とを算出する。そして、ステップ132において、算出された被写体領域の相関係数が、第1閾値以上であり、かつ、背景領域の相関係数が、第2閾値以下であるか否かを判定する。上記の閾値判定が否定される場合には、上記ステップ132へ戻るが、上記の閾値判定が肯定されると、ステップ134において、撮影部21Aに対して右画像の本画像を取得させる本撮影の指示を行い、撮影部21Aで撮影された右画像を取得し、ステップ114へ移行する。
以上説明したように、第3の実施の形態の複眼デジタルカメラによれば、水平方向の相関係数を用いて閾値判定を行うようにして、2枚目の右画像の自動撮影を行うための条件を緩めることで、2枚目の右画像の撮影のためのシャッタがおりにくく、2枚目の右画像の撮影ができない、という状況が発生することを防ぐことができる。また、垂直方向より水平方向の特徴(相関係数)を重視することで、立体感を損なわないで、立体視表示のための撮影を行うことができる。
なお、上記第3の実施の形態では、複眼カメラに本発明を適用した場合を例に説明したが、これに限定されるものではなく、単眼カメラに本発明を適用してもよい。この場合には、上記図7の立体視用画像撮影処理ルーチンにおいて、上記ステップ104の判定を行わずに、ステップ120〜ステップ134の単眼モードの処理のみを行うようにすればよい。
また、上述した、単眼モードにおける水平方向の相関係数を用いた閾値判定による右画像の撮影方法を、上記第2の実施の形態に適用してもよい。
また、上記の第1の実施の形態〜第3の実施の形態では、AF処理部により決定された合焦位置から、被写体領域及び背景領域までの距離を計測する場合を例に説明したが、これに限定されるものではなく、撮影部21A、21Bから得られる画像のステレオマッチングにより、被写体領域及び背景領域までの距離を計測するようにしてもよい。また、背景領域までの距離については、予め定められた値を用いてもよい。
また、単眼モードで、左画像を1枚目の画像とし、右画像を2枚目の画像とした場合を例に説明したが、右画像を1枚目の画像とし、左画像を2枚目の画像としてもよい。また、3枚以上の画像を取得して立体視表示用の画像を生成するように構成してもよい。この場合には、3枚目以降の画像を撮影するときに、2枚目の画像と同様の案内情報を、スルー画像上に表示して、撮影をアシストすればよい。
また、上記第1〜第3の実施の形態の立体視用画像撮影処理ルーチンをプログラム化して、そのプログラムをCPUにより実行するようにしてもよい。
1 複眼デジタルカメラ
2 レリーズボタン
7 液晶モニタ
21A、21B 撮影部
22 撮影制御部
28 表示制御部
30 3次元処理部
31 距離測定部
32 視差調整部
33 移動量計算部
34 半透明処理部
35 整合性判定部

Claims (9)

  1. 異なる複数の視点から複数の画像を撮影する撮影手段と、
    前記複数の視点のうちの1つの視点から立体視表示のための1枚目の画像を撮影するように前記撮影手段を制御する第1撮影制御手段と、
    前記1枚目の画像における被写体との距離を計測する距離計測手段と、
    前記距離計測手段によって計測された被写体との距離に基づいて、前記1枚目の画像と、前記1つの視点であって、かつ、前記1枚目の画像とは異なる視点から撮影する2枚目の画像とに基づいて立体視表示するための前記1枚目の画像と前記2枚目の画像との間の前記視点の移動距離を算出する移動距離算出手段と、
    前記2枚目の画像の撮影を案内する案内情報として、前記移動距離算出手段によって算出された前記視点の移動距離を、画像を表示する表示手段によって表示されるスルー画像上に表示するように制御する表示制御手段と、
    を含む複眼撮影装置。
  2. 前記表示制御手段は、前記案内情報として、半透明処理された前記1枚目の画像を更に前記スルー画像上に表示するように制御する請求項1記載の複眼撮影装置。
  3. 前記1枚目の画像と現在のスルー画像とに基づいて、前記1枚目の画像における前記視点と現在の前記視点との移動距離を算出する現在移動距離算出手段を更に含み、
    前記表示制御手段は、前記案内情報として、前記現在移動距離算出手段によって算出された現在の移動距離及び前記移動距離算出手段によって算出された前記視点の移動距離、又は前記視点の移動距離と前記現在の移動距離との差分を、前記スルー画像上に表示するように制御する請求項1又は2記載の複眼撮影装置。
  4. 前記1枚目の画像における被写体部分と、前記スルー画像における被写体部分との相関情報を算出し、前記1枚目の画像における前記被写体部分とは異なる背景部分と、前記スルー画像における前記背景部分との相関情報を算出する相関情報算出手段と、
    前記相関情報算出手段によって算出された前記被写体部分の相関情報が、第1閾値以上であって、かつ、前記背景部分の相関情報が、第2閾値以下であるときに、2枚目の画像を撮影するように前記撮影手段を制御する第2撮影制御手段とを更に含む請求項1〜請求項3の何れか1項記載の複眼撮影装置。
  5. 前記1枚目の画像における水平方向を判定する水平方向判定手段を更に含み、
    前記相関情報算出手段は、前記水平方向判定手段によって判定された前記水平方向における前記相関情報を算出する請求項4記載の複眼撮影装置。
  6. 前記表示手段は、前記1枚目の画像及び前記2枚目の画像を立体視表示する請求項1〜請求項5の何れか1項記載の複眼撮影装置。
  7. 前記複数の画像の被写体までの距離情報を計測する距離計測手段と、
    前記計測された距離情報が、閾値以上であった場合には、前記撮影手段によって前記複数の視点から前記複数の画像を撮影させる第3撮影制御手段とを更に含み、
    前記第1撮影制御手段は、前記計測された距離情報が、閾値未満であった場合に、前記1枚目の画像を撮影するように前記撮影手段を制御し、
    前記表示制御手段は、前記1枚目の画像が撮影された場合に、前記案内情報を、前記表示手段によって表示されるスルー画像上に表示するように制御する請求項1〜請求項6の何れか1項記載の複眼撮影装置。
  8. 前記表示手段は、前記撮影手段によって撮影された前記複数の画像、又は前記1枚目の画像及び前記2枚目の画像を立体視表示する請求項7記載の複眼撮影装置。
  9. コンピュータを、
    異なる複数の視点から複数の画像を撮影する撮影手段を、前記複数の視点のうちの1つの視点から立体視表示のための1枚目の画像を撮影するように制御する第1撮影制御手段、
    前記1枚目の画像における被写体との距離を計測する距離計測手段、
    前記距離計測手段によって計測された被写体との距離に基づいて、前記1枚目の画像と、前記1つの視点であって、かつ、前記1枚目の画像とは異なる視点から撮影する2枚目の画像とに基づいて立体視表示するための前記1枚目の画像と前記2枚目の画像との間の前記視点の移動距離を算出する移動距離算出手段、及び
    前記2枚目の画像の撮影を案内する案内情報として、前記移動距離算出手段によって算出された前記視点の移動距離を、画像を表示する表示手段によって表示されるスルー画像上に表示するように制御する表示制御手段
    として機能させるためのプログラム。
JP2010075546A 2010-03-29 2010-03-29 複眼撮影装置及びプログラム Expired - Fee Related JP5409481B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010075546A JP5409481B2 (ja) 2010-03-29 2010-03-29 複眼撮影装置及びプログラム
US13/072,260 US8743182B2 (en) 2010-03-29 2011-03-25 Multi-eye photographing apparatus and program thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010075546A JP5409481B2 (ja) 2010-03-29 2010-03-29 複眼撮影装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2011211386A true JP2011211386A (ja) 2011-10-20
JP5409481B2 JP5409481B2 (ja) 2014-02-05

Family

ID=44655972

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010075546A Expired - Fee Related JP5409481B2 (ja) 2010-03-29 2010-03-29 複眼撮影装置及びプログラム

Country Status (2)

Country Link
US (1) US8743182B2 (ja)
JP (1) JP5409481B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101735311B1 (ko) * 2010-12-10 2017-05-15 삼성전자 주식회사 3차원카메라장치 및 3차원카메라장치 제어방법

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003244500A (ja) * 2002-02-13 2003-08-29 Pentax Corp ステレオ画像撮像装置
JP2004069583A (ja) * 2002-08-08 2004-03-04 Nissan Motor Co Ltd 画像処理装置
JP2005037517A (ja) * 2003-07-17 2005-02-10 Fuji Photo Film Co Ltd 立体カメラ
JP2006033476A (ja) * 2004-07-16 2006-02-02 Sharp Corp 撮影装置、表示装置及び撮影表示装置
JP2009128969A (ja) * 2007-11-20 2009-06-11 Fujifilm Corp 撮像装置および方法並びにプログラム
JP2009232276A (ja) * 2008-03-24 2009-10-08 Olympus Imaging Corp 撮像装置

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0684585B1 (en) * 1994-04-22 2003-02-05 Canon Kabushiki Kaisha Image forming method and apparatus
JP3372832B2 (ja) * 1997-07-25 2003-02-04 コナミ株式会社 ゲーム装置、ゲーム画像処理方法およびゲーム画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体
JP4646437B2 (ja) 2001-05-18 2011-03-09 オリンパス株式会社 立体画像観察装置
JP4596223B2 (ja) * 2001-06-27 2010-12-08 ソニー株式会社 画像処理装置および方法、記録媒体、並びにプログラム
JP3744002B2 (ja) * 2002-10-04 2006-02-08 ソニー株式会社 表示装置、撮像装置、および撮像/表示システム
JP2004236156A (ja) 2003-01-31 2004-08-19 Sharp Corp 立体画像撮影補助装置および立体画像撮影方法
JP2004363758A (ja) * 2003-06-03 2004-12-24 Konica Minolta Photo Imaging Inc 画像処理方法、撮像装置、画像処理装置及び画像記録装置
JP2005353047A (ja) * 2004-05-13 2005-12-22 Sanyo Electric Co Ltd 立体画像処理方法および立体画像処理装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003244500A (ja) * 2002-02-13 2003-08-29 Pentax Corp ステレオ画像撮像装置
JP2004069583A (ja) * 2002-08-08 2004-03-04 Nissan Motor Co Ltd 画像処理装置
JP2005037517A (ja) * 2003-07-17 2005-02-10 Fuji Photo Film Co Ltd 立体カメラ
JP2006033476A (ja) * 2004-07-16 2006-02-02 Sharp Corp 撮影装置、表示装置及び撮影表示装置
JP2009128969A (ja) * 2007-11-20 2009-06-11 Fujifilm Corp 撮像装置および方法並びにプログラム
JP2009232276A (ja) * 2008-03-24 2009-10-08 Olympus Imaging Corp 撮像装置

Also Published As

Publication number Publication date
JP5409481B2 (ja) 2014-02-05
US20110234766A1 (en) 2011-09-29
US8743182B2 (en) 2014-06-03

Similar Documents

Publication Publication Date Title
JP4657313B2 (ja) 立体画像表示装置および方法並びにプログラム
JP4637942B2 (ja) 3次元表示装置および方法並びにプログラム
JP4880096B1 (ja) 多視点撮影制御装置、多視点撮影制御方法及び多視点撮影制御プログラム
JP5814692B2 (ja) 撮像装置及びその制御方法、プログラム
JP2011064894A (ja) 立体画像表示装置
JP5539514B2 (ja) 撮影装置、プログラム、及び撮影方法
JP5467993B2 (ja) 画像処理装置、複眼デジタルカメラ、及びプログラム
JP5295426B2 (ja) 複眼撮像装置、その視差調整方法及びプログラム
JP2010068182A (ja) 3次元撮影装置および方法並びにプログラム
JP5550791B2 (ja) 画像処理装置、撮像装置及び視差量調整方法
US8648953B2 (en) Image display apparatus and method, as well as program
JP5840022B2 (ja) 立体画像処理装置、立体画像撮像装置、立体画像表示装置
JP5891645B2 (ja) 撮像装置およびプログラム
JP5453552B2 (ja) 撮影装置、方法及びプログラム
JP2012227653A (ja) 撮像装置及び撮像方法
JP5409481B2 (ja) 複眼撮影装置及びプログラム
JP4852169B2 (ja) 3次元表示装置および方法並びにプログラム
JP5351878B2 (ja) 立体画像表示装置および方法並びにプログラム
JP4249187B2 (ja) 立体映像処理装置並びにそのプログラム
JP2013070153A (ja) 撮像装置
JP2015094831A (ja) 立体撮像装置およびその制御方法、制御プログラム
JP5385354B2 (ja) 3次元表示装置および方法並びにプログラム
JP2011205175A (ja) 立体撮像ディジタル・カメラおよびその動作制御方法
JP2015046820A (ja) 撮像装置および撮影システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120620

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130501

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130514

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130710

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131015

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131105

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees