JP5918982B2 - 撮像装置、再生装置、その制御方法、撮像システム、及びプログラム - Google Patents

撮像装置、再生装置、その制御方法、撮像システム、及びプログラム Download PDF

Info

Publication number
JP5918982B2
JP5918982B2 JP2011255430A JP2011255430A JP5918982B2 JP 5918982 B2 JP5918982 B2 JP 5918982B2 JP 2011255430 A JP2011255430 A JP 2011255430A JP 2011255430 A JP2011255430 A JP 2011255430A JP 5918982 B2 JP5918982 B2 JP 5918982B2
Authority
JP
Japan
Prior art keywords
eye
image
shift amount
drive position
focus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011255430A
Other languages
English (en)
Other versions
JP2013109233A (ja
Inventor
洋平 堀川
洋平 堀川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2011255430A priority Critical patent/JP5918982B2/ja
Priority to US13/670,626 priority patent/US9025011B2/en
Publication of JP2013109233A publication Critical patent/JP2013109233A/ja
Application granted granted Critical
Publication of JP5918982B2 publication Critical patent/JP5918982B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/172Processing image signals image signals comprising non-image signal components, e.g. headers or format information
    • H04N13/178Metadata, e.g. disparity information

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Library & Information Science (AREA)
  • Studio Devices (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Focusing (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Automatic Focus Adjustment (AREA)

Description

本発明は、撮像装置、再生装置、その制御方法、及びプログラムに関し、特に撮像光学系の射出瞳の異なる領域を通過した光束から得られた左眼用及び右眼用の画像を使用した両眼立体視の技術に関する。
近年、立体視可能にコンテンツを表示する表示装置を有する、テレビ受像機や携帯電話等の再生装置が普及している。このような再生装置において表示する立体視用のコンテンツは、テレビ放送やDVD等の特定の事業者により提供されるものに限られず、ユーザが作成したコンテンツ等が利用可能である。
立体を観測者に知覚させる方式の1つに、人間の左眼及び右眼の各々に、画像間に像ずれを有する、それぞれ異なる左眼用及び右眼用の画像を提示することにより、両眼視差を知覚させる両眼立体視方式がある。上述した立体視を可能にする表示装置の多くは両眼立体視方式を採用しているため、昨今では、左眼用及び右眼用の画像で構成される、立体視用の静止画あるいは動画を撮影可能な撮像装置も普及してきている。例えば両眼立体視用の画像を撮影可能な撮像装置には、基線長を設けて配設された2つの撮像光学系を有し、各撮像光学系を通過した光束から得られた画像を両眼立体視用の画像として出力するものがある。
一方、立体視用の表示装置で立体視用のコンテンツを視聴する場合、表示領域の物理的な大きさによって推奨される視聴距離(表示面と観測者の眼球との距離)が設定されている。これは、例えば人間の平均的な水平視野に応じて設定される。上述したような事業者により提供される立体視用のコンテンツの多くは、推奨視聴距離において視聴された場合に、両眼視差が観測者に疲労感を与えにくいように、コンテンツの左眼用及び右眼用の画像間の像ずれ量が調整されている。
しかしながら、ユーザが作成した立体視用のコンテンツは、両眼視差が視聴する観測者に与える疲労感が考慮されていない可能性があるため、表示装置の中には左眼用及び右眼用の画像間の像ずれ量を調整する機能を有するものがある。特許文献1には、両眼立体視用の画像に含められた、2つの撮像光学系の基線長、及び該2つの撮像光学系の光軸の交差点までの距離の情報に基づいて、左眼用及び右眼用の画像のシフト量を決定することで、観測者に与える立体感を調整する技術が開示されている。
また、両眼立体視用の画像を撮影する撮像装置として、近年では1つの撮像光学系のみを用いて両眼立体視用の画像を撮影可能なものもある。特許文献2には、図2のように撮像素子の1つの画素内に複数の受光素子を有し、各々の受光素子が撮像光学系の射出瞳の異なる領域を通過した光束を光電変換することにより、両眼立体視用の画像を撮影可能な撮像装置が開示されている。
特許第3978392号明細書 特許第4027113号明細書
しかしながら、特許文献2のような撮像装置において、左眼用及び右眼用の画像間の像ずれ量を適切に調整するものが考慮されていなかった。
本発明は、上述の問題点に鑑みてなされたものであり、1つの撮像光学系の異なる射出瞳を通過した光束から生成された両眼立体視用の画像を、観測者に与える不快感を低減して提示できるようにすることを目的とする。
前述の目的を達成するために、本発明の1つの態様の撮像装置は、以下の構成を備える。
撮像光学系の射出瞳の異なる領域を通過した光束の各々を撮像し、左眼用及び右眼用の画像を出力する撮像手段と、撮像手段により左眼用及び右眼用の画像が撮像された際の焦点レンズの駆動位置である合焦駆動位置を示す情報を取得する取得手段と、焦点レンズが合焦駆動位置にある場合に撮像された左眼用の画像及び右眼用の画像の少なくともいずれかの画像についてのシフト量であって、撮像装置との距離が所定距離である被写体について、シフト後の該画像間における第1の像ずれ量と、焦点レンズが予め定められた基準駆動位置にある場合に得られる左眼用及び右眼用の画像間における第2の像ずれ量との差分が所定の範囲に収まるシフト量を、合焦駆動位置を示す情報に基づいて決定する決定手段と、決定手段により決定されたシフト量と、焦点レンズが合焦駆動位置にある場合に撮像された左眼用及び右眼用の画像とを関連付けて記録する記録手段と、を有することを特徴とする。
また前述の目的を達成するために、本発明の1つの態様の再生装置は、以下の構成を備える。
1つの撮像光学系の射出瞳の異なる領域を通過した光束の各々を撮像して得られた左眼用及び右眼用の画像と、該画像が撮像された際の撮像光学系の焦点レンズの駆動位置である合焦駆動位置を示す情報とを取得する取得手段と、取得手段により取得された左眼用及び右眼用の画像の少なくともいずれかの画像のシフト量であって、該画像を撮像した撮像装置との距離が所定距離である被写体について、シフト後の該画像間における第1の像ずれ量と、焦点レンズが予め定められた基準駆動位置にある場合に撮像装置で得られる左眼用及び右眼用の画像間における第2の像ずれ量との差分が所定の範囲に収まるシフト量を決定する決定手段と、取得手段により取得された左眼用及び右眼用の画像を、合焦駆動位置を示す情報に基づいて決定手段により決定されたシフト量に従ってシフトさせ、シフト後の左眼用及び右眼用の画像を両眼立体視可能な表示手段に出力する出力手段と、を有し、決定手段は、合焦駆動位置と基準駆動位置との差が閾値以上である場合、合焦駆動位置との差が小さくなる値に基準駆動位置を変更してシフト量を決定することを特徴とする。
また前述の目的を達成するために、本発明の1つの態様の撮像システムは、以下の構成を備える。
撮像光学系の射出瞳の異なる領域を通過した光束の各々を撮像し、左眼用及び右眼用の画像を出力する撮像手段と、撮像手段により左眼用及び右眼用の画像が撮像された際の焦点レンズの駆動位置である合焦駆動位置を示す情報を取得する取得手段と、焦点レンズが合焦駆動位置にある場合に撮像された左眼用の画像及び右眼用の画像の少なくともいずれかの画像についてのシフト量であって、撮像装置との距離が所定距離である被写体について、シフト後の該画像間における第1の像ずれ量と、焦点レンズが予め定められた基準駆動位置にある場合に得られる左眼用及び右眼用の画像間における第2の像ずれ量との差分が所定の範囲に収まるシフト量を、合焦駆動位置を示す情報に基づいて決定する決定手段と、取得手段により取得された左眼用及び右眼用の画像を決定手段により決定されたシフト量に従ってシフトさせ、シフト後の左眼用及び右眼用の画像を両眼立体視可能な表示手段に出力する出力手段と、を有し、決定手段は、合焦駆動位置と基準駆動位置との差が閾値以上である場合、合焦駆動位置との差が小さくなる値に基準駆動位置を変更してシフト量を決定することを特徴とする。
このような構成により本発明によれば、1つの撮像光学系の異なる射出瞳を通過した光束から生成された両眼立体視用の画像を、観測者に与える不快感を低減して提示することが可能となる。
本発明の実施形態に係るデジタルカメラ100の機能構成を示したブロック図 本発明の実施形態に係る撮像素子の単位画素の構造を示した図 本発明の実施形態に係るデジタルカメラ100で記録されるファイルのファイル構造を示した図 本発明の実施形態1に係る連写撮影処理のフローチャート 本発明の実施形態に係るシフト量決定処理の概念を説明するための図 本発明の実施形態に係るシフト量決定処理のフローチャート 本発明の実施形態に係るシフト量の決定方法を説明するための図 本発明の実施形態1に係る再生処理のフローチャート 本発明の実施形態2に係る再生処理のフローチャート 従来技術の問題点を説明するための図
[実施形態1]
以下、本発明の例示的な実施形態について、図面を参照して詳細に説明する。なお、以下に説明する一実施形態は、撮像装置、再生装置、及び撮像システムの一例としての、両眼立体視可能な表示装置を有し、1つの撮像光学系の異なる射出瞳を通過した光束から両眼立体視用の画像を生成するデジタルカメラに、本発明を適用した例を説明する。しかし、本発明は、1つの撮像光学系の異なる射出瞳を通過した光束から両眼立体視用の画像を生成すること、あるいは該画像を再生することが可能な任意の機器に適用可能である。
<立体視中の焦点調節動作が観測者に与えうる影響>
ここで、撮像装置であるデジタルカメラにおいて焦点調節が行われた場合に、該焦点調節中の立体視表示のライブビュー画面を観測している観測者に与えうる影響について説明する。
特許文献2の両眼立体視用の画像の撮影方式は、特許文献1の撮像装置のように両眼の撮像光学系の設置条件により立体感が決まる方式とは異なり、撮像光学系の合焦距離や絞り値等の設定によって観測者に与える立体感が変化する。具体的には、特許文献2の撮像装置で得られる左眼用及び右眼用の画像間において、像ずれ量が0となる被写体は撮像光学系が合焦している合焦被写体であり、1つの被写体について観測者に与える立体感は、撮影時の撮像光学系の状態によって変化する。このことは、被写体と撮像装置の配置関係が同一であっても、撮影時の撮像光学系の合焦面と撮像装置との距離(合焦距離)によって、観測者が知覚する視差が変化することを意味する。
例えば図10(a)のように撮像光学系の合焦面に被写体が存在する場合を考える。このとき、各画素内に左眼用及び右眼用の受光素子(a、b)を有する撮像素子から得られるA像群(受光素子aから得られる画像信号:左眼用画像)とB像群(受光素子bから得られる画像信号:右眼用画像)において、被写体の像は同一の画素となる。即ち、合焦面に存在する合焦被写体の像の位置は、左眼用及び右眼用の画像間で略一致しており、ずれがないものとみなせる。
これに対し、図10(b)のように、合焦させたい被写体と撮像装置との距離よりも合焦距離が長くなる、所謂後ピンの状態では、被写体が合焦面よりも手前になる。このとき撮像素子から得られる左眼用及び右眼用の画像間で、合焦させたい被写体の像の位置にずれが生じる。具体的には、該画像を表示装置に立体視可能に表示した場合に、合焦面にあたる表示面よりも手前に被写体が知覚されるため、輻輳角よりも観測者の眼球が中央に向く(コンバージェンス)方向に像ずれが生じる。
また図10(c)のように、合焦させたい被写体と撮像装置との距離よりも合焦距離が短くなる、所謂前ピンの状態では、被写体が合焦面よりも奥まることになる。このとき撮像素子から得られる左眼用及び右眼用の画像間で、合焦させたい被写体の像の位置にずれが生じる。具体的には、該画像を表示装置に立体視可能に表示した場合に、表示面よりも奥に被写体が知覚されるため、輻輳角よりも観測者の眼球が外に向く(ダイバージェンス)方向に像ずれが生じる。
つまり、例えば静止画撮影準備時のAF動作や動画撮影中の焦点調節動作等によって頻繁に合焦距離が変化する場合、変化中に撮像された画像を立体視可能な表示装置に連続的に提示すると、観測者が知覚する視差も頻繁に変化することになる。このとき観測者が被写体の1つを注視していたとしても、該被写体の視差が変化することになるため、観測者の眼球は該被写体に注視するために焦点調節を行う必要がある。即ち、頻繁な合焦距離の変化に合わせて眼球の焦点調節を行う必要があるため、観測者に不快感を与えてしまうことがあった。
そこで、本実施形態では、撮像装置との距離が所定距離である被写体について、合焦駆動位置を示す情報に基づいて、左右眼の画像間のシフト量を決定する。具体的には、シフト後の該画像間における第1の像ずれ量と、焦点レンズが予め定められた基準駆動位置にある場合に得られる画像間の第2の像ずれ量との差分が所定の範囲に収まるようにシフト量を決定する。これにより、両眼立体視用の画像を、観測者に与える不快感を低減して提示することができる。
<デジタルカメラ100の機能構成>
図1は、本発明の実施形態に係るデジタルカメラ100の機能構成を示すブロック図である。
制御部101は、例えばCPUであり、デジタルカメラ100が有する各ブロックの動作を制御する。具体的には制御部101は、後述する連写撮影処理及び再生処理の動作プログラムをROM102から読み出して、RAM103に展開して実行することにより各ブロックの動作を制御する。
ROM102は、例えば書き換え可能な不揮発性メモリであり、連写撮影処理及び再生処理の動作プログラムに加え、デジタルカメラ100が有する各ブロックの動作に必要なパラメータや、後述する撮像光学系104の特性に関する情報を記憶する。
RAM103は、揮発性メモリであり、連写撮影処理及び再生処理の動作プログラムの展開領域としてだけでなく、デジタルカメラ100が有する各ブロックの動作において出力される中間データ等を一時的に格納する格納領域としても用いられる。
なお、本実施形態ではハードウェアとしてデジタルカメラ100が備える各ブロックにおいて処理が実現されるものとして説明するが、本発明の実施はこれに限らず、各ブロックの処理は該各ブロックと同様の処理を行うプログラムで実現されてもよい。
撮像部106は、例えばCCDやCMOSセンサ等の撮像素子である。撮像部106は、撮像光学系104により撮像素子に結像された光学像を光電変換し、得られたアナログ画像信号をアナログ信号処理部108に出力する。撮像部106は、制御部101によって制御されるTG107から出力されるHDやVD等のタイミング信号に応じて、光学像の光電変換を行う。なお、本実施形態の撮像部106の撮像素子の1画素は、図2に示されるように左眼用及び右眼用の2つの受光素子a及びbで構成されるものとする。しかしながら、1画素を構成する受光素子の数はこれに限らず、2以上の受光素子で構成され、左眼用及び右眼用の画像に係る画像信号を出力可能なものであればよい。撮像光学系104は、本実施形態では少なくとも焦点レンズを含むレンズ群と絞りとで構成される。撮像光学系104に含まれる焦点レンズや絞りは、光学系駆動部105により駆動制御される。
アナログ信号処理部108は、撮像素子の伝送路上で生じたノイズを除去するCDS回路や、非線形増幅回路等を有する。アナログ信号処理部108は、入力されたアナログ画像信号に対して各回路で信号処理を行い、得られたアナログ信号をA/D変換部109に出力する。アナログ信号処理部108から出力されたアナログ信号は、A/D変換部109においてA/D変換処理が適用され、デジタル画像信号に変換される。A/D変換部109は、変換により得られたデジタル画像信号をデジタル信号処理部110に出力する。デジタル信号処理部110は、入力されたデジタル画像信号に対して、欠陥画素補正、ホワイトバランス調整、ガンマ調整等の信号補正処理、及びノイズリダクション処理等の画像処理を行う。また本実施形態では、デジタル信号処理部110においてデジタル画像信号を、左眼用の画像の信号と右眼用の画像の信号とに分離する。左眼用及び右眼用の画像に分離された信号は、例えばRAM103に記憶されるものとする。
またデジタル信号処理部110は、左眼用及び右眼用の画像の信号に対して所定の記録形式に符号化し、得られた画像ファイルあるいは動画ファイルのフレームデータを後述する記録媒体114に出力する。本実施形態では、画像ファイルと動画ファイルのそれぞれは、図3に示すようなファイル構造を有するものとする。具体的には画像ファイルは、図3(a)に示すように画像関連情報301、左眼用の画像302、右眼用の画像303が含まれる。また動画ファイルは、図3(b)に示すようにフレームごとに画像ファイルと同様に画像関連情報311、左眼用のフレーム画像312、及び右眼用のフレーム画像313が含まれる。なお、画像や動画像のファイル構造はこれに限られるものではなく、記録形式によって異なることは容易に理解されよう。
表示部113は、左眼用及び右眼用の画像を両眼立体視可能に表示する表示装置である。表示部113は、例えばレンチキュラレンズ等の光学部材を用いることにより、撮影者の左眼と右眼にそれぞれ対応する画像を提示する。なお、本実施形態ではデジタルカメラ100に備えられている表示装置として、裸眼立体視が可能な上述の方式を用いるものとして説明するが、本発明のデジタルカメラ100により生成された左眼用及び右眼用の画像を表示する装置はこれに限られない。例えば、近年家庭用の所謂3Dテレビのように、時分割で左眼用の画像と右眼用の画像を交互に提示し、該画像の切り替えに同期して左眼及び右眼のいずれかを透過状態に切り替える液晶シャッタを利用した眼鏡を観測者が装着する方式であってもよい。
シフト量決定部111は、表示部113に左眼用及び右眼用の画像を表示する際に、各画像の相対的な位置ずれ量であるシフト量を決定する。そして画像シフト部112は、シフト量決定部111により決定されたシフト量分、左眼用及び右眼用の画像の少なくともいずれかの表示装置に表示する場合の位置をずらした表示画像を生成する。「シフト量」とは、本実施形態では左眼用及び右眼用の画像を表示部113の表示領域に表示する場合に、左眼用の画像及び右眼用の画像それぞれの画像中心がなす距離量を、画素単位で示す数値である。このようにシフト量を変更させることにより、左眼用及び右眼用の画像間で各被写体の像ずれ量を調整することができる。像ずれしていない被写体は表示装置の表示面に存在するように知覚されるため、像ずれ量を調整することにより左眼用及び右眼用の画像の立体感を調整することができる。なお、本実施形態では、シフト量決定部111により決定されたシフト量を示す情報は、記録媒体114に記録される画像ファイルあるいは動画ファイルの画像関連情報に含められて記録されるものとする。特に動画ファイルの場合、フレームごとにシフト量決定部111が決定したシフト量を示す情報が記録される。
記録媒体114は、例えばデジタルカメラ100が有する内蔵メモリや、例えばメモリカードやHDD等のデジタルカメラ100に着脱可能に接続される記録装置である。記録媒体114は、撮像処理により得られた画像ファイルあるいは動画ファイルが記録される。
<連写撮影処理>
以下、本実施形態のデジタルカメラ100の連写撮影処理について、図4のフローチャートを用いて具体的な処理を説明する。該フローチャートに対応する処理は、制御部101が、例えばROM104に記憶されている対応する処理プログラムを読み出し、RAM103に展開して実行することにより実現することができる。なお、本連写撮影処理は、例えばデジタルカメラ100が備える不図示のレリーズボタンの撮影者による操作によって出力される撮影開始を示す制御信号(SW2)を制御部101が受信した際に開始されるものとして説明する。
なお、本実施形態ではデジタルカメラ100は連写撮影モードに設定されており、連写撮影により繰り返し画像の撮影を行う間に、1回の撮影毎に自動合焦動作(コンティニュアスAF)、及び被写体を測光して露出条件を決定するAE動作を行うものとする。即ち、デジタルカメラ100の連写撮影により得られる連続画像のそれぞれは、予備撮影で得られた画像、あるいは連続撮影中の現在の撮影の前に得られた画像を参照し、該画像に含まれる被写体像に合わせてAF動作及びAE動作を行なって撮影を行う。
S401で、制御部101は、被写体に合焦する焦点レンズの駆動位置(合焦駆動位置)を決定する。具体的には制御部101は、不図示の予備撮影により得られた画像データや、連写撮影中に既に撮像されて得られた画像データ等、本ステップの実行よりも前に得られた左眼用及び右眼用の画像データのいずれかをRAM103より取得する。そして制御部101は、該画像データの被写体像のコントラスト状態から、焦点レンズの駆動位置を決定する。そして制御部101は、決定した焦点レンズの駆動位置を光学系駆動部105に伝送し、撮像光学系104の焦点レンズを該駆動位置に駆動させる。このとき制御部101は、決定した焦点レンズの駆動位置を示す情報をRAM103に記憶するものとする。
S402で、制御部101は、不図示の測光部により得られた被写体の測光結果に基づいて、撮影時の露出条件(シャッタスピード、絞り値)を決定する。このとき制御部101は、決定した露出条件を示す情報をRAM103に記憶するものとする。なお、本実施形態では説明を簡単にするために、連写撮影中に決定される露出条件は一定であるものとして説明する。
S403で、制御部101は、S402で決定した露出条件で立体視用の画像の撮影を行う。具体的には制御部101は、撮像部106によるアナログ画像信号の読み出し、及びアナログ信号処理部108、A/D変換部109、及びデジタル信号処理部110における各種画像処理を実行し、記録する左眼用及び右眼用の画像を生成する。なお、生成された記録用の左眼用及び右眼用の画像は、一時的にRAM103に記憶されるものとする。
S404で、制御部101は、記録する左眼用及び右眼用の画像を表示装置に表示する際のシフト量を決定するシフト量決定処理を実行する。
(シフト量決定処理の概念)
ここで、本ステップで実行されるシフト量決定処理の概念について図5を用いて説明する。
例えば図5(a)に示すように、デジタルカメラ100に対して主被写体501、遠景被写体502、近景被写体503が位置する場合を考える。なお、デジタルカメラ100の撮像光学系104に含まれる焦点レンズは、主被写体501に合焦する基準駆動位置に設定されているものとする。
主被写体501に合焦している場合、撮影により得られる画像は図5(b)のようになる。このとき合焦している主被写体501の像は、左眼用及び右眼用の画像間で像ずれがない状態となる。即ち、主被写体501に合焦している際に得られる左眼用及び右眼用の画像を立体視可能に表示装置に表示した場合、図5(c)に示されるように主被写体501は表示面の位置にあるように知覚される。つまり、表示面について観測者に与える距離感は、主被写体501とデジタルカメラ100との距離(合焦距離)に相当する。
この状態から、主被写体501が一度デジタルカメラ100の方向に移動して、再び図5(a)の状態になった場合を考える。このとき制御部101は、合焦していた主被写体501が移動したために撮像画像におけるコントラスト状態が変化するため、再び合焦する焦点レンズの位置を検出するためにS401のAF動作を行う。具体的には制御部101は、現在の焦点レンズの駆動位置に対して前後に焦点レンズを駆動させ(ウォブリング動作)ながら、コントラストが高くなる、移動後の主被写体501に合焦する焦点レンズの駆動位置を決定する。
このウォブリング動作の間、撮像で得られる左眼用及び右眼用の画像を立体視可能に表示した場合、表示面について観測者に与える距離感は連続的に変化することになる。ウォブリング動作において、AF動作前の合焦距離よりも遠方に位置する遠景被写体502に合焦する駆動位置に焦点レンズが駆動された場合を考える。このとき得られる左眼用及び右眼用の画像は図5(d)のように、主被写体501及び近景被写体503の像ずれ量が大きくなり、遠景被写体502の像ずれ量は小さくなる(0になる)。図5(d)のような左眼用及び右眼用の画像を立体視可能な表示装置に表示した場合、図5(e)に示されるように主被写体501ではなく遠景被写体502が表示面の位置にあるように観測者に知覚される。即ち、観測者の眼球がなす輻輳角は表示面にある状態から変化しないにも関わらず、AF動作中は合焦距離の変化に合わせて全体的な立体感が頻繁に変化することになるため、観測者に不快感を与えることになる。
このため、本実施形態ではこのように焦点レンズの駆動位置が変化するAF動作が行われる場合に、制御部101はAF動作の直前の焦点レンズの駆動位置を基準駆動位置として記憶する。そして制御部101は、AF動作の直前とAF動作中とで、デジタルカメラ100との距離が所定距離である被写体についての像ずれ量が同一になるように、AF動作中に得られる左眼用及び右眼用の画像の少なくともいずれかのシフト量を決定する。なお、本実施形態のデジタルカメラ100は、焦点レンズの駆動位置の各々について、該駆動位置に焦点レンズがある場合の合焦面までの合焦距離の情報を対応付けて、ROM102に記憶しているものとする。そして制御部101は、基準駆動位置に対応する合焦距離の情報をROM102より取得し、シフト後に該合焦距離に存在する被写体の像ずれ量が0となるように、焦点レンズが合焦駆動位置にある場合に撮像された左眼用及び右眼用の画像のシフト量を決定する。このようにすることで、AF動作中であっても図5(c)のように主被写体501の像ずれ量が0となるように表示装置に表示させることができるため、観測者が知覚する立体感を変化させることなくAF動作中に撮像された左眼用及び右眼用の画像を提示できる。
なお、シフト量は、左眼用及び右眼用の画像における同一の被写体の像が表示装置に表示された際に、シフト量に対応する画素分ずれて表示されればよいため、左眼用の画像あるいは右眼用の画像のいずれかをシフトさせる値であってもよい。またシフト量は、両方をシフトさせた場合に、最終的に表示装置に表示された際に、同一の被写体の像がシフト量に対応する画素分ずれて表示される値であってもよい。
また、本実施形態ではAF動作の直前の焦点レンズの駆動位置を基準駆動位置として記憶するものとして説明するが、基準駆動位置の設定方法はこれに限られるものではない。基準駆動位置は、予め決定された固定値であってもよいし、AF動作が行われるよりも前に例えばユーザによって設定された駆動位置であってもよい。
また、本実施形態では焦点レンズが基準駆動位置にある場合の合焦距離を取得し、焦点レンズが合焦駆動位置にある場合に撮像された左眼用及び右眼用の画像のシフト量を、該合焦距離に存在する被写体についての像ずれ量が0となるように決定するものとする。しかしながら、シフト量の決定方法はこれに限らず、デジタルカメラ100との距離が所定距離である被写体についての像ずれ量をシフト量の決定基準としてもよい。具体的には、焦点レンズが合焦駆動位置にある場合に撮像された左眼用及び右眼用の画像をシフト量に応じてシフトさせた場合に、所定距離である被写体についての像ずれ量(第1の像ずれ量)と、焦点レンズが基準駆動位置にある場合の像ずれ量(第2の像ずれ量)との差分が、観測者に立体感の変化による不快感を与えないとみなせる、予め定められた視差変化の範囲内に収まるようにシフト量を決定してもよい。
(シフト量決定処理)
以下、S404で行われるシフト量決定処理の具体的な処理内容について、図6のフローチャートを用いて詳細に説明する。
S601で、制御部101は、S401で決定した焦点レンズの駆動位置(合焦駆動位置)を示す情報と、予め定められた基準駆動位置を示す情報とを、RAM103より読み出してシフト量決定部111に伝送する。また制御部101は、S402で決定した絞り値の情報を、同様にRAM103より読み出してシフト量決定部111に伝送する。なお、基準駆動位置を示す情報は、上述したようにAF動作が生じる前の焦点レンズの駆動位置の情報が、例えば撮影処理の実行前に制御部101によってRAM103に格納されるものとする。
S602で、シフト量決定部111は制御部101の制御のもと、焦点レンズが基準駆動位置にある場合の合焦距離Xの情報をROM102より取得する。上述したように本実施形態では、焦点レンズの駆動位置に対応付けて、該駆動位置における合焦面とデジタルカメラ100との距離を示す情報が、合焦距離管理テーブルとしてROM102に記憶されているものとする。
S603で、シフト量決定部111は制御部101の制御のもと、焦点レンズが合焦駆動位置にある場合のデフォーカス量と左眼用及び右眼用の画像間における像ずれ量との関係式のパラメータ(比例係数K及び過焦点オフセットH)をROM102より取得する。図7(a)に実線701で示されるように、左眼用及び右眼用の画像間における被写体の像ずれ量(コンバージェンス方向を正、ダイバージェンス方向を負とする)は、デジタルカメラ100からの距離の逆数であるデフォーカス量Dと比例関係にある。即ち、デフォーカス量Dと像ずれ量Cとの関係式は
D=K×C+H (C=(D−H)/K)
として示すことができる。
なお、同様に焦点レンズが基準駆動位置にある場合のデフォーカス量Dと像ずれ量Cとの関係は、図7(b)の実線710のようになる。このとき、焦点レンズが基準駆動位置にある場合の合焦距離Xの逆数であるデフォーカス量1/Xにおいて、像ずれ量が0となる。
また、比例係数Kは、撮像光学系104の絞り値によって変化する、撮像光学系104特有の値であるため、本実施形態ではROM102に絞り値に対応付けて記憶されているものとするが、比例係数Kの取得方法はこれに限らない。例えば予備撮影時等において本撮影の絞り値で、2つの焦点レンズの駆動位置について撮像を行い、得られた画像の像ずれ量c、焦点レンズの2つの駆動位置の距離d、及び過焦点オフセットHを用いて
K=(d−H)/c
として算出してもよい。
S604で、シフト量決定部111は、焦点レンズが合焦駆動位置にある場合に撮像された左眼用及び右眼用の画像の少なくともいずれかの画像のシフト量を決定し、決定したシフト量の情報を制御部101に伝送する。具体的にはシフト量決定部111は、S603で得られた焦点レンズが合焦駆動位置にある場合のデフォーカス量Dと像ずれ量Cとの関係式を用いて、S602で焦点レンズが基準駆動位置にある場合の合焦距離Xにおける像ずれ量Cを取得する。このとき取得される像ずれ量Cは、合焦距離Xに存在する被写体についての、焦点レンズが合焦駆動位置に歩い場合に撮像された左眼用及び右眼用の画像間における像ずれ量を示している。即ち、該像ずれ量Cの正負を反転させた値をシフト量とすることで、図7(a)に破線702で示されるような、焦点レンズが基準駆動位置にある場合と同一の立体感を観測者に知覚させるように左眼用及び右眼用の画像を表示することができる。
このようにシフト量決定処理によりシフト量を決定した後、制御部101は処理をS405に移す。
S405で、制御部101は、S403で生成された記録用の左眼用及び右眼用の画像データをRAM103より取得し、画像関連情報に決定したシフト量を含め、画像関連情報と画像データとを含む画像ファイルを記録媒体114に記録する。
S406で、制御部101は、撮影開始を示すSW2信号を受信しているか否かを判断する。制御部101は、SW2信号を受信していると判断した場合は処理をS401に戻し、受信していないと判断した場合は本連写撮影処理を完了する。
このようにすることで、連続的に撮像を行って得られた立体視用の画像を連続的に再生する場合に観測者に不快感を与えないよう、知覚する立体感が一定になる左眼用及び右眼用の画像を提示するための情報を画像ファイルに含めることができる。
<再生処理>
ここで、上述した連写撮影処理において得られた、連続的に撮影された画像を、デジタルカメラ100の閲覧モードにおいてユーザ(観測者)が閲覧する場合の再生処理について、図8のフローチャートを用いて具体的な処理を説明する。該フローチャートに対応する処理は、制御部101が、例えばROM102に記憶されている対応する処理プログラムを読み出し、RAM103に展開して実行することにより実現することができる。なお、本再生処理は、例えばデジタルカメラ100のモードが閲覧モードに切り替えられた際に開始されるものとして説明する。
なお、本実施形態では、連写撮影処理において得られた画像を、閲覧モードで閲覧する場合を例にとって説明するが、本再生処理は例えば連写撮影中に表示部113に表示されるライブビュー画面、あるいは外部機器において該画像を再生する場合に適用可能である。
S801で、制御部101は、デジタルカメラ100が備える不図示の画像送りボタンがユーザにより操作されたか否かを判断する。具体的には制御部101は、画像送りボタンが操作されることによって出力される、画像送り操作がなされたことを示す制御信号を受信したか否かを判断する。制御部101は、画像送り操作がなされたと判断した場合は処理をS802に移し、なされていないと判断した場合は本ステップの処理を繰り返す。
S802で、制御部101は、現在設定されている再生順において次に再生する画像ファイルを、記録媒体114より読み出す。なお、現在設定されている再生順及び現在再生している画像ファイルの情報は例えばRAM103に記憶されているものとし、制御部101は該情報を参照することにより、次に再生する画像ファイルを特定するものとする。
S803で、制御部101は、読み出した画像ファイルに含まれる画像データが両眼立体視用の画像データであるか否かを判断する。具体的には制御部101は、例えば読み出した画像ファイルのヘッダ部に該画像ファイルに含まれる画像データが両眼立体視用の画像データであることを示す情報が含まれているか否かにより、画像ファイルに含まれる画像データが両眼立体視用の画像データであるか否かを判断する。制御部101は、次に再生する画像ファイルに含まれる画像データが両眼立体視用の画像データであると判断した場合は処理をS804に移し、両眼立体視用の画像データではない(モノラル画像)であると判断した場合は処理をS807に移す。
S804で、制御部101は、次に再生する画像ファイルの画像関連情報にシフト量の情報が含まれているか否かを判断する。制御部101は、画像関連情報にシフト量の情報が含まれている判断した場合は処理をS805に移し、含まれていないと判断した場合は処理をS806に移す。
S805で、制御部101は、次に再生する画像ファイルの画像関連情報からシフト量の情報を読み出し、該シフト量に応じて左眼用及び右眼用の画像データをシフトさせて、表示部113に立体視可能に表示させる。具体的には制御部101は、左眼用及び右眼用の画像データ、及びシフト量の情報を画像シフト部112に伝送し、左眼用及び右眼用の画像データをシフト量分だけシフトさせる。そして制御部101は、得られたシフト後の左眼用及び右眼用の画像データを表示部113に伝送し、立体視可能に表示させ、処理をS801に戻す。
S804で次に再生する画像ファイルの画像関連情報にシフト量の情報が含まれていないと判断した場合、制御部101はS806で、次に再生する画像ファイルに含まれる左眼用及び右眼用の画像データを、シフトさせずに表示部113に伝送する。そして制御部101は、表示部113に該画像データを立体視可能に表示させ、処理をS801に戻す。
またS803で次に再生する画像ファイルに含まれる画像データが両眼立体視用の画像データではないと判断した場合、制御部101はS807で、該画像データを表示部113に伝送し、立体視ではない通常の表示方法で表示させ、処理をS801に戻す。なお、このとき表示部113の表示方式が立体視用に設定されている場合は、制御部101は画像ファイルに含まれる1つの画像データを左眼用及び右眼用の画像データとして、シフトせずに表示部113に表示させればよい。
このようにすることで、上述した連写撮影処理において連続的に撮影されて得られた立体視用の画像を、シフト量に応じてシフトさせて表示することができる。即ち、該画像を連続的に切り替えて再生する場合であっても、観測者が知覚する立体感を一定にすることで、観測者に与える不快感を低減して再生することができる。
なお、上述した説明では連写撮影処理及び再生処理について説明したが、本発明の実施はこれに限られるものではない。本発明は、例えば動画撮影やライブビュー画面の表示等、連続的に撮像を行って得られた立体視用の画像を連続的に再生することが想定される撮像装置あるいは再生装置に適用可能である。即ち、本発明は、立体視用の画像を連続的に観測者に提示する場合に、左眼用の画像及び右眼用の画像の少なくともいずれかのシフト量を調整することで、観測者に与える不快感を低減することを実現するものである。
また本実施形態では、絶対的なシフト量の値を画像関連情報に含めて記録するものとして説明したが、シフト量の記録方法についてはこれに限られない。例えば動画データ等の場合は直前のフレームのシフト量に対する相対的な値としてシフト量の値を含めるようにしてもよい。
また本実施形態では再生処理において、画像シフト部112で画像のシフトのみを行って表示するものとして説明したが、実際は撮像光学系104の変化による像倍率の変化に合わせて画像シフト画像シフト部112で拡大縮小処理を行ってもよい。この拡大縮小処理に利用される拡大縮小率は、撮像光学系104に固有であることが多いため、予めROM102等に記憶しておくことが望ましい。
以上説明したように本実施形態の撮像装置は、1つの撮像光学系の異なる射出瞳を通過した光束から生成された両眼立体視用の画像を、観測者に与える不快感を低減して提示することができる。具体的には撮像装置は、左眼用及び右眼用の画像が撮像された際の焦点レンズの駆動位置である合焦駆動位置を示す情報を取得する。そして、焦点レンズが該合焦駆動位置にある場合に撮像された左眼用の画像及び右眼用の画像の少なくともいずれかの画像についてのシフト量を決定し、左眼用及び右眼用の画像と関連付けて記録する。このときシフト量は、撮像装置との距離が所定距離である被写体について、シフト後の該画像間における第1の像ずれ量と、焦点レンズが予め定められた基準駆動位置にある場合に得られる左眼用及び右眼用の画像間における第2の像ずれ量との差分が所定の範囲に収まるように決定される。
[実施形態2]
なお、上述した実施形態1では撮影して得られた画像は、左眼用及び右眼用の画像の少なくともいずれかの画像についてのシフト量の情報が画像関連情報に含められて画像ファイルとして記録されるものとして説明した。即ち、実施形態1では、左眼用及び右眼用の画像を撮像した際に、該画像を記録する処理の途中でシフト量決定処理を実行してシフト量を決定し、画像とともにファイルに記録するものとして説明した。本実施形態では、実施形態1の連写撮影処理等の、撮影して得られた立体視用の画像の記録時ではなく、立体視用の画像を再生する際に、シフト量決定処理を実行する態様について説明する。
なお、以下の説明では、連続的に撮影された立体視用の画像を記録した各画像ファイルに、少なくとも撮影時の焦点レンズの駆動位置を示す情報が、画像関連情報に含められて記録されているものとして説明する。
<再生処理>
以下、上述した実施形態1と同様の構成のデジタルカメラ100において、連続的に撮影された画像をデジタルカメラ100の閲覧モードにおいてユーザ(観測者)が閲覧する場合の再生処理について、図9のフローチャートを用いて具体的な処理を説明する。該フローチャートに対応する処理は、制御部101が、例えばROM102に記憶されている対応する処理プログラムを読み出し、RAM103に展開して実行することにより実現することができる。なお、本再生処理は、例えばデジタルカメラ100のモードが閲覧モードに切り替えられた際に開始されるものとして説明する。
なお、本再生処理において、上述した実施形態1の再生処理と同様の処理を行うステップについては同一の参照番号を付して説明を省略し、本実施形態に特徴的なステップの説明に留める。
S803において次に再生する画像ファイルに含まれる画像データが両眼立体視用の画像データであると判断した場合、制御部101は処理をS901に移す。S901で、制御部101は、次に再生する画像ファイルに含まれる両眼立体視用の画像データを撮影時の焦点レンズの駆動位置(合焦駆動位置X)を示す情報が、該画像ファイルの画像関連情報に含まれるか否かを判断する。制御部101は、画像関連情報に合焦駆動位置Xを示す情報が含まれていると判断した場合は処理をS902に移し、含まれていないと判断した場合は処理をS806に移す。
S902で、制御部101は、予め定められた基準駆動位置Xを示す情報をRAM103より読み出す。そして制御部101は、S901で取得した合焦駆動位置Xと、予め設定された基準駆動位置Xとの差分ΔX(=X−X)を算出する。
なお本実施形態では、基準駆動位置を示す情報は、現在設定されている再生順で再生を行った場合に、合焦駆動位置を示す情報が含まれていない画像ファイルから含まれている画像ファイルの再生に切り替わった際に、制御部101が該合焦駆動位置を基準駆動位置としてRAM103に格納するものとして説明する。しかしながら基準駆動位置を示す情報の格納方法はこれに限られるものではない。基準駆動位置を示す情報は、例えば画像ファイルに含まれているものであってもよい。また基準駆動位置を示す情報は、例えば動画ファイルや連写撮影により得られたことが関連付けられている画像ファイル群の場合は、該ファイルの先頭のフレームあるいは画像ファイルの合焦駆動位置を利用してもよい。またユーザにより好みの値が設定可能である等、基準駆動位置を示す情報は、その実施形態によって定められたルールで格納されてよい。
S903で、制御部101は、合焦駆動位置Xと基準駆動位置Xとの差分ΔXが、焦点レンズが基準駆動位置にある場合の合焦距離に存在する被写体について像ずれ量を0にするか否かを決定する閾値以上であるか否かを判断する。
上述した実施形態1では、焦点レンズが基準駆動位置にある場合の合焦距離に存在する被写体について、焦点レンズが合焦駆動位置にある場合に撮影された左眼用及び右眼用の画像間における像ずれ量を0にすることで、観測者に一定の立体感を知覚させるものとして説明した。しかしながら、基準駆動位置と合焦駆動位置との差が大きくなるにつれ、一定の立体感を観測者に知覚させるためには、焦点レンズが合焦駆動位置にある場合に撮影された左眼用及び右眼用の画像の少なくともいずれかの画像をシフトさせるシフト量は大きくなる。即ち、シフト量が大きくなるにつれて、左眼用及び右眼用の画像を立体視可能に表示した場合に、2つの画像が重なる領域が小さくなるため、結果的に観測者に対して撮像された画像よりも限定的な範囲のみが立体視可能に提示されることになる。
このため、撮影された左眼用及び右眼用の画像の大きさに対して、立体視可能に表示される領域が小さくなりすぎないように、該領域の最低画素数が定められることが望ましい。つまり、シフト後の左眼用及び右眼用の画像を表示部113に立体視可能に表示した場合に、立体視可能に表示される領域の画素数が最低画素数に満たないようなシフト量を除外する。
本実施形態では合焦駆動位置と基準駆動位置との差分に応じて、焦点レンズが合焦駆動位置にある場合に撮影された左眼用及び右眼用の画像を表示部113に立体視可能に表示する際のシフト量の算出方法を切り替える。本実施形態のデジタルカメラ100では、撮像光学系104の絞り値と基準駆動位置との組み合わせに対応付けて、焦点レンズの駆動位置と基準駆動位置との差分についての閾値がROM102に記憶されているものとする。該閾値は、焦点レンズが基準駆動位置にある場合の合焦距離に存在する被写体について、焦点レンズが合焦駆動位置にある場合に撮影された左眼用及び右眼用の画像間の像ずれ量を0とした場合に、シフト後に両眼立体視可能に表示される領域の画素数が最低画素数以下にならない値に設定される。
なお、本実施形態では、絞り値と基準駆動位置との組み合わせについて閾値が設定されるものとして説明するが、閾値の設定方法はこれに限らない。閾値は例えば絞り値や基準駆動位置に依らず固定値であってもよいし、合焦駆動位置と基準駆動位置の差分が正負のいずれであるかによって異なる値が設定されてもよい。
本ステップでは制御部101は、合焦駆動位置Xと基準駆動位置Xとの差分ΔXが、現在の撮像光学系104の状態について予め定められた閾値ΔXmax以上であるか否かを判断する。制御部101は、合焦駆動位置と基準駆動位置との差分が閾値以上である場合は処理をS904に移し、閾値未満である場合は処理をS905に移す。
S904で、制御部101は、例えばRAM103に記憶されている、基準駆動位置の調整を行う必要があることを示すフラグ(CH_FLG)の値を1に変更する。即ち、S903において合焦駆動位置と基準駆動位置との差が閾値以上であると判断された場合は、焦点レンズが基準駆動位置にある場合の合焦距離に存在する被写体についての像ずれ量が0となるようにシフト量を決定してしまうと、立体視可能に表示される領域の画素数が最小画素数を下回ってしまう。このため本実施形態では、複数組の左眼用及び右眼用の画像を表示部113に順次出力する間に、基準駆動位置を段階的に合焦駆動位置に近づけるように変更することで、立体視可能に表示される領域の画素数を増やす。また所定数Nの画像の送り操作がなされた後、あるいは所定数Nのフレームの再生がなされた所定時間経過後に基準駆動位置が合焦駆動位置となるようにすることで、新たな基準駆動位置について、観測者に一定の立体感を提示できるようにする。例えば動画データ等で撮影中にAF動作が生じる場合、過去の基準駆動位置を使い続けることは立体視可能な領域を限定することになりうるため、本実施形態では制御部101は、基準駆動位置を合焦駆動位置に応じて変更する。なお、所定数Nは、基準駆動位置を変更することにより観測者に知覚される立体感の変化が、観測者に不快感を与えないとみなせる視差変化の範囲に収まる値に決定されるものとする。
本ステップにおいて制御部101は、基準駆動位置の調整を行う必要があることを示すフラグが1になったことを判断時の合焦駆動位置Xと基準駆動位置Xとの差分ΔXを、基準駆動位置を変更するためのパラメータΔXとしてRAM103に記憶する。また制御部101は、所定数Nの画像の送り操作がなされた後に基準駆動位置が合焦駆動位置となるように、画像送り操作をカウントするためのRAM103に記憶されている内部変数nを1に設定する。
S905で、制御部101は、RAM103に記憶されている、基準駆動位置の調整を行う必要があることを示すフラグを参照し、該フラグの値が1であるか否かを判断する。制御部101は、フラグの値が1であると判断した場合は処理をS906に移し、値が0であると判断した場合は処理をS912に移す。
S906で、制御部101は、基準駆動位置Xに新たな値を設定する。本実施形態では基準駆動位置の調整を行う必要があることを示すフラグが1になってから所定数Nの画像の送り操作がなされた後に基準駆動位置Xが合焦駆動位置Xとなるように、以下の式で基準駆動位置Xを順次変更する。
=X+ΔX×n/N
S907で、制御部101は、合焦駆動位置Xと、S906で決定した新たな基準駆動位置Xについてシフト量決定処理を行なって、シフト量を決定する。なお、本実施形態では両眼立体視用の画像の撮影を行なったデジタルカメラ100の再生処理であるため、シフト量決定処理の各パラメータはROM102あるいはRAM103より取得可能である。これに対し、外部機器において再生処理が実行される場合は、各パラメータは例えば画像ファイルの画像関連情報に含められていてもよいし、再生装置の不揮発性メモリ等に予め決められていればよい。
S908で、制御部101は、RAM103に記憶されている内部変数をインクリメントし、カウント数を1つ上昇させる。さらに制御部101はS909で、nが所定数Nを超えたか否かを判断する。制御部101は、nが所定数Nを超えたと判断した場合は処理をS910に移し、超えていないと判断した場合は処理をS911に移す。
S910で、制御部101は、所定数Nの画像送り操作がなされたため、RAM103に記憶されている、基準駆動位置の調整を行う必要があることを示すフラグの値を0に変更する。
S911で、制御部101は、決定されたシフト量に応じて、次に再生する画像ファイルに含まれる左眼用及び右眼用の画像をシフトさせて表示部113に立体視可能に表示させる。具体的には制御部101は、左眼用及び右眼用の画像データ、及びシフト量の情報を画像シフト部112に伝送し、左眼用及び右眼用の画像データをシフト量分だけシフトさせる。そして制御部101は、得られたシフト後の左眼用及び右眼用の画像データを表示部113に伝送し、立体視可能に表示させ、処理をS801に戻す。
またS905で基準駆動位置の調整を行う必要があることを示すフラグの値が0であると判断された場合、制御部101はS912で、現在の合焦駆動位置Xと基準駆動位置Xとについてシフト量決定処理を行なってシフト量を決定する。そして制御部101はシフト量が決定した後、処理をS911に移す。
このようにすることで、画像ファイルに含まれる合焦駆動位置の情報を使用することで、撮影して得られた立体視用の画像の記録時ではなく、立体視用の画像を再生する際にシフト量を決定して、適切な立体感を観測者に知覚させる画像を提示することができる。
さらに本実施形態では、シフト後の左眼用及び右眼用の画像を表示部113に立体視可能に表示した場合に、立体視可能に表示される領域の画素数が最低画素数に満たなくなることを防ぐために、基準駆動位置を順に変化させる方法について説明した。しかしながら該方法は、画像ファイルの画像関連情報に焦点レンズの合焦駆動位置を示す情報が含まれる場合に限らず適用可能である。例えば、上述した実施形態1のように撮影して得られた立体視用の画像についてシフト量を決定する際にも適用可能であることは容易に理解されよう。
[その他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。

Claims (16)

  1. 撮像光学系の射出瞳の異なる領域を通過した光束の各々を撮像し、左眼用及び右眼用の画像を出力する撮像手段と、
    前記撮像手段により左眼用及び右眼用の画像が撮像された際の焦点レンズの駆動位置である合焦駆動位置を示す情報を取得する取得手段と、
    前記焦点レンズが前記合焦駆動位置にある場合に撮像された左眼用の画像及び右眼用の画像の少なくともいずれかの画像についてのシフト量であって、撮像装置との距離が所定距離である被写体について、シフト後の該画像間における第1の像ずれ量と、前記焦点レンズが予め定められた基準駆動位置にある場合に得られる左眼用及び右眼用の画像間における第2の像ずれ量との差分が所定の範囲に収まるシフト量を、前記合焦駆動位置を示す情報に基づいて決定する決定手段と、
    前記決定手段により決定された前記シフト量と、前記焦点レンズが前記合焦駆動位置にある場合に撮像された左眼用及び右眼用の画像とを関連付けて記録する記録手段と、
    を有することを特徴とする撮像装置。
  2. 前記決定手段は、前記合焦駆動位置と前記基準駆動位置との差が閾値以上である場合、前記合焦駆動位置との差が小さくなる値に前記基準駆動位置を変更して前記シフト量を決定することを特徴とする請求項1に記載の撮像装置。
  3. 前記決定手段は、前記撮像手段により連続して撮像が行われる場合、前記基準駆動位置の値を順次変更することで、前記合焦駆動位置と前記基準駆動位置との差が閾値以上であると判断してから所定時間経過後に前記基準駆動位置を前記判断時の前記合焦駆動位置と等しくすることを特徴とする請求項2に記載の撮像装置。
  4. 前記決定手段は、前記焦点レンズが前記合焦駆動位置にある場合に撮像された左眼用の画像及び右眼用の画像の少なくともいずれかの画像のシフト量を、該画像間において前記焦点レンズが前記基準駆動位置にある場合の合焦距離に存在する被写体の像ずれ量が0になる値に決定することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
  5. 前記焦点レンズを駆動させて前記撮像光学系の自動合焦動作を行う制御手段をさらに有し、
    前記基準駆動位置は、前記制御手段による自動合焦動作が行われるよりも前に撮像が行われた前記焦点レンズの駆動位置であることを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 1つの撮像光学系の射出瞳の異なる領域を通過した光束の各々を撮像して得られた左眼用及び右眼用の画像と、該画像が撮像された際の前記撮像光学系の焦点レンズの駆動位置である合焦駆動位置を示す情報とを取得する取得手段と、
    前記取得手段により取得された左眼用及び右眼用の画像の少なくともいずれかの画像のシフト量であって、該画像を撮像した撮像装置との距離が所定距離である被写体について、シフト後の該画像間における第1の像ずれ量と、前記焦点レンズが予め定められた基準駆動位置にある場合に前記撮像装置で得られる左眼用及び右眼用の画像間における第2の像ずれ量との差分が所定の範囲に収まるシフト量を、前記合焦駆動位置を示す情報に基づいて決定する決定手段と、
    前記取得手段により取得された左眼用及び右眼用の画像を前記決定手段により決定された前記シフト量に従ってシフトさせ、シフト後の前記左眼用及び右眼用の画像を両眼立体視可能な表示手段に出力する出力手段と、を有し、
    前記決定手段は、前記合焦駆動位置と前記基準駆動位置との差が閾値以上である場合、前記合焦駆動位置との差が小さくなる値に前記基準駆動位置を変更して前記シフト量を決定することを特徴とする再生装置。
  7. 前記決定手段は、前記撮像装置で連続して撮像された複数組の左眼用及び右眼用の画像を前記出力手段が前記表示手段に順次出力する場合、前記基準駆動位置の値を順次変更することで、前記合焦駆動位置と前記基準駆動位置との差が閾値以上であると判断してから所定時間経過後に前記基準駆動位置を前記判断時の前記合焦駆動位置と等しくすることを特徴とする請求項に記載の再生装置。
  8. 前記決定手段は、前記取得手段により取得された左眼用及び右眼用の画像間において前記焦点レンズが前記基準駆動位置にある場合の合焦距離に存在する被写体の像ずれ量が0になる値に前記シフト量を決定することを特徴とする請求項6または7に記載の再生装置。
  9. 焦点レンズを有する1つの撮像光学系を有する撮像装置の制御方法であって、
    前記撮像装置の撮像手段が、前記撮像光学系の射出瞳の異なる領域を通過した光束の各々を撮像し、左眼用及び右眼用の画像を出力する撮像工程と、
    前記撮像装置の取得手段が、前記撮像工程において左眼用及び右眼用の画像が撮像された際の前記焦点レンズの駆動位置である合焦駆動位置を示す情報を取得する取得工程と、
    前記撮像装置の決定手段が、前記焦点レンズが前記合焦駆動位置にある場合に撮像された左眼用の画像及び右眼用の画像の少なくともいずれかの画像についてのシフト量であって、前記撮像装置との距離が所定距離である被写体について、シフト後の該画像間における第1の像ずれ量と、前記焦点レンズが予め定められた基準駆動位置にある場合に得られる左眼用及び右眼用の画像間における第2の像ずれ量との差分が所定の範囲に収まるシフト量を、前記合焦駆動位置を示す情報に基づいて決定する決定工程と、
    前記撮像装置の記録手段が、前記決定工程において決定された前記シフト量と、前記焦点レンズが前記合焦駆動位置にある場合に撮像された左眼用及び右眼用の画像とを関連付けて記録する記録工程と、
    を有することを特徴とする撮像装置の制御方法。
  10. 再生装置の取得手段が、1つの撮像光学系の射出瞳の異なる領域を通過した光束の各々を撮像して得られた左眼用及び右眼用の画像と、該画像が撮像された際の前記撮像光学系の焦点レンズの駆動位置である合焦駆動位置を示す情報とを取得する取得工程と、
    前記再生装置の決定手段が、前記取得工程において取得された左眼用及び右眼用の画像の少なくともいずれかの画像のシフト量であって、該画像を撮像した撮像装置との距離が所定距離である被写体について、シフト後の該画像間における第1の像ずれ量と、前記焦点レンズが予め定められた基準駆動位置にある場合に前記撮像装置で得られる左眼用及び右眼用の画像間における第2の像ずれ量との差分が所定の範囲に収まるシフト量を、前記合焦駆動位置を示す情報に基づいて決定する決定工程と、
    前記再生装置の出力手段が、前記左眼用及び右眼用の画像の少なくともいずれかを、前記決定工程において決定された前記シフト量に従ってシフトさせ、シフト後の前記左眼用及び右眼用の画像を両眼立体視可能な表示手段に出力する出力工程と、を有し、
    前記決定手段は前記決定工程において、前記合焦駆動位置と前記基準駆動位置との差が閾値以上である場合、前記合焦駆動位置との差が小さくなる値に前記基準駆動位置を変更して前記シフト量を決定することを特徴とする再生装置の制御方法。
  11. 撮像光学系の射出瞳の異なる領域を通過した光束の各々を撮像し、左眼用及び右眼用の画像を出力する撮像手段と、
    前記撮像手段により左眼用及び右眼用の画像が撮像された際の焦点レンズの駆動位置である合焦駆動位置を示す情報を取得する取得手段と、
    前記焦点レンズが前記合焦駆動位置にある場合に撮像された左眼用の画像及び右眼用の画像の少なくともいずれかの画像についてのシフト量であって、撮像装置との距離が所定距離である被写体について、シフト後の該画像間における第1の像ずれ量と、前記焦点レンズが予め定められた基準駆動位置にある場合に得られる左眼用及び右眼用の画像間における第2の像ずれ量との差分が所定の範囲に収まるシフト量を、前記合焦駆動位置を示す情報に基づいて決定する決定手段と、
    前記取得手段により取得された左眼用及び右眼用の画像を前記決定手段により決定された前記シフト量に従ってシフトさせ、シフト後の前記左眼用及び右眼用の画像を両眼立体視可能な表示手段に出力する出力手段と、を有し、
    前記決定手段は、前記合焦駆動位置と前記基準駆動位置との差が閾値以上である場合、前記合焦駆動位置との差が小さくなる値に前記基準駆動位置を変更して前記シフト量を決定することを特徴とする撮像システム。
  12. コンピュータを、請求項1乃至5のいずれか1項に記載の撮像装置の各手段として機能させるためのプログラム。
  13. コンピュータを、請求項6乃至のいずれか1項に記載の再生装置の各手段として機能させるためのプログラム。
  14. 撮像システムに含まれる複数のコンピュータを、請求項1に記載の撮像システムの各手段として機能させるためのプログラム。
  15. 撮像光学系の射出瞳の異なる領域を通過した光束の各々が撮像された左眼用及び右眼用の画像と、該画像が撮像された際の前記撮像光学系の焦点レンズの駆動位置である合焦駆動位置を示す情報と、を取得する取得手段と、
    前記焦点レンズが前記合焦駆動位置にある場合に撮像された左眼用及び右眼用の画像の少なくともいずれかの画像についてのシフト量であって、該画像を撮像した撮像装置との距離が所定距離である被写体について、シフト後の該画像間における第1の像ずれ量と、前記焦点レンズが予め定められた基準駆動位置にある場合に得られる左眼用及び右眼用の画像間における第2の像ずれ量との差分が所定の範囲に収まるシフト量を、前記合焦駆動位置を示す情報に基づいて決定する決定手段と、
    前記決定手段により決定された前記シフト量と、前記焦点レンズが前記合焦駆動位置にある場合に撮像された左眼用及び右眼用の画像とを関連付けて記録する記録手段と、
    を有することを特徴とする画像処理装置。
  16. 画像処理装置の取得手段が、撮像光学系の射出瞳の異なる領域を通過した光束の各々が撮像された左眼用及び右眼用の画像と、該画像が撮像された際の前記撮像光学系の焦点レンズの駆動位置である合焦駆動位置を示す情報と、を取得する取得工程と、
    前記画像処理装置の決定手段が、前記焦点レンズが前記合焦駆動位置にある場合に撮像された左眼用及び右眼用の画像の少なくともいずれかの画像についてのシフト量であって、該画像を撮像した撮像装置との距離が所定距離である被写体について、シフト後の該画像間における第1の像ずれ量と、前記焦点レンズが予め定められた基準駆動位置にある場合に得られる左眼用及び右眼用の画像間における第2の像ずれ量との差分が所定の範囲に収まるシフト量を、前記合焦駆動位置を示す情報に基づいて決定する決定工程と、
    前記画像処理装置の記録手段が、前記決定工程において決定された前記シフト量と、前記焦点レンズが前記合焦駆動位置にある場合に撮像された左眼用及び右眼用の画像とを関連付けて記録する記録工程と、
    を有することを特徴とする画像処理装置の制御方法。
JP2011255430A 2011-11-22 2011-11-22 撮像装置、再生装置、その制御方法、撮像システム、及びプログラム Active JP5918982B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011255430A JP5918982B2 (ja) 2011-11-22 2011-11-22 撮像装置、再生装置、その制御方法、撮像システム、及びプログラム
US13/670,626 US9025011B2 (en) 2011-11-22 2012-11-07 Image capturing apparatus, playback apparatus, control method, image capturing system and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011255430A JP5918982B2 (ja) 2011-11-22 2011-11-22 撮像装置、再生装置、その制御方法、撮像システム、及びプログラム

Publications (2)

Publication Number Publication Date
JP2013109233A JP2013109233A (ja) 2013-06-06
JP5918982B2 true JP5918982B2 (ja) 2016-05-18

Family

ID=48426438

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011255430A Active JP5918982B2 (ja) 2011-11-22 2011-11-22 撮像装置、再生装置、その制御方法、撮像システム、及びプログラム

Country Status (2)

Country Link
US (1) US9025011B2 (ja)
JP (1) JP5918982B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104641626B (zh) * 2012-09-19 2018-02-27 富士胶片株式会社 摄像装置及对焦确认显示方法
CN105074528B (zh) * 2013-03-29 2017-07-18 富士胶片株式会社 摄像装置及对焦控制方法
JP6438671B2 (ja) * 2014-04-10 2018-12-19 オリンパス株式会社 焦点調節装置、カメラシステム、および撮像装置の焦点調節方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6384859B1 (en) * 1995-03-29 2002-05-07 Sanyo Electric Co., Ltd. Methods for creating an image for a three-dimensional display, for calculating depth information and for image processing using the depth information
WO1997037582A1 (en) * 1996-04-03 1997-10-16 Street Graham S B Apparatus and method for stereoscopic endoscopy
WO1998003021A1 (en) * 1996-06-28 1998-01-22 Sri International Small vision module for real-time stereo and motion analysis
JPH10286217A (ja) * 1997-04-11 1998-10-27 Olympus Optical Co Ltd 硬性鏡の視野変換システム
DE19926559A1 (de) * 1999-06-11 2000-12-21 Daimler Chrysler Ag Verfahren und Vorrichtung zur Detektion von Objekten im Umfeld eines Straßenfahrzeugs bis in große Entfernung
US7050646B2 (en) * 1999-12-10 2006-05-23 British Telecommunications Public Limited Company Image processing system and method for image segmentation using intensity contrast and depth contrast values
KR100378988B1 (ko) * 2000-10-27 2003-04-08 한국과학기술연구원 반도체 패키지의 삼차원 시각 검사방법
JP2002374542A (ja) * 2001-06-15 2002-12-26 Olympus Optical Co Ltd ステレオディジタルカメラ
JP3809359B2 (ja) * 2001-10-18 2006-08-16 キヤノン株式会社 立体撮像レンズ装置および立体撮像システム
WO2004093467A1 (ja) * 2003-04-17 2004-10-28 Sharp Kabushiki Kaisha 3次元画像作成装置、3次元画像再生装置、3次元画像処理装置、3次元画像処理プログラムおよびそのプログラムを記録した記録媒体
JP2006208407A (ja) * 2005-01-24 2006-08-10 Olympus Medical Systems Corp 立体画像観察用顕微鏡システム
EP2762972B1 (en) * 2006-02-13 2020-04-08 Midmark Corporation Monocular three-dimensional imaging
US20080205791A1 (en) * 2006-11-13 2008-08-28 Ramot At Tel-Aviv University Ltd. Methods and systems for use in 3d video generation, storage and compression
KR101345303B1 (ko) * 2007-03-29 2013-12-27 삼성전자주식회사 스테레오 또는 다시점 영상의 입체감 조정 방법 및 장치
US8400493B2 (en) * 2007-06-25 2013-03-19 Qualcomm Incorporated Virtual stereoscopic camera
JP2011211381A (ja) * 2010-03-29 2011-10-20 Fujifilm Corp 立体撮像装置
JP2011215498A (ja) * 2010-04-01 2011-10-27 Sony Corp 撮像装置
US20110242355A1 (en) * 2010-04-05 2011-10-06 Qualcomm Incorporated Combining data from multiple image sensors
TW201200959A (en) * 2010-06-29 2012-01-01 Fujifilm Corp One-eyed stereo photographic device

Also Published As

Publication number Publication date
US9025011B2 (en) 2015-05-05
US20130128006A1 (en) 2013-05-23
JP2013109233A (ja) 2013-06-06

Similar Documents

Publication Publication Date Title
JP5595499B2 (ja) 単眼立体撮像装置
WO2012011341A1 (ja) 撮像装置、その制御方法およびプログラム
JP5814692B2 (ja) 撮像装置及びその制御方法、プログラム
JP5788518B2 (ja) 単眼立体撮影装置、撮影方法及びプログラム
JP5420075B2 (ja) 立体画像再生装置、その視差調整方法、視差調整プログラム、及び撮影装置
JP2013150362A (ja) 単眼立体撮像装置及びその制御方法
JP5449551B2 (ja) 画像出力装置、方法およびプログラム
US10574906B2 (en) Image processing apparatus and image processing method
JP4989788B2 (ja) 立体画像表示制御装置およびその動作制御方法
JP5918982B2 (ja) 撮像装置、再生装置、その制御方法、撮像システム、及びプログラム
JP5580486B2 (ja) 画像出力装置、方法およびプログラム
JP5571257B2 (ja) 画像処理装置、方法およびプログラム
US9106898B2 (en) Image capturing apparatus, control method thereof and recording medium
JP6057627B2 (ja) 立体画像撮像装置、カメラシステム、立体画像撮像装置の制御方法、プログラム、記憶媒体
JP5860251B2 (ja) 撮像装置及びその制御方法、プログラム
JP2011030123A (ja) 撮像装置、撮像装置の制御方法、及びコンピュータプログラム
JP2012015620A (ja) 立体撮像装置
US20130120374A1 (en) Image processing device, image processing method, and image processing program
JP5222718B2 (ja) 立体画像再生装置、立体画像再生プログラム、撮像装置
JP2012129697A (ja) 画像表示装置、画像表示方法及びそれらを用いた撮像装置
JP2013005061A (ja) 画像生成装置及び表示制御装置及びそれらの制御方法、及び撮像装置
JP2010226320A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150806

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150828

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151022

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160311

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160411

R151 Written notification of patent or utility model registration

Ref document number: 5918982

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151