JP2010200024A - 立体画像表示装置および立体画像表示方法 - Google Patents
立体画像表示装置および立体画像表示方法 Download PDFInfo
- Publication number
- JP2010200024A JP2010200024A JP2009042989A JP2009042989A JP2010200024A JP 2010200024 A JP2010200024 A JP 2010200024A JP 2009042989 A JP2009042989 A JP 2009042989A JP 2009042989 A JP2009042989 A JP 2009042989A JP 2010200024 A JP2010200024 A JP 2010200024A
- Authority
- JP
- Japan
- Prior art keywords
- image
- display
- captured
- thumbnail
- detection area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Abstract
【課題】サムネイル画像が一覧表示されたときには後の本画像の立体表示で立体視するための注目領域を予め一目で判別することができ、本画像が立体表示されたときには立体視を即座に認識することができること。
【解決手段】
複数の視点で撮像された撮像画像を立体表示する前に、前記撮像画像から生成されたサムネイル画像を一覧で表示するモニタ24と、前記一覧中の前記サムネイル画像を選択する選択指示が入力される操作部112と、選択指示が入力されて前記撮像画像を立体表示するときに、選択された前記サムネイル画像に対応する複数視点の前記撮像画像を、前記撮像画像中の特定対象の検出領域にて互いに位置合わせする視差量調整部74と、前記特定対象の前記検出領域を示す検出領域情報をサムネイル画像中に付加する画像表示制御部82を備えた。
【選択図】図6
【解決手段】
複数の視点で撮像された撮像画像を立体表示する前に、前記撮像画像から生成されたサムネイル画像を一覧で表示するモニタ24と、前記一覧中の前記サムネイル画像を選択する選択指示が入力される操作部112と、選択指示が入力されて前記撮像画像を立体表示するときに、選択された前記サムネイル画像に対応する複数視点の前記撮像画像を、前記撮像画像中の特定対象の検出領域にて互いに位置合わせする視差量調整部74と、前記特定対象の前記検出領域を示す検出領域情報をサムネイル画像中に付加する画像表示制御部82を備えた。
【選択図】図6
Description
本発明は、複数の視点で撮像された画像を立体表示する立体画像表示装置および立体画像表示方法に関する。
複数の視点で撮像された画像を立体表示する装置が知られている(例えば特許文献1〜3を参照)。
特許文献1には、複数の視点で同時に撮像された2次元画像を表示装置に表示させて、ユーザが2次元画像間のずれを少なくするように操作を行うことが記載されている。
特許文献2には、複数の視点の画像に対して外部からレーザ光を照射して、照射点を対応点として3次元表示することが記載されている。
特許文献3には、立体表示の際に枠を表示することが記載されている。同一の枠信号を立体映像信号に合成することで、枠を常に画面の周辺に表示する。
また、高解像度で再生表示可能な画像(本画像)が複数枚存在する場合、まず、縮小したサムネイル画像を一覧で表示し、その一覧中のサムネイル画像をユーザに選択させて、選択されたサムネイル画像に対応する本画像を表示する技術が知られている。
サムネイル画像を一覧表示した後に本画像を立体表示する場合、ユーザは、サムネイル画像が一覧表示されたときには、後の本画像の立体表示で立体視するための注目領域を予め一目で判別することができず、本画像が立体表示されたときになってはじめて、立体視できるように注目領域や視差がある領域を注意して探す必要がある。つまり、本画像の立体表示時に立体視を即座に認識することができないという課題がある。
また、従来は、複数視点の画像の対応点を得るために、レーザ光源等の特殊な素子を必要とするか、あるいは、ユーザに対応付け操作を求める必要があった。対応点検出のための新たな画像処理等を行う方策も考えられるが、その処理が煩雑、時間を要する、正確な対応点検出が難しい、などの問題がある。また、立体表示時に注目領域を示す枠を表示する方策もあるが、立体表示の観賞の邪魔になるという課題がある。
また、サムネイル画像は小さいので、立体表示時の注目領域をユーザに対して示すことが容易でないという課題もある。
また、ユーザは、どの画像が立体表示され、どの画像が立体表示されないかを、サムネイル画像の一覧表示の際に予め知ることができないので、立体表示時にユーザに違和感を与えるという課題もある。
また、立体表示時に複数視点の撮像画像間の位置合わせを行う場合、位置合わせ済画像を外部の記録媒体に保存しようとすると、表示動作に遅延を生じさせるという課題もある。
また、撮影ごとに複数視点の撮像画像間の位置合わせを行う場合、シャッタ操作による撮影処理に遅延を生じさせるという課題もある。
特許文献1〜3には、上記課題および上記課題を解決するための構成が記載されていない。
なお、特許文献1記載の構成では、撮像された2枚の2次元画像を表示させ、ユーザが位置合わせする部分を自分で見つけて2次元画像間のずれを少なくするように操作する必要があり、対応付けが煩雑、時間を要する、正確な対応付けが難しい等の欠点がある。
また、特許文献2記載の構成では、レーザ光源のような外付け素子が必要であるため、機器の製造コストが上昇する、取り付けスペースが必要なため機器が大型化する、レーザー光が到達しない場合には対応点検出が不可能等の欠点がある。
また、特許文献3には、立体表示の際に枠が表示されるから立体感を強調することが出来ると記載されている。しかし、枠を常に画面の周辺に位置するように合成して表示することから、立体視するための注目領域の位置が任意に変化する場合、ユーザに真の立体視を体感させることは、実際には困難である。また、枠表示を画像に合成して表示することが必須である以上は、画像によっては枠が立体表示観賞の邪魔になる場合がでてくる。
本発明はこのような事情に鑑みてなされたもので、サムネイル画像が一覧表示されたときには後の本画像の立体表示で立体視するための注目領域を予め一目で判別することができ、本画像が立体表示されたときには立体視を即座に認識することができる立体画像表示装置および立体画像表示方法を提供することを目的とする。
前記目的を達成するために、請求項1の発明は、複数の視点で撮像された撮像画像を立体表示する前に、前記撮像画像から生成されたサムネイル画像を一覧で表示する表示手段と、前記一覧中の前記サムネイル画像を選択する選択指示が入力される指示入力手段と、前記選択指示が入力されて前記撮像画像を立体表示するときに、選択された前記サムネイル画像に対応する複数視点の前記撮像画像を、前記撮像画像中の特定対象の検出領域にて互いに位置合わせする位置合わせ手段と、前記特定対象の前記検出領域を示す検出領域情報を前記サムネイル画像中に付加する表示制御手段と、を備えることを特徴とする立体画像表示装置を提供する。
これによれば、サムネイル画像の一覧表示の際には、特定対象の検出領域を視認させる検出領域情報が付加されたサムネイル画像が表示され、複数視点の撮像画像(本画像)の立体表示の際には、特定対象の検出領域にて互いに位置合わせされた複数視点の撮像画像が立体表示されるので、ユーザは、サムネイル画像が一覧表示されたときには、後の本画像の立体表示で立体視するための注目領域を予め一目で判別することができる。よって、本画像が立体表示されたときには、即座に立体視できる。
また、特定対象の検出領域にて複数視点の撮像画像間で位置合わせが行われるので、レーザ光源等の特殊な素子を必要とせず、且つ、ユーザに対応付け操作を求めることがなく、且つ、特定対象の検出結果を用いることで対応点検出のための新たな処理が不要になって位置合わせを短時間で行うことができ、且つ、誤差が少ない対応点検出が可能になる。また、本画像の立体表示時の枠の合成表示は必須でないので、観賞の邪魔にならないようにすることが可能になる。
請求項2の発明は、前記表示制御手段は、前記サムネイル画像に前記検出領域を示す枠を重ね合わせることを特徴とする。
これによれば、前記サムネイル画像に前記検出領域を示す枠を重ね合わせることで、注目領域をユーザに対して容易に示すことができる。
請求項3の発明は、前記表示制御手段は、前記サムネイル画像中の前記検出領域の輝度を上げることで、前記検出領域をハイライト表示することを特徴とする。
これによれば、前記サムネイル画像中の前記検出領域の輝度を上げることで、注目領域をユーザに対して容易に示すことができる。
請求項4の発明は、前記表示制御手段は、立体表示する前記撮像画像に対応する前記サムネイル画像には前記検出領域情報を付加し、立体表示しない前記撮像画像に対応する前記サムネイル画像には前記検出領域情報を付加しないことを特徴とする。
これによれば、ユーザは、どの画像が立体表示され、どの画像が立体表示されないかを、サムネイル画像の一覧表示の際に予め知ることができるので、立体表示されたときにはユーザに違和感を与えることがなく、また、ユーザに立体表示されるという期待感を与えることができる。
請求項5の発明は、前記撮像画像中の前記検出領域内の色および前記検出領域周辺の色に基づいて、前記検出領域情報の表示色を決定する表示色決定手段を備え、前記表示制御手段は、決定された表示色で前記検出領域情報を表示することを特徴とする。
これによれば、サムネイル画像における特定対象の検出領域を、視認性良くユーザに認識させることができる。
請求項6の発明は、前記指示入力手段に前記選択指示が入力されたときには、前記選択指示に従って選択された前記サムネイル画像に対応した前記撮像画像であって前記位置合わせ手段により位置合わせされた前記撮像画像を内部メモリに記憶し、前記指示入力手段に前記撮像画像の表示終了指示が入力されたときには、前記内部メモリに記憶された位置合わせ済の前記撮像画像を一括して外部の記録媒体に記録する記録制御手段を備えることを特徴とする。
これによれば、表示中には短時間で位置合わせ済画像を一時的に保存して表示動作に支障を与えないようにすることができる。また、最終的には外部の記録媒体に位置合わせ済の撮像画像が記録されるので、例えばプリント処理等の後処理を行う場合に、記録媒体中の位置合わせ済画像を利用することで、その処理時間の短縮が可能となる。
請求項7の発明は、複数視点で撮像を行う撮像手段と、前記撮像手段により撮像を行うとともに前記撮像画像の記録を行う際に、前記位置合わせ手段による前記撮像画像間の位置合わせを行わず、前記撮像画像を立体表示するときに、前記位置合わせ手段による前記撮像画像間の位置合わせを行う実行制御手段と、を備えることを特徴とする。
これによれば、撮影の際に複数視点の撮像画像間の位置合わせを行わないので、シャッタ操作による撮影処理に遅延を生じさせることがない。
請求項8の発明は、立体表示可能な表示手段を用い、複数の視点で撮像された撮像画像を立体表示する前に、前記撮像画像から生成されたサムネイル画像を一覧で表示する立体画像表示方法であって、前記撮像画像中の特定対象の検出領域を示す検出領域情報が付加された前記サムネイル画像を前記表示手段により一覧で表示するステップと、前記一覧中の前記サムネイル画像を選択する選択指示が入力されるステップと、前記選択指示が入力されて前記撮像画像を立体表示するとき、選択された前記サムネイル画像に対応する複数視点の前記撮像画像を、前記撮像画像中の前記検出領域にて互いに位置合わせするステップと、前記検出領域にて互いに位置合わせされた複数視点の前記撮像画像を、前記表示手段により立体表示するステップと、を備えることを特徴とする立体画像表示方法。
本発明によれば、サムネイル画像が一覧表示されたときには後の本画像の立体表示で立体視するための注目領域を予め一目で判別することができ、本画像が立体表示されたときには立体視を即座に認識することができる。
また、特定対象の検出領域にて複数視点の撮像画像間で位置合わせが行われるので、レーザ光源等の特殊な素子を必要とせず、且つ、ユーザに対応付け操作を求めることがなく、且つ、特定対象の検出結果を用いることで対応点検出のための新たな処理が不要になって位置合わせを短時間で行うことができ、且つ、誤差が少ない対応点検出が可能になる。また、本画像の立体表示時の枠の合成表示は必須でないので、観賞の邪魔にならないようにすることが可能になる。
また、請求項2の発明によれば、前記サムネイル画像に前記検出領域を示す枠を重ね合わせることで、注目領域をユーザに対して容易に示すことができる。
また、請求項3の発明によれば、前記サムネイル画像中の前記検出領域の輝度を上げることで、注目領域をユーザに対して容易に示すことができる。
また、請求項4の発明によれば、ユーザは、どの画像が立体表示され、どの画像が立体表示されないかを、サムネイル画像の一覧表示の際に予め知ることができるので、立体表示されたときにはユーザに違和感を与えることがなく、また、ユーザに立体表示されるという期待感を与えることができる。
また、請求項5の発明によれば、サムネイル画像における特定対象の検出領域を、視認性良くユーザに認識させることができる。
また、請求項6の発明によれば、表示中には短時間で位置合わせ済画像を一時的に保存して表示動作に支障を与えないようにすることができる。また、最終的には外部の記録媒体に位置合わせ済の撮像画像が記録されるので、例えばプリント処理等の後処理を行う場合に、記録媒体中の位置合わせ済画像を利用することで、その処理時間の短縮が可能となる。
また、請求項7の発明によれば、撮影の際に複数視点の撮像画像間の位置合わせを行わないので、シャッタ操作による撮影処理に遅延を生じさせることがない。
以下、添付図面に従って、本発明の実施形態について、詳細に説明する。
図1は、本発明を適用したデジタルカメラの外観構成を示す正面斜視図である。図2は、本発明を適用したデジタルカメラの外観構成を示す背面斜視図である。
本実施形態のデジタルカメラ10は、複数(図1では二つを例示)の撮像手段(撮像系ともいう)を備えたデジタルカメラ(本発明の複眼デジタルカメラに相当)であって、同一被写体を複数視点(図1では左右二つの視点を例示)から撮影可能となっている。
なお、本実施形態では、説明の便宜のため二つの撮像手段を例示しているが、本発明は、三つ以上の撮像手段であっても同様に適用可能である。なお、撮像手段(主として撮影レンズ14R、14L)の配置は、水平方向に沿った横一列でなくてもよく、二次元的に配置されていてもよい。立体撮影又はマルチ視点や全方向の撮影でもよい。
デジタルカメラ10のカメラボディ12は、矩形の箱状に形成されており、その正面には、図1に示すように、一対の撮影レンズ14R、14L、ストロボ16等が設けられている。また、カメラボディ12の上面には、シャッタボタン18、電源/モードスイッチ20、モードダイヤル22等が設けられている。
一方、カメラボディ12の背面には、図2に示すように、モニタ24、ズームボタン26、十字ボタン28、MENU/OKボタン30、DISPボタン32、BACKボタン34、縦撮り/横撮り切替ボタン36等が設けられている。
また、図示されていないが、カメラボディ12の底面には、三脚ネジ穴、開閉自在なバッテリカバー等が設けられており、バッテリカバーの内側には、バッテリを収納するためのバッテリ収納室、メモリカードを装着するためのメモリカードスロット等が設けられている。
左右一対の撮影レンズ14R、14Lは、それぞれ沈胴式のズームレンズで構成されており、マクロ撮影機能(近接撮影機能)を有している。この撮影レンズ14R、14Lは、それぞれデジタルカメラ10の電源をONすると、カメラボディ12から繰り出される。なお、撮影レンズにおけるズーム機構や沈胴機構、マクロ撮影機構については、公知の技術なので、ここでは、その具体的な構成についての説明は省略する。
ストロボ16は、キセノン管で構成されており、暗い被写体を撮影する場合や逆光時などに必要に応じて発光される。
シャッタボタン18は、いわゆる「半押し」と「全押し」とからなる二段ストローク式のスイッチで構成されている。デジタルカメラ10は、静止画撮影時(例えば、モードダイヤル22で静止画撮影モード選択時、又はメニューから静止画撮影モード選択時)、このシャッタボタン18を半押しすると撮影準備処理、すなわち、AE(Automatic Exposure:自動露出)、AF(Auto Focus:自動焦点合わせ)、AWB(Automatic White Balance:自動ホワイトバランス)の各処理を行い、全押すると、画像の撮影・記録処理を行う。また、動画撮影時(例えば、モードダイヤル22で動画撮影モード選択時、又はメニューから動画撮影モード選択時)、このシャッタボタン18を全押すると、動画の撮影を開始し、再度全押しすると、撮影を終了する。なお、設定により、シャッタボタン18を全押している間、動画の撮影を行い、全押しを解除すると、撮影を終了するようにすることもできる。なお、静止画撮影専用のシャッタボタン及び動画撮影専用のシャッタボタンを設けるようにしてもよい。
電源/モードスイッチ20は、デジタルカメラ10の電源スイッチとして機能するとともに、デジタルカメラ10の再生表示モードと撮影モードとを切り替える切替手段として機能し、「OFF位置」と「再生位置」と「撮影位置」の間をスライド自在に設けられている。デジタルカメラ10は、この電源/モードスイッチ20を「再生位置」に位置させると、再生表示モードに設定され、「撮影位置」に位置させると、撮影モードに設定される。また、「OFF位置」に位置させると、電源がOFFされる。
モードダイヤル22は、撮影モードの設定に用いられる。このモードダイヤル22は、カメラボディ12の上面に回転自在に設けられており、図示しないクリック機構によって、「2D静止画位置」、「2D動画位置」、「3D静止画位置」、「3D動画位置」にセット可能に設けられている。
なお、本明細書にて、「2D」は2次元(つまり「平面」)を意味し、「3D」は3次元(つまり「立体」)を意味する。「2D静止画」は単一視点で撮像した静止画、すなわち平面表示のみ可能な静止画である。「2D動画」は単一視点で撮像した動画、すなわち平面表示のみ可能な動画である。「3D静止画」は複数視点で撮像した静止画、すなわち立体表示可能な静止画である。「3D動画」は複数視点で撮像した動画、すなわち立体表示可能な動画である。なお、「3D静止画」および「3D動画」は単一視点の画像のみ表示することで平面表示も可能である。
「2D静止画位置」および「2D動画位置」は、単一視点の撮像および記録(「2D撮影」ともいう)や平面表示(「2D表示」ともいう)を行う場合にセットする位置である。「3D静止画位置」および「3D動画位置」は、複数視点の撮像および記録(「3D撮影」ともいう)や立体表示(「3D表示」ともいう)を行う場合にセットする位置である。立体表示のしくみについては、後に詳説する。
デジタルカメラ10は、撮影モードにて、モードダイヤル22を「2D静止画位置」にセットすることにより、2Dの静止画を撮影する2D静止画撮影モードに設定され、2D/3Dモード切替フラグ168に、2Dモードであることを表すフラグが設定される。また、撮影モードにて、「2D動画位置」にセットすることにより、2Dの動画を撮影する2D動画撮影モードに設定され、2D/3Dモード切替フラグ168に、2Dモードであることを表すフラグが設定される。また、撮影モードにて、「3D静止画位置」にセットすることにより、3Dの静止画を撮影する3D静止画撮影モードに設定され、2D/3Dモード切替フラグ168に、3Dモードであることを表すフラグが設定される。さらに、撮影モードにて、「3D動画位置」にセットすることにより、3Dの動画を撮影する3D動画撮影モードに設定され、2D/3Dモード切替フラグ168に、3Dモードであることを表すフラグが設定される。
デジタルカメラ10は、再生表示モードにて、モードダイヤル22を「2D静止画位置」にセットすることにより、2Dの静止画を再生表示する2D静止画表示モードに設定され、2D/3Dモード切替フラグ168に、2Dモードであることを表すフラグが設定される。また、再生表示モードにて、「2D動画位置」にセットすることにより、2Dの動画を再生表示する2D動画表示モードに設定され、2D/3Dモード切替フラグ168に、2Dモードであることを表すフラグが設定される。また、再生表示モードにて、「3D静止画位置」にセットすることにより、3Dの静止画を再生表示する3D静止画表示モードに設定され、2D/3Dモード切替フラグ168に、3Dモードであることを表すフラグが設定される。さらに、再生表示モードにて、「3D動画位置」にセットすることにより、3Dの動画を再生表示する3D動画表示モードに設定され、2D/3Dモード切替フラグ168に、3Dモードであることを表すフラグが設定される。
後述するCPU110は、2D/3Dモード切替フラグ168を参照して、2Dモード又は3Dモードのいずれであるかを把握する。
モニタ24は、カラー液晶パネル等の表示装置である。このモニタ24は、撮影済み画像を表示するための画像表示部として利用されるとともに、各種設定時にGUIとして利用される。また、モニタ24は、撮影時には、各撮像素子134R/Lが継続的に捉えた画像(スルー画像)が順次表示し、電子ファインダとして利用される。
ズームボタン26は、撮影レンズ14R、14Lのズーム操作に用いられ、望遠側へのズームを指示するズームテレボタンと、広角側へのズームを指示するズームワイドボタンとで構成されている。
十字ボタン28は、上下左右4方向に押圧操作可能に設けられており、各方向のボタンには、カメラの設定状態に応じた機能が割り当てられる。本例にて、十字ボタン28は、モニタ24に一覧表示されたサムネイル画像の選択に用いられる。ユーザは、十字ボタン28を左右上下に動かすことで、モニタ24上で所望のサムネイル画像までたどり着く。また、例えば、撮影時には、左ボタンにマクロ機能のON/OFFを切り替える機能が割り当てられ、右ボタンにストロボモードを切り替える機能が割り当てられる。また、上ボタンにモニタ24の明るさを替える機能が割り当てられ、下ボタンにセルフタイマのON/OFFを切り替える機能が割り当てられる。また、再生時には、左ボタンにコマ送りの機能が割り当てられ、右ボタンにコマ戻しの機能が割り当てられる。また、上ボタンにモニタ24の明るさを替える機能が割り当てられ、下ボタンに再生中の画像を削除する機能が割り当てられる。また、各種設定時には、モニタ24に表示されたカーソルを各ボタンの方向に移動させる機能が割り当てられる。
MENU/OKボタン30は、メニュー画面の呼び出し(MENU機能)に用いられるとともに、選択内容の確定、処理の実行指示等(OK機能)に用いられ、デジタルカメラ10の設定状態に応じて割り当てられる機能が切り替えられる。本例では、十字ボタン28によりサムネイル画像を選択した後、MENU/OKボタン30を押すと、選択されたサムネイル画像に対応する本画像がモニタ24に表示される。
メニュー画面では、たとえば露出値、色合い、ISO感度、記録画素数などの画質調整やセルフタイマの設定、測光方式の切り替え、デジタルズームを使用するか否かなど、デジタルカメラ10が持つ全ての調整項目の設定が行われる。デジタルカメラ10は、このメニュー画面で設定された条件に応じて動作する。
DISPボタン32は、モニタ24の表示内容の切り替え指示等の入力に用いられ、BACKボタン34は入力操作のキャンセル等の指示の入力に用いられる。
本例では、モニタ24に本画像が表示された状態でBACKボタン34を押すと、サムネイル画像の一覧表示に戻るようになっている。
縦撮り/横撮り切替ボタン36は、縦撮り又は横撮りのいずれで撮影を行うかを指示するためのボタンである。
入出力コネクタ38は、外部との有線通信に用いられる。入出力コネクタ38を介してデジタルカメラ10に撮像済の画像を入力することが可能である。
図3は、立体表示(「3D表示」ともいう)が可能なモニタ24の構造例を説明するための説明図である。本例は、レンチキュラ方式であり、かまぼこ状のレンズ群を有したレンチキュラレンズが前面に配置されたモニタ24を用いる。
モニタ24の前面(観察者の視点(左眼EL、右眼ER)が存在するz軸方向)には、レンチキュラレンズ24aが配置されている。レンチキュラレンズ24aは、複数の円筒状凸レンズを図3中x軸方向に連ねることで構成されている。
モニタ24に表示される3D画像(3D静止画および3D動画)の表示領域は、左眼用短冊画像表示領域24Lと右眼用短冊画像表示領域24Rとから構成されている。左眼用短冊画像表示領域24L及び右眼用短冊画像表示領域24Rは、それぞれ画面の図3中のy軸方向に細長い短冊形状をしており、図3中のx軸方向に交互に配置される。
レンチキュラレンズ24aを構成する各凸レンズは、観察者の所与の観察点を基準として、それぞれ一組の左眼用短冊画像表示領域24L及び右眼用短冊画像表示領域24Rを含む各短冊集合画像表示領域24cに対応した位置に形成される。
図3では、観察者の左眼ELには、レンチキュラレンズ24aの光屈折作用により、モニタ24の左眼用短冊画像表示領域24Lに表示された左眼用短冊画像が入射される。また、観察者の右眼ERには、レンチキュラレンズ24aの光屈折作用により、モニタ24の右眼用短冊画像表示領域24Rに表示された右眼用短冊画像が入射される。したがって、観察者の左眼は左眼用短冊画像のみを、観察者の右眼は右眼用短冊画像のみを見ることになり、これら左眼用短冊画像の集合である左眼用画像及び右眼用短冊画像の集合である右眼用画像による左右視差により立体視が可能となる。
なお、立体表示のためのモニタ24の構造として、図3を用いてレンチキュラ方式を用いた場合を例に説明したが、本発明はレンチキュラ方式には特に限定されない。
例えば、左眼画像および右眼画像をそれぞれ画像の縦方向に細長く切り取った短冊状にして、交互に並べて表示するとともに、同様に縦方向に刻まれたスリットを通して画像を観察者に見せることで、観察者の左眼には左眼画像を、右眼には右眼画像をそれぞれ届ける、視差バリア(パララックスバリア)方式を用いてもよい。その他の空間分割方式であってもよい。
また、モニタ24を構成するLCD(液晶表示デバイス)の背面を照らすバックライトの方向を時分割で観察者の右眼方向および左眼方向に制御する光方向制御方式(時分割光方向制御バックライト方式ともいう)を用いてもよい。光方向制御方式は、豊岡健太郎,宮下哲哉,内田龍男,“時分割光方向制御バックライトを用いた三次元ディスプレイ”、2000年日本液晶学会討論会講演予稿集、pp.137-138(2000)や、特開2004‐20684号公報などに記載されている。特許第3930021号公報に記載された、いわゆるスキャンバックライト方式を用いてもよい。
左右の画像を交互に表示するとともに、画像分離メガネを使用させることで、画像を立体視させてもよい。
モニタ24は、例えば液晶表示デバイスや有機ELデバイスを用いる。自発光、あるいは別に光源があり光量を制御する方式であってもよい。また、偏光による方式やアナグリフ、裸眼式等、方式は問わない。また、液晶や有機ELを多層に重ねた方式でもよい。
次に、図1および図2に示したデジタルカメラ10による複数視点からの3D静止画撮影、および、3D静止画撮影により得られる3D静止画(左眼画像および右眼画像)について、図4および図5を用いて説明する。
図4(A)は,デジタルカメラ10により特定対象(「主要被写体」ともいう)として顔90を撮像している状況を模式的に示す。図4(B)は、上から見た様子を示す。図5(A)は、左眼用の撮影レンズ14Lを介して撮像素子134Lで撮像された左眼画像91L、および、右眼用の撮影レンズ14Rを介して撮像素子134Rで撮像された右眼画像91Rの一例を示す。これらの左眼画像91Lおよび右眼画像91Rに対して表示位置合わせ処理を何も行わないと、図5(B)に示すように、二重に見えるだけで、立体には見えない。撮影レンズ14L、14Rの光軸が交差する位置と、特定対象である顔90の位置とが一致することは稀である。
図4(C)に人の両目94L、94Rにより他人の顔90を注視した様子を模式的に示す。人の場合には、注視した顔90で両目94L、94Rの光軸が交差するように調整されることで、左眼画像と右眼画像とで顔90が一致しているように視認される。その一方で、顔90よりも遠くの対象を注目したとき、その注視した対象よりも近い顔90は、図5(B)に示すように。視差量dが存在して視認される。
図6は、図1及び図2に示したデジタルカメラ10の内部構成を示すブロック図である。なお、図1、図2に示した要素には同じ符号を付してあり、既に説明した内容については、その説明を省略する。
図6に示すように、本実施形態のデジタルカメラ10は、二つの撮像系それぞれから画像信号を取得できるように構成されており、CPU110、差分ベクトル算出部70、移動ベクトル算出部72、視差量調整部74、サムネイル画像生成部81、画像表示制御部82、表示色決定部84、記録制御部85、操作部112、ROM116、フラッシュROM118、SDRAM120、VRAM122(画像表示メモリ)、撮影レンズ14(14R、14L)、ズームレンズ制御部124(124R、124L)、フォーカスレンズ制御部126(126R、126L)、絞り制御部128(128R、128L)、撮像素子134(134R、134L)、撮像素子制御部136(136R、136L)、アナログ信号処理部138(138R、138L)、A/D変換器140(140R、140L)、画像入力コントローラ141(141R、141L)、デジタル信号処理部142(142R、142L)、AF検出部144、AE/AWB検出部146、特定対象検出部148、圧縮・伸張処理部152、メディア制御部154、メモリカード156、モニタ制御部158、電源制御部160、バッテリ162、ストロボ制御部164を含んで構成されている。
左眼用の撮像手段11Lは、主として、撮影レンズ14L、ズームレンズ制御部124L、フォーカスレンズ制御部126L、絞り制御部128L、撮像素子134L、撮像素子制御部136L、アナログ信号処理部138L、A/D変換器140L、画像入力コントローラ141L、デジタル信号処理部142L等から構成される。
右眼用の撮像手段11Rは、主として、撮影レンズ14R、ズームレンズ制御部124R、フォーカスレンズ制御部126R、絞り制御部128R、撮像素子134R、撮像素子制御部136R、アナログ信号処理部138R、A/D変換器140R、画像入力コントローラ141R、デジタル信号処理部142R等から構成される。
以下では、撮像手段11L、11Rにより被写体と撮像して得られるデジタルの画像データを、「撮像画像」という。また、左眼用の撮像手段11Lにより得られる撮像画像を「左眼画像」、右眼用の撮像手段11Rにより得られる撮像画像を「右眼画像」という。
CPU110は、撮影、表示、記録などカメラ全体の動作を統括制御する制御手段として機能し、操作部112からの入力に基づき所定の制御プログラムに従って各部を制御する。
操作部112は、図1および図2に示した、シャッタボタン18、電源/モードスイッチ20、モードダイヤル22、ズームボタン26、十字ボタン28、MENU/OKボタン30、DISPボタン32、BACKボタン34、縦撮り/横撮り切替ボタン36などを含む。
バス114を介して接続されたROM116には、このCPU110が実行する制御プログラム及び制御に必要な各種データ(後述するAE/AFの制御周期等)等が格納されており、フラッシュROM118には、ユーザ設定情報等のデジタルカメラ10の動作に関する各種設定情報等が格納されている。
SDRAM120は、CPU110の演算作業用領域として利用されるとともに、画像データの一時記憶領域として利用され、VRAM122は、表示用の画像データ専用の一時記憶領域として利用される。
左右一対の撮影レンズ14R、14L(まとめて撮影レンズ14と表すこともある)は、ズームレンズ130ZR、130ZL(まとめてズームレンズ130Zと表すこともある)、フォーカスレンズ130FR、130FL(まとめてフォーカスレンズ130Fと表すこともある)、絞り132R、132Lを含んで構成され、所定の間隔をもってカメラボディ12に配置されている。
ズームレンズ130ZR、130LRは、図示しないズームアクチュエータに駆動されて光軸に沿って前後移動する。CPU110は、ズームレンズ制御部124R、124Lを介してズームアクチュエータの駆動を制御することにより、ズームレンズの位置を制御し、撮影レンズ14R、14Lのズーミングを行う。
フォーカスレンズ130FR、130FLは、図示しないフォーカスアクチュエータに駆動されて光軸に沿って前後移動する。CPU110は、フォーカスレンズ制御部126R、126Lを介してフォーカスアクチュエータの駆動を制御することにより、フォーカスレンズの位置を制御し、撮影レンズ14R、14Lのフォーカシングを行う。
絞り132R、132Lは、たとえば、アイリス絞りで構成されており、図示しない絞りアクチュエータに駆動されて動作する。CPU110は、絞り制御部128R、128Lを介して絞りアクチュエータの駆動を制御することにより、絞り132R、132Lの開口量(絞り値)を制御し、撮像素子134R、134Lへの入射光量を制御する。
なお、CPU110は、この撮影レンズ14R、14Lを構成するズームレンズ130ZR、130ZL、フォーカスレンズ130FR、130FL、絞り132R、132Lを駆動する際、左右の撮影レンズ14R、14Lを同期させて駆動する。すなわち、左右の撮影レンズ14R、14Lは、常に同じ焦点距離(ズーム倍率)に設定され、常に同じ被写体にピントが合うように、焦点調節が行われる。また、常に同じ入射光量(絞り値)となるように絞りが調整される。
撮像素子134R、134Lは、所定のカラーフィルタ配列のカラーCCDで構成されている。CCDは、その受光面に多数のフォトダイオードが二次元的に配列されている。撮影レンズ14R、14LによってCCDの受光面上に結像された被写体の光学像は、このフォトダイオードによって入射光量に応じた信号電荷に変換される。各フォトダイオードに蓄積された信号電荷は、CPU110の指令に従って撮像素子制御部136R、136Lから与えられる駆動パルスに基づいて信号電荷に応じた電圧信号(画像信号)として撮像素子134R、134Lから順次読み出される。
なお、この撮像素子134R、134Lには、電子シャッタの機能が備えられており、フォトダイオードへの電荷蓄積時間を制御することにより、露光時間(シャッタ速度)が制御される。
なお、本実施の形態では、撮像素子としてCCDを用いているが、CMOSセンサ等の他の構成の撮像素子を用いることもできる。
アナログ信号処理部138R、138Lは、撮像素子134R、134Lから出力された画像信号に含まれるリセットノイズ(低周波)を除去するための相関二重サンプリング回路(CDS)、画像信号を増幅し、一定レベルの大きさにコントロールするためのAGS回路を含み、撮像素子134R、134Lから出力される画像信号を相関二重サンプリング処理するとともに増幅する。A/D変換器140R、140Lは、アナログ信号処理部138R、138Lから出力されたアナログの画像信号をデジタルの画像信号に変換する。画像入力コントローラ141R、141Lは、A/D変換器140R、140Lから出力された画像信号を取り込んで、SDRAM120に格納する。デジタル信号処理部142R、142Lは、CPU110からの指令に従いSDRAM120に格納された画像信号を取り込み、所定の信号処理を施して輝度信号Yと色差信号Cr、CbとからなるYUV信号を生成する。
デジタル信号処理部142R、142Lは、オフセット処理、ホワイトバランス調整処理、ガンマ補正処理、RGB補間処理、RGB/YC変換処理、ノイズ低減処理、輪郭補正処理、色調補正、光源種別判定処理等の各種のデジタル補正を行う。なお、デジタル信号処理部142(142R、142L)はハードウェア回路で構成してもよいし、同じ機能をソフトウェアにて構成してもよい。
AF検出部144は、一方の画像入力コントローラ141Rから取り込まれたR、G、Bの各色の画像信号を取り込み、AF制御に必要な焦点評価値を算出する。このAF検出部144は、G信号の高周波成分のみを通過させるハイパスフィルタ、絶対値化処理部、画面に設定された所定のフォーカスエリア内の信号を切り出すフォーカスエリア抽出部、及び、フォーカスエリア内の絶対値データを積算する積算部を含み、この積算部で積算されたフォーカスエリア内の絶対値データを焦点評価値としてCPU110に出力する。
CPU110は、AF制御時、このAF検出部144から出力される焦点評価値が極大となる位置をサーチし、その位置にフォーカスレンズ130FR、130FLを移動させることにより、主要被写体への焦点合わせを行う。すなわち、CPU110は、AF制御時、まず、フォーカスレンズ130FR、130FLを至近から無限遠まで移動させ、その移動過程で逐次AF検出部144から焦点評価値を取得し、その焦点評価値が極大となる位置を検出する。そして、検出された焦点評価値が極大の位置を合焦位置と判定し、その位置にフォーカスレンズ130FR、130FLを移動させる。これにより、フォーカスエリアに位置する被写体(主要被写体)にピントが合わせられる。
AE/AWB検出部146は、一方の画像入力コントローラ141Rから取り込まれたR、G、Bの各色の画像信号を取り込み、AE制御及びAWB制御に必要な積算値を算出する。すなわち、このAE/AWB検出部146は、一画面を複数のエリア(たとえば、8×8=64エリア)に分割し、分割されたエリアごとにR、G、B信号の積算値を算出する。
CPU110は、AE制御時、このAE/AWB検出部146で算出されたエリアごとのR、G、B信号の積算値を取得し、被写体の明るさ(測光値)を求めて、適正な露光量を得るための露出設定を行う。すなわち、感度、絞り値、シャッタ速度、ストロボ発光の要否を設定する。
また、CPU110は、AWB制御時、AE/AWB検出部146で算出されたエリアごとのR、G、B信号の積算値をデジタル信号処理部142のホワイトバランスゲイン算出回路及び光源種別判定回路に加える。ホワイトバランスゲイン算出回路は、このAE/AWB検出部146で算出された積算値に基づいてホワイトバランス調整用のゲイン値を算出する。また、光源種別判定回路は、このAE/AWB検出部146で算出された積算値に基づいて光源種を検出する。
圧縮・伸張処理部152は、CPU110からの指令に従い、入力された画像データに所定形式の圧縮処理を施し、圧縮画像データを生成する。また、CPU110からの指令に従い、入力された圧縮画像データに所定形式の伸張処理を施し、非圧縮の画像データを生成する。なお、本実施の形態のデジタルカメラ10では、静止画に対しては、JPEG規格に準拠した圧縮処理が施され、動画に対してはMPEG2規格に準拠した圧縮処理が施される。
メディア制御部154は、CPU110からの指令に従い、メモリカード156に対してデータの読み/書きを制御する。
モニタ制御部158は、CPU110からの指令に従い、モニタ24への表示を制御する。すなわち、CPU110からの指令に従い、入力された画像信号をモニタ24に表示するための映像信号(たとえば、NTSC信号やPAL信号、SCAM信号)に変換してモニタ24に出力するとともに、所定の文字、図形情報をモニタ24に出力する。
電源制御部160は、CPU110からの指令に従い、バッテリ162から各部への電源供給を制御する。
ストロボ制御部164は、CPU110からの指令に従い、ストロボ16の発光を制御する。
特定対象検出部148は、複数の視点で撮像された撮像画像のそれぞれにて特定対象(例えば顔)を検出し、各撮像画像における特定対象の検出枠の座標情報(検出領域の座標情報)を少なくとも有する検出枠情報を生成する。本例では、視点数が2つであり、左眼画像の検出枠の座標情報、および、右眼画像の検出枠の座標情報を有する検出枠情報が生成されて、SDRAM120に格納される。
ここで、顔は、顔らしさを示す評価値に基づいて、検出される。検出枠は、撮像画像中の顔領域の位置又は範囲を示す。図6のデジタルカメラ10では、一般のAF(自動焦点制御)やAE(自動露出制御)が困難な場合でも、顔を検出し、顔の検出領域でAFやAEを行うことによって、適切な合焦および露出がされた被写体像を得ることができる。また、顔が重要な撮影シーンでは、顔を検出し、その顔の検出領域に対し特有の補正(例えばユーザが選択した補正)を施す。また、撮像画像に検出枠を重ね合わせてモニタ24に表示させることで、ユーザはデジタルカメラ10が顔を検出したか否かを判断することができる。
差分ベクトル算出部70は、特定対象検出部148によって生成された検出枠情報を取得して、左眼画像の検出枠の代表座標と右眼画像の検出枠の代表座標との差分ベクトルを算出する。例えば、左眼画像の検出枠の中心座標と右眼画像の検出枠の中心座標との差分ベクトルを算出する。検出枠が四角形であって、検出枠の傾きおよびサイズが左眼画像と右眼画像とで同じである場合、4つのうちひとつの頂点の座標を代表座標として差分ベクトルを求めてもよい。
移動ベクトル算出部72は、後述の視差量調整部74にて左眼画像と右眼画像とで特定対象の視差量を調整するため、差分ベクトル算出部70により算出された差分ベクトルに基づいて、左眼画像の移動ベクトルおよび右眼画像の移動ベクトルのうち少なくとも一方を算出する。
視差量調整部74(位置合わせ手段)は、移動ベクトル算出部72により算出された移動ベクトルに従って、複数視点の撮像画像のうち少なくとも一方を移動させることで、複数視点の撮像画像間で特定対象の表示位置の差分を調整する。すなわち、特定対象の視差量を調整する。本例では、視点数が2つであり、画像処理により、モニタ24の表示画面上で左眼画像および右眼画像のうち少なくとも一方を移動させることで、モニタ24の表示画面における左眼画像の顔の表示位置と右眼画像の顔の表示位置とを一致させる位置合わせを行う。本例では、操作部112によって選択されたサムネイル画像に対応する複数視点の撮像画像を、撮像画像中の特定対象の検出領域(本例では顔部分)にて位置合わせする。実際には、VRAM122に左眼画像および右眼画像を書き込む際に位置合わせを行う。画像の移動により空白となるモニタ24の表示画素には、黒(もしくは白など)の画素値を設定する。例えば、左眼画像および右眼画像を共に差分ベクトルの1/2ずつ移動させることで、特定対象の表示位置を一致させる。
サムネイル画像生成部81は、各視点別の撮像画像(「本画像」ともいう)を間引き等により縮小して各視点別のサムネイル画像(「縮小画像」ともいう)を生成する。サムネイル画像生成部81は、具体的には、複数視点でそれぞれ撮像された撮像画像と、撮像画像における特定対象の検出枠の座標情報(検出領域の座標情報)とを、SDRAMから120から取得し、複数視点の撮像画像を間引き等によりそれぞれ縮小した複数視点のサムネイル画像と、サムネイル画像における特定対象の検出枠の座標情報(検出領域の座標情報)とを生成する。本例では、視点数が2つであり、左眼画像を縮小した左眼のサムネイル画像および右眼画像を縮小した右眼のサムネイル画像と、左眼のサムネイル画像の検出枠の座標情報および右眼のサムネイル画像の検出枠の座標情報とを生成する。なお、本例にて、サムネイル画像用の検出枠は、撮像画像における検出枠を間引き等により縮小して生成したものである。
画像表示制御部82は、撮像画像から生成されたサムネイル画像をモニタ24に一覧で表示させる制御を行う。また、画像表示制御部82は、複数視点のサムネイル画像のうち1つの視点のサムネイル画像に対して特定対象の検出枠を検出領域情報として重ね合わせる。すなわち、サムネイル画像中に検出枠を付加する。そして検出枠が付加されたサムネイル画像をモニタ24に表示させる。これにより、特定対象の検出領域を示す検出枠をユーザに視認させる。本例では、視点数が2つであり、左眼のサムネイル画像および右眼のサムネイル画像のうち一方に検出枠を重ね合わせて、その一方のサムネイル画像をモニタ24に表示させる。
なお、検出枠を重ね合わせる場合を例に説明したが、検出領域表示の態様はこのような場合に特に限定されない。サムネイル画像において特定対象(例えば顔)の検出領域(例えば顔部分)内の輝度を上げることで、検出領域をハイライト表示させてもよい。
また、画像表示制御部82は、操作部112によってサムネイル画像一覧からサムネイル画像が選択されたとき、選択されたサムネイル画像に対応する複数視点の撮像画像であって、視差量調整部74により特定対象の検出領域が位置合わせされた複数視点の撮像画像をモニタ24に立体表示させる制御を行う。本例では、視点数が2つであり、左眼画像および右眼画像を立体表示可能なモニタ25に表示させる。
表示色決定部84は、撮像画像のうち少なくとも検出枠周辺の色に基づいて、検出枠の表示色を決定する。ここで、表示色は、サムネイル画像表示時に検出枠をユーザが視認可能な色である。例えば、検出する特定対象が顔の場合、顔周辺の背景の色を検出し、検出した色と色相角が一定以上の色を検出枠の表示色に決定する。検出枠周辺の色と共に特定対象の色(本例では顔の肌色)にも基づいて、検出枠の表示色を決定する。例えば、肌色および背景色(例えば青)の両方と色相角が一定以上異なる色(例えば赤)を検出枠の表示色とする。
記録制御部85は、撮像画像、撮像画像の検出枠の座標情報、撮像画像を縮小したサムネイル画像、サムネイル画像の検出枠の座標情報、および、検出枠の表示色情報を、互いに関連付けて、メディア制御部154によりメモリカード156に記録する制御を行う。
図7は、メモリカード156に記録された画像ファイルの一例を示す。図7にて、画像ファイルは、各視点の画像ファイル(右眼画像ファイルおよび左眼画像ファイル)によって構成されている。各視点の画像ファイルは、それぞれ、ヘッダ情報、サムネイル画像、および、本画像(撮像画像)によって構成されている。ヘッダ情報には、撮像画像の検出枠の座標情報、サムネイル画像の検出枠の座標情報、および、検出枠の表示色情報が含まれる。
記録制御部85がサムネイル画像および検出枠の座標情報を撮像画像に関連付けて記録する態様は、図7に示す場合に特に限定されず、座標情報を画像とは別のファイルにして記録してもよい。この場合、例えば、ファイル名の一部を同一にする、同一のフォルダに格納する、などにより互いに関連付けする。
なお、図6にて、差分ベクトル算出部70、移動ベクトル算出部72、視差量調整部74、サムネイル画像生成部81、画像表示制御部82、表示色決定部84、記録制御部85、および、特定対象検出部148は、これらの全て或いは一部をCPU110により構成してもよいことは、勿論である。つまり、CPU110がプログラムに従ってソフトエウア処理を実行することにより上記各部の機能を実現するようにしてもよい。
図8は、本実施形態における撮影処理の一例の流れを示すフローチャートである。本処理は、プログラムに従い、図6に示すデジタルカメラ10のCPU110(実行制御手段)により実行される。なお、プログラムは、図6に示すデジタルカメラ10に限らず2視点以上で立体撮影可能な装置に共通なプログラムである。また、図6のデジタルカメラ10は静止画撮影および動画撮影の両方が可能であるが、以下では静止画撮影の場合を例に説明する。
ステップS10にて、撮影モードであるか否かを判定する。本例では、電源/モードスイッチ20が「撮影位置」に設定されているか否かを判定する。撮像モードである場合にはステップS11に進む。
ステップS11にて、2D静止画撮影モードおよび3D静止画撮影モードのうちいずれが選択されているかを検出する。本例では、モードダイヤル22が「3D静止画位置」および「2D静止画位置」のいずれに設定されているかを検出する。ステップS12にて、2D静止画撮影モードが選択されている場合にはステップS13に進み、3D静止画撮影モードが選択されている場合にはステップS23に進む。
まず、2D静止画撮影モードの場合について説明する。
ステップS13にて、2D/3Dモード切替フラグ168を2Dモード(2D静止画撮影モード)に切り替える。
ステップS14にて、撮像系の選択を行う。本例では、駆動対象として、2視点の撮像手段11L、11Rのうちいずれかを選択する。
ステップS15にて、選択された撮像手段の駆動を開始する。本例では、ふたつの撮像手段11L、11Rのうち一方の駆動を開始する。
ステップS17にて、操作部112に撮影指示が入力されたか否かを判定する。本例では、シャッタボタン18が全押しされたか否かを判定する。
シャッタボタン18が全押しされたとき、ステップS18にて、1視点の撮像画像を取得する。本例では、撮像手段11Lおよび11Rのうち一方により撮像画像(左眼画像または右眼画像)が生成されてSDRAM120に書き込まれる。サムネイル画像生成部81は、SDRAM120から撮像画像を取得する。
ステップS19にて、サムネイル画像生成部81により、撮像画像を縮小してサムネイル画像を生成する。
ステップS20にて、記録制御部85により、撮像画像と、サムネイル画像と、ヘッダ情報とを、メモリカード156に記録する。
ステップ21にて、撮影終了か否かを判定する。撮影が終了した場合にはステップS22に進む。
ステップS22にて、記録制御部85により、ヘッダ情報を更新する。ここで、撮影終了にて書き込むべきヘッダ情報が画像ファイルのヘッダに書き込まれる。
次に、3D静止画撮影モードの場合について説明する。
ステップS23にて、2D/3Dモード切替フラグ168を3Dモード(3D静止画撮影モード)に設定する。
ステップS24にて、視点数を設定する。本例では、2視点の撮像手段11L、11Rを備えるデジタルカメラ10であるので、視点数を「2」に設定する。
ステップS25にて、視点の選択を行う。本例では、駆動対象として、両方の撮像手段11R、11Lを選択する。
ステップS26にて、検出対象(特定対象)を設定する。例えば、顔を検出する場合、検出対象が顔であることを特定対象検出部148に設定する。
ステップS27にて、選択された撮像手段の駆動を開始する。本例では、ふたつの撮像手段11L、11Rの駆動を開始する。
ステップS28にて、操作部112に撮影指示が入力されたか否かを判定する。本例では、シャッタボタン18が全押しされたか否かを判定する。
シャッタボタン18が全押しされたとき、ステップS29にて、各視点別の撮像画像を取得する。本例では、撮像手段11Lおよび11Rにより撮像画像(左眼画像および右眼画像)が生成されてSDRAM120に書き込まれ、特定対象検出部148により各視点別の検出枠情報が生成されてSDRAM120に書き込まれる。サムネイル画像生成部81は、SDRAM120から撮像画像および検出枠情報を取得する。
ステップS30にて、各視点別にサムネイル画像を生成する。本例では、サムネイル画像生成部81により、左眼画像を縮小して左眼のサムネイル画像を生成するとともに、右眼画像を縮小して右眼のサムネイル画像を生成する。
ステップS31にて、各視点別にサムネイル画像の検出枠の座標情報を生成する。本例では、サムネイル画像生成部81により、左眼画像の検出枠の座標情報およびサムネイル画像生成時の縮小倍率に基づいて、左眼のサムネイル画像の検出枠の座標情報が生成されるとともに、右眼画像の検出枠の座標情報およびサムネイル画像生成時の縮小倍率に基づいて、右眼のサムネイル画像の検出枠の座標情報が生成される。
ステップS34にて、記録制御部85により、各視点別の撮像画像と、各視点別のサムネイル画像と、ヘッダ情報とを、メモリカード156に記録する。ここで、ヘッダ情報は、各視点別の撮像画像の検出枠の座標情報、各視点別のサムネイル画像の検出枠の座標情報を含む。
ステップS35にて、撮影終了か否かを判定する。例えば操作部112に撮影終了指示が入力されて、撮影が終了した場合にはステップS36に進む。
ステップS36にて、記録制御部85により、ヘッダ情報を更新する。本例では、表示色決定部84によりサムネイル画像の検出枠の表示色が決定され、記録制御部85により表示色情報が画像ファイルのヘッダ情報に書き込まれる。
図9は、再生表示処理の一例の流れを示すフローチャートである。本処理は、プログラムに従い、図6に示すデジタルカメラ10のCPU110(実行制御手段)により実行される。なお、プログラムは、図6に示すデジタルカメラ10に限らず立体表示可能な装置に共通のプログラムであり、3視点以上の撮像画像を立体表示可能な装置でも用いることができる。また、図6のデジタルカメラ10は静止画再生および動画再生の両方が可能であるが、以下では静止画再生の場合を例に説明する。
ステップS40にて、再生表示モードであるか否かを判定する。本例では、電源/モードスイッチ20が「再生位置」に設定されているか否かを判定する。再生表示モードである場合にはステップS41に進む。
ステップS41にて、3D静止画表示モードおよび2D静止画表示モードのうちいずれが選択されているかを検出する。本例では、モードダイヤル22が「3D静止画位置」および「2D静止画位置」のいずれに設定されているかを検出する。ステップS42にて、3D静止画表示モードが選択されている場合にはステップS43に進み、2D静止画表示モードが選択されている場合にはステップS55に進む。
3D静止画表示モードでは、3D撮影で得られた撮像画像が立体(3D)表示される。2D静止画表示モードでは、3D撮影モードで得られた撮像画像も2D表示される。つまり、2D静止画表示モードでは、複数撮像系のうち一つの撮像系で撮像された画像のみが表示される。すなわち、複数視点のうちひとつの視点で撮像された画像のみが表示される。
まず、3D静止画表示モードの場合について説明する。
ステップS43にて、2D/3Dモード切替フラグ168を3Dモード(3D静止画表示モード)に設定する。
ステップS44にて、サムネイル画像およびヘッダ情報を取得する。本例では、メモリカード156から取得される。3D撮影モードで得られた撮像画像である場合、ヘッダ情報は、サムネイル画像の検出枠の座標情報、および、検出枠の表示色情報を含む。
ステップS45にて、画像表示制御部82により、サムネイル画像一覧を表示する。
図10は、画像表示制御部82によってモニタ24に表示されるサムネイル画像一覧の表示例を示す。図10にて、第1のサムネイル画像201および第2のサムネイル画像202は、3D撮影モードで撮像された撮像画像(すなわち3D静止画表示モードで立体表示される撮像画像)を縮小したサムネイル画像であり、画像表示制御部82によってサムネイル画像用の検出枠210が重ね合わされて表示されている。第3のサムネイル画像203および第4のサムネイル画像204は、2D撮影モードで撮像された撮像画像(すなわち3D静止画表示モードで立体表示されない撮像画像)を縮小したサムネイル画像であり、画像表示制御部82によるサムネイル画像用の検出枠210の重ね合わせ(付加)は行われず、モニタ24に検出枠210は表示されない。
画像表示制御部82は、3D撮影モードで得られた撮像画像の場合(すなわち画像ファイルのヘッダ情報にサムネイル画像の検出枠の座標情報が存在する場合)には、サムネイル画像に検出枠を重ね合わせることで、検出枠付きのサムネイル画像を表示する。ここで、複数撮像系のうち一つの撮像系で得られたサムネイル画像、すなわち複数視点のうち1つの視点のサムネイル画像にのみ、検出枠を重ね合わせて表示する。その一方で、2D撮影モードで得られた撮像画像の場合(本例では画像ファイルのヘッダ情報にサムネイル画像の検出枠の座標情報が存在しない場合)には、検出枠が無いサムネイル画像を表示する。
ステップS46にて、操作部112によりユーザがサムネイル画像一覧からサムネイル画像を選択したか否かを判定する。選択されたときステップS47に進む。
ステップS47にて、選択されたサムネイル画像に対応する撮像画像を取得する。本例では、メモリカード156から撮像画像が取得される。
ステップS48にて、画像表示制御部82により、複数視点で撮像された撮像画像は3D(立体)表示され、1つの視点で撮影された撮像画像は2D表示される。3D表示では、視差量調整部74により、撮像画像の検出枠の座標情報に基づいて、複数視点の撮像画像間で顔検出領域にて互いに位置合わせを行う。
ステップS49にて、モニタ24に本画像を表示する。ここで、画像表示制御部82は、本画像表示の際には、検出枠を表示せずに、2枚の画像(左眼画像および右眼画像)を重ね合わせて表示する。例えば、図10に示すサムネル画像の一覧表示にて、符号201を付した検出枠210付きのサムネイル画像を選択した場合、図11に示すように検出枠無しの立体表示を行う。
図12に示すように、各視点別の撮像画像ファイル(右眼画像ファイルおよび左眼画像ファイル)とは別に、統合画像ファイルを作成してもよい。統合画像ファイルは、ヘッダ情報、および、1枚の統合画像(立体画像)を有する。右眼画像の一例を図13(A)に示し、左眼画像の一例を図13(B)に示し、統合画像の一例を図13(C)に示す。この場合、立体表示は、統合画像に基づいて行う。
ステップS54にて、表示終了か否かを判定する。例えば操作部112に表示終了指示が入力されて、表示が終了した場合には本処理を終了する。
次に、2D静止画表示モードの場合について説明する。
ステップS55にて、2D/3Dモード切替フラグ168を2Dモード(2D静止画表示モード)に設定する。
ステップS56にて、サムネイル画像をメモリカード156から取得する。
ステップS58にて、画像表示制御部82により、サムネイル画像一覧を表示する。画像表示制御部82は、3D撮影モードで得られた撮像画像でも、検出枠を重ね合わせることなく、サムネイル画像を表示する。
ステップS59にて、ユーザによりサムネイル画像一覧から特定のサムネイル画像が選択されたか否かを判定する。選択されたときステップS60に進む。
ステップS60にて、選択されたサムネイル画像に対応する撮像画像を取得する。本例では、メモリカード156から撮像画像が取得される。
ステップS60にて、画像表示制御部82により、3D撮影された撮像画像も2D撮影された撮像画像と同様に2D表示される。すなわち、2D表示では、複数視点の撮像画像でも、1視点から撮像した撮像画像のみが表示される。
ステップS61にて、表示終了か否かを判定する。例えば操作部112に表示終了指示が入力されて表示が終了した場合には本処理を終了する。
図8に示した撮影処理例では、撮影の際には、視差量調整部74による複数視点の撮像画像間の位置合わせを行わない。すなわち、左眼画像および右眼画像を特定対象の検出領域にて位置合わせする視差量調整を行わない。その一方で、図9に示した再生表示処理では、再生表示の際に、視差量調整部74による複数視点の撮像画像間の位置合わせを行う。すなわち、左眼画像および右眼画像を特定対象の検出領域にて位置合わせする視差量調整を行う(ステップS48)。
図14は、本実施形態における再生表示処理の他の例の流れを示すフローチャートである。本処理は、プログラムに従い、図6に示すデジタルカメラ10のCPU110(実行制御手段)により実行される。なお、プログラムは、図6に示すデジタルカメラ10に限らず2視点以上で立体撮影可能な装置に共通なプログラムである。また、図6のデジタルカメラ10は静止画撮影および動画撮影の両方が可能であるが、以下では静止画撮影の場合を例に説明する。
図14におけるステップS40〜S54は、図9に示したステップと同じである。
3D静止画表示モードでは、ステップS71にて、記録制御部85により、位置合わせ済の撮像画像がSDRAM120に保存される。すなわち、サムネイル画像一覧から選択されて、複数視点間で特定対象の検出領域にて位置合わせされた撮像画像が、内部メモリとしてのSDRAM120に記憶される。本例では、図13(C)に示すような統合画像として内部メモリに記憶される。
その後、表示終了の場合、ステップS72にて、操作部112により、位置合わせ済の撮像画像を外部の記録メディアとしてのメモリカード156に保存するか否かの選択を受け付ける。ステップS72にて保存が選択された場合、記録制御部85により、SDRAM120に記憶されていた位置合わせ済の撮像画像を、一括してメモリカード156に記録する。
なお、ステップS72にて、サムネイル画像一覧をモニタ24に表示し、ユーザがメモリカード156に保存する位置合わせ済撮像画像を選択可能にしてもよい。
未位置合わせの各視点ごとの撮像画像(右眼画像および左眼画像)と位置合わせ済の撮像画像(統合画像)との関連付けの方法には、各種ある。例えば、図12において、統合画像ファイルのヘッダ情報に、右眼画像ファイルおよび左眼画像ファイルと統合画像ファイルとを関連付ける関連情報を記録する。関連情報は、右眼画像ファイルおよび左眼画像ファイルと統合画像ファイルとを関連付ける情報であれば、どのような情報でもよい。
以上、図8〜図14を用いて、静止画の撮影処理および再生表示処理を行う場合を例に説明したが、本発明は、動画の撮影処理および再生表示処理を行う場合にも適用できる。動画の場合、サムネイル画像は、例えば、動画中の代表駒(代表フレーム)を縮小して生成する。
なお、本発明は、本明細書において説明した例や図面に図示された例には限定されず、本発明の要旨を逸脱しない範囲において、各種の設計変更や改良を行ってよいのはもちろんである。
10…デジタルカメラ、11(11R、11L)…撮像手段、24…モニタ、74…視差量調整部、81…サムネイル画像生成部、82…画像表示制御部、84…表示色決定部、85…記録制御部、110…CPU、120…SDRAM、134(134R、134L)…撮像素子、148…特定対象検出部、156…メモリカード
Claims (8)
- 複数の視点で撮像された撮像画像を立体表示する前に、前記撮像画像から生成されたサムネイル画像を一覧で表示する表示手段と、
前記一覧中の前記サムネイル画像を選択する選択指示が入力される指示入力手段と、
前記選択指示が入力されて前記撮像画像を立体表示するときに、選択された前記サムネイル画像に対応する複数視点の前記撮像画像を、前記撮像画像中の特定対象の検出領域にて互いに位置合わせする位置合わせ手段と、
前記特定対象の前記検出領域を示す検出領域情報を前記サムネイル画像中に付加する表示制御手段と、
を備えることを特徴とする立体画像表示装置。 - 前記表示制御手段は、前記サムネイル画像に前記検出領域を示す枠を重ね合わせることを特徴とする請求項1に記載の立体画像表示装置。
- 前記表示制御手段は、前記サムネイル画像中の前記検出領域の輝度を上げることで、前記検出領域をハイライト表示することを特徴とする請求項1に記載の立体画像表示装置。
- 前記表示制御手段は、立体表示する前記撮像画像に対応する前記サムネイル画像には前記検出領域情報を付加し、立体表示しない前記撮像画像に対応する前記サムネイル画像には前記検出領域情報を付加しないことを特徴とする請求項1ないし3のうちいずれか1項に記載の立体画像表示装置。
- 前記撮像画像中の前記検出領域内の色および前記検出領域周辺の色に基づいて、前記検出領域情報の表示色を決定する表示色決定手段を備え、
前記表示制御手段は、決定された表示色で前記検出領域情報を表示することを特徴とする請求項1ないし4のうちいずれか1項に記載の立体画像表示装置。 - 前記指示入力手段に前記選択指示が入力されたときには、前記選択指示に従って選択された前記サムネイル画像に対応した前記撮像画像であって前記位置合わせ手段により位置合わせされた前記撮像画像を内部メモリに記憶し、前記指示入力手段に表示終了指示が入力されたときには、前記内部メモリに記憶された位置合わせ済の前記撮像画像を一括して外部の記録媒体に記録する記録制御手段を備えることを特徴とする請求項1ないし5のうちいずれか1項に記載の立体画像表示装置。
- 複数視点で撮像を行う撮像手段と、
前記撮像手段により撮像を行うとともに前記撮像画像の記録を行う際に、前記位置合わせ手段による前記撮像画像間の位置合わせを行わず、前記撮像画像を立体表示するときに、前記位置合わせ手段による前記撮像画像間の位置合わせを行う実行制御手段と、
を備えることを特徴とする請求項1ないし6のうちいずれか1項に記載の立体画像表示装置。 - 立体表示可能な表示手段を用い、複数の視点で撮像された撮像画像を立体表示する前に、前記撮像画像から生成されたサムネイル画像を一覧で表示する立体画像表示方法であって、
前記撮像画像中の特定対象の検出領域を示す検出領域情報が付加された前記サムネイル画像を前記表示手段により一覧で表示するステップと、
前記一覧中の前記サムネイル画像を選択する選択指示が入力されるステップと、
前記選択指示が入力されて前記撮像画像を立体表示するとき、選択された前記サムネイル画像に対応する複数視点の前記撮像画像を、前記撮像画像中の前記検出領域にて互いに位置合わせするステップと、
前記検出領域にて互いに位置合わせされた複数視点の前記撮像画像を、前記表示手段により立体表示するステップと、
を備えることを特徴とする立体画像表示方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009042989A JP2010200024A (ja) | 2009-02-25 | 2009-02-25 | 立体画像表示装置および立体画像表示方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009042989A JP2010200024A (ja) | 2009-02-25 | 2009-02-25 | 立体画像表示装置および立体画像表示方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010200024A true JP2010200024A (ja) | 2010-09-09 |
JP2010200024A5 JP2010200024A5 (ja) | 2011-09-01 |
Family
ID=42824272
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009042989A Withdrawn JP2010200024A (ja) | 2009-02-25 | 2009-02-25 | 立体画像表示装置および立体画像表示方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010200024A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016106466A (ja) * | 2015-12-25 | 2016-06-16 | キヤノン株式会社 | 撮像装置およびその制御方法、並びに画像処理装置およびその制御方法 |
JP2017229075A (ja) * | 2017-07-13 | 2017-12-28 | キヤノン株式会社 | 画像処理装置およびその制御方法、撮像装置 |
-
2009
- 2009-02-25 JP JP2009042989A patent/JP2010200024A/ja not_active Withdrawn
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016106466A (ja) * | 2015-12-25 | 2016-06-16 | キヤノン株式会社 | 撮像装置およびその制御方法、並びに画像処理装置およびその制御方法 |
JP2017229075A (ja) * | 2017-07-13 | 2017-12-28 | キヤノン株式会社 | 画像処理装置およびその制御方法、撮像装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4692770B2 (ja) | 複眼デジタルカメラ | |
JP4662071B2 (ja) | 画像再生方法 | |
JP5425554B2 (ja) | 立体撮像装置及び立体撮像方法 | |
JP5640143B2 (ja) | 撮像装置及び撮像方法 | |
EP2590421B1 (en) | Single-lens stereoscopic image capture device | |
US20110018970A1 (en) | Compound-eye imaging apparatus | |
JP5166650B2 (ja) | 立体撮像装置、画像再生装置及び編集ソフトウエア | |
JP5269252B2 (ja) | 単眼立体撮像装置 | |
JP4763827B2 (ja) | 立体画像表示装置、複眼撮像装置及び立体画像表示プログラム | |
JP2010114760A (ja) | 撮影装置、指がかり通知方法およびプログラム | |
JP4730616B2 (ja) | 複眼デジタルカメラ | |
JP4991685B2 (ja) | 立体画像処理装置および立体画像処理方法 | |
JP5160460B2 (ja) | 立体撮像装置および立体撮像方法 | |
JP2011035643A (ja) | 多眼撮影方法および装置、並びにプログラム | |
JP2010237582A (ja) | 立体撮像装置および立体撮像方法 | |
JP2010103949A (ja) | 撮影装置、方法およびプログラム | |
JP2010204385A (ja) | 立体撮像装置および立体撮像方法 | |
JP5054214B2 (ja) | 複眼デジタルカメラ | |
JP2010200024A (ja) | 立体画像表示装置および立体画像表示方法 | |
JP2012124650A (ja) | 撮像装置および撮像方法 | |
WO2013031392A1 (ja) | 立体撮像装置 | |
JP5307189B2 (ja) | 立体画像表示装置、複眼撮像装置及び立体画像表示プログラム | |
JP5259367B2 (ja) | 立体画像表示装置および立体画像表示方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110720 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110801 |
|
A761 | Written withdrawal of application |
Free format text: JAPANESE INTERMEDIATE CODE: A761 Effective date: 20120328 |