JP5611469B2 - 立体撮像装置および方法 - Google Patents

立体撮像装置および方法 Download PDF

Info

Publication number
JP5611469B2
JP5611469B2 JP2013532488A JP2013532488A JP5611469B2 JP 5611469 B2 JP5611469 B2 JP 5611469B2 JP 2013532488 A JP2013532488 A JP 2013532488A JP 2013532488 A JP2013532488 A JP 2013532488A JP 5611469 B2 JP5611469 B2 JP 5611469B2
Authority
JP
Japan
Prior art keywords
focal length
value
optical system
aperture
stereoscopic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013532488A
Other languages
English (en)
Other versions
JPWO2013035427A1 (ja
Inventor
岩崎 洋一
洋一 岩崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2013532488A priority Critical patent/JP5611469B2/ja
Application granted granted Critical
Publication of JP5611469B2 publication Critical patent/JP5611469B2/ja
Publication of JPWO2013035427A1 publication Critical patent/JPWO2013035427A1/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/232Image signal generators using stereoscopic image cameras using a single 2D image sensor using fly-eye lenses, e.g. arrangements of circular lenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/236Image signal generators using stereoscopic image cameras using a single 2D image sensor using varifocal lenses or mirrors
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/02Stereoscopic photography by sequential recording
    • G03B35/06Stereoscopic photography by sequential recording with axial movement of lens or gate between exposures
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/18Stereoscopic photography by simultaneous viewing
    • G03B35/24Stereoscopic photography by simultaneous viewing using apertured or refractive resolving means on screens or between screen and eye
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/218Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/257Colour aspects

Description

本発明は立体撮像装置に係り、特に撮影光学系の異なる領域を通過した被写体像をそれぞれ撮像素子に結像させ、複数の視差画像からなる立体画像を取得する技術に関する。
特許文献1には、単眼の光学系の瞳位置に偏光軸が互いに直交する2つの偏光素子を配置し、これらの偏光素子を通過する光束をそれぞれ偏光ビームスプリッタにより分離し、それぞれ2つの撮像素子に入射させて2つの画像を撮像し、2つの画像の中の像の位相差を比較することで、位相差AFと同様にしてデフォーカス量を算出する測距装置が記載されている。
また、特許文献1には、2つの画像の撮像により立体撮像が可能になるという記載があり、特に瞳マスクのF値を変えることで、単眼の光学系で撮影される立体画像の立体感の調節を行うことができる記載がある(特許文献1の段落[0047])。
更に、特許文献1には、光学系のF値によって選択される3種類の瞳マスクが記載されており、各瞳マスクは、光学系の光軸からの距離が互いに異なる一対の開口を有している。そして、F値が小さい(明るい)場合は、光軸から最も離れた瞳領域を有する瞳マスクを使用することで、測距精度の維持を図り、F値が大きく(暗く)なるに従って周辺部から光束が制限されるので、一対の開口が光学系の光軸に近づく瞳マスクを選択している。また、これらの瞳マスクは、開放F値に合わせて選択し、焦点距離によってF値が変わる場合、焦点距離によって切り替えることにより、常時最適の焦点検出を可能にしている。
特許文献2には、瞳分割型位相差検出方式の焦点検出を行う焦点検出装置が記載されている。この焦点検出装置は、交換レンズの最大像面デフォーカス量は焦点距離に概略比例するので、焦点距離が所定値以上の場合に絞りを開放F値より暗いF値にして焦点検出を行うようにし、以下の場合には絞りを開放F値より暗いF値にして焦点検出を行うことを禁止したり、あるいは絞りを開放F値より暗いF値にして焦点検出を行う場合のF値を焦点距離に応じて調整するようにしている(特許文献2の段落[0053])。
【0006】
【特許文献1】特開2009−168995号公報
【特許文献2】特開2008−242182号公報
【発明の概要】
【発明が解決しようとする課題】
単眼の立体撮像装置において、撮影光学系の焦点距離を変えて画角の調整を行う場合、焦点距離の変化に応じて左右の視差画像の視差(立体感)が変化してしまい、画角の調整時に違和感が生じるという問題があり、また、ユーザが希望する立体感を有する視差画像を撮影することができないという問題がある。
特許文献1には、瞳マスクのF値を変えることで立体感の調節を行う記載があるが、具体的な立体感の調整に関する記載はない。尚、特許文献1には、3種類の瞳マスクから適宜の瞳マスクを選択しているが、この瞳マスクの選択は、最適な焦点検出を可能にするために行っており、立体感の調整のために行っていない。
また、特許文献2に記載の発明も適正な焦点検出を行うために絞りのF値を調整しているが、特許文献2に記載の撮像装置は、そもそも立体画像の撮影を行うものではない。
本発明はこのような事情に鑑みてなされたもので、撮影光学系の焦点距離を変化させたときに立体視用の視差画像の立体感を変化させないようにすることができる立体撮像装置および方法を提供することを目的とする。
この目的を達成するために本発明の一の態様に係る立体撮像装置は、焦点距離の調整が可能な単一の撮影光学系と、撮影光学系の異なる領域を通過した被写体像が瞳分割されてそれぞれ結像される撮像素子であって、異なる領域を通過した被写体像をそれぞれ光電変換して視差の異なる複数の視差画像を出力する撮像素子と、撮像素子に入射する光束を制限する絞りと、撮影光学系の焦点距離を調整する操作部と、操作部による撮影光学系の焦点距離を調整する前後で、撮影光学系の焦点距離に基づいて絞りのF値を制御する絞り制御手段と、を備え、絞り制御手段は、撮影光学系の焦点距離を調整する前後の焦点距離をそれぞれf1,f2、撮影光学系の焦点距離を調整する前の絞りのF値をFNo1とすると、撮影光学系の焦点距離の調整後の絞りのF値FNo2が、次式、
Figure 0005611469
に従って設定可能なF値になるように制御し、撮影光学系の焦点距離を調整する前後で撮像素子から出力される複数の視差画像の立体感を変化させないようにする
本発明の一の態様によれば、単一の撮影光学系を有する立体撮像装置において、撮影光学系の焦点距離を調整する前後の焦点距離f1,f2に基づいて[数1]式から算出される絞りのF値FNo2に近い設定可能なF値になるように絞りを制御するようにしている。上記[数1]式は、撮影光学系の焦点距離がf1からf2に変化した場合に、立体視用の視差画像の立体感を変化させないF値(FNo2)を算出する条件式である。上記[数1]式にしたがって絞りのF値を制御することにより、撮影光学系の焦点距離を変えて画角の調整を行う場合に、立体画像の立体感が変化せず、画角の調整時に違和感が生じることがない。また、撮影光学系の焦点距離にかかわらず、ユーザが希望する立体感を有する視差画像を撮影することが可能になる。
本発明の他の態様に係る立体撮像装置において、撮影光学系の焦点距離を検出する焦点距離検出手段、又は撮影光学系の焦点距離を手動操作に応じて設定する焦点距離設定手段を有し、絞り制御手段は、焦点距離検出手段により検出された焦点距離、又は焦点距離設定手段により設定された焦点距離を取得するようにしている。
本発明の更に他の態様に係る立体撮像装置において、絞り制御手段は、撮影光学系の焦点距離の調整中の焦点距離を含む焦点距離f2を所定の時間間隔で連続的に取得し、撮影光学系の焦点距離を調整する前の焦点距離f1と所定の時間間隔で連続的に取得した焦点距離f2とに基づいて絞りのF値を連続的に制御することが好ましい。これによれば、動画記録時等で撮影光学系の焦点距離が変化中も視差画像の立体感を変化させないようにすることができる。
本発明の更に他の態様に係る立体撮像装置において、立体表示手段と、撮像素子から出力される複数の視差画像に基づいて立体表示手段に立体画像を表示させる表示制御手段と、を更に備えている。
本発明の更に他の態様に係る立体撮像装置において、被写体の明るさを検出する明るさ検出手段と、明るさ検出手段により検出された被写体の明るさに基づいて露出条件を決定する露出条件決定手段と、を備え、露出条件決定手段は、絞り制御手段により制御される絞りのF値に基づいて絞り以外の露出条件を決定するようにしている。これにより、撮影光学系の焦点距離の変化に応じて絞りのF値が制御されても、焦点距離の変化の前後で撮影される視差画像の明るさが変化しないようにすることができる。
本発明の更に他の態様に係る立体撮像装置において、被写体の明るさを検出する明るさ検出手段と、明るさ検出手段により検出された被写体の明るさに基づいて絞りの初期のF値を設定する初期F値設定手段と、を備え、撮影光学系の焦点距離を調整する前の絞りのF値は、初期F値設定手段により設定されたF値である。
本発明の更に他の態様に係る立体撮像装置において、初期F値設定手段は、電源がオンされた後、一定時間が経過したときに明るさ検出手段により検出された被写体の明るさに基づいて絞りの初期のF値を設定するようにしている。
本発明の更に他の態様に係る立体撮像装置において、初期F値設定手段は、電源がオンされた後、撮影光学系の焦点距離が最初に変化したときに明るさ検出手段により検出された被写体の明るさに基づいて絞りの初期のF値を設定するようにしている。
本発明の更に他の態様に係る立体撮像装置において、初期F値設定手段は、動画を撮影する動画撮影モードで録画開始が指示されたときに明るさ検出手段により検出された被写体の明るさに基づいて絞りの初期のF値を設定するようにしている。
本発明の更に他の態様に係る立体撮像装置において、撮像素子から出力される複数の視差画像の立体感の大きさを指定する立体感指定手段と、立体感指定手段により指定された立体感に基づいて絞りの初期のF値を設定する設定する初期F値設定手段と、を備え、撮影光学系の焦点距離を調整する前の絞りのF値は、初期F値設定手段により設定されたF値である。これにより、立体感指定手段により指定された立体感が得られるF値が初期設定され、その後、焦点距離が変化しても立体感が変化しないようにすることができる。
本発明の更に他の態様に係る立体撮像装置において、被写体距離を測定する測距手段と、撮影光学系の焦点距離を検出する焦点距離検出手段と、を備え、初期F値設定手段は、立体感指定手段により指定された立体感、焦点距離検出手段により検出された焦点距離及び測距手段により測定された被写体距離に基づいて絞りの初期のF値を設定するようにしている。立体視用の視差画像の立体感は、絞りのF値、撮影光学系の焦点距離及び被写体距離により変化するため、立体感指定手段により指定された立体感が得られるように、撮影光学系の焦点距離及び被写体距離に基づいて絞りの初期のF値を設定するようにしている。
本発明の更に他の態様に係る立体撮像装置において、絞り制御手段は、撮影光学系の焦点距離に基づいて絞りのF値を制御する際に、絞りの限界のF値を超える場合には、その限界のF値に固定するようにしている。絞りが限界のF値に達した後、更に撮影光学系の焦点距離を変化させると、絞りにより立体感を調整することができないため、立体感が変化することになる。
本発明の更に他の態様に係る立体撮像装置において、絞り制御手段は、撮影光学系の焦点距離に基づいて絞りのF値を制御する際に、絞りの限界のF値を超える場合には、その限界のF値に固定するとともに、絞りの限界のF値を超える方向への撮影光学系の焦点距離の変化を制限するようにしている。これにより、撮影光学系の焦点距離が制限されるが、立体視用の視差画像の立体感を維持することができる。
本発明の更に他の態様に係る立体撮像装置において、撮影シーンの変化を検出する撮影シーン検出手段と、撮影シーン検出手段により撮影シーンが変化したことが検出されると、絞り制御手段による撮影光学系の焦点距離に基づく絞りのF値の制御を解除する解除手段と、を更に備えることが好ましい。通常、画角の調整は、被写体(ターゲット)を決定したのち、被写体が所望の大きさになるように行うが、撮影シーンが変化する場合には、被写体が変化し、画角の調整も中断すると考えられる。そこで、撮影シーンが変化する場合には、被写体の立体感を保持するための絞りのF値の制御を解除する。尚、所定の条件下で再び初期のF値が設定され、被写体の立体感を保持するための絞りのF値の制御を再開させる。
本発明の更に他の態様に係る立体撮像装置において、撮像素子は、該撮像素子の露光領域において、それぞれマトリクス状に配列された光電変換用の第1群の画素及び第2群の画素であって、撮影光学系の第1の領域を通過した被写体像のみを受光するように光束の受光方向の制限を受けた第1群の画素と、撮影光学系の第2の領域を通過した被写体像のみを受光するように光束の受光方向の制限を受けた第2群の画素とを有し、第1群の画素及び第2群の画素から複数の視差画像の読み出しが可能な撮像素子である。これにより、1つの撮像素子で同時に複数の視差画像を取得することができ、装置が大型化することもない。
また本発明は、焦点距離の調整が可能な単一の撮影光学系と、撮影光学系の異なる領域を通過した被写体像が瞳分割されてそれぞれ結像される撮像素子であって、異なる領域を通過した被写体像をそれぞれ光電変換して視差の異なる複数の視差画像を出力する撮像素子と、撮像素子に入射する光束を制限する絞りと、撮影光学系の焦点距離を調整する操作部と、操作部による撮影光学系の焦点距離を調整する前後で、撮影光学系の焦点距離に基づいて絞りのF値を制御する絞り制御手段と、を備えた立体撮像装置において、絞り制御手段が、撮影光学系の焦点距離を調整する前後の焦点距離をそれぞれf1,f2、撮影光学系の焦点距離を調整する前の絞りのF値をFNo1とすると、撮影光学系の焦点距離の調整後の絞りのF値FNo2が、上記[数1]式に従って設定可能なF値になるように制御し、撮影光学系の焦点距離を調整する前後で撮像素子から出力される複数の視差画像の立体感を変化させない立体撮像方法を提供する。
本発明によれば、単眼の立体撮像装置において、撮影光学系の焦点距離に基づいて絞りのF値を制御することにより、撮影光学系の焦点距離を変化させたときに立体視用の視差画像の立体感を変化させないようにすることができる。これにより、撮影光学系の焦点距離を変えて画角の調整を行う場合に、立体画像の立体感が変化せず、画角の調整時に違和感が生じないようにすることができ、また、撮影光学系の焦点距離にかかわらず、ユーザが希望する立体感を有する視差画像を撮影することができる。
本発明に係る立体撮像装置の実施の形態を示す斜視図 上記立体撮像装置の背面図 立体撮像装置の撮像素子の構成例を示す図 上記撮像素子の要部拡大図 上記立体撮像装置の実施の形態を示すブロック図 被写体深度及び焦点深度の関係を示す図 主として左右の視差画像を連続的に撮影する場合の絞り制御の第1の実施形態を示すフローチャート 撮影レンズの焦点距離と絞りのF値と立体感(視差)との関係を示す概念図 主として左右の視差画像を連続的に撮影する場合の絞り制御の第2の実施形態を示すフローチャート 撮像素子の他の構成例を示す図 上記撮像素子で立体画像を撮影する仕組みについて説明する図
以下、添付図面に従って本発明に係る立体撮像装置の実施の形態について説明する。
<第1の実施の形態>
[立体撮像装置の全体構成]
図1は本発明に係る立体撮像装置の実施の形態を示す斜視図である。図2は上記立体撮像装置の背面図である。この立体撮像装置1は、レンズを通った光を撮像素子で受け、デジタル信号に変換して記録メディアに記録するデジタルカメラである。
立体撮像装置1のカメラボディ10は、横長の四角い箱状に形成されており、その正面には、図1に示すように、レンズユニット12、ストロボ21等が配設されている。また、カメラボディ10の上面にはシャッタボタン22、電源/モードスイッチ24、モードダイヤル26等が配設されている。一方、カメラボディ10の背面には、図2に示すように、3D画像表示装置28、ズームボタン30、十字ボタン32、MENU/OKボタン34、再生ボタン36、BACKボタン38等が配設されている。
尚、図示しないカメラボディ10の下面には、三脚ネジ穴と、開閉自在なカバーを介してバッテリ挿入部とメモリカードスロットとが設けられており、このバッテリ挿入部とメモリカードスロットにバッテリとメモリカードが装填される。
レンズユニット12は、沈胴式のズームレンズで構成されており、電源/モードスイッチ24によってカメラのモードを撮影モードに設定することにより、カメラボディ10から繰り出される。尚、レンズユニット12のズーム機構や沈胴機構については、公知の技術なので、ここでは、その具体的な構成についての説明は省略する。
ストロボ21は、主要被写体に向けてストロボ光を照射するものである。
シャッタボタン22は、いわゆる「半押し」と「全押し」とからなる2段ストローク式のスイッチで構成されている。立体撮像装置1は、撮影モードで駆動しているときは、このシャッタボタン22が「半押し」されることにより、AE/AFが作動し、「全押し」されることにより、撮影を実行する。また、立体撮像装置1は、撮影モードで駆動しているときは、このシャッタボタン22が「全押し」されることにより、撮影を実行する。
電源/モードスイッチ24は、立体撮像装置1の電源をON/OFFする電源スイッチとしての機能と、立体撮像装置1のモードを設定するモードスイッチとしての機能とを併せ持っており、「OFF位置」と「再生位置」と「撮影位置」との間をスライド自在に配設されている。立体撮像装置1は、電源/モードスイッチ24をスライドさせて、「再生位置」又は「撮影位置」に合わせることにより、電源がONになり、「OFF位置」に合わせることにより、電源がOFFになる。そして、電源/モードスイッチ24をスライドさせて、「再生位置」に合わせることにより、「再生モード」に設定され、「撮影位置」に合わせることにより、「撮影モード」に設定される。
モードダイヤル26は、立体撮像装置1の撮影モードを設定する撮影モード設定手段として機能し、このモードダイヤルの設定位置により、立体撮像装置1の撮影モードが様々なモードに設定される。例えば、平面画像の撮影を行う「平面画像撮影モード」、立体画像(3D画像)の撮影を行う「立体画像撮影モード」、動画撮影を行う「動画撮影モード」等である。
3D画像表示装置28は、立体画像(左視差画像及び右視差画像)をパララックスバリアによりそれぞれ所定の指向性をもった指向性画像として表示できる立体表示手段である。立体視画像が3D画像表示装置28に入力された場合には、3D画像表示装置28のパララックスバリア表示層に光透過部と光遮蔽部とが交互に所定のピッチで並んだパターンからなるパララックスバリアを発生させるとともに、その下層の画像表示面に左右の像を示す短冊状の画像断片が交互に配列して表示される。平面画像や使用者インターフェース表示パネルとして利用される場合には、パララックスバリア表示層には何も表示せず、その下層の画像表示面に1枚の画像をそのまま表示する。尚、3D画像表示装置28の形態はこれに限らず、左視差画像及び右視差画像を立体画像として認識可能に表示させるものであれば、レンチキュラレンズを使用するものや、偏光メガネ、液晶シャッタメガネなどの専用メガネをかけることで左視差画像と右視差画像とを個別に見ることができるものでもよい。
ズームボタン30は、ズームを指示するズーム指示手段として機能し、望遠側へのズームを指示するズームテレボタン30Tと、広角側へのズームを指示するズームワイドボタン30Wとからなる。立体撮像装置1は、撮影モード時に、このズームテレボタン30Tとズームワイドボタン30Wとが操作されることにより、レンズユニット12の焦点距離が変化する。また、再生モード時に、このズームテレボタン30Tとズームワイドボタン30Wとが操作されることにより、再生中の画像が拡大、縮小する。
十字ボタン32は、上下左右の4方向の指示を入力する操作部であり、メニュー画面から項目を選択したり、各メニューから各種設定項目の選択を指示したりするボタン(カーソル移動操作手段)として機能する。左/右キーは再生モード時のコマ送り(順方向/逆方向送り)ボタンとして機能する。
MENU/OKボタン34は、3D画像表示装置28の画面上にメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するOKボタンとしての機能とを兼備した操作キーである。
再生ボタン36は、撮影記録した立体画像(3D画像)、平面画像(2D画像)の静止画又は動画を3D画像表示装置28に表示させる再生モードに切り替えるためのボタンである。
BACKボタン38は、入力操作のキャンセルや一つ前の操作状態に戻すことを指示するボタンとして機能する。
[撮影光学系、撮像素子の構成例]
レンズユニット12は、主として撮影レンズ14、絞り16、位相差イメージセンサである撮像素子17で構成される。
撮影レンズ14は、フォーカスレンズ、ズームレンズを含む多数のレンズから構成される撮像光学系である。絞り16は、例えば、5枚の絞り羽根からなり、例えば、絞り値(F値)をF1〜F16まで連続的又は段階的に絞り制御される。撮影モード時において、被写体を示す画像光は、撮影レンズ14、絞り16を介して撮像素子17の受光面に結像される。
図3は撮像素子17の構成例を示す図である。
図3の(a)部分に示すように、撮像素子17は、それぞれマトリクス状に配列された奇数ラインの画素(主画素、A面画素ともいう)と、偶数ラインの画素(副画素、B面画素ともいう)とを有しており、これらの主、副画素にてそれぞれ光電変換された2面分の画像信号は、独立して読み出すことができるようになっている。
図3の(b)部分に示すように、撮像素子17の奇数ライン(1、3、5、…)には、R(赤)、G(緑)、B(青)のカラーフィルタを備えた画素のうち、GRGR…の画素配列のラインと、BGBG…の画素配列のラインとが交互に設けられ、一方、図3の(c)部分に示すように、偶数ライン(2、4、6、…)の画素は、奇数ラインと同様に、GRGR…の画素配列のラインと、BGBG…の画素配列のラインとが交互に設けられるとともに、偶数ラインの画素に対して画素同士が2分の1ピッチだけライン方向にずれて配置されている。
図4は位相差イメージセンサとして機能する撮像素子17の要部拡大図である。
図4の(a)部分に示すように撮像素子17の主画素のフォトダイオードPDの前面側(マイクロレンズL側)には、遮光部材17Aが配設され、一方、図4の(b)部分に示すように副画素のフォトダイオードPDの前面側には、遮光部材17Bが配設される。マイクロレンズL、及び遮光部材17A、17Bは瞳分割手段としての機能を有し、図4の(a)部分に示すように遮光部材17Aは、主画素(フォトダイオードPD)の受光面の左半分を遮光する。そのため、主画素には、撮影レンズ14の射出瞳を通過する光束の光軸の左側のみが受光される。また、図4の(b)部分に示すように遮光部材17Bは、副画素(フォトダイオードPD)の受光面の右半分を遮光する。そのため、副画素には、撮影レンズ14の射出瞳を通過する光束の光軸の右側のみが受光される。このように、瞳分割手段であるマイクロレンズL及び遮光部材17A、17Bにより、射出瞳を通過する光束が左右に分割され、それぞれ主画素、副画素に入射する。
また、撮影レンズ14の射出瞳を通過する光束のうちの左半分の光束に対応する被写体像と、右半分の光束に対応する被写体像のうち、ピントが合っている部分は、撮像素子17上の同じ位置に結像するが、前ピン又は後ピンの部分は、それぞれ撮像素子17上の異なる位置に入射する(位相がずれる)。これにより、左半分の光束に対応する被写体像と、右半分の光束に対応する被写体像とは、視差が異なる視差画像(左視差画像、右視差画像)として取得することができる。
[撮像装置の内部構成]
図5は本発明に係る立体撮像装置1の実施の形態を示すブロック図である。この立体撮像装置1は、撮像した画像を記録メディア54に記録するもので、装置全体の動作は、中央処理装置(CPU)40によって統括制御される。
立体撮像装置1には、シャッタボタン、モードダイヤル、再生ボタン、MENU/OKキー、十字キー、ズームボタン、BACKキー等の操作部48が設けられている。この操作部48からの信号はCPU40に入力され、CPU40は入力信号に基づいて立体撮像装置1の各回路を制御し、例えば、レンズ駆動制御、絞り駆動制御、撮影動作制御、画像処理制御、画像データの記録/再生制御、3D画像表示装置28の表示制御などを行う。
電源/モードスイッチ24により立体撮像装置1の電源がONされると、電源部58から各ブロックへ給電され、立体撮像装置1の駆動が開始される。
撮影レンズ14、絞り16等を通過した光束は撮像素子17に結像され、撮像素子17には信号電荷が蓄積される。撮像素子17に蓄積された信号電荷は、タイミングジェネレータ45から加えられる読み出し信号に基づいて信号電荷に応じた電圧信号として読み出される。撮像素子17から読み出された電圧信号は、アナログ信号処理部60に加えられる。
アナログ信号処理部60は、撮像素子17から出力された電圧信号に対して相関二重サンプリング処理(撮像素子の出力信号に含まれるノイズ(特に熱雑音)等を軽減することを目的として、撮像素子の1画素毎の出力信号に含まれるフィードスルー成分レベルと画素信号成分レベルとの差をとることにより正確な画素データを得る処理)により各画素ごとのR、G、B信号がサンプリングホールドされ、増幅されたのちA/D変換器61に加えられる。A/D変換器61は、順次入力するR、G、B信号をデジタルのR、G、B信号に変換して画像入力コントローラ62に出力する。
デジタル信号処理部63は、画像入力コントローラ62を介して入力するデジタルの画像信号に対して、オフセット処理、ホワイトバランス補正及び感度補正を含むゲイン・コントロール処理、ガンマ補正処理、YC処理等の所定の信号処理を行う。ここで、撮像素子17の奇数ラインの主画素から読み出される主画像データは、左眼用画像データとして処理され、偶数ラインの副画素から読み出される副画像データは、右眼用画像データとして処理される。
デジタル信号処理部63で処理された左眼用画像データ及び右眼用画像データ(3D画像データ)は、VRAM50に入力される。VRAM50には、それぞれが1コマ分の3D画像を表す3D画像データを記録するA領域とB領域とが含まれている。VRAM50において1コマ分の3D画像を表す3D画像データがA領域とB領域とで交互に書き換えられる。VRAM50のA領域及びB領域のうち、3D画像データが書き換えられている方の領域以外の領域から、書き込まれている3D画像データが読み出される。
VRAM50から読み出された3D画像データは、3D画像信号処理部64で短冊状の画像断片に加工され、ビデオエンコーダ66においてエンコーディングされ、カメラ背面に設けられている立体表示用の3D画像表示装置28に出力され、これにより3Dの被写体像が連続的に3D画像表示装置28の表示画面上に表示される。
操作部48のシャッタボタン22の第1段階の押下(半押し)があると、CCD40は、AF動作及びAE動作を開始させ、レンズ駆動部47を介してフォーカスレンズを光軸方向に移動させ、フォーカスレンズが合焦位置にくるように制御する。
AF処理部42は、コントラストAF処理又は位相差AF処理を行う部分である。コントラストAF処理を行う場合には、左右の視差画像の少なくとも一方の視差画像のうちの所定のフォーカス領域内の視差画像の高周波成分を抽出し、この高周波成分を積分することにより合焦状態を示すAF評価値を算出する。このAF評価値が極大となるように撮影レンズ14内のフォーカスレンズを制御することによりAF制御が行われる。また、位相差AF処理を行う場合には、左右の視差画像のうちの所定のフォーカス領域内の主画素、副画素に対応する視差画像の位相差を検出し、この位相差を示す情報に基づいてデフォーカス量を求める。このデフォーカス量が0になるように撮影レンズ14内のフォーカスレンズを制御することによりAF制御が行われる。
CPU40は、必要に応じてレンズ駆動部47を介してズームレンズを光軸方向に進退動作させ、焦点距離を変更させる。
また、シャッタボタン22の半押し時にA/D変換器61から出力される画像データは、AE/AWB検出部44に取り込まれる。
AE/AWB検出部44では、画面全体のG信号を積算し、又は画面中央部と周辺部とで異なる重みづけをしたG信号を積算し、その積算値をCPU40に出力する。CPU40は、AE/AWB検出部44から入力する積算値より被写体の明るさ(撮影Ev値)を算出し、この撮影Ev値に基づいて絞り16のF値及び撮像素子17の電子シャッタ(シャッタスピード)を所定のプログラム線図に従って決定し、その決定した絞り値に基づいて絞り駆動部46を介して絞り16を制御するとともに、決定したシャッタスピードに基づいてタイミングジェネレータ45を介して撮像素子17での電荷蓄積時間を制御する。
また、CPU40は、撮影レンズ14の焦点距離の変化に応じて絞り16のF値を制御するが、そのF値の制御に応じて、露出条件が変化しないようにシャッスピード又は撮影感度(ゲイン)を制御する。尚、この絞り16のF値の制御の詳細については後述する。
AE動作及びAF動作が終了し、シャッタボタン22の第2段階の押下(全押し)があると、その押下に応答してA/D変換器61から出力される主画素及び副画素に対応する左眼用画像(主画像)及び右眼用画像(副画像)の2枚分の画像データが画像入力コントローラ62からVRAM50に入力され、一時的に記録される。
VRAM50に一時的に記録された2枚分の画像データは、デジタル信号処理部63により適宜読み出され、ここで画像データの輝度データ及び色差データの生成処理(YC処理)を含む所定の信号処理が行われる。YC処理された画像データ(YCデータ)は、再びVRAM50に記録される。続いて、2枚分のYCデータは、それぞれ圧縮伸張処理部65に出力され、JPEG (joint photographic experts group)などの所定の圧縮処理が実行されたのち、再びVRAM50に記録される。
VRAM50に記録された2枚分のYCデータ(圧縮データ)から、3D画像信号処理部64でマルチピクチャファイル(MPファイル:複数の画像が連結された形式のファイル)が生成され、そのMPファイルは、メディア・コントローラ52により読み出され、記録メディア54に記録される。
尚、AF動作は、シャッタボタン22の第1段階の押下(半押し)がある場合のみでなく、左右の左視差画像を連続的に撮影する場合にも行われる。左右の視差画像を連続的に撮影する場合とは、例えばライブビュー画像(スルー画像)を撮影する場合や、動画を撮影する場合が挙げられる。
立体撮像装置1は、立体視画像のみでなく、2次元画像の取得も可能である。また、立体撮像装置1は、動画、静止画のみでなく、音声の記録再生が可能である。マイクロフォン57は送話音声を入力し、スピーカ56は受話音声を出力し、音声入出力回路55はマイクロフォンから入力された音声の符号化及び受信した音声の復号化などを行う。
[立体撮像装置の動作の説明]
次に、立体撮像装置1の動作について説明する。この撮像処理はCPU40によって制御される。この撮像処理をCPU40に実行させるためのプログラムはCPU40内のプログラム格納部に記録されている。
撮影が開始されると、CPU40は、撮影レンズ14、絞り16を初期位置へ駆動する。撮影レンズ14を通過した被写体光は、絞り16を介して撮像素子17の受光面に結像される。タイミングジェネレータ45により、撮像素子17の主画素及び副画素に蓄えられた信号電荷は、信号電荷に応じた電圧信号(画像信号)として所定のフレームレートで順次読み出され、アナログ信号処理部60、A/D変換器61、画像入力コントローラ62を介してデジタル信号処理部63に順次入力され、左右の視差画像が順次生成される。生成された左右の視差画像は順次VRAM50に入力され、3D画像表示装置28にリアルタイムに表示される。
撮影者は、3D画像表示装置28にリアルタイムに表示される画像(スルー画像)を見ることにより、撮影画角を確認することができる。また、CPU40は、操作部48のズームボタンの操作入力に応じて、レンズ駆動部47を介して撮影レンズ14をズーム動作させる(焦点距離を調整する)。
本発明は、撮影レンズ14のズーミング(焦点距離の変更)時に3D画像表示装置28にリアルタイムに表示される左右の視差画像(立体画像)の立体感が変化しないように絞り16のF値を制御する。
[立体感を変化させない絞り16のF値の制御]
次に、立体感を変化させない絞り16のF値の制御の原理について説明する。
図6は被写体深度及び焦点深度の関係を示す図である。
図6において、
O:物体面
:前方被写体深度の限界点
:後方被写体深度の限界点
I、I、I:O、O、Oに対応する像位置
a:レンズ系の前側主点位置HからOまでの距離
b:レンズ系の後ろ側主点位置H’からIまでの距離
:後方被写体深度
:前方被写体深度
’、d’:ボケεを想定したときの焦点深度の長さ
とし、絞りのF値をF、レンズの焦点距離をfとすると、後方被写体深度d、及び前方被写体深度dは、それぞれ次式で表すことができる。
Figure 0005611469
上記[数2]式を変形すると、それぞれ次式で表すことができる。
Figure 0005611469
ここで、撮影レンズ14の焦点距離を変更する前の焦点距離がf1,絞り16のF値がFNo1のとき、撮影レンズ14の焦点距離がf2に変更した場合に、この焦点距離の変化の前後で、[数3]式に示したボケεが変化しないという条件を満足する、絞り16のF値をFNo2とすると、次式が成立する。
Figure 0005611469
ところで、単眼の立体撮像装置1では、前ピン又は後ピンとなるボケ部分は、それぞれ撮像素子17上の異なる位置に入射する(位相がずれる)ため、このボケが一定になるように絞り16のF値を制御(即ち、上記[数1]式に従って絞り16のF値を制御)することにより、左右の視差画像の位相ずれ(立体感)を変化させないようにすることができる。
[絞り制御の第1の実施形態]
図7は主として左右の視差画像を連続的に撮影する場合の絞り制御の第1の実施形態を示すフローチャートである。
図7において、まず、絞り16の初期のF値を設定し、絞り16のF値を初期F値にする(ステップS10)。この初期F値の設定は、例えば、AE/AWB検出部44から入力する積算値より被写体の明るさ(撮影Ev値)を算出し、この撮影Ev値に基づいて絞り16のF値及び撮像素子17の電子シャッタ(シャッタスピード)を所定のプログラム線図に従って決定する。そして、立体撮像装置1の電源がオンされた後、一定時間が経過したときに決定した絞り16のF値を初期F値として設定する。
また、絞り16が初期F値に設定されたときの撮影レンズ14の焦点距離f1を取得する(ステップS12)。この焦点距離f1は、撮影レンズ14のレンズ位置を検出することにより取得し、又はズームボタンの操作に基づいてCPU40からレンズ駆動部47に出力するズーム指令値から取得することができる。
続いて、CPU40は、撮影レンズ14の焦点距離が変化したか否かを判別する(ステップS14)。焦点距離が変化した場合(「Yes」の場合)には、ステップS16に遷移し、焦点距離が変化しない場合(「No」の場合)には、ステップS22に遷移する。
ステップS16では、撮影レンズ14の変化後の焦点距離f2を取得する。そして、ステップS10で設定した初期F値(FNo1),ステップS12で取得した焦点距離f1,及びステップS16で取得した焦点距離f2に基づいて、前述した[数1]式の条件式に従って、焦点距離がf1からf2に変化しても左右の視差画像の立体感を変化させない絞り16のF値(FNo2)を算出する(ステップS18)。
CPU40は、ステップS18で算出したF値(FNo2)になるように絞り駆動部46を介して絞り16を制御する(ステップS20)。
ステップS22は、撮影を継続するか否かを判別する。例えば、3D静止画の撮影時には3D静止画の撮影が行われると、撮影を終了させ、また、3D動画の撮影時には録画の一時停止/終了が行われると、撮影を終了させる。一方、撮影継続中と判別されると(「Yes」の場合)、ステップS14に戻り、上記ステップS14からステップS22の処理を繰り返す。
上記のように絞り16の初期F値と撮影レンズ14の焦点距離f1により、左右の視差画像の立体感は決定されるが、その後、3D画像表示装置28にリアルタイムに表示される3Dスルー画像を見ながら撮影レンズ14をズーミングさせて撮影画角を調整する(焦点距離を調整する)際に、撮影レンズ14の焦点距離の変化に応じて絞り16のF値を制御することにより、立体感が変化しないようにすることができる。
図8は撮影レンズ14の焦点距離と絞り16のF値と立体感(視差)との関係を示す概念図である。
図8において、例えば、初期F値がF4及びズーム位置がZの場合に所定の立体感(視差P)が得られているとする。その後、ズーム位置がZからテレ方向にZ→Zに変化すると、F値をF4からF8→F16に変化させ、視差Pが変化しないようにする。同様に、ズーム位置がZからワイド方向にZ→Zに変化すると、F値をF4からF2→F1に変化させ、視差P5が変化しないようにする。
ところで、初期F値及びズーム位置により左右の視差画像の立体感(視差)が決定されるが、初期F値及びズーム位置によっては、その後、ズーム位置(焦点距離)が変化すると、絞り16が取り得る範囲(F1〜F16)を越え、立体感を変化させないF値を設定することができない場合が生じる。
例えば、初期F値F16及びズーム位置Zにより所定の立体感(視差P)が得られている場合に、その後、ズーム位置をZからテレ方向に変化させると、視差Pを変化させないためのF値を選択することができない。
この場合の対応としては、絞り16のF値をその限界のF値に固定する。この場合、絞り16の限界を越えてズーム位置(焦点距離)が変化すると、F値が固定されるため、視差が変化することになる。
また、絞り16のF値をその限界のF値に固定するとともに、撮影レンズ14の絞り16の限界を越える方向へのズーム位置(焦点距離)の変化を制限するようにしてもよい。この場合、立体感を変化させないようにすることができるが、撮影レンズ14のズーム範囲が制限されることになる。
更に、上記のように撮影レンズ14をズーム動作させる場合、ズーム動作中も立体感が変化しないように絞り16のF値を連続的に制御することが好ましい。この場合、撮影レンズ14の焦点距離の変化中の焦点距離f2を、所定の時間間隔(例えば、フレームレートに対応する1/30[秒]、1/60[秒])で連続的に取得し、撮影レンズ14の焦点距離を調整する前の焦点距離f1と所定の時間間隔で連続的に取得した焦点距離f2とに基づいて、[数1]式から立体感を変化させない絞り16のF値を連続的に算出する。そして、連続的に算出したF値になるように絞り16のF値を連続的に制御する。これによれば、3Dスルー画像の表示中、あるいは動画記録時等で撮影レンズ14の焦点距離が変化中も視差画像の立体感を変化させないようにすることができる。
[絞り制御の第2の実施形態]
図9は主として左右の視差画像を連続的に撮影する場合の絞り制御の第2の実施形態を示すフローチャートである。尚、図7に示したフローチャートと共通する部分には同一のステップ番号を付し、その詳細な説明は省略する。
図9に示す第2の実施形態では、ステップS22とステップS24との間に、ステップS30が追加されている点で、図7に示した第1の実施形態と相違する。
ステップS30では、撮影シーンが変化したか否かを判別する。撮影シーンの変化の判別は、例えば、被写体輝度が一定値(例えば、1EV)以上変化した場合、被写体距離が一定距離以上変化した場合、被写体の色温度又は被写体を照明する光源種が変化してホワイトバランス補正時のゲイン値が変化した場合等に基づいて行うことができる。また、GPS装置(Global Positioning System)や方位センサを搭載したカメラの場合には、現在位置や撮影方向の変化から撮影シーンの変化を判別することができる。
そして、ステップS30において、撮影シーンが変化したと判別されると(「Yes」の場合)、ステップS14からステップS22のフローラインから外れ、ステップS10に遷移させる。
即ち、撮影シーンが変化する場合には被写体が変化し、被写体の画角を調整するためのズーム動作が継続して行われているとは考えられないため、ズーム動作中に立体感が変化しないようにする絞り16のF値の制御を解除する。
これによれば、撮影対象が変化しない場合のみズーム動作中の立体感を変化させないようにすることができる。
[撮像素子の他の構成例]
図10は撮像素子17’の他の構成例を示す図である。
撮像素子17’は、4個のフォトダイオードA、B、C、Dが2次元に並べられ、その4個のフォトダイオードを覆うように1つのマイクロレンズML’が配設されたものを1個のユニット(4画素1マイクロレンズ)として、このユニットが2次元に配置されている。ユニット内の各フォトダイオードは、それぞれ独立して読み出すことができるようになっている。
図10に示すように撮像素子17’の奇数ライン(1、3、5、…)には、R(赤)、G(緑)、B(青)のカラーフィルタを備えた画素のうち、GRGR…の画素配列のラインが設けられ、一方、偶数ライン(2、4、6、…)の画素には、BGBG…の画素配列のラインが設けられる。
図11は、撮像素子17’で立体画像を撮影する仕組みについて説明する図である。
撮像素子17’が水平方向で撮影された場合(通常の横撮り)には、各ユニットのフォトダイオードA及びCを合成したものが、射出瞳を通過する光束の光軸の左側のみが受光される主画素となり、フォトダイオードA及びCの合成画像が左の視差画像となる。また、各ユニットのフォトダイオードB及びDを合成したものが、射出瞳を通過する光束の光軸の右側のみが受光される副画素となり、フォトダイオードB及びDの合成画像が右の視差画像となる。
撮像素子17’が垂直方向で撮影された場合(立体撮像装置1を90度回転させて撮影するいわゆる縦撮り)には、各ユニットのフォトダイオードA及びBを合成したものが、射出瞳を通過する光束の光軸の左側のみが受光される主画素となり、フォトダイオードA及びBの合成画像が左の視差画像となる。また、各ユニットのフォトダイオードC及びDを合成したものが、射出瞳を通過する光束の光軸の右側のみが受光される副画素となり、フォトダイオードC及びDの合成画像が右の視差画像となる。
[その他]
この実施形態では、立体撮像装置1の電源がオンされた後、一定時間が経過したときにAE制御で決定した絞り16のF値を初期F値として設定するようにしたが、これに限らず、上記のように設定した初期F値を、撮影レンズ14の焦点距離が変更されるまで、最新の被写体の明るさ(撮影Ev値)に基づくAE制御で決定したF値で更新するようにしてもよい。即ち、撮影レンズ14の焦点距離が最初に変化したときの撮影Ev値に基づいて算出された絞り16のF値を初期F値としてもよい。
また、図9に示したように撮影シーンが変化した場合には、その撮影シーンが変化した後に再度、初期F値を設定するようにしてもよい。
更に、3D動画を撮影する動画撮影モードが設定された場合において、録画開始ボタンが押されたときの撮影Ev値に基づいて絞り16のF値を算出し、この算出したF値を初期F値とすることができる。
更にまた、ユーザが立体感の大きさ(例えば、大/中/小)を操作部48により指定できるようにし、その指定された立体感の大きさに基づいて初期F値を設定するようにしてもよい。この場合、指定された立体感の大きさと、そのときの撮影レンズの焦点距離及び被写体距離に基づいて絞りの初期F値を設定することが好ましい。
また、この実施形態では、[数1]式により算出したF値FNo2になるように絞りのF値を制御するようにしたが、離散的に設定可能なF値のうち、算出したF値FNo2に最も近いF値になるように制御する場合も含む。これによれば、F値を連続的に制御できない絞り(設定可能なF値が有限の段数の絞り)であっても本発明を適用することができる。
また、複数の視差画像を同時に取得することができる撮像素子は、この実施形態のものに限らず、種々ものを適用することができる。
更に、本発明は上述した実施の形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
1…立体撮像装置、12…レンズユニット、14…撮影レンズ、16:絞り、17、17’…撮像素子、17A、17B…遮光部材、28…3D画像表示装置、40…CPU、46…絞り駆動部、47…レンズ駆動部、48…操作部、64…3D画像信号処理部

Claims (16)

  1. 焦点距離の調整が可能な単一の撮影光学系と、
    前記撮影光学系の異なる領域を通過した被写体像が瞳分割されてそれぞれ結像される撮像素子であって、前記異なる領域を通過した被写体像をそれぞれ光電変換して視差の異なる複数の視差画像を出力する撮像素子と、
    前記撮像素子に入射する光束を制限する絞りと、
    前記撮影光学系の焦点距離を調整する操作部と、
    前記操作部による前記撮影光学系の焦点距離を調整する前後で、前記撮影光学系の焦点距離に基づいて前記絞りのF値を制御する絞り制御手段と、を備え、
    前記絞り制御手段は、
    前記撮影光学系の焦点距離を調整する前後の焦点距離をそれぞれf1,f2、前記撮影光学系の焦点距離を調整する前の前記絞りのF値をFNo1とすると、前記撮影光学系の焦点距離の調整後の前記絞りのF値FNo2が、次式、
    Figure 0005611469
    に従って設定可能なF値になるように制御し、前記撮影光学系の焦点距離を調整する前後で前記撮像素子から出力される前記複数の視差画像の立体感を変化させない立体撮像装置。
  2. 前記撮影光学系の焦点距離を検出する焦点距離検出手段、又は前記撮影光学系の焦点距離を手動操作に応じて設定する焦点距離設定手段を有し、
    前記絞り制御手段は、前記焦点距離検出手段により検出された焦点距離、又は前記焦点距離設定手段により設定された焦点距離を取得する請求項1に記載の立体撮像装置。
  3. 前記絞り制御手段は、前記撮影光学系の焦点距離の調整中の焦点距離を含む焦点距離f2を所定の時間間隔で連続的に取得し、前記撮影光学系の焦点距離を調整する前の焦点距離f1と前記所定の時間間隔で連続的に取得した焦点距離f2とに基づいて前記絞りのF値を連続的に制御する請求項1又は2に記載の立体撮像装置。
  4. 立体表示手段と、
    前記撮像素子から出力される複数の視差画像に基づいて前記立体表示手段に立体画像を表示させる表示制御手段と、
    を更に備えた請求項1から3のいずれか1項に記載の立体撮像装置。
  5. 被写体の明るさを検出する明るさ検出手段と、
    前記明るさ検出手段により検出された被写体の明るさに基づいて露出条件を決定する露出条件決定手段と、を備え、
    前記露出条件決定手段は、前記絞り制御手段により制御される前記絞りのF値に基づいて前記絞り以外の露出条件を決定する請求項1から4のいずれか1項に記載の立体撮像装置。
  6. 被写体の明るさを検出する明るさ検出手段と、
    前記明るさ検出手段により検出された被写体の明るさに基づいて前記絞りの初期のF値を設定する初期F値設定手段と、を備え、
    前記撮影光学系の焦点距離を調整する前の絞りのF値は、前記初期F値設定手段により設定されたF値である請求項1から5のいずれか1項に記載の立体撮像装置。
  7. 前記初期F値設定手段は、電源がオンされた後、一定時間が経過したときに前記明るさ検出手段により検出された被写体の明るさに基づいて前記絞りの初期のF値を設定する請求項6に記載の立体撮像装置。
  8. 前記初期F値設定手段は、電源がオンされた後、前記撮影光学系の焦点距離が最初に変化したときに前記明るさ検出手段により検出された被写体の明るさに基づいて前記絞りの初期のF値を設定する請求項6に記載の立体撮像装置。
  9. 前記初期F値設定手段は、動画を撮影する動画撮影モードで録画開始が指示されたときに前記明るさ検出手段により検出された被写体の明るさに基づいて前記絞りの初期のF値を設定する請求項6に記載の立体撮像装置。
  10. 前記撮像素子から出力される複数の視差画像の立体感の大きさを指定する立体感指定手段と、
    前記立体感指定手段により指定された立体感に基づいて前記絞りの初期のF値を設定する設定する初期F値設定手段と、を備え、
    前記撮影光学系の焦点距離を調整する前の前記絞りのF値は、前記初期F値設定手段により設定されたF値である請求項1から5のいずれか1項に記載の立体撮像装置。
  11. 被写体距離を測定する測距手段と、
    前記撮影光学系の焦点距離を検出する焦点距離検出手段と、
    を備え、
    前記初期F値設定手段は、前記立体感指定手段により指定された立体感、前記焦点距離検出手段により検出された焦点距離及び前記測距手段により測定された被写体距離に基づいて前記絞りの初期のF値を設定する請求項10に記載の立体撮像装置。
  12. 前記絞り制御手段は、前記撮影光学系の焦点距離に基づいて前記絞りのF値を制御する際に、前記絞りの限界のF値を超える場合には、その限界のF値に固定する請求項1から11のいずれか1項に記載の立体撮像装置。
  13. 前記絞り制御手段は、前記撮影光学系の焦点距離に基づいて前記絞りのF値を制御する際に、前記絞りの限界のF値を超える場合には、その限界のF値に固定するとともに、前記絞りの限界のF値を超える方向への前記撮影光学系の焦点距離の変化を制限する請求項1から11のいずれか1項に記載の立体撮像装置。
  14. 撮影シーンの変化を検出する撮影シーン検出手段と、
    前記撮影シーン検出手段により撮影シーンが変化したことが検出されると、前記絞り制御手段による前記撮影光学系の焦点距離に基づく前記絞りのF値の制御を解除する解除手段と、
    を更に備えた請求項1から13のいずれか1項に記載の立体撮像装置。
  15. 前記撮像素子は、該撮像素子の露光領域において、それぞれマトリクス状に配列された光電変換用の第1群の画素及び第2群の画素であって、前記撮影光学系の第1の領域を通過した被写体像のみを受光するように光束の受光方向の制限を受けた第1群の画素と、前記撮影光学系の第2の領域を通過した被写体像のみを受光するように光束の受光方向の制限を受けた第2群の画素とを有し、前記第1群の画素及び第2群の画素から前記複数の視差画像の読み出しが可能な撮像素子である請求項1から14のいずれか1項に記載の立体撮像装置。
  16. 焦点距離の調整が可能な単一の撮影光学系と、
    前記撮影光学系の異なる領域を通過した被写体像が瞳分割されてそれぞれ結像される撮像素子であって、前記異なる領域を通過した被写体像をそれぞれ光電変換して視差の異なる複数の視差画像を出力する撮像素子と、
    前記撮像素子に入射する光束を制限する絞りと、
    前記撮影光学系の焦点距離を調整する操作部と、
    前記操作部による前記撮影光学系の焦点距離を調整する前後で、前記撮影光学系の焦点距離に基づいて前記絞りのF値を制御する絞り制御手段と、を備えた立体撮像装置において、
    前記絞り制御手段が、
    前記撮影光学系の焦点距離を調整する前後の焦点距離をそれぞれf1,f2、前記撮影光学系の焦点距離を調整する前の前記絞りのF値をFNo1とすると、前記撮影光学系の焦点距離の調整後の前記絞りのF値FNo2が、次式、
    Figure 0005611469
    に従って設定可能なF値になるように制御し、前記撮影光学系の焦点距離を調整する前後で前記撮像素子から出力される前記複数の視差画像の立体感を変化させない立体撮像方法。
JP2013532488A 2011-09-09 2012-07-10 立体撮像装置および方法 Expired - Fee Related JP5611469B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013532488A JP5611469B2 (ja) 2011-09-09 2012-07-10 立体撮像装置および方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2011197496 2011-09-09
JP2011197496 2011-09-09
PCT/JP2012/067548 WO2013035427A1 (ja) 2011-09-09 2012-07-10 立体撮像装置および方法
JP2013532488A JP5611469B2 (ja) 2011-09-09 2012-07-10 立体撮像装置および方法

Publications (2)

Publication Number Publication Date
JP5611469B2 true JP5611469B2 (ja) 2014-10-22
JPWO2013035427A1 JPWO2013035427A1 (ja) 2015-03-23

Family

ID=47831879

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013532488A Expired - Fee Related JP5611469B2 (ja) 2011-09-09 2012-07-10 立体撮像装置および方法

Country Status (5)

Country Link
US (1) US9077979B2 (ja)
EP (1) EP2755086B1 (ja)
JP (1) JP5611469B2 (ja)
CN (1) CN103782234B (ja)
WO (1) WO2013035427A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103907188B (zh) * 2011-09-14 2016-12-28 株式会社尼康 摄像元件、摄像装置及图像处理装置
CN105488845B (zh) * 2014-09-17 2018-09-25 宏碁股份有限公司 产生三维图像的方法及其电子装置
CN110139042B (zh) * 2019-04-18 2020-08-04 浙江大华技术股份有限公司 光圈调整方法及装置、存储介质及监控装置
CN114647058B (zh) * 2022-05-18 2022-09-06 合肥金星智控科技股份有限公司 焦点调整方法、焦点调整装置、libs检测系统和存储介质
CN116320746B (zh) * 2023-05-16 2023-08-01 武汉昊一源科技有限公司 Tof对焦装置、对焦方法及拍摄设备

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008015157A (ja) * 2006-07-05 2008-01-24 Nikon Corp 撮像装置
JP2008092047A (ja) * 2006-09-29 2008-04-17 Nikon Corp 電子カメラ

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US2854885A (en) * 1955-02-28 1958-10-07 Camera Vision Productions Inc Composite electronic and film camera
US4124291A (en) * 1976-12-03 1978-11-07 Dimensional Development Corp. Control of depth of field in three dimensional photography
US5311240A (en) * 1992-11-03 1994-05-10 Eastman Kodak Company Technique suited for use in multi-zone autofocusing cameras for improving image quality for non-standard display sizes and/or different focal length photographing modes
FR2735936B1 (fr) * 1995-06-22 1997-08-29 Allio Pierre Procede d'acquisition d'images autostereoscopiques simulees
JP3753201B2 (ja) * 1996-07-22 2006-03-08 富士写真フイルム株式会社 視差画像入力装置
JP3802630B2 (ja) * 1996-12-28 2006-07-26 オリンパス株式会社 立体画像生成装置および立体画像生成方法
DE10027167B4 (de) * 1999-05-31 2007-03-22 Pentax Corp. Mikroskop mit einem Beleuchtungssystem
JP2001142166A (ja) * 1999-09-15 2001-05-25 Sharp Corp 3dカメラ
JP4914418B2 (ja) * 2000-06-05 2012-04-11 富士フイルム株式会社 輪郭強調制御方法及び装置、並びにカメラ
JP4305598B2 (ja) 2000-06-05 2009-07-29 富士フイルム株式会社 カメラの絞り制御方法及び装置、並びにカメラ
US6864911B1 (en) * 2000-10-26 2005-03-08 Hewlett-Packard Development Company, L.P. Linkable digital cameras for an image capture system
JP2006078638A (ja) * 2004-09-08 2006-03-23 Canon Inc 光学機器
JP4588439B2 (ja) * 2004-12-27 2010-12-01 富士フイルム株式会社 立体視画像撮影装置および方法
JP4692770B2 (ja) * 2006-12-27 2011-06-01 富士フイルム株式会社 複眼デジタルカメラ
JP4973273B2 (ja) * 2007-03-28 2012-07-11 株式会社ニコン デジタルカメラ
JP2008299184A (ja) * 2007-06-01 2008-12-11 Nikon Corp 撮像装置および焦点検出装置
JP2009168995A (ja) * 2008-01-15 2009-07-30 Nikon Corp 測距装置および撮像装置
JP5531483B2 (ja) * 2008-08-29 2014-06-25 ソニー株式会社 撮像装置および映像記録再生システム
JP4625515B2 (ja) * 2008-09-24 2011-02-02 富士フイルム株式会社 3次元撮影装置および方法並びにプログラム
JP5237077B2 (ja) * 2008-12-16 2013-07-17 キヤノン株式会社 焦点検出装置及びその制御方法及びプログラム
KR20100080704A (ko) * 2009-01-02 2010-07-12 삼성전자주식회사 영상 데이터 획득 방법 및 장치
JP5216640B2 (ja) * 2009-03-11 2013-06-19 富士フイルム株式会社 撮像装置および方法
US7899321B2 (en) * 2009-03-23 2011-03-01 James Cameron Stereo camera with automatic control of interocular distance
JP5425554B2 (ja) * 2009-07-27 2014-02-26 富士フイルム株式会社 立体撮像装置及び立体撮像方法
US20110050857A1 (en) * 2009-09-03 2011-03-03 Electronics And Telecommunications Research Institute Apparatus and method for displaying 3d image in 3d image system
JP2011176800A (ja) * 2010-01-28 2011-09-08 Toshiba Corp 画像処理装置、立体表示装置及び画像処理方法
JP5446949B2 (ja) * 2010-02-03 2014-03-19 ソニー株式会社 画像処理装置および画像処理方法、並びにプログラム
JP5601881B2 (ja) 2010-05-17 2014-10-08 三菱電機株式会社 パッシブレーダシステムおよびパッシブレーダ方法
CN102959467B (zh) * 2010-06-29 2016-08-31 富士胶片株式会社 单眼立体成像装置
US20120007954A1 (en) * 2010-07-08 2012-01-12 Texas Instruments Incorporated Method and apparatus for a disparity-based improvement of stereo camera calibration
DE102010031535A1 (de) * 2010-07-19 2012-01-19 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bildaufnahmevorrichtung und Verfahren zum Aufnehmen eines Bildes
US8571350B2 (en) * 2010-08-26 2013-10-29 Sony Corporation Image processing system with image alignment mechanism and method of operation thereof
JP2012113281A (ja) * 2010-11-04 2012-06-14 Panasonic Corp 立体撮像光学系、撮像装置及びカメラ

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008015157A (ja) * 2006-07-05 2008-01-24 Nikon Corp 撮像装置
JP2008092047A (ja) * 2006-09-29 2008-04-17 Nikon Corp 電子カメラ

Also Published As

Publication number Publication date
EP2755086A4 (en) 2015-06-03
CN103782234A (zh) 2014-05-07
EP2755086A1 (en) 2014-07-16
WO2013035427A1 (ja) 2013-03-14
US9077979B2 (en) 2015-07-07
CN103782234B (zh) 2015-11-25
US20140176682A1 (en) 2014-06-26
EP2755086B1 (en) 2016-11-09
JPWO2013035427A1 (ja) 2015-03-23

Similar Documents

Publication Publication Date Title
JP5595499B2 (ja) 単眼立体撮像装置
JP5722975B2 (ja) 撮像装置、撮像装置用シェーディング補正方法及び撮像装置用プログラム
US8885026B2 (en) Imaging device and imaging method
JP5544047B2 (ja) 画像処理装置、方法及びプログラム並びに立体撮像装置、携帯電子機器、プリンタ及び立体画像再生装置
JP5474234B2 (ja) 単眼立体撮像装置及びその制御方法
JP5681329B2 (ja) 撮像装置及び画像表示方法
JP5469258B2 (ja) 撮像装置および撮像方法
JP5788518B2 (ja) 単眼立体撮影装置、撮影方法及びプログラム
JP2011259168A (ja) 立体パノラマ画像撮影装置
JP2011022501A (ja) 複眼撮像装置
JP5611469B2 (ja) 立体撮像装置および方法
JP5667304B2 (ja) 立体撮像装置
US20110025824A1 (en) Multiple eye photography method and apparatus, and program
JP5580486B2 (ja) 画像出力装置、方法およびプログラム
JP2012124650A (ja) 撮像装置および撮像方法
JP5351298B2 (ja) 複眼撮像装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140814

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140902

R150 Certificate of patent or registration of utility model

Ref document number: 5611469

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees