JP5628914B2 - 撮像装置および撮像方法 - Google Patents

撮像装置および撮像方法 Download PDF

Info

Publication number
JP5628914B2
JP5628914B2 JP2012522608A JP2012522608A JP5628914B2 JP 5628914 B2 JP5628914 B2 JP 5628914B2 JP 2012522608 A JP2012522608 A JP 2012522608A JP 2012522608 A JP2012522608 A JP 2012522608A JP 5628914 B2 JP5628914 B2 JP 5628914B2
Authority
JP
Japan
Prior art keywords
pixel group
pixel
imaging
plane
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012522608A
Other languages
English (en)
Other versions
JPWO2012002298A1 (ja
Inventor
遠藤 宏
宏 遠藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2012522608A priority Critical patent/JP5628914B2/ja
Publication of JPWO2012002298A1 publication Critical patent/JPWO2012002298A1/ja
Application granted granted Critical
Publication of JP5628914B2 publication Critical patent/JP5628914B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/282Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B11/00Filters or other obturators specially adapted for photographic purposes
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/218Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Studio Devices (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Exposure Control For Cameras (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Blocking Light For Cameras (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、単一の撮影光学系を用いて複数視点の平面画像からなる立体視画像を生成可能な撮像装置および撮像方法に関する。
従来、単一の撮影光学系を用いて複数視点の平面画像からなる立体視画像を生成可能な撮像装置が知られている。
特許文献1には、単一の撮影光学系を備え、絞りを回転させることで瞳分割を行なって、立体視画像を生成する構成が開示されている。
特許文献2には、偏光素子を設け、光路別に撮像素子に受光させることで、単一の撮影光学系で位相情報を得る構成が開示されている。
特許文献3には、単一の撮影光学系と、その単一の撮影光学系の異なる領域を通過した光束をそれぞれ光電変換する第1画素群および第2画素群を配列した撮像素子とを備え、第1画素群により得られた平面画像および第2画素群により得られた平面画像からなる立体視画像を生成する撮像装置が開示されている。
特許文献4には、特許文献3に記載の撮像装置において、第1画素の出力と第2画素の出力とを加算することが記載されている。
特許文献5には、複数の撮影光学系を備えた複眼撮像装置において、2D動画、3D動画それぞれの撮影用に設定された周期で露出制御を行う構成が開示されている。3D動画撮影では、深度を変えないため、メカ絞りをできるだけ動かさない。
特表2009−527007号公報 特開2009−168995号公報 特開平10−42314号公報 特開2008−299184号公報 特開2008−187385号公報
単一の撮影光学系を用いて複数視点の平面画像からなる立体視画像を生成可能な撮像装置(以下「単眼3D撮像装置」という)では、複数視点の平面画像から一枚の広ダイナミックレンジの平面画像を生成しようとすると、非合焦部分で階調が破綻してしまう。このような階調破綻のしくみについて、以下説明する。
まず、図12Aを用いて、瞳分割をしない単眼撮像装置により3つの被写体91、92、93を撮像した場合について、説明しておく。撮像素子16に結像された3つの像91a、92a、93aのうち、撮像素子16で焦点が合うのは、合焦面D上にある被写体92の像92aだけである。被写体91の撮影レンズ12からの距離は合焦面Dよりも遠く、その合焦像91dは撮像素子16よりも撮影レンズ12に近いところに形成されるので、被写体91の像91aは焦点が合わずにぼやけた像、すなわちボケた像となる。また、被写体93の撮影レンズ12からの距離は合焦面Dよりも近く、その合焦像93dは撮像素子16よりも撮影レンズ12から遠いところに形成されるので、被写体93の像93aも焦点が合わずにボケた像となる。
次に、瞳分割の単眼3D撮像装置により3つの被写体91、92、93を撮像した場合について、説明する。本例の単眼3D撮像装置では、図12Bに示すように撮影レンズ12の瞳をシャッタ95によって上方のみに制限した状態と、図12Cに示すように撮影レンズ12の瞳をシャッタ95によって下方のみに制限した状態とがある。このような単眼3D撮像装置における撮像素子16上の像のボケ量(像の焦点が合っていない量)および位置は、図12Aに示した単眼撮像装置と異なる。即ち、図12Bに示した状態では、図13Bに示すように、被写体91の像91bは、瞳分割なしの場合(図13A)の被写体91の像91aと比較して、ボケ量が小さくなり且つ位置が図中の下側に移動する。また、被写体93の像93bは、ボケ量が小さくなり且つ位置が図中の上側に移動する。図13Cに示した状態では、図13Cに示すように、被写体91の像91cは、瞳分割なしの場合(図13A)の被写体91の像91aと比較して、ボケ量が小さくなり且つ位置が図中の上側に移動する。また、被写体93の像93cは、ボケ量が小さくなり且つ位置が図中の下側に移動する。
このような単眼3D撮像装置において、図13Bに示した画像と図13Cに示した画像とでは、像91bと像91c、像93bと像93cとで、結像位置がズレている。即ち、高解像度平面画像の撮影の際、同一被写体からの光束が撮影レンズ12の異なる瞳位置を通過することで、同一被写体の像が撮像素子16の異なる位置に結像することになる。従って、異なる露光時間で露光して得られた二つの平面画像を画素加算すると、視差に起因した階調の破綻が発生するという問題がある。
特許文献1〜5には、視差に起因した階調の破綻を改善することができる構成について、開示がない。
なお、特許文献4に記載の構成では、広ダイナミックレンジの画像を生成することができない。また、単純に近傍画素同士で画素加算を行なうだけなので、合焦した主要被写体の解像度が画素加算により低下してしまうという問題がある。例えば、2画素混合の場合には、解像度が1/2に低下してしまうことになる。
特許文献5に記載の構成は、複眼方式であるため、小絞りにしても結像ズレは発生せず、また、絞りを切り替えないことに主眼が置かれている。
本発明はこのような事情に鑑みてなされたもので、瞳分割に因る結像ズレを低減して、広ダイナミックレンジ画像の品質を向上させることができる撮像装置および撮像方法を提供することを目的とする。
前記目的を達成するために、本発明は、単一の撮影光学系と、単一の撮影光学系の異なる領域を通過した光束をそれぞれ光電変換する第1の画素群および第2の画素群を有する撮像素子とを備え、第1の画素群および第2の画素群により同一のシーンを撮像して第1の画素群の画素データおよび第2の画素群の画素データからなる立体視画像を生成可能な撮像装置であって、第1の画素群の画素データと第2の画素群の画素データとの画素加算により一枚の平面画像を取得する第1の平面撮影モードおよび第2の平面撮影モードのうち一方の撮影モードの設定入力を受け付ける撮影モード設定手段と、第1の平面撮影モードの撮影の場合には、撮像素子の第1の画素群と第2の画素群とに同一露光時間の露光を行わせて第1の画素群の画素データと第2の画素群の画素データとの画素加算を行うことで平面画像を取得し、第2の平面撮影モードの撮影の場合には、撮像素子の第1の画素群と第2の画素群とに異なる露光時間の露光を行わせて第1の画素群の画素データと第2の画素群の画素データとの画素加算により広ダイナミックレンジの平面画像を取得する撮影実行制御手段と、撮像素子に入射する光束が通過する光路中に配置された絞り装置と、第2の平面撮影モードの撮影時には、絞り装置の絞り値を第1の平面撮影モードの撮影時の絞り値よりも大きくする絞り制御手段と、を備えたことを特徴とする撮像装置を提供する。
即ち、第2の平面撮影モード(DRモード)の撮影時には、第1の平面撮影モードの撮影時よりも絞り装置の絞り値を大きくするので、瞳分割に因る結像ズレが低減し、広ダイナミックレンジの平面画像の品質を向上させることが可能となる。
なお、絞り装置は、撮影光学系と撮像素子との間に配置されている場合には限定されず、撮影光学系が複数のレンズ(レンズ群)によって構成され、レンズ群の中に配置されている場合もある。
本発明の一実施形態では、第1の画素群と第2の画素群は2次元に配列されている受光素子からなり、撮像素子には第1の画素群の各画素と第2の画素群の各画素とが互いに隣接して配置されていることが好ましい。
本発明の一実施形態では、撮影光学系を通過した光束を分割する光学部材を備え、撮像素子は、光学部材により瞳分割された光束をそれぞれ受光する第1の画素群を有した第1の撮像素子と第2の画素群を有した第2の撮像素子とによって構成されていることが好ましい。
本発明の一実施形態では、第1の平面撮影モードの撮影の場合、絞り制御手段は、絞り装置を開放状態にすることが好ましい。
また、本発明の一実施形態では、撮像素子に入射する光束が通過する光路中に挿入可能である減光フィルタと、被写体輝度を取得する被写体輝度取得手段と、を備え、絞り制御手段は、第1の平面撮影モードの撮影時に、被写体輝度取得手段により取得された被写体輝度に基づいて、減光フィルタを光路中に挿入するか否かを制御することが好ましい。
即ち、第1の平面撮影モード(SNモード)の撮影時には、絞りに因る回析を回避して更に高品位の画像を得ることができる。
なお、減光フィルタは、撮影光学系と撮像素子との間に配置されている場合には限定されず、撮影光学系が複数のレンズ(レンズ群)によって構成され、レンズ群の中に配置されている場合もある。
本発明の一実施形態では、被写体距離を取得する被写体距離取得手段を備え、絞り制御手段は、第2の平面撮影モードの撮影時に、被写体距離取得手段により取得された被写体距離に基づいて、絞り装置を開放状態にするか否かを切り替えることが好ましい。
本発明の一実施形態では、絞り制御手段は、第2の平面撮影モードの撮影時に、被写体距離が閾値よりも大きい場合には、絞り装置を開放状態にすることが好ましい。
即ち、第2の平面撮影モード(DRモード)の撮影時でも、被写体距離が大きい場合には、結像ズレが少ないため、絞り装置を開放状態にすることで、絞りに因る回析を回避して更に高品位の広ダイナミックレンジ画像を得ることができる。
本発明の一実施形態では、撮影光学系の焦点距離を取得する焦点距離取得手段を備え、絞り制御手段は、第2の平面撮影モードの撮影時に、焦点距離取得手段により取得された焦点距離に基づいて、絞り装置を開放状態にするか否かを切り替えることが好ましい。
本発明の一実施形態では、記絞り制御手段は、第2の平面撮影モードの撮影時に、焦点距離が閾値以下の場合には、絞り装置を開放状態にすることが好ましい。
即ち、第2の平面撮影モード(DRモード)の撮影時でも、撮影光学系の焦点距離が小さい場合には、結像ズレが少ないため、絞り装置を開放状態にすることで、絞りに因る回析を回避して更に高品位の広ダイナミックレンジ画像を得ることができる。
本発明の一実施形態では、絞り制御手段は、第2の平面撮影モードの撮影時に、絞り装置を開放状態にした場合には、被写体輝度に基づいて、減光フィルタを挿入状態にするか否かを切り替えることが好ましい。
即ち、第2の平面撮影モード(DRモード)の撮影時に、絞り装置を開放状態にした場合でも、減光フィルタにより輝度調整を行なって、更に高品位の画像を得ることが可能となる。
また、本発明は、単一の撮影光学系と、単一の撮影光学系の異なる領域を通過した光束をそれぞれ光電変換する第1の画素群および第2の画素群を有する撮像素子と、撮像素子に入射する光束が通過する光路中に配置された絞り装置を用い、第1の画素群および第2の画素群により同一のシーンを撮像して第1の画素群の画素データおよび第2の画素群の画素データからなる平面画像を取得する生成撮像方法であって、第1の画素群の画素データと第2の画素群の画素データとの画素加算により一枚の平面画像を取得する第1の平面撮影モードおよび第2の平面撮影モードのうち一方の撮影モードの設定入力を受け付けるステップと、第2の平面撮影モードの撮影の場合に、絞り装置の絞り値を第1の平面撮影モードの撮影時の絞り値よりも大きくするステップと、第1の平面撮影モードの撮影の場合には、撮像素子の第1の画素群と第2の画素群とに同一露光時間の露光を行わせて第1の画素群の画素データと第2の画素群の画素データとの画素加算を行ことで平面画像を取得し、第2の平面撮影モードの撮影の場合には、撮像素子の第1の画素群と第2の画素群とに異なる露光時間の露光を行わせて第1の画素群の画素データと第2の画素群の画素データとの画素加算により広ダイナミックレンジの平面画像を取得するステップと、を含む撮像方法を提供する。
本発明の一実施形態では、第1の平面撮影モードの撮影の場合、絞り装置を開放状態にすることが好ましい。
本発明の一実施形態では、撮像素子に入射する光束が通過する光路中に挿入可能である減光フィルタと、被写体輝度を取得する被写体輝度取得手段とを用い、第1の平面撮影モードの撮影時に、被写体輝度取得手段により取得された被写体輝度に基づいて、減光フィルタを光路中に挿入するか否かを制御することが好ましい。
本発明の一実施形態では、被写体距離を取得する被写体距離取得手段を用い、第2の平面撮影モードの撮影時に、被写体距離取得手段により取得された被写体距離に基づいて、絞り装置を開放状態にするか否かを切り替えることが好ましい。
本発明の一実施形態では、第2の平面撮影モードの撮影時に、被写体距離が閾値よりも大きい場合には、絞り装置を開放状態にすることが好ましい。
本発明の一実施形態では、撮影光学系の焦点距離を取得する焦点距離取得手段を用い、第2の平面撮影モードの撮影時に、焦点距離取得手段により取得された焦点距離に基づいて、絞り装置を開放状態にするか否かを切り替えることが好ましい。
本発明の一実施形態では、第2の平面撮影モードの撮影時に、焦点距離が閾値以下の場合には、絞り装置を開放状態にすることが好ましい。
本発明の一実施形態では、第2の平面撮影モードの撮影時に、絞り装置を開放状態にした場合には、被写体輝度に基づいて、減光フィルタを挿入状態にするか否かを切り替えることが好ましい。
本発明によれば、瞳分割に因る結像ズレを低減して偽解像を改善することで、広ダイナミックレンジ画像の品質を向上させることができる。
本発明に係る撮像装置のハードウェア構成例を示すブロック図 撮像素子の構成例を示す図 撮像画素を示した図 図3の要部拡大図 第1実施形態における撮像装置の要部ブロック図 第1実施形態における撮像処理例の流れを示すフローチャート 第2実施形態における撮像処理例の流れを示すフローチャート 第3実施形態における撮像装置の要部ブロック図 第3実施形態における撮像処理例の流れを示すフローチャート 撮影モード設定処理の流れを示すフローチャート ベイヤ配列の例を示す模式図 本発明の課題の説明に用いる説明図であって、図12Aは瞳分割なしの撮像系の要部を示す説明図、図12Bおよび図12Cは瞳分割方式の3D単眼撮像系の要部を示す説明図 本発明の課題の説明に用いる説明図であって、図12Aは瞳分割なしの撮像系での結像の様子を示す模式図、図12Bおよび図12Cは瞳分割方式の3D単眼撮像系での結像の様子を示す模式図 瞳分割の他の例を示す説明図
以下、添付図面に従って、本発明の実施形態について、詳細に説明する。
<撮像装置の全体構成>
図1は本発明に係る撮像装置10の実施の形態を示すブロック図である。
この撮像装置10は、撮像した画像を記録メディア54に記録するもので、装置全体の動作は、中央処理装置(CPU)40によって統括制御される。
撮像装置10には、シャッタボタン、モードダイヤル、再生ボタン、MENU/OKキー、十字キー、BACKキー等の操作部38が設けられている。この操作部38からの信号はCPU40に入力され、CPU40は入力信号に基づいて撮像装置10の各回路を制御し、例えば、レンズ駆動制御、絞り駆動制御、撮影動作制御、画像処理制御、画像データの記録/再生制御、立体表示用の液晶モニタ30の表示制御などを行う。
シャッタボタンは、撮影開始の指示を入力する操作ボタンであり、半押し時にONするS1スイッチと、全押し時にONするS2スイッチとを有する二段ストローク式のスイッチで構成されている。モードダイヤルは、2D撮影モード、3D撮影モード、DRモード、SNモード等の撮影モードを選択する選択手段である。
再生ボタンは、撮影記録した立体視画像(3D画像)、平面画像(2D画像)の静止画又は動画を液晶モニタ30に表示させる再生モードに切り替えるためのボタンである。MENU/OKキーは、液晶モニタ30の画面上にメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するOKボタンとしての機能とを兼備した操作キーである。十字キーは、上下左右の4方向の指示を入力する操作部であり、メニュー画面から項目を選択したり、各メニューから各種設定項目の選択を指示したりするボタン(カーソル移動操作手段)として機能する。また、十字キーの上/下キーは撮影時のズームスイッチあるいは再生モード時の再生ズームスイッチとして機能し、左/右キーは再生モード時のコマ送り(順方向/逆方向送り)ボタンとして機能する。BACKキーは、選択項目など所望の対象の消去や指示内容の取消し、あるいは1つ前の操作状態に戻らせる時などに使用される。
撮影モード時において、被写体を示す画像光は、フォーカスレンズ、ズームレンズを含む撮影レンズ12(撮影光学系)、絞り14を介して撮像素子16の受光面に結像される。撮影レンズ12は、CPU40によって制御されるレンズ駆動部36によって駆動され、フォーカス制御、ズーム制御等が行われる。
絞り14は、撮像素子16に入射する光束が通過する光路13中に配置され、例えば、5枚の絞り羽根からなる。絞り14は、CPU40によって制御される絞り駆動部34によって駆動され、例えば、絞り値F1.4〜F11まで1AV刻みで6段階に絞り制御される。なお、図1には、撮影レンズ12と撮像素子16と間に絞り14を配置した場合を示したが、このような場合に特に限定されない。撮影レンズ12が複数のレンズ(あるいは複数のレンズ群)によって構成され、撮影レンズ12の中に絞り14が配置されている場合もある。
NDフィルタ15(減光フィルタ)は、撮像素子16に入射する光量を減少させるデバイスであり、撮像素子16に入射する光束が通過する光路13中に挿入可能である。なお、図1には、撮影レンズ12と撮像素子16との間にNDフィルタ15を配置した場合を示したが、このような場合に特に限定されない。撮影レンズ12が複数のレンズ(あるいは複数のレンズ群)によって構成され、撮影レンズ12の中にNDフィルタ15が配置されている場合もある。
NDフィルタ15は、フィルタ挿抜駆動部33により、光路13中に挿入された挿入状態と、光路13から外れた非挿入状態とが切り替えられる。NDフィルタ15の枚数は、特に限定されない。複数枚(例えば5枚)のフィルタにより構成されていてもよい。
CPU40は、撮像素子制御部32を介して撮像素子16での露光時間(電荷蓄積時間)や撮像素子16での画像信号の読み出しを制御する。また、CPU40は、撮像素子制御部32を介して撮像素子16での画素加算を制御する。また、CPU40は、フィルタ挿抜制御部33を介して、NDフィルタ15の挿入状態および非挿入状態を切り替える。また、CPU40は、絞り駆動部34を介して絞り14を制御する。
<単眼3D撮像素子の構成例>
図2は撮像素子16の構成例を示す図である。
撮像素子16は、それぞれマトリクス状に配列された奇数ラインの撮像画素(以下「主画素」という)と、偶数ラインの撮像画素(以下「副画素」という)とを有しており、これらの主、副画素にてそれぞれ光電変換された2面分の画像信号は、独立して読み出すことができるようになっている。
図2に示すように撮像素子16の奇数ライン(1、3、5、…)には、R(赤)、G(緑)、B(青)のカラーフィルタを備えた画素のうち、GRGR…の画素配列のラインと、BGBG…の画素配列のラインとが交互に設けられ、一方、偶数ライン(2、4、6、…)の画素は、奇数ラインと同様に、GRGR…の画素配列のラインと、BGBG…の画素配列のラインとが交互に設けられるとともに、偶数ラインの画素に対して画素同士が配列ピッチの2分の1ピッチだけライン方向にずれて配置されている。即ち、撮像素子16の画素配列は、ハニカム配列となっている。
図3は撮影レンズ12、絞り14、及び撮像素子16の主画素PDa、副画素PDbの1画素ずつを示した図であり、図4は図3の要部拡大図である。
図4Aに示すように通常の撮像素子の画素(フォトダイオードPD)には、射出瞳を通過する光束が、マイクロレンズLを介して制限を受けずに入射する。
これに対し、撮像素子16の主画素PDa及び副画素PDbには遮光部材16Aが形成され、この遮光部材16Aにより主画素PDa、副画素PDbの受光面の右半分、又は左半分が遮光されている。即ち、遮光部材16Aが瞳分割部材としての機能を有している。図4Aに示すように、主画素PDa群と副画素PDb群とは2次元に配列されている受光素子PDa、PDbからなり、撮像素子16には主画素PDaと副画素PDbとが互いに隣接して配置されている。
尚、上記構成の撮像素子16は、主画素PDaと副画素PDbとでは、遮光部材16Aにより光束が制限されている領域(右半分、左半分)が異なるように構成されているが、これに限らず、遮光部材16Aを設けずに、マイクロレンズLとフォトダイオードPD(PDa,PDb)とを相対的に左右方向にずらし、そのずらす方向によりフォトダイオードPDに入射する光束が制限されるものでもよいし、また、2つの画素(主画素と副画素)に対して1つのマイクロレンズを設けることにより、各画素に入射する光束が制限されるものでもよい。
図1に戻って、撮像素子16に蓄積された信号電荷は、撮像素子制御部32から加えられる読み出し信号に基づいて信号電荷に応じた電圧信号として読み出される。本例の撮像素子16は、画素加算機能を有しており、CPU40の制御により撮像素子制御部32を介して画素加算を指示された場合、その指示に従って画素加算を行なう。DRモードの場合、異なる露光時間で露光された主画素の電荷(画素値)と副画素の電荷(画素値)とを加算する。撮像素子16から読み出された電圧信号は、アナログ信号処理部18に加えられ、ここで各画素ごとのR、G、B信号がサンプリングホールドされ、CPU40から指定されたゲイン(ISO感度に相当)で増幅されたのちA/D変換器20に加えられる。A/D変換器20は、順次入力するR、G、B信号をデジタルのR、G、B信号に変換して画像入力コントローラ22に出力する。
デジタル信号処理部24は、画像入力コントローラ22を介して入力するデジタルの画像信号に対して、オフセット処理、ホワイトバランス補正、感度補正を含むゲイン・コントロール処理、ガンマ補正処理、同時化処理、YC処理、コントラスト強調、輪郭補正等の所定の信号処理を行う。
また、EEPROM56は、カメラ制御プログラム、撮像素子16の欠陥情報、画像処理等に使用する各種のパラメータやテーブル、プログラム線図等が記憶されている不揮発性メモリである。
ここで、図2B及びCに示すように、撮像素子16の奇数ラインの主画素から読み出される主画素データは、左視点の平面画像(以下「左画像」という)として処理され、偶数ラインの副画素から読み出される副画素データは、右視点の平面画像(以下「右画像」という)として処理される。
デジタル信号処理部24で処理された左画像及び右画像は、VRAM50に入力する。VRAM50には、それぞれが1コマ分の3D画像を表す3D画像データを記憶するA領域とB領域とが含まれている。VRAM50において1コマ分の3D画像を表す3D画像データがA領域とB領域とで交互に書き換えられる。VRAM50のA領域及びB領域のうち、3D画像データが書き換えられている方の領域以外の領域から、書き込まれている3D画像データが読み出される。VRAM50から読み出された3D画像データはビデオ・エンコーダ28においてエンコーディングされ、カメラ背面に設けられている立体表示用の液晶モニタ30(LCD)に出力され、これにより3Dの被写体像が液晶モニタ30の表示画面上に表示される。
この液晶モニタ30は、立体視画像(左画像及び右画像)をパララックスバリアによりそれぞれ所定の指向性をもった指向性画像として表示できる立体表示手段であるが、これに限らず、レンチキュラレンズを使用するものや、偏光メガネ、液晶シャッタメガネなどの専用メガネをかけることで左画像と右画像とを個別に見ることができるものでもよい。
また、操作部38のシャッタボタンの第1段階の押下(半押し)があると、撮像素子16は、AF動作及びAE動作を開始させ、レンズ駆動部36を介して撮影レンズ12内のフォーカスレンズが合焦位置にくるように制御する。また、シャッタボタンの半押し時にA/D変換器20から出力される画像データは、AE検出部44に取り込まれる。
AE検出部44では、画面全体のG信号を積算し、又は画面中央部と周辺部とで異なる重みづけをしたG信号を積算し、その積算値(AE評価値)をCPU40に出力する。
AF処理部42は、コントラストAF処理又は位相AF処理を行う部分である。コントラストAF処理を行う場合には、左画像データ及び右画像データの少なくとも一方の画像データのうちの所定のフォーカス領域内の画像データの高周波成分を抽出し、この高周波成分を積分することにより合焦状態を示すAF評価値を算出する。このAF評価値が極大となるように撮影レンズ12内のフォーカスレンズを制御することによりAF制御が行われる。また、位相差AF処理を行う場合には、左画像データ及び右画像データのうちの所定のフォーカス領域内の主画素、副画素に対応する画像データの位相差を検出し、この位相差を示す情報に基づいてデフォーカス量を求める。このデフォーカス量が0になるように撮影レンズ12内のフォーカスレンズを制御することによりAF制御が行われる。このAF制御中に、AF処理部42は、合焦した被写体の被写体距離を算出する。
AE動作及びAF動作が終了し、シャッタボタンの第2段階の押下(全押し)があると、その押下に応答してA/D変換器20から出力される主画素及び副画素に対応する左画像及び右画像の2枚分の画像データが画像入力コントローラ22からメモリ(SDRAM) 48に入力し、一時的に記憶される。
メモリ48に一時的に記憶された2枚分の画像データは、デジタル信号処理部24により適宜読み出され、ここで画像データの輝度データ及び色差データの生成処理(YC処理)を含む所定の信号処理が行われる。YC処理された画像データ(YCデータ)は、再びメモリ48に記憶される。続いて、2枚分のYCデータは、それぞれ圧縮伸長処理部26に出力され、JPEG (joint photographic experts group)などの所定の圧縮処理が実行されたのち、再びメモリ48に記憶される。
メモリ48に記憶された2枚分のYCデータ(圧縮データ)から、マルチピクチャファイル(MPファイル:複数の画像が連結された形式のファイル)が生成され、そのPMファイルは、メディアコントローラ52により読み出され、メモリカード54に記録される。
次に、本発明を第1実施形態〜第3実施形態に分けて、以下説明する。
<第1実施形態>
図5は、撮像装置10の要部の詳細を示すブロック図である。なお、図5において、図1に示した構成要素には同じ符号を付してあり、既に説明した事項について以下ではその説明を省略する。
本実施形態の撮像装置10において、CPU40は、撮影モード設定制御部62、AE制御部64、AF制御部66、撮影実行制御部68および絞り制御部70を含んで構成されている。
撮影モード設定制御部62は、操作部38により撮影モードの設定入力を受け付け、受け付けた撮影モードをメモリ48に記憶する。
撮影モードには、3D画像(立体視画像)を取得する3D撮影モードと、2D画像(平面画像)を取得する2D撮影モードがある。さらに、2D撮影モードには、DRモード(DR撮影モード)とSNモード(SN撮影モード)とがある。
DR(広ダイナミックレンジ)モードでは、撮像素子16の主画素と副画素とで異なる露光時間の露光を行なって、これらの露光時間の異なる複数の画素間で電荷(画素値)を加算する。このDRモードの画素加算によれば、明るい撮影シーンでも広ダイナミックレンジの2D画像(DR画像)を得られる。即ち、DRモードは、特別な2D撮影モードであって、主画素群および副画素群のうち一方の画素値を用いる2D撮影モード(2Dノーマルモード)とは異なり、主画素群および副画素群の両方の画素値(画素データ)を用いて2D画像を生成する。
SN(ノイズ低減)モードでは、撮像素子16の主画素と副画素とで同一露光時間の露光を行なって、これらの同一露光時間の複数の画素間で電荷(画素値)を加算する。このSNモードの画素加算によれば、暗い撮影シーンでも明るい画像(例えば3D画像)を得られる。もしもSNモードの画素加算ではなく信号のゲインアップ(増幅)を行ったとすると、そのゲインアップに伴いノイズも増大してしまうが、SNモードでは同一露光時間の複数の画素間で電荷の加算を行なうため、ノイズが少なく且つ明るい画像を得られる。また、SNモードでは、同一露光時間の画素間で画素加算を行なうので、結像ズレの影響(偽解像)が解消する。
AE制御部64は、後述の絞り制御部70の制御に従ってAE制御を行うものであり、AE検出部44から出力される積算値に基づいてEV値(被写体輝度)を算出し、絞り制御部70の制御に従って、EV値に基づいて絞り14の絞り値、NDフィルタ15の挿入有無(挿入状態/非挿入状態)、および撮像素子16のシャッタ速度を決定し、決定した絞り値に基づいて絞り駆動部34を介して絞り14を制御し、決定したNDフィルタ15の挿入有無に基づいてフィルタ挿抜駆動部33を介してNDフィルタ15の挿入状態/非挿入状態を切り替え、決定したシャッタ速度に基づいて撮像素子制御部32を介して撮像素子16での露光時間(電荷蓄積時間)を制御する。
AF制御部66は、AF処理部42を制御することで、コントラストAF処理または位相差AF処理を行う。このAF制御中に、合焦した被写体の被写体距離をAF処理部42から取得する。
撮影実行制御部68は、撮像素子制御部32を介して撮像素子16での電荷蓄積および電荷(画素データ)の読出しを制御して、主画素群の画素データからなる左画像と副画素群の画素データからなる右画像とを取得する。
また、撮影実行制御部68は、撮像素子制御部32を介して撮像素子15を制御し、撮像素子15にて主画素と副画素との画素値の加算(主副画素加算)を行なう。
3Dノーマルモードの撮影の場合、撮影実行制御部68は、撮像素子16により被写体を撮像して、左画像および右画像の組からなる3D画像(立体視画像)を取得し、その3D画像をメディアI/F52を介して記録メディア54に記録する。SNモードの撮影の場合は、主画素同士および副画素同士で画素加算した3D画像を生成して、記録メディア54に記録する。
SNモードの撮影の場合、撮影実行制御部68は、撮像素子16の主画素群と副画素群とに同一露光時間の露光を行わせて主画素群の画素データと副画素群の画素データとの画素加算を行うことで一枚のノイズ低減の平面画像を生成して、メディアI/F52を介して記録メディア54に記録する。DRモードの撮影の場合、撮影実行制御部68は、撮像素子16の主画素群と副画素群とに異なる露光時間の露光を行わせて主画素群の画素データと副画素群の画素データとの画素加算を行うことで、一枚の広ダイナミックレンジの平面画像(広ダイナミックレンジ画像)を生成して、メディアI/F52を介して記録メディア54に記録する。
絞り制御部70は、撮影実行制御部68の指示に従って、絞り駆動部34により、絞り14の絞り値(F値)を切り替える。また、絞り制御部70は、撮影実行制御部68の指示に従って、フィルタ挿抜駆動部33により、NDフィルタ15の挿入状態と非挿入状態とを切り替える。挿入状態は、NDフィルタ15が光路13中(光軸上)に挿入された状態であり、非挿入状態は、NDフィルタ15が光路13から外れた状態である。なお、NDフィルタ15の枚数は複数枚でもよく、複数枚の場合には挿入枚数を制御する。
絞り制御部70は、SNモードの撮影時、絞り装置70を開放状態(絞り値を最小値)にするとともに、AE制御部64により取得された被写体輝度に基づいて、NDフィルタ15を撮影レンズ12から撮像素子16までの光路13中に挿入した挿入状態にするか非挿入状態にするかを制御する。
また、本実施形態の絞り制御部70は、DRモードの撮影時、絞り14の絞り値を立体視画像の撮影時(本例ではSNモード)の絞り値よりも大きくするとともに、NDフィルタ15を非挿入状態にする。
図6は、第1実施形態における撮像処理例の流れを示すフローチャートである。本処理は、CPU40によりプログラムに従って実行される。
ステップS2にて、AE制御部64により、AE処理を行なう。このAE処理にて被写体輝度(EV値)が算出される。
ステップS4にて、AF制御部66により、AF(自動合焦)処理を行なう。このAF処理にて、合焦した主要被写体の被写体距離が取得される。
ステップS6にて、撮影モードを判定する。
なお、撮像装置10の撮影モードは実際には各種あるが、本発明の特徴の理解を容易にするため、撮影モードをDRモードおよびSNモードに限定して説明して、以下説明する。なお、本例のSNモードでは画素加算の3D画像が生成される。
撮影モードがSNモードである場合にはステップS8に進み、DRモードである場合には、ステップS14に進む。
SNモードの場合、ステップS8にて、AE制御部64により取得された被写体輝度が、閾値Tevよりも大きいか否かを判定する。
被写体輝度が閾値Tevよりも大きい場合(明るい場合)には、ステップS10にて、絞り制御部70は、絞り駆動部34により、絞り14を開放するとともに、フィルタ挿抜駆動部33により、NDフィルタ15を挿入状態に設定する。
被写体輝度が閾値Tev以下である場合(暗い場合)には、ステップS12にて、絞り制御部70は、絞り駆動部34により、絞り14を開放するとともに、フィルタ挿抜駆動部33により、NDフィルタ15を非挿入状態にする。
DRモードの場合、ステップS14にて、絞り制御部70は、絞り駆動部34を介して絞り14の絞り値(F値)を規定値以上に設定するとともに、フィルタ挿抜駆動部33により、NDフィルタ15を非挿入状態にする。
ここで、絞り値の規定値は、左画像と右画像とで同一被写体の結像位置を3D撮影時よりも近づけることで、視差に起因した偽解像を許容範囲内とする絞り値である。なお、規定値は、被写体距離、焦点距離、立体視環境(表示画面のサイズ、表示画面の解像度、観視距離など)やユーザの立体視融合限界などによっても異なるが、絞り14の絞り値をSNモードおよび3D撮影時よりも大きくさせる値である。
絞り制御部70は、例えば、絞り14を開放に対して1段以上絞る。例えば、開放がF2.8の場合にはF4以上、開放がF5.6の場合にはF8以上といったように、SNモードの撮影時(開放)よりも1段以上大きな絞り値を設定する。被写体輝度が大きい(明るい)場合には、2段以上絞ることが、望ましい。
ステップS16にて、撮影実行制御部68は、撮像素子制御部32を介して、撮像素子16の露光を制御する。DRモードの場合には、主画素と副画素とで異なる露光時間の露光を行なって、主画素と副画素との間で画素加算を行なう。SNモードの場合には、全画素を同一の露光時間で露光を行って、画素加算を行なう。
ステップS18にて、撮影実行制御部68は、撮像素子制御部32を介して、撮像素子16の主画素および副画素からの画素データ(電荷)の読み出しを制御する。読み出された信号はA/D変換器20によりアナログからデジタルに変換される。
ステップS20にて、デジタル信号処理部24等により、左画像および右画像に対し、所定のデジタル信号処理を行なう。
ステップS22にて、圧縮伸張処理部26により、画像圧縮を行なう。
ステップS24にて、メディアI/F52により、3D画像、または、2D画像(本例では、DRモードの2D画像、または、SNモードの2D画像)を、記録メディア54に記録する。
第1実施形態におけるDRモードの撮影では、必ず絞り14(絞り装置)により絞る。従来は、同一被写体からの光束が撮影レンズ12の異なる瞳位置を通過して同一被写体の像が撮像素子16の異なる位置に結像することに因り、画素加算した2D画像に階調の破綻が発生していたが、本実施形態の撮像装置10は、絞り14(絞り装置)により絞るので、結像位置が近づくことで階調の破綻が解消される。また、SNモードでは、絞り14(絞り装置)を開放するとともに、被写体輝度に基づいてNDフィルタ15を挿入状態にするか否かを制御するので、輝度調整を行なうことできる。
以上、DRモードとSNモードについて説明したが、他のモードで撮影してもよいことは、いうまでもない。
なお、SNモードにおいて、NDフィルタ15を挿入した状態とするか、絞り14を絞るかを、操作部38の設定入力により切り替え可能に構成してもよい。
<第2実施形態>
次に、第2実施形態の撮像装置について、図5を用いて説明する。なお、以下では、主として第1実施形態と異なる事項を説明し、第1実施形態で既に説明した事項はその説明を省略する。
本実施形態の絞り制御部70は、DRモードの撮影時、AF制御部66により取得された主要被写体の被写体距離に基づいて、NDフィルタ15を挿入状態にするか否かを制御する。例えば、DRモードの撮影時、合焦した主要被写体の被写体距離が閾値Tsよりも大きい場合(主要被写体が遠い場合)には、絞り14を開放状態(絞り値を最小値)に設定し、合焦した主要被写体の被写体距離が閾値Ts以下である場合(主要被写体が近い場合)には、絞り14の絞り値を規定値まで大きくするとともにNDフィルタ15を非挿入状態にする。
図6は、第2実施形態の撮像処理の流れを示すフローチャートである。
ステップS2〜S12は、第1実施形態と同様である。
DRモードの場合、ステップS13aにて、絞り制御部70は、AF制御部66により取得された主要被写体の被写体距離が閾値Tsよりも大きいか否かを判定する。
被写体距離が閾値Ts以下である場合(主要被写体が近い場合)にはステップS14に進み、被写体距離が閾値Tsよりも大きい場合(主要被写体が遠い場合)にはステップS15に進む。
ステップS14は、第1実施形態と同様である。即ち、絞り制御部70は、絞り駆動部34により、絞り14の絞り値(F値)を規定値以上に設定するとともに、フィルタ挿抜駆動部33により、NDフィルタ15を非挿入状態にする。
ステップS15にて、絞り制御部70は、絞り駆動部34により、絞り14を開放状態に設定するとともに、被写体輝度に基づいて、フィルタ挿抜駆動部33により、NDフィルタ15を挿入状態にするか否かを切り替える。
以上のように、本実施形態では、合焦した主要被写体の被写体距離が大きい(被写体が遠い)場合、左画像と右画像とで結像ズレが少なくなるため、DRモードでも、絞り14を開放状態に設定する。絞りを小さくした場合には回析に因り画質が低下してしまうが、NDフィルタ15を挿入するとともに開放状態(絞り値を最小値)にすることで、回析に因る画質の低下を防止する。また、被写界深度を一定に維持した撮影が可能となる。なお、被写体距離が小さい場合には、前述の偽解像の影響が大きくなるため、回析は許容して絞り14を絞ればよい。
なお、被写体距離をAF制御部66によりAF制御に伴って取得する場合を例に説明したが、このような場合には特に限定されず、例えば距離センサ等により直接的に検出してもよい。
<第3実施形態>
次に、第3実施形態の撮像装置について、図8を用いて説明する。なお、以下では、主として図5および図6に示した第1実施形態と異なる事項を説明し、第1実施形態で既に説明した事項はその説明を省略する。
図7は、第3実施形態における撮像装置10の要部を示すブロック図である。なお、図7において図1および図5に示した構成要素には同じ符号を付してある。
撮影レンズ12は、ズームレンズを有しており、焦点距離取得部72は、撮影レンズ12の焦点距離を取得する。
本実施形態の絞り制御部70は、DRモードの撮影時、焦点距離取得部72により取得された撮影レンズ12の焦点距離に基づいて、NDフィルタ15を挿入状態にするか否かを制御する。例えば、DRモードの撮影時、焦点距離が閾値Tzよりも大きい場合(焦点距離が長い場合)には、絞り14の絞り値を規定値まで大きくするとともにNDフィルタ15を非挿入状態にし、焦点距離が閾値Tz以下である場合(焦点距離が短い場合)には、絞り14を開放状態(絞り値を最小値)に設定する。
図8は、第3実施形態の撮像処理の流れを示すフローチャートである。
ステップS2〜S12は、第1実施形態と同様である。
DRモードの場合、ステップS13bにて、焦点距離取得部72により取得された撮影光学系12の焦点距離が閾値Tzよりも大きいか否かを判定する。
焦点距離が閾値Tzよりも大きい場合(焦点距離が長い場合)にはステップS14に進み、焦点距離が閾値Tz以下である場合(焦点距離が短い場合)にはステップS15に進む。
ステップS14〜S24は、第1実施形態と同様である。
本実施形態では、撮影レンズ12の焦点距離が短い場合、左画像と右画像とで結像ズレが少なくなるため、DRモードでも、絞り14を開放状態(絞り値を最小値)に設定して、NDフィルタ15を用いて減光を行なう。したがって、被写界深度を一定に維持した撮影が可能となる。
なお、焦点距離の取得態様は特に限定されない。撮影レンズ12のズームレンズの移動を直接的に焦点距離を検出してもよいし、レンズ駆動部36におけるズームレンズの駆動信号を監視して焦点距離を求めてもよいし、画像処理により焦点距離を求めてもよい。
<撮影モード設定処理>
図10は、第1実施形態から第3実施形態において共通の撮影モード設定処理の流れを示すフローチャートである。本処理は撮影モード設定制御部62により実行される。
電源がオンされると撮像装置10はスタンバイ状態になる。スタンバイ状態では、操作部38により撮影モードの設定入力操作を受け付け可能になる。
まず、2D撮影モードおよび3D撮影モードのうちいずれの設定指示であるかを判定する(ステップS52)。
2D撮影モードの選択指示の場合、ダイナミックレンジ拡大を行なうか否かの設定指示操作を受け付ける。ダイナミックレンジ拡大であるかを判定し(ステップS54)、Yesの場合にはDRモードを設定(ステップS56)、Noの場合にはSNモードを設定する(ステップS58)。
3D撮影モードの選択指示の場合、3Dノーマルモードを設定する(ステップS62)。
DRモードおよびSNモードは、第1実施形態にて説明した通りであり、それぞれ撮影時に画素加算を行なう。3Dのノーマルモードでは、画素加算を行なわないで左画像および右画像からなる立体視画像を記録する。
なお、DRモードおよびSNモードの選択指示操作を受け付ける場合を例に説明したが、本発明はこのような場合に特に限定されず、DRモードおよびSNモードを自動設定してもよい。例えば、ライブビュー画像(スルー画像)の表示時に、被写体輝度を取得し、2D撮影モードであって、被写体輝度が明るく、且つ、ダイナミックレンジが閾値以下の場合には、DRモードを自動的に選択してもよい。
また、撮影モードは図10に例示したモードには特に限定されず、他のモードを設けてよいことは、言うまでもない。例えば、各視点画像(左画像または右画像)よりも高解像度の高解像度2D画像を生成するモードを設けてもよい。
なお、本発明において、瞳分割の方式は、図3〜図4に示した瞳分割用の遮光部材16Aを用いる態様には特に限定されない。例えば、マイクロレンズLおよびフォトダイオードPDのうちで少なくとも一方の配置や形状に依り瞳分割する態様でもよいし、機械的な絞り14により瞳分割する態様でも。それ以外の態様でもよい。
また、撮像素子16は、CCD撮像素子に特に限定されない。例えば、CMOS撮像素子であってもよい。
また、撮像素子16における撮像画素の配列は、図2に示したハニカム配列である場合には、限定されない。図11AまたはBに配列の一部を模式的に示すベイヤ配列であってもよい。具体的には、偶数列全体としての画素配列(主画素配列)および奇数列全体としての画素配列(副画素配列)がいずれもベイヤ配列である、ダブルのベイヤ配列となっている。図11AおよびBにおいて、R、G,Bは、それぞれ赤、緑、青のフィルタを有する撮像画素であって、互いに隣接するR−R、G−G、B−Bの二つの画素(即ち近傍の同色画素)により画素ペアが構成されている。画素ペアのうち一方の画素データにより左画像の画素が構成され、他方の画素データにより右画像の画素が構成される。
また、DRモードおよびSNモードの画素加算を撮像素子16内で行う場合を例に説明したが、本発明はそのような場合に特に限定されない。撮像画素16外で画素加算を行なう場合にも、本発明を適用可能である。即ち、DRモードでは、異なる露光時間で撮像された左画像および右画像を、撮像素子16から取得した後に、画素加算を実行してもよい。SNモードの場合も、撮像素子16外で行なってもよい。
また、前述の第1実施形態において、絞り14の規定値は、例えば、モニタサイズ(表示画面のサイズ)、モニタ解像度(表示画面の解像度)、観視距離(表示画面を見る距離)、ユーザの立体視融合限界(個人差がある)などの算出条件に基づいて、CPU40により算出される。これらの算出条件の設定は、ユーザ設定および自動設定のいずれでもよい。ユーザ設定の場合には、操作部38により設定操作が行われ、その設定内容がEEPROM56に記憶される。モニタサイズおよびモニタ解像度(表示画面の解像度)は、モニタ(図1のLCD30)等から情報を自動的に取得してもよい。また、ユーザ設定されなかった算出条件(または自動取得できなかった算出条件)については、標準的な条件を適用してもよい。
また、瞳分割は、図2〜図4に示したような撮像素子16(主画素と副画素とが互いに近接して配置されている構造)を用いる場合には、特に限定されない。例えば、図14に示すように、メインレンズ1及びリレーレンズ2の左右異なる領域を通過した光束をミラー4により瞳分割し、それぞれ結像レンズ5、6を介して撮像素子7、8に結像するようにしてもよい。つまり、光学部材(ミラー4)により瞳分割された光束をそれぞれ受光する第1の画素群を有した第1の撮像素子7および第2の画素群を有した第2の撮像素子8を備えた撮像装置としてもよい。図14に示した構成にも本発明を適用できる。
本発明は、本明細書において説明した例や図面に図示された例には限定されず、本発明の要旨を逸脱しない範囲において、各種の設計変更や改良を行ってよいのはもちろんである。
10…撮像装置、12…撮像レンズ、13…光路、14…絞り、15…NDフィルタ(減光フィルタ)、16…撮像素子、40…CPU、62…撮影モード設定制御部、64…AE制御部(被写体輝度取得手段)、66…AF制御部(被写体距離取得手段)、68…撮影実行制御部、70…絞り制御部、72…焦点距離取得部

Claims (14)

  1. 単一の撮影光学系と、前記単一の撮影光学系の異なる領域を通過した光束をそれぞれ光電変換する第1の画素群および第2の画素群を有する撮像素子とを備える撮像装置であって
    前記第1の画素群および前記第2の画素群により同一のシーンを撮像して前記第1の画素群の画素データおよび前記第2の画素群の画素データからなる立体視画像を生成可能な撮像素子と、
    前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算により一枚の平面画像を取得する第1の平面撮影モードおよび第2の平面撮影モードのうち一方の撮影モードの設定入力を受け付ける撮影モード設定手段と、
    前記第1の平面撮影モードの撮影の場合には、前記撮像素子の前記第1の画素群と前記第2の画素群とに同一露光時間の露光を行わせて前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算を行うことで平面画像を取得し、前記第2の平面撮影モードの撮影の場合には、前記撮像素子の前記第1の画素群と前記第2の画素群とに異なる露光時間の露光を行わせて前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算により広ダイナミックレンジの平面画像を取得する撮影実行制御手段と、
    前記撮像素子に入射する光束が通過する光路中に配置された絞り装置と、
    前記第2の平面撮影モードの撮影時には、前記絞り装置の絞り値を前記第1の平面撮影モードの撮影時の絞り値よりも大きくする絞り制御手段と、
    を備えたことを特徴とする撮像装置。
  2. 前記第1の画素群と前記第2の画素群は2次元に配列されている受光素子からなり、
    前記撮像素子には前記第1の画素群の各画素と前記第2の画素群の各画素とが互いに隣接して配置されていることを特徴とする請求項1に記載の撮像装置。
  3. 前記撮影光学系を通過した光束を分割する光学部材を備え、
    前記撮像素子は、前記光学部材により瞳分割された光束をそれぞれ受光する前記第1の画素群を有した第1の撮像素子と前記第2の画素群を有した第2の撮像素子とによって構成されていることを特徴とする請求項1に記載の撮像装置。
  4. 前記第1の平面撮影モードの撮影の場合、前記絞り制御手段は、前記絞り装置を開放状態にすることを特徴とする請求項1ないし3のうちいずれか1項に記載の撮像装置。
  5. 前記撮像素子に入射する光束が通過する光路中に挿入可能である減光フィルタと、
    被写体輝度を取得する被写体輝度取得手段と、を備え、
    前記絞り制御手段は、前記第1の平面撮影モードの撮影時に、前記被写体輝度取得手段により取得された前記被写体輝度に基づいて、前記減光フィルタを前記光路中に挿入するか否かを制御することを特徴とする請求項1ないし4のうちいずれか1項に記載の撮像装置。
  6. 単一の撮影光学系と、前記単一の撮影光学系の異なる領域を通過した光束をそれぞれ光電変換する第1の画素群および第2の画素群を有する撮像素子とを備える撮像装置であって
    前記第1の画素群および前記第2の画素群により同一のシーンを撮像して前記第1の画素群の画素データおよび前記第2の画素群の画素データからなる立体視画像を生成可能な撮像素子と、
    前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算により一枚の平面画像を取得する第1の平面撮影モードおよび第2の平面撮影モードのうち一方の撮影モードの設定入力を受け付ける撮影モード設定手段と、
    前記第1の平面撮影モードの撮影の場合には、前記撮像素子の前記第1の画素群と前記第2の画素群とに同一露光時間の露光を行わせて前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算を行うことで平面画像を取得し、前記第2の平面撮影モードの撮影の場合には、前記撮像素子の前記第1の画素群と前記第2の画素群とに異なる露光時間の露光を行わせて前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算により広ダイナミックレンジの平面画像を取得する撮影実行制御手段と、
    前記撮像素子に入射する光束が通過する光路中に配置された絞り装置と、
    被写体距離を取得する被写体距離取得手段と、を備え、
    前記第2の平面撮影モードの撮影時には、前記被写体距離取得手段により取得された前記被写体距離が閾値よりも大きい場合には、前記絞り装置を開放状態にし、前記被写体距離が閾値以下の場合には、前記絞り装置の絞り値を前記第1の平面撮影モードの撮影時の絞り値よりも大きくすることを特徴とする撮像装置。
  7. 単一の撮影光学系と、前記単一の撮影光学系の異なる領域を通過した光束をそれぞれ光電変換する第1の画素群および第2の画素群を有する撮像素子とを備える撮像装置であって
    前記第1の画素群および前記第2の画素群により同一のシーンを撮像して前記第1の画素群の画素データおよび前記第2の画素群の画素データからなる立体視画像を生成可能な撮像素子と、
    前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算により一枚の平面画像を取得する第1の平面撮影モードおよび第2の平面撮影モードのうち一方の撮影モードの設定入力を受け付ける撮影モード設定手段と、
    前記第1の平面撮影モードの撮影の場合には、前記撮像素子の前記第1の画素群と前記第2の画素群とに同一露光時間の露光を行わせて前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算を行うことで平面画像を取得し、前記第2の平面撮影モードの撮影の場合には、前記撮像素子の前記第1の画素群と前記第2の画素群とに異なる露光時間の露光を行わせて前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算により広ダイナミックレンジの平面画像を取得する撮影実行制御手段と、
    前記撮像素子に入射する光束が通過する光路中に配置された絞り装置と、
    前記撮影光学系の焦点距離を取得する焦点距離取得手段と、を備え、
    前記第2の平面撮影モードの撮影時には、前記焦点距離取得手段により取得された前記焦点距離が閾値以下の場合には、前記絞り装置を開放状態にし、前記焦点距離が閾値より大きい場合には、前記絞り装置の絞り値を前記第1の平面撮影モードの撮影時の絞り値よりも大きくすることを特徴とする撮像装置。
  8. 前記撮像素子に入射する光束が通過する光路中に挿入可能である減光フィルタと、
    被写体輝度を取得する被写体輝度取得手段と、を備え、
    前記絞り制御手段は、前記第2の平面撮影モードの撮影時に、前記絞り装置を開放状態にした場合には、前記被写体輝度に基づいて、前記減光フィルタを挿入状態にするか否かを切り替えることを特徴とする請求項6または7に記載の撮像装置。
  9. 単一の撮影光学系と、前記単一の撮影光学系の異なる領域を通過した光束をそれぞれ光電変換する第1の画素群および第2の画素群を有し、前記第1の画素群および前記第2の画素群により同一のシーンを撮像して前記第1の画素群の画素データおよび前記第2の画素群の画素データからなる立体視画像を生成可能な撮像素子と、前記撮像素子に入射する光束が通過する光路中に配置された絞り装置を用い、前記第1の画素群の画素データおよび前記第2の画素群の画素データからなる平面画像を取得する撮像方法であって、
    前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算により一枚の平面画像を取得する第1の平面撮影モードおよび第2の平面撮影モードのうち一方の撮影モードの設定入力を受け付けるステップと、
    前記第2の平面撮影モードの撮影の場合に、前記絞り装置の絞り値を前記第1の平面撮影モードの撮影時の絞り値よりも大きくするステップと、
    前記第1の平面撮影モードの撮影の場合には、前記撮像素子の前記第1の画素群と前記第2の画素群とに同一露光時間の露光を行わせて前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算を行ことで平面画像を取得し、前記第2の平面撮影モードの撮影の場合には、前記撮像素子の前記第1の画素群と前記第2の画素群とに異なる露光時間の露光を行わせて前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算により広ダイナミックレンジの平面画像を取得するステップと、
    を含む撮像方法。
  10. 前記第1の平面撮影モードの撮影の場合、前記絞り装置を開放状態にすることを特徴とする請求項に記載の撮像方法。
  11. 前記撮像素子に入射する光束が通過する光路中に挿入可能である減光フィルタと、被写体輝度を取得する被写体輝度取得手段とを用い、
    前記第1の平面撮影モードの撮影時に、前記被写体輝度取得手段により取得された前記被写体輝度に基づいて、前記減光フィルタを前記光路中に挿入するか否かを制御することを特徴とする請求項または10に記載の撮像方法。
  12. 単一の撮影光学系と、前記単一の撮影光学系の異なる領域を通過した光束をそれぞれ光電変換する第1の画素群および第2の画素群を有し、前記第1の画素群および前記第2の画素群により同一のシーンを撮像して前記第1の画素群の画素データおよび前記第2の画素群の画素データからなる立体視画像を生成可能な撮像素子と、前記撮像素子に入射する光束が通過する光路中に配置された絞り装置を用い、前記第1の画素群の画素データおよび前記第2の画素群の画素データからなる平面画像を取得する撮像方法であって、
    前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算により一枚の平面画像を取得する第1の平面撮影モードおよび第2の平面撮影モードのうち一方の撮影モードの設定入力を受け付けるステップと、
    前記第2の平面撮影モードの撮影の場合に、被写体距離を取得する被写体距離取得手段により取得された前記被写体距離が閾値よりも大きい場合には、前記絞り装置を開放状態にし、前記被写体距離が閾値以下の場合には、前記絞り装置の絞り値を前記第1の平面撮影モードの撮影時の絞り値よりも大きくするステップと、
    前記第1の平面撮影モードの撮影の場合には、前記撮像素子の前記第1の画素群と前記第2の画素群とに同一露光時間の露光を行わせて前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算を行ことで平面画像を取得し、前記第2の平面撮影モードの撮影の場合には、前記撮像素子の前記第1の画素群と前記第2の画素群とに異なる露光時間の露光を行わせて前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算により広ダイナミックレンジの平面画像を取得するステップと、
    を含む撮像方法。
  13. 単一の撮影光学系と、前記単一の撮影光学系の異なる領域を通過した光束をそれぞれ光電変換する第1の画素群および第2の画素群を有し、前記第1の画素群および前記第2の画素群により同一のシーンを撮像して前記第1の画素群の画素データおよび前記第2の画素群の画素データからなる立体視画像を生成可能な撮像素子と、前記撮像素子に入射する光束が通過する光路中に配置された絞り装置を用い、前記第1の画素群の画素データおよび前記第2の画素群の画素データからなる平面画像を取得する撮像方法であって、
    前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算により一枚の平面画像を取得する第1の平面撮影モードおよび第2の平面撮影モードのうち一方の撮影モードの設定入力を受け付けるステップと、
    前記第2の平面撮影モードの撮影の場合に、前記撮影光学系の焦点距離を取得する焦点距離取得手段により取得された前記焦点距離が閾値以下の場合には、前記絞り装置を開放状態にし、前記焦点距離が閾値より大きい場合には、前記絞り装置の絞り値を前記第1の平面撮影モードの撮影時の絞り値よりも大きくするステップと、
    前記第1の平面撮影モードの撮影の場合には、前記撮像素子の前記第1の画素群と前記第2の画素群とに同一露光時間の露光を行わせて前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算を行ことで平面画像を取得し、前記第2の平面撮影モードの撮影の場合には、前記撮像素子の前記第1の画素群と前記第2の画素群とに異なる露光時間の露光を行わせて前記第1の画素群の画素データと前記第2の画素群の画素データとの画素加算により広ダイナミックレンジの平面画像を取得するステップと、
    を含む撮像方法。
  14. 前記撮像素子に入射する光束が通過する光路中に挿入可能である減光フィルタと、被写体輝度を取得する被写体輝度取得手段とを用い、
    前記第2の平面撮影モードの撮影時に、前記絞り装置を開放状態にした場合には、前記被写体輝度に基づいて、前記減光フィルタを挿入状態にするか否かを切り替えることを特徴とする請求項12または13に記載の撮像方法。
JP2012522608A 2010-06-30 2011-06-27 撮像装置および撮像方法 Expired - Fee Related JP5628914B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012522608A JP5628914B2 (ja) 2010-06-30 2011-06-27 撮像装置および撮像方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2010150317 2010-06-30
JP2010150317 2010-06-30
JP2012522608A JP5628914B2 (ja) 2010-06-30 2011-06-27 撮像装置および撮像方法
PCT/JP2011/064621 WO2012002298A1 (ja) 2010-06-30 2011-06-27 撮像装置および撮像方法

Publications (2)

Publication Number Publication Date
JPWO2012002298A1 JPWO2012002298A1 (ja) 2013-08-22
JP5628914B2 true JP5628914B2 (ja) 2014-11-19

Family

ID=45402012

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012522608A Expired - Fee Related JP5628914B2 (ja) 2010-06-30 2011-06-27 撮像装置および撮像方法

Country Status (5)

Country Link
US (1) US8902294B2 (ja)
EP (1) EP2590024A4 (ja)
JP (1) JP5628914B2 (ja)
CN (1) CN102934024B (ja)
WO (1) WO2012002298A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013111598A1 (ja) 2012-01-27 2013-08-01 パナソニック株式会社 アレイ状光学素子、撮像用部材、撮像素子、撮像装置および測距装置
JP6131546B2 (ja) 2012-03-16 2017-05-24 株式会社ニコン 画像処理装置、撮像装置および画像処理プログラム
JP6375607B2 (ja) * 2013-09-30 2018-08-22 株式会社ニコン 電子機器、電子機器の制御方法、及び制御プログラム
JP6362091B2 (ja) * 2014-06-04 2018-07-25 キヤノン株式会社 撮像装置、その制御方法、および制御プログラム
CN105141839B (zh) * 2015-08-21 2018-01-26 大连理工大学 一种基于光圈时控的高清图像获取方法
JP6873688B2 (ja) * 2016-12-27 2021-05-19 キヤノン株式会社 画像処理装置および画像処理方法、撮像装置、プログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0869063A (ja) * 1994-08-29 1996-03-12 Olympus Optical Co Ltd 立体映像録画装置および録画方法
JP2001061165A (ja) * 1999-08-20 2001-03-06 Sony Corp レンズ装置及びカメラ
JP2001222083A (ja) * 2000-02-07 2001-08-17 Canon Inc 撮像装置、撮像装置の制御方法、及び制御方法が記載されたプログラムをコンピュータに供給する媒体
JP2002369223A (ja) * 2001-06-08 2002-12-20 Pentax Corp 画像検出装置と絞り装置
JP2010081580A (ja) * 2008-08-29 2010-04-08 Sony Corp 撮像装置および映像記録再生システム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6442314A (en) 1987-08-07 1989-02-14 Shinetsu Chemical Co Production of silica sol dispersed in organic solvent
GB9417319D0 (en) * 1994-08-27 1994-10-19 Kodak Ltd Improvements in or relating to photographic processing
JP3753201B2 (ja) 1996-07-22 2006-03-08 富士写真フイルム株式会社 視差画像入力装置
JP3805094B2 (ja) * 1998-01-16 2006-08-02 松下電器産業株式会社 固体撮像装置
JP4245699B2 (ja) * 1998-09-16 2009-03-25 オリンパス株式会社 撮像装置
JP4015090B2 (ja) * 2003-09-08 2007-11-28 株式会社東芝 立体表示装置および画像表示方法
EP2762972B1 (en) 2006-02-13 2020-04-08 Midmark Corporation Monocular three-dimensional imaging
JP4998056B2 (ja) * 2006-05-11 2012-08-15 セイコーエプソン株式会社 撮像装置、撮像システム及び撮像方法
US8059174B2 (en) * 2006-05-31 2011-11-15 Ess Technology, Inc. CMOS imager system with interleaved readout for providing an image with increased dynamic range
JP2008000187A (ja) 2006-06-20 2008-01-10 Maruhon Ind Co Ltd 遊技機
JP4692850B2 (ja) * 2007-01-29 2011-06-01 富士フイルム株式会社 撮影装置
JP4341691B2 (ja) * 2007-04-24 2009-10-07 ソニー株式会社 撮像装置、撮像方法、露光制御方法、プログラム
JP2008299184A (ja) 2007-06-01 2008-12-11 Nikon Corp 撮像装置および焦点検出装置
JP2009168995A (ja) 2008-01-15 2009-07-30 Nikon Corp 測距装置および撮像装置
EP2200271B1 (en) * 2008-08-29 2017-05-10 Sony Corporation Imaging device and image recording and playback system
JP5342969B2 (ja) * 2009-09-10 2013-11-13 富士フイルム株式会社 撮像装置及び撮像方法
JP2011061684A (ja) * 2009-09-14 2011-03-24 Fujifilm Corp 固体撮像素子及びその駆動方法並びに撮像装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0869063A (ja) * 1994-08-29 1996-03-12 Olympus Optical Co Ltd 立体映像録画装置および録画方法
JP2001061165A (ja) * 1999-08-20 2001-03-06 Sony Corp レンズ装置及びカメラ
JP2001222083A (ja) * 2000-02-07 2001-08-17 Canon Inc 撮像装置、撮像装置の制御方法、及び制御方法が記載されたプログラムをコンピュータに供給する媒体
JP2002369223A (ja) * 2001-06-08 2002-12-20 Pentax Corp 画像検出装置と絞り装置
JP2010081580A (ja) * 2008-08-29 2010-04-08 Sony Corp 撮像装置および映像記録再生システム

Also Published As

Publication number Publication date
JPWO2012002298A1 (ja) 2013-08-22
EP2590024A1 (en) 2013-05-08
US8902294B2 (en) 2014-12-02
WO2012002298A1 (ja) 2012-01-05
US20130100251A1 (en) 2013-04-25
EP2590024A4 (en) 2016-05-18
CN102934024A (zh) 2013-02-13
CN102934024B (zh) 2015-07-22

Similar Documents

Publication Publication Date Title
JP5628913B2 (ja) 撮像装置および撮像方法
JP5192096B2 (ja) 立体撮像装置
JP5421829B2 (ja) 撮像装置
JP5368350B2 (ja) 立体撮像装置
WO2011118077A1 (ja) 立体撮像装置および視差画像復元方法
JP5595499B2 (ja) 単眼立体撮像装置
JP5470458B2 (ja) 撮像装置、画像処理装置および画像処理方法
JP5474234B2 (ja) 単眼立体撮像装置及びその制御方法
JP5871989B2 (ja) 撮影装置、撮影方法及びプログラム
JP2011199755A (ja) 撮像装置
JP5525107B2 (ja) 撮像装置
JP5628914B2 (ja) 撮像装置および撮像方法
JP2014098912A (ja) 撮像装置およびシェーディング補正方法
JPWO2012108099A1 (ja) 撮像装置および撮像方法
JP5507761B2 (ja) 撮像装置
JP5457240B2 (ja) 立体撮像装置
JP2012124650A (ja) 撮像装置および撮像方法
JP2014063190A (ja) 撮像装置
JP5649837B2 (ja) 立体撮像装置
JP2019139043A (ja) 撮像装置およびその制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140417

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140605

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140918

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141002

R150 Certificate of patent or registration of utility model

Ref document number: 5628914

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees