JP6552315B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP6552315B2
JP6552315B2 JP2015147699A JP2015147699A JP6552315B2 JP 6552315 B2 JP6552315 B2 JP 6552315B2 JP 2015147699 A JP2015147699 A JP 2015147699A JP 2015147699 A JP2015147699 A JP 2015147699A JP 6552315 B2 JP6552315 B2 JP 6552315B2
Authority
JP
Japan
Prior art keywords
imaging
sub
main
image
optical system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015147699A
Other languages
English (en)
Other versions
JP2017028611A5 (ja
JP2017028611A (ja
Inventor
智暁 井上
智暁 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015147699A priority Critical patent/JP6552315B2/ja
Priority to US15/210,029 priority patent/US10148870B2/en
Publication of JP2017028611A publication Critical patent/JP2017028611A/ja
Publication of JP2017028611A5 publication Critical patent/JP2017028611A5/ja
Application granted granted Critical
Publication of JP6552315B2 publication Critical patent/JP6552315B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/14Measuring arrangements characterised by the use of optical techniques for measuring distance or clearance between spaced objects or spaced apertures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Description

本発明は、主撮像系と副撮像系とを有する撮像装置に関する。
ビデオカメラやデジタルカメラ等の撮像装置において、通常の撮像画像を取得するための主撮像系とは別に副撮像系を備えたものが提案されている。
特許文献1には、ズームレンズを備えた主撮像系とは別に、広画角の単焦点レンズを備えた副撮像系を有する撮像装置が開示されている。この撮像装置では、副撮像系によって主撮像系よりも広い画角の撮像画像を取得することで、移動する被写体の追尾を行い易くしている。特許文献1には、主撮像系により取得した撮像画像と副撮像系により取得した撮像画像とを用いて被写体距離の情報を取得することが開示されている。
また、特許文献2には、ズームレンズを備えた主撮像系とは別に、互いに異なる焦点距離を有する複数のステレオカメラを副撮像系として有する撮像装置が開示されている。この撮像装置では、ステレオカメラによって得られた視差情報から被写体距離情報を取得し、その被写体距離情報を用いて主撮像系のAF(オートフォーカス)制御を行う。
特開2012−49651号公報 特開2013−61560号公報
撮像装置を小型化しつつ高ズーム比を得るために、非撮像時には撮像装置の本体に対して格納され、撮像時に本体に対して繰り出される、いわゆる沈胴タイプのレンズ鏡筒がある。そして、この沈胴タイプのレンズ鏡筒は、特許文献1,2に開示された撮像装置の主撮像系のズームレンズにも用いることができる。
しかしながら、主撮像系の沈胴タイプのレンズ鏡筒と副撮像系のレンズとの距離が近いと、副撮像系の画角が繰り出されたレンズ鏡筒によってけられるおそれがある。副撮像系のレンズを主撮像系のレンズ鏡筒から離すことでレンズ鏡筒による副撮像系の画角のけられをなくすることも可能であるが、これでは撮像装置が大型化する。
さらに、特許文献2にて開示された撮像装置では、主撮像系の望遠端での画角に近い画角を有する副撮像系を有しており、この副撮像系が主撮像系から大きく離れた位置に配置されている。このため、近距離の被写体を撮像する際に、主撮像系と副撮像系とで共通に撮像可能な画角範囲が減少し、被写体距離情報を取得可能な被写体距離範囲が狭くなる。このことは、主撮像系のズームレンズのズーム比が高くなるほど顕著になる。
特許文献1,2では、主撮像系に沈胴タイプのレンズ鏡筒を用いた場合の副撮像系の配置条件が考慮されていない。
本発明は、高ズーム比の主撮像系を有しつつ、主撮像系と副撮像系を用いて広い被写体距離範囲で精度良く被写体距離情報を取得できるようにした小型の撮像装置を提供する。
本発明の一側面としての撮像装置は、変倍可能な主光学系により形成された被写体像を撮像する主撮像系と、主光学系の広角端での画角以上の画角を有する第1の副光学系により形成された被写体像を撮像する第1の副撮像系と、主光学系の広角端での画角より狭く、望遠端の画角以上の画角を有する第2の副光学系により形成された被写体像を撮像する第2の副撮像系とを有する。主光学系を保持する光学鏡筒が該撮像装置の本体に対して繰り出し可能であって、第1および第2の副光学系が本体に設けられている。主光学系の光軸に対して第1の副光学系の光軸および第2の副光学系の光軸が離間する方向をそれぞれ、第iを第1または第2として、第iの光軸離間方向とし、主光学系の望遠端での第2の光軸離間方向での半画角をΩとし、主光学系の望遠端での焦点距離をfとし、第2の副光学系と主光学系の光軸間距離をNとし、第1および第2の副光学系のうち、第iの副光学系の第iの光軸離間方向での半画角をωとし、第iの副光学系の光軸と光学鏡筒のうち本体側から数えてj段目の鏡筒部の外周面までの第iの光軸離間方向での距離をLijとし、第1および第2の副光学系における最も被写体側の光学面に対するj段目の鏡筒部の繰り出し量をMとする。このとき、
なる条件を満足することを特徴とする。
本発明によれば、式(1),(2)の条件を満足することで、高ズーム比の主撮像系を有しつつも、主撮像系と副撮像系を用いて広い被写体距離範囲で精度良く被写体距離情報を取得することが可能な小型の撮像装置を実現することができる。
本発明の実施例1である撮像装置の底面図。 実施例1の撮像装置の正面図。 実施例1の撮像装置の電気的構成を示すブロック図。 実施例1と式(1)の条件との関係を説明する図。 実施例1と式(2)の条件との関係を説明する図。 実施例1における広角での撮像画像を説明する図。 実施例1における望遠での撮像画像を説明する図。 実施例1における撮像/画像合成処理を示すフローチャート。 対応領域抽出手法を説明する図。 実施例1における被写体距離算出処理を示すフローチャート。 本発明の実施例2である撮像装置の正面図。 実施例2における条件式(1)を説明する図。 実施例2における条件式(2)を説明する図。 本発明の実施例3である撮像装置の正面図。 実施例3における条件式(1)を説明する図。 実施例3における条件式(2)を説明する図。 2視点撮像方式のモデルを示す図。
以下、本発明の実施例について図面を参照しながら説明する。
まず、具体的な実施例の説明に先立って、各実施例に共通する事項について説明する。各実施例は、変倍が可能な主光学系により形成された被写体像を撮像する主撮像系と、それぞれ第1の副光学系および第2の副光学系により形成された被写体像を撮像する第1の副撮像系および第2の撮像系とを有する。第1の副光学系は、主光学系の広角端での画角以上の画角を有する。また、第1の副光学系は、主光学系の広角端での画角より狭く、望遠端の画角以上の画角を有する。主撮像系から撮像画像としての主画像が得られ、第1および第2の副撮像系のそれぞれから撮像画像としての副画像が得られる。そして、これら主画像と副画像を用いて被写体距離情報を取得したり合成画像を生成したりする。
被写体距離情報は、それぞれ視点位置が異なる主撮像系と第1または第2の副撮像系とにより生成された視差画像を用いて得られる。視差画像を用いた被写体距離の算出の原理について、図17を用いて説明する。図17には、2視点撮像方式のモデルを示している。座標は、左右のカメラL_camera,R_cameraの中心を原点とし、水平方向をx軸で表し、奥行き方向をy軸で表す。高さ方向については記載を省略している。
ここでは、左右のカメラL_camera,R_cameraの結像光学系の主点をそれぞれ、(−Wc,0)と(Wc,0)とし、各カメラの結像光学系の焦点距離をfとする。y軸上の座標(0,y1)に位置する被写体Aを左右のカメラL_camera,R_cameraで撮像する。このとき、左右カメラL_camera,R_cameraのイメージセンサ(撮像素子)のそれぞれの中心から被写体Aの光学像(被写体像)のずれ量(視差ともいう)Plc,Prcは、以下の式(11),(12)で表すことができる。
つまり、同一の被写体を異なる視点位置から撮像することで、視点ずれ方向(基線方向)に上記式(11),(12)で示すずれ量(視差量)Plc,Prcを有する左右の視差画像を取得することができる。これらのずれ量Plc,Prcから被写体Aまでの距離y1は、以下の式(13)により算出することができる。
このように視差画像を用いて被写体距離を算出するためには、視差画像間で対応する被写体領域を特定する必要がある。2つの画像間での同一被写体領域の特定方法としては、後述するブロックマッチング法等の対応点抽出手法を用いることができる。
次に、各実施例の撮像装置において、主撮像系の変倍可能な光学系(ズームレンズ)を沈胴タイプのレンズ鏡筒により保持した場合に生じる問題として、視差画像間にて互いに対応する被写体領域を特定できない状態の発生について説明する。
沈胴タイプのレンズ鏡筒は、撮像時において、撮像装置の前面(被写体側の面)に対して被写体側に繰り出す。このため、主撮像系にこの沈胴タイプのレンズ鏡筒が用いられる場合に、該レンズ鏡筒の近くに副撮像系を配置すると、副撮像系の画角が繰り出されたレンズ鏡筒によってけられ、副撮像系により得られる副画像に欠けが生じる。この結果、主撮像系により得られる主画像に含まれる被写体が副画像に写っていない場合が生じる。レンズ鏡筒による画角のけられをなくするために主撮像系のレンズ鏡筒から大きく離れた位置に副撮像系を配置すると、撮像装置が大型化するだけでなく、主および副撮像系間の基線長が大きくなり、視差画像間のずれ量(視差量)が大きくなり過ぎる。
特に、近距離被写体を撮像する際に、主および副撮像系間の基線長が大きすぎると、これらにより共通に撮像可能な画角範囲(以下、共通撮像画角範囲という)が減少して、主画像に含まれる被写体の一部が副画像に写らなくなる。同じ被写体が視差画像の双方に写っていないと、視差画像間で互いに対応する被写体領域を特定することができないため、被写体距離を算出することもできない。
このため、各実施例では、撮像装置の前面に第1および第2の副光学系が配置され、主光学系を保持する光学鏡筒してのレンズ鏡筒が撮像装置の本体(前面)に対して繰り出し可能であるとする。
そして、主光学系の光軸に対して第1の副光学系の光軸および第2の副光学系の光軸が離間する方向をそれぞれ、第iを第1または第2として、第iの光軸離間方向とする。また、主光学系の望遠端での第2の光軸離間方向での半画角をΩとし、主光学系の望遠端での焦点距離をfとし、第2の副光学系と主光学系の光軸間距離をNとし、第1および第2の副光学系のうち第iの副光学系の第iの光軸離間方向での半画角をωとする。さらに、第iの副光学系の光軸と光学鏡筒のうち本体側からj段目の鏡筒部の外周面までの第iの光軸離間方向での距離をLijとし、第1および第2の副光学系における最も被写体側の光学面に対するj段目の鏡筒部の繰り出し量をMとする。このとき、各実施例の撮像装置は、以下の式(1),(2)により表される条件を満足する。
式(1)の条件は、変倍可能な主光学系を保持するレンズ鏡筒の繰り出し量と、第1および第2の副光学系の配置位置と、これらの画角に関する条件である。この条件を満足することで、主撮像系のレンズ鏡筒によって副撮像系の撮像画角がけられることを防止するとともに、撮像装置の大型化を回避することができる。また、式(2)の条件は、主光学系の望遠端での半画角と、主光学系の焦点距離と、主光学系と第2の副撮像系との光軸間距離に関する条件である。この条件を満足することで、近距離被写体を撮像する際に主撮像系と第2の副撮像系との共通撮像画角範囲を十分に確保することができる。したがって、式(1),(2)の条件の双方を満足することで、主撮像系と第1および第2の副撮像系を備えた撮像装置において、撮像装置を小型化しつつ、広い被写体距離範囲において精度良く被写体距離情報を取得することが可能となる。
式(1)の値がその下限値を下回ると、主撮像系のレンズ鏡筒によって副撮像系の撮像画角がけられ、主画像に含まれる被写体の一部が副画像に写らないため、主画像において被写体距離情報を取得できない領域が生じて、好ましくない。一方、式(1)の値がその上限値を超えると、主撮像系のレンズ鏡筒によって副撮像系の撮像画角はけられないが、副光学系を主光学系から大きく離して配置することとなり、撮像装置が大型化するので、好ましくない。
また、式(2)の値がその上限を超えると、主撮像系と第2の副撮像系のそれぞれにより得られる主画像と副画像間で共通して写っている被写体領域がかなり減少するため、主画像において被写体距離情報を取得できない領域が大きくなり、好ましくない。
なお、式(1),(2)の数値範囲を以下の式(1a),(2a)のようにすると、より好ましい。
また、式(1),(2)の数値範囲を以下の式(1b),(2b)のようにすると、さらに好ましい。
以下、具体的な実施例について説明する。
図1には、本発明の実施例1である撮像装置1を下側から見て示している。図1には、レンズ鏡筒が繰り出した状態の撮像装置1を示している。また、図2には、本実施例の撮像装置1を被写体側から見て示している。撮像装置1の本体(筐体)1aの被写体側の面である前面の中央には、主光学系100を保持する2段沈胴タイプのレンズ鏡筒200が本体1aに対して格納および繰り出し可能に設けられている。また、本体1aの前面には、第1の副光学系110および第2の副光学系120が、レンズ鏡筒200を挟んだ水平方向両側に位置するように配置されている。
主光学系100は、35mm換算で24mm〜300mmの可変焦点距離を有する結像光学系である。不図示の主撮像素子(CCDセンサまたはCMOSセンサ)は、主光学系100に対応する矩形の撮像領域(光電変換領域)を有し、主光学系100により形成された被写体像を撮像(光電変換)する。主撮像素子の撮像領域は、アスペクト比4:3と対角長7.75mmとを有する。主光学系100および主撮像素子により主撮像系が構成される。
繰り出し状態のレンズ鏡筒200は、本体側(前面側)から順に、第1の鏡筒部201と第2の鏡筒部202とを有する。第2の鏡筒部202は、第1の鏡筒部201よりも外径が小さい。
第1および第2の副光学系110,120はそれぞれ、固定焦点距離(単焦点)の結像光学系である。不図示の2つの副撮像素子(CCDセンサまたはCMOSセンサ)は、第1および第2の副光学系110,120に対応する矩形の撮像領域を有し、第1および第2の副光学系110,120のそれぞれにより形成された被写体像を撮像(光電変換)する。各副撮像素子の撮像領域は、アスペクト比4:3と、主撮像素子の撮像領域の対角長より短い対角長とを有する。第1の副光学系110およびこれに対応する副撮像素子により第1の副撮像系が構成され、第2の副光学系120およびこれに対応する副撮像素子により第2の副撮像系が構成される。
主光学系100および第1および第2の副光学系110,120は、それらの光軸が互いに平行になるように配置されている。第1の副光学系110は、主光学系100の35mm換算における広角端での焦点距離24mmと同じ焦点距離(つまりは同じ画角)を有する単焦点光学系である。一方、第2の副光学系120は、主光学系100の広角端と望遠端との間の中間ズーム位置での焦点距離(つまりは広角端での画角より狭く、望遠端での画角以上の画角)を有する単焦点光学系である。例として、第2の副光学系120は、35mm換算における150mmの焦点距離を有する。
ここで、図4および図5を用いて、本実施例の撮像装置1の構成と式(1),(2)の条件との関係について説明する。図4には、式(1)の条件に関する定義を示している。図中のMは第1および第2の副光学系110,120における最も被写体側の光学面(以下、前端レンズ面という)を基準としたときの第1の鏡筒部201の前端面(図では上端面)の繰り出し量である。すなわち、上記基準から第1の鏡筒部201の前端面までの光軸方向での距離である。本実施例では、M=10mmである。また、Mは第1および第2の副光学系110,120の前端レンズ面を基準としたときの第2の鏡筒部202の前端面の繰り出し量である。本実施例では、M=20mmである。
なお、実際の第1および第2の副光学系110,120の光軸方向における前端レンズ面の位置が厳密には同じでない場合もあり得るが、その場合はより大きいM,Mまたはより小さいM,Mのうち一方を選択すればよい。また、第1および第2の副光学系110,120の前側レンズ面に代えて、これらとほぼ同じ位置にある本体1aの前面を基準としてもよい。このことは、後述する他の実施例でも同じである。
11は第1の副光学系110の光軸110aと第1の鏡筒部201の外周面との間の水平方向(第1の光軸離間方向)での距離である。本実施例では、L11=22.7mmである。L12は第1の副光学系110の光軸110aと第2の鏡筒部202の外周面との間の水平方向での距離である。本実施例では、L12=31.2mmである。L21は第2の副光学系120の光軸120aと第1の鏡筒部201の外周面との間の水平方向(第2の光軸離間方向)での距離である。本実施例では、L21=7.8mmである。L22は第2の副光学系120の光軸120aと第2の鏡筒部202の外周面との水平方向での距離である。本実施例では、L22=16.9mmである。
ωは第1の副光学系110の水平方向(第1の光軸離間方向)での半画角である。具体的には、ωは第1の副光学系110に対応する副撮像素子の矩形の撮像領域の長辺の長さによって決まる画角の半値である。本実施例では、ω=35.8度である。ωは第2の副光学系120の水平方向(第2の光軸離間方向)での半画角である。具体的には、ωは第2の副光学系120に対応する副撮像素子の矩形の撮像領域の長辺の長さによって決まる画角の半値である。本実施例では、ω=6.6度である。
図5は、式(2)の条件に関する定義を示している。図中のΩは主光学系100の望遠端での水平方向(第2の光軸離間方向)での半画角である。本実施例では、Ω=4.12度である。また、主光学系100の望遠端での焦点距離はft=53.7mmである。Nは主光学系100と第2の副光学系120との光軸間距離(光軸100a,120a間の距離)である。本実施例では、N=28.6mmである。
本実施例における上記値を表1にまとめて示す。また、本実施例における式(1),(2)の値を表2にまとめて示す。表2から分かるように、本実施例は式(1),(2)条件を満足している。式(1),(2)の条件を満足することで、撮像装置1を小型化しつつ、広い被写体距離範囲において精度良く被写体距離情報を取得することができる。
なお、本実施例では、主光学系100の光軸100aと第1の副光学系110の光軸110aとが離間する第1の光軸離間方向が主光学系100の光軸100aと第2の副光学系120の光軸120aとが離間する第2の光軸離間方向と同じである。しかし、第1の光軸離間方向と第2の光軸離間方向は必ずしも同じである必要はなく、互いに異なっていてもよい。
図6および図7を用いて、本実施例における撮像装置1によって取得される画像について説明する。図6(a)には、主光学系100が広角端に設定された場合に主撮像系により生成される主画像の例を示している。図6(b)には、主光学系100が広角端に設定された場合に第1の副撮像系によって生成される副画像の例を示している。図6(a),(b)に示すように、主撮像系および第1の副撮像系により得られる主画像および副画像には、基線方向(第1の光軸離間方向)にわずかに位置がずれた同じ被写体が含まれている。また、式(1)を満足することで、第1の副撮像系により得られる副画像には、主撮像系のレンズ鏡筒200による画角のけられは生じていない。
図6(c)には、式(1)の下限値を下回った構成を有する撮像装置の第1の副撮像系によって得られる副画像の例を示す。図6(c)に示す副画像において左側に黒く示す大きな領域は、主撮像系のレンズ鏡筒200によってけられた画角に相当する領域である。図6(a)の主画像に写っている左端の被写体(山の一部)が図6(c)の副画像には写っていない。このため、主画像における左端の被写体に対する被写体距離情報を取得することができない。
図7(a)には、主光学系100が35mm換算での150mmの焦点距離に設定された場合に取得される主画像の例を示している。図7(b)には、主光学系100が広角端に設定された場合に第2の副撮像系により得られる副画像の例を示している。図7(a),(b)に示すように、主撮像系および第2の副撮像系により得られる主画像および副画像には、基線方向(第2の光軸離間方向)にわずかに位置がずれた同じ被写体が含まれている。また、式(2)の条件を満足することで、第2の副撮像系により得られる副画像には、主撮像系との共通撮像画角範囲を広く確保できている。
図7(c)には、式(2)の上限値を超えた構成を有する撮像装置の第2の副撮像系によって得られる副画像の例を示す。図7(c)に示す副画像では図7(a)の主画像に対して被写体が右側に大きくずれており、主撮像系との共通撮像画角範囲が半分以下となっている。このため、図7(a)に含まれている被写体のうち右半分の部分が図7(c)の副画像には写っておらず、この部分の被写体距離情報を取得することができない。
図3には、本実施例の撮像装置1の電気的構成を示している。撮像装置1は、主撮像系と第1および第2の副撮像系を含む撮像系10と、A/D変換器11と、画像処理部12と、画像合成部(画像合成手段)13とを有する。また、撮像装置1は、情報入力部14と、撮像制御部15と、画像記録媒体16と、システムコントローラ17と、表示部18と、距離情報算出部(距離取得手段)19とを有する。
A/D変換器11は、主撮像素子および2つの副撮像素子から出力されるアナログ撮像信号をデジタル撮像信号に変換して画像処理部12に供給する。画像処理部12は、A/D変換器11からのデジタル撮像信号に対して画素補間処理、色変換処理およびデジタルズーム処理等を行って撮像画像(主画像および2つの副画像)を生成する。また、画像処理部12は、撮像画像を用いて各種演算処理を行い、それらの演算結果をシステムコントローラ17に送信する。
画像処理部12は、画像合成部13をさらに有する。画像合成部13は、基準視点となる主撮像系により取得された主画像を合成用の基準画像として設定し、該基準画像に対して2つの副撮像系により取得された副画像のうち少なくとも1つを合成する。画像の合成には、後述するブロックマッチング法等が用いられる。
情報入力部14は、ユーザが所望の撮像条件(絞り値や露出時間等)を選択して入力する情報を検知してシステムコントローラ17にそれらのデータを供給する。撮像制御部15は、システムコントローラ17からの命令に応じて、各光学系に含まれるフォーカスレンズを移動させたり、各光学系の絞り値を制御したり、各撮像系の撮像素子の露出時間を制御したりする。
画像記録媒体16は、画像処理部12により生成された撮像画像を格納したり、撮像画像を格納する画像ファイルを構成する場合のファイルヘッダを記録したりする。表示部18は、撮像時のプレビュー画像や記録済みの撮像画像を表示したり、それぞれ選択可能なメニュー項目、焦点距離範囲(画角範囲)等を表示したりする。表示部18は、液晶表示素子等により構成される。
距離情報算出部19は、基準画像選択部20と、対応点抽出部21と、視差量算出部22とを有する。基準画像選択部20は、主撮像系によって得られた主画像を距離情報算出用の基準画像として選択する。対応点抽出部21は、主画像および複数の副画像のうち一対の視差画像における互いに対応する画素(以下、対応点という)を抽出する。視差量算出部22は、対応点抽出部21により抽出された全ての対応点の視差量を算出する。距離情報算出部19は、算出された視差量から主画像(つまりは主撮像系の撮像画角内)の全域における被写体距離を算出(被写体距離情報を取得)する。
次に、本実施例におけるシステムコントローラ17および画像処理部12(画像合成部13)が行う撮像/画像合成処理について、図8のフローチャートを用いて説明する。それぞれコンピュータにより構成されるシステムコントローラ17および画像処理部12は、撮像/画像合成処理をコンピュータプログラムである撮像/画像合成処理プログラムに従って実行する。「S」はステップ(工程)の略である。
まず、システムコントローラ17は、S100において、情報入力部14からユーザにより入力された撮像条件等の情報を取得する。そして、ユーザによって操作された不図示の撮像開始スイッチから撮像指示信号が入力されると、撮像制御部15に撮像条件等の情報を転送する。撮像条件とは、主撮像系の撮像画角、絞り値およびシャッタースピード等である。撮像制御部15は、入力された撮像条件に基づいて、主撮像系の撮像画角(ズーム状態)や主撮像系および副撮像系の絞り値、シャッタースピード等を制御する。
次に、S101では、システムコントローラ17は、入力された撮像条件に応じて、第1および第2の副撮像系のうち撮像に使用する第1または第2の副撮像系を選択する。副撮像系の選択には、主撮像系において設定された撮像画角(以下、主撮像画角という)の情報を用いる。ここでは、主撮像系により得られる主画像の全体に対して画像合成を行うため、主撮像系の設定画角に対して同一またはより広い撮像画角(以下、副撮像画角という)を有する副撮像系を選択するものとする。
次に、S102では、システムコントローラ17は、撮像制御部15を介して、主撮像系とS101で選択した第1または第2の副撮像系による撮像(主および副撮像素子の露光)を行うとともに、画像処理部12に撮像画像を生成させる。これにより、1つの主画像と2つの副画像とが、互いに視差を有する視差画像として取得される。この際、画像処理部12において、各画像の輝度レベルやホワイトバランスの補正を行うことで、後段での画像合成により生成される合成画像における輝度むらや色むらを低減することができる。
次に、S103では、システムコントローラ17は、主撮像画角が選択された副撮像系の副撮像画角と同一であるか否かを判定する。主撮像画角が副撮像画角と同一である場合はシステムコントローラ17はS104に移行し、異なる場合はS105に移行する。
S104では、システムコントローラ17は、画像処理部12に、合成用の基準画像である主画像に対して、これと同一の撮像画角に対応する副画像を合成させる。
画像処理部12による主画像と副画像の合成方法について説明する。ここでは代表例として、主撮像系の撮像画角が広角端に設定された場合について説明する。本実施例では、主画像(図6(a))を基準画像とし、該基準画像に写っている被写体領域に対応する被写体領域を、第1の副撮像系(第1の副光学系110)により得られた副画像から抽出して合成する。
まず、副画像(参照画像)から主画像(基準画像)に写っている被写体領域に対応する被写体領域の抽出方法について説明する。図9の左側には図6(a)に示した主画像である基準画像501を、右側には該基準画像501に合成される図6(b)に示した(第1の副光学系110を通して取得された)副画像である参照画像502を示している。ここでは、画像上の水平方向および垂直方向での位置を示す画像座標(X,Y)を用いる。画像座標(X,Y)は、図9に示す各画像の左上を原点として定義する。また、基準画像501における画像座標(X,Y)の輝度をF1(X,Y)とし、参照画像502における画像座標(X,Y)の輝度をF2(X,Y)とする。
基準画像501における任意の座標(X,Y)の画素(ハッチングして示す)に対応する参照画像502中の画素(ハッチングして示す)は、参照画像502のうち基準画像501中の輝度F1(X,Y)と最も類似した輝度を有する画素を探すことで求められる。ただし、任意の画素の輝度と最も類似する輝度を有する画素を単純に探すことは難しいため、画像座標(X,Y)の近傍の画素も用いたブロックマッチング法にて輝度が類似した画素を探索する。
例えば、ブロックサイズが3である場合のブロックマッチング処理について説明する。基準画像501中の任意の座標(X,Y)の画素と、その前後(X−1,Y),(X+1,Y)の2つの画素の計3つの画素の輝度値はそれぞれ、
F1(X,Y),F1(X−1,Y),F1(X+1,Y)
となる。
これに対し、座標(X,Y),(X−1,Y),(X+1,Y)からX方向にkだけずれた参照画像502中の画素の輝度値はそれぞれ、
F2(X+k,Y),F2(X+k−1,Y),F2(X+k+1,Y)
となる。
このとき、基準画像501中の座標(X,Y)の画素との類似度Eを以下の式(14)で定義する。
この式(14)において逐次kの値を変えて類似度Eの値を計算し、最も小さい類似度Eを与える(X+k,Y)が、参照画像502のうち基準画像501中の座標(X,Y)に対応する画素(対応点)である。ここでは、水平方向に視差を有する画像間での対応点抽出方法について説明したが、同様にして垂直方向や斜め方向に視差を有する場合の対応点を抽出することもできる。
このようにして得られた対応点としての被写体領域を画素単位で基準画像に合成することで、基準画像内のノイズレベルを低減させることができ、出力される合成画像の画質を向上させることができる。
なお、そのままではブロックマッチング法では対応できないほど視差が大きく基準画像と参照画像間で被写体領域の形状が大きく異なる場合には、参照画像に対してアフィン変換等の幾何変換を行った後に、ブロックマッチング法を用いて合成処理を行ってもよい。
副撮像画角が主撮像画角と異なるためにS103からS105に進んだシステムコントローラ17は、画像処理部12に、副画像(参照画像)の一部の画像領域を主撮像画角に対応した画像となるようにトリミングして拡大処理する。ここでは、主撮像画角が35mm換算で50mm相当の画角であるとする。
次にS106では、システムコントローラ17は、画像処理部12に、S105でのトリミングおよび拡大処理により取得された拡大画像を主画像(基準画像)に対して合成させる。
ここで、基準画像とは撮像画角が異なる参照画像の基準画像への合成方法について説明する。基準画像(主画像)より広い撮像画角で取得された参照画像(副画像)においては、画像上での被写体のサイズが基準画像のそれとは異なっている。このため、まずS105において、副画像のうち被写体を含む領域を、該領域が主撮像画角と同一の撮像画角に対応した画像となるようにトリミングして拡大して拡大画像を生成する。トリミングおよび拡大処理によって拡大画像の解像度は元の副画像のそれよりも劣化するが、拡大画像上での被写体のサイズを主画像のそれと同じにすることができる。この後はS104と同様にして、拡大画像を新たな参照画像として基準画像に合成することで、合成画像を生成することができる。
こうしてS104またはS106にて合成画像が生成されると、S107においてシステムコントローラ17は、合成画像を画像記録媒体16に保存する。そして、本処理を終了する。
次に、システムコントローラ17および距離情報算出部19が行う撮像/被写体距離算出処理について、図10のフローチャートを用いて説明する。ここでは、まず主撮像系と第2の副撮像系により得られる視差画像を用いる場合の処理について説明する。それぞれコンピュータにより構成されるシステムコントローラ17および距離情報算出部19は、撮像/被写体距離算出処理をコンピュータプログラムである撮像/被写体距離算出処理プログラムに従って実行する。「S」はステップ(工程)の略である。
S200からS202までの処理は、図8に示したS100からS102までの撮像および視差画像の生成に関する処理と同じであるため、ここでの説明は省略する。また、S203およびS204の処理についても、図8のS103およびS105のトリミングおよび拡大に関する処理と同じてあるため、ここでの説明は省略する。
S203またはS204からS205に進んだシステムコントローラ17は、基準画像選択部20に主画像を被写体距離算出用の基準画像として選択させる。さらに、システムコントローラ17は、対応点抽出部21に、基準画像と副画像または拡大画像としての参照画像との間で対応点を抽出させる。対応点は、2つの視差画像である基準画像と参照画像がいずれも同じ被写体を含む場合に該2つの視差画像のそれぞれにおける該被写体の画像部分の同じ箇所を構成する画素である。対応点抽出方法は、先の画像合成処理にて説明した方法をそのまま用いることができるので、ここでの説明は省略する。
次に、S206では、システムコントローラ17は、視差量算出部22に、S205で抽出された各対応点についての視差量を算出する。視差量は、上述したブロックマッチング法で得られた基準画像の各画素(基準画素)と該基準画素に対応する参照画像上の画素(対応画素)との画素位置の差分として算出される
次に、S207では、システムコントローラ17は、距離情報算出部19に、主画像に含まれる各被写体の被写体距離を算出させる。距離情報算出部19は、S206で算出された視差量と、既知の情報である主光学系100の焦点距離および副光学系110a,110bの基線長の情報とから、各被写体までの距離を式(13)を用いて算出する。
次に、S208では、システムコントローラ17は、S207で算出された被写体距離の情報を、S202で取得した視差画像のデータとともに画像記録媒体16に記録して、本処理を終了する。
ここでは第1の副光学系110を用いた場合の被写体距離の算出について説明したが、同様の処理によって第2の副光学系120を用いても被写体距離を算出することが可能である。
ここで、主光学系100の広角端と望遠端の焦点距離の中間の焦点距離を有する第2の副光学系120を用いた被写体距離算出の利点について説明する。図10のS200で情報入力部14を通じて主光学系100の焦点距離が150mmに設定された場合には、S201では主光学系100と同一画角(同一焦点距離)を有する第2の副光学系120を有する第2の副撮像系が選択される。このとき、S201では主撮像系よりも広い画角を有する第1の副撮像系を選択してもよいが、後述するデメリットが存在するため、主撮像系の撮像画角に最も近く、主撮像系と同一の撮像画角(またはより広い撮像画角)を有する第2の副撮像系を選択する。
第2の副撮像系の撮像画角が主撮像系の撮像画角と同一であるため、図10のS203から対応点を抽出する処理(S205)に移行する。このとき第2の副撮像系により得られる副画像における被写体領域をトリミングして拡大する必要がないため、解像度の劣化が生じず、良好な対応点抽出の結果が得られ、S206での良好な視差量の算出結果が得られる。
しかし、仮に第1の副撮像系が選択された場合には、該第1の副撮像系により得られる副画像内の被写体のサイズが主画像内のそれと大きく異なり、副画像内の被写体領域に対して6倍以上の拡大処理を行う必要がある。このため、拡大画像の解像度が大きく低下し、S205,S206における対応点抽出および視差量算出において大きな誤差が生じる可能性が高い。この結果、デメリットとして、被写体距離が誤算出されてAFの精度低下等が発生し易い。
つまり、本実施例のように、主撮像系の広角端と望遠端の中間の撮像画角と同一またはこれより広い撮像画角を有する副撮像系を用いることで、主撮像系の撮像画角内の全域においてより高精度に被写体距離を算出することができる。
なお、本実施例では、主撮像系により得られた基準画像としての主画像と第2の副撮像系により得られた副画像を用いて被写体距離情報を取得する場合について説明した。しかし、第1および第2の副撮像系により得られる副画像を用いる場合でも、第1および第2の副撮像系の共通画角撮像範囲において被写体距離情報を取得することができる。第1および第2の副撮像系間では基線長を大きく確保することができるため、遠距離被写体を撮像する場合に被写体距離情報の精度を向上させることができる。
また、本実施例では、第1の副光学系110と主光学系100との光軸間距離(基線長)および第2の副光学系120と主光学系100との光軸間距離が互いに異なる。具体的には、第2の副光学系120は主光学系100の近傍に配置され、一方、第1の副光学系110は主光学系100から離れた位置に配置されている。
このような第1および第2の副光学系110,120の異なる光軸間距離での配置の効果について説明する。被写体距離が同じである場合に、一対の視差画像間における被写体のずれ量は式(12),(13)から、該一対の視差画像を取得した撮像系における光学系の焦点距離と基線長とによって決まることが分かる。つまり、同じの基線長で同じ被写体距離の被写体を撮像する場合には、焦点距離が短い(画角が広い)第1の副撮像系によって取得される副画像における被写体のずれ量が少なくなる。被写体のずれ量が少ないと、そのずれ量を検出することが困難となるおそれがある。このため、広い画角を有する第1の副光学系110を第2の副光学系120に比べて主光学系100から遠ざけて配置することで、第1の副撮像系により取得される副画像における被写体のずれ量を大きくする。この結果、主撮像系を広角端に設定して撮像した場合においても、被写体距離の算出精度を高くすることができる。
以上説明したように、本実施例では、式(1),(2)の条件を満足するように第1および第2の副撮像系を配置することにより、撮像装置1を小型化しつつ、広い被写体距離範囲で高精度な被写体距離情報を取得することができる。また、第2の副撮像系が主撮像系の広角端と望遠端の中間の撮像画角を有することで、主撮像系の撮像画角内の全域で高精度に被写体距離情報を取得することができる。
さらに、本実施例の構成を利用して様々な撮像モードを実現することもができる。例えば、ハイダイナミックレンジモードでは、第1および第2の副撮像系のそれぞれで露出条件を異ならせて撮像を行い、得られた複数の副画像を主撮像系により得られる主画像に合成することで、ダイナミックレンジが広い合成画像が得られる。また、ぼけ付加モードでは、上述したように算出した被写体距離に基づいて背景にぼけを付加することで、主要な被写体を強調する画像を得ることもできる。また、背景除去モードでは、上記のように算出した被写体距離に基づいて主要な被写体以外の背景を除去した画像を得ることができる。さらに、立体撮像モードでは、水平方向に配列された主および副撮像系で左右の視差画像を取得し、一方の狭い画角の視差画像とそれに対応する他方の広い画角の画像の一部とを用いて立体視可能な画像を生成することができる。
また、本実施例では、第1および第2の副光学系を単焦点光学系とした場合について説明したが、変倍可能な光学系としてもよい。
また、本実施例では、レンズ鏡筒200が本体1aに設けられたレンズ一体型撮像装置について説明したが、撮像装置は、レンズ鏡筒が交換レンズとして撮像装置の本体に対して着脱(交換)可能なレンズ交換型撮像装置であってもよい。このことは、後述する他の実施例でも同じである。
次に、図11を用いて、本発明の実施例2である撮像装置2について説明する。図11には、本実施例の撮像装置2を被写体側から見て示している。
撮像装置2の本体(筐体)2aにおける前面の中央には、主光学系100を保持する2段沈胴タイプのレンズ鏡筒200が本体2aに対して格納および繰り出し可能に設けられている。また、本体2aの前面には、第1の副光学系130および第2の副光学系140が、レンズ鏡筒200を挟んだ水平方向両側に位置するように配置されている。主光学系100はおよびこれに対応する不図示の主撮像素子は、実施例1における主光学系100および主撮像素子と同じものである。主光学系100および主撮像素子により主撮像系が構成される。
繰り出し状態のレンズ鏡筒200は、実施例1のレンズ鏡筒200と同じく、本体側(前面側)から順に、第1の鏡筒部201と第2の鏡筒部202とを有する。第2の鏡筒部202は、第1の鏡筒部201よりも外径が小さい。
第1および第2の副光学系130,140はそれぞれ、固定焦点距離(単焦点)の結像光学系である。不図示の2つの副撮像素子は、第1および第2の副光学系130,140に対応する矩形の撮像領域を有し、第1および第2の副光学系130,140のそれぞれにより形成された被写体像を撮像(光電変換)する。副撮像素子は、実施例1における副撮像素子と同じものである。第1の副光学系130およびこれに対応する副撮像素子により第1の副撮像系が構成され、第2の副光学系140およびこれに対応する副撮像素子により第2の副撮像系が構成される。
主光学系100および第1および第2の副光学系130,140は、それらの光軸が互いに平行になるように配置されている。第1の副光学系130は、主光学系100の35mm換算における広角端での焦点距離24mmと同じ焦点距離(同じ画角)を有する単焦点光学系である。一方、第2の副光学系140は、主光学系100の広角端と望遠端との間の中間ズーム位置での焦点距離(広角端での画角より狭く、望遠端での画角以上の画角)を有する単焦点光学系である。例として、第2の副光学系140は、35mm換算における100mmの焦点距離を有する。
図12および図13を用いて、本実施例の撮像装置2の構成と式(1),(2)の条件との関係について説明する。図12には、式(1)の条件に関する定義を示している。図中のMは第1および第2の副光学系130,140における前端レンズ面を基準としたときの第1の鏡筒部201の前端面の繰り出し量である。本実施例では、M=10mmである。Mは第1および第2の副光学系130,140の前端レンズ面を基準としたときの第2の鏡筒部202の前端面の繰り出し量である。本実施例では、M=20mmである。
11は第1の副光学系130の光軸130aと第1の鏡筒部201の外周面との間の水平方向(第1の光軸離間方向)での距離である。本実施例では、L11=7.79mmである。L12は第1の副光学系130の光軸130aと第2の鏡筒部202の外周面との間の水平方向での距離である。本実施例では、L12=16.0mmである。L21は第2の副光学系140の光軸140aと第1の鏡筒部201の外周面との間の水平方向(第2の光軸離間方向)での距離である。本実施例では、L21=17.0mmである。L22は第2の副光学系140の光軸140aと第2の鏡筒部202の外周面との水平方向での距離である。本実施例では、L22=22.5mmである。
ωは第1の副光学系130の水平方向(第1の光軸離間方向)での半画角である。具体的には、ωは第1の副光学系130に対応する副撮像素子の矩形の撮像領域の長辺の長さによって決まる画角の半値である。本実施例では、ω=35.8度である。ωは第2の副光学系140の水平方向(第2の光軸離間方向)での半画角である。具体的には、ωは第2の副光学系140に対応する副撮像素子の矩形の撮像領域の長辺の長さによって決まる画角の半値である。本実施例では、ω=9.8度である。
図13は、式(2)の条件に関する定義を示している。図中のΩは主光学系100の望遠端での水平方向(第2の光軸離間方向)での半画角である。本実施例では、Ω=4.12度である。また、主光学系100の望遠端での焦点距離はft=53.7mmである。Nは主光学系100と第2の副光学系140との光軸間距離(光軸100a,140a間の距離)である。本実施例では、N=28.6mmである。
本実施例における上記値を表1にまとめて示す。また、本実施例における式(1),(2)の値を表2にまとめて示す。表2から分かるように、本実施例は式(1),(2)条件を満足している。式(1),(2)の条件を満足することで、撮像装置2を小型化しつつ、広い被写体距離範囲において精度良く被写体距離情報を取得することができる。
次に、図14を用いて、本発明の実施例3である撮像装置3について説明する。図14には、本実施例の撮像装置3を被写体側から見て示している。
撮像装置3の本体(筐体)3aにおける前面の中央には、主光学系100を保持する2段沈胴タイプのレンズ鏡筒200が本体3aに対して格納および繰り出し可能に設けられている。また、本体3aの前面には、第1の副光学系150および第2の副光学系160が、レンズ鏡筒200を挟んだ水平方向両側に位置するように配置されている。主光学系100はおよびこれに対応する不図示の主撮像素子は、実施例1における主光学系100および主撮像素子と同じものである。主光学系100および主撮像素子により主撮像系が構成される。
繰り出し状態のレンズ鏡筒200は、実施例1のレンズ鏡筒200と同じく、本体側(前面側)から順に、第1の鏡筒部201と第2の鏡筒部202とを有する。第2の鏡筒部202は、第1の鏡筒部201よりも外径が小さい。
第1および第2の副光学系150,160はそれぞれ、固定焦点距離(単焦点)の結像光学系である。不図示の2つの副撮像素子は、第1および第2の副光学系150,160に対応する矩形の撮像領域を有し、第1および第2の副光学系150,160のそれぞれにより形成された被写体像を撮像(光電変換)する。副撮像素子は、実施例1における副撮像素子と同じものである。第1の副光学系150およびこれに対応する副撮像素子により第1の副撮像系が構成され、第2の副光学系160およびこれに対応する副撮像素子により第2の副撮像系が構成される。
主光学系100および第1および第2の副光学系150,160は、それらの光軸が互いに平行になるように配置されている。第1の副光学系150は、主光学系100の35mm換算における広角端での焦点距離24mmと同じ焦点距離(同じ画角)を有する単焦点光学系である。一方、第2の副光学系160は、主光学系100の広角端と望遠端との間の中間ズーム位置での焦点距離(広角端での画角より狭く、望遠端での画角以上の画角)を有する単焦点光学系である。例として、第2の副光学系140は、35mm換算における50mmの焦点距離を有する。
図15および図16を用いて、本実施例の撮像装置3の構成と式(1),(2)の条件との関係について説明する。図15には、式(1)の条件に関する定義を示している。図中のMは第1および第2の副光学系150,160における前端レンズ面を基準としたときの第1の鏡筒部201の前端面の繰り出し量である。本実施例では、M=10mmである。Mは第1および第2の副光学系150,160の前端レンズ面を基準としたときの第2の鏡筒部202の前端面の繰り出し量である。本実施例では、M=20mmである。
11は第1の副光学系150の光軸150aと第1の鏡筒部201の外周面との間の水平方向(第1の光軸離間方向)での距離である。本実施例では、L11=7.79mmである。L12は第1の副光学系150の光軸150aと第2の鏡筒部202の外周面との間の水平方向での距離である。本実施例では、L12=16.0mmである。L21は第2の副光学系160の光軸160aと第1の鏡筒部201の外周面との間の水平方向(第2の光軸離間方向)での距離である。本実施例では、L21=48.0mmである。L22は第2の副光学系160の光軸160aと第2の鏡筒部202の外周面との水平方向での距離である。本実施例では、L22=57.1mmである。
ωは第1の副光学系150の水平方向(第1の光軸離間方向)での半画角である。具体的には、ωは第1の副光学系150に対応する副撮像素子の矩形の撮像領域の長辺の長さによって決まる画角の半値である。本実施例では、ω=35.8度である。ωは第2の副光学系160の水平方向(第2の光軸離間方向)での半画角である。具体的には、ωは第2の副光学系160に対応する副撮像素子の矩形の撮像領域の長辺の長さによって決まる画角の半値である。本実施例では、ω=19.1度である。
図16は、式(2)の条件に関する定義を示している。図中のΩは主光学系100の望遠端での水平方向(第2の光軸離間方向)での半画角である。本実施例では、Ω=4.12度である。また、主光学系100の望遠端での焦点距離はft=53.7mmである。Nは主光学系100と第2の副光学系160との光軸間距離(光軸100a,160a間の距離)である。本実施例では、N=70.0mmである。
本実施例における上記値を表1にまとめて示す。また、本実施例における式(1),(2)の値を表2にまとめて示す。表2から分かるように、本実施例は式(1),(2)条件を満足している。式(1),(2)の条件を満足することで、撮像装置3を小型化しつつ、広い被写体距離範囲において精度良く被写体距離情報を取得することができる。
なお、上記各実施例では、主撮像系と第1および第2の副撮像系のそれぞれに別々の撮像素子(主撮像素子および2つの副撮像素子)を設ける場合について説明した。しかし、1つの撮像素子に主撮像系で用いる主撮像領域と第1および第2の副撮像系で用いる2つの副撮像領域を設けてもよい。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上説明した各実施例は代表的な例にすぎず、本発明の実施に際しては、各実施例に対して種々の変形や変更が可能である。
1,2,3 撮像装置
100 主光学系
110,130,150 第1の副光学系
120,140,160 第2の副光学系

Claims (8)

  1. 変倍可能な主光学系により形成された被写体像を撮像する主撮像系と、
    前記主光学系の広角端での画角以上の画角を有する第1の副光学系により形成された被写体像を撮像する第1の副撮像系と、
    前記主光学系の広角端での画角より狭く、望遠端の画角以上の画角を有する第2の副光学系により形成された被写体像を撮像する第2の副撮像系とを有する撮像装置であって、前記主光学系を保持する光学鏡筒が該撮像装置の本体に対して繰り出し可能であって、前記第1および第2の副光学系が前記本体に設けられており、
    前記主光学系の光軸に対して前記第1の副光学系の光軸および前記第2の副光学系の光軸が離間する方向をそれぞれ、第iを第1または第2として、第iの光軸離間方向とし、前記主光学系の望遠端での第2の光軸離間方向での半画角をΩとし、
    前記主光学系の望遠端での焦点距離をfとし、
    前記第2の副光学系と前記主光学系の光軸間距離をNとし、
    前記第1および第2の副光学系のうち、第iの副光学系の前記第iの光軸離間方向での半画角をωとし、
    前記第iの副光学系の光軸と前記光学鏡筒のうち前記本体側から数えてj段目の鏡筒部の外周面までの前記第iの光軸離間方向での距離をLijとし、
    前記第1および第2の副光学系における最も被写体側の光学面に対する前記j段目の鏡筒部の繰り出し量をMとするとき、


    なる条件を満足することを特徴とする撮像装置。
  2. 前記第1および第2の副光学系が単焦点光学系であることを特徴とする請求項1に記載の撮像装置。
  3. 前記主撮像系において前記被写体像を光電変換する主撮像素子と、
    前記第1および第2の副撮像系のそれぞれにおいて前記被写体像を光電変換する副撮像素子とを有し、
    前記主撮像素子の撮像領域よりも前記副撮像素子の撮像領域が狭いことを特徴とする請求項1または2に記載の撮像装置。
  4. 前記第1の副光学系と前記主光学系との光軸間距離が、
    前記第2の副光学系と前記主光学系との光軸間距離と異なることを特徴とする請求項1から3のいずれか一項に記載の撮像装置。
  5. 前記主撮像系により生成される主画像および前記第1および第2の副撮像系のそれぞれにより生成される副画像を用いて、前記主撮像系の撮像画角内での被写体距離情報を取得する距離取得手段を有することを特徴とする請求項1から4のいずれか一項に記載の撮像装置。
  6. 前記主光学系において設定された画角に応じて、前記第1および第2の副撮像系のうち前記被写体距離情報を取得するために用いる副撮像系を選択する選択手段を有することを特徴とする請求項5に記載の撮像装置。
  7. 前記距離取得手段は、前記被写体距離情報を取得する際に、前記主撮像系の撮像画角と前記選択手段により選択された副撮像系の撮像画角とが異なる場合は、該選択された副撮像系により生成された前記副画像から前記主撮像系の撮像画角に対応する画像領域をトリミングして拡大することで得られた拡大画像を用いて前記被写体距離情報を取得することを特徴とする請求項6に記載の撮像装置。
  8. 前記主撮像系により生成される主画像および前記第1および第2の副撮像系のそれぞれにより生成される副画像を合成して合成画像を生成する画像合成手段を有することを特徴とする請求項1から4のいずれか一項に記載の撮像装置。
JP2015147699A 2015-07-27 2015-07-27 撮像装置 Active JP6552315B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015147699A JP6552315B2 (ja) 2015-07-27 2015-07-27 撮像装置
US15/210,029 US10148870B2 (en) 2015-07-27 2016-07-14 Image capturing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015147699A JP6552315B2 (ja) 2015-07-27 2015-07-27 撮像装置

Publications (3)

Publication Number Publication Date
JP2017028611A JP2017028611A (ja) 2017-02-02
JP2017028611A5 JP2017028611A5 (ja) 2018-08-30
JP6552315B2 true JP6552315B2 (ja) 2019-07-31

Family

ID=57883777

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015147699A Active JP6552315B2 (ja) 2015-07-27 2015-07-27 撮像装置

Country Status (2)

Country Link
US (1) US10148870B2 (ja)
JP (1) JP6552315B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102291525B1 (ko) * 2015-12-29 2021-08-19 코어포토닉스 리미티드 자동 조정가능 텔레 시야(fov)를 갖는 듀얼-애퍼처 줌 디지털 카메라
WO2018086133A1 (en) * 2016-11-14 2018-05-17 SZ DJI Technology Co., Ltd. Methods and systems for selective sensor fusion
JP6882016B2 (ja) * 2017-03-06 2021-06-02 キヤノン株式会社 撮像装置、撮像システム、撮像装置の制御方法、および、プログラム
JP2018170630A (ja) * 2017-03-30 2018-11-01 キヤノン株式会社 撮像装置、撮像システムおよび撮像制御プログラム
JP6951917B2 (ja) * 2017-09-15 2021-10-20 株式会社ソニー・インタラクティブエンタテインメント 撮像装置
US10764496B2 (en) * 2018-03-16 2020-09-01 Arcsoft Corporation Limited Fast scan-type panoramic image synthesis method and device
JP7104301B2 (ja) * 2018-03-19 2022-07-21 ミツミ電機株式会社 測距カメラ

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5006623B2 (ja) * 2006-11-20 2012-08-22 富士フイルム株式会社 撮影装置
US9109891B2 (en) * 2010-02-02 2015-08-18 Konica Minolta Holdings, Inc. Stereo camera
JP2012049651A (ja) 2010-08-24 2012-03-08 Ricoh Co Ltd 撮像装置及び撮像方法
JP2013061560A (ja) 2011-09-14 2013-04-04 Ricoh Co Ltd 測距装置および撮像装置
JP5745183B2 (ja) * 2012-07-30 2015-07-08 オリンパス株式会社 撮像装置及び撮像方法
JP2014041305A (ja) * 2012-08-23 2014-03-06 Fujifilm Corp 撮像装置、撮像装置の制御方法、ファインダ装置
JP6278668B2 (ja) * 2013-11-22 2018-02-14 キヤノン株式会社 複眼撮像装置
US9154697B2 (en) * 2013-12-06 2015-10-06 Google Inc. Camera selection based on occlusion of field of view
US10609273B2 (en) * 2014-07-31 2020-03-31 Maxell, Ltd. Image pickup device and method of tracking subject thereof
US10291842B2 (en) * 2015-06-23 2019-05-14 Samsung Electronics Co., Ltd. Digital photographing apparatus and method of operating the same

Also Published As

Publication number Publication date
US10148870B2 (en) 2018-12-04
JP2017028611A (ja) 2017-02-02
US20170034436A1 (en) 2017-02-02

Similar Documents

Publication Publication Date Title
JP6552315B2 (ja) 撮像装置
KR102351542B1 (ko) 시차 보상 기능을 갖는 애플리케이션 프로세서, 및 이를 구비하는 디지털 촬영 장치
US10009540B2 (en) Image processing device, image capturing device, and image processing method for setting a combination parameter for combining a plurality of image data
TWI554103B (zh) 影像擷取裝置及其數位變焦方法
JP6112824B2 (ja) 画像処理方法および装置、プログラム。
JP6436783B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体
JP4894939B2 (ja) 撮像装置、表示方法、および、プログラム
JP2005210217A (ja) ステレオカメラ
JP6257285B2 (ja) 複眼撮像装置
US20130083169A1 (en) Image capturing apparatus, image processing apparatus, image processing method and program
US10230882B2 (en) Image pickup apparatus acquiring a plurality of in-focus images of different field angles
JP2019168479A (ja) 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
JP5889022B2 (ja) 撮像装置、画像処理装置、画像処理方法及びプログラム
JP6648916B2 (ja) 撮像装置
JP6728020B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP6732440B2 (ja) 画像処理装置、画像処理方法、及びそのプログラム
JP2008053787A (ja) 多眼電子カメラ及び多眼電子カメラの視差補正方法
JP2013175821A (ja) 画像処理装置、画像処理方法およびプログラム
JP5744642B2 (ja) 画像処理装置および画像処理方法、プログラム。
JP6961423B2 (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、プログラムおよび記録媒体
JP6566765B2 (ja) 撮像装置
JP2016167234A (ja) 画像処理装置、画像処理方法およびプログラム
JP6292785B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2014049895A (ja) 画像処理方法
JP2015094834A (ja) 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180723

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180723

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190408

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190604

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190702

R151 Written notification of patent or utility model registration

Ref document number: 6552315

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151