JP2015060053A - 固体撮像装置、制御装置及び制御プログラム - Google Patents
固体撮像装置、制御装置及び制御プログラム Download PDFInfo
- Publication number
- JP2015060053A JP2015060053A JP2013193295A JP2013193295A JP2015060053A JP 2015060053 A JP2015060053 A JP 2015060053A JP 2013193295 A JP2013193295 A JP 2013193295A JP 2013193295 A JP2013193295 A JP 2013193295A JP 2015060053 A JP2015060053 A JP 2015060053A
- Authority
- JP
- Japan
- Prior art keywords
- imaging device
- optical system
- imaging
- calculation
- distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B35/00—Stereoscopic photography
- G03B35/08—Stereoscopic photography by simultaneous recording
- G03B35/10—Stereoscopic photography by simultaneous recording having single camera with stereoscopic-base-defining system
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S11/00—Systems for determining distance or velocity not using reflection or reradiation
- G01S11/12—Systems for determining distance or velocity not using reflection or reradiation using electromagnetic waves other than radio waves
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/0075—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for altering, e.g. increasing, the depth of field or depth of focus
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B3/00—Simple or compound lenses
- G02B3/0006—Arrays
- G02B3/0037—Arrays characterized by the distribution or form of lenses
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/557—Depth or shape recovery from multiple images from light fields, e.g. from plenoptic cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Electromagnetism (AREA)
- Studio Devices (AREA)
- Measurement Of Optical Distance (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Automatic Focus Adjustment (AREA)
Abstract
【課題】広い範囲で精度の高い測距を行うこと。【解決手段】実施形態に係る固体撮像装置は、第1撮像装置、第2撮像装置、制御部を含む。第1撮像装置は、第1光学系と、第1光学系と、第1光学系による結像位置と、の間に設けられ、複数の撮像画素を有する第1撮像部と、第1光学系と、第1撮像部と、の間に設けられ、第1マイクロレンズアレイを有する第2光学系と、を含む。第2撮像装置は、第3光学系と、第3光学系と、第3光学系による結像位置と、の間に設けられ、複数の撮像画素を有する第2撮像部と、第3光学系と、第2撮像部と、の間に設けられ、第2マイクロレンズアレイを有する第4光学系と、を含む。制御部は、第1撮像装置で得た対象物の第1画像信号及び第2撮像装置で得た対象物の第2画像信号を用いたステレオ視差によって距離を演算する第1演算と、第1マイクロレンズアレイ及び第2マイクロレンズアレイの少なくとも一方を介して得た視差画像によって距離を演算する第2演算と、を行う。【選択図】図1
Description
本発明の実施形態は、固体撮像装置、制御装置及び制御プログラムに関する。
2次元アレイ情報として奥行き方向の情報(距離情報)を得ることができる撮像技術は、参照光を使用する技術、複数カメラを使用したステレオ測距技術など、様々な方法が検討されている。特に近年は、民生用途での新たな入力デバイスとして比較的廉価な製品のニーズが高まっている。
距離情報を得る撮像技術のうち、計測用の参照光を用いた方式は、パッシブ方式とよばれる。パッシブ方式には、三角測量に基づく視差方式や、取得画像の形状やコントラスト等から経験的に距離を推定する画像推定法などがある。特に、視差方式は、2眼構成を基本として様々な算出方法が提案されている。視差方式を用いて距離情報を得る撮像技術においては、広い範囲で精度の高い距離測定(測距)を行えることが望ましい。
本発明の実施形態は、広い範囲で精度の高い測距を行うことができる固体撮像装置、制御装置及び制御プログラムを提供する。
実施形態に係る固体撮像装置は、第1撮像装置と、第2撮像装置と、制御部と、を含む。
前記第1撮像装置は、第1光学系と、前記第1光学系と、前記第1光学系による結像位置と、の間に設けられ、複数の撮像画素を有する第1撮像部と、前記第1光学系と、前記第1撮像部と、の間に設けられ、第1マイクロレンズアレイを有する第2光学系と、を含む。
前記第2撮像装置は、第3光学系と、前記第3光学系と、前記第3光学系による結像位置と、の間に設けられ、複数の撮像画素を有する第2撮像部と、前記第3光学系と、前記第2撮像部と、の間に設けられ、第2マイクロレンズアレイを有する第4光学系と、を含む。
前記制御部は、前記第1撮像装置で得た対象物の第1画像信号及び前記第2撮像装置で得た前記対象物の第2画像信号を用いたステレオ視差によって距離を演算する第1演算と、前記第1マイクロレンズアレイ及び前記第2マイクロレンズアレイの少なくとも一方を介して得た視差画像によって距離を演算する第2演算と、を行う。
前記第1撮像装置は、第1光学系と、前記第1光学系と、前記第1光学系による結像位置と、の間に設けられ、複数の撮像画素を有する第1撮像部と、前記第1光学系と、前記第1撮像部と、の間に設けられ、第1マイクロレンズアレイを有する第2光学系と、を含む。
前記第2撮像装置は、第3光学系と、前記第3光学系と、前記第3光学系による結像位置と、の間に設けられ、複数の撮像画素を有する第2撮像部と、前記第3光学系と、前記第2撮像部と、の間に設けられ、第2マイクロレンズアレイを有する第4光学系と、を含む。
前記制御部は、前記第1撮像装置で得た対象物の第1画像信号及び前記第2撮像装置で得た前記対象物の第2画像信号を用いたステレオ視差によって距離を演算する第1演算と、前記第1マイクロレンズアレイ及び前記第2マイクロレンズアレイの少なくとも一方を介して得た視差画像によって距離を演算する第2演算と、を行う。
以下、本発明の実施形態を図に基づき説明する。以下の説明では、同一の部材には同一の符号を付し、一度説明した部材については適宜その説明を省略する。
(第1の実施形態)
図1は、第1の実施形態に係る固体撮像装置の構成を例示する模式図である。
図1に表したように、本実施形態に係る固体撮像装置110は、第1撮像装置10Aと、第2撮像装置10Bと、制御部50と、を備える。
図1は、第1の実施形態に係る固体撮像装置の構成を例示する模式図である。
図1に表したように、本実施形態に係る固体撮像装置110は、第1撮像装置10Aと、第2撮像装置10Bと、制御部50と、を備える。
第1撮像装置10Aは、第1光学系に含まれる第1メインレンズ11Aと、第2光学系に含まれるマイクロレンズアレイ12Aと、を有する。第2撮像装置10Bは、第3光学系に含まれる第2メインレンズ11Bと、第4光学系に含まれるマイクロレンズアレイ12Bと、を含む。第1撮像装置10A及び第2撮像装置10Bは、いわゆる複眼カメラである。第1撮像装置10A及び第2撮像装置10Bの詳細な構成は後述する。
制御部50は、第1演算と、第2演算と、を行う。
第1演算は、第1撮像装置10Aで得た対象物の第1画像信号及び第2撮像装置10Bで得た対象物の第2画像信号を用いたステレオ視差によって距離を演算する。
第2演算は、第1マイクロレンズアレイ12A及び第2マイクロレンズアレイ12Bの少なくとも一方を介して得た視差画像によって距離を演算する。
第1演算は、第1撮像装置10Aで得た対象物の第1画像信号及び第2撮像装置10Bで得た対象物の第2画像信号を用いたステレオ視差によって距離を演算する。
第2演算は、第1マイクロレンズアレイ12A及び第2マイクロレンズアレイ12Bの少なくとも一方を介して得た視差画像によって距離を演算する。
固体撮像装置110は、第1撮像装置10A及び第2撮像装置10Bによって得た画像信号に基づくステレオマッチングによって距離画像を取得する演算(第1演算)と、第1撮像装置10A及び第2撮像装置10Bの少なくとも1つのマイクロレンズアレイを介して得られた視差画像群に基づくパターンマッチングによって距離画像を取得する演算(第2演算)と、を行う。固体撮像装置110では、第1演算及び第2演算のそれぞれを適宜選択することによって、広い範囲で精度の高い測距を行う。
図2は、撮像装置の構成を例示する模式的断面図である。
なお、第1撮像装置10Aの構成は、第2撮像装置10Bの構成と共通であるため、図2では、1つの撮像装置10を例示している。以下の説明において、第1撮像装置10Aの構成には符号「A」が付され、第2撮像装置10Bの構成には符号「B」が付される。第1撮像装置10Aの構成及び第2撮像装置10Bの構成を区別しない場合には、「A」、「B」の符号は省略される。
なお、第1撮像装置10Aの構成は、第2撮像装置10Bの構成と共通であるため、図2では、1つの撮像装置10を例示している。以下の説明において、第1撮像装置10Aの構成には符号「A」が付され、第2撮像装置10Bの構成には符号「B」が付される。第1撮像装置10Aの構成及び第2撮像装置10Bの構成を区別しない場合には、「A」、「B」の符号は省略される。
撮像装置10は、メインレンズ11と、マイクロレンズアレイ12と、撮像部13と、を有する。第1撮像装置10Aにおいて、メインレンズ11は第1メインレンズ11Aであり、マイクロレンズアレイ12は第1マイクロレンズアレイ12Aであり、撮像部13は第1撮像部13Aである。第2撮像装置10Bにおいて、メインレンズ11は第2メインレンズ11Bであり、マイクロレンズアレイ12は第2マイクロレンズアレイ12Bであり、撮像部13は第2撮像部13Bである。
メインレンズ11は、1枚以上のレンズを有する。撮像部13は、メインレンズ11と、メインレンズ11による結像位置と、の間に設けられる。撮像部13は、図示しない複数の撮像画素を有する。マイクロレンズアレイ12は、メインレンズ11と、撮像部13と、の間に設けられる。
撮像部13は、図示しない半導体基板上に設けられた撮像画素であるフォトダイオードと、フォトダイオードを駆動する駆動回路、信号の読み出しを行う読み出し回路などを有する。撮像部13はチップ状に切断され、実装基板100の上に実装される。撮像部13は、ボンディングワイヤ106を介して実装基板100の図示しない配線パターンと電気的に接続される。
マイクロレンズアレイ12は、撮像部13と離間して設けられる。マイクロレンズアレイ12と撮像部13との間には接合部108が設けられる。接合部108によってマイクロレンズアレイ12と撮像部13との間の空間109が設定される。実装基板100の上には、マイクロレンズアレイ12、撮像部13及びボンディングワイヤ106を覆うように筐体102が設けられる。
筐体102にはレンズホルダ103が取り付けられる。メインレンズ11は、レンズホルダ103を介して筐体102に取り付けられる。これにより、メインレンズ11はマイクロレンズアレイ12の上方に配置される。メインレンズ11とマイクロレンズアレイ12との間には、不要な光を遮断するフィルタ104が設けられていてもよい。
図3は、撮像装置の実装の状態を例示する模式図である。
図3に表したように、本実施形態に係る固体撮像装置110は、基板20を備えていてもよい。第1撮像装置10A及び第2撮像装置10Bは、基板20の第1面20aに一定の間隔を空けて実装される。
図3に表したように、本実施形態に係る固体撮像装置110は、基板20を備えていてもよい。第1撮像装置10A及び第2撮像装置10Bは、基板20の第1面20aに一定の間隔を空けて実装される。
制御部50は、配線21を介して第1撮像装置10A及び第2撮像装置10Bと電気的に接続されていてもよい。また、制御部50は、基板20の第1面20aや、第1面20aとは反対側の第2面20bに実装されていてもよい。制御部50は、無線通信によって第1撮像装置10A及び第2撮像装置10Bと接続されていてもよい。制御部50は、インターネット等のネットワークを介して第1撮像装置10A及び第2撮像装置10Bと接続されていてもよい。
次に、固体撮像装置110による測距について説明する。
図1に表したように、第1撮像装置10Aは、第1撮像領域R1内の対象物を撮像可能である。第2撮像装置10Bは、第2撮像領域R2内の対象物を撮像可能である。第1撮像領域R1及び第2撮像領域R2が重複する重複領域OL内の対象物は、第1撮像装置10A及び第2撮像装置10Bの両方によって撮像可能である。
図1に表したように、第1撮像装置10Aは、第1撮像領域R1内の対象物を撮像可能である。第2撮像装置10Bは、第2撮像領域R2内の対象物を撮像可能である。第1撮像領域R1及び第2撮像領域R2が重複する重複領域OL内の対象物は、第1撮像装置10A及び第2撮像装置10Bの両方によって撮像可能である。
一方、第1撮像領域R1及び第2撮像領域R2が重複しない非重複領域(他の領域)NOL内の対象物は、第1撮像装置10A及び第2撮像装置10Bのいずれか一方によって撮像可能である。例えば、第1撮像領域R1のうち非重複領域NOLである撮像領域R11内の対象物は、第1撮像装置10Aによって撮像可能である。また、第2撮像領域R2のうち非重複領域NOLである撮像領域R21内の対象物は、第2撮像装置10Bによって撮像可能である。
例えば、制御部50は、重複領域OLについては第1演算による演算結果を選択し、非重複領域NOLについては第2演算による演算結果を選択する。制御部50は、重複領域OLについて第1演算及び第2演算を行い、非重複領域NOLについて第2演算を行ってもよい。
制御部50は、固体撮像装置110から対象物までの距離に応じて第1演算による演算結果の選択と、第2演算による演算結果の選択とを切り替えるようにしてもよい。例えば、図1に表したように、固体撮像装置110からの距離THを閾値として予め設定しておき、距離THを超える範囲A1については第1演算による演算結果を選択し、距離TH以下の範囲A2については第2演算による演算結果を選択するようにしてもよい。
また、制御部50は、固体撮像装置110の外部から送られた指示に応じて第1演算による演算結果の選択と、第2演算による演算結果の選択とを切り替えるようにしてもよい。
固体撮像装置110では、制御部50による第1演算による演算結果及び第2演算による演算結果を適宜用いることで、第1演算によるメリットと、第2演算によるメリットとの両方を得る。
ここで、具体的な測距の例について説明する。
図1に表したように、第1撮像装置10Aによる第1撮像領域R1及び第2撮像装置10Bによる第2撮像領域R1が重複した重複領域OLのうち、固体撮像装置110から十分遠方にある撮像領域R121では、制御部50は第1演算により距離を推定する。すなわち、制御部50は、第1撮像装置10A及び第2撮像装置10Bによって得た画像信号に基づき再構成画像を形成し、ステレオマッチング法により距離を推定する。画像の再構成及びステレオマッチング法については後述する。
図1に表したように、第1撮像装置10Aによる第1撮像領域R1及び第2撮像装置10Bによる第2撮像領域R1が重複した重複領域OLのうち、固体撮像装置110から十分遠方にある撮像領域R121では、制御部50は第1演算により距離を推定する。すなわち、制御部50は、第1撮像装置10A及び第2撮像装置10Bによって得た画像信号に基づき再構成画像を形成し、ステレオマッチング法により距離を推定する。画像の再構成及びステレオマッチング法については後述する。
一方、重複領域OLのうち固体撮像装置110から比較的近い撮像領域R122では、制御部50は、第1演算及び第2演算の少なくとも一方によって距離を推定する。第2演算では、第1撮像装置10Aの第1マイクロレンズアレイ12A及び第2撮像装置10Bの第2マイクロレンズアレイ12Bの少なくとも一方を介して撮像部13で得た視差画像群によるパターンマッチング法によって距離を推定する。視差画像群を用いた測距については後述する。
さらに、第1撮像装置10Aによる第1撮像領域R1のうち、非重複領域NOLである撮像領域R11では、制御部50は第2演算によって距離を推定する。すなわち、制御部50は、第1撮像装置10Aの第1マイクロレンズアレイ12Aを介して第1撮像部13Aで得た視差画像群によるパターンマッチング法によって距離を推定する。
また、第2撮像装置10Bによる第2撮像領域R2のうち、非重複領域NOLである撮像領域R21では、制御部50は第2演算によって距離を推定する。すなわち、制御部50は、第2撮像装置10Bの第2マイクロレンズアレイ12Bを介して第2撮像部13Bで得た視差画像群によるパターンマッチング法によって距離を推定する。
このように、固体撮像装置110では、第1撮像領域R1及び第2撮像領域R2の重複領域OLでの測距に加え、非重複領域NOLでの測距も行う。したがって、広い範囲における測距が実現される。また、比較的遠い範囲では第1演算によるステレオマッチング法での測距を行い、比較的近い範囲では第2演算による視差画像群によるパターンマッチング法での測距を行う。これにより、遠近の範囲において高精度な測距が実現される。
図4は、参考例に係る測距について例示する模式図である。
図4に表した例では、第1撮像装置10A’及び第2撮像装置10B’によって得た画像信号によってステレオマッチング法で測距する。第1撮像装置10A’及び第2撮像装置10B’は、複眼カメラではないカメラである。
図4に表した例では、第1撮像装置10A’及び第2撮像装置10B’によって得た画像信号によってステレオマッチング法で測距する。第1撮像装置10A’及び第2撮像装置10B’は、複眼カメラではないカメラである。
図4に表した例において、距離画像を取得することが可能な範囲は、第1撮像装置10A’の第1撮像領域R1’と、第2撮像装置10B’の第2撮像領域R2’とが重複する重複領域OLに限られる。したがって、重複領域OL以外の領域については距離画像を取得することができない。
一方、先に説明したように、本実施形態に係る固体撮像装置110では、重複領域OLのみならず、非重複領域NOLにおいても距離画像を取得することができる。したがって、固体撮像装置110では、広い範囲で距離画像が得られる。
次に、ステレオマッチング法による距離の推定方法について説明する。
図5は、ステレオ視差に基づく距離の推定の概念を示す図である。
図5において、Zは距離、fはカメラの焦点距離、Tは左右カメラC1及びC2の間隔(基線長)、dは視差長(x1−x2)である。
図5は、ステレオ視差に基づく距離の推定の概念を示す図である。
図5において、Zは距離、fはカメラの焦点距離、Tは左右カメラC1及びC2の間隔(基線長)、dは視差長(x1−x2)である。
距離Zは、左右カメラC1及びC2で捉えた同一対象物の撮像面での位置のずれである視差長dから、次の(1)式によって示される。
ステレオ視差に基づく距離Zは、上記のように、二つのカメラC1及びC2で撮影した像の一方の任意の領域の画像と、この画像に対応したもう一方の画像とのマッチングをとり、得られた視差に基づき、上記(1)式によって算出される。
次に、視差画像群を用いた距離の推定方法について説明する。
図6(a)及び図6(b)は、視差画像群を用いた距離の推定方法の概念を示す図である。
図6(b)には、図6(a)に示すP部分の拡大図が表される。
図6(a)及び図6(b)において、Aは、距離(メインレンズ11の物体側の主面から対象物までの距離)、fは、メインレンズ11の焦点距離、Bは、メインレンズ11の像側の主面から結像面IMS1までの距離、Cは、マイクロレンズアレイ12に含まれるマイクロレンズMLの物体側の主面からメインレンズ11の結像面IMS1までの距離、Dは、マイクロレンズMLの像側の主面からマイクロレンズMLの結像面IMS2までの距離、Eは、メインレンズ11の像側の主面からマイクロレンズMLの物体側の主面までの距離(E=B−C)、dは、マイクロレンズMLにおける視差長、nLは、基線長、Lは、マイクロレンズMLのピッチ(L≒マイクロレンズMLの直径)、gは、マイクロレンズMLの焦点距離である。
図6(a)及び図6(b)は、視差画像群を用いた距離の推定方法の概念を示す図である。
図6(b)には、図6(a)に示すP部分の拡大図が表される。
図6(a)及び図6(b)において、Aは、距離(メインレンズ11の物体側の主面から対象物までの距離)、fは、メインレンズ11の焦点距離、Bは、メインレンズ11の像側の主面から結像面IMS1までの距離、Cは、マイクロレンズアレイ12に含まれるマイクロレンズMLの物体側の主面からメインレンズ11の結像面IMS1までの距離、Dは、マイクロレンズMLの像側の主面からマイクロレンズMLの結像面IMS2までの距離、Eは、メインレンズ11の像側の主面からマイクロレンズMLの物体側の主面までの距離(E=B−C)、dは、マイクロレンズMLにおける視差長、nLは、基線長、Lは、マイクロレンズMLのピッチ(L≒マイクロレンズMLの直径)、gは、マイクロレンズMLの焦点距離である。
マイクロレンズMLの物体側の主面からメインレンズ11の結像面IMS1までの距離Cは、次の(2)式によって示される。
視差長dは、次の(3)式によって示される。
メインレンズ11の像側の主面から結像面IMS1までの距離Bは、メインレンズ11の焦点距離fと、メインレンズ11の物体側の主面から対象物までの距離Aとの関係式である次の(4)式によって示される。
ここで、距離Cは、次の(5)式によって示される。
(2)式、(4)式及び(5)式をまとめると、次の(6)式として示される。
したがって、メインレンズ11の物体側の主面から対象物までの距離Aは、上記(6)式から既知のD、nL、d、f及びEから導かれる。
次に、画像の再構成について説明する。
本実施形態の固体撮像装置110のように、マイクロレンズアレイ12を介して撮像部13で得た画像信号に基づき視差に基づく測距を行うには、画像の再構成を行う必要がある。
本実施形態の固体撮像装置110のように、マイクロレンズアレイ12を介して撮像部13で得た画像信号に基づき視差に基づく測距を行うには、画像の再構成を行う必要がある。
本実施形態の固体撮像装置110のように、複数のマイクロレンズによって同一被写体から出た光線群を分割し、仮想結像面よりも前方に位置する撮像画素面へ結像した場合、同一被写体が視差に応じて複数撮像されることになる。したがって、同一被写体部が複数回撮影されたマイクロレンズ像群が画像として出力される。このマイクロレンズ像群は、仮想結像面に結像するはずだった画像から、マイクロレンズ結像系による像倍率Nだけ縮小される関係となる。像倍率Nは、次の(7)式によって示される。
得られたマイクロレンズ画像群は、読み出した各マイクロレンズ画像データを再構成処理することによって、重複箇所のない2次元画像に再構成される。また、得られたマイクロレンズ画像群は、結像レンズ口径内の視差を有するため、視差を利用した3Dステレオ画像処理に利用される。
本実施形態に係る固体撮像装置110では、ステレオ視差による距離推定、およびマイクロレンズから得られた視差画像群による距離推定を得ることができ、任意の距離領域で何れか、あるいはその双方の手法を適応することで、死角領域を低減でき、近距離から遠距離まで高精度の距離画像の取得が可能になる。
次に、制御部50について説明する。
制御部50は、第1撮像装置10Aで得た対象物の第1画像信号及び第2撮像装置10Bで得た対象物の第2画像信号に基づき、測距を行う。制御部50は、ハードウェアによって構成されていても、ソフトウェアによって構成されていてもよい。また、制御部50は、ハードウェハとソフトウェアとの両方によって構成されていてもよい。以下においては、制御部50がソフトウェア(制御プログラム)として構成されている場合の処理について説明する。
制御部50は、第1撮像装置10Aで得た対象物の第1画像信号及び第2撮像装置10Bで得た対象物の第2画像信号に基づき、測距を行う。制御部50は、ハードウェアによって構成されていても、ソフトウェアによって構成されていてもよい。また、制御部50は、ハードウェハとソフトウェアとの両方によって構成されていてもよい。以下においては、制御部50がソフトウェア(制御プログラム)として構成されている場合の処理について説明する。
図7及び図8は、制御プログラムの流れを例示するフローチャートである。
図7には第1演算の処理の流れが表され、図8には第2演算の処理の流れが表される。
図7には第1演算の処理の流れが表され、図8には第2演算の処理の流れが表される。
先ず、図7に表したように、第1撮像装置10Aによる撮像(ステップS101)と、第2撮像装置10Bによる撮像(ステップS102)とを指示する。次に、第1撮像装置10Aから例えばRAWデータを含むキャリブレーションデータの読み込み(ステップS103)と、第2撮像装置10Bから例えばRAWデータを含むキャリブレーションデータの読み込み(ステップS104)を行う。
次に、第1撮像装置10Aのキャリブレーションデータから再構成画像の生成(ステップS105)を行う。この再構成画像には第1画像信号が含まれる。また、第2撮像装置10Bのキャリブレーションデータから再構成画像の生成(ステップS106)を行う。この再構成画像には第2画像信号が含まれる。
次に、第1画像信号を含む再構成画像と、第2画像信号を含む再構成画像とを統合する(ステップS107)。統合された画像は、必要に応じて外部の表示装置(ディスプレイ)に表示させてもよい。
次に、ステレオマッチングによる距離の推定(ステップS108)を行う。ここでは、第1画像信号を含む再構成画像と、第2画像信号を含む再構成画像とを用いたステレオ視差によって距離を演算する。そして、距離画像の生成を行う(ステップS109)。
次に、推定した距離と、予め設定された閾値との比較を行う(ステップS110)。推定した距離が、閾値を超えている場合には、ステレオ距離推定基準範囲内であると判定する(ステップS111)。ステレオ距離推定基準範囲内であると判定された場合には、ステップS109で生成した距離画像を選択する。選択された距離画像は、必要に応じて外部に出力される。なお、距離画像は必要とせず、推定距離のみを得たい場合には、ステップS109の処理は省略可能である。
一方、推定した距離が、閾値以下の場合には、図8に表したフローチャートへ移行する。図8に表したように、先ず、第1撮像装置10Aのマイクロレンズ毎に得られる視差画像の群から距離を推定する(ステップS201)。また、第2撮像装置10Bのマイクロレンズ毎に得られる視差画像の群から距離を推定する(ステップS202)。すなわち、第1撮像装置10Aのキャリブレーションデータからマイクロレンズ画像群の視差に基づきマイクロレンズ毎に得られる視差画像の群から距離を推定する。同様に、第2撮像装置10Bのキャリブレーションデータからマイクロレンズ画像群の視差に基づきマイクロレンズ毎に得られる視差画像の群から距離を推定する。
次に、マイクロレンズ毎に得られる視差画像の群からの距離の推定結果から距離画像を生成する(ステップS203及びステップS204)。そして、第1撮像装置10Aによって得た距離画像と、第2撮像装置10Bによって得た距離画像との統合を行う(ステップS205)。統合された距離画像は、必要に応じて外部に出力される。なお、距離画像は必要とせず、推定距離のみを得たい場合には、ステップS203の処理及びステップS204の処理は省略可能である。なお、第1撮像装置10Aまたは第2撮像装置10Bのいずれか一方のみによって距離画像を得ようとする場合には、ステップS201の処理とステップS203の処理、またはステップS202の処理とステップS204の処理、のいずれか一方のみが実行されてもよい。この場合には、ステップS205の処理は実行されなくてもよい。
このような処理によって、広い範囲における測距が実現されるとともに、対象物まで距離が遠い場合及び近い場合の両方において高精度な測距が実現される。
なお、制御部50は、図8に表した処理(第2演算)を、図7に表した処理(第1演算)と並列に行ってもよい。例えば、マルチタスク処理が可能なハードウェアを用いて、図7に表した第1演算のプログラムと、図8に表した第2演算のプログラムとを、並列処理してもよい。
上記説明した制御プログラムは、コンピュータによって実行される。
図9は、コンピュータのハードウェア構成を例示する図である。
コンピュータ200は、中央演算部201、入力部202、出力部203、記憶部204を含む。入力部202は、記録媒体Mに記録された情報を読み取る機能を含む。上記説明した制御プログラムは、中央演算部201で実行される。
図9は、コンピュータのハードウェア構成を例示する図である。
コンピュータ200は、中央演算部201、入力部202、出力部203、記憶部204を含む。入力部202は、記録媒体Mに記録された情報を読み取る機能を含む。上記説明した制御プログラムは、中央演算部201で実行される。
制御プログラムは、図7及び図8に表した各ステップの処理をコンピュータ200に実行させる。
制御プログラムは、コンピュータ読取可能な記録媒体に記録されていてもよい。記録媒体Mは、図7及び図8に表した各ステップの処理をコンピュータ200に読み取り可能な形式によって記録している。
すなわち、記録媒体Mは、第1撮像装置10Aと第2撮像装置10Bとを含む固体撮像装置を制御する制御プログラムが記録される。
第1撮像装置10Aは、第1光学系である第1メインレンズ11Aと、第1メインレンズ11Aと、第1メインレンズ11Aによる結像位置と、の間に設けられ、複数の撮像画素を有する第1撮像部13Aと、第1メインレンズ11Aと、第1撮像部13Aと、の間に設けられ、第1マイクロレンズアレイ12Aを有する第2光学系と、を含む。
第2撮像装置10Bは、第1撮像装置10Aと離間して設けられる。
第2撮像装置10Bは、第3光学系である第2メインレンズ11Bと、第2メインレンズ11Bと、第2メインレンズ11Bによる結像位置と、の間に設けられ、複数の撮像画素を有する第2撮像部13Bと、第2メインレンズ11Bと、第2撮像部13Bと、の間に設けられ、第2マイクロレンズアレイ12Bを有する第4光学系と、を含む。
記録媒体Mは、第1撮像装置10Aで得た対象物の第1画像信号及び第2撮像装置10Bで得た対象物の第2画像信号を用いたステレオ視差によって距離を演算する第1演算処理と、第1マイクロレンズアレイ12A及び第2マイクロレンズアレイ12Bの少なくとも一方を介して得た視差画像によって距離を演算する第2演算処理と、をコンピュータに実行させるプログラムを記録する。
第1撮像装置10Aは、第1光学系である第1メインレンズ11Aと、第1メインレンズ11Aと、第1メインレンズ11Aによる結像位置と、の間に設けられ、複数の撮像画素を有する第1撮像部13Aと、第1メインレンズ11Aと、第1撮像部13Aと、の間に設けられ、第1マイクロレンズアレイ12Aを有する第2光学系と、を含む。
第2撮像装置10Bは、第1撮像装置10Aと離間して設けられる。
第2撮像装置10Bは、第3光学系である第2メインレンズ11Bと、第2メインレンズ11Bと、第2メインレンズ11Bによる結像位置と、の間に設けられ、複数の撮像画素を有する第2撮像部13Bと、第2メインレンズ11Bと、第2撮像部13Bと、の間に設けられ、第2マイクロレンズアレイ12Bを有する第4光学系と、を含む。
記録媒体Mは、第1撮像装置10Aで得た対象物の第1画像信号及び第2撮像装置10Bで得た対象物の第2画像信号を用いたステレオ視差によって距離を演算する第1演算処理と、第1マイクロレンズアレイ12A及び第2マイクロレンズアレイ12Bの少なくとも一方を介して得た視差画像によって距離を演算する第2演算処理と、をコンピュータに実行させるプログラムを記録する。
記録媒体Mは、ネットワークに接続されたサーバ等の記憶装置であってもよい。また、制御プログラムは、ネットワークを介して配信されてもよい。
(第2の実施形態)
次に、第2の実施形態の説明を行う。
図10(a)及び図10(b)は、第2の実施形態に係る固体撮像装置の構成を例示する模式図である。
図10(a)には、第2の実施形態に係る固体撮像装置120の構成例が表される。図10(b)には、第2の実施形態に係る固体撮像装置120による測距の概念が表される。
次に、第2の実施形態の説明を行う。
図10(a)及び図10(b)は、第2の実施形態に係る固体撮像装置の構成を例示する模式図である。
図10(a)には、第2の実施形態に係る固体撮像装置120の構成例が表される。図10(b)には、第2の実施形態に係る固体撮像装置120による測距の概念が表される。
図10(a)に表したように、本実施形態に係る固体撮像装置120は、第1撮像装置10Aと、第2撮像装置10Bと、制御部50と、を備える。固体撮像装置120においては、第1撮像装置10Aの第1光学系に含まれる第1メインレンズ11Aの光軸CL1が、第2撮像装置10Bの第3光学系に含まれる第2メインレンズ11Bの光軸CL2と非平行になっている。その他の構成は、固体撮像装置110と同様である。
固体撮像装置120は、例えば基板20と、第1傾斜台25と、第2傾斜台26と、を備える。第1傾斜台25及び第2傾斜台26は、基板20の第1面20aに設けられる。第1傾斜台25の第1傾斜面25aは、基板20の第1面20aに対して傾斜している。第2傾斜台26の第2傾斜面26aは、基板20の第1面20aに対して傾斜している。
第1撮像装置10Aは、第1傾斜面25aに実装される。第2撮像装置10Bは、第2傾斜面26aに実装される。第1撮像装置10Aと第2撮像装置10Bとの中間であって、第1面20aと直交する軸を中心軸CL0とした場合、第1撮像装置10A及び第2撮像装置10Bは、互いに中心軸CL0側(内向き)に傾斜して配置される。
図10(b)に表したように、固体撮像装置120においては、第1撮像装置10A及び第2撮像装置10Bにより中心軸CL0に対して所定の角度を付けた画像が得られる。これにより、第1撮像領域R1と第2撮像領域R2との重複領域OLを、図1に表した重複領域OLに対して変化させることができる。
固体撮像装置120において、第1傾斜面25aの第1角度θ1及び第2傾斜面26aの第2角度θ2を変更可能に設けてもよい。第1角度θ1は、基板20の第1面20aに対する第1傾斜面25aの角度である。第2角度θ2は、基板20の第1面20aに対する第2傾斜面26aの角度である。第1角度θ1によって第1撮像装置10Aの光軸CL1の角度が設定され、第2角度θ2によって第2撮像装置10Bの光軸CL2の角度が設定される。
制御部50は、第1角度θ1及び第2角度θ2をそれぞれ独立に制御してもよい。これにより、第1撮像領域R1、第2撮像領域R2及び重複領域OLを調整することができる。なお、固体撮像装置120において、第1撮像装置10A及び第2撮像装置10Bは、互いに中心軸CL0とは反対側(外向き)に傾斜して配置されていてもよい。
(第3の実施形態)
次に、第3の実施形態について説明する。
図11は、第3の実施形態に係る固体撮像装置の構成を例示する模式図である。
図11に表したように、本実施形態に係る固体撮像装置130は、第1撮像装置10Aと、第2撮像装置10Bと、第3撮像装置10Cと、制御部50と、を備える。すなわち、固体撮像装置130は、固体撮像装置110に第3撮像装置10Cを追加した構成である。その他の構成は固体撮像装置110と同様である。
次に、第3の実施形態について説明する。
図11は、第3の実施形態に係る固体撮像装置の構成を例示する模式図である。
図11に表したように、本実施形態に係る固体撮像装置130は、第1撮像装置10Aと、第2撮像装置10Bと、第3撮像装置10Cと、制御部50と、を備える。すなわち、固体撮像装置130は、固体撮像装置110に第3撮像装置10Cを追加した構成である。その他の構成は固体撮像装置110と同様である。
第3撮像装置10Cは、第1撮像装置10Aと、第2撮像装置10Bと、の間に設けられる。第3撮像装置10Cの構成は、第1撮像装置10Aの構成及び第2撮像装置10Bの構成と同様である。すなわち、第3撮像装置10Cは、第5光学系に含まれる第3メインレンズ11Cと、複数の撮像画素を有する第3撮像部13Cと、第6光学系に含まれる第3マイクロレンズアレイ12Cと、を有する。
第3撮像部13Cは、第3メインレンズ11Cと、第3メインレンズ11Cの結像位置と、の間に設けられる。第3マイクロレンズアレイ12Cは、第3メインレンズ11Cと、第3撮像部13Cと、の間に設けられる。なお、第3撮像装置10Cによる第3撮像領域R3は、第1撮像装置10Aによる第1撮像領域R1や第2撮像装置10Bによる第2撮像領域R2よりも近距離側に広い。
固体撮像装置130では、第1撮像領域R1及び第2撮像領域R2に含まれない撮像領域R33の画像を得ることができる。制御部50は、この撮像領域R33内の対象物については、第3撮像装置10Cの第3マイクロレンズアレイ12Cを介して得た視差画像によって距離を演算する。
また、制御部50は、第1撮像領域R1と第3撮像領域R3との重複領域R31については、第1撮像装置10A及び第3撮像装置10Cによって得た画像信号に基づき再構成画像を形成し、ステレオマッチング法により距離を演算しても、第3マイクロレンズアレイ12Cを介して得た視差画像によって距離を演算してもよい。
また、制御部50は、第2撮像領域R2と第3撮像領域R3との重複領域R32については、第2撮像装置10B及び第3撮像装置10Cによって得た画像信号に基づき再構成画像を形成し、ステレオマッチング法により距離を演算しても、第3マイクロレンズアレイ12Cを介して得た視差画像によって距離を演算してもよい。
固体撮像装置130では、第1撮像装置10A、第2撮像装置10B及び第3撮像装置10Cによって、より広い範囲の距離を高精度に演算することができるようになる。なお、図11に表した固体撮像装置130では、3つの撮像装置10を用いる例を示したが、さらに多くの撮像装置10を用いて距離を演算してもよい。
(第4の実施形態)
次に、第4の実施形態について説明する。
図12は、第4の実施形態に係る固体撮像装置の構成を例示する模式図である。
図12に表したように、本実施形態に係る固体撮像装置130は、第1撮像装置10Aと、第2撮像装置10Bと、制御部50と、を備える。固体撮像装置130において、第1撮像装置10Aの第1メインレンズ11Aの焦点距離は、第2撮像装置10Bの第2メインレンズ11Bの焦点距離とは異なる。その他の構成は固体撮像装置110と同様である。
次に、第4の実施形態について説明する。
図12は、第4の実施形態に係る固体撮像装置の構成を例示する模式図である。
図12に表したように、本実施形態に係る固体撮像装置130は、第1撮像装置10Aと、第2撮像装置10Bと、制御部50と、を備える。固体撮像装置130において、第1撮像装置10Aの第1メインレンズ11Aの焦点距離は、第2撮像装置10Bの第2メインレンズ11Bの焦点距離とは異なる。その他の構成は固体撮像装置110と同様である。
例えば、第1メインレンズ11Aの焦点距離は、第2メインレンズ11Bの焦点距離よりも短い。固体撮像装置130は、互いに焦点距離の異なる第1撮像装置10A及び第2撮像装置10Bを用いて撮像することにより、より精度の高い測距を行う。
図13は、焦点距離と測距可能範囲との関係を例示する図である。
図13では、マイクロレンズアレイ12を介して得られる視差画像群を用いて距離を推定(第2演算)できる範囲について、メインレンズ11の焦点距離との関係を表している。図13の横軸は、メインレンズ11の焦点距離を表し、縦軸は測距可能範囲を表す。図13に示すラインL1は、ラインL2に対して相対的に精度が高い場合の測距可能範囲を示す。一方、ラインL2は、ラインL1に対して相対的に精度が低い場合の測距可能範囲を示す。
図13では、マイクロレンズアレイ12を介して得られる視差画像群を用いて距離を推定(第2演算)できる範囲について、メインレンズ11の焦点距離との関係を表している。図13の横軸は、メインレンズ11の焦点距離を表し、縦軸は測距可能範囲を表す。図13に示すラインL1は、ラインL2に対して相対的に精度が高い場合の測距可能範囲を示す。一方、ラインL2は、ラインL1に対して相対的に精度が低い場合の測距可能範囲を示す。
いずれのラインL1及びL2であっても、マイクロレンズアレイ12を介して得られる視差画像群を用いた距離推定方法では、測距可能な範囲はメインレンズ11の焦点距離に依存する。すなわち、メインレンズ11の焦点距離が長いと、測距可能範囲は広くなる。
固体撮像装置130では、図13に表したメインレンズ11の焦点距離と測距可能範囲との関係を利用して、互いに焦点距離の異なる第1撮像装置10A及び第2撮像装置10Bを用いる。
このような構成により、マイクロレンズから得られた視差画像群による距離推定方法を活用した比較的距離の近い領域での距離画像の取得に際し、その領域でもさらに近い領域については焦点距離の短い撮像装置(例えば、第1撮像装置10A)により取得した画像情報を利用し、遠い領域については焦点距離の長い撮像装置(例えば、第2撮像装置10B)により取得した画像情報を利用する。また、メインレンズ11の焦点距離は、画角に反比例する特性を持つ。このため、メインレンズ11の焦点距離が短い場合、より広い画角をカバーできる特徴がある。これにより、精度が高く、ワイドな視野を有した距離情報の取得が可能になる。
なお、固体撮像装置130では、短い焦点距離を有する第1撮像装置10Aと、長い焦点距離を有する第2撮像装置10Bとを用いたが、それぞれ異なる3つ以上の焦点距離を有する3つ以上の撮像装置10を用いてもよい。
以上説明したように、実施形態によれば、広い範囲で精度の高い測距を行うことができる固体撮像装置、制御装置及び制御プログラムを提供することができる。
なお、上記に本実施形態およびその変形例を説明したが、本発明はこれらの例に限定されるものではない。例えば、前述の各実施形態またはその変形例に対して、当業者が適宜、構成要素の追加、削除、設計変更を行ったものや、各実施形態の特徴を適宜組み合わせたものも、本発明の要旨を備えている限り、本発明の範囲に含有される。
本実施形態の応用分野としては、ゲームや家電操作での入力デバイスを想定したモーションキャプチャ用距離画像カメラなどが挙げられる。また、本実施形態によって取得した距離画像情報については、自動車にとっては、前後左右車両との車間距離測定、歩行者の検出、死角部の障害物検出、エアバッグ、パーキングアシスト等、多くの応用例が挙げられる。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
10…撮像装置、10A…第1撮像装置、10B…第2撮像装置、10C…第3撮像装置、11…メインレンズ、11A…第1メインレンズ、11B…第2メインレンズ、11C…第3メインレンズ、12…マイクロレンズアレイ、12A…第1マイクロレンズアレイ、12B…第2マイクロレンズアレイ、12C…第3マイクロレンズアレイ、13…撮像部、13A…第1撮像部、13B…第2撮像部、13C…第3撮像部、20…基板、20a…第1面、20b…第2面、21…配線、25…第1傾斜台、25a…第1傾斜面、26…第2傾斜台、26a…第2傾斜面、50…制御部、100…実装基板、102…筐体、103…レンズホルダ、104…フィルタ、106…ボンディングワイヤ、108…接合部、109…空間、110,120,130…固体撮像装置、200…コンピュータ、201…中央演算部、202…入力部、203…出力部、M…記録媒体、ML…マイクロレンズ、NOL…非重複領域、OL…重複領域、R1…第1撮像領域、R2…第2撮像領域、R3…第3撮像領域
Claims (12)
- 第1撮像装置であって、
第1光学系と、
前記第1光学系と、前記第1光学系による結像位置と、の間に設けられ、複数の撮像画素を有する第1撮像部と、
前記第1光学系と、前記第1撮像部と、の間に設けられ、第1マイクロレンズアレイを有する第2光学系と、を含む第1撮像装置と、
前記第1撮像装置と離間して設けられた第2撮像装置であって、
第3光学系と、
前記第3光学系と、前記第3光学系による結像位置と、の間に設けられ、複数の撮像画素を有する第2撮像部と、
前記第3光学系と、前記第2撮像部と、の間に設けられ、第2マイクロレンズアレイを有する第4光学系と、を含む第2撮像装置と、
前記第1撮像装置で得た対象物の第1画像信号及び前記第2撮像装置で得た前記対象物の第2画像信号を用いたステレオ視差によって距離を演算する第1演算と、前記第1マイクロレンズアレイ及び前記第2マイクロレンズアレイの少なくとも一方を介して得た視差画像によって距離を演算する第2演算と、を行う制御部と、
を備えた固体撮像装置。 - 前記制御部は、
前記第1撮像装置による第1撮像領域と、前記第2撮像装置による第2撮像領域と、が重複する重複領域については前記第1演算による演算を行い、
前記第1撮像領域及び前記第2撮像領域のうち前記重複領域以外の他の領域については前記第2演算による演算を行う請求項1記載の固体撮像装置。 - 前記制御部は、
前記第1撮像装置による第1撮像領域と、前記第2撮像装置による第2撮像領域と、が重複する重複領域については前記第1演算及び前記第2演算を行い、
前記第1撮像領域及び前記第2撮像領域のうち前記重複領域以外の他の領域については前記第2演算を行う請求項1記載の固体撮像装置。 - 前記制御部は、前記第1演算によって得られた距離が予め設定された閾値を超える場合には前記第1演算による演算結果を選択し、閾値以下の場合には前記第2演算による演算結果を選択する請求項1記載の固体撮像装置。
- 前記制御部は、外部から送られた指示に応じて前記第1演算による演算結果及び前記第2演算による演算結果のいずれかを選択する請求項1記載の固体撮像装置。
- 前記制御部は、前記第2演算を前記第1演算と並列で処理する請求項1記載の固体撮像装置。
- 前記第1光学系の光軸は、前記第3光学系の光軸と非平行である請求項1〜6のいずれか1つに記載の固体撮像装置。
- 前記第1撮像装置と、前記第2撮像装置と、の間に配置された第3撮像装置であって、
第5光学系と、
前記第5光学系と、前記第5光学系による結像位置と、の間に設けられ、複数の撮像画素を有する第3撮像部と、
前記第5光学系と、前記第3撮像部と、の間に設けられ、第3マイクロレンズアレイを有する第6光学系と、を含む第3撮像装置をさらに備え、
前記制御部は、前記第3マイクロレンズアレイを介して得た視差画像によって距離を演算する第3演算を行う請求項1〜7のいずれか1つに記載の固体撮像装置。 - 前記第1光学系の焦点距離は、前記第2光学系の焦点距離と異なる請求項1〜8のいずれか1つに記載の固体撮像装置。
- 前記第1撮像装置、前記第2撮像装置及び前記制御部を実装する基板をさらに備えた請求項1記載の固体撮像装置。
- 第1撮像装置と第2撮像装置とを含む固体撮像装置を制御する制御装置であって、
第1撮像装置は、
第1光学系と、
前記第1光学系と、前記第1光学系による結像位置と、の間に設けられ、複数の撮像画素を有する第1撮像部と、
前記第1光学系と、前記第1撮像部と、の間に設けられ、第1マイクロレンズアレイを有する第2光学系と、を含み、
前記第2撮像装置は、前記第1撮像装置と離間して設けられ、
第3光学系と、
前記第3光学系と、前記第3光学系による結像位置と、の間に設けられ、複数の撮像画素を有する第2撮像部と、
前記第3光学系と、前記第2撮像部と、の間に設けられ、第2マイクロレンズアレイを有する第4光学系と、を含み、
前記第1撮像装置で得た対象物の第1画像信号及び前記第2撮像装置で得た前記対象物の第2画像信号を用いたステレオ視差によって距離を演算する第1演算と、前記第1マイクロレンズアレイ及び前記第2マイクロレンズアレイの少なくとも一方を介して得た視差画像によって距離を演算する第2演算と、を行う制御装置。 - 第1撮像装置と第2撮像装置とを含む固体撮像装置を制御する制御プログラムであって、
第1撮像装置は、
第1光学系と、
前記第1光学系と、前記第1光学系による結像位置と、の間に設けられ、複数の撮像画素を有する第1撮像部と、
前記第1光学系と、前記第1撮像部と、の間に設けられ、第1マイクロレンズアレイを有する第2光学系と、を含み、
前記第2撮像装置は、前記第1撮像装置と離間して設けられ、
第3光学系と、
前記第3光学系と、前記第3光学系による結像位置と、の間に設けられ、複数の撮像画素を有する第2撮像部と、
前記第3光学系と、前記第2撮像部と、の間に設けられ、第2マイクロレンズアレイを有する第4光学系と、を含み、
コンピュータを、
前記第1撮像装置で得た対象物の第1画像信号及び前記第2撮像装置で得た前記対象物の第2画像信号を用いたステレオ視差によって距離を演算する第1演算手段、
前記第1マイクロレンズアレイ及び前記第2マイクロレンズアレイの少なくとも一方を介して得た視差画像によって距離を演算する第2演算手段、
として機能させる制御プログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013193295A JP2015060053A (ja) | 2013-09-18 | 2013-09-18 | 固体撮像装置、制御装置及び制御プログラム |
US14/451,835 US9479760B2 (en) | 2013-09-18 | 2014-08-05 | Solid state imaging device, calculating device, and calculating program |
TW103126894A TW201518848A (zh) | 2013-09-18 | 2014-08-06 | 固態攝像裝置、運算裝置及運算程式 |
CN201410403931.6A CN104460219A (zh) | 2013-09-18 | 2014-08-15 | 固态成像设备、计算设备、以及计算程序 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013193295A JP2015060053A (ja) | 2013-09-18 | 2013-09-18 | 固体撮像装置、制御装置及び制御プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015060053A true JP2015060053A (ja) | 2015-03-30 |
Family
ID=52667586
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013193295A Pending JP2015060053A (ja) | 2013-09-18 | 2013-09-18 | 固体撮像装置、制御装置及び制御プログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US9479760B2 (ja) |
JP (1) | JP2015060053A (ja) |
CN (1) | CN104460219A (ja) |
TW (1) | TW201518848A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018062368A1 (ja) * | 2016-09-30 | 2018-04-05 | 株式会社ニコン | 撮像装置および撮像システム |
Families Citing this family (47)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102014115292A1 (de) * | 2014-10-21 | 2016-04-21 | Connaught Electronics Ltd. | Verfahren zum Bereitstellen von Bilddateien von einem Kamerasystem, Kamerasystem und Kraftfahrzeug |
US9557741B1 (en) | 2015-08-24 | 2017-01-31 | Ford Global Technologies, Llc | System and method for autonomous valet parking using plenoptic cameras |
JP6922169B2 (ja) * | 2016-08-24 | 2021-08-18 | ソニーグループ株式会社 | 情報処理装置および方法、車両、並びに情報処理システム |
US10369988B2 (en) | 2017-01-13 | 2019-08-06 | Ford Global Technologies, Llc | Autonomous parking of vehicles inperpendicular parking spots |
US10683034B2 (en) | 2017-06-06 | 2020-06-16 | Ford Global Technologies, Llc | Vehicle remote parking systems and methods |
US10585430B2 (en) | 2017-06-16 | 2020-03-10 | Ford Global Technologies, Llc | Remote park-assist authentication for vehicles |
US10775781B2 (en) | 2017-06-16 | 2020-09-15 | Ford Global Technologies, Llc | Interface verification for vehicle remote park-assist |
US10234868B2 (en) | 2017-06-16 | 2019-03-19 | Ford Global Technologies, Llc | Mobile device initiation of vehicle remote-parking |
US10281921B2 (en) | 2017-10-02 | 2019-05-07 | Ford Global Technologies, Llc | Autonomous parking of vehicles in perpendicular parking spots |
US10580304B2 (en) | 2017-10-02 | 2020-03-03 | Ford Global Technologies, Llc | Accelerometer-based external sound monitoring for voice controlled autonomous parking |
US10627811B2 (en) | 2017-11-07 | 2020-04-21 | Ford Global Technologies, Llc | Audio alerts for remote park-assist tethering |
US10336320B2 (en) | 2017-11-22 | 2019-07-02 | Ford Global Technologies, Llc | Monitoring of communication for vehicle remote park-assist |
US10578676B2 (en) | 2017-11-28 | 2020-03-03 | Ford Global Technologies, Llc | Vehicle monitoring of mobile device state-of-charge |
US11148661B2 (en) | 2018-01-02 | 2021-10-19 | Ford Global Technologies, Llc | Mobile device tethering for a remote parking assist system of a vehicle |
US10688918B2 (en) | 2018-01-02 | 2020-06-23 | Ford Global Technologies, Llc | Mobile device tethering for a remote parking assist system of a vehicle |
US10737690B2 (en) | 2018-01-02 | 2020-08-11 | Ford Global Technologies, Llc | Mobile device tethering for a remote parking assist system of a vehicle |
US10814864B2 (en) | 2018-01-02 | 2020-10-27 | Ford Global Technologies, Llc | Mobile device tethering for a remote parking assist system of a vehicle |
US10583830B2 (en) | 2018-01-02 | 2020-03-10 | Ford Global Technologies, Llc | Mobile device tethering for a remote parking assist system of a vehicle |
US10585431B2 (en) | 2018-01-02 | 2020-03-10 | Ford Global Technologies, Llc | Mobile device tethering for a remote parking assist system of a vehicle |
US10974717B2 (en) | 2018-01-02 | 2021-04-13 | Ford Global Technologies, I.LC | Mobile device tethering for a remote parking assist system of a vehicle |
US10684773B2 (en) | 2018-01-03 | 2020-06-16 | Ford Global Technologies, Llc | Mobile device interface for trailer backup-assist |
US10747218B2 (en) | 2018-01-12 | 2020-08-18 | Ford Global Technologies, Llc | Mobile device tethering for remote parking assist |
US10917748B2 (en) | 2018-01-25 | 2021-02-09 | Ford Global Technologies, Llc | Mobile device tethering for vehicle systems based on variable time-of-flight and dead reckoning |
US10684627B2 (en) | 2018-02-06 | 2020-06-16 | Ford Global Technologies, Llc | Accelerometer-based external sound monitoring for position aware autonomous parking |
US11188070B2 (en) | 2018-02-19 | 2021-11-30 | Ford Global Technologies, Llc | Mitigating key fob unavailability for remote parking assist systems |
US10507868B2 (en) | 2018-02-22 | 2019-12-17 | Ford Global Technologies, Llc | Tire pressure monitoring for vehicle park-assist |
US10732622B2 (en) | 2018-04-05 | 2020-08-04 | Ford Global Technologies, Llc | Advanced user interaction features for remote park assist |
US10493981B2 (en) | 2018-04-09 | 2019-12-03 | Ford Global Technologies, Llc | Input signal management for vehicle park-assist |
US10793144B2 (en) | 2018-04-09 | 2020-10-06 | Ford Global Technologies, Llc | Vehicle remote park-assist communication counters |
US10683004B2 (en) | 2018-04-09 | 2020-06-16 | Ford Global Technologies, Llc | Input signal management for vehicle park-assist |
US10759417B2 (en) | 2018-04-09 | 2020-09-01 | Ford Global Technologies, Llc | Input signal management for vehicle park-assist |
US10384605B1 (en) | 2018-09-04 | 2019-08-20 | Ford Global Technologies, Llc | Methods and apparatus to facilitate pedestrian detection during remote-controlled maneuvers |
US10821972B2 (en) | 2018-09-13 | 2020-11-03 | Ford Global Technologies, Llc | Vehicle remote parking assist systems and methods |
US10717432B2 (en) | 2018-09-13 | 2020-07-21 | Ford Global Technologies, Llc | Park-assist based on vehicle door open positions |
US10967851B2 (en) | 2018-09-24 | 2021-04-06 | Ford Global Technologies, Llc | Vehicle system and method for setting variable virtual boundary |
US10529233B1 (en) | 2018-09-24 | 2020-01-07 | Ford Global Technologies Llc | Vehicle and method for detecting a parking space via a drone |
US10908603B2 (en) | 2018-10-08 | 2021-02-02 | Ford Global Technologies, Llc | Methods and apparatus to facilitate remote-controlled maneuvers |
US10628687B1 (en) | 2018-10-12 | 2020-04-21 | Ford Global Technologies, Llc | Parking spot identification for vehicle park-assist |
US11097723B2 (en) | 2018-10-17 | 2021-08-24 | Ford Global Technologies, Llc | User interfaces for vehicle remote park assist |
US11137754B2 (en) | 2018-10-24 | 2021-10-05 | Ford Global Technologies, Llc | Intermittent delay mitigation for remote vehicle operation |
US11789442B2 (en) | 2019-02-07 | 2023-10-17 | Ford Global Technologies, Llc | Anomalous input detection |
US11195344B2 (en) | 2019-03-15 | 2021-12-07 | Ford Global Technologies, Llc | High phone BLE or CPU burden detection and notification |
US11169517B2 (en) | 2019-04-01 | 2021-11-09 | Ford Global Technologies, Llc | Initiation of vehicle remote park-assist with key fob |
US11275368B2 (en) | 2019-04-01 | 2022-03-15 | Ford Global Technologies, Llc | Key fobs for vehicle remote park-assist |
US10868945B2 (en) * | 2019-04-08 | 2020-12-15 | Omnivision Technologies, Inc. | Light-field camera and method using wafer-level integration process |
CN111028281B (zh) * | 2019-10-22 | 2022-10-18 | 清华大学 | 基于光场双目系统的深度信息计算方法及装置 |
CN111982061B (zh) * | 2020-07-15 | 2022-08-23 | 杭州晨安科技股份有限公司 | 一种基于不同焦距双目定焦摄像机的测距方法 |
Family Cites Families (37)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS5385453A (en) * | 1977-01-06 | 1978-07-27 | Canon Inc | Distance detecting method |
JP3522317B2 (ja) * | 1993-12-27 | 2004-04-26 | 富士重工業株式会社 | 車輌用走行案内装置 |
JPH0979845A (ja) * | 1995-09-11 | 1997-03-28 | Matsushita Electric Ind Co Ltd | 距離計測方法 |
JP3710548B2 (ja) * | 1996-05-08 | 2005-10-26 | 松下電器産業株式会社 | 車両検出装置 |
JPH11255089A (ja) * | 1998-03-12 | 1999-09-21 | Fuji Heavy Ind Ltd | 車両の自動ブレーキ制御装置 |
JP2000283753A (ja) * | 1999-03-31 | 2000-10-13 | Fuji Heavy Ind Ltd | ステレオ画像による測距装置 |
JP2008040115A (ja) | 2006-08-04 | 2008-02-21 | Fuji Heavy Ind Ltd | ステレオカメラ |
JP2008167154A (ja) | 2006-12-28 | 2008-07-17 | Sony Corp | 撮像装置 |
EP2192764B1 (en) | 2007-09-05 | 2015-05-20 | Tohoku University | Solid state imaging element and imaging device |
KR101036596B1 (ko) | 2007-09-05 | 2011-05-24 | 가부시키가이샤 시마쓰세사쿠쇼 | 고체촬상소자 및 그 구동방법 |
JP2009115541A (ja) * | 2007-11-05 | 2009-05-28 | Sharp Corp | 距離測定装置および距離測定方法 |
JP5224124B2 (ja) | 2007-12-12 | 2013-07-03 | ソニー株式会社 | 撮像装置 |
JP4661912B2 (ja) | 2008-07-18 | 2011-03-30 | ソニー株式会社 | 固体撮像素子およびカメラシステム |
JP5238429B2 (ja) | 2008-09-25 | 2013-07-17 | 株式会社東芝 | 立体映像撮影装置および立体映像撮影システム |
JP2010210490A (ja) | 2009-03-11 | 2010-09-24 | Ricoh Co Ltd | 移動計測装置及び方法、並びにプログラム |
JP5251777B2 (ja) | 2009-07-30 | 2013-07-31 | ソニー株式会社 | 固体撮像素子およびカメラシステム |
WO2011014420A1 (en) * | 2009-07-31 | 2011-02-03 | 3Dmedia Corporation | Methods, systems, and computer-readable storage media for selecting image capture positions to generate three-dimensional (3d) images |
US20110025830A1 (en) * | 2009-07-31 | 2011-02-03 | 3Dmedia Corporation | Methods, systems, and computer-readable storage media for generating stereoscopic content via depth map creation |
US9380292B2 (en) * | 2009-07-31 | 2016-06-28 | 3Dmedia Corporation | Methods, systems, and computer-readable storage media for generating three-dimensional (3D) images of a scene |
JP5809390B2 (ja) * | 2010-02-03 | 2015-11-10 | 株式会社リコー | 測距・測光装置及び撮像装置 |
JP5776173B2 (ja) * | 2010-03-01 | 2015-09-09 | 株式会社リコー | 撮像装置及び距離測定装置 |
US9344701B2 (en) * | 2010-07-23 | 2016-05-17 | 3Dmedia Corporation | Methods, systems, and computer-readable storage media for identifying a rough depth map in a scene and for determining a stereo-base distance for three-dimensional (3D) content creation |
JP5421207B2 (ja) | 2010-08-25 | 2014-02-19 | 株式会社東芝 | 固体撮像装置 |
JP5254291B2 (ja) | 2010-09-07 | 2013-08-07 | 株式会社東芝 | 固体撮像装置 |
JP2012103109A (ja) * | 2010-11-10 | 2012-05-31 | Panasonic Corp | ステレオ画像処理装置、ステレオ画像処理方法及びプログラム |
JP5214754B2 (ja) | 2011-02-25 | 2013-06-19 | 株式会社東芝 | 固体撮像装置および携帯情報端末 |
JP5331838B2 (ja) | 2011-02-25 | 2013-10-30 | 株式会社東芝 | 固体撮像装置および携帯情報端末 |
JP5351195B2 (ja) | 2011-03-08 | 2013-11-27 | 株式会社東芝 | 固体撮像装置および携帯情報端末 |
JP5760559B2 (ja) | 2011-03-18 | 2015-08-12 | 株式会社リコー | ステレオカメラ装置、視差画像生成方法 |
JP5767929B2 (ja) | 2011-09-27 | 2015-08-26 | 株式会社東芝 | 固体撮像装置及び携帯情報端末装置 |
US8742527B2 (en) | 2011-09-27 | 2014-06-03 | Kabushiki Kaisha Toshiba | Solid state imaging device, solid state imaging element, portable information terminal device and method for manufacturing the solid state imaging element |
JP5705140B2 (ja) | 2011-09-27 | 2015-04-22 | 株式会社東芝 | 固体撮像装置及び固体撮像装置の製造方法 |
JP2013074400A (ja) | 2011-09-27 | 2013-04-22 | Toshiba Corp | 固体撮像装置 |
TW201326902A (zh) | 2011-12-29 | 2013-07-01 | Ind Tech Res Inst | 立體顯示系統及其影像顯示方法 |
JP5591851B2 (ja) | 2012-03-15 | 2014-09-17 | 株式会社東芝 | 固体撮像装置および携帯情報端末 |
JP5627622B2 (ja) | 2012-03-15 | 2014-11-19 | 株式会社東芝 | 固体撮像装置および携帯情報端末 |
JP2014090294A (ja) | 2012-10-30 | 2014-05-15 | Toshiba Corp | 固体撮像モジュール、固体撮像装置、および固体撮像装置の本体部 |
-
2013
- 2013-09-18 JP JP2013193295A patent/JP2015060053A/ja active Pending
-
2014
- 2014-08-05 US US14/451,835 patent/US9479760B2/en active Active
- 2014-08-06 TW TW103126894A patent/TW201518848A/zh unknown
- 2014-08-15 CN CN201410403931.6A patent/CN104460219A/zh not_active Withdrawn
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018062368A1 (ja) * | 2016-09-30 | 2018-04-05 | 株式会社ニコン | 撮像装置および撮像システム |
JPWO2018062368A1 (ja) * | 2016-09-30 | 2019-08-15 | 株式会社ニコン | 撮像装置および撮像システム |
Also Published As
Publication number | Publication date |
---|---|
US20150077522A1 (en) | 2015-03-19 |
US9479760B2 (en) | 2016-10-25 |
TW201518848A (zh) | 2015-05-16 |
CN104460219A (zh) | 2015-03-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2015060053A (ja) | 固体撮像装置、制御装置及び制御プログラム | |
US10460460B2 (en) | Method and system for generating depth information | |
US10061182B2 (en) | Systems and methods for autofocus trigger | |
JP5868183B2 (ja) | 撮像装置及び撮像方法 | |
JP4673202B2 (ja) | 画像入力装置 | |
JP2017022694A (ja) | ユーザのデバイスに明視野ベースの画像を表示するための方法および装置ならびに対応するコンピュータプログラム製品 | |
US9781405B2 (en) | Three dimensional imaging with a single camera | |
JP2012123296A (ja) | 電子機器 | |
JP2009529824A (ja) | 3次元映像獲得用cmosステレオカメラ | |
JP6137316B2 (ja) | 深さ位置検出装置、撮像素子、及び深さ位置検出方法 | |
JP2017208606A (ja) | 画像処理装置、撮像装置、画像処理方法および画像処理プログラム | |
JP5455033B2 (ja) | 距離画像入力装置と車外監視装置 | |
US20200221064A1 (en) | Combined stereoscopic and phase detection depth mapping in a dual aperture camera | |
JP7288226B2 (ja) | 測距カメラ | |
Kagawa et al. | A three‐dimensional multifunctional compound‐eye endoscopic system with extended depth of field | |
JP6162971B2 (ja) | 画像処理装置、画像処理方法、撮像装置及びその制御方法 | |
JP2015185998A (ja) | 画像処理方法および撮像装置 | |
JP7328589B2 (ja) | 測距カメラ | |
JP7256368B2 (ja) | 測距カメラ | |
KR101376780B1 (ko) | 거리 측정의 정밀도 제어 장치 및 방법 | |
JP7200002B2 (ja) | 画像処理装置、撮像装置、画像処理方法、プログラム、および記憶媒体 | |
JP2009168447A (ja) | 撮像装置 | |
JP2016090975A (ja) | 距離検出装置、撮像装置、距離検出方法、およびプログラム | |
JP2014099696A (ja) | 固体撮像装置 | |
JP2013145897A (ja) | 固体撮像装置および携帯情報端末 |