JP2019009511A - 距離情報生成装置、撮像装置、距離情報生成方法、およびプログラム - Google Patents
距離情報生成装置、撮像装置、距離情報生成方法、およびプログラム Download PDFInfo
- Publication number
- JP2019009511A JP2019009511A JP2017120848A JP2017120848A JP2019009511A JP 2019009511 A JP2019009511 A JP 2019009511A JP 2017120848 A JP2017120848 A JP 2017120848A JP 2017120848 A JP2017120848 A JP 2017120848A JP 2019009511 A JP2019009511 A JP 2019009511A
- Authority
- JP
- Japan
- Prior art keywords
- image signal
- distance information
- distance
- optical system
- chromatic aberration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 161
- 238000000034 method Methods 0.000 title claims abstract description 46
- 230000004075 alteration Effects 0.000 claims abstract description 111
- 230000003287 optical effect Effects 0.000 claims abstract description 91
- 238000012937 correction Methods 0.000 claims abstract description 65
- 238000011156 evaluation Methods 0.000 claims abstract description 9
- 238000006243 chemical reaction Methods 0.000 claims description 69
- 210000001747 pupil Anatomy 0.000 claims description 51
- 230000008859 change Effects 0.000 claims description 26
- 230000035945 sensitivity Effects 0.000 claims description 21
- 230000003595 spectral effect Effects 0.000 claims description 21
- 108010076504 Protein Sorting Signals Proteins 0.000 claims description 6
- 238000012935 Averaging Methods 0.000 claims description 3
- 230000010354 integration Effects 0.000 claims 1
- 230000008569 process Effects 0.000 abstract description 16
- 238000012545 processing Methods 0.000 description 29
- 238000003860 storage Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 12
- 238000005259 measurement Methods 0.000 description 10
- 238000012986 modification Methods 0.000 description 7
- 230000004048 modification Effects 0.000 description 7
- 238000009826 distribution Methods 0.000 description 6
- 230000004907 flux Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 3
- 239000002131 composite material Substances 0.000 description 3
- 229910044991 metal oxide Inorganic materials 0.000 description 3
- 150000004706 metal oxides Chemical class 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 238000002834 transmittance Methods 0.000 description 3
- 238000011161 development Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 101100045541 Homo sapiens TBCD gene Proteins 0.000 description 1
- 101150093640 SSD1 gene Proteins 0.000 description 1
- 101100111629 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) KAR2 gene Proteins 0.000 description 1
- 102100030290 Tubulin-specific chaperone D Human genes 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B7/00—Mountings, adjusting means, or light-tight connections, for optical elements
- G02B7/28—Systems for automatic generation of focusing signals
- G02B7/34—Systems for automatic generation of focusing signals using different areas in a pupil plane
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/64—Circuits for processing colour signals
- H04N9/646—Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
- G01C11/02—Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/257—Colour aspects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/11—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20192—Edge enhancement; Edge preservation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Studio Devices (AREA)
- Automatic Focus Adjustment (AREA)
- Color Television Image Signal Generators (AREA)
- Focusing (AREA)
Abstract
【解決手段】被写体までの距離に応じた視差を有する第1の画像信号と第2の画像信号、及び複数の色情報を含む第3の画像信号とに基づき、被写体までの距離に対応する距離情報を生成する距離情報生成装置であって、前記第1の画像信号と前記第2の画像信号の視差に基づき、前記距離情報を生成する距離情報生成部と、前記第1の画像信号と前記第2の画像信号の撮影に用いられた結像光学系の色収差を表す色収差情報を取得する色収差情報取得部と、前記第3の画像信号から前記複数の色情報毎に生成されるコントラスト評価値と、前記色収差情報とに基づき、前記距離情報生成部にて生成した前記距離情報を補正する距離情報補正部と、を備える。
【選択図】図4
Description
り結像光学系の色収差を補正して、被写体距離を精度良く検出可能な技術を提供することにある。
被写体までの距離に応じた視差を有する第1の画像信号と第2の画像信号、及び複数の色情報を含む第3の画像信号とに基づき、被写体までの距離に対応する距離情報を生成する距離情報生成装置であって、
前記第1の画像信号と前記第2の画像信号の視差に基づき、前記距離情報を生成する距離情報生成部と、
前記第1の画像信号と前記第2の画像信号の撮影に用いられた結像光学系の色収差を表す色収差情報を取得する色収差情報取得部と、
前記第3の画像信号から前記複数の色情報毎に生成されるコントラスト評価値と、前記色収差情報とに基づき、前記距離情報生成部にて生成した前記距離情報を補正する距離情報補正部と、
を備えることを特徴とする。
被写体までの距離に応じた視差を有する第1の画像信号と第2の画像信号、及び複数の色情報を含む第3の画像信号とに基づき、被写体までの距離に対応する距離情報を生成する距離情報生成方法であって、
前記第1の画像信号と前記第2の画像信号の視差に基づき、前記距離情報を生成する距離情報生成ステップと
前記第1の画像信号と前記第2の画像信号の撮影に用いられた結像光学系の色収差を表す色収差情報を取得する色収差情報取得ステップと
前記第3の画像信号から前記複数の色情報毎に生成されるコントラスト評価値と、前記色収差情報とに基づき、前記距離情報生成部にて生成した前記距離情報を補正する距離情報補正ステップと、
を含むことを特徴とする。
以下、図を参照しながら本発明の第1の実施形態について詳細に説明する。以下の説明では、本実施形態の距離情報生成装置を備えた撮像装置の一例として、デジタルカメラを用いて説明するが、本発明の適用はこれに限定されるものではない。尚、図を参照した説明においては、図番は異なっても原則として同一部位を示す部位には、同一の符号を付すこととし、なるべく重複した説明は避ける。
図1(A)は、デジタルカメラ100の構成を示す図である。デジタルカメラ100は、結像光学系120、撮像素子101、距離情報生成装置110、画像生成部(不図示)、画像信号格納部(不図示)、情報格納部170が、カメラ筐体190の内部に配置され、構成される。距離情報生成装置110は、ASIC(特定用途向け集積回路)などの論理回路を用いて構成することができる。また距離情報生成装置110の別の形態として、中央演算処理装置(CPU)と演算処理プログラムを格納するメモリとから構成してもよい。
撮像素子101はCMOS(相補型金属酸化膜半導体)やCCD(電荷結合素子)から構成され、撮像面位相差測距方式による測距機能を有する撮像素子である。撮像素子101は、結像光学系120の予定焦点面に配置される。結像光学系120を介して撮像素子101上に結像した被写体像は撮像素子101により光電変換され、被写体像に基づく画像信号が生成される。取得した画像信号に対して、画像生成部により現像処理を施すことで、観賞用画像信号を生成することができる。また生成した観賞用画像を画像信号格納部に格納することができる。以下、本実施形態における撮像素子101について、図1(B)〜(C)、及び図2(A)〜(D)を用いてより詳細に説明する。
される。カラーフィルタ152は、青、緑、赤の3種類からなり、青画素150B、緑画素150G1及び150G2、赤画素150Rの分光感度は図2(B)に示す特性を有する。受光層155には、受光した光を光電変換するための光電変換部153が配置される。
本実施形態の撮像素子101が備える第1の測距用画素161及び第2の測距用画素162が受光する光束について、図3(A)を用いて説明する。
本実施形態の距離情報生成装置について説明する。図4(A)は、本実施形態の距離情報生成装置110の概要構成を表すブロック図であり、図4(B)〜4(D)は距離情報生成装置110の動作を示すフローチャートである。
行う。具体的には、第1の画像信号S1と第2の画像信号S2に対して、バンドパスフィルタを用いたフィルタ処理を行う。一般に、空間周波数が高い高周波領域ほど、SN比(信号成分とノイズ成分の比)が低くなり、相対的にノイズ成分が多くなる。従って、高周波になるほど透過率が低くなるいわゆるローパスフィルタを用いることができる。なお、ステップS411における光量補正は、結像光学系120の製造誤差などにより設計値通りになるとは限らない。そのため、さらに直流成分(空間周波数=0となる成分)の透過率が0であり、且つ高周波成分の透過率が低いバンドパスフィルタを用いることが望ましい。
of Absolute Difference)を用いることができる。
ΔL=K ×d・・・(1)
るものとして説明したが、その他の情報ソースから色収差情報Icoを取得してもよい。例えば、撮像装置100が交換レンズ(結像光学系120)を利用し、交換レンズ内に色収差情報Icoが格納されている場合には、色収差情報取得部420は交換レンズから色収差情報Icoを取得すればよい。あるいは、色収差情報取得部420は、通信(無線通信または有線通信)によって、外部の装置から結像光学系120の色収差情報Icoを取得してもよい。
青波長領域の寄与率CTBb=Cb/(Cb+Cg+Cr)
緑波長領域の寄与率CTBg=Cg/(Cb+Cg+Cr) ・・・(2)
赤波長領域の寄与率CTBr=Cr/(Cb+Cg+Cr)
を用いることが好適である。視差が生じる方向は、視差を求める際の探索方向とも表現できる。y方向は、このようなx方向と直交する方向である。視差が生じる方向が本実施形態と異なる場合には、適宜調整すればよい。
補正値Cdef
=Icob×CTBb+Icog×CTBg+Icor×CTBr ・・・(3)
補正距離情報Icd = Ird−Cdef ・・・(4)
各波長領域からの寄与率を算出する際に、コントラスト変化の大きさを用いることが好適な理由について、説明する。
S1=A1+A2
S2=B1+B2 ・・・(5)
差量d2を有するとする。
の低減効果を説明する図である。図10(A)は、デジタルカメラ100と撮影対象である被写体1010を示している。被写体1010はデジタルカメラ100より5m離れた位置に配置されている。被写体1010の反射スペクトルを示しているのが、図10(B)である。図10(B)において、横軸は波長であり、縦軸は反射スペクトルを最大値=1となるように規格化した値を示している。図10(C)は、デジタルカメラ100が被写体1010を撮影した時の、結像光学系120のデフォーカス量を示している。この時、従来のように、青画素の画素値、緑画素の画素値、赤画素の画素値の比を用いて色収差の補正を行うと、推定した被写体距離=4.86mとなり、2.7%の誤差が生じる。一
方、本実施形態の距離情報生成装置110による色収差の補正では、補正後の被写体距離=4.95mとなり、誤差1.1%と従来に比べて誤差を低減することができる。このように、本実施形態の距離情報生成装置110は、波長領域毎のコントラスト変化の大きさを標準偏差を用いて各波長からの寄与率を生成することで、結像光学系120の色収差に起因する誤差を低減することができる。なお、デジタルカメラ100が備える結像光学系120の焦点距離は14mmであり、被写体距離=5.3mの位置に合焦している。
結像光学系120が有する色収差によっては、波長領域毎に射出瞳の位置や大きさが異なる場合がある。そのような場合には、ピント位置だけではなく、視差量をデフォーカス量に変換するための係数も波長領域毎に異なる。
差量であり、2つ目は視差量をデフォーカス量に変換する変換係数である。すなわち、情報格納部170には、波長領域毎の軸上色収差量に係る色収差情報(Icab,Icag、Icar)に加えて、波長領域毎の変換係数に係る情報が格納されている。波長領域毎の変換係数に係る情報は、例えば、青波長領域の変換係数Kb、緑波長領域の変換係数Kg、緑波長領域の変換係数Krである。
補正変換係数Kc=Kb×CTBb+Kg×CTBg+Kr×CTBr ・・(10)
ΔL=Kc ×d − Cdef ・・・(11)
以下、図を参照しながら本発明の第2の実施形態について詳細に説明する。以下の説明では、本実施形態の距離情報生成装置を備えた撮像装置の一例として、デジタルカメラを用いて説明するが、本発明の適用はこれに限定されるものではない。尚、図を参照した説明においては、図番は異なっても原則として同一部位を示す部位には、同一の符号を付すこととし、なるべく重複した説明は避ける。
生成装置710、画像生成部(不図示)、レンズ駆動制御部(不図示)、画像信号格納部(不図示)が、カメラ筐体190の内部に配置され、構成される。すなわち、本実施形態のデジタルカメラ100は、第1の実施形態(図1)と比較して、撮像素子101の代わりに撮像素子701を備える構成となっている。さらに、距離情報生成装置110の代わりに距離情報生成装置710を備える構成となっている。距離情報生成装置710は、論理回路を用いて構成することができる。距離情報生成装置710の別の形態として、中央演算処理装置(CPU)と演算処理プログラムを格納するメモリとから構成してもよい。
撮像素子701はCMOS(相補型金属酸化膜半導体)やCCD(電荷結合素子)から構成され、撮像面位相差測距方式による測距機能を有する撮像素子である。結像光学系120を介して撮像素子701上に結像した被写体像は、撮像素子701により光電変換され、被写体像に基づく画像信号を生成する。取得した画像信号に対して、画像生成部により現像処理を施すことで、観賞用画像信号を生成することができる。また生成した観賞用画像を画像信号格納部に格納することができる。以下、本実施形態における撮像素子701について、図7(A)〜(B)を用いてより詳細に説明する。
本実施形態の距離情報生成装置について説明する。図8(A)は、本実施形態の距離情報生成装置710の概要構成を表すブロック図であり、図8(B)は距離情報生成装置710の動作を示すフローチャートである。
第1の画像信号の信号値=Ib/4+Ig/2+Ir/4 ・・・(12)
撮像素子701が備える各画素は、受光層755に2つの光電変換部を備えているが、図11を用いて説明する撮像素子1101のように、1つの画素中に3つの光電変換部を備えていても構わない。
距離情報生成装置710を備えるデジタルカメラ100の別の形態として、図9に示すデジタルカメラ900の構成を用いてもよい。
上述したデジタルカメラ100は、自律的に行動計画を作成可能なロボットや自動車が
外部環境を認識するための情報取得手段として用いることができる。デジタルカメラ100は、色収差の影響を低減した距離情報とカラー画像信号を取得できるため、外部環境をより安定して認識することができる。上述したデジタルカメラ100は、ロボットや自動車などの移動体に搭載して利用することも好適である。
410 距離情報生成部
420 色収差情報取得部
430 距離情報補正部
Claims (15)
- 被写体までの距離に応じた視差を有する第1の画像信号と第2の画像信号、及び複数の色情報を含む第3の画像信号とに基づき、被写体までの距離に対応する距離情報を生成する距離情報生成装置であって、
前記第1の画像信号と前記第2の画像信号の視差に基づき、前記距離情報を生成する距離情報生成部と、
前記第1の画像信号と前記第2の画像信号の撮影に用いられた結像光学系の色収差を表す色収差情報を取得する色収差情報取得部と、
前記第3の画像信号から前記複数の色情報毎に生成されるコントラスト評価値と、前記色収差情報とに基づき、前記距離情報生成部にて生成した前記距離情報を補正する距離情報補正部と、
を備える距離情報生成装置。 - 前記距離情報補正部は、
前記色情報毎のコントラスト評価値を重み係数とした、前記色収差情報に含まれる前記色情報毎の色収差量の重み付き平均値を求め、
当該重み付き平均値を用いて、前記距離情報生成部にて生成した前記距離情報を補正する、
ことを特徴とする請求項1に記載の距離情報生成装置。 - 前記距離情報補正部は、前記第3の画像信号に設定される照合領域内であり且つ対象の色情報を表す画像信号の第1の方向に沿ったコントラスト変化の大きさを、第2の方向の異なる位置について複数求め、当該複数のコントラスト変化の大きさを統合することにより前記色情報ごとのコントラスト評価値を生成し、
前記第1の方向は、前記第1の画像信号と前記第2の画像信号の間の視差を求める際の探索方向であり、
前記第2の方向は、前記第1の方向と直交する方向である、
ことを特徴とする請求項1または2に記載の距離情報生成装置。 - 前記第1の方向に沿ったコントラスト変化の大きさは、前記画像信号から第1の方向に沿って抽出された信号列の標準偏差である、
ことを特徴とする請求項3に記載の距離情報生成装置。 - 前記第1の方向に沿ったコントラスト変化の大きさの統合は、前記第1の方向に沿ったコントラスト変化の大きさを加算または加算平均することにより行われる、
ことを特徴とする請求項3または4に記載の距離情報生成装置。 - 前記距離情報生成部は、前記コントラスト評価値と前記色収差情報とに基づいて前記視差を前記距離情報に変換する変換係数を決定し、当該決定された変換係数を用いて前記視差から前記距離情報を生成する、
ことを特徴とする請求項1から5のいずれか1項に記載の距離情報生成装置。 - 前記第1の画像信号は、前記第3の画像信号に含まれる複数の色情報に所定の重み係数を掛けて合成した画像信号である、
ことを特徴とする請求項1から6のいずれか1項に記載の距離情報生成装置。 - 前記距離情報は、前記被写体までの距離、またはデフォーカス量である、
ことを特徴とする請求項1から7のいずれか1項に記載の距離情報生成装置。 - 結像光学系と、結像光学系の予定焦点面に配置される撮像素子と、請求項1から7のいずれか1項に記載の距離情報生成装置とを備えた撮像装置であって
前記撮像素子は、
前記第3の画像信号を出力し、且つ互いに分光感度特性が異なる複数種類の撮像用画素と、
前記第1の画像信号を出力する第1の測距用画素と、
前記第2の画像信号を出力する第2の測距用画素と、を備え
前記第1の測距用画素は、前記結像光学系の射出瞳内の第1の瞳領域を通過した光束を受光する第1の光電変換部を備え、
前記第2の測距用画素は、前記結像光学系の射出瞳内であって第1の瞳領域とは少なくとも一部の領域が異なる第2の瞳領域を通過した光束を受光する第2の光電変換部を備えており
前記距離情報生成装置が備える前記距離情報補正部は、前記第1の画像信号と前記第2の画像信号から求められる前記距離情報を、前記結像光学系の軸上色収差量を用いて補正する、
ことを特徴とする撮像装置。 - 結像光学系と、結像光学系の予定焦点面に配置される撮像素子と、請求項1から7のいずれか1項に記載の距離情報生成装置とを備えた撮像装置であって
前記撮像素子は、
互いに分光感度特性が異なる複数種類の第1の画素を備え
前記第1の画素は、前記結像光学系の射出瞳内の第1の瞳領域を通過した光束を受光する第1の光電変換部と
前記結像光学系の射出瞳内であって第1の瞳領域とは少なくとも一部の領域が異なる第2の瞳領域を通過した光束を受光する第2の光電変換部を備えており
前記第1の光電変換部は、前記第3の画像信号を出力し、前記第2の光電変換部は、第4の画像信号を出力し、
前記第1の画像信号は、前記第3の画像信号に含まれる複数の色情報に所定の重み係数を掛けて合成した画像信号であり
前記第2の画像信号は、前記第4の画像信号に含まれる複数の色情報に所定の重み係数を掛けて合成した画像信号であり
前記距離情報生成装置が備える前記距離情報補正部は、前記第1の画像信号と前記第2の画像信号から求められる前記距離情報を、前記結像光学系の軸上色収差量を用いて補正する、
ことを特徴とする撮像装置。 - 第1の結像光学系と、第1の結像光学系の予定焦点面に配置される第1の撮像素子と、第2の結像光学系と、第2の結像光学系の予定焦点面に配置される第2の撮像素子と、請求項1から7のいずれか1項に記載の距離情報生成装置とを備えた撮像装置であって
前記第1の撮像素子は、互いに分光感度特性が異なる複数種類の第1の画素を備え
前記第2の撮像素子は、互いに分光感度特性が異なる複数種類の第2の画素を備え
前記複数種類の第1の画素は、前記第3の画像信号を出力し、前記複数種類の第2の画素は、第4の画像信号を出力し、
前記第1の画像信号は、前記第3の画像信号に含まれる複数の色情報に所定の重み係数を掛けて合成した画像信号であり
前記第2の画像信号は、前記第4の画像信号に含まれる複数の色情報に所定の重み係数を掛けて合成した画像信号であり
前記距離情報生成装置が備える前記距離情報補正部は、前記第1の画像信号と前記第2の画像信号から求められる前記距離情報を、前記第1の結像光学系または前記第2の結像光学系の倍率色収差量を用いて補正する、
ことを特徴とする撮像装置。 - 結像光学系と、前記結像光学系の予定焦点面に配置される撮像素子と、請求項1から7のいずれか1項に記載の距離情報生成装置とを備えた撮像装置であって
前記撮像素子は、
互いに分光感度特性が異なる複数種類の第1の画素を備え
前記第1の画素は、前記結像光学系の射出瞳内の第1の瞳領域を通過した光束を受光する第1の光電変換部と
前記結像光学系の射出瞳内であって第1の瞳領域とは少なくとも一部の領域が異なる第2の瞳領域を通過した光束を受光する第2の光電変換部と
前記結像光学系の射出瞳内であって第1の瞳領域および第2の瞳領域とは少なくとも一部の領域が異なる第3の瞳領域を通過した光束を受光する第3の光電変換部を備えており
前記第1の画像信号は、前記第1の光電変換部からの出力に基づき生成される画像信号であり
前記第2の画像信号は、前記第2の光電変換部からの出力に基づき生成される画像信号であり
前記第3の画像信号は、前記第3の光電変換部からの出力に基づき生成される画像信号であり
前記距離情報生成装置が備える前記距離情報補正部は、前記第1の画像信号と前記第2の画像信号から求められる前記距離情報を、前記結像光学系の軸上色収差量を用いて補正する、
ことを特徴とする撮像装置。 - 請求項9から12のいずれか1項に記載の撮像装置を搭載することを特徴とする移動体。
- 被写体までの距離に応じた視差を有する第1の画像信号と第2の画像信号、及び複数の色情報を含む第3の画像信号とに基づき、被写体までの距離に対応する距離情報を生成する距離情報生成方法であって、
前記第1の画像信号と前記第2の画像信号の視差に基づき、前記距離情報を生成する距離情報生成ステップと
前記第1の画像信号と前記第2の画像信号の撮影に用いられた結像光学系の色収差を表す色収差情報を取得する色収差情報取得ステップと
前記第3の画像信号から前記複数の色情報毎に生成されるコントラスト評価値と、前記色収差情報とに基づき、前記距離情報生成ステップにおいて生成した前記距離情報を補正する距離情報補正ステップと、
を含む距離情報生成方法。 - 請求項14に記載の方法の各ステップをコンピュータに実行させるためのプログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017120848A JP7009091B2 (ja) | 2017-06-20 | 2017-06-20 | 距離情報生成装置、撮像装置、距離情報生成方法、およびプログラム |
US16/009,317 US10659744B2 (en) | 2017-06-20 | 2018-06-15 | Distance information generating apparatus, imaging apparatus, and distance information generating method |
EP18178239.2A EP3418773B1 (en) | 2017-06-20 | 2018-06-18 | Distance information generating apparatus, imaging apparatus, and distance information generating method |
CN201810638285.XA CN109104599B (zh) | 2017-06-20 | 2018-06-20 | 距离信息生成装置及方法、摄像设备、移动单元和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017120848A JP7009091B2 (ja) | 2017-06-20 | 2017-06-20 | 距離情報生成装置、撮像装置、距離情報生成方法、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019009511A true JP2019009511A (ja) | 2019-01-17 |
JP7009091B2 JP7009091B2 (ja) | 2022-01-25 |
Family
ID=62705479
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017120848A Active JP7009091B2 (ja) | 2017-06-20 | 2017-06-20 | 距離情報生成装置、撮像装置、距離情報生成方法、およびプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US10659744B2 (ja) |
EP (1) | EP3418773B1 (ja) |
JP (1) | JP7009091B2 (ja) |
CN (1) | CN109104599B (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020193867A (ja) * | 2019-05-28 | 2020-12-03 | キヤノン株式会社 | 画像処理装置、制御方法、制御プログラムおよびコンピュータで読み取り可能な記録媒体 |
JP2021068925A (ja) * | 2019-10-17 | 2021-04-30 | キヤノン株式会社 | 画像処理装置および画像処理方法、撮像装置、プログラム |
US11470208B2 (en) | 2020-02-26 | 2022-10-11 | Canon Kabushiki Kaisha | Image identification device, image editing device, image generation device, image identification method, and recording medium |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6865589B2 (ja) * | 2017-01-10 | 2021-04-28 | キヤノン株式会社 | 撮像装置 |
JP7009091B2 (ja) * | 2017-06-20 | 2022-01-25 | キヤノン株式会社 | 距離情報生成装置、撮像装置、距離情報生成方法、およびプログラム |
JP7256368B2 (ja) * | 2019-02-06 | 2023-04-12 | ミツミ電機株式会社 | 測距カメラ |
US11582436B2 (en) * | 2020-07-17 | 2023-02-14 | Shenzhen GOODIX Technology Co., Ltd. | Passive three-dimensional image sensing based on chromatic focal differentiation |
JP6910680B1 (ja) * | 2020-12-25 | 2021-07-28 | 株式会社SensAI | 撮像システム |
JP2022112125A (ja) * | 2021-01-21 | 2022-08-02 | キヤノン株式会社 | 距離計測装置、コンピュータプログラム及び距離計測方法 |
CN113938664A (zh) * | 2021-09-10 | 2022-01-14 | 思特威(上海)电子科技股份有限公司 | 像素阵列的信号采集方法、图像传感器、设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007158692A (ja) * | 2005-12-05 | 2007-06-21 | Nikon Corp | 固体撮像素子及びこれを用いた電子カメラ |
JP2011007882A (ja) * | 2009-06-23 | 2011-01-13 | Nikon Corp | 撮像装置 |
JP2012203278A (ja) * | 2011-03-28 | 2012-10-22 | Canon Inc | 撮像装置、レンズ装置、およびカメラシステム |
JP2014230179A (ja) * | 2013-05-24 | 2014-12-08 | ソニー株式会社 | 撮像装置及び撮像方法 |
JP2015222411A (ja) * | 2014-05-01 | 2015-12-10 | キヤノン株式会社 | 撮像装置およびその制御方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS6286318A (ja) | 1985-10-11 | 1987-04-20 | Minolta Camera Co Ltd | 焦点位置検出装置 |
JP3855812B2 (ja) | 2002-03-15 | 2006-12-13 | ソニー株式会社 | 距離計測方法、その装置、そのプログラム、その記録媒体及び距離計測装置搭載型ロボット装置 |
CN103782213B (zh) | 2011-09-22 | 2015-11-25 | 富士胶片株式会社 | 数字相机 |
JP6156724B2 (ja) * | 2013-03-14 | 2017-07-05 | 株式会社リコー | ステレオカメラ |
JP7009091B2 (ja) * | 2017-06-20 | 2022-01-25 | キヤノン株式会社 | 距離情報生成装置、撮像装置、距離情報生成方法、およびプログラム |
-
2017
- 2017-06-20 JP JP2017120848A patent/JP7009091B2/ja active Active
-
2018
- 2018-06-15 US US16/009,317 patent/US10659744B2/en active Active
- 2018-06-18 EP EP18178239.2A patent/EP3418773B1/en active Active
- 2018-06-20 CN CN201810638285.XA patent/CN109104599B/zh not_active Expired - Fee Related
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007158692A (ja) * | 2005-12-05 | 2007-06-21 | Nikon Corp | 固体撮像素子及びこれを用いた電子カメラ |
JP2011007882A (ja) * | 2009-06-23 | 2011-01-13 | Nikon Corp | 撮像装置 |
JP2012203278A (ja) * | 2011-03-28 | 2012-10-22 | Canon Inc | 撮像装置、レンズ装置、およびカメラシステム |
JP2014230179A (ja) * | 2013-05-24 | 2014-12-08 | ソニー株式会社 | 撮像装置及び撮像方法 |
JP2015222411A (ja) * | 2014-05-01 | 2015-12-10 | キヤノン株式会社 | 撮像装置およびその制御方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020193867A (ja) * | 2019-05-28 | 2020-12-03 | キヤノン株式会社 | 画像処理装置、制御方法、制御プログラムおよびコンピュータで読み取り可能な記録媒体 |
JP2021068925A (ja) * | 2019-10-17 | 2021-04-30 | キヤノン株式会社 | 画像処理装置および画像処理方法、撮像装置、プログラム |
JP7341843B2 (ja) | 2019-10-17 | 2023-09-11 | キヤノン株式会社 | 画像処理装置および画像処理方法、撮像装置、プログラム |
US11470208B2 (en) | 2020-02-26 | 2022-10-11 | Canon Kabushiki Kaisha | Image identification device, image editing device, image generation device, image identification method, and recording medium |
Also Published As
Publication number | Publication date |
---|---|
US20180367772A1 (en) | 2018-12-20 |
CN109104599A (zh) | 2018-12-28 |
JP7009091B2 (ja) | 2022-01-25 |
EP3418773B1 (en) | 2020-04-08 |
EP3418773A1 (en) | 2018-12-26 |
US10659744B2 (en) | 2020-05-19 |
CN109104599B (zh) | 2021-08-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7009091B2 (ja) | 距離情報生成装置、撮像装置、距離情報生成方法、およびプログラム | |
JP6643122B2 (ja) | 距離画像装置、撮像装置、および距離画像補正方法 | |
TWI525382B (zh) | 包括至少一拜耳型攝影機的攝影機陣列系統及關聯的方法 | |
JP6021780B2 (ja) | 画像データ処理装置、距離算出装置、撮像装置および画像データ処理方法 | |
JP7071088B2 (ja) | 距離検出装置、撮像装置、距離検出方法、及びプログラム | |
JP5619294B2 (ja) | 撮像装置及び合焦用パラメータ値算出方法 | |
JP2014048459A (ja) | 距離算出装置 | |
JP6645682B2 (ja) | 距離取得装置、距離画像信号補正装置、撮像装置、距離画像量子化装置、および方法 | |
JP7451120B2 (ja) | 画像処理装置および画像処理方法、撮像装置、プログラム | |
JP6800650B2 (ja) | 信頼度生成装置、信頼度生成方法、および撮像装置 | |
JP2014164174A (ja) | 固体撮像装置、携帯情報端末、および固体撮像システム | |
JP2013192182A (ja) | 固体撮像装置および携帯情報端末 | |
JP6116151B2 (ja) | 距離検出装置 | |
JP5850648B2 (ja) | 撮像装置 | |
JP6173549B2 (ja) | 画像データ処理装置、距離算出装置、撮像装置および画像データ処理方法 | |
JP5338112B2 (ja) | 相関演算装置、焦点検出装置および撮像装置 | |
JP2016066995A (ja) | 像ズレ量算出装置、撮像装置、および像ズレ量算出方法 | |
JP2015203756A (ja) | 視差量算出装置、距離算出装置、撮像装置および視差量算出方法 | |
JP2019070610A (ja) | 測距装置および測距方法 | |
JP5338113B2 (ja) | 相関演算装置、焦点検出装置および撮像装置 | |
JP6632406B2 (ja) | 距離算出装置、撮像装置、および距離算出方法 | |
US20150077585A1 (en) | Microlens array for solid-state image sensing device, solid-state image sensing device, imaging device, and lens unit | |
US20240046488A1 (en) | Image processing device, imaging device, image processing method, and storage medium | |
JP5338118B2 (ja) | 相関演算装置、焦点検出装置および撮像装置 | |
JP2017083817A (ja) | ズレ量取得装置、撮像装置、およびズレ量取得方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20181116 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200610 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210420 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210525 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210719 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211214 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220112 |