JP2022100820A - 距離画像撮像装置、及び距離画像撮像方法 - Google Patents
距離画像撮像装置、及び距離画像撮像方法 Download PDFInfo
- Publication number
- JP2022100820A JP2022100820A JP2020215032A JP2020215032A JP2022100820A JP 2022100820 A JP2022100820 A JP 2022100820A JP 2020215032 A JP2020215032 A JP 2020215032A JP 2020215032 A JP2020215032 A JP 2020215032A JP 2022100820 A JP2022100820 A JP 2022100820A
- Authority
- JP
- Japan
- Prior art keywords
- charge
- amount
- storage unit
- charge storage
- distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 66
- 238000012545 processing Methods 0.000 claims abstract description 84
- 238000005259 measurement Methods 0.000 claims abstract description 47
- 238000006243 chemical reaction Methods 0.000 claims abstract description 30
- 230000003287 optical effect Effects 0.000 claims description 41
- 230000000630 rising effect Effects 0.000 claims description 16
- 238000012937 correction Methods 0.000 claims description 11
- 230000001360 synchronised effect Effects 0.000 claims description 6
- 238000000034 method Methods 0.000 description 49
- 230000008569 process Effects 0.000 description 35
- 230000035508 accumulation Effects 0.000 description 15
- 238000009825 accumulation Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 14
- 238000009826 distribution Methods 0.000 description 11
- 230000001678 irradiating effect Effects 0.000 description 7
- 238000012986 modification Methods 0.000 description 7
- 230000004048 modification Effects 0.000 description 7
- 239000004065 semiconductor Substances 0.000 description 7
- 238000009792 diffusion process Methods 0.000 description 6
- 230000003111 delayed effect Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000012546 transfer Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000003071 parasitic effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
- G01S7/486—Receivers
- G01S7/4861—Circuits for detection, sampling, integration or read-out
- G01S7/4863—Detector arrays, e.g. charge-transfer gates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
- G01S7/486—Receivers
- G01S7/4865—Time delay measurement, e.g. time-of-flight measurement, time of arrival measurement or determining the exact position of a peak
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Electromagnetism (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Measurement Of Optical Distance (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Abstract
【課題】距離の測定に用いられる矩形信号における波形のなまりが顕著となる場合であっても、精度よく測定距離を算出することができる距離画像撮像装置、及び距離画像撮像方法を提供する。【解決手段】光源部と、光電変換素子及び三つ以上の電荷蓄積部を具備する画素と、前記電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、電荷蓄積部のそれぞれに蓄積された電荷量を用いて、前記被写体までの測定距離を決定する距離画像処理部を備え、距離画像処理部は、測定距離を決定するまでの信号処理に用いられる矩形信号における波形のなまり度合いを示す波形情報を取得し、取得した波形情報に基づいて、矩形信号における波形になまりがない場合に蓄積される電荷量に補正し、補正した電荷量を用いて測定距離を決定する。【選択図】図1
Description
本発明は、距離画像撮像装置、及び距離画像撮像方法に関する。
従来から、物体との距離を計測するための技術として、光パルスの飛行時間を測定する技術がある。このような技術は、タイム・オブ・フライト(Time of Flight、以下、TOFという)と呼ばれる。TOFでは、光の速度が既知であることを利用し、物体に近赤外領域の光パルスを照射する。そして、この光パルスを照射した時刻と、照射した光パルスが物体によって反射してきた反射光を受光した時刻との時間差を測定する。この時間差に基づいて物体との距離を算出する。フォトダイオード(光電変換素子)を用いて距離を測定するための光を検出する測距センサが実用化されている。
そして、近年では、物体との距離のみではなく、物体を含む二次元の画像における画素ごとの奥行き情報、つまり、物体に対する三次元の情報を得ることができる測距センサが実用化されている。このような測距センサは、距離画像撮像装置ともいわれている。距離画像撮像装置では、フォトダイオードを含む画素がシリコン基板に二次元の行列状に複数配置され、この画素面で物体に反射した反射光を受光する。距離画像撮像装置では、それぞれの画素が受光した光量(電荷)に基づいた光電変換信号を1つの画像分出力することによって、物体を含む二次元の画像と、この画像を構成するそれぞれの画素ごとの距離の情報を得ることができる。例えば、特許文献1には、1つの画素に3つの電荷蓄積部が設けられ、順番に電荷を振り分けて距離を計算する技術が開示されている。
このような距離画像撮像装置では、光パルスを断続的に照射するショートパルス方式と、光を連続的に照射するCW(Continuous Wave)方式がある。ショートパルス方式では、光パルスや反射光の波形が矩形に保たれた状態で電荷を蓄積させることが、測定距離の精度を維持する上で重要である。すなわち、光パルスを照射するレーザダイオードを制御するドライバのタイミング信号や電荷蓄積部に電荷を蓄積させるゲート信号が矩形に維持される必要がある。しかしながら、回路内での信号遅延、及び光電変換素子内における電荷転送効率により、矩形の立上りや立下りにおいて遅延が発生し、波形になまりが生じる。特に、処理速度の向上等を目的として矩形の幅(パルス幅)を小さくしようとすると、波形なまりが顕著となってしまう。波形なまりが顕著となると、電荷の蓄積量が本来の蓄積量から大きく変化してしまい、測定距離に誤差が生じてしまうという問題があった。この対策として、測定距離のずれ(誤差)を多項式近似によって補正することが考えられる。しかし、処理負荷がかかり、高次の項でノイズが増幅されると距離精度が悪化してしまうなどの課題があった。また、複数のタイムウィンドウが存在する場合、それぞれのタイムウィンドウにおいて測定距離のずれ具合が異なるため、複数のタイムウィンドウで多項式近似によって距離を補正しようとすると処理が複雑となり、計算を行うのが困難であった。
本発明は、上記の課題に基づいてなされたものであり、距離の測定に用いられる矩形信号における波形のなまりが顕著となる場合であっても、精度よく測定距離を算出することができる距離画像撮像装置、及び距離画像撮像方法を提供することを目的とする。
本発明の距離画像撮像装置は、被写体が存在する測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定のタイミングで前記画素における前記電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量を用いて前記被写体までの測定距離を決定する距離画像処理部と、を備え、前記距離画像処理部は、前記測定距離を決定するまでの信号処理に用いられる矩形信号における波形のなまり度合いを示す波形情報を取得し、取得した前記波形情報に基づいて、前記電荷蓄積部のそれぞれに蓄積された電荷量を、前記矩形信号における波形になまりがない場合に蓄積される電荷量に補正し、前記補正した電荷量を用いて前記測定距離を決定する。
本発明の距離画像撮像装置では、前記波形情報は、前記矩形信号を時間積分することによって導出される第1面積に対する第2面積の比率を示す裾引割合であり、前記第1面積は波形になまりがない前記矩形信号である第1信号を立上り開始時刻から立下り開始時刻まで積分した積分値であり、前記第2面積は前記第1信号から波形のなまりがある前記矩形信号である第2信号を減算した減算値を立上り開始時刻から立上り終了時刻まで積分した積分値、又は、前記第2信号を立下り開始時刻から立下り終了時刻まで積分した積分値であり、前記距離画像処理部は、複数の前記電荷蓄積部のうち前記光パルスが前記被写体に反射した反射光に応じた電荷量が最初に蓄積される第1電荷蓄積部と、前記第1電荷蓄積部の次に電荷が蓄積される第2電荷蓄積部について、前記第1電荷蓄積部に蓄積された第1電荷量から外光成分に応じた電荷量を減算した第1距離演算用電荷量、及び前記第2電荷蓄積部に蓄積された第2電荷量から外光成分に応じた電荷量を減算した第2距離演算用電荷量を算出し、前記波形情報を用いて前記第2距離演算用電荷量のうち前記矩形信号のなまりに起因して前記第1電荷蓄積部に蓄積されずに前記第2電荷蓄積部に蓄積された第1補正電荷量を算出し、前記第1補正電荷量を用いて前記第1距離演算用電荷量及び前記第2距離演算用電荷量を補正する。
本発明の距離画像撮像装置では、前記画素は、三つの前記電荷蓄積部を具備し、前記距離画像処理部は、三つの前記電荷蓄積部のうち、前記第1電荷蓄積部及び前記第2電荷蓄積部とは異なる電荷蓄積部である外光蓄積用電荷蓄積部に前記反射光に応じた電荷が蓄積されないように、前記外光蓄積用電荷蓄積部に電荷を蓄積させるタイミングを制御し、前記外光蓄積用電荷蓄積部に蓄積された電荷量を、外光成分に応じた電荷量とする。
本発明の距離画像撮像装置では、前記画素は、三つの前記電荷蓄積部を具備し、前記波形情報は、前記矩形信号を時間積分することによって導出される第1面積に対する第2面積の比率を示す裾引割合であり、前記第1面積は波形になまりがない前記矩形信号である第1信号の立上り開始時刻から立下り開始時刻まで積分した積分値であり、前記第2面積は前記第1信号から波形のなまりがある前記矩形信号である第2信号を減算した減算値を立上り開始時刻から立上り終了時刻まで積分した積分値、又は、前記第2信号を立下り開始時刻から立下り終了時刻まで積分した積分値であり、前記距離画像処理部は、三つの前記電荷蓄積部のうち前記光パルスが前記被写体に反射した反射光に応じた電荷量が最初に蓄積される第1電荷蓄積部と、前記第1電荷蓄積部の次に電荷が蓄積される第2電荷蓄積部と、前記第2電荷蓄積部の次に電荷が蓄積される第3電荷蓄積部について、前記第1電荷蓄積部に蓄積された第1電荷量から外光成分に応じた電荷量を減算した第1距離演算用電荷量、前記第2電荷蓄積部に蓄積された第2電荷量から外光成分に応じた電荷量を減算した第2距離演算用電荷量、及び前記第3電荷蓄積部に蓄積された第3電荷量から外光成分に応じた電荷量を減算した第3距離演算用電荷量を算出し、前記波形情報を用いて前記第2距離演算用電荷量のうち前記矩形信号のなまりに起因して前記第1電荷蓄積部に蓄積されずに前記第2電荷蓄積部に蓄積された第1補正電荷量を算出し、前記波形情報を用いて前記第3距離演算用電荷量のうち前記矩形信号のなまりに起因して前記第2電荷蓄積部に蓄積されずに前記第3電荷蓄積部に蓄積された第2補正電荷量を算出し、前記第1補正電荷量を用いて前記第1距離演算用電荷量を補正し、前記第1補正電荷量及び前記第2補正電荷量を用いて前記第2距離演算用電荷量を補正する。
本発明の距離画像撮像装置では、前記画素は、四つの前記電荷蓄積部を具備し、前記距離画像処理部は、四つの前記電荷蓄積部のうち、前記第1電荷蓄積部、前記第2電荷蓄積部及び前記第3電荷蓄積部とは異なる外光蓄積用電荷蓄積部に前記反射光に応じた電荷が蓄積されないように、前記外光蓄積用電荷蓄積部に電荷を蓄積させるタイミングを制御し、前記外光蓄積用電荷蓄積部に蓄積された電荷量を、外光成分に応じた電荷量とする。
本発明の距離画像撮像方法は、被写体が存在する測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定のタイミングで前記画素における前記電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量を用いて前記被写体までの測定距離を決定する距離画像処理部と、を備える距離画像撮像装置による距離画像撮像方法であって、前記距離画像処理部は、前記測定距離を決定するまでの信号処理に用いられる矩形信号における波形のなまり度合いを示す波形情報を取得し、取得した前記波形情報に基づいて、前記電荷蓄積部のそれぞれに蓄積された電荷量を、前記矩形信号における波形になまりがない場合に蓄積される電荷量に補正し、前記補正した電荷量を用いて前記測定距離を決定する。
本発明によれば、距離の測定に用いられる矩形信号における波形のなまりが顕著となる場合であっても、精度よく測定距離を算出することができる。
以下、実施形態の距離画像撮像装置を、図面を参照しながら説明する。
<実施形態>
まず、実施形態について説明する。図1は、本発明の第1の実施形態の距離画像撮像装置の概略構成を示したブロック図である。図1に示した構成の距離画像撮像装置1は、光源部2と、受光部3と、距離画像処理部4とを備える。図1には、距離画像撮像装置1において距離を測定する対象物である被写体OBも併せて示している。
まず、実施形態について説明する。図1は、本発明の第1の実施形態の距離画像撮像装置の概略構成を示したブロック図である。図1に示した構成の距離画像撮像装置1は、光源部2と、受光部3と、距離画像処理部4とを備える。図1には、距離画像撮像装置1において距離を測定する対象物である被写体OBも併せて示している。
光源部2は、距離画像処理部4からの制御に従って、距離画像撮像装置1において距離を測定する対象の被写体OBが存在する撮影対象の空間に光パルスPOを照射する。光源部2は、例えば、垂直共振器面発光レーザー(VCSEL:Vertical Cavity Surface Emitting Laser)などの面発光型の半導体レーザーモジュールである。光源部2は、光源装置21と、拡散板22とを備える。
光源装置21は、被写体OBに照射する光パルスPOとなる近赤外の波長帯域(例えば、波長が850nm~940nmの波長帯域)のレーザー光を発光する光源である。光源装置21は、例えば、半導体レーザー発光素子である。光源装置21は、タイミング制御部41からの制御に応じて、パルス状のレーザー光を発光する。
拡散板22は、光源装置21が発光した近赤外の波長帯域のレーザー光を、被写体OBに照射する面の広さに拡散する光学部品である。拡散板22が拡散したパルス状のレーザー光が、光パルスPOとして出射され、被写体OBに照射される。
受光部3は、距離画像撮像装置1において距離を測定する対象の被写体OBによって反射された光パルスPOの反射光RLを受光し、受光した反射光RLに応じた画素信号を出力する。受光部3は、レンズ31と、距離画像センサ32とを備える。
レンズ31は、入射した反射光RLを距離画像センサ32に導く光学レンズである。レンズ31は、入射した反射光RLを距離画像センサ32側に出射して、距離画像センサ32の受光領域に備えた画素に受光(入射)させる。
距離画像センサ32は、距離画像撮像装置1に用いられる撮像素子である。距離画像センサ32は、二次元の受光領域に複数の画素を備える。距離画像センサ32のそれぞれの画素の中に、1つの光電変換素子と、この1つの光電変換素子に対応する複数の電荷蓄積部と、それぞれの電荷蓄積部に電荷を振り分ける構成要素とが設けられる。つまり、画素は、複数の電荷蓄積部に電荷を振り分けて蓄積させる振り分け構成の撮像素子である。
距離画像センサ32は、タイミング制御部41からの制御に応じて、光電変換素子が発生した電荷をそれぞれの電荷蓄積部に振り分ける。また、距離画像センサ32は、電荷蓄積部に振り分けられた電荷量に応じた画素信号を出力する。距離画像センサ32には、複数の画素が二次元の行列状に配置されており、それぞれの画素の対応する1フレーム分の画素信号を出力する。
距離画像処理部4は、距離画像撮像装置1を制御し、被写体OBまでの距離を演算する。距離画像処理部4は、タイミング制御部41と、距離演算部42と、測定制御部43と、記憶部44とを備える。なお、距離画像処理部4の機能部(タイミング制御部41、距離演算部42、測定制御部43、及び記憶部44)の一部が、距離画像センサ32に組み込まれていてもよい。
タイミング制御部41は、測定制御部43の制御に応じて、測定に要する様々な制御信号を出力するタイミングを制御する。ここでの様々な制御信号とは、例えば、光パルスPOの照射を制御する信号、反射光RLを複数の電荷蓄積部に振り分けて蓄積させる信号、1フレームあたりの振り分け回数(蓄積回数)を制御する信号などである。振り分け回数とは、電荷蓄積部CS(図3参照)に電荷を振り分ける処理を繰返す回数である。
距離演算部42は、距離画像センサ32から出力された画素信号、及び後述する波形情報440を用いて、被写体OBまでの距離を算出し、算出した距離情報を出力する。距離演算部42は、距離画像センサ32から出力された画素信号から得られる複数の電荷蓄積部に蓄積された電荷量を、波形情報440を用いて補正し、補正した電荷量に基づいて、被写体OBまでの距離を演算する。波形情報440については後で詳しく説明する。また、距離演算部42が、波形情報440を用いて被写体OBまでの距離を決定する方法については、後で詳しく説明する。
測定制御部43は、タイミング制御部41を制御する。例えば、測定制御部43は、1フレームの振り分け回数、及び蓄積時間Ta等を設定し、設定した内容で撮像が行われるようにタイミング制御部41を制御する。
記憶部44は、記憶媒体、例えば、HDD(Hard Disk Drive)、フラッシュメモリ、EEPROM(Electrically Erasable Programmable Read Only Memory)、RAM(Random Access read/write Memory)、ROM(Read Only Memory)、または、これらの記憶媒体の任意の組み合わせによって構成される。記憶部44は、例えば、波形情報440を記憶する。
このような構成によって、距離画像撮像装置1では、光源部2が被写体OBに照射した近赤外の波長帯域の光パルスPOが被写体OBによって反射された反射光RLを受光部3が受光し、距離画像処理部4が、被写体OBとの距離を測定した距離情報を出力する。
なお、図1においては、距離画像処理部4を内部に備えた構成の距離画像撮像装置1を示しているが、距離画像処理部4は、距離画像撮像装置1の外部に備える構成要素であってもよい。
次に、距離画像撮像装置1において撮像素子として用いられる距離画像センサ32の構成について説明する。図2は、実施形態の距離画像撮像装置1に用いられる撮像素子(距離画像センサ32)の概略構成を示したブロック図である。
図2に示すように、距離画像センサ32は、例えば、複数の画素321が配置された受光領域320と、制御回路322と、振り分け動作を有した垂直走査回路323と、水平走査回路324と、画素信号処理回路325とを備える。
受光領域320は、複数の画素321が配置された領域であって、図2では、8行8列に二次元の行列状に配置された例を示している。画素321は、受光した光量に応じた電荷を蓄積する。制御回路322は、距離画像センサ32を統括的に制御する。制御回路322は、例えば、距離画像処理部4のタイミング制御部41からの指示に応じて、距離画像センサ32の構成要素の動作を制御する。なお、距離画像センサ32に備えた構成要素の制御は、タイミング制御部41が直接行う構成であってもよく、この場合、制御回路322を省略することも可能である。
垂直走査回路323は、制御回路322からの制御に応じて、受光領域320に配置された画素321を行ごとに制御する回路である。垂直走査回路323は、画素321の電荷蓄積部CSそれぞれに蓄積された電荷量に応じた電圧信号を画素信号処理回路325に出力させる。この場合、垂直走査回路323は、光電変換素子により変換された電荷を画素321の電荷蓄積部それぞれに振り分ける。つまり、垂直走査回路323は、「画素駆動回路」の一例である。
画素信号処理回路325は、制御回路322からの制御に応じて、それぞれの列の画素321から対応する垂直信号線に出力された電圧信号に対して、予め定めた信号処理(例えば、ノイズ抑圧処理やA/D変換処理など)を行う回路である。
水平走査回路324は、制御回路322からの制御に応じて、画素信号処理回路325から出力される信号を、水平信号線に順次出力させる回路である。これにより、1フレーム分蓄積された電荷量に相当する画素信号が、水平信号線を経由して距離画像処理部4に順次出力される。
以下では、画素信号処理回路325がA/D変換処理を行い、画素信号がデジタル信号であるものとして説明する。
ここで、距離画像センサ32に備える受光領域320内に配置された画素321の構成について説明する。図3は、実施形態の距離画像センサ32の受光領域320内に配置された画素321の構成の一例を示した回路図である。図3には、受光領域320内に配置された複数の画素321のうち、1つの画素321の構成の一例を示している。この図の例では、画素321が4つの画素信号読み出し部を備えた構成の一例である。
図3に示すように、画素321は、1つの光電変換素子PDと、ドレインゲートトランジスタGDと、4つの画素信号読み出し部RU(画素信号読み出し部RU1~RU4)とを備える。それぞれの画素信号読み出し部RUは、出力端子Oから電圧信号を出力する。
以下の説明においては、4つの画素信号読み出し部RU符号の後に、「1」、「2」、「3」または「4」の数字を付与することによって、それぞれの画素信号読み出し部RU、を区別する。また、同様に、4つの画素信号読み出し部RUに備えたそれぞれの構成要素も、それぞれの符号の後に数字を付与することによって、それぞれの構成要素を区別して表す。
画素信号読み出し部RUのそれぞれは、読み出しゲートトランジスタGと、フローティングディフュージョンFDと、電荷蓄積容量Cと、リセットゲートトランジスタRTと、ソースフォロアゲートトランジスタSFと、選択ゲートトランジスタSLとを備える。それぞれの画素信号読み出し部RUでは、フローティングディフュージョンFDと電荷蓄積容量Cとによって電荷蓄積部CSが構成されている。具体的には、画素信号読み出し部RU1は、読み出しゲートトランジスタG1と、フローティングディフュージョンFD1と、電荷蓄積容量C1と、リセットゲートトランジスタRT1と、ソースフォロアゲートトランジスタSF1と、選択ゲートトランジスタSL1とを備える。画素信号読み出し部RU1では、フローティングディフュージョンFD1と電荷蓄積容量C1とによって電荷蓄積部CS1が構成されている。画素信号読み出し部RU2~RU4も同様の構成である。
光電変換素子PDは、入射した光を光電変換して電荷を発生させ、発生させた電荷を蓄積する埋め込み型のフォトダイオードである。光電変換素子PDの構造は任意であってよい。光電変換素子PDは、例えば、P型半導体とN型半導体とを接合した構造のPNフォトダイオードであってもよいし、P型半導体とN型半導体との間にI型半導体を挟んだ構造のPINフォトダイオードであってもよい。また、光電変換素子PDは、フォトダイオードに限定されるものではなく、例えば、フォトゲート方式の光電変換素子であってもよい。
画素321では、光電変換素子PDが入射した光を光電変換して発生させた電荷を4つの電荷蓄積部CSのそれぞれに振り分け、振り分けられた電荷の電荷量に応じたそれぞれの電圧信号を、画素信号処理回路325に出力する。
距離画像センサ32に配置される画素の構成は、図3に示したような、4つの画素信号読み出し部RUを備えた構成に限定されるものではなく、複数の画素信号読み出し部RUを備えた構成の画素であればよい。つまり、距離画像センサ32に配置される画素に備える画素信号読み出し部RU(電荷蓄積部CS)の数は、2つであってもよいし、3つであってもよいし、5つ以上であってもよい。
また、図3に示した構成の画素321では、電荷蓄積部CSを、フローティングディフュージョンFDと電荷蓄積容量Cとによって構成する一例を示した。しかし、電荷蓄積部CSは、少なくともフローティングディフュージョンFDによって構成されればよく、画素321が電荷蓄積容量Cを備えない構成であってもよい。
また、図3に示した構成の画素321では、ドレインゲートトランジスタGDを備える構成の一例を示したが、これに限定されない。例えば、電荷蓄積部CSに蓄積されずに光電変換素子PDに残っている電荷を破棄する必要がない場合には、ドレインゲートトランジスタGDを備えない構成であってもよい。
次に、画素321の駆動タイミングについて図4を用いて説明する。図4は、実施形態の画素321を駆動するタイミングを示すタイミングチャートである。
図4では、1回の振り分け処理において、電荷蓄積部CSのそれぞれに電荷を蓄積させるまでに要する時間を「単位蓄積期間」と表している。「単位蓄積期間」において行われる振り分け処理を1フレームに相当する蓄積回数だけ繰り返し行った後に、その間に蓄積された電荷量を読み出す処理が行われる。この蓄積された電荷量を読み出す処理が行われる時間を「読み出し期間」と表している。
また、図4では、光パルスPOを照射するタイミングを「L」、反射光RLが受光されるタイミングを「R」、読み出しゲートトランジスタG1を駆動させるタイミングを「G1」、読み出しゲートトランジスタG2を駆動させるタイミングを「G2」、読み出しゲートトランジスタG3を駆動させるタイミングを「G3」、読み出しゲートトランジスタG4を駆動させるタイミングを「G4」、駆動信号RSTDのタイミングを「GD」、の項目名でそれぞれ示している。
垂直走査回路323は、光パルスPOの照射に同期させたタイミングで、電荷蓄積部CS1~CS4に電荷を蓄積させる。図4の例では、光パルスPOを照射したタイミングと同じタイミングで電荷蓄積部CS1に電荷を蓄積させ、電荷蓄積部CS1に電荷を蓄積させた後、順次、電荷蓄積部CS2~CS4に電荷を蓄積させる。
図4の例では、光パルスPOが照射された時刻から遅延時間Td遅れて反射光RLが距離画像センサ32に受光される場合のタイミングチャートが示されている。遅延時間Tdに応じて、反射光RLに応じた電荷が電荷蓄積部CS1及びCS2、又は電荷蓄積部CS2及びCS3に振り分けて蓄積される。電荷蓄積部CS4が電荷を蓄積するタイミングでは、反射光RLが受光されることはなく、背景光などの外光成分に応じた電荷が電荷蓄積部CS4に蓄積される。
具体的に、まず、垂直走査回路323は、光パルスPOを照射させる。垂直走査回路323は照射のタイミングと同じタイミングでドレインゲートトランジスタGDをオフ状態にするとともに、読み出しゲートトランジスタG1を蓄積時間Taに渡りオン状態とする。垂直走査回路323は、読み出しゲートトランジスタG1を蓄積時間Taに渡りオン状態とした後に、読み出しゲートトランジスタG1をオフ状態とする。これにより、読み出しゲートトランジスタG1がオン状態に制御されている間に光電変換素子PDにより光電変換された電荷が、読み出しゲートトランジスタG1を介して電荷蓄積部CS1に蓄積される。
次に、垂直走査回路323は、読み出しゲートトランジスタG2をオフ状態としたタイミングで、読み出しゲートトランジスタG2を蓄積時間Taに渡りオン状態とする。垂直走査回路323は、読み出しゲートトランジスタG2を蓄積時間Taに渡りオン状態とした後に、読み出しゲートトランジスタG2をオフ状態にする。これにより、読み出しゲートトランジスタG2がオン状態に制御されている間に光電変換素子PDにより光電変換された電荷が、読み出しゲートトランジスタG2を介して電荷蓄積部CS2に蓄積される。
次に、垂直走査回路323は、読み出しゲートトランジスタG2をオフ状態としたタイミングで、読み出しゲートトランジスタG3を蓄積時間Taに渡りオン状態にする。垂直走査回路323は、読み出しゲートトランジスタG3を蓄積時間Taに渡りオン状態とした後に、読み出しゲートトランジスタG3をオフ状態にする。これにより、読み出しゲートトランジスタG3がオン状態に制御されている間に光電変換素子PDにより光電変換された電荷は、読み出しゲートトランジスタG3を介して電荷蓄積部CS3に蓄積される。
次に、垂直走査回路323は、電荷蓄積部CS3への電荷の蓄積を終了させたタイミングで、読み出しゲートトランジスタG4を蓄積時間Taに渡りオン状態にする。垂直走査回路323は、読み出しゲートトランジスタG4を蓄積時間Taに渡りオン状態とした後に、読み出しゲートトランジスタG4をオフ状態とする。垂直走査回路323は、読み出しゲートトランジスタG4をオフ状態としたタイミングでドレインゲートトランジスタGDをオン状態にする。ドレインゲートトランジスタGDがオン状態とされることにより、この間に光電変換素子PDにより光電変換された電荷は、電荷蓄積部CSに蓄積されることなく、ドレインゲートトランジスタGDを介して破棄される。
垂直走査回路323は、上述したような駆動を、1フレームに渡って所定の振り分け回数分繰り返し行う。その後、垂直走査回路323は、それぞれの電荷蓄積部CSに蓄積され電荷量に応じた電圧信号を出力する。具体的に、垂直走査回路323は、選択ゲートトランジスタSL1を所定時間オン状態にすることにより、画素信号読み出し部RU1を介して電荷蓄積部CS1に蓄積された電荷量に応じた電圧信号を出力端子O1から出力させる。同様に、垂直走査回路323は、順次、選択ゲートトランジスタSL2~SL4をオン状態とすることにより、電荷蓄積部CS2~CS4に蓄積された電荷量に応じた電圧信号を出力端子O2~O4から出力させる。これによって、電荷蓄積部CSのそれぞれに蓄積された1フレーム分の電荷量に相当する電気信号が距離演算部42に出力される。
なお、上記では、光パルスPOが照射されたタイミングで、読み出しゲートトランジスタG1をオン状態とする場合を例に説明した。しかしながらこれに限定されることはない。少なくとも反射光RLに応じた電荷が電荷蓄積部CS1及びCS2、又はCS2又はCS3に振り分けて蓄積されるタイミングで光パルスPOが照射されればよい。
図4では、光パルスPOを照射するタイミングと、電荷蓄積部CSのそれぞれに電荷を蓄積させるタイミングとの関係から、電荷蓄積部CS1及びCS2に、反射光RL及び外光成分に応じた電荷量が振り分けられて保持される。この場合、電荷蓄積部CS1は、「第1電荷蓄積部」の一例である。電荷蓄積部CS2は、「第2電荷蓄積部」の一例である。また、電荷蓄積部CS4には背景光などの外光成分に応じた電荷量が保持される。この場合、電荷蓄積部CS4は「外光蓄積用電荷蓄積部」の一例である。
なお、比較的遠くにある被写体OBからの反射光RLが受光された場合、遅延時間Tdが大きくなり、その結果、電荷蓄積部CS2及びCS3に反射光RL及び外光成分に応じた電荷量が振り分けられて保持されることとなる。この場合、電荷蓄積部CS2は、「第1電荷蓄積部」の一例である。電荷蓄積部CS3は、「第2電荷蓄積部」の一例である。
電荷蓄積部CS1及びCS2に振り分けられる電荷量の配分(振り分け比率)は、光パルスPOが被写体OBに反射して距離画像撮像装置1に入射されるまでの遅延時間Tdに応じた比率となる。
距離演算部42は、この原理を利用して、以下の(1)式により、遅延時間Tdを算出する。(1)式におけるToは光パルスPOが照射された時間間隔であり、Rは反射光RLの振り分け比率を示す電荷比である。
Td=To×R …(1)
但し、 R=Q2#/(Q1#+Q2#)
Q1#=Q1-Qb
Q2#=Q2-Qb
Q4=Qb
Toは光パルスPOが照射された時間間隔
Rは以下で求められる電荷比
Q1#は電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q2#は電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Qbは電荷蓄積部CSに蓄積される外光成分に応じた電荷量
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Q4は電荷蓄積部CS4に蓄積された電荷量
但し、 R=Q2#/(Q1#+Q2#)
Q1#=Q1-Qb
Q2#=Q2-Qb
Q4=Qb
Toは光パルスPOが照射された時間間隔
Rは以下で求められる電荷比
Q1#は電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q2#は電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Qbは電荷蓄積部CSに蓄積される外光成分に応じた電荷量
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Q4は電荷蓄積部CS4に蓄積された電荷量
距離演算部42は、近距離受光画素においては、(1)式で求めた遅延時間Tdに、光速(速度)を乗算させることにより、被写体OBまでの往復の距離を算出する。そして、距離演算部42は、上記で算出した往復の距離を1/2とすることにより、被写体OBまでの距離を求める。
ここで、蓄積された電荷量から算出される距離(測定距離)に誤差が生じる要因について説明する。
誤差が生じる一因として、距離の測定に係る各種の信号処理に用いられる矩形信号において波形になまりが生じることが考えられる。実際の回路では配線抵抗や寄生容量などに起因して信号伝送時の高周波特性が劣化する。また、光電変換素子PDにおける電荷転送効率に起因して電荷転送時に遅延が生じる。高周波特性が劣化したり、光電変換素子PDにおける電荷転送効率したりすると、信号の立上りや立下り等、信号振幅が急峻に変化する時に遅延が発生し、波形になまりが生じる。その結果、矩形が崩れ、立上り遅延及び立下りが遅延した波形に変化する。
距離を測定する様々な処理で用いられる矩形信号がなまると誤差が生じる原因となる。例えば、光パルスを照射するレーザダイオードを制御するドライバのタイミング信号がなまると光パルスを照射した後やや遅れて規定の光量に達し、照射を停止した後やや遅れて光パルスPOの光量が0(ゼロ)となる。このような波形のなまりが反射光RLに影響するため、反射光RLも裾引波形となって画素321に受光される。さらに、読み出しゲートトランジスタGのタイミング信号がなまると、電荷蓄積部CS1に蓄積されるはずの電荷量が電荷蓄積部CS2に蓄積されたり、電荷蓄積部CS2に蓄積されるはずの電荷量が電荷蓄積部CS3に蓄積されたりする。このように本来蓄積されるべき電荷蓄積部CSと異なる電荷蓄積部CSに蓄積された電荷量を用いて(1)式から算出される遅延時間Tdは、本来の遅延時間Tdとは異なる値と異なり、誤差を含む値となる。
この対策として、本実施形態では、電荷蓄積部CSのそれぞれに蓄積された反射光RLに応じた電荷量を、波形情報440を用いて、波形になまりがない矩形信号が用いられた場合に蓄積される電荷量に補正する。波形情報440は、波形のなまり度合を示す情報である。そして、補正した電荷量を用いて(1)式から遅延時間Tdを算出する。これにより、矩形信号がなまることに起因して生じる誤差を低減させることが可能となる。
ここで電荷量を補正する方法について、図5~図9を用いて具体的に説明する。図5~図7は、実施形態の波形のなまりを説明する図である。図8は、実施形態の波形情報440の構成の例を示す図である。図9は、実施形態の距離画像処理部4が電荷量を補正する処理を説明する図である。
図5には、波形になまりがない矩形の信号H1(以下、「矩形信号H1」とも称する)が模式的に示されている。図5に示すように、信号H1は、立上り開始時刻Trsにおいて信号振幅がLoからHiに変化し、立下り開始時刻Tdsにおいて信号振幅がHiからLoに変化する。
図6には、波形になまりがある裾を引いた信号H2(以下、「裾引信号H2」とも称する)が模式的に示されている。図6に示すように、信号H2は、立上り開始時刻Trsから立上り終了時刻Treまで時間をかけて徐々に信号振幅がLoからHiに変化する。また、信号H2は、立下り開始時刻Tdsから立下り終了時刻Tdeまで時間をかけて徐々に信号振幅がHiからLoに変化する。
図7には、図6の裾引信号H2の波形を複数の領域に分割した図が模式的に示されている。本実施形態では、図7に示すように、裾引信号H2の波形に応じて領域Sa~Scに分割し、それぞれの領域の面積を用いて裾引信号H2のなまり度合を定義する。
領域Saは、裾引信号H2の立上り遅延による振幅の減少よって生じた領域に相当する。領域Saの面積は、矩形信号H1から裾引信号H2を減じた減算値を、立上り開始時刻Trsから立上り終了時刻Treまで積分した積分値である。
領域Sbは、矩形信号H1の矩形面積から領域Saを除いた領域に相当する。領域Sbの面積は、裾引信号H2を、立上り開始時刻Trsから立下り開始時刻Tdsまで積分した積分値である。或いは、矩形信号H1を、立上り開始時刻Trsから立下り開始時刻Tdsまで積分した積分値(矩形面積)から、領域Saの面積を減算した面積である。
領域Scは、裾引信号H2の立下り遅延によって生じた裾引領域に相当する。領域Scの面積は、裾引信号H2を、立下り開始時刻Tdsから立下り終了時刻Tdeまで積分した積分値である。
本実施形態では、矩形面積(領域Sa+Sb)に対する裾引面積(領域Sc)の割合を、裾引割合Reとし、波形における「なまり度合」を示す指標として用いる。なお、裾引割合Reは、少なくとも波形における「なまり度合」を示す値であればよく、例えば、裾引割合Reは、裾引面積(領域Sc)に対する矩形面積(領域Sa+Sb)であってもよい。
図8には、波形情報440の構成の例が示されている。波形情報440は、例えば、裾引割合Re、計算式、及び備考などの項目を備える。裾引割合Reは、波形における「なまり度合」を示す指標であり、矩形面積(領域Sa+Sb)に対する裾引面積(領域Sc)の割合である。計算式は、裾引割合Reを算出する計算式である。
本実施形態では、各種の信号処理の各々のなまりを反射光RLに集約させ、そのなまりがある反射光RLを受光したとみなして補正を行う。すなわち、なまりのある反射光RLに応じた電荷が、なまりのない読み出しゲートトランジスタGの駆動タイミングで電荷蓄積部CSに蓄積されるものとする。そして、反射光RLの裾引割合Re(なまり度合)に基づいて、電荷蓄積部CSに蓄積された電荷量を補正する。補正後の電荷量は、なまりのない反射光RLに応じた電荷が、なまりのない読み出しゲートトランジスタGの駆動タイミングで電荷蓄積部CSに蓄積される場合の電荷量となる。
図9には、距離画像処理部4が電荷量を補正する処理を説明する図である。図9に示すように、本実施形態では、なまりがある反射光RLがなまりのない読み出しゲートトランジスタGの駆動タイミングで電荷蓄積部CSに蓄積される場合を想定する。
図9には、図4と同様に、遅延時間Td遅れて反射光RLが距離画像センサ32に到達し、反射光RLに応じた電荷量が電荷蓄積部CS1及びCS2に振り分けて蓄積されるものとする。また、図9では、反射光RLには波形になまりがあり、なまりによって生じた反射光RLの一部に応じた電荷が電荷蓄積部CS3に蓄積されるものとする。この場合、電荷蓄積部CS1は「第1電荷蓄積部」の一例である。電荷蓄積部CS2は「第2電荷蓄積部」の一例である。電荷蓄積部CS3は「第3電荷蓄積部」の一例である。
具体的には、波形になまりがある裾引信号H2で形成される反射光RLのうち、領域Sbの一部分(領域Sb1)に応じた電荷量が電荷蓄積部CS1に蓄積されるものとする。また、領域Sbの残りの部分(領域Sb2)に応じた電荷量が電荷蓄積部CS2に蓄積されるものとする。また、領域Scの一部分(領域Sc1)に応じた電荷量が電荷蓄積部CS2に蓄積されるものとする。また、領域Scの残りの部分(領域Sc2)に応じた電荷量が電荷蓄積部CS3に蓄積されるものとする。
電荷量を補正するにあたり、本実施形態では、光パルスPOを照射する照射時間Toと、電荷蓄積部CSに電荷を蓄積させる蓄積時間Taとが同じ時間間隔であることを前提とする。また、本実施形態では、領域Saの面積と領域Scの面積は、計算上、同一の値として計算している。
なお、図9では「G4」のタイミングチャートが省略されているが、図4と同様に読み出しゲートトランジスタG4が駆動され、外光成分に応じた電荷量が電荷蓄積部CS4に蓄積されるものとする。
距離演算部42は、電荷蓄積部CSのそれぞれに蓄積された1フレーム分の電荷量に相当する電気信号を取得する。距離演算部42は、以下の(2)式により、反射光RLに応じた電荷の総量QSUMを算出する。ここで、電荷量Q1#は、電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量であり「第1距離演算用電荷量」の一例である。電荷量Q2#は、電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量であり「第2距離演算用電荷量」の一例である。電荷量Q3#は、電荷蓄積部CS3に蓄積された反射光RLに応じた電荷量であり「第3距離演算用電荷量」の一例である。
QSUM=Q1#+Q2#+Q3# …(2)
Q1#=Q1-Qb
Q2#=Q2-Qb
Q3#=Q3-Qb
Q4=Qb
但し、 Q1#は電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q2#は電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Q3#は電荷蓄積部CS3に蓄積された反射光RLに応じた電荷量
Qbは電荷蓄積部CSに蓄積される外光成分に応じた電荷量
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Q3は電荷蓄積部CS3に蓄積された電荷量
Q4は電荷蓄積部CS4に蓄積された電荷量
Q1#=Q1-Qb
Q2#=Q2-Qb
Q3#=Q3-Qb
Q4=Qb
但し、 Q1#は電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q2#は電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Q3#は電荷蓄積部CS3に蓄積された反射光RLに応じた電荷量
Qbは電荷蓄積部CSに蓄積される外光成分に応じた電荷量
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Q3は電荷蓄積部CS3に蓄積された電荷量
Q4は電荷蓄積部CS4に蓄積された電荷量
距離演算部42は、(2)式で算出される電荷の総量QSUM、及び波形情報440に記憶された裾引割合Reを用いて、以下の(3)式により、裾引き部分の電荷量Qs(図7における領域Scに応じた電荷量)を算出する。
Qs=QSUM×Re …(3)
但し、QSUM=Q1#+Q2#+Q3#
Q1#は電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q2#は電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Q3#は電荷蓄積部CS3に蓄積された反射光RLに応じた電荷量
Reは裾引割合
但し、QSUM=Q1#+Q2#+Q3#
Q1#は電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q2#は電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Q3#は電荷蓄積部CS3に蓄積された反射光RLに応じた電荷量
Reは裾引割合
距離演算部42は、(3)式で算出される裾引き部分の電荷量Qsを、(4)式により、電荷蓄積部CS2に蓄積された電荷量Q2sと、電荷蓄積部CS3に蓄積された反射光RLに応じた電荷量Q3#に分離する。
Qs=Q2s+Q3# …(4)
但し、Q2sは電荷蓄積部CS2に蓄積された反射光RLの裾引部分に応じた電荷量
Q3#は電荷蓄積部CS3に蓄積された反射光RLに応じた電荷量
但し、Q2sは電荷蓄積部CS2に蓄積された反射光RLの裾引部分に応じた電荷量
Q3#は電荷蓄積部CS3に蓄積された反射光RLに応じた電荷量
距離演算部42は、(4)式を電荷量Q2sについて求める。裾引き部分の電荷量Qsと、電荷蓄積部CS3に蓄積された反射光RLに応じた電荷量Q3#が既知であることから、(5)式によって電荷量Q2sを算出することができる。
Q2s=Qs-Q3# …(5)
但し、Q2sは電荷蓄積部CS2に蓄積された反射光RLの裾引部分に応じた電荷量
Q3#は電荷蓄積部CS3に蓄積された反射光RLに応じた電荷量
Qsは裾引き部分の電荷量
但し、Q2sは電荷蓄積部CS2に蓄積された反射光RLの裾引部分に応じた電荷量
Q3#は電荷蓄積部CS3に蓄積された反射光RLに応じた電荷量
Qsは裾引き部分の電荷量
距離演算部42は、領域Saの面積と領域Scの面積が同一であること前提として、(6)式の通り電荷量Q1#を補正して補正後の電荷量Q1hを算出する。また、距離演算部42は、(7)式の通り電荷量Q2#を補正して補正後の電荷量Q2hを算出する。
Q1h=Q1#+Q2s …(6)
Q2h=Q2#-Q2s+Q3# …(7)
但し、Q1hは補正後の電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q1#は補正前の電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q2sは電荷蓄積部CS2に蓄積された反射光RLの裾引部分に応じた電荷量
Q2hは補正後の電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Q2#は補正前の電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Q3#は電荷蓄積部CS3に蓄積された反射光RLに応じた電荷量
Q2h=Q2#-Q2s+Q3# …(7)
但し、Q1hは補正後の電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q1#は補正前の電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q2sは電荷蓄積部CS2に蓄積された反射光RLの裾引部分に応じた電荷量
Q2hは補正後の電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Q2#は補正前の電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Q3#は電荷蓄積部CS3に蓄積された反射光RLに応じた電荷量
図10は、実施形態の距離画像処理部4が行う処理の流れを示すフローチャートである。距離演算部42は、電荷蓄積部CS1~CS3のそれぞれに蓄積された電荷量Q1~Q4を取得する(ステップS10)。距離演算部42は、取得した電荷量Q4を用いて、外光成分に応じた電荷量Qbを算出する(ステップS11)。
距離演算部42は、電荷量Q1~Q3、電荷量Qb、及び裾引割合Reを用いて、裾引成分に応じた電荷量Qsを算出する(ステップS12)。距離演算部42は、(2)式、及び(3)式に、電荷量Q1~Q3、電荷量Qb、及び裾引割合Reを代入することによって、電荷量Qsを算出する。
距離演算部42は、裾引成分に応じた電荷量のうち電荷蓄積部CS2に蓄積された電荷量Q2sを算出する(ステップS13)。距離演算部42は、(4)式、及び(5)式を用いて、電荷量Q2sを算出する。距離演算部42は、電荷量Q1#を補正した補正後の電荷量Q1hを算出し、電荷量Q2#を補正した補正後の電荷量Q2hを算出する(ステップS14)。距離演算部42は、補正後の電荷量Q1h、及びQ2hを用いて測定距離を決定する(ステップS15)。距離演算部42は、補正後の電荷量Q1hを(1)式における電荷量Q1#に代入し、補正後の電荷量Q2hを(1)式における電荷量Q2#に代入することによって遅延時間Tdを算出する。距離演算部42は、算出した遅延時間Tdに、光速(速度)を乗算させた乗算値を1/2とすることにより、測定距離を算出する。
なお、上記では、距離画像撮像装置1の画素321が四つの電荷蓄積部CS1~CS4を備える場合を例に説明した。しかしながらこれに限定されない。距離画像撮像装置1の画素321が五つ以上(例えばN個、N≧5)の電荷蓄積部CSを備える構成であってもよい。
距離画像撮像装置1の画素321がN個(N≧5)の電荷蓄積部CSを備える場合、ステップS10で、距離演算部42は、電荷蓄積部CS1~CSNのそれぞれに蓄積された電荷量Q1~QNを取得する。ステップS11で、距離演算部42は、取得した電荷量Q1~QNを用いて、外光成分に応じた電荷量Qbを算出する。距離演算部42が電荷量Qbを算出する方法は、距離画像撮像装置1の画素321が四つの電荷蓄積部CS1~CS4を備える場合と同様に、反射光RLが受光されないタイミングで電荷を蓄積した電荷蓄積部CSに蓄積された電荷量を用いる。
ステップS12で、距離演算部42は、電荷蓄積部CS1~CSNから、反射光RLに応じた電荷が(裾引き部分を含めて)振り分けて蓄積された三つの電荷蓄積部CSを選択する。距離演算部42が三つの電荷蓄積部CSを選択する方法は、例えば、連続して電荷が蓄積される三つの電荷蓄積部CSの組合せのうち、それぞれの電荷蓄積部CSに蓄積された電荷量の和が最も大きいものを、反射光RLに応じた電荷が振り分けて蓄積された三つの電荷蓄積部CSとする。距離演算部42は、反射光RLに応じた電荷が振り分けて蓄積された三つの電荷蓄積部CSのそれぞれに蓄積された電荷量、及び外光成分に応じた電荷量Qbを用いて、電荷量Qsを算出する。ステップS13~S15の処理は、距離画像撮像装置1の画素321が四つの電荷蓄積部CS1~CS4を備える場合と同様である。
或いは、距離画像撮像装置1の画素321が3個の電荷蓄積部CS1~CS3を備える構成であってもよい。この場合、距離画像撮像装置1は、1回の測定につき、外光成分に応じた電荷のみを蓄積させる処理(第1処理という)と、反射光RLを含む電荷を蓄積させる処理(第2処理という)との、2つの電荷蓄積に係る処理を行う。例えば、距離画像撮像装置1は、最初のフレームで第1処理を行い、次のフレームで第2処理を行う。第1処理を行う場合、距離画像撮像装置1は、光パルスPOを照射せずに、電荷蓄積部CS1~CS3のそれぞれに電荷を蓄積させる。第2処理を行う場合、距離画像撮像装置1は、光パルスPOを照射して、電荷蓄積部CS1~CS3のそれぞれに電荷を蓄積させる。
この場合、ステップS10で、距離演算部42は、第1処理で電荷蓄積部CS1~CS3のそれぞれに蓄積された電荷量Q1ft~Q3ftを取得する。また、距離演算部42は、第2処理で電荷蓄積部CS1~CS3のそれぞれに蓄積された電荷量Q1sd~Q3sdを取得する。ステップS11で、距離演算部42は、取得した電荷量Q1ft~Q3ftのいずれか、もしくはこれらの組合せ、を外光成分に応じた電荷量Qbとする。ステップS12で、距離演算部42は、取得した電荷量Q1sd~Q3sd、及び電荷量Qbを用いて、電荷量Q2sを算出する。距離演算部42が電荷量Q2sを算出する方法は、距離画像撮像装置1の画素321が四つの電荷蓄積部CS1~CS4を備える場合と同様である。
(実施形態の変形例)
ここで、実施形態の変形例について説明する。本変形例では、上述した実施形態と同様に、波形になまりがある反射光RLが受光されることを前提とするが、なまりによって生じた反射光RLの裾引部分に応じた電荷が、電荷蓄積部CS2に蓄積される点において、上述した実施形態と相違する。
ここで、実施形態の変形例について説明する。本変形例では、上述した実施形態と同様に、波形になまりがある反射光RLが受光されることを前提とするが、なまりによって生じた反射光RLの裾引部分に応じた電荷が、電荷蓄積部CS2に蓄積される点において、上述した実施形態と相違する。
図11は、実施形態の変形例における画素321を駆動するタイミングの例を示すタイミングチャートである。図11における「単位蓄積期間」及び「読み出し期間」については図4と同様であるため、その説明を省略する。また、図11における、「L」、「R」、「G1」~「G3」及び「GD」についても図4と同様であるため、その説明を省略する。
図11の例では、図4と同様に、光パルスPOが照射された時刻から遅延時間Td遅れて反射光RLが距離画像センサ32に受光される場合のタイミングチャートが示されている。図11では、反射光RLに応じた電荷が電荷蓄積部CS1及びCS2に振り分けて蓄積される。電荷蓄積部CS3が電荷を蓄積するタイミングでは、反射光RLが受光されることはなく、背景光などの外光成分に応じた電荷が電荷蓄積部CS3に蓄積される。
図12は、実施形態の変形例における距離画像処理部4が電荷量を補正する処理を説明する図である。図12には、図11と同様に、遅延時間Td遅れて反射光RLが距離画像センサ32に到達し、反射光RLに応じた電荷量が電荷蓄積部CS1及びCS2に振り分けて蓄積されるものとする。この場合、電荷蓄積部CS1は「第1電荷蓄積部」の一例である。電荷蓄積部CS2は「第2電荷蓄積部」の一例である。
具体的には、波形になまりがある裾引信号H20で形成される反射光RLのうち、領域Sbの一部分(領域Sb1)に応じた電荷量が電荷蓄積部CS1に蓄積されるものとする。また、領域Sbの残りの部分(領域Sb2)に応じた電荷量が電荷蓄積部CS2に蓄積されるものとする。また、領域Scに応じた電荷量が電荷蓄積部CS2に蓄積されるものとする。
電荷量を補正するにあたり、本変形例では、上述した実施形態と同様に、光パルスPOを照射する照射時間Toと、電荷蓄積部CSに電荷を蓄積させる蓄積時間Taとが同じ時間間隔であることを前提とする。また、領域Saの面積と領域Scの面積が同一であることを前提とする。
なお、図12では「G3」のタイミングチャートが省略されているが、図11と同様に読み出しゲートトランジスタG3が駆動され、外光成分に応じた電荷量が電荷蓄積部CS3に蓄積されるものとする。
距離演算部42は、電荷蓄積部CSのそれぞれに蓄積された1フレーム分の電荷量に相当する電気信号を取得する。距離演算部42は、以下の(8)式により、反射光RLに応じた電荷の総量QSUMを算出する。
QSUM=Q1#+Q2# …(8)
Q1#=Q1-Qb
Q2#=Q2-Qb
Q3=Qb
但し、 Q1#は電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q2#は電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Qbは電荷蓄積部CSに蓄積される外光成分に応じた電荷量
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Q3は電荷蓄積部CS3に蓄積された電荷量
Q1#=Q1-Qb
Q2#=Q2-Qb
Q3=Qb
但し、 Q1#は電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q2#は電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Qbは電荷蓄積部CSに蓄積される外光成分に応じた電荷量
Q1は電荷蓄積部CS1に蓄積された電荷量
Q2は電荷蓄積部CS2に蓄積された電荷量
Q3は電荷蓄積部CS3に蓄積された電荷量
距離演算部42は、(8)式で算出される電荷の総量QSUM、及び波形情報440に記憶された裾引割合Reを用いて、以下の(9)式により、裾引き部分の電荷量Qs(図12における領域Scに応じた電荷量)を算出する。
Qs=QSUM×Re …(9)
但し、QSUM=Q1#+Q2#
Q1#は電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q2#は電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Reは裾引割合
但し、QSUM=Q1#+Q2#
Q1#は電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q2#は電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Reは裾引割合
距離演算部42は、(9)式で算出される裾引き部分の電荷量Qsを、(10)式により、電荷蓄積部CS2に蓄積された電荷量Q2sとする。
Qs=Q2s …(10)
但し、Q2sは電荷蓄積部CS2に蓄積された反射光RLの裾引部分に応じた電荷量
但し、Q2sは電荷蓄積部CS2に蓄積された反射光RLの裾引部分に応じた電荷量
距離演算部42は、(9)式を電荷量Q2sについて求める。裾引き部分の電荷量Qsが既知であることから、(10)式によって電荷量Q2sを算出することができる。
Q2s=Qs …(10)
但し、Q2sは電荷蓄積部CS2に蓄積された反射光RLの裾引部分に応じた電荷量
Qsは裾引き部分の電荷量
但し、Q2sは電荷蓄積部CS2に蓄積された反射光RLの裾引部分に応じた電荷量
Qsは裾引き部分の電荷量
距離演算部42は、領域Saの面積と領域Scの面積が、計算上、同一の値として計算し、(11)式の通り電荷量Q1#を補正して補正後の電荷量Q1hを算出する。また、距離演算部42は、(12)式の通り電荷量Q2#を補正して補正後の電荷量Q2hを算出する。
Q1h=Q1#+Q2s …(11)
Q2h=Q2#-Q2s …(12)
但し、Q1hは補正後の電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q1#は補正前の電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q2sは電荷蓄積部CS2に蓄積された反射光RLの裾引部分に応じた電荷量
Q2hは補正後の電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Q2#は補正前の電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Q2h=Q2#-Q2s …(12)
但し、Q1hは補正後の電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q1#は補正前の電荷蓄積部CS1に蓄積された反射光RLに応じた電荷量
Q2sは電荷蓄積部CS2に蓄積された反射光RLの裾引部分に応じた電荷量
Q2hは補正後の電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
Q2#は補正前の電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量
上記では、距離画像撮像装置1の画素321が三つの電荷蓄積部CS1~CS3を備え、うち1つの電荷蓄積部CS3に外光成分に応じた電荷のみを蓄積させる場合を例に説明した。しかしながらこれに限定されない。距離画像撮像装置1の画素321が二つの電荷蓄積部CSを備える構成であってもよい。この場合、距離画像撮像装置1は、1回の測定につき、外光成分に応じた電荷のみを蓄積させる処理(第1処理という)と、反射光RLを含む電荷を蓄積させる処理(第2処理という)との、2つの電荷蓄積に係る処理を行う。例えば、距離画像撮像装置1は、最初のフレームで第1処理を行い、次のフレームで第2処理を行う。第1処理を行う場合、距離画像撮像装置1は、光パルスPOを照射せずに、電荷蓄積部CS1、CS2のそれぞれに電荷を蓄積させる。第2処理を行う場合、距離画像撮像装置1は、光パルスPOを照射して、電荷蓄積部CS1、CS2のそれぞれに電荷を蓄積させる。
この場合、ステップS10で、距離演算部42は、第1処理で電荷蓄積部CS1、CS2のそれぞれに蓄積された電荷量Q1ft、Q2ftを取得する。また、距離演算部42は、第2処理で電荷蓄積部CS1、CS2のそれぞれに蓄積された電荷量Q1sd、Q2sdを取得する。ステップS11で、距離演算部42は、取得した電荷量Q1ft、Q2ftのいずれか、もしくは両方を外光成分に応じた電荷量Qbとする。ステップS12で、距離演算部42は、取得した電荷量Q1sd、Q2sd、及び電荷量Qbを用いて、電荷量Q2sを算出する。距離演算部42が電荷量Q2sを算出する方法は、距離画像撮像装置1の画素321が、本変形例において三つの電荷蓄積部CS1~CS3を備える場合と同様である。
以上説明したように、実施形態の距離画像撮像装置1は、光源部2と、受光部3と、距離画像処理部4とを備える。光源部2は、被写体OBが存在する測定空間に光パルスPOを照射する。受光部3は、画素321と、垂直走査回路323(駆動回路の一例)を備える。画素321は、光電変換素子PDと、複数の電荷蓄積部CSを具備する。垂直走査回路323は、光パルスPOの照射に同期させた所定のタイミングで画素321における電荷蓄積部CSのそれぞれに電荷を振り分けて蓄積させる。距離画像処理部4は、電荷蓄積部CSのそれぞれに蓄積された電荷量を用いて被写体OBまでの測定距離を決定する。距離画像処理部4は、波形情報440を取得する。波形情報440は、測定距離を決定するまでの信号処理に用いられる矩形信号における波形のなまり度合いを示す情報である。距離画像処理部4は、取得した波形情報440に基づいて、電荷蓄積部CSのそれぞれに蓄積された電荷量(電荷量Q1#、Q2#)を、矩形信号における波形になまりがない場合に蓄積される電荷量(電荷量Q1h、Q2h)に補正する。距離画像処理部4は、補正した電荷量を用いて測定距離を決定する。
これにより、実施形態の距離画像撮像装置1は、波形がなまることに起因して誤差を含む電荷量(電荷量Q1#、Q2#)を、誤差を低減させた電荷量(電荷量Q1h、Q2h)に補正することができる。したがって、矩形信号における波形のなまりが顕著となる場合であっても、精度よく測定距離を算出することが可能となる。
また、実施形態の距離画像撮像装置1では、波形情報440は、信号H1、H2(矩形信号の一例)を時間積分することによって導出される第1面積(領域Sa+Sbの面積)に対する第2面積(領域Scの面積)の比率を示す裾引割合である。第1面積は、矩形信号H1(波形になまりがない矩形信号、「第1信号」の一例)を立上り開始時刻Trsから立下り開始時刻Tdsまで積分した積分値である。第2面積は、矩形信号H1から裾引信号H2(波形のなまりがある矩形信号、「第2信号」の一例)を減算した減算値を、立上り開始時刻Trsから立上り終了時刻Treまで積分した積分値である。或いは、第2面積は、裾引信号H2を立下り開始時刻Tdsから立下り終了時刻Tdeまで積分した積分値である。距離画像処理部4は、電荷量Q1#、及びQ2#を算出する。電荷量Q1#は、電荷蓄積部CS1(第1電荷蓄積部)に蓄積された電荷量Q1(第1電荷量)から外光成分に応じた電荷量Qbを減算した電荷量である。電荷量Q2#は、電荷蓄積部CS2(第2電荷蓄積部)に蓄積された電荷量Q2(第2電荷量)から外光成分に応じた電荷量Qbを減算した電荷量である。電荷蓄積部CS1は、反射光RLに応じた電荷量が最初に蓄積される電荷蓄積部CSである。電荷蓄積部CS2は、反射光RLに応じた電荷量が電荷蓄積部CS1の次に蓄積される電荷蓄積部CSである。距離画像処理部4は、波形情報440を用いて電荷量Q2s(第1補正電荷量)を算出する。電荷量Q2sは、電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量Q2#のうち前記矩形信号のなまりに起因して、電荷蓄積部CS1に蓄積されずに、電荷蓄積部CS2に蓄積された電荷量である。距離画像処理部4は、電荷量Q2sを用いて、例えば、(6)式や(11)式のように、電荷量Q1#を補正して電荷量Q1hを算出する。また、距離画像処理部4は、電荷量Q2sを用いて、例えば、(12)式のように、電荷量Q2#を補正して電荷量Q2hを算出する。
これにより、実施形態の距離画像撮像装置1では、波形がなまることに起因して、電荷蓄積部CS1に蓄積されずに、電荷蓄積部CS2に蓄積されてしまった電荷量Q2sを算出することができる。したがって、本来であれば電荷蓄積部CS1に蓄積されたはずの電荷量を基に戻すように補正することができ、精度よく測定距離を算出することが可能となる。
また、実施形態の距離画像撮像装置1では、画素321が三つの電荷蓄積部CS1~CS3を具備する。距離画像処理部4は、三つの電荷蓄積部CSのうち、電荷蓄積部CS1及び電荷蓄積部CS2とは異なる電荷蓄積部CS(電荷蓄積部CS3、「外光蓄積用電荷蓄積部」の一例)に、反射光RLに応じた電荷が蓄積されないように、電荷を蓄積させるタイミングを制御する。距離画像処理部4は、電荷蓄積部CS3に蓄積された電荷量を、外光成分に応じた電荷量Qbとする。これにより、実施形態の距離画像撮像装置1では、反射光RLを振り分けて蓄積させた電荷量Q1、Q2、及びQbを1フレームの中で算出することが可能となる。したがって、第1処理と第2処理とに係る2フレームにおいて蓄積及び読み出しの処理を行うことによって測定距離を決定する場合と比較して、処理時間を短くすることが可能である。
また、実施形態の距離画像撮像装置1では、画素321が三つの電荷蓄積部CS1~CS3を具備する。波形情報440は、信号H1、H2(矩形信号の一例)を時間積分することによって導出される第1面積(領域Sa+Sbの面積)に対する第2面積(領域Scの面積)の比率を示す裾引割合である。第1面積は、矩形信号H1(波形になまりがない矩形信号、「第1信号」の一例)を立上り開始時刻Trsから立下り開始時刻Tdsまで積分した積分値である。第2面積は、矩形信号H1から裾引信号H2(波形のなまりがある矩形信号、「第2信号」の一例)を減算した減算値を、立上り開始時刻Trsから立上り終了時刻Treまで積分した積分値である。或いは、第2面積は、裾引信号H2を立下り開始時刻Tdsから立下り終了時刻Tdeまで積分した積分値である。距離画像処理部4は、電荷量Q1#、Q2#、及びQ3#を算出する。電荷量Q1#は、電荷蓄積部CS1(第1電荷蓄積部)に蓄積された電荷量Q1(第1電荷量)から外光成分に応じた電荷量Qbを減算した電荷量である。電荷量Q2#は、電荷蓄積部CS2(第2電荷蓄積部)に蓄積された電荷量Q2(第2電荷量)から外光成分に応じた電荷量Qbを減算した電荷量である。電荷量Q3#は、電荷蓄積部CS3(第3電荷蓄積部)に蓄積された電荷量Q3(第3電荷量)から外光成分に応じた電荷量Qbを減算した電荷量である。電荷蓄積部CS1は、反射光RLに応じた電荷量が最初に蓄積される電荷蓄積部CSである。電荷蓄積部CS2は、反射光RLに応じた電荷量が電荷蓄積部CS1の次に蓄積される電荷蓄積部CSである。電荷蓄積部CS3は、反射光RLに応じた電荷量が電荷蓄積部CS2の次に蓄積される電荷蓄積部CSである。距離画像処理部4は、波形情報440を用いて電荷量Q2s(第1補正電荷量)を算出する。距離画像処理部4は、波形情報440を用いて電荷量Q3#(第2補正電荷量)を算出する。電荷量Q2sは、電荷蓄積部CS2に蓄積された反射光RLに応じた電荷量Q2#のうち前記矩形信号のなまりに起因して、電荷蓄積部CS1に蓄積されずに、電荷蓄積部CS2に蓄積された電荷量である。電荷量Q3#は、矩形信号のなまりに起因して、電荷蓄積部CS2に蓄積されずに、電荷蓄積部CS3に蓄積された電荷量である。距離画像処理部4は、電荷量Q2sを用いて、例えば、(6)式や(11)式のように、電荷量Q1#を補正して電荷量Q1hを算出する。また、距離画像処理部4は、電荷量Q2s、Q3#を用いて、例えば、(7)式のように、電荷量Q2#を補正して電荷量Q2hを算出する。
これにより、実施形態の距離画像撮像装置1は、波形がなまることに起因して、反射光RLに応じた電荷が蓄積されない想定であった電荷蓄積部CS3に、反射光RLに応じた電荷が蓄積された場合であっても、電荷蓄積部CS3に蓄積されてしまった電荷量Q3#を算出することができる。したがって、本来であれば電荷蓄積部CS2に蓄積されたはずの電荷量を基に戻すように補正することができ、精度よく測定距離を算出することが可能となる。
また、実施形態の距離画像撮像装置1では、画素321が四つの電荷蓄積部CS1~CS4を具備する。距離画像処理部4は、四つの電荷蓄積部CS1~CS4のうち、電荷蓄積部CS1~CS3とは異なる電荷蓄積部CS(電荷蓄積部CS4、「外光蓄積用電荷蓄積部」の一例)に、反射光RLに応じた電荷が蓄積されないように、電荷を蓄積させるタイミングを制御する。距離画像処理部4は、電荷蓄積部CS4に蓄積された電荷量を、外光成分に応じた電荷量Qbとする。これにより、実施形態の距離画像撮像装置1では、反射光RLが振り分けて蓄積される電荷量Q1、Q2、Q3及びQbを1フレームの中で算出することが可能となる。したがって、第1処理と第2処理とに係る2フレームにおいて蓄積及び読み出しの処理を行うことによって測定距離を決定する場合と比較して、処理時間を短くすることが可能である。
(実施形態の効果)
ここで、実施形態の距離画像撮像装置1における効果を、図13を用いて説明する。図13は、実施形態の効果を説明する図である。図13には、実際の距離(実距離)と測定距離との関係が示されている。図13の横軸は実距離、縦軸は測定距離を示す。ここでの距離は、被写体OBまでの距離である。図13において、黒丸で示した補正しない場合の測定距離は、例えば、(1)式に電荷量Q1~Q3を代入することによって算出される距離である。黒三角で示した補正ありの場合の測定距離は、波形情報440を用いて、例えば(6)式及び(7)式のように補正した電荷量Q1h、Q2hを用いて算出された距離である。この図に示すように、補正ありの場合における測定距離は、実距離に一致する。一方、補正なしの場合における測定距離は実距離とは一致せず、誤差を含む値となっている。すなわち、本実施形態の距離画像撮像装置1では、波形情報440を用いて測定距離を決定することにより、より実距離に近い値を算出することが可能である。
ここで、実施形態の距離画像撮像装置1における効果を、図13を用いて説明する。図13は、実施形態の効果を説明する図である。図13には、実際の距離(実距離)と測定距離との関係が示されている。図13の横軸は実距離、縦軸は測定距離を示す。ここでの距離は、被写体OBまでの距離である。図13において、黒丸で示した補正しない場合の測定距離は、例えば、(1)式に電荷量Q1~Q3を代入することによって算出される距離である。黒三角で示した補正ありの場合の測定距離は、波形情報440を用いて、例えば(6)式及び(7)式のように補正した電荷量Q1h、Q2hを用いて算出された距離である。この図に示すように、補正ありの場合における測定距離は、実距離に一致する。一方、補正なしの場合における測定距離は実距離とは一致せず、誤差を含む値となっている。すなわち、本実施形態の距離画像撮像装置1では、波形情報440を用いて測定距離を決定することにより、より実距離に近い値を算出することが可能である。
(実施形態の変形例)
図14は、実施形態の変形例における二つのタイムウィンドウの特性を説明する図である。ここでの特性は、実距離と測定距離の対応関係を示す特性である。図14の横軸は実距離、縦軸は測定距離を示す。特性L0は理想的な実距離と測定距離の関係を示している。特性L1は一つ目のタイムウィンドウにおける実距離と測定距離の関係を示している。特性L2は二つ目のタイムウィンドウにおける実距離と測定距離の関係を示している。この図の例に示すように、あるタイムウィンドウと別のタイムウィンドウでは、実距離と測定距離の対応関係が互いに異なる場合が多い。このため、あるタイムウィンドウでは精度よく補正を行うことができる波形情報440を用いて、別のタイムウィンドウの距離を補正する場合、精度よく補正できるとは限らない。
図14は、実施形態の変形例における二つのタイムウィンドウの特性を説明する図である。ここでの特性は、実距離と測定距離の対応関係を示す特性である。図14の横軸は実距離、縦軸は測定距離を示す。特性L0は理想的な実距離と測定距離の関係を示している。特性L1は一つ目のタイムウィンドウにおける実距離と測定距離の関係を示している。特性L2は二つ目のタイムウィンドウにおける実距離と測定距離の関係を示している。この図の例に示すように、あるタイムウィンドウと別のタイムウィンドウでは、実距離と測定距離の対応関係が互いに異なる場合が多い。このため、あるタイムウィンドウでは精度よく補正を行うことができる波形情報440を用いて、別のタイムウィンドウの距離を補正する場合、精度よく補正できるとは限らない。
この対策として、本変形例では、記憶部44に、タイムウィンドウごとの波形情報440を予め作成し、記憶部44に記憶させる。これにより、タイムウィンドウごとに、測定距離と実距離とのずれ(誤差)具合が異なる場合であっても、タイムウィンドウに対応する波形情報440を用いることができ、容易に、且つ、精度よく距離を算出することが可能となる。
上述した実施形態における距離画像撮像装置1、距離画像処理部4の全部または一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
1…距離画像撮像装置
2…光源部
3…受光部
32…距離画像センサ
321…画素
323…垂直走査回路
4…距離画像処理部
41…タイミング制御部
42…距離演算部
43…測定制御部
44…記憶部
440…波形情報
CS…電荷蓄積部
PO…光パルス
2…光源部
3…受光部
32…距離画像センサ
321…画素
323…垂直走査回路
4…距離画像処理部
41…タイミング制御部
42…距離演算部
43…測定制御部
44…記憶部
440…波形情報
CS…電荷蓄積部
PO…光パルス
Claims (6)
- 被写体が存在する測定空間に光パルスを照射する光源部と、
入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定のタイミングで前記画素における前記電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、
前記電荷蓄積部のそれぞれに蓄積された電荷量を用いて前記被写体までの測定距離を決定する距離画像処理部と、
を備え、
前記距離画像処理部は、前記測定距離を決定するまでの信号処理に用いられる矩形信号における波形のなまり度合いを示す波形情報を取得し、取得した前記波形情報に基づいて、前記電荷蓄積部のそれぞれに蓄積された電荷量を、前記矩形信号における波形になまりがない場合に蓄積される電荷量に補正し、前記補正した電荷量を用いて前記測定距離を決定する、
距離画像撮像装置。 - 前記波形情報は、前記矩形信号を時間積分することによって導出される第1面積に対する第2面積の比率を示す裾引割合であり、前記第1面積は波形になまりがない前記矩形信号である第1信号を立上り開始時刻から立下り開始時刻まで積分した積分値であり、前記第2面積は前記第1信号から波形のなまりがある前記矩形信号である第2信号を減算した減算値を立上り開始時刻から立上り終了時刻まで積分した積分値、又は、前記第2信号を立下り開始時刻から立下り終了時刻まで積分した積分値であり、
前記距離画像処理部は、複数の前記電荷蓄積部のうち前記光パルスが前記被写体に反射した反射光に応じた電荷量が最初に蓄積される第1電荷蓄積部と、前記第1電荷蓄積部の次に電荷が蓄積される第2電荷蓄積部について、前記第1電荷蓄積部に蓄積された第1電荷量から外光成分に応じた電荷量を減算した第1距離演算用電荷量、及び前記第2電荷蓄積部に蓄積された第2電荷量から外光成分に応じた電荷量を減算した第2距離演算用電荷量を算出し、前記波形情報を用いて前記第2距離演算用電荷量のうち前記矩形信号のなまりに起因して前記第1電荷蓄積部に蓄積されずに前記第2電荷蓄積部に蓄積された第1補正電荷量を算出し、前記第1補正電荷量を用いて前記第1距離演算用電荷量及び前記第2距離演算用電荷量を補正する、
請求項1に記載の距離画像撮像装置。 - 前記画素は、三つの前記電荷蓄積部を具備し、
前記距離画像処理部は、三つの前記電荷蓄積部のうち、前記第1電荷蓄積部及び前記第2電荷蓄積部とは異なる電荷蓄積部である外光蓄積用電荷蓄積部に前記反射光に応じた電荷が蓄積されないように、前記外光蓄積用電荷蓄積部に電荷を蓄積させるタイミングを制御し、前記外光蓄積用電荷蓄積部に蓄積された電荷量を、外光成分に応じた電荷量とする、
請求項2に記載の距離画像撮像装置。 - 前記画素は、三つの前記電荷蓄積部を具備し、
前記波形情報は、前記矩形信号を時間積分することによって導出される第1面積に対する第2面積の比率を示す裾引割合であり、前記第1面積は波形になまりがない前記矩形信号である第1信号の立上り開始時刻から立下り開始時刻まで積分した積分値であり、前記第2面積は前記第1信号から波形のなまりがある前記矩形信号である第2信号を減算した減算値を立上り開始時刻から立上り終了時刻まで積分した積分値、又は、前記第2信号を立下り開始時刻から立下り終了時刻まで積分した積分値であり、
前記距離画像処理部は、三つの前記電荷蓄積部のうち前記光パルスが前記被写体に反射した反射光に応じた電荷量が最初に蓄積される第1電荷蓄積部と、前記第1電荷蓄積部の次に電荷が蓄積される第2電荷蓄積部と、前記第2電荷蓄積部の次に電荷が蓄積される第3電荷蓄積部について、前記第1電荷蓄積部に蓄積された第1電荷量から外光成分に応じた電荷量を減算した第1距離演算用電荷量、前記第2電荷蓄積部に蓄積された第2電荷量から外光成分に応じた電荷量を減算した第2距離演算用電荷量、及び前記第3電荷蓄積部に蓄積された第3電荷量から外光成分に応じた電荷量を減算した第3距離演算用電荷量を算出し、前記波形情報を用いて前記第2距離演算用電荷量のうち前記矩形信号のなまりに起因して前記第1電荷蓄積部に蓄積されずに前記第2電荷蓄積部に蓄積された第1補正電荷量を算出し、前記波形情報を用いて前記第3距離演算用電荷量のうち前記矩形信号のなまりに起因して前記第2電荷蓄積部に蓄積されずに前記第3電荷蓄積部に蓄積された第2補正電荷量を算出し、前記第1補正電荷量を用いて前記第1距離演算用電荷量を補正し、前記第1補正電荷量及び前記第2補正電荷量を用いて前記第2距離演算用電荷量を補正する、
請求項1に記載の距離画像撮像装置。 - 前記画素は、四つの前記電荷蓄積部を具備し、
前記距離画像処理部は、四つの前記電荷蓄積部のうち、前記第1電荷蓄積部、前記第2電荷蓄積部及び前記第3電荷蓄積部とは異なる外光蓄積用電荷蓄積部に前記反射光に応じた電荷が蓄積されないように、前記外光蓄積用電荷蓄積部に電荷を蓄積させるタイミングを制御し、前記外光蓄積用電荷蓄積部に蓄積された電荷量を、外光成分に応じた電荷量とする、
請求項4に記載の距離画像撮像装置。 - 被写体が存在する測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子、及び前記電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記光パルスの照射に同期させた所定のタイミングで前記画素における前記電荷蓄積部のそれぞれに前記電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量を用いて前記被写体までの測定距離を決定する距離画像処理部と、を備える距離画像撮像装置による距離画像撮像方法であって、
前記距離画像処理部は、前記測定距離を決定するまでの信号処理に用いられる矩形信号における波形のなまり度合いを示す波形情報を取得し、取得した前記波形情報に基づいて、前記電荷蓄積部のそれぞれに蓄積された電荷量を、前記矩形信号における波形になまりがない場合に蓄積される電荷量に補正し、前記補正した電荷量を用いて前記測定距離を決定する、
距離画像撮像方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020215032A JP2022100820A (ja) | 2020-12-24 | 2020-12-24 | 距離画像撮像装置、及び距離画像撮像方法 |
PCT/JP2021/047901 WO2022138832A1 (ja) | 2020-12-24 | 2021-12-23 | 距離画像撮像装置、及び距離画像撮像方法 |
CN202180081804.7A CN116583712A (zh) | 2020-12-24 | 2021-12-23 | 距离图像摄像装置以及距离图像摄像方法 |
US18/340,932 US20230333218A1 (en) | 2020-12-24 | 2023-06-26 | Range imaging apparatus and range imaging method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020215032A JP2022100820A (ja) | 2020-12-24 | 2020-12-24 | 距離画像撮像装置、及び距離画像撮像方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022100820A true JP2022100820A (ja) | 2022-07-06 |
Family
ID=82158704
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020215032A Pending JP2022100820A (ja) | 2020-12-24 | 2020-12-24 | 距離画像撮像装置、及び距離画像撮像方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20230333218A1 (ja) |
JP (1) | JP2022100820A (ja) |
CN (1) | CN116583712A (ja) |
WO (1) | WO2022138832A1 (ja) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014208018A1 (ja) * | 2013-06-26 | 2014-12-31 | パナソニックIpマネジメント株式会社 | 測距システム |
JP6507529B2 (ja) * | 2014-08-29 | 2019-05-08 | 株式会社デンソー | 光飛行型測距装置 |
JP2019095216A (ja) * | 2017-11-17 | 2019-06-20 | アイシン精機株式会社 | 距離画像センサおよびそのキャリブレーション方法 |
US11002836B2 (en) * | 2018-05-14 | 2021-05-11 | Rockwell Automation Technologies, Inc. | Permutation of measuring capacitors in a time-of-flight sensor |
-
2020
- 2020-12-24 JP JP2020215032A patent/JP2022100820A/ja active Pending
-
2021
- 2021-12-23 WO PCT/JP2021/047901 patent/WO2022138832A1/ja active Application Filing
- 2021-12-23 CN CN202180081804.7A patent/CN116583712A/zh active Pending
-
2023
- 2023-06-26 US US18/340,932 patent/US20230333218A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
US20230333218A1 (en) | 2023-10-19 |
CN116583712A (zh) | 2023-08-11 |
WO2022138832A1 (ja) | 2022-06-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2021020496A1 (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
US20180246214A1 (en) | Solid-state imaging device, distance measurement device, and distance measurement method | |
JP7016183B2 (ja) | 距離画像撮像装置、および距離画像撮像方法 | |
CN105763788A (zh) | 用于飞行时间成像系统的校准电路及方法 | |
CN113661407A (zh) | 测量飞行时间传感器中的光学串扰的方法和对应的飞行时间传感器 | |
CN111766596A (zh) | 一种距离测量方法、系统及计算机可读存储介质 | |
CN113518930B (zh) | 距离图像传感器以及距离图像拍摄装置 | |
US11525902B2 (en) | Time-of-flight ranging device suitable for indirect time-of-flight ranging | |
US20230358863A1 (en) | Range imaging device and range imaging method | |
US11381806B2 (en) | Detection device and detection method using avalanche diode array and calibration matrix generating method thereof | |
WO2022138832A1 (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
CN116710803A (zh) | 距离图像摄像装置以及距离图像摄像方法 | |
JP2022162392A (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
JP2022112388A (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
US20210132198A1 (en) | Time-of-flight sensor and control method thereof | |
WO2023228981A1 (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
WO2023033170A1 (ja) | 距離画像撮像装置及び距離画像撮像方法 | |
WO2022158570A1 (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
JP2023147558A (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
JP2022112389A (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
JP2024082236A (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
US20230281957A1 (en) | Distance image capturing device and distance image capturing method | |
WO2020194481A1 (ja) | 距離画像センサ及び距離画像撮像装置 | |
JP2023156731A (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
JP2024014073A (ja) | 距離画像撮像装置、及び距離画像撮像方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231127 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240924 |