JP6918210B2 - 距離情報取得装置、マルチパス検出装置およびマルチパス検出方法 - Google Patents

距離情報取得装置、マルチパス検出装置およびマルチパス検出方法 Download PDF

Info

Publication number
JP6918210B2
JP6918210B2 JP2020509901A JP2020509901A JP6918210B2 JP 6918210 B2 JP6918210 B2 JP 6918210B2 JP 2020509901 A JP2020509901 A JP 2020509901A JP 2020509901 A JP2020509901 A JP 2020509901A JP 6918210 B2 JP6918210 B2 JP 6918210B2
Authority
JP
Japan
Prior art keywords
exposure
light
timing
pulse
multipath
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020509901A
Other languages
English (en)
Other versions
JPWO2019188348A1 (ja
Inventor
永田 恵
恵 永田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nuvoton Technology Corp Japan
Original Assignee
Nuvoton Technology Corp Japan
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nuvoton Technology Corp Japan filed Critical Nuvoton Technology Corp Japan
Publication of JPWO2019188348A1 publication Critical patent/JPWO2019188348A1/ja
Application granted granted Critical
Publication of JP6918210B2 publication Critical patent/JP6918210B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/487Extracting wanted echo signals, e.g. pulse detection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • G01S17/10Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4865Time delay measurement, e.g. time-of-flight measurement, time of arrival measurement or determining the exact position of a peak
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/53Control of the integration time
    • H04N25/533Control of the integration time by using differing integration times for different sensor regions

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Measurement Of Optical Distance (AREA)

Description

本開示は、TOF(Time of Flight)方式により距離を測定する距離情報取得装置、マルチパス検出装置およびマルチパス検出方法に関する。
一般に、オブジェクトからの反射光の飛行時間に基づいて距離を測定するTOFカメラシステムでは、直接反射光と間接反射光とが混在するマルチパス環境では測定誤差が大きなって測定精度が劣化する。これに対して、例えば特許文献1および非特許文献1は、マルチパスの影響を軽減するTOFカメラを提案している。
国際公開第2015/189311号
D. Freedman, E. Krupka, Y. Smolin, I. Leichter, and M. Schmidt, "SRA: Fast removal of general multipath for ToF sensors." In Proceedings of the 13th European Conference on Computer Vision (ECCV'14). 234--249
しかしながら、特許文献1のTOFカメラシステムでは、特別な専用の照明ユニットを備えるので、装置コストが高くなるという問題がある。非特許文献1のTOFカメラシステムでは、マルチパスの有無の判定するための計算量が多い、つまり処理負荷が重いという問題がある。そのため、非特許文献1によるマルチパスの有無の判定は、高い処理能力を持つPC等の計算機ではリアルタイム処理を行うことが可能だが、そうでない小型なTOFカメラシステムでのリアルタイム処理に適していないという問題がある。
本開示は、マルチパスを検出するための処理負荷を軽減し、かつ、コストを低減することができる距離情報取得装置、マルチパス検出装置およびマルチパス検出方法を提供することを目的とする。
上記課題を解決するため本開示の一態様に係る距離情報取得装置は、発光を指示する発光パルスに従って発光する発光部と、露光を指示する露光パルスに従って露光する固体撮像素子と、発光パルスと露光パルスとの組であって、発光パルスと露光パルスとの間に互いに異なる時間差を有する複数の前記組を指示するタイミング信号を生成する発光露光制御部と、前記複数の組に従う発光および露光により前記固体撮像素子から受光信号列を取得し、取得した前記受光信号列と、マルチパスのない環境下における受光信号のモデルとして予め作成された参照データとを比較し、比較結果の差異に応じてマルチパスの有無を判定するマルチパス検出部とを備える。
また、本開示の一態様に係るマルチパス検出装置は、発光を指示する発光パルスに従って発光する発光部と、露光を指示する露光パルスに従って露光する固体撮像素子とを用いてマルチパスを検出するマルチパス検出装置であって、発光パルスと露光パルスとの組であって、発光パルスと露光パルスとの間に互いに異なる時間差を有する複数の前記組を指示するタイミング信号を生成する発光露光制御部と、前記複数の組に従う発光および露光により前記固体撮像素子から受光信号列を取得し、取得した前記受光信号列と、マルチパスのない環境下における受光信号列のモデルとして予め作成された参照データとを比較し、比較結果の差異に応じてマルチパスの有無を判定するマルチパス検出部と、を備える。
さらに、本開示の一態様に係るマルチパス検出方法は、発光を指示する発光パルスに従って発光する発光部と、露光を指示する露光パルスに従って露光する固体撮像素子とを用いてマルチパスを検出するマルチパス検出方法であって、発光パルスと露光パルスとの組であって、発光パルスと露光パルスとの間に互いに異なる時間差を有する複数の前記組を指示するタイミング信号を生成し、前記複数の組に従う発光および露光により前記固体撮像素子から受光信号列を取得し、取得した前記受光信号列と、マルチパスのない環境下における受光信号列のモデルとして予め作成された参照データとを比較し、比較結果の差異に応じてマルチパスの有無を判定する。
本開示に係る距離情報取得装置、マルチパス検出装置およびマルチパス検出方法によれば、マルチパスを検出するための処理負荷を軽減し、かつ、コストを低減することができる。
図1は、比較例としての距離情報取得装置においてマルチパスが存在しない場合の測距動作を示す説明図である。 図2は、TOF方式(その1)を説明するためのタイムチャートである。 図3は、TOF方式(その2)を説明するためのタイムチャートである。 図4は、比較例の距離情報取得装置においてマルチパス環境の一例における測距動作を示す説明図である。 図5は、TOF方式(その1)におけるマルチパス環境による測定誤差を生じさせる動作を説明するためのタイムチャートである。 図6は、TOF方式(その2)におけるマルチパス環境による測定誤差を生じさせる動作例を説明するためのタイムチャートである。 図7Aは、実施の形態1に係る距離情報取得装置の構成例を示すブロック図である。 図7Bは、実施の形態1に係るマルチパス検出部の構成例を示すブロック図である。 図8Aは、実施の形態1に係るマルチパス検出部における発光露光タイミングの第1動作例を示す図である。 図8Bは、実施の形態1に係るマルチパス検出部の第1動作例における受光信号列の一例を示す図である。 図9は、実施の形態1に係るマルチパス検出部の第1動作例におけるマルチパス検出の説明図である。 図10は、実施の形態1に係るマルチパス検出部の第1動作例における補正方法を示す図である。 図11Aは、実施の形態1に係るマルチパス検出部における発光露光タイミングの第2動作例を示す図である。 図11Bは、実施の形態1に係るマルチパス検出部の第2動作例における受光信号列の一例を示す図である。 図11Cは、実施の形態1に係るマルチパス検出部の第2動作例における正規化された受光信号列の一例と参照データとを示す図である。 図12Aは、実施の形態1に係るマルチパス検出部における発光露光タイミングの第3動作例を示す図である。 図12Bは、実施の形態1に係るマルチパス検出部の第3動作例における正規化された参照データの一例を示す図である。 図13は、波形なまりを有するパルス波形を対象とする補正を示す説明図である。 図14Aは、実施の形態2に係るマルチパス検出部の第1動作例を示す図である。 図14Bは、実施の形態2に係るマルチパス検出部の第1動作例における受光信号列の一例を示す図である。 図15Aは、実施の形態2に係るマルチパス検出部の第2動作例を示す図である。 図15Bは、実施の形態2に係るマルチパス検出部の第2動作例における受光信号列の一例を示す図である。 図16は、実施の形態2に係るマルチパス検出部におけるマルチパス検出方法を示す説明図である。 図17は、実施の形態2に係るマルチパス検出部のマルチパス検出方法の一例を示すフローチャートである。 図18は、実施の形態2に係るマルチパス検出部の補正係数算出例を示す説明図である。 図19は、実施の形態2に係るマルチパス検出部の補正係数算出例を示す説明図である。 図20は、実施の形態3に係る距離情報取得装置の構成例を示すブロック図である。
(発明者の知見)
本発明者は、「背景技術」の欄において記載した照明装置に関し、以下の問題が生じることを見出した。
まず、本発明者の知見に係る距離情報取得装置を比較例として説明する。
図1は、本発明者の知見に係る比較例の距離情報取得装置の構成を示す図である。同図では、距離情報を取得する対象物である物体OBJも図示してある。同図の距離情報取得装置は、TOF方式による測距装置であり、発光露光制御部101、固体撮像素子102、および発光部104を備える。
発光露光制御部101は、発光部104に発光を指示する発光パルスを有する発光制御信号と、固体撮像素子102に露光を指示する露光パルスを有する露光制御信号とを生成する。
固体撮像素子102は、露光制御信号の露光パルスに従って露光つまり撮像する。
発光部104は、発光制御信号の発光パルスに従って発光つまり照明光を発する。
距離演算部112は、少なくとも3種類の露光処理で得られた受信信号列から画素毎に距離を算出する。
次に、比較例の距離情報取得装置の動作例として、TOF方式(その1)およびTOF方式(その2)について説明する。
図2は、TOF方式(その1)を説明するためのタイムチャートである。同図では、さらに撮像した画像例も記載してある。同図は、(2A)発光パルスを有する発光制御信号(または発光部104から照射光)と、(2B)固体撮像素子102への入射光と、(2C)露光パルスを有する露光制御信号とを示している。同図の発光パルスはハイレベルでアクティブを示す正論理であり、露光パルスはローレベルでアクティブを示す負論理である。(2B)入射光は、照射光を受けた物体OBJからの反射光と、背景光とを含む。反射光は距離情報取得装置から物体までの距離に応じて、照射光から遅延時間を有する。入射光のうち同図の黒塗り部分(1か所)およびハッチング部分(2か所)は、画素毎の受光信号に該当する。
測距のための発光露光処理は、S0露光、S1露光、およびBG露光を含む。
S0露光では、露光パルスは発光パルスの開始と同時にアクティブになる。つまり、露光は発光と同時に開始される。また、露光パルスのパルス幅は、発光パルスのハルス幅よりも長い。S0露光では、例えば、反射光のうち先頭部分または全体を露光可能である。
S1露光では、露光パルスは発光パルスの終了と同時にアクティブになる。つまり、露光は発光の終了時点に開始される。また、露光パルスのパルス幅は、発光パルスのハルス幅と同じである。S1露光では、例えば、照明光の終了後に、遅延した反射光の部分を露光可能である。
BG露光では、発光パルスがない状態で露光パルスを有効にし、反射光が存在しない背景光を露光する。
距離演算部112は、S0露光、S1露光、BG露光における画素毎の受光信号量(信号電荷量)を用いて、画素毎に距離Lを算出する。S0露光、S1露光、BG露光における画素毎の受光信号量(つまり受光により生じる信号電荷の量)S0、S1、BGとすると、画素毎の距離Lは、数式1により算出される。cは光速(約299 792 458m/s)であり、TLは発光パルスの時間幅である。
Figure 0006918210
続いて、比較例の距離情報取得装置の動作例として、TOF方式(その2)について説明する。
図3は、TOF方式(その2)を説明するためのタイムチャートである。同図は、図2と同様に(3A)発光制御信号(または発光部104から照射光)の波形と、(3B)入射光の波形と、(3C)露光制御信号の波形とを示している。図3は、図2と比べて、露光パルスの幅が発行パルスの幅と同じである点が異なっている。この場合、画素毎に距離Lは、数式2により算出される。
Figure 0006918210
このような、TOF方式(その1)およびTOF(その2)は、直接反射光と間接反射光とが混在するマルチパス環境では測定誤差発生するという問題がある。
次に、マルチパス環境下における比較例の距離情報取得装置の動作で測定誤差が生じる仕組みについて説明する。
図4は、比較例の距離情報取得装置においてマルチパス環境の一例における測距動作を示す説明図である。同図では、測距対象である物体OBJ−1、および、照射光を反射して間接照明光の原因となる物体OBJ−2も図示してある。
同図では、直接照射光D−Path1、直接反射光D−Path2、間接照射光M−Path1、M−Path2、および、間接反射光M−Path3が存在するマルチパス環境の例を示している。
図5は、TOF方式(その1)におけるマルチパス環境による測定誤差を生じさせる動作を説明するためのタイムチャートである。同図は、(5A)発光制御信号または照射光、(5B)直接反射光D−Path、(5C)間接反射光M−Path、(5D)直接反射光と間接反射光との和である混合反射光、(5E)露光制御信号とを示している。このうち、(5A)発光制御信号または照射光、(5B)直接反射光D−Path、および(5E)露光制御信号は、図2に示した(2A)発光制御信号(または照射光)、(2B)入射光、および(2C)露光制御信号と同じである。つまり、図5は、図2に対して、(5C)間接反射光M−Pathと、(5D)混合反射光とを追加した図になっている。
S0露光における受光信号量S0は、直接反射光による受光信号量D0と、間接反射光による受光信号量M0との合計になる。同様に、S1露光における受光信号量S1は、直接反射光による受光信号量D1と、間接反射光による受光信号量M1との合計になる。
TOH方式(その1)で画素毎の距離Lを求める数式1は、図5を適用すると数式3となる。ただし、背景光による受光信号量BGは0とし、無視できるほど小さいものとする。
Figure 0006918210
数式3中、間接反射光による受光信号量M0およびM1は、物体OBJ1の距離に依存せず、周辺物体に依存した値として発生するので、数式3による距離Lは物体OBJ−1からは予測不能な誤差を含むことになり、測定精度を小さく劣化させる場合も大きく劣化させる場合もある。
図6は、TOF方式(その2)におけるマルチパス環境による測定誤差を生じさせる動作を説明するためのタイムチャートである。同図は、(6A)発光制御信号または照射光、(6B)直接反射光D−Path、(6C)間接反射光M−Path、(6D)直接反射光と間接反射光との和である混合反射光、(6E)露光制御信号とを示している。図6は、図3に対して、(6C)間接反射光M−Pathと、(6D)混合反射光とを追加した図になっている。
S0露光における受光信号量S0は、直接反射光による受光信号量D0と、間接反射光による受光信号量M0との合計になる。同様に、S1露光における受光信号量S1は、直接反射光による受光信号量D1と、間接反射光による受光信号量M1との合計になる。TOH方式(その2)で画素毎の距離Lを求める数式2は、図6を適用すると数式4となる。ただし、背景光による受光信号量BGは0とし、無視できるほど小さいものとする。
Figure 0006918210
数式4中、間接反射光による受光信号量M0およびM1は、物体OBJ1の距離に依存せず、周辺物体に依存した大きさで発生するので、数式4による距離Lは物体OBJ−1からは予測不能な誤差を含むことになり、測定精度を小さく劣化させる場合も大きく劣化させる場合もある。
このように、測距精度を劣化させマルチパスに対して、上述した特許文献1のTOFカメラシステムでは、特別な専用の照明ユニットを備えるので、装置コストが高くなるという問題がある。また、非特許文献1は、マルチパスの有無の判定するための処理負荷が重いという問題がある。
そこで、本開示は、マルチパスを検出するための処理負荷を軽減し、かつ、コストを低減することができる距離情報取得装置、マルチパス検出装置およびマルチパス検出方法を提供することを目的とする。
上記問題を解決するため、本開示の一態様に係る距離情報取得装置は、発光を指示する発光パルスに従って発光する発光部と、露光を指示する露光パルスに従って露光する固体撮像素子と、発光パルスと露光パルスとの組であって、発光パルスと露光パルスとの間に互いに異なる時間差を有する複数の前記組を指示するタイミング信号を生成する発光露光制御部と、前記複数の組に従う発光および露光により前記固体撮像素子から受光信号列を取得し、取得した前記受光信号列と、マルチパスのない環境下における受光信号のモデルとして予め作成された参照データとを比較し、比較結果の差異に応じてマルチパスの有無を判定するマルチパス検出部とを備える。
また、本開示の一態様に係るマルチパス検出装置は、発光を指示する発光パルスに従って発光する発光部と、露光を指示する露光パルスに従って露光する固体撮像素子とを用いてマルチパスを検出するマルチパス検出装置であって、発光パルスと露光パルスとの組であって、発光パルスと露光パルスとの間に互いに異なる時間差を有する複数の前記組を指示するタイミング信号を生成する発光露光制御部と、前記複数の組に従う発光および露光により前記固体撮像素子から受光信号列を取得し、取得した前記受光信号列と、マルチパスのない環境下における受光信号列のモデルとして予め作成された参照データとを比較し、比較結果の差異に応じてマルチパスの有無を判定するマルチパス検出部と、を備える。
また、本開示の一態様に係るマルチパス検出方法は、発光を指示する発光パルスに従って発光する発光部と、露光を指示する露光パルスに従って露光する固体撮像素子とを用いてマルチパスを検出するマルチパス検出方法であって、発光パルスと露光パルスとの組であって、発光パルスと露光パルスとの間に互いに異なる時間差を有する複数の前記組を指示するタイミング信号を生成し、前記複数の組に従う発光および露光により前記固体撮像素子から受光信号列を取得し、取得した前記受光信号列と、マルチパスのない環境下における受光信号列のモデルとして予め作成された参照データとを比較し、比較結果の差異に応じてマルチパスの有無を判定する。
これによれば、マルチパスを検出するための処理負荷を軽減し、かつ、コストを低減することができる。
以下、本発明の実施の形態について、図面を用いて詳細に説明する。
なお、以下で説明する実施の形態は、いずれも本発明の一包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
(実施の形態1)
[1.1 距離情報取得装置100の構成例]
図7Aは、実施の形態1に係る距離情報取得装置100の構成例を示すブロック図である。同図では、距離情報を取得する対象物である物体OBJ、照射光、反射光も模式的に図示してある。
同図の距離情報取得装置100は、TOF方式による測距装置であり、発光露光制御部101、固体撮像素子102、信号処理部103および発光部104を備える。発光部104は、光源駆動部114および光源115を備える。また、同図のうち発光露光制御部101およびマルチパス検出部111を含む回路部分は、マルチパスの有無を判定するマルチパス検出装置110に相当する。
発光露光制御部101は、マルチパス検出動作および通常の測距動作において、発光と露光を指示するタイミング信号を生成する。具体的には、発光露光制御部101は、マルチパス検出動作において、発光部104に発光を指示する発光パルスと固体撮像素子102に露光を指示する露光パルスとの組であって、発光パルスと露光パルスとの間に互いに異なる時間差を有する複数の前記組を指示するタイミング信号を生成する。このタイミング信号は、例えば、発光部104に発光を指示する発光パルスを有する発光制御信号と、固体撮像素子102に露光を指示する露光パルスを有する露光制御信号とを含む。また、発光露光制御部101は、通常の測距動作において、図2に示したTOF方式(その1)の(2A)発光制御信号と(2C)露光制御信号とを生成し、あるいは、図3に示したTOF方式(その2)の(3A)発光制御信号と(3C)露光制御信号とを生成する。
固体撮像素子102は、2次元上に配列された画素を有するイメージセンサであって、露光制御信号の露光パルスに従って露光つまり撮像する。
信号処理部103は、マルチパス検出部111および距離演算部112を備える。
マルチパス検出部111は、マルチパス検出動作を次のように行う。すなわち、マルチパス検出部111は、上記のタイミング信号が指示する複数の組に従う発光および露光により固体撮像素子102から受光信号列を取得し、取得した受光信号列と、マルチパスのない環境下における受光信号のモデルとして予め作成された参照データとを比較し、比較結果の差異に応じてマルチパスの有無を判定する。さらに、マルチパス検出部111は、マルチパスが存在する判定した場合は、画素毎に補正係数を算出し、算出した補正係数を距離演算部112に出力する。
距離演算部112は、マルチパス検出部111によってマルチパスが存在しないと判定された場合は、図2に示したTOF方式(その1)、または図3に示したTOF方式(その2)によって画素毎の距離Lを算出し、距離画像を生成する。また、距離演算部112は、マルチパス検出部111によってマルチパスが存在する判定された場合は、図2に示したTOF方式(その1)、または図3に示したTOF方式(その2)によって画素毎の距離Lを算出し、さらに、補正係数を用いて距離Lを補正して距離画像を生成する。
なお、信号処理部103は、マイクロコンピュータ、マイクロコントローラまたはDSP(Digital Signal Processor)により構成してもよい。マイクロコンピュータ、マイクロコントローラ、またはDSP(Digital Signal Processor)は、マルチパス検出用のプログラムを格納するメモリと、プログラムを実行するCPU(Central Processing Unit)とを備える。
発光部104は、光源駆動部114と光源115を備える。光源駆動部114は、発光制御信号の発光パルスに従って光源115を発光させる。光源115は、光源駆動部114に制御に従って照明光を出力する。照明光は、発光パルスと同じタイミングのパルス状であり、例えば近赤外線でよい。
[1.2 マルチパス検出部111の構成例]
次に、マルチパス検出部111の構成例について説明する。
図7Bは、実施の形態1に係るマルチパス検出部111の構成例を示すブロック図である。同図のマルチパス検出部111は、タイミング指示部701、信号蓄積部702、リファレンス保持部703、信号比較部704および補正係数算出部705を備える。
タイミング指示部701は、発光パルスと露光パルスとの組であって、発光パルスと露光パルスとの間に互いに異なる時間差を有する複数の組を指示するタイミング信号を生成する。
複数の組は、上記の時間差の小さい方から順に第1組から第N(Nは整数)組を含む。タイミング指示部701は、例えば、第1組から第N組の順に、または、第Nから第1の順に時系列的に指示するタイミング信号を生成し、発光露光制御部101に出力する。あるいは、タイミング指示部701は、第1組から第N組の順に、または、第Nから第1の順に時系列的に指示するタイミング信号を生成し、発光露光制御部101に出力する。あるいは、タイミング指示部701は、前記時間差が小さい方から順に選んだ1組と、前記時間差が大きい方から順に選んだ1組とが交互になるように前記タイミング信号を生成し、発光露光制御部101に出力してもよい。
信号蓄積部702は、タイミング信号に指示された複数の組に従う発光および露光によって固体撮像素子102から複数の受光信号を取得し、受光信号列として蓄積する。受光信号列は、第1組から第N組に対応する第1受光信号から第N受光信号を含む。
リファレンス保持部703は、マルチパスのない環境下における受光信号のモデルとして予め作成された参照データを記憶する。参照データは、シミュレーションにより、または実験的に作成され、例えば、直接反射光が存在し間接反射光が存在しない環境を想定し、当該マルチパスのない環境において、上記のタイミング信号が指示する複数の組に従って発光および露光をしたときに得られる受信信号列をモデルとする。参照データは、受信信号列、または、受信信号列の特徴量を示すスカラー値で表される。また、参照データは受信信号の最大値を1とする正規化がなされていてもよい。
信号比較部704は、信号蓄積部702に蓄積された受光信号列と、リファレンス保持部703に保持された参照データとを比較し、比較結果の差異に応じてマルチパスの有無を判定する。
補正係数算出部705は、信号比較部704によりマルチパスが存在すると判定したときに、信号比較部704による比較結果の差異に応じた画素毎の補正係数を算出する。
[1.3 マルチパス検出の第1動作例]
以上のように構成された実施の形態1における距離情報取得装置100について、まず、マルチパス検出の第1動作例について説明する。
図8Aは、実施の形態1に係るマルチパス検出部における発光露光タイミングの第1動作例を示す図である。
まず、同図の(8A)から(8G)に示す信号波形について説明する。(8A)から(8G)に示す信号波形は、必ずしも同じ時間軸上の波形とは限らず、説明の便宜上異なる時間軸の波形を混在させて記載してある。同図に示す各種タイミングは、現実の時刻に限らず、仮想的または論理的な時刻でもある。例えば、露光タイミングts1は、信号蓄積部702に蓄積される受光信号の仮想的な時刻でもある。
(8A)は、タイミング指示部701によって生成されるタイミング信号としての発光制御信号に含まれる発光パルス、または、当該発光パルスによる光源115からの照射光を示す。この発光パルスまたは照射光のタイミングを発光タイミングtl1とする。また、この発光パルスのパルス幅または照射光のパルス幅をTLとする。発光パルスは正論理であり、ハイレベル区間で発光に対応し、ローレベル区間で消灯に対応する。この発光パルスは、タイミング指示部701により指示される第1組から第N組までのN個の組に含まれるN個の発光パルスを代表的に示している。
(8B)は、(8A)の照射光が当たった物体OBJからの直接反射光と間接反射光とを含む混合反射光の一例を模式的に示す。
(8C)は、タイミング指示部701によって生成されるタイミング信号としての露光制御信号に含まれる露光パルスであり、第1組の露光パルスを示す。この露光パルスのタイミングを露光タイミングts1とする。この露光パルスのパルス幅をTSとする。露光パルスは負論理であり、ローレベル区間で露光(つまり撮像)に対応し、ハイレベル区間で非露光に対応する。言い換えれば、露光パルスのローレベル区間において固体撮像素子102は画素毎に受光量に応じた受光信号を発生する。
(8D)は、第2組の露光パルスを示す。この露光パルスのタイミングを露光タイミングts2とする。
(8E)は、第n組の露光パルスを示す。この露光パルスのタイミングを露光タイミングtsnとする。nは、1からNまでの何れかの整数である。Nは上記の第1組から第N組までの複数の組の個数である。
(8F)は、第N組の露光パルスを示す。この露光パルスのタイミングを露光タイミングtseとする。
(8G)は、第1組から第N組に含まれるN個の露光パルスの開始タイミングの間隔を示す。図8Aでは、直近の2つの露光パルスの開始タイミングにはΔtの時間差がある。つまり、露光タイミングts1、ts2、・・・、tsn、・・・、tseは、一定の時間間隔Δtを有する。
タイミング指示部701が生成するタイミング信号に指示される複数の組のうち、第1組は(8A、8C)に対応する。ここで(8A、8C)の表記は、発光タイミングtl1の発光パルス(8A)と、露光タイミングts1の露光パルス(8C)との組を意味する。同様に、第2組は(8A、8D)に対応する。また、第n組(nを1からNまでの何れかの整数)は(8A、8E)に対応する。第N組は、(8A、8F)に対応する。
タイミング指示部701は、第1組から第N組の順に、または、第N組から第1組の順に、時系列的に指示するタイミング信号を生成し、発光露光制御部101に出力する。
図8Bは、実施の形態1に係るマルチパス検出部の第1動作例における受光信号列の一例を示す図である。この受光信号列は、第1組から第N組までの複数の組に従う発光および露光により固体撮像素子102から出力され、信号蓄積部702に蓄積される受光信号列を示す。同図の横軸は時間軸を示し、(8G)の露光タイミング間隔に対応する。縦軸は、露光により画素で発生した信号電荷量である受光量を示す。同図のプロット点P811は、第1組に対応し、(露光タイミング、受光量)が(ts1、A1)であることを意味する。プロット点P812は、第2組に対応し、(露光タイミング、受光量)が(ts2、A2)であることを意味する。プロット点P81nは、第n組に対応し、(露光タイミング、受光量)が(tsn、An)であることを意味する。
さらに、図8Aの第1動作例におけるタイミング指示部701の発光露光タイミング指示方法の一例について具体的に説明する。このタイミング指示方法は複数の組における発光タイミングに対する露光タイミングを順次変更していく方法である。タイミング指示部701は発光露光制御部101に対して第1組のタイミングとして、照射光の発光パルス幅TLと発光タイミングtl1と、固体撮像素子102の露光パルス幅TSと露光タイミングts1を指示する。露光タイミングts1は、発光パルス幅TLと発光タイミングtl1により発光部104の照射光に対応するマルチパス成分が混在した混合反射光801の反射タイミングよりも前に設定する。第1組のタイミングの設定により受光した受光量A1は信号蓄積部702に蓄積される。具体的には、信号蓄積部702において、横軸を露光タイミング、縦軸を受光量として、露光タイミングts1、受光量A1としてP811としてプロットされる。
第2組のタイミングでは、第1組のタイミングと同じ、照射光の発光パルス幅TLと発光タイミングtl1と、固体撮像素子の露光パルス幅TSを指示し、第1組のタイミングと異なる露光タイミングts2への変更を指示する。露光タイミングts2は露光タイミングts1からずらし量として時間差Δt遅らせたタイミングであり、以下の式で表す。
Figure 0006918210
第2組のタイミング設定による受光した受光量A2は信号蓄積部702に蓄積される。信号蓄積部702において、露光タイミングts2、受光量A2としてP812としてプロットされる。
上記のような、タイミングの変更は、第1組から第N組までのN回の発光および露光において(N−1)回繰り返される。第n組(nは1からNのいずれかの整数)のタイミングでは、第1組のタイミングと同じ、照射光の発光パルス幅TLと発光タイミングtl1と、固体撮像素子120の露光パルス幅TSを指示し、第1組のタイミングと異なる露光タイミングtsnへの変更を指示する。露光タイミングtsnは、以下の式で表す。
Figure 0006918210
第nのタイミング設定による受光した受光量Anは信号蓄積部702に蓄積される。信号蓄積部702において、露光タイミングtsn、受光量AnとしてP81nとしてプロットされる。
最後の第N組の露光タイミングtseは混合反射光801の反射タイミングよりも後に設定する。光速をc、最大測距範囲をDmaxとすると、tseは以下を満たせばよい。
Figure 0006918210
最大測距範囲Dmaxは照射光に対する反射光が受光できる最大の距離を意味する。
図8AではΔtを等間隔で示したが、これに限定されない。Δtは小さい程精度よくマルチパスを検出できる反面、Δtが細かい程測定に時間がかかる。Δtをマルチパス検出に重要な混合反射光801より早いタイミングの周辺と、混合反射光801の遅いタイミングの周辺のみΔtを小さく設定し、その間の中間データ部分はΔtを大きく設定することによりマルチパス検出精度を維持したまま測定時間を短縮できる。また、Δtの間隔が空いた部分は線形補完により推定することができる。
次に、第1動作例における信号比較部704によるマルチパス検出、つまりマルチパスの有無の判定方法について説明する。
図9は、実施の形態1に係るマルチパス検出部の第1動作例におけるマルチパス検出の説明図である。図9では受光量、正規化受光量を直線で表すが、これは点の集合だけでもよいし、点が疎であれば線形補完で点と点の間のデータを生成するものであってもよい。
信号蓄積部702は、タイミング指示部701で指示された第1組から第N組までのタイミング毎に受光量を蓄積した折れ線L901をもつ。信号蓄積部702は、受光量の最大値Amaxも同時に計測する。
リファレンス保持部703は、マルチパスの影響を受けない条件でタイミング指示部701にて指示されたタイミング毎に受光量を蓄積し、蓄積した受光量の最大値で正規化したリファレンステーブルを参照データとして保持する。参照データは、折れ線L902をもつ。参照データは、実測またはシミュレーションにより、予め作成される。
信号比較部704は、第1に蓄積値L901の立ち上がりから立下りの期間である蓄積期間TAを計測する。第2に、信号比較部704は、リファレンステーブルの折れ線L902の立ち上がりから立下りの期間であるリファレンス期間TRを計測する。リファレンス期間TRはリファレンステーブルを作成した時点で下記の式でわかるので、別途保持しておいてもよい。
Figure 0006918210
第3に、信号比較部704は、蓄積期間TAとリファレンス期間TRを比較する。マルチパスが発生した場合、混合反射光のパルス幅が太くなるので、蓄積期間TAの方がリファレンス期間TRより大きくなるため、信号比較部704は、TA>TRのとき、マルチパスが発生していると判定する。このようにマルチパスの影響を受けていないリファレンステーブルを持ち、実測した蓄積値との比較を行うという処理負荷の少ない方法でマルチパスを検出できる。
なお、参照データは、図9の折れ線L902を示すデータであってもよいし、上記のリファレンス期間TR(=TL+TS)であってもよい。リファレンス期間TRは、発光パルスのパルス幅TLと露光パルスのハルス幅TSとの和で定まる。
次に、信号比較部704によりマルチパスが発生すると判定された場合に、補正係数算出部705による補正係数の算出について説明する。
図10は、実施の形態1に係るマルチパス検出部111の第1動作例における補正方法を示す図である。信号比較部704にてマルチパスが発生していると判定された場合、補正係数算出部705は、図10に示す補正方法で補正係数Cを算出する。補正係数算出部705は、第1に信号蓄積部702で蓄積されたデータを受光量最大値Amaxにより用いて正規化受光量に変換する。具体的には蓄積値L901が正規化蓄積値L1001となる。第2に、補正係数算出部705は、正規化蓄積値L1001の立ち上がりtuを検出し、リファレンステーブルL902の立ち上がりタイミングをtu合わせたリファレンステーブルL1002へ変換する。第3に、補正係数算出部705は、距離測定用として定められた露光タイミングtsの位置の、正規化蓄積値aとリファレンス値aを求める。蓄積値をマルチパスの除去された値へ補正する補正係数Cは以下で算出する。
Figure 0006918210
この補正係数Cは、マルチパスによって受光量が誤ってa/a倍になっているのを、マルチパスのない本来の受光量に戻すことができる。
距離測定用露光タイミングtdで受光した受光量S0、S1からマルチパス成分が除去された補正受光量S_C0、S_C1へ変換するには以下の式で補正する。
Figure 0006918210
Figure 0006918210
補正係数C_0および補正係数C_1は、図2および図5に示したTOF方式(その1)の場合、距離測定用露光タイミングが2種類あるため、2種類の距離測定用露光タイミングの位置のそれぞれで数式9に従って補正係数C_0、補正系数C_1を算出する。
距離演算部112はマルチパス検出部111から出力された補正係数をもとに補正された信号に基づき距離を計算する。これにより軽量な補正方法で良好な距離精度の距離画像が取得可能となる。
[1.4 マルチパス検出の第2動作例]
次に、実施の形態1における距離情報取得装置100についてマルチパス検出の第2動作例について説明する。
図11Aは、実施の形態1に係るマルチパス検出部における発光露光タイミングの第2動作例を示す図である。
まず、同図の(11A)から(11G)に示す信号波形について説明する。(11A)から(11G)に示す信号波形は、必ずしも同じ時間軸上の波形とは限らず、説明の便宜上異なる時間軸の波形を混在させて記載してある。
(11A)は、タイミング指示部701によって生成されるタイミング信号としての発光制御信号に含まれる発光パルス、または、当該発光パルスによる光源115からの照射光を示す。この発光パルスまたは照射光のタイミングを発光タイミングtl1とする。また、この発光パルスのパルス幅または照射光のパルス幅をTLとする。この発光パルスは、タイミング指示部701により指示される第1組から第N組までのN個の組に含まれる半数(例えば奇数番目組のN/2個)の発光パルスを代表的にて示している。
(11B)は、タイミング指示部701によって生成されるタイミング信号としての発光制御信号に含まれる発光パルス、または、当該発光パルスによる光源115からの照射光を示す。この発光パルスまたは照射光のタイミングを発光タイミングtl2とする。また、この発光パルスのパルス幅または照射光のパルス幅をTLとする。発光パルスは正論理であり、ハイレベル区間で発光に対応し、ローレベル区間で消灯に対応する。この発光パルスは、N個の発光パルスのうち、(11A)の残りの半数(例えば偶数番目の組のN/2個)の発光パルスを代表的に示している。
(11C)は、(11A)の照射光が当たった物体OBJからの直接反射光と間接反射光とを含む混合反射光の一例を模式的に示す。
(11D)は、(11B)の照射光が当たった物体OBJからの直接反射光と間接反射光とを含む混合反射光の一例を模式的に示す。
(11E)は、タイミング指示部701によって生成されるタイミング信号としての露光制御信号に含まれる露光パルスであり、例えば、第1組の露光パルスと第2組の露光パルスとを代表的に示す。この露光パルスのタイミングを露光タイミングts1とする。この露光パルスのパルス幅をTSとする。
(11F)は、タイミング指示部701によって生成されるタイミング信号としての露光制御信号に含まれる露光パルスであり、例えば、第3組の露光パルスと第4組の露光パルスとを代表的に示す。この露光パルスのタイミングを露光タイミングts2とする。この露光パルスのパルス幅をTSとする。
(11G)は、タイミング指示部701によって生成されるタイミング信号としての露光制御信号に含まれる露光パルスであり、例えば、第(N−1)組の露光パルスと第N組の露光パルスとを代表的に示す。この露光パルスのタイミングを露光タイミングtseとする。この露光パルスのパルス幅をTSとする。
(11H)は、露光パルスの開始タイミングの間隔を示す。露光タイミングts1は、実際には異なる時間で露光する第1組と第2組に対応し、信号蓄積部702に受光信号を蓄積するための便宜上の同一のタイミングとして扱う。露光タイミングts2、・・・、tseも同様に2組の露光を対応させている。
図11Aでは、奇数番目の露光パルス同士の開始タイミングにはΔtの時間差がある。偶数番目の露光パルス同士の開始タイミングにはΔtの時間差がある。奇数番目の組と、その次の偶数番目の組とは便宜上同じ露光タイミングとみなしてしている。
タイミング指示部701が生成するタイミング信号に指示される複数の組のうち、例えば、第1組は(11A、11E)に対応する。第2組は(11B、11E)に対応する。第3組は(11A、11F)に対応する。第4組は(11B、11F)に対応する。同様に、第(Nー1)組は、(11A、11G)に対応する。第N組は、(11B、11G)に対応する。
タイミング指示部701は、第1組から第N組の順に、または、第N組から第1組の順に、時系列的に指示するタイミング信号を生成し、発光露光制御部101に出力する。
図11Bは、実施の形態1に係るマルチパス検出部の第2動作例における受光信号列の一例を示す図である。この受光信号列は、第1組から第N組までの複数の組に従う発光および露光により固体撮像素子102から出力され、信号蓄積部702に蓄積される受光信号列を示す。奇数番目の組(同図の黒丸印)と、その次の偶数番目の組(同図の白丸印)とは便宜上同じ露光タイミングとみなしてプロットされている。
同図の横軸は時間軸を示し、(8G)の露光タイミング間隔に対応する。縦軸は、露光により画素で発生した信号電荷量である受光量を示す。同図のプロット点P1111は、第1組に対応し、(露光タイミング、受光量)が(ts1、A11)であることを意味する。プロット点P1112は、第2組に対応し、(露光タイミング、受光量)が(ts1、A12)であることを意味する。
さらに、図11Aの第2動作例のおけるTOF方式(その2)対応の場合のタイミング指示部701のタイミング指示方法の一例について具体的に説明する。タイミング指示部701は発光露光制御部101に対して第1組のタイミングとして、照射光の発光パルス幅TLと発光タイミングtl1と、固体撮像素子102の露光パルス幅TSと露光タイミングts1を指示する。露光タイミングts1は、発光パルス幅TLと発光タイミングtl1により発光部104の照射光に対応するマルチパス成分が混在した混合反射光1101反射タイミングの早く返ってくる反射光よりも前に設定する。図11Aでは混合反射光1102の方が早く反射光が返ってくるので、混合反射光1102よりも前のタイミングを設定する。第1組のタイミングの設定により受光した発光タイミングtl1での照射光に対応する反射光の受光量A11は信号蓄積部702に蓄積される。具体的には、信号蓄積部702において、横軸露光タイミング、縦軸を受光量として、露光タイミングts1、受光量A11としてP1111がプロットされる。
タイミング指示部701は発光露光制御部101に対して第2組のタイミングとして、照射光の発光パルス幅TLと発光タイミングtl2と、固体撮像素子の露光パルス幅TSと露光タイミングts1を指示する。露光タイミングts1は、発光パルス幅TLと発光タイミングtl2により発光部104の照射光に対応するマルチパス成分が混在した混合反射光1102の反射タイミングの早く返ってくる反射光よりも前に設定する。図11Aでは混合反射光1102の方が早く反射光が返ってくるので、混合反射光1102よりも前のタイミングを設定する。第2組のタイミングの設定により受光した発光タイミングtl2での照射光に対応する反射光の受光量A12は信号蓄積部702に蓄積される。具体的には、信号蓄積部702において、横軸露光タイミング、縦軸を受光量として、露光タイミングts1、受光量A12としてP1112がプロットされる。
露光タイミングの変更は(N−1)回繰り返される。奇数番目の第n組のタイミングでは、第1組のタイミングと同じ、照射光の発光パルス幅TLと発光タイミングtl1と、固体撮像素子102の露光パルス幅TSを指示し、第1組のタイミングと異なる露光タイミングtsnへの変更を指示する。偶数番目の第n組のタイミングでは、第2組のタイミングと同じ、照射光の発光パルス幅TLと発光タイミングtl2と、固体撮像素子102の露光パルス幅TSを指示し、第2組のタイミングと異なる露光タイミングtsnへの変更を指示する。露光タイミングtsnは、奇数番目の組とその次の偶数番目の組とに対応し、以下の式で表す。
Figure 0006918210
第n組(奇数番目の組とその次の偶数番目の組)のタイミング設定による受光した受光量An1、An2は信号蓄積部702に蓄積される。信号蓄積部702において、露光タイミングtsn、受光量An1、An2としてプロットされる。
最後の露光タイミングtseは、混合反射光1101、1102の早く返ってくる方の反射タイミングよりも後に設定する。図11Aにおいては混合反射光1102の反射タイミングよりあとに設定すればよい。光速c、最大測距範囲Dmaxとすると、tseは以下を満たせばよい。
Figure 0006918210
最大測距範囲Dmaxは照射光に対する反射光が受光できる最大の距離を意味する。
図11Cは、実施の形態1に係るマルチパス検出部の第2動作例における正規化された受光信号列の一例と参照データとを示す図である。
本タイミングのリファレンス保持値と蓄積値の関係は、発光タイミングtl1のリファレンステーブルL1121、発光タイミングtl2のリファレンステーブルL1122、発光タイミングtl1の正規化蓄積値L1131、発光タイミングtl1の正規化蓄積値はL1132として示されている。補正係数を算出する距離測定用露光タイミングはtdの1種類で、この1種類から補正係数C0はL1121とL1131から、補正係数C1はL1122とL1131からそれぞれ(数式9)により算出できる。
[1.5 マルチパス検出の第3動作例]
次に、実施の形態1における距離情報取得装置100についてマルチパス検出の第3動作例について説明する。
図12Aは、実施の形態1に係るマルチパス検出部における発光露光タイミングの第2動作例を示す図である。
まず、同図の(12A)から(12F)に示す信号波形について説明する。(12A)から(12F)に示す信号波形は、必ずしも同じ時間軸上の波形とは限らず、説明の便宜上異なる時間軸の波形を混在させて記載してある。
(12A)は、タイミング指示部701によって生成されるタイミング信号としての発光制御信号に含まれる発光パルス、または、当該発光パルスによる光源115からの照射光を示す。この発光パルスまたは照射光のタイミングを発光タイミングtl1とする。また、この発光パルスのパルス幅または照射光のパルス幅をTLとする。この発光パルスは、タイミング指示部701により指示される第1組の発光パルスを示している。
(12B)は、(12A)の照射光が当たった物体OBJからの直接反射光と間接反射光とを含む混合反射光の一例を模式的に示す。
(12C)は、タイミング指示部701によって生成されるタイミング信号としての発光制御信号に含まれる発光パルス、または、当該発光パルスによる光源115からの照射光を示す。この発光パルスまたは照射光のタイミングを発光タイミングtleとする。また、この発光パルスのパルス幅または照射光のパルス幅をTLとする。この発光パルスは、タイミング指示部701により指示される第N組の発光パルスを示している。
(12D)は、(12C)の照射光が当たった物体OBJからの直接反射光と間接反射光とを含む混合反射光の一例を模式的に示す。
(12E)は、タイミング指示部701によって生成されるタイミング信号としての露光制御信号に含まれる露光パルスであり、例えば、第1組から第N組の露光パルスを代表的に示す。この露光パルスのパルス幅をTSとする。
(12F)は、発光パルスによる照射タイミングの間隔を示す。発光タイミングtl1、・・・、tleは、第1組、・・・、第N組に対応し、信号蓄積部702に受光信号を蓄積するための便宜上のタイミングとして扱う。
図12Aでは、露光パルスの露光タイミングtsに対して、第1組から第N組の発光パルスの発光タイミングtl1、・・・、tleが少しずつずれていくように設定される。
タイミング指示部701が生成するタイミング信号に指示される複数の組のうち、例えば、第1組は(12A、12E)に対応する。第N組は(12C、12E)に対応する。
タイミング指示部701は、第1組から第N組の順に、または、第N組から第1組の順に、時系列的に指示するタイミング信号を生成し、発光露光制御部101に出力する。
図12Bは、実施の形態1に係るマルチパス検出部の第3動作例における正規化された参照データの一例を示す図である。同図の横軸は時間軸を示し、(12F)の照射タイミングに対応する。縦軸は、発光タイミングtl1、・・・、tle毎の正規化された受光量であって、マルチパスのない環境下に対応する受光量を示す。
さらに、図12Aの第3動作例におけるタイミング指示部701の発光露光タイミング指示方法の一例について説明する。このタイミング指示方法は、複数の組における露光タイミングに対する発光タイミングを順次変更する方法である。タイミング指示部701は発光露光制御部101に対して第1組のタイミングとして、照射光の発光パルス幅TLと発光タイミングtl1と、固体撮像素子102の露光パルス幅TSと露光タイミングts1を指示する。発光タイミングtl1は、発光パルス幅TLと発光タイミングtl1により発光部104の照射光に対応するマルチパス成分が混在した混合反射光1201の反射タイミングよりも後に露光タイミングts1がくるように設定する。第1組のタイミングの設定により受光した受光量A1は信号蓄積部702に蓄積される。
第nのタイミングでは、照射光の発光パルス幅TLと発光タイミングtl1と、固体撮像素子102の露光パルス幅TSと露光タイミングtsを指示する。発光タイミングtl1は、発光パルス幅TLと発光タイミングtl1により発光部104の照射光に対応するマルチパス成分が混在した混合反射光1201の反射タイミングよりも後に露光タイミングts1がくるように設定する。第1のタイミングの設定により受光した受光量A1は信号蓄積部702に蓄積される。
第n組のタイミングでは、第1組のタイミングと同じ、照射光の発光パルス幅TL、固体撮像素子102の露光パルス幅TSと露光タイミングtsを指示し、第1のタイミングと異なる発光タイミングtlnへの変更を指示する。露光タイミングtlnは、以下の式で表す。
Figure 0006918210
第n組のタイミング設定による受光した受光量Anは信号蓄積部702に蓄積される。信号蓄積部702において、発光タイミングtln、受光量Anとしてプロットされる。
最後の発光タイミングtseは、混合反射光120eの反射タイミングが露光タイミングよりも後になるように設定する。光速c、最大測距範囲Dmaxとすると、tleは以下を満たせばよい。
Figure 0006918210
最大測距範囲Dmaxは照射光に対する反射光が受光できる最大距離である。
なお、第3動作例における補正係数は、図10と同様にして数式9から算出される。
次に、上記の第1動作例から第3動作例において、照射光および反射光の波形なまりがある場合の補正について説明する。
図13は、波形なまりを有するパルス波形を対象とする補正を示す説明図である。ここまではパルス波形を矩形波であるものとして説明してきたが、実デバイスによる波形は例えば図13の(a)、(c)のような鈍った波形になる。このように鈍った波形においても、マルチパス検出動作と測距動作とを処理できる。例えば図13の(b)のリファレンステーブル(つまり参照データ)は1301のようになり、リファレンス幅TR=TL1+TS1により計算できる。またリファレンステーブルはあらかじめ測定したリファレンス値を拡大縮小してもよい。例えば、もとの発光パルス幅TL1で露光パルス幅がTS1で、変更したい発光パルス幅TL2で露光パルス幅TS2である場合、以下の補正式で図13の(d)のように横軸を拡大または縮小する。
Figure 0006918210
なお、リファレンステーブルは、第1動作例から第3動作例の何れかによる発光および露光の複数の組を、間接反射波が環境をシミュレートにより予め作成してもよいし、実測により予めしてもよい。
以上説明してきたように実施の形態1に係る距離情報取得装置100は、発光を指示する発光パルスに従って発光する発光部104と、露光を指示する露光パルスに従って露光する固体撮像素子102と、発光パルスと露光パルスとの組であって、発光パルスと露光パルスとの間に互いに異なる時間差を有する複数の前記組を指示するタイミング信号を生成する発光露光制御部101と、前記複数の組に従う発光および露光により前記固体撮像素子から受光信号列を取得し、取得した前記受光信号列と、マルチパスのない環境下における受光信号列のモデルとして予め作成された参照データとを比較し、比較結果の差異に応じてマルチパスの有無を判定するマルチパス検出部111と、を備える。
これによれば、マルチパスを検出するための処理負荷を軽減し、かつ、コストを低減することができる。
ここで、前記複数の組の数は、6以上であってもよい。
ここで、前記複数の組における発光パルスと露光パルスとの時間差は、一定時間ずつ異なっていてもよい。
ここで、前記発光露光制御部101は、前記複数の組において発光パルスのタイミングに対して露光パルスのタイミングを変化させてもよい。
ここで、前記発光露光制御部101は、前記複数の組において露光パルスのタイミングに対して発光パルスのタイミングを変化させてもよい。
ここで、前記露光パルスの幅TSは前記発光パルスの幅TL以上であってもよい。
ここで、前記複数の組は、第1組から第N(Nは整数)組を含み、前記発光露光制御部101は、前記第1組から第N組が時系列的に発生するように前記タイミング信号を生成してもよい。
ここで、前記複数の組における発光パルス間の時間差は、一定時間であってもよい。
ここで、前記マルチパス検出部は、前記参照データを保持する参照データ保持部を有し、前記参照データは、マルチパスのない環境下における受光信号列のモデルであってもよい。
ここで、前記マルチパス検出部は、前記参照データを保持する参照データ保持部を有し、前記参照データは、発光パルスのパルス幅TLと露光パルスのハルス幅TSとの和で定まる時間の長さであってもよい。
ここで、前記マルチパス検出部は、さらに、マルチパスが存在すると判定した場合は、画素毎に補正係数を算出してもよい。
ここで、記マルチパス検出部は、前記受信信号列と前記参照データとの比率を示す比較結果に応じて前記補正係数を算出してもよい。
また、実施の形態1に係るマルチパス検出装置110は、発光を指示する発光パルスに従って発光する発光部と、露光を指示する露光パルスに従って露光する固体撮像素子とを用いてマルチパスを検出するマルチパス検出装置であって、発光パルスと露光パルスとの組であって、発光パルスと露光パルスとの間に互いに異なる時間差を有する複数の前記組を指示するタイミング信号を生成する発光露光制御部101と、前記複数の組に従う発光および露光により前記固体撮像素子から受光信号列を取得し、取得した前記受光信号列と、マルチパスのない環境下における受光信号列のモデルとして予め作成された参照データとを比較し、比較結果の差異に応じてマルチパスの有無を判定するマルチパス検出部111と、を備える。
また、実施の形態1に係るマルチパス検出方法は、発光を指示する発光パルスに従って発光する発光部と、露光を指示する露光パルスに従って露光する固体撮像素子とを用いてマルチパスを検出するマルチパス検出方法であって、発光パルスと露光パルスとの組であって、発光パルスと露光パルスとの間に互いに異なる時間差を有する複数の前記組を指示するタイミング信号を生成し、前記複数の組に従う発光および露光により前記固体撮像素子から受光信号列を取得し、取得した前記受光信号列と、マルチパスのない環境下における受光信号列のモデルとして予め作成された参照データとを比較し、比較結果の差異に応じてマルチパスの有無を判定する。
上記のマルチパス検出装置およびマルチパス検出方法によれば、マルチパスを検出するための処理負荷を軽減し、かつ、コストを低減することができる。
(実施の形態2)
続いて、実施の形態2に係る距離情報取得装置100について説明する。実施の形態1では、マルチパス検出動作と、通常の測距動作とを別のタイミングで実施する例を説明した。これに対して、実施の形態2では、マルチパス検出動作と通常の測距動作とを兼用して同時に実施可能な例について説明する。
[2.1 距離情報取得装置100の構成例]
実施の形態2における距離情報取得装置100は、図7Aおよび図7Bと同じ構成でよい。ただし、マルチパス検出部111の動作が少し異なっている。以下異なる点を中心に説明する。
[2.2 マルチパス検出動作兼測距動作の第1動作例]
まず、実施の形態2における距離情報取得装置100についてマルチパス検出動作と測距動作とを同時に実施する第1動作例について説明する。
図14Aは、実施の形態2に係るマルチパス検出部111の第1動作例を示す図である。また、図14Bは、実施の形態2に係るマルチパス検出部の第1動作例における受光信号列の一例を示す図である。同図の受光量a〜受光量fは、例えば、第1組〜第6組に対応する。
まず、図14Aの(14A)から(14H)に示す信号波形について説明する。(14A)から(14F)に示す信号波形は、必ずしも同じ時間軸上の波形とは限らず、説明の便宜上異なる時間軸の波形を混在させて記載してある。同図では、発光パルスと露光パルスとの組を指示する第1組から第N組までの複数の組が6つである場合を示している。
(14A)は、タイミング指示部701によって生成されるタイミング信号としての発光制御信号に含まれる発光パルス、または、当該発光パルスによる光源115からの照射光を示す。この発光パルスまたは照射光のタイミングを発光タイミングtl1とする。また、この発光パルスのパルス幅または照射光のパルス幅をTLとする。この発光パルスは、タイミング指示部701により指示される第1組から第6組のそれぞれの発光パルスを代表して示している。
(14B)は、(14A)の照射光が当たった物体OBJからの直接反射光と間接反射光とを含む混合反射光の一例を模式的に示す。
(14C)は、タイミング指示部701によって生成されるタイミング信号としての露光制御信号に含まれる露光パルスであり、例えば、第1組の露光パルスを示す。この露光パルスのパルス幅をTSとし、露光タイミングをts1−0とする。
(14D)は、タイミング指示部701によって生成されるタイミング信号としての露光制御信号に含まれる露光パルスであり、例えば、第2組の露光パルスを示す。この露光パルスのパルス幅をTSとし、露光タイミングをts1−1とする。
(14E)は、タイミング指示部701によって生成されるタイミング信号としての露光制御信号に含まれる露光パルスであり、例えば、第3組の露光パルスを示す。この露光パルスのパルス幅をTSとし、露光タイミングをts2−0とする。露光タイミングts2−0は、測距用の露光タイミングts1−0に対して−Δtpの遅延時間を与えたタイミングである。
(14F)は、タイミング指示部701によって生成されるタイミング信号としての露光制御信号に含まれる露光パルスであり、例えば、第4組の露光パルスを示す。この露光パルスのパルス幅をTSとし、露光タイミングをts2−1とする。
(14G)は、タイミング指示部701によって生成されるタイミング信号としての露光制御信号に含まれる露光パルスであり、例えば、第5組の露光パルスを示す。この露光パルスのパルス幅をTSとし、露光タイミングをts3−0とする。
(14H)は、タイミング指示部701によって生成されるタイミング信号としての露光制御信号に含まれる露光パルスであり、例えば、第6組の露光パルスを示す。この露光パルスのパルス幅をTSとし、露光タイミングをts3−1とする。
タイミング指示部701が生成するタイミング信号に指示される6つ組のうち、例えば、第1組は(14A、14C)に対応する。第2組は(14A、14D)に対応する。第3組は(14A、14E)に対応する。第4組は(14A、14F)に対応する。第5組は(14A、14G)に対応する。第6組は(14A、14H)に対応する。
図14A中の発光タイミングtl1および露光タイミングts1−0は、図2に示したTOF方式(その1)の「S0露光」と同じタイミングであり、マルチパス検出動作にも測距動作にも利用される。また、発光タイミングtl1および露光タイミングts1−1は、図2に示したTOF方式(その1)の「S1露光」と同じタイミングであり、マルチパス検出動作にも測距動作にも利用される。
測距用の露光タイミングts1−0と露光タイミングts1−1とは、Δtdの時間差を有する。時間差Δtdは、測距用のずらし量を意味する。
露光タイミングts2−0、ts2−1は、測距用の露光タイミングts1−0、ts1−1に対してそれぞれ−Δtpの遅延を有する。−Δtpは、測距用の露光タイミングts1−0、ts1−1に対してマルチパス検出用に設定された前ずらし量を意味する。
露光タイミングts3−0、ts3−1は、測距用の露光タイミングts1−0、ts1−1に対してそれぞれ+Δtbの遅延を有する。+Δtbは、測距用の露光タイミングts1−0、ts1−1に対してマルチパス検出用に設定された後ずらし量を意味する。
タイミング指示部701は、第1組から第6組の順に、または、第N組から第1組の順に、時系列的に指示するタイミング信号を生成し、発光露光制御部101に出力する。なお、第1組から第6組の生成順は、任意の順でもよい。
図14Bは、実施の形態2に係るマルチパス検出部111の第1動作例における受光信号列の一例を示す図である。同図の受光量a〜受光量fは、例えば、第1組〜第6組に対応する。図14Bの受光信号列は、図11Cのようなマルチパス検出動作および補正係数算出に用いられ、かつ、図2のTOF方式(その1)のような測距動作にも用いられる。
さらに、図14Aの第1動作例におけるタイミング指示部701によるTOF方式(その1)のタイミング指示方法の例について説明する。タイミング指示部701は発光露光制御部101に対して第1組のタイミングとして、照射光の発光パルス幅TLと発光タイミングtl1と、固体撮像素子102の露光パルス幅TSと露光タイミングts1−0を指示する。さらに、タイミング指示部701は発光露光制御部101に対して第2組のタイミングとして、照射光の発光パルス幅TLと発光タイミングtl1と、固体撮像素子102の露光パルス幅TSと露光タイミングts1−1を指示する。露光タイミングts1−0とts1−1は、距離測定に必要なずらし量Δtdにより、以下で表せる。
Figure 0006918210
発光パルス幅TLと発光タイミングtl1により発光部104の照射光に対応するマルチパス成分が混在した混合反射光1401とする。第1組のタイミングの設定により受光した発光タイミングtl1での照射光に対応する反射光の露光タイミングts1−0の(S0−BG)信号の受光量aが信号蓄積部702に蓄積される。さらに、第2組のタイミングの設定により受光した発光タイミングtl1での照射光に対応する反射光の露光タイミングts1−1の(S1−BG)信号の受光量bは信号蓄積部702に蓄積される。具体的には図14Bに示すように、信号蓄積部702において、横軸露光タイミング、縦軸を受光量として、露光タイミングts1、受光量a、受光量bとしてプロットされる。
同様に、第3組のタイミングとして、第1組のタイミングと同じ発光パルス幅TLと発光タイミングtl1と固体撮像素子102の露光パルス幅TSと第1のタイミングと異なる露光タイミングts2−0を指示する。さらに、第4組のタイミングとして、第1組のタイミングと同じ発光パルス幅TLと発光タイミングtl1と固体撮像素子102の露光パルス幅TSと第1のタイミングと異なる露光タイミングts2−1を指示する。露光タイミングts2−0と露光タイミングts2−1はマルチパス検出用の前ずらし量Δtpにより、以下の関係式で計算される。
Figure 0006918210
Δtpは固定値を使用してもよいし、受光量a、bの値から最適ずらし量を計算してもよい。第3組のタイミングの設定により発光タイミングtl1での照射光に対応する反射光の露光タイミングts2−0の(S0−BG)信号の受光量cが信号蓄積部702に蓄積される。さらに、第4組のタイミングの設定により発光タイミングtl1での照射光に対応する反射光の露光タイミングts2−1の(S1−BG)信号の受光量dは信号蓄積部702に蓄積される。具体的には図14Bに示すように信号蓄積部702において、露光タイミングts2、受光量c、受光量dとしてプロットされる。
次に、第5組のタイミングとして、第1のタイミングと同じ発光パルス幅TLと発光タイミングtl1と固体撮像素子102の露光パルス幅TSと第1のタイミングと異なる露光タイミングts3−0を指示する。さらに、第6組のタイミングとして、第1のタイミングと同じ発光パルス幅TLと発光タイミングtl1と固体撮像素子102の露光パルス幅TSと第1のタイミングと異なる露光タイミングts3−1を指示する。露光タイミングts3−0とts3−1はマルチパス検出用後ずらし量Δtbにより、以下の関係式で計算される。
Figure 0006918210
Δtbは固定値を使用してもよいし、受光量a、bの値から最低ずらし量を計算してもよい。第5組のタイミングの設定により受光した発光タイミングtl1での照射光に対応する反射光の露光タイミングts3−0の(S0−BG)信号の受光量eが信号蓄積部702に蓄積される。さらに、第6組のタイミングの設定により受光した発光タイミングtl1での照射光に対応する反射光の露光タイミングts3−1の(S1−BG)信号の受光量fは信号蓄積部702に蓄積される。具体的には信号蓄積部702において、露光タイミングts3、受光量e、受光量fとしてプロットされる。
マルチパス検出部111は、図14Bの受光信号列と、参照データとを比較し、比較結果の差異に応じて画素毎にマルチパスの有無を判定する。また、距離演算部112は、図14Bの受信信号列を用いてTOF方式(その1)により画素毎の距離を算出する。このとき、マルチパス検出部111によってマルチパスが存在すると判定した場合、補正係数算出部705は、後述する第2動作例の数式26及び数式28に従って補正係数を算出する。なお、図14AではTOF方式(その1)の測距動作について説明したが、TOF方式(その2)でもよい。
[2.3 マルチパス検出動作兼測距動作の第2動作例]
次に、実施の形態2における距離情報取得装置100についてマルチパス検出動作と測距動作の同時に実施する第2動作例について説明する。
図15Aは、実施の形態2に係るマルチパス検出部111の第2動作例を示す図である。また、図15Bは、実施の形態2に係るマルチパス検出部の第2動作例における受光信号列の一例を示す図である。同図の受光量a〜受光量fは、例えば、第1組〜第6組に対応する。
まず、図15Aの(15A)から(15G)に示す信号波形について説明する。(15A)から(15G)に示す信号波形は、必ずしも同じ時間軸上の波形とは限らず、説明の便宜上異なる時間軸の波形を混在させて記載してある。同図では、発光パルスと露光パルスとの組を指示する第1組から第N組までの複数の組が6つである場合を示している。
(15A)は、発光パルス、または、照射光を示す。この発光パルスまたは照射光のタイミングを発光タイミングtl0とする。また、この発光パルスのパルス幅または照射光のパルス幅をTLとする。この発光パルスは、タイミング指示部701により指示される例えば、第1組、第3組、第5組の発光パルスを代表して示している。
(15B)は、発光パルス、または、照射光を示す。この発光パルスまたは照射光のタイミングを発光タイミングtl1とする。また、この発光パルスのパルス幅または照射光のパルス幅をTLとする。この発光パルスは、タイミング指示部701により指示される第2組、第4組、第6組の発光パルスを代表して示している。
(15C)は、(15A)の照射光が当たった物体OBJからの直接反射光と間接反射光とを含む混合反射光の一例を模式的に示す。
(15D)は、(15B)の照射光が当たった物体OBJからの直接反射光と間接反射光とを含む混合反射光の一例を模式的に示す。
(15E)は、例えば、第1組、第2組の露光パルスを代表して示す。この露光パルスのパルス幅をTSとし、露光タイミングをts1とする。第1組、第2組の露光パルスは、例えば受光量a、bに対応する。受光量aは、露光タイミングts1におけるTOF方式(その2)のS0露光における受光量(S0−BG)信号に対応する。受光量bは、露光タイミングts1におけるTOF方式(その2)のS1露光における受光量(S1−BG)信号に対応する。
(15F)は、例えば、第3組、第4組の露光パルスを代表して示す。この露光パルスのパルス幅をTSとし、露光タイミングをts2とする。第3組、第4組の露光パルスは、例えば受光量c、dに対応する。受光量cは、露光タイミングts2におけるTOF方式(その2)のS0露光における受光量(S0−BG)信号に対応する。受光量dは、TOF方式(その2)のS1露光における露光タイミングts2での受光量(S1−BG)信号に対応する。
(15G)は、例えば、第5組、第6組の露光パルスを代表して示す。この露光パルスのパルス幅をTSとし、露光タイミングをts3とする。第5組、第6組の露光パルスは、例えば受光量e、fに対応する。受光量eは、TOF方式(その2)のS0露光における露光タイミングts3による受光量(S0−BG)信号に対応する。受光量fは、TOF方式(その2)のS1露光における露光タイミングts3による受光量(S1−BG)信号に対応する。
タイミング指示部701が生成するタイミング信号に指示される6つ組のうち、例えば、第1組は(15A、15E)に対応する。第2組は(15B、15E)に対応する。第3組は(15A、15F)に対応する。第4組は(15B、15F)に対応する。第5組は(15A、15G)に対応する。第6組は(15B、15G)に対応する。
図15A中の発光タイミングtl0および露光タイミングts1は、図3に示したTOF方式(その2)の「S0露光」と同じタイミングであり、マルチパス検出動作にも測距動作にも利用される。また、発光タイミングtl1および露光タイミングts1は、図3に示したTOF方式(その2)の「S1露光」と同じタイミングであり、マルチパス検出動作にも測距動作にも利用される。
露光タイミングts2は、測距用の露光タイミングts1に対して−Δtpの遅延を有する。−Δtpは、測距用の露光タイミングts1−0、ts1−1に対してマルチパス検出用に設定された前ずらし量を意味する。
露光タイミングts3は、測距用の露光タイミングts1に対して+Δtbの遅延を有する。+Δtbは、測距用の露光タイミングts1−0、ts1−1に対してマルチパス検出用に設定された後ずらし量を意味する。
タイミング指示部701は、第1組から第6組の順に、または、第N組から第1組の順に、時系列的に指示するタイミング信号を生成し、発光露光制御部101に出力する。なお、第1組から第6組の生成順は、任意の順でもよい。
図15Bは、実施の形態2に係るマルチパス検出部111の第2動作例における受光信号列の一例を示す図である。同図の受光量a〜受光量fは、例えば、第1組〜第6組に対応する。図15Bの受光信号列は、図11Cのようなマルチパス検出動作および補正係数算出に用いられ、かつ、図2のTOF方式(その1)のような測距動作にも用いられる。
このような実施の形態2の第1動作例によれば、マルチパス検出と測距動作とを兼用するので、マルチパス検出動作をより高速にすることができ、リアルタイム処理に適している。
さらに、図15Aの第2動作例におけるタイミング指示部701のタイミング指示方法について具体的に説明する。タイミング指示部701は、第1組から第6組を指示するために、TOF方式(その2)では照射タイミングtl0、tl1と、露光タイミングts1、ts2、ts3との組み合わせを指示する。第1組から第6組により得られる受光量a、b、c、d、e、fを取得し、信号蓄積部702に蓄積される。露光タイミングts1、ts2、ts3の関係式は、(数式17)、(数式18−2)、(数式19−2)である。
続いて、実施の形態2の第1動作例および第2動作例におけるマルチパス検出方法を説明する。
図16は、実施形態2におけるマルチパス検出方法を示す説明図である。図16の信号蓄積部702は、図14Aの第1動作例や図15Aの第2動作例で示されたタイミング指示部701による信号蓄積結果として露光タイミングts1の受光量a、b、露光タイミングts2の受光量c、d、露光タイミングts3の受光量e、fが蓄積されている。図16のリファレンス保持部703は実施の形態1におけるリファレンステーブル作成方法と同じ方法でリファレンステーブル(つまり参照データ)を作成し、保持する。つまり、詳細なずらし量Δtによって露光タイミングを順次ずらしたデータを保持する。リファレンステーブルにより、少ない露光タイミングでも高速にマルチパスを検出することを可能とする。図16の信号比較部704によるマルチパス検出方法について、図17の実を用いて説明する。
図17は、実施の形態2に係るマルチパス検出部のマルチパス検出方法の一例を示すフローチャートである。
S1701では信号蓄積部702の蓄積データのうち、ts1の受光量a、bの比を計算する。
S1702では、受光量a、bの比と、リファレンス保持部の正規化受光量ar、brの比が一致するようなリファレンスタイミングtsr1を探索する。受光量a、bの比と正規化受光量ar、brの比に一致する部分がない場合は、信号比が間にはまる部分を探索し、2点間を線形補完によりリファレンスタイミングtsr1を推定する。
S1703ではts1の受光量をtsr1の正規化受光量にするための正規化係数Kを求める。正規化係数Kは以下の式で算出する。
Figure 0006918210
S1704では、S1703により計算された正規化係数Kにより、受光量a、b、c、d、e、fを正規化受光量a、b、c、d、e、fへ変換する。計算式は以下である。
Figure 0006918210
S1705ではリファレンステーブル内で露光タイミングts2に対応するリファレンスタイミングtsr2、露光タイミングts3に対応するリファレンスタイミングtsr3を計算する。計算式は以下である。
Figure 0006918210
マルチパス検出用前ずらし量Δtp、後ずらし量Δtbはタイミング指示部701によって指示された値である。
S1706ではS1705で計算されたリファレンスタイミングtsr2、tsr3に対応するリファレンスの正規化受光量c、d、e、fを取得する。tsr2、tsr3と一致するリファレンスがない場合は線形補完により推定する。リファレンスの正規化受光量a、bはa、bと同じになるよう正規化係数Kを設定したため、計算は不要である。
S1707では蓄積値正規化受光量間の傾きα20a、α21a、α30a、α31aと、リファレンスの正規化受光量間の傾きα20r、α21r、α30r、α31rを算出する。具体的には、正規化受光量a、cを結ぶ直線の傾きα20a、蓄積値の正規化受光量a、eを結ぶ直線の傾きα30a、蓄積値正規化受光量b、dを結ぶ直線の傾きα21a、蓄積値の正規化受光量b、fの傾きα31a、リファレンス正規化受光量a、cを結ぶ直線の傾きα20r、蓄積値の正規化受光量a、eを結ぶ直線の傾きα30r、蓄積値正規化受光量b、dを結ぶ直線の傾きα21r、蓄積値の正規化受光量b、fの傾きα31rを以下の式で算出する。
Figure 0006918210
S1708では、S1707で算出された直線の比率が同じかどうかを判定する。比較式はS1708に記載の通りである。ここでは傾きの比率で計算する。信号量は光の飛行距離や照射された物体の反射率によって減少し、上記で算出された蓄積値正規化受光量の傾きもそれに伴い変化してしまうため、傾きの値そのものを比較することは適切でない。ずらし量前後傾き比率は信号量が増減してもパルス波形が同じである限りは同じであり、反射光の移動距離や物体の反射率に依存しない。よって、傾きの比率を使うことによりマルチパスの影響により波形の形が変化したことを検出できる。以上のことから、S1708で傾きの比率が同じである、と判定された場合にはS1709へ遷移しマルチパスは発生してない、と判定する。S1708にて傾きの比率が同じでないと判定された場合、S1710へ遷移しマルチパスが発生している、と判定する。
次に、実施の形態2における補正係数の算出方法について説明する。
図18は実施の形態2のマルチパス補正係数算出例を示す説明図である。同図において、信号蓄積部702に蓄積した正規化受光量の点を結んだ直線をL2a、L3aとし、その傾きをα2a、α3aとし、リファレンステーブルの正規化受光量の点を結んだ点をL2r、L3rとする。マルチパスが発生している場合、前述のように傾きの比率は一致しない。そこで、リファレンステーブルどおりの傾きを持つ点P1801(tsr1,a)を算出する。aはマルチパス補正後の正規化受光量といえるのでマルチパス補正後正規化受光量aと蓄積値正規化受光量cを結んだ直線をL2c、マルチパス補正後正規化受光量aと蓄積値正規化受光量eを結んだ直線をL3cとし、その傾きをそれぞれα2c、α_3cα3cとすると、以下が成り立つようなマルチパス補正後正規化受光量acを算出すればよい。
Figure 0006918210
これを各点の座標値を代入し、aで解くと(数式25)となる。また補正係数C0は蓄積値をマルチパス補正後の値に補正するので、(数式26)で表される。
Figure 0006918210
Figure 0006918210
図19は実施形態2に係るマルチパス検出部111の補正係数算出例を示す説明図である。図18に示した補正係数算出方法を適用すると、S0信号の場合、リファレンス通りの傾きを持つ点はP1901であり、(数式25)、(数式26)を用いて補正係数C0を算出する。S1信号の場合、リファレンス通りの傾きを持つ点はP1902であり、(数式27)、(数式28)を用いて補正係数C1を算出できる。
Figure 0006918210
Figure 0006918210
マルチパス補正は補正係数を用いて以下の式で補正する。
Figure 0006918210
実施の形態2は実施の形態1よりも少ない組による露光タイミングでマルチパス検出と補正する方法を示した。実施の形態2は、必要な露光タイミング回数を減らすことによりデータ蓄積時間を短縮できる。
実施の形態1および2において、露光タイミングを順次設定するよう説明したが、1フレーム間の露光で複数タイミングを設定できる撮像素子であれば、必要なタイミングを複数種類同時に設定して全結果を蓄積部へ蓄積してもよい。
本明細書でリファレンステーブルの探索などを線形補完により推定する、という実施例を記載したが、これに限定されるものではない。リファレンステーブルの形に基づき、n次関数や累乗関数でリファレンステーブルをモデル化してもよい。
以上説明してきたように実施の形態2に係る距離情報取得装置100は、前記複数の組は、前記時間差の小さい方から順に第1組から第N組(Nは偶数)を含み、前記発光露光制御部(101)は、前記時間差が小さい方から順に選んだ1組と、前記時間差が大きい方から順に選んだ1組とが交互になるように前記タイミング信号を生成する。
これによれば、発光パルスと露光パルスとの組の数をより少なくすることができ、処理負荷をさらに低減することができる。
ここで、前記距離情報取得装置は、さらに、前記受信信号列を用いて画素毎の距離を示す距離画像を生成する距離演算部を備えてもよい。
これによれば、マルチパスの検出動作において通常の測距動作もを同時に実施できるので、マルチパス検出の処理負荷をに低減または隠蔽することができる。
(実施の形態3)
続いて、実施の形態3に係る距離情報取得装置100について説明する。実施の形態1、2では、発光パルスと露光パルスを含む複数の組を時系列で生成する例を説明した。これに対して、実施の形態3では、複数の組を複数の画素に対応させて、かつ、複数の組を一斉に生成する構成例について説明する。
[3.1 距離情報取得装置100の構成例]
実施の形態3における距離情報取得装置100は、図7Aおよび図7Bと同じ構成でよい。ただし、固体撮像素子102とマルチパス検出部111とが少し異なっている。以下異なる点を中心に説明する。
図20は、実施の形態3に係る距離情報取得装置の構成例を示すブロック図である。同図では、図7A、図7Bと同じ点は図示を省略し、異なる点を図示してある。
タイミング指示部701は、第1組から第N組のタイミング信号を一斉に生成する。ここで、Nは6以上の整数であり、図20ではN=9である。
固体撮像素子102は、画素2001〜画素2009を含む。画素2001〜画素2009は、第1組〜第N組に対応する。画素2001〜画素2009は、それぞれ異なるタイミング信号が入力される。タイミング信号のうち発光を指示する発光制御信号は、画素2001〜画素2009に共通であり、発光部104に入力される。タイミング信号のうち露光を指示する露光制御信号は、画素2001〜画素2009に個別であり、互いに異なるタイミングで露光を指示する。同図では9種類の異なる露光タイミングを示す9つの露光制御信号がタイミング指示部701から画素2001〜画素2009に入力される。
タイミング指示部701は、第1組から第N組を指示するタイミング信号を一斉に生成する。
実施形態1および2では、第1組から第N組のタイミング設定を逐次的に行う方法を示したが、実施の形態3では第1組から第n組をn個の画素に対応させて、n個の画素から受光信号を一斉に出力させる。
図20に複数画素へのタイミング指示方法を示す。固体撮像素子102内にある、画素を画素2001、画素2002、画素2003、画素2004、画素2005、画素2006、画素2007、画素2008、画素2009とする。ここで画素数を簡単のため、9個図示しているが、これに限定されるものではない。第1の実施形態のようにN個の画素を使用してもよいし、第2の実施形態のように6個の画素を使用してもよい。タイミング指示部701は、画素2001から画素2009に対してそれぞれタイミング指示を行う。画素2001から画素2009は指示されたタイミングで露光し、受光量A1〜A9を信号蓄積部702へ蓄積する。具体的には、信号蓄積部702において、横軸露光タイミング、縦軸を受光量として、露光タイミング9個に対して、信号量A1からA9の9点をプロットする。
プロットした結果は第1または第2の実施形態のとおり、マルチパス検出と、補正係数の算出に利用される。ただし、第1、第2の実施形態では1画素1つのマルチパス検出結果と補正係数を算出したが、本実施形態では9画素で1つの結果・補正係数を出力する。つまり、画素2001から画素2009についてのマルチパス検出し、画素2001から画素2009に対して1つの補正係数を算出しマルチパスを補正することができる。
さらに、実施の形態1および2より少ないフレーム数で必要な受光量を取得することができ、マルチパス検出と補正の高速化が図れる。
以上説明してきたように実施の形態3に係る距離情報取得装置100は、前記複数の組は、第1組から第N組(Nは6以上の整数)を含み、前記第1組から第N組は、1つの発光パルスを共有し、第1組から第N組は、前記固体撮像素子に含まれる第1画素から第N画素に対応し、前記発光露光制御部101は、前記第1組から第N組の露光を指示するN個のタイミング信号を一斉に生成し、前記第1画素から前記第N画素に供給する。
これによれば、N個の画素においてN組の発光および露光を同時に行うので、マルチパス検出動作のリアルタイム処理を容易にする。
本開示におけるマルチパスを検出する距離情報取得装置、マルチパス検出装置およびマルチパス検出方法に適しており、例えばTOFカメラシステムに適している。
100 距離情報取得装置
101 発光露光制御部
102 固体撮像素子
103 信号処理部
104 発光部
110 マルチパス検出装置
111 マルチパス検出部
112 距離演算部
114 光源駆動部
115 光源
701 タイミング指示部
702 信号蓄積部
703 リファレンス保持部
704 信号比較部
705 補正係数算出部

Claims (17)

  1. 発光を指示する発光パルスに従って発光する発光部と、
    露光を指示する露光パルスに従って露光する固体撮像素子と、
    発光パルスと露光パルスとの組であって、発光パルスと露光パルスとの間に互いに異なる時間差を有する複数の前記組を指示するタイミング信号を生成する発光露光制御部と、
    前記複数の組に従う発光および露光により前記固体撮像素子から受光信号列を取得し、取得した前記受光信号列と、マルチパスのない環境下における受光信号列のモデルとして予め作成された参照データとを比較し、比較結果の差異に応じてマルチパスの有無を判定するマルチパス検出部と、を備える
    距離情報取得装置。
  2. 前記複数の組の数は、6以上である
    請求項1に記載の距離情報取得装置。
  3. 前記複数の組における発光パルスと露光パルスとの時間差は、一定時間ずつ異なる
    請求項1または2に記載の距離情報取得装置。
  4. 前記発光露光制御部は、前記複数の組において発光パルスのタイミングに対して露光パルスのタイミングを変化させる
    請求項1から3の何れか1項に記載の距離情報取得装置。
  5. 前記発光露光制御部は、前記複数の組において露光パルスのタイミングに対して発光パルスのタイミングを変化させる
    請求項1から3の何れか1項に記載の距離情報取得装置。
  6. 前記露光パルスの幅は前記発光パルスの幅以上である
    請求項1から5の何れか1項に記載の距離情報取得装置。
  7. 前記複数の組は、第1組から第N(Nは整数)組を含み、
    前記発光露光制御部は、前記第1組から第N組が時系列的に発生するように前記タイミング信号を生成する
    請求項1から6の何れか1項に記載の距離情報取得装置。
  8. 前記複数の組は、前記時間差の小さい方から順に第1組から第N組(Nは偶数)を含み、
    前記発光露光制御部は、前記時間差が小さい方から順に選んだ1組と、前記時間差が大きい方から順に選んだ1組とが交互になるように前記タイミング信号を生成する
    請求項1から6の何れか1項に記載の距離情報取得装置。
  9. 前記複数の組における発光パルス間の時間差は、一定時間である
    請求項1から7の何れか1項に記載の距離情報取得装置。
  10. 前記複数の組は、第1組から第N組(Nは6以上の整数)を含み、
    前記第1組から第N組は、1つの発光パルスを共有し、
    第1組から第N組は、前記固体撮像素子に含まれる第1画素から第N画素に対応し、
    前記発光露光制御部は、前記第1組から第N組の露光を指示するN個のタイミング信号を一斉に生成し、前記第1画素から前記第N画素に供給する
    請求項1または2に記載の距離情報取得装置。
  11. 前記マルチパス検出部は、前記参照データを保持する参照データ保持部を有し、
    前記参照データは、マルチパスのない環境下における受光信号列のモデルである
    請求項1から10の何れか1項に記載の距離情報取得装置。
  12. 前記マルチパス検出部は、前記参照データを保持する参照データ保持部を有し、
    前記参照データは、発光パルスのパルス幅と露光パルスのハルス幅との和で定まる時間の長さである
    請求項1から10の何れか1項に記載の距離情報取得装置。
  13. 前記マルチパス検出部は、さらに、マルチパスが存在すると判定した場合は、画素毎に補正係数を算出する
    請求項1から12の何れか1項に記載の距離情報取得装置。
  14. 前記マルチパス検出部は、前記受信信号列と前記参照データとの比率を示す比較結果に応じて前記補正係数を算出する
    請求項13に記載の距離情報取得装置。
  15. さらに、前記受信信号列を用いて画素毎の距離を示す距離画像を生成する距離演算部を備える
    請求項1から14の何れか1項に記載の距離情報取得装置。
  16. 発光を指示する発光パルスに従って発光する発光部と、露光を指示する露光パルスに従って露光する固体撮像素子とを用いてマルチパスを検出するマルチパス検出装置であって、
    発光パルスと露光パルスとの組であって、発光パルスと露光パルスとの間に互いに異なる時間差を有する複数の前記組を指示するタイミング信号を生成する発光露光制御部と、
    前記複数の組に従う発光および露光により前記固体撮像素子から受光信号列を取得し、取得した前記受光信号列と、マルチパスのない環境下における受光信号列のモデルとして予め作成された参照データとを比較し、比較結果の差異に応じてマルチパスの有無を判定するマルチパス検出部と、を備える
    マルチパス検出装置。
  17. 発光を指示する発光パルスに従って発光する発光部と、露光を指示する露光パルスに従って露光する固体撮像素子とを用いてマルチパスを検出するマルチパス検出方法であって、
    発光パルスと露光パルスとの組であって、発光パルスと露光パルスとの間に互いに異なる時間差を有する複数の前記組を指示するタイミング信号を生成し、
    前記複数の組に従う発光および露光により前記固体撮像素子から受光信号列を取得し、
    取得した前記受光信号列と、マルチパスのない環境下における受光信号列のモデルとして予め作成された参照データとを比較し、
    比較結果の差異に応じてマルチパスの有無を判定する
    マルチパス検出方法。
JP2020509901A 2018-03-29 2019-03-14 距離情報取得装置、マルチパス検出装置およびマルチパス検出方法 Active JP6918210B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862649994P 2018-03-29 2018-03-29
US62/649,994 2018-03-29
PCT/JP2019/010567 WO2019188348A1 (ja) 2018-03-29 2019-03-14 距離情報取得装置、マルチパス検出装置およびマルチパス検出方法

Publications (2)

Publication Number Publication Date
JPWO2019188348A1 JPWO2019188348A1 (ja) 2021-03-25
JP6918210B2 true JP6918210B2 (ja) 2021-08-11

Family

ID=68060551

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020509901A Active JP6918210B2 (ja) 2018-03-29 2019-03-14 距離情報取得装置、マルチパス検出装置およびマルチパス検出方法

Country Status (4)

Country Link
US (1) US11906669B2 (ja)
JP (1) JP6918210B2 (ja)
CN (1) CN111971578A (ja)
WO (1) WO2019188348A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6777701B2 (ja) * 2018-09-19 2020-10-28 ファナック株式会社 測距装置を有する物体監視システム
CN115176174A (zh) * 2019-11-27 2022-10-11 新唐科技日本株式会社 测距摄像装置
JP2021117036A (ja) * 2020-01-23 2021-08-10 株式会社日立エルジーデータストレージ 測距装置の測定値補正方法
JP7241710B2 (ja) * 2020-02-03 2023-03-17 株式会社ソニー・インタラクティブエンタテインメント 位相差算出装置、位相差算出方法およびプログラム
CN115052530A (zh) * 2020-03-09 2022-09-13 松下知识产权经营株式会社 计测装置以及对计测装置进行控制的方法
WO2021205787A1 (ja) * 2020-04-06 2021-10-14 パナソニックIpマネジメント株式会社 測距装置、およびプログラム
CN111601381B (zh) * 2020-05-26 2022-01-28 煤炭科学技术研究院有限公司 一种基于决策-预测的uwb的井下人员定位方法和系统
JP2022067801A (ja) * 2020-10-21 2022-05-09 キヤノン株式会社 光電変換装置、光電変換システム
CN113945951B (zh) * 2021-10-21 2022-07-08 浙江大学 Tof深度解算中的多径干扰抑制方法、tof深度解算方法及装置
WO2023199804A1 (ja) * 2022-04-13 2023-10-19 ヌヴォトンテクノロジージャパン株式会社 測距装置および測距方法
WO2024014547A1 (ja) * 2022-07-15 2024-01-18 Toppanホールディングス株式会社 距離画像撮像装置、及び距離画像撮像方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013078433A (ja) * 2011-10-03 2013-05-02 Panasonic Corp 監視装置、プログラム
WO2014097539A1 (ja) * 2012-12-20 2014-06-26 パナソニック株式会社 3次元測定装置および3次元測定方法
US10230934B2 (en) * 2013-06-14 2019-03-12 Microsoft Tehcnology Licensing, Llc Depth map correction using lookup tables
US9874638B2 (en) * 2014-03-06 2018-01-23 University Of Waikato Time of flight camera system which resolves direct and multi-path radiation components
EP2955544B1 (en) 2014-06-11 2020-06-17 Sony Depthsensing Solutions N.V. A TOF camera system and a method for measuring a distance with the system
CN104461951A (zh) * 2014-11-19 2015-03-25 浪潮(北京)电子信息产业有限公司 动态管理物理和虚拟多路径i/o的方法及系统
JP6054994B2 (ja) * 2015-01-29 2016-12-27 シャープ株式会社 距離測定装置
JP2017015448A (ja) * 2015-06-29 2017-01-19 株式会社デンソー 光飛行型測距装置
US9760837B1 (en) * 2016-03-13 2017-09-12 Microsoft Technology Licensing, Llc Depth from time-of-flight using machine learning

Also Published As

Publication number Publication date
WO2019188348A1 (ja) 2019-10-03
US11906669B2 (en) 2024-02-20
US20210011130A1 (en) 2021-01-14
CN111971578A (zh) 2020-11-20
JPWO2019188348A1 (ja) 2021-03-25

Similar Documents

Publication Publication Date Title
JP6918210B2 (ja) 距離情報取得装置、マルチパス検出装置およびマルチパス検出方法
US9417326B2 (en) Pulsed light optical rangefinder
JP6981997B2 (ja) 距離測定装置
US20210116572A1 (en) Light ranging apparatus
JPWO2017141957A1 (ja) 距離測定装置
JP2021518551A (ja) リアルタイム検出に対するレーザパルスエッジの検出
US10705215B2 (en) Distance measurement apparatus, and method of measuring distance
US11828850B2 (en) 3D image sensor and related 3D image sensing module and hand-held device
US11474217B2 (en) Time of flight device and time of flight method
JP2022531578A (ja) Lidarシステムにおける時間的ジッタ
JPWO2019181518A1 (ja) 距離測定装置、距離測定システム、距離測定方法、及びプログラム
JP2009124666A (ja) 光電センサ
US20220179079A1 (en) Time-of-flight ranging device and time-of-flight ranging method
US10382012B2 (en) Navigation device and track smoothing method thereof
JP7259525B2 (ja) 光測距装置およびその方法
CN111522024B (zh) 解决多路径损坏的图像处理系统、方法和成像设备
JP7149505B2 (ja) 測距方法、測距装置、及び、プログラム
WO2021199225A1 (ja) 情報処理システム、センサシステム、情報処理方法、及びプログラム
KR20210153563A (ko) 깊이 검출을 위한 히스토그램 비닝 시스템 및 방법
CN115176174A (zh) 测距摄像装置
US20240012424A1 (en) Moving robot with improved identification accuracy of step distance
JP7234069B2 (ja) 検知システム及び検知方法
WO2022209219A1 (ja) 測距装置およびその信号処理方法、並びに、測距システム
JP2002221408A (ja) 光学測定装置
JPWO2021181841A5 (ja)

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201008

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210706

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210720

R150 Certificate of patent or registration of utility model

Ref document number: 6918210

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150