JP2020197422A - マルチパス検出装置およびマルチパス検出方法 - Google Patents

マルチパス検出装置およびマルチパス検出方法 Download PDF

Info

Publication number
JP2020197422A
JP2020197422A JP2019102968A JP2019102968A JP2020197422A JP 2020197422 A JP2020197422 A JP 2020197422A JP 2019102968 A JP2019102968 A JP 2019102968A JP 2019102968 A JP2019102968 A JP 2019102968A JP 2020197422 A JP2020197422 A JP 2020197422A
Authority
JP
Japan
Prior art keywords
light
depth
control signal
emission control
light emission
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019102968A
Other languages
English (en)
Other versions
JP7468999B2 (ja
Inventor
永田 恵
Megumi Nagata
恵 永田
圭一 森
Keiichi Mori
圭一 森
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nuvoton Technology Corp
Original Assignee
Nuvoton Technology Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nuvoton Technology Corp filed Critical Nuvoton Technology Corp
Priority to JP2019102968A priority Critical patent/JP7468999B2/ja
Publication of JP2020197422A publication Critical patent/JP2020197422A/ja
Application granted granted Critical
Publication of JP7468999B2 publication Critical patent/JP7468999B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

【課題】マルチパスの有無を判定するための処理負荷を軽減する。
【解決手段】マルチパス検出装置100は、信号制御部101と、発光部102と、受光部103と、マルチパスでない環境において、深度に関する参照データDrefを保持するデータ保持部113と、第1のタイミングTm1で露光することで得られる受光量R1と第2のタイミングTm2で露光することで得られる受光量R2との比とによって求まる第1の深度D1、および、第3のタイミングTm3で露光することで得られる受光量R3と第4のタイミングTm4で露光することで得られる受光量R4との比によって求まる第2の深度D2を算出する信号処理部104と、第1の深度D1および第2の深度D2の差と参照データDrefとを用いてマルチパスの有無を判定する判定部112と、を備える。
【選択図】図15

Description

本開示は、測定対象までの距離を測定する際にマルチパスの有無を検出するマルチパス検出装置、および、マルチパス検出方法に関する。
従来、測定対象にあたって返ってくる光の飛行時間に基づいて測定対象までの距離を測定するTOF(Time of Flight)カメラシステムが知られている。このTOFカメラシステムでは、測定対象から直接返ってくる直接光と測定対象と異なる物体を介して返ってくる間接光とが混在する場合、測定誤差が大きくなって測定精度が劣化する。これに対して、例えば非特許文献1は、マルチパスの影響を軽減するTOFカメラシステムを提案している。
D.Freedman,E.Krupka,Y.Smolin,I.Leichter,and M.Schmidt,"SRA:Fast removal of general multipath for ToF sensors." In Proceedings of the 13th European Conference on Computer Vision (ECCV'14).234--249
マルチパスの影響を軽減するには、測定環境が直接光と間接光とが混在するマルチパス環境にあるか否かを判定した後、マルチパスの有無に応じた処理を行う必要がある。しかしながら、非特許文献1のTOFカメラシステムでは、マルチパスの有無を判定するための計算量が多く、つまり処理負荷が重いという問題がある。
本開示のマルチパス検出装置は、発光制御信号および露光制御信号を出力する信号制御部と、前記発光制御信号に従って発光する発光部と、前記露光制御信号に従って露光することで光を受光する受光部と、マルチパスでない環境において、前記信号制御部からの所定の発光制御信号に従って所定のタイミングで露光することで得られる前記受光部の受光量、および、前記所定の発光制御信号と異なる時間帯に出力される前記信号制御部からの発光制御信号に従って前記所定のタイミングと異なるタイミングで露光することで得られる前記受光部の受光量の比によって求まる深度に関する参照データを保持するデータ保持部と、前記信号制御部からの第1の発光制御信号に従って第1のタイミングで露光することで得られる前記受光部の受光量と、前記第1の発光制御信号と異なる時間帯に出力される前記信号制御部からの第2の発光制御信号に従って前記第1のタイミングと異なる第2のタイミングで露光することで得られる前記受光部の受光量との比とによって求まる第1の深度、および、前記信号制御部からの第3の発光制御信号に従って第3のタイミングで露光することで得られる前記受光部の受光量と、前記第3の発光制御信号と異なる時間帯に出力される前記信号制御部からの第4の発光制御信号に従って前記第3のタイミングと異なる第4のタイミングで露光することで得られる前記受光部の受光量との比によって求まる第2の深度を算出する信号処理部と、前記第1の深度および前記第2の深度の差と前記参照データとを用いて前記マルチパスの有無を判定する判定部と、を備える。
本開示のマルチパス検出方法は、マルチパスでない環境において、所定の発光制御信号に従って所定のタイミングで露光することで得られる受光量と、前記所定の発光制御信号と異なる時間帯に出力される発光制御信号に従って前記所定のタイミングと異なるタイミングで露光することで得られる受光量との比によって求まる深度に関する参照データを保存するステップと、第1の発光制御信号に従って第1のタイミングで露光することで得られる受光量と、前記第1の発光制御信号と異なる時間帯に出力される第2の発光制御信号に従って前記第1のタイミングと異なる第2のタイミングで露光することで得られる受光量との比によって求まる第1の深度を算出するステップと、第3の発光制御信号に従って第3のタイミングで露光することで得られる受光量と、前記第3の発光制御信号と異なる時間帯に出力される第4の発光制御信号に従って前記第3のタイミングと異なる第4のタイミングで露光することで得られる受光量との比によって求まる第2の深度を算出するステップと、前記第1の深度および前記第2の深度の差と前記参照データとを用いて前記マルチパスの有無を判定するステップと、を含む。
本開示に係るマルチパス検出装置およびマルチパス検出方法によれば、マルチパスの有無を判定するための処理負荷を軽減することができる。
図1は、一般的な距離情報取得装置の構成例を示すブロック図である。 図2は、マルチパスでない環境における距離情報取得装置の動作の一例を示すタイムチャートである。 図3は、マルチパスでない環境における距離情報取得装置の動作の他の一例を示すタイムチャートである。 図4は、直接光と間接光が混在するマルチパス環境の一例を示す図である。 図5は、マルチパス環境における距離情報取得装置の動作の一例を示すタイムチャートである。 図6は、マルチパスでない環境における距離情報取得装置の実際の動作の一例を示すタイムチャートである。 図7Aは、照射光の発光強度の時間波形を示すグラフである。 図7Bは、マルチパスでない環境において、反射光の受光量の時間波形を示すグラフである。 図7Cは、マルチパスでない環境において、照射光を出射してから反射光を受光するまでの光往復時間と深度との関係を示すグラフである。 図7Dは、図7Cの深度と深度の傾きとの関係を示すグラフである。 図8は、間接反射光が直接反射光よりも遅く返ってくるマルチパス環境における距離情報取得装置の動作の一例を示すタイムチャートである。 図9Aは、図8に示すマルチパス環境において、直接反射光および間接反射光のそれぞれの受光強度の時間波形を示すグラフである。 図9Bは、直接反射光および間接反射光を合わせた混合反射光の受光量の時間波形を示すグラフである。 図9Cは、図8に示すマルチパス環境において、照射光を出射してから混合反射光を受光するまでの光往復時間と深度との関係を示すグラフである。 図9Dは、図9Cの深度と深度の傾きとの関係を示すグラフである。 図10は、間接反射光が直接反射光よりも早く返ってくるマルチパス環境の一例を示す図である。 図11は、間接反射光が直接反射光よりも早く返ってくるマルチパス環境における距離情報取得装置の動作の一例を示すタイムチャートである。 図12Aは、図11に示すマルチパス環境において、直接反射光および間接反射光のそれぞれの受光強度の時間波形を示すグラフである。 図12Bは、直接反射光および間接反射光を合わせた混合反射光の時間波形を示すグラフである。 図12Cは、図11に示すマルチパス環境において、照射光を出射してから混合反射光を受光するまでの光往復時間と深度との関係を示すグラフである。 図12Dは、図12Cの深度と深度の傾きとの関係を示すグラフである。 図13Aは、複数の間接光が発生する状態を示す説明図である。 図13Bは、複数の間接光のそれぞれの受光量の時間波形を示すグラフである。 図13Cは、複数の間接光の合計受光量の時間波形を示すグラフである。 図14は、実施例1に係るマルチパス検出装置の構成例を示すブロック図である。 図15は、実施例1に係るマルチパス検出装置の動作を示すタイムチャートである。 図16は、実施例1に係るマルチパス検出方法を示すフローチャートである。 図17は、実施例1の変形例に係るマルチパス検出装置の動作を示すタイムチャートである。 図18は、実施例2に係るマルチパス検出装置の構成例を示すブロック図である。 図19は、実施例2に係るマルチパス検出装置の動作を示すタイムチャートである。 図20は、実施例2に係るマルチパス検出方法を示すフローチャートである。
以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、本開示の一形態に係る実現形態を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。本開示の実現形態は、現行の独立請求項に限定されるものではなく、他の独立請求項によっても表現され得る。
なお、各図は模式図であり、必ずしも厳密に図示されたものではない。また、各図において、実質的に同一の構成に対しては同一の符号を付しており、重複する説明は省略または簡略化される場合がある。
(本開示の基礎となる知見)
本開示の基礎となる知見について図1〜図13Cを参照しながら説明する。なお、本開示の基礎となる知見には、従来技術にはない新たな知見および新たな知見の基礎となる従来の知見も含まれる。
[1.一般的な距離情報取得装置]
まず、一般的な距離情報取得装置について、図1を参照しながら説明する。
図1は、一般的な距離情報取得装置の構成例を示すブロック図である。なお、図1には、測定対象である物体OBJも図示されている。
距離情報取得装置は、測定対象にあたって返ってくる光の飛行時間に基づいて測定対象までの距離を測定するTOF(Time of Flight)方式による測距装置である。距離情報取得装置は、信号制御部101、発光部102、受光部103および信号処理部104を備える。
信号制御部101は、発光部102の発光を制御する発光制御信号を発光部102に出力する。また、信号制御部101は、受光部103の露光を制御する露光制御信号を受光部103に出力する。
発光部102は、発光制御信号の発光パルスに従って発光する、つまり照射光を出射する。照射光は、例えば近赤外光である。照射光は、物体OBJにて反射され、反射光となって距離情報取得装置に返る。
受光部103は、行列状に配列された複数の画素を有する固体撮像素子である。受光部103は、露光制御信号の露光パルスに従って反射光を受光し、受光信号を信号処理部104に出力する。
信号処理部104は、後述する3種類の発光露光処理で得られた受光信号列から、受光部103の画素毎に深度Dおよび輝度Bを算出する。この深度Dに基づいて距離を求めることができる。深度Dおよび輝度Bの求め方については後述する。
次に、マルチパスでない環境における距離情報取得装置の動作について説明する。なお、マルチパスでない環境とは、間接光が無く、直接光のみが存在する環境を意味する。
図2は、マルチパスでない環境における距離情報取得装置の動作の一例を示すタイムチャートである。
図2には、発光パルスを有する発光制御信号(または照射光)1Aの波形と、受光部103に入射する入射光1Cの波形と、露光パルスを有する露光制御信号1Dの波形とが示されている。入射光1Cの波形は、受光部103が受光する受光信号量によって表される。なおこの例では、発光制御信号および照射光の波形の形状は、ほぼ同じとみなしている。
発光パルスは、ハイレベルでアクティブを示す正論理であり、露光パルスは、ローレベルでアクティブを示す負論理である。入射光1Cは、照射光が物体OBJにあたって返ってくる反射光と、背景光とを含む。反射光は、照射光の照射開始から所定時間遅れて受光部103に入射される。この遅れ時間は、距離情報取得装置から物体OBJまでの距離に依存する。入射光1Cのうち同図の黒塗り領域(1か所)および斜線ハッチング領域(2か所)は、画素毎の受光信号量に該当する。
測距を行うための発光露光処理は、例えば、発光および露光を行うS0露光と、S0露光と異なる時間帯に発光および露光を行うS1露光と、S0露光およびS1露光と異なる時間帯に露光を行うBG露光とによって実現される。なお、S0露光およびS1露光では、発光制御信号1Aの開始時間をt=0とし、BG露光では、露光制御信号1Dの開始時間をt=0としている。
S0露光では、露光パルスは、発光パルスの開始と同時にアクティブになる。つまり露光は、発光と同時(t=0)に開始される。露光パルスのパルス幅TS1は、発光パルスのパルス幅Tの2倍、または、2倍よりも長く設定される。S0露光では、例えば、反射光の全体を露光可能である。
S1露光では、露光パルスは、発光パルスの終了と同時にアクティブになる。つまり露光は、発光の終了時点(t=T)に開始される。露光パルスのパルス幅Ts1は、S0露光と同じパルス幅である。S1露光では、例えば、全体の反射光のうち、発光パルスの終了後に入射した反射光を露光可能である。
BG露光では、露光パルスは、発光パルスの発生無しにアクティブになる。すなわちBG露光では、反射光が存在しない背景光を露光する。露光パルスのパルス幅Ts1は、S0露光およびS1露光と同じパルス幅である。
なお、S0露光、S1露光、BG露光では、実際には複数の発光パルスまたは複数の露光パルスにともなう各処理が実行される。同図には、これらの各処理が積算された結果が示されている。
信号処理部104は、S0露光、S1露光、BG露光における画素毎の受光信号量(受光により生じる信号電荷量)を用いて、画素毎に距離Lおよび輝度Bを算出する。
ここでS0露光、S1露光、BG露光における画素毎の受光信号量を、それぞれ受光量S0、受光量S1、受光量BGとすると、画素毎の距離Lは、数式1により算出される。深度Dは、数式1の右辺の第2項であり、受光量(S1−BG)を受光量(S0−BG)で除算して求められる。また、画素毎の輝度Bは、数式2により算出される。なお、cは光速(約299,792,458m/s)であり、Tは発光パルスのパルス幅である。
Figure 2020197422
Figure 2020197422
次に、マルチパスでない環境における距離情報取得装置の動作の他の一例について説明する。
図3は、マルチパスでない環境における距離情報取得装置の動作の他の一例を示すタイムチャートである。
図3には、発光制御信号(または照射光)2Aの波形と、入射光2Cの波形と、露光制御信号2Dの波形とが示されている。図3に示す他の一例は、露光パルスのパルス幅が、発光パルスのパルス幅と同じである点で、図2に示す例と異なっている。この場合、画素毎の距離Lは、数式3により算出され、輝度Bは、数式4により算出される。
Figure 2020197422
Figure 2020197422
[2.測定誤差が生じる仕組み]
次に、マルチパスが存在する環境において測定誤差が生じる仕組みについて、図4および図5を参照しながら説明する。
図4は、直接光と間接光とが混在するマルチパス環境の一例を示す図である。
図4に示す物体OBJ1は、測定対象であり、物体OBJ2は、間接光の原因となる物体である。距離測定結果OBJ1Eは、距離情報取得装置から物体OBJ1を観測した場合に、マルチパスに起因する測定誤差によって形成される像である。
図4には、直接光の経路および間接光の経路が示されている。
直接光の経路は、物体OBJ1を経由する経路であり、直接照射光(D−Path1)が、物体OBJ1で反射され直接反射光(D−Path2)となり、受光部103の画素103aに到達する経路である。
間接光の経路は、物体OBJ2および物体OBJ1を経由する経路であって、間接照射光(M−Path1)が、物体OBJ2にて反射されて間接照射光(M−Path2)となり、さらに物体OBJ1に反射されて間接反射光(M−Path3)となり、受光部103の画素103aに到達する経路である。
図5は、マルチパス環境における距離情報取得装置の動作の一例を示すタイムチャートである。
図5には、発光制御信号(または照射光)3Aの波形と、直接反射光(D−Path2)3C1の波形と、間接反射光(M−Path3)3C2の波形と、直接反射光3C1および間接反射光3C2の和である混合反射光3Cの波形と、露光制御信号3Dの波形とが示されている。このうち、発光制御信号3A、直接反射光3C1および露光制御信号3Dの各波形は、図2に示した発光制御信号2A、入射光2Cおよび露光制御信号2Dの各波形と同じである。つまり、図5は、図2に対して間接反射光3C2および混合反射光3Cの各波形が追加された図となっている。
S0露光における受光量S0は、直接反射光3C1による受光量D0と、間接反射光3C2による受光量M0との合計になる。同様に、S1露光における受光量S1は、直接反射光3C1による受光量D1aと、間接反射光3C2による受光量M1との合計になる。これらを数式1に当てはめると、画素毎の距離Lは、数式5で表される。
Figure 2020197422
上記の例を、露光パルスおよび発光パルスのパルス幅が同じである図3の他の一例に適用すると以下のようになる。すなわち、S0露光における受光量S0は、直接反射光3C1による受光量D0と、間接反射光3C2による受光量M0との合計となり、S1露光における受光量S1は、直接反射光3C1による受光量D1aと、間接反射光3C2による受光量M1との合計となる。これらを数式3に当てはめると、図3の他の一例に示す場合の画素毎の距離Lは、数式6により算出される。
Figure 2020197422
数式5の間接反射光3C2による受光量M0、M1は、物体OBJ1の距離だけでなく、周辺物体の配置位置および反射率にも依存した値となる。そのため、数式5で算出された距離Lは、予測不能な測定誤差を含むことになり、測定精度を小さく劣化させたり大きく劣化させたりする。数式6についても同様である。
[3.距離情報取得装置の実際の動作]
次に、距離情報取得装置の実際の動作について、図6〜図7Cを参照しながら説明する。なおここでは、マルチパスでない環境について説明する。
図6は、マルチパスでない環境における距離情報取得装置の実際の動作の一例を示すタイムチャートである。
図6には、発光制御信号4Aの波形と、照射光4Bの波形と、入射光4Cの波形と、露光制御信号4Dの波形とが示されている。このうち、発光制御信号4Aおよび露光制御信号4Dの各波形は、図2に示した発光制御信号1Aおよび露光制御信号1Dの各波形と同じである。つまり、図6は、図2に対して、照射光4Bの波形が追加された図となっている。また、図6の照射光4Bおよび入射光4Cの波形は、実動作でおこるパルス波形が歪んだ波形となる。
発光制御信号4Aは、時間t=0で発光を開始し、時間t=Trで発光を終了するように制御する信号である。それに対し発光部102から実際に発光される照射光4Bの波形は、発光開始t=0から徐々に立ち上がり、発光終了t=Trから徐々に立ち下がり、時間t=T+Tで下がりきる。時間Trはパルスの立ち上がり時間に相当し、時間Tはパルスの立ち下り時間に相当する。
この立ち上がり時間および立下り時間は、距離情報取得装置の制御回路を起因として発生する。立ち上がり時間および立ち下がり時間を考慮するのは、本開示における発光パルスのパルス幅がnsecオーダーとなっているからである。例えば、0mから3mまでの距離を測定する場合、光の往復時間は約20nsecであるので、発光パルスのパルス幅を20nsecに設定する必要がある。このように発光パルスのパルス幅が短い場合、立ち上がり時間および立ち下がり時間を無視できなくなる。そのため、発光部102から照射される照射光4Bの波形は、実際には図6に示すように、単調増加した後、単調減少する歪みパルス波形となる。なお、照射光4Bの波形は、三角波状または鋸歯状の波形で表されてもよい。このように、照射光4Bの波形が立ち上がり時間および立ち下がり時間を有するパルス波形であるため、入射光4Cの波形も立ち上がり時間および立ち下がり時間を有する波形となる。本開示では、この波形の形状を利用してマルチパスの有無の検出を行う。
図7Aは、照射光4Bの発光強度Iの時間波形を示すグラフである。
図7Aに示すように、時間(時刻)tにおける発光強度Iは、照射光4Bの発光開始時間をt=0とすると、数式7〜数式10で表される。
Figure 2020197422
Figure 2020197422
Figure 2020197422
Figure 2020197422
数式8のτは発光パルスの立ち上がりの時定数、数式9のτは発光パルスの立ち下がりの時定数、Tは立ち上がり時間、Tは立ち下がり時間、aは立ち下がり開始時における発光強度である。図7Aのグラフの波形は、時定数τ=3.0nsec、時定数τ=1.4nsec、立ち上がり時間T=12.7nsec、立ち下り時間T=7.3nsecとなっている。
図7Bは、マルチパスでない環境において、反射光の受光量の時間波形を示すグラフである。なお、反射光の受光量は、図6の入射光4Cから背景光を取り除いた光の量である。
図7Bに示すように、時間(時刻)tにおける受光量Rdirectは、照射光4Bの発光開始時間をt=0とし、また、照射光4Bが測定対象から直接反射光として返ってくるまでの直接光の光往復時間をt1とすると、数式11で表される。
Figure 2020197422
数式11のat1は立ち下がり開始時における受光強度である。光は距離の二乗で減衰し、かつ、測定対象の反射率に依存するので、受光強度at1は未知数となる。受光量Rdirectの波形は、数式11が示すように、数式8〜数式10の波形f(t)を測定対象までの光往復時間t分だけシフトさせた波形に対して、未知数の受光強度at1で減衰させた波形となっている。
ここで、図6における露光パルスのパルス幅TS1=2×(T+T)とし、数式7において発光強度Iおよびa=1であるときの波形f(t)の面積をSとすると、図6のS0露光による受光量(S0−BG)は、数式12で表される。
Figure 2020197422
また、図6のS1露光による受光量(S1−BG)は、数式13で表される。
Figure 2020197422
前述したように、深度Dは数式1における右辺の第2項であり、受光量(S1−BG)を受光量(S0−BG)で除算して求められる。したがって深度Dを算出する際、未知数である受光強度at1が相殺され、光往復時間t1を求めることができる。光往復時間tが求まると、数式14により距離Lが求められる。
Figure 2020197422
図7Cは、マルチパスでない環境において、照射光4Bを出射してから反射光を受光するまでの光往復時間tと深度Dとの関係を示すグラフである。図7Dは、図7Cの深度Dと深度の傾きαとの関係を示すグラフである。なお、図7Dについては後で詳しく説明する。
図7Cでは、光往復時間t=0で受光した場合の深度をD(0)とし、光往復時間t=tで受光した場合の深度をD(t)とし、これらを通る曲線を実線で示している。深度Dおよび光往復時間tは1対1の関係にあり、光往復時間tおよび距離Lは1対1の関係にあるため、深度D(t)がわかると光往復時間tがわかり、数式14を用いて距離Lが求められる。また、輝度Bは、数式12を用いて求められる。
上記の例を、露光パルスおよび発光パルスのパルス幅が同じである図3の他の一例に適用すると、S0露光による受光量(S0−BG)は、以下の数式15にて算出される。
Figure 2020197422
一方、図3の他の一例のS1露光による受光量S1は、反射光の受光量が同じなので、数式13と同じである。
図3の他の一例の深度Dは、数式3における右辺の第2項であり、受光量(S1−BG)を、受光量(S0−BG)および受光量(S1−BG)の加算結果で除算した値となる。数式3の右辺の第2項の分母である数式15および数式13を加算すると、以下の数式16となる。
Figure 2020197422
数式16は、数式12と等しいので、数式14を用いて同様に距離Lが求められる。なお、輝度Bは、数式16にて求められる。
[4.マルチパス環境における距離情報取得装置の実際の動作]
次に、マルチパス環境における距離情報取得装置の実際の動作について、図8〜図13Cを参照しながら説明する。
マルチパスには、例えば、間接反射光が直接反射光よりも遅れて受光部103に到達する第1例、および、間接反射光が直接反射光よりも早く受光部103に到達する第2例がある。
まず、マルチパスの第1例について説明する。
前述した図4に示すように、物体OBJ1よりも前に別の物体OBJ2がある場合にマルチパスとなって測定誤差が生じる。
図8は、間接反射光が直接反射光よりも遅く返ってくるマルチパス環境における距離情報取得装置の動作の一例を示すタイムチャートである。
図8には、発光制御信号5Aの波形と、照射光5Bの波形と、直接反射光(D−Path2)5C1の波形と、間接反射光(M−Path3)5C2の波形と、入射光5Cの波形と、露光制御信号5Dの波形とが示されている。
入射光5Cは、混合反射光と背景光とを含む。混合反射光は、照射光5Bを受けて物体OBJ1から返ってくる直接反射光、および、物体OBJ2を介して照射光5Bを受けて物体OBJ1から返ってくる間接反射光の和である。このうち、発光制御信号5A、照射光5B、直接反射光5C1、および、露光制御信号5Dの各波形は、図6に示した発光制御信号4Aの波形、照射光4Bの波形、入射光4Cのうちの反射光の波形、および、露光制御信号4Dの波形と同じである。つまり、図8は、図6に対して、間接反射光5C2、および、入射光5Cの各波形を追加した図になっている。
図9Aは、図8に示すマルチパス環境において、直接反射光5C1および間接反射光5C2のそれぞれの受光強度の時間波形を示すグラフである。
図9Aに示すように、間接反射光5C2は、直接反射光5C1よりも長い経路を通っているため、時間的な遅れが生じている。直接反射光5C1の光往復時間を、図7Bおよび数式11で示した通りtとし、この光往復時間tを基点とした間接反射光5C2の遅れ時間をマルチパス遅れ時間tとすると、時間(時刻)tにおける間接反射光5C2の受光量Rindirectは、数式17で表される。
Figure 2020197422
ここで、bt1は間接反射光5C2の立ち下がり開始時における受光強度である。光は距離の二乗で減衰し、かつ、測定対象の反射率および通過した経路上の物体の反射率に依存するので受光強度bt1は未知数となる。
図9Bは、直接反射光5C1および間接反射光5C2を合わせた混合反射光の受光量の時間波形を示すグラフである。実際には図9Aに示すような直接反射光5C1および間接反射光5C2を別々に受光できないため、図9Bに示すような波形が観測される。時間(時刻)tにおける混合反射光の受光量Rmixは、数式18で表される。
Figure 2020197422
ここで、図8における露光パルスのパルス幅TS1=2×(T+T)とし、発光強度Iおよびa=1であるときの波形f(t)の面積をSとすると、図8のS0露光による受光量(S0−BG)は、数式19で表される。
Figure 2020197422
また、図8のS1露光における受光量(S1−BG)は、数式20および数式21で表される。
Figure 2020197422
Figure 2020197422
深度Dは、数式1における右辺の第2項であり、数式20の受光量(S1−BG)を数式19の受光量(S0−BG)で除算して求められるが、数式18および数式20の一部である数式21には、未知数の受光強度bt1>0およびマルチパス遅れ時間t>0が存在し、その影響を相殺できていない。よって、深度Dは、直接光のみを受光した場合に比べて大きな値となる。
図9Cは、図8に示すマルチパス環境において、照射光を出射してから混合反射光を受光するまでの光往復時間tと深度Dとの関係を示すグラフである。図9Dは、図9Cの深度Dと深度の傾きαとの関係を示すグラフである。
図9Cでは、光往復時間t=0で混合反射光を受光した場合の深度を0とし、光往復時間t=tで混合反射光を受光した場合の深度をD(t)とし、これらを通る曲線を実線で示している。また、図9Cでは、光往復時間t=0で直接反射光5C1のみを受光した場合の深度を0とし、光往復時間t=tで直接反射光5C1のみを受光した場合の深度をDref(t)とし、これらを通る曲線を点線で示している。なお、この点線は、図7Cに示した曲線と同じである。これらの関係を利用し、本開示のマルチパス検出装置100では図9Dに示すように、反射光の深度が直接光のみのときの深度と同じであるか否か、すなわち深度D(t)≠深度Dref(t)であるか否かを判定することで、マルチパスの有無を検出することが可能である。なお、図9Dについては後で詳しく説明する。
次に、間接反射光が直接反射光よりも早く受光部103に到達するマルチパスの第2例について説明する。この第2例は、フレアとも呼ばれる。
図10は、間接反射光が直接反射光よりも早く返ってくるマルチパス環境の一例を示す図である。
図10では、レンズ109が、受光部103の前に配置されている。物体OBJ1は、測定対象であり、物体OBJ2は、間接光の原因となる物体である。距離測定結果OBJ1Eは、距離情報取得装置から物体OBJ1を観測した場合に、マルチパスに起因する測定誤差によって形成される像である。
図10には、2つの直接光の経路、および、1つの間接光の経路が示されている。
1つ目の直接光の経路は、物体OBJ1を経由する経路であり、直接照射光(D1−Path1)が、物体OBJ1で反射され直接反射光(D1−Path2)となり、レンズ109を通過して受光部103の画素103aに到達する経路である。
2つ目の直接光の経路は、物体OBJ2を経由する経路であり、照射光(D2−Path1)が、物体OBJ2で反射され反射光(D2−Path2)となり、レンズ109を通過して受光部103の画素103bに到達する経路である。
間接光の経路は、レンズ109で反射する経路であり、画素103bで反射した間接反射光(M−Path1)が、レンズ109で散乱し、間接反射光(M−Path2)となって画素103aに到達する経路である。
図11は、間接反射光6C2が直接反射光6C1よりも早く返ってくるマルチパス環境における距離情報取得装置の動作の例を示すタイムチャートである。
図11には、発光制御信号6Aの波形と、照射光6Bの波形と、直接反射光(D1−Path2)6C1の波形と、間接反射光(M−Path2)6C2の波形と、入射光6Cの波形と、露光制御信号6Dの波形とが示されている。
入射光6Cは、混合反射光と背景光とを含む。混合反射光は、直接反射光6C1および間接反射光6C2の和である。このうち、発光制御信号6A、照射光6B、直接反射光6C1および露光制御信号6Dの各波形は、図6に示した発光制御信号4Aの波形、照射光4Bの波形、入射光4Cのうちの反射光の波形、および、露光制御信号4Dの波形と同じである。つまり、図11は、図6に対して、間接反射光6C2および入射光6Cの各波形を追加した図になっている。
図12Aは、図11に示すマルチパス環境において、直接反射光6C1および間接反射光6C2のそれぞれの受光強度の時間波形を示すグラフである。図12Bは、直接反射光6C1および間接反射光6C2を合わせた混合反射光の時間波形を示すグラフである。
図12Aに示すように、間接反射光6C2は、直接反射光6C1よりも短い経路を通っているため、時間的な早さが生じている。直接反射光6C1は、数式11で示される通りであり、間接反射光6C2は、図7Bの第1例と逆になり、時間t早く返ってくるので、数式17から数式21にて未知数の時間t<0とすることで、同様に計算できる。
深度Dは数式1における右辺の第2項であり、数式20の受光量(S1−BG)を数式19の受光量(S0−BG)で除算して求められるが、数式18および数式20の一部である数式21には、未知数の受光強度bt1>0およびマルチパス早まり時間t<0が存在し、その影響を相殺できていない。よって、深度Dは、直接光のみを受光した場合に比べて小さな値となる。
図12Cは、図11に示すマルチパス環境において、照射光6Bを出射してから混合反射光を受光するまでの光往復時間tと深度Dとの関係を示すグラフである。図12Dは、図12Cの深度Dと深度の傾きαとの関係を示すグラフである。
図12Cでは、光往復時間t=0で混合反射光を受光した場合の深度を0とし、光往復時間t=tで混合反射光を受光した場合の深度をD(t)とし、これらを通る曲線を実線で示している。また、図7Cに示した曲線を点線で示している。これらの関係を利用し、第2例においても図12Dに示すように、反射光の深度が直接光のみのときの深度と同じであるか否かを判定することで、マルチパスの有無を検出することが可能である。なお、図12Dについては後で詳しく説明する。
なお、これまで説明したマルチパスは1つの経路の間接反射光であるが、これに限定されるものではなく、以下に示すように、複数経路の間接反射光も本開示に含まれる。
図13Aは、複数の間接光が発生する状態を示す説明図である。
図13Aに示す物体OBJ1は測定対象であり、物体OBJ2および物体OBJ3は、間接光の原因となる物体である。距離測定結果OBJ1Eは、距離情報取得装置から物体OBJ1を観測した場合に、マルチパスによる測定誤差によって形成される像である。この図では、直接光の経路が実線で示され、物体OBJ2を介した3つの間接光の経路、および、物体OBJ3を介した3つの間接光の経路が破線で示されている。
図13Bは、複数の間接光のそれぞれの受光量の時間波形を示すグラフである。
図13Bは、図13Aの6つの間接光を受光部103で別々に受光したと仮定したときの受光量の時間波形を示すグラフである。この図に示すように、間接光の経路が長いほど受光量の立ち上がりが遅くなり、受光量の高さが低くなっている。
図13Cは、複数の間接光の合計受光量の時間波形を示すグラフである。
図13Cに示すように、6つの間接光の受光量を合計した波形でも、図7Bと同様の波形傾向を示している。そのため、間接光が複数発生していても、前述した1つの経路の間接光に近似可能である。つまり、間接光が複数発生した場合でも本知見を適用することができる。
[5.マルチパス有無の判定のしかた]
次に、マルチパスの有無の判定のしかたについて、図7D、図9Dおよび図12Dを参照しながら説明する。このマルチパスの有無の判定では、深度の傾きαまたは2つの深度の差に着目する。
深度Dの傾きα(t)は、所定の光往復時間tにおいて深度Dを微分した値であり、数式22で表される。
Figure 2020197422
数式22に示すように、傾きα(t)は、波形を時間tと逆方向に反転させ、また、時間Tr分だけシフトさせ、1/Sの項により波形面積が1になるように正規化されていることがわかる。
図7Dは、図7Cにて示した深度Dと深度の傾きαとの関係を、縦軸と横軸を逆にして示したグラフである。深度Dの微分である深度の傾きαは、数式23で表される。
Figure 2020197422
数式23において、Δt→0とすることで深度の傾きαを求めることができるが、現実ではΔtを0にすることは難しく、また、Δtが0に近づくほどノイズの影響を大きく受ける。よって、Δtは、ある程度大きな値に設定することが望ましい。具体的には、発光パルスの立ち上がり時間Trの半分または1/3などの時間に設定される。なお、深度の傾きαを使う代わりに、Δtを固定値とし、2つの深度の差を使うことができる。これによれば、除算による計算負荷を軽減し、更に処理負荷を軽減できる。
図9Dは、図9Cで示した深度Dと深度の傾きαの関係を、縦軸と横軸を逆にして示したグラフである。図9Dには、光往復時間t=tで混合反射光を受光したときの深度の傾きα、および、その時の深度D(α)が示されている。また同図には、参照データDrefとして、図7Dで示した直接反射光のみを受光したときの深度と、深度の傾きとの関係が点線で示されている。
図9Dで示すように、混合反射光で算出された深度の傾きαに対応する深度D(α)は、同じ傾きαに対応する深度Dref(α)とは異なる点となる。このように、例えば、直接反射光のみを受光したときの深度Dとその傾きαを参照データDrefとしてあらかじめ保持しておき、実際に測定して取得した深度が参照データDrefと一致しているか否かを判断することで、マルチパスの有無を判定することができる。
図12Dは、図12Cで示した深度Dと深度の傾きαの関係を、縦軸と横軸を逆にして示したグラフである。図12Dには、光往復時間t=tで混合反射光を受光したときの深度の傾きα、および、その時の深度D(α)とが示されている。また同図には、参照データDrefとして、図7Dで示した直接反射光のみを受光したときの深度と、深度の傾きとの関係が点線で示されている。
図12Dで示すように、混合反射光で算出された深度の傾きαに対応する深度D(α)は、同じ傾きαに対応する深度Dref(α)とは異なる点となる。図12Dの例でも、直接反射光のみを受光したときの深度Dとその傾きαを参照データDrefとしてあらかじめ保持しておき、実際に測定して取得した深度が参照データDrefと一致しているか否かを判断することで、マルチパスの有無を判定することができる。
(実施例1)
[1−1.マルチパス検出装置の構成]
本開示の基礎となる知見に基づき、実施例1に係るマルチパス検出装置100の構成について、図14および図15を参照しながら説明する。
図14は、実施例1に係るマルチパス検出装置100の構成例を示すブロック図である。なお、同図には、物体OBJ、照射光および反射光も模式的に示されている。
マルチパス検出装置100は、TOF方式による測距装置である。マルチパス検出装置100は、信号制御部101、発光部102、受光部103、信号処理部104、パルス設定部111、判定部112およびデータ保持部113を備える。なお、マルチパス検出装置100が備えるこれらの機能は、マイクロコンピュータ、マイクロコントローラまたはDSP(Digital Signal Processor)により実現される。マイクロコンピュータ、マイクロコントローラまたはDSPは、マルチパス検出用のプログラムを格納するメモリと、プログラムを実行するCPU(Central Processing Unit)とを備える。
パルス設定部111は、発光パルスおよび露光パルスを設定するためのパルス設定信号を信号制御部101に出力する。
信号制御部101は、発光部102の発光を制御する発光制御信号を発光部102に出力する。また、信号制御部101は、受光部103の露光を制御する露光制御信号を受光部103に出力する。
発光部102は、発光制御信号の発光パルスに従って発光する、つまり照射光を出射する。照射光は、例えば近赤外光である。照射光は、物体OBJにて反射され、反射光となってマルチパス検出装置100に返る。
受光部103は、行列状に配列された複数の画素を有する固体撮像素子である。受光部103は、露光制御信号の露光パルスに従って反射光を受光し、受光信号を信号処理部104に出力する。
信号処理部104は、3種類の発光露光処理で得られた受光信号列から、受光部103の画素毎に第1の深度D1および第2の深度D2、ならびに、第1の輝度B1および第2の輝度B2を算出する。
図15は、実施例1に係るマルチパス検出装置100の動作を示すタイムチャートである。図15には、発光制御信号7Aの波形と、照射光7Bの波形と、入射光7Cの波形と、露光制御信号7Dの波形とが示されている。
マルチパス検出装置100は、深度の傾きαを算出するために、第1の期間に実行するS0露光、S1露光およびBG露光と、第1の期間と異なる第2の期間に実行するS0露光、S1露光およびBG露光とを有している。なお、第1の期間のS0露光、S1露光、BG露光は、図6と同じ設定になっている。
図15に示す第1の発光制御信号Es1、第2の発光制御信号Es2、第3の発光制御信号Es3および第4の発光制御信号Es4のそれぞれは、信号制御部101から出力される発光制御信号である。信号制御部101は、第1の期間のうちの異なる時間帯に第1の発光制御信号Es1および第2の発光制御信号Es2を出力し、第2の期間のうちの異なる時間帯に第3の発光制御信号Es3および第4の発光制御信号Es4を出力する。
第1のタイミングTm1、第2のタイミングTm2、第3のタイミングTm3および第4のタイミングTm4のそれぞれは、露光制御信号7Dによって制御される露光タイミングである。信号制御部101は、第1の期間において第1のタイミングTm1および第2のタイミングTm2となる露光制御信号を出力し、第2の期間において第3のタイミングTm3および第4のタイミングTm4となる露光制御信号7Dを出力する。図15には、第1のタイミングTm1で受光した受光量R1、第2のタイミングTm2で受光した受光量R2、第3のタイミングTm3で受光量R3、および、第4のタイミングTm4で受光した受光量R4が示されている。
図15に示すように、第3の発光制御信号Es3を基準とする第3のタイミングTm3の開始時間は、第1の発光制御信号Es1を基準とする第1のタイミングTm1の開始時間と異なり、第1のタイミングTm1よりも時間Δt遅れている。また、第4の発光制御信号Es4を基準とする第4のタイミングTm4の開始時間は、第2の発光制御信号Es2を基準とする第2のタイミングTm2の開始時間と異なり、第2のタイミングTm2よりも時間Δt遅れている。言い換えれば、第4の発光制御信号Es4を基準とする第4のタイミングTm4の開始時間と第2の発光制御信号Es2を基準とする第2のタイミングTm2の開始時間との差は、第3の発光制御信号Es3を基準とする第3のタイミングTm3の開始時間と第1の発光制御信号Es1を基準とする第1のタイミングTm1の開始時間との差と同じである。
第1の深度D1および第2の深度D2は、信号処理部104によって以下のように求められる。
例えば、第1の深度D1は、信号制御部101からの第1の発光制御信号Es1に対して第1のタイミングTm1で露光することで得られる受光部103の受光量R1と、信号制御部101からの第2の発光制御信号Es2に対して第2のタイミングTm2で露光することで得られる受光部103の受光量R2との比とによって求められる。なお、第2のタイミングTm2は、第1のタイミングTm1と異なるタイミングであり、第1のタイミングTm1よりも時間T遅く始まる。
第2の深度D2は、信号制御部101からの第3の発光制御信号Es3に対して第3のタイミングTm3で露光することで得られる受光部103の受光量R3と、信号制御部101からの第4の発光制御信号Es4に対して第4のタイミングTm4で露光することで得られる受光部103の受光量R4との比によって求められる。なお、第4のタイミングTm4は、第3のタイミングTm3と異なるタイミングであり、第3のタイミングTm3よりも時間Tr遅く始まる。
データ保持部113は、マルチパスでない環境における参照データDrefをあらかじめ保持する。この参照データDrefは、深度に関するデータである。この深度に関するデータは、信号制御部101からの所定の発光制御信号に対して所定のタイミングで露光することで得られる受光部103の受光量と、所定の発光制御信号と異なる時間帯に出力される信号制御部101からの発光制御信号に対して上記所定のタイミングと異なるタイミングで露光することで得られる受光部103の受光量との比によって求められる。
判定部112は、信号処理部104で出力された第1の深度D1および第2の深度D2の差と、上記参照データDrefに基づいて、マルチパスの有無を判定する。具体的には、判定部112は、第1の深度D1および第2の深度D2の差から求められる深度の傾きαとデータ保持部113に保持されている参照データDrefとに基づいて、マルチパスでない環境における参照深度Dref(α)を求める。そして、第1の深度D1と参照深度Dref(α)との差の大きさにより、マルチパスの有無を判定する。
その際、深度の傾きαを使う代わりに、2つの深度の差を用いることができる。具体的には、判定部112は、第1の深度D1および第2の深度D2の差とデータ保持部113に保持されている参照データDrefとに基づいて、マルチパスでない環境における参照深度を求め、第1の深度D1と参照深度Dref(α)との差の大きさにより、マルチパスの有無を判定してもよい。
なお、上記では、第1の深度D1と参照深度Dref(α)との差の大きさにより、マルチパスの有無を判定しているが、それに限られず、第2の深度D2と参照深度Dref(α)との差の大きさにより、マルチパスの有無を判定してもよい。また、参照データDrefは、数式12と数式13を用いた数式で生成されてもよいし、前述した第1の期間のS0露光、S1露光、BG露光と、第2の期間のS0露光、S1露光、BG露光とで、測定対象の距離を変え実測することで生成されてもよい。
[1−2.マルチパス検出方法]
図16は、実施例1に係るマルチパス検出方法を示すフローチャートである。
まず、マルチパスを検出する準備として、マルチパス検出装置100は、マルチパスでない環境における参照データDrefをデータ保持部113に保存する(ステップS10)。マルチパスでない環境とは、直接反射光のみを受光したときの受光信号列であり、例えば図7Dに示すような直接反射光のみで生成される深度Dと傾きαのグラフである。
そして、マルチパス検出装置100は、第1の期間におけるS0露光、S1露光、BG露光を実行する(ステップS11)。具体的には、受光部103は、第1のタイミングTm1の露光によって受光量R1を取得し、第2のタイミングTm2の露光によって受光量R2を取得する。受光量R1および受光量R2は、信号処理部104に出力される。
次に、信号処理部104は、受光量R1と受光量R2との比から第1の深度D1を算出する(ステップS12)。第1の深度D1は、数式1の右辺の第2項によって算出される。
次に、マルチパス検出装置100は、第2の期間におけるS0露光、S1露光、BG露光を実行する(ステップS13)。具体的には、受光部103は、第3のタイミングTm3の露光によって受光量R3を取得し、第4のタイミングTm4の露光によって受光量R4を取得する。受光量R3および受光量R4は、信号処理部104に出力される。
次に、信号処理部104は、受光量R3と受光量R4との比から第2の深度D2を算出する(ステップS14)。第2の深度D2は、数式1の右辺の第2項によって算出される。なお、ステップS13およびステップS14は、ステップS11およびステップS12よりも前に実行されてもよい。
次に、判定部112は、第1の深度D1と第2の深度D2とから深度の傾きαを算出する(ステップS15)。例えば判定部112は、第1の深度D1および第2の深度D2の差から求められる深度の傾きαを求める。
そして判定部112は、深度の傾きαと一致する参照深度Dref(α)を取得する(ステップS16)。具体的には、判定部112は、上記深度の傾きαと、データ保持部113に保持されている参照データDrefとに基づいて、マルチパスでない環境における参照深度Dref(α)を求める。
そして、判定部112は、第1の深度D1と参照深度Dref(α)との差の大きさが閾値THよりも大きいか否かを判断する(ステップS17)。閾値THは、測定誤差をどこまで許すかの判定基準であり、例えば深度が0.0から1.0までの範囲であるとすると、誤差10%まで許容するシステムであればTH=0.1とするなど、後段のシステムが要求する誤差許容量により自由に設定される。
判定部112は、第1の深度D1と参照深度Dref(α)との差の大きさが閾値THよりも大きい場合(S17にてYes)、マルチパス有りと判定する(ステップS18)。一方、判定部112は、第1の深度D1と参照深度Dref(α)との差の大きさが閾値TH以下である場合(S17にてNo)、マルチパスなしと判定する(ステップS19)。これにより、測定対象の距離を測定する際のマルチパスの有無を判定する。
マルチパスなしと判定された場合は、数式12〜数式14を用いて深度Dを求め、距離Lを求めることができる。
マルチパス有りと判定された場合、以下に示す4つの未知数パラメータを求めて、深度Dを補正する。
4つの未知数パラメータのうち、1つ目は、照射光が測定対象から直接反射光として返ってくるまでの光往復時間tであり、2つ目は、直接反射光の立ち下がり開始時における受光強度at1であり、3つ目は、直接光の光往復時間tを基点とした間接反射光のマルチパス遅れ時間tであり、4つ目は、間接反射光の立ち下がり開始時における受光強度bt1である。ここで、マルチパス遅れ時間tは、間接反射光が直接反射光よりも遅い場合であるのでt>0となる。それに対し、図12Aに示すマルチパス早まり時間tは、間接反射光が直接反射光よりも早い場合であるのでt<0となる。
ここで、4つの未知数パラメータを求めるために、4つの測定値を利用する。1つ目は第1の深度D1であり、2つ目は第2の深度D2であり、3つ目は第1の深度D1および第2の深度D2から算出される深度の傾きαである。4つ目は、信号処理部104から出力される輝度情報を用いる。この輝度情報は、第1の期間から算出される第1の輝度B1でもよいし、第2の期間から算出される第2の輝度B2でもよいし、その両方の平均を使用してもよい。
そして、数式24〜数式27に示す4つの方程式を生成し、各方程式が0になるような未知数パラメータt、at1、bt1、tを求める。4つの方程式を解く際、一般的な非線形推定を用いてもよいし、その他高速な推定方法を用いてもよい。
Figure 2020197422
Figure 2020197422
Figure 2020197422
Figure 2020197422
未知数パラメータt、at1、bt1、tが求まると、マルチパスでない環境にあてはめた場合の深度Dを求めることができる。
このように、信号処理部104は、第1のタイミングTm1で露光することで得られる受光部103の受光量R1から求められる第1の輝度B1、および、第3のタイミングTm3で露光することで得られる受光部103の受光量R3から求められる第2の輝度B2を算出する。判定部112は、マルチパスが有ると判定した場合に、第1の輝度B1および第2の輝度B2の少なくとも一方と、第1の深度D1および第2の深度D2の差ならびに参照データDrefとを用いて、第1の深度D1または第2の深度D2を補正する。これにより、マルチパス環境における距離Lを求めることができる。
[1−3.実施例1の変形例]
次に、実施例1の変形例に係るマルチパス検出装置100について、図17を参照しながら説明する。
図17は、実施例1の変形例に係るマルチパス検出装置100の動作を示すタイムチャートである。図17には、発光制御信号8A、照射光8B、入射光8C、露光制御信号8Dが示されている。
第1の期間におけるS0露光、S1露光、BG露光は、図6と同じ設定である。
第2の期間におけるS0露光、S1露光、BG露光は、露光制御信号8Dのタイミングが第1の期間と同じであり、発光制御信号8Aを第1の期間よりもΔt早めている点で、第1の期間と異なる。それに伴い、照射光8B、入射光8Cも、第1の期間に示されるタイミングよりもΔt早くなっている。
変形例においても、図17に示す受光量R1と受光量R2との比から第1の深度D1を算出し、受光量R3と受光量R4との比から第2の深度D2を算出する。そして、第1の深度D1および第2の深度D2の差と、参照データDrefに基づいて、マルチパスの有無を判定することができる。
[1−4.効果等]
本実施の形態のマルチパス検出装置100は、発光制御信号7Aおよび露光制御信号7Dを出力する信号制御部101と、発光制御信号7Aに従って発光する発光部102と、露光制御信号7Dに従って露光することで光を受光する受光部103と、マルチパスでない環境において、信号制御部101からの所定の発光制御信号に従って所定のタイミングで露光することで得られる受光部103の受光量、および、上記所定の発光制御信号と異なる時間帯に出力される信号制御部101からの発光制御信号に従って上記所定のタイミングと異なるタイミングで露光することで得られる受光部103の受光量の比によって求まる深度に関する参照データDrefを保持するデータ保持部113と、信号制御部101からの第1の発光制御信号Es1に従って第1のタイミングTm1で露光することで得られる受光部103の受光量R1と、第1の発光制御信号Es1と異なる時間帯に出力される信号制御部101からの第2の発光制御信号Es2に従って第1のタイミングTm1と異なる第2のタイミングTm2で露光することで得られる受光部103の受光量R2との比とによって求まる第1の深度D1、および、信号制御部101からの第3の発光制御信号Es3に従って第3のタイミングTm3で露光することで得られる受光部103の受光量R3と、第3の発光制御信号Es3と異なる時間帯に出力される信号制御部101からの第4の発光制御信号Es4に従って第3のタイミングTm3と異なる第4のタイミングTm4で露光することで得られる受光部103の受光量R4との比によって求まる第2の深度D2を算出する信号処理部104と、第1の深度D1および第2の深度D2の差と参照データDrefとを用いてマルチパスの有無を判定する判定部112と、を備える。
このように、信号処理部104が、受光量R1と受光量R2との比から第1の深度D1を求め、受光量R3と受光量R4との比から第2の深度D2を算出し、判定部112が、第1の深度D1および第2の深度D2の差と、参照データDrefとに基づいて、マルチパスの有無を判定することで、マルチパスの有無を判定するための処理負荷を軽減することができる。
また、発光部102の照射光の波形は、単調増加した後、単調減少する歪みパルス波形であってもよい。
これによれば、深度と深度の傾きとの関係が1対1となり、マルチパス検出の処理負荷を軽減することができる。
また、第4の発光制御信号Es4を基準とする第4のタイミングTm4の開始時間は、第2の発光制御信号Es2を基準とする第2のタイミングTm2の開始時間と異なっていてもよい。
これによれば、発光パルスおよび露光パルスの設定を調整するTOF方式によるマルチパス検出装置において、標準的に搭載される機能を拡張使用してマルチパスを検出することが可能となり、マルチパス検出装置100のコストを低減できる。
また、第3の発光制御信号Es3を基準とする第3のタイミングTm3の開始時間は、第1の発光制御信号Es1を基準とする第1のタイミングTm1の開始時間と異なっていてもよい。
これによれば、発光パルスおよび露光パルスの設定を調整するTOF方式によるマルチパス検出装置において、標準的に搭載される機能を拡張使用してマルチパスを検出することが可能となり、マルチパス検出装置100のコストを低減できる。
また、第4の発光制御信号Es4を基準とする第4のタイミングTm4の開始時間と第2の発光制御信号Es2を基準とする第2のタイミングTm2の開始時間との差は、第3の発光制御信号Es3を基準とする第3のタイミングTm3の開始時間と第1の発光制御信号Es1を基準とする第1のタイミングTm1の開始時間との差と同じであってもよい。
これによれば、2つの受光量の比によって算出される深度を正確に求めることができる。これにより、2つの深度の差と、参照データDrefに基づいて、マルチパスの有無を正確に判定することができる。
また、信号制御部101は、異なる時間帯に第1の発光制御信号Es1および第3の発光制御信号Es3を出力してもよい。
これによれば、第1の深度D1および第2の深度を簡易に求めることができるので、マルチパスの有無を判定するための処理負荷を軽減することができる。
また、データ保持部113は、参照データDrefとして、深度と深度の傾きとの関係を保持し、判定部112は、第1の深度D1および第2の深度D2の差から求められる深度の傾きαとデータ保持部113に保持されている参照データDrefとに基づいて、マルチパスでない環境における参照深度Dref(α)を求め、第1の深度D1または第2の深度D2と参照深度Dref(α)との差の大きさによりマルチパスの有無を判定してもよい。
このように、深度の傾きαと参照データDrefとに基づいて、マルチパスでない環境における参照深度Dref(α)を求め、例えば第1の深度D1と参照深度Dref(α)との差の大きさによりマルチパスの有無を判定することで、マルチパスの有無を判定するための処理負荷を軽減することができる。
また、判定部112は、第1の深度D1および第2の深度D2の差とデータ保持部113に保持されている参照データDrefとに基づいて、マルチパスでない環境における参照深度Dref(α)を求め、第1の深度D1または第2の深度D2と参照深度Dref(α)との差の大きさによりマルチパスの有無を判定してもよい。
このように、2つの深度の差と参照データDrefとに基づいて、マルチパスでない環境における参照深度Dref(α)を求め、例えば第1の深度D1と参照深度Dref(α)との差の大きさによりマルチパスの有無を判定することで、マルチパスの有無を判定するための処理負荷を軽減することができる。
また、信号処理部104は、第1のタイミングTm1で露光することで得られる受光部103の受光量R1から求められる第1の輝度B1、および、第3のタイミングTm3で露光することで得られる受光部103の受光量R3から求められる第2の輝度B2を算出し、判定部112は、マルチパスが有ると判定した場合に、第1の輝度B1および第2の輝度B2の少なくとも一方と、第1の深度D1および第2の深度D2の差ならびに参照データDrefとを用いて、第1の深度D1を補正してもよい。
これによれば、マルチパスによる測定誤差のない状態での深度を算出することができ、算出した深度にて正しい距離を測定することができる。
本実施の形態のマルチパス検出方法は、マルチパスでない環境において、所定の発光制御信号に従って所定のタイミングで露光することで得られる受光量と、上記所定の発光制御信号と異なる時間帯に出力される発光制御信号に従って上記所定のタイミングと異なるタイミングで露光することで得られる受光量との比によって求まる深度に関する参照データDrefを保存するステップと、第1の発光制御信号Es1に従って第1のタイミングTm1で露光することで得られる受光量R1と、第1の発光制御信号Es1と異なる時間帯に出力される第2の発光制御信号Es2に従って第1のタイミングTm1と異なる第2のタイミングTm2で露光することで得られる受光量R2との比によって求まる第1の深度D1を算出するステップと、第3の発光制御信号Es3に従って第3のタイミングTm3で露光することで得られる受光量R3と、第3の発光制御信号Es3と異なる時間帯に出力される第4の発光制御信号Es4に従って第3のタイミングTm3と異なる第4のタイミングTm4で露光することで得られる受光量R4との比によって求まる第2の深度D2を算出するステップと、第1の深度D1および第2の深度D2の差と参照データDrefとを用いてマルチパスの有無を判定するステップと、を含む。
このように、受光量R1と受光量R2との比から第1の深度D1を求め、受光量R3と受光量R4との比から第2の深度D2を算出し、第1の深度D1および第2の深度D2の差と、参照データDrefとに基づいて、マルチパスの有無を判定することで、マルチパスの有無を判定するための処理負荷を軽減することができる。
(実施例2)
次に、実施例2に係るマルチパス検出装置100について、図18〜図20を参照しながら説明する。実施例1では、第1の期間および第2の期間を時系列で実行する例を説明したが、実施例2では、第1の期間および第2の期間のS0露光、S1露光、BG露光を2つの画素のそれぞれに対応させて、かつ、一斉に実行する例について説明する。
図18は、実施例2に係るマルチパス検出装置100の構成例を示すブロック図である。
信号制御部101は、図17の第1の期間および第2の期間に相当するタイミング信号を同時に生成し、出力する。例えば、信号制御部101は、露光制御信号9Dを受光部103の第1画素103a1に出力し、露光制御信号9Fを受光部103の第2画素103a2に出力する。
受光部103は、第1画素103a1と第2画素103a2とを含む。第1画素103a1は、露光制御信号9Dを受けることで作動し、第2画素103a2は、露光制御信号9Fを受けることで作動する。
信号処理部104は、画素301a1から受光量に関する受光信号1を受け取り、第1の深度D1および第1の輝度B1を算出する。また、画素301a2から受光量に関する受光信号2を受け取り、第2の深度D2と第2の輝度B2を算出する。そして、第1の深度D1、第2の深度D2、第1の輝度B1および第2の輝度B2に関する情報を判定部112に出力する。
図19は、実施例2に係るマルチパス検出装置100の動作を示すタイムチャートである。同図には、発光制御信号9A、照射光9B、入射光9C、露光制御信号9D、入射光9E、露光制御信号9Fが示されている。同図にて、発光制御信号9A、照射光9B、入射光9C、露光制御信号9Dで示されたタイミングは、図6と同じ設定である。
図19に示すように、第1の発光制御信号Es1および第3の発光制御信号Es3が、同時に出力され、また、第2の発光制御信号Es2および第4の発光制御信号Es4が、同時に出力される。
また、第1の発光制御信号Es1を基準とする第1のタイミングTm1で露光制御信号9Dが出力され、第2の発光制御信号Es2を基準とする第2のタイミングTm2で露光制御信号9Dが出力される。また、第3の発光制御信号Es3を基準とする第3のタイミングTm3で露光制御信号9Fが出力され、第4の発光制御信号Es4を基準とする第4のタイミングTm4で露光制御信号9Fが出力される。第3のタイミングTm3の開始時間は、第1のタイミングTm1よりも時間Δt遅れ、第4のタイミングTm4の開始時間は、第2のタイミングTm2よりも時間Δt遅れている。また、第2のタイミングTm2は、発光制御信号9Aを基準として第1のタイミングTm1よりも時間T遅く始まり、また、第4のタイミングTm4は、発光制御信号9Aを基準として第3のタイミングTm3よりも時間T遅く始まっている。
図20は、実施例2に係るマルチパス検出方法を示すフローチャートである。
まず、マルチパスを検出する準備として、マルチパス検出装置100は、マルチパスでない環境における参照データDrefをデータ保持部113に保存する(ステップS20)。
そして、マルチパス検出装置100は、第1の期間および第2の期間に相当するS0露光、S1露光、BG露光を実行する(ステップS21)。具体的には、受光部103は、第1のタイミングTm1の露光によって受光量R1を取得し、第2のタイミングTm2の露光によって受光量R2を取得し、第3のタイミングTm3の露光によって受光量R3を取得し、第4のタイミングTm4の露光によって受光量R4を取得する。受光量R1〜R4は、信号処理部104に出力される。
次に、信号処理部104は、受光量R1と受光量R2との比から第1の深度D1を算出し、受光量R3と受光量R4との比から第2の深度D2を算出する(ステップS22)。
次に、判定部112は、第1の深度D1と第2の深度D2とから深度の傾きαを算出する(ステップS25)。例えば判定部112は、第1の深度D1および第2の深度D2の差から求められる深度の傾きαを求める。
そして判定部112は、深度の傾きαと一致する参照深度Dref(α)を取得する(ステップS26)。具体的には、判定部112は、上記深度の傾きαと、データ保持部113に保持されている参照データDrefとに基づいて、マルチパスでない環境における参照深度Dref(α)を求める。
そして、判定部112は、第1の深度D1と参照深度Dref(α)との差の大きさが閾値THよりも大きいか否かを判断する(ステップS27)。
判定部112は、第1の深度D1と参照深度Dref(α)との差の大きさが閾値THよりも大きい場合(S27にてYes)、マルチパス有りと判定する(ステップS28)。一方、判定部112は、第1の深度D1と参照深度Dref(α)との差の大きさが閾値TH以下である場合(S27にてNo)、マルチパスなしと判定する(ステップS29)。これにより、測定対象の距離を測定する際のマルチパスの有無を判定する。
マルチパスなしと判定された場合は、数式12〜数式14を用いて深度Dを求め、距離Lを求めることができる。
マルチパスありと判定された場合、前述した深度、輝度、傾きにより、実施例1と同様に補正をすることもできる。さらに、実施例1よりも少ないフレーム数で必要な受光信号を取得することができ、マルチパス検出と補正の高速化が図れる。
このように、実施例2に係るマルチパス検出装置100は、図19に示す受光量R1と受光量R2との比から第1の深度D1を算出し、受光量R3と受光量R4との比から第2の深度D2を算出する。そして、第1の深度D1および第2の深度D2の差と、参照データDrefに基づいて、マルチパスの有無を判定するので、マルチパスの有無を判定するための処理負荷を軽減することができる。
また、信号制御部101は、第1の発光制御信号Es1および第3の発光制御信号Es3を同時に出力し、第2の発光制御信号Es2および第4の発光制御信号Es4を同時に出力し、かつ、第1の発光制御信号Es1に対する露光および第2の発光制御信号Es2に対する露光を行うための露光制御信号9Dを受光部103の第1画素103a1に出力し、第3の発光制御信号Es3に対する露光および第4の発光制御信号Es4に対する露光を行うための露光制御信号9Fを受光部103の第2画素103a2に出力する。
これによれば、2画素を用いて第1の期間および第2の期間を同時に行うことができ、マルチパス検出動作のリアルタイム処理を簡易化することができる。
(その他の実施の形態)
以上、実施の形態について説明したが、本開示は、上記実施の形態に限定されるものではない。実施の形態に対して当業者が思いつく各種変形を施して得られる形態や、本開示の趣旨を逸脱しない範囲で各実施の形態における構成要素および機能を任意に組み合わせることで実現される形態も本開示に含まれる。
本開示におけるマルチパス検出装置および波マルチパス検出方法は、例えば、TOFカメラシステムに広く適用可能である。
7A、8A、9A 発光制御信号
7B、8B、9B 照射光
7C、8C、9C、9E 入射光
7D、8D、9D、9F 露光制御信号
100 マルチパス検出装置
101 信号制御部
102 発光部
103 受光部
103a、103b 画素
103a1 第1画素
103a2 第2画素
104 信号処理部
109 レンズ
111 パルス設定部
112 判定部
113 データ保持部
B 輝度
B1 第1の輝度
B2 第2の輝度
D 深度
D1 第1の深度
D2 第2の深度
Dref 参照データ
Es1 第1の発光制御信号
Es2 第2の発光制御信号
Es3 第3の発光制御信号
Es4 第4の発光制御信号
I 発光強度
L 距離
OBJ、OBJ1、OBJ2、OBJ3 物体
OBJ1E 距離測定結果
R1、R2、R3、R4 受光量
Tm1 第1のタイミング
Tm2 第2のタイミング
Tm3 第3のタイミング
Tm4 第4のタイミング
TH 閾値
α 深度の傾き

Claims (11)

  1. 発光制御信号および露光制御信号を出力する信号制御部と、
    前記発光制御信号に従って発光する発光部と、
    前記露光制御信号に従って露光することで光を受光する受光部と、
    マルチパスでない環境において、前記信号制御部からの所定の発光制御信号に従って所定のタイミングで露光することで得られる前記受光部の受光量、および、前記所定の発光制御信号と異なる時間帯に出力される前記信号制御部からの発光制御信号に従って前記所定のタイミングと異なるタイミングで露光することで得られる前記受光部の受光量の比によって求まる深度に関する参照データを保持するデータ保持部と、
    前記信号制御部からの第1の発光制御信号に従って第1のタイミングで露光することで得られる前記受光部の受光量と、前記第1の発光制御信号と異なる時間帯に出力される前記信号制御部からの第2の発光制御信号に従って前記第1のタイミングと異なる第2のタイミングで露光することで得られる前記受光部の受光量との比とによって求まる第1の深度、および、前記信号制御部からの第3の発光制御信号に従って第3のタイミングで露光することで得られる前記受光部の受光量と、前記第3の発光制御信号と異なる時間帯に出力される前記信号制御部からの第4の発光制御信号に従って前記第3のタイミングと異なる第4のタイミングで露光することで得られる前記受光部の受光量との比によって求まる第2の深度を算出する信号処理部と、
    前記第1の深度および前記第2の深度の差と前記参照データとを用いて前記マルチパスの有無を判定する判定部と、
    を備えるマルチパス検出装置。
  2. 前記発光部の照射光の波形は、単調増加した後、単調減少する歪みパルス波形である
    請求項1に記載のマルチパス検出装置。
  3. 前記第4の発光制御信号を基準とする前記第4のタイミングの開始時間は、前記第2の発光制御信号を基準とする前記第2のタイミングの開始時間と異なる
    請求項1または2に記載のマルチパス検出装置。
  4. 前記第3の発光制御信号を基準とする前記第3のタイミングの開始時間は、前記第1の発光制御信号を基準とする前記第1のタイミングの開始時間と異なる
    請求項3に記載のマルチパス検出装置。
  5. 前記第4の発光制御信号を基準とする前記第4のタイミングの開始時間と前記第2の発光制御信号を基準とする前記第2のタイミングの開始時間との差は、前記第3の発光制御信号を基準とする前記第3のタイミングの開始時間と前記第1の発光制御信号を基準とする前記第1のタイミングの開始時間との差と同じである
    請求項4に記載のマルチパス検出装置。
  6. 前記信号制御部は、異なる時間帯に前記第1の発光制御信号および前記第3の発光制御信号を出力する
    請求項1〜5のいずれか1項に記載のマルチパス検出装置。
  7. 前記信号制御部は、前記第1の発光制御信号および前記第3の発光制御信号を同時に出力し、前記第2の発光制御信号および前記第4の発光制御信号を同時に出力し、かつ、前記第1の発光制御信号に対する露光および前記第2の発光制御信号に対する露光を行うための前記露光制御信号を前記受光部の第1画素に出力し、前記第3の発光制御信号に対する露光および前記第4の発光制御信号に対する露光を行うための前記露光制御信号を前記受光部の第2画素に出力する、
    請求項1〜5のいずれか1項に記載のマルチパス検出装置。
  8. 前記データ保持部は、前記参照データとして、前記深度と深度の傾きとの関係を保持し、
    前記判定部は、前記第1の深度および前記第2の深度の差から求められる深度の傾きと前記データ保持部に保持されている前記参照データとに基づいて、前記マルチパスでない環境における参照深度を求め、前記第1の深度または前記第2の深度と前記参照深度との差の大きさにより前記マルチパスの有無を判定する
    請求項1〜7のいずれか1項に記載のマルチパス検出装置。
  9. 前記判定部は、前記第1の深度および前記第2の深度の差と前記データ保持部に保持されている前記参照データとに基づいて、前記マルチパスでない環境における参照深度を求め、前記第1の深度または前記第2の深度と前記参照深度との差の大きさにより前記マルチパスの有無を判定する
    請求項1〜7のいずれか1項に記載のマルチパス検出装置。
  10. 前記信号処理部は、前記第1のタイミングで露光することで得られる前記受光部の受光量から求められる第1の輝度、および、前記第3のタイミングで露光することで得られる前記受光部の受光量から求められる第2の輝度を算出し、
    前記判定部は、前記マルチパスが有ると判定した場合に、前記第1の輝度および前記第2の輝度の少なくとも一方と、前記第1の深度および前記第2の深度の差ならびに前記参照データとを用いて、前記第1の深度を補正する
    請求項1〜8のいずれか1項に記載のマルチパス検出装置。
  11. マルチパスでない環境において、所定の発光制御信号に従って所定のタイミングで露光することで得られる受光量と、前記所定の発光制御信号と異なる時間帯に出力される発光制御信号に従って前記所定のタイミングと異なるタイミングで露光することで得られる受光量との比によって求まる深度に関する参照データを保存するステップと、
    第1の発光制御信号に従って第1のタイミングで露光することで得られる受光量と、前記第1の発光制御信号と異なる時間帯に出力される第2の発光制御信号に従って前記第1のタイミングと異なる第2のタイミングで露光することで得られる受光量との比によって求まる第1の深度を算出するステップと、
    第3の発光制御信号に従って第3のタイミングで露光することで得られる受光量と、前記第3の発光制御信号と異なる時間帯に出力される第4の発光制御信号に従って前記第3のタイミングと異なる第4のタイミングで露光することで得られる受光量との比によって求まる第2の深度を算出するステップと、
    前記第1の深度および前記第2の深度の差と前記参照データとを用いて前記マルチパスの有無を判定するステップと、
    を含むマルチパス検出方法。
JP2019102968A 2019-05-31 2019-05-31 マルチパス検出装置およびマルチパス検出方法 Active JP7468999B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019102968A JP7468999B2 (ja) 2019-05-31 2019-05-31 マルチパス検出装置およびマルチパス検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019102968A JP7468999B2 (ja) 2019-05-31 2019-05-31 マルチパス検出装置およびマルチパス検出方法

Publications (2)

Publication Number Publication Date
JP2020197422A true JP2020197422A (ja) 2020-12-10
JP7468999B2 JP7468999B2 (ja) 2024-04-16

Family

ID=73647864

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019102968A Active JP7468999B2 (ja) 2019-05-31 2019-05-31 マルチパス検出装置およびマルチパス検出方法

Country Status (1)

Country Link
JP (1) JP7468999B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022158603A1 (ja) * 2021-01-25 2022-07-28 凸版印刷株式会社 距離画像撮像装置、及び距離画像撮像方法
WO2024014547A1 (ja) * 2022-07-15 2024-01-18 Toppanホールディングス株式会社 距離画像撮像装置、及び距離画像撮像方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017015448A (ja) * 2015-06-29 2017-01-19 株式会社デンソー 光飛行型測距装置
KR20170105295A (ko) * 2016-03-09 2017-09-19 주식회사 히타치엘지 데이터 스토리지 코리아 거리 측정 장치
JP2019504326A (ja) * 2016-02-08 2019-02-14 株式会社デンソー マルチパス誤差を検出するための飛行時間型距離測定装置及び方法
WO2020121705A1 (ja) * 2018-12-14 2020-06-18 パナソニックセミコンダクターソリューションズ株式会社 撮像装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6241793B2 (ja) 2012-12-20 2017-12-06 パナソニックIpマネジメント株式会社 3次元測定装置および3次元測定方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017015448A (ja) * 2015-06-29 2017-01-19 株式会社デンソー 光飛行型測距装置
JP2019504326A (ja) * 2016-02-08 2019-02-14 株式会社デンソー マルチパス誤差を検出するための飛行時間型距離測定装置及び方法
KR20170105295A (ko) * 2016-03-09 2017-09-19 주식회사 히타치엘지 데이터 스토리지 코리아 거리 측정 장치
WO2020121705A1 (ja) * 2018-12-14 2020-06-18 パナソニックセミコンダクターソリューションズ株式会社 撮像装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022158603A1 (ja) * 2021-01-25 2022-07-28 凸版印刷株式会社 距離画像撮像装置、及び距離画像撮像方法
WO2024014547A1 (ja) * 2022-07-15 2024-01-18 Toppanホールディングス株式会社 距離画像撮像装置、及び距離画像撮像方法

Also Published As

Publication number Publication date
JP7468999B2 (ja) 2024-04-16

Similar Documents

Publication Publication Date Title
JP2020003446A (ja) 光測距装置
JP6698655B2 (ja) 測距装置
JP6676866B2 (ja) 測距撮像装置及び固体撮像素子
JP6890263B2 (ja) 撮像制御装置、撮像制御方法、プログラムおよび記録媒体
JP6241793B2 (ja) 3次元測定装置および3次元測定方法
US7408627B2 (en) Methods and system to quantify depth data accuracy in three-dimensional sensors using single frame capture
KR20100025228A (ko) 깊이 영상 획득 장치 및 방법
JP2020197422A (ja) マルチパス検出装置およびマルチパス検出方法
JP2010091377A (ja) 光学式測距装置及び方法
JP2006322834A (ja) 距離測定装置、及び距離測定方法
JP4446912B2 (ja) 測定装置、移動体および信号処理回路
JP2010190675A (ja) 距離画像センサシステムおよび距離画像生成方法
US20240159879A1 (en) Detection control method and apparatus
WO2020145035A1 (ja) 距離測定装置及び距離測定方法
JP2016166814A (ja) 光学式検知装置
CN109115334A (zh) 光检测装置
JP2020160044A (ja) 測距装置および測距方法
JP2006329902A (ja) 測距装置及び測距方法
JP2021139625A (ja) 物体検知装置
US20220276358A1 (en) Distance-measuring imaging device
CN114545358A (zh) 多路径检测装置及多路径检测方法
TW202331204A (zh) 測量裝置及測量方法
JP6912449B2 (ja) 測距装置を有する物体監視システム
JP2020051991A (ja) 奥行取得装置、奥行取得方法およびプログラム
JP2001074827A (ja) 測距装置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20200217

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20200520

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220523

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230822

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231010

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240319

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240404

R150 Certificate of patent or registration of utility model

Ref document number: 7468999

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150