JP6855746B2 - 測距装置、監視カメラ、3次元計測装置、移動体、ロボット及び測距方法 - Google Patents

測距装置、監視カメラ、3次元計測装置、移動体、ロボット及び測距方法 Download PDF

Info

Publication number
JP6855746B2
JP6855746B2 JP2016204433A JP2016204433A JP6855746B2 JP 6855746 B2 JP6855746 B2 JP 6855746B2 JP 2016204433 A JP2016204433 A JP 2016204433A JP 2016204433 A JP2016204433 A JP 2016204433A JP 6855746 B2 JP6855746 B2 JP 6855746B2
Authority
JP
Japan
Prior art keywords
distance
dynamic change
frame
moving average
frames
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016204433A
Other languages
English (en)
Other versions
JP2018066609A (ja
Inventor
周 高橋
周 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2016204433A priority Critical patent/JP6855746B2/ja
Priority to US15/712,311 priority patent/US10684121B2/en
Publication of JP2018066609A publication Critical patent/JP2018066609A/ja
Application granted granted Critical
Publication of JP6855746B2 publication Critical patent/JP6855746B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/14Measuring arrangements characterised by the use of optical techniques for measuring distance or clearance between spaced objects or spaced apertures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • G01S17/32Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated
    • G01S17/36Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated with phase comparison between the received signal and the contemporaneously transmitted signal
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/497Means for monitoring or calibrating
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/005General purpose rendering architectures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B2210/00Aspects not specifically covered by any group under G01B, e.g. of wheel alignment, caliper-like sensors
    • G01B2210/10Wheel alignment
    • G01B2210/30Reference markings, reflector, scale or other passive device
    • G01B2210/306Mirror, prism or other reflector

Description

本発明は、測距装置、監視カメラ、3次元計測装置、移動体、ロボット及び測距方法に関する。
近年、物体までの距離を測定するための測距技術の開発が盛んに行われている。
例えば、特許文献1及び2には、光を投光してから、該光が物体で反射して戻ってくるまでの時間に基づいて物体までの距離を求める、いわゆるTOF(Time of Flight)演算方式を用いた測距技術が開示されている。
しかしながら、特許文献1及び2に開示されている測距技術では、物体の動的変化の有無によらず該物体までの距離を精度良く測定することに関して改善の余地があった。
本発明は、パルス光を投光する投光系と、前記投光系から投光され物体で反射された光を受光して光電変換し、その電気信号を複数の位相信号に振り分ける撮像素子と、前記複数の位相信号又は該複数の位相信号に基づく値を含む情報を保存するための記憶部と、現フレーム及び少なくとも1つの過去フレームの前記情報に基づいて、前記物体の動的変化の有無を判定する判定部と、前記判定部での判定結果に応じて、前記情報を用いて前記物体までの距離を算出する演算部と、を備え、前記演算部は、前記判定部で動的変化なしと判定された場合に、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームの前記情報を移動平均し、該移動平均の結果から前記距離を取得し、前記判定部で動的変化ありと判定された場合に、現フレームの直前のフレームを含む複数の過去フレームの前記情報を移動平均し、該移動平均の結果から前記距離を取得することを特徴とする測距装置である。


本発明によれば、物体の動的変化の有無によらず該物体までの距離を精度良く測定することができる。
本発明の一実施形態に係る距離センサを搭載した走行体の外観図である。 走行管理装置の構成を説明するためのブロック図である。 距離センサの構成を説明するための図である。 投光系を説明するための図である。 パルス制御信号を説明するための図である。 光源駆動信号を説明するための図である。 受光系を説明するための図である。 距離センサにおける信号の流れを示す図である。 音声・警報発生装置の構成を説明するためのブロック図である。 正弦波変調方式(4位相式)の1フレームを説明するためのタイミングチャートである。 矩形波変調方式(2位相式)の1フレームを説明するためのタイミングチャートである。 測距処理1について説明するためのフローチャートである。 測距処理2について説明するためのフローチャートである。 測距処理3について説明するためのフローチャートである。 測距処理4について説明するためのフローチャートである。 測距処理5について説明するためのフローチャートである。
以下、本発明の一実施形態を図面に基づいて説明する。図1には、一実施形態の測距装置としての距離センサ20を搭載した走行体1の外観が示されている。この走行体1は、荷物を目的地に無人搬送するものである。なお、本明細書では、XYZ3次元直交座標系において、路面に直交する方向をZ軸方向、走行体1の前進方向を+X方向として説明する。
ここでは、距離センサ20は、一例として、走行体1の前部に取り付けられ、走行体1の+X側(前方)の3次元情報を求める。なお、距離センサ20による測定可能な領域を測定領域ともいう。
走行体1の内部には、一例として図2に示されるように、表示装置30、位置制御装置40、メモリ50、及び音声・警報発生装置60などが備えられている。これらは、データの伝送が可能なバス70を介して電気的に接続されている。
ここでは、距離センサ20と、表示装置30と、位置制御装置40と、メモリ50と、音声・警報発生装置60とによって、走行管理装置10が構成されている。すなわち、走行管理装置10は、走行体1に搭載されている。また、走行管理装置10は、走行体1のメインコントローラ80と電気的に接続されている。
距離センサ20は、一例として図3に示されるように、投光系201、受光系202、距離演算部203、バッファメモリ204、動的変化有無判定部205、同期制御部206などを有している。そして、これらは、筐体内に収納されている。この筐体は、投光系201から投光される光、及び物体で反射され、受光系202に向かう光が通過するための窓を有し、該窓にはガラスが取り付けられている。
投光系201は、受光系202の−Z側に配置されている。この投光系201は、一例として図4に示されるように、光源21及び光源駆動部25などを有している。
光源21は、光源駆動部25によって点灯及び消灯される。ここでは、光源21としてLED(発光ダイオード)が用いられているが、これに限らず、例えば半導体レーザ(端面発光レーザや面発光レーザ)等の他の光源を用いても良い。光源21は、+X方向に光を射出するように配置されている。なお、以下では、光源駆動部25で生成され、光源21を駆動するための信号を「光源駆動信号」と呼ぶ。
光源駆動部25は、同期制御部206からのパルス制御信号(パルス幅T、パルス周期Tのパルス信号、図5参照)に基づいて、光源駆動信号(図6参照)を生成する。この光源駆動信号は、光源21に送出される。なお、以下では、光源駆動信号を「駆動パルス」とも呼ぶ。
これにより、光源21からは、同期制御部206から指示されたパルス幅、パルス周期のパルス光が射出される。なお、光源21から射出されるパルス光は、デューティ(duty)が50%以下となるように、同期制御部206において設定されている。また、以下では、光源21から射出されるパルス光を「投光波」や「投光パルス」とも呼ぶ。
走行体1のメインコントローラ80は、走行体1を走行させる際に、位置制御の開始要求を位置制御装置40に送出する。そして、走行体1のメインコントローラ80は、走行体1が目的位置に到達すると、位置制御の終了要求を位置制御装置40に送出する。
位置制御装置40は、位置制御の開始要求、及び位置制御の終了要求を受け取ると、距離演算部203に送出する。
距離センサ20から射出され物体で反射された光の一部は、距離センサ20に戻ってくる。以下では、便宜上、物体で反射され距離センサ20に戻ってくる光を「物体からの反射光」ともいう。
受光系202は、物体からの反射光を検出する。受光系202は、一例として図7に示されるように、結像光学系28及びイメージセンサ29などを有している。
結像光学系28は、物体からの反射光の光路上に配置され、該光を集光する。ここでは、結像光学系28は1枚のレンズで構成されているが、2枚のレンズで構成されても良いし、3枚以上のレンズで構成されても良いし、ミラー光学系を用いても良い。
イメージセンサ29は、結像光学系28を介した物体からの反射光を受光する。ここでは、イメージセンサ29として、複数の受光部(例えばフォトダイオードやフォトトランジスタ)が2次元配列されたエリアイメージセンサが用いられている。以下では、イメージセンサ29で受光される物体からの反射光を「受光波」や「受光パルス」とも呼ぶ。イメージセンサ29の「受光部」は「画素」とも呼ばれる。
イメージセンサ29は、受光した光を画素毎に光電変換し、その電気信号(受光信号)を時間的に分割し、時間毎の複数の信号(位相信号)に振り分ける。
詳述すると、イメージセンサ29は、受光部毎に2つの電荷蓄積部を有しており、TX1信号(図8参照)がハイレベルのときは、該受光部で光電変換された信号電荷が一方の電荷蓄積部に蓄積され、TX2信号(図8参照)がハイレベルのときは、該受光部で光電変換された信号電荷が他方の電荷蓄積部に蓄積される。また、イメージセンサ29は、TXD信号(図8参照)がハイレベルのときは、電荷の蓄積を行わず、リセット信号(図8参照)がハイレベルになると、2つの電荷蓄積部に蓄積されている電荷量を0にする。
バッファメモリ204には、イメージセンサ29のフレーム毎の出力信号(複数の位相信号)が一時的に保存される。バッファメモリ204は、複数の記憶領域を有している。
動的変化有無判定部205は、イメージセンサ29の現フレーム(最新のフレーム)の出力信号(複数の位相信号)と、バッファメモリ204に保存された、イメージセンサ29の過去フレーム(現フレームよりも時間的に前のフレーム)の出力信号(複数の位相信号)に基づいて、物体の動的変化(移動や変形)の有無を画素毎に判定し、その判定結果を距離演算部203に出力する。ここで、「物体の動的変化の有無を画素毎に判定する」とは、イメージセンサ29で撮像される少なくとも1つの物体の動的変化の有無を画素毎に判定することを意味する。
距離演算部203は、イメージセンサ29の各画素について、動的変化有無判定部205での判定結果に応じて、イメージセンサ29の出力信号(複数の位相信号)を用いて、光源21の射出タイミング(投光波の出力タイミング)とイメージセンサ29の受光タイミング(受光波の入力タイミング)の時間差(遅延時間)を求め、該時間差から物体までの距離を算出して少なくとも1つの物体の3次元情報である距離画像(デプスマップ)を生成し、位置制御装置40に出力する。
同期制御部206は、図8に示されるように、距離演算部203から測定開始信号を受信すると、パルス制御信号を光源駆動部25に出力するとともに、TX1信号、TX2信号、TXD信号及びリセット信号をイメージセンサ29に選択的に出力する。また、同期制御部206は、距離演算部203から測定終了信号を受信すると、上記各信号の出力を停止する。
図2に戻り、位置制御装置40は、距離演算部203から距離画像を受け取ると、該距離画像を表示装置30に表示する。また、位置制御装置40は、距離画像に基づいて、走行体1の位置が所定の位置となるように、位置制御を行う。
音声・警報発生装置60は、一例として図9に示されるように、音声合成装置61、警報信号生成装置62及びスピーカ63などを有している。
音声合成装置61は、複数の音声データを有しており、位置制御装置40から危険有りの情報を受け取ると、対応する音声データを選択し、スピーカ63に出力する。
警報信号生成装置62は、位置制御装置40から危険有りの情報を受け取ると、対応する警報信号を生成し、スピーカ63に出力する。
ここで、本実施形態の距離センサ20は、一例として「正弦波変調方式」と呼ばれるTOF法や「矩形波変調方式」と呼ばれるTOF法を用いて測距を行う。
「正弦波変調方式」では、受光波を時間的に3つ以上に分割して検出し、得られた各位相信号を用いて、投光波の出力タイミングに対する受光波の入力タイミングの遅延時間Tdを位相差角の演算で取得する。
一例として4位相式の正弦波変調方式の位相差演算方法について図10を用いて説明する。図10では、パルス制御信号に基づく投光波とTX1(0°)信号が同期して出力される。図10に示される1フレーム構成によって、受光パルスを0°、90°、180°、270°の4つの位相に分割した位相信号(A0、A90、A180、A270)を取得し、次の(1)式を使って位相差角Φを求める。
Φ=arctan{(A90−A270)/(A0−A180)} ・・・(1)
遅延時間Tdは、位相差角Φを用いて、次の(2)式から求めることができる。
Td=Φ/2π×T(T=2T0、T0:駆動パルスのパルス幅) ・・・(2)
このような位相差の演算方法に対して測距性能を高めるための理想的な投光波形は正弦波形である。そこで、正弦波変調方式では、その名のとおり、光源を正弦波の変調信号(駆動パルス)を用いて駆動する。
一方、「矩形波変調方式」では、受光波を時間的に2つ以上に分割して検出し、得られた各位相信号を用いて、投光波の出力タイミングに対する受光波の入力タイミングの遅延時間Td´を求める。
一例として2位相式の矩形波変調方式について図11を用いて説明する。図11でも、パルス制御信号に基づく投光波とTX1(0°)信号が同期して出力される。図11に示される1フレーム構成によって、受光パルスを0°、180°の2つの位相に分割した位相信号(B0、B180)を取得し、次の(3)式を用いて遅延時間Td´を求めることができる。
Td´={B180/(B0+B180)}×T1(T1:駆動パルスのパルス幅)・・・(3)
このような位相差の演算方法に対して測距性能を高めるための理想的な投光波形は矩形である。そこで、矩形波変調方式では、その名のとおり、光源を矩形波の変調信号(駆動パルス)を用いて駆動する。
以下に、距離センサ20を用いて実施される測距処理1を図12のフローチャートを参照して説明する。測距処理1は、イメージセンサ29の画素毎に同じ手順で行われる。
最初のステップS1では、カウンタnに0をセットする。カウンタnは撮影開始からのフレーム数を示している。
次のステップS2では、カウンタnを更新する。
次のステップS3では、カウンタiに1をセットする。カウンタiは測定対象の画素についての移動平均回数を示している。なお、本明細書において、特に断りがない限り「移動平均」は「単純移動平均」を意味する。
次のステップS4では、n(=1)番目のフレーム(最初のフレーム)のm個の位相信号(C1_n、C2_n、・・・、Cm_n)を取得する。これらの位相信号はバッファメモリ204に格納される。
次のステップS5では、(n+1)番目のフレーム(現フレーム)のm個の位相信号(C1_(n+1)、C2_(n+2)、・・・、Cm_(n+3))を取得する。これらの位相信号はバッファメモリ204に格納される。以下では、現フレームの直前のフレームを「直前フレーム」とも呼ぶ。
次のステップS6では、測定対象の画素について、n番目のフレーム(直前フレーム)から(n+1)番目のフレーム(現フレーム)の間で動的変化があるか否かを判断する。すなわち、測定対象の画素に対応する物体の領域(以下では「物体領域」とも呼ぶ)の動的変化の有無を判定する。具体的には、n番目のフレームで取得した位相信号Ck_n(1≦k≦m)と、(n+1)番目のフレームで取得した位相信号Ck_(n+1)(1≦k≦m)の信号量(電荷量)を比較する。詳述すると、少なくとも1つのkについてCk_nとCk_(n+1)の信号量の差が予め設定された閾値よりも大きい場合に「動的変化あり」と判定し、閾値以下である場合に「動的変化なし」と判定する。ステップS6での判断が否定されるとステップS7に移行し、肯定されるとステップS9に移行する。
ステップS7では、物体領域について、現フレームまでの(i+1)個のフレームの対応する位相信号に対して移動平均処理を行って得られた移動平均データと、上記(1)式及び(2)式を用いて又は上記(3)式を用いてデプス値(距離値)を算出し、取得する。例えば正弦波変調方式を用いる場合には、現フレームまでの(i+1)個のフレームの位相信号A0、A90、A180、A270に対してそれぞれ移動平均処理を行って得られた移動平均データMADA0、MADA90、MADA180、MADA270と、上記(1)式及び(2)式を用いてデプス値を算出する。この際、上記(1)式及び(2)式において、各位相信号を対応する移動平均データで置き換える。例えば矩形波変調方式を用いる場合には、現フレームまでの(i+1)個のフレームの位相信号B0、B180に対してそれぞれ移動平均処理を行って得られた移動平均データMADB0、MADB180と、上記(3)式を用いてデプス値を算出する。この際、上記(3)式において、各位相信号を対応する移動平均データで置き換える。
次のステップS8では、カウンタi、nを更新する。ステップS8が実行されるとステップS5に戻る。
ステップS9では、物体領域について、現フレームの直前のフレームまでのi個のフレームの対応する位相信号に対して移動平均処理を行って得られた移動平均データと上記(1)式、(2)式を用いて又は上記(3)式を用いてデプス値(距離値)を算出し、取得する。この場合、1フレーム分のレイテンシが発生するが、物体に対する測距を継続することができる。その理由は後述する。例えば正弦波変調方式を用いる場合には、現フレームの直前のフレームまでのi個のフレームの位相信号A0、A90、A180、A270に対してそれぞれ移動平均処理を行って得られた移動平均データMADA0´、MADA90´、MADA180´、MADA270´と、上記(1)式及び(2)式を用いてデプス値を算出する。この際、上記(1)式及び(2)式において、各位相信号を対応する移動平均データで置き換える。例えば矩形波変調方式を用いる場合には、現フレームの直前のフレームまでのi個のフレームの位相信号B0、B180に対してそれぞれ移動平均処理を行って得られた移動平均データMADB0´、MADB180´と、上記(3)式を用いてデプス値を算出する。この際、上記(3)式において、各位相信号を対応する移動平均データで置き換える。
次のステップS10では、カウンタiを初期化し、カウンタnを更新する。ステップS10が実行されるとステップS5に戻る。
以上説明した図12の一連の処理は、測定終了まで(距離演算部203から測定終了信号が同期制御部206に出力されるまで)、継続的に行われる。測定終了は、図12のフローチャートのどのタイミングで行われても良い。
なお、上記ステップS6において、例えば過半数のkについて、Ck_nとCk_(n+1)の信号量の差が閾値よりも大きい場合に「動的変化あり」と判定し、閾値以下である場合に「動的変化なし」と判定しても良い。
また、上記ステップS6において、例えば現フレームで取得された複数の位相信号から得られるデプス値(距離値)と、直前フレームで取得された複数の位相信号から得られるデプス値(距離値)の差分を、予め設定された閾値と比較することで動的変化の有無を判定しても良い。
また、上記ステップS7において、移動平均処理の対象となるフレームは、必ずしも現フレームを含まなくても良く、要は、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームであれば良い。
また、上記ステップS9において、移動平均処理の対象となるフレームは、必ずしも直前フレームを含まなくても良く、要は、複数の過去フレームであれば良い。
以下に、ステップS9において、1フレーム分のレイテンシが発生するが物体に対する測距を継続することができる理由について説明する。
物体が動き出したタイミングをT0としたときに、n番目のフレーム(直前フレーム)の位相信号の取得タイミング(ステップS4のタイミング)と(n+1)番目のフレーム(現フレーム)の位相信号の取得タイミング(ステップS5のタイミング)の間にT0があるとする。すると、「動的変化あり」と判定された画素に対してはn番目のフレーム(物体が動き出す直前のフレーム)までの位相信号に基づく距離を物体までの距離として取得する(ステップS9)ので、該物体までの距離に最新の(n+1)番目のフレーム(物体が動き出した直後のフレーム)の位相信号は反映されず、1フレーム分のレイテンシが発生するが、移動平均によりノイズを低減できるため該物体までの距離を精度良く取得できる。なお、「動的変化あり」と判定された画素に対して物体が動き出す直前の距離を算出するので距離測定誤差はほとんど生じない。
さらに、上記に続いて同一画素で連続的に動的変化の有無を判定した場合を考える。例えばステップS7にてループ前のステップS5で取得した(n+1)番目のフレームの位相信号を、先のステップS4にてn番目のフレームの位相信号が格納されたバッファメモリ204に格納し、これらとループ後のステップS5で取得した(n+1)番目のフレームの位相信号を用いて動的変化の有無の判定をステップS6で行う。このステップS6でn番目のフレームと(n+1)番目のフレームの間で「動的変化あり」の判定がなされるとステップS9の処理に移り、ループ前のステップS5で取得した位相信号のみを用いて距離を算出し、取得する。
次に、距離センサ20を用いて実施される測距処理2を図13のフローチャートを参照して説明する。測距処理2は、イメージセンサ29の画素毎に同様の手順で行われる。
図13において、ステップT1〜T6、T11、T12は、それぞれ図12のステップS1〜S6、S9、S10と同じである。そこで、図13における、図12とは異なるステップT7〜T10について説明する。
ステップT7では、物体領域について、現フレームまでの(i+1)個のフレームの対応する位相信号に対して移動平均処理を行って得られた移動平均データを取得する。なお、ステップT7の前に直前フレームまでのi個のフレームの対応する位相信号に対して移動平均処理が行われている場合には、その結果と現フレームの対応する位相信号を用いて移動平均データを更新しても良い。
ステップT8では、i+1>Uであるか否かを判断する。すなわち、現フレームまでの対応する位相信号の移動平均回数(i+1)と予め設定された移動平均回数判定値U(U≧1)の大小関係を判定する。ステップT8での判断が肯定されるとステップT9に移行し、否定されるとステップT10に移行する。
ステップT9では、ステップT7で得られた移動平均データと、上記(1)式、(2)式を用いて又は上記(3)式を用いてデプス値(距離値)を算出し、取得する。
次のステップT10では、カウンタi、nをそれぞれ更新する。ステップT10が実行されるとステップT5に戻る。
以上のようにステップT7〜T10によって、投光範囲(検出範囲)にある物体に対して、該物体に動的変化がない限り、十分な回数(移動平均回数(U))の移動平均処理によって得られた移動平均データのみがデプス値として取得されるため、高精度な測距を行うことができる。
以上説明した図13の一連の処理は、測定終了まで(距離演算部203から測定終了信号が同期制御部206に出力されるまで)、継続的に行われる。測定終了は、図13のフローチャートのどのタイミングで行われても良い。
なお、上記ステップT6において、例えば過半数のkについて、現フレームと直前フレームの対応する位相信号の信号量の差が閾値よりも大きい場合に「動的変化あり」と判定し、閾値以下である場合に「動的変化なし」と判定しても良い。
また、上記ステップT6において、例えば現フレームで取得された複数の位相信号から得られるデプス値(距離値)と、現フレームの直前のフレームで取得された複数の位相信号から得られるデプス値(距離値)の差分を、予め設定された閾値と比較することで動的変化の有無を判定しても良い。
また、上記ステップT9において、移動平均処理の対象となるフレームは、必ずしも現フレームを含まなくても良く、要は、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームであれば良い。
また、上記ステップT11において、移動平均処理の対象となるフレームは、必ずしも現フレームの直前のフレームを含まなくても良く、要は、複数の過去フレームであれば良い。
また、図13において、上記ステップT6とステップT11の間に、ステップT8と同様のステップを挿入しても良い。
次に、距離センサ20を用いて実施される測距処理3を図14のフローチャートを参照して説明する。測距処理3は、イメージセンサ29の画素毎に同様の手順で行われる。
ステップU1〜U3は、それぞれ図12のステップS1〜S3と同じである。
ステップU4では、イメージセンサ29のn(=1)番目のフレーム(最初のフレーム)の測定対象の画素の出力信号を、実効周波数fで決まる1周期(2π)を、時間的にm個に分割して位相信号Ck_n(1≦k≦m)を取得する。例えばm=4であれば、光源21の発光タイミングを基準として、C1_nが0°、C2_nが90°、C3_nが180°、C4_nが270°の位相信号となる。ただし、ここでm≧3である。
ステップU5では、ステップU4で取得した位相信号と次の(4)式を用いて、発光タイミングから受光タイミングまでの位相差をsin成分(A)とcos成分(B)として導出し、それぞれバッファメモリ204の記憶領域MA、MAに格納する。
Figure 0006855746
次のステップU6では、イメージセンサ29の(n+1)番目のフレーム(現フレーム)の測定対象の画素の出力信号を、実効周波数fで決まる1周期(2π)を、時間的にm個に分割して位相信号Ck_n+1(1≦k≦m)を取得する。例えばm=4であれば、光源21の発光タイミングを基準として、C1_n+1が0°、C2_n+1が90°、C3_n+1、が180°、C4_n+1が270°の位相信号となる。ただし、ここでm≧3である。
次のステップU7では、ステップU6で取得した位相信号と上記(4)式のnを(n+1)に置き換えた式を用いて、発光タイミングから受光タイミングまでの位相差をsin成分(A(i))とcos成分(B(i))として導出する。以下では、sin成分(A)、cos成分(B)、sin成分A(i)、cos成分B(i)を適宜「位相差成分」と総称する。
次のステップU8では、測定対象の画素に対応する物体領域に動的変化があるか否かを判定する。具体的には、現フレームのsin成分A(i)とcos成分B(i)と、現フレームの直前のフレームまでのsin成分、cos成分の平均値(A/i、B/i)の差分の絶対値(|A/i−A(i)|、|B/i−B(i)|)と、予め設定された閾値(a、b)をそれぞれ比較する。そして、これらの差分の絶対値の少なくとも一方が閾値を超えた場合、ステップU8での判断が肯定され、ステップU13に移行する。一方、これらの差分の絶対値のいずれも閾値以下の場合、ステップU8での判断が否定され、ステップU9に移行する。なお、閾値(a、b)は、ユーザが指定しても良いし、距離センサ20の製造時における調整工程にてセンサの特性値に基づいて自動的に設定されてもよい。閾値(a、b)の決め方としては、例えば、ショットノイズのゆらぎと区別するため、予め取得したセンサのショットノイズ特性から信号量に応じた近似関数により決定する方法がある。
ステップU9では、バッファメモリ204の記憶領域MA、MAに、現フレームのsin成分(A(i))、cos成分(B(i))をそれぞれ加え、カウンタiを更新する。
ステップU10では、i>Uであるか否かを判断する。すなわち、現フレームまでの対応する位相信号の移動平均回数(i)と予め設定された移動平均回数判定値U(U≧1)の大小関係を判定する。ステップU10での判断が肯定されるとステップU11に移行し、否定されるとステップU12に移行する。
ステップU11では、現フレームまでのsin成分の移動平均データとcos成分の移動平均データと、次の(5)式を用いてデプス値を取得する。すなわち、「動的変化なし」と判定された現フレームまでの情報を使った距離(デプス)演算がなされる。
Depth[m]=arctan(A/B)/2π×(c/2)・・・(5)
ここで「c」は光速(≒3e8[m/s])を示す。
ここでは、上記(5)式におけるA/Bは、現フレームまでのsin成分の移動平均データとcos成分の移動平均データの比を表す。
ステップU13では、現フレームの直前のフレームまでのsin成分の移動平均データとcos成分の移動平均データと、上記(5)式を用いてデプス値を取得する。すなわち、ここでは、「動的変化あり」と判定された現フレームの直前のフレームまでの情報を使った距離(デプス)演算がなされる(そのため1フレーム分のレイテンシが発生する)。
ここで「c」は光速(≒3e8[m/s])を示す。
ここでは、上記(5)式におけるA/Bは、現フレームの直前のフレームまでのsin成分の移動平均データとcos成分の移動平均データの比を表す。
ステップU14では、バッファメモリ204の記憶領域MA、MAを、その時点の最新のフレーム((n+1)番目のフレーム)のみの情報(A´=A(i)、B´=B(i))に更新し、カウンタiを初期化し、カウンタnを更新する。ステップU14が実行されると、ステップU6に戻る。
なお、図14のステップU8では、動的変化の有無を、現フレームよりも前の複数のフレーム(複数の過去フレーム)の位相差成分の平均値と、現フレームの位相差成分との差分をとることにより判定しているが、これに限られない。例えば、相前後するフレームの位相差成分の差分により判定しても良いし、差分以外に位相差成分の変化の微分値(傾き)や該微分値の変化を用いるなど、具体的な指標は複数存在する。
以上説明した図14の一連の処理は、測定終了まで(距離演算部203から測定終了信号が同期制御部206に出力されるまで)、継続的に行われる。測定終了は、図14のフローチャートのどのタイミングで行われても良い。
なお、上記ステップU8とステップU13の間に、ステップU10と同様のステップを挿入しても良い。
次に、距離センサ20を用いて実施される測距処理4を図15のフローチャートを参照して説明する。測距処理4は、イメージセンサ29の画素毎に同様の手順で行われる。
ステップV1〜V3は、それぞれ図12のステップS1〜S3と同じである。
ステップV4は、イメージセンサ29のn(=1)番目のフレーム(最初のフレーム)で、環境光強度(D_n)を取得するとともに、測定対象の画素の出力信号の実効周波数fで決まる1周期(2π)を時間的に分割してm個の位相信号(Ck_n)(1≦k≦m)を取得する。ここで、環境光強度(D_n)は、投光系201からのパルス光による光信号以外の成分であり、例えば太陽光や暗電流を意味しており、例えば光源21が発光していないときのイメージセンサ29の出力信号から取得できる。
ステップV5では、m個の位相信号(Ck_n)と環境光強度(D_n)との差分(Q_k)を取得し(但し、1≦k≦m)、バッファメモリ204の記憶領域MAに格納する。
次のステップV6では、(n+1)番目のフレーム(現フレーム)で、環境光強度(D_(n+1))を取得するとともに、測定対象の画素の出力信号の実効周波数fで決まる1周期(2π)を時間的に分割してm個の位相信号(Ck_(n+1))(1≦k≦m)を取得する。
次のステップV7では、m個の位相信号(Ck_(n+1))と環境光強度(D_(n+1))の差分(Qi_k)を取得する(但し、1≦k≦m)。
次のステップV8では、測定対象の画素に対応する物体領域の動的変化があるか否かを判断する。具体的には、(Q_k)/iと(Qi_k)を比較し、これらの差分が閾値を超える場合には「動的変化あり」と判定し、閾値以下の場合には「動的変化なし」と判定する。ステップV8での判断が肯定されるとステップV13に移行し、否定されるとステップV9に移行する。
ステップV9では、バッファメモリ204の記憶領域MAに現フレームの値(Qi_k)を加えて、カウンタiを更新する。
次のステップV10では、i>Uであるか否かを判断する。すなわち、現フレームまでのQ_kの移動平均回数(i)と予め設定された移動平均回数判定値U(U≧1)の大小関係を判定する。ステップV10での判断が肯定されるとステップV11に移行し、否定されるとステップV12に移行する。
ステップV11では、現フレームまでのQ_kの移動平均データと、上記(1)式、(2)式を用いて又は上記(3)式を用いてデプス値(距離値)を算出し、取得する。この際、上記(1)式、(2)式、(3)式において、各位相信号Ckを対応するQ_kの移動平均データで置き換える(但し、1≦k≦m)。
ステップV12では、カウンタnを更新する。ステップV12が実行されるとステップV6に戻る。
ステップV13では、現フレームの直前のフレームまでのQ_kの移動平均データと、上記(1)式、(2)式を用いて又は上記(3)式を用いてデプス値(距離値)を算出し、取得する(そのため1フレーム分のレイテンシが発生する)。この際、上記(1)式、(2)式、(3)式において、各位相信号Ckを対応するQ_kの移動平均データで置き換える(但し、1≦k≦m)。
次のステップV14では、カウンタiを初期化し、カウンタnを更新する。ステップV14が実行されると、ステップV6に戻る。
図15のステップV8では、現フレームの値Qi_kと比較する値として直前フレームまでの平均値(Q_k)/iを用いているが、例えば、現フレームの値と直前フレームの値を比較しても良く、またそれらの差分値以外にも、微分値や該微分値の変化など、現フレームの値と過去フレーム(例えば直前フレーム)の値を比較する具体的指標は複数存在する。
なお、図15において、上記ステップV8とステップV13の間に、ステップV10と同様のステップを挿入しても良い。
以上説明した図15の一連の処理は、測定終了まで(距離演算部203から測定終了信号が同期制御部206に出力されるまで)、継続的に行われる。測定終了は、図15のフローチャートのどのタイミングで行われても良い。
次に、距離センサ20を用いて実施される測距処理5を図16のフローチャートを参照して説明する。測距処理5は、イメージセンサ29の画素毎に同様の手順で行われる。
ステップW1〜W3は、それぞれ図12のステップS1〜S3と同じである。
ステップW4では、距離センサ20のフレーム毎のアウトプット値(該フレームの複数の位相信号から得られる距離値)であるデプス値Znと、デプス値の演算に必要な位相信号から取得可能な輝度値Ynを、n(=1)番目のフレーム(最初のフレーム)で取得し、Zn、Ynをそれぞれバッファメモリ204の記憶領域MA、MAに格納する。
次のステップW5では、ステップW4と同様にして、(n+1)番目のフレーム(現フレーム)におけるデプス値Z(n+1)と輝度値Y(n+1)を取得する。
次のステップW6では、物体領域の動的変化があるか否かを輝度値により判定する。具体的には、n番目のフレーム(直前フレーム)の輝度値Ynと、(n+1)番目フレーム(現フレーム)の輝度値Y(n+1)の差の絶対値が予め設定された閾値eよりも大きければ「移動あり」と判定し、閾値e以下であれば「移動なし」と判定する。ステップW6での判断が肯定されるとステップW13に移行し、否定されるとステップW7に移行する。
ステップW7では、物体領域の動的変化があるか否かをデプス値により判定する。具体的には、n番目のフレーム(直前フレーム)までのデプス値(Zn)の平均と、n+1番目のフレーム(現フレーム)のデプス値Z(n+1)の差の絶対値が予め設定された閾値cよりも大きければ「移動あり」と判定し、閾値c以下であれば「移動なし」と判定する。ここで、閾値cはユーザが指定しても良いし、製造における調整工程にてセンサの特性値に基づいて自動的に設定されてもよい。ステップW7での判断が肯定されるとステップW8に移行し、否定されるとステップW9に移行する。
ステップW8では、(n+1)番目のフレーム(現フレーム)の輝度値Y(n+1)と予め設定された閾値fとの大小関係により、物体領域の動的変化があるか否かを判断する。輝度値Y(n+1)が閾値fよりも大きければ「動的変化あり」として判定し、閾値f以下であれば「動的変化なし」と判定する。なお、閾値fはユーザが指定しても良いし、製造における調整工程にてセンサの特性値に基づいて自動的に設定されてもよい。ステップW8での判断が肯定されるとステップW13に移行し、否定されるとステップW9に移行する。
ステップW8が必要な第1の理由は、フレーム間の輝度値の差が小さい場合(ステップW6でNO)に、現フレームの輝度値Y(n+1)が極めて小さいとノイズの影響でフレーム間のデプス値のばらつき(差)が大きくなり(ステップW7でYES)、実際に動的変化がなくても「動的変化あり」と判断され現フレームのデプス値Z(n+1)が移動平均の対象から除外されるのを防ぐためである。
ステップW8が必要な第2の理由は、以下の条件が揃った場合に、実際に動的変化があっても輝度値の差が小さくなる場合があり、この場合に「動的変化なし」と判断され現フレームのデプス値Z(n+1)が移動平均の対象となるのを防ぐためである。輝度は距離の二乗に反比例する。例えば前フレームは距離1で反射率25%の物体を捉えていたとし、次フレームは距離2で反射率100%の物体を捉えたとすると、フレーム間の輝度値の関係は、輝度が距離の二乗に反比例する関係により、(1/2)=1/4と、反射率の関係で4倍が相殺関係になり、実際に動的変化があっても輝度値の差が小さくなる。
ステップW9では、バッファメモリ204の記憶領域MA、MAにそれぞれ現フレームの輝度値Y(n+1)、デプス値Z(n+1)を加えて、カウンタiを更新する。
次のステップW10では、i>Uであるか否かを判断する。すなわち、現フレームまでのデプス値Zの移動平均回数(i)と予め設定された移動平均回数判定値U(U≧1)の大小関係を判定する。ステップW10での判断が肯定されるとステップW11に移行し、否定されるとステップW12に移行する。
ステップW11では、現フレームまでのデプス値Zに対して移動平均化処理を行い、その結果(Z/i)を最終的なデプス値(距離値)として取得する。すなわち、現フレームの輝度値が低ければ低輝度によるノイズと判定して、現フレームを含めたフレーム平均処理を行う。なお、このような低輝度領域において物体の動的変化があったとしても、ノイズに埋もれているために動的変化の影響よりも、現フレームを含めたフレーム平均処理を行うメリットの方が大きい。
ステップW12では、カウンタnを更新する。ステップW12が実行されるとステップW5に戻る。
ステップW13では、現フレームの直前のフレームまでのデプス値Zに対して移動平均化処理を行い、その結果(Z/i)を最終的なデプス値(距離値)として取得する(そのため1フレーム分のレイテンシが発生する)。
次のステップW14では、カウンタiを初期化し、カウンタnを更新する。ステップW14が実行されると、ステップW5に戻る。
なお、図16において、上記ステップW6とステップW13の間や、上記ステップW8とステップW13の間に、ステップW10と同様のステップを挿入しても良い。
以上説明した測距処理1〜5は、測距処理間で一部のステップを相互に入れ替えることが可能である。
以上説明した本実施形態の距離センサ20(測距装置)は、パルス光を投光する投光系201と、該投光系201から投光され物体で反射された光を受光して画素毎に光電変換し、その電気信号を複数の位相信号に振り分けるイメージセンサ29(撮像素子)と、複数の位相信号又は該複数の位相信号に基づく値を含む情報を保存するためのバッファメモリ(記憶部)と、現フレーム及び少なくとも1つの過去フレームの上記情報に基づいて、物体の動的変化の有無を画素毎に判定する動的変化有無判定部205(判定部)と、動的変化有無判定部205での判定結果に応じて、上記情報を用いて物体までの距離を画素毎に算出する距離演算部203と、を備え、距離演算部203は、イメージセンサ29の各画素について、動的変化有無判定部205で動的変化なしと判定された場合に、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームの上記情報を移動平均し、該移動平均の結果から距離を取得し、動的変化有無判定部205で動的変化ありと判定された場合に、複数の過去フレームの上記情報を移動平均し、該移動平均の結果から距離を取得する。
この場合、各画素について、動的変化なしと判定された場合に、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームの情報を移動平均した結果から物体までの距離が取得されるため、該物体までの距離を精度良く測定することができる。また、各画素について、動的変化ありと判定された場合に、複数の過去フレームの情報を移動平均した結果から物体までの距離が取得されるため(距離算出用の情報の候補から現フレームの情報が除外されるため)、動的変化ありと判定される前の該物体までの距離を精度良く測定することができる。この際、少なくとも1フレーム分のレイテンシが発生するが、物体の動的変化の直前の距離を算出するので距離測定誤差はほとんど発生せず、寧ろノイズを低減できる点で効果が大きい。
この結果、物体の動的変化の有無によらず該物体までの距離を精度良く測定することができる。
なお、距離演算部203は、イメージセンサ29の各画素について、動的変化有無判定部205で動的変化なしと判定された場合に、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームの上記情報を移動平均し、該移動平均の結果から物体までの距離を取得し、動的変化有無判定部205で動的変化ありと判定された場合に、現フレーム又は未来フレーム(現フレームよりも時間的に後のフレーム)の上記情報(複数の位相信号や該複数の位相信号に基づく値)から物体までの距離を取得しても良い。
この場合、各画素について、動的変化なしと判定された場合に、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームの情報を移動平均した結果から物体までの距離が取得されるため、該物体までの距離を精度良く測定することができる。また、各画素について、動的変化ありと判定された場合に、現フレーム又は未来フレーム(例えば現フレームや、現フレームの直後のフレームや、現フレームから数フレーム後のフレーム)の情報から物体までの距離が取得されるため、動的変化ありと判定された後の物体までの距離を精度良く測定することができる。この際、ノイズ低減効果は期待できないが、動的変化ありと判定された画素について物体までの最新の距離を測定できる点で有効である。
この結果、物体の動的変化の有無によらず該物体までの距離を精度良く測定することができる。
また、距離演算部203は、各画素について、動的変化有無判定部205で動的変化ありと判定された場合に、複数の過去フレームの対応する位相信号を移動平均した結果を用いて物体までの距離を算出しても良い。
この場合、動的変化ありと判定された画素について、物体までの距離を安定して精度良く測定することができる。
また、距離演算部203は、各画素について、動的変化有無判定部205で動的変化ありと判定された場合に、複数の過去フレームの複数の位相信号に基づく値を移動平均した結果を用いて物体までの距離を算出しても良い。
この場合、動的変化ありと判定された画素について、物体までの距離を安定して精度良く測定することができる。
また、距離演算部203は、各画素について、動的変化有無判定部205で動的変化ありと判定された場合に、複数の過去フレームの複数の位相信号に基づくデプス値(距離値)を移動平均した結果を物体までの距離として出力しても良い。
この場合、動的変化ありと判定された画素について、物体までの距離を安定して精度良く測定することができる。
また、距離演算部203は、各画素について、動的変化有無判定部205で動的変化なしと判定された場合に、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームの対応する位相信号を移動平均した結果を用いて物体までの距離を算出しても良い。
この場合、動的変化なしと判定された画素について、物体までの距離を安定して精度良く測定することができる。
また、距離演算部203は、各画素について、動的変化有無判定部205で動的変化なしと判定された場合に、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームの複数の位相信号に基づく値を移動平均した結果を用いて物体までの距離を算出しても良い。
この場合、動的変化なしと判定された画素について、物体までの距離を安定して精度良く測定することができる。
また、距離演算部203は、各画素について、動的変化有無判定部205で動的変化なしと判定された場合に、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームの複数の位相信号に基づく距離値を移動平均した結果を物体までの距離として出力しても良い。
この場合、動的変化なしと判定された画素について、物体までの距離を安定して精度良く測定することができる。
また、距離演算部203は、移動平均の対象となる画素について、所定回数以上の移動平均によって得られた結果を用いて距離を算出又は該結果を距離として出力することが好ましい。
この場合、物体の動的変化の有無によらず該物体までの距離を更に精度良く測定することができる。
また、動的変化有無判定部205は、パルス光のパルス周期をm(≧3)個に分割する位相信号Ck(k=1、2、…、M)に対して、
Figure 0006855746
で得られる位相差の正弦成分A及び余弦成分Bのフレーム間の変化量を、それぞれ予め設定された閾値a、bと比較することにより、物体の動的変化の有無を画素毎に判定しても良い。
また、動的変化有無判定部205は、投光系201から投光されるパルス光のパルス周期をm(≧2)個に分割する位相信号Ck(k=1、2、…、M)に対して、イメージセンサ29を用いて取得される環境光強度と位相信号との差分のフレーム間の変化量を、予め設定された閾値と比較することにより、物体の動的変化の有無を画素毎に判定しても良い。
また、投光系201から投光されるパルス光のパルス幅をTとすると、該パルス光のパルス周期は2T以上であることが好ましい。すなわち、投光系201から投光されるパルス光のデューティ(duty)は、50%以下であることが好ましい。
また、動的変化有無判定部205は、フレーム毎に検出されるデプス値(距離値)のフレーム間の変化量を、予め設定された閾値cと比較することにより、物体の動的変化の有無を画素毎に判定しても良い。
さらに、動的変化有無判定部205は、フレーム毎に検出される輝度値のフレーム間の変化量を、予め設定された閾値eと比較することにより、物体の動的変化の有無を画素毎に判定しても良い。
また、走行体1は、距離センサ20を有しているため、信頼性に優れた走行ができる。
また、本実施形態の測距方法は、パルス光を投光する工程と、投光され物体で反射された光を受光し、画素毎に光電変換し、その電気信号を複数の位相信号に振り分ける工程と、複数の位相信号又は該複数の位相信号に基づく値を含む情報を保存する工程と、現フレーム及び少なくとも1つの過去フレームの位相信号に基づいて、物体の動的変化の有無を画素毎に判定する工程と、判定する工程での判定結果に応じて、上記情報を用いて物体までの距離を画素毎に算出する工程と、を備え、算出する工程では、各画素について、判定する工程で動的変化なしと判定された場合に、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームの上記情報を移動平均し、該移動平均の結果から距離を取得し、判定する工程で動的変化ありと判定された場合に、複数の過去フレームの上記情報を移動平均し、該移動平均の結果から距離を取得する。
この場合、各画素について、動的変化なしと判定された場合に、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームの情報を移動平均した結果から物体までの距離が取得されるため、該物体までの距離を精度良く測定することができる。また、各画素について、動的変化ありと判定された場合に、複数の過去フレームの情報を移動平均した結果から物体までの距離が取得されるため(距離算出用の位相信号の候補から現フレームの位相信号が除外されるため)、動的変化ありと判定される前の該物体までの距離を精度良く測定することができる。この際、少なくとも1フレーム分のレイテンシが発生するが、物体の動的変化の直前の距離を算出するので距離測定誤差はほとんど発生せず、寧ろノイズを低減できる点で効果が大きい。
この結果、物体の動的変化の有無によらず該物体までの距離を精度良く測定することができる。
なお、上記算出する工程では、各画素について、上記判定する工程で動的変化なしと判定された場合に、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームの上記情報を移動平均し、該移動平均の結果から距離を取得し、上記判定する工程で動的変化ありと判定された場合に、現フレーム又は未来フレーム(現フレームよりも時間的に後のフレーム)の上記情報(例えば複数の位相信号や該複数の位相信号に基づく値)に基づいて距離を算出しても良い。
この場合、各画素について、動的変化なしと判定された場合に、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームの情報を移動平均した結果から物体までの距離が取得されるため、該物体までの距離を精度良く測定することができる。また、各画素について、動的変化ありと判定された場合に、現フレーム又は未来フレーム(例えば現フレームや、現フレームの直後のフレームや、現フレームから数フレーム後のフレーム)の情報から物体までの距離が取得されるため、動的変化ありと判定された後の物体までの距離を精度良く測定することができる。この際、ノイズ低減効果は期待できないが、動的変化ありと判定された画素について物体までの最新の距離を測定できる点で有効である。
この結果、物体の動的変化の有無によらず該物体までの距離を精度良く測定することができる。
なお、上記実施形態では、投光系が非走査型であるが、光偏向器(例えばポリゴンミラー、ガルバノミラー、MEMSミラー等)を含む走査型であっても良い。この場合、例えば、一方向に配列された複数の発光部(ライン光源)からそれぞれ射出された複数の光を、発光部の配列方向に非平行な方向(例えば垂直な方向)に走査して、複数の発光部に対応して該配列方向に平行に配列された複数の受光部(ラインイメージセンサ)で受光し、距離画像を生成しても良い。また、単一の発光部からの光を光偏向手段で2次元走査して、物体からの反射光をエリアイメージセンサで受光し、距離画像を生成しても良い。
また、上記実施形態では、本発明の測距装置の一例である距離センサ20を走行体1に用いられる場合について説明したが、これに限定されるものではない。例えば、距離センサ20を、走行体1以外の移動体(例えば乗用車、船舶、航空機等)、監視カメラ、物体の3次元形状を計測する3次元計測装置、距離センサ20が自身の位置を確認しながら自律的に移動するロボット等に用いても良い。
距離センサ20を有する監視カメラによれば、監視対象物の動的変化の有無によらず高品質なモニタ画像を得ることができる。
距離センサ20を有する3次元計測装置によれば、計測対象物の動的変化の有無によらず該物体の3次元情報を精度良く計測することができる。
距離センサ20を有するロボットによれば、周囲の物体の動的変化の有無によらず該物体に対する適切な自律移動(接近動作や離間動作や平行移動)を可能とすることができる。
上記実施形態では、単一のLED(発光部)をパルス発光させ、物体からの反射光をエリアイメージセンサで受光する場合について説明したが、これに限定されるものではない。
例えば、2次元配列された複数の発光部を順次パルス点灯させ、各発光部から射出され物体で反射された光を単一の受光部で順次受光して距離画像を生成しても良い。
例えば、2次元配列された複数の発光部を同時にパルス発光させ、複数の発光部から射出され物体で反射された複数の光を2次元配列された複数の受光部でそれぞれ同時に受光して距離画像を生成しても良い。
また、例えば、物体の3次元情報(距離画像)ではなく、単にある物体までの距離を測定する場合には、投光系の発光部及び受光系の受光部は、いずれも単数であっても良い。
また、上記実施形態では、位相信号を保存するための記憶部として、バッファメモリが用いられているが、これに限らず、他のメモリ(例えばフラッシュメモリ、ROM、RAM)や、ハードディスクを用いても良い。
また、上記実施形態において、距離演算部203での処理の一部を位置制御装置40が行っても良いし、位置制御装置40での処理の一部を距離演算部203が行っても良い。
また、上記実施形態では、走行管理装置10が1つの距離センサ20を備える場合について説明したが、これに限定されるものではない。走行体の大きさ、測定領域などに応じて、複数の距離センサ20を備えても良い。
また、上記実施形態では、距離センサ20が走行体の進行方向を監視する走行管理装置10に用いられる場合について説明したが、これに限定されるものではない。例えば、走行体の後方や側面を監視する装置に用いられても良い。
以上の説明から分かるように、本発明の測距装置及び測距方法は、TOF(タイム オブ フライト)を利用した測距技術全般に広く適用することが可能である。
すなわち、本発明の測距装置及び測距方法は、物体の2次元情報の取得や、物体の有無の検出にも用いることができる。
また、上記実施形態の説明で用いた数値、形状等は、本発明の趣旨を逸脱しない範囲で適宜変更可能である。
以下に、発明者らが上記実施形態を発案するに至った思考プロセスを説明する。
3次元センサの一つに、強度変調した参照光を投射し、被写体で反射してセンサに戻ってくるまでの時間を検出して距離を求める、いわゆる“TOF(Time of Flight)センサ”が既に知られており、その他3次元センシング方式の中でもそのレスポンス性の原理的優位性から、昨今さまざま用途への開発が進められている。
例えば、ジェスチャー認識であったり、ロボットや自動車などの移動体の位置制御などへの応用が期待されている。
TOF法には、直接その時間差を検出する直接TOF法と、受光信号量を用いた演算によりその時間差を検出する間接TOF法があり、一般的に直接TOF法は長距離に、間接TOF法は近距離測定に有利であると言われている。
間接TOF法を用いるTOFセンサは、受光信号量を用いた演算により距離を導出するものであるが、その際ショットノイズや暗時ノイズの影響により、測定値が時間的にばらつくことがわかっている。この問題に対し、特許文献1のような技術が提案されている。
特許文献1では、TOFセンサのノイズ対策の従来手法として、移動平均手法が述べられている。詳述すると、特許文献1では、単純な移動平均を用いた場合に、動的な被写体が存在すると、その動的な被写体と背景の信号が移動平均によって混ざった出力になり、本来得たい距離値が得られない問題を解決課題とし、以下の内容が発明のベースになっている。
複数フレームのデプス値を用いて深さ値(デプス値)を算出する映像処理装置で、元画像の第一フレームと第二フレームを取得する時間差に基づいて重み付け値を決定し、複数フレームのデプスで補正された補正後デプス画像を生成する。下位フレームでは重み付けのやり方について複数述べられている。
そして、特許文献1では、元画像のフレーム取得の時間差に基づいて、移動平均の重み付けを行うことを述べている。しかし、この手法では、重みを大きくすれば、重みの強いフレームのばらつきの影響が強く残り、そもそもの移動平均の狙いであるノイズ低減効果が小さくなる。逆に重みを小さくすれば、これもこの技術の狙いである動的な被写体に対する影響が残り易くなってしまう。また、被写体が瞬間的に急に移動するような場合が生じると、この手法ではその影響の回避が難しい。
一方、特許文献2では、反射信号の位相をπ/2毎に検出して位相差を演算する、4位相式TOF法に関わる内容である。これらの位相信号をQ0,Q90,Q180,Q270と表記すると、それぞれが同じ距離の同じ物体を観測しているとすれば、Q0+Q180≒Q90+Q270の関係が原理的に成り立つ。
Q0〜Q270の具体的な取得方法としては、空間的に分割された異なる画素でそれぞれ取得する方法と、同一の画素で時間的に分割して取得する方法があり、いずれについてもクレームで述べられている。
ここで、Q0+Q180とQ90+Q270の差が大きい場合、上記原理的な関係に対して、これらは空間的または時間的に異なった物体からの信号であることになり、これら信号を使ったデプスは異常値になる。
そこで、Q0+Q180とQ90+Q270の差が予め決めた閾値を超えた場合は、正しいデプスを得ることが出来ないと判定し距離演算を行わない(不定画素にする)こととしている。
しかしながら、特許文献2では、4つの位相信号が同一被写体を観測しているかどうかの判定を行い、非該当であれば距離演算を行わないので、被写体の動的変化の有無等によって距離測定が行われない場合が生じる。
また、通常、ToFセンサからは距離情報と輝度情報が取得できるが、例えば前後フレームの情報にのみ基づいて移動平均処理判定を行う場合、反射率の低い被写体であったり、被写体が遠方にある場合はそのS/Nが低下して測定距離のばらつきが非常に大きくなる場合がある。すると、測定距離のばらつきと被写体の動的変化の切り分けが困難となり、そのような測定距離のばらつきが大きい領域において、十分なノイズ低減効果を得られない。
次に、輝度情報のみに基づいて移動平均処理判定を行う場合、被写体の反射率を特定しておくことはできず、被写体と背景の反射率と距離関係によって、被写体が動的に変化した場合であっても輝度値の変化が小さい状態が生じることがあり、そのような場合に動的な被写体の影響を発生させてしまうことがある。
すなわち、特許文献1、2等の従来技術では、物体の動的変化の有無によらず該物体までの距離を精度良く測定することに関して改善の余地があった。
そこで、発明者は、このような課題を解決すべく、上記実施形態を発案するに至った。
具体的には、上記実施形態では、例えば、撮像素子の現フレーム及び過去フレームの取得信号を用いて、画素毎に捉えている被写体の動的変化(移動や変形など)の有無を判定し、動的変化がなければ(小さければ)移動平均処理の対象に現フレームの情報(取得信号や該取得信号に基づく値)を加え、動的変化があれば複数の過去フレームの情報(取得信号や該取得信号に基づく値)に対して移動平均処理を行う。そのため、生成されるデプス画像(距離画像)には動的な影響が含まれないので動的な被写体への対応が可能であり、かつ静的な被写体に対しては高いノイズ低減効果が得られる。
要するに、上記実施形態では、現フレームと過去フレーム(例えば現フレームの直前のフレーム)の画素毎の検出信号の差や該検出信号を用いた所定演算結果の差から、被写体の動的変化(移動や変形など)の有無を画素毎に判定し、動的変化があれば現フレームの情報を移動平均の対象に含めず複数の過去フレームの情報のみを移動平均の対象とし、動的変化が無ければ現フレーム及び少なくとも1つの過去フレームの情報を移動平均の対象とする。
1…走行体(移動体)、20…距離センサ(測距装置)、21…光源(投光系の一部)、25…光源駆動部(投光系の一部)、28…結像光学系(受光系の一部)、29…イメージセンサ(撮像素子、受光系の一部)、201…投光系、202…受光系、203…距離演算部(演算部)、204…バッファメモリ(記憶部)、205…動的変化有無判定部(判定部)。
特許5679702号公報 特許4895304号公報

Claims (12)

  1. パルス光を投光する投光系と、
    前記投光系から投光され物体で反射された光を受光して光電変換し、その電気信号を複数の位相信号に振り分ける撮像素子と、
    前記複数の位相信号又は該複数の位相信号に基づく値を含む情報を保存するための記憶部と、
    現フレーム及び少なくとも1つの過去フレームの前記情報に基づいて、前記物体の動的変化の有無を判定する判定部と、
    前記判定部での判定結果に応じて、前記情報を用いて前記物体までの距離を算出する演算部と、を備え、
    前記演算部は、
    前記判定部で動的変化なしと判定された場合に、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームの前記情報を移動平均し、該移動平均の結果から前記距離を取得し、
    前記判定部で動的変化ありと判定された場合に、現フレームの直前のフレームを含む複数の過去フレームの前記情報を移動平均し、該移動平均の結果から前記距離を取得することを特徴とする測距装置
  2. 前記演算部は、前記判定部で動的変化ありと判定された場合に、前記複数の過去フレームの対応する前記位相信号を移動平均した結果を用いて前記距離を算出することを特徴とする請求項1に記載の測距装置。
  3. 前記演算部は、前記判定部で動的変化ありと判定された場合に、前記複数の過去フレームの前記複数の位相信号に基づく値を移動平均した結果を用いて前記距離を算出することを特徴とする請求項1に記載の測距装置。
  4. 前記演算部は、前記判定部で動的変化ありと判定された場合に、前記複数の過去フレームの前記複数の位相信号に基づく距離値を移動平均した結果を前記距離として出力することを特徴とする請求項1に記載の測距装置。
  5. 前記判定部は、
    前記パルス光のパルス周期をm(≧3)個に分割する位相信号Ck(k=1、2、…、M)に対して、
    Figure 0006855746
    で得られる位相差の正弦成分A及び余弦成分Bのフレーム間の変化量を、それぞれ予め設定された閾値と比較することにより、前記物体の動的変化の有無を判定することを特徴とする請求項1〜のいずれか一項に記載の測距装置。
  6. 前記判定部は、
    前記パルス光のパルス周期をm(≧2)個に分割する位相信号Ck(k=1、2、…、M)に対して、
    前記撮像素子を用いて取得される環境光強度と前記位相信号との差分のフレーム間の変化量を、予め設定された閾値と比較することにより、前記物体の動的変化の有無を判定することを特徴とする請求項に記載の測距装置。
  7. 前記判定部は、フレーム毎に検出される距離値のフレーム間の変化量を、予め設定された閾値と比較することにより、前記物体の動的変化の有無を判定することを特徴とする請求項1〜のいずれか一項に記載の測距装置。
  8. 請求項1〜のいずれか一項に記載の測距装置を有する監視カメラ。
  9. 請求項1〜のいずれか一項に記載の測距装置を有する3次元計測装置。
  10. 請求項1〜のいずれか一項に記載の測距装置を有する移動体。
  11. 請求項1〜10のいずれか一項に記載の測距装置を有するロボット。
  12. パルス光を投光する工程と、
    投光され物体で反射された光を受光して光電変換し、その電気信号を複数の位相信号に振り分ける工程と、
    前記複数の位相信号又は該複数の位相信号に基づく値を含む情報を保存する工程と、
    現フレーム及び少なくとも1つの過去フレームの前記情報に基づいて、前記物体の動的変化の有無を判定する工程と、
    前記判定する工程での判定結果に応じて、前記情報を用いて前記物体までの距離を算出する工程と、を備え、
    前記算出する工程では、
    前記判定する工程で動的変化なしと判定された場合に、現フレーム及び少なくとも1つの過去フレームを含む複数のフレームのうち少なくとも2つのフレームの前記情報を移動平均し、該移動平均の結果から前記距離を取得し、
    前記判定する工程で動的変化ありと判定された場合に、現フレームの直前のフレームを含む複数の過去フレームの前記情報を移動平均し、該移動平均の結果から前記距離を取得することを特徴とする測距方法。
JP2016204433A 2016-10-18 2016-10-18 測距装置、監視カメラ、3次元計測装置、移動体、ロボット及び測距方法 Active JP6855746B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016204433A JP6855746B2 (ja) 2016-10-18 2016-10-18 測距装置、監視カメラ、3次元計測装置、移動体、ロボット及び測距方法
US15/712,311 US10684121B2 (en) 2016-10-18 2017-09-22 Distance-measuring apparatus which uses different calculations depending on whether the object is dynamically changing

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016204433A JP6855746B2 (ja) 2016-10-18 2016-10-18 測距装置、監視カメラ、3次元計測装置、移動体、ロボット及び測距方法

Publications (2)

Publication Number Publication Date
JP2018066609A JP2018066609A (ja) 2018-04-26
JP6855746B2 true JP6855746B2 (ja) 2021-04-07

Family

ID=61904343

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016204433A Active JP6855746B2 (ja) 2016-10-18 2016-10-18 測距装置、監視カメラ、3次元計測装置、移動体、ロボット及び測距方法

Country Status (2)

Country Link
US (1) US10684121B2 (ja)
JP (1) JP6855746B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7167708B2 (ja) * 2018-12-28 2022-11-09 株式会社アイシン 距離情報生成装置
CN112415487B (zh) * 2019-08-23 2024-04-16 光宝电子(广州)有限公司 基于飞行时间测距的运算装置、感测装置及处理方法
JP6804619B1 (ja) * 2019-10-31 2020-12-23 三菱電機株式会社 レーザ距離測定装置
CN112987020A (zh) * 2019-11-29 2021-06-18 Oppo广东移动通信有限公司 拍摄方法、拍摄装置、电子设备和存储介质
EP4014066A4 (en) 2019-12-11 2023-01-25 Samsung Electronics Co., Ltd. ELECTRONIC DEVICE AND ASSOCIATED CONTROL METHOD
CN112697113A (zh) * 2020-12-10 2021-04-23 四川长虹电器股份有限公司 海量传感器地灾数据变化情况展示方法
DE102020134605A1 (de) 2020-12-22 2022-06-23 Pepperl+Fuchs Se VERFAHREN UND VORRICHTUNG ZUM BESTIMMEN EINER ZEITVERÄNDERLICHEN KONTINUIERLICHEN MESSGRÖßE UND FAHRZEUG
CN113050119B (zh) * 2021-03-18 2024-05-07 陕西周源光子科技有限公司 一种适用于光学flash三维成像雷达干扰的判决方法
CN113534169B (zh) * 2021-07-20 2022-10-18 上海鸿知梦电子科技有限责任公司 基于单点tof测距的人流计算方法及装置

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006153772A (ja) * 2004-11-30 2006-06-15 Matsushita Electric Works Ltd 測量装置
JP4673674B2 (ja) 2005-06-06 2011-04-20 株式会社リコー 形状測定装置
JP4895304B2 (ja) 2007-09-26 2012-03-14 富士フイルム株式会社 測距方法および装置
KR101590767B1 (ko) 2009-06-09 2016-02-03 삼성전자주식회사 영상 처리 장치 및 방법
JP2011027707A (ja) * 2009-06-25 2011-02-10 Sharp Corp 人物動作検出装置、遊具装置、人物動作検出方法、ゲーム方法、制御プログラムおよび可読記録媒体
JP5452200B2 (ja) * 2009-12-10 2014-03-26 スタンレー電気株式会社 距離画像生成装置および距離画像生成方法
ITMI20131966A1 (it) * 2013-11-26 2015-05-27 Datalogic IP Tech Srl Sensore di distanza senza contatto e metodo per effettuare una misura di distanza senza contatto
JP2016008875A (ja) 2014-06-24 2016-01-18 株式会社リコー 距離測定装置
JP6498429B2 (ja) * 2014-12-16 2019-04-10 スタンレー電気株式会社 距離画像生成装置、距離画像生成方法およびプログラム
JP2017009339A (ja) 2015-06-18 2017-01-12 株式会社リコー センサ、センシング装置及び距離計測方法
JP2017015611A (ja) 2015-07-03 2017-01-19 株式会社リコー 距離測定装置
JP6733100B2 (ja) 2015-12-22 2020-07-29 株式会社リコー 距離センサ、走行体、ロボット及び3次元計測装置
US10596964B2 (en) 2016-01-13 2020-03-24 Ricoh Company, Ltd. Distance measurement device, moveable device, and distance measuring method
JP6805504B2 (ja) 2016-01-13 2020-12-23 株式会社リコー 距離測定装置、移動体装置及び距離測定方法
JP2017133853A (ja) 2016-01-25 2017-08-03 株式会社リコー 測距装置

Also Published As

Publication number Publication date
JP2018066609A (ja) 2018-04-26
US20180106599A1 (en) 2018-04-19
US10684121B2 (en) 2020-06-16

Similar Documents

Publication Publication Date Title
JP6855746B2 (ja) 測距装置、監視カメラ、3次元計測装置、移動体、ロボット及び測距方法
JP6922187B2 (ja) 測距装置、監視カメラ、3次元計測装置、移動体、ロボット及び光源駆動条件設定方法
US10775502B2 (en) Distance-measuring apparatus, mobile object, robot, three-dimensional measuring device, surveillance camera, and distance-measuring method
JP6852416B2 (ja) 距離測定装置、移動体、ロボット、装置及び3次元計測方法
JP6528447B2 (ja) 視差演算システム及び距離測定装置
US10082564B2 (en) Object detection device, sensing device, movable body device, and object detection method
CN111521161B (zh) 确定到目标的方向的方法、勘测装置和机器可读载体
US7952690B2 (en) Method and system for acquiring a 3-D image of a scene
EP2815251B1 (en) Time of flight camera with stripe illumination
Stiller et al. Multisensor obstacle detection and tracking
EP2517044B1 (en) Stray light compensation method and system for time of flight camera systems
JP4691701B2 (ja) 人数検出装置及び方法
US20110149071A1 (en) Stray Light Compensation Method and System for Time of Flight Camera Systems
JP2020003236A (ja) 測距装置、移動体、測距方法、測距システム
JP6834211B2 (ja) 測距装置、移動体、ロボット、3次元計測装置及び測距方法
US9606232B2 (en) Method for determining and/or compensating range offset of a range sensor
US10481263B2 (en) Range finding apparatus, moveable apparatus, robot, three dimensional measurement apparatus, method of measuring three dimensional information, and storage medium
KR20190074769A (ko) 라이다 장치
JP2017009339A (ja) センサ、センシング装置及び距離計測方法
EP3279691B1 (en) Rangefinder based on parallax calculation
JP2017156306A (ja) 距離センサ、走行体、ロボット及び3次元計測装置
JP2022528644A (ja) レーダ電力制御方法および装置
US20230221437A1 (en) Application specific integrated circuits for lidar sensor and multi-type sensor systems
JP2023515267A (ja) ライダー計測においてブルーミングを認識するための方法及び装置
US20220214434A1 (en) Gating camera

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190716

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20200701

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200731

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200826

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201015

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210216

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210301

R151 Written notification of patent or utility model registration

Ref document number: 6855746

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151