JP6727539B2 - 距離センサ、走行体、ロボット及び3次元計測装置 - Google Patents

距離センサ、走行体、ロボット及び3次元計測装置 Download PDF

Info

Publication number
JP6727539B2
JP6727539B2 JP2016042130A JP2016042130A JP6727539B2 JP 6727539 B2 JP6727539 B2 JP 6727539B2 JP 2016042130 A JP2016042130 A JP 2016042130A JP 2016042130 A JP2016042130 A JP 2016042130A JP 6727539 B2 JP6727539 B2 JP 6727539B2
Authority
JP
Japan
Prior art keywords
distance
light
distance sensor
signal
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016042130A
Other languages
English (en)
Other versions
JP2017156306A (ja
Inventor
宏昌 田中
宏昌 田中
周 高橋
周 高橋
二瓶 靖厚
靖厚 二瓶
小川 武士
武士 小川
伊藤 昌弘
昌弘 伊藤
陽一 市川
陽一 市川
増田 浩二
浩二 増田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2016042130A priority Critical patent/JP6727539B2/ja
Publication of JP2017156306A publication Critical patent/JP2017156306A/ja
Application granted granted Critical
Publication of JP6727539B2 publication Critical patent/JP6727539B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Description

本発明は、距離センサ、走行体、ロボット及び3次元計測装置に係り、更に詳しくは、光によって物体までの距離を計測するための距離センサ、該距離センサを有する走行体、ロボット及び3次元計測装置に関する。
近年、物体までの距離を計測するための距離センサの開発が盛んに行われている。
この距離センサとして、強度変調された光(参照光)を射出し、該光が物体で反射して戻ってくるまでの時間(以下では、「遅延時間」ともいう)に基づいて物体までの距離を求める、いわゆるTOF(Time of Flight)演算方式を用いた距離センサがある。
この距離センサを用いると、所定の空間領域内にある物体の情報(物体情報)を取得することが可能であり、自動車やロボットなどの位置制御への応用が期待されている。
ところで、特許文献1には、被写体を撮像することにより、当該被写体の立体形状を画像形式で表した第1の距離画像を算出するための基準画像を生成する第1の撮像部と、第1の撮像部と異なる位置から被写体を撮像することにより、第1の距離画像を算出するための参照画像を生成する第2の撮像部と、基準画像と参照画像との間における対応画素を探索する対応画素探索部と、対応画素から視差を算出して第1の距離画像を生成する第1の距離画像生成部と、強度変調された赤外光を被写体に向けて照射する光源と、強度変調と同期した同期信号を第1の撮像部に供給する同期信号供給部とを備え、第1の撮像部は、強度変調された赤外光が被写体から反射した反射光を、同期信号に基づいて受光することにより、被写体の反射点からの距離情報を含む第2の距離画像をさらに生成する立体撮像装置が開示されている。
TOF演算方式には、遅延時間を直接検出する方式(以下では、「直接TOF法」ともいう)と、受光信号を使った演算から遅延時間を検出する方式(以下では、「間接TOF法」ともいう)とがある。
ところで、近距離にある物体までの距離測定(以下では、単に「近距離測定」ともいう)に関しては、間接TOF法の方が直接TOF法よりも測定精度に優れていると言われている。そして、間接TOF法では、光源から射出される光の強度変調周波数が高いほど測定距離の分解能が向上する。
一般的に、TOF演算方式では、物体で反射した光(以下では、単に「反射光」ともいう)が、光源から射出される光の強度変調周波数における1周期以上分遅れて戻ってきた場合、それが何周期分遅れたのかを判別することができない。すなわち、TOF演算方式では、遅延時間が光源から射出される光の強度変調周波数における1周期内に収まる距離が測定可能距離となる。
しかしながら、TOF演算方式を用いた従来の距離センサでは、測定距離の分解能向上を狙って光源から射出される光の強度変調周波数を高くすると、測定可能距離が短くなるという不都合があった。
本発明は、パルス光を射出する光源と、前記光源から射出され物体で反射された光を受光して電気信号に変換する撮像素子を有する複数の受光手段と、前記複数の受光手段の出力に基づいて、前記物体までの距離を求める距離取得部とを備え、前記複数の受光手段における前記撮像素子は、それぞれ前記物体に対する視点が互いに異なるように配置され、該複数の撮像素子は、前記電気信号を時間的に複数の信号に分割して前記距離取得部に出力し、前記距離取得部は、前記複数の信号からTOF(Time of Flight)演算方式を用いて、前記パルス光に対する前記電気信号の遅延時間を算出するとともに、前記複数の受光手段に対する複数の距離画像情報を算出し、該複数の距離画像情報に基づいて視差情報を求め、該視差情報に基づいて前記遅延時間を補正する、距離センサである。
本発明の距離センサによれば、測定距離の分解能向上と測定可能距離の増大を両立させることができる。
本発明の一実施形態に係る距離センサを搭載した走行体の外観図である。 走行管理装置の構成を説明するためのブロック図である。 距離センサの構成を説明するための図である。 光射出系を説明するための図である。 パルス制御信号を説明するための図である。 光源駆動信号を説明するための図である。 第1の検出系を説明するための図である。 第2の検出系を説明するための図である。 3次元情報取得部の構成を説明するためのブロック図である。 3次元情報取得部の制御部と各イメージセンサとの間の信号を説明するための図である。 4位相式の正弦波変調方式におけるTX1信号、TX2信号、TXD信号及びリセット信号を説明するためのタイミングチャートである。 図11におけるサブフレームAを説明するためのタイミングチャートである。 図11におけるサブフレームBを説明するためのタイミングチャートである。 位相角差φを説明するための図である。 遅延時間Tdを説明するための図である。 2位相式のパルス変調方式におけるTX1信号、TX2信号、TXD信号及びリセット信号を説明するためのタイミングチャートである。 エイリアシングを説明するための図である。 周期判定を説明するための図(その1)である。 周期判定を説明するための図(その2)である。 視差と測距値との関係を説明するための図である。 図21(A)は、従来のTOF演算方式を用いた場合のフレーム構成を説明するための概略図であり、図21(B)は、本実施形態におけるフレーム構成を説明するための概略図である。 音声・警報発生装置の構成を説明するためのブロック図である。 変形例を説明するための図(その1)である。 変形例を説明するための図(その2)である。 変形例におけるフレーム構成を説明するための概略図である。
以下、本発明の一実施形態を図1〜図22に基づいて説明する。図1には、一実施形態に係る距離センサ20を搭載した走行体1の外観が示されている。この走行体1は、荷物を目的地に無人搬送するものである。なお、本明細書では、XYZ3次元直交座標系を用い、路面に直交する方向をZ軸方向、走行体1の前進方向を+X方向として説明する。
ここでは、距離センサ20は、一例として、走行体1の前部に取り付けられ、走行体1の+X側(前方)の3次元情報を求める。なお、距離センサ20による測定可能な領域を測定領域ともいう。
走行体1の内部には、一例として図2に示されるように、表示装置30、位置制御装置40、メモリ50、及び音声・警報発生装置60などが備えられている。これらは、データの伝送が可能なバス70を介して電気的に接続されている。
ここでは、距離センサ20と、表示装置30と、位置制御装置40と、メモリ50と、音声・警報発生装置60とによって、走行管理装置10が構成されている。すなわち、走行管理装置10は、走行体1に搭載されている。また、走行管理装置10は、走行体1のメインコントローラ80と電気的に接続されている。
距離センサ20は、一例として図3に示されるように、光射出系201、第1の光検出系202、3次元情報取得部203、第2の光検出系204、及び変調周波数制御部205などを有している。そして、これらは、筐体内に収納されている。この筐体は、光射出系201から射出される光及び、物体で反射され、第1の光検出系202及び第2の光検出系204に向かう光が通過するための窓を有し、該窓にはガラスが取り付けられている。
変調周波数制御部205は、3次元情報取得部203の指示により、光射出系201から射出される光の強度変調周波数を制御するための信号(以下では、「パルス制御信号」ともいう)を生成する。このパルス制御信号は、光射出系201、第1の光検出系202及び第2の光検出系204、並びに3次元情報取得部203に出力される。
光射出系201は、X軸方向に直交する方向に関して、第1の光検出系202と第2の光検出系204との間に配置されている。なお、図3では、光射出系201がZ軸方向に関して第1の光検出系202と第2の光検出系204との間に配置されている場合について示されているが、これに限定されるものではなく、例えば、光射出系201がY軸方向に関して第1の光検出系202と第2の光検出系204との間に配置されていても良い。
この光射出系201は、一例として図4に示されるように、光源21及び光源駆動部25などを有している。
光源21は、光源駆動部25によって点灯及び消灯される。ここでは、光源21としてLEDが用いられているが、これに限定されるものではない。光源21は、+X方向に光を射出するように配置されている。なお、以下では、光源駆動部25で生成され、光源21を駆動するための信号を「光源駆動信号」という。
光源駆動部25は、変調周波数制御部205からのパルス制御信号(図5参照)に基づいて、光源駆動信号(図6参照)を生成する。この光源駆動信号は、光源21に送出される。
これにより、光源21からは、変調周波数制御部205から指示されたパルス幅のパルス光が光源21から射出される。なお、以下では、光源21から射出される光を「検出光」ともいう。
図2に戻り、走行体1のメインコントローラ80は、走行体1を走行させる際に、位置制御の開始要求を位置制御装置40に送出する。そして、走行体1のメインコントローラ80は、走行体1が目的位置に到達すると、位置制御の終了要求を位置制御装置40に送出する。
位置制御装置40は、位置制御の開始要求、及び位置制御の終了要求を受け取ると、距離センサ20に通知する。距離センサ20では、3次元情報取得部203が、該通知を受信する。
距離センサ20から射出され物体で反射された光の一部は、距離センサ20に戻ってくる。以下では、便宜上、物体で反射され距離センサ20に戻ってくる光を「物体からの反射光」ともいう。
第1の光検出系202及び第2の光検出系204は、物体からの反射光を検出する。第1の光検出系202は、一例として図7に示されるように、第1の結像光学系28a及び第1のイメージセンサ29aなどを有している。第2の光検出系204は、一例として図8に示されるように、第2の結像光学系28b及び第2のイメージセンサ29bなどを有している。
結像光学系28a及び結像光学系28bは、物体からの反射光の光路上に配置され、該光を集光する。ここでは、各結像光学系は1枚のレンズで構成されているが、2枚のレンズで構成されても良いし、3枚以上のレンズで構成されても良い。また、各結像光学系として、ミラー光学系が用いられても良い。
イメージセンサ29aは、結像光学系28aを介した物体からの反射光を受光する。イメージセンサ29bは、結像光学系28bを介した物体からの反射光を受光する。ここでは、各イメージセンサとして、CMOS撮像素子を用いている。そして、第1の光検出系202及び第2の光検出系204は、イメージセンサ29aの物体に対する視点とイメージセンサ29bの物体に対する視点とが互いに異なるように配置されている。
3次元情報取得部203は、一例として図9に示されるように、2つのADC(301、302)、TOF演算部303、視差演算部304、周期判定部305、出力部306、制御部307、及び距離算出部308などを有している。
ADC301は、イメージセンサ29aの出力をAD変換する。ADC302は、イメージセンサ29bの出力をAD変換する。
TOF演算部303は、ADC301の出力に基づいてTOF演算を行う。視差演算部304は、ADC301の出力とADC302の出力とに基づいて、物体に対する視差を求める。
周期判定部305は、視差演算部304の出力から周期を判定する。なお、この周期判定部305の詳細については後述する。
距離算出部308は、TOF演算部303の出力と周期判定部305の出力とから、物体までの距離を求める。なお、この距離算出部308の詳細については後述する。
出力部306は、距離算出部308の出力(3次元情報)をバス70を介して位置制御装置40に送出する。制御部307は、3次元情報取得部203の全体を制御する。
ここでは、TOF演算部303、視差演算部304、周期判定部305、制御部307、及び距離算出部308は、CPUとプログラムとによって実現されている。なお、CPUとプログラムとによって実現される処理の一部をハードウェアで実現しても良い。
制御部307は、一例として図10に示されるように、TX1信号、TX2信号、TXD信号及びリセット信号をイメージセンサ29a及びイメージセンサ29bに出力する。
イメージセンサ29a及びイメージセンサ29bは、2つの電荷蓄積部を有しており、TX1信号がハイレベルのときは、一方の電荷蓄積部に電荷を蓄積し、TX2信号がハイレベルのときは、他方の電荷蓄積部に電荷を蓄積する。また、イメージセンサ29a及びイメージセンサ29bは、TXD信号がハイレベルのときは、電荷の蓄積を行わず、リセット信号がハイレベルになると、2つの電荷蓄積部に蓄積されている電荷量を0にする。
ここで、TOF演算方式で用いられる正弦波変調方式及びパルス変調方式について説明する。
先ず、正弦波変調方式について説明する。正弦波変調方式とは、入射する光を時間的に3つ以上に分割して検出した各信号を用いて位相差角を演算し、発光パルスに対する受光パルスの遅延時間Tdを求める方法である。
一例として4位相式の正弦波変調方式について図11〜図13を用いて説明する。なお、光源21の発光周期をTとし、発光パルス幅をTとする。そこで、デューティ(duty)は、(T/T)×100である。ここでは、一例として、デューティを50%としているが、これに限定されるものではない。
図11には、4位相式の正弦波変調方式におけるTX1信号、TX2信号、TXD信号及びリセット信号のタイミングチャートが示されている。ここでは、1フレームは、サブフレームAとサブフレームBとからなっている。
図12には、図11におけるサブフレームAの部分が示されている。このサブフレームAでは、TX1信号は、光源21から射出されるパルス光に対する位相が0°の読み出し信号である。また、TX2信号は、光源21から射出されるパルス光に対する位相が180°の読み出し信号である。
図13には、図11におけるサブフレームBの部分が示されている。このサブフレームBでは、TX1信号は、光源21から射出されるパルス光に対する位相が90°の読み出し信号である。また、TX2信号は、光源21から射出されるパルス光に対する位相が270°の読み出し信号である。
ここでは、サブフレームAにおける、TX1信号によるイメージセンサ29の出力信号(電圧)をV0とし、TX2信号によるイメージセンサ29の出力信号(電圧)をV180とする。また、サブフレームBにおける、TX1信号によるイメージセンサ29の出力信号(電圧)をV90とし、TX2信号によるイメージセンサ29の出力信号(電圧)をV270とする。
TOF演算部303は、画素毎に次の(1)式を用いて位相角差φ(図14参照)を求める。
φ=arctan{(V90−V270)/(V0−V180)} ……(1)
さらに、TOF演算部303は、次の(2)式を用いて発光パルスに対する受光パルスの遅延時間Td(図15参照)を求める。
Td=(φ/2π)×2T ……(2)
次に、パルス変調方式について説明する。パルス変調方式とは、入射する光を時間的に2つ以上に分割して検出した各信号を用いて、発光パルスに対する受光パルスの遅延時間Tdを求める方法である。
一例として2位相式のパルス変調方式について図16を用いて説明する。図16には、2位相式のパルス変調方式におけるTX1信号、TX2信号、TXD信号及びリセット信号のタイミングチャートが示されている。TX1信号は、光源21から射出されるパルス光に対する位相が0°の読み出し信号である。また、TX2信号は、光源21から射出されるパルス光に対する位相が180°の読み出し信号である。
TOF演算部303は、次の(3)式を用いて発光パルスに対する受光パルスの遅延時間Tdを求める。
Td={V180/(V0+V180)}×T ……(3)
ところで、TOF演算方式では、物体からの反射光が、検出光における変調周波数の1周期以上分遅れて戻ってきた場合、それが何周期分遅れて来たのかを判別することができない。すなわち、TOF演算方式では、一般的に1周期の遅延内に収まる距離が測定可能距離となる。
ここで、エイリアシングについて、図17を用いて説明する。距離センサ20からの距離がd(obj)の位置に物体があるとする。そして、TOF演算部303によって、発光パルスに対する受光パルスの遅延時間TdとしてTd(obj)が得られたものとする。しかし、Td(obj)は変調周波数の周期以上の遅れが含まれているため、物体までの距離がdAと誤判定されてしまう。なお、測定可能距離の最大値d1は、光速をcとすると、次の(4)式で示される。
d1=2T×c/2 ……(4)
次に、視差演算について説明する。ここでは、画像情報として輝度信号を用いる場合について説明する。この場合、各イメージセンサから出力される信号から、V0+V180、及びV90+V270を用いて、検出光による物体の輝度情報を得ることができる。そして、イメージセンサ29a及びイメージセンサ29bのそれぞれで取得された輝度情報を用いて二次元マップを作成することにより、それぞれの視野内の輝度画像を得ることができる。
視差演算部304は、イメージセンサ29a及びイメージセンサ29bで得られた2つの輝度画像に対して、視差演算を行う。ここで行う視差演算は、いわゆるステレオ法を用いている。
ステレオ法は、異なる場所に位置する2つ以上の撮像手段により測定対象を撮像し、得られたそれぞれの画像情報において対応点を求め、三角測量の原理で測定対象までの距離を求める手法である。対応点探索手法(パターンマッチング手法)として、様々な手法が提案されているが、大別すると特徴ベースマッチングと領域ベースマッチングに分けられる。
特徴ベースマッチングは、画像からエッジやコーナー等の特徴点を抽出し、特徴点についてのみ対応点探索を行う手法である。疎な対応付けとなるが、計算コストが非常に低い点が特徴である。局所特徴量としては、SIFTやSURFといった指標が提案されている。
領域ベースマッチングは、任意の領域をウインドウで区切って、類似尺度(SAD、SSD、POC等)を用いて対応点を探索する手法である。密な対応付けとなり、計算コストが高くなる点が特徴である。
また、対応点探索の前処理として、撮像手段の内部パラメータ(焦点距離、ディストーションなど)、及び外部パラメータ(撮像手段間の位置関係など)を用いた画像平行化処理を行うことが一般的であり、様々な手法が提案されている。
画像平行化処理を行った場合、ステレオ法による測距値dsは、次の(5)式から求められる。ここで、fは焦点距離、dは基線長、disは対応点探索より求められた視差である。
ds=f×d/dis ……(5)
周期判定部305は、視差演算部304で算出された距離情報(視差情報)に基づいて、TOF演算部303の出力に対する周期判定を行う。視差演算による測距の場合、TOF演算方式による測距とは異なり。演算結果の折り返しは生じない。このため視差演算による測距結果を用いて、TOF演算部303の出力に対する周期判定が可能である。なお、周期判定部305は、一例として図18に示されるように、変調周波数の周期を単位とするパルス発光からの経過時間と視差演算による測距結果との関係を示す情報(以下では、便宜上、「周期−距離対応情報」ともいう)を有している。
例えば、図19に示されるように、視差演算部304で算出された距離ds(obj)が、2周期目の測距範囲内であると、距離算出部308は、次の(6)式を用いて、TOF演算部303で得られた遅延時間Tdを補正し、補正された遅延時間TDを求める。
TD=T+Td ……(6)
すなわち、距離算出部308は、物体で反射した光が、パルス光の強度変調周波数における周期に対して、n(nは自然数)周期分遅れて受光され、TOF演算部303で得られた遅延時間がTdのとき、パルス光の強度変調周波数における周期をTとすると、n×T+Tdを、補正された遅延時間TDとする。
そして、距離算出部308は、補正された遅延時間TDを用いて物体までの距離d(obj)を求める。
なお、ここでは、距離算出部308は、物体までの距離d(obj)を含む物体の位置に関する3次元情報を出力部306に出力する。
ここで、本実施形態の一構成例をより具体的に説明する。TOF演算方式を用いた距離の測定では、変調周波数が高いほど、高い測距分解能を得ることが可能である。なお、以下では、距離測定の分解能を「測距分解能」ともいう。ここでは、変調周波数を80MHz、パルス発光のデューティを50%とする。この場合、数mmの測距分解能を実現することができる。
このとき、パルス幅Tは6.25nsecであり、4位相式の正弦波変調方式を用いる場合、測定可能距離は1.875mである。
ところで、測定可能距離として5m程度が確保できると、ロボットビジョンやヒューマンマシンインターフェイスなどの様々な分野への展開が期待できる。この場合、読み出し信号における位相の繰り返しが最大3回発生するため、視差演算ではこれらにおける周期判別が実現できれば良い。
各イメージセンサとして用いているCMOS撮像素子は、現在は、一般的な撮像素子と比べて低画素が主流である。ここでは320×240px(ピクセル)のQVGAタイプを用いるものとする。撮像画角を全角50度、基線長150mmとしたときの視差と視差演算による測距値との関係が図20に示されている。
視差演算では、対応点探索を行うことで対象物の視差を求めるが、求めた視差がA〜Cのいずれの範囲に位置しているかを求めれば周期判別ができ、対応点探索の探索精度としては比較的低精度で構わない。また、対象物のエッジやコーナー等の特徴点を用いた疎なマッチングでよく。計算コストが低い特徴ベースマッチング手法を用いるのが望ましい。
以上の構成をとることで、数mmの測距分解能を5m以上にわたって確保することが可能となり、測定可能距離に関して3倍の拡大効果が得られる。
従来のTOF演算方式を用いた場合のフレーム構成が図21(A)に概略的に示され、本実施形態におけるフレーム構成が図21(B)に概略的に示されている。従来のTOF演算方式を用いた場合、TOF演算までに4つの出力信号を取得する。本実施形態の場合、TOF演算に加えて視差演算を行うが、視差演算には4つの出力信号を用いる必要はなく、また、TOF演算を行うための出力信号と同じものを用いることができる。そのため、視差演算のための新たな信号取得の必要はない。また、視差演算は、V0,V180を取得した直後から行えば良く、V90、V270の取得及びTOF演算と並行して処理を進めることができる。これより、従来と比較しても高速性に対する影響は小さい。すなわち、TOF演算方式の特長である高速性を犠牲にすることなく、高い距離分解能と測定可能距離の拡大を両立することが可能となる。
図2に戻り、位置制御装置40は、3次元情報取得部203から3次元情報を受け取ると、該3次元情報を表示装置30に表示する。また、位置制御装置40は、3次元情報に基づいて、走行体1の位置が所定の位置となるように、位置制御を行う。
音声・警報発生装置60は、一例として図22に示されるように、音声合成装置61、警報信号生成装置62及びスピーカ63などを有している。
音声合成装置61は、複数の音声データを有しており、位置制御装置40から危険有りの情報を受け取ると、対応する音声データを選択し、スピーカ63に出力する。
警報信号生成装置62は、位置制御装置40から危険有りの情報を受け取ると、対応する警報信号を生成し、スピーカ63に出力する。
以上の説明から明らかなように、本実施形態に係る距離センサ20では、第1の光検出系202と第2の光検出系204によって、本発明の距離センサにおける複数の受光手段が構成されている。また、3次元情報取得部203によって、本発明の距離センサにおける距離取得部が構成されている。
以上説明したように、本実施形態に係る距離センサ20は、光射出系201、第1の光検出系202、3次元情報取得部203、第2の光検出系204、及び変調周波数制御部205を有している。第1の光検出系202は、イメージセンサ29aを有し、第2の光検出系204は、イメージセンサ29bを有している。各イメージセンサは、CMOS撮像素子である。
3次元情報取得部203は、2つのADC(301、302)、TOF演算部303、視差演算部304、周期判定部305、出力部306、制御部307、及び距離算出部308などを有している。
TOF演算部303は、イメージセンサ29aの出力を用いて、発光パルスに対する受光パルスの遅延時間Tdを求める。視差演算部304は、イメージセンサ29aの出力とイメージセンサ29bの出力とを用いて、物体の視差を求める。周期判定部305は、視差演算部304の演算結果から、物体で反射した光が、検出光の強度変調周波数における周期に対して、何周期分遅れて受光されたのかを判別し、距離算出部308は、周期判定部305での判別結果に基づいて、TOF演算部303での演算結果を補正する。この場合は、物体までの距離がTOF演算方式における従来の測定可能距離よりも長くても、物体までの距離を高い分解能で求めることができる。
また、視差演算部304での視差演算は、V90、V270の取得及びTOF演算と並行して行うことができる。
そこで、本実施形態に係る距離センサ20によると、高速性を損なうことなく、測定距離の分解能向上と測定可能距離の増大を両立させることができる。
そして、走行体1は、距離センサ20を有しているため、信頼性に優れた走行ができる。
なお、上記実施形態では、視差演算部304において、各イメージセンサで得られた2つの輝度画像に対して、視差演算を行う場合について説明したが、これに限定されるものではなく、各イメージセンサで得られた2つの距離画像に対して、視差演算を行っても良い。
ここでの距離画像とは、各画素に測距値が格納された二次元画像を指す。距離画像であっても、輝度画像と同様に測定物体のエッジやコーナー等の特徴点は得られるため、上述の視差演算及び周期判別が可能となる。
ところで、光源波長に対する対象物体の反射率と背景物体の反射率とが同程度である場合、輝度画像においては対象物体の特徴点の抽出が困難な場合がある。そのような場合において、対象物体と背景物体の間では測距値の差があるため、距離画像においては特徴点が抽出しやすい。そこで、光源波長に対する対象物体の反射率と背景物体の反射率とが同程度である場合、視差演算に距離画像を用いることで、視差演算の確実性が増し、周期判別の高精度化を図ることができる。
また、2つの輝度画像を用いた視差演算結果と2つの距離画像を用いた視差演算結果とを比較し、視差演算の信頼性判定や、視差演算の補間などを行うと、更なる高精度化を図ることができる。
なお、上記実施形態では、各イメージセンサがいずれもCMOS撮像素子である場合について説明したが、これに限定されるものではない。イメージセンサ29a及びイメージセンサ29bのいずれかが、RGB撮像素子であっても良い。
変形例として、イメージセンサ29bがRGB撮像素子の場合について説明する。この変形例では、図23に示されるように、変調周波数制御部205からのパルス制御信号は、第2の光検出系204では不要である。また、図24に示されるように、イメージセンサ29bへのTX1信号、TX2信号、TXD信号、リセット信号の送出も不要である。
この場合、TOF演算部303では、イメージセンサ29aの出力信号を用いて遅延時間Tdを求めることができる。そして、視差演算部304では、イメージセンサ29aからの輝度画像又は距離画像と、イメージセンサ29b(RGB撮像素子)からのRGB輝度画像を用いて視差演算を行う。このように異なる画像情報であっても、対象物体のエッジやコーナー等の特徴点は得られるため、周期判定部305では、周期判定を行うことができる。
図25には、この変形例におけるフレーム構成が概略的に示されている。V0、V180の取得とRGB輝度信号の取得とが並行して行われる。また、V90、V270の取得及びTOF演算と並行して視差演算の処理を進めることができる。これより、従来と比較しても高速性に対する影響は小さい。すなわち、TOF演算方式の特長である高速性を犠牲にすることなく、高い距離分解能と測定可能距離の拡大を両立することが可能となる。
この変形例では、対象物体の三次元構造及びRGB輝度情報を同時に取得することができ、対象物体の三次元モデリングとテクスチャー情報の取り込みなどに利用することができる。
また、上記実施形態では、距離センサ20が2つの光検出系を有する場合について説明したが、これに限定されるものではない。距離センサ20が3つ以上の光検出系を有していても良い。但し、少なくとも1つの光検出系は、上記実施形態におけるイメージセンサと同様な撮像素子を有している必要がある。
また、上記実施形態では、距離センサ20において、光源21から射出されるパルス光のデューティが50%の場合について説明したが、これに限定されるものではない。
また、上記実施形態において、3次元情報取得部203での処理の一部を位置制御装置40が行っても良いし、位置制御装置40での処理の一部を3次元情報取得部203が行っても良い。
また、上記実施形態では、走行管理装置10が1つの距離センサ20を備える場合について説明したが、これに限定されるものではない。走行体の大きさ、測定領域などに応じて、複数の距離センサ20を備えても良い。
また、上記実施形態では、距離センサ20が走行体の進行方向を監視する走行管理装置10に用いられる場合について説明したが、これに限定されるものではない。例えば、走行体の後方や側面を監視する装置に用いられても良い。
また、上記実施形態では、距離センサ20が走行体に用いられる場合について説明したが、これに限定されるものではない。例えば、距離センサ20が自身の位置を確認しながら自律的に移動するロボットや、物体の3次元形状を測定する3次元測定装置に用いられても良い。
1…走行体、10…走行管理装置、20…距離センサ、21…光源、25…光源駆動部、28a…第1の結像光学系、28b…第2の結像光学系、29a…第1のイメージセンサ、29b…第2のイメージセンサ、40…位置制御装置、50…メモリ、60…音声・警報発生装置、80…メインコントローラ、201…光射出系、202…第1の光検出系(複数の受光手段の一部)、203…3次元情報取得部(距離取得部)、204…第2の光検出系(複数の受光手段の一部)、205…変調周波数制御部、301…ADC、302…ADC、303…TOF演算部、304…視差演算部、305…周期判定部、306…出力部、307…制御部、308…距離算出部、T…発光パルス幅、T…発光周期。
WO2012/137434号公報

Claims (9)

  1. パルス光を射出する光源と、
    前記光源から射出され物体で反射された光を受光して電気信号に変換する撮像素子を有する複数の受光手段と、
    前記複数の受光手段の出力に基づいて、前記物体までの距離を求める距離取得部とを備え、
    前記複数の受光手段における前記撮像素子は、それぞれ前記物体に対する視点が互いに異なるように配置され、該複数の撮像素子は、前記電気信号を時間的に複数の信号に分割して前記距離取得部に出力し、
    前記距離取得部は、前記複数の信号からTOF(Time of Flight)演算方式を用いて、前記パルス光に対する前記電気信号の遅延時間を算出するとともに、前記複数の受光手段に対する複数の距離画像情報を算出し、該複数の距離画像情報に基づいて視差情報を求め、該視差情報に基づいて前記遅延時間を補正する、距離センサ。
  2. 前記距離取得部は、前記視差情報に基づいて、前記物体で反射した光が、前記パルス光の強度変調周波数における周期に対して、何周期分遅れて受光されたのかを判別し、前記遅延時間を補正することを特徴とする請求項に記載の距離センサ。
  3. 前記距離取得部は、前記物体で反射した光が、前記パルス光の強度変調周波数における周期に対して、n(nは自然数)周期分遅れて受光され、前記遅延時間がTdのとき、前記パルス光の強度変調周波数における周期をTとすると、n×T+Tdを、補正された遅延時間とすることを特徴とする請求項に記載の距離センサ。
  4. 前記距離取得部は、前記視差情報を求める処理と、前記電気信号を時間的に複数の信号に分割する前記撮像素子の出力を取得する処理を、時間的に並行して行うことを特徴とする請求項1〜3のいずれか一項に記載の距離センサ。
  5. 前記距離取得部は、前記光源から射出されるパルス光に対する位相が互いに異なる複数の読み出し信号を前記複数の受光手段の撮像素子に出力することを特徴とする請求項1〜のいずれか一項に記載の距離センサ。
  6. 前記複数の撮像素子は、CMOS撮像素子であることを特徴とする請求項1〜のいずれか一項に記載の距離センサ。
  7. 請求項1〜のいずれか一項に記載の距離センサを有する走行体。
  8. 請求項1〜のいずれか一項に記載の距離センサを有するロボット。
  9. 請求項1〜のいずれか一項に記載の距離センサを有する3次元計測装置。
JP2016042130A 2016-03-04 2016-03-04 距離センサ、走行体、ロボット及び3次元計測装置 Expired - Fee Related JP6727539B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016042130A JP6727539B2 (ja) 2016-03-04 2016-03-04 距離センサ、走行体、ロボット及び3次元計測装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016042130A JP6727539B2 (ja) 2016-03-04 2016-03-04 距離センサ、走行体、ロボット及び3次元計測装置

Publications (2)

Publication Number Publication Date
JP2017156306A JP2017156306A (ja) 2017-09-07
JP6727539B2 true JP6727539B2 (ja) 2020-07-22

Family

ID=59808696

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016042130A Expired - Fee Related JP6727539B2 (ja) 2016-03-04 2016-03-04 距離センサ、走行体、ロボット及び3次元計測装置

Country Status (1)

Country Link
JP (1) JP6727539B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6848364B2 (ja) 2016-11-10 2021-03-24 株式会社リコー 測距装置、移動体、ロボット、3次元計測装置、監視カメラ及び測距方法
JP6988071B2 (ja) 2016-11-16 2022-01-05 株式会社リコー 距離測定装置及び距離測定方法
WO2019212065A1 (ko) * 2018-04-30 2019-11-07 전자부품연구원 다중 라이다 신호 보정 방법 및 시스템
JP7131180B2 (ja) * 2018-07-30 2022-09-06 株式会社リコー 測距装置、測距方法、プログラム、移動体
JP2020153715A (ja) 2019-03-18 2020-09-24 株式会社リコー 測距装置および測距方法
JP7255259B2 (ja) * 2019-03-19 2023-04-11 株式会社リコー 検出装置、測距装置、時間測定方法、プログラム、移動体
JP7245767B2 (ja) * 2019-12-23 2023-03-24 株式会社日立エルジーデータストレージ 全方位測距装置
JP7505312B2 (ja) * 2020-07-29 2024-06-25 株式会社リコー 光投射装置、物体検出装置、及び移動体

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4802891B2 (ja) * 2006-06-27 2011-10-26 トヨタ自動車株式会社 距離測定システム及び距離測定方法
CN103477186B (zh) * 2011-04-07 2016-01-27 松下知识产权经营株式会社 立体摄像装置
KR101862199B1 (ko) * 2012-02-29 2018-05-29 삼성전자주식회사 원거리 획득이 가능한 tof카메라와 스테레오 카메라의 합성 시스템 및 방법
KR101975971B1 (ko) * 2012-03-19 2019-05-08 삼성전자주식회사 깊이 카메라, 다중 깊이 카메라 시스템, 그리고 그것의 동기 방법
JP6427998B2 (ja) * 2014-07-07 2018-11-28 株式会社デンソー 光飛行型測距装置

Also Published As

Publication number Publication date
JP2017156306A (ja) 2017-09-07

Similar Documents

Publication Publication Date Title
JP6727539B2 (ja) 距離センサ、走行体、ロボット及び3次元計測装置
JP6922187B2 (ja) 測距装置、監視カメラ、3次元計測装置、移動体、ロボット及び光源駆動条件設定方法
US10684121B2 (en) Distance-measuring apparatus which uses different calculations depending on whether the object is dynamically changing
Hussmann et al. A performance review of 3D TOF vision systems in comparison to stereo vision systems
JP6019959B2 (ja) 物体検出装置、物体検出プログラムおよび車両
CN105115445A (zh) 基于深度相机与双目视觉复合的三维成像系统及成像方法
EP2717069B1 (en) Method for determining and/or compensating range offset of a range sensor
WO2011104706A1 (en) A system and method for providing 3d imaging
US20140347484A1 (en) Apparatus and method for providing surrounding environment information of vehicle
WO2015086663A1 (en) Time-of-light-based systems using reduced illumination duty cycles
US10055881B2 (en) Video imaging to assess specularity
JP2017009339A (ja) センサ、センシング装置及び距離計測方法
KR20190098242A (ko) 차량 주변 환경을 특성화하기 위한 시스템
JPWO2017038659A1 (ja) 運動検出装置及びそれを用いた三次元形状測定装置
JP2011155393A (ja) 車両周辺画像表示装置及び車両周辺画像表示方法
EP3432033B1 (en) Object detection device, object detection method, and program
CN109085603A (zh) 光学三维成像系统和彩色三维图像成像方法
KR20130017009A (ko) 영상 처리 장치 및 영상 처리 방법
JP6543935B2 (ja) 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム
EP4009274A1 (en) Image processing device, three-dimensional measurement system, and image processing method
CN112740065A (zh) 使用视觉惯性测距的增强深度映射
JP2014130086A (ja) 距離画像センサ、処理装置、プログラム
CN112513670B (zh) 测距仪、测距系统、测距方法及程序
US20230078063A1 (en) Distance measurement device and distance measurement system
JP2010002326A (ja) 移動ベクトル検出装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160621

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191121

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200601

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200614

R151 Written notification of patent or utility model registration

Ref document number: 6727539

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees