JP2008008687A - Distance measuring system and distance measuring method - Google Patents

Distance measuring system and distance measuring method Download PDF

Info

Publication number
JP2008008687A
JP2008008687A JP2006177340A JP2006177340A JP2008008687A JP 2008008687 A JP2008008687 A JP 2008008687A JP 2006177340 A JP2006177340 A JP 2006177340A JP 2006177340 A JP2006177340 A JP 2006177340A JP 2008008687 A JP2008008687 A JP 2008008687A
Authority
JP
Japan
Prior art keywords
distance
distance measuring
image
generating
photoelectrons
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006177340A
Other languages
Japanese (ja)
Other versions
JP4802891B2 (en
Inventor
Hitoshi Yamada
整 山田
Kazuhiro Shintani
和宏 新谷
Weizaato Michael
ウェイザート マイケル
Kazuhiro Ochiai
一拓 落合
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2006177340A priority Critical patent/JP4802891B2/en
Publication of JP2008008687A publication Critical patent/JP2008008687A/en
Application granted granted Critical
Publication of JP4802891B2 publication Critical patent/JP4802891B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a distance measuring system which forms a reliable distance image in a short period of time, and also to provide a distance measuring method. <P>SOLUTION: The distance measuring system comprises: a parallax measurement type distance measuring apparatus 1 which forms a distance image from an acquired parallax image; and a phase-TOF type distance measuring apparatus 2 which accumulates photoelectrons converted from intensity-modulated incident light in different accumulating means while temporally shifting them, and creates distance information in accordance with the number of the photoelectrons accumulated in the accumulating means. The parallax measurement type distance measuring apparatus 1 computes the distance image by using the distance information as an initial value which is obtained by the phase-TOF type distance measuring apparatus 2. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、距離測定システム及び距離測定方法に関し、特に複数種類の距離測定技術を用いた距離測定システム及び距離測定方法に関する。   The present invention relates to a distance measurement system and a distance measurement method, and more particularly to a distance measurement system and a distance measurement method using a plurality of types of distance measurement techniques.

対象物までの距離を測定する距離測定システムについては、様々な方式が提案されている。例えば、代表的な方式としては、視差測定方式、位相TOF(Time Of Flight)方式やパルスTOF方式がある。   Various methods have been proposed for distance measurement systems that measure the distance to an object. For example, typical methods include a parallax measurement method, a phase TOF (Time Of Flight) method, and a pulse TOF method.

このうち視差測定方式は、例えば、特許文献1に開示されている。視差測定方式は、2以上の異なる視点に配置した複数のカメラによって撮影した視差画像に基づいて、立体画像を合成する。また、この視差測定方式は、特許文献2においても受動的方法として説明されている。   Among these, the parallax measurement method is disclosed in Patent Document 1, for example. In the parallax measurement method, a stereoscopic image is synthesized based on parallax images taken by a plurality of cameras arranged at two or more different viewpoints. This parallax measurement method is also described as a passive method in Patent Document 2.

位相TOF方式は、例えば、特許文献3に開示されている。位相TOF方式では、強度変調された測定光線を測定対象に照射して、対象物からの反射光を検出して、光電子変換を行い、変換された光電子を複数の蓄積手段のいずれかに時間的にずらして蓄積するようにしている。この方式によれば、測定対象が遠くにあればあるほど、複数の蓄積手段のうち時間的に後のタイミングで蓄積するようにした蓄積手段に、より多くの光電子が蓄積されることになる。つまり、測定対象までの距離に応じて、複数の蓄積手段のそれぞれに蓄積される光電子数の相対的な比率や差分が決定される。この比率や差分を求めることによって測定対象までの距離を求めることができる。   The phase TOF method is disclosed in Patent Document 3, for example. In the phase TOF method, an intensity-modulated measurement light beam is irradiated onto a measurement object, reflected light from the object is detected, photoelectron conversion is performed, and the converted photoelectron is temporally transmitted to one of a plurality of storage means. It is trying to accumulate by shifting. According to this method, the farther the measurement target is, the more photoelectrons are stored in the storage means that is stored at a later timing in time among the plurality of storage means. That is, the relative ratio or difference of the number of photoelectrons stored in each of the plurality of storage units is determined according to the distance to the measurement target. The distance to the measurement object can be obtained by obtaining this ratio or difference.

パルスTOF方式は、例えば、能動的方法として特許文献2に開示されている。パルスTOF方式は、パルス状の測定光線を測定対象物に照射して、測定対象物からの反射光と測定光線との位相差から距離を求める方式であって、測定光線を2次元的に走査し、各点で距離を測定して三次元の形状を測定するものである。
特開2001−256482号公報 特開平9−5050号公報 特開2003−51988号公報
The pulse TOF method is disclosed in Patent Document 2 as an active method, for example. The pulse TOF method is a method for irradiating a measurement object with a pulsed measurement light beam and obtaining a distance from the phase difference between the reflected light from the measurement object and the measurement light beam, and scanning the measurement light beam two-dimensionally. Then, the distance is measured at each point to measure the three-dimensional shape.
JP 2001-256482 A Japanese Patent Laid-Open No. 9-5050 JP 2003-51988 A

視差測定方式は、距離情報を得るために二以上の画像同士の特徴点を照合する必要がある。一般的に特徴点の照合は画像全体に亘って実行しなければならないため、計算量が膨大となり、計算時間も長時間化するという問題があった。従って、視差測定方式では、リアルタイムに計算することが困難であり、例えば、ロボットや車両等の移動体に搭載することは困難であった。   In the parallax measurement method, it is necessary to collate feature points between two or more images in order to obtain distance information. In general, feature point matching has to be performed over the entire image, which causes a problem that the amount of calculation is enormous and the calculation time is prolonged. Therefore, in the parallax measurement method, it is difficult to calculate in real time, and for example, it is difficult to mount on a moving body such as a robot or a vehicle.

位相TOF方式は、光の強度を一定の周期で変調させて照射するものであるが、対象物までの距離がこの波長以上の場合には、原理的に距離算出結果は一意に決まらない。また、イメージセンサ内に光の位相を算出する機構を持つ場合には、イメージセンサの構造が複雑になり解像度を十分に高めることは困難であった。   The phase TOF method irradiates the light with the intensity modulated at a constant period. However, when the distance to the object is longer than this wavelength, the distance calculation result is not uniquely determined in principle. In addition, when the image sensor has a mechanism for calculating the phase of light, the structure of the image sensor is complicated and it is difficult to sufficiently increase the resolution.

パルスTOF方式は、測定光線を2次元で走査して距離画像を得るためには、測定光線を発するレーザ等を揺動ミラーやポリゴンミラーを用いて上下左右に物理的に走査する必要があるため、距離画像の取得時間が長くなるという問題があった。   In the pulse TOF method, in order to obtain a distance image by scanning a measurement beam in two dimensions, it is necessary to physically scan a laser beam or the like that emits the measurement beam vertically and horizontally using a oscillating mirror or a polygon mirror. There has been a problem that the acquisition time of the distance image becomes long.

本発明は、かかる課題を解決するためになされたものであり、短時間で信頼性の高い距離画像を生成することができる距離測定システム及び距離測定方法を提供することを目的とする。   The present invention has been made to solve such a problem, and an object thereof is to provide a distance measuring system and a distance measuring method capable of generating a distance image with high reliability in a short time.

本発明にかかる距離測定システムは、取得した視差画像に基づいて距離画像を生成する第1の測距手段と、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成する第2の測距手段とを備えた距離測定システムであって、前記第1の測距手段は、前記第2の測距手段によって取得された距離情報を初期値として距離画像を算出するものである。このような構成により、短い時間で信頼性の高い距離画像を算出できる。   The distance measuring system according to the present invention stores a first distance measuring unit that generates a distance image based on an acquired parallax image and photoelectrons converted from incident intensity-modulated light in different storage units while being shifted in time. And a distance measuring system including second distance measuring means for generating distance information according to the number of photoelectrons stored in the storage means, wherein the first distance measuring means includes the second distance measuring means. A distance image is calculated using distance information acquired by the distance measuring means as an initial value. With such a configuration, a highly reliable range image can be calculated in a short time.

ここで、前記第2の測距手段は、前記第1の測距手段により算出された距離画像に応じて、複数の候補となる距離情報より任意の距離情報を選択することが好ましい。第2の測距手段において測定距離を限定する必要性がなくなるので、測定距離を長くすることができる。   Here, it is preferable that the second distance measuring unit selects arbitrary distance information from a plurality of candidate distance information according to the distance image calculated by the first distance measuring unit. Since there is no need to limit the measurement distance in the second distance measuring means, the measurement distance can be increased.

また、出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段をさらに備え、当該第3の測距手段は、前記第2の測距手段により選択された距離情報に基づいて走査範囲を限定して、限定された走査範囲を走査して距離画像を生成することが好ましい。このような構成により、短い時間で信頼性の高い距離画像を算出できる。   Further, the apparatus further comprises third distance measuring means for generating a distance image based on the phase difference between the emitted measurement light beam and the reflected light beam of the object, and the third distance measurement means is provided by the second distance measurement means. Preferably, the scanning range is limited based on the selected distance information, and the limited scanning range is scanned to generate a distance image. With such a configuration, a highly reliable range image can be calculated in a short time.

本発明にかかる他の観点による距離測定システムは、取得した視差画像に基づいて距離画像を生成する第1の測距手段と、出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段とを備えた距離測定システムであって、当該第3の測距手段は、前記第1の測距手段により生成された距離画像に基づいて走査範囲を限定して、限定された走査範囲を走査して距離画像を生成するものである。このような構成により、短い時間で信頼性の高い距離画像を算出できる。   A distance measurement system according to another aspect of the present invention includes a first distance measuring unit that generates a distance image based on an acquired parallax image, and a distance based on a phase difference between an emitted measurement light beam and a reflected light beam of an object. A distance measuring system including a third distance measuring means for generating an image, wherein the third distance measuring means limits a scanning range based on the distance image generated by the first distance measuring means. Thus, the range image is generated by scanning the limited scanning range. With such a configuration, a highly reliable range image can be calculated in a short time.

本発明にかかる他の観点による距離測定システムは、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成する第2の測距手段と、出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段を備えた距離測定システムであって、当該第3の測距手段は、前記第2の測距手段により選択された距離情報に基づいて走査範囲を限定して、限定された走査範囲を走査して距離画像を生成するものである。このような構成により、短い時間で信頼性の高い距離画像を算出できる。   A distance measuring system according to another aspect of the present invention accumulates photoelectrons converted from incident intensity-modulated light in different accumulating means by shifting in time, and distances according to the number of photoelectrons accumulated in these accumulating means. A distance measuring system comprising: a second distance measuring means for generating information; and a third distance measuring means for generating a distance image based on the phase difference between the emitted measurement light beam and the reflected light beam of the object, The third distance measuring means limits the scanning range based on the distance information selected by the second distance measuring means, and scans the limited scanning range to generate a distance image. With such a configuration, a highly reliable range image can be calculated in a short time.

本発明にかかる他の観点による距離測定システムは、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成する第2の測距手段と、出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段を備えた距離測定システムであって、前記第2の測距手段は、前記第3の測距手段により算出された距離画像に応じて、複数の候補となる距離情報より任意の距離情報を選択するものである。第2の測距手段において測定距離を限定する必要性がなくなるので、測定距離を長くすることができる。   A distance measuring system according to another aspect of the present invention accumulates photoelectrons converted from incident intensity-modulated light in different accumulating means by shifting in time, and distances according to the number of photoelectrons accumulated in these accumulating means. A distance measuring system comprising: a second distance measuring means for generating information; and a third distance measuring means for generating a distance image based on a phase difference between the emitted measurement light beam and a reflected light beam of the object, The second distance measuring means selects arbitrary distance information from the plurality of candidate distance information according to the distance image calculated by the third distance measuring means. Since there is no need to limit the measurement distance in the second distance measuring means, the measurement distance can be increased.

本発明にかかる他の観点による距離測定システムは、取得した視差画像に基づいて距離画像を生成する第1の測距手段と、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成する第2の測距手段とを備えた距離測定システムであって、前記第2の測距手段は、前記第1の測距手段により算出された距離画像に応じて、複数の候補となる距離情報より任意の距離情報を選択するものである。第2の測距手段において測定距離を限定する必要性がなくなるので、測定距離を長くすることができる。   The distance measuring system according to another aspect of the present invention is different from the first distance measuring unit that generates a distance image based on the acquired parallax image, by shifting the photoelectrons converted from the incident intensity-modulated light in terms of time. A distance measuring system comprising: a second distance measuring unit that stores distance information in accordance with the number of photoelectrons stored in the storage unit; and the second distance measuring unit includes: Arbitrary distance information is selected from a plurality of candidate distance information in accordance with the distance image calculated by the first distance measuring means. Since there is no need to limit the measurement distance in the second distance measuring means, the measurement distance can be increased.

さらに、前記第1の測距手段により生成された距離画像と、前記第2の測距手段により生成された距離情報を合成することによって、統合距離画像を生成する手段を備えることが望ましい。   Furthermore, it is preferable that a unit for generating an integrated distance image by combining the distance image generated by the first distance measuring unit and the distance information generated by the second distance measuring unit is desirable.

また、前記第1の測距手段により生成された距離画像と、前記第2の測距手段により生成された距離情報と、前記第3の測距手段により生成された距離画像のいずれか2以上を合成することによって、統合距離画像を生成する手段をさらに備えるとよい。   Further, any two or more of the distance image generated by the first distance measuring means, the distance information generated by the second distance measuring means, and the distance image generated by the third distance measuring means. It is preferable to further comprise means for generating an integrated distance image by synthesizing.

本発明にかかる距離測定方法は、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成するステップと、生成された距離情報を初期値として、視差画像に基づき距離画像を生成するステップを備えたものである。このような方法により、短い時間で信頼性の高い距離画像を算出できる。   In the distance measuring method according to the present invention, photoelectrons converted from incident intensity-modulated light are accumulated in different accumulating means while being shifted in time, and distance information is generated according to the number of photoelectrons accumulated in these accumulating means. And a step of generating a distance image based on the parallax image, using the generated distance information as an initial value. By such a method, a highly reliable range image can be calculated in a short time.

本発明にかかる他の観点による距離測定方法は、前記距離情報に基づいて走査範囲を限定するステップと、出射した測定光線と対象物の反射光線の位相差に基づいて限定された走査範囲における距離画像を生成するステップをさらに備える。このような方法により、短い時間で信頼性の高い距離画像を算出できる。   A distance measuring method according to another aspect of the present invention includes a step of limiting a scanning range based on the distance information, and a distance in a scanning range limited based on a phase difference between an emitted measurement light beam and a reflected light beam of an object. The method further includes the step of generating an image. By such a method, a highly reliable range image can be calculated in a short time.

本発明にかかる他の観点による距離測定方法は、取得した視差画像に基づいて距離画像を生成するステップと、生成された距離画像に基づいて走査範囲を限定するステップと、出射した測定光線と対象物の反射光線の位相差に基づいて限定された走査範囲における距離画像を生成するステップとを備える。このような方法により、短い時間で信頼性の高い距離画像を算出できる。   A distance measurement method according to another aspect of the present invention includes a step of generating a distance image based on an acquired parallax image, a step of limiting a scanning range based on the generated distance image, an emitted measurement light beam, and an object Generating a distance image in a limited scanning range based on the phase difference of the reflected rays of the object. By such a method, a highly reliable range image can be calculated in a short time.

本発明にかかる他の観点による距離測定方法は、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成するステップと、生成された距離情報に基づいて走査範囲を限定するステップと、出射した測定光線と対象物の反射光線の位相差に基づいて、前記限定された走査範囲における距離画像を生成するステップとを備える。このような方法により、短い時間で信頼性の高い距離画像を算出できる。   According to another aspect of the present invention, a distance measuring method stores photoelectrons converted from incident intensity-modulated light in different storage means while shifting the time in accordance with the number of photoelectrons stored in these storage means. A step of generating information, a step of limiting the scanning range based on the generated distance information, and a distance image in the limited scanning range based on the phase difference between the emitted measurement light beam and the reflected light beam of the object. Generating. By such a method, a highly reliable range image can be calculated in a short time.

本発明にかかる他の観点による距離測定方法は、出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成するステップと、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて複数の距離情報を生成するステップと、前記距離画像に基づいて複数の距離情報より任意の距離情報を選択するステップとを備える。このような方法により、測定距離を限定する必要性がなくなるので、測定距離を長くすることができる。   A distance measurement method according to another aspect of the present invention includes a step of generating a distance image based on a phase difference between an emitted measurement light beam and a reflected light beam of an object, and temporally converting photoelectrons converted from incident intensity-modulated light. And storing in different storage means, generating a plurality of distance information according to the number of photoelectrons stored in these storage means, and selecting any distance information from the plurality of distance information based on the distance image And a step of performing. Such a method eliminates the need to limit the measurement distance, so that the measurement distance can be increased.

本発明にかかる他の観点による距離測定方法は、取得した視差画像に基づいて距離画像を生成するステップと、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて複数の距離情報を生成するステップと、前記視差画像を取得することにより生成された距離画像に基づいて、複数の距離情報より任意の距離情報を選択するステップとを備える。このような方法により、測定距離を限定する必要性がなくなるので、測定距離を長くすることができる。   A distance measurement method according to another aspect of the present invention includes a step of generating a distance image based on an acquired parallax image, and storing photoelectrons converted from incident intensity-modulated light in different storage means while being shifted in time. The step of generating a plurality of distance information according to the number of photoelectrons stored in these storage means, and the arbitrary distance information from the plurality of distance information based on the distance image generated by acquiring the parallax image Selecting. Such a method eliminates the need to limit the measurement distance, so that the measurement distance can be increased.

さらに、得られた距離画像及び又は距離情報を合成することによって、統合距離画像を生成するステップを備えることが好ましい。   Furthermore, it is preferable to provide a step of generating an integrated distance image by synthesizing the obtained distance image and / or distance information.

本発明によれば、短時間で信頼性の高い距離画像を生成することができる距離測定システム及び距離測定方法を提供することができる。   According to the present invention, it is possible to provide a distance measuring system and a distance measuring method capable of generating a highly reliable distance image in a short time.

本実施の形態にかかる距離測定システムの構成について、図1に示すブロック図を用いて説明する。当該距離測定システムは、視差測定方式、位相TOF方式及びパルスTOF方式を組み合わせて構成したものである。図1に示す例では、それぞれの方式を実現するための撮像装置11,21,31と、データ処理装置4を基本的な構成としているが、それぞれの方式を実現する視差測定型測距装置と、位相TOF型測距装置と、パルスTOF型測距装置をデータやり取り可能な状態で別体に構成してもよい。なお、出力装置5は任意である。この距離測定システムは、様々な用途に適用可能であるが、例えば、ロボットや車両等の移動体に搭載され、周辺にある物体までの距離の測定に用いられる。   The configuration of the distance measurement system according to this embodiment will be described with reference to the block diagram shown in FIG. The distance measurement system is configured by combining a parallax measurement method, a phase TOF method, and a pulse TOF method. In the example shown in FIG. 1, the imaging devices 11, 21, and 31 for realizing each method and the data processing device 4 are basically configured, but a parallax measurement type distance measuring device that realizes each method, and The phase TOF type distance measuring device and the pulse TOF type distance measuring device may be configured separately in a state where data can be exchanged. Note that the output device 5 is optional. This distance measurement system can be applied to various applications. For example, the distance measurement system is mounted on a moving body such as a robot or a vehicle, and is used for measuring a distance to an object in the vicinity.

図1に示されるように、撮像装置として、視差測定型撮像装置11R、11Lと、位相TOF型撮像装置21及びパルスTOF型撮像装置31を備えている。データ処理部4は、視差測定型処理部41、位相TOF型処理部42、パルスTOF型処理部43及び合成画像生成部44を備えている。出力装置5は、例えば、ディスプレイである。   As shown in FIG. 1, parallax measurement type imaging devices 11R and 11L, a phase TOF type imaging device 21 and a pulse TOF type imaging device 31 are provided as imaging devices. The data processing unit 4 includes a parallax measurement type processing unit 41, a phase TOF type processing unit 42, a pulse TOF type processing unit 43, and a composite image generation unit 44. The output device 5 is, for example, a display.

図2は、視差測定型測距装置1を示すブロック図である。図2に示されるように、当該視差測定型測距装置1は、視差測定型撮像装置11R,11Lと視差測定型処理部41を備えている。視差測定型撮像装置11R,11Lは、それぞれ、CCD画像センサ(CCDカメラ)、カメラインターフェイス回路、画像メモリ、演算処理回路によって構成される。CCD画像センサの代わりにCMOS画像センサを用いることも可能である。視差測定型撮像装置11R,11Lは、同一の対象物を異なる視点から撮影し、撮影画像情報を視差測定型処理部41に出力する。視差測定型処理部41は、撮影画像情報を入力し、後に詳述するデータ処理を実行する。   FIG. 2 is a block diagram showing the parallax measuring distance measuring device 1. As shown in FIG. 2, the parallax measurement type distance measuring device 1 includes parallax measurement type imaging devices 11 </ b> R and 11 </ b> L and a parallax measurement type processing unit 41. The parallax measurement type imaging devices 11R and 11L are each configured by a CCD image sensor (CCD camera), a camera interface circuit, an image memory, and an arithmetic processing circuit. It is also possible to use a CMOS image sensor instead of the CCD image sensor. The parallax measurement type imaging devices 11R and 11L capture the same object from different viewpoints and output the captured image information to the parallax measurement type processing unit 41. The parallax measurement type processing unit 41 inputs photographed image information and executes data processing described in detail later.

図3は、位相TOF型測距装置2を示すブロック図である。位相TOF型測距装置2は、画素単位で対象物までの距離を求めることができ、その距離測定精度は、±10%程度である。位相TOF型測距装置2では、強度変調光の周期に応じて、同じ結果がでるため、原理的に複数の距離候補が生成され、候補から選択することは困難である。例えば、20MHzの強度変調光を用いた場合には、7.5mの周期で同じ結果が得られるため、例えば、0.5mと8mのいずれかを判別することができない。このため、本発明では、複数の候補から任意の候補を選択するために、他の視差測定型測距装置1やパルスTOF型測距装置2の測定結果を用いることにした。   FIG. 3 is a block diagram showing the phase TOF type distance measuring device 2. The phase TOF type distance measuring device 2 can obtain the distance to the object in pixel units, and the distance measurement accuracy is about ± 10%. In the phase TOF type distance measuring device 2, the same result is obtained according to the period of the intensity-modulated light. Therefore, in principle, a plurality of distance candidates are generated, and it is difficult to select from the candidates. For example, when the intensity-modulated light of 20 MHz is used, the same result is obtained with a period of 7.5 m. Therefore, for example, it is not possible to discriminate between 0.5 m and 8 m. Therefore, in the present invention, in order to select an arbitrary candidate from a plurality of candidates, the measurement results of the other parallax measurement type distance measuring device 1 and the pulse TOF type distance measuring device 2 are used.

図3に示されるように、当該位相TOF型測距装置2は、変調波光源211と固体撮像素子212を基本的に備えている。変調波光源211は、強度が一定の周期で変調された光を出射する光源であり、例えば、レーザや発光ダイオードを用いたAM(Amplitude Modulation:振幅変調)変調光源である。変調光は、例えば、20MHzの正弦波である。固体撮像素子212は、対象物からの反射光を検出して、光電子変換を行い、変換された光電子を複数の蓄積手段のいずれかに時間的にずらして蓄積し、蓄積された光電子数に応じて距離情報を生成する機能を有する。   As shown in FIG. 3, the phase TOF type distance measuring device 2 basically includes a modulated wave light source 211 and a solid-state imaging device 212. The modulated wave light source 211 is a light source that emits light whose intensity is modulated at a constant period, and is, for example, an AM (Amplitude Modulation) modulated light source using a laser or a light emitting diode. The modulated light is, for example, a 20 MHz sine wave. The solid-state imaging device 212 detects reflected light from the object, performs photoelectron conversion, accumulates the converted photoelectrons in a time-shifted manner in any of a plurality of storage means, and according to the number of accumulated photoelectrons And has a function of generating distance information.

図4(a)に、固体撮像素子212の基本構成を示す。図4(b)は、図4(a)におけるA矢視図の一部を省略して示した説明図である。図に示されるように、固体撮像素子212は、本体部214の上面214aにフォトダイオード215が埋め込まれている。フォトダイオード215の両側には、2つの蓄積部216a,216bが形成されている。さらに、蓄積部216a,216b上に電極217a,217bが形成されている。蓄積部216a,216bは、図示しない読み出し回路と接続されている。さらに、固体撮像素子212は、蓄積部216a,216bのいずれに光電子を移動させるかを切り換える処理を行う光電子蓄積制御手段としてのスイッチング回路213とを有する。
なお、図4は、フォトダイオード215と2つの蓄積部216a,216bとスイッチング回路213とからなる1画素分を示すが、固体撮像素子212には、多数個の画素が2次元配列されている。
フォトダイオード215は、固体撮像素子212に入射する光を受光する受光部として機能する。フォトダイオード215は、強度変調光が入射し、入射した強度変調光の光量子を光電子変換して光電子を生成する。
FIG. 4A shows a basic configuration of the solid-state image sensor 212. FIG. 4B is an explanatory diagram in which a part of the view taken along the arrow A in FIG. As shown in the figure, in the solid-state imaging device 212, a photodiode 215 is embedded in the upper surface 214a of the main body 214. Two storage portions 216 a and 216 b are formed on both sides of the photodiode 215. Furthermore, electrodes 217a and 217b are formed on the storage portions 216a and 216b. The storage units 216a and 216b are connected to a read circuit (not shown). Further, the solid-state imaging device 212 includes a switching circuit 213 as a photoelectron accumulation control unit that performs a process of switching which of the storage units 216a and 216b moves the photoelectrons to.
4 shows one pixel composed of the photodiode 215, the two storage units 216a and 216b, and the switching circuit 213, the solid-state imaging device 212 has a large number of pixels arranged in a two-dimensional array.
The photodiode 215 functions as a light receiving unit that receives light incident on the solid-state image sensor 212. The photodiode 215 receives the intensity-modulated light, and generates photoelectrons by photoelectrically converting the photons of the incident intensity-modulated light.

蓄積部216a,216bのそれぞれは、フォトダイオード215において生成された光電子を蓄積する。   Each of the storage units 216a and 216b stores the photoelectrons generated in the photodiode 215.

蓄積部216aとフォトダイオード215との間と蓄積部216bとフォトダイオード215との間には、フォトダイオード215への逆流を防止するために、不純物ドープのポテンシャルバリア218a,218bが設けられている。   Impurity-doped potential barriers 218a and 218b are provided between the storage portion 216a and the photodiode 215 and between the storage portion 216b and the photodiode 215 in order to prevent backflow to the photodiode 215.

電極217a,217bは、ポテンシャル操作用の電極であり、電極217aに印加される電圧と電極217bに印加される電圧とは逆相である。   The electrodes 217a and 217b are electrodes for potential operation, and the voltage applied to the electrode 217a and the voltage applied to the electrode 217b are in opposite phases.

読み出し回路は、蓄積部216a,216bに蓄積された電荷信号を転送する回路であり、例えば、CMOSやCCDによって構成できる。
スイッチング回路213は、フォトダイオード215に入射する強度変調光の周期信号に同期した信号、即ち、強度変調光の変調周期に同期した検波信号に応じて光電子が蓄積される蓄積部216a,216bのいずれかの切り換えを制御する。
The readout circuit is a circuit that transfers the charge signal stored in the storage units 216a and 216b, and can be configured by, for example, a CMOS or a CCD.
The switching circuit 213 is a signal synchronized with the periodic signal of the intensity-modulated light incident on the photodiode 215, that is, one of the storage units 216a and 216b in which photoelectrons are accumulated in accordance with the detection signal synchronized with the modulation period of the intensity-modulated light. To control the switching.

次に、当該固体撮像素子の動作について、図5を用いて説明する。図5(a)は、電極217bが正電位印加状態の場合の固体撮像素子212の画素周辺のポテンシャルを示し、図5(b)は、電極217aが正電位印加状態の場合の固体撮像素子212の画素周辺のポテンシャルを示す。   Next, the operation of the solid-state imaging device will be described with reference to FIG. FIG. 5A shows the potential around the pixel of the solid-state imaging device 212 when the electrode 217b is in a positive potential application state, and FIG. 5B shows the solid-state imaging device 212 when the electrode 217a is in a positive potential application state. The potential around the pixel is shown.

対象物を反射した強度変調光が固体撮像素子212に入射される。フォトダイオード215は、入射した強度変調光を光電子変換し、光電子を生成する。フォトダイオード215によって生成された光電子は、検波信号に応じたスイッチング回路213の制御によって、蓄積部216aまたは蓄積部216bのいずれかに移動される。   The intensity-modulated light reflected from the object is incident on the solid-state image sensor 212. The photodiode 215 photoelectrically converts the incident intensity modulated light to generate photoelectrons. The photoelectrons generated by the photodiode 215 are moved to either the storage unit 216a or the storage unit 216b under the control of the switching circuit 213 according to the detection signal.

電極217aが正電位印加状態になると、図5(b)に示すように、フォトダイオード215によって生成された光電子は、蓄積部216aに移動して蓄積される。電極217bが正電位印加状態になると、図5(a)に示すように、フォトダイオード215によって生成された光電子は、蓄積部216bに移動して蓄積される。変調波光源211から対象物を経て固体撮像素子212までの距離に応じて蓄積部216aに蓄積される光電子数と蓄積部216bに蓄積される光電子数との比率が決まる。例えば、対象物までの距離が比較的短い場合には、蓄積部216aに蓄積された光電子数は蓄積部216bに蓄積された光電子数に比べて多くなる。逆に、対象物までの距離が比較的長い場合には、蓄積部216aに蓄積される光電子数が減少し、蓄積部216bに蓄積される光電子数が増加する。即ち、蓄積部216aに蓄積された光電子数と蓄積部216bに蓄積された光電子数との差や比率に基づいて対象物までの距離を求めることができる。
図6は、パルスTOF型測距装置3を示すブロック図である。一般的に、パルスTOF型測距装置3の距離測定精度は、±1%程度であり、位相TOF型測距装置2よりも高い。図6に示されるように、当該パルスTOF型測距装置3は、パルスTOF型撮像装置31とパルスTOF型処理部43を備えている。パルスTOF型撮像装置31は、パルス光源311、走査手段312及び撮像素子313を備えている。パルス光源311は、所定の制御によってパルス状のレーザを出射するレーザ光源である。走査手段312は、パルス光源311との間に設けられ、当該パルス光源より出射したレーザを対象物を含む所定範囲を上下左右に2次元走査する手段であって、例えば、揺動ミラーやポリゴンミラー、及びそれらを駆動する手段によって実現される。撮像素子313は、CCD画像センサやCMOS画像センサによって構成される。パルスTOF型処理部43は、撮影画像情報を入力し、後に詳述するデータ処理を実行する。
When the electrode 217a is in a positive potential application state, as shown in FIG. 5B, the photoelectrons generated by the photodiode 215 move to and accumulate in the accumulation unit 216a. When the electrode 217b is in a positive potential application state, as shown in FIG. 5A, the photoelectrons generated by the photodiode 215 move to and accumulate in the accumulation unit 216b. The ratio between the number of photoelectrons stored in the storage unit 216a and the number of photoelectrons stored in the storage unit 216b is determined according to the distance from the modulated wave light source 211 to the solid-state imaging device 212 through the object. For example, when the distance to the object is relatively short, the number of photoelectrons stored in the storage unit 216a is larger than the number of photoelectrons stored in the storage unit 216b. Conversely, when the distance to the object is relatively long, the number of photoelectrons stored in the storage unit 216a decreases and the number of photoelectrons stored in the storage unit 216b increases. That is, the distance to the object can be obtained based on the difference or ratio between the number of photoelectrons stored in the storage unit 216a and the number of photoelectrons stored in the storage unit 216b.
FIG. 6 is a block diagram showing the pulse TOF type distance measuring device 3. In general, the distance measurement accuracy of the pulse TOF type distance measuring device 3 is about ± 1%, which is higher than that of the phase TOF type distance measuring device 2. As shown in FIG. 6, the pulse TOF type distance measuring device 3 includes a pulse TOF type imaging device 31 and a pulse TOF type processing unit 43. The pulse TOF type imaging device 31 includes a pulse light source 311, a scanning unit 312, and an imaging element 313. The pulsed light source 311 is a laser light source that emits a pulsed laser by predetermined control. The scanning means 312 is provided between the pulse light source 311 and is a means for two-dimensionally scanning a predetermined range including an object vertically and horizontally with a laser emitted from the pulse light source. , And means for driving them. The image sensor 313 is configured by a CCD image sensor or a CMOS image sensor. The pulse TOF type processing unit 43 inputs photographed image information and executes data processing that will be described in detail later.

パルス光源311から出射されたパルス状の測定光線は、対象物により反射され、撮像素子313に入射する。撮像素子313は、画素単位でその光量に応じた電気信号に変換し、出力する。パルスTOF型処理部43は、パルス光源311から出射されたパルス状の測定光線の位相と、撮像素子313に入射された反射光線の位相より位相差を算出し、位相差より距離情報に変換する。このような処理を走査手段312によって測定光線を走査し、全ての画素に関して実行することによって距離画像を得る。   The pulsed measurement light beam emitted from the pulse light source 311 is reflected by the object and enters the image sensor 313. The image sensor 313 converts the pixel signal into an electrical signal corresponding to the amount of light and outputs it. The pulse TOF processing unit 43 calculates a phase difference from the phase of the pulsed measurement light beam emitted from the pulse light source 311 and the phase of the reflected light beam incident on the image sensor 313, and converts the phase difference into distance information. . Such a process is performed by scanning the measurement light beam with the scanning unit 312 and executing it on all the pixels to obtain a distance image.

図7は、本発明にかかる距離測定システムにおける処理の流れを示すフローチャートである。図に示されるように、視差測定型測距装置1において視差画像を取得する(S101)。取得した視差画像情報を図示しない画像メモリに格納される。   FIG. 7 is a flowchart showing the flow of processing in the distance measurement system according to the present invention. As shown in the figure, a parallax image is acquired in the parallax measurement type distance measuring device 1 (S101). The acquired parallax image information is stored in an image memory (not shown).

位相TOF型測距装置2においても距離画像を取得する(S201)。取得した距離画像情報は、図示しない画像メモリに格納される。次に位相TOF型測距装置2は、折り返し距離画像を付加する(S202)。ここで、折り返し距離画像とは、最も位相TOF方式により距離を算出した場合に発生する、複数の候補となる距離画像をいう。このようにして、複数の距離候補である距離情報B−1と距離情報B−2が求まる(S203,S204)。位相TOF型測距装置2は、これらの距離情報B−1と距離情報B−2のうち、短い方の距離情報B−1を初期値として視差測定型測距装置1に入力する。   The distance image is also acquired in the phase TOF type distance measuring device 2 (S201). The acquired distance image information is stored in an image memory (not shown). Next, the phase TOF type distance measuring device 2 adds a return distance image (S202). Here, the aliasing distance image refers to a plurality of candidate distance images that are generated when the distance is most calculated by the phase TOF method. In this way, distance information B-1 and distance information B-2, which are a plurality of distance candidates, are obtained (S203, S204). The phase TOF type distance measuring device 2 inputs the shorter distance information B-1 of these distance information B-1 and distance information B-2 to the parallax measurement type distance measuring device 1 as an initial value.

視差測定型測距装置1は、当該距離情報B−1を入力し、初期値として設定する(S102)。対象物までの距離の程度が分かれば、ある程度、視差の範囲を限定することができるので計算量を減少させることができる。視差測定型測距装置1は、設定された初期値に基づいて特徴点の照合処理(対応点の検索処理)を実行する(S103)。具体的には、異なる視点から撮影された画像において、対象物の同一位置を示す特徴点を抽出し、抽出された特徴点同士の相対的な位置ずれを検出する。そして、視差測定型測距装置1は、特徴点の照合処理の結果に基づいて、距離画像を算出する(S104)。視差測定型測距装置1は、算出した距離画像情報を位相TOF型測距装置2に出力する。   The parallax measurement type distance measuring device 1 inputs the distance information B-1 and sets it as an initial value (S102). If the degree of the distance to the object is known, the range of parallax can be limited to some extent, so that the amount of calculation can be reduced. The parallax measurement type distance measuring device 1 executes a feature point matching process (corresponding point search process) based on the set initial value (S103). Specifically, feature points indicating the same position of the object are extracted from images taken from different viewpoints, and a relative positional shift between the extracted feature points is detected. Then, the parallax measuring distance measuring device 1 calculates a distance image based on the result of the feature point matching process (S104). The parallax measurement distance measuring device 1 outputs the calculated distance image information to the phase TOF distance measuring device 2.

位相TOF型測距装置2は、視差測定型測距装置1から距離画像情報を取得し、距離情報B−1か距離情報B−2のいずれかを選択する(S205)。位相TOF型測距装置2は、選択した距離情報をパルスTOF型測距装置3に対して出力する。   The phase TOF type distance measuring device 2 acquires distance image information from the parallax measurement type distance measuring device 1 and selects either the distance information B-1 or the distance information B-2 (S205). The phase TOF type distance measuring device 2 outputs the selected distance information to the pulse TOF type distance measuring device 3.

パルスTOF型測距装置3は、位相TOF型測距装置2から距離情報を入力し、走査範囲を設定する(S301)。具体的には、走査範囲は、全画面ではなく、特徴点が含まれる一部に限定される。パルスTOF型測距装置3は、設定された走査範囲をパルス状のレーザを走査する(S302)。そして、パルスTOF型測距装置3は、走査されたレーザの反射光を検出して、距離画像を取得する(S303)。   The pulse TOF type distance measuring device 3 inputs distance information from the phase TOF type distance measuring device 2 and sets a scanning range (S301). Specifically, the scanning range is not limited to the entire screen but limited to a part including the feature points. The pulse TOF type distance measuring device 3 scans the set scanning range with a pulsed laser (S302). Then, the pulse TOF type distance measuring device 3 detects the reflected light of the scanned laser and acquires a distance image (S303).

視差測定型測距装置1は、ステップS104において算出した距離画像に対して画素毎に画像信頼度の付加処理を実行し(S105)、その処理後の距離画像情報を合成画像生成部44に出力する。   The parallax measurement distance measuring device 1 performs an image reliability addition process for each pixel on the distance image calculated in step S104 (S105), and outputs the processed distance image information to the composite image generation unit 44. To do.

位相TOF型測距装置2は、ステップS205において選択した距離情報に対して画素毎に画像信頼度の付加処理を実行し(S206)、その処理後の距離情報を合成画像生成部44に出力する。   The phase TOF type distance measuring device 2 executes image reliability addition processing for each pixel on the distance information selected in step S205 (S206), and outputs the processed distance information to the composite image generation unit 44. .

パルスTOF型測距装置3は、ステップS303において取得した距離画像情報に対して画素毎に画像信頼度の付加処理を実行し(S304)、その処理後の距離画像情報を合成画像生成部44に出力する。   The pulse TOF type distance measuring device 3 performs an image reliability addition process for each pixel on the distance image information acquired in step S303 (S304), and sends the processed distance image information to the composite image generation unit 44. Output.

合成画像生成部44は、視差測定型測距装置1より入力した距離画像情報と、位相TOF型測距装置2より入力した距離情報と、パルスTOF型測距装置3より入力した距離画像情報に基づいて、統合距離画像の合成処理を実行する(S401)。このとき、画素毎に付加した信頼度に基づいて合成処理を行う。   The composite image generation unit 44 converts the distance image information input from the parallax measurement distance measuring device 1, the distance information input from the phase TOF distance measuring device 2, and the distance image information input from the pulse TOF distance measuring device 3. Based on this, an integrated distance image synthesizing process is executed (S401). At this time, the composition processing is performed based on the reliability added for each pixel.

以上説明したように、本発明にかかる距離測定システムでは、位相TOF型測距装置2において求められた距離情報を、視差測定型測距装置1において初期値として用いることとしたため、局所解を短い時間で求めることが可能となる。ここで、位相TOF型測距装置2は、視差測定型測距装置1と比べて距離測定精度は劣るが、視差測定型測距装置1の初期値として使用するには十分な程度の距離測定精度を有している。   As described above, in the distance measurement system according to the present invention, the distance information obtained in the phase TOF type distance measuring device 2 is used as the initial value in the parallax measurement type distance measuring device 1, so that the local solution is short. It can be obtained in time. Here, although the phase TOF type distance measuring device 2 is inferior in distance measurement accuracy compared to the parallax measuring type distance measuring device 1, the distance measurement is sufficient to be used as an initial value of the parallax measuring type distance measuring device 1. Has accuracy.

視差測定型測距装置1では、輝度差が少ない画像では特徴点を抽出することが困難であるため、複数の画像間の視差情報を得ることが困難である。位相TOF型測距装置2やパルスTOF型測距装置3では、輝度差は問題とならないため、輝度差が少ない画像において距離を算出する場合には、まず、位相TOF型測距装置2やパルスTOF型測距装置3により対象物までの距離を求め、その結果に基づいて初期値を設定するようにしてもよい。   In the parallax measurement type distance measuring device 1, it is difficult to extract parallax information between a plurality of images because it is difficult to extract feature points from an image having a small luminance difference. In the phase TOF type distance measuring device 2 and the pulse TOF type distance measuring device 3, the luminance difference does not cause a problem. Therefore, when calculating the distance in an image with a small luminance difference, first, the phase TOF type distance measuring device 2 and the pulse. The distance to the object may be obtained by the TOF type distance measuring device 3, and the initial value may be set based on the result.

なお、パルスTOF型測距装置3は、視差測定型測距装置1により生成された距離画像に基づいて走査範囲を限定して、限定された走査範囲を走査して距離画像を生成するようにしてもよい。   The pulse TOF type distance measuring device 3 limits the scanning range based on the distance image generated by the parallax measurement type distance measuring device 1, and scans the limited scanning range to generate a distance image. May be.

また、位相TOF型測距装置2は、パルスTOF型測距装置3により算出された距離画像に応じて、複数の候補となる距離情報より任意の距離情報を選択するようにしてもよい。   Further, the phase TOF type distance measuring device 2 may select arbitrary distance information from a plurality of candidate distance information according to the distance image calculated by the pulse TOF type distance measuring device 3.

本発明にかかる距離測定システムの全体を示すブロック図である。It is a block diagram which shows the whole distance measurement system concerning this invention. 本発明にかかる距離測定システムにおける視差測定型測距装置の構成を示すブロック図である。It is a block diagram which shows the structure of the parallax measuring type distance measuring device in the distance measuring system concerning this invention. 本発明にかかる距離測定システムにおける位相TOF型測距装置の構成を示すブロック図である。It is a block diagram which shows the structure of the phase TOF type | mold distance measuring apparatus in the distance measuring system concerning this invention. 本発明にかかる距離測定システムにおける位相TOF型測距装置の一部構成を示す説明図である。It is explanatory drawing which shows a partial structure of the phase TOF type distance measuring device in the distance measuring system concerning this invention. 本発明にかかる距離測定システムにおける位相TOF型測距装置の固体撮像素子の画素周辺のポテンシャルを示す説明図である。It is explanatory drawing which shows the potential of the pixel periphery of the solid-state image sensor of the phase TOF type distance measuring device in the distance measuring system concerning this invention. 本発明にかかる距離測定システムにおけるパルスTOF型測距装置の構成を示すブロック図である。It is a block diagram which shows the structure of the pulse TOF type distance measuring device in the distance measuring system concerning this invention. 本発明にかかる距離測定システムにおける処理の流れを示すフローチャートである。It is a flowchart which shows the flow of a process in the distance measurement system concerning this invention.

符号の説明Explanation of symbols

1 視差測定型測距装置
2 位相TOF型測距装置
3 パルスTOF型測距装置
4 データ処理装置
5 出力装置
11 視差測定型撮像装置
21 位相TOF型撮像装置
31 パルスTOF型撮像装置
41 視差測定型処理部
42 位相TOF型処理部
43 パルスTOF型処理部
44 合成画像生成部
DESCRIPTION OF SYMBOLS 1 Parallax measuring type distance measuring device 2 Phase TOF type ranging device 3 Pulse TOF type ranging device 4 Data processing device 5 Output device 11 Parallax measuring type imaging device 21 Phase TOF type imaging device 31 Pulse TOF type imaging device 41 Parallax measuring type Processing unit 42 Phase TOF type processing unit 43 Pulse TOF type processing unit 44 Composite image generation unit

Claims (16)

取得した視差画像に基づいて距離画像を生成する第1の測距手段と、
入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成する第2の測距手段とを備えた距離測定システムであって、
前記第1の測距手段は、前記第2の測距手段によって取得された距離情報を初期値として距離画像を算出する距離測定システム。
First distance measuring means for generating a distance image based on the acquired parallax image;
Photoelectrons converted from incident intensity-modulated light are stored in different storage means while being shifted in time, and second distance measurement means for generating distance information according to the number of photoelectrons stored in these storage means is provided. A distance measuring system,
The first distance measuring unit calculates a distance image using distance information acquired by the second distance measuring unit as an initial value.
前記第2の測距手段は、前記第1の測距手段により算出された距離画像に応じて、複数の候補となる距離情報より任意の距離情報を選択することを特徴とする請求項1記載の距離測定システム。   2. The second distance measuring unit selects arbitrary distance information from a plurality of candidate distance information according to the distance image calculated by the first distance measuring unit. Distance measuring system. 出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段をさらに備え、
当該第3の測距手段は、前記第2の測距手段により選択された距離情報に基づいて走査範囲を限定して、限定された走査範囲を走査して距離画像を生成することを特徴とする請求項2記載の距離測定システム。
A third distance measuring means for generating a distance image based on the phase difference between the emitted measurement light beam and the reflected light beam of the object;
The third distance measuring means limits the scanning range based on the distance information selected by the second distance measuring means, and scans the limited scanning range to generate a distance image. The distance measuring system according to claim 2.
取得した視差画像に基づいて距離画像を生成する第1の測距手段と、
出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段とを備えた距離測定システムであって、
当該第3の測距手段は、前記第1の測距手段により生成された距離画像に基づいて走査範囲を限定して、限定された走査範囲を走査して距離画像を生成する距離測定システム。
First distance measuring means for generating a distance image based on the acquired parallax image;
A distance measuring system comprising a third distance measuring means for generating a distance image based on a phase difference between an emitted measuring light beam and a reflected light beam of an object;
The third distance measuring unit is a distance measuring system that limits a scanning range based on the distance image generated by the first distance measuring unit and scans the limited scanning range to generate a distance image.
入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成する第2の測距手段と、
出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段を備えた距離測定システムであって、
当該第3の測距手段は、前記第2の測距手段により選択された距離情報に基づいて走査範囲を限定して、限定された走査範囲を走査して距離画像を生成する距離測定システム。
Second distance measuring means for storing photoelectrons converted from incident intensity-modulated light in different storage means by shifting in time and generating distance information according to the number of photoelectrons stored in these storage means;
A distance measurement system comprising a third distance measuring means for generating a distance image based on a phase difference between an emitted measurement light beam and a reflected light beam of an object,
The third distance measuring unit is a distance measuring system that generates a distance image by scanning a limited scanning range based on the distance information selected by the second distance measuring unit.
入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成する第2の測距手段と、
出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段を備えた距離測定システムであって、
前記第2の測距手段は、前記第3の測距手段により算出された距離画像に応じて、複数の候補となる距離情報より任意の距離情報を選択することを特徴とする請求項1記載の距離測定システム。
Second distance measuring means for storing photoelectrons converted from incident intensity-modulated light in different storage means by shifting in time and generating distance information according to the number of photoelectrons stored in these storage means;
A distance measurement system comprising a third distance measuring means for generating a distance image based on a phase difference between an emitted measurement light beam and a reflected light beam of an object,
2. The second distance measuring unit selects arbitrary distance information from a plurality of candidate distance information according to the distance image calculated by the third distance measuring unit. Distance measuring system.
取得した視差画像に基づいて距離画像を生成する第1の測距手段と、
入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成する第2の測距手段とを備えた距離測定システムであって、
前記第2の測距手段は、前記第1の測距手段により算出された距離画像に応じて、複数の候補となる距離情報より任意の距離情報を選択する距離測定システム。
First distance measuring means for generating a distance image based on the acquired parallax image;
Photoelectrons converted from incident intensity-modulated light are stored in different storage means while being shifted in time, and second distance measurement means for generating distance information according to the number of photoelectrons stored in these storage means is provided. A distance measuring system,
The second distance measuring unit is a distance measuring system that selects arbitrary distance information from a plurality of candidate distance information according to the distance image calculated by the first distance measuring unit.
前記第1の測距手段により生成された距離画像と、前記第2の測距手段により生成された距離情報を合成することによって、統合距離画像を生成する手段をさらに備えたことを特徴とする請求項1、2又は7記載の距離測定システム。   The apparatus further comprises means for generating an integrated distance image by combining the distance image generated by the first distance measuring means and the distance information generated by the second distance measuring means. The distance measuring system according to claim 1, 2 or 7. 前記第1の測距手段により生成された距離画像と、前記第2の測距手段により生成された距離情報と、前記第3の測距手段により生成された距離画像のいずれか2以上を合成することによって、統合距離画像を生成する手段をさらに備えたことを特徴とする請求項3〜6いずれかに記載の距離測定システム。   Combining any two or more of the distance image generated by the first distance measuring means, the distance information generated by the second distance measuring means, and the distance image generated by the third distance measuring means. The distance measuring system according to claim 3, further comprising means for generating an integrated distance image. 入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成するステップと、
生成された距離情報を初期値として、視差画像に基づき距離画像を生成するステップを備えた距離測定方法。
The photoelectrons converted from the incident intensity-modulated light are shifted in time and stored in different storage means, and the distance information is generated according to the number of photoelectrons stored in these storage means;
A distance measurement method comprising a step of generating a distance image based on a parallax image using the generated distance information as an initial value.
前記距離情報に基づいて走査範囲を限定するステップと、
出射した測定光線と対象物の反射光線の位相差に基づいて限定された走査範囲における距離画像を生成するステップをさらに備えたことを特徴とする請求項10記載の距離測定方法。
Limiting a scanning range based on the distance information;
The distance measuring method according to claim 10, further comprising a step of generating a distance image in a limited scanning range based on a phase difference between the emitted measuring light beam and the reflected light beam of the object.
取得した視差画像に基づいて距離画像を生成するステップと、
生成された距離画像に基づいて走査範囲を限定するステップと、
出射した測定光線と対象物の反射光線の位相差に基づいて限定された走査範囲における距離画像を生成するステップとを備えた距離測定方法。
Generating a distance image based on the acquired parallax image;
Limiting the scanning range based on the generated distance image;
And a step of generating a distance image in a limited scanning range based on the phase difference between the emitted measurement light beam and the reflected light beam of the object.
入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成するステップと、
生成された距離情報に基づいて走査範囲を限定するステップと、
出射した測定光線と対象物の反射光線の位相差に基づいて、前記限定された走査範囲における距離画像を生成するステップとを備えた距離測定方法。
The photoelectrons converted from the incident intensity-modulated light are shifted in time and stored in different storage means, and the distance information is generated according to the number of photoelectrons stored in these storage means;
Limiting the scanning range based on the generated distance information;
And a step of generating a distance image in the limited scanning range based on the phase difference between the emitted measurement light beam and the reflected light beam of the object.
出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成するステップと、
入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて複数の距離情報を生成するステップと、
前記距離画像に基づいて複数の距離情報より任意の距離情報を選択するステップとを備えた距離測定方法。
Generating a distance image based on the phase difference between the emitted measurement light beam and the reflected light beam of the object;
The photoelectrons converted from the incident intensity-modulated light are shifted in time and stored in different storage means, and a plurality of distance information is generated according to the number of photoelectrons stored in these storage means;
A step of selecting arbitrary distance information from a plurality of distance information based on the distance image.
取得した視差画像に基づいて距離画像を生成するステップと、
入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて複数の距離情報を生成するステップと、
前記視差画像を取得することにより生成された距離画像に基づいて、複数の距離情報より任意の距離情報を選択するステップとを備えた距離測定方法。
Generating a distance image based on the acquired parallax image;
The photoelectrons converted from the incident intensity-modulated light are shifted in time and stored in different storage means, and a plurality of distance information is generated according to the number of photoelectrons stored in these storage means;
And a step of selecting arbitrary distance information from a plurality of distance information based on a distance image generated by acquiring the parallax image.
得られた距離画像及び又は距離情報を合成することによって、統合距離画像を生成するステップをさらに備えたことを特徴とする請求項10〜15いずれかに記載の距離測定方法。   16. The distance measuring method according to claim 10, further comprising a step of generating an integrated distance image by combining the obtained distance image and / or distance information.
JP2006177340A 2006-06-27 2006-06-27 Distance measuring system and distance measuring method Expired - Fee Related JP4802891B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006177340A JP4802891B2 (en) 2006-06-27 2006-06-27 Distance measuring system and distance measuring method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006177340A JP4802891B2 (en) 2006-06-27 2006-06-27 Distance measuring system and distance measuring method

Publications (2)

Publication Number Publication Date
JP2008008687A true JP2008008687A (en) 2008-01-17
JP4802891B2 JP4802891B2 (en) 2011-10-26

Family

ID=39067042

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006177340A Expired - Fee Related JP4802891B2 (en) 2006-06-27 2006-06-27 Distance measuring system and distance measuring method

Country Status (1)

Country Link
JP (1) JP4802891B2 (en)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010060451A (en) * 2008-09-04 2010-03-18 Toyota Motor Corp Robotic apparatus and method for estimating position and attitude of object
JP2010091426A (en) * 2008-10-08 2010-04-22 Toyota Central R&D Labs Inc Distance measuring device and program
WO2013132951A1 (en) * 2012-03-09 2013-09-12 日立オートモティブシステムズ株式会社 Distance calculation device and distance calculation method
JP2015179077A (en) * 2014-02-25 2015-10-08 株式会社リコー Parallax calculation system, information processing device, information processing method, and program
JP2016529491A (en) * 2013-12-24 2016-09-23 ソフトキネティク センサーズ エヌブイ Time-of-flight camera system
JP2017156306A (en) * 2016-03-04 2017-09-07 株式会社リコー Distance sensor, travelling body and three-dimensional measurement device
JP2020034454A (en) * 2018-08-30 2020-03-05 パイオニア株式会社 Signal processing device
JPWO2020195755A1 (en) * 2019-03-26 2020-10-01
WO2021085128A1 (en) * 2019-10-28 2021-05-06 ソニーセミコンダクタソリューションズ株式会社 Distance measurement device, measurement method, and distance measurement system
WO2021176873A1 (en) * 2020-03-03 2021-09-10 ソニーグループ株式会社 Information processing device, information processing method, and program
WO2022224580A1 (en) * 2021-04-19 2022-10-27 ソニーセミコンダクタソリューションズ株式会社 Distance measurement device and distance measurement system

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04276585A (en) * 1991-03-04 1992-10-01 Toyota Motor Corp Vehicle mounted distance meter
JPH07125567A (en) * 1993-11-04 1995-05-16 Mitsubishi Motors Corp Preceding car detecting mechanism of car traveling controller
JPH095050A (en) * 1995-06-20 1997-01-10 Olympus Optical Co Ltd Three-dimensional image measuring apparatus
JP2002152779A (en) * 2000-11-10 2002-05-24 Asahi Optical Co Ltd Three-dimensional image detector
JP2003051988A (en) * 2001-08-07 2003-02-21 Inst Of Physical & Chemical Res Solid-state image pickup element
JP2003121547A (en) * 2001-10-18 2003-04-23 Fuji Heavy Ind Ltd Outside-of-vehicle monitoring apparatus
JP2006153773A (en) * 2004-11-30 2006-06-15 Matsushita Electric Works Ltd Distance image sensor

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04276585A (en) * 1991-03-04 1992-10-01 Toyota Motor Corp Vehicle mounted distance meter
JPH07125567A (en) * 1993-11-04 1995-05-16 Mitsubishi Motors Corp Preceding car detecting mechanism of car traveling controller
JPH095050A (en) * 1995-06-20 1997-01-10 Olympus Optical Co Ltd Three-dimensional image measuring apparatus
JP2002152779A (en) * 2000-11-10 2002-05-24 Asahi Optical Co Ltd Three-dimensional image detector
JP2003051988A (en) * 2001-08-07 2003-02-21 Inst Of Physical & Chemical Res Solid-state image pickup element
JP2003121547A (en) * 2001-10-18 2003-04-23 Fuji Heavy Ind Ltd Outside-of-vehicle monitoring apparatus
JP2006153773A (en) * 2004-11-30 2006-06-15 Matsushita Electric Works Ltd Distance image sensor

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010060451A (en) * 2008-09-04 2010-03-18 Toyota Motor Corp Robotic apparatus and method for estimating position and attitude of object
JP2010091426A (en) * 2008-10-08 2010-04-22 Toyota Central R&D Labs Inc Distance measuring device and program
WO2013132951A1 (en) * 2012-03-09 2013-09-12 日立オートモティブシステムズ株式会社 Distance calculation device and distance calculation method
JP2013186042A (en) * 2012-03-09 2013-09-19 Hitachi Automotive Systems Ltd Distance calculating device and distance calculating method
US11172186B2 (en) 2013-12-24 2021-11-09 Sony Depthsensing Solutions Sa/Nv Time-Of-Flight camera system
JP2016529491A (en) * 2013-12-24 2016-09-23 ソフトキネティク センサーズ エヌブイ Time-of-flight camera system
US10397552B2 (en) 2013-12-24 2019-08-27 Sony Depthsensing Solutions Sa/Nv Time-of-flight camera system
US10638118B2 (en) 2013-12-24 2020-04-28 Sony Depthsensing Solutions Sa/Nv Time-of-flight camera system
US11863734B2 (en) 2013-12-24 2024-01-02 Sony Depthsensing Solutions Sa/Nv Time-of-flight camera system
JP2015179077A (en) * 2014-02-25 2015-10-08 株式会社リコー Parallax calculation system, information processing device, information processing method, and program
JP2017156306A (en) * 2016-03-04 2017-09-07 株式会社リコー Distance sensor, travelling body and three-dimensional measurement device
JP2020034454A (en) * 2018-08-30 2020-03-05 パイオニア株式会社 Signal processing device
JP7262064B2 (en) 2019-03-26 2023-04-21 パナソニックIpマネジメント株式会社 Ranging Imaging System, Ranging Imaging Method, and Program
JPWO2020195755A1 (en) * 2019-03-26 2020-10-01
WO2021085128A1 (en) * 2019-10-28 2021-05-06 ソニーセミコンダクタソリューションズ株式会社 Distance measurement device, measurement method, and distance measurement system
WO2021176873A1 (en) * 2020-03-03 2021-09-10 ソニーグループ株式会社 Information processing device, information processing method, and program
WO2022224580A1 (en) * 2021-04-19 2022-10-27 ソニーセミコンダクタソリューションズ株式会社 Distance measurement device and distance measurement system

Also Published As

Publication number Publication date
JP4802891B2 (en) 2011-10-26

Similar Documents

Publication Publication Date Title
JP4802891B2 (en) Distance measuring system and distance measuring method
EP3365700B1 (en) System and method for determining a distance to an object
US8159598B2 (en) Distance estimation apparatus, distance estimation method, storage medium storing program, integrated circuit, and camera
CN110325879B (en) System and method for compressed three-dimensional depth sensing
EP3519854B1 (en) Method for subtracting background light from an exposure value of a pixel in an imaging array, and pixel for use in same
JP4405154B2 (en) Imaging system and method for acquiring an image of an object
JP6764863B2 (en) Distance measuring device
JP7028878B2 (en) A system for measuring the distance to an object
JP2018531374A6 (en) System and method for measuring distance to an object
JP2019529958A (en) System and method for determining distance to an object
JP2018513967A (en) Depth field imaging apparatus, method and application
JP6666620B2 (en) Range image measurement device
CN212694038U (en) TOF depth measuring device and electronic equipment
JP3906859B2 (en) Distance image sensor
KR101145132B1 (en) The three-dimensional imaging pulsed laser radar system using geiger-mode avalanche photo-diode focal plane array and auto-focusing method for the same
CN111458717A (en) TOF depth measuring device and method and electronic equipment
US11832008B2 (en) Image sensors and sensing methods to obtain time-of-flight and phase detection information
JP6776692B2 (en) Parallax calculation system, mobiles and programs
JP3574602B2 (en) 3D image input device
EP3552044B1 (en) Time-of-flight imaging apparatus and method
JP2006084429A (en) Depth map sensor
WO2020196378A1 (en) Distance image acquisition method and distance detection device
CN114599999A (en) Motion amount estimation device, motion amount estimation method, motion amount estimation program, and motion amount estimation system
JP2019056759A5 (en)
JP2006048156A (en) Image processor

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080917

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110325

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110329

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110506

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110712

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110725

R151 Written notification of patent or utility model registration

Ref document number: 4802891

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140819

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees