JP2008008687A - Distance measuring system and distance measuring method - Google Patents
Distance measuring system and distance measuring method Download PDFInfo
- Publication number
- JP2008008687A JP2008008687A JP2006177340A JP2006177340A JP2008008687A JP 2008008687 A JP2008008687 A JP 2008008687A JP 2006177340 A JP2006177340 A JP 2006177340A JP 2006177340 A JP2006177340 A JP 2006177340A JP 2008008687 A JP2008008687 A JP 2008008687A
- Authority
- JP
- Japan
- Prior art keywords
- distance
- distance measuring
- image
- generating
- photoelectrons
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Measurement Of Optical Distance (AREA)
- Optical Radar Systems And Details Thereof (AREA)
Abstract
Description
本発明は、距離測定システム及び距離測定方法に関し、特に複数種類の距離測定技術を用いた距離測定システム及び距離測定方法に関する。 The present invention relates to a distance measurement system and a distance measurement method, and more particularly to a distance measurement system and a distance measurement method using a plurality of types of distance measurement techniques.
対象物までの距離を測定する距離測定システムについては、様々な方式が提案されている。例えば、代表的な方式としては、視差測定方式、位相TOF(Time Of Flight)方式やパルスTOF方式がある。 Various methods have been proposed for distance measurement systems that measure the distance to an object. For example, typical methods include a parallax measurement method, a phase TOF (Time Of Flight) method, and a pulse TOF method.
このうち視差測定方式は、例えば、特許文献1に開示されている。視差測定方式は、2以上の異なる視点に配置した複数のカメラによって撮影した視差画像に基づいて、立体画像を合成する。また、この視差測定方式は、特許文献2においても受動的方法として説明されている。
Among these, the parallax measurement method is disclosed in Patent Document 1, for example. In the parallax measurement method, a stereoscopic image is synthesized based on parallax images taken by a plurality of cameras arranged at two or more different viewpoints. This parallax measurement method is also described as a passive method in
位相TOF方式は、例えば、特許文献3に開示されている。位相TOF方式では、強度変調された測定光線を測定対象に照射して、対象物からの反射光を検出して、光電子変換を行い、変換された光電子を複数の蓄積手段のいずれかに時間的にずらして蓄積するようにしている。この方式によれば、測定対象が遠くにあればあるほど、複数の蓄積手段のうち時間的に後のタイミングで蓄積するようにした蓄積手段に、より多くの光電子が蓄積されることになる。つまり、測定対象までの距離に応じて、複数の蓄積手段のそれぞれに蓄積される光電子数の相対的な比率や差分が決定される。この比率や差分を求めることによって測定対象までの距離を求めることができる。
The phase TOF method is disclosed in
パルスTOF方式は、例えば、能動的方法として特許文献2に開示されている。パルスTOF方式は、パルス状の測定光線を測定対象物に照射して、測定対象物からの反射光と測定光線との位相差から距離を求める方式であって、測定光線を2次元的に走査し、各点で距離を測定して三次元の形状を測定するものである。
視差測定方式は、距離情報を得るために二以上の画像同士の特徴点を照合する必要がある。一般的に特徴点の照合は画像全体に亘って実行しなければならないため、計算量が膨大となり、計算時間も長時間化するという問題があった。従って、視差測定方式では、リアルタイムに計算することが困難であり、例えば、ロボットや車両等の移動体に搭載することは困難であった。 In the parallax measurement method, it is necessary to collate feature points between two or more images in order to obtain distance information. In general, feature point matching has to be performed over the entire image, which causes a problem that the amount of calculation is enormous and the calculation time is prolonged. Therefore, in the parallax measurement method, it is difficult to calculate in real time, and for example, it is difficult to mount on a moving body such as a robot or a vehicle.
位相TOF方式は、光の強度を一定の周期で変調させて照射するものであるが、対象物までの距離がこの波長以上の場合には、原理的に距離算出結果は一意に決まらない。また、イメージセンサ内に光の位相を算出する機構を持つ場合には、イメージセンサの構造が複雑になり解像度を十分に高めることは困難であった。 The phase TOF method irradiates the light with the intensity modulated at a constant period. However, when the distance to the object is longer than this wavelength, the distance calculation result is not uniquely determined in principle. In addition, when the image sensor has a mechanism for calculating the phase of light, the structure of the image sensor is complicated and it is difficult to sufficiently increase the resolution.
パルスTOF方式は、測定光線を2次元で走査して距離画像を得るためには、測定光線を発するレーザ等を揺動ミラーやポリゴンミラーを用いて上下左右に物理的に走査する必要があるため、距離画像の取得時間が長くなるという問題があった。 In the pulse TOF method, in order to obtain a distance image by scanning a measurement beam in two dimensions, it is necessary to physically scan a laser beam or the like that emits the measurement beam vertically and horizontally using a oscillating mirror or a polygon mirror. There has been a problem that the acquisition time of the distance image becomes long.
本発明は、かかる課題を解決するためになされたものであり、短時間で信頼性の高い距離画像を生成することができる距離測定システム及び距離測定方法を提供することを目的とする。 The present invention has been made to solve such a problem, and an object thereof is to provide a distance measuring system and a distance measuring method capable of generating a distance image with high reliability in a short time.
本発明にかかる距離測定システムは、取得した視差画像に基づいて距離画像を生成する第1の測距手段と、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成する第2の測距手段とを備えた距離測定システムであって、前記第1の測距手段は、前記第2の測距手段によって取得された距離情報を初期値として距離画像を算出するものである。このような構成により、短い時間で信頼性の高い距離画像を算出できる。 The distance measuring system according to the present invention stores a first distance measuring unit that generates a distance image based on an acquired parallax image and photoelectrons converted from incident intensity-modulated light in different storage units while being shifted in time. And a distance measuring system including second distance measuring means for generating distance information according to the number of photoelectrons stored in the storage means, wherein the first distance measuring means includes the second distance measuring means. A distance image is calculated using distance information acquired by the distance measuring means as an initial value. With such a configuration, a highly reliable range image can be calculated in a short time.
ここで、前記第2の測距手段は、前記第1の測距手段により算出された距離画像に応じて、複数の候補となる距離情報より任意の距離情報を選択することが好ましい。第2の測距手段において測定距離を限定する必要性がなくなるので、測定距離を長くすることができる。 Here, it is preferable that the second distance measuring unit selects arbitrary distance information from a plurality of candidate distance information according to the distance image calculated by the first distance measuring unit. Since there is no need to limit the measurement distance in the second distance measuring means, the measurement distance can be increased.
また、出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段をさらに備え、当該第3の測距手段は、前記第2の測距手段により選択された距離情報に基づいて走査範囲を限定して、限定された走査範囲を走査して距離画像を生成することが好ましい。このような構成により、短い時間で信頼性の高い距離画像を算出できる。 Further, the apparatus further comprises third distance measuring means for generating a distance image based on the phase difference between the emitted measurement light beam and the reflected light beam of the object, and the third distance measurement means is provided by the second distance measurement means. Preferably, the scanning range is limited based on the selected distance information, and the limited scanning range is scanned to generate a distance image. With such a configuration, a highly reliable range image can be calculated in a short time.
本発明にかかる他の観点による距離測定システムは、取得した視差画像に基づいて距離画像を生成する第1の測距手段と、出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段とを備えた距離測定システムであって、当該第3の測距手段は、前記第1の測距手段により生成された距離画像に基づいて走査範囲を限定して、限定された走査範囲を走査して距離画像を生成するものである。このような構成により、短い時間で信頼性の高い距離画像を算出できる。 A distance measurement system according to another aspect of the present invention includes a first distance measuring unit that generates a distance image based on an acquired parallax image, and a distance based on a phase difference between an emitted measurement light beam and a reflected light beam of an object. A distance measuring system including a third distance measuring means for generating an image, wherein the third distance measuring means limits a scanning range based on the distance image generated by the first distance measuring means. Thus, the range image is generated by scanning the limited scanning range. With such a configuration, a highly reliable range image can be calculated in a short time.
本発明にかかる他の観点による距離測定システムは、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成する第2の測距手段と、出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段を備えた距離測定システムであって、当該第3の測距手段は、前記第2の測距手段により選択された距離情報に基づいて走査範囲を限定して、限定された走査範囲を走査して距離画像を生成するものである。このような構成により、短い時間で信頼性の高い距離画像を算出できる。 A distance measuring system according to another aspect of the present invention accumulates photoelectrons converted from incident intensity-modulated light in different accumulating means by shifting in time, and distances according to the number of photoelectrons accumulated in these accumulating means. A distance measuring system comprising: a second distance measuring means for generating information; and a third distance measuring means for generating a distance image based on the phase difference between the emitted measurement light beam and the reflected light beam of the object, The third distance measuring means limits the scanning range based on the distance information selected by the second distance measuring means, and scans the limited scanning range to generate a distance image. With such a configuration, a highly reliable range image can be calculated in a short time.
本発明にかかる他の観点による距離測定システムは、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成する第2の測距手段と、出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段を備えた距離測定システムであって、前記第2の測距手段は、前記第3の測距手段により算出された距離画像に応じて、複数の候補となる距離情報より任意の距離情報を選択するものである。第2の測距手段において測定距離を限定する必要性がなくなるので、測定距離を長くすることができる。 A distance measuring system according to another aspect of the present invention accumulates photoelectrons converted from incident intensity-modulated light in different accumulating means by shifting in time, and distances according to the number of photoelectrons accumulated in these accumulating means. A distance measuring system comprising: a second distance measuring means for generating information; and a third distance measuring means for generating a distance image based on a phase difference between the emitted measurement light beam and a reflected light beam of the object, The second distance measuring means selects arbitrary distance information from the plurality of candidate distance information according to the distance image calculated by the third distance measuring means. Since there is no need to limit the measurement distance in the second distance measuring means, the measurement distance can be increased.
本発明にかかる他の観点による距離測定システムは、取得した視差画像に基づいて距離画像を生成する第1の測距手段と、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成する第2の測距手段とを備えた距離測定システムであって、前記第2の測距手段は、前記第1の測距手段により算出された距離画像に応じて、複数の候補となる距離情報より任意の距離情報を選択するものである。第2の測距手段において測定距離を限定する必要性がなくなるので、測定距離を長くすることができる。 The distance measuring system according to another aspect of the present invention is different from the first distance measuring unit that generates a distance image based on the acquired parallax image, by shifting the photoelectrons converted from the incident intensity-modulated light in terms of time. A distance measuring system comprising: a second distance measuring unit that stores distance information in accordance with the number of photoelectrons stored in the storage unit; and the second distance measuring unit includes: Arbitrary distance information is selected from a plurality of candidate distance information in accordance with the distance image calculated by the first distance measuring means. Since there is no need to limit the measurement distance in the second distance measuring means, the measurement distance can be increased.
さらに、前記第1の測距手段により生成された距離画像と、前記第2の測距手段により生成された距離情報を合成することによって、統合距離画像を生成する手段を備えることが望ましい。 Furthermore, it is preferable that a unit for generating an integrated distance image by combining the distance image generated by the first distance measuring unit and the distance information generated by the second distance measuring unit is desirable.
また、前記第1の測距手段により生成された距離画像と、前記第2の測距手段により生成された距離情報と、前記第3の測距手段により生成された距離画像のいずれか2以上を合成することによって、統合距離画像を生成する手段をさらに備えるとよい。 Further, any two or more of the distance image generated by the first distance measuring means, the distance information generated by the second distance measuring means, and the distance image generated by the third distance measuring means. It is preferable to further comprise means for generating an integrated distance image by synthesizing.
本発明にかかる距離測定方法は、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成するステップと、生成された距離情報を初期値として、視差画像に基づき距離画像を生成するステップを備えたものである。このような方法により、短い時間で信頼性の高い距離画像を算出できる。 In the distance measuring method according to the present invention, photoelectrons converted from incident intensity-modulated light are accumulated in different accumulating means while being shifted in time, and distance information is generated according to the number of photoelectrons accumulated in these accumulating means. And a step of generating a distance image based on the parallax image, using the generated distance information as an initial value. By such a method, a highly reliable range image can be calculated in a short time.
本発明にかかる他の観点による距離測定方法は、前記距離情報に基づいて走査範囲を限定するステップと、出射した測定光線と対象物の反射光線の位相差に基づいて限定された走査範囲における距離画像を生成するステップをさらに備える。このような方法により、短い時間で信頼性の高い距離画像を算出できる。 A distance measuring method according to another aspect of the present invention includes a step of limiting a scanning range based on the distance information, and a distance in a scanning range limited based on a phase difference between an emitted measurement light beam and a reflected light beam of an object. The method further includes the step of generating an image. By such a method, a highly reliable range image can be calculated in a short time.
本発明にかかる他の観点による距離測定方法は、取得した視差画像に基づいて距離画像を生成するステップと、生成された距離画像に基づいて走査範囲を限定するステップと、出射した測定光線と対象物の反射光線の位相差に基づいて限定された走査範囲における距離画像を生成するステップとを備える。このような方法により、短い時間で信頼性の高い距離画像を算出できる。 A distance measurement method according to another aspect of the present invention includes a step of generating a distance image based on an acquired parallax image, a step of limiting a scanning range based on the generated distance image, an emitted measurement light beam, and an object Generating a distance image in a limited scanning range based on the phase difference of the reflected rays of the object. By such a method, a highly reliable range image can be calculated in a short time.
本発明にかかる他の観点による距離測定方法は、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成するステップと、生成された距離情報に基づいて走査範囲を限定するステップと、出射した測定光線と対象物の反射光線の位相差に基づいて、前記限定された走査範囲における距離画像を生成するステップとを備える。このような方法により、短い時間で信頼性の高い距離画像を算出できる。 According to another aspect of the present invention, a distance measuring method stores photoelectrons converted from incident intensity-modulated light in different storage means while shifting the time in accordance with the number of photoelectrons stored in these storage means. A step of generating information, a step of limiting the scanning range based on the generated distance information, and a distance image in the limited scanning range based on the phase difference between the emitted measurement light beam and the reflected light beam of the object. Generating. By such a method, a highly reliable range image can be calculated in a short time.
本発明にかかる他の観点による距離測定方法は、出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成するステップと、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて複数の距離情報を生成するステップと、前記距離画像に基づいて複数の距離情報より任意の距離情報を選択するステップとを備える。このような方法により、測定距離を限定する必要性がなくなるので、測定距離を長くすることができる。 A distance measurement method according to another aspect of the present invention includes a step of generating a distance image based on a phase difference between an emitted measurement light beam and a reflected light beam of an object, and temporally converting photoelectrons converted from incident intensity-modulated light. And storing in different storage means, generating a plurality of distance information according to the number of photoelectrons stored in these storage means, and selecting any distance information from the plurality of distance information based on the distance image And a step of performing. Such a method eliminates the need to limit the measurement distance, so that the measurement distance can be increased.
本発明にかかる他の観点による距離測定方法は、取得した視差画像に基づいて距離画像を生成するステップと、入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて複数の距離情報を生成するステップと、前記視差画像を取得することにより生成された距離画像に基づいて、複数の距離情報より任意の距離情報を選択するステップとを備える。このような方法により、測定距離を限定する必要性がなくなるので、測定距離を長くすることができる。 A distance measurement method according to another aspect of the present invention includes a step of generating a distance image based on an acquired parallax image, and storing photoelectrons converted from incident intensity-modulated light in different storage means while being shifted in time. The step of generating a plurality of distance information according to the number of photoelectrons stored in these storage means, and the arbitrary distance information from the plurality of distance information based on the distance image generated by acquiring the parallax image Selecting. Such a method eliminates the need to limit the measurement distance, so that the measurement distance can be increased.
さらに、得られた距離画像及び又は距離情報を合成することによって、統合距離画像を生成するステップを備えることが好ましい。 Furthermore, it is preferable to provide a step of generating an integrated distance image by synthesizing the obtained distance image and / or distance information.
本発明によれば、短時間で信頼性の高い距離画像を生成することができる距離測定システム及び距離測定方法を提供することができる。 According to the present invention, it is possible to provide a distance measuring system and a distance measuring method capable of generating a highly reliable distance image in a short time.
本実施の形態にかかる距離測定システムの構成について、図1に示すブロック図を用いて説明する。当該距離測定システムは、視差測定方式、位相TOF方式及びパルスTOF方式を組み合わせて構成したものである。図1に示す例では、それぞれの方式を実現するための撮像装置11,21,31と、データ処理装置4を基本的な構成としているが、それぞれの方式を実現する視差測定型測距装置と、位相TOF型測距装置と、パルスTOF型測距装置をデータやり取り可能な状態で別体に構成してもよい。なお、出力装置5は任意である。この距離測定システムは、様々な用途に適用可能であるが、例えば、ロボットや車両等の移動体に搭載され、周辺にある物体までの距離の測定に用いられる。
The configuration of the distance measurement system according to this embodiment will be described with reference to the block diagram shown in FIG. The distance measurement system is configured by combining a parallax measurement method, a phase TOF method, and a pulse TOF method. In the example shown in FIG. 1, the
図1に示されるように、撮像装置として、視差測定型撮像装置11R、11Lと、位相TOF型撮像装置21及びパルスTOF型撮像装置31を備えている。データ処理部4は、視差測定型処理部41、位相TOF型処理部42、パルスTOF型処理部43及び合成画像生成部44を備えている。出力装置5は、例えば、ディスプレイである。
As shown in FIG. 1, parallax measurement
図2は、視差測定型測距装置1を示すブロック図である。図2に示されるように、当該視差測定型測距装置1は、視差測定型撮像装置11R,11Lと視差測定型処理部41を備えている。視差測定型撮像装置11R,11Lは、それぞれ、CCD画像センサ(CCDカメラ)、カメラインターフェイス回路、画像メモリ、演算処理回路によって構成される。CCD画像センサの代わりにCMOS画像センサを用いることも可能である。視差測定型撮像装置11R,11Lは、同一の対象物を異なる視点から撮影し、撮影画像情報を視差測定型処理部41に出力する。視差測定型処理部41は、撮影画像情報を入力し、後に詳述するデータ処理を実行する。
FIG. 2 is a block diagram showing the parallax measuring distance measuring device 1. As shown in FIG. 2, the parallax measurement type distance measuring device 1 includes parallax measurement type imaging devices 11 </ b> R and 11 </ b> L and a parallax measurement
図3は、位相TOF型測距装置2を示すブロック図である。位相TOF型測距装置2は、画素単位で対象物までの距離を求めることができ、その距離測定精度は、±10%程度である。位相TOF型測距装置2では、強度変調光の周期に応じて、同じ結果がでるため、原理的に複数の距離候補が生成され、候補から選択することは困難である。例えば、20MHzの強度変調光を用いた場合には、7.5mの周期で同じ結果が得られるため、例えば、0.5mと8mのいずれかを判別することができない。このため、本発明では、複数の候補から任意の候補を選択するために、他の視差測定型測距装置1やパルスTOF型測距装置2の測定結果を用いることにした。
FIG. 3 is a block diagram showing the phase TOF type
図3に示されるように、当該位相TOF型測距装置2は、変調波光源211と固体撮像素子212を基本的に備えている。変調波光源211は、強度が一定の周期で変調された光を出射する光源であり、例えば、レーザや発光ダイオードを用いたAM(Amplitude Modulation:振幅変調)変調光源である。変調光は、例えば、20MHzの正弦波である。固体撮像素子212は、対象物からの反射光を検出して、光電子変換を行い、変換された光電子を複数の蓄積手段のいずれかに時間的にずらして蓄積し、蓄積された光電子数に応じて距離情報を生成する機能を有する。
As shown in FIG. 3, the phase TOF type
図4(a)に、固体撮像素子212の基本構成を示す。図4(b)は、図4(a)におけるA矢視図の一部を省略して示した説明図である。図に示されるように、固体撮像素子212は、本体部214の上面214aにフォトダイオード215が埋め込まれている。フォトダイオード215の両側には、2つの蓄積部216a,216bが形成されている。さらに、蓄積部216a,216b上に電極217a,217bが形成されている。蓄積部216a,216bは、図示しない読み出し回路と接続されている。さらに、固体撮像素子212は、蓄積部216a,216bのいずれに光電子を移動させるかを切り換える処理を行う光電子蓄積制御手段としてのスイッチング回路213とを有する。
なお、図4は、フォトダイオード215と2つの蓄積部216a,216bとスイッチング回路213とからなる1画素分を示すが、固体撮像素子212には、多数個の画素が2次元配列されている。
フォトダイオード215は、固体撮像素子212に入射する光を受光する受光部として機能する。フォトダイオード215は、強度変調光が入射し、入射した強度変調光の光量子を光電子変換して光電子を生成する。
FIG. 4A shows a basic configuration of the solid-
4 shows one pixel composed of the
The
蓄積部216a,216bのそれぞれは、フォトダイオード215において生成された光電子を蓄積する。
Each of the
蓄積部216aとフォトダイオード215との間と蓄積部216bとフォトダイオード215との間には、フォトダイオード215への逆流を防止するために、不純物ドープのポテンシャルバリア218a,218bが設けられている。
Impurity-doped
電極217a,217bは、ポテンシャル操作用の電極であり、電極217aに印加される電圧と電極217bに印加される電圧とは逆相である。
The
読み出し回路は、蓄積部216a,216bに蓄積された電荷信号を転送する回路であり、例えば、CMOSやCCDによって構成できる。
スイッチング回路213は、フォトダイオード215に入射する強度変調光の周期信号に同期した信号、即ち、強度変調光の変調周期に同期した検波信号に応じて光電子が蓄積される蓄積部216a,216bのいずれかの切り換えを制御する。
The readout circuit is a circuit that transfers the charge signal stored in the
The
次に、当該固体撮像素子の動作について、図5を用いて説明する。図5(a)は、電極217bが正電位印加状態の場合の固体撮像素子212の画素周辺のポテンシャルを示し、図5(b)は、電極217aが正電位印加状態の場合の固体撮像素子212の画素周辺のポテンシャルを示す。
Next, the operation of the solid-state imaging device will be described with reference to FIG. FIG. 5A shows the potential around the pixel of the solid-
対象物を反射した強度変調光が固体撮像素子212に入射される。フォトダイオード215は、入射した強度変調光を光電子変換し、光電子を生成する。フォトダイオード215によって生成された光電子は、検波信号に応じたスイッチング回路213の制御によって、蓄積部216aまたは蓄積部216bのいずれかに移動される。
The intensity-modulated light reflected from the object is incident on the solid-
電極217aが正電位印加状態になると、図5(b)に示すように、フォトダイオード215によって生成された光電子は、蓄積部216aに移動して蓄積される。電極217bが正電位印加状態になると、図5(a)に示すように、フォトダイオード215によって生成された光電子は、蓄積部216bに移動して蓄積される。変調波光源211から対象物を経て固体撮像素子212までの距離に応じて蓄積部216aに蓄積される光電子数と蓄積部216bに蓄積される光電子数との比率が決まる。例えば、対象物までの距離が比較的短い場合には、蓄積部216aに蓄積された光電子数は蓄積部216bに蓄積された光電子数に比べて多くなる。逆に、対象物までの距離が比較的長い場合には、蓄積部216aに蓄積される光電子数が減少し、蓄積部216bに蓄積される光電子数が増加する。即ち、蓄積部216aに蓄積された光電子数と蓄積部216bに蓄積された光電子数との差や比率に基づいて対象物までの距離を求めることができる。
図6は、パルスTOF型測距装置3を示すブロック図である。一般的に、パルスTOF型測距装置3の距離測定精度は、±1%程度であり、位相TOF型測距装置2よりも高い。図6に示されるように、当該パルスTOF型測距装置3は、パルスTOF型撮像装置31とパルスTOF型処理部43を備えている。パルスTOF型撮像装置31は、パルス光源311、走査手段312及び撮像素子313を備えている。パルス光源311は、所定の制御によってパルス状のレーザを出射するレーザ光源である。走査手段312は、パルス光源311との間に設けられ、当該パルス光源より出射したレーザを対象物を含む所定範囲を上下左右に2次元走査する手段であって、例えば、揺動ミラーやポリゴンミラー、及びそれらを駆動する手段によって実現される。撮像素子313は、CCD画像センサやCMOS画像センサによって構成される。パルスTOF型処理部43は、撮影画像情報を入力し、後に詳述するデータ処理を実行する。
When the
FIG. 6 is a block diagram showing the pulse TOF type
パルス光源311から出射されたパルス状の測定光線は、対象物により反射され、撮像素子313に入射する。撮像素子313は、画素単位でその光量に応じた電気信号に変換し、出力する。パルスTOF型処理部43は、パルス光源311から出射されたパルス状の測定光線の位相と、撮像素子313に入射された反射光線の位相より位相差を算出し、位相差より距離情報に変換する。このような処理を走査手段312によって測定光線を走査し、全ての画素に関して実行することによって距離画像を得る。
The pulsed measurement light beam emitted from the
図7は、本発明にかかる距離測定システムにおける処理の流れを示すフローチャートである。図に示されるように、視差測定型測距装置1において視差画像を取得する(S101)。取得した視差画像情報を図示しない画像メモリに格納される。 FIG. 7 is a flowchart showing the flow of processing in the distance measurement system according to the present invention. As shown in the figure, a parallax image is acquired in the parallax measurement type distance measuring device 1 (S101). The acquired parallax image information is stored in an image memory (not shown).
位相TOF型測距装置2においても距離画像を取得する(S201)。取得した距離画像情報は、図示しない画像メモリに格納される。次に位相TOF型測距装置2は、折り返し距離画像を付加する(S202)。ここで、折り返し距離画像とは、最も位相TOF方式により距離を算出した場合に発生する、複数の候補となる距離画像をいう。このようにして、複数の距離候補である距離情報B−1と距離情報B−2が求まる(S203,S204)。位相TOF型測距装置2は、これらの距離情報B−1と距離情報B−2のうち、短い方の距離情報B−1を初期値として視差測定型測距装置1に入力する。
The distance image is also acquired in the phase TOF type distance measuring device 2 (S201). The acquired distance image information is stored in an image memory (not shown). Next, the phase TOF type
視差測定型測距装置1は、当該距離情報B−1を入力し、初期値として設定する(S102)。対象物までの距離の程度が分かれば、ある程度、視差の範囲を限定することができるので計算量を減少させることができる。視差測定型測距装置1は、設定された初期値に基づいて特徴点の照合処理(対応点の検索処理)を実行する(S103)。具体的には、異なる視点から撮影された画像において、対象物の同一位置を示す特徴点を抽出し、抽出された特徴点同士の相対的な位置ずれを検出する。そして、視差測定型測距装置1は、特徴点の照合処理の結果に基づいて、距離画像を算出する(S104)。視差測定型測距装置1は、算出した距離画像情報を位相TOF型測距装置2に出力する。
The parallax measurement type distance measuring device 1 inputs the distance information B-1 and sets it as an initial value (S102). If the degree of the distance to the object is known, the range of parallax can be limited to some extent, so that the amount of calculation can be reduced. The parallax measurement type distance measuring device 1 executes a feature point matching process (corresponding point search process) based on the set initial value (S103). Specifically, feature points indicating the same position of the object are extracted from images taken from different viewpoints, and a relative positional shift between the extracted feature points is detected. Then, the parallax measuring distance measuring device 1 calculates a distance image based on the result of the feature point matching process (S104). The parallax measurement distance measuring device 1 outputs the calculated distance image information to the phase TOF
位相TOF型測距装置2は、視差測定型測距装置1から距離画像情報を取得し、距離情報B−1か距離情報B−2のいずれかを選択する(S205)。位相TOF型測距装置2は、選択した距離情報をパルスTOF型測距装置3に対して出力する。
The phase TOF type
パルスTOF型測距装置3は、位相TOF型測距装置2から距離情報を入力し、走査範囲を設定する(S301)。具体的には、走査範囲は、全画面ではなく、特徴点が含まれる一部に限定される。パルスTOF型測距装置3は、設定された走査範囲をパルス状のレーザを走査する(S302)。そして、パルスTOF型測距装置3は、走査されたレーザの反射光を検出して、距離画像を取得する(S303)。
The pulse TOF type
視差測定型測距装置1は、ステップS104において算出した距離画像に対して画素毎に画像信頼度の付加処理を実行し(S105)、その処理後の距離画像情報を合成画像生成部44に出力する。
The parallax measurement distance measuring device 1 performs an image reliability addition process for each pixel on the distance image calculated in step S104 (S105), and outputs the processed distance image information to the composite
位相TOF型測距装置2は、ステップS205において選択した距離情報に対して画素毎に画像信頼度の付加処理を実行し(S206)、その処理後の距離情報を合成画像生成部44に出力する。
The phase TOF type
パルスTOF型測距装置3は、ステップS303において取得した距離画像情報に対して画素毎に画像信頼度の付加処理を実行し(S304)、その処理後の距離画像情報を合成画像生成部44に出力する。
The pulse TOF type
合成画像生成部44は、視差測定型測距装置1より入力した距離画像情報と、位相TOF型測距装置2より入力した距離情報と、パルスTOF型測距装置3より入力した距離画像情報に基づいて、統合距離画像の合成処理を実行する(S401)。このとき、画素毎に付加した信頼度に基づいて合成処理を行う。
The composite
以上説明したように、本発明にかかる距離測定システムでは、位相TOF型測距装置2において求められた距離情報を、視差測定型測距装置1において初期値として用いることとしたため、局所解を短い時間で求めることが可能となる。ここで、位相TOF型測距装置2は、視差測定型測距装置1と比べて距離測定精度は劣るが、視差測定型測距装置1の初期値として使用するには十分な程度の距離測定精度を有している。
As described above, in the distance measurement system according to the present invention, the distance information obtained in the phase TOF type
視差測定型測距装置1では、輝度差が少ない画像では特徴点を抽出することが困難であるため、複数の画像間の視差情報を得ることが困難である。位相TOF型測距装置2やパルスTOF型測距装置3では、輝度差は問題とならないため、輝度差が少ない画像において距離を算出する場合には、まず、位相TOF型測距装置2やパルスTOF型測距装置3により対象物までの距離を求め、その結果に基づいて初期値を設定するようにしてもよい。
In the parallax measurement type distance measuring device 1, it is difficult to extract parallax information between a plurality of images because it is difficult to extract feature points from an image having a small luminance difference. In the phase TOF type
なお、パルスTOF型測距装置3は、視差測定型測距装置1により生成された距離画像に基づいて走査範囲を限定して、限定された走査範囲を走査して距離画像を生成するようにしてもよい。
The pulse TOF type
また、位相TOF型測距装置2は、パルスTOF型測距装置3により算出された距離画像に応じて、複数の候補となる距離情報より任意の距離情報を選択するようにしてもよい。
Further, the phase TOF type
1 視差測定型測距装置
2 位相TOF型測距装置
3 パルスTOF型測距装置
4 データ処理装置
5 出力装置
11 視差測定型撮像装置
21 位相TOF型撮像装置
31 パルスTOF型撮像装置
41 視差測定型処理部
42 位相TOF型処理部
43 パルスTOF型処理部
44 合成画像生成部
DESCRIPTION OF SYMBOLS 1 Parallax measuring type
Claims (16)
入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成する第2の測距手段とを備えた距離測定システムであって、
前記第1の測距手段は、前記第2の測距手段によって取得された距離情報を初期値として距離画像を算出する距離測定システム。 First distance measuring means for generating a distance image based on the acquired parallax image;
Photoelectrons converted from incident intensity-modulated light are stored in different storage means while being shifted in time, and second distance measurement means for generating distance information according to the number of photoelectrons stored in these storage means is provided. A distance measuring system,
The first distance measuring unit calculates a distance image using distance information acquired by the second distance measuring unit as an initial value.
当該第3の測距手段は、前記第2の測距手段により選択された距離情報に基づいて走査範囲を限定して、限定された走査範囲を走査して距離画像を生成することを特徴とする請求項2記載の距離測定システム。 A third distance measuring means for generating a distance image based on the phase difference between the emitted measurement light beam and the reflected light beam of the object;
The third distance measuring means limits the scanning range based on the distance information selected by the second distance measuring means, and scans the limited scanning range to generate a distance image. The distance measuring system according to claim 2.
出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段とを備えた距離測定システムであって、
当該第3の測距手段は、前記第1の測距手段により生成された距離画像に基づいて走査範囲を限定して、限定された走査範囲を走査して距離画像を生成する距離測定システム。 First distance measuring means for generating a distance image based on the acquired parallax image;
A distance measuring system comprising a third distance measuring means for generating a distance image based on a phase difference between an emitted measuring light beam and a reflected light beam of an object;
The third distance measuring unit is a distance measuring system that limits a scanning range based on the distance image generated by the first distance measuring unit and scans the limited scanning range to generate a distance image.
出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段を備えた距離測定システムであって、
当該第3の測距手段は、前記第2の測距手段により選択された距離情報に基づいて走査範囲を限定して、限定された走査範囲を走査して距離画像を生成する距離測定システム。 Second distance measuring means for storing photoelectrons converted from incident intensity-modulated light in different storage means by shifting in time and generating distance information according to the number of photoelectrons stored in these storage means;
A distance measurement system comprising a third distance measuring means for generating a distance image based on a phase difference between an emitted measurement light beam and a reflected light beam of an object,
The third distance measuring unit is a distance measuring system that generates a distance image by scanning a limited scanning range based on the distance information selected by the second distance measuring unit.
出射した測定光線と対象物の反射光線の位相差に基づいて距離画像を生成する第3の測距手段を備えた距離測定システムであって、
前記第2の測距手段は、前記第3の測距手段により算出された距離画像に応じて、複数の候補となる距離情報より任意の距離情報を選択することを特徴とする請求項1記載の距離測定システム。 Second distance measuring means for storing photoelectrons converted from incident intensity-modulated light in different storage means by shifting in time and generating distance information according to the number of photoelectrons stored in these storage means;
A distance measurement system comprising a third distance measuring means for generating a distance image based on a phase difference between an emitted measurement light beam and a reflected light beam of an object,
2. The second distance measuring unit selects arbitrary distance information from a plurality of candidate distance information according to the distance image calculated by the third distance measuring unit. Distance measuring system.
入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて距離情報を生成する第2の測距手段とを備えた距離測定システムであって、
前記第2の測距手段は、前記第1の測距手段により算出された距離画像に応じて、複数の候補となる距離情報より任意の距離情報を選択する距離測定システム。 First distance measuring means for generating a distance image based on the acquired parallax image;
Photoelectrons converted from incident intensity-modulated light are stored in different storage means while being shifted in time, and second distance measurement means for generating distance information according to the number of photoelectrons stored in these storage means is provided. A distance measuring system,
The second distance measuring unit is a distance measuring system that selects arbitrary distance information from a plurality of candidate distance information according to the distance image calculated by the first distance measuring unit.
生成された距離情報を初期値として、視差画像に基づき距離画像を生成するステップを備えた距離測定方法。 The photoelectrons converted from the incident intensity-modulated light are shifted in time and stored in different storage means, and the distance information is generated according to the number of photoelectrons stored in these storage means;
A distance measurement method comprising a step of generating a distance image based on a parallax image using the generated distance information as an initial value.
出射した測定光線と対象物の反射光線の位相差に基づいて限定された走査範囲における距離画像を生成するステップをさらに備えたことを特徴とする請求項10記載の距離測定方法。 Limiting a scanning range based on the distance information;
The distance measuring method according to claim 10, further comprising a step of generating a distance image in a limited scanning range based on a phase difference between the emitted measuring light beam and the reflected light beam of the object.
生成された距離画像に基づいて走査範囲を限定するステップと、
出射した測定光線と対象物の反射光線の位相差に基づいて限定された走査範囲における距離画像を生成するステップとを備えた距離測定方法。 Generating a distance image based on the acquired parallax image;
Limiting the scanning range based on the generated distance image;
And a step of generating a distance image in a limited scanning range based on the phase difference between the emitted measurement light beam and the reflected light beam of the object.
生成された距離情報に基づいて走査範囲を限定するステップと、
出射した測定光線と対象物の反射光線の位相差に基づいて、前記限定された走査範囲における距離画像を生成するステップとを備えた距離測定方法。 The photoelectrons converted from the incident intensity-modulated light are shifted in time and stored in different storage means, and the distance information is generated according to the number of photoelectrons stored in these storage means;
Limiting the scanning range based on the generated distance information;
And a step of generating a distance image in the limited scanning range based on the phase difference between the emitted measurement light beam and the reflected light beam of the object.
入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて複数の距離情報を生成するステップと、
前記距離画像に基づいて複数の距離情報より任意の距離情報を選択するステップとを備えた距離測定方法。 Generating a distance image based on the phase difference between the emitted measurement light beam and the reflected light beam of the object;
The photoelectrons converted from the incident intensity-modulated light are shifted in time and stored in different storage means, and a plurality of distance information is generated according to the number of photoelectrons stored in these storage means;
A step of selecting arbitrary distance information from a plurality of distance information based on the distance image.
入射した強度変調光から変換された光電子を時間的にずらして異なる蓄積手段に蓄積し、これらの蓄積手段に蓄積された光電子数に応じて複数の距離情報を生成するステップと、
前記視差画像を取得することにより生成された距離画像に基づいて、複数の距離情報より任意の距離情報を選択するステップとを備えた距離測定方法。 Generating a distance image based on the acquired parallax image;
The photoelectrons converted from the incident intensity-modulated light are shifted in time and stored in different storage means, and a plurality of distance information is generated according to the number of photoelectrons stored in these storage means;
And a step of selecting arbitrary distance information from a plurality of distance information based on a distance image generated by acquiring the parallax image.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006177340A JP4802891B2 (en) | 2006-06-27 | 2006-06-27 | Distance measuring system and distance measuring method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006177340A JP4802891B2 (en) | 2006-06-27 | 2006-06-27 | Distance measuring system and distance measuring method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008008687A true JP2008008687A (en) | 2008-01-17 |
JP4802891B2 JP4802891B2 (en) | 2011-10-26 |
Family
ID=39067042
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006177340A Expired - Fee Related JP4802891B2 (en) | 2006-06-27 | 2006-06-27 | Distance measuring system and distance measuring method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4802891B2 (en) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010060451A (en) * | 2008-09-04 | 2010-03-18 | Toyota Motor Corp | Robotic apparatus and method for estimating position and attitude of object |
JP2010091426A (en) * | 2008-10-08 | 2010-04-22 | Toyota Central R&D Labs Inc | Distance measuring device and program |
WO2013132951A1 (en) * | 2012-03-09 | 2013-09-12 | 日立オートモティブシステムズ株式会社 | Distance calculation device and distance calculation method |
JP2015179077A (en) * | 2014-02-25 | 2015-10-08 | 株式会社リコー | Parallax calculation system, information processing device, information processing method, and program |
JP2016529491A (en) * | 2013-12-24 | 2016-09-23 | ソフトキネティク センサーズ エヌブイ | Time-of-flight camera system |
JP2017156306A (en) * | 2016-03-04 | 2017-09-07 | 株式会社リコー | Distance sensor, travelling body and three-dimensional measurement device |
JP2020034454A (en) * | 2018-08-30 | 2020-03-05 | パイオニア株式会社 | Signal processing device |
JPWO2020195755A1 (en) * | 2019-03-26 | 2020-10-01 | ||
WO2021085128A1 (en) * | 2019-10-28 | 2021-05-06 | ソニーセミコンダクタソリューションズ株式会社 | Distance measurement device, measurement method, and distance measurement system |
WO2021176873A1 (en) * | 2020-03-03 | 2021-09-10 | ソニーグループ株式会社 | Information processing device, information processing method, and program |
WO2022224580A1 (en) * | 2021-04-19 | 2022-10-27 | ソニーセミコンダクタソリューションズ株式会社 | Distance measurement device and distance measurement system |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04276585A (en) * | 1991-03-04 | 1992-10-01 | Toyota Motor Corp | Vehicle mounted distance meter |
JPH07125567A (en) * | 1993-11-04 | 1995-05-16 | Mitsubishi Motors Corp | Preceding car detecting mechanism of car traveling controller |
JPH095050A (en) * | 1995-06-20 | 1997-01-10 | Olympus Optical Co Ltd | Three-dimensional image measuring apparatus |
JP2002152779A (en) * | 2000-11-10 | 2002-05-24 | Asahi Optical Co Ltd | Three-dimensional image detector |
JP2003051988A (en) * | 2001-08-07 | 2003-02-21 | Inst Of Physical & Chemical Res | Solid-state image pickup element |
JP2003121547A (en) * | 2001-10-18 | 2003-04-23 | Fuji Heavy Ind Ltd | Outside-of-vehicle monitoring apparatus |
JP2006153773A (en) * | 2004-11-30 | 2006-06-15 | Matsushita Electric Works Ltd | Distance image sensor |
-
2006
- 2006-06-27 JP JP2006177340A patent/JP4802891B2/en not_active Expired - Fee Related
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04276585A (en) * | 1991-03-04 | 1992-10-01 | Toyota Motor Corp | Vehicle mounted distance meter |
JPH07125567A (en) * | 1993-11-04 | 1995-05-16 | Mitsubishi Motors Corp | Preceding car detecting mechanism of car traveling controller |
JPH095050A (en) * | 1995-06-20 | 1997-01-10 | Olympus Optical Co Ltd | Three-dimensional image measuring apparatus |
JP2002152779A (en) * | 2000-11-10 | 2002-05-24 | Asahi Optical Co Ltd | Three-dimensional image detector |
JP2003051988A (en) * | 2001-08-07 | 2003-02-21 | Inst Of Physical & Chemical Res | Solid-state image pickup element |
JP2003121547A (en) * | 2001-10-18 | 2003-04-23 | Fuji Heavy Ind Ltd | Outside-of-vehicle monitoring apparatus |
JP2006153773A (en) * | 2004-11-30 | 2006-06-15 | Matsushita Electric Works Ltd | Distance image sensor |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010060451A (en) * | 2008-09-04 | 2010-03-18 | Toyota Motor Corp | Robotic apparatus and method for estimating position and attitude of object |
JP2010091426A (en) * | 2008-10-08 | 2010-04-22 | Toyota Central R&D Labs Inc | Distance measuring device and program |
WO2013132951A1 (en) * | 2012-03-09 | 2013-09-12 | 日立オートモティブシステムズ株式会社 | Distance calculation device and distance calculation method |
JP2013186042A (en) * | 2012-03-09 | 2013-09-19 | Hitachi Automotive Systems Ltd | Distance calculating device and distance calculating method |
US11172186B2 (en) | 2013-12-24 | 2021-11-09 | Sony Depthsensing Solutions Sa/Nv | Time-Of-Flight camera system |
JP2016529491A (en) * | 2013-12-24 | 2016-09-23 | ソフトキネティク センサーズ エヌブイ | Time-of-flight camera system |
US10397552B2 (en) | 2013-12-24 | 2019-08-27 | Sony Depthsensing Solutions Sa/Nv | Time-of-flight camera system |
US10638118B2 (en) | 2013-12-24 | 2020-04-28 | Sony Depthsensing Solutions Sa/Nv | Time-of-flight camera system |
US11863734B2 (en) | 2013-12-24 | 2024-01-02 | Sony Depthsensing Solutions Sa/Nv | Time-of-flight camera system |
JP2015179077A (en) * | 2014-02-25 | 2015-10-08 | 株式会社リコー | Parallax calculation system, information processing device, information processing method, and program |
JP2017156306A (en) * | 2016-03-04 | 2017-09-07 | 株式会社リコー | Distance sensor, travelling body and three-dimensional measurement device |
JP2020034454A (en) * | 2018-08-30 | 2020-03-05 | パイオニア株式会社 | Signal processing device |
JP7262064B2 (en) | 2019-03-26 | 2023-04-21 | パナソニックIpマネジメント株式会社 | Ranging Imaging System, Ranging Imaging Method, and Program |
JPWO2020195755A1 (en) * | 2019-03-26 | 2020-10-01 | ||
WO2021085128A1 (en) * | 2019-10-28 | 2021-05-06 | ソニーセミコンダクタソリューションズ株式会社 | Distance measurement device, measurement method, and distance measurement system |
WO2021176873A1 (en) * | 2020-03-03 | 2021-09-10 | ソニーグループ株式会社 | Information processing device, information processing method, and program |
WO2022224580A1 (en) * | 2021-04-19 | 2022-10-27 | ソニーセミコンダクタソリューションズ株式会社 | Distance measurement device and distance measurement system |
Also Published As
Publication number | Publication date |
---|---|
JP4802891B2 (en) | 2011-10-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4802891B2 (en) | Distance measuring system and distance measuring method | |
EP3365700B1 (en) | System and method for determining a distance to an object | |
US8159598B2 (en) | Distance estimation apparatus, distance estimation method, storage medium storing program, integrated circuit, and camera | |
CN110325879B (en) | System and method for compressed three-dimensional depth sensing | |
EP3519854B1 (en) | Method for subtracting background light from an exposure value of a pixel in an imaging array, and pixel for use in same | |
JP4405154B2 (en) | Imaging system and method for acquiring an image of an object | |
JP6764863B2 (en) | Distance measuring device | |
JP7028878B2 (en) | A system for measuring the distance to an object | |
JP2018531374A6 (en) | System and method for measuring distance to an object | |
JP2019529958A (en) | System and method for determining distance to an object | |
JP2018513967A (en) | Depth field imaging apparatus, method and application | |
JP6666620B2 (en) | Range image measurement device | |
CN212694038U (en) | TOF depth measuring device and electronic equipment | |
JP3906859B2 (en) | Distance image sensor | |
KR101145132B1 (en) | The three-dimensional imaging pulsed laser radar system using geiger-mode avalanche photo-diode focal plane array and auto-focusing method for the same | |
CN111458717A (en) | TOF depth measuring device and method and electronic equipment | |
US11832008B2 (en) | Image sensors and sensing methods to obtain time-of-flight and phase detection information | |
JP6776692B2 (en) | Parallax calculation system, mobiles and programs | |
JP3574602B2 (en) | 3D image input device | |
EP3552044B1 (en) | Time-of-flight imaging apparatus and method | |
JP2006084429A (en) | Depth map sensor | |
WO2020196378A1 (en) | Distance image acquisition method and distance detection device | |
CN114599999A (en) | Motion amount estimation device, motion amount estimation method, motion amount estimation program, and motion amount estimation system | |
JP2019056759A5 (en) | ||
JP2006048156A (en) | Image processor |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20080917 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110325 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110329 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110506 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110712 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110725 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 4802891 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140819 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |