JPH09133525A - Distance measuring device - Google Patents

Distance measuring device

Info

Publication number
JPH09133525A
JPH09133525A JP29280095A JP29280095A JPH09133525A JP H09133525 A JPH09133525 A JP H09133525A JP 29280095 A JP29280095 A JP 29280095A JP 29280095 A JP29280095 A JP 29280095A JP H09133525 A JPH09133525 A JP H09133525A
Authority
JP
Japan
Prior art keywords
parallax
deviation
distance
distance measuring
measuring device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP29280095A
Other languages
Japanese (ja)
Other versions
JP3617709B2 (en
Inventor
Tetsuo Kikuchi
哲郎 菊地
Katsuyuki Imanishi
勝之 今西
Hiroyuki Kani
博之 可児
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Soken Inc
Original Assignee
Nippon Soken Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Soken Inc filed Critical Nippon Soken Inc
Priority to JP29280095A priority Critical patent/JP3617709B2/en
Publication of JPH09133525A publication Critical patent/JPH09133525A/en
Application granted granted Critical
Publication of JP3617709B2 publication Critical patent/JP3617709B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To perform distance measurement with high precision by precisely correcting a deviation of an optical axis. SOLUTION: The image signals in front of a vehicle outputted from a pair of left and right image pickup devices 1A and 1B are inputted to a distance calculator 3 through A/D converters 2A and 2B. With the distance calculator 3, correlation calculation is performed based on the brightness information of the left and right image, and the distance to an object is measured based on parallax found by the correlation calculation. And, with the distance calculator 3, parallax distribution of the whole screen is formed, and, with an infinite- point in the image as a reference object, and with a point whose parallax is near zero as a normal value of parallax (parallax=0), a parallax correction value (deviation of parallax) is calculated based on variation degree of parallax distribution near the normal value. The parallax correlation correction value is used for a correction value of distance measurement. At this time, a point where parallax distribution is suddenly lowered in a range where parallax moved from a positive value to a negative value, is recognized as the parallax corresponding to the infinite-point, at this time.

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】この発明は、距離計測装置に
係り、詳しくは車両に搭載し、当該車両と障害物までの
距離を計測するための装置に関するものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a distance measuring device, and more particularly to a device mounted on a vehicle for measuring the distance between the vehicle and an obstacle.

【0002】[0002]

【従来の技術】距離計測装置として、左右2つの撮像装
置を用い、この撮像装置により得られた二つの画像から
同一対象物を対応させて当該対象物までの距離を計測す
る、いわゆる立体視法を利用した装置が提案されてい
る。かかる立体視法では、2つの異なる視点からの輝度
情報を用いて2つの輝度情報群の位置ずれ(視差)が求
められ、予め計測しておいた2視点間の距離、画角、輝
度情報数等より対象物までの距離が計測される。以下に
その詳細を説明する。
2. Description of the Related Art A so-called stereoscopic method, in which two left and right image pickup devices are used as a distance measuring device, and two images obtained by the image pickup devices are made to correspond to the same object and the distance to the object is measured. A device utilizing is proposed. In such a stereoscopic method, the positional deviation (parallax) between two luminance information groups is obtained by using the luminance information from two different viewpoints, and the distance between the two viewpoints, the angle of view, and the number of luminance information measured in advance. Etc., the distance to the object is measured. The details will be described below.

【0003】図17は、従来の一般的な立体視法に基づ
く距離計測装置の光学系の概略構成を示す平面図であ
る。図17(a)に示す物体Mは、計測される対象物で
ある。距離計測装置には、2つの視点を形成するために
対象物Mに対向して2つのレンズ11,12が設けら
れ、この2つのレンズ11,12の後ろにそれらの光軸
S1,S2がそれぞれ一致する撮像素子13,14が設
けられる。光軸S1,S2は互いに平行な位置関係にあ
る。撮像素子13,14は、例えば、CCD(Charge C
oupled Device )で構成される。
FIG. 17 is a plan view showing a schematic structure of an optical system of a conventional distance measuring device based on a general stereoscopic method. The object M shown in FIG. 17A is an object to be measured. The distance measuring device is provided with two lenses 11 and 12 facing the object M in order to form two viewpoints, and these optical axes S1 and S2 are behind these two lenses 11 and 12, respectively. Matching image pickup devices 13 and 14 are provided. The optical axes S1 and S2 have a positional relationship parallel to each other. The image pickup devices 13 and 14 are, for example, CCDs (Charge C
oupled Device).

【0004】ここで、図中の「De」はレンズ11,1
2と対象物Mとの距離、「f」はレンズ11,12の焦
点距離、「Z1」,「Z2」はそれぞれ対象物Mからレ
ンズ11,12を経て撮像素子13,14へ焦点を結ぶ
点と光軸S1,S2との距離、「P」は光軸S1,S2
間のピッチである。また、図17(b)は、図17
(a)の一方の撮像装置を移動させ、両者の光軸を重ね
た状態にしたものである。図17(b)に示すように、
三角形ABCと三角形ADEは互いに相似形になり、
(Z1+Z2)とPとの比は、fとDeとの比と同じに
なる。式にすると、 (Z1+Z2):P=f:De となり、これを変形すると、下記式が得られる。
Here, "De" in the figure is the lens 11, 1.
2 is the distance between the object M, “f” is the focal length of the lenses 11 and 12, and “Z1” and “Z2” are points at which the object M is focused on the imaging elements 13 and 14 via the lenses 11 and 12, respectively. And the optical axes S1 and S2, "P" is the optical axes S1 and S2
It is the pitch between. In addition, FIG.
(A) One of the image pickup devices is moved so that the optical axes of both are overlapped. As shown in FIG. 17 (b),
The triangle ABC and the triangle ADE are similar to each other,
The ratio of (Z1 + Z2) to P is the same as the ratio of f to De. By using the formula, (Z1 + Z2): P = f: De, and by transforming this, the following formula is obtained.

【0005】De=P・f/(Z1+Z2) 上式において、ピッチP,レンズ11,12の焦点距離
fが既知であるため、(Z1+Z2)を求めれば、対象
物Mまでの距離Deが算出できることになる。ここで、
(Z1+Z2)を求めるには、左右の画像中の対象物の
輝度値を少しずつずらしながら比較し、最も一致するず
らし量を該当の値とする。即ち、このずらし量が(Z1
+Z2)に相当し、このずらし量(Z1+Z2)を視差
という。
De = Pf / (Z1 + Z2) In the above equation, since the pitch P and the focal length f of the lenses 11 and 12 are known, the distance De to the object M can be calculated by obtaining (Z1 + Z2). become. here,
In order to obtain (Z1 + Z2), the brightness values of the objects in the left and right images are compared while being shifted little by little, and the shift amount that most matches is set as the corresponding value. That is, this shift amount is (Z1
+ Z2), and this shift amount (Z1 + Z2) is called parallax.

【0006】また、この上式における「Z1+Z2」を
「δ・K0 」に置き換えると、次式が得られる。 De=P・f/(δ・K0 ) ここで、「δ」は画素数で表される視差である。また、
「K0 」は撮像素子13,14の単位画素数当たりの長
さであり、これは予め判っている数値である。従って、
「δ」が判れば、画面上の視差が求められる。
If "Z1 + Z2" in the above equation is replaced with "δK0", the following equation is obtained. De = P · f / (δ · K0) where “δ” is the parallax represented by the number of pixels. Also,
"K0" is the length per unit pixel number of the image pickup devices 13 and 14, and this is a known value. Therefore,
If "δ" is known, the parallax on the screen can be obtained.

【0007】[0007]

【発明が解決しようとする課題】ところが、上記距離計
測装置においては、例えば経時変化や温度等の環境要因
から前記図17の光軸S1,S2が初期の設定状態から
ずれ、距離の計測精度が低下してしまうという問題が生
じる。即ち、光軸S1,S2が平行に維持できない場
合、それは距離の計測誤差となる。従前の装置では、一
般的に光軸のずれを較正装置等を用いて機械的に修正す
るものもあるが、その修正は前記のような経時変化や環
境要因に十分に対応できるものではなく、かかる問題は
懸案事項となっていた。
However, in the above distance measuring apparatus, the optical axes S1 and S2 in FIG. 17 are deviated from the initial setting state due to environmental factors such as changes with time and temperature, and the distance measuring accuracy is improved. There is a problem of decrease. That is, when the optical axes S1 and S2 cannot be kept parallel, it causes a distance measurement error. In the conventional device, there is generally one that mechanically corrects the deviation of the optical axis using a calibration device or the like, but the correction is not one that can sufficiently cope with the above-mentioned aging and environmental factors, This issue has been a matter of concern.

【0008】この発明は、上記問題に着目してなされた
ものであって、その目的とするところは、光軸のずれを
的確に修正し、高精度な距離計測を行うことができる距
離計測装置を提供することにある。
The present invention has been made in view of the above problems, and an object of the present invention is to accurately correct a deviation of an optical axis and perform a highly accurate distance measurement. To provide.

【0009】[0009]

【課題を解決するための手段】先ず以て、本発明の距離
計測装置は、一定間隔を離して設けられ、対象物の画像
を得る一対の撮像手段と、各撮像手段の離間方向の視差
から対象物までの距離を求める距離計測手段とを備え
る。また、上記構成に加えて、基準対象物に対応する視
差の標準値を予め記憶しておき、前記基準対象物に対す
るその時々の視差と前記視差の標準値との偏差を算出す
る偏差算出手段と、前記偏差算手段により算出された偏
差を補正量として前記距離計測手段により求められる距
離を補正する距離補正手段とを併せ備える。
First of all, the distance measuring device of the present invention is provided with a pair of image pickup means which are provided at a constant interval and which obtains an image of an object, and a parallax in the direction of separation between the image pickup means. Distance measuring means for determining the distance to the object. Further, in addition to the above configuration, a standard value of parallax corresponding to the reference object is stored in advance, and deviation calculating means for calculating a deviation between the parallax at that time and the standard value of the parallax with respect to the reference object, And a distance correction unit that corrects the distance calculated by the distance measurement unit using the deviation calculated by the deviation calculation unit as a correction amount.

【0010】要するに、本発明の距離計測装置における
立体視法では、一対の撮像手段の光軸を予め平行に設定
しておき、この光軸に基づいて対象物までの距離計測を
行うが、経時変化や温度要因等により光軸が初期設定か
らずれると、距離の計測精度が低下する。そこで、本発
明では上述の如く、視差の標準値とその時々の視差(例
えば、所定時間毎に算出され、更新される誤差)との偏
差を算出する。この偏差は光軸のずれ量に相当する。か
かる場合、前記視差の偏差を補正値として距離計測値を
補正することにより、撮像手段の光軸のずれによる距離
計測誤差が解消でき、計測精度の低下が防止できる。
In short, in the stereoscopic method in the distance measuring apparatus of the present invention, the optical axes of the pair of image pickup means are set in parallel and the distance to the object is measured based on these optical axes. If the optical axis deviates from the initial setting due to a change or a temperature factor, the accuracy of distance measurement deteriorates. Therefore, in the present invention, as described above, the deviation between the standard value of parallax and the parallax at each time (for example, an error calculated and updated at every predetermined time) is calculated. This deviation corresponds to the amount of deviation of the optical axis. In such a case, by correcting the distance measurement value using the parallax deviation as a correction value, it is possible to eliminate the distance measurement error due to the deviation of the optical axis of the imaging means, and prevent the measurement accuracy from decreasing.

【0011】また、請求項2に記載の発明では、請求項
1に記載の発明において、視差分布演算手段は、前記撮
像手段により得られる画像の視差分布を求める。また、
偏差算出手段は、画像内の無限遠点を基準対象物とする
と共に視差がゼロ近傍となる点を視差の標準値として、
当該標準値近傍における視差分布の変化度合から前記視
差の偏差を算出する。この場合、例えば請求項3に記載
したように、視差が正の値から負の値に移行する領域で
視差分布が急激に低下する点を、その時の無限遠点に対
応する視差とみなすようにしてもよい。なお、本明細書
における無限遠点とは、車両走行時において一般的に最
も多く存在する視点であって、自車両の前方を走行する
車両や道路上の立体障害物等を除く視点に相当する。
According to the invention of claim 2, in the invention of claim 1, the parallax distribution calculating means obtains the parallax distribution of the image obtained by the image pickup means. Also,
The deviation calculating means uses the point at infinity in the image as the reference object and the point at which the parallax is near zero as the standard value of the parallax,
The deviation of the parallax is calculated from the degree of change of the parallax distribution near the standard value. In this case, for example, as described in claim 3, the point where the parallax distribution sharply decreases in the region where the parallax shifts from a positive value to a negative value is regarded as the parallax corresponding to the point at infinity at that time. May be. Note that the point at infinity in the present specification is a viewpoint that generally exists most when the vehicle is traveling, and corresponds to a viewpoint excluding a vehicle traveling in front of the own vehicle and a three-dimensional obstacle on the road. .

【0012】つまり、野外で得られる画像には、無限遠
点に対応する視差が最も多く存在し、撮像手段の相互の
光軸が平行に保たれていればこの無限遠点に対応する視
差はゼロとなる。また、理論的には、無限遠点に対応す
る視差(=ゼロ)よりも負側に視差が分布することはな
い。従って、視差がゼロ近傍の視差分布の変化度合から
光軸のずれ量に対応する視差の偏差を求めることがで
き、引いては撮像手段の光軸のずれを的確に補正して高
精度な距離計測を行うことができる。
That is, the most parallax corresponding to the point at infinity exists in the image obtained outdoors, and if the mutual optical axes of the image pickup means are kept parallel to each other, the parallax corresponding to this point at infinity is It becomes zero. Further, theoretically, the parallax is not distributed on the negative side of the parallax (= zero) corresponding to the point at infinity. Therefore, the deviation of the parallax corresponding to the deviation amount of the optical axis can be obtained from the degree of change of the parallax distribution near the parallax zero, and the deviation of the optical axis of the image pickup means can be accurately corrected to obtain a highly accurate distance. Measurement can be performed.

【0013】請求項4に記載の発明では、請求項2又は
3に記載の発明において、前記視差分布演算手段は、視
差がゼロとなる点を含む特定範囲を視差分布の演算範囲
としている。この場合、無限遠点に対応する領域でのみ
視差の偏差(補正値)が演算され、光軸のずれを解消す
るために要する演算負荷を大幅に軽減することができ
る。
According to a fourth aspect of the present invention, in the second or third aspect of the invention, the parallax distribution calculation means sets a specific range including a point where the parallax is zero as a calculation range of the parallax distribution. In this case, the deviation (correction value) of the parallax is calculated only in the area corresponding to the point at infinity, and the calculation load required to eliminate the deviation of the optical axis can be significantly reduced.

【0014】また、請求項5に記載の発明では、請求項
1に記載の発明において、前記偏差算出手段は、画像内
における距離が既知の物体を基準対象物として、当該距
離が既知の物体に対応する視差の標準値と同物体に対応
するその時々の視差とから視差の偏差を算出する。この
場合、距離が既知の物体を基準として視差の偏差(補正
値)を求めることにより、上記各請求項と同様に光軸の
ずれを的確に補正し、高精度な距離計測を行うことがで
きる。
According to a fifth aspect of the present invention, in the first aspect of the invention, the deviation calculating means sets an object whose distance in the image is known as a reference object to an object whose distance is already known. The parallax deviation is calculated from the standard value of the corresponding parallax and the parallax at each time corresponding to the same object. In this case, by obtaining the deviation (correction value) of the parallax with reference to an object whose distance is known, the deviation of the optical axis can be accurately corrected, and highly accurate distance measurement can be performed, as in the above claims. .

【0015】なお、請求項5に記載の発明に関して、請
求項6に記載したように、距離が既知の物体を自車両の
一部とすれば、距離が既知の物体を簡便に設定すること
ができる。この場合、既知の距離が真の距離から狂うこ
とはない。また、請求項7に記載したように、偏差算出
手段は、前記距離が既知の物体に対応する視差の標準値
を含む特定範囲にて視差演算を行うことにより、演算負
荷を大幅に軽減することができる。
With respect to the invention described in claim 5, as described in claim 6, if an object whose distance is known is made a part of the own vehicle, the object whose distance is known can be easily set. it can. In this case, the known distance does not deviate from the true distance. In addition, as described in claim 7, the deviation calculation means significantly reduces the calculation load by performing the parallax calculation in a specific range including the standard value of the parallax corresponding to the object whose distance is known. You can

【0016】さらに、請求項8に記載の発明では、請求
項1に記載の発明において、偏差算出手段の第1の手段
は、画像内の無限遠点を基準対象物とすると共に視差が
ゼロ近傍となる点を視差の標準値として、当該標準値近
傍における視差分布の変化度合から前記視差の偏差を算
出する。また、第2の手段は、画像内の距離が既知の物
体を基準対象物として、当該距離が既知の物体に対応す
る視差の標準値と同物体に対応するその時々の視差とか
ら視差の偏差を算出する。更新手段は、前記第1の手段
により算出された偏差及び前記第2の手段により算出さ
れた偏差の少なくともいずれか一方を選択的に用いて視
差の偏差を更新する。
Further, in the invention described in claim 8, in the invention described in claim 1, the first means of the deviation calculating means uses the point at infinity in the image as a reference object and the parallax is near zero. The point that becomes is the standard value of the parallax, and the deviation of the parallax is calculated from the degree of change of the parallax distribution in the vicinity of the standard value. The second means uses the object whose distance in the image is known as a reference object, and the parallax deviation from the standard value of the parallax corresponding to the object whose distance is known and the parallax at that time corresponding to the same object. To calculate. The updating means updates the parallax deviation by selectively using at least one of the deviation calculated by the first means and the deviation calculated by the second means.

【0017】より具体的には、請求項9に記載した発明
において、更新手段は、前記第1の手段により算出され
た偏差と前記第2の手段により算出された偏差とのう
ち、更新前の偏差に近い方の値で偏差を更新する。ま
た、請求項10に記載した発明において、更新手段は、
前記第1の手段により算出された偏差と前記第2の手段
により算出された偏差との中間値で偏差を更新する。
More specifically, in the invention described in claim 9, the updating means is the one before the updating among the deviation calculated by the first means and the deviation calculated by the second means. The deviation is updated with the value closer to the deviation. Moreover, in the invention described in claim 10, the updating means is:
The deviation is updated with an intermediate value between the deviation calculated by the first means and the deviation calculated by the second means.

【0018】つまり、かかる請求項8〜10に記載の発
明では、2つの異なる手段にて算出された2つの偏差を
選択的に用いることで、より的確な補正値が求められ、
距離計測の精度を高めることができる。
That is, in the invention described in claims 8 to 10, a more accurate correction value is obtained by selectively using two deviations calculated by two different means,
The accuracy of distance measurement can be improved.

【0019】請求項11に記載の発明では、請求項1〜
10のいずれかに記載の発明において、偏差算出手段
は、前記基準対象物に対するその時々の視差と前記視差
の標準値との偏差を、補間計算を用いて画像の1画素未
満まで算出する。この場合、より精密な補正計算が可能
となる。
According to the eleventh aspect of the present invention, in the first aspect,
In the invention described in any one of 10, the deviation calculating means calculates the deviation between the parallax at that time with respect to the reference object and the standard value of the parallax to less than one pixel of the image by using interpolation calculation. In this case, more accurate correction calculation can be performed.

【0020】[0020]

【発明の実施の形態】BEST MODE FOR CARRYING OUT THE INVENTION

(第1の実施形態)以下、この発明を具体化した第1の
実施形態を図面に従って説明する。
(First Embodiment) A first embodiment of the present invention will be described below with reference to the drawings.

【0021】図1は、本実施形態の構成を示す概略図で
ある。同図において、撮像手段としての撮像装置1A,
1Bは、前記図17で説明した左右一対のレンズ及び撮
像素子を有し、自車両前方の画像信号を出力する。同撮
像装置1A,1BにはA/D変換器2A,2Bが接続さ
れ、同A/D変換器2A,2Bは前記画像信号を例えば
256階調の輝度値に変換する。A/D変換器2A,2
Bには、例えばマイクロコンピュータを中心に構成され
る距離計算器3が接続されている。距離計算器3は、左
右画像の輝度情報から相関計算を行うと共に、同計算に
よる相関値の最小値から視差を検出する視差検出部4
と、視差検出部4により検出された視差から対象物まで
の距離を計算する距離計算部5と、対象物までの距離が
自車両にとって危険域にあるか否かを判断する判断部6
とを備える。また、判断部6には、計測された距離、又
は障害物に対する警告等を表示する距離又は警告表示器
7が接続されている。
FIG. 1 is a schematic diagram showing the configuration of this embodiment. In the figure, an imaging device 1A as an imaging means,
1B has the pair of left and right lenses and the image pickup device described in FIG. 17, and outputs an image signal in front of the host vehicle. A / D converters 2A and 2B are connected to the image pickup apparatuses 1A and 1B, and the A / D converters 2A and 2B convert the image signals into luminance values of 256 gradations, for example. A / D converters 2A, 2
A distance calculator 3 mainly composed of a microcomputer is connected to B. The distance calculator 3 performs a correlation calculation from the brightness information of the left and right images, and detects the parallax from the minimum value of the correlation values calculated by the calculation.
And a distance calculation unit 5 that calculates the distance to the target object from the parallax detected by the parallax detection unit 4, and a determination unit 6 that determines whether the distance to the target object is in a dangerous area for the host vehicle.
And Further, the determination unit 6 is connected with a measured distance or a distance or warning indicator 7 for displaying a warning or the like for an obstacle.

【0022】なお、図1では、距離計算器3を機能ブロ
ック毎に図示したが、実際には各ブロックの処理はマイ
クロコンピュータによる演算処理にて一括して実施され
る。本実施形態では、距離計算器3により距離計測手
段、偏差算出手段、距離補正手段、視差分布演算手段が
構成されている。
In FIG. 1, the distance calculator 3 is shown for each functional block, but in actuality, the processing of each block is collectively executed by the arithmetic processing by the microcomputer. In this embodiment, the distance calculator 3 constitutes distance measuring means, deviation calculating means, distance correcting means, and parallax distribution calculating means.

【0023】図2は、車両に搭載された距離計測装置に
おいて左右いずれかの撮像装置にて得られた画像を示
す。かかる画像について言えば、前記距離計算器3は、
例えば縦8画素×横8画素で構成される小領域(図2の
B1)を、視差が発生する方向に1ずつずらして相関値
V(i)を算出する。
FIG. 2 shows an image obtained by either the left or right image pickup device in the distance measuring device mounted on the vehicle. Speaking of such an image, the distance calculator 3
For example, the correlation value V (i) is calculated by shifting a small area (B1 in FIG. 2) composed of vertical 8 pixels × horizontal 8 pixels by 1 in the direction in which parallax occurs.

【0024】より詳しくは、左右の二次元画像の輝度値
の並びを数列として扱い、それらを「am,n 」,「bm,
n 」として次式にて相関値V(i)を計算する。
More specifically, the arrangement of the brightness values of the left and right two-dimensional images is treated as a sequence, and these are treated as "am, n", "bm,
Then, the correlation value V (i) is calculated by the following equation as "n".

【0025】[0025]

【数1】 但し、「i」はずらし量、「n」は画像の画素番号、
「W」は領域の大きさ(この事例では8)である。本実
施形態では、右画像のデータを基準として、左画像のデ
ータを1画素ずつずらして、即ち「i」を1つずつ増や
して相関値V(i)を計算する。この相関値V(i)の
計算結果に従い、同相関値V(i)が最小値となる点の
ずらし量iが視差として求められる。同視差は、画面全
体で求められ、視差の分布はメモリ8に記憶されるよう
になっている。
(Equation 1) However, "i" is the offset amount, "n" is the pixel number of the image,
"W" is the size of the region (8 in this case). In the present embodiment, the correlation value V (i) is calculated by shifting the data of the left image by one pixel with respect to the data of the right image, that is, increasing “i” by one. According to the calculation result of the correlation value V (i), the shift amount i of the point where the correlation value V (i) becomes the minimum value is obtained as the parallax. The parallax is obtained on the entire screen, and the parallax distribution is stored in the memory 8.

【0026】一方、左右一対の撮像装置1A,1Bにお
ける光軸(図17のS1,S2)の平行度にずれが生じ
ると、前述の如く求められる視差に誤りが生じ、引いて
は距離の計測精度が悪化する。そこで、本実施形態で
は、(イ)屋外で得られる画像には無限遠点とみなされ
る物体が最も多いこと、(ロ)光軸が平行度が保たれて
いれば、無限遠点とみなすことができる視差が「0」に
なること、(ハ)同じく、光軸が平行度が保たれていれ
ば、理論的には視差が負になることがないため、負側の
視差分布が急激に減少すること、に着目し、光軸のずれ
による視差の補正量を算出して、当該補正量を用いて距
離計測する。
On the other hand, when the parallelism of the optical axes (S1, S2 in FIG. 17) in the pair of left and right image pickup devices 1A, 1B is deviated, the parallax obtained as described above is erroneous, and the distance is measured. Accuracy deteriorates. Therefore, in the present embodiment, (a) the image obtained outdoors has the most objects considered to be infinity points, and (b) if the optical axes maintain parallelism, it is considered to be infinity points. The parallax that can be obtained is “0”. (C) Similarly, if the optical axes maintain parallelism, theoretically the parallax does not become negative, so the parallax distribution on the negative side becomes sharp. Focusing on the decrease, the correction amount of the parallax due to the shift of the optical axis is calculated, and the distance is measured using the correction amount.

【0027】次に、本実施形態における距離計測手順を
図3,図4を用いて説明する。図3は、距離計測及び障
害物判断処理を示す概略フローであり、本処理は距離計
算器3により所定時間毎(例えば、0.2秒毎)に実行
される。また、図4は、視差補正量の算出処理を示す概
略フローであり、本処理は距離計算器3により例えば1
時間毎に割り込みにて実行される。
Next, the distance measuring procedure in this embodiment will be described with reference to FIGS. FIG. 3 is a schematic flow chart showing distance measurement and obstacle judgment processing, and this processing is executed by the distance calculator 3 at predetermined time intervals (for example, every 0.2 seconds). In addition, FIG. 4 is a schematic flow chart showing the calculation process of the parallax correction amount.
It is executed by interruption every time.

【0028】さて、図3の処理がスタートすると、先ず
ステップ101では、画面全体で視差の分布をとり、続
くステップ102では、視差分布を距離計算器3内のメ
モリ8に記憶する。
When the processing of FIG. 3 is started, first, at step 101, the distribution of parallax is obtained over the entire screen, and at step 102, the parallax distribution is stored in the memory 8 in the distance calculator 3.

【0029】ステップ103では、光軸のずれによる視
差補正を行うための視差補正値FAを読み込む。ここ
で、視差補正値FAは、図4に示す割り込み処理にて求
められるものであり、同割り込み処理を説明する。即
ち、図4において、ステップ201では、前記視差分布
情報から視差のヒストグラムを作成し、続くステップ2
02では、同ヒストグラムから補正をすべき視差を求め
る。
In step 103, the parallax correction value FA for performing parallax correction due to the deviation of the optical axis is read. Here, the parallax correction value FA is obtained by the interrupt process shown in FIG. 4, and the interrupt process will be described. That is, in FIG. 4, in step 201, a parallax histogram is created from the parallax distribution information, and then in step 2
In 02, the parallax to be corrected is obtained from the histogram.

【0030】これを図5,図6のヒストグラムを用いて
具体的に説明する。なお、図5は、光軸のずれがない状
態でのヒストグラムを示し、図6は光軸のずれがある状
態でのヒストグラムを示す。つまり、光軸のずれがない
状態では、図5に示す如く点G(視差=0)での頻度が
最も多くなり、それよりも負側で急激が減少している。
この点Gは無限遠点の視差(視差の標準値)に相当す
る。また、光軸にずれが生じると、例えば図6に示す如
く視差のヒストグラムが総じて負側にずれる。この光軸
がずれた状態では、図6の点Hが無限遠点の視差に相当
する。これら点G,点Hの視差の偏差が「視差補正値F
A」となる。
This will be specifically described with reference to the histograms of FIGS. Note that FIG. 5 shows a histogram in a state where the optical axis is not displaced, and FIG. 6 shows a histogram in a state where the optical axis is displaced. That is, in the state where the optical axis is not displaced, the frequency at the point G (parallax = 0) is the highest as shown in FIG. 5, and sharply decreases on the negative side.
This point G corresponds to the parallax at the point at infinity (standard value of parallax). Further, when the optical axis is displaced, the parallax histogram is generally shifted to the negative side as shown in FIG. 6, for example. When the optical axis is deviated, the point H in FIG. 6 corresponds to the parallax at the point at infinity. The difference in parallax between these points G and H is the “parallax correction value F”.
A ".

【0031】なお、補間計算により視差補正値FAを算
出する場合には、次の手順に従う。即ち、図7に示すよ
うに、視差=0付近で頻度が最大を示した点Hの前後の
点I,Jでは、頻度はI<Jであるから、点Hと点Iと
を通る直線L1を引く。次に、垂線に対して直線L1と
対称で且つ点Jを通る直線L2を引き、これら直線L
1,L2の交点Kを求める。こうして求められた点Kが
補間による視差に相当し、点Kと前記点Gとの視差の偏
差が「視差補正値FA」となる。
When the parallax correction value FA is calculated by interpolation calculation, the following procedure is followed. That is, as shown in FIG. 7, at points I and J before and after the point H where the frequency is maximum near the parallax = 0, the frequency is I <J, and therefore the straight line L1 passing between the points H and I is used. pull. Next, a straight line L2 that is symmetric to the straight line L1 and passes through the point J is drawn, and these straight lines L
Find the intersection K of 1 and L2. The point K thus obtained corresponds to the parallax by interpolation, and the deviation of the parallax between the point K and the point G becomes the “parallax correction value FA”.

【0032】上記の通り視差補正値FAが求められた
後、図4のステップ203では、視差補正値FAを今回
値として更新し、本処理を終了する。また、図3の処理
に戻り、ステップ104では、撮像装置1A,1Bから
得られた差分画像に基づいて、自車両の前方における車
両や電柱等の立体物と路面標識等の平面の情報とを識別
し、そのうち立体物を障害物とみなして当該障害物まで
の距離を次式を用いて算出する。
After the parallax correction value FA is obtained as described above, in step 203 of FIG. 4, the parallax correction value FA is updated as the current value, and this processing ends. Further, returning to the processing of FIG. 3, in step 104, based on the difference images obtained from the image pickup devices 1A and 1B, three-dimensional objects such as vehicles and telephone poles in front of the own vehicle and plane information such as road markings are obtained. Then, the three-dimensional object is identified as an obstacle, and the distance to the obstacle is calculated using the following equation.

【0033】De=P・f/{(δ+FA)・K0 } ここで、既述した通り「δ」は画素数で表される視差で
あり、「K0 」は撮像素子の単位画素数当たりの長さで
ある。
De = Pf / {(δ + FA) K0} Here, as described above, "δ" is the parallax represented by the number of pixels, and "K0" is the length per unit number of pixels of the image sensor. That's it.

【0034】ステップ105では、前回計測された距離
と今回計測された距離との比較から障害物との相対速度
を算出し、続くステップ106では、自車両の車速を求
める。その後、ステップ107では、障害物までの距離
(車間距離)と相対速度と自車両の速度(自車速)とか
ら今現在の走行状態の危険度を判断し、続くステップ1
08では、前記判断された危険度から今現在が危険走行
であるか否かを判別する。この危険度の判断は、例えば
図8の関係に基づいて行われ、図8の警報領域にあれば
危険走行の旨が判別される。危険走行と判別された場
合、ステップ109では警報が発せられる。
In step 105, the relative speed to the obstacle is calculated by comparing the distance measured last time and the distance measured this time, and in the following step 106, the vehicle speed of the host vehicle is obtained. After that, in step 107, the degree of danger of the current traveling state is judged from the distance to the obstacle (inter-vehicle distance), the relative speed, and the speed of the own vehicle (own vehicle speed), and the following step 1
At 08, it is judged from the judged degree of danger whether or not the current driving is dangerous. This determination of the degree of risk is performed based on the relationship shown in FIG. 8, for example, and if the warning area is in the range shown in FIG. If it is determined that the vehicle is dangerous, an alarm is issued in step 109.

【0035】以上詳述したように本実施形態では、画像
内の無限遠点を基準対象物とすると共に視差がゼロ近傍
となる点を視差の標準値(視差=0)として、当該標準
値近傍における視差分布の変化度合から視差補正値FA
(視差の偏差)を算出するようにした(図4の処理)。
この場合、視差が正の値から負の値に移行する領域で視
差分布が急激に低下する点を、その時の無限遠点に対応
する視差とみなすようにした。
As described above in detail, in the present embodiment, the point at infinity in the image is used as the reference object, and the point where the parallax is near zero is set as the standard value (parallax = 0) of the parallax, and the vicinity of the standard value is set. The parallax correction value FA from the degree of change of the parallax distribution in
The (parallax deviation) is calculated (processing in FIG. 4).
In this case, the point where the parallax distribution sharply decreases in the region where the parallax shifts from a positive value to a negative value is regarded as the parallax corresponding to the infinity point at that time.

【0036】つまり、野外で得られる画像には、無限遠
点に対応する視差が最も多く存在し、撮像手段の相互の
光軸が平行に保たれていればこの無限遠点に対応する視
差はゼロとなる。また、通常では、無限遠点に対応する
視差(=0)よりも負側に視差が分布することはない。
従って、視差がゼロ近傍の視差分布の変化度合から光軸
のずれ量に対応する視差補正値FAを求めることがで
き、引いては経時変化や温度等の環境要因による光軸の
ずれを的確に補正して高精度な距離計測を行うことがで
きる。
That is, the most parallax corresponding to the point at infinity exists in the image obtained outdoors, and if the mutual optical axes of the image pickup means are kept parallel, the parallax corresponding to this point at infinity will not occur. It becomes zero. Further, normally, the parallax is not distributed on the negative side of the parallax (= 0) corresponding to the point at infinity.
Therefore, the parallax correction value FA corresponding to the amount of deviation of the optical axis can be obtained from the degree of change of the parallax distribution in the vicinity of zero parallax, and the deviation of the optical axis due to environmental factors such as temporal change and temperature can be accurately calculated. It is possible to correct and perform highly accurate distance measurement.

【0037】また、本実施形態では、視差補正値FAを
補間計算を用いて画像の1画素未満まで算出するように
した。その結果、より精密な補正計算が可能となる。な
お、本実施形態は、請求項1〜3,11に記載した発明
に相当する。
Further, in this embodiment, the parallax correction value FA is calculated to less than one pixel of the image by using the interpolation calculation. As a result, more accurate correction calculation can be performed. The present embodiment corresponds to the invention described in claims 1 to 3.

【0038】(第2の実施形態)次に、請求項5〜7に
記載の発明を具体化した第2の実施形態について、図9
〜図15を用いて説明する。但し、本実施形態の構成等
において、上述した第1の実施形態と同等であるものに
ついてはその説明を省略する。そして、以下には、第1
の実施形態との相違点を中心に説明する。
(Second Embodiment) Next, a second embodiment embodying the invention described in claims 5 to 7 will be described with reference to FIG.
~ It demonstrates using FIG. However, in the configuration and the like of this embodiment, the description of the same components as those of the above-described first embodiment will be omitted. And, below, the first
The following description focuses on the differences from the first embodiment.

【0039】図9は、自車両の前方部分を示す側面図で
あり、同図において、車室内天井部には撮像装置の光学
部21が設置されている。また、自車両のボンネット2
2の先端には、例えば車両メーカのシンボルマーク等の
形状からなるエンブレム23が取り付けられている。か
かる場合、前記光学部21とエンブレム23との距離
は、それぞれの位置を固定している限り一定である。
FIG. 9 is a side view showing the front portion of the vehicle. In FIG. 9, the optical section 21 of the image pickup device is installed on the ceiling of the passenger compartment. Also, the hood 2 of your vehicle
An emblem 23 having a shape such as a symbol mark of a vehicle maker is attached to a tip of the vehicle 2. In such a case, the distance between the optical unit 21 and the emblem 23 is constant as long as the respective positions are fixed.

【0040】図10は、車両に搭載した距離計測装置の
一方の撮像装置の映像を示す。図10の映像において、
画面の中央下部には自車両のボンネット22とエンブレ
ム23とが写っており、エンブレム23の周りには所定
アドレスで区画された領域(以下、ウインドウWzとい
う)が設定されている。このウインドウWz内のエンブ
レム23に対する視差は、左右画面の映像の互いのずら
し量に対しての相関値に基づいて算出される。
FIG. 10 shows an image of one of the image pickup devices of the distance measuring device mounted on the vehicle. In the image of FIG.
The hood 22 and the emblem 23 of the vehicle are shown in the lower center of the screen, and a region (hereinafter referred to as window Wz) partitioned by a predetermined address is set around the emblem 23. The parallax with respect to the emblem 23 in the window Wz is calculated based on the correlation value with respect to the amount of shift between the left and right screen images.

【0041】次に、本実施形態における距離計測手順を
図11,図12を用いて説明する。図11は、距離計測
及び障害物判断処理を示す概略フローであり、本処理は
距離計算器3により所定時間毎(例えば、0.2秒毎)
に実行される。また、図12は、視差補正量の算出処理
を示す概略フローであり、本処理は距離計算器3により
例えばイグニションキーのオン操作時の割り込みにて実
行される。
Next, the distance measuring procedure in this embodiment will be described with reference to FIGS. FIG. 11 is a schematic flow chart showing distance measurement and obstacle judgment processing. This processing is performed by the distance calculator 3 at predetermined time intervals (for example, every 0.2 seconds).
Is executed. In addition, FIG. 12 is a schematic flow chart showing the calculation process of the parallax correction amount, and this process is executed by the distance calculator 3 by, for example, interruption when the ignition key is turned on.

【0042】さて、図11の処理がスタートすると、先
ずステップ301では、画面全体で視差の分布をとり、
続くステップ302では、全体の視差分布から自車両前
方における障害物を抽出する。即ち、撮像装置1A,1
Bから得られた差分画像に基づいて、自車両の前方にお
ける車両や電柱等の立体物と路面標識等の平面の情報と
を識別し、そのうち立体物を障害物として抽出する。
Now, when the processing of FIG. 11 starts, first in step 301, the distribution of parallax is taken over the entire screen,
In the following step 302, an obstacle in front of the host vehicle is extracted from the entire parallax distribution. That is, the imaging devices 1A and 1
Based on the difference image obtained from B, a three-dimensional object such as a vehicle or a utility pole in front of the own vehicle and plane information such as a road sign are identified, and the three-dimensional object is extracted as an obstacle.

【0043】その後、ステップ303では、光軸のずれ
による視差補正を行うための視差補正値FBを読み込む
と共に、当該視差補正値FBを用いて次式から障害物ま
での距離Deを算出する。
Thereafter, in step 303, the parallax correction value FB for performing parallax correction due to the shift of the optical axis is read, and the distance De to the obstacle is calculated from the following equation using the parallax correction value FB.

【0044】De=P・f/{(δ+FB)・K0 } ここで、視差補正値FBは、前記ウインドウWz内に存
在するエンブレム23を基準対象物として、同対象物に
対応する視差の偏差にて求められる。以下、視差補正値
FBについて、同補正値FBを算出するための割り込み
処理(図12のフロー)、及び同補正値FBをより具体
的に示すグラフ(図13〜15)を用いて説明する。
De = Pf / {(δ + FB) K0} Here, the parallax correction value FB is the deviation of the parallax corresponding to the same object with the emblem 23 existing in the window Wz as the reference object. Required. Hereinafter, the parallax correction value FB will be described with reference to interrupt processing for calculating the correction value FB (flow in FIG. 12) and graphs (FIGS. 13 to 15) showing the correction value FB more specifically.

【0045】即ち、図13は、光軸のずれがない状態で
の相関値V(i)を示すグラフであり、図14は光軸の
ずれがある状態での相関値V(i)を示すグラフであ
る。なお、図13,14は、左右いずれかの画像を2画
素ずつずらして相関値V(i)を求めた場合のグラフに
相当する。つまり、光軸のずれがない状態では、図13
に示す如く点M(i=96)で相関値V(i)が最小に
なり、この点Mの視差が視差の標準値に相当する。これ
に対して、光軸にずれが生じると、図14に示す如く相
関値V(i)が最小となる視差が点M(i=96)から
点N(i=94)へとずれる。このとき、点Mと点Nと
の視差のずれ量が2画素単位の「視差補正値FB」とな
る。
That is, FIG. 13 is a graph showing the correlation value V (i) when the optical axis is not displaced, and FIG. 14 is the correlation value V (i) when the optical axis is displaced. It is a graph. Note that FIGS. 13 and 14 correspond to graphs when the correlation value V (i) is obtained by shifting either the left or right image by two pixels. That is, in the state where there is no deviation of the optical axis, FIG.
As shown in, the correlation value V (i) becomes minimum at the point M (i = 96), and the parallax at this point M corresponds to the standard value of the parallax. On the other hand, when the optical axis is displaced, the parallax that minimizes the correlation value V (i) shifts from the point M (i = 96) to the point N (i = 94) as shown in FIG. At this time, the shift amount of the parallax between the points M and N becomes the “parallax correction value FB” in units of 2 pixels.

【0046】また一方、補間計算を用いる場合には、次
の手順に従う。即ち、図15に示すように、点Nの前後
の点O,Pでは、その頻度はO>Pであるから、点Nと
点Oとを通る直線L3を引く。次に、垂線に対して直線
L3と対称で且つ点Pを通る直線L4を引き、これら直
線L3,L4の交点Qの視差を補間値(i≒94.7)
とする。こうして算出された点Qと前記点Mとの視差の
ずれ量が2画素未満の単位での「視差補正値FB」とな
る。
On the other hand, when interpolation calculation is used, the following procedure is followed. That is, as shown in FIG. 15, at the points O and P before and after the point N, the frequency is O> P, so a straight line L3 passing through the points N and O is drawn. Next, a straight line L4, which is symmetric to the straight line L3 and passes through the point P, is drawn, and the parallax at the intersection Q of these straight lines L3 and L4 is an interpolated value (i≈94.7).
And The shift amount of the parallax between the point Q and the point M calculated in this way becomes the “parallax correction value FB” in units of less than 2 pixels.

【0047】また、図12の処理を説明すれば、ステッ
プ401では、前記画面上の特定の領域(図10のウイ
ンドウWz)について当該領域内のエンブレム23に対
応する視差の標準値(図13の点M)を読み込む。ステ
ップ402では、特定の領域について当該領域内のエン
ブレム23に対応する視差(図15の点Q)を補間計算
により求める。そして、ステップ403では、補間によ
り求めた視差と視差の標準値との偏差を視差補正値FB
の今回値として更新し、本処理を終了する。
Further, explaining the processing of FIG. 12, in step 401, for a specific area (window Wz of FIG. 10) on the screen, the standard value of the parallax corresponding to the emblem 23 in the area (FIG. 13). Read point M). In step 402, the parallax (point Q in FIG. 15) corresponding to the emblem 23 in the specific area is obtained for the specific area by interpolation calculation. Then, in step 403, the deviation between the parallax obtained by the interpolation and the standard value of the parallax is calculated as the parallax correction value FB.
Is updated as the current value of, and this processing ends.

【0048】また、図11の処理に戻り、ステップ30
4では、前回計測された距離と今回計測された距離との
比較から障害物との相対速度を算出する。また、ステッ
プ305では、自車両の車速を求める。その後、ステッ
プ306では、障害物までの距離(車間距離)と相対速
度と自車両の速度(自車速)とから危険度を求める。こ
の危険度の判定には、例えば前記図8の関係が用いられ
る。続くステップ307では、危険走行であるか否かを
判別する。危険走行と判別された場合、ステップ308
では警報が発せられる。
Returning to the processing of FIG. 11, step 30
In 4, the relative speed with respect to the obstacle is calculated from the comparison between the distance measured last time and the distance measured this time. In step 305, the vehicle speed of the host vehicle is calculated. Then, in step 306, the degree of danger is calculated from the distance to the obstacle (inter-vehicle distance), the relative speed, and the speed of the host vehicle (host vehicle speed). For the determination of the degree of risk, for example, the relationship shown in FIG. 8 is used. In the following step 307, it is determined whether or not the driving is dangerous. If it is determined that the vehicle is dangerous, step 308
Then an alarm is issued.

【0049】以上詳述したように本実施形態では、画像
内における距離が既知の物体(エンブレム23)を基準
対象物として、当該エンブレム23に対応する視差の標
準値と同エンブレム23に対応する視差とから視差の偏
差を算出し、同偏差を視差補正値FBとした(図12の
処理)。この場合、上記第1の実施形態と同様に、光軸
のずれを的確に補正することができ、引いては高精度な
距離計測を行うことができる。
As described above in detail, in the present embodiment, the standard value of the parallax corresponding to the emblem 23 and the parallax corresponding to the emblem 23 are set with the object (emblem 23) whose distance in the image is known as the reference object. Then, the deviation of the parallax is calculated, and the deviation is set as the parallax correction value FB (processing of FIG. 12). In this case, like the first embodiment, the deviation of the optical axis can be accurately corrected, and the distance measurement can be performed with high accuracy.

【0050】また、本実施形態では、自車両の一部であ
るエンブレム23を基準対象物(距離が既知の物体)と
したため、同対象物を簡便に設定することができる。併
せて、エンブレム23に対応する真の視差(真の距離)
を容易に設定できる。
Further, in this embodiment, since the emblem 23 which is a part of the own vehicle is used as the reference object (object whose distance is known), the object can be easily set. In addition, the true parallax (true distance) corresponding to the emblem 23
Can be set easily.

【0051】さらに、本実施形態では、エンブレム23
を囲むようにウインドウWzを設定し、同ウインドウW
zに対応する特定領域について視差演算を行うようにし
たため、補正値算出のための演算負荷を大幅に軽減する
ことができる。
Further, in this embodiment, the emblem 23
Set the window Wz so that it surrounds
Since the parallax calculation is performed on the specific area corresponding to z, the calculation load for calculating the correction value can be significantly reduced.

【0052】(第3の実施形態)次に、請求項8,9に
記載の発明を具体化した第3の実施形態について説明す
る。但し、本実施形態の構成等において、上述した第
1,第2の実施形態と同等であるものについてはその説
明を省略する。そして、以下には、第1,第2の実施形
態との相違点を中心に説明する。
(Third Embodiment) Next, a third embodiment of the present invention as defined in claims 8 and 9 will be described. However, in the configuration and the like of this embodiment, the description of the same components as those of the above-described first and second embodiments will be omitted. Then, the differences from the first and second embodiments will be mainly described below.

【0053】図16は、本実施形態における距離計測及
び障害物判断処理を示す概略フローであり、本処理は距
離計算器3により所定時間毎(例えば、0.2秒毎)に
実行される。
FIG. 16 is a schematic flow chart showing the distance measurement and obstacle judgment processing in this embodiment. This processing is executed by the distance calculator 3 at predetermined time intervals (for example, every 0.2 seconds).

【0054】さて、図16の処理がスタートすると、先
ずステップ501では、画面全体で視差の分布をとり、
続くステップ502では、視差分布を距離計算器3内の
メモリ8に記憶する。また、ステップ503では、無限
遠点の視差分布から求められる視差補正値FAを読み込
む。この視差補正値FAは、前記第1の実施形態におけ
る図4の割り込み処理で求められる値に相当する。
When the processing of FIG. 16 starts, first in step 501, the distribution of parallax is taken over the entire screen,
In the following step 502, the parallax distribution is stored in the memory 8 in the distance calculator 3. In step 503, the parallax correction value FA obtained from the parallax distribution at the point at infinity is read. The parallax correction value FA corresponds to the value obtained by the interrupt process of FIG. 4 in the first embodiment.

【0055】さらに、ステップ504では、特定領域に
対応する視差の偏差から求められる視差補正値FBを読
み込む。この視差補正値FBは、前記第2の実施形態に
おける図12の割り込み処理で求められる値に相当す
る。
Further, in step 504, the parallax correction value FB obtained from the parallax deviation corresponding to the specific area is read. This parallax correction value FB corresponds to the value obtained by the interrupt processing of FIG. 12 in the second embodiment.

【0056】その後、ステップ505では、視差補正値
FA,FBのうちいずれの値が補正値として妥当な値で
あるかを選択する。この場合、いずれが妥当であるかの
判断は、補正値の前回値との差に応じて行い、前回値と
の差が少ない方の値、即ち前回値に近い方の値を今回と
して更新する。つまり、前回値との差が大きい値は、誤
り値として扱われる。
After that, in step 505, which of the parallax correction values FA and FB is a valid correction value is selected. In this case, which is appropriate is determined according to the difference between the correction value and the previous value, and the value having the smaller difference from the previous value, that is, the value closer to the previous value is updated as this time. . That is, a value having a large difference from the previous value is treated as an error value.

【0057】その後、ステップ506では、撮像装置1
A,1Bから得られた差分画像に基づいて、自車両の前
方における車両や電柱等の立体物と路面標識等の平面の
情報とを識別し、そのうち立体物を障害物とみなして当
該障害物までの距離を算出する。以後、ステップ507
〜511では、障害物との相対速度、自車両の速度及び
障害物との距離から危険度を判定する。なお、同処理
は、前記図3のステップ105〜109,前記図11の
ステップ304〜308と同等の処理のため、説明を省
略する。
Thereafter, in step 506, the image pickup apparatus 1
Based on the difference image obtained from A and 1B, a three-dimensional object such as a vehicle or a telephone pole in front of the own vehicle and plane information such as a road marking are identified, and the three-dimensional object is regarded as an obstacle, and the obstacle is concerned. Calculate the distance to. After that, step 507
In steps 511 to 511, the degree of danger is determined from the relative speed with respect to the obstacle, the speed of the host vehicle, and the distance from the obstacle. Since this process is equivalent to steps 105 to 109 of FIG. 3 and steps 304 to 308 of FIG. 11, description thereof will be omitted.

【0058】以上詳述したように本実施形態では、画像
内の無限遠点に対応する視差分布から視差補正値FAを
求めると共に、距離が既知のエンブレム23に対応する
視差の偏差から視差補正値FBを算出し、両補正値F
A,FBのうち妥当と判断される方の補正値を用いて距
離補正を行うようにした。より具体的には、補正値の前
回値に近い方の値を用いるようにした。上記構成によれ
ば、2つの補正値を選択的に用いることで、より的確な
補正値が求められ、距離計測の精度を高めることができ
る。
As described above in detail, in this embodiment, the parallax correction value FA is obtained from the parallax distribution corresponding to the point at infinity in the image, and the parallax correction value is calculated from the deviation of the parallax corresponding to the emblem 23 whose distance is known. FB is calculated, and both correction values F
The distance correction is performed by using the correction value that is judged to be proper of A and FB. More specifically, the value closer to the previous correction value is used. According to the above configuration, by using the two correction values selectively, a more accurate correction value can be obtained, and the accuracy of distance measurement can be improved.

【0059】なお、本発明は上記実施形態の他に次の様
態にて具体化することができる。 (1)前記第1の実施形態では、画面全体の視差分布を
とるように演算処理を行ったが、同視差分布の演算範囲
を視差がゼロとなる点を含む特定範囲に限定してもよ
い。この場合、無限遠点に対応する領域でのみ視差の偏
差(補正値)が演算されることになり、光軸のずれを解
消するために要する演算負荷が大幅に軽減できる。本実
施形態は、請求項4に記載の発明に相当する。特に、視
差分布をとるための特定範囲を画面上半分にすれば、同
特定範囲内には遠くに位置する物体が多く存在すること
になり(前方車両や標識等が除かれる)、無限遠点の判
別が容易且つ確実になる。
The present invention can be embodied in the following modes other than the above embodiment. (1) In the first embodiment, the calculation process is performed so as to obtain the parallax distribution of the entire screen, but the calculation range of the parallax distribution may be limited to a specific range including a point where the parallax is zero. . In this case, the deviation (correction value) of the parallax is calculated only in the area corresponding to the point at infinity, and the calculation load required to eliminate the deviation of the optical axis can be significantly reduced. The present embodiment corresponds to the invention described in claim 4. In particular, if the specific range for obtaining the parallax distribution is halved on the screen, there will be many objects located far away within the specific range (excluding vehicles in front and signs), and the point at infinity. Is easy and reliable.

【0060】(2)前記第2の実施形態において、視差
補正値FA,FBから妥当な値を選択する処理を以下の
ように変更してもよい。例えば視差補正値FA,FBの
中間値をその時の補正値として更新し、当該更新された
補正値により距離を補正する。本実施形態は、請求項1
0に記載の発明に相当する。
(2) In the second embodiment, the process of selecting an appropriate value from the parallax correction values FA and FB may be changed as follows. For example, the intermediate value of the parallax correction values FA and FB is updated as the correction value at that time, and the distance is corrected by the updated correction value. This embodiment is claim 1.
0 corresponds to the invention described in 0.

【0061】(3)上記各実施形態では、車間距離と相
対速度と自車両の速度とから今現在の走行状態の危険度
を判断したが、これを車間距離と自車両の速度とから判
断するように変更してもよい。
(3) In each of the above-described embodiments, the degree of danger of the current running state is determined from the inter-vehicle distance, the relative speed, and the speed of the host vehicle, but this is determined from the inter-vehicle distance and the speed of the host vehicle. May be changed to

【0062】(4)上記第2,第3の実施形態では、距
離が既知の物体(基準対象物)を自車両のエンブレム2
3としたがこれを変更してもよい。例えば、自車両のボ
ンネット上の模様や見切り線等に変更してもよい。ま
た、基準対象物を2つ以上設定し、それらを選択的に用
いることで補正精度の向上を図るようにしてもよい。
(4) In the second and third embodiments, the emblem 2 of the own vehicle is used as an object (reference object) whose distance is known.
However, this may be changed. For example, the pattern on the hood of the host vehicle, the parting line, or the like may be changed. Further, it is also possible to set two or more reference objects and selectively use them to improve the correction accuracy.

【0063】(5)上記各実施形態では、距離計算器3
をマイクロコンピュータにて構成し、視差分布や距離の
計測をソフト処理にて実現したが、これを電気回路等の
ハードにて構成してもよい。
(5) In each of the above embodiments, the distance calculator 3
Is configured by a microcomputer and the parallax distribution and distance are measured by software processing, but this may be configured by hardware such as an electric circuit.

【0064】(6)上記各実施形態では、視差の計算を
画像の2次元領域について行ったが、1次元領域で行う
ように変更してもよい。
(6) In each of the above embodiments, the parallax calculation is performed for the two-dimensional area of the image, but it may be changed so as to be performed for the one-dimensional area.

【図面の簡単な説明】[Brief description of the drawings]

【図1】発明の実施の形態における距離計測装置の構成
を示すブロック図。
FIG. 1 is a block diagram showing a configuration of a distance measuring device according to an embodiment of the invention.

【図2】左右いずれか一方の撮像装置の映像を示す図。FIG. 2 is a diagram showing an image of either the left or right imaging device.

【図3】第1の実施形態における距離計測及び障害物判
断処理の概略を示すフローチャート。
FIG. 3 is a flowchart showing an outline of distance measurement and obstacle judgment processing according to the first embodiment.

【図4】補正のための割り込み処理を示すフローチャー
ト。
FIG. 4 is a flowchart showing interrupt processing for correction.

【図5】光軸のずれがない状態での視差分布を示すヒス
トグラム。
FIG. 5 is a histogram showing a parallax distribution in a state where the optical axis is not displaced.

【図6】光軸のずれがある状態での視差分布を示すヒス
トグラム。
FIG. 6 is a histogram showing a parallax distribution in a state where the optical axis is displaced.

【図7】補間計算を説明するための視差分布を示すヒス
トグラム。
FIG. 7 is a histogram showing a parallax distribution for explaining interpolation calculation.

【図8】走行状態が警報領域にあるか否かを判別するた
めに用いるマップ。
FIG. 8 is a map used to determine whether or not the traveling state is in an alarm area.

【図9】第2の実施形態における自車両前方部の構成を
示す図。
FIG. 9 is a diagram showing a configuration of a front portion of a host vehicle in the second embodiment.

【図10】第2の実施形態における左右いずれか一方の
撮像装置の映像を示す図。
FIG. 10 is a diagram showing a video image of either the left or right imaging device according to the second embodiment.

【図11】第2の実施形態における距離計測及び障害物
判断処理の概略を示すフローチャート。
FIG. 11 is a flowchart showing an outline of distance measurement and obstacle determination processing according to the second embodiment.

【図12】補正のための割り込み処理を示すフローチャ
ート。
FIG. 12 is a flowchart showing an interrupt process for correction.

【図13】光軸のずれがない状態での視差と相関値の関
係を示すグラフ。
FIG. 13 is a graph showing a relationship between a parallax and a correlation value in a state where the optical axis is not displaced.

【図14】光軸のずれがある状態での視差と相関値の関
係を示すグラフ。
FIG. 14 is a graph showing a relationship between a parallax and a correlation value when there is a shift of an optical axis.

【図15】補間計算を説明するためのグラフ。FIG. 15 is a graph for explaining interpolation calculation.

【図16】第3の実施形態における距離計測及び障害物
判断処理の概略を示すフローチャート。
FIG. 16 is a flowchart showing an outline of distance measurement and obstacle judgment processing according to the third embodiment.

【図17】一般的な立体視法に基づく距離計測装置の構
成を示す図。
FIG. 17 is a diagram showing a configuration of a distance measuring device based on a general stereoscopic method.

【符号の説明】 1A,1B…撮像手段としての撮像装置、3…距離計測
手段,偏差算出手段(第1の手段,第2の手段,更新手
段),距離補正手段,視差分布演算手段としての距離計
算器。
[Description of Reference Signs] 1A, 1B ... Imaging device as imaging means, 3 ... Distance measuring means, deviation calculating means (first means, second means, updating means), distance correcting means, parallax distribution calculating means Distance calculator.

Claims (11)

【特許請求の範囲】[Claims] 【請求項1】一定間隔を離して設けられ、対象物の画像
を得る一対の撮像手段と、各撮像手段の離間方向の視差
から対象物までの距離を求める距離計測手段とを備える
距離計測装置において、 基準対象物に対応する視差の標準値を予め記憶してお
き、前記基準対象物に対するその時々の視差と前記視差
の標準値との偏差を算出する偏差算出手段と、 前記偏差算手段により算出された偏差を補正量として前
記距離計測手段により求められる距離を補正する距離補
正手段とを備えることを特徴とする距離計測装置。
1. A distance measuring device comprising a pair of image pickup means provided at regular intervals to obtain an image of an object and a distance measuring means for obtaining a distance to the object from a parallax in a separation direction of each image pickup means. In, the standard value of the parallax corresponding to the reference object is stored in advance, the deviation calculation means for calculating the deviation between the parallax at that time and the standard value of the parallax with respect to the reference object, and the deviation calculation means A distance measuring device, comprising: a distance correcting unit that corrects the distance calculated by the distance measuring unit using the calculated deviation as a correction amount.
【請求項2】前記撮像手段により得られる画像の視差分
布を求める視差分布演算手段を備え、 前記偏差算出手段は、画像内の無限遠点を基準対象物と
すると共に視差がゼロ近傍となる点を視差の標準値とし
て、当該標準値近傍における視差分布の変化度合から前
記視差の偏差を算出する請求項1に記載の距離計測装
置。
2. A parallax distribution calculating means for obtaining a parallax distribution of an image obtained by the image pickup means, wherein the deviation calculating means uses a point at infinity in the image as a reference object and has a parallax near zero. The distance measuring device according to claim 1, wherein the parallax deviation is calculated from the degree of change of the parallax distribution in the vicinity of the standard value, with the parallax being a standard value.
【請求項3】請求項2に記載の距離計測装置において、 前記偏差算出手段は、視差が正の値から負の値に移行す
る領域で視差分布が急激に低下する点をその時の無限遠
点に対応する視差とみなす距離計測装置。
3. The distance measuring device according to claim 2, wherein the deviation calculating unit determines a point where the parallax distribution sharply decreases in a region where the parallax shifts from a positive value to a negative value, at that time point of infinity. Distance measuring device that is regarded as parallax corresponding to.
【請求項4】請求項2又は3に記載の距離計測装置にお
いて、 前記視差分布演算手段は、視差がゼロとなる点を含む特
定範囲を視差分布の演算範囲とする距離計測装置。
4. The distance measuring device according to claim 2 or 3, wherein the parallax distribution calculating means sets a specific range including a point where the parallax is zero as a calculation range of the parallax distribution.
【請求項5】前記偏差算出手段は、画像内における距離
が既知の物体を基準対象物として、当該距離が既知の物
体に対応する視差の標準値と同物体に対応するその時々
の視差とから視差の偏差を算出する請求項1に記載の距
離計測装置。
5. The deviation calculating means uses an object whose distance in the image is known as a reference object, and calculates the standard value of the parallax corresponding to the object whose distance is known and the parallax at each time corresponding to the same object. The distance measuring device according to claim 1, wherein the deviation of parallax is calculated.
【請求項6】請求項5に記載の距離計測装置において、 前記距離が既知の物体は、前記撮像手段が取り付けられ
た自車両の一部である距離計測装置。
6. The distance measuring device according to claim 5, wherein the object of which the distance is known is a part of a vehicle equipped with the image pickup means.
【請求項7】請求項5又は6に記載の距離計測装置にお
いて、 前記偏差算出手段は、前記距離が既知の物体に対応する
視差の標準値を含む特定範囲にて視差演算を行う距離計
測装置。
7. The distance measuring device according to claim 5, wherein the deviation calculating means performs a parallax calculation in a specific range including a standard value of parallax corresponding to an object whose distance is known. .
【請求項8】前記撮像手段により得られる画像の視差分
布を求める視差分布演算手段を備え、 前記偏差算出手段は、 画像内の無限遠点を基準対象物とすると共に視差がゼロ
近傍となる点を視差の標準値として、当該標準値近傍に
おける視差分布の変化度合から前記視差の偏差を算出す
る第1の手段と、 画像内の距離が既知の物体を基準対象物として、当該距
離が既知の物体に対応する視差の標準値と同物体に対応
するその時々の視差とから視差の偏差を算出する第2の
手段と、 前記第1の手段により算出された偏差及び前記第2の手
段により算出された偏差の少なくともいずれか一方を選
択的に用いて視差の偏差を更新する更新手段とを備える
請求項1に記載の距離計測装置。
8. A parallax distribution calculating means for obtaining a parallax distribution of an image obtained by the image pickup means, wherein the deviation calculating means uses an infinite point in the image as a reference object and has a parallax near zero. As a standard value of the parallax, a first means for calculating the deviation of the parallax from the degree of change of the parallax distribution in the vicinity of the standard value, and an object whose distance in the image is known as a reference object, the distance is known. Second means for calculating the deviation of the parallax from the standard value of the parallax corresponding to the object and the current parallax corresponding to the same object; and the deviation calculated by the first means and the second means. The distance measuring device according to claim 1, further comprising an updating unit that updates the deviation of the parallax by selectively using at least one of the calculated deviations.
【請求項9】請求項8に記載の距離計測装置において、 前記更新手段は、前記第1の手段により算出された偏差
と前記第2の手段により算出された偏差とのうち、更新
前の偏差に近い方の値で偏差を更新する距離計測装置。
9. The distance measuring device according to claim 8, wherein the updating means is a deviation before updating, of the deviation calculated by the first means and the deviation calculated by the second means. Distance measurement device that updates the deviation with a value closer to.
【請求項10】請求項8に記載の距離計測装置におい
て、 前記更新手段は、前記第1の手段により算出された偏差
と前記第2の手段により算出された偏差との中間値で偏
差を更新する距離計測装置。
10. The distance measuring device according to claim 8, wherein the updating means updates the deviation with an intermediate value between the deviation calculated by the first means and the deviation calculated by the second means. Distance measuring device.
【請求項11】前記偏差算出手段は、前記基準対象物に
対するその時々の視差と前記視差の標準値との偏差を、
補間計算を用いて画像の1画素未満まで算出する請求項
1〜10のいずれかに記載の距離計測装置。
11. The deviation calculation means calculates a deviation between a parallax at that time with respect to the reference object and a standard value of the parallax,
The distance measuring device according to any one of claims 1 to 10, which calculates less than one pixel of an image using interpolation calculation.
JP29280095A 1995-11-10 1995-11-10 Distance measuring device Expired - Fee Related JP3617709B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP29280095A JP3617709B2 (en) 1995-11-10 1995-11-10 Distance measuring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP29280095A JP3617709B2 (en) 1995-11-10 1995-11-10 Distance measuring device

Publications (2)

Publication Number Publication Date
JPH09133525A true JPH09133525A (en) 1997-05-20
JP3617709B2 JP3617709B2 (en) 2005-02-09

Family

ID=17786515

Family Applications (1)

Application Number Title Priority Date Filing Date
JP29280095A Expired - Fee Related JP3617709B2 (en) 1995-11-10 1995-11-10 Distance measuring device

Country Status (1)

Country Link
JP (1) JP3617709B2 (en)

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002094977A (en) * 2000-09-14 2002-03-29 Fujitsu Ten Ltd Image processing unit
JP2003083742A (en) * 2001-09-13 2003-03-19 Fuji Heavy Ind Ltd Distance correction apparatus and method of monitoring system
KR100576526B1 (en) * 1997-01-09 2007-07-09 후지 덴키 가부시끼가이샤 Distance measuring device
JP2009014445A (en) * 2007-07-03 2009-01-22 Konica Minolta Holdings Inc Range finder
WO2009098864A1 (en) * 2008-02-05 2009-08-13 Panasonic Corporation Distance measuring apparatus and distance measuring method
JP2012058188A (en) * 2010-09-13 2012-03-22 Ricoh Co Ltd Calibration device, distance measurement system, calibration method, and calibration program
JP2012078147A (en) * 2010-09-30 2012-04-19 Honda Motor Co Ltd Optical axis inspection method and optical axis inspection device of on-vehicle camera
JP2012083330A (en) * 2010-09-14 2012-04-26 Ricoh Co Ltd Stereo camera device, calibration method and program
CN104729458A (en) * 2015-03-25 2015-06-24 北京航天控制仪器研究所 Novel distance measuring instrument based on thermal filed bunching effect
JP2015207090A (en) * 2014-04-18 2015-11-19 キヤノン株式会社 Image processor, and control method thereof
JP2015232456A (en) * 2014-06-09 2015-12-24 株式会社神戸製鋼所 Train detector
WO2016203989A1 (en) * 2015-06-17 2016-12-22 ソニー株式会社 Image processing device and image processing method
JP2018508853A (en) * 2015-01-16 2018-03-29 イムラ ウーロプ ソシエテ・パ・アクシオンス・シンプリフィエ Stereo camera self-adjustment
WO2018139297A1 (en) * 2017-01-27 2018-08-02 日立オートモティブシステムズ株式会社 Camera device
WO2018147340A1 (en) * 2017-02-09 2018-08-16 株式会社小松製作所 Position measurement system, work machine, and position measurement method
JP2018200722A (en) * 2018-08-29 2018-12-20 キヤノン株式会社 Image processing apparatus and control method therefor, program, and recording medium
JPWO2019003771A1 (en) * 2017-06-26 2020-02-27 日立オートモティブシステムズ株式会社 Imaging device
WO2022163216A1 (en) * 2021-01-27 2022-08-04 ソニーグループ株式会社 Moving body, information processing method, and program

Cited By (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100576526B1 (en) * 1997-01-09 2007-07-09 후지 덴키 가부시끼가이샤 Distance measuring device
JP2002094977A (en) * 2000-09-14 2002-03-29 Fujitsu Ten Ltd Image processing unit
JP2003083742A (en) * 2001-09-13 2003-03-19 Fuji Heavy Ind Ltd Distance correction apparatus and method of monitoring system
JP2009014445A (en) * 2007-07-03 2009-01-22 Konica Minolta Holdings Inc Range finder
US8284381B2 (en) 2008-02-05 2012-10-09 Panasonic Corporation Distance measuring apparatus and distance measuring method
WO2009098864A1 (en) * 2008-02-05 2009-08-13 Panasonic Corporation Distance measuring apparatus and distance measuring method
JP4510928B2 (en) * 2008-02-05 2010-07-28 パナソニック株式会社 Ranging device
JPWO2009098864A1 (en) * 2008-02-05 2011-05-26 パナソニック株式会社 Ranging device
WO2012035983A1 (en) * 2010-09-13 2012-03-22 Ricoh Company, Ltd. A calibration apparatus, a distance measurement system, a calibration method and a calibration program
CN102612634A (en) * 2010-09-13 2012-07-25 株式会社理光 A calibration apparatus, a distance measurement system, a calibration method and a calibration program
JP2012058188A (en) * 2010-09-13 2012-03-22 Ricoh Co Ltd Calibration device, distance measurement system, calibration method, and calibration program
US9299153B2 (en) 2010-09-13 2016-03-29 Ricoh Company, Ltd. Calibration apparatus, a distance measurement system, a calibration method and a calibration program
JP2012083330A (en) * 2010-09-14 2012-04-26 Ricoh Co Ltd Stereo camera device, calibration method and program
US20120236125A1 (en) * 2010-09-14 2012-09-20 Yuko Umezawa Stereo camera device, correction method, and program
US9170103B2 (en) * 2010-09-14 2015-10-27 Ricoh Company, Ltd. Stereo camera device, correction method, and program
JP2012078147A (en) * 2010-09-30 2012-04-19 Honda Motor Co Ltd Optical axis inspection method and optical axis inspection device of on-vehicle camera
JP2015207090A (en) * 2014-04-18 2015-11-19 キヤノン株式会社 Image processor, and control method thereof
JP2015232456A (en) * 2014-06-09 2015-12-24 株式会社神戸製鋼所 Train detector
JP2018508853A (en) * 2015-01-16 2018-03-29 イムラ ウーロプ ソシエテ・パ・アクシオンス・シンプリフィエ Stereo camera self-adjustment
CN104729458A (en) * 2015-03-25 2015-06-24 北京航天控制仪器研究所 Novel distance measuring instrument based on thermal filed bunching effect
WO2016203989A1 (en) * 2015-06-17 2016-12-22 ソニー株式会社 Image processing device and image processing method
WO2018139297A1 (en) * 2017-01-27 2018-08-02 日立オートモティブシステムズ株式会社 Camera device
JP2018119910A (en) * 2017-01-27 2018-08-02 日立オートモティブシステムズ株式会社 Camera device
WO2018147340A1 (en) * 2017-02-09 2018-08-16 株式会社小松製作所 Position measurement system, work machine, and position measurement method
JP2018128397A (en) * 2017-02-09 2018-08-16 株式会社小松製作所 Position measurement system, work machine, and position measurement method
US11120577B2 (en) 2017-02-09 2021-09-14 Komatsu Ltd. Position measurement system, work machine, and position measurement method
JPWO2019003771A1 (en) * 2017-06-26 2020-02-27 日立オートモティブシステムズ株式会社 Imaging device
JP2018200722A (en) * 2018-08-29 2018-12-20 キヤノン株式会社 Image processing apparatus and control method therefor, program, and recording medium
WO2022163216A1 (en) * 2021-01-27 2022-08-04 ソニーグループ株式会社 Moving body, information processing method, and program

Also Published As

Publication number Publication date
JP3617709B2 (en) 2005-02-09

Similar Documents

Publication Publication Date Title
JP3617709B2 (en) Distance measuring device
US6381360B1 (en) Apparatus and method for stereoscopic image processing
JP3436074B2 (en) Car stereo camera
US20160379066A1 (en) Method and Camera System for Distance Determination of Objects from a Vehicle
JP2009014445A (en) Range finder
US20170028917A1 (en) Driving assistance device and driving assistance method
JP3296055B2 (en) Distance detection device using in-vehicle camera
JP3961584B2 (en) Lane marking detector
KR20200118073A (en) System and method for dynamic three-dimensional calibration
JPH07119606B2 (en) Tracking inter-vehicle distance detector
JP2644092B2 (en) Automotive location equipment
JP6549932B2 (en) Stereo image processing device
JP2003259357A (en) Calibration method for camera and attachment of camera
US11477371B2 (en) Partial image generating device, storage medium storing computer program for partial image generation and partial image generating method
JP6521796B2 (en) Stereo image processing device
JP4328173B2 (en) Car navigation system
JP7207889B2 (en) Range finder and in-vehicle camera system
JP5580062B2 (en) Obstacle detection alarm device
JP2635232B2 (en) Inter-vehicle distance detection device
CN111611964A (en) Distance detection method and device
JPH09126759A (en) Range finding method by on-vehicle camera and range finder using the camera
JP3125836B2 (en) Vehicle periphery monitoring device
JP3373331B2 (en) Inter-vehicle distance detection device
JP2019016005A (en) Lane recognition device
JP2001012945A (en) Distance detecting device

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040608

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040721

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040824

A521 Written amendment

Effective date: 20040922

Free format text: JAPANESE INTERMEDIATE CODE: A523

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041102

A61 First payment of annual fees (during grant procedure)

Effective date: 20041104

Free format text: JAPANESE INTERMEDIATE CODE: A61

R150 Certificate of patent (=grant) or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (prs date is renewal date of database)

Year of fee payment: 6

Free format text: PAYMENT UNTIL: 20101119

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111119

Year of fee payment: 7

FPAY Renewal fee payment (prs date is renewal date of database)

Year of fee payment: 7

Free format text: PAYMENT UNTIL: 20111119

FPAY Renewal fee payment (prs date is renewal date of database)

Year of fee payment: 8

Free format text: PAYMENT UNTIL: 20121119

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131119

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees