JPH07306037A - Solid object region detector, measuring instrument of distance to solid object region, and their detection and measurement method - Google Patents

Solid object region detector, measuring instrument of distance to solid object region, and their detection and measurement method

Info

Publication number
JPH07306037A
JPH07306037A JP6097536A JP9753694A JPH07306037A JP H07306037 A JPH07306037 A JP H07306037A JP 6097536 A JP6097536 A JP 6097536A JP 9753694 A JP9753694 A JP 9753694A JP H07306037 A JPH07306037 A JP H07306037A
Authority
JP
Japan
Prior art keywords
image
road surface
parallax
difference
dimensional object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP6097536A
Other languages
Japanese (ja)
Other versions
JP3501841B2 (en
Inventor
Katsuyuki Imanishi
勝之 今西
Takashi Naoi
孝 直井
Hiroyuki Kani
博之 可児
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Soken Inc
Original Assignee
Nippon Soken Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Soken Inc filed Critical Nippon Soken Inc
Priority to JP09753694A priority Critical patent/JP3501841B2/en
Publication of JPH07306037A publication Critical patent/JPH07306037A/en
Application granted granted Critical
Publication of JP3501841B2 publication Critical patent/JP3501841B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

PURPOSE:To simply extract a solid object region with a less amount of operation without using a coordinate table by providing an depression angle detection means for detecting the depression angle of a stereo image pick-up means for a road surface. CONSTITUTION:A stereo image pick-up means 2 consists of two image pick-up means 21 and 22 placed at a traveling body such as a vehicle. A depression angle detection means 5 detects the depression angle of the image pick-up means 2 for a road surface. A road surface parallax operation means 6 calculates parallax Rs on an image screen from the depression angle. A visual difference adjustment image creation means 9 shifts an image in a vertical direction at each scanning so that a parallax Rs can be canceled in the image of the image pick-up means 21. A difference image creation means 10 calculates the difference between the adjustment image and the image of an image pick-up means 22 and creates a differential image. A solid object region detection means 11 detects a solid object region from the differential image. In this manner, a differential image is created using the parallax Rs and a solid object region can be extracted efficiently.

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【産業上の利用分野】本発明は、立体物領域検出装置お
よびその検出方法更には、立体物領域迄の距離測定装置
及びその測定方法に関するものでであり、更に詳しくは
車両等の移動体に於ける画像処理に於いて、前方の物体
の距離分布や走行路を検出するに際し、計算量を減少さ
せると同時に高精度に検出する事の出来る立体物領域検
出装置及び立体物領域迄の距離測定装置に関するもので
ある。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a three-dimensional object area detecting apparatus and its detecting method, and more particularly to a distance measuring apparatus to the three-dimensional object area and its measuring method, and more particularly to a moving body such as a vehicle. In the image processing in the image processing, when detecting the distance distribution of the object in front and the traveling path, the calculation amount is reduced and at the same time the three-dimensional object area detection device and the distance measurement to the three-dimensional object area can be detected with high accuracy It relates to the device.

【0002】[0002]

【従来の技術】従来から、車両等の移動体の安全走行の
為若しくは車両等の移動体の無人或いは自動走行を目的
として、ステレオ画像から画像処理を行い、立体物領域
を抽出する方法が知られている。係る公知の方法では、
例えば、道路平面方程式を算出して、一方の画像(第1
の画像)を道路平面に投影変換した後、更に他方の画像
(第2の画像)の位置にこれを投影した投影画像(第3
の画像)を作成し、道路面を第2と第3の画像に於いて
一致させる。
2. Description of the Related Art Conventionally, there has been known a method of performing image processing from a stereo image and extracting a three-dimensional object region for the safe traveling of a moving body such as a vehicle or for the purpose of unmanned or automatic traveling of a moving body such as a vehicle. Has been. In such known method,
For example, by calculating the road plane equation, one of the images (first
Image) is projected onto the road plane and then projected onto the position of the other image (second image).
Image), and the road surface is made to match in the second and third images.

【0003】そして、前記第2の画像と第3の画像とか
らその差分画像を作成して、道路面に関する画像部分を
消去させて、最後に残った差分量のある領域を立体物領
域として抽出する様にしたものである。係る投影変換方
法に於いては、予め座標変換テーブルを作成しておき、
一方の画像(第1の画像)の各データを、このテーブル
に記憶させておいた座標に配置するか、或いはかかる投
影変換処理を演算によって実行する事で実現しているも
のである。
Then, a difference image is created from the second image and the third image, the image portion relating to the road surface is erased, and the last remaining area having the difference amount is extracted as a three-dimensional object area. It is something that I have done. In this projection conversion method, a coordinate conversion table is created in advance,
This is realized by arranging each data of one image (first image) at the coordinates stored in this table, or by executing such projection conversion processing by calculation.

【0004】[0004]

【発明が解決しようとする課題】然しながら、係る従来
の方法に於いては、座標変換テーブルを記憶しておく為
に所定のメモリが必要であり、又道路面方程式が変化し
た時の為の座標変換テーブルまで用意するとなると、メ
モリの量がかなり必要となり、コストアップに繋がる事
になる。
However, in such a conventional method, a predetermined memory is required to store the coordinate conversion table, and the coordinates for changing the road surface equation are required. If a conversion table is prepared, a large amount of memory will be required, leading to an increase in cost.

【0005】一方、係る座標変換を計算によって行う場
合には、その計算量は非常に多くなり、演算処理効率或
いは演算処理能力の低下を来す事になる。本発明の目的
は、上記した従来技術の欠点を改良し、座標テーブルを
使用せずに、少ない演算量で簡単に立体物領域の抽出処
理を実現する立体物領域検出装置或いは立体物領域迄の
距離測定装置を提供するものである。
On the other hand, when such coordinate conversion is performed by calculation, the amount of calculation becomes very large, resulting in a decrease in calculation processing efficiency or calculation processing capacity. The object of the present invention is to improve the above-mentioned drawbacks of the prior art, and to realize a solid object area detecting device or a solid object area that easily realizes extraction processing of a solid object area with a small amount of calculation without using a coordinate table. A distance measuring device is provided.

【0006】[0006]

【課題を解決するための手段】本発明は上記した目的を
達成するため、以下に記載されたような技術構成を採用
するものである。即ち、本発明に於ける第1の態様とし
ては、移動体に搭載された、2個の画像撮像手段から構
成され、前記各撮像手段は、互いに平行で且つ路面に平
行に配置されると共に、然かも前記各撮像手段で得られ
た画像間に所定の視差が発生する様に、互いに所定の間
隔を隔てて配置されており、更に画像の走査線方向が、
前記視差発生方向と一致する様に構成されているステレ
オ画像撮像手段と、道路面に対する前記ステレオ画像撮
像手段の俯角を検出する俯角検出手段と、前記俯角より
前記画像画面上に於ける道路面視差を演算する道路面視
差演算手段と、前記ステレオ画像検出手段により撮像さ
れた一方の画像に於いて、前記道路面視差を打ち消す様
に、前記画像に於ける垂直方向の走査毎に、前記視差が
発生する方向に、前記画像情報を前記道路面視差分ずつ
ずらせながら、道路面視差分調整画像を作成する道路面
視差分調整画像作成手段と、係る道路面視差分調整画像
と前記したステレオ画像検出手段により撮像された他方
の画像との差分を演算して差分画像を作成する差分画像
作成手段及び前記差分画像から立体物領域を検出する立
体物領域検出手段とから構成されている立体物領域検出
装置であり、又、第2の態様としては、移動体に搭載さ
れた、2個の撮像手段から構成され、前記各撮像手段
は、互いに平行で且つ路面に平行に配置されると共に、
然かも前記各撮像手段で得られた画像間に所定の視差が
発生する様に、互いに所定の間隔を隔てて配置されてお
り、更に画像の走査線方向が、前記視差発生方向と一致
する様に構成されているステレオ画像撮像手段と、道路
面に対する前記ステレオ画像撮像手段の俯角を検出する
俯角検出手段と、前記俯角より前記画像画面上に於ける
道路面視差を演算する道路面視差演算手段と、前記ステ
レオ画像検出手段により撮像された一方の画像に於い
て、前記道路面視差を打ち消す様に、前記画像に於ける
垂直方向の走査毎に、前記視差が発生する方向に、前記
画像情報を前記道路面視差分ずつずらせながら、道路面
視差分調整画像を作成する道路面視差分調整画像作成手
段と、係る道路面視差分調整画像と前記したステレオ画
像検出手段により撮像された他方の画像との差分を演算
して差分画像を作成する差分画像作成手段と、前記差分
画像から立体物領域を検出する立体物領域検出手段と、
前記検出された立体物領域に付いて相関演算により前記
立体物領域迄の距離を解析する距離解析手段と、距離解
析手段により出力された距離情報を評価して、信頼性の
ある距離情報を選択して出力する距離算出手段とから構
成されている立体物領域迄の距離測定装置である。
In order to achieve the above-mentioned object, the present invention adopts the technical constitution as described below. That is, as a first aspect of the present invention, it is composed of two image pickup means mounted on a moving body, and the respective pickup means are arranged in parallel with each other and in parallel with a road surface, and Of course, they are arranged at a predetermined interval from each other so that a predetermined parallax occurs between the images obtained by the respective image pickup means, and the scanning line direction of the images is
Stereo image capturing means configured to match the parallax generation direction, depression angle detecting means for detecting a depression angle of the stereo image capturing means with respect to a road surface, and road surface parallax on the image screen from the depression angle. In the one image captured by the road surface parallax calculating means and the stereo image detecting means, the parallax is calculated for each vertical scanning in the image so as to cancel the road surface parallax. A road surface difference adjustment image creating means for creating a road surface difference adjustment image while shifting the image information by the road surface difference by the image generation direction, and the road surface difference adjustment image and the stereo image detection. Difference image creating means for creating a difference image by calculating a difference from the other image captured by the means, and three-dimensional object area detecting means for detecting a three-dimensional object area from the difference image. In a second aspect, the three-dimensional object area detection device is composed of two image pickup means mounted on a moving body, and the image pickup means are parallel to each other and on a road surface. While being arranged in parallel,
Of course, they are arranged at a predetermined distance from each other so that a predetermined parallax is generated between the images obtained by the respective image pickup means, and the scanning line direction of the images matches the parallax generation direction. Stereo image pickup means, a depression angle detection means for detecting a depression angle of the stereo image pickup means with respect to a road surface, and a road surface parallax calculation means for calculating a road surface parallax on the image screen from the depression angle. And, in one of the images captured by the stereo image detecting means, the image information is set in a direction in which the parallax occurs in each vertical scanning in the image so as to cancel the road surface parallax. While shifting the road surface difference by the road surface difference, a road surface difference adjustment image creating means for creating a road surface difference adjustment image, and the road surface difference adjustment image and the stereo image detecting means A difference image creating means for creating a difference image by calculating a difference between the other images, a three-dimensional object area detecting means for detecting a solid object region from the difference image,
Distance detection means for analyzing the distance to the three-dimensional object area by correlation calculation for the detected three-dimensional object area, and distance information output by the distance analysis means are evaluated to select reliable distance information. A distance measuring device to a three-dimensional object area, which is composed of a distance calculating means for outputting the same.

【0007】[0007]

【作用】本発明に係る立体物領域検出装置或いは立体物
領域迄の距離測定装置及びそれらの方法は、上記した様
な技術構成を有しているので、従来の方法に比べて座標
変換テーブルを使用しない事から演算処理操作が容易簡
便となり、又演算処理回路も少なくてすむ事から、低コ
ストで高速の検出結果をうる事が可能となる。
Since the three-dimensional object region detecting apparatus or the distance measuring apparatus to the three-dimensional object area and the methods thereof according to the present invention have the above-described technical configurations, a coordinate conversion table is used as compared with the conventional method. Since it is not used, the arithmetic processing operation is easy and simple, and since the number of arithmetic processing circuits is small, it is possible to obtain a high-speed detection result at low cost.

【0008】つまり、本発明に於いては、従来の方法と
は異なり、道路面の視差は画面の垂直方向に連続的に変
化するが、立体物に対する視差は同一物体では一定であ
るという知見に基づいて、画像処理に際して所定の画像
に於ける垂直走査時の走査位置毎に、その走査位置毎の
画像データを前記道路面視差を打ち消す様な方向に、視
差方向と同一方向に所定の量だけ移動させる事により、
差分画像を作成し、係る差分画像から立体物領域を高速
度に検出する様にしたものである。
That is, according to the present invention, unlike the conventional method, the parallax on the road surface continuously changes in the vertical direction of the screen, but the parallax for a three-dimensional object is constant for the same object. Based on this, at the time of image processing, for each scanning position in vertical scanning in a predetermined image, the image data for each scanning position is moved by a predetermined amount in the same direction as the parallax direction in such a direction as to cancel the road surface parallax. By moving
A difference image is created and a three-dimensional object area is detected at high speed from the difference image.

【0009】[0009]

【実施例】以下に、本発明に係る立体物領域検出装置の
一具体例の構成を図面を参照しながら詳細に説明する。
図1及び図2は、本発明に係る立体物領域検出装置に於
けるステレオ画像撮像手段の構成とその取付け状態を示
す図であり、又図3は、本発明に係る立体物領域検出装
置の構成の概略を示すブロックダイアグラムである。
DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS The structure of a concrete example of a three-dimensional object region detecting apparatus according to the present invention will be described below in detail with reference to the drawings.
FIG. 1 and FIG. 2 are diagrams showing a configuration and a mounting state of a stereo image capturing means in a three-dimensional object area detecting device according to the present invention, and FIG. 3 is a three-dimensional object area detecting device according to the present invention. It is a block diagram which shows the outline of a structure.

【0010】即ち、図1から図3に於いて、車両等の移
動体1に搭載された、2個の画像撮像手段21、22か
ら構成され、前記各撮像手段21、22は、互いにその
光軸R1、R2が平行で且つ路面3に平行に配置される
と共に、然かも前記各撮像手段21、22で得られた画
像間に所定の視差sが発生する様に、互いに所定の間隔
mを隔てて配置されている。
That is, in FIG. 1 to FIG. 3, it is composed of two image pickup means 21 and 22 mounted on a moving body 1 such as a vehicle, and each of the image pickup means 21 and 22 has its own optical signal. The axes R1 and R2 are arranged parallel to each other and parallel to the road surface 3, and a predetermined distance m is set between them so that a predetermined parallax s is generated between the images obtained by the image pickup means 21 and 22. It is arranged apart.

【0011】更に画像の走査線方向が、前記視差発生方
向と一致する様に構成されているステレオ画像撮像手段
2と、道路面3に対する前記ステレオ画像撮像手段2の
俯角θを検出する俯角検出手段5と、前記俯角より前記
画像画面上に於ける道路面視差Rsを演算する道路面視
差演算手段6と、前記ステレオ画像検出手段2に於ける
第1の画像撮像手段21により撮像された一方の画像7
に於いて、前記道路面視差Rsを打ち消す様に、前記画
像7に於ける垂直方向の走査毎に、前記視差sが発生す
る方向に、前記画像情報をその時点における前記道路面
視差Rs分ずつずらせながら、道路面視差分調整画像を
作成する道路面視差分調整画像作成手段9と、係る道路
面視差分調整画像と前記ステレオ画像検出手段22によ
り撮像された他方の画像8との差分を演算して差分画像
を作成する差分画像作成手段10及び前記差分画像から
立体物領域を検出する立体物領域検出手段11とから構
成されている立体物領域検出装置が示されている。
Furthermore, the scanning line direction of the image is configured so that the parallax generation direction coincides with the stereo image pickup means 2, and the depression angle detection means for detecting the depression angle θ of the stereo image pickup means 2 with respect to the road surface 3. 5, a road surface parallax calculating means 6 for calculating the road surface parallax Rs on the image screen from the depression angle, and one of the images picked up by the first image pick-up means 21 in the stereo image detecting means 2. Image 7
In order to cancel the road surface parallax Rs, the image information is divided by the road surface parallax Rs at that point in the direction in which the parallax s occurs every time the image 7 is scanned in the vertical direction. While shifting, the road view difference adjustment image creating means 9 for creating the road view difference adjustment image and the difference between the road view difference adjustment image and the other image 8 imaged by the stereo image detecting means 22 are calculated. There is shown a three-dimensional object area detecting device including a difference image creating means 10 for creating a difference image and a three-dimensional object area detecting means 11 for detecting a three-dimensional object area from the difference image.

【0012】本発明に於ける前記ステレオ画像撮像手段
2は、通常は、公知の画像撮像手段21、22を採用す
る事が出来、その一般的な構成例は、図2に示す様に、
焦点距離fを有するレンズ23と前記レンズ23に対向
して配置されたCCD等から構成される光検知素子24
とから構成されるものであり、それぞれの光軸R1とR
2とは、互いに平行でカメラ基線長mだけ離れて配置さ
れていると共に、道路面に対しても平行となる様に配置
されているものである。
As the stereo image pickup means 2 in the present invention, generally known image pickup means 21 and 22 can be adopted, and a general configuration example thereof is as shown in FIG.
A light detecting element 24 composed of a lens 23 having a focal length f and a CCD or the like arranged facing the lens 23.
And the respective optical axes R1 and R
The reference numerals 2 are parallel to each other and are separated from each other by a camera base length m, and are also parallel to the road surface.

【0013】係る構成に於いては、通常の視差sは、前
記カメラ基線長の方向に発生する。本発明に於ける前記
ステレオ画像撮像手段2に於いては、例えば、図2の左
側の画像撮像手段21により、図4に示される様な画像
7が撮像され、又図2の右側の画像撮像手段22によ
り、図5に示される様な画像8が撮像され、両画像が合
成される事によりステレオ画像が形成される事になる。
In such a structure, the normal parallax s occurs in the direction of the camera base line length. In the stereo image capturing means 2 in the present invention, for example, the image capturing means 21 on the left side of FIG. 2 captures the image 7 as shown in FIG. 4, and the image capturing on the right side of FIG. The means 22 captures the image 8 as shown in FIG. 5, and both images are combined to form a stereo image.

【0014】又、本発明に於ける立体物領域検出装置に
於いては、俯角検出手段5が設けられており、当該ステ
レオ画像撮像手段2と道路面3に対する俯角θを検出す
る。係る俯角検出手段5の構成は特に限定されるもので
はなく、従来一般的に使用されている俯角測定方法を使
用する事が出来る。一方、本発明に於ける前記ステレオ
画像撮像手段2から得られる2つのステレオ画像から適
宜の差分画像を得る為に、本発明に於いては、道路面視
差Rsと言うパラメータを使用するものである。
Further, in the three-dimensional object area detecting device according to the present invention, the depression angle detecting means 5 is provided, and the depression angle θ with respect to the stereo image pickup means 2 and the road surface 3 is detected. The configuration of the depression angle detecting means 5 is not particularly limited, and a depression angle measuring method generally used in the past can be used. On the other hand, in order to obtain an appropriate difference image from the two stereo images obtained from the stereo image pickup means 2 in the present invention, a parameter called road surface parallax Rs is used in the present invention. .

【0015】即ち、本発明に於ける道路面視差Rsは、
以下の式1若しくは式2に示されるパラメータで有る。
本発明等の知見によれば、本装置の構成で発生する視差
は、前記ステレオ画像に於ける各撮像画像に於いて、道
路面3の視差は画面の垂直方向には連続的に変化してい
るが、道路上に設けられた立体物領域4の視差は同一の
物体に関する限り一定であることが判明したものであ
り、その為、前記したステレオ画像の画像処理に於い
て、かかる道路面視差Rsを利用して、所定の差分画像
を作成する事により、効率的に立体物領域の抽出が行わ
れる事を知得したものである。
That is, the road surface parallax Rs in the present invention is
It is a parameter shown in the following Expression 1 or Expression 2.
According to the knowledge of the present invention, the parallax generated by the configuration of the present device is that in each captured image in the stereo image, the parallax of the road surface 3 continuously changes in the vertical direction of the screen. However, it has been found that the parallax of the three-dimensional object region 4 provided on the road is constant as far as the same object is concerned. Therefore, in the image processing of the stereo image, the parallax of the road surface is It is known that a three-dimensional object region can be efficiently extracted by creating a predetermined difference image using Rs.

【0016】つまり、本発明に於いて定義される前記道
路面視差Rsは、次式(1)及び式(2)で示される様
に、画像の垂直位置によって変化するものである。即ち
道路面視差Rsは、画像上の任意の垂直位置をyとする
と垂直位置yの関数として変化するものであり、従って
係る道路面視差Rsは、画像を垂直方向に走査する毎に
変化するものである。
That is, the road surface parallax Rs defined in the present invention changes depending on the vertical position of the image as shown in the following equations (1) and (2). That is, the road surface parallax Rs changes as a function of the vertical position y, where y is an arbitrary vertical position on the image. Therefore, the road surface parallax Rs changes every time the image is scanned in the vertical direction. Is.

【0017】 y<Mの時 Rs=0 ・・・・・・・・・(1) y≧Mの時 Rs=m/h×(y−M)・・・(2) ここでM=y0 +k×f×tan(θ)で撮像画面に於
ける消失点Eの垂直位置、mは、左右の画像撮像手段2
1、22間の間隔(mm)、hは、ステレオ画像撮像装
置2の高さ(mm)、yは、画像上の垂直位置(do
t)、fは、撮像手段21、22の焦点距離(mm)、
0 は、画像の垂直中心位置(dot)、kは、任意の
係数、θは、当該ステレオ画像撮像手段2の道路面に対
する俯角、をそれぞれ示すものである。
When y <M, Rs = 0 ... (1) When y ≧ M, Rs = m / h × (y−M) (2) Here, M = y 0 + k × f × tan (θ) is the vertical position of the vanishing point E on the imaging screen, and m is the left and right image capturing means 2
The distance (mm) between 1 and 22, h is the height (mm) of the stereo image pickup device 2, and y is the vertical position (do) on the image.
t) and f are focal lengths (mm) of the image pickup means 21 and 22,
y 0 is the vertical center position (dot) of the image, k is an arbitrary coefficient, and θ is the depression angle of the stereo image capturing means 2 with respect to the road surface.

【0018】その為、本発明に於いては、例えば、前記
ステレオ画像撮像手段2に於ける一つの画像撮像手段2
1により撮像された図4に示す画像7に於ける垂直位置
y毎の画像データを、前記道路面視差Rsを打ち消す様
な方向、つまり視差sの方向に前記画像7に於ける垂直
方向の走査毎に、移動させる事によって、図7に示され
る様な道路面視差分調整画像11を作成するものであ
る。
Therefore, in the present invention, for example, one image pickup means 2 in the stereo image pickup means 2 is used.
Image data for each vertical position y in the image 7 shown in FIG. By moving each time, the road surface view difference adjustment image 11 as shown in FIG. 7 is created.

【0019】その為、本発明に於ける立体物領域検出装
置には、道路面視差分調整画像作成手段9が設けられて
いるものであって、係る道路面視差分調整画像作成手段
9は、例えば、係る道路面視差Rsを遅延量とする遅延
回路等で構成されるものである。本発明に於ける立体物
領域検出装置に於いては、上記により得られた図7に示
される道路面視差分調整画像11と前記したステレオ画
像検出手段2の他方の画像撮像手段22により撮像され
た他方の図5に示される画像8との差分を演算して図8
に示される様な差分画像12を作成するものであり、そ
の為、係る差分画像12を作成する為の差分画像作成手
段10が設けられている。
Therefore, the three-dimensional object area detecting device according to the present invention is provided with the road surface view difference adjustment image creating means 9, and the road surface view difference adjusting image creating means 9 is For example, it is composed of a delay circuit or the like having the road surface parallax Rs as a delay amount. In the three-dimensional object area detecting device according to the present invention, the road surface view difference adjustment image 11 shown in FIG. 7 obtained above and the other image capturing means 22 of the stereo image detecting means 2 are used for image capturing. 8 is calculated by calculating the difference from the other image 8 shown in FIG.
The differential image 12 as shown in FIG. 2 is created, and therefore, the differential image creating means 10 for creating the differential image 12 is provided.

【0020】係る差分画像作成手段10の構成は特に限
定されるものではなく、従来公知の差分画像作成手段、
方法を採用する事が可能である。本発明に於いては、か
くして得られた差分画像12を適宜の記憶手段に格納し
ておき、後述する立体物領域検出操作に利用するもので
ある。上記本発明に係る立体物領域検出装置に於いて
は、前記した道路面視差分調整画像作成手段9によっ
て、所定の画像7全体に前記した処理を実行して道路面
視差分調整画像11を作成し、図5に示された他方の撮
像画像8全体とから差分画像12を作成する様にしても
よく、又前記一方の画像7に対して、垂直方向yに走査
処理するに際して、1ライン走査する毎にその1ライン
分の画像情報を適宜の記憶手段30に格納させ、その1
ライン分の画像情報毎に道路面視差Rsを算出する回路
31を介して図5に示された他方の撮像画像8の同一ラ
イン毎の画像情報との間で上記した差分演算処理を実行
し、最終的に、図8に示される様な差分画像12を作成
する様にしたもので有ってもよい。
The structure of the difference image creating means 10 is not particularly limited, and a conventionally known difference image creating means,
It is possible to adopt the method. In the present invention, the difference image 12 thus obtained is stored in an appropriate storage means and used for a three-dimensional object area detecting operation described later. In the three-dimensional object region detecting apparatus according to the present invention, the road surface view difference adjustment image creating means 9 creates the road surface view difference adjustment image 11 by performing the above-described processing on the entire predetermined image 7. However, the difference image 12 may be created from the whole of the other picked-up image 8 shown in FIG. 5, and one line scan is performed for the one image 7 in the vertical direction y. Each time the image information for one line is stored in the appropriate storage means 30,
The difference calculation processing described above is executed between the image information of the same line of the other captured image 8 shown in FIG. 5 via the circuit 31 for calculating the road surface parallax Rs for each line of image information. Finally, the difference image 12 as shown in FIG. 8 may be created.

【0021】本発明に於いて、上記した差分画像作成手
段10により、前記した道路面視差分調整画像11と前
記した撮像画像8との差分をとる事によって、図8に示
す様に道路面に関する情報は消去され、立体物領域に関
する輪郭部分のみに付いての差分値情報が画面上に残る
事になる。上記した様に、本発明に於ける立体物領域検
出方法では、前記した様に道路面視差Rsを打ち消す様
に、画像情報を垂直方向の走査位置毎に、視差方向に移
動させるものであり、しかも遅延時間を可変する事が出
来る遅延回路を使用して実現したものであるので、回路
の構成が簡略化され、演算処理も高速化を達成出来るの
で、リアルタイムでの差分演算処理が可能となる。
In the present invention, the difference image creating means 10 described above calculates the difference between the road surface view difference adjustment image 11 and the picked-up image 8 to obtain the road surface as shown in FIG. The information is erased, and the difference value information about only the contour portion related to the three-dimensional object area remains on the screen. As described above, in the three-dimensional object region detection method according to the present invention, as described above, the image information is moved in the parallax direction at each vertical scanning position so as to cancel the road surface parallax Rs. Moreover, since it is realized by using a delay circuit that can vary the delay time, the circuit configuration is simplified and the calculation processing can be speeded up, so that the difference calculation processing can be performed in real time. .

【0022】本発明に係る立体物領域検出装置に於いて
は、車両等の移動体が、道路を走行するに際し、上下に
振動する事が多く、その為、ステレオ画像撮像手段2に
ピッチングが発生し、検出される俯角θが変化する事が
考えられる。係る場合には、適宜のピッチ量検出手段1
3を設け、係るピッチ量検出手段13が出力する検出さ
れたピッチ量に応答して、前記道路面視差分調整画像作
成手段9の遅延量を補正調整する事により、対処する事
が可能である。
In the three-dimensional object area detecting apparatus according to the present invention, a moving body such as a vehicle often vibrates up and down when traveling on a road. Therefore, pitching occurs in the stereo image pickup means 2. However, the detected depression angle θ may change. In this case, an appropriate pitch amount detecting means 1
3 is provided, and the delay amount of the road surface difference adjustment image creating unit 9 is corrected and adjusted in response to the detected pitch amount output by the pitch amount detecting unit 13 to cope with the problem. .

【0023】例えば、本発明に於いて、回転角速度検出
センサー等を設け、静止時のステレオ画像撮像手段2の
道路面3に対する俯角θと、回転角速度検出センサーの
出力を積分してステレオ画像撮像手段2のピッチ方向の
角度変位量を検出し、その結果得られた値を、前記の俯
角θに足し合わせる等の方法によって、当該ステレオ画
像撮像手段2の移動時に於ける消失点Eの垂直位置の変
化量を算出して、正確な消失点Eの垂直位置を確定させ
る事が可能となる。
For example, in the present invention, a rotational angular velocity detection sensor or the like is provided, and the depression angle θ of the stereo image capturing means 2 at rest with the road surface 3 and the output of the rotational angular velocity detection sensor are integrated to form a stereo image capturing means. The amount of angular displacement in the pitch direction 2 is detected, and the value obtained as a result is added to the depression angle θ to determine the vertical position of the vanishing point E when the stereo image capturing means 2 is moved. It is possible to calculate the amount of change and determine the correct vertical position of the vanishing point E.

【0024】このように、それぞれの画像処理に当たっ
て、消失点Eの正確な位置が判明すれば、前記した式
(1)及び式(2)から、正確な道路面視差Rsを求め
る事が出来るので、正確な立体物領域を抽出する事が可
能となる。更に、本発明に於いては、かくして求められ
た正確な立体物領域に対して、前記ステレオ画像撮像手
段2からの距離dを演算により求めるものである。
As described above, if the exact position of the vanishing point E is found in each image processing, the accurate road surface parallax Rs can be obtained from the above equations (1) and (2). It is possible to extract an accurate three-dimensional object area. Further, in the present invention, the distance d from the stereo image pickup means 2 is calculated by the calculation with respect to the accurate three-dimensional object area thus obtained.

【0025】本発明に於ける前記立体物領域に対する距
離dの演算方法は、特に特定されるものではなく、従来
の距離算出演算手段16及び適宜の評価解析手段15が
使用できる。本発明に於いては、係る距離の算出を正確
に行う為、例えば、前記ステレオ画像撮像を視差s発生
方向に微分して、左右画像の明るさの直流分を除去した
もの等を距離解析手段として使用し、前記した方法によ
り求められた立体物領域に付いて相関演算により視差を
算出し、その相関結果を評価して、最も良いデータを選
択して視差を求め、係る視差から前記立体物領域までの
距離を求める事により、正確な立体物領域迄の距離を算
出する事が出来る。
The method of calculating the distance d with respect to the three-dimensional object area in the present invention is not particularly specified, and the conventional distance calculation calculating means 16 and appropriate evaluation analyzing means 15 can be used. In the present invention, in order to accurately calculate the distance, for example, the stereo image pickup is differentiated in the parallax s generation direction to remove the direct current component of the brightness of the left and right images, and the like. , The parallax is calculated by the correlation calculation for the three-dimensional object area obtained by the method described above, the correlation result is evaluated, the best data is selected to obtain the parallax, and the three-dimensional object is obtained from the parallax. By obtaining the distance to the area, the accurate distance to the three-dimensional object area can be calculated.

【0026】又、前記立体物領域の複数個の位置に対す
る距離を上記の方法で演算する事により、立体物領域に
対する距離の分布を求める事が可能となる。本発明に於
いては、更に前記立体物領域として検出された領域が、
移動体が走行する走行道路上に存在しているか否かを判
断する必要があり、その為、前記した方法で求められた
立体物領域以外の領域を走行路検出領域データとして使
用し、走行路を検出する走行路領域検出手段14が更に
設けられている事が望ましい。
By calculating the distances to a plurality of positions of the three-dimensional object area by the above method, it is possible to obtain the distribution of the distances to the three-dimensional object area. In the present invention, the area further detected as the three-dimensional object area,
It is necessary to judge whether or not the moving body is present on the traveling road. Therefore, the area other than the three-dimensional object area obtained by the above method is used as the traveling road detection area data, and the traveling road is detected. It is desirable that a traveling road area detecting means 14 for detecting the is further provided.

【0027】係る走行路領域は、走行路を含んだ路面の
みのデータであり、走行路を検出するに十分な情報量を
有している反面、余分な立体物領域のデータが含まれて
いない為、処理データ量が少なく、従って高速化が可能
であり、且つより正確な検出が可能となる。図9は、本
発明に係る立体物領域迄の距離測定装置の一具体例の構
成例を示すブロックダイアグラムであり、図3に示され
る本発明に係る立体物領域検出装置に走行路検出手段1
4と、評価解析手段15及び距離演算手段16とが付加
されているものである。
The traveling road area is data of only the road surface including the traveling road, and has a sufficient amount of information for detecting the traveling road, but does not include data of an extra three-dimensional object area. Therefore, the amount of processed data is small, and therefore the speed can be increased and more accurate detection can be performed. FIG. 9 is a block diagram showing a configuration example of a specific example of the distance measuring apparatus to the three-dimensional object area according to the present invention. The three-dimensional object area detecting apparatus according to the present invention shown in FIG.
4, the evaluation analysis means 15 and the distance calculation means 16 are added.

【0028】図10は、本発明に於ける立体物領域検出
方法の一具体例に於ける操作手順を示すフローチャート
である。即ち、図9に於いて、スタート後、ステップ
(1)に於いて、図1乃至図3に示されたステレオ画像
撮像手段2を使用してステレオ画像7及び8を撮像する
と共に、ステップ(2)に於いて、道路面3に対する前
記ステレオ画像撮像手段の俯角θを検出し、ステップ
(3)に於いて前記ステップで検出された俯角と、前記
した2個の撮像手段21、22の配置間隔m、前記ステ
レオ画像撮像手段2の高さh、及び現在の画像上の走査
位置y、y0 とに関する情報から、前記画像画面上に於
ける道路面視差Rsを演算する。
FIG. 10 is a flow chart showing an operation procedure in a specific example of the method for detecting a three-dimensional object region according to the present invention. That is, in FIG. 9, after the start, in step (1), the stereo images 7 and 8 are captured using the stereo image capturing means 2 shown in FIGS. ), The depression angle θ of the stereo image pickup means with respect to the road surface 3 is detected, and the depression angle detected in the step in step (3) and the arrangement interval between the two pickup means 21 and 22 described above. The road surface parallax Rs on the image screen is calculated from m, the height h of the stereo image pickup means 2, and the information about the scanning positions y and y 0 on the current image.

【0029】次いで、ステップ(4)に於いて、前記ス
テレオ画像検出手段により撮像された一方の画像7に於
ける、前記道路面視差Rsを打ち消す様に、前記画像7
に於ける垂直方向の走査毎に、前記視差sが発生する方
向に、前記画像情報を前記道路面視差Rs分ずつずらせ
ながら、道路面視差分調整画像11を作成する。その
後、ステップ(5)に移り、係る道路面視差分調整画像
11と前記したステレオ画像検出手段22により撮像さ
れた他方の画像8との差分を演算して差分画像12を作
成した後、ステップ(6)に進んで、前記差分画像12
から立体物領域4を検出してENDとなる。
Next, in step (4), the image 7 is so arranged as to cancel the road surface parallax Rs in the one image 7 taken by the stereo image detecting means.
The road surface view difference adjustment image 11 is created by shifting the image information by the road surface parallax Rs in the direction in which the parallax s occurs each time the vertical scanning is performed. Then, the process proceeds to step (5), the difference between the road surface difference adjustment image 11 and the other image 8 captured by the stereo image detecting means 22 is calculated to create the difference image 12, and then the step ( Proceeding to 6), the difference image 12
Then, the three-dimensional object area 4 is detected to become END.

【0030】一方、本発明に於ける立体物領域迄の距離
測定方法の一具体例の手順を図11のフローチャートに
示す。即ち、スタート後ステップ(1)に於いて、図1
乃至図3に示されたステレオ画像撮像手段2を使用して
ステレオ画像7及び8を撮像すると共に、ステップ
(2)に於いて、道路面3に対する前記ステレオ画像撮
像手段の俯角θを検出し、ステップ(3)に於いて、ピ
ッチの有無が判断され、NOであれば、直接ステップ
(4)に進み前記ステップで検出された俯角と、前記し
た2個の撮像手段21、22の配置間隔m、前記ステレ
オ画像撮像手段2の高さh、及び現在の画像上の走査位
置y、y0 とに関する情報から、前記画像画面上に於け
る道路面視差Rsを演算するが、YES、即ちピッチが
存在すると判断された場合には、ステップ(5)に進ん
で道路面視差Rs補正データを算出し、ステップ(4)
に戻って道路面視差Rsを演算する。
On the other hand, the procedure of one specific example of the method for measuring the distance to the three-dimensional object region in the present invention is shown in the flowchart of FIG. That is, in step (1) after the start, as shown in FIG.
Through the stereo image capturing means 2 shown in FIG. 3 to capture the stereo images 7 and 8, and in step (2), the depression angle θ of the stereo image capturing means with respect to the road surface 3 is detected. In step (3), the presence or absence of a pitch is judged, and if NO, the process directly proceeds to step (4) and the depression angle detected in the step and the arrangement interval m between the two image pickup means 21 and 22 described above. , The height h of the stereo image pickup means 2 and the information about the scanning positions y and y 0 on the current image, the road surface parallax Rs on the image screen is calculated, but YES, that is, the pitch is If it is determined that the road surface parallax Rs correction data is calculated, the process proceeds to step (5), and step (4) is performed.
Then, the road surface parallax Rs is calculated.

【0031】次いで、ステップ(6)に於いて、前記ス
テレオ画像検出手段により撮像された一方の画像7に於
ける、前記道路面視差Rsを打ち消す様に、前記画像7
に於ける垂直方向の走査毎に、前記視差sが発生する方
向に、前記画像情報を前記道路面視差Rs分ずつずらせ
ながら、道路面視差分調整画像11を作成する。その
後、ステップ(7)に移り、係る道路面視差分調整画像
11と前記したステレオ画像検出手段22により撮像さ
れた他方の画像8との差分を演算して差分画像12を作
成した後、ステップ(8)に進んで、前記差分画像12
から立体物領域4を検出する。
Next, in step (6), the image 7 is so arranged as to cancel the road surface parallax Rs in the one image 7 picked up by the stereo image detecting means.
The road surface view difference adjustment image 11 is created by shifting the image information by the road surface parallax Rs in the direction in which the parallax s occurs each time the vertical scanning is performed. Then, the process proceeds to step (7), the difference between the road surface difference adjustment image 11 and the other image 8 captured by the stereo image detecting means 22 is calculated to create the difference image 12, and then the step ( 8), the difference image 12
Then, the three-dimensional object area 4 is detected.

【0032】次いで、ステップ(9)に於いて、ステッ
プ(8)で得られた立体物領域4に対する相関演算と評
価処理を実行し、ステップ(10)に進んで、ステップ
(9)で得られた評価を活用して、公知の距離演算方法
により係る立体物領域迄の距離を演算する。次いでステ
ップ(11)に於いて、係る立体物領域4が、走行路上
に存在するか否かを判断し、YESであれば、ステップ
(12)に於いて、その立体物領域を障害物と判断し、
又NOであればステップ(13)に於いて、その立体物
領域を非障害物と判断し、ENDとなる。
Next, in step (9), the correlation calculation and evaluation processing for the three-dimensional object area 4 obtained in step (8) are executed, and the process proceeds to step (10) to obtain in step (9). Utilizing such evaluation, the distance to the three-dimensional object region is calculated by a known distance calculation method. Next, in step (11), it is determined whether or not the three-dimensional object region 4 exists on the traveling road. If YES, the three-dimensional object region is determined to be an obstacle in step (12). Then
On the other hand, if NO, then in step (13), the three-dimensional object area is judged to be a non-obstacle, and END is set.

【0033】次に、本発明に係る上記具体例に於ける立
体物領域迄の距離を演算する為に、視差sを求め、当該
視差sから、当該立体物領域迄の距離を演算する具体的
方法の例を以下に説明する。即ち、本発明に於いては、
先ず2つの異なる視点から得られた画像情報に於ける輝
度情報を用いて、2つの輝度情報群中の計測対象物間に
於ける位置ずれ、即ち視差を求めるものであって、その
方法の一つとして、上記した相関演算がある。
Next, in order to calculate the distance to the three-dimensional object area in the above concrete example of the present invention, the parallax s is obtained, and the distance from the parallax s to the three-dimensional object area is calculated. An example of the method is described below. That is, in the present invention,
First, by using the luminance information in the image information obtained from two different viewpoints, the positional shift between the measurement objects in the two luminance information groups, that is, the parallax is obtained. One of them is the above-mentioned correlation calculation.

【0034】該相関演算方法は、上記した様に、画像デ
ータから視差を求めるものであって、例えば、図12
(A)と図12(B)に示される様な、左右画像、即
ち、図12(A)は左側撮像装置により得られた画像で
あり、又図12(B)は右側撮像装置により得られた画
像であるとすると、先ず図12(B)に示す様に同図の
右側撮像画像について相関計算を行う領域単位(縦hド
ット、横wドット)に分割する。
As described above, the correlation calculation method obtains the parallax from the image data.
Left and right images as shown in FIGS. 12A and 12B, that is, FIG. 12A is an image obtained by the left imaging device, and FIG. 12B is obtained by the right imaging device. 12B, first, as shown in FIG. 12B, the right side captured image in FIG. 12 is divided into area units (vertical h dots, horizontal w dots) for which correlation calculation is performed.

【0035】そして、図2に示される立体物領域4につ
いて式(3)を用いて相関計算を行い、図13に示す様
に、相関値V(i) が最小となる最も相関の強い時のずら
し量iを求めるものである。次いで、より精度のよい情
報をうる為に、式(3)によるV(i) のグラフの最小値
部分で補間計算を行い、少数点以下の精度でずらし量を
算出する。
Then, the correlation calculation is performed for the three-dimensional object region 4 shown in FIG. 2 by using the equation (3), and as shown in FIG. 13, when the correlation value V (i) is the smallest and the correlation is strongest. The shift amount i is obtained. Next, in order to obtain more accurate information, interpolation calculation is performed in the minimum value portion of the graph of V (i) according to equation (3), and the shift amount is calculated with an accuracy of a decimal point or less.

【0036】このずらし量iをi0 とすると、求める視
差はi0 に比例しており、撮像装置の構成による係数K
を事前に求めておくと、視差は以下の式(4)で求める
事が出来る。
Assuming that the shift amount i is i 0 , the parallax to be obtained is proportional to i 0 , and the coefficient K depending on the configuration of the image pickup device.
If is calculated in advance, the parallax can be calculated by the following equation (4).

【0037】 [0037]

【0038】尚、式(3)中、データAは、右画像輝度
データであり、又データBは、左画像輝度データであ
る。上記の様にして得られた相関結果について、それを
評価して信頼性のあるものだけを選択して、それについ
て算出した視差から後述する演算式(6)を用いて距離
を算出するが、その評価方法としては、以下に示す式
(5)を用いて、その評価値Hが1に近いa以上のもの
を良い結果として評価する。
In the equation (3), the data A is the right image brightness data, and the data B is the left image brightness data. With respect to the correlation result obtained as described above, only the reliable one is evaluated and selected, and the distance is calculated from the parallax calculated for it using the operation formula (6) described later. As the evaluation method, the following expression (5) is used, and the evaluation value H whose evaluation value H is close to 1 or more is evaluated as a good result.

【0039】 [0039]

【0040】尚、式(5)中、Sは相関計算における最
大ずらし量を示すものである。そこで、次に、当該立体
物領域迄の距離を演算する具体的方法、つまり立体視に
付いてその具体例を説明する。本発明に於ける該立体物
領域迄の距離を演算する方法としては、前記した様に求
められた距離計測対象間の位置ずれ、つまり視差と、予
め計測しておいた2視点間の距離、画角、画角中の輝度
情報数、視点の角度等より、距離を求めるものである。
In the equation (5), S represents the maximum shift amount in the correlation calculation. Therefore, next, a specific method for calculating the distance to the three-dimensional object area, that is, a specific example will be described for stereoscopic viewing. As a method of calculating the distance to the three-dimensional object area in the present invention, the positional deviation between the distance measurement objects obtained as described above, that is, the parallax and the distance between the two viewpoints measured in advance, The distance is obtained from the angle of view, the number of pieces of luminance information in the angle of view, the angle of the viewpoint, and the like.

【0041】図14は、本発明に於ける立体物領域迄の
距離を演算する方法、つまり立体視の方法の具体的構成
例を説明する図であり、図14(A)中、31は計測対
象物体であり、32、33はレンズ、34、35は撮像
素子、又36、37はレンズ撮像素子を含んだ撮像装置
の光軸である。又、dは、撮像装置と対象物との距離で
あり、又、fはレンズの焦点距離を示す。
FIG. 14 is a diagram for explaining a concrete configuration example of the method of calculating the distance to the three-dimensional object region in the present invention, that is, the stereoscopic method. In FIG. 14A, 31 is a measurement. Target objects are lenses 32 and 33, lenses 34 and 35 are image pickup devices, and reference numerals 36 and 37 are optical axes of an image pickup apparatus including the lens image pickup devices. Further, d is the distance between the image pickup device and the object, and f is the focal length of the lens.

【0042】更に、a、bは、それぞれ対象物31の同
一点が撮像装置34、35に投影された位置の光軸から
の距離である。一方、mは、2台の撮像装置間の距離
(基線長)である。又、図14(B)は図14(A)の
右側の撮像装置を基線長mだけ移動させ、レンズ34と
35を重ねた状態にしたものである。
Further, a and b are the distances from the optical axis of the positions where the same point of the object 31 is projected on the image pickup devices 34 and 35, respectively. On the other hand, m is the distance (baseline length) between the two imaging devices. Further, FIG. 14 (B) shows a state in which the image pickup device on the right side of FIG. 14 (A) is moved by the base line length m, and the lenses 34 and 35 are overlapped.

【0043】この図から理解される様に、三角形ABC
と三角形ADFとは互いに相似である。そこで、図12
(B)におけるa+bの値とmの比は、fとdの比と同
じとなる。上記演算方法を式にすると次式(6)とな
る。、 (a + b) : m = f:d ・・・・・(6) かかる式(6)を変形して式(7)の様になる。
As can be seen from this figure, the triangle ABC
And the triangle ADF are similar to each other. Therefore, FIG.
The ratio of a + b and m in (B) is the same as the ratio of f and d. When the above calculation method is expressed by an equation, the following equation (6) is obtained. , (A + b): m = f: d (6) The formula (6) is transformed into the formula (7).

【0044】 上記の於ける(a + b)(視差と言う)が算出され
ると前記式(7)を用いて立体物領域迄の距離dを計測
する。
[0044] When (a + b) (referred to as parallax) in the above is calculated, the distance d to the three-dimensional object region is measured using the above equation (7).

【0045】[0045]

【発明の効果】本発明に係る立体物領域検出装置或いは
立体物領域迄の距離測定装置及びそれらの方法は、従来
の方法に比べて座標変換テーブルを使用しない事から、
処理滑りデータの量も少なくて済、演算処理操作が容易
簡便となり、又演算処理回路も少なくてすむ事から、低
コストで高速且つ高精度の検出結果をうる事が可能とな
る。
The three-dimensional object region detecting apparatus or the distance measuring apparatus to the three-dimensional object area and the methods according to the present invention do not use the coordinate conversion table as compared with the conventional methods.
Since the amount of processing slip data is small, the arithmetic processing operation is easy and simple, and the number of arithmetic processing circuits is small, it is possible to obtain high-speed and high-accuracy detection results at low cost.

【図面の簡単な説明】[Brief description of drawings]

【図1】図1は、本発明に係る立体物領域検出装置に於
けるステレオ画像撮像手段を移動体に搭載した例を示す
図である。
FIG. 1 is a diagram showing an example in which a stereoscopic image capturing means in a three-dimensional object region detecting apparatus according to the present invention is mounted on a moving body.

【図2】図2は、本発明に係る立体物領域検出装置に於
けるステレオ画像撮像手段の構成例を示すダイアグラム
である。
FIG. 2 is a diagram showing a configuration example of a stereo image capturing means in the three-dimensional object region detecting apparatus according to the present invention.

【図3】図3は、本発明に於けるステレオ画像撮像装置
の一具体例に於ける構成例を示すブロックダイアグラム
である。
FIG. 3 is a block diagram showing a configuration example of a specific example of a stereo image pickup device according to the present invention.

【図4】図4は、前記ステレオ画像撮像手段により撮像
された第1の画像の例を示す図である。
FIG. 4 is a diagram showing an example of a first image captured by the stereo image capturing means.

【図5】図5は、前記ステレオ画像撮像手段により撮像
された第2の画像の例を示す図である。
FIG. 5 is a diagram showing an example of a second image captured by the stereo image capturing means.

【図6】図6は、本発明に於ける道路面視差Rsを演算
する為に必要な画像情報の例を示す図である。
FIG. 6 is a diagram showing an example of image information necessary for calculating a road surface parallax Rs in the present invention.

【図7】図7は、本発明に於いて作成される道路面視差
分調整画像の例を示す図である。
FIG. 7 is a diagram showing an example of a road surface view difference adjustment image created in the present invention.

【図8】図8は、本発明に於いて得られる差分画像の例
を示す図である。
FIG. 8 is a diagram showing an example of a difference image obtained in the present invention.

【図9】図9は、本発明に於ける立体物領域迄の距離測
定装置の構成の一例を示すブロックダイアグラムであ
る。
FIG. 9 is a block diagram showing an example of the configuration of a distance measuring device to a three-dimensional object region according to the present invention.

【図10】図10は、本発明に係る立体物領域検出方法
の操作手順を示すフローチャートである。
FIG. 10 is a flowchart showing an operation procedure of the three-dimensional object region detecting method according to the present invention.

【図11】図11は、本発明に係る立体物領域迄の距離
測定方法の操作手順を示すフローチャートである。
FIG. 11 is a flowchart showing an operating procedure of a distance measuring method to a three-dimensional object region according to the present invention.

【図12】図12は、本発明に於ける相関計算を行う場
合に使用される画像であり、図12(A)は、左側の画
像であり、図12(B)は、右側の画像である。
FIG. 12 is an image used when performing a correlation calculation in the present invention, FIG. 12 (A) is a left image, and FIG. 12 (B) is a right image. is there.

【図13】図13は、ずらし量iと相関値V(i) との関
係を示すグラフである。
FIG. 13 is a graph showing the relationship between the shift amount i and the correlation value V (i).

【図14】図14は、本発明に於ける立体物領域迄の距
離測定の為の演算方法の例を示す図であり、図14
(A)は、該立体物領域迄の距離測定装置の概略的構成
を示すブロック図であり、図14(B)は図14(A)
の右側の撮像装置を基線長mだけ移動させ、レンズ34
と35を重ねた状態にした図である。
FIG. 14 is a diagram showing an example of a calculation method for measuring a distance to a three-dimensional object region in the present invention.
FIG. 14A is a block diagram showing a schematic configuration of a distance measuring device to the three-dimensional object region, and FIG. 14B is FIG. 14A.
The image pickup device on the right side of the
It is the figure which made it the state which piled up and 35.

【符号の説明】[Explanation of symbols]

1…移動体 2…ステレオ画像撮像手段 3…道路面 4…立体物領域 5…俯角検出手段 6…道路面視差Rs検出手段 7…第1の撮像画面 8…第2の撮像画面 9…道路面視差分調整画像作成手段 10…差分画像作成手段 11…立体物領域検出手段 12…差分画像 13…ピッチ量検出手段 14…走行路検出手段 15…相関評価手段 16…距離演算手段 21…第1の撮像手段 22…第2の撮像手段 23…レンズ 24…光受光手段 31…物体 32、33…レンズ 34、35…撮像素子 36、37…撮像装置の光軸 DESCRIPTION OF SYMBOLS 1 ... Moving body 2 ... Stereo image imaging means 3 ... Road surface 4 ... Three-dimensional object area 5 ... Depression angle detection means 6 ... Road surface parallax Rs detection means 7 ... 1st imaging screen 8 ... 2nd imaging screen 9 ... Road surface Parallax adjustment image creating means 10 ... Difference image creating means 11 ... Three-dimensional object area detecting means 12 ... Difference image 13 ... Pitch amount detecting means 14 ... Traveling path detecting means 15 ... Correlation evaluating means 16 ... Distance calculating means 21 ... First Image pickup means 22 ... Second image pickup means 23 ... Lens 24 ... Light receiving means 31 ... Object 32, 33 ... Lens 34, 35 ... Image pickup element 36, 37 ... Optical axis of image pickup apparatus

Claims (7)

【特許請求の範囲】[Claims] 【請求項1】 移動体に搭載された、2個の画像撮像手
段から構成され、前記各撮像手段は、互いに平行で且つ
路面に平行に配置されると共に、然かも前記各撮像手段
で得られた画像間に所定の視差が発生する様に、互いに
所定の間隔を隔てて配置されており、更に画像の走査線
方向が、前記視差発生方向と一致する様に構成されてい
るステレオ画像撮像手段と、道路面に対する前記ステレ
オ画像撮像手段の俯角を検出する俯角検出手段と、前記
俯角より前記画像画面上に於ける道路面視差を演算する
道路面視差演算手段と、前記ステレオ画像検出手段によ
り撮像された一方の画像に於いて、前記道路面視差を打
ち消す様に、前記画像に於ける垂直方向の走査毎に、前
記視差が発生する方向に、前記画像情報を前記道路面視
差分ずつずらせながら、道路面視差分調整画像を作成す
る道路面視差分調整画像作成手段と、係る道路面視差分
調整画像と前記したステレオ画像検出手段により撮像さ
れた他方の画像との差分を演算して差分画像を作成する
差分画像作成手段及び前記差分画像から立体物領域を検
出する立体物領域検出手段とから構成されている事を特
徴とする立体物領域検出装置。
1. An image pickup device mounted on a moving body, comprising two image pickup devices, wherein the respective image pickup devices are arranged in parallel with each other and in parallel with a road surface. Stereo image capturing means, which are arranged at a predetermined interval from each other so that a predetermined parallax is generated between the images, and in which the scanning line direction of the images matches the parallax generation direction. Depression angle detecting means for detecting the depression angle of the stereo image capturing means with respect to the road surface, road surface parallax computing means for computing the road surface parallax on the image screen from the depression angle, and imaging by the stereo image detecting means In one of the images, the image information should not be shifted by the road surface parallax in the direction in which the parallax occurs in each vertical scanning in the image so as to cancel the road surface parallax. But A road surface difference adjustment image creating means for creating a road surface difference adjustment image, and calculating the difference between the road surface difference adjustment image and the other image captured by the stereo image detecting means. A three-dimensional object area detecting device comprising: a difference image creating means for creating an image; and a three-dimensional object area detecting means for detecting a three-dimensional object area from the difference image.
【請求項2】 前記道路面視差分調整画像作成手段に於
ける、前記画像情報を前記道路面視差分ずつずらせる手
段は、遅延回路を使用する事を特徴とする請求項1記載
の立体物領域検出装置。
2. The three-dimensional object according to claim 1, wherein the means for shifting the image information by the road surface view difference in the road surface view difference adjusted image creating means uses a delay circuit. Area detection device.
【請求項3】 移動体に搭載された、2個の撮像手段か
ら構成され、前記各撮像手段は、互いに平行で且つ路面
に平行に配置されると共に、然かも前記各撮像手段で得
られた画像間に所定の視差が発生する様に、互いに所定
の間隔を隔てて配置されており、更に画像の走査線方向
が、前記視差発生方向と一致する様に構成されているス
テレオ画像撮像手段と、道路面に対する前記ステレオ画
像撮像手段の俯角を検出する俯角検出手段と、前記俯角
より前記画像画面上に於ける道路面視差を演算する道路
面視差演算手段と、前記ステレオ画像検出手段により撮
像された一方の画像に於いて、前記道路面視差を打ち消
す様に、前記画像に於ける垂直方向の走査毎に、前記視
差が発生する方向に、前記画像情報を前記道路面視差分
ずつずらせながら、道路面視差分調整画像を作成する道
路面視差分調整画像作成手段と、係る道路面視差分調整
画像と前記したステレオ画像検出手段により撮像された
他方の画像との差分を演算して差分画像を作成する差分
画像作成手段と、前記差分画像から立体物領域を検出す
る立体物領域検出手段と、前記検出された立体物領域に
付いて相関演算により前記立体物領域迄の距離を解析す
る距離解析手段と、距離解析手段により出力された距離
情報を評価して、信頼性のある距離情報を選択して出力
する距離算出手段とから構成されている事を特徴とする
立体物領域迄の距離測定装置。
3. It is composed of two image pickup means mounted on a moving body, and the image pickup means are arranged in parallel with each other and in parallel with a road surface, and are obtained by the respective image pickup means. Stereo image capturing means arranged so as to generate a predetermined parallax between the images, with a predetermined interval therebetween, and further configured so that the scanning line direction of the images matches the parallax generation direction. Depression angle detecting means for detecting the depression angle of the stereo image capturing means with respect to the road surface, road surface parallax computing means for computing the road surface parallax on the image screen from the depression angle, and the stereo image detecting means for imaging. In one of the images, so as to cancel the road surface parallax, for each vertical scanning in the image, in the direction in which the parallax occurs, while shifting the image information by the road surface parallax, A road image difference adjustment image creating unit that creates a road image difference adjustment image, and a difference image is calculated by calculating a difference between the road image difference adjustment image and the other image captured by the stereo image detecting unit. Difference image creating means for creating, three-dimensional object area detecting means for detecting a three-dimensional object area from the difference image, and distance analysis for analyzing the distance to the three-dimensional object area by correlating the detected three-dimensional object area And a distance calculation means that evaluates the distance information output by the distance analysis means and selects and outputs reliable distance information. apparatus.
【請求項4】 前記道路面視差分調整画像作成手段に於
ける、前記画像情報を前記道路面視差分ずつずらせる手
段は、遅延回路を使用する事を特徴とする請求項3記載
の立体物領域迄の距離測定装置。
4. The three-dimensional object according to claim 3, wherein the means for shifting the image information by the road surface view difference in the road surface view difference adjusted image creating means uses a delay circuit. Distance measuring device to the area.
【請求項5】 前記立体物領域として検出された領域以
外の領域を走行路検出領域データとして使用し、走行路
領域として検出する走行路領域検出手段が更に設けられ
ている事を特徴とする請求項3記載の立体物領域迄の距
離測定装置。
5. An area other than the area detected as the three-dimensional object area is used as the road area detection area data, and a road area detecting means for detecting the road area is further provided. Item 3. A device for measuring a distance to a three-dimensional object region according to item 3.
【請求項6】 移動体に搭載された、2個の撮像手段か
ら構成され、前記各撮像手段は、互いに平行で且つ路面
に平行に配置されると共に、然かも前記各撮像手段で得
られた画像間に所定の視差が発生する様に、互いに所定
の間隔を隔てて配置されており、更に画像の走査線方向
が、前記視差発生方向と一致する様に構成されているス
テレオ画像撮像手段を用いて道路上の被測定物を検出す
る方法に於いて、前記道路面に対する前記ステレオ画像
撮像手段の俯角を検出する工程と、前記検出した俯角、
前記2個の撮像手段の配置間隔、前記ステレオ画像撮像
手段の高さ、及び現在の画像上の走査位置とに関する情
報から、前記画像画面上に於ける道路面視差を演算する
工程と、前記ステレオ画像検出手段により撮像された一
方の画像に於ける、前記道路面視差を打ち消す様に、前
記画像に於ける垂直方向の走査毎に、前記視差が発生す
る方向に、前記画像情報を前記道路面視差分ずつずらせ
ながら、道路面視差分調整画像を作成する工程と、係る
道路面視差分調整画像と前記したステレオ画像検出手段
により撮像された他方の画像との差分を演算して差分画
像を作成する工程と、前記差分画像から立体物領域を検
出する工程とから構成されている事を特徴とする立体物
領域検出方法。
6. The image pickup device comprises two image pickup means mounted on a moving body, and the image pickup means are arranged in parallel with each other and in parallel with a road surface. A stereo image capturing means, which is arranged at a predetermined interval from each other so that a predetermined parallax is generated between the images, and is configured so that the scanning line direction of the image matches the parallax generation direction. In a method of detecting an object to be measured on a road using the step of detecting the depression angle of the stereo image capturing means with respect to the road surface, the detected depression angle,
Calculating a road surface parallax on the image screen from information about an arrangement interval between the two image pickup means, a height of the stereo image pickup means, and a scanning position on a current image; In one of the images captured by the image detection means, the image information is displayed in the direction in which the parallax occurs in each vertical scan in the image so as to cancel the road surface parallax. A step of creating a road surface view difference adjusted image while shifting the parallax by a parallax, and a difference image is created by calculating a difference between the road surface view difference adjusted image and the other image captured by the stereo image detecting means. And a step of detecting a three-dimensional object area from the difference image.
【請求項7】 移動体に搭載された、2個の撮像手段か
ら構成され、前記各撮像手段は、互いに平行で且つ路面
に平行に配置されると共に、然かも前記各撮像手段で得
られた画像間に所定の視差が発生する様に、互いに所定
の間隔を隔てて配置されており、更に画像の走査線方向
が、前記視差発生方向と一致する様に構成されているス
テレオ画像撮像手段を用いて道路上の被測定物を検出す
る方法に於いて、前記道路面に対する前記ステレオ画像
撮像手段の俯角を検出する工程と、前記検出した俯角、
前記2個の撮像手段の配置間隔、前記ステレオ画像撮像
手段の高さ、及び現在の画像上の走査位置とに関する情
報から、前記画像画面上に於ける道路面視差を演算する
工程と、前記ステレオ画像検出手段により撮像された一
方の画像に於ける、前記道路面視差を打ち消す様に、前
記画像に於ける垂直方向の走査毎に、前記視差が発生す
る方向に、前記画像情報を前記道路面視差分ずつずらせ
ながら、道路面視差分調整画像を作成する工程と、係る
道路面視差分調整画像と前記したステレオ画像検出手段
により撮像された他方の画像との差分を演算して差分画
像を作成する工程と、前記差分画像から立体物領域を検
出する工程と、前記検出された立体物領域に付いて相関
演算により前記立体物領域迄の距離を解析する工程と、
前記距離解析手段により出力された距離情報を評価し
て、信頼性のある距離情報を選択して出力する距離算出
工程とから構成されている事を特徴とする立体物領域迄
の距離測定方法。
7. The image pickup device comprises two image pickup means mounted on a moving body, wherein the respective image pickup means are arranged in parallel with each other and in parallel with a road surface, and the image pickup means are obtained by the respective image pickup means. A stereo image capturing means, which is arranged at a predetermined interval from each other so that a predetermined parallax is generated between the images, and is configured so that the scanning line direction of the image matches the parallax generation direction. In a method of detecting an object to be measured on a road using the step of detecting the depression angle of the stereo image capturing means with respect to the road surface, the detected depression angle,
Calculating a road surface parallax on the image screen from information about an arrangement interval between the two image pickup means, a height of the stereo image pickup means, and a scanning position on a current image; In one of the images captured by the image detection means, the image information is displayed in the direction in which the parallax occurs in each vertical scan in the image so as to cancel the road surface parallax. A step of creating a road surface view difference adjusted image while shifting the parallax by a parallax, and a difference image is created by calculating a difference between the road surface view difference adjusted image and the other image captured by the stereo image detecting means. And a step of detecting a three-dimensional object area from the difference image, and a step of analyzing the distance to the three-dimensional object area by a correlation calculation for the detected three-dimensional object area,
A distance measuring method up to a three-dimensional object region, comprising: a distance calculating step of evaluating the distance information output by the distance analyzing means, selecting and outputting reliable distance information.
JP09753694A 1994-05-11 1994-05-11 Three-dimensional object region detection device, distance measuring device to three-dimensional object region, and their detection and measurement method Expired - Fee Related JP3501841B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP09753694A JP3501841B2 (en) 1994-05-11 1994-05-11 Three-dimensional object region detection device, distance measuring device to three-dimensional object region, and their detection and measurement method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP09753694A JP3501841B2 (en) 1994-05-11 1994-05-11 Three-dimensional object region detection device, distance measuring device to three-dimensional object region, and their detection and measurement method

Publications (2)

Publication Number Publication Date
JPH07306037A true JPH07306037A (en) 1995-11-21
JP3501841B2 JP3501841B2 (en) 2004-03-02

Family

ID=14194978

Family Applications (1)

Application Number Title Priority Date Filing Date
JP09753694A Expired - Fee Related JP3501841B2 (en) 1994-05-11 1994-05-11 Three-dimensional object region detection device, distance measuring device to three-dimensional object region, and their detection and measurement method

Country Status (1)

Country Link
JP (1) JP3501841B2 (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001289631A (en) * 2000-04-06 2001-10-19 Nippon Signal Co Ltd:The Distance measuring apparatus and distance measuring method
WO2002080557A1 (en) * 2001-03-28 2002-10-10 Matsushita Electric Industrial Co., Ltd. Drive supporting device
JP2009088840A (en) * 2007-09-28 2009-04-23 Saxa Inc Stereoscopic image processing device and program for processing image
WO2011115142A1 (en) * 2010-03-19 2011-09-22 Okiセミコンダクタ株式会社 Image processing device, method, program and storage medium
JP2012019552A (en) * 2001-03-28 2012-01-26 Panasonic Corp Driving support device
JP2012123750A (en) * 2010-12-10 2012-06-28 Toshiba Alpine Automotive Technology Corp Vehicle image processor and vehicle image processing method
US9436881B2 (en) 2011-09-09 2016-09-06 Denso Corporation Apparatus for predicting turns of a vehicle

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001289631A (en) * 2000-04-06 2001-10-19 Nippon Signal Co Ltd:The Distance measuring apparatus and distance measuring method
JP4531921B2 (en) * 2000-04-06 2010-08-25 日本信号株式会社 Distance measuring device
WO2002080557A1 (en) * 2001-03-28 2002-10-10 Matsushita Electric Industrial Co., Ltd. Drive supporting device
JP2002359838A (en) * 2001-03-28 2002-12-13 Matsushita Electric Ind Co Ltd Device for supporting driving
US7218758B2 (en) 2001-03-28 2007-05-15 Matsushita Electric Industrial Co., Ltd. Drive supporting device
JP2012019552A (en) * 2001-03-28 2012-01-26 Panasonic Corp Driving support device
JP2009088840A (en) * 2007-09-28 2009-04-23 Saxa Inc Stereoscopic image processing device and program for processing image
WO2011115142A1 (en) * 2010-03-19 2011-09-22 Okiセミコンダクタ株式会社 Image processing device, method, program and storage medium
JP5792157B2 (en) * 2010-03-19 2015-10-07 ラピスセミコンダクタ株式会社 Image processing apparatus, method, program, and recording medium
JP2012123750A (en) * 2010-12-10 2012-06-28 Toshiba Alpine Automotive Technology Corp Vehicle image processor and vehicle image processing method
US9436881B2 (en) 2011-09-09 2016-09-06 Denso Corporation Apparatus for predicting turns of a vehicle

Also Published As

Publication number Publication date
JP3501841B2 (en) 2004-03-02

Similar Documents

Publication Publication Date Title
US6445814B2 (en) Three-dimensional information processing apparatus and method
JP5792157B2 (en) Image processing apparatus, method, program, and recording medium
CA2577840C (en) A method for automated 3d imaging
JPH08136237A (en) Device for calculating gradient of road and car speed controller
JP3501841B2 (en) Three-dimensional object region detection device, distance measuring device to three-dimensional object region, and their detection and measurement method
JPH1144533A (en) Preceding vehicle detector
JPH1021401A (en) Three-dimensional information processor
JP2002099902A (en) Image processing device for measuring three-dimensional information of object through binocular stereoscopic vision, its method, and storage medium with measurement program stored therein
JPH0948298A (en) Object position measuring method in running passage
JP3516118B2 (en) Object recognition method and object recognition device
JP2983420B2 (en) Inter-vehicle distance measurement device
JPH1023311A (en) Image information input method and device therefor
JP3631541B2 (en) Object tracking method using stereo images
JPH09231370A (en) Picture information input device
JP3556319B2 (en) Distance measuring device
JP5533739B2 (en) Optical information reader
JPH0875454A (en) Range finding device
JPH11259792A (en) Method and device for recognizing vehicle
JP2566395B2 (en) Three-dimensional coordinate measuring device
JPH09231369A (en) Picture information input device
JPH1096607A (en) Object detector and plane estimation method
JP3525712B2 (en) Three-dimensional image capturing method and three-dimensional image capturing device
JP2022087978A (en) Position attitude calculation device, position attitude calculation method and surveying device
JPH09229648A (en) Input/output method and device for image information
JPH11259658A (en) Body recognizing method and body recognizing device using same method, and method and device for vehicle recognition

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20030527

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20031202

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20031203

LAPS Cancellation because of no payment of annual fees