JP2005170290A - Obstacle detecting device - Google Patents

Obstacle detecting device Download PDF

Info

Publication number
JP2005170290A
JP2005170290A JP2003415055A JP2003415055A JP2005170290A JP 2005170290 A JP2005170290 A JP 2005170290A JP 2003415055 A JP2003415055 A JP 2003415055A JP 2003415055 A JP2003415055 A JP 2003415055A JP 2005170290 A JP2005170290 A JP 2005170290A
Authority
JP
Japan
Prior art keywords
obstacle
value
tracking area
movement
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2003415055A
Other languages
Japanese (ja)
Inventor
Kiyoshi Akutagawa
清 芥川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2003415055A priority Critical patent/JP2005170290A/en
Publication of JP2005170290A publication Critical patent/JP2005170290A/en
Pending legal-status Critical Current

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide an obstacle detecting device for determining a behavior of an obstacle. <P>SOLUTION: The obstacle detecting device comprises an image pick-up means 1 for photographing a periphery of a movable body with a predetermined period, a tracking region detecting means 2 for detecting a tracking region corresponding to an image of at least relatively moving obstacle based on the image picked up by the image pick-up means, a region moving amount calculating means 3 for determining an image coordinate value before and after the movement of the tracking region detected by the tracking region detecting means based on two images picked up by the image pick-up means with different timings, a calculating means 4 of an image pick-up means moving amount for detecting the moving amount of the image pick-up means 1, an obstacle indication value calculating means 5 for calculating an indication value related to a relative position of the obstacle based on the image coordinate value of the tracking region before the movement, the image coordinate value of the tracking region after the movement, and a movement mount of the image pick-up means, and a determining means 6 for determining the behavior of the obstacle based on the indication value. <P>COPYRIGHT: (C)2005,JPO&NCIPI

Description

本発明は、障害物を検出する障害物検出装置に関し、特に、障害物の有無を検出する障害物検出装置に関する。   The present invention relates to an obstacle detection device that detects an obstacle, and more particularly to an obstacle detection device that detects the presence or absence of an obstacle.

車両に搭載された単一のカメラ装置を用いて自車両周辺を撮像し、自車両と衝突の可能性がある障害物を検出する装置がある。この種の装置としては、自車両の移動に伴い異なる地点で撮像した画像から、同一対象を検出し、その視差と自車両の移動量とから静止した対象物までの距離を算出する駐車支援装置がある(特許文献1参照)。
特開2001−187553号公報
There is a device that detects an obstacle that may collide with the host vehicle by capturing an image of the periphery of the host vehicle using a single camera device mounted on the vehicle. As this type of device, a parking assistance device that detects the same object from images taken at different points as the vehicle moves and calculates the distance to the stationary object from the parallax and the amount of movement of the vehicle (See Patent Document 1).
JP 2001-187553 A

しかしながら、従来の技術においては、撮像タイミングが異なる画像を用いて障害物までの距離を算出するため、撮像対象となる障害物が静止物であれば正確な距離を算出できるが、障害物が移動体である場合は障害物の位置、自車両との相対的位置関係を正確に検出することができないという問題があった。このため、障害物は移動体であるのか、障害物は自車両に対し飛び出して来る移動体であるのか、障害物は自車両と衝突可能性があるのかを認識することができないという問題があった。
本発明は、上述した課題を解決するために提案されたものであり、存在する障害物の動きを具体的に認識する障害物検出装置を提供することを目的とする。
However, in the conventional technology, since the distance to the obstacle is calculated using images with different imaging timings, an accurate distance can be calculated if the obstacle to be imaged is a stationary object, but the obstacle moves. In the case of the body, there is a problem that the position of the obstacle and the relative positional relationship with the host vehicle cannot be detected accurately. For this reason, there is a problem that it is impossible to recognize whether the obstacle is a moving object, whether the obstacle is a moving object jumping out of the own vehicle, or whether the obstacle may collide with the own vehicle. It was.
The present invention has been proposed to solve the above-described problems, and an object thereof is to provide an obstacle detection device that specifically recognizes the movement of an existing obstacle.

本発明によれば、移動体に搭載され、前記移動体の周囲の障害物を検出する障害物検出装置であって、移動体の周囲を所定の周期で撮像する撮像手段と、撮像手段により撮像された画像から、少なくとも相対的に移動する障害物の画像に対応する追跡領域を検出する追跡領域検出手段と、撮像手段により異なるタイミングで撮像された2つの画像に基づいて、追跡領域検出手段により検出された追跡領域の移動前後の画像座標値を求める領域移動量算出手段と、撮像手段の移動量を検出する撮像手段移動量算出手段と、移動前の追跡領域の画像座標値と移動後の追跡領域の画像座標値と撮像手段の移動量とから、障害物の相対的位置に関する指標値を算出する障害物指標値算出手段と、指標値に基づいて前記障害物の挙動を判断する判断手段と、を有する障害物検出装置が提供される。   According to the present invention, there is provided an obstacle detection device that is mounted on a moving body and detects obstacles around the moving body, the imaging unit that images the periphery of the moving body at a predetermined cycle, and the imaging unit A tracking area detecting means for detecting a tracking area corresponding to an image of an obstacle moving at least relative to the captured image, and a tracking area detecting means based on two images taken at different timings by the imaging means. Area movement amount calculation means for obtaining image coordinate values before and after the movement of the detected tracking area, imaging means movement amount calculation means for detecting the movement amount of the imaging means, image coordinate values of the tracking area before movement, and after movement Obstacle index value calculating means for calculating an index value related to the relative position of the obstacle from the image coordinate value of the tracking area and the moving amount of the imaging means, and a determining means for determining the behavior of the obstacle based on the index value , Obstacle detection device including a is provided.

これにより、障害物が移動体であるか、障害物が静止物であるか、障害物が自車両に対し飛び出してくる可能性があるか、障害物が自車両に衝突する可能性があるかといった障害物の挙動を判断する障害物検出装置を提供することができる。   Whether the obstacle is a moving object, whether the obstacle is a stationary object, whether the obstacle may jump out of the host vehicle, or whether the obstacle may collide with the host vehicle It is possible to provide an obstacle detection device that determines the behavior of such an obstacle.

以下、図面に基づき本実施形態の障害物検出装置100を説明する。本実施形態の障害物検出装置100は、ユーザが搭乗する車両に搭載され、車両の周囲に存在する障害物の挙動を判断し、挙動が特定された障害物の存在を検出する。つまり、本実施形態の障害物検出装置100は、障害物が移動体であるのか、障害物が静止物であるのか、障害物が自車両に接近する物であるのか、障害物が自車両に衝突する可能性があるのかを判断し、障害物の挙動を特定した上で、その存在を検出する装置である。   Hereinafter, the obstacle detection apparatus 100 of the present embodiment will be described with reference to the drawings. The obstacle detection apparatus 100 according to the present embodiment is mounted on a vehicle on which a user is boarded, determines the behavior of an obstacle existing around the vehicle, and detects the presence of the obstacle whose behavior is specified. That is, the obstacle detection apparatus 100 according to the present embodiment is configured such that the obstacle is a moving object, whether the obstacle is a stationary object, whether the obstacle is an object approaching the own vehicle, or whether the obstacle is on the own vehicle. It is a device that determines the possibility of a collision, identifies the behavior of an obstacle, and detects its presence.

図1に本実施形態に係る障害物検出装置100のブロック構成を示した。   FIG. 1 shows a block configuration of an obstacle detection apparatus 100 according to the present embodiment.

図1に示すように、障害物検出装置100は、撮像手段1と、追跡領域検出手段2と、領域移動量算出手段3と、撮像手段移動量算出手段4と、障害物指標値算出手段5と、判断手段6と、出力手段7を有している。具体的には、少なくとも、追跡領域検出手段2により検出された追跡領域の位置座標と撮像手段移動量算出手段4により算出された撮像手段1の移動量とから、障害物の相対的位置に関する指標値を算出し、算出した指標値に基づいて障害物の挙動を判断するプログラムを格納したROMと、このROMに格納されたプログラムを実行することで、障害物指標値算出手段5、判断手段6として機能するCPUと、記憶手段8として機能するRAMとを備えている。   As shown in FIG. 1, the obstacle detection apparatus 100 includes an imaging unit 1, a tracking area detection unit 2, an area movement amount calculation unit 3, an imaging unit movement amount calculation unit 4, and an obstacle index value calculation unit 5. And a determination means 6 and an output means 7. Specifically, an index relating to the relative position of the obstacle from at least the position coordinates of the tracking area detected by the tracking area detection means 2 and the movement amount of the imaging means 1 calculated by the imaging means movement amount calculation means 4. A ROM that stores a program that calculates a value and determines the behavior of an obstacle based on the calculated index value, and an obstacle index value calculation unit 5 and a determination unit 6 are executed by executing the program stored in the ROM. And a RAM functioning as the storage means 8.

また、障害物検出装置100は、障害物の検出結果に基づいて種々の警報を発する警告装置200、または運転を支援する走行支援装置300の少なくともいずれか一方と情報の授受が可能となるように車載LANにより接続されている。   In addition, the obstacle detection device 100 can exchange information with at least one of the warning device 200 that issues various warnings based on the detection result of the obstacle and the driving support device 300 that supports driving. It is connected by an in-vehicle LAN.

以下、各構成について説明する。   Each configuration will be described below.

「撮像手段1」は、例えば、ビデオカメラであり、車両の前方を一定の周期(時間間隔Δt)で撮像する。撮像した画像は画像記憶部81に記憶される。なお、撮像手段1となるカメラの左右方向の光軸は車両の直進方向と一致させ、カメラの上下方向の光軸は水平となるように設置する。   The “imaging means 1” is, for example, a video camera, and images the front of the vehicle at a constant cycle (time interval Δt). The captured image is stored in the image storage unit 81. The left and right optical axes of the camera serving as the imaging unit 1 are set to coincide with the straight traveling direction of the vehicle, and the vertical optical axis of the camera is set to be horizontal.

「追跡領域検出手段2」は、撮像手段1が異なるタイミングで撮像した2つの画像に基づいて、車両に対し少なくとも相対的に移動する障害物を検出するため、障害物の画像に対応する追跡領域を検出する。追跡領域は任意に設定してもよいが、本実施形態では画像の濃淡変化に基づいて移動体の追跡が可能な領域を検出する。すなわち、本実施形態の追跡領域検出手段2は、複数の方向に濃淡変化を有する画像領域を追跡領域として検出する。このようにしたのは、検出対象が追跡できる領域は、複数の方向に濃淡変化を有する領域であり、道路上の白線のように、画像上において一様な濃淡変化を持つ領域では、移動方向が濃淡変化の方向と垂直となる場合、追跡対象の移動量を検出することは困難だからである。   The “tracking region detection unit 2” detects an obstacle moving at least relative to the vehicle based on two images captured by the imaging unit 1 at different timings. Therefore, the tracking region corresponding to the image of the obstacle Is detected. The tracking area may be arbitrarily set, but in the present embodiment, an area where the moving body can be tracked is detected based on a change in lightness and darkness of the image. That is, the tracking area detection unit 2 of the present embodiment detects an image area having a change in shading in a plurality of directions as a tracking area. This is because the area that can be tracked by the detection target is an area that has light and shade changes in multiple directions, and in areas that have uniform light and shade changes on the image, such as white lines on the road, the movement direction This is because it is difficult to detect the amount of movement of the tracking target when is perpendicular to the direction of light and shade change.

具体的に、追跡領域検出手段2は、エッジ検出部21と、分散値算出部22と、追跡領域判断部23とを有している。エッジ検出部21は、撮像手段1により撮像された画像のエッジを検出する。本実施形態のエッジ検出部21は、画像記憶部81に記憶されている画像を読み出し、縦方向および横方向のエッジを検出するためのフィルタをかけ、エッジの縦、横の成分の大きさ(dI/dx,dI/dy:Iは画素値)をそれぞれ求める。次に、検出されたエッジに含まれるノイズ成分を除去するために、求めた縦、横のエッジ成分の大きさの2乗和がしきい値th1以上の画素を抽出し、抽出した画素に基づいてエッジを検出する。   Specifically, the tracking region detection unit 2 includes an edge detection unit 21, a variance value calculation unit 22, and a tracking region determination unit 23. The edge detection unit 21 detects the edge of the image captured by the imaging unit 1. The edge detection unit 21 of the present embodiment reads an image stored in the image storage unit 81, applies a filter for detecting vertical and horizontal edges, and determines the size of the vertical and horizontal components of the edge ( dI / dx, dI / dy: I is a pixel value). Next, in order to remove a noise component included in the detected edge, a pixel whose sum of squares of the obtained vertical and horizontal edge components is greater than or equal to a threshold th1 is extracted, and based on the extracted pixel To detect edges.

分散値算出部22は、複数の方向に濃淡変化を有する領域を検出するため、前記エッジ検出部により検出されたエッジの縦方向成分と横方向成分との大きさの比の分散値を、前記画像の所定領域ごとに算出する。具体的には、分散値算出部22は、エッジの縦方向成分と横方向成分の大きさの比を求めて、濃度勾配方向を求める。次に、ノイズが除去された後のエッジが示されている画像を縦方向および横方向に沿って等間隔な格子状に分割する。図2は、上述した方法を用いて撮像画像からエッジを検出した画像を、格子状に分割した状態を示す模式図である。図2に示す分割された1の格子が、追跡領域の検出処理を行う単位領域である。分散値算出部22は、この分割された単位領域ごとに、エッジの縦方向成分と横方向成分との大きさの比の分散値を求める。   Since the variance value calculation unit 22 detects a region having light and shade changes in a plurality of directions, the variance value of the ratio of the size of the vertical component and the horizontal component of the edge detected by the edge detection unit is calculated. Calculation is performed for each predetermined area of the image. Specifically, the variance value calculation unit 22 obtains the density gradient direction by obtaining the ratio of the magnitudes of the vertical and horizontal components of the edge. Next, the image in which the edge from which the noise has been removed is shown is divided into a lattice shape at equal intervals along the vertical direction and the horizontal direction. FIG. 2 is a schematic diagram illustrating a state in which an image in which an edge is detected from a captured image using the above-described method is divided into a lattice shape. One divided grid shown in FIG. 2 is a unit area for performing the tracking area detection process. The variance value calculation unit 22 obtains a variance value of the ratio of the size of the vertical component and the horizontal component of the edge for each of the divided unit regions.

追跡領域判断部23は、分散値算出部22により算出された分散値が所定の値よりも大きい所定領域を、前記障害物の移動を追跡するための追跡領域として判断する。これは、分割された矩形領域内のエッジ勾配方向が一方向であれば、分散値は小さくなり、複数方向のエッジ勾配を持つ場合、分散値は大きくなるという傾向に基づく。言い換えると、追跡領域判断部23は、求めた単位領域の分散値が所定のしきい値th2より小さければ、エッジ勾配方向は一方向である可能性が高いため、濃度勾配と垂直な方向に移動する物体を検出することは難しいと判断し、一方、求めた分散値が所定のしきい値th2以上であれば、複数方向のエッジ勾配を有しているため、移動体がいずれの方向に移動しても障害物に対応する領域の追跡が可能と判断する。つまり、追跡領域判断部23は、求めた分散値が所定のしきい値th2以上である領域を追跡領域と判断する。図2に示した撮像画像に基づいて、追跡領域判断部23により判断された追跡領域を図3に示した。   The tracking area determination unit 23 determines a predetermined area whose variance value calculated by the variance value calculation unit 22 is larger than a predetermined value as a tracking area for tracking the movement of the obstacle. This is based on the tendency that if the edge gradient direction in the divided rectangular area is one direction, the variance value is small, and if the edge gradient direction is in a plurality of directions, the variance value is large. In other words, the tracking area determination unit 23 moves in a direction perpendicular to the density gradient because the edge gradient direction is likely to be one direction if the obtained variance value of the unit area is smaller than the predetermined threshold th2. It is determined that it is difficult to detect the object to be moved. On the other hand, if the obtained dispersion value is equal to or larger than the predetermined threshold th2, the moving body moves in any direction because it has edge gradients in multiple directions. Even so, it is determined that the area corresponding to the obstacle can be traced. That is, the tracking area determination unit 23 determines that an area where the obtained variance value is equal to or greater than the predetermined threshold th2 is a tracking area. The tracking area determined by the tracking area determination unit 23 based on the captured image shown in FIG. 2 is shown in FIG.

追跡領域検出手段2の追跡領域判断部23は、追跡領域と判断した領域の始点位置(たとえば左上隅)、画像サイズ(幅,高さ)、および、原画像の画像パターンを、各単位領域を特定する識別番号に対応づけて追跡領域情報記憶部82に記憶させる。以下、移動量、相関値の算出の基準となる、移動前の追跡領域の画像パターンを「基準パターン」という。   The tracking area determination unit 23 of the tracking area detection unit 2 determines the start point position (for example, the upper left corner) of the area determined as the tracking area, the image size (width and height), and the image pattern of the original image as each unit area. The tracking area information storage unit 82 stores the identification number in association with the identification number. Hereinafter, the image pattern of the tracking area before movement, which is a reference for calculating the movement amount and the correlation value, is referred to as “reference pattern”.

なお、追跡領域検出手段2は、撮像手段1によって時間Δtの間隔にて撮像された画像ごとに、新たな追跡領域を検出する。新たに検出された追跡領域が、領域移動量の算出が行われている領域と異なる領域であれば、新しい追跡領域として、その始点位置、画像サイズ、画像パターンを追跡領域情報記憶部82に記憶する。新しい追跡領域であるか否かの判定は、追跡領域情報記憶部82に記憶されている追跡領域の始点位置およびサイズに基づいて行う。   The tracking area detection unit 2 detects a new tracking area for each image captured by the imaging unit 1 at an interval of time Δt. If the newly detected tracking area is an area different from the area where the area movement amount is being calculated, the starting position, image size, and image pattern are stored in the tracking area information storage unit 82 as a new tracking area. To do. Whether or not it is a new tracking area is determined based on the starting point position and size of the tracking area stored in the tracking area information storage unit 82.

撮像手段1により撮像された新たな画像に関する情報が画像記憶部81に入力されると、「領域移動量算出手段3」は、撮像手段1により異なるタイミングで撮像された2つの画像に基づいて追跡領域の移動量を算出する。この領域移動量算出手段3は、相関値算出部31と、決定部32と、算出部33とを有する。   When information related to a new image captured by the imaging unit 1 is input to the image storage unit 81, the “region movement amount calculation unit 3” tracks based on the two images captured at different timings by the imaging unit 1. The amount of movement of the area is calculated. The area movement amount calculation means 3 includes a correlation value calculation unit 31, a determination unit 32, and a calculation unit 33.

この移動量の算出方法を説明すると、まず、相関値算出部31は、追跡領域の移動先を検出するために探索領域を設定する。この探索領域は、追跡領域を含み、追跡領域の外側へ向かって所定画素数分だけ拡張させた領域である。本実施形態では追跡領域の4辺に対して垂直方向外側に1画素づつ拡張させた探索領域を設定した。この探索領域内で基準パターン(記憶された追跡領域の画像パターン)を1画素づつ、ずらしながら、基準パターンと新規画像データの追跡領域との相関値を算出する。なお、相関値の算出にあたり、基準パターンの位置は1画素単位で移動させる(ずらす)ので、相関値が得られる位置も1画素単位となるが、複数の相関値を用いて補間演算を行うことにより、相関値が最大となる位置を1画素以下の精度で求めることができる。その結果、追跡領域の移動先を1画素以下の精度で求めることができる。   The movement amount calculation method will be described. First, the correlation value calculation unit 31 sets a search area in order to detect the movement destination of the tracking area. This search area is an area that includes the tracking area and is extended by a predetermined number of pixels toward the outside of the tracking area. In the present embodiment, a search area is set that is expanded by one pixel outward in the vertical direction with respect to the four sides of the tracking area. The correlation value between the reference pattern and the tracking area of the new image data is calculated while shifting the reference pattern (the stored tracking area image pattern) by one pixel within the search area. In calculating the correlation value, the position of the reference pattern is moved (shifted) in units of one pixel, so the position where the correlation value is obtained is also in units of one pixel, but interpolation calculation is performed using a plurality of correlation values. Thus, the position where the correlation value is maximized can be obtained with an accuracy of 1 pixel or less. As a result, the movement destination of the tracking area can be obtained with an accuracy of 1 pixel or less.

決定部32は、相関値算出部31により算出された相関値が最大となる探索領域に移動後の障害物画像が存在するとみなし、その探索領域を移動後の追跡領域として決定する。本実施形態では、算出された相関値がしきい値th3以上であり、かつ、最大となる領域を、基準パターンの移動後の追跡領域として決定する。   The determination unit 32 determines that the obstacle image after movement exists in the search region where the correlation value calculated by the correlation value calculation unit 31 is maximum, and determines the search region as the tracking region after movement. In the present embodiment, the area where the calculated correlation value is equal to or greater than the threshold th3 and is the maximum is determined as the tracking area after the movement of the reference pattern.

算出部33は、決定部32により決定された移動後の追跡領域の位置と、追跡領域検出手段2により検出された追跡領域(基準パターンに対応する追跡領域)の位置とを比較し、移動量を算出する。追跡領域の移動量は、画像座標値に基づいて、水平方向x、垂直方向yの各方向成分として表される。図4には、図3に示した各追跡領域について算出された移動量の移動成分をベクトルで示した。   The calculation unit 33 compares the position of the tracking region after movement determined by the determination unit 32 with the position of the tracking region (tracking region corresponding to the reference pattern) detected by the tracking region detection unit 2, and the amount of movement Is calculated. The amount of movement of the tracking area is expressed as each direction component in the horizontal direction x and the vertical direction y based on the image coordinate values. In FIG. 4, the movement component of the movement amount calculated for each tracking region shown in FIG. 3 is shown as a vector.

決定部32により決定された移動後の追跡領域の位置、および算出部33により算出された移動量は、追跡領域情報記憶部82に記憶される。ただし、新規画像との相関値がしきい値th3未満の場合は、画像中の同一の部位が移動したと判断することはできないので、対応する追跡領域に関する情報を初期化する。また、追跡領域の始点位置(始点座標)が所定の範囲(水平方向x、垂直方向y)から外れた場合は、対応する追跡領域に関する情報を初期化する。これは、画像上における静止物や自車両の移動方向と異なる方向に移動する検出対象は、自車両の移動に伴って消失点(撮像画像中心)から周辺方向(撮像画像外側)に移動し、時間の経過とともに撮像範囲の外に出るためである。初期化された追跡領域に関しては、後述する判断手段6による判断処理は行われない。   The tracking region position after movement determined by the determination unit 32 and the movement amount calculated by the calculation unit 33 are stored in the tracking region information storage unit 82. However, if the correlation value with the new image is less than the threshold th3, it cannot be determined that the same part in the image has moved, so the information regarding the corresponding tracking area is initialized. Also, when the start point position (start point coordinates) of the tracking area deviates from a predetermined range (horizontal direction x, vertical direction y), information on the corresponding tracking area is initialized. This is because the detection target moving in a direction different from the moving direction of the stationary object or the host vehicle on the image moves from the vanishing point (center of the captured image) to the peripheral direction (outside of the captured image) with the movement of the host vehicle. This is because the camera goes out of the imaging range as time passes. With respect to the initialized tracking area, the determination process by the determination means 6 described later is not performed.

「撮像手段移動量算出手段4」は、撮像手段1の移動量を算出する。本実施形態の撮像手段1は移動体に搭載されているため、本実施形態では撮像手段1を搭載する車両(移動体)の移動量を算出することにより撮像手段1の移動量を算出する。具体的には、撮像周期(時間間隔Δt)で車輪の回転数を計測し、計測した回転数とタイヤの外周長とを乗じて算出する。なお、センサに対するトリガ位置を等角度に複数設定しておけば、1回転以下の分解能で回転数を計測することができる。   The “imaging means movement amount calculation means 4” calculates the movement amount of the imaging means 1. Since the imaging means 1 of this embodiment is mounted on a moving body, in this embodiment, the movement amount of the imaging means 1 is calculated by calculating the movement amount of a vehicle (moving body) on which the imaging means 1 is mounted. Specifically, the number of rotations of the wheel is measured at an imaging cycle (time interval Δt), and is calculated by multiplying the measured number of rotations and the outer circumferential length of the tire. If a plurality of trigger positions with respect to the sensor are set at equal angles, the number of rotations can be measured with a resolution of one rotation or less.

「障害物指標値算出手段5」は、異なるタイミングで撮像された2つの画像における移動前後の追跡領域の画像座標値と撮像手段1の移動量とから、障害物の相対的位置に関する指標値を算出する。移動前後の追跡領域の画像座標値は、領域移動量算出手段3により算出されたものを利用することができる。   The “obstacle index value calculation means 5” calculates an index value related to the relative position of the obstacle from the image coordinate value of the tracking area before and after the movement in the two images taken at different timings and the moving amount of the imaging means 1. calculate. As the image coordinate values of the tracking area before and after the movement, those calculated by the area movement amount calculation means 3 can be used.

本実施形態では、下式を用いて障害物の相対的位置に関する指標値Lを算出する。   In this embodiment, the index value L related to the relative position of the obstacle is calculated using the following equation.

(数1)L=f +ΔL*x1/(x2−x1)=f +ΔL*x1/Δx
ただし、
Lは、障害物の相対的位置に関する指標値,(障害物が静止物である場合、撮像手段の移動後におけるレンズ中心から追跡領域までの距離)
fは、レンズ焦点距離
ΔLは、撮像手段の移動量
x1は、撮像手段の移動前における、追跡領域の画像座標上のx座標値(撮像手段の光軸方向をy軸とする)
x2は、撮像手段の移動後における、追跡領域の画像座標上のx座標値(撮像手段の光軸方向をy軸とする)
Δxは、撮像手段の移動前後における、追跡領域の画像座標上のx軸方向(撮像手段の光軸方向をy軸とする)の移動量
なお、追跡領域の画像座標値として、追跡領域の画像座標値のほか、撮像手段1の撮像素子の受光面座標値を用いてもよい。
(Equation 1) L = f + ΔL * x1 / (x2-x1) = f + ΔL * x1 / Δx
However,
L is an index value relating to the relative position of the obstacle (if the obstacle is a stationary object, the distance from the lens center to the tracking area after the movement of the imaging means)
f is the lens focal length
ΔL is the amount of movement of the imaging means
x1 is an x-coordinate value on the image coordinates of the tracking area before the imaging unit is moved (the optical axis direction of the imaging unit is the y-axis).
x2 is an x-coordinate value on the image coordinates of the tracking area after the movement of the image pickup means (the optical axis direction of the image pickup means is the y-axis)
Δx is the amount of movement in the x-axis direction on the image coordinates of the tracking area (the optical axis direction of the imaging means is the y-axis) before and after the movement of the imaging means.
In addition to the image coordinate value of the tracking region, the light receiving surface coordinate value of the image sensor of the imaging unit 1 may be used as the image coordinate value of the tracking region.

上記(数1)式により求められる指標値Lは、車両に搭載した撮像手段1(カメラ)がΔtの時間に、その光軸方向にΔL移動したとき、撮像手段1から追跡領域までの距離Lに相当する。指標値L(撮像手段から追跡対象までの距離)の幾何学的関係を図5(a)に示した。光軸方向(y座標軸)に直行するx座標軸は、光軸位置より下側では負、上側では正の値をとる。   The index value L obtained by the above equation (1) is the distance L from the imaging means 1 to the tracking area when the imaging means 1 (camera) mounted on the vehicle moves ΔL in the optical axis direction during the time Δt. It corresponds to. The geometrical relationship of the index value L (distance from the imaging means to the tracking target) is shown in FIG. The x coordinate axis orthogonal to the optical axis direction (y coordinate axis) takes a negative value below the optical axis position and a positive value above the optical axis position.

図5(a)は、静止した障害物を撮像した撮像手段1(カメラ)がΔtの時間に、光軸方向に沿ってΔL移動した場合を示す。図5(a)に示すように、静止した障害物の追跡領域の投影像は、光軸位置から外向き(xの絶対値が増加する方向)に移動する。つまり、撮像手段1の移動前における、追跡領域の画像座標上(α1)のx座標値x1よりも、撮像手段1の移動後における、追跡領域の画像座標上(α2)のx座標値x2の方が大きい値をとる。したがって、Δx=x2−x1は正の値となり、(数1)式により算出された指標値Lは追跡領域までの距離となる。なお、障害物が撮像手段1を搭載するカメラから離れる場合も同様に、Δx=x2−x1は正の値となる。   FIG. 5A shows a case where the imaging means 1 (camera) that images a stationary obstacle moves ΔL along the optical axis direction during the time Δt. As shown in FIG. 5A, the projected image of the stationary obstacle tracking area moves outward (in the direction in which the absolute value of x increases) from the optical axis position. That is, the x coordinate value x2 on the image coordinates (α2) of the tracking area after the movement of the imaging means 1 is larger than the x coordinate value x1 on the image coordinates (α1) of the tracking area before the movement of the imaging means 1. Takes a larger value. Therefore, Δx = x2−x1 is a positive value, and the index value L calculated by Equation (1) is the distance to the tracking area. Similarly, Δx = x2−x1 is a positive value when the obstacle is away from the camera on which the imaging unit 1 is mounted.

図5(b)は、障害物が車両に接近する物、特に周辺から道路中央に向かって飛び出してくる障害物を撮像した場合の指標値Lの幾何学的関係を示した。撮像手段1(カメラ)はΔtの時間に、光軸方向に沿ってΔL移動する。図5(b)に示すように、車両に接近する障害物の追跡領域の投影像は、光軸位置から内向きに移動する。つまり、撮像手段1の移動前における、追跡領域の画像座標上(α1)のx座標値x1よりも、撮像手段1の移動後における、追跡領域の画像座標上(α2)のx座標値x2の方が小さい値をとる。したがって、Δx=x2−x1は負の値となり、(数1)式により算出された指標値Lは追跡領域までの距離にならない。本発明では、指標値Lの正負が障害物の挙動に対応する点に着目し、指標値Lを用いて障害物の挙動を判断することとしている。   FIG. 5B shows the geometric relationship of the index value L when an obstacle approaches the vehicle, particularly an obstacle that jumps out from the periphery toward the center of the road. The imaging means 1 (camera) moves ΔL along the optical axis direction at time Δt. As shown in FIG. 5B, the projection image of the tracking area of the obstacle approaching the vehicle moves inward from the optical axis position. That is, the x coordinate value x2 on the image coordinates (α2) of the tracking area after the movement of the imaging means 1 is larger than the x coordinate value x1 on the image coordinates (α1) of the tracking area before the movement of the imaging means 1. Takes a smaller value. Therefore, Δx = x2−x1 is a negative value, and the index value L calculated by the equation (1) does not become the distance to the tracking area. In the present invention, attention is paid to the fact that the sign value L corresponds to the behavior of the obstacle, and the behavior of the obstacle is determined using the index value L.

「判断手段6」は、指標値に基づいて障害物の挙動を判断する。具体的に、「判断手段6」は、障害物が移動体であるのか、障害物が静止物であるのか、障害物が自車両に接近する物であるのか、障害物が自車両に衝突する可能性があるのかを判断する。この障害物の挙動の判断は、上記(数1)により算出される指標値Lに基づいて行われることが好ましい。   The “determination unit 6” determines the behavior of the obstacle based on the index value. Specifically, the “determination means 6” determines whether the obstacle is a moving object, whether the obstacle is a stationary object, whether the obstacle is an object approaching the host vehicle, or the obstacle collides with the host vehicle. Determine if this is possible. The determination of the behavior of the obstacle is preferably performed based on the index value L calculated by the above (Equation 1).

まず、障害物が静止物であるのか、障害物が移動体であるのか、障害物が自車両に接近する物であるのかを判断する判断手段6の機能について説明する。本実施形態の判断手段6は、障害物指標値算出手段5により算出された指標値Lに基づいて障害物の挙動を判断する。   First, the function of the determination means 6 for determining whether the obstacle is a stationary object, whether the obstacle is a moving object, or whether the obstacle is an object approaching the host vehicle will be described. The determination unit 6 of the present embodiment determines the behavior of the obstacle based on the index value L calculated by the obstacle index value calculation unit 5.

本実施形態の判断手段6は、障害物指標値算出手段5により算出された、所定の周期で撮像された追跡領域の指標値Lが負である場合、障害物は車両に接近する移動物であると判断し、指標値Lが正である場合、障害物は静止物又は車両から離隔する移動物であると判断する。   When the index value L of the tracking area imaged in a predetermined cycle calculated by the obstacle index value calculation unit 5 is negative, the determination unit 6 of the present embodiment is a moving object that approaches the vehicle. If the index value L is positive, it is determined that the obstacle is a stationary object or a moving object separated from the vehicle.

また、判断手段6は、障害物指標値算出手段5により算出された、所定の周期で撮像された追跡領域の指標値Lが負である頻度を算出し、算出した頻度が第1の閾値(Rths1)以上である場合、撮像手段1(撮像手段1を搭載する車両)に対して接近する物であると判断する。他方、判断手段6は、追跡領域の指標値Lが負である頻度が第2の閾値(Rths2)未満である場合、障害物は撮像手段1(撮像手段1を搭載する車両)に対して静止している物又は離隔する物であると判断する。ここで算出される「頻度」は、所定の撮像回数に対して算出された指標値Lが正である回数の割合として算出される。なお、第1の閾値(Rths1)と第2の閾値(Rths2)とは、異なる値であってもよいが、本実施形態では同じ値とした。   In addition, the determination unit 6 calculates the frequency at which the index value L of the tracking region imaged in a predetermined cycle, which is calculated by the obstacle index value calculation unit 5, is negative, and the calculated frequency is the first threshold value ( If it is equal to or greater than Rths1), it is determined that the object is approaching the imaging unit 1 (the vehicle on which the imaging unit 1 is mounted). On the other hand, when the frequency that the index value L of the tracking area is negative is less than the second threshold value (Rths2), the determination unit 6 is stationary with respect to the imaging unit 1 (the vehicle on which the imaging unit 1 is mounted). It is judged that it is the thing which is doing or is separated. The “frequency” calculated here is calculated as a ratio of the number of times that the index value L calculated for a predetermined number of imaging is positive. The first threshold value (Rths1) and the second threshold value (Rths2) may be different values, but in the present embodiment, they are the same value.

次に、他の手法を用いて、障害物が静止物であるのか、障害物が移動体であるのか、障害物が自車両に接近する物であるのかを判断する機能について説明する。本実施形態の判断手段6は、障害物指標値算出手段5により算出された、所定の周期で撮像された各追跡領域の指標値Lが負の値である頻度を算出し、当該算出された頻度が第1の閾値以上の場合であって、更に、障害物指標値算出手段5により算出された、所定の周期で撮像された追跡領域の指標値Lの階差と、撮像手段移動量算出手段4により算出された撮像手段1の移動量との差分を算出するとともに、この差分が第3の閾値以上となる頻度を算出し、この算出された頻度が第4の閾値以上である場合、障害物は撮像手段に対して接近する物であると判断する。   Next, a function for determining whether an obstacle is a stationary object, an obstacle is a moving object, or an obstacle is an object approaching the host vehicle using another technique will be described. The determination means 6 of the present embodiment calculates the frequency at which the index value L of each tracking area imaged at a predetermined cycle, which is calculated by the obstacle index value calculation means 5, is a negative value, and the calculation is performed. In the case where the frequency is equal to or higher than the first threshold, the difference between the index values L of the tracking area imaged in a predetermined cycle calculated by the obstacle index value calculation unit 5 and the imaging unit movement amount calculation When calculating the difference between the movement amount of the image pickup means 1 calculated by the means 4 and calculating the frequency at which the difference is equal to or greater than the third threshold, and when the calculated frequency is equal to or greater than the fourth threshold, It is determined that the obstacle is an object approaching the imaging unit.

障害物が静止物である場合、所定周期で撮像される追跡領域ごとの指標値L(追跡領域までの距離)は、撮像手段1の移動距離(ΔL)だけ小さくなっていくはずである(図5(a)参照)。つまり、撮像動作に伴い、順次算出される追跡領域の指標値L(追跡領域までの距離)の階差から撮像手段1の移動距離ΔLを引いた値がゼロ乃至所定値以下となるはずである。言い換えると、障害物が車両に対して接近した場合、指標値Lの階差は障害物の移動量分だけΔLよりも大きくなるはずである。本実施形態では、指標値Lの階差からΔLを引いた値(障害物の接近移動量に相当)が第3の閾値thL以上となる頻度を算出し、算出された頻度が第4の閾値RthL以上である場合、障害物は撮像手段に接近する物であると判断する。第3閾値および第4閾値は、実験結果などに基づいて適宜決定することが好ましい。ちなみに、指標値Lの階差からΔLを引いた値が所定の閾値未満の値となる頻度を算出し、算出された頻度が所定の閾値以下である場合、障害物は接近物である判断してもよい。また、指標値Lの階差からΔLを引いた値が所定の閾値未満の値となる頻度を算出し、算出された頻度が所定の閾値以上である場合、障害物は静止物であると判断することもできる。   When the obstacle is a stationary object, the index value L (distance to the tracking area) for each tracking area imaged in a predetermined cycle should be reduced by the moving distance (ΔL) of the imaging means 1 (see FIG. 5 (a)). In other words, the value obtained by subtracting the moving distance ΔL of the imaging means 1 from the difference in the index value L (distance to the tracking area) of the tracking area calculated sequentially with the imaging operation should be zero or less than a predetermined value. . In other words, when the obstacle approaches the vehicle, the difference in the index value L should be larger than ΔL by the amount of movement of the obstacle. In the present embodiment, the frequency at which ΔL is subtracted from the difference between the index values L (corresponding to the approaching movement amount of the obstacle) is equal to or greater than the third threshold thL, and the calculated frequency is the fourth threshold. If it is equal to or greater than RthL, it is determined that the obstacle is an object approaching the imaging means. The third threshold value and the fourth threshold value are preferably determined as appropriate based on experimental results. By the way, the frequency at which ΔL is subtracted from the difference between the index values L is less than a predetermined threshold, and when the calculated frequency is equal to or lower than the predetermined threshold, it is determined that the obstacle is an approaching object. May be. Further, the frequency at which ΔL is subtracted from a difference between the index values L is less than a predetermined threshold value, and when the calculated frequency is equal to or higher than the predetermined threshold value, the obstacle is determined to be a stationary object. You can also

続いて、障害物が追突の可能性がある物であるのかを判断する判断手段6の機能について説明する。本実施形態の判断手段6は、領域移動量算出手段3により算出された移動量に基づいて障害物の挙動を判断する。   Next, the function of the determination unit 6 that determines whether an obstacle is a possibility of a rear-end collision will be described. The determination unit 6 of the present embodiment determines the behavior of the obstacle based on the movement amount calculated by the region movement amount calculation unit 3.

本実施形態の判断手段6は、所定の周期で撮像され追跡領域の移動量が、第5の閾値(thm)以下となる傾向がある場合、障害物は撮像手段に追突の可能性があると判断する。このように判断するように構成した理由を説明する。Aに位置する自車両に対し、Bに位置する他車両(障害物)が等速度で接近し、位置Cで衝突する場合の相対的位置関係を図6に示した。図6に示すように、自車両と他車両(障害物)の位置A,B,Cがなす三角形は、自車両が位置Cに向かって移動するとき相似の関係を保ちながら小さくなっていく。したがって、位置Aの自車両に搭載された撮像手段1(カメラ)で前方を撮像する場合、他車両(障害物)の位置するBは、光軸方向yに対して角度θを保つことになり、画像上でのx座標は変化しない。このように、他車両(B)のように自車両に対して接近してくる障害物のうち、衝突可能性のあるものは、画像でのx方向の移動量が小さいという特徴がある。本発明では、追跡領域の移動量と衝突可能性との関係に着目し、追跡領域の移動量が所定の閾値未満となる傾向がある場合、障害物は衝突の可能性があると判断することとしている。本実施形態では、追跡領域の移動量が第5の閾値(thm)未満である頻度が第6の閾値(Rthm)以上である場合、障害物が撮像手段1に衝突する可能性があると判断する。   In the present embodiment, the determination unit 6 captures an obstacle in the imaging unit when the movement amount of the tracking area, which is captured in a predetermined cycle, tends to be equal to or less than the fifth threshold (thm). to decide. The reason why it is configured to make this determination will be described. FIG. 6 shows the relative positional relationship when another vehicle (obstacle) located at B approaches the own vehicle located at A at a constant speed and collides at position C. As shown in FIG. 6, the triangle formed by the positions A, B, and C of the host vehicle and other vehicles (obstacles) becomes smaller while maintaining a similar relationship when the host vehicle moves toward the position C. Therefore, when imaging the front with the imaging means 1 (camera) mounted on the host vehicle at the position A, B where the other vehicle (obstacle) is located maintains an angle θ with respect to the optical axis direction y. The x coordinate on the image does not change. As described above, of the obstacles approaching the host vehicle like the other vehicle (B), there is a feature that the amount of movement in the x direction in the image is small in the possibility of collision. In the present invention, paying attention to the relationship between the amount of movement of the tracking region and the possibility of collision, if the amount of movement of the tracking region tends to be less than a predetermined threshold, it is determined that the obstacle is likely to collide It is said. In the present embodiment, when the frequency that the movement amount of the tracking area is less than the fifth threshold (thm) is greater than or equal to the sixth threshold (Rthm), it is determined that there is a possibility that an obstacle may collide with the imaging unit 1. To do.

このように、本実施形態の判断手段6は、障害物の相対的位置に関する指標値Lの正負、指標値Lの値を用いた算出結果、追跡領域の移動量に基づいて、障害物の挙動を判断することができる。これら3つの要因に基づく評価値を任意に組み合わせて、静止物、移動物、接近物、衝突可能性のある障害物を判断することができる。図7に、3つの評価値を軸とした座標系に、接近物、衝突可能性のある物、静止物を示した。   As described above, the determination unit 6 according to the present embodiment determines the behavior of the obstacle based on the sign value L of the relative position of the obstacle, the calculation result using the index value L, and the movement amount of the tracking area. Can be judged. An evaluation value based on these three factors can be arbitrarily combined to determine a stationary object, a moving object, an approaching object, and an obstacle with a possibility of collision. FIG. 7 shows an approaching object, an object that may collide, and a stationary object in a coordinate system with three evaluation values as axes.

図7の「移動量評価値」は所定の周期で撮像され追跡領域の移動量が、第5の閾値(thm)以下となる頻度である。この頻度が第6の閾値(Rthm)以上である場合、障害物は撮像手段1(撮像手段1を搭載する車両)に対して衝突可能性がある物であると判断する。「指標値の正負評価値」は、所定の周期で撮像された追跡領域の指標値Lが負である頻度である。この頻度が第1の閾値(Rths)以上である場合、障害物は撮像手段1(撮像手段1を搭載する車両)に対して接近する物であると判断する。「差分評価値」は、指標値Lの階差からΔLを引いた値(障害物の接近移動量に相当)が第3の閾値thL未満となる頻度を算出し、算出された頻度が所定の閾値RthL´以上である場合、障害物は撮像手段1(撮像手段1を搭載する車両)に対して静止している物であると判断する。つまり、閾値RthL´未満の領域は障害物が撮像手段1(撮像手段1を搭載する車両)に対して接近する物と判断する。以上これらの評価値を組み合わせることによって、検出したい障害物を正確に検出することができる。   The “movement amount evaluation value” in FIG. 7 is the frequency at which the movement amount of the tracking area captured at a predetermined cycle is equal to or less than the fifth threshold value (thm). If this frequency is equal to or greater than the sixth threshold (Rthm), it is determined that the obstacle is an object that may collide with the image pickup means 1 (the vehicle on which the image pickup means 1 is mounted). The “index value positive / negative evaluation value” is the frequency at which the index value L of the tracking area captured in a predetermined cycle is negative. When this frequency is equal to or higher than the first threshold value (Rths), it is determined that the obstacle is an object approaching the imaging unit 1 (the vehicle on which the imaging unit 1 is mounted). The “difference evaluation value” is calculated by calculating the frequency at which a value obtained by subtracting ΔL from the difference between the index values L (corresponding to the approaching movement amount of the obstacle) is less than the third threshold thL, and the calculated frequency is a predetermined value. When it is equal to or greater than the threshold value RthL ′, it is determined that the obstacle is an object that is stationary with respect to the imaging unit 1 (the vehicle on which the imaging unit 1 is mounted). That is, it is determined that an area less than the threshold value RthL ′ is an obstacle approaching the imaging unit 1 (vehicle equipped with the imaging unit 1). By combining these evaluation values as described above, the obstacle to be detected can be accurately detected.

次に、本実施形態の障害物検出装置100の処理手順を説明する。
図8は、本実施形態に係る障害物検出装置100の処理手順を示すフローチャートである。
ステップS10から始まる処理は、図示しないイグニッションスイッチがオンされることにより始まる。ステップS10では、追跡領域情報記憶部82に記憶されている追跡領域情報を初期化して、ステップS20に進む。ステップS20では、撮像手段1が車両周辺、特に車両前方を撮像し、撮像した画像を画像記憶部81に記憶して、ステップS30に進む。
Next, a processing procedure of the obstacle detection apparatus 100 according to the present embodiment will be described.
FIG. 8 is a flowchart showing a processing procedure of the obstacle detection apparatus 100 according to the present embodiment.
The process starting from step S10 starts when an ignition switch (not shown) is turned on. In step S10, the tracking area information stored in the tracking area information storage unit 82 is initialized, and the process proceeds to step S20. In step S20, the imaging means 1 images the periphery of the vehicle, particularly the front of the vehicle, stores the captured image in the image storage unit 81, and proceeds to step S30.

追跡領域検出手段2は、画像記憶部81に記憶されている画像に基づいて、追跡領域を検出する(ステップS30)。次に、領域移動量算出手段3は、所定の撮像周期(撮像間隔Δt)で、異なるタイミングにおいて撮像された2つの画像に基づいて、移動する障害物に対応する追跡領域の移動量を算出する(ステップS40)。撮像手段移動量算出手段4は撮像手段1の移動量を算出する。障害物指標値算出手段5は、追跡領域の画像座標値と撮像手段の移動量とから、障害物の指標値を算出する(ステップS50)。判断手段6は、障害物指標値に基づいて障害物の挙動を判断する。(ステップS60)。   The tracking area detection unit 2 detects the tracking area based on the image stored in the image storage unit 81 (step S30). Next, the region movement amount calculation means 3 calculates the movement amount of the tracking region corresponding to the moving obstacle based on two images captured at different timings at a predetermined imaging cycle (imaging interval Δt). (Step S40). The imaging unit movement amount calculation unit 4 calculates the movement amount of the imaging unit 1. The obstacle index value calculation means 5 calculates an obstacle index value from the image coordinate value of the tracking area and the moving amount of the imaging means (step S50). The judging means 6 judges the behavior of the obstacle based on the obstacle index value. (Step S60).

判断手段6による判断結果は、出力手段7を介して外部装置である警告装置200、および/または走行支援装置300へ出力される。障害物の検出結果は、「静止した障害物が存在する」「移動する障害物が存在する」「自車両(撮像手段を搭載した車両)に接近する障害物が存在する」「自車両(撮像手段を搭載した車両)に衝突の可能性がある障害物が存在する」旨の情報である。また、追跡領域の画像に対応づけられた座標を参照して導かれた「障害物の存在位置」を含めてもよい。さらに、パターンマッチング処理により導かれた「障害物は何か」という情報を含めてもよい。   The determination result by the determination unit 6 is output to the warning device 200 and / or the driving support device 300 which are external devices via the output unit 7. Obstacle detection results are as follows: “There is a stationary obstacle” “There is a moving obstacle” “There is an obstacle approaching the own vehicle (vehicle equipped with imaging means)” “Own vehicle (imaging) The vehicle equipped with the means) has an obstacle that may cause a collision. Further, an “obstacle presence position” derived by referring to coordinates associated with the image of the tracking area may be included. Further, information “what is an obstacle” derived by pattern matching processing may be included.

判断手段6の判断結果に応じて、警告装置200は運転者に警報を出力する(ステップS70)。警報は、画面表示によるものであってもよいし、音声案内によるものであってもよい。   According to the determination result of the determination means 6, the warning device 200 outputs an alarm to the driver (step S70). The alarm may be a screen display or a voice guidance.

ステップS70での処理が終わると、ステップS20に戻る。以後、撮像間隔Δtの周期で、ステップS20以降の処理が繰り返し行われる。   When the process in step S70 ends, the process returns to step S20. Thereafter, the processing after step S20 is repeatedly performed at a cycle of the imaging interval Δt.

以上のように、本実施形態の障害物検出装置100によれば、障害物の挙動を判断して、障害物を検出することができる。つまり、本実施形態の障害物検出装置100は、「静止した障害物が存在する」「移動する障害物が存在する」「自車両(撮像手段を搭載した車両)に接近する障害物が存在する」「自車両(撮像手段を搭載した車両)に衝突の可能性がある障害物が存在する」という旨の障害物の挙動が判断された障害物検出結果を出力することができる。   As described above, according to the obstacle detection apparatus 100 of the present embodiment, it is possible to detect an obstacle by judging the behavior of the obstacle. In other words, the obstacle detection apparatus 100 according to the present embodiment includes “an obstacle that is stationary”, “an obstacle that moves”, and “an obstacle that approaches the host vehicle (a vehicle equipped with an imaging unit)”. It is possible to output an obstacle detection result in which the behavior of the obstacle is judged to the effect that “there is an obstacle with a possibility of collision in the own vehicle (vehicle equipped with the imaging means)”.

本実施形態の障害物検出装置100は、上記(数1)式により求められる指標値L、追跡領域の移動量、指標値Lの階差と撮像装置1の移動距離との差を用いて障害物の挙動を正確に判断することができる。   The obstacle detection apparatus 100 according to the present embodiment uses the difference between the index value L obtained by the above equation (1), the movement amount of the tracking area, the difference between the index value L and the movement distance of the imaging apparatus 1. It is possible to accurately determine the behavior of an object.

追跡領域の移動量の算出処理において、追跡領域と探索領域との相関値を算出し、相関値に基づいて移動後の追跡領域を決定することにより、追跡領域の移動量を正確に算出することができる。   In the process of calculating the movement amount of the tracking area, the correlation value between the tracking area and the search area is calculated, and the movement area of the tracking area is accurately calculated by determining the tracking area after movement based on the correlation value. Can do.

障害物の移動を追跡するため、複数の濃淡変化を有する領域を追跡領域として設定し、障害物を正確に検出できる領域において障害物を検出するように構成したことから、精度の高い障害物検出処理を行うことができる。   In order to track the movement of obstacles, areas with multiple shade changes are set as tracking areas, and obstacles are detected in areas where obstacles can be detected accurately. Processing can be performed.

また、本実施形態では、1つのカメラで障害物を検出し、さらに障害物の挙動を判断することができる。つまり、カメラを2つ以上設ける必要がない。このため、カメラを2つ以上有する装置のように、対象までの距離を計測する装置を設ける必要がなく、機器構成を簡素化することができる。また、カメラ同士の精密な光軸合わせを行う必要がなく、コストや工数を減らすことができる。   In this embodiment, an obstacle can be detected by one camera, and the behavior of the obstacle can be determined. That is, it is not necessary to provide two or more cameras. For this reason, it is not necessary to provide a device for measuring the distance to the object as in a device having two or more cameras, and the device configuration can be simplified. In addition, it is not necessary to perform precise optical axis alignment between cameras, and costs and man-hours can be reduced.

本実施形態では、車両に搭載され、車両周囲の障害物を検出する障害物検出装置100について説明したが、これに限定されることなく、ロボット、工作機械等に用いることもできる。   In the present embodiment, the obstacle detection apparatus 100 that is mounted on a vehicle and detects obstacles around the vehicle has been described. However, the present invention is not limited to this, and the obstacle detection apparatus 100 can also be used for a robot, a machine tool, or the like.

なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。   The embodiment described above is described for facilitating the understanding of the present invention, and is not described for limiting the present invention. Therefore, each element disclosed in the above embodiment is intended to include all design changes and equivalents belonging to the technical scope of the present invention.

本実施形態に係る障害物検出装置のブロック構成図である。It is a block block diagram of the obstacle detection apparatus which concerns on this embodiment. 追跡領域の検出処理を説明するための第1の図である。It is a 1st figure for demonstrating the detection process of a tracking area | region. 追跡領域の検出処理を説明するための第2の図である。It is a 2nd figure for demonstrating the detection process of a tracking area | region. 追跡領域の移動量の算出処理を説明するための図である。It is a figure for demonstrating the calculation process of the movement amount of a tracking area | region. 図5(a)(b)は指標値Lを説明するための図である。5A and 5B are diagrams for explaining the index value L. FIG. 移動量に基づく衝突可能性の判断手法を説明するための図である。It is a figure for demonstrating the judgment method of the collision possibility based on a moving amount | distance. 障害物の検出処理を説明するための図である。It is a figure for demonstrating the detection process of an obstruction. 本実施形態に係る障害物検出装置の処理手順を示すフローチャート図である。It is a flowchart figure which shows the process sequence of the obstruction detection apparatus which concerns on this embodiment.

符号の説明Explanation of symbols

100…障害物検出装置
1…撮像手段
2…追跡領域検出手段
3…領域移動量算出手段
4…撮像手段移動量算出手段
5…障害物指標値算出手段
6…判断手段
7…出力手段
8…記憶手段
81…画像記憶部
82…追跡領域情報記憶部
83…しきい値記憶部
200…警告装置
300…走行支援装置
DESCRIPTION OF SYMBOLS 100 ... Obstacle detection apparatus 1 ... Imaging means 2 ... Tracking area | region detection means 3 ... Area movement amount calculation means 4 ... Imaging means movement amount calculation means 5 ... Obstacle index value calculation means 6 ... Judgment means 7 ... Output means 8 ... Memory | storage Means 81 ... Image storage unit 82 ... Tracking area information storage unit 83 ... Threshold storage unit 200 ... Warning device 300 ... Driving support device

Claims (10)

移動体に搭載され、前記移動体の周囲の障害物を検出する障害物検出装置であって、
移動体の周囲を所定の周期で撮像する撮像手段と、
前記撮像手段により撮像された画像から、少なくとも相対的に移動する障害物の画像に対応する追跡領域を検出する追跡領域検出手段と、
前記撮像手段により異なるタイミングで撮像された2つの画像に基づいて前記追跡領域検出手段により検出された追跡領域の移動前後の画像座標値を求める領域移動量算出手段と、
前記撮像手段の移動量を検出する撮像手段移動量算出手段と、
前記移動前の追跡領域の画像座標値と移動後の追跡領域の画像座標値と前記撮像手段の移動量とから、障害物の相対的位置に関する指標値を算出する障害物指標値算出手段と、
前記指標値に基づいて前記障害物の挙動を判断する判断手段と、を有する障害物検出装置。
An obstacle detection device that is mounted on a mobile body and detects obstacles around the mobile body,
Imaging means for imaging the periphery of the moving body at a predetermined cycle;
A tracking area detecting means for detecting a tracking area corresponding to an image of an obstacle moving at least relatively from the image captured by the imaging means;
Area movement amount calculation means for obtaining image coordinate values before and after movement of the tracking area detected by the tracking area detection means based on two images captured at different timings by the imaging means;
An imaging means movement amount calculating means for detecting a movement amount of the imaging means;
Obstacle index value calculating means for calculating an index value related to the relative position of the obstacle from the image coordinate value of the tracking area before the movement, the image coordinate value of the tracking area after the movement, and the moving amount of the imaging means,
An obstacle detection apparatus comprising: a determination unit that determines the behavior of the obstacle based on the index value.
前記障害物指標値算出手段は、下式を用いて前記指標値を算出する請求項1記載の障害物検出装置。
(数1)L=f +ΔL*x1/(x2−x1)
ただし、
Lは、障害物の相対的位置に関する指標値
fは、レンズ焦点距離
ΔLは、撮像手段の移動量
x1は、撮像手段の移動前における、追跡領域の画像座標上のx座標値(撮像手段の光軸方向をy軸とする)
x2は、撮像手段の移動後における、追跡領域の画像座標上のx座標値(撮像手段の光軸方向をy軸とする)
The obstacle detection device according to claim 1, wherein the obstacle index value calculation means calculates the index value using the following equation.
(Equation 1) L = f + ΔL * x1 / (x2-x1)
However,
L is the index value f related to the relative position of the obstacle, the lens focal length ΔL is the moving amount x1 of the imaging means, and the x coordinate value on the image coordinates of the tracking area before the imaging means is moved (of the imaging means). The optical axis direction is the y-axis)
x2 is an x-coordinate value on the image coordinates of the tracking area after the movement of the image pickup means (the optical axis direction of the image pickup means is the y-axis)
前記判断手段は、前記障害物指標値算出手段により算出された、前記所定の周期で撮像された各追跡領域の指標値Lが負の値である場合、前記障害物は前記撮像手段に対して接近する物であると判断する前記請求項2に記載の障害物検出装置。   When the index value L of each tracking area imaged in the predetermined cycle calculated by the obstacle index value calculating unit is a negative value, the determining unit determines that the obstacle is The obstacle detection apparatus according to claim 2, wherein the obstacle detection apparatus determines that the object is approaching. 前記判断手段は、前記障害物指標値算出手段により算出された、前記所定の周期で撮像された各追跡領域の指標値Lが負の値である頻度を算出し、当該算出された頻度が第1の閾値以上である場合、前記障害物は前記撮像手段に対して接近する物であると判断する前記請求項2に記載の障害物検出装置。   The determination means calculates a frequency that is calculated by the obstacle index value calculation means and the index value L of each tracking region imaged in the predetermined cycle is a negative value, and the calculated frequency is a first value. The obstacle detection device according to claim 2, wherein, when the threshold is equal to or greater than 1, the obstacle is determined to be an object approaching the imaging unit. 前記判断手段は、前記障害物指標値算出手段により算出された、前記所定の周期で撮像された各追跡領域の指標値Lが正の値である場合、前記障害物は前記撮像手段に対して静止している物または前記撮像手段から離隔する物であると判断する前記請求項2に記載の障害物検出装置。   When the index value L of each tracking area imaged in the predetermined period calculated by the obstacle index value calculating unit is a positive value, the determining unit determines that the obstacle is The obstacle detection apparatus according to claim 2, wherein the obstacle detection apparatus determines that the object is stationary or separated from the imaging unit. 前記判断手段は、前記障害物指標値算出手段により算出された、前記所定の周期で撮像された各追跡領域の指標値Lが負の値である頻度を算出し、当該算出された頻度が第2の閾値未満である場合、前記障害物は前記撮像手段に対して静止している物又は前記撮像手段から離隔する物であると判断する前記請求項2に記載の障害物検出装置。   The determination means calculates a frequency that is calculated by the obstacle index value calculation means and the index value L of each tracking region imaged in the predetermined cycle is a negative value, and the calculated frequency is a first value. The obstacle detection device according to claim 2, wherein when it is less than a threshold value of 2, the obstacle is determined to be an object that is stationary relative to the imaging unit or an object that is separated from the imaging unit. 前記判断手段は、前記障害物指標値算出手段により算出された、前記所定の周期で撮像された追跡領域ごとの指標値Lの階差と、前記撮像手段移動量算出手段により検出された撮像手段の移動量との差分を算出するとともに、当該差分が第3の閾値以上となる頻度を算出し、当該算出された頻度が第4の閾値以上である場合、前記障害物は前記撮像手段に対して接近する物であると判断する前記請求項4に記載の障害物検出装置。   The determining means includes the difference between the index values L for each tracking area imaged in the predetermined period, calculated by the obstacle index value calculating means, and the imaging means detected by the imaging means movement amount calculating means. And calculating the frequency at which the difference is greater than or equal to a third threshold, and when the calculated frequency is greater than or equal to a fourth threshold, the obstacle is The obstacle detection device according to claim 4, wherein the obstacle detection device determines that the object is approaching. 前記領域移動量算出手段は、移動前の追跡領域の画像座標値と移動後の追跡領域の画像座標値から追跡領域の移動量を算出し、
前記判断手段は、前記領域移動量算出手段により算出された追跡領域の移動量が第5の閾値未満である頻度を算出し、当該算出された頻度が第6の閾値以上である場合、前記障害物は前記撮像手段に追突の可能性があると判断する前記請求項2〜7のいずれかに記載の障害物検出装置。
The area movement amount calculation means calculates the movement amount of the tracking area from the image coordinate value of the tracking area before movement and the image coordinate value of the tracking area after movement,
The determination means calculates a frequency at which the movement amount of the tracking area calculated by the area movement amount calculation means is less than a fifth threshold, and if the calculated frequency is equal to or more than a sixth threshold, The obstacle detection device according to any one of claims 2 to 7, wherein an object is determined to have a possibility of a rear-end collision with the imaging unit.
前記領域移動量算出手段は、
前記検出された追跡領域と、当該追跡領域を基準として設定された探索領域との相関値を算出する相関値算出部と、
前記相関値算出部により算出された相関値が最大となる探索領域を、移動後の追跡領域として決定する決定部と、
前記決定部により決定された移動後の追跡領域の位置と、前記追跡領域検出手段により検出された移動前の追跡領域の位置とを比較し、移動量を算出する算出部とを有する請求項8に記載の障害物検出装置。
The area movement amount calculation means includes:
A correlation value calculation unit for calculating a correlation value between the detected tracking region and a search region set with reference to the tracking region;
A determination unit that determines a search region where the correlation value calculated by the correlation value calculation unit is maximum as a tracking region after movement;
The calculation unit that compares the position of the tracking area after movement determined by the determination unit with the position of the tracking area before movement detected by the tracking area detection unit, and calculates a movement amount. The obstacle detection apparatus according to 1.
前記追跡領域検出手段は、
前記画像のエッジを検出するエッジ検出部と、
前記エッジ検出部により検出されたエッジの縦方向成分と横方向成分との大きさの比の分散値を、前記画像の所定領域ごとに算出する分散値算出部と、
前記分散値算出部により算出された分散値が所定の値よりも大きい所定領域を、前記障害物の移動を追跡するための追跡領域として判断する追跡領域判断部とを有する請求項1〜9のいずれかに記載の障害物検出装置。

The tracking area detecting means includes
An edge detection unit for detecting an edge of the image;
A variance value calculating unit that calculates a variance value of a ratio of magnitudes of vertical and horizontal components of an edge detected by the edge detecting unit for each predetermined region of the image;
The tracking area determination part which determines the predetermined area | region where the dispersion value calculated by the said dispersion value calculation part is larger than a predetermined value as a tracking area for tracking the movement of the said obstruction. The obstacle detection device according to any one of the above.

JP2003415055A 2003-12-12 2003-12-12 Obstacle detecting device Pending JP2005170290A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003415055A JP2005170290A (en) 2003-12-12 2003-12-12 Obstacle detecting device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003415055A JP2005170290A (en) 2003-12-12 2003-12-12 Obstacle detecting device

Publications (1)

Publication Number Publication Date
JP2005170290A true JP2005170290A (en) 2005-06-30

Family

ID=34734671

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003415055A Pending JP2005170290A (en) 2003-12-12 2003-12-12 Obstacle detecting device

Country Status (1)

Country Link
JP (1) JP2005170290A (en)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007104200A (en) * 2005-10-03 2007-04-19 Nikon Corp Imaging apparatus
JP2008009843A (en) * 2006-06-30 2008-01-17 Honda Motor Co Ltd Obstacle discrimination device
JP2009175802A (en) * 2008-01-21 2009-08-06 Toyota Central R&D Labs Inc Object detection system
JP2009210424A (en) * 2008-03-04 2009-09-17 Nissan Motor Co Ltd Object detection device for vehicle and moving object determination method for vehicle
JP2009245045A (en) * 2008-03-31 2009-10-22 Hitachi Ltd Traffic volume measuring device
WO2011114547A1 (en) * 2010-03-17 2011-09-22 日立オートモティブシステムズ株式会社 Vehicle-mounting vehicle-surroundings recognition apparatus and vehicle-mounting vehicle-surroundings recognition system
JP2012038031A (en) * 2010-08-05 2012-02-23 Kyushu Institute Of Technology Detection method of object jumping out in front of mobile and device therefor
CN107085402A (en) * 2017-01-21 2017-08-22 孟凯涛 Internet of things monitoring management system
CN107924174A (en) * 2015-07-23 2018-04-17 X开发有限责任公司 system and method for determining tool offset
CN111242986A (en) * 2020-01-07 2020-06-05 北京百度网讯科技有限公司 Cross-camera obstacle tracking method, device, equipment, system and medium

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007104200A (en) * 2005-10-03 2007-04-19 Nikon Corp Imaging apparatus
JP2008009843A (en) * 2006-06-30 2008-01-17 Honda Motor Co Ltd Obstacle discrimination device
JP4707067B2 (en) * 2006-06-30 2011-06-22 本田技研工業株式会社 Obstacle discrimination device
JP2009175802A (en) * 2008-01-21 2009-08-06 Toyota Central R&D Labs Inc Object detection system
JP2009210424A (en) * 2008-03-04 2009-09-17 Nissan Motor Co Ltd Object detection device for vehicle and moving object determination method for vehicle
JP2009245045A (en) * 2008-03-31 2009-10-22 Hitachi Ltd Traffic volume measuring device
US9064418B2 (en) 2010-03-17 2015-06-23 Hitachi Automotive Systems, Ltd. Vehicle-mounted environment recognition apparatus and vehicle-mounted environment recognition system
WO2011114547A1 (en) * 2010-03-17 2011-09-22 日立オートモティブシステムズ株式会社 Vehicle-mounting vehicle-surroundings recognition apparatus and vehicle-mounting vehicle-surroundings recognition system
JP2011192226A (en) * 2010-03-17 2011-09-29 Hitachi Automotive Systems Ltd On-board environment recognition device, and on-board environment recognition system
JP2012038031A (en) * 2010-08-05 2012-02-23 Kyushu Institute Of Technology Detection method of object jumping out in front of mobile and device therefor
CN107924174A (en) * 2015-07-23 2018-04-17 X开发有限责任公司 system and method for determining tool offset
CN107924174B (en) * 2015-07-23 2020-11-10 X开发有限责任公司 System and method for determining tool offset
CN107085402A (en) * 2017-01-21 2017-08-22 孟凯涛 Internet of things monitoring management system
CN107085402B (en) * 2017-01-21 2019-04-26 新昌县维利机械有限公司 The electric vehicle of Internet of Things monitoring management system is installed
CN111242986A (en) * 2020-01-07 2020-06-05 北京百度网讯科技有限公司 Cross-camera obstacle tracking method, device, equipment, system and medium
CN111242986B (en) * 2020-01-07 2023-11-24 阿波罗智能技术(北京)有限公司 Cross-camera obstacle tracking method, device, equipment, system and medium

Similar Documents

Publication Publication Date Title
JP4958279B2 (en) Object detection device
JP4676373B2 (en) Peripheral recognition device, peripheral recognition method, and program
JP5421072B2 (en) Approaching object detection system
WO2016117200A1 (en) Outside environment recognition device for vehicles and vehicle behavior control device using same
JP4893212B2 (en) Perimeter monitoring device
JP2010072807A (en) Device for detecting and determining road boundary
JP2009156611A (en) Moving state estimation device
JP2002352225A (en) Obstacle detector and its method
JP6237874B2 (en) Self-position calculation device and self-position calculation method
JP2009198445A (en) Device and method for object detection
JP2014089548A (en) Road surface level difference detection method, road surface level difference detection device and vehicle equipped with the road surface level difference detection device
JP2007249257A (en) Apparatus and method for detecting movable element
JP2005170290A (en) Obstacle detecting device
JP4256992B2 (en) Obstacle detection device
JP3988758B2 (en) Moving body detection device
JP6496619B2 (en) Parking assistance device for vehicles
JP6407596B2 (en) Image processing apparatus and driving support system
WO2017188158A1 (en) Device for detecting road surface state
JP4106163B2 (en) Obstacle detection apparatus and method
JP4013872B2 (en) Obstacle detection device
JP2004362334A (en) Device for detecting area of traveling object
JP3951734B2 (en) Vehicle external recognition device
JP6072508B2 (en) Road surface step detection method, road surface step detection device, and vehicle equipped with road surface step detection device
JP7134780B2 (en) stereo camera device
JP4107273B2 (en) Moving body detection device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080708

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090120