JP5151050B2 - Vehicle environment recognition apparatus and vehicle environment recognition method - Google Patents

Vehicle environment recognition apparatus and vehicle environment recognition method Download PDF

Info

Publication number
JP5151050B2
JP5151050B2 JP2006081137A JP2006081137A JP5151050B2 JP 5151050 B2 JP5151050 B2 JP 5151050B2 JP 2006081137 A JP2006081137 A JP 2006081137A JP 2006081137 A JP2006081137 A JP 2006081137A JP 5151050 B2 JP5151050 B2 JP 5151050B2
Authority
JP
Japan
Prior art keywords
vehicle
light
irradiation
road surface
irradiation light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006081137A
Other languages
Japanese (ja)
Other versions
JP2007256090A (en
Inventor
秀和 西内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP2006081137A priority Critical patent/JP5151050B2/en
Publication of JP2007256090A publication Critical patent/JP2007256090A/en
Application granted granted Critical
Publication of JP5151050B2 publication Critical patent/JP5151050B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Measurement Of Optical Distance (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Description

本発明は、路面上の凹凸や物体の存在を認識する車両用環境認識装置及び車両用環境認識方法に関する。   The present invention relates to a vehicle environment recognition device and a vehicle environment recognition method for recognizing the presence of irregularities and objects on a road surface.

従来から、車両において自車両近傍の障害物を検出する障害物検出技術が知られている。特許文献1に記載のものはステレオカメラを用いた障害物検出技術であり、ステレオカメラで撮影した2方向からの画像情報の差分に基づいて、自車両近傍の障害物や道路環境等、自車両の周囲環境を認識するものである。
特開2005−45338号公報
Conventionally, an obstacle detection technique for detecting an obstacle in the vicinity of the host vehicle in a vehicle is known. The one described in Patent Document 1 is an obstacle detection technique using a stereo camera. Based on the difference in image information from two directions photographed by a stereo camera, an obstacle such as an obstacle near the own vehicle, a road environment, etc. It recognizes the surrounding environment.
JP-A-2005-45338

しかしながら、ステレオカメラの視軸を基準として距離情報が算出されるため、ピッチング等の車両の挙動によりカメラの視軸の方向が変化すると、観測対象が実空間において上下に移動したものとして計測されるため、自車両近傍の障害物や道路環境等の周囲環境を精度高く検出できなくなるという問題があった。   However, since the distance information is calculated based on the visual axis of the stereo camera, if the direction of the visual axis of the camera changes due to the behavior of the vehicle such as pitching, the observation target is measured as moving up and down in real space. For this reason, there is a problem that it is impossible to accurately detect the surrounding environment such as an obstacle near the own vehicle and a road environment.

上記課題を解決するために、請求項1の車両用環境認識装置は、車幅方向に広がる照射
光を、路面上に照射するとともに、前記照射光を自車両の近傍から遠方に向けてスキャン
する照射光照射手段と、前記照射光を撮像する撮像手段と、前記撮像手段が撮像した撮像
画像中における前記照射光のスキャンに伴う、前記自車両の前後方向に対応する方向の前
記照射光の移動速度の変化に基づいて、前記路面上の凹凸若しくは前記路面上の物体等の
路面変化部位による前記照射光の形状変化を検出する照射光形状変化検出手段と、前記照
射光形状変化検出手段により検出された前記照射光の形状変化に基づいて、前記自車両か
ら前記路面変化部位までの距離を演算する距離演算手段と、自車両前方の所定の位置に照
準光を照射する1つの照準光照射手段と、前記撮像手段が前記照射光を撮像する際に合わ
せて撮像する前記照準光の上下方向の位置変化に基づいて、自車両の車両挙動を検出する
車両挙動監視手段と、該車両挙動監視手段により検出された車両挙動量によって、前記照
射光の照射方向を補正する姿勢補正手段と、を有することを特徴とする。
In order to solve the above-described problem, the vehicle environment recognition apparatus according to claim 1 irradiates the irradiation light spreading in the vehicle width direction on the road surface, and scans the irradiation light from the vicinity of the own vehicle toward the far side. An irradiation light irradiating means, an imaging means for imaging the irradiation light, and a front of a direction corresponding to a front-rear direction of the host vehicle accompanying a scan of the irradiation light in a captured image captured by the imaging means.
Irradiation light shape change detection means for detecting a change in shape of the irradiation light due to unevenness on the road surface or a road surface change part such as an object on the road surface based on a change in the moving speed of the irradiation light, and the irradiation light shape Based on the change in shape of the irradiation light detected by the change detection means, distance calculation means for calculating a distance from the own vehicle to the road surface change portion, and irradiating the aiming light to a predetermined position in front of the own vehicle 1 Two aiming light irradiating means, vehicle behavior monitoring means for detecting a vehicle behavior of the host vehicle based on a vertical position change of the aiming light that is imaged when the imaging means images the irradiation light, and And posture correction means for correcting the irradiation direction of the irradiation light based on the amount of vehicle behavior detected by the vehicle behavior monitoring means.

本発明の車両用環境認識装置によれば、ピッチング等の車両の挙動によりカメラの視軸の方向が変化しても、自車両近傍の障害物や道路環境等の周囲環境を精度高く検出できる。   According to the vehicle environment recognition device of the present invention, even if the direction of the visual axis of the camera changes due to the behavior of the vehicle such as pitching, it is possible to accurately detect the surrounding environment such as an obstacle or road environment in the vicinity of the host vehicle.

以下、本発明を実施するための最良の形態を図面を用いて説明する。   The best mode for carrying out the present invention will be described below with reference to the drawings.

図1は実施の形態にかかる車両用環境認識装置のシステムブロック図を示している。この車両用環境認識装置1は、路面を撮像する撮像手段としてのCCDカメラ2と、CCDカメラ2の路面撮像画像を記憶する画像メモリ3と、マイクロプロセッサ4と、照射光として水平方向に延びるスリット光を照射するスリット光発光装置5(照射光照射手段)と、ピッチングによるスリット光の照射範囲の変動を補正するスリット光発光装置の制御装置6と、自車両のピッチングを検出するための照準光を照射するピッチング照準光発光装置7(照準光照射手段)と、ピッチングによる照準光の照射方向の変動を補正するピッチング照準光発光装置の制御装置8と、撮像画面を表示するモニター10と、物体等の検出を知らせる音声発生装置11と、スピーカ12を備えている。モニター10はマイクロプロセッサ4から出力された周囲環境情報を含む路面画像を運転者に表示する。上記のスリット光は車幅方向に延びる1以上の線状部を有する照射光である。   FIG. 1 is a system block diagram of a vehicle environment recognition apparatus according to an embodiment. This vehicle environment recognition apparatus 1 includes a CCD camera 2 as an imaging means for imaging a road surface, an image memory 3 for storing a road surface captured image of the CCD camera 2, a microprocessor 4, and a slit extending in the horizontal direction as irradiation light. A slit light emitting device 5 (irradiating light irradiating means) for irradiating light, a control device 6 for the slit light emitting device for correcting variation of the irradiation range of the slit light due to pitching, and an aiming light for detecting pitching of the host vehicle , A pitching aiming light emitting device 7 (aiming light irradiating means), a pitching aiming light emitting device control device 8 that corrects fluctuations in the irradiation direction of the aiming light due to pitching, a monitor 10 that displays an imaging screen, and an object Are provided with a sound generation device 11 that informs the detection of the sound and the like, and a speaker 12. The monitor 10 displays a road surface image including ambient environment information output from the microprocessor 4 to the driver. The slit light is irradiation light having one or more linear portions extending in the vehicle width direction.

マイクロプロセッサ4には、所定時間に所定枚数の画像(例えば1秒間に30フレーム)を撮像したり、撮像を停止したりするようにCCDカメラ2を制御する路面撮像プログラムP1と、画像メモリ3に記憶された撮像画像データを所定時間毎に所定フォーマットによりモニター10に出力する画像処理プログラムP2と、ピッチング照準光発光装置7から照準光を照射するピッチング照準光制御プログラムP3と、当該照準光の変動量から自動車Amの車体のピッチングの挙動量を演算するピッチング監視プログラムP4(車両挙動監視手段)と、ピッチング監視プログラムP4の検出した自車両のピッチングによる挙動量によってピッチング監視用の照準光の照射方向及び後述するスリット光の照射方向を補正するピッチング補正プログラムP5と、スリット光発光装置5から路面にスリット光を照射するスリット光制御プログラムP6と、撮像画面上のスリット光から移動速度を演算するスリット光速度演算プログラムP7と、スリット光速度演算プログラムP7により得られたスリット光の移動速度の変動の程度から走路領域を検出する走路検出プログラムP8(路面検出手段)と、画像メモリ3にロードされた路面の画像データとスリット光速度演算プログラムP7により得られたスリット光の移動速度の変化に基づいて路面上の物体等の存在を検出する物体検出プログラムP9(路面変化部位の検出手段)と、物体検出プログラムP9と走路検出プログラムP8の走路領域データとに基づいて自車両から物体までの距離を演算した後、モニターの画面14に物体までの距離及び物体の高さを表示する物体距離演算プログラムP10(路面の変化部位の距離演算手段)と、を有する。   The microprocessor 4 includes a road surface imaging program P1 for controlling the CCD camera 2 so as to capture a predetermined number of images (for example, 30 frames per second) at a predetermined time or stop the imaging, and an image memory 3 An image processing program P2 that outputs the stored captured image data to the monitor 10 in a predetermined format every predetermined time, a pitching aiming light control program P3 that emits aiming light from the pitching aiming light emitting device 7, and fluctuations in the aiming light The pitching monitoring program P4 (vehicle behavior monitoring means) that calculates the pitching behavior amount of the vehicle body of the automobile Am from the amount, and the irradiation direction of the aiming light for pitching monitoring by the behavior amount due to the pitching of the own vehicle detected by the pitching monitoring program P4 And a pitching correction program for correcting the irradiation direction of slit light, which will be described later. A ram P5, a slit light control program P6 that irradiates slit light onto the road surface from the slit light emitting device 5, a slit light speed calculation program P7 that calculates a moving speed from the slit light on the imaging screen, and a slit light speed calculation program P7. Obtained by the road detection program P8 (road surface detection means) for detecting the road area from the degree of fluctuation of the moving speed of the slit light obtained by the above, and the road surface image data loaded in the image memory 3 and the slit light speed calculation program P7. An object detection program P9 for detecting the presence of an object or the like on the road surface based on a change in the moving speed of the slit light (road surface change portion detection means), road area data of the object detection program P9 and the road detection program P8, and After calculating the distance from the vehicle to the object based on the With the distance and the object distance calculation program for displaying the height of the object P10 (distance calculating means changes the site of road surface), the.

CCDカメラ2は、車室内に設置されたルームミラー(図示省略)部に自車両前方を撮影するように取り付けられている。このCCDカメラ2は、マイクロプロセッサ4の路面撮像プログラムP1の命令により例えば図3に示す自動車Amの進行方向前方の路面13を撮像する。CCDカメラ2が所定時間毎(一例として1秒間に30フレーム)に撮像した路面画像は、画像メモリ3に一時的に記憶されたのちマイクロプロセッサ4に次々に出力される。マイクロプロセッサ4の画像処理プログラムP2は、図2に示すように、画像メモリ3から所定時間毎に次々に送られてくる路面画像フレームを撮像画面14として処理し、モニター10に出力する。   The CCD camera 2 is attached to a room mirror (not shown) installed in the vehicle interior so as to photograph the front of the host vehicle. This CCD camera 2 images, for example, the road surface 13 ahead of the traveling direction of the automobile Am shown in FIG. Road surface images captured by the CCD camera 2 every predetermined time (for example, 30 frames per second) are temporarily stored in the image memory 3 and then output to the microprocessor 4 one after another. As shown in FIG. 2, the image processing program P <b> 2 of the microprocessor 4 processes the road surface image frames successively sent from the image memory 3 every predetermined time as the imaging screen 14 and outputs it to the monitor 10.

図4はスリット光発光装置5の平面的な構成の概略図を示し、図5はスリット光発光装置5の側面的な構成の概略図を示す。スリット光発光装置5の筐体16の内部には、路面状態を観察する照射光を発するランプ17と、ランプ17の照射光を路面に平行なスリット光に変えるスリット板18と、スリット光を車体の下側から車体の前方方向に走査するガルバノミラー19と、ランプ17を点灯させる図示しない電源回路部が配備される。   FIG. 4 shows a schematic diagram of a planar configuration of the slit light emitting device 5, and FIG. 5 shows a schematic diagram of a side configuration of the slit light emitting device 5. Inside the housing 16 of the slit light emitting device 5 are a lamp 17 that emits irradiation light for observing the road surface state, a slit plate 18 that converts the irradiation light of the lamp 17 into slit light parallel to the road surface, and the slit light to the vehicle body. A galvano mirror 19 that scans in the forward direction of the vehicle body from the lower side and a power supply circuit unit (not shown) that lights the lamp 17 are provided.

ランプ17は、人の眼には見えないように例えば赤外光を発行する赤外線ランプで構成され、歩行者や他の車の乗員等への煩わしさを防止できるようになっている。ランプ17は縞模様が形成されるように赤外線レーザー光等を照射するレーザー発光素子で構成されるものであっても良い。   The lamp 17 is composed of, for example, an infrared lamp that emits infrared light so as not to be seen by human eyes, and can prevent annoyance to pedestrians and other vehicle occupants. The lamp 17 may be composed of a laser light emitting element that irradiates infrared laser light or the like so that a striped pattern is formed.

スリット板18には路面に対して平行な水平方向に延びる細長いスリット穴20が開口されている。スリット板18のスリット穴20は1個形成されていても良いが、縦方向に2以上形成されていても良い。スリット板18の照射方向前方には、ガルバノミラー19が配置されている。   The slit plate 18 has an elongated slit hole 20 extending in the horizontal direction parallel to the road surface. Although one slit hole 20 of the slit plate 18 may be formed, two or more slit holes 20 may be formed in the vertical direction. A galvano mirror 19 is arranged in front of the slit plate 18 in the irradiation direction.

ガルバノミラー19は、前進の場合、スリット板18を通過した車幅方向に延びるスリット光を上下方向に走査する。ガルバノミラー19は、筐体16の側壁に設けられたモーター22の回転軸によってスリット光を車体の下側から上方向にスキャンするように回転する。なお、ガルバノミラー19の代わりにポリゴンミラーのような多角柱状のミラーを用いて走査速度を速くしても良い。筐体16の前側の開口部21には透明カバー23が取り付けられている。   In the case of forward movement, the galvanometer mirror 19 scans slit light extending in the vehicle width direction that has passed through the slit plate 18 in the vertical direction. The galvanometer mirror 19 rotates so as to scan the slit light upward from the lower side of the vehicle body by the rotation axis of the motor 22 provided on the side wall of the housing 16. The scanning speed may be increased by using a polygonal columnar mirror such as a polygon mirror instead of the galvanometer mirror 19. A transparent cover 23 is attached to the opening 21 on the front side of the housing 16.

スリット光発光装置の制御装置6は、スリット光発光装置5の姿勢を補正する姿勢補正
手段を構成する。スリット光発光装置の制御装置6は、図7に示すように、筐体16の傾
斜角度を決めるモーター33を有する。照射光であるスリット光の照射範囲は、ガルバノ
ミラー19の制御範囲及び筐体16の上下方向の傾きによって決められる。スリット光発
光装置5は、架台30に搭載されており、架台30は、車体のフロントグリル15内側の
フレーム31に取り付けられた取付軸32に支持されている。取付軸32は車幅方向に水
平に延びるように設置されている。架台30は、この取付軸32に対して照射光であるス
リット光の照射角度を調整できるように取り付けられていると共に、モーター33の回転
軸に取り付けられるリンク34に連結されている。リンク34は架台30に固定されたレ
バー35に連結されており、モーター33が所定の角度回動すると、リンク34の動きに
よってレバー35が架台30の向きを所定の角度に変えることが出来るようになっている。
The control device 6 of the slit light emitting device constitutes a posture correcting means for correcting the posture of the slit light emitting device 5. As shown in FIG. 7, the control device 6 of the slit light emitting device has a motor 33 that determines the inclination angle of the housing 16. The irradiation range of the slit light that is the irradiation light is determined by the control range of the galvanometer mirror 19 and the vertical inclination of the housing 16. The slit light emitting device 5 is mounted on a gantry 30, and the gantry 30 is supported by an attachment shaft 32 attached to a frame 31 inside the front grill 15 of the vehicle body. The attachment shaft 32 is installed so as to extend horizontally in the vehicle width direction. The gantry 30 is attached to the attachment shaft 32 so that the irradiation angle of the slit light, which is the irradiation light, can be adjusted, and is connected to a link 34 attached to the rotation shaft of the motor 33. The link 34 is connected to a lever 35 fixed to the gantry 30 so that when the motor 33 rotates by a predetermined angle, the lever 35 can change the direction of the gantry 30 to a predetermined angle by the movement of the link 34. It has become.

マイクロプロセッサ4には、平坦な路面13に対するスリット光の照射初期角度のデータと、スリット光をスキャンする際のスキャンの角速度のデータとが予め記憶され、スリット光制御プログラムP6はこのデータに基づいて、スリット光発光装置の制御装置6とスリット光発光装置5とを制御する。   The microprocessor 4 stores in advance data on the initial irradiation angle of the slit light with respect to the flat road surface 13 and data on the angular velocity of scanning when scanning the slit light, and the slit light control program P6 is based on this data. The slit light emitting device control device 6 and the slit light emitting device 5 are controlled.

ピッチング照準光発光装置7は、スリット光発光装置5と共にフロントグリル15内側に配備される。ピッチング照準光発光装置7は、筐体7Bの内部にランプ7Aが配備され、筐体7Bの前方部の開口部にレンズ7Cが設けられている。ピッチング照準光発光装置7は、架台80の上に設置されており、架台80は車体のフロントグリル15内側のフレーム31に取付軸82によって回動可能に支持されている。架台80には、ピッチング照準光発光装置の制御装置8が設けられている。このピッチング照準光発光装置の制御装置8は、モーター83、リンク84、レバー85を備えており、モーター83はフレーム31に固定されている。リンク84の一端はモーター83の回転軸に固定されており、リンク84の他端はレバー85の一端に連結されている。レバー85の他端は架台80に固定されている。モーター83の電源回路は自動車のバッテリーに接続され、ピッチング補正プログラムP5の命令により指示された角度にピッチング照準光発光装置7を向ける。   The pitching aiming light emitting device 7 is disposed inside the front grill 15 together with the slit light emitting device 5. The pitching aiming light emitting device 7 is provided with a lamp 7A inside a housing 7B, and a lens 7C provided at an opening in a front portion of the housing 7B. The pitching sight light-emitting device 7 is installed on a gantry 80, and the gantry 80 is rotatably supported on a frame 31 inside the front grill 15 of the vehicle body by a mounting shaft 82. The gantry 80 is provided with a control device 8 for the pitching aiming light emitting device. The control device 8 for the pitching sight light emitting device includes a motor 83, a link 84, and a lever 85, and the motor 83 is fixed to the frame 31. One end of the link 84 is fixed to the rotating shaft of the motor 83, and the other end of the link 84 is connected to one end of the lever 85. The other end of the lever 85 is fixed to the gantry 80. The power circuit of the motor 83 is connected to the battery of the automobile, and directs the pitching aiming light emitting device 7 at an angle designated by the instruction of the pitching correction program P5.

ピッチング照準光制御プログラムP3はピッチング照準光発光装置7からピッチング検
出用の照準光を照射する。
Pitching aiming light control program P3 irradiates aiming light for pitching detected from pitching aiming light emitting device 7.

ピッチング監視プログラムP4は、ピッチング照準光発光装置7から照射される照準
監視する。また、ピッチング監視プログラムP4は、監視の前に、モニター10の撮像画面14中に撮像された部位の内、変動の最も少ない部位(後述)を補正基準点T1として設定し、ピッチング照準光制御プログラムP3で補正基準点T1に照準光を先ず照射した後に、撮像画面14上の照準光の照射点T2を監視する。
Pitching monitoring program P4 is aiming light emitted from pitching aiming light emitting device 7
To monitor. In addition, the pitching monitoring program P4 sets, as the correction reference point T1, a portion (described later) having the least fluctuation among the portions imaged on the imaging screen 14 of the monitor 10 before monitoring, and the pitching aiming light control program. After irradiating the aiming light to the correction reference point T1 in P3, the aiming light irradiation point T2 on the imaging screen 14 is monitored.

ピッチング監視プログラムP4は、この照準光が補正基準点T1から離れた量が許容量以上に変動したときに、ピッチング発生と判断する。更に、ピッチング監視プログラムP4はこのピッチング検出と共に、ピッチング量並びにピッチング角速度を算出し、ピッチング量並びにピッチング角速度を、スリット光制御プログラムP6、ピッチング照準光制御プログラムP3、ピッチング補正プログラムP5に渡す。ピッチング監視プログラムP4は、車両挙動監視手段であり、CCDカメラ2の撮像画像における照準光の照射方向の変化を観測することで、補正が正しく行われたか否かを判断する補正の信頼性を判定する機能を有する。 The pitching monitoring program P4 determines that pitching has occurred when the amount of the aiming light that has moved away from the correction reference point T1 has fluctuated more than an allowable amount. Further, the pitching monitoring program P4 calculates the pitching amount and the pitching angular velocity together with the pitching detection, and passes the pitching amount and the pitching angular velocity to the slit light control program P6, the pitching aiming light control program P3, and the pitching correction program P5. The pitching monitoring program P4 is vehicle behavior monitoring means, and determines the reliability of the correction for determining whether or not the correction is correctly performed by observing the change in the irradiation direction of the aiming light in the image captured by the CCD camera 2. It has the function to do.

ピッチング補正プログラムP5は、ピッチングにより変動した照準光の照射方向を補正する制御信号を制御装置8に出力する。つまり、ピッチング補正プログラムP5は、ピッチング監視プログラムP4が検出した自動車Amのピッチングの挙動量並びにピッチング角速度のデータに基づいて、ピッチング検出用のピッチング照準光発光装置7の照射角度を補正するように、ピッチング照準光発光装置の制御装置8を制御する。 The pitching correction program P5 outputs to the control device 8 a control signal for correcting the irradiation direction of the aiming light that has fluctuated due to the pitching. That is, the pitching correction program P5 corrects the irradiation angle of the pitching aiming light-emitting device 7 for pitching detection based on the pitching behavior amount and the pitching angular velocity data of the automobile Am detected by the pitching monitoring program P4. The control device 8 of the pitching aiming light emitting device is controlled.

制御装置8は、ピッチング補正プログラムP5の補正命令に基づいて、撮像画面の中の
補正基準点T1の位置に照準光の照射点T2が位置するように、架台80のモーター83の制御を行い、ピッチング照準光発光装置7の照射角度を補正する。
Based on the correction command of the pitching correction program P5, the control device 8
The motor 83 of the gantry 80 is controlled so that the irradiation point T2 of the aiming light is positioned at the position of the correction reference point T1, and the irradiation angle of the pitching aiming light emitting device 7 is corrected.

更に、ピッチング補正プログラムP5は、この補正の後に、再度照準光の照射点T2と補正基準点T1の比較を行い、ピッチング補正が正しく行われているかの検証を行う。 Furthermore, after this correction, the pitching correction program P5 compares the aiming light irradiation point T2 and the correction reference point T1 again to verify whether the pitching correction is correctly performed.

スリット光制御プログラムP6は、マイクロプロセッサ4に記憶された照射初期方向のデータ、照射光をスキャンする際のスキャンの範囲及びスキャンの角速度のデータに基づいて、自車の前方を一定速度の照射光であるスリット光をスキャンする制御信号を、スリット光発光装置の制御装置6に出力する。   The slit light control program P6 is based on the irradiation initial direction data stored in the microprocessor 4, the scanning range when scanning the irradiation light, and the angular velocity data of the scanning. A control signal for scanning the slit light is output to the control device 6 of the slit light emitting device.

また、スリット光制御プログラムP6は、ガルバノミラー19で反射するスリット光が指定した角速度で路面13をスキャンできるように、モーター22の回転速度を決める。また、スリット光制御プログラムP6は、スキャンするスリット光の点灯・消灯等の指示命令をランプ17の電源回路に出力し、ランプ17の発光を制御する。このランプ17の電源回路部の制御は必要によりランプ17の点滅或いは照度の制御であっても良い。   The slit light control program P6 determines the rotational speed of the motor 22 so that the slit 13 reflected by the galvano mirror 19 can scan the road surface 13 at the specified angular speed. Further, the slit light control program P6 outputs an instruction command for turning on / off the slit light to be scanned to the power supply circuit of the lamp 17, and controls the light emission of the lamp 17. Control of the power supply circuit section of the lamp 17 may be control of blinking of the lamp 17 or illuminance as necessary.

さらに、ピッチング補正プログラムP5は、照準光の照射方向と共にスリット光の照射範囲を補正するように、スリット光制御プログラムP6に出力する。 Further, the pitching correction program P5 outputs to the slit light control program P6 so as to correct the irradiation range of the slit light together with the irradiation direction of the aiming light .

ピッチング補正プログラムP5は、ピッチングにより変動したスリット光の照射方向を補正する制御信号をスリット光発光装置の制御装置6に出力する。つまり、ピッチング補正プログラムP5は、ピッチング監視プログラムP4が検出した自動車Amのピッチングの挙動量並びにピッチング角速度のデータに基づいて、スリット光発光装置5の照射角度及びスキャン終了角度を補正するように、スリット光発光装置の制御装置6を制御する。   The pitching correction program P5 outputs a control signal for correcting the irradiation direction of the slit light changed by the pitching to the control device 6 of the slit light emitting device. That is, the pitching correction program P5 is configured to correct the irradiation angle and the scan end angle of the slit light emitting device 5 based on the pitching behavior amount and the pitching angular velocity data of the automobile Am detected by the pitching monitoring program P4. The control device 6 of the light emitting device is controlled.

なお、スリット光制御プログラムP6は、走行モードや停止モードにおいて、路面状態を検出するという路面撮像プログラムP1と画像処理プログラムP2が立ち上がった後に、自動車の速度やスリット光発光装置5の高さに応じて、ガルバノメーター19を回転させる角速度を制御したり、ランプ17の点灯や消灯或いは点滅等の制御を行う。   The slit light control program P6 depends on the speed of the automobile and the height of the slit light emitting device 5 after the road surface imaging program P1 and the image processing program P2 for detecting the road surface state are started in the running mode and the stop mode. Thus, the angular speed at which the galvanometer 19 is rotated is controlled, and the lamp 17 is turned on / off or blinked.

スリット光速度演算プログラムP7は、スリット光が路面上を移動する速度を演算する。   The slit light speed calculation program P7 calculates the speed at which the slit light moves on the road surface.

走路検出プログラムP8は、スリット光速度演算プログラムP7が演算したスリット光の移動速度の変動量が所定範囲内にある領域を走路として検出する。   The travel path detection program P8 detects, as a travel path, an area where the variation amount of the movement speed of the slit light calculated by the slit light speed calculation program P7 is within a predetermined range.

物体検出プログラムP9は、撮像画面14上においてスリット光が路面13上の物体に当たって速度が変化したことを検出する。即ち、図2及び図8に示すように、物体にスリット光が当たったときに当該スリット光の移動速度は路面上を走査されるスリット光に比べて遅れる。このとき、CCDカメラ2はこの状態を撮像しているので、図2に示すように、モニター10の撮像画面14の物体に当たったスリット光は画面下方に突出するように変形する。   The object detection program P9 detects that the speed has changed when the slit light hits an object on the road surface 13 on the imaging screen 14. That is, as shown in FIGS. 2 and 8, when the slit light hits the object, the moving speed of the slit light is delayed compared to the slit light scanned on the road surface. At this time, since the CCD camera 2 images this state, as shown in FIG. 2, the slit light hitting the object on the imaging screen 14 of the monitor 10 is deformed so as to protrude downward.

物体距離演算プログラムP10は、物体検出プログラムP9の検出物体と走路検出プログラムP8の検出路面のデータに基づいて、自車両から物体までの距離を演算してモニター10の監視画面14B(図2参照)に出力する。   The object distance calculation program P10 calculates the distance from the vehicle to the object based on the detected object data of the object detection program P9 and the detected road surface data of the road detection program P8, and the monitor screen 14B of the monitor 10 (see FIG. 2). Output to.

物体距離演算プログラムP10は、上述のスリット光の突出部分が何番目のフレームに表れたかを検出して、路面13上に物体或いは突起部があると判断する。また、物体距離演算プログラムP10は、変形したスリット光の変形部分の高さから、物体の高さを演算し、監視画面14Bには例えば「前方○○mに高さ○○cmの物体があります。」等の表示を行うと共に、音声発生装置11の例えば音声IC等によりスピーカ12から「前方○○mに高さ○○cmの物体があります。」等の音声を発生する。   The object distance calculation program P10 detects in which frame the protruding portion of the slit light appears and determines that there is an object or a protrusion on the road surface 13. Moreover, the object distance calculation program P10 calculates the height of the object from the height of the deformed portion of the deformed slit light, and the monitoring screen 14B has, for example, “There is an object of height ○○ cm in front ○○ m. , Etc., and a voice such as “There is an object with a height of OO cm in front of OO m” is generated from the speaker 12 by, for example, an audio IC of the audio generator 11.

路面が凹んでいるときには路面画像上では同一スリット光において凹みに当たったスリット光が先に進んだようになるので、その進んだ部位が所定速度以上であると、路面の陥没部に当たったと判断できる。   When the road surface is concave, on the road surface image, the slit light that hits the dent in the same slit light seems to advance first, so if the advanced part exceeds the predetermined speed, it is judged that it hits the depressed part of the road surface it can.

次に、スリット光をスキャンしたときの路面画像上におけるスリット光の移動速度の変化から同一平面及び物体を抽出する原理を説明する。   Next, the principle of extracting the same plane and object from the change in the moving speed of the slit light on the road surface image when the slit light is scanned will be described.

図9、図10には、車両の進行方向にスリット光をスキャンし、撮像画面14上におけ
る照射光の移動速度の変化を観測して路面13及び物体24を抽出する原理が表示されている。
9 and 10 show the principle of extracting the road surface 13 and the object 24 by scanning the slit light in the traveling direction of the vehicle and observing the change in the moving speed of the irradiation light on the imaging screen 14.

ここで、CCDカメラ2で観測される画像の横軸(車幅方向に対応)を座標軸のX軸に、CCDカメラ2で観測される画像の縦軸(車両前後方向に対応)をY軸に設定する。 Here, the horizontal axis of the image observed by the CCD camera 2 (corresponding to the vehicle width direction) is the X axis of the coordinate axis, and the vertical axis of the image observed by the CCD camera 2 (corresponding to the vehicle longitudinal direction) is the Y axis. Set.

図9は時刻t1における照射光および撮像画面14を示し、図10は時刻t1からδt
だけ過ぎた時刻t2における照射光および撮像画像を示す。また、図9、図10の撮像画
面14は軸上をスキャンするスリット光のY座標およびY方向の移動速度の関係を示す。
FIG. 9 shows the irradiation light and the imaging screen 14 at time t1, and FIG.
The irradiation light and the picked-up image at time t <b> 2 that has just passed are shown. Moreover, the imaging screen 14 of FIG. 9, FIG. 10 shows the relationship between the Y coordinate of the slit light which scans on a Y- axis, and the moving speed of a Y direction.

時刻1においてはスリット光はすべて同一平面である路面13を照射しているため、
同一時刻に照射されたスリット光は同じY座標上に位置する。しかし、時刻2時におい
てスリット光が物体24に照射されると、走路面に照射されるスリット光のY座標と物体24に照射されるスリット光のY座標は異なる。
At time t1 , all the slit light irradiates the road surface 13 which is the same plane.
Slit light irradiated at the same time is located on the same Y coordinate. However, when the object 24 is irradiated with slit light at time t2 , the Y coordinate of the slit light irradiated on the road surface and the Y coordinate of the slit light irradiated on the object 24 are different.

図11は路面をスキャンした時のスリット光の移動速度変化を示す。図11に示すよう
に、路面13上に物体24が存在している場合、あるX座標Xobsについて、撮像フレーム
(ある時刻におけるフレーム)と照射光のY座標位置の関係および撮像フレーム(他の時
刻におけるフレーム)とY座標移動速度の関係をプロットすると、図11における第26
フレームにおいてY座標位置が変わり、撮像画面14上での移動速度が不連続に変化して
いることがわかる。
FIG. 11 shows changes in the moving speed of the slit light when the road surface is scanned. As shown in FIG. 11, when an object 24 is present on the road surface 13, with respect to a certain X coordinate Xobs, the relationship between the imaging frame (frame at a certain time) and the Y coordinate position of irradiated light and the imaging frame (at other times) 11) and the Y coordinate moving speed are plotted, the 26th in FIG.
It can be seen that the Y coordinate position changes in the frame, and the moving speed on the imaging screen 14 changes discontinuously.

このようにスリット光を一定の角速度でスキャンし、撮像画面14上における照射光のY座標方向の移動速度の変化を観測することにより、平面と平面が異なる角度で重なる接点、すなわち段差のある点が検出でき、段差を境界として撮像された画像を平面ごとに分割、抽出することができる。即ち、第26フレームにおいて物体を検出していることが検出され、スキャン開始から第26フレームの経過時間(t)及びスリット光の移動速度(v)並びにカメラ2の設置高さ(h)から物体の位置及び高さを演算できる。   In this way, by scanning the slit light at a constant angular velocity and observing a change in the moving speed of the irradiation light in the Y coordinate direction on the imaging screen 14, a contact point where the plane and the plane overlap at different angles, that is, a point with a step. Can be detected, and an image captured with the step as a boundary can be divided and extracted for each plane. That is, it is detected that an object is detected in the 26th frame, and the object is determined from the elapsed time (t) of the 26th frame from the start of scanning, the moving speed (v) of the slit light, and the installation height (h) of the camera 2. Can be calculated.

図12はピッチングが発生する前の撮像状態および路面画像、図13はピッチングが発
生した後の撮像状態および路面画像を示す。原理上、ピッチング照準光発光装置7は、撮
像画面14内に存在する補正基準物25(例えば先行車)のある一点にピッチング補正用の照射光を照射する。ピッチング監視プログラムP4は、この照射光が当たる部分を補正基準点T1と決めると、ピッチングが発生した場合、図12に示すように、ピッチング発生前の補正基準点T1に対して照射光の照射点T2がずれる。ピッチング監視プログラムP4は、このずれをモニター10上の撮像画像14から算出し、ずれがなくなるようにピッチング補正用照準光と物体検出用のスリット光の照射角度を補正する(ピッチング補正制御)。
FIG. 12 shows an imaging state and a road surface image before the occurrence of pitching, and FIG. 13 shows an imaging state and a road surface image after the occurrence of pitching. In principle, the pitching sighting light emitting device 7 irradiates a certain point of a correction reference object 25 (for example, a preceding vehicle) existing in the imaging screen 14 with irradiation light for pitching correction. When the pitching monitoring program P4 determines the portion that is irradiated with the irradiation light as the correction reference point T1, as shown in FIG. 12, when the pitching occurs , the irradiation point of the irradiation light with respect to the correction reference point T1 before the occurrence of pitching. T2 shifts. The pitching monitoring program P4 calculates this deviation from the captured image 14 on the monitor 10, and corrects the irradiation angle of the pitching correction aiming light and the object detection slit light so as to eliminate the deviation (pitching correction control).

ここで、ピッチング監視プログラムP4は、撮像画像14上でピッチング補正用照準光を確認できるため、撮像画像14からピッチング補正制御が正しく行われたかどうかを判定することができる。ピッチング補正制御が正しく行われた場合に、物体検出用スリット光による物体検出の動作が行われる。   Here, since the pitching monitoring program P4 can confirm the aiming light for pitching correction on the captured image 14, it can determine whether or not the pitching correction control is correctly performed from the captured image 14. When the pitching correction control is correctly performed, an object detection operation using the object detection slit light is performed.

図14には、以上述べた基本原理に従って車両用環境認識装置を実施する処理フローが示されている。システム全体の大きな流れとして、この車両用環境認識装置は、フロー開始後にピッチング補正の必要性を判断し、必要があれば、ピッチング補正を行い(ステップS100)、不要であれば物体抽出を行い(ステップS101)、1回のピッチング補正と物体検出動作を終了する。従って、走行時の所定時間を単位としてピッチング補正(ステップS100)と、物体抽出(ステップS101)とを繰り返す。   FIG. 14 shows a processing flow for implementing the vehicle environment recognition apparatus according to the basic principle described above. As a large flow of the entire system, this vehicular environment recognition device determines the necessity of pitching correction after the start of the flow, performs pitching correction if necessary (step S100), and performs object extraction if unnecessary (step S100). Step S101) One pitching correction and object detection operation are completed. Accordingly, the pitching correction (step S100) and the object extraction (step S101) are repeated with a predetermined time during traveling as a unit.

図15に上記のピッチング補正処理の流れを示す。ステップS201は、画像メモリ3に記録された画像データをマイクロプロセッサ4に読み込む。次に、ステップS202は、画像メモリ3から読み込んだ画像データに対してオプティカルフロー処理により、各画素に投影された物体の画像上の速度(画像速度)を算出する。ステップS203は、S202で算出された画像速度について、各フレームのライン毎に統計処理により分散値を算出する。ステップS204は、S203で算出された各ラインの分散値を比較し、最小となる分散値を示すラインを抽出する。ステップS205は、S204で算出されたライン上の任意の領域(点)を補正基準点T1として設定する。   FIG. 15 shows the flow of the pitching correction process. In step S201, the image data recorded in the image memory 3 is read into the microprocessor 4. Next, in step S202, the speed (image speed) on the image of the object projected on each pixel is calculated by optical flow processing on the image data read from the image memory 3. In step S203, a variance value is calculated by statistical processing for each line of each frame for the image speed calculated in S202. In step S204, the variance value of each line calculated in S203 is compared, and a line indicating the minimum variance value is extracted. In step S205, an arbitrary region (point) on the line calculated in S204 is set as the correction reference point T1.

この補正基準点T1は車両挙動によりその位置がずれにくい位置に設定されるのが望ましい。このため、ステップS202〜S205の処理を行い、画像上でもっとも動きの変化がない部分(速度分散値が最小となる部分)を補正基準点T1に設定する。補正基準点T1は分散値が最小となるライン上の任意の点で構わず、例えばガードレール、先行車等の位置に設定する。   It is desirable that the correction reference point T1 is set at a position where the position is difficult to shift due to vehicle behavior. For this reason, the processing of steps S202 to S205 is performed, and the portion with the least change in motion on the image (the portion with the smallest velocity dispersion value) is set as the correction reference point T1. The correction reference point T1 may be an arbitrary point on the line where the variance value is minimum, and is set at a position such as a guardrail or a preceding vehicle.

ステップS206は、ピッチング照準光発光装置7からのピッチング補正用の照準光の照射を停止する。   In step S206, the irradiation of the aiming light for pitching correction from the pitching aiming light emitting device 7 is stopped.

ステップS207は、ピッチング補正用の照準光が照射されていない状態の画像データを画像メモリ3からマイクロプロセッサ4へ読み込む。   In step S207, image data in a state in which the aiming light for pitching correction is not irradiated is read from the image memory 3 to the microprocessor 4.

ステップS208は、S205で設定された補正基準点T1の撮像画面14上の座標を算出する。   In step S208, the coordinates on the imaging screen 14 of the correction reference point T1 set in S205 are calculated.

ステップS209は、後述するS216で算出されるピッチング補正角に基づき、ピッチング照準光発光装置の制御装置8でピッチング照準光発光装置7の姿勢を補正して照準光を補正基準点T1に照射する。   In step S209, based on the pitching correction angle calculated in S216 described later, the control device 8 of the pitching aiming light emitting device corrects the attitude of the pitching aiming light emitting device 7 and irradiates the aiming light to the correction reference point T1.

ステップS210は、ピッチング補正用の照準光を補正基準点T1に照射している状態において、路面の撮像画像データを画像メモリ3からマイクロプロセッサ4へ読み込む。   In step S210, the picked-up image data of the road surface is read from the image memory 3 to the microprocessor 4 in a state where the correction reference point T1 is irradiated with the aiming light for pitching correction.

ステップS211は、S207とS210により読み込まれた2つの画像の差分演算を行なう。   In step S211, the difference between the two images read in steps S207 and S210 is calculated.

ステップS212は、S211により算出された差分画像をある所定の閾値で二値化し
てピッチング補正用照準光2を抽出し、ピッチング補正用照準光の照射点T2の画像上の座標を算出する。
Step S212 extracts the pitching correction aiming light 2 binarizes by a predetermined threshold value with the difference image calculated by S211, and calculates the coordinates on the image of the irradiation point T2 of the pitching correction aiming light.

ステップS213は、S208とS212で算出された補正基準点T1の座標とピッチング補正用照準光の照射点T2の画像上の座標と、のずれを算出する。 In step S213 , a deviation between the coordinates of the correction reference point T1 calculated in S208 and S212 and the coordinates on the image of the irradiation point T2 of the pitching correction aiming light is calculated.

ステップS214において、S213で算出された座標ずれがある所定の画素数以下である場合はステップS215に進み、座標ずれがある所定の画素数より大きい場合はステップS216に進む判断を行う。   In step S214, if the coordinate deviation calculated in S213 is equal to or smaller than the predetermined number of pixels, the process proceeds to step S215, and if the coordinate deviation is larger than the predetermined number of pixels, it is determined to proceed to step S216.

ステップS215は、補正が正しく行なわれた場合にONとし、正しく行われていない場合にOFFとする補正フラグをONに設定する。   In step S215, a correction flag that is turned ON when the correction is correctly performed and turned OFF when the correction is not correctly performed is set to ON.

ステップS216は、S213で算出された座標ずれを幾何学的に計算し、ステップS217は、ピッチング補正を行うためのピッチング補正角を算出する。ステップS218は補正フラグをOFFに設定する。   In step S216, the coordinate deviation calculated in S213 is geometrically calculated, and in step S217, a pitching correction angle for performing pitching correction is calculated. In step S218, the correction flag is set to OFF.

次に、路面上の物体の検出処理の流れを説明する。図16は物体の検出処理の流れを示す。ステップS301は、マイクロプロセッサ4のスリット光制御プログラムP6から出力される照射初期位置、照射終了位置、照射角速度の制御信号に基づき、スリット光発光装置5から物体検出用照射光であるスリット光を車両前方手前から車両前方遠方に向けて一定の角速度でスキャンさせる。   Next, the flow of object detection processing on the road surface will be described. FIG. 16 shows the flow of object detection processing. In step S301, based on the irradiation initial position, irradiation end position, and irradiation angular velocity control signals output from the slit light control program P6 of the microprocessor 4, the slit light, which is object detection irradiation light, is transmitted from the slit light emitting device 5 to the vehicle. Scan at a constant angular velocity from the front of the vehicle toward the front of the vehicle.

ステップS302は、CCDカメラ2で撮像した画像データを画像メモリ3からマイクロプロセッサ4へ読み込む。ステップS303は、S302でマイクロプロセッサ4に読み込まれた画像データと1フレーム前に読み込まれた画像データの差分処理を行なう。ステップS304は、S303で算出された差分画像を二値化してエッジ検出処理を行ない、該エッジの画面上の速度(画面速度)を算出する。   In step S302, image data captured by the CCD camera 2 is read from the image memory 3 into the microprocessor 4. In step S303, difference processing between the image data read into the microprocessor 4 in S302 and the image data read one frame before is performed. In step S304, the difference image calculated in step S303 is binarized to perform edge detection processing, and the speed of the edge on the screen (screen speed) is calculated.

ステップS305は、前述のS215またはS218で設定された補正フラグをチェックし、補正フラグがONの場合(補正が正しく行われている場合)はS306へ移行し、OFFの場合(補正が正しく行われていない場合)はS301へ移行する。ステップS306は、S305で算出された画面速度を各x座標で観測し、速度変化が発生するy座標を抽出する。速度変化が発生するy座標が抽出された場合はS307を実施する。   In step S305, the correction flag set in the above-described S215 or S218 is checked. If the correction flag is ON (correction is performed correctly), the process proceeds to S306, and if it is OFF (correction is performed correctly). If not, the process proceeds to S301. In step S306, the screen speed calculated in S305 is observed at each x-coordinate, and the y-coordinate where the speed change occurs is extracted. When the y coordinate where the speed change occurs is extracted, S307 is performed.

ステップS307は、S306で抽出された速度変化が発生するy座標にはさまれた領域を物体検出クラスタとして設定する。ステップS308は、S307で設定抽出された各クラスタにおいて、自車両最近傍のクラスタを走路とする。また、物体を示すクラスタと路面13との接点のy座標とカメラ設置高に基づいて、自車両から物体までの距離、高さを算出する。   In step S307, the region sandwiched between the y-coordinates where the speed change extracted in S306 occurs is set as an object detection cluster. In step S308, in each cluster set and extracted in step S307, a cluster nearest to the host vehicle is used as a running path. Further, the distance and height from the host vehicle to the object are calculated based on the y coordinate of the contact point between the cluster indicating the object and the road surface 13 and the camera installation height.

ステップS309は、S301においてマイクロプロセッサ4で指定された照射終了位置まで物体検出用照射光であるスリット光がスキャンしたか否かのチェックを行い、スキャン照射終了位置に到達した場合は照射位置方向をスキャン照射初期位置に変更し、スキャン照射終了位置に満たない場合は続けてスキャンするようにし、S301を実施する。   In step S309, it is checked whether or not the slit light, which is the object detection irradiation light, has been scanned up to the irradiation end position designated by the microprocessor 4 in S301. If the scanning irradiation end position is reached, the irradiation position direction is determined. The scan irradiation is changed to the initial position of scanning irradiation, and when the scanning irradiation end position is not reached, scanning is continued, and S301 is performed.

以上説明したように、本発明の実施の形態にかかる車両用環境認識装置によれば、スリット光発光装置5からスリット光を自車両の走行方向前方に照射し、スリット光を車体の下方から車体の前方に向かって一定の角速度でスキャンし、撮像画面14におけるスリット光の移動変化の有無を、物体検出プログラムP9によって監視することで走路や物体の抽出を行うことができる。   As described above, according to the vehicle environment recognition device according to the embodiment of the present invention, the slit light is emitted from the slit light emitting device 5 forward in the traveling direction of the host vehicle, and the slit light is emitted from below the vehicle body. By scanning at a constant angular velocity toward the front of the camera and monitoring the presence or absence of the movement change of the slit light on the imaging screen 14 by the object detection program P9, it is possible to extract the runway and the object.

このため、平坦な路面のように認識対象に模様がないような場合でも、路面を認識する
ことができる。また、撮像された路面の撮像画面14の照準光の照射点T2の位置座標と補正基準点T1の位置座標との比較から車両挙動を算出し、ピッチング等による車両上下挙動が発生した場合であっても、ピッチング挙動等の補正処理を行って撮像画面14における路面の上下変動を補正するため、ピッチングの影響を受けない安定した路面環境情報を提供できる。
For this reason, even when there is no pattern in the recognition target like a flat road surface, the road surface can be recognized. Further, the vehicle behavior is calculated by comparing the position coordinate of the irradiation point T2 of the aiming light on the imaged screen 14 of the imaged road surface and the position coordinate of the correction reference point T1, and the vehicle up-and-down behavior due to pitching or the like occurs. However, since the correction of the pitching behavior or the like is performed to correct the vertical fluctuation of the road surface on the imaging screen 14, stable road environment information that is not affected by the pitching can be provided.

また、撮像画面14から算出したピッチング挙動情報を用いて、補正した方向に照射した照準光の照射点T2の位置座標について、ピッチング前の照射方向と同一であるかどうかの検証処理を撮像画面14上の補正基準T1との比較で行うことができるので、スリット光の照射制御における過渡状態を把握し且つ排除でき、車両挙動が発生した場合でも安定して周囲環境情報を提供できる。 Further, using the pitching behavior information calculated from the imaging screen 14, verification processing is performed to determine whether the position coordinates of the irradiation point T2 of the aiming light irradiated in the corrected direction are the same as the irradiation direction before pitching. Since it can be performed by comparison with the correction reference point T1, the transient state in the slit light irradiation control can be grasped and eliminated, and the surrounding environment information can be provided stably even when a vehicle behavior occurs.

更に、自車両の最近傍領域を走路とし、その領域から照射光を一定の角速度でスキャンしながら走路面と異なる角度を持つ位置を検出するので、走路との段差が検出され、それまでスキャンした領域を走路面として抽出することができる。   Furthermore, the nearest area of the host vehicle is the road, and the position with the angle different from the road surface is detected while scanning the irradiation light from that area at a constant angular velocity. An area can be extracted as a road surface.

また、照射したスリット光を走路面から一定の速度でスキャンし、走路面と異なる角度の面をもつ物を物体として抽出しているため、走路と物体の接点が判別できるのみならず、走路面及びカメラの設置高さから三角測量によって自車両から物体までの距離を容易に算出できる。   In addition, since the irradiated slit light is scanned from the road surface at a constant speed and objects having a surface with a different angle from the road surface are extracted as objects, not only the contact point between the road and the object can be distinguished, but also the road surface In addition, the distance from the vehicle to the object can be easily calculated by triangulation from the installation height of the camera.

さらに、不可視光を照射しその光を撮像しているので、側道を歩行する歩行者などへの影響がない。更に、照射光をある特定のパタン(例えばスリット光)で照射するため、近傍に同様の装置があっても、自分の照射した照射光を他の車両の照射光と区別できる。また、スリット光とカメラの水平方向の軸32を一致させると、近傍から遠方まで視差を補正することなく車両挙動の検出が精度よくできる。   Furthermore, since the invisible light is irradiated and the light is imaged, there is no influence on a pedestrian walking on the side road. Further, since the irradiation light is irradiated with a specific pattern (for example, slit light), even if there is a similar device in the vicinity, the irradiation light irradiated by itself can be distinguished from the irradiation light of other vehicles. Further, when the slit light and the horizontal axis 32 of the camera are matched, the vehicle behavior can be accurately detected without correcting the parallax from near to far.

なお、上記の実施の形態では、ピッチング照準光発装置7の制御装置8とスリット光
発光装置5の制御装置6とを別々に設けたが、一つの架台30に並列的に搭載してピッチ
ング補正を行ってもよい。
Incidentally, in the above embodiment is provided with the control device 6 of the control device 8 and the slit light emitting device 5 in the pitching aiming light - emitting device 7 separately, in parallel manner mounted on a platform 30 pitching Correction may be performed.

なお、以上説明した実施形態は、本発明の理解を容易にするために記載されたものであって、本発明を限定するために記載されたものではない。したがって、上記の実施形態に開示された各要素は、本発明の技術的範囲に属する全ての設計変更や均等物をも含む趣旨である。   The embodiment described above is described for facilitating the understanding of the present invention, and is not described for limiting the present invention. Therefore, each element disclosed in the above embodiment is intended to include all design changes and equivalents belonging to the technical scope of the present invention.

例えば、本車両用環境認識装置を、自動車の後方を向くように設けて後退時に自動車の後方の路面状況を撮像し、車体後方の状況を画面14に表示して監視通報するようにしても良く、自動車以外の車両に適用しても良い。   For example, the environment recognition device for a vehicle may be provided so as to face the rear of the automobile so that the road surface condition behind the automobile is imaged when the vehicle is moving backward, and the situation behind the vehicle body is displayed on the screen 14 for monitoring notification. The present invention may be applied to vehicles other than automobiles.

また、CCDカメラ2はCMOS等他の撮像素子を用いたカメラでも良い。   Further, the CCD camera 2 may be a camera using another image pickup device such as a CMOS.

本発明の実施の形態にかかる車両用環境認識装置のシステムブロック図である。It is a system block diagram of the environment recognition apparatus for vehicles concerning an embodiment of the invention. モニター上の撮像画面と、撮像画面を出力する画像処理プログラムと、撮像画像上のスリット光から車両挙動を検出する車両挙動監視プログラムと、物体検出プログラムと、照射光速度演算プログラム等の関係図を示す説明図である。The relationship between the imaging screen on the monitor, the image processing program that outputs the imaging screen, the vehicle behavior monitoring program that detects the vehicle behavior from the slit light on the captured image, the object detection program, the irradiation speed calculation program, etc. It is explanatory drawing shown. 本発明の実施の形態により路面を監視する状況を示す説明図である。It is explanatory drawing which shows the condition which monitors the road surface by embodiment of this invention. 本発明の実施の形態にかかるスリット光発光装置の平面的構成を示す図である。It is a figure which shows the planar structure of the slit light-emitting device concerning embodiment of this invention. 本発明の実施の形態にかかるスリット光発光装置の側面的構成を示す図である。It is a figure which shows the side structure of the slit light-emitting device concerning embodiment of this invention. 本発明の実施の形態にかかるピッチング照準光発光装置の側面的構成を示す図である。It is a figure which shows the side view structure of the pitching aiming light-emitting device concerning embodiment of this invention. 本発明の実施の形態にかかるスリット光発光装置とピッチング照準光発光装置との平面的な配備状態を示す図である。It is a figure which shows the planar arrangement | positioning state of the slit light-emitting device and pitching aim light-emitting device concerning embodiment of this invention. 照射光であるスリット光を一定角度で照射して物体を検出するときのスリットの形状変化を示す図である。It is a figure which shows the shape change of a slit when irradiating the slit light which is irradiation light at a fixed angle, and detecting an object. スリット光のスキャン走査により路面を検出しているときの撮像画像を示す図である。It is a figure which shows the captured image when the road surface is detected by the scanning scan of slit light. スリット光のスキャン走査により路面の物体を検出したときの撮像画像を示す図である。It is a figure which shows the captured image when the object of a road surface is detected by the scanning scan of slit light. 路面における照射光スキャン時の移動速度変化を示す図である。It is a figure which shows the movement speed change at the time of the irradiation light scan on a road surface. ピッチング補正をするための補正前の状態を示す図である。It is a figure which shows the state before correction | amendment for performing pitching correction | amendment. ピッチングの発生によって補正を必要とする状態を示す図である。It is a figure which shows the state which needs correction | amendment by generation | occurrence | production of pitching. 図1の車両用環境認識装置のシステムの全体フロー図である。It is a whole flowchart of the system of the vehicle environment recognition apparatus of FIG. 図1の車両用環境認識装置のシステムにおけるピッチング補正時のフロー図である。It is a flowchart at the time of the pitching correction | amendment in the system of the vehicle environment recognition apparatus of FIG. 図1の車両用環境認識装置のシステムにおける物体検出時のフロー図である。It is a flowchart at the time of the object detection in the system of the vehicle environment recognition apparatus of FIG.

符号の説明Explanation of symbols

1 車両用環境認識装置
2 CCDカメラ
3 画像メモリ
4 マイクロプロセッサ
5 スリット光発光装置
6 スリット光発光装置の制御装置(姿勢補正手段)
7 ピッチング照準光発光装置
8 ピッチング照準光発光装置の制御装置
P1 路面撮像プログラム
P2 画像処理プログラム
P3 ピッチング照準光制御プログラム
P4 ピッチング監視プログラム(車両挙動監視手段)
P5 ピッチング補正プログラム
P6 スリット光制御プログラム
P7 スリット光速度演算プログラム
P8 走路検出プログラム(路面変化の検出手段)
P9 物体検出プログラム(路面変化の検出手段)
P10 物体距離演算プログラム(路面変化部位の距離演算手段)
DESCRIPTION OF SYMBOLS 1 Environment recognition apparatus for vehicles 2 CCD camera 3 Image memory 4 Microprocessor 5 Slit light emission device 6 Control apparatus (attitude correction means) of slit light emission device
7 Pitching Aiming Light Emitting Device 8 Pitching Aiming Light Emitting Device Control Device P1 Road Surface Imaging Program P2 Image Processing Program P3 Pitching Aiming Light Control Program P4 Pitching Monitoring Program (Vehicle Behavior Monitoring Means)
P5 Pitching correction program P6 Slit light control program P7 Slit light speed calculation program P8 Runway detection program (road surface change detection means)
P9 Object detection program (road surface change detection means)
P10 Object distance calculation program (distance calculation means for road surface change part)

Claims (12)

車幅方向に広がる照射光を、路面上に照射するとともに、前記照射光を自車両の近傍か
ら遠方に向けてスキャンする照射光照射手段と、
前記照射光を撮像する撮像手段と、
前記撮像手段が撮像した撮像画像中における前記照射光のスキャンに伴う、前記自車両
の前後方向に対応する方向の前記照射光の移動速度の変化に基づいて、前記路面上の凹凸
若しくは前記路面上の物体等の路面変化部位による前記照射光の形状変化を検出する照射
光形状変化検出手段と、
前記照射光形状変化検出手段により検出された前記照射光の形状変化に基づいて、前記
自車両から前記路面変化部位までの距離を演算する距離演算手段と、
自車両前方の所定の位置に照準光を照射する1つの照準光照射手段と、
前記撮像手段が前記照射光を撮像する際に合わせて撮像する前記照準光の上下方向の位
置変化に基づいて、自車両の車両挙動を検出する車両挙動監視手段と、
該車両挙動監視手段により検出された車両挙動量によって、前記照射光の照射方向を補
正する姿勢補正手段と、
を有することを特徴とする車両用環境認識装置。
The illumination light extending in the vehicle width direction, and irradiates on the road surface, the irradiation light irradiating means for scanning toward far the irradiation light from the vicinity of the vehicle,
Imaging means for imaging the irradiation light;
The own vehicle accompanying the scan of the irradiation light in the captured image captured by the imaging means
Irradiation light shape change that detects a change in shape of the irradiation light due to unevenness on the road surface or a road surface change part such as an object on the road surface based on a change in the moving speed of the irradiation light in a direction corresponding to the front-rear direction Detection means;
Based on the shape change of the irradiation light detected by the irradiation light shape change detection means, a distance calculation means for calculating a distance from the own vehicle to the road surface change portion;
One aiming light irradiation means for irradiating the aiming light to a predetermined position in front of the host vehicle;
Vehicle behavior monitoring means for detecting a vehicle behavior of the host vehicle based on a vertical position change of the aiming light imaged when the imaging means images the irradiation light;
Posture correcting means for correcting the irradiation direction of the irradiation light based on the vehicle behavior amount detected by the vehicle behavior monitoring means;
A vehicle environment recognition device characterized by comprising:
請求項1に記載の車両用環境認識装置において、
前記車両挙動監視手段は、前記撮像手段が撮像した撮像画像中における補正前後の前記
照準光の上下方向の位置変化に基づいて、前記照射光の照射方向についての補正の信頼性
を判定する機能を有することを特徴とする車両用環境認識装置。
The vehicle environment recognition device according to claim 1,
The vehicle behavior monitoring unit has a function of determining the reliability of correction in the irradiation direction of the irradiation light based on a vertical position change of the aiming light before and after correction in a captured image captured by the imaging unit. An environment recognition device for a vehicle, comprising:
請求項1または請求項2に記載の車両用環境認識装置において、
前記照射光の形状変化量が所定時間内において所定値以下である領域を路面として抽出
する路面検出手段を有することを特徴とする車両用環境認識装置。
In the vehicular environment recognition device according to claim 1 or 2,
An environment recognition device for a vehicle, comprising road surface detection means for extracting, as a road surface, an area where the amount of change in shape of the irradiation light is a predetermined value or less within a predetermined time.
請求項1乃至請求項3の何れか1項に記載の車両用環境認識装置において、
前記照射光照射手段は、前記照射光として車幅方向に延びる線状の光を用い、該線状の
光を自車両近傍から遠方に走査することを特徴とする車両用環境認識装置。
The vehicle environment recognition device according to any one of claims 1 to 3,
The vehicle environment recognition device, wherein the irradiation light irradiation means uses linear light extending in the vehicle width direction as the irradiation light, and scans the linear light far from the vicinity of the host vehicle.
請求項4に記載の車両用環境認識装置において、
前記距離演算手段は、前記照射光が前記路面を走査する照射速度及び走査開始位置から
路面変化部位に至るまでの経過時間並びに前記照射光照射手段の路面からの高さに基づい
て、前記自車両から前記路面変化部位までの距離を演算する機能を有することを特徴とす
る車両用環境認識装置。
The vehicle environment recognition device according to claim 4,
The distance calculation means is based on the irradiation speed at which the irradiation light scans the road surface, the elapsed time from the scanning start position to the road surface changing portion, and the height of the irradiation light irradiation means from the road surface. A vehicle environment recognition device having a function of calculating a distance from a road surface change portion to a road surface change portion.
請求項1乃至請求項5の何れか1項に記載の車両用環境認識装置において、
前記照射光照射手段は、前記照射光として非可視光を用いることを特徴とする車両用環
境認識装置。
The vehicle environment recognition device according to any one of claims 1 to 5,
The vehicle environment recognition device, wherein the irradiation light irradiation means uses invisible light as the irradiation light.
請求項1乃至請求項6の何れか1項に記載の車両用環境認識装置において、
前記照射光照射手段は、前記照射光として所定のパターンの光を投光することを特徴と
する車両用環境認識装置。
The vehicle environment recognition device according to any one of claims 1 to 6,
The vehicle environment recognition device characterized in that the irradiation light irradiation means projects a predetermined pattern of light as the irradiation light.
請求項1乃至請求項7の何れか1項に記載の車両用環境認識装置において、
前記照射光照射手段は、前記照射光を点滅して投光することを特徴とする車両用環境認
識装置。
The vehicle environment recognition device according to any one of claims 1 to 7,
The vehicle environment recognition device characterized in that the irradiation light irradiation means blinks and projects the irradiation light.
請求項1乃至請求項8の何れか1項に記載の車両用環境認識装置において、
前記照射光照射手段と前記撮像手段とを同軸に設置したことを特徴とする車両用環境認
識装置。
The vehicle environment recognition device according to any one of claims 1 to 8,
The vehicle environment recognition apparatus, wherein the irradiation light irradiation means and the imaging means are installed coaxially.
車幅方向に広がる照射光を、路面上に照射して、前記照射光を自車両の近傍から遠方に
スキャンするとともに、自車両前方の所定の位置に1つの照準光を照射し、
前記照射光を撮像する際に合わせて撮像する前記照準光の上下方向の位置変化に基づい
て、自車両の車両挙動を検出し、
検出された自車両の車両挙動量に基づいて前記照射光の照射方向を補正し、
像画像中における、前記照射光のスキャンに伴う、前記自車両の前後方向に対応する
方向の前記照射光の移動速度の変化に基づいて、前記路面上の凹凸若しくは前記路面上の
物体等の路面変化部位による前記照射光の形状変化を検出し、
前記照射光の形状変化に基づき、前記自車両から前記路面変化部位までの距離を演算す
ることを特徴とする車両用環境認識方法。
The illumination light extending in the vehicle width direction, is irradiated on the road surface, the irradiation light with scanning <br/> in countercurrent Ke distant from the vicinity of the vehicle, one of the aiming light to a predetermined position of the vehicle ahead Irradiate
Based on the vertical position change of the aiming light to be imaged in conjunction with imaging the irradiation light, the vehicle behavior of the host vehicle is detected,
Correcting the irradiation direction of the irradiation light based on the detected vehicle behavior amount of the host vehicle,
During IMAGING image, due to the scanning of the irradiation light, corresponding to the longitudinal direction of the vehicle
Based on a change in the moving speed of the irradiation light in the direction, detecting a change in shape of the irradiation light due to unevenness on the road surface or a road surface change site such as an object on the road surface,
A vehicle environment recognition method, comprising: calculating a distance from the own vehicle to the road surface change portion based on a change in shape of the irradiation light.
請求項10に記載の車両用環境認識方法において、
前記撮像画像における前記照準光の照射方向の上下方向の位置変化に基づいて、前記補
正の信頼性を判定することを特徴とする車両用環境認識方法。
The vehicle environment recognition method according to claim 10,
An environment recognition method for a vehicle, wherein reliability of the correction is determined based on a vertical position change of the irradiation direction of the aiming light in the captured image.
請求項10または11に記載の車両用環境認識方法において、
前記照射光の形状変化量が所定時間内において所定値以下である領域を路面として抽出
することを特徴とする車両用環境認識方法。
The vehicle environment recognition method according to claim 10 or 11,
A method for recognizing an environment for a vehicle, wherein a region where the amount of change in shape of the irradiation light is a predetermined value or less within a predetermined time is extracted as a road surface.
JP2006081137A 2006-03-23 2006-03-23 Vehicle environment recognition apparatus and vehicle environment recognition method Expired - Fee Related JP5151050B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006081137A JP5151050B2 (en) 2006-03-23 2006-03-23 Vehicle environment recognition apparatus and vehicle environment recognition method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006081137A JP5151050B2 (en) 2006-03-23 2006-03-23 Vehicle environment recognition apparatus and vehicle environment recognition method

Publications (2)

Publication Number Publication Date
JP2007256090A JP2007256090A (en) 2007-10-04
JP5151050B2 true JP5151050B2 (en) 2013-02-27

Family

ID=38630491

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006081137A Expired - Fee Related JP5151050B2 (en) 2006-03-23 2006-03-23 Vehicle environment recognition apparatus and vehicle environment recognition method

Country Status (1)

Country Link
JP (1) JP5151050B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106663376A (en) * 2014-08-04 2017-05-10 日产自动车株式会社 Position self-calculation device and position self-calculation method

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5266866B2 (en) * 2008-05-14 2013-08-21 日産自動車株式会社 Obstacle detection device
JP5251419B2 (en) * 2008-10-22 2013-07-31 日産自動車株式会社 Distance measuring device and distance measuring method
JP5682334B2 (en) * 2011-01-28 2015-03-11 日産自動車株式会社 Distance measuring device for moving objects
JP5958542B2 (en) * 2012-08-02 2016-08-02 トヨタ自動車株式会社 Road surface condition acquisition device and suspension system
WO2014080937A1 (en) * 2012-11-21 2014-05-30 三菱電機株式会社 Image generation device
WO2015125300A1 (en) * 2014-02-24 2015-08-27 日産自動車株式会社 Local location computation device and local location computation method
RU2628035C1 (en) 2014-02-24 2017-08-14 Ниссан Мотор Ко., Лтд. Device for calculation of own position and method of calculation of own position
JP6187672B2 (en) * 2014-02-24 2017-08-30 日産自動車株式会社 Self-position calculation device and self-position calculation method
CN105981086B (en) * 2014-02-24 2017-07-25 日产自动车株式会社 Self-position computing device and self-position computational methods
BR112016019589B1 (en) * 2014-02-24 2022-06-14 Nissan Motor Co. Ltd SELF-LOCATION CALCULATION DEVICE AND SELF-LOCATION CALCULATION METHOD
MX349024B (en) * 2014-02-24 2017-07-07 Nissan Motor Local location computation device and local location computation method.

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0587548A (en) * 1991-05-01 1993-04-06 Hitachi Electron Eng Co Ltd Attitude angle detector
JPH05341842A (en) * 1992-05-07 1993-12-24 Nec Corp Fault detector for traveling vehicle
JPH10300439A (en) * 1997-05-01 1998-11-13 Nissan Motor Co Ltd Laser cross section measuring device
KR100556612B1 (en) * 2002-06-29 2006-03-06 삼성전자주식회사 Apparatus and method of localization using laser

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106663376A (en) * 2014-08-04 2017-05-10 日产自动车株式会社 Position self-calculation device and position self-calculation method
CN106663376B (en) * 2014-08-04 2018-04-06 日产自动车株式会社 Self-position computing device and self-position computational methods

Also Published As

Publication number Publication date
JP2007256090A (en) 2007-10-04

Similar Documents

Publication Publication Date Title
JP5151050B2 (en) Vehicle environment recognition apparatus and vehicle environment recognition method
JP6459659B2 (en) Image processing apparatus, image processing method, driving support system, program
US20150348388A1 (en) Protecting roadside personnel from vehicle impacts
KR102052840B1 (en) Methods for identifying objects within the surrounding area of the motor vehicle, driver assistance system, and the motor vehicle
KR102177879B1 (en) Apparatus and method of object detection for vehicle
RU2650098C1 (en) Device and method for detecting obstacles on a horizontal plane
JP5082923B2 (en) Vehicle obstacle detection device
JP6032034B2 (en) Object detection device
JP2002036987A (en) Vehicle surrounding monitoring device
JP6450530B2 (en) In-vehicle camera mounting angle adjustment processing, mounting angle detection device
JPH05297141A (en) On-vehicle object detecting device
JP2016110484A (en) Approaching vehicle detection device
JP2007275952A (en) Non-contact automatic method for detecting welding line and apparatus therefor
JP6949090B2 (en) Obstacle detection device and obstacle detection method
KR101729482B1 (en) Error information protection apparatus of stereo camera for vehicle and method thereof
KR101801041B1 (en) Vehicle where shadow region of laser distance sensor is eliminated
JP2021113767A (en) Obstacle detection device and obstacle detection system
JP2013101432A (en) Obstacle detector and program
JP4353141B2 (en) Infinity point determination device
JP5761069B2 (en) Vehicle surrounding obstacle detection device and obstacle detection system
JP7201706B2 (en) Image processing device
EP2698743B1 (en) Driver assisting system and method for a motor vehicle
KR20220038212A (en) Vehicle and control method thereof
KR20220097656A (en) Driver asistance apparatus, vehicle and control method thereof
JP2018069839A (en) Alarm system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110927

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20111118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111220

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121119

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151214

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5151050

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees