JP5034809B2 - Vehicle road surface state estimating device - Google Patents
Vehicle road surface state estimating device Download PDFInfo
- Publication number
- JP5034809B2 JP5034809B2 JP2007240981A JP2007240981A JP5034809B2 JP 5034809 B2 JP5034809 B2 JP 5034809B2 JP 2007240981 A JP2007240981 A JP 2007240981A JP 2007240981 A JP2007240981 A JP 2007240981A JP 5034809 B2 JP5034809 B2 JP 5034809B2
- Authority
- JP
- Japan
- Prior art keywords
- road surface
- dry
- determination
- image
- wet
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Investigating Or Analysing Materials By Optical Means (AREA)
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
Description
本発明は、車両の走行路面を撮像する撮像手段を備えて該撮像手段により撮像された画像を基に該走行路面の乾湿判定を行う車両用路面状態推定装置に関する技術分野に属する。 The present invention belongs to a technical field related to a vehicular road surface state estimation device that includes an imaging unit that captures an image of a traveling road surface of a vehicle and performs dry / wet determination on the traveling road surface based on an image captured by the imaging unit.
従来より、この種の車両用路面状態推定装置として、撮像手段の前側に配設され且つ水平及び垂直方向の両方向に偏光面を切換え可能な偏光手段を備えて、走行路面からの反射光を該偏光手段により水平偏光成分と垂直偏光成分とに分けて撮像手段に入射させることで該撮像手段により撮像される水平偏光画像と垂直偏光画像とを比較することによって、上記車両の走行路面の乾湿判定を行うようにしたものが知られている。 Conventionally, as this kind of vehicle road surface state estimating device, there is provided a polarizing means disposed on the front side of the imaging means and capable of switching the polarization plane in both the horizontal and vertical directions, and the reflected light from the traveling road surface By comparing the horizontal polarization image and the vertical polarization image captured by the imaging unit by dividing the polarized light component into the horizontal polarization component and the vertical polarization component by the polarization unit, and determining the dryness and humidity on the road surface of the vehicle. What is known to do is known.
例えば特許文献1に示す車両用路面状態推定装置は、撮像手段としての一台のテレビカメラと、該テレビカメラの光軸上に配設された水平偏光フィルタ及び垂直偏光フィルタ(偏光手段)とを備えていて、該テレビカメラに対して、水平偏光フィルタ及び垂直偏光フィルタをフィルタ変換部(偏光手段)により切換えてセットすることで、一台のテレビカメラにより水平及び垂直偏光画像の両画像を撮像可能になっている。 For example, a vehicle road surface state estimation device disclosed in Patent Document 1 includes one television camera as an imaging unit, and a horizontal polarization filter and a vertical polarization filter (polarization unit) disposed on the optical axis of the television camera. The horizontal and vertical polarization filters are switched and set by the filter conversion unit (polarization means) for the television camera, so that a single television camera can capture both horizontal and vertical polarization images. It is possible.
そして、該車両用路面状態推定装置は、湿潤状態(水分が存在する状態)にある路面部においては、水表面における光エネルギー反射率が水平及び垂直偏光成分の両成分間で異なることに起因して、上記テレビカメラにより撮像される水平及び垂直偏光画像の両画像間に輝度差が生じることを利用して走行路面の乾湿判定を行うように構成されている。
しかしながら、上述の特許文献1に示す車両用路面状態推定装置では、一台のテレビカメラ(撮像手段)により、水平偏光画像と垂直偏光画像との両画像を撮像するようにしているため、水平偏光フィルタ及び垂直偏光フィルタを切換えるためのフィルタ変換部等の制御装置が必要となり、この結果、部品点数が増大して装置全体が大型化するとともに該切換え制御のための処理が複雑化するという問題がある。 However, in the vehicle road surface state estimation device shown in Patent Document 1 described above, both a horizontally polarized image and a vertically polarized image are captured by a single television camera (imaging means). A control device such as a filter conversion unit for switching between the filter and the vertical polarization filter is required. As a result, the number of parts increases, the entire device becomes larger, and the processing for the switching control becomes complicated. is there.
そこで、例えば、車両の走行路面を2台のテレビカメラにより撮像するとともに、水平偏光フィルタ及び垂直偏光フィルタをそれぞれ該各カメラにセットすることで、フィルタ変換部等の制御装置等を廃止して制御処理の簡略化を図るようにすることも考えられるが、このようにしたとしても、上述のように光成分を水平成分と垂直成分とに分けるという考え方に基づいて走行路面の乾湿判定を行おうとする限り、水平偏光フィルタや垂直偏光フィルタ等の偏光手段が必要となり、このため、部品点数を削減して装置全体の小型化を図るという点では依然改良の余地が残る。 So, for example, the road surface of the vehicle is picked up by two television cameras, and the horizontal polarization filter and the vertical polarization filter are set in each camera, so that the control device such as the filter conversion unit is eliminated and controlled. Although it is conceivable to simplify the processing, even if it is done in this way, it is attempted to perform dry / wet determination on the traveling road surface based on the idea that the light component is divided into the horizontal component and the vertical component as described above. Therefore, polarizing means such as a horizontal polarizing filter and a vertical polarizing filter are necessary, and therefore there is still room for improvement in terms of reducing the number of parts and reducing the size of the entire apparatus.
本発明は、斯かる点に鑑みてなされたものであり、その目的とするところは、車両の走行路面を撮像する撮像手段を備えた車両用路面状態推定装置に対して、その構成及び乾湿判定方法に工夫を凝らすことで、装置全体の小型化を図りつつ、該乾湿判定処理の迅速化を図ろうとすることにある。 The present invention has been made in view of the above points, and an object of the present invention is to provide a configuration and dry / wet determination for a vehicle road surface state estimation device including an imaging unit that images a road surface of a vehicle. By devising the method, it is intended to speed up the dry / wet determination process while reducing the size of the entire apparatus.
具体的には、請求項1の発明では、車両の走行路面の乾湿状態を推定する車両用路面状態推定装置を対象とする。 In concrete terms, in the first aspect of the present invention, directed to a vehicular road surface condition estimating apparatus for estimating the wet and dry state of the traveling road surface of the vehicle.
そして、上記車両の走行路面を、互いの撮像画像の少なくとも一部が重複するように撮像する第1撮像手段及び第2撮像手段と、上記第1及び第2撮像手段によりそれぞれ撮像されて輝度情報を有する複数の画素からなる第1画像及び第2画像を記憶する画像情報記憶手段と、上記画像情報記憶手段により記憶された上記第1画像における第2画像との重複部内に所定領域を設定する所定領域設定手段と、上記画像情報記憶手段により記憶された上記第1画像と第2画像とを該各画像の画素の輝度情報を基に比較することで、該第1画像の少なくとも上記所定領域内において上記第2画像との対応点を検出するとともに、該検出した所定領域内の対応点数を算出する対応点検出手段と、上記対応点検出手段により算出された上記所定領域内の対応点数を基に、上記車両の走行路面における該所定領域に対応する路面部が湿潤状態と乾燥状態とのいずれの状態にあるかの乾湿判定を行う乾湿判定手段とを備え、上記乾湿判定手段は、上記対応点検出手段により算出された対応点数が予め設定された所定閾値以下である場合には、上記車両の走行路面における上記所定領域に対応する路面部が湿潤状態にあると判定する一方、上記対応点数が該所定閾値を上回っている場合には、該路面部が乾燥状態にあると判定する乾湿判定を行うように構成され
、上記所定領域設定手段は、上記第1画像の重複部に対して、該第1画像における上記車両の進行方向に対応する方向である縦方向の座標値が互いに異なる複数の上記所定領域を設定するように構成され、上記対応点検出手段は、上記第1画像画像の少なくとも各所定領域内において上記第2画像との対応点を検出するとともに、検出した各所定領域内の対応点数を算出するように構成され、上記乾湿判定手段は、上記車両の走行路面における上記各所定領域に対応する路面部のそれぞれに対して上記乾湿判定を行うように構成されており、上記乾湿判定手段による上記乾湿判定時に使用される上記所定閾値は、上記各所定領域毎に予め設定されていて、該各所定領域の縦方向の座標値が大きいほど小さい値に設定されているものとする。
Then, the luminance information is obtained by imaging the traveling road surface of the vehicle with the first imaging unit and the second imaging unit that capture at least a part of the captured images, and the first and second imaging units, respectively. A predetermined area is set in an overlapping portion between the image information storage means for storing the first image and the second image composed of a plurality of pixels having the second image in the first image stored by the image information storage means. By comparing the first image and the second image stored by the predetermined area setting means and the image information storage means based on the luminance information of the pixels of each image, at least the predetermined area of the first image And detecting corresponding points with the second image and calculating the number of corresponding points in the detected predetermined area; and corresponding points in the predetermined area calculated by the corresponding point detecting means Based on応点number, and a wet and dry determination means for performing one of the dry-wet determined in any state of the road surface portion is dry and wet state corresponding to the predetermined region in the traveling road surface of the vehicle, the wet and dry determination means When the number of corresponding points calculated by the corresponding point detecting means is equal to or less than a predetermined threshold value set in advance, it is determined that the road surface portion corresponding to the predetermined area on the road surface of the vehicle is in a wet state. When the number of corresponding points exceeds the predetermined threshold, the wet and dry determination is performed to determine that the road surface portion is in a dry state.
The predetermined area setting means sets a plurality of the predetermined areas having different vertical coordinate values that are directions corresponding to the traveling direction of the vehicle in the first image with respect to the overlapping portion of the first image. The corresponding point detecting means detects a corresponding point with the second image in at least each predetermined area of the first image and calculates the number of corresponding points in each detected predetermined area. The dry / wet determination means is configured to make the dry / wet determination for each of the road surface portions corresponding to the predetermined areas on the traveling road surface of the vehicle, and the dry / wet determination means by the dry / humidity determination means. The predetermined threshold value used at the time of determination is set in advance for each predetermined area, and is set to a smaller value as the vertical coordinate value of each predetermined area is larger .
上記の構成によれば、上記第1及び第2撮像手段により、互いの撮像領域の少なくとも
一部が重複するように車両の走行路面が撮像され、画像情報記憶手段により、上記第1及び第2撮像手段によりそれぞれ撮像されて輝度情報を有する複数の画素からなる第1画像及び第2画像が記憶される。そして、所定領域設定手段により、上記画像情報記憶手段にて記憶された上記第1画像における第2画像との重複部内に所定領域が設定され、対応点検出手段により、上記第1画像と第2画像とを該各画像の画素の輝度情報を基に比較することで、該第1画像の少なくとも上記所定領域内において第2画像との対応点が検出されるとともに、該検出された所定領域内の対応点数が算出される。そうして、乾湿判定手段により、対応点検出手段にて算出された上記所定領域内の対応点数に基づき上記走行路面における該所定領域に対応する路面部の乾湿判定が行われる。
According to the above configuration, the traveling road surface of the vehicle is imaged by the first and second imaging units so that at least a part of the mutual imaging area overlaps, and the first and second image information storage units are used. A first image and a second image, each of which is picked up by the image pickup means and includes a plurality of pixels having luminance information, are stored. Then, the predetermined area is set by the predetermined area setting means in the overlapping portion of the first image stored in the image information storage means with the second image, and the corresponding point detection means sets the first image and the second image. By comparing the image with the luminance information of the pixels of each image, a corresponding point with the second image is detected in at least the predetermined area of the first image, and the detected predetermined area is detected. The corresponding number of points is calculated. Then, the dry / humidity determination means performs dry / humidity determination of the road surface portion corresponding to the predetermined area on the traveling road surface based on the number of corresponding points in the predetermined area calculated by the corresponding point detection means.
ところで、走行路面が乾燥状態にある場合には、該路面に反射した反射光は、全方向に同じ強さで反射する拡散反射光が支配的となる一方、走行路面が湿潤状態にある場合には指向性のある鏡面反射光が支配的となる。従って、走行路面が乾燥状態にある場合には、該路面に反射して第1及び第2撮像手段のそれぞれに入射する反射光の強度はその拡散性に起因して略同強度となり、このため、該各撮像手段により撮像される第1及び第2画像間の輝度差(輝度分布差)は比較的小さくなる。一方、走行路面が湿潤状態にある場合には、該各撮像手段に入射する反射光の強度はその指向性に起因して異なることとなり、このため、上記第1及び第2画像間の輝度差は、走行路面が乾燥状態にある場合に比べて大きくなる。 By the way, when the traveling road surface is in a dry state, the reflected light reflected on the road surface is dominated by diffuse reflected light reflected with the same intensity in all directions, while the traveling road surface is in a wet state. Directive specularly reflected light is dominant. Therefore, when the traveling road surface is in a dry state, the intensity of the reflected light that is reflected on the road surface and is incident on each of the first and second imaging means is approximately the same intensity due to its diffusivity. The luminance difference (luminance distribution difference) between the first and second images picked up by the respective image pickup means is relatively small. On the other hand, when the traveling road surface is in a wet state, the intensity of the reflected light incident on each imaging means is different due to the directivity, and therefore, the luminance difference between the first and second images. Is larger than when the traveling road surface is in a dry state.
よって、上記対応点検出手段において、例えば上記両画像の輝度値を基にしたマッチング手法による対応点探索(検出)を行う場合に、走行路面(走行路面における所定領域に対応する路面部)が乾燥状態にあるときには、該両画像の輝度差が小さいが故に、マッチング精度が向上して対応点を確実に検出することができる一方、走行路面が湿潤状態にあるときには、該両画像間の輝度差が大きいが故に、マッチング精度が低下して対応点を検出し難くなる。このため、走行路面が乾燥状態にある場合には、該路面が湿潤状態にある場合に比べて、対応点検出手段により検出される対応点の数(対応点検出手段により算出される対応点数)が多くなる。従って、乾湿判定手段により例えば対応点検出手段にて検出される対応点の数が所定閾値を上回る場合には走行路面が乾燥状態と判定し、そうでない場合には湿潤状態と判定することができて、走行路面の乾湿判定を簡単に且つ精度良く行うことが可能となる。 Therefore, when the corresponding point detection means performs a corresponding point search (detection) by a matching method based on the luminance values of both the images, for example, the traveling road surface (the road surface portion corresponding to a predetermined region on the traveling road surface) is dry. Since the brightness difference between the two images is small when the vehicle is in a state, the matching accuracy can be improved and the corresponding points can be reliably detected. On the other hand, when the road surface is wet, the brightness difference between the two images is detected. Therefore, matching accuracy is lowered and it is difficult to detect corresponding points. For this reason, when the traveling road surface is in a dry state, the number of corresponding points detected by the corresponding point detection unit (the number of corresponding points calculated by the corresponding point detection unit) is compared to when the road surface is in a wet state. Will increase. Therefore, for example, when the number of corresponding points detected by the dry / wet determination unit exceeds the predetermined threshold, the traveling road surface can be determined to be dry, and otherwise, it can be determined to be wet. Thus, it is possible to easily and accurately perform the dry / wet determination on the traveling road surface.
また、上述のように、乾湿判定手段により対応点数を基にした走行路面の乾湿判定を行うようにすることで、例えば、撮像した走行路面を水平偏光画像と垂直偏光画像とに分けて処理する場合に比べて、フィルタ等の偏光手段が不要となり、この結果、部品点数を削減して装置全体の小型化を図ることが可能となる。また、水平偏光画像と垂直偏光画像との切換え処理等を廃止することができ、このため、装置全体の制御処理負担を軽減することができて、両撮像手段による走行路面の撮像から乾湿判定手段による乾湿判定結果の確定までの処理時間を短縮することが可能となる。 In addition, as described above, the wet / dry determination of the traveling road surface based on the number of corresponding points is performed by the dry / wet determination unit, and for example, the captured traveling road surface is divided into a horizontally polarized image and a vertically polarized image and processed. Compared to the case, a polarizing means such as a filter becomes unnecessary, and as a result, the number of parts can be reduced and the entire apparatus can be downsized. In addition, the switching process between the horizontally polarized image and the vertically polarized image can be abolished. For this reason, it is possible to reduce the control processing load of the entire apparatus, and from the imaging of the traveling road surface by both imaging means to the dry / wet determining means It is possible to shorten the processing time until the determination of the dry / wet determination result by.
また、対応点検出手段により検出される対応点の数は、上述したように、走行路面が乾燥状態にある場合の方が湿潤状態にある場合に比べて多くなるが、本発明によれば、対応点検出手段により検出された対応点の数が所定閾値以下である場合には、乾湿判定手段により車両の走行路面の上記所定領域に対応する路面部が湿潤状態にあるものと判定され、対応点数が上記所定閾値を上回っている場合には、乾湿判定手段により該路面部が乾燥状態にあるものと判定される。従って、例えば、走行路面が乾燥状態にある場合と湿潤状態にある場合との各場合において、対応点検出手段により検出される対応点の数を予め実験等で求めた上で該各場合に検出される対応点数の中間値を上記所定閾値とすることで、上記乾湿判定手段による乾湿判定を確実に精度良く行うことが可能となる。 Further , as described above, the number of corresponding points detected by the corresponding point detection means is larger when the traveling road surface is in a dry state than when it is in a wet state. If the number of corresponding points detected by the corresponding point detection means is less than or equal to a predetermined threshold value, the dry / wet determination means determines that the road surface portion corresponding to the predetermined area of the traveling road surface of the vehicle is in a wet state, and When the score exceeds the predetermined threshold value, it is determined by the dry / wet determining means that the road surface is in a dry state. Therefore, for example, in each case where the traveling road surface is in a dry state or in a wet state, the number of corresponding points detected by the corresponding point detecting means is obtained in advance through experiments or the like and detected in each case. By setting the intermediate value of the corresponding points to be the predetermined threshold value, it is possible to reliably perform the wet / dry determination by the dry / wet determination means with high accuracy.
また、所定領域設定手段により、上記第1画像の重複部に対して、該第1画像における車両の進行方向に対応する方向である縦方向の座標値が互いに異なる複数の上記所定領域が設定される。そして、対応点検出手段により、上記第1画像の少なくとも各所定領域内において上記第2画像との対応点が検出されるとともに、各所定領域内の対応点数が算出される。そして、乾湿判定手段により、上記走行路面における各所定領域に対応する路面部のそれぞれに対して、上述の如く対応点数と所定閾値との大小関係に基づく乾湿判定が実行される。 The predetermined region setting means sets a plurality of the predetermined regions having different vertical coordinate values corresponding to the traveling direction of the vehicle in the first image for the overlapping portion of the first image. The The corresponding point detecting means detects corresponding points with the second image in at least each predetermined area of the first image, and calculates the number of corresponding points in each predetermined area. Then, the dry / wet determination means executes dry / wet determination based on the magnitude relationship between the number of corresponding points and the predetermined threshold as described above for each road surface portion corresponding to each predetermined region on the traveling road surface.
ところで、一般的に、画像内に写し出された被写体の解像度(分解能)は、その実環境下における車両からの前方距離が長いものほど、つまり被撮像物の該画像内における縦方向の座標値が大きいほど低くなる。このため、縦方向の座標値が大きい所定領域ほどその画像解像度は低くなるので対応点検出手段にて検出される対応点数も少なくなる。従って、上記乾湿判定手段による乾湿判定時に使用される所定閾値を、例えば縦方向の座標値が最小となる所定領域(実環境下における車両前方距離が最短となる所定領域)を基準として設定したとすると、該基準とした所定領域を除く他の所定領域では、該基準所定領域に比べてその画像解像度が低下して対応点検出手段により対応点が検出され難くなる。この結果、該基準所定領域を除く各所定領域に対応する走行路面部が、実際には乾燥状態にあるにも拘わらず、検出された対応点数が所定閾値以下となることによって乾湿判定手段により湿潤状態にあると誤判定され、延いては乾湿判定精度の低下を招くという問題がある。しかしながら、本発明によれば、上記所定閾値は、縦方向の座標値が大きい所定領域ほど小さい値とされ、このため、上記乾湿判定手段による誤判定を防止して、その乾湿判定精度をより一層向上させることが可能となる。 By the way, in general, the resolution (resolution) of a subject imaged in an image is longer as the distance from the vehicle in the actual environment is longer, that is, the vertical coordinate value of the object to be imaged is larger in the image. It gets lower. For this reason, since the image resolution becomes lower as the predetermined area has a larger vertical coordinate value, the number of corresponding points detected by the corresponding point detecting means is also reduced. Therefore, the predetermined threshold value used when the wet / dry determination is performed by the dry / humidity determination unit is set with reference to, for example, a predetermined area where the vertical coordinate value is minimum (a predetermined area where the vehicle front distance in the actual environment is the shortest). Then, in other predetermined areas excluding the reference predetermined area, the image resolution is lower than that of the reference predetermined area, and the corresponding points are difficult to be detected by the corresponding point detecting means. As a result, the running road surface portion corresponding to each predetermined region excluding the reference predetermined region is wet by the dry / wet determination means when the detected number of corresponding points is equal to or less than the predetermined threshold value even though it is actually in a dry state. There is a problem that it is erroneously determined to be in a state, and as a result, the accuracy of wet / dry determination is reduced. However, according to the present invention, the predetermined threshold value is set to a smaller value in a predetermined region having a larger vertical coordinate value. Therefore, erroneous determination by the dry / wet determination unit is prevented, and the wet / dry determination accuracy is further increased. It becomes possible to improve.
請求項2の発明では、請求項1の発明において、上記車両の速度を検知する車速検知手段を更に備え、上記車両の速度を検知する車速検知手段を更に備え、上記乾湿判定手段による上記乾湿判定時に使用される上記所定閾値は、上記車速検知手段により検知された車両の速度が高いほど小さい値に設定されているものとする。 According to a second aspect of the present invention, in the first aspect of the invention, the vehicle further includes vehicle speed detection means for detecting the speed of the vehicle, further includes vehicle speed detection means for detecting the speed of the vehicle, and the wet / dry determination by the dry / humidity determination means. It is assumed that the predetermined threshold used sometimes is set to a smaller value as the vehicle speed detected by the vehicle speed detecting means is higher.
このことにより、上記乾湿判定手段による走行路面の乾湿判定精度をより一層確実に向上させることが可能となる。 Thereby, it becomes possible to improve the dry / wet determination accuracy of the traveling road surface by the dry / wet determining unit more reliably.
すなわち、通常、車両の速度が増加するにしたがって車両振動は大きくなる。このため、車両の高速走行時には、該車両振動に起因して、上記両撮像手段より撮像される画像内に画像ブレが生じて撮像精度が低下することとなる。この結果、対応点検出手段により対応点を検出し難くなり、このため、上該所定領域に対応する走行路面部が、実際には乾燥状態にあるにも拘わらず、検出された対応点数が所定閾値以下となることによって乾湿判定手段により湿潤状態にあると誤判定されるという問題が生じる。しかしながら、本発明によれば、車両の速度を検知する車速検知手段を備えるとともに、上記所定閾値は、該車速検知手段により検知される車両の速度が高いほど低い値とされる。このため、車両の高速走行時において、その走行振動の増加に起因する乾湿判定手段の誤判定を確実に防止して、乾湿判定精度をより一層確実に向上させることが可能となる。 In other words, the vehicle vibration usually increases as the vehicle speed increases. For this reason, when the vehicle is traveling at high speed, image blurring occurs in the images picked up by the two image pickup means due to the vehicle vibration, and the image pickup accuracy is lowered. As a result, it becomes difficult to detect corresponding points by the corresponding point detecting means, and therefore, the number of detected corresponding points is predetermined even though the traveling road surface corresponding to the predetermined area is actually in a dry state. When the value is less than or equal to the threshold value, there is a problem that the wet / dry determination means erroneously determines that the wet state is present. However, according to the present invention, the vehicle speed detecting means for detecting the speed of the vehicle is provided, and the predetermined threshold value is set to a lower value as the vehicle speed detected by the vehicle speed detecting means is higher. For this reason, when the vehicle is traveling at high speed, it is possible to reliably prevent erroneous determination of the dry / wet determination means due to an increase in traveling vibration, thereby further improving the dry / wet determination accuracy.
請求項3の発明では、請求項1の発明において、上記所定領域設定手段は、上記第1画像の重複部における上記車両の走行路面に対応する画像領域内の一部を上記所定領域として設定するように構成され、上記対応点検出手段は、上記第1画像の所定領域においてのみ第2画像との対応点を検出するように構成されているものとする。 According to a third aspect of the present invention, in the first aspect of the invention, the predetermined area setting means sets, as the predetermined area, a part of the image area corresponding to the traveling road surface of the vehicle in the overlapping portion of the first image. The corresponding point detecting means is configured to detect a corresponding point with the second image only in a predetermined region of the first image.
この構成によれば、所定領域設定手段により、上記第1画像の重複部における上記車両の走行路面に対応する画像領域内の一部が上記所定領域として設定され、上記対応点検出手段により、上記第1画像の所定領域においてのみ第2画像との対応点の検出が実行される。 According to this configuration, a part of the image area corresponding to the traveling road surface of the vehicle in the overlapping portion of the first image is set as the predetermined area by the predetermined area setting unit, and the corresponding point detecting unit Detection of corresponding points with the second image is executed only in a predetermined region of the first image.
このため、対応点検出手段により行われる対応点の探索(検出)領域を第1画像内の一部に限定して、その処理負担の軽減を図ることが可能となり、延いては、両撮像手段による走行路面の撮像から乾湿判定手段による乾湿判定結果の確定までの時間をより一層短縮することが可能となる。 For this reason, it is possible to limit the search (detection) area of the corresponding points performed by the corresponding point detecting means to a part of the first image, and to reduce the processing load. It is possible to further shorten the time from the imaging of the traveling road surface by the determination of the wet / dry determination result by the dry / humidity determination means.
請求項4の発明では、請求項1乃至3のいずれかの発明において、上記画像情報記憶手段により記憶された上記第1画像及び第2画像のうち一方における他方との重複部に対して、上記車両の走行路面に対応する画像領域を輝度判定領域として設定する輝度判定領域設定手段と、上記輝度判定領域設定手段により輝度判定領域が設定された上記第1又は第2画像の各画素の輝度情報を基に、該設定された該第1又は第2画像の上記輝度判定領域内における輝度レベルと該輝度レベルに対応する画素数との関係を2軸のグラフ上に描いて輝度分布曲線を求める輝度分布算出手段とを備え、上記乾湿判定手段は、上記輝度分布算出手段により求めた輝度分布曲線の画素数のピーク値の所定割合での輝度分布幅が所定幅よりも小さい場合には上記乾湿判定を非実行とする一方、該輝度分布幅が該所定幅以上である場合には該乾湿判定を実行するように構成されているものとする。 According to a fourth aspect of the present invention, in the invention according to any one of the first to third aspects, the overlapping portion of one of the first image and the second image stored in the image information storage unit with the other is the above. Luminance determination area setting means for setting an image area corresponding to the traveling road surface of the vehicle as a luminance determination area, and luminance information of each pixel of the first or second image in which the luminance determination area is set by the luminance determination area setting means Based on the above, the relationship between the luminance level in the luminance determination area of the set first or second image and the number of pixels corresponding to the luminance level is drawn on a biaxial graph to obtain a luminance distribution curve. A luminance distribution calculating means, wherein the dry / wet determining means has the dry distribution when the luminance distribution width at a predetermined ratio of the peak value of the number of pixels of the luminance distribution curve obtained by the luminance distribution calculating means is smaller than the predetermined width. While not executed the judgment, if the luminance distribution width is said predetermined fixed width or more is assumed to be configured to perform the determination humidity wherein the drying.
この構成によれば、輝度判定領域設定手段により、上記第1画像と第2画像との一方における他方との重複部に対して、上記車両の走行路面に対応する画像領域が輝度判定領域として設定され、輝度分布算出手段により、上記輝度判定領域設定手段にて輝度判定領域が設定された上記第1又は第2画像の各画素の輝度情報を基に、該設定された該第1又は第2画像の上記輝度判定領域内における輝度レベルと画素数との関係がグラフ化されて輝度分布曲線が求められる。そして、上記輝度分布算出手段により求めた輝度分布曲線の画素数のピーク値の所定割合での輝度分布幅が所定幅よりも小さい場合には乾湿判定手段による乾湿判定が非実行とされる一方、該輝度分布幅が該所定幅以上である場合には該乾湿判定手段による乾湿判定が実行される。 According to this configuration, the brightness determination area setting means sets an image area corresponding to the traveling road surface of the vehicle as a brightness determination area with respect to an overlapping portion of one of the first image and the second image with the other. Based on the luminance information of each pixel of the first or second image in which the luminance determination area is set by the luminance determination area setting means by the luminance distribution calculation means, the set first or second The relationship between the luminance level and the number of pixels in the luminance determination area of the image is graphed to obtain a luminance distribution curve. And when the luminance distribution width at a predetermined ratio of the peak value of the number of pixels of the luminance distribution curve obtained by the luminance distribution calculating means is smaller than the predetermined width, the dry / humidity determination by the dry / humidity determining means is not executed, When the luminance distribution width is equal to or greater than the predetermined width, the dry / wet determination by the dry / wet determining unit is executed.
ところで、上記輝度分布算出手段により算出される輝度分布曲線は、上述の如く、該輝度判定領域内の画像の輝度レベルと画素数との関係をグラフ化したものとされ、通常、この輝度分布曲線はピーク値を有する正規分布となるが、夕暮れ時や雨天時等の周囲が比較的暗い場合には、晴天時の昼間等の周囲が比較的明るい場合に比べて上記各撮像手段により撮像される画像の輝度値が全体として低くなるが故に、該輝度分布曲線は低輝度よりにピーク値を有して急峻な曲線を描くこととなる。 By the way, the luminance distribution curve calculated by the luminance distribution calculating means is a graph showing the relationship between the luminance level of the image in the luminance determination region and the number of pixels as described above. Is a normal distribution with a peak value, but when the surroundings are relatively dark at dusk, rainy weather, etc., the image is picked up by each of the above imaging means compared to when the surroundings are relatively bright during the daytime, etc. Since the luminance value of the image is lowered as a whole, the luminance distribution curve has a peak value and a steeper curve than the low luminance.
従って、例えば輝度分布のピーク値の所定割合での分布幅が所定幅よりも小さい場合には、周囲が比較的暗いと推定することができる。この場合、周囲が暗いが故に両撮像手段により撮像される撮像画像の全体輝度が不足する結果、対応点検出手段による対応点検出精度が低下し、延いては乾湿判定手段による乾湿判定精度の低下を招くが、本発明の如く乾湿判定手段による走行路面の乾湿判定を非実行とすることで、乾湿判定手段における乾湿判定精度が低下しているにも拘わらず不必要に乾湿判定処理が実行されてその処理負担が増加するのを防止することが可能となる。一方、輝度分布のピーク値の所定割合での分布幅が所定幅以上の場合には、周囲が比較的明るいと推定することができる。この場合には、対応点検出手段による対応点の検出精度を十分に確保することができるので、本発明の如く乾湿判定手段による走行路面の乾湿判定を実行することで、その乾湿判定を確実に精度良く行うことができるとともに、該乾湿判定手段を無駄なく効率的に作動させることが可能となる。 Therefore, for example, when the distribution width at a predetermined ratio of the peak value of the luminance distribution is smaller than the predetermined width, it can be estimated that the surrounding is relatively dark. In this case, because the surroundings are dark, the overall brightness of the captured images captured by the two imaging units is insufficient, resulting in a decrease in the corresponding point detection accuracy by the corresponding point detection unit, and thus a decrease in the wet / dry determination accuracy by the wet / dry determination unit However, the dry / humidity determination process is performed unnecessarily by the dry / humidity determination unit as in the present invention, so that the dry / humidity determination process is unnecessarily performed even though the dry / humidity determination accuracy of the dry / humidity determination unit is reduced. It is possible to prevent the processing load from increasing. On the other hand, when the distribution width at a predetermined ratio of the peak value of the luminance distribution is equal to or larger than the predetermined width, it can be estimated that the surrounding is relatively bright. In this case, since the detection accuracy of the corresponding points by the corresponding point detection means can be sufficiently ensured, the dry / humidity determination is ensured by executing the dry / humidity determination of the traveling road surface by the dry / humidity determination means as in the present invention. It can be performed with high accuracy, and the dry / wet determining means can be operated efficiently without waste.
請求項5の発明では、請求項1の発明において、上記対応点検出手段により検出された上記第1画像の上記所定領域内の各対応点の距離画像データを求める対応点分布算出手段と、上記対応点分布算出手段により求めた距離画像データを基に、上記第1画像の所定領域内の画像に写し出された被撮像物が走行路面か否かを判定する路面判定手段とを備え、上記乾湿判定手段は、上記路面判定手段により上記被撮像物が走行路面であると判定された場合には上記乾湿判定を実行する一方、該被撮像物が走行路面でないと判定された場合には上記乾湿判定を非実行とするように構成されているものとする。 According to a fifth aspect of the invention, in the first aspect of the invention, the corresponding point distribution calculating means for obtaining distance image data of each corresponding point in the predetermined area of the first image detected by the corresponding point detecting means, Road surface determining means for determining whether or not the object to be imaged projected on the image in the predetermined area of the first image is a traveling road surface based on the distance image data obtained by the corresponding point distribution calculating means, The determination unit performs the dry / wet determination when the object to be imaged is determined to be a traveling road surface by the road surface determination unit, while the dry / wet when the object to be imaged is determined not to be a traveling road surface. It is assumed that the determination is not executed.
この構成によれば、対応点分布算出手段により、対応点検出手段にて検出された上記第1画像の上記所定領域内の各対応点の距離画像データが求められ、路面判定手段により、対応点分布算出手段にて求めた距離画像データを基に、上記第1画像の所定領域内の画像に写し出された被撮像物が走行路面か否かの判定がなされ、路面判定手段により上記被撮像物が走行路面であると判定された場合には、乾湿判定手段による乾湿判定が実行される一方、該被撮像物が走行路面でないと判定された場合には乾湿判定手段による乾湿判定が非実行される。 According to this configuration, distance image data of each corresponding point in the predetermined area of the first image detected by the corresponding point detecting unit is obtained by the corresponding point distribution calculating unit, and the corresponding point is obtained by the road surface determining unit. Based on the distance image data obtained by the distribution calculating means, it is determined whether or not the object to be imaged projected on the image in the predetermined area of the first image is a traveling road surface, and the object to be imaged is determined by the road surface determining means. Is determined to be a traveling road surface, the dry / humidity determination is performed by the dry / humidity determination unit, whereas when it is determined that the imaged object is not the traveling road surface, the dry / humidity determination is not performed by the dry / humidity determination unit. The
このように、路面判定手段により、上記第1画像の上記所定領域内の被撮像物が走行路面でないと判定された場合には、乾湿判定手段により乾湿判定が非実行とされるので、例えば被撮像物が先行車両であるにも拘わらず該先行車両を走行路面と見て乾湿判定が実行されるのを防止することが可能となる。従って、該乾湿判定手段による不必要な判定処理(所定領域内の撮像物が走行路面でないにも拘わらず行われる判定処理)の実行を防止してその処理負担を確実に軽減することが可能となる。一方、路面判定手段により上記第1画像の所定領域内の被撮像物が走行路面でないと判定された場合には、乾湿判定手段により乾湿判定が実行されるので、該乾湿判定手段を無駄なく効率的に作動させることが可能となる。 As described above, when the object to be imaged in the predetermined area of the first image is determined not to be the traveling road surface by the road surface determination unit, the dry / humidity determination unit does not execute the dry / humidity determination. Although the imaged object is a preceding vehicle, it is possible to prevent the dry / wet determination from being performed by viewing the preceding vehicle as a traveling road surface. Therefore, it is possible to reliably reduce the processing load by preventing execution of unnecessary determination processing (determination processing performed even when the imaged object in the predetermined area is not a traveling road surface) by the dry / wet determination means. Become. On the other hand, when the object to be imaged in the predetermined area of the first image is determined not to be a traveling road surface by the road surface determination means, the dry / humidity determination means is executed by the dry / humidity determination means. Can be activated automatically.
以上説明したように、本発明の車両用路面状態推定装置によると、車両の走行路面を撮像する第1撮像手段及び第2撮像手段と、該各撮像手段により撮像されて輝度情報を有する複数の画素からなる第1画像及び第2画像を記憶する画像情報記憶手段と、第1画像の重複部に対して所定領域を設定する所定領域設定手段と、該第1画像と第2画像とを比較することで、第1画像の少なくとも所定領域内において第2画像との対応点を検出するとともに、該検出した所定領域内の対応点数を算出する対応点検出手段と、該対応点検出手段により算出された該所定領域内の対応点数を基に、該車両の走行路面の乾湿判定を行う乾湿判定手段とを備え、上記乾湿判定手段は、上記対応点検出手段により算出された対応点数が予め設定された所定閾値以下である場合には、上記車両の走行路面における上記所定領域に対応する路面部が湿潤状態にあると判定する一方、上記対応点数が該所定閾値を上回っている場合には、該路面部が乾燥状態にあると判定する乾湿判定を行うように構成され、上記所定領域設定手段は、上記第1画像の重複部に対して、該第1画像における上記車両の進行方向に対応する方向である縦方向の座標値が互いに異なる複数の上記所定領域を設定するように構成され、上記対応点検出手段は、上記第1画像画像の少なくとも各所定領域内において上記第2画像との対応点を検出するとともに、検出した各所定領域内の対応点数を算出するように構成され、上記乾湿判定手段は、上記車両の走行路面における上記各所定領域に対応する路面部のそれぞれに対して上記乾湿判定を行うように構成されており、上記乾湿判定手段による上記乾湿判定時に使用される上記所定閾値は、上記各所定領域毎に予め設定されていて、該各所定領域の縦方向の座標値が大きいほど小さい値に設定されるようにしたことで、装置全体の小型化を図りつつ乾湿判定処理の迅速化を図ることが可能となる。 As described above, according to the vehicle road surface state estimating device of the present invention, the first and second imaging means for imaging the traveling road surface of the vehicle, and a plurality of images having luminance information captured by the respective imaging means. The image information storage means for storing the first image and the second image made up of pixels, the predetermined area setting means for setting a predetermined area for the overlapping portion of the first image, and the first image and the second image are compared. Thus, a corresponding point with the second image is detected in at least a predetermined region of the first image, and a corresponding point detecting unit that calculates the number of corresponding points in the detected predetermined region, and the corresponding point detecting unit calculates Based on the number of corresponding points in the predetermined area, a dry / wet determination means for performing dry / wet determination on the road surface of the vehicle, wherein the dry / wet determination means sets the corresponding points calculated by the corresponding point detection means in advance. Specified threshold If it is below, it is determined that the road surface portion corresponding to the predetermined area on the road surface of the vehicle is in a wet state, while if the corresponding number of points exceeds the predetermined threshold, the road surface portion is The predetermined area setting means is in a direction corresponding to the traveling direction of the vehicle in the first image with respect to the overlapping portion of the first image. A plurality of the predetermined regions having different vertical coordinate values are set, and the corresponding point detecting means detects corresponding points with the second image in at least each predetermined region of the first image image. In addition, it is configured to calculate the corresponding points in each detected predetermined area, and the dry / wet determination means is configured to perform the above for each road surface portion corresponding to each predetermined area on the traveling road surface of the vehicle. The predetermined threshold value that is configured to perform humidity determination and is used when the wet / dry determination unit performs the dry / wet determination is set in advance for each of the predetermined areas, and the vertical coordinate value of each predetermined area by was so that is set to a smaller value the larger, it becomes possible to achieve faster dry-wet determination processing while reducing the size of the entire apparatus.
以下、本発明の実施形態を図面に基づいて詳細に説明する。 Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
(実施形態1)
図1は、本発明の実施形態1に係る車両用路面状態推定装置1を示し、この車両用路面状態推定装置1は、車両A(図2参照)に搭載されてその走行路面20の乾湿状態を判定するとともに、判定した路面の乾湿情報を横滑り防止装置11(以下、DSC(Dynamic Stability Control)制御装置11と呼ぶ)に送信するようになっている。
(Embodiment 1)
FIG. 1 shows a vehicular road surface state estimating device 1 according to Embodiment 1 of the present invention. The vehicular road surface state estimating device 1 is mounted on a vehicle A (see FIG. 2) and is in a wet and dry state of its traveling road surface 20. And the determined wet / dry information of the road surface is transmitted to the skid prevention device 11 (hereinafter referred to as a DSC (Dynamic Stability Control) control device 11).
具体的には、上記車両用路面状態推定装置1は、該車両前端部の天井部に配設された左右一対のカメラ(ステレオカメラ)2R,2Lと、該各カメラ2R,2Lにより撮像された画像を基に各種演算を行うECU100とを備えている。 Specifically, the vehicle road surface state estimation device 1 is imaged by a pair of left and right cameras (stereo cameras) 2R and 2L disposed on the ceiling of the front end of the vehicle, and the cameras 2R and 2L. ECU100 which performs various calculations based on an image is provided.
各カメラ2R,2Lは、車両前方の走行路面20を、互いの撮像領域(撮像画像)が一致(重複)するように撮像するべく、光軸を所定方向に向けて配設されている。そうして、左側及び右側カメラ2R,2Lがそれぞれ、車両Aの走行路面20を、互いの撮像画像の全部が重複するように撮像する第1撮像手段及び第2撮像手段を構成するとともに、左側カメラ2Lにより撮像される第1画像としての左側カメラ画像GL全体が該第1画像の重複部に相当し、右側カメラ2Rにより撮像される第2画像としての右側カメラ画像GR全体が該第2画像の重複部に相当することとなる。 Each of the cameras 2R and 2L is arranged with its optical axis directed in a predetermined direction so as to image the traveling road surface 20 in front of the vehicle so that the respective imaging regions (captured images) match (overlap). Thus, the left and right cameras 2R and 2L constitute a first imaging unit and a second imaging unit that respectively image the traveling road surface 20 of the vehicle A so that all of the captured images overlap each other. The entire left camera image GL as the first image captured by the camera 2L corresponds to the overlapping portion of the first image, and the entire right camera image GR as the second image captured by the right camera 2R is the second image. It corresponds to the overlapping part.
そして、各カメラ2R,2Lは、CCD(Charge coupled device)等の撮像素子を有するデジタルカメラにより構成されて、撮像した画像を画像信号としてECU100に送信する。 Each camera 2R, 2L is configured by a digital camera having an image sensor such as a CCD (Charge coupled device), and transmits the captured image to the ECU 100 as an image signal.
ECU100は、CPUやROM及びRAM等からなるものであって、図1に示すように、カメラ画像取得部3と、輝度判定領域設定部4と、輝度分布算出部5と、乾湿判定領域設定部6と、対応点検出部7と、路面判定部8と、路面乾湿状態判定部9と、主制御部10とを備えている。 The ECU 100 includes a CPU, a ROM, a RAM, and the like. As shown in FIG. 1, the ECU 100 acquires a camera image acquisition unit 3, a luminance determination region setting unit 4, a luminance distribution calculation unit 5, and a dry / wet determination region setting unit. 6, a corresponding point detection unit 7, a road surface determination unit 8, a road surface wet / dry state determination unit 9, and a main control unit 10.
上記カメラ画像取得部3は、例えば複数のRAMを有するフレームメモリからなるものであって、各カメラ2R,2Lから送信される画像信号を受信(取得)して、該各カメラ2R,2Lにより撮像された画像をデジタル画像データとして記憶する。 The camera image acquisition unit 3 includes, for example, a frame memory having a plurality of RAMs. The camera image acquisition unit 3 receives (acquires) image signals transmitted from the cameras 2R and 2L, and captures images by the cameras 2R and 2L. The processed image is stored as digital image data.
具体的には、カメラ画像取得部3は、右側カメラ2Rにより撮像された右側カメラ画像GRを記憶する右側カメラ画像取得部3Rと、左側カメラ2Lにより撮像された左側カメラ画像GLを記憶する左側カメラ画像取得部3Lとからなり、上記デジタル画像データは、各カメラ画像GR,GLを構成する各画素の画像面上での座標位置(x,y)と、各画素の輝度値(輝度情報)とからなる。そうして、カメラ画像取得部3が、上記第1及び第2撮像手段によりそれぞれ撮像されて輝度情報を有する複数の画素からなる第1画像及び第2画像を記憶する画像情報記憶手段を構成することとなる。 Specifically, the camera image acquisition unit 3 includes a right camera image acquisition unit 3R that stores the right camera image GR captured by the right camera 2R, and a left camera that stores the left camera image GL captured by the left camera 2L. The digital image data includes an image acquisition unit 3L, and the digital image data includes a coordinate position (x, y) on the image plane of each pixel constituting each camera image GR, GL, and a luminance value (luminance information) of each pixel. Consists of. Thus, the camera image acquisition unit 3 constitutes an image information storage unit that stores a first image and a second image each of which is captured by the first and second imaging units and has luminance information. It will be.
上記輝度判定領域設定部4は、主制御部10からの指令を受けて上記左側カメラ画像取得部3Lに記憶された左側カメラ画像GL(左側カメラ画像GLのデジタル画像データ)を読込むとともに、該左側カメラ画像GLに対して輝度判定領域R(図4参照)を設定する。この輝度判定領域Rは、後述するように路面乾湿状態判定部9による乾湿判定の実行・非実行を決定する際に必要となる輝度分布を取得するための画像領域であり、本実施形態おいては、輝度判定領域設定部4は、左側カメラ画像GLに対して、その輝度情報(各画素の輝度値)を基にした走行路面20(走行レーン)の左右の白線認識処理を行うとともに、該両白線に挟まれた領域を輝度判定領域Rとして設定するようになっている。そうして、輝度判定領域設定部4が輝度判定領域設定手段を構成することとなる。 The luminance determination area setting unit 4 receives a command from the main control unit 10 and reads the left camera image GL (digital image data of the left camera image GL) stored in the left camera image acquisition unit 3L and A luminance determination region R (see FIG. 4) is set for the camera image GL. The luminance determination region R is an image region for acquiring a luminance distribution necessary for determining whether to perform the wet / dry determination by the road surface wet / dry state determination unit 9 as will be described later. The brightness determination area setting unit 4 performs white line recognition processing on the left and right of the traveling road surface 20 (travel lane) based on the brightness information (the brightness value of each pixel) on the left camera image GL. An area sandwiched between both white lines is set as the luminance determination area R. Thus, the luminance determination area setting unit 4 constitutes a luminance determination area setting means.
上記輝度分布算出部5(輝度分布算出手段)は、主制御部10からの指令を受けて、輝度判定領域設定部4により左側カメラ画像GLに対して設定された輝度判定領域R内の輝度分布曲線を求める。具体的には、該輝度分布算出部5は、輝度判定領域R内の各画素を予め設定された複数の輝度レベル毎に分類してその数を算出することで輝度分布曲線を作成する。そうして、輝度分布算出部5により作成された輝度分布曲線は通常、図3に示すように、ピーク部を有する正規分布となる。図中の破線で示すL1は、夜間の比較的暗い状況での輝度分布を示していて、昼間の比較的明るい状況での輝度分布を示す実線のラインL2に比べて、そのピーク部が低輝度よりに位置し且つ分布幅も狭くなって全体として急峻な山となっている。 The luminance distribution calculation unit 5 (luminance distribution calculation means) receives a command from the main control unit 10 and the luminance distribution in the luminance determination region R set for the left camera image GL by the luminance determination region setting unit 4. Find a curve. Specifically, the luminance distribution calculation unit 5 creates a luminance distribution curve by classifying each pixel in the luminance determination region R for each of a plurality of preset luminance levels and calculating the number thereof. Thus, the luminance distribution curve created by the luminance distribution calculation unit 5 is normally a normal distribution having a peak portion as shown in FIG. L1 indicated by a broken line in the figure indicates the luminance distribution in a relatively dark state at night, and the peak portion has a lower luminance than the solid line L2 indicating the luminance distribution in a relatively bright daytime state. Further, the distribution width is narrower, and the mountain is steep as a whole.
上記乾湿判定領域設定部6(所定領域設定手段)は、主制御部10からの指令を受けて、上記左側カメラ画像GLに対して乾湿判定領域Q(図4参照)を設定する。この乾湿判定領域Qは、後述するように路面乾湿状態判定部9による走行路面20の乾湿判定を行うために設定される領域であり、本実施形態においては、上記乾湿判定領域設定部6は、左側カメラ画像GLにおける走行路面20(走行レーン)の左右の白線に挟まれた領域R(輝度判定領域R)を識別した上で、該領域R内に乾湿判定領域Q(図4参照)を設定するようになっている。より具体的には、乾湿判定領域設定部6は、左側カメラ画像GLの領域R内の画像のうち、実環境下における車両Aからの前方距離が所定距離以内(本実施形態においては10m以内)となる領域を特定して乾湿判定領域Qとして設定する。そうして、乾湿判定領域設定部6が所定領域設定手段を構成することとなる。 The dry / wet determination area setting unit 6 (predetermined area setting means) receives a command from the main control unit 10 and sets a dry / wet determination area Q (see FIG. 4) for the left camera image GL. The wet / dry determination area Q is an area that is set in order to perform dry / humidity determination of the traveling road surface 20 by the road surface wet / dry condition determination unit 9 as will be described later. In the present embodiment, the dry / wet determination area setting unit 6 includes: After identifying the region R (luminance determination region R) sandwiched between the left and right white lines of the traveling road surface 20 (travel lane) in the left camera image GL, the dry / wet determination region Q (see FIG. 4) is set in the region R. It is supposed to be. More specifically, the dry / wet determination area setting unit 6 determines that the forward distance from the vehicle A in the actual environment is within a predetermined distance among the images in the area R of the left camera image GL (in this embodiment, within 10 m). Is determined as a dry / wet determination region Q. Thus, the dry / wet determination area setting unit 6 constitutes a predetermined area setting means.
上記対応点検出部7(対応点検出手段)は、主制御部10からの指令を受けて、乾湿判定領域設定部6により設定された左側カメラ画像GLの乾湿判定領域Q内に含まれる対応点を検出(探索)するとともにその数をカウント(算出)する。 The corresponding point detection unit 7 (corresponding point detection means) receives a command from the main control unit 10 and corresponds points included in the dry / wet determination region Q of the left camera image GL set by the dry / wet determination region setting unit 6. Are detected (searched) and the number is counted (calculated).
ここで、対応点とは、左右のカメラ画像GL,GR間で互いに対応付けられる点であり、対応点検出部7による該対応点の検出は、本実施形態においては、公知の方法であるArea-based matching手法に基づいて行われる。Area-based matching手法とは、一方の画像のある点の対応点を、他方の画像から探す際にその点の回りの局所的な輝度値(濃度)パターンを手がかりに探索しようとするものである。具体的には、対応点検出部7は、図5に示すように、左側カメラ画像GLの一の画素回りに3×3ピクセルのウィンドを設定するとともに該ウィンドに囲まれた画像をテンプレート画像GTとして、右側カメラ画像GRのエピポーラ(epipolar line)線EL上に設定した探索範囲GS内でマッチングを行う。本実施形態では、このマッチング処理は、左側カメラ画像GLの全画素に対してそれぞれ実行され、このマッチングに使用するアルゴリズムとしては、SADアルゴリズム(Sum of Absolute Difference)を採用している。すなわち、対応点検出部7は、上記左側カメラ画像GLに設定されたテンプレート画像GTと、マッチングを行う右側カメラ画像GR内の画像との間で対応する画素間の輝度差の合計値(SAD値)を次式(1)により算出して、この合計値が所定値以下である場合には対応点が検出されたものとして、その画像面上での座標を記憶する。そうして、対応点検出部7は、この各対応点の座標情報を基に、乾湿判定領域Q内に含まれる対応点の数を算出する。尚、上記マッチングに使用するアルゴリズムは、SADアルゴリズムに限ったものではなく、例えば、SSD(Sum of Squared Difference)アルゴリズムや、NCC(Normalized Cross Correlation)アルゴリズムを使用するようにしてもよい。 Here, the corresponding points are points that are associated with each other between the left and right camera images GL and GR, and the detection of the corresponding points by the corresponding point detection unit 7 is an area method that is a known method in the present embodiment. This is done based on a -based matching method. In the area-based matching method, when searching for a corresponding point of a point in one image from the other image, a local luminance value (density) pattern around that point is searched for. . Specifically, as shown in FIG. 5, the corresponding point detection unit 7 sets a 3 × 3 pixel window around one pixel of the left camera image GL, and displays an image surrounded by the window as a template image GT. As described above, matching is performed within the search range GS set on the epipolar line EL of the right camera image GR. In the present embodiment, this matching process is performed on all the pixels of the left camera image GL, and an SAD algorithm (Sum of Absolute Difference) is adopted as an algorithm used for this matching. That is, the corresponding point detection unit 7 calculates the total value (SAD value) of the luminance difference between corresponding pixels between the template image GT set in the left camera image GL and the image in the right camera image GR to be matched. ) Is calculated by the following equation (1), and when the total value is less than or equal to a predetermined value, the corresponding point is detected and the coordinates on the image plane are stored. Then, the corresponding point detection unit 7 calculates the number of corresponding points included in the dry / wet determination region Q based on the coordinate information of each corresponding point. The algorithm used for the matching is not limited to the SAD algorithm. For example, an SSD (Sum of Squared Difference) algorithm or an NCC (Normalized Cross Correlation) algorithm may be used.
ML:左側画像の画素の輝度値
MR:右側画像の画素の輝度値
M L : Luminance value of the pixel of the left image M R : Luminance value of the pixel of the right image
上記路面判定部8は、主制御部10からの指令を受けて、上記輝度分布算出部5にて算出された輝度分布を基に上記左側カメラ画像GLの乾湿判定領域Q内に写し出された被撮像物が走行路面20か否かを判定する路面判定を実行する。 The road surface determination unit 8 receives a command from the main control unit 10, and based on the luminance distribution calculated by the luminance distribution calculation unit 5, the road surface determination unit 8 is projected in the dry / wet determination region Q of the left camera image GL. Road surface determination for determining whether the imaged object is the traveling road surface 20 is executed.
具体的には、路面判定部8における路面判定処理は、例えば以下のようにして行われる。まず、対応点検出部7にて検出された対応点の、左右のカメラ画像GL,GR間での位置ずれ量(視差)を基に三角測量の原理によって距離情報を求める処理を行なって、各対応点の3次元の分布、つまり各対応点の車幅方向の位置情報及び車両Aからの前方距離情報を表す距離画像データ(図6及び図7参照)を生成する。そして、この距離画像データを基に、車幅方向中央位置(左側カメラ画像GLのx方向の中央の画素列に対応する位置)に含まれる対応点を、横軸を車両前方距離とし且つ縦軸を画像面上のy座標とするグラフにプロットしてその分布図(図8参照)を作成する。そうして、作成した対応点分布図を基に、走行路面20の地表面に対応する下限ラインULを求める。尚、この図では、上記被撮像物が車両前方を走行する先行車両である場合の対応点分布を示していて、先行車両に相当する部分がピーク部Vとして現れている。そして更に、特定した下限ラインと所定距離(画像面上での距離)を隔てた平行ラインPLを求めた上で、該平行ラインPLを含む平面内(紙面に垂直な平面内)に位置する対応点の密度分布を求める(図9参照)。 Specifically, the road surface determination process in the road surface determination unit 8 is performed as follows, for example. First, a process for obtaining distance information according to the principle of triangulation based on the positional deviation amount (parallax) between the left and right camera images GL and GR of the corresponding point detected by the corresponding point detection unit 7 is performed. Distance image data (refer to FIG. 6 and FIG. 7) representing the three-dimensional distribution of corresponding points, that is, position information of each corresponding point in the vehicle width direction and forward distance information from the vehicle A is generated. Then, based on the distance image data, the corresponding point included in the center position in the vehicle width direction (position corresponding to the center pixel row in the x direction of the left camera image GL) Is plotted on a graph with y-coordinate on the image plane to create a distribution map (see FIG. 8). Then, the lower limit line UL corresponding to the ground surface of the traveling road surface 20 is obtained based on the created corresponding point distribution map. In this figure, the corresponding point distribution when the imaged object is a preceding vehicle traveling in front of the vehicle is shown, and a portion corresponding to the preceding vehicle appears as a peak portion V. Further, after obtaining a parallel line PL that is separated from the specified lower limit line by a predetermined distance (distance on the image plane), the correspondence is located in a plane including the parallel line PL (in a plane perpendicular to the paper surface). The density distribution of points is obtained (see FIG. 9).
具体的には、路面判定部8は、この対応点密度を予め設定した車両前方距離範囲D1乃至D4毎(車両前方距離毎)に車幅方向の各位置(左側カメラ画像の各x座標)にて算出する。そして、路面判定部8は、算出した対応点密度が図9に示すように車幅方向に一様になっている場合(例えば、各車両前方距離範囲D1乃至D4における対応点密度の車幅方向の変化率が全て所定値以下になっている場合)には、上記被撮像物が走行路面20であると判定する一方、対応点密度が車幅方向に一様でない場合には、上記被撮像物が走行路面20ではない(例えば先行車両や障害物等である)と判定する。そうして、該路面判定部8が対応点分布算出手段と路面判定手段とを構成することとなる。 Specifically, the road surface determination unit 8 sets the corresponding point density at each position in the vehicle width direction (each x coordinate of the left camera image) for each of the vehicle front distance ranges D1 to D4 (for each vehicle front distance). To calculate. When the calculated corresponding point density is uniform in the vehicle width direction as shown in FIG. 9 (for example, the corresponding point density in each vehicle forward distance range D1 to D4 in the vehicle width direction). When all the change rates of the images are equal to or less than a predetermined value), it is determined that the object to be imaged is the traveling road surface 20. On the other hand, when the corresponding point density is not uniform in the vehicle width direction, the object to be imaged is determined. It is determined that the object is not the traveling road surface 20 (for example, a preceding vehicle or an obstacle). Thus, the road surface determination unit 8 constitutes corresponding point distribution calculation means and road surface determination means.
上記路面乾湿状態判定部9(乾湿判定手段)は、路面判定部8にて上記被撮像物が走行路面20と判定された場合には、該走行路面20における上記乾湿判定領域Qに対応する路面部20a(図2参照。以下、乾湿判定路面部20aと呼ぶ)が、湿潤状態と乾燥状態とのいずれの状態にあるかの乾湿判定を行う。具体的には、路面乾湿状態判定部9は、上記対応点検出部7によりカウント(算出)された対応点の数が予め設定された所定閾値以下である場合には、上記車両Aの走行路面20における上記乾湿判定路面部20aが湿潤状態にあるものと判定する一方、上記対応点の数が該所定閾値を上回っている場合には、該路面部20aが乾燥状態にあるものと判定する。そして、路面乾湿状態判定部9は、実行した乾湿判定の結果を、次の乾湿判定実行時までの間記憶しておく。ここで、上記所定閾値は、設計段階において実験等に基づいて設定される値であって、両カメラ2R,2Lのカメラ特性等によって決まる値である。具体的には、本実施形態では、走行路面20が乾燥状態にある場合と湿潤状態にある場合との各場合において、対応点検出部7により検出される対応点の数を予め実験等で求めてサンプリング平均した上で、該各場合に検出される対応点の数のサンプリング平均値の中間値を上記所定閾値として設定するようにしている。 When the road surface determination unit 8 determines that the object to be imaged is the traveling road surface 20, the road surface wet / dry state determination unit 9 (dry / humidity determination unit) corresponds to the road surface corresponding to the dry / wet determination region Q on the traveling road surface 20. The part 20a (see FIG. 2; hereinafter referred to as the dry / wet determination road surface part 20a) performs dry / wet determination as to whether it is in a wet state or a dry state. Specifically, the road surface dry / wet state determination unit 9 determines the travel road surface of the vehicle A when the number of corresponding points counted (calculated) by the corresponding point detection unit 7 is equal to or less than a predetermined threshold value set in advance. On the other hand, when the dry / wet determination road surface portion 20a in 20 is determined to be in a wet state, if the number of the corresponding points exceeds the predetermined threshold value, it is determined that the road surface portion 20a is in a dry state. And the road surface wet / dry state determination part 9 memorize | stores the result of the performed dry / wet determination until the next dry / wet determination execution time. Here, the predetermined threshold value is a value set based on an experiment or the like in the design stage, and is a value determined by the camera characteristics of both cameras 2R and 2L. Specifically, in the present embodiment, the number of corresponding points detected by the corresponding point detection unit 7 in each case where the traveling road surface 20 is in a dry state and in a wet state is obtained in advance through experiments or the like. Then, after sampling average, the intermediate value of the sampling average value of the number of corresponding points detected in each case is set as the predetermined threshold.
また、上記路面乾湿状態判定部9は、路面判定部8にて上記被撮像物が走行路面20でないと判定された場合には、上記走行路面20の乾湿判定路面部20aの乾湿判定を行わないようになっている。そうして、該路面乾湿状態判定部が乾湿判定手段を構成することとなる。 Further, when the road surface determination unit 8 determines that the object to be imaged is not the traveling road surface 20, the road surface wet / dry state determination unit 9 does not perform the wet / dry determination of the wet / dry determination road surface part 20 a of the traveling road surface 20. It is like that. Then, the road surface wet / dry state determination unit constitutes a dry / wet determination unit.
上記主制御部10は、ECU100を構成する上記各構成部2乃至9の処理動作を制御することで、走行路面20の乾湿状態の判定を行うための一連の乾湿判定制御処理を実行する。 The main control unit 10 executes a series of dry / humidity determination control processes for determining the dry / wet state of the traveling road surface 20 by controlling the processing operations of the components 2 to 9 constituting the ECU 100.
具体的に、上記ECU100の主制御部10にて実行される乾湿判定制御処理について図10のフローチャートを基に説明する。 Specifically, the dry / wet determination control process executed by the main controller 10 of the ECU 100 will be described with reference to the flowchart of FIG.
最初のステップS1では、右側カメラ画像取得部3Rに対して、右側カメラ2Rからの画像信号を受信するよう指令を出すとともに、同様に左側カメラ画像取得部3Lに対して、左側カメラ2Lからの画像信号を受信するよう指令を出す。 In the first step S1, the right camera image acquisition unit 3R is instructed to receive an image signal from the right camera 2R, and similarly, the left camera image acquisition unit 3L receives an image from the left camera 2L. Command to receive signal.
ステップS2では、輝度判定領域設定部4に対して、左側カメラ画像取得部3Lに記憶された左側カメラ画像GLを読込むよう指令を出すとともに、読込んだ左側カメラ画像GL内に輝度判定領域Rを設定するよう指令を出す。 In step S2, the luminance determination area setting unit 4 is instructed to read the left camera image GL stored in the left camera image acquisition unit 3L, and the luminance determination area R is set in the read left camera image GL. Command to set.
ステップS3では、輝度分布算出部5に対して、ステップS2で設定された左側カメラ画像GLの輝度判定領域R内の輝度分布を算出させるべく指令を出す。 In step S3, a command is issued to the luminance distribution calculation unit 5 to calculate the luminance distribution in the luminance determination region R of the left camera image GL set in step S2.
ステップS4では、ステップS3にて算出された輝度分布を基に、該分布のピーク値W1,W2(図3参照)の所定割合(本実施形態では例えば50%)での分布幅B1,B2が所定幅以上であるか否かを判定し、この判定がYESの場合にはステップS5に進み、NOの場合にはステップS12に進む。尚、この所定幅は、周囲の明るさが、路面乾湿状態判定部9にて乾湿判定を行うために必要とされる明るさを満たしているか否かを区画する閾幅であるとも言える。 In step S4, based on the luminance distribution calculated in step S3, distribution widths B1 and B2 at a predetermined ratio (for example, 50% in this embodiment) of the peak values W1 and W2 (see FIG. 3) of the distribution are obtained. It is determined whether or not the width is equal to or greater than the predetermined width. If this determination is YES, the process proceeds to step S5, and if NO, the process proceeds to step S12. It can be said that this predetermined width is a threshold width that divides whether or not the surrounding brightness satisfies the brightness required for the dry / wet determination in the road surface wet / dry state determination unit 9.
ステップS5では、乾湿判定領域設定部6に対して、上記左側カメラ画像GL内に乾湿判定領域Qを設定させるべく指令を出す。 In step S5, a command is issued to the dry / wet determination area setting unit 6 to set the dry / wet determination area Q in the left camera image GL.
ステップS6では、対応点検出部7に対して、ステップS5にて設定された左側カメラ画像GLの乾湿判定領域Q内の対応点を検出(探索)させるとともにその数を算出させるべく指令を出す。 In step S6, the corresponding point detection unit 7 is instructed to detect (search) corresponding points in the dry / wet determination region Q of the left camera image GL set in step S5 and to calculate the number thereof.
ステップS7では、ステップS6にて対応点が検出されたか否かを判定し、この判定がYESの場合にはステップS8に進み、NOの場合にはステップS11に進む。 In step S7, it is determined whether or not a corresponding point is detected in step S6. If this determination is YES, the process proceeds to step S8, and if NO, the process proceeds to step S11.
ステップS8では、路面判定部8に対して、左側カメラ画像GLの乾湿判定領域Q内の被撮像物が走行路面20か否かを判定させるべく指令を出し、該路面判定部8による判定がYESの場合の場合にはステップS9に進み、NOの場合にはステップS12に進み。 In step S8, a command is issued to the road surface determination unit 8 to determine whether the object to be imaged in the dry / wet determination region Q of the left camera image GL is the traveling road surface 20, and the determination by the road surface determination unit 8 is YES. If YES, the process proceeds to step S9. If NO, the process proceeds to step S12.
ステップS9では、路面乾湿状態判定部9に対して、ステップS6にて算出された左側カメラ画像GLの各乾湿判定領域Q内の対応点数が上記所定閾値を上回っているか否かを判定させるべく(乾湿判定を実行させるべく)乾湿判定指令を出し、該路面乾湿状態判定部9による判定がYESの場合にはステップS10に進み、NOの場合にはステップS12に進む。 In step S9, the road surface dry / wet state determination unit 9 should determine whether or not the number of corresponding points in each dry / wet determination region Q of the left camera image GL calculated in step S6 exceeds the predetermined threshold ( A wet / dry determination command is issued (in order to execute dry / wet determination). If the determination by the road surface wet / dry state determination unit 9 is YES, the process proceeds to step S10. If NO, the process proceeds to step S12.
ステップS10では、路面乾湿状態判定部9により、走行路面20の乾湿判定路面部20aが乾燥状態にあるとする判定がなされるとともに、該路面乾湿状態判定部9に対して、判定した路面の乾湿情報(走行路面20の乾湿判定路面部20aが乾燥状態にあるとする情報)をDSC制御装置11に送信するよう指令を出す。 In step S10, the road surface dry / wet state determination unit 9 determines that the dry / wet determination road surface portion 20a of the traveling road surface 20 is in a dry state, and the road surface dry / wet state determination unit 9 determines whether the road surface dry / wet state is dry or wet. A command is issued to transmit information (information indicating that the dry / wet determination road surface portion 20a of the traveling road surface 20 is in a dry state) to the DSC control device 11.
ステップS11では、路面乾湿状態判定部9により、走行路面20の乾湿判定路面部20aが湿潤状態にあるとする判定がなされるとともに、該路面乾湿状態判定部9に対して、判定した路面の乾湿情報(走行路面20の乾湿判定路面部20aが湿潤状態にあるとする情報)をDSC制御装置11に送信するよう指令を出す。尚、路面乾湿状態判定部9は、実行した乾湿判定の結果を次の乾湿判定実行時まで、つまり上記ステップS9の処理を再度実行するまでの間記憶しておく。 In step S11, the road surface wet / dry condition determination unit 9 determines that the wet / dry determination road surface part 20a of the traveling road surface 20 is in a wet state, and the road surface wet / dry condition determination unit 9 determines whether the road surface wet / dry condition determination unit 9 is wet or dry. A command is issued to transmit information (information indicating that the dry / wet determination road surface portion 20a of the traveling road surface 20 is in a wet state) to the DSC control device 11. The road dry / wet state determination unit 9 stores the result of the executed wet / dry determination until the next dry / humidity determination is executed, that is, until the process of step S9 is executed again.
ステップS12では、該判定部9が現在記憶している走行路面20の乾湿情報(走行路面20の乾湿判定路面部20aが乾湿状態又は湿潤状態にあるとする情報)をDSC制御装置11に送信するよう指令を出す。 In step S12, the determination unit 9 transmits the wet / dry information of the traveling road surface 20 (information indicating that the wet / dry determination road surface part 20a of the traveling road surface 20 is in a dry / wet state or a wet state) to the DSC control device 11. The command is issued.
以上の如く上記実施形態1では、ECU100の路面乾湿状態判定部9は、対応点検出部7により算出された上記乾湿判定領域Q内の対応点の数を基に、車両Aの走行路面20における乾湿判定路面部20aが湿潤状態と乾燥状態とのいずれの状態にあるかの乾湿判定を行うようになっている。より具体的には、上記路面乾湿状態判定部9は、主制御部10からの指令を受けて、上記対応点検出部7によりカウント(算出)された対応点の数が予め設定された所定閾値以下である場合(ステップS9の判定がNOの場合)には、上記車両Aの走行路面20の乾湿判定路面部20aが湿潤状態にあると判定する一方、上記対応点の数が該所定閾値を上回っている場合(ステップS9の判定がYESの場合)には、該路面部20aが乾燥状態にあるものと判定する。こうして、路面乾湿状態判定部9により簡単に精度良く走行路面20における乾湿判定路面部20aの乾湿判定を行うことができる。すなわち、走行路面20の乾湿判定路面部20aが乾燥状態にある場合には、図11に示すように、該路面に反射した反射光は、全方向に同じ強さで反射する拡散反射光が支配的となって各カメラ2R,2Lのそれぞれに略同強度で入射する一方、走行路面が湿潤状態にある場合には、図12に示すように、該路面に反射した反射光は、指向性のある鏡面反射光が支配的となって各カメラ2R,2Lのそれぞれに異なる強度で入射することとなる。従って、走行路面20の乾湿判定路面部20aが乾燥状態にある場合には、該各カメラ2R,2Lにより撮像される左右のカメラ画像GL,GR間の輝度差(輝度分布差)は、該路面部20aが湿潤状態にある場合に比べて小さくなる。ここで、上記実施形態1では、対応点検出部7において、両画像GL,GRの輝度値を基にしたArea-based matching手法による対応点探索(検出)を行うようになっており、このため、走行路面20の乾湿判定路面部20aが乾燥状態にあるときには、上述の如く該両画像GR,GL間の輝度差が小さくなるが故に該路面部20aが湿潤状態にあるときに比べてより多くの対応点を検出することが可能となる(図6及び図7参照)。従って、例えば上記所定閾値を、上記実施形態1の如く、走行路面20が乾燥状態にある場合と湿潤状態にある場合との各場合に検出される対応点数のサンプリング平均値の中間値とすることで、該所定閾値と上記対応点数との大小関係を基に該走行路面20(乾湿判定路面部20a)の乾湿状態を簡単に且つ精度良く判定することができる。 As described above, in the first embodiment, the road surface wet / dry state determination unit 9 of the ECU 100 is based on the number of corresponding points in the dry / wet determination region Q calculated by the corresponding point detection unit 7 on the traveling road surface 20 of the vehicle A. The dry / wet determination road surface portion 20a determines whether the wet / dry state is in a wet state or a dry state. More specifically, the road dry / wet state determination unit 9 receives a command from the main control unit 10, and a predetermined threshold value in which the number of corresponding points counted (calculated) by the corresponding point detection unit 7 is set in advance. In the case of the following (when the determination in step S9 is NO), it is determined that the wet / dry determination road surface portion 20a of the traveling road surface 20 of the vehicle A is in a wet state, while the number of the corresponding points exceeds the predetermined threshold value. When it exceeds (when determination of step S9 is YES), it determines with this road surface part 20a being in a dry state. In this way, the wet / dry determination of the dry / wet determination road surface portion 20a on the traveling road surface 20 can be performed easily and accurately by the road surface wet / dry state determination unit 9. That is, when the wet and dry determination road surface portion 20a of the traveling road surface 20 is in a dry state, as shown in FIG. 11, the reflected light reflected on the road surface is dominated by the diffuse reflected light reflected with the same intensity in all directions. As shown in FIG. 12, when the traveling road surface is wet, the reflected light reflected on the road surface is directional. A certain specular reflection light becomes dominant and enters each of the cameras 2R and 2L with different intensities. Therefore, when the wet and dry determination road surface portion 20a of the traveling road surface 20 is in a dry state, the luminance difference (luminance distribution difference) between the left and right camera images GL and GR captured by the cameras 2R and 2L is the road surface. This is smaller than when the portion 20a is in a wet state. Here, in the first embodiment, the corresponding point detection unit 7 performs corresponding point search (detection) by an area-based matching method based on the luminance values of both the images GL and GR. When the dry / wet determination road surface portion 20a of the traveling road surface 20 is in a dry state, the difference in luminance between the two images GR and GL is reduced as described above, so that the road surface portion 20a is more wet than when the road surface portion 20a is in a wet state. Can be detected (see FIGS. 6 and 7). Therefore, for example, the predetermined threshold value is set to an intermediate value of the sampling average value of the corresponding points detected in each case where the traveling road surface 20 is in a dry state and a wet state as in the first embodiment. Thus, it is possible to easily and accurately determine the wet and dry state of the traveling road surface 20 (dry and wet determination road surface portion 20a) based on the magnitude relationship between the predetermined threshold value and the number of corresponding points.
また、例えば、カメラ等で撮像した走行路面20の乾湿判定路面部20aの画像を水平偏光画像と垂直偏光画像とに分けて処理することで該路面部20aの乾湿判定を行うようにした場合に比べて、フィルタ等の偏光手段が不要となり、この結果、部品点数を削減して装置全体の小型化を図ることが可能となる。また、水平偏光画像と垂直偏光画像の切換え処理等の処理を廃止することができ、このため、装置1全体の制御処理負担を軽減することができ、この結果、両カメラ2R,2Lによる走行路面20の撮像から路面乾湿状態判定部9による乾湿判定結果の確定までの処理時間(ステップS1の処理を実行してからステップS10又は11の処理が完了するまでの時間であって、以下、乾湿判定処理時間と呼ぶ)を短縮することが可能となる。従って、上記DSC制御装置11に対して走行路面20の乾湿判定路面部20aの乾湿情報を素早く送信することができて、該DSCによる車両Aの走行制御を迅速に行うことができる。よって、車両Aの走行安定性の向上を図ることが可能となる。 In addition, for example, when the wet / dry determination of the road surface 20a is performed by separately processing the image of the dry / wet determination road surface 20a of the traveling road surface 20 captured by a camera or the like into a horizontally polarized image and a vertically polarized image. In comparison, a polarizing means such as a filter becomes unnecessary, and as a result, the number of parts can be reduced and the entire apparatus can be downsized. In addition, processing such as switching processing between the horizontally polarized image and the vertically polarized image can be abolished, and therefore, the control processing burden on the entire apparatus 1 can be reduced. As a result, the road surface of the two cameras 2R and 2L can be reduced. Processing time from imaging 20 to determination of the dry / wet determination result by the road surface wet / dry state determination unit 9 (the time from the execution of the process of step S1 to the completion of the process of step S10 or 11; (Referred to as processing time). Accordingly, the wet / dry information of the dry / wet determination road surface portion 20a of the travel road surface 20 can be quickly transmitted to the DSC control device 11, and the travel control of the vehicle A by the DSC can be performed quickly. Therefore, it is possible to improve the running stability of the vehicle A.
また、上記実施形態1では、主制御部10は、輝度分布算出部5にて算出された輝度分布(ステップS3にて算出された輝度分布)を基に、該分布のピーク値W1,W2の所定割合(本実施形態では例えば50%)での分布幅B1,B2(図3参照)が所定幅以上であるか否かを判定して(ステップS4判定を実行して)、該分布幅が所定幅未満であると判定した場合(ステップS4の判定がNOの場合)には、路面乾湿状態判定部9による乾湿判定を実行することなくステップS12に進み、前回の判定結果を現在の走行路面20の乾湿判定路面部20aの乾湿状態と推定する。すなわち、上記路面乾湿状態判定部9は、左側カメラ画像GLの輝度判定領域R内の輝度分布のピーク値W1,W2の所定割合での分布幅B1,B2が所定幅よりも小さい場合(図3の破線で示す輝度分布となる場合)、つまり周囲が比較的暗い状況にある場合には上記走行路面20の乾湿判定路面部20aの乾湿判定を非実行とするようになっている。 In the first embodiment, the main control unit 10 uses the luminance distribution calculated by the luminance distribution calculation unit 5 (the luminance distribution calculated in step S3) to obtain the peak values W1 and W2 of the distribution. It is determined whether or not the distribution widths B1 and B2 (see FIG. 3) at a predetermined ratio (for example, 50% in the present embodiment) are equal to or larger than the predetermined width (execution of step S4). When it is determined that the width is less than the predetermined width (when the determination in step S4 is NO), the flow proceeds to step S12 without executing the wet / dry determination by the road surface wet / dry state determination unit 9, and the previous determination result is used as the current traveling road surface. The dry / wet state of the 20 wet / dry determination road surface portion 20a is estimated. That is, the road surface dry / wet state determination unit 9 determines that the distribution widths B1 and B2 at a predetermined ratio of the peak values W1 and W2 of the luminance distribution in the luminance determination region R of the left camera image GL are smaller than the predetermined width (FIG. 3). In other words, when the surroundings are relatively dark, the wet / dry determination of the dry / humidity determination road surface portion 20a of the traveling road surface 20 is not executed.
これにより、周囲が比較的暗いが故に両カメラ2R,2Lにより撮像される両画像GL,GRの輝度が低下する状況下において、該輝度低下に起因して対応点検出部7による対応点検出精度が低下しているにも拘わらず、路面乾湿状態判定部9にて該対応点の数を基にした上記乾湿判定が実行されて誤判定がなされる(判定精度が著しく低下する)のを防止することができる。また、該路面乾湿状態判定部9による不必要な判定処理(判定精度が著しく低いにも拘わらず行われる判定処理)の実行を防止してその処理負担の軽減を図ることが可能となる。 Thus, in a situation where the brightness of both images GL and GR captured by both cameras 2R and 2L is reduced because the surroundings are relatively dark, the corresponding point detection accuracy by the corresponding point detection unit 7 due to the lowering of the brightness. In spite of the decrease, the road surface wet / dry condition determination unit 9 prevents the determination of the dry / wet based on the number of corresponding points and making an erroneous determination (the determination accuracy is significantly reduced). can do. Further, it is possible to prevent unnecessary processing by the road surface wet / dry condition determination unit 9 (determination processing performed despite the extremely low determination accuracy) and reduce the processing load.
また、上記実施形態1では、主制御部10は、輝度分布算出部5にて算出された輝度分布(ステップS3にて算出された輝度分布)の所定割合での分布幅B1,B2が所定幅以上であると判定した場合(ステップS4の判定がYESの場合)には、対応点検出部7にて左側カメラ画像GLの乾湿判定領域Q内の対応点が検出され(ステップS7の判定がYESであり)且つ路面判定部8にて該乾湿判定領域Q内の被撮像物が走行路面20と判定される所定条件成立時(ステップS8の判定がYESの時)に限って、路面乾湿状態判定部9に対して乾湿判定を実行させるべく指令を出す(ステップS9の処理を実行する)。すなわち、路面乾湿状態判定部9は、左側カメラ画像GLの輝度判定領域R内の輝度分布のピーク値W1,W2の所定割合での分布幅B1,B2が所定幅以上の場合(図3の実線で示す輝度分布となる場合)、つまり周囲が比較的明るい状況にある場合には上記走行路面20の乾湿判定路面部20aの乾湿判定を実行するようになっている。このように、路面乾湿状態判定部9における乾湿判定(対応点検出部7における対応点の検出)に必要とされる明るさが十分に確保されている場合には、上述の如く路面乾湿状態判定部9による走行路面20の乾湿判定を実行することで、該路面乾湿状態判定部9を無駄なく効率的に作動させて、該判定部9を構成するCPU等のハードウェア資源の有効利用を図ることが可能となる。 In the first embodiment, the main control unit 10 determines that the distribution widths B1 and B2 at a predetermined ratio of the luminance distribution calculated by the luminance distribution calculation unit 5 (the luminance distribution calculated in step S3) are the predetermined width. When it determines with it being above (when determination of step S4 is YES), the corresponding point in the dry / wet determination area | region Q of the left camera image GL is detected in the corresponding point detection part 7 (determination of step S7 is YES) And when the predetermined condition is met when the road surface determination unit 8 determines that the object to be imaged in the dry / wet determination region Q is the traveling road surface 20 (when the determination in step S8 is YES), the road surface wet / dry state determination is performed. A command is issued to the unit 9 to execute dry / wet determination (the process of step S9 is executed). That is, the road dry / wet state determination unit 9 determines that the distribution widths B1 and B2 at a predetermined ratio of the peak values W1 and W2 of the luminance distribution in the luminance determination region R of the left camera image GL are equal to or larger than the predetermined width (solid line in FIG. 3). In other words, when the surroundings are relatively bright, the wet / dry determination of the dry / wet determination road surface portion 20a of the traveling road surface 20 is executed. Thus, when the brightness required for the dry / wet determination in the road surface wet / dry state determination unit 9 (detection of corresponding points in the corresponding point detection unit 7) is sufficiently ensured, the road surface dry / wet state determination is performed as described above. By executing the dry / wet determination of the traveling road surface 20 by the unit 9, the road dry / wet state determination unit 9 is efficiently operated without waste, and effective use of hardware resources such as a CPU constituting the determination unit 9 is achieved. It becomes possible.
また、上記実施形態1では、上記路面乾湿状態判定部9は、上記路面判定部8にて左側カメラ画像GLの乾湿判定領域Q内に写し出された被撮像物が走行路面20であると判定された場合(ステップS8の判定がYESの場合の場合)には上記乾湿判定(ステップS9の処理)を実行するようになっている。 In the first embodiment, the road surface wet / dry state determination unit 9 determines that the object to be imaged projected in the dry / wet determination region Q of the left camera image GL by the road surface determination unit 8 is the traveling road surface 20. If it is determined (if the determination in step S8 is YES), the dry / wet determination (process in step S9) is executed.
これにより、左側カメラ画像GLの乾湿判定領域Q内に写し出された被撮像物が先行車両である(乾湿判定の対象物として不適切である)にも拘わらず、路面乾湿状態判定部9にて該先行車両を走行路面20と見て乾湿判定が実行されるのを防止することができる。従って、該路面乾湿状態判定部9による誤判定を防止することができて、その判定精度の向上を図ることが可能となる。また、該路面乾湿状態判定部9による不必要な判定処理の実行を防止してその処理負担の軽減を図る可能となる。 As a result, the road surface wet / dry state determination unit 9 does not detect the object to be imaged in the dry / humidity determination region Q of the left camera image GL, even though it is a preceding vehicle (inappropriate as an object for dry / wet determination). It is possible to prevent the dry / wet determination from being performed by viewing the preceding vehicle as the traveling road surface 20. Therefore, it is possible to prevent erroneous determination by the road surface dry / wet state determination unit 9 and to improve the determination accuracy. In addition, it is possible to prevent unnecessary processing by the road surface wet / dry state determination unit 9 and reduce the processing load.
また、上記実施形態1では、上記路面乾湿状態判定部9は、路面判定部8にて該被撮像物が走行路面20でないと判定された場合(ステップS8の判定がNOの場合)には上記乾湿判定(ステップS9の処理)を行わないようになっている。 Moreover, in the said Embodiment 1, the said road surface wet / dry state determination part 9 will be the above-mentioned when the road surface determination part 8 determines that this to-be-photographed object is not the driving | running | working road surface 20 (when determination of step S8 is NO). Dry / wet determination (the process of step S9) is not performed.
これにより、左側カメラ画像GLの乾湿判定領域Q内の被撮像物が、判定対象として適切である場合つまり走行路面20である場合には、路面乾湿状態判定部9により乾湿判定を確実に実行させて、該路面乾湿状態判定部9を無駄なく効率的に作動させることが可能となる。従って、路面乾湿状態判定部9を構成するハードウェア資源等の有効利用を図ることができる。 As a result, when the object to be imaged in the dry / humidity determination area Q of the left camera image GL is appropriate as a determination target, that is, the traveling road surface 20, the road surface / humidity determination unit 9 reliably executes the dry / humidity determination. Thus, the road surface dry / wet state determination unit 9 can be efficiently operated without waste. Therefore, it is possible to effectively use the hardware resources and the like constituting the road surface wet / dry condition determination unit 9.
また、上記実施形態1では、上記路面判定部8は、対応点検出部7にて算出した対応点密度の分布が車幅方向に一様になっている場合には、左側カメラ画像GLの乾湿判定領域Q内に写し出された被撮像物が走行路面20であると判定する一方、一様でない場合には該被撮像物が走行路面20でないと判定するようになっている。 In the first embodiment, when the distribution of the corresponding point density calculated by the corresponding point detection unit 7 is uniform in the vehicle width direction, the road surface determination unit 8 determines whether the left camera image GL is wet or dry. While it is determined that the imaged object projected in the determination area Q is the traveling road surface 20, it is determined that the imaged object is not the traveling road surface 20 if it is not uniform.
こうすることで、路面判定部8により上記被撮像物が走行路面20であるか否かを容易に且つ確実に判定することが可能となる。 By doing so, it is possible to easily and reliably determine whether or not the object to be imaged is the traveling road surface 20 by the road surface determination unit 8.
(実施形態2)
図13及び図14は、本発明の実施形態2を示し、ECU100の乾湿判定領域設定部6により左側カメラ画像GLに対して設定される乾湿判定領域Qの数、及び路面乾湿状態判定部9にて走行路面20(乾湿判定路面部20a)の乾湿判定を行う際に使用する所定閾値を上記実施形態1とは異ならせたものである。尚、車両用路面状態推定装置1の全体構成(図1参照)等は上記実施形態1と同様である。
(Embodiment 2)
FIGS. 13 and 14 show the second embodiment of the present invention. In the wet / dry determination area setting unit 6 of the ECU 100, the number of the dry / humidity determination areas Q set for the left camera image GL and the road wet / dry condition determination unit 9 are shown. Thus, the predetermined threshold used when performing dry / wet determination on the traveling road surface 20 (dry / wet determination road surface portion 20a) is different from that of the first embodiment. In addition, the whole structure (refer FIG. 1) etc. of the road surface state estimation apparatus 1 for vehicles are the same as that of the said Embodiment 1. FIG.
すなわち、本実施形態では、上記乾湿判定領域設定部6は、主制御部10からの指令を受けて、左側カメラ画像GLにおける走行路面20(走行レーン)の左右の白線に挟まれた領域Rを識別した上で、該領域R内に、車両Aからの前方距離情報が互いに異なる複数の乾湿判定領域Q1乃至Q8(図13参照)を設定するようになっている。具体的には、該乾湿判定領域設定部6は、左側カメラ画像GLの領域R内の画像を、y方向(縦方向)に8つの領域に分割して、該各分割領域を乾湿判定領域Q1乃至Q8として設定する。そうして設定された乾湿判定領域Q1乃至Q8は、互いのy方向位置(y方向の座標値)が異なるが故に車両前方距離情報も互いに異なることとなる。尚、本実施形態では、乾湿判定領域設定部6により設定される乾湿判定領域Q1乃至Q8の数は8つとされているが、これに限ったものではない。 That is, in the present embodiment, the dry / wet determination region setting unit 6 receives a command from the main control unit 10 and displays a region R sandwiched between the left and right white lines of the traveling road surface 20 (traveling lane) in the left camera image GL. After the identification, a plurality of dry / wet determination areas Q1 to Q8 (see FIG. 13) having different forward distance information from the vehicle A are set in the area R. Specifically, the wet / dry determination area setting unit 6 divides the image in the area R of the left camera image GL into eight areas in the y direction (vertical direction), and each of the divided areas is determined as the dry / humidity determination area Q1. To Q8. The dry / wet determination areas Q1 to Q8 set in this manner have different y-direction positions (coordinate values in the y-direction), and therefore have different vehicle front distance information. In the present embodiment, the number of dry / wet determination regions Q1 to Q8 set by the dry / wet determination region setting unit 6 is eight, but this is not limitative.
そして、対応点検出部7は、上記乾湿判定領域設定部6により設定された8つの乾湿判定領域Q1乃至Q8のそれぞれに含まれる対応点数をカウント(算出)する。 Then, the corresponding point detection unit 7 counts (calculates) the number of corresponding points included in each of the eight dry / wet determination regions Q1 to Q8 set by the dry / wet determination region setting unit 6.
また、路面判定部8は、上記実施形態1と同様の手法により、上記8つの乾湿判定領域Q1乃至Q8のそれぞれに対して、該各判定領域Q1乃至Q8内の被撮像物が走行路面20であるか否かの判定を行う。 In addition, the road surface determination unit 8 uses the same method as in the first embodiment, and the object to be imaged in each of the determination regions Q1 to Q8 is the traveling road surface 20 for each of the eight dry / wet determination regions Q1 to Q8. It is determined whether or not there is.
上記路面乾湿状態判定部9は、路面判定部8にて被撮像物が走行路面20であると判定された乾湿判定領域Q1乃至Q8に対してのみ乾湿判定を行う。具体的には、この路面乾湿状態判定部9による乾湿判定処理は、上記実施形態1と同様に各乾湿判定領域Q1乃至Q8内に含まれる対応点数と所定閾値との大小関係に基づいて行われるが、本実施形態では、この所定閾値は、図14に示すように、各乾湿判定領域Q1乃至Q8毎に、上記車両Aからの距離が長い前方距離情報を有する乾湿判定領域Q1乃至Q8ほど、つまりy方向の座標値が大きい乾湿判定領域Q1乃至Q8ほど小さい値となるように予め設定されている。そして、路面乾湿状態判定部9は、対応点検出部7にて検出された対応点の数が所定閾値を上回る乾湿判定領域Q1乃至Q8についてはこれに対応する乾湿判定路面部20aが乾燥状態にあると判定する一方、該対応点数が所定閾値以下となる乾湿判定領域Q1乃至Q8についてはこれに対応する乾湿判定路面部20aが湿潤状態にあると判定する。従って、例えば対応点検出部7にて検出された対応点数と、上記所定閾値との関係が図14に示す例のような関係にある場合には、路面乾湿状態判定部9は、乾湿判定領域Q1及びQ2に対応する乾湿判定路面部20aが湿潤状態にあると判定し、乾湿判定領域Q3乃至Q8に対応する乾湿判定路面部20aが乾燥状態にあると判定する。 The road surface wet / dry state determination unit 9 performs dry / humidity determination only on the dry / wet determination regions Q1 to Q8 in which the road surface determination unit 8 determines that the object to be imaged is the traveling road surface 20. Specifically, the dry / wet determination process by the road surface wet / dry state determination unit 9 is performed based on the magnitude relationship between the number of corresponding points included in each of the dry / wet determination regions Q1 to Q8 and the predetermined threshold, as in the first embodiment. However, in the present embodiment, as shown in FIG. 14, the predetermined threshold value is set for each of the wet and dry determination areas Q1 to Q8 having the front distance information with a long distance from the vehicle A for each of the dry and wet determination areas Q1 to Q8. That is, the wet / dry determination regions Q1 to Q8 having a large coordinate value in the y direction are set in advance so as to have a smaller value. The road surface wet / dry state determination unit 9 then determines the dry / humidity determination road surface part 20a corresponding to the dry / wet determination regions Q1 to Q8 in which the number of corresponding points detected by the corresponding point detection unit 7 exceeds the predetermined threshold. On the other hand, for the dry / wet determination areas Q1 to Q8 where the corresponding number of points is equal to or less than the predetermined threshold, it is determined that the corresponding wet / dry determination road surface portion 20a is in a wet state. Therefore, for example, when the relationship between the number of corresponding points detected by the corresponding point detection unit 7 and the predetermined threshold value is as in the example shown in FIG. 14, the road surface wet / dry state determination unit 9 It is determined that the wet and dry determination road surface portion 20a corresponding to Q1 and Q2 is in a wet state, and it is determined that the dry and wet determination road surface portion 20a corresponding to the dry and wet determination regions Q3 to Q8 is in a dry state.
また、上記路面乾湿状態判定部9は、路面判定部8にて被撮像物が走行路面20でないと判定された乾湿判定領域Q1乃至Q8に対しては上記乾湿判定を行わないようになっている。 The road surface wet / dry state determination unit 9 does not perform the dry / wet determination on the dry / wet determination regions Q1 to Q8 determined by the road surface determination unit 8 that the object to be imaged is not the traveling road surface 20. .
尚、上記ECU100の主制御部10にて実行される乾湿判定制御処理については、図10のステップS5において左側カメラ画像GLに対して複数の(8つの)乾湿判定領域Q1乃至Q8を設定する点と、ステップS6乃至S12の制御処理を各乾湿判定領域Q1乃至Q8のそれぞれに対して行う点とが上記実施形態1と異なるのみであって、その他の処理は実施形態1と同様であるため、ここではその説明を省略する。 Regarding the dry / wet determination control process executed by the main control unit 10 of the ECU 100, a plurality of (eight) dry / wet determination regions Q1 to Q8 are set for the left camera image GL in step S5 of FIG. And the point that the control process of steps S6 to S12 is performed on each of the dry / wet determination regions Q1 to Q8 is only different from the first embodiment, and the other processes are the same as in the first embodiment. The description is omitted here.
以上の如く上記実施形態2では、上記ECU100の乾湿判定領域設定部6は、左側カメラ画像GL(左側カメラ画像GLおける走行路面20の左右の白線に挟まれた領域R内)に対して、y方向の座標値が互いに異なる(車両Aからの前方距離情報が互いに異なる)複数の(8つの)乾湿判定領域Q1乃至Q8(図13参照)を設定するようになっている。そして、上記路面乾湿状態判定部9による乾湿判定時(ステップS9の処理時)に使用される上記所定閾値は、y方向の座標値が大きい(車両Aからの長い前方距離情報を有する)乾湿判定領域Q1乃至Q8ほど小さい値とされている(図14参照)。 As described above, in the second embodiment, the dry / wet determination area setting unit 6 of the ECU 100 performs y for the left camera image GL (in the area R sandwiched between the left and right white lines of the traveling road surface 20 in the left camera image GL). A plurality of (eight) dry / wet determination areas Q1 to Q8 (see FIG. 13) having different direction coordinate values (different forward distance information from the vehicle A) are set. The predetermined threshold value used when the wet / dry determination is performed by the road surface wet / dry state determination unit 9 (during the process of step S9) has a large coordinate value in the y direction (having long forward distance information from the vehicle A). Regions Q1 to Q8 have smaller values (see FIG. 14).
これにより、路面乾湿状態判定部9において走行路面20の乾湿判定路面部20aの乾湿判定をその車両Aからの距離に応じて確実に精度良く行うことが可能となる。 As a result, the road surface dry / wet state determination unit 9 can reliably and accurately perform the dry / wet determination of the dry / wet determination road surface 20a of the traveling road surface 20 according to the distance from the vehicle A.
すなわち、一般的に、画像内に写し出された被写体の解像度(分解能)は、その実環境下における車両Aからの前方距離が長いものほど低くなり、このため、y方向の座標値が大きい乾湿判定領域Q1乃至Q8ほど、その画像解像度は低くなるので対応点検出部7にて算出される対応点数も少なくなる。従って、例えば所定閾値をy方向の座標値が最も小さい乾湿判定領域Q1を基準として設定した場合、該基準とした乾湿判定領域Q1を除く乾湿判定領域Q2乃至S8に対応する路面部が実際には乾燥状態にあるにも拘わらず、路面乾湿状態判定部9により湿潤状態と誤判定される可能性が高くなる。しかしながら、上記所定閾値は、y方向の座標値が大きい乾湿判定領域Q1乃至Q8ほどその画像解像度の低下を補うべく小さい値とされている。このため、路面乾湿状態判定部9において上記誤判定を防止してその乾湿判定精度の向上を図ることが可能となる。 That is, in general, the resolution (resolution) of the subject imaged in the image becomes lower as the forward distance from the vehicle A in the actual environment becomes longer, and therefore the wet / dry determination region where the coordinate value in the y direction is large. Since Q1 to Q8 have lower image resolutions, the number of corresponding points calculated by the corresponding point detection unit 7 is also reduced. Therefore, for example, when the predetermined threshold is set with reference to the dry / humidity determination region Q1 having the smallest coordinate value in the y direction, the road surface portions corresponding to the dry / humidity determination regions Q2 to S8 excluding the dry / humidity determination region Q1 used as the reference are actually In spite of being in a dry state, there is a high possibility that the road surface wet and dry state determination unit 9 will erroneously determine that the vehicle is wet. However, the predetermined threshold value is set to a small value to compensate for a decrease in the image resolution in the dry / wet determination regions Q1 to Q8 having a large coordinate value in the y direction. For this reason, the road surface wet / dry state determination unit 9 can prevent the erroneous determination and improve the wet / dry determination accuracy.
(他の実施形態)
本発明の構成は、上記実施形態に限定されるものではなく、それ以外の種々の構成を包含するものである。すなわち、上記各実施形態では、路面乾湿状態判定部9において、乾湿判定を行う際に使用する所定閾値は、車両Aの速度とは無関係に設定されているが、これに限ったものではなく、例えば、車速に応じて変化させるようにしてもよい。具体的には、車速を検知する車速検知手段としての車速センサ(図示省略)を、上記路面乾湿状態判定部9に信号の授受可能に接続しておき、該路面乾湿状態判定部9により、該車速センサからの信号を基に車速を算出して、該算出した車速が高いほど所定閾値を低く設定する等すればよい。こうすることで、車両Aの速度増加に伴う車両振動の増加に起因して、対応点検出部7にて検出される対応点数が減少したとしても、路面乾湿状態判定部9による乾湿判定を精度良く確実に行うことが可能となる。
(Other embodiments)
The configuration of the present invention is not limited to the above embodiment, but includes various other configurations. That is, in each of the above-described embodiments, the predetermined threshold value used when performing the wet / dry determination in the road surface wet / dry state determination unit 9 is set regardless of the speed of the vehicle A, but is not limited thereto. For example, it may be changed according to the vehicle speed. Specifically, a vehicle speed sensor (not shown) as a vehicle speed detecting means for detecting the vehicle speed is connected to the road surface wet / dry condition determining unit 9 so that a signal can be transmitted and received. The vehicle speed may be calculated based on a signal from the vehicle speed sensor, and the predetermined threshold value may be set lower as the calculated vehicle speed is higher. In this way, even if the number of corresponding points detected by the corresponding point detection unit 7 decreases due to an increase in vehicle vibration accompanying an increase in the speed of the vehicle A, the dry / wet determination by the road surface wet / dry state determination unit 9 is accurate. It becomes possible to carry out well and reliably.
また、上記路面乾湿状態判定部9において乾湿判定を行う際に、上記所定閾値を例えば輝度分布算出部5にて算出される輝度分布に基づいて変化させるようにしてもよい。具体的には、輝度分布算出部5にて算出された輝度分布が低輝度状態になるほど(輝度分布のピーク値W1,W2の所定割合での分布幅B1,B2が狭くなるほど)、路面乾湿状態判定部9における乾湿判定に使用される所定閾値を低くすることが好ましい。こうすることで、夕暮れ時など比較的暗い状況においても、路面乾湿状態判定部9による走行路面20の乾湿判定を精度良く確実に行うことが可能となる。 In addition, when the dry / wet determination is performed in the road surface wet / dry state determination unit 9, the predetermined threshold may be changed based on, for example, the luminance distribution calculated by the luminance distribution calculation unit 5. Specifically, as the luminance distribution calculated by the luminance distribution calculation unit 5 becomes lower in luminance state (as the distribution widths B1 and B2 at a predetermined ratio of the peak values W1 and W2 of the luminance distribution become narrower), the wet and dry state on the road surface It is preferable to lower the predetermined threshold value used for the dry / wet determination in the determination unit 9. By doing so, it is possible to accurately and reliably perform the dry / wet determination of the traveling road surface 20 by the road surface wet / dry state determination unit 9 even in a relatively dark situation such as dusk.
また、上記各実施形態では、上記対応点検出部7は、左側カメラ画像GLの全領域にて対応点探索(検出)を行うようになっているが、これに限ったものではなく、例えば、該左側カメラ画像GLの乾湿判定領域Q内においてのみ対応点探索を行うようにしてもよい。こうすることで、対応点検出部7による対応点探索領域を限定してその対応点検出時間(マッチング処理時間)を短縮することができ、延いては、両カメラ2R,2Lによる走行路面20の乾湿判定路面部20aの乾湿判定処理時間をより一層短縮することが可能となる。 Moreover, in each said embodiment, although the said corresponding point detection part 7 performs a corresponding point search (detection) in the whole area | region of the left camera image GL, it is not restricted to this, For example, The corresponding point search may be performed only in the dry / wet determination region Q of the left camera image GL. By doing so, it is possible to limit the corresponding point search area by the corresponding point detection unit 7 and to shorten the corresponding point detection time (matching processing time). As a result, the traveling road surface 20 of both the cameras 2R and 2L can be reduced. It is possible to further reduce the dry / wet determination processing time of the dry / wet determination road surface portion 20a.
また、上記各実施形態では、各カメラ2R,2Lは、互いの撮像領域が完全に一致(重複)するように配設されているが、これに限ったものではなく、互いの撮像領域の一部が重複するように配設してもよい。 In each of the above embodiments, the cameras 2R and 2L are arranged so that their imaging areas completely match (overlap). However, the present invention is not limited to this. You may arrange | position so that a part may overlap.
また、上記各実施形態では、輝度判定領域設定部4は、左側カメラ画像GL内に上記輝度判定領域Rを設定するようになっているが、これに限ったものではなく、例えば、右側カメラ画像GR内に輝度判定領域Rを設定するようにしてもよい。 In each embodiment described above, the luminance determination region setting unit 4 sets the luminance determination region R in the left camera image GL. However, the present invention is not limited to this. For example, the right camera image The luminance determination area R may be set in the GR.
また、上記各実施形態では、路面判定部8にて左側カメラ画像GLの乾湿判定領域Q内の被撮像物が走行路面20か否かの判定を行うようになっているが、必ずしもこの路面判定部8を設ける(この判定を行う)必要はない。 Further, in each of the above embodiments, the road surface determination unit 8 determines whether or not the object to be imaged in the dry / wet determination region Q of the left camera image GL is the traveling road surface 20, but this road surface determination is not necessarily performed. There is no need to provide the section 8 (to make this determination).
また、上記各実施形態では、路面乾湿状態判定部9は、判定した走行路面20の乾湿判定路面部20aの乾湿情報をDSC制御装置11に送信するようになっているが、必ずしもこれに限ったものではなく、例えば該路面部20aが湿潤状態にあるとする情報を受けた場合に車両Aの乗員に対して警報を発する警報装置等に乾湿情報を送信するようにしてもよい。 Moreover, in each said embodiment, although the road surface wet / dry state determination part 9 transmits the dry / humidity information of the determined wet / dry determination road surface part 20a of the traveling road surface 20 to the DSC control apparatus 11, it is not necessarily restricted to this. For example, when information indicating that the road surface portion 20a is in a wet state is received, the wet / dry information may be transmitted to an alarm device or the like that issues an alarm to an occupant of the vehicle A.
また、上記各実施形態では、乾湿判定領域Qを左側カメラ画像GLに対して設定するようにしているが、これに限ったものではなく、例えば右側カメラ画像GRに対して設定するようにしてもよい。 In each of the above embodiments, the wet / dry determination region Q is set for the left camera image GL. However, the present invention is not limited to this, and may be set for the right camera image GR, for example. Good.
また、上記各実施形態では、輝度判定領域Rを右側カメラ画像GRに対して設定するようにしているが、これに限ったものではなく、例えば左側カメラ画像GLに対して設定するようにしてもよい。 In each of the above embodiments, the luminance determination region R is set for the right camera image GR. However, the present invention is not limited to this. For example, the luminance determination region R may be set for the left camera image GL. Good.
本発明は、車両の走行路面を撮像する撮像手段を備えて該撮像手段により撮像された画像を基に走行路面の乾湿判定を行う車両用路面状態推定装置に有用である。 INDUSTRIAL APPLICABILITY The present invention is useful for a vehicular road surface state estimation device that includes an imaging unit that captures an image of a traveling road surface of a vehicle and performs dry / wet determination on the traveling road surface based on an image captured by the imaging unit.
A 車両
S 乾湿判定領域(所定領域)
R 輝度判定領域
1 車両用路面状態推定装置
2L 左側カメラ(第1撮像手段)
2R 右側カメラ(第2撮像手段)
3 カメラ画像取得部(画像情報記憶手段)
3L 左側カメラ画像取得部(画像情報記憶手段)
3R 右側カメラ画像取得部(画像情報記憶手段)
4 輝度判定領域設定部(輝度判定領域設定手段)
5 輝度分布算出部(輝度分布算出手段)
6 乾湿判定領域設定部(所定領域設定手段)
7 対応点検出部(対応点検出手段)
8 路面判定部(路面判定手段、対応点分布算出手段)
9 路面乾湿状態判定部(乾湿判定手段)
20 走行路面
20a 乾湿判定路面部(走行路面における所定領域に対応する路面部)
A Vehicle S Dry / wet determination area (predetermined area)
R Luminance determination area 1 Vehicle road surface state estimation device 2L Left camera (first imaging means)
2R right camera (second imaging means)
3 Camera image acquisition unit (image information storage means)
3L left camera image acquisition unit (image information storage means)
3R right camera image acquisition unit (image information storage means)
4. Luminance determination area setting unit (luminance determination area setting means)
5. Luminance distribution calculation unit (luminance distribution calculation means)
6 Dry / wet determination area setting unit (predetermined area setting means)
7 Corresponding point detector (corresponding point detector)
8 Road surface determination unit (road surface determination means, corresponding point distribution calculation means)
9 Road surface wet and dry state determination unit (wet and dry determination means)
20 Traveling road surface 20a Dry / wet determination road surface part (road surface part corresponding to a predetermined area on the traveling road surface)
Claims (5)
上記車両の走行路面を、互いの撮像画像の少なくとも一部が重複するように撮像する第1撮像手段及び第2撮像手段と、
上記第1及び第2撮像手段によりそれぞれ撮像された、輝度情報を有する複数の画素からなる第1画像及び第2画像を記憶する画像情報記憶手段と、
上記画像情報記憶手段により記憶された上記第1画像における第2画像との重複部内に所定領域を設定する所定領域設定手段と、
上記画像情報記憶手段により記憶された上記第1画像と第2画像とを該各画像の画素の輝度情報を基に比較することで、該第1画像の少なくとも上記所定領域内において上記第2画像との対応点を検出するとともに、該検出した所定領域内の対応点数を算出する対応点検出手段と、
上記対応点検出手段により算出された上記所定領域内の対応点数を基に、上記車両の走行路面における該所定領域に対応する路面部が湿潤状態と乾燥状態とのいずれの状態にあるかの乾湿判定を行う乾湿判定手段とを備え、
上記乾湿判定手段は、上記対応点検出手段により算出された対応点数が予め設定された所定閾値以下である場合には、上記車両の走行路面における上記所定領域に対応する路面部が湿潤状態にあると判定する一方、上記対応点数が該所定閾値を上回っている場合には、該路面部が乾燥状態にあると判定する乾湿判定を行うように構成され、
上記所定領域設定手段は、上記第1画像の重複部に対して、該第1画像における上記車両の進行方向に対応する方向である縦方向の座標値が互いに異なる複数の上記所定領域を設定するように構成され、
上記対応点検出手段は、上記第1画像の少なくとも各所定領域内において上記第2画像との対応点を検出するとともに、該検出した各所定領域内の対応点数を算出するように構成され、
上記乾湿判定手段は、上記車両の走行路面における上記各所定領域に対応する路面部のそれぞれに対して上記乾湿判定を行うように構成されており、
上記乾湿判定手段による上記乾湿判定時に使用される上記所定閾値は、上記各所定領域毎に予め設定されていて、該各所定領域の縦方向の座標値が大きいほど小さい値に設定されていることを特徴とする車両用路面状態推定装置。 A vehicle road surface state estimating device for estimating a wet and dry state of a traveling road surface of a vehicle,
A first imaging means and a second imaging means for imaging the traveling road surface of the vehicle so that at least a part of each captured image overlaps;
Image information storage means for storing a first image and a second image made up of a plurality of pixels having luminance information, respectively imaged by the first and second imaging means;
Predetermined area setting means for setting a predetermined area in an overlapping portion of the first image stored in the image information storage means with the second image;
By comparing the first image and the second image stored by the image information storage means based on the luminance information of the pixels of each image, the second image is at least within the predetermined region of the first image. And corresponding point detecting means for calculating the number of corresponding points in the detected predetermined area,
Based on the number of corresponding points in the predetermined area calculated by the corresponding point detection means, whether the road surface portion corresponding to the predetermined area on the traveling road surface of the vehicle is in a wet state or a dry state. A wet and dry determination means for performing the determination ,
When the number of corresponding points calculated by the corresponding point detection unit is equal to or less than a predetermined threshold value set in advance, the dry / wet determination means has a wet road surface portion corresponding to the predetermined area on the traveling road surface of the vehicle. On the other hand, when the number of corresponding points is greater than the predetermined threshold, it is configured to perform dry / wet determination to determine that the road surface portion is in a dry state,
The predetermined area setting means sets a plurality of predetermined areas having different vertical coordinate values, which are directions corresponding to the traveling direction of the vehicle in the first image, for overlapping portions of the first image. Configured as
The corresponding point detection means is configured to detect a corresponding point with the second image in at least each predetermined region of the first image, and to calculate the number of corresponding points in the detected predetermined region,
The wet and dry determination means is configured to perform the dry and wet determination for each of the road surface portions corresponding to the predetermined areas on the road surface of the vehicle,
The predetermined threshold used at the time of the wet / dry determination by the dry / wet determination means is set in advance for each of the predetermined areas, and is set to a smaller value as the vertical coordinate value of each of the predetermined areas is larger . A vehicle road surface state estimation device characterized by the above.
上記車両の速度を検知する車速検知手段を更に備え、
上記乾湿判定手段による上記乾湿判定時に使用される上記所定閾値は、上記車速検知手段により検知された車両の速度が高いほど小さい値に設定されていることを特徴とする車両用路面状態推定装置。 In the vehicle road surface state estimation device according to claim 1 ,
Vehicle speed detecting means for detecting the speed of the vehicle,
The road condition estimation apparatus for a vehicle according to claim 1, wherein the predetermined threshold value used at the time of the dry / wet determination by the dry / humidity determination unit is set to a smaller value as the vehicle speed detected by the vehicle speed detection unit is higher.
上記所定領域設定手段は、上記第1画像の重複部における上記車両の走行路面に対応する画像領域内の一部を上記所定領域として設定するように構成され、
上記対応点検出手段は、上記第1画像の上記所定領域においてのみ第2画像との対応点を検出するように構成されていることを特徴とする車両用路面状態推定装置。 In the vehicle road surface state estimation device according to claim 1 ,
The predetermined area setting means is configured to set a part of an image area corresponding to the traveling road surface of the vehicle in the overlapping portion of the first image as the predetermined area,
The vehicular road surface state estimating device, wherein the corresponding point detecting means is configured to detect a corresponding point with the second image only in the predetermined region of the first image.
上記画像情報記憶手段により記憶された上記第1画像及び第2画像のうち一方における他方との重複部に対して、上記車両の走行路面に対応する画像領域を輝度判定領域として設定する輝度判定領域設定手段と、
上記輝度判定領域設定手段により輝度判定領域が設定された上記第1又は第2画像の各画素の輝度情報を基に、該設定された該第1又は第2画像の上記輝度判定領域内における輝度レベルと該輝度レベルに対応する画素数との関係を2軸のグラフに描いて輝度分布曲線を求める輝度分布算出手段とを備え、
上記乾湿判定手段は、上記輝度分布算出手段により求めた輝度分布曲線において画素数のピーク値の所定割合での輝度分布幅が所定幅よりも小さい場合には上記乾湿判定を非実行とする一方、該輝度分布幅が該所定幅以上である場合には該乾湿判定を実行するように構成されていることを特徴とする車両用路面状態推定装置。 In the vehicular road surface state estimating device according to any one of claims 1 to 3 ,
A luminance determination area for setting an image area corresponding to the traveling road surface of the vehicle as a luminance determination area with respect to an overlapping portion of one of the first image and the second image stored in the image information storage means with the other. Setting means;
Based on the luminance information of each pixel of the first or second image in which the luminance determination region is set by the luminance determination region setting means, the luminance in the luminance determination region of the set first or second image A luminance distribution calculating means for obtaining a luminance distribution curve by drawing a relationship between a level and the number of pixels corresponding to the luminance level in a biaxial graph;
When the luminance distribution width at a predetermined ratio of the peak value of the number of pixels in the luminance distribution curve obtained by the luminance distribution calculating unit is smaller than the predetermined width, the dry / wet determination unit does not execute the dry / humid determination, A vehicular road surface state estimating device characterized in that the dry / wet determination is performed when the luminance distribution width is equal to or greater than the predetermined width.
上記対応点検出手段により検出された上記第1画像の上記所定領域内の各対応点の距離画像データを求める対応点分布算出手段と、
上記対応点分布算出手段により求めた距離画像データを基に、上記第1画像の上記所定領域内の画像に写し出された被撮像物が走行路面か否かを判定する路面判定手段とを備え、
上記乾湿判定手段は、上記路面判定手段により上記被撮像物が走行路面であると判定された場合には上記乾湿判定を実行する一方、該被撮像物が走行路面でないと判定された場合には上記乾湿判定を非実行とするように構成されていることを特徴とする車両用路面状態推定装置。 The road surface state estimating device for a vehicle according to claim 1 Symbol placement,
Corresponding point distribution calculating means for obtaining distance image data of each corresponding point in the predetermined area of the first image detected by the corresponding point detecting means;
Road surface determining means for determining whether or not the object to be imaged projected on the image in the predetermined area of the first image is a traveling road surface based on the distance image data obtained by the corresponding point distribution calculating means,
The dry / wet determination unit performs the dry / wet determination when the road surface determination unit determines that the imaged object is a traveling road surface, while the dry / humidity determination unit determines that the imaged object is not a traveling road surface. A vehicular road surface state estimating device, wherein the dry / wet determination is not executed.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007240981A JP5034809B2 (en) | 2007-09-18 | 2007-09-18 | Vehicle road surface state estimating device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007240981A JP5034809B2 (en) | 2007-09-18 | 2007-09-18 | Vehicle road surface state estimating device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009069119A JP2009069119A (en) | 2009-04-02 |
JP5034809B2 true JP5034809B2 (en) | 2012-09-26 |
Family
ID=40605518
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007240981A Expired - Fee Related JP5034809B2 (en) | 2007-09-18 | 2007-09-18 | Vehicle road surface state estimating device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5034809B2 (en) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5966935B2 (en) * | 2013-01-10 | 2016-08-10 | 三菱電機株式会社 | Infrared target detection device |
US9365217B2 (en) * | 2013-06-03 | 2016-06-14 | Booz Allen Hamilton Inc. | Mobile pothole detection system and method |
JP5893601B2 (en) | 2013-10-31 | 2016-03-23 | 富士重工業株式会社 | Vehicle control system |
JP6769263B2 (en) * | 2016-11-25 | 2020-10-14 | 日産自動車株式会社 | Road surface judgment method and road surface judgment device |
KR102499398B1 (en) * | 2017-08-09 | 2023-02-13 | 삼성전자 주식회사 | Lane detection method and apparatus |
DE102018218733A1 (en) * | 2018-10-31 | 2020-04-30 | Robert Bosch Gmbh | Method for supporting a camera-based environment detection of a means of transportation by means of road wetness information from a first ultrasonic sensor |
JP2022181641A (en) * | 2021-05-26 | 2022-12-08 | 株式会社ブリヂストン | Road surface state determination device, road surface state determination system, vehicle, road surface state determination method, and program |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3301995B2 (en) * | 1999-07-30 | 2002-07-15 | 富士重工業株式会社 | Stereo exterior monitoring device |
JP3235831B2 (en) * | 1999-07-30 | 2001-12-04 | 富士重工業株式会社 | Stereo exterior monitoring device |
JP3626905B2 (en) * | 2000-11-24 | 2005-03-09 | 富士重工業株式会社 | Outside monitoring device |
JP4532089B2 (en) * | 2003-09-09 | 2010-08-25 | 富士重工業株式会社 | Outside monitoring device |
-
2007
- 2007-09-18 JP JP2007240981A patent/JP5034809B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2009069119A (en) | 2009-04-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5034809B2 (en) | Vehicle road surface state estimating device | |
JP5276637B2 (en) | Lane estimation device | |
JP4956452B2 (en) | Vehicle environment recognition device | |
JP4992990B2 (en) | Lane marking detector | |
JP6220327B2 (en) | Traveling lane marking recognition device, traveling lane marking recognition program | |
JP4930046B2 (en) | Road surface discrimination method and road surface discrimination device | |
JP4714104B2 (en) | Object tilt detection device | |
KR20130040964A (en) | Object identification device | |
CN111563405B (en) | Image processing apparatus and image processing method | |
JP2003296736A (en) | Device for detecting obstacle and method thereof | |
EP3731139A1 (en) | Image processing device and image processing method | |
JP5855756B2 (en) | Lane mark recognition device | |
US12030551B2 (en) | Image processing device and image processing method | |
US11657624B2 (en) | Image processor and image processing method for parking frame estimation on a road surface | |
US11769338B2 (en) | Image processor and image processing method | |
JP4270183B2 (en) | White line detector | |
JP2011174794A (en) | Device and method for detecting state of road surface | |
JP3868915B2 (en) | Forward monitoring apparatus and method | |
JP4798576B2 (en) | Attachment detection device | |
JP2008042759A (en) | Image processing apparatus | |
JPH11205663A (en) | Exposure amount controller for image pickup device for vehicle | |
JP2001116545A (en) | Distance image calculator | |
JP5822866B2 (en) | Image processing device | |
JP6429101B2 (en) | Image determination apparatus, image processing apparatus, image determination program, image determination method, moving object | |
JPH06273170A (en) | Obstacle detector for vehicle |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100316 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120125 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20120223 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120403 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120521 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120605 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120618 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150713 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5034809 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |