KR101338058B1 - A system for detecting a unevenness on the road using a vehicle front camera image - Google Patents

A system for detecting a unevenness on the road using a vehicle front camera image Download PDF

Info

Publication number
KR101338058B1
KR101338058B1 KR1020080093325A KR20080093325A KR101338058B1 KR 101338058 B1 KR101338058 B1 KR 101338058B1 KR 1020080093325 A KR1020080093325 A KR 1020080093325A KR 20080093325 A KR20080093325 A KR 20080093325A KR 101338058 B1 KR101338058 B1 KR 101338058B1
Authority
KR
South Korea
Prior art keywords
vehicle
road
unevenness
tail light
image
Prior art date
Application number
KR1020080093325A
Other languages
Korean (ko)
Other versions
KR20100034281A (en
Inventor
심성보
김상일
김기태
Original Assignee
현대자동차주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 현대자동차주식회사 filed Critical 현대자동차주식회사
Priority to KR1020080093325A priority Critical patent/KR101338058B1/en
Publication of KR20100034281A publication Critical patent/KR20100034281A/en
Application granted granted Critical
Publication of KR101338058B1 publication Critical patent/KR101338058B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights

Abstract

본 문서는 전방 영상을 이용하여 선행 차량의 후미등을 검출하고, 이 검출된 후미등의 움직임을 추적하여 앞으로 주행하게 될 도로상에 요철 구간이 있는지를 판단할 수 있고, 이 판단에 기초하여 요철 구간에 대해 대응할 수 있는 차량이 주행 중인 도로상 요철을 검출하는 시스템을 개시한다. 이러한 시스템에 따르면 야간 주행 상황에서도 도로상의 요철 구간을 검출할 수 있어 운전자가 보다 안정적으로 주행할 수 있는 효과가 있다.This document detects the tail light of the preceding vehicle by using the front image, and tracks the movement of the detected tail light to determine whether there is an uneven section on the road to be driven forward. A system for detecting unevenness on the road on which a vehicle that is capable of responding to driving is disclosed. According to such a system, an uneven section on a road can be detected even in a night driving situation, so that the driver can run more stably.

요철, 카메라, 후미등 Unevenness, camera, taillight

Description

차량의 전방 영상을 이용하는 도로상 요철 검출 시스템{A SYSTEM FOR DETECTING A UNEVENNESS ON THE ROAD USING A VEHICLE FRONT CAMERA IMAGE}Road unevenness detection system using front image of vehicle {A SYSTEM FOR DETECTING A UNEVENNESS ON THE ROAD USING A VEHICLE FRONT CAMERA IMAGE}

본 문서는 차량이 주행 중인 도로상 요철을 검출하는 시스템에 관한 것으로 보다 구체적으로 차량의 전방 영상을 이용하여 해당 차량이 주행 중인 도로상 요철을 검출하는 시스템에 관한 것이다.This document relates to a system for detecting irregularities on a road on which a vehicle is driving. More specifically, the present invention relates to a system for detecting irregularities on a road on which a vehicle is driven by using an image of the front of the vehicle.

운전자가 도로를 주행할 경우 보행자 안전을 위해 주행 도로상에 설치된 과속 방지턱이나, 파손된 도로 등의 평탄이지 않은 도로를 지나게 된다. 이와 같은 과속 방지턱이나 파손된 도로같은 경우에는 도로상의 요철로서 판단되어, 운전중 도로상에 요철이 발견되면, 운전자는 요철을 피하거나 차량의 속도를 낮추고 부드럽게 요철을 밟고 지나갈 수 있도록 한다.When the driver drives the road, the driver passes an uneven road such as a speed bump or a damaged road installed on the driving road for pedestrian safety. Such speed bumps and broken roads are judged as unevenness on the road, and if unevenness is found on the road while driving, the driver can avoid unevenness or lower the speed of the vehicle and smoothly step on unevenness.

하지만, 운전자가 미처 이런 도로상 요철을 발견하지 못하고 고속의 주행속도로 요철을 밟고 지나게 되면 차체에 흔들림이 발생하고, 이에 따라 운전자나 동 차량의 탑승자도 이러한 흔들림을 느낄 수 있다. 이러한 요철에 따른 차체의 흔들림이 큰 경우에는 운전자 특히 무게가 적은 소인의 경우 상해를 입을 수도 있다. 특히, 야간에 어두운 경우에는 주위의 광량이 충분치 않기 때문에 노면 상태 즉, 도로상 요철이 있는지 여부를 판단하기가 더욱 어려운 난점이 있다.However, if the driver does not find such irregularities on the road and steps on the irregularities at a high speed, the vehicle body shakes, and thus, the driver or the passenger of the vehicle may feel the shakes. If the body shake due to such irregularities is large, the driver may be injured especially in the case of a small postmark. In particular, when it is dark at night, it is more difficult to determine whether there is a road surface state, that is, whether there are irregularities on the road, because the amount of ambient light is insufficient.

본 문서는 상술한 배경기술에 있어서, 차량의 전방 영상을 이용하여 노면 상태를 판단함으로써 해당 차량이 주행 중인 도로상 요철을 검출하는 시스템 제공을 해결 과제로 한다.This document provides a system for detecting unevenness on the road on which the vehicle is driven by determining a road surface state using the front image of the vehicle in the above-described background art.

상술한 과제를 해결하기 위한 일 수단으로서의 차량의 주행중 도로상 요철 검출 시스템은 전방 영상을 생성하는 전방 카메라부와, 상기 전방 영상을 처리하여 선행 차량의 후미등을 검출하고, 검출된 후미등을 추적하여 움직임 변화를 측정하는 영상처리부 및 상기 움직임의 변화에 이상 변화가 감지되거나 상기 움직임의 변화량이 기준치 이상인 경우 전방 도로상에 요철이 있는 것으로 판단하는 제어부를 포함한다.As a means for solving the above-mentioned problems, a system for detecting unevenness on the road while driving a vehicle includes a front camera unit generating a front image, a front image of the vehicle by processing the front image, and detecting a tail light of a preceding vehicle, and tracking the detected tail light and moving the vehicle. And an image processor for measuring a change and a controller for determining that there is an unevenness on the road ahead when an abnormal change is detected in the change of the movement or the change amount of the movement is equal to or greater than a reference value.

상기 영상처리부는, 상기 전방 영상의 일정 구간에 상기 선행 차량이 포착되면, 상기 전방 영상에서 밝기 및 색상 정보를 이용하여 상기 후미등에 대한 하나 이상의 후보점을 결정하고, 상기 전방 영상에서 나타나는 상기 하나 이상의 후보점의 이동 방향을 고려하여 상기 선행 차량의 후미등을 검출할 수 있다.The image processor, when the preceding vehicle is captured in a predetermined section of the front image, determines one or more candidate points for the tail light using brightness and color information in the front image, and the one or more appearing in the front image. The tail light of the preceding vehicle may be detected in consideration of the moving direction of the candidate point.

상기 제어부는, 상기 검출된 후미등에 대한 수직방향 픽셀값을 기준으로 상기 움직임의 변화를 측정할 수 있다.The controller may measure a change in the movement based on a vertical pixel value with respect to the detected tail light.

상기 제어부는, 차속(v)과 상기 선행 차량과의 상대 거리(x)를 이용하여 상기 요철과 접촉하게 될 예상시간(t)을 계산하고, 상기 예상시간(t)을 고려하여 상 기 요철에 대응하는 제어 신호를 생성할 수 있다.The controller calculates an estimated time t to be in contact with the unevenness by using the vehicle speed v and the relative distance x between the preceding vehicle, and calculates the estimated time t in consideration of the estimated time t. A corresponding control signal can be generated.

상기 전방 카메라부는, 두 개의 스테레오 카메라로 이루어지고, 상기 상대 거리(x)는

Figure 112008066858690-pat00001
로 계산될 수 있다. (여기서, L은 카메라 사이의 거리이고, f는 상기 카메라의 초점거리이고, dl은 영상 상에서의 좌측 픽셀 좌표 값이고, dr은 영상 상에서의 우측 픽셀 좌표 값임.)The front camera unit is composed of two stereo cameras, the relative distance (x) is
Figure 112008066858690-pat00001
Lt; / RTI > (Where L is the distance between cameras, f is the focal length of the camera, dl is the left pixel coordinate value on the image, and dr is the right pixel coordinate value on the image.)

상기 제어부는, 운전자에게 버저음, 경고등 또는 디스플레이 화면을 통해 운전자에게 경고하는 제어 신호 및 서스펜션의 감쇄력 또는 높이를 조절하는 제어 신호 중 적어도 하나를 생성할 수 있다.The controller may generate at least one of a control signal for alerting the driver through a buzzer sound, a warning light, or a display screen, and a control signal for adjusting the damping force or height of the suspension.

본 발명에 따르면 전방 영상을 이용하여 선행 차량의 후미등을 검출해 낼 수 있는 효과가 있다.According to the present invention there is an effect that can detect the tail light of the preceding vehicle by using the front image.

또한, 검출된 후미등의 움직임을 추적하여 앞으로 주행하게 될 도로상에 요철 구간이 있는지 여부를 판단할 수 있는 효과가 있다.In addition, it is possible to determine whether there is an uneven section on the road to be driven forward by tracking the movement of the detected tail light.

또한, 요철 구간의 검출을 통해 야간 주행 상황에서도 도로상 요철 구간에 대해 운전자가 스스로 적절히 대응하게 하거나 차내 시스템 상에서 요철 구간을 고려하여 각종 제어 시스템이 동작하도록 하는 효과가 있다.In addition, the detection of the uneven section has an effect of allowing the driver to respond appropriately to the uneven section on the road even at night driving conditions or to operate various control systems in consideration of the uneven section on the in-vehicle system.

또한, 이로써 도로상의 요철 구간으로 인한 흔들림이나 이로 인한 사고를 미연에 방지할 수 있는 효과가 있다. In addition, there is an effect that can be prevented in advance due to the shaking due to the uneven section on the road or the accident caused by this.

이하 도면을 참조하여 차량의 전방 영상을 이용하여 해당 차량이 주행 중인 도로상 요철을 검출하는 시스템에 대한 본 발명의 실시예들을 구체적으로 설명하도록 한다.Hereinafter, embodiments of the present invention will be described in detail with respect to a system for detecting irregularities on a road on which a corresponding vehicle is driven by using a front image of a vehicle.

도 1은 본 발명의 일 실시예에 따른 차량이 주행 중인 도로상 요철을 검출하는 시스템의 구성을 나타내는 블록도이다.1 is a block diagram showing a configuration of a system for detecting irregularities on a road on which a vehicle is driven according to an embodiment of the present invention.

도 1을 참조하면, 본 실시예에 따른 요철 검출 시스템은 차량의 전방을 촬영하여 전방 영상을 생성하는 전방 카메라부(10)와, 촬영된 전방 영상을 처리하여 선행하는 차량의 후미등을 검출하고, 검출된 후미등을 추적하여 움직임 변화를 측정하는 영상처리부(30) 및 움직임의 변화량이 기준치 이상이거나 상기 움직임의 변화에 이상 변화가 있는 경우 차량이 주행하게 되는 도로상에 요철이 있는 것으로 판단하는 제어부(40)를 포함한다. 제어부(40)는 운전자에게 버저음, 경고등 또는 디스플레이 화면을 통해 운전자에게 경고하는 제어 신호 및/또는 서스펜션의 감쇄력 또는 높이를 조절하는 제어 신호를 생성할 수 있다.Referring to FIG. 1, the unevenness detecting system according to the present exemplary embodiment detects a tail light of a preceding vehicle by processing a photographed front image and a front camera unit 10 that photographs the front of the vehicle and generates a front image. Image processing unit 30 for tracking the detected tail light to measure the change in movement and a control unit for determining that there is irregularities on the road on which the vehicle travels when the amount of change of movement is greater than the reference value or there is an abnormal change in the change of movement ( 40). The controller 40 may generate a control signal for alerting the driver through a buzzer sound, a warning light, or a display screen, and / or a control signal for adjusting the damping force or height of the suspension.

도 2는 본 발명의 일 실시예에 따른 차량이 주행 중인 도로상 요철을 검출하는 시스템의 동작을 나타내는 제1 흐름도이다.2 is a first flowchart illustrating an operation of a system for detecting irregularities on a road on which a vehicle is driven, according to an embodiment of the present invention.

먼저, 단계 S200에서 전방 카메라부(10)에서 생성되는 전방 영상(200)이 입력되면 단계 S210에서 전방 영상(200)을 통해 선행 차량이 있는 것으로 판단되면 선행 차량의 후미등(210)을 검출한다. 그리고, 단계 S220에서 이 선행 차량의 후미등(210)을 추적하여 움직임 변화(220)를 측정한다.First, when the front image 200 generated by the front camera unit 10 is input in step S200, if it is determined that there is a preceding vehicle through the front image 200 in step S210, the tail light 210 of the preceding vehicle is detected. In step S220, the rear light 210 of the preceding vehicle is tracked to measure the movement change 220.

단계 S230에서 이 선행 차량의 후미등(210)을 추적하여 움직임 변화(220)를 측정한 결과 요철 구간이 있는 것으로 판단되면 단계 S240에서 차량의 경보 시스템으로 제어 신호를 송신하여 운전자에게 경보하거나 단계 S250에서 차량의 서스펜션 시스템으로 제어 신호를 송신하여 서스펜션의 높이 등을 제어할 수 있다.If it is determined in step S230 that the tail light 210 of the preceding vehicle is measured and the movement change 220 is determined, there is an uneven section, a control signal is transmitted to the alarm system of the vehicle in step S240 to alert the driver or in step S250. The control signal may be transmitted to the vehicle suspension system to control the height of the suspension and the like.

도 3은 본 발명의 일 실시예에 따른 차량이 주행 중인 도로상 요철을 검출하는 시스템에서 선행 차량의 후미등을 검출하는 방법을 설명하기 위한 도면이다.FIG. 3 is a diagram for describing a method of detecting a tail light of a preceding vehicle in a system for detecting irregularities on a road on which a vehicle is driven according to an embodiment of the present invention.

본 실시예에 따르면, 전방 영상에 일정 구간(300)을 설정하여 선행 차량이 전방 영상에 설정된 일정 구간(300) 내에 포착되는 경우에 이 선행 차량에 대한 후미등을 검출하여 도로상 요철 검출에 이용하도록 할 수 있다. 이는 보통 선행 차량은 전방 영상의 일정 구간(300) 내에서만 포착될 확률이 높기 때문에 이러한 구간 설정이 영상처리속도 개선에 도움을 줄 수 있을 것이다.According to the present embodiment, when the preceding vehicle is set within the predetermined section 300 of the front image by setting a predetermined section 300 in the front image, the tail light of the preceding vehicle is detected and used to detect unevenness on the road. can do. This is because the preceding vehicle is likely to be captured only within a certain section 300 of the front image, such a section setting may help to improve the image processing speed.

그리고, 전방 영상 선행 차량의 후미등을 검출함에 있어서, 그 기준으로 밝기 및 색상 정보를 이용할 수 있다. 예를 들어, 영상에서 밝기값이 큰 부분이나 붉은색이 강한 부분을 뽑아 그룹핑함으로써 후미등에 대한 하나 이상의 후보점을 결정할 수 있다. 도로에는 반사 표지판과 같은 것들이 후미등 검출에 혼선을 줄 수 있으나 대부분의 표지판에서는 붉은색을 사용하지 않는 점을 고려하면 본 실시예에 따라 후미등 검출에 색상 정보를 이용하면 이러한 혼선을 줄일 수 있을 것이다.In detecting the tail light of the front image preceding vehicle, brightness and color information may be used as a reference. For example, one or more candidate points for the tail light may be determined by selecting and grouping a portion having a high brightness value or a portion having a strong red color in the image. On the road, such as a reflective sign may confuse tail light detection, but considering that most signs do not use red color, the use of color information for tail light detection according to the present embodiment may reduce such interference.

그리고, 전방 영상에서 결정되는 하나 이상의 후보점들 중에서 전방 영상 상에서의 각 후보점들의 이동 방향을 고려하여 선행 차량의 후미등을 최종 검출할 수 있다. 예를 들어, 후미등이 아닌 후보점들(320)에 대한 이동을 확인하면 차량이 전 방으로 주행함에 따라 영상 상에서 좌측 뒤 방향이나 우측 뒤 방향으로 빠지는 형상을 나타낼 것이다. 그리고, 선행 차량의 후미등의 경우 이동 변화가 일정하진 않지만, 이러한 빠지는 형상으로 나오지는 않을 것이다. 따라서, 후보점의 이동 방향이 좌측 뒤 방향이나 우측 뒤 방향이 되는 경우에는 후보점에서 제외시킨다. 이렇게 후보점들 중에서 선행 차량의 후미등(330)을 최종 검출할 것이다.The tail light of the preceding vehicle may be finally detected in consideration of the moving direction of each candidate point on the front image among the one or more candidate points determined in the front image. For example, if the movement of the candidate points 320 other than the rear lights is confirmed, the vehicle may move toward the front and thus may fall out in the left back direction or the right back direction on the image. In the case of the tail light of the preceding vehicle, the change in movement is not constant, but it will not come out in such a missing shape. Therefore, when the moving direction of the candidate point becomes the left back direction or the right back direction, it is excluded from the candidate point. Thus, the taillight 330 of the preceding vehicle is finally detected among the candidate points.

도 4는 본 발명의 일 실시예에 따른 차량이 주행 중인 도로상 요철을 검출하는 시스템에서 요철을 판단하는 방법을 설명하기 위한 도면이다.4 is a diagram for describing a method of determining an unevenness in a system for detecting unevenness on a road on which a vehicle is driven according to an embodiment of the present invention.

본 실시예에 따른 제어부는, 예를 들어 앞서 도 3을 통해 설명한 방법으로 검출된 각 후미등에 대한 중심점을 구하여 각 중심점의 수직방향의 픽셀위치를 이용하여 전방 도로상 요철의 유무를 확인할 수 있다. 즉, 각 후미등에 대한 수직방향 픽셀값을 기준으로 시간 흐름에 따른 변화를 추적하여 후미등에 대한 움직임의 변화를 측정할 수 있다.For example, the controller according to the present exemplary embodiment may obtain a center point of each tail light detected by the method described above with reference to FIG. 3, and then check whether there are irregularities on the front road using the pixel position in the vertical direction of each center point. That is, the change in the movement of the tail light may be measured by tracking the change over time based on the vertical pixel value of each tail light.

예를 들어, 전방 영상에서 선행 차량의 후미등에 대한 수직방향 픽셀값의 변화량이 양의 값이면 이는 선행 차량과 점점 멀어짐을 나타낼 것이고, 전방 영상에서 선행 차량의 후미등에 대한 수직방향 픽셀값의 변화량이 음의 값이면 이는 선행 차량과 점점 가까워짐을 나타낼 것이다.For example, if the amount of change in the vertical pixel value for the tail light of the preceding vehicle in the front image is a positive value, it will indicate that the change in the vertical pixel value for the tail light of the preceding vehicle in the front image is progressive. Negative values will indicate that you are getting closer to the preceding vehicle.

이렇게 선행 차량의 후미등에 대한 수직방향 픽셀값을 추적함에 있어서, 그 변화가 도 4의 좌측에 나타난 그래프에서와 같이 선형적으로 발생하는 경우에는 선행 차량이 정상 주행 중인 것으로 판단한다. 하지만, 도 4의 우측에 나타난 그래프에서와 같이 수직방향 픽셀값의 변화에 굴곡같은 이상 변화(400)가 있는 경우나 변 화량(ΔY)이 기준치 이상인 것으로 확인되면 이는 선행 차량이 요철 구간 주행 중인 것으로 판단한다.In tracking the vertical pixel value of the tail light of the preceding vehicle, when the change occurs linearly as shown in the graph shown on the left side of FIG. 4, it is determined that the preceding vehicle is in normal driving. However, as shown in the graph shown on the right side of FIG. 4, when there is an abnormal change 400 such as bending in the change of the vertical pixel value or when the change amount ΔY is higher than the reference value, the preceding vehicle is driving in the uneven section. To judge.

여기서 이상 변화란, 수직방향 픽셀값의 변화량의 부호가 전환되는 경우를 의미할 수 있다, 예를 들어, 수직방향 픽셀값의 변화량이 양의 값이다가 음의 값으로 전환되는 경우나 그 반대의 경우를 이상 변화가 있는 것으로 판단할 수 있다. 또한, 이와 같이 수직방향 픽셀값의 변화량의 부호가 전환되는 횟수가 수 회 되는 경우를 이상 변화가 있는 것으로 판단할 수 있다.Here, the abnormal change may mean a case where the sign of the change amount of the vertical pixel value is switched, for example, when the change amount of the vertical pixel value is positive and then converted to a negative value or vice versa. The case can be judged that there is an abnormal change. In addition, it can be determined that there is an abnormal change when the number of times the sign of the change amount of the vertical pixel value is changed several times.

또한, 이렇게 요철 구간을 검출함에 있어서, 변화량의 크기나 지속 시간을 고려하여 요철 구간의 강도나 지속성을 판단하여 이후 요철 구간에 대한 대응을 위해 제어 신호를 생성할 때 고려하여 보다 구체적으로 대응할 수 있도록 도움을 줄 수도 있을 것이다.In addition, in detecting the uneven section, the strength or persistence of the uneven section is determined in consideration of the magnitude or duration of the change, and when the control signal is generated to respond to the uneven section later, it may be considered in more detail. You may be able to help.

도 5는 본 발명의 일 실시예에 따른 차량이 주행 중인 도로상 요철을 검출하는 시스템에서 요철과 접촉하게 될 예상시간을 계산하는 방법을 설명하기 위한 도면이다.FIG. 5 is a diagram for describing a method of calculating an expected time of coming into contact with unevenness in a system for detecting unevenness on a road on which a vehicle is driven, according to an exemplary embodiment.

본 실시예에 따른 제어부는, 차속(v)과 차량과 선행 차량 사이의 상대 거리(x)를 이용하여 상기 요철과 접촉하게 될 예상시간(t=x/v)을 계산하고, 이 예상시간(t)을 고려하여 차량의 경보 시스템이나 차량의 서스펜션 시스템으로 제어 신호를 송신할 수 있다.The control unit according to the present embodiment calculates an estimated time (t = x / v) to be in contact with the unevenness by using the vehicle speed v and the relative distance x between the vehicle and the preceding vehicle, and calculates the estimated time ( In consideration of t), the control signal may be transmitted to the vehicle alarm system or the vehicle suspension system.

차량과 선행 차량 사이의 거리(x)는 예를 들어 앞서 도 3을 통해 설명한 방법으로 검출된 각 후미등에 대한 중심점을 이용하여 계산할 수 있다. 차량의 전방 카메라부가 두 개의 스테레오 카메라로 이루어지는 것으로 가정하면, 차량의 카메라에서 각 후미등의 중심점의 중간점(A)까지의 거리(x) 즉, 차량과 선행 차량 사이의 거리는 아래 수학식 1을 통해 계산해 낼 수 있다.The distance x between the vehicle and the preceding vehicle can be calculated using, for example, the center point for each taillight detected by the method described above with reference to FIG. 3. Assuming that the front camera portion of the vehicle is composed of two stereo cameras, the distance x from the vehicle's camera to the midpoint A of the center point of each tail light, i.e., the distance between the vehicle and the preceding vehicle is given by Equation 1 below. I can calculate it.

Figure 112008066858690-pat00002
Figure 112008066858690-pat00002

수학식 1에서 L은 차량에 장착된 두 개의 스테레오 카메라 사이의 거리이고, f는 각 카메라의 초점거리이고, dl은 영상 상에서의 좌측 픽셀 좌표 값이고, dr은 영상 상에서의 우측 픽셀 좌표 값이다.In Equation 1, L is a distance between two stereo cameras mounted on a vehicle, f is a focal length of each camera, dl is a left pixel coordinate value on an image, and dr is a right pixel coordinate value on an image.

도 6은 본 발명의 일 실시예에 따른 차량이 주행 중인 도로상 요철을 검출하는 시스템의 동작을 나타내는 제2 흐름도이다.6 is a second flowchart illustrating an operation of a system for detecting irregularities on a road on which a vehicle is driven according to an embodiment of the present invention.

도 6을 참조하면 단계 S600에서 전방 영상이 입력되면 단계 S610에서 밝기 필터링 등의 영상처리가 수행된다. 여기서 선행 차량의 후보점을 찾기 위해 상술한 바와 같이 밝기나 색상(붉은색) 정보를 이용할 수 있을 것이다.Referring to FIG. 6, when a front image is input in step S600, image processing such as brightness filtering is performed in step S610. In this case, in order to find a candidate point of the preceding vehicle, brightness or color (red) information may be used as described above.

단계 S620에서 이와 같은 광원 즉, 후미등에 대한 후보점들을 검지 및 그룹핑하고, 단계 S630에서 각 후보점들에 대한 위치를 추적하여 이동 방향을 판단하고, 이에 근거하여 후보점들을 추려낸다. In step S620, the candidate points for the light source, that is, the tail light, are detected and grouped, and in step S630, the positions of the candidate points are tracked to determine the moving direction, and the candidate points are extracted based on the positions.

단계 S640에서 최종 후미등을 결정하면 이 후미등에 대한 중심점을 결정하고, 이후 단계 S650에서 이 후미등을 지속적으로 추적한다. 특히, 이때 검출된 후미등의 중심점에 대한 영상 내 수직방향 픽셀값을 이용하여 후미등의 움직임을 판 단한다. When the final tail light is determined in step S640, the center point for the tail light is determined, and the tail light is continuously tracked in step S650. In particular, the movement of the tail light is determined using the vertical pixel value in the image with respect to the detected center point of the tail light.

단계 S680에서 이 움직임의 변화량을 고려하여 요철 구간의 유무를 판단한다. 이때 요철 구간의 유무를 판단하거나 예상 시간을 판단함에 있어서, 후미등의 움직임 변화량에 추가적으로 차량에 장착되는 다양한 센서 예를 들어, 휠 스피드 센서, 조향각 센서, 차고 센서 등의 센서로부터의 신호나 운전자가 사용자 인터페이스를 통해 입력하는 신호를 고려할 수 있을 것이다.In step S680, the presence or absence of the uneven section is determined in consideration of the change amount of this movement. At this time, in determining the presence or absence of the uneven section or the estimated time, a signal or a driver from a sensor such as a wheel speed sensor, a steering angle sensor, a garage sensor, etc. Consider input signals through the interface.

단계 S690에서 요철 구간이 있는 것으로 판단할 수 있는 조건이 만족되면 단계 S700에서 경보나 각종 제어 시스템으로 해당 제어 신호를 전송한다. 이때 요철 구간이 있는 것으로 판단할 수 있는 조건으로는 상술한 바와 같이 움직임 변화량이 기준값 이상으로 큰 값이 검출되거나, 움직임이 요동치는 현상이 검출되는 등이 될 것이다. 그리고, 상술한 바와 같이 요철 구간까지 도달하는 예상 시간을 계산하여 적절한 타이밍에 경보나 각종 제어 시스템이 동작하도록 할 수 있을 것이다.If the condition that can determine that there is the uneven section is satisfied in step S690, the control signal is transmitted to the alarm or various control systems in step S700. At this time, the condition that can be determined that there is an uneven section will be detected as a large value of the amount of change of motion is greater than the reference value, or a phenomenon that the motion fluctuates as described above. As described above, the estimated time to reach the uneven section may be calculated so that an alarm or various control systems operate at an appropriate timing.

단계 S710에서 운전자 경보 시스템으로 제어 신호가 전송되어 버저음이나 경보등이 작동할 수 있고 또한, 단계 S720에서 서스펜스 시스템으로 제어 신호가 전송되어 서스펜스가 적절이 조절되도록 작동할 수 있다.In operation S710, a control signal may be transmitted to the driver alarm system to operate a buzzer or an alarm lamp. In addition, in operation S720, a control signal may be transmitted to the suspension system to operate the suspension appropriately.

도 7은 본 발명의 일 실시예에 따른 차량이 주행 중인 도로상 요철을 검출하는 시스템에서 요철이 있는 것으로 판단되는 경우 이에 대응하는 방법을 설명하기 위한 도면이다.FIG. 7 is a diagram for describing a method corresponding to the unevenness when it is determined that there is unevenness in the system for detecting unevenness on the road on which the vehicle is driving according to an embodiment of the present invention.

도 7a는 본 실시예에 따라 서스펜션 시스템에서 제어부의 제어 신호에 따라 차량의 서스펜션(700)의 감쇄력을 제어함을 나타낸다. 예를 들어, 요철 구간이 있 는 것으로 판단되는 경우에는 서스펜션(700)의 감쇄력을 줄여 부드럽게 동작하도록 제어할 수 있다. FIG. 7A illustrates that the suspension system controls the damping force of the suspension 700 of the vehicle in accordance with the control signal of the controller in the suspension system. For example, when it is determined that there is an uneven section, it may be controlled to reduce the damping force of the suspension 700 to operate smoothly.

그리고, 도 7b는 본 실시예에 따라 서스펜션 시스템에서 제어부의 제어 신호에 따라 차량의 서스펜션(700)의 높이(710)를 제어함을 나타낸다. 예를 들어, 요철 구간이 있는 것으로 판단되는 경우에는 서스펜션(700)의 높이(710)를 높이는 쪽으로 제어하여 운전자에게 전달되는 충격을 줄이도록 할 수 있다.7B illustrates that the suspension system controls the height 710 of the vehicle suspension 700 according to the control signal of the controller in accordance with the present embodiment. For example, when it is determined that there is an uneven section, it may be controlled to increase the height 710 of the suspension 700 to reduce the impact transmitted to the driver.

그리고, 도 7c는 본 실시예에 따라 경보 시스템에서는 제어 신호에 따라 운전자에게 버저음(720), 경고등이 동작하도록 제어함을 나타낸다. 예를 들어, 요철 구간이 있는 것으로 판단되는 경우에는 버저음(720)이 울리거나, 경고등이 점멸하거나 또는 차량 내 구비된 디스플레이 화면을 통해 차량의 운전자에게 알려줄 수 있을 것이다. 7C illustrates that the alarm system controls the driver to operate the buzzer 720 and the warning light according to the control signal. For example, when it is determined that there is an uneven section, a buzzer 720 may sound, a warning light may flash, or the driver of the vehicle may be notified through a display screen provided in the vehicle.

이때는 제어부에서 요철로 인한 강도나 지속성까지 감지하여 감쇄력을 줄이거나 높이를 조절하는 정도까지 구체적으로 설정하여 줄 수도 있을 것이다.In this case, the control unit may detect the strength or persistence due to the unevenness, and may specifically set the level to reduce the damping force or adjust the height.

본 발명에 따라 요철 구간을 검출함에 있어서, 또는 도 7을 통해 설명한 실시예에 따라 요철이 있는 것으로 판단되는 경우 제어 신호를 송신하여 이에 대응함에 있어서, 또는 차량의 현재 속도를 고려하여 일정 속도인 경우 즉, 설정 속도 구간에서만 동작하도록 설정하여 이용할 수 있을 것이다. 이와 같은 경우에는 예를 들어, 저속으로 주행하는 경우에는 동작하지 않고, 고속으로 주행하는 경우에만 동작하여 운전자 혼란을 감소시킬 수 있을 것이다.In the case of detecting the uneven section according to the present invention, or when it is determined that there is the unevenness according to the embodiment described with reference to FIG. That is, it may be set and used to operate only in the set speed section. In such a case, for example, the driver may not operate when driving at low speed, but operate only when driving at high speed, thereby reducing driver confusion.

상기에서는 도면 및 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙 련된 당업자는 하기의 특허청구범위에 기재된 본 발명의 기술적 사상으로부터 벗어나지 않는 범위 내에서 본 발명은 다양하게 수정 및 변경시킬 수 있음은 이해할 수 있을 것이다.It will be apparent to those skilled in the art that various modifications and variations can be made in the present invention without departing from the spirit and scope of the invention as defined in the appended claims. You will understand.

도 1은 본 발명의 일 실시예에 따른 차량이 주행 중인 도로상 요철을 검출하는 시스템의 구성을 나타내는 블록도이다.1 is a block diagram showing a configuration of a system for detecting irregularities on a road on which a vehicle is driven according to an embodiment of the present invention.

도 2는 본 발명의 일 실시예에 따른 차량이 주행 중인 도로상 요철을 검출하는 시스템의 동작을 나타내는 제1 흐름도이다.2 is a first flowchart illustrating an operation of a system for detecting irregularities on a road on which a vehicle is driven, according to an embodiment of the present invention.

도 3은 본 발명의 일 실시예에 따른 차량이 주행 중인 도로상 요철을 검출하는 시스템에서 선행 차량의 후미등을 검출하는 방법을 설명하기 위한 도면이다.FIG. 3 is a diagram for describing a method of detecting a tail light of a preceding vehicle in a system for detecting irregularities on a road on which a vehicle is driven according to an embodiment of the present invention.

도 4는 본 발명의 일 실시예에 따른 차량이 주행 중인 도로상 요철을 검출하는 시스템에서 요철을 판단하는 방법을 설명하기 위한 도면이다.4 is a diagram for describing a method of determining an unevenness in a system for detecting unevenness on a road on which a vehicle is driven according to an embodiment of the present invention.

도 5는 본 발명의 일 실시예에 따른 차량이 주행 중인 도로상 요철을 검출하는 시스템에서 요철과 접촉하게 될 예상시간을 계산하는 방법을 설명하기 위한 도면이다.FIG. 5 is a diagram for describing a method of calculating an expected time of coming into contact with unevenness in a system for detecting unevenness on a road on which a vehicle is driven, according to an exemplary embodiment.

도 6은 본 발명의 일 실시예에 따른 차량이 주행 중인 도로상 요철을 검출하는 시스템의 동작을 나타내는 제2 흐름도이다.6 is a second flowchart illustrating an operation of a system for detecting irregularities on a road on which a vehicle is driven according to an embodiment of the present invention.

도 7은 본 발명의 일 실시예에 따른 차량이 주행 중인 도로상 요철을 검출하는 시스템에서 요철이 있는 것으로 판단되는 경우 이에 대응하는 방법을 설명하기 위한 도면이다.FIG. 7 is a diagram for describing a method corresponding to the unevenness when it is determined that there is unevenness in the system for detecting unevenness on the road on which the vehicle is driving according to an embodiment of the present invention.

<도면의 주요부분에 대한 부호의 설명><Description of the symbols for the main parts of the drawings>

10: 전방 카메라부 20: 차량 정보 제공부10: front camera unit 20: vehicle information providing unit

30: 영상처리부 40: 제어부30: image processing unit 40: control unit

50: 디스플레이부 60: 버저50: display unit 60: buzzer

70: 서스펜션 제어부70: suspension control unit

Claims (6)

전방 영상을 생성하는 전방 카메라부;A front camera unit generating a front image; 상기 전방 영상을 처리하여 선행 차량의 후미등을 검출하고, 검출된 후미등을 추적하여 움직임 변화를 측정하는 영상처리부; 및An image processor configured to process the front image to detect a tail light of a preceding vehicle, and to track a detected tail light to measure a change in movement; And 상기 움직임의 변화에 이상 변화가 감지되거나 상기 움직임의 변화량이 기준치 이상인 경우 전방 도로상에 요철이 있는 것으로 판단하는 제어부Control unit for determining that there is irregularities on the road ahead when abnormal changes are detected in the change of the movement or the amount of change of the movement is greater than the reference value 를 포함하는, 차량의 주행중 도로상 요철 검출 시스템.Containing, on-road irregularities detection system comprising a vehicle. 청구항 1에 있어서,The method according to claim 1, 상기 영상처리부는, 상기 전방 영상의 일정 구간에 상기 선행 차량이 포착되면, 상기 전방 영상에서 밝기 및 색상 정보를 이용하여 상기 후미등에 대한 하나 이상의 후보점을 결정하고, 상기 전방 영상에서 나타나는 상기 하나 이상의 후보점의 이동 방향을 고려하여 상기 선행 차량의 후미등을 검출하는 것을 특징으로 하는, 차량의 주행중 도로상 요철 검출 시스템.The image processor, when the preceding vehicle is captured in a predetermined section of the front image, determines one or more candidate points for the tail light using brightness and color information in the front image, and the one or more appearing in the front image. A tail light of the preceding vehicle is detected in consideration of a moving direction of a candidate point. 청구항 1에 있어서,The method according to claim 1, 상기 제어부는, 상기 검출된 후미등에 대한 수직방향 픽셀값을 기준으로 상기 움직임의 변화를 측정하는 것을 특징으로 하는, 차량의 주행중 도로상 요철 검출 시스템.The control unit measures the change of the movement on the basis of the vertical pixel value for the detected tail light, on-road unevenness detection system of the vehicle. 청구항 1에 있어서,The method according to claim 1, 상기 제어부는, 차속(v)과 상기 선행 차량과의 상대 거리(x)를 이용하여 상기 요철과 접촉하게 될 예상시간(t)을 계산하고, 상기 예상시간(t)을 고려하여 상기 요철에 대응하는 제어 신호를 생성하는 것을 특징으로 하는, 차량의 주행중 도로상 요철 검출 시스템.The controller calculates an estimated time t to be in contact with the unevenness using the vehicle speed v and the relative distance x between the preceding vehicle, and corresponds to the unevenness in consideration of the estimated time t. The road unevenness detection system on the road while the vehicle is running, characterized by generating a control signal. 청구항 4에 있어서,The method of claim 4, 상기 전방 카메라부는, 두 개의 스테레오 카메라로 이루어지고, 상기 상대 거리(x)는
Figure 112008066858690-pat00003
로 계산되는 것을 특징으로 하는, 차량의 주행중 도로상 요철 검출 시스템. (여기서, L은 카메라 사이의 거리이고, f는 상기 카메라의 초점거리이고, dl은 영상 상에서의 좌측 픽셀 좌표값이고, dr은 영상 상에서의 우측 픽셀 좌표 값임.)
The front camera unit is composed of two stereo cameras, the relative distance (x) is
Figure 112008066858690-pat00003
The road unevenness detection system of the vehicle, characterized in that it is calculated as. (Where L is the distance between cameras, f is the focal length of the camera, dl is the left pixel coordinate value on the image, and dr is the right pixel coordinate value on the image.)
청구항 1에 있어서,The method according to claim 1, 상기 제어부는, 운전자에게 버저음, 경고등 또는 디스플레이 화면을 통해 운전자에게 경고하는 제어 신호 및 서스펜션의 감쇄력 또는 높이를 조절하는 제어 신호 중 적어도 하나를 생성하는 것을 특징으로 하는, 차량의 주행중 도로상 요철 검출 시스템.The controller may generate at least one of a control signal for warning the driver through a buzzer sound, a warning light, or a display screen, and a control signal for adjusting the damping force or height of the suspension. system.
KR1020080093325A 2008-09-23 2008-09-23 A system for detecting a unevenness on the road using a vehicle front camera image KR101338058B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020080093325A KR101338058B1 (en) 2008-09-23 2008-09-23 A system for detecting a unevenness on the road using a vehicle front camera image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020080093325A KR101338058B1 (en) 2008-09-23 2008-09-23 A system for detecting a unevenness on the road using a vehicle front camera image

Publications (2)

Publication Number Publication Date
KR20100034281A KR20100034281A (en) 2010-04-01
KR101338058B1 true KR101338058B1 (en) 2013-12-06

Family

ID=42212456

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020080093325A KR101338058B1 (en) 2008-09-23 2008-09-23 A system for detecting a unevenness on the road using a vehicle front camera image

Country Status (1)

Country Link
KR (1) KR101338058B1 (en)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8793046B2 (en) * 2012-06-01 2014-07-29 Google Inc. Inferring state of traffic signal and other aspects of a vehicle's environment based on surrogate data
KR101406230B1 (en) * 2012-12-20 2014-06-12 현대오트론 주식회사 System and method for generating revised Around View Monitor video according to tilt of automotive
FR3015662B1 (en) * 2013-12-19 2016-01-15 Renault Sas METHOD AND DEVICE FOR DETECTING A RUNNING SITUATION OF A MOTOR VEHICLE ON A WAVY ROAD
CN114475573B (en) * 2022-02-14 2022-11-15 科大国创合肥智能汽车科技有限公司 Fluctuating road condition identification and vehicle control method based on V2X and vision fusion

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4325052A (en) * 1980-02-11 1982-04-13 Koerner Steve J Trailer light connection system
JP2007015525A (en) 2005-07-07 2007-01-25 Denso Corp Output device for outputting signal for coping with danger approach between preceding vehicle and own vehicle based on front picture photographed by camera and program for the output device
JP2011098579A (en) 2009-11-04 2011-05-19 Niles Co Ltd Vehicle tail lamp detecting device
KR20130000125A (en) * 2011-06-22 2013-01-02 현대자동차주식회사 System for reducing speed and detecting a speed bump and method thereof

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4325052A (en) * 1980-02-11 1982-04-13 Koerner Steve J Trailer light connection system
JP2007015525A (en) 2005-07-07 2007-01-25 Denso Corp Output device for outputting signal for coping with danger approach between preceding vehicle and own vehicle based on front picture photographed by camera and program for the output device
JP2011098579A (en) 2009-11-04 2011-05-19 Niles Co Ltd Vehicle tail lamp detecting device
KR20130000125A (en) * 2011-06-22 2013-01-02 현대자동차주식회사 System for reducing speed and detecting a speed bump and method thereof

Also Published As

Publication number Publication date
KR20100034281A (en) 2010-04-01

Similar Documents

Publication Publication Date Title
JP4730267B2 (en) Visibility state determination device for vehicle
JP4045862B2 (en) Optical axis deviation detection device for in-vehicle camera
US9827956B2 (en) Method and device for detecting a braking situation
US20060087416A1 (en) Information providing device for vehicle
JP5863607B2 (en) Pedestrian warning device
JP6868122B2 (en) Vehicle control device, vehicle with it, and control method
JP5751423B2 (en) Driving assistance device
JP2009223797A (en) Obstacle detector
CN110087951B (en) Image compensation for locomotive inclination
JP4980970B2 (en) Image pickup means adjustment device and object detection device
JP5297608B2 (en) Warning device
CN104220301A (en) Method and control device for adapting upper boundary of headlight beam
JP2010113601A (en) Vehicle warning apparatus
KR101338058B1 (en) A system for detecting a unevenness on the road using a vehicle front camera image
WO2016092925A1 (en) Approaching vehicle detection device
KR102199743B1 (en) Driver assistance system and method for providing blind spot image
JP2013161202A (en) Vehicle periphery monitoring device
JP2008052320A (en) Surround monitoring system
JP2007293390A (en) Backward travel warning device
JP2009122917A (en) Vehicle running support system
KR20140092451A (en) Lane departure warning apparatus and method
CN109823344B (en) Driving prompting method and system
CN113173160B (en) Anti-collision device for vehicle and anti-collision method for vehicle
JP2000149195A (en) Course environment recognizing device, safety driving supporting device using the same, and automatic driving device
JP2007022134A (en) Lane keeping supporting device for vehicle

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20171129

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20191127

Year of fee payment: 7