KR101453654B1 - 자동차 안전을 위한 노면 상태 인식 시스템 및 그 방법 - Google Patents

자동차 안전을 위한 노면 상태 인식 시스템 및 그 방법 Download PDF

Info

Publication number
KR101453654B1
KR101453654B1 KR1020130017530A KR20130017530A KR101453654B1 KR 101453654 B1 KR101453654 B1 KR 101453654B1 KR 1020130017530 A KR1020130017530 A KR 1020130017530A KR 20130017530 A KR20130017530 A KR 20130017530A KR 101453654 B1 KR101453654 B1 KR 101453654B1
Authority
KR
South Korea
Prior art keywords
road surface
state
road
lane
vehicle
Prior art date
Application number
KR1020130017530A
Other languages
English (en)
Other versions
KR20140104565A (ko
Inventor
김준모
주정우
정희철
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Priority to KR1020130017530A priority Critical patent/KR101453654B1/ko
Publication of KR20140104565A publication Critical patent/KR20140104565A/ko
Application granted granted Critical
Publication of KR101453654B1 publication Critical patent/KR101453654B1/ko

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B60W40/06Road conditions
    • B60W40/064Degree of grip
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W10/00Conjoint control of vehicle sub-units of different type or different function
    • B60W10/10Conjoint control of vehicle sub-units of different type or different function including control of change-speed gearings
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W10/00Conjoint control of vehicle sub-units of different type or different function
    • B60W10/18Conjoint control of vehicle sub-units of different type or different function including control of braking systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/168Segmentation; Edge detection involving transform domain methods
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143Alarm means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146Display means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo or light sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera

Abstract

본 발명의 실시예는 자동차 주행 시의 안전을 위한 노면 상태 인식 시스템과 그 방법에 대한 것이다. 차량에 구비된 카메라를 통해 전면 영상을 획득하는 영상 획득부; 전면 영상에서 도로 영역과 차선을 검출하는 검출부; 및 검출된 도로 영역과 차선을 융합하여 노면을 좌우영역으로 분류하고 노면의 상태를 파악하는 인지부를 포함하는 노면 상태 인식 시스템이 제공될 수 있다.

Description

자동차 안전을 위한 노면 상태 인식 시스템 및 그 방법{ROAD CONDITION RECOGNITION SYSTEM AND METHOD FOR AUTOMOBILE SAFETY}
본 발명의 실시예는 자동차 주행 시의 안전을 위한 노면 상태 인식 시스템과 그 방법에 대한 것이다.
자동차 주행 시에 자동차 좌우 바퀴에 닿는 노면의 상태가 다른 경우, 예컨대 비가 와서 도로가 젖거나 눈이 와서 쌓여있을 경우에, 운전하는 도중 운전자가 이와 같은 상태를 인지하지 못하고 있다면 차량이 미끄러질 수 있으며, 이로 인해 사고가 발생할 위험이 높다.
최근 들어 자동차에 Anti-Lock Brake System(ABS), Traction Control System(TCS) 등의 보조 시스템을 옵션으로 포함시킴으로써 상기와 같은 위험에 대비할 수 있으나, 사용자가 옵션을 활성화시켜야 동작하는 번거로움이 나타날 수 있다.
이와 관련하여 한국공개특허 제10-2011-0125539호에서는 도로 노면 정보 및 통계적 교통상황을 고려한 안전속도 산정 방법 및 그 장치에 대해 기재하고 있으며, 도로 노면 정보와 통계적 상황을 고려한 안전 속도를 산정하여 사고를 예방하고, 차량의 지체를 완화하는 방법과 그 장치를 제안하고 있다.
본 발명의 실시예는 도로 노면 상태에 따른 위험 상황을 감지하고 이에 따른 사고를 예방하고자 하는 것으로, 전방에 미끄러운 도로 같은 위험이 발생하였을 때, 차량에 구비되어 있는 카메라를 통해 이를 인지하여 안전을 기하기 위한 것이다.
더불어, 본 발명의 실시예는 운전자 보조 시스템(Advanced Driver Assistance Systems)이나 적응적 차량 제어 시스템(Adaptive Cruise Control)과 연동하여 운전자에게 인지시키거나 능동적으로 차량을 제어하도록 한다.
차량에 구비된 카메라를 통해 전면 영상을 획득하는 영상 획득부; 전면 영상에서 도로 영역과 차선을 검출하는 검출부; 및 검출된 도로 영역과 차선을 융합하여 노면을 좌우영역으로 분류하고 노면의 상태를 파악하는 인지부를 포함하는 노면 상태 인식 시스템이 제공될 수 있다.
일측에 있어서, 검출부는, 획득한 전면 영상의 깊이 지도(Depth map)를 추출하고 깊이 지도의 V-디스패리티 맵(V-Disparity Map)을 생성하며 허프 변환(Hough Transform)을 통해 V-디스패리티 맵의 대각선 성분을 추출하고 추출된 대각선 성분을 전면 영상에 역 매핑(Inverse Mapping)함으로써 전면 영상의 도로 영역을 검출할 수 있다.
또 다른 측면에 있어서, 검출부는, 전면 영상의 왼쪽 영역을 횡 방향의 두 개 이상 영역으로 분할하고 분할한 각 영역에 대해서 직선을 검출하며 검출된 직선들을 연결함으로써 전면 영상의 차선을 검출할 수 있다.
또 다른 측면에 있어서, 인지부는, 검출된 도로 영역을 차선을 기준으로 좌우영역으로 분할하고 좌우영역 각각에서 특징을 추출하여 분류기를 통과시키며 분류기를 통과시킨 분류 결과에 따라 노면의 상태를 파악하는데, 노면의 상태가 안전 상태인지 위험 상태인지, 좌우영역 중 어느 영역의 위험 상태인지 파악할 수 있다.
또 다른 측면에 있어서, 분류된 노면의 상태에 따라 차량을 제어하는 제어부를 더 포함하고, 제어부는 차량의 Anti-Lock Brake System(ABS), Traction Control System(TCS)과 같은 차량 제어 시스템과 연동되어 브레이크, 기어 변속을 능동적으로 수행할 수 있다.
또 다른 측면에 있어서, 분류된 노면의 상태에 따라 차량의 운전자에게 인지시키는 경고부를 더 포함하고, 경고부는 알람이나 운전자 보조 시스템(Advanced Driver Assistance Systems)과 연동되어 노면의 상태가 위험 상태일 때 청각적으로 또는 시각적으로 경고를 전달할 수 있다.
차량에 구비된 카메라를 통해 전면 영상을 획득하는 단계; 전면 영상에서 도로 영역과 차선을 검출하는 단계; 및 검출된 도로 영역과 차선을 융합하여 노면을 좌우영역으로 분류하고 노면의 상태를 파악하는 단계를 포함하는 노면 상태 인식 방법이 제공될 수 있다.
일측에 있어서, 분류된 노면의 상태에 따라 차량을 제어하는 단계를 더 포함하고, 분류된 노면의 상태에 따라 차량을 제어하는 단계는 차량의 Anti-Lock Brake System(ABS), Traction Control System(TCS)과 같은 차량 제어 시스템과 연동되어 브레이크, 기어 변속을 능동적으로 수행할 수 있다.
또 다른 측면에 있어서, 분류된 노면의 상태에 따라 차량의 운전자에게 인지시키는 단계를 더 포함하고, 분류된 노면의 상태에 따라 차량의 운전자에게 인지시키는 단계는 알람이나 운전자 보조 시스템(Advanced Driver Assistance Systems)과 연동되어 노면의 상태가 위험 상태일 때 청각적으로 또는 시각적으로 경고를 전달할 수 있다.
본 발명의 실시예를 통해 도로 노면 상태에 따른 위험 상황을 감지하고 이에 따른 사고를 예방할 수 있으며, 자세히는 전방에 미끄러운 도로 같은 위험이 발생하였을 때, 차량에 구비되어 있는 카메라를 통해 이를 인지함으로써 안전에 유의하도록 할 수 있다.
더불어, 본 발명의 실시예는 운전자 보조 시스템(Advanced Driver Assistance Systems)이나 적응적 차량 제어 시스템(Adaptive Cruise Control)과 연동하여 운전자에게 인지시키거나 능동적으로 차량을 제어할 수 있다.
한편, 자동차 간의 길이 측정, 보행자 추적 등 향후 적용 가능한 분야가 많기 때문에, 노면 인식 이외에도 다양하게 미래 자동차를 지원하는 역할을 기대할 수 있다.
도 1은 본 발명의 일실시예에 있어서, 주행중인 차량과 노면 상태에 따른 마찰력을 설명하기 위한 도면이다.
도 2는 본 발명의 일실시예에 있어서, 노면 상태 인식 시스템의 구성을 설명하기 위한 블록도이다.
도 3은 본 발명의 일실시예에 있어서, 도로 영역을 검출하는 방법을 설명하기 위한 도면이다.
도 4는 본 발명의 일실시예에 있어서, 차선을 검출하는 방법을 설명하기 위한 도면이다.
도 5는 본 발명의 일실시예에 있어서, 노면의 상태를 파악하는 실시예를 설명하기 위한 도면이다.
도 6은 본 발명의 일실시예에 있어서, 노면 상태 인식 방법을 설명하기 위한 흐름도이다.
이하, 노면 상태 인식 시스템과 그 방법에 대해서 첨부된 도면을 참조하여 자세히 설명한다.
본 발명에서는 주행 도로를 검출하고 도로 노면의 상태를 인식하는 기술을 제안한다. 도 1은 주행 차량과 노면의 상태에 따른 마찰력을 도시한 것이다. 그림 (a)와 같이 도로를 주행중인 차량은 블랙박스 등 전방 도로를 촬영, 감시하는 카메라를 포함할 수 있고, 차량에 구비된 블랙박스 등의 스테레오 카메라에서 영상이 입력되면, 영상에서 도로 영역과 차선을 찾아 추출하고, 추출된 도로 영역과 차선을 이용하여 노면의 특성을 인지하도록 한다.
그림 (b)는 차량의 바퀴와 도로 노면과의 마찰력을 노면의 상태에 따라 나타낸 것으로, 도시된 것과 같이, 일반적인 도로인 아스팔트(Dry Asphalt)에서 나타나는 마찰력에 비해서 젖은 도로(Wet Asphalt)에서 나타나는 마찰력이 적으며, 또한 이에 비해서 눈이 쌓인 도로(Snow)는 더 적은 마찰력이 나타난다.
따라서, 만약 일반적인 도로에 부분적으로 눈이 쌓여 있거나 물이 고여 있을 때에, 운전자가 이를 인지하고 있지 않다면 급격한 마찰력 변화로 차량이 미끄러질 수 있으며, 이러한 현상은 추돌사고 또는 추락사고 등 위험한 사고로 이어질 수 있기 때문에 방지가 필요하다.
도 2는 본 발명의 일실시예에 있어서, 노면 상태 인식 시스템의 구성을 설명하기 위한 블록도이다. 실시예에 따른 노면 상태 인식 시스템(200)은 영상 획득부(210), 검출부(220), 인지부(230), 제어부(240), 그리고 경고부(250)를 포함하여 구성될 수 있다.
영상 획득부(210)는 차량 전면의 카메라와 연동되어 카메라에서 촬영하는 차량의 전면 영상을 수집할 수 있다. 최근에 블랙박스를 구비하는 차량이 증가하는 추세이기 때문에 블랙박스의 촬영 영상을 그대로 이용할 수 있으며, 또는 별도의 카메라, 예컨대 스테레오 카메라 등을 통해 촬영 영상을 수집할 수 있다.
이하에서는 노면 상태 인식 시스템(200)에서 수집한 전면 영상을 어떻게 처리함으로써 노면 상태를 파악할 수 있는지 설명한다. 검출부(220)는 전면 영상에서 도로 영역과 차선을 검출해낼 수 있다. 도로 영역을 검출하는 방법과 차선을 검출하는 방법을 각각 설명한다.
도 3은 본 발명의 일실시예에 있어서, 검출부(220)에서 어떻게 도로 영역을 검출해내는지 설명하기 위한 도면이다. 각 단계의 하단에 표시되어 있는 그림은 해당 단계에 대한 설명을 돕기 위한 것이다. 영상 획득부(210)에서 획득한 카메라 영상을 실시간으로 받고(301), 영상에 대한 깊이 지도(Depth Map)을 추출할 수 있다(302). 깊이 지도는 스테레오 카메라를 사용하여 추출하는 것으로 다양한 알고리즘을 통해 추출이 가능하다. 깊이 지도를 추출할 때엔 밀도를 빽빽하게 추출해내며, 기존의 깊이 지도를 추출하는 알고리즘은 처리가 느리기 때문에 GPU 등과 같은 하드웨어를 이용하여 추출할 수 있다.
이어서, V-디스패리티 맵(V-Disparity Map)을 생성할 수 있다(303). V-디스패리티 맵은 깊이 지도에서 같은 세로축에 있는 픽셀 값들을 누적시켜 표현한 맵을 말한다. 도면에 도시된 V-디스패리티 맵에서 가로축은 디스패리티 값, 차이 값을 나타내며, 세로축은 y좌표축을 나타낸다. 따라서, 추출하고자 하는 도로 영역의 경우 도시된 바와 같이 대각선의 형태로 보여지게 된다.
이러한 대각선 성분은 허프 변환(Hough Transform)을 통해 직선으로서 추출할 수 있다(304). 허프 변환이란 화상을 처리하는데 있어서, 어떤 선분을 추출하기 위한 변환 방법이며, 허프 변환을 통해 간단하게 직선의 검출이 가능하다. 이렇게 추출된 대각선 성분을 이용하여 초기의 카메라 영상의 도로에 역 매핑(Inverse Mapping)하면, 전면 영상에서 도로만 검출할 수 있다(305).
도 4는 본 발명의 일실시예에 있어서, 검출부(220)가 영상 획득부(210)에서 획득한 영상에서 차선을 검출하는 방법을 설명하기 위한 도면이며, 해당 차선은 차량이 이동중인 차선에 해당한다.
먼저, 카메라 영상 중 왼쪽의 영상을 획득할 수 있다(401). 실시예에 있어서, 스테레오 카메라의 영상이라면, 왼쪽 렌즈에서 촬영하는 영상을 이용한다. 왼쪽 영상을 이용하여 도시된 바와 같이 도로 영역을 분할한다(402). 이때, 분할하는 도로 영역은 도 3의 알고리즘을 통해 추출해낸 도로 영역에 해당한다. 도로 영역은 횡 방향으로 분할하며, 도로 영역을 분할하는 이유는 이는 도로가 직선으로만 이루어지지 않고, 커브도 포함하고 있기 때문에 커브에서도 차선을 추출하기 위한 것이다. 이때, 소실점도 함께 검출하여 가장 위에 있는 영역을 결정할 수 있다.
그리고, 분할한 각 영역에 대해서 직선을 검출할 수 있다(403). 이때 도로를 검출할 때와 마찬가지의 방법으로 허프 변환과 같은 방법을 이용할 수 있으며, 각각의 직선은 도시된 바와 같이 투박하게 연결되어 있다. 검출된 직선들을 자연스럽게 연결함으로써 차량이 주행중인 차선을 검출할 수 있다(404).
상기와 같이 도로 영역과 차선을 추출하면, 인지부(230)에서는 검출된 도로 영역과 차선을 융합하여 주행 차로의 도로 영역만 남기며, 도로 노면을 좌우영역으로 분류하고 노면의 상태를 실시간으로 파악할 수 있다.
이와 관련하여 도 5는 인지부(230)에서 도로 차선을 융합하고, 노면의 상태를 파악하는 방법에 대해서 설명하기 위한 도면이다.
앞서 추출된 도로 영역과 차선의 검출 결과를 융합하여 주행 차로의 도로 영역만 남길 수 있다(501). 여기서, 두 결과를 융합하는 이유는 전방에 장애물 또는 차량이 존재하더라도 도로 영역만을 분류하기 위함이다.
또한, 도로에 대해서 좌우영역을 분할 할 수 있다(502). 도로를 좌우로 분할하여 각각의 왼쪽 바퀴와 오른쪽 바퀴에 대해서 각각 위험 상황이 발생하는지 감지하기 위함이며, 본 발명의 노면 상태 인식 시스템이 차량 제어 시스템(Adaptive Cruise Control)과 연동되어 있을 경우엔, 각각의 바퀴에 대해서 제어하도록 하기 위함이다.
이렇게 분할한 좌우영역 각각에 대해서 미리 학습되어 있는 분류기를 통과시킨다(503). 분류기는 일반적인 도로일 때와 위험 상태인 도로일 때에 나타나는 특징에 대해서 그 값을 가지고 있으며, 예컨대 SVM(Support Vector Machine)과 같은 분류기에 해당할 수 있다.
이에, 인지부(230)는 좌우 영역 각각에 대해서 분류기를 통과시키고, 그 결과를 받을 수 있다(504). 분류기를 통과시킨 결과는 노면의 상태가 안전 상태인지 위험 상태인지, 또는 위험 상태라면 좌우영역 중 어느 영역의 위험 상태인지에 대한 정보가 될 수 있다.
노면 상태 인식 시스템(200)은 분류기를 통과시킨 그 결과값에 대해서 그에 상응하는 조치를 취하도록 하는데, 도 2를 참조하면, 제어부(240)를 더 포함하여 분류된 노면의 상태에 따라 차량을 제어하도록 할 수 있으며, 또는 경고부(250)를 더 포함하여 분류된 노면의 상태에 따라 예컨대, 도로가 젖은 상태이거나 눈이 쌓인 상태 등의 위험 상태에 대해서 차량의 운전자에게 인지시킬 수 있다.
제어부(240)는 Anti-Lock Brake System(ABS), Traction Control System(TCS)과 같은 차량 제어 시스템과 연동되어 차량의 브레이크, 기어 변속을 능동적으로 수행할 수 있고, 이때 좌우 바퀴에 대해서 각각 수행할 수 있도록 하며, 미끄러운 구간에서 타이어와 노면 사이의 마찰력을 최대로 하여 미끄러지지 않도록 한다.
경고부(250)는 알람이나 위험 상황이 발생했을 때 알려주는 운전자 보조 시스템(Advanced Driver Assistance Systems)과 연동되어 노면의 상태가 위험 상태일 때 청각적으로 또는 시각적으로 차량의 운전자에게 경고 내용을 전달함으로써 운전자가 위험 상태에 대해서 대처하도록 할 수 있다.
또는, 제어부(240)와 경고부(250)를 모두 포함하여, 차량의 브레이크나 기어 변속을 능동적으로 수행하는 한편, 운전자에게 이에 대해 알리기 위해 청각적으로나 시각적으로 경고를 전달할 수 있다.
도 5는 본 발명의 일실시예에 있어서, 노면 상태 인식 방법을 설명하기 위한 흐름도이다. 도 5의 노면 상태 인식 방법은 도 2를 통해 설명한 노면 상태 인식 시스템(200)의 각 구성을 통해 수행될 수 있다.
먼저, 단계(510)에서 노면 상태 인식 시스템(200)은 차량에 구비된 카메라를 통해 전면 영상을 획득할 수 있다. 이때 획득하는 전면 영상은 주행 중인 차량의 차로를 포함하는 실시간 영상이 될 수 있으며, 블랙박스 카메라나 스테레오 카메라 등의 카메라를 통해 촬영되는 영상에 해당할 수 있다.
단계(520)에서 노면 상태 인식 시스템(200)은 전면 영상에서 도로 영역과 차선을 검출할 수 있다.
앞서 도 3을 통해 설명한 바와 같이, 카메라 영상에서 깊이 지도를 추출하는데, 이때 GPU 등과 같은 하드웨어를 이용하여 빠르게 추출할 수 있고, V-디스패리티 맵을 생성한 이후에 허프 변환을 통해서 디스패리티 맵의 대각선 성분을 직선으로 검출해내며, 검출한 직선을 다시 카메라 영상에 역 매핑하게 되면 도로만 검출할 수 있다.
또한, 도 4를 통해 설명한 바와 같이, 카메라 영상 중 왼쪽 영상을 이용하여 도로 영역을 횡 방향으로 다분할 하여, 각 영역에 대해서 허프 변환 등의 방법을 이용해 직선을 검출하고, 검출된 직선들을 연결함으로써 현재 차량이 주행 중인 차선을 검출할 수 있다.
단계(530)에서 노면 상태 인식 시스템(200)은 검출해낸 도로 영역과 차선의 결과를 융합하여 주행 차로의 도로 영역만을 남기고, 노면을 좌우 영역으로 분류한 후, 각각에 대해서 노면의 상태를 파악할 수 있다.
여기서, 단계(520)를 통해 얻어낸 도로 영역을 차선 검출 결과를 이용하여 좌우로 2분할 할 수 있다. 이는 좌우 바퀴 각각에 대해 노면 상태를 파악하기 위함이다. 좌우영역에 대해서 각각 분류기를 통과시켜 분류 결과 값을 기준으로 노면의 상태를 판단할 수 있는데, 여기서 분류기는 일반적인 도로일 때와 위험 상태인 도로일 때에 나타나는 특징에 대해서 그 값을 가지고 있으며, 예컨대 SVM(Support Vector Machine)과 같은 분류기가 이에 해당할 수 있다.
노면 상태 인식 시스템(200)은 분류기를 통과시킨 그 결과값에 대해서 그에 상응하는 조치를 취하도록 한다.
분류된 노면의 상태에 따라 차량을 제어하는 단계(미도시)를 더 포함할 수 있으며, Anti-Lock Brake System(ABS), Traction Control System(TCS)과 같은 차량 제어 시스템과 연동되어 차량의 브레이크, 기어 변속을 능동적으로 수행할 수 있고, 이때 좌우 바퀴에 대해서 각각 수행할 수 있도록 하며, 미끄러운 구간에서 타이어와 노면 사이의 마찰력을 최대로 하여 미끄러지지 않도록 할 수 있다.
또는 분류된 노면의 상태에 따라 예컨대, 도로가 젖은 상태이거나 눈이 쌓인 상태 등의 위험 상태에 대해서 차량의 운전자에게 인지시키는 단계(미도시)를 더 포함할 수 있다. 여기서, 알람이나 위험 상황이 발생했을 때 알려주는 운전자 보조 시스템(Advanced Driver Assistance Systems)과 연동되어 노면의 상태가 위험 상태일 때 청각적으로 또는 시각적으로 차량의 운전자에게 경고 내용을 전달함으로써 운전자가 위험 상태에 대해 대처하도록 할 수 있다.
이와 같은 본 발명의 실시예를 통해 도로 노면 상태에 따른 위험 상황을 감지하고 이에 따른 사고를 예방할 수 있다.
더불어, 본 발명의 실시예는 운전자 보조 시스템(Advanced Driver Assistance Systems)이나 적응적 차량 제어 시스템(Adaptive Cruise Control)과 연동하여 운전자에게 인지시키거나 능동적으로 차량을 제어할 수 있다.
한편, 자동차 간의 길이 측정, 보행자 추적 등 향후 적용 가능한 분야가 많기 때문에, 노면 인식 이외에도 다양하게 미래 자동차를 지원하는 역할을 기대할 수 있다.
실시예에 따른 노면 상태 인식 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(Magnetic media), CD-ROM, DVD와 같은 광기록 매체(Optical media), 플롭티컬 디스크(Floptical disk)와 같은 자기-광 매체(Magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등한 것들에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.
200: 노면 상태 인식 시스템
210: 영상 획득부
220: 검출부
230: 인지부
240: 제어부
250: 경고부

Claims (12)

  1. 차량에 구비된 카메라를 통해 전면 영상을 획득하는 영상 획득부;
    상기 전면 영상에서 도로 영역과 차선을 검출하는 검출부; 및
    상기 검출된 도로 영역과 차선을 융합하고 노면을 좌우영역으로 분류한 후, 상기 노면의 상태를 파악하는 인지부
    를 포함하고,
    상기 검출부는,
    상기 획득한 전면 영상의 깊이 지도(Depth map)를 추출하고
    상기 깊이 지도의 V-디스패리티 맵(V-Disparity Map)을 생성하며
    허프 변환(Hough Transform)을 통해 상기 V-디스패리티 맵의 대각선 성분을 추출하고
    상기 추출된 대각선 성분을 상기 전면 영상에 역 매핑(Inverse Mapping)함으로써 상기 전면 영상의 도로 영역을 검출하는
    노면 상태 인식 시스템.
  2. 삭제
  3. 제1항에 있어서,
    상기 검출부는,
    상기 전면 영상의 왼쪽 영역을 횡 방향의 두 개 이상 영역으로 분할하고
    상기 분할한 각 영역에 대해서 직선을 검출하며
    상기 검출된 직선들을 연결함으로써 상기 전면 영상의 차선을 검출하는 것
    을 특징으로 하는 노면 상태 인식 시스템.
  4. 제1항에 있어서,
    상기 인지부는,
    상기 검출된 도로 영역을 상기 차선을 기준으로 좌우영역으로 분할하고
    상기 좌우영역 각각에서 특징을 추출하여 분류기를 통과시키며
    상기 분류기를 통과시킨 분류 결과에 따라 상기 노면의 상태를 파악하는데,
    상기 노면의 상태가 안전 상태인지 위험 상태인지, 상기 좌우영역 중 어느 영역의 위험 상태인지 파악하는 것
    을 특징으로 하는 노면 상태 인식 시스템.
  5. 제1항에 있어서,
    상기 분류된 노면의 상태에 따라 상기 차량을 제어하는 제어부를 더 포함하고,
    상기 제어부는 상기 차량의 Anti-Lock Brake System(ABS), Traction Control System(TCS)과 같은 차량 제어 시스템과 연동되어 브레이크, 기어 변속을 능동적으로 수행하는 것
    을 특징으로 하는 노면 상태 인식 시스템.
  6. 제1항에 있어서,
    상기 분류된 노면의 상태에 따라 상기 차량의 운전자에게 인지시키는 경고부를 더 포함하고,
    상기 경고부는 알람이나 운전자 보조 시스템(Advanced Driver Assistance Systems)과 연동되어 상기 노면의 상태가 위험 상태일 때 청각적으로 또는 시각적으로 경고를 전달하는 것
    을 특징으로 하는 노면 상태 인식 시스템.
  7. 차량에 구비된 카메라를 통해 전면 영상을 획득하는 단계;
    상기 전면 영상에서 도로 영역과 차선을 검출하는 단계; 및
    상기 검출된 도로 영역과 차선을 융합하고 노면을 좌우영역으로 분류한 후, 상기 노면의 상태를 파악하는 단계
    를 포함하고,
    상기 전면 영상에서 도로 영역과 차선을 검출하는 단계는,
    상기 획득한 전면 영상의 깊이 지도(Depth map)를 추출하는 단계;
    상기 깊이 지도의 V-디스패리티 맵(V-Disparity Map)을 생성하는 단계;
    허프 변환(Hough Transform)을 통해 상기 V-디스패리티 맵의 대각선 성분을 추출하는 단계; 및
    상기 추출된 대각선 성분을 상기 전면 영상에 역매핑(Inverse Mapping)함으로써 상기 전면 영상의 도로 영역을 검출하는 단계
    를 포함하는 노면 상태 인식 방법.
  8. 삭제
  9. 제7항에 있어서,
    상기 전면 영상에서 도로 영역과 차선을 검출하는 단계는,
    상기 전면 영상의 왼쪽 영역을 횡 방향의 두 개 이상 영역으로 분할하고
    상기 분할한 각 영역에 대해서 직선을 검출하며
    상기 검출된 직선들을 연결함으로써 상기 전면 영상의 차선을 검출하는 것
    을 특징으로 하는 노면 상태 인식 방법.
  10. 제7항에 있어서,
    상기 검출된 도로 영역과 차선을 융합하여 노면을 좌우영역으로 분류하고 상기 노면의 상태를 파악하는 단계는,
    상기 검출된 도로 영역을 상기 차선을 기준으로 좌우영역으로 분할하고
    상기 좌우영역 각각에서 특징을 추출하여 분류기를 통과시키며
    상기 분류기를 통과시킨 분류 결과에 따라 상기 노면의 상태를 파악하는데,
    상기 노면의 상태가 안전 상태인지 위험 상태인지, 상기 좌우영역 중 어느 영역의 위험 상태인지 파악하는 것
    을 특징으로 하는 노면 상태 인식 방법.
  11. 제7항에 있어서,
    상기 분류된 노면의 상태에 따라 상기 차량을 제어하는 단계를 더 포함하고,
    상기 분류된 노면의 상태에 따라 상기 차량을 제어하는 단계는
    상기 차량의 Anti-Lock Brake System(ABS), Traction Control System(TCS)과 같은 차량 제어 시스템과 연동되어 브레이크, 기어 변속을 능동적으로 수행하는 것
    을 특징으로 하는 노면 상태 인식 방법.
  12. 제7항에 있어서,
    상기 분류된 노면의 상태에 따라 상기 차량의 운전자에게 인지시키는 단계를 더 포함하고,
    상기 분류된 노면의 상태에 따라 상기 차량의 운전자에게 인지시키는 단계는 알람이나 운전자 보조 시스템(Advanced Driver Assistance Systems)과 연동되어 상기 노면의 상태가 위험 상태일 때 청각적으로 또는 시각적으로 경고를 전달하는 것
    을 특징으로 하는 노면 상태 인식 방법.
KR1020130017530A 2013-02-19 2013-02-19 자동차 안전을 위한 노면 상태 인식 시스템 및 그 방법 KR101453654B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020130017530A KR101453654B1 (ko) 2013-02-19 2013-02-19 자동차 안전을 위한 노면 상태 인식 시스템 및 그 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020130017530A KR101453654B1 (ko) 2013-02-19 2013-02-19 자동차 안전을 위한 노면 상태 인식 시스템 및 그 방법

Publications (2)

Publication Number Publication Date
KR20140104565A KR20140104565A (ko) 2014-08-29
KR101453654B1 true KR101453654B1 (ko) 2014-11-04

Family

ID=51748310

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020130017530A KR101453654B1 (ko) 2013-02-19 2013-02-19 자동차 안전을 위한 노면 상태 인식 시스템 및 그 방법

Country Status (1)

Country Link
KR (1) KR101453654B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10719720B2 (en) 2017-12-18 2020-07-21 Korea Institute Of Civil Engineering And Building Technology Artificial intelligence system for providing road surface risk information and method thereof

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10846541B2 (en) * 2017-01-04 2020-11-24 Qualcomm Incorporated Systems and methods for classifying road features
KR101969842B1 (ko) * 2017-12-18 2019-04-17 한국건설기술연구원 딥 러닝을 기반으로 도로노면 위험 정보를 분류하기 위한 시스템 및 그 방법
CN107977654B (zh) * 2017-12-25 2020-07-31 海信集团有限公司 一种道路区域检测方法、装置及终端

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08263784A (ja) * 1995-03-23 1996-10-11 Honda Motor Co Ltd 道路状況認識装置
JP2010163131A (ja) * 2009-01-19 2010-07-29 Sumitomo Electric Ind Ltd 路面状況判別装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08263784A (ja) * 1995-03-23 1996-10-11 Honda Motor Co Ltd 道路状況認識装置
JP2010163131A (ja) * 2009-01-19 2010-07-29 Sumitomo Electric Ind Ltd 路面状況判別装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
양훈준, 홍경보, 정동석. 웨이블릿과 SVM 분류기를 이용한 노면 상태 감지. 2012년도 대한전자공학회 추계종합학술대회, 2012.11 발표, page 592-595. *
양훈준, 홍경보, 정동석. 웨이블릿과 SVM 분류기를 이용한 노면 상태 감지. 2012년도 대한전자공학회 추계종합학술대회, 2012.11 발표, page 592-595.*

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10719720B2 (en) 2017-12-18 2020-07-21 Korea Institute Of Civil Engineering And Building Technology Artificial intelligence system for providing road surface risk information and method thereof

Also Published As

Publication number Publication date
KR20140104565A (ko) 2014-08-29

Similar Documents

Publication Publication Date Title
CN107782727B (zh) 基于融合的湿路面检测
CN102653272B (zh) 车辆的驾驶辅助装置
JP7291129B2 (ja) 路面状態と天候に基づく環境影響を認識し評価する方法及び装置
US9643617B2 (en) Friction coefficient estimation from camera and wheel speed data
EP2645126B1 (en) Railroad crossing barrier estimating apparatus and vehicle
JP6308186B2 (ja) 衝突回避支援装置
US9873376B2 (en) Driving assist controller for vehicle
US8755998B2 (en) Method for reducing the risk of a collision between a vehicle and a first external object
JP6416293B2 (ja) 自動車に接近する対象車両を自動車のカメラシステムにより追跡する方法、カメラシステムおよび自動車
CN103359113B (zh) 车辆用驾驶辅助装置
CN106845332B (zh) 利用轮胎旁溅的基于视觉的潮湿路面状况检测
US11004215B2 (en) Image processing apparatus, imaging device, moving body device control system, image information processing method, and program product
US20160304089A1 (en) Evacuation travel assist apparatus
WO2017145600A1 (ja) 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム
CN107273785B (zh) 多尺度融合的道路表面状况检测
JP2017503715A (ja) 車載カメラ・システムを用いた路面状態を割り出すための方法および装置
CN104590258A (zh) 车辆控制系统
KR101453654B1 (ko) 자동차 안전을 위한 노면 상태 인식 시스템 및 그 방법
KR20110132437A (ko) 차량의 주행 거동을 자동으로 인식하기 위한 방법 및 이러한 방법을 구현한 운전자 지원 시스템
CN101131321A (zh) 一种实时测量安全车距用于汽车防撞预警的方法及装置
KR20120130212A (ko) 수막현상 자동 예방 방법
CN103350698A (zh) 用于运行车辆的方法和设备
CN106841195A (zh) 湿路面状况检测
US20150046015A1 (en) Method and Device for Assisting in Returning a Vehicle After Leaving a Roadway
CN104773177A (zh) 辅助驾驶方法和装置

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20170928

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20181002

Year of fee payment: 5