KR102310782B1 - 차량운전 보조장치, 이를 포함하는 차량, 및 차량안전 시스템 - Google Patents

Abstract

실시예는 차량운전 보조장치, 이를 포함하는 차량 및 차량안전 시스템에 관한 것이다.
실시예에 따른 차량운전 보조장치는 횡단보도(C)의 차량 신호등(664)의 정보와 보행자(P)의 정보를 획득하는 카메라(160); 상기 획득된 차량 신호등(664) 정보와 상기 보행자(P)의 정보를 분석하여 상기 보행자(P)의 위험 정도를 분석하는 프로세서(170); 및 상기 보행자(P)의 위험 정도에 따라 자 차량(700)의 운전자에게 상기 위험 정도를 알리는 출력부(180);를 포함할 수 있다.

Description

차량운전 보조장치, 이를 포함하는 차량, 및 차량안전 시스템{Driver Assistance Apparatus, Vehicle Having The Same and Vehicle Safety system}

실시예는 차량에 구비되는 차량운전 보조장치, 이를 포함하는 차량 및 차량안전 시스템에 관한 것이다.

차량(Vehicle)은 사람 또는 화물을 운송할 목적으로 차륜을 구동시켜 주행하는 이동수단을 말한다. 예를 들어, 차량은 자동차, 원동기장치 자전거 또는 차마 등을 포함할 수 있으나 이에 한정되지 않는다.

자동차라 함은 원동기를 장착하여 그 동력으로 바퀴를 굴려서 도로나 땅 위를 움직이도록 만든 이동수단을 말하며, 자동차는 승용차, 승합자동차, 화물 자동차, 버스, 특수 자동차 또는 이륜자동차 등을 포함한다.

자동차는 사용되는 원동기에 따른 분류에 의하면 내연기관(internal combustion engine) 자동차, 외연기관(external combustion engine) 자동차, 가스터빈(gas turbine) 자동차 또는 전기자동차(electric vehicle) 등이 있다.

전기자동차는 전기를 에너지 삼아 전기 모터를 돌리는 자동차를 뜻하며, 순수 전기자동차, 하이브리드 전기차(HEV), 플러그인 하이브리드 전기차(PHEV), 수소연료전지차(FCEV) 등이 있다.

한편, 최근 운전자의 안전이나 편의 또는 보행자 등의 안전을 위해 지능형 자동차(Smart Vehicle)가 활발히 개발 되고 있다.

지능형 자동차는 정보기술(IT) 기술을 융합한 최첨단 자동차로 스마트 자동차라고도 한다. 지능형 자동차는 자동차 자체의 첨단 시스템 도입은 물론 지능형 교통 시스템(ITS)과의 연동을 통한 최적의 교통 효율을 제공한다.

예를 들어, 지능형 자동차는 ACC(Adaptive Cruise Control), 장애물 감지, 충돌 감지 또는 경감 장치 등과 같은 안전에 관련된 핵심 기술의 개발로 운전자, 탑승자뿐만 아니라 보행자의 안전까지 극대화하는 기술적 장점을 갖고 있다.

최근 지능형 자동차를 통한 자율 주행차에 대한 관심이 증가되면서, 자율 주행차에 탑재되는 센서에 대한 연구가 활발히 진행되고 있다. 자율 주행차에 탑재되는 센서로 카메라, 적외선센서, 레이더, GPS, 라이더(Lidar), 자이로스코프 등이 있다.

한편, 교통사고 발생장소로 횡단보도에서의 교통사고는 교차로에서의 교통사고 외에 빈번하게 교통사고가 발생하는 구간이다.

종래기술에 의하면, 차량의 전방 카메라로부터 입수된 입력 영상 내의 보행자 감지를 위한 보행자 보호 시스템을 제공함으로써, 보행자의 속성이나 횡단보도 주변의 교통 상황을 충분히 고려하지 못하는 한계가 있어 차량의 운전자의 보호나 보행자 보호에 미흡한 점이 있다.

또한 종래기술에 의하면 위험상황을 보행자나 타 차량에 최적화된 방법으로 알리지 못하는 한계가 있다.

실시예는 보행자의 속성이나 횡단보도 주변의 교통상황을 충분히 고려하여 자 차량 운전자나 보행자의 보호에 최적화된 차량운전 보조장치, 이를 포함하는 차량 및 교통안전 시스템을 제공하고자 한다.

또한 실시예는 보행자나 타 차량에 위험을 최적화된 방법으로 알릴 수 있는 차량운전 보조장치, 이를 포함하는 차량 및 교통안전 시스템을 제공하고자 한다.

실시예에 따른 차량운전 보조장치는 횡단보도(C)의 차량 신호등(664)의 정보와 보행자(P)의 정보를 획득하는 카메라(160); 상기 획득된 차량 신호등(664) 정보와 상기 보행자(P)의 정보를 분석하여 상기 보행자(P)의 위험 정도를 분석하는 프로세서(170); 및 상기 보행자(P)의 위험 정도에 따라 자 차량(700)의 운전자에게 상기 위험 정도를 알리는 출력부(180);를 포함할 수 있다.

상기 보행자(P)의 정보를 분석할 때, 상기 보행자(P)의 보행 상태를 파악하여 상기 위험 정도를 판단할 수 있다.

실시예의 차량은 상기 차량운전 보조장치를 구비할 수 있다.

실시예의 교통안전 시스템은 상기 차량운전 보조장치가 구비된 차량을 포함할 수 있다.

실시예는 보행자의 속성이나 횡단보도 주변의 교통상황을 충분히 고려하여 차량 운전자나 보행자의 보호에 최적화된 차량운전 보조장치, 이를 포함하는 차량 및 교통안전 시스템을 제공할 수 있다.

또한 실시예는 사고 위험성을 보행자나 타 차량에 최적화된 방법으로 알릴 수 있는 차량운전 보조장치, 이를 포함하는 차량 및 교통안전 시스템을 제공할 수 있다.

이에 따라 실시예에 의하면, 횡단보도에서의 교통사고를 줄이기 위하여, 횡단보도에 자 차량이 정차 시에 전방 또는 후방 카메라를 이용하여 컴퓨터 비전 및 통신 기술을 활용하여 보행자를 확인하고, 주어진 횡단보도 시간 내에 보행자의 보행이 가능성을 판단 후, 보행가능성 판단 상황에 따른 위험 요소를 판단하여 정보를 최적으로 제공할 수 있다.

또한 실시예는 컴퓨터 비전기술을 이용한 보행자 및 후방 차량 인식 알고리즘과 신호등 인식 및 추적 알고리즘 기술과 지능형 교통시스템 또는 V2X 통신 기술을 활용하여 위험상상 정보를 제공하는 보행자와 차량 운전자 간의 커뮤니케이션 방법과 차량 운전자와 후방 차량간의 통신 방법 또는 교통안전 시스템을 제공할 수 있다.

도 1은 실시예에 따른 차량안전 시스템의 개략도.
도 2는 실시예에 따른 차량운전 보조장치를 구비하는 차량의 외관도.
도 3은 실시예에 따른 차량운전 보조장치를 구비하는 차량의 내관도.
도 4는 실시예에 따른 차량운전 보조장치의 블록도.
도 5는 실시예에 따른 차량운전 보조장치에서 프로세서부의 개념도.
도 6은 실시예에 따른 차량에 장착된 카메라의 사시도.
도 7은 실시예에 따라 카메라의 영상을 처리하는 프로세서 블록도.
도 8은 실시예에 따른 차량운전 보조장치를 구비한 차량에서 위험알림장치의 전체 순서도.
도 9a는 실시예에 따른 차량운전 보조장치를 구비한 차량에서 신호등 인식 알고리즘의 순서도.
도 9b 내지 도 9d는 실시예에 따른 차량운전 보조장치를 구비한 차량에서 신호등 인식에 대한 내용도.
도 10a는 실시예에 따른 차량운전 보조장치를 구비한 차량에서 보행자 인식 알고리즘의 순서도.
도 10b 내지 도 10c는 실시예에 따른 차량운전 보조장치를 구비한 차량에서 보행자 인식에 대한 내용도.
도 11a는 실시예에 따른 차량운전 보조장치를 구비한 차량에서 후방차량 인식 알고리즘의 순서도.
도 11b는 차량인식 결과의 예.
도 12는 실시예에 따른 차량운전 보조장치를 구비한 차량의 제1 시나리오.
도 13은 실시예에 따른 차량운전 보조장치를 구비한 차량의 제2 시나리오.
도 14는 실시예에 따른 차량운전 보조장치를 구비한 차량의 제3 시나리오.
도 15는 실시예에 따른 차량의 내부 블록도.

이하, 첨부된 도면을 참조하여 실시 예를 상세히 설명하기로 한다. 한편, 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로 사용된다.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해될 수 있다.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.

이건 명세서에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

이건 명세서에서 기술되는 차량은 자동차를 위주로 기술하나, 실시예가 이에 한정되는 것은 아니다.

이건 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 전기 모터를 구비하는 전기 차량 등을 모두 포함하는 개념일 수 있다.

상기 전기 차량은 순수 전기자동차, 하이브리드 전기차(HEV), 플러그인 하이브리드 전기차(PHEV), 수소연료전지차(FCEV) 등을 포함할 수 있다.

상기 하이브리드 전기차는 가솔린 엔진 등의 내연기관과 전기 모터를 동시에 갖춘 자동차를 뜻한다. 이는 일정 속도 이상으로 달릴 때만 내연기관이 움직이고 그 이하로는 전기 모터로 달리기 때문에 연비를 향상시킬 수 있다.

상기 플러그인 하이브리드 전기차는 하이브리드 전기차에 EV(전기자동차)의 특징인 전기 배터리를 내장한 형태의 하이브리드 전기차이다. 이는 내연기관을 활용하며 EV적인 요소를 함께 갖추었기 때문에, 보통의 내연기관 자동차보다 연비가 좋고 친환경적인 장점이 있다.

상기 수소연료전지차는 천연가스에서 정제한 수소를 전용 연료전지 탱크에 저장한 후 공기 중의 산소와 결합해 에너지를 얻는 원리로 움직인다. 이는 전기차(EV)와는 에너지의 원천 면에서 차이를 보이지만 결국 전기 에너지로 모터를 움직이기 때문에 EV에 포함될 수도 있다.

이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측을 의미한다(도 2 참조). 이하의 설명에서 별도로 언급되지 않는 한 LHD(Left Hand Drive) 차량을 중심으로 설명하기로 하나, 실시예가 이에 한정되는 것은 아니다.

실시예의 차량은 안전기술 분야 또는 편의기술 분야에 대한 운전주행 보조시스템(Advanced Driver Assistance Systems: ADAS)이 구비된 차량일 수 있다.

예를 들어, 실시예의 차량은 안전기술 분야에 관한 운전주행 보조시스템 기능으로서 자동 긴급제동(Autonomous Emergency Braking: AEB), 차선 이탈 경고 기능(Lane Departure Warning System: LDWS), 차선 이탈 방지 기능(Lane Keeping Assist System: LKAS), 운전자상태 모니터링(Driver Status Monitoring: DSM), 적응형 상향등 제어(Adaptive Headlight System: AHS), 교통표지식별(Traffic Sign Recognition: TSR) 등의 기능을 제공할 수 있다.

또한 실시예의 차량은 편의기술에 분야에 관한 운전주행 보조시스템 기능으로 스마트주차시스템(Smart Parking Assist System: SPAS), 적응순항제어(Adaptive Cruise Control: ACC), 사각지대감시기능(Blind Spot Detection: BSD), 나이트비전(Night Vision: NV), 어라운드뷰 모니터(Around View Monitor: AVM) 등의 기능을 제공할 수 있으나 이에 한정되는 것은 아니다.

도 1은 실시예에 따른 차량안전 시스템(1000)의 개략도이다.

실시예에 따른 차량안전 시스템(1000)은 차량(700), ITS(660)를 포함할 수 있다. ITS(660)는 첨단교통시스템으로 시스템 서버(661), 차량 신호등(664), 보행자 신호등(662) 등을 포함할 수 있으나 이에 한정되는 것은 아니다.

실시예에 따른 차량안전 시스템(1000)은 보행자(P)의 속성이나 횡단보도(C) 주변의 교통 상황을 충분히 고려하여 자 차량(700) 운전자나 보행자(P)의 보호에 최적화된 교통안전 시스템을 제공할 수 있다.

또한 실시예는 보행자(P)나 타 차량에 위험을 최적화된 방법으로 알릴 수 있는 차량운전 보조장치, 이를 포함하는 차량 및 교통안전 시스템을 제공할 수 있다. 타 차량(510)은 후방 차량 또는 타차선 차량을 포함할 수 있다.

이에 따라 실시예에 의하면, 횡단보도(C)에서의 교통사고를 줄이기 위하여, 횡단보도(C)에 자 차량(700)이 정차 시에 전방 또는 후방 카메라를 이용하여 컴퓨터 비전 및 통신 기술을 활용하여 보행자(P)를 확인하고, 주어진 잔존 보행시간 내에 보행자의 보행이 가능성을 판단 후, 보행가능성 판단 상황에 따른 위험 요소를 판단하여 위험정보를 최적으로 제공할 수 있다.

또한 실시예는 컴퓨터 비전기술을 이용한 보행자(P) 및 후방 차량(510) 인식 알고리즘과 신호등 인식 및 추적 알고리즘 기술과 지능형 교통 시스템(ITS) 또는 V2X 통신 기술을 활용하여, 위험상황 정보제공을 위한 보행자와 자 차량 운전자 간의 커뮤니케이션 방법과 자 차량(700) 운전자와 후방 차량 간의 통신 방법 또는 교통안전 시스템을 제공할 수 있다.

도 2는 실시예에 따른 차량운전 보조장치를 구비하는 차량(700)의 외관도이며, 도 3은 실시예에 따른 차량운전 보조장치를 구비하는 차량의 내관도이며, 도 4는 실시예에 따른 차량운전 보조장치의 블록도이다.

도 2를 참조하면, 실시예의 차량(700)은, 동력원에 의해 회전하는 바퀴(13FL, 13FR), 소정의 센서를 구비할 수 있다. 상기 센서는 카메라(160)를 포함할 수 있으나 이에 한정되는 것은 아니다.

또한 도 3과 같이, 실시예의 차량(700)은 전방의 시야를 확보하는 윈드 실드(W), 차량주행을 제어하기 위한 운전 조작수단(721), 디스플레이부(741), 모니터링부(150) 등을 포함할 수 있다.

상기 운전 조작수단(721)은 조향 입력 수단(721A), 브레이크 입력 수단(721B), 가속 입력 수단(721C) 또는 쉬프트 입력 수단(721D)을 포함할 수 있으나 이에 한정되는 것은 아니다.

상기 디스플레이부(741)는 중앙정보 디스플레이(Center Information Display: CID)일 수 있으나 이에 한정되는 것은 아니다. 실시예에서 디스플레이부(741)는 운전석과 조수석 사이에 위치하는 중앙 모니터로, 내비게이션, 오디오 등의 기능을 터치 센서가 적용된 패널로 구현할 수 있으나 이에 한정되는 것은 아니다.

상기 모니터링부(150)는 차량(700)의 내부를 촬영할 수 있다. 예를 들어, 상기 모니터링부(150)는 운전자의 제스처를 촬영할 수 있으나 이에 한정되는 것은 아니다.

다음으로 도 4와 같이, 실시예의 차량(700)은 차량운전 보조장치(100)가 장착되어 자율주행이 가능한 차량일 수 있다. 자율주행기능은, 차량운전 보조장치(100)가 직접 차량(700)의 입력 수단의 신호를 제어하여 실행할 수도 있다. 또는, 자율주행기능은 차량운전 보조장치(100)의 요청에 따라서, 차량(700) 내에서 자체적으로 이루어질 수도 있다.

이하 설명에서는, 차량운전 보조장치(100)가 소정의 정보를 받아 차량(700)의 주행상태를 판단하고, 주행상태에 따라 제공 가능한 부분 자율주행기능을 사용자에게 표시하고, 사용자에 선택에 따라 차량(700)에 부분 자율주행기능을 실행할 수도 있다.

또한 실시예에 따른 차량운전 보조장치(100)는 도 4에 도시한 각 유닛들을 직접 포함하는 것으로 설명하나, 차량(700)에 직접 설치된 각 유닛들을 인터페이스부를 통해 이용하는 것도 가능하고, 차량(700)에 직접 설치된 각 유닛들의 조합으로도 구현될 수도 있다.

도 4를 참조하면, 실시예의 차량운전 보조장치(100)는 입력부(110), 통신부(120), 인터페이스부(130), 메모리(140), 모니터링부(150), 카메라(160), 프로세서(170), 출력부(180), 센서부(190) 및 전원 공급부(197) 등을 포함할 수 있다.

이하 도 4를 참조하여 실시예의 차량운전 보조장치(100)에 대해 상술하기로 한다.

먼저, 실시예의 차량운전 보조장치(100)는 사용자의 입력을 감지하는 입력부(110)를 포함할 수 있다. 사용자는 입력부(110)를 통해 차량운전 보조장치(100)에서 제공하는 보조 기능들을 설정하고 제어할 수 있다.

예를 들어, 입력부(110)는 차량(700) 내에 배치되어 사용자의 터치 입력을 감지하는 복수의 버튼이나, 디스플레이부(741)에 배치된 터치 센서가 해당될 수 있다.

사용자는 터치 입력을 통해, 차량운전 보조장치(100)의 전원을 온/오프시키는 실행 입력이나, 가상 차선 표시 여부, 가상 차선 특성 등을 제어할 수 있다

다음으로, 실시예의 차량운전 보조장치(100)는 이동 단말기(600), 서버(500), ITS(660) 또는 타차량(510) 등과 데이터를 통신하는 통신부(120)를 포함할 수 있다.

실시예의 차량운전 보조장치(100)는 통신부(120)를 통해 내비게이션(Navigation) 정보 또는 인접차량 정보를 수신할 수 있다.

통신부(120)는 이동 단말기(600), 서버(500), ITS(660) 또는 타차량(510) 등과 무선(wireless) 방식으로 데이터를 교환할 수 있다.

또한 통신부(120)는 차량(700) 운전자의 이동 단말기(600)와 무선으로 데이터를 교환할 수 있다. 무선 데이터 통신방식으로는 블루투스(Bluetooth) WiFi, Direct WiFi, APiX 또는 NFC 등 다양한 데이터 통신 방식이 가능하나 이에 한정되는 것은 아니다.

상기 통신부(120)는 ITS(660), 이동 단말기(600), 또는 서버(500)로부터 위치 정보, 날씨 정보, 도로교통 상황정보, 예를 들면 TPEG(Transport Protocol Expert Group) 정보를 수신할 수 있다.

또한 통신부(120)는 이동 단말기(600)를 내비게이션으로 이용할 경우, 이동 단말기(600)로부터 내비게이션 정보를 수신할 수도 있다. 여기서, 내비게이션 정보는 차량(700) 주행과 관련된 맵(map) 정보, 차량(700)의 위치정보, 설정된 목적지 정보 또는 목적지에 따른 경로 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.

이를 통해, 통신부(120)는 이동 단말기(600)를 통하거나, 직접 교통 서버와 접속하여 내비게이션 정보를 수신할 수 있다.

또한, 통신부(120)는 타차량(510)로부터 인접차량(미도시)의 정보를 수신할 수 있다. 예를 들어, 통신부(120)는 기 설정된 일정 거리 내에 배치된 타차량(510)으로부터 인접차량 정보를 수신할 수 있다. 여기서, 인접차량 정보란 타차량(510) 위치, 타차량(510)과 차량(700)의 거리, 타차량(510) 속도, 타차량(510) 주행방향 또는 타차량(510)이 설정한 가상차선 중 적어도 하나 이상의 정보를 포함할 수 있다.

또한, 사용자가 차량(700)에 탑승한 경우, 사용자의 이동 단말기(600)와 차량운전 보조장치(100)는 자동으로 또는 사용자의 애플리케이션 실행에 의해 상호 페어링(pairing)을 수행될 수도 있다.

또한, 통신부(120)는 외부 서버(500)로부터 신호등 변경 등의 교통 정보를 수신할 수 있다. 여기서 서버(500)는 교통을 관제하는 교통 관제소에 위치하는 서버일 수 있으나 이에 한정되지 않고 차량을 관리하는 서비스 업체의 서버일 수도 있다.

다음으로, 실시예의 차량운전 보조장치(100)는 실시예의 차량(700)의 센싱부(760) 또는 제어부(770)와 차량운전 보조장치(100) 간의 데이터를 송수신하는 인터페이스부(130)를 포함할 수 있다.

예를 들어, 차량운전 보조장치(100)는 인터페이스부(130)를 통해 내비게이션 정보 또는 센서 정보를 수신할 수 있다.

인터페이스부(130)는 유선 통신 또는 무선 통신 방식에 의해 차량(700)의 제어부(770), AVN(Audio Video Navigation) 장치(400) 또는 차량 센싱부(760) 등과 데이터 통신을 수행할 수 있다.

예를 들어, 인터페이스부(130)는 AVN 장치(400) 또는 차량(700)의 내비게이션 장치와의 데이터 통신에 의해 내비게이션 정보를 수신할 수 있다. 또한, 인터페이스부(130)는 제어부(770) 또는 차량 센싱부(760)로부터 센서 정보를 수신할 수 있다.

여기서, 센서 정보는, 차량(700)의 방향 정보, 위치 정보, 차속 정보, 가속도 정보, 기울기 정보, 전진 또는 후진 정보, 연료 정보 또는 턴 시그널 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.

또한, 센싱부(760)는 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량의 전진/후진 센서, 휠 센서(wheel sensor), 차량의 속도 센서, 차체 경사 감지센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량의 내부 온도 센서, 차량의 내부 습도 센서 등일 수 있다. 한편, 포지션 모듈은, GPS 정보 수신을 위한 GPS 모듈을 포함할 수 있다.

또한, 센서 정보는 차량(700)에 방해가 되는 물체와의 거리 정보를 포함할 수 있다. 예를 들어, 센서 정보는 인접한 타차량(510)과의 거리 정보를 포함할 수 있고, 도로 위의 주행 방해 물체 및 간접도로 표시물에 해당하는 중앙 분리대, 연석, 가로수 등과의 거리 정보를 포함할 수 있다.

인터페이스부(130)는 차량(700)의 사용자 입력부(110)를 통해 수신되는 사용자 입력을 수신할 수 있다. 인터페이스부(130)는 사용자 입력을 차량(700)의 사용자 입력부(110)로부터 수신하거나, 제어부(770)를 거쳐 수신할 수 있다. 예를 들어, 입력부(110)가 차량(700) 자체 내에 구성으로 배치된 경우, 인터페이스부(130)를 통해 사용자 입력을 전달받을 수 있다.

인터페이스부(130)는 서버(500) 또는 ITS(660)로부터 획득된 교통 정보를 수신할 수도 있다.

다음으로, 실시예의 차량운전 보조장치(100)는 프로세서(170)의 처리 또는 제어를 위한 프로그램 등 차량운전 보조장치(100) 전반의 동작을 위한 다양한 데이터를 저장할 수 있는 메모리(140)를 구비할 수 있다.

상기 메모리(140)는 오브젝트 확인을 위한 데이터를 저장할 수 있다. 예를 들면, 메모리(140)는, 카메라(160)를 통해 획득된 영상에서, 소정 오브젝트가 검출되는 경우, 소정 알고리즘에 의해, 상기 오브젝트가 무엇에 해당하는지 확인하기 위한 데이터를 저장할 수 있다.

예를 들면, 메모리(140)는, 카메라(160)를 통해 획득된 영상에서, 소정의 교통 정보가 검출되는 경우, 소정 알고리즘에 의해, 상기 교통 정보가 무엇에 해당하는지 확인하기 위한 데이터를 저장할 수 있다.

또한, 메모리(140)는 카메라(160)를 통해 획득된 영상에서, 차선을 예측하는데 도움이 될 수 있는 간접도로표시, 인접차량, 차선 일부, 주행 방해물 등을 확인하기 위한 데이터를 저장할 수 있다.

또한, 메모리(140)는 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다.

다음으로, 차량운전 보조장치(100)는 차량(700) 내부 영상을 촬영하는 모니터링부(150)를 포함할 수 있다.

예를 들어, 모니터링부(150)는 탑승자에 대한 이미지를 획득할 수 있다. 모니터링부(150)는 탑승자의 생체인식을 위한 이미지를 획득할 수 있다. 또한 모니터링부(150)는 차량(700) 내부에 배치된 영상 획득 모듈일 수 있다.

프로세서(170)는 모니터링부(150)를 통해 획득된 사용자 영상을 분석하여 사용자의 시선을 검출할 수 있다. 그리고 프로세서(170)는 검출된 시선을 고려하여 윈드 실드(W)에 가상 차선을 표시하도록 가상 디스플레이부(미도시)를 제어할 수 있다.

다음으로, 차량운전 보조장치(100)는 차량(700) 전방 영상 또는 차량(700) 주변 영상을 촬영하는 카메라(160)를 포함할 수 있다. 차량운전 보조장치(100)는 카메라(160)를 통해 영상 정보를 획득할 수 있고, 영상 정보를 이용하여 차선 미식별 상황을 판단하고 미식별시 가상 차선을 생성할 수 있다.

카메라(160)는 차량(700) 주변 영상을 촬영할 수 있다. 예를 들어, 카메라(160)는 차량(700)의 전방을 촬영하여 전방 영상을 획득하고, 프로세서(170)는 이러한 전방 영상에 포함된 오브젝트를 분석하여 영상 정보를 획득할 수 있다.

예를 들어, 카메라(160)가 촬영한 영상에 차선, 인접차량, 주행 방해물, 및 간접도로 표시물에 해당하는 중앙 분리대, 연석, 가로수 등의 오브젝트가 촬영된 경우, 프로세서(170)는 이러한 오브젝트를 검출하여 영상 정보에 포함시킬 수 있다.

이때, 프로세서(170)는 센서를 통해 검출된 오브젝트와의 거리 정보를 획득하여, 영상 정보를 더 보완할 수 있다. 영상 정보는 영상에 촬영된 오브젝트에 관한 정보일 수 있다.

이러한 카메라(160)는 이미지 센서와 영상 처리 모듈을 포함할 수 있다. 카메라(160)는 이미지 센서(예를 들면, CMOS 또는 CCD)에 의해 얻어지는 정지영상 또는 동영상을 처리할 수 있다.

영상 처리모듈은 이미지 센서를 통해 획득된 정지영상 또는 동영상을 가공하여, 필요한 정보를 추출하고, 추출된 정보를 프로세서(170)에 전달할 수 있다.

이때, 카메라(160)는 오브젝트의 측정정확도를 향상시키고, 차량(700)과 오브젝트와의 거리 등의 정보를 더 확보할 수 있도록 스테레오 카메라를 포함할 수 있으나 이에 한정되는 것은 아니다.

실시예에 의하면, 횡단보도(C)에서의 교통사고를 줄이기 위하여, 횡단보도(C)에 차량(700)이 정차 시에 전방 또는 후방 카메라를 이용하여 컴퓨터 비전 및 통신 기술을 활용하여 보행자(P)를 확인할 수 있다. 또한 실시예는 주어진 잔존 보행시간 내에 보행자의 보행 가능성을 판단 후, 보행가능성 판단 상황에 따른 위험 요소를 판단하여 위험 정보를 최적으로 제공할 수 있다.

또한 실시예의 차량운전 보조장치(100)는 출력부(180)를 포함할 수 있다. 출력부(180)는 라이트 모듈(183), 오디오 출력부(185) 또는 HMI(181) 중 적어도 하나 이상을 포함할 수 있다.

상기 라이트 모듈(183) 보행자(P)에게 라이트를 이용하여 위험상황을 알릴 수 있다. 또한 라이트 모듈(183)은 타차량(510)에게 라이트를 이용하여 위함상황을 알릴 수 있다. 또한 위험 상황시 운전자에게 HMI(181)를 통해 조향 휠과 같은 조향 입력 수단(721A)에 진동을 통해 위험상황을 알릴 수도 있다.

상기 오디오 출력부(185)는 운전 보조기능에 대한 설명, 실행 여부 등을 확인하는 메시지를 오디오로 출력할 수 있다. 차량운전 보조장치(100)는 디스플레이부를 통한 시각적인 표시와 더불어 오디오 출력부의 오디오를 통해 운전 보조기능에 대한 설명을 보완할 수 있다

상기 오디오 출력부(180)는 자 차량(700)의 운전자에게 오디오로 위험상황을 알릴 수 있다. 또한 상기 오디오 출력부(180)는 보행자(P)에게 위험 상황을 알릴 수 있다.

또한 출력부(180)는 가상 디스플레이부(미도시)를 포함할 수 있다. 예를 들어, 가상 디스플레이부는 차량(700) 운전 보조 장치의 동작과 관련한 이미지를 표시할 수 있다. 이러한 이미지 표시를 위해, 가상 디스플레이부는, 차량(700) 내부 전면의 클러스터(cluster) 또는 HUD(Head Up Display)를 포함할 수 있다. 한편, 디스플레이부(181)가 HUD 인 경우, 차량(700)의 전면 유리에 이미지를 투사하는 투사 모듈을 포함할 수 있다.

한편, 실시예는 차량(700) 내부에 별도로 설치되어 이미지를 디스플레이하는 차량 디스플레이부(741)를 포함할 수 있다.

예를 들어, 차량 디스플레이부(741)는 차량 내비게이션 장치의 디스플레이나 차량 내부 전면의 클러스터(cluster)일 수 있다.

또한, 차량 디스플레이부(741)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.

이러한 차량 디스플레이부(741)는 제스쳐 입력부와 결합되어 터치 스크린을 이룰 수 있다. 사용자는 터치 스크린을 통해 운전 보조기능 작동이력을 검색하고, 이와 관련한 정보들을 확인할 수 있다.

또한 실시예의 차량운전 보조장치(100)는 센서부(190)를 포함할 수 있다. 이하 설명에서는 센서부(190)가 차량운전 보조장치(100)에 직접 포함되는 것으로 설명하나, 차량(700)에 센싱부(670)를 인터페이스부(130)를 통해 이용하는 것도 가능하다.

센서부(190)는 차량(700) 인접 물체와의 거리를 측정하는 거리 센서(191)와, 우적량을 측정하는 우적 센서(193)와, 차량(700) 주변의 밝기를 측정하는 조도 센서(195) 중 적어도 하나 이상의 센서를 포함할 수 있다.

먼저, 거리 센서(191)는 차량(700)에 인접한 물체와의 거리를 측정할 수 있고, 필요시 가상 차선 생성에 보조 정보로 활용할 수 있다. 예컨대, 인접한 타차량(510)이나, 차량(700) 주행이 되는 방해물인 연석, 중앙 분리대 등과 차량(700)과의 거리를 측정하여, 이를 회피하는 가상 차선을 생성하는 정보로서 활용될 수 있다.

또한, 우적 센서(193)는 비, 눈 등을 감지하여 운전자의 외부 시야를 감지할 수 있다. 프로세서(170)는 우적 센서(193)를 통해 기 설정된 수치 이상의 우적 량이 감지되는 경우, 차선 식별이 어려운 것으로 판단할 수 있다.

또한, 조도 센서(195)는 외부 조도를 감지하여 운전자의 외부 시야를 감지할 수 있다. 프로세서(170)는 조도 센서(195)를 통해 기 설정된 조도 이하일 경우, 차선 식별이 어려운 것으로 판단할 수 있다.

마지막으로, 차량운전 보조장치(100)는 차량운전 보조장치(100) 내의 각 유닛의 전반적인 동작을 제어하는 프로세서(170)를 포함할 수 있다.

프로세서(170)는 보행자와 같은 오브젝트의 판단, 신호등 정보와 같은 교통정보의 분석, 또는 위험 상황 등을 판단할 수 있다. 또한 프로세서(170)는 차량(700)의 주행 경로에 주행 방해물이 검출될 경우, 이를 회피할 수 있도록 가상 차선을 생성할 수 있다.

이러한 프로세서(170)는 ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 그리고 이러한 프로세서(170)는 제어부의 제어를 받거나, 제어부를 통해 차량(700)을 여러 기능을 제어할 수 있다.

도 5는 실시예에 따른 차량운전 보조장치에서 프로세서부(170)의 개념도이다.

실시예에서 프로세서부(170)는 위험구간 감지부(171), 보행자 후보군 검출부(172), 입력영상 생성부(173), 보행자 판별부(174), 보행자 위험 판단부(175), 보행자 보호부(176) 등을 포함할 수 있으며, 프로세서부(170)는 도 7과 같이 카메라와 연동하여 기능할 수 있다.

예를 들어, 후술하는 카메라로부터 받은 영상정보를 통해 위함구간을 감지하고, 보행자 후보군을 검출할 수 있다. 보행자 판별 후 보행자의 위함여부를 판별할 수 있으며, 필요시 보행자 보호부를 활성화시킬 수 있다. 상기 보행자 보호부는 음성 이나 라이트를 통한 위함알림 등일 수 있으나 이에 한정되는 것은 아니다.

도 6은 실시예에 따른 차량에 장착된 카메라의 사시도이며, 도 7은 실시예에 따라 카메라의 영상을 처리하는 프로세서 블록도이다.

이하, 도 6 내지 도 7을 참조하여 실시예에서 카메라(160)를 이용하여 영상에 포함된 신호등 정보 또는 보행자 정보를 분석하는 과정을 설명한다.

도 6은 실시예에 따라 도 2의 차량(700)에 부착되는 카메라(160)를 설명하는데 참조되는 도면이다. 상기 카메라(160)는 스테레오 카메라일 수 있으나 이에 한정되는 것은 아니다.

실시예는 복수의 카메라를 더 포함할 수 있다. 예를 들어, 복수의 카메라는, 각각 차량의 좌측, 후방, 우측 및 전방 중 적어도 하나 이상에 배치될 수 있다.

좌측 카메라는, 좌측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다. 또는, 좌측 카메라는, 좌측 사이드 미러를 둘러싸는 케이스 외부에 배치될 수 있다. 또는, 좌측 카메라는 좌측 프런트 도어, 좌측 리어 도어 또는 좌측 휀더(fender) 외측 일 영역에 배치될 수 있다.

우측 카메라는, 우측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다. 또는 우측 카메라는, 우측 사이드 미러를 둘러싸는 케이스 외부에 배치될 수 있다. 또는, 우측 카메라는 우측 프런트 도어, 우측 리어 도어 또는 우측 펜터(fender) 외측 일 영역에 배치될 수 있다.

또한, 후방 카메라는, 후방 번호판 또는 트렁크 스위치 부근에 배치될 수 있다. 전방 카메라는, 앰블럼 부근 또는 라디에이터 그릴 부근에 배치될 수 있다.

한편, 프로세서는 사방에서 촬영된 영상을 합성하여 차량을 탑뷰에서 바라본 어라운드 뷰 이미지를 제공할 수 있다. 어라운드 뷰 이미지 생성시, 각 이미지 영역 사이의 경계 부분이 발생한다. 이러한 경계 부분은 이미지 블렌딩(blending) 처리하여 자연스럽게 표시될 수 있다.

이러한 카메라(160)는 이미지 센서와 영상 처리 모듈을 포함할 수 있다. 카메라는 이미지 센서(예를 들면, CMOS 또는 CCD)에 의해 얻어지는 정지영상 또는 동영상을 처리할 수 있다. 영상 처리 모듈은 이미지 센서를 통해 획득된 정지영상 또는 동영상을 가공하여, 필요한 정보를 추출하고, 추출된 정보를 프로세서에 전달할 수 있다.

이하, 도 6에 도시된 스테레오 카메라를 중심으로 설명하기로 한다.

도 6을 참조하면, 상기 카메라(160)는 제1 렌즈(163a)를 구비하는 제1 카메라(160a), 제2 렌즈(163b)를 구비하는 제2 카메라(160b)를 구비할 수 있다. 이 경우, 카메라(160)는 스테레오 카메라(160)로 명명될 수 있다.

상기 카메라(160)는 각각 제1 렌즈(163a)와 제2 렌즈(163b)에 입사되는 광을 차폐하기 위한, 제1 광 차폐부(light shield)(162a), 제2 광 차폐부(162b)를 구비할 수 있다.

이러한 차량 운전 보조장치(100)는 제1, 제2 카메라(160a, 160b)로부터, 차량(700) 전방에 대한 스테레오 이미지를 획득하고, 스테레오 이미지에 기초하여, 디스패러티(disparity) 검출을 수행하고, 디스패러티 정보에 기초하여, 적어도 하나의 스테레오 이미지에 대한, 오브젝트 검출을 수행하며, 오브젝트 검출 이후, 계속적으로, 오브젝트의 움직임을 트래킹하거나 정보를 추출할 수 있다.

도 7은 발명의 실시예에 따른 영상을 처리하는 프로세서(170)의 일부를 블록도로 나타내며, 도 7은 카메라(160)의 정보를 기초로 프로세서(170)의 동작 설명에 참조되는 도면이다.

도 7을 참조하여, 프로세서(170)가 영상 정보를 검출하는 방법을 좀더 상세히 설명한다.

먼저 도 7을 참조하면, 프로세서(170)의 내부 블록도의 일예로서, 차량운전 보조장치(100) 내의 프로세서(170)는, 영상 전처리부(410), 디스패러티 연산부(420), 오브젝트 검출부(434), 오브젝트 확인부(object verification unit)(436), 오브젝트 트래킹부(440), 및 어플리케이션부(450)를 포함할 수 있다.

이하 설명에서는 영상 전처리부(410), 디스패러티 연산부(420), 오브젝트 검출부(434), 오브젝트 트래킹부(440), 및 어플리케이션부(450) 순으로 영상이 처리되는 것으로 설명하나, 이에 한정되지는 않는다.

영상 전처리부(image preprocessor)(410)는, 카메라(160)로부터의 이미지를 수신하여, 전처리(preprocessing)를 수행할 수 있다.

구체적으로, 영상 전처리부(410)는, 이미지에 대한, 노이즈 리덕션(noise reduction), 렉티피케이션(rectification), 캘리브레이션(calibration), 색상 강화(color enhancement), 색상 공간 변환(color space conversion: CSC), 인터폴레이션(interpolation), 카메라 게인 컨트롤(camera gain control) 등을 수행할 수 있다. 이에 따라, 카메라(160)에서 촬영된 스테레오 이미지 보다 선명한 이미지를 획득할 수 있다.

디스패러티 연산부(disparity calculator)(420)는, 영상 전처리부(410)에서 신호 처리된, 이미지를 수신하고, 수신된 이미지들에 대한 스테레오 매칭(stereo matching)을 수행하며, 스테레오 매칭에 따른, 디스패러티 맵(disparity map)을 획득할 수 있다. 즉, 차량(700) 전방에 대한, 스테레오 이미지에 대한 디스패러티 정보를 획득할 수 있다.

이때, 스테레오 매칭은, 스테레오 이미지들의 픽셀 단위로 또는 소정 블록 단위로 수행될 수 있다. 한편, 디스패러티 맵은, 스테레오 이미지, 즉 좌, 우 이미지의 시차(時差) 정보(binocular parallax information)를 수치로 나타낸 맵을 의미할 수 있다.

세그멘테이션부(segmentation unit)(432)는, 디스패러티 연산부(420)로부터의 디스페러티 정보에 기초하여, 이미지 중 적어도 하나에 대해, 세그먼트(segment) 및 클러스터링(clustering)을 수행할 수 있다.

구체적으로, 세그멘테이션부(432)는, 디스페러티 정보에 기초하여, 스테레오 이미지 중 적어도 하나에 대해, 배경(background)과 전경(foreground)을 분리할 수 있다.

예를 들면, 디스패리티 맵 내에서 디스페러티 정보가 소정치 이하인 영역을, 배경으로 연산하고, 해당 부분을 제외시킬 수 있다. 이에 의해, 상대적으로 전경이 분리될 수 있다. 다른 예로, 디스패리티 맵 내에서 디스페러티 정보가 소정치 이상인 영역을, 전경으로 연산하고, 해당 부분을 추출할 수 있다. 이에 의해, 전경이 분리될 수 있다.

이와 같이, 스테레오 이미지에 기반하여 추출된 디스페러티 정보 정보에 기초하여, 전경과 배경을 분리함으로써, 이후의, 오브젝트 검출시, 신호 처리 속도, 신호 처리 양 등을 단축할 수 있게 된다.

다음, 오브젝트 검출부(object detector)(434)는, 세그멘테이션부(432)로부터의 이미지 세그먼트에 기초하여, 오브젝트를 검출할 수 있다. 즉, 오브젝트 검출부(434)는, 디스페러티 정보 정보에 기초하여, 이미지 중 적어도 하나에 대해, 오브젝트를 검출할 수 있다.

구체적으로, 오브젝트 검출부(434)는, 이미지 중 적어도 하나에 대해, 오브젝트를 검출할 수 있다. 예를 들면, 이미지 세그먼트에 의해 분리된 전경으로부터 오브젝트를 검출할 수 있다.

다음, 오브젝트 확인부(object verification unit)(436)는, 분리된 오브젝트를 분류하고, 확인할 수 있다.

이를 위해, 오브젝트 확인부(436)는, 뉴럴 네트워크(neural network)를 이용한 식별법, SVM(Support Vector Machine) 기법, Haar-like 특징을 이용한 AdaBoost에 의해 식별하는 기법, 또는 HOG(Histograms of Oriented Gradients) 기법 등을 사용할 수 있다.

한편, 오브젝트 확인부(436)는, 메모리(140)에 저장된 오브젝트들과, 검출된 오브젝트를 비교하여, 오브젝트를 확인할 수 있다.

예를 들면, 오브젝트 확인부(436)는, 차량(700) 주변에 위치하는, 주변 차량(700), 차선, 도로면, 표지판, 위험 지역, 터널 등을 확인할 수 있다.

오브젝트 트래킹부(object tracking unit)(440)는, 확인된 오브젝트에 대한 트래킹을 수행할 수 있다. 예를 들면, 순차적으로, 획득되는 스테레오 이미지들에 내의, 오브젝트를 확인하고, 확인된 오브젝트의 움직임 또는 움직임 벡터를 연산하며, 연산된 움직임 또는 움직임 벡터에 기초하여, 해당 오브젝트의 이동 등을 트래킹할 수 있다. 이에 따라, 차량(700) 주변에 위치하는, 보행자, 타 차량, 차선, 도로면, 표지판, 위험 지역, 터널 등을 트래킹할 수 있게 된다.

다음, 어플리케이션부(450)는, 차량(700) 주변에, 위치하는 다양한 오브젝트들, 예를 들면, 다른 차량(510), 보행자, 차선, 도로면, 표지판 등에 기초하여, 차량(700)의 위험도 등을 연산할 수 있다. 또한, 앞차와의 추돌 가능성, 차량(700)의 슬립 여부 등을 연산할 수 있다.

그리고, 어플리케이션부(450)는, 연산된 위험도, 추돌 가능성, 또는 슬립 여부 등에 기초하여, 사용자에게, 이러한 정보를 알려주기 위한, 메시지 등을, 차량(700) 운전 보조 정보로서 출력할 수 있다. 또는, 차량(700)의 자세 제어 또는 주행 제어를 위한 제어 신호를 차량(700) 제어 정보로서 생성할 수도 있다.

한편, 영상 전처리부(410), 디스페러티 연산부(420), 세그먼테이션부(432), 오브젝트 검출부(434), 오브젝트 확인부(436), 오브젝트 트래킹부(440) 및 어플리케이션부(450)는 프로세서(170)내의 영상 처리부의 내부 구성일 수 있다.

한편, 실시예에 따라, 프로세서(170)는 영상 전처리부(410), 디스페러티 연산부(420), 세그먼테이션부(432), 오브젝트 검출부(434), 오브젝트 확인부(436), 오브젝트 트래킹부(440) 및 어플리케이션부(450) 중 일부만을 포함할 수 있다.

예를 들어, 카메라(160)가 모노 카메라 또는 어라운드 뷰 카메라로 구성되는 경우, 디스패러티 연산부(420)는 제외될 수 있다. 또한, 실시예에 따라, 세그먼테이션부(432)는 제외될 수도 있다.

도 8은 실시예에 따른 차량운전 보조장치를 구비한 차량에서 위험알림 장치의 전체 순서도로서, 도 8은 영상처리 알고리즘을 기반으로 하여 신호등 인식, 보행자 인식, 타 차량 인식 등을 통해 외부 환경에 대한 정보를 차량 알림장치를 통해 전달하는 방식을 보여준다.

우선, 신호등 인식에 대한 내용을 설명하면, 실시예의 신호등 인식 알고리즘은 카메라(160)로부터 영상입력(S10)을 받고, 입력 받은 영상 내의 관심영역(ROI)을 선정하고 선정된 관심영역 내에서 크기와 모양, 색상 판별 등으로 분석하여 정합율을 계산한 결과에 따라서 신호등인식(S20), 신호등 상태판단(S25) 등의 최종 결과를 검출해낼 수 있다.

신호등에는 보행자 신호등(662)과 차량 신호등(664)이 포함될 수 있으며, 보행자 신호등(662)에는 신호변환 잔여시간을 숫자로 표시하는 종류와 깜빡임 또는 진행률 바(bar)의 형태로 표시하는 것도 있으므로 숫자 인식을 포함한 다양한 신호등의 형태에 대응하는 인식 기술도 신호등 인식 범위에 포함될 수 있다.

실시예에서 보행자 신호등(662)이 녹색불인 경우, 보행자 신호등(662) 인식단계를 반복하여 진행할 수 있으나 이에 한정되는 것은 아니다.

실시예에서는 인식된 신호등의 상태를 정확하게 파악하여 보행자인식 및 후처리, 이후에 위험 경고를 위한 신호 알림을 결정해야 하므로 신호등인식 단계는 중요한 전처리 과정이 될 수 있다.

다음으로, 보행자 인식 단계를 설명하면, 실시예에서 보행자의 상태 및 현재 정차되어 있는 차량과 보행자의 관계 등을 파악하기 위하여, 보행자 인식 알고리즘을 통하여 보행자 인식(S30) 및 보행자 검출과 보행자 추적이 실시간으로 업데이트 될 수 있다.

실시예는 HOG(Histogram of oriented gradients) feature를 이용하여 다양한 형태 및 크기의 보행자를 분류(Classification)하기 위한 특징 데이터를 이용하고, ITS(Intelligent transport systems)에서 받은 횡단보도 정보를 통하여 보행자의 상태 정보를 얻을 수 있다(S40).

이를 통해, 보행자의 보행시간 내에 보행 가능여부를 계산(S52)하고, 보행 가능여부를 판단(S54)하여 위험상황인 경우 보행자나 차량 운전자에게 위험요소 신호알람(S72)을 시행할 수 있다.

한편, 후방 차량과 같이 타 차량 인식 및 신호 알림과 관련하여, 실시예는 후방 카메라 영상 입력(S61) 데이터를 기초로, 차량 인식 알고리즘을 이용하여 후방 차량 등의 타차량 접근에 대한 정보를 얻고(S64), 자차(Ego-Vehicle)와 후방 차량간의 TTC(Time to Collision)을 계산 및 판단(S67)하여, 위험 요소 알림을 위한 연산을 수행 함으로써 후방 접근 차량상태를 판단하여 충돌여부를 계산할 수 있다(S68).

실시예는 수행된 결과들을 통하여 정차되어 있는 자 차량을 기준으로 하여 후방 차량의 접근 여부를 기초로 한 위험요소를 감지하고 위험요소 신호알림(S74)을 위한 결정 및 제어를 수행할 수 있다.

이에 따라 실시예는 보행자의 속성이나 횡단보도 주변의 교통 상황을 충분히 고려하여 자 차량 운전자나 보행자의 보호에 최적화된 차량운전 보조장치, 이를 포함하는 차량 및 교통안전 시스템을 제공할 수 있다.

또한 실시예는 보행자나 타 차량에 위험을 최적화된 방법으로 알릴 수 있는 차량운전 보조장치, 이를 포함하는 차량 및 교통안전 시스템을 제공할 수 있다.

실시예에 의하면, 횡단보도에서의 교통사고를 줄이기 위하여, 횡단보도에 자 차량이 정차 시에 전방 또는 후방 카메라를 이용하여 컴퓨터 비전 및 통신 기술을 활용하여 보행자를 확인하고, 주어진 횡단보도 시간 내에 보행자의 보행이 가능성을 판단 후, 보행가능성 판단 상황에 따른 위험 요소를 판단하여 정보를 최적으로 제공할 수 있다.

또한 실시예는 컴퓨터 비전기술을 이용한 보행자 및 후방 차량 인식 알고리즘과 신호등 인식 및 추적 알고리즘 기술과 지능형 교통 시스템 또는 V2X 통신 기술을 활용하여 위험상황 정보제공을 위한 보행자와 자 차량 운전자 간의 커뮤니케이션 방법과 자 차량 운전자와 후방 차량간의 통신 방법 또는 교통안전 시스템을 제공할 수 있다.

도 9a는 실시예에 따른 차량운전 보조장치를 구비한 차량에서 신호등 인식 알고리즘의 순서도이다.

실시예에서 신호등 인식 알고리즘은 신호등을 인식하기 위해 영상정보 분석을 함께 사용함으로써 입력 영상의 속성(해상도 및 영상 포멧, 카메라 성능)에 따라 다양한 환경적 요인의 영향을 최소화하여 인식 알고리즘을 수행할 수 있다.

실시예에서 신호등 인식 알고리즘은 카메라의 영상 입력(S10a) 단계 후에, 관심영역을 필터링(S21)하고, 유효값을 검출하여(S22), 마스크 필터링(S23)을 통해 후보를 검출할 수 있다. 후보가 검출되지 않으면(NO) 유효값 검출 단계(S22)를 다시 진행할 수 있다.

이후, 크기 정규화단계(S24), 이진영상 전환단계(S26), 모폴로지 연산단계(S27), 선명화단계(S28), 템플릿 매칭단계(S29a), 매칭율을 기초로 한 후보 검출단계(S29b)를 통해 신호등 인식결과를 얻을 수 있다(S29c). 후보가 검출되지 않으면(NO), 탬플릿 매칭단계(S29a)를 반복할 수 있다.

도 9b 내지 도 9d는 실시예에 따른 차량운전 보조장치를 구비한 차량에서 신호등 인식에 대한 내용도이다.

실시예에서 신호등 인식은 전방 카메라를 통해 입력받은 영상으로부터 신호등 인식 알고리즘(Traffic light recognition)을 수행하여 신호등의 상태를 판단할 수 있다. 인식된 신호등의 상태는 크게 3가지로 나누어서 상태를 결정할 수 있다.

도 9b와 같이, 차량 신호등 상태는 3가지로 나뉘게 된다. 녹색(진행 가능)(G), 황색(신호 변경 알림)(Y), 적색(정지)(R) 신호등 인식(Traffic light recognition) 알고리즘은 입력영상으로부터 관심영역(ROI: Region of Interest)을 선정하여 영역 내에서 전처리를 수행하여 라벨링(Labeling)을 한다. 라벨링된 각 오브젝트(Object)로부터 일정 임계값을 통하여 신호등으로 유효한 오브젝을 선택하게 된다.

도 9c 및 도 9d와 같이, 실시예는 연산 수행속도를 최소화 하기 위한 과정으로 검출 관심영역은 다양한 환경의 도로상태내의 신호등의 위치를 고려하여 선택할 수 있다.

예를 들어, 관심 영역내의 신호등을 인식하기 위하여 Scene classification을 통해 얻어진 밝기 정보 값을 이용하여 유효값 검출을 수행할 수 있다.

도 9d와 같이, 검출된 후보군들은 필요한 영상 필터링을 통하여 정규화가 수행되고, 신호등으로 판별하기 위한 템플릿 매칭을 통해 신호등의 인식 결과 정보를 얻을 수 있다.

도 10a는 실시예에 따른 차량운전 보조장치를 구비한 차량에서 보행자 인식 알고리즘의 순서도이다.

실시예의 보행자 인식 알고리즘은 카메라의 입력영상을 이용(S10b)하여 보행자 인식을 수행할 수 있다. 보행자 인식은 도 10a의 순서도와 같이 윈도우 기반의 전역 검색(S31)을 통하여 보행자 후보군을 찾고 검출 및 추적을 실시할 수 있다(S32). 실시예는 다양한 환경의 보행자 학습을 통한 학습 테이터를 통한 분류단계(S33)를 기반으로 하여 보행자 매칭율(S34)을 계산하여 후보 검출을 통해 보행자 결과를 출력(S35)할 수 있다. 보행자의 분류로는 이륜차, 유모차, 영유아, 노인, 기타 등이 될 수 있으나 이에 한정되지 않는다. 후보검출이 되지 않는 경우(NO), 학습 데이터를 통한 분류단계(S33)로 복귀될 수 있다.

실시예에서 보행자 인식은 전방 카메라를 통해 입력 받은 영상으로부터 보행자의 보행 속도를 계산하기 위하여 컴퓨터 비전 기술을 이용하여 보행자를 검출, 인식, 추적, 분류할 수 있다.

특히 실시예에서는 보행자(P)의 보행 상태를 파악할 때, 보행자(P)가 보행자 신호등(662)의 잔존 보행시간(t) 내에 횡단보도의 횡단 완료가능 여부 판단을 수행한다.

이때, 보행자(P)의 보행 상태는 보행자의 평균 보행속도를 고려하여 보행자의 횡단보도의 횡단 완료가능 여부 판단함으로써 좀 더 정확하고 안전한 차량운전 보조장치를 제공할 수 있다.

또한 실시예는 보행자(P)의 보행 상태에 보행자의 보행 방향, 잔존 횡단보도 거리 등을 고려하여 보행자의 횡단보도의 횡단 완료가능 여부 판단함으로써 좀 더 정확하고 안전한 차량운전 보조장치를 제공할 수 있다.

도 10b 내지 도 10c는 실시예에 따른 차량운전 보조장치를 구비한 차량에서 보행자 인식에 대한 내용도이다.

실시예에서 보행자 인식 알고리즘은 도 10b와 같이 HOG(Histograms of oriented gradients) feature 기반의 학습 데이터를 Adaboost 알고리즘을 통하여 분류 작업을 수행할 수 있다.

실시예에서 Adaboost 알고리즘을 수행할 시에 기존의 차량카메라를 통해 얻을 수 있는 다양한 환경의 보행자 데이터를 추출하여 학습 데이터를 생성하여 사용할 수 있다.

실시예는 보행자 검출을 위하여 입력 영상의 전역 검색을 기반으로 하기 때문에 연산 수행 속도를 위해 가변적 크기(Scalability)를 고려하여 연산을 수행할 수 있도록 한다.

실시예는 도 10c와 같이, 검출된 관심 영역 물체로부터 NMS(Non-maxima suppression)를 통하여 가장 매칭이 잘 되는 물체를 보행자 인식 결과로 선택할 수 있다.

도 11a는 실시예에 따른 차량운전 보조장치를 구비한 차량에서 후방차량 인식 알고리즘의 순서도이다.

실시예에서 차량 인식 및 위험 신호 알람 결정은 후방 카메라로부터 입력 받은 영상을 이용(S61)하여 차량 인식 알고리즘을 수행 한다. 예를 들어, 실시예는 윈도우 기반 전역검색을 시행하고(S62), 실시예에서 차량 인식은 하알 유사 특징(Haar-like feature)으로 학습한 데이터를 이용하여 에지영상을 추출할 수 있으며(S63), 관심영역 내의 자동차를 검출할 수 있으며(S64), 학습데이터를 통한 분류를 수행할 수 있다(S65). 실시예에서 차량 인식은 다양한 환경의 자동차 앞면 학습데이터를 이용하여 검출된 후방 차량과 자 차량 간의 충돌 예상을 판단하여 위험 신호를 제어할 수 있다. 실시예에서 학습 데이터들은 내장된 여러 방향의 카메라로부터 다양한 환경에서 수집되고, 차량 인식 모듈은 이들 정보를 이용하여 실시간으로 차량을 인식할 수 있다.

이후 자동차 매칭율을 계산하여(S66) 후보군이 결정되면 충돌예상시간(TTC)를 연산하고(S67), 충돌가능여부를 계산(S68)하여 충돌가능한 위험상황인 경우 자동차 충돌 위험신호 알람을 수행한다(S74). 충돌가능하지 않는 경우(NO) 충돌예상시간(TTC)를 연산을 다시 수행할 수 있다.

도 11b는 차량인식 결과의 예이다. 실시예는 알고리즘 수행 속도와 인식율을 고려하여 관심 영역은 근접구간, 중간 구간, 먼 구간 세 구간으로 나누어 수행할 수 있다. 작은 물체부터 큰 물체까지 크기의 비율을 다양하게 조절하여 선택된 차량 데이터들을 이용하여 학습할 수 있다. 분류기의 성능을 위하여 단계별 임계 값을 다양한 테스트 환경을 토대로 얻어낼 수 있다.

실시예에서 위험 신호 알람 결정은 자동차로 분류된 물체와 자 차량 간의 충돌 예상이 가능한 시간을 계산한다. 충돌 예상 시간은 영상내의 접근하고 있는 후방 차량의 크기와 속도를 계산하고 자 차량과의 관계를 계산하여 충돌이 가능한 상황이라고 판단되었을 시에 위험 신호를 알릴 수 있다.

예를 들어, 후방 카메라를 통해 인식된 차량의 속도와 거리를 통해 계산된 TTC 시간으로부터 설정된 값 이하 일 경우, 위험 요소 신호를 알린다.

실시예에서 주변 차량에 경고 표시 방법은 시각적 방법으로 차량 외부 디자인 및 기능을 활용한 방법, 전조등, 후미등을 활용, 메시지 알람 형태의 LED등이 있다. 청각적 방법은 경적, 소리형태의 신호 등이 있다. 또는 통신을 이용한 방법으로는 V2V communication 을 이용한 알람 방법 등이 있으나 이에 한정되는 것은 아니다.

도 12는 실시예에 따른 차량운전 보조장치를 구비한 차량의 제1 시나리오이다.

실시예에 의하면, 전방 카메라(Front-Camera)를 이용하여 보행자 신호등(662)을 인식하고 보행자 신호등(662)이 녹색(G)임이 확인되고, ITS(660)를 통해서도 보행자 신호등(662)의 상태, 주기, 남은 시간을 수신 받을 수 있으며, 보행 량, 교통 정보 및 통상적인 횡단보도 길이를 예측할 수 있다. 또한 실시예는 차량 신호등(664)을 인식하고 정보를 파악하여 보행자 신호등(662)의 상태를 예측할 수 있다.

실시예는 카메라를 통하여 보행 중인 보행자(P)를 검출, 인식, 추적하고 보행 속도 계산을 통해, 보행자(P)와 횡단보도(C) 상태를 판단한 결과 보행자(P)가 남은 시간(t sec) 동안 횡단보도를 횡단할 수 없을 것이라고 판단될 경우, 보행자 및 후방 차량에게 후미등(LED 혹은 기타 시각적인 형태), 경적(경고음) 및 V2X(Vehicle to Vehicle Communication channel)등을 통하여 위험 경고 알릴 수 있다. 이 때의 경고 방식은 상황의 경중에 따라 달라질 수 있다.

도 13은 실시예에 따른 차량운전 보조장치를 구비한 차량의 제2 시나리오이다.

실시예에 의하면 전방 카메라를 이용하여 보행자 신호등(662)을 인식하고, 보행자 신호등(662)이 적색(R)임이 확인되는 경우, 또는 ITS(660)를 통해서도 보행자 신호등(662) 상태, 주기, 남은 시간을 수신 받고, 보행 량, 교통 정보 및 통상적인 횡단보도 길이를 예측할 수 있다.

실시예에 의하면, 카메라를 통하여 보행자를 검출, 인식, 추적할 수 있고 보행자 신호등(662)이 적색(R)임에도 보행중인 보행자(P)가 있고, 보행자(P)의 보행 속도 및 도로 차량의 주행 속도를 감안할 때 충돌 위험성이 높은 상황이라고 판단되었을 경우, 보행자 및 후방 차량에게 후미등(LED 혹은 기타 시각적인 형태), 경적(경고음) 및 V2X(Vehicle to Vehicle Communication channel)등을 통하여 위험 경고 알릴 수 있다. 이 때의 경고 방식은 상황의 경중에 따라 달라질 수 있다.

도 14는 실시예에 따른 차량운전 보조장치를 구비한 차량의 제3 시나리오이다.

실시예에 의하면, 전방 카메라를 이용하여 보행자 신호등(662)의 현재 상태를 인식하고, 전방 카메라를 통하여 보행중인 보행자(P)를 검출, 인식, 추적하고 보행 속도를 계산하며, ITS(660)를 통해서도 보행자 신호등(662)의 상태, 주기, 남은 시간을 수신 받고, 및 보행 량, 교통 정보 및 통상적인 횡단보도 길이를 예측할 수 있다.

실시예는 이와 동시에 후방 카메라로 후방에서 접근하는 타차량(510)을 검출하고, 추적하여 도보 중인 보행자(P)와 차량과의 충돌예상시간(TTC)을 계산했을 때, 보행자와 차량의 충돌 가능성이 높은 상황(TTC<t) 이라고 판단될 경우, 보행자 및 후방 차량에게 후미등(LED 혹은 기타 시각적인 형태), 경적(경고음) 및 V2X(Vehicle to Vehicle Communication channel)등을 통하여 위험 경고 알릴 수 있다. 이 때의 경고 방식은 상황의 경중에 따라 달라질 수 있다.

도 15는 실시예에 따른 차량(700)의 내부 블록도의 일예이다. 이러한 차량운전 보조장치(100)는 차량(700) 내에 포함될 수 있다.

차량(700)은 통신부(710), 입력부(720), 센싱부(760), 출력부(740), 차량 구동부(750), 메모리(730), 인터페이스부(780), 제어부(770), 전원부(790), 차량운전 보조장치(100) 및 AVN 장치(400)를 포함할 수 있다.

통신부(710)는 차량(700)과 이동 단말기(600) 사이, 차량(700)과 외부 서버(500) 사이 또는 차량(700)과 타차량(510)과의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 통신부(710)는 차량을 하나 이상의 망(network)에 연결하는 하나 이상의 모듈을 포함할 수 있다.

통신부(710)는, 방송 수신 모듈(711), 무선 인터넷 모듈(712), 근거리 통신 모듈(713), 위치 정보 모듈(714) 및 광통신 모듈(715)을 포함할 수 있다.

방송 수신 모듈(711)은, 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 또는 방송 관련된 정보를 수신한다. 여기서, 방송은 라디오 방송 또는 TV 방송을 포함한다.

무선 인터넷 모듈(712)은, 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 차량에 내장되거나 외장될 수 있다. 무선 인터넷 모듈(712)은 무선 인터넷 기술들에 따른 통신망에서 무선 신호를 송수신하도록 이루어진다.

무선 인터넷 기술로는, 예를 들면, WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등일 수 있다.

상기 무선 인터넷 모듈(712)은 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 데이터를 송수신하게 된다. 예를 들면, 무선 인터넷 모듈(712)은 외부 서버(500)와 무선으로 데이터를 교환할 수 있다. 무선 인터넷 모듈(712)은 외부 서버(500)로부터 날씨 정보, 도로의 교통 상황 정보, 예를 들면, TPEG(Transport Protocol Expert Group)정보를 수신할 수 있다.

근거리 통신 모듈(713)은, 근거리 통신(Short range communication)을 위한 것으로서, 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra-Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여 근거리 통신을 지원할 수 있다.

이러한, 근거리 통신 모듈(713)은 근거리 무선 통신망(Wireless Area Networks)을 형성하여, 차량과 적어도 하나의 외부 디바이스 사이의 근거리 통신을 수행할 수 있다. 예를 들면, 근거리 통신 모듈(713)은 이동 단말기(600)와 무선으로 데이터를 교환할 수 있다. 근거리 통신 모듈(713)은 이동 단말기(600)로부터 날씨 정보, 도로의 교통 상황 정보를 수신할 수 있다.

가령, 사용자가 차량(700)에 탑승한 경우, 사용자의 이동 단말기(600)와 차량(700)은 자동으로 또는 사용자의 애플리케이션 실행에 의해, 서로 페어링을 수행할 수 있다.

위치 정보 모듈(714)은, 차량의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Positioning System) 모듈이 있다. 예를 들면, 차량(700)은 GPS모듈을 활용하면, GPS 위성에서 보내는 신호를 이용하여 차량(700)의 위치를 획득할 수 있다.

광통신 모듈(715)은 광발신부 및 광수신부를 포함할 수 있다.

광수신부는, 광(light)신호를 전기 신호로 전환하여, 정보를 수신할 수 있다. 광수신부는 광을 수신하기 위한 포토 다이오드(PD, Photo Diode)를 포함할 수 있다. 포토 다이오드는 빛을 전기 신호로 전환할 수 있다. 예를 들면, 광수신부는 전방 차량에 포함된 광원에서 방출되는 광을 통해, 전방 차량의 정보를 수신할 수 있다.

광발신부는 전기 신호를 광 신호로 전환하기 위한 발광 소자를 적어도 하나 포함할 수 있다. 여기서, 발광 소자는 LED(Light Emitting Diode)일 수 있으나 이에 한정되는 것은 아니다.

광발신부는, 전기 신호를 광 신호로 전환하여, 외부에 발신할 수 있다. 예를 들면, 광 발신부는 소정 주파수에 대응하는 발광소자의 점멸을 통해, 광신호를 외부에 방출할 수 있다. 실시예에 따라, 광발신부는 복수의 발광 소자 어레이를 포함할 수 있다.

실시예에 따라, 광발신부는 차량에 구비된 램프와 일체화될 수 있다. 예를 들면, 광발신부는 전조등, 후미등, 제동등, 방향 지시등 및 차폭등 중 적어도 어느 하나일 수 있다. 예를 들면, 광통신 모듈(715)은 광 통신을 통해 타차량(510)과 데이터를 교환할 수 있다.

입력부(720)는, 운전 조작 수단(721), 마이크로 폰(723) 및 사용자 입력부(724)를 포함할 수 있다. 실시예에 따라서는 차량운전 보조장치(100)에 구비된 카메라(195)외에 별도의 카메라가 입력부에 구비될 수 있으나 이에 한정되는 것은 아니다.

운전 조작 수단(721)은 차량운전을 위한 사용자 입력을 수신한다. 도 2과 같이, 운전 조작 수단(721)은 조향 입력 수단(721A), 쉬프트 입력 수단(721D), 가속 입력 수단(721C), 브레이크 입력 수단(721B)을 포함할 수 있다.

조향 입력 수단(721A)은 사용자로부터 차량의 진행 방향 입력을 수신할 수 있다. 조향 입력 수단(721A)은 회전에 의해 조향 입력이 가능하도록 휠 형태로 형성될 수 있다. 실시예에 따라 조향 입력 수단(721A)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.

브레이크 입력 수단(721B)은 사용자로부터 차량의 감속을 위한 입력을 수신할 수 있다.

가속 입력 수단(721C)은 사용자로부터 차량의 가속을 위한 입력을 수신할 수 있다.

가속 입력 수단(721C) 및 브레이크 입력 수단(721B)은 페달 형태로 형성될 수 있다. 실시예에 따라, 가속 입력 수단(721C) 또는 브레이크 입력 수단(721B)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.

쉬프트 입력 수단(721D)은, 사용자로부터 차량의 주차, 주행, 중립, 후진의 입력을 수신할 수 있다. 쉬프트 입력 수단(721D)은 레버 형태로 형성될 수 있다. 실시예에 따라, 쉬프트 입력 수단(721D)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.

카메라는, 이미지 센서와 영상 처리 모듈을 포함할 수 있다. 카메라는 이미지 센서(예를 들면, CMOS 또는 CCD)에 의해 얻어지는 정지영상 또는 동영상을 처리할 수 있다. 영상 처리 모듈은 이미지 센서를 통해 획득된 정지영상 또는 동영상을 가공하여, 필요한 정보를 추출하고, 추출된 정보를 제어부(770)에 전달할 수 있다. 한편, 차량은 차량 전방 영상 또는 차량 주변 영상을 촬영하는 카메라 및 차량 내부 영상을 촬영하는 모니터링부를 포함할 수 있다.

실시예에서 차량운전 보조장치(100)에 구비된 모니터링부(150)는 입력부(720)에 구비될 수도 있다.

마이크로 폰(723)은 외부의 음향 신호를 전기적인 데이터로 처리할 수 있다. 처리된 데이터는 차량에서 수행 중인 기능에 따라 다양하게 활용될 수 있다. 마이크로폰(723)은 사용자의 음성 명령을 전기적인 데이터로 전환할 수 있다. 전환된 전기적인 데이터는 제어부(770)에 전달될 수 있다.

한편, 실시예에 따라, 카메라 또는 마이크로폰(723)은 입력부(720)에 포함되는 구성요소가 아닌, 센싱부(760)에 포함되는 구성요소일 수도 있다.

사용자 입력부(724)는 사용자로부터 정보를 입력받기 위한 것이다. 사용자 입력부(724)를 통해, 정보가 입력되면, 제어부(770)는 입력된 정보에 대응되도록 차량의 동작을 제어할 수 있다. 사용자 입력부(724)는 터치식 입력수단 또는 기계식 입력 수단을 포함할 수 있다. 실시예에 따라, 사용자 입력부(724)는 스티어링 휠의 일 영역에 배치될 수 있다. 이경우, 운전자는 스티어링 휠을 잡은 상태에서, 손가락으로 사용자 입력부(724)를 조작할 수 있다.

센싱부(760)는, 차량의 주행 등과 관련한 신호를 센싱할 수 있다. 이를 위해, 센싱부(760)는 충돌 센서, 휠 센서(wheel sensor), 속도 센서, 경사 센서, 중량 감지 센서, 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 초음파 센서, 레이더, 라이더 등을 포함할 수 있다.

이에 의해, 센싱부(760)는, 차량 충돌 정보, 차량 방향 정보, 차량 위치 정보(GPS 정보), 차량 각도 정보, 차량 속도 정보, 차량 가속도 정보, 차량 기울기 정보, 차량 전진/후진 정보, 배터리 정보, 연료 정보, 타이어 정보, 차량 램프 정보, 차량 내부 온도 정보, 차량 내부 습도 정보, 스티어링 휠 회전 각도 등에 대한 센싱 신호를 획득할 수 있다.

한편, 센싱부(760)는 그 외 가속페달센서, 압력센서, 엔진 회전 속도 센서(engine speed sensor), 공기 유량 센서(AFS), 흡기 온도 센서(ATS), 수온 센서(WTS), 스로틀 위치 센서(TPS), TDC 센서, 크랭크각 센서(CAS), 등을 더 포함할 수 있다.

센싱부(760)는 생체 인식 정보 감지부를 포함할 수 있다. 생체 인식 정보 감지부는 탑승자의 생체 인식 정보를 감지하여 획득한다. 생체 인식 정보는 지문 인식(Fingerprint) 정보, 홍채 인식(Iris-scan) 정보, 망막 인식(Retina-scan) 정보, 손모양(Hand geometry) 정보, 안면 인식(Facial recognition) 정보, 음성 인식(Voice recognition) 정보를 포함할 수 있다. 생체 인식 정보 감지부는 탑승자의 생체 인식 정보를 센싱하는 센서를 포함할 수 있다.

실시예에서 모니터링부(150) 및 마이크로 폰(723)이 센서로 동작할 수 있다. 생체 인식 정보 감지부는 모니터링부(150)를 통해, 손모양 정보, 안면 인식 정보를 획득할 수 있다.

출력부(740)는, 제어부(770)에서 처리된 정보를 출력하기 위한 것으로, 디스플레이부(741), 음향 출력부(742) 및 햅틱 출력부(743)를 포함할 수 있다.

디스플레이부(741)는 제어부(770)에서 처리되는 정보를 표시할 수 있다. 예를 들면, 디스플레이부(741)는 차량 관련 정보를 표시할 수 있다. 여기서, 차량 관련 정보는, 차량에 대한 직접적인 제어를 위한 차량 제어 정보, 또는 차량운전자에게 운전 가이드를 위한 차량운전 보조 정보를 포함할 수 있다. 또한, 차량 관련 정보는, 현재 차량의 상태를 알려주는 차량 상태 정보 또는 차량의 운행과 관련되는 차량 운행 정보를 포함할 수 있다.

디스플레이부(741)는 액정 디스플레이(liquid crystal display: LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display: TFT LCD), 유기 발광 다이오드(organic light-emitting diode: OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.

디스플레이부(741)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 차량와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(724)로써 기능함과 동시에, 차량와 사용자 사이의 출력 인터페이스를 제공할 수 있다.

이경우, 디스플레이부(741)는 터치 방식에 의하여 제어 명령을 입력 받을 수 있도록, 디스플레이부(741)에 대한 터치를 감지하는 터치센서를 포함할 수 있다. 이를 이용하여, 디스플레이부(741)에 대하여 터치가 이루어지면, 터치센서는 상기 터치를 감지하고, 제어부(770)는 이에 근거하여 상기 터치에 대응하는 제어명령을 발생시키도록 이루어질 수 있다. 터치 방식에 의하여 입력되는 내용은 문자 또는 숫자이거나, 각종 모드에서의 지시 또는 지정 가능한 메뉴항목 등일 수 있다.

한편, 디스플레이부(741)는 운전자가 운전을 함과 동시에 차량 상태 정보 또는 차량 운행 정보를 확인할 수 있도록 클러스터(cluster)를 포함할 수 있다. 클러스터는 대시보드 위에 위치할 수 있다. 이경우, 운전자는, 시선을 차량 전방에 유지한 채로 클러스터에 표시되는 정보를 확인할 수 있다.

한편, 실시예에 따라, 디스플레이부(741)는 HUD(Head Up Display)로 구현될 수 있다. 디스플레이부(741)가 HUD로 구현되는 경우, 윈드 쉴드(W)에 구비되는 투명 디스플레이를 통해 정보를 출력할 수 있다. 또는, 디스플레이부(741)는 투사 모듈을 구비하여 윈드 쉴드(W)에 투사되는 이미지를 통해 정보를 출력할 수 있다.

음향 출력부(742)는 제어부(770)로부터의 전기 신호를 오디오 신호로 변환하여 출력한다. 이를 위해 음향 출력부(742)는 스피커 등을 구비할 수 있다. 음향 출력부(742)는 사용자 입력부(724) 동작에 대응하는 사운드를 출력하는 것도 가능하다.

햅틱 출력부(743)는 촉각적인 출력을 발생시킬 수 있다. 예를 들면, 햅틱 출력부(743)는 스티어링 휠, 안전 벨트, 시트를 진동시켜, 사용자가 출력을 인지할 수 있게 동작할 수 있다.

차량 구동부(750)는, 차량 각종 장치의 동작을 제어할 수 있다. 차량 구동부(750)는 동력원 구동부(751), 공회전 제한장치(751A), 조향 구동부(752), 브레이크 구동부(753), 램프 구동부(754), 공조 구동부(755), 윈도우 구동부(756), 에어백 구동부(757), 썬루프 구동부(758) 및 서스펜션 구동부(759)를 포함할 수 있다.

동력원 구동부(751)는, 차량 내의 동력원에 대한 전자식 제어를 수행할 수 있다.

예를 들면, 화석 연료 기반의 엔진이 동력원인 경우, 동력원 구동부(751)는, 엔진에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 엔진의 출력 토크 등을 제어할 수 있다. 동력원 구동부(751)가 엔진인 경우, 제어부(770)의 제어에 따라, 엔진 출력 토크를 제한하여 차량의 속도를 제한할 수 있다.

다른 예로, 전기 기반의 모터가 동력원인 경우, 동력원 구동부(751)는, 모터에 대한 제어를 수행할 수 있다. 이에 의해, 모터의 회전 속도, 토크 등을 제어할 수 있다.

공회전 제한장치(751A)는 앞서 기술한 내용과 같다.

조향 구동부(752)는, 차량 내의 조향 장치(steering apparatus)에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 차량의 진행 방향을 변경할 수 있다.

브레이크 구동부(753)는 차량 내의 브레이크 장치(brake apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 바퀴에 배치되는 브레이크의 동작을 제어하여, 차량의 속도를 줄일 수 있다. 다른 예로, 좌측 바퀴와 우측 바퀴에 각각 배치되는 브레이크의 동작을 달리하여, 차량의 진행 방향을 좌측, 또는 우측으로 조정할 수 있다.

램프 구동부(754)는 차량 내, 외부에 배치되는 램프의 턴 온/턴 오프를 제어할 수 있다. 또한, 램프의 빛의 세기, 방향 등을 제어할 수 있다. 예를 들면, 방향 지시 램프, 브레이크 램프 등의 대한 제어를 수행할 수 있다.

공조 구동부(755)는 차량 내의 공조 장치(air conditioner)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 차량 내부의 온도가 높은 경우, 공조 장치가 동작하여, 냉기가 차량 내부로 공급되도록 제어할 수 있다.

윈도우 구동부(756)는, 차량 내의 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 차량의 측면의 좌, 우 윈도우들에 대한 개방 또는 폐쇄를 제어할 수 있다.

에어백 구동부(757)는, 차량 내의 에어백 장치(airbag apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 위험 인지시 에어백이 터지도록 제어할 수 있다.

썬루프 구동부(758)는 차량 내의 썬루프 장치(sunroof apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 썬루프의 개방 또는 폐쇄를 제어할 수 있다.

서스펜션 구동부(759)는 차량 내의 서스펜션 장치(suspension apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 도로면에 굴곡이 있는 경우, 서스펜션 장치를 제어하여, 차량의 진동이 저감되도록 제어할 수 있다.

메모리(730)는, 제어부(770)와 전기적으로 연결될 수 있다. 메모리(770)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다.

메모리(730)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다. 메모리(730)는 제어부(770)의 처리 또는 제어를 위한 프로그램 등, 차량 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.

인터페이스부(780)는, 차량에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행할 수 있다. 예를 들면, 인터페이스부(780)는 이동 단말기(600)와 연결 가능한 포트를 구비할 수 있고, 상기 포트를 통해, 이동 단말기(600)와 연결할 수 있다. 이경우, 인터페이스부(780)는 이동 단말기(600)와 데이터를 교환할 수 있다.

한편, 인터페이스부(780)는 연결된 이동 단말기(600)에 전기 에너지를 공급하는 통로 역할을 수행할 수 있다. 이동 단말기(600)가 인터페이스부(780)에 전기적으로 연결되는 경우, 제어부(770)의 제어에 따라, 인터페이스부(780)는 전원부(790)에서 공급되는 전기 에너지를 이동 단말기(600)에 제공한다.

제어부(770)는, 차량 내의 각 유닛의 전반적인 동작을 제어할 수 있다. 제어부(770)는 ECU(Electronic Control Unit)로 명명될 수 있다.

이러한 제어부(770)은 차량운전 보조장치(100)의 실행 신호 전달에 따라서, 전달된 신호에 대응되는 기능을 실행할 수 있다.

제어부(770)는, 하드웨어적으로, ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.

제어부(770)는 전술한 프로세서(170)의 역할을 위임할 수 있다. 즉, 차량운전 보조장치(100)의 프로세서(170)는 차량의 제어부(770)에 직접 셋팅될 수 있다. 이러한 실시예에서는 차량운전 보조장치(100)는 차량의 일부 구성들을 합하여 지칭하는 것으로 이해할 수 있다.

또는, 제어부(770)는 프로세서(170)에서 요청하는 정보를 전송해주도록 구성들을 제어할 수도 있다.

전원부(790)는, 제어부(770)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 특히, 전원부(770)는, 차량 내부의 배터리(미도시) 등으로부터 전원을 공급받을 수 있다.

AVN(Audio Video Navigation) 장치(400)는 제어부(770)와 데이터를 교환할 수 있다. 제어부(770)는 AVN 장치(400) 또는 별도의 내비게이션 장치(미도시)로부터 내비게이션 정보를 수신할 수 있다. 여기서, 여기서, 내비게이션 정보는 설정된 목적지 정보, 상기 목적지에 따른 경로 정보, 차량 주행과 관련한, 맵(map) 정보 또는 차량 위치 정보를 포함할 수 있다.

상술한 실시예에 설명된 특징, 구조, 효과 등은 실시예는의 적어도 하나의 실시예에 포함되며, 반드시 하나의 실시예에만 한정되는 것은 아니다. 나아가, 각 실시예에서 예시된 특징, 구조, 효과 등은 실시예들이 속하는 분야의 통상의 지식을 가지는 자에 의하여 다른 실시예들에 대해서도 조합 또는 변형되어 실시 가능하다. 따라서 이러한 조합과 변형에 관계된 내용들은 실시예는의 범위에 포함되는 것으로 해석되어야 할 것이다.

또한, 이상에서 실시예들을 중심으로 설명하였으나 이는 단지 예시일 뿐 실시예는을 한정하는 것이 아니며, 실시예는이 속하는 분야의 통상의 지식을 가진 자라면 본 실시예의 본질적인 특성을 벗어나지 않는 범위에서 이상에 예시되지 않은 여러 가지의 변형과 응용이 가능함을 알 수 있을 것이다. 예를 들어, 실시예들에 구체적으로 나타난 각 구성 요소는 변형하여 실시할 수 있는 것이다. 그리고 이러한 변형과 응용에 관계된 차이점들은 첨부한 청구 범위에서 규정하는 실시예는의 범위에 포함되는 것으로 해석되어야 할 것이다.

횡단보도(C), 자 차량(700),
타 차량(510), 보행자(P),
차량 신호등(664), 보행자 신호등(662), 시스템 서버(661),
ITS(660), 카메라(160), 프로세서(170), 출력부(180)

Claims (9)

1. 횡단보도의 차량 신호등의 정보와 보행자의 정보를 획득하는 카메라;
   상기 획득된 차량 신호등 정보와 상기 보행자의 정보를 분석하여 상기 보행자의 위험 정도를 분석하는 프로세서; 및
   상기 보행자의 위험 정도에 따라 자 차량의 운전자에게 상기 위험 정도를 알리는 출력부;를 포함하며,
   상기 보행자의 정보를 분석할 때, 상기 보행자의 보행 상태를 파악하여 상기 위험 정도를 판단하는 것을 특징으로 하는 차량운전 보조장치.
2. 제1 항에 있어서,
   상기 보행자의 보행 상태를 파악할 때, 상기 보행자가 보행자 신호등의 잔존 보행시간 내에 상기 횡단보도의 횡단 완료가능 여부를 판단하는 것을 특징으로 하는 차량운전 보조장치.
3. 제2 항에 있어서,
   상기 보행자의 보행 상태는
   상기 보행자의 평균 보행 속도를 포함하는 것을 특징으로 하는 차량운전 보조장치.
4. 제1 항에 있어서,
   상기 출력부는
   상기 보행자에게 상기 위험 정도를 알리는 것을 특징으로 하는 차량운전 보조장치.
5. 제1항에 있어서,
   상기 프로세서는
   ITS로부터 상기 차량 신호등의 정보를 입수하는 것을 것을 특징으로 하는 차량운전 보조장치.
6. 제1항에 있어서,
   상기 프로세서는
   ITS로부터 보행자 신호등의 정보를 입수하는 것을 것을 특징으로 하는 차량운전 보조장치.
7. 제1항에 있어서,
   상기 출력부는
   후방차량에게 상기 위험정보를 알리는 것을 특징으로 하는 차량운전 보조장치.
8. 제1 항 내지 제7 항 중 어느 하나의 차량운전 보조장치가 구비된 차량.
9. 제8 항의 차량이 포함된 차량안전 시스템.
   

Images