KR20210126365A

KR20210126365A - 차량 주행 영상 기반의 차선 검출 방법, 차선 검출 장치, 전자 기기, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체

Info

Publication number: KR20210126365A
Application number: KR1020200044088A
Authority: KR
Inventors: 김신형
Original assignee: 팅크웨어(주)
Priority date: 2020-04-10
Filing date: 2020-04-10
Publication date: 2021-10-20
Also published as: US20230334877A1; US11727693B2; US20210319237A1; CN113516014A

Abstract

프로세서를 이용한 차선 검출 방법이 개시된다. 본 방법은 주행 중인 차량의 촬영 장치에서 촬영된 주행 영상을 획득하는 단계, 획득된 주행 영상에서 차선에 대응되는 에지(edge)를 검출하고, 검출된 에지를 기초로 에지 이미지를 생성하는 단계, 검출된 에지를 기초로 직선 성분을 검출하고, 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성하는 단계, 생성된 에지 이미지와 에지 직선 처리 이미지를 이용하여 차선에 대응되는 차선 포인트를 검출하는 단계 및 검출된 차선 포인트를 기초로 차선을 검출하는 단계를 포함한다.

Description

차량 주행 영상 기반의 차선 검출 방법, 차선 검출 장치, 전자 기기, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체{METHOD, APPARATUS, ELECTRONIC DEVICE, COMPUTER PROGRAM AND COMPUTER READABLE RECORDING MEDIUM FOR DETECTING LANE MARKING BASED ON VEHICLE IMAGE}

본 발명은 차량의 주행 영상을 이용하여 도로에 표시된 차선을 검출하는 차선 검출 방법, 차선 검출 장치, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체에 관한 것이다.

또한, 본 발명은 검출된 차선을 기초로 운전자 보조를 위한 안내를 제공하는 전자기기에 관한 것이다.

또한, 본 발명은 검출된 차선을 기초로 차량의 자율 주행을 제어하는 자율 주행 시스템에 관한 것이다.

차량의 주행 시 가장 중요한 것은 안전 주행 및 교통 사고의 예방이며, 이를 위해 차량의 자세 제어, 차량 구성장치들의 기능 제어 등을 수행하는 다양한 보조장치 및 안전 벨트, 에어백 등의 안전장치가 차량에 장착되어 있다.

뿐만 아니라, 최근에는 블랙박스 등과 같이 차량에 위치하여 차량의 주행 영상 및 각종 센서들로부터 전송되는 데이터를 저장함으로써, 사고 발생시 차량의 사고 원인을 규명하는 장치들도 차량에 구비되는 추세이다. 스마트폰, 태블릿과 같은 휴대용 단말기들도 블랙박스 또는 네비게이션 어플리케이션 등이 탑재 가능하여 이와 같은 차량용 장치로 활용되고 있는 실정이다.

이에, 최근에는 차량의 주행 중에 촬영된 주행 영상을 이용하여 차량 운전자의 운전을 보조하는 첨단 운전자 지원 시스템(ADAS: Advanced Driver Assistance Systems)이 개발 및 보급되어 안전 운전과 운전자 편의를 도모하고 있다.

뿐만 아니라, 최근 IT 기술이 급속도로 발전하면서 비전시스템과 융합한 자율주행 자동차에 대한 관심이 높아지고 있다.

이러한 첨단 운전자 지원 시스템(ADAS), 자율주행 자동차에서 차량의 차선 이탈, 차로 유지를 정확하게 판단하기 위해서는, 차량의 주행 중에 촬영된 주행 영상으로부터 차량이 주행 중인 차로의 차선을 정확하게 인식하는 것이 매우 중요하다. 만약, 차량이 주행 중인 차로의 차선을 정확하게 인식하지 못하여 차선을 이탈하게 된다면 이는 사고와 직결될 수 있다.

한편, 최근에는 사용자가 실제로 보고 있는 현실 세계를 담고 있는 화면에 각종 안내 정보를 표시하는 증강 현실 내비게이션도 급속도로 발전하고 있다. 이러한 증강 현실 내비게이션은 기존에 구축되어 있는 경로선 데이터를 이용하여 차량의 현재 위치로부터 목적지까지 경로를 나타내는 증강 현실 경로 안내선을 생성하여 증강 현실로 표시한다.

다만, 증강 현실 내비게이션에서 GPS 수신 속도에 따라 실제 차선과 증강 현실 경로 안내선이 일치하여 보이지 않고 차이를 발생시키는데, 이는 증강 현실의 장점인 실제감을 저하시키는 요인이 된다. 또한, 경로선 데이터가 없거나 제공되지 않는 환경이라면 증강 현실 경로 안내선을 표출하기 어렵다.

따라서, 증강 현실 내비게이션에서도 차량이 주행 중인 차로의 차선을 정확하게 인식하여 증강 현실 경로 안내선을 사실감 있게 표출하는 것이 필요하다.

한편, 종래의 차선 인식 기술에 의하면 곡선 차선을 컬러, 에지 등의 정보를 사용하여 검출하는데 옆 차로의 자동차 및 다른 장애물과 도로 표식 등에 의해 곡선 차선의 오검출 빈도가 높다는 문제점이 있었다.

본 발명은 상술한 문제점을 해결하기 위해 안출된 것으로, 본 발명의 목적은 차량의 주행 중에 촬영된 주행 영상으로부터 직선 차선 및 곡선 차선 모두를 정확하게 검출할 수 있는 비전 기반의 차선 검출 방법, 차선 검출 장치, 컴퓨터 프로그램 및 컴퓨터 판독 가능한 기록 매체를 제공함에 있다.

또한, 본 발명의 목적은 차량이 주행 중인 차로의 차선을 정확하게 인식하여 증강 현실 안내 객체(특히, 경로 안내 객체 및 차선 이탈 안내 객체)를 사실감 있게 표출하는 증강 현실 기반의 전자 기기를 제공함에 있다.

또한, 본 발명의 목적은 차량이 주행 중인 차로의 차선을 정확하게 인식하여 차량의 자율 주행을 제어하는 자율 주행 시스템을 제공함에 있다.

상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 프로세서를 이용한 차선 검출 방법은, 주행 중인 차량의 촬영 장치에서 촬영된 주행 영상을 획득하는 단계, 상기 획득된 주행 영상에서 차선에 대응되는 에지(edge)를 검출하고, 상기 검출된 에지를 기초로 에지 이미지를 생성하는 단계, 상기 검출된 에지를 기초로 직선 성분을 검출하고, 상기 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성하는 단계, 상기 생성된 에지 이미지와 상기 에지 직선 처리 이미지를 이용하여 상기 차선에 대응되는 차선 포인트를 검출하는 단계 및 상기 검출된 차선 포인트를 기초로 상기 차선을 검출하는 단계를 포함한다.

그리고, 상기 획득된 주행 영상에 대응되는 전방 뷰 영상의 시점을 변환하여 탑 뷰(Top View) 영상을 생성하는 단계를 더 포함하고, 상기 에지를 검출하는 단계는, 상기 탑 뷰 영상에서 상기 차선에 대응되는 에지를 검출할 수 있다.

또한, 상기 탑 뷰 영상을 상기 차량으로부터의 거리에 따라 제1 영역과 제2 영역으로 분할하는 단계를 더 포함하고, 상기 에지 직선 처리 이미지를 생성하는 단계는, 상기 분할된 제1 영역에 대응되는 제1 에지 이미지 및 제2 영역에 대응되는 제2 에지 이미지 각각에서 상기 직선 성분을 검출하고, 상기 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성할 수 있다.

그리고, 상기 차선 포인트를 검출하는 단계는, 좌측 차선에 대응되는 차선 포인트와 우측 차선에 대응되는 차선 포인트를 각각 검출할 수 있다.

또한, 상기 차선 포인트를 검출하는 단계는, 상기 생성된 에지 이미지와 상기 에지 직선 처리 이미지 중 적어도 하나를 이용하여 초기 차선 포인트를 검출하는 단계, 검색 윈도우를 생성하고, 상기 생성된 검색 윈도우를 상기 생성된 에지 이미지와 상기 에지 직선 처리 이미지 각각에 적용하며, 상기 적용된 검색 윈도우 안에서 기 설정된 조건을 만족하는 후속 차선 포인트를 검출하는 단계를 포함할 수 있다.

또한, 상기 초기 차선 포인트를 결정하는 단계는, 상기 에지 이미지 하단에서 좌측의 밝기값이 최대가 되는 좌측 초기 차선 포인트를 검출하는 단계 및 상기 에지 이미지 하단에서 우측의 밝기값이 최대가 되는 우측 초기 차선 포인트를 검출하는 단계를 포함할 수 있다.

그리고, 상기 후속 차선 포인트를 검출하는 단계는, 상기 결정된 초기 차선 포인트를 기초로 제1 검색 윈도우를 생성하는 단계, 상기 생성된 제1 검색 윈도우를 상기 에지 이미지와 상기 에지 직선 처리 이미지 각각에 적용하여 기 설정된 조건을 만족하는 제1 후속 차선 포인트를 검출하는 단계, 상기 제1 후속 차선 포인트가 제1 검색 윈도우에서 위치하는 열을 중심 열로 하는 제2 검색 윈도우를 생성하는 단계 및 상기 생성된 제2 검색 윈도우를 상기 제1 검색 윈도우의 상부에 배치하고 상기 에지 이미지와 상기 에지 직선 처리 이미지 각각에 적용하여 상기 기 설정된 조건을 만족하는 제2 후속 차선 포인트를 검출하는 단계를 포함할 수 있다.

또한, 상기 검색 윈도우의 중간 행에서만 상기 기 설정된 조건을 만족하는 차선 포인트를 검출할 수 있다.

그리고, 상기 검색 윈도우의 행 사이즈는 상기 직선 성분의 기울기에 따라 적응적으로 변화될 수 있다.

또한, ACM(Active Contour Model)의 에너지값을 산출하는 단계를 더 포함하고, 상기 기 설정된 조건은 상기 ACM(Active Contour Model)의 에너지값을 최소화하는 차선 포인트일 수 있다.

그리고, 상기 ACM(Active Contour Model)의 에너지값을 산출하는 단계는, 이전 차선 포인트들간의 평균 거리와 현재 차선 포인트와 이전 차선 포인트 간의 거리를 이용하여 내부 에너지값을 산출하는 단계 및 상기 에지 이미지와 상기 에지 직선 처리 이미지 각각에서 검출된 차선 포인트들의 밝기값을 이용하여 외부 에너지값을 산출하는 단계를 포함할 수 있다.

또한, 상기 차선을 검출하는 단계는, 상기 검출된 차선 포인트들이 이루는 곡선 방정식을 산출하는 단계 및 산출된 곡선 방정식을 기초로 상기 차선 포인트를 곡선으로 근사화하는 단계를 더 포함할 수 있다.

그리고, 상기 차선을 검출하는 단계는, 상기 탑 뷰 영상에서 검출된 차선 포인트들을 상기 획득된 주행 영상의 시점으로 변환함으로써 상기 탑 뷰 영상의 차선 포인트들에 대응되는 상기 주행 영상의 차선 포인트들을 검출하는 단계 및 상기 검출된 상기 주행 영상의 차선 포인트들을 기초로 차선을 검출하는 단계를 포함할 수 있다.

한편, 상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 차선 검출 장치는 주행 중인 차량의 촬영 장치에서 촬영된 주행 영상을 획득하는 영상 획득부, 상기 획득된 주행 영상에서 차선에 대응되는 에지(edge)를 검출하고, 상기 검출된 에지를 기초로 에지 이미지를 생성하는 에지 검출부, 상기 검출된 에지를 기초로 직선 성분을 검출하고, 상기 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성하는 직선 성분 검출부, 상기 생성된 에지 이미지와 상기 에지 직선 처리 이미지를 이용하여 상기 차선에 대응되는 차선 포인트를 검출하는 차선 포인트 검출부 및 상기 검출된 차선 포인트를 기초로 상기 차선을 검출하는 차선 검출부를 포함한다.

그리고, 상기 획득된 주행 영상에 대응되는 전방 뷰 영상의 시점을 변환하여 탑 뷰(Top View) 영상을 생성하는 영상 시점 변환부를 더 포함하고, 상기 에지 검출부는, 상기 탑 뷰 영상에서 상기 차선에 대응되는 에지를 검출할 수 있다.

또한, 상기 탑 뷰 영상을 상기 차량으로부터의 거리에 따라 제1 영역과 제2 영역으로 분할하는 영상 영역 분할부를 더 포함하고, 상기 분할된 제1 영역에 대응되는 제1 에지 이미지 및 제2 영역에 대응되는 제2 에지 이미지 각각에서 상기 직선 성분을 검출하고, 상기 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성할 수 있다.

그리고, 상기 차선 포인트 검출부는, 좌측 차선에 대응되는 차선 포인트와 우측 차선에 대응되는 차선 포인트를 각각 검출할 수 있다.

또한, 상기 차선 포인트 검출부는, 상기 생성된 에지 이미지와 상기 에지 직선 처리 이미지 중 적어도 하나를 이용하여 초기 차선 포인트를 검출하는 초기 차선 포인트 검출부, 검색 윈도우를 생성하고, 상기 생성된 검색 윈도우를 상기 생성된 에지 이미지와 상기 에지 직선 처리 이미지 각각에 적용하며, 상기 적용된 검색 윈도우 안에서 기 설정된 조건을 만족하는 후속 차선 포인트를 검출하는 후속 차선 포인트 검출부를 포함할 수 있다.

그리고, 상기 초기 차선 포인트 검출부는, 상기 에지 이미지 하단에서 좌측의 밝기값이 최대가 되는 좌측 초기 차선 포인트를 검출하고, 상기 에지 이미지 하단에서 우측의 밝기값이 최대가 되는 우측 초기 차선 포인트를 검출할 수 있다.

또한, 상기 후속 차선 포인트 검출부는, 상기 결정된 초기 차선 포인트를 기초로 제1 검색 윈도우를 생성하고, 상기 생성된 제1 검색 윈도우를 상기 에지 이미지와 상기 에지 직선 처리 이미지 각각에 적용하여 기 설정된 조건을 만족하는 제1 후속 차선 포인트를 검출하고, 상기 제1 후속 차선 포인트가 제1 검색 윈도우에서 위치하는 열을 중심 열로 하는 제2 검색 윈도우를 생성하며, 상기 생성된 제2 검색 윈도우를 상기 제1 검색 윈도우의 상부에 배치하고 상기 에지 이미지와 상기 에지 직선 처리 이미지 각각에 적용하여 상기 기 설정된 조건을 만족하는 제2 후속 차선 포인트를 검출할 수 있다.

그리고, 상기 검색 윈도우의 중간 행에서만 상기 기 설정된 조건을 만족하는 차선 포인트를 검출할 수 있다.

또한, 상기 검색 윈도우의 행 사이즈는 상기 직선 성분의 기울기에 따라 적응적으로 변화될 수 있다.

그리고, ACM(Active Contour Model)의 에너지값을 산출하는 ACM 에너지 산출부를 더 포함하고, 상기 기 설정된 조건은 상기 ACM(Active Contour Model)의 에너지값을 최소화하는 조건일 수 있다.

또한, 상기 ACM 에너지 산출부는, 이전 차선 포인트들 간의 평균 거리와 현재 차선 포인트와 이전 차선 포인트 간의 거리를 이용하여 내부 에너지값을 산출하고, 상기 에지 이미지와 상기 에지 직선 처리 이미지 각각에서 검출된 차선 포인트들의 밝기값을 이용하여 외부 에너지값을 산출할 수 있다.

그리고, 상기 검출된 차선 포인트들이 이루는 곡선 방정식을 산출하고, 산출된 곡선 방정식을 기초로 상기 차선 포인트를 곡선으로 근사화하는 차선 포인트 근사화부를 더 포함할 수 있다.

또한, 상기 차선 검출부는, 상기 탑 뷰 영상에서 검출된 차선 포인트들을 상기 획득된 주행 영상의 시점으로 변환함으로써 상기 탑 뷰 영상의 차선 포인트들에 대응되는 상기 주행 영상의 차선 포인트들을 검출하고, 상기 검출된 상기 주행 영상의 차선 포인트들을 기초로 차선을 검출할 수 있다.

한편, 상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 차선을 검출하여 운전자 보조를 위한 안내를 제공하는 전자 기기는 상기 운전자 확인 가능한 안내 정보를 표시하는 디스플레이부, 촬영 장치에서 촬영된 주행 영상을 획득하는 영상 획득부, 상기 획득된 주행 영상에서 차선에 대응되는 에지(edge)를 검출하고, 상기 검출된 에지를 기초로 에지 이미지를 생성하는 에지 검출부, 상기 검출된 에지를 기초로 직선 성분을 검출하고, 상기 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성하는 직선 성분 검출부, 상기 생성된 에지 이미지와 상기 에지 직선 처리 이미지에서 상기 차선에 대응되는 차선 포인트를 검출하는 차선 포인트 검출부, 상기 검출된 차선 포인트로부터 상기 차선을 검출하는 차선 검출부 및 상기 검출된 차선을 기초로 안내를 수행하도록 상기 디스플레이부를 제어하는 제어부를 포함한다.

그리고, 상기 차량의 현재 위치로부터 목적지까지의 경로를 안내하는 경로 안내 객체를 생성하고, 상기 생성된 경로 안내 객체를 상기 검출된 차선을 기초로 상기 촬영된 주행 영상의 차로에 표시하는 증강 현실 이미지를 생성하는 증강 현실 제공부를 더 포함하고, 상기 제어부는 상기 생성된 증강 현실 이미지를 표시하도록 상기 디스플레이부를 제어할 수 있다.

또한, 상기 차량의 차선 이탈을 안내하는 차선 이탈 안내 객체를 생성하고, 상기 생성된 차선 이탈 안내 객체를 상기 검출된 차선을 기초로 차선에 표시하는 증강 현실 이미지를 생성하는 증강 현실 제공부를 더 포함하고, 상기 제어부는 상기 생성된 증강 현실 이미지를 표시하도록 상기 디스플레이부를 제어할 수 있다.

한편, 상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 컴퓨터 판독 가능한 기록 매체는 상술한 차선 검출 방법을 실행시키기 위한 프로그램이 기록될 수 있다.

또한, 상술한 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 프로그램은 컴퓨터 판독 가능한 기록 매체에 저장되어 상술한 차선 검출 방법을 실행시키거나 설치되도록 할 수 있다.

상술한 본 발명의 다양한 실시 예에 따르면, 차량의 주행 중에 촬영된 주행 영상으로부터 직선 차선 및 곡선 차선 모두를 정확하게 검출할 수 있다.

또한, 본 발명의 다양한 실시 예에 따르면, 직선 성분을 주요 요소로 사용하기 때문에, 옆 차로의 차량과 다른 장애물에 의한 오인식 등을 줄이며 직선 차선 및 곡선 차선 모두를 정확하게 검출할 수 있다.

또한, 본 발명의 다양한 실시 예에 따르면, 차량이 주행 중인 차로의 차선을 정확하게 인식함으로써, 차선 기반으로 표시되는 증강 현실 안내 객체(예를 들어, 경로 안내 객체 및 차선 이탈 안내 객체)를 증강 현실 화면에 사실감 있게 표출할 수 있다.

또한, 본 발명의 다양한 실시 예에 따르면, 중국과 같이 국가적 특성에 따라 경로선 데이터를 제공받을 수 없거나 경로선 데이터가 구축되지 않은 환경에서도 정확하게 차선을 인식하여 차선 기반 증강 현실 안내 객체를 증강 현실 화면에 표출할 수 있다.

또한, 본 발명에 따르면, 차량이 주행 중인 차로의 차선을 정확하게 인식함으로써, 차선 오인식에 따른 자율 주행 오류 문제를 해소할 수 있다.

도 1은 본 발명의 일 실시 예에 따른 차선 검출 장치를 나타내는 블록도 이다.
도 2는 본 발명의 일 실시 예에 따른 차선 포인트 검출부를 보다 구체적으로 나타내는 블록도 이다.
도 3은 본 발명의 일 실시 예에 따른 영상 시점 변환을 설명하기 위한 도면 이다.
도 4는 본 발명의 일 실시 예에 따른 영상 영역 분할을 설명하기 위한 도면 이다.
도 5는 본 발명의 일 실시 예에 따른 직선 성분 검출 과정을 설명하기 위한 도면 이다.
도 6은 본 발명의 일 실시 예에 따른 에지 이미지 및 에지 직선 처리 이미지를 나타내는 도면 이다.
도 7은 본 발명의 일 실시 예에 따른 초기 차선 포인트 결정을 설명하기 위한 도면 이다.
도 8은 본 발명의 일 실시 예에 따른 후속 차선 포인트 결정 방법을 설명하기 위한 도면 이다.
도 9는 본 발명의 일 실시 에에 따른 차선 포인트 검출 결과를 나타내는 도면 이다.
도 10은 본 발명의 일 실시 예에 따른 탑 뷰 영상을 이용하여 전방 뷰 영상에서 차선을 검출 과정을 설명하기 위한 도면 이다.
도 11은 본 발명의 일 실시 예에 따른 차선 검출 방법을 나타내는 흐름도 이다.
도 12는 본 발명의 일 실시 예에 따른 차선 검출 방법을 보다 구체적으로 나타내는 흐름도 이다.
도 13은 본 발명의 일 실시 예에 따른 차선 포인트 검출 단계(S206, S207)를 보다 구체적으로 나타내는 흐름도 이다.
도 14는 본 발명의 일 실시 예에 따른 차선 검출 단계(S208)를 보다 구체적으로 나타내는 흐름도 이다.
도 15는 본 발명의 일 실시 예에 따른 전자 장치를 나타내는 블록도 이다.
도 16은 본 발명의 일 실시 예에 따른 경로 안내 객체 생성 방법을 설명하기 위한 도면 이다.
도 17은 본 발명의 일 실시 예에 따른 전자 장치와 연결된 시스템 네트워크를 설명하기 위한 도면이다.
도 18은 본 발명의 일 실시 예에 따른 경로 안내 객체를 표시하는 증강 현실 안내 화면을 나타내는 도면 이다.
도 19는 본 발명의 일 실시 예에 따른 차선 이탈 안내 객체를 표시하는 증강 현실 안내 화면을 나타내는 도면 이다.
도 20은 본 발명의 일 실시 예에 따른 전자 장치가 촬영부를 구비하지 않는 경우의 구현 형태를 나타내는 도면이다.
도 21은 본 발명의 일 실시 예에 따른 전자 장치가 촬영부를 구비하는 경우 구현 형태를 나타내는 도면이다.
도 22는 본 발명의 일 실시 예에 따른 HUD(Head-Up Display)를 이용한 구현 형태를 나타내는 도면이다.
도 23은 본 발명의 일 실시 예에 따른 자율 주행 시스템을 나타내는 블록도 이다.
도 24는 본 발명의 일 실시 예에 따른 자율 주행 차량의 구성을 나타내는 블록도 이다.

이하의 내용은 단지 본 발명의 원리를 예시한다. 그러므로 당업자는 비록 본 명세서에 명확히 설명되거나 도시되지 않았지만 본 발명의 원리를 구현하고 본 발명의 개념과 범위에 포함된 다양한 장치를 발명할 수 있는 것이다. 또한, 본 명세서에 열거된 모든 조건부 용어 및 실시 예들은 원칙적으로, 본 발명의 개념이 이해되도록 하기 위한 목적으로만 명백히 의도되고, 이와 같이 특별히 열거된 실시 예들 및 상태들에 제한적이지 않는 것으로 이해되어야 한다.

또한, 본 발명의 원리, 관점 및 실시 예들뿐만 아니라 특정 실시 예를 열거하는 모든 상세한 설명은 이러한 사항의 구조적 및 기능적 균등물을 포함하도록 의도되는 것으로 이해되어야 한다. 또한 이러한 균등물들은 현재 공지된 균등물뿐만 아니라 장래에 개발될 균등물 즉 구조와 무관하게 동일한 기능을 수행하도록 발명된 모든 소자를 포함하는 것으로 이해되어야 한다.

따라서, 예를 들어, 본 명세서의 블럭도는 본 발명의 원리를 구체화하는 예시적인 회로의 개념적인 관점을 나타내는 것으로 이해되어야 한다. 이와 유사하게, 모든 흐름도, 상태 변환도, 의사 코드 등은 컴퓨터가 판독 가능한 매체에 실질적으로 나타낼 수 있고 컴퓨터 또는 프로세서가 명백히 도시되었는지 여부를 불문하고 컴퓨터 또는 프로세서에 의해 수행되는 다양한 프로세스를 나타내는 것으로 이해되어야 한다.

프로세서 또는 이와 유사한 개념으로 표시된 기능 블럭을 포함하는 도면에 도시된 다양한 소자의 기능은 전용 하드웨어뿐만 아니라 적절한 소프트웨어와 관련하여 소프트웨어를 실행할 능력을 가진 하드웨어의 사용으로 제공될 수 있다. 프로세서에 의해 제공될 때, 상기 기능은 단일 전용 프로세서, 단일 공유 프로세서 또는 복수의 개별적 프로세서에 의해 제공될 수 있고, 이들 중 일부는 공유될 수 있다.

또한 프로세서, 제어 또는 이와 유사한 개념으로 제시되는 용어의 명확한 사용은 소프트웨어를 실행할 능력을 가진 하드웨어를 배타적으로 인용하여 해석되어서는 아니되고, 제한 없이 디지털 신호 프로세서(DSP) 하드웨어, 소프트웨어를 저장하기 위한 롬(ROM), 램(RAM) 및 비 휘발성 메모리를 암시적으로 포함하는 것으로 이해되어야 한다. 주지관용의 다른 하드웨어도 포함될 수 있다.

본 명세서의 청구범위에서, 상세한 설명에 기재된 기능을 수행하기 위한 수단으로 표현된 구성요소는 예를 들어 상기 기능을 수행하는 회로 소자의 조합 또는 펌웨어/마이크로 코드 등을 포함하는 모든 형식의 소프트웨어를 포함하는 기능을 수행하는 모든 방법을 포함하는 것으로 의도되었으며, 상기 기능을 수행하도록 상기 소프트웨어를 실행하기 위한 적절한 회로와 결합된다. 이러한 청구범위에 의해 정의되는 본 발명은 다양하게 열거된 수단에 의해 제공되는 기능들이 결합되고 청구항이 요구하는 방식과 결합되기 때문에 상기 기능을 제공할 수 있는 어떠한 수단도 본 명세서로부터 파악되는 것과 균등한 것으로 이해되어야 한다.

상술한 목적, 특징 및 장점은 첨부된 도면과 관련한 다음의 상세한 설명을 통하여 보다 분명해질 것이며, 그에 따라 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 본 발명의 기술적 사상을 용이하게 실시할 수 있을 것이다. 또한, 본 발명을 설명함에 있어서 본 발명과 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에 그 상세한 설명을 생략하기로 한다.

이하, 첨부된 도면을 참조하여 본 발명의 다양한 실시 예에 대하여 상세히 설명하기로 한다.

도 1은 본 발명의 일 실시 예에 따른 차선 검출 장치를 나타내는 블록도 이다. 도 2는 본 발명의 일 실시 예에 따른 차선 검출 장치를 보다 구체적으로 나타내는 블록도 이다. 도 1 내지 2를 참조하면, 차선 검출 장치(10)는 영상 획득부(11), 영상 시점 변환부(12), 영상 영역 분할부(13), 에지 검출부(14), 직선 성분 검출부(15), 차선 포인트 검출부(16), 차선 포인트 근사화부(17), 차선 검출부(18)의 전부 또는 일부를 포함할 수 있다. 그리고, 차선 포인트 검출부(16)는 초기 차선 포인트 검출부(16-1), 후속 차선 포인트 검출부(16-2), ACM 에너지 산출부(16-3)를 포함할 수 있다.

이러한 차선 검출 장치(10)는 차량의 촬영 장치에서 촬영된 주행 영상의 이미지 처리를 통해 주행 영상으로부터 차량이 주행 중인 차로(lane)의 차선(lane marking)을 검출할 수 있다.

여기서, 차량의 주행이란 차량이 운전자에 의하여 운전되어 도로에 위치하는 상태를 의미하고, 차량이 도로를 달리고 있는 주행 상태, 차량이 도로에 서있는 정차 상태 및 차량의 주차 상태를 모두 포함하는 개념일 수 있다.

그리고, 차량의 촬영 장치에서 촬영된 주행 영상은 차량의 전방 촬영에 따른 전방 주행 영상, 차량의 후방 촬영에 따른 후방 주행 영상을 포함할 수 있다.

이러한 차선 검출 장치(10)는 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 구현될 수 있다. 일 예로, 하드웨어적인 구현에 의하면, ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(micro-processors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다.

이하에서는, 설명의 편의를 위하여, 주행 영상은 전방 주행 영상인 경우를 예로, 차선 검출 장치(10)를 구성하는 각각의 구성 모듈에 대해서 보다 상세하게 설명하기로 한다.

영상 획득부(11)는 차량의 촬영 장치에서 촬영된 주행 영상을 획득할 수 있다. 구체적으로, 영상 획득부(11)는 차량의 주행 중에 차량에 설치된 촬영 장치에서 촬영된 주행 영상을 실시간으로 획득할 수 있다.

여기서, 획득된 주행 영상에는 차선을 따라 구별되는 복수의 차로, 복수의 차로로 구성된 도로, 도로를 주행하고 있는 복수의 차량이 포함될 수 있다.

차선(lane marking)은 차량이 위치한 차로(lane)를 형성하는 양측 선(line) 각각을 의미할 수 있다. 또한, 차로(lane)는 1 차로, 2 차로,.. N 차로 등과 같이 차선에 의해 형성되고, 차량이 주행하는 도로를 의미할 수 있다.

그리고, 획득된 주행 영상은 컬러 영상이거나 그레이 스케일 영상일 수 있다.

만약, 획득된 주행 영상이 컬러 영상인 경우, 영상 획득부(11)는 그레이 스케일 처리를 통해 컬러 영상으로부터 그레이 스케일 영상을 생성할 수 있다. 다만, 획득된 주행 영상이 그레이 스케일 처리 영상인 경우, 영상 획득부(11)는 별도의 그레이 스케일 처리를 수행하지 않을 수 있다.

이러한 본 발명에 따르면, 그레이 스케일 처리 영상을 이용하여 이후 설명될 차선 검출 알고리즘을 실행함으로써, 저사양 단말에서도 실시간으로 영상 처리가 가능할 수 있다.

다만, 이에 한정되는 것은 아니고, 영상 획득부(11)를 통해 획득된 주행 영상이 컬러 영상인 경우, 영상 획득부(11)는 그레이 스케일 처리를 수행하지 않고 컬러 영상을 이용하여 이후 설명될 차선 검출 알고리즘을 실행할 수도 있다. 이 경우, 본 발명에 따르면, 컬러 영상의 RGB 색공간을 CIELUV 색공간이나 YCbCr 색공간이나 HSV 색공간으로 변환하고, 색공간이 변환된 컬러 영상을 이용하여 이후 설명될 차선 검출 알고리즘을 실행할 수도 있다.

이하에서는, 설명의 편의를 위하여, 주행 영상은 그레이 스케일 처리 영상인 경우를 예로 설명하기로 한다.

영상 시점 변환부(12)는 영상 획득부(11)에서 획득된 주행 영상의 시점을 변환하여 시점이 변환된 주행 영상을 생성할 수 있다.

일 예로, 차량에 구비된 촬영 장치의 시점이 차량의 전방을 향하고 있는 경우, 영상 획득부(11)에서 획득된 주행 영상은 촬영 장치의 시점에 대응되는 전방 뷰 영상일 수 있다. 다만, 전방 뷰 영상을 통해 이후 설명될 차선 검출 알고리즘이 실행된다면, 차선 검출의 정확성이 떨어질 수 있다. 이에 따라, 본 발명에 따르면, 영상 시점 변환부(12)는 영상 획득부(11)에서 획득된 전방 뷰 영상을 입력받고, 입력받은 전방 뷰 영상의 시점을 변환하여 탑 뷰(Top View) 영상을 생성할 수 있다. 여기서, 탑 뷰 영상은 위에서 아래를 바라보는 시점의 영상을 의미할 수 있다.

이러한, 영상 시점 변환부(12)는 아래 수학식 1과 같은 변환 행렬(또는, 호모그래피(Homography) 행렬)을 이용하여 주행 영상의 시점을 변환할 수 있다.

여기서, W는 weight, (x, y, 1)은 원 위치, (x',y',1)은 변환 위치, h₁₁ ~ h₃₃는 변환 행렬을 의미한다.

즉, 영상 시점 변환부(12)는 전방 뷰 영상의 관심 영역(Region Of Interest : ROI)를 설정하고, 관심 영역의 모든 픽셀에 대해 상기 변환 행렬을 적용하여 탑 뷰 영상을 생성할 수 있다. 여기서, 관심 영역은 미리 설정된 영역이거나 또는 촬영 장치의 스펙에 따라 가변될 수 있다.

그리고, 상술한 변환 행렬은 저장부에 기 설정된 값이 할당된 행렬일 수 있다. 또는, 영상 시점 변환부(12)는 기기의 전원이 온(On)됨에 따라 촬영 장치에서 획득된 전방 뷰 영상을 기초로 상기 변환 행렬을 산출하고, 이 후 산출된 변환 행렬을 기초로 탑 뷰 영상을 생성하며, 이 후 기기의 전원이 오프(Off)되면 상기 변환 행렬을 삭제할 수 있다.

이러한 본원 발명의 영상 시점 변환부(12)에 대해서는 도 3을 참조하여 보다 구체적으로 설명하기로 한다.

도 3은 본 발명의 일 실시 예에 따른 영상 시점 변환을 설명하기 위한 도면 이다. 도 3을 참조하면, 영상 획득부(11)에서 획득된 주행 영상은 촬영 장치의 시점에 대응되는 전방 뷰 영상(도 3(a) 참조)일 수 있다. 이 경우, 영상 시점 변환부(12)는 전방 뷰 영상에서 관심 영역(3001)을 선택하고, 선택된 관심 영역(3001)을 변환 행렬에 적용하여 위에서 아래를 바라보는 시점의 영상인 탑 뷰 영상(도 3(b) 참조)을 생성할 수 있다.

한편, 본 발명에 따른 영상 시점 변환부(12)는 상술한 변환을 역으로 적용하여, 탑 뷰 영상으로부터 전방 뷰 영상을 생성할 수도 있다.

이하에서는, 설명의 편의를 위하여, 주행 영상은 탑 뷰 영상인 경우를 예로 설명하기로 한다.

영상 영역 분할부(13)는 영상 시점 변환부(12)에서 생성된 탑 뷰 영상을 차량으로부터의 거리에 따라 제1 영역과 제2 영역으로 분할할 수 있다. 이러한 영상 영역 분할부(13)에 대해서는 도 4를 참조하여 보다 구체적으로 설명하기로 한다.

도 4는 본 발명의 일 실시 예에 따른 영상 영역 분할을 설명하기 위한 도면 이다. 도 4를 참조하면, 영상 시점 변환부(12)에서 생성된 탑 뷰 영상은 도 4(a)와 같을 수 있다. 영상 영역 분할부(13)는, 도 4(b)와 같이, 차량으로부터의 거리에 따라 차량으로부터 근접한 영역에 대응되는 제1 영역(3101-2)과 차량으로부터 먼 영역에 대응되는 제2 영역(3101-1)로 분할할 수 있다.

에지 검출부(14)는 주행 영상에서 차선에 대응되는 에지(edge)를 검출할 수 있다. 구체적으로, 에지 검출부(14)는 영상 시점 변환부(12)에서 생성된 탑 뷰 영상에서 차선에 대응되는 에지를 검출할 수 있다. 여기서, 에지는 가장자리 혹은 윤곽선이란 의미로 영상의 밝기가 낮은 값에서 높은값으로 혹은 반대로 변하는 지점에 존재하는 부분을 의미할 수 있다. 이러한 에지 검출부(14)는, 일 예로, 소벨(Sobel) 에지 추출 기법, 프리윗(Prewitt) 에지 추출 기법, 로버츠(Roberts) 에지 추출 기법, 컴퍼스(Compass) 에지 추출 기법 등 다양한 기법을 이용하여 주행 영상에서 차선에 대응되는 에지(edge)를 검출할 수 있다.

그리고, 에지 검출부(14)는 검출된 에지를 기초로 에지 이미지를 생성할 수 있다. 여기서, 에지 검출부(14)에서 생성된 에지 이미지는 검출된 에지 영역이 비 에지 영역과 구분되는 이미지일 수 있다. 이러한 에지 이미지에 대해서는 도 6을 참조하여 후술하기로 한다.

직선 성분 검출부(15)는 에지 검출부(14)에서 검출된 에지를 기초로 직선 성분을 검출할 수 있다. 구체적으로, 직선 성분 검출부(15)는 영상 영역 분할부(13)에서 분할된 제1 영역 및 제2 영역 각각에 대한 에지 이미지에 직선 성분 검출 알고리즘을 적용하여 제1 영역 및 제2 영역 각각에 포함된 에지로부터 직선 성분을 검출할 수 있다. 여기서, 직선 성분 검출부(15)는 영상 영역 분할부(13)에서 분할된 영역 중 근접한 영역에 대응되는 제1 영역(3101-2)와 먼 영역에 대응되는 제2 영역(3101-1) 각각에 대하여 직선 성분을 검출하기 때문에, 커브 차선에 대응되는 곡선 표현이 가능할 수 있다.

그리고, 직선 성분 검출부(15)는, 일 예로, 허프 변환(Hough transform) 등을 이용하여 에지 검출부(14)에서 검출된 에지를 기초로 직선 성분을 검출할 수 있다. 그리고, 직선 성분 검출부(15)에서 검출되는 직선 성분은 적어도 한 개 이상일 수 있다.

그리고, 직선 성분 검출부(15)는 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성할 수 있다. 여기서, 직선 성분 검출부(15)에서 생성된 에지 직선 처리 이미지는 검출된 직선 성분 영역이 타 영역과 구분되는 이미지일 수 있다. 이러한 에지 직선 처리 이미지에 대해서는 도 6을 참조하여 후술하기로 한다.

한편, 직선 성분 검출부의 동작에 대해서는 도 5를 참조하여 보다 구체적으로 설명하기로 한다.

도 5는 본 발명의 일 실시 예에 따른 직선 성분 검출 과정을 설명하기 위한 도면 이다. 도 5(a)는 에지 검출부(14)에서 생성된 에지 이미지로, 직선 성분 검출부(15)는 영상 영역 분할부(13)에서 분할된 제1 영역에 대응되는 제1 에지 이미지(3201) 및 제2 영역에 대응되는 제2 에지 이미지(3202)에 허프 변환을 적용할 수 있다. 이 경우, 도 5(b)와 같이, 직선 성분 검출부(15)는 1 에지 이미지(3201)에 포함된 에지로부터 제1 직선 성분(3201-1,3201-2)를 검출하고, 제2 에지 이미지(3202)에 포함된 에지로부터 제2 직선 성분(3202-1,3202-2)를 검출할 수 있다.

도 6은 본 발명의 일 실시 예에 따른 에지 이미지 및 에지 직선 처리 이미지를 나타내는 도면 이다. 에지 검출부(14)는 검출된 에지를 기초로 에지 이미지를 생성할 수 있다. 도 6(a)을 참조하면, 에지 검출부(14)에서 생성된 에지 이미지는 검출된 에지 영역(흰색 표시 영역)과 비 에지 영역(검은색 표시 영역)을 포함할 수 있고, 에지 이미지에서 에지 영역은 비 에지 영역과 구분될 수 있다.

또한, 직선 성분 검출부(15)는 에지 이미지에서 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성할 수 있다. 도 6(b)를 참조하면, 직선 성분 검출부(15)에서 생성된 에지 직선 처리 이미지는 검출된 직선 성분 영역(흰색 표시 영역)과 타 영역(검은색 표시 영역)을 포함할 수 있고, 에지 직선 처리 이미지에서 직선 성분 영역은 타 영역과 구분될 수 있다.

한편, 차선 포인트 검출부(16)는 생성된 에지 이미지와 에지 직선 처리 이미지를 이용하여 차선에 대응되는 차선 포인트를 검출할 수 있다.

차량이 주행하는 차로는 좌측 차선과 우측 차선으로 구성되는 것이 일반적이기에, 차선 포인트 검출부(16)는 생성된 에지 이미지와 에지 직선 처리 이미지를 이용하여 좌측 차선에 대응되는 차선 포인트와 우측 차선에 대응되는 차선 포인트를 각각 검출할 수 있다.

다만, 이에 한정되는 것은 아니고, 차량이 주행하는 차로가 일 측 차선만으로 구성되는 경우, 차선 포인트 검출부(16)는 생성된 에지 이미지와 에지 직선 처리 이미지를 이용하여 일 측 차선에 대응되는 차선 포인트만을 검출할 수도 있다.

여기서, 차선 포인트 검출부(16)는 초기 차선 포인트 검출부(16-1), 후속 차선 포인트 검출부(16-2) 및 ACM 에너지 산출부(16-3)를 포함할 수 있다.

초기 차선 포인트 검출부(16-1)는 에지 검출부(14)에서 생성된 에지 이미지와 직선 성분 검출부(15)에서 생성된 에지 직선 처리 이미지 중 적어도 하나를 이용하여 초기 차선 포인트를 결정할 수 있다. 구체적으로, 초기 차선 포인트 검출부(16-1)는 에지 이미지 및 에지 직선 처리 이미지 중 적어도 하나의 이미지의 하단에서 밝기값이 최대가 되는 두 점 이상의 포인트를 검출하고, 포인트 중 좌측 밝기값이 최대가 되는 포인트를 좌측 초기 차선 포인트로 결정하고, 포인트 중 우측 밝기값이 최대가 되는 포인트를 우측 초기 차선 포인트로 결정할 수 있다. 이러한 초기 차선 포인트를 결정하는 방법에 대해서는 도 7을 참조하여 보다 구체적으로 설명하기로 한다.

도 7은 본 발명의 일 실시 예에 따른 초기 차선 포인트 결정을 설명하기 위한 도면 이다. 도 7을 참조하면, 초기 차선 포인트 검출부(16-1)는 에지 이미지(3301)를 이용하여 초기 차선 포인트를 결정하는 것을 나타낸 도면으로, 초기 차선 포인트 검출부(16-1)는 에지 이미지(3301)의 하단 부분(3302)을 설정하고, 하단 부분(3302)의 히스토그램을 분석하여 밝기값이 최대가 되는 두 점 이상의 포인트를 검출하고, 포인트 중 좌측의 밝기값이 최대가 되는 좌측 초기 차선 포인트 (V₁ ^L)을 결정하고, 포인트 중 우측의 밝기값이 최대가 되는 우측 초기 차선 포인트 (V₁ ^R)을 결정할 수 있다.

한편, 도 7에서 초기 차선 포인트 검출부(16-1)는 에지 검출부(14)에서 생성된 에지 이미지를 분석하여 초기 차선 포인트를 검출하는 것을 예로 설명하였으나, 이에 한정되는 것은 아니다. 본 발명의 다른 구현 예에 따르면, 직선 성분 검출부(15)에서 생성된 에지 직선 처리 이미지를 분석하여 초기 차선 포인트를 검출할 수 있다. 또는, 에지 이미지에서 검출된 초기 차선 포인트와 에지 직선 처리 이미지에서 검출된 초기 차선 포인트의 평균 위치를 초기 차선 포인트로 검출할 수도 있다.

한편, 초기 차선 포인트가 결정되면, 후속 차선 포인트 검출부(16-2)는 검색 윈도우를 생성하고, 생성된 검색 윈도우를 에지 이미지와 에지 직선 처리 이미지 각각에 적용하며, 상기 적용된 검색 윈도우 안에서 기 설정된 조건을 만족하는 포인트를 후속 차선 포인트로 결정할 수 있다. 이 경우, 후속 차선 포인트 검출부(16-2)는 검색 윈도우 생성 및 적용을 에지 이미지와 에지 직선 처리 이미지의 각각의 하단부터 상단까지 순차적으로 수행하여 복수의 후속 차선 포인트를 결정할 수 있다.

구체적으로, 후속 차선 포인트 검출부(16-2)는 결정된 초기 차선 포인트를 기초로 제1 검색 윈도우를 생성하고, 생성된 제1 검색 윈도우를 에지 이미지와 에지 직선 처리 이미지 각각에 적용하여 기 설정된 조건을 만족하는 제1 후속 차선 포인트를 결정할 수 있다. 그리고, 후속 차선 포인트 검출부(16-2)는 제1 후속 차선 포인트가 제1 검색 윈도우에서 위치하는 열을 중심 열로 하는 제2 검색 윈도우를 생성하며, 생성된 제2 검색 윈도우를 제1 검색 윈도우의 상부에 배치하고 에지 이미지와 에지 직선 처리 이미지 각각에 적용하여 기 설정된 조건을 만족하는 제2 후속 차선 포인트를 결정할 수 있다. 그리고, 후속 차선 포인트 검출부(16-2)는 제2 검색 윈도우 생성과 동일한 방식으로 에지 이미지와 에지 직선 처리 이미지의 끝까지 제 3, 4, .. N 검색 윈도우를 순차적으로 생성하고, 상기 순차적으로 생성된 복수의 제 3, 4, .. N 검색 윈도우를 에지 이미지와 에지 직선 처리 이미지의 상단까지 순차적으로 적용하여 복수의 후속 차선 포인트를 결정할 수 있다.

여기서, 에지 이미지에 적용되는 검색 윈도우와 에지 직선 처리 이미지에 적용되는 검색 윈도우는 동일한 사이즈이고 각각의 이미지에서 동일한 위치에 배치되는 검색 윈도우일 수 있다.

그리고, 기 설정된 조건은 ACM(Active Contour Model)의 에너지값을 최소화 하는 포인트를 후속 선 포인트로 결정하는 조건일 수 있다.

ACM은 내부 에너지와 외부 에너지를 최소화하는 과정을 반복 수행하며 윤곽을 찾는 모델로 내부 에너지(internal energy)와 외부 에너지(external energy)로 구성될 수 있다.

본 발명에 따른 ACM 에너지 산출부(16-3)는 아래의 수학식 2를 기초로 ACM의 에너지값을 산출할 수 있다.

여기서, E_int는 내부 에너지값을 의미하고, E_ext 는 외부 에너지값을 의미하며, E_ACM는 ACM 에너지값을 의미할 수 있다.

* 내부에너지 (internal energy)

구체적으로, ACM 에너지 산출부(16-3)는 이전 포인트들간의 평균 거리와 현재 포인트와 이전 포인트 간의 거리를 이용하여 내부 에너지값을 산출할 수 있다. 여기서, 내부 에너지는 이전 차선 포인트들 간의 평균 거리에 현재 차선 포인트와 이전 차선 포인트간의 거리가 근접하면 에너지가 작아지면서 수렴할 수 있다. 구체적으로, ACM 에너지 산출부(16-3)는 하기 수학식 3을 기초로 내부 에너지값을 산출할 수 있다.

여기서, v_i는 i번째 차선 포인트 벡터를 의미하고,

은 i-1번째까지의 차선 포인트들 간의 평균 거리를 의미한다. 여기서, 초기 차선 포인트는 i가 0일 수 있고, 후속 차선 포인트는 순차적으로 1,2,,, n이 할당될 수 있다.

* 외부 에너지(external energy)

구체적으로, ACM 에너지 산출부(16-3)는 아래 수학식 4와 같이 에지 이미지와 에지 직선 처리 이미지 각각에서 검출된 차선 포인트들의 밝기값을 이용하여 외부 에너지값을 산출할 수 있다. 특히, 에지 이미지만을 이용하여 외부 에너지를 산출하는 경우 차선 포인트를 정확하게 검출할 수 없기에, 본 발명에 따르면 에지 직선 처리 이미지와 에지 이미지를 동시에 이용하되 에지 직선 처리 이미지에 더 큰 가중치를 적용하여 외부 에너지를 산출함으로써 차선 포인트를 보다 정확하게 검출할 수 있다.

여기서, f_edge (v_i)는 i번째 차선 포인트에서의 에지 이미지의 밝기값(value: 0~255) 을 의미하고, f_hough (v_i)는 i번째 차선 포인트에서의 에지 직선 처리 이미지의 밝기값(value: 0~255)을 의미하며, fE_max는 에지 이미지의 밝기 최대값(value: 255)을 의미하고, fH_max는 에지 직선 처리 이미지의 밝기 최대값(value: 255)을 의미할 수 있다.

이하에서는 상기 ACM(Active Contour Model)을 이용한 후속 차선 포인트 검출 방법에 대하여 도 8을 참조하여 보다 상세히 설명하기로 한다.

도 8은 본 발명의 일 실시 예에 따른 후속 차선 포인트 검출 방법을 설명하기 위한 도면 이다. 도 8을 참조하면, 초기 차선 포인트 검출부(16-1)에서 초기 차선 포인트(V₀ ^L , V₀ ^R)가 검출되면, 후속 차선 포인트 검출부(16-2)는 초기 차선 포인트를 기초로 제1 검색 윈도우(3401-1,3401-2)를 생성할 수 있다. 여기서, 제1 검색 윈도우(3401-1,3401-2)는 1 검색 윈도우(3401-1,3401-2)의 마지막 행의 중심에 위치하도록 배치된 형태일 수 있다.

그리고, 후속 차선 포인트 검출부(16-2)는 생성된 제1 검색 윈도우(3401-1,3401-2)를 에지 이미지와 에지 직선 처리 이미지 각각에 적용하여 제1 검색 윈도우(3401-1,3401-2)의 픽셀 별로 상술한 수학식을 기초로 내부 에너지값과 외부 에너지값을 산출할 수 있다. 그리고, 후속 차선 포인트 검출부(16-2)는 산출된 내부 에너지값과 외부 에너지값을 상술한 수학식 2에 적용하여 제1 검색 윈도우(3401)의 픽셀 별로 ACM 에너지값를 산출할 수 있다. 그리고, 후속 차선 포인트 검출부(16-2)는 산출된 ACM 에너지값이 최소가 되는 지점을 제1 후속 차선 포인트(V₁ ^L , V₁ ^R )로 검출할 수 있다.

이 후, 후속 차선 포인트 검출부(16-2)는 제1 후속 차선 포인트(V₁ ^L , V₁ ^R )가 제1 검색 윈도우(3401-1,3401-2)에서 위치하는 열을 중심 열로 하는 제2 검색 윈도우(3402-1,3402-2)를 생성할 수 있다. 그리고, 후속 차선 포인트 검출부(16-2)는 생성된 제2 검색 윈도우(3402-1,3402-2)를 제1 검색 윈도우(3401-1,3401-2)의 상부에 배치할 수 있다. 이 경우, 후속 차선 포인트 검출부(16-2)는 제2 검색 윈도우(3402-1,3402-2)가 제1 검색 윈도우(3401-1,3401-2)의 일부와 겹치는 위치로 제1 검색 윈도우(3401-1,3401-2)의 상부에 배치하거나 또는 겹치지 않는 위치로 1 검색 윈도우(3401-1,3401-2)의 상부에 배치할 수 있다.

이 후, 후속 차선 포인트 검출부(16-2)는 생성된 제2 검색 윈도우(3402-1,3402-2)를 에지 이미지와 에지 직선 처리 이미지 각각에 적용하여 제2 검색 윈도우(3402-1,3402-2)의 픽셀 별로 상술한 수학식을 기초로 내부 에너지값과 외부 에너지값을 산출할 수 있다. 그리고, 후속 차선 포인트 검출부(16-2)는 산출된 내부 에너지값과 외부 에너지값을 상술한 수학식 2에 적용하여 제2 검색 윈도우(3402-1,3402-2)의 픽셀 별로 ACM 에너지값를 산출할 수 있다. 그리고, 후속 차선 포인트 검출부(16-2)는 산출된 ACM 에너지값이 최소가 되는 지점을 제2 후속 차선 포인트(V₂ ^L , V₂ ^R )로 검출할 수 있다.

여기서, 제2 검색 윈도우와 제2 후속 차선 포인트의 제2 라는 표현은 제1 검색 윈도우와 제1 후속 차선 포인트와 구별하기 위한 것으로, 제2 검색 윈도우와 제2 후속 차선 포인트는 제1 검색 윈도우 이후의 모든 검색 윈도우와 제1 후속 차선 포인트 이후의 모든 차선 포인트를 포함하는 개념일 수 있다.

즉, 본 발명의 일 실시 예에 따른 후속 차선 포인트 검출부(16-2)는 상술한 제2 검색 윈도우의 설정, 제2 후속 차선 포인트 검출 과정을 반복하여, 복수의 제2 검색 윈도우(3403-1,3403-2,,..340N-1,340N-2)를 설정하고, 복수의 제2 후속 차선 포인트(V₃ ^L, V₃ ^R ,.. V_N ^L , V_N ^R )를 검출할 수 있다.

한편, 에지 이미지에 적용되는 검색 윈도우와 에지 직선 처리 이미지에 적용되는 검색 윈도우는 동일한 사이즈이고 각각의 이미지에서 동일한 위치에 배치되는 검색 윈도우일 수 있다.

또한, 상술한 검색 윈도우는 기 설정된 크기일 수 있고, 차선 포인트 검출부(16)는 기 설정된 크기의 검색 윈도우를 적용하여 차선 포인트를 검출할 수 있다. 일 예로, 도 8과 같이, 검색 윈도우의 사이즈는 가로 5 픽셀 및 세로 5 픽셀로 기 설정될 수 있다.

다만, 이에 한정되는 것은 아니고, 본 발명의 일 실시 예에 따른 차선 포인트 검출부(16)의 검색 윈도우의 사이즈는 적응적으로 변경하여 차선 포인트를 검출할 수 있다. 일 예로, 본 발명의 일 실시 예에 따른 차선 포인트 검출부(16)는 직선 성분 검출부(15)에서 생성된 에지 직선 처리 이미지의 직선 성분의 기울기에 따라 검색 윈도우의 사이즈를 적응적으로 가변 처리할 수 있다.

즉, 커브 구간에서는 커브 곡률 반경이 작아질수록 커브의 위험도가 커지고 커브 차선에 대응되는 직선 성분의 기울기는 작아질 수 있다. 따라서, 차선 포인트 검출부(16)는 직선 성분의 기울기가 작아질수록 검색 윈도우의 행 사이즈를 더 키워 좌우측으로 더 넓은 영역을 검색 가능하도록 할 수 있다.

한편, 본 발명에 따르면, 후속 차선 포인트 결정부(16-2)는 제1 검색 윈도우 및 제2 검색 윈도우의 중간 행에서만 기 설정된 조건을 만족하는 포인트를 검출할 수 있다. 즉, 본 발명에 따르면, 검색 윈도우의 모든 픽셀에 대하여 ACM 을 계산하지 않고, 검색 윈도우의 중간 행의 픽셀에서만 기 설정된 조건을 만족하는 포인트를 검출함으로써, 연산 처리 속도를 높여 저사양 단말에서도 실시간으로 영상 처리가 가능할 수 있다.

도 9는 본 발명의 일 실시 에에 따른 차선 포인트 검출 결과를 나타내는 도면 이다. 도 9을 참조하면, 후속 차선 포인트 검출부(16-2)는 검색 윈도우를 생성하고, 생성된 검색 윈도우를 에지 이미지와 에지 직선 처리 이미지 각각에 적용하며, 상기 적용된 검색 윈도우 안에서 기 설정된 조건을 만족하는 후속 차선 포인트를 모두 검출할 수 있다.

한편, 차선 포인트 근사화부(17)는 검출된 차선 포인트들이 이루는 곡선 방정식을 산출하고, 산출된 곡선 방정식을 기초로 상기 차선 포인트를 곡선으로 근사화(fitting)할 수 있다.

즉, 차선 포인트 검출부(16)에서 검출된 차선 포인트들을 그대로 연결하면 이는 실제 곡선과는 그 형상이 상이할 수 있다. 따라서, 본 발명에 따른 차선 포인트 근사화부(17)는 아래의 수학식 5에 기재된 2차 방정식의 a, b, c 계수를 산출하여 곡선 방정식을 산출하고, 산출된 곡선 방정식에 검출된 모든 차선 포인트를 적용하여 차선 포인트를 곡선으로 근사화할 수 있다.

차선 검출부(18)는 차선 포인트 검출부(16)에서 검출된 차선 포인트를 기초로 차선을 검출할 수 있다. 구체적으로, 차선 검출부(18)는 탑 뷰 영상에서 검출된 차선 포인트들을 획득된 주행 영상의 시점((여기서, 주행 영상은 전방 뷰 영상임)으로 변환함으로써 탑 뷰 영상의 차선 포인트들에 대응되는 전방 뷰 영상의 차선 포인트들을 검출할 수 있다. 여기서, 탑 뷰 영상에서 검출된 차선 포인트들은 차선 포인트 검출부(16)에서 검출된 차선 포인트들 또는 차선 포인트 근사화부(17)에서 곡선 근사화된 차선 포인트들일 수 있다. 그리고, 탑 뷰 영상 시점으로부터 전방 뷰 영상 시점으로의 변환은 영상 시점 변환부(12)의 변환 행렬을 이용하여 수행될 수 있다.

그리고, 차선 검출부(18)는 전방 뷰 영상의 차선 포인트들로부터 차선을 검출할 수 있다.

이러한 차선 검출부(18)의 동작에 대해서는 도 10을 참조하여 보다 구체적으로 설명하기로 한다.

도 10은 본 발명의 일 실시 예에 따른 탑 뷰 영상을 이용하여 전방 뷰 영상에서 차선을 검출 과정을 설명하기 위한 도면 이다. 도 10을 참조하면, 영상 시점 변환부(12)는 전방 뷰 영상로부터 도 10(a)와 같은 탑 뷰 영상을 생성할 수 있다. 그리고, 차선 포인트 검출부(16)는 탑 뷰 영상을 이용하여 도 10(b)와 같이 모든 차선 포인트를 검출할 수 있다.

한편, 모든 차선 포인트가 검출되면, 차선 검출부(18)는, 도 10(c)와 같이, 탑 뷰 영상에서 검출된 차선 포인트들을 전방 뷰 영상 시점으로 변환함으로써 탑 뷰 영상의 차선 포인트들에 대응되는 전방 뷰 영상의 차선 포인트들을 검출할 수 있다. 그리고, 차선 검출부(18)는 전방 뷰 영상의 좌측 및 우측 차선 포인트들로부터 차선(3501, 3502)을 검출할 수 있다.

이하에서는, 도 11 내지 13을 참조하여 본 발명의 일 실시 예에 따른 차선 검출 방법을 보다 구체적으로 설명하기로 한다.

도 11은 본 발명의 일 실시 예에 따른 차선 검출 방법을 나타내는 흐름도 이다. 도 11을 참조하면, 차선 검출 장치는 주행 중인 차량의 촬영 장치에서 촬영된 주행 영상을 획득할 수 있다(S101).

그리고, 차선 검출 장치는 획득된 주행 영상에서 차선에 대응되는 에지(edge)를 검출하고, 검출된 에지를 기초로 에지 이미지를 생성할 수 있다(S102).

그리고, 차선 검출 장치는 검출된 에지를 기초로 직선 성분을 검출하고, 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성할 수 있다(S103).

그리고, 차선 검출 장치는 생성된 에지 이미지와 에지 직선 처리 이미지를 이용하여 차선에 대응되는 차선 포인트를 검출할 수 있다(S104).

그리고, 차선 검출 장치는 검출된 차선 포인트를 기초로 차선을 검출할 수 있다(S105).

도 12는 본 발명의 일 실시 예에 따른 차선 검출 방법을 보다 구체적으로 나타내는 흐름도 이다. 도 12를 참조하면, 차선 검출 장치는 주행 중인 차량의 촬영 장치에서 촬영된 주행 영상을 획득할 수 있다(S201).

그리고, 차선 검출 장치는 획득된 주행 영상에 대응되는 전방 뷰 영상의 시점을 변환하여 탑 뷰(Top View) 영상을 생성할 수 있다(S202).

그리고, 차선 검출 장치는 탑 뷰 영상을 차량으로부터의 거리에 따라 제1 영역과 제2 영역으로 분할할 수 있다(S203).

그리고, 차선 검출 장치는 탑 뷰 영상에서 차선에 대응되는 에지를 검출하고, 검출된 에지를 기초로 에지 이미지를 생성할 수 있다(S204).

그리고, 차선 검출 장치는 분할된 제1 영역에 대응되는 제1 에지 이미지 및 제2 영역에 대응되는 제2 에지 이미지 각각에서 직선 성분을 검출하고, 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성할 수 있다(S205).

그리고, 차선 검출 장치는 생성된 에지 이미지와 에지 직선 처리 이미지 중 적어도 하나를 이용하여 초기 차선 포인트를 검출할 수 있다(S206).

그리고, 차선 검출 장치는 검색 윈도우를 생성하고, 생성된 검색 윈도우를 에지 이미지와 에지 직선 처리 이미지 각각에 적용하며, 적용된 검색 윈도우 안에서 기 설정된 조건을 만족하는 후속 차선 포인트를 검출할 수 있다(S207).

그리고, 차선 검출 장치는 검출된 차선 포인트를 기초로 차선을 검출할 수 있다(S208).

도 13은 본 발명의 일 실시 예에 따른 차선 포인트 검출 단계(S206, S207)를 보다 구체적으로 나타내는 흐름도 이다. 도 13을 참조하면, 먼저 차선 검출 장치는 에지 이미지 또는 에지 직선 처리 이미지의 하단에서 밝기값이 최대가 되는 초기 차선 포인트를 검출할 수 있다(S301).

그리고, 차선 검출 장치는 검출된 초기 차선 포인트를 기초로 제1 검색 윈도우를 생성할 수 있다(S302).

그리고, 차선 검출 장치는 생성된 제1 검색 윈도우를 에지 이미지와 에지 직선 처리 이미지 각각에 적용하여 기 설정된 조건을 만족하는 포인트를 제1 후속 차선 포인트로 결정할 수 있다(S303).

그리고, 차선 검출 장치는 제1 후속 차선 포인트가 제1 검색 윈도우에서 위치하는 열을 중심 열로 하는 제2 검색 윈도우를 생성할 수 있다(S304).

그리고, 차선 검출 장치는 생성된 제2 검색 윈도우를 제1 검색 윈도우의 상부에 배치하고 에지 이미지와 에지 직선 처리 이미지 각각에 적용하여 기 설정된 조건을 만족하는 제2 후속 차선 포인트를 결정할 수 있다(S305).

여기서, 기 설정된 조건은 ACM(Active Contour Model)의 에너지값을 최소화하는 차선 포인트일 수 있다. 구체적으로, S305 단계는 이전 차선 포인트들 간의 평균 거리와 현재 차선 포인트와 이전 차선 포인트 간의 거리를 이용하여 내부 에너지값을 산출하는 단계 및 에지 이미지와 에지 직선 처리 이미지 각각에서 검출된 차선 포인트들의 밝기값을 이용하여 외부 에너지값을 산출하는 단계를 포함할 수 있다.

한편, 본 발명에 따른 차선 검출 장치는 S304 단계 및 S305 단계를 에지 이미지와 에지 직선 처리 이미지의 상단까지 반복 수행하여 모든 차선 포인트를 검출할 수 있다.

또한, 상술한 차선 포인트 검출 시, 좌측 차선에 대응되는 차선 포인트와 우측 차선에 대응되는 차선 포인트를 각각 검출할 수 있다.

또한, 차선 검출 장치는 검색 윈도우의 중간 행에서만 기 설정된 조건을 만족하는 포인트를 검출할 수 있다.

또한, 검색 윈도우의 행 사이즈는 직선 성분의 기울기에 따라 적응적으로 변화될 수 있다.

도 14는 본 발명의 일 실시 예에 따른 차선 검출 단계(S208)를 보다 구체적으로 나타내는 흐름도 이다. 도 14를 참조하면, 차선 검출 장치는 검출된 차선 포인트들이 이루는 곡선 방정식을 산출할 수 있다(S401).

그리고, 차선 검출 장치는 산출된 곡선 방정식을 기초로 검출된 차선 포인트를 곡선으로 근사화할 수 있다(S402).

그리고, 차선 검출 장치는 탑 뷰 영상에서 검출된 차선 포인트들을 전방 뷰 영상의 시점으로 변환할 수 있다(S403).

그리고, 차선 검출 장치는 상기 변환에 따라 전방 뷰 영상의 차선 포인트들을 검출할 수 있다(S404).

그리고, 차선 검출 장치는 검출된 주행 영상의 차선 포인트들을 기초로 차선을 검출할 수 있다(S405).

한편, 이러한 차선 검출 장치(10)는 운전자의 운전을 보조하기 위한 각종 안내 정보를 출력하는 전자 장치의 일 모듈로 구현되어 경로 안내 기능을 수행할 수 있다. 이에 대해서는 도 15 내지 22을 참조하여 보다 구체적으로 설명하기로 한다.

도 15는 본 발명의 일 실시 예에 따른 전자 장치를 나타내는 블록도 이다. 도 15를 참조하면, 전자 장치(100)는 저장부(110), 입력부(120), 출력부(130), 차선 검출부(140), 증강 현실 제공부(160), 제어부(170), 통신부(180), 센싱부(190), 전원부(195)의 전부 또는 일부를 포함한다.

여기서, 전자 장치(100)는 차량의 운전자에게 운전 관련 안내를 제공할 수 있는 스마트 폰, 태블릿 컴퓨터, 노트북 컴퓨터, PDA(personal digital assistant), PMP(portable multimedia player), 스마트 글래스, 프로젝트 글래스, 내비게이션(navigation), 차량용 영상 촬영 장치인 Car dash cam 또는 Car video recorder 등과 같은 다양한 장치로 구현될 수 있고, 차량에 구비될 수 있다.

운전 관련 안내는 경로 안내, 차선 이탈 안내, 차로 유지 안내, 전방 차량 출발 안내, 신호등 변경 안내, 전방 차량 추돌 방지 안내, 차로 변경 안내, 차로 안내, 커브 안내 등과 같이 차량 운전자의 운전을 보조하기 위한 다양한 안내를 포함할 수 있다.

여기서, 경로 안내는 운행 중인 차량의 전방을 촬영한 영상에 사용자의 위치, 방향 등과 같은 각종 정보를 결합하여 경로 안내를 수행하는 증강 현실 경로 안내, 2D(2-Dimensional) 또는 3D(3-Dimensional)의 지도 데이터에 사용자의 위치, 방향 등과 같은 각종 정보를 결합하여 경로 안내를 수행하는 2D(2-Dimensional) 또는 3D(3-Dimensional) 경로 안내를 포함할 수 있다.

뿐만 아니라, 경로 안내는 항공 지도 데이터에 사용자의 위치, 방향 등과 같은 각종 정보를 결합하여 경로 안내를 수행하는 항공 지도 경로 안내를 포함할 수 있다. 여기서, 경로 안내는 사용자가 차량에 탑승하여 운전하는 경우뿐만 아니라, 사용자가 걷거나 뛰어서 이동하는 경우의 경로 안내도 포함하는 개념으로 해석될 수 있다.

또한, 차선 이탈 안내는 주행 중인 차량이 차선을 이탈하였는지 여부를 안내하는 것일 수 있다.

또한, 차로 유지 안내는 차량이 본래 주행 중인 차로로 복귀하도록 안내하는 것일 수 있다.

또한, 전방 차량 출발 안내는 정차 중인 차량의 전방에 위치한 차량의 출발 여부를 안내하는 것일 수 있다.

또한, 신호등 변경 안내는 정차 중인 차량의 전방에 위치한 신호등의 신호 변경 여부를 안내하는 것일 수 있다. 일 예로, 정지 신호를 나타내는 빨간 신호등이 켜진 상태에서 출발 신호를 나타내는 파란 신호등으로 변경되면, 이를 안내하는 것 일 수 있다.

또한, 전방 차량 추돌 방지 안내는 정차 또는 주행 중인 차량의 전방에 위치한 차량과의 거리가 일정 거리 이내가 되면 전방 차량과 추돌을 방지하기 위해 이를 안내하는 것일 수 있다.

또한, 차로 변경 안내는 목적지까지의 경로 안내를 위하여 차량이 위치한 차로에서 다른 차로로 변경을 안내하는 것일 수 있다.

또한, 차로 안내는 현재 차량이 위치한 차로를 안내하는 것일 수 있다.

또한, 커브 안내는 소정 시간 이후에 차량이 주행할 도로가 커브임을 안내하는 것일 수 있다.

이러한, 다양한 안내의 제공을 가능하게 하는 차량의 전방 영상과 같은 운전 관련 영상은 차량에 거치된 카메라 또는 스마트 폰의 카메라에서 촬영될 수 있다. 여기서 카메라는 차량에 거치된 전자 장치(100)과 일체로 형성되어 차량의 전방을 촬영하는 카메라일 수 있다.

다른 예로, 카메라는 전자 장치(100)과 별개로 차량에 거치되어 차량의 전방을 촬영하는 카메라일 수 있다. 이 경우, 카메라는 차량의 전방을 향하여 거치된 별도의 차량용 영상 촬영 장치일 수 있고, 전자 장치(100)는 별도로 거치된 차량용 영상 촬영 장치와 유/무선 통신을 통하여 촬영 영상을 입력 받거나, 차량용 영상 촬영 장치의 촬영 영상을 저장하는 저장 매체가 전자 장치(100)에 삽입되면, 전자 장치(100)은 촬영 영상을 입력 받을 수 있다.

이하에서는, 상술한 내용을 기초로 본 발명의 일 실시 예에 따른 전자 장치(100)에 대해서 보다 구체적으로 설명하기로 한다.

저장부(110)는 전자 장치(100)의 동작에 필요한 다양한 데이터 및 어플리케이션을 저장하는 기능을 한다. 특히 저장부(110)는 전자 장치(100)의 동작에 필요한 데이터, 예를 들어 OS, 경로 탐색 어플리케이션, 지도 데이터 등을 저장할 수 있다. 또한 저장부(110)는 전자 장치(100)의 동작에 의하여 생성된 데이터, 예를 들어 탐색된 경로 데이터, 수신한 영상 등을 저장할 수 있다.

이러한 저장부(110)는 RAM(Random Access Memory), 플레시메모리, ROM(Read Only Memory), EPROM(Erasable Programmable ROM), EEPROM(Electronically Erasable and Programmable ROM), 레지스터, 하드디스크, 리무버블 디스크, 메모리 카드, USIM(Universal Subscriber Identity Module)등과 같은 내장된 형태의 저장소자는 물론, USB 메모리 등과 같은 착탈 가능한 형태의 저장소자로 구현될 수도 있다.

입력부(120)는 전자 장치(100)의 외부로부터의 물리적 입력을 특정한 전기 신호로 변환하는 기능을 한다. 여기서, 입력부(120)는 사용자 입력부(121)와 마이크부(123)의 전부 또는 일부를 포함할 수 있다.

사용자 입력부(121)는 터치, 푸쉬동작 등과 같은 사용자 입력을 수신할 수 있다. 여기서 사용자 입력부(121)는 다양한 버튼의 형태, 터치 입력을 수신하는 터치 센서, 접근하는 모션을 수신하는 근접 센서 중 적어도 하나를 이용하여 구현될 수 있다.

마이크부(123)는 사용자의 음성 및 차량의 내외부에서 발생한 음향을 수신할 수 있다.

출력부(130)는 전자 장치(100)의 데이터를 사용자에게 영상 및/또는 음성으로 출력하는 장치이다. 여기서, 출력부(130)는 디스플레이부(131)와 오디오 출력부(133)의 전부 또는 일부를 포함할 수 있다.

디스플레이부(131)는 사용자에게 시각적으로 인식될 수 있는 데이터를 출력하는 장치이다. 디스플레이부(131)는 전자 장치(100)의 하우징 전면(前面)에 마련된 디스플레이부로 구현될 수 있다. 또한, 디스플레이부(131)는 전자 장치(100)과 일체로 형성되어 시각적 인식 데이터를 출력할 수 있고, HUD(Head Up Display)와 같이 시스템(100)과 별개로 설치되어 시각적 인식 데이터를 출력할 수도 있다.

오디오 출력부(133)는 전자 장치(100)가 청각적으로 인식될 수 있는 데이터를 출력하는 장치이다. 오디오 출력부(133)는 전자 장치(100)의 사용자에게 알려야 할 데이터를 소리를 표현하는 스피커로 구현될 수 있다.

차선 검출부(140)는 상술한 차선 검출 장치(10)의 기능을 수행할 수 있다.

증강 현실 제공부(160)는 증강 현실 뷰 모드를 제공할 수 있다. 여기서, 증강 현실이란 사용자가 실제로 보고 있는 현실 세계를 담고 있는 화면에 부가 정보(예를 들면, 관심 지점(Point Of Interest: POI)을 나타내는 그래픽 요소, 전방 차량 충돌 위험성을 안내하는 그래픽 요소, 차량 간 거리를 나타내는 그래픽 요소, 커브를 안내하는 그래픽 요소, 운전자의 안전 운전을 돕기 위한 다양한 부가 정보 등)를 시각적으로 중첩하여 제공하는 방법일 수 있다.

이러한 증강 현실 제공부(160)는 캘리브레이션부, 3D 공간 생성부, 객체 생성부, 매핑부의 전부 또는 일부를 포함할 수 있다.

캘리브레이션부는 카메라에서 촬영된 촬영 영상으로부터 카메라에 해당되는 카메라 파라미터를 추정하기 위한 캘리브레이션(Calibration)을 수행할 수 있다. 여기서, 카메라 파라미터는 실사 공간이 사진에 맺히는 관계를 나타내는 정보인 카메라 행렬을 구성하는 파라미터로, 카메라 외부 파라미터(extrinsic parameters), 카메라 내부 파라미터(intrinsic parameters)를 포함할 수 있다.

3D 공간 생성부는 카메라에서 촬영된 촬영 영상을 기초로 가상 3D 공간을 생성할 수 있다. 구체적으로, 3D 공간 생성부는 캘리브레이션부가 추정한 카메라 파라미터를 2D의 촬영 영상에 적용하여 가상 3D 공간을 생성할 수 있다.

객체 생성부는 증강 현실 상에서 안내를 위한 객체, 예를 들어, 전방 차량 추돌 방지 안내 객체, 경로 안내 객체, 차로 변경 안내 객체, 차선 이탈 안내 객체, 커브 안내 객체 등을 생성할 수 있다. 이 경우, 객체 생성부는 차선 검출부(140)에서 검출된 차선을 기초로 증강 현실 상에서 안내를 위한 복수의 객체를 차선을 기초로 생성할 수 있다.

구체적으로, 객체 생성부는 차선 검출부(140)에서 검출된 차선을 기초로 목적지까지의 경로 안내를 위한 경로 안내 객체를 생성할 수 있다. 이에 대해서는 도 16을 참조하여 보다 구체적으로 설명하기로 한다.

도 16은 본 발명의 일 실시 예에 따른 경로 안내 객체 생성 방법을 설명하기 위한 도면 이다. 도 16을 참조하면, 객체 생성부는 차선 검출부(140)에서 검출된 좌측 차선(3601)을 구성하는 복수의 포인트들을 검출할 수 있다. 또한, 객체 생성부는 차선 검출부(140)에서 검출된 우측 차선(3602)을 구성하는 복수의 포인트들을 검출할 수 있다. 여기서, 검출된 복수의 포인트들은 차선 포인트 검출부(16)에서 탑 뷰 영상에서 검출된 차선 포인트들이 이루는 곡선 방정식을 산출하고, 산출된 곡선 방정식을 기초로 검출된 차선 포인트들을 곡선으로 근사화하며, 근사화된 차선 포인트들을 전방 뷰 영상의 시점으로 변환하여 전방 뷰 영상에 매칭시킨 차선 포인트일 수 있다.

그리고, 객체 생성부는 좌측 차선(3601)의 포인트들과 우측 차선(3602)의 포인트들의 중간에 위치한 가상의 포인트들을 결정하고, 가상의 포인트들을 연결한 가상 안내선(3603)을 생성할 수 있다. 이 경우, 객체 생성부는 가상의 포인트들이 이루는 곡선 방정식을 산출하고, 산출된 곡선 방정식을 기초로 검출된 차선 포인트들을 곡선으로 근사화시켜 상기 가상 안내선(3603)을 생성할 수 있다.

그리고, 객체 생성부는 가상 안내선(3603)에 중심을 갖는 경로 안내 객체(3604)를 생성할 수 있다. 일 예로, 생성된 경로 안내 객체(3604)는 화살표 형상으로, 화살표는 차량이 주행해야 하는 경로를 가르킬 수 있다.

다만, 이는 본 발명의 일 실시 예일 뿐, 본 발명의 경로 안내 객체는 이에 한정되는 것은 아니다. 본 발명의 다른 실시 예에 따르면, 객체 생성부는 가상 안내선(3603)의 산출 없이, 검출된 좌측 차선(3601)을 구성하는 복수의 포인트들과 검출된 우측 차선(3602)을 구성하는 복수의 포인트들만을 이용하여 좌측 차선과 우측 차선 내에서 차량이 주행해야 하는 차로에 배치되는 경로 안내 객체를 생성할 수도 있다.

또한, 객체 생성부는 차선 검출부(140)에서 검출된 차선을 기초로 차선 이탈 안내 객체를 생성할 수 있다. 구체적으로, 주행 중인 차량이 차선을 이탈하는 경우, 객체 생성부는 차량이 이탈한 차선에 배치되는 차선 이탈 안내 객체를 차선 검출부(140)에서 검출한 차선을 이용하여 생성할 수 있다. 즉, 객체 생성부에서 생성된 차선 이탈 안내 객체는 차선 검출부(140)에서 검출된 차선과 동일한 형상(즉, 차선 검출부(140)에서 곡선 근사화(fitting)한 차선)으로 생성될 수 있다.

한편, 통신부(180)는 전자 장치(100)가 다른 디바이스와 통신하기 위하여 마련될 수 있다. 통신부(180)는 위치 데이터부(181), 무선 인터넷부(183), 방송 송수신부(185), 이동 통신부(186), 근거리 통신부(187), 유선 통신부(189)의 전부 또는 일부를 포함할 수 있다.

위치 데이터부(181)는 GNSS(Global Navigation Satellite System)를 통하여 위치 데이터를 획득하는 장치이다. GNSS는 인공위성으로부터 수신한 전파신호를 이용하여 수신 단말기의 위치를 산출할 수 있는 항법 시스템을 의미한다. GNSS의 구체적인 예로는, 그 운영 주체에 따라서 GPS(Global Positioning System), Galileo, GLONASS(Global Orbiting Navigational Satellite System), COMPASS, IRNSS(Indian Regional Navigational Satellite System), QZSS(Quasi-Zenith Satellite System) 등 일 수 있다. 본 발명의 일 실시 예에 따른 시스템의 위치 데이터부(181)는 전자 장치(100)가 사용되는 지역에서 서비스하는 GNSS 신호를 수신하여 위치 데이터를 획득할 수 있다. 또는, 위치 데이터부(181)는 GNSS 외에도 기지국 또는 AP(Access Point)와의 통신을 통해 위치 데이터를 획득할 수도 있다.

무선 인터넷부(183)는 무선 인터넷에 접속하여 데이터를 획득하거나 송신하는 장치이다. 무선 인터넷부(183)는 WLAN(Wireless LAN), Wibro(Wireless broadband), Wimax(World interoperability for microwave access), HSDPA(High Speed Downlink Packet Access)의 무선 데이터 송수신을 수행하도록 정의된 다양한 통신 프로토콜을 통해 인터넷 망에 접속할 수 있다.

방송 송수신부(185)는 각종 방송 시스템을 통하여 방송 신호를 송수신하는 장치이다. 방송 송수신부(185)를 통하여 송수신할 수 있는 방송 시스템은 DMBT(Digital Multimedia Broadcasting Terrestrial), DMBS(Digital Multimedia Broadcasting Satellite), MediaFLO(Media Forward Link Only), DVBH(Digital Video Broadcast Handheld), ISDBT(Integrated Services Digital Broadcast Terrestrial) 등일 수 있다. 방송 송수신부(185)를 통하여 송수신되는 방송 신호에는 교통 데이터, 생활 데이터 등을 포함할 수 있다.

이동 통신부(186)는 3G(3rd Generation), 3GPP(3rd Generation Partnership Project), LTE(Long Term Evolution) 등과 같은 다양한 이동 통신 규격에 따라 이동 통신망에 접속하여 음성 및 데이터 통신할 수 있다.

근거리 통신부(187)는 근거리 통신을 위한 장치이다. 근거리 통신부(187)는, 전술한 바와 같이, 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, Infrared Data Association), UWB(Ultra WideBand), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity) 등을 통하여 통신할 수 있다.

유선 통신부(189)는 전자 장치(100)를 다른 디바이스와 유선으로 연결할 수 있는 인터페이스 장치이다. 유선 통신부(189)는, USB Port를 통하여 통신할 수 있는 USB 모듈일 수 있다.

이러한, 통신부(180)는 위치 데이터부(181)와, 무선 인터넷부(183)와, 방송 송수신부(185), 이동 통신부(186), 근거리 통신부(187), 유선 통신부(189) 중 적어도 하나를 이용하여 다른 디바이스와 통신할 수 있다.

일 예로, 전자 장치(100)가 카메라 기능을 포함하지 않는 경우, Car dash cam이나 Car video recorder와 같은 차량용 영상 촬영 장치에서 촬영된 영상을 근거리 통신부(187), 유선 통신부(189) 중 적어도 하나를 이용하여 수신할 수 있다.

다른 예로, 복수의 디바이스와 통신하는 경우에 어느 하나는 근거리 통신부(187)로 통신하고, 다른 하나는 유선 통신부(119)를 통하여 통신하는 경우도 가능하다.

센싱부(190)는 전자 장치(100)의 현재 상태를 감지할 수 있는 장치이다. 센싱부(190)는 모션 센싱부(191)와 광 센싱부(193)의 전부 또는 일부를 포함할 수 있다.

모션 센싱부(191)는 전자 장치(100)의 3차원 공간 상에서의 운동을 감지할 수 있다. 모션 센싱부(191)은 3축 지자기 센서 및 3축 가속도 센서를 포함할 수 있다. 모션 센싱부(191)을 통하여 획득한 운동 데이터를 위치 데이터부(181)를 통하여 획득한 위치 데이터와 결합하여, 전자 장치(100)를 부착한 차량의 궤적을 보다 정확하게 산출할 수 있다.

광 센싱부(193)는 시스템(100)의 주변 조도(illuminance)를 측정하는 장치이다. 광 센싱부(193)를 통하여 획득한 조도데이터를 이용하여, 디스플레이부(131)의 밝기를 주변 밝기에 대응되도록 변화시킬 수 있다.

전원부(195)는 전자 장치(100)의 동작 또는 전자 장치(100)과 연결된 다른 디바이스의 동작을 위하여 필요한 전원을 공급하는 장치이다. 전원부(195)는 전자 장치(100)에 내장된 배터리 또는 차량 등의 외부 전원에서 전원을 공급받는 장치일 수 있다. 또한, 전원부(195)는 전원을 공급받는 형태에 따라서 유선 통신 모듈(119)로 구현되거나, 무선으로 공급받는 장치로 구현될 수도 있다.

제어부(170)는 전자 장치(100)의 전반적인 동작을 제어한다. 구체적으로 제어부(170)는 저장부(110), 입력부(120), 출력부(130), 차선 검출부(140), 증강 현실 제공부(160), 통신부(180), 센싱부(190), 전원부(195)의 전부 또는 일부를 제어할 수 있다.

도 17은 본 발명의 일 실시 예에 따른 전자 장치와 연결된 시스템 네트워크를 설명하기 위한 도면이다. 도 17을 참조하면, 본 발명의 일 실시 예에 따른 전자 장치(100)는 내비게이션, 차량용 영상 촬영 장치, 스마트 폰 또는 기타 차량용 증강 현실 인터페이스 제공 장치 등과 같은 차량에 구비되는 각종 장치로 구현될 수 있으며, 다양한 통신망 및 다른 전자 디바이스(61 내지 64)와 접속할 수 있다.

또한, 전자 장치(100)는 인공위성(70)으로부터 수신한 전파신호에 따라 GPS모듈을 연동하여 현재의 위치 및 현재 시간대를 산출할 수 있다.

각각의 인공위성(70)은 주파수 대역이 상이한 L밴드 주파수를 송신할 수 있다. 시스템(100)은 각각의 인공위성(70)에서 송신된 L밴드 주파수가 전자 장치(100)에 도달하기까지 소요된 시간에 기초하여 현재 위치를 산출할 수 있다.

한편, 전자 장치(100)는 통신부(180)을 통하여 제어국(80, ACR), 기지국(85, RAS), AP(Access Point) 등을 통하여 네트워크(90)에 무선으로 접속할 수 있다. 네트워크(90)에 전자 장치(100)가 접속하면, 네트워크(90)에 접속한 다른 전자 디바이스(61, 62)와도 간접적으로 접속하여 데이터를 교환할 수 있다.

한편, 전자 장치(100)는 통신 기능을 가진 다른 디바이스(63)를 통하여 간접적으로 네트워크(90)에 접속할 수도 있다. 예를 들어, 네트워크(90)에 접속할 수 있는 모듈이 전자 장치(100)에 구비되지 않은 경우에, 근거리 통신 모듈 등을 통하여 통신 기능을 가진 다른 디바이스(63)와 통신할 수 있다.

도 18 은 본 발명의 일 실시 예에 따른 경로 안내 객체를 표시하는 증강 현실 안내 화면을 나타내는 도면 이다. 도 18을 참조하면, 증강 현실 제공부(160)는 차량의 현재 위치로부터 목적지까지의 경로를 안내하는 경로 안내 객체(3701,3702,3703)를 생성하고, 생성된 경로 안내 객체(3701,3702,3703)를 차선 검출부(140)에서 검출된 차선을 기초로 촬영된 주행 영상의 차로에 표시하는 증강 현실 이미지를 생성하여 화면에 표시할 수 있다.

즉, 디스플레이부(131)는 차선 검출부(140)에서 검출된 양 차선의 중심에 위치한 가상 안내선에 중심을 갖고 차량이 주행해야 하는 경로를 가르키는 화살표 형상의 제1 경로 안내 객체(3701)를 증강 현실 이미지에 표시할 수 있다. 여기서, 가상 안내선은 좌측 차선의 포인트들과 우측 차선의 포인트들의 중간에 위치한 가상의 포인트들을 연결한 가상의 안내선일 수 있다.

그리고, 디스플레이부(131)는 제1 경로 안내 객체(3701)의 좌측과 우측에 각각 제2 경로 안내 객체(3702)와 제3 경로 안내 객체(3703)를 표시할 수 있고, 제2 경로 안내 객체(3702)와 제3 경로 안내 객체(3703) 각각은 차선 검출부(140)에서 검출된 좌우측 차선을 이탈하지 않는 차량의 주행 차로에 표시할 수 있다. 여기서, 제2 경로 안내 객체(3702)와 제3 경로 안내 객체(3703)는 차량의 주행 차로에서만 표시되는 카펫 형상의 차로 식별 객체일 수 있다.

또한, 본 발명의 일 실시 예에 따른 증강 현실 이미지는 차량의 위치를 지도에 표시하는 영역(3704)을 포함할 수 있다. 그리고, 본 발명의 일 실시 예에 따른 증강 현실 이미지는 차량의 주행 정보, 예를 들어, 차량의 주행 속도, 차량이 주행 중인 도로의 제한 속도, 현재 시간, 목적지까지의 거리, 남은 시간, 턴 지점에서 차량이 주행해야 할 방향 및 턴 지점까지의 거리를 표시하는 영역(3705)를 더 포함할 수 있다.

도 19는 본 발명의 일 실시 예에 따른 차선 이탈 안내 객체를 표시하는 증강 현실 안내 화면을 나타내는 도면 이다. 도 19를 참조하면, 증강 현실 제공부(160)는 차량의 차선 이탈을 안내하는 차선 이탈 안내 객체(3801)를 생성하고, 생성된 차선 이탈 안내 객체(3801)를 차선 검출부(140)에서 검출된 차선을 기초로 차선에 표시하는 증강 현실 이미지를 생성할 수 있다.

일 예로, 도 19과 같이, 차량이 좌측 차선을 이탈하는 경우, 디스플레이부(131)는 차선 검출부(140)에서 검출된 차선과 동일한 형상(즉, 차선 검출부(140)에서 곡선 근사화(fitting한 차선)을 갖는 좌측 차선 이탈 안내 객체(3801)를 생성하고, 생성된 좌측 차선 이탈 안내 객체(3801)를 차선 검출부(140)에서 검출된 차선의 위에 표시하는 증강 현실 이미지를 표시할 수 있다.

도 20은 본 발명의 일 실시 예에 따른 전자 장치가 촬영부를 구비하지 않는 경우의 구현 형태를 나타내는 도면이다. 도 20을 참조하면, 전자 장치(100)와 별도로 마련된 차량용 영상 촬영 장치(200)가 유선/무선 통신 방식을 이용하여 본 발명의 일 실시 예에 따른 시스템을 구성할 수 있다.

전자 장치(100)는 하우징(191)의 전면에 마련된 디스플레이부(131)와, 사용자 입력부(121)와, 마이크(123)를 포함할 수 있다.

차량용 영상 촬영 장치(200)는 카메라(222)와 마이크(224), 부착부(281)를 포함할 수 있다.

도 21는 본 발명의 일 실시 예에 따른 전자 장치가 촬영부를 구비하는 경우 구현 형태를 나타내는 도면이다. 도 21을 참조하면, 전자 장치(100)가 촬영부(150)를 포함하는 경우, 사용자는 전자 장치(100)의 촬영부(150)가 차량의 전방을 촬영하고, 전자 장치(100)의 디스플레이 부분을 사용자가 인식 할 수 있도록 하는 장치일 수 있다. 이에 따라, 본 발명의 일 실시 예에 따른 시스템을 구현할 수 있다.

도 22는 본 발명의 일 실시 예에 따른 HUD(Head-Up Display)를 이용한 구현 형태를 나타내는 도면이다. 도 22를 참조하면, HUD는 다른 디바이스들과의 유/무선 통신을 통하여 증강 현실 안내 화면을 헤드업 디스플레이 상에서 표시할 수 있다.

일 예로, 증강 현실은 차량 앞유리를 이용한 HUD 또는 별도의 영상 출력 장치를 이용한 영상 오버레이 등을 통해 제공될 수 있으며, 증강 현실 제공부(160)는 이와 같이 현실 영상 또는 유리에 오버레이되는 인터페이스 이미지 등을 생성할 수 있다. 이를 통해 증강 현실 내비게이션 또는 차량 인포테인먼트 시스템 등이 구현될 수 있다.

한편, 차선 검출 장치(10)는 자율 주행을 위한 시스템의 일 모듈로 구현되어 경로 안내 기능을 수행할 수 있다. 이에 대해서는 도 23 내지 24를 참조하여 보다 구체적으로 설명하기로 한다.

도 23을 참조하면, 본 실시예에 따른 자율 주행 차량(2000)은 제어 장치(2100), 센싱모듈(2004a, 2004b, 2004c, 2004d), 엔진(2006), 및 사용자 인터페이스(2008)를 포함할 수 있다.

자율 주행 차량(2000)은 자율 주행 모드 또는 메뉴얼 모드를 구비할 수 있다. 일 예로, 사용자 인터페이스(2008)를 통해 수신된 사용자 입력에 따라 메뉴얼 모드에서 자율 주행 모드로 전환되거나, 자율 주행 모드에서 메뉴얼 모드로 전환될 수 있다.

차량(2000)이 자율 주행 모드로 운행되는 경우 자율 주행 차량(2000)은 제어 장치(2100)의 제어하에 운행될 수 있다.

본 실시예에서 제어 장치(2100)는 메모리(2122)와 프로세서(2124)를 포함하는 컨트롤러(2120), 센서(2110), 통신 장치(2130), 오브젝트 검출 장치(2140)를 포함할 수 있다.

본 실시 예에서, 오브젝트 검출 장치(2140)는 차량(2000) 외부에 위치하는 오브젝트를 검출하기 위한 장치로, 오브젝트 검출 장치(2140)는 차량(2000) 외부에 위치하는 오브젝트를 검출하고, 검출 결과에 따른 오브젝트 정보를 생성할 수 있다.

오브젝트 정보는 오브젝트의 존재 유무에 대한 정보, 오브젝트의 위치 정보, 차량과 오브젝트와의 거리 정보 및 차량과 오브젝트와의 상대 속도 정보를 포함할 수 있다.

오브젝트는, 차선, 타 차량, 보행자, 교통 신호, 빛, 도로, 구조물, 과속 방지턱, 지형물, 동물 등을 차량(2000)의 외부에 위치한 다양한 객체를 포함할 수 있다. 여기서, 교통 신호는 교통 신호등, 교통 표지판, 도로 면에 그려진 문양 또는 텍스트를 포함하는 개념일 수 있다. 그리고, 빛은 타 차량에 구비된 램프에서 생성된 빛이거나 가로등에서 생성된 빛이거나 태양광일 수 있다.

그리고, 구조물은 도로 주변에 위치하고, 지면에 고정된 물체일 수 있다. 예를 들면, 구조물은, 가로등, 가로수, 건물, 전봇대, 신호등, 다리를 포함할 수 있다. 지형물은, 산, 언덕, 등을 포함할 수 있다.

이러한 오브젝트 검출 장치(2140)는 카메라 모듈을 포함할 수 있다. 컨트롤러(2120)는 카메라 모듈에서 촬영되는 외부 이미지로부터 객체 정보를 추출하고 이에 대한 정보를 컨트롤러(2120)가 처리하도록 할 수 있다.

또한, 오브젝트 검출 장치(2140)는 외부 환경을 인식하기 위한 이미징 장치들이 더욱 포함할 수 있다. LIDAR 외에 RADAR, GPS 장치, 주행 거리 측정 장치(Odometry) 및 기타 컴퓨터 비전 장치, 초음파 센서, 적외선 센서 들이 이용될 수 있으며, 이들의 장치는 필요에 따라 선택 또는 동시에 동작하여 보다 정밀한 감지가 가능하도록 한다.

또한, 센서(2110)는 차량 내부/외부 환경을 센싱모듈(2004a, 2004b, 2004c, 2004d)와 연결되어 각종 센싱 정보를 획득할 수 있다. 여기서, 센서(2110)는 자세 센서(예를 들면, 요 센서(yaw sensor), 롤 센서(roll sensor), 피치 센서(pitch sensor), 충돌 센서, 휠 센서(wheel sensor), 속도 센서, 경사 센서, 중량 감지 센서, 헤딩 센서(heading sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 초음파 센서, 조도 센서, 가속 페달 포지션 센서, 브레이크 페달 포지션 센서, 등을 포함할 수 있다.

이에 따라, 센서(2110)는 차량 자세 정보, 차량 충돌 정보, 차량 방향 정보, 차량 위치 정보(GPS 정보), 차량 각도 정보, 차량 속도 정보, 차량 가속도 정보, 차량 기울기 정보, 차량 전진/후진 정보, 배터리 정보, 연료 정보, 타이어 정보, 차량 램프 정보, 차량 내부 온도 정보, 차량 내부 습도 정보, 스티어링 휠 회전 각도, 차량 외부 조도, 가속 페달에 가해지는 압력, 브레이크 페달에 가해지는 압력 등에 대한 센싱 신호를 획득할 수 있다.

또한, 센서(2110)는, 그 외, 가속페달센서, 압력센서, 엔진 회전 속도 센서(engine speed sensor), 공기 유량 센서(AFS), 흡기 온도 센서(ATS), 수온 센서(WTS), 스로틀 위치 센서(TPS), TDC 센서, 크랭크각 센서(CAS), 등을 더 포함할 수 있다.

이와 같이, 센서(2110)는 센싱 데이터를 기초로 차량 상태 정보를 생성할 수 있다.

무선 통신 장치(2130)는 자율 주행 차량(2000) 간의 무선 통신을 구현하기 위해 구성된다. 예를 들어, 사용자의 모바일 폰, 또는 다른 무선 통신 장치(2130), 다른 차량, 중앙 장치(교통 제어 장치), 서버 등과 자율 주행 차량(2000)이 통신할 수 있도록 한다. 무선 통신 장치(2130)는 무선 신호를 접속 무선 프로토콜에 따라 송수신할 수 있다. 무선 통신 프로토콜은 Wi-Fi, Bluetooth, Long-Term Evolution (LTE), Code Division Multiple Access (CDMA), Wideband Code Division Multiple Access (WCDMA), Global Systems for Mobile Communications (GSM)일 수 있으며, 통신 프로토콜은 이에 제한되지 않는다.

또한 본 실시 예에서 자율 주행 차량(2000)은 무선 통신 장치(2130)를 통해 차량 간 통신을 구현하는 것도 가능하다. 즉, 무선 통신 장치(2130)는 차량 대 차량 간(V2V) 통신(vehicle-to-vehicle communication)으로 도로 상의 다른 차량 및 다른 차량들과 통신을 수행할 수 있다. 자율 주행 차량(2000)은 주행 경고, 교통 정보와 같은 정보를 챠량 간 통신으로 통해 송수신할 수 있으며, 다른 차량에게 정보를 요청하거나 요청을 수신하는 것도 가능하다. 예를 들어, 무선 통신 장치(2130)는 V2V 통신을 단 거리 통신(DSRC, dedicated short-range communication) 장치 또는 C-V2V(Cellular-V2V) 장치로 수행할 수 있다. 또한 차량 간의 통신 외에 차량과 다른 사물(예컨대 보행자가 휴대하는 전자 기기 등) 간의 통신(V2X, Vehicle to Everything communication)도 무선 통신 장치(2130)를 통해 구현할 수 있다.

본 실시 예에서 컨트롤러(2120)는 차량(2000) 내의 각 유닛의 전반적인 동작을 제어하는 유닛으로, 차량의 제조사에 의해 제조 시 구성되거나 또는 제조 후에 자율 주행의 기능 수행을 위해 추가 구성될 수 있다. 또는 제조시 구성된 컨트롤러(2120)의 업그레이드를 통해 지속적인 부가 기능 수행을 위한 구성이 포함될 수 있다. 이러한 컨트롤러(2120)는 ECU(Electronic Control Unit)로 명명될 수도 있다.

컨트롤러(2120)는 연결된 센서(2110), 오브젝트 검출 장치(2140), 통신 장치(2130) 등으로부터 각종 데이터를 수집하고, 수집된 데이터를 기반으로 제어 신호를 차량 내 다른 구성들로 포함된 센서(2110), 엔진(2006), 사용자 인터페이스(2008), 통신 장치(2130), 오브젝트 검출 장치(2140)에 전달할 수 있다. 또한, 도시되는 않았으나 차량의 주행과 관련된 가속 장치, 브레이킹 시스템, 조향 장치, 또는 네비게이션 장치에도 제어 신호를 전달할 수 있다.

본 실시예에서, 컨트롤러(2120)는 엔진(2006)을 제어할 수 있으며 예를 들어 자율 주행 차량(2000)이 주행 중인 도로의 제한 속도를 감지하고 주행 속도가 제한 속도를 초과하지 않도록 엔진(2006)을 제어하거나, 제한 속도를 초과하지 않는 범위 내에서 자율 주행 차량(2000)의 주행 속도를 가속하도록 엔진(2006)을 제어할 수 있다.

또한, 컨트롤러(2120)는 자율 주행 차량(2000)의 주행 중 자율 주행 차량(2000)이 차선에 근접하거나 차선을 이탈하고 있다면, 이러한 차선 근접 및 이탈이 정상 주행 상황에 따른 것인지 또는 그 외의 주행 상황에 따른 것인지 판단하며, 판단 결과에 따라 차량의 주행을 제어하도록 엔진(2006)을 제어할 수 있다. 구체적으로, 자율 주행 차량(2000)에는 본 발명의 일 실시 예에 따른 차선 검출 장치(10)가 탑재될 수 있고, 차선 검출 장치(10)는 차량이 주행 중인 차로의 양 측에 형성된 차선을 검출할 수 있다. 이 경우, 컨트롤러(2120)는 자율 주행 차량(2000)이 차선에 근접하거나 차선을 이탈하고 있는지 여부를 판단하고, 만약, 자율 주행 차량(2000)이 차선에 근접하거나 차선을 이탈하고 있다고 판단되면 이러한 주행이 정확한 주행 상황에 따른 것인지 또는 그 외의 주행 상황에 따른 것인지 판단할 수 있다. 여기서, 정상 주행 상황의 예로, 차량의 차로 변경이 필요한 상황일 수 있다. 그리고, 그 외의 주행 상황의 예로, 차량의 차로 변경이 필요하지 않은 상황일 수 있다. 만약, 컨트롤러(2120)는 차량의 차로 변경이 필요하지 않은 상황에서 자율 주행 차량(2000)이 차선에 근접하거나 차선을 이탈하고 있다고 판단되면, 자율 주행 차량(2000)이 차선을 이탈하지 않고 해당 차량에서 정상적으로 주행하도록 자율 주행 차량(2000)의 주행을 제어할 수 있다.

이러한 차선 검출 장치(10)는 자율 주행 차량(2000)의 제어 장치(2100) 내의 일 모듈로 구성될 수 있다. 즉, 제어 장치(2100)의 메모리(2122)와 프로세서(2124)가 본 발명에 따른 차선 검출 방법을 소프트웨어적으로 구현하도록 할 수 있다.

차량의 전방에 다른 차량 또는 방해물이 존재하는 경우에는 주행 차량을 감속하도록 엔진(2006) 또는 브레이킹 시스템을 제어할 수 있으며, 속도 외에도 궤적, 운행 경로, 조향 각을 제어할 수 있다. 또는 컨트롤러(2120)는 차량의 주행 차선, 주행 신호 등 기타 외부 환경의 인식 정보에 따라 필요한 제어 신호를 생성하여 차량의 주행을 제어할 수 있다.

컨트롤러(2120)는 자체적인 제어 신호의 생성 외에 주변 차량 또는 중앙 서버와의 통신을 수행하고 수신된 정보를 통해 주변 장치들을 제어하기 위한 명령을 전송함으로써, 차량의 주행을 제어하는 것도 가능하다.

또한, 컨트롤러(2120)는 카메라 모듈(2150)의 위치가 변경되거나 화각이 변경될 경우, 본 실시예에 따른 정확한 차량 또는 차선 인식이 어려울 수 있으므로, 이를 방지하기 위해 카메라 모듈(2150)의 캘리브레이션(calibration)을 수행하도록 제어하는 제어 신호를 생성할 수도 있다. 따라서, 본 실시예에서는 컨트롤러(2120)는 카메라 모듈(2150)로 캘리브레이션 제어 신호를 발생시킴으로써, 자율주행차량(2000)의 움직임에 따라 발생되는 진동 또는 충격 등에 의해 카메라 모듈(2150)의 장착 위치가 변경되더라도, 카메라 모듈(2150)의 정상적인 장착 위치, 방향, 화각 등을 지속적으로 유지할 수 있다. 컨트롤러(2120)는 미리 저장된 카메라 모듈(2120)의 최초 장착 위치, 방향, 화각 정보와 자율주행차량(2000)의 주행 중에 측정되는 카메라 모듈(2120)의 최초 장착 위치, 방향, 화각 정보 등이 임계 값 이상으로 달라질 경우, 카메라 모듈(2120)의 캘리브레이션을 수행하도록 제어 신호를 발생할 수 있다.

본 실시 예에서 컨트롤러(2120)는 메모리(2122)와 프로세서(2124)를 포함할 수 있다. 프로세서(2124)는 메모리(2122)에 저장된 소프트웨어를 컨트롤러(2120)의 제어 신호에 따라 실행시킬 수 있다. 구체적으로 컨트롤러(2120)는 본 발명에 따른 차선 검출 방법을 수행하기 위한 데이터 및 명령들은 메모리(2122)에 저장하고, 명령들은 여기에 개시된 하나 이상의 방법들을 구현하기 위해 프로세서(2124)에 의해 실행될 수 있다.

이때, 메모리(2122)는 비 휘발성의 프로세서(2124)에서 실행 가능한 기록 매체에 저장될 수 있다. 메모리(2122)는 적절한 내 외부 장치를 통해 소프트웨어와 데이터를 저장할 수 있다. 메모리(2122)는 RAM(random access memory), ROM(read only memory), 하드디스크, 동글과 연결된 메모리(2122) 장치로 구성될 수 있다.

메모리(2122)는 운영체제(OS, Operating system), 사용자 어플리케이션, 실행 가능한 명령들을 적어도 저장할 수 있다. 메모리(2122)는 어플리케이션 데이터, 배열 데이터 구조들도 저장할 수 있다.

프로세서(2124)는 마이크로 프로세서 또는 적절한 전자적 프로세서로 컨트롤러, 마이크로 컨트롤러 또는 스테이트 머신 일 수 있다.

프로세서(2124)는 컴퓨팅 장치들의 조합으로 구현될 수 있으며, 컴퓨팅 장치는 디지털 신호 프로세서, 마이크로프로세서 이거나 이들의 적절한 조합으로 구성될 수 있다.

한편, 자율 주행 차량(2000)은 상술한 제어 장치(2100)에 대한 사용자의 입력을 위한 사용자 인터페이스(2008)를 더 포함할 수 있다. 사용자 인터페이스(2008)는 적절한 상호작용으로 사용자가 정보를 입력하도록 할 수 있다. 예를 들어 터치스크린, 키패드, 조작 버튼 등으로 구현될 수 있다. 사용자 인터페이스(2008)는 입력 또는 명령을 컨트롤러(2120)에 전송하고, 컨트롤러(2120)는 입력 또는 명령에 대한 응답으로 차량의 제어 동작을 수행할 수 있다.

또한, 사용자 인터페이스(2008)는 자율 주행 차량(2000) 외부의 장치로 무선 통신 장치(2130)를 통해 자율 주행 차량(2000)과 통신을 수행하도록 할 수 있다. 예를 들어 사용자 인터페이스(2008)는 모바일 폰, 태블릿, 또는 기타 컴퓨터 장치와 연동 가능하도록 할 수 있다.

나아가, 본 실시예에서 자율 주행 차량(2000)은 엔진(2006)을 포함하는 것으로 설명하였으나, 다른 타입의 추진 시스템을 포함하는 것도 가능하다. 예를 들어 차량은 전기 에너지로 운행될 수 있으며, 수소 에너지 또는 이들을 조합한 하이브리드 시스템을 통해 운행될 수 있다. 따라서 컨트롤러(2120)는 자율 주행 차량(2000)의 추진 시스템에 따른 추진 메커니즘을 포함하고, 이에 따른 제어 신호를 각 추진 메커니즘의 구성들에 제공할 수 있다.

이하, 도 24를 참조하여 본 실시예에 따른 본 발명에 따른 차선 검출 방법을 수행하는 제어 장치(2100)의 세부 구성에 대하여 보다 상세히 설명한다.

제어 장치(2100)는 프로세서(2124)를 포함한다. 프로세서(2124)는 범용 단일 또는 다중 칩 마이크로프로세서, 전용 마이크로프로세서, 마이크로제어기, 프로그램가능 게이트 어레이 등일 수도 있다. 프로세서는 중앙 처리 장치(CPU)로 지칭될 수도 있다. 또한 본 실시예에서 프로세서(2124)는 복수의 프로세서들의 조합으로 사용되는 것도 가능하다.

제어 장치(2100)는 또한 메모리(2122)를 포함한다. 메모리(2122)는 전자 정보를 저장할 수 있는 임의의 전자 컴포넌트일 수도 있다. 메모리(2122) 역시 단일 메모리 외에 메모리(2122)들의 조합을 포함할 수 있다.

본 발명에 따른 차선 검출 방법을 수행하기 위한 데이터 및 명령어(2122a)들은 메모리(2122)에 저장될 수도 있다. 프로세서(2124)가 명령어(2122a)들을 실행할 때, 명령어(2122a)들과 명령의 수행에 필요한 데이터(2122b)의 전부 또는 일부가 프로세서(2124)상으로 로딩(2124a, 2124b)될 수도 있다.

제어 장치(2100)는 신호들의 송신 및 수신을 허용하기 위한 송신기(2130a), 수신기(2130b) 또는 트랜시버(2130c)를 포함할 수도 있다. 하나 이상의 안테나(2132a, 2132b)들은 송신기(2130a), 수신기(2130b) 또는 각 트랜시버(2130c)에 전기적으로 연결될 수도 있으며 추가적으로 안테나들을 포함할 수도 있다.

제어 장치(2100)는 디지털 신호 프로세서(DSP)(2170)를 포함할 수도 있다. DSP(2170)를 통해 디지털 신호를 차량이 빠르게 처리할 수 있도록 할 수 있다.

제어 장치(2100)는 통신 인터페이스(2180)를 포함할 수도 있다. 통신 인터페이스(2180)는 다른 장치들을 제어 장치(2100)와 연결하기 위한 하나 이상의 포트들 및/또는 통신 모듈 들을 포함할 수도 있다. 통신 인터페이스(2180)는 사용자와 제어 장치(2100)가 상호 작용 할 수 있게 할 수 있다.

제어 장치(2100)의 다양한 구성들은 함께 하나 이상의 버스(2190)들에 의해 연결될 수도 있고, 버스(2190)들은 전력 버스, 제어 신호 버스, 상태 신호 버스, 데이터 버스 등을 포함할 수도 있다. 프로세서(2124)의 제어에 따라 구성들은 버스(2190)를 통해 상호 정보를 전달하고 목적하는 기능을 수행하도록 할 수 있다.

한편, 명세서 및 청구범위에서 "제 1", "제 2", "제 3" 및 "제 4" 등의 용어는, 만약 있는 경우, 유사한 구성요소 사이의 구분을 위해 사용되며, 반드시 그렇지는 않지만 특정 순차 또는 발생 순서를 기술하기 위해 사용된다. 그와 같이 사용되는 용어는 여기에 기술된 본 발명의 실시예가, 예컨대, 여기에 도시 또는 설명된 것이 아닌 다른 시퀀스로 동작할 수 있도록 적절한 환경하에서 호환 가능한 것이 이해될 것이다. 마찬가지로, 여기서 방법이 일련의 단계를 포함하는 것으로 기술되는 경우, 여기에 제시된 그러한 단계의 순서는 반드시 그러한 단계가 실행될 수 있는 순서인 것은 아니며, 임의의 기술된 단계는 생략될 수 있고/있거나 여기에 기술되지 않은 임의의 다른 단계가 그 방법에 부가 가능할 것이다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성 요소로 명명될 수 있고, 유사하게 제2 구성 요소도 제1 구성 요소로 명명될 수 있다.

또한 명세서 및 청구범위의 "왼쪽", "오른쪽", "앞", "뒤", "상부", "바닥", "위에", "아래에" 등의 용어는, 설명을 위해 사용되는 것이며, 반드시 불변의 상대적 위치를 기술하기 위한 것은 아니다. 그와 같이 사용되는 용어는 여기에 기술된 본 발명의 실시예가, 예컨대, 여기에 도시 또는 설명된 것이 아닌 다른 방향으로 동작할 수 있도록 적절한 환경하에서 호환 가능한 것이 이해될 것이다. 여기서 사용된 용어 "연결된"은 전기적 또는 비 전기적 방식으로 직접 또는 간접적으로 접속되는 것으로 정의된다. 여기서 서로 "인접하는" 것으로 기술된 대상은, 그 문구가 사용되는 문맥에 대해 적절하게, 서로 물리적으로 접촉하거나, 서로 근접하거나, 서로 동일한 일반적 범위 또는 영역에 있는 것일 수 있다. 여기서 "일실시예에서"라는 문구의 존재는 반드시 그런 것은 아니지만 동일한 실시예를 의미한다.

또한 명세서 및 청구범위에서 '연결된다', '연결하는', '체결된다', '체결하는', '결합된다', '결합하는' 등과 이런 표현의 다양한 변형들의 지칭은 다른 구성요소와 직접적으로 연결되거나 다른 구성요소를 통해 간접적으로 연결되는 것을 포함하는 의미로 사용된다.

반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.

또한, 본 명세서에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로써, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.

또한 본 명세서에서 사용된 용어들은 실시예를 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서 사용되는 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "구성된다" 또는 "포함한다" 등의 용어는 명세서 상에 기재된 여러 구성 요소들, 또는 여러 단계들을 반드시 모두 포함하는 것으로 해석되지 않아야 하며, 그 중 일부 구성 요소들 또는 일부 단계들은 포함되지 않을 수도 있고, 또는 추가적인 구성 요소 또는 단계들을 더 포함할 수 있는 것으로 해석되어야 한다.

이제까지 본 발명에 대하여 그 바람직한 실시예들을 중심으로 살펴보았다. 본 명세서를 통해 개시된 모든 실시예들과 조건부 예시들은, 본 발명의 기술 분야에서 통상의 지식을 가진 당업자가 독자가 본 발명의 원리와 개념을 이해하도록 돕기 위한 의도로 기술된 것으로, 당업자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다.

그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.

한편, 상술한 본 발명의 다양한 실시 예들에 따른 차선 검출 방법은 프로그램으로 구현되어 서버 또는 기기들에 제공될 수 있다. 이에 따라 각 장치들은 프로그램이 저장된 서버 또는 기기에 접속하여, 상기 프로그램을 다운로드 할 수 있다.

또한, 상술한 본 발명의 다양한 실시 예들에 따른 방법은 프로그램으로 구현되어 다양한 비일시적 판독 가능 매체(non-transitory computer readable medium)에 저장되어 제공될 수 있다. 비일시적 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상술한 다양한 어플리케이션 또는 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등과 같은 비일시적 판독 가능 매체에 저장되어 제공될 수 있다.

또한, 이상에서는 본 발명의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.

10 : 차선 검출 장치 11 : 영상 획득부
12 : 영상 시점 변환부 13 : 영상 영역 분할부
14 : 에지 검출부 15 : 직선 성분 검출부
16 : 차선 포인트 검출부 17 : 차선 포인트 근사화부
18 : 차선 검출부 100 : 전자 장치
110 : 저장부 120 : 입력부
130 : 출력부 140 : 차선 검출부
160 : 증강 현실 제공부 170 : 제어부
180 : 통신부 190 : 센싱부
195 : 전원부

Claims

프로세서를 이용한 차선 검출 방법에 있어서,
주행 중인 차량의 촬영 장치에서 촬영된 주행 영상을 획득하는 단계;
상기 획득된 주행 영상에서 차선에 대응되는 에지(edge)를 검출하고, 상기 검출된 에지를 기초로 에지 이미지를 생성하는 단계;
상기 검출된 에지를 기초로 직선 성분을 검출하고, 상기 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성하는 단계;
상기 생성된 에지 이미지와 상기 에지 직선 처리 이미지를 이용하여 상기 차선에 대응되는 차선 포인트를 검출하는 단계; 및
상기 검출된 차선 포인트를 기초로 상기 차선을 검출하는 단계;를 포함하는 차선 검출 방법.
제 1 항에 있어서,
상기 획득된 주행 영상에 대응되는 전방 뷰 영상의 시점을 변환하여 탑 뷰(Top View) 영상을 생성하는 단계;를 더 포함하고,
상기 에지를 검출하는 단계는,
상기 탑 뷰 영상에서 상기 차선에 대응되는 에지를 검출하는 것을 특징으로 하는 차선 검출 방법.
제 2 항에 있어서,
상기 탑 뷰 영상을 상기 차량으로부터의 거리에 따라 제1 영역과 제2 영역으로 분할하는 단계;를 더 포함하고,
상기 에지 직선 처리 이미지를 생성하는 단계는,
상기 분할된 제1 영역에 대응되는 제1 에지 이미지 및 제2 영역에 대응되는 제2 에지 이미지 각각에서 상기 직선 성분을 검출하고, 상기 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성하는 것을 특징으로 하는 차선 검출 방법.
제 1 항에 있어서,
상기 차선 포인트를 검출하는 단계는,
좌측 차선에 대응되는 차선 포인트와 우측 차선에 대응되는 차선 포인트를 각각 검출하는 것을 특징으로 하는 차선 검출 방법.
제 4 항에 있어서,
상기 차선 포인트를 검출하는 단계는,
상기 생성된 에지 이미지와 상기 에지 직선 처리 이미지 중 적어도 하나를 이용하여 초기 차선 포인트를 검출하는 단계;
검색 윈도우를 생성하고, 상기 생성된 검색 윈도우를 상기 생성된 에지 이미지와 상기 에지 직선 처리 이미지 각각에 적용하며, 상기 적용된 검색 윈도우 안에서 기 설정된 조건을 만족하는 후속 차선 포인트를 검출하는 단계;를 포함하는 것을 특징으로 하는 차선 검출 방법.
제 5 항에 있어서,
상기 초기 차선 포인트를 결정하는 단계는,
상기 에지 이미지 하단에서 좌측의 밝기값이 최대가 되는 좌측 초기 차선 포인트를 검출하는 단계; 및
상기 에지 이미지 하단에서 우측의 밝기값이 최대가 되는 우측 초기 차선 포인트를 검출하는 단계;를 포함하는 것을 특징으로 하는 차선 검출 방법.
제 5 항에 있어서,
상기 후속 차선 포인트를 검출하는 단계는,
상기 결정된 초기 차선 포인트를 기초로 제1 검색 윈도우를 생성하는 단계;
상기 생성된 제1 검색 윈도우를 상기 에지 이미지와 상기 에지 직선 처리 이미지 각각에 적용하여 기 설정된 조건을 만족하는 제1 후속 차선 포인트를 검출하는 단계;
상기 제1 후속 차선 포인트가 제1 검색 윈도우에서 위치하는 열을 중심 열로 하는 제2 검색 윈도우를 생성하는 단계; 및
상기 생성된 제2 검색 윈도우를 상기 제1 검색 윈도우의 상부에 배치하고 상기 에지 이미지와 상기 에지 직선 처리 이미지 각각에 적용하여 상기 기 설정된 조건을 만족하는 제2 후속 차선 포인트를 검출하는 단계;를 포함하는 것을 특징으로 하는 차선 검출 방법.
제 5 항에 있어서,
상기 검색 윈도우의 중간 행에서만 상기 기 설정된 조건을 만족하는 차선 포인트를 검출하는 것을 특징으로 하는 차선 검출 방법.
제 5 항에 있어서,
상기 검색 윈도우의 행 사이즈는 상기 직선 성분의 기울기에 따라 적응적으로 변화되는 것을 특징으로 하는 차선 검출 방법.
제 5 항에 있어서,
ACM(Active Contour Model)의 에너지값을 산출하는 단계;를 더 포함하고,
상기 기 설정된 조건은 상기 ACM(Active Contour Model)의 에너지값을 최소화하는 차선 포인트인 것을 특징으로 하는 차선 검출 방법.
제 10항에 있어서,
상기 ACM(Active Contour Model)의 에너지값을 산출하는 단계는,
이전 차선 포인트들간의 평균 거리와 현재 차선 포인트와 이전 차선 포인트 간의 거리를 이용하여 내부 에너지값을 산출하는 단계; 및
상기 에지 이미지와 상기 에지 직선 처리 이미지 각각에서 검출된 차선 포인트들의 밝기값을 이용하여 외부 에너지값을 산출하는 단계;를 포함하는 차선 검출 방법.
제 1 항에 있어서,
상기 차선을 검출하는 단계는,
상기 검출된 차선 포인트들이 이루는 곡선 방정식을 산출하는 단계; 및
산출된 곡선 방정식을 기초로 상기 차선 포인트를 곡선으로 근사화하는 단계;를 더 포함하는 것을 특징으로 하는 차선 검출 방법.
제 2 항에 있어서,
상기 차선을 검출하는 단계는,
상기 탑 뷰 영상에서 검출된 차선 포인트들을 상기 획득된 주행 영상의 시점으로 변환함으로써 상기 탑 뷰 영상의 차선 포인트들에 대응되는 상기 주행 영상의 차선 포인트들을 검출하는 단계; 및
상기 검출된 상기 주행 영상의 차선 포인트들을 기초로 차선을 검출하는 단계;를 포함하는 것을 특징으로 하는 차선 검출 방법.
차선 검출 장치에 있어서,
주행 중인 차량의 촬영 장치에서 촬영된 주행 영상을 획득하는 영상 획득부;
상기 획득된 주행 영상에서 차선에 대응되는 에지(edge)를 검출하고, 상기 검출된 에지를 기초로 에지 이미지를 생성하는 에지 검출부;
상기 검출된 에지를 기초로 직선 성분을 검출하고, 상기 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성하는 직선 성분 검출부;
상기 생성된 에지 이미지와 상기 에지 직선 처리 이미지를 이용하여 상기 차선에 대응되는 차선 포인트를 검출하는 차선 포인트 검출부; 및
상기 검출된 차선 포인트를 기초로 상기 차선을 검출하는 차선 검출부;를 포함하는 차선 검출 장치.
제 14 항에 있어서,
상기 획득된 주행 영상에 대응되는 전방 뷰 영상의 시점을 변환하여 탑 뷰(Top View) 영상을 생성하는 영상 시점 변환부;를 더 포함하고,
상기 에지 검출부는,
상기 탑 뷰 영상에서 상기 차선에 대응되는 에지를 검출하는 것을 특징으로 하는 차선 검출 장치.
제 15 항에 있어서,
상기 탑 뷰 영상을 상기 차량으로부터의 거리에 따라 제1 영역과 제2 영역으로 분할하는 영상 영역 분할부;를 더 포함하고,
상기 분할된 제1 영역에 대응되는 제1 에지 이미지 및 제2 영역에 대응되는 제2 에지 이미지 각각에서 상기 직선 성분을 검출하고, 상기 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성하는 것을 특징으로 하는 차선 검출 장치.
제 14 항에 있어서,
상기 차선 포인트 검출부는,
좌측 차선에 대응되는 차선 포인트와 우측 차선에 대응되는 차선 포인트를 각각 검출하는 것을 특징으로 하는 차선 검출 장치.
제 17 항에 있어서,
상기 차선 포인트 검출부는,
상기 생성된 에지 이미지와 상기 에지 직선 처리 이미지 중 적어도 하나를 이용하여 초기 차선 포인트를 검출하는 초기 차선 포인트 검출부;
검색 윈도우를 생성하고, 상기 생성된 검색 윈도우를 상기 생성된 에지 이미지와 상기 에지 직선 처리 이미지 각각에 적용하며, 상기 적용된 검색 윈도우 안에서 기 설정된 조건을 만족하는 후속 차선 포인트를 검출하는 후속 차선 포인트 검출부;를 포함하는 것을 특징으로 하는 차선 검출 장치.
제 18 항에 있어서,
상기 초기 차선 포인트 검출부는,
상기 에지 이미지 하단에서 좌측의 밝기값이 최대가 되는 좌측 초기 차선 포인트를 검출하고,
상기 에지 이미지 하단에서 우측의 밝기값이 최대가 되는 우측 초기 차선 포인트를 검출하는 것을 특징으로 하는 차선 검출 장치.
제 18 항에 있어서,
상기 후속 차선 포인트 검출부는,
상기 결정된 초기 차선 포인트를 기초로 제1 검색 윈도우를 생성하고,
상기 생성된 제1 검색 윈도우를 상기 에지 이미지와 상기 에지 직선 처리 이미지 각각에 적용하여 기 설정된 조건을 만족하는 제1 후속 차선 포인트를 검출하고,
상기 제1 후속 차선 포인트가 제1 검색 윈도우에서 위치하는 열을 중심 열로 하는 제2 검색 윈도우를 생성하며,
상기 생성된 제2 검색 윈도우를 상기 제1 검색 윈도우의 상부에 배치하고 상기 에지 이미지와 상기 에지 직선 처리 이미지 각각에 적용하여 상기 기 설정된 조건을 만족하는 제2 후속 차선 포인트를 검출하는 것을 특징으로 하는 차선 검출 장치.
제 18 항에 있어서,
상기 검색 윈도우의 중간 행에서만 상기 기 설정된 조건을 만족하는 차선 포인트를 검출하는 것을 특징으로 하는 차선 검출 장치.
제 18 항에 있어서,
상기 검색 윈도우의 행 사이즈는 상기 직선 성분의 기울기에 따라 적응적으로 변화되는 것을 특징으로 하는 차선 검출 장치.
제 18 항에 있어서,
ACM(Active Contour Model)의 에너지값을 산출하는 ACM 에너지 산출부;를 더 포함하고,
상기 기 설정된 조건은 상기 ACM(Active Contour Model)의 에너지값을 최소화하는 차선 포인트인 것을 특징으로 하는 차선 검출 장치.
제 23 항에 있어서,
상기 ACM 에너지 산출부는,
이전 차선 포인트들 간의 평균 거리와 현재 차선 포인트와 이전 차선 포인트 간의 거리를 이용하여 내부 에너지값을 산출하고,
상기 에지 이미지와 상기 에지 직선 처리 이미지 각각에서 검출된 차선 포인트들의 밝기값을 이용하여 외부 에너지값을 산출하는 것을 특징으로 하는 차선 검출 장치.
제 14 항에 있어서,
상기 검출된 차선 포인트들이 이루는 곡선 방정식을 산출하고, 산출된 곡선 방정식을 기초로 상기 차선 포인트를 곡선으로 근사화하는 차선 포인트 근사화부;를 더 포함하는 것을 특징으로 하는 차선 검출 장치.
제 15 항에 있어서,
상기 차선 검출부는,
상기 탑 뷰 영상에서 검출된 차선 포인트들을 상기 획득된 주행 영상의 시점으로 변환함으로써 상기 탑 뷰 영상의 차선 포인트들에 대응되는 상기 주행 영상의 차선 포인트들을 검출하고,
상기 검출된 상기 주행 영상의 차선 포인트들을 기초로 차선을 검출하는 것 것을 특징으로 하는 차선 검출 장치.
차선을 검출하여 운전자 보조를 위한 안내를 제공하는 전자 기기에 있어서,
상기 운전자 확인 가능한 안내 정보를 표시하는 디스플레이부;
촬영 장치에서 촬영된 주행 영상을 획득하는 영상 획득부;
상기 획득된 주행 영상에서 차선에 대응되는 에지(edge)를 검출하고, 상기 검출된 에지를 기초로 에지 이미지를 생성하는 에지 검출부;
상기 검출된 에지를 기초로 직선 성분을 검출하고, 상기 검출된 직선 성분을 기초로 에지 직선 처리 이미지를 생성하는 직선 성분 검출부;
상기 생성된 에지 이미지와 상기 에지 직선 처리 이미지에서 상기 차선에 대응되는 차선 포인트를 검출하는 차선 포인트 검출부;
상기 검출된 차선 포인트로부터 상기 차선을 검출하는 차선 검출부; 및
상기 검출된 차선을 기초로 안내를 수행하도록 상기 디스플레이부를 제어하는 제어부;를 포함하는 전자 기기.
제27항에 있어서,
상기 차량의 현재 위치로부터 목적지까지의 경로를 안내하는 경로 안내 객체를 생성하고, 상기 생성된 경로 안내 객체를 상기 검출된 차선을 기초로 상기 촬영된 주행 영상의 차로에 표시하는 증강 현실 이미지를 생성하는 증강 현실 제공부;를 더 포함하고,
상기 제어부는 상기 생성된 증강 현실 이미지를 표시하도록 상기 디스플레이부를 제어하는 것을 특징으로 하는 전자 기기.
제27항에 있어서,
상기 차량의 차선 이탈을 안내하는 차선 이탈 안내 객체를 생성하고, 상기 생성된 차선 이탈 안내 객체를 상기 검출된 차선을 기초로 차선에 표시하는 증강 현실 이미지를 생성하는 증강 현실 제공부;를 더 포함하고,
상기 제어부는 상기 생성된 증강 현실 이미지를 표시하도록 상기 디스플레이부를 제어하는 것을 특징으로 하는 전자 기기.
제1항 내지 제13항 중 어느 한 항에 기재된 차선 검출 방법을 실행시키기 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록 매체.
컴퓨터 판독 가능한 기록 매체에 저장되어 제1항 내지 제13항 중 어느 한 항에 기재된 차선 검출 방법을 실행시키는 프로그램.