KR101992398B1 - 도로 기호 및 차선 인식 방법 및 장치 - Google Patents

도로 기호 및 차선 인식 방법 및 장치 Download PDF

Info

Publication number
KR101992398B1
KR101992398B1 KR1020170149129A KR20170149129A KR101992398B1 KR 101992398 B1 KR101992398 B1 KR 101992398B1 KR 1020170149129 A KR1020170149129 A KR 1020170149129A KR 20170149129 A KR20170149129 A KR 20170149129A KR 101992398 B1 KR101992398 B1 KR 101992398B1
Authority
KR
South Korea
Prior art keywords
lane
road
recognizing
map
classification model
Prior art date
Application number
KR1020170149129A
Other languages
English (en)
Other versions
KR20190053355A (ko
Inventor
변혜란
임광용
어영정
김태형
황선희
기민송
홍용원
Original Assignee
연세대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 연세대학교 산학협력단 filed Critical 연세대학교 산학협력단
Priority to KR1020170149129A priority Critical patent/KR101992398B1/ko
Publication of KR20190053355A publication Critical patent/KR20190053355A/ko
Application granted granted Critical
Publication of KR101992398B1 publication Critical patent/KR101992398B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • G06K9/00798—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06K9/46—
    • G06K9/4642—
    • G06K9/4647—
    • G06K9/6267—
    • G06T5/002—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/70—Denoising; Smoothing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • G06V10/507—Summing image-intensity values; Histogram projection analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30248—Vehicle exterior or interior
    • G06T2207/30252—Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256—Lane; Road marking

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

본 실시예들은 도로 영상의 화소에 대한 지역적 임계치 맵을 기반으로 도로 표시 후보 맵을 생성하고, 도로 주변의 객체에 관한 레이블 맵을 기반으로 도로 표시 후보 맵을 필터링하고, 필터링한 도로 표시 후보 맵을 평면 시점의 영상으로 변환하여 블롭 영역을 검출하고, 블롭 영역에 대하여 제1 분류 모델을 이용하여 기호를 인식하고, 제2 분류 모델을 이용하여 차선을 인식함으로써, 고해상도 도로 주행 영상에서 전체 차선과 기호를 실시간으로 정확하게 인식할 수 있는 하는 도로 기호 및 차선 인식 방법 및 장치를 제공한다.

Description

도로 기호 및 차선 인식 방법 및 장치 {Method and Apparatus for Recognizing Road Symbols and Lanes}
본 실시예가 속하는 기술 분야는 도로 기호 및 복수의 차선을 인식하는 방법 및 장치에 관한 것이다.
이 부분에 기술된 내용은 단순히 본 실시예에 대한 배경 정보를 제공할 뿐 종래기술을 구성하는 것은 아니다.
차량의 자율 주행 기술 또는 운전자 보조 기술은 주로 운전자의 안전과 관련되어 있다. 차량의 자율 주행 기술 또는 운전자 보조 기술은 보행자를 검출하고, 도로면의 기호 및 차선을 검출하고, 신호등을 검출하는 기술이 종합적으로 균형을 이뤄야 한다.
도로면의 기호 및 차선을 검출하는 기술을 구현하는 데 여러 문제점이 있다. 통상적으로 도로면의 정보를 흰색, 노란색 등의 제한된 색상으로만 도포하며, 도로면의 정보는 날씨 상황 및 조명의 세기, 차선과 유사한 색을 갖는 통행 차량 등으로 인하여 일률적으로 판단할 수 없는 문제가 있다. 특히, 주행 중인 차량이 변화하는 도로면의 기호 및 다수 차선에 즉각적으로 대응하려면, 실시간 처리가 보장되어야 한다.
본 발명의 실시예들은 도로 영상의 화소에 대한 지역적 임계치 맵을 기반으로 도로 표시 후보 맵을 생성하고, 도로 주변의 객체에 관한 레이블 맵을 기반으로 도로 표시 후보 맵을 필터링하고, 필터링한 도로 표시 후보 맵을 평면 시점의 영상으로 변환하여 블롭 영역을 검출하고, 블롭 영역에 대하여 제1 분류 모델을 이용하여 기호를 인식하고, 제2 분류 모델을 이용하여 차선을 인식함으로써, 고해상도 도로 주행 영상에서 전체 차선과 기호를 실시간으로 정확하게 인식하는 데 발명의 주된 목적이 있다.
본 발명의 명시되지 않은 또 다른 목적들은 하기의 상세한 설명 및 그 효과로부터 용이하게 추론할 수 있는 범위 내에서 추가적으로 고려될 수 있다.
본 실시예의 일 측면에 의하면, 컴퓨팅 디바이스에 의한 도로 기호 및 차선 인식 방법에 있어서, 원근 시점에서 촬영된 도로 영상을 입력받는 단계, 상기 도로 영상의 화소에 대한 지역적 임계치 맵을 기반으로 상기 도로 영상으로부터 도로 표시 후보 맵을 생성하는 단계, 상기 도로 표시 후보 맵을 평면 시점의 영상으로 변환하여 블롭 영역을 검출하는 단계, 및 상기 블롭 영역에 대하여 분류 모델을 이용하여 도로 기호를 인식하고 차선을 인식하는 단계를 포함하는 도로 기호 및 차선 인식 방법을 제공한다.
본 실시예의 다른 측면에 의하면, 원근 시점에서 촬영된 도로 영상을 입력받는 입력부, 상기 도로 영상의 화소에 대한 지역적 임계치 맵을 기반으로 상기 도로 영상으로부터 도로 표시 후보 맵을 생성하는 후보 맵 생성부, 상기 도로 표시 후보 맵을 평면 시점의 영상으로 변환하여 블롭 영역을 검출하는 블롭 영역 검출부, 및 상기 블롭 영역에 대하여 분류 모델을 이용하여 도로 기호를 인식하고 차선을 인식하는 기호 및 차선 인식부를 포함하는 도로 기호 및 차선 인식 장치를 제공한다.
본 실시예의 또 다른 측면에 의하면, 프로세서에 의해 실행 가능한 컴퓨터 프로그램 명령어들을 포함하는 비일시적(Non-Transitory) 컴퓨터 판독 가능한 매체에 기록되어 도로 기호 및 차선 인식을 위한 컴퓨터 프로그램으로서, 상기 컴퓨터 프로그램 명령어들이 컴퓨팅 디바이스의 프로세서에 의해 실행되는 경우에, 원근 시점에서 촬영된 도로 영상을 입력받는 단계, 상기 도로 영상의 화소에 대한 지역적 임계치 맵을 기반으로 상기 도로 영상으로부터 도로 표시 후보 맵을 생성하는 단계, 상기 도로 표시 후보 맵을 평면 시점의 영상으로 변환하여 블롭 영역을 검출하는 단계, 및 상기 블롭 영역에 대하여 분류 모델을 이용하여 도로 기호를 인식하고 차선을 인식하는 단계를 포함한 동작들을 수행하는 컴퓨터 프로그램을 제공한다.
이상에서 설명한 바와 같이 본 발명의 실시예들에 의하면, 도로 영상의 화소에 대한 지역적 임계치 맵을 기반으로 도로 표시 후보 맵을 생성하고, 도로 주변의 객체에 관한 레이블 맵을 기반으로 도로 표시 후보 맵을 필터링하고, 필터링한 도로 표시 후보 맵을 평면 시점의 영상으로 변환하여 블롭 영역을 검출하고, 블롭 영역에 대하여 제1 분류 모델을 이용하여 기호를 인식하고, 제2 분류 모델을 이용하여 차선을 인식함으로써, 고해상도 도로 주행 영상에서 전체 차선과 기호를 실시간으로 정확하게 인식할 수 있는 효과가 있다.
여기에서 명시적으로 언급되지 않은 효과라 하더라도, 본 발명의 기술적 특징에 의해 기대되는 이하의 명세서에서 기재된 효과 및 그 잠정적인 효과는 본 발명의 명세서에 기재된 것과 같이 취급된다.
도 1 및 도 2는 본 발명의 실시예들에 따른 도로 기호 및 차선 인식 장치를 예시한 블록도이다.
도 3a는 본 발명의 일 실시예에 따른 도로 기호 및 차선 인식 장치가 획득한 입력 영상을 예시한 도면이다.
도 3b는 본 발명의 일 실시예에 따른 도로 기호 및 차선 인식 장치가 생성한 지역적 임계치 맵을 예시한 도면이다.
도 3c는 본 발명의 일 실시예에 따른 도로 기호 및 차선 인식 장치가 생성한 도로 표시 후보 맵을 예시한 도면이다.
도 4는 본 발명의 일 실시예에 따른 도로 기호 및 차선 인식 장치가 처리하는 인코더 및 디코더를 예시한 도면이다.
도 5a는 본 발명의 일 실시예에 따른 도로 기호 및 차선 인식 장치가 생성한 레이블 맵을 예시한 도면이다.
도 5b는 본 발명의 일 실시예에 따른 도로 기호 및 차선 인식 장치가 필터링한 도로 표시 후보 맵을 예시한 도면이다.
도 6는 본 발명의 일 실시예에 따른 도로 기호 및 차선 인식 장치가 블롭 영역으로부터 기호, 차선, 및 배경을 분류하는 동작을 예시한 도면이다.
도 7은 본 발명의 일 실시예에 따른 도로 기호 및 차선 인식 장치가 처리하는 컨볼루션 네트워크를 예시한 도면이다.
도 8a는 본 발명의 일 실시예에 따른 도로 기호 및 차선 인식 장치가 획득한 입력 영상을 예시한 도면이다.
도 8b는 본 발명의 일 실시예에 따른 도로 기호 및 차선 인식 장치가 탑뷰 시점에서 추출한 블롭 영역을 예시한 도면이다.
도 8c는 본 발명의 일 실시예에 따른 도로 기호 및 차선 인식 장치가 블롭 영역 중에서 인식한 도로 기호를 예시한 도면이다.
도 8d는 본 발명의 일 실시예에 따른 도로 기호 및 차선 인식 장치가 인식한 도로 기호를 입력 영상의 화각으로 예시한 도면이다.
도 9는 본 발명의 일 실시예에 따른 도로 기호 및 차선 인식 장치가 전체 차선을 인식하는 동작을 예시한 흐름도이다.
도 10은 본 발명의 일 실시예에 따른 도로 기호 및 차선 인식 장치가 블롭 영역으로부터 형태적 윤곽을 강화한 영상 및 특징 벡터로 변환하는 것을 예시한 도면이다.
도 11 및 도 12는 본 발명의 다른 실시예들에 따른 도로 기호 및 차선 인식 방법을 예시한 흐름도이다.
이하, 본 발명을 설명함에 있어서 관련된 공지기능에 대하여 이 분야의 기술자에게 자명한 사항으로서 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략하고, 본 발명의 일부 실시예들을 예시적인 도면을 통해 상세하게 설명한다.
도 1 및 도 2는 본 발명의 실시예들에 따른 도로 기호 및 차선 인식 장치를 예시한 블록도이다.
도 1에 도시한 바와 같이, 도로 기호 및 차선 인식 장치(100)는 입력부(110), 후보 맵 생성부(120), 블롭 영역 검출부(130), 및 기호 및 차선 인식부(140)를 포함한다. 도로 기호 및 차선 인식 장치(100)는 도 1에서 예시적으로 도시한 다양한 구성요소들 중에서 일부 구성요소를 생략하거나 다른 구성요소를 추가로 포함할 수 있다. 예컨대, 도 2를 참조하면, 도로 기호 및 차선 인식 장치(200)는 후보 맵 필터링부(240), 기호 인식부(280), 차선 인식부(290), 또는 이들의 조합을 추가로 포함할 수 있다.
도로 기호 및 차선 인식 장치(100)는 일관성 없는 도로면의 조명 세기 및 도로 영상에 포함된 통행 차량 때문에 추출하기 어려운 도로 기호 영역을 정확하게 인식하고, 형태적 특성이 적은 차선에 대하여 주행 중인 차선을 포함한 전체 차선에서 주행하는 차량들의 색상에 의한 오검출을 방지하면서 전체 차선을 인식한다.
도로 기호 및 차선 인식 장치(100)는 지역적 임계치 맵을 기반으로 도로 표시 후보 맵을 생성하고, 도로 주변의 객체에 관한 레이블 맵을 기반으로 도로 표시 후보 맵을 필터링하고, 시점 변환하여 검출한 블롭에 대해 도로 기호 및 복수의 차선을 인식하는 장치이다.
입력부(110, 210)는 원근 시점에서 촬영된 도로 영상을 입력받는다. 영상 입력부(110)는 실시간으로 촬영된 도로 영상 또는 기 저장된 도로 영상을 입력받는다. 도로 영상은 카메라 등으로 촬영된다. 이러한 영상에서는 가까이에 있는 물체가 멀리 있는 물체보다 크게 표시되므로, 크기가 왜곡되는 문제가 있다.
후보 맵 생성부(120, 220)는 도로 영상의 화소에 대한 지역적 임계치 맵을 기반으로 도로 영상으로부터 도로 표시 후보 맵을 생성한다. 후보 맵 생성부(120, 220)는 전체 영역에 대하여 고정된 임계치를 사용하지 않고 각 화소에 대한 지역적 임계치(Local Threshold)를 이용한 마킹 영역을 분할한다. 후보 맵 생성부(120, 220)는 각 화소의 수평축의 평균 명도 영상(Mean Brightness Image)를 생성하고 이를 각 화소의 임계값으로 적용한다.
도로 기호 및 차선 인식 장치(100)는 도로 주변의 객체에 관한 레이블 맵을 기반으로 상기 도로 표시 후보 맵을 필터링하는 후보 맵 필터링부(240)를 추가로 포함할 수 있다. 블롭 영역 검출부(270)는 필터링한 도로 표시 후보 맵을 평면 시점의 영상으로 변환하고, 이진화된 화소 및 이진화된 화소의 이웃 화소들을 연결한 화소 집합을 생성한다.
블롭 영역 검출부(130, 270)는 도로 표시 후보 맵을 평면 시점의 영상으로 변환하여 블롭 영역을 검출한다. 블롭 영역 검출부(130, 270)는 기호 위치 검출을 위해 표시 화소들의 개별 집합인 블록을 검출한다. 블롭 영역 검출부(130, 270)는 가상의 소실점에 기반하여, 도로 영상에 역 원근 변환(Inverse Perspective Mapping, IPM) 방식이 적용될 영역을 설정한다. 영상 변환부(120)는 설정된 영역에 IPM 방식을 적용한다. 도로 표시 후보 맵에서 도로 주변의 객체를 제거한 영상을 탑뷰 변환하여 전체 차선에 있는 기호의 왜곡을 보정한다.
블롭 영역 검출부(130, 270)는 도로 영상의 일부 영역을 가상의 소실점에 기반하여, 차량이 통과하는 복수의 차로를 포함하는 평면 시점의 영상으로 변환할 수 있다. 예컨대, 복수의 차로를 포함하는 영상이 사다리꼴의 형태에서 직사각형의 형태로 변환하게 된다. 즉, 사각형의 좌변 및 우변이 복수의 차선과 평행하게 된다.
실세계(Real World Coordinate)에서 카메라 위치, 수평과 수직 화각, 조리개의 각도, 해상도 정보가 필요하다. 카메라 파라미터는 상수로 고정되어 있으며 화각은 소실점의 위치에 따라 변화하므로, 소실점 위치에 기반한 매트릭스에 의해 변환된다. 고해상도 영상에 대하여 매트릭스의 연산을 GPGPU를 이용하여 IPM 변환을 수행한다.
기호 및 차선 인식부(140)는 블롭 영역에 대하여 분류 모델을 이용하여 도로 기호를 인식하고 차선을 인식한다. 기호 및 차선 인식부(140)는 검출된 블롭에 대해 CNN(Convolutional Neural Network) 기반의 기호 인식을 수행하고, 기호가 아닌 네거티브 그룹으로 분류된 블롭에 대해 1024 차원의 Byte MCT(Modified Census Transform) 특징과 SVM(Support Vector Machine)을 이용하여 차선 및 배경으로 분류하여 노면의 전체 기호와 차선을 인식한다.
기호 및 차선 인식부(140)는 블롭 영역에 대하여 제1 분류 모델을 이용하여 도로 기호를 인식하는 기호 인식부(280) 및 제2 분류 모델을 이용하여 차선을 인식하는 차선 인식부(290)를 포함할 수 있다.
도 2를 참조하면, 후보 맵 생성부(220), 후보 맵 필터링부(240), 및 상기 기호 인식부(280)는 복수의 명령어를 동시에 병렬 처리하는 GPU(Graphics Processing Unit)에 의해 동작을 수행하며, 블롭 영역 검출부(270) 및 차선 인식부(290)는 복수의 명령어가 입력된 순서대로 직렬 처리하는 CPU(Central Processing Unit)에 의해 동작을 수행할 수 있다.
이하에서는 도 3a 내지 도 3c를 참조하여, 도로 기호 및 차선 인식 장치가 지역적 임계치 맵에 기반하여 후보 맵을 생성하는 동작을 설명하기로 한다. 도 3a는 도로 기호 및 차선 인식 장치가 획득한 입력 영상이고, 도 3b는 도로 기호 및 차선 인식 장치가 생성한 지역적 임계치 맵이고, 도 3c는 도로 기호 및 차선 인식 장치가 생성한 도로 표시 후보 맵을 예시한 도면이다.
도로면은 흰색, 파랑색, 노란색 등의 복수의 색상으로 구성된 특수 도료를 도포하여 주행 정보를 제공한다. 차선, 주행 방향과 관련된 도형 및 문자를 이용하여 운전자에게 정보를 제공한다. 아스팔트의 색상은 검정색이며, 노면의 마킹과는 명도차가 있다.
날씨와 조명의 세기에 따라 적절한 임계치를 결정하지 않으면, 분할 결과가 만족스럽지 못하게 된다. 특히 차량의 전방에 차선과 유사한 색상의 차량이 있는 경우 부정확하게 분할된다.
후보 맵 생성부(120, 220)는 각 화소의 위치로부터 제1 방향으로 기 설정된 제1 범위 및 기 설정된 제2 방향으로 기 설정된 제2 범위 내에 존재하는 화소들의 대표값을 고려하여, 모든 화소에 대하여 각각의 임계치를 갖는 상기 지역적 임계치 맵을 생성한다. 예컨대, 화소 주변의 x좌표 집합에 대하여 좌우 각각 200 개의 화소를 포함하는 400 개의 화소로 설정할 수 있다. 제1 범위 및 제2 범위보다 작은 좌표를 갖는 화소는 최대 범위를 초과하지 않는 범위 내에서 범위가 설정된다. 예컨대, x좌표가 100이면, 좌측으로 100개의 화소 및 우측으로 200개의 화소를 포함하도록 설정된다.
후보 맵 생성부(120, 220)는 지역적 임계치 맵과 도로 영상을 비교한다. 모든 화소에 대하여 수평축 주변 400개의 화소를 고려한 지역적 임계치 맵를 생성하는 데 많은 연산시간이 필요하다. 따라서 이를 가속화하기 위하여 GPGPU를 이용하였고, Full-HD 해상도급 영상에서 평균 3ms 연산 시간이 소요됨을 확인 하였다.
본 실시예는 전체 화소에 대하여 고정 임계값이 아닌 수평축 평균에 기반한 지역적 임계치를 사용하여 전반적인 조명의 세기에 따른 영향을 받지 않고 영역을 분할할 수 있다.
이하에서는 도 4, 도 5a, 및 도 5b를 참조하여, 도로 기호 및 차선 인식 장치가 후보 맵을 필터링하는 동작을 설명하기로 한다. 도 4는 도로 기호 및 차선 인식 장치가 처리하는 인코더 및 디코더에 관한 도면이고, 도 5a는 도로 기호 및 차선 인식 장치가 생성한 레이블 맵에 관한 도면이고, 도 5b는 도로 기호 및 차선 인식 장치가 필터링한 도로 표시 후보 맵에 관한 도면이다.
도로 표시 후보 맵에는 주변의 밝은 색상의 차량 또는 구조물과 같은 영역이 포함되어 있다. 도로 기호 및 차선 인식 장치는 딥러닝에 기반하여 도로 기호와 관련없는 영역을 제거한다.
노면의 마킹으로부터 추출 가능한 정보는 차선과 차선 사이의 기호이다. 기호는 일반적으로 흰색의 도료로 도포되며 차선은 흰색 또는 노란색으로 도포된다. 노면 마킹을 검출에 있어 일반적인 객체 검출과 달리 사용할 수 있는 특징으로는 노면의 밝기와 대비하여 밝은 영역을 찾는 명도 기반 방식을 적용한다.
후보 맵 필터링부(240)는 컨볼루션 네트워크를 갖는 인코더 및 디컨볼루션 네트워크를 갖는 디코더를 이용하여 생성한 도로 주변의 객체에 관한 레이블 맵을 기초로 도로 영상을 시맨틱 분할하고, 도로 표시 후보 맵에서 기 설정된 밝은 색상을 갖는 객체를 제거한다.
도 4를 참조하면, 인코더 및 디코더는 CNN의 컨볼루션 레이어(Convolution Layer) 구조에 디컨볼루션 레이어(Deconvolution Layer)를 추가된 구조이다. 인코더는 컨볼루션(Convolution)과 풀링(Pooling)을 통해 인코딩된 특징(Encoded Feature)을 추출하고, 디코더는 인코딩된 특징을 이용하여 디컨볼루션(Deconvolution)과 언풀링(Unpooling)을 통해 화소 단위 레이블링(Pixel Wise Class Labeling)를 수행하는 방법이다. 화소 단위 레이블링은 인접 화소에 같은 번호를 매기는 기법이다. 인코더와 디코더 간에 풀리 컨넥티드 레이어(Fully Connected Layer)를 포함시킬 수도 있다.
후보 맵 필터링부(240)는 주행 영상에서 등장 가능한 객체인 차량(Vehicle), 구조물(Structure), 및 나무(Tree) 등와 같은 대표적인 도로 주변의 객체 영역에 대한 시맨틱 분할(Semantic Segmentation) 결과를 이용하여 도로 표시 후보 맵에서 객체 영역을 제거한다.
필터링 전인 도 3c와 필터링 후인 도 5b를 비교하면, 노면의 마킹(차선 및 기호)이 확실하게 나타나고, 흰색 차량(White Color Vehicle) 등 노면의 마킹 이외의 밝은 명도 값을 갖는 영역을 효과적으로 제거함을 알 수 있다.
이하에서는 도 6, 도 7, 도 8a 내지 도 8d를 참조하여, 도로 기호 및 차선 인식 장치가 기호를 인식하는 동작을 설명하기로 한다.
도 6는 도로 기호 및 차선 인식 장치가 블롭 영역으로부터 기호, 차선, 및 배경을 분류하는 동작에 관한 도면이다. 도 6을 참조하면, 도로 기호 및 차선 인식 장치는 블롭 영역의 영상비(Aspect Ratio) 및 색상비를 기반으로 블롭 영역을 필터링한다. 분류기는 제1 분류기와 제2 분류기를 포함한다. 제1 분류기는 2단계의 컨볼루션과 풀링 레이어를 포함하는 CNN 모델이며, 14개의 기호를 인식할 수 있다. 제2 분류기는 Byte MCT 특징을 이용한 SVM 모델이며, 네거티브로 분류된 블롭을 차선과 배경으로 분류한다.
네거티브 그룹은 필터링 역할 이외에도 화살표 형태를 갖는 기호를 인식하는 데 형태적 유사성으로 인한 오분류 가능성을 낮추는 기능을 한다.
도 7은 도로 기호 및 차선 인식 장치가 처리하는 컨볼루션 네트워크에 관한 도면이다.
기호 인식부(280)는 하나 이상의 레이어에서 컨볼루션 연산자를 통해 특징을 추출하여 특징 맵을 생성하고, 상기 하나 이상의 레이어의 노드들은 네트워크로 연결되며, 상기 추출한 특징을 다른 레이어에 전달하고, 서브샘플링을 통해 상기 추출한 특징을 통합하여 공간적 차원을 축소시키는 과정을 수행하여, 복수의 심볼 및 네거티브로 분류하는 상기 제1 분류 모델을 생성하고 상기 제1 분류 모델의 파라미터를 학습한다. 레이어는 파라미터를 포함할 수 있고, 레이어의 파라미터는 학습가능한 필터 집합을 포함한다. 파라미터는 노드 간의 가중치 및/또는 바이어스를 포함한다.
레이어의 크기는 기호들의 영상비(Aspect Ratio)를 고려하여 일반적인 정사각형이 아닌 직사각형의 입력이 가능하도록 크기를 설정한다.
도로 기호 및 차선 인식 장치는 도 8a에 도시된 입력 영상에 대하여 도 8b와 같이 탑뷰 시점에서 블롭 영역을 추출한다. 도로 기호 및 차선 인식 장치는 도 8b에 도시된 블롭 영역 중에서 도 8c와 같이 도로 기호를 인식한다. 도로 기호 및 차선 인식 장치는 도 8d와 같이 인식한 도로 기호를 입력 영상의 화각으로 표시한다.
평균적으로 Full-HD 해상도 영상에서 전체 블롭 검출하는 데 12ms 정도가 소요되고, 각 개별 블롭의 기호를 인식하는 데 3ms 정도가 소요된다.
이하에서는 도 9 및 도 10을 참조하여 도로 기호 및 차선 인식 장치가 차선을 인식하는 동작을 설명하기로 한다.
도 9는 도로 기호 및 차선 인식 장치가 전체 차선을 인식하는 동작을 예시한 흐름도이고, 도 10은 도로 기호 및 차선 인식 장치가 블롭 영역으로부터 형태적 윤곽을 강화한 영상 및 특징 벡터로 변환하는 것을 예시한 도면이다.
단계 S910에서 차선 인식부(290)는 블롭 영역을 입력받는다.
기호는 도로 중심에 위치하는 것와 달리 차선은 가장자리 영역에 위치하며 밝기로 인하여 오검출된 영역은 주변 구조물의 변형에 의해 구별하기 곤란한 문제가 있다. 차선 영상에 번짐(blur)이 심한 경우라도 Byte-MCT 변환을 수행하면 형태적 윤곽이 강해진다. 반면에 배경 영상은 마킹으로 오인된 밝은 영역 주변이 다소 복잡한 텍스쳐를 보인다.
단계 S920에서 차선 인식부(290)는 Byte MCT 특징을 추출한다. 차선 인식부(290)는 블롭 영역의 화소에 대해 주변 영역의 밝기 변화를 중심 화소와 비교하여 비트 스트링(Bit String)을 생성하고, 상기 블롭 영역을 형태적 윤곽을 강화한 영상으로 변환한다.
단계 S930에서 차선 인식부(290)는 형태적 윤곽을 강화한 영상에 대하여 제2 분류 모델을 이용하여 차선 및 배경으로 분류한다. 제2 분류 모델은 SVM으로 구현될 수 있으나 이는 예시일 뿐이며 이에 한정되는 것은 아니고 구현되는 설계에 따라 적합한 분류 모델이 사용될 수 있다.
단계 S940에서 차선 인식부(290)는 차선 블롭 히스토그램을 생성한다. 차선 인식부(290)는 형태적 윤곽을 강화한 영상을 복수의 제1 영역들로 분할하고, 상기 분할한 영역들의 일부를 오버랩한 복수의 제2 영역들에 대한 N차원 히스토그램을 생성한다. 차선 인식부(290)는 복수의 제2 영역들에 대한 N차원 히스토그램을 정규화하여 결합(Concatenate)한 특징 벡터에 대하여 제2 분류 모델을 이용하여 차선 및 배경으로 분류한다. 예컨대, 도 10을 참조하면, 좌우측상단, 좌우측하단, 좌측상하단, 및 우측상하단의 성질을 모두 고려하기 위하여 전체 오버랩 영역의 히스토그램을 결합한 1024 차원의 특정 벡터를 생성한다.
단계 S950에서 차선 인식부(290)는 차선으로 분류한 블롭 영역을 필터링한다.
블롭 영역은 IPM 과정에서 선형 보간(Linear Interpolation)으로 인해 심한 번짐이 있거나 주변 및 마킹의 명도차가 크지 않은 영역이 추출될 수 있다. 예컨대, 곡선 차선이 약간 휘어진 직선에 가깝게 변형된다. 이러한 블롭 영역은 차선의 정확한 좌표 추출에 어려움이 있으며 오류를 범할 가능성이 있다.
차선 인식부(290)는 차선으로 분류한 블롭 영역에 대하여 복수의 지점들 간의 각도에 관한 표준 편차를 기준으로 직선형의 차선을 필터링한다.
차선 인식부(290)는 각 차선 블롭의 상단으로부터 Y-축 6개의 마킹 지점을 찾고, 마킹 지점 간 각도의 표준편차가 일정 수치 이상인 지그재그 형태의 차선 후보를 필터링한다. 즉, 직선에 가까운 선형 차선을 확정한다. 블롭의 상단으로부터 각각 0.05%, 0.2%, 0.4%, 0.6%, 0.8%, 0.95 위치에서 추출한다. 복수의 지점들은 기준 높이를 기준으로 수평축 방향으로 선형 탐색을 통해 마킹 레이블(Marking Label)의 평균 x좌표값을 사용할 수 있다. 마킹 레이블이 없으며, 기준 높이를 증가시키면서 탐색한다.
블롭 영역 중에는 차량 주변에 매우 강한 조명에 의한 반사광으로 인해 잘못된 차선 영역이 추출될 가능성이 있다.
차선 인식부(290)는 차선으로 분류한 블롭 영역에 대하여 차선의 길이를 기준으로 기 설정된 비율 이내의 차선을 제거한다. 차선 블롭 영역들의 중심점 위치에 대한 x축 좌표와 차선의 길이를 히스토그램으로 생성하여 상대적으로 짧은 길이의 차선을 제거한다. 조명 반사광으로 인하여 차선으로 오인 검출된 블롭 영역을 제거할 수 있다.
단계 S950에서 차선 인식부(290)는 평면 시점에서 원 시점으로 복원할 수 있다.
도로 기호 및 차선 인식 장치에 포함된 구성요소들이 도 1 및 도 2에서는 분리되어 도시되어 있으나, 복수의 구성요소들은 상호 결합되어 적어도 하나의 모듈로 구현될 수 있다. 구성요소들은 장치 내부의 소프트웨어적인 모듈 또는 하드웨어적인 모듈을 연결하는 통신 경로에 연결되어 상호 간에 유기적으로 동작한다. 이러한 구성요소들은 하나 이상의 통신 버스 또는 신호선을 이용하여 통신한다.
도로 기호 및 차선 인식 장치는 하드웨어, 펌웨어, 소프트웨어 또는 이들의 조합에 의해 로직회로 내에서 구현될 수 있고, 범용 또는 특정 목적 컴퓨터를 이용하여 구현될 수도 있다. 장치는 고정배선형(Hardwired) 기기, 필드 프로그램 가능한 게이트 어레이(Field Programmable Gate Array, FPGA), 주문형 반도체(Application Specific Integrated Circuit, ASIC) 등을 이용하여 구현될 수 있다. 또한, 장치는 하나 이상의 프로세서 및 컨트롤러를 포함한 시스템온칩(System on Chip, SoC)으로 구현될 수 있다.
도로 기호 및 차선 인식 장치는 하드웨어적 요소가 마련된 컴퓨팅 디바이스에 소프트웨어, 하드웨어, 또는 이들의 조합하는 형태로 탑재될 수 있다. 컴퓨팅 디바이스는 각종 기기 또는 유무선 통신망과 통신을 수행하기 위한 통신 모뎀 등의 통신장치, 프로그램을 실행하기 위한 데이터를 저장하는 메모리, 프로그램을 실행하여 연산 및 명령하기 위한 마이크로프로세서 등을 전부 또는 일부 포함한 다양한 장치를 의미할 수 있다.
도 11 및 도 12는 본 발명의 다른 실시예들에 따른 도로 기호 및 차선 인식 방법을 예시한 흐름도이다.
도로 기호 및 차선 인식 방법은 컴퓨팅 디바이스에 의하여 수행될 수 있으며, 도로 기호 및 차선 인식 장치가 수행하는 동작에 관한 상세한 설명과 중복되는 설명은 생략하기로 한다.
단계 S1110에서, 컴퓨팅 디바이스는 원근 시점에서 촬영된 도로 영상을 입력받는다.
단계 S1120에서, 컴퓨팅 디바이스는 도로 영상의 화소에 대한 지역적 임계치 맵을 기반으로 상기 도로 영상으로부터 도로 표시 후보 맵을 생성한다.
도로 표시 후보 맵을 생성하는 단계(S1120)는 각 화소의 위치로부터 제1 방향으로 기 설정된 제1 범위 및 기 설정된 제2 방향으로 기 설정된 제2 범위 내에 존재하는 화소들의 대표값을 고려하여, 모든 화소에 대하여 각각의 임계치를 갖는 상기 지역적 임계치 맵을 생성하며, 상기 지역적 임계치 맵과 상기 도로 영상을 비교한다.
단계 S1130에서, 컴퓨팅 디바이스는 상기 도로 표시 후보 맵을 평면 시점의 영상으로 변환하여 블롭 영역을 검출한다.
단계 S1130에서, 컴퓨팅 디바이스는 블롭 영역에 대하여 분류 모델을 이용하여 도로 기호를 인식하고 차선을 인식한다.
도로 기호 및 차선 인식 방법은 도로 주변의 객체에 관한 레이블 맵을 기반으로 상기 도로 표시 후보 맵을 필터링하는 단계(S1230)를 추가로 포함할 수 있다. 블롭 영역을 검출하는 단계(S1240)는 필터링한 도로 표시 후보 맵을 평면 시점의 영상으로 변환하고, 이진화된 화소 및 상기 이진화된 화소의 이웃 화소들을 연결한 화소 집합을 생성할 수 있다.
도로 표시 후보 맵을 필터링하는 단계(S1230)는 컨볼루션 네트워크를 갖는 인코더 및 디컨볼루션 네트워크를 갖는 디코더를 이용하여 생성한 도로 주변의 객체에 관한 레이블 맵을 기초로 상기 도로 영상을 시맨틱 분할하고, 상기 도로 표시 후보 맵에서 기 설정된 밝은 색상을 갖는 객체를 제거할 수 있다.
도로 기호 및 차선 인식 방법은 블롭 영역에 대하여 제1 분류 모델을 이용하여 도로 기호를 인식하는 단계(S1250) 및 블롭 영역에 대하여 제2 분류 모델을 이용하여 차선을 인식하는 단계(S1260)를 포함한다.
제1 분류 모델을 이용하여 도로 기호를 인식하는 단계(S1250)는 상기 블롭 영역의 영상비(Aspect Ratio) 및 색상비를 기반으로 상기 블롭 영역을 필터링한다. 제1 분류 모델을 이용하여 도로 기호를 인식하는 단계(S1250)는 하나 이상의 레이어에서 컨볼루션 연산자를 통해 특징을 추출하여 특징 맵을 생성하고, 상기 하나 이상의 레이어의 노드들은 네트워크로 연결되며, 상기 추출한 특징을 다른 레이어에 전달하고, 서브샘플링을 통해 상기 추출한 특징을 통합하여 공간적 차원을 축소시키는 과정을 수행하여, 복수의 심볼 및 네거티브로 분류하는 상기 제1 분류 모델을 생성하고 상기 제1 분류 모델의 파라미터를 학습한다.
제2 분류 모델을 이용하여 차선을 인식하는 단계(S1260)는 블롭 영역의 화소에 대해 주변 영역의 밝기 변화를 중심 화소와 비교하여 비트 스트링(Bit String)을 생성하고, 상기 블롭 영역을 형태적 윤곽을 강화한 영상으로 변환하며, 상기 형태적 윤곽을 강화한 영상에 대하여 상기 제2 분류 모델을 이용하여 차선 및 배경으로 분류한다.
제2 분류 모델을 이용하여 차선을 인식하는 단계(S1260)는 형태적 윤곽을 강화한 영상을 복수의 제1 영역들로 분할하고, 상기 분할한 영역들의 일부를 오버랩한 복수의 제2 영역들에 대한 N차원 히스토그램을 생성하고, 상기 복수의 제2 영역들에 대한 N차원 히스토그램을 정규화하여 결합(Concatenate)한 특징 벡터에 대하여 상기 제2 분류 모델을 이용하여 차선 및 배경으로 분류한다.
제2 분류 모델을 이용하여 차선을 인식하는 단계(S1260)는 차선으로 분류한 블롭 영역에 대하여 차선의 길이를 기준으로 기 설정된 비율 이내의 차선을 제거한다. 제2 분류 모델을 이용하여 차선을 인식하는 단계(S1260)는 차선으로 분류한 블롭 영역에 대하여 복수의 지점들 간의 각도에 관한 표준 편차를 기준으로 직선형의 차선을 필터링한다.
지역적 임계치 맵을 기반으로 도로 표시 후보 맵을 생성하는 단계(S1220), 도로 주변의 객체에 관한 레이블 맵을 기반으로 도로 표시 후보 맵을 필터링하는 단계(S1230), 및 제1 분류 모델을 이용하여 도로 기호를 인식하는 단계(S1250)는 복수의 명령어를 동시에 병렬 처리하는 GPU(Graphics Processing Unit)에 의해 동작을 수행한다.
블롭 영역을 검출하는 단계(S1240) 및 제2 분류 모델을 이용하여 차선을 인식하는 단계(S1260)는 복수의 명령어가 입력된 순서대로 직렬 처리하는 CPU(Central Processing Unit)에 의해 동작을 수행한다.
본 실시예들에 따르면 기호 및 차선을 96%의 정확도로 인식하며, 거의 실시간으로 처리할 수 있다.
도 9, 도 11, 및 도 12에서는 각각의 과정을 순차적으로 실행하는 것으로 기재하고 있으나 이는 예시적으로 설명한 것에 불과하고, 이 분야의 기술자라면 본 발명의 실시예의 본질적인 특성에서 벗어나지 않는 범위에서 도 9, 도 11, 및 도 12에 기재된 순서를 변경하여 실행하거나 또는 하나 이상의 과정을 병렬적으로 실행하거나 다른 과정을 추가하는 것으로 다양하게 수정 및 변형하여 적용 가능할 것이다.
본 실시예들에 따른 동작은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능한 매체에 기록될 수 있다. 컴퓨터 판독 가능한 매체는 실행을 위해 프로세서에 명령어를 제공하는 데 참여한 임의의 매체를 나타낸다. 컴퓨터 판독 가능한 매체는 프로그램 명령, 데이터 파일, 데이터 구조 또는 이들의 조합을 포함할 수 있다. 예를 들면, 자기 매체, 광기록 매체, 메모리 등이 있을 수 있다. 컴퓨터 프로그램은 네트워크로 연결된 컴퓨터 시스템 상에 분산되어 분산 방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수도 있다. 본 실시예를 구현하기 위한 기능적인(Functional) 프로그램, 코드, 및 코드 세그먼트들은 본 실시예가 속하는 기술분야의 프로그래머들에 의해 용이하게 추론될 수 있을 것이다.
본 실시예들은 본 실시예의 기술 사상을 설명하기 위한 것이고, 이러한 실시예에 의하여 본 실시예의 기술 사상의 범위가 한정되는 것은 아니다. 본 실시예의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 실시예의 권리범위에 포함되는 것으로 해석되어야 할 것이다.
100, 200: 도로 기호 및 차선 인식 장치
110, 210: 입력부 120, 220: 후보 맵 생성부
130, 270: 블롭 영역 검출부 140: 기호 및 차선 인식부
240: 후보 맵 필터링부 280: 기호 인식부
290: 차선 인식부

Claims (20)

  1. 컴퓨팅 디바이스에 의한 도로 기호 및 차선 인식 방법에 있어서,
    원근 시점에서 촬영된 도로 영상을 입력받는 단계;
    상기 도로 영상의 화소에 대한 지역적 임계치 맵을 기반으로 상기 도로 영상으로부터 도로 표시 후보 맵을 생성하는 단계;
    도로 주변의 객체에 관한 레이블 맵을 기반으로 상기 도로 표시 후보 맵을 필터링하는 단계;
    상기 필터링한 도로 표시 후보 맵을 평면 시점의 영상으로 변환하여 블롭 영역을 검출하는 단계; 및
    상기 블롭 영역에 대하여 분류 모델을 이용하여 도로 기호를 인식하고 차선을 인식하는 단계를 포함하며,
    상기 블롭 영역을 검출하는 단계는 이진화된 화소 및 상기 이진화된 화소의 이웃 화소들을 연결한 화소 집합을 생성하는 것을 특징으로 하는 도로 기호 및 차선 인식 방법.
  2. 제1항에 있어서,
    상기 도로 표시 후보 맵을 생성하는 단계는,
    각 화소의 위치로부터 제1 방향으로 기 설정된 제1 범위 및 기 설정된 제2 방향으로 기 설정된 제2 범위 내에 존재하는 화소들의 대표값을 고려하여, 모든 화소에 대하여 각각의 임계치를 갖는 상기 지역적 임계치 맵을 생성하며, 상기 지역적 임계치 맵과 상기 도로 영상을 비교하는 것을 특징으로 하는 도로 기호 및 차선 인식 방법.
  3. 삭제
  4. 제1항에 있어서,
    상기 도로 표시 후보 맵을 필터링하는 단계는,
    컨볼루션 네트워크를 갖는 인코더 및 디컨볼루션 네트워크를 갖는 디코더를 이용하여 생성한 도로 주변의 객체에 관한 레이블 맵을 기초로 상기 도로 영상을 시맨틱 분할하고, 상기 도로 표시 후보 맵에서 기 설정된 밝은 색상을 갖는 객체를 제거하는 것을 특징으로 하는 도로 기호 및 차선 인식 방법.
  5. 제1항에 있어서,
    상기 도로 기호를 인식하고 차선을 인식하는 단계는 상기 블롭 영역에 대하여 제1 분류 모델을 이용하여 도로 기호를 인식하는 단계 및 제2 분류 모델을 이용하여 차선을 인식하는 단계를 포함하는 것을 특징으로 하는 도로 기호 및 차선 인식 방법.
  6. 제5항에 있어서,
    상기 제1 분류 모델을 이용하여 도로 기호를 인식하는 단계는,
    상기 블롭 영역의 영상비(Aspect Ratio) 및 색상비를 기반으로 상기 블롭 영역을 필터링하며,
    하나 이상의 레이어에서 컨볼루션 연산자를 통해 특징을 추출하여 특징 맵을 생성하고, 상기 하나 이상의 레이어의 노드들은 네트워크로 연결되며, 상기 추출한 특징을 다른 레이어에 전달하고, 서브샘플링을 통해 상기 추출한 특징을 통합하여 공간적 차원을 축소시키는 과정을 수행하여, 복수의 심볼 및 네거티브로 분류하는 상기 제1 분류 모델을 생성하고 상기 제1 분류 모델의 파라미터를 학습하는 것을 특징으로 하는 도로 기호 및 차선 인식 방법.
  7. 제5항에 있어서,
    상기 제2 분류 모델을 이용하여 차선을 인식하는 단계는,
    상기 블롭 영역의 화소에 대해 주변 영역의 밝기 변화를 중심 화소와 비교하여 비트 스트링(Bit String)을 생성하고, 상기 블롭 영역을 형태적 윤곽을 강화한 영상으로 변환하며,
    상기 형태적 윤곽을 강화한 영상에 대하여 상기 제2 분류 모델을 이용하여 차선 및 배경으로 분류하는 것을 특징으로 하는 도로 기호 및 차선 인식 방법.
  8. 제7항에 있어서,
    상기 제2 분류 모델을 이용하여 차선을 인식하는 단계는,
    상기 형태적 윤곽을 강화한 영상을 복수의 제1 영역들로 분할하고, 상기 분할한 영역들의 일부를 오버랩한 복수의 제2 영역들에 대한 N차원 히스토그램을 생성하고, 상기 복수의 제2 영역들에 대한 N차원 히스토그램을 정규화하여 결합(Concatenate)한 특징 벡터에 대하여 상기 제2 분류 모델을 이용하여 차선 및 배경으로 분류하는 것을 특징으로 하는 도로 기호 및 차선 인식 방법.
  9. 제7항에 있어서,
    상기 제2 분류 모델을 이용하여 차선을 인식하는 단계는,
    상기 차선으로 분류한 블롭 영역에 대하여 차선의 길이를 기준으로 기 설정된 비율 이내의 차선을 제거하며,
    상기 차선으로 분류한 블롭 영역에 대하여 복수의 지점들 간의 각도에 관한 표준 편차를 기준으로 직선형의 차선을 필터링하는 것을 특징으로 하는 도로 기호 및 차선 인식 방법.
  10. 제5항에 있어서,
    (i) 상기 지역적 임계치 맵을 기반으로 도로 표시 후보 맵을 생성하는 단계, (ii) 상기 도로 주변의 객체에 관한 레이블 맵을 기반으로 도로 표시 후보 맵을 필터링하는 단계, 및 (iii) 상기 제1 분류 모델을 이용하여 도로 기호를 인식하는 단계는 복수의 명령어를 동시에 병렬 처리하는 GPU(Graphics Processing Unit)에 의해 동작을 수행하며,
    (i) 상기 블롭 영역을 검출하는 단계 및 (ii) 상기 제2 분류 모델을 이용하여 차선을 인식하는 단계는 상기 복수의 명령어가 입력된 순서대로 직렬 처리하는 CPU(Central Processing Unit)에 의해 동작을 수행하는 것을 특징으로 하는 도로 기호 및 차선 인식 방법.
  11. 원근 시점에서 촬영된 도로 영상을 입력받는 입력부;
    상기 도로 영상의 화소에 대한 지역적 임계치 맵을 기반으로 상기 도로 영상으로부터 도로 표시 후보 맵을 생성하는 후보 맵 생성부;
    도로 주변의 객체에 관한 레이블 맵을 기반으로 상기 도로 표시 후보 맵을 필터링하는 후보 맵 필터링부;
    상기 필터링한 도로 표시 후보 맵을 평면 시점의 영상으로 변환하여 블롭 영역을 검출하는 블롭 영역 검출부; 및
    상기 블롭 영역에 대하여 분류 모델을 이용하여 도로 기호를 인식하고 차선을 인식하는 기호 및 차선 인식부를 포함하며,
    상기 블롭 영역 검출부는 이진화된 화소 및 상기 이진화된 화소의 이웃 화소들을 연결한 화소 집합을 생성하는 것을 특징으로 하는 도로 기호 및 차선 인식 장치.
  12. 제11항에 있어서,
    상기 후보 맵 생성부는,
    각 화소의 위치로부터 제1 방향으로 기 설정된 제1 범위 및 기 설정된 제2 방향으로 기 설정된 제2 범위 내에 존재하는 화소들의 대표값을 고려하여, 모든 화소에 대하여 각각의 임계치를 갖는 상기 지역적 임계치 맵을 생성하며, 상기 상기 지역적 임계치 맵과 상기 도로 영상을 비교하는 것을 특징으로 하는 도로 기호 및 차선 인식 장치.
  13. 삭제
  14. 제11항에 있어서,
    상기 후보 맵 필터링부는,
    컨볼루션 네트워크를 갖는 인코더 및 디컨볼루션 네트워크를 갖는 디코더를 이용하여 생성한 도로 주변의 객체에 관한 레이블 맵을 기초로 상기 도로 영상을 시맨틱 분할하고, 상기 도로 표시 후보 맵에서 기 설정된 밝은 색상을 갖는 객체를 제거하는 것을 특징으로 하는 도로 기호 및 차선 인식 장치.
  15. 제11항에 있어서,
    상기 기호 및 차선 인식부는 상기 블롭 영역에 대하여 제1 분류 모델을 이용하여 도로 기호를 인식하는 기호 인식부 및 제2 분류 모델을 이용하여 차선을 인식하는 차선 인식부를 포함하는 것을 특징으로 하는 도로 기호 및 차선 인식 장치.
  16. 제15항에 있어서,
    상기 기호 인식부는,
    상기 블롭 영역의 영상비(Aspect Ratio) 및 색상비를 기반으로 상기 블롭 영역을 필터링하며,
    하나 이상의 레이어에서 컨볼루션 연산자를 통해 특징을 추출하여 특징 맵을 생성하고, 상기 하나 이상의 레이어의 노드들은 네트워크로 연결되며, 상기 추출한 특징을 다른 레이어에 전달하고, 서브샘플링을 통해 상기 추출한 특징을 통합하여 공간적 차원을 축소시키는 과정을 수행하여, 복수의 심볼 및 네거티브로 분류하는 상기 제1 분류 모델을 생성하고 상기 제1 분류 모델의 파라미터를 학습하는 것을 특징으로 하는 도로 기호 및 차선 인식 장치.
  17. 제15항에 있어서,
    상기 차선 인식부는,
    상기 블롭 영역의 화소에 대해 주변 영역의 밝기 변화를 중심 화소와 비교하여 비트 스트링(Bit String)을 생성하고, 상기 블롭 영역을 형태적 윤곽을 강화한 영상으로 변환하며,
    상기 형태적 윤곽을 강화한 영상에 대하여 상기 제2 분류 모델을 이용하여 차선 및 배경으로 분류하는 것을 특징으로 하는 도로 기호 및 차선 인식 장치.
  18. 제17항에 있어서,
    상기 차선 인식부는,
    상기 형태적 윤곽을 강화한 영상을 복수의 제1 영역들로 분할하고, 상기 분할한 영역들의 일부를 오버랩한 복수의 제2 영역들에 대한 N차원 히스토그램을 생성하고, 상기 복수의 제2 영역들에 대한 N차원 히스토그램을 정규화하여 결합(Concatenate)한 특징 벡터에 대하여 상기 제2 분류 모델을 이용하여 차선 및 배경으로 분류하는 것을 특징으로 하는 도로 기호 및 차선 인식 장치.
  19. 제17항에 있어서,
    상기 차선 인식부는,
    상기 차선으로 분류한 블롭 영역에 대하여 차선의 길이를 기준으로 기 설정된 비율 이내의 차선을 제거하며,
    상기 차선으로 분류한 블롭 영역에 대하여 복수의 지점들 간의 각도에 관한 표준 편차를 기준으로 직선형의 차선을 필터링하는 것을 특징으로 하는 도로 기호 및 차선 인식 장치.
  20. 제15항에 있어서,
    (i) 상기 후보 맵 생성부, (ii) 후보 맵 필터링부, 및 (iii) 상기 기호 인식부는 복수의 명령어를 동시에 병렬 처리하는 GPU(Graphics Processing Unit)에 의해 동작을 수행하며,
    (i) 상기 블롭 영역 검출부 및 (ii) 상기 차선 인식부는 상기 복수의 명령어가 입력된 순서대로 직렬 처리하는 CPU(Central Processing Unit)에 의해 동작을 수행하는 것을 특징으로 하는 도로 기호 및 차선 인식 장치.
KR1020170149129A 2017-11-10 2017-11-10 도로 기호 및 차선 인식 방법 및 장치 KR101992398B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020170149129A KR101992398B1 (ko) 2017-11-10 2017-11-10 도로 기호 및 차선 인식 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170149129A KR101992398B1 (ko) 2017-11-10 2017-11-10 도로 기호 및 차선 인식 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20190053355A KR20190053355A (ko) 2019-05-20
KR101992398B1 true KR101992398B1 (ko) 2019-06-24

Family

ID=66678649

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170149129A KR101992398B1 (ko) 2017-11-10 2017-11-10 도로 기호 및 차선 인식 방법 및 장치

Country Status (1)

Country Link
KR (1) KR101992398B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102345987B1 (ko) 2020-11-09 2021-12-31 주식회사 해담디앤씨 포장도로면 표식 관리방법 및 관리방법 운용프로그램 기록매체
KR20220106894A (ko) 2021-01-22 2022-08-01 주식회사 드림티엔에스 도로 기호 및 문자 추출방법

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112862917A (zh) * 2019-11-28 2021-05-28 西安四维图新信息技术有限公司 地图采集方法及装置
CN113569596A (zh) * 2020-04-28 2021-10-29 千寻位置网络有限公司 卫星图像道路印刷物识别方法及其装置
KR102218881B1 (ko) * 2020-05-11 2021-02-23 네이버랩스 주식회사 차량 위치 결정 방법 및 시스템
KR102477218B1 (ko) * 2020-06-04 2022-12-13 네이버랩스 주식회사 고정밀지도생성장치 및 고정밀지도생성방법
KR102482427B1 (ko) * 2020-12-02 2022-12-29 한국도로공사 정밀도로지도 생성을 위한 교통안전표지 인식/추출 방법 및 시스템
CN112528878B (zh) * 2020-12-15 2024-01-09 中国科学院深圳先进技术研究院 检测车道线的方法、装置、终端设备及可读存储介质
KR102543871B1 (ko) * 2021-01-18 2023-06-20 네이버랩스 주식회사 도로정보 변화 영역 보완 방법 및 시스템
CN113065501B (zh) * 2021-04-15 2024-03-22 黑龙江惠达科技股份有限公司 苗线识别的方法、装置和农机

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101154350B1 (ko) * 2011-12-05 2012-06-14 주식회사네오아이 고해상도 영상의 객체 검지 및 분할 인식을 이용한 다중 영상처리시스템 및 방법

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100918259B1 (ko) * 2008-02-27 2009-09-18 주식회사 케이티 기지국 셀 구분자를 이용하여 교통 정보 및 경로 정보서비스를 제공하기 위한 장치 및 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101154350B1 (ko) * 2011-12-05 2012-06-14 주식회사네오아이 고해상도 영상의 객체 검지 및 분할 인식을 이용한 다중 영상처리시스템 및 방법

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102345987B1 (ko) 2020-11-09 2021-12-31 주식회사 해담디앤씨 포장도로면 표식 관리방법 및 관리방법 운용프로그램 기록매체
KR20220106894A (ko) 2021-01-22 2022-08-01 주식회사 드림티엔에스 도로 기호 및 문자 추출방법

Also Published As

Publication number Publication date
KR20190053355A (ko) 2019-05-20

Similar Documents

Publication Publication Date Title
KR101992398B1 (ko) 도로 기호 및 차선 인식 방법 및 장치
Greenhalgh et al. Recognizing text-based traffic signs
Bilal et al. Real-time lane detection and tracking for advanced driver assistance systems
Kakani et al. Improved OCR based automatic vehicle number plate recognition using features trained neural network
AU2020102039A4 (en) A high-precision multi-targets visual detection method in automatic driving scene
Kheyrollahi et al. Automatic real-time road marking recognition using a feature driven approach
Ashtari et al. An Iranian license plate recognition system based on color features
KR101596299B1 (ko) 교통 표지판 인식 방법 및 장치
KR101848019B1 (ko) 차량 영역 검출을 통한 차량 번호판 검출 방법 및 장치
Sheikh et al. Traffic sign detection and classification using colour feature and neural network
Gomez et al. Traffic lights detection and state estimation using hidden markov models
Danescu et al. Detection and classification of painted road objects for intersection assistance applications
CN105488492B (zh) 一种彩色图像预处理方法、道路识别方法及相关装置
Malik et al. Detection and recognition of traffic signs from road scene images
Youjin et al. A robust lane detection method based on vanishing point estimation
CN111191611A (zh) 基于深度学习的交通标志标号识别方法
WO2008020544A1 (en) Vehicle detection device, vehicle detection method, and vehicle detection program
Qin et al. A general framework for road marking detection and analysis
Gilly et al. A survey on license plate recognition systems
Chang et al. An efficient method for lane-mark extraction in complex conditions
Abedin et al. Traffic sign recognition using surf: Speeded up robust feature descriptor and artificial neural network classifier
Greenhalgh et al. Detection and Recognition of Painted Road Surface Markings.
Ahmed et al. Traffic sign detection and recognition model using support vector machine and histogram of oriented gradient
Khin et al. License plate detection of Myanmar vehicle images captured from the dissimilar environmental conditions
Lim et al. Vision-based recognition of road regulation for intelligent vehicle

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant