KR20200027427A - 차선 후보 픽셀의 분류를 통해 차선을 검출하는 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치 - Google Patents

차선 후보 픽셀의 분류를 통해 차선을 검출하는 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치 Download PDF

Info

Publication number
KR20200027427A
KR20200027427A KR1020190105473A KR20190105473A KR20200027427A KR 20200027427 A KR20200027427 A KR 20200027427A KR 1020190105473 A KR1020190105473 A KR 1020190105473A KR 20190105473 A KR20190105473 A KR 20190105473A KR 20200027427 A KR20200027427 A KR 20200027427A
Authority
KR
South Korea
Prior art keywords
pixel
lane
learning
pixels
line
Prior art date
Application number
KR1020190105473A
Other languages
English (en)
Other versions
KR102280395B1 (ko
Inventor
김계현
김용중
김인수
김학경
남운현
부석훈
성명철
여동훈
유우주
장태웅
정경중
제홍모
조호진
Original Assignee
주식회사 스트라드비젼
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 스트라드비젼 filed Critical 주식회사 스트라드비젼
Publication of KR20200027427A publication Critical patent/KR20200027427A/ko
Application granted granted Critical
Publication of KR102280395B1 publication Critical patent/KR102280395B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133—Distances to prototypes
    • G06F18/24137—Distances to cluster centroïds
    • G06F18/2414—Smoothing the distance, e.g. radial basis function networks [RBFN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • G06K9/00798—
    • G06K9/627—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588—Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/19—Recognition using electronic means
    • G06V30/191—Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
    • G06V30/19173—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/19—Recognition using electronic means
    • G06V30/192—Recognition using electronic means using simultaneous comparisons or correlations of the image signals with a plurality of references
    • G06V30/194—References adjustable by an adaptive method, e.g. learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning

Abstract

본 발명은 CNN(Convolutional Neural Network)에 기반한, 적어도 하나의 차선 검출을 위한 학습 방법에 있어서, (a) 학습 장치가 인코디드 특징 맵과 입력 이미지 내의 차선 후보 픽셀에 대한 정보를 획득하는 단계;(b) 학습 장치가, 확률 스코어가 기설정된 임계치보다 작은 차선 후보 픽셀의 제1 부분을 스트롱 라인 픽셀로 분류하고, 확률 스코어가 임계치 미만이고 다른 임계치 이상인 차선 후보 픽셀의 제2 부분을 위크 라인 픽셀로 분류하는 단계; 및 (c) 학습 장치가, 위크 라인 픽셀과 스트롱 라인 픽셀 사이의 거리가 기설정된 거리 미만인 경우, 위크 라인 픽셀을 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 스트롱 라인과 추가 스트롱 라인에 해당하는 픽셀이 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 단계;를 포함하는 방법이 제공한다.

Description

차선 후보 픽셀의 분류를 통해 차선을 검출하는 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치{LEARNING METHOD, LEARNING DEVICE FOR DETECTING LANE THROUGH CLASSIFICATION OF LANE CANDIDATE PIXELS AND TESTING METHOD, TESTING DEVICE USING THE SAME}
본 발명은 CNN(Convolutional Neural Network)에 기반한, 적어도 하나의 차선 검출을 위한 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치에 관한 것으로, 구체적으로는; 상기 CNN(Convolutional Neural Network)에 기반한, 적어도 하나의 차선 검출을 위한 상기 학습 방법에 있어서, (a) 입력 이미지가 획득되면, 학습 장치가 인코딩 레이어로 하여금 상기 입력 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 인코디드 특징 맵을 획득하고, 디코딩 레이어로 하여금 상기 인코딩 레이어로부터 출력된 특정 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 상기 입력 이미지 내의 적어도 하나의 차선 후보 픽셀에 대한 정보를 포함하는 세그멘테이션 결과를 획득하는 단계; (b) 상기 학습 장치가, 상기 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 상기 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 이상이면 상기 차선 후보 픽셀의 상기 제1부분을 적어도 하나의 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 상기 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 미만이고 상기 제2 임계치 이상이면 상기 제2 부분을 적어도 하나의 위크 라인(Weak Line)에 해당하는 픽셀로 분류하는 단계; 및 (c) 상기 학습 장치가, (i) 상기 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 상기 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 상기 특정 픽셀을 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 상기 제1 스트롱 라인에 해당하는 상기 픽셀과 상기 추가 스트롱 라인에 해당하는 상기 픽셀이 상기 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 단계;를 포함하는 것을 특징으로 하는 학습 방법 및 학습 장치 그리고 이를 바탕으로 한 테스트 방법 및 테스트 장치에 관한 것이다.
딥러닝은 사물이나 데이터를 군집화하거나 분류하는 데 사용하는 기술이다. 예를 들어 컴퓨터는 사진만으로 개와 고양이를 구분하지 못한다. 하지만 사람은 아주 쉽게 구분할 수 있다. 이를 위해 '기계학습(Machine Learning)'이라는 방법이 고안됐다. 많은 데이터를 컴퓨터에 입력하고 비슷한 것끼리 분류하도록 하는 기술이다. 저장된 개 사진과 비슷한 사진이 입력되면, 이를 개 사진이라고 컴퓨터가 분류하도록 한 것이다.
데이터를 어떻게 분류할 것인가를 놓고 이미 많은 기계학습 알고리즘이 등장했다. '의사결정나무'나 '베이지안망', '서포트벡터머신(SVM)', '인공신경망' 등이 대표적이다. 이 중 딥러닝은 인공신경망의 후예다.
딥 컨벌루션 뉴럴 네트워크(Deep Convolutional Neural Networks; Deep CNN)는 딥 러닝 분야에서 일어난 놀라운 발전의 핵심이다. CNN은 글자 인식 문제를 풀기 위해 90년대에 이미 사용되었지만, 현재처럼 널리 쓰이게 된 것은 최근의 연구 결과 덕분이다. 이러한 딥 CNN은 2012년 ImageNet 이미지 분류 시합에서 다른 경쟁자들을 이기고 우승을 차지했다. 그리고 나서 컨벌루션 뉴럴 네트워크는 기계 학습(Machine Learning) 분야에서 매우 유용한 툴이 되었다.
도 1은 종래 기술에 따라 딥 CNN을 이용해 사진에서 획득하고자 하는 다양한 출력의 예를 나타낸다.
분류(Classification)는 사진에서 식별하고자 하는 클래스(class)의 종류, 예들 들어, 도 1에 도시된 바와 같이, 획득된 객체가 사람인지, 양인지, 개인지 종류를 식별하는 방법이며, 검출(Detection)은 모든 객체를 찾고, 찾은 객체를 바운딩 박스(Bounding Box)에 둘러싸인 형태로 표시하는 방법이고, 세그멘테이션(segmentation)은 사진에서 특정 객체의 영역을 다른 객체와 구분하는 방법이다. 최근 딥러닝(Deep learning) 기술이 각광을 받으면서 분류, 검출 및 세그멘테이션 기술도 딥러닝을 많이 사용한다.
도 2는 CNN 을 이용한 기존의 차선 검출 방법을 간략하게 나타낸 도이고, 도 3은 일반적인 CNN 세그멘테이션 프로세스를 간략하게 나타낸 도이다.
우선, 도 3을 참조하면, 기존의 차선 검출 방법에서는, 학습 장치가, 입력 이미지를 입력 받아, 복수의 컨벌루션 레이어에서 컨벌루션 연산과 ReLU 등의 비선형 연산을 여러 번 수행하여 특징 맵을 획득하고 복수의 디컨벌루션 레이어에서 디컨벌루션 연산을 여러 번 수행하고 마지막 특징 맵에서 소프트맥스(SoftMax) 연산을 수행하여 세그멘테이션 결과를 얻는다.
또한, 도 2를 참조하면, 기존의 차선(Lane) 검출 방법의 세그멘테이션 결과는 도 2의 중간에 도시된 바와 같이 2가지(예를 들어 차선과 배경)로 구성된다. 이러한 세그멘테이션 결과는 확률 예측 값으로 나온다. 이렇게 선택된 차선 상의 후보 픽셀 중에서 선(Line)일 확률이 높은 픽셀만 샘플링하여 차선을 찾은 후, 찾은 차선 상의 픽셀로부터 얻은 차선 모델 함수를 이용해 최종적으로 차선을 결정한다.
한편, 도 2에 도시된 입력 이미지에서 CNN을 기반으로 적어도 하나의 차선을 검출하는 방법에 따르면, 차선일 확률이 낮은 소정 후보 픽셀은 차선 검출 프로세스에 사용되지 않는다. 예를 들어, 점선으로 이루어진 부분은 차선일 확률이 낮은 소정 후보 픽셀일 것이며, 입력 이미지 내에서 멀리 떨어져 있는 차선이나 차선의 굵기가 가는 경우에도 차선일 확률이 낮은 소정 후보 픽셀일 것이다. 앞서 말한 바와 같이 차선 중 하나일 확률이 낮다고 판단되는 소정 후보 픽셀은 차선으로 인식하지 않기 때문에, 끊어진 차선이 많이 발생하고, 긴 선을 얻기 어려운 문제점이 있었다.
본 발명은 상술한 문제점을 모두 해결하는 것을 그 목적으로 한다.
또한 본 발명은 원근법에 따라 이미지 내에 멀리 떨어진 차선도 잘 검출할 수 있는 방법을 제공하는 것을 다른 목적으로 한다.
또한 본 발명은 실제 차선에 해당하는 일부 픽셀이 차선일 확률이 낮은 픽셀로 판단될 경우에도 실제 차선을 정밀하게 검출하는 방법을 제공하는 것을 또 다른 목적으로 한다.
본 발명의 일 태양에 따르면, CNN(Convolutional Neural Network)에 기반한, 적어도 하나의 차선 검출을 위한 학습 방법에 있어서, (a) 입력 이미지가 획득되면, 학습 장치가 인코딩 레이어로 하여금 상기 입력 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 인코디드 특징 맵을 획득하고, 디코딩 레이어로 하여금 상기 인코딩 레이어로부터 출력된 특정 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 상기 입력 이미지 내의 적어도 하나의 차선 후보 픽셀에 대한 정보를 포함하는 세그멘테이션 결과를 획득하는 단계; (b) 상기 학습 장치가, 상기 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 상기 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 이상이면 상기 차선 후보 픽셀의 상기 제1부분을 적어도 하나의 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 상기 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 미만이고 상기 제2 임계치 이상이면 상기 제2 부분을 적어도 하나의 위크 라인(Weak Line)에 해당하는 픽셀로 분류하는 단계; 및 (c) 상기 학습 장치가, (i) 상기 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 상기 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 상기 특정 픽셀을 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 상기 제1 스트롱 라인에 해당하는 상기 픽셀과 상기 추가 스트롱 라인에 해당하는 상기 픽셀이 상기 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 단계;를 포함하는 것을 특징으로 한다.
일 실시예에서, 상기 (c) 단계 이후에, 상기 학습 장치는, (i) 상기 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 소정 픽셀과 (ii) 상기 추가 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제2 거리 미만인 경우, 상기 소정 픽셀을 상기 추가 스트롱 라인에 해당하는 픽셀로 분류하는 프로세스를 수행하고, 상기 추가 스트롱 라인에 해당하는 픽셀로 분류될 수 있는 소정 픽셀이 더 이상 없을 때까지 상기 프로세스를 반복한 후, 상기 제1 스트롱 라인에 해당하는 상기 픽셀 및 상기 추가 스트롱 라인에 해당하는 상기 픽셀이 상기 차선에 해당하는 상기 픽셀에 대응하는 것으로 판단하는 것을 특징으로 한다.
일 실시예에서, 상기 (c) 단계에서, (c1) (i) 상기 위크 라인에 해당하는 상기 픽셀 중 상기 특정 픽셀과 (ii) 상기 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부의 픽셀 사이의 거리가 상기 기설정된 제1 거리 미만인 경우, 상기 학습 장치가 상기 특정 픽셀을 상기 추가 스트롱 라인에 해당하는 상기 픽셀로 분류하는 단계; (c2) (i) 상기 위크 라인에 해당하는 상기 픽셀 중 상기 소정 픽셀과 (ii) 상기 추가 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부의 픽셀 사이의 거리가 상기 기설정된 제2 거리 미만인 경우, 상기 학습 장치가 상기 소정 픽셀을 상기 추가 스트롱 라인에 해당하는 상기 픽셀로 분류하는 단계; 및 (c3) 상기 학습 장치가, 상기 추가 스트롱 라인에 해당하는 픽셀로 분류될 수 있는 소정 픽셀이 더 이상 없을 때까지 상기 (c2) 단계를 반복한 후, 상기 제1 스트롱 라인에 해당하는 상기 픽셀 및 상기 추가 스트롱 라인에 해당하는 픽셀을 상기 차선에 해당하는 상기 픽셀로 판단하는 단계;를 포함하는 것을 특징으로 한다.
일 실시예에서, 상기 (c) 단계에서, 상기 학습 장치가, 상기 제1 스트롱 라인에 해당하는 상기 픽셀에 대응하는 차선의 방향에 대한 정보를 참조로 하여, 상기 위크 라인에 해당하는 상기 픽셀 각각이 상기 추가 스트롱 라인에 해당하는 상기 픽셀로 분류되는지 여부를 판단하되, 상기 제1 스트롱 라인에 해당하는 상기 픽셀이 상기 입력 이미지 내에서 특정 각도의 방향으로 군집을 이루고 있다고 판단되면, (I) 상기 위크 라인에 해당하는 상기 픽셀의 제1 부분이 상기 방향으로부터 기설정된 각도 이내에 있으면, 상기 학습 장치가 상기 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부의 픽셀로부터 제1 픽셀 거리 내에 상기 위크 라인에 해당하는 상기 픽셀의 상기 제1 부분이 존재하는지 여부를 판단하고, (II) 상기 위크 라인에 해당하는 상기 픽셀의 제2 부분이 상기 방향으로부터 상기 기설정된 각도 이내에 존재하지 않으면, 상기 학습 장치가 상기 제1 스트롱 라인에 해당하는 상기 픽셀의 적어도 일부로부터 제2 픽셀 거리 내에 상기 위크 라인에 해당하는 상기 픽셀의 상기 제2 부분이 존재하는지 여부를 판단하는 것을 특징으로 하며, 상기 제2 픽셀 거리는 상기 제1 픽셀 거리보다 작은 것을 특징으로 한다.
일 실시예에서, 상기 (c) 단계에서, 상기 학습 장치가, 다항식 피팅(Polynomial Fitting) 알고리즘 또는 스플라인 피팅(Spline Fitting) 알고리즘을 이용하여 상기 제1 스트롱 라인 및 상기 추가 스트롱 라인에 해당하는 상기 픽셀에 대응하는 상기 차선을 검출하는 것을 특징으로 한다.
일 실시예에서, 상기 기설정된 제1 거리는 2개의 가장 가까운 픽셀 사이의 거리인 것을 특징으로 한다.
일 실시예에서, 상기 기설정된 제1 거리는 소정 픽셀 및 상기 소정 픽셀로부터 제n 픽셀 사이의 거리인 것을 특징으로 한다.
일 실시예에서, (d) 상기 학습 장치가, 검출된 상기 차선 및 GT(Ground Truth) 차선을 참조로 하여 세그멘테이션 로스(Segmentation Loss)를 산출하는 단계; 및 (e) 상기 학습 장치가, 상기 세그멘테이션 로스를 사용하여 백프로파게이션(Backpropagation)을 수행함으로써 상기 CNN의 적어도 하나의 파라미터를 최적화하는 단계;를 더 포함하는 것을 특징으로 한다.
본 발명의 다른 태양에 따르면, CNN(Convolutional Neural Network)에 기반한, 적어도 하나의 차선 검출을 위한 테스트 방법에 있어서, (a) (I) 학습 장치가 인코딩 레이어로 하여금 트레이닝 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 학습용 인코디드 특징 맵을 획득하고, 디코딩 레이어로 하여금 상기 인코딩 레이어로부터 출력된 특정 학습용 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 상기 트레이닝 이미지 내의 적어도 하나의 학습용 차선 후보 픽셀에 대한 정보를 포함하는 학습용 세그멘테이션 결과를 획득하는 프로세스, (II) 상기 학습 장치가, 상기 학습용 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 상기 학습용 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 이상이면 상기 학습용 차선 후보 픽셀의 상기 제1부분을 적어도 하나의 학습용 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 상기 학습용 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 미만이고 상기 제2 임계치 이상이면 상기 제2 부분을 적어도 하나의 학습용 위크 라인(Weak Line)에 해당하는 픽셀로 분류하는 프로세스, (III) 상기 학습 장치가, (i) 상기 학습용 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 상기 학습용 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 상기 특정 픽셀을 적어도 하나의 학습용 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 상기 학습용 제1 스트롱 라인에 해당하는 상기 픽셀과 상기 학습용 추가 스트롱 라인에 해당하는 상기 특정 픽셀이 상기 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 프로세스, (IV) 상기 학습 장치가, 검출된 상기 차선 및 GT(Ground Truth) 차선을 참조로 하여 세그멘테이션 로스(Segmentation Loss)를 산출하는 프로세스 및 (V) 상기 학습 장치가, 상기 세그멘테이션 로스를 사용하여 백프로파게이션(Backpropagation)을 수행함으로써 상기 학습 장치의 적어도 하나의 파라미터를 최적화하는 프로세스를 수행한 상태에서, 테스트 장치가, 테스트 이미지를 획득하는 단계; (b) 상기 테스트 장치가, 상기 인코딩 레이어로 하여금 상기 테스트 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 테스트용 인코디드 특징 맵을 획득하고, 상기 디코딩 레이어로 하여금 상기 인코딩 레이어로부터 출력된 특정 테스트용 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 상기 테스트 이미지 내의 적어도 하나의 차선 후보 픽셀에 대한 정보를 포함하는 테스트용 세그멘테이션 결과를 획득하는 단계; (c) 상기 테스트 장치가, 상기 테스트용 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 상기 테스트용 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 이상이면 상기 테스트용 차선 후보 픽셀의 상기 제1부분을 적어도 하나의 테스트용 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 상기 테스트용 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 미만이고 상기 제2 임계치 이상이면 상기 제2 부분을 적어도 하나의 테스트용 위크 라인(Weak Line)에 해당하는 픽셀로 분류하는 단계; 및 (d) 상기 테스트 장치가, (i) 상기 테스트용 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 상기 테스트용 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리가 상기 기설정된 제1 거리 미만인 경우, 상기 특정 픽셀을 테스트용 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 상기 테스트용 제1 스트롱 라인에 해당하는 상기 픽셀과 상기 테스트용 추가 스트롱 라인에 해당하는 상기 픽셀이 상기 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 단계;를 포함하는 것을 특징으로 한다.
본 발명의 또 다른 태양에 따르면, CNN(Convolutional Neural Network)에 기반한, 적어도 하나의 차선 검출을 위한 학습 장치에 있어서, 입력 이미지를 획득하기 위한 통신부; 및 (I) 입력 이미지가 획득되면, 인코딩 레이어로 하여금 상기 입력 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 인코디드 특징 맵을 획득하고, 디코딩 레이어로 하여금 상기 인코딩 레이어로부터 출력된 특정 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 상기 입력 이미지 내의 적어도 하나의 차선 후보 픽셀에 대한 정보를 포함하는 세그멘테이션 결과를 획득하는 프로세스; (II) 상기 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 상기 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 이상이면 상기 차선 후보 픽셀의 상기 제1부분을 적어도 하나의 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 상기 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 미만이고 상기 제2 임계치 이상이면 상기 제2 부분을 적어도 하나의 위크 라인(Weak Line)에 해당하는 픽셀로 분류하는 프로세스; 및 (III) (i) 상기 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 상기 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 상기 특정 픽셀을 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 상기 제1 스트롱 라인에 해당하는 상기 픽셀과 상기 추가 스트롱 라인에 해당하는 상기 픽셀이 상기 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 프로세스;를 수행하는 프로세서를 포함하는 특징으로 한다.
일 실시예에서, 상기 (III) 프로세스 이후에, (i) 상기 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 소정 픽셀과 (ii) 상기 추가 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제2 거리 미만인 경우, 상기 프로세서는, 상기 소정 픽셀을 상기 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 상기 추가 스트롱 라인에 해당하는 픽셀로 분류될 수 있는 소정 픽셀이 더 이상 없을 때까지 상기 프로세스를 반복한 후, 상기 제1 스트롱 라인에 해당하는 상기 픽셀 및 상기 추가 스트롱 라인에 해당하는 상기 픽셀이 상기 차선에 해당하는 상기 픽셀에 대응하는 것으로 판단하는 것을 특징으로 한다.
일 실시예에서, 상기 (III) 프로세스에서, (III_1) (i) 상기 위크 라인에 해당하는 상기 픽셀 중 상기 특정 픽셀과 (ii) 상기 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부의 픽셀 사이의 거리가 상기 기설정된 제1 거리 미만인 경우, 상기 프로세서가 상기 특정 픽셀을 상기 추가 스트롱 라인에 해당하는 상기 픽셀로 분류하는 프로세스; (III_2) (i) 상기 위크 라인에 해당하는 상기 픽셀 중 상기 소정 픽셀과 (ii) 상기 추가 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부의 픽셀 사이의 거리가 상기 기설정된 제2 거리 미만인 경우, 상기 프로세서가 상기 소정 픽셀을 상기 추가 스트롱 라인에 해당하는 상기 픽셀로 분류하는 프로세스; 및 (III_3) 상기 프로세서가, 상기 추가 스트롱 라인에 해당하는 픽셀로 분류될 수 있는 소정 픽셀이 더 이상 없을 때까지 상기 (III_2) 프로세스를 반복한 후, 상기 제1 스트롱 라인에 해당하는 상기 픽셀 및 상기 추가 스트롱 라인에 해당하는 픽셀을 상기 차선에 해당하는 상기 픽셀로 판단하는 프로세스;를 포함하는 것을 특징으로 한다.
일 실시예에서, 상기 (III) 단계는, 상기 프로세서가, 상기 제1 스트롱 라인에 해당하는 상기 픽셀에 대응하는 차선의 방향에 대한 정보를 참조로 하여, 상기 위크 라인에 해당하는 상기 픽셀 각각이 상기 추가 스트롱 라인에 해당하는 상기 픽셀로 분류되는지 여부를 판단하되, 상기 제1 스트롱 라인에 해당하는 상기 픽셀이 상기 입력 이미지 내에서 특정 각도의 방향으로 군집을 이루고 있다고 판단되면, (1) 상기 위크 라인에 해당하는 상기 픽셀의 상기 제1 부분이 상기 방향으로부터 기설정된 각도 이내에 있으면, 상기 프로세서가 상기 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부의 픽셀로부터 제1 픽셀 거리 내에 상기 위크 라인에 해당하는 상기 픽셀의 상기 제1 부분이 존재하는지 여부를 판단하고, (2) 상기 위크 라인에 해당하는 상기 픽셀의 제2 부분이 상기 방향으로부터 상기 기설정된 각도 이내에 존재하지 않으면, 상기 프로세서가 상기 제1 스트롱 라인에 해당하는 상기 픽셀의 적어도 일부로부터 제2 픽셀 거리 내에 상기 위크 라인에 해당하는 상기 픽셀의 상기 제2 부분이 존재하는지 여부를 판단하는 것을 특징으로 하며, 상기 제2 픽셀 거리는 상기 제1 픽셀 거리보다 작은 것을 특징으로 한다.
일 실시예에서, 상기 (III) 단계에서, 상기 프로세서가, 다항식 피팅(Polynomial Fitting) 알고리즘 또는 스플라인 피팅(Spline Fitting) 알고리즘을 이용하여 상기 제1 스트롱 라인 및 상기 추가 스트롱 라인에 해당하는 상기 픽셀에 대응하는 상기 차선을 검출하는 것을 특징으로 한다.
일 실시예에서, 상기 기설정된 제1 거리는 바로 2개의 가장 가까운 픽셀 사이의 거리인 것을 특징으로 한다.
일 실시예에서, 상기 기설정된 제1 거리는 소정 픽셀 및 상기 소정 픽셀로부터 제n 픽셀 사이의 거리인 것을 특징으로 한다.
일 실시예에서, 상기 프로세서가 (IV) 검출된 상기 차선 및 GT(Ground Truth) 차선을 참조로 하여 세그멘테이션 로스(Segmentation Loss)를 산출하는 프로세스; 및 (V) 상기 학습 장치가, 상기 세그멘테이션 로스를 사용하여 백프로파게이션(Backpropagation)을 수행함으로써 상기 CNN의 적어도 하나의 파라미터를 최적화하는 프로세스;를 더 수행하는 것을 특징으로 한다.
본 발명의 또 다른 태양에 따르면, CNN(Convolutional Neural Network) 기반 이미지에 포함된 적어도 하나의 차선 검출을 위한 테스트 장치에 있어서, (I) 학습 장치가 인코딩 레이어로 하여금 트레이닝 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 학습용 인코디드 특징 맵을 획득하고, 디코딩 레이어로 하여금 상기 인코딩 레이어로부터 출력된 특정 학습용 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 상기 트레이닝 이미지 내의 적어도 하나의 학습용 차선 후보 픽셀에 대한 정보를 포함하는 학습용 세그멘테이션 결과를 획득하는 프로세스; (II) 상기 학습 장치가, 상기 학습용 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 상기 학습용 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 이상이면 상기 학습용 차선 후보 픽셀의 상기 제1부분을 적어도 하나의 학습용 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 상기 학습용 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 미만이고 상기 제2 임계치 이상이면 상기 제2 부분을 적어도 하나의 학습용 위크 라인(Weak Line)에 해당하는 픽셀로 분류하는 프로세스; (III) 상기 학습 장치가, (i) 상기 학습용 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 상기 학습용 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 상기 특정 픽셀을 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 상기 학습용 제1 스트롱 라인에 해당하는 상기 픽셀과 상기 추가 스트롱 라인에 해당하는 상기 특정 픽셀이 상기 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 프로세스; (IV) 상기 학습 장치가 검출된 상기 차선 및 GT(Ground Truth) 차선을 참조로 하여 세그멘테이션 로스(Segmentation Loss)를 산출하는 프로세스; 및 (V) 상기 학습 장치가, 상기 세그멘테이션 로스를 사용하여 백프로파게이션(Backpropagation)을 수행함으로써 상기 CNN의 적어도 하나의 파라미터를 최적화하는 프로세스;를 수행한 상태에서, 테스트 이미지를 획득하는 통신부; (1) 인코딩 레이어로 하여금 테스트 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 테스트용 인코디드 특징 맵을 획득하고, 디코딩 레이어로 하여금 상기 인코딩 레이어로부터 출력된 특정 테스트용 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 상기 테스트 이미지 내의 적어도 하나의 테스트용 차선 후보 픽셀에 대한 정보를 포함하는 테스트용 세그멘테이션 결과를 획득하는 프로세스; (2) 상기 테스트용 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 상기 테스트용 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 이상이면 상기 테스트용 차선 후보 픽셀의 상기 제1부분을 적어도 하나의 테스트용 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 상기 테스트용 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 미만이고 상기 제2 임계치 이상이면 상기 제2 부분을 적어도 하나의 테스트용 위크 라인(Weak Line)에 해당하는 픽셀로 분류하는 프로세스; (3) (i) 상기 테스트용 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 상기 테스트용 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 상기 특정 픽셀을 테스트용 추가 스트롱 라인에 해당하는 적어도 하나의 픽셀로 분류하고, 상기 제1 스트롱 라인에 해당하는 상기 픽셀과 상기 테스트용 추가 스트롱 라인에 해당하는 상기 픽셀이 상기 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 프로세스;를 수행하는 프로세서;를 포함하는 것을 특징으로 한다.
본 발명에 따르면, 세그멘테이션 결과로 획득한 확률 맵에서 차선이 될 확률이 높은 차선 후보 픽셀뿐만 아니라, 차선일 확률이 낮은 차선 후보 픽셀을 활용하여 정확하게 차선을 검출할 수 있는 효과가 있다.
본 발명에 따르면, 실제 차선에 해당함에도 차선일 확률이 낮은 픽셀로 판단되는 일부 차선 후보 픽셀이 차선의 부분으로 정확하게 검출되기에, 이미지 내의 끊어진 차선이나, 가는 차선, 멀리 떨어진 차선도 쉽게 검출할 수 있는 다른 효과가 있다.
본 발명의 실시예의 설명에 이용되기 위하여 첨부된 아래 도면들은 본 발명의 실시예들 중 단지 일부일 뿐이며, 본 발명이 속한 기술분야에서 통상의 지식을 가진 자(이하 “통상의 기술자”)에게 있어서는 발명적 작업이 이루어짐 없이 이 도면들에 기초하여 다른 도면들이 얻어질 수 있다.
도 1은 기존의 CNN을 이용해 사진에서 획득하고자 하는 다양한 출력의 예를 간략하게 나타낸다.
도 2는 기존의 CNN 을 이용한 기존의 차선 검출 방법을 간략하게 나타낸 도이다.
도 3은 기존의 CNN을 이용한 일반적인 세그멘테이션의 기존 프로세스를 간략하게 나타낸 도이다.
도 4는 본 발명에 따른 CNN 기반 차선 검출 방법을 나타낸 흐름도이다.
도 5는 본 발명에 따른 위크 라인(Weak Line)에 대응하는 픽셀을 스트롱 라인(Strong Line)에 대응하는 픽셀로 분류하는 모습을 예시적으로 나타낸다.
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다.
또한, 본 발명의 상세한 설명 및 청구항들에 걸쳐, “포함하다”라는 단어 및 그것의 변형은 다른 기술적 특징들, 부가물들, 구성요소들 또는 단계들을 제외하는 것으로 의도된 것이 아니다. 통상의 기술자에게 본 발명의 다른 목적들, 장점들 및 특성들이 일부는 본 설명서로부터, 그리고 일부는 본 발명의 실시로부터 드러날 것이다. 아래의 예시 및 도면은 실례로서 제공되며, 본 발명을 한정하는 것으로 의도된 것이 아니다.
더욱이 본 발명은 본 명세서에 표시된 실시예들의 모든 가능한 조합들을 망라한다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.
본 발명에서 언급하는 각종 이미지는 포장 또는 비포장 도로 관련 이미지를 포함할 수 있으며, 이 경우 도로 환경에서 등장할 수 있는 물체(가령, 자동차, 사람, 동물, 식물, 물건, 건물, 비행기나 드론과 같은 비행체, 기타 장애물)를 상정할 수 있을 것이나, 반드시 이에 한정되는 것은 아니며, 본 발명에서 언급하는 각종 이미지는 도로와 상관 없는 이미지(가령, 비포장도로, 골목길, 공터, 바다, 호수, 강, 산, 숲, 사막, 하늘, 실내와 관련된 이미지)일 수도 있으며, 이 경우, 비포장도로, 골목길, 공터, 바다, 호수, 강, 산, 숲, 사막, 하늘, 실내 환경에서 등장할 수 있는 물체(가령, 자동차, 사람, 동물, 식물, 물건, 건물, 비행기나 드론과 같은 비행체, 기타 장애물)를 상정할 수 있을 것이나, 반드시 이에 한정되는 것은 아니다.
이하, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 바람직한 실시예들에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.
도 4는 본 발명에 따른 CNN 기반 차선 검출 방법을 나타낸 흐름도이다.
도 4를 참조하면, 본 발명에 따른 CNN 기반 차선 검출 방법은 입력 이미지에 컨벌루션 연산을 적어도 한 번 적용하도록 하여 적어도 하나의 특징 맵을 획득하고, 디컨벌루션 연산을 적어도 한 번 적용하도록 하여 세그멘테이션 결과를 획득하는 단계(S01), 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 제2 임계치와 비교하여 차선 후보 픽셀을 제1 스트롱 라인(First Strong Line)에 대응하는 픽셀 또는 제1 위크 라인(First Weak Line)에 대응하는 픽셀로 분류하는 단계(S02), (i) 위크 라인에 해당하는 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 제1 스트롱 라인에 해당하는 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 특정 픽셀을 적어도 하나의 추가 스트롱 라인에 해당하는 픽셀로 분류하는 단계(S03), (i) 위크 라인에 해당하는 픽셀 중 적어도 하나의 소정 픽셀과 (ii) 추가 스트롱 라인에 해당하는 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제2 거리 미만인 경우, 소정 픽셀을 추가 스트롱 라인에 해당하는 픽셀로 분류하는 단계(S04), 추가 스트롱 라인에 해당하는 픽셀로 분류될 수 있는 소정 픽셀이 더 이상 없을 때까지 S04 단계를 반복하는 단계(S05), 스트롱 라인에 해당하는 픽셀 및 추가 스트롱 라인에 해당하는 픽셀을 차선에 해당하는 픽셀로 판단하는 단계(S06), 검출된 차선 및 GT(Ground Truth) 차선을 참조로 하여 세그멘테이션 로스를 산출하는 단계(S07), 세그멘테이션 로스를 사용하여 백프로파게이션을 수행함으로써 CNN의 적어도 하나의 파라미터를 최적화하는 단계(S08) 및 CNN의 최적화된 파라미터를 이용하여 차선 검출을 위한 테스트 장치가 차선 검출 프로세스를 수행하는 단계(S09)를 포함한다. 하지만 S01부터 S09까지의 모든 단계를 수행할 필요는 없다.
본 발명에 따른 CNN 기반 차선 검출 방법은 세그멘테이션 결과로 얻은 확률 맵에 대한 후처리(Post-Processing)와 관련 있으며, 이는 2개의 과정으로 이루어진다. 제1 프로세스는 차선 후보 픽셀을 검출하는 프로세스다. 기존의 기술에 따라 세그멘테이션 결과를 참조로 하여 차선 픽셀을 바로 검출하는 프로세스와 달리, 이 프로세스에서, 차선일 확률이 높은 픽셀뿐만 아니라, 소정 픽셀 자체가 차선에 포함될 확률은 상대적으로 낮지만, 차선일 확률이 높은 일부 픽셀에 인접한 상기 소정 픽셀도 차선 픽셀로서 판단된다. 그런 다음 제2 프로세스에서 이렇게 판단된 차선 픽셀을 2D 점으로 간주하고 근접 픽셀에 다항식 피팅(Polynomial Fitting) 알고리즘 또는 스플라인 피팅(Spline Fitting) 알고리즘을 적용해 정제된 차선을 획득한다. 여기서, 차선 후보 픽셀은 세그멘테이션 결과로 차선 픽셀이 될 수 있는 후보 픽셀들을 의미하고, 차선 픽셀은 차선일 확률이 높은 픽셀로 선택된 픽셀을 의미한다. 차선일 확률이 매우 높은 픽셀은 모두 차선 픽셀로 결정되지만, 차선일 확률이 매우 높지 않다면 본 발명에 따른 프로세스가 수행된 후 그 일부가 차선 픽셀로 결정될 수도 있다.
구체적으로, 도 4를 참조하면, S01 단계에서, 학습 장치가 트레이닝 이미지를 통신부를 통해 획득하면, 학습 장치가 인코딩 레이어로 하여금 상기 트레이닝 이미지에 대해 컨벌루션 연산 및 ReLU 등의 비선형 연산 등을 적어도 한 번 적용하도록 하여 적어도 하나의 인코디드 특징 맵을 획득한다. 그런 다음, 학습 장치가 디코딩 레이어로 하여금 인코딩 레이어에서 출력된 특정 인코디드 특징 맵에 대하여 추가 연산(예를 들어, 디컨벌루션 연산이나 소프트 맥스 연산)을 적용하도록 하여, 입력 이미지 내의 적어도 하나의 차선 후보 픽셀에 대한 정보를 포함하는 세그멘테이션 결과를 획득한다. 그리고 세그멘테이션 결과를 이용하여 트레이닝 이미지의 각각의 픽셀이 차선의 일부일 확률 각각을 나타내는 확률 맵이 생성된다.
그리고, S02 단계에서, 확률 맵 내의 차선 후보 픽셀에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 기설정된 제2 임계치와 비교한다. 이때, 제1 임계치는 제2 임계치보다 큰 값으로 설정된다. 만일 차선 후보 픽셀의 확률 스코어 또는 그 가공값이 제1 임계치 이상이면 차선 후보 픽셀을 제1 스트롱 라인에 해당하는 픽셀로 분류한다. 제1 스트롱 라인에 해당하는 픽셀은 기존 기술에서 “차선 후보 픽셀”에 대응하며, 기설정된 제1 임계치는 기존 기술에서 차선 후보 픽셀을 배경과 구분하는 기준 값이 된다.
또한, 차선 후보 픽셀의 확률 스코어가 기설정된 제1 임계치와 기설정된 제2 임계치 사이의 값이라면 차선 후보 픽셀을 위크 라인에 해당하는 픽셀로 분류한다. 그리고 차선 후보 픽셀의 확률 스코어가 기설정된 제2 임계치 미만이면 차선 후보 픽셀을 어느 차선에도 포함되어 있지 않은 픽셀로 분류한다.
그런 다음 (I) (i) 위크 라인에 해당하는 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 제1 스트롱 라인에 해당하는 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 특정 픽셀을 적어도 하나의 추가 스트롱 라인에 해당하는 픽셀로 분류하고, (II) (i) 위크 라인에 해당하는 픽셀 중 적어도 하나의 소정 픽셀과 (ii) 추가 스트롱 라인에 해당하는 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제2 거리 미만인 경우, 소정 픽셀을 추가 스트롱 라인에 해당하는 픽셀로 분류한다. 이때, 추가 스트롱 라인에 해당하는 픽셀로 분류될 수 있는 소정 픽셀이 더 이상 없을 때까지 앞서 말한 프로세스를 반복한 후, 제1 스트롱 라인에 해당하는 픽셀 및 추가 스트롱 라인에 해당하는 픽셀을 차선에 해당하는 픽셀로 판단한다.
도 5는 본 발명에 따른 위크 라인에 해당하는 픽셀을 스트롱 라인에 해당하는 픽셀로 분류하는 프로세스를 도표로 나타낸다.
도 5를 참조하면, S03 단계에서는 (i) 위크 라인에 해당하는 픽셀 중 특정 픽셀과 (ii) 제1 스트롱 라인에 해당하는 픽셀 중 적어도 일부의 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 특정 픽셀이 적어도 하나의 추가 스트롱 라인에 해당하는 픽셀로 분류된다. 예를 들어, 입력 이미지 내에 제1 스트롱 라인에 해당하는 픽셀이 100개 있는 경우, 100개의 픽셀 중 적어도 일부에 근접한 적어도 하나의 영역 내에 위크 라인에 해당하는 픽셀이 존재하는지 여부가 확인된다. 100개의 픽셀 중 적어도 일부에 근접한 영역 내에 위크 라인에 해당하는 픽셀이 존재할 경우, 위크 라인에 해당하는 픽셀은 추가 스트롱 라인에 해당하는 픽셀로 분류될 것이다. 이때, 100개의 픽셀 모두에 근접한 영역 내에 위크 라인에 해당하는 픽셀이 존재하는지 여부를 확인할 필요는 없다.
이때, 상기 기설정된 제1 거리는 2개의 가장 가까운 픽셀 사이의 거리와 같은 짧은 거리 또는 n개의 픽셀에 의해 규정되는 거리와 같은 먼 거리일 수도 있을 것이다.
덧붙여, 학습 장치가 제1 스트롱 라인에 해당하는 픽셀에 대응하는 차선의 방향에 대한 정보를 참조하여 위크 라인에 대응하는 픽셀 각각이 추가 스트롱 라인에 대응하는 픽셀로 분류될지 여부를 판단한다. 예를 들어, 제1 스트롱 라인에 해당하는 픽셀이 입력 이미지 내에서 특정 각도의 방향으로 군집을 이루고 있다면, (I) 위크 라인에 해당하는 픽셀의 제1 부분이 상기 방향으로부터 기설정된 각도 이내에 있으면, 제1 스트롱 라인에 해당하는 픽셀 중 적어도 일부의 픽셀로부터 제1 픽셀 거리 내에 위크 라인에 해당하는 픽셀의 제1 부분이 존재하는지 여부가 판단되고, (II) 위크 라인에 해당하는 픽셀의 제2 부분이 상기 방향으로부터 기설정된 각도 이내에 존재하지 않으면, 제1 스트롱 라인에 해당하는 픽셀의 적어도 일부로부터 제2 픽셀 거리 내에 위크 라인에 해당하는 픽셀의 제2 부분이 존재하는지 여부가 판단된다. 이때, 제2 픽셀 거리는 제1 픽셀 거리보다 작다.
그리고, S03 단계에서 특정 픽셀을 추가 스트롱 라인에 해당하는 픽셀로 분류하는 프로세스가 끝낸 상태이기 때문에, S04 단계에서 추가 스트롱 라인에 해당하는 픽셀로 분류된 픽셀에 대해 S03 단계와 유사한 프로세스가 진행된다. 즉, S04 단계에서 (i) 위크 라인에 해당하는 픽셀 중 적어도 하나의 소정 픽셀과 (ii) 추가 스트롱 라인에 해당하는 픽셀 중 적어도 일부의 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제2 거리 미만인 경우, 소정 픽셀이 추가 스트롱 라인에 해당하는 픽셀로 분류된다. 다시 말해, 제1 스트롱 라인에 해당하는 픽셀에 위크 라인에 해당하는 픽셀이 인접하여 존재하게 되면, 이 위크 라인에 해당하는 픽셀들은 S04 단계를 통해 추가 스트롱 라인에 해당하는 픽셀로 순차적으로 분류될 것이다.
이 경우에도, (i) 위크 라인에 해당하는 픽셀 중 소정 픽셀과 (ii) 추가 스트롱 라인에 해당하는 픽셀 중 적어도 일부의 픽셀 사이의 거리가 추가 스트롱 라인에 해당하는 모든 픽셀에 대하여 산출될 수 있다. 예를 들어, 추가 스트롱 라인에 해당하는 픽셀의 수가 50개라면, 50 개의 픽셀 각각에 대한 거리가 산출될 수 있다.
그리고, S05 단계에서, 추가 스트롱 라인에 해당하는 픽셀로 분류될 수 있는 소정 픽셀이 더 이상 없을 때까지 S04 단계를 반복한다. 즉, 추가 스트롱 라인에 해당하는 픽셀에 근접한, 위크 라인에 해당하는 픽셀이 더 이상 없을 때까지 S04 단계를 반복한다. 이를 통해, 제1 스트롱 라인에 해당하는 픽셀에 인접하여 군집을 이루는 위크 라인에 해당하는 픽셀은 추가 스트롱 라인에 해당하는 픽셀로 분류되지만, 제1 스트롱 라인에 해당하는 픽셀로부터 동떨어져 있거나 위크 라인에 해당하는 픽셀끼리만 군집을 이루는 방식으로 군집된 픽셀은 그대로 위크 라인에 해당하는 픽셀로 남게 된다.
도 5에는 입력 이미지 내에서 실제 차선(51) 주변에 제1 스트롱 라인에 해당하는 픽셀(52)과 위크 라인에 해당하는 픽셀(53, 54)이 검출되는 예가 도시된다. 제1 스트롱 라인에 해당하는 픽셀(52)은 실제 차선에 해당하는 픽셀로 처음부터 간주된다. 그리고 위크 라인에 해당되는 픽셀(53, 54) 중에서 (i) 제1 스트롱 라인에 해당하는 픽셀(52)에 인접한 위크 라인에 해당하는 픽셀(53) 및 (ii) 제1 스트롱 라인에 해당하는 픽셀(52)에 인접한 위크 라인에 해당하는 픽셀(53)에 인접한 다른 픽셀(즉 제1 스트롱 라인에 해당하는 픽셀(52)과 직접 또는 간접적으로 이웃하여 군집을 이루는 픽셀)은 추가 스트롱 라인에 해당하는 픽셀로 식별된다. 그러나, 도 5에 도시된 바와 같이 제1 스트롱 라인에 해당하는 픽셀(52)에 인접한 위크 라인에 해당하는 픽셀(53)로부터 멀리 떨어진 위크 라인에 해당하는 픽셀(54)은 추가 스트롱 라인에 해당하는 픽셀로 분류되지 않고 그대로 위크 라인에 해당하는 픽셀로 남게 된다.
한편, S06 단계에서 제1 스트롱 라인에 해당하는 픽셀 및 추가 스트롱 라인에 해당하는 픽셀은 차선에 해당하는 픽셀(즉, 실제 차선에 해당하는 픽셀)에 대응한다고 판단된다. 즉, S03 단계 내지 S05 단계를 거친 후, 제1 스트롱 라인에 해당하는 픽셀과 추가 스트롱 라인에 해당하는 픽셀은 차선에 해당하는 픽셀로 판단된 후, 상기 제1 스트롱 라인 및 상기 추가 스트롱 라인에 해당하는 픽셀에 대응하는 실제 차선은 다항식 피팅(Polynomial Fitting) 알고리즘 또는 스플라인 피팅(Spline Fitting) 알고리즘을 이용하여 정확하게 검출된다.
도 5를 참조하면, 제1 스트롱 라인에 해당하는 픽셀과 위크 라인에 해당하는 픽셀 중 추가 스트롱 라인에 해당하는 픽셀이 차선에 해당하는 픽셀에 대응하는 것으로 판단되면 실제 라인(51)과 유사한 결과가 출력될 수 있다.
그런 다음, 검출된 차선과 GT 차선을 참조로 하여 세그멘테이션 로스가 산출되는 단계(S07) 및 세그멘테이션 로스를 이용해 백프로파게이션을 수행하여 CNN의 적어도 하나의 파라미터를 최적화하는 단계(S08)를 수행한다.
S09 단계에서 CNN의 최적화된 파라미터를 이용한 테스트 장치로 차선 검출 프로세스를 수행한다. 즉, S09 단계에서는 이전 단계를 통해 학습된 학습 장치의 최적화된 파라미터가 획득된 상태에서, 테스트 장치를 이용하여 차선 검출 프로세스를 수행한다.
참고로 이하의 설명에서 혼동을 피하기 위해 “학습용”이란 문구는 앞서 설명한 학습 프로세스와 관련된 용어에 대해 추가되고, “테스트용”이란 문구는 테스트 프로세스와 관련된 용어로 추가된다.
즉, 트레이닝 이미지가 획득되면, 학습 장치가 인코딩 레이어로 하여금 트레이닝 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 학습용 인코디드 특징 맵을 획득하고, 디코딩 레이어로 하여금 상기 인코딩 레이어로부터 출력된 특정 학습용 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 상기 트레이닝 이미지 내의 적어도 하나의 학습용 차선 후보 픽셀에 대한 정보를 포함하는 학습용 세그멘테이션 결과를 획득하는 프로세스, (II) 학습 장치가, 학습용 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 학습용 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 제1 임계치 이상이면 학습용 차선 후보 픽셀의 제1부분을 적어도 하나의 학습용 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 학습용 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 제1 임계치 미만이고 제2 임계치 이상이면 제2 부분을 적어도 하나의 학습용 위크 라인(Weak Line)에 해당하는 픽셀로 분류하는 프로세스, (III) 학습 장치가, (i) 학습용 위크 라인에 해당하는 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 학습용 제1 스트롱 라인에 해당하는 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 특정 픽셀을 적어도 하나의 학습용 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 학습용 제1 스트롱 라인에 해당하는 픽셀과 학습용 추가 스트롱 라인에 해당하는 특정 픽셀이 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 프로세스, (IV) 학습 장치가, 검출된 차선 및 GT(Ground Truth) 차선을 참조로 하여 세그멘테이션 로스(Segmentation Loss)를 산출하는 프로세스 및 (V) 학습 장치가, 세그멘테이션 로스를 사용하여 백프로파게이션(Backpropagation)을 수행함으로써 학습 장치의 적어도 하나의 파라미터를 최적화하는 프로세스를 수행한 상태에서, 테스트 장치가, 테스트 이미지를 획득한다.
테스트 장치가, 인코딩 레이어로 하여금 테스트 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 테스트용 인코디드 특징 맵을 획득하고, 디코딩 레이어로 하여금 인코딩 레이어로부터 출력된 특정 테스트용 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 테스트 이미지 내의 적어도 하나의 차선 후보 픽셀에 대한 정보를 포함하는 테스트용 세그멘테이션 결과를 획득한다.
테스트 장치가, 테스트용 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 테스트용 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 제1 임계치 이상이면 테스트용 차선 후보 픽셀의 제1부분을 적어도 하나의 테스트용 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 테스트용 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 제1 임계치 미만이고 제2 임계치 이상이면 제2 부분을 적어도 하나의 테스트용 위크 라인(Weak Line)에 해당하는 픽셀로 분류한다.
테스트 장치가, (i) 테스트용 위크 라인에 해당하는 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 테스트용 제1 스트롱 라인에 해당하는 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 상기 기설정된 제1 거리 미만인 경우, 특정 픽셀을 테스트용 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 테스트용 제1 스트롱 라인에 해당하는 픽셀과 테스트용 추가 스트롱 라인에 해당하는 픽셀이 차선에 해당하는 픽셀에 대응하는 것으로 판단한다.
이때, 테스트 장치는 다항식 피팅(Polynomial Fitting) 알고리즘 또는 스플라인 피팅(Spline Fitting) 알고리즘을 이용하여 제1 스트롱 라인 및 추가 스트롱 라인에 해당하는 픽셀에 대응하는 차선을 정확하게 검출할 수 있다.
한편, S01 단계 내지 S09 단계는 학습 장치의 프로세서에서 수행되고 S01 단계 내지 S06 단계는 테스트 장치의 프로세서에서 수행된다.
본 발명 기술분야의 통상의 기술자에게 이해될 수 있는 바로서, 위에서 설명된 이미지, 예컨대 트레이닝 이미지, 테스트 이미지와 같은 이미지 데이터의 송수신이 학습 장치 및 테스트 장치의 통신부들에 의하여 이루어질 수 있으며, 특징 맵과 연산을 수행하기 위한 데이터가 학습 장치 및 테스트 장치의 프로세서(및/또는 메모리)에 의하여 보유/유지될 수 있고, 컨벌루션 연산, 디컨벌루션 연산, 로스 값 연산 과정이 주로 학습 장치 및 테스트 장치의 프로세서에 의하여 수행될 수 있으나, 본 발명이 이에 한정되지는 않을 것이다.
이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.

Claims (18)

  1. CNN(Convolutional Neural Network)에 기반한, 적어도 하나의 차선 검출을 위한 학습 방법에 있어서,
    (a) 입력 이미지가 획득되면, 학습 장치가 인코딩 레이어로 하여금 상기 입력 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 인코디드 특징 맵을 획득하고, 디코딩 레이어로 하여금 상기 인코딩 레이어로부터 출력된 특정 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 상기 입력 이미지 내의 적어도 하나의 차선 후보 픽셀에 대한 정보를 포함하는 세그멘테이션 결과를 획득하는 단계;
    (b) 상기 학습 장치가, 상기 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 상기 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 이상이면 상기 차선 후보 픽셀의 상기 제1부분을 적어도 하나의 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 상기 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 미만이고 상기 제2 임계치 이상이면 상기 제2 부분을 적어도 하나의 위크 라인(Weak Line)에 해당하는 픽셀로 분류하는 단계; 및
    (c) 상기 학습 장치가, (i) 상기 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 상기 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 상기 특정 픽셀을 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 상기 제1 스트롱 라인에 해당하는 상기 픽셀과 상기 추가 스트롱 라인에 해당하는 상기 픽셀이 상기 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 단계;
    를 포함하는 것을 특징으로 하는 학습 방법.
  2. 제 1 항에 있어서,
    상기 (c) 단계 이후에,
    상기 학습 장치는, (i) 상기 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 소정 픽셀과 (ii) 상기 추가 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제2 거리 미만인 경우, 상기 소정 픽셀을 상기 추가 스트롱 라인에 해당하는 픽셀로 분류하는 프로세스를 수행하고, 상기 추가 스트롱 라인에 해당하는 픽셀로 분류될 수 있는 소정 픽셀이 더 이상 없을 때까지 상기 프로세스를 반복한 후, 상기 제1 스트롱 라인에 해당하는 상기 픽셀 및 상기 추가 스트롱 라인에 해당하는 상기 픽셀이 상기 차선에 해당하는 상기 픽셀에 대응하는 것으로 판단하는 것을 특징으로 하는 학습 방법.
  3. 제 2 항에 있어서,
    상기 (c) 단계에서,
    (c1) (i) 상기 위크 라인에 해당하는 상기 픽셀 중 상기 특정 픽셀과 (ii) 상기 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부의 픽셀 사이의 거리가 상기 기설정된 제1 거리 미만인 경우, 상기 학습 장치가 상기 특정 픽셀을 상기 추가 스트롱 라인에 해당하는 상기 픽셀로 분류하는 단계;
    (c2) (i) 상기 위크 라인에 해당하는 상기 픽셀 중 상기 소정 픽셀과 (ii) 상기 추가 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부의 픽셀 사이의 거리가 상기 기설정된 제2 거리 미만인 경우, 상기 학습 장치가 상기 소정 픽셀을 상기 추가 스트롱 라인에 해당하는 상기 픽셀로 분류하는 단계; 및
    (c3) 상기 학습 장치가, 상기 추가 스트롱 라인에 해당하는 픽셀로 분류될 수 있는 소정 픽셀이 더 이상 없을 때까지 상기 (c2) 단계를 반복한 후, 상기 제1 스트롱 라인에 해당하는 상기 픽셀 및 상기 추가 스트롱 라인에 해당하는 픽셀을 상기 차선에 해당하는 상기 픽셀로 판단하는 단계;
    를 포함하는 것을 특징으로 하는 학습 방법.
  4. 제 2 항에 있어서,
    상기 (c) 단계에서,
    상기 학습 장치가, 상기 제1 스트롱 라인에 해당하는 상기 픽셀에 대응하는 차선의 방향에 대한 정보를 참조로 하여, 상기 위크 라인에 해당하는 상기 픽셀 각각이 상기 추가 스트롱 라인에 해당하는 상기 픽셀로 분류되는지 여부를 판단하되,
    상기 제1 스트롱 라인에 해당하는 상기 픽셀이 상기 입력 이미지 내에서 특정 각도의 방향으로 군집을 이루고 있다고 판단되면, (I) 상기 위크 라인에 해당하는 상기 픽셀의 제1 부분이 상기 방향으로부터 기설정된 각도 이내에 있으면, 상기 학습 장치가 상기 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부의 픽셀로부터 제1 픽셀 거리 내에 상기 위크 라인에 해당하는 상기 픽셀의 상기 제1 부분이 존재하는지 여부를 판단하고, (II) 상기 위크 라인에 해당하는 상기 픽셀의 제2 부분이 상기 방향으로부터 상기 기설정된 각도 이내에 존재하지 않으면, 상기 학습 장치가 상기 제1 스트롱 라인에 해당하는 상기 픽셀의 적어도 일부로부터 제2 픽셀 거리 내에 상기 위크 라인에 해당하는 상기 픽셀의 상기 제2 부분이 존재하는지 여부를 판단하는 것을 특징으로 하며,
    상기 제2 픽셀 거리는 상기 제1 픽셀 거리보다 작은 것을 특징으로 하는 학습 방법.
  5. 제 1 항에 있어서,
    상기 (c) 단계에서,
    상기 학습 장치가, 다항식 피팅(Polynomial Fitting) 알고리즘 또는 스플라인 피팅(Spline Fitting) 알고리즘을 이용하여 상기 제1 스트롱 라인 및 상기 추가 스트롱 라인에 해당하는 상기 픽셀에 대응하는 상기 차선을 검출하는 것을 특징으로 하는 학습 방법.
  6. 제 1 항에 있어서,
    상기 기설정된 제1 거리는 2개의 가장 가까운 픽셀 사이의 거리인 것을 특징으로 하는 학습 방법.
  7. 제 1 항에 있어서,
    상기 기설정된 제1 거리는 소정 픽셀 및 상기 소정 픽셀로부터 제n 픽셀 사이의 거리인 것을 특징으로 하는 학습 방법.
  8. 제 1 항에 있어서,
    (d) 상기 학습 장치가, 검출된 상기 차선 및 GT(Ground Truth) 차선을 참조로 하여 세그멘테이션 로스(Segmentation Loss)를 산출하는 단계; 및
    (e) 상기 학습 장치가, 상기 세그멘테이션 로스를 사용하여 백프로파게이션(Backpropagation)을 수행함으로써 상기 CNN의 적어도 하나의 파라미터를 최적화하는 단계;
    를 더 포함하는 것을 특징으로 하는 학습 방법.
  9. CNN(Convolutional Neural Network)에 기반한, 적어도 하나의 차선 검출을 위한 테스트 방법에 있어서,
    (a) (I) 학습 장치가 인코딩 레이어로 하여금 트레이닝 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 학습용 인코디드 특징 맵을 획득하고, 디코딩 레이어로 하여금 상기 인코딩 레이어로부터 출력된 특정 학습용 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 상기 트레이닝 이미지 내의 적어도 하나의 학습용 차선 후보 픽셀에 대한 정보를 포함하는 학습용 세그멘테이션 결과를 획득하는 프로세스, (II) 상기 학습 장치가, 상기 학습용 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 상기 학습용 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 이상이면 상기 학습용 차선 후보 픽셀의 상기 제1부분을 적어도 하나의 학습용 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 상기 학습용 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 미만이고 상기 제2 임계치 이상이면 상기 제2 부분을 적어도 하나의 학습용 위크 라인(Weak Line)에 해당하는 픽셀로 분류하는 프로세스, (III) 상기 학습 장치가, (i) 상기 학습용 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 상기 학습용 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 상기 특정 픽셀을 적어도 하나의 학습용 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 상기 학습용 제1 스트롱 라인에 해당하는 상기 픽셀과 상기 학습용 추가 스트롱 라인에 해당하는 상기 특정 픽셀이 상기 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 프로세스, (IV) 상기 학습 장치가, 검출된 상기 차선 및 GT(Ground Truth) 차선을 참조로 하여 세그멘테이션 로스(Segmentation Loss)를 산출하는 프로세스 및 (V) 상기 학습 장치가, 상기 세그멘테이션 로스를 사용하여 백프로파게이션(Backpropagation)을 수행함으로써 상기 학습 장치의 적어도 하나의 파라미터를 최적화하는 프로세스를 수행한 상태에서, 테스트 장치가, 테스트 이미지를 획득하는 단계;
    (b) 상기 테스트 장치가, 상기 인코딩 레이어로 하여금 상기 테스트 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 테스트용 인코디드 특징 맵을 획득하고, 상기 디코딩 레이어로 하여금 상기 인코딩 레이어로부터 출력된 특정 테스트용 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 상기 테스트 이미지 내의 적어도 하나의 차선 후보 픽셀에 대한 정보를 포함하는 테스트용 세그멘테이션 결과를 획득하는 단계;
    (c) 상기 테스트 장치가, 상기 테스트용 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 상기 테스트용 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 이상이면 상기 테스트용 차선 후보 픽셀의 상기 제1부분을 적어도 하나의 테스트용 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 상기 테스트용 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 미만이고 상기 제2 임계치 이상이면 상기 제2 부분을 적어도 하나의 테스트용 위크 라인(Weak Line)에 해당하는 픽셀로 분류하는 단계; 및
    (d) 상기 테스트 장치가, (i) 상기 테스트용 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 상기 테스트용 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리가 상기 기설정된 제1 거리 미만인 경우, 상기 특정 픽셀을 테스트용 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 상기 테스트용 제1 스트롱 라인에 해당하는 상기 픽셀과 상기 테스트용 추가 스트롱 라인에 해당하는 상기 픽셀이 상기 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 단계;
    를 포함하는 것을 특징으로 하는 테스트 방법.
  10. CNN(Convolutional Neural Network)에 기반한, 적어도 하나의 차선 검출을 위한 학습 장치에 있어서,
    입력 이미지를 획득하기 위한 통신부; 및
    (I) 입력 이미지가 획득되면, 인코딩 레이어로 하여금 상기 입력 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 인코디드 특징 맵을 획득하고, 디코딩 레이어로 하여금 상기 인코딩 레이어로부터 출력된 특정 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 상기 입력 이미지 내의 적어도 하나의 차선 후보 픽셀에 대한 정보를 포함하는 세그멘테이션 결과를 획득하는 프로세스;
    (II) 상기 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 상기 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 이상이면 상기 차선 후보 픽셀의 상기 제1부분을 적어도 하나의 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 상기 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 미만이고 상기 제2 임계치 이상이면 상기 제2 부분을 적어도 하나의 위크 라인(Weak Line)에 해당하는 픽셀로 분류하는 프로세스; 및
    (III) (i) 상기 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 상기 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 상기 특정 픽셀을 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 상기 제1 스트롱 라인에 해당하는 상기 픽셀과 상기 추가 스트롱 라인에 해당하는 상기 픽셀이 상기 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 프로세스;를 수행하는 프로세서를 포함하는 특징으로 하는 학습 장치.
  11. 제 10 항에 있어서,
    상기 (III) 프로세스 이후에,
    (i) 상기 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 소정 픽셀과 (ii) 상기 추가 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제2 거리 미만인 경우, 상기 프로세서는, 상기 소정 픽셀을 상기 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 상기 추가 스트롱 라인에 해당하는 픽셀로 분류될 수 있는 소정 픽셀이 더 이상 없을 때까지 상기 프로세스를 반복한 후, 상기 제1 스트롱 라인에 해당하는 상기 픽셀 및 상기 추가 스트롱 라인에 해당하는 상기 픽셀이 상기 차선에 해당하는 상기 픽셀에 대응하는 것으로 판단하는 것을 특징으로 하는 학습 장치.
  12. 제 10 항에 있어서,
    상기 (III) 프로세스에서,
    (III_1) (i) 상기 위크 라인에 해당하는 상기 픽셀 중 상기 특정 픽셀과 (ii) 상기 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부의 픽셀 사이의 거리가 상기 기설정된 제1 거리 미만인 경우, 상기 프로세서가 상기 특정 픽셀을 상기 추가 스트롱 라인에 해당하는 상기 픽셀로 분류하는 프로세스;
    (III_2) (i) 상기 위크 라인에 해당하는 상기 픽셀 중 상기 소정 픽셀과 (ii) 상기 추가 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부의 픽셀 사이의 거리가 상기 기설정된 제2 거리 미만인 경우, 상기 프로세서가 상기 소정 픽셀을 상기 추가 스트롱 라인에 해당하는 상기 픽셀로 분류하는 프로세스; 및
    (III_3) 상기 프로세서가, 상기 추가 스트롱 라인에 해당하는 픽셀로 분류될 수 있는 소정 픽셀이 더 이상 없을 때까지 상기 (III_2) 프로세스를 반복한 후, 상기 제1 스트롱 라인에 해당하는 상기 픽셀 및 상기 추가 스트롱 라인에 해당하는 픽셀을 상기 차선에 해당하는 상기 픽셀로 판단하는 프로세스;
    를 포함하는 것을 특징으로 하는 학습 장치.
  13. 제 11 항에 있어서,
    상기 (III) 단계는,
    상기 프로세서가, 상기 제1 스트롱 라인에 해당하는 상기 픽셀에 대응하는 차선의 방향에 대한 정보를 참조로 하여, 상기 위크 라인에 해당하는 상기 픽셀 각각이 상기 추가 스트롱 라인에 해당하는 상기 픽셀로 분류되는지 여부를 판단하되,
    상기 제1 스트롱 라인에 해당하는 상기 픽셀이 상기 입력 이미지 내에서 특정 각도의 방향으로 군집을 이루고 있다고 판단되면, (1) 상기 위크 라인에 해당하는 상기 픽셀의 상기 제1 부분이 상기 방향으로부터 기설정된 각도 이내에 있으면, 상기 프로세서가 상기 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부의 픽셀로부터 제1 픽셀 거리 내에 상기 위크 라인에 해당하는 상기 픽셀의 상기 제1 부분이 존재하는지 여부를 판단하고, (2) 상기 위크 라인에 해당하는 상기 픽셀의 제2 부분이 상기 방향으로부터 상기 기설정된 각도 이내에 존재하지 않으면, 상기 프로세서가 상기 제1 스트롱 라인에 해당하는 상기 픽셀의 적어도 일부로부터 제2 픽셀 거리 내에 상기 위크 라인에 해당하는 상기 픽셀의 상기 제2 부분이 존재하는지 여부를 판단하는 것을 특징으로 하며,
    상기 제2 픽셀 거리는 상기 제1 픽셀 거리보다 작은 것을 특징으로 하는 학습 장치.
  14. 제 10 항에 있어서,
    상기 (III) 단계에서,
    상기 프로세서가, 다항식 피팅(Polynomial Fitting) 알고리즘 또는 스플라인 피팅(Spline Fitting) 알고리즘을 이용하여 상기 제1 스트롱 라인 및 상기 추가 스트롱 라인에 해당하는 상기 픽셀에 대응하는 상기 차선을 검출하는 것을 특징으로 하는 학습 장치.
  15. 제 10 항에 있어서,
    상기 기설정된 제1 거리는 바로 2개의 가장 가까운 픽셀 사이의 거리인 것을 특징으로 하는 학습 장치.
  16. 제 10 항에 있어서,
    상기 기설정된 제1 거리는 소정 픽셀 및 상기 소정 픽셀로부터 제n 픽셀 사이의 거리인 것을 특징으로 하는 학습 장치.
  17. 제 10 항에 있어서,
    상기 프로세서가
    (IV) 검출된 상기 차선 및 GT(Ground Truth) 차선을 참조로 하여 세그멘테이션 로스(Segmentation Loss)를 산출하는 프로세스; 및
    (V) 상기 학습 장치가, 상기 세그멘테이션 로스를 사용하여 백프로파게이션(Backpropagation)을 수행함으로써 상기 CNN의 적어도 하나의 파라미터를 최적화하는 프로세스;
    를 더 수행하는 것을 특징으로 하는 학습 장치.
  18. CNN(Convolutional Neural Network) 기반 이미지에 포함된 적어도 하나의 차선 검출을 위한 테스트 장치에 있어서,
    (I) 학습 장치가 인코딩 레이어로 하여금 트레이닝 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 학습용 인코디드 특징 맵을 획득하고, 디코딩 레이어로 하여금 상기 인코딩 레이어로부터 출력된 특정 학습용 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 상기 트레이닝 이미지 내의 적어도 하나의 학습용 차선 후보 픽셀에 대한 정보를 포함하는 학습용 세그멘테이션 결과를 획득하는 프로세스;
    (II) 상기 학습 장치가, 상기 학습용 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 상기 학습용 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 이상이면 상기 학습용 차선 후보 픽셀의 상기 제1부분을 적어도 하나의 학습용 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 상기 학습용 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 미만이고 상기 제2 임계치 이상이면 상기 제2 부분을 적어도 하나의 학습용 위크 라인(Weak Line)에 해당하는 픽셀로 분류하는 프로세스;
    (III) 상기 학습 장치가, (i) 상기 학습용 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 상기 학습용 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 상기 특정 픽셀을 추가 스트롱 라인에 해당하는 픽셀로 분류하고, 상기 학습용 제1 스트롱 라인에 해당하는 상기 픽셀과 상기 추가 스트롱 라인에 해당하는 상기 특정 픽셀이 상기 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 프로세스;
    (IV) 상기 학습 장치가 검출된 상기 차선 및 GT(Ground Truth) 차선을 참조로 하여 세그멘테이션 로스(Segmentation Loss)를 산출하는 프로세스; 및
    (V) 상기 학습 장치가, 상기 세그멘테이션 로스를 사용하여 백프로파게이션(Backpropagation)을 수행함으로써 상기 CNN의 적어도 하나의 파라미터를 최적화하는 프로세스;를 수행한 상태에서, 테스트 이미지를 획득하는 통신부;
    (1) 인코딩 레이어로 하여금 테스트 이미지에 적어도 한 번 컨벌루션 연산을 적용하도록 하여 적어도 하나의 테스트용 인코디드 특징 맵을 획득하고, 디코딩 레이어로 하여금 상기 인코딩 레이어로부터 출력된 특정 테스트용 인코디드 특징 맵에 적어도 한 번 디컨벌루션 연산을 적용하도록 하여 상기 테스트 이미지 내의 적어도 하나의 테스트용 차선 후보 픽셀에 대한 정보를 포함하는 테스트용 세그멘테이션 결과를 획득하는 프로세스;
    (2) 상기 테스트용 차선 후보 픽셀 각각에 해당하는 확률 스코어 각각을 기설정된 제1 임계치 및 상기 제1 임계치보다 작은 기설정된 제2 임계치와 비교하여, 상기 테스트용 차선 후보 픽셀의 적어도 하나의 제1 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 이상이면 상기 테스트용 차선 후보 픽셀의 상기 제1부분을 적어도 하나의 테스트용 제1 스트롱 라인(Strong Line)에 해당하는 픽셀로 분류하고, 상기 테스트용 차선 후보 픽셀의 적어도 하나의 제2 부분의 적어도 하나의 확률 스코어가 상기 제1 임계치 미만이고 상기 제2 임계치 이상이면 상기 제2 부분을 적어도 하나의 테스트용 위크 라인(Weak Line)에 해당하는 픽셀로 분류하는 프로세스;
    (3) (i) 상기 테스트용 위크 라인에 해당하는 상기 픽셀 중 적어도 하나의 특정 픽셀과 (ii) 상기 테스트용 제1 스트롱 라인에 해당하는 상기 픽셀 중 적어도 일부 픽셀 사이의 거리의 적어도 하나의 값이 기설정된 제1 거리 미만인 경우, 상기 특정 픽셀을 테스트용 추가 스트롱 라인에 해당하는 적어도 하나의 픽셀로 분류하고, 상기 제1 스트롱 라인에 해당하는 상기 픽셀과 상기 테스트용 추가 스트롱 라인에 해당하는 상기 픽셀이 상기 차선에 해당하는 픽셀에 대응하는 것으로 판단하는 프로세스;를 수행하는 프로세서;
    를 포함하는 것을 특징으로 하는 테스트 장치.
KR1020190105473A 2018-09-04 2019-08-27 차선 후보 픽셀의 분류를 통해 차선을 검출하는 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치 KR102280395B1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/121,084 US10223614B1 (en) 2018-09-04 2018-09-04 Learning method, learning device for detecting lane through classification of lane candidate pixels and testing method, testing device using the same
US16/121,084 2018-09-04

Publications (2)

Publication Number Publication Date
KR20200027427A true KR20200027427A (ko) 2020-03-12
KR102280395B1 KR102280395B1 (ko) 2021-07-23

Family

ID=65495722

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190105473A KR102280395B1 (ko) 2018-09-04 2019-08-27 차선 후보 픽셀의 분류를 통해 차선을 검출하는 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치

Country Status (5)

Country Link
US (1) US10223614B1 (ko)
EP (1) EP3620956B1 (ko)
JP (1) JP6847464B2 (ko)
KR (1) KR102280395B1 (ko)
CN (1) CN110874564B (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3876670A1 (en) 2020-03-04 2021-09-08 LG Electronics Inc. Circuit for detecting failure of zero voltage switching
KR20220094005A (ko) * 2020-12-28 2022-07-05 한국과학기술정보연구원 차선검출장치 및 그 동작 방법

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110096933B (zh) * 2018-01-30 2023-07-18 华为技术有限公司 目标检测的方法、装置及系统
US10565475B2 (en) * 2018-04-24 2020-02-18 Accenture Global Solutions Limited Generating a machine learning model for objects based on augmenting the objects with physical properties
US10311321B1 (en) * 2018-10-26 2019-06-04 StradVision, Inc. Learning method, learning device using regression loss and testing method, testing device using the same
US10402692B1 (en) * 2019-01-22 2019-09-03 StradVision, Inc. Learning method and learning device for fluctuation-robust object detector based on CNN using target object estimating network adaptable to customers' requirements such as key performance index, and testing device using the same
US10395140B1 (en) * 2019-01-23 2019-08-27 StradVision, Inc. Learning method and learning device for object detector based on CNN using 1×1 convolution to be used for hardware optimization, and testing method and testing device using the same
US10387753B1 (en) * 2019-01-23 2019-08-20 StradVision, Inc. Learning method and learning device for convolutional neural network using 1×1 convolution for image recognition to be used for hardware optimization, and testing method and testing device using the same
US10496899B1 (en) * 2019-01-25 2019-12-03 StradVision, Inc. Learning method and learning device for adjusting parameters of CNN in which residual networks are provided for meta learning, and testing method and testing device using the same
US10373323B1 (en) * 2019-01-29 2019-08-06 StradVision, Inc. Method and device for merging object detection information detected by each of object detectors corresponding to each camera nearby for the purpose of collaborative driving by using V2X-enabled applications, sensor fusion via multiple vehicles
US10373027B1 (en) * 2019-01-30 2019-08-06 StradVision, Inc. Method for acquiring sample images for inspecting label among auto-labeled images to be used for learning of neural network and sample image acquiring device using the same
US10423840B1 (en) * 2019-01-31 2019-09-24 StradVision, Inc. Post-processing method and device for detecting lanes to plan the drive path of autonomous vehicle by using segmentation score map and clustering map
US10373004B1 (en) * 2019-01-31 2019-08-06 StradVision, Inc. Method and device for detecting lane elements to plan the drive path of autonomous vehicle by using a horizontal filter mask, wherein the lane elements are unit regions including pixels of lanes in an input image
CN113490953A (zh) * 2019-03-14 2021-10-08 Oppo广东移动通信有限公司 预测值的确定方法、解码器以及计算机存储介质
US20200302176A1 (en) * 2019-03-18 2020-09-24 Nvidia Corporation Image identification using neural networks
CN110147794A (zh) * 2019-05-21 2019-08-20 东北大学 一种基于深度学习的无人车室外场景实时分割方法
CN110414386B (zh) * 2019-07-12 2022-01-21 武汉理工大学 基于改进scnn网络的车道线检测方法
US11055543B2 (en) 2019-07-26 2021-07-06 Volkswagen Ag Road curvature generation in real-world images as a method of data augmentation
CN111507203B (zh) * 2020-03-27 2023-09-26 北京百度网讯科技有限公司 可变车道检测模型的构建方法、电子设备及存储介质
CN111368804A (zh) * 2020-03-31 2020-07-03 河北科技大学 车道线检测方法、系统及终端设备
CN111874003B (zh) * 2020-06-23 2021-07-20 安徽信息工程学院 一种车辆行驶偏离预警方法和系统

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180181817A1 (en) * 2015-09-10 2018-06-28 Baidu Online Network Technology (Beijing) Co., Ltd. Vehicular lane line data processing method, apparatus, storage medium, and device
JP2019135643A (ja) * 2017-12-29 2019-08-15 バイドゥ オンライン ネットワーク テクノロジー （ベイジン） カンパニー リミテッド 車線境界線を検出するための方法、装置、および媒体

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9542626B2 (en) * 2013-09-06 2017-01-10 Toyota Jidosha Kabushiki Kaisha Augmenting layer-based object detection with deep convolutional neural networks
JP6426512B2 (ja) * 2015-03-17 2018-11-21 株式会社Ｓｏｋｅｎ 走行区画線認識装置
CN105631880B (zh) * 2015-12-31 2019-03-22 百度在线网络技术（北京）有限公司 车道线分割方法和装置
ITUA20164758A1 (it) * 2016-06-29 2017-12-29 Ser Mac S R L Apparato di rilevamento di prodotti ortofrutticoli.
CN106203398B (zh) * 2016-07-26 2019-08-13 东软集团股份有限公司 一种检测车道边界的方法、装置和设备
CN106971155B (zh) * 2017-03-21 2020-03-24 电子科技大学 一种基于高度信息的无人车车道场景分割方法
US10373002B2 (en) * 2017-03-31 2019-08-06 Here Global B.V. Method, apparatus, and system for a parametric representation of lane lines

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180181817A1 (en) * 2015-09-10 2018-06-28 Baidu Online Network Technology (Beijing) Co., Ltd. Vehicular lane line data processing method, apparatus, storage medium, and device
JP2019135643A (ja) * 2017-12-29 2019-08-15 バイドゥ オンライン ネットワーク テクノロジー （ベイジン） カンパニー リミテッド 車線境界線を検出するための方法、装置、および媒体

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3876670A1 (en) 2020-03-04 2021-09-08 LG Electronics Inc. Circuit for detecting failure of zero voltage switching
KR20220094005A (ko) * 2020-12-28 2022-07-05 한국과학기술정보연구원 차선검출장치 및 그 동작 방법

Also Published As

Publication number Publication date
EP3620956B1 (en) 2023-10-25
CN110874564A (zh) 2020-03-10
CN110874564B (zh) 2023-08-04
EP3620956A1 (en) 2020-03-11
KR102280395B1 (ko) 2021-07-23
EP3620956C0 (en) 2023-10-25
JP6847464B2 (ja) 2021-03-24
JP2020038662A (ja) 2020-03-12
US10223614B1 (en) 2019-03-05

Similar Documents

Publication Publication Date Title
KR102280395B1 (ko) 차선 후보 픽셀의 분류를 통해 차선을 검출하는 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치
KR20200027428A (ko) 에지 이미지를 이용하여 객체를 검출하는 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치
KR102373456B1 (ko) 자동 주차 시스템을 제공하기 위해 결정 지점 간의 관계 및 결정 지점에 대한 리그레션 결과를 이용하여 주차 공간을 검출하는 학습 방법 및 학습 장치, 그리고 이를 이용한 테스팅 방법 및 테스팅 장치
KR20200047307A (ko) 유용한 학습 데이터를 취사 선별하기 위한 cnn 기반 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치
KR102286760B1 (ko) 다른 라벨 세트를 가지는 복수의 라벨링된 데이터베이스를 이용하여 학습하는 방법 및 장치 그리고 이를 이용한 테스트 방법 및 장치
KR102279376B1 (ko) CNN(Convolutional Neural Network)을 사용하여 차선을 검출하기 위한 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치
KR102337376B1 (ko) 레인 마스크(Lane Mask)를 사용하여 후처리 없이 입력 이미지에 포함된 하나 이상의 차선을 검출하는 방법 및 장치, 그리고 이를 이용한 테스트 방법 및 테스트 장치
KR102263397B1 (ko) 뉴럴 네트워크 학습에 이용될 오토 라벨링된 이미지 중에서 라벨 검수를 위한 샘플 이미지를 획득하는 방법 및 이를 이용한 샘플 이미지 획득 장치
KR102280414B1 (ko) 고 정밀도로 이미지를 분석하기 위한 딥 러닝 네트워크를 사용하기 위해 트레이닝 이미지를 오토 라벨링하는 오토 라벨링 장치의 하이퍼파라미터를 최적화하는 방법 및 이를 이용한 최적화 장치
JP6932395B2 (ja) イメージを分析するために、ディープラーニングネットワークに利用するためのトレーニングイメージに対するラベルリング信頼度を自動的に評価するための方法、及びこれを利用した信頼度評価装置
KR102279388B1 (ko) 차선 모델을 이용하여 차선을 검출할 수 있는 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치
KR102320985B1 (ko) 멀티 카메라 시스템 내의 더블 임베딩 구성을 이용하여 도로 이용자 이벤트를 검출하기 위해 이용될 세그먼테이션 성능 향상을 위한 학습 방법 및 학습 장치 그리고 이를 이용한 테스팅 방법 및 테스팅 장치
KR102337367B1 (ko) 원거리 검출 또는 군사 목적을 위해, 이미지 컨캐터네이션을 이용한, cnn 기반의 하드웨어 최적화가 가능한 객체 검출기를 학습하는 방법 및 학습 장치, 이를 이용한 테스팅 방법 및 테스팅 장치
JP2020068013A (ja) 障害物の下段ラインを基準にｒｏｉを検出する学習方法及び学習装置、そしてこれを利用したテスト方法及びテスト装置｛ｌｅａｒｎｉｎｇ ｍｅｔｈｏｄ， ｌｅａｒｎｉｎｇ ｄｅｖｉｃｅ ｆｏｒ ｄｅｔｅｃｔｉｎｇ ｒｏｉ ｏｎ ｔｈｅ ｂａｓｉｓ ｏｆ ｂｏｔｔｏｍ ｌｉｎｅｓ ｏｆ ｏｂｓｔａｃｌｅｓ ａｎｄ ｔｅｓｔｉｎｇ ｍｅｔｈｏｄ，ｔｅｓｔｉｎｇ ｄｅｖｉｃｅ ｕｓｉｎｇ ｔｈｅ ｓａｍｅ｝
JP2020119496A (ja) 危険要素検出に利用される学習用イメージデータセットの生成方法及びコンピューティング装置、そしてこれを利用した学習方法及び学習装置｛ｍｅｔｈｏｄ ａｎｄ ｃｏｍｐｕｔｉｎｇ ｄｅｖｉｃｅ ｆｏｒ ｇｅｎｅｒａｔｉｎｇ ｉｍａｇｅ ｄａｔａ ｓｅｔ ｔｏ ｂｅ ｕｓｅｄ ｆｏｒ ｈａｚａｒｄ ｄｅｔｅｃｔｉｏｎ ａｎｄ ｌｅａｒｎｉｎｇ ｍｅｔｈｏｄ ａｎｄ ｌｅａｒｎｉｎｇ ｄｅｖｉｃｅ ｕｓｉｎｇ ｔｈｅ ｓａｍｅ｝
KR102252155B1 (ko) 자율주행 자동차의 레벨 4를 충족시키기 위해 필요한 hd 지도와의 콜라보레이션을 지원하는 임베딩 로스 및 소프트맥스 로스를 이용하여 적어도 하나의 차선을 가지는 이미지를 세그멘테이션하는 학습 방법 및 학습 장치, 그리고 이를 이용한 테스트 방법 및 테스트 장치
KR102314524B1 (ko) 자율 주행 상황에서 장애물 검출을 위한 cnn 학습용 이미지 데이터 세트의 생성 방법 및 컴퓨팅 장치
JP2020038663A (ja) 障害物を検出する学習方法及び学習装置そしてこれを利用したテスト方法及びテスト装置｛ｌｅａｒｎｉｎｇ ｍｅｔｈｏｄ， ｌｅａｒｎｉｎｇ ｄｅｖｉｃｅ ｆｏｒ ｄｅｔｅｃｔｉｎｇ ｏｂｓｔａｃｌｅｓ ａｎｄ ｔｅｓｔｉｎｇ ｍｅｔｈｏｄ， ｔｅｓｔｉｎｇ ｄｅｖｉｃｅ ｕｓｉｎｇ ｔｈｅ ｓａｍｅ｝
KR102309705B1 (ko) Cnn 기반 차선 검출을 위한 학습 방법 및 학습 장치 그리고 이를 이용한 테스트 방법 및 테스트 장치
KR20200092848A (ko) 객체의 스케일에 따라 모드 전환이 가능한 cnn 기반의 감시용 객체 검출기의 학습 방법 및 학습 장치, 이를 이용한 테스트 방법 및 테스트 장치
KR102325025B1 (ko) 자율주행 차량 레벨4를 충족하기 위해 영역의 클래스에 따라 모드를 전환하기 위하여 그리드 생성기를 이용하는 뉴럴 네트워크 연산 방법 및 이를 이용한 장치
JP2020068015A (ja) リグレッションロス（Ｒｅｇｒｅｓｓｉｏｎ ｌｏｓｓ）を利用した学習方法及び学習装置、そしてそれを利用したテスト方法及びテスト装置｛ＬＥＡＲＮＩＮＧ ＭＥＴＨＯＤ， ＬＥＡＲＮＩＮＧ ＤＥＶＩＣＥ ＵＳＩＮＧ ＲＥＧＲＥＳＳＩＯＮ ＬＯＳＳ ＡＮＤ ＴＥＳＴＩＮＧ ＭＥＴＨＯＤ， ＴＥＳＴＩＮＧ ＤＥＶＩＣＥ ＵＳＩＮＧ ＴＨＥ ＳＡＭＥ｝

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right