KR20220014083A - Road detection method and apparatus using angle of polarization in infrared imaging - Google Patents

Road detection method and apparatus using angle of polarization in infrared imaging Download PDF

Info

Publication number
KR20220014083A
KR20220014083A KR1020200093687A KR20200093687A KR20220014083A KR 20220014083 A KR20220014083 A KR 20220014083A KR 1020200093687 A KR1020200093687 A KR 1020200093687A KR 20200093687 A KR20200093687 A KR 20200093687A KR 20220014083 A KR20220014083 A KR 20220014083A
Authority
KR
South Korea
Prior art keywords
degree
polarization
road area
stokes parameter
input image
Prior art date
Application number
KR1020200093687A
Other languages
Korean (ko)
Other versions
KR102467099B1 (en
Inventor
공성곤
Original Assignee
세종대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 세종대학교산학협력단 filed Critical 세종대학교산학협력단
Priority to KR1020200093687A priority Critical patent/KR102467099B1/en
Publication of KR20220014083A publication Critical patent/KR20220014083A/en
Application granted granted Critical
Publication of KR102467099B1 publication Critical patent/KR102467099B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • G06T5/002
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/155Segmentation; Edge detection involving morphological operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30236Traffic on road, railway or crossing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

A road detection method and apparatus are disclosed. The road detection method includes the steps of: (a) generating four polarization images having different angles by preprocessing an input image; (b) calculating a degree of polarization and a polarization angle using the four polarization images; and (c) generating a precise road map by combining the polarization degree, the polarization angle, and edge information, and detecting and dividing the road in the input image using the precise road map.

Description

적외선 영상의 편광 각도를 이용한 도로 영역 검출 방법 및 그 장치{Road detection method and apparatus using angle of polarization in infrared imaging}Road detection method and apparatus using angle of polarization in infrared imaging

본 발명은 적외선 영상의 편광 각도의 제로 분포를 이용하여 도로 영역을 검출하는 방법 및 그 장치에 관한 것이다. The present invention relates to a method and apparatus for detecting a road area using zero distribution of polarization angles of an infrared image.

도로 감지는 운전자 보조 시스템(ADAS)과 같은 교통 안전 및 지능형 교통 시스템에서 중요한 기능이다. 비전 기반 도로 감지 방법은 단안 및 스테리오 이미징 기술을 포함하며 도로 감지를 위한 고해상도 컬러, 텍스처 및 차선 표시 정보를 제공한다. 스테리오 이미징 기술은 깊이 정보를 획득할 수 있으나 저조도 조건, 어둠이나 밤에 들어오는 차량의 헤드 라이트와 같은 강한 조명 변화에서는 정상적인 동작이 불가능한 문제점이 있다. Road sensing is an important function in traffic safety and intelligent traffic systems such as driver assistance systems (ADAS). Vision-based road detection methods include monocular and stereo imaging technologies and provide high-resolution color, texture and lane marking information for road detection. Although stereo imaging technology can acquire depth information, there is a problem that normal operation is impossible in low-light conditions, in the dark or in strong lighting changes such as headlights of vehicles entering at night.

한국등록특허공보 10-1766239(2017.08.02.)Korean Patent Publication No. 10-1766239 (2017.08.02.)

본 발명은 적외선 영상의 편광 정보를 이용하여 주간 및 야간에도 안정적으로 영상 내에서 도로 영역을 검출할 수 있는 도로 영역 검출 방법 및 그 장치를 제공하기 위한 것이다. An object of the present invention is to provide a road area detection method and apparatus capable of stably detecting a road area in an image during the day and at night by using polarization information of an infrared image.

또한, 본 발명은 야간과 같이 조명이 충분하지 않은 경우에도 도로 영역의 자동 식별 및 검출이 가능하여 자율 주행에 필요한 정보를 제공하도록 할 수 있는 도로 영역 검출 방법 및 그 장치를 제공하기 위한 것이다. Another object of the present invention is to provide a road area detection method and apparatus capable of providing information necessary for autonomous driving by enabling automatic identification and detection of a road area even when lighting is insufficient, such as at night.

본 발명의 일 측면에 따르면, 적외선 영상의 편광 각도를 이용한 도로 영역 검출 방법이 제공된다. According to one aspect of the present invention, there is provided a method for detecting a road area using a polarization angle of an infrared image.

본 발명의 일 실시예에 따르면, (a) 입력 영상을 전처리하여 서로 각도가 상이한 4개의 편광 영상을 생성하는 단계; (b) 상기 4개의 각도에 해당하는 편광 영상을 이용하여 편광 정도 및 편광 각도를 각각 계산하는 단계; 및 (c) 상기 편광 정도, 상기 편광 각도 및 에지 정보를 결합하여 정밀한 도로 영역 맵을 생성하고, 상기 정밀한 도로 영역 맵을 이용하여 상기 입력 영상내 도로 영역을 검출하여 분할하는 단계를 포함하는 도로 영역 검출 방법이 제공될 수 있다.According to an embodiment of the present invention, the method comprising: (a) preprocessing an input image to generate four polarized images having different angles; (b) calculating a polarization degree and a polarization angle using the polarization images corresponding to the four angles; and (c) generating a precise road area map by combining the polarization degree, the polarization angle, and edge information, and detecting and dividing the road area in the input image using the precise road area map. A detection method may be provided.

상기 입력 영상은 DoFP(Division of Focal Plane) 영상 센서를 통해 획득된 영상이며, 상기 (a) 단계는, 상기 입력 영상을 편광 디모자이킹(PDM: polarization demosaicking) 과정을 통해 0도, 45도, 90도 및 135도 편광 영상을 생성할 수 있다. The input image is an image obtained through a Division of Focal Plane (DoFP) image sensor, and in step (a), the input image is subjected to polarization demosaicking (PDM) at 0 degrees, 45 degrees, 90 degree and 135 degree polarization images can be generated.

상기 (b) 단계 이전에, 상기 0도0도, 45도, 90도 및 135도 편광 영상을 이용하여 빛의 전체 강도에 대한 제1 스토크스 파라미터를 도출하는 단계; 상기 0도 및 90도 편광 영상을 이용하여 선형 편광의 양에 대한 제2 스토크스 파라미터를 도출하는 단계; 및 상기 제45도 및 135도 편광 영상을 이용하여 선형 편광의 양에 대한 제3 스토크스 파라미터를 도출하는 단계를 더 포함할 수 있다.Before step (b), deriving a first Stokes parameter for the total intensity of light using the 0 degree 0 degree, 45 degree, 90 degree and 135 degree polarization image; deriving a second Stokes parameter for an amount of linearly polarized light using the 0 degree and 90 degree polarization images; and deriving a third Stokes parameter for the amount of linearly polarized light using the 45 degree and 135 degree polarization images.

상기 (b) 단계는, 상기 제1 스토크스 파라미터 내지 상기 제3 스토크스 파라미터를 이용하여 편광 정도를 도출하는 단계; 및 상기 제2 스토크스 파라미터와 상기 제3 스토크스 파라미터를 이용하여 편광 각도를 도출하는 단계를 포함할 수 있다. The step (b) may include deriving a degree of polarization using the first Stokes parameter to the third Stokes parameter; and deriving a polarization angle using the second Stokes parameter and the third Stokes parameter.

상기 (c) 단계는, 상기 편광 각도의 제로 분포 제약 조건을 이용하여 개략적인 도로 영역 맵을 획득하고, 상기 개략적인 도로 영역 맵을 이용하여 지평선을 도출하는 단계; 상기 지평선을 이용하여 관심 영역을 결정하고, 상기 관심 영역에 상기 편광 정도, 상기 편광 각도 및 에지 정보를 결합하여 정밀 도로 영역 맵을 생성하는 단계; 및 상기 정밀 도로 영역 맵을 이용하여 상기 입력 영상에서 도로 영역을 검출한 후 분할하는 단계를 포함할 수 있다. The step (c) may include: obtaining a schematic road area map using the zero distribution constraint of the polarization angle, and deriving a horizon using the rough road area map; determining a region of interest using the horizon, and generating a region map with precision by combining the polarization degree, the polarization angle, and edge information to the region of interest; and detecting a road area from the input image by using the precision road area map and then dividing the detected road area.

상기 지평선을 도출하기 전에, 상기 개략적인 도로 영역 맵에 형태학적 개방 연산(morphological open operation)을 수행하여 노이즈를 제거할 수 있다. Before deriving the horizon, noise may be removed by performing a morphological open operation on the rough road area map.

본 발명의 다른 측면에 따르면, 적외선 영상의 편광 각도를 이용한 도로 영역 검출 장치가 제공된다. According to another aspect of the present invention, an apparatus for detecting a road area using a polarization angle of an infrared image is provided.

본 발명의 일 실시예에 따르면, 입력 영상을 전처리하여 서로 각도가 상이한 4개의 편광 영상을 생성하는 전처리부; 상기 4개의 편광 영상을 이용하여 편광 정도 및 편광 각도를 각각 계산하는 계산부; 및 상기 편광 정도, 상기 편광 각도 및 에지 정보를 결합하여 정밀한 도로 영역 맵을 생성하고, 상기 정밀한 도로 영역 맵을 이용하여 상기 입력 영상내 도로 영역을 검출하여 분할하는 도로 영역 검출부를 포함하는 도로 영역 검출 장치가 제공될 수 있다. According to an embodiment of the present invention, there is provided a pre-processing unit that pre-processes an input image to generate four polarized images having different angles from each other; a calculation unit for calculating a polarization degree and a polarization angle using the four polarized images; and a road area detection unit generating a precise road area map by combining the polarization degree, the polarization angle, and edge information, and detecting and dividing the road area in the input image using the precise road area map. A device may be provided.

상기 입력 영상을 획득하는 DoFP(Division of Focal Plane) 영상 센서를 더 포함할 수 있다.A Division of Focal Plane (DoFP) image sensor configured to acquire the input image may be further included.

상기 전처리부는, 상기 입력 영상을 편광 디모자이킹(PDM: polarization demosaicking) 과정을 통해 0도, 45도, 90도 및 135도 편광 영상을 생성할 수 있다.The preprocessor may generate 0 degree, 45 degree, 90 degree, and 135 degree polarization images on the input image through a polarization demosaicking (PDM) process.

상기 계산부는, 상기 0도 내지 135도 편광 영상을 이용하여 빛의 전체 강도에 대한 제1 스토크스 파라미터를 도출하고, 상기 0도 및 90도 편광 영상을 이용하여 선형 편광의 양에 대한 제2 스토크스 파라미터를 도출하며, 상기 제45도 및 135도 편광 영상을 이용하여 선형 편광의 양에 대한 제3 스토크스 파라미터를 도출할 수 있다.The calculator derives a first Stokes parameter for the total intensity of light using the 0 degree to 135 degree polarization image, and a second Stokes for the amount of linear polarization using the 0 degree and 90 degree polarization images s parameter is derived, and a third Stokes parameter for the amount of linear polarization may be derived using the 45 degree and 135 degree polarization images.

상기 계산부는, 상기 제1 스토크스 파라미터 내지 상기 제3 스토크스 파라미터를 이용하여 편광 정도를 도출하고, 상기 제2 스토크스 파라미터와 상기 제3 스토크스 파라미터를 이용하여 편광 각도를 도출할 수 있다.The calculator may derive a degree of polarization using the first Stokes parameter to the third Stokes parameter, and derive a polarization angle using the second Stokes parameter and the third Stokes parameter.

상기 도로 영역 검출부는, 상기 편광 각도의 제로 분포 제약 조건을 이용하여 개략적인 도로 영역 맵을 획득하고, 상기 개략적인 도로 영역 맵을 이용하여 지평선을 도출하고, 상기 지평선을 이용하여 관심 영역을 결정하고, 상기 관심 영역에 상기 편광 정도, 상기 편광 각도 및 에지 정보를 결합하여 정밀 도로 영역 맵을 생성하며, 상기 정밀 도로 영역 맵을 이용하여 상기 입력 영상에서 도로 영역을 검출한 후 분할할 수 있다. The road area detection unit obtains a rough road area map using the zero distribution constraint of the polarization angle, derives a horizon by using the rough road area map, determines a region of interest using the horizon, , a precision road area map is generated by combining the polarization degree, the polarization angle, and edge information with the ROI, and a road area is detected from the input image using the precision road area map and then segmented.

상기 도로 영역 검출부는, 상기 개략적인 도로 영역 맵에 형태학적 개방 연산(morphological open operation)을 수행하여 노이즈를 제거할 수 있다.The road area detector may remove noise by performing a morphological open operation on the rough road area map.

본 발명의 일 실시예에 따른 적외선 편광 각도를 이용한 도로 영역 검출 방법 및 그 장치를 제공함으로써 적외선 영상의 편광 정보를 이용하여 주간 및 야간에도 안정적으로 영상 내에서 도로 영역을 검출할 수 있는 이점이 있다.By providing a method and apparatus for detecting a road area using an infrared polarization angle according to an embodiment of the present invention, there is an advantage in that it is possible to stably detect a road area in an image during the day and at night using polarization information of an infrared image. .

또한, 본 발명은 야간과 같이 조명이 충분하지 않은 경우에도 도로 영역을 자동 식별 및 검출이 가능하여 자율 주행에 필요한 정보를 제공하도록 할 수 있는 이점도 있다.In addition, the present invention also has an advantage in that it is possible to automatically identify and detect a road area even when lighting is insufficient, such as at night, to provide information necessary for autonomous driving.

도 1은 본 발명의 일 실시예에 따른 도로 영역 검출 방법을 나타낸 순서도.
도 2는 본 발명의 일 실시예에 따른 편광 영상 획득을 설명하기 위해 도시한 도면.
도 3은 본 발명의 일 실시예에 따른 DoFP 영상 센서에 의해 획득된 영상과 편광각도 영상을 예시한 도면.
도 4는 본 발명의 일 실시예에 따른 제로 분포 특성을 설명하기 위해 도시한 도면.
도 5는 본 발명의 일 실시예에 따른 강도 영상을 나타낸 도면.
도 6은 본 발명의 일 실시예에 따른 편광 정도 영상을 나타낸 도면.
도 7은 본 발명의 일 실시예에 따른 편광 각도 영상을 나타낸 도면.
도 8은 본 발명의 일 실시예에 따른 개략적인 도로 영역 맵을 나타낸 도면.
도 9는 본 발명의 일 실시예에 따른 정밀 도로 영역 맵을 나타낸 도면.
도 10은 본 발명의 일 실시예에 따른 도로 영역 검출 결과를 나타낸 도면.
도 11은 본 발명의 일 실시예에 따른 도로 영역 검출 장치의 내부 구성을 개략적으로 도시한 블록도.
1 is a flowchart illustrating a road area detection method according to an embodiment of the present invention.
2 is a view for explaining the acquisition of a polarized image according to an embodiment of the present invention.
3 is a diagram illustrating an image and a polarization angle image obtained by a DoFP image sensor according to an embodiment of the present invention.
4 is a diagram illustrating a zero distribution characteristic according to an embodiment of the present invention.
5 is a view showing an intensity image according to an embodiment of the present invention.
6 is a view showing a polarization degree image according to an embodiment of the present invention.
7 is a view showing a polarization angle image according to an embodiment of the present invention.
8 is a view showing a schematic road area map according to an embodiment of the present invention;
9 is a view showing a precision road area map according to an embodiment of the present invention.
10 is a view showing a road area detection result according to an embodiment of the present invention.
11 is a block diagram schematically illustrating an internal configuration of an apparatus for detecting a road area according to an embodiment of the present invention;

본 명세서에서 사용되는 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "구성된다" 또는 "포함한다" 등의 용어는 명세서상에 기재된 여러 구성 요소들, 또는 여러 단계들을 반드시 모두 포함하는 것으로 해석되지 않아야 하며, 그 중 일부 구성 요소들 또는 일부 단계들은 포함되지 않을 수도 있고, 또는 추가적인 구성 요소 또는 단계들을 더 포함할 수 있는 것으로 해석되어야 한다. 또한, 명세서에 기재된 "...부", "모듈" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있다.As used herein, the singular expression includes the plural expression unless the context clearly dictates otherwise. In this specification, terms such as "consisting of" or "comprising" should not be construed as necessarily including all of the various components or various steps described in the specification, some of which components or some steps are It should be construed that it may not include, or may further include additional components or steps. In addition, terms such as "...unit" and "module" described in the specification mean a unit that processes at least one function or operation, which may be implemented as hardware or software, or a combination of hardware and software. .

이하, 첨부된 도면들을 참조하여 본 발명의 실시예를 상세히 설명한다. Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명의 일 실시예에 따른 도로 영역 검출 방법을 나타낸 순서도이며, 도 2는 본 발명의 일 실시예에 따른 편광 영상 획득을 설명하기 위해 도시한 도면이고, 도 3은 본 발명의 일 실시예에 따른 DoFP 영상 센서에 의해 획득된 영상과 편광각도 영상을 예시한 도면이고, 도 4는 본 발명의 일 실시예에 따른 제로 분포 특성을 설명하기 위해 도시한 도면이며, 도 5는 본 발명의 일 실시예에 따른 강도 영상을 나타내고, 도 6은 본 발명의 일 실시예에 따른 편광 정도 영상을 나타내고, 도 7은 본 발명의 일 실시예에 따른 편광 각도 영상을 나타내고, 도 8은 본 발명의 일 실시예에 따른 개략적인 도로 영역 맵을 나타내고, 도 9는 본 발명의 일 실시예에 따른 정밀 도로 영역 맵을 나타내며, 도 10은 본 발명의 일 실시예에 따른 도로 영역 검출 결과를 나타낸다. 1 is a flowchart illustrating a method for detecting a road area according to an embodiment of the present invention, FIG. 2 is a diagram illustrating acquisition of a polarized image according to an embodiment of the present invention, and FIG. 3 is an embodiment of the present invention It is a diagram illustrating an image and a polarization angle image obtained by a DoFP image sensor according to an embodiment, and FIG. 4 is a diagram illustrating a zero distribution characteristic according to an embodiment of the present invention, and FIG. 5 is a diagram of the present invention shows an intensity image according to an embodiment of the present invention, FIG. 6 shows a polarization degree image according to an embodiment of the present invention, FIG. 7 shows a polarization angle image according to an embodiment of the present invention, and FIG. 8 shows the present invention shows a schematic road area map according to an embodiment of the present invention, FIG. 9 shows a precision road area map according to an embodiment of the present invention, and FIG. 10 shows a road area detection result according to an embodiment of the present invention.

단계 110에서 도로 영역 검출 장치(100)는 영상을 획득한다. In step 110, the road area detection apparatus 100 acquires an image.

본 발명의 일 실시예에 따르면 도로 영역 검출 장치(100)는 DoFP(Division of Focal Plane) 영상 센서를 이용하여 영상을 획득할 수 있다. According to an embodiment of the present invention, the road area detection apparatus 100 may acquire an image using a Division of Focal Plane (DoFP) image sensor.

도 2의 (a)에서 보여지는 바와 같이 영상 좌표계에서 도로 평면은 Y축과 평행하다고 가정하므로, 편광 각도의 제로 분포는 도로의 xz 평면과 평행하게 부분적으로 선형 편광됨을 의미한다. As shown in Fig. 2(a), since the road plane is assumed to be parallel to the Y-axis in the image coordinate system, the zero distribution of the polarization angle means that the road is partially linearly polarized parallel to the xz plane of the road.

도 2의 (b)는, DoFP LWIR 영상 센서 도달하는 열 복사가 반사된 복사 R과 방출 된 복사 E를 포함하고, 둘 다 직교 편광 된 구성 요소의 합으로 표현된다는 것을 나타낸다. Fig. 2(b) shows that the thermal radiation reaching the DoFP LWIR image sensor includes reflected radiation R and emitted radiation E, both of which are expressed as the sum of orthogonally polarized components.

본 발명의 일 실시예에 따르면, DoFP 영상 센서는 4 방향의 마이크로 편광 배열 필터를 포함한다. 여기서, 4 방향은 0도, 45, 90도 및 135도일 수 있다.According to an embodiment of the present invention, the DoFP image sensor includes a 4-direction micro-polarization array filter. Here, the four directions may be 0 degrees, 45 degrees, 90 degrees, and 135 degrees.

이와 같은 DoFP 영상 센서를 통해 획득된 도로 영상의 일 예가 도 3에 예시되어 있다. An example of a road image obtained through such a DoFP image sensor is illustrated in FIG. 3 .

단계 115에서 도로 영역 검출 장치(100)는 DoFP 영상 센서를 통해 획득된 영상을 편광 디모자이킹(polarization Demosaicking: PDM) 과정을 통해 여러 각도의 편광 성분을 가진 편광 영상을 복원한다. In operation 115 , the road area detecting apparatus 100 reconstructs a polarized image having polarization components of various angles through a polarization demosaicing (PDM) process for an image obtained through the DoFP image sensor.

예를 들어, 0도, 45도, 90도 및 135도 편광 영상을 복원할 수 있다. For example, 0 degree, 45 degree, 90 degree, and 135 degree polarization images may be reconstructed.

단계 120에서 도로 영역 검출 장치(100)는 편광 영상을 이용하여 제1, 제2 및 제3 스토크스(stokes) 계수를 계산한다.In operation 120 , the road area detecting apparatus 100 calculates first, second, and third Stokes coefficients using the polarized image.

예를 들어, 도로 영역 검출 장치(100)는 4개의 편광 영상을 이용하여 제1 스토크스 계수(

Figure pat00001
)를 계산할 수 있다(도 5 참조). 또한, 도로 영역 검출 장치(100)는 0도와 90도 편광 영상의 차이를 도출하여 제2 스토크스 계수(
Figure pat00002
)를 계산할 수 있으며, 45도와 135도 편광 영상의 차이를 도출하여 제3 스토크스 계수(
Figure pat00003
)를 계산할 수 있다.For example, the road area detection apparatus 100 uses the first Stokes coefficient (
Figure pat00001
) can be calculated (see Fig. 5). In addition, the road area detection apparatus 100 derives the difference between the 0 degree and 90 degree polarized images to obtain a second Stokes coefficient (
Figure pat00002
) can be calculated, and the third Stokes coefficient (
Figure pat00003
) can be calculated.

이를 수학식으로 나타내면, 수학식 1 내지 수학식 2와 같이 나타낼 수 있다.If this is expressed as an equation, it can be expressed as in Equations 1 to 2.

Figure pat00004
Figure pat00004

여기서, 제1 스토크스 계수(

Figure pat00005
)는 빛의 전체 강도를 나타낸다. Here, the first Stokes coefficient (
Figure pat00005
) represents the total intensity of light.

Figure pat00006
Figure pat00006

Figure pat00007
Figure pat00007

여기서,

Figure pat00008
는 0도 편광 영상을 나타내고,
Figure pat00009
는 45도 편광 영상을 나타내며,
Figure pat00010
는 90도 편광 영상을 나타내고,
Figure pat00011
는 135도 편광 영상을 나타낸다. here,
Figure pat00008
represents a 0 degree polarized image,
Figure pat00009
represents a 45 degree polarized image,
Figure pat00010
represents a 90 degree polarized image,
Figure pat00011
represents a 135 degree polarized image.

즉, 제2 스토크스 계수(

Figure pat00012
)와 제3 스토크스 계수(
Figure pat00013
)는 선형 편광의 양을 나타낸다. That is, the second Stokes coefficient (
Figure pat00012
) and the third Stokes coefficient (
Figure pat00013
) represents the amount of linearly polarized light.

단계 125에서 도로 영역 검출 장치(100)는 제1 내지 제3 스토크스 계수 중 적어도 두개를 이용하여 편광 정도 및 편광 각도를 각각 계산한다. In operation 125, the road area detecting apparatus 100 calculates a polarization degree and a polarization angle using at least two of the first to third Stokes coefficients, respectively.

예를 들어, 도로 영역 검출 장치(100)는 하기 수학식 4를 이용하여 편광 정도를 도출할 수 있다. 도 6에는 편광 정도 영상이 예시되어 있다. For example, the road area detecting apparatus 100 may derive the degree of polarization using Equation 4 below. 6 illustrates an image of the degree of polarization.

Figure pat00014
Figure pat00014

또한, 도로 영역 검출 장치(100)는 수학식 5를 이용하여 편광 각도를 도출할 수 있다. 도 7에는 편광 각도 영상이 예시되어 있다. Also, the road area detecting apparatus 100 may derive the polarization angle using Equation 5. 7 illustrates a polarization angle image.

Figure pat00015
Figure pat00015

제로 분포는 열 방출이 입사면에 평행하게 부분적으로 선형으로 분극된다는 이론에 근거한다. 도로 영역의 경우 대부분 편광 각도가 "0"에 가깝다(도 4 참조). The zero distribution is based on the theory that the heat dissipation is partially linearly polarized parallel to the plane of incidence. In the case of the road area, most of the polarization angles are close to "0" (refer to FIG. 4).

도 3의 일 예를 분석한 결과, 도 4에서 보여지는 바와 같이 편광 각도 영상의 픽셀의 약 96%가

Figure pat00016
내의 값을 가지며, 도로 영역에서의 편광 각도는 거의 대부분이 "0"이다. As a result of analyzing the example of FIG. 3 , as shown in FIG. 4 , about 96% of the pixels of the polarization angle image are
Figure pat00016
, and most of the polarization angles in the road area are “0”.

이를 수학식으로 나타내면, 수학식 6과 같다. If this is expressed as an equation, it is as shown in equation (6).

Figure pat00017
Figure pat00017

여기서,

Figure pat00018
는 도로 영역내의 픽셀(x) 집합을 나타낸다. here,
Figure pat00018
denotes a set of pixels (x) in the road area.

따라서, 편광 각도의 제로 분포를 이용하여 영상 내에서 편광 각도가 거의 0이 되는 픽셀들을 찾아냄으로써 도로 영역을 검출할 수 있다. Accordingly, the road area can be detected by finding pixels whose polarization angle is almost 0 in the image using the zero distribution of the polarization angle.

이하의 설명에 의해 보다 명확하게 이해될 것이다. It will be understood more clearly by the following description.

단계 130에서 도로 영역 검출 장치(100)는 편광 각도 제약 조건을 이용하여 개략적인 도로 영역 맵(

Figure pat00019
)을 획득하고, 이를 이용하여 지평선을 구할 수 있다.In step 130, the road area detection apparatus 100 uses a polarization angle constraint to obtain a schematic road area map (
Figure pat00019
) and use it to find the horizon.

예를 들어, 도로 영역 검출 장치(100)는 개략적인 도로 영역 맵(

Figure pat00020
)에서 원근법을 적용하여 도로가 점차 좁아지는 소실점을 구한 후 소실점을 이용하여 지평선을 구하며, 지평선을 이용하여 관심 영역을 설정하여 도로 영역 검출에 불필요한 계산을 줄여 계산량을 감소시킬 수도 있다. 개략적인 도로 영역 맵은 도 8에 도시되어 있다. For example, the road area detection apparatus 100 may provide a schematic road area map (
Figure pat00020
) by applying the perspective method to find the vanishing point at which the road gradually narrows, then using the vanishing point to find the horizon, and by using the horizon to set the region of interest, it is also possible to reduce the amount of calculation by reducing unnecessary calculations for road region detection. A schematic road area map is shown in FIG. 8 .

예를 들어, 개략적인 도로 영역 맵(

Figure pat00021
)는 수학식 7과 같이 계산될 수 있다. For example, a schematic road area map (
Figure pat00021
) can be calculated as in Equation 7.

Figure pat00022
Figure pat00022

여기서,

Figure pat00023
는 0.01로 설정되며,
Figure pat00024
는 사전 제로 분포에 기초한 실험에서 0으로 설정되었다. 이어, 도로로서 임계값을
Figure pat00025
로 정하고, 작은 노이즈 영역을 제거하기 위해 형태학적 개방 연산(morphological open operation)을 수행할 수 있다. here,
Figure pat00023
is set to 0.01,
Figure pat00024
was set to zero in the experiment based on the prior zero distribution. Then, the threshold as a road
Figure pat00025
, and a morphological open operation can be performed to remove a small noise region.

이는 수학식 8과 같이 나타낼 수 있다. This can be expressed as Equation (8).

Figure pat00026
Figure pat00026

여기서,

Figure pat00027
는 형태학적 개방 연산을 나타내며, X는 구조적 엘리먼트를 나타낸다.
Figure pat00028
는 개략적인 도로 검출 결과를 제공하고, 지평선은 도로 소실점에 위치한다. 도로 소실점은 각각의 행에서 도로가 속하는 픽셀의 개수가 아래에서 위쪽으로 감소한다. here,
Figure pat00027
denotes a morphological open operation, and X denotes a structural element.
Figure pat00028
gives a rough road detection result, and the horizon is located at the road vanishing point. In the road vanishing point, the number of pixels to which the road belongs in each row decreases from bottom to top.

개략적인 도로 영역 맵(

Figure pat00029
)의 1차원 투영은 수학식 9과 같이 도출될 수 있다. Schematic road area map (
Figure pat00029
) can be derived as in Equation (9).

Figure pat00030
Figure pat00030

여기서, W는 영상의 너비를 나타내고,

Figure pat00031
는 개략적인 도로 영역 맵(
Figure pat00032
)에서 각 행에서 도로에 속하는 픽셀의 개수를 나타낸다. Here, W represents the width of the image,
Figure pat00031
is a schematic road area map (
Figure pat00032
) indicates the number of pixels belonging to the road in each row.

도로 영역 검출 장치(100)는

Figure pat00033
를 이용하여 지평선을 찾을 수 있다. 이를 수학식으로 나타내면, 수학식 10과 같다. The road area detection device 100 is
Figure pat00033
can be used to find the horizon. If this is expressed as an equation, it is the same as in equation (10).

Figure pat00034
Figure pat00034

여기서,

Figure pat00035
Figure pat00036
는 행(row) 번호를 나타내고,
Figure pat00037
는 직선과
Figure pat00038
에서 x축에서 교차되는 행(row)을 나타낸다. 본 발명의 일 실시예에서는 두개의 행이 있는 두개의 픽셀들을 모두 선택할 수 있다. 또한,
Figure pat00039
이며, 대괄호안의 값이 사실이면
Figure pat00040
는 1이며 그렇지 않은 경우 0이다. here,
Figure pat00035
class
Figure pat00036
represents the row number,
Figure pat00037
is a straight line and
Figure pat00038
represents a row that intersects on the x-axis. In an embodiment of the present invention, both pixels in two rows may be selected. Also,
Figure pat00039
, and if the value in square brackets is true
Figure pat00040
is 1, otherwise 0.

H에서 가장 큰 값 또는 지배적인 값은 지면 지평선으로부터 몇 픽셀 떨어져 있음을 알 수 있다. 따라서, 이 문제를 극복하기 위해 수학식 11과 같이 간단한 후보정이 수행된다. It can be seen that the largest or dominant value in H is a few pixels away from the ground horizon. Therefore, in order to overcome this problem, a simple post-correction as shown in Equation 11 is performed.

Figure pat00041
Figure pat00041

여기서,

Figure pat00042
는 H의 정밀한 누적 에너지를 나타내고,
Figure pat00043
으로 설정될 수 있다.
Figure pat00044
에서 가장 큰 에너지를 찾아 지평선으로 설정할 수 있다. here,
Figure pat00042
represents the precise cumulative energy of H,
Figure pat00043
can be set to
Figure pat00044
Find the greatest energy in , and set it to the horizon.

단계 135에서 도로 영역 검출 장치(100)는 지평선을 이용하여 관심 영역을 결정하고, 관심 영역에 편광 정도, 편광 각도 및 에지 정보를 결합하여 정밀 도로 영역 맵(

Figure pat00045
)을 생성하고, 이를 이용하여 영상내 도로 영역을 검출한 후 검출된 도로 영역을 영상 분할하여 화면을 통해 출력할 수 있다. In step 135, the road area detection apparatus 100 determines a region of interest using the horizon, and combines the polarization degree, polarization angle, and edge information with the region of interest to obtain a precision road region map (
Figure pat00045
), detects a road area in an image using this, and divides the detected road area into an image to output it through a screen.

이에 대해 보다 상세히 설명하기로 한다. This will be described in more detail.

본 발명의 일 실시예에 따르면, 정밀 도로 영역 맵(

Figure pat00046
)는 수학식 12를 이용하여 획득될 수 있다. 정밀 도로 영역 맵을 도출한 결과가 도 9에 도시되어 있다. According to an embodiment of the present invention, the precision road area map (
Figure pat00046
) can be obtained using Equation 12. The result of deriving the precision road area map is shown in FIG. 9 .

Figure pat00047
Figure pat00047

여기서,

Figure pat00048
이며, here,
Figure pat00048
is,

Figure pat00049
이고,
Figure pat00050
이다.
Figure pat00049
ego,
Figure pat00050
to be.

또한,

Figure pat00051
는 편광 각도 제약을 나타내고,
Figure pat00052
는 편광 정도 제약을 나타내고,
Figure pat00053
는 에지 제약을 나타낸다. 또한,
Figure pat00054
은 편광 정도의 에지 정보를 나타내고,
Figure pat00055
는 편광각도의 에지 정보를 나타내고,
Figure pat00056
는 강도 영상의(즉, 제1 스토크스 파라미터 영상)의 에지 정보를 나타내며,
Figure pat00057
Figure pat00058
는 가중치를 나타낸다. 또한,
Figure pat00059
Figure pat00060
는 각각 제약 조건의 가중치를 나타내며,
Figure pat00061
Figure pat00062
는 각각 개략적인 도로 영역 맵(
Figure pat00063
)에서 도려 영역의 각도와 편광도의 통계에 의해 획득되는 도로 영역에서의 편광 각도(AoP)와 편광 정도(DoP)의 도미넌트 값을 나타낸다. Also,
Figure pat00051
represents the polarization angle constraint,
Figure pat00052
represents the degree of polarization constraint,
Figure pat00053
represents the edge constraint. Also,
Figure pat00054
represents the edge information of the degree of polarization,
Figure pat00055
represents the edge information of the polarization angle,
Figure pat00056
represents the edge information of the intensity image (that is, the first Stokes parameter image),
Figure pat00057
and
Figure pat00058
represents the weight. Also,
Figure pat00059
and
Figure pat00060
represents the weight of each constraint,
Figure pat00061
Wow
Figure pat00062
are each a schematic road area map (
Figure pat00063
) represents the dominant values of the polarization angle (AoP) and polarization degree (DoP) in the road area obtained by statistics of the angle and polarization degree of the cut-out area.

편광 각도 및 편광 정도 영상의 제약 조건을 위해 도로의 그림자 또는 습한 지역은 편광 각도 및 편광 정도값이 더 작기 때문에

Figure pat00064
Figure pat00065
보다 큰 값을 적용한다. 편광 정도 영상, 편광 각도 영상 및 강도 영상(제1 스토크스 파라미터 영상)의 에지는 도로 경계 정보를 제공하므로 강한 가장자리에 더 많은 퍼니시먼트를 제공하여 도로를 다른 영역과 분리하는데 이용한다. For the constraint of the polarization angle and polarization degree image, the shadow or wet area of the road has a smaller polarization angle and polarization degree value.
Figure pat00064
Wow
Figure pat00065
A larger value is applied. The edges of the polarization degree image, the polarization angle image, and the intensity image (first Stokes parameter image) provide road boundary information, so more furnishings are provided to the strong edge and used to separate the road from other areas.

정밀 도로 영역 맵에서 픽셀은 기준치에 의해 이진화되고, m개의 분리된 영역이 획득될 수 있다. 도로 영역 검출 장치(100)는 전체 감지된 영역(

Figure pat00066
)의 감지된 총 영역의 2% 이하보다 작은 영역(
Figure pat00067
, K(i)에 속하는 픽셀의 수)들은 제거한다. 이후, 도로 영역 검출 장치(100)는 가장 큰 영역을 도로로 인식하여 도로 영역의 평균 편광 정도 및 강도 값을 계산할 수 있다. 평균 편광 정도 또는 강도값이 기 설정된 임계값 이상인 조각들을 제거할 수 있다. 이후, 도로 영역 검출 장치(100)는 작은 구멍을 메워서 정밀 도로 영역(
Figure pat00068
)을 획득할 수 있다. 최종 획득된 정밀 도로 영역 검출 결과는 도 10에 도시된 바와 같다. In the precision road area map, pixels are binarized by reference values, and m separate areas can be obtained. The road area detection apparatus 100 detects the entire detected area (
Figure pat00066
) less than 2% of the total detected area (
Figure pat00067
, the number of pixels belonging to K(i)) are removed. Thereafter, the road area detecting apparatus 100 may calculate the average polarization degree and intensity value of the road area by recognizing the largest area as a road. Fragments having an average polarization degree or intensity value greater than or equal to a preset threshold may be removed. Thereafter, the road area detection device 100 fills in a small hole to provide a precision road area (
Figure pat00068
) can be obtained. The final obtained precision road area detection result is shown in FIG. 10 .

도 11은 본 발명의 일 실시예에 따른 도로 영역 검출 장치의 내부 구성을 개략적으로 도시한 블록도이다. 11 is a block diagram schematically illustrating an internal configuration of an apparatus for detecting a road area according to an embodiment of the present invention.

도 11을 참조하면, 본 발명의 일 실시예에 따른 도로 영역 검출 장치(100)는 DoFP 영상 센서(1110), 전처리부(1115), 계산부(1120), 도로 영역 검출부(1125), 메모리(1130) 및 프로세서(1135)를 포함하여 구성된다. Referring to FIG. 11 , an apparatus 100 for detecting a road area according to an embodiment of the present invention includes a DoFP image sensor 1110 , a preprocessor 1115 , a calculation unit 1120 , a road area detection unit 1125 , and a memory ( 1130 ) and a processor 1135 .

도 11에서는 도로 영역 검출 장치(100)가 DoFP 영상 센서(1110)를 구비하는 것을 가정하여 이를 중심으로 설명하나, 도로 영역 검출 장치(100)는 DoFP 영상 센서(1110)를 구비하지 않고, 해당 DoFP 영상 센서(1110)를 통해 촬영된 입력 영상을 획득할 수도 있음은 당연하다. In FIG. 11 , it is assumed that the road area detection apparatus 100 includes the DoFP image sensor 1110 , but the description is focused thereon. However, the road area detection apparatus 100 does not include the DoFP image sensor 1110 and does not include the DoFP image sensor 1110 . It goes without saying that an input image photographed through the image sensor 1110 may be acquired.

DoFP 영상 센서(1110)는 타겟을 촬영하여 입력 영상을 생성하기 위한 수단이다. The DoFP image sensor 1110 is a means for generating an input image by photographing a target.

전처리부(1115)는 DoFP 영상 센서(1110)를 통해 촬영된 입력 영상을 전처리하여 서로 각도가 상이한 4개의 편광 영상을 복원하기 위한 수단이다.The preprocessor 1115 is a means for preprocessing the input image captured by the DoFP image sensor 1110 to reconstruct four polarized images having different angles.

예를 들어, 전처리부(1115)는 광 디모자이킹(PDM: polarization demosaicking) 과정을 통해 서로 각도가 상이한 편광 영상을 복원할 수 있다. 전처리부(1115)는 예를 들어, 입력 영상을 전처리하여 0도, 45도, 90도 및 135도 편광 영상을 복원할 수 있다. For example, the preprocessor 1115 may reconstruct polarized images having different angles from each other through a polarization demosaicking (PDM) process. The preprocessor 1115 may reconstruct, for example, 0 degree, 45 degree, 90 degree, and 135 degree polarization images by preprocessing the input image.

계산부(1120)는 4개의 편광 영상을 이용하여 편광 정도 및 편광 각도를 각각 계산하기 위한 수단이다.The calculator 1120 is a means for calculating a polarization degree and a polarization angle using four polarized images, respectively.

보다 상세하게 계산부(1120)는 0도 내지 135도 편광 영상을 이용하여 빛의 전체 강도에 대한 제1 스토크스 파라미터를 도출하고, 0도 및 90도 편광 영상을 이용하여 선형 편광의 양에 대한 제2 스토크스 파라미터를 도출하며, 제45도 및 135도 편광 영상을 이용하여 선형 편광의 양에 대한 제3 스토크스 파라미터를 도출할 수 있다.In more detail, the calculator 1120 derives the first Stokes parameter for the total intensity of light using the 0 degree to 135 degree polarization image, and uses the 0 degree and 90 degree polarization images to calculate the amount of linear polarization. A second Stokes parameter is derived, and a third Stokes parameter with respect to the amount of linear polarization may be derived using the 45 degree and 135 degree polarization images.

이어, 제1 스토크스 파라미터 내지 제3 스토크스 파라미터를 이용하여 편광 정도 및 편광 각도를 각각 도출할 수 있다. 이는 이미 전술한 바와 동일하므로 중복되는 설명은 생략하기로 한다. Next, a polarization degree and a polarization angle may be derived using the first Stokes parameter to the third Stokes parameter, respectively. Since this is the same as that described above, the overlapping description will be omitted.

도로 영역 검출부(1125)는 편광 정도 및 편광 각도를 이용하여 도로 영역을 검출하여 분할할 수 있다. 보다 상세히 설명하면, 도로 영역 검출부(1125)는 편광 정도, 편광 각도 및 에지 정보를 결합하여 정밀한 도로 영역 맵을 생성할 수 있다. 이어, 도로 영역 검출부(1125)는 정밀한 도로 영역 맵을 이용하여 입력 영상내의 도로 영역을 검출하여 분할할 수 있다. 이는 도 1 내지 도 10을 참조하여 설명한 바와 동일하므로 중복되는 설명은 생략하기로 한다. The road area detection unit 1125 may detect and divide the road area using the degree of polarization and the polarization angle. In more detail, the road area detection unit 1125 may generate a precise road area map by combining the polarization degree, the polarization angle, and the edge information. Next, the road area detection unit 1125 may detect and segment the road area in the input image by using the precise road area map. Since this is the same as that described with reference to FIGS. 1 to 10 , a redundant description will be omitted.

메모리(1130)는 본 발명의 일 실시예에 따른 적외선 편광 각도를 이용한 도로 영역 검출 방법을 수행하기 위해 필요한 다양한 명령어들(프로그램 코드들)을 저장하기 위한 수단이다.The memory 1130 is a means for storing various instructions (program codes) necessary for performing the method for detecting a road area using an infrared polarization angle according to an embodiment of the present invention.

프로세서(1135)는 본 발명의 일 실시예에 따른 도로 영역 검출 장치(100)의 내부 구성 요소들(예를 들어, DoFP 영상 센서(1110), 전처리부(1115), 계산부(1120), 도로 영역 검출부(1125), 메모리(1130) 등)을 제어하기 위한 수단이다. The processor 1135 includes internal components (eg, the DoFP image sensor 1110 , the preprocessor 1115 , the calculator 1120 , the road It is a means for controlling the area detection unit 1125, the memory 1130, etc.).

본 발명의 실시 예에 따른 장치 및 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 컴퓨터 판독 가능 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야 통상의 기술자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media) 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.The apparatus and method according to an embodiment of the present invention may be implemented in the form of program instructions that can be executed through various computer means and recorded in a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, etc. alone or in combination. The program instructions recorded on the computer readable medium may be specially designed and configured for the present invention, or may be known and available to those skilled in the art of computer software. Examples of the computer-readable recording medium include magnetic media such as hard disks, floppy disks and magnetic tapes, optical media such as CD-ROMs and DVDs, and magnetic such as floppy disks. - Includes magneto-optical media and hardware devices specially configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine language codes such as those generated by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like.

상술한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The hardware devices described above may be configured to operate as one or more software modules to perform the operations of the present invention, and vice versa.

이제까지 본 발명에 대하여 그 실시 예들을 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시 예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.So far, the present invention has been looked at focusing on the embodiments thereof. Those of ordinary skill in the art to which the present invention pertains will understand that the present invention can be implemented in a modified form without departing from the essential characteristics of the present invention. Therefore, the disclosed embodiments should be considered in an illustrative rather than a restrictive sense. The scope of the present invention is indicated in the claims rather than the foregoing description, and all differences within the scope equivalent thereto should be construed as being included in the present invention.

100: 도로 영역 검출 장치
1110: DoFP 영상 센서
1115: 전처리부
1120: 계산부
1125: 도로 영역 검출부
1130: 메모리
1135: 프로세서
100: road area detection device
1110: DoFP image sensor
1115: preprocessor
1120: calculator
1125: road area detection unit
1130: memory
1135: Processor

Claims (14)

(a) 입력 영상을 전처리하여 서로 각도가 상이한 4개의 편광 영상을 생성하는 단계;
(b) 상기 4개의 편광 영상을 이용하여 편광 정도 및 편광 각도를 각각 계산하는 단계; 및
(c) 상기 편광 정도, 상기 편광 각도 및 에지 정보를 결합하여 정밀한 도로 영역 맵을 생성하고, 상기 정밀한 도로 영역 맵을 이용하여 상기 입력 영상내 도로 영역을 검출하여 분할하는 단계를 포함하는 도로 영역 검출 방법.
(a) generating four polarized images having different angles by preprocessing the input image;
(b) calculating a degree of polarization and a polarization angle using the four polarized images; and
(c) generating a precise road area map by combining the polarization degree, the polarization angle, and edge information, and detecting and dividing the road area in the input image using the precise road area map. Way.
제1 항에 있어서,
상기 입력 영상은 DoFP(Division of Focal Plane) 영상 센서를 통해 획득된 영상이되,
상기 (a) 단계는,
상기 입력 영상을 편광 디모자이킹(PDM: polarization demosaicking) 과정을 통해 0도, 45도, 90도 및 135도 편광 영상을 생성하는 것을 특징으로 하는 도로 영역 검출 방법.
According to claim 1,
The input image is an image acquired through a Division of Focal Plane (DoFP) image sensor,
The step (a) is,
and generating 0 degree, 45 degree, 90 degree and 135 degree polarized images by using the input image through a polarization demosaicking (PDM) process.
제2 항에 있어서,
상기 (b) 단계 이전에,
상기 0도, 45도, 90도 및 135도 편광 영상을 이용하여 빛의 전체 강도에 대한 제1 스토크스 파라미터를 도출하는 단계;
상기 0도 및 90도 편광 영상을 이용하여 선형 편광의 양에 대한 제2 스토크스 파라미터를 도출하는 단계;
상기 제45도 및 135도 편광 영상을 이용하여 선형 편광의 양에 대한 제3 스토크스 파라미터를 도출하는 단계를 더 포함하는 도로 영역 검출 방법.
3. The method of claim 2,
Before step (b),
deriving a first Stokes parameter for the total intensity of light using the 0 degree, 45 degree, 90 degree and 135 degree polarization images;
deriving a second Stokes parameter for an amount of linearly polarized light using the 0 degree and 90 degree polarization images;
and deriving a third Stokes parameter for an amount of linearly polarized light using the 45 degree and 135 degree polarized images.
제3 항에 있어서,
상기 (b) 단계는,
상기 제1 스토크스 파라미터 내지 상기 제3 스토크스 파라미터를 이용하여 편광 정도를 도출하는 단계; 및
상기 제2 스토크스 파라미터와 상기 제3 스토크스 파라미터를 이용하여 편광 각도를 도출하는 단계를 포함하는 것을 특징으로 하는 도로 영역 검출 방법.
4. The method of claim 3,
The step (b) is,
deriving a degree of polarization using the first Stokes parameter to the third Stokes parameter; and
and deriving a polarization angle using the second Stokes parameter and the third Stokes parameter.
제1 항에 있어서,
상기 (c) 단계는,
상기 편광 각도의 제로 분포 제약 조건을 이용하여 개략적인 도로 영역 맵을 획득하고, 상기 개략적인 도로 영역 맵을 이용하여 지평선을 도출하는 단계;
상기 지평선을 이용하여 관심 영역을 결정하고, 상기 관심 영역에 상기 편광 정도, 상기 편광 각도 및 에지 정보를 결합하여 정밀 도로 영역 맵을 생성하는 단계; 및
상기 정밀 도로 영역 맵을 이용하여 상기 입력 영상에서 도로 영역을 검출한 후 분할하는 단계를 포함하는 것을 특징으로 하는 도로 영역 검출 방법.
According to claim 1,
Step (c) is,
obtaining a schematic road area map using the zero distribution constraint of the polarization angle, and deriving a horizon using the rough road area map;
determining a region of interest using the horizon, and generating a region map with precision by combining the polarization degree, the polarization angle, and edge information to the region of interest; and
and dividing the road area from the input image by using the precision road area map.
제5 항에 있어서,
상기 지평선을 도출하기 전에,
상기 개략적인 도로 영역 맵에 형태학적 개방 연산(morphological open operation)을 수행하여 노이즈를 제거하는 것을 특징으로 하는 도로 영역 검출 방법.
6. The method of claim 5,
Before deriving the horizon,
and removing noise by performing a morphological open operation on the schematic road area map.
제1 항 내지 제6 항 중 어느 하나의 항에 따른 방법을 수행하기 위한 프로그램 코드를 기록한 컴퓨터로 판독 가능한 기록매체 제품.
A computer-readable recording medium product on which a program code for performing the method according to any one of claims 1 to 6 is recorded.
입력 영상을 전처리하여 서로 각도가 상이한 4개의 편광 영상을 생성하는 전처리부;
상기 4개의 편광 영상을 이용하여 편광 정도 및 편광 각도를 각각 계산하는 계산부; 및
상기 편광 정도, 상기 편광 각도 및 에지 정보를 결합하여 정밀한 도로 영역 맵을 생성하고, 상기 정밀한 도로 영역 맵을 이용하여 상기 입력 영상내 도로 영역을 검출하여 분할하는 도로 영역 검출부를 포함하는 도로 영역 검출 장치.
a preprocessor for preprocessing the input image to generate four polarized images having different angles;
a calculation unit for calculating a polarization degree and a polarization angle using the four polarized images; and
and a road area detection unit generating a precise road area map by combining the polarization degree, the polarization angle, and edge information, and detecting and dividing the road area in the input image using the precise road area map. .
제8 항에 있어서
상기 입력 영상을 획득하는 DoFP(Division of Focal Plane) 영상 센서를 더 포함하는 도로 영역 검출 장치.
9. The method of claim 8
The apparatus for detecting a road area further comprising a Division of Focal Plane (DoFP) image sensor configured to acquire the input image.
제8 항에 있어서
상기 전처리부는,
상기 입력 영상을 편광 디모자이킹(PDM: polarization demosaicking) 과정을 통해 0도, 45도, 90도 및 135도 편광 영상을 생성하는 것을 특징으로 하는 도로 영역 검출 장치.
9. The method of claim 8
The preprocessor is
and generating 0 degree, 45 degree, 90 degree and 135 degree polarized images by using the input image through a polarization demosaicking (PDM) process.
제10 항에 있어서,
상기 계산부는,
상기 0도, 45도, 90도 및 135도 편광 영상을 이용하여 빛의 전체 강도에 대한 제1 스토크스 파라미터를 도출하고, 상기 0도 및 90도 편광 영상을 이용하여 선형 편광의 양에 대한 제2 스토크스 파라미터를 도출하며, 상기 제45도 및 135도 편광 영상을 이용하여 선형 편광의 양에 대한 제3 스토크스 파라미터를 도출하는 것을 특징으로 하는 도로 영역 검출 장치.
11. The method of claim 10,
The calculator is
Using the 0 degree, 45 degree, 90 degree and 135 degree polarization images, a first Stokes parameter for the total intensity of light is derived, and the first Stokes parameter for the amount of linear polarization using the 0 degree and 90 degree polarization images A road area detection apparatus, comprising deriving 2 Stokes parameters, and deriving a third Stokes parameter with respect to the amount of linear polarization using the 45 and 135 degree polarized images.
제11항에 있어서,
상기 계산부는,
상기 제1 스토크스 파라미터 내지 상기 제3 스토크스 파라미터를 이용하여 편광 정도를 도출하고, 상기 제2 스토크스 파라미터와 상기 제3 스토크스 파라미터를 이용하여 편광 각도를 도출하는 것을 특징으로 하는 도로 영역 검출 장치.
12. The method of claim 11,
The calculator is
Road area detection, characterized in that the degree of polarization is derived using the first Stokes parameter to the third Stokes parameter, and the polarization angle is derived using the second Stokes parameter and the third Stokes parameter. Device.
제8 항에 있어서,
상기 도로 영역 검출부는,
상기 편광 각도의 제로 분포 제약 조건을 이용하여 개략적인 도로 영역 맵을 획득하고, 상기 개략적인 도로 영역 맵을 이용하여 지평선을 도출하고, 상기 지평선을 이용하여 관심 영역을 결정하고, 상기 관심 영역에 상기 편광 정도, 상기 편광 각도 및 에지 정보를 결합하여 정밀 도로 영역 맵을 생성하며, 상기 정밀 도로 영역 맵을 이용하여 상기 입력 영상에서 도로 영역을 검출한 후 분할하는 것을 특징으로 하는 도로 영역 검출 장치.
9. The method of claim 8,
The road area detection unit,
obtaining a schematic road area map using the zero distribution constraint of the polarization angle, deriving a horizon using the schematic road area map, determining a region of interest using the horizon, and adding the A road area detection device, characterized in that the polarization degree, the polarization angle, and edge information are combined to generate a precision road area map, and the road area is detected from the input image by using the precision road area map and then divided.
제13 항에 있어서,
상기 도로 영역 검출부는,
상기 개략적인 도로 영역 맵에 형태학적 개방 연산(morphological open operation)을 수행하여 노이즈를 제거하는 것을 특징으로 하는 도로 영역 검출 장치.
14. The method of claim 13,
The road area detection unit,
and removing noise by performing a morphological open operation on the schematic road area map.
KR1020200093687A 2020-07-28 2020-07-28 Road detection method and apparatus using angle of polarization in infrared imaging KR102467099B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200093687A KR102467099B1 (en) 2020-07-28 2020-07-28 Road detection method and apparatus using angle of polarization in infrared imaging

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200093687A KR102467099B1 (en) 2020-07-28 2020-07-28 Road detection method and apparatus using angle of polarization in infrared imaging

Publications (2)

Publication Number Publication Date
KR20220014083A true KR20220014083A (en) 2022-02-04
KR102467099B1 KR102467099B1 (en) 2022-11-14

Family

ID=80267970

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200093687A KR102467099B1 (en) 2020-07-28 2020-07-28 Road detection method and apparatus using angle of polarization in infrared imaging

Country Status (1)

Country Link
KR (1) KR102467099B1 (en)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101766239B1 (en) 2015-07-02 2017-08-08 이승래 Apparatus and method for recognition road surface state

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101766239B1 (en) 2015-07-02 2017-08-08 이승래 Apparatus and method for recognition road surface state

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
C N Dickson외 3인, "Improving infrared vehicle detection with polarisation", IET Intelligent signal Processing Conference2013, (2013.12.03.) 1부.* *
Ning Li외 3인, "Demosaicking DoFP images using Newton's polynomial interpolation and polarization difference model", Optics express, vol.27, issue 2, (2019.01.21.) 1부.* *
Yong Li외 3인, "Road extraction algorithm based on intrinsic image and vanishing point for unstructured road image", Robotics and Autonomous Systems", vol.109, (2018.09.06.) 1부.* *

Also Published As

Publication number Publication date
KR102467099B1 (en) 2022-11-14

Similar Documents

Publication Publication Date Title
KR102109941B1 (en) Method and Apparatus for Vehicle Detection Using Lidar Sensor and Camera
US10937181B2 (en) Information processing apparatus, object recognition apparatus, device control system, movable body, image processing method, and computer-readable recording medium
JP6586430B2 (en) Estimation of vehicle position
JP5926228B2 (en) Depth detection method and system for autonomous vehicles
US20090207257A1 (en) Camera egomotion estimation from an infra-red image sequence for night vision
US10776946B2 (en) Image processing device, object recognizing device, device control system, moving object, image processing method, and computer-readable medium
US10776637B2 (en) Image processing device, object recognizing device, device control system, image processing method, and computer-readable medium
US10339405B2 (en) Image recognition device and image recognition method
US20050232463A1 (en) Method and apparatus for detecting a presence prior to collision
US20130177237A1 (en) Stereo-vision object detection system and method
US10832431B2 (en) Image processing apparatus, object recognition apparatus, equipment control system, image processing method, and computer-readable recording medium
JP6435661B2 (en) Object identification system, information processing apparatus, information processing method, and program
EP2854103A1 (en) Method of decreasing noise of a depth image, image processing apparatus and image generating apparatus using thereof
JP2013109760A (en) Target detection method and target detection system
US10546383B2 (en) Image processing device, object recognizing device, device control system, image processing method, and computer-readable medium
US9747507B2 (en) Ground plane detection
KR20190115501A (en) a vehicle recognizing system
US10789727B2 (en) Information processing apparatus and non-transitory recording medium storing thereon a computer program
KR101341243B1 (en) Apparatus and method of restoring image damaged by weather condition
KR102188164B1 (en) Method of Road Recognition using 3D Data
KR102467099B1 (en) Road detection method and apparatus using angle of polarization in infrared imaging
Ma et al. Disparity estimation based on fusion of vision and LiDAR
JP6828332B2 (en) Image processing equipment, object recognition equipment, equipment control systems, image processing methods and programs
KR20220057879A (en) Method and system for detecting object at video steam
KR20160095583A (en) Car around the obstacle detection system based on top view and method thereof

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant