KR20220074649A - 인공지능(ai) 기반의 도로 노면 상태 관리 시스템 및 방법 - Google Patents

인공지능(ai) 기반의 도로 노면 상태 관리 시스템 및 방법 Download PDF

Info

Publication number
KR20220074649A
KR20220074649A KR1020200163384A KR20200163384A KR20220074649A KR 20220074649 A KR20220074649 A KR 20220074649A KR 1020200163384 A KR1020200163384 A KR 1020200163384A KR 20200163384 A KR20200163384 A KR 20200163384A KR 20220074649 A KR20220074649 A KR 20220074649A
Authority
KR
South Korea
Prior art keywords
image
interest
region
depth
curved image
Prior art date
Application number
KR1020200163384A
Other languages
English (en)
Inventor
변창수
Original Assignee
주식회사 지금아이앤씨
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 지금아이앤씨 filed Critical 주식회사 지금아이앤씨
Priority to KR1020200163384A priority Critical patent/KR20220074649A/ko
Publication of KR20220074649A publication Critical patent/KR20220074649A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/60Rotation of whole images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Business, Economics & Management (AREA)
  • Multimedia (AREA)
  • Tourism & Hospitality (AREA)
  • General Health & Medical Sciences (AREA)
  • Economics (AREA)
  • Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Quality & Reliability (AREA)
  • Geometry (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)

Abstract

본 발명의 실시예들에 따른 인공지능(AI) 기반의 도로 노면 상태 관리 시스템은 도로의 영상을 촬영하는 카메라, 카메라와 연동되어 도로의 깊이 측정 데이터를 획득하기 위한 깊이 카메라, 카메라가 촬영한 영상에 관심영역을 추출하는 관심영역 추출부, 관심영역에서 낙하물 존재 여부를 판단하는 낙하물 판단부, 낙하물 판단부의 판단 결과 낙하물이 존재하는 경우, 깊이 카메라로부터의 깊이 측정 데이터를 이용하여 관심영역의 깊이 데이터를 이용하여 굴곡 이미지를 생성하는 굴곡 이미지 생성부, 생성된 굴곡 이미지를 가공하는 굴곡 이미지 처리부, 및 굴곡 이미지 처리부로부터의 가공된 굴곡 이미지를 서버로 전송하는 전송부를 포함한다. 따라서 본 발명에 따르면, 고가의 장비를 이용하지 않고 도로의 노면을 촬영한 영상과 깊이 데이터를 이용하여 노면의 상태를 관리할 수 있다.

Description

인공지능(AI) 기반의 도로 노면 상태 관리 시스템 및 방법{System and method for monitoring road surface condition based on Artificial Intelligence}
본 발명은 도로 노면 상태 관리 시스템 및 방법에 관한 것으로, 보다 상세하게는 도로의 노면을 촬영한 영상과 깊이 데이터를 이용하여 노면의 상태를 관리하는 인공지능(AI) 기반의 도로 노면 상태 관리 시스템 및 방법에 관한 것이다.
도로 표면의 불량은 도로의 노후화와 기후 변화로 인해 도로 표면의 성능은 빠르게 약해지고, 지속적인 차량의 이동 하중으로 인해 포트홀, 균열과 같은 현상이 반복해서 발생하기 때문이다.
특히, 도로 표면의 불량 상태는 불규칙적인 모양으로 발생하고, 발생 위치 또한 랜덤하게 발생하므로 운전자는 예기치 못한 위험에 노출되고, 각종 사고로 이어질 확률이 높다.
이러한 사고를 예방하기 위해 도로 파손의 위치 정보가 우선적으로 수집되어야 하는데 기존의 경우 검수자가 직접 도로 파손 위치를 파악하는 방식으로 진행되고 있다. 그러나 일만 킬로(10,000 km)가 넘는 전국 도로망을 인력 기반으로 관리하기에는 현실적인 제약이 크므로 이를 자동화하기 위한 기술이 지속적으로 개발되고 있다.
특히, 아스팔트 또는 콘크리트 도로 포장시 표면에 생기는 국부적인 작은 구멍 또는 갈라진 틈을 의미하며, 장마철 비가 내린 후에 종종 발생하여 도로를 운행하는 차량에게 큰 위험요소로 노면홈이라고도 불리는 포트홀(pothole)에 의하여, 서울시에만 연간 5만건 이상 발생하는 것으로 조사됐고, 이로 인한 교통사고 또한 연간 3백여 건이 발생하는 것으로 나타났다.
따라서 이러한 포트홀을 검출하고 보수하기 위해 도로에서 발생하는 포트홀에 대한 분석과 검출할 수 있는 기술이 필요하다.
현재는 크게 진동센서를 이용하는 기술과 레이저와 같은 영상을 이용하는 기술로 구분된다.
진동센서를 이용하는 기술은, 차량 내 진동감지 센서를 장착하여 파손된 도로를 지나갈 때 발생하는 충격을 감지하는 방식으로 탐지영역의 제한과 인식률이 낮다는 단점이 있다.
영상을 이용하는 기술은, 일 예로 차량 후미에 레이저와 고정밀 카메라를 장착하여 3차원 형상을 복원하는 조사 방식인데, 장비의 가격이 고가라는 문제점이 있다.
따라서 도로 표면 상태 중에서 넓은 영역에서 랜덤하게 발생하는 포트홀(pothole)이나 빅 크랙(big crack)에 대한 위치정보와 형태정보를 동시에 그리고, 실시간으로 수집하는 기술이 상용화되어야 한다.
한국공개특허공보 제2018-0110321호(2018.10.10)
본 발명은 이와 같은 문제점을 감안한 것으로서, 본 발명은 고가의 장비를 이용하지 않고 도로의 노면을 촬영한 영상과 깊이 데이터를 이용하여 노면의 상태를 관리할 수 있는 인공지능(AI) 기반의 도로 노면 상태 관리 시스템을 제공하는 것이다.
본 발명은 고가의 장비를 이용하지 않고 도로의 노면을 촬영한 영상과 깊이 데이터를 이용하여 노면의 상태를 관리할 수 있는 도로 노면 상태 관리 시스템을 이용하여 노면의 상태를 관리할 수 있는 인공지능(AI) 기반의 도로 노면 상태 관리 방법을 제공하는 것이다.
본 발명의 실시예들에 따른 인공지능(AI) 기반의 도로 노면 상태 관리 방법에 따르면, 카메라로부터 도로의 촬영 영상을 입력받는 단계; 깊이 카메라로부터 도로의 깊이 측정 데이터를 획득하는 단계; 상기 촬영 영상에서 관심영역(ROI, Region of Interest)을 추출하는 단계; 상기 추출된 관심영역의 영상으로부터 낙하물 존재 여부를 판단하는 단계; 상기 관심영역에 낙하물이 존재하는 경우, 상기 관심영역의 깊이 데이터를 이용하여 굴곡 이미지를 생성하는 단계; 및 상기 생성된 굴곡 이미지를 가공하여 서버로 전송하는 단계를 포함한다.
본 발명의 실시예들에 있어서, 상기 추출된 관심영역의 영상으로부터 낙하물 존재 여부를 판단하는 단계는 상기 관심영역에서 사전에 설정한 레벨로 에지를 추출하는 단계; 및 상기 관심영역에서 에지가 추출된 경우, 상기 관심영역에 낙하물이 존재하는 것으로 판단하는 단계로 이루어진다.
본 발명의 실시예들에 있어서, 상기 관심영역의 깊이 데이터를 이용하여 굴곡 이미지를 생성하기 위하여, 상기 관심영역에서 에지가 추출된 경우, 상기 관심영역의 깊이 데이터를 추출한다. 그리고 상기 추출된 관심영역의 깊이 데이터를 이용하여 최소자승법으로 평면방정식을 도출하며, 상기 촬영 영상의 픽셀 별로 상기 평면방식을 이용한 관심영역의 평면 값과 상기 깊이 카메라로부터의 깊이 측정 데이터의 깊이 값의 오차 값을 계산한 후, 상기 오차 값이 사전에 설정한 기준을 초과하는 픽셀을 추출하며, 상기 추출된 픽셀과 상기 오차 값을 이용하여 굴곡 이미지를 생성하는 단계가 이루어진다.
본 발명의 실시예들에 있어서, 상기 생성된 굴곡 이미지를 가공하여 서버로 전송하기 위하여, 상기 카메라의 설치 높이와 설치 각도를 반영하여 상기 굴곡 이미지를 상방에서 수직으로 바라본 이미지로 변환하고, 상기 변환된 이미지를 차량의 GPS 값과 진행 방향을 고려하여 상기 굴곡 이미지를 진북 방향으로 회전하며, 상기 진북 방향으로 회전된 굴곡 이미지와 상기 굴곡 이미지의 위치를 서버로 전송한다.
본 발명의 실시예들에 있어서, 상기 추출된 관심영역의 영상으로부터 낙하물 존재 여부를 판단하기 위하여, 관심영역에서 에지를 추출하고, 추출된 에지의 모양, 크기, 개수를 바탕으로 낙하물 여부를 학습시켜, 관심영역에서 낙하물 여부를 판단할 수 있다.
본 발명의 다른 실시예들에 따른 인공지능(AI) 기반의 도로 노면 상태 관리 방법에 따르면, 카메라로부터 촬영 영상을 입력받는 단계; 깊이 카메라로부터 깊이 측정 데이터를 획득하는 단계; 상기 촬영 영상에서 관심영역(ROI, Region of Interest)을 추출하는 단계; 상기 관심영역에서 사전에 설정한 레벨로 에지를 추출하는 단계; 최소자승법상기 관심영역에서 에지가 추출된 경우, 상기 관심영역의 깊이 데이터를 추출하는 단계; 상기 추출된 관심영역의 깊이 데이터를 이용하여 최소자승법으로 평면방정식을 도출하는 단계; 상기 촬영 영상의 픽셀 별로 상기 평면방식을 이용한 관심영역의 평면 값과 상기 깊이 카메라로부터의 깊이 측정 데이터의 깊이 값의 오차 값을 계산하는 단계; 상기 오차 값이 사전에 설정한 기준을 초과하는 픽셀을 추출하는 단계; 상기 추출된 픽셀과 상기 오차 값을 이용하여 굴곡 이미지를 생성하는 단계; 상기 카메라의 설치 높이와 설치 각도를 반영하여 상기 굴곡 이미지를 상방에서 수직으로 바라본 이미지로 변환하는 단계; 상기 변환된 이미지를 차량의 GPS 값과 진행 방향을 고려하여 상기 굴곡 이미지를 진북 방향으로 회전하는 단계; 상기 진북 방향으로 회전된 굴곡 이미지와 상기 굴곡 이미지의 위치를 서버로 전송하는 단계로 이루어진다.
본 발명의 실시예들에 따른 인공지능(AI) 기반의 도로 노면 상태 관리 시스템은 도로의 영상을 촬영하는 카메라; 상기 카메라와 연동되어 도로의 깊이 측정 데이터를 획득하기 위한 깊이 카메라; 상기 카메라가 촬영한 영상에 관심영역을 추출하는 관심영역 추출부; 상기 관심영역에서 낙하물 존재 여부를 판단하는 낙하물 판단부; 상기 낙하물 판단부의 판단 결과 낙하물이 존재하는 경우, 상기 깊이 카메라로부터의 깊이 측정 데이터를 이용하여 관심영역의 깊이 데이터를 이용하여 굴곡 이미지를 생성하는 굴곡 이미지 생성부; 상기 생성된 굴곡 이미지를 가공하는 굴곡 이미지 처리부; 및 상기 굴곡 이미지 처리부로부터의 가공된 굴곡 이미지를 서버로 전송하는 전송부를 포함한다.
본 발명의 실시예들에 있어서, 본 시스템은 상기 관심영역 추출부로부터의 관심영역 사전에 설정한 레벨로 에지를 추출하는 에지 추출부를 더 포함한다. 그리고 상기 낙하물 판단부는 상기 관심영역에서 에지가 추출된 경우, 상기 관심영역에 낙하물이 존재하는 것으로 판단한다.
본 발명의 실시예들에 있어서, 본 시스템은 상기 관심영역에서 에지가 추출된 경우, 상기 관심영역의 깊이 데이터를 추출하는 깊이 데이터 추출부를 더 포함한다. 그리고 상기 굴곡 이미지 생성부는 상기 추출된 관심영역의 깊이 데이터를 이용하여 최소자승법으로 평면방정식을 도출하고, 상기 촬영 영상의 픽셀 별로 상기 평면방식을 이용한 관심영역의 평면 값과 상기 깊이 카메라로부터의 깊이 측정 데이터의 깊이 값의 오차 값을 계산하고, 상기 오차 값이 사전에 설정한 기준을 초과하는 픽셀을 추출한 후, 상기 추출된 픽셀과 상기 오차 값을 이용하여 굴곡 이미지를 생성한다.
본 발명의 실시예들에 있어서, 상기 생성된 굴곡 이미지를 가공하기 위한 상기 굴곡 이미지 처리부는 상기 카메라의 설치 높이와 설치 각도를 반영하여 상기 굴곡 이미지를 상방에서 수직으로 바라본 이미지로 변환하는 탑뷰(top-view) 변환부; 상기 변환된 이미지를 차량의 GPS 값과 진행 방향을 고려하여 상기 굴곡 이미지를 진북 방향으로 회전하는 이미지 회전부; 및 상기 촬영된 영상의 시간과 위치를 도출하는 영상 정보 도출부를 포함한다. 그리고 상기 전송부는 상기 진북 방향으로 회전된 굴곡 이미지와 상기 굴곡 이미지의 시간, 위치를 서버로 전송할 수 있다.
이상에서 설명한 바와 같은 인공지능(AI) 기반의 도로 노면 상태 관리 시스템 및 방법에 따르면 다음과 같은 효과가 있다.
첫째, 고가의 장비를 이용하지 않고 도로의 노면을 촬영한 영상과 깊이 데이터를 이용하여 노면의 상태를 관리할 수 있다.
둘째, 도로의 일반 영상으로 판단하기 어려운 노면 상태를 깊이 카메라를 이용하여 낙하물 존재 여부 등을 판단함으로써, 도로 노면 상태를 더 정확하게 할 수 있다.
셋째, 일반 카메라와 깊이 카메라로부터의 영상을 처리하여 도로의 노면 상태를 판단하여 서버에 전송함으로써, 서버가 아닌 촬영 영역에서 영상 처리 및 판단 과정을 모두 수행 가능하도록 하여 전체적인 관리 효율 및 속도가 높다.
넷째, 영상 처리 및 판단 과정은 기계 학습을 통하여, 그 처리 속도 및 정확도를 더 높일 수 있다.
도 1은 본 발명의 일 실시예에 따른 인공지능(AI) 기반의 도로 노면 상태 관리 방법을 설명하기 위한 순서도
도 2는 카메라가 촬영한 일반 영상을 에지를 추출하여 낙하물 여부를 판단하기 단계를 설명하기 위한 영상 캡쳐
도 3은 깊이 카메라로부터 취득한 깊이 값을 통하여 도로의 노면 상태를 판단하기 위한 영상 캡쳐
도 4는 도 1의 굴곡 이미지 생성하는 단계를 구체적으로 설명하기 위한 순서도
도 5는 도 1의 굴곡 이미지를 가공하는 단계를 구체적으로 설명하기 위한 순서도
도 6은 본 발명의 일 실시예에 따른 인공지능(AI) 기반의 도로 노면 상태 관리 시스템을 설명하기 위한 구성도
도 7은 도 6의 굴곡 이미지 처리부를 구체적으로 설명하기 위한 구성도
첨부한 도면을 참조하여 본 발명의 실시예들에 따른 인공지능(AI) 기반의 도로 노면 상태 관리 시스템 및 방법에 대하여 상세히 설명한다. 본 발명은 다양한 변경을 가할 수 있고 여러 가지 형태를 가질 수 있는바, 특정 실시예들을 도면에 예시하고 본문에 상세하게 설명하고자 한다. 그러나 이는 본 발명을 특정한 개시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다. 첨부된 도면에 있어서, 구조물들의 치수는 본 발명의 명확성을 기하기 위하여 실제보다 확대하거나, 개략적인 구성을 이해하기 위하여 실제보다 축소하여 도시한 것이다.
또한, 제1 및 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 한편, 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
도 1은 본 발명의 일 실시예에 따른 인공지능(AI) 기반의 도로 노면 상태 관리 방법을 설명하기 위한 순서도이다. 도 2는 카메라가 촬영한 일반 영상을 에지를 추출하여 낙하물 여부를 판단하기 단계를 설명하기 위한 영상 캡쳐이고, 도 3은 깊이 카메라로부터 취득한 깊이 값을 통하여 도로의 노면 상태를 판단하기 위한 영상 캡쳐이다. 도 4는 도 1의 굴곡 이미지 생성하는 단계를 구체적으로 설명하기 위한 순서도이고, 도 5는 도 1의 굴곡 이미지를 가공하는 단계를 구체적으로 설명하기 위한 순서도이다.
도 1 내지 도 5를 참조하면, 본 발명의 실시예들에 따른 인공지능(AI) 기반의 도로 노면 상태 관리 방법에 따르면, 고가의 장비를 이용하지 않고 도로의 노면을 촬영한 영상과 깊이 데이터를 이용하여 노면의 상태를 관리할 수 있다.
이를 위하여, 카메라로부터 도로의 촬영 영상을 입력받고(S10), 깊이 카메라로부터 도로의 깊이 측정 데이터를 획득하여(S20), 상기 촬영 영상에서 관심영역(ROI, Region of Interest)을 추출한 후(S30), 상기 추출된 관심영역의 영상으로부터 낙하물 존재 여부를 판단한다(S40). 이 때 상기 관심영역에 낙하물이 존재하는 경우, 상기 관심영역의 깊이 데이터를 이용하여 굴곡 이미지를 생성한다(S50). 그리고 상기 생성된 굴곡 이미지를 가공하여 서버로 전송한다(S60).
구체적으로 설명하면, 카메라로부터 도로의 일반 촬영 영상을 입력 받고, 깊이 카메라로부터 도로의 깊이 측정 데이터를 획득한 후, 전체 영상이 아니라 영상 중 도로에 해당하는 부분이 관심영역(ROI, Region of Interest)을 추출한다.
상기 추출된 관심영역에 낙하물 존재 여부를 판단한다. 본 발명의 실시예들에 있어서, 상기 관심영역에서 사전에 설정한 레벨로 에지를 추출한다. 이 때, 상기 관심영역에서 에지가 추출된 경우, 상기 관심영역에 낙하물이 존재하는 것으로 판단한다. 만일 상기 관심영역에서 에지가 추출되지 않은 경우에는 상기 관심영역에 낙하물이 존재하지 않으므로 이후 도로 굴곡 상태, 도로 노면 상태를 판단하기 위한 과정을 수행하지 않을 수 있다.
도 2를 참조하면, 실제 영상에서 사전에 설정한 레벨로 에지 처리한 경우에, 낙하물이나 이물질이 없는 경우에는 에지가 추출되지 않는 것을 확인할 수 있다. 여기서 낙하물은 도로 표면에 손상이 생겨서 포트홀, 크랙 등의 오목하게 생긴 경우를 통칭해서 말하는 것이고, 이물질은 도로 표면에 자동차 부품, 동물의 사체, 부피가 있는 물건 등의 볼록하게 생긴 경우를 통칭해서 말하는 것이다.
한편, 관리자 또는 시스템에서 사전에 설정한 레벨로 에지 처리를 할 수 있다. 예를 들어, 속도가 빠른 고속도로, 자동차 전용 도로의 경우에는 에지 처리의 레벨을 높이거나, 작은 낙하물, 이물질에 대해서도 에지 처리할 수 있도록 할 수 있다.
본 발명의 실시예들에 있어서, 상기 추출된 관심영역의 영상으로부터 낙하물 존재 여부를 판단하는 단계에서, 관심영역에서 에지를 추출하고, 추출된 에지의 모양, 크기, 개수를 바탕으로 낙하물 여부를 학습시켜, 관심영역에서 낙하물 여부를 판단할 수 있다. 즉, 학습 과정을 통해서, 학습 데이터 축척 및 판단 과정을 반복하면서 추후 낙하물 판단 여부에 대해서 인공지능화 될 수 있다고 할 것이다.
본 발명의 실시예들에 있어서, 관심영역에 낙하물이 존재하는 경우, 관심영역의 깊이 데이터를 이용하여 굴곡 이미지를 생성한다.
도 3을 참조하면, 상기 관심영역에서 에지가 추출된 경우, 관심영역에 낙하물 등이 존재하므로, 상기 관심영역의 깊이 데이터를 추출한다.
이어서 상기 추출된 관심영역의 깊이 데이터를 이용하여 최소자승법으로 평면방정식을 도출한다. 이어서, 상기 촬영 영상의 픽셀 별로 상기 평면방식을 이용한 관심영역의 평면 값과 상기 깊이 카메라로부터의 깊이 측정 데이터의 깊이 값의 오차 값을 계산한다. 상기 오차 값이 사전에 설정한 기준을 초과할 경우에는 해당 픽셀에 낙하물이 존재하는 것이므로, 해당 픽셀을 추출한다. 그리고, 상기 추출된 픽셀과 상기 픽셀의 오차 값을 이용하여 굴곡 이미지를 생성한다.
이와 같이, 픽셀과 오차 값을 이용하여 굴곡 이미지를 생성하므로, 해당 영상에서의 픽셀 정보를 토대로 해당 굴곡 이미지의 위치와 형상이 상대적으로 정확하다고 할 것이다.
도 4를 참조하면, 관심영역의 깊이 데이터 값에서 최소자승법으로 평면방정식을 구하고, 평면 값과 실제 측정 값을 비교하여 오차가 발생할 경우에는 깊이의 오차가 존재하는, 즉 낙하물 등이 존재한다고 판단하는 것이다.
도 5를 참조하면, 상기 생성된 굴곡 이미지를 가공하여 서버로 전송하는 단계를 구체적으로 설명하기로 한다.
본 발명의 실시예들에 있어서, 도로 노면 상태를 최종적으로 관리하는 서버에서 상기 생성된 굴곡 이미지를 실제 지도 등에 반영하기 위하여 굴곡 이미지를 가공한다.
구체적으로, 상기 카메라의 설치 높이와 설치 각도를 반영하여 상기 굴곡 이미지를 상방에서 수직으로 바라본 이미지로 변환한다. 즉, 촬영 영상을 차량 등의 이동수단에 위치한 카메라에서 바라본 영상이므로, 실제 도로를 상방에서 수직으로 바라본 탑뷰(top-view) 영상으로 변환하는 것이다. 굴곡 이미지를 포함한 관심영역 또는 굴곡 이미지 자체를 카메라가 위치한 사선에서 바라보는 각도가 아닌, 하늘에서 바라본 영상으로 수정함으로써, 실제 지도에 반영할 때 왜곡되지 않는다. 또한 복수의 영상들을 겹칠 경우에는 수직에서 바라본 탑뷰 영상을 겹쳐야 최종 정확한 이미지 및 영상 및 영상이 결합된 지도 등을 획득할 수 있다.
이어서, 상기 탑뷰로 변환된 이미지를 차량의 GPS 값과 진행 방향을 고려하여 굴곡 이미지를 진북 방향으로 회전한다. 이는 서버에서 관리하는 지도 또는 일반적인 지도의 영상, 이미지가 진북 방향으로 생성되는 경우가 많으므로, 서버 단에서 복수의 단말기, 시스템, 카메라, 에지(Edge) AI 등에서 전달받은 영상을 일관성 있게 결합하기 위해서는 각 단말기(시스템)에서 진북 방향으로 회전시켜 서버에 전송시키는 것이 바람직하다.
또한 상기 진북 방향으로 회전된 굴곡 이미지와 함께 상기 굴곡 이미지의 위치를 서버로 전송할 수 있다. 앞에서 설명한 바와 같이, 해당 굴곡 이미지 또는 해당 굴곡 이미지가 포함된 관심영역을 지도에 반영하기 위해서는 해당 굴곡 이미지의 위치 정보가 필요한데, 해당 영상을 촬영하는 위치 정보는 카메라를 구비하여 이동하는 차량의 GPS 값으로 확보가 가능하므로, 해당 GPS 값을 포함하는 위치 정보를 서버에 같이 전송한다. 나아가, 촬영 시간에 대한 정보도 같이 전송하여 해당 영상에서의 굴곡 이미지가 발생 또는 시간대별로 굴곡 이미지의 변화를 추적 가능하므로, 시간 정보도 같이 서버에 같이 전송할 수 있다.
도 6은 본 발명의 일 실시예에 따른 인공지능(AI) 기반의 도로 노면 상태 관리 시스템을 설명하기 위한 구성도이고, 도 7은 도 6의 굴곡 이미지 처리부를 구체적으로 설명하기 위한 구성도이다.
도 6 및 도 7을 참조하면, 본 발명의 실시예들에 따른 인공지능(AI) 기반의 도로 노면 상태 관리 시스템은 고가의 장비를 이용하지 않고 도로의 노면을 촬영한 영상과 깊이 데이터를 이용하여 노면의 상태를 관리할 수 있다.
이를 위하여, 카메라(100), 깊이 카메라(150), 관심영역 추출부(200), 에지 추출부(300), 낙하물 판단부(400), 깊이 데이터 추출부(500), 굴곡 이미지 생성부(600), 굴곡 이미지 처리부(700), 전송부(800)를 포함한다.
카메라(100)는 도로의 영상을 촬영하고 이를 저장, 전달한다.
깊이 카메라(150)는 카메라(100)와 시간적으로 연동되어 도로의 깊이 측정 데이터를 획득하고, 이를 저장 전달한다.
본 발명의 실시예들에 있어서, 관심영역 추출부(200)는 카메라(100)가 촬영한 영상에 관심영역을 추출한다. 그리고, 에지 추출부(300)는 관심영역 추출부(200)로부터의 관심영역 사전에 설정한 레벨로 에지를 추출한다.
본 발명의 실시예들에 있어서, 낙하물 판단부(400)는 관심영역에서 낙하물 존재 여부를 판단한다. 즉, 에지 추출부(300)가 관심영역에서 에지가 추출한 경우, 낙하물 판단부(400)는 상기 관심영역에 낙하물이 존재하는 것으로 판단하는 것이다. 반대로 에지 추출부(300)가 관심영역에서 에지가 추출하지 못 한 경우에는 낙하물이 존재하지 않는 것이므로 이후 과정을 수행하지 않을 수 있다.
만일, 낙하물이 존재하는 것으로 판단된 경우에는 깊이 데이터 추출부(500)가 상기 관심영역의 깊이 데이터를 추출한다.
그리고 굴곡 이미지 생성부(600)는 깊이 데이터 추출부(500)가 추출한 관심영역의 깊이 데이터를 이용하여 굴곡 이미지를 생성한다.
본 발명의 실시예들에 있어서, 굴곡 이미지 생성부(600)는 상기 추출된 관심영역의 깊이 데이터를 이용하여 최소자승법으로 평면방정식을 도출하고, 상기 촬영 영상의 픽셀 별로 상기 평면방식을 이용한 관심영역의 평면 값과 상기 깊이 카메라로부터의 깊이 측정 데이터의 깊이 값의 오차 값을 계산하고, 상기 오차 값이 사전에 설정한 기준을 초과하는 픽셀을 추출한 후, 상기 추출된 픽셀과 상기 오차 값을 이용하여 굴곡 이미지를 생성한다.
본 발명의 실시예들에 있어서, 굴곡 이미지 처리부(700)는 생성된 굴곡 이미지를 가공한다. 이를 위하여, 굴곡 이미지 처리부(700)는 카메라(100), 깊이 카메라(150)의 설치 높이와 설치 각도를 반영하여 상기 굴곡 이미지를 상방에서 수직으로 바라본 이미지로 변환하는 탑뷰(top-view) 변환부(710), 상기 변환된 이미지를 차량의 GPS 값과 진행 방향을 고려하여 상기 굴곡 이미지를 진북 방향으로 회전하는 이미지 회전부(720) 및 상기 촬영된 영상의 시간과 위치를 도출하는 영상 정보 도출부(730)를 포함한다. 이 때, 해당 굴곡 이미지 또는 해당 굴곡 이미지가 포함된 관심영역을 지도에 반영하기 위해서는 해당 굴곡 이미지의 위치 정보가 필요한데, 영상 정보 도출부(730)가 도출한 위치 정보와, 촬영 시간에 대한 정보도 도출할 수 있다.
본 발명의 실시예들에 있어서, 전송부(800)는 굴곡 이미지 처리부(700)로부터의 가공된 굴곡 이미지를 서버로 전송한다. 이 때 전송부(800)는 굴곡 이미지의 위치 정보와 함께 시간 정보도 같이 전송할 수 있다.
이 후, 전송부(800)로부터 굴곡 이미지, 굴곡 이미지의 위치 및 시간 정보를 전달받은 서버(도시되지 않음)는 해당 정보를 이용하여 지도를 생성하고, 지도에 굴곡 이미지 및 굴곡 정도에 따른 정보 등을 지도에 표시할 수 있다. 또한, 서버는 굴곡 이미지가 포함된 지도 또는 굴곡 정도가 심한 도로의 위치 정보를 별도의 관리 페이지 등을 통해서 공개하거나 이용자들에게 제공할 수 있다.
이와 같이, 본 발명의 인공지능(AI) 기반의 도로 노면 상태 관리 시스템 및 방법에 따르면, 고가의 장비를 이용하지 않고 도로의 노면을 촬영한 영상과 깊이 데이터를 이용하여 노면의 상태를 관리할 수 있다.
앞서 설명한 본 발명의 상세한 설명에서는 본 발명의 바람직한 실시예들을 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자 또는 해당 기술 분야에 통상의 지식을 갖는 자라면 후술될 특허청구범위에 기재된 본 발명의 사상 및 기술 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.
100 : 카메라 150 : 깊이 카메라
200 : 관심영역 추출부 300 : 에치 추출부
400 : 낙하물 판단부 500 : 깊이 데이터 추출부
600 : 굴곡 이미지 생성부 700 : 굴곡 이미지 처리부
710 : 탑뷰 변환부 720 : 이미지 회저부
730 : 영상정보 도출부 800 : 전송부

Claims (10)

  1. 카메라로부터 도로의 촬영 영상을 입력받는 단계;
    깊이 카메라로부터 도로의 깊이 측정 데이터를 획득하는 단계;
    상기 촬영 영상에서 관심영역(ROI, Region of Interest)을 추출하는 단계;
    상기 추출된 관심영역의 영상으로부터 낙하물 존재 여부를 판단하는 단계;
    상기 관심영역에 낙하물이 존재하는 경우, 상기 관심영역의 깊이 데이터를 이용하여 굴곡 이미지를 생성하는 단계;
    상기 생성된 굴곡 이미지를 가공하여 서버로 전송하는 단계를 포함하는 인공지능(AI) 기반의 도로 노면 상태 관리 방법.
  2. 제1항에 있어서,
    상기 추출된 관심영역의 영상으로부터 낙하물 존재 여부를 판단하는 단계는
    상기 관심영역에서 사전에 설정한 레벨로 에지를 추출하는 단계;
    상기 관심영역에서 에지가 추출된 경우, 상기 관심영역에 낙하물이 존재하는 것으로 판단하는 단계로 이루어진 것을 특징으로 하는 인공지능(AI) 기반의 도로 노면 상태 관리 방법.
  3. 제2항에 있어서,
    상기 관심영역의 깊이 데이터를 이용하여 굴곡 이미지를 생성하는 단계는
    상기 관심영역에서 에지가 추출된 경우, 상기 관심영역의 깊이 데이터를 추출하는 단계;
    상기 추출된 관심영역의 깊이 데이터를 이용하여 최소자승법으로 평면방정식을 도출하는 단계;
    상기 촬영 영상의 픽셀 별로 상기 평면방식을 이용한 관심영역의 평면 값과 상기 깊이 카메라로부터의 깊이 측정 데이터의 깊이 값의 오차 값을 계산하는 단계;
    상기 오차 값이 사전에 설정한 기준을 초과하는 픽셀을 추출하는 단계; 및
    상기 추출된 픽셀과 상기 오차 값을 이용하여 굴곡 이미지를 생성하는 단계로 이루어진 것을 특징으로 하는 인공지능(AI) 기반의 도로 노면 상태 관리 방법.
  4. 제3항에 있어서,
    상기 생성된 굴곡 이미지를 가공하여 서버로 전송하는 단계는
    상기 카메라의 설치 높이와 설치 각도를 반영하여 상기 굴곡 이미지를 상방에서 수직으로 바라본 이미지로 변환하는 단계;
    상기 변환된 이미지를 차량의 GPS 값과 진행 방향을 고려하여 상기 굴곡 이미지를 진북 방향으로 회전하는 단계; 및
    상기 진북 방향으로 회전된 굴곡 이미지와 상기 굴곡 이미지의 위치를 서버로 전송하는 단계로 이루어진 것을 특징으로 하는 인공지능(AI) 기반의 도로 노면 상태 관리 방법.
  5. 제2항에 있어서,
    상기 추출된 관심영역의 영상으로부터 낙하물 존재 여부를 판단하는 단계는
    관심영역에서 에지를 추출하고, 추출된 에지의 모양, 크기, 개수를 바탕으로 낙하물 여부를 학습시켜, 관심영역에서 낙하물 여부를 판단하는 것을 특징으로 하는 인공지능(AI) 기반의 도로 노면 상태 관리 방법.
  6. 카메라로부터 촬영 영상을 입력받는 단계;
    깊이 카메라로부터 깊이 측정 데이터를 획득하는 단계;
    상기 촬영 영상에서 관심영역(ROI, Region of Interest)을 추출하는 단계;
    상기 관심영역에서 사전에 설정한 레벨로 에지를 추출하는 단계;
    최소자승법상기 관심영역에서 에지가 추출된 경우, 상기 관심영역의 깊이 데이터를 추출하는 단계;
    상기 추출된 관심영역의 깊이 데이터를 이용하여 최소자승법으로 평면방정식을 도출하는 단계;
    상기 촬영 영상의 픽셀 별로 상기 평면방식을 이용한 관심영역의 평면 값과 상기 깊이 카메라로부터의 깊이 측정 데이터의 깊이 값의 오차 값을 계산하는 단계;
    상기 오차 값이 사전에 설정한 기준을 초과하는 픽셀을 추출하는 단계;
    상기 추출된 픽셀과 상기 오차 값을 이용하여 굴곡 이미지를 생성하는 단계;
    상기 카메라의 설치 높이와 설치 각도를 반영하여 상기 굴곡 이미지를 상방에서 수직으로 바라본 이미지로 변환하는 단계;
    상기 변환된 이미지를 차량의 GPS 값과 진행 방향을 고려하여 상기 굴곡 이미지를 진북 방향으로 회전하는 단계;
    상기 진북 방향으로 회전된 굴곡 이미지와 상기 굴곡 이미지의 위치를 서버로 전송하는 단계를 포함하는 것을 특징으로 하는 인공지능(AI) 기반의 도로 노면 상태 관리 방법.
  7. 도로의 영상을 촬영하는 카메라;
    상기 카메라와 연동되어 도로의 깊이 측정 데이터를 획득하기 위한 깊이 카메라;
    상기 카메라가 촬영한 영상에 관심영역을 추출하는 관심영역 추출부;
    상기 관심영역에서 낙하물 존재 여부를 판단하는 낙하물 판단부;
    상기 낙하물 판단부의 판단 결과 낙하물이 존재하는 경우, 상기 깊이 카메라로부터의 깊이 측정 데이터를 이용하여 관심영역의 깊이 데이터를 이용하여 굴곡 이미지를 생성하는 굴곡 이미지 생성부; 및
    상기 생성된 굴곡 이미지를 가공하는 굴곡 이미지 처리부; 및
    상기 굴곡 이미지 처리부로부터의 가공된 굴곡 이미지를 서버로 전송하는 전송부를 포함하는 인공지능(AI) 기반의 도로 노면 상태 관리 시스템.
  8. 제7항에 있어서,
    상기 관심영역 추출부로부터의 관심영역 사전에 설정한 레벨로 에지를 추출하는 에지 추출부를 더 포함하고,
    상기 낙하물 판단부는
    상기 관심영역에서 에지가 추출된 경우, 상기 관심영역에 낙하물이 존재하는 것으로 판단하는 것을 특징으로 하는 인공지능(AI) 기반의 도로 노면 상태 관리 시스템.
  9. 제8항에 있어서,
    상기 관심영역에서 에지가 추출된 경우, 상기 관심영역의 깊이 데이터를 추출하는 깊이 데이터 추출부를 더 포함하고,
    상기 굴곡 이미지 생성부는
    상기 추출된 관심영역의 깊이 데이터를 이용하여 최소자승법으로 평면방정식을 도출하고, 상기 촬영 영상의 픽셀 별로 상기 평면방식을 이용한 관심영역의 평면 값과 상기 깊이 카메라로부터의 깊이 측정 데이터의 깊이 값의 오차 값을 계산하고, 상기 오차 값이 사전에 설정한 기준을 초과하는 픽셀을 추출한 후, 상기 추출된 픽셀과 상기 오차 값을 이용하여 굴곡 이미지를 생성하는 것을 특징으로 하는 인공지능(AI) 기반의 도로 노면 상태 관리 시스템.
  10. 제9항에 있어서,
    상기 생성된 굴곡 이미지를 가공하기 위한 상기 굴곡 이미지 처리부는
    상기 카메라의 설치 높이와 설치 각도를 반영하여 상기 굴곡 이미지를 상방에서 수직으로 바라본 이미지로 변환하는 탑뷰(top-view) 변환부;
    상기 변환된 이미지를 차량의 GPS 값과 진행 방향을 고려하여 상기 굴곡 이미지를 진북 방향으로 회전하는 이미지 회전부; 및
    상기 촬영된 영상의 시간과 위치를 도출하는 영상 정보 도출부를 포함하고,
    상기 전송부는
    상기 진북 방향으로 회전된 굴곡 이미지와 상기 굴곡 이미지의 시간, 위치를 서버로 전송하는 단계로 이루어진 것을 특징으로 하는 인공지능(AI) 기반의 도로 노면 상태 관리 시스템.
KR1020200163384A 2020-11-27 2020-11-27 인공지능(ai) 기반의 도로 노면 상태 관리 시스템 및 방법 KR20220074649A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200163384A KR20220074649A (ko) 2020-11-27 2020-11-27 인공지능(ai) 기반의 도로 노면 상태 관리 시스템 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200163384A KR20220074649A (ko) 2020-11-27 2020-11-27 인공지능(ai) 기반의 도로 노면 상태 관리 시스템 및 방법

Publications (1)

Publication Number Publication Date
KR20220074649A true KR20220074649A (ko) 2022-06-03

Family

ID=81983402

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200163384A KR20220074649A (ko) 2020-11-27 2020-11-27 인공지능(ai) 기반의 도로 노면 상태 관리 시스템 및 방법

Country Status (1)

Country Link
KR (1) KR20220074649A (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117115413A (zh) * 2023-10-25 2023-11-24 国网江苏省电力有限公司苏州供电分公司 仓储电力安全工器具数量估算方法和系统
KR102613308B1 (ko) * 2023-04-27 2023-12-13 노왕건 인공지능을 이용하는 도로 관리시스템
KR20240084046A (ko) 2022-12-06 2024-06-13 현대자동차주식회사 Ai 기반 실시간 도로 상태 판단 장치 및 도로 상태 정보 실시간 공유 시스템

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180110321A (ko) 2017-03-28 2018-10-10 단국대학교 산학협력단 옥내용 이동통신 양방향 무선증폭기를 이용한 건물붕괴 및 매몰자 파악 시스템

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180110321A (ko) 2017-03-28 2018-10-10 단국대학교 산학협력단 옥내용 이동통신 양방향 무선증폭기를 이용한 건물붕괴 및 매몰자 파악 시스템

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20240084046A (ko) 2022-12-06 2024-06-13 현대자동차주식회사 Ai 기반 실시간 도로 상태 판단 장치 및 도로 상태 정보 실시간 공유 시스템
KR102613308B1 (ko) * 2023-04-27 2023-12-13 노왕건 인공지능을 이용하는 도로 관리시스템
CN117115413A (zh) * 2023-10-25 2023-11-24 国网江苏省电力有限公司苏州供电分公司 仓储电力安全工器具数量估算方法和系统
CN117115413B (zh) * 2023-10-25 2024-02-13 国网江苏省电力有限公司苏州供电分公司 仓储电力安全工器具数量估算方法和系统

Similar Documents

Publication Publication Date Title
KR20220074649A (ko) 인공지능(ai) 기반의 도로 노면 상태 관리 시스템 및 방법
CN107463918B (zh) 基于激光点云与影像数据融合的车道线提取方法
Ryu et al. Image‐Based Pothole Detection System for ITS Service and Road Management System
KR101715211B1 (ko) 영상과 레이저를 융합한 도로 노면 상태 탐지 장치 및 방법
US9154741B2 (en) Apparatus and method for processing data of heterogeneous sensors in integrated manner to classify objects on road and detect locations of objects
CN104637059A (zh) 基于毫米波雷达和机器视觉的夜间前方车辆检测方法
JP7358762B2 (ja) 道路異常検知装置、道路異常検知方法および道路異常検知プログラム
CN110738121A (zh) 一种前方车辆检测方法及检测系统
US20060078197A1 (en) Image processing apparatus
US9846823B2 (en) Traffic lane boundary line extraction apparatus and method of extracting traffic lane boundary line
Broggi et al. Self-calibration of a stereo vision system for automotive applications
CN101845788B (zh) 基于结构光视觉的水泥混凝土路面错台检测装置及方法
CN104063882B (zh) 一种基于双目的车辆视频测速方法
Sehestedt et al. Robust lane detection in urban environments
JP4102885B2 (ja) 駐車車両検知方法及び駐車車両検知システム
KR20200007165A (ko) 무인비행체에 탑재된 비전센서를 활용한 포트홀 탐지 시스템 및 그 방법
Garcillanosa et al. Smart detection and reporting of potholes via image-processing using Raspberry-Pi microcontroller
CN113506261A (zh) 道路病害检测方法、装置、设备及系统
KR100508763B1 (ko) 스테레오 비전을 이용한 자동차 번호판 추출 및 인식시스템 및 그 방법
JP2017174197A (ja) 立体物検出方法及び立体物検出装置
CN108399360B (zh) 一种连续型障碍物检测方法、装置及终端
CN102054174A (zh) 用于定位车牌的方法和系统
Ryu et al. Feature-based pothole detection in two-dimensional images
US20230177724A1 (en) Vehicle to infrastructure extrinsic calibration system and method
JP3740531B2 (ja) 駐車車両検知方法、検知システム及び駐車車両検出装置