KR102586175B1 - Apparatus for visualizing the result of detecting pothole in aerial image based on deep-learning and method thereof - Google Patents

Apparatus for visualizing the result of detecting pothole in aerial image based on deep-learning and method thereof Download PDF

Info

Publication number
KR102586175B1
KR102586175B1 KR1020210074779A KR20210074779A KR102586175B1 KR 102586175 B1 KR102586175 B1 KR 102586175B1 KR 1020210074779 A KR1020210074779 A KR 1020210074779A KR 20210074779 A KR20210074779 A KR 20210074779A KR 102586175 B1 KR102586175 B1 KR 102586175B1
Authority
KR
South Korea
Prior art keywords
pothole
aerial image
area
detection
aerial
Prior art date
Application number
KR1020210074779A
Other languages
Korean (ko)
Other versions
KR20220166015A (en
Inventor
서동만
전수빈
한윤성
김석진
김수종
전민건
Original Assignee
대구가톨릭대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 대구가톨릭대학교산학협력단 filed Critical 대구가톨릭대학교산학협력단
Priority to KR1020210074779A priority Critical patent/KR102586175B1/en
Publication of KR20220166015A publication Critical patent/KR20220166015A/en
Application granted granted Critical
Publication of KR102586175B1 publication Critical patent/KR102586175B1/en

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • B64C39/024Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/12Bounding box

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Processing Or Creating Images (AREA)

Abstract

본 발명은 딥러닝 기반 항공 영상 내 포트홀 탐지 결과 시각화 장치 및 그 방법에 관한 것이다.
본 발명에 따르면, 포트홀 탐지 결과 시각화 장치를 이용한 포트홀 탐지 결과 시각화 방법에 있어서, 드론에 의해 촬영된 항공 영상을 입력받는 단계와, 상기 항공 영상을 기 학습된 탐지 모듈에 입력하여 상기 항공 영상으로부터 포트홀을 탐지하는 단계와, 상기 포트홀이 탐지된 항공 영상을 분석하여 상기 항공 영상 내 포트홀의 크기 및 좌표를 측정하는 단계와, 상기 포트홀의 좌표를 지도 상에 매핑하여 상기 포트홀의 탐지 지점을 마커로 가시화하는 단계, 및 상기 지도에서 상기 마커 선택 시, 해당 포트홀의 크기 및 좌표, 상기 포트홀이 촬영된 항공 영상을 포함한 탐지 결과를 시각화하는 단계를 포함한다.
본 발명에 따르면, 항공 영상을 딥러닝 분석하여 포트홀의 위치를 탐지하고 탐지 결과를 지도 상에 매핑하여 시각화하여 제공할 수 있으며, 각 지역 별 포트홀 발생 현황 및 관리 추적을 용이하게 한다.
The present invention relates to a device and method for visualizing pothole detection results in deep learning-based aerial images.
According to the present invention, in a method for visualizing porthole detection results using a pothole detection result visualization device, the steps include receiving an aerial image captured by a drone, inputting the aerial image into a previously learned detection module, and detecting a porthole from the aerial image. Detecting, analyzing the aerial image in which the pothole was detected, measuring the size and coordinates of the pothole in the aerial image, and mapping the coordinates of the pothole on a map to visualize the detection point of the pothole with a marker. A step of visualizing detection results including the size and coordinates of the corresponding pothole and an aerial image in which the pothole was captured when the marker is selected on the map.
According to the present invention, the location of potholes can be detected by deep learning analysis of aerial images, the detection results can be visualized and mapped on a map, and the status and management of potholes in each region can be easily tracked.

Description

딥러닝 기반 항공 영상 내 포트홀 탐지 결과 시각화 장치 및 그 방법{Apparatus for visualizing the result of detecting pothole in aerial image based on deep-learning and method thereof}Apparatus for visualizing the result of detecting pothole in aerial image based on deep-learning and method thereof}

본 발명은 딥러닝 기반 항공 영상 내 포트홀 탐지 결과 시각화 장치 및 그 방법에 관한 것으로서, 보다 상세하게는 항공 영상을 딥러닝 분석하여 영상 내 포트홀을 탐지하고 탐지 결과를 실제 지도 상에 매핑하여 제공할 수 있는 항공 영상 내 포트홀 탐지 결과 시각화 장치 및 그 방법에 관한 것이다.The present invention relates to a device and method for visualizing the results of pothole detection in aerial images based on deep learning. More specifically, it can detect potholes in the image by deep learning analysis of aerial images and provide mapping of the detection results on an actual map. This relates to a device and method for visualizing pothole detection results in aerial images.

포트홀(Pothole)은 아스팔트 또는 콘크리트 도로 표면에 생기는 국부적인 작은 구멍 또는 갈라진 틈을 의미한다. 포트홀의 발생 요인은 다양한데, 주로 노면 노후화, 아스팔트 혼합물 및 시공 불량, 배수구조의 불량, 제설용 염화칼슘 사용, 장마 등에 의해 발생한다.Pothole refers to a localized small hole or crack that appears on an asphalt or concrete road surface. There are various causes of potholes, but they are mainly caused by aging of the road surface, poor asphalt mixture and construction, poor drainage structure, use of calcium chloride for snow removal, and rainy weather.

포트홀은 도로 위의 지뢰라 불릴만큼 도로를 운행하는 차량에게 큰 위협 요소가 되기 때문에, 도로 위 포트홀을 분석 및 검출할 수 있는 기술이 요구된다. Since potholes are a major threat to vehicles traveling on the road, so much so that they are called landmines on the road, technology that can analyze and detect potholes on the road is required.

이와 관련하여 종래에는 진동, 3D 복원, 레이저 등을 이용하여 포트홀을 검출하는 방법이 개시된 바 있으나, 고비용 및 장시간이 소요되고 검출 정확도가 낮아 실효성이 떨어지는 문제점이 있다.In relation to this, a method for detecting portholes using vibration, 3D restoration, laser, etc. has been disclosed in the past, but there are problems in that it is high cost, takes a long time, and has low detection accuracy, making it less effective.

또한 기존에는 대부분 차량 운행 중에 포트홀을 탐지하는 기술에 해당하며, 여러 지역 별로 산재한 포트홀을 종합적으로 관리할 수 있는 기술은 부족한 실정이다. In addition, most of the existing technologies are for detecting potholes while driving a vehicle, and there is a lack of technology that can comprehensively manage potholes scattered in various regions.

또한, 최근에는 드론을 이용한 탐지 기술이 활발히 도입되고 있다. 따라서 이러한 드론의 영상을 활용하여 각 지역 별 포트홀을 효율적으로 탐지 및 관리할 수 있는 새로운 기술이 요구된다.Additionally, detection technology using drones has been actively introduced recently. Therefore, a new technology is required that can efficiently detect and manage potholes in each region using images from these drones.

본 발명의 배경이 되는 기술은 한국공개특허 제10-2018-0136601호(2018.12.26 공개)에 개시되어 있다.The technology behind the present invention is disclosed in Korean Patent Publication No. 10-2018-0136601 (published on December 26, 2018).

본 발명은 항공 영상을 딥러닝 분석하여 포트홀을 탐지하고 탐지 결과를 지도 상에 매핑하여 제공할 수 있는 딥러닝 기반 항공 영상 내 포트홀 탐지 결과 시각화 장치 및 그 방법을 제공하는데 목적이 있다.The purpose of the present invention is to provide a device and method for visualizing pothole detection results in deep learning-based aerial images, which can detect potholes by deep learning analysis of aerial images and provide mapping of the detection results on a map.

본 발명은, 포트홀 탐지 결과 시각화 장치를 이용한 포트홀 탐지 결과 시각화 방법에 있어서, 드론에 의해 촬영된 항공 영상을 입력받는 단계와, 상기 항공 영상을 기 학습된 탐지 모듈에 입력하여 상기 항공 영상으로부터 포트홀을 탐지하는 단계와, 상기 포트홀이 탐지된 항공 영상을 분석하여 상기 항공 영상 내 포트홀의 크기 및 좌표를 측정하는 단계와, 상기 포트홀의 좌표를 지도 상에 매핑하여 상기 포트홀의 탐지 지점을 마커로 가시화하는 단계, 및 상기 지도에서 상기 마커 선택 시, 해당 포트홀의 크기 및 좌표, 상기 포트홀이 촬영된 항공 영상을 포함한 탐지 결과를 시각화하는 단계를 포함하는 포트홀 탐지 결과 시각화 방법을 제공한다.The present invention relates to a method for visualizing porthole detection results using a pothole detection result visualization device, comprising the steps of receiving an aerial image captured by a drone, and inputting the aerial image into a previously learned detection module to identify a pothole from the aerial image. Detecting, analyzing the aerial image in which the pothole was detected, measuring the size and coordinates of the pothole in the aerial image, and mapping the coordinates of the pothole on a map to visualize the detection point of the pothole with a marker. It provides a method for visualizing pothole detection results, including the step of selecting the marker on the map and visualizing detection results including the size and coordinates of the corresponding pothole and an aerial image in which the pothole was captured.

또한, 상기 탐지 모듈은, R-CNN 기법을 기반으로 상기 항공 영상으로부터 포트홀 객체 및 도로 객체를 분리 검출하고 검출 결과를 AND 연산하여 도로 내의 포트홀을 탐지할 수 있다.In addition, the detection module can detect potholes in the road by separating and detecting pothole objects and road objects from the aerial image based on the R-CNN technique and performing an AND operation on the detection results.

또한, 상기 측정하는 단계는, 상기 항공 영상에 기록된 EXIF 및 XMP를 포함한 메타 데이터를 기반으로 상기 항공 영상 내 탐지된 포트홀 영역의 면적, 가로 및 세로 직경, 그리고 위경도 좌표 값을 각각 연산할 수 있다.In addition, the measuring step can calculate the area, horizontal and vertical diameter, and latitude and longitude coordinate values of the pothole area detected in the aerial image based on metadata including EXIF and XMP recorded in the aerial image. there is.

또한, 상기 시각화 제공하는 단계는, 상기 항공 영상 내의 지정 위치에 정북 방향을 안내하는 나침반 아이콘을 삽입하고 상기 항공 영상 내의 포트홀 영역을 박스(box) 처리하여 제공할 수 있다.Additionally, the step of providing the visualization may be provided by inserting a compass icon guiding the true north direction at a designated location in the aerial image and boxing the porthole area in the aerial image.

또한, 상기 시각화 제공하는 단계는, 상기 박스 클릭 시 박스 영역의 확대 이미지를 제공하되, 사용자 선택 옵션에 따라 상기 확대 이미지 주변에 상기 포트홀 영역의 면적, 가로 및 세로 직경, 위경도 좌표 중 적어도 하나를 텍스트 형태로 출력할 수 있다.In addition, the step of providing the visualization includes providing an enlarged image of the box area when the box is clicked, and at least one of the area, horizontal and vertical diameter, and latitude and longitude coordinates of the pothole area around the enlarged image according to a user selection option. It can be output in text format.

또한, 상기 시각화 제공하는 단계는, 제1 옵션 선택 시, 상기 확대 이미지 내 포트홀 영역의 외곽을 따라 설정 눈금 크기의 가로 및 세로 방향의 눈금을 오버레이 표시한 상태에서 상기 포트홀 영역의 가로 및 세로 직경 값을 출력하고, 제2 옵션 선택 시, 상기 확대 이미지 내 상기 포트홀 영역을 설정 색상으로 마스킹 처리하여 표시한 상태에서, 상기 포트홀 영역의 면적 및 위경도 좌표 값을 출력할 수 있다.In addition, the step of providing the visualization includes, when selecting the first option, the horizontal and vertical diameter values of the porthole area in a state in which horizontal and vertical scales of a set scale size are overlaid along the outline of the porthole area in the enlarged image. Output, and when the second option is selected, the area and latitude and longitude coordinates of the pothole area can be output while the pothole area in the enlarged image is masked and displayed with a set color.

그리고, 본 발명은, 드론에 의해 촬영된 항공 영상을 입력받는 입력부와, 상기 항공 영상을 기 학습된 탐지 모듈에 입력하여 상기 항공 영상으로부터 포트홀을 탐지하는 탐지부와, 상기 포트홀이 탐지된 항공 영상을 분석하여 상기 항공 영상 내 포트홀의 크기 및 좌표를 측정하는 측정부와, 상기 포트홀의 좌표를 지도 상에 매핑하여 상기 포트홀의 탐지 지점을 마커로 가시화하는 표시부, 및 상기 지도에서 상기 마커 선택 시, 해당 포트홀의 크기 및 좌표, 상기 포트홀이 촬영된 항공 영상을 포함한 탐지 결과를 시각화하는 제어부를 포함하는 포트홀 탐지 결과 시각화 장치를 제공한다.In addition, the present invention includes an input unit that receives aerial images captured by a drone, a detection unit that inputs the aerial images into a previously learned detection module to detect potholes from the aerial images, and an aerial image in which the potholes were detected. a measuring unit that analyzes the size and coordinates of the pothole in the aerial image, a display unit that maps the coordinates of the pothole on a map and visualizes the detection point of the pothole as a marker, and when selecting the marker on the map, Provided is a pothole detection result visualization device that includes a control unit that visualizes detection results including the size and coordinates of the pothole and an aerial image in which the pothole was captured.

본 발명에 따르면, 항공 영상을 딥러닝 분석하여 포트홀의 위치를 탐지하고 탐지 결과를 지도 상에 매핑하여 시각화하여 제공할 수 있다. According to the present invention, the location of potholes can be detected by deep learning analysis of aerial images, and the detection results can be visualized and mapped on a map.

또한, 본 발명의 경우, 항공 영상으로부터 탐지된 각 지역의 포트홀에 대한 탐지 위치, 형상, 측정 크기와 면적, 촬영 영상 등을 도로의 정북 방향과 함께 가시화하여 제공하고 각 지역에서 관측된 포트홀의 관리 및 이력 추적을 가능하게 한다.In addition, in the case of the present invention, the detection location, shape, measured size and area, and captured images of potholes in each region detected from aerial images are visualized and provided along with the true north direction of the road, and management of potholes observed in each region is provided. and enables history tracking.

도 1은 본 발명의 실시예에 따른 항공 영상 내 포트홀 탐지 결과 시각화 시스템의 구성을 나타낸 도면이다.
도 2는 도 1의 포트홀 탐지 결과 시각화 장치의 구성을 나타낸 도면이다.
도 3은 도 2의 장치를 이용한 포트홀 탐지 결과 시각화 방법을 설명하는 도면이다.
도 4는 본 발명의 실시예에서 딥러닝 분석을 기반으로 항공 영상에서 도로 내 포트홀을 탐지하는 원리를 설명한 도면이다.
도 5는 본 발명의 실시예에서 항공 영상을 분석하여 포트홀의 면적을 연산하는 원리를 설명한 도면이다.
도 6은 본 발명의 실시예에서 항공 영상을 분석하여 포트홀의 좌표를 측정하는 원리를 설명한 도면이다.
도 7은 본 발명의 실시예에서 지도 상에 포트홀 탐지 위치를 가시화한 모습을 예시한 도면이다.
도 8은 본 발명의 실시예에 따른 포트홀 탐지 결과 시각화 페이지를 설명한 도면이다.
도 10은 본 발명의 실시예에 따라 지도 내 마커 클릭 시에 포트홀 탐지 결과를 제공하는 화면을 예시적으로 설명한 도면이다.
도 11은 본 발명의 실시예에 따른 항공 영상 내 포트홀 위치 및 좌표 출력 기능을 설명한 도면이다.
도 12는 본 발명의 실시예에서 포트홀의 면적, 가로 및 세로 크기를 시각화한 모습을 나타낸 도면이다.
Figure 1 is a diagram showing the configuration of a system for visualizing pothole detection results in aerial images according to an embodiment of the present invention.
Figure 2 is a diagram showing the configuration of the device for visualizing the porthole detection results of Figure 1.
Figure 3 is a diagram illustrating a method for visualizing porthole detection results using the device of Figure 2.
Figure 4 is a diagram illustrating the principle of detecting potholes in a road in an aerial image based on deep learning analysis in an embodiment of the present invention.
Figure 5 is a diagram explaining the principle of calculating the area of a pothole by analyzing aerial images in an embodiment of the present invention.
Figure 6 is a diagram explaining the principle of measuring the coordinates of a pothole by analyzing aerial images in an embodiment of the present invention.
Figure 7 is a diagram illustrating the visualization of a pothole detection location on a map in an embodiment of the present invention.
Figure 8 is a diagram explaining a porthole detection result visualization page according to an embodiment of the present invention.
Figure 10 is a diagram illustrating a screen that provides pothole detection results when a marker in a map is clicked according to an embodiment of the present invention.
Figure 11 is a diagram explaining the porthole location and coordinate output function in an aerial image according to an embodiment of the present invention.
Figure 12 is a diagram showing visualization of the area, horizontal, and vertical size of the pothole in an embodiment of the present invention.

그러면 첨부한 도면을 참고로 하여 본 발명의 실시 예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다. Then, with reference to the attached drawings, embodiments of the present invention will be described in detail so that those skilled in the art can easily implement the present invention. However, the present invention may be implemented in many different forms and is not limited to the embodiments described herein. In order to clearly explain the present invention in the drawings, parts that are not related to the description are omitted, and similar parts are given similar reference numerals throughout the specification.

명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다. Throughout the specification, when a part is said to be "connected" to another part, this includes not only the case where it is "directly connected," but also the case where it is "electrically connected" with another element in between. . Additionally, when a part "includes" a certain component, this means that it may further include other components rather than excluding other components, unless specifically stated to the contrary.

도 1은 본 발명의 실시예에 따른 포트홀 탐지 결과 시각화 시스템의 구성을 나타낸 도면이다.Figure 1 is a diagram showing the configuration of a porthole detection result visualization system according to an embodiment of the present invention.

도 1에 나타낸 것과 같이, 포트홀 탐지 결과 시각화 시스템은 포트홀 탐지 결과 시각화 장치(100) 및 사용자 단말(200)을 포함한다.As shown in FIG. 1, the porthole detection result visualization system includes a porthole detection result visualization device 100 and a user terminal 200.

포트홀 탐지 결과 시각화 장치(100)는 적어도 하나의 사용자 단말(200)과 유선 네트워크, 무선 네트워크, 혹은 유선과 무선이 결합된 네트워크를 통해 서로 연결되어 상호 통신하고 데이터를 송수신할 수 있다. The porthole detection result visualization device 100 may be connected to at least one user terminal 200 through a wired network, a wireless network, or a combined wired and wireless network to communicate with each other and transmit and receive data.

여기서, 포트홀 탐지 결과 시각화 장치(100)는 항공 영상으로부터 포트홀을 분석, 탐지 및 관리하는 포트홀 관리 서버(이하, 관리 서버)에 해당할 수 있다. 관리 서버는 입력 인터페이스를 통하여 입력된 항공 영상을 딥러닝 분석하여 항공 영상으로부터 포트홀을 탐지하고, 출력 인터페이스를 통해 탐지 결과를 출력하여 디스플레이 혹은 사용자 단말(200)로 제공할 수 있다.Here, the pothole detection result visualization device 100 may correspond to a pothole management server (hereinafter referred to as management server) that analyzes, detects, and manages potholes from aerial images. The management server can detect potholes from the aerial image by deep learning analysis of the aerial image input through the input interface, output the detection result through the output interface, and provide it to the display or user terminal 200.

포트홀 탐지 결과 시각화 장치(100)는 사용자 단말(200)과 무선, 유선 또는 유무선 결합 네트워크를 통해 연결되어 포트홀 탐지 결과를 제공할 수 있으며, 앱(Application) 또는 웹(Web)으로 구현된 서비스 플랫폼(platform)을 사용자 단말(200)에게 제공할 수 있다.The porthole detection result visualization device 100 is connected to the user terminal 200 through a wireless, wired, or wired/wireless combined network and can provide porthole detection results, and a service platform implemented as an application or web ( platform) can be provided to the user terminal 200.

여기서, 포트홀 탐지 결과 시각화 장치(100)는 포트홀 탐지 결과를 서비스하는 관리 서버 그 자체일 수도 있지만, 사용자 단말(200) 상에 구동하여 관련 서비스를 제공하는 어플리케이션 등의 응용 프로그램의 형태를 가질 수 있다. 이 경우 사용자 단말(200)은 앱(App) 또는 웹(Web) 환경에서 구동되는 어플리케이션(응용 프로그램)이 실행된 상태에서 관리 서버와 유무선 네트워크 접속되어 관련 서비스를 제공받을 수 있다. Here, the porthole detection result visualization device 100 may be a management server itself that services the porthole detection results, but may take the form of an application program, such as an application that runs on the user terminal 200 and provides related services. . In this case, the user terminal 200 can receive related services by connecting to a management server and a wired or wireless network while an application running in an app or web environment is running.

응용 프로그램은 서버에서 운용 또는 제공할 수 있다. 이때 응용 프로그램은 항공 이미지의 업로드 과정부터 영상 분석을 통한 포트홀 탐지 과정, 탐지 정보 가시화 과정을 포함한 전 과정을 수행할 수 있다. 또한, 응용 프로그램은 복수의 항공 영상 이미지를 입력받아 처리하고 복수의 항공 영상에 대한 탐지 결과 리스트를 제공할 수 있다. Applications can be operated or provided on servers. At this time, the application can perform the entire process, including the upload process of aerial images, the pothole detection process through image analysis, and the detection information visualization process. Additionally, the application can receive and process multiple aerial video images as input and provide a list of detection results for the multiple aerial images.

사용자 단말(200)은 PC, 데스크탑, 태블릿, 노트북, 스마트폰, 스마트 패드 등과 같이 유무선 네트워크를 통해 관리 서버에 접속하여 정보를 주고받을 수 있는 기기를 포함할 수 있다. 무선 기능을 내장한 기기(스마프폰, 노트북, 패드 등)의 경우 본 시스템의 기능을 기기 상에 모바일 어플케이션의 형태로 제공할 수 있다. 사용자 단말(200)은 관리자 측 단말에 해당할 수도 있고, 일반 사용자 측 단말에 해당할 수 있다.The user terminal 200 may include devices that can exchange information by accessing a management server through a wired or wireless network, such as a PC, desktop, tablet, laptop, smartphone, or smart pad. In the case of devices with built-in wireless functions (smartphones, laptops, pads, etc.), the functions of this system can be provided in the form of a mobile application on the device. The user terminal 200 may correspond to an administrator's terminal or a general user's terminal.

본 발명의 실시예에서 포트홀 탐지 결과 시각화 장치(100)는 포트홀 탐지 결과 서비스를 위한 프로세스를 실행시키고 해당 결과를 제공함으로써 각 지역의 포트홀 발생 현황, 이력 추적 및 검색 기능을 제공할 수 있다.In an embodiment of the present invention, the porthole detection result visualization device 100 can provide porthole occurrence status, history tracking, and search functions in each region by executing a process for porthole detection result service and providing the result.

이러한 포트홀 탐지 결과 시각화 장치(100)는 프로세서, 메모리, 유저 인터페이스 입출력 장치, 저장 장치 등을 포함할 수 있다. 이때 프로세서는 데이터 처리, 분석 및 각 구성요소의 동작 및 데이터 흐름을 제어할 수 있다. 입출력 장치는 정보나 데이터 입력, 조회, 출력 등의 기능을 담당한다.The device 100 for visualizing the porthole detection results may include a processor, memory, user interface input/output device, storage device, etc. At this time, the processor can process and analyze data, and control the operation and data flow of each component. Input/output devices are responsible for functions such as information or data input, inquiry, and output.

도 2는 도 1의 포트홀 탐지 결과 시각화 장치의 구성을 나타낸 도면이다.Figure 2 is a diagram showing the configuration of the device for visualizing the porthole detection results of Figure 1.

도 2를 참조하면, 본 발명의 실시예에 따른 포트홀 탐지 결과 시각화 장치(100)는 입력부(110), 탐지부(120), 측정부(130), 표시부(140) 및 제어부(150)를 포함한다. 여기서 각 부(110,120,130)의 동작과 각 부간의 데이터 흐름 제어는 제어부(140)에 의해 수행될 수 있다.Referring to Figure 2, the porthole detection result visualization device 100 according to an embodiment of the present invention includes an input unit 110, a detection unit 120, a measurement unit 130, a display unit 140, and a control unit 150. do. Here, the operation of each unit 110, 120, and 130 and data flow control between each unit may be performed by the control unit 140.

입력부(110)는 드론에 의해 촬영된 항공 영상을 입력받는다. 그리고 입력된 항공 영상을 탐지부(120)로 전달한다.The input unit 110 receives aerial images captured by a drone. Then, the input aerial image is transmitted to the detection unit 120.

탐지부(120)는 항공 영상을 기 학습된 탐지 모듈에 입력하여 항공 영상으로부터 포트홀을 탐지한다. 탐지부(120)는 딥러닝을 기반으로 항공 영상으로부터 정상 영역과 구분되는 포트홀 영역을 탐지하고, 탐지 결과를 측정부(130)로 제공한다.The detection unit 120 detects potholes from the aerial image by inputting the aerial image into a previously learned detection module. The detection unit 120 detects a pothole area distinguished from a normal area from an aerial image based on deep learning, and provides the detection result to the measurement unit 130.

측정부(130)는 포트홀이 탐지된 항공 영상을 분석하여 항공 영상 내 탐지된 포트홀의 실제 크기 및 좌표를 측정한다. 이때, 측정부(130)는 항공 영상에 기록된 메타 데이터를 활용하여 항공 영상 내 탐지된 포트홀 영역의 실제 크기 및 좌표를 측정할 수 있다.The measuring unit 130 analyzes the aerial image in which the pothole is detected and measures the actual size and coordinates of the pothole detected in the aerial image. At this time, the measurement unit 130 can measure the actual size and coordinates of the pothole area detected in the aerial image using metadata recorded in the aerial image.

이때, 포트홀의 크기란, 포트홀 면적과 포트홀의 가로 및 세로 크기(직경)을 포함할 수 있고, 포트홀의 좌표는 위도 및 경도 좌표를 포함할 수 있다. 측정부(130)는 포트홀의 크기 및 좌표를 측정한 결과를 표시부(140)로 전달할 수 있다.At this time, the size of the pothole may include the porthole area and the horizontal and vertical sizes (diameter) of the pothole, and the coordinates of the pothole may include latitude and longitude coordinates. The measurement unit 130 may transmit the results of measuring the size and coordinates of the pothole to the display unit 140.

표시부(140)는 포트홀의 좌표를 지도(예: 구글 맵 등) 상에 매핑하여 포트홀의 탐지 지점을 마커(Marker)를 통해 가시화하여 구동 화면에 표출한다. 이에 따르면 지역 별로 각 포트홀의 탐지 스팟에 대응하여 마커가 표시된 지도 화면이 제공될 수 있다.The display unit 140 maps the coordinates of the pothole on a map (e.g., Google Map, etc.), visualizes the detection point of the pothole through a marker, and displays it on the driving screen. According to this, a map screen with markers corresponding to the detection spots of each pothole can be provided for each region.

제어부(150)는 표시부(140)에 의해 표출되는 구동 화면을 사용자 조작 신호에 따라 제어할 수 있으며 해당 동작을 수행하기 위한 프로세서를 내장할 수 있다.The control unit 150 can control the driving screen displayed by the display unit 140 according to a user manipulation signal and may have a built-in processor to perform the corresponding operation.

또한, 제어부(150)는 표시부(140)를 통해 화면에 가시화된 지도 상에서 사용자에 의해 소정 마커가 선택(클릭)되면, 마커에 대응된 해당 포트홀의 크기, 좌표, 촬영된 항공 영상을 포함한 포트홀 탐지 결과를 가공하여 화면 상에 시각화하여 제공할 수 있다. 이때, 제어부(150)는 탐지 결과를 이미지, 테이블, 텍스트 중 적어도 하나의 조합으로 가공하여 제공함으로써 사용자의 빠르고 직관적 확인이 가능하게 하고 포트홀 현황 파악 및 관리 효율을 높일 수 있다.In addition, when a predetermined marker is selected (clicked) by the user on the map visualized on the screen through the display unit 140, the control unit 150 detects the pothole including the size, coordinates, and captured aerial image of the pothole corresponding to the marker. The results can be processed and visualized on the screen. At this time, the control unit 150 processes the detection result into a combination of at least one of an image, table, and text and provides it, enabling the user to quickly and intuitively check the porthole status and improving management efficiency.

이하에서는 도 3을 바탕으로 본 발명의 실시예에 따른 딥러닝 기반의 항공 영상 내 포트홀 탐지 결과 시각화 방법을 보다 구체적으로 설명한다. Below, based on FIG. 3, a method for visualizing pothole detection results in deep learning-based aerial images according to an embodiment of the present invention will be described in more detail.

도 3은 도 2의 장치를 이용한 포트홀 탐지 결과 시각화 방법을 설명하는 도면이다.Figure 3 is a diagram illustrating a method of visualizing porthole detection results using the device of Figure 2.

먼저, 입력부(110)는 드론에 의해 촬영된 항공 영상을 입력받는다(S310). 입력부(110)는 네트워크 연결된 사용자 단말(200) 혹은 통신 포트에 접속된 USB 저장 장치로부터 저장소에 저장된 항공 영상을 로딩하여 입력받을 수 있다. First, the input unit 110 receives an aerial image captured by a drone (S310). The input unit 110 can load and receive an aerial image stored in storage from a network-connected user terminal 200 or a USB storage device connected to a communication port.

이때, 항공 영상은 드론을 통해 촬영된 영상으로, 촬영된 이미지 파일에는 EXIF(Exchangeable Image File Format)와 XMP(Extensible Metadata Platform from Adobe)를 포함한 메타 데이터가 함께 기록된다. 이에 따라 메타 데이터는 카메라 종류 및 세팅 값, 촬영 조건, 시간 및 위치 등의 정보를 포함하고 있다.At this time, aerial video is video captured through a drone, and metadata including EXIF (Exchangeable Image File Format) and XMP (Extensible Metadata Platform from Adobe) are recorded in the captured image file. Accordingly, metadata includes information such as camera type and settings, shooting conditions, time, and location.

이와 같이 항공 영상 이미지에 기록된 메타 데이터를 활용하면, 항공 영상 이미지 내에서 탐지된 포트홀 영역 부분의 실제 면적, 가로/세로 크기(직경), 위경도 좌표 위치 등을 연산할 수 있게 된다.Using the metadata recorded in the aerial video image in this way, it is possible to calculate the actual area, horizontal/vertical size (diameter), latitude and longitude coordinate location, etc. of the pothole area detected in the aerial video image.

입력부(110)는 입력된 항공 영상을 탐지부(120)로 전달한다. 그러면, 탐지부(120)는 입력부(110)로부터 전달받은 항공 영상을 기 학습된 탐지 모듈에 입력시켜, 항공 영상으로부터 포트홀을 탐지한다(S320). The input unit 110 transmits the input aerial image to the detection unit 120. Then, the detection unit 120 inputs the aerial image received from the input unit 110 into a previously learned detection module and detects the pothole from the aerial image (S320).

본 발명의 실시예에서 탐지부(120)는 도로 내 포트홀을 탐지하도록 학습된 탐지 모듈을 포함하여 구성될 수 있다.In an embodiment of the present invention, the detection unit 120 may be configured to include a detection module trained to detect potholes in the road.

탐지 모듈은 복수의 항공 영상 이미지를 통하여 사전 학습될 수 있다. 예를 들어, 복수의 항공 영상 이미지에 각각 라벨링되어 있는 포트홀 영역의 특징(feature)을 딥러닝 분석하여 신경망을 학습시키고, 학습된 신경망을 통하여 항공 이미지 내에서 정상 영역과 구별되는 포트홀 영역을 탐지할 수 있다. 물론 탐지 모듈은 통상의 신경망 모델과 같이 지속적으로 수정 및 업데이트될 수 있다.The detection module can be pre-trained through multiple aerial video images. For example, a neural network is trained by deep learning analysis of the features of the pothole area labeled in multiple aerial video images, and the learned neural network is used to detect pothole areas that are distinct from normal areas in the aerial image. You can. Of course, the detection module can be continuously modified and updated like a typical neural network model.

본 발명의 실시예에서, 탐지 모듈은 R-CNN 기법을 기반으로 항공 영상으로부터 도로 내의 포트홀 영역을 검출하도록 학습될 수 있다. In an embodiment of the present invention, the detection module can be trained to detect pothole areas in the road from aerial images based on the R-CNN technique.

구체적으로, 탐지 모듈은 Mask R-CNN 기법을 기반으로 항공 영상으로부터 포트홀 객체 및 도로 객체를 먼저 분리 검출하고, 검출 결과를 AND 연산하여, 도로 내의 포트홀을 탐지하도록 구현될 수 있다. Mask R-CNN 기법은 객체 검출과 객체 분할을 함께 수행하는 딥러닝 모델로서 다중 클래스 객체를 마스킹하여 분할 검출할 수 있다. Specifically, the detection module can be implemented to first separate and detect pothole objects and road objects from aerial images based on the Mask R-CNN technique, and perform an AND operation on the detection results to detect potholes in the road. The Mask R-CNN technique is a deep learning model that performs both object detection and object segmentation and can detect segmentation by masking multi-class objects.

도 4는 본 발명의 실시예에서 딥러닝 분석을 기반으로 항공 영상에서 도로 내 포트홀을 탐지하는 원리를 설명한 도면이다.Figure 4 is a diagram illustrating the principle of detecting potholes in a road in an aerial image based on deep learning analysis in an embodiment of the present invention.

도 4에 도시된 것과 같이, 탐지부(120)는 항공 영상을 기 학습된 탐지 모듈에 입력한다(S410). 그러면, 탐지 모듈은 입력된 항공 영상을 딥러닝 분석하여 항공 영상 내에서 포트홀 객체와 도로 객체를 분할 검출한 다음(S420), 분할 검출된 포트홀 탐지 결과와 도로 탐지 결과를 서로 AND 연산하여 도로 내 포트홀 부분만 검출하고(S430), 검출 결과를 출력한다(S440). 여기서 항공 영상 내 검출된 포트홀 영역 부분은 마스크 처리되어 출력될 수 있다. As shown in FIG. 4, the detection unit 120 inputs the aerial image to a previously learned detection module (S410). Then, the detection module performs a deep learning analysis of the input aerial image to detect pothole objects and road objects in the aerial image (S420), and then performs an AND operation on the separately detected pothole detection results and the road detection results to detect pothole objects in the road. Only the part is detected (S430) and the detection result is output (S440). Here, the portion of the pothole area detected in the aerial image may be masked and output.

이에 따라, 탐지부(120)는 항공 영상 내 포트홀 탐지 결과를 제공하며 특히 상술한 과정을 바탕으로 도로 상에 존재한 포트홀 탐지 결과만을 제공한다. 이후, 탐지부(120)는 항공 영상 내의 포트홀 탐지 결과를 측정부(130)로 제공한다. Accordingly, the detection unit 120 provides pothole detection results in the aerial image, and in particular, provides only the pothole detection results that exist on the road based on the above-described process. Afterwards, the detection unit 120 provides the results of pothole detection in the aerial image to the measurement unit 130.

다시 도 3을 참조하면, 측정부(130)는 포트홀이 탐지된 항공 영상을 분석하여 항공 영상 내 포트홀의 크기 및 좌표를 측정한다(S330).Referring again to FIG. 3, the measuring unit 130 analyzes the aerial image in which the pothole is detected and measures the size and coordinates of the pothole in the aerial image (S330).

여기서, 측정부(130)는 항공 영상에 기록된 EXIF 및 XMP를 포함한 메타 데이터를 기반으로 항공 영상 내 탐지된 포트홀 영역의 면적, 가로 및 세로 직경, 그리고 위경도 좌표 값을 각각 연산한다. 그 구체적인 연산 방법은 이하의 도 5 및 도 6을 통하여 상세히 설명한다.Here, the measurement unit 130 calculates the area, horizontal and vertical diameters, and latitude and longitude coordinate values of the pothole area detected in the aerial image based on metadata including EXIF and XMP recorded in the aerial image. The specific calculation method will be explained in detail through FIGS. 5 and 6 below.

도 5는 본 발명의 실시예에서 항공 영상을 분석하여 포트홀의 면적을 연산하는 원리를 설명한 도면이다.Figure 5 is a diagram explaining the principle of calculating the area of a pothole by analyzing aerial images in an embodiment of the present invention.

도 5와 같이, 측정부(130)는 포트홀이 탐지된 항공 영상을 입력받고(S510), 항공 영상 내 기록된 메타 데이터인 EXIF 및 XMP 데이터를 분석한다(S520). 메타 데이터로부터 이미지 센서의 대각선 길이(d), 초점거리(f), 고도(c) 등을 분석한다. As shown in FIG. 5, the measurement unit 130 receives an aerial image in which a pothole is detected (S510) and analyzes EXIF and XMP data, which are metadata recorded in the aerial image, (S520). The diagonal length (d), focal length (f), and altitude (c) of the image sensor are analyzed from metadata.

아래 표 1은 포트홀 면적 계산에 활용되는 인자로서, d, f, c는 항공 영상의 메타 데이터로부터 획득한 값이다.Table 1 below shows the factors used to calculate the pothole area, where d, f, and c are values obtained from metadata of aerial images.

기호sign 설명explanation 단위unit dd 이미지 센서 대각선 길이Image sensor diagonal length mmmm ff 초점거리focal length mmmm cc 고도Altitude mm CC 촬영 영역의 대각선Diagonal of shooting area mm AA 화각/2Angle of view/2 mm aa A의 여각Complementary angle of A ˚˚

우선, 항공 영상 내 탐지된 포트홀 영역(포트홀 객체)의 실면적 계산을 위하여, A 값을 연산한다. 구체적으로는 이미지 센서의 대각선 길이(d)와 초점거리(f)를 수학식 1에 적용하여 A 값을 구한다.First, to calculate the actual area of the pothole area (porthole object) detected in the aerial image, the value A is calculated. Specifically, the value A is obtained by applying the diagonal length (d) and focal length (f) of the image sensor to Equation 1.

이렇게 구한 A 값은 화각의 1/2 값이 된다. 즉, A는 영상의 대각선 값이며 이를 2로 나누면 영상의 중점에서의 모서리까지의 거리가 되므로, 실제 화각이 아닌 화각의 1/2 값이 된다. 따라서 A 값은 실질적으로 화각에 비례하는 값(비례값 0.5)에 해당한다.The value of A obtained in this way is 1/2 of the angle of view. In other words, A is the diagonal value of the image, and dividing it by 2 becomes the distance from the center of the image to the edge, so it is 1/2 of the angle of view, not the actual angle of view. Therefore, the A value is substantially proportional to the angle of view (proportionality value 0.5).

이후, A의 여각(a)과 고도(c)를 수학식 2에 적용하여, 항공 영상의 실제 촬영 영역의 대각선 길이(C)를 구한다.Afterwards, the complementary angle (a) and altitude (c) of A are applied to Equation 2 to obtain the diagonal length (C) of the actual shooting area of the aerial image.

그리고, 이미지 센서의 대각선 길이(d)와 수학식 2에 의해 얻어진 실제 촬영 영역의 대각선 길이(C) 간의 비례식을 통하여 항공 영상의 실제 촬영 영역의 가로 및 세로 길이를 산출하게 된다. And, the horizontal and vertical lengths of the actual shooting area of the aerial image are calculated through a proportional equation between the diagonal length (d) of the image sensor and the diagonal length (C) of the actual shooting area obtained by Equation 2.

이후, 메타 데이터로부터 얻은 항공 영상의 해상도 및 실제 촬영 영역의 가로 및 세로 크기 간 비례식을 이용하여, 항공 영상 내의 픽셀 하나당 실제 촬영 면적(픽셀 단위 면적)을 계산할 수 있다(S530). 물론 그 과정에서 픽셀 하나당 미터 단위의 가로 길이와 세로 길이도 알 수 있다.Afterwards, the actual captured area (area per pixel) per pixel in the aerial image can be calculated using the proportional formula between the resolution of the aerial image obtained from the metadata and the horizontal and vertical sizes of the actual captured area (S530). Of course, in the process, you can also find out the horizontal and vertical lengths in meters per pixel.

측정부(130)는 항공 영상 내 픽셀의 단위 면적(픽셀 단위 면적)을 이용하여, 포트홀 탐지 결과 마스크의 면적을 측정한다(S540). 구체적으로, 항공 영상 내 포트홀 영역(포트홀 탐지 영역)의 총 픽셀 수와 앞에서 구한 픽셀 단위 면적 값을 이용하여, 포트홀 탐지 영역의 실제 면적을 산출한다(S540). 그리고 산출 결과를 출력한다(S550). The measurement unit 130 measures the area of the mask as a result of pothole detection using the unit area of the pixel (pixel unit area) in the aerial image (S540). Specifically, the actual area of the pothole detection area is calculated using the total number of pixels in the pothole area (porthole detection area) in the aerial image and the pixel unit area value obtained previously (S540). And the calculation result is output (S550).

여기서, 측정부(130)는 포트홀 영역의 면적 뿐만 아니라, 포트홀의 최대 가로 크기 및 최대 세로 크기에 해당한 포트홀 가로 직경 및 세로 직경을 추가로 획득할 수 있다.Here, the measuring unit 130 may additionally obtain the porthole horizontal diameter and vertical diameter corresponding to the maximum horizontal size and maximum vertical size of the porthole, as well as the area of the porthole area.

도 6은 본 발명의 실시예에서 항공 영상을 분석하여 포트홀의 좌표를 측정하하는 원리를 설명한 도면이다.Figure 6 is a diagram explaining the principle of measuring the coordinates of a pothole by analyzing aerial images in an embodiment of the present invention.

도 6과 같이, 측정부(130)는 포트홀이 탐지된 항공 영상을 입력받고(S610), 항공 영상의 메타 데이터 중 EXIF 데이터를 분석한다(S620). 이때, EXIF 데이터를 분석하여 항공 영상의 위도(L) 및 경도(K) 좌표를 획득한다.As shown in FIG. 6, the measurement unit 130 receives an aerial image in which a pothole is detected (S610) and analyzes EXIF data among the metadata of the aerial image (S620). At this time, EXIF data is analyzed to obtain the latitude (L) and longitude (K) coordinates of the aerial image.

아래 표 2는 포트홀의 초단위 좌표 계산에 활용되는 인자로서, 이 중에서 L과 K는 항공 영상의 메타 데이터로부터 획득한 값이다.Table 2 below shows the factors used to calculate the coordinates of potholes in seconds, of which L and K are values obtained from metadata of aerial images.

기호sign 설명explanation 단위unit xx 위도 반지름latitude radius kmkm yy 적도 반지름equatorial radius kmkm zz 극 반지름polar radius kmkm nn 적도 기준에 따른 값
(북위 = 1, 남위 = -1)
Values based on equatorial standards
(North latitude = 1, South latitude = -1)
--
LL 위도Latitude do KK 경도Hardness do

그리고, 표 2의 x, y, z, n 값을 아래 수학식 3에 적용하여, 항공 영상의 위도(L)와 경도(K)의 도 단위 값을 초 단위 값으로 변환한다(S630).Then, the x, y, z, and n values in Table 2 are applied to Equation 3 below to convert the degree-unit values of the latitude (L) and longitude (K) of the aerial image into second-unit values (S630).

다음, 항공 영상의 중점에서 포트홀 영역 까지의 가로 및 세로 거리를 계산한다(S640). 앞서 포트홀 면적 측정 과정에서 구한 픽셀 단위 면적을 이용하면 항공 영상의 중점 좌표에서 포트홀 까지의 가로 및 세로 거리를 계산할 수 있다. 예를 들면, 포트홀 영역 내 기준점(중심)까지의 가로 및 세로 거리를 계산할 수 있다.Next, calculate the horizontal and vertical distances from the midpoint of the aerial image to the pothole area (S640). Using the pixel unit area obtained in the pothole area measurement process, the horizontal and vertical distances from the midpoint coordinates of the aerial image to the pothole can be calculated. For example, the horizontal and vertical distances to the reference point (center) within the pothole area can be calculated.

그리고, 항공 영상의 중점 좌표에서 포트홀 까지의 가로 및 세로 거리에 초 단위 값을 나누어, 중점 좌표에서 포트홀 까지의 초 단위의 좌표 차이 값(거리)을 계산한다(S650). 그리고 영상의 중점 좌표에서 초단위로 변환된 포트홀 까지의 가로 및 세로 거리를 더하여 포트홀의 초 단위의 위치를 최종 계산 및 출력한다(S660).Then, the value in seconds is divided by the horizontal and vertical distances from the midpoint coordinate of the aerial image to the pothole, and the coordinate difference value (distance) in seconds from the midpoint coordinate to the pothole is calculated (S650). Then, the horizontal and vertical distances from the midpoint coordinates of the image to the porthole converted to seconds are added to calculate and output the final location of the pothole in seconds (S660).

이와 같이 본 발명의 실시예는 항공 영상 내 포트홀의 정확한 좌표를 계산하고 이를 통해 실무자에게 편의성을 제공한다. 항공 영상 내 검출된 포트홀 영역의 좌표 값은 표시부(140)로 전달된다.In this way, the embodiment of the present invention calculates the exact coordinates of the pothole in the aerial image and provides convenience to practitioners through this. The coordinate value of the pothole area detected in the aerial image is transmitted to the display unit 140.

다시 도 3을 참조하면, 표시부(140)는 포트홀의 좌표를 지도 상에 매핑하여 포트홀의 탐지 지점을 마커(Marker)로 가시화한다(S340). Referring again to FIG. 3, the display unit 140 maps the coordinates of the pothole on the map and visualizes the detection point of the pothole as a marker (S340).

그리고, 제어부(150)는 지도에서 사용자에 의해 소정 마커(Marker)가 선택되면, 해당 포트홀의 탐지 결과를 화면 상에 시각화하여 제공한다(S350). 이때 탐지 결과는 해당 포트홀의 크기, 좌표 및 촬영된 항공 영상을 포함한다.Then, when a predetermined marker is selected by the user on the map, the control unit 150 visualizes and provides the detection result of the corresponding pothole on the screen (S350). At this time, the detection result includes the size and coordinates of the pothole and the captured aerial image.

여기서 제어부(150)는 표시부(140)의 구동 화면을 제어할 수 있으며, 마커 선택 시에 시각화된 항공 영상 내의 포트홀 영역을 박스(box) 처리하여 제공할 수 있으며, 항공 영상 내의 지정된 위치에 정북 방향을 안내하는 나침반 아이콘을 삽입할 수 있다. 아울러, 제어부(150)는 해당 포트홀 영역의 면적, 가로 및 세로 직경, 위경도 좌표 중 적어도 하나를 텍스트 형태로 출력할 수 있다. Here, the control unit 150 can control the driving screen of the display unit 140, and when selecting a marker, the pothole area in the visualized aerial image can be boxed and provided, and can be provided in a true north direction at a designated location in the aerial image. You can insert a compass icon to guide you. In addition, the control unit 150 may output at least one of the area, horizontal and vertical diameters, and latitude and longitude coordinates of the corresponding pothole area in text form.

도 7은 본 발명의 실시예에서 지도 상에 포트홀 탐지 위치를 가시화한 모습을 예시한 도면이고, 도 8은 본 발명의 실시예에 따른 포트홀 탐지 결과 시각화 페이지를 설명한 도면이다.Figure 7 is a diagram illustrating the visualization of a pothole detection location on a map in an embodiment of the present invention, and Figure 8 is a diagram illustrating a visualization page of pothole detection results according to an embodiment of the present invention.

도 7에 나타낸 것과 같이, 표시부(140)는 구글 지도 상에 포트홀 탐지 위치를 마커로 가시화하여 제공할 수 있으며, 지도 확대 및 축소 기능을 제공할 수 있다. 이를 통해, 단일의 지도 화면에서 각 지역의 포트홀 탐지 스팟이 한 눈에 확인될 수 있고 지역 별 포트홀의 편리한 조회 및 관리가 가능하게 한다.As shown in FIG. 7, the display unit 140 can visualize the pothole detection location as a marker on Google Maps and provide map enlargement and reduction functions. Through this, pothole detection spots in each region can be confirmed at a glance on a single map screen, and it is possible to conveniently view and manage potholes by region.

또한, 도 8을 참조하면 표시부(140)는 항공 영상 목록, 포트홀 자동 탐지 결과 출력 기능, 그리고 포트홀 자동 탐지 결과 메타데이터 다운로드 기능을 제공한다. 이때, 포트홀 자동 탐지 결과 출력 기능은 도로의 상행 및 하행을 파악하기 위한 정북 방향 표시 기능, 항공 영상 내 포트홀 위치 및 좌표 출력 기능, 포트홀의 면적, 가로 및 세로 크기 시각화 기능을 포함한다.Additionally, referring to FIG. 8, the display unit 140 provides an aerial image list, an automatic pothole detection result output function, and a pothole automatic detection result metadata download function. At this time, the automatic pothole detection result output function includes a true north direction display function to determine the up and down direction of the road, a function to output the pothole location and coordinates in the aerial image, and a function to visualize the area, horizontal and vertical size of the pothole.

도 9는 본 발명의 실시예에서 포트홀 자동 탐지를 위한 이미지 업로드 및 처리 과정을 예시한 도면이다. 도 9와 같이, 본 발명의 경우, 응용 프로그램을 통하여 복수의 항공 영상 이미지 파일을 한 번에 쉽게 업로드할 수 있도록 하며, 이미지 업로드 진행 과정 및 처리 중인 이미지 목록을 실시간 안내할 수 있다.Figure 9 is a diagram illustrating an image upload and processing process for automatic porthole detection in an embodiment of the present invention. As shown in Figure 9, in the case of the present invention, a plurality of aerial video image files can be easily uploaded at once through an application, and the image upload process and the list of images being processed can be provided in real time.

도 10은 본 발명의 실시예에 따라 지도 내 마커 클릭 시에 포트홀 탐지 결과를 제공하는 화면을 예시적으로 설명한 도면이다. Figure 10 is a diagram illustrating a screen that provides pothole detection results when a marker in a map is clicked according to an embodiment of the present invention.

도 10과 같이, 본 발명의 실시예에서 표시부(140)는 현재 지도 내에 포트홀 탐지 위치를 마커를 통하여 시각화하여 제공하며, 사용자의 마커 클릭 시에 마커에 대응된 위치의 항공 영상과, 해당 항공 영상 내의 포트홀 탐지 목록 및 탐지 결과를 제공할 수 있다. 여기서 표시부(140)의 구동 화면은 제어부(150)에 의해 제어될 수 있다. As shown in Figure 10, in the embodiment of the present invention, the display unit 140 provides visualization of the pothole detection location in the current map through a marker, and when the user clicks on the marker, an aerial image of the location corresponding to the marker and the corresponding aerial image are displayed. A list of porthole detections and detection results can be provided. Here, the driving screen of the display unit 140 can be controlled by the control unit 150.

도 11은 본 발명의 실시예에 따른 항공 영상 내 포트홀 위치 및 좌표 출력 기능을 설명한 도면이다.Figure 11 is a diagram explaining the porthole location and coordinate output function in an aerial image according to an embodiment of the present invention.

도 11에 나타낸 것과 같이, 제어부(150)는 선택된 마커 지점에 대한 포트홀 탐지 결과를 제공하는 화면에서, 항공 영상 내의 지정 위치(예: 영상 좌측 상단)에 정북 방향을 안내하는 나침반 아이콘을 삽입하여 제공할 수 있다. 아울러, 항공 영상 내의 탐지된 포트홀 영역을 특정 색상으로 박스 처리하여 안내할 수 있다.As shown in FIG. 11, the control unit 150 inserts a compass icon guiding the true north direction at a designated location in the aerial image (e.g., upper left corner of the image) on the screen that provides the porthole detection results for the selected marker point. can do. In addition, the detected pothole area in the aerial image can be boxed in a specific color for guidance.

또한, 제어부(150)는 해당 박스 부분을 클릭 시에, 박스 영역의 확대 이미지를 별도의 창을 통하여 제공할 수 있으며, 사용자 선택 옵션에 따라 확대 이미지 주변에 포트홀 영역의 면적, 가로 및 세로 직경, 위경도 좌표 중 적어도 하나를 텍스트 형태로 제공할 수 있다.In addition, when clicking on the corresponding box, the control unit 150 can provide an enlarged image of the box area through a separate window, and according to the user-selected option, the area, horizontal and vertical diameters of the porthole area around the enlarged image, At least one of the latitude and longitude coordinates can be provided in text form.

도 12는 본 발명의 실시예에서 포트홀의 면적, 가로 및 세로 크기를 시각화한 모습을 나타낸 도면이다. Figure 12 is a diagram showing visualization of the area, horizontal, and vertical size of the pothole in an embodiment of the present invention.

도 12와 같이, 제어부(150)는 제1 옵션(포트홀 가로 세로 출력 버튼)이 선택되면, 확대 이미지 내 포트홀 영역의 외곽을 따라 설정 눈금 크기의 가로 및 세로 방향의 눈금을 오버레이 표시한 상태에서 포트홀 영역의 가로 및 세로 직경 값을 출력할 수 있다. As shown in Figure 12, when the first option (porthole horizontal and vertical output button) is selected, the control unit 150 overlays horizontal and vertical scales of the set scale size along the outline of the porthole area in the enlarged image and displays the porthole. The horizontal and vertical diameter values of the area can be output.

또한, 제어부(150)는 제2 옵션(포트홀 영역 및 좌표 출력 버튼)이 선택되면, 확대 이미지 내 포트홀 영역을 설정 색상으로 마스킹 처리하여 표시한 상태에서, 포트홀 영역의 면적과, 위/경도 좌표 값을 출력하여 제공할 수 있다. 그밖에도 본 발명의 경우, 항공 영상 내 탐지된 포트홀에 대한 메타 데이터 다운로드 버튼을 제공할 수 있다. In addition, when the second option (porthole area and coordinate output button) is selected, the control unit 150 displays the pothole area in the enlarged image by masking it with a set color, and displays the area of the pothole area and the latitude/longitude coordinate values. can be printed and provided. Additionally, in the case of the present invention, a button to download metadata for potholes detected in aerial images can be provided.

이상과 같이 본 발명에 따르면, 항공 영상을 딥러닝 분석하여 포트홀의 위치를 정확하고 탐지하고 탐지 결과를 지도 상에 매핑하여 시각화하여 제공할 수 있다. As described above, according to the present invention, the location of potholes can be accurately detected by deep learning analysis of aerial images, and the detection results can be visualized and mapped on a map.

이러한 본 발명의 경우, 항공 영상으로부터 탐지된 각 지역의 포트홀에 대한 탐지 위치, 형상, 측정 크기와 면적, 촬영 영상 등을 도로의 정북 방향과 함께 가시화하여 제공함으로써, 각 지역에서 관측된 포트홀의 관리 및 이력 추적을 가능하게 하며 사용자 편의성을 높일 수 있다. In the case of this invention, the detection location, shape, measured size and area, and captured images of potholes in each region detected from aerial images are visualized and provided along with the true north direction of the road, thereby managing potholes observed in each region. and history tracking and can increase user convenience.

본 발명은 도면에 도시된 실시 예를 참고로 설명되었으나 이는 예시적인 것에 불과하며, 본 기술 분야의 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 다른 실시 예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위의 기술적 사상에 의하여 정해져야 할 것이다.The present invention has been described with reference to the embodiments shown in the drawings, but these are merely illustrative, and those skilled in the art will understand that various modifications and equivalent other embodiments are possible therefrom. Therefore, the true scope of technical protection of the present invention should be determined by the technical spirit of the appended claims.

100: 포트홀 탐지 결과 시각화 장치 110: 입력부
120: 탐지부 130: 측정부
140: 표시부 150: 제어부
200: 사용자 단말
100: Porthole detection result visualization device 110: Input unit
120: detection unit 130: measurement unit
140: display unit 150: control unit
200: user terminal

Claims (12)

포트홀 탐지 결과 시각화 장치를 이용한 포트홀 탐지 결과 시각화 방법에 있어서,
드론에 의해 촬영된 항공 영상을 입력받는 단계;
상기 항공 영상을 기 학습된 탐지 모듈에 입력하여 상기 항공 영상으로부터 포트홀을 탐지하는 단계;
상기 포트홀이 탐지된 항공 영상을 분석하여 상기 항공 영상 내 포트홀의 크기 및 좌표를 측정하는 단계;
상기 포트홀의 좌표를 지도 상에 매핑하여 상기 포트홀의 탐지 지점을 마커로 가시화하는 단계; 및
상기 지도에서 상기 마커 선택 시, 해당 포트홀의 크기 및 좌표, 상기 포트홀이 촬영된 항공 영상을 포함한 탐지 결과를 시각화하여 제공하는 단계를 포함하며,
상기 시각화 제공하는 단계는,
상기 항공 영상 내의 지정 위치에 정북 방향을 안내하는 나침반 아이콘을 삽입하고, 상기 항공 영상 내의 포트홀 영역을 박스(box) 처리하여 제공하며,
상기 박스 클릭 시 박스 영역의 확대 이미지를 제공하되, 사용자 선택 옵션에 따라 상기 사용자의 제1 옵션 선택 시, 상기 확대 이미지 내 포트홀 영역의 외곽을 따라 설정 눈금 크기의 가로 및 세로 방향의 눈금을 오버레이 표시한 상태에서, 상기 확대 이미지 주변에 상기 포트홀 영역의 가로 및 세로 직경 값을 텍스트 형태로 출력하고,
상기 사용자의 제2 옵션 선택 시, 상기 확대 이미지 내 상기 포트홀 영역을 설정 색상으로 마스킹 처리하여 표시한 상태에서, 상기 확대 이미지 주변에 상기 포트홀 영역의 면적 및 위경도 좌표 값을 텍스트 형태로 출력하는 포트홀 탐지 결과 시각화 방법.
In a method of visualizing porthole detection results using a porthole detection result visualization device,
Receiving an aerial image captured by a drone;
Inputting the aerial image into a previously learned detection module to detect potholes from the aerial image;
Analyzing the aerial image in which the pothole is detected and measuring the size and coordinates of the pothole in the aerial image;
Mapping the coordinates of the pothole on a map and visualizing the detection point of the pothole with a marker; and
When selecting the marker on the map, it includes visualizing and providing detection results including the size and coordinates of the pothole and an aerial image in which the pothole was captured,
The step of providing the visualization is,
A compass icon guiding the true north direction is inserted at a designated location in the aerial image, and the pothole area in the aerial image is boxed and provided,
When the box is clicked, an enlarged image of the box area is provided, and when the user selects the first option according to the user-selected option, horizontal and vertical scales of the set scale size are overlaid along the outline of the porthole area in the enlarged image. In one state, the horizontal and vertical diameter values of the pothole area are output in text form around the enlarged image,
When the user selects the second option, the porthole area in the enlarged image is masked and displayed with a set color, and the area and latitude and longitude coordinates of the porthole area are output in text form around the enlarged image. How to visualize detection results.
청구항 1에 있어서,
상기 탐지 모듈은,
R-CNN 기법을 기반으로 상기 항공 영상으로부터 포트홀 객체 및 도로 객체를 분리 검출하고 검출 결과를 AND 연산하여 도로 내의 포트홀을 탐지하는 포트홀 탐지 결과 시각화 방법.
In claim 1,
The detection module is,
A method for visualizing pothole detection results that detects potholes in the road by separating and detecting pothole objects and road objects from the aerial image based on the R-CNN technique and performing an AND operation on the detection results.
청구항 1에 있어서,
상기 측정하는 단계는,
상기 항공 영상에 기록된 EXIF 및 XMP를 포함한 메타 데이터를 기반으로 상기 항공 영상 내 탐지된 포트홀 영역의 면적, 가로 및 세로 직경, 그리고 위경도 좌표 값을 각각 연산하는 포트홀 탐지 결과 시각화 방법.
In claim 1,
The measuring step is,
A pothole detection result visualization method that calculates the area, horizontal and vertical diameters, and latitude and longitude coordinate values of the detected pothole area in the aerial image based on metadata including EXIF and XMP recorded in the aerial image.
삭제delete 삭제delete 삭제delete 드론에 의해 촬영된 항공 영상을 입력받는 입력부;
상기 항공 영상을 기 학습된 탐지 모듈에 입력하여 상기 항공 영상으로부터 포트홀을 탐지하는 탐지부;
상기 항공 영상을 분석하여 상기 포트홀의 크기 및 좌표를 측정하는 측정부;
상기 포트홀의 좌표를 지도 상에 매핑하여 상기 포트홀의 탐지 지점을 마커로 가시화하는 표시부; 및
상기 지도에서 상기 마커 선택 시, 해당 포트홀의 크기 및 좌표, 상기 포트홀이 촬영된 항공 영상을 포함한 탐지 결과를 시각화하는 제어부를 포함하며,
상기 표시부는,
상기 항공 영상 내의 지정 위치에 정북 방향을 안내하는 나침반 아이콘을 삽입하고 상기 항공 영상 내의 포트홀 영역을 박스(box) 처리하여 제공하고,
상기 제어부는,
상기 박스 클릭 시 박스 영역의 확대 이미지를 제공하되, 사용자 선택 옵션에 따라 상기 사용자의 제1 옵션 선택 시, 상기 확대 이미지 내 포트홀 영역의 외곽을 따라 설정 눈금 크기의 가로 및 세로 방향의 눈금을 오버레이 표시한 상태에서 상기 확대 이미지 주변에 상기 포트홀 영역의 가로 및 세로 직경 값을 텍스트 형태로 출력하고,
상기 사용자의 제2 옵션 선택 시, 상기 확대 이미지 내 상기 포트홀 영역을 설정 색상으로 마스킹 처리하여 표시한 상태에서, 상기 확대 이미지 주변에 상기 포트홀 영역의 면적 및 위경도 좌표 값을 텍스트 형태로 출력하는 포트홀 탐지 결과 시각화 장치.
An input unit that receives aerial images captured by a drone;
A detection unit that detects potholes from the aerial image by inputting the aerial image into a previously learned detection module;
A measuring unit that measures the size and coordinates of the pothole by analyzing the aerial image;
A display unit that maps the coordinates of the pothole on a map and visualizes the detection point of the pothole with a marker; and
When the marker is selected on the map, it includes a control unit that visualizes detection results including the size and coordinates of the pothole and an aerial image in which the pothole was captured,
The display unit,
A compass icon guiding the true north direction is inserted at a designated location in the aerial image, and the porthole area in the aerial image is boxed and provided,
The control unit,
When the box is clicked, an enlarged image of the box area is provided, and when the user selects the first option according to the user-selected option, horizontal and vertical scales of the set scale size are overlaid along the outline of the porthole area in the enlarged image. In one state, the horizontal and vertical diameter values of the pothole area are output in text form around the enlarged image,
When the user selects the second option, the porthole area in the enlarged image is masked and displayed with a set color, and the area and latitude and longitude coordinates of the porthole area are output in text form around the enlarged image. Detection result visualizer.
청구항 7에 있어서,
상기 탐지 모듈은,
R-CNN 기법을 기반으로 상기 항공 영상으로부터 포트홀 객체 및 도로 객체를 분리 검출하고 검출 결과를 AND 연산하여 도로 내의 포트홀을 탐지하는 포트홀 탐지 결과 시각화 장치.
In claim 7,
The detection module is,
A pothole detection result visualization device that separates and detects pothole objects and road objects from the aerial image based on the R-CNN technique and detects potholes in the road by ANDing the detection results.
청구항 7에 있어서,
상기 측정부는,
상기 항공 영상에 기록된 EXIF 및 XMP를 포함한 메타 데이터를 기반으로 상기 항공 영상 내 탐지된 포트홀 영역의 면적, 가로 및 세로 직경, 그리고 위경도 좌표 값을 각각 연산하는 포트홀 탐지 결과 시각화 장치.
In claim 7,
The measuring unit,
A pothole detection result visualization device that calculates the area, horizontal and vertical diameters, and latitude and longitude coordinate values of the pothole area detected in the aerial image based on metadata including EXIF and XMP recorded in the aerial image.
삭제delete 삭제delete 삭제delete
KR1020210074779A 2021-06-09 2021-06-09 Apparatus for visualizing the result of detecting pothole in aerial image based on deep-learning and method thereof KR102586175B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210074779A KR102586175B1 (en) 2021-06-09 2021-06-09 Apparatus for visualizing the result of detecting pothole in aerial image based on deep-learning and method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210074779A KR102586175B1 (en) 2021-06-09 2021-06-09 Apparatus for visualizing the result of detecting pothole in aerial image based on deep-learning and method thereof

Publications (2)

Publication Number Publication Date
KR20220166015A KR20220166015A (en) 2022-12-16
KR102586175B1 true KR102586175B1 (en) 2023-10-06

Family

ID=84534910

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210074779A KR102586175B1 (en) 2021-06-09 2021-06-09 Apparatus for visualizing the result of detecting pothole in aerial image based on deep-learning and method thereof

Country Status (1)

Country Link
KR (1) KR102586175B1 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018156317A (en) * 2017-03-16 2018-10-04 阪神高速技術株式会社 Crack detection processing device, and crack detection processing program
US20200175352A1 (en) 2017-03-14 2020-06-04 University Of Manitoba Structure defect detection using machine learning algorithms
JP2021060656A (en) * 2019-10-03 2021-04-15 エヌ・ティ・ティ・コムウェア株式会社 Road damage determination device, road damage determination method, and road damage determination program

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102482595B1 (en) * 2015-12-17 2022-12-30 삼성전자주식회사 Method for providing map information and electronic device supporting the same
KR102196255B1 (en) * 2018-02-02 2020-12-29 한국도로공사 Apparatus and method of image processing and deep learning image classification for detecting road surface damage
KR20200007165A (en) * 2018-07-12 2020-01-22 한국건설기술연구원 Pot-hole detection system using vision sensor mounted on unmanned air vehicle, and method for the same
KR102332971B1 (en) * 2019-11-25 2021-11-30 대구가톨릭대학교산학협력단 System and method for pothole detection based on road aerial images

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200175352A1 (en) 2017-03-14 2020-06-04 University Of Manitoba Structure defect detection using machine learning algorithms
JP2018156317A (en) * 2017-03-16 2018-10-04 阪神高速技術株式会社 Crack detection processing device, and crack detection processing program
JP2021060656A (en) * 2019-10-03 2021-04-15 エヌ・ティ・ティ・コムウェア株式会社 Road damage determination device, road damage determination method, and road damage determination program

Also Published As

Publication number Publication date
KR20220166015A (en) 2022-12-16

Similar Documents

Publication Publication Date Title
CN108694882B (en) Method, device and equipment for labeling map
KR102052114B1 (en) Object change detection system for high definition electronic map upgrade and method thereof
KR102103834B1 (en) Object change detection system for high definition electronic map upgrade and method thereof
CN107430815B (en) Method and system for displaying parking area
CA2905797C (en) System and method for performing sensitive geo-spatial processing in non-sensitive operator environments
US20140222371A1 (en) Inspection of hidden structure
US20100086174A1 (en) Method of and apparatus for producing road information
CN101563581A (en) Method and apparatus for identification and position determination of planar objects in images
JP2016217084A (en) Road surface condition measurement system, road surface condition measurement method and road surface condition measurement program
JPWO2015129045A1 (en) Image acquisition system, terminal, image acquisition method, and image acquisition program
JP5343210B2 (en) Subject area calculation device, subject area calculation system, and subject area calculation method
TWI608744B (en) Estimation devices and methods for estimating communicaiton quality of wireles network and method for installing meters thereof
US20160377446A1 (en) Information processing apparatus and information processing method
US8818031B1 (en) Utility pole geotagger
US20180180459A1 (en) Distance calculation method, flow volume measuring method, distance calculation apparatus, and flow volume measuring apparatus
JP2008051745A (en) Mobile locating program, storage medium recording the same, mobile locating device, and mobile locating method
JP2011170599A (en) Outdoor structure measuring instrument and outdoor structure measuring method
JP2018084126A (en) Road state management program, road state management device, and road state management method
JP2022014432A (en) Deterioration diagnosis system, deterioration diagnosis device, deterioration diagnosis method, and program
JPWO2016031229A1 (en) Road map creation system, data processing device and in-vehicle device
JP2009140402A (en) Information display device, information display method, information display program, and recording medium with recorded information display program
WO2017150162A1 (en) Position estimating device, position estimating method and program
JP7485011B2 (en) Road deterioration diagnosis device, road deterioration diagnosis system, road deterioration diagnosis method, and program
JP2017188164A (en) Image acquisition device, terminal, and image acquisition system
JP6943183B2 (en) Positioning device, position identification method, position identification program and camera device

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right