KR102515112B1 - Black ice detecting system using drone - Google Patents

Black ice detecting system using drone Download PDF

Info

Publication number
KR102515112B1
KR102515112B1 KR1020200163813A KR20200163813A KR102515112B1 KR 102515112 B1 KR102515112 B1 KR 102515112B1 KR 1020200163813 A KR1020200163813 A KR 1020200163813A KR 20200163813 A KR20200163813 A KR 20200163813A KR 102515112 B1 KR102515112 B1 KR 102515112B1
Authority
KR
South Korea
Prior art keywords
drone
black ice
information
photographing
area
Prior art date
Application number
KR1020200163813A
Other languages
Korean (ko)
Other versions
KR20220075574A (en
Inventor
백기동
Original Assignee
백기동
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 백기동 filed Critical 백기동
Priority to KR1020200163813A priority Critical patent/KR102515112B1/en
Publication of KR20220075574A publication Critical patent/KR20220075574A/en
Application granted granted Critical
Publication of KR102515112B1 publication Critical patent/KR102515112B1/en

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0073Surveillance aids
    • G08G5/0086Surveillance aids for monitoring terrain
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • B64C39/024Aircraft not otherwise provided for characterised by special use of the remote controlled vehicle type, i.e. RPV
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64DEQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
    • B64D47/00Equipment not otherwise provided for
    • B64D47/08Arrangements of cameras
    • G06Q50/30
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/40Business processes related to the transportation industry
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography

Landscapes

  • Engineering & Computer Science (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Economics (AREA)
  • Health & Medical Sciences (AREA)
  • Operations Research (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)

Abstract

드론을 이용한 블랙아이스 탐지 시스템이 개시된다. 본 발명의 일 실시예에 따른 드론을 이용한 블랙아이스 탐지 시스템은, 지리 정보 시스템(GIS; Geographic Information System)의 지리 공간 정보(Geographic Data)를 보유하는 관제서버; 열화상 카메라가 장착되며, 상기 관제서버로부터 상기 지리 공간 정보를 통해 설정된 비행지역을 비행하며, 상기 지리 공간 정보를 통해 설정된 노면을 촬영하는 드론;을 포함하며, 상기 관제서버는, 드론의 아이디(ID)인 기기 고유정보와, 촬영사진과, 촬영각도 및 촬영 시 지리 공간 정보를 포함한 촬영정보를 상기 드론으로부터 수신하며, 상기 촬영정보로부터 블랙아이스 위험 지역을 판단한 뒤 블랙아이스 여부를 판단하고, 블랙아이스로 판단되면 지상기준점(GCP, Ground Control Point) 보정을 통해 상기 촬영사진을 지도 상에 매핑한 뒤 지도 데이터를 유관기관에 전송한다. 본 발명에 의하면, 드론을 이용하여 열화상 카메라 등을 통해 노면을 촬영하되 GIS를 이용하여 정확한 위치에 노면을 촬영하며, 촬영정보로부터 블랙 아이스 여부를 탐지하고, GCP를 통해 정확한 위치정보를 갖도록 매핑되어 사용자에게 제공하는 드론을 이용한 블랙아이스 탐지 시스템이 제공된다.A black ice detection system using a drone is disclosed. A black ice detection system using a drone according to an embodiment of the present invention includes a control server holding geographic data of a geographic information system (GIS); A drone equipped with a thermal imaging camera, flying in a flight area set through the geospatial information from the control server, and photographing the road surface set through the geospatial information; wherein the control server includes an ID of the drone ( ID) device-specific information, a photograph taken, a photographed angle, and photographing information including geospatial information at the time of photographing are received from the drone, and after determining a black ice risk area from the photographing information, it is determined whether there is black ice, If it is determined to be ice, the captured photos are mapped on a map through Ground Control Point (GCP) correction, and then map data is transmitted to related organizations. According to the present invention, the road surface is photographed using a thermal imaging camera using a drone, but the road surface is photographed at an accurate location using GIS, black ice is detected from the photographed information, and mapping is performed to have accurate location information through GCP. A black ice detection system using a drone provided to a user is provided.

Description

드론을 이용한 블랙아이스 탐지 시스템{BLACK ICE DETECTING SYSTEM USING DRONE}Black ice detection system using drone {BLACK ICE DETECTING SYSTEM USING DRONE}

본 발명은 드론을 이용한 블랙아이스 탐지 시스템에 관한 것으로서, 보다 상세하게는, 드론을 이용하여 열화상 카메라 등을 통해 노면을 촬영하되 GIS를 이용하여 정확한 위치에 노면을 촬영하며, 촬영정보로부터 블랙 아이스 여부를 탐지하고, GCP를 통해 정확한 위치정보를 갖도록 매핑되어 사용자에게 제공하는 드론을 이용한 블랙아이스 탐지 시스템에 관한 것이다.The present invention relates to a system for detecting black ice using a drone, and more particularly, a road surface is photographed through a thermal imaging camera using a drone, the road surface is photographed at an accurate location using a GIS, and black ice is obtained from photographing information. It relates to a black ice detection system using a drone that detects whether there is a black ice, maps it to have accurate location information through GCP, and provides it to the user.

블랙아이스는 낮 동안 내린 눈이나 비가 아스팔트 도로의 틈새에 스며들었다가 밤사이에 도로의 기름, 먼지 등과 섞여 도로 위에 얇게 얼어붙는 것을 칭하고 '도로 결빙 현상'이라고도 한다.Black ice refers to snow or rain that fell during the day that seeps into the cracks of the asphalt road and mixes with oil and dust on the road overnight and freezes thinly on the road, and is also called 'road icing'.

외부기온이 영상일 경우이면서 도로표면이 영하일 경우, 공기 중의 수분 또는 어는 비(freezing rain)가 도로 표면과 접촉하면서 발생하는 블랙아이스 를 예방하지 못해, 운전자가 착시현상을 일으켜 차량의 미끄러짐, 추돌, 전복, 중앙선 침범 등과 같은 사고를 예방하지 못하는 문제점 이 있었다.When the outside temperature is above zero and the road surface is below freezing, black ice that occurs when moisture or freezing rain in the air comes into contact with the road surface cannot be prevented, causing the driver to experience an optical illusion, causing the vehicle to slip and collide. There was a problem of not being able to prevent accidents such as overturning, overturning, and crossing the center line.

운전자는 도로 주행 시 눈에 잘 띄지 않고 단순히 도로가 조금 젖은 것으로 생각하기 쉽기 때문에 매년 블랙아이스로 인한 사고가 증가하고 있는 추세이고 이를 방지하고자 기술 개발도 많이 추진 중이지만 설계상 시간과 비용이 너무 많이 발생하는 문제점이 있다.Drivers are not easily seen when driving on the road and it is easy to think that the road is simply a little wet, so accidents caused by black ice are increasing every year. There is a problem with

종래의 도로에서의 결빙 방지장치는 도로의 노면에 열선을 매설하고 눈이 내릴 때 전원을 인가하여 발열시킴으로써 노면이 결결빙되는 것을 방지하도록 하거나, 또는 도로의 온도, 습도 및 조도 등과 같은 환경을 측정하고 측정된 환경 정보에 의해 도로의 결빙을 예측하여 해당 구간으로 진입하는 차량에 경보하고 도로 관리자에게 통지하는데, 이러한 결빙 방지장치는 블랙 아이스를 판정하지 못하며 사고 예방기능을 수행하지 못하는 문제점이 있다.Conventional anti-icing devices on the road prevent freezing of the road surface by burying a heat wire on the road surface and supplying power when it snows to generate heat, or measures the environment such as temperature, humidity, and illumination of the road. It predicts icing of the road by the measured environmental information, alerts vehicles entering the section, and notifies the road manager. However, these anti-icing devices do not determine black ice and do not perform accident prevention functions.

따라서, 많은 장비를 요구하지 않으면서도 노면의 블랙 아이스를 검출하고, 이를 사용자에게 실시간으로 알릴 수 있는 블랙아이스 검출 시스템 개발이 필요한 실정이다.Therefore, there is a need to develop a black ice detection system capable of detecting black ice on a road surface and notifying the user in real time without requiring a lot of equipment.

대한민국 공개특허 제10-2020-0086492호(2020.07.17. 공개.) “겨울철 도로 위 블랙아이스를 감지하는 블랙아이스 감지장치”Korean Patent Publication No. 10-2020-0086492 (published on July 17, 2020) “Black ice detection device for detecting black ice on roads in winter” 대한민국 공개특허 제10-2019-0140272호(2019.12.19. 공개) “블랙 아이스 감지 장치 및 방법”Republic of Korea Patent Publication No. 10-2019-0140272 (2019.12.19. Publication) “Black ice detection device and method” 대한민국 등록특허 제10-2158841호(2020.09.16. 등록) “블랙아이스 검출 시스템”Korean Patent Registration No. 10-2158841 (2020.09.16. Registration) “Black Ice Detection System”

본 발명에 따른 드론을 이용한 블랙아이스 탐지 시스템은, 드론을 이용하여 열화상 카메라 등을 통해 노면을 촬영하되 GIS를 이용하여 정확한 위치에 노면을 촬영하며, 촬영정보로부터 블랙 아이스 여부를 탐지하고, GCP를 통해 정확한 위치정보를 갖도록 매핑되어 사용자에게 제공하는 드론을 이용한 블랙아이스 탐지 시스템을 제공하는 것을 목적으로 한다.The black ice detection system using a drone according to the present invention photographs the road surface using a thermal imaging camera using a drone, but photographs the road surface at an accurate location using GIS, detects black ice from the photographing information, and GCP It is an object of the present invention to provide a black ice detection system using a drone that is mapped to have accurate location information through and provided to the user.

또한, 본 발명에 따른 드론을 이용한 블랙아이스 탐지 시스템은, 최소한의 오차로 블랙 아이스 여부를 판단하며, 판정된 블랙아이스를 실시간으로 사용자에게 알릴 수 있는 드론을 이용한 블랙아이스 탐지 시스템을 제공하는 것을 목적으로 한다.In addition, the black ice detection system using a drone according to the present invention is aimed at providing a black ice detection system using a drone that can determine black ice with a minimum error and notify the user of the determined black ice in real time. to be

본 발명의 과제들은 이상에서 언급한 기술적 과제로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The tasks of the present invention are not limited to the technical tasks mentioned above, and other technical tasks not mentioned will be clearly understood by those skilled in the art from the following description.

본 발명의 일 실시예에 따른 드론을 이용한 블랙아이스 탐지 시스템은, 지리 정보 시스템(GIS; Geographic Information System)의 지리 공간 정보(Geographic Data)를 보유하는 관제서버; 열화상 카메라가 장착되며, 상기 관제서버로부터 상기 지리 공간 정보를 통해 설정된 비행지역을 비행하며, 상기 지리 공간 정보를 통해 설정된 노면을 촬영하는 드론;을 포함하며, 상기 관제서버는, 드론의 아이디(ID)인 기기 고유정보와, 촬영사진과, 촬영각도 및 촬영 시 지리 공간 정보를 포함한 촬영정보를 상기 드론으로부터 수신하여, 상기 촬영정보로부터 블랙아이스 위험 지역을 판단한 뒤 블랙아이스 여부를 판단하고, 블랙아이스로 판단되면 지상기준점(GCP, Ground Control Point) 보정을 통해 상기 촬영사진을 지도 상에 매핑한 뒤 지도 데이터를 유관기관에 전송하고, 제1드론으로부터 수신한 상기 촬영정보의 상기 촬영사진의 프레임에 포함되는 각 화소에 대하여 온도값을 추출하고, 상기 온도가 기 설정된 온도 이내의 범위인지를 판단하여 블랙아이스 위험 지역을 판단하며, 블랙아이스 위험 지역으로 판단시 상기 제1드론과 인접한 지역을 비행하는 제2드론을 호출하여 촬영을 지시한다.A black ice detection system using a drone according to an embodiment of the present invention includes a control server holding geographic data of a geographic information system (GIS); A drone equipped with a thermal imaging camera, flying in a flight area set through the geospatial information from the control server, and photographing the road surface set through the geospatial information; wherein the control server includes an ID of the drone ( ID) device-specific information, a photograph taken, a photographing angle, and photographing information including geospatial information at the time of photographing are received from the drone, a black ice risk area is determined from the photographing information, and black ice is determined. If it is determined to be ice, the captured photo is mapped on a map through Ground Control Point (GCP) correction, and then the map data is transmitted to the relevant organization, and the frame of the captured photo of the captured information received from the first drone. extracts a temperature value for each pixel included in , determines whether the temperature is within a preset temperature range, determines a black ice risk area, and when determined to be a black ice risk area, flies in an area adjacent to the first drone Instructs shooting by calling the second drone to shoot.

삭제delete

또한, 상기 제2드론은 상기 제1드론과 동일한 노면 영역을 촬영하되, 상기 제1드론과 다른 각도에서 촬영할 수 있다.In addition, the second drone may photograph the same road surface area as the first drone, but at a different angle from that of the first drone.

또한, 상기 관제서버는, 상기 제2드론으로부터 촬영정보를 수신하여 촬영사진의 프레임에 포함되는 각 화소에 대하여 온도값을 추출하고, 상기 온도가 기 설정된 온도 이내의 범위이면 블랙아이스 지역으로 판정할 수 있다.In addition, the control server receives the photographing information from the second drone, extracts a temperature value for each pixel included in the frame of the photographed photograph, and if the temperature is within a preset temperature range, it is determined as a black ice area. can

또한, 상기 유관기관은, 수신한 상기 지도 데이터를 통해 네이게이션 상에 블랙 아이스 영역을 실시간으로 표시할 수 있다.In addition, the related organization may display the black ice area on the navigation in real time through the received map data.

본 발명의 실시예들에 의하면 적어도 다음과 같은 효과가 있다.According to embodiments of the present invention, at least the following effects are provided.

본 발명에 따른 블랙아이스 탐지 시스템에 의하면, 드론을 이용하여 열화상 카메라 등을 통해 노면을 촬영하되 GIS를 이용하여 정확한 위치에 노면을 촬영하며, 촬영정보로부터 블랙 아이스 여부를 탐지하고, GCP를 통해 정확한 위치정보를 갖도록 매핑되어 사용자에게 제공하는 드론을 이용한 블랙아이스 탐지 시스템이 제공된다.According to the black ice detection system according to the present invention, the road surface is photographed using a thermal imaging camera using a drone, but the road surface is photographed at an accurate location using GIS, black ice is detected from the photographing information, and through GCP A black ice detection system using a drone that is mapped to have accurate location information and provided to a user is provided.

또한, 촬영사진의 프레임에 포함되는 각 화소에 대한 온도값으로부터 기 설정된 온도값 사이의 범위에 해당하는지 여부를 통해 블랙아이스 여부를 판단하여 정확도가 우수하다.In addition, whether or not there is black ice is determined based on whether or not the temperature value of each pixel included in the frame of the photograph falls within the range between the temperature value and the preset temperature value, thereby providing excellent accuracy.

또한, 제1드론에 의해 블랙아이스 위험지역으로 판단하면, 제2드론이 해당지역으로 투입되어 제1드론과 다른 각도에서 촬영을 함으로써 정확도가 우수하다.In addition, when it is determined that the black ice risk area is determined by the first drone, the second drone is introduced into the area and photographed from a different angle than the first drone, so the accuracy is excellent.

또한, 드론에 의해 촬영된 촬영정보는 관제서버로 송신되며, 관제서버에서 블랙아이스로 판단시 실시간으로 유관기관으로 전송하여 판정된 블랙아이스를 실시간으로 사용자에게 알릴 수 있다.In addition, the photographing information taken by the drone is transmitted to the control server, and when the control server determines that it is black ice, it can be transmitted to the related agency in real time to notify the user of the black ice determined in real time.

본 발명에 따른 효과는 이상에서 예시된 내용에 의해 제한되지 않으며, 더욱 다양한 효과들이 본 명세서 내에 포함되어 있다.Effects according to the present invention are not limited by the contents exemplified above, and more various effects are included in the present specification.

도 1은 본 발명의 일 실시예에 따른 드론을 이용한 블랙아이스 탐지 시스템의 개략적인 장치도
도 2는 본 발명의 일 실시예에 따른 드론을 이용한 블랙아이스 탐지 시스템의 드론과 관제서버의 관계도
도 3은 본 발명의 일 실시예에 따른 드론을 이용한 블랙아이스 탐지 시스템의 블랙아이스 탐지 알고리즘
도 4는 본 발명의 일 실시예에 따른 드론을 이용한 블랙아이스 탐지 시스템의 매핑된 지도사진이다.
1 is a schematic device diagram of a black ice detection system using a drone according to an embodiment of the present invention.
2 is a diagram of the relationship between a drone and a control server in a black ice detection system using a drone according to an embodiment of the present invention.
3 is a black ice detection algorithm of a black ice detection system using a drone according to an embodiment of the present invention
4 is a map picture of a black ice detection system using a drone according to an embodiment of the present invention.

본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예를 도면에 예시하고 이에 대해 상세한 설명에 상세하게 설명한다. 본 발명의 효과 및 특징, 그리고 그것들을 달성하는 방법은 도면과 함께 상세하게 후술되어 있는 실시예를 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예에 한정되는 것이 아니라 다양한 형태로 구현될 수 있으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. Since the present invention can apply various transformations and have various embodiments, specific embodiments are illustrated in the drawings and described in detail in the detailed description. Effects and features of the present invention, and methods for achieving them will become clear with reference to the embodiments described later in detail together with the drawings. However, it should be understood that the present invention is not limited to the embodiments disclosed below, but may be implemented in various forms, and includes all modifications, equivalents, and substitutes included in the spirit and technical scope of the present invention.

설명에 앞서 상세한 설명에 기재된 용어에 대해 설명한다. 이하의 실시예에서, 제1, 제2 등의 용어는 한정적인 의미가 아니라 하나의 구성 요소를 다른 구성 요소와 구별하는 목적으로 사용되었다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다. 또한, 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 또한, '포함하다' 또는 '가지다' 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 의미하는 것이고, 하나 이상의 다른 특징들 또는 구성요소가 부가될 가능성을 미리 배제하는 것은 아니다. Prior to the description, the terms described in the detailed description will be described. In the following embodiments, terms such as first and second are used for the purpose of distinguishing one component from another component without limiting meaning. Accordingly, it goes without saying that the first element mentioned below may also be the second element within the technical spirit of the present invention. Also, expressions in the singular number include plural expressions unless the context clearly dictates otherwise. In addition, terms such as 'include' or 'have' mean that features, numbers, steps, operations, components, parts, or combinations thereof described in the specification exist, and that one or more other features or components are present. It does not preclude the possibility of being added.

또한, 도면에서는 설명의 편의를 위하여 구성 요소들이 그 크기가 과장 또는 축소될 수 있다. 예컨대, 도면에서 나타난 각 구성의 크기 및 두께는 설명의 편의를 위해 임의로 나타내었으므로, 본 발명이 반드시 도시된 바에 한정되지 않는다.In addition, in the drawings, the size of components may be exaggerated or reduced for convenience of explanation. For example, since the size and thickness of each component shown in the drawings are arbitrarily shown for convenience of description, the present invention is not necessarily limited to the illustrated bar.

이하, 본 발명에 따른 실시예를 첨부된 도면을 참조하여 상세히 설명한다. 첨부 도면을 참조하여 설명함에 있어, 동일하거나 대응하는 구성요소는 동일한 도면 부호를 부여하고 이에 대해 중복되는 설명은 생략한다.Hereinafter, embodiments according to the present invention will be described in detail with reference to the accompanying drawings. In the description with reference to the accompanying drawings, the same or corresponding components are assigned the same reference numerals, and overlapping descriptions thereof will be omitted.

도 1은 본 발명의 일 실시예에 따른 드론을 이용한 블랙아이스 탐지 시스템의 개략적인 장치도이며, 도 2는 본 발명의 일 실시예에 따른 드론을 이용한 블랙아이스 탐지 시스템의 드론과 관제서버의 관계도이며, 도 3은 본 발명의 일 실시예에 따른 드론을 이용한 블랙아이스 탐지 시스템의 블랙아이스 탐지 알고리즘이며, 도 4는 본 발명의 일 실시예에 따른 드론을 이용한 블랙아이스 탐지 시스템의 매핑된 지도사진이다.1 is a schematic device diagram of a black ice detection system using a drone according to an embodiment of the present invention, and FIG. 2 is a relationship between a drone and a control server in a black ice detection system using a drone according to an embodiment of the present invention. 3 is a black ice detection algorithm of a black ice detection system using a drone according to an embodiment of the present invention, and FIG. 4 is a mapped map of a black ice detection system using a drone according to an embodiment of the present invention. It is a picture.

본 발명에 따른 드론(100)을 이용한 블랙아이스 탐지 시스템(1000)은, 드론(100)을 이용하여 열화상 카메라 등을 통해 노면을 촬영하되 GIS를 이용하여 정확한 위치에 노면을 촬영하며, 촬영정보로부터 블랙 아이스 여부를 탐지하고, GCP를 통해 정확한 위치정보를 갖도록 매핑되어 사용자에게 제공하는 것이다.In the black ice detection system 1000 using the drone 100 according to the present invention, the road surface is photographed using a thermal imaging camera using the drone 100, and the road surface is photographed at an accurate location using GIS, and the photographing information It is to detect whether or not there is black ice from , and map it to have accurate location information through GCP and provide it to the user.

본 발명의 일 실시예에 따른 드론(100)을 이용한 블랙아이스 탐지 시스템(1000)은, 드론(100)과, 관제서버를 포함한다.The black ice detection system 1000 using the drone 100 according to an embodiment of the present invention includes the drone 100 and a control server.

드론(100)은 열화상 카메라가 장착되며, 노면을 촬영하여 촬영정보를 관제서버로 전송하는 구성이다.The drone 100 is equipped with a thermal imaging camera, and is configured to photograph the road surface and transmit photographic information to a control server.

관제서버는 지리 정보 시스템(GIS; Geographic Information System)의 지리 공간 정보(Geographic Data)를 보유한다. 드론(100)은 관제서버가 GIS를 이용하여 설정한 비행지역 및 도로지역을 수신하여, 비행지역 내를 계속 비행하면서 도로지역의 노면을 촬영한다. 여기서 GIS란 대상이 갖는 공간 데이터를 저장, 관리, 분석, 처리하며 유의미한 공간 정보로 활용할 수 있는 시스템을 의미한다. GIS를 통해 정확도가 매우 높은 비행지역 및 도로지역을 알 수 있으며, 드론(100)은 이로부터 비행지역 비행하면서 정확한 노면위치를 촬영할 수 있다.The control server holds geospatial information (Geographic Data) of a Geographic Information System (GIS). The drone 100 receives the flight area and road area set by the control server using GIS, and photographs the road surface of the road area while continuously flying within the flight area. Here, GIS refers to a system that stores, manages, analyzes, and processes the spatial data of an object and can utilize it as meaningful spatial information. It is possible to know the flight area and road area with very high accuracy through GIS, and the drone 100 can accurately photograph the road surface location while flying in the flight area.

드론(100)은 노면을 장착된 열화상 카메라를 통해 촬영한다. 구체적으로, 적외선 카메라를 통해 적외선 영상을 촬영하고, 이를 열화상 이미지화한 후 온도분포도로 출력한다.The drone 100 photographs the road surface through a thermal imaging camera. Specifically, an infrared image is photographed through an infrared camera, converted into a thermal image, and then output as a temperature distribution diagram.

드론(100)은 노면을 촬영하면, 기기 고유정보와, 촬영사진과, 촬영각도 및 촬영 시 지리 공간 정보를 포함한 촬영정보를 관제서버로 전송한다. 기기 고유정보는, 다수 개의 비행지역을 비행하는 각각의 드론(100)을 서로 구분하기 위한 아이디(ID)일 수 있다. 촬영 시 지리 공간 정보는 촬영 시 드론(100)의 정확한 위치정보를 의미하며, 촬영각도는 해당 노면을 촬영 시 노면과 드론(100)과의 각도를 의미한다.When the drone 100 photographs the road surface, it transmits photographing information including device-specific information, photographed pictures, photographing angle, and geospatial information at the time of photographing to the control server. Device-specific information may be an ID for distinguishing each drone 100 flying in a plurality of flight areas from each other. The geospatial information at the time of shooting means the exact location information of the drone 100 at the time of shooting, and the shooting angle means the angle between the road surface and the drone 100 when shooting the corresponding road surface.

관제서버는 드론(100)으로부터 상술한 촬영정보를 수신한뒤 분석하여 블랙아이스 위험 지역을 판단한다.The control server receives and analyzes the above-described photographing information from the drone 100 to determine a black ice risk area.

구체적으로, 임의의 한 비행지역을 비행하면서 해당 비행지역 내의 도로지역의 노면을 촬영하는 드론(100)인 제1드론(110)부터 수신한 촬영정보의 촬영사진의 프레임에 포함되는 각 화소에 대하여 온도값을 추출한다. 예를 들어, 드론(100)에 장착된 열화상 카메라가 촬영한 촬영사진의 프레임이 640X480으로서, 가로측 기준으로 640화소가 있고, 세로측 기준으로 480화소가 있가고 가정하면, 각 화소들에 대한 온도값을 추출한다.Specifically, for each pixel included in the frame of the photographed picture of photographing information received from the first drone 110, which is the drone 100 that photographs the road surface of the road area within the corresponding flight region while flying in an arbitrary flight region. Extract the temperature value. For example, assuming that the frame of a photograph taken by a thermal imaging camera mounted on the drone 100 is 640X480, there are 640 pixels on a horizontal side and 480 pixels on a vertical side, Extract the temperature value.

관제서버에는 블랙아이스에 해당하는 화소에 대한 온도값이 미리 설정된다. 이는 제1기준값과 제2기준값으로 하한과 상한이 설정되어, 온도값이 제1기준값과 제2기준값 사이에 해당하는지 여부를 판단한다.Temperature values for pixels corresponding to black ice are preset in the control server. A lower limit and an upper limit are set to the first reference value and the second reference value, and it is determined whether the temperature value is between the first reference value and the second reference value.

만일 각 화소값에 대한 온도값이 제1기준값과 제2기준값 사이에 해당하는 경우 블랙아이스 위험 지역으로 판단한다.If the temperature value for each pixel value is between the first reference value and the second reference value, it is determined as a black ice risk area.

관제서버는 제1드론(110)이 촬영한 촬영정보로부터 해당 도로지역이 블랙아이스 위험 지역으로 판단되면, 제1드론(110)과 인접한 지역을 비행하는 제2드론(120)을 호출한다.The control server calls the second drone 120 flying in an area adjacent to the first drone 110 when it is determined that the corresponding road area is a black ice risk area from the photographing information taken by the first drone 110 .

제2드론(120)은 관제서버로부터 제1드론(110)이 비행하는 지리 공간 정보를 수신하여 해당 지역으로 투입된다. 제2드론(120)은 제1드론(110)이 촬영한 도로지역의 지리 공간 정보도 함께 수신하며, 해당 지역을 열화상카메라를 통해 촬영한다.The second drone 120 receives geospatial information on which the first drone 110 flies from the control server and is introduced to the corresponding area. The second drone 120 also receives geospatial information of the road area photographed by the first drone 110 and photographs the corresponding area through a thermal imaging camera.

이 때, 제2드론(120)은 제1드론(110)과 다른 각도로 해당 지역을 촬영한다. 해당 도로지역의 다양한 각도 촬영을 통해 정확도가 보다 우수해지며, 제1드론(110)에 장착된 열화상카메라가 오류가 있는 상태인 경우에도 이와 다른 열화상 카메라를 통해 촬영을 함으로써 정확도가 보다 우수해진다.At this time, the second drone 120 photographs the corresponding area at a different angle from that of the first drone 110 . Accuracy is improved through various angles of the road area, and even when the thermal imaging camera mounted on the first drone 110 is in an error state, the accuracy is improved by shooting through a different thermal imaging camera it gets done

제2드론(120) 또한, 노면을 촬영하면, 기기 고유정보와, 촬영사진과, 촬영각도 및 촬영 시 지리 공간 정보를 포함한 촬영정보를 관제서버로 전송한다. 관제서버는 드론(100)으로부터 상술한 촬영정보를 수신한뒤 분석하여 블랙아이스 위험 지역을 판단한다. 관제서버는 제2드론(120)부터 수신한 촬영정보의 촬영사진의 프레임에 포함되는 각 화소에 대하여 온도값을 추출하고, 이 값이 제1기준값과 제2기준값 사이에 해당하는지 여부를 판단한다.When the second drone 120 also photographs the road surface, it transmits photographing information including device-specific information, photographed pictures, photographing angle, and geospatial information at the time of photographing to the control server. The control server receives and analyzes the above-described photographing information from the drone 100 to determine a black ice risk area. The control server extracts a temperature value for each pixel included in the frame of the photographed picture of the photographing information received from the second drone 120, and determines whether the value is between a first reference value and a second reference value. .

관제서버는 제2드론(120)부터 수신한 촬영정보로부터 분석된 온도값이 제1기준값과 제2기준값 사이에 해당하면 블랙아이스 지역으로 판정한다.If the temperature value analyzed from the photographing information received from the second drone 120 falls between the first reference value and the second reference value, the control server determines the black ice area.

만일 2드론(100)으로부터 수신한 촬영정보로부터 분석된 온도값이 제1기준값과 제2기준값 사이가 아닌 경우에는, 블랙아이스 지역으로 판정하지 않고, 블랙아이스 위험 지역으로 판단하며, 제1드론(110) 및 제2드론(120)로 하여금 해당 지역을 지속적으로 촬영하며 모니터링하도록 한다.If the temperature value analyzed from the photographing information received from the second drone 100 is not between the first reference value and the second reference value, it is not determined as a black ice area, but determined as a black ice risk area, and the first drone ( 110) and the second drone 120 continuously photograph and monitor the corresponding area.

한편, 드론(100)과 관제서버 간의 데이터 통신을 위한 정보통신망은, 복수의 단말 및 서버들과 같은 각각의 노드 상호 간에 정보 교환이 가능한 연결 구조를 의미하는 것으로, 이러한 정보통신망의 일례로는 RF, 3GPP(3rd Generation Partnership Project)망, LTE(Long Term Evolution)망, 5GPP(5rd Generation Partnership Project)망, WIMAX(World Interoperability for Microwave Access)망, 인터넷(Internet), LAN(Local Area Network), Wireless LAN(Wireless Local Area Network), WAN(Wide Area Network), PAN(Personal Area Network), 블루투스(Bluetooth)망, NFC망, 위성 방송망 및 아날로그 방송망 등이 포함될 수 있고, 특정 망에 한정되지는 않는다. On the other hand, the information communication network for data communication between the drone 100 and the control server means a connection structure capable of exchanging information between nodes such as a plurality of terminals and servers. An example of such an information communication network is RF , 3GPP (3rd Generation Partnership Project) network, LTE (Long Term Evolution) network, 5GPP (5rd Generation Partnership Project) network, WIMAX (World Interoperability for Microwave Access) network, Internet, LAN (Local Area Network), Wireless A wireless local area network (LAN), a wide area network (WAN), a personal area network (PAN), a Bluetooth network, an NFC network, a satellite broadcasting network, and an analog broadcasting network may be included, but are not limited to a specific network.

관제서버는, 블랙아이스 위험 지역으로 판단하는 경우 드론(100)으로부터 수신한 촬영사진을 지도 상에 매핑한다. 이 때, 오차의 최소화를 위해 지상기준점(GCP, Ground Control Point) 보정을 수행한다.The control server maps the photograph received from the drone 100 on a map when it is determined to be a black ice risk area. At this time, ground control point (GCP) correction is performed to minimize the error.

지상기준점 보정은 왜곡의 원인을 고려하지 않고 왜곡의 정도만을 분석한 후, 수집된 영상과 기준 지도 간을 연결할 수 있는 보정식을 구하여 영상의 왜곡을 보정해 주는 방법이다.Ground control point correction is a method of correcting image distortion by analyzing only the degree of distortion without considering the cause of the distortion, and obtaining a correction equation that can connect the collected images and the reference map.

먼저 GCP를 선정한다. 이 때, GCP는 매핑 영역 내에 잘 알려진 장소 또는 명확하게 식별 가능한 개체가 있을 경우 해당 장소나 개체의 한 지점을 선정하는 것이 바람직하다. 지상기준점(GCP)의 선정에 있어서 가장 중요한 점은 무엇보다도 그 점이 기준점으로서의 자격을 갖는가 하는 것이다. 지상기준점(GCP)은 영상 좌표와 지도 좌표 사이의 변환에 있어서 기준이 되는 점이므로 그 위치가 시간에 따라 항상 변함이 없어야만 한다. 이러한 점으로는 도로의 교차점, 제방의 끝, 인공구조물, 대형 건물 등이 사용되며, 이때 센서의 해상력을 반드시 고려해야 한다. 지상기준점(GCP)의 지도 상 좌표를(x,y), 촬영사진 상의 좌표를 (u,v)이라고 했을 때, 두 좌표를 연결하여 그들 사이의 관계식을 구한다.First, select GCP. At this time, if there is a well-known place or clearly identifiable entity within the mapping area, GCP preferably selects a point of the corresponding place or entity. The most important point in selecting a ground control point (GCP) is, above all, whether the point is qualified as a control point. Since the ground control point (GCP) is a reference point for conversion between image coordinates and map coordinates, its location must always remain unchanged over time. For these points, road intersections, embankment ends, artificial structures, and large buildings are used. At this time, the resolution of the sensor must be considered. When the coordinates of the ground control point (GCP) on the map are (x,y) and the coordinates on the photograph are (u,v), the relational expression between them is obtained by connecting the two coordinates.

정확한 지상기준점 선정을 통해 오차를 최소한으로 줄일 수 있으며, 또한, 지상기준점을 복수 개 선정함으로써 보정 시 발생하는 오차를 최소한으로 줄일 수 있고, 또한, 넓은 부분에 걸쳐 골고루 분포되도록 하여 정확한 변환이 가능하다.Errors can be reduced to a minimum through accurate selection of ground control points, and errors occurring during calibration can be reduced to a minimum by selecting a plurality of ground control points, and accurate conversion is possible by evenly distributing them over a wide area. .

위 관계식으로부터 지형 보정을 실행하고, 이로부터 정확한 위치의 픽셀들을 얻을 수 있으며, 이러한 픽셀들을 새로운 사진으로 리샘플링함으로써 최종적으로 정확도가 매우 우수한 자료를 얻을 수 있다. Terrain correction can be performed from the above relationship, pixels in the correct position can be obtained from this, and data with very high accuracy can finally be obtained by resampling these pixels into a new picture.

관제서버는 지도 매핑이 완료되면 이를 유관기관에 전송한다. 유관기관은 네비게이션 서비스 업체, 한국도로공사 등일 수 있다.When the map mapping is completed, the control server transmits it to related organizations. Relevant organizations may be navigation service companies, Korea Expressway Corporation, and the like.

네비게이션 서비스 업체에 정확한 지도를 전달함으로써, 네비게이션 서비스 업체는 사용자들의 차량에 탑재된 네비게이션에 매핑된 지도를 통해 블랙아이스 지역을 실시간으로 표시할 수 있다.By delivering an accurate map to a navigation service provider, the navigation service provider can display the black ice area in real time through a map mapped to a navigation device installed in a user's vehicle.

또한, 한국도로공사 등에서는 인력이 투입되어 해당 지역에 블랙아이스 경고 안내판 등을 설치할 수 있다.In addition, Korea Expressway Corporation, etc., can put in manpower to install black ice warning signs in the area.

따라서, 본 발명에 의하면, 드론(100)을 이용하여 열화상 카메라 등을 통해 노면을 촬영하되 GIS를 이용하여 정확한 위치에 노면을 촬영하며, 촬영정보로부터 블랙 아이스 여부를 탐지하고, GCP를 통해 정확한 위치정보를 갖도록 매핑되어 사용자에게 제공하는 드론(100)을 이용한 블랙아이스 탐지 시스템(1000)이 제공된다.Therefore, according to the present invention, the road surface is photographed using a thermal imaging camera using the drone 100, but the road surface is photographed at an accurate location using GIS, black ice is detected from the photographing information, and accurate through GCP is used. A black ice detection system 1000 using a drone 100 that is mapped to have location information and provided to a user is provided.

본 발명에서 모든 예들 또는 예시적인 용어(예를 들어, 등등)의 사용은 단순히 본 발명을 상세히 설명하기 위한 것으로서 특허청구범위에 의해 한정되지 않는 이상 상기 예들 또는 예시적인 용어로 인해 본 발명의 범위가 한정되는 것은 아니다. 또한 해당 기술 분야의 통상의 기술자는 다양한 수정, 조합 및 변경이 부가된 특허청구범위 또는 그 균등물의 범주 내에서 설계 조건 및 팩터(factor)에 따라 구성될 수 있음을 알 수 있다.The use of all examples or exemplary terms (eg, etc.) in the present invention is simply to explain the present invention in detail, and the scope of the present invention due to the examples or exemplary terms is not limited unless it is limited by the claims. It is not limited. In addition, those skilled in the art can recognize that various modifications, combinations, and changes can be made according to design conditions and factors within the scope of the appended claims or equivalents thereof.

따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위 뿐만 아니라, 이 특허청구범위와 균등한 또는 이로부터 등가적으로 변경된 모든 범위는 본 발명의 사상의 범주에 속한다고 할 것이다.Therefore, the spirit of the present invention should not be limited to the above-described embodiments and should not be determined, and not only the claims to be described later, but also all ranges equivalent to or equivalently changed from these claims fall within the spirit of the present invention. would be considered to be in the category.

1000 : 드론을 이용한 블랙아이스 탐지 시스템
100 : 드론 110 : 제1드론
120 : 제2드론 200 : 관제서버
1000: Black ice detection system using drones
100: drone 110: first drone
120: second drone 200: control server

Claims (5)

지리 정보 시스템(GIS; Geographic Information System)의 지리 공간 정보(Geographic Data)를 보유하는 관제서버;
열화상 카메라가 장착되며, 상기 관제서버로부터 상기 지리 공간 정보를 통해 설정된 비행지역을 비행하며, 상기 지리 공간 정보를 통해 설정된 노면을 촬영하는 드론;을 포함하며,
상기 관제서버는,
드론의 아이디(ID)인 기기 고유정보와, 촬영사진과, 촬영각도 및 촬영 시 지리 공간 정보를 포함한 촬영정보를 상기 드론으로부터 수신하여,
상기 촬영정보로부터 블랙아이스 위험 지역을 판단한 뒤 블랙아이스 여부를 판단하고, 블랙아이스로 판단되면 지상기준점(GCP, Ground Control Point) 보정을 통해 상기 촬영사진을 지도 상에 매핑한 뒤 지도 데이터를 유관기관에 전송하고,
제1드론으로부터 수신한 상기 촬영정보의 상기 촬영사진의 프레임에 포함되는 각 화소에 대하여 온도를 추출하고, 상기 온도가 기 설정된 온도 이내의 범위인지를 판단하여 블랙아이스 위험 지역을 판단하며, 블랙아이스 위험 지역으로 판단시 상기 제1드론과 인접한 지역을 비행하는 제2드론을 호출하여 촬영을 지시하는 드론을 이용한 블랙아이스 탐지 시스템.
A control server that holds geospatial information (Geographic Data) of a Geographic Information System (GIS);
A drone equipped with a thermal imaging camera, flying over a flight area set through the geospatial information from the control server, and photographing a road surface set through the geospatial information;
The control server,
By receiving photographing information, including device-specific information, which is the ID of the drone, photographing picture, photographing angle, and geospatial information at the time of photographing, from the drone,
After determining the black ice risk area from the above photographing information, it is determined whether there is black ice, and if it is determined to be black ice, the photographed picture is mapped on a map through ground control point (GCP) correction, and the map data is transferred to the relevant institutions. send to,
The temperature is extracted for each pixel included in the frame of the photographed picture of the photographing information received from the first drone, and a black ice risk area is determined by determining whether the temperature is within a preset temperature range. A black ice detection system using a drone that calls a second drone flying in an area adjacent to the first drone and instructs shooting when it is determined that the area is dangerous.
삭제delete 제1항에 있어서,
상기 제2드론은 상기 제1드론과 동일한 노면 영역을 촬영하되, 상기 제1드론과 다른 각도에서 촬영하는 드론을 이용한 블랙아이스 탐지 시스템.
According to claim 1,
The black ice detection system using a drone in which the second drone photographs the same road surface area as the first drone, but photographs at a different angle from that of the first drone.
제1항에 있어서,
상기 관제서버는,
상기 제2드론으로부터 촬영정보를 수신하여 촬영사진의 프레임에 포함되는 각 화소에 대하여 온도값을 추출하고, 상기 온도가 기 설정된 온도 이내의 범위이면 블랙아이스 지역으로 판정하는 드론을 이용한 블랙아이스 탐지 시스템.
According to claim 1,
The control server,
A black ice detection system using a drone that receives photographing information from the second drone, extracts a temperature value for each pixel included in a frame of a photograph, and determines that the area is black ice if the temperature is within a preset temperature range. .
제1항에 있어서,
상기 유관기관은, 수신한 상기 지도 데이터를 통해 네이게이션 상에 블랙 아이스 영역을 실시간으로 표시하는 드론을 이용한 블랙아이스 탐지 시스템.

According to claim 1,
The black ice detection system using a drone, wherein the related institution displays a black ice area in real time on the navigation through the received map data.

KR1020200163813A 2020-11-30 2020-11-30 Black ice detecting system using drone KR102515112B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200163813A KR102515112B1 (en) 2020-11-30 2020-11-30 Black ice detecting system using drone

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200163813A KR102515112B1 (en) 2020-11-30 2020-11-30 Black ice detecting system using drone

Publications (2)

Publication Number Publication Date
KR20220075574A KR20220075574A (en) 2022-06-08
KR102515112B1 true KR102515112B1 (en) 2023-03-27

Family

ID=81981597

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200163813A KR102515112B1 (en) 2020-11-30 2020-11-30 Black ice detecting system using drone

Country Status (1)

Country Link
KR (1) KR102515112B1 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102118347B1 (en) 2019-04-09 2020-06-29 제이씨현시스템주식회사 System for implementing autonomic fly and Monitoring Danger Area through Thermal Image Data Shooted by Drone
KR102158841B1 (en) * 2020-06-17 2020-09-22 주식회사 지성이엔지 Black ice detection system

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3361412B1 (en) * 2017-02-10 2023-09-06 Fujitsu Limited Black ice detection system, program, and method
KR20190140272A (en) 2018-06-11 2019-12-19 이상현 Apparatus and method for sensing black ice
KR20200086492A (en) 2019-01-09 2020-07-17 구동진 Black ice detection device that detects black ice on winter roads

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102118347B1 (en) 2019-04-09 2020-06-29 제이씨현시스템주식회사 System for implementing autonomic fly and Monitoring Danger Area through Thermal Image Data Shooted by Drone
KR102158841B1 (en) * 2020-06-17 2020-09-22 주식회사 지성이엔지 Black ice detection system

Also Published As

Publication number Publication date
KR20220075574A (en) 2022-06-08

Similar Documents

Publication Publication Date Title
JP5776545B2 (en) Road surface inspection program and road surface inspection device
US8339583B2 (en) Visual detection of clear air turbulence
US10872247B2 (en) Image feature emphasis device, road surface feature analysis device, image feature emphasis method, and road surface feature analysis method
JP6408434B2 (en) Road marking body deterioration detection method
KR101943342B1 (en) Management system and method for solar panel using drone
US7136059B2 (en) Method and system for improving situational awareness of command and control units
MX2013000158A (en) Real-time moving platform management system.
KR20200048615A (en) Realtime inspecting drone for solar photovoltaic power station basen on machine learning
US20020181739A1 (en) Video system for monitoring and reporting weather conditions
CN113223087B (en) Target object geographic coordinate positioning method and device based on video monitoring
KR102267517B1 (en) Road fog detecting appartus and method using thereof
KR102414233B1 (en) Control System based on Road Surface Recognition of Driving Vehicle and Method therefor
KR102515112B1 (en) Black ice detecting system using drone
US7583818B2 (en) Method and system for collecting traffic information using thermal sensing
TWI481824B (en) Method of water level surveillance
CN110809779A (en) Image synthesizing method, image synthesizing apparatus, and recording medium
CN115373416B (en) Intelligent inspection method for railway electric power through line
KR102257078B1 (en) Fog detection device using coordinate system and method thereof
US20230081098A1 (en) Deterioration diagnosis device, deterioration diagnosis method, and recording medium
CN111899512B (en) Vehicle track extraction method and system combined with skyline observation and storage medium
US20180131871A1 (en) System and method for image processing
CN110969802B (en) Positioning monitoring method based on mobile signal tower point and intelligent supervision platform
KR102572906B1 (en) Camera image object position tracking system with altitude correction function and method thereof
Kim et al. Rapid Disaster Mapping through Data Integration from UAVs and Multi-sensors Mounted on Investigation Platforms of NDMI, Korea
JP2021070993A (en) Infrastructure inspection system and infrastructure inspection method

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant