KR20230059187A - River safety management system and method using artificial intelligence - Google Patents

River safety management system and method using artificial intelligence Download PDF

Info

Publication number
KR20230059187A
KR20230059187A KR1020210142695A KR20210142695A KR20230059187A KR 20230059187 A KR20230059187 A KR 20230059187A KR 1020210142695 A KR1020210142695 A KR 1020210142695A KR 20210142695 A KR20210142695 A KR 20210142695A KR 20230059187 A KR20230059187 A KR 20230059187A
Authority
KR
South Korea
Prior art keywords
information
river
image
analysis
image information
Prior art date
Application number
KR1020210142695A
Other languages
Korean (ko)
Inventor
강준구
여홍구
Original Assignee
한국건설기술연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국건설기술연구원 filed Critical 한국건설기술연구원
Priority to KR1020210142695A priority Critical patent/KR20230059187A/en
Publication of KR20230059187A publication Critical patent/KR20230059187A/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/26Government or public services
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01DMEASURING NOT SPECIALLY ADAPTED FOR A SPECIFIC VARIABLE; ARRANGEMENTS FOR MEASURING TWO OR MORE VARIABLES NOT COVERED IN A SINGLE OTHER SUBCLASS; TARIFF METERING APPARATUS; MEASURING OR TESTING NOT OTHERWISE PROVIDED FOR
    • G01D21/00Measuring or testing not otherwise provided for
    • G01D21/02Measuring two or more variables by means not covered by a single other subclass
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/003Navigation within 3D models or images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/10Alarms for ensuring the safety of persons responsive to calamitous events, e.g. tornados or earthquakes
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • G08B25/01Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems characterised by the transmission medium
    • G08B25/016Personal emergency signalling and security systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/2187Live feed
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A10/00TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE at coastal zones; at river basins
    • Y02A10/40Controlling or monitoring, e.g. of flood or hurricane; Forecasting, e.g. risk assessment or mapping

Abstract

본 발명은 인공지능을 이용한 하천 이용 안전관리시스템에 관한 것으로, 더욱 상세하게는 측정 대상 예컨대, 하천 유역에 대해 다종의 카메라를 이용해 영상정보를 수집하고, 물리적 센싱을 통해 수위와 유속과 온도 및 습도를 포함한 환경정보를 수집하는 한편, 상공에서 초분광 영상정보를 수집하면, 인공지능 분석장치가 수집된 정보를 분석하고 분석 정보를 축적하면서 지속적인 분석과 3차원 가상현실을 접목시키면서 정보를 분석하여, 제방 붕괴 내지 홍수를 포함한 재난 발생 여부를 실시간 모니터링하면서 예측하여, 이에 대한 직관적인 정보 및 위험 상황을 해당 하천 관리 주체 및 하천을 이용하는 대중에게 정보를 제공하고, 하천 내 부적절한 사람 내지 차량의 입수 및 표류 여부를 분석하여 긴급상황에 대처할 수 있도록 된 인공지능을 이용한 하천 이용 안전관리시스템 및 안전관리방법에 관한 것이다.The present invention relates to a river use safety management system using artificial intelligence, and more specifically, image information is collected using various types of cameras for a measurement target, for example, a river basin, and water level, flow rate, temperature, and humidity are collected through physical sensing. On the other hand, when collecting hyperspectral image information from the sky, an artificial intelligence analysis device analyzes the collected information and accumulates analysis information, while applying continuous analysis and 3D virtual reality to analyze the information. Real-time monitoring and prediction of the occurrence of disasters, including bank collapse or floods, providing intuitive information and risk situations to the relevant river management entity and the public using the river, and ingress and drift of inappropriate people or vehicles in the river It is about a river use safety management system and safety management method using artificial intelligence that can analyze whether or not to respond to an emergency.

Description

인공지능을 이용한 하천 이용 안전관리시스템 및 하천 이용 안전관리방법{River safety management system and method using artificial intelligence}River safety management system and method using artificial intelligence {River safety management system and method using artificial intelligence}

본 발명은 인공지능을 이용한 하천 이용 안전관리시스템 및 이에 의하여 하천 이용을 안전하게 관리하는 방법(안전관리방법)에 관한 것으로서, 더욱 상세하게는 모니터링 대상이 되는 하천 또는 하천 유역에 대해 다종의 카메라를 이용하여 영상정보를 수집하고, 물리적 센싱을 통해 수위와 유속과 온도 및 습도를 포함한 환경정보를 수집하는 한편, 상공에서는 초분광 영상 및 RGB 영상 정보를 수집하여, 수집된 영상정보, 환경정보 및 초분광 영상정보를 인공지능 분석장치에 의해 분석하여, 분석된 정보(분석 정보)를 축적하면서 3차원 가상현실을 접목시킴으로써 제방 붕괴 내지 홍수를 포함한 재난 발생 여부를 실시간 모니터링하면서 예측하며, 이에 대한 직관적인 정보 및 위험 상황을 해당 하천 관리 주체 및 하천을 이용하는 대중에게 정보를 제공할 뿐만 아니라, 하천 내 부적절한 사람 내지 차량의 입수 및 표류 여부를 분석하여 긴급상황에 대처할 수 있게 되는 "인공지능을 이용한 하천 이용 안전관리시스템 및 안전관리방법"에 관한 것이다.The present invention relates to a river use safety management system using artificial intelligence and a method for safely managing river use thereby (safety management method), and more particularly, using various types of cameras for a river or river basin to be monitored. image information is collected, and environmental information including water level, flow rate, temperature and humidity is collected through physical sensing, while hyperspectral image and RGB image information are collected from above, and the collected image information, environmental information and hyperspectral image information are collected. By analyzing image information with an artificial intelligence analysis device, accumulating the analyzed information (analysis information) and incorporating 3D virtual reality, real-time monitoring and prediction of the occurrence of disasters, including levee collapse or flooding, and intuitive information about this and risk situations to the relevant river management entity and the public using the river, as well as to analyze whether inappropriate people or vehicles have entered or drifted in the river to respond to emergency situations. management system and safety management method".

일반적으로, 하천(河川, stram, river)이라 함은 강수를 통해 지표에 공급된 물이 일정한 물길을 형성하며 경사진 지표면을 흘러내리는 것을 말한다. 하천을 이루고 있는 일정한 물길을 하도(河道, channel)라고 하며, 하천에 의해 형성된 또는 하천이 흐르는 낮은 골짜기를 하곡(河谷, river valley)이라 하고, 암석이나 토사로 이루어진 하천의 바닥 부분을 하상(河床, riverbed)이라 한다. 하상이나 제방의 재료가 주로 모래와 자갈 등으로 구성된 자연하천이나, 홍수터와 제방에 초본(grass), 관목(shrub) 및 교목(tree) 등의 식생이 산재하고 있는 식생 하천에서는, 흐름에 대한 저항이 제방과 윤변에 식생과 하상자료에 따라 유속의 변화를 초래한다.In general, a river (river, stram, river) means that water supplied to the surface through precipitation forms a constant water path and flows down an inclined surface. A certain waterway constituting a river is called a channel, a low valley formed by or flowing through a river is called a river valley, and the bottom part of a river made of rocks or soil is called a river bed. , riverbed). Resistance to flow in natural rivers where the river bed or embankment material is mainly composed of sand and gravel, or in vegetative rivers in which vegetation such as grass, shrubs, and trees are scattered in floodplains and embankments. This embankment and riverside cause changes in flow velocity according to vegetation and river bed data.

한편, 제방(堤防)이라 함은 물의 자연적(순리적) 유통을 막기 위한 인공적 시설을 의미하며, 그 내용은 저수(貯水)를 위한 제체(堤體)의 뜻과 방수(防水)를 위한 제체의 뜻이라는 두 가지 의미와 기능을 가지고 있다. 제방은 상기 2가지 의미와 기능 중 하천관리법(河川管理法)에 의한 일반적인 하천의 제방을 뜻하는 것으로, 우리나라에서는 우기(雨期)인 6∼8월에 폭우가 쏟아질 때 대소(大小) 하천이 범람하여 농경지를 유실 또는 매몰시키게 되는 수재를 막기 위하여 축조한 시설을 말하며, 저수지의 제체, 방조제의 제체, 대소 하천의 제체 등을 총칭한다.On the other hand, embankment means an artificial facility to block the natural (natural) flow of water, and its contents mean the meaning of a dam for storage and a dam for waterproofing. It has two meanings and functions. Among the above two meanings and functions, the embankment refers to the embankment of a general river according to the River Management Act. In Korea, large and small rivers are It refers to a facility built to prevent flood damage that causes farmland to be washed away or buried due to flooding.

이러한 제방은 보통 수위가 높은 상태에서 흐르는 강물이 스며들어 무너지거나 침식당하지 않도록 충분히 넓게 쌓아올리고, 도 1에 도시된 바와 같이 제방의 경사면과 둔덕 상부에는 잔디나 그 밖의 식물을 심어 홍수에 의한 침식을 방비한다. 지진 등 예측이 어려운 자연재해 발생에 대한 하천 유역의 안전성 확보 및 하천 유역을 이용하는 대중에게 하천 및 하천 유역의 상태를 지속적으로 안내하면서, 재난 발생이 예측되는 경우에는 이를 사용자 및 관리자에게 예보하여 신속히 대피할 수 있도록 하는 안전장치가 반드시 필요하다. 특히 지진으로 인한 하천의 제방 균열 발생은 제방 붕괴 등 2차 피해를 가져올 수 있으므로 이에 대한 모니터링 및 예보가 매우 중요하다. Such an embankment is usually built wide enough so that the river flowing at a high water level does not permeate and collapse or be eroded, and as shown in FIG. defend Securing the safety of river basins against unpredictable natural disasters such as earthquakes and continuously guiding the public on the condition of rivers and river basins to the public who use river basins, and promptly evacuating by warning users and managers when disasters are predicted A safety device is required to make this possible. In particular, since earthquake-induced cracks in river banks can cause secondary damage such as bank collapse, monitoring and forecasting are very important.

참고로, 국내에서는 2016년 9월 경주 및 2017년 11월 포항지역에서의 강진이 발생함에 따라 스마트한 지반 및 구조물 관리의 필요성이 매우 커지고 있다. 특히 구조물 관리의 고도화를 위해 첨단장비와 ICT 융복합 신기술을 활용한 조사와 모니터링이 강하게 요구되고 있다. 현재 전국에 있는 저수지의 95%인 1만6700 곳이 만들어진 지 30년 이상 됐으며, 이 중 50년 이상 된 저수지는 누수 위험이 높아지고 있다. 그러나 예산 부족 등으로 재해위험 저수지의 정비, 보수, 보강, 정밀안전진단 등의 실질적인 안전관리에 한계가 있는 것으로 나타났다. 특히, 경북지역의 경우 도내 50년 이상 노후 저수지가 479 곳이므로 지진 발생 후 2차 피해 가능성이 매우 높다. 또한 포항 지진 이후 진앙지 반경 50km 이내 재해취약 저수지 및 10만톤 이상 저수지 126개소를 대상으로 제방·배수시설·방수로의 전단균열, 누수여부와 취수시설 작동 상태 등을 집중분석하였으나 적은 인력으로 신속하게 육안조사를 실시하기 때문에 정확한 분석이 어려운 현실이다. For reference, in Korea, as strong earthquakes occurred in Gyeongju in September 2016 and Pohang in November 2017, the need for smart ground and structure management is growing. In particular, there is a strong demand for investigation and monitoring using advanced equipment and new ICT convergence technology for the advancement of structure management. Currently, 16,700 reservoirs, or 95% of all reservoirs in the country, have been created for more than 30 years, and among them, reservoirs older than 50 years are at increased risk of leakage. However, due to lack of budget, it was found that there are limitations in practical safety management such as maintenance, repair, reinforcement, and precise safety diagnosis of disaster risk reservoirs. In particular, in the case of Gyeongbuk, there are 479 reservoirs older than 50 years in the province, so the possibility of secondary damage after an earthquake is very high. In addition, after the Pohang earthquake, intensive analysis was conducted on 126 reservoirs vulnerable to disasters and reservoirs weighing 100,000 tons or more within a radius of 50 km from the epicenter, shear cracks in embankments, drainage facilities, and spillways, leaks, and operation of water intake facilities. It is a reality that accurate analysis is difficult because it is carried out.

제방을 포함한 하천에 대해서는 재난 이벤트 예컨대, 지진 또는 홍수 등이 발생하고 난 후, 축조 구조에 데미지(damage)가 발생하였는지를 관리자가 주기적으로 해당 제방을 방문하여 일일이 육안으로 체크하는 방식으로 관리되고 있다. 그러나 이러한 관리자의 육안 검사에는 한계가 있는 바, 최근에는 센서 또는/및 항공사진을 통해 원격적으로 제방을 모니터링하여 현재의 상태를 분석하려는 시도가 이루어지고 있다. 제방을 포함한 하천의 모니터링과 관련된 종래 기술로는 대한민국 등록특허 제10-1204426호, 대한민국 등록특허 제10-1881822호 등이 있다. Rivers including embankments are managed in such a way that after a disaster event, such as an earthquake or a flood, occurs, a manager periodically visits the corresponding embankment to visually check whether or not damage has occurred to the building structure. However, there is a limit to such a manager's visual inspection, and recently, an attempt has been made to analyze the current state by remotely monitoring the embankment through a sensor or/and aerial photograph. Prior art related to monitoring of rivers including embankments includes Korean Patent Registration No. 10-1204426 and Korean Patent Registration No. 10-1881822.

그런데 이러한 종래 기술의 경우, 계측수단(계측센서)을 치수시설물에 매설하여 치수시설물의 붕괴 시작 시 치수시설물의 기울기가 변화하는 것을 측정하는 방식을 이용하므로, 붕괴 시점이나 붕괴 발생 직전에 위험을 인지할 수밖에 없어서, 이에 대처하는데 충분한 필요시간을 확보하기 어렵다는 문제점이 있다. 또한, 계측수단을 치수시설물에 매설하게 되므로, 붕괴시 계측수단이 소실되거나 손상되어 계측수단의 반복적 사용이 불가능함에 따른 유지비용이 많이 소요되는 문제점이 있다.However, in the case of this prior art, since a measuring means (measurement sensor) is buried in the flood control facility and the method of measuring the change in the slope of the flood control facility when the collapse of the flood control facility starts, the danger is recognized at the time of collapse or just before the collapse occurs. There is a problem that it is difficult to secure enough necessary time to cope with this. In addition, since the measurement means is buried in the flood control facility, there is a problem in that maintenance costs are high due to the repeated use of the measurement means being impossible due to the loss or damage of the measurement means during collapse.

한편, 항공사진을 통해 제방을 포함한 저수지의 표면 재료(저수위)에 대한 정보를 수집하여 분석하는 방식의 종래 기술의 경우, 다각적이면 입체적인 정보 수집 및 이를 통한 분석이 이루어지지 않고 있으며, 그에 따라 제방을 포함한 저수지에 대한 정보 분석의 제약을 물론 정밀성 내지 정확성이 낮다는 문제점이 있다.On the other hand, in the case of the prior art of collecting and analyzing information on the surface material (low water level) of a reservoir including an embankment through aerial photographs, multi-dimensional and three-dimensional information collection and analysis through this are not performed, and accordingly, the embankment There is a problem of low precision or accuracy as well as limitations of information analysis on the reservoir including the reservoir.

대한민국 등록특허공보 제10-1204426호(2012년11월26일공고)Republic of Korea Patent Registration No. 10-1204426 (Announced on November 26, 2012) 대한민국 등록특허공보 제10-1881822호(2018년08월24일공고)Republic of Korea Patent Registration No. 10-1881822 (published on August 24, 2018)

본 발명은 상기와 같은 종래 기술의 문제점을 해결하고자 개발된 것으로서, 모니터링 대상 예컨대, 하천 또는 하천 유역에 대해 다종의 카메라를 이용하여 영상정보를 수집하고, 물리적 센싱을 통해 수위와 유속과 온도 및 습도를 포함한 환경정보를 수집하는 한편, 상공에서는 초분광 영상정보를 수집하여, 인공지능분석장치를 통해서 수집된 지형-영상정보, 환경정보 등을 분석하되 분석 정보를 축적하면서 지속적인 분석과 3차원 가상현실을 접목시키면서 정보를 분석하여, 제방 붕괴 내지 홍수를 포함한 재난 발생 여부를 실시간 모니터링하면서 예측하여, 이에 대한 직관적인 정보 및 위험 상황을 해당 하천 관리 주체 및 하천을 이용하는 대중에게 정보를 제공하고, 하천 내 부적절한 사람 내지 차량의 입수 및 표류 여부를 분석하여 긴급상황에 대처할 수 있게 되는 "인공지능을 이용한 하천 이용 안전관리시스템 및 안전관리방법"을 제공하는 것을 목적으로 한다. The present invention was developed to solve the problems of the prior art as described above, and collects image information using various types of cameras for monitoring objects, for example, rivers or river basins, and uses physical sensing to perform water level, flow rate, temperature, and humidity. On the other hand, collects environmental information, including hyperspectral image information, and analyzes the terrain-image information and environmental information collected through an artificial intelligence analysis device, while accumulating analysis information to provide continuous analysis and 3D virtual reality. By analyzing information while grafting, monitoring and predicting the occurrence of disasters including bank collapse or flooding in real time, providing intuitive information and risk situations to the relevant river management entity and the public using the river, and providing information within the river. Its purpose is to provide a "safety management system and safety management method for river use using artificial intelligence" that can respond to emergencies by analyzing inappropriate person or vehicle acquisition and drifting.

상기와 같은 목적 달성을 위하여 본 발명에서는, 모니터링 대상 즉, 제방을 포함한 하천의 상공에서 초분광 영상정보와 RGB 영상정보를 포함한 지형정보를 수집하는 한편, 해당 제방을 포함한 하천의 지상 내지 수상 다수 지점에서 실제 영상정보를 포함한 수위와 유속과 온도 및 습도를 포함한 환경정보를 실시간 수집하는 하천정보 수집장치(100); 상기 하천정보 수집장치(100)에서 수집하여 통신망을 통해 실시간 전송되는 정보 데이터를 분석하고 분석 정보를 축적하면서 지속적인 분석을 수행하여, 제방 붕괴 내지 홍수 발생을 포함한 재난 발생 여부 및 하천 내 부적절한 사람 내지 차량의 입수 및 표류 여부를 분석하는 한편, 분석된 정보가 접목된 지형을 포함한 영상정보와 환경정보를 3D가상공간영상으로 구현한 후 저장함과 동시에 원격관리장치(300)로 전송하는 인공지능 분석장치(200); 및 하천정보 수집장치(100)에서 전송되는 정보를 인공지능 분석장치(200)로 전송하여, 상기 인공지능분석장치(200)의 분석이 이루어지도록 하되, 분석 결과 하천에 대한 이상여부 및 이상변화 발생이 예측되는 경우, 사전에 예보서비스에 가입된 지역주민 개인통신단말기(400)로 상기 3D가상공간영상과 이상변화 경보를 전송 안내함과 동시에, 사전 예보서비스에 동의된 모니터링 대상지역에 일시 체류 또는 경유하는 타지인 개인통신단말기(500)로 3D가상공간영상과 이상변화 경보를 전송 안내하는 한편, 하천 내 부적절한 사람 내지 차량의 입수 및 표류로 판단되는 경우, 해당 위치와 인접한 출력장치를 통해 안내 방송을 송출하고, 119안전센터를 포함한 긴급구조대응부처의 긴급대응장치(600)로 영상정보와 함께 긴급상황을 전송하는 원격관리장치(300);를 포함하는 구성을 가지는 것을 특징으로 하는 인공지능을 이용한 하천 이용 안전관리시스템이 제공된다. In order to achieve the above object, in the present invention, topographic information including hyperspectral image information and RGB image information is collected in the sky above the monitoring target, that is, the river including the embankment, while multiple points on the ground or above the water including the corresponding embankment. A river information collection device 100 that collects environmental information including water level, flow rate, temperature, and humidity including actual image information in real time; By analyzing the information data collected by the river information collection device 100 and transmitted in real time through the communication network, and continuously analyzing while accumulating the analysis information, whether a disaster including a bank collapse or flood occurs and inappropriate people or vehicles in the river Artificial intelligence analysis device that analyzes the acquisition and drifting of , while implementing image information and environmental information, including the topography to which the analyzed information is grafted, as 3D virtual space images, storing them, and transmitting them to the remote management device 300 at the same time ( 200); And the information transmitted from the river information collection device 100 is transmitted to the artificial intelligence analysis device 200 so that the analysis of the artificial intelligence analysis device 200 is performed, but as a result of the analysis, whether or not there is an abnormality in the river and an abnormal change occurs If this is predicted, the 3D virtual space image and abnormal change alarm are transmitted and guided to the local residents' personal communication terminals 400 subscribed to the forecast service in advance, and temporary stay or 3D virtual space images and abnormal change alerts are transmitted and guided to the personal communication terminal (500) of other people passing through, while announcements are broadcast through an output device adjacent to the location when it is determined that an inappropriate person or vehicle is entering or drifting in the river artificial intelligence characterized by having a configuration comprising; A river use safety management system is provided.

또한 본 발명에서는 상기한 하천 이용 안전관리시스템을 통해서 하천을 안전하게 이용하도록 관리하는 방법 즉, 하천 이용 안전관리방법이 제공된다. In addition, in the present invention, a method for managing the safe use of a river through the above-described river use safety management system, that is, a river use safety management method is provided.

이러한 본 발명에서, 인공지능 분석장치(200)는, 하천정보 수집장치(100)에서 수집되는 정보 데이터가 원격관리장치(300)로부터 전송되어 오면, 재난의 발생 여부, 하천 내 부적절한 사람 내지 차량의 입수 또는 표류 여부, 그리고 재난의 발생 가능성을 실시간 분석하고, 분석된 데이터를 축적하면서 학습적 분석을 지속 수행하고 정보화하여 예측정보를 생성하는 정보분석 프로그램과, 지형-영상정보, 실제 영상정보, 환경정보 및 분석된 예측정보를 결합하여 3D가상공간 영상으로 구현하는 3D가상공간 프로그램을 포함하는 분석 및 3D영상화부(210); 및 상기 정보분석 프로그램 및 3D가상공간 프로그램에서 예측 생성된 정보 및 데이터를 저장함과 동시에 원격관리장치(300)로 전송하는 분석정보관리부(220);를 포함하는 구성을 가질 수 있다. In the present invention, when the information data collected by the river information collection device 100 is transmitted from the remote management device 300, the artificial intelligence analysis device 200 determines whether a disaster has occurred, the number of inappropriate people or vehicles in the river. An information analysis program that generates predictive information by continuously conducting and informatizing learning analysis while accumulating analyzed data, analyzing in real time whether it is ingested or drifting, and the possibility of disaster occurrence, and terrain-image information, actual image information, environment Analysis and 3D imaging unit 210 including a 3D virtual space program that implements a 3D virtual space image by combining information and analyzed prediction information; and an analysis information management unit 220 that stores information and data predicted and generated by the information analysis program and the 3D virtual space program and transmits them to the remote management device 300 at the same time.

또한 본 발명에서, 원격관리장치(300)는 인공지능 분석장치(200)의 분석 결과 이상유무 내지 이상변화 발생으로 판단된 경우, 3D가상공간영상과 이상변화 경보를 통신망을 통해 지역주민 개인통신단말기(400) 및 타지인 개인통신단말기(500)로 전송 안내하는 한편, 하천 내 부적절한 사람 내지 차량의 입수 및 표류로 판단되는 경우, 해당 위치와 인접한 출력장치를 통해 안내 방송을 송출하고, 119안전센터를 포함한 긴급구조대응부처의 긴급대응장치(600)로 영상정보와 함께 긴급상황을 전송하는 알고리즘 내지 프로그램이 탑재된 정보처리 및 예보관리부를 구비할 수도 있다. In addition, in the present invention, the remote management device 300 sends a 3D virtual space image and an abnormal change alarm to local residents' personal communication terminals through a communication network when it is determined that there is an abnormality or an abnormal change has occurred as a result of the analysis of the artificial intelligence analysis device 200. (400) and other personal communication terminals (500), while transmitting and guiding, if it is determined that an inappropriate person or vehicle is entering or drifting in the river, an announcement broadcast is sent out through an output device adjacent to the location, and 119 Safety Center An information processing and forecast management unit loaded with an algorithm or program for transmitting an emergency situation along with video information to the emergency response device 600 of the emergency response department including a may be provided.

본 발명에서 원격관리장치(300)는 원격적 관리장치로서, 하천정보 수집장치(100)를 구성하는 지형정보 및 영상정보 수집부(110)와 환경정보 수집부(120) 및 인공지능 분석장치(200)를 통신 접속시키는 운용통신부; 인공지능 분석장치(200)에서 전송되는 정보 및 최종 분석된 정보를 출력하는 모니터부; 인공지능 분석장치(200)에서 전송되는 정보 및 최종 분석된 정보를 저장하는 운용저장부; GPS정보를 기반으로 촬영영역에 대한 좌표값을 산출 저장하는 한편 지형정보 및 영상정보 수집부(110)로 전송하거나, 지형정보 및 영상정보 수집부(110)의 이동 및 동작을 원격 제어하고, 상기 영상정보와 환경정보와 분석된 예측정보 및 3D가상공간영상을 상기 모니터부로 출력하고 운용저장부에 저장하는 한편, 상기 운용통신부의 동작을 제어하는 운용제어부를 더 포함하는 구성을 가질 수 있다. In the present invention, the remote management device 300 is a remote management device, and includes the terrain information and image information collection unit 110, the environment information collection unit 120, and the artificial intelligence analysis device constituting the river information collection device 100 ( 200) an operation communication unit for communication connection; A monitor unit outputting the information transmitted from the artificial intelligence analysis device 200 and the final analyzed information; An operation storage unit for storing information transmitted from the artificial intelligence analysis device 200 and finally analyzed information; Based on the GPS information, the coordinate values for the shooting area are calculated and stored, while transmitted to the topographic information and image information collection unit 110, or remotely controlling the movement and operation of the topographic information and image information collection unit 110, Image information, environment information, analyzed prediction information, and 3D virtual space images may be output to the monitor unit and stored in the operation storage unit, while further comprising an operation control unit for controlling the operation of the operation communication unit.

본 발명에서 상기 정보처리 및 예보관리부는 지역주민 개인통신단말기(400)와 예보 서비스 이용을 위해 사전에 개인 정보 수집과 확인 및 승인 동작을 수행하여 예보가 이루어지도록 하는 지역 예보 서비스 프로그램; 및 타지인 개인통신단말기(500)가 통신망을 통해 지역 내에서 포착되면, 예보서비스 이용 여부를 확인 후 이용을 신청한 경우, 개인 정보 수집과 확인 및 승인 동작을 수행하여 예보가 이루어지도록 하는 타지인 예보 서비스 프로그램을 더 포함할 수도 있다. In the present invention, the information processing and forecast management unit performs a personal information collection, confirmation, and approval operation in advance for the local residents' personal communication terminal 400 and forecast service use to make a forecast, a local forecast service program; And if the personal communication terminal 500 of another person is captured in the region through the communication network, if the forecast service is used after checking whether or not to use it, the other person who collects personal information, checks, and performs approval operations so that the forecast is made A forecast service program may be further included.

상기와 같은 과제해결수단에 의한 본 발명은 모니터링 대상지역의 제방을 포함한 하천을 따라 간격을 두고 특정 지점에 초분광영상정보와 RGB영상정보를 수집하는 지형정보 및 영상정보 수집부와 수위와 유속과 온도 및 습도를 포함한 환경정보를 수집하는 환경정보 수집부를 설치하여, 모니터링 대상지역에 대해 다종의 카메라를 이용해 영상정보를 수집하고, 물리적 센싱을 통해 수위와 유속과 온도 및 습도를 포함한 환경정보를 수집하는 한편, 상공에서 초분광 영상정보를 수집하여 분석하고 3차원 가상현실을 접목시켜, 하천 상태에 대한 정보분석과 제방 붕괴 및 홍수 가능성을 예측하고, 이에 대한 직관적인 정보 및 긴급 내지 위험상황 여부를 해당 하천 관리주체의 원격관리장치가 모니터링 및 분석하여, 지역주민 개인통신단말기 또는/및 지역을 일시 경유 내지 체류하는 타지인 개인통신단말기로 정보를 제공함으로써, 제방을 포함한 하천에 대한 재난상황에 주변 민간인들이 신속히 대처할 수 있도록 하는 효과를 얻는다.The present invention by means of the above problem solving means collects hyperspectral image information and RGB image information at specific points at intervals along the river including the embankment of the monitoring target area, and the topographic information and image information collection unit and the water level and flow velocity By installing an environmental information collection unit that collects environmental information including temperature and humidity, image information is collected using various types of cameras for the area to be monitored, and environmental information including water level, flow rate, temperature and humidity is collected through physical sensing. On the other hand, hyperspectral image information is collected and analyzed from the sky, and 3D virtual reality is applied to analyze information on river conditions, predict levee collapse and flood possibility, and provide intuitive information and emergency or dangerous situations. The remote management device of the relevant river management entity monitors and analyzes, and provides information to local residents' personal communication terminals or/and other people's personal communication terminals temporarily passing through or staying in the area, in case of disasters on rivers including embankments. It has the effect of allowing civilians to react quickly.

또한, 본 발명은 제방을 포함한 하천 유역에 타지인이 일시적으로 체류 예컨대, 캠핑, 차를 이용한 숙박, 야영 등을 하고자하는 경우, 사전에 해당 제방을 포함한 하천을 관리하는 주체의 원격관리장치에 접속하여, 사전 예보서비스 이용 관련 사용과 개인정보 활용에 동의하고 본인 확인을 거쳐 서비스에 가입한 후, 실시간으로 해당 지역에 대한 환경 정보를 제공받음으로써, 일시 체류 또는 경유하는 타지인들도 해당 지역의 재난상황에 대해 신속히 대처할 수 있도록 하는 효과를 얻는다.In addition, in the present invention, when a stranger temporarily stays in a river basin including an embankment, for example, camping, accommodation using a car, camping, etc., accesses the remote management device of the subject who manages the river including the embankment in advance. Therefore, after agreeing to the use of the forecast service and the use of personal information, and signing up for the service after identity verification, by receiving environmental information about the area in real time, other people temporarily staying or passing through the area Get the effect of being able to respond quickly to disaster situations.

또한, 본 발명은 모니터링 대상지역에 대해 다종의 카메라를 이용해 영상정보를 수집하고, 물리적 센싱을 통해 수위와 유속과 온도 및 습도를 포함한 환경정보를 수집하는 한편, 상공에서 초분광 영상정보를 수집하여 분석하고 3차원 가상현실을 접목시켜, 하천 내 부적절한 사람 내지 차량의 입수 및 표류로 판단되는 경우, 해당 위치와 인접한 출력장치를 통해 안내 방송을 송출하고, 119안전센터를 포함한 긴급구조대응부처의 긴급대응장치로 영상정보와 함께 긴급상황을 전송하여, 긴급대응 및 구조가 이루어지도록 하는 효과를 얻는다.In addition, the present invention collects image information using various types of cameras for the monitoring target area, collects environmental information including water level, flow rate, temperature and humidity through physical sensing, and collects hyperspectral image information from the sky. Analysis and 3D virtual reality are applied, and when it is determined that an inappropriate person or vehicle is ingested or drifted in the river, an announcement is sent through an output device adjacent to the location, and emergency response departments including 119 Safety Center By transmitting an emergency situation along with video information to a response device, an effect of emergency response and rescue is obtained.

도 1은 제방의 예를 도시한 도면 대용 사진이다.
도 2는 본 발명의 구성을 간략히 도시한 개략적인 시스템 구성도이다.
도 3은 본 발명의 구성을 구체적으로 도시한 시스템 블록도이다.
도 4는 본 발명의 지형정보 및 영상정보 수집부와, 환경정보 수집부가 하천 주변의 지형정보, 분광영상 및 RGB영상 정보, 그리고 환경정보를 수집하는 예를 도시한 구성도이다.
도 5는 지형정보 및 영상정보 수집부의 초분광 영상분석 프로그램 구성에 대한 개략적인 블록도이다.
도 6은 본 발명에서 실제 영상을 촬영하여 이로부터 영상 및 지형자료를 추출하는 예를 보여주는 개략적인 구성도이다.
도 7은 인공지능 분석장치의 구성에 대한 개략적인 블록도이다.
도 8은 인공지능 분석장치의 분석 및 3D영상화부에 구비되는 정보분석 프로그램의 구성을 보여주는 개략적인 블록도이다.
도 9는 인공지능 분석장치의 분석 및 3D영상화부에 구비되는 3D가상공간 프로그램의 구성을 보여주는 개략적인 블록도이다.
도 10은 본 발명에 따른 하천 이용 안전관리시스템에 구비되는 원격관리장치의 구성을 보여주는 개략적인 블록도이다.
도 11은 3D가상공간을 구현할 영역을 설정하는 예를 보여주는 개략적인 예시도이다.
도 12는 3D가상공간을 구현한 이미지의 예를 도시한 가상도이다.
1 is a photograph in place of a drawing showing an example of an embankment.
2 is a schematic system configuration diagram briefly showing the configuration of the present invention.
3 is a system block diagram showing the configuration of the present invention in detail.
4 is a block diagram showing an example of collecting terrain information, spectroscopic image and RGB image information, and environment information around a river by the topographic information and image information collection unit and the environment information collection unit according to the present invention.
5 is a schematic block diagram of the configuration of a hyperspectral image analysis program of a geographic information and image information collection unit.
6 is a schematic configuration diagram showing an example of capturing an actual image and extracting an image and terrain data from it in the present invention.
7 is a schematic block diagram of the configuration of an artificial intelligence analysis device.
Figure 8 is a schematic block diagram showing the configuration of the information analysis program provided in the analysis and 3D imaging unit of the artificial intelligence analysis device.
9 is a schematic block diagram showing the configuration of a 3D virtual space program provided in the analysis and 3D imaging unit of the artificial intelligence analysis device.
10 is a schematic block diagram showing the configuration of a remote management device provided in the river use safety management system according to the present invention.
11 is a schematic illustration showing an example of setting an area to implement a 3D virtual space.
12 is a virtual view showing an example of an image implementing a 3D virtual space.

이하, 본 발명의 바람직한 실시예를 첨부한 도면을 참조하여 설명한다. 본 발명은 도면에 도시된 실시예를 참고로 설명되었으나 이는 하나의 실시예로서 설명되는 것이며, 이것에 의해 본 발명의 기술적 사상과 그 핵심 구성 및 작용이 제한되지 않는다. 참고로 청구범위를 포함한 본 명세서의 개시내용에서 동일 참조 부호는 동일 구성 요소를 지칭한다. 본 발명의 실시예들을 설명함에 있어서 공지 기능 또는 구성에 대한 구체적인 설명은 생략될 수 있다. 첨부된 블록도의 각 블록과 흐름도의 각 단계의 조합들은 컴퓨터 프로그램 인스트럭션들(실행 엔진)에 의해 수행될 수도 있으며, 이들 컴퓨터 프로그램 인스트럭션들은 범용 컴퓨터, 특수용 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서에 탑재될 수 있으므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서를 통해 수행되는 그 인스트럭션들이 블록도의 각 블록 또는 흐름도의 각 단계에서 설명된 기능들을 수행하는 수단을 생성하게 된다. 이들 컴퓨터 프로그램 인스트럭션들은 특정 방식으로 기능을 구현하기 위해 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 지향할 수 있는 컴퓨터 이용가능 또는 컴퓨터 판독 가능 메모리에 저장되는 것도 가능하므로, 그 컴퓨터 이용가능 또는 컴퓨터 판독 가능 메모리에 저장된 인스트럭션들은 블록도의 각 블록 또는 흐름도의 각 단계에서 설명된 기능을 수행하는 인스트럭션 수단을 내포하는 제조 품목을 생산하는 것도 가능하다. 그리고 컴퓨터 프로그램 인스트럭션들은 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에 탑재되는 것도 가능하므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에서 일련의 동작 단계들이 수행되어 컴퓨터로 실행되는 프로세스를 생성해서 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 수행하는 인스트럭션들은 블록도의 각 블록 및 흐름도의 각 단계에서 설명되는 기능들을 실행하기 위한 단계들을 제공하는 것도 가능하다. 또한, 각 블록 또는 각 단계는 특정된 논리적 기능들을 실행하기 위한 하나 이상의 실행 가능한 인스트럭션들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있으며, 몇 가지 대체 실시예들에서는 블록들 또는 단계들에서 언급된 기능들이 순서를 벗어나서 발생하는 것도 가능하다. 예를 들면, 잇달아 도시되어 있는 두 개의 블록들 또는 단계들은 사실 실질적으로 동시에 수행되는 것도 가능하며, 또한 그 블록들 또는 단계들이 필요에 따라 해당하는 기능의 역순으로 수행되는 것도 가능하다. 특히 본 명세서에서 사용되는 '…모듈', '…유닛', '…부', '…기', '…파트' 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어나 소프트웨어, 또는 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다.Hereinafter, preferred embodiments of the present invention will be described with reference to the accompanying drawings. The present invention has been described with reference to the embodiments shown in the drawings, but this is described as one embodiment, and thereby the technical idea of the present invention and its core configuration and operation are not limited. For reference, in the disclosure of this specification, including the claims, like reference numerals designate like elements. In describing the embodiments of the present invention, detailed descriptions of well-known functions or configurations may be omitted. Combinations of each block of the accompanying block diagram and each step of the flowchart may be performed by computer program instructions (execution engine), and these computer program instructions are executed by a processor of a general-purpose computer, special-purpose computer, or other programmable data processing equipment. Since it can be mounted, the instructions executed through the processor of a computer or other programmable data processing equipment create means for performing the functions described in each block of the block diagram or each step of the flowchart. These computer program instructions may also be stored in a computer usable or computer readable memory that can be directed to a computer or other programmable data processing equipment to implement functionality in a particular way, such that the computer usable or computer readable memory The instructions stored in are also capable of producing an article of manufacture containing instruction means for performing the functions described in each block of the block diagram or each step of the flow chart. And since the computer program instructions can also be loaded on a computer or other programmable data processing equipment, a series of operating steps are performed on the computer or other programmable data processing equipment to create a computer-executed process to create a computer or other programmable data processing equipment. It is also possible that the instructions performing the data processing equipment provide steps for executing the functions described in each block of the block diagram and each step of the flow chart. Additionally, each block or each step may represent a module, segment or portion of code that contains one or more executable instructions for executing specified logical functions, and in some alternative embodiments referred to in blocks or steps. It is also possible that the functions described may occur out of sequence. For example, two blocks or steps shown in succession may in fact be performed substantially concurrently, or the blocks or steps may be performed in the reverse order of their corresponding functions, if necessary. In particular, as used herein, '... module', '… unit', '… wealth', '… energy', '… A term such as 'part' refers to a unit that processes at least one function or operation, and may be implemented as hardware, software, or a combination of hardware and software.

아울러, 본 발명에 따른 인공지능을 이용한 하천 이용 안전관리시스템과 하천 이용 안전관리방법은 각각 "하천 이용 안전관리시스템" 및 "하천 이용 안전관리방법"이라고 약칭하며, 상황을 모니터링하려는 지역의 제방을 포함한 하천 및 하천 유역은 "모니터링 대상 하천 구역"이라고 약칭한다. In addition, the river use safety management system and river use safety management method using artificial intelligence according to the present invention are abbreviated as "river use safety management system" and "river use safety management method", respectively, and The streams and river basins included are abbreviated as “monitored stream zones”.

도 2에는 본 발명의 구성을 간략히 도시한 개략적인 시스템 구성도가 도시되어 있고, 도 3에는 본 발명의 구성을 구체적으로 도시한 시스템 블록도가 도시되어 있다. 본 발명에 따른 하천 이용 안전관리시스템은, 도 2 및 도 3에 도시된 바와 같이, 하천정보 수집장치(100), 인공지능 분석장치(200) 및 원격관리장치(300)를 포함하는 구성을 가진다. 2 is a schematic system configuration diagram briefly showing the configuration of the present invention, and FIG. 3 is a system block diagram showing the configuration of the present invention in detail. As shown in FIGS. 2 and 3, the river use safety management system according to the present invention has a configuration including a river information collection device 100, an artificial intelligence analysis device 200 and a remote management device 300. .

하천정보 수집장치(100)는, 모니터링 대상 하천 구역의 상공에서 초분광 영상정보와 RGB 영상정보를 포함한 "지형-영상정보"를 수집하고, 모니터링 대상 하천 구역의 다수 지점에서 "실제 영상정보" 및 하천의 수위, 유속, 온도 및 습도를 포함한 "환경정보"를 실시간으로 수집한다. The river information collection device 100 collects "topographic-image information" including hyperspectral image information and RGB image information from the sky above the river area to be monitored, and "actual image information" and "real image information" at multiple points in the river area to be monitored. It collects "environmental information" including water level, flow rate, temperature and humidity of the river in real time.

하천정보 수집장치(100)에서 수집된 정보 및 데이터는 통신망을 통해 실시간으로 인공지능 분석장치(200)로 전송되고, 인공지능 분석장치(200)에서는 전송되는 정보 및 데이터를 분석하고, 분석 정보를 축적하면서 지속적인 분석을 수행하여 제방 붕괴 내지 홍수 발생을 포함한 재난 발생 여부, 하천 내 부적절한 사람 내지 차량의 입수 또는 표류 여부 등을 분석하는 한편, 지형-영상정보, 실제 영상정보, 환경정보 및 분석된 예측정보를 통합하여 3D가상공간 영상으로 구현하여 저장함과 동시에 원격관리장치(300)로 전송하게 된다.The information and data collected by the river information collection device 100 are transmitted to the artificial intelligence analysis device 200 in real time through a communication network, and the artificial intelligence analysis device 200 analyzes the transmitted information and data and analyzes the information. Accumulation and continuous analysis are performed to analyze whether a disaster has occurred, including bank collapse or flooding, and whether inappropriate people or vehicles have entered or drifted in the river, while topographic-image information, actual image information, environmental information, and analyzed predictions The information is integrated, implemented as a 3D virtual space image, stored, and transmitted to the remote management device 300 at the same time.

원격관리장치(300)에서는 하천정보 수집장치(100)에서 전송되는 정보 및 데이터를 인공지능 분석장치(200)로 전송하게 된다. 또한 원격관리장치(300)에서는 인공지능 분석장치(200)의 분석 결과에 따라 모니터링 대상 하천 구역에서의 이상발생 여부 및 이상변화 발생이 예측되는 경우에는 사전에 예보서비스에 가입된 지역주민 개인통신단말기(400)와 타지인 개인통신단말기(500)로 3D가상공간영상과 이상변화 경보를 전송 안내하며 하천 내 부적절한 사람 내지 차량의 입수 또는 표류로 판단되는 경우에는 해당 위치와 인접한 출력장치를 통해 안내 방송을 송출하고, 긴급구조대응부처의 긴급대응장치(600)로 영상정보와 함께 긴급상황을 전송하게 된다. The remote management device 300 transmits information and data transmitted from the river information collection device 100 to the artificial intelligence analysis device 200. In addition, in the remote management device 300, according to the analysis result of the artificial intelligence analysis device 200, if an abnormality occurs in the river area to be monitored and an abnormal change is predicted, local residents' personal communication terminals subscribed to the forecast service in advance (400) and other personal communication terminals (500), 3D virtual space images and abnormal change alerts are transmitted and guided, and when it is determined that an inappropriate person or vehicle is entering or drifting in the river, announcements are broadcast through an output device adjacent to the location is transmitted, and the emergency situation is transmitted along with the image information to the emergency response device 600 of the emergency response department.

본 발명에 따른 하천 이용 안전관리방법에서는, 하천정보 수집장치(100)를 통해서 모니터링 대상 하천 구역에 대하여 초분광 영상정보와 RGB 영상정보를 포함한 지형-영상정보를 수집하며, 해당 제방을 포함한 하천의 지상 내지 수상 다수 지점에서 실제 영상정보, 및 수위, 유속, 온도 및 습도를 포함한 환경정보를 실시간으로 수집하게 되고, 인공지능 분석장치(200)를 통해서는 하천정보 수집장치(100)에서 수집되어 전송되는 정보 및 데이터에 기초하여 모니터링 대상 하천 구역에서의 제방 붕괴 내지 홍수 발생을 포함한 재난 발생 여부, 하천 내 부적절한 사람 내지 차량의 입수 또는 표류 여부 등을 분석하며, 지형-영상정보와 환경정보를, 분석되어 예측된 정보(예측정보)와 접목시켜서 3D가상공간영상으로 구현하고 저장하고 출력하며. 분석 결과에 따라 모니터링 대상 하천 구역에서 이상이 발생되거나 또는 이상변화의 발생이 예측되는 경우, 또는 하천 내 사람의 입수 또는 표류 등의 상황이 발행하는 경우에는 해당 위치와 인접한 출력장치를 통해 안내 방송을 송출하고, 긴급구조대응부처의 긴급대응장치(600)로 영상정보와 함께 긴급상황을 전송한다. In the river use safety management method according to the present invention, topography-image information including hyperspectral image information and RGB image information is collected for the river area to be monitored through the river information collection device 100, and the Real image information and environmental information including water level, flow rate, temperature and humidity are collected in real time from multiple points on the ground or on the water, and are collected and transmitted by the river information collection device 100 through the artificial intelligence analysis device 200. Based on the information and data to be monitored, analyze whether there is a disaster including bank collapse or flooding in the river area to be monitored, whether inappropriate people or vehicles are entering or drifting in the river, and analyze topographic-image information and environmental information. It is implemented, stored, and output as a 3D virtual space image by grafting it with predicted information (prediction information). According to the analysis results, if an abnormality occurs or an abnormal change is predicted in the river area to be monitored, or if a situation such as a person entering or drifting in the river occurs, an announcement is made through an output device adjacent to the location. and transmits the emergency situation along with the image information to the emergency response device 600 of the emergency response department.

구체적으로 하천정보 수집장치(100)는 모니터링 대상 하천 구역의 일정 높이 상공에서 고정되거나 또는 이동하면서 초분광 영상정보와 RGB 영상정보를 취득하여 지형-영상정보를 수집하는 지형정보 및 영상정보 수집부(110)와, 모니터링 대상 하천 구역에서 하천을 따라 가면서 다수 지점에 설치되어 모니터링 대상 하천 구역에 대한 실제 영상정보를 수집하고 물리적 센싱을 통해서 수위, 유속, 온도 및 습도를 포함한 환경정보를 수집하는 환경정보 수집부(120)를 포함하는 구성을 가진다. Specifically, the river information collection device 100 is a topographic information and image information collection unit ( 110), and environmental information that is installed at multiple points along the river in the river area to be monitored to collect actual image information about the river area to be monitored and collect environmental information including water level, flow rate, temperature and humidity through physical sensing It has a configuration including the collection unit 120.

도 4에는 본 발명에서 지형정보 및 영상정보수집부(110)와 환경정보 수집부(120)가 측정대상 하천 구역의 초분광 영상정보와 RGB영상정보를 포함하는 지형-영상정보와, 실제 영상정보, 그리고 환경정보를 수집하는 예를 보여주는 개략적인 구성도가 도시되어 있다. 4, in the present invention, the topographic information and image information collection unit 110 and the environment information collection unit 120 provide topography-image information including hyperspectral image information and RGB image information of the river area to be measured, and actual image information. , And a schematic configuration diagram showing an example of collecting environmental information is shown.

본 발명에 있어서, 지형정보 및 영상정보 수집부(110)에서는 모니터링 대상에 대하여 초분광 영상정보와 RGB 영상정보를 포함한 "지형-영상정보"를 수집하게 된다. 지형정보 및 영상정보 수집부(110)에는 초분광 영상정보 및 RGB 영상정보를 촬영하는 촬영장치가 구비되는데, 상기 촬영장치는 구체적으로 가시광선 영역과 근적외선 영역 파장대를 수백 개로 세분화하여 촬영하며 자외선과 적외선 영역의 분광정보 특성을 갖는 초분광센서(초분광 카메라) 및 RGB 영상을 촬영하는 DSLR 등과 같은 디지털 카메라를 포함하여 구성될 수 있다. In the present invention, the terrain information and image information collection unit 110 collects "terrain-image information" including hyperspectral image information and RGB image information for a monitoring target. The topographic information and image information collection unit 110 is provided with a photographing device for capturing hyperspectral image information and RGB image information. It may be configured to include a hyperspectral sensor (hyperspectral camera) having spectral information characteristics in the infrared region and a digital camera such as a DSLR for capturing RGB images.

지형정보 및 영상정보 수집부(110)에서 촬영장치는 모니터링 대상의 일정 높이 상공에서 고정되거나, 또는 드론 등의 비행체에 설치되어 모니터링 대상을 따라서 이동하면서 정보를 취득하게 된다. 여기서 상기 비행체는 관리자가 직접 비행상태를 조정하는 것일 수도 있지만, 관리자가 탑승하지 않는 무인비행체일 수도 있고 더 나아가 사전에 설정해둔 영역 내에서 자율적으로 비행하는 자율 무인비행체로 이루어질 수도 있다. 무인비행체의 경우는, 전원공급용 배터리, 비행구동부, 현 위치정보를 제공하는 GPS부, 분광 및 RGB 영상정보를 촬영하는 촬영수단, 상기 촬영된 영상정보를 저장하는 저장수단, 타장치와 통신 접속되어 신호 및 정보를 주고받을 수 있는 통신수단, 및 자동항법 프로그램을 통해 인공위성 또는 타장치로부터 전송되어오는 좌표에 따라 이동하도록 비행구동부의 구동을 제어하고 상기 초분광 영상정보 또는 RGB 영상정보를 수집하는 촬영수단의 동작을 제어하며 상기 초분광 영상정보 또는 RGB 영상정보와 분석정보를 저장부에 저장하는 한편, 타장치로 전송하도록 통신부의 동작을 제어하는 제어수단을 포함하는 구성을 가질 수 있다. In the topographic information and image information collection unit 110, the photographing device is fixed at a certain height of the monitoring target or installed on a flying vehicle such as a drone to acquire information while moving along the monitoring target. Here, the flight vehicle may be one for which a manager directly adjusts the flight status, but may also be an unmanned aerial vehicle without a manager or an autonomous unmanned aerial vehicle that autonomously flies within a pre-set area. In the case of an unmanned air vehicle, a battery for power supply, a flight drive unit, a GPS unit that provides current location information, a photographing means for photographing spectral and RGB image information, a storage means for storing the photographed image information, and communication connection with other devices Controls the driving of the flight drive unit to move according to the coordinates transmitted from the satellite or other devices through a communication means capable of exchanging signals and information, and an automatic navigation program, and collects the hyperspectral image information or RGB image information It may have a configuration including a control means for controlling the operation of the photographing means, storing the hyperspectral image information or RGB image information and analysis information in the storage unit, and controlling the operation of the communication unit to transmit them to other devices.

본 발명에서 지형정보 및 영상정보 수집부(110)는 고유한 <초분광 영상분석 프로그램(알고리즘)>이 탑재되어 이에 의해 작동될 수 있다. 도 5에는 지형정보 및 영상정보 수집부의 <초분광 영상분석 프로그램> 구성에 대한 개략적인 블록도가 도시되어 있다. 도 5에 예시된 것처럼, 지형정보 및 영상정보 수집부(110)의 <초분광 영상분석 프로그램>은, 촬영영역의 관측좌표 정확성을 위해 설정되는 지상기준점을 측량하는 지상기준점 측량모듈, 촬영된 초분광 영상 또는 RGB 영상을 촬영영역의 좌표 정확성을 위한 지상기준점에 따른 영상정합 처리를 수행하는 데이터처리모듈, 상기 데이터처리모듈에서 처리된 데이터를 분석하여 지도에 맵핑시키는 데이터분석 및 맵핑모듈, 상기 촬영영역을 종 방향과 횡 방향뿐만 아니라 깊이별로 상태 프로파일링이 가능하도록 촬영영역의 지형과 수위와 유속과 온도 및 습도를 지도화하는 지도작성모듈, 및 상기 데이터분석 및 맵핑모듈에서 맵핑되는 촬영영역의 이상 및 변화 발생에 따른 이벤트 발생신호를 출력하여 RGB 영상의 촬영이 이루어지게 하는 이벤트출력모듈을 포함하는 구성을 가질 수 있다. In the present invention, the geographic information and image information collection unit 110 can be operated by being equipped with a unique <hyperspectral image analysis program (algorithm)>. 5 is a schematic block diagram of the configuration of the <hyperspectral image analysis program> of the topographic information and image information collection unit. As illustrated in FIG. 5, the <hyperspectral image analysis program> of the topographic information and image information collection unit 110 includes a ground control point measurement module for measuring ground control points set for accuracy of observation coordinates in the shooting area, and a captured second. A data processing module that performs image matching processing on a spectral image or RGB image according to a ground control point for coordinate accuracy of the shooting area, a data analysis and mapping module that analyzes the data processed by the data processing module and maps it to a map, and the photographing A mapping module that maps the topography, water level, flow rate, temperature and humidity of the shooting area so that condition profiling by depth as well as longitudinal and lateral directions of the area is possible, and the data analysis and mapping of the area mapped by the mapping module It may have a configuration including an event output module that outputs an event generation signal according to the occurrence of an abnormality or change so that an RGB image is captured.

지형정보 및 영상정보 수집부(110)로서 이용되는 초분광센서는 근적외선(NIR) 영상센서 또는 다중분광 영상센서(Optical Multispectral Sensor) 또는 초분광 영상센서(Hyperspectral Sensor)인 것이 바람직한데, 촬영영역의 상공에서 근적외선(NIR) 영상센서는 600㎚~900㎚ 파장대 또는 Red 파장대와 NIR 파장대의 분광반사도, 다중분광 영상센서는 400㎚~500㎚ 파장대 및 600㎚~700㎚ 파장대 또는 Blue 및 Red 파장대, 그리고 초분광 영상센서는 400㎚~600㎚ 및 650㎚~750㎚ 파장대의 분광반사도를 측정하도록 분광 영상을 촬영하는 것이 바람직하다. 참고로 초분광 영상센서는 촬영영역의 상공, 예를 들면, 200m의 고도를 비행하는 무인비행체에 설치된 디지털 카메라는 RGB 영상을 촬영하고, 근적외선(NIR) 영상센서는 600㎚~900㎚ 파장대 또는 Red 파장대와 NIR 파장대의 분광반사도, 상기 다중분광 영상센서는 400㎚~500㎚ 파장대 및 600㎚~700㎚ 파장대 또는 Blue 및 Red 파장대, 상기 초분광 영상센서는 400㎚~600㎚ 및 650㎚~750㎚ 파장대의 분광반사도를 측정하도록 분광 영상을 촬영하면서 일반 RGB영상을 촬영하여 지형 측량을 통해 3D가상공간 정보를 수집한다. 초분광 영상에서는, 최대 1,000개 정도의 좁은 스펙트럼 밴드로 촬영할 수 있으므로, 물체의 반사특성을 그대로 기록하여 지형 및 지물을 구분할 수 있으며, 예를 들면 100여 개가 넘는 파장구간에서 촬영영역으로부터 반사 또는 방출되는 복사에너지를 감지한다.The hyperspectral sensor used as the topographic information and image information collection unit 110 is preferably a near-infrared (NIR) image sensor, an optical multispectral sensor, or a hyperspectral image sensor. In the sky, near-infrared (NIR) image sensors have spectral reflectivity in the 600nm-900nm wavelength range or red wavelength range and NIR wavelength range, multispectral image sensors in the 400nm-500nm wavelength range and 600nm-700nm wavelength range or blue and red wavelength ranges, and The hyperspectral image sensor preferably takes a spectroscopic image to measure spectral reflectance in a wavelength range of 400 nm to 600 nm and 650 nm to 750 nm. For reference, the hyperspectral image sensor is a digital camera installed in an unmanned aerial vehicle flying at an altitude of 200 m above the shooting area, for example, captures RGB images, and a near-infrared (NIR) image sensor captures a wavelength range of 600 nm to 900 nm or Red Spectral reflectance of the wavelength band and the NIR wavelength band, the multispectral image sensor has a 400nm to 500nm wavelength band and a 600nm to 700nm wavelength band or a blue and red wavelength band, and the hyperspectral image sensor has a 400nm to 600nm and 650nm to 750nm wavelength band While taking a spectroscopic image to measure the spectral reflectance of the wavelength band, a general RGB image is taken and 3D virtual space information is collected through topographical survey. In hyperspectral imaging, since up to 1,000 narrow spectral bands can be captured, the reflection characteristics of an object can be recorded as it is to distinguish terrain and features. detect radiant energy.

모든 이미징 시스템에는 필터와 센서 구성에 따라 측정되는 파장대가 존재한다. 한 종류 파장대만이 이용되는 경우는 panchromatic이라 부르며, 일반적으로 많이 사용되는 RGB 영상의 경우 센서에서 R,G,B 세 파장대를 감응하는 일종의 다분광 이미징(multispectral imaging)이라고 할 수 있다. 사람의 눈에 인식되는 것이 RGB이기 때문에 RGB 영상을 많이 이용하는 것일 뿐 실제로는 다양한 방식의 구성이 가능하다. 이때, 초분광 이미징(hyperspectral imaging)은 일반적 분광기에서 이용되는 정도의 많은 정도의 파장 수에 공간적 이미징이 더해진 것이다. 픽셀마다 스펙트로미터로 촬영한 듯한 스펙트럼이 존재하는 것이다. 촬영되는 파장이 십~수백개, relative spectral resolution이 0.01 정도인 경우, hyperspectral이라고 하는데, relative spectral resolution은 absolute spectral resolution/length of the spectrum이라고 한다. 분광분해능을 촬영되는 전체 파장범위로 나눈 값을 말한다. 일반적 RGB 영상이 Red, Blue, Green의 세 영상이 쌓여 있는 큐브 형태인 것처럼, 초분광 영상의 경우 촬영되는 각 파장 영상이 쌓여 있는 형태의 데이터 큐브가 형성된다. 분광 영상의 촬영 방식은 여러 가지가 존재하며, 이에 따라 측정 장치들의 분류가 나뉜다. 일반적인 RGB 영상과 같이 센서에 파장에 따른 필터들을 달아서 촬영하는 다분광장치들의 경우, 스냅샷으로 한 번에 영상이 촬영되며 센서의 필터 구성이 어떻게 되어 있느냐에 따라 얻어지는 데이터가 달라진다. 라인스캔을 하는 Pushbroom이나 포인트스캔인 Whisk-broom 방식에 비해 스냅샷 방식의 촬영이므로 훨씬 간단하고 모든 데이터가 동시에 촬영된다는 장점이 있지만, 센서와 필터 구성을 무한정으로 늘릴 수도 없기 때문에 파장대의 개수가 다른 방식에 비해 적다.Every imaging system has a measured wavelength range depending on the filter and sensor configuration. When only one type of wavelength band is used, it is called panchromatic, and in the case of a commonly used RGB image, it can be said to be a kind of multispectral imaging in which the sensor responds to three wavelength bands, R, G, and B. Since RGB is recognized by the human eye, RGB images are used a lot, but in reality, various types of configurations are possible. At this time, hyperspectral imaging is obtained by adding spatial imaging to a number of wavelengths as high as those used in general spectrometers. Each pixel has a spectrum as if taken with a spectrometer. When the wavelengths to be photographed are tens to hundreds and the relative spectral resolution is about 0.01, it is called hyperspectral, and the relative spectral resolution is called absolute spectral resolution/length of the spectrum. It is the value obtained by dividing the spectral resolution by the total wavelength range being photographed. Just as a general RGB image is in the form of a cube in which three images of red, blue, and green are stacked, in the case of hyperspectral image, a data cube in the form of stacking images of each wavelength to be captured is formed. There are several methods for capturing spectroscopic images, and measurement devices are classified accordingly. In the case of multi-spectral devices that take pictures by attaching filters according to wavelengths to the sensor like a general RGB image, the image is taken at once as a snapshot, and the data obtained varies depending on how the filter of the sensor is configured. Compared to the Pushbroom method that performs line scan or the Whisk-broom method that is point scan, it is much simpler as it is a snapshot method and has the advantage that all data are captured at the same time. less than the method.

한편, 스캐닝 방식의 경우 이름 그대로 스캐닝을 하기 때문에 동시 촬영이 되지 않는다. 따라서 장치가 흔들리거나 피사체가 움직이면 안 된다. Pushbroom은 흔히 말하는 라인스캐닝 방식으로 가장 흔히 이용되는 초분광영상 촬영 방법이다. 한 번 촬영 시에 슬릿으로 선 방향의 빛이 들어와서 그 빛이 분광기를 거쳐 각 파장대 별로 퍼져 면이 되어 2D 디텍터에 검출된다. 공간 방향과 스펙트럼 방향의 2d 영상이 촬영된다. 그리고 카메라, 혹은 물체가 y방향으로 움직이면서 라인스캐닝을 하여 전체 3D 큐브를 구성한다. On the other hand, in the case of the scanning method, as the name suggests, scanning is performed, so simultaneous shooting is not possible. Therefore, the device should not shake or the subject should not move. Pushbroom is the so-called line scanning method and is the most commonly used hyperspectral imaging method. At the time of one shot, light in a linear direction enters through the slit, and the light passes through a spectrometer and spreads for each wavelength band, becoming a plane and detected by a 2D detector. 2d images in the spatial and spectral directions are taken. Then, while the camera or object moves in the y direction, line scanning is performed to construct the entire 3D cube.

도 6에는 본 발명에서 실제 영상을 촬영하여 이로부터 영상 및 지형자료를 추출하는 예를 보여주는 개략적인 구성도가 도시되어 있다. 본 발명에는 환경정보 수집부(120)가 구비되어 있는데, 환경정보 수집부(120)에서는, 모니터링 대상지역에서 하천을 따라 다수 지점에 설치된 다종의 카메라를 이용하여 "실제 영상정보"를 수집하고, 물리적 센싱에 의해 하천의 수위와 유속, 그리고 하천 유역의 온도와 습도 등을 포함한 "환경정보"를 수집하게 된다. 이를 위하여 환경정보 수집부(120)는 제방을 포함한 하천을 따라 지상에 설치되어 동영상 및 정지영상을 촬영하여 실제 영상을 취득하는 다수의 CCTV모듈, 하천의 수상에 설치되어 수위를 계측하는 수위센서, 제방을 포함한 하천을 따라 지상과 수상에 설치되어 육지와 수중 온도를 측정하는 온도센서, 제방을 포함한 하천을 따라 지상에 설치되어 하천 주변의 습도를 측정하는 습도센서, 상기 계측 내지 측정된 정보들을 시간대별로 저장 관리하는 데이터로거, 및 상기 계측 내지 측정된 정보들을 유,무선으로 수집 전송하는 통신경로를 제공하는 네트워크 센서를 포함하는 구성을 가질 수 있다. 6 is a schematic configuration diagram showing an example of capturing an actual image and extracting an image and terrain data from it in the present invention. The present invention includes an environmental information collection unit 120, which collects "actual image information" using various types of cameras installed at multiple points along the river in the monitoring target area, By physical sensing, "environmental information" including the water level and velocity of the river, and the temperature and humidity of the river basin is collected. To this end, the environmental information collection unit 120 is installed on the ground along the river, including the embankment, and captures video and still images to acquire actual images, a plurality of CCTV modules, a water level sensor installed on the water surface of the river to measure the water level, A temperature sensor installed on the ground and on the water along the river including the embankment to measure land and water temperature, a humidity sensor installed on the ground along the river including the embankment to measure the humidity around the river, and the measured or measured information over time It may have a configuration including a data logger that stores and manages each data logger, and a network sensor that provides a communication path for collecting and transmitting the measured or measured information by wire or wirelessly.

본 발명에 따른 하천 이용 안전관리시스템에 있어서, 하천정보 수집장치(100)에서 수집된 정보 및 데이터는 통신망을 통해 실시간으로 인공지능 분석장치(200)로 전송되고, 인공지능 분석장치(200)에서는 전송되는 정보 및 데이터를 분석하고 분석 정보를 축적하면서 지속적인 분석을 수행하여 제방 붕괴 내지 홍수 발생을 포함한 재난 발생 여부, 하천 내 부적절한 사람 내지 차량의 입수 또는 표류 여부 등을 분석하는 한편, 분석된 예측정보가 접목된 "지형-영상정보와 환경정보"를 3D가상공간 영상으로 구현한 후 저장함과 동시에 원격관리장치(300)로 전송하게 된다. In the river use safety management system according to the present invention, the information and data collected by the river information collection device 100 are transmitted to the artificial intelligence analysis device 200 in real time through a communication network, and the artificial intelligence analysis device 200 Analyzing transmitted information and data, accumulating analysis information, and performing continuous analysis to analyze whether a disaster including levee collapse or flood occurred, whether an inappropriate person or vehicle entered or drifted in a river, etc., while analyzed forecast information The grafted “topography-image information and environment information” is implemented as a 3D virtual space image, stored and transmitted to the remote management device 300 at the same time.

도 7에는 인공지능 분석장치(200)의 구성에 대한 개략적인 블록도가 도시되어 있다. 도 7에 예시된 것처럼 본 발명에서 인공지능 분석장치(200)는, 분석 및 3D영상화부(210) 및 분석정보관리부(220)를 포함하여 구성될 수 있다. 분석 및 3D영상화부(210)는, 하천정보 수집장치(100)에서 수집되는 정보 데이터가 원격관리장치(300)를 통해서 전송되어오면 제방 붕괴 내지 홍수 등을 포함한 재난의 발생 여부, 하천 내 부적절한 사람 내지 차량의 입수 또는 표류 여부, 그리고 재난의 발생 가능성을 실시간 분석하되, 분석된 데이터를 축적하면서 학습적 분석을 지속 수행하고 정보화하여 예측정보를 생성하는 <정보분석 프로그램(알고리즘)>을 구비하고 있다. 또한 분석 및 3D영상화부(210)는, 지형-영상정보, 실제 영상정보, 환경정보 및 분석된 예측정보를 결합하여 3D가상공간 영상으로 구현하는 <3D가상공간 프로그램(알고리즘)>을 구비하고 있다. 7 is a schematic block diagram of the configuration of the artificial intelligence analysis device 200 is shown. As illustrated in FIG. 7 , the artificial intelligence analysis device 200 in the present invention may include an analysis and 3D imaging unit 210 and an analysis information management unit 220 . The analysis and 3D imaging unit 210, when the information data collected by the river information collection device 100 is transmitted through the remote management device 300, whether a disaster including an embankment collapse or a flood has occurred, and an inappropriate person in the river It is equipped with an <information analysis program (algorithm)> that analyzes in real time whether a vehicle has been acquired or drifted, and the possibility of a disaster, while accumulating the analyzed data, continuously performing learning analysis, and generating predictive information by informatizing it. . In addition, the analysis and 3D imaging unit 210 is equipped with a <3D virtual space program (algorithm)> that implements a 3D virtual space image by combining terrain-image information, actual image information, environment information, and analyzed prediction information. .

인공지능 분석장치(200)의 분석정보관리부(220)는, 상기 분석 및 3D영상화부(210)의 <정보분석 프로그램> 및 <3D가상공간 프로그램>에서 예측 생성된 데이터를 저장함과 동시에 원격관리장치(300)로 전송하는 기능을 수행한다. The analysis information management unit 220 of the artificial intelligence analysis device 200 stores data predicted and generated by <information analysis program> and <3D virtual space program> of the analysis and 3D imaging unit 210, and at the same time, the remote management device It performs a function of transmitting to (300).

도 8에는 인공지능 분석장치(200)의 분석 및 3D영상화부(210)에 구비되는 <정보분석 프로그램>의 구성을 보여주는 개략적인 블록도가 도시되어 있다. 도 8에 예시된 것처럼 분석 및 3D영상화부(210)에 구비되는 <정보분석 프로그램>은, 지형정보 및 영상정보 수집부(110)에서 전송되는 초분광 영상정보 또는 RGB 영상정보와 분석정보를 취합하여 영상 및 문자로 변환시켜 모니터부로 출력하고 저장하는 데이터통합모듈, 상기 데이터통합모듈에 의해 만들어진 통합된 분석데이터와, 촬영영역의 지형, 수위 및 유속과 온도, 그리고 습도를 최종분석하여 촬영영역 내에서 제방 붕괴 내지 홍수 등을 포함한 재난이 발생하였는지의 여부 및 하천 내에 부적절한 사람 내지 차량이 입수하거나 또는 표류하고 있는지의 여부를 판단하고 재난이 발생할 가능성이 있는지를 예측하여, 이를 모니터부로 출력하고 저장하는 변화발생분석모듈, 및 사전에 설정된 형식에 따라 최종 분석정보를 입력하여 촬영영역에 대한 환경평가자료로 가공하여 제공하는 환경평가모듈을 포함하는 구성을 가질 수 있다. 8 is a schematic block diagram showing the configuration of <information analysis program> provided in the analysis and 3D imaging unit 210 of the artificial intelligence analysis device 200 is shown. As illustrated in FIG. 8, the <information analysis program> provided in the analysis and 3D imaging unit 210 collects hyperspectral image information or RGB image information and analysis information transmitted from the topographic information and image information collection unit 110. A data integration module that converts images and text into images and text, outputs and stores them to the monitor unit, and finally analyzes the integrated analysis data created by the data integration module, the topography, water level, flow rate, temperature, and humidity of the shooting area. Determines whether a disaster including a bank collapse or flood has occurred and whether an inappropriate person or vehicle is entering or drifting in the river, predicts whether a disaster is likely to occur, outputs it to the monitor unit and stores it It may have a configuration including a change occurrence analysis module and an environment evaluation module that inputs final analysis information according to a format set in advance, processes it into environmental evaluation data for the shooting area, and provides it.

한편, 분석 및 3D영상화부(210)의 <3D가상공간 프로그램>은 지형-영상정보, 실제 영상정보 및 환경정보, 그리고 분석된 예측정보를 3D가상공간영상으로 구현하게 된다. 도 9에는 분석 및 3D영상화부(210)에 구비되는 <3D가상공간 프로그램>의 구성을 보여주는 개략적인 블록도가 도시되어 있다. 도 9에 예시된 것처럼 <3D가상공간 프로그램>은, 가상공간정보관리파트와 영상컨트롤파트를 포함하여 구성된다. <3D가상공간 프로그램>의 가상공간정보관리파트는 수집정보DB모듈, 이미지수집모듈, 영상정합처리모듈, 및 모니터링모듈을 포함하여 구성된다. 수집정보DB모듈에는, 지형정보 및 영상정보 수집부(110)으로부터의 지형-영상정보와, 환경정보 수집부(120)로부터의 실제 영상정보, 기준이미지와 영상이미지, 그리고 SIFT 디스크립터(Descriptor) 데이터가 저장된다. 즉, 수집정보DB모듈에는 지형정보 및 영상정보 수집부(110)의 지형-영상정보와, 환경정보 수집부(120)의 기준이미지와 영상이미지와, SIFT 디스크립터(Descriptor) 데이터가 저장되는 것이다. 이미지수집모듈은, 지형정보 및 영상정보 수집부(110)와 환경정보 수집부(120)의 카메라 위치별 촬영각에 따른 공간의 기준이미지를 수집하고, 실내공간의 재촬영으로 수집한 영상이미지의 촬영지점을 기준이미지에 맞춰 세팅하여 수집정보DB모듈에 저장한다. 영상정합처리모듈은, 상기 영상이미지를 분석하고 SIFT 알고리즘에 따라 영상이미지 내에 구간별로 SIFT 디스크립터 데이터를 설정해서 수집정보DB모듈에 저장하며, 서로 이웃하는 영상이미지의 교차구간을 상기 SIFT 디스크립터 데이터를 기초로 매칭해서 가상공간 이미지를 생성하고 수집정보DB모듈에 저장한다. 모니터링모듈은, 영상정합처리모듈의 프로세싱 상황을 모니터링하는 기능을 수행한다. Meanwhile, <3D virtual space program> of the analysis and 3D imaging unit 210 implements terrain-image information, actual image information and environment information, and analyzed prediction information as 3D virtual space images. 9 is a schematic block diagram showing the configuration of <3D virtual space program> provided in the analysis and 3D imaging unit 210 . As illustrated in FIG. 9, the <3D virtual space program> includes a virtual space information management part and an image control part. The virtual space information management part of <3D virtual space program> is composed of a collection information DB module, an image collection module, an image matching processing module, and a monitoring module. In the collection information DB module, terrain-image information from the terrain information and image information collection unit 110, actual image information from the environment information collection unit 120, reference images and video images, and SIFT descriptor data is stored That is, the collection information DB module stores topographic-image information of the topographic information and image information collection unit 110, reference image and video image of the environment information collection unit 120, and SIFT descriptor data. The image collection module collects reference images of the space according to the shooting angles for each camera position of the topographic information and image information collection unit 110 and the environment information collection unit 120, The shooting point is set according to the reference image and stored in the collection information DB module. The image matching processing module analyzes the video image, sets SIFT descriptor data for each section in the video image according to the SIFT algorithm, stores it in the collection information DB module, and cross section of adjacent video images based on the SIFT descriptor data By matching with , a virtual space image is created and stored in the collection information DB module. The monitoring module performs a function of monitoring the processing status of the image matching processing module.

<3D가상공간 프로그램>의 영상컨트롤파트는, 수집정보DB모듈을 검색해서 필요 정보를 검색하는 검색모듈과, 상기 이미지수집모듈, 영상정합처리모듈 및 모니터링모듈의 실행을 제어하는 데이터처리모듈과, 상기 데이터처리모듈의 제어상황 출력과 제어정보 입력을 위한 대시보드를 실행하는 공간영상 편집모듈을 포함하는 구성을 가진다. The image control part of the <3D virtual space program> includes a search module for searching the collection information DB module for necessary information, a data processing module for controlling the execution of the image collection module, image matching processing module, and monitoring module; It has a configuration including a spatial image editing module that executes a dashboard for outputting the control status of the data processing module and inputting control information.

본 발명에서 분석 및 3D영상화부(210)의 <3D가상공간 프로그램>에는, 가상공간정보관리파트와 영상컨트롤파트에 더하여, 촬영된 초분광영상 또는 RGB영상 정보에 포함된 GPS 위치 정보와 INS 정보로부터 촬영지점을 역으로 계산한 후 광속조정법에 의해 영상을 접합하여 해당 영역만을 별도로 추출하여 Masking 파일을 생성하여 정사영상을 구축하는 정사영상 구축파트가 더 구비될 수도 있다. 더 나아가 <3D가상공간 프로그램>에는, 상기 촬영된 영상 정보를 밴드별로 각각 저장하되, B1(Red), B2(Green), B3(Blue), B4(Nir, 근적외선), B5(다중분광, Optical Multispectral), B6(Hyperspectral, 초분광) 밴드에 대하여 밴드조합식에 의해 계산하면서 사람과 차량을 포함한 각 군집 별 대표 픽셀을 선정하고, 근적외선과 초분광 밴드에서 각기 다른 반사도값과 크기(반사면적)를 나타내는 픽셀을 중심으로 소정 크기의 윈도우에 포함되는 픽셀(들)을 대표 픽셀로 선정하며, 각 밴드에서 2개의 밴드 별 각 재질의 반사도값과 크기를 조합하고, 조합된 2개의 밴드 별 반사도값과 크기들을 모두 조합하여 1개의 학습모델을 생성하고, 상기 학습모델을 기초로 목표지점에서의 사람 또는 차량의 존재 여부를 픽셀 별로 산출 판단하는 <하천 내 사물인지 프로그램(알고리즘)>이 더 탑재되는 것도 바람직하다.In the present invention, in the <3D virtual space program> of the analysis and 3D imaging unit 210, in addition to the virtual space information management part and the image control part, GPS location information and INS information included in the captured hyperspectral image or RGB image information An orthoimage construction part may be further provided to construct an orthoimage by generating a masking file by separately extracting only the corresponding region by combining the images by the luminous flux adjustment method after calculating the shooting point inversely from . Furthermore, in the <3D virtual space program>, the captured image information is stored for each band, B1 (Red), B2 (Green), B3 (Blue), B4 (Nir, near infrared), B5 (multispectral, optical Multispectral), B6 (Hyperspectral, Hyperspectral) bands are calculated by the band combination formula, selecting representative pixels for each cluster, including people and vehicles, and different reflectance values and sizes (reflection area) in the near-infrared and hyperspectral bands The pixel (s) included in a window of a predetermined size is selected as a representative pixel centering on the pixel representing A <river object recognition program (algorithm)> is further installed to generate one learning model by combining both and sizes, and to calculate and determine for each pixel the presence or absence of a person or vehicle at a target point based on the learning model. is also desirable

도 10에는 본 발명에 따른 하천 이용 안전관리시스템에 구비되는 원격관리장치(300)의 구성을 보여주는 개략적인 블록도가 도시되어 있다. 도 10에 예시된 것처럼 원격관리장치(300)에는 "정보처리 및 예보관리부"가 구비되어 있다. 상기 정보처리 및 예보관리부"에는, 인공지능분석장치(200)의 분석 결과에 따라 이상유무 내지 이상변화 발생으로 판단된 경우에 3D가상공간영상과 이상변화 경보를 통신망을 통해 지역주민의 개인통신단말기(400) 및 타지인(他地人) 개인통신단말기(500)로 전송 안내하는 한편, 하천 내 부적절한 사람 내지 차량의 입수 또는 표류와 같은 긴급상황으로 판단되는 경우에는 해당 위치와 인접한 출력장치를 통해 안내 방송을 송출하고 119안전센터를 포함한 긴급재난대응부처의 긴급대응장치(600)로 긴급상황을 보여주는 영상정보와 함께 긴급상태임을 전송하는 알고리즘 내지 프로그램이 탑재된다. 10 is a schematic block diagram showing the configuration of the remote management device 300 provided in the river use safety management system according to the present invention. As illustrated in FIG. 10 , the remote management device 300 includes an “information processing and forecast management unit”. In the "information processing and forecast management unit", if it is determined that there is an abnormality or an abnormal change occurs according to the analysis result of the artificial intelligence analysis device 200, a 3D virtual space image and an abnormal change alarm are sent to the personal communication terminal of the local resident through a communication network (400) and other people's personal communication terminal (500), while transmitting and guiding, in the case of an emergency such as inappropriate person or vehicle entering or drifting in the river, through an output device adjacent to the location. An algorithm or program that transmits an announcement and transmits an emergency along with video information showing an emergency situation to the emergency response device 600 of the emergency response department including the 119 safety center is loaded.

구체적으로 상기 "정보처리 및 예보관리부"에는 지역주민 개인통신단말기(400)와 관련하여 예보서비스 이용을 위해 사전에 개인 정보 수집과 확인 및 승인 동작을 수행하여 예보가 이루어지도록 하는 <지역 예보 서비스 프로그램(알고리즘)>이 탑재될 수 있으며, 더 나아가 타지인 개인통신단말기(500)가 통신망을 통해 지역 내에서 포착되면 예보 서비스 이용 여부를 확인 후 이용을 신청한 경우에 개인 정보 수집과 확인 및 승인 동작을 수행하여 예보가 이루어지도록 하는 <타지인 예보 서비스 프로그램(알고리즘)>이 상기 "정보처리 및 예보관리부"에 추가적으로 탑재될 수 있다. Specifically, in the "information processing and forecast management unit", in relation to the personal communication terminal 400 of local residents, personal information collection, confirmation, and approval are performed in advance to make a forecast for the use of forecast service <local forecast service program (algorithm)> may be installed, and furthermore, when a personal communication terminal 500 of another person is captured in the region through a communication network, personal information collection, confirmation, and approval operation when application for use is made after checking whether or not the forecast service is used. A <foreigner forecast service program (algorithm)> that performs forecasting by performing can be additionally installed in the "information processing and forecast management unit".

한편, 원격관리장치(300)는 연관된 장치들을 원격으로 관리하는 원격적 장치로서, 구체적으로는 하천정보 수집장치(100)를 구성하는 지형정보 및 영상정보 수집부(110) 및 환경정보 수집부(120)와 인공지능 분석장치(200)를 통신 접속시키는 운용통신부를 포함한다. 또한 원격관리장치(300)는, 인공지능 분석장치(200)로부터 전송되어 오는 정보 및 최종 분석된 정보를 출력하는 모니터링부와, 상기 인공지능 분석장치(200)로부터 전송되어 오는 정보 및 최종 분석된 정보를 저장하는 운용저장부와, GPS정보를 기반으로 촬영영역에 대한 좌표값을 산출 저장하며 이를 지형정보 및 영상정보 수집부(110)로 전송하는 등의 상기 지형정보 및 영상정보 수집부(110)의 이동 및 동작을 원격 제어하며 영상정보와 환경정보와 분석된 예측정보 및 3D가상공간영상을 모니터부로 출력하고 운용저장부에 저장하는 한편 운용통신부의 동작을 제어하는 운용제어부를 더 포함하는 구성을 가질 수 있다. On the other hand, the remote management device 300 is a remote device that remotely manages related devices, specifically, the terrain information and image information collection unit 110 and the environment information collection unit constituting the river information collection device 100 ( 120) and an operation communication unit that communicates and connects the artificial intelligence analysis device 200. In addition, the remote management device 300 includes a monitoring unit that outputs information transmitted from the artificial intelligence analysis device 200 and finally analyzed information, and information transmitted from the artificial intelligence analysis device 200 and finally analyzed information. The topographical information and image information collection unit 110, which calculates and stores coordinate values for the shooting area based on an operation storage unit that stores information, and GPS information, and transmits them to the topography and image information collection unit 110. ) Remotely controls the movement and operation, outputs image information, environmental information, analyzed prediction information, and 3D virtual space images to the monitor unit and stores them in the operation storage unit, while further comprising an operation control unit that controls the operation of the operation communication unit. can have

지역주민 개인통신단말기(400)는 원격관리장치(300)에서 전송하는 예보정보 및 3D가상공간을 포함한 제방 및 하천 정보를 활성화하는 애플리케이션을 포함한 프로그램이 탑재된 스마트폰 또는 PC일 수 있다. 그리고 타지인 개인통신단말기(500)는 원격관리장치(300)에서 전송하는 예보정보 및 3D가상공간을 포함한 제방 및 하천 정보를 활성화하는 애플리케이션을 포함한 프로그램이 탑재된 스마트폰일 수 있다. 긴급대응장치(600)는 행정안전부 산하기관의 각 긴급안전상황센터, 119안전신고센터, 해양긴급신고센터, 경찰청신고센터, 지자체 재난대응센터 등의 주무관공서에 설치되어, 원격관리장치(300)로부터 긴급상황에 대한 영상정보와 함께 긴급상태임이 전송되어 오면 현장에 긴급대응팀을 출동 지시하는 알고리즘 내지 프로그램이 탑재된 긴급대응 컴퓨터 장치일 수 있다. The local residents' personal communication terminal 400 may be a smart phone or PC loaded with a program including an application for activating forecast information transmitted from the remote management device 300 and information on embankments and rivers including 3D virtual space. In addition, the personal communication terminal 500 of a stranger may be a smartphone loaded with a program including an application for activating forecast information transmitted from the remote management device 300 and information on embankments and rivers including 3D virtual space. The emergency response device 600 is installed in competent government offices such as each emergency safety situation center, 119 safety report center, maritime emergency report center, police report center, and local government disaster response center of the Ministry of Public Administration and Security, and the remote management device 300 It may be an emergency response computer device loaded with an algorithm or program that instructs an emergency response team to mobilize to the scene when an emergency state is transmitted along with video information about an emergency situation from the .

본 발명에서 통신망은 LAN(Local Area Network : 근거리 통신망), MAN(Metropolitan Area Network : 대도시 통신망), WAN(Wide Area Network: 광역 통신망), 인터넷통신망, WiFi(Wireless Fidelityv : 와이파이)를 포함한 각종 온라인 데이터 통신망 및 GPS(Global Positioning System)와 접속하여 수집 정보 및 제어 신호를 각 장치(100)(300)와 단말기(400)(500) 간에 양방향 통신 가능하도록 하는 것이다.In the present invention, the communication network includes various online data including LAN (Local Area Network), MAN (Metropolitan Area Network), WAN (Wide Area Network), Internet communication network, WiFi (Wireless Fidelityv: Wi-Fi) It is connected to a communication network and GPS (Global Positioning System) to enable bi-directional communication of collected information and control signals between each device 100 (300) and the terminal 400 (500).

원격관리장치(300)에서는 지형정보 및 영상정보 수집부(110)의 동작을 제어하게 되는데, 예컨대 해당 위치에 고정 설치된 촬영수단의 촬영 및 각도 변경 내지 회전 동작이나, 해당 영역을 운항하는 무인비행체의 운항경로를 설정 또는 실시간으로 원격 제어하여 이동이 이루어지도록 한다. 이때, 지형정보 및 영상정보 수집부(110)의 초분광 영상 및 RGB 영상을 수집하는 장치가 무인비행체인 경우, 자율주행이 가능하도록 자동항법장치가 장착되어 있으므로 사전에 촬영영역에 대한 GPS 좌표지점을 입력하면 기설정된 운항 경로를 따라 해당 제방의 설정 좌표에 따라 이동하면서 초분광 영상 및 RGB 영상을 촬영하여 취득하게 된다. 또한 지형정보 및 영상정보 수집부(110)는 사전에 설정된 운항경로를 따라 이동하되 GPS 신호를 통해 위치를 파악하고, 지형정보수집장치(110)의 롤링 및 피칭에 대한 데이터 보정을 위하여 자동항법장치가 자세 값을 동시에 기록하여 자신들의 운항경로를 저장한다. 이러한 상태에서 지형정보 및 영상정보 수집부(110)가 근적외선 영상센서, 다중분광 영상센서 또는 초분광 영상센서와 같은 초분광센서로 초분광 영상을 촬영하고, 사전에 설정된 분광 또는 RGB 영상정보의 영상(색상) 변화도에 따라 이벤트가 발생 즉, 홍수가 발생되었거나 홍수가 의심되는 장소에 대해 근접하여 RGB 영상정보를 추가적으로 촬영하여 분석한다.The remote management device 300 controls the operation of the topographic information and image information collection unit 110. For example, shooting and angle change or rotation of a photographing unit fixed at a corresponding location, or an unmanned aerial vehicle operating in a corresponding area. Set the flight route or remotely control it in real time to make the movement. At this time, if the device for collecting the hyperspectral image and RGB image of the topographic information and image information collection unit 110 is an unmanned aerial vehicle, since an automatic navigation device is installed to enable autonomous driving, GPS coordinate points for the shooting area are determined in advance. When is input, hyperspectral images and RGB images are captured and acquired while moving according to the set coordinates of the embankment along a preset navigation route. In addition, the topographic information and image information collecting unit 110 moves along a pre-set navigation route, but detects a location through a GPS signal and automatically navigates to correct data for rolling and pitching of the topographic information collecting device 110. simultaneously record the attitude value and save their flight path. In this state, the topographic information and image information collection unit 110 captures a hyperspectral image with a hyperspectral sensor such as a near-infrared image sensor, a multispectral image sensor, or a hyperspectral image sensor, and images of previously set spectral or RGB image information. Depending on the degree of (color) gradient, RGB image information is additionally captured and analyzed in close proximity to a place where an event has occurred, that is, a flood has occurred or a flood is suspected.

이와 같이 본 발명에서는, 지형정보 및 영상정보 수집부(110)의 초분광 영상센서에서 촬영된 분광 영상의 분석 결과, 제방을 포함한 하천에 수위나 유속의 급격히 증가하거나 홍수가 의심되는 상황이 발생하게 되면, 비행체가 사전설정된 운항경로에서 일시적으로 벗어나 해당 좌표로 이동하여 RGB 영상을 촬영하고, 이를 원격관리장치(300)로 전송하여 인공지능분석장치(200)에 의한 분석이 이루어지도록 함으로써, 분석 알고리즘이나 프로그램에만 의존하지 않고 관리자가 사진 확인을 통해 직관적인 평가 분석을 추가하여 분석의 정확도를 더욱 향상시킬 수 있다. As described above, in the present invention, as a result of analysis of the spectroscopic image taken by the hyperspectral image sensor of the topographical information and image information collection unit 110, a rapid increase in the water level or flow velocity or a suspected flood occurs in a river including an embankment. When the flight object temporarily departs from the preset flight path, moves to the corresponding coordinates, takes an RGB image, transmits it to the remote management device 300, and analyzes it by the artificial intelligence analysis device 200, so that the analysis algorithm Rather than relying solely on software or programs, administrators can further improve the accuracy of analysis by adding intuitive evaluation analysis through photo verification.

본 발명에서는 모니터링 대상에 대하여 사전에 설정된 운항경로를 따라 비행하는 무인비행체 또는 상공에 고정된 다종의 카메라를 포함한 촬영수단의 초분광센서에서 촬영하여 전송되는 분광 영상과 RGB 영상을 초분광 영상분석 프로그램이 분석한다. 분석한 결과에 따라 모니터링 대상 하천 구역에서 하천의 수위나 유속의 급격히 증가하거나 홍수가 의심되는 경우, 설정된 운항경로에서 일시적으로 벗어나 해당 좌표로 이동하여 RGB 영상을 촬영하여 분광 영상과 RGB 영상을 원격관리장치(300)로 전송하면, 인공지능분석장치(200)가 전송된 정보들을 취합하여 자체 탑재된 정보분석 프로그램을 통해 촬영영역인 제방에 홍수가 예상되는 경우 수위와 유속을 홍수 범위에 접근 또는 포함되는지 분석하고, 제방을 포함한 하천의 단면을 분석하여 데이터화한다. 따라서 본 발명에서는 촬영영역인 제방에 대한 정보분석의 정밀성 내지 정확성을 향상시키는 것이 가능하고, 분석한 데이터를 하천의 환경 평가 및 홍수 발생 등의 재해 발생 가능성에 대한 평가자료로 제공하는 것이 가능하다.In the present invention, the spectroscopy image and the RGB image that are transmitted by the hyperspectral sensor of the photographing means including the unmanned aerial vehicle flying along a pre-set flight route or the various types of cameras fixed in the sky are captured by the hyperspectral image analysis program. analyze this According to the analysis results, if the water level or flow rate of the river increases rapidly or flooding is suspected in the river area to be monitored, temporarily deviate from the set navigation route and move to the corresponding coordinates to take RGB images and remotely manage the spectroscopic and RGB images. When transmitted to the device 300, the artificial intelligence analysis device 200 collects the transmitted information and approaches or includes the water level and flow speed in the flood range when flooding is expected in the embankment, which is the shooting area, through the self-loaded information analysis program. data, and analyze the cross section of the river including the embankment. Therefore, in the present invention, it is possible to improve the precision or accuracy of information analysis on the embankment, which is a shooting area, and it is possible to provide the analyzed data as evaluation data for the possibility of disasters such as river environmental evaluation and flood occurrence.

또한, 본 발명에서는 일반적인 RGB 영역의 영상으로는 확인할 수 없는 즉, 사람의 눈으로는 볼 수 없는 특성인 자외선과 적외선 특성을 활용하여, 초분광 영상정보를 기반으로 다층적인 정보 수집 및 분석이 이루어지도록 함으로써, 다각적이면서도 입체적인 정보 수집 및 이를 통한 제방을 포함한 하천의 상태 분석이 이루어지도록 하고, 이를 통해, 제방 및 하천, 그리고 하천 유역을 포함한 모니터링 대상에 대한 폭넓은 정보분석이 가능하다. 특히, 본 발명에서는 육안이 아닌 자외선과 적외선 특성을 활용하는 초분광 영상정보를 기반으로 정보 수집 및 분석이 이루어지므로 직접 관리자가 제방에서 육안으로 확인하지 않고도 하천의 수위와 유속과 온도 및 습도 등을 분석하는 것이 가능하다.In addition, in the present invention, multi-layered information collection and analysis are made based on hyperspectral image information by utilizing ultraviolet and infrared characteristics, which cannot be confirmed by general RGB images, that is, characteristics that cannot be seen by the human eye. By making it possible to collect multi-dimensional and three-dimensional information and analyze the condition of rivers, including embankments, through this, a wide range of information analysis on monitoring targets including embankments, rivers, and river basins is possible. In particular, in the present invention, information is collected and analyzed based on hyperspectral image information that utilizes ultraviolet and infrared characteristics, not the naked eye, so that the manager directly checks the water level, flow rate, temperature, humidity, etc. of the river without visually checking the embankment. it is possible to analyze

더 나아가 본 발명에 의하면 촬영영역인 제방 및 하천을 포함한 모니터링 대상의 상태 정보에 대한 분석의 정밀성 내지 정확성 향상과 추가적인 분석 확장성을 통해, 모니터링 대상에 대한 환경 조사가 정량적으로 이루어질 수 있으며, 그에 따라 향후 제방환경 평가와 지진 및 홍수 발생 등 재해 가능성에 대한 평가가 추가적으로 이루어질 수 있다는 장점이 발휘된다. Furthermore, according to the present invention, through the precision or accuracy of the analysis of the state information of the monitoring target, including the shooting area, the embankment and the river, and the additional analysis scalability, the environmental investigation of the monitoring target can be quantitatively performed, and accordingly The advantage is that it can be additionally evaluated for the possibility of disasters such as earthquakes and floods as well as the assessment of the embankment environment in the future.

특히, 본 발명은 모니터링 대상에 대해 다종의 카메라를 이용해 영상정보를 수집하고, 물리적 센싱을 통해 수위와 유속과 온도 및 습도를 포함한 환경정보를 수집하는 한편, 상공에서 초분광 영상정보를 수집하여 분석하고 3차원 가상현실을 접목시켜 하천 내에 부적절한 사람 내지 차량이 입수하거나 표류하는지의 여부를 판단하게 된다. 이를 위해 본 발명에서는 3D가상공간 알고리즘 내지 프로그램이 촬영된 초분광영상 또는 RGB영상 정보에 포함된 GPS 위치 정보와 INS 정보로부터 촬영지점을 역(逆)으로 계산한 후 광속조정법에 의해 영상을 접합하여 해당 영역만을 별도로 추출하여 Masking 파일을 생성하여 정사영상을 구축하고, 상기 촬영된 영상 정보를 밴드별로 각각 저장하되, B1(Red), B2(Green), B3(Blue), B4(Nir, 근적외선), B5(다중분광, Optical Multispectral), B6(Hyperspectral, 초분광) 밴드에 대하여 밴드조합식에 의해 계산하되, 사람과 차량을 포함한 각 군집 별 대표 픽셀을 선정하고, 근적외선과 초분광 밴드에서 각기 다른 반사도값과 크기를 나타내는 픽셀을 중심으로 소정 크기의 윈도우에 포함되는 픽셀들을 대표 픽셀로 선정하고, 각 밴드에서 2개의 밴드 별 각 재질의 반사도값과 크기를 조합하고, 조합된 2개의 밴드 별 반사도값과 크기들을 모두 조합하여 1개의 학습모델을 생성하고, 상기 학습모델을 기초로 목표지점에서의 사람 또는 차량의 존재 여부를 픽셀 별로 산출 판단하게 된다. 이러한 과정에 의해 하천 내에 사람 또는 차량이 부적절하게 입수하는 것으로 판단되는 경우에는 해당 위치와 인접한 출력장치를 통해 안내 방송을 송출하여 입수를 저지하게 되는데, 그럼에도 불구하고 사람 또는 차량의 입수가 이루어지거나 표류하는 것으로 판단되면, 119안전센터를 포함한 긴급구조대응부처의 긴급대응장치(600)로 영상정보와 함께 긴급상황을 전송하여 긴급대응 및 구조가 이루어지도록 한다.In particular, the present invention collects image information using various types of cameras for monitoring objects, collects environmental information including water level, flow rate, temperature, and humidity through physical sensing, and collects and analyzes hyperspectral image information from the sky. and 3D virtual reality is applied to determine whether an inappropriate person or vehicle is entering or drifting in the river. To this end, in the present invention, the 3D virtual space algorithm or program inversely calculates the shooting point from the GPS location information and INS information included in the photographed hyperspectral image or RGB image information, and then joins the images by the luminous flux adjustment method. A masking file is created by extracting only the corresponding region separately to build an ortho image, and the captured image information is stored for each band, B1 (Red), B2 (Green), B3 (Blue), B4 (Nir, near infrared) , B5 (optical multispectral), and B6 (hyperspectral, hyperspectral) bands are calculated by the band combination formula, and representative pixels for each cluster including people and vehicles are selected, and different Centering on the pixel representing the reflectance value and size, pixels included in a window of a predetermined size are selected as representative pixels, and the reflectance value and size of each material for each of the two bands are combined in each band, and the reflectivity of each of the two bands combined A single learning model is created by combining all values and sizes, and based on the learning model, whether a person or a vehicle exists at a target point is calculated and determined for each pixel. Through this process, if it is judged that a person or vehicle is inappropriately entering the river, an announcement broadcast is sent out through an output device adjacent to the location to block the entry. If it is determined to do so, the emergency situation is transmitted along with the video information to the emergency response device 600 of the emergency response department including the 119 safety center so that emergency response and rescue are performed.

앞서 설명한 것처럼 본 발명에서는 환경정보 수집부(120)를 구성하는 CCTV모듈을 통해 모니터링 대상에 대한 동영상 및 정지영상을 촬영하고, 수위센서를 통해 하천의 수위를 계측하고, 온도센서를 통해 모니터링 대상 즉, 제방을 포함한 하천의 육지와 수중 온도를 측정하고, 습도센서를 통해 제방을 포함한 하천 주변의 습도를 측정하고, 데이터로거를 통해 상기 계측 내지 측정된 정보들을 시간대별로 저장 관리하면서 원격관리장치(300)로 전송하여 인공지능 분석장치(200)에 의한 분석이 이루어지게 된다. As described above, in the present invention, moving images and still images for the monitoring target are taken through the CCTV module constituting the environmental information collection unit 120, the water level of the river is measured through the water level sensor, and the monitoring target is monitored through the temperature sensor. , Remote management device (300 ) to be analyzed by the artificial intelligence analysis device 200.

인공지능 분석장치(200)는, 지형정보 및 영상정보 수집부(110)와 환경정보 수집부(120)에서 촬영 내지 측정한 데이터를 취합하고 편차를 교정하여 통합 분석 데이터로 출력하거나, 편차가 설정 범위를 초과하는 경우 해당 장소에 대해 재촬영 및 측정이 이루어지도록 관리하는 관제기능을 가지고 있다. 인공지능 분석장치(200)가 지형정보 및 영상정보 수집부(110)와 환경정보 수집부(120)에서 촬영 내지 측정된 데이터를 취합하고 편차를 교정할 때에는, 취합된 촬영 내지 측정 데이터에서 각종 분석 수치의 총 합을 측정 횟수로 나눈 평균값으로 교정하는 것이 바람직하며, 설정된 편차 범위를 초과하는 경우, 적어도 제방을 포함한 하천의 해당 위치에 변화가 발생 예컨대, 홍수(또는 가뭄)가 발생하였다는 것을 의미하므로, 지형정보 및 영상정보 수집부(110)의 무인비행체를 작동시켜서 해당 제방에 대한 전체 재촬영 및 측정을 하거나, 제방의 해당 좌표로 이동하여 재촬영 및 측정을 하여 재분석을 실시함으로써 제방의 상태를 더욱 정확히 분석할 수 있도록 한다.The artificial intelligence analysis device 200 collects the data captured or measured by the geographic information and image information collection unit 110 and the environmental information collection unit 120, corrects the deviation, and outputs it as integrated analysis data, or sets the deviation If the range is exceeded, it has a control function to manage re-shooting and measurement for the location. When the artificial intelligence analysis device 200 collects the data captured or measured by the topographic information and image information collection unit 110 and the environmental information collection unit 120 and corrects the deviation, various types of analysis are performed on the collected photographed or measured data. It is desirable to calibrate the total sum of the values by the average value divided by the number of measurements, and if the set deviation range is exceeded, it means that a change has occurred in the corresponding location of the river, including at least the embankment, for example, a flood (or drought) has occurred. Therefore, by operating the unmanned aerial vehicle of the topographic information and image information collection unit 110 to retake and measure the entire embankment, or move to the corresponding coordinates of the embankment and retake and measure to perform reanalysis, the state of the embankment allows for more accurate analysis.

본 발명에서는 상기와 같이 수집되고 분석된 모니터링 대상에 대한 이상여부 내지 이상변화 정보들을 3D가상공간 영상(이미지)로 구현하게 된다. 이를 위해 원격관리장치(300)의 운용제어부가 3D가상공간 구현 구역을 설정하게 된다. 가상공간 범위 가능성 검토를 위해 수집하여 데이터화하고 이를 통해 확보된 EDC(Eco Delta City) 기초정보를 토대로 EDC 가상공간 범위를 선정하는 것이다. 도 11에는 3D가상공간을 구현할 영역을 설정하는 예를 보여주는 개략적인 예시도가 도시되어 있다. In the present invention, the collected and analyzed information about whether or not there is an abnormality or an abnormal change in the monitoring target is implemented as a 3D virtual space image (image). To this end, the operation control unit of the remote management device 300 sets a 3D virtual space implementation area. It is to select the scope of EDC virtual space based on the basic information of EDC (Eco Delta City) obtained by collecting data to review the scope of virtual space. 11 is a schematic illustration showing an example of setting an area to implement a 3D virtual space.

본 발명에서는 인공지능 분석장치(200)의 분석 및 3D영상화부(210)에 구비되는 3D가상공간 프로그램에 의해, 지형정보 및 영상정보 수집부(110)의 지형 및 영상정보와, 환경정보 수집부(120)의 환경정보의 기준이미지 및 영상이미지와 SIFT 디스크립터(Descriptor) 데이터를 저장하고, 지형정보 및 영상정보 수집부(110)와 환경정보 수집부(120)의 카메라 위치별 촬영각에 따른 공간의 기준이미지를 수집하고, 실내공간의 재촬영으로 수집한 영상이미지의 촬영지점을 기준이미지에 맞춰 세팅하여 수집정보DB모듈에 저장한다. 또한 3D가상공간 프로그램에 의해, 상기 영상이미지를 분석하고 SIFT 알고리즘에 따라 영상이미지 내에 구간별로 SIFT 디스크립터 데이터를 설정해서 수집정보DB모듈에 저장하며, 서로 이웃하는 영상이미지의 교차구간을 SIFT 디스크립터 데이터를 기초로 매칭해서 가상공간 이미지를 생성하고 수집정보DB모듈에 저장한다. 그리고 3D가상공간 프로그램에서는 영상정합처리모듈의 프로세싱 상황을 모니터링하고, 수집정보DB모듈을 검색해서 필요 정보를 검색하고 데이터처리모듈의 제어상황 출력과 제어정보 입력을 위한 대시보드를 실행한다.In the present invention, by the analysis of the artificial intelligence analysis device 200 and the 3D virtual space program provided in the 3D imaging unit 210, the terrain and image information of the topographic information and image information collection unit 110, and the environmental information collection unit (120) stores the reference image and video image of the environment information and SIFT descriptor data, and stores the geographic information and image information collection unit 110 and the environment information collection unit 120. Space according to the shooting angle for each camera position The reference image of is collected, and the shooting point of the video image collected by re-shooting of the indoor space is set according to the reference image and stored in the collection information DB module. In addition, the video image is analyzed by a 3D virtual space program, SIFT descriptor data is set for each section in the video image according to the SIFT algorithm, and stored in the collection information DB module. Based on matching, a virtual space image is created and stored in the collection information DB module. In addition, the 3D virtual space program monitors the processing status of the image matching processing module, searches the collection information DB module to retrieve necessary information, and executes the dashboard for outputting the control status of the data processing module and inputting control information.

이에 대해 좀 더 구체적으로 설명하면, 지형정보 및 영상정보 수집부(110)와 환경정보수집부(120)에서 해당 촬영각에 따라 촬영해서 영상이미지를 수집하여 전송하면, <3D가상공간 프로그램>의 이미지수집파트에서는 전송되어 온 영상이미지를 수집정보DB모듈에 저장한다. 영상정합처리모듈에서는 수집한 영상이미지를 기준이미지와 비교하게 되는데, 영상이미지가 해당 기준이미지와 불일치한 것으로 확인되면 영상정합처리모듈은 불일치한 영상이미지의 촬영각 정보를 기준이미지의 촬영각에 맞춰 보정한다. 구체적으로는 수집이미지와 영상이미지는 동일한 촬영각으로 촬영하여 수집해야 하고, 더 나아가 수집이미지와 영상이미지는 동일한 구간을 촬영한 것이어야 하는데, 실질적으로 오차가 발생할 수 있으므로, 영상정합처리모듈에서는 동일한 촬영각의 수집이미지와 영상이미지를 서로 비교해서 오차 여부를 파악하고, 오차가 확인되면 해당 영상이미지의 촬영각 정보를 수집이미지의 촬영각 정보로 조정하고 보정이 완료된 영상이미지를 수집정보DB모듈에 저장하는 것이다. To explain this in more detail, when the topographic information and image information collection unit 110 and the environment information collection unit 120 collect and transmit video images taken according to the corresponding shooting angle, <3D virtual space program> In the image collection part, the transmitted video image is stored in the collection information DB module. The image matching processing module compares the collected image with the standard image. If the image is found to be inconsistent with the reference image, the image matching processing module adjusts the shooting angle information of the inconsistent image to the shooting angle of the reference image. correct Specifically, the collected image and the video image must be taken and collected at the same shooting angle, and furthermore, the collected image and the video image must be taken in the same section. The collected image of the shooting angle and the video image are compared with each other to determine whether there is an error. If the error is confirmed, the shooting angle information of the corresponding video image is adjusted with the shooting angle information of the collected image, and the corrected video image is stored in the collection information DB module. is to save

또한 영상정합처리모듈에서는 영상이미지를 분석하고 SIFT 알고리즘에 따라 영상이미지 내에 구간별로 SIFT 디스크립터 데이터를 설정해서 수집정보DB모듈에 저장하고, 서로 이웃하는 영상이미지의 교차구간을 상기 SIFT 디스크립터 데이터를 기초로 매칭해서 실내공간 이미지를 생성하게 된다. 지형정보 및 영상정보 수집부(110)와 환경정보 수집부(120)의 카메라가 다양한 촬영각으로 모니터링 대상 즉, 제방을 포함한 하천을 촬영하므로, 데이터처리모듈의 제어에 따라 영상정합처리모듈에서는 수많은 영상이미지에서 특정 구간만을 선출하여 이웃하는 영상이미지끼리 연결하는 프로세싱을 진행해야 한다. 이를 위해 영상정합처리모듈에서는, 해당 촬영각이 링크된 영상이미지를 분석해서 서로 이웃하는 촬영각에서 기준이 되는 구간을 찾아 연결하며 정합하게 된다. 이러한 정합을 위해서는 영상이미지에 정합 기준이 될 수 있는 특정 타겟이 필요한데, 영상정합처리모듈에서는 특정 타겟의 이미지를 확인해서 영상이미지들을 서로 정합하고 편집한다.In addition, the image matching processing module analyzes the video image, sets SIFT descriptor data for each section in the video image according to the SIFT algorithm, stores it in the collection information DB module, and determines the intersection of adjacent video images based on the SIFT descriptor data. By matching, an image of an indoor space is created. Since the cameras of the topographic information and image information collection unit 110 and the environmental information collection unit 120 capture the monitoring target, that is, the river including the embankment, at various shooting angles, the image matching processing module has a number of It is necessary to select only a specific section from a video image and perform processing to connect neighboring video images. To this end, the image matching processing module analyzes the video images linked to the corresponding shooting angles, finds sections serving as references from neighboring shooting angles, connects them, and performs matching. For this matching, a specific target that can be a matching criterion is required for video images, and the image matching processing module checks the image of the specific target, matches the video images with each other, and edits them.

이러한 영상정합처리모듈은 SIFT 알고리즘을 기반으로 영상이미지를 분석해서 특정 타겟을 분류하고 설정한다. SIFT 알고리즘의 SIFT는 Scale-Invariant Feature Transform의 약자로서, 다수의 영상이미지를 서로 정합하기 위한 기본 솔루션이다. 상기 영상정합 처리모듈은 SIFT 알고리즘에 따라 타겟이 될 수 있는 구간에서 Extrema localization 과정인 3D Interpolation을 통해 특징점의 위치 픽셀값과 거리측정정보 등을 기초로 파악한다.This image matching processing module analyzes video images based on the SIFT algorithm to classify and set specific targets. SIFT of SIFT algorithm stands for Scale-Invariant Feature Transform, and is a basic solution for matching multiple video images to each other. The image matching processing module determines based on the location pixel value and distance measurement information of feature points through 3D interpolation, which is an extreme localization process, in a section that can be targeted according to the SIFT algorithm.

영상정합처리모듈은 물체의 이미지에서 국소적으로 튀는 부분을 찾는다(Scale-space extrema detection). 즉, 영상이미지에서 특징적인 부분(도드라지게 나타나는 부분)을 찾는 것인데, 찾아낸 부분이 물체의 특징점으로 분류된다. 또한 영상정합처리모듈은 앞서 확인된 특징점들 중에서 신뢰도 있는 최종 특징점인 키 포인트를 선별한다. 이를 위해 영상정합처리모듈에서는 해당 특징점들의 픽셀값(Intensity), 상기 특징점들 중 물체의 코너에 해당하는 위치나 크기 등을 기준으로 최종 특징점을 우선 선별해서 해당 영상이미지의 키 포인트로 설정한다. 그리고 영상정합처리모듈은 상기 키 포인트의 주변 영역에 대해 경사도를 구해서, 전체적으로 볼 때 상기 주변 영역의 픽셀값들이 가리키는 방향을 구한다. 즉, 상기 키 포인트로 설정된 특징점은 해당 물체 이미지의 코너에 해당하므로, 상기 특징점의 주변에는 하나 이상의 변 이미지가 포함되고, 상기 변 이미지의 픽셀값들은 해당 키 포인트의 픽셀을 향해 형성되는 것이다. The image matching processing module finds a locally swollen part in the image of the object (Scale-space extrema detection). That is, it is to find a characteristic part (a part that appears prominently) in the video image, and the found part is classified as a feature point of the object. In addition, the image matching processing module selects a key point, which is a reliable final feature point, from among previously identified feature points. To this end, the image matching processing module first selects the final feature point based on the pixel value (intensity) of the corresponding feature point and the position or size corresponding to the corner of the object among the feature points, and sets it as a key point of the corresponding video image. Then, the image matching processing module obtains the gradient of the area around the key point, and obtains the directions indicated by the pixel values of the area around the key point as a whole. That is, since the feature point set as the key point corresponds to a corner of the corresponding object image, one or more side images are included around the feature point, and pixel values of the side image are formed toward pixels of the corresponding key point.

이후, 영상정합처리모듈은 주변 영역의 구성 픽셀 방향이 0도가 되도록 회전해서, 상기 주변 영역에 해당하는 부분을 SIFT 디스크립터 데이터로 설정하고 수집정보DB모듈에 저장한다. 이를 통해 영상이미지에는 하나 이상의 SIFT 디스크립터 데이터가 구성된다. 따라서 촬영각에 따라 영상이미지에 변화가 있더라도 영상정합처리모듈은 SIFT 디스크립터 데이터로 설정된 상기 주변 영역에 대해 동일한 구간으로 인식하게 된다. 참고로, SIFT 디스크립터 데이터는 키 포인트의 주변 영역의 픽셀값들이 포함되고, 상기 키 포인트를 기준으로 주변 영역의 픽셀값들의 방향정보에 기반한 히스토그램 정보도 포함된다. 그러므로 상기 SIFT 디스크립터 데이터는 영상정합처리모듈이 촬영각에 따라 변경된 영상이미지에서 동일한 구간을 나타내는 타겟을 식별하고 서로 이웃하는 영상이미지를 정확히 정합할 수 있도록 한다. Thereafter, the image matching processing module rotates the direction of the constituent pixels of the peripheral area to be 0 degrees, sets the portion corresponding to the peripheral area as SIFT descriptor data, and stores it in the collection information DB module. Through this, one or more SIFT descriptor data is configured in the video image. Therefore, even if there is a change in the video image according to the shooting angle, the video matching processing module recognizes the surrounding area set as the SIFT descriptor data as the same section. For reference, the SIFT descriptor data includes pixel values of a region surrounding a key point, and histogram information based on direction information of pixel values of a region surrounding the key point. Therefore, the SIFT descriptor data enables the image matching processing module to identify targets representing the same section in the image changed according to the photographing angle and accurately match adjacent image images.

일반적으로 SIFT 알고리즘에서 추천되는 Histogram Dimension은 128-dimension이므로, 카메라의 촬영각에 상관없이 동일한 구간을 포함하는 영상이미지는 영상정합처리모듈에 의해 동일한 구간을 정확히 추출하고 서로 이웃하는 영상이미지에서 서로 공유하는 상기 SIFT 디스크립터 데이터를 기초로 영상이미지를 매칭하고, 기타 필요한 구간들을 서로 조합해서 제방을 포함한 하천 이미지를 생성한다. 생성된 이미지의 예가 도 12에 예시되어 있다. In general, the recommended histogram dimension in the SIFT algorithm is 128-dimension, so regardless of the shooting angle of the camera, the video image containing the same section is accurately extracted by the image matching processing module and shared in neighboring video images. A video image is matched based on the SIFT descriptor data, and other necessary sections are combined with each other to generate a river image including an embankment. An example of the generated image is illustrated in FIG. 12 .

이와 같은 본 발명에서는 영상정합처리모듈이 영상이미지 정합을 수행하는 과정에서 완성될 3D가상공간 이미지의 기존 템플릿 데이터를 활용할 수도 있다. 이를 위해 분석 및 3D영상화부(210)의 <3D가상공간 프로그램>에 포함되어 있는 가상공간정보관리파트는, 동일 실내공간에 대한 기존 영상이미지와 템플릿 데이터를 저장하는 기존정보DB를 더 포함할 수 있고, 영상정합처리모듈은 해당 제방을 포한한 하천에 대한 기존 영상이미지 여부를 검색파트의 제어에 따라 기존정보DB에서 검색해서 해당 템플릿 데이터를 기반으로 SIFT 알고리즘에 따라 신규 영상이미지의 매칭 프로세싱을 실행한다. 즉, 기존에 동일한 제방을 포함한 하천의 이미지가 존재한다면, 영상정합처리모듈은 해당 공간 이미지의 기존 템플릿 데이터를 기존정보DB에서 검색하고, 상기 템플릿 데이터를 기초로 해서 영상이미지에 대한 조합을 더욱 손쉽게 할 수 있다. In the present invention, existing template data of a 3D virtual space image to be completed may be utilized in the process of performing video image matching by the image matching processing module. To this end, the virtual space information management part included in the <3D virtual space program> of the analysis and 3D imaging unit 210 may further include an existing information DB for storing existing video images and template data for the same indoor space. The image matching processing module searches the existing information DB for the existing image of the river including the embankment under the control of the search part, and performs matching processing of the new image image according to the SIFT algorithm based on the template data do. That is, if there is an image of a river including the same embankment in the past, the image matching processing module searches the existing template data of the spatial image in the existing information DB, and based on the template data, the combination of the image images is more easily performed. can do.

영상정합처리모듈은 전술한 과정에 따라 생성된 공간 이미지를 포맷팅해서 수집정보DB모듈에 저장하는데, 상기 포맷팅은 영상이미지가 모두 정합되어 완성된 공간 이미지를 서로 연결해서 지정된 포맷으로 변환하며, 이를 통해서 출력되는 공간 이미지를 작업자가 영상컨트롤파트로 검색하고 출력시킬 수 있다.The image matching processing module formats the spatial image generated according to the above process and stores it in the collection information DB module. The formatting converts the spatial images completed by matching all the video images to each other and converts them into a designated format, through which The operator can search and output the spatial image to be output with the video control part.

본 발명에서는 모니터링 대상 즉, 제방을 포함한 하천을 따라 간격을 두고 특정 지점에 초분광 영상정보와 RGB영상정보를 수집하는 지형정보 및 영상정보 수집부(110)와, 수위와 유속과 온도 및 습도를 포함한 환경정보를 수집하는 환경정보 수집부(120)를 설치하여, 모니터링 대상에 대해 다종의 카메라를 이용해 영상정보를 수집하고, 물리적 센싱을 통해 수위와 유속과 온도 및 습도를 포함한 환경정보를 수집하는 한편, 상공에서 초분광 영상정보를 수집하여 분석하고 3차원 가상현실을 접목시켜서 하천 상태에 대한 정보분석과 제방 붕괴 및 홍수 가능성을 예측하고, 이에 대한 직관적인 정보 및 긴급 내지 위험상황 여부를 해당 하천 관리주체의 원격관리장치(300)가 모니터링 및 분석하여, 지역주민 개인통신단말기(400) 또는/및 지역을 일시 경유 내지 체류하는 타지인 개인통신단말기(500)로 정보를 제공함으로써, 제방을 포함한 하천에 대한 재난상황에 주변 민간인들이 신속히 대처할 수 있도록 하는 것이 가능하다.In the present invention, the monitoring target, that is, the topographic information and image information collection unit 110 that collects hyperspectral image information and RGB image information at specific points at intervals along the river including the embankment, and the water level, flow rate, temperature, and humidity By installing an environmental information collection unit 120 that collects environmental information including water level, flow rate, temperature and humidity, collecting image information using various types of cameras for monitoring targets, and collecting environmental information including water level, flow rate, temperature and humidity through physical sensing On the other hand, hyperspectral image information is collected and analyzed from the sky, and 3D virtual reality is applied to analyze information on river conditions, predict levee collapse and flood possibility, and provide intuitive information on this and whether or not there is an emergency or danger situation in the corresponding river. The remote management device 300 of the management body monitors and analyzes, and provides information to the personal communication terminal 400 of local residents or / and the personal communication terminal 500 of other people temporarily passing through or staying in the area, including the embankment. It is possible to enable nearby civilians to quickly respond to a disaster situation on a river.

또한, 본 발명에서는, 제방을 포함한 하천 유역에 타지인이 일시적으로 체류 예컨대, 캠핑, 차를 이용한 숙박, 야영 등을 하고자하는 경우, 해당 제방을 포함한 하천을 관리하는 주체의 원격관리장치(300)에 접속하여, 사전 예보서비스 이용 관련 사용과 개인정보 활용에 동의하고 본인 확인을 거쳐 서비스에 가입한 후 실시간으로 해당 지역에 대한 환경 정보를 제공받음으로써, 일시 체류 또는 경유하는 타지인들도 해당 지역의 재난상황에 대해 신속히 대처할 수 있도록 하는 것이 가능하다.In addition, in the present invention, when a stranger temporarily stays in a river basin including an embankment, for example, camping, accommodation using a car, camping, etc., the remote management device 300 of the subject managing the river including the embankment By accessing, agreeing to the use of advance forecast service and utilization of personal information, verifying identity and subscribing to the service, and receiving environmental information about the area in real time, other people temporarily staying or passing through the area It is possible to quickly respond to disaster situations of

또한, 본 발명에서는 모니터링 대상에 대해 다종의 카메라를 이용해 영상정보를 수집하고, 물리적 센싱을 통해 수위와 유속과 온도 및 습도를 포함한 환경정보를 수집하는 한편, 상공에서 초분광 영상정보를 수집하여 분석하고 3차원 가상현실을 접목시켜서, 하천 내에 부적절한 사람 내지 차량의 입수 또는 표류로 판단되는 경우, 해당 위치와 인접한 출력장치를 통해 안내 방송을 송출하고 119안전센터를 포함한 긴급구조대응부처의 긴급대응장치(600)로 영상정보와 함께 긴급상황을 전송하여, 긴급대응 및 구조가 이루어지도록 하는 것이 가능하다.In addition, in the present invention, image information is collected using various types of cameras for monitoring objects, and environmental information including water level, flow rate, temperature, and humidity is collected through physical sensing, while hyperspectral image information is collected and analyzed from above. and incorporating 3D virtual reality, if it is determined that an inappropriate person or vehicle is entering or drifting in the river, an announcement broadcast is sent through an output device adjacent to the location, and the emergency response device of the emergency response department including the 119 safety center It is possible to transmit an emergency along with video information to 600 so that emergency response and rescue can be performed.

이상, 본 발명을 본 발명의 원리를 예시하기 위한 바람직한 실시예와 관련하여 설명하고 도시하였지만, 본 발명은 그와 같이 도시되고 설명된 그대로의 구성 및 작용으로 한정되는 것이 아니다. 그 밖에도 첨부된 청구범위의 사상 및 범주를 일탈함이 없이 본 발명에 대한 다수의 변경 및 수정이 가능함을 당업자들은 잘 이해할 수 있을 것이다. 따라서 그러한 모든 적절한 변경 및 수정과 균등물들도 본 발명의 범위에 속하는 것으로 간주되어야 할 것이다.Although the present invention has been described and illustrated in relation to preferred embodiments for illustrating the principles of the present invention, the present invention is not limited to the configuration and operation as shown and described. It will be appreciated by those skilled in the art that many other changes and modifications may be made to the present invention without departing from the spirit and scope of the appended claims. Accordingly, all such appropriate changes and modifications and equivalents should be regarded as falling within the scope of the present invention.

100 : 하천정보 제공장치
110: 지형정보 및 영상정보 수집부
120 : 환경정보 수집부
200 : 인공지능 분석장치
300 : 원격관리장치
400 : 지역주민 개인통신단말기
500 : 타지인 개인통신단말기
600 : 긴급대응장치
100: river information providing device
110: topographic information and image information collection unit
120: environmental information collection unit
200: artificial intelligence analysis device
300: remote management device
400: personal communication terminal for local residents
500: personal communication terminal of stranger
600: emergency response device

Claims (6)

모니터링 대상 하천 구역에 대하여 초분광 영상정보와 RGB 영상정보를 포함한 지형-영상정보를 수집하며, 모니터링 대상 하천 구역의 지상 내지 수상 다수 지점에서 실제 영상정보, 및 수위, 유속, 온도 및 습도를 포함한 환경정보를 실시간으로 수집하는 하천정보 수집장치;
하천정보 수집장치에서 수집되어 전송되는 정보 및 데이터를 축적하면서 지속적인 분석을 수행하여, 모니터링 대상 하천 구역에서 제방 붕괴 내지 홍수 발생을 포함한 재난이 발생하는 지의 여부, 및 하천 내에 부적절한 사람 내지 차량이 입수하거나 표류하는지의 여부를 분석하여 판단하고 재난의 발생 가능성을 예측하며, 지형-영상정보, 실제 영상정보 및 환경정보, 그리고 분석된 예측정보를 3D가상공간영상으로 구현 저장하고 원격관리장치로 전송하는 인공지능 분석장치; 및
하천정보 수집장치에서 전송되는 정보 및 데이터를 인공지능 분석장치로 전송하며, 인공지능 분석장치의 분석 결과에 따라 재난 발생으로 판단되거나 또는 재난 발생이 예측되는 경우에는 사전에 예보서비스에 가입된 지역주민 개인통신단말기와 타지인 개인통신단말기로 3D가상공간영상과 경보를 전송 안내하며, 하천 내 부적절한 사람 내지 차량의 입수 또는 표류로 판단되는 경우에는 해당 위치와 인접한 출력장치를 통해 안내 방송을 송출하고, 긴급구조대응부처의 긴급대응장치로 영상정보와 함께 긴급상황을 전송하는 원격관리장치를 포함하는 구성을 가지는 것을 특징으로 하는 인공지능을 이용한 하천 이용 안전관리시스템.
For the river area to be monitored, topography-image information including hyperspectral image information and RGB image information is collected, and actual image information at multiple points on the ground or above water in the river area to be monitored, and the environment including water level, flow rate, temperature and humidity River information collection device for collecting information in real time;
Continuous analysis is performed while accumulating information and data collected and transmitted by the river information collection device to determine whether a disaster including bank collapse or flood occurs in the river area to be monitored, and whether inappropriate people or vehicles in the river are entering or entering the river. Artificial intelligence that analyzes and determines whether drifting occurs, predicts the possibility of a disaster, implements and stores terrain-image information, actual image information and environmental information, and analyzed prediction information as 3D virtual space images and transmits them to a remote management device intelligence analysis device; and
The information and data transmitted from the river information collection device are transmitted to the artificial intelligence analysis device. According to the analysis results of the artificial intelligence analysis device, if a disaster is judged to occur or a disaster is predicted, local residents who have subscribed to the forecast service in advance 3D virtual space images and warnings are transmitted and guided to personal communication terminals and other personal communication terminals, and when it is determined that an inappropriate person or vehicle is entering or drifting in the river, an announcement is sent through an output device adjacent to the location, A river use safety management system using artificial intelligence, characterized in that it has a configuration including a remote management device that transmits an emergency situation along with video information as an emergency response device of the emergency response department.
제1항에 있어서,
인공지능 분석장치는, 분석 및 3D영상화부와, 분석정보관리부를 포함하여 구성되고;
분석 및 3D영상화부는, 하천정보 수집장치에서 수집되는 정보 데이터가 전송되어 오면, 재난의 발생 여부, 하천 내 부적절한 사람 내지 차량의 입수 또는 표류 여부, 그리고 재난의 발생 가능성을 실시간 분석하고, 분석된 데이터를 축적하면서 학습적 분석을 지속 수행하고 정보화하여 예측정보를 생성하는 정보분석 프로그램과, 지형-영상정보, 실제 영상정보, 환경정보 및 분석된 예측정보를 결합하여 3D가상공간 영상으로 구현하는 3D가상공간 프로그램을 포함하며;
분석정보관리부에서는 정보분석 프로그램 및 3D가상공간 프로그램에서 예측 생성된 정보 및 데이터를 저장하고 이를 원격관리장치로 전송하는 것을 특징으로 하는 인공지능을 이용한 하천 이용 안전관리시스템.
According to claim 1,
The artificial intelligence analysis device is composed of an analysis and 3D imaging unit and an analysis information management unit;
The analysis and 3D imaging department analyzes in real time whether a disaster has occurred, whether an inappropriate person or vehicle has entered or drifted in the river, and the possibility of a disaster when the information data collected by the river information collection device is transmitted, and analyzes the analyzed data in real time. 3D virtual space image that implements 3D virtual space image by combining information analysis program that continuously performs learning analysis and informatization to generate prediction information while accumulating information, terrain-image information, actual image information, environment information, and analyzed prediction information contains a spatial program;
The analysis information management unit stores the information and data predicted and generated by the information analysis program and the 3D virtual space program and transmits them to the remote management device.
제2항에 있어서,
3D가상공간 프로그램은, 촬영된 초분광영상 또는 RGB영상 정보에 포함된 GPS 위치 정보와 INS 정보로부터 촬영지점을 역으로 계산한 후 광속조정법에 의해 영상을 접합하여 해당 영역만을 별도로 추출하여 Masking 파일을 생성하여 정사영상을 구축하는 정사영상 구축모듈을 포함하며;
상기 3D가상공간 프로그램에는, 촬영된 영상 정보를 밴드별로 각각 저장하되, B1, B2, B3, B4, B5, B6 밴드에 대하여 밴드조합식에 의해 계산하면서 사람과 차량을 포함한 각 군집 별 대표 픽셀을 선정하고, 근적외선과 초분광 밴드에서 각기 다른 반사도값과 크기를 나타내는 픽셀을 중심으로 사전 설정된 크기의 윈도우에 포함되는 픽셀들을 대표 픽셀로 선정하고, 각 밴드에서 2개의 밴드 별 각 재질의 반사도값과 크기를 조합하고, 조합된 2개의 밴드 별 반사도값과 크기들을 모두 조합하여 1개의 학습모델을 생성하고, 상기 학습모델을 기초로 목표지점에서의 사람 또는 차량의 존재 여부를 픽셀 별로 산출 판단하는 "하천 내 사물인지 프로그램"이 탑재되어 있는 것을 특징으로 하는 인공지능을 이용한 하천 이용 안전관리시스템.
According to claim 2,
The 3D virtual space program calculates the shooting point inversely from the GPS location information and INS information included in the photographed hyperspectral image or RGB image information, and then joins the images by the luminous flux adjustment method, extracts only the corresponding area separately, and creates a masking file. an orthoimage building module for generating and constructing an orthoimage;
In the 3D virtual space program, the captured image information is stored for each band, but representative pixels for each cluster including people and vehicles are calculated by the band combination formula for the B1, B2, B3, B4, B5, and B6 bands. Select pixels included in a window of a preset size centered on pixels showing different reflectance values and sizes in the near-infrared and hyperspectral bands as representative pixels, and select the reflectance value of each material for each band in each band Combining the sizes, combining the reflectivity values and sizes of the two combined bands to create one learning model, and calculating and determining the presence of people or vehicles at the target point by pixel based on the learning model. River use safety management system using artificial intelligence, characterized in that the "object recognition program in the river" is mounted.
제1항 내지 제3항 중 어느 한 항에 있어서,
원격관리장치는,
인공지능분석장치의 분석 결과 이상유무 내지 이상변화 발생으로 판단된 경우, 3D가상공간영상과 이상변화 경보를 통신망을 통해 지역주민 개인통신단말기 및 타지인 개인통신단말기로 전송 안내하고, 하천 내 부적절한 사람 내지 차량의 입수 및 표류로 판단되는 경우, 해당 위치와 인접한 출력장치를 통해 안내 방송을 송출하고, 긴급재난대응부처의 긴급대응장치로 긴급상황 영상정보와 함께 긴급상태임을 전송하는 알고리즘 내지 프로그램이 탑재된 정보처리 및 예보관리부가 구비되어 있는 것을 특징으로 하는 인공지능을 이용한 하천 이용 안전관리시스템.
According to any one of claims 1 to 3,
remote management device,
As a result of the analysis of the artificial intelligence analysis device, if it is determined that there is an abnormality or an abnormal change has occurred, the 3D virtual space image and abnormal change alert are transmitted to the personal communication terminals of local residents and other people through the communication network, and guides the inappropriate person in the river Or, if it is determined that the vehicle has been acquired or drifted, an algorithm or program is installed that transmits an announcement broadcast through an output device adjacent to the location and transmits the emergency state along with emergency video information to the emergency response device of the emergency response department. River use safety management system using artificial intelligence, characterized in that the information processing and forecast management unit is provided.
제4항에 있어서,
상기 정보처리 및 예보관리부에는,
지역주민 개인통신단말기와 예보서비스 이용을 위해 사전에 개인 정보 수집과 확인 및 승인 동작을 수행하여 예보가 이루어지도록 하는 지역 예보 서비스 프로그램; 및
타지인 개인통신단말기가 통신망을 통해 지역 내에서 포착되면, 예보서비스 이용 여부를 확인 후 이용을 신청한 경우에 개인 정보 수집과 확인 및 승인 동작을 수행하여 예보가 이루어지도록 하는 타지인 예보 서비스 프로그램이 탑재되어 있는 것을 특징으로 하는 인공지능을 이용한 하천 이용 안전관리시스템.
According to claim 4,
In the information processing and forecast management unit,
A local forecast service program that collects, confirms, and approves personal information in advance for the use of local residents' personal communication terminals and forecast services so that forecasts are made; and
When a personal communication terminal of another person is captured in the region through a communication network, a forecast service program of a third party that collects, confirms, and approves personal information is performed to make a forecast in case of application for use after checking whether or not the forecast service is used. A river use safety management system using artificial intelligence, characterized in that it is mounted.
하천정보 수집장치, 인공지능 분석장치 및 원격관리장치를 구비한 하천 이용 안전관리시스템을 통해서 모니터링 대상 하천 구역에 대한 지형-영상정보, 환경정보 및 실제 영상정보를 수집하고 분석하여 이를 제공하여 하천 이용을 안전하게 관리하는 방법으로서,
하천정보 수집장치를 통해서, 측정대상지역의 제방을 포함한 하천에 대하여 초분광 영상정보와 RGB 영상정보를 포함한 지형-영상정보를 수집하며, 해당 제방을 포함한 하천의 지상 내지 수상 다수 지점에서 실제 영상정보, 및 수위, 유속, 온도 및 습도를 포함한 환경정보를 실시간으로 수집하는 단계;
인공지능분석장치를 통해서, 하천정보 수집장치에서 수집되어 전송되는 정보 및 데이터에 기초하여 모니터링 대상 하천 구역에서 제방 붕괴 내지 홍수 발생을 포함한 재난이 발생하는 지의 여부, 및 하천 내에 부적절한 사람 내지 차량이 입수하거나 표류하는지의 여부를 분석하여 판단하고 재난의 발생 가능성을 예측하며, 지형-영상정보, 실제 영상정보 및 환경정보, 그리고 분석된 예측정보를 3D가상공간영상으로 구현 저장하며 원격관리장치로 전송하는 단계; 및
분석 결과에 따라 재난 발생으로 판단되거나 또는 재난 발생이 예측되는 경우에는 원격관리장치를 통해서, 사전에 예보서비스에 가입된 지역주민 개인통신단말기와 타지인 개인통신단말기로 3D가상공간영상과 경보를 전송 안내하며, 하천 내 부적절한 사람 내지 차량의 입수 또는 표류로 판단되는 경우에는 해당 위치와 인접한 출력장치를 통해 안내 방송을 송출하고, 긴급구조대응부처의 긴급대응장치로 영상정보와 함께 긴급상황을 전송하는 단계를 포함하는 것을 특징으로 하는 하천 이용 안전관리방법.
Through the river use safety management system equipped with a river information collection device, artificial intelligence analysis device, and remote management device, terrain-image information, environmental information, and actual image information for the river area to be monitored are collected, analyzed, and provided to use the river. As a method for safely managing
Through the river information collection device, topographical image information including hyperspectral image information and RGB image information is collected for the river including the embankment in the measurement target area, and actual image information is obtained from multiple points on the ground or on the water surface of the river including the corresponding embankment. , and collecting environmental information including water level, flow rate, temperature and humidity in real time;
Through the artificial intelligence analysis device, based on the information and data collected and transmitted by the river information collection device, whether a disaster including bank collapse or flood occurs in the river area to be monitored, and whether inappropriate people or vehicles in the river It analyzes and determines whether it is drifting or drifting, predicts the possibility of disaster, implements and stores topographic-image information, actual image information and environmental information, and analyzed prediction information as 3D virtual space images and transmits them to remote management devices. step; and
According to the analysis result, when a disaster is judged to occur or a disaster is predicted, 3D virtual space images and alerts are transmitted through a remote management device to local residents' personal communication terminals subscribed to the forecast service in advance and to other people's personal communication terminals. When it is judged that an inappropriate person or vehicle is entering or drifting in the river, an announcement is sent through an output device adjacent to the location, and an emergency situation is transmitted along with video information to the emergency response device of the emergency response department. River use safety management method comprising the step.
KR1020210142695A 2021-10-25 2021-10-25 River safety management system and method using artificial intelligence KR20230059187A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210142695A KR20230059187A (en) 2021-10-25 2021-10-25 River safety management system and method using artificial intelligence

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210142695A KR20230059187A (en) 2021-10-25 2021-10-25 River safety management system and method using artificial intelligence

Publications (1)

Publication Number Publication Date
KR20230059187A true KR20230059187A (en) 2023-05-03

Family

ID=86380771

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210142695A KR20230059187A (en) 2021-10-25 2021-10-25 River safety management system and method using artificial intelligence

Country Status (1)

Country Link
KR (1) KR20230059187A (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101204426B1 (en) 2012-07-20 2012-11-26 (주)평화엔지니어링 Real-time monitoring system for flood
KR101881822B1 (en) 2017-09-12 2018-08-24 영진시스템(주) Method of measuring capacity of reservoir using aerial photograph

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101204426B1 (en) 2012-07-20 2012-11-26 (주)평화엔지니어링 Real-time monitoring system for flood
KR101881822B1 (en) 2017-09-12 2018-08-24 영진시스템(주) Method of measuring capacity of reservoir using aerial photograph

Similar Documents

Publication Publication Date Title
KR102146009B1 (en) Monitoring system for levee using hyperspectral imaging
EP1606766B1 (en) Automatic processing of aerial images
Erenoglu et al. An UAS-assisted multi-sensor approach for 3D modeling and reconstruction of cultural heritage site
Gini et al. Aerial images from an UAV system: 3D modeling and tree species classification in a park area
US7437062B2 (en) Remote sensing system capable of coregistering data from sensors potentially having unique perspectives
KR102303783B1 (en) Disaster accident site information acquisition and analysis method and system including slope collapse using drones
JP6646527B2 (en) Object detection evaluation system and object detection evaluation method
KR20200055388A (en) Information analysis system of rivers
KR102450019B1 (en) Water Quality Monitoring Method and System for Using Unmanned Aerial Vehicle
US11776104B2 (en) Roof condition assessment using machine learning
Womble et al. Multi-scale remote sensing of tornado effects
CN112216052A (en) Forest fire prevention monitoring and early warning method, device and equipment and storage medium
CN115331130B (en) Unmanned aerial vehicle inspection method based on geographical marker assisted navigation and unmanned aerial vehicle
KR102387090B1 (en) Rivers information providing system using 3d virtual space
KR102438125B1 (en) Damaged surface soil analysis system using drones
Gong et al. Photo ecometrics for forest inventory
Tiwari et al. UAV remote sensing for campus monitoring: a comparative evaluation of nearest neighbor and rule-based classification
KR20230059188A (en) River condition information provision system and method through image information and environmental information collection and analysis
CN106960027A (en) The UAV Video big data multidate association analysis method of spatial information auxiliary
KR102331410B1 (en) Disaster and accident site response drone standard operating method and system thereof
WO2023281572A1 (en) Disaster investigation assistance device, disaster investigation assistance system, disaster investigation assistance method, and recording medium
CN114067245A (en) Method and system for identifying hidden danger of external environment of railway
KR20230059187A (en) River safety management system and method using artificial intelligence
KR101542134B1 (en) The apparatus and method of surveillance a rock fall based on smart video analytic
Liu et al. Architecture planning and geo-disasters assessment mapping of landslide by using airborne LiDAR data and UAV images