KR20220151263A - SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THe SAME - Google Patents

SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THe SAME Download PDF

Info

Publication number
KR20220151263A
KR20220151263A KR1020210058274A KR20210058274A KR20220151263A KR 20220151263 A KR20220151263 A KR 20220151263A KR 1020210058274 A KR1020210058274 A KR 1020210058274A KR 20210058274 A KR20210058274 A KR 20210058274A KR 20220151263 A KR20220151263 A KR 20220151263A
Authority
KR
South Korea
Prior art keywords
facility
safety inspection
smart mobile
mobile device
data
Prior art date
Application number
KR1020210058274A
Other languages
Korean (ko)
Other versions
KR102669058B1 (en
Inventor
오홍섭
김영환
장낙섭
강범주
Original Assignee
경상국립대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 경상국립대학교산학협력단 filed Critical 경상국립대학교산학협력단
Priority to KR1020210058274A priority Critical patent/KR102669058B1/en
Priority claimed from KR1020210058274A external-priority patent/KR102669058B1/en
Publication of KR20220151263A publication Critical patent/KR20220151263A/en
Application granted granted Critical
Publication of KR102669058B1 publication Critical patent/KR102669058B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/16Measuring arrangements characterised by the use of optical techniques for measuring the deformation in a solid, e.g. optical strain gauge
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/38Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system
    • G01S19/39Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system the satellite radio beacon positioning system transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G01S19/42Determining position
    • G01S19/45Determining position by combining measurements of signals from the satellite radio beacon positioning system with a supplementary measurement
    • G01S19/46Determining position by combining measurements of signals from the satellite radio beacon positioning system with a supplementary measurement the supplementary measurement being of a radio-wave signal type
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Business, Economics & Management (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Tourism & Hospitality (AREA)
  • Electromagnetism (AREA)
  • Theoretical Computer Science (AREA)
  • Economics (AREA)
  • General Business, Economics & Management (AREA)
  • Strategic Management (AREA)
  • Primary Health Care (AREA)
  • Marketing (AREA)
  • Human Resources & Organizations (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

Provided are a facility safety inspection system using a smart mobile device, and a method thereof. According to the facility safety inspection system and method, the status and location of a safety inspection facility can be identified through augmented reality and virtual reality visualization based on the real-time linkage of a smart mobile device and a safety inspection server without a physical assist device by utilizing a lidar sensor and depth camera built into the smart mobile device and accordingly, beginners or non-professionals can easily access. In addition, a systematic and reasonable maintenance strategy can be established by managing the time history of the facility based on the quantitative evaluation data of the safety inspection facility. In addition, the type of deterioration and damage of the facility can be identified through image classification and analysis based on the input data. In addition, the quantitative degree and amount of deterioration and damage of the facility can be identified by utilizing the classified and analyzed data. The grade of the safety inspection facility can be easily calculated and a reasonable maintenance strategy can be established and presented to a managing body.

Description

스마트 휴대기기를 활용한 시설물 안전점검 시스템 및 그 방법 {SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THe SAME}Facility safety inspection system and method using smart mobile devices {SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THE SAME}

본 발명은 시설물 안전점검 시스템에 관한 것으로, 보다 구체적으로, 스마트폰과 같은 스마트 휴대기기(또는 휴대용 스마트기기)에 내장된 다양한 기능과 센서 등을 활용하여 안전점검 시설물을 증강현실(AR)/가상현실(VR) 가시화시키고 안전점검 시설물의 상태를 평가하는, 스마트 휴대기기를 활용한 시설물 안전점검 시스템 및 그 방법에 관한 것이다.The present invention relates to a facility safety inspection system, and more specifically, to a safety inspection facility using augmented reality (AR)/virtual It relates to a facility safety inspection system and method using a smart mobile device that visualizes reality (VR) and evaluates the state of safety inspection facilities.

현재 시설물 또는 구조물에 대한 안전점검 시장은 대부분 인력에 의한 육안조사로만 이루어지고 있고, 이로 인해 점검자의 경험과 역량이 시설물의 등급 판정에 영향을 미침에 따라 정량적인 평가가 어려운 실정이다.Currently, the safety inspection market for facilities or structures is mostly conducted only by visual inspection by manpower, and as a result, it is difficult to perform quantitative evaluation as the inspector's experience and competence affect the grade of the facility.

예를 들면, 기존의 육안조사 방식 중 일부 방식은 점검자의 판단으로 열화 및 손상 등급을 산정하는 등 정량적인 평가 방식이 아니라 정성적인 평가 방식으로 수행됨에 띠리 단지 점검자의 경험과 역량이 시설물의 등급 판정에 영향을 미치는 실정이다.For example, some of the existing visual inspection methods are performed in a qualitative rather than quantitative evaluation method, such as calculating deterioration and damage grades based on the judgment of the inspector. is influencing.

구체적으로, 국내의 경우, 경제발전과 더불어 수많은 인프라구조물(Infrastructures)이 건설되고 있으나, 공용중인 도로, 교량, 터널, 댐, 항만 등의 인프라구조물의 정보관리의 체계화와 선진화는 미흡한 실정이며, 또한, 인프라구조 네트워크의 현장정보의 입력 방식이 최신 정보기술을 활용하여 관리자나 사용자 친화적인 환경으로 구현되어 있지 못하며, 이로 인해 수집되는 데이터의 신뢰도를 확보하기 어렵다는 문제점이 있었다.Specifically, in the case of Korea, numerous infrastructures are being built along with economic development, but the systematization and advancement of information management of public roads, bridges, tunnels, dams, and ports are insufficient. However, the field information input method of the infrastructure network was not implemented in a manager- or user-friendly environment using the latest information technology, and it was difficult to secure the reliability of the collected data.

기존의 시설물 관리 시스템은 관리현장의 정보와 관리시스템의 정보가 효율적으로 연계 및 순환되지 않고 있으며, 단지 정보입력에 치우쳐 있기 때문에 유용한 정보제공 역할은 미흡한 실정이다. 또한, 정보입력 방식이 텍스트나 2차원적인 평면을 활용하고 있기 때문에 입력의 용이성이 매우 낮은 실정이다.In the existing facility management system, the information of the management site and the information of the management system are not efficiently linked and circulated, and the role of providing useful information is insufficient because it is only biased toward information input. In addition, since the information input method utilizes text or a two-dimensional plane, the ease of input is very low.

또한, 교량 등 시설물의 정보를 저장, 축적, 활용 및 분석하여 관리자에게 유용한 정보를 제공하는 시설물 관리 시스템에 접속하여 정보를 조회하고, 현장조사를 통한 정보를 시설물 관리 시스템에 입력하기 위하여 최근에는 휴대용 단말기(예를 들면, 스마트폰)를 이용하고자 하는 시도가 이루어지고 있다.In addition, in order to inquire information by accessing a facility management system that provides useful information to managers by storing, accumulating, utilizing, and analyzing information of facilities such as bridges, and to input information through field surveys into the facility management system, recently, portable devices have been developed. An attempt is being made to use a terminal (eg, a smart phone).

한편, 현재 건설분야에서는 BIM(Building Information Modeling) 방법의 적용을 통해 공공시설물에 대한 입체형 설계와 전 생애주기 동안 발생하는 정보를 통합적으로 관리하여 건설공사의 품질향상을 도모하고 있다. 하지만, 대부분의 정보관리는 계획, 설계 시공시의 문제점을 해결하려는데 치중하고 있다. 즉, 계획, 설계, 시공 단계에서 BIM의 사용자 및 활용자는 전문적인 기술을 가지고 있는 엔지니어에 국한되어 있으며, 최종적으로 준공되어 공용중인 시설물의 유지관리를 담당하고 있는 관리주체의 담당자가 이를 활용하는데 한계가 있다.Meanwhile, in the current construction field, through the application of the BIM (Building Information Modeling) method, three-dimensional design for public facilities and information generated during the entire life cycle are managed in an integrated manner to improve the quality of construction work. However, most information management is focused on solving problems during planning, design and construction. In other words, the users and applications of BIM in the planning, design, and construction stages are limited to engineers with professional skills, and the person in charge of the maintenance of the finally completed and in-use facility is limited in utilizing it. there is

한편, 현재 「시설물의 안전 및 유지관리 실시 세부지침」에 규정된 현장조사의 경우, 콘크리트 재료의 균열, 백태, 박리, 박락, 철근노출, 재료분리, 누수 등을 평가하며, 또한, 강재의 경우, 도장 열화, 부식, 균열, 발청 등을 육안 조사를 통해 평가하고 있다.On the other hand, in the case of on-site investigations stipulated in the current 「Detailed Guidelines for Safety and Maintenance of Facilities」, cracks, efflorescence, peeling, exfoliation, exposure of reinforcing bars, material separation, leaks, etc. of concrete materials are evaluated. In addition, in the case of steel materials, , paint deterioration, corrosion, cracks, rusting, etc. are evaluated through visual inspection.

이러한 열화 및 손상을 면적률로 평가하는 경우, 결함 및 손상면적을 조사 단위면적으로 나누어 100을 곱한 백분율로 평가하며, 또한, 구조적 균열을 평가할 경우, 균열 방향과 폭에 따라 그 평가 기준이 상이하고, 비구조적 균열을 평가할 경우, 국부적 균열, 전반적 균열 등과 같이 정성적인 등급체계를 가지고 있다.When such deterioration and damage are evaluated by area ratio, the defect and damage area is divided by the unit area of investigation and evaluated as a percentage multiplied by 100. In addition, when evaluating structural cracks, the evaluation criteria are different depending on the direction and width of the crack. In the case of evaluating non-structural cracks, there is a qualitative grading system such as local cracks and global cracks.

또한, 안전점검 시설물의 전체 등급을 산정할 경우, 책임기술자의 판단하에 각 열화 및 손상들의 가중치나 중대한 결함의 정도 수준을 조정할 수 있으며, 안전점검 시설물의 등급과 보수 및 보강 방법에 대한 방법을 제시해야 한다.In addition, when calculating the overall grade of the safety inspection facility, the weight of each deterioration and damage or the level of serious defects can be adjusted under the judgment of the responsible engineer, and the grade of the safety inspection facility and methods for repair and reinforcement are presented. Should be.

구체적으로, 시설물의 안전점검을 위해서 열화 및 손상을 면적률로 평가하는 경우, 열화 및 손상면적을 산정해야 하는데, 이를 산정하는 방법은 현장에서 줄자를 이용한 대략적인 방법으로 정량적인 면적산정과 손상에 대해 평가하기 어렵고, 또한, 깊이를 고려하는 부피의 개념이 아닌 2차원적 면적의 개념으로 정략적인 보수 및 보강 물량을 산출해 내는 것에 한계가 있다.Specifically, when deterioration and damage are evaluated by area ratio for the safety inspection of facilities, the area of deterioration and damage must be calculated. In addition, there is a limit to calculating the quantitative amount of repair and reinforcement with the concept of a two-dimensional area rather than the concept of volume considering depth.

또한, 구조적 균열을 평가할 경우, 균열측정기를 지참하여 별도로 균열폭을 측정하고 기록하게 되어 있지만, 교량 하부, 교각 상부와 같이 접근이 어려운 곳에는 실질적으로 직접 균열을 측정하기 어려운 상황이 발생하기도 한다. 또한, 비구조적 균열을 평가할 경우, 정량적인 산정기준이 없어 국부적으로 평가하고 있다. 이에 따라, 국부적 균열, 전반적 균열 등과 같은 정성적인 평가체계를 가지고 있어 기술자의 경험과 역량이 시설물의 등급에 영향을 미치고 있는 실정이다.In addition, when evaluating structural cracks, a crack measuring device is required to measure and record the crack width separately. In addition, when evaluating non-structural cracks, there is no quantitative calculation standard, so they are evaluated locally. Accordingly, it has a qualitative evaluation system such as local cracks and overall cracks, and the experience and capabilities of engineers affect the grade of the facility.

또한, 안전점검 시설물의 전체 등급을 산정할 경우, 책임기술자의 판단하에 결정되는 사항들이 많고, 이때, 경험에 의지하여 보수 및 보강 방법과 같은 유지관리전략에 제안되어 불필요한 투자가 발생할 수도 있다. 그리고 평가된 열화 및 손상과 보수 및 보강 방법은 보고서로 작성되어 기록하기 때문에 방대한 양의 문서작업이 필요하며, 또한, 정보 전달성이 약해 시설물을 직관적으로 파악하기 어려워 현실적으로 초보자나 비전문가가 접근하기 어렵다는 문제점이 있다.In addition, when calculating the overall rating of safety inspection facilities, many matters are determined under the judgment of the responsible engineer, and at this time, unnecessary investment may occur as maintenance strategies such as repair and reinforcement methods are proposed based on experience. In addition, since the evaluated deterioration and damage and repair and reinforcement methods are written and recorded in a report, a large amount of document work is required, and it is difficult to intuitively grasp the facility due to poor information transmission, making it difficult for beginners or non-experts to approach it realistically. There is a problem.

한편, 선행기술로서, 대한민국 공개특허번호 제2013-101202호에는 "교량구조물의 증강현실 기반 안전진단 정보 가시화 방법 및 그 시스템"이라는 명칭의 발명이 개시되어 있는데, 도 1을 참조하여 설명한다.On the other hand, as a prior art, Korean Patent Publication No. 2013-101202 discloses an invention titled "Augmented reality-based safety diagnosis information visualization method and system for bridge structures", which will be described with reference to FIG.

도 1은 종래의 기술에 따른 교량구조물의 증강현실 기반 안전진단 정보 가시화 시스템을 나타낸 구성도이다.1 is a configuration diagram showing a system for visualizing augmented reality-based safety diagnosis information of a bridge structure according to the prior art.

도 1을 참조하면, 종래의 기술에 따른 교량구조물의 증강현실 기반 안전진단 정보 가시화 시스템은, 모바일 단말기(10)에서 교량구조물과 관련된 계측데이터와 GPS 위치정보로부터 수집된 정보를 3차원의 증강현실로 가시화하여 표출하는 증강현실 가시화 장치(20)를 포함한다.Referring to FIG. 1, the augmented reality-based safety diagnosis information visualization system of a bridge structure according to the prior art provides information collected from measurement data and GPS location information related to a bridge structure in a mobile terminal 10 to 3D augmented reality. It includes an augmented reality visualization device 20 that is visualized and expressed as.

증강현실 가시화 장치(20)는 실시간을 통해 교량구조물을 언제 어디서나 모니터링할 수 있다. 여기서, 증강현실(AR)은 현실세계에 실시간으로 부가정보를 갖는 가상세계를 합쳐 하나의 영상으로 표출하는 혼합현실 기술을 말한다. 이러한 증강현실(AR)의 구현을 위하여 모바일 단말기(10)에는 AR용 어플리케이션(23)이 설치된다.The augmented reality visualization device 20 can monitor the bridge structure anytime, anywhere in real time. Here, augmented reality (AR) refers to a mixed reality technology that combines a virtual world having additional information in real time with the real world and expresses it as a single image. In order to implement such augmented reality (AR), an AR application 23 is installed in the mobile terminal 10 .

이러한 AR용 어플리케이션(23)은 안드로이드 OS(21)를 기반으로 운영되지만, iOS이나 웹브라우저 등의 다른 운영체제에서도 운영될 수 있다. 이에 따라, AR용 어플리케이션(23)을 이용한 증강현실은 교량구조물 등과 같이 접근하기 쉽지 않은 부분을 실시간으로 안전진단할 수 있고, 이러한 실시간 안전진단을 통하여 적절한 시기에 교량을 보수 및 보강할 수 있다.This AR application 23 is operated based on the Android OS 21, but may also be operated in other operating systems such as iOS or a web browser. Accordingly, augmented reality using the AR application 23 can perform a real-time safety diagnosis of parts that are not easy to access, such as bridge structures, and can repair and reinforce bridges at an appropriate time through such real-time safety diagnosis.

구체적으로, 안드로이드 OS(21)-기반의 증강현실 가시화 장치(20)는 엔진(22)과 어플리케이션(23)으로 나누어진다. 여기서, 엔진(22)은 복수의 GPS 위성(32)으로부터 위치정보를 수신하는 GPS 수신모듈(22a), 서버(40)로부터 계측데이터를 수신하는 통신모듈(22c) 및 교량구조물의 구조정보, 위치정보 및 계측데이터를 수집하여 3차원의 증강현실로 가시화하는 AR 모듈(22b)을 포함하며, 또한, 서버(40)는 DB(41) 및 배포서버(42)를 포함한다. Specifically, the Android OS 21-based augmented reality visualization device 20 is divided into an engine 22 and an application 23. Here, the engine 22 includes a GPS receiving module 22a for receiving location information from a plurality of GPS satellites 32, a communication module 22c for receiving measurement data from the server 40, and structure information and location of the bridge structure. It includes an AR module 22b that collects information and measurement data and visualizes them in 3D augmented reality, and the server 40 includes a DB 41 and a distribution server 42 .

이러한 AR 모듈(22b)은 카메라와 자이로(Gyro)센서 등이 포함되어 있다. 그리고 어플리케이션(23)은 모바일단말기(10) 화면에 사용자 중심의 인터페이스를 제공하는 UI(사용자 인터페이스) 모듈(23a), 교량구조물의 계측기(31) 위치와 계측데이터를 수신하는 계측데이터 수신모듈(23b) 및 모바일 단말기(10)를 보유한 사용자의 위치정보를 제공하는 사용자 위치모듈(23c)을 포함한다.This AR module 22b includes a camera and a gyro sensor. In addition, the application 23 includes a UI (user interface) module 23a that provides a user-centered interface on the screen of the mobile terminal 10, and a measurement data receiving module 23b that receives the position and measurement data of the measuring instrument 31 of the bridge structure. ) and a user location module 23c providing location information of a user holding the mobile terminal 10.

종래의 기술에 따른 교량구조물의 증강현실 기반 안전진단 정보 가시화 시스템의 경우, 교량구조물에 복수에 센서가 설치되어 있어, 교량구조물 내적요인 및 외적요인을 감지 및 계측한 후 서버 DB에 저장하게 되고, 사용자에 의해 모바일 단말기에 탑재된 AR용 어플리케이션을 선택하여 교량의 기초자료를 설정하되 모바일 단말기의 카메라와 GPS 모듈을 활용해 구조물의 구조정보, 위치정보, 계측데이터를 수집해 3차원의 증강현실로 가시화함으로써, 구조물 세부 상태에 대한 안전진단 평가정보를 제공할 수 있다.In the case of the augmented reality-based safety diagnosis information visualization system of a bridge structure according to the prior art, a plurality of sensors are installed in the bridge structure, and the internal and external factors of the bridge structure are detected and measured, and then stored in the server DB, The user selects the AR application loaded on the mobile terminal to set the basic data of the bridge, but collects structural information, location information, and measurement data of the structure using the camera and GPS module of the mobile terminal to create a 3D augmented reality. By visualizing it, it is possible to provide safety diagnosis evaluation information on the detailed state of the structure.

종래의 기술에 따른 교량구조물의 증강현실 기반 안전진단 정보 가시화 시스템의 경우, 교량구조물의 효율적인 유지관리를 위해 GPS 정보와 더불어, 스마트폰이나 태블릿 PC 등에서 GPS 정보와 연계하여 현실세계에 실시간으로 부가정보를 갖는 가상세계를 혼합하여 실제 환경을 입체화하여 하나의 영상으로 보여주는 증강현실을 이용하는 위치인식 알고리즘을 통해서 실시간 센서 데이터 액세스 및 이력정보를 가시화함으로써 교량구조물을 진단할 수 있다.In the case of the augmented reality-based safety diagnosis information visualization system of a bridge structure according to the prior art, in addition to GPS information for efficient maintenance and management of a bridge structure, additional information is real-time in the real world in conjunction with GPS information from a smartphone or tablet PC. It is possible to diagnose a bridge structure by visualizing real-time sensor data access and history information through a location recognition algorithm using augmented reality, in which a real environment is three-dimensionalized and shown as a single image by mixing a virtual world having .

종래의 기술에 따른 교량구조물의 증강현실 기반 안전진단 정보 가시화 시스템에 따르면, 교량구조물의 안전진단을 위해 증강현실 기반의 센서인식 및 진단정보 가시화를 활용하여 실시간 모니터링을 통해 적절한 시기에 교량을 안전진단할 수 있고, 이러한 안전진단 정보 가시화 시스템의 활용으로 유무선 통신방식으로 통제관제센터(33)로 실시간으로 송신되는 센서정보들을 시간과 장소에 구애받지 않고 모니터링할 수 있다.According to the augmented reality-based safety diagnosis information visualization system of bridge structures according to the prior art, for safety diagnosis of bridge structures, safety diagnosis of bridges at appropriate times through real-time monitoring by utilizing augmented reality-based sensor recognition and diagnostic information visualization. Using this safety diagnosis information visualization system, sensor information transmitted in real time to the control center 33 through wired/wireless communication can be monitored regardless of time and place.

또한, 교량구조물의 주요 부분이나 포인트마다 안전진단을 위한 센서들을 설치하여 교량 전체뿐만 아니라 각 부분이나 포인트마다 진단할 수 있고, GPS 모듈과 연계하여 센서의 위치를 정확하게 파악하여 데이터에 대한 정확성을 높이고, 무선통신망을 통해 언제 어디서나 쉽게 계측정보를 얻을 수 있으며, 3차원의 증강현실 기술을 이용하여 교량에서 접근하기 어려운 부분에 대해 용이하게 진단할 수 있는 등 교량구조물의 유지관리 편의성을 향상시킬 수 있다.In addition, by installing sensors for safety diagnosis at each major part or point of the bridge structure, it is possible to diagnose not only the entire bridge but also each part or point, and by linking with the GPS module, the location of the sensor is accurately identified to increase the accuracy of the data. , Measurement information can be easily obtained anytime, anywhere through a wireless communication network, and maintenance convenience of bridge structures can be improved by easily diagnosing inaccessible parts of the bridge using 3D augmented reality technology. .

하지만, 종래의 기술에 따른 교량구조물의 증강현실 기반 안전진단 정보 가시화 시스템의 경우, 교량구조물의 안전진단 정보를 증강현실 기반으로 가시화하기 위한 것으로, 증강현실 가시화 장치(20)의 구성 및 동작이 복잡해지고, 구체적인 안전진단을 수행하는데 한계가 있다.However, in the case of the augmented reality-based safety diagnosis information visualization system of a bridge structure according to the prior art, it is for visualizing the safety diagnosis information of a bridge structure based on augmented reality, and the configuration and operation of the augmented reality visualization device 20 are complicated. However, there is a limit to performing specific safety diagnosis.

한편, 다른 선행기술로서, 대한민국 등록특허번호 제10-2195890호에는 "스마트글래스 안전진단 시스템 및 안전진단 방법"이라는 명칭의 발명이 개시되어 있는데, 도 2a 및 도 2b를 참조하여 설명한다.On the other hand, as another prior art, Korean Patent Registration No. 10-2195890 discloses an invention titled "Smart Glass Safety Diagnosis System and Safety Diagnosis Method", which will be described with reference to FIGS. 2A and 2B.

도 2a는 종래의 기술에 따른 스마트글래스 안전진단 시스템의 간략한 구성도이고, 도 2b는 스마트글래스 안전진단 시스템의 동작을 예시하는 도면이다.Figure 2a is a simplified configuration diagram of a smart glasses safety diagnosis system according to the prior art, Figure 2b is a diagram illustrating the operation of the smart glasses safety diagnosis system.

도 2a 및 도 2b를 참조하면, 종래의 기술에 따른 스마트글래스 안전진단 시스템은, 스마트글래스 안전진단 시스템은 스마트글래스(50), 휴대용 단말기(60), 서버(70) 및 데이터베이스(80)를 포함한다.2a and 2b, the smart glass safety diagnosis system according to the prior art includes a smart glass 50, a portable terminal 60, a server 70 and a database 80 do.

스마트글래스(50)는 카메라(51), 명령어 입력이 가능한 인터페이스 장치(예를 들면, 마이크), 무선통신 장치, 증강현실(Augmented Reality: AR) 기능이 탑재되어 투시 기능과 컴퓨터의 기능을 수행할 수 있는 안경 형태의 디바이스로서 사용자가 착용할 수 있다.The smart glasses 50 are equipped with a camera 51, an interface device capable of inputting commands (eg, a microphone), a wireless communication device, and an augmented reality (AR) function to perform a perspective function and a computer function. It is a device in the form of glasses that can be worn by a user.

휴대용 단말기(60)는 휴대 가능하고 통신 및 컴퓨터 기능이 있는 단말기로서, 스마트폰, 태블릿 PC 등이 사용될 수 있으며, 이러한 휴대용 단말기(60)의 액정 화면에 터치 방식으로 내용을 기입할 수 있는 화면 입력이 가능한 휴대용 단말기일 수 있다.The portable terminal 60 is a terminal that is portable and has communication and computer functions, and a smartphone, tablet PC, etc. can be used, and a screen input capable of writing contents on the liquid crystal screen of the portable terminal 60 in a touch method. It may be a portable terminal capable of this.

또한, 휴대용 단말기(60)에는 진단중인 구조물에 대한 디지털 도면(91)이 상시 출력된 상태일 수 있으며, 해당 구조물에 기발견되어 관리되는 손상 및 열화가 존재한다면 이미 마커(92)가 생성되어 표시된 상태일 수 있다.In addition, the portable terminal 60 may always output a digital drawing 91 of the structure under diagnosis, and if there is damage or deterioration that has been previously discovered and managed in the structure, a marker 92 has already been created and displayed. may be in a state

마커(92)는 도면(91) 상에서 손상 및 열화가 위치하는 지점을 십자가로 표시하는 등의 단순한 표식일 수 있으나, 이러한 마커(92)는 QR 코드인 것이 바람직하며, QR 코드로서 마커(92)는 도면(91)상에서 해당 구조물, 구조물 내에서 손상, 열화의 위치, 손상, 열화의 형상 및 길이, 발견 시기, 발생 추정시기 등 손상, 열화에 관한 모든 정보가 망라되어 포함될 수 있고, 스마트글래스(50)의 인식부(52)가 QR 코드를 인식하면 손상, 열화 관련 정보가 증강현실로 스마트글래스(50)에 디스플레이 될 수 있다. 이때, 스마트글래스(50) 및 휴대용 단말기(60)는 구조물 점검 시 검사자가 직접 몸에 착용하고 휴대하며 지참하는 장치로서 현장에서 사용될 수 있다.The marker 92 may be a simple mark such as marking a point where damage and deterioration is located on the drawing 91 with a cross, but such a marker 92 is preferably a QR code, and the marker 92 as a QR code In the drawing 91, all information on damage and deterioration, such as the structure, the location of damage and deterioration within the structure, the shape and length of damage and deterioration, the time of discovery, and the estimated time of occurrence, can be included and included, and smart glass ( When the recognition unit 52 of 50) recognizes the QR code, information related to damage and deterioration may be displayed on the smart glasses 50 in augmented reality. At this time, the smart glasses 50 and the portable terminal 60 may be used in the field as a device that the examiner directly wears, carries, and brings with him when inspecting the structure.

반면에, 서버(70) 및 데이터베이스(80)는 원격지의 중앙관제센터 또는 관리사무소 등에 위치할 수 있다.On the other hand, the server 70 and the database 80 may be located in a remote central control center or management office.

서버(70)는 통신부(71), 프로세서(72) 및 저장부(73)를 포함하며, 인공지능 기능이 탑재된 서버인 것이 바람직하며, 스마트글래스(50) 및 휴대용 단말기(60)와 무선 네트워크를 통해 통신 연결될 수 있고, 구조물 현장에서 스마트글래스(50) 및 휴대용 단말기(60)가 영상 형식으로 송신하는 손상, 열화에 대해서는 성장도 여부를 판독하고 새로 발견하여 감지한 손상, 열화 의심 징후에 대해서는 손상 또는 열화 여부를 판독하며, 손상 또는 열화의 위험도를 판단하여 관계기관에 통보할지 여부를 결정하는 기능을 포함하여 수행할 수 있다.The server 70 includes a communication unit 71, a processor 72, and a storage unit 73, and is preferably a server equipped with an artificial intelligence function, and is a wireless network with the smart glasses 50 and the portable terminal 60 It can be connected through communication, and for the damage and deterioration transmitted in the form of a video by the smart glass 50 and the portable terminal 60 at the structure site, the degree of growth is read, and the newly discovered and detected signs of damage and deterioration It can be performed including a function of reading damage or deterioration, determining the risk of damage or deterioration, and deciding whether to notify the relevant authorities.

데이터베이스(80)는 구조물의 도면(91)을 저장하고, 또한 구조물에 발생할 수 있는 일반적인 손상, 열화의 이미지, 세부 특성 등에 관한 방대한 자료를 저장할 수 있어서 서버(70)가 구조물 현장에서 송신한 손상, 열화 또는 손상, 열화 의심 징후의 이미지를 보고 관련 도면(91)을 찾거나 또는 신규 감지 손상, 열화 의심 징후에 대해 손상, 열화 여부를 판독할 때 사용하는 자료를 제공할 수 있으며, 구조물의 안전진단에 따라 업데이트 되는 구조물의 도면을 버전 순서대로 저장할 수 있다.The database 80 stores the drawing 91 of the structure, and can also store extensive data on general damage, deterioration images, and detailed characteristics that may occur in the structure, so that the server 70 transmits damage from the structure site, It can provide data used when looking for a related drawing (91) by looking at images of signs of deterioration, damage, or suspected signs of deterioration, or reading damage or deterioration for newly detected signs of damage or signs of deterioration, and conducting a safety diagnosis of a structure. It is possible to save the drawings of the structure updated according to the version order.

서버(70)는 데이터베이스(80)와 유선 또는 무선의 방식으로 로컬 연결될 수 있으며, 구조물 현장의 스마트글래스(50) 및 휴대용 단말기(60)와 무선 네트워크를 통해 연결될 수 있다.The server 70 may be locally connected to the database 80 in a wired or wireless manner, and may be connected to the smart glasses 50 and the portable terminal 60 at a structure site through a wireless network.

종래의 기술에 따른 스마트글래스 안전진단 시스템에 따르면, 현장에서 구조물의 안전진단시, 스마트글래스가 손상 및 열화의 QR코드를 인식하면 증강현실로 해당 손상 및 열화의 정보를 스마트글래스에 출력할 수 있도록 함으로써 구조물에 대한 안전진단을 신속, 정확, 안전 및 편리하게 수행할 수 있다. 하지만, 종래의 기술에 따른 스마트글래스 안전진단 시스템의 경우, 별도의 안경 형태의 스마트글래스(50)를 구비해야 하므로 용이하게 적용하기 어렵다는 문제점이 있다.According to the smart glass safety diagnosis system according to the prior art, when the safety diagnosis of a structure in the field, when the smart glass recognizes the QR code of damage and deterioration, the corresponding damage and deterioration information can be output to the smart glass through augmented reality. By doing so, safety diagnosis on structures can be performed quickly, accurately, safely and conveniently. However, in the case of the smart glass safety diagnosis system according to the prior art, there is a problem in that it is difficult to apply it easily because a separate smart glass 50 in the form of glasses must be provided.

대한민국 등록특허번호 제10-1984778호(등록일: 2019년 5월 27일), 발명의 명칭: "시설물 외벽 진단을 위한 다중 협업 방법 및 이를 수행하기 위한 장치"Republic of Korea Patent Registration No. 10-1984778 (Registration Date: May 27, 2019), Title of Invention: "Multi-collaborative method for diagnosing the outer wall of a facility and apparatus for performing the same" 대한민국 등록특허번호 제10-2195890호(등록일: 2020년 12월 21일), 발명의 명칭: "스마트글래스 안전진단 시스템 및 안전진단 방법"Republic of Korea Patent Registration No. 10-2195890 (registration date: December 21, 2020), title of invention: "Smart Glass Safety Diagnosis System and Safety Diagnosis Method" 대한민국 등록특허번호 제10-1772916호(등록일: 2017년 8월 24일), 발명의 명칭: "촬영영상과 인공지능 알고리즘 기반의 균열검출 자동화 프로그램을 이용한 터널 라이닝 표면의 균열 검출 방법 및 시스템"Republic of Korea Patent Registration No. 10-1772916 (registration date: August 24, 2017), title of invention: "Method and system for detecting cracks on the surface of tunnel lining using an automated crack detection program based on photographic images and artificial intelligence algorithm" 대한민국 등록특허번호 제10-2192341호(등록일: 2020년 12월 11일), 발명의 명칭: "스마트폰 기반 이동 촬영형 시설물 점검 장치"Republic of Korea Patent Registration No. 10-2192341 (registration date: December 11, 2020), title of invention: "Smartphone-based mobile filming facility inspection device" 대한민국 등록특허번호 제10-1486443호(등록일: 2015년 1월 20일), 발명의 명칭: "모바일 현장조사-기반의 다차원 객체지향형 교량 정보처리 시스템 및 그 방법"Republic of Korea Patent Registration No. 10-1486443 (registration date: January 20, 2015), title of invention: "Mobile field survey-based multi-dimensional object-oriented bridge information processing system and its method" 대한민국 등록특허번호 제10-2189111호(등록일: 2020년 12월 3일 ), 발명의 명칭: "머신러닝, 증강현실 및 가상현실을 이용한 지하시설물 탐지시스템"Republic of Korea Patent No. 10-2189111 (registration date: December 3, 2020), title of invention: "Underground facility detection system using machine learning, augmented reality and virtual reality" 대한민국 공개특허번호 제2013-101202호(공개일: 2013년 9월 13일), 발명의 명칭: "교량구조물의 증강현실 기반 안전진단 정보 가시화 방법 및 그 시스템"Republic of Korea Patent Publication No. 2013-101202 (published date: September 13, 2013), title of invention: "Augmented reality-based safety diagnosis information visualization method and system for bridge structures"

전술한 문제점을 해결하기 위한 본 발명이 이루고자 하는 기술적 과제는, 스마트 휴대기기에 기내장된 라이다 센서 및 뎁스 카메라 등을 활용함으로써, 물리적 보조기구 없이 스마트 휴대기기 및 안전점검 서버의 실시간 연동에 따른 증강현실/가상현실 가시화를 통해 안전점검 시설물의 상태와 위치를 파악할 수 있는, 스마트 휴대기기를 활용한 시설물 안전점검 시스템 및 그 방법을 제공하기 위한 것이다.The technical task to be achieved by the present invention for solving the above-mentioned problems is to utilize the LiDAR sensor and depth camera built into the smart mobile device, thereby real-time linkage between the smart mobile device and the safety check server without physical aids. It is to provide a facility safety inspection system and method using smart mobile devices that can grasp the status and location of safety inspection facilities through augmented reality/virtual reality visualization.

본 발명이 이루고자 하는 다른 기술적 과제는, 안전점검 시설물에 대한 정량적인 평가 데이터를 기반으로 하여 시설물 시간이력을 관리함으로써 체계적이고 합리적인 유지관리 전략을 수립할 수 있는, 스마트 휴대기기를 활용한 시설물 안전점검 시스템 및 그 방법을 제공하기 위한 것이다.Another technical problem to be achieved by the present invention is to establish a systematic and reasonable maintenance strategy by managing the time history of the facility based on the quantitative evaluation data of the safety inspection facility, facility safety inspection using a smart mobile device To provide a system and method thereof.

본 발명이 이루고자 하는 또 다른 기술적 과제는, 입력된 데이터를 기반으로 이미지 분류 및 분석을 통해 시설물의 열화/손상 종류를 파악하고, 또한, 분류 및 분석된 데이터를 활용하여 시설물의 열화/손상의 정량적 정도 및 물량을 파악할 수 있으며, 안전점검 시설물의 등급을 산정할 수 있으며, 합리적인 유지관리전략을 수립하여 관리주체에게 제시할 수 있는, 스마트 휴대기기를 활용한 시설물 안전점검 시스템 및 그 방법을 제공하기 위한 것이다.Another technical problem to be achieved by the present invention is to identify the type of deterioration/damage of facilities through image classification and analysis based on input data, and to quantitatively evaluate the deterioration/damage of facilities by utilizing the classified and analyzed data. To provide a facility safety inspection system and method using smart mobile devices that can grasp the degree and quantity, calculate the grade of safety inspection facilities, establish a reasonable maintenance management strategy, and present it to the management subject it is for

전술한 기술적 과제를 달성하기 위한 수단으로서, 본 발명에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템은, 라이다 센서, 뎁스 카메라 및 GPS 모듈이 내장된 스마트 휴대기기를 활용한 시설물 안전점검 시스템에 있어서, 라이다 센서, 뎁스 카메라 및 GPS 모듈을 구비하며, 상기 라이다 센서 및 뎁스 카메라를 활용하여 상기 안전점검 시설물 외관을 스캔하고, GPS-기반으로 상기 안전점검 시설물의 위치를 등록하며, 상기 안전점검 시설물에 대한 외관 스캔 데이터 및 뎁스 영상을 상기 GPS 위치 데이터와 함께 전송하는 스마트 휴대기기; 상기 스마트 휴대기기로부터 수신한 상기 안전점검 시설물의 외관 스캔 데이터에 따라 상기 안전점검 시설물을 증강현실/가상현실 가시화하고, 상기 안전점검 시설물의 부재별/재료별 시설물 등급을 산정하며, 시설물 시간이력을 분석 및 관리하고, 시설물의 유지관리전략을 수립하는 안전점검 서버; 상기 안전점검 서버가 수신 및 처리하는 데이터를 저장하며, 상기 획득된 데이터를 증강/가상현실화하여 저장 관리할 수 있도록 구현된 안전점검 DB; 및 상기 안전점검 서버가 시설물 시간이력을 분석 및 관리할 수 있도록 연동되는 연동 시스템을 포함하되, 상기 스마트 휴대기기 및 안전점검 서버의 실시간 연동에 따른 증강현실/가상현실 가시화를 통해 상기 안전점검 시설물의 상태와 위치를 파악하는 것을 특징으로 한다.As a means for achieving the above-described technical problem, the facility safety inspection system using a smart mobile device according to the present invention is a facility safety inspection system using a smart mobile device having a lidar sensor, a depth camera, and a GPS module. A lidar sensor, a depth camera, and a GPS module are provided, and the exterior of the safety inspection facility is scanned using the lidar sensor and the depth camera, the location of the safety inspection facility is registered based on GPS, and the safety A smart mobile device that transmits exterior scan data and depth images of inspection facilities together with the GPS location data; According to the exterior scan data of the safety inspection facility received from the smart mobile device, the safety inspection facility is visualized in augmented reality/virtual reality, a facility grade for each member/material of the safety inspection facility is calculated, and a facility time history is calculated. A safety inspection server that analyzes and manages and establishes a maintenance management strategy for facilities; a safety check DB implemented to store data received and processed by the safety check server, and store and manage the obtained data by augmenting/virtualizing; and an interlocking system that is interlocked so that the safety inspection server can analyze and manage facility time histories, wherein the safety inspection facility is visualized through augmented reality/virtual reality according to real-time interlocking of the smart mobile device and the safety inspection server. It is characterized by grasping the state and location.

여기서, 상기 스마트 휴대기기는 상기 안전점검 시설물의 제원을 입력한 후, 상기 안전점검 시설물과 일정거리 유지한 상태에서 기내장된 라이다 센서 및 뎁스 카메라를 활용하여 상기 안전점검 시설물 외관을 스캔하여 GPS-기반으로 상기 안전점검 시설물의 위치를 등록하고, 상기 안전점검 시설물에 대한 외관 스캔 데이터 및 뎁스 영상을 상기 GPS 위치 데이터와 함께 전송할 수 있다.Here, the smart mobile device inputs the specifications of the safety inspection facility, maintains a certain distance from the safety inspection facility, scans the exterior of the safety inspection facility using the built-in LiDAR sensor and depth camera, and obtains GPS Based on this, the location of the safety inspection facility may be registered, and exterior scan data and a depth image of the safety inspection facility may be transmitted together with the GPS location data.

여기서, 상기 연동 시스템은 시설물 통합정보관리 시스템 또는 빌딩정보관리(BIM) 시스템일 수 있다.Here, the interworking system may be a facility integrated information management system or a building information management (BIM) system.

여기서, 상기 스마트 휴대기기는, 상기 안전점검 시설물에 조사되어 상기 안전점검 시설물의 외관 스캔 데이터를 생성하는 라이다 센서; 상기 안전점검 시설물을 촬영하여 3D 뎁스 영상을 생성하는 뎁스 카메라; 상기 스마트 휴대기기의 위치에 따른 GPS 위치 데이터를 생성하며, 상기 스마트 휴대기기의 위치에 대응하는 상기 안전점검 시설물의 위치를 확인하여 등록하는 GPS 모듈; 상기 라이다 센서로부터 생성된 상기 안전점검 시설물의 외관 스캔 데이터, 상기 뎁스 카메라로부터 촬영된 3D 뎁스 영상 및 GPS 위치 데이터를 수집 데이터 수집부; 상기 안전점검 서버로부터 제공되는 상기 안전점검 시설물의 제원을 입력하는 시설물 제원 입력부; 및 상기 데이터 수집부로부터 수집된 상기 안전점검 시설물의 외관 스캔 데이터, 3D 뎁스 영상 및 GPS 위치 데이터를 취합하여 상기 상기 안전점검 서버로 전송하는 통신모듈을 포함할 수 있다.Here, the smart mobile device, the lidar sensor for irradiating the safety inspection facility to generate external scan data of the safety inspection facility; a depth camera for generating a 3D depth image by photographing the safety inspection facility; a GPS module for generating GPS location data according to the location of the smart mobile device and confirming and registering the location of the safety inspection facility corresponding to the location of the smart mobile device; a data collection unit that collects exterior scan data of the safety inspection facility generated from the lidar sensor, 3D depth image captured from the depth camera, and GPS location data; a facility data input unit inputting the data of the safety inspection facility provided from the safety inspection server; and a communication module that collects exterior scan data, 3D depth image, and GPS location data of the safety inspection facility collected from the data collection unit and transmits the collected data to the safety inspection server.

여기서, 상기 안전점검 서버는, 상기 스마트 휴대기기로부터 전송되는 라이다 센서 스캔 데이터, 뎁스 카메라 촬영 데이터 및 GPS 위치 데이터를 수신하는 데이터 수신부; 상기 데이터 수신부가 수신한 상기 안전점검 시설물의 외관 스캔 데이터에 따라 상기 안전점검 시설물을 증강현실/가상현실 가시화하는 증강현실(AR)/가상현실(VR) 가시화 모듈; 상기 안전점검 시설물의 부재별/재료별 시설물 등급을 산정하는 시설물 등급 산정 모듈; 상기 연동 시스템과 연동시켜 시설물 시간이력을 분석 및 관리하는 시설물 시간이력 관리부; 및 상기 안전점검 서버가 이미지 분석 알고리즘에 따라 시설물의 유지관리전략을 수립하여 관리주체 단말에게 통지하는 시설물 유지관리전략 수립부를 포함할 수 있다.Here, the safety check server includes: a data receiving unit for receiving LIDAR sensor scan data, depth camera photographing data, and GPS location data transmitted from the smart mobile device; an augmented reality (AR)/virtual reality (VR) visualization module that visualizes the safety inspection facility in augmented reality/virtual reality according to the exterior scan data of the safety inspection facility received by the data receiving unit; a facility grade calculation module for calculating a facility grade for each member/material of the safety inspection facility; a facility time history management unit that analyzes and manages facility time histories in conjunction with the interlocking system; and a facility maintenance strategy establishment unit in which the safety inspection server establishes a facility maintenance strategy according to an image analysis algorithm and notifies the management subject terminal of the facility maintenance strategy.

여기서, 상기 시설물 등급 산정 모듈은, 이미지 분류 알고리즘을 활용하여 안전점검 시설물의 열화/손상 종류를 분류 및 분석하는 이미지 분류 및 분석부; 라이다 스캔 데이터에 따른 열화/손상 면적률을 산정하는 열화/손상 면적률 산정부; 이미지 분석을 통해 균열폭을 산정하는 균열폭 산정부; GPS 위치 데이터에 따른 열화/손상 위치를 표시하는 열화/손상 위치 표시부; 및 안전점검 시설물의 부재별/재료별 등급을 산정하는 시설물 등급 산정부를 포함할 수 있다.Here, the facility rating calculation module includes an image classification and analysis unit that classifies and analyzes deterioration/damage types of safety inspection facilities by using an image classification algorithm; a deterioration/damage area ratio calculation unit that calculates a deterioration/damage area ratio according to lidar scan data; A crack width calculation unit that calculates the crack width through image analysis; A deterioration/damage location display unit displaying a deterioration/damage location according to GPS location data; and a facility grade calculation unit that calculates the grade for each member/material of the safety inspection facility.

한편, 전술한 기술적 과제를 달성하기 위한 다른 수단으로서, 본 발명에 따른 스마트 휴대기기를 활용한 시설물 안전점검 방법은, 라이다 센서, 뎁스 카메라 및 GPS 모듈이 내장된 스마트 휴대기기를 활용한 시설물 안전점검 방법에 있어서, a) 스마트 휴대기기를 사용하여 안전점검 시설물의 시작점에서 상기 안전점검 시설물에 대한 제원을 입력하는 단계; b) 상기 안전점검 시설물의 시작점과 일정 거리를 유지하면서 상기 안전점검 시설물의 외관 스캔 데이터 및 GPS 위치 데이터를 수집하는 단계; c) 상기 스마트 휴대기기에서 수집된 데이터를 안전점검 서버로 전송하는 단계; d) 상기 안전점검 서버가 상기 안전점검 시설물의 외관 스캔 데이터에 따라 상기 안전점검 시설물을 증강현실/가상현실 가시화하는 단계; e) 상기 안전점검 서버가 상기 안전점검 시설물의 부재별/재료별 시설물 등급을 산정하는 단계; f) 연동 시스템과 연동시켜 상기 안전점검 서버가 시설물 시간이력을 분석 및 관리하는 단계; 및 g) 상기 안전점검 서버가 이미지 분석 알고리즘에 따라 시설물의 유지관리전략을 수립하여 관리주체 단말에게 통지하는 단계를 포함하되, 상기 스마트 휴대기기 및 안전점검 서버의 실시간 연동에 따른 증강현실/가상현실 가시화를 통해 상기 안전점검 시설물의 상태와 위치를 파악하는 것을 특징으로 한다.On the other hand, as another means for achieving the above-described technical problem, the facility safety inspection method using a smart mobile device according to the present invention is a facility safety using a smart mobile device having a lidar sensor, a depth camera, and a GPS module. An inspection method comprising the steps of: a) inputting specifications for a safety inspection facility at a starting point of the safety inspection facility using a smart mobile device; b) collecting exterior scan data and GPS location data of the safety inspection facility while maintaining a predetermined distance from the starting point of the safety inspection facility; c) transmitting data collected from the smart mobile device to a safety check server; d) visualizing, by the safety inspection server, the safety inspection facility in augmented reality/virtual reality according to the exterior scan data of the safety inspection facility; e) calculating, by the safety inspection server, a facility grade for each member/material of the safety inspection facility; f) analyzing and managing facility time histories by the safety inspection server in association with an interlocking system; and g) establishing, by the safety inspection server, a facility maintenance strategy according to an image analysis algorithm and notifying the management subject terminal, augmented reality/virtual reality according to real-time linkage between the smart mobile device and the safety inspection server. It is characterized in that the state and location of the safety inspection facility are grasped through visualization.

여기서, 상기 e) 단계는, e-1) 이미지 분류 알고리즘을 활용하여 안전점검 시설물의 열화/손상 종류를 분류 및 분석하는 단계; e-2) 라이다 스캔 데이터에 따른 열화/손상 면적률을 산정하는 단계; e-3) 이미지 분석을 통해 균열폭을 산정하는 단계; e-4) GPS 위치 데이터에 따른 열화/손상 위치를 표시하는 단계; 및 e-5) 상기 안전점검 시설물의 부재별/재료별 등급을 산정하는 단계를 포함할 수 있다.Here, step e) includes: e-1) classifying and analyzing types of deterioration/damage of safety inspection facilities using an image classification algorithm; e-2) Calculating a deterioration/damage area ratio according to lidar scan data; e-3) calculating crack width through image analysis; e-4) displaying the deterioration/damage location according to the GPS location data; and e-5) calculating a grade for each member/material of the safety inspection facility.

본 발명에 따르면, 스마트 휴대기기에 기내장된 라이다 센서 및 뎁스 카메라 등을 활용함으로써, 물리적 보조기구 없이 스마트 휴대기기 및 안전점검 서버의 실시간 연동에 따른 증강현실/가상현실 가시화를 통해 안전점검 시설물의 상태와 위치를 파악할 수 있고, 이에 따라, 초보자 또는 비전문가도 쉽게 접근할 수 있다.According to the present invention, by utilizing the built-in lidar sensor and depth camera in the smart mobile device, safety inspection facility through augmented reality / virtual reality visualization according to real-time linkage of the smart mobile device and safety inspection server without physical aids It is possible to grasp the state and location of the system, and thus, beginners or non-professionals can easily access it.

본 발명에 따르면, 안전점검 시설물에 대한 정량적인 평가 데이터를 기반으로 하여 시설물 시간이력을 관리함으로써 체계적이고 합리적인 유지관리 전략을 수립할 수 있다.According to the present invention, it is possible to establish a systematic and reasonable maintenance management strategy by managing the time history of the facility based on the quantitative evaluation data of the safety inspection facility.

본 발명에 따르면, 입력된 데이터를 기반으로 이미지 분류 및 분석을 통해 시설물의 열화/손상 종류를 파악하고, 또한, 분류 및 분석된 데이터를 활용하여 시설물의 열화/손상의 정량적 정도 및 물량을 파악할 수 있으며, 안전점검 시설물의 등급을 용이하게 산정할 수 있으며, 합리적인 유지관리전략을 수립하여 관리주체에게 제시할 수 있다.According to the present invention, it is possible to identify the type of deterioration/damage of a facility through image classification and analysis based on input data, and also to determine the quantitative degree and amount of deterioration/damage of a facility by utilizing the classified and analyzed data. In addition, it is possible to easily calculate the grade of safety inspection facilities, and establish a reasonable maintenance management strategy and present it to the management body.

도 1은 종래의 기술에 따른 교량구조물의 증강현실 기반 안전진단 정보 가시화 시스템을 나타낸 구성도이다.
도 2a는 종래의 기술에 따른 스마트글래스 안전진단 시스템의 간략한 구성도이고, 도 2b는 스마트글래스 안전진단 시스템의 동작을 예시하는 도면이다.
도 3은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템의 개략적인 구성도이다.
도 4는 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기를 활용하여 안전점검 시설물 외관의 스캔 데이터를 획득하는 것을 나타내는 도면이다.
도 5는 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기에 탑재된 라이다 센서의 구성 및 동작원리를 설명하기 위한 도면이다.
도 6은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기와 안전점검 서버의 개략적인 동작을 설명하기 위한 도면이다.
도 7은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 안전점검 서버의 구체적인 동작을 설명하기 위한 도면이다.
도 8은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기의 구체적인 구성도이다.
도 9는 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 안전점검 서버의 구체적인 구성도이다.
도 10은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 방법의 동작흐름도이다.
도 11은 도 10에 도시된 부재별/재료별 시설물 등급 산정 과정을 구체적으로 나타내는 동작흐름도이다.
1 is a configuration diagram showing a system for visualizing augmented reality-based safety diagnosis information of a bridge structure according to the prior art.
Figure 2a is a simplified configuration diagram of a smart glasses safety diagnosis system according to the prior art, Figure 2b is a diagram illustrating the operation of the smart glasses safety diagnosis system.
3 is a schematic configuration diagram of a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
4 is a diagram illustrating obtaining scan data of the exterior of a safety inspection facility using a smart mobile device in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
5 is a diagram for explaining the configuration and operation principle of a lidar sensor mounted on a smart mobile device in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
6 is a diagram for explaining schematic operations of a smart mobile device and a safety inspection server in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
7 is a diagram for explaining a specific operation of a safety inspection server in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
8 is a detailed configuration diagram of a smart mobile device in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
9 is a detailed configuration diagram of a safety inspection server in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
10 is an operation flowchart of a facility safety inspection method using a smart mobile device according to an embodiment of the present invention.
FIG. 11 is an operation flow chart showing in detail the process of calculating facility grades for each member/material shown in FIG. 10 .

아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.Hereinafter, embodiments of the present invention will be described in detail so that those skilled in the art can easily practice with reference to the accompanying drawings. However, the present invention may be embodied in many different forms and is not limited to the embodiments described herein. And in order to clearly explain the present invention in the drawings, parts irrelevant to the description are omitted, and similar reference numerals are attached to similar parts throughout the specification.

명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다. 또한, 명세서에 기재된 "…부" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어나 소프트웨어 또는 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다.Throughout the specification, when a certain component is said to "include", it means that it may further include other components without excluding other components unless otherwise stated. Also, terms such as “… unit” described in the specification refer to a unit that processes at least one function or operation, and may be implemented by hardware, software, or a combination of hardware and software.

[스마트 휴대기기를 활용한 시설물 안전점검 시스템][Facility safety inspection system using smart mobile devices]

도 3은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템의 개략적인 구성도이다.3 is a schematic configuration diagram of a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.

도 3을 참조하면, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템은, 라이다 센서, 뎁스 카메라 및 GPS 모듈이 내장된 스마트 휴대기기(200)를 활용한 시설물 안전점검 시스템으로서, 스마트 휴대기기(200), 안전점검 서버(300), 안전점검 DB(400), 연동 시스템(500), 관리주체 단말(600) 및 기타 장비(700)를 포함하여 구성된다.Referring to FIG. 3, the facility safety inspection system using a smart mobile device according to an embodiment of the present invention is a facility safety inspection system using a smart mobile device 200 having a lidar sensor, a depth camera, and a GPS module. As, it is configured to include a smart mobile device 200, a safety check server 300, a safety check DB 400, an interworking system 500, a management subject terminal 600 and other equipment 700.

스마트 휴대기기(200)는 라이다 센서(210), 뎁스 카메라(220) 및 GPS 모듈(240)을 구비하며, 안전점검 시설물(100)에 대한 외관 스캔 데이터 및 뎁스 카메라의 뎁스 영상을 생성하고, GPS 위치 데이터와 함께 전송한다.The smart mobile device 200 includes a lidar sensor 210, a depth camera 220, and a GPS module 240, and generates external scan data for the safety inspection facility 100 and a depth image of the depth camera, Transmits with GPS location data.

구체적으로, 상기 스마트 휴대기기(200)는 라이다 센서(210), 뎁스 카메라(220) 및 GPS 모듈(240) 등을 포함하며, 상기 안전점검 시설물(100)의 제원을 스마트 휴대기기(200)에 입력한 후, 상기 안전점검 시설물(100)과 일정거리 유지한 상태에서 기내장된 LIDAR 센서(210), 뎁스 카메라(220) 등을 활용하여 외관을 스캔하여 GPS-기반으로 상기 안전점검 시설물(100)의 위치를 등록한다. 여기서, 상기 라이다 센서(210) 및 뎁스 카메라(220)는 최근 기술의 발전에 따라 스마트 휴대기기(200)에 내장되고 있으며, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템은, 스마트 휴대기기(200)에 내장되는 상기 라이다 센서(210) 및 뎁스 카메라(220)를 이용하여 상기 안전점검 시설물(100)의 외관에 대한 스캔 데이터를 생성하게 된다.Specifically, the smart mobile device 200 includes a lidar sensor 210, a depth camera 220, a GPS module 240, etc., and the specifications of the safety inspection facility 100 After inputting in, while maintaining a certain distance from the safety inspection facility 100, the exterior is scanned using the built-in LIDAR sensor 210, depth camera 220, etc. to the safety inspection facility based on GPS ( 100) to register the location. Here, the lidar sensor 210 and the depth camera 220 are built into the smart mobile device 200 according to recent technological development, and the facility safety inspection system using the smart mobile device according to an embodiment of the present invention , scan data for the exterior of the safety inspection facility 100 is generated using the LIDAR sensor 210 and the depth camera 220 built into the smart mobile device 200 .

다시 말하면, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템은, 최근 기술의 발전에 따라 LiDAR 센서, 뎁스(Depth) 카메라, 자이로스코프 센서 등이 탑재되어 여러 가지 기능을 갖는 스마트 휴대기기(200)를 활용하여 상기 안전점검 시설물(100)의 상태를 정량적으로 평가할 수 있다. 여기서, 상기 안전점검 시설물(100)은 공용중인 도로, 교량, 터널, 댐, 항만 등의 인프라구조물일 수 있지만, 이에 국한되지 않는다.In other words, the facility safety inspection system using a smart mobile device according to an embodiment of the present invention is equipped with a LiDAR sensor, a depth camera, a gyroscope sensor, etc. according to recent technological development, and is equipped with a smart device having various functions. The state of the safety inspection facility 100 may be quantitatively evaluated using the mobile device 200 . Here, the safety inspection facility 100 may be an infrastructure structure such as a public road, bridge, tunnel, dam, port, etc., but is not limited thereto.

안전점검 서버(300)는 상기 스마트 휴대기기(200)로부터 수신한 상기 안전점검 시설물(100)의 외관 스캔 데이터에 따라 상기 안전점검 시설물(100)을 증강현실/가상현실 가시화하고, 상기 안전점검 시설물(100)의 부재별/재료별 시설물 등급을 산정하며, 시설물 시간이력을 분석 및 관리하고, 시설물의 유지관리전략을 수립한다.The safety inspection server 300 visualizes the safety inspection facility 100 in augmented reality/virtual reality according to the appearance scan data of the safety inspection facility 100 received from the smart mobile device 200, and Calculate the facility grade by member/material of (100), analyze and manage the time history of the facility, and establish a maintenance management strategy for the facility.

구체적으로, 상기 안전점검 서버(300)는 상기 안전점검 시설물(100)의 외관 스캔 데이터를 활용하여 상기 안전점검 시설물(100)을 증강현실 또는 가상현실 가시화하고, 이미지 분류 알고리즘을 활용하여 상기 안전점검 시설물(100)의 열화/손상 종류를 분류한 후, 분류된 이미지 분석데이터와 LIDAR 감지 데이터를 활용하여 손상 면적률을 산정하고, 이미지 분석을 통해 균열 폭을 산정하며, GPS-기반 손상 위치를 표시하고, 분석된 데이터를 가지고 평가 알고리즘을 활용하여 상기 안전점검 시설물(100)의 부재별/재료별 손상 등급을 산정한 후, FMS 또는 BIM 시스템과 같은 연동 시스템(500)과 연동하여 시설물의 시간이력을 관리하며, 이미지 분석 머신러닝을 활용해 시설물의 유지관리 전략을 수립하여 제시한다.Specifically, the safety inspection server 300 uses the external scan data of the safety inspection facility 100 to visualize the safety inspection facility 100 in augmented reality or virtual reality, and utilizes an image classification algorithm to perform the safety inspection. After classifying the deterioration/damage type of the facility 100, the damage area ratio is calculated using the classified image analysis data and LIDAR detection data, the crack width is calculated through image analysis, and the GPS-based damage location is displayed. After calculating the damage grade for each member/material of the safety inspection facility 100 by using an evaluation algorithm with the analyzed data, it interlocks with the interlocking system 500 such as the FMS or BIM system to record the time history of the facility and establishes and presents a maintenance strategy for facilities using image analysis and machine learning.

안전점검 DB(400)는 상기 안전점검 서버(300)가 수신 및 처리하는 데이터를 저장하며, 상기 획득된 데이터를 증강/가상현실화하여 저장 관리할 수 있도록 구현된 데이터베이스로서, 또한, 이미지 분류 알고리즘, 저장된 데이터를 분석하여 등급을 산정할 수 있는 알고리즘, 머신러닝 알고리즘 및 산정된 등급들을 시간에 따라 비교분석을 하여 적절한 유지관리전략을 제안할 수 있는 알고리즘이 저장된다.The safety check DB 400 stores data received and processed by the safety check server 300, and is a database implemented to store and manage the obtained data by augmenting/virtualizing it, and also includes an image classification algorithm, An algorithm that can calculate a grade by analyzing stored data, a machine learning algorithm, and an algorithm that can compare and analyze the calculated grades over time to propose an appropriate maintenance strategy are stored.

연동 시스템(500)은 상기 안전점검 서버(300)가 시설물 시간이력을 분석 및 관리할 수 있도록 상기 안전점검 서버(300)와 유선 또는 무선으로 연결되어 연동되며, 예를 들면, 시설물 통합정보관리 시스템(Facility Management System: FMS) 또는 빌딩정보관리(Building Information Management: BIM) 시스템일 수 있지만, 이에 국한되는 것은 아니다.The interworking system 500 is connected and interlocked with the safety inspection server 300 by wire or wireless so that the safety inspection server 300 can analyze and manage the facility time history. For example, the integrated facility information management system (Facility Management System: FMS) or building information management (Building Information Management: BIM) system, but is not limited thereto.

관리주체 단말(600)은 상기 안전점검 서버(300)가 수립하여 제시한 시설물 유지관리전략을 제공받는다.The management subject terminal 600 receives the facility maintenance management strategy established and presented by the safety check server 300 .

또한, 기타 장비(700)는 스마트 휴대기기(200)와 연동가능한 현장실험장비일 수도 있다. 여기서, 상기 연동 가능한 현장실험장비는 비파괴 검사장비 등일 수 있지만, 이에 국한되는 것은 아니며, 상기 안전점검 시설물(100) 종류에 따라 달라질 수 있고, 또한, 상기 기타 장비(700)는 드론이나 무인장비일 수도 있는데, 상기 스마트 휴대기기(200)의 접근이 어려운 곳이나 위험한 곳에 투입할 수 있도록 상기 스마트 휴대기기(200)를 드론이나 무인장비 등에 장착하여 사용할 수도 있다.In addition, the other equipment 700 may be a field experiment equipment capable of interworking with the smart mobile device 200 . Here, the interlockable field test equipment may be, but is not limited to, non-destructive testing equipment, etc., and may vary depending on the type of the safety inspection facility 100, and the other equipment 700 may be a drone or unmanned equipment. Alternatively, the smart mobile device 200 may be mounted and used in a drone or unmanned equipment so that the smart mobile device 200 may be put into an inaccessible or dangerous place.

한편, 도 4는 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기를 활용하여 안전점검 시설물 외관의 스캔 데이터를 획득하는 것을 나타내는 도면이다.Meanwhile, FIG. 4 is a diagram illustrating obtaining scan data of the exterior of a safety inspection facility by using a smart mobile device in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.

본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템의 경우, 도 4에 도시된 바와 같이, 점검자가 안전점검 시설물, 예를 들면, 교량에 접근하여 제원, 위치 등에 대한 상기 안전점검 시설물(100)에 대한 기초자료를 확인한다. 이때, 필요에 따라, 상기 스마트 휴대기기(200)와 연동 가능한 실험장비를 활용하여 추가적인 현장실험을 통해 상기 안전점검 시설물(100)의 평가와 관련된 자료 및 정보를 입력 및 전송할 수도 있다.In the case of a facility safety inspection system using a smart mobile device according to an embodiment of the present invention, as shown in FIG. 4, an inspector accesses a safety inspection facility, for example, a bridge, and performs the safety inspection on specifications, location, etc. Basic data for the facility 100 is checked. At this time, if necessary, data and information related to the evaluation of the safety inspection facility 100 may be input and transmitted through an additional field experiment using an experiment equipment capable of interlocking with the smart mobile device 200.

또한, 스마트 휴대기기(200)에 장착된 LIDAR 센서(210), 뎁스 카메라(220), 자이로스코프 센서(230) 등을 활용하여 상기 안전점검 시설물(100)의 외관을 스캔하여 스캔 데이터를 획득하고, 또한, GPS 모듈(240) 등을 활용하여 상기 안전점검 시설물(100)의 열화 또는 손상 위치를 등록 또는 표시한다.In addition, by utilizing the LIDAR sensor 210, depth camera 220, gyroscope sensor 230, etc. mounted on the smart mobile device 200, scan the exterior of the safety inspection facility 100 to obtain scan data, In addition, the location of deterioration or damage of the safety inspection facility 100 is registered or displayed using the GPS module 240 or the like.

한편, 도 5는 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기에 탑재된 라이다 센서의 구성 및 동작원리를 설명하기 위한 도면이다.On the other hand, Figure 5 is a diagram for explaining the configuration and operating principle of the LIDAR sensor mounted on the smart mobile device in the facility safety inspection system using the smart mobile device according to an embodiment of the present invention.

도 5를 참조하면, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기에 탑재된 라이다 센서(210)는 레이저를 목표물인 상기 안전점검 시설물(100)에 비춤으로써 상기 안전점검 시설물(100)까지의 거리, 방향, 속도, 온도, 물질 분포 및 농도 특성 등을 감지할 수 있다.Referring to FIG. 5, in the facility safety inspection system using a smart mobile device according to an embodiment of the present invention, the lidar sensor 210 mounted on the smart mobile device shines a laser on the safety inspection facility 100 as a target. As a result, the distance, direction, speed, temperature, material distribution and concentration characteristics to the safety inspection facility 100 can be sensed.

이러한 라이다 센서(210)는 일반적으로 높은 에너지 밀도와 짧은 주기를 갖는 펄스신호를 생성할 수 있는 레이저의 장점을 활용하여 보다 정밀한 대기 중의 물성 관측 및 거리 측정 등에 활용된다. 구체적으로, 이러한 라이다 센서(210)는 지상에서 원거리 거리 측정, 자동차 속도 위반 단속 등을 위한 간단한 형태의 라이다 센서를 비롯하여 최근에는 3차원 영상 복원을 위한 레이저 스캐너, 미래 무인자동차를 위한 3차원 영상센서의 핵심 기술로 활용되면서 그 활용성과 중요성이 점차 증가되고 있다.Such a lidar sensor 210 is generally used for more precise observation of physical properties in the air and distance measurement by utilizing the advantages of a laser capable of generating a pulse signal having a high energy density and a short period. Specifically, the lidar sensor 210 includes a simple lidar sensor for measuring long-distance distances on the ground, enforcement of vehicle speed violations, and more recently, a laser scanner for restoring a 3D image, and a 3D sensor for future unmanned vehicles. As it is used as a core technology of image sensors, its usefulness and importance are gradually increasing.

라이다 센서의 구성은 응용 분야에 따라 때로는 매우 복잡하게 구성되지만, 기본적인 구성은, 도 5에 도시된 바와 같이, 레이저 송신부, 레이저 검출부, 신호 수집 및 처리와 데이터를 송수신하기 위한 부분으로 단순하게 구분될 수 있다. 아울러 라이다 센서는 레이저 신호의 변조 방법에 따라 time-of-flight(TOF) 방식과 phase-shift 방식으로 구분될 수 있다. TOF 방식은 레이저가 펄스 신호를 방출하여 측정 범위 내에 있는 물체들로부터의 반사 펄스신호들이 수신기에 도착하는 시간을 측정함으로써 거리를 측정하는 것이 가능하다. 또한, Phase-shift 방식은 특정 주파수를 가지고 연속적으로 변조되는 레이저 빔을 방출하고 측정 범위 내에 있는 물체로부터 반사되어 되돌아 오는 신호의 위상 변화량을 측정하여 시간 및 거리를 계산하는 방식이다.Although the configuration of lidar sensors is sometimes very complicated depending on the application field, the basic configuration is simply divided into a laser transmitter, a laser detector, signal collection and processing, and data transmission and reception parts, as shown in FIG. It can be. In addition, lidar sensors may be classified into a time-of-flight (TOF) method and a phase-shift method according to a modulation method of a laser signal. In the TOF method, a laser emits a pulse signal and it is possible to measure a distance by measuring the time taken for reflected pulse signals from objects within a measurement range to arrive at a receiver. In addition, the phase-shift method is a method of calculating time and distance by emitting a continuously modulated laser beam with a specific frequency and measuring the amount of phase change of a signal that is reflected from an object within a measurement range and returned.

한편, 도 6은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기와 안전점검 서버의 개략적인 동작을 설명하기 위한 도면이다.Meanwhile, FIG. 6 is a diagram for explaining schematic operations of a smart mobile device and a safety inspection server in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.

본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템의 경우, 도 6에 도시된 바와 같이, 상기 안전점검 서버(300)는 부재별 등급을 활용하여 상기 안전점검 시설물(100) 전체의 등급 결과를 추출하고, 부재별 시설물 전체 등급을 증강현실/가상현실 가시화 화면에 지정된 양식으로 표현할 수 있다.In the case of the facility safety inspection system using a smart mobile device according to an embodiment of the present invention, as shown in FIG. It is possible to extract the grade result of and express the entire grade of the facility for each member in the format specified on the augmented reality/virtual reality visualization screen.

또한, 상기 안전점검 서버(300)는 모든 데이터를 FMS 또는 BIM 시스템과 가튼 연동 시스템(500)과 연동하여 등록하여 시간이력 관리와 이미지 분석을 통해 진행성/비진행성 보수 및 보강 여부를 판단할 수 있다.In addition, the safety check server 300 registers all data in conjunction with the FMS or BIM system and the Garten interlocking system 500 to determine whether progressive / non-progressive repairs and reinforcements are performed through time history management and image analysis .

또한, 상기 안전점검 서버(300)는 상기 안전점검 시설물(100)의 등급정보, 열화/손상 정보, 이미지 분석정보 및 시간이력정보를 활용하여 체계적이고 합리적인 시설물 유지관리전략을 수립하여 관리주체에 제안하게 된다.In addition, the safety inspection server 300 establishes a systematic and reasonable facility maintenance management strategy by utilizing grade information, deterioration/damage information, image analysis information, and time history information of the safety inspection facility 100 and proposes it to the management body. will do

한편, 도 7은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 안전점검 서버의 구체적인 동작을 설명하기 위한 도면이다.Meanwhile, FIG. 7 is a diagram for explaining a specific operation of a safety inspection server in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.

본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서, 도 7에 도시된 바와 같이, 안전점검 서버(300)는 상기 안전점검 시설물(100)의 외관 스캔 데이터를 활용하여 상기 안전점검 시설물(100)을 증강/가상현실화 시키고, 상기 안전점검 시설물(100)의 열화/손상 위치를 지정된 심볼 및 양식에 맞게 표현한다.In the facility safety inspection system using a smart mobile device according to an embodiment of the present invention, as shown in FIG. The inspection facility 100 is augmented/virtualized, and the deterioration/damage position of the safety inspection facility 100 is expressed according to a designated symbol and form.

또한, 상기 안전점검 서버(300)는 상기 안전점검 시설물(100)에 대한 외관 스캔을 통해 획득된 스캔 데이터를 분석하여 열화/손상의 종류를 분류 및 분석하고, 이러한 분석을 통해 시설물의 등급화에 필요한 정보를 추출할 수 있다. 이후, 상기 시설물 등급화를 위해 추출된 정보와 추가적인 현장실험으로 얻어진 보조정보를 통해 상기 안전점검 시설물(100)의 부재별 또는 재료별 등급화를 진행할 수 있다.In addition, the safety inspection server 300 analyzes the scan data acquired through the exterior scan of the safety inspection facility 100 to classify and analyze the type of deterioration/damage, and through this analysis, the facility is graded. You can extract the information you need. Thereafter, the safety inspection facility 100 may be graded by member or by material through the information extracted for grading the facility and the auxiliary information obtained through the additional field experiment.

한편, 도 8은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기의 구체적인 구성도이다.Meanwhile, FIG. 8 is a detailed configuration diagram of a smart mobile device in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.

도 8을 참조하면, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기(200)는, 라이다(LiDAR) 센서(210), 뎁스(Depth) 카메라(220), 자이로스코프 센서(230), GPS 모듈(240), 데이터 수집부(250), 제어부(260), 시설물 제원 입력부(270), 디스플레이(280) 및 통신모듈(290)을 포함하여 구성된다.Referring to FIG. 8 , in the facility safety inspection system using a smart mobile device according to an embodiment of the present invention, the smart mobile device 200 includes a LiDAR sensor 210 and a depth camera 220 , a gyroscope sensor 230, a GPS module 240, a data collection unit 250, a control unit 260, a facility data input unit 270, a display 280, and a communication module 290.

라이다(Light Detection And Ranging: LiDAR) 센서(210)는 상기 안전점검 시설물(100)에 조사되어 상기 안전점검 시설물(100)의 외관 스캔 데이터를 생성한다.A Light Detection And Ranging (LiDAR) sensor 210 irradiates the safety inspection facility 100 to generate exterior scan data of the safety inspection facility 100 .

뎁스 카메라(Depth Camera: 220)는 상기 안전점검 시설물(100)을 촬영하여 3D 뎁스 영상을 생성한다. 구체적으로, 이러한 뎁스 카메라(220)는 ToF(Time Of Flight Camera) 방식의 카메라로서, 미리 정해진 노출 시간(Integration Time)에 따라 대상체인 상기 안전점검 시설물(100)을 촬영하여 3D 뎁스 영상을 생성할 수 있다. A depth camera 220 captures the safety inspection facility 100 and generates a 3D depth image. Specifically, the depth camera 220 is a ToF (Time Of Flight Camera) type camera, and generates a 3D depth image by photographing the safety inspection facility 100, which is an object, according to a predetermined exposure time (Integration Time). can

자이로스코프 센서(230)는 상기 스마트 휴대기기(200)의 움직임에 대응하여 가속도 데이터를 생성한다.The gyroscope sensor 230 generates acceleration data in response to the movement of the smart mobile device 200 .

GPS 모듈(240)은 상기 스마트 휴대기기(200)의 위치에 따른 GPS 위치 데이터를 생성하며, 상기 스마트 휴대기기(200)의 위치에 대응하는 상기 안전점검 시설물(100)의 위치를 확인하여 등록할 수 있다.The GPS module 240 generates GPS location data according to the location of the smart mobile device 200, and identifies and registers the location of the safety inspection facility 100 corresponding to the location of the smart mobile device 200. can

데이터 수집부(250)는 상기 라이다 센서(210)로부터 생성된 상기 안전점검 시설물(100)의 외관 스캔 데이터, 상기 뎁스 카메라(220)로부터 촬영된 3D 뎁스 영상 및 GPS 위치 데이터를 수집한다.The data collection unit 250 collects exterior scan data of the safety inspection facility 100 generated by the lidar sensor 210, 3D depth image captured by the depth camera 220, and GPS location data.

제어부(260)는 상기 안전점검 시설물(100)의 외관을 스캔하는 상기 라이다 센서(210)의 동작, 상기 뎁스 카메라(220)의 촬영 동작, 상기 GPS 모듈(240)의 동작 등을 제어한다.The control unit 260 controls the operation of the lidar sensor 210 scanning the exterior of the safety inspection facility 100, the photographing operation of the depth camera 220, the operation of the GPS module 240, and the like.

시설물 제원 입력부(270)는 상기 안전점검 서버(300)로부터 제공되는 상기 안전점검 시설물(100)의 제원을 디스플레이(280) 화면을 통해 입력한다.The facility specification input unit 270 inputs the specifications of the safety check facility 100 provided from the safety check server 300 through the screen of the display 280 .

디스플레이(280)는 상기 라이다 센서(210)로부터 생성된 상기 안전점검 시설물(100)의 외관 스캔 데이터 및 상기 뎁스 카메라(220)로부터 촬영된 3D 뎁스 영상 등을 표시한다.The display 280 displays external scan data of the safety inspection facility 100 generated by the lidar sensor 210 and a 3D depth image captured by the depth camera 220 .

통신모듈(290)은 상기 데이터 수집부(250)로부터 수집된 상기 안전점검 시설물(100)의 외관 스캔 데이터, 3D 뎁스 영상 및 GPS 위치 데이터를 취합하여 상기 상기 안전점검 서버(300)로 전송한다.The communication module 290 collects the exterior scan data, 3D depth image, and GPS location data of the safety inspection facility 100 collected from the data collection unit 250 and transmits them to the safety inspection server 300 .

이에 따라, 상기 스마트 휴대기기(200)는 안전점검 시설물(100)에 대한 외관 스캔 데이터 및 뎁스 카메라의 뎁스 영상을 생성하고, GPS 위치 데이터와 함께 상기 안전점검 서버(300)로 전송할 수 있다.Accordingly, the smart mobile device 200 may generate exterior scan data of the safety inspection facility 100 and a depth image of a depth camera, and transmit the data to the safety inspection server 300 together with the GPS location data.

한편, 도 9는 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 안전점검 서버의 구체적인 구성도이다.Meanwhile, FIG. 9 is a detailed configuration diagram of a safety inspection server in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.

도 9를 참조하면, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 안전점검 서버(300)는 데이터 수신부(310), 증강현실(AR)/가상현실(VR) 가시화 모듈(320), 시설물 등급 산정 모듈(330), 시설물 시간이력 관리부(340) 및 시설물 유지관리전략 수립부(350)를 포함하며, 상기 시설물 등급 산정 모듈(330)은 이미지 분류 및 분석부(331), 열화/손상 면적률 산정부(332), 균열폭 산정부(333), 열화/손상 위치 표시부(334) 및 시설물 등급 산정부(335)를 포함할 수 있다.Referring to FIG. 9, in the facility safety inspection system using a smart mobile device according to an embodiment of the present invention, the safety inspection server 300 includes a data receiver 310, an augmented reality (AR)/virtual reality (VR) visualization module 320, a facility rating calculation module 330, a facility time history management unit 340, and a facility maintenance management strategy establishment unit 350, wherein the facility rating calculation module 330 includes an image classification and analysis unit 331 , a deterioration/damage area ratio calculation unit 332, a crack width calculation unit 333, a deterioration/damage location display unit 334, and a facility grade calculation unit 335.

데이터 수신부(310)는 상기 스마트 휴대기기(200)로부터 전송되는 라이다 센서 스캔 데이터, 뎁스 카메라 촬영 데이터 및 GPS 위치 데이터를 수신한다.The data receiver 310 receives LIDAR sensor scan data, depth camera capture data, and GPS location data transmitted from the smart mobile device 200 .

증강현실(AR)/가상현실(VR) 가시화 모듈(320)은 상기 데이터 수신부(310)가 수신한 상기 안전점검 시설물(100)의 외관 스캔 데이터에 따라 상기 안전점검 시설물(100)을 증강현실/가상현실 가시화한다.The augmented reality (AR)/virtual reality (VR) visualization module 320 displays the safety inspection facility 100 according to the external scan data of the safety inspection facility 100 received by the data receiver 310. Visualize virtual reality.

시설물 등급 산정 모듈(330)은 상기 안전점검 시설물(100)의 부재별/재료별 시설물 등급을 산정한다. 구체적으로, 상기 시설물 등급 산정 모듈(330)의 이미지 분류 및 분석부(331)는 이미지 분류 알고리즘을 활용하여 안전점검 시설물(100)의 열화/손상 종류를 분류 및 분석한다. 또한, 상기 시설물 등급 산정 모듈(330)의 열화/손상 면적률 산정부(332)는 라이다 스캔 데이터에 따른 열화/손상 면적률을 산정한다. 또한, 상기 시설물 등급 산정 모듈(330)의 균열폭 산정부(333)는 이미지 분석을 통해 균열폭을 산정한다. 또한, 상기 시설물 등급 산정 모듈(330)의 열화/손상 위치 표시부(334)는 GPS 위치 데이터에 따른 열화/손상 위치를 표시한다. 이에 따라, 상기 시설물 등급 산정 모듈(330)의 시설물 등급 산정부(335)는 상기 안전점검 시설물(100)의 부재별/재료별 등급을 산정한다.The facility grade calculation module 330 calculates the facility grade for each member/material of the safety inspection facility 100 . Specifically, the image classification and analysis unit 331 of the facility rating calculation module 330 classifies and analyzes the deterioration/damage type of the safety inspection facility 100 by using an image classification algorithm. In addition, the deterioration/damage area ratio calculation unit 332 of the facility class calculation module 330 calculates the deterioration/damage area ratio according to lidar scan data. In addition, the crack width calculation unit 333 of the facility grade calculation module 330 calculates the crack width through image analysis. In addition, the deterioration/damage location display unit 334 of the facility rating calculation module 330 displays the location of deterioration/damage according to GPS location data. Accordingly, the facility grade calculation unit 335 of the facility grade calculation module 330 calculates the grade for each member/material of the safety inspection facility 100 .

시설물 시간이력 관리부(340)는 연동 시스템(500)과 연동시켜 시설물 시간이력을 분석 및 관리한다.The facility time history management unit 340 analyzes and manages the facility time history in association with the linkage system 500 .

시설물 유지관리전략 수립부(350)는 상기 안전점검 서버(300)가 이미지 분석 머신러닝 알고리즘에 따라 시설물의 유지관리전략을 수립하여 관리주체 단말(600)에게 통지한다. 이때, 상기 시설물의 유지관리전략을 수립하기 위해 상기 이미지 분석 머신러닝을 활용할 수 있다는 점은 당업자에게 자명하므로 상세한 설명은 생략한다.The facility maintenance management strategy establishment unit 350 establishes a facility maintenance management strategy according to the image analysis machine learning algorithm by the safety inspection server 300 and notifies the management subject terminal 600 of the facility maintenance management strategy establishment unit 350 . At this time, since it is obvious to those skilled in the art that the image analysis machine learning can be used to establish a maintenance management strategy for the facility, a detailed description thereof will be omitted.

결국, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템은, 물리적 보조기구 없이 안전점검 서버(300) 및 스마트 휴대기기(200)의 실시간 연동에 따른 증강현실/가상현실 가시화를 통해 상기 안전점검 시설물(100)의 상태와 위치를 파악할 수 있기 때문에 초보자 또는 비전문가도 쉽게 접근할 수 있으며, 또한, 안전점검 시설물에 대한 정량적인 평가 데이터를 기반으로 하여 시설물 시간이력을 관리함으로써 체계적이고 합리적인 유지관리 전략을 수립할 수 있다.As a result, the facility safety inspection system using a smart mobile device according to an embodiment of the present invention visualizes augmented reality/virtual reality according to real-time linkage of the safety inspection server 300 and the smart mobile device 200 without a physical auxiliary device. Since the status and location of the safety inspection facility 100 can be grasped through this, beginners or non-professionals can easily access it, and also systematically and systematically manages facility time history based on quantitative evaluation data for safety inspection facilities. A reasonable maintenance strategy can be established.

또한, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템은, 입력된 데이터를 기반으로 이미지 분류 및 분석을 통해 시설물의 열화/손상 종류를 파악하고, 또한, 분류 및 분석된 데이터를 활용하여 시설물의 열화/손상의 정량적 정도 및 물량을 파악할 수 있으며, 안전점검 시설물(100)의 등급을 산정할 수 있으며, 합리적인 유지관리전략을 수립하여 관리주체에게 제시할 수 있다.In addition, the facility safety inspection system using a smart mobile device according to an embodiment of the present invention identifies the type of deterioration / damage of the facility through image classification and analysis based on the input data, and also classifies and analyzes the data It is possible to grasp the quantitative degree and amount of deterioration/damage of the facility by utilizing , it is possible to calculate the grade of the safety inspection facility (100), and it is possible to establish a reasonable maintenance management strategy and present it to the management body.

[스마트 휴대기기를 활용한 시설물 안전점검 방법][Facility safety inspection method using smart mobile devices]

도 10은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 방법의 동작흐름도이고, 도 11은 도 10에 도시된 부재별/재료별 시설물 등급 산정 과정을 구체적으로 나타내는 동작흐름도이다.FIG. 10 is an operation flow chart of a facility safety inspection method using a smart mobile device according to an embodiment of the present invention, and FIG. 11 is an operation flow chart showing in detail the facility grade calculation process for each member/material shown in FIG. 10 .

도 10 및 도 11을 참조하면, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 방법은, 먼저, 안전점검 시설물(100)의 시작점에 도착하여 시설물 안전점검 시스템의 스마트 휴대기기(200)를 구동시키고, 구동된 스마트 휴대기기(200)에 상기 안전점검 시설물(100)의 제원을 입력한다(S110).10 and 11, in the facility safety inspection method using a smart mobile device according to an embodiment of the present invention, first, the smart mobile device of the facility safety inspection system arrives at the starting point of the safety inspection facility 100 ( 200) is driven, and the specifications of the safety inspection facility 100 are input to the driven smart mobile device 200 (S110).

다음으로, 상기 안전점검 시설물(100)의 시작점을 등록한 후, 상기 안전점검 시설물(100)과 일정한 거리를 유지하면서 상기 스마트 휴대기기(200)의 라이다 센서(210), 뎁스 카메라(220) 등을 활용하여 상기 안전점검 시설물(100)의 외관을 스캔하며, 상기 스마트 휴대기기(200)의 GPS 모듈(240)을 통해 GPS-기반 삼각측량기법을 통해 위치를 등록하고, 데이터를 수집한다(S120).Next, after registering the starting point of the safety inspection facility 100, while maintaining a certain distance from the safety inspection facility 100, the lidar sensor 210 of the smart mobile device 200, the depth camera 220, etc. The exterior of the safety inspection facility 100 is scanned by using, the location is registered through the GPS-based triangulation technique through the GPS module 240 of the smart mobile device 200, and data is collected (S120). ).

다음으로, 상기 스마트 휴대기기(200)에서 수집된 데이터를 안전점검 서버(300)로 전송한다(S130). 구체적으로, 상기 스마트 휴대기기(200)는 상기 안전점검 시설물(100)의 제원을 입력한 후, 상기 안전점검 시설물(100)과 일정거리 유지한 상태에서 기내장된 라이다 센서(210) 및 뎁스 카메라(220)를 활용하여 상기 안전점검 시설물(100) 외관을 스캔하여 GPS-기반으로 상기 안전점검 시설물(100)의 위치를 등록하고, 상기 안전점검 시설물(100)에 대한 외관 스캔 데이터 및 뎁스 영상을 상기 GPS 위치 데이터와 함께 전송한다.Next, the data collected from the smart mobile device 200 is transmitted to the safety check server 300 (S130). Specifically, after the smart mobile device 200 inputs the specifications of the safety inspection facility 100, the built-in lidar sensor 210 and depth while maintaining a certain distance from the safety inspection facility 100 By using the camera 220, the exterior of the safety inspection facility 100 is scanned to register the location of the safety inspection facility 100 based on GPS, and the exterior scan data and depth image of the safety inspection facility 100 is transmitted together with the GPS location data.

다음으로, 상기 안전점검 서버(300)의 증강현실/가상현실 가시화 모듈(320)이 상기 안전점검 시설물(100)의 외관 스캔 데이터를 활용하여 상기 안전점검 시설물(100)을 증강현실(AR)/가상현실(VR) 가시화한다(S140). 여기서, 상기 안전점검 서버(300)는 데이터 수신부(310), 증강현실/가상현실 가시화 모듈(320), 시설물 등급 산정 모듈(330), 시설물 시간이력 관리부(340) 및 시설물 유지관리 전략 수립부(350)를 포함한다.Next, the augmented reality/virtual reality visualization module 320 of the safety inspection server 300 utilizes the external scan data of the safety inspection facility 100 to create the safety inspection facility 100 through augmented reality (AR)/ Virtual reality (VR) is visualized (S140). Here, the safety check server 300 includes a data receiving unit 310, an augmented reality/virtual reality visualization module 320, a facility rating calculation module 330, a facility time history management unit 340, and a facility maintenance management strategy establishment unit ( 350).

다음으로, 상기 안전점검 서버(300)의 시설물 등급 산정 모듈(330)이 상기 수집된 데이터 및 평가 알고리즘을 활용하여 상기 안전점검 시설물(100)의 부재별/재료별 시설물 등급을 산정한다(S150). 구체적으로, 상기 시설물 등급 산정 모듈(330)은 이미지 분류 및 분석부(331), 열화/손상 면적률 산정부(332), 균열폭 산정부(333), 열화/손상 위치 표시부(334) 및 시설물 등급 산정부(335)를 포함한다.Next, the facility grade calculation module 330 of the safety check server 300 calculates the facility grade for each member/material of the safety check facility 100 by utilizing the collected data and evaluation algorithm (S150). . Specifically, the facility grade calculation module 330 includes an image classification and analysis unit 331, a deterioration/damage area ratio calculation unit 332, a crack width calculation unit 333, a deterioration/damage location display unit 334, and a facility grade A calculation unit 335 is included.

구체적으로, 상기 시설물 등급 산정 모듈(330)의 이미지 분류 및 분석부(331)가 이미지 분류 알고리즘을 활용하여 열화/손상 종류를 분류 및 분석한다(S151). 이후, 상기 시설물 등급 산정 모듈(330)의 열화/손상 면적률 산정부(332)가 LIDAR 스캔 데이터를 활용하여 열화/손상 면적률을 산정한다(S152). 이후, 상기 시설물 등급 산정 모듈(330)의 균열폭 산정부(333)가 이미지 분석을 통해 균열폭을 산정한다(S153). 이후, 상기 시설물 등급 산정 모듈(330)의 열화/손상 위치 표시부(334)가 GPS 기반 삼각측량을 활용한 열화/손상 위치를 표시한다(S154). 이후, 상기 시설물 등급 산정 모듈(330)의 시설물 등급 산정부(335)가 상기 분석된 데이터 및 평가 알고리즘을 활용하여 상기 안전점검 시설물(100)의 부재별/재료별 평가등급을 산정한다(S155).Specifically, the image classification and analysis unit 331 of the facility rating calculation module 330 classifies and analyzes deterioration/damage types using an image classification algorithm (S151). Thereafter, the deterioration/damage area ratio calculation unit 332 of the facility class calculation module 330 calculates the deterioration/damage area ratio using the LIDAR scan data (S152). Thereafter, the crack width calculation unit 333 of the facility grade calculation module 330 calculates the crack width through image analysis (S153). Thereafter, the deterioration/damage position display unit 334 of the facility grade calculation module 330 displays the deterioration/damage position using GPS-based triangulation (S154). Thereafter, the facility grade calculation unit 335 of the facility grade calculation module 330 utilizes the analyzed data and evaluation algorithm to calculate the evaluation grade for each member/material of the safety inspection facility 100 (S155). .

다음으로, 상기 안전점검 서버(300)의 시설물 시간이력 관리부(340)가 상기 연동 시스템, 예를 들면, FMS 또는 BIM 시스템에 연동하여 상기 안전점검 시설물(100)의 시간에 따른 변화에 대응하는 시간이력을 분석 관리한다(S160).Next, the facility time history management unit 340 of the safety inspection server 300 interlocks with the interlocking system, for example, the FMS or BIM system to correspond to the change over time of the safety inspection facility 100. The history is analyzed and managed (S160).

다음으로, 상기 안전점검 서버(300)의 시설물 유지관리 전략 수립부(350)가 이미지 분석 머신러닝 알고리즘을 활용해 시설물의 유지관리 전략을 수립하여 관리주체 단말(600)에게 제시한다(S170).Next, the facility maintenance strategy establishment unit 350 of the safety check server 300 establishes a facility maintenance strategy using an image analysis machine learning algorithm and presents it to the management subject terminal 600 (S170).

결국, 본 발명의 실시예에 따르면, 「시설물의 안전 및 유지관리에 관한 특별법」에 의해 진행되는 시설물의 육안조사를 보다 체계적이고 정량적으로 진행할 수 있다. 또한, 스마트 휴대기기에 추가되는 각종 기능 및 센서를 활용하여 정량적이고 명확한 안전점검을 통해 보다 체계적인 시설물의 유지관리를 도모하고, 합리적인 유지관리전략을 관리 주체에 제공하여 시설물의 생애주기 비용을 낮추고 활용성을 극대화할 수 있다. 또한, 시설물의 평가에서 정량적이고 체계적인 평가를 가능하게 하며, 스마트 휴대기기를 드론이나 무인장비 등에 장착한 후 접근이 어려운 곳이나 위험한 곳에 투입 가능하게 하여 관리주체에서 보다 쉽게 안전점검을 시행하고 접근할 수 있다. 또한, 안전점검 시설물의 정량적 평가가 가능해지며, 안전점검을 위한 비용을 감소시킬 수 있다. 이를 활용하여 안전점검 관련업체의 기술교육, 한국국토안전관리원, 한국도로공사 등과 같은 관리주체들과의 협력을 통한 시설물 맞춤형 시스템 개발과 같은 다양한 기업화가 가능해진다.After all, according to an embodiment of the present invention, the visual inspection of facilities conducted according to the "Special Act on Safety and Maintenance of Facilities" can be carried out more systematically and quantitatively. In addition, by utilizing various functions and sensors added to smart mobile devices, more systematic maintenance of facilities is promoted through quantitative and clear safety inspection, and reasonable maintenance strategies are provided to the management body to lower and utilize the life cycle cost of facilities. sexuality can be maximized. In addition, it enables quantitative and systematic evaluation in the evaluation of facilities, and after attaching smart mobile devices to drones or unmanned equipment, etc., it is possible to put them in difficult or dangerous places so that the management body can conduct safety inspections and access more easily. can In addition, quantitative evaluation of safety inspection facilities is possible, and the cost for safety inspection can be reduced. By utilizing this, it becomes possible to develop various businesses such as technical training for safety inspection related companies, development of customized systems for facilities through cooperation with management entities such as Korea Land Safety Management Agency and Korea Expressway Corporation.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The above description of the present invention is for illustrative purposes, and those skilled in the art can understand that it can be easily modified into other specific forms without changing the technical spirit or essential features of the present invention. will be. Therefore, the embodiments described above should be understood as illustrative in all respects and not limiting. For example, each component described as a single type may be implemented in a distributed manner, and similarly, components described as distributed may be implemented in a combined form.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is indicated by the following claims rather than the detailed description above, and all changes or modifications derived from the meaning and scope of the claims and equivalent concepts should be construed as being included in the scope of the present invention. do.

100: 안전점검 시설물 200: 스마트 휴대기기
300: 안전점검 서버 400: 안전점검 DB
500: 연동 시스템 600: 관리주체 단말
700: 기타 장비
210: 라이다(LiDAR) 센서 220: 뎁스(Depth) 카메라
230: 자이로스코프 센서 240: GPS 모듈
250: 데이터 수집부 260: 제어부
270: 시설물 제원 입력부 280: 디스플레이
290: 통신모듈 310: 데이터 수신부
320: 증강현실(AR)/가상현실(VR) 가시화 모듈
330: 시설물 등급 산정 모듈 340: 시설물 시간이력 관리부
350: 시설물 유지관리전략 수립부 331: 이미지 분류 및 분석부
332: 열화/손상 면적률 산정부 333: 균열폭 산정부
334: 열화/손상 위치 표시부 335: 시설물 등급 산정부
100: safety inspection facility 200: smart mobile device
300: safety check server 400: safety check DB
500: interworking system 600: management subject terminal
700: other equipment
210: LiDAR sensor 220: Depth camera
230: gyroscope sensor 240: GPS module
250: data collection unit 260: control unit
270: facility data input unit 280: display
290: communication module 310: data receiving unit
320: augmented reality (AR) / virtual reality (VR) visualization module
330: Facility rating calculation module 340: Facility time history management unit
350: Facility maintenance strategy establishment unit 331: Image classification and analysis unit
332: deterioration/damage area ratio calculation unit 333: crack width calculation unit
334: deterioration/damage location display unit 335: facility rating calculation unit

Claims (12)

라이다 센서, 뎁스 카메라 및 GPS 모듈이 내장된 스마트 휴대기기(200)를 활용한 시설물 안전점검 시스템에 있어서,
라이다(LIDAR) 센서(210), 뎁스(Depth) 카메라(220) 및 GPS 모듈(240)을 구비하며, 상기 라이다 센서(210) 및 뎁스 카메라(220)를 활용하여 상기 안전점검 시설물(100) 외관을 스캔하고, GPS-기반으로 상기 안전점검 시설물(100)의 위치를 등록하며, 상기 안전점검 시설물(100)에 대한 외관 스캔 데이터 및 뎁스 영상을 상기 GPS 위치 데이터와 함께 전송하는 스마트 휴대기기(200);
상기 스마트 휴대기기(200)로부터 수신한 상기 안전점검 시설물(100)의 외관 스캔 데이터에 따라 상기 안전점검 시설물(100)을 증강현실/가상현실 가시화하고, 상기 안전점검 시설물(100)의 부재별/재료별 시설물 등급을 산정하며, 시설물 시간이력을 분석 및 관리하고, 시설물의 유지관리전략을 수립하는 안전점검 서버(300);
상기 안전점검 서버(300)가 수신 및 처리하는 데이터를 저장하며, 상기 획득된 데이터를 증강/가상현실화하여 저장 관리할 수 있도록 구현된 안전점검 DB(400); 및
상기 안전점검 서버(300)가 시설물 시간이력을 분석 및 관리할 수 있도록 연동되는 연동 시스템(500)을 포함하되,
상기 스마트 휴대기기(200) 및 안전점검 서버(300)의 실시간 연동에 따른 증강현실/가상현실 가시화를 통해 상기 안전점검 시설물(100)의 상태와 위치를 파악하는 것을 특징으로 하는 스마트 휴대기기를 활용한 시설물 안전점검 시스템.
In a facility safety inspection system using a smart mobile device 200 with a lidar sensor, a depth camera, and a built-in GPS module,
A LIDAR sensor 210, a depth camera 220, and a GPS module 240 are provided, and the safety inspection facility 100 utilizes the lidar sensor 210 and the depth camera 220 ) A smart mobile device that scans the exterior, registers the location of the safety inspection facility 100 based on GPS, and transmits the exterior scan data and depth image of the safety inspection facility 100 together with the GPS location data (200);
According to the external scan data of the safety inspection facility 100 received from the smart mobile device 200, the safety inspection facility 100 is visualized in augmented reality/virtual reality, and each member/member of the safety inspection facility 100 A safety inspection server 300 that calculates facility grades for each material, analyzes and manages facility time histories, and establishes a facility maintenance management strategy;
a safety check DB (400) implemented to store data received and processed by the safety check server 300, and store and manage the obtained data by augmenting/virtualizing; and
Including an interlocking system 500 interlocked so that the safety inspection server 300 can analyze and manage facility time histories,
Using a smart mobile device, characterized in that for grasping the state and location of the safety inspection facility 100 through augmented reality / virtual reality visualization according to real-time linkage of the smart mobile device 200 and the safety inspection server 300 A facility safety inspection system.
제1항에 있어서,
상기 스마트 휴대기기(200)는 상기 안전점검 시설물(100)의 제원을 입력한 후, 상기 안전점검 시설물(100)과 일정거리 유지한 상태에서 기내장된 라이다 센서(210) 및 뎁스 카메라(220)를 활용하여 상기 안전점검 시설물(100) 외관을 스캔하여 GPS-기반으로 상기 안전점검 시설물(100)의 위치를 등록하고, 상기 안전점검 시설물(100)에 대한 외관 스캔 데이터 및 뎁스 영상을 상기 GPS 위치 데이터와 함께 전송하는 것을 특징으로 하는 스마트 휴대기기를 활용한 시설물 안전점검 시스템.
According to claim 1,
After the smart mobile device 200 inputs the specifications of the safety inspection facility 100, the built-in lidar sensor 210 and the depth camera 220 while maintaining a certain distance from the safety inspection facility 100 ) to scan the exterior of the safety inspection facility 100, register the location of the safety inspection facility 100 based on GPS, and transmit the exterior scan data and depth image of the safety inspection facility 100 to the GPS A facility safety inspection system using a smart mobile device characterized in that it is transmitted together with location data.
제1항에 있어서,
상기 연동 시스템(500)은 시설물 통합정보관리 시스템(Facility Management System: FMS) 또는 빌딩정보관리(Building Information Management: BIM) 시스템인 것을 특징으로 하는 스마트 휴대기기를 활용한 시설물 안전점검 시스템.
According to claim 1,
The interworking system 500 is a facility safety inspection system using a smart mobile device, characterized in that a facility integrated information management system (Facility Management System: FMS) or a building information management (Building Information Management: BIM) system.
제1항에 있어서, 상기 스마트 휴대기기(200)는,
상기 안전점검 시설물(100)에 조사되어 상기 안전점검 시설물(100)의 외관 스캔 데이터를 생성하는 라이다 센서(210);
상기 안전점검 시설물(100)을 촬영하여 3D 뎁스 영상을 생성하는 뎁스 카메라(220);
상기 스마트 휴대기기(200)의 위치에 따른 GPS 위치 데이터를 생성하며, 상기 스마트 휴대기기(200)의 위치에 대응하는 상기 안전점검 시설물(100)의 위치를 확인하여 등록하는 GPS 모듈(240);
상기 라이다 센서(210)로부터 생성된 상기 안전점검 시설물(100)의 외관 스캔 데이터, 상기 뎁스 카메라(220)로부터 촬영된 3D 뎁스 영상 및 GPS 위치 데이터를 수집 데이터 수집부(250);
상기 안전점검 서버(300)로부터 제공되는 상기 안전점검 시설물(100)의 제원을 입력하는 시설물 제원 입력부(270); 및
상기 데이터 수집부(250)로부터 수집된 상기 안전점검 시설물(100)의 외관 스캔 데이터, 3D 뎁스 영상 및 GPS 위치 데이터를 취합하여 상기 상기 안전점검 서버(300)로 전송하는 통신모듈(290)을 포함하는 스마트 휴대기기를 활용한 시설물 안전점검 시스템.
The method of claim 1, wherein the smart mobile device 200,
A lidar sensor 210 irradiated to the safety inspection facility 100 to generate external scan data of the safety inspection facility 100;
a depth camera 220 for generating a 3D depth image by photographing the safety inspection facility 100;
A GPS module 240 that generates GPS location data according to the location of the smart mobile device 200 and confirms and registers the location of the safety inspection facility 100 corresponding to the location of the smart mobile device 200;
A data collection unit 250 that collects exterior scan data of the safety inspection facility 100 generated from the lidar sensor 210, 3D depth image and GPS location data taken from the depth camera 220;
a facility specification input unit 270 for inputting specifications of the safety check facility 100 provided from the safety check server 300; and
A communication module 290 for collecting exterior scan data, 3D depth image, and GPS location data of the safety inspection facility 100 collected from the data collection unit 250 and transmitting the collected data to the safety inspection server 300 Facility safety inspection system using smart mobile devices.
제1항에 있어서, 상기 안전점검 서버(300)는,
상기 스마트 휴대기기(200)로부터 전송되는 라이다 센서 스캔 데이터, 뎁스 카메라 촬영 데이터 및 GPS 위치 데이터를 수신하는 데이터 수신부(310);
상기 데이터 수신부(310)가 수신한 상기 안전점검 시설물(100)의 외관 스캔 데이터에 따라 상기 안전점검 시설물(100)을 증강현실/가상현실 가시화하는 증강현실(AR)/가상현실(VR) 가시화 모듈(320);
상기 안전점검 시설물(100)의 부재별/재료별 시설물 등급을 산정하는 시설물 등급 산정 모듈(330);
상기 연동 시스템(500)과 연동시켜 시설물 시간이력을 분석 및 관리하는 시설물 시간이력 관리부(340); 및
상기 안전점검 서버(300)가 이미지 분석 알고리즘에 따라 시설물의 유지관리전략을 수립하여 관리주체 단말(600)에게 통지하는 시설물 유지관리전략 수립부(350)를 포함하는 스마트 휴대기기를 활용한 시설물 안전점검 시스템.
The method of claim 1, wherein the safety check server 300,
a data receiver 310 for receiving lidar sensor scan data, depth camera capture data, and GPS location data transmitted from the smart mobile device 200;
An augmented reality (AR)/virtual reality (VR) visualization module that visualizes the safety inspection facility 100 in augmented reality/virtual reality according to the exterior scan data of the safety inspection facility 100 received by the data receiving unit 310. (320);
a facility grade calculation module 330 that calculates a facility grade for each member/material of the safety inspection facility 100;
a facility time history management unit 340 that analyzes and manages facility time histories in association with the interlocking system 500; and
Facility safety using a smart mobile device including a facility maintenance strategy establishment unit 350 in which the safety inspection server 300 establishes a facility maintenance strategy according to an image analysis algorithm and notifies the management subject terminal 600 inspection system.
제5항에 있어서, 상기 시설물 등급 산정 모듈(330)은,
이미지 분류 알고리즘을 활용하여 안전점검 시설물(100)의 열화/손상 종류를 분류 및 분석하는 이미지 분류 및 분석부(331);
라이다 스캔 데이터에 따른 열화/손상 면적률을 산정하는 열화/손상 면적률 산정부(332);
이미지 분석을 통해 균열폭을 산정하는 균열폭 산정부(333);
GPS 위치 데이터에 따른 열화/손상 위치를 표시하는 열화/손상 위치 표시부(334); 및
안전점검 시설물의 부재별/재료별 등급을 산정하는 시설물 등급 산정부(335)를 포함하는 스마트 휴대기기를 활용한 시설물 안전점검 시스템.
The method of claim 5, wherein the facility rating calculation module 330,
An image classification and analysis unit 331 that classifies and analyzes deterioration/damage types of the safety inspection facility 100 using an image classification algorithm;
A deterioration/damage area ratio calculation unit 332 that calculates a deterioration/damage area ratio according to lidar scan data;
A crack width calculator 333 that calculates the crack width through image analysis;
a deterioration/damage location display unit 334 displaying a deterioration/damage location according to GPS location data; and
A facility safety inspection system using a smart mobile device including a facility rating calculation unit 335 that calculates the grade of each member/material of the safety inspection facility.
라이다 센서, 뎁스 카메라 및 GPS 모듈이 내장된 스마트 휴대기기(200)를 활용한 시설물 안전점검 방법에 있어서,
a) 스마트 휴대기기(200)를 사용하여 안전점검 시설물(100)의 시작점에서 상기 안전점검 시설물(100)에 대한 제원을 입력하는 단계;
b) 상기 안전점검 시설물(100)의 시작점과 일정 거리를 유지하면서 상기 안전점검 시설물(100)의 외관 스캔 데이터 및 GPS 위치 데이터를 수집하는 단계;
c) 상기 스마트 휴대기기(200)에서 수집된 데이터를 안전점검 서버(300)로 전송하는 단계;
d) 상기 안전점검 서버(300)가 상기 안전점검 시설물(100)의 외관 스캔 데이터에 따라 상기 안전점검 시설물(100)을 증강현실/가상현실 가시화하는 단계;
e) 상기 안전점검 서버(300)가 상기 안전점검 시설물(100)의 부재별/재료별 시설물 등급을 산정하는 단계;
f) 연동 시스템(500)과 연동시켜 상기 안전점검 서버(300)가 시설물 시간이력을 분석 및 관리하는 단계; 및
g) 상기 안전점검 서버(300)가 이미지 분석 알고리즘에 따라 시설물의 유지관리전략을 수립하여 관리주체 단말(600)에게 통지하는 단계를 포함하되,
상기 스마트 휴대기기(200) 및 안전점검 서버(300)의 실시간 연동에 따른 증강현실/가상현실 가시화를 통해 상기 안전점검 시설물(100)의 상태와 위치를 파악하는 것을 특징으로 하는 스마트 휴대기기를 활용한 시설물 안전점검 방법.
In the facility safety inspection method using a smart mobile device 200 having a lidar sensor, a depth camera, and a built-in GPS module,
a) inputting specifications for the safety inspection facility 100 at the starting point of the safety inspection facility 100 using a smart mobile device 200;
b) collecting exterior scan data and GPS location data of the safety inspection facility 100 while maintaining a certain distance from the starting point of the safety inspection facility 100;
c) transmitting the data collected from the smart mobile device 200 to the safety check server 300;
d) visualizing, by the safety inspection server 300, the safety inspection facility 100 in augmented reality/virtual reality according to the exterior scan data of the safety inspection facility 100;
e) calculating, by the safety inspection server 300, a facility grade for each member/material of the safety inspection facility 100;
f) analyzing and managing facility time histories by the safety inspection server 300 in association with the linkage system 500; and
g) the safety check server 300 establishing a facility maintenance strategy according to an image analysis algorithm and notifying the management subject terminal 600,
Using a smart mobile device, characterized in that for grasping the state and location of the safety inspection facility 100 through augmented reality / virtual reality visualization according to real-time linkage of the smart mobile device 200 and the safety inspection server 300 A facility safety inspection method.
제7항에 있어서, 상기 e) 단계는,
e-1) 이미지 분류 알고리즘을 활용하여 안전점검 시설물(100)의 열화/손상 종류를 분류 및 분석하는 단계;
e-2) 라이다 스캔 데이터에 따른 열화/손상 면적률을 산정하는 단계;
e-3) 이미지 분석을 통해 균열폭을 산정하는 단계;
e-4) GPS 위치 데이터에 따른 열화/손상 위치를 표시하는 단계; 및
e-5) 상기 안전점검 시설물(100)의 부재별/재료별 등급을 산정하는 단계를 포함하는 스마트 휴대기기를 활용한 시설물 안전점검 방법.
The method of claim 7, wherein step e),
e-1) classifying and analyzing the type of deterioration/damage of the safety inspection facility 100 using an image classification algorithm;
e-2) Calculating a deterioration/damage area ratio according to lidar scan data;
e-3) calculating crack width through image analysis;
e-4) displaying the deterioration/damage location according to the GPS location data; and
e-5) A facility safety inspection method using a smart mobile device comprising the step of calculating the grade for each member/material of the safety inspection facility 100.
제7항에 있어서,
상기 c) 단계에서 스마트 휴대기기(200)는 상기 안전점검 시설물(100)의 제원을 입력한 후, 상기 안전점검 시설물(100)과 일정거리 유지한 상태에서 기내장된 라이다 센서(210) 및 뎁스 카메라(220)를 활용하여 상기 안전점검 시설물(100) 외관을 스캔하여 GPS-기반으로 상기 안전점검 시설물(100)의 위치를 등록하고, 상기 안전점검 시설물(100)에 대한 외관 스캔 데이터 및 뎁스 영상을 상기 GPS 위치 데이터와 함께 전송하는 것을 특징으로 하는 스마트 휴대기기를 활용한 시설물 안전점검 방법.
According to claim 7,
In the step c), the smart mobile device 200 inputs the specifications of the safety inspection facility 100, and then maintains a certain distance from the safety inspection facility 100, and the built-in lidar sensor 210 and The exterior of the safety inspection facility 100 is scanned using the depth camera 220 to register the location of the safety inspection facility 100 based on GPS, and the exterior scan data and depth for the safety inspection facility 100 A facility safety inspection method using a smart mobile device, characterized in that for transmitting an image together with the GPS location data.
제7항에 있어서, 상기 스마트 휴대기기(200)는,
상기 안전점검 시설물(100)에 조사되어 상기 안전점검 시설물(100)의 외관 스캔 데이터를 생성하는 라이다 센서(210);
상기 안전점검 시설물(100)을 촬영하여 3D 뎁스 영상을 생성하는 뎁스 카메라(220);
상기 스마트 휴대기기(200)의 위치에 따른 GPS 위치 데이터를 생성하며, 상기 스마트 휴대기기(200)의 위치에 대응하는 상기 안전점검 시설물(100)의 위치를 확인하여 등록하는 GPS 모듈(240);
상기 라이다 센서(210)로부터 생성된 상기 안전점검 시설물(100)의 외관 스캔 데이터, 상기 뎁스 카메라(220)로부터 촬영된 3D 뎁스 영상 및 GPS 위치 데이터를 수집 데이터 수집부(250);
상기 안전점검 서버(300)로부터 제공되는 상기 안전점검 시설물(100)의 제원을 입력하는 시설물 제원 입력부(270); 및
상기 데이터 수집부(250)로부터 수집된 상기 안전점검 시설물(100)의 외관 스캔 데이터, 3D 뎁스 영상 및 GPS 위치 데이터를 취합하여 상기 상기 안전점검 서버(300)로 전송하는 통신모듈(290)을 포함하는 스마트 휴대기기를 활용한 시설물 안전점검 방법.
The method of claim 7, wherein the smart mobile device 200,
A lidar sensor 210 irradiated to the safety inspection facility 100 to generate external scan data of the safety inspection facility 100;
a depth camera 220 for generating a 3D depth image by photographing the safety inspection facility 100;
A GPS module 240 that generates GPS location data according to the location of the smart mobile device 200 and confirms and registers the location of the safety inspection facility 100 corresponding to the location of the smart mobile device 200;
A data collection unit 250 that collects exterior scan data of the safety inspection facility 100 generated from the lidar sensor 210, 3D depth image and GPS location data taken from the depth camera 220;
a facility specification input unit 270 for inputting specifications of the safety check facility 100 provided from the safety check server 300; and
A communication module 290 for collecting exterior scan data, 3D depth image, and GPS location data of the safety inspection facility 100 collected from the data collection unit 250 and transmitting the collected data to the safety inspection server 300 A method for safety inspection of facilities using smart mobile devices.
제6항에 있어서, 상기 안전점검 서버(300)는,
상기 스마트 휴대기기(200)로부터 전송되는 라이다 센서 스캔 데이터, 뎁스 카메라 촬영 데이터 및 GPS 위치 데이터를 수신하는 데이터 수신부(310);
상기 데이터 수신부(310)가 수신한 상기 안전점검 시설물(100)의 외관 스캔 데이터에 따라 상기 안전점검 시설물(100)을 증강현실/가상현실 가시화하는 증강현실(AR)/가상현실(VR) 가시화 모듈(320);
상기 안전점검 시설물(100)의 부재별/재료별 시설물 등급을 산정하는 시설물 등급 산정 모듈(330);
상기 연동 시스템(500)과 연동시켜 시설물 시간이력을 분석 및 관리하는 시설물 시간이력 관리부(340); 및
상기 안전점검 서버(300)가 이미지 분석 알고리즘에 따라 시설물의 유지관리전략을 수립하여 관리주체 단말(600)에게 통지하는 시설물 유지관리전략 수립부(350)를 포함하는 스마트 휴대기기를 활용한 시설물 안전점검 방법.
The method of claim 6, wherein the safety check server 300,
a data receiver 310 for receiving lidar sensor scan data, depth camera capture data, and GPS location data transmitted from the smart mobile device 200;
An augmented reality (AR)/virtual reality (VR) visualization module that visualizes the safety inspection facility 100 in augmented reality/virtual reality according to the exterior scan data of the safety inspection facility 100 received by the data receiving unit 310. (320);
a facility grade calculation module 330 that calculates a facility grade for each member/material of the safety inspection facility 100;
a facility time history management unit 340 that analyzes and manages facility time histories in association with the interlocking system 500; and
Facility safety using a smart mobile device including a facility maintenance strategy establishment unit 350 in which the safety inspection server 300 establishes a facility maintenance strategy according to an image analysis algorithm and notifies the management subject terminal 600 How to check.
제11항에 있어서, 상기 시설물 등급 산정 모듈(330)은,
이미지 분류 알고리즘을 활용하여 안전점검 시설물(100)의 열화/손상 종류를 분류 및 분석하는 이미지 분류 및 분석부(331);
라이다 스캔 데이터에 따른 열화/손상 면적률을 산정하는 열화/손상 면적률 산정부(332);
이미지 분석을 통해 균열폭을 산정하는 균열폭 산정부(333);
GPS 위치 데이터에 따른 열화/손상 위치를 표시하는 열화/손상 위치 표시부(334); 및
안전점검 시설물의 부재별/재료별 등급을 산정하는 시설물 등급 산정부(335)를 포함하는 스마트 휴대기기를 활용한 시설물 안전점검 방법.
The method of claim 11, wherein the facility rating calculation module 330,
An image classification and analysis unit 331 that classifies and analyzes deterioration/damage types of the safety inspection facility 100 using an image classification algorithm;
A deterioration/damage area ratio calculation unit 332 that calculates a deterioration/damage area ratio according to lidar scan data;
A crack width calculator 333 that calculates the crack width through image analysis;
a deterioration/damage location display unit 334 displaying a deterioration/damage location according to GPS location data; and
A facility safety inspection method using a smart mobile device including a facility rating calculation unit 335 that calculates the rating for each member/material of the safety inspection facility.
KR1020210058274A 2021-05-06 SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THe SAME KR102669058B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210058274A KR102669058B1 (en) 2021-05-06 SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THe SAME

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210058274A KR102669058B1 (en) 2021-05-06 SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THe SAME

Publications (2)

Publication Number Publication Date
KR20220151263A true KR20220151263A (en) 2022-11-15
KR102669058B1 KR102669058B1 (en) 2024-05-24

Family

ID=

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102529437B1 (en) * 2023-01-17 2023-05-04 사단법인 한국교육녹색환경연구원 Online audit method and system for education facility safty certification
KR102571981B1 (en) 2023-05-24 2023-08-30 주식회사 엘에스엠케이 Facilities Inspection and Maintenance System based on Augmented Reality
KR102642392B1 (en) * 2022-12-15 2024-02-29 (주) 다음기술단 System for maintenance of facilities using augmented reality technology

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130101202A (en) 2012-03-05 2013-09-13 성균관대학교산학협력단 Method for visualization safety diagnosis information based augmented reality of bridge structure and system thereof
KR101486443B1 (en) 2012-11-26 2015-01-26 한국건설기술연구원 Multi-dimensional and object-oriented data management system for bridge based on mobile field inspection, and method for the same
KR101772916B1 (en) 2016-12-30 2017-08-31 한양대학교 에리카산학협력단 Device for measuring crack width of concretestructure
KR101984778B1 (en) 2018-10-11 2019-05-31 (주)와이즈콘 Method for multiple image cooperation on diagnosis exterior wall of structure and apparatus for performing the method
KR102189111B1 (en) 2020-06-22 2020-12-09 주식회사 제이시스 Underground facilities detection system using machine learning, augmented reality and virtual reality
KR102192341B1 (en) 2020-08-03 2020-12-17 사단법인 대한산업안전협회 Moving shot based structure inspection apparatus using smartphone
KR102195890B1 (en) 2020-09-03 2020-12-28 한세이엔씨(주) Safety Diagnosis System and Method Using Smart Glasses

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130101202A (en) 2012-03-05 2013-09-13 성균관대학교산학협력단 Method for visualization safety diagnosis information based augmented reality of bridge structure and system thereof
KR101486443B1 (en) 2012-11-26 2015-01-26 한국건설기술연구원 Multi-dimensional and object-oriented data management system for bridge based on mobile field inspection, and method for the same
KR101772916B1 (en) 2016-12-30 2017-08-31 한양대학교 에리카산학협력단 Device for measuring crack width of concretestructure
KR101984778B1 (en) 2018-10-11 2019-05-31 (주)와이즈콘 Method for multiple image cooperation on diagnosis exterior wall of structure and apparatus for performing the method
KR102189111B1 (en) 2020-06-22 2020-12-09 주식회사 제이시스 Underground facilities detection system using machine learning, augmented reality and virtual reality
KR102192341B1 (en) 2020-08-03 2020-12-17 사단법인 대한산업안전협회 Moving shot based structure inspection apparatus using smartphone
KR102195890B1 (en) 2020-09-03 2020-12-28 한세이엔씨(주) Safety Diagnosis System and Method Using Smart Glasses

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102642392B1 (en) * 2022-12-15 2024-02-29 (주) 다음기술단 System for maintenance of facilities using augmented reality technology
KR102529437B1 (en) * 2023-01-17 2023-05-04 사단법인 한국교육녹색환경연구원 Online audit method and system for education facility safty certification
KR102571981B1 (en) 2023-05-24 2023-08-30 주식회사 엘에스엠케이 Facilities Inspection and Maintenance System based on Augmented Reality

Similar Documents

Publication Publication Date Title
Koo et al. Innovative method for assessment of underground sewer pipe condition
JP6682021B2 (en) Road collapse risk evaluation device, road collapse risk evaluation method, and computer program for road collapse risk evaluation
US20180148898A1 (en) Road state management apparatus and method
Clemens et al. Uncertainties associated with laser profiling of concrete sewer pipes for the quantification of the interior geometry
Wang et al. Framework and implementation of a continuous network-wide health monitoring system for roadways
Feng et al. A survey of 3D laser scanning techniques for application to rock mechanics and rock engineering
JP6892974B1 (en) Deterioration diagnosis system, deterioration diagnosis device, deterioration diagnosis method, and program
Qureshi et al. Automated progress monitoring technological model for construction projects
Ji et al. Image‐based road crack risk‐informed assessment using a convolutional neural network and an unmanned aerial vehicle
WO2009158017A2 (en) Methods and apparatus for quality assessment of a field service operation
Motayyeb et al. Fusion of UAV-based infrared and visible images for thermal leakage map generation of building facades
Mohamed et al. Content analysis of e-inspection implementation for highway infrastructure construction projects
KR20220071462A (en) pipe nondestructive inspection system based cloud
Hu et al. Augmented reality based visualization for concrete bridge deck deterioration characterized by ground penetrating radar
Mičechová et al. New knowledge in the field of the diagnostic and evaluation of selected pavement parameters
KR102669058B1 (en) SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THe SAME
KR20220151263A (en) SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THe SAME
EP3913599A1 (en) Sign position identification system and program
KR101393191B1 (en) A cathodic protection management apparatus and the voltage and cips detection method using the apparatus
KR102260559B1 (en) Method for monitoring facility using tablet PC
AU2015201957B2 (en) Methods and apparatus for quality assessment of a field service operation
Einizinab et al. Enabling technologies for remote and virtual inspection of building work
Salem Automated productivity models for earthmoving operations
Yaghi Integrated remote sensing technologies for condition assessment of concrete bridges
Shi et al. Automated change diagnosis of single-column-pier bridges based on 3d imagery data

Legal Events

Date Code Title Description
E902 Notification of reason for refusal