KR20220151263A - SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THe SAME - Google Patents
SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THe SAME Download PDFInfo
- Publication number
- KR20220151263A KR20220151263A KR1020210058274A KR20210058274A KR20220151263A KR 20220151263 A KR20220151263 A KR 20220151263A KR 1020210058274 A KR1020210058274 A KR 1020210058274A KR 20210058274 A KR20210058274 A KR 20210058274A KR 20220151263 A KR20220151263 A KR 20220151263A
- Authority
- KR
- South Korea
- Prior art keywords
- facility
- safety inspection
- smart mobile
- mobile device
- data
- Prior art date
Links
- 238000007689 inspection Methods 0.000 title claims abstract description 266
- 238000000034 method Methods 0.000 title claims abstract description 49
- 230000006378 damage Effects 0.000 claims abstract description 77
- 230000006866 deterioration Effects 0.000 claims abstract description 74
- 230000003190 augmentative effect Effects 0.000 claims abstract description 59
- 238000012423 maintenance Methods 0.000 claims abstract description 41
- 238000012800 visualization Methods 0.000 claims abstract description 26
- 238000004458 analytical method Methods 0.000 claims abstract description 13
- 238000007726 management method Methods 0.000 claims description 61
- 238000004364 calculation method Methods 0.000 claims description 47
- 239000000463 material Substances 0.000 claims description 25
- 238000010191 image analysis Methods 0.000 claims description 20
- 238000004422 calculation algorithm Methods 0.000 claims description 15
- 238000004891 communication Methods 0.000 claims description 13
- 238000013480 data collection Methods 0.000 claims description 10
- 238000007635 classification algorithm Methods 0.000 claims description 9
- 238000011158 quantitative evaluation Methods 0.000 abstract description 7
- 230000009897 systematic effect Effects 0.000 abstract description 6
- 238000003745 diagnosis Methods 0.000 description 33
- 238000010586 diagram Methods 0.000 description 20
- 239000004984 smart glass Substances 0.000 description 18
- 238000011156 evaluation Methods 0.000 description 10
- 238000005259 measurement Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 238000010801 machine learning Methods 0.000 description 6
- 230000008439 repair process Effects 0.000 description 6
- 230000002787 reinforcement Effects 0.000 description 5
- 238000010276 construction Methods 0.000 description 4
- 238000011161 development Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000002474 experimental method Methods 0.000 description 4
- 239000003550 marker Substances 0.000 description 4
- 238000011179 visual inspection Methods 0.000 description 4
- 238000013461 design Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 238000011835 investigation Methods 0.000 description 2
- 230000010363 phase shift Effects 0.000 description 2
- 238000013439 planning Methods 0.000 description 2
- 230000000750 progressive effect Effects 0.000 description 2
- 238000007794 visualization technique Methods 0.000 description 2
- 229910000831 Steel Inorganic materials 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000007797 corrosion Effects 0.000 description 1
- 238000005260 corrosion Methods 0.000 description 1
- 238000006253 efflorescence Methods 0.000 description 1
- 238000004299 exfoliation Methods 0.000 description 1
- 230000003760 hair shine Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000009659 non-destructive testing Methods 0.000 description 1
- 239000003973 paint Substances 0.000 description 1
- 230000000704 physical effect Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 206010037844 rash Diseases 0.000 description 1
- 230000003014 reinforcing effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000010959 steel Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000002366 time-of-flight method Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/16—Measuring arrangements characterised by the use of optical techniques for measuring the deformation in a solid, e.g. optical strain gauge
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/86—Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
- G01S19/38—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system
- G01S19/39—Determining a navigation solution using signals transmitted by a satellite radio beacon positioning system the satellite radio beacon positioning system transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
- G01S19/42—Determining position
- G01S19/45—Determining position by combining measurements of signals from the satellite radio beacon positioning system with a supplementary measurement
- G01S19/46—Determining position by combining measurements of signals from the satellite radio beacon positioning system with a supplementary measurement the supplementary measurement being of a radio-wave signal type
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Business, Economics & Management (AREA)
- Computer Networks & Wireless Communication (AREA)
- Tourism & Hospitality (AREA)
- Electromagnetism (AREA)
- Theoretical Computer Science (AREA)
- Economics (AREA)
- General Business, Economics & Management (AREA)
- Strategic Management (AREA)
- Primary Health Care (AREA)
- Marketing (AREA)
- Human Resources & Organizations (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
본 발명은 시설물 안전점검 시스템에 관한 것으로, 보다 구체적으로, 스마트폰과 같은 스마트 휴대기기(또는 휴대용 스마트기기)에 내장된 다양한 기능과 센서 등을 활용하여 안전점검 시설물을 증강현실(AR)/가상현실(VR) 가시화시키고 안전점검 시설물의 상태를 평가하는, 스마트 휴대기기를 활용한 시설물 안전점검 시스템 및 그 방법에 관한 것이다.The present invention relates to a facility safety inspection system, and more specifically, to a safety inspection facility using augmented reality (AR)/virtual It relates to a facility safety inspection system and method using a smart mobile device that visualizes reality (VR) and evaluates the state of safety inspection facilities.
현재 시설물 또는 구조물에 대한 안전점검 시장은 대부분 인력에 의한 육안조사로만 이루어지고 있고, 이로 인해 점검자의 경험과 역량이 시설물의 등급 판정에 영향을 미침에 따라 정량적인 평가가 어려운 실정이다.Currently, the safety inspection market for facilities or structures is mostly conducted only by visual inspection by manpower, and as a result, it is difficult to perform quantitative evaluation as the inspector's experience and competence affect the grade of the facility.
예를 들면, 기존의 육안조사 방식 중 일부 방식은 점검자의 판단으로 열화 및 손상 등급을 산정하는 등 정량적인 평가 방식이 아니라 정성적인 평가 방식으로 수행됨에 띠리 단지 점검자의 경험과 역량이 시설물의 등급 판정에 영향을 미치는 실정이다.For example, some of the existing visual inspection methods are performed in a qualitative rather than quantitative evaluation method, such as calculating deterioration and damage grades based on the judgment of the inspector. is influencing.
구체적으로, 국내의 경우, 경제발전과 더불어 수많은 인프라구조물(Infrastructures)이 건설되고 있으나, 공용중인 도로, 교량, 터널, 댐, 항만 등의 인프라구조물의 정보관리의 체계화와 선진화는 미흡한 실정이며, 또한, 인프라구조 네트워크의 현장정보의 입력 방식이 최신 정보기술을 활용하여 관리자나 사용자 친화적인 환경으로 구현되어 있지 못하며, 이로 인해 수집되는 데이터의 신뢰도를 확보하기 어렵다는 문제점이 있었다.Specifically, in the case of Korea, numerous infrastructures are being built along with economic development, but the systematization and advancement of information management of public roads, bridges, tunnels, dams, and ports are insufficient. However, the field information input method of the infrastructure network was not implemented in a manager- or user-friendly environment using the latest information technology, and it was difficult to secure the reliability of the collected data.
기존의 시설물 관리 시스템은 관리현장의 정보와 관리시스템의 정보가 효율적으로 연계 및 순환되지 않고 있으며, 단지 정보입력에 치우쳐 있기 때문에 유용한 정보제공 역할은 미흡한 실정이다. 또한, 정보입력 방식이 텍스트나 2차원적인 평면을 활용하고 있기 때문에 입력의 용이성이 매우 낮은 실정이다.In the existing facility management system, the information of the management site and the information of the management system are not efficiently linked and circulated, and the role of providing useful information is insufficient because it is only biased toward information input. In addition, since the information input method utilizes text or a two-dimensional plane, the ease of input is very low.
또한, 교량 등 시설물의 정보를 저장, 축적, 활용 및 분석하여 관리자에게 유용한 정보를 제공하는 시설물 관리 시스템에 접속하여 정보를 조회하고, 현장조사를 통한 정보를 시설물 관리 시스템에 입력하기 위하여 최근에는 휴대용 단말기(예를 들면, 스마트폰)를 이용하고자 하는 시도가 이루어지고 있다.In addition, in order to inquire information by accessing a facility management system that provides useful information to managers by storing, accumulating, utilizing, and analyzing information of facilities such as bridges, and to input information through field surveys into the facility management system, recently, portable devices have been developed. An attempt is being made to use a terminal (eg, a smart phone).
한편, 현재 건설분야에서는 BIM(Building Information Modeling) 방법의 적용을 통해 공공시설물에 대한 입체형 설계와 전 생애주기 동안 발생하는 정보를 통합적으로 관리하여 건설공사의 품질향상을 도모하고 있다. 하지만, 대부분의 정보관리는 계획, 설계 시공시의 문제점을 해결하려는데 치중하고 있다. 즉, 계획, 설계, 시공 단계에서 BIM의 사용자 및 활용자는 전문적인 기술을 가지고 있는 엔지니어에 국한되어 있으며, 최종적으로 준공되어 공용중인 시설물의 유지관리를 담당하고 있는 관리주체의 담당자가 이를 활용하는데 한계가 있다.Meanwhile, in the current construction field, through the application of the BIM (Building Information Modeling) method, three-dimensional design for public facilities and information generated during the entire life cycle are managed in an integrated manner to improve the quality of construction work. However, most information management is focused on solving problems during planning, design and construction. In other words, the users and applications of BIM in the planning, design, and construction stages are limited to engineers with professional skills, and the person in charge of the maintenance of the finally completed and in-use facility is limited in utilizing it. there is
한편, 현재 「시설물의 안전 및 유지관리 실시 세부지침」에 규정된 현장조사의 경우, 콘크리트 재료의 균열, 백태, 박리, 박락, 철근노출, 재료분리, 누수 등을 평가하며, 또한, 강재의 경우, 도장 열화, 부식, 균열, 발청 등을 육안 조사를 통해 평가하고 있다.On the other hand, in the case of on-site investigations stipulated in the current 「Detailed Guidelines for Safety and Maintenance of Facilities」, cracks, efflorescence, peeling, exfoliation, exposure of reinforcing bars, material separation, leaks, etc. of concrete materials are evaluated. In addition, in the case of steel materials, , paint deterioration, corrosion, cracks, rusting, etc. are evaluated through visual inspection.
이러한 열화 및 손상을 면적률로 평가하는 경우, 결함 및 손상면적을 조사 단위면적으로 나누어 100을 곱한 백분율로 평가하며, 또한, 구조적 균열을 평가할 경우, 균열 방향과 폭에 따라 그 평가 기준이 상이하고, 비구조적 균열을 평가할 경우, 국부적 균열, 전반적 균열 등과 같이 정성적인 등급체계를 가지고 있다.When such deterioration and damage are evaluated by area ratio, the defect and damage area is divided by the unit area of investigation and evaluated as a percentage multiplied by 100. In addition, when evaluating structural cracks, the evaluation criteria are different depending on the direction and width of the crack. In the case of evaluating non-structural cracks, there is a qualitative grading system such as local cracks and global cracks.
또한, 안전점검 시설물의 전체 등급을 산정할 경우, 책임기술자의 판단하에 각 열화 및 손상들의 가중치나 중대한 결함의 정도 수준을 조정할 수 있으며, 안전점검 시설물의 등급과 보수 및 보강 방법에 대한 방법을 제시해야 한다.In addition, when calculating the overall grade of the safety inspection facility, the weight of each deterioration and damage or the level of serious defects can be adjusted under the judgment of the responsible engineer, and the grade of the safety inspection facility and methods for repair and reinforcement are presented. Should be.
구체적으로, 시설물의 안전점검을 위해서 열화 및 손상을 면적률로 평가하는 경우, 열화 및 손상면적을 산정해야 하는데, 이를 산정하는 방법은 현장에서 줄자를 이용한 대략적인 방법으로 정량적인 면적산정과 손상에 대해 평가하기 어렵고, 또한, 깊이를 고려하는 부피의 개념이 아닌 2차원적 면적의 개념으로 정략적인 보수 및 보강 물량을 산출해 내는 것에 한계가 있다.Specifically, when deterioration and damage are evaluated by area ratio for the safety inspection of facilities, the area of deterioration and damage must be calculated. In addition, there is a limit to calculating the quantitative amount of repair and reinforcement with the concept of a two-dimensional area rather than the concept of volume considering depth.
또한, 구조적 균열을 평가할 경우, 균열측정기를 지참하여 별도로 균열폭을 측정하고 기록하게 되어 있지만, 교량 하부, 교각 상부와 같이 접근이 어려운 곳에는 실질적으로 직접 균열을 측정하기 어려운 상황이 발생하기도 한다. 또한, 비구조적 균열을 평가할 경우, 정량적인 산정기준이 없어 국부적으로 평가하고 있다. 이에 따라, 국부적 균열, 전반적 균열 등과 같은 정성적인 평가체계를 가지고 있어 기술자의 경험과 역량이 시설물의 등급에 영향을 미치고 있는 실정이다.In addition, when evaluating structural cracks, a crack measuring device is required to measure and record the crack width separately. In addition, when evaluating non-structural cracks, there is no quantitative calculation standard, so they are evaluated locally. Accordingly, it has a qualitative evaluation system such as local cracks and overall cracks, and the experience and capabilities of engineers affect the grade of the facility.
또한, 안전점검 시설물의 전체 등급을 산정할 경우, 책임기술자의 판단하에 결정되는 사항들이 많고, 이때, 경험에 의지하여 보수 및 보강 방법과 같은 유지관리전략에 제안되어 불필요한 투자가 발생할 수도 있다. 그리고 평가된 열화 및 손상과 보수 및 보강 방법은 보고서로 작성되어 기록하기 때문에 방대한 양의 문서작업이 필요하며, 또한, 정보 전달성이 약해 시설물을 직관적으로 파악하기 어려워 현실적으로 초보자나 비전문가가 접근하기 어렵다는 문제점이 있다.In addition, when calculating the overall rating of safety inspection facilities, many matters are determined under the judgment of the responsible engineer, and at this time, unnecessary investment may occur as maintenance strategies such as repair and reinforcement methods are proposed based on experience. In addition, since the evaluated deterioration and damage and repair and reinforcement methods are written and recorded in a report, a large amount of document work is required, and it is difficult to intuitively grasp the facility due to poor information transmission, making it difficult for beginners or non-experts to approach it realistically. There is a problem.
한편, 선행기술로서, 대한민국 공개특허번호 제2013-101202호에는 "교량구조물의 증강현실 기반 안전진단 정보 가시화 방법 및 그 시스템"이라는 명칭의 발명이 개시되어 있는데, 도 1을 참조하여 설명한다.On the other hand, as a prior art, Korean Patent Publication No. 2013-101202 discloses an invention titled "Augmented reality-based safety diagnosis information visualization method and system for bridge structures", which will be described with reference to FIG.
도 1은 종래의 기술에 따른 교량구조물의 증강현실 기반 안전진단 정보 가시화 시스템을 나타낸 구성도이다.1 is a configuration diagram showing a system for visualizing augmented reality-based safety diagnosis information of a bridge structure according to the prior art.
도 1을 참조하면, 종래의 기술에 따른 교량구조물의 증강현실 기반 안전진단 정보 가시화 시스템은, 모바일 단말기(10)에서 교량구조물과 관련된 계측데이터와 GPS 위치정보로부터 수집된 정보를 3차원의 증강현실로 가시화하여 표출하는 증강현실 가시화 장치(20)를 포함한다.Referring to FIG. 1, the augmented reality-based safety diagnosis information visualization system of a bridge structure according to the prior art provides information collected from measurement data and GPS location information related to a bridge structure in a
증강현실 가시화 장치(20)는 실시간을 통해 교량구조물을 언제 어디서나 모니터링할 수 있다. 여기서, 증강현실(AR)은 현실세계에 실시간으로 부가정보를 갖는 가상세계를 합쳐 하나의 영상으로 표출하는 혼합현실 기술을 말한다. 이러한 증강현실(AR)의 구현을 위하여 모바일 단말기(10)에는 AR용 어플리케이션(23)이 설치된다.The augmented
이러한 AR용 어플리케이션(23)은 안드로이드 OS(21)를 기반으로 운영되지만, iOS이나 웹브라우저 등의 다른 운영체제에서도 운영될 수 있다. 이에 따라, AR용 어플리케이션(23)을 이용한 증강현실은 교량구조물 등과 같이 접근하기 쉽지 않은 부분을 실시간으로 안전진단할 수 있고, 이러한 실시간 안전진단을 통하여 적절한 시기에 교량을 보수 및 보강할 수 있다.This
구체적으로, 안드로이드 OS(21)-기반의 증강현실 가시화 장치(20)는 엔진(22)과 어플리케이션(23)으로 나누어진다. 여기서, 엔진(22)은 복수의 GPS 위성(32)으로부터 위치정보를 수신하는 GPS 수신모듈(22a), 서버(40)로부터 계측데이터를 수신하는 통신모듈(22c) 및 교량구조물의 구조정보, 위치정보 및 계측데이터를 수집하여 3차원의 증강현실로 가시화하는 AR 모듈(22b)을 포함하며, 또한, 서버(40)는 DB(41) 및 배포서버(42)를 포함한다. Specifically, the Android OS 21-based augmented
이러한 AR 모듈(22b)은 카메라와 자이로(Gyro)센서 등이 포함되어 있다. 그리고 어플리케이션(23)은 모바일단말기(10) 화면에 사용자 중심의 인터페이스를 제공하는 UI(사용자 인터페이스) 모듈(23a), 교량구조물의 계측기(31) 위치와 계측데이터를 수신하는 계측데이터 수신모듈(23b) 및 모바일 단말기(10)를 보유한 사용자의 위치정보를 제공하는 사용자 위치모듈(23c)을 포함한다.This
종래의 기술에 따른 교량구조물의 증강현실 기반 안전진단 정보 가시화 시스템의 경우, 교량구조물에 복수에 센서가 설치되어 있어, 교량구조물 내적요인 및 외적요인을 감지 및 계측한 후 서버 DB에 저장하게 되고, 사용자에 의해 모바일 단말기에 탑재된 AR용 어플리케이션을 선택하여 교량의 기초자료를 설정하되 모바일 단말기의 카메라와 GPS 모듈을 활용해 구조물의 구조정보, 위치정보, 계측데이터를 수집해 3차원의 증강현실로 가시화함으로써, 구조물 세부 상태에 대한 안전진단 평가정보를 제공할 수 있다.In the case of the augmented reality-based safety diagnosis information visualization system of a bridge structure according to the prior art, a plurality of sensors are installed in the bridge structure, and the internal and external factors of the bridge structure are detected and measured, and then stored in the server DB, The user selects the AR application loaded on the mobile terminal to set the basic data of the bridge, but collects structural information, location information, and measurement data of the structure using the camera and GPS module of the mobile terminal to create a 3D augmented reality. By visualizing it, it is possible to provide safety diagnosis evaluation information on the detailed state of the structure.
종래의 기술에 따른 교량구조물의 증강현실 기반 안전진단 정보 가시화 시스템의 경우, 교량구조물의 효율적인 유지관리를 위해 GPS 정보와 더불어, 스마트폰이나 태블릿 PC 등에서 GPS 정보와 연계하여 현실세계에 실시간으로 부가정보를 갖는 가상세계를 혼합하여 실제 환경을 입체화하여 하나의 영상으로 보여주는 증강현실을 이용하는 위치인식 알고리즘을 통해서 실시간 센서 데이터 액세스 및 이력정보를 가시화함으로써 교량구조물을 진단할 수 있다.In the case of the augmented reality-based safety diagnosis information visualization system of a bridge structure according to the prior art, in addition to GPS information for efficient maintenance and management of a bridge structure, additional information is real-time in the real world in conjunction with GPS information from a smartphone or tablet PC. It is possible to diagnose a bridge structure by visualizing real-time sensor data access and history information through a location recognition algorithm using augmented reality, in which a real environment is three-dimensionalized and shown as a single image by mixing a virtual world having .
종래의 기술에 따른 교량구조물의 증강현실 기반 안전진단 정보 가시화 시스템에 따르면, 교량구조물의 안전진단을 위해 증강현실 기반의 센서인식 및 진단정보 가시화를 활용하여 실시간 모니터링을 통해 적절한 시기에 교량을 안전진단할 수 있고, 이러한 안전진단 정보 가시화 시스템의 활용으로 유무선 통신방식으로 통제관제센터(33)로 실시간으로 송신되는 센서정보들을 시간과 장소에 구애받지 않고 모니터링할 수 있다.According to the augmented reality-based safety diagnosis information visualization system of bridge structures according to the prior art, for safety diagnosis of bridge structures, safety diagnosis of bridges at appropriate times through real-time monitoring by utilizing augmented reality-based sensor recognition and diagnostic information visualization. Using this safety diagnosis information visualization system, sensor information transmitted in real time to the control center 33 through wired/wireless communication can be monitored regardless of time and place.
또한, 교량구조물의 주요 부분이나 포인트마다 안전진단을 위한 센서들을 설치하여 교량 전체뿐만 아니라 각 부분이나 포인트마다 진단할 수 있고, GPS 모듈과 연계하여 센서의 위치를 정확하게 파악하여 데이터에 대한 정확성을 높이고, 무선통신망을 통해 언제 어디서나 쉽게 계측정보를 얻을 수 있으며, 3차원의 증강현실 기술을 이용하여 교량에서 접근하기 어려운 부분에 대해 용이하게 진단할 수 있는 등 교량구조물의 유지관리 편의성을 향상시킬 수 있다.In addition, by installing sensors for safety diagnosis at each major part or point of the bridge structure, it is possible to diagnose not only the entire bridge but also each part or point, and by linking with the GPS module, the location of the sensor is accurately identified to increase the accuracy of the data. , Measurement information can be easily obtained anytime, anywhere through a wireless communication network, and maintenance convenience of bridge structures can be improved by easily diagnosing inaccessible parts of the bridge using 3D augmented reality technology. .
하지만, 종래의 기술에 따른 교량구조물의 증강현실 기반 안전진단 정보 가시화 시스템의 경우, 교량구조물의 안전진단 정보를 증강현실 기반으로 가시화하기 위한 것으로, 증강현실 가시화 장치(20)의 구성 및 동작이 복잡해지고, 구체적인 안전진단을 수행하는데 한계가 있다.However, in the case of the augmented reality-based safety diagnosis information visualization system of a bridge structure according to the prior art, it is for visualizing the safety diagnosis information of a bridge structure based on augmented reality, and the configuration and operation of the augmented
한편, 다른 선행기술로서, 대한민국 등록특허번호 제10-2195890호에는 "스마트글래스 안전진단 시스템 및 안전진단 방법"이라는 명칭의 발명이 개시되어 있는데, 도 2a 및 도 2b를 참조하여 설명한다.On the other hand, as another prior art, Korean Patent Registration No. 10-2195890 discloses an invention titled "Smart Glass Safety Diagnosis System and Safety Diagnosis Method", which will be described with reference to FIGS. 2A and 2B.
도 2a는 종래의 기술에 따른 스마트글래스 안전진단 시스템의 간략한 구성도이고, 도 2b는 스마트글래스 안전진단 시스템의 동작을 예시하는 도면이다.Figure 2a is a simplified configuration diagram of a smart glasses safety diagnosis system according to the prior art, Figure 2b is a diagram illustrating the operation of the smart glasses safety diagnosis system.
도 2a 및 도 2b를 참조하면, 종래의 기술에 따른 스마트글래스 안전진단 시스템은, 스마트글래스 안전진단 시스템은 스마트글래스(50), 휴대용 단말기(60), 서버(70) 및 데이터베이스(80)를 포함한다.2a and 2b, the smart glass safety diagnosis system according to the prior art includes a
스마트글래스(50)는 카메라(51), 명령어 입력이 가능한 인터페이스 장치(예를 들면, 마이크), 무선통신 장치, 증강현실(Augmented Reality: AR) 기능이 탑재되어 투시 기능과 컴퓨터의 기능을 수행할 수 있는 안경 형태의 디바이스로서 사용자가 착용할 수 있다.The
휴대용 단말기(60)는 휴대 가능하고 통신 및 컴퓨터 기능이 있는 단말기로서, 스마트폰, 태블릿 PC 등이 사용될 수 있으며, 이러한 휴대용 단말기(60)의 액정 화면에 터치 방식으로 내용을 기입할 수 있는 화면 입력이 가능한 휴대용 단말기일 수 있다.The
또한, 휴대용 단말기(60)에는 진단중인 구조물에 대한 디지털 도면(91)이 상시 출력된 상태일 수 있으며, 해당 구조물에 기발견되어 관리되는 손상 및 열화가 존재한다면 이미 마커(92)가 생성되어 표시된 상태일 수 있다.In addition, the
마커(92)는 도면(91) 상에서 손상 및 열화가 위치하는 지점을 십자가로 표시하는 등의 단순한 표식일 수 있으나, 이러한 마커(92)는 QR 코드인 것이 바람직하며, QR 코드로서 마커(92)는 도면(91)상에서 해당 구조물, 구조물 내에서 손상, 열화의 위치, 손상, 열화의 형상 및 길이, 발견 시기, 발생 추정시기 등 손상, 열화에 관한 모든 정보가 망라되어 포함될 수 있고, 스마트글래스(50)의 인식부(52)가 QR 코드를 인식하면 손상, 열화 관련 정보가 증강현실로 스마트글래스(50)에 디스플레이 될 수 있다. 이때, 스마트글래스(50) 및 휴대용 단말기(60)는 구조물 점검 시 검사자가 직접 몸에 착용하고 휴대하며 지참하는 장치로서 현장에서 사용될 수 있다.The
반면에, 서버(70) 및 데이터베이스(80)는 원격지의 중앙관제센터 또는 관리사무소 등에 위치할 수 있다.On the other hand, the
서버(70)는 통신부(71), 프로세서(72) 및 저장부(73)를 포함하며, 인공지능 기능이 탑재된 서버인 것이 바람직하며, 스마트글래스(50) 및 휴대용 단말기(60)와 무선 네트워크를 통해 통신 연결될 수 있고, 구조물 현장에서 스마트글래스(50) 및 휴대용 단말기(60)가 영상 형식으로 송신하는 손상, 열화에 대해서는 성장도 여부를 판독하고 새로 발견하여 감지한 손상, 열화 의심 징후에 대해서는 손상 또는 열화 여부를 판독하며, 손상 또는 열화의 위험도를 판단하여 관계기관에 통보할지 여부를 결정하는 기능을 포함하여 수행할 수 있다.The
데이터베이스(80)는 구조물의 도면(91)을 저장하고, 또한 구조물에 발생할 수 있는 일반적인 손상, 열화의 이미지, 세부 특성 등에 관한 방대한 자료를 저장할 수 있어서 서버(70)가 구조물 현장에서 송신한 손상, 열화 또는 손상, 열화 의심 징후의 이미지를 보고 관련 도면(91)을 찾거나 또는 신규 감지 손상, 열화 의심 징후에 대해 손상, 열화 여부를 판독할 때 사용하는 자료를 제공할 수 있으며, 구조물의 안전진단에 따라 업데이트 되는 구조물의 도면을 버전 순서대로 저장할 수 있다.The
서버(70)는 데이터베이스(80)와 유선 또는 무선의 방식으로 로컬 연결될 수 있으며, 구조물 현장의 스마트글래스(50) 및 휴대용 단말기(60)와 무선 네트워크를 통해 연결될 수 있다.The
종래의 기술에 따른 스마트글래스 안전진단 시스템에 따르면, 현장에서 구조물의 안전진단시, 스마트글래스가 손상 및 열화의 QR코드를 인식하면 증강현실로 해당 손상 및 열화의 정보를 스마트글래스에 출력할 수 있도록 함으로써 구조물에 대한 안전진단을 신속, 정확, 안전 및 편리하게 수행할 수 있다. 하지만, 종래의 기술에 따른 스마트글래스 안전진단 시스템의 경우, 별도의 안경 형태의 스마트글래스(50)를 구비해야 하므로 용이하게 적용하기 어렵다는 문제점이 있다.According to the smart glass safety diagnosis system according to the prior art, when the safety diagnosis of a structure in the field, when the smart glass recognizes the QR code of damage and deterioration, the corresponding damage and deterioration information can be output to the smart glass through augmented reality. By doing so, safety diagnosis on structures can be performed quickly, accurately, safely and conveniently. However, in the case of the smart glass safety diagnosis system according to the prior art, there is a problem in that it is difficult to apply it easily because a separate
전술한 문제점을 해결하기 위한 본 발명이 이루고자 하는 기술적 과제는, 스마트 휴대기기에 기내장된 라이다 센서 및 뎁스 카메라 등을 활용함으로써, 물리적 보조기구 없이 스마트 휴대기기 및 안전점검 서버의 실시간 연동에 따른 증강현실/가상현실 가시화를 통해 안전점검 시설물의 상태와 위치를 파악할 수 있는, 스마트 휴대기기를 활용한 시설물 안전점검 시스템 및 그 방법을 제공하기 위한 것이다.The technical task to be achieved by the present invention for solving the above-mentioned problems is to utilize the LiDAR sensor and depth camera built into the smart mobile device, thereby real-time linkage between the smart mobile device and the safety check server without physical aids. It is to provide a facility safety inspection system and method using smart mobile devices that can grasp the status and location of safety inspection facilities through augmented reality/virtual reality visualization.
본 발명이 이루고자 하는 다른 기술적 과제는, 안전점검 시설물에 대한 정량적인 평가 데이터를 기반으로 하여 시설물 시간이력을 관리함으로써 체계적이고 합리적인 유지관리 전략을 수립할 수 있는, 스마트 휴대기기를 활용한 시설물 안전점검 시스템 및 그 방법을 제공하기 위한 것이다.Another technical problem to be achieved by the present invention is to establish a systematic and reasonable maintenance strategy by managing the time history of the facility based on the quantitative evaluation data of the safety inspection facility, facility safety inspection using a smart mobile device To provide a system and method thereof.
본 발명이 이루고자 하는 또 다른 기술적 과제는, 입력된 데이터를 기반으로 이미지 분류 및 분석을 통해 시설물의 열화/손상 종류를 파악하고, 또한, 분류 및 분석된 데이터를 활용하여 시설물의 열화/손상의 정량적 정도 및 물량을 파악할 수 있으며, 안전점검 시설물의 등급을 산정할 수 있으며, 합리적인 유지관리전략을 수립하여 관리주체에게 제시할 수 있는, 스마트 휴대기기를 활용한 시설물 안전점검 시스템 및 그 방법을 제공하기 위한 것이다.Another technical problem to be achieved by the present invention is to identify the type of deterioration/damage of facilities through image classification and analysis based on input data, and to quantitatively evaluate the deterioration/damage of facilities by utilizing the classified and analyzed data. To provide a facility safety inspection system and method using smart mobile devices that can grasp the degree and quantity, calculate the grade of safety inspection facilities, establish a reasonable maintenance management strategy, and present it to the management subject it is for
전술한 기술적 과제를 달성하기 위한 수단으로서, 본 발명에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템은, 라이다 센서, 뎁스 카메라 및 GPS 모듈이 내장된 스마트 휴대기기를 활용한 시설물 안전점검 시스템에 있어서, 라이다 센서, 뎁스 카메라 및 GPS 모듈을 구비하며, 상기 라이다 센서 및 뎁스 카메라를 활용하여 상기 안전점검 시설물 외관을 스캔하고, GPS-기반으로 상기 안전점검 시설물의 위치를 등록하며, 상기 안전점검 시설물에 대한 외관 스캔 데이터 및 뎁스 영상을 상기 GPS 위치 데이터와 함께 전송하는 스마트 휴대기기; 상기 스마트 휴대기기로부터 수신한 상기 안전점검 시설물의 외관 스캔 데이터에 따라 상기 안전점검 시설물을 증강현실/가상현실 가시화하고, 상기 안전점검 시설물의 부재별/재료별 시설물 등급을 산정하며, 시설물 시간이력을 분석 및 관리하고, 시설물의 유지관리전략을 수립하는 안전점검 서버; 상기 안전점검 서버가 수신 및 처리하는 데이터를 저장하며, 상기 획득된 데이터를 증강/가상현실화하여 저장 관리할 수 있도록 구현된 안전점검 DB; 및 상기 안전점검 서버가 시설물 시간이력을 분석 및 관리할 수 있도록 연동되는 연동 시스템을 포함하되, 상기 스마트 휴대기기 및 안전점검 서버의 실시간 연동에 따른 증강현실/가상현실 가시화를 통해 상기 안전점검 시설물의 상태와 위치를 파악하는 것을 특징으로 한다.As a means for achieving the above-described technical problem, the facility safety inspection system using a smart mobile device according to the present invention is a facility safety inspection system using a smart mobile device having a lidar sensor, a depth camera, and a GPS module. A lidar sensor, a depth camera, and a GPS module are provided, and the exterior of the safety inspection facility is scanned using the lidar sensor and the depth camera, the location of the safety inspection facility is registered based on GPS, and the safety A smart mobile device that transmits exterior scan data and depth images of inspection facilities together with the GPS location data; According to the exterior scan data of the safety inspection facility received from the smart mobile device, the safety inspection facility is visualized in augmented reality/virtual reality, a facility grade for each member/material of the safety inspection facility is calculated, and a facility time history is calculated. A safety inspection server that analyzes and manages and establishes a maintenance management strategy for facilities; a safety check DB implemented to store data received and processed by the safety check server, and store and manage the obtained data by augmenting/virtualizing; and an interlocking system that is interlocked so that the safety inspection server can analyze and manage facility time histories, wherein the safety inspection facility is visualized through augmented reality/virtual reality according to real-time interlocking of the smart mobile device and the safety inspection server. It is characterized by grasping the state and location.
여기서, 상기 스마트 휴대기기는 상기 안전점검 시설물의 제원을 입력한 후, 상기 안전점검 시설물과 일정거리 유지한 상태에서 기내장된 라이다 센서 및 뎁스 카메라를 활용하여 상기 안전점검 시설물 외관을 스캔하여 GPS-기반으로 상기 안전점검 시설물의 위치를 등록하고, 상기 안전점검 시설물에 대한 외관 스캔 데이터 및 뎁스 영상을 상기 GPS 위치 데이터와 함께 전송할 수 있다.Here, the smart mobile device inputs the specifications of the safety inspection facility, maintains a certain distance from the safety inspection facility, scans the exterior of the safety inspection facility using the built-in LiDAR sensor and depth camera, and obtains GPS Based on this, the location of the safety inspection facility may be registered, and exterior scan data and a depth image of the safety inspection facility may be transmitted together with the GPS location data.
여기서, 상기 연동 시스템은 시설물 통합정보관리 시스템 또는 빌딩정보관리(BIM) 시스템일 수 있다.Here, the interworking system may be a facility integrated information management system or a building information management (BIM) system.
여기서, 상기 스마트 휴대기기는, 상기 안전점검 시설물에 조사되어 상기 안전점검 시설물의 외관 스캔 데이터를 생성하는 라이다 센서; 상기 안전점검 시설물을 촬영하여 3D 뎁스 영상을 생성하는 뎁스 카메라; 상기 스마트 휴대기기의 위치에 따른 GPS 위치 데이터를 생성하며, 상기 스마트 휴대기기의 위치에 대응하는 상기 안전점검 시설물의 위치를 확인하여 등록하는 GPS 모듈; 상기 라이다 센서로부터 생성된 상기 안전점검 시설물의 외관 스캔 데이터, 상기 뎁스 카메라로부터 촬영된 3D 뎁스 영상 및 GPS 위치 데이터를 수집 데이터 수집부; 상기 안전점검 서버로부터 제공되는 상기 안전점검 시설물의 제원을 입력하는 시설물 제원 입력부; 및 상기 데이터 수집부로부터 수집된 상기 안전점검 시설물의 외관 스캔 데이터, 3D 뎁스 영상 및 GPS 위치 데이터를 취합하여 상기 상기 안전점검 서버로 전송하는 통신모듈을 포함할 수 있다.Here, the smart mobile device, the lidar sensor for irradiating the safety inspection facility to generate external scan data of the safety inspection facility; a depth camera for generating a 3D depth image by photographing the safety inspection facility; a GPS module for generating GPS location data according to the location of the smart mobile device and confirming and registering the location of the safety inspection facility corresponding to the location of the smart mobile device; a data collection unit that collects exterior scan data of the safety inspection facility generated from the lidar sensor, 3D depth image captured from the depth camera, and GPS location data; a facility data input unit inputting the data of the safety inspection facility provided from the safety inspection server; and a communication module that collects exterior scan data, 3D depth image, and GPS location data of the safety inspection facility collected from the data collection unit and transmits the collected data to the safety inspection server.
여기서, 상기 안전점검 서버는, 상기 스마트 휴대기기로부터 전송되는 라이다 센서 스캔 데이터, 뎁스 카메라 촬영 데이터 및 GPS 위치 데이터를 수신하는 데이터 수신부; 상기 데이터 수신부가 수신한 상기 안전점검 시설물의 외관 스캔 데이터에 따라 상기 안전점검 시설물을 증강현실/가상현실 가시화하는 증강현실(AR)/가상현실(VR) 가시화 모듈; 상기 안전점검 시설물의 부재별/재료별 시설물 등급을 산정하는 시설물 등급 산정 모듈; 상기 연동 시스템과 연동시켜 시설물 시간이력을 분석 및 관리하는 시설물 시간이력 관리부; 및 상기 안전점검 서버가 이미지 분석 알고리즘에 따라 시설물의 유지관리전략을 수립하여 관리주체 단말에게 통지하는 시설물 유지관리전략 수립부를 포함할 수 있다.Here, the safety check server includes: a data receiving unit for receiving LIDAR sensor scan data, depth camera photographing data, and GPS location data transmitted from the smart mobile device; an augmented reality (AR)/virtual reality (VR) visualization module that visualizes the safety inspection facility in augmented reality/virtual reality according to the exterior scan data of the safety inspection facility received by the data receiving unit; a facility grade calculation module for calculating a facility grade for each member/material of the safety inspection facility; a facility time history management unit that analyzes and manages facility time histories in conjunction with the interlocking system; and a facility maintenance strategy establishment unit in which the safety inspection server establishes a facility maintenance strategy according to an image analysis algorithm and notifies the management subject terminal of the facility maintenance strategy.
여기서, 상기 시설물 등급 산정 모듈은, 이미지 분류 알고리즘을 활용하여 안전점검 시설물의 열화/손상 종류를 분류 및 분석하는 이미지 분류 및 분석부; 라이다 스캔 데이터에 따른 열화/손상 면적률을 산정하는 열화/손상 면적률 산정부; 이미지 분석을 통해 균열폭을 산정하는 균열폭 산정부; GPS 위치 데이터에 따른 열화/손상 위치를 표시하는 열화/손상 위치 표시부; 및 안전점검 시설물의 부재별/재료별 등급을 산정하는 시설물 등급 산정부를 포함할 수 있다.Here, the facility rating calculation module includes an image classification and analysis unit that classifies and analyzes deterioration/damage types of safety inspection facilities by using an image classification algorithm; a deterioration/damage area ratio calculation unit that calculates a deterioration/damage area ratio according to lidar scan data; A crack width calculation unit that calculates the crack width through image analysis; A deterioration/damage location display unit displaying a deterioration/damage location according to GPS location data; and a facility grade calculation unit that calculates the grade for each member/material of the safety inspection facility.
한편, 전술한 기술적 과제를 달성하기 위한 다른 수단으로서, 본 발명에 따른 스마트 휴대기기를 활용한 시설물 안전점검 방법은, 라이다 센서, 뎁스 카메라 및 GPS 모듈이 내장된 스마트 휴대기기를 활용한 시설물 안전점검 방법에 있어서, a) 스마트 휴대기기를 사용하여 안전점검 시설물의 시작점에서 상기 안전점검 시설물에 대한 제원을 입력하는 단계; b) 상기 안전점검 시설물의 시작점과 일정 거리를 유지하면서 상기 안전점검 시설물의 외관 스캔 데이터 및 GPS 위치 데이터를 수집하는 단계; c) 상기 스마트 휴대기기에서 수집된 데이터를 안전점검 서버로 전송하는 단계; d) 상기 안전점검 서버가 상기 안전점검 시설물의 외관 스캔 데이터에 따라 상기 안전점검 시설물을 증강현실/가상현실 가시화하는 단계; e) 상기 안전점검 서버가 상기 안전점검 시설물의 부재별/재료별 시설물 등급을 산정하는 단계; f) 연동 시스템과 연동시켜 상기 안전점검 서버가 시설물 시간이력을 분석 및 관리하는 단계; 및 g) 상기 안전점검 서버가 이미지 분석 알고리즘에 따라 시설물의 유지관리전략을 수립하여 관리주체 단말에게 통지하는 단계를 포함하되, 상기 스마트 휴대기기 및 안전점검 서버의 실시간 연동에 따른 증강현실/가상현실 가시화를 통해 상기 안전점검 시설물의 상태와 위치를 파악하는 것을 특징으로 한다.On the other hand, as another means for achieving the above-described technical problem, the facility safety inspection method using a smart mobile device according to the present invention is a facility safety using a smart mobile device having a lidar sensor, a depth camera, and a GPS module. An inspection method comprising the steps of: a) inputting specifications for a safety inspection facility at a starting point of the safety inspection facility using a smart mobile device; b) collecting exterior scan data and GPS location data of the safety inspection facility while maintaining a predetermined distance from the starting point of the safety inspection facility; c) transmitting data collected from the smart mobile device to a safety check server; d) visualizing, by the safety inspection server, the safety inspection facility in augmented reality/virtual reality according to the exterior scan data of the safety inspection facility; e) calculating, by the safety inspection server, a facility grade for each member/material of the safety inspection facility; f) analyzing and managing facility time histories by the safety inspection server in association with an interlocking system; and g) establishing, by the safety inspection server, a facility maintenance strategy according to an image analysis algorithm and notifying the management subject terminal, augmented reality/virtual reality according to real-time linkage between the smart mobile device and the safety inspection server. It is characterized in that the state and location of the safety inspection facility are grasped through visualization.
여기서, 상기 e) 단계는, e-1) 이미지 분류 알고리즘을 활용하여 안전점검 시설물의 열화/손상 종류를 분류 및 분석하는 단계; e-2) 라이다 스캔 데이터에 따른 열화/손상 면적률을 산정하는 단계; e-3) 이미지 분석을 통해 균열폭을 산정하는 단계; e-4) GPS 위치 데이터에 따른 열화/손상 위치를 표시하는 단계; 및 e-5) 상기 안전점검 시설물의 부재별/재료별 등급을 산정하는 단계를 포함할 수 있다.Here, step e) includes: e-1) classifying and analyzing types of deterioration/damage of safety inspection facilities using an image classification algorithm; e-2) Calculating a deterioration/damage area ratio according to lidar scan data; e-3) calculating crack width through image analysis; e-4) displaying the deterioration/damage location according to the GPS location data; and e-5) calculating a grade for each member/material of the safety inspection facility.
본 발명에 따르면, 스마트 휴대기기에 기내장된 라이다 센서 및 뎁스 카메라 등을 활용함으로써, 물리적 보조기구 없이 스마트 휴대기기 및 안전점검 서버의 실시간 연동에 따른 증강현실/가상현실 가시화를 통해 안전점검 시설물의 상태와 위치를 파악할 수 있고, 이에 따라, 초보자 또는 비전문가도 쉽게 접근할 수 있다.According to the present invention, by utilizing the built-in lidar sensor and depth camera in the smart mobile device, safety inspection facility through augmented reality / virtual reality visualization according to real-time linkage of the smart mobile device and safety inspection server without physical aids It is possible to grasp the state and location of the system, and thus, beginners or non-professionals can easily access it.
본 발명에 따르면, 안전점검 시설물에 대한 정량적인 평가 데이터를 기반으로 하여 시설물 시간이력을 관리함으로써 체계적이고 합리적인 유지관리 전략을 수립할 수 있다.According to the present invention, it is possible to establish a systematic and reasonable maintenance management strategy by managing the time history of the facility based on the quantitative evaluation data of the safety inspection facility.
본 발명에 따르면, 입력된 데이터를 기반으로 이미지 분류 및 분석을 통해 시설물의 열화/손상 종류를 파악하고, 또한, 분류 및 분석된 데이터를 활용하여 시설물의 열화/손상의 정량적 정도 및 물량을 파악할 수 있으며, 안전점검 시설물의 등급을 용이하게 산정할 수 있으며, 합리적인 유지관리전략을 수립하여 관리주체에게 제시할 수 있다.According to the present invention, it is possible to identify the type of deterioration/damage of a facility through image classification and analysis based on input data, and also to determine the quantitative degree and amount of deterioration/damage of a facility by utilizing the classified and analyzed data. In addition, it is possible to easily calculate the grade of safety inspection facilities, and establish a reasonable maintenance management strategy and present it to the management body.
도 1은 종래의 기술에 따른 교량구조물의 증강현실 기반 안전진단 정보 가시화 시스템을 나타낸 구성도이다.
도 2a는 종래의 기술에 따른 스마트글래스 안전진단 시스템의 간략한 구성도이고, 도 2b는 스마트글래스 안전진단 시스템의 동작을 예시하는 도면이다.
도 3은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템의 개략적인 구성도이다.
도 4는 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기를 활용하여 안전점검 시설물 외관의 스캔 데이터를 획득하는 것을 나타내는 도면이다.
도 5는 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기에 탑재된 라이다 센서의 구성 및 동작원리를 설명하기 위한 도면이다.
도 6은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기와 안전점검 서버의 개략적인 동작을 설명하기 위한 도면이다.
도 7은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 안전점검 서버의 구체적인 동작을 설명하기 위한 도면이다.
도 8은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기의 구체적인 구성도이다.
도 9는 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 안전점검 서버의 구체적인 구성도이다.
도 10은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 방법의 동작흐름도이다.
도 11은 도 10에 도시된 부재별/재료별 시설물 등급 산정 과정을 구체적으로 나타내는 동작흐름도이다.1 is a configuration diagram showing a system for visualizing augmented reality-based safety diagnosis information of a bridge structure according to the prior art.
Figure 2a is a simplified configuration diagram of a smart glasses safety diagnosis system according to the prior art, Figure 2b is a diagram illustrating the operation of the smart glasses safety diagnosis system.
3 is a schematic configuration diagram of a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
4 is a diagram illustrating obtaining scan data of the exterior of a safety inspection facility using a smart mobile device in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
5 is a diagram for explaining the configuration and operation principle of a lidar sensor mounted on a smart mobile device in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
6 is a diagram for explaining schematic operations of a smart mobile device and a safety inspection server in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
7 is a diagram for explaining a specific operation of a safety inspection server in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
8 is a detailed configuration diagram of a smart mobile device in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
9 is a detailed configuration diagram of a safety inspection server in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
10 is an operation flowchart of a facility safety inspection method using a smart mobile device according to an embodiment of the present invention.
FIG. 11 is an operation flow chart showing in detail the process of calculating facility grades for each member/material shown in FIG. 10 .
아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.Hereinafter, embodiments of the present invention will be described in detail so that those skilled in the art can easily practice with reference to the accompanying drawings. However, the present invention may be embodied in many different forms and is not limited to the embodiments described herein. And in order to clearly explain the present invention in the drawings, parts irrelevant to the description are omitted, and similar reference numerals are attached to similar parts throughout the specification.
명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다. 또한, 명세서에 기재된 "…부" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어나 소프트웨어 또는 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다.Throughout the specification, when a certain component is said to "include", it means that it may further include other components without excluding other components unless otherwise stated. Also, terms such as “… unit” described in the specification refer to a unit that processes at least one function or operation, and may be implemented by hardware, software, or a combination of hardware and software.
[스마트 휴대기기를 활용한 시설물 안전점검 시스템][Facility safety inspection system using smart mobile devices]
도 3은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템의 개략적인 구성도이다.3 is a schematic configuration diagram of a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
도 3을 참조하면, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템은, 라이다 센서, 뎁스 카메라 및 GPS 모듈이 내장된 스마트 휴대기기(200)를 활용한 시설물 안전점검 시스템으로서, 스마트 휴대기기(200), 안전점검 서버(300), 안전점검 DB(400), 연동 시스템(500), 관리주체 단말(600) 및 기타 장비(700)를 포함하여 구성된다.Referring to FIG. 3, the facility safety inspection system using a smart mobile device according to an embodiment of the present invention is a facility safety inspection system using a smart
스마트 휴대기기(200)는 라이다 센서(210), 뎁스 카메라(220) 및 GPS 모듈(240)을 구비하며, 안전점검 시설물(100)에 대한 외관 스캔 데이터 및 뎁스 카메라의 뎁스 영상을 생성하고, GPS 위치 데이터와 함께 전송한다.The smart
구체적으로, 상기 스마트 휴대기기(200)는 라이다 센서(210), 뎁스 카메라(220) 및 GPS 모듈(240) 등을 포함하며, 상기 안전점검 시설물(100)의 제원을 스마트 휴대기기(200)에 입력한 후, 상기 안전점검 시설물(100)과 일정거리 유지한 상태에서 기내장된 LIDAR 센서(210), 뎁스 카메라(220) 등을 활용하여 외관을 스캔하여 GPS-기반으로 상기 안전점검 시설물(100)의 위치를 등록한다. 여기서, 상기 라이다 센서(210) 및 뎁스 카메라(220)는 최근 기술의 발전에 따라 스마트 휴대기기(200)에 내장되고 있으며, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템은, 스마트 휴대기기(200)에 내장되는 상기 라이다 센서(210) 및 뎁스 카메라(220)를 이용하여 상기 안전점검 시설물(100)의 외관에 대한 스캔 데이터를 생성하게 된다.Specifically, the smart
다시 말하면, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템은, 최근 기술의 발전에 따라 LiDAR 센서, 뎁스(Depth) 카메라, 자이로스코프 센서 등이 탑재되어 여러 가지 기능을 갖는 스마트 휴대기기(200)를 활용하여 상기 안전점검 시설물(100)의 상태를 정량적으로 평가할 수 있다. 여기서, 상기 안전점검 시설물(100)은 공용중인 도로, 교량, 터널, 댐, 항만 등의 인프라구조물일 수 있지만, 이에 국한되지 않는다.In other words, the facility safety inspection system using a smart mobile device according to an embodiment of the present invention is equipped with a LiDAR sensor, a depth camera, a gyroscope sensor, etc. according to recent technological development, and is equipped with a smart device having various functions. The state of the
안전점검 서버(300)는 상기 스마트 휴대기기(200)로부터 수신한 상기 안전점검 시설물(100)의 외관 스캔 데이터에 따라 상기 안전점검 시설물(100)을 증강현실/가상현실 가시화하고, 상기 안전점검 시설물(100)의 부재별/재료별 시설물 등급을 산정하며, 시설물 시간이력을 분석 및 관리하고, 시설물의 유지관리전략을 수립한다.The
구체적으로, 상기 안전점검 서버(300)는 상기 안전점검 시설물(100)의 외관 스캔 데이터를 활용하여 상기 안전점검 시설물(100)을 증강현실 또는 가상현실 가시화하고, 이미지 분류 알고리즘을 활용하여 상기 안전점검 시설물(100)의 열화/손상 종류를 분류한 후, 분류된 이미지 분석데이터와 LIDAR 감지 데이터를 활용하여 손상 면적률을 산정하고, 이미지 분석을 통해 균열 폭을 산정하며, GPS-기반 손상 위치를 표시하고, 분석된 데이터를 가지고 평가 알고리즘을 활용하여 상기 안전점검 시설물(100)의 부재별/재료별 손상 등급을 산정한 후, FMS 또는 BIM 시스템과 같은 연동 시스템(500)과 연동하여 시설물의 시간이력을 관리하며, 이미지 분석 머신러닝을 활용해 시설물의 유지관리 전략을 수립하여 제시한다.Specifically, the
안전점검 DB(400)는 상기 안전점검 서버(300)가 수신 및 처리하는 데이터를 저장하며, 상기 획득된 데이터를 증강/가상현실화하여 저장 관리할 수 있도록 구현된 데이터베이스로서, 또한, 이미지 분류 알고리즘, 저장된 데이터를 분석하여 등급을 산정할 수 있는 알고리즘, 머신러닝 알고리즘 및 산정된 등급들을 시간에 따라 비교분석을 하여 적절한 유지관리전략을 제안할 수 있는 알고리즘이 저장된다.The
연동 시스템(500)은 상기 안전점검 서버(300)가 시설물 시간이력을 분석 및 관리할 수 있도록 상기 안전점검 서버(300)와 유선 또는 무선으로 연결되어 연동되며, 예를 들면, 시설물 통합정보관리 시스템(Facility Management System: FMS) 또는 빌딩정보관리(Building Information Management: BIM) 시스템일 수 있지만, 이에 국한되는 것은 아니다.The
관리주체 단말(600)은 상기 안전점검 서버(300)가 수립하여 제시한 시설물 유지관리전략을 제공받는다.The
또한, 기타 장비(700)는 스마트 휴대기기(200)와 연동가능한 현장실험장비일 수도 있다. 여기서, 상기 연동 가능한 현장실험장비는 비파괴 검사장비 등일 수 있지만, 이에 국한되는 것은 아니며, 상기 안전점검 시설물(100) 종류에 따라 달라질 수 있고, 또한, 상기 기타 장비(700)는 드론이나 무인장비일 수도 있는데, 상기 스마트 휴대기기(200)의 접근이 어려운 곳이나 위험한 곳에 투입할 수 있도록 상기 스마트 휴대기기(200)를 드론이나 무인장비 등에 장착하여 사용할 수도 있다.In addition, the
한편, 도 4는 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기를 활용하여 안전점검 시설물 외관의 스캔 데이터를 획득하는 것을 나타내는 도면이다.Meanwhile, FIG. 4 is a diagram illustrating obtaining scan data of the exterior of a safety inspection facility by using a smart mobile device in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템의 경우, 도 4에 도시된 바와 같이, 점검자가 안전점검 시설물, 예를 들면, 교량에 접근하여 제원, 위치 등에 대한 상기 안전점검 시설물(100)에 대한 기초자료를 확인한다. 이때, 필요에 따라, 상기 스마트 휴대기기(200)와 연동 가능한 실험장비를 활용하여 추가적인 현장실험을 통해 상기 안전점검 시설물(100)의 평가와 관련된 자료 및 정보를 입력 및 전송할 수도 있다.In the case of a facility safety inspection system using a smart mobile device according to an embodiment of the present invention, as shown in FIG. 4, an inspector accesses a safety inspection facility, for example, a bridge, and performs the safety inspection on specifications, location, etc. Basic data for the
또한, 스마트 휴대기기(200)에 장착된 LIDAR 센서(210), 뎁스 카메라(220), 자이로스코프 센서(230) 등을 활용하여 상기 안전점검 시설물(100)의 외관을 스캔하여 스캔 데이터를 획득하고, 또한, GPS 모듈(240) 등을 활용하여 상기 안전점검 시설물(100)의 열화 또는 손상 위치를 등록 또는 표시한다.In addition, by utilizing the
한편, 도 5는 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기에 탑재된 라이다 센서의 구성 및 동작원리를 설명하기 위한 도면이다.On the other hand, Figure 5 is a diagram for explaining the configuration and operating principle of the LIDAR sensor mounted on the smart mobile device in the facility safety inspection system using the smart mobile device according to an embodiment of the present invention.
도 5를 참조하면, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기에 탑재된 라이다 센서(210)는 레이저를 목표물인 상기 안전점검 시설물(100)에 비춤으로써 상기 안전점검 시설물(100)까지의 거리, 방향, 속도, 온도, 물질 분포 및 농도 특성 등을 감지할 수 있다.Referring to FIG. 5, in the facility safety inspection system using a smart mobile device according to an embodiment of the present invention, the
이러한 라이다 센서(210)는 일반적으로 높은 에너지 밀도와 짧은 주기를 갖는 펄스신호를 생성할 수 있는 레이저의 장점을 활용하여 보다 정밀한 대기 중의 물성 관측 및 거리 측정 등에 활용된다. 구체적으로, 이러한 라이다 센서(210)는 지상에서 원거리 거리 측정, 자동차 속도 위반 단속 등을 위한 간단한 형태의 라이다 센서를 비롯하여 최근에는 3차원 영상 복원을 위한 레이저 스캐너, 미래 무인자동차를 위한 3차원 영상센서의 핵심 기술로 활용되면서 그 활용성과 중요성이 점차 증가되고 있다.Such a
라이다 센서의 구성은 응용 분야에 따라 때로는 매우 복잡하게 구성되지만, 기본적인 구성은, 도 5에 도시된 바와 같이, 레이저 송신부, 레이저 검출부, 신호 수집 및 처리와 데이터를 송수신하기 위한 부분으로 단순하게 구분될 수 있다. 아울러 라이다 센서는 레이저 신호의 변조 방법에 따라 time-of-flight(TOF) 방식과 phase-shift 방식으로 구분될 수 있다. TOF 방식은 레이저가 펄스 신호를 방출하여 측정 범위 내에 있는 물체들로부터의 반사 펄스신호들이 수신기에 도착하는 시간을 측정함으로써 거리를 측정하는 것이 가능하다. 또한, Phase-shift 방식은 특정 주파수를 가지고 연속적으로 변조되는 레이저 빔을 방출하고 측정 범위 내에 있는 물체로부터 반사되어 되돌아 오는 신호의 위상 변화량을 측정하여 시간 및 거리를 계산하는 방식이다.Although the configuration of lidar sensors is sometimes very complicated depending on the application field, the basic configuration is simply divided into a laser transmitter, a laser detector, signal collection and processing, and data transmission and reception parts, as shown in FIG. It can be. In addition, lidar sensors may be classified into a time-of-flight (TOF) method and a phase-shift method according to a modulation method of a laser signal. In the TOF method, a laser emits a pulse signal and it is possible to measure a distance by measuring the time taken for reflected pulse signals from objects within a measurement range to arrive at a receiver. In addition, the phase-shift method is a method of calculating time and distance by emitting a continuously modulated laser beam with a specific frequency and measuring the amount of phase change of a signal that is reflected from an object within a measurement range and returned.
한편, 도 6은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기와 안전점검 서버의 개략적인 동작을 설명하기 위한 도면이다.Meanwhile, FIG. 6 is a diagram for explaining schematic operations of a smart mobile device and a safety inspection server in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템의 경우, 도 6에 도시된 바와 같이, 상기 안전점검 서버(300)는 부재별 등급을 활용하여 상기 안전점검 시설물(100) 전체의 등급 결과를 추출하고, 부재별 시설물 전체 등급을 증강현실/가상현실 가시화 화면에 지정된 양식으로 표현할 수 있다.In the case of the facility safety inspection system using a smart mobile device according to an embodiment of the present invention, as shown in FIG. It is possible to extract the grade result of and express the entire grade of the facility for each member in the format specified on the augmented reality/virtual reality visualization screen.
또한, 상기 안전점검 서버(300)는 모든 데이터를 FMS 또는 BIM 시스템과 가튼 연동 시스템(500)과 연동하여 등록하여 시간이력 관리와 이미지 분석을 통해 진행성/비진행성 보수 및 보강 여부를 판단할 수 있다.In addition, the
또한, 상기 안전점검 서버(300)는 상기 안전점검 시설물(100)의 등급정보, 열화/손상 정보, 이미지 분석정보 및 시간이력정보를 활용하여 체계적이고 합리적인 시설물 유지관리전략을 수립하여 관리주체에 제안하게 된다.In addition, the
한편, 도 7은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 안전점검 서버의 구체적인 동작을 설명하기 위한 도면이다.Meanwhile, FIG. 7 is a diagram for explaining a specific operation of a safety inspection server in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서, 도 7에 도시된 바와 같이, 안전점검 서버(300)는 상기 안전점검 시설물(100)의 외관 스캔 데이터를 활용하여 상기 안전점검 시설물(100)을 증강/가상현실화 시키고, 상기 안전점검 시설물(100)의 열화/손상 위치를 지정된 심볼 및 양식에 맞게 표현한다.In the facility safety inspection system using a smart mobile device according to an embodiment of the present invention, as shown in FIG. The
또한, 상기 안전점검 서버(300)는 상기 안전점검 시설물(100)에 대한 외관 스캔을 통해 획득된 스캔 데이터를 분석하여 열화/손상의 종류를 분류 및 분석하고, 이러한 분석을 통해 시설물의 등급화에 필요한 정보를 추출할 수 있다. 이후, 상기 시설물 등급화를 위해 추출된 정보와 추가적인 현장실험으로 얻어진 보조정보를 통해 상기 안전점검 시설물(100)의 부재별 또는 재료별 등급화를 진행할 수 있다.In addition, the
한편, 도 8은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기의 구체적인 구성도이다.Meanwhile, FIG. 8 is a detailed configuration diagram of a smart mobile device in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
도 8을 참조하면, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 스마트 휴대기기(200)는, 라이다(LiDAR) 센서(210), 뎁스(Depth) 카메라(220), 자이로스코프 센서(230), GPS 모듈(240), 데이터 수집부(250), 제어부(260), 시설물 제원 입력부(270), 디스플레이(280) 및 통신모듈(290)을 포함하여 구성된다.Referring to FIG. 8 , in the facility safety inspection system using a smart mobile device according to an embodiment of the present invention, the smart
라이다(Light Detection And Ranging: LiDAR) 센서(210)는 상기 안전점검 시설물(100)에 조사되어 상기 안전점검 시설물(100)의 외관 스캔 데이터를 생성한다.A Light Detection And Ranging (LiDAR)
뎁스 카메라(Depth Camera: 220)는 상기 안전점검 시설물(100)을 촬영하여 3D 뎁스 영상을 생성한다. 구체적으로, 이러한 뎁스 카메라(220)는 ToF(Time Of Flight Camera) 방식의 카메라로서, 미리 정해진 노출 시간(Integration Time)에 따라 대상체인 상기 안전점검 시설물(100)을 촬영하여 3D 뎁스 영상을 생성할 수 있다. A
자이로스코프 센서(230)는 상기 스마트 휴대기기(200)의 움직임에 대응하여 가속도 데이터를 생성한다.The
GPS 모듈(240)은 상기 스마트 휴대기기(200)의 위치에 따른 GPS 위치 데이터를 생성하며, 상기 스마트 휴대기기(200)의 위치에 대응하는 상기 안전점검 시설물(100)의 위치를 확인하여 등록할 수 있다.The
데이터 수집부(250)는 상기 라이다 센서(210)로부터 생성된 상기 안전점검 시설물(100)의 외관 스캔 데이터, 상기 뎁스 카메라(220)로부터 촬영된 3D 뎁스 영상 및 GPS 위치 데이터를 수집한다.The
제어부(260)는 상기 안전점검 시설물(100)의 외관을 스캔하는 상기 라이다 센서(210)의 동작, 상기 뎁스 카메라(220)의 촬영 동작, 상기 GPS 모듈(240)의 동작 등을 제어한다.The
시설물 제원 입력부(270)는 상기 안전점검 서버(300)로부터 제공되는 상기 안전점검 시설물(100)의 제원을 디스플레이(280) 화면을 통해 입력한다.The facility
디스플레이(280)는 상기 라이다 센서(210)로부터 생성된 상기 안전점검 시설물(100)의 외관 스캔 데이터 및 상기 뎁스 카메라(220)로부터 촬영된 3D 뎁스 영상 등을 표시한다.The
통신모듈(290)은 상기 데이터 수집부(250)로부터 수집된 상기 안전점검 시설물(100)의 외관 스캔 데이터, 3D 뎁스 영상 및 GPS 위치 데이터를 취합하여 상기 상기 안전점검 서버(300)로 전송한다.The
이에 따라, 상기 스마트 휴대기기(200)는 안전점검 시설물(100)에 대한 외관 스캔 데이터 및 뎁스 카메라의 뎁스 영상을 생성하고, GPS 위치 데이터와 함께 상기 안전점검 서버(300)로 전송할 수 있다.Accordingly, the smart
한편, 도 9는 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 안전점검 서버의 구체적인 구성도이다.Meanwhile, FIG. 9 is a detailed configuration diagram of a safety inspection server in a facility safety inspection system using a smart mobile device according to an embodiment of the present invention.
도 9를 참조하면, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템에서 안전점검 서버(300)는 데이터 수신부(310), 증강현실(AR)/가상현실(VR) 가시화 모듈(320), 시설물 등급 산정 모듈(330), 시설물 시간이력 관리부(340) 및 시설물 유지관리전략 수립부(350)를 포함하며, 상기 시설물 등급 산정 모듈(330)은 이미지 분류 및 분석부(331), 열화/손상 면적률 산정부(332), 균열폭 산정부(333), 열화/손상 위치 표시부(334) 및 시설물 등급 산정부(335)를 포함할 수 있다.Referring to FIG. 9, in the facility safety inspection system using a smart mobile device according to an embodiment of the present invention, the
데이터 수신부(310)는 상기 스마트 휴대기기(200)로부터 전송되는 라이다 센서 스캔 데이터, 뎁스 카메라 촬영 데이터 및 GPS 위치 데이터를 수신한다.The
증강현실(AR)/가상현실(VR) 가시화 모듈(320)은 상기 데이터 수신부(310)가 수신한 상기 안전점검 시설물(100)의 외관 스캔 데이터에 따라 상기 안전점검 시설물(100)을 증강현실/가상현실 가시화한다.The augmented reality (AR)/virtual reality (VR)
시설물 등급 산정 모듈(330)은 상기 안전점검 시설물(100)의 부재별/재료별 시설물 등급을 산정한다. 구체적으로, 상기 시설물 등급 산정 모듈(330)의 이미지 분류 및 분석부(331)는 이미지 분류 알고리즘을 활용하여 안전점검 시설물(100)의 열화/손상 종류를 분류 및 분석한다. 또한, 상기 시설물 등급 산정 모듈(330)의 열화/손상 면적률 산정부(332)는 라이다 스캔 데이터에 따른 열화/손상 면적률을 산정한다. 또한, 상기 시설물 등급 산정 모듈(330)의 균열폭 산정부(333)는 이미지 분석을 통해 균열폭을 산정한다. 또한, 상기 시설물 등급 산정 모듈(330)의 열화/손상 위치 표시부(334)는 GPS 위치 데이터에 따른 열화/손상 위치를 표시한다. 이에 따라, 상기 시설물 등급 산정 모듈(330)의 시설물 등급 산정부(335)는 상기 안전점검 시설물(100)의 부재별/재료별 등급을 산정한다.The facility
시설물 시간이력 관리부(340)는 연동 시스템(500)과 연동시켜 시설물 시간이력을 분석 및 관리한다.The facility time
시설물 유지관리전략 수립부(350)는 상기 안전점검 서버(300)가 이미지 분석 머신러닝 알고리즘에 따라 시설물의 유지관리전략을 수립하여 관리주체 단말(600)에게 통지한다. 이때, 상기 시설물의 유지관리전략을 수립하기 위해 상기 이미지 분석 머신러닝을 활용할 수 있다는 점은 당업자에게 자명하므로 상세한 설명은 생략한다.The facility maintenance management
결국, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템은, 물리적 보조기구 없이 안전점검 서버(300) 및 스마트 휴대기기(200)의 실시간 연동에 따른 증강현실/가상현실 가시화를 통해 상기 안전점검 시설물(100)의 상태와 위치를 파악할 수 있기 때문에 초보자 또는 비전문가도 쉽게 접근할 수 있으며, 또한, 안전점검 시설물에 대한 정량적인 평가 데이터를 기반으로 하여 시설물 시간이력을 관리함으로써 체계적이고 합리적인 유지관리 전략을 수립할 수 있다.As a result, the facility safety inspection system using a smart mobile device according to an embodiment of the present invention visualizes augmented reality/virtual reality according to real-time linkage of the
또한, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 시스템은, 입력된 데이터를 기반으로 이미지 분류 및 분석을 통해 시설물의 열화/손상 종류를 파악하고, 또한, 분류 및 분석된 데이터를 활용하여 시설물의 열화/손상의 정량적 정도 및 물량을 파악할 수 있으며, 안전점검 시설물(100)의 등급을 산정할 수 있으며, 합리적인 유지관리전략을 수립하여 관리주체에게 제시할 수 있다.In addition, the facility safety inspection system using a smart mobile device according to an embodiment of the present invention identifies the type of deterioration / damage of the facility through image classification and analysis based on the input data, and also classifies and analyzes the data It is possible to grasp the quantitative degree and amount of deterioration/damage of the facility by utilizing , it is possible to calculate the grade of the safety inspection facility (100), and it is possible to establish a reasonable maintenance management strategy and present it to the management body.
[스마트 휴대기기를 활용한 시설물 안전점검 방법][Facility safety inspection method using smart mobile devices]
도 10은 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 방법의 동작흐름도이고, 도 11은 도 10에 도시된 부재별/재료별 시설물 등급 산정 과정을 구체적으로 나타내는 동작흐름도이다.FIG. 10 is an operation flow chart of a facility safety inspection method using a smart mobile device according to an embodiment of the present invention, and FIG. 11 is an operation flow chart showing in detail the facility grade calculation process for each member/material shown in FIG. 10 .
도 10 및 도 11을 참조하면, 본 발명의 실시예에 따른 스마트 휴대기기를 활용한 시설물 안전점검 방법은, 먼저, 안전점검 시설물(100)의 시작점에 도착하여 시설물 안전점검 시스템의 스마트 휴대기기(200)를 구동시키고, 구동된 스마트 휴대기기(200)에 상기 안전점검 시설물(100)의 제원을 입력한다(S110).10 and 11, in the facility safety inspection method using a smart mobile device according to an embodiment of the present invention, first, the smart mobile device of the facility safety inspection system arrives at the starting point of the safety inspection facility 100 ( 200) is driven, and the specifications of the
다음으로, 상기 안전점검 시설물(100)의 시작점을 등록한 후, 상기 안전점검 시설물(100)과 일정한 거리를 유지하면서 상기 스마트 휴대기기(200)의 라이다 센서(210), 뎁스 카메라(220) 등을 활용하여 상기 안전점검 시설물(100)의 외관을 스캔하며, 상기 스마트 휴대기기(200)의 GPS 모듈(240)을 통해 GPS-기반 삼각측량기법을 통해 위치를 등록하고, 데이터를 수집한다(S120).Next, after registering the starting point of the
다음으로, 상기 스마트 휴대기기(200)에서 수집된 데이터를 안전점검 서버(300)로 전송한다(S130). 구체적으로, 상기 스마트 휴대기기(200)는 상기 안전점검 시설물(100)의 제원을 입력한 후, 상기 안전점검 시설물(100)과 일정거리 유지한 상태에서 기내장된 라이다 센서(210) 및 뎁스 카메라(220)를 활용하여 상기 안전점검 시설물(100) 외관을 스캔하여 GPS-기반으로 상기 안전점검 시설물(100)의 위치를 등록하고, 상기 안전점검 시설물(100)에 대한 외관 스캔 데이터 및 뎁스 영상을 상기 GPS 위치 데이터와 함께 전송한다.Next, the data collected from the smart
다음으로, 상기 안전점검 서버(300)의 증강현실/가상현실 가시화 모듈(320)이 상기 안전점검 시설물(100)의 외관 스캔 데이터를 활용하여 상기 안전점검 시설물(100)을 증강현실(AR)/가상현실(VR) 가시화한다(S140). 여기서, 상기 안전점검 서버(300)는 데이터 수신부(310), 증강현실/가상현실 가시화 모듈(320), 시설물 등급 산정 모듈(330), 시설물 시간이력 관리부(340) 및 시설물 유지관리 전략 수립부(350)를 포함한다.Next, the augmented reality/virtual
다음으로, 상기 안전점검 서버(300)의 시설물 등급 산정 모듈(330)이 상기 수집된 데이터 및 평가 알고리즘을 활용하여 상기 안전점검 시설물(100)의 부재별/재료별 시설물 등급을 산정한다(S150). 구체적으로, 상기 시설물 등급 산정 모듈(330)은 이미지 분류 및 분석부(331), 열화/손상 면적률 산정부(332), 균열폭 산정부(333), 열화/손상 위치 표시부(334) 및 시설물 등급 산정부(335)를 포함한다.Next, the facility
구체적으로, 상기 시설물 등급 산정 모듈(330)의 이미지 분류 및 분석부(331)가 이미지 분류 알고리즘을 활용하여 열화/손상 종류를 분류 및 분석한다(S151). 이후, 상기 시설물 등급 산정 모듈(330)의 열화/손상 면적률 산정부(332)가 LIDAR 스캔 데이터를 활용하여 열화/손상 면적률을 산정한다(S152). 이후, 상기 시설물 등급 산정 모듈(330)의 균열폭 산정부(333)가 이미지 분석을 통해 균열폭을 산정한다(S153). 이후, 상기 시설물 등급 산정 모듈(330)의 열화/손상 위치 표시부(334)가 GPS 기반 삼각측량을 활용한 열화/손상 위치를 표시한다(S154). 이후, 상기 시설물 등급 산정 모듈(330)의 시설물 등급 산정부(335)가 상기 분석된 데이터 및 평가 알고리즘을 활용하여 상기 안전점검 시설물(100)의 부재별/재료별 평가등급을 산정한다(S155).Specifically, the image classification and
다음으로, 상기 안전점검 서버(300)의 시설물 시간이력 관리부(340)가 상기 연동 시스템, 예를 들면, FMS 또는 BIM 시스템에 연동하여 상기 안전점검 시설물(100)의 시간에 따른 변화에 대응하는 시간이력을 분석 관리한다(S160).Next, the facility time
다음으로, 상기 안전점검 서버(300)의 시설물 유지관리 전략 수립부(350)가 이미지 분석 머신러닝 알고리즘을 활용해 시설물의 유지관리 전략을 수립하여 관리주체 단말(600)에게 제시한다(S170).Next, the facility maintenance
결국, 본 발명의 실시예에 따르면, 「시설물의 안전 및 유지관리에 관한 특별법」에 의해 진행되는 시설물의 육안조사를 보다 체계적이고 정량적으로 진행할 수 있다. 또한, 스마트 휴대기기에 추가되는 각종 기능 및 센서를 활용하여 정량적이고 명확한 안전점검을 통해 보다 체계적인 시설물의 유지관리를 도모하고, 합리적인 유지관리전략을 관리 주체에 제공하여 시설물의 생애주기 비용을 낮추고 활용성을 극대화할 수 있다. 또한, 시설물의 평가에서 정량적이고 체계적인 평가를 가능하게 하며, 스마트 휴대기기를 드론이나 무인장비 등에 장착한 후 접근이 어려운 곳이나 위험한 곳에 투입 가능하게 하여 관리주체에서 보다 쉽게 안전점검을 시행하고 접근할 수 있다. 또한, 안전점검 시설물의 정량적 평가가 가능해지며, 안전점검을 위한 비용을 감소시킬 수 있다. 이를 활용하여 안전점검 관련업체의 기술교육, 한국국토안전관리원, 한국도로공사 등과 같은 관리주체들과의 협력을 통한 시설물 맞춤형 시스템 개발과 같은 다양한 기업화가 가능해진다.After all, according to an embodiment of the present invention, the visual inspection of facilities conducted according to the "Special Act on Safety and Maintenance of Facilities" can be carried out more systematically and quantitatively. In addition, by utilizing various functions and sensors added to smart mobile devices, more systematic maintenance of facilities is promoted through quantitative and clear safety inspection, and reasonable maintenance strategies are provided to the management body to lower and utilize the life cycle cost of facilities. sexuality can be maximized. In addition, it enables quantitative and systematic evaluation in the evaluation of facilities, and after attaching smart mobile devices to drones or unmanned equipment, etc., it is possible to put them in difficult or dangerous places so that the management body can conduct safety inspections and access more easily. can In addition, quantitative evaluation of safety inspection facilities is possible, and the cost for safety inspection can be reduced. By utilizing this, it becomes possible to develop various businesses such as technical training for safety inspection related companies, development of customized systems for facilities through cooperation with management entities such as Korea Land Safety Management Agency and Korea Expressway Corporation.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The above description of the present invention is for illustrative purposes, and those skilled in the art can understand that it can be easily modified into other specific forms without changing the technical spirit or essential features of the present invention. will be. Therefore, the embodiments described above should be understood as illustrative in all respects and not limiting. For example, each component described as a single type may be implemented in a distributed manner, and similarly, components described as distributed may be implemented in a combined form.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is indicated by the following claims rather than the detailed description above, and all changes or modifications derived from the meaning and scope of the claims and equivalent concepts should be construed as being included in the scope of the present invention. do.
100: 안전점검 시설물
200: 스마트 휴대기기
300: 안전점검 서버
400: 안전점검 DB
500: 연동 시스템
600: 관리주체 단말
700: 기타 장비
210: 라이다(LiDAR) 센서
220: 뎁스(Depth) 카메라
230: 자이로스코프 센서
240: GPS 모듈
250: 데이터 수집부
260: 제어부
270: 시설물 제원 입력부
280: 디스플레이
290: 통신모듈
310: 데이터 수신부
320: 증강현실(AR)/가상현실(VR) 가시화 모듈
330: 시설물 등급 산정 모듈
340: 시설물 시간이력 관리부
350: 시설물 유지관리전략 수립부
331: 이미지 분류 및 분석부
332: 열화/손상 면적률 산정부
333: 균열폭 산정부
334: 열화/손상 위치 표시부
335: 시설물 등급 산정부100: safety inspection facility 200: smart mobile device
300: safety check server 400: safety check DB
500: interworking system 600: management subject terminal
700: other equipment
210: LiDAR sensor 220: Depth camera
230: gyroscope sensor 240: GPS module
250: data collection unit 260: control unit
270: facility data input unit 280: display
290: communication module 310: data receiving unit
320: augmented reality (AR) / virtual reality (VR) visualization module
330: Facility rating calculation module 340: Facility time history management unit
350: Facility maintenance strategy establishment unit 331: Image classification and analysis unit
332: deterioration/damage area ratio calculation unit 333: crack width calculation unit
334: deterioration/damage location display unit 335: facility rating calculation unit
Claims (12)
라이다(LIDAR) 센서(210), 뎁스(Depth) 카메라(220) 및 GPS 모듈(240)을 구비하며, 상기 라이다 센서(210) 및 뎁스 카메라(220)를 활용하여 상기 안전점검 시설물(100) 외관을 스캔하고, GPS-기반으로 상기 안전점검 시설물(100)의 위치를 등록하며, 상기 안전점검 시설물(100)에 대한 외관 스캔 데이터 및 뎁스 영상을 상기 GPS 위치 데이터와 함께 전송하는 스마트 휴대기기(200);
상기 스마트 휴대기기(200)로부터 수신한 상기 안전점검 시설물(100)의 외관 스캔 데이터에 따라 상기 안전점검 시설물(100)을 증강현실/가상현실 가시화하고, 상기 안전점검 시설물(100)의 부재별/재료별 시설물 등급을 산정하며, 시설물 시간이력을 분석 및 관리하고, 시설물의 유지관리전략을 수립하는 안전점검 서버(300);
상기 안전점검 서버(300)가 수신 및 처리하는 데이터를 저장하며, 상기 획득된 데이터를 증강/가상현실화하여 저장 관리할 수 있도록 구현된 안전점검 DB(400); 및
상기 안전점검 서버(300)가 시설물 시간이력을 분석 및 관리할 수 있도록 연동되는 연동 시스템(500)을 포함하되,
상기 스마트 휴대기기(200) 및 안전점검 서버(300)의 실시간 연동에 따른 증강현실/가상현실 가시화를 통해 상기 안전점검 시설물(100)의 상태와 위치를 파악하는 것을 특징으로 하는 스마트 휴대기기를 활용한 시설물 안전점검 시스템.In a facility safety inspection system using a smart mobile device 200 with a lidar sensor, a depth camera, and a built-in GPS module,
A LIDAR sensor 210, a depth camera 220, and a GPS module 240 are provided, and the safety inspection facility 100 utilizes the lidar sensor 210 and the depth camera 220 ) A smart mobile device that scans the exterior, registers the location of the safety inspection facility 100 based on GPS, and transmits the exterior scan data and depth image of the safety inspection facility 100 together with the GPS location data (200);
According to the external scan data of the safety inspection facility 100 received from the smart mobile device 200, the safety inspection facility 100 is visualized in augmented reality/virtual reality, and each member/member of the safety inspection facility 100 A safety inspection server 300 that calculates facility grades for each material, analyzes and manages facility time histories, and establishes a facility maintenance management strategy;
a safety check DB (400) implemented to store data received and processed by the safety check server 300, and store and manage the obtained data by augmenting/virtualizing; and
Including an interlocking system 500 interlocked so that the safety inspection server 300 can analyze and manage facility time histories,
Using a smart mobile device, characterized in that for grasping the state and location of the safety inspection facility 100 through augmented reality / virtual reality visualization according to real-time linkage of the smart mobile device 200 and the safety inspection server 300 A facility safety inspection system.
상기 스마트 휴대기기(200)는 상기 안전점검 시설물(100)의 제원을 입력한 후, 상기 안전점검 시설물(100)과 일정거리 유지한 상태에서 기내장된 라이다 센서(210) 및 뎁스 카메라(220)를 활용하여 상기 안전점검 시설물(100) 외관을 스캔하여 GPS-기반으로 상기 안전점검 시설물(100)의 위치를 등록하고, 상기 안전점검 시설물(100)에 대한 외관 스캔 데이터 및 뎁스 영상을 상기 GPS 위치 데이터와 함께 전송하는 것을 특징으로 하는 스마트 휴대기기를 활용한 시설물 안전점검 시스템.According to claim 1,
After the smart mobile device 200 inputs the specifications of the safety inspection facility 100, the built-in lidar sensor 210 and the depth camera 220 while maintaining a certain distance from the safety inspection facility 100 ) to scan the exterior of the safety inspection facility 100, register the location of the safety inspection facility 100 based on GPS, and transmit the exterior scan data and depth image of the safety inspection facility 100 to the GPS A facility safety inspection system using a smart mobile device characterized in that it is transmitted together with location data.
상기 연동 시스템(500)은 시설물 통합정보관리 시스템(Facility Management System: FMS) 또는 빌딩정보관리(Building Information Management: BIM) 시스템인 것을 특징으로 하는 스마트 휴대기기를 활용한 시설물 안전점검 시스템.According to claim 1,
The interworking system 500 is a facility safety inspection system using a smart mobile device, characterized in that a facility integrated information management system (Facility Management System: FMS) or a building information management (Building Information Management: BIM) system.
상기 안전점검 시설물(100)에 조사되어 상기 안전점검 시설물(100)의 외관 스캔 데이터를 생성하는 라이다 센서(210);
상기 안전점검 시설물(100)을 촬영하여 3D 뎁스 영상을 생성하는 뎁스 카메라(220);
상기 스마트 휴대기기(200)의 위치에 따른 GPS 위치 데이터를 생성하며, 상기 스마트 휴대기기(200)의 위치에 대응하는 상기 안전점검 시설물(100)의 위치를 확인하여 등록하는 GPS 모듈(240);
상기 라이다 센서(210)로부터 생성된 상기 안전점검 시설물(100)의 외관 스캔 데이터, 상기 뎁스 카메라(220)로부터 촬영된 3D 뎁스 영상 및 GPS 위치 데이터를 수집 데이터 수집부(250);
상기 안전점검 서버(300)로부터 제공되는 상기 안전점검 시설물(100)의 제원을 입력하는 시설물 제원 입력부(270); 및
상기 데이터 수집부(250)로부터 수집된 상기 안전점검 시설물(100)의 외관 스캔 데이터, 3D 뎁스 영상 및 GPS 위치 데이터를 취합하여 상기 상기 안전점검 서버(300)로 전송하는 통신모듈(290)을 포함하는 스마트 휴대기기를 활용한 시설물 안전점검 시스템.The method of claim 1, wherein the smart mobile device 200,
A lidar sensor 210 irradiated to the safety inspection facility 100 to generate external scan data of the safety inspection facility 100;
a depth camera 220 for generating a 3D depth image by photographing the safety inspection facility 100;
A GPS module 240 that generates GPS location data according to the location of the smart mobile device 200 and confirms and registers the location of the safety inspection facility 100 corresponding to the location of the smart mobile device 200;
A data collection unit 250 that collects exterior scan data of the safety inspection facility 100 generated from the lidar sensor 210, 3D depth image and GPS location data taken from the depth camera 220;
a facility specification input unit 270 for inputting specifications of the safety check facility 100 provided from the safety check server 300; and
A communication module 290 for collecting exterior scan data, 3D depth image, and GPS location data of the safety inspection facility 100 collected from the data collection unit 250 and transmitting the collected data to the safety inspection server 300 Facility safety inspection system using smart mobile devices.
상기 스마트 휴대기기(200)로부터 전송되는 라이다 센서 스캔 데이터, 뎁스 카메라 촬영 데이터 및 GPS 위치 데이터를 수신하는 데이터 수신부(310);
상기 데이터 수신부(310)가 수신한 상기 안전점검 시설물(100)의 외관 스캔 데이터에 따라 상기 안전점검 시설물(100)을 증강현실/가상현실 가시화하는 증강현실(AR)/가상현실(VR) 가시화 모듈(320);
상기 안전점검 시설물(100)의 부재별/재료별 시설물 등급을 산정하는 시설물 등급 산정 모듈(330);
상기 연동 시스템(500)과 연동시켜 시설물 시간이력을 분석 및 관리하는 시설물 시간이력 관리부(340); 및
상기 안전점검 서버(300)가 이미지 분석 알고리즘에 따라 시설물의 유지관리전략을 수립하여 관리주체 단말(600)에게 통지하는 시설물 유지관리전략 수립부(350)를 포함하는 스마트 휴대기기를 활용한 시설물 안전점검 시스템.The method of claim 1, wherein the safety check server 300,
a data receiver 310 for receiving lidar sensor scan data, depth camera capture data, and GPS location data transmitted from the smart mobile device 200;
An augmented reality (AR)/virtual reality (VR) visualization module that visualizes the safety inspection facility 100 in augmented reality/virtual reality according to the exterior scan data of the safety inspection facility 100 received by the data receiving unit 310. (320);
a facility grade calculation module 330 that calculates a facility grade for each member/material of the safety inspection facility 100;
a facility time history management unit 340 that analyzes and manages facility time histories in association with the interlocking system 500; and
Facility safety using a smart mobile device including a facility maintenance strategy establishment unit 350 in which the safety inspection server 300 establishes a facility maintenance strategy according to an image analysis algorithm and notifies the management subject terminal 600 inspection system.
이미지 분류 알고리즘을 활용하여 안전점검 시설물(100)의 열화/손상 종류를 분류 및 분석하는 이미지 분류 및 분석부(331);
라이다 스캔 데이터에 따른 열화/손상 면적률을 산정하는 열화/손상 면적률 산정부(332);
이미지 분석을 통해 균열폭을 산정하는 균열폭 산정부(333);
GPS 위치 데이터에 따른 열화/손상 위치를 표시하는 열화/손상 위치 표시부(334); 및
안전점검 시설물의 부재별/재료별 등급을 산정하는 시설물 등급 산정부(335)를 포함하는 스마트 휴대기기를 활용한 시설물 안전점검 시스템.The method of claim 5, wherein the facility rating calculation module 330,
An image classification and analysis unit 331 that classifies and analyzes deterioration/damage types of the safety inspection facility 100 using an image classification algorithm;
A deterioration/damage area ratio calculation unit 332 that calculates a deterioration/damage area ratio according to lidar scan data;
A crack width calculator 333 that calculates the crack width through image analysis;
a deterioration/damage location display unit 334 displaying a deterioration/damage location according to GPS location data; and
A facility safety inspection system using a smart mobile device including a facility rating calculation unit 335 that calculates the grade of each member/material of the safety inspection facility.
a) 스마트 휴대기기(200)를 사용하여 안전점검 시설물(100)의 시작점에서 상기 안전점검 시설물(100)에 대한 제원을 입력하는 단계;
b) 상기 안전점검 시설물(100)의 시작점과 일정 거리를 유지하면서 상기 안전점검 시설물(100)의 외관 스캔 데이터 및 GPS 위치 데이터를 수집하는 단계;
c) 상기 스마트 휴대기기(200)에서 수집된 데이터를 안전점검 서버(300)로 전송하는 단계;
d) 상기 안전점검 서버(300)가 상기 안전점검 시설물(100)의 외관 스캔 데이터에 따라 상기 안전점검 시설물(100)을 증강현실/가상현실 가시화하는 단계;
e) 상기 안전점검 서버(300)가 상기 안전점검 시설물(100)의 부재별/재료별 시설물 등급을 산정하는 단계;
f) 연동 시스템(500)과 연동시켜 상기 안전점검 서버(300)가 시설물 시간이력을 분석 및 관리하는 단계; 및
g) 상기 안전점검 서버(300)가 이미지 분석 알고리즘에 따라 시설물의 유지관리전략을 수립하여 관리주체 단말(600)에게 통지하는 단계를 포함하되,
상기 스마트 휴대기기(200) 및 안전점검 서버(300)의 실시간 연동에 따른 증강현실/가상현실 가시화를 통해 상기 안전점검 시설물(100)의 상태와 위치를 파악하는 것을 특징으로 하는 스마트 휴대기기를 활용한 시설물 안전점검 방법.In the facility safety inspection method using a smart mobile device 200 having a lidar sensor, a depth camera, and a built-in GPS module,
a) inputting specifications for the safety inspection facility 100 at the starting point of the safety inspection facility 100 using a smart mobile device 200;
b) collecting exterior scan data and GPS location data of the safety inspection facility 100 while maintaining a certain distance from the starting point of the safety inspection facility 100;
c) transmitting the data collected from the smart mobile device 200 to the safety check server 300;
d) visualizing, by the safety inspection server 300, the safety inspection facility 100 in augmented reality/virtual reality according to the exterior scan data of the safety inspection facility 100;
e) calculating, by the safety inspection server 300, a facility grade for each member/material of the safety inspection facility 100;
f) analyzing and managing facility time histories by the safety inspection server 300 in association with the linkage system 500; and
g) the safety check server 300 establishing a facility maintenance strategy according to an image analysis algorithm and notifying the management subject terminal 600,
Using a smart mobile device, characterized in that for grasping the state and location of the safety inspection facility 100 through augmented reality / virtual reality visualization according to real-time linkage of the smart mobile device 200 and the safety inspection server 300 A facility safety inspection method.
e-1) 이미지 분류 알고리즘을 활용하여 안전점검 시설물(100)의 열화/손상 종류를 분류 및 분석하는 단계;
e-2) 라이다 스캔 데이터에 따른 열화/손상 면적률을 산정하는 단계;
e-3) 이미지 분석을 통해 균열폭을 산정하는 단계;
e-4) GPS 위치 데이터에 따른 열화/손상 위치를 표시하는 단계; 및
e-5) 상기 안전점검 시설물(100)의 부재별/재료별 등급을 산정하는 단계를 포함하는 스마트 휴대기기를 활용한 시설물 안전점검 방법.The method of claim 7, wherein step e),
e-1) classifying and analyzing the type of deterioration/damage of the safety inspection facility 100 using an image classification algorithm;
e-2) Calculating a deterioration/damage area ratio according to lidar scan data;
e-3) calculating crack width through image analysis;
e-4) displaying the deterioration/damage location according to the GPS location data; and
e-5) A facility safety inspection method using a smart mobile device comprising the step of calculating the grade for each member/material of the safety inspection facility 100.
상기 c) 단계에서 스마트 휴대기기(200)는 상기 안전점검 시설물(100)의 제원을 입력한 후, 상기 안전점검 시설물(100)과 일정거리 유지한 상태에서 기내장된 라이다 센서(210) 및 뎁스 카메라(220)를 활용하여 상기 안전점검 시설물(100) 외관을 스캔하여 GPS-기반으로 상기 안전점검 시설물(100)의 위치를 등록하고, 상기 안전점검 시설물(100)에 대한 외관 스캔 데이터 및 뎁스 영상을 상기 GPS 위치 데이터와 함께 전송하는 것을 특징으로 하는 스마트 휴대기기를 활용한 시설물 안전점검 방법.According to claim 7,
In the step c), the smart mobile device 200 inputs the specifications of the safety inspection facility 100, and then maintains a certain distance from the safety inspection facility 100, and the built-in lidar sensor 210 and The exterior of the safety inspection facility 100 is scanned using the depth camera 220 to register the location of the safety inspection facility 100 based on GPS, and the exterior scan data and depth for the safety inspection facility 100 A facility safety inspection method using a smart mobile device, characterized in that for transmitting an image together with the GPS location data.
상기 안전점검 시설물(100)에 조사되어 상기 안전점검 시설물(100)의 외관 스캔 데이터를 생성하는 라이다 센서(210);
상기 안전점검 시설물(100)을 촬영하여 3D 뎁스 영상을 생성하는 뎁스 카메라(220);
상기 스마트 휴대기기(200)의 위치에 따른 GPS 위치 데이터를 생성하며, 상기 스마트 휴대기기(200)의 위치에 대응하는 상기 안전점검 시설물(100)의 위치를 확인하여 등록하는 GPS 모듈(240);
상기 라이다 센서(210)로부터 생성된 상기 안전점검 시설물(100)의 외관 스캔 데이터, 상기 뎁스 카메라(220)로부터 촬영된 3D 뎁스 영상 및 GPS 위치 데이터를 수집 데이터 수집부(250);
상기 안전점검 서버(300)로부터 제공되는 상기 안전점검 시설물(100)의 제원을 입력하는 시설물 제원 입력부(270); 및
상기 데이터 수집부(250)로부터 수집된 상기 안전점검 시설물(100)의 외관 스캔 데이터, 3D 뎁스 영상 및 GPS 위치 데이터를 취합하여 상기 상기 안전점검 서버(300)로 전송하는 통신모듈(290)을 포함하는 스마트 휴대기기를 활용한 시설물 안전점검 방법.The method of claim 7, wherein the smart mobile device 200,
A lidar sensor 210 irradiated to the safety inspection facility 100 to generate external scan data of the safety inspection facility 100;
a depth camera 220 for generating a 3D depth image by photographing the safety inspection facility 100;
A GPS module 240 that generates GPS location data according to the location of the smart mobile device 200 and confirms and registers the location of the safety inspection facility 100 corresponding to the location of the smart mobile device 200;
A data collection unit 250 that collects exterior scan data of the safety inspection facility 100 generated from the lidar sensor 210, 3D depth image and GPS location data taken from the depth camera 220;
a facility specification input unit 270 for inputting specifications of the safety check facility 100 provided from the safety check server 300; and
A communication module 290 for collecting exterior scan data, 3D depth image, and GPS location data of the safety inspection facility 100 collected from the data collection unit 250 and transmitting the collected data to the safety inspection server 300 A method for safety inspection of facilities using smart mobile devices.
상기 스마트 휴대기기(200)로부터 전송되는 라이다 센서 스캔 데이터, 뎁스 카메라 촬영 데이터 및 GPS 위치 데이터를 수신하는 데이터 수신부(310);
상기 데이터 수신부(310)가 수신한 상기 안전점검 시설물(100)의 외관 스캔 데이터에 따라 상기 안전점검 시설물(100)을 증강현실/가상현실 가시화하는 증강현실(AR)/가상현실(VR) 가시화 모듈(320);
상기 안전점검 시설물(100)의 부재별/재료별 시설물 등급을 산정하는 시설물 등급 산정 모듈(330);
상기 연동 시스템(500)과 연동시켜 시설물 시간이력을 분석 및 관리하는 시설물 시간이력 관리부(340); 및
상기 안전점검 서버(300)가 이미지 분석 알고리즘에 따라 시설물의 유지관리전략을 수립하여 관리주체 단말(600)에게 통지하는 시설물 유지관리전략 수립부(350)를 포함하는 스마트 휴대기기를 활용한 시설물 안전점검 방법.The method of claim 6, wherein the safety check server 300,
a data receiver 310 for receiving lidar sensor scan data, depth camera capture data, and GPS location data transmitted from the smart mobile device 200;
An augmented reality (AR)/virtual reality (VR) visualization module that visualizes the safety inspection facility 100 in augmented reality/virtual reality according to the exterior scan data of the safety inspection facility 100 received by the data receiving unit 310. (320);
a facility grade calculation module 330 that calculates a facility grade for each member/material of the safety inspection facility 100;
a facility time history management unit 340 that analyzes and manages facility time histories in association with the interlocking system 500; and
Facility safety using a smart mobile device including a facility maintenance strategy establishment unit 350 in which the safety inspection server 300 establishes a facility maintenance strategy according to an image analysis algorithm and notifies the management subject terminal 600 How to check.
이미지 분류 알고리즘을 활용하여 안전점검 시설물(100)의 열화/손상 종류를 분류 및 분석하는 이미지 분류 및 분석부(331);
라이다 스캔 데이터에 따른 열화/손상 면적률을 산정하는 열화/손상 면적률 산정부(332);
이미지 분석을 통해 균열폭을 산정하는 균열폭 산정부(333);
GPS 위치 데이터에 따른 열화/손상 위치를 표시하는 열화/손상 위치 표시부(334); 및
안전점검 시설물의 부재별/재료별 등급을 산정하는 시설물 등급 산정부(335)를 포함하는 스마트 휴대기기를 활용한 시설물 안전점검 방법.The method of claim 11, wherein the facility rating calculation module 330,
An image classification and analysis unit 331 that classifies and analyzes deterioration/damage types of the safety inspection facility 100 using an image classification algorithm;
A deterioration/damage area ratio calculation unit 332 that calculates a deterioration/damage area ratio according to lidar scan data;
A crack width calculator 333 that calculates the crack width through image analysis;
a deterioration/damage location display unit 334 displaying a deterioration/damage location according to GPS location data; and
A facility safety inspection method using a smart mobile device including a facility rating calculation unit 335 that calculates the rating for each member/material of the safety inspection facility.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020210058274A KR102669058B1 (en) | 2021-05-06 | SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THe SAME |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020210058274A KR102669058B1 (en) | 2021-05-06 | SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THe SAME |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20220151263A true KR20220151263A (en) | 2022-11-15 |
KR102669058B1 KR102669058B1 (en) | 2024-05-24 |
Family
ID=
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102529437B1 (en) * | 2023-01-17 | 2023-05-04 | 사단법인 한국교육녹색환경연구원 | Online audit method and system for education facility safty certification |
KR102571981B1 (en) | 2023-05-24 | 2023-08-30 | 주식회사 엘에스엠케이 | Facilities Inspection and Maintenance System based on Augmented Reality |
KR102642392B1 (en) * | 2022-12-15 | 2024-02-29 | (주) 다음기술단 | System for maintenance of facilities using augmented reality technology |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20130101202A (en) | 2012-03-05 | 2013-09-13 | 성균관대학교산학협력단 | Method for visualization safety diagnosis information based augmented reality of bridge structure and system thereof |
KR101486443B1 (en) | 2012-11-26 | 2015-01-26 | 한국건설기술연구원 | Multi-dimensional and object-oriented data management system for bridge based on mobile field inspection, and method for the same |
KR101772916B1 (en) | 2016-12-30 | 2017-08-31 | 한양대학교 에리카산학협력단 | Device for measuring crack width of concretestructure |
KR101984778B1 (en) | 2018-10-11 | 2019-05-31 | (주)와이즈콘 | Method for multiple image cooperation on diagnosis exterior wall of structure and apparatus for performing the method |
KR102189111B1 (en) | 2020-06-22 | 2020-12-09 | 주식회사 제이시스 | Underground facilities detection system using machine learning, augmented reality and virtual reality |
KR102192341B1 (en) | 2020-08-03 | 2020-12-17 | 사단법인 대한산업안전협회 | Moving shot based structure inspection apparatus using smartphone |
KR102195890B1 (en) | 2020-09-03 | 2020-12-28 | 한세이엔씨(주) | Safety Diagnosis System and Method Using Smart Glasses |
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20130101202A (en) | 2012-03-05 | 2013-09-13 | 성균관대학교산학협력단 | Method for visualization safety diagnosis information based augmented reality of bridge structure and system thereof |
KR101486443B1 (en) | 2012-11-26 | 2015-01-26 | 한국건설기술연구원 | Multi-dimensional and object-oriented data management system for bridge based on mobile field inspection, and method for the same |
KR101772916B1 (en) | 2016-12-30 | 2017-08-31 | 한양대학교 에리카산학협력단 | Device for measuring crack width of concretestructure |
KR101984778B1 (en) | 2018-10-11 | 2019-05-31 | (주)와이즈콘 | Method for multiple image cooperation on diagnosis exterior wall of structure and apparatus for performing the method |
KR102189111B1 (en) | 2020-06-22 | 2020-12-09 | 주식회사 제이시스 | Underground facilities detection system using machine learning, augmented reality and virtual reality |
KR102192341B1 (en) | 2020-08-03 | 2020-12-17 | 사단법인 대한산업안전협회 | Moving shot based structure inspection apparatus using smartphone |
KR102195890B1 (en) | 2020-09-03 | 2020-12-28 | 한세이엔씨(주) | Safety Diagnosis System and Method Using Smart Glasses |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102642392B1 (en) * | 2022-12-15 | 2024-02-29 | (주) 다음기술단 | System for maintenance of facilities using augmented reality technology |
KR102529437B1 (en) * | 2023-01-17 | 2023-05-04 | 사단법인 한국교육녹색환경연구원 | Online audit method and system for education facility safty certification |
KR102571981B1 (en) | 2023-05-24 | 2023-08-30 | 주식회사 엘에스엠케이 | Facilities Inspection and Maintenance System based on Augmented Reality |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Koo et al. | Innovative method for assessment of underground sewer pipe condition | |
JP6682021B2 (en) | Road collapse risk evaluation device, road collapse risk evaluation method, and computer program for road collapse risk evaluation | |
US20180148898A1 (en) | Road state management apparatus and method | |
Clemens et al. | Uncertainties associated with laser profiling of concrete sewer pipes for the quantification of the interior geometry | |
Wang et al. | Framework and implementation of a continuous network-wide health monitoring system for roadways | |
Feng et al. | A survey of 3D laser scanning techniques for application to rock mechanics and rock engineering | |
JP6892974B1 (en) | Deterioration diagnosis system, deterioration diagnosis device, deterioration diagnosis method, and program | |
Qureshi et al. | Automated progress monitoring technological model for construction projects | |
Ji et al. | Image‐based road crack risk‐informed assessment using a convolutional neural network and an unmanned aerial vehicle | |
WO2009158017A2 (en) | Methods and apparatus for quality assessment of a field service operation | |
Motayyeb et al. | Fusion of UAV-based infrared and visible images for thermal leakage map generation of building facades | |
Mohamed et al. | Content analysis of e-inspection implementation for highway infrastructure construction projects | |
KR20220071462A (en) | pipe nondestructive inspection system based cloud | |
Hu et al. | Augmented reality based visualization for concrete bridge deck deterioration characterized by ground penetrating radar | |
Mičechová et al. | New knowledge in the field of the diagnostic and evaluation of selected pavement parameters | |
KR102669058B1 (en) | SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THe SAME | |
KR20220151263A (en) | SAFETY INSPECTION SYSTEM FOR STRUCTURE USING SMART PORTABLE DEVICE, AND METHOD FOR THe SAME | |
EP3913599A1 (en) | Sign position identification system and program | |
KR101393191B1 (en) | A cathodic protection management apparatus and the voltage and cips detection method using the apparatus | |
KR102260559B1 (en) | Method for monitoring facility using tablet PC | |
AU2015201957B2 (en) | Methods and apparatus for quality assessment of a field service operation | |
Einizinab et al. | Enabling technologies for remote and virtual inspection of building work | |
Salem | Automated productivity models for earthmoving operations | |
Yaghi | Integrated remote sensing technologies for condition assessment of concrete bridges | |
Shi et al. | Automated change diagnosis of single-column-pier bridges based on 3d imagery data |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal |