KR102157537B1 - Apparatus and method for data visualization in 3D digital twin for facility safety inspection - Google Patents

Apparatus and method for data visualization in 3D digital twin for facility safety inspection Download PDF

Info

Publication number
KR102157537B1
KR102157537B1 KR1020190143316A KR20190143316A KR102157537B1 KR 102157537 B1 KR102157537 B1 KR 102157537B1 KR 1020190143316 A KR1020190143316 A KR 1020190143316A KR 20190143316 A KR20190143316 A KR 20190143316A KR 102157537 B1 KR102157537 B1 KR 102157537B1
Authority
KR
South Korea
Prior art keywords
coordinates
digital twin
moving object
modeling
unit
Prior art date
Application number
KR1020190143316A
Other languages
Korean (ko)
Inventor
신용득
Original Assignee
주식회사 에이엠오토노미
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 에이엠오토노미 filed Critical 주식회사 에이엠오토노미
Priority to KR1020190143316A priority Critical patent/KR102157537B1/en
Priority to KR1020200115341A priority patent/KR20210056893A/en
Application granted granted Critical
Publication of KR102157537B1 publication Critical patent/KR102157537B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Tourism & Hospitality (AREA)
  • Remote Sensing (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Human Resources & Organizations (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Graphics (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Processing Or Creating Images (AREA)

Abstract

The present invention relates to a data visualization method in a three-dimensional (3D) digital twin for facility safety inspection. According to the present invention, the data visualization method comprises the steps of: acquiring structure data through a 3D LiDAR and an inspection sensor installed on a moving object while the moving object moves; creating a 3D map based on the structure data acquired through the 3D LiDAR; calculating coordinates by estimating a location and a direction on the 3D map; and generating and outputting a 3D digital twin based on the acquired structure data and the calculated coordinates.

Description

시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치 및 방법{Apparatus and method for data visualization in 3D digital twin for facility safety inspection}Apparatus and method for data visualization in 3D digital twin for facility safety inspection}

본 발명은 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치 및 방법에 관한 것이다.The present invention relates to an apparatus and method for visualizing data in a 3D digital twin for safety inspection of facilities.

무인이동체는 최초에 군사적인 탐색용을 개발되었으나, 최근에는 운반 및 보관이 편리하고 사람이 접근할 수 없는 지역에 접근할 수 있는 이점으로 인해 다양한 용도로 사용되고 있다. Unmanned vehicles were initially developed for military exploration, but in recent years, they are used for various purposes due to the advantages of convenient transportation and storage and access to areas inaccessible to humans.

특히, 종래 설계도면 등과 같은 자료를 이용해 3차원 모델링한 구조물에서 정보를 시각화하는 것이 실시간 구조물의 변화를 반영하지 못하는 문제점과 사람의 접근이 어렵고 위험한 현장의 모니터링이 힘든 문제점을 해결하기 위하여 무인이동체를 이용한 모니터링 기술에 관심이 커지고 있다.In particular, in order to solve the problem that visualizing information in a structure modeled in 3D using data such as conventional design drawings does not reflect changes in real-time structure, it is difficult for people to access and monitor dangerous sites. There is a growing interest in the monitoring technology used.

무인이동체를 이용해 현장을 모니터링 하는 것은, 무인이동체에 카메라를 설치해 사람의 접근이 어려운 구조물의 상태를 실시간으로 모니터링하는 방안으로 활용되고 있다.Monitoring the site using an unmanned vehicle is used as a way to monitor the condition of structures that are difficult to access by installing a camera on the unmanned vehicle in real time.

그러나 무인이동체를 이용하여 구조물 외관을 촬영하는 방식에 의해 구조물 상태를 모니터할 수 있지만, 무인이동체를 촬영한 곳이 구조물의 어느 위치인지를 파악하는 것이 어려운 문제점이 있다.However, although the state of the structure can be monitored by photographing the exterior of the structure using an unmanned vehicle, it is difficult to grasp which location of the structure where the unmanned vehicle was photographed.

이런 문제점을 해결하기 위한 종래기술로는 한국등록특허공보 제10-1855864호가 있다.As a prior art for solving this problem, there is Korean Patent Publication No. 10-1855864.

종래기술은 무인이동체에 카메라를 탑재해 구조물에 설치되어 있는 위치측정유닛과 구조물 설계 정보를 기반해 이동하면서, 촬영한 영상과 구조물 설계 정보에 맵핑하여 구조물을 3차원 모델링하여 상태를 분석하나, 무인이동체의 이동과 촬영 영상의 위치를 맵핑하기 위해서는 구조물에 별도의 위치측정유닛을 설치해야 하기 때문에 비용이 많이 든다는 문제점이 있다.In the prior art, a camera is mounted on an unmanned vehicle to move based on the location measurement unit installed on the structure and the structure design information, and map the captured image and structure design information to analyze the state by 3D modeling the structure. In order to map the movement of the moving object and the location of the photographed image, there is a problem that the cost is high because a separate location measuring unit must be installed in the structure.

또한, 종래기술은 무인이동체 이동을 위해 구조물 설계 정보를 바탕으로 장애물을 설정하여 무인이동체의 경로를 설정하기 때문에, 구조물의 설계가 변경되거나 설계도에 없는 장애물이 있을 경우 무인이동체가 장애물에 충돌할 수 있는 문제점이 있다.In addition, in the prior art, since the path of the unmanned vehicle is set by setting obstacles based on the structure design information for the movement of the unmanned vehicle, the unmanned vehicle may collide with the obstacle when the design of the structure is changed or there is an obstacle not in the schematic. There is a problem.

또한, 종래기술은 무인이동체에 구조물 외관을 촬영하기 위한 카메라만 있어 구조물의 가스 누출, 구조물의 부식 정도 등을 파악할 수 없는 문제점이 있다.In addition, in the prior art, there is a problem in that there is only a camera for photographing the exterior of the structure on the unmanned moving body, so that gas leakage of the structure and the degree of corrosion of the structure cannot be grasped.

본 발명이 해결하고자 하는 기술적 과제는, 실시간으로 이동체에 의해 현장을 3차원 모델링하고 점검하는 것과 동시에 상태 데이터를 3차원 모델링에 3차원적으로 표현하거나 시각화하여 점검결과를 직관적으로 이해할 수 있도록 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치를 제공하는데 있다.The technical problem to be solved by the present invention is facility safety so that the inspection result can be intuitively understood by three-dimensional modeling and inspection of the site by means of a moving object in real time, as well as three-dimensional representation or visualization of state data in three-dimensional modeling. It is to provide a data visualization device in a 3D digital twin for inspection.

본 발명이 해결하고자 하는 다른 기술적 과제는, 별도의 위치측정유닛 없이 이동체의 이동과 데이터의 위치를 맵핑할 수 있는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치를 제공하는데 있다.Another technical problem to be solved by the present invention is to provide a data visualization device in a 3D digital twin for safety inspection of a facility capable of mapping the movement of a moving object and the location of data without a separate location measurement unit.

본 발명이 해결하고자 하는 또 다른 기술적 과제는, 이동체가 구조물 설계 정보 없이 경로를 계획해 이동하면서 구조물 데이터를 확보할 수 있는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치를 제공하는데 있다.Another technical problem to be solved by the present invention is to provide a data visualization device in a 3D digital twin for safety inspection of a facility in which a moving object can secure structure data while planning a path without structure design information.

본 발명이 해결하고자 하는 또 다른 기술적 과제는, 가스 누출, 구조물의 부식 정도 등의 데이터를 구조물에 별도의 센서를 설치하지 않고 확보할 수 있는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치를 제공하는데 있다.Another technical problem to be solved by the present invention is a data visualization device in a 3D digital twin for facility safety inspection that can secure data such as gas leakage and corrosion degree of a structure without installing a separate sensor on the structure To provide.

상기와 같은 기술적 과제를 해결하기 위해, 본 발명의 바람직한 일 측면에 따르면, 이동체가 이동하면서 상기 이동체에 설치된 3차원 라이다 및 검사 센서를 통해 구조물 데이터를 획득하는 단계; 상기 3차원 라이다를 통해 획득한 상기 구조물 데이터를 바탕으로 3차원 지도를 작성하는 단계; 상기 3차원 지도에서 위치와 방향을 추정하여 좌표를 계산하는 단계; 및 상기 획득한 구조물의 데이터 및 상기 계산한 좌표를 바탕으로 3차원 디지털 트윈을 생성해 출력하는 단계;를 포함하는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 방법을 제공할 수 있다.In order to solve the above technical problem, according to a preferred aspect of the present invention, the step of acquiring structure data through a three-dimensional lidar and inspection sensor installed on the moving object while the moving object moves; Creating a 3D map based on the structure data acquired through the 3D lidar; Calculating coordinates by estimating a location and a direction on the 3D map; And generating and outputting a 3D digital twin based on the acquired structure data and the calculated coordinates. It is possible to provide a data visualization method in a 3D digital twin for facility safety inspection.

여기서, 상기 3차원 디지털 트원은, 상기 3차원 라이다를 통해 획득한 상기 구조물 데이터를 바탕으로 상기 구조물을 3차원 모델링하고, 상기 검사 센서를 통해 획득한 상기 구조물 데이터 중 구조물 상태를 상기 3차원 모델링에 반영한 것일 수 있다.Here, the 3D digital t-one is a 3D modeling of the structure based on the structure data acquired through the 3D lidar, and the 3D modeling of the structure state among the structure data acquired through the inspection sensor. It may be reflected in.

여기서, 상기 계산한 좌표는, 상기 3차원 지도에서 상기 이동체의 위치 및 방향 좌표이며, 상기 이동체의 위치 및 방향 좌표를 기준으로 상기 3차원 모델링의 3차원 모델링 좌표와 상기 구조물 상태의 구조물 상태 좌표를 더 계산할 수 있다.Here, the calculated coordinates are the position and direction coordinates of the moving object on the 3D map, and the 3D modeling coordinates of the 3D modeling and the structure state coordinates of the structure state are calculated based on the position and direction coordinates of the moving object. You can calculate more.

여기서, 상기 구조물 상태를 상기 3차원 모델링에 반영하는 것은, 상기 3차원 모델링 좌표와 상기 구조물 상태 좌표를 서로 실시간으로 매칭시켜 반영한 것일 수 있다.Here, reflecting the state of the structure to the 3D modeling may be reflecting by matching the coordinates of the 3D modeling and the state of the structure with each other in real time.

여기서, 상기 이동체에는 상기 이동체가 이동할 때 상기 구조물을 촬영해 구조물 영상을 생성하는 카메라가 더 설치되며, 상기 이동체의 위치 및 방향 좌표에 상기 이동체에 설치된 상기 카메라의 위치 및 방향을 반영하여 계산된 구조물 영상 좌표를 상기 3차원 모델링 좌표에 실시간으로 매칭시켜 상기 구조물 영상을 상기 3차원 디지털 트윈에 반영할 수 있다.Here, a camera for generating a structure image by photographing the structure when the moving object moves is further installed on the moving object, and the structure calculated by reflecting the position and direction of the camera installed on the moving object in the position and direction coordinates of the moving object By matching the image coordinates to the 3D modeling coordinates in real time, the structure image may be reflected in the 3D digital twin.

삭제delete

여기서, 사용자가 상기 3차원 디지털 트윈에 직접 의견을 입력할 수 있다.Here, a user may directly input an opinion to the 3D digital twin.

여기서, 상기 이동체는 상기 3차원 지도를 바탕으로 계획된 경로를 바탕으로 자동으로 이동할 수 있다.Here, the moving object may automatically move based on a route planned based on the 3D map.

본 발명의 바람직한 다른 측면에 따르면, 이동체; 상기 이동체에 설치되어 구조물 데이터를 획득하는 3차원 라이다; 상기 이동체에 설치되어 구조물 데이터를 획득하는 검사 센서; 상기 3차원 라이다를 통해 획득한 상기 구조물 데이터를 바탕으로 3차원 지도를 작성하는 3차원 지도 작성부; 상기 3차원 지도에서 상기 이동체의 위치와 방향을 추정하여 좌표를 계산하는 계산부; 및 상기 획득한 구조물의 데이터 및 상기 계산부가 계산한 좌표를 바탕으로 3차원 디지털 트윈을 생성하는 3차원 디지털 트윈 생성부;를 포함하는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치를 제공할 수 있다.According to another preferred aspect of the present invention, a moving body; A three-dimensional lidar installed on the moving body to obtain structure data; An inspection sensor installed on the moving body to obtain structure data; A 3D map creation unit for creating a 3D map based on the structure data acquired through the 3D lidar; A calculation unit that calculates coordinates by estimating the location and direction of the moving object on the 3D map; And a 3D digital twin generation unit that generates a 3D digital twin based on the acquired structure data and the coordinates calculated by the calculation unit; providing a data visualization device in a 3D digital twin for facility safety inspection can do.

여기서, 상기 3차원 디지털 트원은, 상기 3차원 디지털 트윈부가 상기 3차원 라이다를 통해 획득한 상기 구조물 데이터를 바탕으로 상기 구조물을 3차원 모델링하고, 상기 3차원 디지털 트윈부가 상기 검사 센서를 통해 획득한 상기 구조물 데이터 중 구조물 상태를 상기 3차원 모델링에 반영한 것일 수 있다.Here, in the 3D digital twin, the structure is 3D modeled based on the structure data obtained by the 3D digital twin unit through the 3D lidar, and the 3D digital twin unit is acquired through the inspection sensor. Among the structure data, a structure state may be reflected in the 3D modeling.

여기서, 상기 계산부가 계산한 좌표는, 상기 3차원 지도에서 상기 이동체의 위치 및 방향 좌표이며, 상기 계산부가 상기 이동체의 위치 및 방향 좌표를 기준으로 상기 3차원 모델링의 3차원 모델링 좌표와 상기 구조물 상태의 구조물 상태 좌표를 더 계산할 수 있다.Here, the coordinates calculated by the calculation unit are the location and direction coordinates of the moving object on the 3D map, and the calculation unit 3D modeling coordinates and the structure state of the 3D modeling based on the location and direction coordinates of the moving object You can further calculate the structure state coordinates of.

여기서, 상기 구조물 상태를 상기 3차원 모델링에 반영하는 것은, 상기 3차원 디지털 트윈부가 상기 3차원 모델링 좌표와 상기 구조물 상태 좌표를 서로 실시간으로 매칭시켜 반영한 것일 수 있다.Here, reflecting the state of the structure to the 3D modeling may be that the 3D digital twin unit matches and reflects the 3D modeling coordinates and the structure state coordinates with each other in real time.

또한, 상기 이동체가 이동할 때 상기 구조물을 촬영하여 구조물 영상을 생성하는 카메라;를 더 포함하되, 상기 계산부는 상기 이동체의 위치 및 방향 좌표에 상기 이동체에 설치된 상기 카메라의 위치 및 방향을 반영하여 구조물 영상 좌표를 계산하며, 상기 3차원 디지털 트윈부가 상기 구조물 영상 좌표를 상기 3차원 모델링 좌표에 실시간으로 매칭시켜 상기 구조물 영상을 상기 3차원 디지털 트윈에 반영할 수 있다.Further, a camera for generating a structure image by photographing the structure when the moving object moves; wherein the calculation unit reflects the position and direction of the camera installed on the moving object to the position and direction coordinates of the moving object, The coordinates may be calculated, and the 3D digital twin unit may match the structure image coordinates with the 3D modeling coordinates in real time to reflect the structure image to the 3D digital twin.

삭제delete

또한, 사용자가 상기 3차원 디지털 트윈에 직접 의견을 입력할 수 있는 입력부;를 더 포함할 수 있다.It may further include an input unit through which a user can directly input an opinion to the 3D digital twin.

여기서, 상기 이동체는 상기 3차원 지도를 바탕으로 계획된 경로를 바탕으로 자동으로 이동할 수 있다.Here, the moving object may automatically move based on a route planned based on the 3D map.

본 발명은 실시간으로 이동체에 의해 현장을 3차원 모델링하고 점검하는 것과 동시에 상태 데이터를 3차원 모델링에 3차원적으로 표현하거나 시각화하여 점검 결과를 직관적으로 파악할 수 있는 효과가 있다.The present invention has the effect of being able to intuitively grasp the inspection result by expressing or visualizing state data in 3D modeling 3D at the same time as 3D modeling and checking a site by a moving object in real time.

또한, 본 발명은 별도의 위치측정유닛 없이 이동체 이동과 데이터의 위치를 맵핑할 수 있어 비용을 줄일 수 있는 효과가 있다.In addition, according to the present invention, the movement of the moving object and the location of data can be mapped without a separate location measurement unit, thereby reducing cost.

또한, 본 발명은 이동체가 구조물 설계 정보 없이 경로를 계획해 구조물 설계 변경 또는 설계 정보에 없는 장애물이 있어도 장애물을 회피하면서 이동할 수 있는 효과가 있다.In addition, the present invention has the effect that the moving object can move while avoiding the obstacle even if there is an obstacle not in the structure design change or design information by planning a path without structure design information.

또한, 본 발명은 구조물에 별도의 구조물 상태를 측정하는 복수의 센서를 설치하지 않고, 이동체에 설치하기 때문에 구조물 상태를 측정하는 센서 비용을 줄일 수 있는 효과가 있다.Further, according to the present invention, since a plurality of sensors for measuring the state of the structure are not installed on the structure, but are installed on a moving body, there is an effect of reducing the cost of a sensor for measuring the state of the structure.

도 1은 본 발명에 일실시예에 따른 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치의 구성도이다.
도 2는 본 발명에 일실시예에 따른 3차원 디지털 트윈부의 구성도이다.
도 3 및 도 4는 본 발명에 일실시예에 따른 3차원 디지털 트윈부가 생성한 3차원 디지털 트윈의 예시자료이다.
도 5는 본 발명에 다른 실시예에 따른 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 방법의 순서도이다.
1 is a block diagram of an apparatus for visualizing data in a 3D digital twin for safety inspection of a facility according to an embodiment of the present invention.
2 is a block diagram of a 3D digital twin unit according to an embodiment of the present invention.
3 and 4 are exemplary data of a 3D digital twin generated by a 3D digital twin according to an embodiment of the present invention.
5 is a flowchart of a data visualization method in a 3D digital twin for safety inspection of a facility according to another embodiment of the present invention.

본 발명은 다양한 변경을 가할 수 있고 여러가지 실시예를 가질수 있는바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.Since the present invention can be modified in various ways and has various embodiments, specific embodiments will be illustrated in the drawings and described in detail in the detailed description. However, this is not intended to limit the present invention to a specific embodiment, it is to be understood to include all changes, equivalents, and substitutes included in the spirit and scope of the present invention.

제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 해당 구성요소들은 이와 같은 용어들에 의해 한정되지는 않는다. 이 용어들은 하나의 구성요소들을 다른 구성요소로부터 구별하는 목적으로만 사용된다.Terms including ordinal numbers, such as first and second, may be used to describe various elements, but the corresponding elements are not limited by these terms. These terms are only used for the purpose of distinguishing one component from another.

어떤 구성요소가 다른 구성요소에 '연결되어' 있다거나, 또는 '접속되어' 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 '직접 연결되어' 있다거나, '직접 접속되어' 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.When an element is referred to as being'connected' or'connected' to another element, it may be directly connected to or connected to the other element, but other elements may exist in the middle. It should be understood that there is. On the other hand, when a component is referred to as being'directly connected' or'directly connected' to another component, it should be understood that there is no other component in the middle.

본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, '포함한다' 또는 '가지다' 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The terms used in the present application are only used to describe specific embodiments, and are not intended to limit the present invention. Singular expressions include plural expressions unless the context clearly indicates otherwise. In the present application, terms such as'include' or'have' are intended to designate the presence of features, numbers, steps, actions, components, parts, or a combination thereof described in the specification, but one or more other features It is to be understood that the presence or addition of elements or numbers, steps, actions, components, parts, or combinations thereof, does not preclude in advance.

도 1은 본 발명에 일실시예에 따른 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치의 구성도이다.1 is a block diagram of an apparatus for visualizing data in a 3D digital twin for safety inspection of a facility according to an embodiment of the present invention.

도 1을 참조하면, 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치(10)는 이동체(100) 및 분석부(200)를 포함한다.Referring to FIG. 1, a data visualization apparatus 10 in a 3D digital twin for safety inspection of a facility includes a moving object 100 and an analysis unit 200.

이동체(100)는 드론 또는 로봇 등으로 사용자가 직접 조정기를 이용하여 수동으로 조정될 수도 있고, 자동으로 이동하는 무인체 일 수 있다.The moving body 100 may be manually adjusted by a user using a drone or a robot or the like, or may be an unmanned body that automatically moves.

이동체(100)는 3차원 라이다(110), 검사 센서(120), 카메라(130), 3차원 지도 작성부(140), 계산부(150), 이동체 통신부(160) 및 제어부(170)를 포함한다.The mobile 100 includes a 3D lidar 110, an inspection sensor 120, a camera 130, a 3D map creation unit 140, a calculation unit 150, a mobile communication unit 160, and a control unit 170. Include.

3차원 라이다(110)는 이동체(100)에 설치되어 이동체(100)가 이동할 때 구조물을 스캔해 3차원 구조물 데이터를 획득한다.The 3D lidar 110 is installed on the moving object 100 and scans the structure when the moving object 100 moves to obtain 3D structure data.

검사 센서(120)는 이동체(100)에 설치되어 이동체(100)가 이동할 때 구조물 상태를 파악할 수 있는 구조물 데이터를 획득한다. The inspection sensor 120 is installed on the moving object 100 to obtain structure data capable of grasping the state of the structure when the moving object 100 moves.

카메라(130)는 이동체에 설치되어 이동체(100)가 이동할 때 구조물을 촬영해 구조물 영상을 생성한다.The camera 130 is installed on the moving object and photographs the structure when the moving object 100 moves to generate a structure image.

3차원 지도 작성부(140)는 3차원 라이다(110)로부터 획득한 구조물 데이터를 이용하여 스캔 매칭(scan matching) 같은 알고리즘으로 정합해 3차원 지도를 작성한다. 이에 3차원 지도 작성부(140)는 GPS 신호가 없는 실내 공간에 대해서도 3차원 지도 작성이 가능하다.The 3D map creation unit 140 creates a 3D map by matching the structure data acquired from the 3D lidar 110 using an algorithm such as scan matching. Accordingly, the 3D map creation unit 140 can create a 3D map even in an indoor space without a GPS signal.

3차원 지도 작성부(140)는 3차원 지도를 작성할 때, 3차원 지도 데이터를 복셀로 표현하고, 복셀 내의 모든 3차원 점에 기초한 고유값 및 고유벡터 획득한 후, 새로이 획득한 3차원 점에 대응하는 3차원 대응점을 검출하고, 회전변환 및 병진이동변환을 산출해 지도 갱신하기 때문에 이동체(100)의 이동으로 3차원 라이다(110)가 움직여도 정확한 3차원 지도를 작성할 수 있다.When creating a 3D map, the 3D map creation unit 140 expresses the 3D map data as voxels, acquires eigenvalues and eigenvectors based on all 3D points in the voxel, and then uses the newly acquired 3D points. Since the map is updated by detecting the corresponding 3D corresponding point, calculating rotational transformation and translation transformation, it is possible to create an accurate 3D map even if the 3D lidar 110 moves due to the movement of the moving object 100.

계산부(150)는 3차원 지도 작성부(140)가 작성한 3차원 지도에서 이동체(100)의 위치와 방향을 추정하여 좌표를 계산한다. The calculation unit 150 calculates coordinates by estimating the location and direction of the moving object 100 on the 3D map created by the 3D map creation unit 140.

구체적으로, 계산부(150)는 3차원 지도에서 이동체(100)의 위치와 방향을 추정하여 이동체(100)의 위치와 방향 좌표를 계산하며, 계산부(150)는 이동체(100)의 위치와 방향 좌표를 기준으로 3차원 디지털 트윈부(220)에서 생성한 구조물의 3차원 모델링의 좌표와 검사 센서(120)가 파악한 구조물 상태의 위치에 해당하는 구조물 상태 좌표를 계산한다. Specifically, the calculation unit 150 calculates the location and direction coordinates of the moving body 100 by estimating the location and direction of the moving body 100 on the 3D map, and the calculation unit 150 calculates the location and direction of the moving body 100 The coordinates of the 3D modeling of the structure generated by the 3D digital twin unit 220 and the structure state coordinates corresponding to the position of the structure identified by the inspection sensor 120 are calculated based on the direction coordinates.

또한, 계산부(150)는 이동체(100)의 위치 및 방향 좌표에 이동체(100)에 설치된 카메라(130)의 위치 및 방향을 반영하여 카메라(130) 좌표를 계산한다.In addition, the calculation unit 150 calculates the coordinates of the camera 130 by reflecting the position and direction of the camera 130 installed on the moving object 100 to the position and direction coordinates of the moving object 100.

이동체 통신부(160)는 3차원 라이다(110) 및 검사 센서(120)를 통해 획득한 구조물 데이터, 카메라(130)가 촬영해 생성한 구조물 영상, 3차원 지도 작성부(140)에서 작성한 3차원 지도, 계산부(150)에서 계산한 이동체(100)의 위치 및 방향 좌표, 구조물 영상 좌표, 3차원 모델링 좌표, 구조물 상태 좌표를 분석부(200)의 통신부(210)에 전송한다. 여기서, 이동체 통신부(160)는 입력부(240)를 통해 사용자가 입력한 이동체(100) 조정 명령과 분석부(200)의 3차원 디지털 트윈부(220)에서 생성한 3차원 모델링 데이터를 전송 받을 수 있다.The mobile communication unit 160 includes structure data acquired through the 3D lidar 110 and the inspection sensor 120, a structure image captured by the camera 130, and a 3D map created by the 3D map creation unit 140. The map, the location and direction coordinates of the moving object 100 calculated by the calculation unit 150, the structure image coordinates, the 3D modeling coordinates, and the structure state coordinates are transmitted to the communication unit 210 of the analysis unit 200. Here, the mobile communication unit 160 may receive the control command of the mobile 100 input by the user through the input unit 240 and the 3D modeling data generated by the 3D digital twin unit 220 of the analysis unit 200. have.

제어부(170)는 3차원 지도를 바탕으로 A* 알고리즘, RRT(Rapid-Exploring Random Tree) 및 PRM(Probabilistic Roadmap) 중 어느 하나를 이용해 이동체(100)의 경로를 계획하여, 계획된 경로로 이동체(100)가 자동으로 이동할 수 있게 제어한다. 이에 이동체(100)는 실내외에 위치추적 장치가 없어도 자동으로 이동할 수 있다. The control unit 170 plans the path of the moving object 100 using any one of A* algorithm, RRT (Rapid-Exploring Random Tree), and PRM (Probabilistic Roadmap) based on the 3D map, and moves the moving object 100 to the planned path. ) To move automatically. Accordingly, the moving body 100 can automatically move indoors and outdoors without a location tracking device.

또한, 제어부(170)는 이동체 통신부(160)를 통해 전송 받은 사용자가 입력한 이동체(100) 조정 명령에 따라 이동체(100)가 이동하도록 제어할 수 있다.In addition, the controller 170 may control the moving object 100 to move according to a command for adjusting the moving object 100 input by a user transmitted through the mobile communication unit 160.

분석부(200)는 컴퓨터, 스마트폰, 테플릿 PC 등의 장치이며, 통신부(210), 3차원 디지털 트윈부(220), 출력부(230), 입력부(240) 및 저장부(250)를 포함한다.The analysis unit 200 is a device such as a computer, a smartphone, and a tablet PC, and includes a communication unit 210, a 3D digital twin unit 220, an output unit 230, an input unit 240, and a storage unit 250. Include.

통신부(210)는 이동체 통신부(160)에서 전송한 3차원 라이다(110) 및 검사 센서(120)를 통해 획득한 구조물 데이터, 카메라(130)가 촬영해 생성한 구조물 영상, 3차원 지도 작성부(140)에서 작성한 3차원 지도, 계산부(150)에서 계산한 이동체(100)의 위치 및 방향 좌표, 구조물 영상 좌표, 3차원 모델링 좌표, 구조물 상태 좌표를 전송 받는다.The communication unit 210 includes the 3D lidar 110 transmitted from the mobile communication unit 160 and the structure data acquired through the inspection sensor 120, the structure image generated by the camera 130, and a 3D map creation unit. The 3D map created at 140, the location and direction coordinates of the moving object 100 calculated by the calculation unit 150, the structure image coordinates, the 3D modeling coordinates, and the structure state coordinates are transmitted.

또한, 통신부(210)는 입력부(240)를 통해 사용자가 입력한 이동체(100) 조정 명령과 관리부(200)의 3차원 디지털 트윈부(200)에서 생성한 3차원 모델링 데이터를 이동체 통신부(160)에 전송할 수 있다.In addition, the communication unit 210 transmits a command for adjusting the mobile body 100 input by the user through the input unit 240 and the 3D modeling data generated by the 3D digital twin unit 200 of the management unit 200 to the mobile communication unit 160. Can be transferred to.

3차원 디지털 트윈부(220)는 통신부(210)를 통해 전송 받은 3차원 라이다(110) 및 검사 센서(120)를 통해 획득한 구조물 데이터, 카메라(130)가 촬영해 생성한 구조물 영상, 계산부(150)에서 계산한 이동체(100)의 위치 및 방향 좌표, 구조물 영상 좌표, 3차원 모델링 좌표, 구조물 상태 좌표를 바탕으로 구조물의 3차원 모델링 및 3차원 디지털 트윈을 생성한다. 여기서, 3차원 디지털 트윈은 3차원 모델링된 구조물에 구조물 상태가 반영된 것 또는 3차원 디지털 트윈은 3차원 모델링된 구조물에 구조물 상태가 반영된 것에 구조물 영상이 더 반영된 것일 수 있다. The 3D digital twin unit 220 includes the 3D lidar 110 transmitted through the communication unit 210 and the structure data acquired through the inspection sensor 120, the structure image captured by the camera 130, and calculated. Based on the position and direction coordinates of the moving object 100, structure image coordinates, 3D modeling coordinates, and structure state coordinates calculated by the unit 150, 3D modeling of the structure and 3D digital twin are generated. Here, in the 3D digital twin, a structure state may be reflected in a 3D modeled structure, or a 3D digital twin may be a structure image in which a structure state is reflected in a 3D modeled structure.

출력부(230)는 3차원 디지털 트윈부(220)에서 생성한 3차원 디지털 트윈을 출력한다.The output unit 230 outputs a 3D digital twin generated by the 3D digital twin unit 220.

입력부(240)는 사용자가 3차원 디지털 트윈에 직접 의견을 타이핑하여 텍스트로 입력할 수 있게 한다.The input unit 240 allows a user to directly type an opinion on the 3D digital twin and input it as text.

또한, 입력부(240)는 사용자가 통신부(210)를 통해 전송 받은 구조물 영상의 위치를 3차원 트윈에서 변경할 수 있게 할 수 있으며, 사용자가 이동체(100) 조정 명령을 입력할 수 있게 한다.In addition, the input unit 240 may enable the user to change the position of the structure image transmitted through the communication unit 210 in the 3D twin, and allow the user to input a command to adjust the moving object 100.

저장부(250)는 통신부(210)를 통해 전송 받은 3차원 라이다(110) 및 검사 센서(120)를 통해 획득한 구조물 데이터, 카메라(130)가 촬영해 생성한 구조물 영상, 3차원 지도 작성부(140)에서 작성한 3차원 지도, 계산부(150)에서 계산한 이동체(100)의 위치 및 방향 좌표, 구조물 영상 좌표, 3차원 모델링 좌표, 구조물 상태 좌표, 3차원 디지털 트윈부(220)에서 생성한 구조물의 3차원 모델링 및 3차원 디지털 트윈, 입력부(240)를 통해 입력한 사용자 의견을 저장한다.The storage unit 250 is a 3D lidar 110 transmitted through the communication unit 210 and structure data acquired through the inspection sensor 120, a structure image captured by the camera 130, and a 3D map In the 3D map created by the unit 140, the position and direction coordinates of the moving object 100 calculated by the calculation unit 150, the structure image coordinates, the 3D modeling coordinates, the structure state coordinates, the 3D digital twin unit 220 3D modeling of the generated structure, 3D digital twin, and user opinion input through the input unit 240 are stored.

또한, 저장부(250)는 3차원 디지털 트윈부(220)가 구조물의 3차원 모델링을 할 수 있는 구조물의 도면 등의 데이터와 온오프라인에서 입수할 수 있는 구조물의 3차원 모델링 데이터를 저장하고 있을 수 있다.In addition, the storage unit 250 may store data such as a drawing of a structure in which the 3D digital twin unit 220 can perform 3D modeling of the structure and 3D modeling data of the structure that can be obtained online or offline. I can.

도 2는 본 발명에 일실시예에 따른 3차원 디지털 트윈부의 구성도이다.2 is a block diagram of a 3D digital twin unit according to an embodiment of the present invention.

도 2를 참조하면, 3차원 디지털 트윈부(220)는 3차원 모델링부(221), 매칭부(222) 및 생성부(223)을 포함한다.Referring to FIG. 2, the 3D digital twin unit 220 includes a 3D modeling unit 221, a matching unit 222, and a generating unit 223.

3차원 모델링부(221)는 관리 통신부(210)를 통해 전송 받은 3차원 라이다(110)를 통해 획득한 구조물 데이터 및 3차원 지도 중 적어도 어느 하나를 바탕으로 구조물을 3차원 모델링한다. 여기서, 3차원 모델링부(221)는 저장부(250)에 저장된 구조물의 도면 등의 데이터를 바탕으로 구조물의 3차원 모델링을 생성할 수도 있으며, 계산부(140)는 3차원 모델링부(221)가 저장부(250)에 저장된 구조물의 도면 등의 데이터를 바탕으로 구조물의 3차원 모델링을 생성하거나 저장부(250)에 저장된 온오프라인에서 입수할 수 있는 구조물의 3차원 모델링 데이터가 있는 경우 3차원 지도와 3차원 모델링부(221)가 생성한 3차원 모델링 또는 저장부(250)에 저장된 온오프라인에서 입수할 수 있는 구조물의 3차원 모델링 데이터를 바탕으로 로컬라이제이션을 수행해 이동체(100)의 위치와 방향을 계산할 수 있다. The 3D modeling unit 221 3D models a structure based on at least one of a 3D map and structure data acquired through the 3D lidar 110 transmitted through the management communication unit 210. Here, the 3D modeling unit 221 may generate a 3D modeling of the structure based on data such as a drawing of the structure stored in the storage unit 250, and the calculation unit 140 is a 3D modeling unit 221 3D modeling of a structure is generated based on data such as a drawing of a structure stored in the storage unit 250, or when there is 3D modeling data of a structure that can be obtained online or offline stored in the storage unit 250. The location and direction of the moving object 100 by performing localization based on the map and the 3D modeling generated by the 3D modeling unit 221 or the 3D modeling data of the structure that can be obtained online or offline stored in the storage unit 250 Can be calculated.

매칭부(222)는 관리 통신부(210)를 통해 전송 받은 구조물 영상 좌표, 3차원 모델링 좌표, 구조물 상태 좌표를 서로 매칭한다.The matching unit 222 matches the structure image coordinates, the 3D modeling coordinates, and the structure state coordinates transmitted through the management communication unit 210 with each other.

생성부(223)는 매칭부(222)에서 매칭한 구조물 영상 좌표, 3차원 모델링 좌표, 구조물 상태 좌표를 바탕으로 3차원 모델링부(221)에서 생성한 구조물의 3차원 모델링에 구조물 상태 및 구조물 영상 중 적어도 어느 하나를 반영해 3차원 디지털 트윈을 생성한다. 여기서, 구조물 상태는 3차원적 요소, 그래픽 요소 및 그래프 등으로 표현될 수 있다. The generation unit 223 is based on the structure image coordinates, the 3D modeling coordinates, and the structure state coordinates matched by the matching unit 222, the structure state and the structure image in the 3D modeling of the structure generated by the 3D modeling unit 221 At least one of them is reflected to create a 3D digital twin. Here, the structure state may be expressed as a three-dimensional element, a graphic element, and a graph.

도 3 및 도 4는 본 발명에 일실시예에 따른 3차원 디지털 트윈부가 생성한 3차원 디지털 트윈의 예시자료이다.3 and 4 are exemplary data of a 3D digital twin generated by a 3D digital twin according to an embodiment of the present invention.

도 3을 참조하면, 3차원 디지털 트윈부(220)가 생성한 3차원 디지털 트윈(300)은 이동체(100)에 설치된 3차원 라이다(110)를 통해 획득한 구조물 데이터를 바탕으로 생성한 구조물의 3차원 모델링(310)에 감지 센서(120)를 통해 획득한 구조물 데이터 중 가스 누출 여부에 대한 구조물 상태(321), 부식 정도에 대한 구조물 상태(322, 323) 및 선박 두께에 대한 구조물 상태(324)와 부식이 심한 곳의 구조물 영상(330)이 반영되어 있다.Referring to FIG. 3, the 3D digital twin 300 generated by the 3D digital twin unit 220 is a structure generated based on the structure data acquired through the 3D lidar 110 installed in the moving object 100. Of the structure data acquired through the detection sensor 120 in the 3D modeling 310 of the structure status 321 for gas leakage, the structure status for the degree of corrosion (322, 323), and the structure status for the thickness of the ship ( 324) and the structure image 330 in the place where the corrosion is severe are reflected.

이때, 가스 누출 여부에 대한 구조물 상태(321), 부식 정도에 대한 구조물 상태(322, 323) 및 선박 두께에 대한 구조물 상태(324)와 부식이 심한 곳의 구조물 영상(330)은 매칭부(222)에서 매칭한 3차원 모델링 좌표, 구조물 상태 좌표 및 구조물 영상 좌표를 바탕으로 3차원 모델링(310)에 반영되며, 구조물 영상(330)은 부식 정도에 대한 구조물 상태 중 부식이 심한 곳(322)의 영상이다.At this time, the structure status 321 for the presence of gas leakage, the structure status 322 and 323 for the degree of corrosion, the structure status 324 for the thickness of the ship, and the structure image 330 for the place where corrosion is severe are matched with the matching unit 222 ) Is reflected in the 3D modeling 310 based on the 3D modeling coordinates, structure state coordinates and structure image coordinates matched in ), and the structure image 330 is It's a video.

도 4(a)를 참조하면, 3차원 디지털 트윈부(220)가 생성한 3차원 디지털 트윈(400)은 이동체(100)에 설치된 3차원 라이다(110)를 통해 획득한 구조물 데이터를 바탕으로 생성한 구조물의 3차원 모델링(410)에 감지 센서(120)를 통해 획득한 구조물 데이터 중 가스 누출 여부에 대한 구조물 상태(420)가 매칭부(222)에서 매칭한 3차원 모델링 좌표 및 구조물 상태 좌표를 바탕으로 반영되어 있다.Referring to FIG. 4(a), the 3D digital twin 400 generated by the 3D digital twin unit 220 is based on the structure data acquired through the 3D lidar 110 installed in the moving object 100. 3D modeling coordinates and structure state coordinates matched by the matching unit 222 in the structure state 420 for whether gas leaks among the structure data acquired through the detection sensor 120 in the 3D modeling 410 of the generated structure Is reflected on the basis of.

또한, 구조물의 3차원 모델링(410)에 저장부(250)에 저장된 가스 누출 여부에 대한 구조물 상태(420)를 날짜별로 반영될 수 있으며, 이를 통해 10월20일에 D와 E 지역에서 가스 누출로 농도가 높아지면서 10월 30일에는 확연히 눈으로 볼 수 있을 정도로 가스 누출로 농도가 높아졌음을 확인할 수 있다.In addition, the structure state 420 on whether or not the gas leaks stored in the storage unit 250 can be reflected in the three-dimensional modeling 410 of the structure by date, through which gas leaks in regions D and E on October 20. As the furnace concentration increased, it can be seen that on October 30, the concentration increased due to a gas leak that was clearly visible.

도 4(b)를 참조하면, 도 4(a)와 같은 3차원 디지털 트윈(400)에 입력부(240)를 통해 사용자가 입력한 의견(430)을 반영할 수 있다. Referring to FIG. 4B, an opinion 430 input by a user through the input unit 240 may be reflected in the 3D digital twin 400 as shown in FIG. 4A.

도 5는 본 발명에 다른 실시예에 따른 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 방법의 순서도이다.5 is a flowchart of a data visualization method in a 3D digital twin for safety inspection of a facility according to another embodiment of the present invention.

도 5를 참조하면, S510단계에서는 이동체(100)가 이동하면서 이동체(100)에 설치된 3차원 라이다(110) 및 검사 센서(120)를 통해 구조물 데이터를 획득한다. 이때, 이동체(100)에 설치된 카메라(130)를 통해 이동체(100)가 이동할 때 구조물을 촬영해 구조물 영상을 생성할 수 있다.Referring to FIG. 5, in step S510, while the moving object 100 moves, structure data is acquired through the 3D lidar 110 and the inspection sensor 120 installed in the moving object 100. At this time, when the moving object 100 moves through the camera 130 installed on the moving object 100, the structure may be photographed to generate a structure image.

S520단계에서는 3차원 라이다(110)를 통해 획득한 구조물 데이터를 바탕으로 3차원 지도 작성부(140)가 3차원 지도를 작성한다.In step S520, the 3D map creation unit 140 creates a 3D map based on the structure data acquired through the 3D lidar 110.

S530단계에서는 계산부(150)가 3차원 지도 작성부(140)가 작성한 3차원 지도에서 위치와 방향을 추정하여 좌표를 계산한다. 이때, 계산부(150)는 3차원 지도에서 이동체(100)의 위치와 방향을 추정하여 이동체(100)의 위치와 방향 좌표를 계산하며, 계산부(150)는 이동체(100)의 위치와 방향 좌표를 기준으로 3차원 디지털 트윈부(220)에서 생성한 구조물의 3차원 모델링의 좌표와 감지 센서(120)가 파악한 구조물 상태의 구조물 상태 좌표를, 이동체(100)의 위치 및 방향 좌표에 이동체(100)에 설치된 카메라(130)의 위치 및 방향을 반영하여 카메라(130) 좌표를 계산한다. In step S530, the calculation unit 150 calculates coordinates by estimating the location and direction from the 3D map created by the 3D map creation unit 140. At this time, the calculation unit 150 calculates the location and direction coordinates of the moving body 100 by estimating the location and direction of the moving body 100 on the 3D map, and the calculation unit 150 calculates the position and direction of the moving body 100 Based on the coordinates, the coordinates of the 3D modeling of the structure generated by the 3D digital twin unit 220 and the structure state coordinates of the structure state identified by the detection sensor 120 are transferred to the position and direction coordinates of the moving object 100. The coordinates of the camera 130 are calculated by reflecting the location and direction of the camera 130 installed in 100).

S540단계에서는 3차원 디지털 트윈부(220)가 3차원 라이다(110) 및 검사 센서(120)를 통해 획득한 구조물의 데이터 및 계산부(150)가 계산한 좌표를 바탕으로 3차원 디지털 트윈을 생성하고, 출력부(230)를 통해 출력한다. 이때, 3차원 디지털 트윈부(220)는 3차원 모델링부(221)를 통해 3차원 라이다(110)를 통해 획득한 구조물 데이터 및 3차원 지도 중 적어도 어느 하나를 바탕으로 구조물을 3차원 모델링하고, 매칭부(222)를 통해 구조물 영상 좌표, 3차원 모델링 좌표, 구조물 상태 좌표를 서로 매칭하며, 생성부(223)를 통해 매칭부(222)에서 매칭한 구조물 영상 좌표, 3차원 모델링 좌표, 구조물 상태 좌표를 바탕으로 3차원 모델링부(221)에서 생성한 구조물의 3차원 모델링에 구조물 상태 및 구조물 영상 중 적어도 어느 하나를 반영해 3차원 디지털 트윈을 생성한다.In step S540, the 3D digital twin unit 220 generates a 3D digital twin based on the data of the structure acquired through the 3D lidar 110 and the inspection sensor 120 and the coordinates calculated by the calculation unit 150. And outputs through the output unit 230. At this time, the 3D digital twin unit 220 3D models the structure based on at least one of the structure data and the 3D map acquired through the 3D lidar 110 through the 3D modeling unit 221 , Structure image coordinates, 3D modeling coordinates, and structure state coordinates are matched with each other through the matching unit 222, and the structure image coordinates, 3D modeling coordinates, and structures matched by the matching unit 222 through the generation unit 223 Based on the state coordinates, a 3D digital twin is generated by reflecting at least one of a structure state and a structure image in 3D modeling of the structure generated by the 3D modeling unit 221.

이상에서 본 발명에 따른 실시예들이 설명되었으나, 이는 예시적인 것에 불과하며, 본 발명의 속하는 기술분야에서 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 범위의 실시예가 가능하다는 점을 이해할 것이다. 따라서 본 발명의 진정한 기술적 보호 범위는 다음의 청구범위에 의해서 정해져야 할 것이다.Although the embodiments according to the present invention have been described above, these are merely exemplary, and those of ordinary skill in the art will appreciate that various modifications and equivalent range of embodiments are possible therefrom. . Therefore, the true technical protection scope of the present invention should be determined by the following claims.

10 : 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치
100 : 이동체 110 : 3차원 라이다
120 : 검사 센서 130 : 카메라
140 : 3차원 지도 작성부 150 : 계산부
160 : 이동체 통신부 170 : 제어부
200 : 분석부 210 : 통신부
220 : 3차원 디지털 트윈부 230 : 출력부
240 : 입력부 250 : 저장부
10: Data visualization device in 3D digital twin for facility safety inspection
100: moving object 110: three-dimensional lidar
120: inspection sensor 130: camera
140: 3D map creation unit 150: calculation unit
160: mobile communication unit 170: control unit
200: analysis unit 210: communication unit
220: 3D digital twin unit 230: Output unit
240: input unit 250: storage unit

Claims (16)

이동체가 이동하면서 상기 이동체에 설치된 3차원 라이다 및 검사 센서를 통해 구조물 상태를 포함하는 구조물 데이터를 획득하는 단계;
상기 3차원 라이다를 통해 획득한 상기 구조물 데이터를 바탕으로 3차원 지도를 작성하는 단계;
상기 3차원 지도에서 위치와 방향을 추정하여 좌표를 계산하는 단계; 및
상기 획득한 구조물 데이터 및 상기 계산한 좌표를 바탕으로 3차원 디지털 트윈을 생성해 출력하는 단계;를 포함하되,
상기 이동체는 상기 3차원 지도를 바탕으로 계획된 경로를 바탕으로 자동으로 이동하는 것
을 특징으로 하는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 방법.
Acquiring structure data including a state of a structure through a three-dimensional lidar and inspection sensor installed on the moving object while the moving object moves;
Creating a 3D map based on the structure data acquired through the 3D lidar;
Calculating coordinates by estimating a location and a direction on the 3D map; And
Generating and outputting a 3D digital twin based on the acquired structure data and the calculated coordinates; Including,
The moving object automatically moves based on a planned route based on the three-dimensional map
Data visualization method in a 3D digital twin for facility safety inspection, characterized in that.
제1항에 있어서,
상기 3차원 디지털 트윈은,
상기 3차원 라이다를 통해 획득한 상기 구조물 데이터를 바탕으로 상기 구조물을 3차원 모델링하고,
상기 검사 센서를 통해 획득한 상기 구조물 데이터 중 상기 구조물 상태를 상기 3차원 모델링에 반영한 것인 것
을 특징으로 하는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 방법.
The method of claim 1,
The three-dimensional digital twin,
3D modeling the structure based on the structure data acquired through the 3D lidar,
The structure state of the structure data acquired through the inspection sensor is reflected in the three-dimensional modeling
Data visualization method in a 3D digital twin for facility safety inspection, characterized in that.
제2항에 있어서,
상기 계산한 좌표는,
상기 3차원 지도에서 상기 이동체의 위치 및 방향 좌표이며,
상기 이동체의 위치 및 방향 좌표를 기준으로 상기 3차원 모델링의 3차원 모델링 좌표와 상기 구조물 상태의 구조물 상태 좌표를 더 계산하는 것
을 특징으로 하는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 방법.
The method of claim 2,
The calculated coordinates are,
It is the position and direction coordinates of the moving object in the 3D map,
Further calculating the three-dimensional modeling coordinates of the three-dimensional modeling and the structure state coordinates of the structure state based on the position and direction coordinates of the moving object
Data visualization method in a 3D digital twin for facility safety inspection, characterized in that.
제3항에 있어서,
상기 구조물 상태를 상기 3차원 모델링에 반영하는 것은,
상기 3차원 모델링 좌표와 상기 구조물 상태 좌표를 서로 실시간으로 매칭시켜 반영한 것인 것
을 특징으로 하는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 방법.
The method of claim 3,
Reflecting the structure state in the three-dimensional modeling,
The three-dimensional modeling coordinates and the structure state coordinates are matched and reflected in real time with each other
Data visualization method in a 3D digital twin for facility safety inspection, characterized in that.
제3항에 있어서,
상기 이동체에는 상기 이동체가 이동할 때 상기 구조물을 촬영해 구조물 영상을 생성하는 카메라가 더 설치되며,
상기 이동체의 위치 및 방향 좌표에 상기 이동체에 설치된 상기 카메라의 위치 및 방향을 반영하여 계산된 구조물 영상 좌표를 상기 3차원 모델링 좌표에 실시간으로 매칭시켜 상기 구조물 영상을 상기 3차원 디지털 트윈에 반영하는 것
을 특징으로 하는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 방법.
The method of claim 3,
The moving object is further provided with a camera that photographs the structure and generates a structure image when the moving object moves,
Matching the structure image coordinates calculated by reflecting the position and direction of the camera installed on the moving object to the position and direction coordinates of the moving object in real time with the 3D modeling coordinates, and reflecting the structure image to the 3D digital twin
Data visualization method in a 3D digital twin for facility safety inspection, characterized in that.
삭제delete 제1항에 있어서,
사용자가 상기 3차원 디지털 트윈에 직접 의견을 입력할 수 있는 것
을 특징으로 하는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 방법.
The method of claim 1,
User can directly input opinions on the 3D digital twin
Data visualization method in a 3D digital twin for facility safety inspection, characterized in that.
삭제delete 이동체;
상기 이동체에 설치되어 구조물의 구조물 데이터를 획득하는 3차원 라이다;
상기 이동체에 설치되어 구조물 상태를 포함하는 구조물 데이터를 획득하는 검사 센서;
상기 3차원 라이다를 통해 획득한 상기 구조물 데이터를 바탕으로 3차원 지도를 작성하는 3차원 지도 작성부;
상기 3차원 지도에서 상기 이동체의 위치와 방향을 추정하여 좌표를
계산하는 계산부; 및
상기 3차원 라이다 및 상기 검사 센서를 통해 획득한 상기 구조물 데이터 및 상기 계산부가 계산한 좌표를 바탕으로 3차원 디지털 트윈을 생성하는 3차원 디지털 트윈부;를 포함하되,
상기 이동체는 상기 3차원 지도를 바탕으로 계획된 경로를 바탕으로 자동으로 이동하는 것
을 특징으로 하는 시설물 안전점검을 위한 3차원 디지털 트윈에서의
데이터 시각화 장치.
Moving body;
A three-dimensional lidar installed on the moving body to obtain structure data of the structure;
An inspection sensor installed on the moving body to obtain structure data including a structure state;
A 3D map creation unit for creating a 3D map based on the structure data acquired through the 3D lidar;
The coordinates are calculated by estimating the location and direction of the moving object on the 3D map.
A calculation unit that calculates; And
Including; a 3D digital twin unit for generating a 3D digital twin based on the 3D lidar and the structure data acquired through the inspection sensor and the coordinates calculated by the calculation unit;
The moving object automatically moves based on a planned route based on the three-dimensional map
In a 3D digital twin for safety inspection of facilities characterized by
Data visualization device.
제9항에 있어서,
상기 3차원 디지털 트윈은,
상기 3차원 디지털 트윈부가 상기 3차원 라이다를 통해 획득한 상기 구조물 데이터를 바탕으로 상기 구조물을 3차원 모델링하고,
상기 3차원 디지털 트윈부가 상기 검사 센서를 통해 획득한 상기 구조물 데이터 중 상기 구조물 상태를 상기 3차원 모델링에 반영한 것인 것
을 특징으로 하는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치.
The method of claim 9,
The three-dimensional digital twin,
3D modeling the structure based on the structure data obtained by the 3D digital twin unit through the 3D lidar,
The 3D digital twin reflects the state of the structure in the 3D modeling among the structure data acquired through the inspection sensor.
A data visualization device in a 3D digital twin for facility safety inspection, characterized in that.
제10항에 있어서,
상기 계산부가 계산한 좌표는,
상기 3차원 지도에서 상기 이동체의 위치 및 방향 좌표이며,
상기 계산부가 상기 이동체의 위치 및 방향 좌표를 기준으로 상기 3차원 모델링의 3차원 모델링 좌표와 상기 구조물 상태의 구조물 상태 좌표를 더 계산하는 것
을 특징으로 하는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치.
The method of claim 10,
The coordinates calculated by the calculation unit,
It is the position and direction coordinates of the moving object in the 3D map,
The calculation unit further calculates the three-dimensional modeling coordinates of the three-dimensional modeling and the structure state coordinates of the structure state based on the position and direction coordinates of the moving object.
A data visualization device in a 3D digital twin for facility safety inspection, characterized in that.
제11항에 있어서,
상기 구조물 상태를 상기 3차원 모델링에 반영하는 것은,
상기 3차원 디지털 트윈부가 상기 3차원 모델링 좌표와 상기 구조물 상태 좌표를 서로 실시간으로 매칭시켜 반영한 것인 것
을 특징으로 하는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치.
The method of claim 11,
Reflecting the structure state in the three-dimensional modeling,
The 3D digital twin unit reflects the 3D modeling coordinates and the structure state coordinates by matching each other in real time
A data visualization device in a 3D digital twin for facility safety inspection, characterized in that.
제11항에 있어서,
상기 이동체가 이동할 때 상기 구조물을 촬영하여 구조물 영상을 생성하는 카메라;를 더 포함하되,
상기 계산부는 상기 이동체의 위치 및 방향 좌표에 상기 이동체에 설치된 상기 카메라의 위치 및 방향을 반영하여 구조물 영상 좌표를 계산하며,
상기 3차원 디지털 트윈부가 상기 구조물 영상 좌표를 상기 3차원 모델링 좌표에 실시간으로 매칭시켜 상기 구조물 영상을 상기 3차원 디지털 트윈에 반영하는 것
을 특징으로 하는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치.
The method of claim 11,
Further comprising a; a camera for generating a structure image by photographing the structure when the moving body moves,
The calculation unit calculates the structure image coordinates by reflecting the position and direction of the camera installed on the moving object to the position and direction coordinates of the moving object,
The 3D digital twin unit matches the structure image coordinates to the 3D modeling coordinates in real time and reflects the structure image to the 3D digital twin
A data visualization device in a 3D digital twin for facility safety inspection, characterized in that.
삭제delete 제9항에 있어서,
사용자가 상기 3차원 디지털 트윈에 직접 의견을 입력할 수 있는 입력부;를 더 포함하는 것
을 특징으로 하는 시설물 안전점검을 위한 3차원 디지털 트윈에서의 데이터 시각화 장치.
The method of claim 9,
An input unit through which a user can directly input an opinion to the 3D digital twin;
A data visualization device in a 3D digital twin for facility safety inspection, characterized in that.
삭제delete
KR1020190143316A 2019-11-11 2019-11-11 Apparatus and method for data visualization in 3D digital twin for facility safety inspection KR102157537B1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020190143316A KR102157537B1 (en) 2019-11-11 2019-11-11 Apparatus and method for data visualization in 3D digital twin for facility safety inspection
KR1020200115341A KR20210056893A (en) 2019-11-11 2020-09-09 Apparatus and method for data visualization in 3D digital twin for facility safety inspection

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190143316A KR102157537B1 (en) 2019-11-11 2019-11-11 Apparatus and method for data visualization in 3D digital twin for facility safety inspection

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020200115341A Division KR20210056893A (en) 2019-11-11 2020-09-09 Apparatus and method for data visualization in 3D digital twin for facility safety inspection

Publications (1)

Publication Number Publication Date
KR102157537B1 true KR102157537B1 (en) 2020-09-18

Family

ID=72670297

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020190143316A KR102157537B1 (en) 2019-11-11 2019-11-11 Apparatus and method for data visualization in 3D digital twin for facility safety inspection
KR1020200115341A KR20210056893A (en) 2019-11-11 2020-09-09 Apparatus and method for data visualization in 3D digital twin for facility safety inspection

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020200115341A KR20210056893A (en) 2019-11-11 2020-09-09 Apparatus and method for data visualization in 3D digital twin for facility safety inspection

Country Status (1)

Country Link
KR (2) KR102157537B1 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114018237A (en) * 2021-10-09 2022-02-08 烟台杰瑞石油服务集团股份有限公司 Well site positioning method and device based on digital twinning
WO2022121909A1 (en) * 2020-12-07 2022-06-16 北京达美盛软件股份有限公司 Visualized twin factory system controlled in real time
KR20220125982A (en) * 2021-03-08 2022-09-15 주식회사 지엔아이티 3D digital twin dam safety management system and method using 3D modeling
KR102560340B1 (en) 2022-09-27 2023-07-27 (주)더퍼스트아이씨티 Facility 3D map production system based on digital twin
KR102587701B1 (en) 2022-09-20 2023-10-11 (주)더퍼스트아이씨티 Facility management system based on digital twin

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230126546A1 (en) * 2021-10-22 2023-04-27 Baker Hughes Holdings Llc Gas leak estimation
KR20230093139A (en) 2021-12-17 2023-06-27 안동대학교 산학협력단 Disaster Monitoring System based on Digital Twin using Indoor Positioning and Real-time Remote Control and Method for Controlling the same
KR102586149B1 (en) * 2022-12-29 2023-10-10 (주)레인보우테크 Disaster Safety Management Platform using Digital Twin
KR102664012B1 (en) * 2023-09-26 2024-05-08 한국해양과학기술원 Data production and matching method of investigation system for marine structure

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101583723B1 (en) * 2015-01-16 2016-01-08 단국대학교 산학협력단 Interactive synchronizing system of BIM digital model and Real construction site
KR20170073783A (en) * 2015-12-18 2017-06-29 현대중공업 주식회사 Method for Modeling Cargo hold of Virtual Inspection for Loading Container and System for Modeling Cargo hold of Virtual Inspection for Loading Container
KR101988776B1 (en) * 2017-12-28 2019-06-12 주식회사 현대미포조선 Digital twin ship system based on 3-demension modeling
KR101989982B1 (en) * 2019-03-08 2019-06-17 이봉규 Modeling system and method by analyzing indoor environment based on digital-twin

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101583723B1 (en) * 2015-01-16 2016-01-08 단국대학교 산학협력단 Interactive synchronizing system of BIM digital model and Real construction site
KR20170073783A (en) * 2015-12-18 2017-06-29 현대중공업 주식회사 Method for Modeling Cargo hold of Virtual Inspection for Loading Container and System for Modeling Cargo hold of Virtual Inspection for Loading Container
KR101988776B1 (en) * 2017-12-28 2019-06-12 주식회사 현대미포조선 Digital twin ship system based on 3-demension modeling
KR101989982B1 (en) * 2019-03-08 2019-06-17 이봉규 Modeling system and method by analyzing indoor environment based on digital-twin

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022121909A1 (en) * 2020-12-07 2022-06-16 北京达美盛软件股份有限公司 Visualized twin factory system controlled in real time
KR20220125982A (en) * 2021-03-08 2022-09-15 주식회사 지엔아이티 3D digital twin dam safety management system and method using 3D modeling
KR102536822B1 (en) * 2021-03-08 2023-05-26 (주)지엔아이티 3D digital twin dam safety management system and method using 3D modeling
CN114018237A (en) * 2021-10-09 2022-02-08 烟台杰瑞石油服务集团股份有限公司 Well site positioning method and device based on digital twinning
CN114018237B (en) * 2021-10-09 2023-11-24 烟台杰瑞石油服务集团股份有限公司 Well site positioning method and device based on digital twinning
KR102587701B1 (en) 2022-09-20 2023-10-11 (주)더퍼스트아이씨티 Facility management system based on digital twin
KR102560340B1 (en) 2022-09-27 2023-07-27 (주)더퍼스트아이씨티 Facility 3D map production system based on digital twin

Also Published As

Publication number Publication date
KR20210056893A (en) 2021-05-20

Similar Documents

Publication Publication Date Title
KR102157537B1 (en) Apparatus and method for data visualization in 3D digital twin for facility safety inspection
US20230113831A1 (en) Monitoring construction of a structure
RU2643619C2 (en) Methods and systems for workpiece monitoring
Becerik-Gerber et al. Assessment of target types and layouts in 3D laser scanning for registration accuracy
WO2018229769A1 (en) Method and system for generating an adaptive projected reality in construction sites
Wang et al. Detecting glass in simultaneous localisation and mapping
KR102075844B1 (en) Localization system merging results of multi-modal sensor based positioning and method thereof
US9154769B2 (en) Parallel online-offline reconstruction for three-dimensional space measurement
Cho et al. Target-focused local workspace modeling for construction automation applications
Singh et al. Improved 2D laser grid mapping by solving mirror reflection uncertainty in SLAM
JP7160257B2 (en) Information processing device, information processing method, and program
Giubilato et al. Minivo: Minimalistic range enhanced monocular system for scale correct pose estimation
US20230324167A1 (en) Laser scanner for verifying positioning of components of assemblies
Meissner et al. Simulation and calibration of infrastructure based laser scanner networks at intersections
Tsoy et al. Exhaustive simulation approach for a virtual camera calibration evaluation in gazebo
KR20220104874A (en) Digital Twin Dam Facilities Safety Inspection Management and Data Visualization Devices and Methods
Xu et al. A flexible 3D point reconstruction with homologous laser point array and monocular vision
Pogorzelski et al. Vision Based Navigation Securing the UAV Mission Reliability
Rodríguez-Martín et al. Novel Approach for Three-Dimensional Integral Documentation of Machine Rooms in Hospitals Using Portable Mobile Mapping System
Li et al. Geodetic coordinate calculation based on monocular vision on UAV platform
Siy et al. Implementation of a real-time appearance-based mapping in a fully autonomous urban search robot
Riordan et al. Fusion of LiDAR and Computer Vision for Autonomous Navigation in Gazebo
JP7441579B1 (en) Information processing system and information processing method
CN109001752A (en) A kind of three-dimensional measurement modeling and its method
US12002193B2 (en) Inspection device for inspecting a building or structure

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
A107 Divisional application of patent
GRNT Written decision to grant