KR20230162186A - Handicapped Tourist Support System through Digital Twin-linked Augmented Reality Metaverse - Google Patents

Handicapped Tourist Support System through Digital Twin-linked Augmented Reality Metaverse Download PDF

Info

Publication number
KR20230162186A
KR20230162186A KR1020220061762A KR20220061762A KR20230162186A KR 20230162186 A KR20230162186 A KR 20230162186A KR 1020220061762 A KR1020220061762 A KR 1020220061762A KR 20220061762 A KR20220061762 A KR 20220061762A KR 20230162186 A KR20230162186 A KR 20230162186A
Authority
KR
South Korea
Prior art keywords
space
augmented reality
user
information
digital twin
Prior art date
Application number
KR1020220061762A
Other languages
Korean (ko)
Inventor
박경희
Original Assignee
클레이웍스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 클레이웍스 주식회사 filed Critical 클레이웍스 주식회사
Priority to KR1020220061762A priority Critical patent/KR20230162186A/en
Publication of KR20230162186A publication Critical patent/KR20230162186A/en

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • G06Q50/14Travel agencies
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00Animation
    • G06T13/203D [Three Dimensional] animation
    • G06T13/403D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W4/00Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/02Services making use of location information

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Tourism & Hospitality (AREA)
  • Marketing (AREA)
  • Computer Hardware Design (AREA)
  • Strategic Management (AREA)
  • Human Resources & Organizations (AREA)
  • General Business, Economics & Management (AREA)
  • General Health & Medical Sciences (AREA)
  • Economics (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Graphics (AREA)
  • Primary Health Care (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Architecture (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Processing Or Creating Images (AREA)

Abstract

본 발명은 공간 데이터에 기반한 디지털 트윈을 통한 관광약자의 관광을 지원하고 증강된 관광경험을 제공하는 시스템 및 그 방법에 관한 것으로서, 보다 상세하게는 DT 및 이와 연결된 증강현실 디바이스 및 증강현실 공간을 통해 DT에 접속한 원격지의 참여자를 사용자와 동일한 DT 공간에 배치하고, 이들을 실시간으로 연결하여 현실공간에 가상공간이 연결된 메타버스 서비스를 구현하고 이를 통해 관광약자의 관광을 원격지에서 지원하고 또 같이 관광을 경험할 수 있는 메타버스 시스템 및 그 방법에 관한 것이다.The present invention relates to a system and method for supporting tourism for the underprivileged and providing an augmented tourism experience through a digital twin based on spatial data, and more specifically, through DT, augmented reality devices connected thereto, and augmented reality space. By placing remote participants connected to the DT in the same DT space as the user and connecting them in real time, we implement a metaverse service that connects the virtual space to the real space. Through this, we support the tourism of the tourism vulnerable in remote locations and enable tourism together. It is about the metaverse system and method that can be experienced.

Description

디지털 트윈에 기반한 관광약자 관광 지원 시스템 및 이를 이용한 지원 방법{Handicapped Tourist Support System through Digital Twin-linked Augmented Reality Metaverse} Digital twin-based tourism support system for the underprivileged and support method using the same {Handicapped Tourist Support System through Digital Twin-linked Augmented Reality Metaverse}

본 발명은 디지털 트윈 연동 증강현실 디바이스를 통해 메타버스 공간을 형성하고 증강현실 디바이스를 활용하여 여행 중인 장애인 등 관광 약자의 안전 및 관광 편의를 제공하는 여행 지원 시스템 및 그 방법에 관한 것으로서, 보다 상세하게는 DT와 연동된 증강현실 디바이스가 형성한 증강현실 공간 및 6DoF 벡터를 통해 사용자의 포즈를 인식하여, 여행자의 위치를 현실공간에 대응되는 DT 공간에 정합하고, DT에 연결된 CCTV 및 IoT 디바이스들을 통해 여행자 주변의 상황을 입체적으로 파악하여, 여행자 스스로가 문제를 해결할 수 있도록 DT가 적절한 정보와 도움을 제공할 수 있고, 또한 필요한 경우 여행자에게 도움을 줄 수 있는 원격지의 참여자가 DT 연동 증강현실 공간을 통해 여행자에게 실질적으로 도움을 제공할 수 있는 증강현실 메타버스 서비스 및 그 운용 시스템과 방법에 관한 것이다.The present invention relates to a travel support system and method that forms a metaverse space through a digital twin-linked augmented reality device and utilizes the augmented reality device to provide safety and tourist convenience to the tourist vulnerable, such as the disabled, while traveling. recognizes the user's pose through the augmented reality space and 6DoF vector formed by the augmented reality device linked to the DT, matches the traveler's location to the DT space corresponding to the real space, and detects the user's pose through CCTV and IoT devices connected to the DT. By understanding the situation around the traveler three-dimensionally, DT can provide appropriate information and help so that the traveler can solve the problem themselves. Additionally, if necessary, remote participants who can provide assistance to the traveler can use the DT-linked augmented reality space. It relates to an augmented reality metaverse service and its operating system and method that can provide practical help to travelers.

관광지 등 낯선 장소를 여행 중인 사람들이 겪을 수 있는 다양한 어려움이 있고, 특히 안전상의 위험을 해소해 주기 위한 위치 기반 방법들이 제시되고 있다. 관광산업만으로 한정하여 살펴보면 전통적으로 관광지역 여러 곳에 관광 안내소 등 여행자 지원시설을 설치하고 이곳을 방문하는 관광객에게 직접 필요한 서비스를 제공하는 오프라인 접근 방법과, 관광객이 웹사이트를 방문하여 필요한 정보를 수집하고 스스로 문제를 해결하도록 지원하며 최종적으로는 관광안내 서비스를 제공하는 서비스 지점과 전화 등 통신을 통해 해결하는 방식이 널리 사용 중이다. There are various difficulties that people traveling to unfamiliar places, such as tourist destinations, may experience, and location-based methods are being proposed to specifically resolve safety risks. If we limit ourselves to the tourism industry, we can traditionally use the offline approach of setting up tourist support facilities such as tourist information centers in various tourist areas and providing necessary services directly to tourists visiting the area, and the offline approach where tourists visit websites to collect necessary information. A widely used method is to help people solve problems on their own and ultimately to resolve them through communication, such as by phone, with service branches that provide tourist information services.

하지만 이동에 어려움을 겪고 있는 장애인, 노약자 등 이동약자 및 현지 언어로 의사소통이 어려운 외국인 등을 포함하는 관광 약자들은 여행 중 겪게 되는 어려움과 불편함을 해결하기 위해 임의의 위치에 소재한 관광안내소를 찾아내고 그곳까지 이동하는 것 자체가 또 다른 도전과 어려움으로 작용한다. However, tourism vulnerable groups, including the disabled, the elderly, etc., and foreigners who have difficulty communicating in the local language, visit a tourist information center located in a random location to resolve the difficulties and inconveniences they experience while traveling. Paying the price and moving there itself presents another challenge and difficulty.

낯선 공간을 여행하는 여행자가 아니더라도 재난 또는 사고 등 여러가지 이유로 익숙한 공간에서 고립되어 현장에서 도움의 손길을 기다려야만 하는 상황은 모든 사람들이 언제라도 겪을 수 있는 곤란한 상황이다. Even if you are not a traveler in an unfamiliar space, being isolated from a familiar space for various reasons such as a disaster or accident and having to wait for help on the spot is a difficult situation that anyone can experience at any time.

그러나 어려움에 처한 상황에서 도움을 줄 수 있는 사람이 마침 현장에 있어 문제 해결을 도와줄 수 있다면 좋겠지만 그렇지 못한 경우 원격지에서 신속하고 효과적으로 도움을 줄 수 있는 시스템이 대안으로 요구된다. 그런데 낯선 공간에서 여행을 하고 있는 여행자들, 특히 이동과 의사소통에 어려움을 겪는 관광 약자들에게는 이런 상황에서 적절한 도움을 요청하는 것 자체가 또다른 난관으로 작용한다. However, in a difficult situation, it would be nice if someone who can help is on site and help solve the problem, but if not, a system that can quickly and effectively provide help from a remote location is required as an alternative. However, for travelers traveling in unfamiliar places, especially vulnerable tourists who have difficulty moving and communicating, requesting appropriate help in such a situation presents another challenge.

이를 해결하기 위해 위치기반 서비스를 활용, 스마트 폰 등에 장착된 GPS로 사용자의 위치를 공유하고 문자, 음성, 화상 등을 통한 다양한 의사소통을 지원하는 기술이 활용되고 있으나, GPS 측위 오차는 대략적인 사용자의 위치를 가늠할 수 있을 뿐이며, 특히 여행객이 신체적 장애와 언어적 장벽 등을 가지고 있는 경우 위치기반 서비스 만으로는 여행자의 정확한 위치 및 현재 처한 상황을 정확한 파악하는 것 자체가 복잡하고 어려우며, 해당 공간의 지리적 특성과 환경에 대한 경험을 갖춘 사람이 아니면 원격에서 단편적으로 전달되는 정보만으로는 상황을 정확히 파악하고 필요한 적절한 대처를 결정하기 어렵다. To solve this problem, technology is being used to share the user's location using GPS installed on smartphones, etc. by using location-based services and to support various communication through text, voice, and video. However, the GPS positioning error is approximately the user's approximate level. It can only estimate the location of the traveler, and especially if the traveler has a physical disability or language barrier, it is complicated and difficult to accurately determine the traveler's exact location and current situation through location-based services alone, and the geographical characteristics of the space Unless you have experience with the environment, it is difficult to accurately understand the situation and decide on the appropriate response based on information delivered piecemeal from a distance.

한편, 증강현실 기술과 디지털 트윈(DT) 기술은 서로 개별적인 기술로 발전해오고 있었으나, 휴대용 디바이스의 네트워크 속도와 연산 처리 능력의 발달로 증강현실 디바이스와 DT가 실시간으로 연동하는 것이 가능하게 되었다. 이를 통해 증강현실 디바이스가 주변 공간을 3차원으로 인식하여, 재구성하고, 이를 DT와 공간 정합을 통해 증강현실 공간을 다른 사람과 실시간으로 공유하는 것이 가능하게 된다. 공유된 증강현실-DT 공간에서 현실 세계에 있는 증강현실 사용자와 DT 공간을 통해 해당 공간을 접근하는 가상현실 참여자는 물리적으로는 서로 다른 공간에 있지만, 접속한 DT-증강현실 공간에서 서로의 존재를 인식하고 의사소통 및 상호작용을 수행할 수 있으며 이를 증강현실 메타버스 서비스로 정의할 수 있다.Meanwhile, augmented reality technology and digital twin (DT) technology have been developing as separate technologies, but with the development of network speed and computational processing power of portable devices, it has become possible for augmented reality devices and DT to interoperate in real time. Through this, it becomes possible for the augmented reality device to recognize the surrounding space in three dimensions, reconstruct it, and share the augmented reality space with other people in real time through spatial registration with DT. In a shared augmented reality-DT space, augmented reality users in the real world and virtual reality participants accessing the space through the DT space are physically in different spaces, but they can recognize each other's presence in the accessed DT-augmented reality space. It can recognize, communicate and interact with, and can be defined as an augmented reality metaverse service.

이러한 메타버스 공간에서 가상공간 참여자는 현실공간 여행자가 겪고 있는 현재 상황을 즉각적 또는 직관적으로 인식하고 적절한 조언이나 도움을 원격에서 제공해주는 것이 가능해진다. 기존의 증강현실 기술이 비디오 영상을 원격지로 전송하고, 공유하고 증강현실 디바이스에 인디케이터 등의 GUI 요소를 통해 사용자와 의사소통을 하는 등 사실상 2D 공간을 매개체로 하는 상황 공유에 그치고 있으나, 증강현실 메타버스 공간은 증강현실이 형성하고 DT에 정합된 3D 공간을 통해 현장 사용자에 대한 원격지원은 물론, 가상 공간 참여자가 증강현실 공간의 현지 여행자와 함께 여행 경험의 실시간 공유도 가능하게 된다. In this metaverse space, virtual space participants can immediately or intuitively recognize the current situation that real space travelers are experiencing and provide appropriate advice or assistance remotely. Existing augmented reality technology is limited to sharing situations using 2D space as a medium, such as transmitting and sharing video images remotely and communicating with users through GUI elements such as indicators on augmented reality devices. However, augmented reality meta The bus space not only provides remote support to on-site users through a 3D space created by augmented reality and aligned with DT, but also enables virtual space participants to share travel experiences in real time with local travelers in the augmented reality space.

본 발명은 상기와 같은 문제점을 해결하기 위해 이루어진 것으로서, 여행자가 소지한 스마트폰 등 증강현실 디바이스가 생성한 증강현실 공간을 디지털 트윈(이하 DT)에 정합하고, 사용자의 정확한 위치를 포함하며, 주변 공간을 파악하고, 포착된 사용자 위치와 연결된 CCTV 및 다양한 IoT 디바이스 정보들을 활용하고, 여행자 주변의 상황을 DT에 3D 가상 공간으로 생성하고, 적절한 참여자가 이 가상 공간에 원격지에서 접속하여, 여행자가 처한 상황을 입체적으로 파악하고 3D 증강현실 공간을 통해 입체적인 도움을 줄 수 있는 방법에 관한 것이다. The present invention was made to solve the above problems, by matching the augmented reality space created by an augmented reality device such as a smartphone carried by a traveler to a digital twin (hereinafter referred to as DT), including the user's exact location, and surrounding areas. Identify the space, utilize CCTV and various IoT device information connected to the captured user location, create a 3D virtual space in DT of the situation around the traveler, and allow appropriate participants to remotely access this virtual space to monitor the traveler's situation. It is about a way to understand the situation three-dimensionally and provide three-dimensional help through 3D augmented reality space.

상기 과제를 해결하기 위하여 본 발명은 6DoF 카메라 또는 증강 현실 카메라를 포함하고 이를 제어하는 제어 모듈로 구성된 증강현실 디바이스; 상기 증강현실 디바이스 내에 탑재되는 사용자의 현재 위치와 자세정보를 식별할 수 있는 GPS, WiFi, 지자기계, 자이로스코프 모듈;을 포함하며, 상기 모듈들의 결과 데이터를 합산하여 얻은 6DoF(Degrees of Freedom) 정보를 이용하여 사용자가 현재 어느 지점에서 어느 방향을 바라보고 있는지를 식별하고, 상기 증강현실 디바이스의 추가적인 센서 데이터를 함께 사용, 사용자 주변의3D 증강현실 공간을 형성, 자세정보와 함께 DT로 업로드하고, 6DoF 값에서 추출한 카메라의 방향 벡터를 DT 공간 상의 해당 지점에 투영하여(raycasting) 검출(hit)되는 건물 등 지형지물들과 비교하고, 사용자의 현재 위치와 자세를 계산한다.In order to solve the above problem, the present invention includes an augmented reality device comprising a 6DoF camera or an augmented reality camera and a control module for controlling the same; Includes GPS, WiFi, geomagnetic machine, and gyroscope modules that can identify the user's current location and posture information mounted in the augmented reality device, and 6DoF (Degrees of Freedom) information obtained by summing the resultant data of the modules Identify which point and direction the user is currently facing, use additional sensor data from the augmented reality device to form a 3D augmented reality space around the user, and upload it to DT along with posture information. The camera's direction vector extracted from the 6DoF value is projected (raycasting) to the corresponding point in DT space and compared with landmarks such as buildings that are detected (hit), and the user's current location and posture are calculated.

상기 DT는 건물 및 지형 정보에 대한 자료를 포함하며, 사용자가 생성한 증강현실 공간 정보는 상기 DT 상에 그대로 투영되고, 상기 DT는 사용자의 6DoF벡터를 사용, 사용자의 현재 위치와 수신한 증강현실 공간을 DT에 정합 할 수 있다. 사용자의 증강현실 공간은 DT 공간과 정합 완료 후 DT에 접속한 참여자와 공유되어 사용자가 어떤 상황에 처했는지 알 수 있게 된다.The DT includes data on buildings and terrain information, and the augmented reality spatial information created by the user is projected onto the DT. The DT uses the user's 6DoF vector to display the user's current location and the received augmented reality. Space can be matched to DT. After matching the user's augmented reality space with the DT space, it is shared with participants connected to the DT, allowing them to know what situation the user is in.

상기 DT는 정합된 사용자 공간을 다른 사용자들과 공유하고 인식하기 쉬운 형태의 고유한 식별자를 부여하는데, 부근의 다른 사용자가 형성한 공간과 구분하기 위해 통상의 지리 좌표계와는 다르게 공간 정보 외에 추가로 현재 시간, 사용자 및 참여자 정보, 생성된 가상 공간의 목적과 요구되는 기능 등에 기반한 식별체계를 사용할 수 있다. The DT shares the matched user space with other users and assigns a unique identifier in an easy-to-recognize form. Unlike a normal geographic coordinate system, in addition to spatial information, in order to distinguish it from the space created by other nearby users, the DT provides additional information in addition to spatial information. An identification system can be used based on the current time, user and participant information, purpose of the created virtual space and required functions, etc.

또한 상기DT는 네트워크로 연결된 CCTV 등 현장에 소재한 IoT 디바이스에 접속, 실시간으로 데이터를 수신하고 해석할 수 있다. DT는 이들이 전송한 실시간 데이터를 통해 해당 공간이 어떤 상황인지를 더욱 정확하게 파악할 수 있게 된다. In addition, the DT can connect to IoT devices located in the field, such as network-connected CCTV, and receive and interpret data in real time. DT can more accurately understand the situation in the space through the real-time data they transmit.

이렇게 완성된 메타버스 공간에 조력자가 원격지에서 가상공간을 통해 참여, DT를 통해 사용자와 실시간으로 의사소통을 하며 사용자에게 필요한 조치를 취할 수 있다. 이러한 조치는 DT를 통해 사용자 주변 공간에 소재한 IoT 디바이스에 대한 원격 제어를 포함할 수 있으며, 또는 DT는 사용자에게 가장 빠르게 도달할 수 있는 현장 인원을 탐색하고 이들과 사용자 공간을 공유하여 신속하고 정확한 현장 조치를 요청할 수 있다. In this completed metaverse space, a helper can participate from a remote location through virtual space, communicate with the user in real time through DT, and take necessary actions for the user. These actions could include remote control of IoT devices located in the space around the user via DT, or DT could discover the on-site personnel who can reach the user most quickly and share the user's space with them to provide fast and accurate on-site control. Action can be requested.

상기와 같이 이루어지는 본 발명은 사용자가 증강현실 디바이스로 촬영하는 데 있어, 업로드한 6DoF 정보 및 이와 결합된 영상 및 사용자가 위치한 공간의 바닥 또는 벽면 등 3D 공간 정보는 DT 상에서 공간정합 후 식별된 위치와 관련된 IoT 데이터와 결합하여 해당 공간의 상황을 입체적으로 파악하는데 그치지 않고 이들 공간과 적절히 조화되는 시각적 효과를 표출하여 입체적인 의사소통을 수행할 수 있다. In the present invention, which is accomplished as described above, when a user takes pictures with an augmented reality device, the uploaded 6DoF information, the image combined therewith, and 3D spatial information such as the floor or wall of the space where the user is located are aligned with the location identified after spatial registration on the DT. By combining with related IoT data, it is possible to not only understand the situation of the space three-dimensionally, but also express visual effects that are appropriately harmonized with these spaces to perform three-dimensional communication.

예를 들어 해당 지역의 CCTV의 실시간 영상을 통해 해당 공간을 시각적으로 파악할 수 있게 되며, 다른 IoT 데이터를 결합하여 해당 공간에서 사용자가 처한 상황을 직관적으로 파악하여, 사용자에게 적절한 정보를 제공하고 요구하는 행동을 증강현실 공간에 3D 그래픽으로 표현하고 필요한 경우 의인화된 3D 아바타를 통해 직관적으로 이해하고 즉시 시행할 수 있도록 돕게 된다. 이러한 과정에 소요되는 시간의 단축은 많은 경우 사용자를 심각한 상태 악화로부터 구해내는 결과를 기대할 수 있다.For example, you can visually understand the space through real-time footage from CCTV in the area, and by combining other IoT data, you can intuitively understand the situation the user is in in the space, providing appropriate information to the user and responding to requests. Actions are expressed in 3D graphics in an augmented reality space, and if necessary, anthropomorphic 3D avatars help users understand intuitively and immediately implement them. In many cases, shortening the time required for this process can be expected to result in saving users from serious worsening of their condition.

또한 본 발명은 현장에 배치되어야 했던 서비스 인원들을 DT에 접속 가능한 공간에 재배치하는 것으로 관광 지원 서비스의 운영 효율을 높일 수 있다. Additionally, the present invention can increase the operational efficiency of tourism support services by relocating service personnel who had to be deployed on site to a space accessible to DT.

외국어 소통 가능 인원 또는 의학적인 전문 지식을 갖춘 인원을 모든 현장에 배치하기 어려운 현실에서 이들 인원은 DT 가상공간에서 원활한 활동을 할 수 있는 시설이 설치된 센터에 배치하여 서비스 수용력과 자원 효율을 높일 수 있다. In a reality where it is difficult to deploy personnel who can communicate in foreign languages or have medical expertise to all sites, service capacity and resource efficiency can be increased by placing these personnel in centers equipped with facilities that enable smooth activities in the DT virtual space. .

또한 본 발명은 여행자에 대한 안전 서비스 이외에도 넓은 공간에 산재한 관광지의 POI에 대해 메타버스의 참여자의 가이드를 받으며 관광을 즐길 수 있는 경험을 제공할 수 있다. 이들 참여자는 원격지에서 접속한 관광약자의 보호자일 수 있으며, 여행지 원주민이 가상 가이드 역할을 해줄 수도 있다.Additionally, in addition to safety services for travelers, the present invention can provide the experience of enjoying sightseeing while receiving guidance from metaverse participants regarding POIs of tourist attractions scattered across a wide space. These participants may be guardians of vulnerable tourists visiting from remote locations, and natives of the travel destination may act as virtual guides.

또한 본 발명은 여행자가 위치한 공간에 대한 시각적 정보 외에 다양한 데이터와 결합된 DT가 생성한 메타버스를 통해 원격지에서 접속한 참여자들과 여행자가 공간의 제약을 넘어 함께 관광을 즐기는 새로운 관광 경험을 제공할 수 있다. In addition, the present invention provides a new tourism experience in which participants and travelers connected from remote locations can enjoy sightseeing together beyond spatial constraints through the metaverse created by DT combined with various data in addition to visual information about the space where the traveler is located. You can.

도 1은 본 발명의 일실시예에 따른 디지털 트윈에 기반한 관광약자 관광 지원 시스템의 전체적인 구성을 보여주는 도면이다.
도 2는 본 발명의 일실시예에 따른 디지털 트윈에 기반한 관광약자 관광 지원 시스템의 세부적인 구성을 보여주는 도면이다.
도 3은 본 발명의 일실시예에 따른 디지털 트윈에 기반한 관광약자 관광 지원 방법을 보여주는 도면이다.
도 4는 본 발명의 일실시예에 따른 6DoF 데이터와 상호작용하는 메타버스 참여자 등을 보여주는 도면이다.
도 5는 본 발명의 일실시예에 따른 현실공간 사용자와 메타버스 참여자를 디지털 트윈 공간에 함께 정합하는 것 등을 보여주는 도면이다.
도 6은 본 발명의 일실시예에 따른 전역공간과 지역공간의 투영된 영역 등을 보여주는 도면이다.
Figure 1 is a diagram showing the overall configuration of a tourism support system for the underprivileged based on a digital twin according to an embodiment of the present invention.
Figure 2 is a diagram showing the detailed configuration of a tourism support system for the underprivileged based on a digital twin according to an embodiment of the present invention.
Figure 3 is a diagram showing a method of supporting tourism for the underprivileged based on a digital twin according to an embodiment of the present invention.
Figure 4 is a diagram showing metaverse participants interacting with 6DoF data according to an embodiment of the present invention.
Figure 5 is a diagram showing the matching of real space users and metaverse participants together in the digital twin space according to an embodiment of the present invention.
Figure 6 is a diagram showing the projected areas of global space and local space according to an embodiment of the present invention.

도 1 에 도시된 바와 같이 본 발명은 6DoF 카메라 또는 증강 현실 카메라를 포함하고 이를 제어하는 제어 모듈로 구성된 증강현실 디바이스(100); 상기 증강현실 디바이스 내에 탑재되는 제어모듈(200)에 사용자의 현재 위치와 자세정보를 식별할 수 있는 GPS 모듈(201), WiFi 모듈(202), 지자기계 모듈(203), 자이로스코프 모듈(204); 공간 감지 센서(205) 등을 포함한다.As shown in FIG. 1, the present invention includes an augmented reality device 100 including a 6DoF camera or an augmented reality camera and a control module for controlling the same; The control module 200 mounted in the augmented reality device includes a GPS module 201, a WiFi module 202, a geomagnetic machine module 203, and a gyroscope module 204 that can identify the user's current location and posture information. ; Includes a space detection sensor 205, etc.

상기 GPS 모듈(201), WiFi 모듈(202), 지자기계 모듈(203), 자이로스코프 모듈(204)들의 결과 데이터를 합산하여 얻은 6 Degrees of Freedom (6DoF : 위치정보 x,y,z 또는 경도, 위도, 고도 + POSE 정보 : Roll, Yaw, Pitch) 정보를 이용하여 사용자가 현재 어느 지점에서 어느 방향을 바라보고 있는지를 식별한다. 6 Degrees of Freedom (6DoF: location information x, y, z or longitude, Latitude, altitude + POSE information (Roll, Yaw, Pitch) information is used to identify which point and direction the user is currently facing.

상기 스마트폰의 해당 센서들의 데이터를 합산하여 얻은 6DoF정보를 이용하면 사용자가 현재 어느 지점에서 어느 방향을 바라보고 있는지를 식별할 수 있다. Using 6DoF information obtained by adding up data from the relevant sensors of the smartphone, it is possible to identify which point and which direction the user is currently facing.

상기 6DoF는 위치정보로서 x,y,z 또는 경도, 위도, 고도 정보, POSE정보로서 Roll, Yaw, Pitch 정보를 포함한다.The 6DoF includes x, y, z or longitude, latitude, and altitude information as location information, and Roll, Yaw, and Pitch information as POSE information.

상기 공간 감지 센서(205)는 주변 장애물에 의해 반사되는 빛 또는 음향을 통해 장애물 탐지 및 거리를 계산하며, 증강현실 디바이스는 이들 정보를 다른 센서 데이터 및 카메라 영상과 조합하여 사용자 주변의 3D 공간을 인식, 증강 현실 공간을 형성한다.The space detection sensor 205 detects obstacles and calculates distances through light or sound reflected by surrounding obstacles, and the augmented reality device combines this information with other sensor data and camera images to recognize the 3D space around the user. , forming an augmented reality space.

도 1b에 도시된 바와 같이 본 발명은 상기 제어 모듈을 통해 여행자가 소재한 위치의 3D 공간정보를 DT(Digital twin)로부터 수신하며, 3D 증강현실 공간을 생성하고, 관광지(POI) 정보 외 도로 폭, 경사도, 및 포장상태를 포함하는 휠체어 통행 관련 데이터와 증강현실 센서를 통해 실시간으로 인식한 장애물의 위치, 장애물의 크기를 포함하는 주변 장애물 데이터를 증강현실 디바이스를 통해 제공하는 공간 정보 제공 모듈(211) 및 생성된 3D 증강현실 공간을 상기 DT에 대응되는 메타버스 내의 대응되는 공간에 전송, 메타버스 공간 사용자가 원격지에서 참여하며, DT를 통해 사용자와 실시간으로 음성, 영상 외 3D 캐릭터 및 객체를 통한 의사소통 및 상호작용을 실행하고, 이를 통해 원격의 사용자에게 필요한 정보의 제공을 포함하는 적절한 원격 조치를 취하고, 상기 DT를 통해 사용자와 최소 거리에 위치가 포착되는 현장 인원을 탐색하고 사용자들과 현장 인원이 사용자 공간을 공유하여 현장 조치를 요청하는 메타버스 관광 지원 모듈(212)을 포함한다.As shown in Figure 1b, the present invention receives 3D spatial information of the traveler's location from DT (Digital twin) through the control module, generates a 3D augmented reality space, and provides tourist information (POI) information, road width, Spatial information provision module 211 that provides wheelchair passage-related data, including slope and pavement condition, and surrounding obstacle data, including the location and size of obstacles recognized in real time through an augmented reality sensor, through an augmented reality device. And transmitting the created 3D augmented reality space to the corresponding space in the metaverse corresponding to the DT, users of the metaverse space participate from a remote location, and real-time communication with the user through voice, video, and 3D characters and objects is provided through the DT. Perform communication and interaction, thereby taking appropriate remote actions, including providing necessary information to remote users, detecting on-site personnel whose location is at a minimum distance from the user through the DT, and communicating with users and on-site personnel. It includes a metaverse tourism support module 212 that shares this user space to request on-site actions.

도 2에 도시된 바와 같이 본 발명의 일실시예에 따라 상기 DT(300)는 건물 및 지형 정보에 대한 공간 정보(301)를 포함하며, 이들 공간에 존재하는 POI 정보(302); 그리고 이들 공간에서 실시간 데이터를 제공하고 있는 CCTV 를 포함한 IoT 디바이스 자료(303)를 포함하고 있다.As shown in FIG. 2, according to an embodiment of the present invention, the DT 300 includes spatial information 301 about buildings and terrain information, and POI information 302 existing in these spaces; It also includes IoT device data (303), including CCTV, which provides real-time data in these spaces.

증강현실 디바이스가 형성한 증강현실 공간을 DT 공간에 투영하기 위해 증강현실 디바이스 6DoF는 위치정보 x,y,z 또는 경도, 위도, 고도 및 Roll, Yaw, 및 Pitch를 포함하는 POSE 정보를 포함하고, 상기 증강현실 디바이스가 수집한 주변 3D 공간정보와 함께 DT 상에서 공간정합을 수행하게 된다.In order to project the augmented reality space formed by the augmented reality device into the DT space, the augmented reality device 6DoF includes location information x, y, z or POSE information including longitude, latitude, altitude, and roll, yaw, and pitch, Spatial registration is performed on the DT together with the surrounding 3D spatial information collected by the augmented reality device.

이때 IoT 디바이스 정보(303)을 활용하여, 사용자 주변의 CCTV 영상 등 각종 IoT 센서 데이터를 해당 공간에 시각화 및 정합하여 메타버스 공간은 현실 상황을 실시간으로 모사한 DT로 완성된다.At this time, by using IoT device information 303, various IoT sensor data, such as CCTV images around the user, are visualized and matched to the corresponding space, and the metaverse space is completed with a DT that simulates the real situation in real time.

이제 사용자 공간과 정합이 완료된 DT 상의 공간은 식별 가능한 부호가 부여, 프레젠스 관리자(305)가 공간과 사용자의 존재를 동기화한다. Now, the space on the DT that has been matched with the user space is given an identifiable code, and the presence manager 305 synchronizes the presence of the space and the user.

프레젠스 서버에 등록된 사용자의 위치를 중심으로 일정 영역은 이제 다른 DT 공간과 구분되도록 고유한 공간 식별자가 부여되며 상기 식별자를 통해 다수의 다른 참여자(500)가 해당 DT 공간에 참여할 수 있다. A certain area centered on the location of the user registered in the presence server is now given a unique space identifier to be distinguished from other DT spaces, and a number of other participants 500 can participate in the corresponding DT space through the identifier.

상기 식별자는 실제 공간에서 사용하는 지리적 공간 좌표계와 개별 메타버스 참여자가 사용하는 어플리케이션의 다양한 3D 좌표계들과 상호 변환이 가능하도록 프레젠스 관리자가 좌표계 변환과 컨텍스트 공유 서비스를 제공한다.The presence manager provides coordinate system conversion and context sharing services so that the identifier can be converted between the geographical space coordinate system used in real space and the various 3D coordinate systems of applications used by individual metaverse participants.

도 3a는 본 발명의 일실시예에 따라 (a) 정합 완료된 DT 공간 생성, (b) 다른 참여자가 해당 DT 공간에 참여하게 되는 단계를 예시한 도면이다.Figure 3a is a diagram illustrating the steps of (a) creating a matched DT space, and (b) allowing other participants to participate in the corresponding DT space, according to an embodiment of the present invention.

이 단계에서 참여자의 위치는 DT 공간상에 특정 위치로 공간정합 되며 해당 공간내에서 자유롭게 이동할 수 있다. 이 공간의 현재 상황을 재현하기 위해 CCTV를 포함한 해당 지역의 IoT 디바이스가 전송하는 데이터가 실시간으로 전송되고, 참여자에게 적절한 형태의 물리적 자극 또는 시각적 표현으로 메타버스에 제공된다. At this stage, the participant's location is spatially aligned to a specific location in DT space and can move freely within that space. In order to reproduce the current situation in this space, data transmitted by IoT devices in the area, including CCTV, is transmitted in real time and provided to the metaverse as an appropriate form of physical stimulation or visual expression to participants.

이후 사용자가 증강현실 디바이스를 사용하여 바라보는 주변 공간(실세계)은 DT에서도 동일하게 추적할 수 있으며 메타버스 참여자는 네트워크 지연속도의 차이로서 해당 공간의 변화를 체험하게 된다.Afterwards, the surrounding space (real world) that the user sees using the augmented reality device can be tracked in the same way in DT, and Metaverse participants experience changes in the space due to differences in network delay speed.

도 3b에 도시된 바와 같이 본 발명은 6DoF 카메라 또는 증강 현실 카메라를 제어하고(S21), 사용자의 현재 위치와 자세정보를 식별하며(S22), 6DoF(Degrees of Freedom) 정보를 이용하여 사용자가 현재 어느 지점에서 어느 방향을 바라보고 있는지를 식별하고(S23), 사용자 주변의 3D 증강현실 공간을 형성, 자세정보와 함께 DT 로 업로드하여(S24), 6DoF 값에서 추출한 카메라의 방향 벡터를 DT 공간 상의 해당 지점에 투영하여(raycasting) 검출(hit)되는 건물 등 지형지물들과 비교하고, 사용자의 현재 위치와 자세를 계산한다(S25).As shown in Figure 3b, the present invention controls a 6DoF camera or augmented reality camera (S21), identifies the user's current location and posture information (S22), and uses 6DoF (Degrees of Freedom) information to determine the user's current position. Identify which point and which direction the user is looking at (S23), form a 3D augmented reality space around the user, upload it to DT along with the posture information (S24), and store the camera's direction vector extracted from the 6DoF value in the DT space. It is compared with landmarks such as buildings that are detected (hit) by projecting (raycasting) to the point, and calculates the user's current location and posture (S25).

도 3c에 도시된 바와 같이 본 발명은 여행자(사용자)가 어떤 상황에 처했는지 식별하고(S31), 메타버스 공간에 참여자가 원격지에서 참여, DT 를 통해 사용자와 실시간으로 의사소통을 하며 사용자에게 필요한 조치를 하며(S32), DT 를 통해 사용자 주변 공간에 소재한 IoT 디바이스에 대한 원격 제어하고(S33), DT 는 사용자에게 가장 빠르게 도달할 수 있는 현장 인원을 탐색하고 이들과 사용자 공간을 공유하여 신속하고 정확한 현장 조치를 요청한다(S34). As shown in Figure 3c, the present invention identifies what situation the traveler (user) is in (S31), allows participants to participate in the metaverse space from a remote location, communicates with the user in real time through DT, and provides the necessary information to the user. Take action (S32), remotely control IoT devices located in the space around the user through DT (S33), and DT searches for field personnel who can reach the user the fastest and shares the user space with them to quickly and Request accurate on-site action (S34).

도 4은 메타버스가 제공하는 3D 오브젝트가 사용자의 증강현실 디바이스에 증강현실 오브젝트로 표현되는 과정을 보여준다. 증강현실 디바이스는 수신한 오브젝트의 6DoF 데이터를 증강현실 공간의 값으로 변환한 후 오브젝트를 증강현실 공간에 렌더링할 수 있다. DT 공간에서 생성한 오브젝트는 그 3D 형상과 6DoF 정보가 해당 오브젝트의 가능한 상호작용이 정의된 코드와 함께 사용자의 증강현실 디바이스에 전송된다. Figure 4 shows the process by which a 3D object provided by Metaverse is expressed as an augmented reality object on the user's augmented reality device. The augmented reality device can convert the 6DoF data of the received object into values of the augmented reality space and then render the object in the augmented reality space. For objects created in DT space, their 3D shape and 6DoF information are transmitted to the user's augmented reality device along with a code that defines the possible interactions of the object.

이 때 DT 공간에서 해당 오브젝트는 주변 오브젝트들과 카메라 사이의 거리 또는 방향에 의해 적절히 원근감과 앞의 오브젝트에 일부가 가려지는 오클루전 등 3D 그래픽을 통한 공간 및 가상 객체 표현 기법이 적용되는데, 이것이 증강현실 디바이스에 의해서도 동일하게 처리될 수 있음을 보여주고 있다. At this time, in DT space, spatial and virtual object expression techniques through 3D graphics are applied to the object in DT space, such as appropriate perspective depending on the distance or direction between surrounding objects and the camera, and occlusion where part of the object is obscured by the object in front. It shows that the same processing can be done by augmented reality devices.

즉, 도 4의 오른쪽 DT 공간에서 노란색 용은 DT 공간의 건물 담장보다 뒤에 배치되어 용의 아랫부분이 가려진 채 담장 위의 상체만 보여지는 위치에 배치된 것이다. That is, in the DT space on the right side of Figure 4, the yellow dragon is placed behind the wall of the building in the DT space, so that the lower part of the dragon is hidden and only the upper body on the wall is visible.

이러한 DT의 3D 공간 정보는 증강현실 디바이스에 실시간으로 전송되며, 증강현실 공간에서도 동일하게 오브젝트 배치 - 오클루전 컬링 처리 - 렌더링 등의 일련의 과정을 통해 현실감 있게 표현될 수 있음을 보여주고 있다.This DT's 3D spatial information is transmitted to the augmented reality device in real time, showing that it can be expressed realistically in the augmented reality space through the same series of processes such as object placement, occlusion culling processing, and rendering.

여기에서 오클루젼 컬링 (Occlusion Culling)은 오브젝트가 다른 오브젝트에 의해 가려져서 카메라에 보이지 않을 때 해당 오브젝트의 랜더링을 비활성화 하는 3D 그래픽스 기법을 말한다. 이 기술을 통해 현재 카메라를 통해 보이지 않는 오브젝트를 그리지 않음으로서 성능, 효율상의 이점과 함께 증강현실 공간에서 가상의 객체가 배경이 되는 현실 공간의 물체의 앞 또는 뒤에 있는지를 표현함으로서 몰입감을 높여줄 수 있게 된다.Here, occlusion culling refers to a 3D graphics technique that disables rendering of an object when it is obscured by another object and is not visible to the camera. This technology not only provides performance and efficiency advantages by not drawing objects that are currently invisible through the camera, but also increases immersion by expressing whether a virtual object is in front or behind an object in the background real space in the augmented reality space. There will be.

DT로부터 제공받은 가상 오브젝트가 실재하는 것과 같은 몰입감을 유지하기 위해 가상 오브젝트와 보는 사람과의 공간 안에 다른 오브젝트가 존재한다면 적절히 가상 오브젝트를 가려서 사용자가 인식하는 3D 공간의 원근감을 해치지 않도록 오클루전 컬링(Occlusion Culling)이 처리되어야 한다. In order to maintain a sense of immersion as if the virtual object provided by DT is real, if other objects exist in the space between the virtual object and the viewer, occlusion culling is performed to properly obscure the virtual object so as not to harm the perspective of the 3D space perceived by the user. (Occlusion Culling) must be handled.

이 때 DT는 사용자 주변의 DT 공간의 주요 시설물에 대한 3D 정보를 제공 오클루전 컬링을 위해 가상 오브젝트 주변의 어떤 건물 등 시설이 오클루전 처리되어야 하는지 정보를 제공할 수 있다. At this time, DT provides 3D information about major facilities in the DT space around the user and can provide information on which buildings and other facilities around the virtual object should be occluded for occlusion culling.

그러면 사용자 증강현실 디바이스는 가상 오브젝트 주변의 DT 공간 정보와 증강현실 디바이스가 인식한 주변 3D 공간 및 패스 스루 영상을 활용하고, 오클루전 컬링 작업 영역을 최소화하고 작업 처리 속도와 결과물의 품질은 높일 수 있는 효율성을 확보하게 된다. Then, the user's augmented reality device can utilize the DT spatial information around the virtual object and the surrounding 3D space and pass-through image recognized by the augmented reality device, minimizing the occlusion culling work area and increasing work processing speed and quality of results. Efficiency is secured.

좀더 자세히 설명하면, DT는 증강현실 디바이스에 사용자 주변의 건물 등의 고정된 오브젝트의 위치와 형태를 3D 공간정보로 제공하고, 증강현실 디바이스는 정합된 증강현실 공간과 패스스루 영상을 정합하고 2D 영상에 건물의 대략적인 위치와 자세를 투사하여 복잡한 이미지 공간 내에서 건물의 경계를 빠르고 정확하게 찾는 인식 처리를 수행할 수 있게 되며, 사용자 주변의 이동체 등을 배경의 공간과 분리하여 객체 자체를 인식하고 특정하게 하는 3D 인식의 효율을 높여주게 된다.To explain in more detail, DT provides the location and shape of fixed objects, such as buildings around the user, to the augmented reality device as 3D spatial information, and the augmented reality device matches the registered augmented reality space and the pass-through image and displays the 2D image. By projecting the approximate location and posture of the building, it is possible to perform recognition processing to quickly and accurately find the boundary of the building within a complex image space. By separating moving objects around the user from the background space, the object itself can be recognized and specified. This increases the efficiency of 3D recognition.

이후 DT에서 실시간으로 전송되는 오브젝트의 6DoF 값의 변화 및 사용자와의 상호작용을 통해 해당 오브젝트는 사용자에게 실제 존재하는 오브젝트처럼 느껴지게 된다. Afterwards, through changes in the 6DoF value of the object transmitted in real time from DT and interaction with the user, the object feels like a real object to the user.

이를 통해 사용자에게 해당 상황에서 취해야 할 조치 등을 실시간으로 전달할 수 있다. 경우에 따라서 이 3D 오브젝트는 참여자의 디지털화된 3D 표현으로 전달될 수 있어 사용자의 거부감을 줄이고 전달하는 메시지의 이해를 높일 수 있다.Through this, the user can be informed in real time of the actions to be taken in that situation. In some cases, this 3D object can be delivered as a digitized 3D representation of the participant, which can reduce user resistance and increase understanding of the message being delivered.

도 5는 사용자는 증강현실 디바이스로, 참여자는 가상현실 디바이스를 통해 DT에 접속하여 사용자(현실공간 사용자, 관광약자)와 참여자(가상공간 사용자, 관광 활동 지원 전문가)가 DT를 통해 사용자는 증강된 관광 경험을 체험하고, 참여자는 가상 관광 경험을 제공받는 관광 메타버스 서비스를 보여준다. Figure 5 shows that users access the DT through an augmented reality device and participants access the DT through a virtual reality device. Users (real space users, tourism vulnerable people) and participants (virtual space users, tourism activity support experts) access the augmented reality device through DT. It shows the tourism metaverse service, in which participants experience tourism experiences and are provided with virtual tourism experiences.

참여자는 사용자의 증강현실 디바이스와 DT를 통해 전달되는 실시간 데이터에 기반하여 생성되는 DT 공간을 통해 관광 공간을 전달받게 되며, 사용자는 증강현실 디바이스에 등장하는 참여자의 메타버스 아바타를 통해 참여자의 반응을 전달받고 사용자-참여자 간 의사소통 및 상호작용을 수행하여, 공감대를 형성하면서 현장에서 증강된 관광 경험을 제공받게 된다. Participants will receive the tourist space through the DT space created based on the user's augmented reality device and real-time data transmitted through DT, and the user will receive the participant's response through the participant's metaverse avatar that appears on the augmented reality device. Through communication and interaction between users and participants, a consensus is formed and an enhanced tourism experience is provided on site.

상기 DT는 사용자와 참여자가 함께 공간에 존재하는 것처럼 6DoF 전송 및 상호작용을 실시간으로 교환하며, 증강현실과 가상현실이 하나로 결합된 메타버스 공간을 형성하는 것이다.The DT exchanges 6DoF transmission and interaction in real time as if the user and participant exist in the space together, forming a metaverse space where augmented reality and virtual reality are combined into one.

도 6은 DT 공간에 생성된 서로 다른 참여자들의 각각의 3D 증강현실 메타버스 공간의 특성을 나타낸다. Figure 6 shows the characteristics of each 3D augmented reality metaverse space of different participants created in the DT space.

여기에서 3D GIS 등 3D 공간을 다루는데 있어 3개의 축으로 이루어진 좌표계를 사용하며, 이를 위도, 경도, 고도 또는 z, x, y 등의 기호로 식별하며, 각각의 좌표계에서 정한 기준점으로부터의 거리를 각 축의 측정하고 이를 도, 분, 및 초의 값으로 표현하고 특별히 고도의 경우 해수면 또는 지표면에서 수직 높이를 미터(m)로 표현하는 것이 일반적인 지리 공간 좌표계에서 임의의 지점을 식별하는 방식이다. Here, when dealing with 3D space such as 3D GIS, a coordinate system consisting of three axes is used, which is identified with symbols such as latitude, longitude, altitude, or z, x, y, and the distance from the reference point determined in each coordinate system is Measuring axes and expressing them in degrees, minutes, and seconds, and especially in the case of altitude, expressing the vertical height above sea level or the earth's surface in meters (m), are common ways to identify arbitrary points in a geospatial coordinate system.

하지만 일상 생활에서는 이러한 위도, 경도, 및 고도의 값으로 공간을 다루는 것이 불편하므로 통상 행정부가 정한 행정구역과 결합한 주소체계를 통해 건물과 도로 등을 식별하고 그 위치를 공유하는 것이 일반적이다. However, in everyday life, it is inconvenient to deal with space using latitude, longitude, and altitude values, so it is common to identify buildings and roads and share their locations through an address system combined with administrative districts determined by the administration.

그러나 이러한 주소체계는 산, 들판 또는 강이나 호수 등 수면 등의 건물이나 도로가 존재하지 않아 주소가 부여되지 않은 장소를 지칭하지 못하며, 국가에 따라서는 정리된 주소 체계를 갖추고 있지 못한 광활한 지역이 있을 수 있다. However, this address system cannot refer to places where addresses are not assigned because there are no buildings or roads such as mountains, fields, or water surfaces such as rivers or lakes, and depending on the country, there may be vast areas that do not have an organized address system. You can.

이러한 주소 체계를 보완하기 위해 격자 좌표계를 대안으로 제시되고 있으며, 우리나라도 국가지점번호 제도를 시행하고 있다. To complement this address system, a grid coordinate system is being proposed as an alternative, and Korea is also implementing a national branch number system.

하지만, 전통적인 공간 좌표 체계는 정적인 상태의 위치를 지칭하고 공유하는 목적에는 적합할지라도, 증강현실, 메타버스, 디지털 트윈 등에서 일시적으로 형성하여 다른 사람과 공간을 식별하고 공유하는 것에는 어려움이 있다. However, although the traditional spatial coordinate system is suitable for the purpose of referring to and sharing static locations, it is difficult to identify and share space with others by temporarily forming it in augmented reality, metaverse, digital twin, etc. .

가까운 위치에 서로 다른 사람이 각각의 목적을 위해 증강현실 공간을 생성하고 이를 지정된 참여자와 사용하는 데 있어 전통적인 공간좌표계를 사용하여 디지털트윈 또는 메타버스 공간을 식별하는 과정에서 인접한 또는 중첩된 공간을 구분하는데 어려움이 발생할 수 있으며, 또한 증강현실 공간은 그 수명주기가 현실공간과 달리 몇 분에서 몇 시간 동안만 존재했다가 사라지기 때문에 시간이 흐름에 따라 해당 공간이 더 이상 존재하지 않을 수 있기 때문이다. When different people in close proximity create augmented reality spaces for their own purposes and use them with designated participants, adjacent or overlapping spaces are distinguished in the process of identifying digital twin or metaverse spaces using a traditional spatial coordinate system. Difficulties may arise, and in addition, unlike real space, the life cycle of an augmented reality space is that it only exists for a few minutes to a few hours and then disappears, so the space may no longer exist as time passes. .

따라서 디지털 트윈은 도 3에서 명시한 것과 같이, 지리적 위치와, 공간의 소유자, 공간이 존재하는 시간 동안 만 유효하게 식별되는 공간 식별 체계와 이러한 체계에 따라 생성되는 메타버스 공간 식별자를 요구하게 된다. Therefore, as specified in Figure 3, the digital twin requires a geographical location, the owner of the space, a space identification system that is valid only for the time the space exists, and a metaverse space identifier generated according to this system.

일실시예로서 도 6에 지역공간(Local Space) a에 대한 메타버스 공간 식별자는 수학적으로 다음과 같이 정의될 필요가 있다.As an example, the metaverse space identifier for Local Space a in FIG. 6 needs to be mathematically defined as follows.

사용자(U)가 특정 공간(S)에 현재(T)에 있을 때, 해당 사용자의 시공간은 (S, U, T)의 관계로 표기가 가능하며 이를 쉽게 인식할 수 있도록 생성된 식별자를 공간 식별자 (SID, Space Identifier)라 할 수 있다. When a user (U) is currently (T) in a specific space (S), the space and time of that user can be expressed as a relationship of (S, U, T), and the identifier generated to easily recognize this is called a space identifier. It can be called (SID, Space Identifier).

또한 Enc는 역함수 Dec()가 존재하고, S, U를 다시 복호할 수 있는 부호기이다.Additionally, Enc has an inverse function Dec() and is an encoder that can decode S and U again.

상기 수학식 1에 공간식별자 생성에 사용된 함수 H는 일반적인 해쉬 함수로 정의할 수 있으며, 증강현실 공간과 디지털트윈 공간을 관리하는 프레즌스 관리자(Presence Manager)와 증강현실, 가상현실 장치 및 시스템에 의해 동일하게 해석되고 생성될 수 있도록 함수의 무결성이 보장되어야 한다. The function H used to generate the space identifier in Equation 1 above can be defined as a general hash function, and is used by the Presence Manager, which manages the augmented reality space and digital twin space, and augmented reality and virtual reality devices and systems. The integrity of the function must be guaranteed so that it can be interpreted and created identically.

상기 함수 H는 특정 시간대, 특정 공간에 해당 유저가 생성한 공간이 존재한다면, 그 공간을 식별할 수 있는 식별자를 생성하는 함수로서, 특별히 해당 유저만이 식별자를 생성하도록 권한을 부여하지 않으며, 제3자가 특정 공간에 해당 사용자가 있을 것을 예상하여 생성한 공간식별자를 프레젠스 관리자에게 제출하더라도, 해당 공간에 해당 사용자가 그 시간에 가상공간을 생성하지 않았다면 그 식별자는 히트되지 않아 의미가 없다. The function H is a function that generates an identifier that can identify the space created by the user if there is a space created by the user in a specific time zone and a specific space. It does not specifically authorize only the user in question to create an identifier, and Even if a third party submits a space identifier created in anticipation of the user in a specific space to the presence manager, if the user did not create a virtual space at that time in the space, the identifier is not hit and is meaningless.

즉, 공간 S와 사용자 U 둘만의 관계는 인코더로 식별자를 생성하고 디코더로 S, U를 분리 할 수 있지만, 특정 시간 T를 함께 지정하려 해도 흐르는 시간 T를 다룰 수 있는 인코더와 디코더는 구현되기 힘든데, 이를 해시 기능을 통해 적절한 범위의 시간대에 의해 해싱하면 특정 시간에 존재하는 공간을 지정하는 것이 가능하다. 이 동작은 프레젠스 관리자에 의해 주로 수행되어 현재 시간대에 존재하는 공간과 과거 시간대에 있었던 공간을 지정하는 것이 가능하다.In other words, the relationship between space S and user U can create an identifier with an encoder and separate S and U with a decoder, but even if a specific time T is attempted to be specified together, it is difficult to implement an encoder and decoder that can handle the flowing time T. , it is possible to designate a space that exists at a specific time by hashing this with an appropriate range of time using the hash function. This operation is mainly performed by the presence manager, making it possible to specify which spaces exist in the current time zone and which spaces existed in the past time zone.

다만, 상기 함수 H는 공간에 참여자의 자격에 대해서는 다루지 않는데, 자격증명 및 데이터 보안과 관련한 기술은 기존의 기술을 적용하는 것으로도 충분하며, 본 함수 H의 목적은 특정 시공간의 사용자 주변 공간을 식별하고 공유하기 위한 목적이기 때문이다. However, the above function H does not deal with the qualifications of participants in the space, but it is sufficient to apply existing technologies related to credentials and data security, and the purpose of this function H is to identify the space around the user in a specific time and space. This is because the purpose is to share it.

특히, 관광약자에 대한 관광 편의 및 안전 지원에 활용될 것을 생각하면, 사용자가 의식이 없는 등의 이유로 사용자 디바이스가 주어진 상황을 적절히 판단, 메타버스 공간을 생성하고 누군가에게 관심을 요청해야 하는 상황에도 적용할 수 있다.In particular, considering that it will be used to support tourist convenience and safety for the tourist vulnerable, even in situations where the user device must appropriately judge a given situation, create a metaverse space, and request attention from someone due to reasons such as the user being unconscious, It can be applied.

100 : 스마트폰
200 : 제어모듈
201 : GPS 모듈
202 : WiFi 등 Wireless N/W 통신 모듈
203 : 지자기계 모듈
204 : 관성센서 모듈
205 : 공간 인식 센서 모듈
300 : 디지털 트윈
301 : 현실 세계 공간 정보
302 : 현실 공간 POI 정보
303 : IoT 디바이스 정보
304 : 프레젠스 관리자 (DT내 가상 객체 및 접속 사용자 위치, 상태 관리)
100: Smartphone
200: Control module
201: GPS module
202: Wireless N/W communication module such as WiFi
203: Geomagnetic machine module
204: Inertial sensor module
205: Spatial recognition sensor module
300: Digital twin
301: Real world spatial information
302: Real space POI information
303: IoT device information
304: Presence manager (virtual object and connected user location and status management in DT)

Claims (8)

6DoF 카메라 또는 증강 현실 카메라를 포함하고 이를 제어하는 제어 모듈로 구성된 증강현실 디바이스;
상기 증강현실 디바이스 내에 탑재되는 사용자의 현재 위치와 자세정보를 식별할 수 있는 GPS, WiFi, 지자기계, 자이로스코프 모듈, 주변 공간 인식 센서와 연결되어 현재 위치와 자세정보를 전달받아 저장하고 제어하는 제어 모듈;
상기 제어 모듈을 통해 여행자가 소재한 위치의 3D 공간정보를 DT(Digital twin)로부터 수신하며, 3D 증강현실 공간을 생성하여 증강현실 디바이스를 통해 제공하는 공간 정보 제공 모듈; 및
상기 DT를 통해 사용자와 최소 거리에 위치가 포착되는 현장 인원을 탐색하고 사용자들과 현장 인원이 사용자 공간을 공유하여 현장 조치를 증강현실 디바이스를 통해 요청하는 메타버스 관광 지원 모듈;을 포함하는 디지털 트윈에 기반한 관광약자 관광 지원 시스템.
An augmented reality device comprising a 6DoF camera or an augmented reality camera and a control module for controlling the same;
A control that receives, stores, and controls the current location and posture information by connecting to GPS, WiFi, geomagnetic machine, gyroscope module, and surrounding space recognition sensor that can identify the user's current location and posture information installed in the augmented reality device. module;
A spatial information provision module that receives 3D spatial information of the traveler's location from DT (Digital twin) through the control module, creates a 3D augmented reality space and provides it through an augmented reality device; and
A metaverse tourism support module that searches for on-site personnel whose location is captured at the minimum distance from the user through the DT and requests on-site actions through an augmented reality device by sharing the user space with the users and on-site personnel; a digital twin including A tourism support system for the underprivileged based on tourism.
청구항 1에 있어서,
상기 제어 모듈은 GPS, WiFi, 지자기계, 자이로스코프 모듈, 주변 공간 인식 센서들의 현재 위치와 자세정보를 합산하여 얻은 6DoF(Degrees of Freedom) 정보를 이용하여 사용자가 현재 어느 지점에서 어느 방향을 바라보고 있는지를 식별하고,
상기 제어 모듈은 상기 스마트폰을 통해 사용자가 촬영한 사진들은 자세 정보와 함께 증강현실 공간을 형성하고, 상기 증강현실 공간이 DT로 업로드 되고, DT 공간 상의 해당 지점에 정합하여 증강현실 공간을 매개체로 현실 세계의 공간과 디지털 트윈 공간을 유기적으로 연결하여, 증강현실 공간의 사용자와 디지털 트윈 공간의 참여자 간에 실시간 상호작용이 실행되며,
상기 DT는 건물 및 지형 정보에 대한 자료를 포함하며, 사용자가 생성한 증강현실 공간은 상기 DT 상에 정합되고, 상기 DT는 증강현실 디바이스가 전송하는 패스스루 영상 및 3D 증강현실 공간 정보를 DT 공간정보와 결합하여 증강현실 공간 및 사용자의 실시간 상황을 직관적으로 인식할 수 있는 것을 특징으로 하는 디지털 트윈에 기반한 관광약자 관광 지원 시스템.
In claim 1,
The control module uses 6DoF (Degrees of Freedom) information obtained by summing the current location and posture information of GPS, WiFi, geomagnetic machine, gyroscope module, and surrounding space recognition sensors to determine which point and direction the user is currently facing. identify whether there is a
The control module forms an augmented reality space with photos taken by the user through the smartphone, uploads the augmented reality space to DT, and matches it to the corresponding point in the DT space to use the augmented reality space as a medium. By organically connecting the real world space and the digital twin space, real-time interaction is carried out between users of the augmented reality space and participants in the digital twin space.
The DT includes data on buildings and terrain information, the augmented reality space created by the user is matched to the DT, and the DT stores the pass-through image and 3D augmented reality space information transmitted by the augmented reality device in the DT space. A tourism support system for the underprivileged based on digital twin, which is characterized by being able to intuitively recognize the augmented reality space and the real-time situation of the user by combining with information.
청구항 1에 있어서,
상기 DT는 건물 및 지형 정보에 대한 자료를 포함하며, 사용자가 생성한 증강현실 공간은 상기 DT 상에 정합되고, 상기 DT는 식별된 증강현실 공간 주변의 IoT 디바이스의 실시간 데이터를 결합하여 증강현실 공간 및 사용자의 실시간 상황을 직관적으로 인식할 수 있는 것을 특징으로 하는 디지털 트윈에 기반한 관광약자 관광 지원 시스템.
In claim 1,
The DT includes data on buildings and terrain information, the augmented reality space created by the user is matched to the DT, and the DT combines real-time data from IoT devices around the identified augmented reality space to create an augmented reality space. and a tourism support system for the underprivileged based on digital twins, which is characterized by intuitive recognition of the user's real-time situation.
청구항 1에 있어서,
상기 디지털 트윈에 포함되는 건물에 대한 공간, 행정정보와 증강현실 사용자 정보, 증강현실 공간의 생성 시각 정보를 이용하여 해당 지역에서 동시에 다수가 개별적인 증강현실 공간을 생성해도 이를 고유하게 식별할 수 있는 메타버스 공간 식별자를 생성하고, 해당 공간의 참여를 원하는 디지털 트윈의 다른 참여자가 제출한 공간 식별자를 해석하여, 해당 공간을 인식하고 메타버스 공간에 참여를 허용할 수 있도록 사용자-가상공간-현실공간의 프레젠스 관리자가 존재를 통해 공간을 공유할 수 있는 것을 특징으로 하는 디지털 트윈에 기반한 관광약자 관광 지원 시스템.
[수학식 1]
공간식별자(SID) = H ( S, U, T) = H( Enc(S,U), T)
(이때 S= 공간정보(위치), U는 사용자, T는 시간으로 정의하며 Enc는 역함수 Dec()가 존재, S, U를 다시 복호할 수 있는 부호기)
In claim 1,
Meta that can uniquely identify multiple individual augmented reality spaces in the area by using the space, administrative information, augmented reality user information, and visual information for creating the augmented reality space for the building included in the digital twin. By creating a bus space identifier and interpreting the space identifier submitted by other participants of the digital twin who want to participate in the space, the user-virtual space-real space can be recognized to allow participation in the metaverse space. A tourism support system for the underprivileged based on digital twins, which allows presence managers to share space through presence.
[Equation 1]
Spatial identifier (SID) = H ( S, U, T) = H( Enc(S, U), T)
(In this case, S = spatial information (location), U is the user, T is defined as time, and Enc has an inverse function Dec(), an encoder that can decode S and U again)
청구항 1에 있어서,
상기 DT 공간 내의 건물 오브젝트에 가상의 3D 객체를 배치하고 이를 동작시키면 이 객체 정보가 증강현실 공간에서 시각적으로 동일하게 표출될 수 있고 증강현실 사용자와 디지털 트윈 참여자가 3D 객체를 통해 실시간으로 상호작용할 수 있는 것을 특징으로 하는 디지털 트윈에 기반한 관광약자 관광 지원 시스템.
In claim 1,
By placing a virtual 3D object on a building object in the DT space and operating it, this object information can be expressed visually identically in the augmented reality space, and augmented reality users and digital twin participants can interact in real time through the 3D object. A tourism support system for the underprivileged based on digital twins, which is characterized by:
청구항 1에 있어서,
상기 DT 공간 내의 건물 오브젝트에 디지털 트윈 참여자가 자신을 형상화한 가상의 아바타를 배치하고 이를 동작시키면 이 아바타가 증강현실 공간에서 시각적으로 동일하게 표출될 수 있고 증강현실 사용자와 디지털 트윈 참여자가 아바타를 통해 실시간으로 상호작용하여 동일한 시공간에 존재하고 소통하고 행동하는 것처럼 느낄 수 있는 것을 특징으로 하는 디지털 트윈에 기반한 관광약자 관광 지원 시스템.
In claim 1,
When a digital twin participant places a virtual avatar representing himself or herself on a building object in the DT space and operates it, this avatar can be visually expressed identically in the augmented reality space, and the augmented reality user and digital twin participant can interact through the avatar. A tourism support system for the underprivileged based on digital twins that allows them to feel as if they exist, communicate, and act in the same space and time by interacting in real time.
6DoF 카메라 또는 증강 현실 카메라를 제어하여 현재 위치와 자세정보를 추출하는 단계;
제어 모듈을 통해 상기 사용자의 현재 위치와 자세정보를 식별하는 단계;
상기 제어 모듈을 통해 6DoF(Degrees of Freedom) 정보를 이용하여 사용자가 현재 어느 지점에서 어느 방향을 바라보고 있는지를 식별하는 단계;
상기 제어 모듈을 통해 사용자 주변의 3D 증강현실 공간을 형성하고, 자세정보와 함께 DT로 업로드하는 단계;
상기 제어 모듈을 통해 상기 6DoF 값에서 추출한 카메라의 방향 벡터를 DT 공간 상의 해당 지점에 투영하여(raycasting) 검출(hit)되는 건물을 포함하는 지형지물들과 비교하고, 사용자의 현재 위치와 자세를 계산하는 단계;를 포함하는 디지털 트윈에 기반한 관광약자 관광 지원 방법.
Controlling a 6DoF camera or augmented reality camera to extract current location and posture information;
Identifying the user's current location and posture information through a control module;
Identifying which point and which direction the user is currently facing using 6DoF (Degrees of Freedom) information through the control module;
Forming a 3D augmented reality space around the user through the control module and uploading it to DT along with posture information;
Through the control module, the direction vector of the camera extracted from the 6DoF value is projected (raycast) to the corresponding point in DT space and compared with geographical features including a building that is detected (hit), and calculates the user's current location and posture. Method of supporting tourism for the underprivileged based on digital twin, including steps.
청구항 7에 있어서,
상기 제어 모듈을 통해 여행자가 어떤 상황에 처했는지 식별하는 단계;
상기 제어 모듈을 통해 메타버스 공간에 참여자가 원격지에서 참여, DT 를 통해 사용자와 실시간으로 의사소통을 하며 사용자에게 필요한 조치를 취하는 단계;
상기 DT를 통해 사용자 주변 공간에 소재한 IoT 디바이스에 대한 원격 제어를 하는 단계;를 포함하며,
상기 DT는 사용자에게 최소 거리에 위치가 포착되는 현장 인원을 탐색하고 사용자들과 현장 인원이 사용자 공간을 공유하여 현장 조치를 요청하는 것을 특징으로 하는 디지털 트윈에 기반한 관광약자 관광 지원 방법.
In claim 7,
Identifying what situation the traveler is in through the control module;
A step where a participant remotely participates in the metaverse space through the control module, communicates with the user in real time through DT, and takes necessary actions for the user;
It includes the step of remotely controlling an IoT device located in a space around the user through the DT,
The DT is a digital twin-based tourism support method for the underprivileged, characterized in that it searches for on-site personnel whose positions are captured at a minimum distance to the user and requests on-site action by sharing the user space with the users and on-site personnel.
KR1020220061762A 2022-05-20 2022-05-20 Handicapped Tourist Support System through Digital Twin-linked Augmented Reality Metaverse KR20230162186A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020220061762A KR20230162186A (en) 2022-05-20 2022-05-20 Handicapped Tourist Support System through Digital Twin-linked Augmented Reality Metaverse

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220061762A KR20230162186A (en) 2022-05-20 2022-05-20 Handicapped Tourist Support System through Digital Twin-linked Augmented Reality Metaverse

Publications (1)

Publication Number Publication Date
KR20230162186A true KR20230162186A (en) 2023-11-28

Family

ID=88957401

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220061762A KR20230162186A (en) 2022-05-20 2022-05-20 Handicapped Tourist Support System through Digital Twin-linked Augmented Reality Metaverse

Country Status (1)

Country Link
KR (1) KR20230162186A (en)

Similar Documents

Publication Publication Date Title
US10445945B2 (en) Directional and X-ray view techniques for navigation using a mobile device
Gunduz et al. A review of recent research in indoor modelling & mapping
US10410328B1 (en) Visual-inertial positional awareness for autonomous and non-autonomous device
EP2541201B1 (en) Map view
CN204465738U (en) A kind of disaster relief rescue visible system
Subakti et al. A marker-based cyber-physical augmented-reality indoor guidance system for smart campuses
KR20140034942A (en) 3d path analysis for environmental modeling
TW200415371A (en) System and method for highly accurate real time tracking and location in three dimensions
JP2003132068A (en) Navigation system and navigation terminal
KR102245769B1 (en) System and method for navigating fire exit using augmented reality
Kasapakis et al. Augmented reality in cultural heritage: Field of view awareness in an archaeological site mobile guide
US20210350628A1 (en) Program, information processing method, and information processing terminal
US20150117664A1 (en) Audio information system based on zones and contexts
KR20200130903A (en) Server, method and user device for providing linking service between augmented reality space and virtual reality space
Karimi et al. Pedestrian navigation services: challenges and current trends
KR20150077607A (en) Dinosaur Heritage Experience Service System Using Augmented Reality and Method therefor
KR20230162186A (en) Handicapped Tourist Support System through Digital Twin-linked Augmented Reality Metaverse
Lertlakkhanakul et al. GongPath: Development of BIM based indoor pedestrian navigation system
JP6816909B1 (en) Evacuation guidance system, evacuation guidance method, and eyeglass-type display
KR101436914B1 (en) Virtual Experience System
KR20120014976A (en) Augmented reality apparatus using position information
Bodgan et al. Using 3D urban models for pedestrian navigation support
TW200846692A (en) Method and apparatus for acquiring local position and overlaying information
Kumar et al. Enhancement Of Navigation Technology Using Augmented Reality
EP2336976A1 (en) System and method for providing virtiual environment

Legal Events

Date Code Title Description
E902 Notification of reason for refusal