KR20140013356A - Virtual experience system - Google Patents

Virtual experience system Download PDF

Info

Publication number
KR20140013356A
KR20140013356A KR1020120080085A KR20120080085A KR20140013356A KR 20140013356 A KR20140013356 A KR 20140013356A KR 1020120080085 A KR1020120080085 A KR 1020120080085A KR 20120080085 A KR20120080085 A KR 20120080085A KR 20140013356 A KR20140013356 A KR 20140013356A
Authority
KR
South Korea
Prior art keywords
virtual experience
marker
virtual
camera
image
Prior art date
Application number
KR1020120080085A
Other languages
Korean (ko)
Other versions
KR101436914B1 (en
Inventor
최청휘
최재균
최재광
최재하
Original Assignee
대구광역시 달서구
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 대구광역시 달서구 filed Critical 대구광역시 달서구
Priority to KR1020120080085A priority Critical patent/KR101436914B1/en
Publication of KR20140013356A publication Critical patent/KR20140013356A/en
Application granted granted Critical
Publication of KR101436914B1 publication Critical patent/KR101436914B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10Services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/40Business processes related to the transportation industry

Landscapes

  • Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • Physics & Mathematics (AREA)
  • General Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Processing Or Creating Images (AREA)

Abstract

A virtual experience system includes a virtual experience place, a camera, a camera server, a portable terminal, a wireless relay, and a display unit. The virtual experience place has an inner space and includes a plurality of markers. The camera obtains the whole image of the virtual experience place. The camera server derives position information of a marker from the whole image transmitted from the camera and extracts an image identifier corresponding to the marker from a database. The wireless relay transmits the image identifier and the position information to an external game serer by receiving them from the camera server and receives an image identifier and position information of another marker obtained from another virtual experience place from the external game server. The portable terminal applies the image identifier and position information of the marker and the other image identifier and position information to a virtual experience map by receiving them from the wireless relay. The display unit displays the map by receiving it from the portable terminal. [Reference numerals] (110) Camera; (120) Camera server; (140) Display unit; (150) Wireless relay; (160) Game server; (AA) Portable terminal

Description

가상 체험 시스템{Virtual Experience System}Virtual Experience System

본 발명은 가상 체험에 관한 것으로, 상세하게는 실 공간에서 가상 체험을 구현하는 가상 체험 시스템에 관한 것이다.The present invention relates to a virtual experience, and more particularly, to a virtual experience system for realizing a virtual experience in a real space.

증강현실(Augmented Reality) 시스템은 실 세계와 가상 세계를 결합함으로써, 실시간으로 사용자와 상호작용이 이루어지도록 한 것을 말하는데, 이러한 증강현실 기술을 게임에 적용하는 기술이 개발되고 있으며, 특히 휴대 단말기를 이용하여 증강현실에 기반한 게임을 제공하는 기술은 활발히 연구가 진행되고 있다. The Augmented Reality system combines the real world with the virtual world to allow interaction with the user in real time. Techniques for applying such augmented reality technology to games have been developed, and in particular, And a technique for providing a game based on augmented reality is being actively researched.

공개번호 10-2004-9932호는 위치기반 서비스를 이용한 모바일 온라인 게임 시스템을 개시하고 있다. 그 내용을 보면, GPS 위성, 모바일 단말기, 이동 통신망, 위치기반서비스 시스템, 맵 서버, 게임 서버 등으로 구성되어 있다. GPS 위성은 위치 계산을 위한 항법 데이터를 전송한다. 이동 통신망은 모바일 단말기의 요청에 따라 모바일 단말기의 위치 정보를 계산한다. 위치기반서비스 시스템은 이동 통신망으로부터 수신한 위치 정보와 GPS 위성으로부터 수신한 항법 데이터를 이용하여 모바일 단말기의 위도 및 경도를 계산하고, 계산한 위도 및 경도를 모바일 단말기의 실제 공간의 좌표값으로 변환한다. 맵 서버는 게임의 배경이 되는 가상 공간에 대한 지리 정보를 저장한다. 게임 서버는 이동 통신망을 통하여 접속한 모바일 단말기로 가상 공간의 지리 정보를 제공하고, 위치기반서비스 시스템에서 제공한 모바일 단말기의 좌표에 대응하는 가상 공간에 게임 캐릭터를 배치한다. Publication No. 10-2004-9932 discloses a mobile online game system using location-based services. The contents are composed of GPS satellite, mobile terminal, mobile communication network, location based service system, map server, game server and the like. GPS satellites transmit navigation data for position calculation. The mobile communication network calculates location information of the mobile terminal according to the request of the mobile terminal. The location-based service system calculates the latitude and longitude of the mobile terminal by using the location information received from the mobile communication network and the navigation data received from the GPS satellite, and converts the calculated latitude and longitude into coordinate values of the actual space of the mobile terminal . The map server stores geographic information about the virtual space that is the background of the game. The game server provides the geographical information of the virtual space to the mobile terminal connected through the mobile communication network and arranges the game character in the virtual space corresponding to the coordinates of the mobile terminal provided by the location based service system.

그런데, 이러한 종래기술의 모바일 게임은 GPS 시스템의 특성상 움직이는 대상물의 위치를 정확히 획득하기 어려워, 실제 공간을 가상 공간에 매핑하는 과정에서 오차가 크게 발생한다. 이 경우, 가상 공간에서 대상물의 위치가 다르게 표시되는 등의 에러가 발생하고, 그로 인해 현실감 내지 현장감이 떨어진 게임을 하게 된다.
However, due to the characteristics of the GPS system, it is difficult to precisely acquire the position of a moving object in the mobile game of the related art, and an error occurs in mapping the actual space to the virtual space. In this case, an error occurs such that the position of the object is displayed differently in the virtual space, resulting in a game in which the reality or the sense of realism is lost.

본 발명은 이러한 종래기술의 문제점을 해결하기 위한 것으로,SUMMARY OF THE INVENTION The present invention has been made in view of the above problems,

첫째, 가상 체험자가 움직이면서 가상 체험을 할 수 있는 실 공간을 제공하여 현장감을 높이고, First, it enhances the sense of presence by providing a virtual space where virtual experients can experience virtual experiences,

둘째, 실제 공간을 가상 공간에 정밀하게 매핑하며,Second, the actual space is precisely mapped to the virtual space,

셋째, 가상 체험자의 움직임에 정밀하고 인터렉티브하게 반응하는, 가상 체험시스템을 제공하는 것을 목적으로 한다.
Third, it aims to provide a virtual experience system that responds precisely and interactively to a movement of a virtual experient.

이러한 목적을 달성하기 위한 본 발명의 가상 체험 시스템은 가상 체험관, 카메라, 카메라 서버, 무선 중계기, 휴대 단말기, 디스플레이 유닛을 포함한다.In order to achieve the above object, the virtual experience system of the present invention includes a virtual experience center, a camera, a camera server, a wireless repeater, a portable terminal, and a display unit.

가상 체험관은 소정 크기의 내부 공간을 가지며, 다수의 마커를 구비하고 있다.The virtual experience hall has an internal space of a predetermined size and has a plurality of markers.

카메라는 가상 체험관에 설치된다. 카메라는 가상 체험관의 전체 영상을 획득한다. 카메라는 보통 가상 체험관의 천장에 설치된다.The camera is installed in the virtual experience hall. The camera acquires the entire image of the virtual experience hall. The camera is usually installed on the ceiling of a virtual experience hall.

카메라 서버는 가상 체험관에 설치된다. 카메라 서버는 카메라로부터 전송된 전체 영상에서 마커의 위치 정보를 도출한다. 그리고, 카메라 서버는 마커에 대응하는 이미지 식별자를 이미지 데이터베이스로부터 추출한다.The camera server is installed in the virtual experience hall. The camera server derives the marker position information from the entire image transmitted from the camera. Then, the camera server extracts the image identifier corresponding to the marker from the image database.

무선 중계기는 가상 체험관에 설치된다. 무선 중계기는 카메라 서버로부터 마커의 위치 정보와 이미지 식별자를 수신하여 외부 게임 서버로 전송한다. 무선 중계기는 외부 게임 서버로부터 다른 가상 체험관에서 획득된 다른 마커의 위치 정보와 다른 마커의 이미지 식별자를 수신한다.The wireless repeater is installed in the virtual experience hall. The wireless repeater receives the marker position information and the image identifier from the camera server and transmits it to the external game server. The wireless repeater receives the location information of the other markers and the image identifiers of the other markers obtained from other virtual experience halls from the external game server.

휴대 단말기는 무선 중계기로부터 마커의 위치 정보와 이미지 식별자, 그리고 다른 마커의 위치 정보와 다른 마커의 이미지 식별자를 수신하여 가상 체험 맵에 반영한다.The portable terminal receives the location information and the image identifier of the marker and the location information of the other marker and the image identifier of the other marker from the wireless repeater and reflects them on the virtual experience map.

디스플레이 유닛은 휴대 단말기로부터 가상 체험 맵을 수신하여 디스플레이한다. 디스플레이 유닛은 시야를 커버하는 HMD (Head Mounted Display)를 사용한다.
The display unit receives and displays the virtual experience map from the portable terminal. The display unit uses an HMD (Head Mounted Display) which covers the field of view.

본 발명의 가상 체험 시스템에서, 가상 체험관과 다른 가상 체험관은 크기가 다르게 구성할 수 있다. 이 경우, 카메라 서버는 마커의 위치 정보를 비율값으로 도출하고, 그리고 휴대 단말기는 비율값에 기초하여 마커의 이미지 식별자를 가상 체험 맵에 위치시킨다.In the virtual experience system of the present invention, the virtual experience hall and the other virtual experience hall can be configured in different sizes. In this case, the camera server derives the position information of the marker as a ratio value, and the portable terminal places the image identifier of the marker on the virtual experience map based on the ratio value.

본 발명의 가상 체험 시스템에서, 마커의 위치 정보는 실제 좌표값 또는 좌표의 변화량일 수 있다. In the virtual experience system of the present invention, the positional information of the marker may be an actual coordinate value or a change amount of coordinates.

본 발명의 가상 체험 시스템에서, 마커는 휴대 단말기에 결합되도록 구성할 수 있다.In the virtual experience system of the present invention, the marker can be configured to be coupled to the portable terminal.

본 발명의 가상 체험 시스템에서, 디스플레이 유닛은 지자기 센서 및 중력 센서를 포함한다. 이 경우, 휴대 단말기는 디스플레이 유닛으로부터 가상 체험자의 움직임 변화를 수신하여 가상 체험 맵에 실시간으로 반영한다.In the virtual experience system of the present invention, the display unit includes a geomagnetic sensor and a gravity sensor. In this case, the mobile terminal receives the change in the movement of the virtual player from the display unit and reflects the change in the virtual experience map in real time.

본 발명의 가상 체험 시스템에서, 카메라는 다수를 포함할 수 있다. 이 경우, 다수의 카메라는 할당된 영역의 영상을 획득하며, 그리고 카메라 서버는 다수의 카메라의 획득 영상을 결합한 후, 마커의 위치 정보를 도출한다.
In the virtual experience system of the present invention, the camera may include a plurality of cameras. In this case, a plurality of cameras acquire an image of an allocated area, and a camera server combines acquired images of a plurality of cameras, and then obtains position information of the marker.

이러한 구성을 갖는 본 발명의 가상 체험 시스템에 따르면, 가상 체험자가 움직이면서 가상 체험을 할 수 있는 실 공간을 제공함으로써 현장감을 높일 수 있다. 또한, 본 발명의 가상 체험 시스템은 실제 공간을 가상 공간에 정밀하게 매핑할 수 있으며, 이를 통해 가상 체험자의 움직임에 정밀하고 인터렉티브하게 반응할 수 있다. 덧붙여, 본 발명의 가상 체험 시스템은 게임 뿐만 아니라 정글 체험 등의 다양한 가상 체험에도 적용할 수 있다.
According to the virtual experience system of the present invention having such a configuration, it is possible to enhance the sense of presence by providing a real space in which a virtual experient can move and experience a virtual experience. In addition, the virtual experience system according to the present invention can precisely map an actual space to a virtual space, thereby allowing a precise and interactive response to the movement of a virtual experient. In addition, the virtual experience system of the present invention can be applied not only to games but also to various virtual experiences such as a jungle experience.

도 1은 본 발명에 따른 가상 체험 시스템의 구성도이다.
도 2는 본 발명에 따른 가상 체험 시스템의 데이터 흐름을 보여주는 플로우챠트이다.
도 3은 본 발명에 따른 가상 체험 시스템을 가상 체험 공간으로 구현한 실례이다.
1 is a configuration diagram of a virtual experience system according to the present invention.
2 is a flow chart showing a data flow of the virtual experience system according to the present invention.
FIG. 3 is an example of implementing the virtual experience system according to the present invention as a virtual experience space.

이하, 첨부도면을 참조하여 본 발명을 상세히 설명한다. 이하에서는, 가상 체험을 가상 게임으로 예시하여 설명하며, 가상 체험은 가상 게임 외에 전시관 체험, 박물관 체험, 정글 체험, 수중 체험 등의 다양한 가상 체험을 포함한다.
Hereinafter, the present invention will be described in detail with reference to the accompanying drawings. Hereinafter, the virtual experience is exemplified as a virtual game, and the virtual experience includes various virtual experiences such as exhibition hall experience, museum experience, jungle experience, and underwater experience in addition to the virtual game.

도1은 본 발명의 일시예에 따른 가상 게임장의 구성도이다.1 is a configuration diagram of a virtual game room according to a temporal example of the present invention.

도1에 도시한 바와 같이, 가상 게임장은 실 공간에 카메라(110), 카메라 서버(120), 휴대 단말기(130), 디스플레이 유닛(140), 무선 중계기(150)를 구비하고, 무선 중계기(150)를 외부의 게임 서버(160)와 유선 또는 무선으로 연결한다.1, the virtual game room includes a camera 110, a camera server 120, a portable terminal 130, a display unit 140, and a wireless repeater 150 in a real space, and the wireless repeater 150 To the external game server 160 in a wired or wireless manner.

가상 게임관은 게임자가 실제로 게임을 실행하는 실 공간을 의미한다. 가상 게임관은 게임을 수행할 수 있는 정도의 크기를 갖는 공간, 예를들어 실내 경기장일 수 있다. 가상 게임관은 다양한 크기로 만들 수 있다. The virtual game hall means the actual space in which the player actually plays the game. The virtual game arcade can be a space having a size enough to perform a game, for example, an indoor arena. Virtual game pipes can be made in various sizes.

가상 게임관은 가상 게임맵과 유사하게 구성할 수 있다. 즉, 벽, 계단, 낭떠러지 등을 그 실제 형태와 비슷하게 해당 위치에 형성할 수 있다.The virtual game hall can be configured similar to the virtual game map. That is, a wall, a staircase, a cliff, and the like can be formed at a position similar to the actual shape.

가상 게임관은 각 대상물의 위치에 다수의 마커들이 구비되어 있다. 각 대상물과 마커들은 1:1로 매칭되어 있다. The virtual game pipe is provided with a plurality of markers at the positions of the respective objects. Each object and marker are matched 1: 1.

또한, 가상 게임관에는 보호 시설을 구비할 수 있는데, 예를들어 낭떠러지 밑에 스폰지 등을 형성할 수 있다.
In addition, the virtual game pipe may have a protection facility, for example, a sponge or the like may be formed under the cliff.

카메라(110)는 가상 게임관의 상부에 설치되며, 가상 게임관의 전체 영상을 획득하여 카메라 서버(120)로 전송한다.The camera 110 is installed at an upper portion of the virtual game pipe, and acquires the entire image of the virtual game pipe and transmits it to the camera server 120.

카메라(110)에 의해 획득된 영상에는 다수의 마커가 포함되어 있다. 마커는 고정된 마커도 포함하지만, 가상 게임관 내에서 이동하는 마커도 포함된다. 여기서, 이동하는 마커는 게임자일 수 있다. 이동하는 마커는 휴대 단말기(130), 디스플레이 유닛(140), 또는 게임자의 머리에 부착될 수 있다. 마커마다 패턴들이 다르게 그려져 있어, 마커의 패턴을 인식하면 해당 마커를 식별할 수 있다. 인식된 마커는 게임맵에서 하나의 가상 대상물로 표시된다.The image obtained by the camera 110 includes a plurality of markers. The markers also include fixed markers, but they also include markers that move within the virtual game tube. Here, the moving marker may be a game player. The moving marker may be attached to the portable terminal 130, the display unit 140, or the head of the player. Since the patterns are drawn differently for each marker, the marker can be identified by recognizing the pattern of the marker. The recognized markers are displayed as one virtual object in the game map.

카메라(110)는 가상 게임관의 천장에 1대가 설치될 수도 있으나, 공간이 클 경우에는 여러 대를 소정 간격으로 분할하여 설치할 수도 있다. 카메라(110)를 2대 이상 설치할 경우, 각 카메라(110)는 할당된 영역에 대해 각각의 영상을 획득하여 카메라 서버(120)로 전송한다.The camera 110 may be installed on the ceiling of the virtual game pipe, but may be divided into a plurality of units at predetermined intervals when the space is large. When two or more cameras 110 are installed, each camera 110 acquires respective images for the allocated areas and transmits them to the camera server 120.

카메라(110)는 소정의 해상도를 가지며, 해상도는 마커의 좌표를 결정하는데 이용된다.
The camera 110 has a predetermined resolution, and the resolution is used to determine the coordinates of the marker.

카메라 서버(120)는 카메라(110)로부터 전송된 전체 영상에서 마커를 추출한다. 그리고, 각 마커의 좌표와 그에 대응하는 이미지 식별자를 추출한다.The camera server 120 extracts a marker from the entire image transmitted from the camera 110. [ Then, the coordinates of each marker and the corresponding image identifier are extracted.

카메라 서버(120)는 고정 또는 이동하는 마커를 추출하고, 이후 각 마커의 패턴을 인식한다. 마커의 패턴 인식 및 매칭은 이미지 패턴 매칭 알고리즘을 이용할 수 있다. 예를들어, Aforge.net에서 제공하는 Glyph' recognition 등을 이용할 수 있는데, 이 매칭 알고리즘은 인터넷 주소 (http://www.aforgenet.com/articles/glyph_recognition. 2012.07.17. 기준)에서 그 내용을 확인할 수 있다. The camera server 120 extracts fixed or moving markers, and then recognizes the pattern of each marker. Pattern recognition and matching of markers can use an image pattern matching algorithm. For example, you can use Glyph 'recognition, which is provided by Aforge.net, which can be found at the Internet address http://www.aforgenet.com/articles/glyph_recognition. Can be confirmed.

카메라 서버(120)는 마커 패턴과 이미지 식별자를 매칭 저장하고 있는 이미지 데이터베이스를 포함하며, 이미지 데이터베이스를 검색하여 마커 패턴과 일치하는 이미지 식별자를 추출한다.The camera server 120 includes an image database matching and storing a marker pattern and an image identifier, and searches an image database to extract an image identifier matching the marker pattern.

카메라 서버(120)는 마커의 좌표를 비율값으로 산출하는 것이 바람직하다. 예를들어, 가상 게임관에 1개의 카메라가 설치되고, 카메라의 해상도가 1024 * 800 이며, 특정 마커가 X=300, Y=350 지점에 위치하고 있다면, X의 비율값은 300/1024 = 0.2929 이 되고, Y의 비율값은 350/800 = 0.4375 이 된다. 이와 같이, 마커의 좌표를 비율값으로 산출하면, 가상 체험관의 크기에 관계없이 각 가상 체험관의 마커마커의 위치를 가상 게임맵에 매칭되게 매핑시킬 수 있다.The camera server 120 preferably calculates the coordinates of the marker as a ratio value. For example, if one camera is installed in a virtual game tube and the resolution of the camera is 1024 * 800 and a specific marker is located at X = 300, Y = 350, the ratio value of X is 300/1024 = 0.2929 , And the ratio value of Y becomes 350/800 = 0.4375. As described above, when the coordinates of the marker are calculated as the ratio values, the positions of the marker markers of each virtual experience hall can be mapped to match the virtual game map regardless of the size of the virtual experience hall.

카메라 서버(120)는 마커의 좌표 비율값과 이미지 식별자를 무선 중계기(150)로 전송한다.
The camera server 120 transmits the coordinate ratio value of the marker and the image identifier to the wireless repeater 150.

한편, 카메라 서버(120)가 여러 개의 카메라로부터 다수의 분할 영상을 수신하는 경우에는, 카메라 서버(120)는 각 카메라로부터 수신한 분할 영상을 각 카메라의 해상도에 따라 결합하여 전체 영상 및 전체 해상도를 생성하며, 전체 영상 및 전체 해상도에 따라 마커의 좌표 및 그 비율값을 산출한다.
When the camera server 120 receives a plurality of divided images from a plurality of cameras, the camera server 120 combines the divided images received from the cameras according to the resolution of each camera, And calculates the coordinates of the marker and its ratio value according to the entire image and the entire resolution.

휴대 단말기(150)는 무선 중계기(150)로부터 마커의 좌표 비율값과 이미지 식별자를 수신하여 이를 가상 게임맵에 반영한다. 즉, 해당 마커의 위치 변화 등을 가상 체험 맵에 반영한다. The portable terminal 150 receives the coordinate ratio value and the image identifier of the marker from the wireless repeater 150 and reflects the coordinate ratio value and the image identifier on the virtual game map. In other words, the position change of the marker is reflected in the virtual experience map.

휴대 단말기(150)는 무선 중계기(150)로부터 수신한 마커의 좌표 비율값을 이용하여 가상 게임맵의 가상 좌표를 도출한다. 예를들어, 가상 게임맵의 해상도가 해상도가 2560 * 1440 이면, 가상 좌표는 X= 0.2929 * 2560 = 750 이고, Y = 0.4375 * 1440 = 630 이 된다.The portable terminal 150 derives the virtual coordinates of the virtual game map using the coordinate ratio value of the marker received from the wireless repeater 150. [ For example, if the resolution of the virtual game map is 2560 * 1440, virtual coordinates are X = 0.2929 * 2560 = 750 and Y = 0.4375 * 1440 = 630.

휴대 단말기(150)는 가상 게임맵의 콘텐츠를 저장하고 있으며, 또한 가상 게임맵을 구성 및 변화시키는 인터페이스 프로그램을 포함하고 있다. 인터페이스 프로그램은 무선 중계기(150)로부터 마커의 좌표 비율값과 이미지 식별자를 수신하면, 이미지 식별자와 가상 대상물을 매칭 저장하고 있는 대상물 데이터베이스를 검색하여 가상 대상물을 추출한다. 여기서, 가상 대상물은 도로, 폭포, 지뢰, 출입문, 계단, 벽 등과 같은 고정 대상물과 적, 탱크, 게임자와 같은 이동 대상물을 모두 포함한다.The portable terminal 150 stores contents of a virtual game map, and further includes an interface program for constituting and changing a virtual game map. Upon receiving the coordinate ratio value of the marker and the image identifier from the wireless repeater 150, the interface program searches the object database matching the image identifier and the virtual object, and extracts the virtual object. Here, the imaginary object includes a fixed object such as a road, a waterfall, a land mine, a door, a stair, a wall, etc., and a moving object such as enemy, tank, or player.

또한, 인터페이스 프로그램은 해당 가상 대상물을 좌표 비율값에 대응하는 가상 좌표에 위치시킨다. 여기서, 좌표 비율값을 좌표값 그 자체에서 산출한 것일 수도 있고, 좌표값의 변화량으로 산출한 것일 수도 있다. 여하튼, 좌표값과 그 변화량은 모두 마커의 위치 정보를 나타내는 값의 하나이다. Further, the interface program places the virtual object in the virtual coordinate corresponding to the coordinate ratio value. Here, the coordinate ratio value may be calculated from the coordinate value itself or may be calculated from the variation amount of the coordinate value. In any case, both the coordinate value and the change amount are one of the values indicating the marker position information.

휴대 단말기(130)는 지자기 센서와 중력 센서를 구비하여 휴대 단말기(130)의 이동 방향을 감지한 후, 무선 중계기(150)로 전송한다. 지자기 센서는 동서남북의 방향 전환을 감지하는 센서이고, 중력 센서는 상하의 경사 방향을 감지하는 센서이다. 이들 센서는 휴대 단말기(130)를 소지하고 있는 사용자, 예를들어 게임자가 어느 방향으로 이동하는지 또는 어느 방향을 주시하고 있는지를 감지하며, 이를 게임맵에 반영하는 데 사용된다. 즉, 이들 센서로부터 감지된 방향에 따라, 게임자가 주시하는 방향으로 게임맵을 변화시킬 수 있다. 이를 통해, 게임자의 이동 방향에 부합하는 가상 게임맵을 실시간으로 생성할 수 있어, 게임자와 실시간 인터렉티브가 가능한 가상 게임맵을 제공할 수 있다.
The portable terminal 130 includes a geomagnetism sensor and a gravity sensor, and senses the direction of movement of the portable terminal 130, and then transmits the sensed direction to the wireless repeater 150. The geomagnetic sensor is a sensor that detects the direction change of north, south, south, and the gravity sensor is a sensor that detects the upward and downward inclination direction. These sensors are used to detect a user who is holding the portable terminal 130, for example, a player moving in which direction or which direction they are watching, and reflecting the game in the game map. That is, the game map can be changed in a direction that the game player is watching according to the direction detected from these sensors. Accordingly, it is possible to generate a virtual game map corresponding to the moving direction of the player in real time, and to provide a virtual game map capable of real-time interactive with the player.

디스플레이 유닛(140)은 휴대 단말기(130)로부터 수신한 가상 게임맵을 디스플레이한다. 여기서, 디스플레이 유닛(140)은 안경 형태의 디스플레이, 예를들어 HMD(Head Mounted Display)일 수 있으며, 헤드셋 형태로 구성하는 것이 바람직하다. 헤드셋 형태의 디스플레이 유닛(140)의 상부면에 마커가 부착된다.The display unit 140 displays the virtual game map received from the portable terminal 130. Here, the display unit 140 may be a glasses-type display, for example, an HMD (Head Mounted Display), and is preferably formed in the form of a headset. A marker is attached to the upper surface of the display unit 140 in the form of a headset.

디스플레이 유닛(140)은 게임자의 움직임 변화를 보다 정확히 감지하기 위해서 지자기 센서와 중력 센서를 구비할 수도 있다. 이 경우, 휴대 단말기(130)는 인터페이스 프로그램만 설치하고 있으며, 휴대 단말기(130)의 인터페이스 프로그램이 디스플레이 유닛(140)으로부터 게임자의 움직임 변화를 수신한 후, 이를 가상 게임맵에 반영한다.
The display unit 140 may include a geomagnetic sensor and a gravity sensor to more accurately detect a change in the motion of the player. In this case, the portable terminal 130 installs only the interface program, and after the interface program of the portable terminal 130 receives the change of the player's movement from the display unit 140, the interface program reflects the change in the virtual game map.

무선 중계기(150)는 가상 체험관에 설치되어 카메라 서버(120)로부터 마커의 좌표 비율값과 이미지 식별자를 수신하여 휴대 단말기(130) 및 외부의 게임 서버(160)로 전송한다. 무선 중계기(150)와 외부 게임 서버(160)는 유선 또는 무선으로 연결된다. The wireless repeater 150 is installed in the virtual experience center and receives the coordinate ratio value and the image identifier of the marker from the camera server 120 and transmits the coordinate ratio value and the image identifier to the portable terminal 130 and the external game server 160. The wireless repeater 150 and the external game server 160 are connected by wire or wireless.

무선 중계기(150)는 외부 게임 서버(160)로부터 다른 가상 체험관에서 획득된 다른 마커의 좌표 비율값과 해당 마커의 이미지 식별자를 수신하고, 이를 휴대 단말기(130)로 전송한다.
The wireless repeater 150 receives the coordinate ratio value of the other marker acquired from the other game server 160 and the image identifier of the corresponding marker from the external game server 160, and transmits the coordinate ratio value to the portable terminal 130.

도2은 본 발명에 따른 가상 체험 시스템의 데이터 흐름을 보여주는 플로우챠트이다.2 is a flow chart showing a data flow of a virtual experience system according to the present invention.

먼저, 카메라(110)가 가상 체험관 내부의 영상을 획득하여 카메라 서버(120)로 전송한다(S210). First, the camera 110 acquires an image in the virtual experience hall and transmits it to the camera server 120 (S210).

이후, 카메라 서버(120)는 카메라 서버(110)가 획득하여 전송한 영상으로부터 마커의 위치 정보와 이미지 식별자를 추출하여 무선 중계기로 전송한다(S220). 여기서, 가상 체험관의 크기가 다를 수 있으므로, 마커의 위치 정보는 좌표 비율값으로 변환하여 사용하는 바람직하다. Then, the camera server 120 extracts the location information and the image identifier of the marker from the image acquired and transmitted by the camera server 110, and transmits it to the wireless repeater (S220). Here, since the size of the virtual experience pipe may be different, it is preferable to convert the position information of the marker into the coordinate ratio value.

단계(S230)에서, 무선 중계기(150)는 마커의 위치 정보와 이미지 식별자를 외부 게임 서버(160)로 전송한다. 물론, 무선 중계기(150)는 마커의 위치 정보와 이미지 식별자를 동일 가상 체험관에 존재하는 휴대 단말기(130)로도 전송한다. 한편, 무선 중계기(150)는 외부 게임 서버(160)로부터 다른 가상 체험관에서 획득된 다른 마커의 위치 정보와 이미지 식별자를 수신하면, 이를 휴대 단말기(130)로 전송한다. In step S230, the wireless repeater 150 transmits the location information of the marker and the image identifier to the external game server 160. [ Of course, the wireless repeater 150 also transmits the location information of the marker and the image identifier to the portable terminal 130 existing in the same virtual experience hall. On the other hand, the wireless repeater 150 receives the location information and the image identifier of the other markers obtained from the other game server 160 from the other game server 160, and transmits the location information and the image identifier to the portable terminal 130.

단계(S240)에서, 휴대 단말기(130)가 무선 중계기(150)로부터 마커의 위치 정보와 이미지 식별자, 그리고 다른 마커의 위치 정보와 이미지 식별자를 수신하면, 휴대 단말기(130)는 이들의 변화를 가상 체험 맵에 반영한다. 여기서, 마커의 위치 정보는 좌표값 그 자체를 나타내는 좌표 비율값일 수도 있고, 좌표의 변화량을 나타내는 좌표 비율값일 수도 있다. In step S240, when the portable terminal 130 receives the location information of the marker and the image identifier, and the location information and the image identifier of the other marker from the wireless repeater 150, Reflect in the experience map. Here, the marker position information may be a coordinate ratio value indicating the coordinate value itself, or a coordinate ratio value indicating the amount of change in coordinates.

이후, 디스플레이 유닛(140)이 휴대 단말기(130)로부터 가상 체험 맵을 수신하여, 디스플레이한다.
Then, the display unit 140 receives the virtual experience map from the portable terminal 130 and displays the virtual experience map.

도 3은 본 발명에 따른 가상 체험 시스템을 가상 체험 공간으로 구현한 실례이다.FIG. 3 is an example of implementing the virtual experience system according to the present invention as a virtual experience space.

도 3에 도시한 바와 같이, 실내 경기장과 같은 가상 체험관(310)이 구비되고, 가상 체험관(310)의 내부 천장에 일정 간격으로 여러 대의 카메라(110)가 설치되어 있다. 가상 체험관(310)의 상부에는 카메라 서버(120)가 카메라(110)에 연결되어 있다. As shown in FIG. 3, a virtual experience hall 310 such as an indoor arena is provided, and a plurality of cameras 110 are installed on an inner ceiling of the virtual experience hall 310 at regular intervals. A camera server 120 is connected to the camera 110 at an upper portion of the virtual experience hall 310.

가상 체험관(310)의 바닥에는 가상 게임맵에 대응하는 형상의 대상물들이 형성되어 있다. 예를들어, 경사진 길, 벽, 낭떠러지 등이 형성되어 있다.At the bottom of the virtual experience hall 310, objects of a shape corresponding to the virtual game map are formed. For example, sloping roads, walls, and cliffs are formed.

가상 체험관(310)의 내부에는 게임자(320)가 이동하며서 가상 게임을 수행한다. 게임자(320)는 가상 게임맵에서 하나의 이동하는 가상 대상물이다. 게임자(320)는 디스플레이 유닛(140)인 HMD를 착용하고 있으며, 허리에는 휴대 단말기(130)를 휴대하고 있다.The game player 320 moves within the virtual experience hall 310 to perform a virtual game. The player 320 is a moving virtual object in the virtual game map. The game player 320 wears the HMD which is the display unit 140, and the portable terminal 130 is carried around the waist.

휴대 단말기(130)는 가상 게임맵을 저장하고 있으며, 인터페이스 프로그램이 무선 중계기(150)로부터 좌표값 또는 변화량를 수신하여 가상 게임맵에 실시간으로 반영한다. The portable terminal 130 stores a virtual game map, and the interface program receives the coordinate value or the variation amount from the wireless repeater 150 and reflects the coordinate value or the variation amount to the virtual game map in real time.

디스플레이 유닛(140)은 지자기 센서와 중력 센서를 구비하고 있다. 디스플레이 유닛(140)의 지자기 센서 및 중력 센서에서 감지된 게임자(320)의 움직임 변화는 휴대 단말기(130)의 인터페이스 프로그램으로 전달되며, 인터페이스 프로그램은 게임자(320)의 방향 또는 경사의 변화를 가상 게임맵에 실시간으로 반영한다.The display unit 140 has a geomagnetic sensor and a gravity sensor. The movement change of the game player 320 detected by the geomagnetic sensor and the gravity sensor of the display unit 140 is transmitted to the interface program of the portable terminal 130. The interface program changes the direction or inclination of the player 320 It reflects in real time on the virtual game map.

게임자(320)는 마커(330)도 휴대하고 있는데, 마커(330)는 천장의 카메라(110)가 촬영하기 좋은 위치, 예를들어 게임자(320)의 머리에 위치시키는 것이 바람직하다. 예를들어, 디스플레이 유닛(140), 즉 HMD 헤드셋의 상부면에 부착할 수 있다.The game player 320 also carries the marker 330. It is preferable that the marker 330 is positioned at a position where the camera 110 on the ceiling can take a picture, for example, the head of the player 320. [ For example, on the upper surface of the display unit 140, i.e., the HMD headset.

이러한 가상 체험관(310)에서 게임자(320)가 디스플레이 유닛(140)을 착용하고 이동하면, 디스플레이 유닛(140)에는 휴대 단말기(130)에서 전송되는 가상 게임맵이 디스플레이된다. 가상 게임맵은 게임자(320)가 존재하는 가상 체험관(310) 내의 마커들의 변화와 다른 가상 체험관 내의 마커들의 변화가 실시간으로 반영되면서 디스플레이된다. 여기서, 변화는 게임자(320)의 이동, 다른 게임자의 이동, 게임자(320)의 방향 전환에 따른 뷰 전환 등을 포함한다.
When the game player 320 wears the display unit 140 and moves in the virtual experience hall 310, the virtual game map transmitted from the portable terminal 130 is displayed on the display unit 140. The virtual game map is displayed while real time reflecting the change of the markers in the virtual experience hall 310 in which the player 320 exists and the change of the markers in the different virtual experience hall. Here, the change includes the movement of the player 320, the movement of another player, and the switching of the view according to the change of direction of the player 320. [

이상 본 발명을 실시예에 기초하여 설명하였으나, 이는 본 발명을 예증하기 위한 것일 뿐 본 발명을 한정하는 것은 아니다. 통상의 기술자라면, 본 실시예에 기초하여 본 발명의 사상을 다양하게 변형하거나 수정할 수 있을 것이다. 따라서, 본 발명의 권리범위는 아래의 청구범위에 의하여 결정되며, 통상의 기술자가 행하는 그러한 변형이나 수정은 본 발명의 권리범위에 포함되는 것으로 해석될 수 있다.
While the present invention has been described with reference to exemplary embodiments, it is to be understood that the invention is not limited thereto. Those skilled in the art will be able to variously modify or modify the spirit of the present invention based on this embodiment. Accordingly, the scope of the present invention is defined by the following claims, and such variations and modifications made by a person skilled in the art can be construed as being included in the scope of the present invention.

110 : 카메라 120 : 카메라 서버
130 : 휴대 단말기 140 : 디스플레이 유닛
150 : 무선 중계기 160 : 게임 서버
310 : 가상 체험관 320 : 게임자
330 : 마커
110: camera 120: camera server
130: portable terminal 140: display unit
150: wireless repeater 160: game server
310: Virtual Experience Room 320: Game Player
330: Marker

Claims (7)

가상 체험 시스템에 있어서,
소정 크기의 내부 공간을 가지고, 다수의 마커를 구비하는 가상 체험관;
상기 가상 체험관에 설치되며, 상기 가상 체험관의 전체 영상을 획득하는 카메라;
상기 가상 체험관에 설치되며, 상기 카메라로부터 전송된 상기 전체 영상에서 상기 마커의 위치 정보를 도출하고, 상기 마커에 대응하는 이미지 식별자를 이미지 데이터베이스로부터 추출하는 카메라 서버;
상기 가상 체험관에 설치되며, 상기 카메라 서버로부터 상기 마커의 위치 정보와 상기 이미지 식별자를 수신하여 외부 게임 서버로 전송하고, 상기 외부 게임 서버로부터 다른 가상 체험관에서 획득된 다른 마커의 위치 정보와 상기 다른 마커의 이미지 식별자를 수신하는 무선 중계기;
상기 무선 중계기로부터 상기 마커의 위치 정보와 상기 이미지 식별자, 그리고 상기 다른 마커의 위치 정보와 상기 다른 마커의 이미지 식별자를 수신하여 가상 체험 맵에 반영하는 휴대 단말기; 및
상기 휴대 단말기로부터 상기 가상 체험 맵을 수신하여 디스플레이하는 디스플레이 유닛을 포함하는 것을 특징으로 하는, 가상 체험 시스템.
In a virtual experience system,
A virtual experience hall having an interior space of a predetermined size and having a plurality of markers;
A camera installed in the virtual experience hall for acquiring a full image of the virtual experience hall;
A camera server installed in the virtual experience pipe, for deriving location information of the marker from the entire image transmitted from the camera, and extracting an image identifier corresponding to the marker from the image database;
And a game server installed in the virtual experience hall, receiving the positional information of the marker and the image identifier from the camera server and transmitting the positional information and the image identifier to the external game server, A wireless repeater for receiving an image identifier of the image;
A portable terminal for receiving the position information of the marker and the image identifier from the wireless repeater, the position information of the other marker and the image identifier of the other marker, and reflecting them on the virtual experience map; And
And a display unit for receiving and displaying the virtual experience map from the portable terminal.
제1항에 있어서,
상기 가상 체험관과 상기 다른 가상 체험관은 크기가 다르며,
상기 카메라 서버는 상기 마커의 위치 정보를 비율값으로 도출하고, 그리고
상기 휴대 단말기는 상기 비율값에 기초하여 상기 마커의 이미지 식별자를 상기 가상 체험 맵에 위치시키는 것을 특징으로 하는, 가상 체험 시스템.
The method of claim 1,
The virtual experience hall and the other virtual experience hall are different in size,
The camera server derives the position information of the marker as a ratio value, and
Wherein the portable terminal places the image identifier of the marker on the virtual experience map based on the ratio value.
제2항에 있어서, 상기 마커의 위치 정보는
실제 좌표값 또는 좌표의 변화량인 것을 특징으로 하는, 가상 체험 시스템.
The method of claim 2, wherein the positional information of the marker
Wherein the virtual experience system is an actual coordinate value or a change amount of coordinates.
제1항 내지 제3항 중 어느 한 한에 있어서,
상기 디스플레이 유닛은 지자기 센서 및 중력 센서를 포함하며,
상기 휴대 단말기는 상기 디스플레이 유닛으로부터 가상 체험자의 움직임 변화를 수신하여 상기 가상 체험 맵에 실시간으로 반영하는 것을 특징으로 하는, 가상 체험 시스템.
The method according to any one of claims 1 to 3,
The display unit includes a geomagnetic sensor and a gravity sensor,
And the portable terminal receives a movement change of the virtual experiencer from the display unit and reflects the movement change to the virtual experience map in real time.
제4항에 있어서,
상기 카메라는 다수를 포함하고, 상기 다수의 카메라는 할당된 영역의 영상을 획득하며, 그리고,
상기 카메라 서버는 상기 다수의 카메라의 획득 영상을 결합하는 것을 특징으로 하는, 가상 체험 시스템.
5. The method of claim 4,
The camera includes a plurality of cameras, the plurality of cameras acquire images of the allocated area,
Wherein the camera server combines the acquired images of the plurality of cameras.
가상 체험 시스템에 있어서,
소정 크기의 내부 공간을 가지고, 다수의 마커를 구비하는 가상 체험관;
상기 가상 체험관에 설치되며, 상기 가상 체험관의 전체 영상을 획득하는 카메라;
상기 가상 체험관에 설치되며, 상기 카메라로부터 전송된 상기 전체 영상에서 상기 마커의 위치 정보를 도출하고, 상기 마커에 대응하는 이미지 식별자를 이미지 데이터베이스로부터 추출하는 카메라 서버;
상기 가상 체험관에 설치되며, 상기 카메라 서버로부터 상기 마커의 위치 정보와 상기 이미지 식별자를 수신하여 외부 게임 서버로 전송하고, 상기 외부 게임 서버로부터 다른 가상 체험관에서 획득된 다른 마커의 위치 정보와 상기 다른 마커의 이미지 식별자를 수신하는 무선 중계기; 및
상기 무선 중계기로부터 상기 마커의 위치 정보와 상기 이미지 식별자, 그리고 상기 다른 마커의 위치 정보와 상기 다른 마커의 이미지 식별자를 수신하여 가상 체험 맵에 반영하여 디스플레이하는 휴대 단말기를 포함하는 것을 특징으로 하는, 가상 체험 시스템.
In a virtual experience system,
A virtual experience hall having an interior space of a predetermined size and having a plurality of markers;
A camera installed in the virtual experience hall for acquiring a full image of the virtual experience hall;
A camera server installed in the virtual experience pipe, for deriving location information of the marker from the entire image transmitted from the camera, and extracting an image identifier corresponding to the marker from the image database;
And a game server installed in the virtual experience hall, receiving the positional information of the marker and the image identifier from the camera server and transmitting the positional information and the image identifier to the external game server, A wireless repeater for receiving an image identifier of the image; And
And a portable terminal for receiving the position information of the marker and the image identifier, the position information of the other marker, and the image identifier of the other marker from the wireless repeater and reflecting the displayed information on the virtual experience map. Experience system.
제6항에 있어서,
상기 휴대 단말기는 지자기 센서 및 중력 센서를 포함하며,
상기 휴대 단말기는 상기 지자기 센서 및 중력 센서로부터 가상 체험자의 움직임 변화를 수신하여 상기 가상 체험 맵에 실시간으로 반영하는 것을 특징으로 하는, 가상 체험 시스템.
The method according to claim 6,
The portable terminal includes a geomagnetic sensor and a gravity sensor,
And the portable terminal receives the movement change of the virtual experiencer from the geomagnetic sensor and the gravity sensor and reflects the movement of the virtual experience to the virtual experience map in real time.
KR1020120080085A 2012-07-23 2012-07-23 Virtual Experience System KR101436914B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020120080085A KR101436914B1 (en) 2012-07-23 2012-07-23 Virtual Experience System

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020120080085A KR101436914B1 (en) 2012-07-23 2012-07-23 Virtual Experience System

Publications (2)

Publication Number Publication Date
KR20140013356A true KR20140013356A (en) 2014-02-05
KR101436914B1 KR101436914B1 (en) 2014-09-11

Family

ID=50263803

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020120080085A KR101436914B1 (en) 2012-07-23 2012-07-23 Virtual Experience System

Country Status (1)

Country Link
KR (1) KR101436914B1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018143732A1 (en) * 2017-02-03 2018-08-09 옥철식 Game control device and virtual reality game system including same
CN111614947A (en) * 2019-02-26 2020-09-01 精工爱普生株式会社 Display method and display system

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102063895B1 (en) 2015-04-20 2020-01-08 삼성전자주식회사 Master device, slave device and control method thereof

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040041297A (en) * 2002-11-11 2004-05-17 (주) 에이치비전 Method for tracing and displaying multiple object movement using multiple camera videos
KR101622657B1 (en) * 2009-10-22 2016-05-20 엘지전자 주식회사 Information providing system using mobile terminal and method thereof

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018143732A1 (en) * 2017-02-03 2018-08-09 옥철식 Game control device and virtual reality game system including same
CN111614947A (en) * 2019-02-26 2020-09-01 精工爱普生株式会社 Display method and display system

Also Published As

Publication number Publication date
KR101436914B1 (en) 2014-09-11

Similar Documents

Publication Publication Date Title
CN113614609B (en) Roaming of reality guides in virtual reality
US11423586B2 (en) Augmented reality vision system for tracking and geolocating objects of interest
US10878637B2 (en) Directional and x-ray view techniques for navigation using a mobile device
EP2579128B1 (en) Portable device, virtual reality system and method
US9116011B2 (en) Three dimensional routing
US11734898B2 (en) Program, information processing method, and information processing terminal
CN102388406A (en) Generating a three-dimensional model using a portable electronic device recording
CN104598504A (en) Information display control method and device for electronic map
CN102647512A (en) All-round display method of spatial information
WO2019167213A1 (en) Location estimation device, tracker, location estimation method, and program
KR101436914B1 (en) Virtual Experience System
JP2016122277A (en) Content providing server, content display terminal, content providing system, content providing method, and content display program
KR101659089B1 (en) Augmented reality apparatus using position information
KR20150077607A (en) Dinosaur Heritage Experience Service System Using Augmented Reality and Method therefor
US20200394840A1 (en) Simulated reality transition element location
Hashimoto et al. Outdoor navigation system by AR
KR101404976B1 (en) System for generating a walking route POI based on image using 3Dmatching
EP2776786A1 (en) Method and system for determining a relation between a first scene and a second scene
KR101215515B1 (en) Image display apparatus based on recognizing selected location cordinates
JP6849331B2 (en) Devices and computer programs
US11568616B1 (en) Display apparatuses and methods for facilitating location-based virtual content
KR20200127107A (en) Visualization System of Regional Commercial Areas Using Augmented Reality
Samarin Indoor Positioning for Location-Based Applications
KR20230162186A (en) Handicapped Tourist Support System through Digital Twin-linked Augmented Reality Metaverse
JP2020098635A (en) Content display terminal, method for providing content, and content display program

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20170802

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20180802

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20190731

Year of fee payment: 6