KR101493614B1 - Ship Navigation Simulator and Design Method by using Augmented Reality Technology and Virtual Bridge System - Google Patents
Ship Navigation Simulator and Design Method by using Augmented Reality Technology and Virtual Bridge System Download PDFInfo
- Publication number
- KR101493614B1 KR101493614B1 KR20130132556A KR20130132556A KR101493614B1 KR 101493614 B1 KR101493614 B1 KR 101493614B1 KR 20130132556 A KR20130132556 A KR 20130132556A KR 20130132556 A KR20130132556 A KR 20130132556A KR 101493614 B1 KR101493614 B1 KR 101493614B1
- Authority
- KR
- South Korea
- Prior art keywords
- ship
- data
- software
- augmented reality
- image
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B9/00—Simulators for teaching or training purposes
- G09B9/02—Simulators for teaching or training purposes for teaching control of vehicles or other craft
- G09B9/06—Simulators for teaching or training purposes for teaching control of vehicles or other craft for teaching control of ships, boats, or other waterborne vehicles
- G09B9/063—Simulators for teaching or training purposes for teaching control of vehicles or other craft for teaching control of ships, boats, or other waterborne vehicles by using visual displays
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B19/00—Teaching not covered by other main groups of this subclass
- G09B19/16—Control of vehicles or other craft
- G09B19/162—Control of ships, boats, or other waterborne vehicles
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B5/00—Electrically-operated educational appliances
- G09B5/02—Electrically-operated educational appliances with visual presentation of the material to be studied, e.g. using film strip
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Educational Administration (AREA)
- Educational Technology (AREA)
- General Physics & Mathematics (AREA)
- Entrepreneurship & Innovation (AREA)
- Aviation & Aerospace Engineering (AREA)
- Processing Or Creating Images (AREA)
Abstract
Description
본 발명은 증강현실기술을 기반으로 실제 선박의 선교(조종실)를 가상적으로 구현하고 이를 이용하여 가상현실 속에서 선박을 조종하는 선박운항시뮬레이터에 관한 것이다.The present invention relates to a ship operation simulator that virtually implements a bridge (cockpit) of an actual ship based on the augmented reality technology and manages the ship in a virtual reality using the virtual bridge.
기존의 선박운항시뮬레이터(도 1)는 선원의 교육 및 훈련, 그리고 항만이나 항로 설계안에 대한 평가 등을 위해 사용되며, 실제 선박과 유사한 선교 모형과 그 안에 설치된 실제 혹은 모사된 항해장비, 그리고 3차원 영상을 통하여 가상적으로 구현된 운항해역, 자선의 3차원 형상, 조우하는 타선의 3차원 형상, 항만, 등대, 부표, 교각, 안벽 등의 운항환경으로 이루어져 있다.
The existing ship navigation simulator (Fig. 1) is used for training and training of crew, and for evaluation of port and route design. It is used for the ship model similar to actual ship, actual or simulated navigation equipment installed in it, It consists of the navigation area which is virtually realized through the image, the three dimensional shape of the charity, the three dimensional shape of the encountered lane, the port, the lighthouse, the buoy, the bridge, and the quay.
그러나 기존의 선박운항시뮬레이터는 선교 모형 및 기타 항해장비 등을 실제로 구비해야 하는 관계로, 각종 네트워크 장비 및 복잡한 케이블, 다양한 디스플레이장비들로 이루어져 있어서 그 설치가 매우 복잡하고 어렵다. 또한 기존의 선박운항시뮬레이터는 이러한 실제 항해장비들을 설치하기 위한 비용을 포함하여 각종 고가의 장비들로 이루어져 있어서 대단히 높은 가격대를 형성하고 있으므로 판매시장이 극히 제한되어 있다.However, the conventional ship navigation simulator has to be equipped with a bridge model and other navigation equipment, so it is very complicated and difficult to install because it is composed of various network equipment, complex cables, and various display devices. In addition, the existing ship navigation simulator is composed of various expensive equipments including the cost for installing the real navigation equipment, and thus the price is very high, so the sales market is extremely limited.
본 발명은 상기와 같은 문제점을 해결하기 위해 제안된 것으로, 증강현실기술을 기반으로 실제 선박의 선교(조종실)를 가상적으로 구현하고 이를 이용하여 가상현실 속에서 선박을 조종할 수 있도록 함으로써, 설치 공간이 작으면서도 비용이 저렴한 선박운항시뮬레이터를 제공하는 것을 목적으로 한다.SUMMARY OF THE INVENTION The present invention has been proposed in order to solve the above-mentioned problems, and it is an object of the present invention to provide a navigation system capable of virtually implementing a ship's mission (cockpit) And to provide a ship operation simulator which is small in cost but low in cost.
상기한 목적을 달성하기 위하여 본 발명은, 시뮬레이션을 위한 시나리오를 정하고 선박운동을 계산하여 영상재현컴퓨터로 전달하는 한편 상기 영상재현컴퓨터와의 교신을 통해 디스플레이장비와 증강현실안경의 작동을 통제하는 통제컴퓨터; 상기 통제컴퓨터와 연결되며 상기 통제컴퓨터로부터 전달받은 선박운동자료에 선박형상자료 및 해역형상자료를 결합한 시뮬레이션영상자료를 생성하여 상기 디스플레이장비에 전달하는 한편 상기 증강현실안경에 가상선교영상자료를 전달하고 상기 증강현실안경으로부터 전달받은 사용자운동자료를 디지털명령어로 변환하여 상기 통제컴퓨터에 전달하는 영상재현컴퓨터; 상기 영상재현컴퓨터와 연결되며 상기 영상재현컴퓨터로부터 전달받은 가상선교영상자료에 기초하여 3차원 형상의 가상선교영상을 디스플레이 하고 선박조종 시의 사용자 움직임을 감지한 사용자운동자료를 상기 영상재현컴퓨터에 전달하는 증강현실안경 및; 상기 영상재현컴퓨터와 연결되며 상기 영상재현컴퓨터로부터 전달받은 시뮬레이션영상자료에 기초하여 3차원 형상의 시뮬레이션영상을 디스플레이 하는 디스플레이장비;를 포함하는, 증강현실기술 기반 가상선교시스템을 이용한 선박운항시뮬레이터를 제공한다.
In order to accomplish the above object, the present invention provides a method for controlling a display device and augmented reality glasses by controlling the operation of a display device and augmented reality glasses through communication with the image reproducing computer while determining scenarios for simulation, computer; A simulation image data which is connected to the control computer and is combined with the ship shape data and the sea shape data on the ship movement data transmitted from the control computer is generated and transmitted to the display device and the virtual bridge image data is transmitted to the augmented reality glasses An image reproducing computer for converting user movement data received from the augmented reality glasses into digital commands and transmitting the same to the control computer; A virtual bridge image of a three-dimensional shape is displayed on the basis of the virtual bridge image data transmitted from the image reproducing computer and connected to the image reproducing computer, and user movement data which senses the user's movement at the time of ship control is transmitted to the image reproducing computer Augmented reality glasses and; And a display device connected to the image reproducing computer and configured to display a simulation image of a three-dimensional shape based on the simulation image data received from the image reproducing computer, the navigation simulator using the virtual bridge system based on the augmented reality technology do.
본 발명에 있어서, 상기 증강현실안경은 선박조종 시 사용자 손의 움직임을 감지하는 깊이카메라와 상기 증강현실안경의 움직임을 감지하는 동작센서를 구비하며 사용자 손의 움직임과 상기 증강현실안경의 움직임을 포함하는 사용자운동자료를 생성하여 상기 영상재현컴퓨터에 전달하는 것을 특징으로 한다.
In the present invention, the augmented reality glasses include a depth camera for sensing movement of a user's hand at the time of ship operation and an operation sensor for sensing movement of the augmented reality glasses, and include movement of a user's hand and movement of the augmented reality glasses And transmits the user motion data to the image reproducing computer.
본 발명에 있어서, 상기 통제컴퓨터는, 선박, 해역, 해상조건, 초기위치, 타선배치와 같은 시나리오를 정하며 시뮬레이션 구현을 위한 자료 전달을 통제하는 통제소프트웨어; 선박의 조종운동방정식을 풀어서 선박의 가속도, 속도, 좌표를 실시간으로 계산한 선박운동자료를 생성하며 상기 선박운동자료를 상기 통제소프트웨어를 통하여 상기 영상재현컴퓨터에 전달하는 선박운동특성소프트웨어; 시나리오를 저장하며 시뮬레이션 구현 시 상기 통제소프트웨어가 정한 시나리오를 상기 통제소프트웨어에 전달하는 시나리오데이터베이스; 시나리오 상에 지정된 해역특성을 저장하며 대상 해역의 해도를 기초로 등대, 교각, 안벽, 수심과 같은 자료를 기록하여 상기 선박운동특성소프트웨어로 전달하는 해역특성데이터베이스 및; 선박의 조타기, 추진기, 쓰러스터, 앵커와 같은 제어기의 성능자료를 저장하며 상기 성능자료를 상기 선박운동특성소프트웨어에 전달하는 선박운동특성데이터베이스;를 포함하여 이루어지는 것을 특징으로 한다.
In the present invention, the control computer is a control software that defines scenarios such as ship, sea area, sea condition, initial position, and other ship arrangement, and controls data transmission for simulation implementation; A ship motion characteristic software for generating ship motion data in which the ship's acceleration, velocity and coordinates are calculated in real time by solving a ship's steering equation, and transmitting the ship motion data to the image representation computer through the control software; A scenario database for storing a scenario and delivering the scenario defined by the control software to the control software in a simulation implementation; A sea area characteristic database storing data of the sea area specified in the scenario and recording data such as a lighthouse, a pier, a quay wall, and a water depth on the basis of the sea level of the sea area of the target area, And a ship movement database for storing performance data of a controller such as a ship's steering gear, a propeller, a thruster, and an anchor, and transmitting the performance data to the ship movement characteristic software.
본 발명에 있어서, 상기 영상재현컴퓨터는, 상기 통제소프트웨어로부터 선박운동자료를 전달받고 선박형상데이터베이스와 해역형상데이터베이스로부터 각각 선박형상자료 및 해역형상자료를 전달받아 이들을 결합한 시뮬레이션영상자료를 생성하여 상기 디스플레이장비에 전달하는 3차원그래픽소프트웨어; 3차원으로 된 선박형상자료를 저장하며 시뮬레이션 구현 시 상기 선박형상자료를 상기 3차원그래픽소프트웨어에 전달하는 선박형상데이터베이스; 3차원으로 된 해역형상자료를 저장하며 시뮬레이션 구현 시 상기 해역형상자료를 상기 3차원그래픽소프트웨어에 전달하는 해역형상데이터베이스; 시나리오 상에 지정된 가상선교영상자료를 생성하여 상기 증강현실안경에 전달하는 가상선교소프트웨어 및; 상기 증강현실안경으로부터 사용자운동자료를 전달받아 사용자 손의 움직임과 상기 증강현실안경의 움직임을 분석하고 상기 증강현실안경의 움직임을 기준으로 사용자 손의 움직임을 보정한 후에 영상인식기술을 이용하여 사용자 손의 움직임을 디지털명령어로 변환하여 상기 통제소프트웨어에 전달하는 영상인식소프트웨어;를 포함하여 이루어지는 것을 특징으로 한다.
In the present invention, the image reproducing computer receives the ship motion data from the control software, receives the ship shape data and the sea shape data from the ship shape database and the sea shape database, generates simulation image data combining the ship shape data and the sea shape data, 3D graphics software delivered to the equipment; A ship shape database for storing ship shape data in three dimensions and delivering the ship shape data to the 3D graphic software in a simulation implementation; A sea area shape database storing three-dimensional sea area shape data and transmitting the sea area shape data to the three-dimensional graphic software in a simulation implementation; Virtual mission software for generating virtual mission image data designated on the scenario and delivering the virtual mission image data to the augmented reality glasses; The user's movement data and the movement of the augmented reality glasses are analyzed by receiving the user's movement data from the augmented reality glasses and the movement of the user's hands is corrected based on the movement of the augmented reality glasses, And converting the motion of the digital camera into a digital command and transmitting the digital command to the control software.
본 발명에 있어서, 상기 디지털명령어는 조타 및 엔진제어 관련 명령어를 포함하는 것을 특징으로 한다.
In the present invention, the digital command includes a command related to steering and engine control.
본 발명에 있어서, 상기 통제소프트웨어는 상기 디지털명령어를 상기 선박운동특성소프트웨어에 전달하며 상기 선박운동특성소프트웨어는 상기 디지털명령어를 상기 선박운동자료에 반영하는 것을 특징으로 한다.
In the present invention, the control software transfers the digital command to the ship motion characteristic software, and the ship motion characteristic software reflects the digital command in the ship motion data.
본 발명에 있어서, 상기 통제소프트웨어는 계기판 정보를 상기 가상선교소프트웨어에 전달하며 상기 가상선교소프트웨어는 상기 계기판 정보를 상기 가상선교영상자료에 반영하는 것을 특징으로 한다.
In the present invention, the control software transfers instrument panel information to the virtual bridge software, and the virtual bridge software reflects the instrument panel information on the virtual bridge image data.
본 발명에 있어서, 상기 가상선교소프트웨어는 상기 증강현실안경으로부터 상기 증강현실안경의 움직임에 관한 데이터를 입력받아 좌표를 보정함으로써 가상선교가 상기 증강현실안경의 움직임에 무관하게 공간에 고정되도록 하는 것을 특징으로 한다.
In the present invention, the virtual bridge software receives the data on the motion of the augmented reality glasses from the augmented reality glasses and corrects the coordinates, so that the virtualized bridge is fixed in the space regardless of the motion of the augmented reality glasses .
본 발명은 또한, 통제소프트웨어와 선박운동특성소프트웨어와 시나리오데이터베이스와 해역특성데이터베이스와 선박운동특성데이터베이스로 이루어지는 통제컴퓨터와, 3차원그래픽소프트웨어와 선박형상데이터베이스와 해역형상데이터베이스와 가상선교소프트웨어와 영상인식소프트웨어로 이루어지는 영상재현컴퓨터와, 증강현실안경과, 디스플레이장비를 포함하는 선박운항시뮬레이터를 이용한 시뮬레이션 구현방법으로서, 상기 통제소프트웨어가 시뮬레이션 구현을 위하여 선박, 해역, 해상조건, 초기위치, 타선배치와 같은 시나리오를 정하거나 상기 시나리오데이터베이스로부터 미리 저장된 시나리오를 전달받는 단계; 상기 해역특성데이터베이스가 시나리오 상에 지정된 대상 해역의 해도를 기초로 등대, 교각, 안벽, 수심과 같은 자료를 기록하여 상기 선박운동특성소프트웨어에 전달하는 단계; 상기 선박운동특성데이터베이스가 선박의 조타기, 추진기, 쓰러스터, 앵커와 같은 제어기의 성능자료를 상기 선박운동특성소프트웨어에 전달하는 단계; 상기 선박운동특성소프트웨어가 선박의 조종운동방정식을 풀어서 선박의 가속도, 속도, 좌표를 실시간으로 계산한 선박운동자료를 생성하며 상기 선박운동자료를 상기 통제소프트웨어를 통하여 상기 3차원그래픽소프트웨어에 전달하는 단계; 상기 선박형상데이터베이스가 3차원으로 된 선박형상자료를 상기 3차원그래픽소프트웨어에 전달하는 단계; 상기 해역형상데이터베이스가 3차원으로 된 해역형상자료를 상기 3차원그래픽소프트웨어에 전달하는 단계; 상기 3차원그래픽소프트웨어가 상기 선박운동자료와 상기 선박형상자료와 상기 해역형상자료를 결합한 시뮬레이션영상자료를 생성하여 상기 디스플레이장비에 전달하는 단계; 상기 디스플레이장비가 상기 시뮬레이션영상자료에 기초하여 3차원 형상의 시뮬레이션영상을 디스플레이 하는 단계; 상기 가상선교소프트웨어가 시나리오 상에 지정된 가상선교영상자료를 생성하여 상기 증강현실안경에 전달하는 단계 및; 상기 증강현실안경이 상기 가상선교영상자료에 기초하여 3차원 형상의 가상선교영상을 디스플레이 하는 단계;를 포함하는, 선박운항시뮬레이션 구현방법을 제공한다.
The present invention also relates to a control computer, a control computer comprising a control software, a ship motion characteristic software, a scenario database, a sea characteristic database and a ship motion characteristic database, a three-dimensional graphics software and a ship shape database, A method for implementing a simulation using a ship navigation simulator including a video reproducing computer including a video reproducing computer, an augmented reality glasses, and a display device, the control software comprising a scenario Or receiving a scenario stored in advance from the scenario database; Recording the data such as a lighthouse, a bridge, a quay wall, and a water depth on the basis of the sea of the target sea area designated in the scenario, and transmitting the data to the ship motion characteristic software; Transmitting the performance data of a controller such as a ship's steering gear, a propeller, a thruster, and an anchor to the ship motion characteristic software; Wherein the ship motion characteristic software solves the steering equation of the ship to generate ship motion data in which the ship's acceleration, velocity, and coordinates are calculated in real time, and transmits the ship motion data to the 3D graphic software through the control software ; Transmitting the ship shape data having the three-dimensional shape of the ship shape database to the three-dimensional graphic software; Transmitting three-dimensional sea area shape data of the sea area shape database to the three-dimensional graphic software; Generating a simulation image data by combining the ship motion data, the ship shape data, and the sea shape data, and transmitting the simulation image data to the display device; Displaying a simulation image of a three-dimensional shape based on the simulation image data; The virtual bridge software generates virtual bridge image data designated on the scenario and transmits the virtual bridge image data to the augmented reality glasses; And displaying the virtual bridge image of the three-dimensional shape based on the virtual bridge image data, wherein the augmented reality glasses display the virtual bridge image of the three-dimensional shape.
본 발명은, 상기 증강현실안경이 사용자의 선박조종 시 깊이카메라가 감지한 사용자 손의 움직임과 동작센서가 감지한 상기 증강현실안경의 움직임을 포함하는 사용자운동자료를 생성하여 상기 영상인식소프트웨어에 전달하는 단계; 상기 영상인식소프트웨어가 상기 사용자운동자료로부터 사용자 손의 움직임과 상기 증강현실안경의 움직임을 분석하고 상기 증강현실안경의 움직임을 기준으로 사용자 손의 움직임을 보정한 후에 영상인식기술을 이용하여 사용자 손의 움직임을 디지털명령어로 변환하여 상기 통제소프트웨어를 통하여 상기 선박운동특성소프트웨어에 전달하는 단계 및; 상기 선박운동특성소프트웨어가 상기 디지털명령어를 반영하여 선박의 조종운동방정식을 풀어서 선박의 가속도, 속도, 좌표를 실시간으로 계산한 선박운동자료를 생성하며 상기 선박운동자료를 상기 통제소프트웨어를 통하여 상기 3차원그래픽소프트웨어에 전달하는 단계;를 더욱 포함하는 것을 특징으로 한다.In the present invention, the augmented reality glasses generate user movement data including the movement of the user's hand sensed by the depth camera and the movement of the augmented reality glasses sensed by the motion sensor when the user controls the ship, ; The image recognition software analyzes movement of the user's hand and movement of the augmented reality glasses from the user's movement data and corrects movement of the user's hands based on the movement of the augmented reality glasses, Converting the motion into a digital command and transmitting the command to the marine propulsion software through the control software; The ship motion characteristic software reflects the digital command to solve the ship's steering equation of the ship to generate ship motion data in which the ship's acceleration, velocity and coordinates are calculated in real time, and the ship motion data is transmitted to the three- To the graphics software.
본 발명에 따른 선박운항시뮬레이터는 기존과는 달리 설치 및 이동이 편리하고 설치 공간이 작으면서도 비용이 저렴하기 때문에, 해운업체나 학교 또는 선상훈련에 있어서 많은 수요가 있을 것으로 기대되며, 또한 언제든 선박운항 훈련이 가능하면서 항구에 입항하기 전 미리 선상에서 모의시험을 수행할 수도 있어서 선박의 안전운항에 많은 도움이 될 수 있다. 또한 증강현실 내에 다양한 항해장비의 구현 및 배치가 가능하여 각종 성능시험에 유용하며, 실제 선박과 동일한 선교를 구축하는 것이 가능하므로 각 선박에 비치할 경우 교육 및 훈련의 목적으로도 사용이 가능하다.The ship navigation simulator according to the present invention is expected to have a great demand in shipping companies, schools, or ship training because it is convenient to install and move and has a small installation space and low cost. It is also possible to conduct simulation tests on board before entering the harbor with the possibility of training, which can be very helpful for safe navigation of the ship. In addition, it is possible to implement and arrange various navigation equipments in augmented reality, so it is useful for various performance tests and it is possible to construct the same bridge as actual vessel, so it can be used for education and training purposes when it is provided to each ship.
도 1은 기존의 선박운항시뮬레이터를 보여준다.
도 2는 본 발명에 따른 선박운항시뮬레이터의 구성을 보여준다.
도 3은 본 발명에 따른 선박운항시뮬레이터의 기능 블록도이다.
도 4는 본 발명에 따른 가상선교의 개념도이다.1 shows a conventional ship navigation simulator.
2 shows a configuration of a ship navigation simulator according to the present invention.
3 is a functional block diagram of a ship navigation simulator according to the present invention.
4 is a conceptual diagram of a virtual bridge according to the present invention.
이하, 첨부된 도면들을 참조하여 본 발명에 대하여 상세히 설명한다. 우선 각 도면의 구성 요소들에 참조 부호를 부가함에 있어서, 동일한 구성 요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.
Hereinafter, the present invention will be described in detail with reference to the accompanying drawings. In the drawings, the same reference numerals are used to designate the same or similar components throughout the drawings. In the following description of the present invention, a detailed description of known functions and configurations incorporated herein will be omitted when it may make the subject matter of the present invention rather unclear.
도 2는 본 발명에 따른 선박운항시뮬레이터의 구성을 보여준다.
2 shows a configuration of a ship navigation simulator according to the present invention.
본 발명은 이동이 편리하고 설치 공간이 작으면서도 비용이 저렴한 선박운항시뮬레이터를 제공하는 것을 목적으로 하는바, 이러한 목적을 달성하기 위한 본 발명은, 통제컴퓨터(10)와 영상재현컴퓨터(20)와 증강현실안경(30)과 디스플레이장비(40)를 포함하여 이루어진다.
The present invention is directed to providing a ship navigation simulator that is convenient to move and has a small installation space and at low cost. The present invention provides a ship navigation simulator including a control computer (10), an image reproducing computer (20) An augmented
기존 선박운항시뮬레이터의 선교(조종실)는 일반적으로 해역과 선박의 형상을 3차원으로 표현해 주는 디스플레이장비와 조타대, 엔진텔레그래프, 레이더, 통신장비, 전자해도, 컴파스, 스피드로그 등 실제 선박과 유사한 각종 항해장비들로 이루어져 있는바, 이러한 항해장비들을 컴퓨터와 연결해 주는 데이터케이블과 전선 등으로 인하여 대단히 복잡하며 이동 및 설치가 매우 어려우면서도 구축하는 데 많은 비용이 소요된다.
The existing ship navigation simulator's navigation (cockpit) is generally similar to the actual ship such as display equipment that displays the shape of the sea area and ship in three dimensions, steering wheel, engine telegraph, radar, communication equipment, electronic chart, compass, It is very complicated due to the data cables and wires that connect these navigation devices to the computer. It is very difficult to move and install, but it is very expensive to build.
이에, 본 발명에서는 기존 선박운항시뮬레이터의 선교 대신 증강현실 내에 가상선교를 구축하였다(도 4). 증강현실 내에 구축된 가상선교에 따르면 각종 항해장비의 배치와 교체가 자유로우며 다양한 선박의 선교를 실제와 거의 유사하게 디스플레이 하여 기존의 선박운항시뮬레이터보다 현실감 있는 시뮬레이션을 수행할 수 있다. 또한 기존의 선박운항시뮬레이터에서는 조타기, 엔진텔레그래프를 비롯한 제어기들과 각종 계기판들이 많은 공간을 차지하고 있는데, 본 발명에서는 이들을 증강현실 내에 가상으로 배치함으로써 선박운항시뮬레이터의 설치 공간을 최소화하였다.
Accordingly, in the present invention, a virtual mission is built in the augmented reality instead of the mission of the existing ship navigation simulator (Fig. 4). According to the virtual missions built in the Augmented Reality, various navigation equipment can be arranged and replaced freely, and realistic simulation can be performed by displaying the bridge of various ships almost similar to the actual ship. In addition, in the conventional ship navigation simulator, the controllers, such as the steering wheel, the engine telegraph, and various instrument panels occupy a lot of space. In the present invention, the installation space of the ship navigation simulator is minimized by virtually arranging them in the augmented reality.
통제컴퓨터(10)는 시뮬레이션을 위한 시나리오를 정하고 선박운동을 계산하여 영상재현컴퓨터(20)로 전달하는 한편 영상재현컴퓨터(20)와의 교신을 통해 증강현실안경(30)과 디스플레이장비(40)의 작동을 통제하는 기능을 한다.
The
영상재현컴퓨터(20)는 통제컴퓨터(10)로부터 전달받은 선박운동자료에 선박형상자료 및 해역형상자료를 결합한 시뮬레이션영상자료를 생성하여 디스플레이장비(40)에 전달하는 한편, 증강현실안경(30)에 가상선교영상자료를 전달하고 증강현실안경(30)으로부터 전달받은 사용자운동자료를 디지털명령어로 변환하여 통제컴퓨터(10)에 전달하는 기능을 한다.
The
통제컴퓨터(10)와 영상재현컴퓨터(20)는 네트워크로 연결되며, 통제컴퓨터(10)는 모니터를 필요로 하지만 영상재현컴퓨터(20)는 별도의 모니터를 필요로 하지 않는다. 왜냐하면, 영상재현컴퓨터(20)는 후술하는 바와 같이 증강현실안경(30)과 디스플레이장비(40)를 통하여 시뮬레이션영상을 디스플레이 하기 때문이다. 통제컴퓨터(10)와 영상재현컴퓨터(20)는 데스크톱(Desktop)이나 노트북(Notebook) 중 어느 것을 사용해도 무방하나, 이동 및 설치의 편의성을 높이고 중량을 줄이기 위해서는 노트북을 사용하는 것이 보다 바람직하다.
The
증강현실안경(30)은 사용자의 머리 부분에 장착되어 반투명렌즈를 통해 증강현실로 구현된 가상의 선교를 사용자의 눈앞에 직접 디스플레이 하는 장치로서, 영상재현컴퓨터(20)와 유선 또는 무선으로 연결된다. 이러한 증강현실안경(30)은 영상재현컴퓨터(20)로부터 전달받은 가상선교영상자료에 기초하여 3차원 형상의 가상선교영상을 디스플레이 하는 한편, 선박조종 시의 사용자 움직임을 감지한 사용자운동자료를 영상재현컴퓨터(20)에 전달하는 기능을 한다.
The augmented
이와 관련하여, 증강현실안경(30)에는 깊이카메라와 동작센서가 내장되어 있어, 깊이카메라는 선박조종 시 사용자 손의 움직임(이는 사용자가 증강현실 내에 구축된 가상선교의 조타기와 엔진텔레그래프 등의 항해장비를 손으로 조작하여 선박을 조종하는 순간 발생하는 손의 움직임을 의미한다)을 감지하는 기능을 하고 동작센서는 선박조종 시 증강현실안경(30)의 움직임(이는 사용자가 선박을 조종하는 순간 발생하는 머리나 몸의 움직임에 따른 증강현실안경(30)의 움직임을 의미한다)을 감지하는 기능을 하는데, 이 경우 사용자운동자료는 깊이카메라가 감지한 사용자 손의 움직임과 동작센서가 감지한 증강현실안경(30)의 움직임을 포함하는 개념이다. 상술한 바와 같이, 영상재현컴퓨터(20)는 영상인식기술을 이용하여 상기 사용자운동자료로부터 디지털명령어를 생성하고 이를 통제컴퓨터(10)에 전달하여 사용자의 조종행위가 즉시 시뮬레이션에 반영될 수 있도록 한다(이에 관한 보다 상세한 내용은 후술함).
In this regard, the augmented
디스플레이장비(40)는 빔프로젝터나 스크린 또는 대형 모니터 등으로 이루어질 수 있으며, 영상재현컴퓨터(20)와 유선 또는 무선으로 연결된다. 이러한 디스플레이장비(40)는 영상재현컴퓨터(20)로부터 전달받은 시뮬레이션영상자료에 기초하여 3차원 형상의 시뮬레이션영상을 디스플레이 하는 기능을 한다.
The
도 3은 본 발명에 따른 선박운항시뮬레이터의 기능 블록도이다.
3 is a functional block diagram of a ship navigation simulator according to the present invention.
도 3에서 보는 것과 같이, 통제컴퓨터(10)와 영상재현컴퓨터(20)는 네트워크로 연결되어 상호 교신하는 과정을 통하여 시뮬레이션을 구현하게 된다. 이 경우, 증강현실안경(30)과 디스플레이장비(40)는 영상재현컴퓨터(20)를 통하여 통제컴퓨터(10)와 교신한다(도 2).
As shown in FIG. 3, the
한편, 통제컴퓨터(10)와 영상재현컴퓨터(20)는 각자의 기능을 수행하기 위한 다양한 소프트웨어 및 데이터베이스들을 구비하고 있으며 이러한 소프트웨어 및 데이터베이스들 간의 자료 전달을 통하여 시뮬레이션은 구현된다.
Meanwhile, the
먼저, 통제컴퓨터(10)가 구비하는 소프트웨어 및 데이터베이스들의 기능에 대하여 설명한다. 통제컴퓨터(10)는 통제소프트웨어(11)와 선박운동특성소프트웨어(12)와 시나리오데이터베이스(13)와 해역특성데이터베이스(14)와 선박운동특성데이터베이스(15)를 구비하고 있다.
First, the functions of the software and databases provided in the
통제소프트웨어(11)는 본 발명에 따른 선박운항시뮬레이터에 의한 시뮬레이션을 통제하는 최상위 소프트웨어로, 시뮬레이션의 선박, 해역, 해상조건, 초기위치, 타선배치 등과 같은 시나리오를 정하며, 시뮬레이션 구현을 위한 각종 하위 소프트웨어 및 데이터베이스들 간의 자료 전달(데이터 전송)을 통제하는 기능을 한다.
The
선박운동특성소프트웨어(12)는 시뮬레이션 대상 선박의 조종운동방정식을 풀어서 선박의 가속도, 속도, 좌표를 실시간으로 계산한 선박운동자료를 생성하고 이를 통제소프트웨어(11)를 통하여 영상재현컴퓨터(20)에 전달하는 기능을 한다.
The ship
시나리오데이터베이스(13)는 시뮬레이션 대상 시나리오를 저장하는 데이터베이스로, 시뮬레이션 구현 시 통제소프트웨어(11)가 정한 시나리오를 저장하는 한편, 기 입력된 시나리오를 사용할 경우에는 해당 시나리오를 통제소프트웨어(11)에 전달하는 기능을 한다. 이러한 시나리오데이터베이스(13)는 선박운항시뮬레이터를 이용한 훈련 등에서 미리 정해진 시나리오를 받아들여 시뮬레이션을 수행할 수 있도록 하는 역할을 한다.
The
해역특성데이터베이스(14)는 시뮬레이션을 수행할 시나리오 상에 지정된 해역특성을 저장하는 데이터베이스로, 시뮬레이션 구현 시 대상 해역의 해도를 기초로 등대, 교각, 안벽, 수심과 같은 자료를 기록하여 선박운동특성소프트웨어(12)로 전달함으로써, 선박운동특성소프트웨어(12)가 선박의 가속도, 속도, 좌표 등을 계산함에 있어서 충돌이나 수심의 영향 등을 고려하도록 하는 기능을 한다.
The sea area
선박운동특성데이터베이스(15)는 선박의 조타기, 추진기, 쓰러스터, 앵커와 같은 제어기의 성능자료를 저장하는 데이터베이스로, 시뮬레이션 구현 시 상기 성능자료를 선박운동특성소프트웨어(12)에 전달함으로써, 선박운동특성소프트웨어(12)가 선박의 가속도, 속도, 좌표 등을 계산함에 있어서 이를 반영하도록 하는 기능을 한다.
The ship movement
다음으로, 영상재현컴퓨터(20)가 구비하는 소프트웨어 및 데이터베이스들의 기능에 대하여 설명한다. 영상재현컴퓨터(20)는 3차원그래픽소프트웨어(21)와 선박형상데이터베이스(22)와 해역형상데이터베이스(23)와 영상인식소프트웨어(24)와 가상선교소프트웨어(25)를 구비하고 있다.
Next, functions of the software and databases provided in the
3차원그래픽소프트웨어(21)는 통제소프트웨어(11)로부터 선박운동자료를 전달받고 선박형상데이터베이스(22)와 해역형상데이터베이스(23)로부터 각각 선박형상자료 및 해역형상자료를 전달받아 이들을 결합한 시뮬레이션영상자료를 생성하고 이를 디스플레이장비(40)에 전달하는 기능을 한다. 그러면 디스플레이장비(40)가 상기 시뮬레이션영상자료에 기초하여 3차원 형상의 시뮬레이션영상을 디스플레이 한다. 따라서 디스플레이장비(40)의 시뮬레이션영상에는 선박과 해역이 3차원으로 묘사되어 나타나며 해당 선박은 가속도, 속도, 좌표 등이 실시간으로 계산되어져 실제 운항하는 상태로 표현된다.
The 3D
선박형상데이터베이스(22)는 3차원으로 된 선박형상자료를 저장하는 데이터베이스로, 시뮬레이션 구현 시 시뮬레이션을 수행할 시나리오 상에 지정된 선박형상자료를 3차원그래픽소프트웨어(21)에 전달하는 기능을 한다.
The
해역형상데이터베이스(23)는 3차원으로 된 해역형상자료를 저장하는 데이터베이스로, 시뮬레이션 구현 시 시뮬레이션을 수행할 시나리오 상에 지정된 해역형상자료를 3차원그래픽소프트웨어(21)에 전달하는 기능을 한다.
The sea
영상인식소프트웨어(24)는 증강현실안경(30)으로부터 사용자운동자료를 전달받아 사용자 손의 움직임과 증강현실안경(30)의 움직임을 분석하고 증강현실안경(30)의 움직임을 기준으로 사용자 손의 움직임을 보정한 후에 영상인식기술을 이용하여 사용자 손의 움직임을 디지털명령어로 변환하여 통제소프트웨어(11)에 전달하는 기능을 한다.
The
본 발명에서 사용되는 영상인식기술은 깊이카메라가 감지한 사용자 손의 움직임을 추적하여 디지털화하는 기술로, 이 때 증강현실안경(30)이 움직이면 사용자 손의 움직임을 공간고정좌표계에서 추적할 수가 없다. 따라서 동작센서가 감지한 증강현실안경(30)의 움직임을 기준으로 사용자 손의 움직임을 보정하여 공간고정좌표계에서 사용자 손의 움직임을 추적하며, 그 추적된 결과를 디지털명령어로 변환한다. 이와 같이 생성된 디지털명령어는 통제소프트웨어(11)를 거쳐 선박운동특성소프트웨어(12)에 전달하여 선박운동특성소프트웨어(12)가 디지털명령어의 내용을 선박운동자료 생성에 반영하게끔 한다. 이 경우, 디지털명령어는 조타 및 엔진제어 관련 명령어로 이루어져 있다(상술한 바와 같이 본 발명에서 사용자 손의 움직임이란 사용자가 증강현실 내에 구축된 가상선교의 조타기와 엔진텔레그래프 등의 항해장비를 손으로 조작하여 선박을 조종하는 순간의 손의 움직임을 말한다).
The image recognition technology used in the present invention is a technique for digitizing a movement of a user's hand sensed by a depth camera. If the
가상선교소프트웨어(25)는 시나리오 상에 지정된 가상선교영상자료를 생성하여 증강현실안경(30)에 전달하는 기능을 한다. 이 때 가상선교는 증강현실안경(30)의 움직임에 무관하게 공간에 고정되어 있어야 하므로, 가상선교소프트웨어(25)는 증강현실안경(30)의 동작센서로부터 증강현실안경(30)의 움직임에 관한 데이터를 입력받아 좌표를 보정함으로써 가상선교가 증강현실안경(30)의 움직임에 무관하게 공간에 고정되도록 한다.
The
이하에서는, 도 3을 참조하여 본 발명에 따른 선박운항시뮬레이션이 구현되는 과정에 대하여 상세히 설명한다.
Hereinafter, the process of implementing the ship navigation simulation according to the present invention will be described in detail with reference to FIG.
먼저, 통제소프트웨어(11)가 시뮬레이션 구현을 위하여 선박, 해역, 해상조건, 초기위치, 타선배치와 같은 시나리오를 정하거나, 시나리오데이터베이스(13)로부터 미리 저장된 시나리오를 전달받는다.
First, the
다음으로, 해역특성데이터베이스(14)가 시나리오 상에 지정된 대상 해역의 해도를 기초로 등대, 교각, 안벽, 수심과 같은 자료를 기록하여 선박운동특성소프트웨어(12)로 전달하고, 선박운동특성데이터베이스(15)가 선박의 조타기, 추진기, 쓰러스터, 앵커와 같은 제어기의 성능자료를 선박운동특성소프트웨어(12)에 전달한다.
Next, the sea
다음으로, 선박운동특성소프트웨어(12)가 선박의 조종운동방정식을 풀어서 선박의 가속도, 속도, 좌표를 실시간으로 계산한 선박운동자료를 생성하여 이를 통제소프트웨어(11)를 통하여 3차원그래픽소프트웨어(21)에 전달한다.
Next, the ship motion
다음으로, 선박형상데이터베이스(22)가 3차원으로 된 선박형상자료를 3차원그래픽소프트웨어(21)에 전달하고, 해역형상데이터베이스(23)가 3차원으로 된 해역형상자료를 3차원그래픽소프트웨어(21)에 전달한다.
Next, the
다음으로, 3차원그래픽소프트웨어(21)가 선박운동자료와 선박형상자료와 해역형상자료를 결합한 시뮬레이션영상자료를 생성하여 이를 디스플레이장비(40)에 전달한다.
Next, the 3D
다음으로, 디스플레이장비(40)가 상기 시뮬레이션영상자료에 기초하여 3차원 형상의 시뮬레이션영상을 디스플레이 한다.
Next, the
다음으로, 가상선교소프트웨어(25)가 시나리오 상에 지정된 가상선교영상자료를 생성하여 증강현실안경(30)에 전달한다.
Next, the
마지막으로, 증강현실안경(30)이 가상선교영상자료에 기초하여 3차원 형상의 가상선교영상을 디스플레이 한다. 따라서 사용자의 눈앞에는 디스플레이장비(40)의 시뮬레이션영상에 증강현실안경(30)의 가상선교영상이 겹쳐진 상태로 구현된다. 이 경우, 통제소프트웨어(11)는 선박의 가속도, 속도, 좌표 등이 나타난 계기판 정보를 가상선교소프트웨어(25)에 전달하며 이에 따라 가상선교소프트웨어(25)가 상기 계기판 정보를 가상선교영상자료에 반영하므로, 사용자의 눈앞에는 선박의 실시간 가속도, 속도, 좌표 등을 표시한 계기판 영상이 함께 나타나게 된다.
Finally, the
이상의 과정을 통하여 선박운항시뮬레이션이 구현되며, 사용자는 증강현실안경(30)을 이용하여 가상으로 구현된 선교의 조타기와 엔진텔레그래프 등의 제어기를 손으로 조작하여 선박을 조종하는 형식으로 시뮬레이션을 수행하게 된다. 이와 관련하여, 가상선교의 조타기와 엔진텔레그래프 등을 조작하는 사용자 손의 움직임이 시뮬레이션에 반영되는 과정은 다음과 같다.
Through the above process, the ship navigation simulation is implemented. The user performs simulations in the form of manipulating the ship by manipulating the controller of the mission bridge and the engine telegraph, which are virtually implemented, using the augmented
먼저, 증강현실안경(30)이 사용자의 선박조종 시 깊이카메라가 감지한 사용자 손의 움직임과 동작센서가 감지한 증강현실안경(30)의 움직임을 포함하는 사용자운동자료를 생성하여 영상인식소프트웨어(24)에 전달한다.
First, the
다음으로, 영상인식소프트웨어(24)가 상기 사용자운동자료로부터 사용자 손의 움직임과 증강현실안경(30)의 움직임을 분석하고 증강현실안경(30)의 움직임을 기준으로 사용자 손의 움직임을 보정한 후에 영상인식기술을 이용하여 사용자 손의 움직임을 디지털명령어로 변환하여 통제소프트웨어(11)를 통하여 선박운동특성소프트웨어(12)에 전달한다.
Next, the
마지막으로, 선박운동특성소프트웨어(12)가 상기 디지털명령어를 반영하여 선박의 조종운동방정식을 풀어서 선박의 가속도, 속도, 좌표를 실시간으로 계산한 선박운동자료를 생성하며 상기 선박운동자료를 통제소프트웨어(11)를 통하여 영상재현컴퓨터(20)에 전달한다.
Finally, the ship motion
따라서 사용자는 가상으로 구현된 선교에서 실제의 선박에서와 마찬가지로 항해장비들을 조종하여 시뮬레이션을 수행하게 되는바, 만약 시뮬레이션 상황에서 사용자가 “조타기를 좌현방향으로 5도만큼 틀면”(사용자 손의 움직임) 증강현실안경(30)이 이러한 사용자 손의 움직임을 영상재현컴퓨터(20)의 영상인식소프트웨어(24)로 전달한다. 그러면 영상인식소프트웨어(24)가 영상인식기술을 이용하여 사용자 손의 움직임을 디지털명령어로 변환한 후 통제소프트웨어(11)에 전달한다. 그러면 통제소프트웨어(11)가 이러한 디지털명령어를 선박운동특성소프트웨어(12)에 전달한다. 그러면 선박운동특성소프트웨어(12)가 명령어의 내용대로 타를 좌현방향으로 5도만큼 튼 상태의 선박 조종운동방정식을 풀어서 선박의 가속도, 속도, 좌표를 실시간으로 계산하고 이렇게 계산된 선박운동자료를 다시 통제소프트웨어(11)를 통하여 3차원그래픽소프트웨어(21)에 전달한다. 그러면 3차원그래픽소프트웨어(21)가 타를 좌현방향으로 5도만큼 튼 상태의 선박 시뮬레이션영상자료를 생성하여 디스플레이장비(40)에 전달한다. 그러면 디스플레이장비(40)가 조타 명령에 맞게 변화된 선박의 운항 상태를 새롭게 디스플레이 한다.
Therefore, the user performs the simulation by controlling the navigation devices in the same way as the actual ship in the virtual bridge. If the user "operates the steering wheel by 5 degrees in the port direction" (movement of the user's hand) The augmented
이상에서 설명한 바와 같이, 본 발명에 따른 선박운항시뮬레이터는 기존과는 달리 설치 및 이동이 편리하고 설치 공간이 작으면서도 비용이 저렴하기 때문에, 해운업체나 학교 또는 선상훈련에 있어서 많은 수요가 있을 것으로 기대되며, 또한 언제든 선박운항 훈련이 가능하면서 항구에 입항하기 전 미리 선상에서 모의시험을 수행할 수도 있어서 선박의 안전운항에 많은 도움이 될 수 있다. 또한 증강현실 내에 다양한 항해장비의 구현 및 배치가 가능하여 각종 성능시험에 유용하며, 실제 선박과 동일한 선교를 구축하는 것이 가능하므로 각 선박에 비치할 경우 교육 및 훈련의 목적으로도 사용이 가능하다.
As described above, the ship navigation simulator according to the present invention is expected to have a great demand in shipping companies, schools, or on-board training because it is convenient to install and move, and has a small installation space and low cost. And it is also possible to carry out ship training at any time, so that it is possible to carry out mock test in advance before entering the port, which can be very helpful for safe navigation of the ship. In addition, it is possible to implement and arrange various navigation equipments in augmented reality, so it is useful for various performance tests and it is possible to construct the same bridge as actual vessel, so it can be used for education and training purposes when it is provided to each ship.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위 내에서 다양한 수정, 변경 및 치환이 가능할 것이다. 따라서 본 발명에 개시된 실시 예 및 첨부된 도면들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시 예 및 첨부된 도면에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.It will be apparent to those skilled in the art that various modifications, substitutions and substitutions are possible, without departing from the scope and spirit of the invention as disclosed in the accompanying claims. will be. Therefore, the embodiments disclosed in the present invention and the accompanying drawings are intended to illustrate and not to limit the technical spirit of the present invention, and the scope of the technical idea of the present invention is not limited by these embodiments and accompanying drawings. The scope of protection of the present invention should be construed according to the following claims, and all technical ideas within the scope of equivalents should be construed as falling within the scope of the present invention.
10 : 통제컴퓨터 11 : 통제소프트웨어
12 : 선박운동특성소프트웨어 13 : 시나리오데이터베이스
14 : 해역특성데이터베이스 15 : 선박운동특성데이터베이스
20 : 영상재현컴퓨터 21 : 3차원그래픽소프트웨어
22 : 선박형상데이터베이스 23 : 해역형상데이터베이스
24 : 영상인식소프트웨어 25 : 가상선교소프트웨어
30 : 증강현실안경 40 : 디스플레이장비10: Control computer 11: Control software
12: Ship movement characteristic software 13: Scenario database
14: sea area characteristic database 15: ship movement characteristic database
20: Image reproduction computer 21: 3D graphic software
22: Ship shape database 23: Sea shape database
24: Image Recognition Software 25: Virtual Mission Software
30: Augmented Reality Glasses 40: Display Equipment
Claims (12)
상기 통제컴퓨터(10)와 연결되며 상기 통제컴퓨터(10)로부터 전달받은 선박운동자료에 선박형상자료 및 해역형상자료를 결합한 시뮬레이션영상자료를 생성하여 상기 디스플레이장비(40)에 전달하는 한편 상기 증강현실안경(30)에 가상선교영상자료를 전달하고 상기 증강현실안경(30)으로부터 전달받은 사용자운동자료를 디지털명령어로 변환하여 상기 통제컴퓨터(10)에 전달하는 영상재현컴퓨터(20);
상기 영상재현컴퓨터(20)와 연결되며 상기 영상재현컴퓨터(20)로부터 전달받은 가상선교영상자료에 기초하여 3차원 형상의 가상선교영상을 디스플레이 하고 선박조종 시의 사용자 움직임을 감지한 사용자운동자료를 상기 영상재현컴퓨터(20)에 전달하는 증강현실안경(30) 및;
상기 영상재현컴퓨터(20)와 연결되며 상기 영상재현컴퓨터(20)로부터 전달받은 시뮬레이션영상자료에 기초하여 3차원 형상의 시뮬레이션영상을 디스플레이 하는 디스플레이장비(40);
를 포함하는, 증강현실기술 기반 가상선교시스템을 이용한 선박운항시뮬레이터.A scenario for simulation is defined and the ship motion is calculated and transmitted to the image reproduction computer 20 and the operation of the display device 40 and the augmented reality glasses 30 is controlled through communication with the image reproduction computer 20 A computer 10;
Generates simulated image data that is connected to the control computer 10 and combines the ship shape data and the sea shape data with the ship motion data received from the control computer 10 and transmits the generated simulation image data to the display device 40, An image reproducing computer 20 for transmitting virtual bridge image data to the glasses 30, converting user movement data received from the augmented reality glasses 30 into digital commands and transmitting the data to the control computer 10;
A virtual bridge image of a three-dimensional shape connected to the image reproducing computer 20 and based on the virtual bridge image data received from the image reproducing computer 20 is displayed, and user movement data, An augmented reality glasses 30 for transmitting the augmented reality glasses 20 to the image reproduction computer 20;
A display device (40) connected to the image reproducing computer (20) and displaying a three - dimensional simulation image based on the simulation image data received from the image reproducing computer (20);
A ship navigation simulator using augmented reality technology based virtual bridge system.
상기 통제컴퓨터(10) 및 상기 영상재현컴퓨터(20)는 노트북이나 데스크탑으로 이루어진 것을 특징으로 하는, 증강현실기술 기반 가상선교시스템을 이용한 선박운항시뮬레이터.The method according to claim 1,
Wherein the control computer (10) and the image reproducing computer (20) are composed of a notebook or a desktop.
상기 증강현실안경(30)은 선박조종 시 사용자 손의 움직임을 감지하는 깊이카메라와 상기 증강현실안경(30)의 움직임을 감지하는 동작센서를 구비하며 사용자 손의 움직임과 상기 증강현실안경(30)의 움직임을 포함하는 사용자운동자료를 생성하여 상기 영상재현컴퓨터(20)에 전달하는 것을 특징으로 하는, 증강현실기술 기반 가상선교시스템을 이용한 선박운항시뮬레이터.The method according to claim 1,
The augmented reality glasses 30 include a depth camera for sensing the movement of the user's hand and a motion sensor for sensing the movement of the augmented reality glasses 30, And transmits the generated user movement data to the image reproducing computer 20. The simulator of the ship navigation system using the virtual reality bridge system based on the augmented reality technology.
상기 통제컴퓨터(10)는,
선박, 해역, 해상조건, 초기위치, 타선배치와 같은 시나리오를 정하며 시뮬레이션 구현을 위한 자료 전달을 통제하는 통제소프트웨어(11);
선박의 조종운동방정식을 풀어서 선박의 가속도, 속도, 좌표를 실시간으로 계산한 선박운동자료를 생성하며 상기 선박운동자료를 상기 통제소프트웨어(11)를 통하여 상기 영상재현컴퓨터(20)에 전달하는 선박운동특성소프트웨어(12);
시나리오를 저장하며 시뮬레이션 구현 시 상기 통제소프트웨어(11)가 정한 시나리오를 상기 통제소프트웨어(11)에 전달하는 시나리오데이터베이스(13);
시나리오 상에 지정된 해역특성을 저장하며 대상 해역의 해도를 기초로 등대, 교각, 안벽, 수심과 같은 자료를 기록하여 상기 선박운동특성소프트웨어(12)로 전달하는 해역특성데이터베이스(14) 및;
선박의 조타기, 추진기, 쓰러스터, 앵커와 같은 제어기의 성능자료를 저장하며 상기 성능자료를 상기 선박운동특성소프트웨어(12)에 전달하는 선박운동특성데이터베이스(15);
를 포함하여 이루어지는 것을 특징으로 하는, 증강현실기술 기반 가상선교시스템을 이용한 선박운항시뮬레이터.The method according to claim 1,
The control computer (10)
Control software (11) that controls the delivery of data for simulation implementation, defining scenarios such as ship, sea area, maritime conditions, initial location, and line deployment;
A vessel movement data which is obtained by calculating the ship's acceleration equation, velocity and coordinates in real time by solving the ship's steering equation of the ship and transmitting the ship's movement data to the image reproduction computer 20 through the control software 11, Characteristic software 12;
A scenario database (13) for storing a scenario and delivering the scenario defined by the control software (11) to the control software (11) when a simulation is implemented;
A sea area characteristic database 14 for storing the sea area characteristics specified in the scenario and recording data such as a lighthouse, a pier, a quay wall, and a water depth on the basis of the sea level of the target sea area and transmitting the data to the ship movement characteristic software 12;
A ship movement characteristic database 15 for storing performance data of a controller such as a steering gear, a propeller, a thruster, and an anchor of the ship and transmitting the performance data to the ship movement characteristic software 12;
And a navigation simulator using the virtual bridge system based on the augmented reality technology.
상기 영상재현컴퓨터(20)는,
상기 통제소프트웨어(11)로부터 선박운동자료를 전달받고 선박형상데이터베이스(22)와 해역형상데이터베이스(23)로부터 각각 선박형상자료 및 해역형상자료를 전달받아 이들을 결합한 시뮬레이션영상자료를 생성하여 상기 디스플레이장비(40)에 전달하는 3차원그래픽소프트웨어(21);
3차원으로 된 선박형상자료를 저장하며 시뮬레이션 구현 시 상기 선박형상자료를 상기 3차원그래픽소프트웨어(21)에 전달하는 선박형상데이터베이스(22);
3차원으로 된 해역형상자료를 저장하며 시뮬레이션 구현 시 상기 해역형상자료를 상기 3차원그래픽소프트웨어(21)에 전달하는 해역형상데이터베이스(23);
시나리오 상에 지정된 가상선교영상자료를 생성하여 상기 증강현실안경(30)에 전달하는 가상선교소프트웨어(25) 및;
상기 증강현실안경(30)으로부터 사용자운동자료를 전달받아 사용자 손의 움직임과 상기 증강현실안경(30)의 움직임을 분석하고 상기 증강현실안경(30)의 움직임을 기준으로 사용자 손의 움직임을 보정한 후에 영상인식기술을 이용하여 사용자 손의 움직임을 디지털명령어로 변환하여 상기 통제소프트웨어(11)에 전달하는 영상인식소프트웨어(24);
를 포함하여 이루어지는 것을 특징으로 하는, 증강현실기술 기반 가상선교시스템을 이용한 선박운항시뮬레이터.The method of claim 4,
The image reproduction computer (20)
Receives the ship motion data from the control software 11, receives the ship shape data and the sea shape data from the ship shape database 22 and the sea shape database 23, generates simulation image data combining the ship shape data and the sea shape data, Dimensional graphic software (21);
A ship shape database (22) for storing the ship shape data in three dimensions and delivering the ship shape data to the 3D graphic software (21) upon simulation implementation;
A sea area shape database 23 for storing the sea area shape data in three dimensions and delivering the sea area shape data to the 3D graphic software 21 in a simulation implementation;
Virtual mission software (25) for generating virtual bridge image data designated on the scenario and transmitting the virtual bridge image data to the augmented reality glasses (30);
The user's movement data and the motion of the augmented reality glasses 30 are analyzed by receiving the user's movement data from the augmented reality glasses 30 and the movement of the user's hands is corrected based on the movement of the augmented reality glasses 30 An image recognition software 24 for converting the movement of the user's hand into a digital command using the image recognition technology and transmitting the converted digital command to the control software 11;
And a navigation simulator using the virtual bridge system based on the augmented reality technology.
상기 디지털명령어는 조타 및 엔진제어 관련 명령어를 포함하는 것을 특징으로 하는, 증강현실기술 기반 가상선교시스템을 이용한 선박운항시뮬레이터.The method of claim 5,
Wherein the digital command includes steering and engine control related commands.
상기 가상선교소프트웨어(25)는 상기 증강현실안경(30)으로부터 상기 증강현실안경(30)의 움직임에 관한 데이터를 입력받아 좌표를 보정함으로써 가상선교가 상기 증강현실안경(30)의 움직임에 무관하게 공간에 고정되도록 하는 것을 특징으로 하는, 증강현실기술 기반 가상선교시스템을 이용한 선박운항시뮬레이터.The method of claim 5,
The virtual bridge software 25 receives data on the motion of the augmented reality glasses 30 from the augmented reality glasses 30 and corrects the coordinates so that the virtual bridge is not affected by the motion of the augmented reality glasses 30 Wherein the virtual navigation system is fixed to a space by using a virtual navigation system based on augmented reality technology.
상기 통제소프트웨어(11)가 시뮬레이션 구현을 위하여 선박, 해역, 해상조건, 초기위치, 타선배치와 같은 시나리오를 정하거나 상기 시나리오데이터베이스(13)로부터 미리 저장된 시나리오를 전달받는 단계;
상기 해역특성데이터베이스(14)가 시나리오 상에 지정된 대상 해역의 해도를 기초로 등대, 교각, 안벽, 수심과 같은 자료를 기록하여 상기 선박운동특성소프트웨어(12)에 전달하는 단계;
상기 선박운동특성데이터베이스(15)가 선박의 조타기, 추진기, 쓰러스터, 앵커와 같은 제어기의 성능자료를 상기 선박운동특성소프트웨어(12)에 전달하는 단계;
상기 선박운동특성소프트웨어(12)가 선박의 조종운동방정식을 풀어서 선박의 가속도, 속도, 좌표를 실시간으로 계산한 선박운동자료를 생성하며 상기 선박운동자료를 상기 통제소프트웨어(11)를 통하여 상기 3차원그래픽소프트웨어(21)에 전달하는 단계;
상기 선박형상데이터베이스(22)가 3차원으로 된 선박형상자료를 상기 3차원그래픽소프트웨어(21)에 전달하는 단계;
상기 해역형상데이터베이스(23)가 3차원으로 된 해역형상자료를 상기 3차원그래픽소프트웨어(21)에 전달하는 단계;
상기 3차원그래픽소프트웨어(21)가 상기 선박운동자료와 상기 선박형상자료와 상기 해역형상자료를 결합한 시뮬레이션영상자료를 생성하여 상기 디스플레이장비(40)에 전달하는 단계;
상기 디스플레이장비(40)가 상기 시뮬레이션영상자료에 기초하여 3차원 형상의 시뮬레이션영상을 디스플레이 하는 단계;
상기 가상선교소프트웨어(25)가 시나리오 상에 지정된 가상선교영상자료를 생성하여 상기 증강현실안경(30)에 전달하는 단계 및;
상기 증강현실안경(30)이 상기 가상선교영상자료에 기초하여 3차원 형상의 가상선교영상을 디스플레이 하는 단계;
를 포함하는, 선박운항시뮬레이션 구현방법.A control computer 10 composed of a control software 11, a ship motion characteristic software 12, a scenario database 13, a sea characteristic database 14 and a ship motion characteristic database 15, An image reproducing computer 20 composed of a ship shape database 22, a sea shape database 23, virtual bridge software 25 and image recognition software 24, an augmented reality glasses 30, a display device 40 A method for implementing a simulation using a ship operation simulator,
The control software 11 may determine a scenario such as a ship, a sea area, a sea condition, an initial position, a line arrangement for a simulation implementation, or receive a scenario stored in advance from the scenario database 13;
Recording the data such as a lighthouse, a bridge, a quay wall, and a water depth on the basis of the sea of the target sea area designated on the scenario, and transmitting the recorded data to the ship motion characteristic software 12;
Transmitting the performance data of a controller such as a ship's steering gear, a propeller, a thruster, and an anchor to the ship motion characteristic software (12);
The ship motion characteristic software 12 solves the steering equation of the ship to generate ship motion data in which the acceleration, speed and coordinates of the ship are calculated in real time, and the ship motion data is transmitted through the control software 11 to the three- To the graphics software (21);
Transmitting the three-dimensional ship shape data to the ship shape database (22) to the three-dimensional graphic software (21);
Transmitting the three-dimensional sea area shape data to the three-dimensional graphic software (21) by the sea area shape database (23);
The 3D graphic software 21 generates simulation image data combining the ship movement data, the ship shape data, and the sea shape data and transmits the generated simulation image data to the display device 40;
The display device (40) displaying a simulation image of a three-dimensional shape based on the simulation image data;
The virtual bridge software 25 generates virtual bridge image data designated on the scenario and transmits the created virtual bridge image data to the augmented reality glasses 30;
Displaying the virtual bridge image of the three-dimensional shape based on the virtual bridge image data;
Wherein the method comprises the steps of:
상기 증강현실안경(30)이 사용자의 선박조종 시 깊이카메라가 감지한 사용자 손의 움직임과 동작센서가 감지한 상기 증강현실안경(30)의 움직임을 포함하는 사용자운동자료를 생성하여 상기 영상인식소프트웨어(24)에 전달하는 단계;
상기 영상인식소프트웨어(24)가 상기 사용자운동자료로부터 사용자 손의 움직임과 상기 증강현실안경(30)의 움직임을 분석하고 상기 증강현실안경(30)의 움직임을 기준으로 사용자 손의 움직임을 보정한 후에 영상인식기술을 이용하여 사용자 손의 움직임을 디지털명령어로 변환하여 상기 통제소프트웨어(11)를 통하여 상기 선박운동특성소프트웨어(12)에 전달하는 단계 및;
상기 선박운동특성소프트웨어(12)가 상기 디지털명령어를 반영하여 선박의 조종운동방정식을 풀어서 선박의 가속도, 속도, 좌표를 실시간으로 계산한 선박운동자료를 생성하며 상기 선박운동자료를 상기 통제소프트웨어(11)를 통하여 상기 3차원그래픽소프트웨어(21)에 전달하는 단계;
를 더욱 포함하는 것을 특징으로 하는, 선박운항시뮬레이션 구현방법.The method of claim 8,
The augmented reality glasses 30 may generate user athletic data including the movement of the user's hand sensed by the depth camera and the motion of the augmented reality glasses 30 sensed by the motion sensor when the user controls the ship, (24);
The image recognition software 24 analyzes the movement of the user's hand and the movement of the augmented reality glasses 30 from the user's movement data and corrects the movement of the user's hands based on the movement of the augmented reality glasses 30 Converting the movement of the user's hand into a digital command using the image recognition technology and transmitting the digital command to the ship motion characteristic software 12 through the control software 11;
The ship motion characteristic software 12 reflects the digital command word and solves the steering equation of the ship to generate ship motion data in which the acceleration, speed and coordinates of the ship are calculated in real time, and the ship motion data is transmitted to the control software 11 To the three-dimensional graphics software (21) through the display device (20);
Further comprising the steps of:
상기 디지털명령어는 조타 및 엔진제어 관련 명령어를 포함하는 것을 특징으로 하는, 선박운항시뮬레이션 구현방법.The method of claim 9,
Wherein the digital command comprises steering and engine control related commands.
상기 통제소프트웨어(11)는 계기판 정보를 상기 가상선교소프트웨어(25)에 전달하며 상기 가상선교소프트웨어(25)는 상기 계기판 정보를 상기 가상선교영상자료에 반영하는 것을 특징으로 하는, 선박운항시뮬레이션 구현방법.The method of claim 8,
The control software (11) passes instrument panel information to the virtual bridge software (25), and the virtual bridge software (25) reflects the instrument panel information on the virtual bridge image data .
상기 가상선교소프트웨어(25)는 상기 증강현실안경(30)으로부터 상기 증강현실안경(30)의 움직임에 관한 데이터를 입력받아 좌표를 보정함으로써 가상선교가 상기 증강현실안경(30)의 움직임에 무관하게 공간에 고정되도록 하는 것을 특징으로 하는, 선박운항시뮬레이션 구현방법.The method of claim 8,
The virtual bridge software 25 receives data on the motion of the augmented reality glasses 30 from the augmented reality glasses 30 and corrects the coordinates so that the virtual bridge is not affected by the motion of the augmented reality glasses 30 Wherein the first portion is fixed to the space.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR20130132556A KR101493614B1 (en) | 2013-11-01 | 2013-11-01 | Ship Navigation Simulator and Design Method by using Augmented Reality Technology and Virtual Bridge System |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR20130132556A KR101493614B1 (en) | 2013-11-01 | 2013-11-01 | Ship Navigation Simulator and Design Method by using Augmented Reality Technology and Virtual Bridge System |
Publications (1)
Publication Number | Publication Date |
---|---|
KR101493614B1 true KR101493614B1 (en) | 2015-02-13 |
Family
ID=52593501
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR20130132556A KR101493614B1 (en) | 2013-11-01 | 2013-11-01 | Ship Navigation Simulator and Design Method by using Augmented Reality Technology and Virtual Bridge System |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101493614B1 (en) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105206131A (en) * | 2015-09-23 | 2015-12-30 | 哈尔滨工程大学 | Three-degree-of-freedom ship navigation posture simulation device |
KR20160092620A (en) * | 2015-01-28 | 2016-08-05 | (주)세이프텍리서치 | Ship Navigation Simulator and Design Method by using Head Mount Display and Voice Recognition Technology |
KR101657646B1 (en) | 2016-02-16 | 2016-09-22 | 한국해양과학기술원 | Method for displaying label in augmented reality service |
KR20160149460A (en) | 2015-06-18 | 2016-12-28 | 재단법인 중소조선연구원 | automatic grading system for water leisure license using maneuvering simulator of boat and method for automatic grading thereof |
KR20200050736A (en) * | 2018-11-02 | 2020-05-12 | 한국항공우주연구원 | Method and device of correcting image sensor misalignment using ship identification information |
KR20230094874A (en) | 2021-12-21 | 2023-06-28 | 목포해양대학교 산학협력단 | Shore Remote Control Simulation System for Maritime Autonomous Surface Ships |
KR102617296B1 (en) * | 2022-11-23 | 2023-12-22 | 한화오션 주식회사 | Warship integrated solution system using digital platform |
KR20240034533A (en) | 2022-09-07 | 2024-03-14 | (주)세이프텍리서치 | Wing bridge simulator and simulation system and method for ship operation using thereof |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20070023905A (en) * | 2005-08-25 | 2007-03-02 | 명지대학교 산학협력단 | Immersive training system for live-line workers |
KR20100084597A (en) * | 2009-01-17 | 2010-07-27 | 록히드 마틴 코포레이션 | Immersive collaborative environment using motion capture, head mounted display, and cave |
KR20120047649A (en) * | 2010-11-04 | 2012-05-14 | 목포대학교산학협력단 | Vessel steer simulator system using real-time characteristic data about ship sailing |
KR20120101878A (en) * | 2011-03-07 | 2012-09-17 | 한국해양연구원 | Telescope device and telescope screen creating method using hmd for ship handling simulator |
-
2013
- 2013-11-01 KR KR20130132556A patent/KR101493614B1/en active IP Right Grant
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20070023905A (en) * | 2005-08-25 | 2007-03-02 | 명지대학교 산학협력단 | Immersive training system for live-line workers |
KR20100084597A (en) * | 2009-01-17 | 2010-07-27 | 록히드 마틴 코포레이션 | Immersive collaborative environment using motion capture, head mounted display, and cave |
KR20120047649A (en) * | 2010-11-04 | 2012-05-14 | 목포대학교산학협력단 | Vessel steer simulator system using real-time characteristic data about ship sailing |
KR20120101878A (en) * | 2011-03-07 | 2012-09-17 | 한국해양연구원 | Telescope device and telescope screen creating method using hmd for ship handling simulator |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20160092620A (en) * | 2015-01-28 | 2016-08-05 | (주)세이프텍리서치 | Ship Navigation Simulator and Design Method by using Head Mount Display and Voice Recognition Technology |
KR101655646B1 (en) | 2015-01-28 | 2016-09-07 | (주)세이프텍리서치 | Ship Navigation Simulator and Design Method by using Head Mount Display and Voice Recognition Technology |
KR20160149460A (en) | 2015-06-18 | 2016-12-28 | 재단법인 중소조선연구원 | automatic grading system for water leisure license using maneuvering simulator of boat and method for automatic grading thereof |
CN105206131A (en) * | 2015-09-23 | 2015-12-30 | 哈尔滨工程大学 | Three-degree-of-freedom ship navigation posture simulation device |
KR101657646B1 (en) | 2016-02-16 | 2016-09-22 | 한국해양과학기술원 | Method for displaying label in augmented reality service |
KR20200050736A (en) * | 2018-11-02 | 2020-05-12 | 한국항공우주연구원 | Method and device of correcting image sensor misalignment using ship identification information |
KR102187963B1 (en) | 2018-11-02 | 2020-12-07 | 한국항공우주연구원 | Method and device of correcting image sensor misalignment using ship identification information |
KR20230094874A (en) | 2021-12-21 | 2023-06-28 | 목포해양대학교 산학협력단 | Shore Remote Control Simulation System for Maritime Autonomous Surface Ships |
KR102666375B1 (en) | 2021-12-21 | 2024-05-17 | 국립목포해양대학교산학협력단 | Shore Remote Control Simulation System for Maritime Autonomous Surface Ships |
KR20240034533A (en) | 2022-09-07 | 2024-03-14 | (주)세이프텍리서치 | Wing bridge simulator and simulation system and method for ship operation using thereof |
KR102617296B1 (en) * | 2022-11-23 | 2023-12-22 | 한화오션 주식회사 | Warship integrated solution system using digital platform |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101493614B1 (en) | Ship Navigation Simulator and Design Method by using Augmented Reality Technology and Virtual Bridge System | |
US10989537B2 (en) | Sonar sensor fusion and model based virtual and augmented reality systems and methods | |
US8301318B2 (en) | Robotic vehicle remote control system having a virtual operator environment | |
US10191153B2 (en) | Augmented reality sonar imagery systems and methods | |
KR101655646B1 (en) | Ship Navigation Simulator and Design Method by using Head Mount Display and Voice Recognition Technology | |
JP7488925B2 (en) | Image generating device and image generating method | |
EP3633985B1 (en) | Video generation device | |
CN107230409B (en) | Diving personnel training system and training method based on manned submersible simulator | |
US9091547B2 (en) | Simulating a terrain view from an airborne point of view | |
CN102663921A (en) | Multi-channel and multi-screen three dimensional immersion simulation system of ship steering and operation | |
JP5949133B2 (en) | Mobile training support system | |
KR20120047649A (en) | Vessel steer simulator system using real-time characteristic data about ship sailing | |
Vasiljević et al. | Augmented reality in marine applications | |
CN113741213A (en) | Mooring tie-back installation operation simulation platform of deepwater semi-submersible platform | |
Butkiewicz | Designing augmented reality marine navigation aids using virtual reality | |
US6149435A (en) | Simulation method of a radio-controlled model airplane and its system | |
KR20210116799A (en) | Control system for ship entry and departure of port using digital twin | |
CN113238556A (en) | Water surface unmanned ship control system and method based on virtual reality | |
KR101814869B1 (en) | A Small Ship Simulator Applied Equations of Motion for Real Ship | |
JP2018164223A (en) | Display system | |
JP2004294686A (en) | Navigation simulator system | |
Miller et al. | The potential application of virtual reality based simulators to shiphandling and marine operations | |
KR20240034533A (en) | Wing bridge simulator and simulation system and method for ship operation using thereof | |
Estabridis et al. | Vision Ship Information Overlay and Navigation “VISION” System | |
KR20220088204A (en) | System and method of simulating ship navigation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
FPAY | Annual fee payment |
Payment date: 20180205 Year of fee payment: 4 |
|
FPAY | Annual fee payment |
Payment date: 20190211 Year of fee payment: 5 |
|
FPAY | Annual fee payment |
Payment date: 20200310 Year of fee payment: 6 |