WO2013012277A2 - Augmented reality system using transparent display for ship and method for enabling same - Google Patents

Augmented reality system using transparent display for ship and method for enabling same Download PDF

Info

Publication number
WO2013012277A2
WO2013012277A2 PCT/KR2012/005797 KR2012005797W WO2013012277A2 WO 2013012277 A2 WO2013012277 A2 WO 2013012277A2 KR 2012005797 W KR2012005797 W KR 2012005797W WO 2013012277 A2 WO2013012277 A2 WO 2013012277A2
Authority
WO
WIPO (PCT)
Prior art keywords
transparent display
ship
information
external image
augmented reality
Prior art date
Application number
PCT/KR2012/005797
Other languages
French (fr)
Korean (ko)
Other versions
WO2013012277A3 (en
Inventor
김선영
오재용
박세길
Original Assignee
한국해양연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국해양연구원 filed Critical 한국해양연구원
Publication of WO2013012277A2 publication Critical patent/WO2013012277A2/en
Publication of WO2013012277A3 publication Critical patent/WO2013012277A3/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G3/00—Traffic control systems for marine craft

Definitions

  • the present invention relates to augmented reality system for ships using a transparent display and a method of implementing the same.
  • Augmented Reality creates a new environment by combining the real world that the user sees with the virtual world with additional information.
  • the augmented reality system that combines the real environment and the virtual environment has been researched and developed mainly in the United States and Japan since the late 1990s.
  • Augmented reality a concept that complements the real world with the virtual world, uses a virtual environment made of computer graphics, but the main role is the real environment.
  • Computer graphics play a role in providing additional information necessary for the real environment.
  • the transparent display device for displaying a real environment and a virtual environment at the same time, due to the development of display technology, a transparent display device using a transparent electronic device has been developed.
  • the transparent display device is implemented by stacking a transparent electrode, a transparent semiconductor, a transparent insulator, and the like on transparent glass or transparent plastic.
  • the light emitting surface includes an organic light emitting diode (OLED), an inorganic light emitting diode (LED) or a liquid crystal display (LCD).
  • the present invention relates to a ship augmented reality system and augmented reality realization method using a transparent display for solving the problems of the prior art, through which the user adds their information to the background and objects outside the vessel viewed by the virtual environment
  • the purpose is to ensure the stability of ship operation and to prevent accidents due to inadvertent operation by making the necessary information for navigation at a glance so that various and complex navigation information can be intuitively judged.
  • Augmented reality system for ships using a transparent display according to the present invention to achieve the object as described above is a transparent display installed in the glass window of the steering wheel of the ship; Recognition unit for recognizing the position of the vessel and the head and pupil direction of the navigator; A receiver configured to receive external image data information from an external terrain database on an external terrain according to the position of the vessel and the head and pupil direction of the navigator; A matching unit for adjusting the external image data received by the receiving unit and the actual external image through the glass window to coincide; And an output unit configured to output the information of the external image data adjusted through the matching unit to the position of the actual external image through the transparent display.
  • the recognition unit includes a GPS system to recognize the moving speed and position of the vessel, characterized in that it comprises a recognition sensor for recognizing the head and the direction of the navigator.
  • the external image data is characterized by consisting of 3D data.
  • the receiver receives the chart from the chart database according to the navigation position of the vessel, and adjusts the chart to match the actual external image in the matching unit, the output unit is the vessel through the transparent display It is characterized by displaying the course of the.
  • the receiving unit receives the inland waterway, seabed topography, weather and sea area characteristic information from an electronic chart display system (ECDIS) including information on the inland waterway, seabed topography, weather and sea area characteristics And adjust the information about the inland water channel, the seabed topography, the weather and the sea area characteristics to match the actual external image at the matching unit, and output the information about the inland waterway, the seabed topography, the weather and the sea area characteristics through the output unit. And output to the transparent display.
  • ECDIS electronic chart display system
  • the receiving unit receives the information of the surrounding vessels operating at sea from the AIS (Automatic Vessel Identification System), and adjusts the information of the surrounding vessels to match the actual external image in the matching unit, the output Output to the transparent display through the unit.
  • AIS Automatic Vessel Identification System
  • the matching unit may adjust the size of the surrounding vessels received from the AIS according to a template for each size of the surrounding vessel in advance to output to the transparent display through the output unit.
  • the receiving unit receives an external moving object from the radar, and adjusts the moving speed and position of the moving object to match the actual external image in the matching unit, and outputs to the transparent display through the output unit Characterized in that.
  • the matching unit when the moving object is not the surrounding vessel received from the AIS, the matching unit is adjusted to match the actual external image, characterized in that output through the output unit to the transparent display.
  • the external illuminance of the vessel when the external illuminance of the vessel is lower than the preset value, it is characterized in that by using a template set in advance in the position of the actual external image.
  • the augmented reality system for ships using a transparent display is a transparent display installed in the glass window of the steering wheel of the ship; Recognition unit for recognizing the position of the vessel and the head and pupil direction of the navigator; A receiver configured to receive external image data information from an external terrain database on an external terrain according to the position of the vessel and the head and pupil direction of the navigator; A matching unit for adjusting the external image data received by the receiving unit and the actual external image through the glass window to coincide; And an output unit configured to output the information of the external image data adjusted through the matching unit through the transparent display to the position of the actual external image, and the receiver includes information on inland waterways, seabed topography, weather, and sea area characteristics.
  • a calculation unit configured to receive and calculate a moving speed and a route of the vessel, a transfer speed and a route of a surrounding ship, and a moving speed and a route of a moving object, and calculate a risk factor according to the time of the vessel according to a preset time interval. It is characterized by the prediction.
  • the risk factors include the risk of collision with the seabed topography, the risk of collision with the surrounding vessel, the risk of distress due to the weather, the risk of distress according to the sea area characteristics, the risk of collision with the external terrain. Characterized in that.
  • the risk factor when the risk factor is found, it characterized in that it comprises an alarm function that functions as an alarm.
  • the alarm function when the alarm function is activated in the alarm unit, it characterized in that it comprises a control unit for transmitting a control signal to the navigation control device for automatically correcting the course of the vessel.
  • a method for implementing augmented reality for ships using a transparent display includes: a transparent display installed in a glass window of a helm of a ship; A recognition step of recognizing the position of the ship and the head and pupil direction of the navigator; A receiving step of receiving external image data information from an external terrain database relating to the external terrain according to the position of the ship and the head and pupil direction of the navigator; A matching step of adjusting a match between the external image data received by the receiver and the actual external image through the glass window; And outputting information of the external image data adjusted through the matching unit through the transparent display at a position of the actual external image.
  • the receiving step receives the chart from the chart database according to the navigation position of the vessel, and adjusts the chart to match the actual external image in the matching step, the output step through the transparent display It is characterized by displaying the route of the vessel.
  • the receiving step receives the inland waterway, seabed topography, weather and sea area characteristic information from an ECDIS system including information on the inland waterway, seabed topography, weather and sea area characteristics And adjust the information on the inland waterway, the seabed topography, the weather and the sea area characteristics to match the actual external image in the matching step, and output the inland waterway, the seabed topography, the weather and the sea area characteristic information through the outputting step. And output to the transparent display.
  • the receiving step receives the information of the surrounding vessels operating at sea from the AIS (Automatic Vessel Identification System), and adjusts the information of the surrounding vessels to match the actual external image in the matching step, And outputting to the transparent display through an output step.
  • AIS Automatic Vessel Identification System
  • the receiving step receives an external moving object from the radar, and adjusts the moving speed and position of the moving object to match the actual external image in the matching step, the transparent display through the output step It characterized in that the output to.
  • the information on the inland waterway, seabed topography, weather and sea area characteristics, the movement speed and route of the vessel, the transfer speed and route of the surrounding vessel, and the transfer speed and route of the moving object Including a calculation step to predict the risk factor according to the time of the ship according to a predetermined time interval.
  • the risk factors include the risk of collision with the seabed topography, the risk of collision with the surrounding vessel, the risk of distress due to the weather, the risk of distress according to the sea area characteristics, the risk of collision with the external terrain.
  • the risk factor when the risk factor is found, it characterized in that it comprises an alarm step to function as an alarm.
  • the alarm function when activated in the alarm step, characterized in that it comprises a control step of transmitting a control signal to the navigation control device to automatically correct the course of the vessel.
  • An object of the present invention is to provide a device and method for realizing a more realistic augmented reality compared to the prior art by adding a virtual environment to the background and objects viewed by the user.
  • FIG. 1 is a block diagram of an augmented reality system for ships using a transparent display according to the present invention.
  • FIG. 2 is a schematic diagram of a transparent display according to the present invention.
  • FIG. 3 is a block diagram of another embodiment of a ship augmented reality system using a transparent display according to the present invention.
  • FIG. 4 is a schematic diagram of an augmented reality system for ships using a transparent display according to the present invention.
  • FIG. 5 is a flowchart illustrating a method for implementing augmented reality for ships using a transparent display according to the present invention.
  • Augmented reality technology is a technology that synthesizes and displays the real image and the virtual image, it is possible to provide more intuitive information by superimposing and outputting the navigation support information on the external image viewed by the navigator.
  • Augmented reality technology-based intelligent navigation support system combines CCTV cameras and transparent display image synthesis technology, three-dimensional matching technology, sensor data fusion technology and intelligent navigation technology to provide navigation information in a form that is easy for the navigator to understand. It is a new concept of navigation system that can improve the efficiency of information transmission.
  • the navigation support system using AR technology needs to register real visual information and virtual information. Since the location of visual information varies depending on the user's location and gaze direction, a camera or various sensors are used. It is necessary to accurately find the location and the direction of the user.
  • the navigation information providing system using AR technology can be utilized for avoiding collisions of ships, maritime traffic flow control, and vessel monitoring by using real-time maritime information providing system, electronic chart, AIS, etc.
  • FIG. 1 is a block diagram of an augmented reality system for ships using a transparent display according to the present invention.
  • the ship augmented reality system 1 using the transparent display includes a transparent display 100, a recognition unit 200, a receiver 300, a matching unit 400, and an output unit ( 500),
  • the recognition unit 200 recognizes and recognizes the navigator's line of sight from a recognition sensor configured to recognize the current speed and position of the ship using the GPS system, and to recognize the head and line of sight of the navigator.
  • the recognition sensor may be configured separately from the eye recognition camera and the recognition camera for recognizing the head direction of the navigator for recognizing the gaze direction of the navigator, or may be one sensor for recognizing the navigator gaze and the head direction together.
  • the receiver 300 receives external image data from an external topography database DB regarding the external terrain for each window according to the position of the ship, the head of the navigator, and the direction of the pupil.
  • the matching unit 400 performs a matching process of accurately matching the positions between the received external image data and the actual external image viewed by the navigator through the window, and the output unit 500 matches the external unit matched by the matching unit 400.
  • Various information of the image data that is, information on the land, information on the buoy, etc. are output to the position of the actual external image through the transparent display 100.
  • the external image data is preferably composed of 3D data. That is, it is preferable that an external terrain database (DB) construction on the external terrain is built up of 3D data.
  • DB external terrain database
  • FIG. 2 is a schematic diagram of a transparent display according to the present invention.
  • various navigation information may be displayed through the transparent display 100, and the various navigation information includes information about a ship's route, inland waterways, seabed topography, weather and sea characteristics, and surrounding ships. Information, current flight location information, and the like.
  • the collection of information about the ship's route plan among various navigation information is received by the receiver 300 according to the present invention from the chart database DB according to the sailing position of the ship, and the matcher 400 actually receives the chart. Adjust to match the external image.
  • the output unit 500 displays the route of the ship through the transparent display 100 by adjusting the actual external image and the received chart.
  • the collection of information regarding inland waterways, seabed topography, weather and sea area characteristics is similarly received by the receiver 300 from the electronic chart display system (ECDIS),
  • the matching unit 400 adjusts the received inland waterway, information on the seabed topography, weather, and sea area characteristics to match the position of the actual external image.
  • the output unit 500 displays the inland water channel, the seabed terrain, the weather and the sea region characteristics through the transparent display 100 through the adjustment between the actual external image and the received inland water channel, the seabed terrain, the weather and the sea area characteristics.
  • the receiver 300 receives information about the surrounding vessels operating in the sea from the automatic identification system (AIS),
  • AIS automatic identification system
  • the matching unit 400 adjusts the received information about the surrounding ships to match the position of the actual external image.
  • the output unit 500 displays the information on the surrounding vessels through the transparent display 100 by adjusting the information about the actual external image and the received surrounding vessels.
  • the matching unit 400 selects and adjusts a template for each size of the surrounding vessel according to the size of the collected surrounding vessels and displays it on the transparent display 100 through the output unit 500.
  • a template is a pre-modeled classification of vessels by size and type, and it is not possible to create a three-dimensional model for all vessels. In low external light conditions, the ship template and the 3D virtual terrain information are output together, and this image replaces the actual external image.
  • the template is configured according to the size of the surrounding vessel in advance, even if the information gathered by AIS during the night operation is indicated that the surrounding vessel is operating near, it is not recognized by the naked eyes of the navigator. It is difficult to feel intuitively whether the ship is around, but if you mark the display on the transparent display 100 as a template, it is helpful in the collection and determination of the navigation information of the navigator.
  • the navigator presets the standard of low external illumination, such as when the ship's flight time is night or when the weather is poor, and senses the external illumination in real time through the light sensor, If it is low, it means that the actual external image is not properly distinguished by the navigator's naked eye, and to compensate for this, the actual external image is displayed using a preset template.
  • AIS Marine Life Safety Convention
  • AIS is an automatic identification system, which is an advanced device that provides navigation information such as ship position, course, and speed in real time. This is a device to prevent the collision of ships at sea. It is a mandatory installation of ships in accordance with the International Maritime Organization (IMO), and the ship automatic identification device (AIS) is introduced, and even when the surrounding ships cannot be recognized, It is possible to judge the existence and progress.
  • IMO International Maritime Organization
  • AIS ship automatic identification device
  • Collection of information about small vessels other than the surrounding vessels that can be collected through AIS or moving objects drifting on the sea other than the vessels is received by the receiver 300 from the radar, and the matching unit 400 determines the moving speed and position of the moving objects. After adjusting to match with the actual external image, and outputs to the transparent display 100 through the output unit 500.
  • FIG. 3 is a block diagram of another embodiment of a ship augmented reality system using a transparent display according to the present invention.
  • the augmented reality system for ships using the transparent display according to the present invention is in addition to the transparent display 100, the recognition unit 200, the receiving unit 300, the matching unit 400, and the output unit 500.
  • the calculation unit 600 may further include.
  • the recognition unit 200 recognizes the information on the seabed topography, weather and sea area characteristics, GPS The current speed and route information of the ship, the information about the sea chart collected by the receiver 300 according to the navigation position of the vessel from the database (DB), the sea received by the receiver 300 through the AIS collected Compiling the information about the surrounding vessels in operation, the calculation unit 600 calculates the risk of collision due to seabed topography such as surrounding vessels, moving objects, inland waterways, and reefs according to the ship's route plan.
  • the navigator may set the time interval in advance so that the calculation unit 600 calculates the collision risk at a predetermined time interval, and predicts the risk factor at the time interval set according to the progress time of the ship.
  • the risk factor refers to the danger of collision with the seabed topography, the danger of collision with the surrounding ships, the risk of distress due to bad weather, the risk of distress due to the characteristics of the sea such as the vortex and the speed of water, the collision with the external terrain such as land and island. It means danger lights.
  • a risk factor may include an alarm unit 700 that alarms the navigator.
  • the alarm uses an image alarm such as screen flicker or a sound alarm on the transparent display 100. All of these can be used, and the type of alarm can be selected by the navigator.
  • image alarm such as screen flicker or a sound alarm on the transparent display 100. All of these can be used, and the type of alarm can be selected by the navigator.
  • the controller 800 may further include a control signal for transmitting a control signal to the navigation controller to automatically modify the route plan of the ship.
  • the augmented reality system for ships using the transparent display according to the present invention provides the navigator with comprehensive information necessary for voyage at a glance to increase intuitive judgment, and even the navigator's mistake automatically adjusts the route. By preventing it, sea collision can be prevented.
  • FIG. 4 is a schematic diagram of an augmented reality system for ships using a transparent display according to the present invention.
  • the navigator can see at a glance a variety of information and the actual external image displayed on the transparent display 100 installed in the glass window of the ship's steering room.
  • FIG. 5 is a flowchart illustrating a method for implementing augmented reality for ships using a transparent display according to the present invention.
  • the augmented reality implementation method for ships using a transparent display is a recognition step (S100) of recognizing the position of the ship and the head and the eyes of the navigator, the position of the ship and the head and eyes of the navigator According to the receiving step (S200) for receiving information on the external image data from the external terrain database on the external terrain, the matching step of adjusting the match between the external image data received by the receiver and the actual external image through the glass window (S300). And an output step S400 of outputting information of the external image data adjusted through the matching step S300 through a transparent display at a position of the actual external image.
  • Receiving step (S200) receives the chart from the sea chart database according to the navigation position of the ship, from the electronic chart display system (ECDIS) to the inland water, seabed including information on inland waterway, seabed topography, weather and sea area characteristics Receives terrain, weather and sea feature information, receives information of surrounding vessels operating at sea from AIS (Automatic Vessel Identification System), and receives external moving objects from radar to display actual external images and display position of these information.
  • the matching process is performed in the matching step (S300) to match, and in the output step (S400) to display a variety of information through a transparent display.
  • the calculation may further include a calculation step (S500) of calculating whether there is a risk factor when the ship sails according to the route plan.
  • the method may further include an alarm step S600 of sending an alarm signal to the navigator.
  • the risk factors may include, but are not limited to, collision risks with seabed topography, collision risks with surrounding ships, distress risks due to weather, distress risks due to sea area characteristics, and collision risks with external terrain.
  • the alarm function When the alarm function is activated in the alarm step (S600), it may further include a control step (S700) for transmitting a control signal to the navigation control device to modify the route plan of the vessel.
  • a control step (S700) for transmitting a control signal to the navigation control device to modify the route plan of the vessel.
  • the present invention can be usefully used in the field of augmented reality devices and systems and ship navigation systems.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Ocean & Marine Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Graphics (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Geometry (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Processing Or Creating Images (AREA)

Abstract

In an augmented reality system using a transparent display for a ship, a transparent display is installed on a window in a steering house of the ship, and the system comprises: a recognition portion for recognizing the location of the ship and the direction of the head and the pupils of a sailor; a reception portion for receiving external image data from an external landscape database with respect to an external landscape, in accordance with the location of the ship and the direction of the head and the pupils of the sailor; a matching portion for adjusting a match between the external image data, which is received by the receiving portion, and an actual external image through the window; and an output portion for outputting through the transparent display information on the external image data, which is adjusted through the matching portion, on the location of the actual external image.

Description

투명디스플레이를 이용한 선박용 증강 현실 시스템 및 그 구현 방법Augmented reality system for ships using transparent display and its implementation method
본 발명은 투명디스플레이를 이용한 선박용 증강 현실 시스템 및 그 구현 방법에 관한 것이다.The present invention relates to augmented reality system for ships using a transparent display and a method of implementing the same.
증강현실(Augmented Reality)이란 사용자가 눈으로 보는 현실세계와 부가정보를 갖는 가상세계를 합쳐 새로운 환경을 생성한다. 현실환경과 가상환경을 융합하는 증강현실 시스템은 1990년대 후반부터 미국·일본을 중심으로 연구·개발이 진행되고 있다. 현실세계를 가상세계로 보완해주는 개념인 증강현실은 컴퓨터 그래픽으로 만들어진 가상환경을 사용하지만 주역은 현실환경이다. 컴퓨터 그래픽은 현실환경에 필요한 정보를 추가제공하는 역할을 한다.Augmented Reality creates a new environment by combining the real world that the user sees with the virtual world with additional information. The augmented reality system that combines the real environment and the virtual environment has been researched and developed mainly in the United States and Japan since the late 1990s. Augmented reality, a concept that complements the real world with the virtual world, uses a virtual environment made of computer graphics, but the main role is the real environment. Computer graphics play a role in providing additional information necessary for the real environment.
또한, 현실환경과 가상환경을 동시에 디스플레이하기 위한 투명 디스플레이 장치에 있어서도 최근 디스플레이 기술의 발달로 인하여 투명 전자 소자를 이용한 투명 디스플레이 장치가 개발되었다. 투명 디스플레이 장치는 투명한 유리 또는 투명한 플라스틱 상에 투명 전극, 투명 반도체 및 투명 절연체 등을 적층하여 구현한다. 발광면은 유기물 발광 소자(OLED : Organic Light Emitting Diode), 무기물 발광 소자(LED :Light Emitting Diode) 또는 액정(LCD : Liquid Crystal Display) 등으로 이루어진다.In addition, in the transparent display device for displaying a real environment and a virtual environment at the same time, due to the development of display technology, a transparent display device using a transparent electronic device has been developed. The transparent display device is implemented by stacking a transparent electrode, a transparent semiconductor, a transparent insulator, and the like on transparent glass or transparent plastic. The light emitting surface includes an organic light emitting diode (OLED), an inorganic light emitting diode (LED) or a liquid crystal display (LCD).
선박 항행 시스템에 있어서 종래 기술은 대한민국 특허출원번호 제10-2007-0037443호의 "파랑정보를 구비하는 ECDIS에 의한 선박 안전운항방법"에 개시된 바와 같이, 레이더를 통해 파랑정보를 정확하게 계측하고, 이러한 정보를 ECDIS를 통해 표시함과 동시에 서로 공유하며, 파랑정보와 ECDIS 정보를 통해 선박운항의 안정성을 향상시킬 수 있는 파랑정보를 구비하는 ECDIS에 의한 선박 안전운항방법을 제공한다.The prior art in the navigation system of the ship, as disclosed in the Republic of Korea Patent Application No. 10-2007-0037443 "Ship safety navigation method by ECDIS with blue information", and accurately measure the wave information through the radar, such information It is displayed through ECDIS and shared with each other, and provides a safe operation method of ship by ECDIS equipped with blue information that can improve the stability of ship operation through blue information and ECDIS information.
그러나, 이러한 선박 운항의 안정성을 향상시키기 위해 전자해도표시시스템(ECDIS)만으로는 한계가 있고, 현실환경에 관한 다양한 정보 및 선박을 운행함에 있어 필요한 가상의 정보들을 동시에 디스플레이하여 급박한 순간에서의 선장의 판단력을 도와주어 선박의 안정성을 확보하고, 선박 운항의 효율성과 정확성을 확대시키기 위해서는 증강 현실 시스템의 적용이 필요하다.However, in order to improve the stability of the ship operation, there is a limit to the electronic chart display system (ECDIS) alone, and various information about the real environment and virtual information necessary for operating the ship are displayed at the same time. It is necessary to apply augmented reality system to help the judgment and secure the stability of the ship and to expand the efficiency and accuracy of the ship operation.
본 발명은 이러한 종래기술의 문제점을 해결하기 위한 투명디스플레이를 이용한 선박용 증강 현실 시스템 및 증강 현실 구현 방법에 관한 것으로서, 이를 통해 사용자가 바라보는 선박 외부의 배경과 사물에 이들의 정보를 가상 환경으로 덧입혀 항행에 필요한 정보들을 한 눈에 볼 수 있도록 하여 다양하고 복잡한 항해 정보를 직관적으로 판단가능하도록 하여 선박 운항의 안정성을 확보하고, 운항 부주의로 인한 사고를 미연에 방지하고자 하는데 그 목적이 있다.The present invention relates to a ship augmented reality system and augmented reality realization method using a transparent display for solving the problems of the prior art, through which the user adds their information to the background and objects outside the vessel viewed by the virtual environment The purpose is to ensure the stability of ship operation and to prevent accidents due to inadvertent operation by making the necessary information for navigation at a glance so that various and complex navigation information can be intuitively judged.
상기한 바와 같은 목적을 달성하기 위해 본 발명에 따른 투명디스플레이를 이용한 선박용 증강 현실 시스템은 선박의 조타실의 유리창에 설치된 투명 디스플레이; 상기 선박의 위치 및 항해자의 머리 및 눈동자 방향을 인식하는 인식부; 상기 선박의 위치 및 상기 항해자의 머리 및 눈동자 방향에 따라 외부 지형에 관한 외부지형 데이터베이스로부터 외부 영상 데이터를 정보를 수신하는 수신부; 상기 수신부로 수신된 상기 외부 영상 데이터와 상기 유리창을 통한 실제 외부 영상이 일치되도록 조정하는 정합부; 및 상기 정합부를 통해 조정된 상기 외부 영상 데이터의 정보를 상기 실제 외부 영상의 위치에 상기 투명 디스플레이를 통해 출력하는 출력부를 포함하는 것을 특징으로 한다.Augmented reality system for ships using a transparent display according to the present invention to achieve the object as described above is a transparent display installed in the glass window of the steering wheel of the ship; Recognition unit for recognizing the position of the vessel and the head and pupil direction of the navigator; A receiver configured to receive external image data information from an external terrain database on an external terrain according to the position of the vessel and the head and pupil direction of the navigator; A matching unit for adjusting the external image data received by the receiving unit and the actual external image through the glass window to coincide; And an output unit configured to output the information of the external image data adjusted through the matching unit to the position of the actual external image through the transparent display.
또한 본 발명에 따르면, 상기 인식부는 GPS시스템을 포함하여 상기 선박의 이동속도와 위치를 인식하고, 상기 항해자의 머리 및 시선 방향을 인식하는 인식 센서를 포함하는 것을 특징으로 한다.In addition, according to the present invention, the recognition unit includes a GPS system to recognize the moving speed and position of the vessel, characterized in that it comprises a recognition sensor for recognizing the head and the direction of the navigator.
또한 본 발명에 따르면, 상기 외부 영상 데이터는 3D 데이터로 구성된 것을 특징으로 한다.In addition, according to the present invention, the external image data is characterized by consisting of 3D data.
또한 본 발명에 따르면, 상기 수신부는 상기 선박의 항해 위치에 따라 해도 데이터베이스로부터 해도를 수신하고, 상기 해도를 상기 정합부에서 실제 외부 영상과 일치되도록 조정하여, 상기 출력부는 상기 투명 디스플레이를 통해 상기 선박의 항로를 표시하는 것을 특징으로 한다.In addition, according to the present invention, the receiver receives the chart from the chart database according to the navigation position of the vessel, and adjusts the chart to match the actual external image in the matching unit, the output unit is the vessel through the transparent display It is characterized by displaying the course of the.
또한 본 발명에 따르면, 상기 수신부는 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보를 포함하는 전자해도표시 시스템(ECDIS)으로부터 상기 내륙수로, 해저지형, 기상 및 해역 특성 정보를 수신하고, 상기 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보를 상기 정합부에서 실제 외부 영상과 일치되도록 조정하여, 상기 출력부를 통해 상기 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보를 상기 투명 디스플레이에 출력하는 것을 특징으로 한다.Further, according to the present invention, the receiving unit receives the inland waterway, seabed topography, weather and sea area characteristic information from an electronic chart display system (ECDIS) including information on the inland waterway, seabed topography, weather and sea area characteristics And adjust the information about the inland water channel, the seabed topography, the weather and the sea area characteristics to match the actual external image at the matching unit, and output the information about the inland waterway, the seabed topography, the weather and the sea area characteristics through the output unit. And output to the transparent display.
또한 본 발명에 따르면, 상기 수신부는 AIS(선박자동식별장치)로부터 해상에 운항되는 주위선박들의 정보를 수신하고, 상기 주위선박들의 정보를 상기 정합부에서 실제 외부 영상과 일치되도록 조정하여, 상기 출력부를 통해 상기 투명 디스플레이에 출력하는 것을 특징으로 한다.In addition, according to the present invention, the receiving unit receives the information of the surrounding vessels operating at sea from the AIS (Automatic Vessel Identification System), and adjusts the information of the surrounding vessels to match the actual external image in the matching unit, the output Output to the transparent display through the unit.
또한 본 발명에 따르면, 상기 정합부는 미리 설정된 주위선박의 사이즈별 템플릿에 따라 상기 AIS로부터 수신된 주위선박들의 사이즈를 조절하여 상기 출력부를 통해 상기 투명 디스플레이에 출력하는 것을 특징으로 한다.According to the present invention, the matching unit may adjust the size of the surrounding vessels received from the AIS according to a template for each size of the surrounding vessel in advance to output to the transparent display through the output unit.
또한 본 발명에 따르면, 상기 수신부는 레이더로부터 외부의 이동물체를 수신하고, 상기 이동물체의 이동속도 및 위치를 상기 정합부에서 실제 외부 영상과 일치되도록 조정하며, 상기 출력부를 통해 상기 투명 디스플레이에 출력하는 것을 특징으로 한다.According to the present invention, the receiving unit receives an external moving object from the radar, and adjusts the moving speed and position of the moving object to match the actual external image in the matching unit, and outputs to the transparent display through the output unit Characterized in that.
또한 본 발명에 따르면, 상기 이동물체는 상기 AIS로부터 수신된 주위선박이 아닌 경우에, 상기 정합부에서 실제 외부 영상과 일치되도록 조정하고, 상기 출력부를 통해 상기 투명 디스플레이에 출력하는 것을 특징으로 한다.According to the present invention, when the moving object is not the surrounding vessel received from the AIS, the matching unit is adjusted to match the actual external image, characterized in that output through the output unit to the transparent display.
또한 본 발명에 따르면, 상기 선박의 외부 조도가 미리 셋팅된 값보다 낮은 경우, 상기 실제 외부 영상의 위치에 미리 설정된 템플릿을 이용하여 표시하는 것을 특징으로 한다.In addition, according to the present invention, when the external illuminance of the vessel is lower than the preset value, it is characterized in that by using a template set in advance in the position of the actual external image.
본 발명에 따른 또 다른 실시예로서, 투명디스플레이를 이용한 선박용 증강 현실 시스템은 선박의 조타실의 유리창에 설치된 투명 디스플레이; 상기 선박의 위치 및 항해자의 머리 및 눈동자 방향을 인식하는 인식부; 상기 선박의 위치 및 상기 항해자의 머리 및 눈동자 방향에 따라 외부 지형에 관한 외부지형 데이터베이스로부터 외부 영상 데이터를 정보를 수신하는 수신부; 상기 수신부로 수신된 상기 외부 영상 데이터와 상기 유리창을 통한 실제 외부 영상이 일치되도록 조정하는 정합부; 및 상기 정합부를 통해 조정된 상기 외부 영상 데이터의 정보를 상기 실제 외부 영상의 위치에 상기 투명 디스플레이를 통해 출력하는 출력부를 포함하고, 상기 수신부는 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보, 상기 선박의 이동속도 및 항로, 주위선박의 이송속도 및 항로, 및 이동물체의 이송속도 및 항로를 수신하여 계산하는 계산부를 포함하며, 미리 설정된 시간간격에 따라 상기 선박의 시간에 따른 위험요소를 예측하는 것을 특징으로 한다.As another embodiment according to the present invention, the augmented reality system for ships using a transparent display is a transparent display installed in the glass window of the steering wheel of the ship; Recognition unit for recognizing the position of the vessel and the head and pupil direction of the navigator; A receiver configured to receive external image data information from an external terrain database on an external terrain according to the position of the vessel and the head and pupil direction of the navigator; A matching unit for adjusting the external image data received by the receiving unit and the actual external image through the glass window to coincide; And an output unit configured to output the information of the external image data adjusted through the matching unit through the transparent display to the position of the actual external image, and the receiver includes information on inland waterways, seabed topography, weather, and sea area characteristics. And a calculation unit configured to receive and calculate a moving speed and a route of the vessel, a transfer speed and a route of a surrounding ship, and a moving speed and a route of a moving object, and calculate a risk factor according to the time of the vessel according to a preset time interval. It is characterized by the prediction.
또한 본 발명에 따르면, 상기 위험요소는 상기 해저지형과의 충돌위험, 상기 주위선박과의 충돌위험, 상기 기상에 따른 조난위험, 상기 해역 특성에 따른 조난위험, 상기 외부 지형과의 충돌위험을 포함하는 것을 특징으로 한다.In addition, according to the present invention, the risk factors include the risk of collision with the seabed topography, the risk of collision with the surrounding vessel, the risk of distress due to the weather, the risk of distress according to the sea area characteristics, the risk of collision with the external terrain. Characterized in that.
또한 본 발명에 따르면, 상기 위험요소가 발견시, 알람기능을 하는 알람부를 포함하는 것을 특징으로 한다.In addition, according to the present invention, when the risk factor is found, it characterized in that it comprises an alarm function that functions as an alarm.
또한 본 발명에 따르면, 상기 알람부에서 알람기능이 작동한 경우, 상기 선박의 항로를 자동 수정하도록 하는 제어 신호를 항법제어장치로 송신하는 제어부를 포함하는 것을 특징으로 한다.According to the present invention, when the alarm function is activated in the alarm unit, it characterized in that it comprises a control unit for transmitting a control signal to the navigation control device for automatically correcting the course of the vessel.
본 발명에 따른 투명디스플레이를 이용한 선박용 증강 현실 구현 방법은 선박의 조타실의 유리창에 설치된 투명 디스플레이; 상기 선박의 위치 및 항해자의 머리 및 눈동자 방향을 인식하는 인식단계; 상기 선박의 위치 및 상기 항해자의 머리 및 눈동자 방향에 따라 외부 지형에 관한 외부 지형 데이터베이스로부터 외부 영상 데이터를 정보를 수신하는 수신단계; 상기 수신부로 수신된 상기 외부 영상 데이터와 상기 유리창을 통한 실제 외부 영상과의 일치를 조정하는 정합단계; 및 상기 정합부를 통해 조정된 상기 외부 영상 데이터의 정보를 상기 실제 외부 영상의 위치에 상기 투명 디스플레이를 통해 출력하는 출력단계를 포함하는 것을 특징으로 한다.A method for implementing augmented reality for ships using a transparent display according to the present invention includes: a transparent display installed in a glass window of a helm of a ship; A recognition step of recognizing the position of the ship and the head and pupil direction of the navigator; A receiving step of receiving external image data information from an external terrain database relating to the external terrain according to the position of the ship and the head and pupil direction of the navigator; A matching step of adjusting a match between the external image data received by the receiver and the actual external image through the glass window; And outputting information of the external image data adjusted through the matching unit through the transparent display at a position of the actual external image.
또한 본 발명에 따르면, 상기 수신단계는 상기 선박의 항해 위치에 따라 해도 데이터베이스로부터 해도를 수신하고, 상기 해도를 상기 정합단계에서 실제 외부 영상과 일치되도록 조정하여, 상기 출력단계는 상기 투명 디스플레이를 통해 상기 선박의 항로를 표시하는 것을 특징으로 한다.Further, according to the present invention, the receiving step receives the chart from the chart database according to the navigation position of the vessel, and adjusts the chart to match the actual external image in the matching step, the output step through the transparent display It is characterized by displaying the route of the vessel.
또한 본 발명에 따르면, 상기 수신단계는 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보를 포함하는 전자해도표시 시스템(ECDIS)으로부터 상기 내륙수로, 해저지형, 기상 및 해역 특성 정보를 수신하고, 상기 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보를 상기 정합단계에서 실제 외부 영상과 일치되도록 조정하여, 상기 출력단계를 통해 상기 내륙수로, 해저지형, 기상 및 해역 특성 정보를 상기 투명 디스플레이에 출력하는 것을 특징으로 한다.In addition, according to the present invention, the receiving step receives the inland waterway, seabed topography, weather and sea area characteristic information from an ECDIS system including information on the inland waterway, seabed topography, weather and sea area characteristics And adjust the information on the inland waterway, the seabed topography, the weather and the sea area characteristics to match the actual external image in the matching step, and output the inland waterway, the seabed topography, the weather and the sea area characteristic information through the outputting step. And output to the transparent display.
또한 본 발명에 따르면, 상기 수신단계는 AIS(선박자동식별장치)로부터 해상에 운항되는 주위선박들의 정보를 수신하고, 상기 주위선박들의 정보를 상기 정합단계에서 실제 외부 영상과 일치되도록 조정하여, 상기 출력단계를 통해 상기 투명 디스플레이에 출력하는 것을 특징으로 한다.Further, according to the present invention, the receiving step receives the information of the surrounding vessels operating at sea from the AIS (Automatic Vessel Identification System), and adjusts the information of the surrounding vessels to match the actual external image in the matching step, And outputting to the transparent display through an output step.
또한 본 발명에 따르면, 상기 수신단계는 레이더로부터 외부의 이동물체를 수신하고, 상기 이동물체의 이동속도 및 위치를 상기 정합단계에서 실제 외부 영상과 일치되도록 조정하며, 상기 출력단계를 통해 상기 투명 디스플레이에 출력하는 것을 특징으로 한다.According to the present invention, the receiving step receives an external moving object from the radar, and adjusts the moving speed and position of the moving object to match the actual external image in the matching step, the transparent display through the output step It characterized in that the output to.
또한 본 발명에 따르면, 상기 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보, 상기 선박의 이동속도 및 항로, 상기 주위선박의 이송속도 및 항로, 및 상기 이동물체의 이송속도 및 항로를 계산하는 계산단계를 포함하여 미리 설정된 시간간격에 따라 상기 선박의 시간에 따른 위험요소를 예측하는 것을 특징으로 한다.In addition, according to the present invention, the information on the inland waterway, seabed topography, weather and sea area characteristics, the movement speed and route of the vessel, the transfer speed and route of the surrounding vessel, and the transfer speed and route of the moving object Including a calculation step to predict the risk factor according to the time of the ship according to a predetermined time interval.
또한 본 발명에 따르면, 상기 위험요소는 상기 해저지형과의 충돌위험, 상기 주위선박과의 충돌위험, 상기 기상에 따른 조난위험, 상기 해역 특성에 따른 조난위험, 상기 외부 지형과의 충돌위험을 포함하고, 상기 위험요소가 발견시, 알람기능을 하는 알람단계를 포함하는 것을 특징으로 한다.In addition, according to the present invention, the risk factors include the risk of collision with the seabed topography, the risk of collision with the surrounding vessel, the risk of distress due to the weather, the risk of distress according to the sea area characteristics, the risk of collision with the external terrain. And, when the risk factor is found, it characterized in that it comprises an alarm step to function as an alarm.
또한 본 발명에 따르면, 상기 알람단계에서 알람기능이 작동한 경우, 상기 선박의 항로를 자동 수정하도록 하는 제어 신호를 항법제어장치로 송신하는 제어단계를 포함하는 것을 특징으로 한다.In addition, according to the present invention, when the alarm function is activated in the alarm step, characterized in that it comprises a control step of transmitting a control signal to the navigation control device to automatically correct the course of the vessel.
본 발명의 목적은, 사용자가 바라보는 배경 및 사물에 가상 환경을 덧입혀 종래 기술에 비하여 좀 더 현실적인 증강 현실을 구현하기 위한 장치 및 방법을 제공하는데 있다.An object of the present invention is to provide a device and method for realizing a more realistic augmented reality compared to the prior art by adding a virtual environment to the background and objects viewed by the user.
또한, 다양한 선박 사고의 원인 중 운항 부주의에 의한 사고가 많은 부분을 차지하는데 이는 항해자가 느끼는 피로감 때문으로 파악되고 있고, 본 발명에 따른 투명디스플레이를 이용한 선박용 증강 현실 시스템은 다양하고 복잡한 항해 정보들을 항해자가 한 눈에 보고 파악할 수 있도록 함으로써, 직관적 판단 능력을 향상시켜 해양 사고를 방지하는 효과가 있다.In addition, many accidents caused by inadvertent operation of the various ship accidents are accounted for due to fatigue felt by the navigator, and the augmented reality system for ships using the transparent display according to the present invention uses various and complex navigation information. By allowing the user to see and understand at a glance, the ability to improve intuitive judgment has the effect of preventing marine accidents.
도 1은 본 발명에 따른 투명디스플레이를 이용한 선박용 증강 현실 시스템의 블럭도이다.1 is a block diagram of an augmented reality system for ships using a transparent display according to the present invention.
도 2는 본 발명에 따른 투명디스플레이의 개략도이다.2 is a schematic diagram of a transparent display according to the present invention.
도 3은 본 발명에 따른 투명디스플레이를 이용한 선박용 증강 현실 시스템의 다른 실시예의 블럭도이다.3 is a block diagram of another embodiment of a ship augmented reality system using a transparent display according to the present invention.
도 4는 본 발명에 따른 투명디스플레이를 이용한 선박용 증강 현실 시스템의 개략도이다.4 is a schematic diagram of an augmented reality system for ships using a transparent display according to the present invention.
도 5는 본 발명에 따른 투명디스플레이를 이용한 선박용 증강 현실 구현방법에 관한 순서도이다.5 is a flowchart illustrating a method for implementing augmented reality for ships using a transparent display according to the present invention.
이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세히 설명한다. 우선, 도면들 중 동일한 구성요소 또는 부품들은 가능한 한 동일한 참조부호를 나타내고 있음에 유의해야 한다. 본 발명을 설명함에 있어서 관련된 공지기능 혹은 구성에 대한 구체적인 설명은 본 발명의 요지를 모호하게 하지 않기 위해 생략한다.Hereinafter, with reference to the accompanying drawings will be described an embodiment of the present invention; First, it should be noted that the same components or parts in the drawings represent the same reference numerals as much as possible. In describing the present invention, detailed descriptions of related well-known functions or configurations are omitted in order not to obscure the gist of the present invention.
증강현실 기술은 실사 영상과 가상영상을 합성하여 표현하는 기술이며, 항해자가 바라보는 외부 영상에 항해 지원 정보를 중첩 출력함으로써 보다 직관적인 정보의 제공이 가능하다.Augmented reality technology is a technology that synthesizes and displays the real image and the virtual image, it is possible to provide more intuitive information by superimposing and outputting the navigation support information on the external image viewed by the navigator.
증강현실 기술 기반 지능형 항해 지원 시스템은 CCTV 카메라 및 투명 디스플레이용 영상 합성 기술, 3차원 정합 기술, 센서 데이터 융합 기술과 지능형 항법 기술을 결합하여 항행 정보를 항해자가 이해하기 쉬운 형태로 제공함으로써 항행안전 및 정보 전달 효율을 향상시킬 수 있는 새로운 개념의 항해시스템이다.Augmented reality technology-based intelligent navigation support system combines CCTV cameras and transparent display image synthesis technology, three-dimensional matching technology, sensor data fusion technology and intelligent navigation technology to provide navigation information in a form that is easy for the navigator to understand. It is a new concept of navigation system that can improve the efficiency of information transmission.
증강현실(AR) 기술을 활용한 항해 지원 시스템은 실제 시각정보와 가상정보를 정합(Registration)해야 하는데, 시각 정보의 위치는 사용자의 위치 및 시선 방향에 따라 달라지므로, 카메라 혹은 다양한 센서 등을 이용하여 사용자의 위치 및 시선 방향을 정확히 찾아 내야 한다.The navigation support system using AR technology needs to register real visual information and virtual information. Since the location of visual information varies depending on the user's location and gaze direction, a camera or various sensors are used. It is necessary to accurately find the location and the direction of the user.
증강현실(AR) 기술을 활용한 항행정보 제공 시스템은 실시간 해상정보제공 시스템, 전자해도, AIS 등을 이용하여 선박의 충돌회피, 해상교통 흐름 관제, 선박 모니터링 등에 활용할 수 있다.The navigation information providing system using AR technology can be utilized for avoiding collisions of ships, maritime traffic flow control, and vessel monitoring by using real-time maritime information providing system, electronic chart, AIS, etc.
도 1은 본 발명에 따른 투명디스플레이를 이용한 선박용 증강 현실 시스템의 블럭도이다.1 is a block diagram of an augmented reality system for ships using a transparent display according to the present invention.
도 1에 도시된 바와 같이, 본 발명에 따른 투명디스플레이를 이용한 선박용 증강 현실 시스템(1)은 투명 디스플레이(100), 인식부(200), 수신부(300), 정합부(400), 출력부(500)를 포함하고,As shown in FIG. 1, the ship augmented reality system 1 using the transparent display according to the present invention includes a transparent display 100, a recognition unit 200, a receiver 300, a matching unit 400, and an output unit ( 500),
인식부(200)에서는 GPS 시스템을 이용하여 현재 선박의 이동 속도와 위치를 인식하고, 항해자의 머리 방향 및 시선방향을 인식할 수 있도록 구성된 인식 센서로부터 항해자의 시선 방향을 감지하여 인식한다.The recognition unit 200 recognizes and recognizes the navigator's line of sight from a recognition sensor configured to recognize the current speed and position of the ship using the GPS system, and to recognize the head and line of sight of the navigator.
인식센서는 항해자의 시선방향을 인식하기 위해 눈동자 인식 카메라와 항해자의 머리 방향을 인식하기 위한 인식 카메라가 별도로 구성될 수도 있고, 항해자 시선과 머리 방향을 함께 인식하는 하나의 센서일 수도 있다.The recognition sensor may be configured separately from the eye recognition camera and the recognition camera for recognizing the head direction of the navigator for recognizing the gaze direction of the navigator, or may be one sensor for recognizing the navigator gaze and the head direction together.
수신부(300)는 선박의 위치, 항해자의 머리 및 눈동자 방향에 따라 유리창별로 외부 지형에 관한 외부지형 데이터베이스(DB)로부터 외부 영상 데이터를 수신한다.The receiver 300 receives external image data from an external topography database DB regarding the external terrain for each window according to the position of the ship, the head of the navigator, and the direction of the pupil.
수신된 외부 영상 데이터와 유리창을 통해 항해자가 바라보는 실제 외부 영상간의 위치를 서로 정확하게 일치시키는 정합과정을 정합부(400)에서 수행하고, 출력부(500)는 정합부(400)에서 일치된 외부 영상 데이터의 다양한 정보, 즉 육지에 관한 정보, 부표에 관한 정보등을 투명 디스플레이(100)를 통해 실제 외부 영상의 위치에 출력하게 된다.The matching unit 400 performs a matching process of accurately matching the positions between the received external image data and the actual external image viewed by the navigator through the window, and the output unit 500 matches the external unit matched by the matching unit 400. Various information of the image data, that is, information on the land, information on the buoy, etc. are output to the position of the actual external image through the transparent display 100.
실제 외부 영상과의 정합과정에 효과적으로 적용시키고, 항해자가 실제 항행 정보를 쉽게 볼 수 있도록 하기 위해 외부 영상 데이터는 3D 데이터로 구성되는 것이 바람직하다. 즉 외부 지형에 관한 외부 지형 데이터베이스(DB) 구축이 3D 데이터로 구축되는 것이 바람직하다.In order to effectively apply to the matching process with the actual external image, and to allow the navigator to easily see the actual navigation information, the external image data is preferably composed of 3D data. That is, it is preferable that an external terrain database (DB) construction on the external terrain is built up of 3D data.
도 2는 본 발명에 따른 투명디스플레이의 개략도이다.2 is a schematic diagram of a transparent display according to the present invention.
도 2에 도시된 바와 같이, 투명 디스플레이(100)를 통해 다양한 항행 정보가 표시될 수 있고, 다양한 항행 정보에는 선박의 항로, 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보, 주위선박들의 정보, 현재 운항 위치 정보등을 포함할 수 있다.As shown in FIG. 2, various navigation information may be displayed through the transparent display 100, and the various navigation information includes information about a ship's route, inland waterways, seabed topography, weather and sea characteristics, and surrounding ships. Information, current flight location information, and the like.
다양한 항행 정보 중 선박의 항로 계획에 관한 정보수집은 본 발명에 따른 수신부(300)가 선박의 항해 위치에 따라 해도 데이터베이스(DB)로부터 해도를 수신하고, 정합부(400)에서는 수신된 해도를 실제 외부 영상과 일치되도록 조정한다.The collection of information about the ship's route plan among various navigation information is received by the receiver 300 according to the present invention from the chart database DB according to the sailing position of the ship, and the matcher 400 actually receives the chart. Adjust to match the external image.
출력부(500)는 실제 외부 영상과 수신된 해도간의 조정을 통해 해도의 정확한 위치를 투명 디스플레이(100)를 통해 선박의 항로를 표시하게 된다.The output unit 500 displays the route of the ship through the transparent display 100 by adjusting the actual external image and the received chart.
또한, 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보의 수집은 마찬가지로 수신부(300)가 전자해도표시 시스템(ECDIS)으로부터 수신하고, In addition, the collection of information regarding inland waterways, seabed topography, weather and sea area characteristics is similarly received by the receiver 300 from the electronic chart display system (ECDIS),
정합부(400)에서는 수신된 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보를 실제 외부 영상의 위치와 일치되도록 조정한다.The matching unit 400 adjusts the received inland waterway, information on the seabed topography, weather, and sea area characteristics to match the position of the actual external image.
출력부(500)는 실제 외부 영상과 수신된 내륙수로, 해저지형, 기상 및 해역 특성간의 조정을 통해 내륙수로, 해저지형, 기상 및 해역 특성을 투명 디스플레이(100)를 통해 표시하게 된다.The output unit 500 displays the inland water channel, the seabed terrain, the weather and the sea region characteristics through the transparent display 100 through the adjustment between the actual external image and the received inland water channel, the seabed terrain, the weather and the sea area characteristics.
또한, 해상에 운항되는 주위선박들에 관한 정보의 수집도 수신부(300)가 AIS(선박자동식별장치)로부터 수신하고, In addition, the receiver 300 receives information about the surrounding vessels operating in the sea from the automatic identification system (AIS),
정합부(400)에서는 수신된 주위선박들에 관한 정보를 실제 외부 영상의 위치와 일치되도록 조정한다.The matching unit 400 adjusts the received information about the surrounding ships to match the position of the actual external image.
출력부(500)는 실제 외부 영상과 수신된 주위선박들에 관한 정보간의 조정을 통해 주위선박들에 관한 정보를 투명 디스플레이(100)를 통해 표시하게 된다.The output unit 500 displays the information on the surrounding vessels through the transparent display 100 by adjusting the information about the actual external image and the received surrounding vessels.
여기서, 수집된 주위선박들의 사이즈에 따라 정합부(400)는 미리 설정된 주위선박의 사이즈별 템플릿을 선택조정하여 출력부(500)를 통해 투명 디스플레이(100)에 표시하게 된다.Here, the matching unit 400 selects and adjusts a template for each size of the surrounding vessel according to the size of the collected surrounding vessels and displays it on the transparent display 100 through the output unit 500.
템플릿은 선박을 크기와 종류로 분류하여 미리 모델링해 놓은 것을 말하고, 모든 선박에 대한 3차원 모델을 만들 수 없기 때문이다. 외부 조도가 낮은 상황에서는 이러한 선박 템플릿과 3차원 가상 지형 정보가 함께 출력되며, 이 영상이 실제 외부 영상을 대신할 수 있는 가상현실 기능을 한다.A template is a pre-modeled classification of vessels by size and type, and it is not possible to create a three-dimensional model for all vessels. In low external light conditions, the ship template and the 3D virtual terrain information are output together, and this image replaces the actual external image.
이렇게 미리 주위선박의 사이즈에 따라 템플릿을 구성해 놓으면, 야간 운항시 실제로 AIS로 통해 수집된 정보에서는 주위선박이 근처에서 운항하는 것으로 표시되더라도 항해자의 육안으로는 식별이 되지 않아 얼마나 가까이에 어느정도 사이즈의 주위선박이 와 있는지 직감하기 어려운데 템플릿으로 투명 디스플레이(100)에 표시를 해 주면 항해자의 운항 정보 수집과 판단에 있어서 도움이 된다.If the template is configured according to the size of the surrounding vessel in advance, even if the information gathered by AIS during the night operation is indicated that the surrounding vessel is operating near, it is not recognized by the naked eyes of the navigator. It is difficult to feel intuitively whether the ship is around, but if you mark the display on the transparent display 100 as a template, it is helpful in the collection and determination of the navigation information of the navigator.
선박의 운항시간이 야간이거나 날씨가 흐려 시계가 나쁜 날과 같이 외부 조도가 낮은 기준을 항해자가 미리 셋팅해 놓고, 조도 센서를 통해 외부 조도를 실시간으로 센싱하다가 센싱된 외부조도가 미리 셋팅된 값보다 낮은 경우에는 실제 외부 영상이 항해자의 육안으로 제대로 판별이 되지 않음을 의미하고 이를 보완하기 위해 미리 설정된 템플릿을 이용하여 실제 외부 영상을 디스플레이한다.The navigator presets the standard of low external illumination, such as when the ship's flight time is night or when the weather is poor, and senses the external illumination in real time through the light sensor, If it is low, it means that the actual external image is not properly distinguished by the navigator's naked eye, and to compensate for this, the actual external image is displayed using a preset template.
참고로 해상인명안전협약(Solars)에 의해 여객선, 100m 이상의 선박, 위험 선박등의 경우에는 선박에 관한 정보를 의무적으로 외부로 송신하게 되어 있고, 이러한 주위선박들의 선박 운항 정보를 AIS를 통해 수집하게 된다. AIS란 선박자동식별장치(Automatic Identification System)로서, 선박의 위치, 침로, 속력 등 항해 정보를 실시간으로 제공하는 첨단 장치이다. 이는 해상에서 선박의 충돌을 방지하기 위한 장치로서, 국제 해사 기구(IMO)에 따라 선박 의무 설치사항이며, 선박 자동 식별 장치(AIS)가 도입으로, 주위의 선박을 인식할 수 없는 경우에도 타선의 존재와 진행 상황 판단이 가능하다.For reference, the Marine Life Safety Convention (Solars) mandatory to transmit information about ships to passengers, ships over 100m, dangerous ships, etc., and to collect ship operation information of these surrounding vessels through AIS. do. AIS is an automatic identification system, which is an advanced device that provides navigation information such as ship position, course, and speed in real time. This is a device to prevent the collision of ships at sea. It is a mandatory installation of ships in accordance with the International Maritime Organization (IMO), and the ship automatic identification device (AIS) is introduced, and even when the surrounding ships cannot be recognized, It is possible to judge the existence and progress.
AIS를 통해 수집가능한 주위선박 이외의 소형 선박이나, 선박 이외의 해상에서 표류하는 이동 물체에 관한 정보 수집은 수신부(300)가 레이더로부터 수신하여, 이동물체의 이동속도 및 위치를 정합부(400)에서 실제 외부 영상과 일치되도록 조정한 후, 출력부(500)를 통해 투명 디스플레이(100)에 출력한다.Collection of information about small vessels other than the surrounding vessels that can be collected through AIS or moving objects drifting on the sea other than the vessels is received by the receiver 300 from the radar, and the matching unit 400 determines the moving speed and position of the moving objects. After adjusting to match with the actual external image, and outputs to the transparent display 100 through the output unit 500.
도 3은 본 발명에 따른 투명디스플레이를 이용한 선박용 증강 현실 시스템의 다른 실시예의 블럭도이다.3 is a block diagram of another embodiment of a ship augmented reality system using a transparent display according to the present invention.
도 3에 도시된 바와 같이, 본 발명에 따른 투명디스플레이를 이용한 선박용 증강 현실 시스템은 투명 디스플레이(100), 인식부(200), 수신부(300), 정합부(400), 출력부(500) 이외에 계산부(600)를 더 포함할 수 있다.As shown in FIG. 3, the augmented reality system for ships using the transparent display according to the present invention is in addition to the transparent display 100, the recognition unit 200, the receiving unit 300, the matching unit 400, and the output unit 500. The calculation unit 600 may further include.
전자해도표시 시스템(ECDIS)으로부터 수신부(300)가 전자해도표시 시스템(ECDIS)으로부터 수신하여 수집한 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보, GPS를 통해 인식부(200)가 인식한 현재 선박의 이동속도 및 항로 정보, 수신부(300)가 선박의 항해 위치에 따른 해도 데이터베이스(DB)로부터 수신하여 수집한 해도에 관한 정보, 수신부(300)가 AIS를 통해 수신하여 수집한 해상에 운항되는 주위선박들에 관한 정보를 종합하여 계산부(600)가 선박의 항로 계획에 따른 주위선박이나 이동물체, 내륙수로, 암초와 같은 해저지형에 의한 충돌 위험성을 계산하게 된다.Inland water channel received and collected by the electronic chart display system (ECDIS) from the electronic chart display system (ECDIS), the recognition unit 200 recognizes the information on the seabed topography, weather and sea area characteristics, GPS The current speed and route information of the ship, the information about the sea chart collected by the receiver 300 according to the navigation position of the vessel from the database (DB), the sea received by the receiver 300 through the AIS collected Compiling the information about the surrounding vessels in operation, the calculation unit 600 calculates the risk of collision due to seabed topography such as surrounding vessels, moving objects, inland waterways, and reefs according to the ship's route plan.
항해자는 계산부(600)에서 충돌 위험성에 대한 계산을 일정 시간 간격으로 수행하도록 시간 간격을 미리 설정할 수 있고, 선박의 진행 시간에 따라 셋팅된 시간 간격으로 위험요소를 예측가능하게 한다.The navigator may set the time interval in advance so that the calculation unit 600 calculates the collision risk at a predetermined time interval, and predicts the risk factor at the time interval set according to the progress time of the ship.
여기서, 위험요소란 해저지형과의 충돌위험, 주위선박과의 충돌위험, 기상악화에 따른 조난위험, 소용돌이, 물살의 속도 등과 같은 해역 특성에 따른 조난위험, 육지, 섬과 같은 외부 지형과의 충돌위험등을 의미한다.Here, the risk factor refers to the danger of collision with the seabed topography, the danger of collision with the surrounding ships, the risk of distress due to bad weather, the risk of distress due to the characteristics of the sea such as the vortex and the speed of water, the collision with the external terrain such as land and island. It means danger lights.
위험요소가 발견되면 항해자에게 이를 경고하는 알람기능을 하는 알람부(700)를 포함할 수 있다.If a risk factor is found, it may include an alarm unit 700 that alarms the navigator.
알람은 투명 디스플레이(100)에 화면 깜박임과 같은 화상 알람을 사용하거나, 소리 알람을 사용한다. 이들을 모두 사용할 수도 있고, 이러한 알람의 종류를 항해자가 선택할 수도 있다.The alarm uses an image alarm such as screen flicker or a sound alarm on the transparent display 100. All of these can be used, and the type of alarm can be selected by the navigator.
또한, 위험요소가 발견되어 알람부(700)에서 알람기능이 작동한 경우, 선박의 항로 계획을 자동 수정하도록 하는 제어 신호를 항법제어장치에 송신하는 제어부(800)를 추가로 포함할 수 있다.In addition, when a risk factor is detected and the alarm function is activated in the alarm unit 700, the controller 800 may further include a control signal for transmitting a control signal to the navigation controller to automatically modify the route plan of the ship.
이를 통해 본 발명에 따른 투명디스플레이를 이용한 선박용 증강 현실 시스템은 항해자에게 항해에 필요한 종합적인 정보를 한 눈에 실제 영상과 함께 제공하여 직관적 판단을 높이고, 항해자의 실수까지도 항로 자동 조정 기능을 통해 미연에 방지함으로써, 해상 충돌을 차단할 수 있다.Through this, the augmented reality system for ships using the transparent display according to the present invention provides the navigator with comprehensive information necessary for voyage at a glance to increase intuitive judgment, and even the navigator's mistake automatically adjusts the route. By preventing it, sea collision can be prevented.
도 4는 본 발명에 따른 투명디스플레이를 이용한 선박용 증강 현실 시스템의 개략도이다.4 is a schematic diagram of an augmented reality system for ships using a transparent display according to the present invention.
도 4에 도시된 바와 같이 항해자는 선박의 조타실의 유리창에 설치된 투명 디스플레이(100)에 표시된 다양한 정보와 실제 외부 영상을 한 눈에 볼 수 있다.As shown in Figure 4, the navigator can see at a glance a variety of information and the actual external image displayed on the transparent display 100 installed in the glass window of the ship's steering room.
도 5는 본 발명에 따른 투명디스플레이를 이용한 선박용 증강 현실 구현방법에 관한 순서도이다.5 is a flowchart illustrating a method for implementing augmented reality for ships using a transparent display according to the present invention.
도 5에 도시된 바와 같이, 투명디스플레이를 이용한 선박용 증강 현실 구현방법은 선박의 위치 및 상기 항해자의 머리 및 눈동자 방향을 인식하는 인식단계(S100), 선박의 위치 및 상기 항해자의 머리 및 눈동자 방향에 따라 외부 지형에 관한 외부 지형 데이터베이스로부터 외부 영상 데이터를 정보를 수신하는 수신단계(S200), 수신부로 수신된 상기 외부 영상 데이터와 상기 유리창을 통한 실제 외부 영상과의 일치를 조정하는 정합단계(S300), 및 정합단계(S300)를 통해 조정된 외부 영상 데이터의 정보를 실제 외부 영상의 위치에 투명 디스플레이를 통해 출력하는 출력단계(S400)를 포함한다.As shown in Figure 5, the augmented reality implementation method for ships using a transparent display is a recognition step (S100) of recognizing the position of the ship and the head and the eyes of the navigator, the position of the ship and the head and eyes of the navigator According to the receiving step (S200) for receiving information on the external image data from the external terrain database on the external terrain, the matching step of adjusting the match between the external image data received by the receiver and the actual external image through the glass window (S300). And an output step S400 of outputting information of the external image data adjusted through the matching step S300 through a transparent display at a position of the actual external image.
수신단계(S200)는 선박의 항해 위치에 따라 해도 데이터베이스로부터 해도를 수신하고, 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보를 포함하는 전자해도표시 시스템(ECDIS)으로부터 내륙수로, 해저지형, 기상 및 해역 특성 정보를 수신하며, AIS(선박자동식별장치)로부터 해상에 운항되는 주위선박들의 정보를 수신하고, 레이더로부터 외부의 이동물체를 수신하여 실제 외부 영상과 이들 정보들의 표시위치가 일치하도록 정합단계(S300)에서 정합과정을 거치고, 출력단계(S400)에서 투명 디스플레이를 통해 각종 정보들을 디스플레이하게 된다.Receiving step (S200) receives the chart from the sea chart database according to the navigation position of the ship, from the electronic chart display system (ECDIS) to the inland water, seabed including information on inland waterway, seabed topography, weather and sea area characteristics Receives terrain, weather and sea feature information, receives information of surrounding vessels operating at sea from AIS (Automatic Vessel Identification System), and receives external moving objects from radar to display actual external images and display position of these information. The matching process is performed in the matching step (S300) to match, and in the output step (S400) to display a variety of information through a transparent display.
이러한 다양한 외부 정보들, 예를 들면 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보, 선박의 이동속도 및 항로, 주위선박의 이송속도 및 항로, 및 이동물체의 이송속도 및 항로를 종합적으로 계산하여 선박이 항로계획대로 항해할 경우 위험요소가 있는지를 계산하는 계산단계(S500)을 더 포함할 수 있다.These various external information, such as inland waterways, seabed topography, information on weather and sea characteristics, the speed and route of vessels, the speed and route of ships around them, and the speed and route of moving objects The calculation may further include a calculation step (S500) of calculating whether there is a risk factor when the ship sails according to the route plan.
항해자가 미리 설정해 놓은 시간 간격에 따라 선박의 항해 시간에 따른 위험요소를 예측하여 위험요소가 발견되면, 항해자에게 알람신호를 보내는 알람단계(S600)를 더 포함할 수 있다.If a risk factor is found by predicting a risk factor according to the sailing time of the ship according to a preset time interval by the navigator, the method may further include an alarm step S600 of sending an alarm signal to the navigator.
여기서 위험요소는 해저지형과의 충돌위험, 주위선박과의 충돌위험, 기상에 따른 조난위험, 해역 특성에 따른 조난위험, 외부 지형과의 충돌위험 등이 있을 수 있고 이에 한정되는 것은 아니다.The risk factors may include, but are not limited to, collision risks with seabed topography, collision risks with surrounding ships, distress risks due to weather, distress risks due to sea area characteristics, and collision risks with external terrain.
알람단계(S600)에서 알람기능이 작동한 경우, 선박의 항로 계획을 수정하도록 제어 신호를 항법제어장치에 송신하는 제어단계(S700)을 더 포함할 수도 있다.When the alarm function is activated in the alarm step (S600), it may further include a control step (S700) for transmitting a control signal to the navigation control device to modify the route plan of the vessel.
이상에서 본 발명은 특정의 실시예와 관련하여 도시 및 설명하였지만, 첨부된 특허청구범위에 의해 나타난 발명의 사상 및 영역으로부터 벗어나지 않는 한도내에서 다양한 변경, 개조 및 변화가 가능하다는 것을 당 업계에서 통상의 지식을 가진 자라면 누구나 쉽게 알 수 있을 것이다.While the invention has been shown and described in connection with specific embodiments thereof, it is conventional in the art that various changes, modifications and variations are possible without departing from the spirit and scope of the invention as indicated by the appended claims. Anyone who knows the knowledge of is easy to know.
본 발명은 증강 현실 장치 및 시스템 분야 및 선박 운항 시스템 분야에서 유용하게 활용될 수 있다.The present invention can be usefully used in the field of augmented reality devices and systems and ship navigation systems.

Claims (22)

  1. 선박의 조타실의 유리창에 설치된 투명 디스플레이;A transparent display installed in a glass window of a ship's steering room;
    상기 선박의 위치 및 상기 항해자의 머리 및 눈동자 방향을 인식하는 인식부;Recognition unit for recognizing the position of the vessel and the head and pupil direction of the navigator;
    상기 선박의 위치 및 상기 항해자의 머리 및 눈동자 방향에 따라 외부 지형에 관한 외부지형 데이터베이스로부터 외부 영상 데이터를 정보를 수신하는 수신부;A receiver configured to receive external image data information from an external terrain database on an external terrain according to the position of the vessel and the head and pupil direction of the navigator;
    상기 수신부로 수신된 상기 외부 영상 데이터와 상기 유리창을 통한 실제 외부 영상이 일치되도록 조정하는 정합부; 및A matching unit for adjusting the external image data received by the receiving unit and the actual external image through the glass window to coincide; And
    상기 정합부를 통해 조정된 상기 외부 영상 데이터의 정보를 상기 실제 외부 영상의 위치에 상기 투명 디스플레이를 통해 출력하는 출력부를 포함하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 시스템.And an output unit configured to output the information of the external image data adjusted through the matching unit to the position of the actual external image through the transparent display.
  2. 제1항에 있어서,The method of claim 1,
    상기 인식부는 GPS시스템을 포함하여 상기 선박의 이동속도와 위치를 인식하고, The recognition unit includes a GPS system to recognize the moving speed and position of the vessel,
    상기 항해자의 머리 및 시선 방향을 인식하는 인식 센서를 포함하는 것을 특징으로 하는 천정 이동형 투명디스플레이를 이용한 선박용 증강 현실 시스템.Augmented reality system for ships using a ceiling-transparent transparent display characterized in that it comprises a recognition sensor for recognizing the head and the gaze direction of the navigator.
  3. 제2항에 있어서,The method of claim 2,
    상기 외부 영상 데이터는 3D 데이터로 구성된 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 시스템.The external image data is augmented reality system for ships using a transparent display, characterized in that consisting of 3D data.
  4. 제3항에 있어서,The method of claim 3,
    상기 수신부는 상기 선박의 항해 위치에 따라 해도 데이터베이스로부터 해도를 수신하고, The receiving unit receives a chart from the chart database according to the navigation position of the ship,
    상기 해도를 상기 정합부에서 실제 외부 영상과 일치되도록 조정하여,By adjusting the chart to match the actual external image in the matching unit,
    상기 출력부는 상기 투명 디스플레이를 통해 상기 선박의 항로를 표시하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 시스템.The output unit augmented reality system for ships using a transparent display, characterized in that for displaying the route of the vessel through the transparent display.
  5. 제4항에 있어서,The method of claim 4, wherein
    상기 수신부는 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보를 포함하는 전자해도표시 시스템(ECDIS)으로부터 상기 내륙수로, 해저지형, 기상 및 해역 특성 정보를 수신하고, The receiving unit receives the inland water channel, the seabed topography, the weather and the sea area characteristic information from an electronic chart display system (ECDIS) including information about the inland waterway, the seabed topography, the weather and sea area characteristics,
    상기 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보를 상기 정합부에서 실제 외부 영상과 일치되도록 조정하여,By adjusting the information on the inland waterway, seabed topography, weather and sea area characteristics to match the actual external image in the matching unit,
    상기 출력부를 통해 상기 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보를 상기 투명 디스플레이에 출력하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 시스템.Augmented reality system for ships using a transparent display, characterized in that for outputting the information on the inland waterway, seabed topography, weather and sea area characteristics through the output unit to the transparent display.
  6. 제5항에 있어서,The method of claim 5,
    상기 수신부는 AIS(선박자동식별장치)로부터 해상에 운항되는 주위선박들의 정보를 수신하고,The receiver receives the information of the surrounding vessels operating at sea from the AIS (Automatic Vessel Identification System),
    상기 주위선박들의 정보를 상기 정합부에서 실제 외부 영상과 일치되도록 조정하여,By adjusting the information of the surrounding vessels to match the actual external image in the matching unit,
    상기 출력부를 통해 상기 주위선박들의 정보를 상기 투명 디스플레이에 출력하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 시스템.Augmented reality system for ships using a transparent display, characterized in that for outputting the information of the surrounding vessels to the transparent display through the output unit.
  7. 제6항에 있어서,The method of claim 6,
    상기 정합부는 미리 설정된 주위선박의 사이즈별 템플릿에 따라 상기 AIS로부터 수신된 주위선박들의 사이즈를 조절하여 상기 출력부를 통해 상기 주위선박들을 템플릿으로 상기 투명 디스플레이에 출력하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 시스템.The matching unit adjusts the size of the surrounding vessels received from the AIS according to a template for each size of the surrounding vessel in advance to output the peripheral vessels as a template to the transparent display through the output unit for a ship using a transparent display Augmented Reality System.
  8. 제7항에 있어서,The method of claim 7, wherein
    상기 수신부는 레이더로부터 외부의 이동물체를 수신하고, The receiving unit receives an external moving object from the radar,
    상기 이동물체의 이동속도 및 위치를 상기 정합부에서 실제 외부 영상과 일치되도록 조정하며,Adjust the moving speed and position of the moving object to match the actual external image in the matching unit,
    상기 출력부를 통해 상기 이동물체를 상기 투명 디스플레이에 출력하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 시스템.Augmented reality system for ships using a transparent display, characterized in that for outputting the moving object to the transparent display through the output unit.
  9. 제8항에 있어서,The method of claim 8,
    상기 이동물체는 상기 AIS로부터 수신된 주위선박이 아닌 경우에, 상기 정합부에서 실제 외부 영상과 일치되도록 조정하고,If the moving object is not the surrounding ship received from the AIS, the matching unit adjusts to match the actual external image,
    상기 출력부를 통해 상기 이동물체를 상기 투명 디스플레이에 출력하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 시스템.Augmented reality system for ships using a transparent display, characterized in that for outputting the moving object to the transparent display through the output unit.
  10. 제9항에 있어서,The method of claim 9,
    상기 선박의 외부 조도가 미리 셋팅된 값보다 낮은 경우, 상기 실제 외부 영상의 위치에 미리 설정된 템플릿을 이용하여 표시하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 시스템.When the external illuminance of the vessel is lower than the preset value, the augmented reality system for ships using a transparent display, characterized in that for displaying the position of the actual external image using a preset template.
  11. 선박의 조타실의 유리창에 설치된 투명 디스플레이;A transparent display installed in a glass window of a ship's steering room;
    상기 선박의 위치 및 상기 항해자의 머리 및 눈동자 방향을 인식하는 인식부;Recognition unit for recognizing the position of the vessel and the head and pupil direction of the navigator;
    상기 선박의 위치 및 상기 항해자의 머리 및 눈동자 방향에 따라 외부 지형에 관한 외부지형 데이터베이스로부터 외부 영상 데이터를 정보를 수신하는 수신부;A receiver configured to receive external image data information from an external terrain database on an external terrain according to the position of the vessel and the head and pupil direction of the navigator;
    상기 수신부로 수신된 상기 외부 영상 데이터와 상기 유리창을 통한 실제 외부 영상이 일치되도록 조정하는 정합부; 및A matching unit for adjusting the external image data received by the receiving unit and the actual external image through the glass window to coincide; And
    상기 정합부를 통해 조정된 상기 외부 영상 데이터의 정보를 상기 실제 외부 영상의 위치에 상기 투명 디스플레이를 통해 출력하는 출력부를 포함하고,And an output unit configured to output the information of the external image data adjusted through the matching unit, to the position of the actual external image through the transparent display.
    상기 수신부는 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보, 상기 선박의 이동속도 및 항로, 주위선박의 이송속도 및 항로, 및 이동물체의 이송속도 및 항로를 수신하여 계산하는 계산부를 포함하며, 미리 설정된 시간간격에 따라 상기 선박의 시간에 따른 위험요소를 예측하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 시스템.The receiving unit includes a calculation unit for receiving and calculating information on inland waterways, seabed topography, weather and sea characteristics, the moving speed and route of the vessel, the traveling speed and route of surrounding ships, and the moving speed and route of a moving object. And predicting a risk factor according to a time of the ship according to a preset time interval.
  12. 제11항에 있어서,The method of claim 11,
    상기 위험요소는 상기 해저지형과의 충돌위험, 상기 주위선박과의 충돌위험, 상기 기상에 따른 조난위험, 상기 해역 특성에 따른 조난위험, 상기 외부 지형과의 충돌위험을 포함하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 시스템.The risk factor is characterized in that the risk of collision with the seabed topography, the risk of collision with the surrounding vessel, the risk of distress according to the weather, the risk of distress according to the sea area characteristics, the risk of collision with the external terrain Augmented Reality System for Ships Using Display.
  13. 제12항에 있어서,The method of claim 12,
    상기 위험요소가 발견시, 알람기능을 하는 알람부를 포함하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 시스템.The augmented reality system for ships using a transparent display, characterized in that it comprises an alarm function that alarms when the risk is found.
  14. 제13항에 있어서,The method of claim 13,
    상기 알람부에서 알람기능이 작동한 경우, 상기 선박의 항로를 자동 수정하도록 하는 제어 신호를 항법제어장치로 송신하는 제어부를 포함하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 시스템.And a control unit for transmitting a control signal for automatically correcting the course of the ship to the navigation control device when the alarm function is activated in the alarm unit.
  15. 선박의 조타실의 유리창에 설치된 투명 디스플레이;A transparent display installed in a glass window of a ship's steering room;
    상기 선박의 위치 및 상기 항해자의 머리 및 눈동자 방향을 인식하는 인식단계;A recognition step of recognizing the position of the ship and the head and pupil direction of the navigator;
    상기 선박의 위치 및 상기 항해자의 머리 및 눈동자 방향에 따라 외부 지형에 관한 외부지형 데이터베이스로부터 외부 영상 데이터를 정보를 수신하는 수신단계;A receiving step of receiving external image data information from an external terrain database on an external terrain according to the position of the vessel and the head and pupil direction of the navigator;
    상기 수신부로 수신된 상기 외부 영상 데이터와 상기 유리창을 통한 실제 외부 영상과의 일치를 조정하는 정합단계; 및A matching step of adjusting a match between the external image data received by the receiver and the actual external image through the glass window; And
    상기 정합부를 통해 조정된 상기 외부 영상 데이터의 정보를 상기 실제 외부 영상의 위치에 상기 투명 디스플레이를 통해 출력하는 출력단계를 포함하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 구현 방법.And outputting the information of the external image data adjusted through the matching unit to the position of the actual external image through the transparent display.
  16. 제15항에 있어서,The method of claim 15,
    상기 수신단계는 상기 선박의 항해 위치에 따라 해도 데이터베이스로부터 해도를 수신하고, The receiving step receives a chart from the chart database according to the navigation position of the ship,
    상기 해도를 상기 정합단계에서 실제 외부 영상과 일치되도록 조정하여,By adjusting the chart to match the actual external image in the matching step,
    상기 출력단계는 상기 투명 디스플레이를 통해 상기 선박의 항로를 표시하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 구현 방법.The output step is a ship augmented reality implementation method using a transparent display, characterized in that for displaying the course of the vessel through the transparent display.
  17. 제16항에 있어서,The method of claim 16,
    상기 수신단계는 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보를 포함하는 전자해도표시 시스템(ECDIS)으로부터 상기 내륙수로, 해저지형, 기상 및 해역 특성 정보를 수신하고, The receiving step receives the inland waterway, seabed topography, weather and sea area characteristic information from an electronic chart display system (ECDIS) including information on inland waterway, seabed topography, weather and sea area characteristics,
    상기 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보를 상기 정합단계에서 실제 외부 영상과 일치되도록 조정하여,By adjusting the information on the inland waterway, seabed topography, weather and sea area characteristics to match the actual external image in the matching step,
    상기 출력단계를 통해 상기 내륙수로, 해저지형, 기상 및 해역 특성 정보를 상기 투명 디스플레이에 출력하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 구현 방법.The augmented reality implementation method for a ship using a transparent display characterized in that for outputting the inland waterway, seabed topography, weather and sea feature information on the transparent display through the output step.
  18. 제17항에 있어서,The method of claim 17,
    상기 수신단계는 AIS(선박자동식별장치)로부터 해상에 운항되는 주위선박들의 정보를 수신하고,The receiving step receives the information of the surrounding vessels operating at sea from AIS (Automatic Vessel Identification System),
    상기 주위선박들의 정보를 상기 정합단계에서 실제 외부 영상과 일치되도록 조정하여,  By adjusting the information of the surrounding ships to match the actual external image in the matching step,
    상기 출력단계를 통해 상기 주위선박들의 정보를 상기 투명 디스플레이에 출력하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 구현방법.The augmented reality implementation method for a ship using a transparent display, characterized in that for outputting the information of the surrounding vessels to the transparent display through the output step.
  19. 제18항에 있어서,The method of claim 18,
    상기 수신단계는 레이더로부터 외부의 이동물체를 수신하고, The receiving step receives an external moving object from the radar,
    상기 이동물체의 이동속도 및 위치를 상기 정합단계에서 실제 외부 영상과 일치되도록 조정하며,Adjust the moving speed and position of the moving object to match the actual external image in the matching step,
    상기 출력단계를 통해 상기 이동물체를 상기 투명 디스플레이에 출력하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 구현방법.The augmented reality implementation method for a ship using a transparent display, characterized in that for outputting the moving object to the transparent display through the output step.
  20. 제19항에 있어서,The method of claim 19,
    상기 내륙수로, 해저지형, 기상 및 해역 특성에 관한 정보, 상기 선박의 이동속도 및 항로, 상기 주위선박의 이송속도 및 항로, 및 상기 이동물체의 이송속도 및 항로를 계산하는 계산단계를 포함하여 미리 설정된 시간간격에 따라 상기 선박의 시간에 따른 위험요소를 예측하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 구현방법.A calculation step of calculating information about the inland water channel, the seabed topography, weather and sea characteristics, the moving speed and route of the ship, the traveling speed and route of the surrounding ship, and the moving speed and route of the moving object; Augmented reality implementation method for a ship using a transparent display, characterized in that for predicting the risk factor according to the time of the ship according to a predetermined time interval.
  21. 제20항에 있어서,The method of claim 20,
    상기 위험요소는 상기 해저지형과의 충돌위험, 상기 주위선박과의 충돌위험, 상기 기상에 따른 조난위험, 상기 해역 특성에 따른 조난위험, 상기 외부 지형과의 충돌위험을 포함하고,The risk factors include the risk of collision with the seabed topography, the risk of collision with the surrounding vessel, the risk of distress due to the weather, the risk of distress due to the sea area characteristics, the risk of collision with the external terrain,
    상기 위험요소가 발견시, 알람기능을 하는 알람단계를 포함하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 구현방법.When the risk factor is found, augmented reality implementation method for a ship using a transparent display, characterized in that it comprises an alarm function to alarm.
  22. 제21항에 있어서,The method of claim 21,
    상기 알람단계에서 알람기능이 작동한 경우, 상기 선박의 항로를 자동 수정하도록 하는 제어 신호를 항법제어장치로 송신하는 제어단계를 포함하는 것을 특징으로 하는 투명디스플레이를 이용한 선박용 증강 현실 구현방법.And a control step of transmitting a control signal for automatically correcting the course of the ship to the navigation control device when the alarm function is activated in the alarm step.
PCT/KR2012/005797 2011-07-21 2012-07-20 Augmented reality system using transparent display for ship and method for enabling same WO2013012277A2 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020110072432A KR101072393B1 (en) 2011-07-21 2011-07-21 A augmented reality system for vessel using transparent display device and the method using thereof
KR10-2011-0072432 2011-07-21

Publications (2)

Publication Number Publication Date
WO2013012277A2 true WO2013012277A2 (en) 2013-01-24
WO2013012277A3 WO2013012277A3 (en) 2013-03-21

Family

ID=45032651

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2012/005797 WO2013012277A2 (en) 2011-07-21 2012-07-20 Augmented reality system using transparent display for ship and method for enabling same

Country Status (2)

Country Link
KR (1) KR101072393B1 (en)
WO (1) WO2013012277A2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015056828A1 (en) * 2013-10-14 2015-04-23 한국해양과학기술원 Image improvement system for ship using transparent display
CN111357281A (en) * 2017-12-25 2020-06-30 古野电气株式会社 Video generation device and video generation method
CN111862389A (en) * 2020-07-21 2020-10-30 武汉理工大学 Intelligent navigation perception and augmented reality visualization system
CN112581796A (en) * 2020-12-25 2021-03-30 江苏燕宁工程科技集团有限公司 BIM-based bridge collision positioning and alarming method and device

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010076524A (en) * 2008-09-25 2010-04-08 Mazda Motor Corp Drive support device for vehicle
KR101004126B1 (en) * 2010-09-27 2010-12-27 (주)에디넷 3-dimensional vessel traffic service system
KR101036600B1 (en) * 2009-12-18 2011-05-24 주식회사 비전소프트텍 3d virtual reality system and virtual image displaying method using transparent screen

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010076524A (en) * 2008-09-25 2010-04-08 Mazda Motor Corp Drive support device for vehicle
KR101036600B1 (en) * 2009-12-18 2011-05-24 주식회사 비전소프트텍 3d virtual reality system and virtual image displaying method using transparent screen
KR101004126B1 (en) * 2010-09-27 2010-12-27 (주)에디넷 3-dimensional vessel traffic service system

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015056828A1 (en) * 2013-10-14 2015-04-23 한국해양과학기술원 Image improvement system for ship using transparent display
CN111357281A (en) * 2017-12-25 2020-06-30 古野电气株式会社 Video generation device and video generation method
US11548598B2 (en) 2017-12-25 2023-01-10 Furuno Electric Co., Ltd. Image generating device and method of generating image
CN111357281B (en) * 2017-12-25 2023-05-30 古野电气株式会社 Video generating device and video generating method
CN111862389A (en) * 2020-07-21 2020-10-30 武汉理工大学 Intelligent navigation perception and augmented reality visualization system
CN111862389B (en) * 2020-07-21 2022-10-21 武汉理工大学 Intelligent navigation perception and augmented reality visualization system
CN112581796A (en) * 2020-12-25 2021-03-30 江苏燕宁工程科技集团有限公司 BIM-based bridge collision positioning and alarming method and device
CN112581796B (en) * 2020-12-25 2023-10-17 江苏燕宁工程科技集团有限公司 BIM-based bridge collision positioning and alarming method and device

Also Published As

Publication number Publication date
WO2013012277A3 (en) 2013-03-21
KR101072393B1 (en) 2011-10-11

Similar Documents

Publication Publication Date Title
WO2013012279A2 (en) Augmented reality system using moving ceiling transparent display for ship and method for enabling same
WO2013012280A2 (en) Augmented reality system using monitor for ship and method for enabling same
WO2014142403A1 (en) Oceanic navigation system
WO2013012277A2 (en) Augmented reality system using transparent display for ship and method for enabling same
WO2017007221A1 (en) Ship-collision avoidance guiding system using time series graphic display
CN205524893U (en) Be applied to underwater detection's remote control submarine
CN111354226B (en) Autonomous driving ship navigation remote monitoring method and device based on three-dimensional image
KR100687277B1 (en) Automatic Identification System built in Electronic Chart
CN108897272A (en) Bank end intelligent monitoring system
WO2018026095A1 (en) Multiple ships-collision avoidance guiding system using time series graphic display
CN103106817A (en) Navigation scientific and technological simulation system based on enhanced virtual reality system
JP2005289284A (en) Other vessel movement monitoring device
WO2020045798A1 (en) Transmitter for marine rescue and monitoring device for maritime distress rescue
CN103177606B (en) Based on the pilotage docking system of solar blind ultraviolet light signal
JP2022173157A (en) Tidal current information display device
WO2015194911A1 (en) System and method for managing submarine cable using radio frequency recognition scheme
WO2012050253A1 (en) System and apparatus for directing the course of a ship using ultrasonic waves
WO2021206417A1 (en) Apparatus for automatic transmission of maritime distress location
CN109683322A (en) A kind of multifunctional ship HUD display system
WO2022139022A1 (en) Augmented reality-based ship safety navigation management system using omnidirectional camera
WO2021054579A1 (en) 3d head-up display system and control method thereof
CN108563020A (en) A kind of intelligent MR rescue helmets with thermal infrared imager
CN110543873B (en) Image-based method for identifying meeting situation of unmanned ship
CN109911139B (en) Unmanned boat signal lamp and sound signal automatic control system and control method thereof
WO2022139021A1 (en) System for managing safe operation of ship by using augmented reality

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 12814759

Country of ref document: EP

Kind code of ref document: A2

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 12814759

Country of ref document: EP

Kind code of ref document: A2