JP5816751B2 - 天井移動型透明ディスプレイを用いた船舶用増強現実システム及びその具現方法 - Google Patents

天井移動型透明ディスプレイを用いた船舶用増強現実システム及びその具現方法 Download PDF

Info

Publication number
JP5816751B2
JP5816751B2 JP2014521564A JP2014521564A JP5816751B2 JP 5816751 B2 JP5816751 B2 JP 5816751B2 JP 2014521564 A JP2014521564 A JP 2014521564A JP 2014521564 A JP2014521564 A JP 2014521564A JP 5816751 B2 JP5816751 B2 JP 5816751B2
Authority
JP
Japan
Prior art keywords
ceiling
ship
transparent display
moving
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014521564A
Other languages
English (en)
Other versions
JP2014529322A (ja
Inventor
ヨン キム、ソン
ヨン キム、ソン
ヨン オー、チェ
ヨン オー、チェ
キル パク、セ
キル パク、セ
Original Assignee
コリア インスティチュート オブ オーシャン サイエンス アンド テクノロジー
コリア インスティチュート オブ オーシャン サイエンス アンド テクノロジー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by コリア インスティチュート オブ オーシャン サイエンス アンド テクノロジー, コリア インスティチュート オブ オーシャン サイエンス アンド テクノロジー filed Critical コリア インスティチュート オブ オーシャン サイエンス アンド テクノロジー
Publication of JP2014529322A publication Critical patent/JP2014529322A/ja
Application granted granted Critical
Publication of JP5816751B2 publication Critical patent/JP5816751B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/005Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 with correlation of navigation data from several sources, e.g. map or contour matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G3/00Traffic control systems for marine craft
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G3/00Traffic control systems for marine craft
    • G08G3/02Anti-collision systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Theoretical Computer Science (AREA)
  • Ocean & Marine Engineering (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Geometry (AREA)
  • Automation & Control Theory (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • Devices For Indicating Variable Information By Combining Individual Elements (AREA)
  • Processing Or Creating Images (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、天井移動型透明ディスプレイを用いた船舶用増強現実システム及びその具現方法に関するものである。
増強現実(Augmented Reality)は、使用者が目で見る現実世界と付加情報を持つ仮想世界を合わせて新環境を生成する。現実環境と仮想環境を融合する増強現実システムは、1990年代後半からアメリカ及び日本を中心に研究開発が進んでいる。現実世界を仮想世界で補う概念である増強現実は、コンピュータグラフィックで作られた仮想環境を使うが、主役は、現実環境である。コンピュータグラフィックは、現実環境に必要な情報を追加に提供する役目を果たす。
また、現実環境と仮想環境を同時に表示するための透明ディスプレイ装置においても、近年のディスプレイ技術の発達によって、透明電子素子を用いた透明ディスプレイ装置が開発された。透明ディスプレイ装置は、透明なガラスまたは透明なプラスチック上に透明電極、透明半導体及び透明絶縁体などを積層することで具現する。発光面は、有機物発光素子(OLED:Organic Light Emitting Diode)、無機物発光素子(LED:Light Emitting Diode)または液晶ディスプレイ(LCD:Liquid Crystal Display)などからなる。
船舶航行システムにおいて、従来技術は、大韓民国特許出願第10−2007−0037443号の「波浪情報を有するECDISによる船舶安全運航方法」に開示されたように、レーダーによって波浪情報を正確に計測し、このような情報をECDISに表示するとともに互いに共有し、波浪情報とECDIS情報によって船舶運航の安全性を向上させることができる波浪情報を有するECDISによる船舶安全運航方法を提供する。
しかし、このような船舶運航の安全性を向上させるために、電子海図表示システム(ECDIS)のみによっては限界があり、現実環境に関する多様な情報及び船舶の運行に必要な仮想の情報を同時に表示して切迫な瞬間の船長の判断力に役立てて船舶の安全性を確保し、船舶運航の効率性及び正確性を高めるためには、増強現実システムの適用が必要である。
大韓民国特許出願第10−2007−0037443号明細書
本発明は、このような従来技術の問題点を解決するための天井移動型透明ディスプレイを用いた船舶用増強現実システム及び増強現実の具現方法に関するもので、これにより、使用者が見る船舶外部の背景及び事物にこれらの情報を仮想環境で重畳して航行に必要な情報を一目で見られるようにし、多様で複雑な航海情報を直観的に判断することができるようにして、船舶運航の安全性を確保し、運航時の不注意による事故を事前に防止しようとすることにその目的がある。
前述したような目的を達成するために、本発明による天井移動型透明ディスプレイを用いた船舶用増強現実システムは、船舶の操舵室の天井に移動可能に設置された天井移動型透明ディスプレイと、前記船舶の位置及び航海者の頭及び視線の方向を認識する認識部と、前記船舶の位置及び前記航海者の頭及び視線の方向によって外部地形に関する外部地形データベースから外部映像データの情報を受信する受信部と、前記受信部に受信された前記外部映像データと前記窓ガラスを介した実際の外部映像が一致するように調整する整合部と、前記整合部によって調整された前記外部映像データの情報を前記実際の外部映像の位置に前記天井移動型透明ディスプレイから出力する出力部と、を含むことを特徴とする。
また、本発明によれば、前記認識部は、GPSシステムを含んで前記船舶の移動速度及び位置を認識し、前記航海者の頭及び視線の方向を認識する認識センサーを含むことを特徴とする。
また、本発明によれば、前記認識センサーで感知された前記航海者の頭の方向及び視線の方向によって、前記天井移動型透明ディスプレイが天井に沿って移動することを特徴とする。
また、本発明によれば、前記天井移動型透明ディスプレイは、天井に付着されたレール部に沿って移動することを特徴とする。
また、本発明によれば、前記外部映像データは、3Dデータからなることを特徴とする。
また、本発明によれば、前記受信部は、前記船舶の航海位置によって海図データベースから海図を受信し、前記海図を前記整合部で実際の外部映像と一致するように調整し、前記出力部は、前記天井移動型透明ディスプレイに前記船舶の航路を表示することを特徴とする。
また、本発明によれば、前記受信部は、内陸水路、海底地形、気象及び海域特性に関する情報を含む電子海図表示システム(ECDIS)から、前記内陸水路、海底地形、気象及び海域特性情報を受信し、前記整合部は、前記内陸水路、海底地形、気象及び海域特性に関する情報を実際の外部映像と一致するように調整し、前記出力部は、前記内陸水路、海底地形、気象及び海域特性に関する情報を前記天井移動型透明ディスプレイに出力することを特徴とする。
また、本発明によれば、前記受信部は、AIS(船舶自動識別装置)から海上で運航する周囲の船舶の情報を受信し、前記整合部は、前記周囲の船舶の情報を実際の外部映像と一致するように調整し、前記出力部は、前記周囲の船舶の情報を前記天井移動型透明ディスプレイに出力することを特徴とする。
また、本発明によれば、前記整合部は、前もって設定された周囲の船舶のサイズ別テンプレートによって前記AISから受信された周囲の船舶のサイズを調節し、前記出力部を介して前記天井移動型透明ディスプレイに出力することを特徴とする。
また、本発明によれば、前記受信部は、レーダーから外部の移動物体を受信し、前記整合部は、前記移動物体の移動速度及び位置を実際の外部映像と一致するように調整し、前記出力部は、前記移動物体を前記天井移動型透明ディスプレイに出力することを特徴とする。
また、本発明によれば、前記移動物体が前記AISから受信された周囲の船舶ではない場合、前記整合部は、実際の外部映像と一致するように調整し、前記出力部は、前記移動物体を前記天井移動型透明ディスプレイに出力することを特徴とする。
また、本発明によれば、前記船舶の外部照度が前もってセットされた値より低い場合、前記実際の外部映像の位置に前もって設定されたテンプレートを用いて表示することを特徴とする。
本発明のさらに他の実施例として、天井移動型透明ディスプレイを用いた船舶用増強現実システムは、船舶の操舵室の天井に移動可能に設置された天井移動型透明ディスプレイと、前記船舶の位置及び航海者の頭及び視線の方向を認識する認識部と、前記船舶の位置及び前記航海者の頭及び視線の方向によって外部地形に関する外部地形データベースから外部映像データの情報を受信する受信部と、前記受信部に受信された前記外部映像データと前記窓ガラスを介した実際の外部映像が一致するように調整する整合部と、前記整合部によって調整された前記外部映像データの情報を前記実際の外部映像の位置に前記天井移動型透明ディスプレイから出力する出力部と、を含み、前記受信部は、内陸水路、海底地形、気象及び海域特性に関する情報、前記船舶の移動速度及び航路、周囲の船舶の移動速度及び航路、及び移動物体の移動速度及び航路を受信して計算する計算部を含み、前もって設定された時間間隔で前記船舶の時間による危険要素を予測することを特徴とする。
また、本発明によれば、前記危険要素は、海底地形との衝突危険、周囲の船舶との衝突危険、気象による遭難危険、海域特性による遭難危険、及び外部地形との衝突危険を含むことを特徴とする。
また、本発明によれば、前記危険要素が発見されたとき、アラーム機能を作動するアラーム部を含むことを特徴とする。
また、本発明によれば、前記アラーム部がアラーム機能を作動した場合、前記船舶の航路を自動で修正するようにする制御信号を航法制御装置に送信する制御部を含むことを特徴とする。
本発明による天井移動型透明ディスプレイを用いた船舶用増強現実の具現方法は、船舶の操舵室の天井に移動可能に設置された天井移動型透明ディスプレイと、前記船舶の位置及び航海者の頭及び視線の方向を認識する認識段階と、前記船舶の位置及び前記航海者の頭及び視線の方向によって外部地形に関する外部地形データベースから外部映像データの情報を受信する受信段階と、受信部に受信された前記外部映像データと前記窓ガラスを介した実際の外部映像との一致を調整する整合段階と、整合部によって調整された前記外部映像データの情報を前記実際の外部映像の位置に前記天井移動型透明ディスプレイから出力する出力段階と、を含むことを特徴とする。
また、本発明によれば、前記受信段階は、前記船舶の航海位置によって海図データベースから海図を受信し、前記整合段階は、前記海図を実際の外部映像と一致するように調整し、前記出力段階は、前記天井移動型透明ディスプレイに前記船舶の航路を表示することを特徴とする。
また、本発明によれば、前記受信段階は、内陸水路、海底地形、気象及び海域特性に関する情報を含む電子海図表示システム(ECDIS)から、前記内陸水路、海底地形、気象及び海域特性情報を受信し、前記整合段階は、前記内陸水路、海底地形、気象及び海域特性に関する情報を実際の外部映像と一致するように調整し、前記出力段階は、前記内陸水路、海底地形、気象及び海域特性情報を前記天井移動型透明ディスプレイに出力することを特徴とする。
また、本発明によれば、前記受信段階は、AIS(船舶自動識別装置)から海上で運航する周囲の船舶の情報を受信し、前記整合段階は、前記周囲の船舶の情報を実際の外部映像と一致するように調整し、前記出力段階は、前記周囲の船舶の情報を前記天井移動型透明ディスプレイに出力することを特徴とする。
また、本発明によれば、前記受信段階は、レーダーから外部の移動物体を受信し、前記整合段階は、前記移動物体の移動速度及び位置を実際の外部映像と一致するように調整し、前記出力段階は、前記移動物体を前記天井移動型透明ディスプレイに出力することを特徴とする。
また、本発明によれば、内陸水路、海底地形、気象及び海域特性に関する情報、船舶の移動速度及び航路、周囲の船舶の移動速度及び航路、及び移動物体の移動速度及び航路を計算する計算段階を含み、前もって設定された時間間隔で前記船舶の時間による危険要素を予測することを特徴とする。
また、本発明によれば、前記危険要素は、海底地形との衝突危険、周囲の船舶との衝突危険、気象による遭難危険、海域特性による遭難危険、外部地形との衝突危険を含み、前記危険要素が発見されたとき、アラーム機能を作動するアラーム段階を含むことを特徴とする。
また、本発明によれば、前記アラーム段階においてアラーム機能が作動した場合、前記船舶の航路を自動で修正するようにする制御信号を航法制御装置に送信する制御段階を含むことを特徴とする。
本発明の目的は、使用者が見る背景及び事物に仮想環境を重畳して、従来技術に比べてより現実的な増強現実を具現するための装置及び方法を提供することにある。
また、多様な船舶事故の原因の中には、運航不注意による事故が大きな比率を占めるが、これは、航海者が感じる疲労感によるものであると把握され、本発明による天井移動型透明ディスプレイを用いた船舶用増強現実システムは、多様で複雑な航海情報を航海者が一目で見て把握することができるようにすることで、直観的判断能力を向上させて海洋事故を防止する効果がある。
また、天井移動型透明ディスプレイを使うことにより、使用者が見る所に天井移動型透明ディスプレイが移動しながら実際の外部映像イメージに関する情報を提供するので、高価な透明ディスプレイ装備を操舵室のすべてのガラス窓に設置しなくても良くて設置費が節減される効果があり、航海者の性向によって天井型ディスプレイを天井に挿入することで、オフになった状態でも航海が可能である。
本発明による天井移動型透明ディスプレイを用いた船舶用増強現実システムのブロック図である。 本発明による天井移動型透明ディスプレイの概略図である。 本発明による天井移動型透明ディスプレイを用いた船舶用増強現実システムの他の実施例のブロック図である。 本発明による天井移動型透明ディスプレイを用いた船舶用増強現実システムの概略図である。 本発明による天井移動型透明ディスプレイを用いた船舶用増強現実の具現方法のフローチャートである。
以下、添付図面に基づいて本発明の実施例を詳細に説明する。まず、図面において同一の構成要素または部品は、できるだけ同一参照符号で示すことに気をつけなければならない。本発明の説明において関連した公知の機能もしくは構成についての具体的な説明は、本発明の要旨をあいまいにしないようにするために省略する。
増強現実技術は、実写映像と仮想映像を合成して表現する技術であり、航海者が見る外部映像に航海支援情報を重畳して出力することで、より直観的な情報の提供が可能である。
増強現実技術基盤の知能型航海支援システムは、CCTVカメラ及び透明ディスプレイ用映像合成技術、3次元整合技術、センサーデータ融合技術、及び知能型航法技術を結合して航行情報を航海者が理解しやすい形態として提供することにより、航行安全及び情報伝達効率を向上させることができる新概念の航海システムである。
増強現実(AR)技術を活用した航海支援システムは、実際視覚情報と仮想情報を整合(Registration)しなければならない。視覚情報の位置は、使用者の位置及び視線の方向によって変わるので、カメラあるいは多様なセンサーなどを利用して使用者の位置及び視線の方向を正確に捜し出さなければならない。
増強現実(AR)技術を活用した航行情報提供システムは、実時間海上情報提供システム、電子海図、AISなどを用いて、船舶の衝突回避、海上交通官制、船舶モニタリングなどに活用することができる。
図1は、本発明による天井移動型透明ディスプレイを用いた船舶用増強現実システムのブロック図である。
図1に示すように、本発明による天井移動型透明ディスプレイを用いた船舶用増強現実システム1は、天井移動型透明ディスプレイ100、認識部200、受信部300、整合部400、及び出力部500を含み、認識部200ではGPSシステムを用いて現在船舶の移動速度及び位置を認識し、航海者の頭の方向及び視線の方向を認識するように構成された認識センサーから航海者の視線の方向を感知して認識する。
認識センサーは、航海者の視線の方向を認識するために、瞳認識カメラと航海者の頭の方向を認識するための認識カメラが別に構成されることもでき、航海者の視線と頭の方向を一緒に認識する一つのセンサーであることもできる。
認識センサーで感知された航海者の頭の方向及び瞳の動き、つまり航海者が見る視線の方向に天井に設置された天井移動型透明ディスプレイ100が天井に沿って移動可能である。
天井にはレール部900が操舵室のガラス窓の周囲に沿って設置され、天井移動型透明ディスプレイ100が、ガラス窓から一定の間隔だけ離隔して自由に移動するように設置される。
航海者の頭及び視線の方向を認識する認識センサーで感知された航海者の頭の方向及び視線の方向を考慮し、航海者の視線が移動する方向に、天井移動型透明ディスプレイ100がレール部900に沿って移動するので、操舵室のすべてのガラス窓が透明ディスプレイの場合に比べて、透明ディスプレイの設置面積が減少して設置費用が節減される利点がある。また、天井移動型透明ディスプレイ100がオフ状態のときは天井に密着するまたは挿入されるので、航海者が以前の方式のようにレーダー、AIS、GPS、電子海図表示システム(ECDIS)、海図データベースなどの外部情報を活用して、航海者が肉眼で航海する方式を取ることもできる。
受信部300は、船舶の位置、航海者の頭及び視線が向かう方向によって外部地形に関する外部地形データベース(DB)から外部映像データを受信する。
受信された外部映像データと航海者が見る実際の外部映像間の位置を互いに正確に一致させる整合過程を整合部400で遂行し、出力部500は、整合部400で一致された外部映像データの多様な情報、つまり陸地に関する情報、浮標に関する情報などを天井移動型透明ディスプレイ100において実際の外部映像の位置に出力するようになる。
実際の外部映像との整合過程に効果的に適用させ、航海者が実際航行情報を容易に見ることができるようにするために、外部映像データは、3Dデータからなることが好ましい。すなわち、外部地形に関する外部地形データベース(DB)の構築が3Dデータから構築されることが好ましい。
図2は、本発明による天井移動型透明ディスプレイの概略図である。
図2に示すように、天井移動型透明ディスプレイ100に多様な航行情報が表示されることができ、多様な航行情報には、船舶の航路、内陸水路、海底地形、気象及び海域特性に関する情報、周囲船舶の情報、現在運航位置情報などを含むことができる。
多様な航行情報のうち、船舶の航路計画に関する情報収集は、本発明による受信部300が船舶の航海位置によって海図データベース(DB)から海図を受信し、整合部400では受信された海図を実際の外部映像と一致するように調整する。
出力部500は、実際の外部映像と受信された海図間の調整によって海図の正確な位置を調整して天井移動型透明ディスプレイ100に船舶の航路を表示するようになる。
また、内陸水路、海底地形、気象及び海域特性に関する情報の収集は、同様に受信部300が電子海図表示システム(ECDIS)から受信し、整合部400では受信された内陸水路、海底地形、気象及び海域特性に関する情報を実際の外部映像の位置と一致するように調整する。
出力部500は、実際の外部映像と受信された内陸水路、海底地形、気象及び海域特性間の調整によって内陸水路、海底地形、気象及び海域特性を天井移動型透明ディスプレイ100に表示するようになる。
また、海上で運航する周囲船舶に関する情報の収集も、受信部300がAIS(船舶自動識別装置)から受信し、整合部400では受信された周囲の船舶に関する情報を実際の外部映像の位置と一致するように調整する。
出力部500は、実際の外部映像と受信された周囲の船舶に関する情報間の調整によって周囲の船舶に関する情報を天井移動型透明ディスプレイ100に表示するようになる。
ここで、収集された周囲の船舶のサイズによって、整合部400は、前もって設定された周囲の船舶のサイズ別テンプレートを選択調整し、出力部500を介して天井移動型透明ディスプレイ100に表示するようになる。
テンプレートは、船舶を大きさ及び種類別に分類して予めモデリングしておいたものを言い、すべての船舶に対する3次元モデルを作ることができないからである。外部照度が低い状況では、このような船舶テンプレートと3次元仮想地形情報が一緒に出力され、この映像が実際の外部映像に代わることができる仮想現実の機能をする。
このように予め周囲の船舶のサイズによってテンプレートを構成しておけば、夜間運航の際、実際にAISによって収集された情報では、周囲の船舶が周辺で運航するものとして表示されても、航海者の肉眼では識別できなくてどのくらい近くにあるかあるいはどのサイズの船舶が周囲にあるかを直感しにくいが、テンプレートによって天井移動型透明ディスプレイ100に表示すれば、航海者の運航情報の収集及び判断に役立つ。
船舶の運航時期が夜間であるかあるいは天気が曇って視界の悪い日のように、外部照度が低い基準を航海者が予めセットしておき、照度センサーで外部照度を実時間で検出し、検出された外部照度が前もってセットされた値より低い場合には、実際の外部映像が航海者の肉眼で正常に判別できないことを意味し、これを補うために、前もって設定されたテンプレートを用いて実際の外部映像を表示する。
参考として、海上人命安全条約(Solars)に従い、旅客船、100m以上の船舶、危険船舶などの場合には、船舶に関する情報を義務的に外部に送信しなければならなく、このような周囲の船舶の船舶運航情報をAISによって収集するようになる。AISとは、船舶自動識別装置(Automatic Identification System)であり、船舶の位置、針路、速力などの航海情報を実時間で提供する尖端装置である。これは海上で船舶の衝突を防止するための装置で、国際海事機関(IMO)による船舶義務設置事項であり、船舶自動識別装置(AIS)の導入によって、周囲の船舶を認識することができない場合にも、他の船舶の存在及び進行状況の判断が可能である。
AISによって収集可能な周囲の船舶以外の小型船舶、または船舶以外の海上で漂流する移動物体に関する情報収集は、受信部300がレーダーから受信し、移動物体の移動の速度及び位置を整合部400で実際の外部映像と一致するように調整した後、出力部500によって天井移動型透明ディスプレイ100に出力する。
図3は、本発明による天井移動型透明ディスプレイを用いた船舶用増強現実システムの他の実施例のブロック図である。
図3に示すように、本発明による天井移動型透明ディスプレイを用いた船舶用増強現実システムは、天井移動型透明ディスプレイ100、認識部200、受信部300、整合部400、及び出力部500の他に計算部600をさらに含むことができる。
電子海図表示システム(ECDIS)から受信部300が受信して収集した内陸水路、海底地形、気象及び海域特性に関する情報、GPSによって認識部200が認識した現在船舶の移動速度及び航路情報、受信部300が船舶の航海位置による海図データベース(DB)から受信して収集した海図に関する情報、受信部300がAISによって受信して収集した海上で運航する周囲の船舶に関する情報を総合し、計算部600が、船舶の航路計画による周囲の船舶や移動物体、内陸水路、暗礁のような海底地形による衝突危険性を計算するようになる。
航海者は、計算部600で衝突危険性に対する計算を一定の時間間隔で遂行するように時間間隔を前もって設定することができ、船舶の進行時間によってセットされた時間間隔で危険要素を予測することができるようにする。
ここで、危険要素とは、海底地形との衝突危険、周囲の船舶との衝突危険、気象悪化による遭難危険、渦、海流の速度などの海域特性による遭難危険、陸地、島のような外部地形との衝突危険などを意味する。
危険要素が発見されれば、航海者にこれを警告するアラーム機能をするアラーム部700を含むことができる。
アラームは、天井移動型透明ディスプレイ100に画面点滅のような画像アラームを使うか、あるいは音アラームを使う。これらの両者を使うこともでき、このようなアラームの種類を航海者が選択することもできる。
また、危険要素を発見してアラーム部700でアラーム機能が作動した場合、船舶の航路計画を自動で修正するようにする制御信号を航法制御装置に送信する制御部800をさらに含むことができる。
これにより、本発明による天井移動型透明ディスプレイを用いた船舶用増強現実システムは、航海者に航海に必要な総合的な情報を実際映像とともに提供して、一目で直観的に判断することができるようにし、航海者の間違いまでも航路自動調整機能によって未然に防止することによって海上衝突を遮断することができる。
図4は、本発明による天井移動型透明ディスプレイを用いた船舶用増強現実システムの概略図である。
図4に示すように、航海者は、船舶の操舵室の天井に移動可能に設置された天井移動型透明ディスプレイ100に表示された多様な情報及び実際の外部映像を一目で見ることができる。
図5は、本発明による天井移動型透明ディスプレイを用いた船舶用増強現実の具現方法のフローチャートである。
図5に示すように、天井移動型透明ディスプレイを用いた船舶用増強現実の具現方法は、船舶の位置及び航海者の頭及び視線が向かう方向を認識する認識段階(S100)と、船舶の位置及び前記航海者の頭及び視線の方向によって外部地形に関する外部地形データベースから外部映像データの情報を受信する受信段階(S200)と、受信部に受信された前記外部映像データと実際の外部映像との一致を調整する整合段階(S300)と、及び整合段階(S300)で調整された外部映像データの情報を実際の外部映像の位置に天井移動型透明ディスプレイから出力する出力段階(S400)と、を含む。
受信段階(S200)は、船舶の航海位置によって海図データベースから海図を受信し、内陸水路、海底地形、気象及び海域特性に関する情報を含む電子海図表示システム(ECDIS)から内陸水路、海底地形、気象及び海域特性情報を受信し、AIS(船舶自動識別装置)から海上で運航する周囲の船舶の情報を受信し、レーダーから外部の移動物体を受信し、実際の外部映像とこれら情報の表示位置が一致するように整合段階(S300)で整合過程を実施し、出力段階(S400)で天井移動型透明ディスプレイに各種の情報を表示するようになる。
このような多様な外部情報、例えば内陸水路、海底地形、気象及び海域特性に関する情報、船舶の移動速度及び航路、周囲の船舶の移動速度及び航路、及び移動物体の移動速度及び航路を総合的に計算し、船舶が航路計画のどおりに航海する場合、危険要素があるかどうかを計算する計算段階(S500)をさらに含むことができる。
航海者が前もって設定しておいた時間間隔で船舶の航海時間による危険要素を予測し、危険要素が発見されれば、航海者にアラーム信号を伝送するアラーム段階(S600)をさらに含むことができる。
この際、危険要素は、海底地形との衝突危険、周囲の船舶との衝突危険、気象による遭難危険、海域特性による遭難危険、外部地形との衝突危険などがあり得るが、これらに限定されるものではない。
アラーム段階(S600)でアラーム機能が作動した場合、船舶の航路計画を修正するように制御信号を航法制御装置に送信する制御段階(S700)をさらに含むこともできる。
以上、本発明を特定の実施例に基づいて図示して説明したが、添付の特許請求範囲によって決められる発明の思想及び領域から逸脱しない範疇内で多様な変更、改造及び変化が可能であることが当該分野で通常の知識を持った者であれば誰でも易しく分かることができる。
本発明は、増強現実装置及びシステム分野及び船舶運航システムの分野で有用に活用することができる。

Claims (22)

  1. 船舶の操舵室の天井に移動可能に設置された天井移動型透明ディスプレイと、
    前記船舶の位置及び航海者の頭及び視線の方向を認識する認識部と、
    前記船舶の位置及び前記航海者の頭及び視線の方向によって外部地形に関する外部地形データベースから外部映像データの情報を受信する受信部と、
    前記受信部に受信された前記外部映像データと実際の外部映像が一致するように調整する整合部と、
    前記整合部によって調整された前記外部映像データの情報を前記実際の外部映像の位置に前記天井移動型透明ディスプレイから出力する出力部と、を含み、
    前記受信部は、レーダーから外部の移動物体を受信し、前記整合部は、前記移動物体の移動速度及び位置を実際の外部映像と一致するように調整し、前記出力部は、前記移動物体を前記天井移動型透明ディスプレイに出力することを特徴とする、天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  2. 前記認識部は、GPSシステムを含んで前記船舶の移動速度及び位置を認識し、前記航海者の頭及び視線の方向を認識する認識センサーを含むことを特徴とする、請求項1に記載の天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  3. 前記認識センサーで感知された前記航海者の頭の方向及び視線の方向によって、前記天井移動型透明ディスプレイが天井に沿って移動することを特徴とする、請求項2に記載の天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  4. 前記天井移動型透明ディスプレイは、天井に付着されたレール部に沿って移動することを特徴とする、請求項3に記載の天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  5. 前記外部映像データは、3Dデータからなることを特徴とする、請求項4に記載の天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  6. 前記受信部は、前記船舶の航海位置によって海図データベースから海図を受信し、前記海図を前記整合部で実際の外部映像と一致するように調整し、前記出力部は、前記天井移動型透明ディスプレイに前記船舶の航路を表示することを特徴とする、請求項5に記載の天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  7. 前記受信部は、内陸水路、海底地形、気象及び海域特性に関する情報を含む電子海図表示システム(ECDIS)から、前記内陸水路、海底地形、気象及び海域特性情報を受信し、前記整合部は、前記内陸水路、海底地形、気象及び海域特性に関する情報を実際の外部映像と一致するように調整し、前記出力部は、前記内陸水路、海底地形、気象及び海域特性に関する情報を前記天井移動型透明ディスプレイに出力することを特徴とする、請求項6に記載の天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  8. 前記受信部は、AIS(船舶自動識別装置)から海上で運航する周囲の船舶の情報を受信し、前記整合部は、前記周囲の船舶の情報を実際の外部映像と一致するように調整し、前記出力部は、前記周囲の船舶の情報を前記天井移動型透明ディスプレイに出力することを特徴とする、請求項7に記載の天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  9. 前記整合部は、前もって設定された周囲の船舶のサイズ別テンプレートによって前記AISから受信された周囲の船舶のサイズを調節し、前記出力部は、前記周囲の船舶のテンプレートを前記天井移動型透明ディスプレイに出力することを特徴とする、請求項8に記載の天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  10. 前記移動物体が前記レーダーとAISから受信された周囲の船舶ではない場合、前記整合部は、実際の外部映像と一致するように調整し、前記出力部は、前記移動物体を前記天井移動型透明ディスプレイに出力することを特徴とする、請求項に記載の天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  11. 前記船舶の外部照度が前もってセットされた値より低い場合、前記実際の外部映像の位置に前もって設定されたテンプレートを用いて表示することを特徴とする、請求項10に記載の天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  12. 船舶の操舵室の天井に移動可能に設置された天井移動型透明ディスプレイと、
    前記船舶の位置及び航海者の頭及び視線の方向を認識する認識部と、
    前記船舶の位置及び前記航海者の頭及び視線の方向によって外部地形に関する外部地形データベースから外部映像データの情報を受信する受信部と、
    前記受信部に受信された前記外部映像データと実際の外部映像が一致するように調整する整合部と、
    前記整合部によって調整された前記外部映像データの情報を前記実際の外部映像の位置に前記天井移動型透明ディスプレイから出力する出力部と、を含み、
    前記受信部は、内陸水路、海底地形、気象及び海域特性に関する情報、前記船舶の移動速度及び航路、周囲の船舶の移動速度及び航路、及び移動物体の移動速度及び航路を受信して計算する計算部を含み、
    前もって設定された時間間隔で前記船舶の時間による危険要素を予測することを特徴とする、天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  13. 前記危険要素は、海底地形との衝突危険、周囲の船舶との衝突危険、気象による遭難危険、海域特性による遭難危険、及び外部地形との衝突危険を含むことを特徴とする、請求項12に記載の天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  14. 前記危険要素が発見されたとき、アラーム機能を作動するアラーム部を含むことを特徴とする、請求項13に記載の天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  15. 前記アラーム部がアラーム機能を作動した場合、前記船舶の航路を自動で修正するようにする制御信号を航法制御装置に送信する制御部を含むことを特徴とする、請求項14に記載の天井移動型透明ディスプレイを用いた船舶用増強現実システム。
  16. 船舶の操舵室の天井に移動可能に設置された天井移動型透明ディスプレイと、
    前記船舶の位置及び航海者の頭及び視線の方向を認識する認識段階と、
    前記船舶の位置及び前記航海者の頭及び視線の方向によって外部地形に関する外部地形データベースから外部映像データの情報を受信する受信段階と、
    受信部に受信された前記外部映像データと実際の外部映像との一致を調整する整合段階と、
    整合部によって調整された前記外部映像データの情報を前記実際の外部映像の位置に前記天井移動型透明ディスプレイから出力する出力段階と、を含み、
    前記受信段階は、レーダーから外部の移動物体を受信し、前記整合段階は、前記移動物体の移動速度及び位置を実際の外部映像と一致するように調整し、前記出力段階は、前記移動物体を前記天井移動型透明ディスプレイに出力することを特徴とする、天井移動型透明ディスプレイを用いた船舶用増強現実の具現方法。
  17. 前記受信段階は、前記船舶の航海位置によって海図データベースから海図を受信し、前記整合段階は、前記海図を実際の外部映像と一致するように調整し、前記出力段階は、前記天井移動型透明ディスプレイに前記船舶の航路を表示することを特徴とする、請求項16に記載の天井移動型透明ディスプレイを用いた船舶用増強現実の具現方法。
  18. 前記受信段階は、内陸水路、海底地形、気象及び海域特性に関する情報を含む電子海図表示システム(ECDIS)から、前記内陸水路、海底地形、気象及び海域特性情報を受信し、前記整合段階は、前記内陸水路、海底地形、気象及び海域特性に関する情報を実際の外部映像と一致するように調整し、前記出力段階は、前記内陸水路、海底地形、気象及び海域特性情報を前記天井移動型透明ディスプレイに出力することを特徴とする、請求項17に記載の天井移動型透明ディスプレイを用いた船舶用増強現実の具現方法。
  19. 前記受信段階は、AIS(船舶自動識別装置)から海上で運航する周囲の船舶の情報を受信し、前記整合段階は、前記周囲の船舶の情報を実際の外部映像と一致するように調整し、前記出力段階は、前記周囲の船舶の情報を前記天井移動型透明ディスプレイに出力することを特徴とする、請求項18に記載の天井移動型透明ディスプレイを用いた船舶用増強現実の具現方法。
  20. 内陸水路、海底地形、気象及び海域特性に関する情報、船舶の移動速度及び航路、周囲の船舶の移動速度及び航路、及び移動物体の移動速度及び航路を計算する計算段階を含み、前もって設定された時間間隔で前記船舶の時間による危険要素を予測することを特徴とする、請求項16に記載の天井移動型透明ディスプレイを用いた船舶用増強現実の具現方法。
  21. 前記危険要素は、海底地形との衝突危険、周囲の船舶との衝突危険、気象による遭難危険、海域特性による遭難危険、外部地形との衝突危険を含み、前記危険要素が発見されたとき、アラーム機能を作動するアラーム段階を含むことを特徴とする、請求項20に記載の天井移動型透明ディスプレイを用いた船舶用増強現実の具現方法。
  22. 前記アラーム段階においてアラーム機能が作動した場合、前記船舶の航路を自動で修正するようにする制御信号を航法制御装置に送信する制御段階を含むことを特徴とする、請求項21に記載の天井移動型透明ディスプレイを用いた船舶用増強現実の具現方法。
JP2014521564A 2011-07-21 2012-07-20 天井移動型透明ディスプレイを用いた船舶用増強現実システム及びその具現方法 Active JP5816751B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KR1020110072440A KR101072395B1 (ko) 2011-07-21 2011-07-21 천정 이동형 투명 디스플레이를 이용한 선박용 증강현실 시스템 및 그 구현 방법
KR10-2011-0072440 2011-07-21
PCT/KR2012/005800 WO2013012279A2 (ko) 2011-07-21 2012-07-20 천정 이동형 투명 디스플레이를 이용한 선박용 증강현실 시스템 및 그 구현 방법

Publications (2)

Publication Number Publication Date
JP2014529322A JP2014529322A (ja) 2014-11-06
JP5816751B2 true JP5816751B2 (ja) 2015-11-18

Family

ID=45032652

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014521564A Active JP5816751B2 (ja) 2011-07-21 2012-07-20 天井移動型透明ディスプレイを用いた船舶用増強現実システム及びその具現方法

Country Status (5)

Country Link
US (1) US9401049B2 (ja)
JP (1) JP5816751B2 (ja)
KR (1) KR101072395B1 (ja)
CN (1) CN103975576B (ja)
WO (1) WO2013012279A2 (ja)

Families Citing this family (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9274595B2 (en) 2011-08-26 2016-03-01 Reincloud Corporation Coherent presentation of multiple reality and interaction models
KR101361643B1 (ko) 2012-04-23 2014-02-13 엠텍비젼 주식회사 투명 디스플레이 패널을 이용한 객체 표시 방법 및 장치
KR101361863B1 (ko) * 2012-11-29 2014-02-13 한국해양과학기술원 메뉴버링 북렛 기반의 선박조종성능 및 안전운항영역 가시화 시스템 및 그 방법
KR101289349B1 (ko) * 2013-03-11 2013-07-29 (주)동하테크 해양 네비게이션시스템
KR20150041482A (ko) * 2013-10-08 2015-04-16 삼성전자주식회사 디스플레이 장치 및 이를 이용한 디스플레이 방법
KR101456439B1 (ko) * 2013-10-14 2014-10-31 한국해양과학기술원 투명 디스플레이를 이용한 선박용 영상 개선 시스템
KR20150073269A (ko) * 2013-12-20 2015-07-01 현대자동차주식회사 차량용 클러스터 장치
US9392212B1 (en) 2014-04-17 2016-07-12 Visionary Vr, Inc. System and method for presenting virtual reality content to a user
JP6425913B2 (ja) * 2014-05-13 2018-11-21 古野電気株式会社 情報表示装置
GB2532464B (en) 2014-11-19 2020-09-02 Bae Systems Plc Apparatus and method for selectively displaying an operational environment
GB2532465B (en) 2014-11-19 2021-08-11 Bae Systems Plc Interactive control station
EP3262488B1 (en) 2015-02-25 2021-04-07 BAE Systems PLC Apparatus and method for effecting a control action in respect of system functions
US9665170B1 (en) 2015-06-10 2017-05-30 Visionary Vr, Inc. System and method for presenting virtual reality content to a user based on body posture
US9751607B1 (en) 2015-09-18 2017-09-05 Brunswick Corporation Method and system for controlling rotatable device on marine vessel
WO2017208422A1 (ja) * 2016-06-02 2017-12-07 日本郵船株式会社 船舶航行支援装置
CN106184646B (zh) * 2016-07-18 2019-04-02 江苏金海星导航科技有限公司 一种江河渡船防碰撞装置
KR101900851B1 (ko) * 2016-07-22 2018-11-08 목포해양대학교 산학협력단 선박 항해 감시장치 및 방법
US12020667B2 (en) 2016-12-05 2024-06-25 Case Western Reserve University Systems, methods, and media for displaying interactive augmented reality presentations
AU2017373858B2 (en) 2016-12-05 2022-09-29 Case Western Reserve University Systems, methods, and media for displaying interactive augmented reality presentations
KR101941521B1 (ko) * 2016-12-07 2019-01-23 한국해양과학기술원 해상객체의 자동추적 시스템 및 방법
KR101895129B1 (ko) * 2016-12-19 2018-10-04 한국해양과학기술원 황천 상황 시 이용가능한 운항안전 진단 시스템
FI129545B (en) * 2017-01-25 2022-04-14 Rolls Royce Oy Ab Modeling of a ship and its surroundings in real time
GB201703968D0 (en) * 2017-03-13 2017-04-26 Computational Eng Sg System for building situation awareness
EP3633985B1 (en) * 2017-05-24 2023-02-15 Furuno Electric Co., Ltd. Video generation device
CN110520692B (zh) * 2017-05-24 2024-03-26 古野电气株式会社 影像生成装置
EP3734968A4 (en) * 2017-12-25 2021-05-05 Furuno Electric Co., Ltd. VIDEO GENERATION DEVICE AND VIDEO GENERATION METHOD
JP7214402B2 (ja) * 2018-08-30 2023-01-30 株式会社 商船三井 映像生成装置及び映像生成方法
JP7191595B2 (ja) * 2018-08-30 2022-12-19 株式会社 商船三井 映像生成装置及び映像生成方法
CN108939488B (zh) * 2018-08-31 2020-03-31 东南大学 一种基于增强现实的帆船辅助训练路径规划方法
CN112840641A (zh) * 2018-10-09 2021-05-25 古野电气株式会社 周边监视装置以及周边监视方法
JP6603424B1 (ja) * 2019-01-21 2019-11-06 株式会社ソフトシーデーシー 移動型表示装置
CN109911140A (zh) * 2019-04-09 2019-06-21 上海萃钛智能科技有限公司 一种水域航行信息增强装置、系统及方法
CN109996059A (zh) * 2019-04-09 2019-07-09 中船第九设计研究院工程有限公司 一种基于虚拟现实构建的船舶辅助驾驶系统
KR20210067107A (ko) 2019-11-29 2021-06-08 한국이네비정보기술주식회사 Ar 기반 선박용 디지털 망원경 시스템
EP4173942A4 (en) * 2020-06-24 2024-05-01 Mapsea Corp. NAVIGATION ASSISTANCE DEVICE USING AUGMENTED REALITY AND 3D IMAGES
EP4086573A1 (en) * 2021-05-05 2022-11-09 Furuno Electric Co., Ltd. Tidal information display device
EP4086575A1 (en) * 2021-05-07 2022-11-09 Furuno Electric Co., Ltd. Tidal current information display device
EP4148387A1 (en) * 2021-09-10 2023-03-15 Furuno Electric Co., Ltd. Predicted course display device and method
US11995853B2 (en) 2021-11-04 2024-05-28 Honeywell Federal Manufacturing & Technologies, Llc System and method for transparent augmented reality

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005233712A (ja) 2004-02-18 2005-09-02 Hitachi Software Eng Co Ltd 位置表示システム
IL169934A (en) * 2005-07-27 2013-02-28 Rafael Advanced Defense Sys Real-time geographic information system and method
JP4720386B2 (ja) * 2005-09-07 2011-07-13 株式会社日立製作所 運転支援装置
JP4763537B2 (ja) * 2006-07-13 2011-08-31 株式会社デンソー 運転支援情報報知装置
GB2441802A (en) * 2006-09-13 2008-03-19 Marine & Remote Sensing Soluti Safety system for a vehicle
JP5145710B2 (ja) * 2006-12-18 2013-02-20 日本精機株式会社 ヘッドアップディスプレイ装置
KR100966711B1 (ko) * 2008-07-03 2010-06-29 강민구 병마개
JP2010076524A (ja) * 2008-09-25 2010-04-08 Mazda Motor Corp 車両用運転支援装置
JP4702437B2 (ja) * 2008-11-25 2011-06-15 トヨタ自動車株式会社 車両用表示装置
US20100238161A1 (en) * 2009-03-19 2010-09-23 Kenneth Varga Computer-aided system for 360º heads up display of safety/mission critical data
US8358224B2 (en) * 2009-04-02 2013-01-22 GM Global Technology Operations LLC Point of interest location marking on full windshield head-up display
JP5566076B2 (ja) * 2009-10-14 2014-08-06 古野電気株式会社 航行支援装置
KR101113312B1 (ko) * 2009-12-10 2012-03-13 이성종 선박 충돌방지 시스템 및 선박 충돌방지 방법
US20110268262A1 (en) * 2010-04-30 2011-11-03 American Teleconferncing Services Ltd. Location-Aware Conferencing With Graphical Interface for Communicating Information
JP5211120B2 (ja) * 2010-07-30 2013-06-12 株式会社東芝 情報表示装置及び情報表示方法
KR101004126B1 (ko) * 2010-09-27 2010-12-27 (주)에디넷 3차원 항만 관제 시스템

Also Published As

Publication number Publication date
US20140160165A1 (en) 2014-06-12
JP2014529322A (ja) 2014-11-06
CN103975576B (zh) 2017-03-01
US9401049B2 (en) 2016-07-26
WO2013012279A3 (ko) 2013-03-21
CN103975576A (zh) 2014-08-06
KR101072395B1 (ko) 2011-10-11
WO2013012279A2 (ko) 2013-01-24

Similar Documents

Publication Publication Date Title
JP5816751B2 (ja) 天井移動型透明ディスプレイを用いた船舶用増強現実システム及びその具現方法
KR101072397B1 (ko) 모니터를 이용한 선박용 증강 현실 시스템 및 그 구현 방법
KR101289349B1 (ko) 해양 네비게이션시스템
US11892298B2 (en) Navigational danger identification and feedback systems and methods
KR101693981B1 (ko) 선박의 충돌 회피 방법 및 장치
US20210206459A1 (en) Video sensor fusion and model based virtual and augmented reality systems and methods
CN111989547A (zh) 确定环境的至少一部分的虚拟表示
KR100687277B1 (ko) 전자해도가 내장된 선박자동식별장치
CN201435162Y (zh) 船舶智能避碰预警装置
JP5102886B2 (ja) 画像表示システム及び画像表示方法及びプログラム
KR101549513B1 (ko) 증강현실을 이용한 선박 충돌 방지 겸용 선박 사고 기록 시스템 및 방법
KR101693982B1 (ko) 선박의 충돌 회피 방법 및 장치
CN109911140A (zh) 一种水域航行信息增强装置、系统及方法
EP4148387A1 (en) Predicted course display device and method
JP2022173157A (ja) 潮流情報表示装置
KR20140017187A (ko) 투명 디스플레이를 이용한 선박항해 내비게이션 장치
KR101072393B1 (ko) 투명디스플레이를 이용한 선박용 증강 현실 시스템 및 그 구현 방법
WO2018102772A1 (en) System and method for augmented reality comprising labels
CN104101360A (zh) 一种海底无人航行器导航信息显示处理方法
KR102464207B1 (ko) 증강현실을 이용한 선박 안전운항 관리시스템
TWM554985U (zh) 船舶電子海圖顯示及安全警示系統
CN111258322A (zh) 一种基于增强现实技术的船用驾驶辅助装置及方法
KR20220090302A (ko) 전방위 카메라를 이용한 증강현실기반의 선박 안전운항관리 시스템
KR102660973B1 (ko) 이동용 통합 항해 정보 제공 hmd
EP3663188A1 (en) Head mounted display system

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150123

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150421

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150916

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150928

R150 Certificate of patent or registration of utility model

Ref document number: 5816751

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250