JP2013235367A - フライトパス表示システム、方法及びプログラム - Google Patents

フライトパス表示システム、方法及びプログラム Download PDF

Info

Publication number
JP2013235367A
JP2013235367A JP2012106643A JP2012106643A JP2013235367A JP 2013235367 A JP2013235367 A JP 2013235367A JP 2012106643 A JP2012106643 A JP 2012106643A JP 2012106643 A JP2012106643 A JP 2012106643A JP 2013235367 A JP2013235367 A JP 2013235367A
Authority
JP
Japan
Prior art keywords
flight path
hmd
reduced
image
area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012106643A
Other languages
English (en)
Other versions
JP5971466B2 (ja
Inventor
Hirokazu Tsuji
紘和 辻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP2012106643A priority Critical patent/JP5971466B2/ja
Publication of JP2013235367A publication Critical patent/JP2013235367A/ja
Application granted granted Critical
Publication of JP5971466B2 publication Critical patent/JP5971466B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】直観的な操作で所望の視点及び視線方向からフライトパスの全容を視認する。
【解決手段】地形を含む空間である対象領域を予め定められた縮尺率で縮小して、予め定められた設置場所に再現した空間である縮小領域を、利用者に対して提示する。縮小領域に対するHMDの位置及び向きを測定し、対象領域における飛翔体のフライトパスに対応する、縮小領域内の空間曲線である縮小フライトパスを求める。HMDの位置、向き、縮小フライトパスに基づいて、その位置及び向きから縮小領域を見たときの視界を示す画像を生成してHMDにて表示する。
【選択図】図1

Description

本発明はフライトパスの表示及び作成に関する。
昨今、災害等の発生時に、その災害等が発生した領域に飛行機等を派遣し、その領域の現状を空から監視或いは偵察することにより、その後の対応を円滑に行なうことの重要性が増している。大規模災害等の発生時には、地上から目的の領域に接近するのが難しい場合が多々あり、このようなときには、飛行機、特に無人機を利用して、目的の領域を空から監視、偵察するのが有効である。
一般に、ある領域に災害等が発生すると、その領域或いはその近傍に前線の指揮所が設けられ、この指揮所が後方に設けられた基地や支援所と連携して対処を行なう。従来、航空機を運用する際には、指揮所が収集した情報を基地に通知し、基地は通知された情報に基づいてフライトパスを作成していた。
指揮所は、目的の領域に関してより鮮度の高い情報を得ることができる。また、得られた情報に基づいて、指揮所は、監視すべき領域や地点を、突発的に追加し或いは変更すべきであると判断することもある。このようなことから、フライトパスの作成は、基地よりも指揮所で行なうことが望ましいと考えられる。
従来、基地等の後方にて行なわれていたフライトパスの表示では、机上等に立てかけたLCD等のディスプレイ装置を用いて、予め定めた視点及び視線方向から見たときのフライトパスを表示していた。その際、フライトパスの表示に先立って、ユーザは、所望の視点及び視線方向をキーボードやマウス等の入力装置を介して入力していた。
フライトパスを作成するには、フライトパスを様々な視点、視線方向から見て検討する必要がある。このためには、視点及び視線方向の入力をたびたび行なう必要があるが、このような入力操作をキーボード等で行なうとユーザに対して煩雑な操作を要求することとなり、フライトパスの全体を多角的にかつ直観的に理解する上で障害となっていた。
本発明に関連する技術として、特許文献1には飛行プロファイル表示システムが記載されている。
特開2002−293299号公報
本発明はこうした状況に鑑みてなされたものであり、本発明が解決しようとする課題は、直観的な操作で所望の視点及び視線方向からフライトパスの全容を視認することができるフライトパスの表示システム、方法、プログラムを提供することである。
上述の課題を解決するため、本発明は、その一態様として、利用者がその頭部に装着して用いるヘッドマウントディスプレイ装置(HMD)と、地形を含む空間である対象領域を予め定められた縮尺率で縮小して、予め定められた設置場所に再現した空間である縮小領域を、利用者に対して提示する縮小領域提示手段と、前記縮小領域に対する前記HMDの位置及び向きを測定するHMD測位手段と、前記対象領域における飛翔体のフライトパスに対応する、前記縮小領域内の空間曲線である縮小フライトパスを求める縮小フライトパス生成手段と、前記HMD測位手段にて求めたHMDの位置及び向き、並びに、前記縮小フライトパス生成手段にて求めた前記縮小フライトパスに基づいて、当該位置及び向きから前記縮小領域を見たときの視界を示す画像を生成し、前記HMDに出力する画像生成手段とを備えることを特徴とするフライトパス表示システムを提供する。
また、本発明は、他の一態様として、利用者がその頭部にヘッドマウントディスプレイ装置(HMD)を装着し、地形を含む空間である対象領域を予め定められた縮尺率で縮小して、予め定められた設置場所に再現した空間である縮小領域を、利用者に対して提示する縮小領域提示段階と、前記縮小領域に対する前記HMDの位置及び向きを測定するHMD測位段階と、前記対象領域における飛翔体のフライトパスに対応する、前記縮小領域内の空間曲線である縮小フライトパスを求める縮小フライトパス生成段階と、前記HMD測位段階にて求めたHMDの位置及び向き、並びに、前記縮小フライトパス生成段階にて求めた前記縮小フライトパスに基づいて、当該位置及び向きから前記縮小領域を見たときの視界を示す画像を生成し、前記HMDに出力する画像生成段階とを含むことを特徴とするフライトパス表示方法を提供する。
また、本発明は、他の一態様として、利用者がその頭部にヘッドマウントディスプレイ装置(HMD)を装着し、地形を含む空間である対象領域を予め定められた縮尺率で縮小して、予め定められた設置場所に再現した空間である縮小領域に対する前記HMDの位置及び向きを、測定値から算出するHMD測位手段と、前記対象領域における飛翔体のフライトパスに対応する、前記縮小領域内の空間曲線である縮小フライトパスを求める縮小フライトパス生成手段と、前記HMD測位手段にて求めたHMDの位置及び向き、並びに、前記縮小フライトパス生成手段にて求めた前記縮小フライトパスに基づいて、当該位置及び向きから前記縮小領域を見たときの視界を示す画像を生成し、前記HMDに出力する画像生成手段として、コンピュータを機能させるためのプログラムを提供する。
本発明によれば、ユーザは、実際の空間を縮小して表した縮小空間内で、自分の視点及び視線方向に見える視界の画像として、フライトパスを見ることができる。このため、ユーザは、所望の視点及び視線方向からフライトパスを見るために、マウスやキーボードにて所望の視点及び視線方向を入力し、次に該当する視界の画像を見るといった2段階のステップを経ることなく、単に所望の位置から所望の角度を見るだけで所望の視界から見たときのフライトパスを視認することができる。このため、本発明によれば、ユーザはより直観的な操作で所望の視点及び視線方向からフライトパスの全容を視認することができる。
本発明の一実施の形態であるフライトパス表示システム1のブロック図である。 本発明の一実施例であるフライトパス作成システム10のブロック図である。 フライトパス作成システム10によるフライトパスの入力方法を説明するためのフローチャートである。 フライトパス作成システム10によるフライトパスの表示方法を説明するためのフローチャートである。 HMD12を装着したフライトパス作成者の視界を説明するための図である。 フライトパス作成システム10において伝送されるデータについて説明するための図である。 本発明の一実施例であるフライトパス作成システム40のブロック図である。 フライトパス作成システム40によるフライトパス作成者の視界内の仮想オブジェクトを表示する方法を説明するためのフローチャートである。 フライトパス作成システム40によるフライトパスの入力方法を説明するためのフローチャートである。 フライトパス作成システム10によるフライトパスの表示方法を説明するためのフローチャートである。 本発明の一実施例であるフライトパス作成システム50のブロック図である。 図5のような視界を示す画像がHMD12aにて表示されている同じ時刻に、HMD12aと異なる視点及び視線方向にあるHMD12bにて表示される、視界を示す画像を説明するための図である。
本発明の一実施の形態であるフライトパス表示システム1について説明する。フライトパス表示システム1は、飛行機、ヘリコプター等の航空機、その他飛翔体全般の軌跡を示すウェイポイントからなる空間曲線、即ち、フライトパスを表示するためのシステムである。図1を参照して説明すると、フライトパス表示システム1は、縮小領域提示部2、ヘッドマウントディスプレイ装置(Head Mounted Display、以下HMD)3、HMD測位部4、画像処理装置5からなる。
縮小領域提示部2は、フライトパスが通過する領域を予め定められた縮尺で縮小した空間をユーザに対して提示するものであり、具体的には、その領域の地形を模型化したもの、いわゆるジオラマと、そのジオラマ上の空間として縮小領域を提示するものが考えられる。或いは、その領域の地形のデータに基づいて、HMD3の位置及び方向、即ちユーザの視点及び視線方向から見た地形を仮想オブジェクトとして該当する位置に描画した画像を画像処理装置5にて生成し、HMD3にて表示するものも考えられる。いずれにしても、提示される縮小領域は所定の位置に固定的に設置或いは設定される。ジオラマを用いて縮小領域を提示する場合はジオラマを所定の位置に設置する。コンピュータグラフィックスにて縮小領域を提示する場合も、ジオラマを設置するのと同様に、コンピュータグラフィックスにて仮想オブジェクトとして地形を所定の位置に設定し、ユーザに提示する。
HMD3は、フライトパス作成者等のユーザが頭に装着して用いるものであり、画像処理装置5が出力する画像をユーザに対して表示する。縮小領域の地形を地形模型としてユーザに提示する場合、スクリーンに映し出された画像と、そのスクリーンの外の光景とをユーザが同時に視認可能な透過型ディスプレイを備えるHMD、所謂透過型HMDであることが好ましい。形状は眼鏡型であっても帽子型であってもよい。投影方式はハーフミラーを用いて画像を表示するものであってもよいし、網膜に直接結像させる網膜走査型であってもよい。
HMD測位部4は、縮小領域提示部2が提示する縮小領域に対する、HMD3の位置(空間座標)と向きとを測定する。HMD測位部4は、HMD3とは別体に設けることとしてもよいし、HMD3と一体に設けることとしてもよいし、両方を設けることとしてもよい。
HMD3と別体に設けるHMD測位部4としては、縮小領域の周辺に、縮小領域の全体を画角に納めるようなデジタルビデオカメラを複数台設置して、空間を認識するために各カメラを予めキャリブレーションした上で、各カメラから取得した画像に対して、演算処理装置にてリアルタイムに画像処理を行なうことにより、HMD3の位置及び向きを求めるものが考えられる。この画像処理により、HMD3の高度を含む位置とその方向を求めることができるが、HMD3の方向については後述するような加速度センサとジャイロセンサの出力を演算して求める方が正確な値を得ることができる。
HMD3と一体に設けるHMD測位部4としては、HMD3に加速度センサ、ジャイロセンサを設け、これらの出力から演算処理装置にて演算してリアルタイムに求めるものがある。この動作については、航空機の慣性運動計測器や、MEMS(Micro Electro Mechanical System)として構成された加速度センサとジャイロセンサとを搭載した一部の携帯電話端末において、3次元の角速度及び加速度を求め、これらに対して演算処理装置にて演算を行なってHMD3の方向を求める。更に、慣性の積分により移動距離を算出する処理を演算処理装置にて行なうことにより、HMD3の位置を求めることとしてもよい。更に、HMD3にGPS受信機を設けることとして、GPS受信機の出力からHMD3の位置を求めることとしてもよい。
画像処理装置5は、入力されたフライトパスと、HMD測位部4が出力するHMD3の位置及び方向に基づいて、HMD3の現在の位置及び方向から見たフライトパスの画像を生成し、HMD3に出力する。
フライトパス表示システム1は次のように動作して、利用者に対してフライトパスを表示する。
まず、縮小領域提示部2は利用者に対し、HMD3を介して縮小領域を提示する。縮小領域は、表示しようとするフライトパスが通過する現実の空間(対象領域)を、所定の縮尺率にて縮小して再現する空間であり、縮小領域をHMD3の近傍に提示する。
次に、HMD測位部4は、HMD3の現在の視点座標及び視線方向を測定する。
次に、画像処理装置5は、HMD測位部4での測定結果に基づいて、縮小領域の座標系におけるHMD3の視点及び視線方向を求める。
また、画像処理装置5は、この求めた視点及び視線方向から、縮小領域内での縮小フライトパスを見たときの画像を生成する。縮小フライトパスは、フライトパスが通過する対象領域内の点に対応する縮小領域内の点を通過する。
最後に、HMD3は画像処理装置5にて生成した画像を、HMD3を装着したユーザに対して表示する。
本発明の一実施例であるフライトパス作成システム10について図2を参照して説明する。フライトパス作成システム10は、拡張現実(Augumented Reality)技術を用いて、フライトパス作成者に対し、ジオラマ上に架空のフライトパスを表示するものである。フライトパス作成システム10は、縮小領域提示部2に対応するジオラマ11、HMD3に対応するHMD12、HMD測位部4に対応するHMD測位部13、画像処理装置5に対応する表示演算部14を備える。更に、フライトパスを入力する手段として、航空機模型・ジオラマ位置認識装置15、カメラ16、17、航空機模型18を備える。更に、通信インタフェース装置19、データ通信ネットワーク20、各種データベース21−25を備える。このうち、特に、ジオラマ11、HMD12、HMD測位部13、表示演算部14、航空機模型・ジオラマ位置認識装置15、カメラ16、17、航空機模型18については、対象領域或いはその近傍に設置された指揮所に配置されることが好ましい。これにより、後方部隊で作成したフライトパスを、指揮所が前線から入手した最新情報を踏まえて変更することが可能となり、前線の実態に即したフライトパスを定めることができる。
ジオラマ11は、フライトパスを作成しようとしている領域の地形を、所定の縮尺で縮小した地形模型である。以下、本実施例においてこの縮尺を単に縮尺と記す。例えば領域内の山はその高さを縮尺で縮小した高さを有する。ビルやタワー等の建築物がある場合はこれらについても縮小した高さで再現されていることが好ましい。
HMD12は透過型ディスプレイを有するヘッドマウントディスプレイ装置であり、フライトパス作成者がその頭部に装着して用いる。
HMD測位部13はHMD12の位置及び方向を測定するため、HMD12と一体に設けられた加速度センサ、ジャイロセンサ、GPS受信機である。
表示演算部14は演算処理装置であり、HMD測位部13と、航空機模型・ジオラマ位置認識装置15の出力に基づいて、HMD12にて表示する画像を生成する。
航空機模型・ジオラマ位置認識装置15は、カメラ16、17にて生成した画像から航空機模型18の位置を取得して、表示演算部14に通知する。フライトパスの表示及び入力に先立って、航空機模型・ジオラマ位置認識装置15の記憶装置には、ジオラマ11の設置位置データ、カメラ16、17の設置位置データが予め登録されている。航空機模型・ジオラマ位置認識装置15は、カメラ16、17にて同時に生成した2つの画像に対して、航空機模型18を認識する処理を行なって各画像内における航空機模型18の位置を特定し、更に、これら2画像内における位置と、ジオラマの設置位置データ、カメラの設置位置データに基づいて、縮小空間内における航空機模型18の3次元座標を求める。
カメラ16、17は光軸が互いに直交するようにジオラマ周辺に配置される。カメラ16、17は互いに同期してジオラマ11の全景、及び、その上のフライトパスを示す空間曲線を描く空間を含む光景を撮影する。カメラ16、17の位置それぞれは予め測定され、航空機模型・ジオラマ位置認識装置15に設定されている。
航空機模型18は空間にフライトパスを描く際のポインタとして用いられる。航空機模型18は例えば作成しようとしている航空機を模した模型であるが、必ずしもそうである必要はない。
通信インタフェース装置19は表示演算部14、航空機模型・ジオラマ位置認識装置15を接続して相互にデータを伝送する。また、表示演算部14は、通信インタフェース装置19を介してデータ通信ネットワーク20に接続し、同ネットワーク上の様々なリソースにアクセスする。
データベース(DB)21−25はそれぞれデータベースであり、それぞれ、フライトパスを作成しようとしている領域に関する情報を、その位置情報と関連づけて格納している。DB21は進入禁止領域情報を格納している。進入禁止領域情報は一般の航空機の通過が禁止されている領域を示す情報である。DB22は監視目標位置情報を格納している。監視目標位置情報は、特に、フライトパスを作成しようとしている航空機が監視或いは偵察を行なう航空機の場合に、その目標の位置情報を格納している。DB23は標高データを格納している。この標高データは、領域内の各地点の標高とその位置を関連づけたものである。DB24は気象データを格納している。即ち、フライトパスを作成しようとしている領域内における、現時点での晴れ/曇り/雨/雪といった天候の別、気温、湿度、風速、風向、降雨量、積雪量等が格納されている。DB25は日照データを格納している。
次に、フライトパス作成システム10の動作について説明する。まず図3を参照して、フライトパスを入力する際の航空機模型・ジオラマ位置認識装置15の動作について説明する。フライトパス作成者は航空機模型18を手に持ち、所望のフライトパスを空中に描くように、航空機模型18をジオラマ11上で移動させる。この様子をカメラ16、17を同期して撮影し、リアルタイムに画像データを生成する(ステップS1)。カメラ16、17は同時に異なる角度から撮影した航空機模型18、ジオラマ11の画像を生成することとなる。航空機模型・ジオラマ位置認識装置15は、この画像データに対して画像認識処理を行ない、画像データ中の航空機模型18を特定する。ある時刻におけるカメラ16、17の画像データそれぞれに対し、ジオラマ11、カメラ16、17の位置関係に基づく画像認識処理を行なうことにより、各カメラの画像データにおいて、そのカメラの光軸に垂直な面内における航空機模型18の2次元座標を求め(ステップS2)、更に、これら2つの2次元座標から航空機模型18の3次元座標を求める(ステップS3)。こうして求めた座標を、その時刻における航空機模型18の3次元座標として、その時刻と共に通信インタフェース装置19を介して表示演算部14に送信する(ステップS4)。これを一定時間毎に繰り返す(ステップS5)ことにより、フライトパス作成者が手に持った航空機模型18によってジオラマ11上の空中で描いた、空間曲線上の点の座標及び各点の時刻を表示演算部14に通知する。
次に図4を参照して、入力中のフライトパスをHMD12に表示する際の表示演算部14の動作について説明する。表示演算部14は今までに通知された撮影時刻及び3次元座標を記憶装置に格納している。表示演算部14は、HMD12が現在向いている方向及び位置を、HMD測位部13から取得する(ステップS10)。この方向及び位置と予め登録されたジオラマ11の位置に基づいて、表示演算部14はジオラマ11を基準としたHMD12の位置及び方向を算出する(ステップS11)。更に、算出したHMD12の位置及び方向、即ち、フライトパス作成者の視点及び視線方向から見たときに、既に記憶装置に格納されている航空機模型18の3次元座標が、フライトパス作成者の視界内のどこに位置するのかを算出(ステップS12)し、算出した各位置に点を描画し、更に、必要に応じて各点を結ぶ直線や曲線を描画した画像を生成(ステップS13)し、HMD12にて表示する(ステップS14)。フライトパス作成者の目の画角(視野角)は予め定められており、表示演算部14の記憶装置に記憶しているものとする。これにより、フライトパス作成者がジオラマ11上の空中で描いた空間曲線を、フライトパス作成者の現在の視点及び視線方向から見たときの様子がHMD12に表示される。HMD12は透過型ディスプレイを有するため、フライトパス作成者は、表示演算部14が生成し、HMD12にて表示された空間曲線の画像と、透過型ディスプレイを通じて透過した、ジオラマ11の光景とを同時に視認することになる。
このように、ステップS1−S5を繰り返し、フライトパス作成者がジオラマ11の上空に描いた空間曲線の座標を一定時間毎に取得するのと並行して、ステップS10−S14のようにして、フライトパス作成者の現在の視点及び視線方向で見た視界において、その空間曲線がどのように見えるかを示す画像を生成してHMD12に表示する。これにより、透過型ディスプレイを透過して目視するジオラマ11の実像と、そのジオラマ11の位置及び方向に対応したフライトパスの虚像とを同時にフライトパス作成者に対して提供する。
フライトパス作成システム10では、入力済みのフライトパス上の点を次のようにして移動する。航空機模型・ジオラマ位置認識装置15は、カメラ16、17の画像をリアルタイムに解析し、ジオラマ11の上で特定の動作がなされたとき、その動作を予め関連づけた編集コマンドとして認識する。例えば、ジオラマ11上の空中において、人の手が掴む動作をしたと認識し、掴んだ位置にフライトパスを示す点が既に入力されているとき、航空機模型・ジオラマ位置認識装置15は、その点を編集対象として選択するコマンドとして認識する。また、この選択コマンドの後で、ジオラマ11上の空中において、人の手が開く動作をしたと認識したとき、航空機模型・ジオラマ位置認識装置15は、点を移動するコマンドとして認識し、選択コマンドにて選択した点を、手が開いた位置に移動する。
このように、フライトパス作成システム10では、透過型のHMD12を用いて、ジオラマ11の実像とフライトパスの虚像からなる視界をフライトパス作成者に対して提供するが、更に、フライトパスを作成する際に参照すべき様々な情報を、視界内の該当する位置にフライトパスと同時に表示するような画像を生成する。
このような追加表示するものにフットプリント表示がある。ここでフットプリントとは、フライトパスを定める航空機が備える地上撮影用のカメラや、地上を測定対象とする各種センサが撮影乃至測定可能な領域を示す3次元形状であり、カメラ、センサを頂点とし、カメラの光軸やセンサの向きを示す直線を回転軸とする仮想的な円錐である。この円錐と地形を示す曲面との交点からなる閉曲線は、例えばカメラが撮影可能な領域を示す。本実施例では、航空機模型18の位置のみを取得し、姿勢を取得しないので、航空機模型18の位置を頂点とし、その頂点から鉛直下方に延びる直線を回転軸とする円錐をフットプリントとする。表示演算部14は、ステップS2にて求めた航空機模型18の位置と、ステップS11にて求めたフライトパス作成者の視点及び視線方向に基づいて、航空機模型18の下部の一点を頂点とし、その頂点から鉛直下方に下ろした直線を回転軸とする円錐の像を上述のようにして求めたフライトパスと共に画像化する。円錐の開き具合、即ち、回転軸を含む円錐の断面を考えたとき、頂角を挟む二辺がなす角度は、航空機に搭載するカメラやセンサの仕様に応じて予め定められる。カメラの撮影、センサの測定可能な距離に制限がない場合、表示演算部14は、航空機模型18の下部の頂点から、生成する画像の下端まで円錐像を描く。一方、これら撮影、測定可能な距離に制限がある場合は、その上限距離とジオラマ11の縮尺とに応じて円錐の高さを定め、それより下方には円錐像を描かないこととしてもよい。HMD12に出力する画像内において、フットプリントは、例えば着色した円錐として表示される。このような円錐の表示により、フライトパス作成者は、撮影対象、測定対象となる地点が航空機搭載のカメラ、センサの有効範囲にあるか否かをリアルタイムで視覚的に判断しながらフライトパスを作成することができる。
更に、フライトパス作成システム10では、データベース21−25のデータを参照して、ジオラマ11上の対応する位置や、ジオラマ11の上の空間内の対応する位置に、様々な情報を画像化することとしてもよい。これらデータベースに格納する値を、データ通信ネットワーク20を介して接続された不図示の外部装置が提供するデータに基づいて更新することとしてもよい。このようにすることにより、フライトパス作成システム10は、最新のデータに基づいてフライトパスを作成することができるようになる。
この種の外部装置としては、例えば、観測衛星や観測飛行機が無線通信により送信する観測データを受信し、データ通信ネットワークを介して他装置に観測データを提供する地上局がある。このとき、地上局が提供する最新の標高データに基づいてDB23を更新し、表示演算部14は、ジオラマ11上の該当する地点或いはその近傍に、更新された標高データを示す数値を仮想オブジェクトとして描画した画像を生成し、HDM12に出力することが考えられる。
或いは、監視目標33が、建築物等の固定されたものではなく、乗り物や動物等の移動体であり、観測衛星や観測飛行機は監視目標33の位置を観測するものであってもよい。この場合、地上局は最新の監視目標位置情報をDB22に通知し、表示演算部14は、最新の監視目標位置情報に基づく位置に監視目標33を描画した画像を生成し、HDM12に出力する。
表示演算部14は、DB21のデータを参照して、上述のステップS11で求めたHMD12の位置及び方向から見たときの視界に入る空間が、進入禁止領域に入る場合はそれを示すような画像を生成することとしてもよい。進入禁止領域であることを示すには、例えば該当する空域を着色した画像を生成することや、該当する空域を他の空域から区切るための直線や曲線を画像内に描画することが考えられる。進入禁止領域を仮想オブジェクトとして表示することにより、フライトパス作成者は、地形上の理由ではなく、規制上の理由から侵入できない領域についても目視により回避しながらフライトパスを入力することが可能となる。
また、表示演算部14は、DB22のデータを参照して、監視目標の所在地に、その監視目標を示す像を配置した画像を生成することとしてもよい。監視目標がフライトパス作成者の視界に入る位置にあるとき、監視目標がジオラマ11の該当する地点に配置されたかのような画像を生成し、HMD12にて表示することにより、特に、上述のフットプリント表示を行ないながらのフライトパス作成が容易になる。HMD12を装着したフライトパス作成者は監視目標とフットプリントの両方を視認しながらフライトパスを作成することができるからである。
また、表示演算部14は、DB23のデータを参照して、フライトパス作成者の視界に入る領域にある、山頂や谷間などの地形上の要部の近傍に、その地点の標高を示す数値が表示されるように画像を生成し、フライトパス等と共にHMD12にて表示することとしてもよい。
更に、表示演算部14は、DB24、25の気象データ、日照データを参照して、フライトパス作成者の視界に入る領域について、気象データが示す気象状態、日照データが示す日照状態に応じた画像を生成し、フライトパス等と共にHMD12にて表示することとしてもよい。
ジオラマ11を背景として、フライトパス31、フットプリント32、監視目標33、進入禁止領域34を描画した画像をHMD12で見たとき、フライトパス作成者から見える映像は例えば図5のようになる。フライトパス31を示し、航空機模型18の尾部に続く空間曲線、フットプリントを示す円錐32、フットプリント32が通過すべき監視目標33、及び、進入禁止領域を示す楕円で囲まれた領域34を、フライトパス作成者の現在の視点及び視線方向から見たときの様子を示す画像が、HMD12に表示されている。フライトパス作成者は、フットプリント32とジオラマ11の交点からなる閉曲線の内部が監視目標33を通過するように、また、航空機模型18が、ジオラマ11及び進入禁止領域34のどちらにも接触しないように、航空機模型18を動かしてフライトパスを入力していく。尚、図5において、ジオラマ11と進入禁止領域33の間に延びる両方向矢印と、「飛行可能空間高度」の文字は、進入禁止領域33についての理解を容易にするために記載したものである。これらについては仮想オブジェクトとして生成し、画面上に表示してもしなくてもよい。
このように、フライトパス作成者は、フライトパス31が、ジオラマ11、進入禁止領域34のどちらとも一度も衝突しないように、フライトパスを入力する。また、フライトパス作成者は、フットプリント32と、監視目標33とが、少なくとも一度は衝突するようにフライトパスを入力する。これらの衝突判定はフライトパス作成者の目視によって行なってもよいが、表示演算部14により演算により行なうこととしてもよい。
即ち、表示演算部14は、進入禁止領域34等の仮想空間に描画されたオブジェクトと、航空機模型18との間で衝突判定を行ない、互いに衝突する場合、その旨をフライトパス作成者に通知するための出力することにより、フライトパス作成者に対してフライトパスの変更を促すこととしてもよい。通知手段としては、その旨を通知するテキストメッセージや、衝突の発生を示す画像をHMD12の画面に表示することとしてもよいし、表示演算部14に不図示のスピーカー等を設けて、衝突を検出したときにビープ音を発することとしてもよい。
また、表示演算部14は、フライトパス作成者がフライトパスの作成を終了した旨を示す操作を行なうと、フットプリント32と、監視目標33との間で衝突判定を行ない、作成されたフライトパスに沿って通過するフットプリント32が、一度も監視目標33に接触しない場合は、その旨をフライトパス作成者に通知するための出力することにより、フライトパス作成者に対してフライトパスの変更を促すこととしてもよい。
このように、フライトパス作成システム10は、フットプリントを示す円錐や、進入禁止領域、監視目標、各地の標高、気象状態、日照状態等を、ジオラマ11や航空機模型18の対応する位置に示した画像を生成して透過型HMD12にて表示することにより、フライトパス作成者に対して、ジオラマ11と画像を重ね合わせた視界を提供しつつ、フライトパス作成者がジオラマ11上に描く空間曲線を記録する。こうして記録された空間曲線を構成する各点の座標は、ジオラマ11を基準として定められたものなので、実際のフライトパスが通過する座標とは異なる。そこで、作成したフライトパスを出力する際には、表示演算部14は、ジオラマ11上に描いた空間曲線上の点の座標を、ジオラマ11のモデルとなった実際の地形上の空間内の地形に変換する処理を行なう。実際のスケールに変換後のフライトパスデータは、例えば、表示演算部14が備える不図示の外部記憶装置に記憶され、或いは、通信インタフェース装置10、データ通信ネットワーク20を介して外部装置に出力される。こうした外部装置としては、例えば、ジオラマ11等を設置した指揮所と連携する、後方に設けられた基地、支援所に設置する装置がある。
フライトパス作成システム10の各機能ブロック間で行なうデータ通信の内容を図6に示す。
他の実施例であるフライトパス作成システム40について図7を参照して説明する。前述のフライトパス作成システム10では、フライトパス作成者に対して縮小領域を提示するための手段としてジオラマを用いた上で、入力したフライトパス、フットプリント32、監視目標33、進入禁止領域34等を、拡張現実としてジオラマ11に重なるように表示した。つまり、実施例1では、実体を有するモデルとして航空機模型18及びジオラマ11を用い、フライトパス、フットプリント32、監視目標33、進入禁止領域34等のオブジェクトについては拡張現実にて再現した。本実施例のフライトパス作成システム40では、拡張現実を地形の再現にまで適用し、仮想空間41を用いる。フライトパス作成システム40は、航空機模型・ジオラマ位置認識装置15に代わって、航空機模型・仮想空間位置認識装置43を備え、更に、標高データを格納するDB23に代わって、より詳細な地形データを格納するDB44を備える。
拡張現実表示用のマーカー41aは、カメラ16、17で撮影した画像を通じて、光学的に個別に認識・識別可能なマーキングを施したものである。4つのマーカー41aは、それぞれが正方形乃至長方形の頂点となるような適当な場所に設置される。以下、マーカー41aで囲んだ矩形の領域を、仮想空間設置位置と呼ぶものとする。仮想空間設置位置の座標、即ち、各マーカー41aを配置した座標は、表示演算部42の記憶装置に予め登録される。
仮想空間41は、設置されたマーカー41aを基準として、表示演算部42がコンピュータグラフィックとして生成する仮想的な空間である。予め、フライトパス作成者は、フライトパスを作成しようとする実際の領域の座標を表示演算部42に設定する。ここで仮想空間設置位置に仮想空間を生成する実際の領域を対象領域と呼ぶものとする。表示演算部42は、マーカー41aの座標に基づいて、対象領域が仮想空間設置位置に収まるような縮尺率を求める。表示演算部42は、こうして求めた縮尺率にて縮小した対象領域を、別途HMD測位部13にて求めた視点及び視線方向から見たときのフライトパス作成者の視野を示す画像として生成し、HMD12に出力する。
航空機模型・仮想空間位置認識装置43の記憶装置には、カメラ16、17の位置に加えて、各マーカー41aを設置した位置が予め記憶されている。カメラ16、17にて同時に撮影して生成した2つの画像のそれぞれにおいて、航空機模型18、マーカー41aを特定する画像認識処理を行ない、予め登録されたマーカー41aの位置を基準として各画像内における航空機模型18の2次元座標を求め、これら2つの2次元座標に基づいて、航空機模型18の3次元座標を求める。
図8を参照して、フライトパス作成者の視点及び視線方向から見たときの仮想空間を描画する方法について説明する。まず、フライトパス作成者は、作成しようとしているフライトパスが通過する対象領域を定め、その座標を表示演算部42に設定する(ステップS21)。フライトパス作成者がHMD12を装着し、HMD測位部13を起動すると、HMD測位部13は現在の位置及び方向、即ちフライトパス作成者の視点及び視線方向に関する測定値を求め、表示演算部42に通知する。測定値を元に、表示演算部42は、予め登録されたマーカー41aと、視点及び視線方向の位置関係を求め(ステップS22)、その視点及び視線方向から見たフライトパス作成者の視界に入る、仮想空間設置位置内の地形の範囲を求める(ステップS23)。更に、表示演算部42は、その視界内に入る地点の地形データをDB44から取得(ステップS24)し、取得した地形データに基づいて視界を示す画像を生成する(ステップS25)。こうした処理を十分に短い一定時間毎に繰り返す(ステップS26)ことにより、フライトパス作成者のそのときの視点及び視線方向に応じた仮想空間の光景をHMD12にて表示する。
図9を参照して、フライトパスを入力する際の航空機模型・仮想地形位置認識装置43の動作について説明する。フライトパス作成者は航空機模型18を手に持ち、所望のフライトパスを空中に描くように、航空機模型18を仮想空間設置位置内で移動させる。この様子を、カメラ16、17を同期して撮影し、リアルタイムに画像データを生成する(ステップS31)。カメラ16、17は同時に異なる角度から撮影した航空機模型18、仮想空間設置位置の画像を生成することとなる。航空機模型・仮想地形位置認識装置43は、この画像データに対して画像認識処理を行ない、画像データ中の航空機模型18を特定する。ある時刻におけるカメラ16、17の画像データそれぞれに対し、ジオラマ11、カメラ16、17の位置関係に基づく画像認識処理を行なうことにより、各カメラの画像データにおいて、そのカメラの光軸に垂直な面内における航空機模型18の2次元座標を求め(ステップS32)、更に、これら2つの2次元座標から航空機模型18の3次元座標を求める(ステップS33)。こうして求めた座標を、その時刻における航空機模型18の3次元座標として、その時刻と共に通信インタフェース装置19を介して表示演算部42に送信する(ステップS34)。これを一定時間毎に繰り返す(ステップS35)ことにより、フライトパス作成者が手に持った航空機模型18によって仮想空間設置位置で描いた、空間曲線上の点の座標及び各点の時刻を表示演算部42に通知する。図8で説明した仮想空間の描画処理と並行して、図9のフライトパス入力処理を行なうことにより、フライトパス作成者は、自分の視点及び視線方向から見た仮想空間の光景を目視しつつ、航空機模型18を仮想空間設置位置内で動かして、フライトパスを入力することができる。
次に図10を参照して、入力中のフライトパスをHMD12に表示する際の表示演算部42の動作について説明する。表示演算部42は今までに通知された撮影時刻及び3次元座標を記憶装置に格納している。表示演算部42は、HMD12が現在向いている方向及び位置を、HMD測位部13から取得する(ステップS41)。この方向及び位置と予め登録されたマーカー41aの位置に基づいて、表示演算部42はマーカー41aを基準としたHMD12の位置及び方向を算出する(ステップS42)。更に、算出したHMD12の位置及び方向、即ち、フライトパス作成者の視点及び視線方向から見たときに、既に記憶装置に格納されている、入力済みのフライトパスを示す点の3次元座標が、フライトパス作成者の視界内のどこに位置するのかを算出(ステップS43)し、算出した各位置に点を描画し、更に、必要に応じて各点を結ぶ直線や曲線を描画した画像を生成(ステップS44)し、HMD12にて表示する(ステップS45)。フライトパス作成者の目の画角(視野角)は予め定められており、表示演算部14の記憶装置に記憶しているものとする。これにより、フライトパス作成者がジオラマ11上の空中で描いた空間曲線を、フライトパス作成者の現在の視点及び視線方向から見たときの様子がHMD12に表示される。HMD12は透過型ディスプレイを有するため、フライトパス作成者は、表示演算部14が生成し、HMD12にて表示された空間曲線の画像と、透過型ディスプレイを通じて透過した、ジオラマ11の光景とを同時に視認することになる。図8の仮想空間の描画処理、図9のフライトパス入力処理と並行して、図10の入力済みフライトパス表示処理を行なうことにより、フライトパス作成者は、自分の視点及び視線方向から見た仮想空間の光景を目視しつつ、航空機模型18を仮想空間設置位置内で動かしてフライトパスを入力する際、今までに入力したフライトパスを目視しながら入力を行なうことができる。
フライトパス作成システム40では、縮小領域内の地形を仮想オブジェクトとして描画してフライトパス作成者に提示する。このため、本システムでは、描画する際の仮想オブジェクトの縮尺率を変更することにより、フライトパス作成者に対して提示する縮小領域の縮尺率を変更することができる。
また、フライトパス作成システム40では、ステップS21での設定を変更することにより、フライトパスを作成する対象領域を変更することができる。
また、地形を仮想オブジェクトとして生成することを利用して、表示演算部14は、フライトパスと仮想オブジェクトの間で衝突判定を行ない、衝突を検出したとき、衝突発生を警告するためのメッセージや、衝突を表す画像、動画等を衝突を検出した座標或いはその近傍に表示することとしてもよい。或いは、通信インタフェース装置19を介して不図示のスピーカーを接続し、所定の警告音をスピーカーから鳴動させることとしてもよい。このようにすれば、フライト作成者自身の目視だけではなく、表示演算部14での判定によってもフライトパスが地形、進入禁止領域、監視目標等の仮想オブジェクトと衝突していないことを確認しつつ、フライトパスを作成することができる。また、できあがったフライトパスの妥当性を判断する際の指標として衝突の有無を用いることができる。
第3の実施例であるフライトパス入力システム50について図11を参照して説明する。フライトパス入力システム50は、フライトパス作成システム10のHMD12、HMD測位部13に対応する要素を2組、即ちHMD12a、12b、HMD測位部13a、13bを備え、表示演算部14の代わりに表示演算部51を備える。
本システムでは、二人のフライトパス作成者がそれぞれHMD及びHMD測位部を装着する。HMD12a及びHMD測位部13aをフライトパス作成者Aが装着し、HMD12b及びHMD測位部13bをフライトパス作成者Bが装着して用いるものとする。従って、HMD12aはフライトパス作成者Aに対して画像を表示するものであり、HMD測位部13aはフライトパス作成者Aの視点及び視線方向を測定するための装置である。同様に、HMD12bはフライトパス作成者Bに対して画像を表示するものであり、HMD測位部13bはフライトパス作成者Bの視点及び視線方向を測定するための装置である。
表示演算部51は演算処理装置であり、HMD測位部13aと、航空機模型・ジオラマ位置認識装置15の出力に基づいて、HMD12aにて表示する画像を生成するとともに、HMD測位部13bと、航空機模型・ジオラマ位置認識装置15の出力に基づいて、HMD12bにて表示する画像を生成する。各HMDのために行なう画像生成処理は実施例1と同様である。
それぞれがHMD及びHMD測位部を装着したフライトパス作成者A、Bは、ジオラマ11、及び、ジオラマ11上に重ねて表示されるフライトパス、進入禁止領域、拡張現実を、異なる視点から同時に眺めつつ、フライトパスの入力、修正を行なう。
例えば、航空機模型18を不図示の右手に持ってフライトパスを入力中のフライトパス作成者Aの視界に、図5のような光景が見えているものとする。このとき、フライトパス作成者Aは、ジオラマ11の山から遠く、監視目標33の位置に近い辺の近傍に立って、ジオラマ11及び航空機模型18を見下ろす視点及び視線方向で見ている。表示演算部51は、仮想オブジェクトであるフライトパス31、フットプリント32、監視目標33、進入禁止領域34を同図のような配置で描画した画像を生成し、HMD12aに出力する。同時に、フライトパス作成者Bは、フライトパス作成者Aとジオラマ11を挟んだ反対側の辺の近傍に立ち、ジオラマ11及び航空機模型18を見下ろす視点及び視線方向で見ているものとする。このとき、表示演算部51は、フライトパス作成者Bの視点位置及び視線方向に基づいて、図12のような位置関係で仮想オブジェクトを描画した画像を生成し、HMD12bに出力する。尚、図12は、視点、視線方向からなる組の複数に基づいて、表示演算部51が複数の画像を同時に生成し、対応するHMDに出力することを説明するための図であり、図5と図12における各仮想オブジェクトの位置関係は必ずしも正確に対応するものではない。
このように、フライトパス作成システム50では、同一のフライトパスを示す画像を、複数ユーザに対して同時に、かつ、ユーザ毎に異なる視点及び視線方向からの視界を示す画像として生成し、各ユーザに対して表示する。これにより、同じフライトパス、仮想オブジェクトを、複数のユーザが同時に、しかも異なる視点・視線方向から見て、協議しながらフライトパスを作成することができる。
上述のフライトパス作成システムにより作成したフライトパスに従って飛行した飛行機等の飛翔体から、観測データを回収し、フライトパス作成システムにて表示することとしてもよい。この場合、飛翔体は、フットプリント32で表される観測範囲を有する観測装置と、飛翔体の現在位置を測定するための測位装置と、観測装置にて測定した観測結果と、その観測結果を測定したときに測位装置にて測位した位置及び時刻を関連づけて記憶する記憶装置とを備える。記憶装置に記憶した観測結果、位置、時刻を、例えばフライトパス作成システム10であれば、データ通信ネットワーク20を介して表示演算部14に送信する。表示演算部14は、観測結果を示す仮想オブジェクトを、HDM測位部13にて求めた視点及び視線方向の視界内の該当する位置に描画した画像を生成し、HDM12に出力する。このようにすれば、フライトパスに沿って飛行した飛翔体によって観測した結果についても、自分自身の視点と視線方向に基づいて、仮想オブジェクトとして観測した位置に描画した観測結果を検証することができる。
以上、本発明を実施形態及び実施例に即して説明したが、本発明はこれに限定されるものではなく、様々な変形が可能である。
上述の実施例では、航空機模型18の位置のみを取得し、その姿勢については取得しなかったが、姿勢についても取得することとしてもよい。実施例1では、ステップS1でカメラ16、17にて同時に撮影して複数の画像を生成し、これら画像に基づいて、ステップS2、S3で航空機模型・ジオラマ位置認識装置15にて画像認識処理を行なうことにより、ジオラマ11に対する航空機模型18の位置を算出したが、このとき同時に、画像認識処理により航空機模型18の姿勢を算出し、その姿勢情報を、航空機模型18の3次元座標、時刻情報と共に、ステップS4で通信インタフェース装置19を介して表示演算部14に送信し、これを一定時間毎に繰り返すこととしてもよい。
上述の実施例では、航空機模型18の姿勢を考慮しなかったので、航空機模型18の姿勢に関係なく、航空機模型18から鉛直下方に伸ばした垂線を回転軸とする円錐としてフットプリントを想定した。しかし、航空機模型18の姿勢を考慮する場合、姿勢に応じて回転軸を定めることとしてもよい。この場合、姿勢に応じてフットプリントとなる円錐の向きが決まり、更には円錐と地形曲面との交点からなる閉曲面が決まる。航空機模型18と共にこの閉曲面は移動し、閉曲面が通過した領域が、カメラによる撮影対象、センサによる測定対象となる。
HDMの投影方式には、網膜に画像を投影するものや、ハーフミラーに虚像を投影するものがあるが、どちらであっても透過型のディスプレイとして用いることができる。実施例2のように地形を仮想オブジェクトとして描画する場合は、HDMは透過型でなくてもよい。上述の説明では、ひとつのHDMに一度に表示する画像は、一の視点から見た視界を表す投影図を一の画像として生成した。しかし、HDMが左右の目それぞれに対して異なる画像を表示可能な場合、例えば左右の目それぞれに別個にディスプレイ装置を有するような構成のHDMである場合は、左右の目それぞれの視点から見た視界を表す画像、即ち互いに視差を有する右目用画像、左目用画像を生成し、それぞれを右目用ディスプレイ装置、左目用ディスプレイ装置にて表示することにより、ユーザに対して立体視を提供することとしてもよい。
また、上述の説明では、フライトパス作成者が航空機模型を手に持ってフライトパスを入力するとして説明したが、航空機模型18を直接手に持つ代わりに、例えば棒の先端に取り付けて動かしてもよいし、ロボットアームの先端に取り付けてロボットアームを操作することにより動かしてもよい。
また、上述の実施例では、2台のカメラ16、17を用いて航空機模型の位置等を測定したが、カメラの台数は2台に限定されるものではなく、3台以上であってもよい。
上記の実施形態及び実施例の一部又は全部は以下の付記のようにも記載されうるが、これらに限定されるものではない。
(付記1)
利用者がその頭部に装着して用いるヘッドマウントディスプレイ装置(HMD)と、
地形を含む空間である対象領域を予め定められた縮尺率で縮小して、予め定められた設置場所に再現した空間である縮小領域を、利用者に対して提示する縮小領域提示手段と、
前記縮小領域に対する前記HMDの位置及び向きを測定するHMD測位手段と、
前記対象領域における飛翔体のフライトパスに対応する、前記縮小領域内の空間曲線である縮小フライトパスを求める縮小フライトパス生成手段と、
前記HMD測位手段にて求めたHMDの位置及び向き、並びに、前記縮小フライトパス生成手段にて求めた前記縮小フライトパスに基づいて、当該位置及び向きから前記縮小領域を見たときの視界を示す画像を生成し、前記HMDに出力する画像生成手段と
を備えることを特徴とするフライトパス表示システム。
(付記2)
利用者の手により直接的にまたは保持具等を介して間接的に保持されて、前記縮小領域内での前記飛翔体の位置を示すものとして、利用者の操作に応じて前記縮小領域内を移動させられるポインタと、
前記縮小領域内を移動するポインタの位置を、前記縮小フライトパス上の点の位置として測定する手段と
を更に備えることを特徴とする付記1に記載のフライトパス表示システム。
(付記3)
前記HMDは透過型ディスプレイを備え、利用者は、前記画像生成手段が出力する画像と前記HMDの外部の光景とを同時に視認可能であることを特徴とする付記1及び付記2のいずれかに記載のフライトパス表示システム。
(付記4)
前記縮小領域提示手段は、前記対象領域の地形を前記縮尺にて縮小した地形模型を備え、前記透過型ディスプレイを透過した、前記設置場所に設置した前記地形模型とその上の空間の光景を、前記縮小領域として利用者に提示することを特徴とする付記3に記載のフライトパス表示システム。
(付記5)
前記画像生成手段は、前記対象領域内の地形を示す地形データを予め記憶した記憶装置から当該地形データを受け取り、前記HMDの位置及び向きに基づいて定めた視点及び視線方向から見たときの前記対象領域内の地形を仮想オブジェクトとして描画した画像を生成することを特徴とする付記1及び付記2のいずれかに記載のフライトパス表示システム。
(付記6)
前記画像生成手段は、前記縮小フライトパス上の一点を頂点とする円錐と、前記縮小領域内の地形との交点を求め、当該交点を示す画像をフライトパスのフットプリントとして前記HMDに出力することを特徴とする付記1乃至付記5のいずれかに記載のフライトパス表示システム。
(付記7)
前記画像生成手段は、前記対象領域内の地点、地域、空間の属性を示す属性データを予め記憶した記憶装置から当該属性データを受け取り、前記HMDの位置及び向きに基づいて定めた視点及び視線方向から見たときの視界内での該当する位置或いはその近傍に、当該属性データに関する仮想オブジェクトを描画した画像を生成することを特徴とする付記1乃至付記6のいずれかに記載のフライトパス表示システム。
(付記8)
複数の前記HMDを備え、
前記画像生成手段は、HMD毎にそのHMDの位置及び向きに基づいて定めた視点及び視線方向から前記縮小空間を見た視界を示す画像を生成し、該当するHMDに出力する
ことを特徴とする付記1乃至付記7のいずれかに記載のフライトパス表示システム。
(付記9)
利用者がその頭部にヘッドマウントディスプレイ装置(HMD)を装着し、地形を含む空間である対象領域を予め定められた縮尺率で縮小して、予め定められた設置場所に再現した空間である縮小領域を、利用者に対して提示する縮小領域提示段階と、
前記縮小領域に対する前記HMDの位置及び向きを測定するHMD測位段階と、
前記対象領域における飛翔体のフライトパスに対応する、前記縮小領域内の空間曲線である縮小フライトパスを求める縮小フライトパス生成段階と、
前記HMD測位段階にて求めたHMDの位置及び向き、並びに、前記縮小フライトパス生成段階にて求めた前記縮小フライトパスに基づいて、当該位置及び向きから前記縮小領域を見たときの視界を示す画像を生成し、前記HMDに出力する画像生成段階と
を含むことを特徴とするフライトパス表示方法。
(付記10)
利用者の手により直接的にまたは保持具等を介して間接的に保持されて、前記縮小領域内での前記飛翔体の位置を示すものとして、利用者の操作に応じて前記縮小領域内を移動させられるポインタと、
前記縮小領域内を移動するポインタの位置を、前記縮小フライトパス上の点の位置として測定する段階と
を更に含むことを特徴とする付記9に記載のフライトパス表示方法。
(付記11)
前記HMDは透過型ディスプレイを備え、利用者は、前記画像生成段階が出力する画像と前記HMDの外部の光景とを同時に視認可能であることを特徴とする付記9及び付記10のいずれかに記載のフライトパス表示方法。
(付記12)
前記縮小領域提示段階は、前記対象領域の地形を前記縮尺にて縮小した地形模型を備え、前記透過型ディスプレイを透過した、前記設置場所に設置した前記地形模型とその上の空間の光景を、前記縮小領域として利用者に提示することを特徴とする付記11に記載のフライトパス表示方法。
(付記13)
前記画像生成段階は、前記対象領域内の地形を示す地形データを予め記憶した記憶装置から当該地形データを受け取り、前記HMDの位置及び向きに基づいて定めた視点及び視線方向から見たときの前記対象領域内の地形を仮想オブジェクトとして描画した画像を生成することを特徴とする付記9及び付記10のいずれかに記載のフライトパス表示方法。
(付記14)
前記画像生成段階は、前記縮小フライトパス上の一点を頂点とする円錐と、前記縮小領域内の地形との交点を求め、当該交点を示す画像をフライトパスのフットプリントとして前記HMDに出力することを特徴とする付記9乃至付記13のいずれかに記載のフライトパス表示方法。
(付記15)
前記画像生成段階は、前記対象領域内の地点、地域、空間の属性を示す属性データを予め記憶した記憶装置から当該属性データを受け取り、前記HMDの位置及び向きに基づいて定めた視点及び視線方向から見たときの視界内での該当する位置或いはその近傍に、当該属性データに関する仮想オブジェクトを描画した画像を生成することを特徴とする付記9乃至付記14のいずれかに記載のフライトパス表示方法。
(付記16)
複数の前記HMDを備え、
前記画像生成段階は、HMD毎にそのHMDの位置及び向きに基づいて定めた視点及び視線方向から前記縮小空間を見た視界を示す画像を生成し、該当するHMDに出力する
ことを特徴とする付記9乃至付記15のいずれかに記載のフライトパス表示方法。
(付記17)
利用者がその頭部にヘッドマウントディスプレイ装置(HMD)を装着し、地形を含む空間である対象領域を予め定められた縮尺率で縮小して、予め定められた設置場所に再現した空間である縮小領域に対する前記HMDの位置及び向きを、測定値から算出するHMD測位手段と、
前記対象領域における飛翔体のフライトパスに対応する、前記縮小領域内の空間曲線である縮小フライトパスを求める縮小フライトパス生成手段と、
前記HMD測位手段にて求めたHMDの位置及び向き、並びに、前記縮小フライトパス生成手段にて求めた前記縮小フライトパスに基づいて、当該位置及び向きから前記縮小領域を見たときの視界を示す画像を生成し、前記HMDに出力する画像生成手段と
して、コンピュータを機能させるためのプログラム。
(付記18)
利用者の手により直接的にまたは保持具等を介して間接的に保持されて、前記縮小領域内での前記飛翔体の位置を示すものとして、利用者の操作に応じて前記縮小領域内を移動させられるポインタの位置を、前記縮小フライトパス上の点の位置として測定値から算出する手段として、コンピュータを機能させるための付記17に記載のプログラム。
(付記19)
前記HMDは透過型ディスプレイを備え、利用者は、前記画像生成手段が出力する画像と前記HMDの外部の光景とを同時に視認可能であることを特徴とする付記17及び付記18のいずれかに記載のプログラム。
(付記20)
前記縮小領域提示手段は、前記対象領域の地形を前記縮尺にて縮小した地形模型を備え、前記透過型ディスプレイを透過した、前記設置場所に設置した前記地形模型とその上の空間の光景を、前記縮小領域として利用者に提示することを特徴とする付記19に記載のプログラム。
(付記21)
前記画像生成手段は、前記対象領域内の地形を示す地形データを予め記憶した記憶装置から当該地形データを受け取り、前記HMDの位置及び向きに基づいて定めた視点及び視線方向から見たときの前記対象領域内の地形を仮想オブジェクトとして描画した画像を生成することを特徴とする付記17及び付記18のいずれかに記載のプログラム。
(付記22)
前記画像生成手段は、前記縮小フライトパス上の一点を頂点とする円錐と、前記縮小領域内の地形との交点を求め、当該交点を示す画像をフライトパスのフットプリントとして前記HMDに出力することを特徴とする付記17乃至付記21のいずれかに記載のプログラム。
(付記23)
前記画像生成手段は、前記対象領域内の地点、地域、空間の属性を示す属性データを予め記憶した記憶装置から当該属性データを受け取り、前記HMDの位置及び向きに基づいて定めた視点及び視線方向から見たときの視界内での該当する位置或いはその近傍に、当該属性データに関する仮想オブジェクトを描画した画像を生成することを特徴とする付記17乃至付記22のいずれかに記載のプログラム。
(付記24)
複数の前記HMDを備え、
前記画像生成手段は、HMD毎にそのHMDの位置及び向きに基づいて定めた視点及び視線方向から前記縮小空間を見た視界を示す画像を生成し、該当するHMDに出力する
ことを特徴とする付記17乃至付記23のいずれかに記載のプログラム。
1 フライトパス表示システム
2 縮小領域提示部
3、12 ヘッドマウントディスプレイ装置(Head Mounted Display、以下HMD)
4、13 HMD測位部
5 画像処理装置
10、40 フライトパス作成システム
11 ジオラマ
14 表示演算部
15 航空機模型・ジオラマ位置認識装置
16、17 カメラ
18 航空機模型
19 通信インタフェース装置
20 データ通信ネットワーク
21−25、44 データベース
43 航空機模型・仮想空間位置認識装置
41a 拡張現実表示用のマーカー

Claims (10)

  1. 利用者がその頭部に装着して用いるヘッドマウントディスプレイ装置(HMD)と、
    地形を含む空間である対象領域を予め定められた縮尺率で縮小して、予め定められた設置場所に再現した空間である縮小領域を、利用者に対して提示する縮小領域提示手段と、
    前記縮小領域に対する前記HMDの位置及び向きを測定するHMD測位手段と、
    前記対象領域における飛翔体のフライトパスに対応する、前記縮小領域内の空間曲線である縮小フライトパスを求める縮小フライトパス生成手段と、
    前記HMD測位手段にて求めたHMDの位置及び向き、並びに、前記縮小フライトパス生成手段にて求めた前記縮小フライトパスに基づいて、当該位置及び向きから前記縮小領域を見たときの視界を示す画像を生成し、前記HMDに出力する画像生成手段と
    を備えることを特徴とするフライトパス表示システム。
  2. 利用者の手により直接的にまたは保持具等を介して間接的に保持されて、前記縮小領域内での前記飛翔体の位置を示すものとして、利用者の操作に応じて前記縮小領域内を移動させられるポインタと、
    前記縮小領域内を移動するポインタの位置を、前記縮小フライトパス上の点の位置として測定する手段と
    を更に備えることを特徴とする請求項1に記載のフライトパス表示システム。
  3. 前記HMDは透過型ディスプレイを備え、利用者は、前記画像生成手段が出力する画像と前記HMDの外部の光景とを同時に視認可能であることを特徴とする請求項1及び請求項2のいずれかに記載のフライトパス表示システム。
  4. 前記縮小領域提示手段は、前記対象領域の地形を前記縮尺にて縮小した地形模型を備え、前記透過型ディスプレイを透過した、前記設置場所に設置した前記地形模型とその上の空間の光景を、前記縮小領域として利用者に提示することを特徴とする請求項3に記載のフライトパス表示システム。
  5. 前記画像生成手段は、前記対象領域内の地形を示す地形データを予め記憶した記憶装置から当該地形データを受け取り、前記HMDの位置及び向きに基づいて定めた視点及び視線方向から見たときの前記対象領域内の地形を仮想オブジェクトとして描画した画像を生成することを特徴とする請求項1及び請求項2のいずれかに記載のフライトパス表示システム。
  6. 前記画像生成手段は、前記縮小フライトパス上の一点を頂点とする円錐と、前記縮小領域内の地形との交点を求め、当該交点を示す画像をフライトパスのフットプリントとして前記HMDに出力することを特徴とする請求項1乃至請求項5のいずれかに記載のフライトパス表示システム。
  7. 前記画像生成手段は、前記対象領域内の地点、地域、空間の属性を示す属性データを予め記憶した記憶装置から当該属性データを受け取り、前記HMDの位置及び向きに基づいて定めた視点及び視線方向から見たときの視界内での該当する位置或いはその近傍に、当該属性データに関する仮想オブジェクトを描画した画像を生成することを特徴とする請求項1乃至請求項6のいずれかに記載のフライトパス表示システム。
  8. 複数の前記HMDを備え、
    前記画像生成手段は、HMD毎にそのHMDの位置及び向きに基づいて定めた視点及び視線方向から前記縮小空間を見た視界を示す画像を生成し、該当するHMDに出力する
    ことを特徴とする請求項1乃至請求項7のいずれかに記載のフライトパス表示システム。
  9. 利用者がその頭部にヘッドマウントディスプレイ装置(HMD)を装着し、地形を含む空間である対象領域を予め定められた縮尺率で縮小して、予め定められた設置場所に再現した空間である縮小領域を、利用者に対して提示する縮小領域提示段階と、
    前記縮小領域に対する前記HMDの位置及び向きを測定するHMD測位段階と、
    前記対象領域における飛翔体のフライトパスに対応する、前記縮小領域内の空間曲線である縮小フライトパスを求める縮小フライトパス生成段階と、
    前記HMD測位段階にて求めたHMDの位置及び向き、並びに、前記縮小フライトパス生成段階にて求めた前記縮小フライトパスに基づいて、当該位置及び向きから前記縮小領域を見たときの視界を示す画像を生成し、前記HMDに出力する画像生成段階と
    を含むことを特徴とするフライトパス表示方法。
  10. 利用者がその頭部にヘッドマウントディスプレイ装置(HMD)を装着し、地形を含む空間である対象領域を予め定められた縮尺率で縮小して、予め定められた設置場所に再現した空間である縮小領域に対する前記HMDの位置及び向きを、測定値から算出するHMD測位手段と、
    前記対象領域における飛翔体のフライトパスに対応する、前記縮小領域内の空間曲線である縮小フライトパスを求める縮小フライトパス生成手段と、
    前記HMD測位手段にて求めたHMDの位置及び向き、並びに、前記縮小フライトパス生成手段にて求めた前記縮小フライトパスに基づいて、当該位置及び向きから前記縮小領域を見たときの視界を示す画像を生成し、前記HMDに出力する画像生成手段と
    して、コンピュータを機能させるためのプログラム。
JP2012106643A 2012-05-08 2012-05-08 フライトパス表示システム、方法及びプログラム Active JP5971466B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012106643A JP5971466B2 (ja) 2012-05-08 2012-05-08 フライトパス表示システム、方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012106643A JP5971466B2 (ja) 2012-05-08 2012-05-08 フライトパス表示システム、方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2013235367A true JP2013235367A (ja) 2013-11-21
JP5971466B2 JP5971466B2 (ja) 2016-08-17

Family

ID=49761455

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012106643A Active JP5971466B2 (ja) 2012-05-08 2012-05-08 フライトパス表示システム、方法及びプログラム

Country Status (1)

Country Link
JP (1) JP5971466B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160055026A (ko) * 2014-11-07 2016-05-17 삼성전자주식회사 오브젝트를 표시하는 방향 기반 전자 장치 및 방법
WO2019131143A1 (ja) * 2017-12-27 2019-07-04 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
KR20190139381A (ko) * 2018-06-08 2019-12-18 인하대학교 산학협력단 증강현실을 이용한 무인기 관리 시스템
US10648774B2 (en) 2018-02-15 2020-05-12 Mitsubishi Heavy Industries, Ltd. Display apparatus of interception area, display method and interception system
WO2020105147A1 (ja) * 2018-11-21 2020-05-28 楽天株式会社 飛行経路案内システム、飛行経路案内装置及び飛行経路案内方法
CN111352434A (zh) * 2018-12-20 2020-06-30 波音公司 支持接近机场的机场跑道的飞机的设备及方法
JP2021126519A (ja) * 2020-02-10 2021-09-02 グローバス メディカル インコーポレイティッド 外科手術におけるコンピュータ支援ナビゲーションのための光学器具追跡ボリュームのエクステンデッドリアリティ視覚化

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1995005620A1 (fr) * 1993-08-12 1995-02-23 Seiko Epson Corporation Dispositif de visualisation du type lunettes et processeur de donnees d'images equipe d'un tel dispositif
JPH08110380A (ja) * 1994-10-11 1996-04-30 Nec Corp 飛行軌跡3次元表示システム
JPH09304526A (ja) * 1996-05-15 1997-11-28 Nec Corp ターミナル管制用3次元情報表示方法
JP2000275323A (ja) * 1999-03-23 2000-10-06 Mitsubishi Electric Corp レーダ表示システム
JP2003132499A (ja) * 2001-10-24 2003-05-09 Electronic Navigation Research Institute 航空管制用表示装置における航空機位置表示方法
JP2006018444A (ja) * 2004-06-30 2006-01-19 Taisei Corp 画像処理システム及び付加情報指示装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1995005620A1 (fr) * 1993-08-12 1995-02-23 Seiko Epson Corporation Dispositif de visualisation du type lunettes et processeur de donnees d'images equipe d'un tel dispositif
JPH08110380A (ja) * 1994-10-11 1996-04-30 Nec Corp 飛行軌跡3次元表示システム
JPH09304526A (ja) * 1996-05-15 1997-11-28 Nec Corp ターミナル管制用3次元情報表示方法
JP2000275323A (ja) * 1999-03-23 2000-10-06 Mitsubishi Electric Corp レーダ表示システム
JP2003132499A (ja) * 2001-10-24 2003-05-09 Electronic Navigation Research Institute 航空管制用表示装置における航空機位置表示方法
JP2006018444A (ja) * 2004-06-30 2006-01-19 Taisei Corp 画像処理システム及び付加情報指示装置

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102309281B1 (ko) * 2014-11-07 2021-10-08 삼성전자주식회사 오브젝트를 표시하는 방향 기반 전자 장치 및 방법
KR20160055026A (ko) * 2014-11-07 2016-05-17 삼성전자주식회사 오브젝트를 표시하는 방향 기반 전자 장치 및 방법
US11156844B2 (en) 2017-12-27 2021-10-26 Sony Corporation Information processing apparatus, information processing method, and program
JP7322713B2 (ja) 2017-12-27 2023-08-08 ソニーグループ株式会社 情報処理装置、情報処理方法、及びプログラム
WO2019131143A1 (ja) * 2017-12-27 2019-07-04 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
JPWO2019131143A1 (ja) * 2017-12-27 2021-02-04 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
US10648774B2 (en) 2018-02-15 2020-05-12 Mitsubishi Heavy Industries, Ltd. Display apparatus of interception area, display method and interception system
KR102068500B1 (ko) 2018-06-08 2020-01-21 인하대학교 산학협력단 증강현실을 이용한 무인기 관리 시스템
KR20190139381A (ko) * 2018-06-08 2019-12-18 인하대학교 산학협력단 증강현실을 이용한 무인기 관리 시스템
JPWO2020105147A1 (ja) * 2018-11-21 2021-02-15 楽天株式会社 飛行経路案内システム、飛行経路案内装置及び飛行経路案内方法
CN112204351A (zh) * 2018-11-21 2021-01-08 乐天株式会社 飞行路径引导系统、飞行路径引导装置及飞行路径引导方法
WO2020105147A1 (ja) * 2018-11-21 2020-05-28 楽天株式会社 飛行経路案内システム、飛行経路案内装置及び飛行経路案内方法
CN111352434A (zh) * 2018-12-20 2020-06-30 波音公司 支持接近机场的机场跑道的飞机的设备及方法
CN111352434B (zh) * 2018-12-20 2023-11-28 波音公司 支持接近机场的机场跑道的飞机的设备及方法
JP2021126519A (ja) * 2020-02-10 2021-09-02 グローバス メディカル インコーポレイティッド 外科手術におけるコンピュータ支援ナビゲーションのための光学器具追跡ボリュームのエクステンデッドリアリティ視覚化
US11382699B2 (en) 2020-02-10 2022-07-12 Globus Medical Inc. Extended reality visualization of optical tool tracking volume for computer assisted navigation in surgery

Also Published As

Publication number Publication date
JP5971466B2 (ja) 2016-08-17

Similar Documents

Publication Publication Date Title
JP5971466B2 (ja) フライトパス表示システム、方法及びプログラム
US11120628B2 (en) Systems and methods for augmented reality representations of networks
EP3321888B1 (en) Projected image generation method and device, and method for mapping image pixels and depth values
JP5966510B2 (ja) 情報処理システム
KR102289745B1 (ko) 실시간 현장 작업 모니터링 방법 및 시스템
CN109154499A (zh) 用于增强立体显示的系统和方法
US11398078B2 (en) Gradual transitioning between two-dimensional and three-dimensional augmented reality images
JP6896688B2 (ja) 位置算出装置、位置算出プログラム、位置算出方法、及びコンテンツ付加システム
CN109358754B (zh) 一种混合现实头戴显示系统
US11668577B1 (en) Methods and systems for response vehicle deployment
JP2013014318A (ja) 航空機内の合成ビジョンシステムを動作させる方法
US10768711B2 (en) Mediated reality
US9667947B2 (en) Stereoscopic 3-D presentation for air traffic control digital radar displays
CN104536579A (zh) 交互式三维实景与数字图像高速融合处理系统及处理方法
CN108022302A (zh) 一种Inside-Out空间定位的AR立体显示装置
CN114140528A (zh) 数据标注方法、装置、计算机设备及存储介质
JP5565331B2 (ja) 表示システム、表示処理装置、表示方法、および表示プログラム
US20230334849A1 (en) Method and system for virtual area visualization
JP2016122277A (ja) コンテンツ提供サーバ、コンテンツ表示端末、コンテンツ提供システム、コンテンツ提供方法、および、コンテンツ表示プログラム
CN113677412B (zh) 信息处理装置、信息处理方法和程序
US20230148185A1 (en) Information processing apparatus, information processing method, and recording medium
JP2021157217A (ja) 建設機械における図面投影システム、図面投影方法及びプログラム
TWI759764B (zh) 基於光通信裝置疊加虛擬物件的方法、電子設備以及電腦可讀取記錄媒體
JP7293057B2 (ja) 放射線量分布表示システムおよび放射線量分布表示方法
JP2019066196A (ja) 傾き測定装置及び傾き測定方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150408

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20151216

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160406

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160520

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160615

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160628

R150 Certificate of patent or registration of utility model

Ref document number: 5971466

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150