JP5521134B2 - Information processing system, information processing method, and program - Google Patents
Information processing system, information processing method, and program Download PDFInfo
- Publication number
- JP5521134B2 JP5521134B2 JP2011176631A JP2011176631A JP5521134B2 JP 5521134 B2 JP5521134 B2 JP 5521134B2 JP 2011176631 A JP2011176631 A JP 2011176631A JP 2011176631 A JP2011176631 A JP 2011176631A JP 5521134 B2 JP5521134 B2 JP 5521134B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- user
- information processing
- image data
- augmented reality
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims description 35
- 238000003672 processing method Methods 0.000 title claims 5
- 238000004891 communication Methods 0.000 claims description 28
- 230000003190 augmentative effect Effects 0.000 claims description 26
- 238000004458 analytical method Methods 0.000 claims description 13
- 230000005540 biological transmission Effects 0.000 claims description 13
- 238000000034 method Methods 0.000 description 27
- 208000027418 Wounds and injury Diseases 0.000 description 11
- 208000014674 injury Diseases 0.000 description 11
- 238000013075 data extraction Methods 0.000 description 10
- 230000006378 damage Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 238000003384 imaging method Methods 0.000 description 4
- 239000003550 marker Substances 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000001931 thermography Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 2
- 230000009191 jumping Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Landscapes
- Processing Or Creating Images (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
本発明は、現実空間とコンピュータグラフィックス画像データとを合成して重畳表示させて拡張現実感を提示する技術に関するものである。 The present invention relates to a technology for presenting augmented reality by combining and superimposing a real space and computer graphics image data.
スキー場では、広大なエリア内でどこのコースを滑れば自分の技量に適しているか、或いは、どこのコース、どこのリフトが空いているか等を把握することが困難であった。特に天候の悪い降雪時や濃霧時にはコースを見失うこともあり、危険を伴う。 In a ski area, it was difficult to know which course was suitable for one's skill in a vast area, or which course and which lift was vacant. Especially when it is snowing in bad weather or heavy fog, the course may be lost, which is dangerous.
このような課題に対して、例えば非特許文献1には、カメラ付き携帯端末をスキー場のコース上でかざすとそのコースの案内をAR(拡張現実感)で表示する技術が開示されている。これにより、ユーザは自分が滑っているコースについて難易度まで含めて知ることができる。また、非特許文献2には、GPS(Global Positioning System)と小型の表示機とを備えたゴーグルが開示されている。
To deal with such a problem, for example, Non-Patent
しかしながら、非特許文献1に開示される技術では、予めプログラムデータとして記憶されている情報を表示しているだけであり、どこのコース、どこのリフトが空いているかであるとか、コース内の特定場所に障害が発生している等のリアルタイムの状況把握はできない。例えば、コース内の死角になりやすい部分にけが人が倒れている等の状況は知ることはできず、危険を招くことになる。このような問題はスキー場に限らず、自転車のロードレース等、天候の影響を受けやすい場所で起こり得る。
However, in the technique disclosed in Non-Patent
そこで、本発明の目的は、視界が悪いエリアであっても、リアルタイムに混雑状態を把握できるようにすることにある。 Therefore, an object of the present invention is to make it possible to grasp the congestion state in real time even in an area where visibility is poor.
本発明の情報処理システムは、現実空間とコンピュータグラフィックス画像データとを合成して表示させることが可能な拡張現実感提示装置と、ユーザが所持する通信装置と、情報処理装置とを有する情報処理システムであって、前記通信装置は、識別情報を送信する送信手段を有し、前記情報処理装置は、ユーザが所持する前記通信装置から送信された前記識別情報を受信する受信手段と、前記識別情報に対応する前記ユーザに係る情報を取得する取得手段と、前記ユーザに係る情報を前記拡張現実感提示装置に対して送信する送信手段とを有し、前記拡張現実感提示装置は、前記ユーザに係る情報を示すコンピュータグラフィックス画像データを現実空間に合成させて表示することを特徴とする。 An information processing system according to the present invention includes an augmented reality presentation device capable of combining and displaying real space and computer graphics image data, a communication device possessed by a user, and an information processing device. In the system, the communication device includes transmission means for transmitting identification information, and the information processing device includes reception means for receiving the identification information transmitted from the communication device possessed by a user, and the identification An acquisition unit configured to acquire information related to the user corresponding to the information; and a transmission unit configured to transmit information related to the user to the augmented reality presentation device , wherein the augmented reality presentation device includes the user The computer graphics image data indicating the related information is combined with the real space and displayed.
本発明によれば、視界が悪いエリアであっても、リアルタイムに混雑状態を把握することが可能となる。 According to the present invention, it is possible to grasp the congestion state in real time even in an area with poor visibility.
以下、本発明の好適な実施形態を、添付図面を参照しながら詳細に説明する。 DESCRIPTION OF EMBODIMENTS Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings.
図1は、本発明の実施形態に係るスキー場案内システムの構成を示す図である。図1に示すように、本実施形態に係るスキー場案内システムは、スキーヤーが装着するゴーグル100と、赤外線カメラ200a〜hと、スキー場管理サーバ300とを備える。赤外線カメラ200a、b、d〜hは、リフト乗り場401〜406においてリフトの順番待ちをしているスキーヤーの状況を撮影可能な場所に設置されている。赤外線カメラ200cは、急カーブやジャンプ台等のけが人多発エリア407を撮影可能な場所に設置されている。赤外線カメラ200hは、レストラン408内の混雑状況が撮影可能な場所に設置されている。なお、ゴーグル100及び赤外線カメラ200a〜hは夫々、スキー場管理サーバ300と無線通信回線を介して接続されている。
FIG. 1 is a diagram showing a configuration of a ski resort guidance system according to an embodiment of the present invention. As shown in FIG. 1, the ski resort guidance system according to the present embodiment includes
ゴーグル100は、フレームに装着されるディスプレイ上において現実空間に整合する位置にコンピュータグラフィックス画像データを表示することにより、拡張された現実感を提示することが可能なHMD(ヘッドマウントディスプレイ)である。以下では、このような拡張された現実感を与えるコンピュータグラフィックス画像データの表示を、AR(Augmented Reality)表示と称することがある。HMDには、非透過型、ビデオ透過型、光学透過型等の様々な方式があるが、本実施形態におけるゴーグル100には何れの方式を採用してもよい。またAR表示とは、これらの何れかの方式によってゴーグル100のディスプレイに映し出される現実空間に対して整合する位置にコンピュータグラフィックス画像データを重畳表示させることである。例えば、光学透過型であれば、シースルーで見える現実空間に対してコンピュータグラフィックス画像データが重畳表示され、ビデオ透過型であれば、ビデオカメラで撮影された現実空間に対してコンピュータグラフィックス画像データが重畳表示される。
The
本実施形態においては、スキーヤーが装着するゴーグル型のAR表示デバイスを例に挙げているが、本発明はこれに限定されない。即ち、ユーザが所持し、撮像部によって撮影された現実空間をディスプレイに表示し、表示された現実空間にコンピュータグラフィックス画像データを合成表示する携帯端末型のAR表示デバイスに適用してもよい。さらに、スノーモービル、雪上車及び雪圧車等の運転席において視線方向に設置され、光学的に透過して映し出される現実空間にコンピュータグラフィックス画像データを合成表示するようなヘッドアップディスプレイ型のAR表示デバイスに適用してもよい。 In this embodiment, a goggle-type AR display device worn by a skier is taken as an example, but the present invention is not limited to this. That is, the present invention may be applied to a mobile terminal type AR display device that is possessed by a user and displays a real space photographed by the imaging unit on a display and displays computer graphics image data in the displayed real space. Furthermore, a head-up display AR that is installed in the line of sight in the driver's seat of a snowmobile, snow vehicle, snow pressure wheel, etc., and displays computer graphics image data in a real space that is optically transmitted and projected. You may apply to a display device.
また、現実空間に整合させてコンピュータグラフィックス画像データを表示させる際には、現実空間のオブジェクトとコンピュータグラフィックス画像データとの座標合わせが行われる。座標合わせの手法としては、ゴーグル100の位置(緯度、経度)と姿勢(方向、仰角)とに基づいて、スキーヤーがディスプレイ越しに現実空間のどこを見ているのかを推定し、推定した位置に整合するようにコンピュータグラフィックス画像データを合成してもよい。また、現実空間のオブジェクトにマーカを付けておき、そのマーカをゴーグル100に装着された撮像部で撮影し、撮影された画像データから当該マーカの位置を検出し、検出した位置と整合するように、或いは、検出したマーカ位置を基準にして当該マーカからの相対的な位置にコンピュータグラフィックス画像データを合成してもよい。さらに、撮像部で捉えた現実空間の画像データを解析することにより現実空間のオブジェクトの位置を検出し、検出した位置と整合するようにコンピュータグラフィックス画像データを合成してもよい。
When computer graphics image data is displayed in alignment with the real space, the coordinates of the real space object and the computer graphics image data are aligned. As a method of coordinate alignment, based on the position (latitude, longitude) and posture (direction, elevation angle) of the
赤外線カメラ200a〜hは、リフト乗り場401〜406、けが人多発エリア407及びレストラン408等、スキー場における所定のエリア毎に設置されている。赤外線カメラ200a〜hは、所定のタイミングで撮影動作を行い、撮影した画像データをスキー場管理サーバ300に対して逐次送信する。本発明においては、赤外線カメラ以外にも、可視光カメラを使用してもよいが、可視光カメラでは、天候によって鮮明に画像データを取得することができないことがあるため、赤外線カメラを使用した方が好適である。また、赤外線カメラや可視光カメラ以外にも、悪天候時でもスキーヤーを良好に検出することができる温度センサを各エリアに設置してもよい。
The
スキー場管理サーバ300は、赤外線カメラや可視光カメラから送信される画像データに基づいて、各エリアのスキーヤーの人口密度を解析する。人口密度の解析方法としては、例えば、画像認識技術により画像データからスキーヤーを検出し、当該画像データの全画素数に対するスキーヤーの画像領域の画素数の割合を人口密度として算出する。また、温度センサにより生成されるサーモグラフィ(熱分布画像)を用いて人口密度を算出する場合には、サーモグラフィにおける所定の温度以上の領域をスキーヤーとして認識し、当該サーモグラフィの全画素数に対するスキーヤーの画像領域の画素数の割合を人口密度として算出する。その際、スキーヤー以外の元々存在する高温領域を差し引いて人口密度を算出することにより、より高い精度で人口密度を算出することができる。なお、図1に示すシステム構成は飽くまでも本発明の一適用例を示したものである。従って、赤外線カメラの数及び配置場所、スキーヤーが装着するゴーグルの数、並びに、スキー場管理サーバの数等は任意であってよい。
The ski
図2Aは、スキー場管理サーバ300のハードウェア構成を示す図である。CPU3001は、システムバスに接続される各デバイスを総括的に制御する。ROM3003又はHD(ハードディスク)3006には、CPU3001の制御プログラムであるBIOS(Basic Input / Output system)やオペレーティングシステムプログラム、例えば図4A及び図4Bに示す処理や、図4Cに示す処理のうちスキー場管理サーバ300が実行する処理のプログラム等が記憶されている。
FIG. 2A is a diagram illustrating a hardware configuration of the ski
なお、図2Aの例では、HD3006はスキー場管理サーバ300の内部に配置された構成としているが、他の実施形態としてHD3006に相当する構成がスキー場管理サーバ300の外部に配置された構成としてもよい。また、例えば本実施形態に係る図4A及び図4Bに示す処理や、図4Cに示す処理のうちスキー場管理サーバ300が実行する処理を行うためのプログラムは、CD−ROM等のコンピュータ読み取り可能な記録媒体に記録され、当該記録媒体から供給される構成としてもよいし、インターネット等の通信媒体を介して供給される構成としてもよい。
In the example of FIG. 2A, the
RAM3002は、CPU3001の主メモリ、ワークエリア等として機能する。HD3006は、外部メモリとして機能する。具体的には各スキー場の三次元地図情報等を記憶している。CPU3001は、処理の実行に際して必要なプログラムをRAM3002にロードして、プログラムを実行することで各種動作を実現するものである。ディスクコントローラ3005は、HD3006等の外部メモリへのアクセスを制御する。通信I/Fコントローラ3004は、無線通信回線と接続し、外部との通信を制御する。
The
図2Bは、本実施形態に係るゴーグル100のハードウェア構成を示す図である。CPU1001は、システムバスに接続される各デバイスを総括的に制御する。ROM1003には、例えば図4Cに示す処理のうちゴーグル100が実行する処理のプログラム等が記憶されている。なお、図4Cに示す処理のうちゴーグル100が実行する処理を実行するためのプログラムは、インターネット等の通信媒体を介して供給される構成としてもよい。
FIG. 2B is a diagram illustrating a hardware configuration of the
RAM1002は、CPU1001の主メモリ、ワークメモリ等して機能する。CPU1001は、処理の実行に際して必要なプログラム等をRAM1002にロードして、プログラムを実行することで各種動作を実現するものである。通信I/Fコントローラ1004は、無線通信回線と接続し、外部との通信を制御する。ディスプレイコントローラ1006は、ディスプレイ1007における画像表示を制御する。本実施形態においてディスプレイ1007には、ゴーグル100のフレームに搭載される小型ディスプレイを採用するものとする。更に、ゴーグル100の位置や姿勢を検知するための位置センサと姿勢センサを備える。なお、上述の通り、ビデオ透過型のAR表示を行う場合には、図示しないが撮影部も備える。
The
図3は、スキー場管理サーバ300の機能的な構成を示す図である。図3において、画像データ入力部301は、赤外線カメラ200a〜hによって撮影された各画像データを入力(受信)する。人口密度解析部302は、画像データ入力部301によって入力される、赤外線カメラ200a、b、d〜hによって撮影された画像データに基づいて、エリア毎にスキーヤーの人口密度を解析する。即ち、人口密度解析部302は、赤外線カメラ200a、b、d〜hによって撮影された各画像データに対して画像認識技術を用いることにより各エリアのスキーヤーを検出し、各エリアの画像データの全画素数に対するスキーヤーの画像領域の画素数の割合を人口密度として算出する。なお、人口密度解析部302は、所定時間間隔(例えば、10分間隔)で人口密度を解析し、その履歴を人口密度管理テーブル304に登録する。
FIG. 3 is a diagram illustrating a functional configuration of the ski
けが人識別部303は、画像データ入力部301によって入力される、赤外線カメラ200cによって撮影された画像データに基づいて、けが人多発エリア407におけるけが人の有無を判定する。即ち、けが人識別部303は、赤外線カメラ200cによって撮影された画像データに対して画像認識技術を用いることによりスキーヤーの動きを監視し、所定時間(例えば、10分)以上動きが検出されないスキーヤーが存在する場合、当該スキーヤーをけが人として判定する。なお、けが人識別部303は、所定時間間隔(例えば、10分間隔)でけが人の有無を判定し、その履歴をけが人管理テーブル305に登録する。
The injured
人口密度管理テーブル304は、人口密度解析部302によって解析された人口密度の履歴をエリア(ここでは、リフト乗り場やレストラン)毎に管理する。けが人管理テーブル305は、けが人識別部303によって判定されたけが人の有無の履歴をけが人多発エリア毎に管理する。
The population density management table 304 manages the history of population density analyzed by the population
リクエスト受付部306は、スキーヤーが装着しているゴーグル100から、当該ゴーグル100の位置及び姿勢を含むリクエストを受け付ける。ユーザ視界判定部307は、リクエスト受付部306によって受け付けられたリクエストに含まれるゴーグル100の位置及び姿勢に基づいて、当該ゴーグル100を装着しているスキーヤーの視界を判定する。
The
第1のデータ抽出部308は、ユーザ視界判定部307によって判定された視界に含まれるエリアを判定し、判定したエリアに該当する人口密度の履歴のうち、最新の人口密度を人口密度管理テーブル304から抽出する。第2のデータ抽出部309は、ユーザ視界判定部307によって判定された視界に含まれるエリアを判定し、判定したエリアに該当するけが人の有無の履歴のうち、最新のけが人の有無をけが人管理テーブル305から抽出する。CG生成部310は、第1のデータ抽出部308によって抽出された最新の人口密度に基づいて、該当するエリアにおけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データを生成する。また、CG生成部310は、第2のデータ抽出部309によって抽出された情報(最新のけが人の有無)においてけが人が存在することが示されていた場合、該当するエリアにおいてけが人が存在することを示すコンピュータグラフィックス画像データを生成する。そしてCG生成部310は、生成したコンピュータグラフィックス画像データを、リクエスト受付部306においてリクエストを受け付けたゴーグル100に対して送信する。ゴーグル100は、現実空間に整合させてコンピュータグラフィックス画像データをAR表示する。
The first
なお、図3におけるリクエスト受付部306及び画像データ入力部301は、図2Aにおける通信I/Fコントローラ3004に相当する構成である。また、図3におけるユーザ視界判定部307、人口密度解析部302、けが人識別部303、第1のデータ抽出部308、第2のデータ抽出部309及びCG生成部310は、CPU3001がHD3006からプログラムをRAM3002にロードして実行することにより実現される構成である。また、人口密度管理テーブル304及びけが人管理テーブル305は、RAM3002の一部記憶領域に相当する構成である。
Note that the
次に、図4A〜図4Cを参照しながら、スキー場管理サーバ300の処理について説明する。図4Aは、スキー場管理サーバ300が赤外線カメラ200a、b、d〜hから画像データを入力し、エリア毎に人口密度の解析処理を実行して、それらの履歴を管理するまでの処理を示すフローチャートである。
Next, processing of the ski
ステップS401において、画像データ入力部301は、赤外線カメラ200a、b、d〜hからの何れかから画像データを入力(受信)したか否かを判定する。画像データを入力した場合、処理はステップS402に移行する。一方、画像データを入力していない場合、処理はステップS401に戻り、画像データの入力を待つ。
In step S401, the image
ステップS402において、人口密度解析部302は、画像データ入力部301において入力された画像データに基づいて、該当するエリアのスキーヤーの人口密度を解析する。ステップS403において、人口密度解析部302は、エリア及び人口密度の解析時刻と対応付けて人口密度の解析結果を人口密度管理テーブル304に登録する。なお、上述したステップS401〜S403は、繰り返し実行される処理である。
In step S <b> 402, the population
図4Bは、スキー場管理サーバ300が赤外線カメラ200cから画像データを入力し、けが人多発エリア407におけるけが人の有無の判定処理を実行して、その履歴を管理するまでの処理を示すフローチャートである。
FIG. 4B is a flowchart showing a process from when the ski
ステップS404において、画像データ入力部301は、赤外線カメラ200cから画像データを入力(受信)したか否かを判定する。画像データを入力した場合、処理はステップS405に移行する。一方、画像データを入力していない場合、処理はステップS404に戻り、画像データの入力を待つ。
In step S404, the image
ステップS405において、けが人識別部303は、画像データ入力部301において入力された画像データに基づいて、けが人多発エリア407におけるけが人の有無を判定する。ステップS406において、けが人識別部303は、けが人多発エリア407及びけが人有無の判定時刻と対応付けてけが人の有無に関する判定結果をけが人管理テーブル305に登録する。なお、上述したステップS404〜S406は、繰り返し実行される処理である。
In step S <b> 405, the injured
図4Cは、ゴーグル100がリクエストを発行し、スキー場管理サーバ300において生成されたコンピュータグラフィックス画像データをAR表示するまでの処理を示すフローチャートである。
FIG. 4C is a flowchart illustrating a process from when the
ステップS410において、ゴーグル100は、当該ゴーグル100の位置及び姿勢を含むリクエストを発行する。ゴーグル100でのリクエスト発行は、短時間に繰り返し行うことにより後述するARでの重畳表示内容にリアルタイム性のある情報となる。但し、この場合は通信やゴーグル100およびスキー場管理サーバ300での情報処理負荷が高くなることもあるため、例えばスキーヤーが止まっているときにだけ発行してもよい。或いは、スキーヤーのスイッチ操作によってリクエストの発行を行ったり、重畳表示のON/OFFを切り替えたりしてもよい。スイッチはゴーグル100に備えていてもよいし、スキーヤーが所持するストックやリフトチケット(カードやICチップ媒体など)に備えていてもよい。ストック等にスイッチを備える場合、無線通信機能もストック等に組み込んでおき、ゴーグル100との間では無線通信でスイッチ情報を送信することが好ましい。
In step S410, the
ステップS411において、スキー場管理サーバ300のリクエスト受付部306は、ゴーグル100からリクエストを受け付ける。ステップS412は、スキー場管理サーバ300のユーザ視界判定部307は、リクエストに含まれる位置及び姿勢に基づいて、当該ゴーグル100を装着するスキーヤーの視界を判定する。次に処理はステップS413及びS415の双方に移行する。以下、ステップS413及びS415を個別に説明するが、これはどちらか単独で処理してもよく、或いは並列処理で同時に行ってもよい。
In step S <b> 411, the
ステップS413において、第1のデータ抽出部308は、ユーザ視界判定部307によって判定された視界に含まれるエリアを判定し、判定したエリアに該当する人口密度の履歴のうち、最新の人口密度を人口密度管理テーブル304から抽出する。ステップS414において、CG生成部310は、第1のデータ抽出部308によって抽出された最新の人口密度に基づいて、該当するエリアにおけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データを生成する。
In step S413, the first
また、ステップS415において、第2のデータ抽出部309は、ユーザ視界判定部307によって判定された視界に含まれるエリアを判定し、判定したエリアに該当するけが人の有無の履歴のうち、最新のけが人の有無をけが人管理テーブル305から抽出する。ステップS416において、CG生成部310は、第2のデータ抽出部309によって抽出された情報においてけが人が存在することが示されているか否かを判定する。けが人が存在することが示されている場合、処理はステップS417に移行する。一方、けが人が存在することが示されていない場合、処理はステップS417をスキップしてステップS418に移行する。ステップS417において、CG生成部310は、けが人が存在することを示すコンピュータグラフィックス画像データを生成する。
In step S415, the second
ステップS418において、CG生成部310は、ステップS414で生成したコンピュータグラフィックス画像データ、又は、ステップS414及びS417で生成したコンピュータグラフィックス画像データをゴーグル100に対して送信する。ステップS419において、ゴーグル100は、スキー場管理サーバ300からコンピュータグラフィックス画像データを受信する。ステップS420において、ゴーグル100は、受信したコンピュータグラフィックス画像データをAR表示する。本実施形態では、コンピュータグラフィックス画像データをスキー場管理サーバ300側で生成するようにしているが、必要な情報をスキー場管理サーバ300からゴーグル100に与え、ゴーグル100側でコンピュータグラフィックス画像データを生成するようにしてもよい。
In step S418, the
図5A〜図5Cは、ゴーグル100におけるAR表示例を示す図である。より具体的には、図5Aは、ゴーグル100を装着したスキーヤーが図1の地点Aに位置する場合のAR表示例を示している。図5Bは、ゴーグル100を装着したスキーヤーが図1の地点Bに位置する場合のAR表示例を示している。図5Cは、ゴーグル100を装着したスキーヤーが図1の地点Cに位置する場合のAR表示例を示している。
5A to 5C are diagrams illustrating an AR display example in the
図1に示すように、ゴーグル100を装着したスキーヤーが地点Aに存在する場合、当該スキーヤーの視線方向(滑走方向)の右手にはリフト乗り場401が見え、左手にはリフト乗り場402が見える。スキー場管理サーバ300は、スキーヤーが地点Aに存在するときにゴーグル100から発行されたリクエスト(位置、傾き含む)に基づいて、スキーヤーの視界にリフト乗り場401、402が含まれていると判定する。そしてスキー場管理サーバ300は、リフト乗り場401、402のエリアに対応する最新の人口密度を取得し、リフト乗り場401、402におけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データを生成する。生成されたコンピュータグラフィックス画像データはスキー場管理サーバ300からゴーグル100に対して送信される。すると、図5Aに示すように、ゴーグル100は、リフト乗り場401におけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データ502と、リフト乗り場402におけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データ501とをAR表示する。
As shown in FIG. 1, when a
図5Aに示すように、ゴーグル100では、コンピュータグラフィックス画像データ501、502が夫々、現実空間に整合する位置に合成表示されるので、スキーヤーの視線方向の右手にリフト乗り場401の人口密度を示すコンピュータグラフィックス画像データ502が表示され、スキーヤーの視線方向の左手にリフト乗り場402の人口密度を示すコンピュータグラフィックス画像データ501が表示される。なお、図5Aの例では、人口密度を示すコンピュータグラフィックス画像データにおいて「空き状態」や「混雑中」という情報を提示しているが、画像データの全画素数に対するスキーヤーの画像領域の割合が所定の値(例えば、50%)以上である場合に「混雑中」を表すコンピュータグラフィックス画像データを生成し、そうでない場合に「空き状態」を表すコンピュータグラフィックス画像データを生成している。また、ゴーグル100からのリクエストには当該ゴーグル100の位置が含まれているため、ゴーグル100の位置から各リフト乗り場401、402までの距離や方向を表す情報をコンピュータグラフィックス画像データにおいて提示している。これにより、各エリアにおける人又は物の密度をリアルタイムに提示することが可能となり、視界が悪くても、スキーヤーは各エリアの混雑状況を把握することが可能となる。
As shown in FIG. 5A, in the
また、図1に示すように、ゴーグル100を装着したスキーヤーが地点Bに存在する場合、当該スキーヤーの視線方向(滑走方向)の右手にはリフト乗り場403が見え、左手にはけが人多発エリア407が見える。スキー場管理サーバ300は、スキーヤーが地点Bに存在するときにゴーグル100から発行されたリクエスト(位置、傾き含む)に基づいて、スキーヤーの視界にリフト乗り場403、けが人多発エリア407が含まれていると判定する。そしてスキー場管理サーバ300は、リフト乗り場403に対応する最新の人口密度とけが人多発エリア407に対応する最新のけが人の有無とを取得する。ここでは、けが人多発エリア407に対応する最新のけが人の有無には、けが人が存在することが示されているものとする。スキー場管理サーバ300は、リフト乗り場403におけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データ504を生成するとともに、けが人多発エリア407にけが人が存在することを示すコンピュータグラフィックス画像データ503を生成する。生成されたコンピュータグラフィックス画像データはスキー場管理サーバ300からゴーグル100に対して送信される。すると、図5Bに示すように、ゴーグル100は、リフト乗り場403におけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データ504と、けが人多発エリア407にけが人が存在していることを示すコンピュータグラフィックス画像データ503とをAR表示する。
Also, as shown in FIG. 1, when a
図5Bに示すように、ゴーグル100では、コンピュータグラフィックス画像データ503、504が夫々、現実空間に整合する位置に合成表示されるので、スキーヤーの視線方向の右手にリフト乗り場403の人口密度を示すコンピュータグラフィックス画像データ504が表示され、スキーヤーの視線方向の左手にけが人の存在を示すコンピュータグラフィックス画像データ504が表示される。なお、図5Bの例においても、ゴーグル100の位置からリフト乗り場403、けが人多発エリア407までの距離や方向を表す情報がコンピュータグラフィックス画像データにおいて提示されている。これにより、視界が悪くても、けが人多発エリアにおいてけが人が発生しているか否かをスキーヤーは把握することが可能となる。
As shown in FIG. 5B, in the
また、図1に示すように、ゴーグル100を装着したスキーヤーが地点Cに存在する場合、当該スキーヤーの視線方向(滑走方向)の正面にはレストラン408が見える。スキー場管理サーバ300は、スキーヤーが地点Cに存在するときにゴーグル100から発行されるリクエスト(位置、傾き含む)に基づいて、スキーヤーの視界にレストラン408が含まれていると判定する。そしてスキー場管理サーバ300は、レストラン408に対応する最新の人口密度を取得し、レストラン408におけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データ505を生成する。生成されたコンピュータグラフィックス画像データ505はスキー場管理サーバ300からゴーグル100に対して送信される。すると、図5Cに示すように、ゴーグル100では、レストラン408におけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データ505がAR表示されるので、スキーヤーの視線方向の正面にレストラン408に対応する最新の人口密度を示すコンピュータグラフィックス画像データ505がAR表示される。
Also, as shown in FIG. 1, when a
上述した実施形態においては、ゴーグル100を装着したスキーヤーの視界に含まれるエリアについてのみ、人口密度やけが人の存在に関する情報を含むコンピュータグラフィックス画像データを生成し、AR表示しているが、本発明はこれに限定されない。即ち、ゴーグル100を装着したスキーヤーの視界に間接的に関連するエリア(例えば、スキーヤーから直接見ることはできないエリアであるが、スキーヤーが滑走する可能性のあるエリア)のリフト乗り場やけが人多発エリアに関するコンピュータグラフィックス画像データを生成し、AR表示してもよい。また、リフト乗り場やレストランだけではなく、コースについても人口密度を示すコンピュータグラフィックス画像データを生成するようにしてもよい。また、これはスキーヤーなどの人間だけを検知対象にする必要はなく、例えば、滑走エリアの積雪が少なく地面が露出している場所を検知して「この先積雪不足」などのAR表示を行ってもよい。この場合も雪面と地面(草地や表土)とを画像処理により判別したり、或いは赤外線カメラや温度センサによる温度の差異を検知することを利用すればよい。さらに、人口密度管理テーブル304では人口密度の履歴を管理しており、けが人管理テーブル305ではけが人の有無の履歴を管理しているため、ゴーグル100において、それらの履歴に基づく情報を含むコンピュータグラフィックス画像データをAR表示するようにしてもよい。例えば、現時点から30分前までの人口密度の履歴をAR表示することにより、スキーヤーは最近の人口密度の推移状況を把握することが可能となり、将来の人口密度の予測に役立てることができる。また、現時点から30分前までのけが人の有無の履歴をAR表示することにより、スキーヤーはどれぐらい前からけが人が発生していたのかを把握することが可能となる。
In the embodiment described above, computer graphics image data including information regarding population density and the presence of an injured person is generated and displayed in AR only for an area included in the field of view of a skier wearing the
次に、本発明の他の実施形態について説明する。本実施形態に係るスキー場案内システムは、上述した実施形態に係るスキー場案内システム構成に加え、スキーヤーが所持するリフト券に搭載されたID発信機と、スキー場の各地点に設置され、ID発信機から発信されるID(ユーザ識別情報)を受信するID受信機とを備える。スキーヤーはけがを負う等の緊急事態時にリフト券のID発信機を操作し、IDを発信させる。ID発信機から発信されたIDは、最寄りのID受信機によって受信される。ID受信機は、IDとともに当該ID受信機の位置情報を図1のスキー場管理サーバ300に送信する。スキー場管理サーバ300は、ID及びID受信機の位置情報を受信すると、当該IDに対応するユーザ情報を検索する。
Next, another embodiment of the present invention will be described. In addition to the ski resort guidance system configuration according to the embodiment described above, the ski resort guidance system according to the present embodiment is installed at an ID transmitter mounted on a lift ticket owned by a skier, and at each point of the ski resort, An ID receiver that receives an ID (user identification information) transmitted from the transmitter. The skier operates the lift ticket ID transmitter in the event of an emergency such as injury, and transmits the ID. The ID transmitted from the ID transmitter is received by the nearest ID receiver. The ID receiver transmits the position information of the ID receiver together with the ID to the ski
図6は、スキー場管理サーバ300において保持されるユーザ情報管理テーブルの例を示す図である。図6に示すように、ユーザ情報管理テーブルでは、ID毎にユーザ情報(名前、性別、体重、身長、スキーウェアの色)が管理されている。なお、ユーザ情報はここに挙げた情報だけではなく、任意の情報を追加してもよい。スキー場管理サーバ300は、IDを受信すると、当該IDに対応付けて管理されるユーザ情報をユーザ情報管理テーブルから取得する。そしてスキー場管理サーバ300は、緊急事態が発生した旨と取得したユーザ情報とID受信機の位置情報とを示すコンピュータグラフィックス画像データを生成し、パトロール隊のゴーグル100に対して送信する。すると、パトロール隊のゴーグル100は、スキー場管理サーバ300から受信したコンピュータグラフィックス画像データをAR表示する。
FIG. 6 is a diagram illustrating an example of a user information management table held in the ski
図7は、上記のようにして受信したコンピュータグラフィックス画像データをパトロール隊のゴーグル100がAR表示した例を示す図である。図7に示すように、スキーヤーの位置としてのID受信機の位置(200m先)と、緊急事態が発生した旨(SOS発生!!)と、ユーザ情報(ID、名前、性別、体重、身長、スキーウェアの色)とを示すコンピュータグラフィックス画像データをAR表示する。このようにパトロール隊に対してID受信機の位置とけが人のユーザ情報とを通知することができるため、けが人の位置及びけが人の属性を把握することが可能となり、けが人を早急に救助することができる。また、スキー場のコース等の各エリアの人口密度を併せてAR表示することによって、救助の際、人口密度が低いコースを選択してスノーモービルで救助に向かうことが可能になる。
FIG. 7 is a diagram illustrating an example in which the computer graphics image data received as described above is AR-displayed by the
本実施形態では、各スキーヤーにID発信機を所持させるようにしているが、その他の実施形態としてGPS携帯端末を所持させるようにしてもよい。GPS携帯端末からスキーヤーのIDと、スキーヤーの位置を示す情報としての当該GPS携帯端末の位置を示す情報とをスキー場管理サーバ300に対して送信することにより、より正確にスキーヤーの位置をパトロール隊に通知することが可能となる。またこの場合、IDを中継するためのID受信機をスキー場に設置する必要がなくなる。
In this embodiment, each skier is allowed to have an ID transmitter. However, as another embodiment, a GPS portable terminal may be held. By transmitting the skier ID from the GPS portable terminal and the information indicating the position of the GPS portable terminal as information indicating the position of the skier to the ski
以上では、視界が悪い環境の例としてスキー場を挙げたが、これ以外にも、例えば、自転車のロードレースにおいても天候の影響で視界不良となるケースが多く、ロードレースの各選手にも上述したようなゴーグルを装着させることにより、レース中に人口密度やけが人の有無等に関する情報を把握することが可能となる。また、サッカー観戦の際、試合会場の入り口付近からでは試合会場内の観戦席の空き状況を把握することができないため、一旦入り口から階段を昇って実際に観戦席を見てどの辺が空いているのか判断することがある。しかしながら、試合会場の入り口付近で上述したようなAR表示を利用することにより、実際に観戦席が見えるところまで足を運ばなくても、どの辺の観戦席が空いているかを把握することが可能となる。 In the above, a ski resort has been cited as an example of an environment with poor visibility, but in addition to this, for example, there are many cases where visibility is poor due to the influence of the weather even in bicycle road races, and each athlete in the road race also mentioned above. By wearing such goggles, it becomes possible to grasp information regarding the population density and the presence or absence of injured persons during the race. In addition, when watching a soccer game, it is impossible to grasp the vacant seats in the game venue from the vicinity of the entrance of the game venue. It may be judged whether there is. However, by using the AR display as described above near the entrance of the game hall, it is possible to grasp which side of the spectator seat is vacant without having to go to the place where the spectator seat can actually be seen. It becomes.
また、上述した実施形態では、各エリアの人口密度をAR表示しているが、人口密度に限らず、同様に各エリアにおける自動車等の物の密度を解析し、AR表示してもよい。
なお、上述したように、重畳表示はスキーヤー(ユーザ)のスイッチ操作によって表示/非表示を切り替えられるものであるが、手の操作による切り替えだけでなく、ゴーグルの姿勢センサを利用して特定の動作をスイッチ機能として利用してもよい。例えば二度頷く動作で表示/非表示を切り替えてもよい。
In the above-described embodiment, the population density of each area is displayed as AR. However, the present invention is not limited to the population density, and the density of an object such as a car in each area may be similarly analyzed and displayed as AR.
As described above, the superimposed display can be switched between display and non-display by a switch operation of a skier (user). May be used as a switch function. For example, the display / non-display may be switched by a two-time operation.
100:ゴーグル(スキーヤーが保持する拡張現実感提示装置)、200a〜200h:赤外線カメラ、300:スキー場管理サーバ、401〜406:リフト乗り場、407:けが人多発エリア、408:レストラン 100: Goggles (augmented reality presentation device held by a skier), 200a to 200h: Infrared camera, 300: Ski management server, 401 to 406: Lift platform, 407: Injury-prone area, 408: Restaurant
Claims (9)
前記通信装置は、識別情報を送信する送信手段を有し、
前記情報処理装置は、
ユーザが所持する前記通信装置から送信された前記識別情報を受信する受信手段と、
前記識別情報に対応する前記ユーザに係る情報を取得する取得手段と、
前記ユーザに係る情報を前記拡張現実感提示装置に対して送信する送信手段とを有し、
前記拡張現実感提示装置は、
前記ユーザに係る情報を示すコンピュータグラフィックス画像データを現実空間に合成させて表示することを特徴とする情報処理システム。 An information processing system having an augmented reality presentation device capable of combining and displaying real space and computer graphics image data, a communication device possessed by a user, and an information processing device,
The communication device has a transmission means for transmitting identification information,
The information processing apparatus includes:
Receiving means for receiving the identification information transmitted from the communication device possessed by a user;
Obtaining means for obtaining information relating to the user corresponding to the identification information;
Transmission means for transmitting information relating to the user to the augmented reality presentation device ;
The augmented reality presentation device includes:
An information processing system characterized in that computer graphics image data indicating information relating to the user is combined with a real space and displayed.
前記情報処理装置の前記送信手段は、前記ユーザの位置を示す情報を前記拡張現実感提示装置に送信し、
前記拡張現実感提示装置は、
前記ユーザの位置を示すコンピュータグラフィックス画像データを現実空間に合成させて表示することを特徴とする請求項1に記載の情報処理システム。 The receiving means receives information indicating the position of the user;
The transmission means of the information processing device transmits information indicating the position of the user to the augmented reality presentation device,
The augmented reality presentation device includes:
The information processing system according to claim 1, wherein computer graphics image data indicating the position of the user is combined with a real space and displayed.
前記受信手段は、前記受信装置から前記識別情報及び前記ユーザの位置を示す情報を受信することを特徴とする請求項2に記載の情報処理システム。 The information processing system further includes a receiving device that receives the identification information from the communication device and transmits information indicating the position of the communication device to the information processing device as information indicating the position of the user together with the identification information. Have
The information processing system according to claim 2 , wherein the receiving unit receives the identification information and information indicating the position of the user from the receiving device .
前記受信手段は、前記識別情報とともに、前記ユーザの位置を示す情報として前記GPS携帯端末の位置を示す情報を前記GPS携帯端末から受信することを特徴とする請求項2又は3に記載の情報処理システム。 The communication device is a GPS mobile terminal,
4. The information processing according to claim 2 , wherein the receiving unit receives information indicating the position of the GPS portable terminal from the GPS portable terminal as information indicating the position of the user together with the identification information. system.
前記情報処理装置は、
前記複数の情報取得装置によって取得された各エリアに係る情報に基づいて、エリア毎に人又は物の密度を解析する解析手段と、
前記拡張現実感提示装置の状態に対応するエリアを判定する判定手段とをさらに有し、
前記送信手段は、前記拡張現実感提示装置の状態に対応するエリアにおける人又は物の密度を示す情報を第2の拡張現実感提示装置に対して送信し、
前記拡張現実感提示装置は、
前記人又は物の密度を示すコンピュータグラフィックス画像データを現実空間に合成させて表示することを特徴とする請求項1乃至4何れか1項に記載の情報処理システム。 The information processing system further includes a plurality of information acquisition devices that sequentially acquire information related to a target area,
The information processing apparatus includes:
Based on information relating to each area acquired by the plurality of information acquisition devices, analysis means for analyzing the density of people or things for each area;
Determination means for determining an area corresponding to the state of the augmented reality presentation device;
The transmitting means transmits information indicating the density of a person or an object in an area corresponding to the state of the augmented reality presentation device to the second augmented reality presentation device,
The augmented reality presentation device includes:
The information processing system according to any one of claims 1 to 4, characterized in that displaying the person or computer graphics image data representing the density of the object by combining the real space.
前記通信装置が、識別情報を送信する第1の送信ステップと、A first transmission step in which the communication device transmits identification information;
前記情報処理装置が、ユーザが所持する前記通信装置から送信された前記識別情報を受信する受信ステップと、A receiving step in which the information processing device receives the identification information transmitted from the communication device possessed by a user;
前記情報処理装置が、前記識別情報に対応する前記ユーザに係る情報を取得する取得ステップと、The information processing apparatus acquires an information relating to the user corresponding to the identification information; and
前記情報処理装置が、前記ユーザに係る情報を前記拡張現実感提示装置に対して送信する第2の送信ステップと、A second transmission step in which the information processing apparatus transmits information relating to the user to the augmented reality presentation apparatus;
前記拡張現実感提示装置が、前記ユーザに係る情報を示すコンピュータグラフィックス画像データを現実空間に合成させて表示する表示ステップとA display step in which the augmented reality presentation device synthesizes and displays computer graphics image data indicating information related to the user in a real space;
を含むことを特徴とする情報処理方法。An information processing method comprising:
前記送信ステップにおいて、情報処理装置は、前記ユーザの位置を示す情報を前記拡張現実感提示装置に送信し、In the transmission step, the information processing apparatus transmits information indicating the position of the user to the augmented reality presentation apparatus,
前記表示ステップにおいて、前記拡張現実感提示装置は、前記ユーザの位置を示すコンピュータグラフィックス画像データを現実空間に合成させて表示することを特徴とする請求項6に記載の情報処理方法。The information processing method according to claim 6, wherein, in the display step, the augmented reality presentation device displays computer graphics image data indicating the position of the user by combining it with a real space.
前記通信装置のコンピュータに、識別情報を送信する送信ステップを実行させ、
前記情報処理装置のコンピュータに、
ユーザが所持する前記通信装置から送信された前記識別情報を受信する受信ステップと、
前記識別情報に対応する前記ユーザに係る情報を取得する取得ステップと、
前記ユーザに係る情報を前記拡張現実感提示装置に対して送信する送信ステップとを実行させ、
前記拡張現実感提示装置のコンピュータに、
前記ユーザに係る情報を示すコンピュータグラフィックス画像データを現実空間に合成させて表示するステップを実行させることを特徴とするプログラム。 An information processing method executed by an information processing system having an augmented reality presentation device capable of combining and displaying real space and computer graphics image data, a communication device possessed by a user, and an information processing device A program for causing a computer to execute
Causing the computer of the communication device to execute a transmission step of transmitting identification information;
In the computer of the information processing apparatus,
A receiving step of receiving the identification information transmitted from the communication device possessed by a user;
An acquisition step of acquiring information relating to the user corresponding to the identification information;
Transmitting information related to the user to the augmented reality presentation device, and
In the computer of the augmented reality presentation device,
A program for executing a step of combining computer graphics image data indicating information on the user with a real space for display.
前記送信ステップにおいて、情報処理装置は、前記ユーザの位置を示す情報を前記拡張現実感提示装置に送信し、In the transmission step, the information processing apparatus transmits information indicating the position of the user to the augmented reality presentation apparatus,
前記表示ステップにおいて、前記拡張現実感提示装置は、前記ユーザの位置を示すコンピュータグラフィックス画像データを現実空間に合成させて表示することを特徴とする請求項8に記載のプログラム。9. The program according to claim 8, wherein in the display step, the augmented reality presentation device displays computer graphics image data indicating the position of the user by combining it with a real space.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011176631A JP5521134B2 (en) | 2011-08-12 | 2011-08-12 | Information processing system, information processing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011176631A JP5521134B2 (en) | 2011-08-12 | 2011-08-12 | Information processing system, information processing method, and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013041360A JP2013041360A (en) | 2013-02-28 |
JP5521134B2 true JP5521134B2 (en) | 2014-06-11 |
Family
ID=47889717
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011176631A Active JP5521134B2 (en) | 2011-08-12 | 2011-08-12 | Information processing system, information processing method, and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5521134B2 (en) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101662216B1 (en) * | 2015-03-26 | 2016-10-04 | 주식회사 나루씨이엠 | Positioning system in ski-slopes wireless device for ski and device for recognizing location, method for ski training using the same |
GB2538311A (en) * | 2015-05-15 | 2016-11-16 | Sony Corp | A display, method and computer program |
JP2017176312A (en) | 2016-03-29 | 2017-10-05 | セイコーエプソン株式会社 | Information notification system, information notification method and program |
CN109685254B (en) * | 2018-12-12 | 2021-04-30 | 佳顿集团有限公司 | Artificial ski field transportation system and transportation method |
CN109598448B (en) * | 2018-12-12 | 2021-05-25 | 佳顿集团有限公司 | Artificial ski field operation management system and management method |
US11623653B2 (en) | 2020-01-23 | 2023-04-11 | Toyota Motor Engineering & Manufacturing North America, Inc. | Augmented reality assisted traffic infrastructure visualization |
JP7116758B2 (en) * | 2020-06-11 | 2022-08-10 | 株式会社ポケモン | Wandering support system, walking support method, and walking support program |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3413127B2 (en) * | 1999-06-11 | 2003-06-03 | キヤノン株式会社 | Mixed reality device and mixed reality presentation method |
JP2002259581A (en) * | 2001-02-27 | 2002-09-13 | Nec Custommax Ltd | Method and system for providing information |
JP2005011284A (en) * | 2003-06-23 | 2005-01-13 | Nec Corp | System and method for evaluating transport service and evaluation center terminal |
WO2006035755A1 (en) * | 2004-09-28 | 2006-04-06 | National University Corporation Kumamoto University | Method for displaying movable-body navigation information and device for displaying movable-body navigation information |
JP2006099685A (en) * | 2004-09-30 | 2006-04-13 | Toshiba Corp | System and method for monitoring vehicle |
JP4891792B2 (en) * | 2007-01-26 | 2012-03-07 | クラリオン株式会社 | Traffic information distribution method and traffic information distribution device |
JP5653201B2 (en) * | 2010-12-15 | 2015-01-14 | 新日鉄住金ソリューションズ株式会社 | Information processing system, control method thereof, and program |
-
2011
- 2011-08-12 JP JP2011176631A patent/JP5521134B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2013041360A (en) | 2013-02-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5521134B2 (en) | Information processing system, information processing method, and program | |
US9928653B2 (en) | Head mounted display presentation adjustment | |
EP2752362B1 (en) | Image display system, image display method and program | |
US10223799B2 (en) | Determining coordinate frames in a dynamic environment | |
US20200232803A1 (en) | Generating composite images for display on a mobile device based on ground truth image rendering | |
EP3151202B1 (en) | Information processing device and information processing method | |
EP3252432A1 (en) | Information-attainment system based on monitoring an occupant | |
US20150317838A1 (en) | Registration for vehicular augmented reality using auto-harmonization | |
US20170140457A1 (en) | Display control device, control method, program and storage medium | |
US11900672B2 (en) | Integrated internal and external camera system in vehicles | |
US20200126418A1 (en) | Method and system for vehicle location | |
US20150331242A1 (en) | Head mounted display device displaying thumbnail image and method of controlling the same | |
CN104680714A (en) | Method and system for sending prompts to user | |
US9097893B2 (en) | Information processing terminal for superimposing target position on a head mounted display | |
CN109842790B (en) | Image information display method and display | |
JP4604597B2 (en) | State estimating device, state estimating method, information providing device using the same, information providing method | |
US20160332059A1 (en) | Display, method and computer program | |
JPWO2018179305A1 (en) | Travel route providing system, control method therefor, and program | |
US20140195300A1 (en) | Site of interest extraction device, site of interest extraction method, and computer-readable recording medium | |
JP2017016287A (en) | Transmission device, server device, control method, program, and storage medium | |
US11508084B2 (en) | Information processing apparatus and information processing method for accurately estimating a self location | |
JP5910729B2 (en) | Position determination system, position determination method, computer program, and position determination apparatus | |
KR102431493B1 (en) | System and method for providing vehicle function guidance and vritrual test-driving experience based on augmented reality | |
WO2020045092A1 (en) | Information processing device, information processing method, and program | |
JP6077930B2 (en) | Information management apparatus, information management system, communication terminal, and information management method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130626 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130723 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130920 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140121 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20140220 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140220 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140318 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5521134 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |