JP5521134B2 - Information processing system, information processing method, and program - Google Patents

Information processing system, information processing method, and program Download PDF

Info

Publication number
JP5521134B2
JP5521134B2 JP2011176631A JP2011176631A JP5521134B2 JP 5521134 B2 JP5521134 B2 JP 5521134B2 JP 2011176631 A JP2011176631 A JP 2011176631A JP 2011176631 A JP2011176631 A JP 2011176631A JP 5521134 B2 JP5521134 B2 JP 5521134B2
Authority
JP
Japan
Prior art keywords
information
user
information processing
image data
augmented reality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011176631A
Other languages
Japanese (ja)
Other versions
JP2013041360A (en
Inventor
吾郎 川上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NS Solutions Corp
Original Assignee
NS Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NS Solutions Corp filed Critical NS Solutions Corp
Priority to JP2011176631A priority Critical patent/JP5521134B2/en
Publication of JP2013041360A publication Critical patent/JP2013041360A/en
Application granted granted Critical
Publication of JP5521134B2 publication Critical patent/JP5521134B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、現実空間とコンピュータグラフィックス画像データとを合成して重畳表示させて拡張現実感を提示する技術に関するものである。   The present invention relates to a technology for presenting augmented reality by combining and superimposing a real space and computer graphics image data.

スキー場では、広大なエリア内でどこのコースを滑れば自分の技量に適しているか、或いは、どこのコース、どこのリフトが空いているか等を把握することが困難であった。特に天候の悪い降雪時や濃霧時にはコースを見失うこともあり、危険を伴う。   In a ski area, it was difficult to know which course was suitable for one's skill in a vast area, or which course and which lift was vacant. Especially when it is snowing in bad weather or heavy fog, the course may be lost, which is dangerous.

このような課題に対して、例えば非特許文献1には、カメラ付き携帯端末をスキー場のコース上でかざすとそのコースの案内をAR(拡張現実感)で表示する技術が開示されている。これにより、ユーザは自分が滑っているコースについて難易度まで含めて知ることができる。また、非特許文献2には、GPS(Global Positioning System)と小型の表示機とを備えたゴーグルが開示されている。   To deal with such a problem, for example, Non-Patent Document 1 discloses a technique for displaying a course guidance in AR (Augmented Reality) when a portable terminal with a camera is held over a ski course. Thereby, the user can know the difficulty level of the course he / she is slipping. Non-Patent Document 2 discloses a goggle including a GPS (Global Positioning System) and a small display.

iTunes App Storeで見つかるiPhone、iPod touch、iPad対応REALSKI、インターネット<URL:http://itunes.apple.com/jp/app/realski/id341922362?mt=8>iPhone, iPod touch, iPad compatible REALSKI, Internet <URL: http: //itunes.apple.com/jp/app/realski/id341922362? mt = 8> found in iTunes App Store 趣味のインターネット地図ウォッチ 第104回:GPS搭載スノーゴーグル「Recon−Zeal Transcend GPS」装着レポート、インターネット<http://internet.watch.impress.co.jp/docs/column/chizu/20110217_427462.html>Hobby Internet Map Watch 104th: GPS-equipped snow goggles “Recon-Zeal Transcend GPS” wearing report, Internet <http://internet.watch.impress.co.jp/docs/column/chizu/20110217_427462.html>

しかしながら、非特許文献1に開示される技術では、予めプログラムデータとして記憶されている情報を表示しているだけであり、どこのコース、どこのリフトが空いているかであるとか、コース内の特定場所に障害が発生している等のリアルタイムの状況把握はできない。例えば、コース内の死角になりやすい部分にけが人が倒れている等の状況は知ることはできず、危険を招くことになる。このような問題はスキー場に限らず、自転車のロードレース等、天候の影響を受けやすい場所で起こり得る。   However, in the technique disclosed in Non-Patent Document 1, only information stored in advance as program data is displayed, which course, which lift is available, and identification within the course It is not possible to grasp the situation in real time such as where a fault has occurred. For example, it is impossible to know the situation that an injured person has fallen in a part that tends to be a blind spot in the course, which causes a danger. Such a problem can occur not only at ski resorts, but also at places that are susceptible to weather, such as bicycle road races.

そこで、本発明の目的は、視界が悪いエリアであっても、リアルタイムに混雑状態を把握できるようにすることにある。   Therefore, an object of the present invention is to make it possible to grasp the congestion state in real time even in an area where visibility is poor.

本発明の情報処理システムは、現実空間とコンピュータグラフィックス画像データとを合成して表示させることが可能な拡張現実感提示装置と、ユーザが所持する通信装置と、情報処理装置とを有する情報処理システムであって、前記通信装置は、識別情報を送信する送信手段を有し、前記情報処理装置は、ユーザが所持する前記通信装置から送信された前記識別情報を受信する受信手段と、前記識別情報に対応する前記ユーザに係る情報を取得する取得手段と、前記ユーザに係る情報を前記拡張現実感提示装置に対して送信する送信手段とを有し、前記拡張現実感提示装置は、前記ユーザに係る情報を示すコンピュータグラフィックス画像データを現実空間に合成させて表示することを特徴とする。 An information processing system according to the present invention includes an augmented reality presentation device capable of combining and displaying real space and computer graphics image data, a communication device possessed by a user, and an information processing device. In the system, the communication device includes transmission means for transmitting identification information, and the information processing device includes reception means for receiving the identification information transmitted from the communication device possessed by a user, and the identification An acquisition unit configured to acquire information related to the user corresponding to the information; and a transmission unit configured to transmit information related to the user to the augmented reality presentation device , wherein the augmented reality presentation device includes the user The computer graphics image data indicating the related information is combined with the real space and displayed.

本発明によれば、視界が悪いエリアであっても、リアルタイムに混雑状態を把握することが可能となる。   According to the present invention, it is possible to grasp the congestion state in real time even in an area with poor visibility.

本発明の実施形態に係るスキー場案内システムの構成を示す図である。It is a figure showing composition of a ski resort guidance system concerning an embodiment of the present invention. スキー場管理サーバのハードウェア構成を示す図である。It is a figure which shows the hardware constitutions of a ski resort management server. ゴーグルのハードウェア構成を示す図である。It is a figure which shows the hardware constitutions of goggles. スキー場管理サーバの機能的な構成を示す図である。It is a figure which shows the functional structure of a ski resort management server. スキー場管理サーバが赤外線カメラから画像データを入力し、エリア毎に人口密度の解析処理を実行して、それらの履歴を管理するまでの処理を示すフローチャートである。It is a flowchart which shows a process until a ski resort management server inputs image data from an infrared camera, performs a population density analysis process for every area, and manages those histories. スキー場管理サーバが赤外線カメラから画像データを入力し、けが人多発エリアにおけるけが人の有無の判定処理を実行して、その履歴を管理するまでの処理を示すフローチャートである。It is a flowchart which shows the process until a ski resort management server inputs image data from an infrared camera, performs the determination process of the presence or absence of an injured person in an injured person frequent area, and manages the log | history. ゴーグルがリクエストを発行し、スキー場管理サーバにおいて生成されたコンピュータグラフィックス画像データをAR表示するまでの処理を示すフローチャートである。It is a flowchart which shows a process until goggles issues a request and displays the computer graphics image data produced | generated in the ski resort management server by AR. ゴーグルを装着したスキーヤーが図1の地点Aに位置する場合のAR表示例を示す図である。It is a figure which shows the example of AR display in case the skier equipped with goggles is located in the point A of FIG. ゴーグルを装着したスキーヤーが図1の地点Bに位置する場合のAR表示例を示す図である。It is a figure which shows the example of AR display in case the skier equipped with goggles is located in the point B of FIG. ゴーグルを装着したスキーヤーが図1の地点Cに位置する場合のAR表示例を示す図である。It is a figure which shows the example of AR display in case the skier equipped with goggles is located in the point C of FIG. スキー場管理サーバにおいて保持されるユーザ情報管理テーブルの例を示す図である。It is a figure which shows the example of the user information management table hold | maintained in a ski resort management server. パトロール隊のゴーグルにおけるAR表示例を示す図である。It is a figure which shows the example of AR display in the goggles of a patrol unit.

以下、本発明の好適な実施形態を、添付図面を参照しながら詳細に説明する。   DESCRIPTION OF EMBODIMENTS Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings.

図1は、本発明の実施形態に係るスキー場案内システムの構成を示す図である。図1に示すように、本実施形態に係るスキー場案内システムは、スキーヤーが装着するゴーグル100と、赤外線カメラ200a〜hと、スキー場管理サーバ300とを備える。赤外線カメラ200a、b、d〜hは、リフト乗り場401〜406においてリフトの順番待ちをしているスキーヤーの状況を撮影可能な場所に設置されている。赤外線カメラ200cは、急カーブやジャンプ台等のけが人多発エリア407を撮影可能な場所に設置されている。赤外線カメラ200hは、レストラン408内の混雑状況が撮影可能な場所に設置されている。なお、ゴーグル100及び赤外線カメラ200a〜hは夫々、スキー場管理サーバ300と無線通信回線を介して接続されている。   FIG. 1 is a diagram showing a configuration of a ski resort guidance system according to an embodiment of the present invention. As shown in FIG. 1, the ski resort guidance system according to the present embodiment includes goggles 100 worn by a skier, infrared cameras 200a to 200h, and a ski resort management server 300. The infrared cameras 200a, b, d to h are installed at locations where the skiers waiting for the lift order can be photographed at the lift platforms 401 to 406. The infrared camera 200c is installed in a place where an area with frequent injuries 407 such as a sharp curve or a jumping table can be photographed. The infrared camera 200h is installed at a place where the congestion situation in the restaurant 408 can be photographed. The goggles 100 and the infrared cameras 200a to 200h are connected to the ski resort management server 300 via wireless communication lines.

ゴーグル100は、フレームに装着されるディスプレイ上において現実空間に整合する位置にコンピュータグラフィックス画像データを表示することにより、拡張された現実感を提示することが可能なHMD(ヘッドマウントディスプレイ)である。以下では、このような拡張された現実感を与えるコンピュータグラフィックス画像データの表示を、AR(Augmented Reality)表示と称することがある。HMDには、非透過型、ビデオ透過型、光学透過型等の様々な方式があるが、本実施形態におけるゴーグル100には何れの方式を採用してもよい。またAR表示とは、これらの何れかの方式によってゴーグル100のディスプレイに映し出される現実空間に対して整合する位置にコンピュータグラフィックス画像データを重畳表示させることである。例えば、光学透過型であれば、シースルーで見える現実空間に対してコンピュータグラフィックス画像データが重畳表示され、ビデオ透過型であれば、ビデオカメラで撮影された現実空間に対してコンピュータグラフィックス画像データが重畳表示される。   The goggle 100 is an HMD (head mounted display) capable of presenting an expanded sense of reality by displaying computer graphics image data at a position that matches the real space on a display attached to a frame. . Hereinafter, such display of computer graphics image data that gives an expanded sense of reality may be referred to as AR (Augmented Reality) display. There are various types of HMD such as a non-transmissive type, a video transmissive type, and an optical transmissive type, and any method may be adopted for the goggles 100 in this embodiment. The AR display is to superimpose and display computer graphics image data at a position that matches the real space displayed on the display of the goggles 100 by any of these methods. For example, in the case of the optical transmission type, computer graphics image data is superimposed and displayed on the real space that can be seen through, and in the case of the video transmission type, the computer graphics image data is displayed on the real space captured by the video camera. Is superimposed.

本実施形態においては、スキーヤーが装着するゴーグル型のAR表示デバイスを例に挙げているが、本発明はこれに限定されない。即ち、ユーザが所持し、撮像部によって撮影された現実空間をディスプレイに表示し、表示された現実空間にコンピュータグラフィックス画像データを合成表示する携帯端末型のAR表示デバイスに適用してもよい。さらに、スノーモービル、雪上車及び雪圧車等の運転席において視線方向に設置され、光学的に透過して映し出される現実空間にコンピュータグラフィックス画像データを合成表示するようなヘッドアップディスプレイ型のAR表示デバイスに適用してもよい。   In this embodiment, a goggle-type AR display device worn by a skier is taken as an example, but the present invention is not limited to this. That is, the present invention may be applied to a mobile terminal type AR display device that is possessed by a user and displays a real space photographed by the imaging unit on a display and displays computer graphics image data in the displayed real space. Furthermore, a head-up display AR that is installed in the line of sight in the driver's seat of a snowmobile, snow vehicle, snow pressure wheel, etc., and displays computer graphics image data in a real space that is optically transmitted and projected. You may apply to a display device.

また、現実空間に整合させてコンピュータグラフィックス画像データを表示させる際には、現実空間のオブジェクトとコンピュータグラフィックス画像データとの座標合わせが行われる。座標合わせの手法としては、ゴーグル100の位置(緯度、経度)と姿勢(方向、仰角)とに基づいて、スキーヤーがディスプレイ越しに現実空間のどこを見ているのかを推定し、推定した位置に整合するようにコンピュータグラフィックス画像データを合成してもよい。また、現実空間のオブジェクトにマーカを付けておき、そのマーカをゴーグル100に装着された撮像部で撮影し、撮影された画像データから当該マーカの位置を検出し、検出した位置と整合するように、或いは、検出したマーカ位置を基準にして当該マーカからの相対的な位置にコンピュータグラフィックス画像データを合成してもよい。さらに、撮像部で捉えた現実空間の画像データを解析することにより現実空間のオブジェクトの位置を検出し、検出した位置と整合するようにコンピュータグラフィックス画像データを合成してもよい。   When computer graphics image data is displayed in alignment with the real space, the coordinates of the real space object and the computer graphics image data are aligned. As a method of coordinate alignment, based on the position (latitude, longitude) and posture (direction, elevation angle) of the goggles 100, it is estimated where the skier is looking in the real space through the display, and the estimated position is obtained. Computer graphics image data may be combined to match. In addition, a marker is attached to an object in the real space, the marker is photographed by an imaging unit attached to the goggles 100, the position of the marker is detected from the photographed image data, and is matched with the detected position. Alternatively, computer graphics image data may be synthesized at a relative position from the detected marker position. Furthermore, the position of the object in the real space may be detected by analyzing the image data in the real space captured by the imaging unit, and the computer graphics image data may be synthesized so as to match the detected position.

赤外線カメラ200a〜hは、リフト乗り場401〜406、けが人多発エリア407及びレストラン408等、スキー場における所定のエリア毎に設置されている。赤外線カメラ200a〜hは、所定のタイミングで撮影動作を行い、撮影した画像データをスキー場管理サーバ300に対して逐次送信する。本発明においては、赤外線カメラ以外にも、可視光カメラを使用してもよいが、可視光カメラでは、天候によって鮮明に画像データを取得することができないことがあるため、赤外線カメラを使用した方が好適である。また、赤外線カメラや可視光カメラ以外にも、悪天候時でもスキーヤーを良好に検出することができる温度センサを各エリアに設置してもよい。   The infrared cameras 200a to 200h are installed for each predetermined area in the ski resort, such as the lift platforms 401 to 406, the injury frequent occurrence area 407, and the restaurant 408. The infrared cameras 200a to 200h perform a photographing operation at a predetermined timing, and sequentially transmit the photographed image data to the ski resort management server 300. In the present invention, a visible light camera may be used in addition to the infrared camera. However, the visible light camera may not be able to acquire image data clearly depending on the weather. Is preferred. Besides the infrared camera and the visible light camera, a temperature sensor that can detect a skier well even in bad weather may be installed in each area.

スキー場管理サーバ300は、赤外線カメラや可視光カメラから送信される画像データに基づいて、各エリアのスキーヤーの人口密度を解析する。人口密度の解析方法としては、例えば、画像認識技術により画像データからスキーヤーを検出し、当該画像データの全画素数に対するスキーヤーの画像領域の画素数の割合を人口密度として算出する。また、温度センサにより生成されるサーモグラフィ(熱分布画像)を用いて人口密度を算出する場合には、サーモグラフィにおける所定の温度以上の領域をスキーヤーとして認識し、当該サーモグラフィの全画素数に対するスキーヤーの画像領域の画素数の割合を人口密度として算出する。その際、スキーヤー以外の元々存在する高温領域を差し引いて人口密度を算出することにより、より高い精度で人口密度を算出することができる。なお、図1に示すシステム構成は飽くまでも本発明の一適用例を示したものである。従って、赤外線カメラの数及び配置場所、スキーヤーが装着するゴーグルの数、並びに、スキー場管理サーバの数等は任意であってよい。   The ski resort management server 300 analyzes the population density of skiers in each area based on image data transmitted from an infrared camera or a visible light camera. As a population density analysis method, for example, a skier is detected from image data by image recognition technology, and the ratio of the number of pixels in the image area of the skier to the total number of pixels of the image data is calculated as the population density. In addition, when calculating the population density using a thermography (heat distribution image) generated by a temperature sensor, an area above a predetermined temperature in the thermography is recognized as a skier, and the skier's image for the total number of pixels of the thermography. The ratio of the number of pixels in the area is calculated as the population density. At this time, the population density can be calculated with higher accuracy by calculating the population density by subtracting the originally existing high temperature region other than the skier. Note that the system configuration shown in FIG. 1 shows one application example of the present invention. Accordingly, the number and location of the infrared cameras, the number of goggles worn by the skier, the number of ski resort management servers, and the like may be arbitrary.

図2Aは、スキー場管理サーバ300のハードウェア構成を示す図である。CPU3001は、システムバスに接続される各デバイスを総括的に制御する。ROM3003又はHD(ハードディスク)3006には、CPU3001の制御プログラムであるBIOS(Basic Input / Output system)やオペレーティングシステムプログラム、例えば図4A及び図4Bに示す処理や、図4Cに示す処理のうちスキー場管理サーバ300が実行する処理のプログラム等が記憶されている。   FIG. 2A is a diagram illustrating a hardware configuration of the ski resort management server 300. The CPU 3001 comprehensively controls each device connected to the system bus. The ROM 3003 or the HD (hard disk) 3006 has a basic input / output system (BIOS) that is a control program of the CPU 3001 and an operating system program, for example, the processing shown in FIGS. 4A and 4B, and the ski resort management among the processing shown in FIG. 4C. A program for processing executed by the server 300 is stored.

なお、図2Aの例では、HD3006はスキー場管理サーバ300の内部に配置された構成としているが、他の実施形態としてHD3006に相当する構成がスキー場管理サーバ300の外部に配置された構成としてもよい。また、例えば本実施形態に係る図4A及び図4Bに示す処理や、図4Cに示す処理のうちスキー場管理サーバ300が実行する処理を行うためのプログラムは、CD−ROM等のコンピュータ読み取り可能な記録媒体に記録され、当該記録媒体から供給される構成としてもよいし、インターネット等の通信媒体を介して供給される構成としてもよい。   In the example of FIG. 2A, the HD 3006 is arranged inside the ski resort management server 300, but as another embodiment, a configuration corresponding to the HD 3006 is arranged outside the ski resort management server 300. Also good. Further, for example, a program for performing the processing executed by the ski resort management server 300 in the processing shown in FIGS. 4A and 4B according to the present embodiment and the processing shown in FIG. 4C can be read by a computer such as a CD-ROM. It is good also as a structure recorded on a recording medium and supplied from the said recording medium, and good also as a structure supplied via communication media, such as the internet.

RAM3002は、CPU3001の主メモリ、ワークエリア等として機能する。HD3006は、外部メモリとして機能する。具体的には各スキー場の三次元地図情報等を記憶している。CPU3001は、処理の実行に際して必要なプログラムをRAM3002にロードして、プログラムを実行することで各種動作を実現するものである。ディスクコントローラ3005は、HD3006等の外部メモリへのアクセスを制御する。通信I/Fコントローラ3004は、無線通信回線と接続し、外部との通信を制御する。   The RAM 3002 functions as a main memory, work area, and the like for the CPU 3001. The HD 3006 functions as an external memory. Specifically, it stores 3D map information of each ski resort. The CPU 3001 implements various operations by loading a program necessary for execution of processing into the RAM 3002 and executing the program. The disk controller 3005 controls access to an external memory such as the HD 3006. A communication I / F controller 3004 is connected to a wireless communication line and controls communication with the outside.

図2Bは、本実施形態に係るゴーグル100のハードウェア構成を示す図である。CPU1001は、システムバスに接続される各デバイスを総括的に制御する。ROM1003には、例えば図4Cに示す処理のうちゴーグル100が実行する処理のプログラム等が記憶されている。なお、図4Cに示す処理のうちゴーグル100が実行する処理を実行するためのプログラムは、インターネット等の通信媒体を介して供給される構成としてもよい。   FIG. 2B is a diagram illustrating a hardware configuration of the goggles 100 according to the present embodiment. The CPU 1001 comprehensively controls each device connected to the system bus. The ROM 1003 stores, for example, a program for processing executed by the goggles 100 among the processing shown in FIG. 4C. In addition, the program for performing the process which goggles 100 performs among the processes shown to FIG. 4C is good also as a structure supplied via communication media, such as the internet.

RAM1002は、CPU1001の主メモリ、ワークメモリ等して機能する。CPU1001は、処理の実行に際して必要なプログラム等をRAM1002にロードして、プログラムを実行することで各種動作を実現するものである。通信I/Fコントローラ1004は、無線通信回線と接続し、外部との通信を制御する。ディスプレイコントローラ1006は、ディスプレイ1007における画像表示を制御する。本実施形態においてディスプレイ1007には、ゴーグル100のフレームに搭載される小型ディスプレイを採用するものとする。更に、ゴーグル100の位置や姿勢を検知するための位置センサと姿勢センサを備える。なお、上述の通り、ビデオ透過型のAR表示を行う場合には、図示しないが撮影部も備える。   The RAM 1002 functions as a main memory, work memory, and the like for the CPU 1001. The CPU 1001 implements various operations by loading a program necessary for execution of processing into the RAM 1002 and executing the program. A communication I / F controller 1004 is connected to a wireless communication line and controls communication with the outside. A display controller 1006 controls image display on the display 1007. In the present embodiment, the display 1007 is a small display mounted on the frame of the goggles 100. Furthermore, a position sensor and a posture sensor for detecting the position and posture of the goggles 100 are provided. Note that, as described above, when performing video transmission type AR display, an imaging unit is also provided (not shown).

図3は、スキー場管理サーバ300の機能的な構成を示す図である。図3において、画像データ入力部301は、赤外線カメラ200a〜hによって撮影された各画像データを入力(受信)する。人口密度解析部302は、画像データ入力部301によって入力される、赤外線カメラ200a、b、d〜hによって撮影された画像データに基づいて、エリア毎にスキーヤーの人口密度を解析する。即ち、人口密度解析部302は、赤外線カメラ200a、b、d〜hによって撮影された各画像データに対して画像認識技術を用いることにより各エリアのスキーヤーを検出し、各エリアの画像データの全画素数に対するスキーヤーの画像領域の画素数の割合を人口密度として算出する。なお、人口密度解析部302は、所定時間間隔(例えば、10分間隔)で人口密度を解析し、その履歴を人口密度管理テーブル304に登録する。   FIG. 3 is a diagram illustrating a functional configuration of the ski resort management server 300. In FIG. 3, an image data input unit 301 inputs (receives) each image data photographed by the infrared cameras 200a to 200h. The population density analysis unit 302 analyzes the population density of the skier for each area based on the image data captured by the infrared cameras 200a, 200b, and dh input by the image data input unit 301. That is, the population density analysis unit 302 detects skiers in each area by using an image recognition technique for each image data photographed by the infrared cameras 200a, 200b, dh, and the entire image data in each area. The ratio of the number of pixels in the skier's image area to the number of pixels is calculated as the population density. The population density analysis unit 302 analyzes the population density at a predetermined time interval (for example, every 10 minutes) and registers the history in the population density management table 304.

けが人識別部303は、画像データ入力部301によって入力される、赤外線カメラ200cによって撮影された画像データに基づいて、けが人多発エリア407におけるけが人の有無を判定する。即ち、けが人識別部303は、赤外線カメラ200cによって撮影された画像データに対して画像認識技術を用いることによりスキーヤーの動きを監視し、所定時間(例えば、10分)以上動きが検出されないスキーヤーが存在する場合、当該スキーヤーをけが人として判定する。なお、けが人識別部303は、所定時間間隔(例えば、10分間隔)でけが人の有無を判定し、その履歴をけが人管理テーブル305に登録する。   The injured person identifying unit 303 determines the presence or absence of injured persons in the injured person frequent occurrence area 407 based on the image data captured by the infrared camera 200c input by the image data input unit 301. In other words, the injured person identifying unit 303 monitors the movement of the skier by using image recognition technology on the image data captured by the infrared camera 200c, and there is a skier whose movement is not detected for a predetermined time (for example, 10 minutes). If so, the skier is determined as an injured person. The injured person identifying unit 303 determines the presence or absence of an injured person at a predetermined time interval (for example, every 10 minutes), and registers the history in the injured person management table 305.

人口密度管理テーブル304は、人口密度解析部302によって解析された人口密度の履歴をエリア(ここでは、リフト乗り場やレストラン)毎に管理する。けが人管理テーブル305は、けが人識別部303によって判定されたけが人の有無の履歴をけが人多発エリア毎に管理する。   The population density management table 304 manages the history of population density analyzed by the population density analysis unit 302 for each area (here, lift platform or restaurant). The injured person management table 305 manages the history of the presence or absence of injured persons determined by the injured person identifying unit 303 for each injured person frequent occurrence area.

リクエスト受付部306は、スキーヤーが装着しているゴーグル100から、当該ゴーグル100の位置及び姿勢を含むリクエストを受け付ける。ユーザ視界判定部307は、リクエスト受付部306によって受け付けられたリクエストに含まれるゴーグル100の位置及び姿勢に基づいて、当該ゴーグル100を装着しているスキーヤーの視界を判定する。   The request reception unit 306 receives a request including the position and posture of the goggles 100 from the goggles 100 worn by the skier. The user view determination unit 307 determines the view of the skier wearing the goggles 100 based on the position and posture of the goggles 100 included in the request received by the request reception unit 306.

第1のデータ抽出部308は、ユーザ視界判定部307によって判定された視界に含まれるエリアを判定し、判定したエリアに該当する人口密度の履歴のうち、最新の人口密度を人口密度管理テーブル304から抽出する。第2のデータ抽出部309は、ユーザ視界判定部307によって判定された視界に含まれるエリアを判定し、判定したエリアに該当するけが人の有無の履歴のうち、最新のけが人の有無をけが人管理テーブル305から抽出する。CG生成部310は、第1のデータ抽出部308によって抽出された最新の人口密度に基づいて、該当するエリアにおけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データを生成する。また、CG生成部310は、第2のデータ抽出部309によって抽出された情報(最新のけが人の有無)においてけが人が存在することが示されていた場合、該当するエリアにおいてけが人が存在することを示すコンピュータグラフィックス画像データを生成する。そしてCG生成部310は、生成したコンピュータグラフィックス画像データを、リクエスト受付部306においてリクエストを受け付けたゴーグル100に対して送信する。ゴーグル100は、現実空間に整合させてコンピュータグラフィックス画像データをAR表示する。   The first data extraction unit 308 determines an area included in the field of view determined by the user field determination unit 307, and the latest population density among the population density history corresponding to the determined area is stored in the population density management table 304. Extract from The second data extraction unit 309 determines an area included in the field of view determined by the user field determination unit 307, and an injured person management table of the presence or absence of the latest injured person in the history of the presence or absence of an injured person corresponding to the determined area Extract from 305. Based on the latest population density extracted by the first data extraction unit 308, the CG generation unit 310 generates computer graphics image data indicating the skier population density in the corresponding area. In addition, when the information extracted by the second data extraction unit 309 (the presence or absence of the latest injured person) indicates that an injured person exists, the CG generating unit 310 indicates that an injured person exists in the corresponding area. The computer graphics image data shown is generated. Then, the CG generation unit 310 transmits the generated computer graphics image data to the goggles 100 that received the request in the request reception unit 306. The goggles 100 AR displays computer graphics image data in alignment with the real space.

なお、図3におけるリクエスト受付部306及び画像データ入力部301は、図2Aにおける通信I/Fコントローラ3004に相当する構成である。また、図3におけるユーザ視界判定部307、人口密度解析部302、けが人識別部303、第1のデータ抽出部308、第2のデータ抽出部309及びCG生成部310は、CPU3001がHD3006からプログラムをRAM3002にロードして実行することにより実現される構成である。また、人口密度管理テーブル304及びけが人管理テーブル305は、RAM3002の一部記憶領域に相当する構成である。   Note that the request reception unit 306 and the image data input unit 301 in FIG. 3 have a configuration corresponding to the communication I / F controller 3004 in FIG. 2A. In addition, the user view determination unit 307, the population density analysis unit 302, the injured person identification unit 303, the first data extraction unit 308, the second data extraction unit 309, and the CG generation unit 310 in FIG. This configuration is realized by loading the RAM 3002 and executing it. The population density management table 304 and the injured person management table 305 have a configuration corresponding to a partial storage area of the RAM 3002.

次に、図4A〜図4Cを参照しながら、スキー場管理サーバ300の処理について説明する。図4Aは、スキー場管理サーバ300が赤外線カメラ200a、b、d〜hから画像データを入力し、エリア毎に人口密度の解析処理を実行して、それらの履歴を管理するまでの処理を示すフローチャートである。   Next, processing of the ski resort management server 300 will be described with reference to FIGS. 4A to 4C. FIG. 4A shows a process from when the ski resort management server 300 inputs image data from the infrared cameras 200a, 200b, 200d to 200hh, executes population density analysis processing for each area, and manages their history. It is a flowchart.

ステップS401において、画像データ入力部301は、赤外線カメラ200a、b、d〜hからの何れかから画像データを入力(受信)したか否かを判定する。画像データを入力した場合、処理はステップS402に移行する。一方、画像データを入力していない場合、処理はステップS401に戻り、画像データの入力を待つ。   In step S401, the image data input unit 301 determines whether image data has been input (received) from any of the infrared cameras 200a, 200b, and dh. When image data is input, the process proceeds to step S402. On the other hand, if no image data has been input, the process returns to step S401 to wait for input of image data.

ステップS402において、人口密度解析部302は、画像データ入力部301において入力された画像データに基づいて、該当するエリアのスキーヤーの人口密度を解析する。ステップS403において、人口密度解析部302は、エリア及び人口密度の解析時刻と対応付けて人口密度の解析結果を人口密度管理テーブル304に登録する。なお、上述したステップS401〜S403は、繰り返し実行される処理である。   In step S <b> 402, the population density analysis unit 302 analyzes the population density of skiers in a corresponding area based on the image data input in the image data input unit 301. In step S <b> 403, the population density analysis unit 302 registers the population density analysis result in the population density management table 304 in association with the area and population density analysis time. The above-described steps S401 to S403 are processes that are repeatedly executed.

図4Bは、スキー場管理サーバ300が赤外線カメラ200cから画像データを入力し、けが人多発エリア407におけるけが人の有無の判定処理を実行して、その履歴を管理するまでの処理を示すフローチャートである。   FIG. 4B is a flowchart showing a process from when the ski resort management server 300 receives image data from the infrared camera 200c, executes a process for determining the presence or absence of injuries in the frequently injured area 407, and manages the history.

ステップS404において、画像データ入力部301は、赤外線カメラ200cから画像データを入力(受信)したか否かを判定する。画像データを入力した場合、処理はステップS405に移行する。一方、画像データを入力していない場合、処理はステップS404に戻り、画像データの入力を待つ。   In step S404, the image data input unit 301 determines whether image data has been input (received) from the infrared camera 200c. If image data has been input, the process proceeds to step S405. On the other hand, if no image data has been input, the process returns to step S404 to wait for input of image data.

ステップS405において、けが人識別部303は、画像データ入力部301において入力された画像データに基づいて、けが人多発エリア407におけるけが人の有無を判定する。ステップS406において、けが人識別部303は、けが人多発エリア407及びけが人有無の判定時刻と対応付けてけが人の有無に関する判定結果をけが人管理テーブル305に登録する。なお、上述したステップS404〜S406は、繰り返し実行される処理である。   In step S <b> 405, the injured person identification unit 303 determines the presence or absence of injuries in the injured person frequent occurrence area 407 based on the image data input in the image data input unit 301. In step S <b> 406, the injured person identification unit 303 registers the determination result regarding the presence or absence of an injured person in the injured person management table 305 in association with the injured person frequent occurrence area 407 and the injured person determination time. The above-described steps S404 to S406 are processes that are repeatedly executed.

図4Cは、ゴーグル100がリクエストを発行し、スキー場管理サーバ300において生成されたコンピュータグラフィックス画像データをAR表示するまでの処理を示すフローチャートである。   FIG. 4C is a flowchart illustrating a process from when the goggles 100 issues a request until the computer graphics image data generated in the ski resort management server 300 is displayed as an AR.

ステップS410において、ゴーグル100は、当該ゴーグル100の位置及び姿勢を含むリクエストを発行する。ゴーグル100でのリクエスト発行は、短時間に繰り返し行うことにより後述するARでの重畳表示内容にリアルタイム性のある情報となる。但し、この場合は通信やゴーグル100およびスキー場管理サーバ300での情報処理負荷が高くなることもあるため、例えばスキーヤーが止まっているときにだけ発行してもよい。或いは、スキーヤーのスイッチ操作によってリクエストの発行を行ったり、重畳表示のON/OFFを切り替えたりしてもよい。スイッチはゴーグル100に備えていてもよいし、スキーヤーが所持するストックやリフトチケット(カードやICチップ媒体など)に備えていてもよい。ストック等にスイッチを備える場合、無線通信機能もストック等に組み込んでおき、ゴーグル100との間では無線通信でスイッチ情報を送信することが好ましい。   In step S410, the goggles 100 issues a request including the position and posture of the goggles 100. By issuing the request in the goggles 100 repeatedly in a short time, the superimposed display content in the AR, which will be described later, becomes information with real-time characteristics. However, in this case, the information processing load on the communication, goggles 100, and ski resort management server 300 may increase. For example, it may be issued only when the skier is stopped. Alternatively, a request may be issued by a switch operation of a skier, or ON / OFF of superimposed display may be switched. The switch may be provided in the goggles 100 or may be provided in stock or a lift ticket (card, IC chip medium, etc.) possessed by the skier. When a switch is provided in a stock or the like, it is preferable to incorporate a wireless communication function in the stock or the like and transmit switch information to and from the goggles 100 by wireless communication.

ステップS411において、スキー場管理サーバ300のリクエスト受付部306は、ゴーグル100からリクエストを受け付ける。ステップS412は、スキー場管理サーバ300のユーザ視界判定部307は、リクエストに含まれる位置及び姿勢に基づいて、当該ゴーグル100を装着するスキーヤーの視界を判定する。次に処理はステップS413及びS415の双方に移行する。以下、ステップS413及びS415を個別に説明するが、これはどちらか単独で処理してもよく、或いは並列処理で同時に行ってもよい。   In step S <b> 411, the request reception unit 306 of the ski resort management server 300 receives a request from the goggles 100. In step S412, the user field determination unit 307 of the ski resort management server 300 determines the field of view of the skier wearing the goggles 100 based on the position and posture included in the request. Next, the process proceeds to both steps S413 and S415. Hereinafter, although step S413 and S415 are demonstrated separately, this may be processed independently or may be performed simultaneously by parallel processing.

ステップS413において、第1のデータ抽出部308は、ユーザ視界判定部307によって判定された視界に含まれるエリアを判定し、判定したエリアに該当する人口密度の履歴のうち、最新の人口密度を人口密度管理テーブル304から抽出する。ステップS414において、CG生成部310は、第1のデータ抽出部308によって抽出された最新の人口密度に基づいて、該当するエリアにおけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データを生成する。   In step S413, the first data extraction unit 308 determines an area included in the field of view determined by the user field of view determination unit 307, and uses the latest population density among the population density history corresponding to the determined area. Extracted from the density management table 304. In step S414, the CG generation unit 310 generates computer graphics image data indicating the skier population density in the corresponding area based on the latest population density extracted by the first data extraction unit 308.

また、ステップS415において、第2のデータ抽出部309は、ユーザ視界判定部307によって判定された視界に含まれるエリアを判定し、判定したエリアに該当するけが人の有無の履歴のうち、最新のけが人の有無をけが人管理テーブル305から抽出する。ステップS416において、CG生成部310は、第2のデータ抽出部309によって抽出された情報においてけが人が存在することが示されているか否かを判定する。けが人が存在することが示されている場合、処理はステップS417に移行する。一方、けが人が存在することが示されていない場合、処理はステップS417をスキップしてステップS418に移行する。ステップS417において、CG生成部310は、けが人が存在することを示すコンピュータグラフィックス画像データを生成する。   In step S415, the second data extraction unit 309 determines an area included in the field of view determined by the user field of view determination unit 307, and the latest injured person in the history of the presence or absence of an injured person corresponding to the determined area. Is extracted from the injured person management table 305. In step S416, the CG generation unit 310 determines whether the information extracted by the second data extraction unit 309 indicates that an injured person exists. If it is indicated that there is an injured person, the process proceeds to step S417. On the other hand, if it is not indicated that there is an injured person, the process skips step S417 and proceeds to step S418. In step S417, the CG generation unit 310 generates computer graphics image data indicating that an injured person exists.

ステップS418において、CG生成部310は、ステップS414で生成したコンピュータグラフィックス画像データ、又は、ステップS414及びS417で生成したコンピュータグラフィックス画像データをゴーグル100に対して送信する。ステップS419において、ゴーグル100は、スキー場管理サーバ300からコンピュータグラフィックス画像データを受信する。ステップS420において、ゴーグル100は、受信したコンピュータグラフィックス画像データをAR表示する。本実施形態では、コンピュータグラフィックス画像データをスキー場管理サーバ300側で生成するようにしているが、必要な情報をスキー場管理サーバ300からゴーグル100に与え、ゴーグル100側でコンピュータグラフィックス画像データを生成するようにしてもよい。   In step S418, the CG generation unit 310 transmits the computer graphics image data generated in step S414 or the computer graphics image data generated in steps S414 and S417 to the goggles 100. In step S419, the goggles 100 receives computer graphics image data from the ski resort management server 300. In step S420, the goggles 100 AR displays the received computer graphics image data. In this embodiment, computer graphics image data is generated on the ski resort management server 300 side. However, necessary information is given from the ski resort management server 300 to the goggles 100, and the computer graphics image data on the goggles 100 side. May be generated.

図5A〜図5Cは、ゴーグル100におけるAR表示例を示す図である。より具体的には、図5Aは、ゴーグル100を装着したスキーヤーが図1の地点Aに位置する場合のAR表示例を示している。図5Bは、ゴーグル100を装着したスキーヤーが図1の地点Bに位置する場合のAR表示例を示している。図5Cは、ゴーグル100を装着したスキーヤーが図1の地点Cに位置する場合のAR表示例を示している。   5A to 5C are diagrams illustrating an AR display example in the goggles 100. FIG. More specifically, FIG. 5A shows an AR display example when the skier wearing the goggles 100 is located at the point A in FIG. FIG. 5B shows an example of AR display when the skier wearing the goggles 100 is located at the point B in FIG. FIG. 5C shows an AR display example when the skier wearing the goggles 100 is located at the point C in FIG.

図1に示すように、ゴーグル100を装着したスキーヤーが地点Aに存在する場合、当該スキーヤーの視線方向(滑走方向)の右手にはリフト乗り場401が見え、左手にはリフト乗り場402が見える。スキー場管理サーバ300は、スキーヤーが地点Aに存在するときにゴーグル100から発行されたリクエスト(位置、傾き含む)に基づいて、スキーヤーの視界にリフト乗り場401、402が含まれていると判定する。そしてスキー場管理サーバ300は、リフト乗り場401、402のエリアに対応する最新の人口密度を取得し、リフト乗り場401、402におけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データを生成する。生成されたコンピュータグラフィックス画像データはスキー場管理サーバ300からゴーグル100に対して送信される。すると、図5Aに示すように、ゴーグル100は、リフト乗り場401におけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データ502と、リフト乗り場402におけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データ501とをAR表示する。   As shown in FIG. 1, when a skier wearing goggles 100 is present at point A, the lift landing 401 is visible on the right hand in the line of sight (sliding direction) of the skier, and the lift landing 402 is visible on the left hand. The ski resort management server 300 determines that the lift landings 401 and 402 are included in the skier's field of view based on a request (including position and inclination) issued from the goggles 100 when the skier is at the point A. . The ski resort management server 300 acquires the latest population density corresponding to the areas of the lift platforms 401 and 402, and generates computer graphics image data indicating the skier population density at the lift platforms 401 and 402. The generated computer graphics image data is transmitted from the ski resort management server 300 to the goggles 100. Then, as shown in FIG. 5A, the goggles 100 receives computer graphics image data 502 indicating the population density of the skier at the lift platform 401 and computer graphics image data 501 indicating the population density of the skier at the lift platform 402 as AR. indicate.

図5Aに示すように、ゴーグル100では、コンピュータグラフィックス画像データ501、502が夫々、現実空間に整合する位置に合成表示されるので、スキーヤーの視線方向の右手にリフト乗り場401の人口密度を示すコンピュータグラフィックス画像データ502が表示され、スキーヤーの視線方向の左手にリフト乗り場402の人口密度を示すコンピュータグラフィックス画像データ501が表示される。なお、図5Aの例では、人口密度を示すコンピュータグラフィックス画像データにおいて「空き状態」や「混雑中」という情報を提示しているが、画像データの全画素数に対するスキーヤーの画像領域の割合が所定の値(例えば、50%)以上である場合に「混雑中」を表すコンピュータグラフィックス画像データを生成し、そうでない場合に「空き状態」を表すコンピュータグラフィックス画像データを生成している。また、ゴーグル100からのリクエストには当該ゴーグル100の位置が含まれているため、ゴーグル100の位置から各リフト乗り場401、402までの距離や方向を表す情報をコンピュータグラフィックス画像データにおいて提示している。これにより、各エリアにおける人又は物の密度をリアルタイムに提示することが可能となり、視界が悪くても、スキーヤーは各エリアの混雑状況を把握することが可能となる。   As shown in FIG. 5A, in the goggles 100, the computer graphics image data 501 and 502 are combined and displayed at positions matching the real space, so the population density of the lift platform 401 is shown on the right hand side in the skier's line of sight. Computer graphics image data 502 is displayed, and computer graphics image data 501 indicating the population density of the lift platform 402 is displayed on the left hand side of the skier's line of sight. In the example of FIG. 5A, information such as “vacant state” or “crowded” is presented in computer graphics image data indicating the population density, but the ratio of the skier image area to the total number of pixels of the image data is Computer graphics image data representing “busy” is generated when the value is equal to or greater than a predetermined value (for example, 50%), and computer graphics image data representing “free” is generated otherwise. Further, since the request from the goggles 100 includes the position of the goggles 100, information indicating the distance and direction from the position of the goggles 100 to the lift platforms 401 and 402 is presented in the computer graphics image data. Yes. As a result, the density of people or objects in each area can be presented in real time, and even if the field of view is poor, the skier can grasp the congestion status of each area.

また、図1に示すように、ゴーグル100を装着したスキーヤーが地点Bに存在する場合、当該スキーヤーの視線方向(滑走方向)の右手にはリフト乗り場403が見え、左手にはけが人多発エリア407が見える。スキー場管理サーバ300は、スキーヤーが地点Bに存在するときにゴーグル100から発行されたリクエスト(位置、傾き含む)に基づいて、スキーヤーの視界にリフト乗り場403、けが人多発エリア407が含まれていると判定する。そしてスキー場管理サーバ300は、リフト乗り場403に対応する最新の人口密度とけが人多発エリア407に対応する最新のけが人の有無とを取得する。ここでは、けが人多発エリア407に対応する最新のけが人の有無には、けが人が存在することが示されているものとする。スキー場管理サーバ300は、リフト乗り場403におけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データ504を生成するとともに、けが人多発エリア407にけが人が存在することを示すコンピュータグラフィックス画像データ503を生成する。生成されたコンピュータグラフィックス画像データはスキー場管理サーバ300からゴーグル100に対して送信される。すると、図5Bに示すように、ゴーグル100は、リフト乗り場403におけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データ504と、けが人多発エリア407にけが人が存在していることを示すコンピュータグラフィックス画像データ503とをAR表示する。   Also, as shown in FIG. 1, when a skier wearing goggles 100 is present at point B, the lift platform 403 is visible on the right hand in the gaze direction (sliding direction) of the skier, and the injury frequent occurrence area 407 is on the left hand. appear. The ski resort management server 300 includes a lift platform 403 and an injury-prone area 407 in the skier's field of view based on a request (including position and inclination) issued from the goggles 100 when the skier is at the point B. Is determined. Then, the ski resort management server 300 acquires the latest population density corresponding to the lift platform 403 and the presence or absence of the latest injured person corresponding to the injured person frequent occurrence area 407. Here, it is assumed that the presence or absence of the latest injured person corresponding to the frequently injured person area 407 indicates that an injured person exists. The ski resort management server 300 generates computer graphics image data 504 indicating the population density of skiers at the lift platform 403 and also generates computer graphics image data 503 indicating that there are injuries in the frequent injury area 407. The generated computer graphics image data is transmitted from the ski resort management server 300 to the goggles 100. Then, as shown in FIG. 5B, the goggles 100 includes computer graphics image data 504 indicating the skier population density at the lift platform 403 and computer graphics image data indicating that injuries are present in the injured person frequent occurrence area 407. 503 and AR are displayed.

図5Bに示すように、ゴーグル100では、コンピュータグラフィックス画像データ503、504が夫々、現実空間に整合する位置に合成表示されるので、スキーヤーの視線方向の右手にリフト乗り場403の人口密度を示すコンピュータグラフィックス画像データ504が表示され、スキーヤーの視線方向の左手にけが人の存在を示すコンピュータグラフィックス画像データ504が表示される。なお、図5Bの例においても、ゴーグル100の位置からリフト乗り場403、けが人多発エリア407までの距離や方向を表す情報がコンピュータグラフィックス画像データにおいて提示されている。これにより、視界が悪くても、けが人多発エリアにおいてけが人が発生しているか否かをスキーヤーは把握することが可能となる。   As shown in FIG. 5B, in the goggles 100, the computer graphics image data 503 and 504 are combined and displayed at positions matching the real space, so that the population density of the lift platform 403 is shown on the right hand side of the skier's line of sight. Computer graphics image data 504 is displayed, and computer graphics image data 504 indicating the presence of an injured person is displayed on the left hand side of the skier's line of sight. In the example of FIG. 5B as well, information representing the distance and direction from the position of the goggles 100 to the lift platform 403 and the frequently injured area 407 is presented in the computer graphics image data. Thereby, even if the field of view is poor, the skier can grasp whether or not an injured person is generated in an injured person frequent occurrence area.

また、図1に示すように、ゴーグル100を装着したスキーヤーが地点Cに存在する場合、当該スキーヤーの視線方向(滑走方向)の正面にはレストラン408が見える。スキー場管理サーバ300は、スキーヤーが地点Cに存在するときにゴーグル100から発行されるリクエスト(位置、傾き含む)に基づいて、スキーヤーの視界にレストラン408が含まれていると判定する。そしてスキー場管理サーバ300は、レストラン408に対応する最新の人口密度を取得し、レストラン408におけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データ505を生成する。生成されたコンピュータグラフィックス画像データ505はスキー場管理サーバ300からゴーグル100に対して送信される。すると、図5Cに示すように、ゴーグル100では、レストラン408におけるスキーヤーの人口密度を示すコンピュータグラフィックス画像データ505がAR表示されるので、スキーヤーの視線方向の正面にレストラン408に対応する最新の人口密度を示すコンピュータグラフィックス画像データ505がAR表示される。   Also, as shown in FIG. 1, when a skier wearing goggles 100 is present at point C, a restaurant 408 can be seen in front of the skier's line-of-sight direction (sliding direction). The ski resort management server 300 determines that the restaurant 408 is included in the skier's field of view based on a request (including position and inclination) issued from the goggles 100 when the skier is at the point C. Then, the ski resort management server 300 acquires the latest population density corresponding to the restaurant 408, and generates computer graphics image data 505 indicating the population density of skiers in the restaurant 408. The generated computer graphics image data 505 is transmitted from the ski resort management server 300 to the goggles 100. Then, as shown in FIG. 5C, in the goggles 100, since the computer graphics image data 505 indicating the population density of the skiers in the restaurant 408 is AR-displayed, the latest population corresponding to the restaurant 408 in front of the skier's line of sight. Computer graphics image data 505 indicating the density is AR-displayed.

上述した実施形態においては、ゴーグル100を装着したスキーヤーの視界に含まれるエリアについてのみ、人口密度やけが人の存在に関する情報を含むコンピュータグラフィックス画像データを生成し、AR表示しているが、本発明はこれに限定されない。即ち、ゴーグル100を装着したスキーヤーの視界に間接的に関連するエリア(例えば、スキーヤーから直接見ることはできないエリアであるが、スキーヤーが滑走する可能性のあるエリア)のリフト乗り場やけが人多発エリアに関するコンピュータグラフィックス画像データを生成し、AR表示してもよい。また、リフト乗り場やレストランだけではなく、コースについても人口密度を示すコンピュータグラフィックス画像データを生成するようにしてもよい。また、これはスキーヤーなどの人間だけを検知対象にする必要はなく、例えば、滑走エリアの積雪が少なく地面が露出している場所を検知して「この先積雪不足」などのAR表示を行ってもよい。この場合も雪面と地面(草地や表土)とを画像処理により判別したり、或いは赤外線カメラや温度センサによる温度の差異を検知することを利用すればよい。さらに、人口密度管理テーブル304では人口密度の履歴を管理しており、けが人管理テーブル305ではけが人の有無の履歴を管理しているため、ゴーグル100において、それらの履歴に基づく情報を含むコンピュータグラフィックス画像データをAR表示するようにしてもよい。例えば、現時点から30分前までの人口密度の履歴をAR表示することにより、スキーヤーは最近の人口密度の推移状況を把握することが可能となり、将来の人口密度の予測に役立てることができる。また、現時点から30分前までのけが人の有無の履歴をAR表示することにより、スキーヤーはどれぐらい前からけが人が発生していたのかを把握することが可能となる。   In the embodiment described above, computer graphics image data including information regarding population density and the presence of an injured person is generated and displayed in AR only for an area included in the field of view of a skier wearing the goggles 100. Is not limited to this. That is, it relates to a lift platform and an injured person area in an area indirectly related to the field of view of the skier wearing the goggles 100 (for example, an area that cannot be directly seen by the skier but may be skied). Computer graphics image data may be generated and AR displayed. In addition to the lift platform and restaurant, computer graphics image data indicating the population density may be generated for the course. In addition, it is not necessary to detect only a person such as a skier. For example, even if the snow area in the sliding area has little snow cover and the ground is exposed, an AR display such as “this snow shortage” is displayed. Good. In this case as well, it is sufficient to use a method of determining the snow surface and the ground (grassland or topsoil) by image processing, or detecting a temperature difference using an infrared camera or a temperature sensor. Further, since the population density management table 304 manages the history of population density, and the injured person management table 305 manages the history of the presence or absence of injured persons, the goggles 100 includes computer graphics including information based on the history. Image data may be displayed in AR. For example, by displaying AR of the population density history up to 30 minutes before the present time, the skier can grasp the recent transition state of the population density, which can be used for prediction of future population density. Also, by displaying the history of the presence or absence of an injured person 30 minutes before the present time, the skier can grasp how long the injured person has occurred.

次に、本発明の他の実施形態について説明する。本実施形態に係るスキー場案内システムは、上述した実施形態に係るスキー場案内システム構成に加え、スキーヤーが所持するリフト券に搭載されたID発信機と、スキー場の各地点に設置され、ID発信機から発信されるID(ユーザ識別情報)を受信するID受信機とを備える。スキーヤーはけがを負う等の緊急事態時にリフト券のID発信機を操作し、IDを発信させる。ID発信機から発信されたIDは、最寄りのID受信機によって受信される。ID受信機は、IDとともに当該ID受信機の位置情報を図1のスキー場管理サーバ300に送信する。スキー場管理サーバ300は、ID及びID受信機の位置情報を受信すると、当該IDに対応するユーザ情報を検索する。   Next, another embodiment of the present invention will be described. In addition to the ski resort guidance system configuration according to the embodiment described above, the ski resort guidance system according to the present embodiment is installed at an ID transmitter mounted on a lift ticket owned by a skier, and at each point of the ski resort, An ID receiver that receives an ID (user identification information) transmitted from the transmitter. The skier operates the lift ticket ID transmitter in the event of an emergency such as injury, and transmits the ID. The ID transmitted from the ID transmitter is received by the nearest ID receiver. The ID receiver transmits the position information of the ID receiver together with the ID to the ski resort management server 300 in FIG. Upon receiving the ID and the position information of the ID receiver, the ski resort management server 300 searches for user information corresponding to the ID.

図6は、スキー場管理サーバ300において保持されるユーザ情報管理テーブルの例を示す図である。図6に示すように、ユーザ情報管理テーブルでは、ID毎にユーザ情報(名前、性別、体重、身長、スキーウェアの色)が管理されている。なお、ユーザ情報はここに挙げた情報だけではなく、任意の情報を追加してもよい。スキー場管理サーバ300は、IDを受信すると、当該IDに対応付けて管理されるユーザ情報をユーザ情報管理テーブルから取得する。そしてスキー場管理サーバ300は、緊急事態が発生した旨と取得したユーザ情報とID受信機の位置情報とを示すコンピュータグラフィックス画像データを生成し、パトロール隊のゴーグル100に対して送信する。すると、パトロール隊のゴーグル100は、スキー場管理サーバ300から受信したコンピュータグラフィックス画像データをAR表示する。   FIG. 6 is a diagram illustrating an example of a user information management table held in the ski resort management server 300. As shown in FIG. 6, in the user information management table, user information (name, sex, weight, height, ski wear color) is managed for each ID. In addition, user information may add arbitrary information in addition to the information listed here. When receiving the ID, the ski resort management server 300 acquires user information managed in association with the ID from the user information management table. The ski resort management server 300 generates computer graphics image data indicating that an emergency has occurred, the acquired user information, and the position information of the ID receiver, and transmits the computer graphics image data to the goggles 100 of the patrol team. Then, the patrol team's goggles 100 AR displays the computer graphics image data received from the ski resort management server 300.

図7は、上記のようにして受信したコンピュータグラフィックス画像データをパトロール隊のゴーグル100がAR表示した例を示す図である。図7に示すように、スキーヤーの位置としてのID受信機の位置(200m先)と、緊急事態が発生した旨(SOS発生!!)と、ユーザ情報(ID、名前、性別、体重、身長、スキーウェアの色)とを示すコンピュータグラフィックス画像データをAR表示する。このようにパトロール隊に対してID受信機の位置とけが人のユーザ情報とを通知することができるため、けが人の位置及びけが人の属性を把握することが可能となり、けが人を早急に救助することができる。また、スキー場のコース等の各エリアの人口密度を併せてAR表示することによって、救助の際、人口密度が低いコースを選択してスノーモービルで救助に向かうことが可能になる。   FIG. 7 is a diagram illustrating an example in which the computer graphics image data received as described above is AR-displayed by the patrol goggles 100. As shown in FIG. 7, the position of the ID receiver as the skier's position (200 m ahead), the fact that an emergency occurred (SOS occurred!), And user information (ID, name, gender, weight, height, Computer graphics image data indicating the color of the skiwear is displayed as an AR. In this way, the position of the ID receiver and the user information of the injured person can be notified to the patrol team, so it becomes possible to grasp the position of the injured person and the attributes of the injured person, and to rescue the injured person immediately. it can. Moreover, by displaying AR together with the population density of each area such as a ski course, it is possible to select a course with a low population density and go to rescue with a snowmobile.

本実施形態では、各スキーヤーにID発信機を所持させるようにしているが、その他の実施形態としてGPS携帯端末を所持させるようにしてもよい。GPS携帯端末からスキーヤーのIDと、スキーヤーの位置を示す情報としての当該GPS携帯端末の位置を示す情報とをスキー場管理サーバ300に対して送信することにより、より正確にスキーヤーの位置をパトロール隊に通知することが可能となる。またこの場合、IDを中継するためのID受信機をスキー場に設置する必要がなくなる。   In this embodiment, each skier is allowed to have an ID transmitter. However, as another embodiment, a GPS portable terminal may be held. By transmitting the skier ID from the GPS portable terminal and the information indicating the position of the GPS portable terminal as information indicating the position of the skier to the ski resort management server 300, the position of the skier is more accurately determined by the patrol team. Can be notified. In this case, it is not necessary to install an ID receiver for relaying the ID at the ski resort.

以上では、視界が悪い環境の例としてスキー場を挙げたが、これ以外にも、例えば、自転車のロードレースにおいても天候の影響で視界不良となるケースが多く、ロードレースの各選手にも上述したようなゴーグルを装着させることにより、レース中に人口密度やけが人の有無等に関する情報を把握することが可能となる。また、サッカー観戦の際、試合会場の入り口付近からでは試合会場内の観戦席の空き状況を把握することができないため、一旦入り口から階段を昇って実際に観戦席を見てどの辺が空いているのか判断することがある。しかしながら、試合会場の入り口付近で上述したようなAR表示を利用することにより、実際に観戦席が見えるところまで足を運ばなくても、どの辺の観戦席が空いているかを把握することが可能となる。   In the above, a ski resort has been cited as an example of an environment with poor visibility, but in addition to this, for example, there are many cases where visibility is poor due to the influence of the weather even in bicycle road races, and each athlete in the road race also mentioned above. By wearing such goggles, it becomes possible to grasp information regarding the population density and the presence or absence of injured persons during the race. In addition, when watching a soccer game, it is impossible to grasp the vacant seats in the game venue from the vicinity of the entrance of the game venue. It may be judged whether there is. However, by using the AR display as described above near the entrance of the game hall, it is possible to grasp which side of the spectator seat is vacant without having to go to the place where the spectator seat can actually be seen. It becomes.

また、上述した実施形態では、各エリアの人口密度をAR表示しているが、人口密度に限らず、同様に各エリアにおける自動車等の物の密度を解析し、AR表示してもよい。
なお、上述したように、重畳表示はスキーヤー(ユーザ)のスイッチ操作によって表示/非表示を切り替えられるものであるが、手の操作による切り替えだけでなく、ゴーグルの姿勢センサを利用して特定の動作をスイッチ機能として利用してもよい。例えば二度頷く動作で表示/非表示を切り替えてもよい。
In the above-described embodiment, the population density of each area is displayed as AR. However, the present invention is not limited to the population density, and the density of an object such as a car in each area may be similarly analyzed and displayed as AR.
As described above, the superimposed display can be switched between display and non-display by a switch operation of a skier (user). May be used as a switch function. For example, the display / non-display may be switched by a two-time operation.

100:ゴーグル(スキーヤーが保持する拡張現実感提示装置)、200a〜200h:赤外線カメラ、300:スキー場管理サーバ、401〜406:リフト乗り場、407:けが人多発エリア、408:レストラン   100: Goggles (augmented reality presentation device held by a skier), 200a to 200h: Infrared camera, 300: Ski management server, 401 to 406: Lift platform, 407: Injury-prone area, 408: Restaurant

Claims (9)

現実空間とコンピュータグラフィックス画像データとを合成して表示させることが可能な拡張現実感提示装置と、ユーザが所持する通信装置と、情報処理装置とを有する情報処理システムであって、
前記通信装置は、識別情報を送信する送信手段を有し、
前記情報処理装置は、
ユーザが所持する前記通信装置から送信された前記識別情報を受信する受信手段と、
前記識別情報に対応する前記ユーザに係る情報を取得する取得手段と、
前記ユーザに係る情報を前記拡張現実感提示装置に対して送信する送信手段とを有し、
前記拡張現実感提示装置は、
前記ユーザに係る情報を示すコンピュータグラフィックス画像データを現実空間に合成させて表示することを特徴とする情報処理システム。
An information processing system having an augmented reality presentation device capable of combining and displaying real space and computer graphics image data, a communication device possessed by a user, and an information processing device,
The communication device has a transmission means for transmitting identification information,
The information processing apparatus includes:
Receiving means for receiving the identification information transmitted from the communication device possessed by a user;
Obtaining means for obtaining information relating to the user corresponding to the identification information;
Transmission means for transmitting information relating to the user to the augmented reality presentation device ;
The augmented reality presentation device includes:
An information processing system characterized in that computer graphics image data indicating information relating to the user is combined with a real space and displayed.
前記受信手段は、前記ユーザの位置を示す情報を受信し、
前記情報処理装置の前記送信手段は、前記ユーザの位置を示す情報を前記拡張現実感提示装置に送信し、
前記拡張現実感提示装置は、
前記ユーザの位置を示すコンピュータグラフィックス画像データを現実空間に合成させて表示することを特徴とする請求項1に記載の情報処理システム。
The receiving means receives information indicating the position of the user;
The transmission means of the information processing device transmits information indicating the position of the user to the augmented reality presentation device,
The augmented reality presentation device includes:
The information processing system according to claim 1, wherein computer graphics image data indicating the position of the user is combined with a real space and displayed.
前記情報処理システムは、前記通信装置から前記識別情報を受信し、前記識別情報とともに、前記ユーザの位置を示す情報として前記通信装置の位置を示す情報を前記情報処理装置に送信する受信装置を更に有し、
前記受信手段は、前記受信装置から前記識別情報及び前記ユーザの位置を示す情報を受信することを特徴とする請求項2に記載の情報処理システム。
The information processing system further includes a receiving device that receives the identification information from the communication device and transmits information indicating the position of the communication device to the information processing device as information indicating the position of the user together with the identification information. Have
The information processing system according to claim 2 , wherein the receiving unit receives the identification information and information indicating the position of the user from the receiving device .
前記通信装置は、GPS携帯端末であり、
前記受信手段は、前記識別情報とともに、前記ユーザの位置を示す情報として前記GPS携帯端末の位置を示す情報を前記GPS携帯端末から受信することを特徴とする請求項2又は3に記載の情報処理システム。
The communication device is a GPS mobile terminal,
4. The information processing according to claim 2 , wherein the receiving unit receives information indicating the position of the GPS portable terminal from the GPS portable terminal as information indicating the position of the user together with the identification information. system.
前記情報処理システムは、対象とするエリアに係る情報を逐次取得する複数の情報取得装置をさらに有し、
前記情報処理装置は、
前記複数の情報取得装置によって取得された各エリアに係る情報に基づいて、エリア毎に人又は物の密度を解析する解析手段と、
前記拡張現実感提示装置の状態に対応するエリアを判定する判定手段とをさらに有し、
前記送信手段は、前記拡張現実感提示装置の状態に対応するエリアにおける人又は物の密度を示す情報を第2の拡張現実感提示装置に対して送信し、
前記拡張現実感提示装置は、
前記人又は物の密度を示すコンピュータグラフィックス画像データを現実空間に合成させて表示することを特徴とする請求項1乃至4何れか1項に記載の情報処理システム。
The information processing system further includes a plurality of information acquisition devices that sequentially acquire information related to a target area,
The information processing apparatus includes:
Based on information relating to each area acquired by the plurality of information acquisition devices, analysis means for analyzing the density of people or things for each area;
Determination means for determining an area corresponding to the state of the augmented reality presentation device;
The transmitting means transmits information indicating the density of a person or an object in an area corresponding to the state of the augmented reality presentation device to the second augmented reality presentation device,
The augmented reality presentation device includes:
The information processing system according to any one of claims 1 to 4, characterized in that displaying the person or computer graphics image data representing the density of the object by combining the real space.
現実空間とコンピュータグラフィックス画像データとを合成して表示させることが可能な拡張現実感提示装置と、ユーザが所持する通信装置と、情報処理装置とを有する情報処理システムによって実行される情報処理方法であって、An information processing method executed by an information processing system having an augmented reality presentation device capable of combining and displaying real space and computer graphics image data, a communication device possessed by a user, and an information processing device Because
前記通信装置が、識別情報を送信する第1の送信ステップと、A first transmission step in which the communication device transmits identification information;
前記情報処理装置が、ユーザが所持する前記通信装置から送信された前記識別情報を受信する受信ステップと、A receiving step in which the information processing device receives the identification information transmitted from the communication device possessed by a user;
前記情報処理装置が、前記識別情報に対応する前記ユーザに係る情報を取得する取得ステップと、The information processing apparatus acquires an information relating to the user corresponding to the identification information; and
前記情報処理装置が、前記ユーザに係る情報を前記拡張現実感提示装置に対して送信する第2の送信ステップと、A second transmission step in which the information processing apparatus transmits information relating to the user to the augmented reality presentation apparatus;
前記拡張現実感提示装置が、前記ユーザに係る情報を示すコンピュータグラフィックス画像データを現実空間に合成させて表示する表示ステップとA display step in which the augmented reality presentation device synthesizes and displays computer graphics image data indicating information related to the user in a real space;
を含むことを特徴とする情報処理方法。An information processing method comprising:
前記受信ステップにおいて、前記情報処理装置は、前記ユーザの位置を示す情報を受信し、In the receiving step, the information processing apparatus receives information indicating the position of the user,
前記送信ステップにおいて、情報処理装置は、前記ユーザの位置を示す情報を前記拡張現実感提示装置に送信し、In the transmission step, the information processing apparatus transmits information indicating the position of the user to the augmented reality presentation apparatus,
前記表示ステップにおいて、前記拡張現実感提示装置は、前記ユーザの位置を示すコンピュータグラフィックス画像データを現実空間に合成させて表示することを特徴とする請求項6に記載の情報処理方法。The information processing method according to claim 6, wherein, in the display step, the augmented reality presentation device displays computer graphics image data indicating the position of the user by combining it with a real space.
現実空間とコンピュータグラフィックス画像データとを合成して表示させることが可能な拡張現実感提示装置と、ユーザが所持する通信装置と、情報処理装置とを有する情報処理システムによって実行される情報処理方法をコンピュータに実行させるためのプログラムであって、
前記通信装置のコンピュータに、識別情報を送信する送信ステップを実行させ、
前記情報処理装置のコンピュータに、
ユーザが所持する前記通信装置から送信された前記識別情報を受信する受信ステップと、
前記識別情報に対応する前記ユーザに係る情報を取得する取得ステップと、
前記ユーザに係る情報を前記拡張現実感提示装置に対して送信する送信ステップとを実行させ、
前記拡張現実感提示装置のコンピュータに、
前記ユーザに係る情報を示すコンピュータグラフィックス画像データを現実空間に合成させて表示するステップを実行させることを特徴とするプログラム。
An information processing method executed by an information processing system having an augmented reality presentation device capable of combining and displaying real space and computer graphics image data, a communication device possessed by a user, and an information processing device A program for causing a computer to execute
Causing the computer of the communication device to execute a transmission step of transmitting identification information;
In the computer of the information processing apparatus,
A receiving step of receiving the identification information transmitted from the communication device possessed by a user;
An acquisition step of acquiring information relating to the user corresponding to the identification information;
Transmitting information related to the user to the augmented reality presentation device, and
In the computer of the augmented reality presentation device,
A program for executing a step of combining computer graphics image data indicating information on the user with a real space for display.
前記受信ステップにおいて、前記情報処理装置は、前記ユーザの位置を示す情報を受信し、In the receiving step, the information processing apparatus receives information indicating the position of the user,
前記送信ステップにおいて、情報処理装置は、前記ユーザの位置を示す情報を前記拡張現実感提示装置に送信し、In the transmission step, the information processing apparatus transmits information indicating the position of the user to the augmented reality presentation apparatus,
前記表示ステップにおいて、前記拡張現実感提示装置は、前記ユーザの位置を示すコンピュータグラフィックス画像データを現実空間に合成させて表示することを特徴とする請求項8に記載のプログラム。9. The program according to claim 8, wherein in the display step, the augmented reality presentation device displays computer graphics image data indicating the position of the user by combining it with a real space.
JP2011176631A 2011-08-12 2011-08-12 Information processing system, information processing method, and program Active JP5521134B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011176631A JP5521134B2 (en) 2011-08-12 2011-08-12 Information processing system, information processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011176631A JP5521134B2 (en) 2011-08-12 2011-08-12 Information processing system, information processing method, and program

Publications (2)

Publication Number Publication Date
JP2013041360A JP2013041360A (en) 2013-02-28
JP5521134B2 true JP5521134B2 (en) 2014-06-11

Family

ID=47889717

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011176631A Active JP5521134B2 (en) 2011-08-12 2011-08-12 Information processing system, information processing method, and program

Country Status (1)

Country Link
JP (1) JP5521134B2 (en)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101662216B1 (en) * 2015-03-26 2016-10-04 주식회사 나루씨이엠 Positioning system in ski-slopes wireless device for ski and device for recognizing location, method for ski training using the same
GB2538311A (en) * 2015-05-15 2016-11-16 Sony Corp A display, method and computer program
JP2017176312A (en) 2016-03-29 2017-10-05 セイコーエプソン株式会社 Information notification system, information notification method and program
CN109685254B (en) * 2018-12-12 2021-04-30 佳顿集团有限公司 Artificial ski field transportation system and transportation method
CN109598448B (en) * 2018-12-12 2021-05-25 佳顿集团有限公司 Artificial ski field operation management system and management method
US11623653B2 (en) 2020-01-23 2023-04-11 Toyota Motor Engineering & Manufacturing North America, Inc. Augmented reality assisted traffic infrastructure visualization
JP7116758B2 (en) * 2020-06-11 2022-08-10 株式会社ポケモン Wandering support system, walking support method, and walking support program

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3413127B2 (en) * 1999-06-11 2003-06-03 キヤノン株式会社 Mixed reality device and mixed reality presentation method
JP2002259581A (en) * 2001-02-27 2002-09-13 Nec Custommax Ltd Method and system for providing information
JP2005011284A (en) * 2003-06-23 2005-01-13 Nec Corp System and method for evaluating transport service and evaluation center terminal
WO2006035755A1 (en) * 2004-09-28 2006-04-06 National University Corporation Kumamoto University Method for displaying movable-body navigation information and device for displaying movable-body navigation information
JP2006099685A (en) * 2004-09-30 2006-04-13 Toshiba Corp System and method for monitoring vehicle
JP4891792B2 (en) * 2007-01-26 2012-03-07 クラリオン株式会社 Traffic information distribution method and traffic information distribution device
JP5653201B2 (en) * 2010-12-15 2015-01-14 新日鉄住金ソリューションズ株式会社 Information processing system, control method thereof, and program

Also Published As

Publication number Publication date
JP2013041360A (en) 2013-02-28

Similar Documents

Publication Publication Date Title
JP5521134B2 (en) Information processing system, information processing method, and program
US9928653B2 (en) Head mounted display presentation adjustment
EP2752362B1 (en) Image display system, image display method and program
US10223799B2 (en) Determining coordinate frames in a dynamic environment
US20200232803A1 (en) Generating composite images for display on a mobile device based on ground truth image rendering
EP3151202B1 (en) Information processing device and information processing method
EP3252432A1 (en) Information-attainment system based on monitoring an occupant
US20150317838A1 (en) Registration for vehicular augmented reality using auto-harmonization
US20170140457A1 (en) Display control device, control method, program and storage medium
US11900672B2 (en) Integrated internal and external camera system in vehicles
US20200126418A1 (en) Method and system for vehicle location
US20150331242A1 (en) Head mounted display device displaying thumbnail image and method of controlling the same
CN104680714A (en) Method and system for sending prompts to user
US9097893B2 (en) Information processing terminal for superimposing target position on a head mounted display
CN109842790B (en) Image information display method and display
JP4604597B2 (en) State estimating device, state estimating method, information providing device using the same, information providing method
US20160332059A1 (en) Display, method and computer program
JPWO2018179305A1 (en) Travel route providing system, control method therefor, and program
US20140195300A1 (en) Site of interest extraction device, site of interest extraction method, and computer-readable recording medium
JP2017016287A (en) Transmission device, server device, control method, program, and storage medium
US11508084B2 (en) Information processing apparatus and information processing method for accurately estimating a self location
JP5910729B2 (en) Position determination system, position determination method, computer program, and position determination apparatus
KR102431493B1 (en) System and method for providing vehicle function guidance and vritrual test-driving experience based on augmented reality
WO2020045092A1 (en) Information processing device, information processing method, and program
JP6077930B2 (en) Information management apparatus, information management system, communication terminal, and information management method

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130723

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130920

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140121

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20140220

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140220

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140318

R150 Certificate of patent or registration of utility model

Ref document number: 5521134

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250