JP2008058102A - Head motion tracker device - Google Patents

Head motion tracker device Download PDF

Info

Publication number
JP2008058102A
JP2008058102A JP2006234420A JP2006234420A JP2008058102A JP 2008058102 A JP2008058102 A JP 2008058102A JP 2006234420 A JP2006234420 A JP 2006234420A JP 2006234420 A JP2006234420 A JP 2006234420A JP 2008058102 A JP2008058102 A JP 2008058102A
Authority
JP
Japan
Prior art keywords
head
information
relative
motion tracker
head information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006234420A
Other languages
Japanese (ja)
Other versions
JP4961904B2 (en
Inventor
Ken Hirooka
研 廣岡
Akinori Fujita
明徳 藤田
Kazuo Tawada
一穂 多和田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shimadzu Corp
Original Assignee
Shimadzu Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shimadzu Corp filed Critical Shimadzu Corp
Priority to JP2006234420A priority Critical patent/JP4961904B2/en
Publication of JP2008058102A publication Critical patent/JP2008058102A/en
Application granted granted Critical
Publication of JP4961904B2 publication Critical patent/JP4961904B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

<P>PROBLEM TO BE SOLVED: To provide a head motion tracker device with an auxiliary function for accurately calculating the position of a head part even when accurate measurement is impossible because of magnetostriction, etc. occurring in an AC magnetic field or measurement through stereoscopic viewing is impossible. <P>SOLUTION: The head motion tracker device 1 includes a main head-part information calculation part 22 calculating relative head-part information of the first kind by means of a motion tracker, and a first relative head-part information storage part 42 for storing therein the head-part information of the first kind. The device 1 includes a movable body sensor 4 for detecting acceleration, a head-part sensor 6 for detecting acceleration, a head-part velocity information calculation part 24 calculating head-part velocity information based on the head-part information of the first kind, an auxiliary head-part information calculation part 23 calculating relative head-part information of the second kind based on the acceleration detected from the sensors 4 and 6, the velocity information, and the head-part information of the first kind, and a switching part 29 for causing the calculation part 23 to calculate the head-part information of the second kind when the head-part information of the first kind obtained by the calculation part 22 is inappropriate. <P>COPYRIGHT: (C)2008,JPO&INPIT

Description

本発明は、移動体に設定された基準座標に対する搭乗者の頭部位置を測定するためのヘッドモーショントラッカ装置(以下、HMT装置ともいう)に関する。本発明は、例えば、ゲーム機や乗物等の移動体で用いられる頭部装着型表示装置付ヘルメットの現在位置(すなわち、現在の頭部位置)を検出するHMT装置等に利用される。   The present invention relates to a head motion tracker device (hereinafter also referred to as an HMT device) for measuring a passenger's head position with respect to a reference coordinate set on a moving body. The present invention is used for, for example, an HMT device that detects a current position (that is, a current head position) of a helmet with a head-mounted display device used in a moving body such as a game machine or a vehicle.

例えば、救難飛行艇による救難活動では、発見した救難目標を見失うことがないようにするため、頭部装着型表示装置付ヘルメットにより表示される照準画像と救難目標とが対応した時にロックすることにより、ロックされた救難目標の位置を演算することが行われている。このとき、その救難目標の位置を演算するために、飛行体(救難飛行艇)の緯度、経度、高度、姿勢に加えて、飛行体に設定された基準座標に対するパイロットの頭部位置を測定している。このために、HMT装置が利用されている。   For example, in a rescue operation by a rescue flying boat, by locking the aiming image displayed by the helmet with a head-mounted display device and the rescue target so as not to lose sight of the found rescue target, Calculating the position of the locked rescue target has been done. At this time, in order to calculate the position of the rescue target, in addition to the latitude, longitude, altitude, and attitude of the flying object (rescue flying boat), the pilot head position relative to the reference coordinates set on the flying object is measured. ing. For this purpose, an HMT apparatus is used.

このような従来のHMT装置として、例えば、交流磁気方式HMTが挙げられる(例えば、特許文献1参照)。図14は、飛行体130に取り付けられた交流磁気方式HMTの概略構成を示す図である。HMT100は、交流磁界を発生する磁気ソース102と、座席130aに座ったパイロット103が頭部に装着する頭部装着型表示装置付ヘルメット110と、頭部装着型表示装置付ヘルメット110に固定された磁気センサ107と、磁気ソース102及び磁気センサ107の制御を行うとともに、磁気センサ107が検出した磁気データに基づいて磁気センサ107の位置を算出する機能を有する制御部120とから構成される。
よって、HMT100によれば、磁気ソース102が発生する交流磁界により、空間の各点には、それぞれの位置に固有の磁気変化(大きさ及び向きを有する磁気データ)が生じることになる。なお、このとき、予め、飛行体130に対する位置の基準となる基準座標が定められて、制御部120に記憶されており、例えば、磁気ソース102の位置を原点としてXYZ座標(例えば、機種方向をX軸とする)を定めてある。
As such a conventional HMT device, for example, an AC magnetic system HMT can be cited (for example, see Patent Document 1). FIG. 14 is a diagram showing a schematic configuration of an AC magnetic system HMT attached to the flying object 130. The HMT 100 is fixed to a magnetic source 102 that generates an alternating magnetic field, a helmet 110 with a head-mounted display device that a pilot 103 sitting on a seat 130a wears on the head, and a helmet 110 with a head-mounted display device. The magnetic sensor 107 includes a control unit 120 that controls the magnetic source 102 and the magnetic sensor 107 and has a function of calculating the position of the magnetic sensor 107 based on magnetic data detected by the magnetic sensor 107.
Therefore, according to the HMT 100, an alternating magnetic field generated by the magnetic source 102 causes a magnetic change (magnetic data having a magnitude and a direction) unique to each position at each point in the space. At this time, reference coordinates serving as a reference for the position with respect to the flying object 130 are determined in advance and stored in the control unit 120. X axis).

これにより、磁気センサ107で検出した磁気データと、空間の各点が有する磁気データと比較することにより、磁気センサ107の現在位置であるX、Y、Zの位置情報を求め、頭部装着型表示装置付ヘルメット110を装着したパイロット103の頭部の基準座標に対する頭部位置を算出している。   Thereby, by comparing the magnetic data detected by the magnetic sensor 107 with the magnetic data of each point in the space, the position information of the current position of the magnetic sensor 107 X, Y, Z is obtained, and the head-mounted type The head position relative to the reference coordinates of the head of the pilot 103 wearing the helmet 110 with display device is calculated.

また、複数の反射板を頭部装着型表示装置付ヘルメットに取り付けるとともに光源から光を照射したときの反射光をカメラ装置でモニタする光学方式HMT装置が開示されている(例えば、特許文献2参照)。また、本出願人が先に出願しているHMT装置もある(特願2005−106418号)。具体的には、頭部装着型表示装置付ヘルメットの外周面上に、光学マーカー群として、LED(発光ダイオード)を互いに離隔するようにして3箇所に取り付け、これら3つのLEDの相対的な位置関係を予め制御部に記憶させておく。そして、これら3つのLEDを、ステレオ視が可能でかつ設置場所が固定された2台のカメラで同時に撮影することで、所謂、三角測量の原理により、現在の3つのLEDの相対的な位置関係を測定している。頭部装着型表示装置付ヘルメットに固定された3点の位置(3つのLEDの位置)が特定できれば、頭部装着型表示装置付ヘルメットの位置や向き(角度)が特定できるので、これにより、基準座標に対する頭部装着型表示装置付ヘルメットの移動距離量や移動角度量を算出している。
特開2002−81904号公報 特表平9−506194号公報
In addition, an optical HMT device is disclosed in which a plurality of reflectors are attached to a helmet with a head-mounted display device and the reflected light is monitored by a camera device when light is emitted from a light source (see, for example, Patent Document 2). ). There is also an HMT device that the applicant has applied for earlier (Japanese Patent Application No. 2005-106418). Specifically, on the outer peripheral surface of the helmet with a head-mounted display device, as an optical marker group, LEDs (light emitting diodes) are attached at three locations so as to be separated from each other, and the relative positions of these three LEDs The relationship is stored in advance in the control unit. Then, these three LEDs are photographed simultaneously by two cameras that can be viewed in stereo and have a fixed installation location, so that the relative positional relationship of the current three LEDs is based on the so-called triangulation principle. Is measuring. If the position of the three points (position of three LEDs) fixed to the head-mounted display-equipped helmet can be specified, the position and orientation (angle) of the head-mounted display-equipped helmet can be specified. The movement distance amount and the movement angle amount of the helmet with a head-mounted display device with respect to the reference coordinates are calculated.
JP 2002-81904 A JP-T 9-506194

しかしながら、交流磁気方式のHMT100において、磁気ソース102や磁気センサ107の周辺に、金属等の導電性物質が存在する場合は、導電性物質内に発生する渦電流による影響で、交流磁界内に磁気歪が生じ、精度の高い磁気センサ107の位置の特定を困難にしていた。   However, in the AC magnetic HMT 100, when a conductive material such as a metal is present around the magnetic source 102 or the magnetic sensor 107, the magnetic field is generated in the AC magnetic field due to the influence of the eddy current generated in the conductive material. Distortion has occurred, making it difficult to specify the position of the magnetic sensor 107 with high accuracy.

一方、光学方式HMT装置においては、カメラ装置により光学マーカー群を観測し続ける必要があるが、頭部装着型表示装置付ヘルメットの位置が大きく変化する場合には、光学マーカーの位置とカメラ装置の設置場所との関係で、光学マーカーがカメラ装置の視野から外れることがあるので、ステレオ視による測定ができなくなることがあった。   On the other hand, in the optical HMT device, it is necessary to continue observing the optical marker group with the camera device. However, when the position of the helmet with a head-mounted display device changes greatly, the position of the optical marker and the camera device Since the optical marker may deviate from the field of view of the camera device in relation to the installation location, it may be impossible to perform stereo measurement.

そこで、本発明は、交流磁気方式のHMTにおいて交流磁界内に磁気歪が生じて正確な測定ができなくなったり、光学方式HMT装置においてステレオ視による測定ができなくなったりしたときにも、移動体に設定された基準座標に対する頭部位置を、精度よく算出することができる補助機構を備えたヘッドモーショントラッカ装置を提供することを目的とする。   Therefore, the present invention can also be applied to a moving body when magnetostriction occurs in an AC magnetic field in an AC magnetic type HMT and accurate measurement cannot be performed, or in the optical type HMT device, measurement by stereo vision cannot be performed. It is an object of the present invention to provide a head motion tracker device including an auxiliary mechanism that can accurately calculate a head position with respect to set reference coordinates.

上記課題を解決するためになされた第一の本発明のヘッドモーショントラッカ装置は、光学方式モーショントラッカと、前記光学方式モーショントラッカにより、移動体に設定された基準座標に対する搭乗者の頭部位置を含む第一相対頭部情報を算出する主頭部情報算出部とを備えたヘッドモーショントラッカ装置において、異なる時間に算出された少なくとも2つの第一相対頭部情報を記憶する第一相対頭部情報記憶部と、前記移動体に取り付けられるとともに、当該移動体に作用する加速度を検出する移動体センサと、前記搭乗者の頭部に装着されるとともに、当該頭部に作用する加速度を検出する頭部センサと、前記少なくとも2つの第一相対頭部情報に基づいて、前記搭乗者の頭部速度を含む頭部速度情報を算出する頭部速度情報算出部と、前記移動体センサ及び頭部センサから検出された加速度と、前記頭部速度情報及び第一相対頭部情報とに基づいて、前記基準座標に対する搭乗者の頭部位置を含む第二相対頭部情報を算出する副頭部情報算出部と、前記主頭部情報算出部による第一相対頭部情報が不適当であるときに、前記副頭部情報算出部により第二相対頭部情報を算出させる切替部とを備えるようにしている。   A head motion tracker device according to a first aspect of the present invention, which has been made to solve the above problems, includes an optical motion tracker, and a position of a passenger's head relative to a reference coordinate set on a moving body by the optical motion tracker. 1st relative head information which memorize | stores at least 2 1st relative head information calculated in different time in the head motion tracker apparatus provided with the main head information calculation part which calculates the 1st relative head information containing A storage unit, a moving body sensor that is attached to the moving body and detects acceleration acting on the moving body, and a head that is attached to the head of the passenger and detects acceleration acting on the head Head speed information calculation that calculates head speed information including the head speed of the occupant based on the head sensor and the at least two first relative head information A second relative position including a passenger's head position with respect to the reference coordinates based on the acceleration detected from the moving body sensor and the head sensor, and the head speed information and the first relative head information. When the relative head information calculation unit for calculating the head information and the first relative head information by the main head information calculation unit are inappropriate, the secondary head information calculation unit calculates the second relative head information. And a switching unit for calculating.

ここで、「光学方式モーショントラッカ」とは、動きを検出しようとする物体(例えば、頭部装着型表示装置付ヘルメット)に、発光体(ランプ、LED等)、反射体、蛍光体等の光学マーカーを取り付けるとともに、光学マーカー群を光学的に検出するカメラ装置等の光学検出手段を配置することにより、光学マーカー群の位置を逐次検出することで、物体の動きを追跡することができるモーショントラッカのことをいう。   Here, the “optical motion tracker” refers to an object (for example, a helmet with a head-mounted display device) whose motion is to be detected, an optical material such as a light emitter (lamp, LED, etc.), a reflector, and a phosphor. A motion tracker that can track the movement of an object by attaching a marker and detecting the position of the optical marker group sequentially by arranging optical detection means such as a camera device that optically detects the optical marker group. I mean.

また、「移動体センサ」及び「頭部センサ」とは、センサ自体に3軸が定義されて、この3軸を基準とする3軸方向の加速度を検出できるもののことをいい、具体的には、加速度センサが用いられる。なお、頭部センサでは、移動体中では頭部の動きと移動体の動きとが合成された動きの情報が検出される。   In addition, “moving body sensor” and “head sensor” are those in which three axes are defined in the sensor itself, and acceleration in three axis directions with reference to these three axes can be detected. An acceleration sensor is used. The head sensor detects movement information obtained by combining the movement of the head and the movement of the moving body in the moving body.

また、第一の発明のヘッドモーショントラッカ装置による「主頭部情報算出部による第一相対頭部情報が不適当であるとき」とは、主頭部情報算出部により正確な第一相対頭部情報が得られないとき、あるいは、第一相対頭部情報が得られないときのことをいう。具体的には、光学方式モーショントラッカでは、光学マーカーがカメラ装置等の光学検出手段の視野外に移動することにより光学的測定ができなくなるときのことをいう。   In addition, “when the first relative head information by the main head information calculation unit is inappropriate” by the head motion tracker device of the first invention means that the first relative head by the main head information calculation unit is accurate. When information is not obtained, or when the first relative head information is not obtained. Specifically, in the optical motion tracker, it means a case where optical measurement cannot be performed because the optical marker moves out of the field of view of an optical detection means such as a camera device.

次に、第二の本発明のヘッドモーショントラッカ装置は、磁気方式モーショントラッカと、前記磁気方式モーショントラッカにより、移動体に設定された基準座標に対する搭乗者の頭部位置を含む第一相対頭部情報を算出する主頭部情報算出部とを備えたヘッドモーショントラッカ装置において、異なる時間に算出された少なくとも2つの第一相対頭部情報を記憶する第一相対頭部情報記憶部と、前記移動体に取り付けられるとともに、当該移動体に作用する加速度を検出する移動体センサと、前記搭乗者の頭部に装着されるとともに、当該頭部に作用する加速度を検出する頭部センサと、前記少なくとも2つの第一相対頭部情報に基づいて、前記搭乗者の頭部速度を含む頭部速度情報を算出する頭部速度情報算出部と、前記移動体センサ及び頭部センサから検出された加速度と、前記頭部速度情報及び第一相対頭部情報とに基づいて、前記基準座標に対する搭乗者の頭部位置を含む第二相対頭部情報を算出する副頭部情報算出部と、前記主頭部情報算出部による第一相対頭部情報が不適当であるときに、前記副頭部情報算出部により第二相対頭部情報を算出させる切替部とを備えるようにしている。   Next, a head motion tracker device according to a second aspect of the present invention includes a magnetic motion tracker and a first relative head including a passenger's head position relative to a reference coordinate set on a moving body by the magnetic motion tracker. In a head motion tracker device including a main head information calculation unit that calculates information, a first relative head information storage unit that stores at least two first relative head information calculated at different times, and the movement A moving body sensor that is attached to the body and detects acceleration acting on the moving body; a head sensor that is mounted on the head of the passenger and detects acceleration acting on the head; and Based on two pieces of first relative head information, a head speed information calculation unit that calculates head speed information including the head speed of the occupant, the mobile body sensor, and A sub-head that calculates second relative head information including the head position of the passenger with respect to the reference coordinates based on the acceleration detected from the head sensor, the head speed information, and the first relative head information. And a switching unit that causes the sub head information calculation unit to calculate the second relative head information when the first relative head information by the main head information calculation unit is inappropriate. I am doing so.

ここで、「磁気方式モーショントラッカ」とは、動きを検出しようとする物体に磁気センサを取り付けるとともに、空間に対して磁気ソースで交流磁界を発生させることにより、磁気センサで当該空間の各地点毎に定まる磁気を検出して、磁気センサの位置を求めることで、物体の動きを追跡することができるモーショントラッカのことをいう。   Here, the “magnetic motion tracker” means that a magnetic sensor is attached to an object whose movement is to be detected, and an alternating magnetic field is generated by a magnetic source to the space, so that the magnetic sensor can detect each point in the space. This is a motion tracker that can track the movement of an object by detecting the magnetism determined by the above and obtaining the position of the magnetic sensor.

また、第二の発明のヘッドモーショントラッカ装置による「主頭部情報算出部による第一相対頭部情報が不適当であるとき」とは、主頭部情報算出部により正確な第一相対頭部情報が得られないとき、あるいは、第一相対頭部情報が得られないときのことをいう。具体的には、磁気方式モーショントラッカでは、磁気歪等がある領域や磁気マッピングを作成していない領域により正確な磁気データの測定ができなくなるとき(この領域等は予め設定記憶される)のことをいう。   Further, when the first relative head information by the main head information calculation unit is inappropriate by the head motion tracker device of the second aspect of the invention, an accurate first relative head by the main head information calculation unit When information is not obtained or when the first relative head information is not obtained. Specifically, in the magnetic motion tracker, when accurate magnetic data cannot be measured due to an area where there is magnetostriction or an area where magnetic mapping is not created (this area etc. is preset and stored) Say.

第一の発明のHMT装置によれば、主頭部情報算出部は、光学方式モーショントラッカにより、移動体に設定された基準座標に対する搭乗者の頭部位置を含む第一相対頭部情報を算出する。一方、頭部速度情報算出部は、少なくとも2つの第一相対頭部情報に基づいて、搭乗者の頭部速度を含む頭部速度情報を算出することができる。よって、移動体に取り付けられた移動体センサが加速度を検出するとともに、搭乗者の頭部に取り付けられた頭部センサが加速度を検出すると、副頭部情報算出部は、加速度と、頭部速度情報及び第一相対頭部情報とに基づいて、搭乗者の頭部位置を含む第二相対頭部情報を算出することができる。
これにより、切替部は、光学方式モーショントラッカにおいてステレオ視による測定ができなくなるような、主頭部情報算出部が第一相対頭部情報を算出できない状態になったときに、一時的に副頭部情報算出部が移動体に設定された基準座標に対する頭部位置を含む第二相対頭部情報を算出することができる。
なお、副頭部情報算出部は、頭部センサから検出される加速度、及び、移動体センサから検出される加速度に基づいて、第二相対頭部情報を算出するが、加速度を検出するセンサ(加速度センサ等)の性質上、精度がよくない。そこで、精度がよい主頭部情報算出部により頭部位置を含む第一相対頭部情報を算出するとともに、主頭部情報算出部による第一相対頭部情報が不適当であるときに、一時的に補助として、副頭部情報算出部により頭部位置を含む第二相対頭部情報を算出する。そして、再び、主頭部情報算出部による第一相対頭部情報を算出することが可能になると、その第一相対頭部情報を参照するようにする。つまり、このようにすることで、常時、精度よく、移動体に設定された基準座標に対する頭部位置等の頭部情報を算出することができる。
According to the HMT device of the first invention, the main head information calculation unit calculates the first relative head information including the passenger's head position with respect to the reference coordinates set in the moving body by the optical motion tracker. To do. On the other hand, the head speed information calculation unit can calculate head speed information including the head speed of the passenger based on at least two pieces of first relative head information. Therefore, when the mobile body sensor attached to the mobile body detects acceleration and the head sensor attached to the head of the passenger detects acceleration, the sub head information calculation unit calculates the acceleration and the head speed. Based on the information and the first relative head information, it is possible to calculate the second relative head information including the head position of the passenger.
As a result, the switching unit temporarily becomes a sub-head when the main head information calculation unit cannot calculate the first relative head information such that the optical motion tracker cannot perform stereo measurement. The partial information calculation unit can calculate the second relative head information including the head position with respect to the reference coordinates set in the moving body.
The sub head information calculation unit calculates the second relative head information based on the acceleration detected from the head sensor and the acceleration detected from the moving body sensor. The accuracy is not good due to the nature of the acceleration sensor. Therefore, when the first relative head information including the head position is calculated by the accurate main head information calculation unit and the first relative head information by the main head information calculation unit is inappropriate, As an auxiliary, second relative head information including the head position is calculated by the sub head information calculation unit. Then, when the first relative head information can be calculated again by the main head information calculation unit, the first relative head information is referred to. That is, by doing in this way, head information such as the head position with respect to the reference coordinates set in the moving body can be calculated accurately at all times.

また、第二の発明のHMT装置によれば、主頭部情報算出部は、磁気方式モーショントラッカにより、移動体に設定された基準座標に対する搭乗者の頭部位置を含む第一相対頭部情報を算出する。一方、頭部速度情報算出部は、少なくとも2つの第一相対頭部情報に基づいて、搭乗者の頭部速度を含む頭部速度情報を算出することができる。よって、移動体に取り付けられた移動体センサが加速度を検出するとともに、搭乗者の頭部に取り付けられた頭部センサが加速度を検出すると、副頭部情報算出部は、加速度と、頭部速度情報及び第一相対頭部情報とに基づいて、搭乗者の頭部位置を含む第二相対頭部情報を算出することができる。
これにより、切替部は、磁気方式モーショントラッカにおいて交流磁界内に磁気歪等が生じている領域(予め設定記憶された領域)になるような、主頭部情報算出部が第一相対頭部情報を正確に算出できない状態になったときに、一時的に副頭部情報算出部が移動体に設定された基準座標に対する頭部位置を含む第二相対頭部情報を算出することができる。つまり、このようにすることで、常時、精度よく、移動体に設定された基準座標に対する頭部位置等の頭部情報を算出することができる。
Further, according to the HMT device of the second invention, the main head information calculation unit includes the first relative head information including the head position of the occupant with respect to the reference coordinates set on the moving body by the magnetic motion tracker. Is calculated. On the other hand, the head speed information calculation unit can calculate head speed information including the head speed of the passenger based on at least two pieces of first relative head information. Therefore, when the mobile body sensor attached to the mobile body detects acceleration and the head sensor attached to the head of the passenger detects acceleration, the sub head information calculation unit calculates the acceleration and the head speed. Based on the information and the first relative head information, it is possible to calculate the second relative head information including the head position of the passenger.
As a result, the main head information calculation unit is configured so that the main head information calculation unit becomes a region in which magnetostriction or the like is generated in the AC magnetic field in the magnetic motion tracker (a region that is preset and stored). Can be calculated accurately, the second relative head information including the head position with respect to the reference coordinates set in the moving body can be temporarily calculated by the sub head information calculating unit. That is, by doing in this way, head information such as the head position with respect to the reference coordinates set in the moving body can be calculated accurately at all times.

(他の課題を解決するための手段および効果)
また、上記第一の発明において、前記光学方式モーショントラッカは、前記搭乗者の頭部に装着される光学マーカー群と、前記移動体に取り付けられ、前記光学マーカー群からの光線を検出するカメラ装置とを備えるようにしてもよい。
この発明によれば、移動体内のカメラ設置場所付近では、主頭部情報算出部により頭部位置の頭部情報を得ることができ、一方、カメラ装置の死角となる場所では副頭部情報算出部により頭部位置の頭部情報を得ることができる。
(Means and effects for solving other problems)
In the first aspect of the invention, the optical motion tracker includes an optical marker group attached to the head of the occupant, and a camera device that is attached to the moving body and detects a light beam from the optical marker group. May be provided.
According to the present invention, the head information of the head position can be obtained by the main head information calculation unit in the vicinity of the camera installation location in the moving body, while the sub head information calculation is performed at a location where the camera device is a blind spot. The head information of the head position can be obtained by the unit.

また、上記第二の発明において、前記磁気方式モーショントラッカは、前記移動体に取り付けられ、交流磁界を発生させる磁気ソースと、前記搭乗者の頭部に装着され、前記交流磁界を検出する磁気センサとを備えるようにしてもよい。
この発明によれば、例えば、磁気データの測定が正確に測定できると設定された領域では、主頭部情報算出部により頭部位置の頭部情報を得ることができ、一方、磁気歪等により磁気データの測定が正確に測定できないと設定された領域(補正不能な領域)では副頭部情報算出部により頭部位置の頭部情報を得ることができる。
In the second aspect of the invention, the magnetic motion tracker is attached to the moving body and generates an AC magnetic field, and a magnetic sensor is mounted on the head of the occupant and detects the AC magnetic field. May be provided.
According to the present invention, for example, in the region where the measurement of magnetic data can be accurately measured, the head information of the head position can be obtained by the main head information calculation unit, on the other hand, due to magnetostriction or the like In the region set as the magnetic data cannot be measured accurately (the region that cannot be corrected), the head information of the head position can be obtained by the sub head information calculation unit.

以下、本発明の実施形態について図面を用いて説明する。なお、本発明は、以下に説明するような実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で種々の態様が含まれることはいうまでもない。   Hereinafter, embodiments of the present invention will be described with reference to the drawings. Note that the present invention is not limited to the embodiments described below, and it goes without saying that various aspects are included without departing from the spirit of the present invention.

(第一の発明)
図1は、第一の発明の一実施形態であるHMT装置の概略構成を示す図であり、図2は、図1に示す頭部装着型表示装置付ヘルメットの平面図である。また、図3は、基準座標(XYZ座標)の設定を説明するための図である。さらに、図4は、HMT装置が頭部位置を含む第二相対頭部情報を算出する際に実行する演算処理の流れを説明する図である。なお、本実施形態は、飛行体30に設定された基準座標(XYZ座標)でのパイロット3の頭部位置の算出を行うものである。
本実施形態(第一の発明)では、光学方式モーショントラッカを使用する。すなわち、HMT装置51は、パイロット3の頭部に装着される頭部装着型表示装置付ヘルメット60と、飛行体30に固定された固定軸52cにより支持されるカメラ装置52(52a、52b)と、飛行体30に取り付けられた飛行体側加速度センサ4と、コンピュータにより構成される制御部70とから構成される。
(First invention)
FIG. 1 is a diagram showing a schematic configuration of an HMT device according to an embodiment of the first invention, and FIG. 2 is a plan view of the helmet with a head-mounted display device shown in FIG. FIG. 3 is a diagram for explaining setting of reference coordinates (XYZ coordinates). Furthermore, FIG. 4 is a diagram for explaining the flow of arithmetic processing executed when the HMT device calculates second relative head information including the head position. In the present embodiment, the head position of the pilot 3 at the reference coordinates (XYZ coordinates) set for the flying object 30 is calculated.
In this embodiment (first invention), an optical motion tracker is used. That is, the HMT device 51 includes a head mounted display-equipped helmet 60 attached to the head of the pilot 3 and a camera device 52 (52a, 52b) supported by a fixed shaft 52c fixed to the flying body 30. The aircraft-side acceleration sensor 4 attached to the aircraft 30 and a control unit 70 configured by a computer.

頭部装着型表示装置付ヘルメット60は、表示器(図示せず)と、表示器から出射される画像表示光を反射することにより、パイロット3の目に導くコンバイナ8と、位置や向き(すなわち、頭部位置)を測定する際の指標となる頭部マーカーとして機能するLED群57と、頭部側加速度センサ6とを有する。なお、頭部装着型表示装置付ヘルメット60を装着したパイロット3は、表示器による表示画像とコンバイナ8の前方実在物とを視認することが可能となっている。   The helmet 60 with a head-mounted display device includes a display (not shown), a combiner 8 that leads the eyes of the pilot 3 by reflecting image display light emitted from the display, and a position and orientation (ie, , A head position acceleration sensor 6 and an LED group 57 functioning as a head marker serving as an index when measuring the head position). The pilot 3 wearing the head-mounted display-equipped helmet 60 can visually recognize the display image by the display and the front actual thing of the combiner 8.

LED群57は、図2に示すように、互いに異なる波長の赤外光を発光する3個(あるいは3個以上の数)のLED57a、57b、57cが互いに離隔するようにして取り付けられたものである。なお、頭部装着型表示装置付ヘルメット60の3個のLED57a、57b、57cの相対的な位置関係と頭部装着型表示装置付ヘルメット60に対する取り付け位置とが、予め、メモリ91の初期データ記憶部39に記憶するようにしてある。よって、後述する三角測量の手法で、現時点における3個のLED57a、57b、57cの位置を算出し、初期データ記憶部39に記憶されたデータを参照することにより、LED57a、57b、57cが固定されている頭部装着型表示装置付ヘルメット60の位置が特定できる。なお、LED群は、赤外光以外の光を発光するようにしてもよい。さらに、3個のLEDは、互いに異なる波長の光を発光するようにしたが、同一の波長の光を発光するようにして、例えば、互いの形状を変えたり、追跡方法を用いる等の識別方法で、互いを識別されるようにしてもよい。   As shown in FIG. 2, the LED group 57 includes three (or three or more) LEDs 57a, 57b, and 57c that emit infrared light having different wavelengths and are spaced apart from each other. is there. The relative positional relationship between the three LEDs 57a, 57b, and 57c of the helmet 60 with a head-mounted display device and the attachment position with respect to the helmet 60 with a head-mounted display device are stored in advance as initial data in the memory 91. The information is stored in the unit 39. Therefore, the LEDs 57a, 57b, and 57c are fixed by calculating the positions of the three LEDs 57a, 57b, and 57c at the present time by referring to the data stored in the initial data storage unit 39 by the triangulation method described later. The position of the head-mounted helmet 60 with a display device can be specified. The LED group may emit light other than infrared light. Further, the three LEDs emit light having different wavelengths. However, the three LEDs can emit light having the same wavelength, for example, by changing the shape of each other or using a tracking method. Thus, they may be distinguished from each other.

頭部側加速度センサ6は、頭部の加速度を検知するものである。なお、頭部側加速度センサ6自体に、x座標が定められている。つまり、x軸、y軸、z軸方向に対する加速度(x2、y2、z2)が検出される。このとき、パイロット3は飛行体30に乗っており、飛行体30自体も動いているので、加速度(x2、y2、z2)は、パイロット3の頭部の加速度だけでなく、飛行体30の加速度も含んだものとなる。
なお、本実施形態の一部として使用されるためには、パイロット3によって基準座標(XYZ座標)と、x座標とを正確に軸合わせされる必要がある。ここで、基準座標(XYZ座標)とx座標との軸合わせの方法としては、例えば、頭部装着型表示装置付ヘルメット60自体に、後述するヘルメット座標を定め、まず、頭部側加速度センサ6を、ヘルメット座標と正確に軸合わせして、頭部装着型表示装置付ヘルメット60に取り付け、次に、頭部装着型表示装置付ヘルメット60を装着したパイロット3に特定方向を向くように指示することにより、ヘルメット座標と基準座標(XYZ座標)とを軸合わせする方法等が挙げられる。
The head-side acceleration sensor 6 detects head acceleration. Note that x 2 y 2 z 2 coordinates are defined in the head-side acceleration sensor 6 itself. That, x 2 axis, y 2 axis, z 2 acceleration with respect to the axial direction (x2, y2, z2) is detected. At this time, since the pilot 3 is on the flying body 30 and the flying body 30 itself is moving, the acceleration (x2, y2, z2) is not only the acceleration of the head of the pilot 3, but also the acceleration of the flying body 30. It is also included.
In order to be used as a part of this embodiment, the pilot 3 needs to accurately align the reference coordinates (XYZ coordinates) and the x 2 y 2 z 2 coordinates. Here, as a method of aligning the reference coordinates (XYZ coordinates) and the x 2 y 2 z 2 coordinates, for example, the helmet coordinates described later are set on the helmet 60 itself with a head-mounted display device. The head-side acceleration sensor 6 is precisely aligned with the helmet coordinates and attached to the head-mounted display-equipped helmet 60, and then the pilot 3 wearing the head-mounted display-equipped helmet 60 has a specific direction. For example, a method of aligning helmet coordinates and reference coordinates (XYZ coordinates) by instructing them to face.

飛行体30は、パイロット3が搭乗するコックピットであり、パイロット3が着席する座席30aと、カメラ装置52(52a、52b)と、飛行体側加速度センサ4とを備える。
カメラ装置52(52a、52b)は、2台のカメラ52a、52bからなり、撮影方向が頭部装着型表示装置付ヘルメット60に向けられているとともに、頭部装着型表示装置付ヘルメット60の立体視が可能な一定の距離(d1)を隔てるように、飛行体30の天井に固定軸52cを介して設置されている。
これにより、図3に示すように、LED57aのカメラ装置52(52a、52b)に対する位置は、カメラ装置52(52a,52b)に撮影された画像中に映し出されているLED57aの位置を抽出し、さらにカメラ52aからの方向角度(α)とカメラ52bからの方向角度(β)とを抽出し、カメラ52aとカメラ52bとの間の距離(d1)を用いることにより、三角測量の手法で算出することができるようにしてある。他の頭部マーカーであるLED57b、57cのカメラ装置52(52a、52b)に対する位置についても、同様に算出されるようにしてある。
The flying body 30 is a cockpit on which the pilot 3 is boarded, and includes a seat 30a on which the pilot 3 is seated, a camera device 52 (52a, 52b), and the flying body side acceleration sensor 4.
The camera device 52 (52a, 52b) is composed of two cameras 52a, 52b. The shooting direction is directed to the head-mounted display-equipped helmet 60 and the three-dimensional structure of the head-mounted display-equipped helmet 60. It is installed on the ceiling of the flying body 30 via a fixed shaft 52c so as to be separated by a certain distance (d1) that can be seen.
Thereby, as shown in FIG. 3, the position of the LED 57a relative to the camera device 52 (52a, 52b) is extracted from the position of the LED 57a displayed in the image photographed by the camera device 52 (52a, 52b), Further, the direction angle (α) from the camera 52a and the direction angle (β) from the camera 52b are extracted, and the distance (d1) between the camera 52a and the camera 52b is used to calculate by the triangulation method. I can do it. The positions of the LEDs 57b and 57c, which are other head markers, with respect to the camera device 52 (52a and 52b) are calculated in the same manner.

このときの各頭部マーカーの位置を、空間座標で表現することができるようにするために、カメラ装置52(52a、52b)に固定され、カメラ装置52とともに移動する座標系である基準座標(XYZ座標)を用いる。なお、基準座標(XYZ座標)の具体的な原点位置やXYZ軸方向の説明については後述する。基準座標(XYZ座標)によりLED57a、57b、57cの位置座標は、(X1、Y1、Z1)、(X2、Y2、Z2)、(X3、Y3、Z3)として表現できる。カメラ装置52(52a、52b)に対する3つのLED57a、57b、57cの位置座標(X1、Y1、Z1)、(X2、Y2、Z2)、(X3、Y3、Z3)が特定されることにより、LED57a、57b、57cが固定されている頭部装着型表示装置付ヘルメット60の位置が座標系を用いて特定できるようになる。
つまり、頭部マーカーであるLED群57から発光される赤外光を検出することにより3個のLED57a、57b、57cの現在の位置座標を得ることで、カメラ装置52(52a、52b)に対する頭部装着型表示装置付ヘルメット60の現在の位置を算出でき、位置座標で表現できるようにしてある。
In order to be able to express the position of each head marker at this time in spatial coordinates, the reference coordinate (which is a coordinate system that is fixed to the camera device 52 (52a, 52b) and moves together with the camera device 52 ( XYZ coordinates). The specific origin position of the reference coordinates (XYZ coordinates) and the explanation of the XYZ axis directions will be described later. The position coordinates of the LEDs 57a, 57b, 57c can be expressed as (X1, Y1, Z1), (X2, Y2, Z2), (X3, Y3, Z3) based on the reference coordinates (XYZ coordinates). By specifying the position coordinates (X1, Y1, Z1), (X2, Y2, Z2), (X3, Y3, Z3) of the three LEDs 57a, 57b, 57c with respect to the camera device 52 (52a, 52b), the LED 57a , 57b, 57c can be specified using the coordinate system of the position of the helmet 60 with a head-mounted display device.
In other words, the current position coordinates of the three LEDs 57a, 57b, and 57c are obtained by detecting the infrared light emitted from the LED group 57 that is the head marker, so that the head with respect to the camera device 52 (52a and 52b). The current position of the helmet 60 with a part-mounted display device can be calculated and expressed in position coordinates.

飛行体側加速度センサ4は、飛行体30の加速度を検知するものである。なお、飛行体側加速度センサ4自体には、x座標が定められている。つまり、x軸、y軸、z軸方向に対する加速度(x1、y1、z1)が検出される。なお、飛行体側加速度センサ4は、基準座標(XYZ座標)と正確に軸合わせされて、取り付けられている。なお、軸合わせされずに、取り付けられている場合は、座標変換行列を求めておくことで、基準座標と関連付けを行うことになる。 The flying object side acceleration sensor 4 detects the acceleration of the flying object 30. Note that the x 1 y 1 z 1 coordinates are determined for the flying object side acceleration sensor 4 itself. That, x 1 axis, y 1 axis, acceleration with respect to z 1 axially (x1, y1, z1) is detected. Note that the flying object side acceleration sensor 4 is mounted with its axis accurately aligned with the reference coordinates (XYZ coordinates). In addition, when it is attached without being aligned, association with reference coordinates is performed by obtaining a coordinate transformation matrix.

制御部70は、CPU71、メモリ91等からなるコンピュータにより構成され、各種の制御や演算処理を行う。制御部70のCPUが実行する処理を、機能ブロックごとに分けて説明すると、モーショントラッカ駆動部78と、主頭部情報算出部72と、頭部速度情報算出部24と、副頭部情報算出部23と、切替部29と、映像表示部25とからなる。
また、メモリ91は、制御部70が処理を実行するために必要な種々のデータを蓄積する領域が形成してあり、基準座標(XYZ座標)を記憶する基準座標記憶部93と、第一相対頭部情報を蓄積する第一相対頭部情報記憶部42と、時間記憶部44と、第二相対頭部情報を記憶する第二相対頭部情報記憶部48と、現在頭部速度を記憶する速度記憶部47と、初期データ記憶部39とを含む。
The control unit 70 is configured by a computer including a CPU 71, a memory 91, and the like, and performs various controls and arithmetic processes. The processing executed by the CPU of the control unit 70 will be described separately for each functional block. The motion tracker driving unit 78, the main head information calculation unit 72, the head speed information calculation unit 24, and the sub head information calculation The unit 23, the switching unit 29, and the video display unit 25 are included.
The memory 91 is formed with an area for storing various data necessary for the control unit 70 to execute processing, and includes a reference coordinate storage unit 93 that stores reference coordinates (XYZ coordinates), and a first relative A first relative head information storage unit 42 that stores head information, a time storage unit 44, a second relative head information storage unit 48 that stores second relative head information, and a current head speed are stored. A speed storage unit 47 and an initial data storage unit 39 are included.

ここで、基準座標(XYZ座標)について説明する。基準座標(XYZ座標)は、カメラ装置52(52a,52b)とともに移動する3次元座標系であり、原点及び各座標軸の方向を任意に定めることができるが、カメラ52bからカメラ52aへの方向をX軸方向とし、X軸方向に垂直かつ天井に垂直で下向き方向をZ軸方向とし、X軸方向に垂直かつ天井に水平で右向き方向をY軸方向とするように定義し、原点をカメラ52a、カメラ52bの中点として定義するようにしてある。   Here, the reference coordinates (XYZ coordinates) will be described. The reference coordinates (XYZ coordinates) are a three-dimensional coordinate system that moves together with the camera device 52 (52a, 52b). The origin and the direction of each coordinate axis can be arbitrarily determined, but the direction from the camera 52b to the camera 52a can be determined. The X axis direction is defined to be perpendicular to the X axis direction and perpendicular to the ceiling and the downward direction is the Z axis direction, perpendicular to the X axis direction and horizontal to the ceiling, and the right direction is the Y axis direction. The camera 52b is defined as the midpoint.

したがって、基準座標記憶部93は、カメラ装置52(52a,52b)に対して固定された座標である基準座標(XYZ座標)の定義に必要な情報である原点位置情報と、X、Y、Z軸方向に関する情報とを記憶する。具体的には、予め、飛行体30に、X、Y、Z軸方向を有する正方格子状の基準座標スケールを配置して画像データを取得し、画像データの格子点に基づいて、原点位置及びX、Y、Z軸の方向の情報を関連付けて記憶する。よって、記憶された画像データと、他の画像データとを比較することにより、他の画像データに存在する物体の座標位置が求められることになる。   Therefore, the reference coordinate storage unit 93 includes origin position information, which is information necessary for defining reference coordinates (XYZ coordinates) that are fixed to the camera device 52 (52a, 52b), and X, Y, Z. Information on the axial direction is stored. Specifically, a square grid reference coordinate scale having X, Y, and Z axis directions is arranged on the flying object 30 in advance to obtain image data, and based on the grid points of the image data, the origin position and Information on the directions of the X, Y, and Z axes is stored in association with each other. Therefore, by comparing the stored image data with other image data, the coordinate position of the object existing in the other image data is obtained.

モーショントラッカ駆動部78は、LED群57を点灯する指令信号を出力するとともに、カメラ装置52(52a、52b)でLED群75を撮影し、画像データによる位置情報を取得する制御を行うものである。   The motion tracker driving unit 78 outputs a command signal for turning on the LED group 57 and controls the camera device 52 (52a, 52b) to capture the LED group 75 and acquire position information based on the image data. .

主頭部情報算出部72は、カメラ装置52(52a、52b)(XYZ座標)に対するパイロット3の頭部位置(Xa、Ya、Za)を含む第一頭部情報を算出する制御を行うものである。
つまり、カメラ装置52(52a、52b)に対する3つのLED57a、57b、57cの位置(X1、Y1、Z1)、(X2、Y2、Z2)、(X3、Y3、Z3)を算出し、これら3つの位置座標を、第一相対頭部情報記憶部42に記憶されているLED57a、57b、57cの相対的な位置関係と頭部装着型表示装置ヘルメット60に対する取り付け位置のデータを参照することにより、LED57a、57b、57cが固定された頭部装着型表示装置ヘルメット60の現在位置を決定する。
The main head information calculation unit 72 performs control to calculate first head information including the head position (Xa, Ya, Za) of the pilot 3 with respect to the camera device 52 (52a, 52b) (XYZ coordinates). is there.
That is, the positions (X1, Y1, Z1), (X2, Y2, Z2), (X3, Y3, Z3) of the three LEDs 57a, 57b, 57c with respect to the camera device 52 (52a, 52b) are calculated, and these three By referring to the relative positional relationship of the LEDs 57a, 57b, and 57c stored in the first relative head information storage unit 42 and the data of the mounting position with respect to the head-mounted display device helmet 60, the position coordinates are referred to. , 57b and 57c are fixed, the current position of the head mounted display device helmet 60 is determined.

決定された頭部装着型表示装置ヘルメット60の現在位置を、XYZ座標を用いて表現するために、頭部装着型表示装置ヘルメット60上の一点をヘルメット基準点(P)と定め、さらにヘルメット基準点を始点とする二方向をヘルメット基準方向(M及びN)と定めるヘルメット座標を設定する。本実施形態では、図2に示すように、ヘルメット基準点(P)としてLED57aの位置を指定し、ヘルメット基準方向(M及びN)として頭部装着型表示装置ヘルメット60の前方方向とその垂直方向を指定することにする。これにより、頭部装着型表示装置ヘルメット60の現在位置は、ヘルメット基準点(P)の位置座標(X、Y、Z)を用いて表現することができる。   In order to express the determined current position of the head-mounted display device helmet 60 using XYZ coordinates, one point on the head-mounted display device helmet 60 is defined as a helmet reference point (P), and the helmet reference Helmet coordinates that set the two directions starting from the point as the helmet reference direction (M and N) are set. In the present embodiment, as shown in FIG. 2, the position of the LED 57a is designated as the helmet reference point (P), and the front direction of the head-mounted display device helmet 60 and the vertical direction thereof as the helmet reference direction (M and N). Will be specified. Thereby, the current position of the head mounted display device helmet 60 can be expressed using the position coordinates (X, Y, Z) of the helmet reference point (P).

つまり、主頭部情報算出部22は、3つのLED57a、57b、57cの位置(X1、Y1、Z1)、(X2、Y2、Z2)、(X3、Y3、Z3)を算出し、これに基づいて、ヘルメット基準点(P)の位置(X、Y、Z)を、頭部位置(Xa、Ya、Za)として算出する。なお、頭部位置(Xa、Ya、Za)を含む第一相対頭部情報は、第一相対頭部情報記憶部42に記憶され、蓄積されていくことになる。   That is, the main head information calculation unit 22 calculates the positions (X1, Y1, Z1), (X2, Y2, Z2), (X3, Y3, Z3) of the three LEDs 57a, 57b, 57c, and based on this Then, the position (X, Y, Z) of the helmet reference point (P) is calculated as the head position (Xa, Ya, Za). Note that the first relative head information including the head position (Xa, Ya, Za) is stored and accumulated in the first relative head information storage unit 42.

頭部速度情報算出部24は、第一相対頭部情報記憶部42に記憶された第一相対頭部情報に基づいて、パイロット3の頭部速度を含む頭部速度情報を算出する制御を行うものである。後述する副頭部情報算出部23で、飛行体側加速度センサ4及び頭部側加速度センサ6から検出された加速度に基づいて、第二相対頭部情報を算出するために、速度を算出する必要があるが、このときに、初速度が必要になる。例えば、時間tから時間tまでの加速度を積分するときには、時間tの速度(初速度)が必要となる。そこで、頭部速度情報算出部24は、時間t(なお、t→t→tの順に時間は進行するものとする)に記憶された頭部位置(Xa、Ya、Za)と、時間tに記憶された頭部位置(Xa、Ya、Za)とから、時間tから時間tまでの平均速度を算出することによって、副頭部情報算出部23で時間tの速度(初速度)として用いるための、パイロット3の頭部速度を含む頭部速度情報を算出する。 The head speed information calculation unit 24 performs control to calculate head speed information including the head speed of the pilot 3 based on the first relative head information stored in the first relative head information storage unit 42. Is. It is necessary to calculate the speed in order to calculate the second relative head information based on the acceleration detected from the flying body side acceleration sensor 4 and the head side acceleration sensor 6 in the sub head information calculation unit 23 described later. There is an initial speed at this time. For example, when integrating the acceleration from time t 2 to time t 3 , the speed (initial speed) at time t 2 is required. Therefore, the head speed information calculation unit 24 calculates the head position (Xa, Ya, Za) stored at time t 1 (note that time advances in the order of t 1 → t 2 → t 3 ). head position stored in the time t 2, (Xa, Ya, Za) from the, by calculating the average speed from the time t 1 to time t 2, the sub head information calculating unit 23 of the time t 2 Head speed information including the head speed of the pilot 3 to be used as the speed (initial speed) is calculated.

副頭部情報算出部23は、加速度(x1、y1、z1)及び加速度(x2、y2、z2)と、頭部速度情報及び第一相対頭部情報とに基づいて、パイロット3の頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を算出する制御を行うものである。例えば、まず、飛行体加速度センサ4で検知された時間tの加速度(x1、y1、z1)と、頭部側加速度センサ6で検知された時間tの加速度(x2、y2、z2)との差分から、加速度差(Δx、Δy、Δz)を算出する。つまり、差分を算出することによって、飛行体30の加速度が消去され、頭部のみの加速度が得られる。次に、時間tの速度として頭部速度情報を用いて、加速度差(Δx、Δy、Δz)を積分演算することにより、時間tの現在頭部速度を算出するとともに現在頭部速度を速度記憶部48に記憶させる。さらに、時間tの現在頭部速度を積分演算することにより、時間tに記憶された頭部位置(Xa、Ya、Za)からの頭部位置の移動距離量(ΔX、ΔY、ΔZ)を算出する。最後に、時間tに記憶された頭部位置(Xa、Ya、Za)に頭部位置の移動距離量(ΔX、ΔY、ΔZ)を加算することにより、頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を算出するとともに第二相対頭部情報を第二相対頭部情報記憶部47に記憶させることを行う。その後、場合によっては、加速度(x1、y1、z1)及び加速度(x2、y2、z2)と、記憶された現在頭部速度及び第二相対頭部情報とに基づいて、パイロット3の頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を算出することを行う。 The sub head information calculation unit 23 calculates the head position of the pilot 3 based on the acceleration (x1, y1, z1) and acceleration (x2, y2, z2), the head speed information, and the first relative head information. Control for calculating second relative head information including (Xb, Yb, Zb) is performed. For example, first, aircraft acceleration sensor 4 detects time t 3 of the acceleration and (x1, y1, z1), and the acceleration time detected by the head side acceleration sensor 6 t 3 (x2, y2, z2) From these differences, acceleration differences (Δx, Δy, Δz) are calculated. That is, by calculating the difference, the acceleration of the flying object 30 is eliminated, and the acceleration of only the head is obtained. Then, using a head speed information as the speed of the time t 2, the acceleration difference (Δx, Δy, Δz) by integral operation to the current head speed to calculate the current head speed time t 3 It is stored in the speed storage unit 48. Further, by integrating the current head speed at time t 3 , the moving distance amount (ΔX, ΔY, ΔZ) of the head position from the head position (Xa, Ya, Za) stored at time t 2. Is calculated. Finally, the stored head position in time t 2 (Xa, Ya, Za ) moving distance of the head located in (ΔX, ΔY, ΔZ) by adding the head position (Xb, Yb, Zb ) Including the second relative head information, and the second relative head information storage unit 47 stores the second relative head information. Thereafter, in some cases, based on the acceleration (x1, y1, z1) and acceleration (x2, y2, z2) and the stored current head speed and second relative head information, the head position of the pilot 3 The second relative head information including (Xb, Yb, Zb) is calculated.

切替部79は、主頭部情報算出部72による算出を行うか、あるいは副頭部情報算出部23による算出を行うかの切り替えを行う制御を行う。具体的には、カメラ装置52(52a、52b)によりLED群57の検出ができるかを判定して、検出できるときには、第一相対頭部情報を出力し、一方、検出できないときには、第二相対頭部情報を出力するように切り替えることを行う。   The switching unit 79 performs control to switch between the calculation by the main head information calculation unit 72 and the calculation by the sub head information calculation unit 23. Specifically, it is determined whether or not the LED group 57 can be detected by the camera device 52 (52a, 52b). When the LED group 57 can be detected, the first relative head information is output. Switch to output head information.

映像表示部25は、第一相対頭部情報又は第二相対頭部情報に基づいて、映像表示光を出射する制御を行うものである。これにより、パイロット3は、表示器による表示映像を視認することができるようになる。   The video display unit 25 performs control to emit video display light based on the first relative head information or the second relative head information. As a result, the pilot 3 can visually recognize the display image displayed on the display.

(ヘッドモーショントラッカ装置の動作)
次に、ヘッドモーショントラッカ装置51により頭部位置を測定する測定動作について説明する。図5〜7は、ヘッドモーショントラッカ装置51による測定動作について説明するためのフローチャートである。
(Operation of the head motion tracker)
Next, a measurement operation for measuring the head position by the head motion tracker device 51 will be described. 5 to 7 are flowcharts for explaining the measurement operation by the head motion tracker device 51.

まず、ステップS101の処理において、飛行体30が移動しているか否かを判定する。飛行体30が移動していないと判定したときには、本フローチャートを終了させる。
一方、飛行体が移動していると判定したときには、ステップS102の処理において、時間tにtn+1と更新するように、tn+1と時間記憶部44に記憶させる。
First, in the process of step S101, it is determined whether or not the flying object 30 is moving. When it is determined that the flying object 30 is not moving, this flowchart is ended.
On the other hand, when it is determined that the flying object is moving, t n + 1 is stored in the time storage unit 44 so as to be updated to t n + 1 at time t n in the process of step S102.

次に、ステップS103の処理において、主頭部情報算出部72は、カメラ装置52から検出された画像データにより、飛行体30に設定された基準座標(XYZ座標)に対する頭部位置(Xa、Ya、Za)を算出する。すなわち、飛行体30に設定された基準座標に対する頭部位置(Xa、Ya、Za)を含む第一相対頭部情報を算出する。   Next, in the process of step S <b> 103, the main head information calculation unit 72 uses the image data detected from the camera device 52 and the head position (Xa, Ya with respect to the reference coordinates (XYZ coordinates) set on the flying object 30. , Za). That is, the first relative head information including the head position (Xa, Ya, Za) with respect to the reference coordinates set in the flying object 30 is calculated.

次に、ステップS104の処理において、頭部位置(Xa、Ya、Za)を含む第一相対頭部情報を出力する。つまり、飛行体30に設定された基準座標に対する頭部位置が測定される。
次に、ステップS105の処理において、頭部位置(Xa、Ya、Za)を含む第一相対頭部情報を第一相対頭部情報記憶部42に記憶する。このとき、第一相対頭部情報記憶部42に記憶される頭部位置(Xa、Ya、Za)は、ステップS105の処理が実行される毎に、蓄積されていくことになる。
Next, in the process of step S104, first relative head information including the head position (Xa, Ya, Za) is output. That is, the head position with respect to the reference coordinates set in the flying object 30 is measured.
Next, in the process of step S <b> 105, first relative head information including the head position (Xa, Ya, Za) is stored in the first relative head information storage unit 42. At this time, the head positions (Xa, Ya, Za) stored in the first relative head information storage unit 42 are accumulated every time the process of step S105 is executed.

次に、ステップS106の処理において、切替部79は、カメラ装置52(52a、52b)によりLED群57の検出ができるかを判定する。LED群57を検出できると判定されたときには、ステップS101の処理に戻る。つまり、LED群57の検出ができなくなるか、又は、飛行体30が移動していないと判定するときまで、ステップS101〜S105の処理は繰り返される。   Next, in the process of step S106, the switching unit 79 determines whether or not the LED group 57 can be detected by the camera device 52 (52a, 52b). When it is determined that the LED group 57 can be detected, the process returns to step S101. That is, the processes of steps S101 to S105 are repeated until it is determined that the LED group 57 cannot be detected or the flying object 30 is not moving.

一方、LED群57の検出ができないと判定されたときには、ステップS107の処理において、時間sにsと更新するように、sと時間記憶部44に記憶させる。 On the other hand, when it is determined that the LED group 57 cannot be detected, s 0 is stored in the time storage unit 44 so as to be updated to s 0 at time s m in the process of step S107.

次に、ステップS108の処理において、頭部側加速度センサ6が、頭部の加速度(x2、y2、z2)を出力する。また、ステップS109の処理において、飛行体側加速度センサ4は、飛行体の加速度(x1、y1、z1)を出力する。
なお、ステップS108及びS109の処理は、同時に実行される。
Next, in the process of step S108, the head-side acceleration sensor 6 outputs the head acceleration (x2, y2, z2). In the process of step S109, the flying object side acceleration sensor 4 outputs the flying object acceleration (x1, y1, z1).
Note that the processes in steps S108 and S109 are performed simultaneously.

次に、ステップS110の処理において、頭部速度情報算出部24は、第一相対頭部情報記憶部42に記憶された時間tの第一相対頭部情報と時間tn+1の第一相対頭部情報とに基づいて、パイロット3の頭部速度を含む頭部速度情報を算出する。つまり、時間tn+1の速度として用いるための頭部速度情報を算出する。 Next, in the process in step S110, the head velocity information calculation unit 24, the first relative first relative head of the head information and time t n + 1 time stored in the first relative head information storage unit 42 t n Based on the head information, head speed information including the head speed of the pilot 3 is calculated. That is, the head speed information to be used as the speed at time t n + 1 is calculated.

次に、ステップS111の処理において、副頭部情報算出部23は、時間sの加速度(x1、y1、z1)及び加速度(x2、y2、z2)と、算出された頭部速度情報とに基づいて、時間sの現在頭部速度を算出する。
具体的には、飛行体側加速度センサ4で検知された加速度(x1、y1、z1)と、頭部側加速度センサ6で検知された加速度(x2、y2、z2)との差分から、加速度差(Δx、Δy、Δz)を算出する。次に、時間tn+1の速度として頭部速度情報を用いて、加速度差(Δx、Δy、Δz)を積分演算することにより、時間sの現在頭部速度を算出する。このとき、現在頭部速度を速度記憶部48に記憶させる。
Next, in the process of step S111, the sub head information calculation unit 23 calculates the acceleration (x1, y1, z1) and acceleration (x2, y2, z2) at time s 0 and the calculated head speed information. Based on this, the current head speed at time s 0 is calculated.
Specifically, from the difference between the acceleration (x1, y1, z1) detected by the flying object side acceleration sensor 4 and the acceleration (x2, y2, z2) detected by the head side acceleration sensor 6, an acceleration difference ( Δx, Δy, Δz) is calculated. Next, the head speed information is used as the speed at time t n + 1 and the acceleration difference (Δx, Δy, Δz) is integrated to calculate the current head speed at time s 0 . At this time, the current head speed is stored in the speed storage unit 48.

次に、ステップS112の処理において、副頭部情報算出部23は、時間sの現在頭部速度と、時間tn+1の第一相対頭部情報とに基づいて、時間sの頭部位置(Xb、Yb、Zb)を算出する。すなわち、飛行体30に設定された基準座標に対する頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を算出する。
具体的には、まず、時間sの現在頭部速度を積分演算することにより、時間tn+1に記憶された頭部位置(Xa、Ya、Za)からの頭部位置の移動距離量(ΔX、ΔY、ΔZ)を算出する。次に、時間tn+1に記憶された頭部位置(Xa、Ya、Za)に頭部位置の移動距離量(ΔX、ΔY、ΔZ)を加算することにより、時間sの頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を算出する。
Next, in the process of step S112, the sub head information calculation unit 23 calculates the head position at time s 0 based on the current head speed at time s 0 and the first relative head information at time t n + 1 . (Xb, Yb, Zb) is calculated. That is, the second relative head information including the head position (Xb, Yb, Zb) with respect to the reference coordinates set for the flying object 30 is calculated.
Specifically, first, by integrating the current head speed at time s 0 , the movement distance amount (ΔX of the head position from the head position (Xa, Ya, Za) stored at time t n + 1 is calculated. , ΔY, ΔZ). Next, the head position (Xb) at time s 0 is obtained by adding the movement distance amount (ΔX, ΔY, ΔZ) of the head position to the head position (Xa, Ya, Za) stored at time t n + 1. , Yb, Zb) is calculated.

次に、ステップS112の処理において、時間sの頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を出力する。つまり、飛行体30に設定された基準座標に対する頭部位置(Xb、Yb、Zb)が測定される。
次に、ステップS114の処理において、頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を第二相対頭部情報記憶部47に記憶する。
Next, in the process of step S112, and it outputs a second relative head information including a head position of the time s 0 (Xb, Yb, Zb ). That is, the head position (Xb, Yb, Zb) with respect to the reference coordinates set on the flying object 30 is measured.
Next, in the process of step S <b> 114, the second relative head information including the head position (Xb, Yb, Zb) is stored in the second relative head information storage unit 47.

次に、ステップS115の処理において、切替部79は、カメラ装置52(52a、52b)によりLED群57の検出ができるかを判定する。LED群57を検出できると判定されたときには、ステップS101の処理に戻る。   Next, in the process of step S115, the switching unit 79 determines whether the LED group 57 can be detected by the camera device 52 (52a, 52b). When it is determined that the LED group 57 can be detected, the process returns to step S101.

一方、LED群57の検出ができないと判定されたときには、ステップS116の処理において、時間sにsm+1と更新するように、sm+1と時間記憶部44に記憶させる。 On the other hand, when it is determined that the LED group 57 cannot be detected, s m + 1 is stored in the time storage unit 44 so that s m + 1 is updated at time s m in the process of step S116.

次に、ステップS117の処理において、頭部側加速度センサ6が、頭部の加速度(x2、y2、z2)を出力する。また、ステップS118の処理において、飛行体側加速度センサ4は、飛行体の加速度(x1、y1、z1)を出力する。
なお、ステップS117及びS118の処理は、同時に実行される。
Next, in the processing of step S117, the head-side acceleration sensor 6 outputs head acceleration (x2, y2, z2). In the process of step S118, the flying object side acceleration sensor 4 outputs the flying object acceleration (x1, y1, z1).
Note that the processes in steps S117 and S118 are performed simultaneously.

次に、ステップS119の処理において、副頭部情報算出部23は、時間sm+1の加速度(x1、y1、z1)及び加速度(x2、y2、z2)と、時間sの現在頭部速度及び頭部位置(Xb、Yb、Zb)とに基づいて、時間sm+1の現在頭部速度を算出する。
具体的には、飛行体側加速度センサ4で検知された加速度(x1、y1、z1)と、頭部側加速度センサ6で検知された加速度(x2、y2、z2)との差分から、加速度差(Δx、Δy、Δz)を算出する。次に、時間sの現在頭部速度を用いて、加速度差(Δx、Δy、Δz)を積分演算することにより、時間sm+1の現在頭部速度を算出する。このとき、現在頭部速度を速度記憶部48に記憶させる。速度記憶部48に記憶される現在頭部速度は、ステップS119の処理が実行される毎に、更新されていくことになる。
Next, in the process of step S119, the sub head information calculation unit 23 calculates the acceleration (x1, y1, z1) and acceleration (x2, y2, z2) at time s m + 1 , the current head speed at time s m , and Based on the head position (Xb, Yb, Zb), the current head speed at time sm + 1 is calculated.
Specifically, from the difference between the acceleration (x1, y1, z1) detected by the flying object side acceleration sensor 4 and the acceleration (x2, y2, z2) detected by the head side acceleration sensor 6, an acceleration difference ( Δx, Δy, Δz) is calculated. Next, using the current head speed time s m, the acceleration difference (Δx, Δy, Δz) by integral operation, and calculates the current head speed time s m + 1. At this time, the current head speed is stored in the speed storage unit 48. The current head speed stored in the speed storage unit 48 is updated each time the process of step S119 is executed.

次に、ステップS120の処理において、副頭部情報算出部23は、時間sm+1の現在頭部速度と、時間sの第二相対頭部情報とに基づいて、時間sm+1の頭部位置(Xb、Yb、Zb)を算出する。すなわち、飛行体30に設定された基準座標に対する頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を算出する。
具体的には、まず、時間sm+1の現在頭部速度を積分演算することにより、時間sに記憶された頭部位置(Xb、Yb、Zb)からの頭部位置の移動距離量(ΔX、ΔY、ΔZ)を算出する。次に、時間sに記憶された頭部位置(Xb、Yb、Zb)に頭部位置の移動距離量(ΔX、ΔY、ΔZ)を加算することにより、時間sm+1の頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を算出する。
Next, in the process of step S120, the sub-head information calculation section 23 is now a head speed of time s m + 1, based on the second relative head information time s m, the head position of the time s m + 1 (Xb, Yb, Zb) is calculated. That is, the second relative head information including the head position (Xb, Yb, Zb) with respect to the reference coordinates set for the flying object 30 is calculated.
Specifically, first, by integrating the current head speed at time s m + 1 , the movement distance amount (ΔX of the head position from the head position (Xb, Yb, Zb) stored at time s m is calculated. , ΔY, ΔZ). Then, the stored head position in time s m (Xb, Yb, Zb ) the moving distance of the head located in (ΔX, ΔY, ΔZ) by adding the head position of the time s m + 1 (Xb , Yb, Zb) is calculated.

次に、ステップS121の処理において、頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を出力する。つまり、飛行体30に設定された基準座標に対する頭部位置(Xb、Yb、Zb)が測定される。   Next, in the process of step S121, second relative head information including the head position (Xb, Yb, Zb) is output. That is, the head position (Xb, Yb, Zb) with respect to the reference coordinates set on the flying object 30 is measured.

次に、ステップS122の処理において、頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を第二相対頭部情報記憶部47に記憶する。このとき、第二相対頭部情報記憶部47に記憶される頭部位置(Xb、Yb、Zb)は、ステップS122の処理が実行される毎に、更新されていくことになる。   Next, in the process of step S122, the second relative head information including the head position (Xb, Yb, Zb) is stored in the second relative head information storage unit 47. At this time, the head position (Xb, Yb, Zb) stored in the second relative head information storage unit 47 is updated each time the process of step S122 is executed.

次に、ステップS123の処理において、切替部79は、カメラ装置52(52a、52b)によりLED群57の検出ができるかを判定する。LED群57を検出できないと判定されたときには、ステップS116の処理に戻る。つまり、LED群57を検出できると判定されるときまで、ステップS116〜ステップS122の処理は繰り返される。
一方、LED群57の検出ができると判定されたときには、ステップS101の処理に戻る。
Next, in the process of step S123, the switching unit 79 determines whether the LED group 57 can be detected by the camera device 52 (52a, 52b). When it is determined that the LED group 57 cannot be detected, the process returns to step S116. That is, the processing of step S116 to step S122 is repeated until it is determined that the LED group 57 can be detected.
On the other hand, when it is determined that the LED group 57 can be detected, the process returns to step S101.

以上のように、第一の発明のHMT装置51によれば、主頭部情報算出部72は、光学方式モーショントラッカにより、飛行体30に設定された基準座標に対するパイロット3の頭部位置を含む第一相対頭部情報を算出する。一方、頭部速度情報算出部24は、第一相対頭部情報記憶部42に記憶された第一相対頭部情報に基づいて、パイロット3の頭部速度を含む頭部速度情報を算出することができる。よって、飛行体30に取り付けられた飛行体側加速度センサ4が加速度を検出するとともに、パイロット3の頭部に取り付けられた頭部側加速度センサ6が加速度を検出すると、副頭部情報算出部23は、加速度と、頭部速度情報及び第一相対頭部情報とに基づいて、パイロット3の頭部位置を含む第二相対頭部情報を算出することができる。
これにより、切替部79は、光学方式モーショントラッカにおいてステレオ視による測定ができなくなるような、主頭部情報算出部72が第一相対頭部情報を算出できない状態になったときに、一時的に副頭部情報算出部23が飛行体30に設定された基準座標に対する頭部位置を含む第二相対頭部情報を算出することができる。
このようにして、常時、精度良く、飛行体30に設定された基準座標に対する頭部位置の頭部情報を算出することができる。
As described above, according to the HMT device 51 of the first invention, the main head information calculation unit 72 includes the head position of the pilot 3 with respect to the reference coordinates set in the flying object 30 by the optical motion tracker. First relative head information is calculated. On the other hand, the head speed information calculation unit 24 calculates head speed information including the head speed of the pilot 3 based on the first relative head information stored in the first relative head information storage unit 42. Can do. Therefore, when the flying object side acceleration sensor 4 attached to the flying object 30 detects acceleration and the head side acceleration sensor 6 attached to the head of the pilot 3 detects acceleration, the sub head information calculation unit 23 The second relative head information including the head position of the pilot 3 can be calculated based on the acceleration, the head speed information, and the first relative head information.
As a result, the switching unit 79 temporarily enters the state in which the main head information calculation unit 72 cannot calculate the first relative head information such that the optical motion tracker cannot perform stereo measurement. The sub head information calculation unit 23 can calculate the second relative head information including the head position with respect to the reference coordinates set for the flying object 30.
In this way, the head information of the head position relative to the reference coordinates set in the flying object 30 can be calculated with high accuracy at all times.

なお、上述したHMT装置51では、LED群57は、互いに異なる波長の赤外光を発光する構成を示したが、全てのLEDは、同一の波長の光を発光するようにして、例えば、各LEDをそれぞれ個別に追跡して区別する方法(例えば、特願2005−106458号等に記載されたLEDの識別方法)を用いたり、各LEDの形状をそれぞれ変えたりして、互いを識別されるような構成としてもよい。また、LED群は、赤外光以外の光を発光するような構成としてもよい。   In the HMT device 51 described above, the LED group 57 has been configured to emit infrared light having different wavelengths. However, all the LEDs emit light having the same wavelength, for example, Each LED can be identified by using a method of individually tracking and distinguishing LEDs (for example, an LED identification method described in Japanese Patent Application No. 2005-106458) or by changing the shape of each LED. It is good also as such a structure. The LED group may be configured to emit light other than infrared light.

(第二の発明)
図8は、第二の発明の一実施形態であるHMT装置の概略構成を示す図である。また、図9は、基準座標(XYZ座標)の設定を説明するための図であり、図10は、HMT装置が頭部位置を含む第二相対頭部情報を算出する際に実行する演算処理の流れを説明する図である。本実施形態(第二の発明)では、磁気方式モーショントラッカを使用する。すなわち、HMT装置1は、パイロット3の頭部に装着される頭部装着型表示装置付ヘルメット10と、飛行体30に取り付けられた磁気ソース2及び飛行体側加速度センサ4と、コンピュータにより構成される制御部20とから構成される。
(Second invention)
FIG. 8 is a diagram showing a schematic configuration of an HMT apparatus according to an embodiment of the second invention. FIG. 9 is a diagram for explaining the setting of reference coordinates (XYZ coordinates), and FIG. 10 is a calculation process executed when the HMT device calculates second relative head information including the head position. It is a figure explaining the flow of. In the present embodiment (second invention), a magnetic motion tracker is used. That is, the HMT device 1 includes a head mounted display-equipped helmet 10 attached to the head of the pilot 3, a magnetic source 2 and a flying object side acceleration sensor 4 attached to the flying object 30, and a computer. And a control unit 20.

飛行体30は、パイロット3が搭乗するコックピットであり、パイロット3が着席する座席30aと、磁気ソース2と、飛行体側加速度センサ4とを備える。
磁気ソース2は、交流磁界を発生させるものであり、磁気ソース2を駆動することにより、コックピットの空間の各点には、それぞれの位置に固有の磁気変化(大きさ及び向きを有する磁気データ)が生じることになる。なお、後述するように、磁気ソース2の位置を原点として基準座標(XYZ座標)が定められることにより、座標ごとに固有の磁気データが関連付けられることになる。また、基準座標(XYZ座標)は、飛行体30に設定され、飛行体30とともに移動する座標となる。
The flying body 30 is a cockpit on which the pilot 3 is boarded, and includes a seat 30 a on which the pilot 3 is seated, the magnetic source 2, and the flying body side acceleration sensor 4.
The magnetic source 2 generates an alternating magnetic field, and when the magnetic source 2 is driven, each point in the cockpit space has a magnetic change (magnetic data having a magnitude and a direction) specific to each position. Will occur. As will be described later, by defining the reference coordinates (XYZ coordinates) with the position of the magnetic source 2 as the origin, unique magnetic data is associated with each coordinate. Further, the reference coordinates (XYZ coordinates) are set on the flying object 30 and become coordinates that move together with the flying object 30.

飛行体側加速度センサ4は、飛行体30の加速度を検知するものである。なお、飛行体側加速度センサ4自体には、x座標が定められている。つまり、x軸、y軸、z軸方向に対する加速度(x1、y1、z1)が検出される。なお、飛行体側加速度センサ4は、基準座標(XYZ座標)と正確に軸合わせされて、取り付けられている。 The flying object side acceleration sensor 4 detects the acceleration of the flying object 30. Note that the x 1 y 1 z 1 coordinates are determined for the flying object side acceleration sensor 4 itself. That, x 1 axis, y 1 axis, acceleration with respect to z 1 axially (x1, y1, z1) is detected. Note that the flying object side acceleration sensor 4 is mounted with its axis accurately aligned with the reference coordinates (XYZ coordinates).

頭部装着型表示装置付ヘルメット10は、表示器(図示せず)と、表示器から出射される画像表示光を反射することにより、パイロット3の目に導くコンバイナ8と、磁気センサ7と、頭部側加速度センサ6とを有する。なお、頭部装着型表示装置付ヘルメット10自体にも、座標(ヘルメット座標)が定められているが、本実施形態の一部として使用するためには、パイロット3によって磁気ソース2の位置を原点とした基準座標(XYZ座標)と正確に軸合わせされる必要がある。頭部装着型表示装置付ヘルメット10自体のヘルメット座標と基準座標(XYZ座標)との軸合わせの方法については、広く用いられている一般的な方法(例えば、頭部装着型表示装置付ヘルメットを装着したパイロットに特定方向を向くように指示することにより軸合わせを行う方法)により行われる。   The helmet 10 with a head-mounted display device includes a display (not shown), a combiner 8 that leads the eyes of the pilot 3 by reflecting image display light emitted from the display, a magnetic sensor 7, A head-side acceleration sensor 6. In addition, although the coordinates (helmet coordinates) are determined for the head-mounted display-equipped helmet 10 itself, the position of the magnetic source 2 is set to the origin by the pilot 3 to be used as a part of this embodiment. It is necessary to accurately align with the reference coordinates (XYZ coordinates). About the method of aligning the helmet coordinates of the helmet 10 with a head-mounted display device itself and the reference coordinates (XYZ coordinates), a widely used general method (for example, a helmet with a head-mounted display device is used). This is performed by a method of performing axis alignment by instructing the mounted pilot to face a specific direction.

磁気センサ7は、3軸のピックアップコイルを有しており、磁気センサ7が存在する位置固有の磁気の大きさと向きとを検出するものである。この検出された磁気データは第一相対頭部情報の算出に用いられることになる。   The magnetic sensor 7 has a three-axis pickup coil, and detects the magnitude and direction of the magnetism specific to the position where the magnetic sensor 7 exists. The detected magnetic data is used for calculating the first relative head information.

頭部側加速度センサ6は、頭部の加速度を検知するものである。なお、頭部側加速度センサ6自体に、x座標が定められている。つまり、x軸、y軸、z軸方向に対する加速度(x2、y2、z2)が検出される。このとき、パイロット3は飛行体30に乗っており、飛行体30自体も動いているので、加速度(x2、y2、z2)は、パイロット3の頭部の加速度だけでなく、飛行体30の加速度も含んだものとなる。
なお、頭部側加速度センサ6は、頭部装着型表示装置付ヘルメット10に設定されたヘルメット座標と正確に軸合わせされて、頭部装着型表示装置付ヘルメット10に取り付けられる。
The head-side acceleration sensor 6 detects head acceleration. Note that x 2 y 2 z 2 coordinates are defined in the head-side acceleration sensor 6 itself. That, x 2 axis, y 2 axis, z 2 acceleration with respect to the axial direction (x2, y2, z2) is detected. At this time, since the pilot 3 is on the flying body 30 and the flying body 30 itself is moving, the acceleration (x2, y2, z2) is not only the acceleration of the head of the pilot 3, but also the acceleration of the flying body 30. It is also included.
The head-side acceleration sensor 6 is attached to the helmet 10 with a head-mounted display device, accurately aligned with the helmet coordinates set in the helmet 10 with a head-mounted display device.

制御部20は、CPU21、メモリ41等からなるコンピュータにより構成され、各種の制御や演算処理を行う。制御部20のCPU21が実行する処理を、機能ブロックごとに分けて説明すると、モーショントラッカ駆動部28と、主頭部情報算出部22と、副頭部情報算出部23と、頭部速度情報算出部24と、切替部29と、映像表示部25とからなる。   The control unit 20 is configured by a computer including a CPU 21, a memory 41, and the like, and performs various controls and arithmetic processes. Processing executed by the CPU 21 of the control unit 20 will be described separately for each functional block. The motion tracker driving unit 28, the main head information calculation unit 22, the sub head information calculation unit 23, and the head speed information calculation The unit 24, the switching unit 29, and the video display unit 25 are included.

また、メモリ41は、制御部20が処理を実行するために必要な種々のデータを蓄積する領域が形成してあり、基準座標(XYZ座標)を記憶する基準座標記憶部43と、第一相対頭部情報を蓄積する第一相対頭部情報記憶部42と、時間記憶部44と、第二相対頭部情報を記憶する第二相対頭部情報記憶部48と、現在頭部速度を記憶する速度記憶部47とを含む。
ここで、基準座標(XYZ座標)について説明する。基準座標(XYZ座標)は、磁気ソース2とともに移動する3次元座標系であり、原点及び各座標軸の方向を任意に定めることができるが、本実施形態では図9に示すように、機種方向をX軸方向とし、X軸方向に垂直かつ天井に垂直で下向き方向をZ軸方向とし、X軸方向に垂直かつ天井に水平で右向き方向をY軸方向とするように定義し、原点を磁気ソース2として定義するようにしてある。このときに、例えば、各位置における磁気データを採取することにより、磁気マッピングを作成することで、座標ごとに固有の磁気データが関連付けられる。
また、メモリ41は、磁気ソース2によって発生する磁界について、コックピットの空間で、磁気マッピングが作成可能な領域と、磁気歪等が発生していて補正不能(磁気マッピング作成不能)な領域との境界情報を記憶する境界情報記憶領域46を含む。境界情報は、予め、磁気センサ7で各位置における磁気データを採取することにより、補正不能な領域を検出することで決定される。
The memory 41 is formed with an area for storing various data necessary for the control unit 20 to execute processing, and a reference coordinate storage unit 43 that stores reference coordinates (XYZ coordinates), and a first relative A first relative head information storage unit 42 that stores head information, a time storage unit 44, a second relative head information storage unit 48 that stores second relative head information, and a current head speed are stored. A speed storage unit 47.
Here, the reference coordinates (XYZ coordinates) will be described. The reference coordinate (XYZ coordinate) is a three-dimensional coordinate system that moves with the magnetic source 2 and can arbitrarily determine the origin and the direction of each coordinate axis. In this embodiment, as shown in FIG. Defined as X-axis direction, perpendicular to the X-axis direction, perpendicular to the ceiling and downward direction as the Z-axis direction, perpendicular to the X-axis direction and horizontal to the ceiling, and rightward direction as the Y-axis direction. It is defined as 2. At this time, for example, by collecting magnetic data at each position to create a magnetic mapping, unique magnetic data is associated with each coordinate.
In addition, the memory 41 has a boundary between a region in the cockpit space where magnetic mapping can be created and a region where magnetostriction or the like is generated and cannot be corrected (magnetic mapping cannot be created) for the magnetic field generated by the magnetic source 2. A boundary information storage area 46 for storing information is included. The boundary information is determined in advance by detecting an uncorrectable region by collecting magnetic data at each position by the magnetic sensor 7.

モーショントラッカ駆動部28は、磁気ソース2に交流磁界を発生させる指令信号を出力し、磁気センサ7に磁気データを検出させる制御を行うものである。
主頭部情報算出部22は、磁気センサ7から出力される磁気データを、基準座標記憶部43に記憶されている磁気マッピングに当てはめることにより、XYZ座標における位置情報(Xa、Ya、Za)を算出する演算を行うものである。すなわち、頭部位置(Xa、Ya、Za)を含む第一相対頭部情報を算出する。なお、頭部位置(Xa、Ya、Za)を含む第一相対頭部情報は、第一相対頭部情報記憶部42に記憶され、蓄積されていくことになる。
The motion tracker driving unit 28 outputs a command signal that causes the magnetic source 2 to generate an alternating magnetic field, and controls the magnetic sensor 7 to detect magnetic data.
The main head information calculation unit 22 applies the magnetic data output from the magnetic sensor 7 to the magnetic mapping stored in the reference coordinate storage unit 43 to thereby obtain the position information (Xa, Ya, Za) in the XYZ coordinates. The calculation to calculate is performed. That is, the first relative head information including the head position (Xa, Ya, Za) is calculated. Note that the first relative head information including the head position (Xa, Ya, Za) is stored and accumulated in the first relative head information storage unit 42.

頭部速度情報算出部24は、第一相対頭部情報記憶部42に記憶された第一相対頭部情報に基づいて、パイロット3の頭部速度を含む頭部速度情報を算出する制御を行うものである。後述する副頭部情報算出部23で、飛行体側加速度センサ4及び頭部側加速度センサ6から検出された加速度に基づいて、第二相対頭部情報を算出するために、速度を算出する必要があるが、このときに、初速度が必要になる。例えば、時間tから時間tまでの加速度を積分するときには、時間tの速度(初速度)が必要となる。そこで、頭部速度情報算出部24は、時間tに記憶された頭部位置(Xa、Ya、Za)と、時間tに記憶された頭部位置(Xa、Ya、Za)とから、時間tから時間tまでの平均速度を算出することによって、副頭部情報算出部23で時間tの速度(初速度)として用いるための、パイロット3の頭部速度を含む頭部速度情報を算出する。 The head speed information calculation unit 24 performs control to calculate head speed information including the head speed of the pilot 3 based on the first relative head information stored in the first relative head information storage unit 42. Is. It is necessary to calculate the speed in order to calculate the second relative head information based on the acceleration detected from the flying body side acceleration sensor 4 and the head side acceleration sensor 6 in the sub head information calculation unit 23 described later. There is an initial speed at this time. For example, when integrating the acceleration from time t 2 to time t 3 , the speed (initial speed) at time t 2 is required. Therefore, the head velocity information calculation unit 24, the stored head position in time t 1 (Xa, Ya, Za ) and the stored head position in time t 2 (Xa, Ya, Za ) from the, The head speed including the head speed of the pilot 3 to be used as the speed (initial speed) at the time t 2 by the sub head information calculation unit 23 by calculating the average speed from the time t 1 to the time t 2. Calculate information.

副頭部情報算出部23は、加速度(x1、y1、z1)及び加速度(x2、y2、z2)と、頭部速度情報及び第一相対頭部情報とに基づいて、パイロット3の頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を算出する制御を行うものである。例えば、まず、飛行体加速度センサ4で検知された時間tの加速度(x1、y1、z1)と、頭部側加速度センサ6で検知された時間tの加速度(x2、y2、z2)との差分から、加速度差(Δx、Δy、Δz)を算出する。つまり、差分を算出することによって、飛行体30の加速度が消去され、頭部のみの加速度が得られる。次に、時間tの速度として頭部速度情報を用いて、加速度差(Δx、Δy、Δz)を積分演算することにより、時間tの現在頭部速度を算出するとともに現在頭部速度を速度記憶部48に記憶させる。さらに、時間tの現在頭部速度を積分演算することにより、時間tに記憶された頭部位置(Xa、Ya、Za)からの頭部位置の移動距離量(ΔX、ΔY、ΔZ)を算出する。最後に、時間tに記憶された頭部位置(Xa、Ya、Za)に頭部位置の移動距離量(ΔX、ΔY、ΔZ)を加算することにより、頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を算出するとともに第二相対頭部情報を第二相対頭部情報記憶部47に記憶させることを行う。その後、場合によっては、加速度(x1、y1、z1)及び加速度(x2、y2、z2)と、記憶された現在頭部速度及び第二相対頭部情報とに基づいて、パイロット3の頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を算出することを行う。 The sub head information calculation unit 23 calculates the head position of the pilot 3 based on the acceleration (x1, y1, z1) and acceleration (x2, y2, z2), the head speed information, and the first relative head information. Control for calculating second relative head information including (Xb, Yb, Zb) is performed. For example, first, aircraft acceleration sensor 4 detects time t 3 of the acceleration and (x1, y1, z1), and the acceleration time detected by the head side acceleration sensor 6 t 3 (x2, y2, z2) From these differences, acceleration differences (Δx, Δy, Δz) are calculated. That is, by calculating the difference, the acceleration of the flying object 30 is eliminated, and the acceleration of only the head is obtained. Then, using a head speed information as the speed of the time t 2, the acceleration difference (Δx, Δy, Δz) by integral operation to the current head speed to calculate the current head speed time t 3 It is stored in the speed storage unit 48. Further, by integrating the current head speed at time t 3 , the moving distance amount (ΔX, ΔY, ΔZ) of the head position from the head position (Xa, Ya, Za) stored at time t 2. Is calculated. Finally, the stored head position in time t 2 (Xa, Ya, Za ) moving distance of the head located in (ΔX, ΔY, ΔZ) by adding the head position (Xb, Yb, Zb ) Including the second relative head information, and the second relative head information storage unit 47 stores the second relative head information. Thereafter, in some cases, based on the acceleration (x1, y1, z1) and acceleration (x2, y2, z2) and the stored current head speed and second relative head information, the head position of the pilot 3 The second relative head information including (Xb, Yb, Zb) is calculated.

切替部29は、境界情報記憶領域46を参照して、主頭部情報算出部22による算出を行うか、あるいは副頭部情報算出部23による算出を行うかの切り替えを行う制御を行うものである。具体的には、磁気センサ7が補正不能な領域内にあるか否かを判定して、磁気センサ7が補正不能な領域内にないと判定したときには、第一相対頭部情報を出力し、一方、補正不能な領域内にあると判定したときには、第二相対頭部情報を出力するように切り替える制御を行う。   The switching unit 29 refers to the boundary information storage area 46 and performs control to switch between calculation by the main head information calculation unit 22 and calculation by the sub head information calculation unit 23. is there. Specifically, it is determined whether or not the magnetic sensor 7 is in an uncorrectable region, and when it is determined that the magnetic sensor 7 is not in an uncorrectable region, the first relative head information is output, On the other hand, when it determines with it being in the area | region which cannot be correct | amended, control which switches so that 2nd relative head information is output is performed.

映像表示部25は、第一相対頭部情報又は第二相対頭部情報に基づいて、映像表示光を出射する制御を行うものである。これにより、パイロット3は、表示器による表示映像を視認することができるようになる。   The video display unit 25 performs control to emit video display light based on the first relative head information or the second relative head information. As a result, the pilot 3 can visually recognize the display image displayed on the display.

(ヘッドモーショントラッカ装置の動作)
次に、ヘッドモーショントラッカ装置1により頭部位置を測定する測定動作について説明する。図11〜13は、ヘッドモーショントラッカ装置1による測定動作について説明するためのフローチャートである。
(Operation of the head motion tracker)
Next, a measurement operation for measuring the head position by the head motion tracker device 1 will be described. 11 to 13 are flowcharts for explaining the measurement operation by the head motion tracker apparatus 1.

まず、ステップS201の処理において、飛行体30が移動しているか否かを判定する。飛行体30が移動していないと判定したときには、本フローチャートを終了させる。
一方、飛行体が移動していると判定したときには、ステップS202の処理において、時間tにtn+1と更新するように、tn+1と時間記憶部44に記憶させる。
First, in the process of step S201, it is determined whether or not the flying object 30 is moving. When it is determined that the flying object 30 is not moving, this flowchart is ended.
On the other hand, when it is determined that the flying object is moving, t n + 1 and the time storage unit 44 are stored so as to update t n + 1 at time t n in the process of step S202.

次に、ステップS203の処理において、主頭部情報算出部22は、磁気センサ7から出力された磁気データにより、飛行体30に設定された基準座標(XYZ座標)に対する頭部位置(Xa、Ya、Za)を算出する。すなわち、飛行体30に設定された基準座標に対する頭部位置(Xa、Ya、Za)を含む第一相対頭部情報を算出する。   Next, in the process of step S <b> 203, the main head information calculation unit 22 uses the magnetic data output from the magnetic sensor 7 to determine the head position (Xa, Ya with respect to the reference coordinates (XYZ coordinates) set on the flying object 30. , Za). That is, the first relative head information including the head position (Xa, Ya, Za) with respect to the reference coordinates set in the flying object 30 is calculated.

次に、ステップS204の処理において、頭部位置(Xa、Ya、Za)を含む第一相対頭部情報を出力する。つまり、飛行体30に設定された基準座標に対する頭部位置が測定される。
次に、ステップS205の処理において、頭部位置(Xa、Ya、Za)を含む第一相対頭部情報を第一相対頭部情報記憶部42に記憶する。このとき、第一相対頭部情報記憶部42に記憶される頭部位置(Xa、Ya、Za)は、ステップS205の処理が実行される毎に、蓄積されていくことになる。
Next, in the process of step S204, first relative head information including the head position (Xa, Ya, Za) is output. That is, the head position with respect to the reference coordinates set in the flying object 30 is measured.
Next, in the process of step S <b> 205, first relative head information including the head position (Xa, Ya, Za) is stored in the first relative head information storage unit 42. At this time, the head positions (Xa, Ya, Za) stored in the first relative head information storage unit 42 are accumulated every time the process of step S205 is executed.

次に、ステップS206の処理において、切替部29は、境界情報記憶領域46の境界情報を参照し、磁気センサ7が補正不能な領域にあるか否かを判定する。磁気センサ7が補正不能な領域に存在しないと判定されたときには、ステップS201の処理に戻る。つまり、磁気センサ7が補正不能な領域から外れているか、又は、飛行体30が移動していないと判定するときまで、ステップS201〜S205の処理は繰り返される。   Next, in the process of step S206, the switching unit 29 refers to the boundary information in the boundary information storage area 46 and determines whether or not the magnetic sensor 7 is in an uncorrectable area. When it is determined that the magnetic sensor 7 does not exist in the uncorrectable region, the process returns to step S201. That is, the processes of steps S201 to S205 are repeated until it is determined that the magnetic sensor 7 is out of the uncorrectable area or the flying object 30 is not moving.

一方、磁気センサ7が補正不能な領域に存在すると判定されたときには、ステップS207の処理において、時間sにsと更新するように、sと時間記憶部44に記憶させる。 On the other hand, when it is determined that the magnetic sensor 7 is present in an uncorrectable region, s 0 and the time storage unit 44 are stored so as to update s 0 at time s m in the process of step S207.

次に、ステップS208の処理において、頭部側加速度センサ6が、頭部の加速度(x2、y2、z2)を出力する。また、ステップS209の処理において、飛行体側加速度センサ4は、飛行体の加速度(x1、y1、z1)を出力する。
なお、ステップS208及びS209の処理は、同時に実行される。
Next, in the process of step S208, the head-side acceleration sensor 6 outputs head acceleration (x2, y2, z2). In the process of step S209, the flying object side acceleration sensor 4 outputs the acceleration (x1, y1, z1) of the flying object.
Note that the processes in steps S208 and S209 are executed simultaneously.

次に、ステップS210の処理において、頭部速度情報算出部24は、第一相対頭部情報記憶部42に記憶された時間tの第一相対頭部情報と時間tn+1の第一相対頭部情報とに基づいて、パイロット3の頭部速度を含む頭部速度情報を算出する。つまり、時間tn+1の速度として用いるための頭部速度情報を算出する。 Next, in the process of step S210, the head velocity information calculation unit 24, the first relative first relative head of the head information and time t n + 1 time stored in the first relative head information storage unit 42 t n Based on the head information, head speed information including the head speed of the pilot 3 is calculated. That is, the head speed information to be used as the speed at time t n + 1 is calculated.

次に、ステップS211の処理において、副頭部情報算出部23は、時間sの加速度(x1、y1、z1)及び加速度(x2、y2、z2)と、算出された頭部速度情報とに基づいて、時間sの現在頭部速度を算出する。
具体的には、飛行体側加速度センサ4で検知された加速度(x1、y1、z1)と、頭部側加速度センサ6で検知された加速度(x2、y2、z2)との差分から、加速度差(Δx、Δy、Δz)を算出する。次に、時間tn+1の速度として頭部速度情報を用いて、加速度差(Δx、Δy、Δz)を積分演算することにより、時間sの現在頭部速度を算出する。このとき、現在頭部速度を速度記憶部48に記憶させる。
Next, in the process of step S211, the sub head information calculation unit 23 calculates the acceleration (x1, y1, z1) and acceleration (x2, y2, z2) at time s 0 and the calculated head speed information. Based on this, the current head speed at time s 0 is calculated.
Specifically, from the difference between the acceleration (x1, y1, z1) detected by the flying object side acceleration sensor 4 and the acceleration (x2, y2, z2) detected by the head side acceleration sensor 6, an acceleration difference ( Δx, Δy, Δz) is calculated. Next, the head speed information is used as the speed at time t n + 1 and the acceleration difference (Δx, Δy, Δz) is integrated to calculate the current head speed at time s 0 . At this time, the current head speed is stored in the speed storage unit 48.

次に、ステップS212の処理において、副頭部情報算出部23は、時間sの現在頭部速度と、時間tn+1の第一相対頭部情報とに基づいて、時間sの頭部位置(Xb、Yb、Zb)を算出する。すなわち、飛行体30に設定された基準座標に対する頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を算出する。
具体的には、まず、時間sの現在頭部速度を積分演算することにより、時間tn+1に記憶された頭部位置(Xa、Ya、Za)からの頭部位置の移動距離量(ΔX、ΔY、ΔZ)を算出する。次に、時間tn+1に記憶された頭部位置(Xa、Ya、Za)に頭部位置の移動距離量(ΔX、ΔY、ΔZ)を加算することにより、時間sの頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を算出する。
Next, in the process of step S212, the sub head information calculation unit 23 calculates the head position at time s 0 based on the current head speed at time s 0 and the first relative head information at time t n + 1 . (Xb, Yb, Zb) is calculated. That is, the second relative head information including the head position (Xb, Yb, Zb) with respect to the reference coordinates set for the flying object 30 is calculated.
Specifically, first, by integrating the current head speed at time s 0 , the movement distance amount (ΔX of the head position from the head position (Xa, Ya, Za) stored at time t n + 1 is calculated. , ΔY, ΔZ). Next, the head position (Xb) at time s 0 is obtained by adding the movement distance amount (ΔX, ΔY, ΔZ) of the head position to the head position (Xa, Ya, Za) stored at time t n + 1. , Yb, Zb) is calculated.

次に、ステップS212の処理において、時間sの頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を出力する。つまり、飛行体30に設定された基準座標に対する頭部位置(Xb、Yb、Zb)が測定される。
次に、ステップS214の処理において、頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を第二相対頭部情報記憶部47に記憶する。
Next, in the processing of step S212, the outputs of the second relative head information including a head position of the time s 0 (Xb, Yb, Zb ). That is, the head position (Xb, Yb, Zb) with respect to the reference coordinates set on the flying object 30 is measured.
Next, in the process of step S <b> 214, the second relative head information including the head position (Xb, Yb, Zb) is stored in the second relative head information storage unit 47.

次に、ステップS215の処理において、切替部29は、磁気センサ7が補正不能な領域にあるか否かを判定する。磁気センサ7が、再び補正不能な領域から外れたと判定されたときには、ステップS201の処理に戻る。   Next, in the process of step S215, the switching unit 29 determines whether or not the magnetic sensor 7 is in an uncorrectable region. When it is determined that the magnetic sensor 7 is out of the uncorrectable area again, the process returns to step S201.

一方、磁気センサ7が補正不能な領域に存在すると判定されたときには、ステップS216の処理において、時間sにsm+1と更新するように、sm+1と時間記憶部44に記憶させる。 On the other hand, when the magnetic sensor 7 is determined to exist in the uncorrectable area, in the process of step S216, to update the s m + 1 to time s m, and stores the s m + 1 and the time memory 44.

次に、ステップS217の処理において、頭部側加速度センサ6が、頭部の加速度(x2、y2、z2)を出力する。また、ステップS218の処理において、飛行体側加速度センサ4は、飛行体の加速度(x1、y1、z1)を出力する。
なお、ステップS217及びS218の処理は、同時に実行される。
Next, in the process of step S217, the head-side acceleration sensor 6 outputs head acceleration (x2, y2, z2). In the process of step S218, the flying object side acceleration sensor 4 outputs the flying object acceleration (x1, y1, z1).
Note that the processes in steps S217 and S218 are performed simultaneously.

次に、ステップS219の処理において、副頭部情報算出部23は、時間sm+1の加速度(x1、y1、z1)及び加速度(x2、y2、z2)と、時間sの現在頭部速度及び頭部位置(Xb、Yb、Zb)とに基づいて、時間sm+1の現在頭部速度を算出する。
具体的には、飛行体側加速度センサ4で検知された加速度(x1、y1、z1)と、頭部側加速度センサ6で検知された加速度(x2、y2、z2)との差分から、加速度差(Δx、Δy、Δz)を算出する。次に、時間sの現在頭部速度を用いて、加速度差(Δx、Δy、Δz)を積分演算することにより、時間sm+1の現在頭部速度を算出する。このとき、現在頭部速度を速度記憶部48に記憶させる。速度記憶部48に記憶される現在頭部速度は、ステップS219の処理が実行される毎に、更新されていくことになる。
Next, in the process of step S219, the sub head information calculation unit 23 calculates the acceleration (x1, y1, z1) and acceleration (x2, y2, z2) at time s m + 1 , the current head speed at time s m , and Based on the head position (Xb, Yb, Zb), the current head speed at time sm + 1 is calculated.
Specifically, from the difference between the acceleration (x1, y1, z1) detected by the flying object side acceleration sensor 4 and the acceleration (x2, y2, z2) detected by the head side acceleration sensor 6, an acceleration difference ( Δx, Δy, Δz) is calculated. Next, using the current head speed time s m, the acceleration difference (Δx, Δy, Δz) by integral operation, and calculates the current head speed time s m + 1. At this time, the current head speed is stored in the speed storage unit 48. The current head speed stored in the speed storage unit 48 is updated each time the process of step S219 is executed.

次に、ステップS220の処理において、副頭部情報算出部23は、時間sm+1の現在頭部速度と、時間sの第二相対頭部情報とに基づいて、時間sm+1の頭部位置(Xb、Yb、Zb)を算出する。すなわち、飛行体30に設定された基準座標に対する頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を算出する。
具体的には、まず、時間sm+1の現在頭部速度を積分演算することにより、時間sに記憶された頭部位置(Xb、Yb、Zb)からの頭部位置の移動距離量(ΔX、ΔY、ΔZ)を算出する。次に、時間sに記憶された頭部位置(Xb、Yb、Zb)に頭部位置の移動距離量(ΔX、ΔY、ΔZ)を加算することにより、時間sm+1の頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を算出する。
Next, in the process of step S220, the sub-head information calculation section 23 is now a head speed of time s m + 1, based on the second relative head information time s m, the head position of the time s m + 1 (Xb, Yb, Zb) is calculated. That is, the second relative head information including the head position (Xb, Yb, Zb) with respect to the reference coordinates set for the flying object 30 is calculated.
Specifically, first, by integrating the current head speed at time s m + 1 , the movement distance amount (ΔX of the head position from the head position (Xb, Yb, Zb) stored at time s m is calculated. , ΔY, ΔZ). Then, the stored head position in time s m (Xb, Yb, Zb ) the moving distance of the head located in (ΔX, ΔY, ΔZ) by adding the head position of the time s m + 1 (Xb , Yb, Zb) is calculated.

次に、ステップS221の処理において、頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を出力する。つまり、飛行体30に設定された基準座標に対する頭部位置(Xb、Yb、Zb)が測定される。   Next, in the process of step S221, second relative head information including the head position (Xb, Yb, Zb) is output. That is, the head position (Xb, Yb, Zb) with respect to the reference coordinates set on the flying object 30 is measured.

次に、ステップS222の処理において、頭部位置(Xb、Yb、Zb)を含む第二相対頭部情報を第二相対頭部情報記憶部47に記憶する。このとき、第二相対頭部情報記憶部47に記憶される頭部位置(Xb、Yb、Zb)は、ステップS222の処理が実行される毎に、更新されていくことになる。   Next, in the process of step S222, the second relative head information including the head position (Xb, Yb, Zb) is stored in the second relative head information storage unit 47. At this time, the head position (Xb, Yb, Zb) stored in the second relative head information storage unit 47 is updated each time the process of step S222 is executed.

次に、ステップS223の処理において、切替部29は、磁気センサ7が補正不能な領域にあるか否かを判定する。補正不能な領域に存在すると判定されたときには、ステップS216の処理に戻る。つまり、補正不能な領域から外れたと判定されるときまで、ステップS216〜ステップS222の処理は繰り返される。
一方、磁気センサ7が、再び補正不能な領域から外れたと判定されたときには、ステップS201の処理に戻る。
Next, in the process of step S223, the switching unit 29 determines whether or not the magnetic sensor 7 is in an uncorrectable region. If it is determined that the region exists in an uncorrectable region, the process returns to step S216. In other words, the processes in steps S216 to S222 are repeated until it is determined that the area is out of the uncorrectable area.
On the other hand, when it is determined that the magnetic sensor 7 is out of the region that cannot be corrected again, the process returns to step S201.

以上のように、第二の発明のヘッドモーショントラッカ装置1によれば、主頭部情報算出部22は、磁気方式モーショントラッカにより、飛行体30に設定された基準座標に対するパイロット3の頭部位置を含む第一相対頭部情報を算出する。一方、頭部速度情報算出部24は、第一相対頭部情報記憶部42に記憶された第一相対頭部情報に基づいて、パイロット3の頭部速度を含む頭部速度情報を算出することができる。よって、飛行体30に取り付けられた飛行体側加速度センサ4が加速度を検出するとともに、パイロット3の頭部に取り付けられた頭部側加速度センサ6が加速度を検出すると、副頭部情報算出部23は、加速度と、頭部速度情報及び第一相対頭部情報とに基づいて、パイロット3の頭部位置を含む第二相対頭部情報を算出することができる。
これにより、切替部29は、磁気センサ7が補正不能な領域に存在するような、主頭部情報算出部22が第一相対頭部情報を正確に算出できない状態になったときに、一時的に副頭部情報算出部23が飛行体30に設定された基準座標に対する頭部位置を含む第二相対頭部情報を算出することができる。
このようにして、常時、精度よく、飛行体30に設定された基準座標に対する頭部位置の頭部情報を算出することができる。
As described above, according to the head motion tracker device 1 of the second invention, the main head information calculation unit 22 uses the magnetic motion tracker to position the head position of the pilot 3 with respect to the reference coordinates set on the flying object 30. First relative head information including is calculated. On the other hand, the head speed information calculation unit 24 calculates head speed information including the head speed of the pilot 3 based on the first relative head information stored in the first relative head information storage unit 42. Can do. Therefore, when the flying object side acceleration sensor 4 attached to the flying object 30 detects acceleration and the head side acceleration sensor 6 attached to the head of the pilot 3 detects acceleration, the sub head information calculation unit 23 The second relative head information including the head position of the pilot 3 can be calculated based on the acceleration, the head speed information, and the first relative head information.
Thereby, the switching unit 29 temporarily stops when the main head information calculation unit 22 cannot accurately calculate the first relative head information, such that the magnetic sensor 7 exists in an uncorrectable region. In addition, the sub head information calculation unit 23 can calculate the second relative head information including the head position with respect to the reference coordinates set in the flying object 30.
In this way, the head information of the head position relative to the reference coordinates set in the flying object 30 can be calculated with high accuracy at all times.

本発明は、飛行体に設定された基準座標に対する搭乗員等の頭部位置を測定するためのヘッドモーショントラッカ装置に利用することができる。   The present invention can be used for a head motion tracker device for measuring a head position of a crew member or the like with respect to a reference coordinate set for a flying object.

第一の発明の一実施形態であるヘッドモーショントラッカ装置の概略構成を示す図である。It is a figure which shows schematic structure of the head motion tracker apparatus which is one Embodiment of 1st invention. 図1に示す頭部装着型表示装置付ヘルメットの平面図である。It is a top view of the helmet with a head-mounted display device shown in FIG. 基準座標(XYZ座標)の設定を説明するための図である。It is a figure for demonstrating the setting of a reference | standard coordinate (XYZ coordinate). HMT装置が頭部位置を含む第二相対頭部情報を算出する際に実行する演算処理の流れを説明する図である。It is a figure explaining the flow of the arithmetic processing performed when an HMT apparatus calculates the 2nd relative head information containing a head position. 第一の発明の一実施形態であるヘッドモーショントラッカ装置による測定動作について説明するためのフローチャートである。It is a flowchart for demonstrating the measurement operation | movement by the head motion tracker apparatus which is one Embodiment of 1st invention. 第一の発明の一実施形態であるヘッドモーショントラッカ装置による測定動作について説明するためのフローチャートである。It is a flowchart for demonstrating the measurement operation | movement by the head motion tracker apparatus which is one Embodiment of 1st invention. 第一の発明の一実施形態であるヘッドモーショントラッカ装置による測定動作について説明するためのフローチャートである。It is a flowchart for demonstrating the measurement operation | movement by the head motion tracker apparatus which is one Embodiment of 1st invention. 第二の発明の一実施形態であるヘッドモーショントラッカ装置の概略構成を示す図である。It is a figure which shows schematic structure of the head motion tracker apparatus which is one Embodiment of 2nd invention. 基準座標(XYZ座標)の設定を説明するための図である。It is a figure for demonstrating the setting of a reference | standard coordinate (XYZ coordinate). HMT装置が頭部位置を含む第二相対頭部情報を算出する際に実行する演算処理の流れを説明する図である。It is a figure explaining the flow of the arithmetic processing performed when an HMT apparatus calculates the 2nd relative head information containing a head position. 第二の発明の一実施形態であるヘッドモーショントラッカ装置による測定動作について説明するためのフローチャートである。It is a flowchart for demonstrating the measurement operation | movement by the head motion tracker apparatus which is one Embodiment of 2nd invention. 第二の発明の一実施形態であるヘッドモーショントラッカ装置による測定動作について説明するためのフローチャートである。It is a flowchart for demonstrating the measurement operation | movement by the head motion tracker apparatus which is one Embodiment of 2nd invention. 第二の発明の一実施形態であるヘッドモーショントラッカ装置による測定動作について説明するためのフローチャートである。It is a flowchart for demonstrating the measurement operation | movement by the head motion tracker apparatus which is one Embodiment of 2nd invention. 従来の交流磁気方式のヘッドモーショントラッカの概略構成を示す図である。It is a figure which shows schematic structure of the conventional AC magnetic system head motion tracker.

符号の説明Explanation of symbols

1、51 ヘッドモーショントラッカ装置
2 磁気ソース
3 パイロット
4 飛行体側加速度センサ
6 頭部側加速度センサ
7 磁気センサ
10、60 頭部装着型表示装置付ヘルメット
22、72 主頭部情報算出部
23 副頭部情報算出部
24 頭部速度情報算出部
28、78 モーショントラッカ駆動部
29 切替部
30 飛行体
42 第一相対頭部情報記憶部
52 カメラ装置
57 LED群
DESCRIPTION OF SYMBOLS 1,51 Head motion tracker apparatus 2 Magnetic source 3 Pilot 4 Aircraft side acceleration sensor 6 Head side acceleration sensor 7 Magnetic sensor 10, 60 Helmets 22 and 72 with head mounted display devices Main head information calculation part 23 Sub head Information calculation unit 24 Head speed information calculation unit 28, 78 Motion tracker drive unit 29 Switching unit 30 Aircraft 42 First relative head information storage unit 52 Camera device 57 LED group

Claims (4)

光学方式モーショントラッカと、
前記光学方式モーショントラッカにより、移動体に設定された基準座標に対する搭乗者の頭部位置を含む第一相対頭部情報を算出する主頭部情報算出部とを備えたヘッドモーショントラッカ装置において、
異なる時間に算出された少なくとも2つの第一相対頭部情報を記憶する第一相対頭部情報記憶部と、
前記移動体に取り付けられるとともに、当該移動体に作用する加速度を検出する移動体センサと、
前記搭乗者の頭部に装着されるとともに、当該頭部に作用する加速度を検出する頭部センサと、
前記少なくとも2つの第一相対頭部情報に基づいて、前記搭乗者の頭部速度を含む頭部速度情報を算出する頭部速度情報算出部と、
前記移動体センサ及び頭部センサから検出された加速度と、前記頭部速度情報及び第一相対頭部情報とに基づいて、前記基準座標に対する搭乗者の頭部位置を含む第二相対頭部情報を算出する副頭部情報算出部と、
前記主頭部情報算出部による第一相対頭部情報が不適当であるときに、前記副頭部情報算出部により第二相対頭部情報を算出させる切替部とを備えることを特徴とするヘッドモーショントラッカ装置。
An optical motion tracker,
In the head motion tracker device comprising the main head information calculation unit for calculating the first relative head information including the head position of the occupant with respect to the reference coordinates set on the moving body by the optical system motion tracker,
A first relative head information storage unit that stores at least two pieces of first relative head information calculated at different times;
A moving body sensor that is attached to the moving body and detects acceleration acting on the moving body;
A head sensor that is mounted on the head of the passenger and detects acceleration acting on the head;
A head speed information calculating unit that calculates head speed information including the head speed of the occupant based on the at least two first relative head information;
Second relative head information including the head position of the occupant with respect to the reference coordinates based on the acceleration detected from the moving body sensor and the head sensor, the head speed information, and the first relative head information. Sub-head information calculation unit for calculating
And a switching unit that calculates second relative head information by the sub head information calculation unit when the first relative head information by the main head information calculation unit is inappropriate. Motion tracker device.
前記光学方式モーショントラッカは、前記搭乗者の頭部に装着される光学マーカー群と、
前記移動体に取り付けられ、前記光学マーカー群からの光線を検出するカメラ装置とを備えることを特徴とする請求項1に記載のヘッドモーショントラッカ装置。
The optical motion tracker includes an optical marker group mounted on the head of the occupant,
The head motion tracker device according to claim 1, further comprising: a camera device attached to the movable body and detecting a light beam from the optical marker group.
磁気方式モーショントラッカと、
前記磁気方式モーショントラッカにより、移動体に設定された基準座標に対する搭乗者の頭部位置を含む第一相対頭部情報を算出する主頭部情報算出部とを備えたヘッドモーショントラッカ装置において、
異なる時間に算出された少なくとも2つの第一相対頭部情報を記憶する第一相対頭部情報記憶部と、
前記移動体に取り付けられるとともに、当該移動体に作用する加速度を検出する移動体センサと、
前記搭乗者の頭部に装着されるとともに、当該頭部に作用する加速度を検出する頭部センサと、
前記少なくとも2つの第一相対頭部情報に基づいて、前記搭乗者の頭部速度を含む頭部速度情報を算出する頭部速度情報算出部と、
前記移動体センサ及び頭部センサから検出された加速度と、前記頭部速度情報及び第一相対頭部情報とに基づいて、前記基準座標に対する搭乗者の頭部位置を含む第二相対頭部情報を算出する副頭部情報算出部と、
前記主頭部情報算出部による第一相対頭部情報が不適当であるときに、前記副頭部情報算出部により第二相対頭部情報を算出させる切替部とを備えることを特徴とするヘッドモーショントラッカ装置。
Magnetic type motion tracker,
In the head motion tracker device comprising the main head information calculation unit for calculating the first relative head information including the head position of the occupant with respect to the reference coordinates set on the moving body by the magnetic motion tracker,
A first relative head information storage unit that stores at least two pieces of first relative head information calculated at different times;
A moving body sensor that is attached to the moving body and detects acceleration acting on the moving body;
A head sensor that is mounted on the head of the passenger and detects acceleration acting on the head;
A head speed information calculating unit that calculates head speed information including the head speed of the occupant based on the at least two first relative head information;
Second relative head information including the head position of the occupant with respect to the reference coordinates based on the acceleration detected from the moving body sensor and the head sensor, the head speed information, and the first relative head information. Sub-head information calculation unit for calculating
And a switching unit that calculates second relative head information by the sub head information calculation unit when the first relative head information by the main head information calculation unit is inappropriate. Motion tracker device.
前記磁気方式モーショントラッカは、前記移動体に取り付けられ、交流磁界を発生させる磁気ソースと、
前記搭乗者の頭部に装着され、前記交流磁界を検出する磁気センサとを備えることを特徴とする請求項3に記載のヘッドモーショントラッカ装置。
The magnetic type motion tracker is attached to the moving body, and generates a magnetic field that generates an alternating magnetic field.
The head motion tracker device according to claim 3, further comprising: a magnetic sensor that is mounted on the head of the passenger and detects the alternating magnetic field.
JP2006234420A 2006-08-30 2006-08-30 Head motion tracker device Active JP4961904B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006234420A JP4961904B2 (en) 2006-08-30 2006-08-30 Head motion tracker device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006234420A JP4961904B2 (en) 2006-08-30 2006-08-30 Head motion tracker device

Publications (2)

Publication Number Publication Date
JP2008058102A true JP2008058102A (en) 2008-03-13
JP4961904B2 JP4961904B2 (en) 2012-06-27

Family

ID=39241019

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006234420A Active JP4961904B2 (en) 2006-08-30 2006-08-30 Head motion tracker device

Country Status (1)

Country Link
JP (1) JP4961904B2 (en)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008209142A (en) * 2007-02-23 2008-09-11 Nintendo Co Ltd Information processing program and information processor
JP2010091462A (en) * 2008-10-09 2010-04-22 Nec Corp Relative acceleration detector, method for detecting relative acceleration, and program
JP2017215265A (en) * 2016-06-01 2017-12-07 京セラ株式会社 Method and system for detecting position
WO2019017300A1 (en) * 2017-07-20 2019-01-24 株式会社ソニー・インタラクティブエンタテインメント Information processing device and position information acquisition method
WO2019176150A1 (en) * 2018-03-14 2019-09-19 株式会社ソニー・インタラクティブエンタテインメント Position estimation device, position estimation method, and program
US10963055B2 (en) 2016-12-15 2021-03-30 Sony Interactive Entertainment Inc. Vibration device and control system for presenting corrected vibration data
US10963054B2 (en) 2016-12-15 2021-03-30 Sony Interactive Entertainment Inc. Information processing system, vibration control method and program
US10969867B2 (en) 2016-12-15 2021-04-06 Sony Interactive Entertainment Inc. Information processing system, controller device, controller device control method and program
US10981053B2 (en) 2017-04-18 2021-04-20 Sony Interactive Entertainment Inc. Vibration control apparatus
US11013990B2 (en) 2017-04-19 2021-05-25 Sony Interactive Entertainment Inc. Vibration control apparatus
US11145172B2 (en) 2017-04-18 2021-10-12 Sony Interactive Entertainment Inc. Vibration control apparatus
US11458389B2 (en) 2017-04-26 2022-10-04 Sony Interactive Entertainment Inc. Vibration control apparatus

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0954542A (en) * 1995-08-16 1997-02-25 Namco Ltd Action detector, simulator and action detection method
JPH1181904A (en) * 1997-09-08 1999-03-26 Mitsubishi Heavy Ind Ltd Recoverable steam cooled gas turbine
JPH11110114A (en) * 1997-09-30 1999-04-23 Shimadzu Corp Magnetic three-dimensional tracker
JP2001103395A (en) * 1999-09-30 2001-04-13 Kawasaki Heavy Ind Ltd Head mount display device
JP2002081904A (en) * 2000-09-07 2002-03-22 Shimadzu Corp Head motion tracker and method for correcting its measured value

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0954542A (en) * 1995-08-16 1997-02-25 Namco Ltd Action detector, simulator and action detection method
JPH1181904A (en) * 1997-09-08 1999-03-26 Mitsubishi Heavy Ind Ltd Recoverable steam cooled gas turbine
JPH11110114A (en) * 1997-09-30 1999-04-23 Shimadzu Corp Magnetic three-dimensional tracker
JP2001103395A (en) * 1999-09-30 2001-04-13 Kawasaki Heavy Ind Ltd Head mount display device
JP2002081904A (en) * 2000-09-07 2002-03-22 Shimadzu Corp Head motion tracker and method for correcting its measured value

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008209142A (en) * 2007-02-23 2008-09-11 Nintendo Co Ltd Information processing program and information processor
JP2010091462A (en) * 2008-10-09 2010-04-22 Nec Corp Relative acceleration detector, method for detecting relative acceleration, and program
JP2017215265A (en) * 2016-06-01 2017-12-07 京セラ株式会社 Method and system for detecting position
US10963055B2 (en) 2016-12-15 2021-03-30 Sony Interactive Entertainment Inc. Vibration device and control system for presenting corrected vibration data
US10969867B2 (en) 2016-12-15 2021-04-06 Sony Interactive Entertainment Inc. Information processing system, controller device, controller device control method and program
US10963054B2 (en) 2016-12-15 2021-03-30 Sony Interactive Entertainment Inc. Information processing system, vibration control method and program
US11145172B2 (en) 2017-04-18 2021-10-12 Sony Interactive Entertainment Inc. Vibration control apparatus
US10981053B2 (en) 2017-04-18 2021-04-20 Sony Interactive Entertainment Inc. Vibration control apparatus
US11013990B2 (en) 2017-04-19 2021-05-25 Sony Interactive Entertainment Inc. Vibration control apparatus
US11458389B2 (en) 2017-04-26 2022-10-04 Sony Interactive Entertainment Inc. Vibration control apparatus
JP2019020333A (en) * 2017-07-20 2019-02-07 株式会社ソニー・インタラクティブエンタテインメント Information processing device and position information acquisition method
WO2019017300A1 (en) * 2017-07-20 2019-01-24 株式会社ソニー・インタラクティブエンタテインメント Information processing device and position information acquisition method
US11195293B2 (en) 2017-07-20 2021-12-07 Sony Interactive Entertainment Inc. Information processing device and positional information obtaining method
JPWO2019176150A1 (en) * 2018-03-14 2020-12-03 株式会社ソニー・インタラクティブエンタテインメント Position estimation device, position estimation method and program
WO2019176020A1 (en) * 2018-03-14 2019-09-19 株式会社ソニー・インタラクティブエンタテインメント Position estimation device, position estimation method, and program
WO2019176150A1 (en) * 2018-03-14 2019-09-19 株式会社ソニー・インタラクティブエンタテインメント Position estimation device, position estimation method, and program
JP7038798B2 (en) 2018-03-14 2022-03-18 株式会社ソニー・インタラクティブエンタテインメント Position estimation device, position estimation method and program
US11402897B2 (en) 2018-03-14 2022-08-02 Sony Interactive Entertainment Inc. Position estimation apparatus, position estimation method, and program

Also Published As

Publication number Publication date
JP4961904B2 (en) 2012-06-27

Similar Documents

Publication Publication Date Title
JP4961904B2 (en) Head motion tracker device
JP5594944B2 (en) Motion tracker device
JP4396564B2 (en) Object monitoring method and motion tracker using the same
JP5145832B2 (en) Head-mounted display device and head-mounted display device system
JP4924342B2 (en) Motion tracker device
US10573074B1 (en) Evaluating display accuracy
JP5092279B2 (en) Head motion tracker device and method of using the same
JP5292725B2 (en) Motion tracker device
JP4665872B2 (en) Head motion tracker device
JP2019039892A (en) Optical information processor, method for processing optical information, and program for processing optical information
JP5505363B2 (en) Motion tracker device
JP2021077361A (en) Mobile robot
JP5092300B2 (en) Head motion tracker device
JP2016151566A (en) Motion tracker device
JP4967546B2 (en) Head motion tracker device
US11360552B1 (en) High assurance headtracking via structured light projection for head worn display (HWD)
JP2014095557A (en) Motion tracker device
JP2009036517A (en) Head motion tracker device
JP4656017B2 (en) Head motion tracker device
JP5029531B2 (en) Motion tracker system and coordinate system setting method thereof
JP4905311B2 (en) Head motion tracker system and calibration device used therefor
JP4877138B2 (en) Head motion tracker device
JP4656016B2 (en) Motion tracker device
JP2009109319A (en) Head motion tracker system
JP2007334762A (en) Head motion tracker

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081211

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111101

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120228

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120312

R151 Written notification of patent or utility model registration

Ref document number: 4961904

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150406

Year of fee payment: 3