JP2011059435A - Head mounted display - Google Patents

Head mounted display Download PDF

Info

Publication number
JP2011059435A
JP2011059435A JP2009209664A JP2009209664A JP2011059435A JP 2011059435 A JP2011059435 A JP 2011059435A JP 2009209664 A JP2009209664 A JP 2009209664A JP 2009209664 A JP2009209664 A JP 2009209664A JP 2011059435 A JP2011059435 A JP 2011059435A
Authority
JP
Japan
Prior art keywords
display
observer
hmd
image
head
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2009209664A
Other languages
Japanese (ja)
Inventor
Tomomi Sano
知巳 佐野
Toshiaki Kakii
俊昭 柿井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Electric Industries Ltd
Original Assignee
Sumitomo Electric Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Electric Industries Ltd filed Critical Sumitomo Electric Industries Ltd
Priority to JP2009209664A priority Critical patent/JP2011059435A/en
Publication of JP2011059435A publication Critical patent/JP2011059435A/en
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Lenses (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To make an observer sense an environment in which a monitor is actually installed when a display emission area in a video projection face of a head mounted display (HMD) from which display light is emitted toward the eye balls of the observer moves on a video projection face so that a virtual image formation face in the install space of the HMD may be fixed not in conjunction with the variation of the observer's head to which the HMD is mounted. <P>SOLUTION: The HMD includes: a display element which displays a real image; a light guiding member 110 which guides display light to the observer; an attitude monitoring sensor; and a control part which controls the display element on the basis of detection information from the attitude monitoring sensor. The control part controls the display of the display element so that the virtual image forming face which is recognized as an enlarged video I in a space in which the HMD is fixed regardless of the attitude variation of a video projection face 110a of the light guiding member 110. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、観察者頭部に装着された状態で該観察者に任意の拡大画像を提示可能にするためのヘッドマウントディスプレイ(Head Mounted Display:以下、HMDという)に関し、特に、モニタ設置環境を体感可能にする擬似空間を該観察者に提供するための光透過型のヘッドマウントディスプレイに関するものである。   The present invention relates to a head mounted display (hereinafter referred to as “HMD”) that enables an arbitrary enlarged image to be presented to an observer while being mounted on the observer's head. The present invention relates to a light transmission type head-mounted display for providing the observer with a pseudo space that allows the user to experience the experience.

通常、一般家庭のリビング等で映像など視覚情報を見る場合、図1(a)に示されたような構成をとるのが一般的である。すなわち、観察者10はテーブル40を前にしてイス30に腰掛けている。このテーブル40上にはモニタ21を含む表示装置20が設置されており、観察者10は所定距離離れた状態でモニタ21に表示される映像を見ることになる。   Usually, when viewing visual information such as video in a living room of a general household, it is common to adopt a configuration as shown in FIG. That is, the observer 10 sits on the chair 30 with the table 40 facing forward. The display device 20 including the monitor 21 is installed on the table 40, and the observer 10 sees an image displayed on the monitor 21 in a state of being separated by a predetermined distance.

しかしながら近年、鉄道、自動車、航空機等の交通機関のように、十分なモニタ設置スペースが確保できない環境において、映像等の視覚情報の提供手段として、観察者頭部に装着させるHMDが開発されている。特に、このようなHMDには、以下の特許文献1に開示されたように、観察者自身の視野を確保した状態で視覚情報を提供する光透過型のHMDがある。   However, in recent years, HMDs to be worn on the observer's head have been developed as means for providing visual information such as images in an environment where a sufficient monitor installation space cannot be secured, such as transportation such as railways, automobiles, and airplanes. . In particular, such an HMD includes a light transmission type HMD that provides visual information in a state where an observer's own visual field is secured, as disclosed in Patent Document 1 below.

特開2009−92810号公報JP 2009-92810 A 日本国特許第3074677号Japanese Patent No. 3074677

研野孝吉「HMDの最新の動向と展望」、電子情報通信学会、信学技報EID2000−222、2000年11月Kenkichi Kenno, “Latest Trends and Prospects of HMD”, IEICE, IEICE Technical Report EID2000-222, November 2000

発明者らは、従来のHMDについて検討した結果、以下のような課題を発見した。すなわち、従来のHMDは、観察者頭部に装着された状態で使用されるため、実際のモニタ装置等の設置が困難な環境下においても観察者に所定倍率の拡大映像の提示を可能にする。そのため、図1(b)に示されたように、観察者10が頭部にHMD50を装着すれば、観察者10自身は、実際には虚像形成面IP上に提示される虚像Iを認識することになり、モニタ設置環境を擬似空間において体感できる一方、モニタ設置スペースの効果的な節約が可能になる。   As a result of examining the conventional HMD, the inventors have found the following problems. That is, since the conventional HMD is used while being mounted on the observer's head, it is possible to present an enlarged image at a predetermined magnification to the observer even in an environment where it is difficult to install an actual monitor device or the like. . Therefore, as shown in FIG. 1B, when the observer 10 wears the HMD 50 on the head, the observer 10 himself / herself recognizes the virtual image I presented on the virtual image forming surface IP. As a result, the monitor installation environment can be experienced in a pseudo space, while the monitor installation space can be effectively saved.

しかしながら、従来のHMD50は、観察者10に提供される表示光の出射位置が固定されているため、観察者10の頭部変動に連動して観察者自身が認識する虚像Iも常に観察者10の視野内に提示されることとなる。これは、観察者10が映像観察以外の非観察動作を行う場合にも虚像Iが観察者10の視野内に提示されていることを意味しており、いくら光透過型のHMDと言えども、非観察動作に支障を来たすのは明らかである。観察動作と非観察動作が繰り返される環境としては、例えば手術などが行われる医療現場が考えられる。この医療現場での手術は、種々の計測機器のモニタ画面を確認する動作と、精密な手作業が要求される手術動作(非観察動作)が繰り返されるのは周知である。このような環境下において、非観察動作中に観察者の視野内に映像が提示されたのでは、手術自体に支障をきたしてしまうことになる。   However, in the conventional HMD 50, since the emission position of the display light provided to the observer 10 is fixed, the virtual image I recognized by the observer himself in conjunction with the head variation of the observer 10 is always the observer 10 as well. Will be presented within the field of view. This means that the virtual image I is presented in the field of view of the observer 10 even when the observer 10 performs a non-observation operation other than video observation. Obviously, it interferes with non-observation movements. As an environment in which the observation operation and the non-observation operation are repeated, for example, a medical site where surgery is performed can be considered. It is well known that the operation at the medical site repeats an operation for confirming monitor screens of various measuring instruments and an operation (non-observation operation) requiring precise manual work. Under such circumstances, if an image is presented in the observer's field of view during a non-observation operation, the operation itself will be hindered.

本発明は、上述のような課題を解決するためになされたものであり、モニタ設置環境を体感可能にする擬似空間、すなわち、実際のモニタ設置環境と同様にモニタ画面の観察動作と非観察動作が観察者頭部の姿勢変動に連動して任意に実現できる擬似空間を該観察者に提供するための構造を備えた光透過型ヘッドマウントディスプレイを提供することを目的としている。   The present invention has been made to solve the above-described problems, and is a pseudo-space that allows the user to experience the monitor installation environment, that is, the monitor screen observation operation and the non-observation operation as in the actual monitor installation environment. However, it is an object of the present invention to provide a light transmission type head mounted display having a structure for providing a pseudo space that can be arbitrarily realized in conjunction with a change in posture of the observer's head.

本発明に係るヘッドマウントディスプレイ(HMD)は、観察者の前方視野を確保した状態で、観察者の頭部に装着された状態で該観察者に任意の拡大映像を提示可能にするための構造を備え、具体的には、表示素子と、可視光を透過できる材料からなる導光部材と、姿勢監視センサと、姿勢監視センサからの検出情報に基づいて表示素子に対して表示制御を行う制御部とを備える。ここで、表示素子は、観察者に提示すべき映像(虚像)の映像源となる実像を表示する。導光部材は、表示素子から出射された表示光を映像投影面を介して観察者の眼球に導く。姿勢監視センサは、観察者の頭部に連動して変化する導光部材の映像投影面の姿勢変動を検出する。制御部は、導光部材の映像投影面の姿勢変動に連動することなく当該HMDが設置された空間において拡大映像として認識される虚像形成面が固定されるよう、表示素子に対して表示制御を行う。   A head-mounted display (HMD) according to the present invention is a structure for enabling an arbitrary enlarged image to be presented to an observer while being attached to the observer's head in a state in which the observer's front visual field is secured. Specifically, a display element, a light guide member made of a material that can transmit visible light, an attitude monitoring sensor, and a control for performing display control on the display element based on detection information from the attitude monitoring sensor A part. Here, the display element displays a real image serving as a video source of a video (virtual image) to be presented to the observer. The light guide member guides the display light emitted from the display element to the eyeball of the observer through the image projection plane. The posture monitoring sensor detects a change in posture of the image projection surface of the light guide member that changes in conjunction with the observer's head. The control unit performs display control on the display element so that a virtual image forming surface recognized as an enlarged image is fixed in a space where the HMD is installed without being interlocked with a change in posture of the image projection surface of the light guide member. Do.

上述の構成により、観察者の眼球に向けて表示光が出射される当該HMDの映像投影面における表示出射エリアは、当該HMDが装着された観察者頭部の変動に連動することなく当該HMDの設置空間における虚像形成面が固定されるように、映像投影面上を移動する。このとき、観察者は、自己の頭部と一体的に変動する映像投影面を介して認識される虚像形成面が固定しているように体感できるため、当該観察者自身は、実際にモニタが設置された環境と同様の感覚で作業等、観察以外の動作を円滑に行うことが可能になる。したがって、本発明に係るHMDは、単にモニタ設置が困難な環境での使用のみならず、医療現場、テレビ会議など、従来から円滑な作業遂行のためにモニタを利用してきた種々の分野への適用を可能にする。   With the above-described configuration, the display emission area on the video projection surface of the HMD from which the display light is emitted toward the observer's eyeball is not linked to the fluctuation of the observer's head on which the HMD is mounted. It moves on the image projection plane so that the virtual image forming plane in the installation space is fixed. At this time, the observer can feel as if the virtual image forming surface recognized through the image projection surface that fluctuates integrally with his / her head is fixed. Operations other than observation, such as work, can be performed smoothly with the same feeling as the installed environment. Therefore, the HMD according to the present invention is not only used in an environment where it is difficult to install a monitor, but also applied to various fields in which a monitor has been conventionally used for smooth work execution such as a medical site and a video conference. Enable.

本発明に係るHMDにおいて、姿勢監視センサは、一またはそれ以上の加速度センサを含むのが好ましい。また、表示素子は、発光型、非発光型の何れであってもよい。発光型表示素子としては、例えば、プラズマディスプレイ、エレクトロルミネセンス(EL)デバイス、発光ダイオード(LED)アレイなどが知られている。非発光型表示素子としては、例えば、液晶ディスプレイ、ホログラフィック素子などが知られている。   In the HMD according to the present invention, the posture monitoring sensor preferably includes one or more acceleration sensors. The display element may be either a light emitting type or a non-light emitting type. As a light emitting display element, for example, a plasma display, an electroluminescence (EL) device, a light emitting diode (LED) array, and the like are known. As non-light emitting display elements, for example, liquid crystal displays, holographic elements and the like are known.

なお、本発明に係るHMDにおいて、制御部は、映像投影面の姿勢が予め設定された値を超える加速度で変動したことを姿勢監視センサが検出したとき、表示素子の映像表示動作を停止させるのが好ましい。急激な姿勢変化は、観察者自身の緊急事態と判断される可能性が高いため、映像投影面の姿勢変動に関わらず、観察者の十分な視野を確保する必要があるからである。また、当該HMDの長寿命化を考慮すれば、制御部は、映像投影面に予め設定された表示光の出射可能エリア内において、映像投影面から観察者の眼球に向けて実際に出射される表示光の出射エリアが存在しなくなったとき、表示素子の映像表示動作を停止させるのが好ましい。さらに、表示されるべき映像情報としては、ナビゲーション情報の提供も可能であることから、当該HMDはGPS機能を備えてもよい。   In the HMD according to the present invention, the control unit stops the video display operation of the display element when the posture monitoring sensor detects that the posture of the video projection plane has fluctuated at an acceleration exceeding a preset value. Is preferred. This is because an abrupt change in posture is likely to be determined as an emergency situation of the viewer himself, and it is necessary to ensure a sufficient field of view of the viewer regardless of the posture change of the image projection plane. In consideration of extending the life of the HMD, the control unit actually emits from the image projection surface toward the observer's eyeball in the display light emission area preset on the image projection surface. It is preferable to stop the image display operation of the display element when there is no display light emission area. Furthermore, as the video information to be displayed, navigation information can be provided, so the HMD may have a GPS function.

上述のような構造を備えたHMD(本発明に係るHMD)は、従来からモニタを利用してきた分野、例えば双方向データ通信技術を利用したテレビ会議システムなどへ適用され得る。この場合、当該HMDは、所定の伝送手段を介して双方向データ通信を可能にするコミュニケーションシステムに適用可能な情報端末装置の一部を構成する。すなわち、本発明に係る情報端末装置は、上述のような構造を有するHMDと、このHMDを装着した観察者を撮影するための撮像装置と、伝送手段との間で、撮像装置に取り込まれた映像情報を含むデータの送受信を可能にするための入出力部を備える。   The HMD having the above-described structure (HMD according to the present invention) can be applied to a field where a monitor has been conventionally used, for example, a video conference system using a bidirectional data communication technique. In this case, the HMD constitutes a part of an information terminal device applicable to a communication system that enables bidirectional data communication via a predetermined transmission means. That is, the information terminal device according to the present invention is taken into the imaging device between the HMD having the above-described structure, the imaging device for photographing the observer wearing the HMD, and the transmission means. An input / output unit for enabling transmission / reception of data including video information is provided.

なお、本発明に係る各実施例は、以下の詳細な説明及び添付図面によりさらに十分に理解可能となる。これら実施例は単に例示のために示されるものであって、この発明を限定するものと考えるべきではない。   The embodiments according to the present invention can be more fully understood from the following detailed description and the accompanying drawings. These examples are given for illustration only and should not be construed as limiting the invention.

また、この発明のさらなる応用範囲は、以下の詳細な説明から明らかになる。しかしながら、詳細な説明及び特定の事例はこの発明の好適な実施例を示すものではあるが、例示のためにのみ示されているものであって、この発明の範囲における様々な変形および改良はこの詳細な説明から当業者には自明であることは明らかである。   Further scope of applicability of the present invention will become apparent from the detailed description given below. However, the detailed description and specific examples, while indicating the preferred embodiment of the invention, are presented for purposes of illustration only and various modifications and improvements within the scope of the invention may It will be apparent to those skilled in the art from the detailed description.

本発明によれば、観察者の眼球に向けて表示光が出射される当該HMDの映像投影面における表示光出射エリアは、当該HMDが装着された観察者頭部の変動に連動することなく当該HMDの設置空間における虚像形成面が固定されるように、映像投影面上を移動する。この構成により、観察者自身は実際にモニタが設置された環境を体感することが可能になる。   According to the present invention, the display light emission area on the video projection surface of the HMD from which the display light is emitted toward the eyeball of the observer is not linked to the fluctuation of the observer head to which the HMD is attached. It moves on the video projection surface so that the virtual image forming surface in the installation space of the HMD is fixed. With this configuration, the observer can experience the environment where the monitor is actually installed.

本発明に係るHMDにより実現される擬似空間を概念的に説明するための図である。It is a figure for demonstrating notionally the pseudo | simulation space implement | achieved by HMD which concerns on this invention. 本発明に係るHMDの第1実施形態の概観及び機能を説明するための図である。It is a figure for demonstrating the appearance and function of 1st Embodiment of HMD which concerns on this invention. 第1実施形態に係るHMDにおける導波部材の構造を、拡大映像の表示原理とともに説明するための図である。It is a figure for demonstrating the structure of the waveguide member in HMD which concerns on 1st Embodiment with the display principle of an enlarged image. 第1実施形態に係るHMDにより実現される擬似空間(モニタ設置環境)を説明するための図である。It is a figure for demonstrating the pseudo | simulation space (monitor installation environment) implement | achieved by HMD which concerns on 1st Embodiment. 第1実施形態に係るHMDの基本構成を示す図である。It is a figure which shows the basic composition of HMD which concerns on 1st Embodiment. 第1実施形態に係るHMDにおける姿勢監視センサの機能を説明するための図である。It is a figure for demonstrating the function of the attitude | position monitoring sensor in HMD which concerns on 1st Embodiment. 第1実施形態に係るHMDにおける制御部で実行される、表示制御を説明するための図である。It is a figure for demonstrating the display control performed by the control part in HMD which concerns on 1st Embodiment. 第1実施形態に係るHMDにおける制御部で実行される、設定モードおよび固定表示モードを説明するためのフローチャートである。It is a flowchart for demonstrating the setting mode and fixed display mode which are performed by the control part in HMD which concerns on 1st Embodiment. 第1実施形態に係るHMDにおける制御部で実行される、変動表示モードを説明するためのフローチャートである。It is a flowchart for demonstrating the variable display mode performed by the control part in HMD which concerns on 1st Embodiment. 本発明に係るHMDの第2および第3実施形態の概観を示す図である。It is a figure which shows the general-view of 2nd and 3rd embodiment of HMD which concerns on this invention. 本発明に係る情報端末装置の構成を示す図である。It is a figure which shows the structure of the information terminal device which concerns on this invention.

以下、本発明に係るヘッドマウントディスプレイ(HMD)の各実施形態を、図2〜図11を参照しながら詳細に説明する。なお、なお、図面の説明において同一の要素には同一符号を付して重複する説明を省略する。   Hereinafter, embodiments of a head-mounted display (HMD) according to the present invention will be described in detail with reference to FIGS. Note that, in the description of the drawings, the same elements are denoted by the same reference numerals, and redundant description is omitted.

図2は、本発明に係るHMDの第1実施形態の概観及び機能を説明するための図である。特に、図2(a)には、第1実施形態に係るHMDとして、両眼ゴーグル型のHMDが示されている。なお、このHMD100は、可視光を透過可能な材料からなる導光部材110と、この導光部材110を観察者頭部に保持するための一対の支持部材を備えた光透過型HMDである。導光部材110は、観察者の眼球EYE(図2(b)参照)に対面する内側面110a(表示光が眼球EYEに向けて出射される映像投影面)と、内側面110aに対向する外側面110bを有する。一方の支持部材には、実像を表示する表示素子121a(図2(b)参照)を含む表示制御装置120aが内臓されるとともに、当該表示制御装置120aの入出力デバイスとして、観察者の指示情報を入力するためのスイッチユニット130、音声情報を観察者に提供するためのイヤホン140aがそれぞれ設けられている。他方の支持部材にも同様に、表示制御装置120bが内臓されており、この表示制御装置120bの入出力デバイスとしてイヤホン140bが設けられている。   FIG. 2 is a diagram for explaining an overview and functions of the first embodiment of the HMD according to the present invention. In particular, FIG. 2A shows a binocular goggles type HMD as the HMD according to the first embodiment. The HMD 100 is a light transmissive HMD provided with a light guide member 110 made of a material that can transmit visible light and a pair of support members for holding the light guide member 110 on the observer's head. The light guide member 110 includes an inner surface 110a (an image projection surface on which display light is emitted toward the eyeball EYE) facing the observer's eyeball EYE (see FIG. 2B), and an outer surface facing the inner surface 110a. It has a side surface 110b. One support member incorporates a display control device 120a including a display element 121a (see FIG. 2B) for displaying a real image, and the instruction information of the observer as an input / output device of the display control device 120a. Switch unit 130 and earphone 140a for providing audio information to the observer. Similarly, a display control device 120b is built in the other support member, and an earphone 140b is provided as an input / output device of the display control device 120b.

この第1実施形態に係るHMD100において、表示素子121aから出射された表示光は、導光部材110内、すなわち当該導光部材110の左側半分に相当する領域内を伝搬し、映像投影面110aから観察者の左眼球EYEに到達する。一方、表示素子121bから出射された表示光も、導光部材110の右側半分に相当する領域内を伝搬し、映像投影面110aから観察者の右眼球EYEに到達する。このとき、映像投影面110aの左側から左眼球EYEに照射される表示光の出射角(映像投影面110aと表示光の光軸との角度であって、水平成分と垂直成分により与えられる)と、映像投影面110aの右側から右眼球EYEに照射される表示光の出射角に視差角を与えることにより、図2(b)に示されたような虚像Iが観察者に提示される。なお、この視差角は、導光部材110の表面110bから虚像形成面までの距離のデフォルト値、すなわち観察者に提示される虚像Iの拡大倍率のデフォルト値を規定するパラメータとなる。   In the HMD 100 according to the first embodiment, the display light emitted from the display element 121a propagates in the light guide member 110, that is, in a region corresponding to the left half of the light guide member 110, and from the image projection surface 110a. It reaches the left eyeball EYE of the observer. On the other hand, the display light emitted from the display element 121b also propagates in a region corresponding to the right half of the light guide member 110, and reaches the right eyeball EYE of the observer from the image projection surface 110a. At this time, the emission angle of the display light irradiated to the left eyeball EYE from the left side of the image projection surface 110a (the angle between the image projection surface 110a and the optical axis of the display light, which is given by the horizontal component and the vertical component) The virtual image I as shown in FIG. 2B is presented to the observer by giving a parallax angle to the emission angle of the display light irradiated on the right eyeball EYE from the right side of the video projection surface 110a. The parallax angle is a parameter that defines a default value of the distance from the surface 110b of the light guide member 110 to the virtual image forming surface, that is, a default value of the magnification of the virtual image I presented to the observer.

図3は、第1実施形態に係るHMDにおける導波部材の構造を、拡大映像の表示原理とともに説明するための図である。   FIG. 3 is a view for explaining the structure of the waveguide member in the HMD according to the first embodiment, together with the principle of displaying an enlarged image.

導光部材110には、例えば図3(a)に示されたように曲面11a〜11Cで構成された偏心自由曲面光学系11により実現可能である(非特許文献1参照)。また、第1実施形態に係るHMD100の導光部材110は、図3(b)に示されたように互いに対向する面110a、110bを有する導光板である。この面110a、110bそれぞれは、偏心自由曲面光学系11における曲面11b、11cそれぞれと同様に機能するフレネルレンズとして表面加工されている。なお、図3(b)は、図2(a)中に示されたI−I線に沿った導光部材110の断面図に相当している。何れの導光部材110も可視光を透過可能な材料、例えばガラス材料、アクリル樹脂などのプラスティック材料で構成されており、特に、表面がフレネルレンズとして加工された導光板(図3(b))の場合、可視光に対する透過率が低下するが、少なくとも50%以上、好ましくは70%以上の透過率を有する材料であるのが好ましい。さらに、図3(a)および図3(b)の何れに示された導光部材も、各面が誘電体多層膜によりハーフミラーコーティングされていてもよい。   For example, as shown in FIG. 3A, the light guide member 110 can be realized by an eccentric free-form surface optical system 11 including curved surfaces 11a to 11C (see Non-Patent Document 1). Further, the light guide member 110 of the HMD 100 according to the first embodiment is a light guide plate having surfaces 110a and 110b facing each other as shown in FIG. Each of the surfaces 110a and 110b is processed as a Fresnel lens that functions in the same manner as the curved surfaces 11b and 11c in the decentered free-form curved optical system 11, respectively. Note that FIG. 3B corresponds to a cross-sectional view of the light guide member 110 taken along the line I-I shown in FIG. Each of the light guide members 110 is made of a material that can transmit visible light, for example, a plastic material such as a glass material or an acrylic resin, and in particular, a light guide plate whose surface is processed as a Fresnel lens (FIG. 3B). In this case, the transmittance for visible light is lowered, but a material having a transmittance of at least 50% or more, preferably 70% or more is preferable. Furthermore, each surface of the light guide member shown in FIGS. 3A and 3B may be half-mirror coated with a dielectric multilayer film.

具体的に、表示光による虚像形成の原理を図3(a)の偏心自由曲面光学系11を用いて説明すると、図3(c)に示されたように、実像を表示する表示素子12からの表示光は曲面11aを介して、当該光学系11内に出射される。この表示光は曲面11bおよび曲面11cにおいてそれぞれ全反射され、再度曲面11b(投影曲面)から観察者の眼球EYEに到達する。このとき、観察者には、図3(c)に示されたように、曲面11cから所定距離離れた位置(虚像形成面上)に虚像Iが提示される。   Specifically, the principle of virtual image formation using display light will be described using the decentered free-form curved optical system 11 shown in FIG. 3A. From the display element 12 that displays a real image, as shown in FIG. Is emitted into the optical system 11 through the curved surface 11a. The display light is totally reflected at the curved surface 11b and the curved surface 11c, and reaches the observer's eyeball EYE again from the curved surface 11b (projected curved surface). At this time, as shown in FIG. 3C, the virtual image I is presented to the observer at a position (on the virtual image forming surface) that is a predetermined distance away from the curved surface 11 c.

なお、図2の第1実施形態に係るHMD100の場合、図3(d)に示されたように、導光部材110の互いに対向する面110a、110bのうち、観察者の眼球EYEに直接対面する面110aが、表示光が出射される映像投影面として機能する。また、この映像投影面110aには、予め表示光の出射可能エリア111が設定されており、この出射可能エリア111内に、実際に観察者の眼球EYEに向けて表示光が出射される出射エリア112が存在することとなる。なお、当該導光部材110の面110a、110bそれぞれは、これら面110a、110bが協働することで出射可能エリア111内の何れの位置から出射される表示光も観察者の眼球EYEに到達させるように設計されたフレネルレンズとして機能する。   In the case of the HMD 100 according to the first embodiment of FIG. 2, as shown in FIG. 3D, the face 110a, 110b of the light guide member 110 facing each other directly facing the eyeball EYE of the observer. The surface 110a that functions as an image projection surface from which display light is emitted. In addition, a display light emission area 111 is set in advance on the video projection surface 110a, and the emission area in which the display light is actually emitted toward the eyeball EYE of the observer in the emission area 111. 112 is present. Each of the surfaces 110a and 110b of the light guide member 110 causes display light emitted from any position in the exitable area 111 to reach the observer's eyeball EYE by the cooperation of the surfaces 110a and 110b. It functions as a Fresnel lens designed so.

次に、第1実施形態に係るHMD100により実現される、モニタ設置環境の擬似空間の形成メカニズムを、図4を参照しながら説明する。なお、図4では、説明を簡単化するため、導光部材110は単眼用の部材として示されている。   Next, a mechanism for forming a pseudo space in the monitor installation environment realized by the HMD 100 according to the first embodiment will be described with reference to FIG. In FIG. 4, the light guide member 110 is shown as a monocular member in order to simplify the description.

当該HMD100により観察者に提示される虚像(拡大映像)Iは、観察者の視野、すなわち、導光部材110を介して眼球EYEに到達可能な可視光の入射可能角度V(視野角)によって規定される空間内に形成される。このとき、表示光の実際の出射エリア112は、導光部材110の映像投影面110a上に予め設定された出射可能エリア111の中心に位置する(図4の下段中央)。   The virtual image (enlarged image) I presented to the observer by the HMD 100 is defined by the visual field of the observer, that is, the visible light incident angle V (viewing angle) that can reach the eyeball EYE via the light guide member 110. Formed in the space. At this time, the actual emission area 112 of the display light is located at the center of the exitable area 111 set in advance on the image projection surface 110a of the light guide member 110 (the lower center in FIG. 4).

当該HMD110では、制御部123が、導光部材110の映像投影面110aの姿勢変動に連動することなく当該HMD100が設置された空間において拡大映像として認識される虚像形成面(虚像I)が固定されるよう、表示素子121に対して表示制御を行う。具体的には、観察者頭部が左右に回転した場合、この回転運動に連動して導光部材110も、図4上段に示されたように、矢印Aあるいは矢印Bで示された方向に移動する。   In the HMD 110, the virtual image forming surface (virtual image I) that the controller 123 recognizes as an enlarged image in the space where the HMD 100 is installed without being interlocked with the posture change of the video projection surface 110a of the light guide member 110 is fixed. Thus, display control is performed on the display element 121. Specifically, when the observer's head rotates to the left and right, the light guide member 110 also moves in the direction indicated by the arrow A or the arrow B as shown in the upper part of FIG. Moving.

例えば、矢印Aで示された方向に映像投影面110aが移動した場合、映像投影面110aの出射可能エリア111内において、出射エリア112の位置は、図4下段左に示されたように、中央から右側に移動する。一方、矢印Bで示された方向に映像投影面110aが移動した場合、映像投影面110aの出射可能エリア111内において、出射エリア112の位置は、図4下段右に示されたように、中央から左側に移動する。この構成により、相対的に虚像Iの形成位置は、当該HMD100が設置される空間内において固定される。したがって、観察者は、自己の頭部と一体的に変動する映像投影面110aを介して認識される虚像Iが固定しているように体感できるため、当該観察者自身は、実際にモニタが設置された環境と同様の感覚で作業等、観察以外の動作を円滑に行うことが可能になる。   For example, when the image projection surface 110a moves in the direction indicated by the arrow A, the position of the exit area 112 is the center as shown in the lower left of FIG. 4 in the exitable area 111 of the image projection surface 110a. Move to the right. On the other hand, when the image projection plane 110a moves in the direction indicated by the arrow B, the position of the exit area 112 is the center of the exitable area 111 of the image projection plane 110a as shown in the lower right of FIG. Move to the left. With this configuration, the formation position of the virtual image I is relatively fixed in the space where the HMD 100 is installed. Therefore, since the observer can feel as if the virtual image I recognized through the image projection surface 110a that fluctuates integrally with his / her head is fixed, the observer himself / herself has actually installed a monitor. It is possible to smoothly perform operations other than observation, such as work, with the same feeling as in the environment.

次に、この第1実施形態に係るHMD100の一部を構成する表示制御装置120(図2(a)中の表示制御装置120a、120bそれぞれに相当)の基本構成を、図5(a)を参照しながら具体的に説明する。なお、当該HMD100の携帯性を向上させるため、表示制御装置120は駆動用バッテリーを備えているのが好ましい。   Next, a basic configuration of the display control device 120 (corresponding to each of the display control devices 120a and 120b in FIG. 2A) constituting a part of the HMD 100 according to the first embodiment is shown in FIG. This will be specifically described with reference to FIG. In order to improve the portability of the HMD 100, the display control device 120 preferably includes a drive battery.

図5(a)に示されたように、表示制御装置120は、映像データ、静止画像データ等の観察者に提供する情報が格納されている情報処理装置190(PC)から必要な映像データ(複数の画像フレームで構成された映画や測定機器のモニタ画像を含む)を取り込むための入出力部122(I/O)と、観察者に提供される実像を表示する表示素子121(図2(b)における表示素子121a、121bそれぞれに相当)と、制御部123と、ユーザインターフェースを介して観察者からの支持情報を取り込むための入出力部124(I/O)と、メモリ125と、導光部材110における映像投影面110aの姿勢変動を検出するための姿勢監視センサ126と、スイッチユニット130と、スピーカ130(図2(a)におけるイヤホン130a、130bそれぞれに相当)を備える。   As shown in FIG. 5A, the display control device 120 receives necessary video data (PC) from the information processing device 190 (PC) in which information to be provided to the observer such as video data and still image data is stored. An input / output unit 122 (I / O) for capturing a movie composed of a plurality of image frames and a monitor image of a measuring instrument), and a display element 121 for displaying a real image provided to an observer (FIG. 2 ( b) corresponding to each of the display elements 121a and 121b), a control unit 123, an input / output unit 124 (I / O) for capturing support information from an observer via a user interface, a memory 125, An attitude monitoring sensor 126 for detecting a change in attitude of the image projection surface 110a in the optical member 110, a switch unit 130, and a speaker 130 (an earphone in FIG. 2A). 130a, comprises 130b corresponds to each).

なお、情報処理装置190とI/O122との間のデータ通信方式は、有線、無線の何れであってもよい。表示素子は、二次元表示素子が好ましく、発光型、非発光型の何れであってもよい。発光型表示素子としては、例えば、プラズマディスプレイ、エレクトロルミネセンス(EL)デバイス、発光ダイオード(LED)アレイなどが知られている。非発光型表示素子としては、例えば、液晶ディスプレイ、ホログラフィック素子などが知られている。制御部123は、主に表示素子120に対して表示制御を行う。メモリ125は、初期設定用の映像データ、姿勢監視センサ126により検出された姿勢情報の他、I/O122を介して情報処理装置190から送信された表示用の映像データを格納する。姿勢監視センサ126は、それぞれ直交する平面成分の姿勢変動を検出するx−y加速度センサ126aと、x−z加速度センサ126bから構成されている。なお、これらx−y加速度センサ126a、x−z加速度センサ126bは、加速度センサであるのが好ましい。スイッチユニット130は、観察者の指示情報を入力するためのユーザインターフェースであり、スピーカ140は、音声情報を観察者に提供するためのユーザインターフェースである。   Note that the data communication method between the information processing apparatus 190 and the I / O 122 may be either wired or wireless. The display element is preferably a two-dimensional display element, and may be either a light emitting type or a non-light emitting type. As a light emitting display element, for example, a plasma display, an electroluminescence (EL) device, a light emitting diode (LED) array, and the like are known. As non-light emitting display elements, for example, liquid crystal displays, holographic elements and the like are known. The control unit 123 mainly performs display control on the display element 120. The memory 125 stores video data for display transmitted from the information processing apparatus 190 via the I / O 122 in addition to video data for initial setting and posture information detected by the posture monitoring sensor 126. The posture monitoring sensor 126 is composed of an xy acceleration sensor 126a and an xz acceleration sensor 126b that detect posture fluctuations of orthogonal plane components. The xy acceleration sensor 126a and the xz acceleration sensor 126b are preferably acceleration sensors. The switch unit 130 is a user interface for inputting observer instruction information, and the speaker 140 is a user interface for providing audio information to the observer.

制御部123では、具体的に図5(b)に示された動作モードが実行される。すなわち、制御部123は、当該HMD100の初期状態(姿勢監視センサ126による姿勢変動検出の基準位置となる当該HMD100の設置空間内の座標原点)を決定するための設定モードと、具体的な表示動作を規定する表示モードを実行する。また、制御部123は、地震、事故などの不測の事態発生に備え緊急モードも実行される。なお、緊急モードを除く各動作モードの切り替えは、スイッチユニット130を介して観察者が行う。また、表示モードには、従来のHMDと同様の映像表示が可能な固定表示モードと、観察者にモニタ設置環境を体感させる擬似空間を提供する変動表示モードが用意されている。   In the control unit 123, the operation mode specifically shown in FIG. 5B is executed. That is, the control unit 123 sets a setting mode for determining an initial state of the HMD 100 (a coordinate origin in the installation space of the HMD 100 serving as a reference position for posture change detection by the posture monitoring sensor 126) and a specific display operation. Execute the display mode that defines In addition, the control unit 123 also executes an emergency mode in preparation for an unexpected occurrence such as an earthquake or an accident. Note that switching of each operation mode except the emergency mode is performed by the observer via the switch unit 130. In addition, the display mode includes a fixed display mode capable of displaying an image similar to a conventional HMD and a variable display mode that provides a pseudo space for the observer to experience the monitor installation environment.

また、上述のように姿勢監視センサ126は、HMD100が設置された空間における当該HMD100、具体的には導光部材110の映像投影面110aの水平変動成分の変動を検出するためのx−y加速度センサ126aと、垂直変動成分を検出するx−z加速度センサ126bを含む。   Further, as described above, the posture monitoring sensor 126 detects the fluctuation of the horizontal fluctuation component of the HMD 100 in the space where the HMD 100 is installed, specifically, the video projection surface 110a of the light guide member 110. The sensor 126a and the xz acceleration sensor 126b which detects a vertical fluctuation component are included.

すなわち、x−y加速度センサ126aは、図6(a)に示されたように、当該HMD100が装着された観察者頭部がz軸を中心に図中の矢印zcで示された方向に回転したときの水平変動成分を検出する。具体的には、導光部材100をx−y平面に投影したときの像が矢印A1またはB1に移動したときの変動量および変動加速度を検出する。一方、x−z加速度センサ126bは、図6(b)に示されたように、当該HMD100が装着された観察者頭部がy軸を中心に図中の矢印ycで示された方向に回転したときの垂直変動成分を検出する。具体的には、導光部材100をx−z平面に投影したときの像が矢印A2またはB2に移動したときの変動量および変動加速度を検出する。   In other words, as shown in FIG. 6A, the xy acceleration sensor 126a rotates the head of the viewer, to which the HMD 100 is attached, in the direction indicated by the arrow zc in the drawing around the z axis. The horizontal fluctuation component is detected. Specifically, the fluctuation amount and the fluctuation acceleration when the image when the light guide member 100 is projected onto the xy plane move to the arrow A1 or B1 are detected. On the other hand, as shown in FIG. 6B, the xz acceleration sensor 126b rotates the head of the observer, to which the HMD 100 is attached, in the direction indicated by the arrow yc in the figure about the y axis. The vertical fluctuation component is detected. Specifically, the fluctuation amount and the fluctuation acceleration when the image when the light guide member 100 is projected onto the xz plane moves to the arrow A2 or B2 are detected.

なお、図6に示された姿勢監視用の座標系は、制御部123により実行される設定モードで予め初期姿勢が決定されることにより特定される(設定モードにより設定された初期姿勢における当該センサ126a、126bそれぞれの位置が座標原点に設定される)。   The posture monitoring coordinate system shown in FIG. 6 is specified by determining the initial posture in advance in the setting mode executed by the control unit 123 (the sensor in the initial posture set by the setting mode). 126a and 126b are set as coordinate origins).

次に、この第1実施形態に係るHMD100における制御部123で実行される表示制御(表示位置および拡大倍率の制御)を、図7を参照しながら説明する。   Next, display control (display position and magnification control) executed by the control unit 123 in the HMD 100 according to the first embodiment will be described with reference to FIG.

第1実施形態に係るHMD100では、二次元表示可能な表示素子120の表示可能エリア1211と、映像投影面110aに予め設定された表示光の出射可能エリア111が対応している。したがって、制御部123が、表示素子120の表示可能エリア1211内における実像1212の表示位置およびサイズを任意に設定することにより、出射可能エリア111内における表示光の出射エリア112の位置制御および観察者に提示される虚像Iの拡大倍率の制御が可能になる。ここで、導光部材110の各面110a、110bは、表示可能エリア111内の何れの位置に出射エリア112が位置している場合にも表示光が観察者の眼球EYEに到達可能なように、フレネルレンズとして表面加工されている。   In the HMD 100 according to the first embodiment, the displayable area 1211 of the display element 120 capable of two-dimensional display corresponds to the display light emission possible area 111 set in advance on the image projection surface 110a. Therefore, the control unit 123 arbitrarily sets the display position and size of the real image 1212 in the displayable area 1211 of the display element 120, thereby controlling the position of the display light emission area 112 in the outputable area 111 and the observer. It is possible to control the magnification of the virtual image I presented in FIG. Here, each surface 110a, 110b of the light guide member 110 is configured so that the display light can reach the eyeball EYE of the observer even when the emission area 112 is located at any position in the displayable area 111. The surface is processed as a Fresnel lens.

なお、表示素子120に対する制御部123の表示制御は、種々の変形が可能である。例えば、図7(b)に示されたように、導光部材110と表示素子120との間の空間にレンズL、反射鏡などを配置しておき、制御部123がこれら光学部材の姿勢を変更するよう駆動系191を制御することによっても、表示制御が可能になる。例えば、駆動系191によるレンズLの姿勢制御は、このレンズLを互いに直交している軸L1、L2それぞれを中心に回転させることにより行われる。また、虚像Iの拡大倍率は表示素子121の表示可能エリア1211内に表示される実像1212の大きさを変更することにより調整できるが、光学部材の姿勢制御により拡大倍率の制御が行われてもよい。   The display control of the control unit 123 for the display element 120 can be variously modified. For example, as shown in FIG. 7B, a lens L, a reflecting mirror, and the like are arranged in a space between the light guide member 110 and the display element 120, and the control unit 123 changes the posture of these optical members. Display control is also possible by controlling the drive system 191 to change. For example, the posture control of the lens L by the drive system 191 is performed by rotating the lens L about axes L1 and L2 that are orthogonal to each other. The magnification of the virtual image I can be adjusted by changing the size of the real image 1212 displayed in the displayable area 1211 of the display element 121. However, even if the magnification is controlled by the attitude control of the optical member. Good.

続いて、図5(b)に示された制御部123において実行される種々の動作モードを、図8および図9のフローチャートを用いて詳細に説明する。   Next, various operation modes executed in the control unit 123 shown in FIG. 5B will be described in detail with reference to the flowcharts of FIGS.

まず、制御部123で実行される設定モードを、図8(a)のフローチャートを用いて説明する。この設定モードは、姿勢監視センサ126による映像投影面110aの姿勢変動を検知するための基準姿勢を設定するモードである。すなわち、図8(a)に示されたように、制御部123は、メモリ125から基準姿勢設定用の映像データまたは静止画像データを読み出し、表示素子121に読み出されたデータを表示させる(デフォルト表示:ステップST801)。このとき、制御部123は、固定表示モードとして虚像I(拡大映像)を観察者に提示するため、従来技術と同様に当該HMD100の姿勢変化に連動して観察者に提示される虚像Iも変動する。当該HMD100の基準姿勢は、スイッチユニット130を介して観察者自身が行う(ステップST802)。この基準姿勢の決定情報は、具体的には図6に示されたように、x−y加速度センサ126aおよびx−z加速度センサ126bの原点座標であり、この決定情報が姿勢変動の検出基準情報としてメモリ125に格納される(ステップST803)。   First, the setting mode executed by the control unit 123 will be described with reference to the flowchart of FIG. This setting mode is a mode for setting a reference posture for detecting a posture variation of the image projection surface 110a by the posture monitoring sensor 126. That is, as shown in FIG. 8A, the control unit 123 reads the reference posture setting video data or still image data from the memory 125 and causes the display element 121 to display the read data (default). Display: Step ST801). At this time, since the control unit 123 presents the virtual image I (enlarged video) as the fixed display mode to the observer, the virtual image I presented to the observer also varies in conjunction with the change in the posture of the HMD 100 as in the conventional technique. To do. The reference posture of the HMD 100 is performed by the observer himself via the switch unit 130 (step ST802). Specifically, as shown in FIG. 6, the determination information of the reference posture is the origin coordinates of the xy acceleration sensor 126a and the xz acceleration sensor 126b, and this determination information is detection reference information of posture fluctuation. Is stored in the memory 125 (step ST803).

続いて、制御部123で実行される表示モードのうち、固定表示モードを、図8(b)のフローチャートを用いて説明する。なお、この固定表示モードは、当該HMD100の姿勢変動に連動して、観察者に提示される虚像Iの形成位置も変動する。   Next, among the display modes executed by the control unit 123, the fixed display mode will be described with reference to the flowchart of FIG. Note that in this fixed display mode, the formation position of the virtual image I presented to the observer is also changed in conjunction with the posture change of the HMD 100.

この固定表示モードは、当該HMD100の動作開始時点から実行される場合と、後述する変動表示モードから切り替えられる場合とがある。当該HMD100の動作開示時から固定表示モードが実行される場合、まず、メモリ125に格納されているデフォルトの表示制御情報が制御部123に取り込まれ(ステップST811)、該制御部123が、この表示制御情報に基づいて、表示素子121の表示可能エリア1211内に実像1212を表示させる。一方、後述の変動表示モードから固定表示モードに切り替えられた場合、この切り替え時点における表示制御情報が、固定モードにおけるデフォルトの表示制御情報として利用される。したがって、予め変動表示モードで観察者の視野の任意位置に虚像Iが表示された状態で固定表示モードに切り替えることにより、観察者の視野内における任意位置に所定倍率の拡大映像を固定表示させることが可能になる。   This fixed display mode may be executed from the operation start time of the HMD 100 or may be switched from a variable display mode described later. When the fixed display mode is executed since the operation of the HMD 100 is disclosed, first, the default display control information stored in the memory 125 is taken into the control unit 123 (step ST811), and the control unit 123 displays this display. Based on the control information, the real image 1212 is displayed in the displayable area 1211 of the display element 121. On the other hand, when the display mode is switched from the later-described variable display mode to the fixed display mode, the display control information at the time of switching is used as default display control information in the fixed mode. Accordingly, by switching to the fixed display mode in a state where the virtual image I is previously displayed at an arbitrary position in the observer's visual field in the variable display mode, an enlarged image with a predetermined magnification is fixedly displayed at an arbitrary position in the observer's visual field. Is possible.

表示されるべき映像データは、情報処理装置190からI/O122を介して順次送信されており、メモリ125は、バッファとして送信されてきた映像データを一時的に格納しておく。この映像データは複数の画像フレームから構成されており、制御部123は、メモリ125から表示素子121に実像表示すべき画像フレームを入力し(ステップST812)、表示素子121に対する表示制御動作として、順次フレーム表示制御を行う(ステップST813)。これら制御部123による表示素子121に対する固定表示モードでの表示制御は、情報処理装置190から送信されてくる映像データの全画像フレームに対して完了した時点で終了する(ステップST814)。   The video data to be displayed is sequentially transmitted from the information processing device 190 via the I / O 122, and the memory 125 temporarily stores the video data transmitted as a buffer. This video data is composed of a plurality of image frames, and the control unit 123 inputs image frames to be displayed as real images from the memory 125 to the display element 121 (step ST812), and sequentially performs display control operations for the display element 121. Frame display control is performed (step ST813). The display control in the fixed display mode for the display element 121 by the control unit 123 ends when it is completed for all image frames of the video data transmitted from the information processing apparatus 190 (step ST814).

さらに、制御部123で実行される表示モードのうち、変動表示モードを、図9のフローチャートを用いて説明する。なお、この変動表示モードは、図8(a)に示された設定モードが実行された後に行われる動作モードであり、図4に示されたように、当該HMD100の姿勢変動とは無関係に、当該HMD100が設置された空間内における虚像形成位置が固定されるように虚像Iを形成する表示モードである。   Further, among the display modes executed by the control unit 123, the variable display mode will be described with reference to the flowchart of FIG. This variation display mode is an operation mode performed after the setting mode illustrated in FIG. 8A is executed. As illustrated in FIG. 4, regardless of the posture variation of the HMD 100, This is a display mode in which the virtual image I is formed so that the virtual image formation position in the space where the HMD 100 is installed is fixed.

すなわち、この変動表示モードでは、制御部123が、設定モード(図8(a)により決定された姿勢情報を含む表意時制御情報を、デフォルトの表示制御情報としてメモリ125から入力する(ステップST901)。続いて、制御部123は、表示すべき映像データの一部を構成する画像フレームを入力するとともに(ステップST902)、姿勢監視センサ126からの検出情報を確認する(ステップST903)。このステップST903において、姿勢変動がないと判断した場合、制御部123はそのままフレーム表示制御を行う(ステップST906)。一方、ステップST903において姿勢変動があったと判断した場合、制御部123は、この検出結果が表示許容範囲内の変動か否かをさらに判定する(ステップST904)。   That is, in this variable display mode, the control unit 123 inputs ideographic control information including posture information determined by the setting mode (FIG. 8A) from the memory 125 as default display control information (step ST901). Subsequently, the control unit 123 inputs an image frame constituting a part of video data to be displayed (step ST902) and confirms detection information from the attitude monitoring sensor 126 (step ST903). In step ST906, if it is determined that there is no posture change, the control unit 123 directly performs frame display control (step ST906) On the other hand, if it is determined in step ST903 that there is a posture change, the control unit 123 displays the detection result. It is further determined whether or not the fluctuation is within an allowable range (step ST904). .

ステップST904において、姿勢監視センサ126の検出情報が表示許容範囲を外れる変動を示唆している場合、一旦変動表示モードから緊急モードに移行する。この緊急モードでは、姿勢の変動加速度(導光部材110の移動加速度)が一定値以上である場合、表示素子121に対する表示制御動作を中止し、観察者の視野を確保する。このような緊急モードは、地震、事故などの不測の事態発生に備えるために実行される。また、導光部材110の大幅な姿勢変動が発生した場合、表示素子120における表示可能エリア1211には実像1212は表示されない。この場合も、消費電力を節約するため、制御部123は表示素子121に対する表示制御を中止する。   In step ST904, when the detection information of the posture monitoring sensor 126 suggests a variation outside the display allowable range, the mode is temporarily shifted from the variation display mode to the emergency mode. In this emergency mode, when the change acceleration of the posture (movement acceleration of the light guide member 110) is equal to or greater than a certain value, the display control operation for the display element 121 is stopped and the visual field of the observer is secured. Such an emergency mode is executed in order to prepare for the occurrence of an unexpected situation such as an earthquake or an accident. Further, when the posture change of the light guide member 110 occurs, the real image 1212 is not displayed in the displayable area 1211 of the display element 120. Also in this case, the control unit 123 stops display control for the display element 121 in order to save power consumption.

ステップST904において、姿勢監視センサ126の検出情報が表示許容範囲内であると判断されると、制御部123は、メモリ125に記録されている表示制御情報を、この検出情報に基づいて修正し(ステップST905)、この修正された表示制御情報に基づいてフレーム表示制御を行う(ステップST906)。そして、これら制御部123による表示素子121に対する変動表示モードでの表示制御は、情報処理装置190から送信されてくる映像データの全画像フレームに対して完了した時点で終了する(ステップST907)。   If it is determined in step ST904 that the detection information of the posture monitoring sensor 126 is within the display allowable range, the control unit 123 corrects the display control information recorded in the memory 125 based on the detection information ( Step ST905), frame display control is performed based on the corrected display control information (step ST906). Then, the display control in the variable display mode for the display element 121 by the control unit 123 ends when it is completed for all image frames of the video data transmitted from the information processing device 190 (step ST907).

なお、本発明に係るHMDは、第1実施形態として図2に示されたような両眼ゴーグル型のHMDにより実現可能であるが、種々の形態によっても実現可能である。図10は、本発明に係るHMDの第2および第3実施形態の概観を示す図である。   The HMD according to the present invention can be realized by a binocular goggles type HMD as shown in FIG. 2 as the first embodiment, but can also be realized by various forms. FIG. 10 is a diagram showing an overview of the second and third embodiments of the HMD according to the present invention.

図10(a)には、本発明に係るHMDの第2実施形態として、単眼ゴーグル型のHMDが示されている。この第2実施形態に係るHMD200は、実質的に第1実施形態に係るHMD100と概観において相違するが、その基本構造および動作については第1実施形態と同じである。具体的に、HMD200は、可視光を透過可能な材料からなる導光部材210と、導光部材210を観察者頭部に保持するための支持部材220を備えた光透過型HMDである。導光部材210は、実質的に図2および図3に示された導光部材110と同様の構造を有する。支持部材220には、表示素子を含む表示制御装置が内臓されており、この表示制御装置は実質的に図5(a)に示された構造を有する。また、表示制御装置に含まれる制御部は、図5(b)に示された動作モードを、図8および図9に示されたフローチャートに従って実行する。支持部材220には、内蔵された表示制御装置の入出力デバイスとして、観察者の指示情報を入力するためのスイッチユニット230、音声情報を観察者に提供するためのスピーカ(ヘッドホンタイプ:図示せず)がそれぞれ設けられている。   FIG. 10 (a) shows a monocular goggle type HMD as a second embodiment of the HMD according to the present invention. The HMD 200 according to the second embodiment is substantially different from the HMD 100 according to the first embodiment in the overview, but its basic structure and operation are the same as those in the first embodiment. Specifically, the HMD 200 is a light transmissive HMD including a light guide member 210 made of a material that can transmit visible light and a support member 220 for holding the light guide member 210 on the observer's head. The light guide member 210 has substantially the same structure as the light guide member 110 shown in FIGS. 2 and 3. A display control device including a display element is built in the support member 220, and this display control device has a structure substantially shown in FIG. Further, the control unit included in the display control device executes the operation mode shown in FIG. 5B according to the flowcharts shown in FIGS. The support member 220 includes an input / output device for a built-in display control device, a switch unit 230 for inputting the instruction information of the observer, and a speaker (headphone type: not shown) for providing audio information to the observer. ) Are provided.

さらに、図10(b)には、本発明に係るHMDの第3実施形態として、眼鏡350に装着可能な単眼ゴーグル型のHMDが示されている。この第3実施形態に係るHMD300も、上述の第2実施形態と同様に、実質的に第1実施形態に係るHMD100と概観において相違するが、その基本構造および動作については第1実施形態と同じである。具体的に、HMD300は、可視光を透過可能な材料からなる導光部材310と、この導光部材310を観察者頭部に保持するための支持部材320を備えた光透過型HMDである。導光部材310は、実質的に図2および図3に示された導光部材110と同様の構造を有する。支持部材320には、表示素子を含む表示制御装置が内臓されており、この表示制御装置は実質的に図5(a)に示された構造を有する。また、表示制御装置に含まれる制御部は、図5(b)に示された動作モードを、図8および図9に示されたフローチャートに従って実行する。支持部材320には、内蔵された表示制御装置の入出力デバイスとして、観察者の指示情報を入力するためのスイッチユニット230、音声情報を観察者に提供するためのイヤホン340がそれぞれ設けられている。   Further, FIG. 10B shows a monocular goggle type HMD that can be attached to the glasses 350 as a third embodiment of the HMD according to the present invention. The HMD 300 according to the third embodiment is substantially different from the HMD 100 according to the first embodiment in the same manner as the second embodiment described above, but the basic structure and operation thereof are the same as those of the first embodiment. It is. Specifically, the HMD 300 is a light transmissive HMD including a light guide member 310 made of a material that can transmit visible light and a support member 320 for holding the light guide member 310 on the observer's head. The light guide member 310 has substantially the same structure as the light guide member 110 shown in FIGS. 2 and 3. The support member 320 includes a display control device including a display element, and this display control device has a structure substantially shown in FIG. Further, the control unit included in the display control device executes the operation mode shown in FIG. 5B according to the flowcharts shown in FIGS. The support member 320 is provided with a switch unit 230 for inputting observer instruction information and an earphone 340 for providing audio information to the observer as input / output devices of the built-in display control device. .

上述のように構成された本願発明に係るHMDの各実施形態は、従来からモニタを利用してきた分野、例えば双方向データ通信技術を利用したテレビ会議システムなどへ適用され得る(特許文献2参照)。この場合、当該HMD100(第2および第3実施形態に係るHMD200、300でもよい)は、所定の伝送手段(有線、無線を問わない)600を介して双方向データ通信を可能にするコミュニケーションシステムに適用可能な情報端末装置の一部を構成する。   Each embodiment of the HMD according to the present invention configured as described above can be applied to a field where a monitor has been conventionally used, for example, a video conference system using a bidirectional data communication technology (see Patent Document 2). . In this case, the HMD 100 (which may be the HMDs 200 and 300 according to the second and third embodiments) is a communication system that enables bidirectional data communication via predetermined transmission means (whether wired or wireless) 600. Part of applicable information terminal device.

すなわち、本実施形態に係る情報端末装置は、図11に示されたように、当該HMD100と、このHMD100を装着した観察者10を撮影するための撮像装置530と、伝送手段600との間で、撮像装置530に取り込まれた映像情報を含むデータの送受信を可能にするための入出力部510、520を備える。   That is, the information terminal device according to the present embodiment, as shown in FIG. 11, is between the HMD 100, the imaging device 530 for photographing the observer 10 wearing the HMD 100, and the transmission unit 600. , Input / output units 510 and 520 for enabling transmission and reception of data including video information captured by the imaging device 530 are provided.

特に、図11に示された情報端末装置の構成では、観察者10は、テーブル40を前にしてイス30上に座っている。テーブル40上には、コミュニケーション装置500が設置されており、このコミュニケーション装置500は、観察者10を撮像する撮像装置530と、観察者10の音声を取り込むためのマイク540、HMD100に対して表示されるべき映像データを送信するためのI/O510、伝送手段600を介して他の情報端末装置との間で音声、映像等の種々のマルチメディアデータの双方通信を可能にするI/O520、そして、これら種々の構成機器を一元的に管理するための制御部550を備える。   In particular, in the configuration of the information terminal device shown in FIG. 11, the observer 10 is sitting on the chair 30 with the table 40 in front. A communication device 500 is installed on the table 40, and this communication device 500 is displayed on the imaging device 530 that images the observer 10, the microphone 540 that captures the voice of the observer 10, and the HMD 100. I / O 510 for transmitting video data to be transmitted, I / O 520 enabling two-way communication of various multimedia data such as audio and video with other information terminal devices via transmission means 600, and A control unit 550 for centrally managing these various components is provided.

以上の本発明の説明から、本発明を様々に変形しうることは明らかである。そのような変形は、本発明の思想および範囲から逸脱するものとは認めることはできず、すべての当業者にとって自明である改良は、以下の請求の範囲に含まれるものである。   From the above description of the present invention, it is apparent that the present invention can be modified in various ways. Such modifications cannot be construed as departing from the spirit and scope of the invention, and modifications obvious to one skilled in the art are intended to be included within the scope of the following claims.

本発明に係るHMDは、単にモニタ設置が困難な環境での使用のみならず、医療現場、テレビ会議など、従来から円滑な作業遂行のためにモニタを利用してきた種々の分野への適用を可能にする。   The HMD according to the present invention can be used not only in an environment where it is difficult to install a monitor but also in various fields where a monitor has been conventionally used for smooth work execution such as a medical site and a video conference. To.

100、200、300…ヘッドマウントディスプレイ、110・・・導光部材、110a・・・映像投影面、111・・・表示光の出射可能エリア、112・・・表示光の出射エリア、120、120a、120b・・・表示制御装置、121、121a、121b・・・表示素子、123・・・制御部、126・・・姿勢監視センサ、126a・・・x−y加速度センサ、126b・・・x−z加速度センサ、I・・・虚像(虚像形成面)。   DESCRIPTION OF SYMBOLS 100, 200, 300 ... Head mounted display, 110 ... Light guide member, 110a ... Image projection surface, 111 ... Display light emission area, 112 ... Display light emission area, 120, 120a , 120b ... display control device, 121, 121a, 121b ... display element, 123 ... control unit, 126 ... attitude monitoring sensor, 126a ... xy acceleration sensor, 126b ... x -Z acceleration sensor, I ... virtual image (virtual image forming surface).

Claims (6)

観察者の頭部に装着された状態で該観察者に任意の拡大映像を提示可能にするためのヘッドマウントディスプレイにおいて、
映像源となる実像を表示するための表示素子と、
可視光を透過できる材料からなり、前記表示素子から出射された表示光を映像投影面を介して前記観察者の眼球に導くための導光部材と、
前記観察者の頭部に連動して変化する前記導光部材の映像投影面の姿勢変動を検出するための姿勢監視センサと、
前記姿勢監視センサからの検出情報に基づいて前記表示素子に対して表示制御を行う制御部であって、前記導光部材の映像投影面の姿勢変動に連動することなく当該ヘッドマウントディスプレイが設置された空間において前記拡大映像として認識される虚像形成面が固定されるよう、前記表示素子に対して表示制御を行う制御部と、を備えたヘッドマウントディスプレイ。
In a head mounted display for enabling an arbitrary enlarged image to be presented to the observer while being worn on the observer's head,
A display element for displaying a real image as a video source;
A light guide member made of a material that can transmit visible light, and guides display light emitted from the display element to the eyeball of the observer through a video projection surface;
A posture monitoring sensor for detecting a posture variation of the image projection surface of the light guide member that changes in conjunction with the head of the observer;
A control unit that performs display control on the display element based on detection information from the posture monitoring sensor, wherein the head mounted display is installed without being interlocked with a posture variation of a video projection surface of the light guide member. And a control unit that performs display control on the display element so that a virtual image forming surface recognized as the enlarged image is fixed in the space.
前記姿勢監視センサは、一またはそれ以上の加速度センサを含むことを特徴とする請求項1記載のヘッドマウントディスプレイ。 The head mounted display according to claim 1, wherein the posture monitoring sensor includes one or more acceleration sensors. 前記表示素子は、液晶ディスプレイ、プラズマディスプレイ、LEDアレイおよびホログラフィック素子のいずれかを含むことを特徴とする請求項1又は2記載のヘッドマウントディスプレイ。 The head mounted display according to claim 1 or 2, wherein the display element includes any one of a liquid crystal display, a plasma display, an LED array, and a holographic element. 前記制御部は、前記映像投影面の姿勢が予め設定された値を超える加速度で変動したことを前記姿勢監視センサが検出したとき、前記表示素子の映像表示動作を停止させることを特徴とする請求項1〜3のいずれか一項記載のヘッドマウントディスプレイ。 The said control part stops the image | video display operation | movement of the said display element, when the said attitude | position monitoring sensor detects that the attitude | position of the said image projection surface was fluctuate | varied with the acceleration exceeding the preset value. Item 4. The head mounted display according to any one of Items 1 to 3. 前記制御部は、前記映像投影面に予め設定された表示光の出射可能エリア内において、前記映像投影面から前記観察者の眼球に向けて実際に出射される表示光の出射エリアが存在しなくなったとき、前記表示素子の映像表示動作を停止させることを特徴とする請求項1〜4のいずれか一項記載のヘッドマウントディスプレイ。 The control unit has no display light emission area that is actually emitted from the video projection surface toward the observer's eyeball in a display light emission area preset on the video projection surface. 5. The head mounted display according to claim 1, wherein an image display operation of the display element is stopped. 所定の伝送手段を介して双方向データ通信を可能にするコミュニケーションシステムに適用可能な情報端末装置であって、
請求項1〜5のいずれか一項記載のヘッドマウントディスプレイと、
前記ヘッドマウントディスプレイを装着した観察者を撮影するための撮像装置と、
前記伝送手段との間で、前記撮像装置に取り込まれた映像情報を含むデータの送受信を可能にするための入出力部と、を備えた情報端末装置。
An information terminal device applicable to a communication system that enables bidirectional data communication through a predetermined transmission means,
A head-mounted display according to any one of claims 1 to 5;
An imaging device for photographing the observer wearing the head-mounted display;
An information terminal device comprising: an input / output unit for enabling transmission and reception of data including video information captured by the imaging device to and from the transmission unit.
JP2009209664A 2009-09-10 2009-09-10 Head mounted display Withdrawn JP2011059435A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009209664A JP2011059435A (en) 2009-09-10 2009-09-10 Head mounted display

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009209664A JP2011059435A (en) 2009-09-10 2009-09-10 Head mounted display

Publications (1)

Publication Number Publication Date
JP2011059435A true JP2011059435A (en) 2011-03-24

Family

ID=43947129

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009209664A Withdrawn JP2011059435A (en) 2009-09-10 2009-09-10 Head mounted display

Country Status (1)

Country Link
JP (1) JP2011059435A (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012132289A1 (en) * 2011-03-25 2012-10-04 パナソニック株式会社 Dispay device
WO2015037219A1 (en) 2013-09-13 2015-03-19 Seiko Epson Corporation Head mounted display device and control method for head mounted display device
WO2017051564A1 (en) * 2015-09-25 2017-03-30 株式会社ソニー・インタラクティブエンタテインメント Information processing device
US10732918B2 (en) 2017-12-22 2020-08-04 Seiko Epson Corporation Display system, method of controlling display system, and display device
US10971113B2 (en) 2017-12-22 2021-04-06 Seiko Epson Corporation Display system, electronic device, and display method

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012132289A1 (en) * 2011-03-25 2012-10-04 パナソニック株式会社 Dispay device
US9906781B2 (en) 2013-09-13 2018-02-27 Seiko Epson Corporation Head mounted display device and control method for head mounted display device
WO2015037219A1 (en) 2013-09-13 2015-03-19 Seiko Epson Corporation Head mounted display device and control method for head mounted display device
JP2019113849A (en) * 2015-09-25 2019-07-11 株式会社ソニー・インタラクティブエンタテインメント Information processing apparatus
JPWO2017051564A1 (en) * 2015-09-25 2018-03-08 株式会社ソニー・インタラクティブエンタテインメント Information processing device
KR20180040634A (en) * 2015-09-25 2018-04-20 주식회사 소니 인터랙티브 엔터테인먼트 Information processing device
WO2017051564A1 (en) * 2015-09-25 2017-03-30 株式会社ソニー・インタラクティブエンタテインメント Information processing device
US10594936B2 (en) 2015-09-25 2020-03-17 Sony Interactive Entertainment Inc. Head mounted display having a plurality of display modes
KR102117376B1 (en) * 2015-09-25 2020-06-01 주식회사 소니 인터랙티브 엔터테인먼트 Information processing device
US11202008B2 (en) 2015-09-25 2021-12-14 Sony Interactive Entertainment Inc. Head mounted display having a plurality of display modes
US11601592B2 (en) 2015-09-25 2023-03-07 Sonmy Interactive Entertainment Inc. Head mounted display having a plurality of display modes
US12075157B2 (en) 2015-09-25 2024-08-27 Sony Interactive Entertainment Inc. Image display apparatus having a plurality of display modes
US10732918B2 (en) 2017-12-22 2020-08-04 Seiko Epson Corporation Display system, method of controlling display system, and display device
US10971113B2 (en) 2017-12-22 2021-04-06 Seiko Epson Corporation Display system, electronic device, and display method
US11380287B2 (en) 2017-12-22 2022-07-05 Seiko Epson Corporation Display system, electronic device, and display method

Similar Documents

Publication Publication Date Title
JP7280922B2 (en) Current drain reduction in AR/VR display systems
US8810600B2 (en) Wearable display device calibration
CN107735716B (en) Diffractive optical element with asymmetric profile
US10038840B2 (en) Diffractive optical element using crossed grating for pupil expansion
US11181747B1 (en) Wearable pupil-forming display apparatus
US10429645B2 (en) Diffractive optical element with integrated in-coupling, exit pupil expansion, and out-coupling
CN102566049B (en) Automatic variable virtual focus for augmented reality displays
JP6225546B2 (en) Display device, head-mounted display device, display system, and display device control method
JP6337418B2 (en) Head-mounted display device and method for controlling head-mounted display device
US11378802B2 (en) Smart eyeglasses
US20130314793A1 (en) Waveguide optics focus elements
WO2013166362A2 (en) Collaboration environment using see through displays
US20120075167A1 (en) Head-mounted display with wireless controller
US20130009862A1 (en) Display apparatus
WO2016098412A1 (en) Head-worn display device, and image display system
JP2014219621A (en) Display device and display control program
US10901225B1 (en) Systems and methods for positioning a head-mounted display
US20140361987A1 (en) Eye controls
US11695913B1 (en) Mixed reality system
JP2011059435A (en) Head mounted display
KR20180037909A (en) Smart glasses
JP6287399B2 (en) Head-mounted display device and method for controlling head-mounted display device
WO2023102500A1 (en) Methods for controlling performance of extended reality display systems
CN118632653A (en) Method for controlling performance of an augmented reality display system
JP2000056258A (en) Display device using reflection optical system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120524

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130225

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20130227