JP6095196B2 - Head mounted display, control method therefor, and recording medium storing computer program for controlling head mounted display - Google Patents

Head mounted display, control method therefor, and recording medium storing computer program for controlling head mounted display Download PDF

Info

Publication number
JP6095196B2
JP6095196B2 JP2015543631A JP2015543631A JP6095196B2 JP 6095196 B2 JP6095196 B2 JP 6095196B2 JP 2015543631 A JP2015543631 A JP 2015543631A JP 2015543631 A JP2015543631 A JP 2015543631A JP 6095196 B2 JP6095196 B2 JP 6095196B2
Authority
JP
Japan
Prior art keywords
user
height
layer
information
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015543631A
Other languages
Japanese (ja)
Other versions
JPWO2015059773A1 (en
Inventor
友美 桑原
友美 桑原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Mapmaster Inc
Original Assignee
Toyota Mapmaster Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Mapmaster Inc filed Critical Toyota Mapmaster Inc
Publication of JPWO2015059773A1 publication Critical patent/JPWO2015059773A1/en
Application granted granted Critical
Publication of JP6095196B2 publication Critical patent/JP6095196B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、ユーザの頭部に配置され、該ユーザの視界において実像に重畳してオブジェクトに関する情報を表示するヘッドマウントディスプレイ及びその方法に関する。   The present invention relates to a head-mounted display that is disposed on a user's head and displays information about an object superimposed on a real image in the user's field of view and a method thereof.

近年、ユーザの視界を通した現実の映像に、コンピュータで作成された付加情報(以下、アノテーションともいう)を重畳して表示させる技術として、拡張現実技術(Augmented Reality:AR技術)が注目を集めている。
このような技術として、頓智ドット株式会社の「セカイカメラ(登録商標)」では、スマートフォンでユーザの目前に広がる現実の映像を撮像し、ディスプレイに表示された現実の映像に、コンピュータ上の情報をアノテーションとして重畳表示させることができる。このとき、現実の映像へアノテーションを重畳表示させるために、例えば、スマートフォンに備えられるGPSや加速度センサによる位置情報が利用される。
本発明に関連する従来技術を開示する特許文献1〜4も参照されたい。
In recent years, augmented reality technology (AR technology) has attracted attention as a technology for superimposing and displaying additional information (hereinafter also referred to as annotation) created by a computer on a real image through a user's field of view. ing.
As such a technology, Tochichi Dot Co., Ltd.'s “Sekai Camera (registered trademark)” captures a real image spreading in front of the user with a smartphone and adds information on the computer to the real image displayed on the display. It can be displayed superimposed as an annotation. At this time, in order to superimpose and display the annotation on the actual video, for example, position information by a GPS or an acceleration sensor provided in the smartphone is used.
See also Patent Documents 1 to 4 disclosing conventional techniques related to the present invention.

特表2011−521511号公報Special table 2011-521511 gazette 特開2011−209622号公報JP 2011-209622 A 特開2012−080236号公報JP 2012-080236 A 特開2012−118882号公報JP 2012-118882 A

上記AR技術の普及に伴い、オブジェクトに関連付けられるアノテーションの数は急増してきている。このため、現実の映像に映るオブジェクトに関連するアノテーションを特定し、該オブジェクトが表示される位置にアノテーションを重畳表示させるためには、CPU等へのかなりの処理負荷が懸念される。しかしながら、これを解決するために、表示するアノテーションの数を無作為に間引くと、ユーザの利便性が低下するおそれがある。
このような状況に鑑み、本発明者は、AR技術を利用したアノテーション表示に際し、ユーザの利便を考慮しつつ、その処理負荷を低減すべく鋭意検討を重ねてきた。その結果、アノテーションに関する情報をレイヤ毎に分けて用意し、ユーザの状態に応じて対応するレイヤを選択し、該選択されたレイヤに基づいて、アノテーションを表示するよう制御することにより、上記課題を解決できることに想到した。
With the spread of the AR technology, the number of annotations associated with objects has increased rapidly. For this reason, there is a concern about a considerable processing load on the CPU or the like in order to specify an annotation related to an object appearing in an actual video and to display the annotation superimposed on a position where the object is displayed. However, in order to solve this problem, if the number of annotations to be displayed is thinned out randomly, the convenience for the user may be reduced.
In view of such a situation, the present inventor has intensively studied to reduce the processing load in consideration of the user's convenience when displaying the annotation using the AR technology. As a result, information related to the annotation is prepared for each layer, the corresponding layer is selected according to the user's state, and the annotation is displayed based on the selected layer. I came up with a solution.

この発明は上述の課題に鑑みてなされたものであり、その第1の局面は次のように規定される。即ち、
ユーザの視界において実像に重畳してオブジェクトに関する情報を表示するヘッドマウントディスプレイであって、
前記ユーザが第1の状態のときに、該ヘッドマウントディスプレイの表示画面に表示すべきオブジェクトに関する第1の情報を保存する第1のレイヤと、該ユーザが第2の状態のときに、該表示画面に表示すべきオブジェクトに関する第2の情報を保存する第2のレイヤとを保存する地図データベースと、
前記ユーザの状態を特定するユーザ状態特定部と、
前記特定された状態に基づいて、前記第1のレイヤあるいは前記第2のレイヤのいずれかのレイヤを選択するレイヤ選択部と、
前記選択されたレイヤに基づいて、前記表示画面への表示を制御する表示制御部と、
を備える、ヘッドマウントディスプレイ。
The present invention has been made in view of the above-mentioned problems, and the first aspect is defined as follows. That is,
A head mounted display that displays information about an object superimposed on a real image in a user's field of view,
A first layer for storing first information relating to an object to be displayed on the display screen of the head mounted display when the user is in the first state; and the display when the user is in the second state. A map database for storing a second layer for storing second information relating to objects to be displayed on the screen;
A user state specifying unit for specifying the state of the user;
A layer selection unit that selects either the first layer or the second layer based on the identified state;
A display control unit that controls display on the display screen based on the selected layer;
A head-mounted display.

このように規定される第1の局面のヘッドマウントディスプレイ(以下、HMDともいう)によれば、HMDの表示画面に表示するためのオブジェクトに関する情報を、ユーザの状態に応じてレイヤ別に保存する地図データベースを備える。そして、該地図データベースから、特定されたユーザの状態に対応するレイヤを選択し、該選択されたレイヤに基づいて上記オブジェクトにアノテーションを重畳表示させる。このようなHMDによれば、アノテーションを表示するに際し、特定されたユーザの状態に応じて対応するレイヤを参照して該当するアノテーションを読み出せば良い。このため、アノテーション表示にかかる処理の負荷を低減することができる。また、特定されたユーザの状態に基づいて上記レイヤを選択するため、ユーザの利便性も損なうことがない。   According to the head-mounted display (hereinafter also referred to as HMD) of the first aspect defined as described above, a map that stores information on objects to be displayed on the display screen of the HMD for each layer according to the state of the user. Provide a database. Then, a layer corresponding to the identified user state is selected from the map database, and annotations are superimposed on the object based on the selected layer. According to such an HMD, when displaying an annotation, it is only necessary to read out the corresponding annotation by referring to the corresponding layer according to the identified user state. For this reason, it is possible to reduce the processing load on the annotation display. Moreover, since the said layer is selected based on the specified user's state, a user's convenience is not impaired.

上記オブジェクトとは、ユーザに対して案内を行うための対象物をいい、例えば、施設や建造物、景勝地等が挙げられる。
上記アノテーションとは、上記オブジェクトに対する注釈であって、コンピュータで作成される付加情報である。このようなアノテーションは、テキスト、アイコン、アニメーション等種々の態様で上記オブジェクトに重畳表示される。当該アノテーションとして、例えば、オブジェクトの名称、広告、特徴、ユーザ投稿等を挙げることができる。
上記ユーザの状態としては、ユーザ位置の高さ、ユーザ位置の高さの変化、ユーザの移動速度、ユーザの視線の仰俯角が挙げられる。また、他の例としては、性別や年齢等の属性情報、移動目的等としても良い。
The object refers to an object for providing guidance to the user, and examples thereof include facilities, buildings, and scenic spots.
The annotation is an annotation for the object, and is additional information created by a computer. Such annotations are superimposed and displayed on the object in various forms such as text, icons, and animation. Examples of the annotation include an object name, an advertisement, a feature, and a user post.
Examples of the user state include the height of the user position, the change in the height of the user position, the moving speed of the user, and the elevation angle of the user's line of sight. In addition, as other examples, attribute information such as sex and age, moving purpose, and the like may be used.

ユーザが地表に位置する場合に比べて、高所に位置する場合の視界範囲は広範である。例えば、タワー等の高所からは、山や川などの景勝地も一望できるが、同時に地表に位置する店舗も視界に入る。この場合に、山や川に対してアノテーションを表示するのと同様に、当該視界に入った店舗についてまでアノテーションを表示すると、ユーザに煩わしさを与えることとなる。
そこで、この発明の第2の局面は次のように規定される。即ち、
第1の局面に規定のヘッドマウントディスプレイにおいて、前記第1のレイヤは第1の高さに適した第1の情報を保存し、前記第2のレイヤは第2の高さに適した第2の情報を保存し、
前記ユーザ状態特定部は、前記ユーザの高さを特定し、
前記レイヤ選択部は、前記特定された高さに対応するレイヤを選択する。
Compared with the case where the user is located on the ground surface, the visual field range when the user is located at a high place is wide. For example, from a high place such as a tower, you can overlook scenic spots such as mountains and rivers, but at the same time, stores located on the ground surface are also in sight. In this case, as in the case of displaying annotations for mountains and rivers, displaying the annotations up to the store that has entered the field of view will bother the user.
Therefore, the second aspect of the present invention is defined as follows. That is,
In the head mounted display defined in the first aspect, the first layer stores first information suitable for a first height, and the second layer is a second suitable for a second height. Save information for
The user state specifying unit specifies the height of the user,
The layer selection unit selects a layer corresponding to the specified height.

このHMDでは、ユーザの高さに応じて、表示に適したアノテーションを表示することができる。ユーザの高さによっては、ユーザが当該位置に存在する目的が異なる場合がある。したがって、当該高さに適したアノテーションの種類、アノテーションの数を考慮すれば、よりユーザの便宜となる。例えば、ユーザ高さが低い場合には通勤や買物、ユーザ高さが高い場合には観光等であると推認できる。この目的の違いをレイヤに反映させるべく、当該HMDにおいては、例えば、第1のレイヤとしての低層レイヤには、施設や建造物の名称、周辺スーパーの広告やカフェのクーポン、洋服屋のセール情報等に関する情報を保存し、第2のレイヤとしての高層レイヤには、観光名所の名称や、山や川等景勝地の名称等に関する情報を保存する。このように高さに応じたレイヤを備えれば、アノテーションを表示する際、ユーザの高さを参照して対応するレイヤを選択し、該レイヤに保存された情報に基づいてアノテーションを表示することが可能となる。ユーザ高さに応じたレイヤを参照してアノテーションを表示するため、表示されるアノテーションの数が制限されて処理負荷が低減されるとともに、ユーザの所望するアノテーションを表示することができ便宜である。   In this HMD, an annotation suitable for display can be displayed according to the height of the user. Depending on the height of the user, the purpose of the user at the position may be different. Therefore, it is more convenient for the user if the type of annotation and the number of annotations suitable for the height are taken into consideration. For example, it can be inferred that when the user height is low, commuting or shopping, and when the user height is high, it is sightseeing or the like. In order to reflect this difference in purpose in the layer, in the HMD, for example, in the lower layer as the first layer, the name of the facility or building, the advertisement of the surrounding supermarket, the coupon of the cafe, the sale information of the clothes shop, etc. The information regarding the name of a tourist attraction, the name of a scenic spot such as a mountain or a river, and the like are stored in the high layer as the second layer. By providing a layer according to the height in this way, when displaying the annotation, the corresponding layer is selected with reference to the height of the user, and the annotation is displayed based on the information stored in the layer. Is possible. Since the annotation is displayed with reference to the layer corresponding to the user height, the number of displayed annotations is limited, the processing load is reduced, and the annotation desired by the user can be displayed for convenience.

上記ユーザの高さが同じであっても、その高さの変化によっては、ユーザが表示を欲するアノテーションも異なる。すなわち、高層ビルのエレベータ等で上昇しながら外景を見ている場合と、下降しながら外景を見ている場合には、同じ高さであっても、ユーザの関心の対象となるオブジェクトは異なる。例えば、ユーザが上昇している場合にはより遠くの、あるいはより高いオブジェクトに関心が移る一方、下降している場合にはより近く、より周辺のオブジェクトに関心が移る。
そこで、この発明の第3の局面は次のように規定される。即ち、
第2の局面に規定のヘッドマウントディスプレイにおいて、前記ユーザ状態特定部は、前記ユーザの高さの変化を特定し、
前記レイヤ選択部は、前記特定された高さの変化に応じたレイヤを選択する。
Even if the height of the user is the same, the annotation that the user wants to display varies depending on the change in the height. In other words, when looking at the outside scene while ascending with an elevator or the like of a high-rise building, and when looking at the outside scene while descending, the objects of interest of the user are different even at the same height. For example, when the user is rising, the interest shifts to a farther or higher object, while when falling, the focus shifts to a closer and more peripheral object.
Therefore, the third aspect of the present invention is defined as follows. That is,
In the head mounted display defined in the second aspect, the user state specifying unit specifies a change in the height of the user,
The layer selection unit selects a layer corresponding to the specified change in height.

ここで、前記レイヤ選択部は、前記ユーザ状態特定部が前記ユーザの高さが上方へ変化していることを特定したとき、前記ユーザの現在高さに対応するレイヤより高い高さに対応するレイヤを選択し、前記ユーザの高さが下方へ変化していることを特定したとき、前記ユーザの現在高さに対応するレイヤより低い高さに対応するレイヤを選択することとできる(第4の局面)。
このHMDでは、ユーザの高さに加えて、その高さの変化に応じたユーザの上記オブジェクトへの関心の移行を考慮して、当該関心の移行に基づき先取り的に適当なアノテーションを表示することができる。
Here, the layer selection unit corresponds to a height higher than the layer corresponding to the current height of the user when the user state specifying unit specifies that the height of the user is changing upward. When a layer is selected and it is specified that the height of the user is changing downward, a layer corresponding to a height lower than the layer corresponding to the current height of the user can be selected (fourth). Aspect).
In this HMD, in addition to the height of the user, considering the shift of interest of the user to the object according to the change in the height, an appropriate annotation is displayed in advance based on the shift of interest. Can do.

この発明の第5の局面は次のように規定される。即ち、
第1の局面に規定のヘッドマウントディスプレイにおいて、前記第1のレイヤは第1の移動速度に適した第1の情報を保存し、前記第2のレイヤは第2の移動速度に適した第2の情報を保存し、
前記ユーザ状態特定部は、前記ユーザの移動速度を特定し、
前記レイヤ選択部は、前記特定された移動速度に対応するレイヤを選択する。
The fifth aspect of the present invention is defined as follows. That is,
In the head mounted display defined in the first aspect, the first layer stores first information suitable for a first moving speed, and the second layer is a second suitable for a second moving speed. Save information for
The user state specifying unit specifies the moving speed of the user,
The layer selection unit selects a layer corresponding to the specified moving speed.

このHMDでは、ユーザの移動速度に応じて、表示に適したアノテーションを表示することができる。上記ユーザの高さと同様、ユーザの移動速度によっても、ユーザの移動目的が異なる場合がある。したがって、当該移動速度に適したアノテーションの種類、アノテーションの数を考慮すれば、よりユーザの便宜となる。例えば、一定範囲内のアノテーションの数が同じであれば、移動速度が速いほどより多くのアノテーションが表示されることとなり、ユーザにとって煩わしい場合がある。また、移動速度の違いは、ユーザの移動目的の指標となる。例えば、移動速度が遅い場合には通勤や買物、移動速度が速い場合には観光等その目的を推認することができる。この移動目的の違いにより、例えば、表示するアノテーションの種類を選別することができる。移動目的が観光であるのに、周辺スーパーの広告を表示するのは、ユーザにとって煩雑だからである。   In this HMD, an annotation suitable for display can be displayed according to the moving speed of the user. Similar to the height of the user, the user's purpose of movement may differ depending on the user's moving speed. Therefore, it is more convenient for the user if the type of annotation and the number of annotations suitable for the moving speed are taken into consideration. For example, if the number of annotations within a certain range is the same, more annotations are displayed as the moving speed increases, which may be troublesome for the user. Further, the difference in moving speed is an indicator of the user's moving purpose. For example, the purpose of commuting or shopping can be inferred when the moving speed is slow, and the purpose of sightseeing can be inferred when the moving speed is fast. For example, the type of annotation to be displayed can be selected based on the difference in the purpose of movement. It is because it is cumbersome for the user to display the advertisement of the peripheral supermarket for the purpose of travel.

ユーザの位置が同じであっても、該ユーザの視線の仰俯角によっては、ユーザが表示を欲するアノテーションも異なる。すなわち、ユーザの視線が仰角である場合には、より遠くの、あるいはより高いオブジェクトが関心の対象となる一方、視線が俯角である場合には、より近く、より周辺のオブジェクトが関心の対象となる。
この発明の第6の局面は次のように規定される。即ち、
第2〜第5のいずれかの局面に規定のヘッドマウントディスプレイにおいて、前記ユーザ状態特定部は、前記ユーザの視線の仰俯角を特定し、
前記レイヤ選択部は、前記特定された仰俯角に基づいて前記レイヤを選択する。
このHMDでは、ユーザの視線の仰俯角を考慮して、該ユーザの関心の対象となるオブジェクトのアノテーションを表示することが可能となる。
Even if the user's position is the same, the annotation that the user wants to display differs depending on the elevation angle of the user's line of sight. That is, when the user's line of sight is an elevation angle, a farther or higher object is of interest, while when the line of sight is a depression angle, closer and more peripheral objects are of interest. Become.
The sixth aspect of the present invention is defined as follows. That is,
In the head mounted display specified in any one of the second to fifth aspects, the user state specifying unit specifies an elevation angle of the user's line of sight,
The layer selection unit selects the layer based on the specified elevation angle.
In this HMD, it is possible to display an annotation of an object of interest of the user in consideration of the elevation angle of the user's line of sight.

また、この発明の第7の局面は次のように規定される。即ち、
ユーザの視界において実像に重畳してオブジェクトに関する情報を表示するヘッドマウントディスプレイの制御方法であって、
前記ユーザが第1の状態のときに、該ヘッドマウントディスプレイの表示画面に表示すべきオブジェクトに関する第1の情報を保存する第1のレイヤと、該ユーザが第2の状態のときに、該表示画面に表示すべきオブジェクトに関する第2の情報を保存する第2のレイヤとを地図データベースに保存する保存ステップと、
ユーザの状態特定部が、前記ユーザの状態を特定するユーザ状態特定ステップと、
レイヤ選択部が、前記特定された状態に基づいて、前記第1のレイヤあるいは前記第2のレイヤのいずれかのレイヤを選択するレイヤ選択ステップと、
表示制御部が、前記選択されたレイヤに基づいて、前記表示画面への表示を制御する表示制御ステップと、
を備える、制御方法。
このように規定される第7の局面の発明によれば、第1の局面と同等の効果を奏する。
The seventh aspect of the present invention is defined as follows. That is,
A method for controlling a head mounted display that displays information about an object superimposed on a real image in a user's field of view,
A first layer for storing first information relating to an object to be displayed on the display screen of the head mounted display when the user is in the first state; and the display when the user is in the second state. A storage step of storing in a map database a second layer for storing second information relating to an object to be displayed on the screen;
A user state specifying step in which a user state specifying unit specifies the state of the user;
A layer selection step in which a layer selection unit selects either the first layer or the second layer based on the specified state;
A display control step for controlling display on the display screen based on the selected layer; and
A control method comprising:
According to the seventh aspect of the invention thus defined, the same effect as the first aspect can be obtained.

この発明の第8の局面は次のように規定される。即ち、
第7の局面に規定の制御方法において、前記第1のレイヤは第1の高さに適した第1の情報を保存し、前記第2のレイヤは第2の高さに適した第2の情報を保存し、
前記ユーザ状態特定ステップでは、前記ユーザの高さを特定し、
前記レイヤ選択ステップでは、前記特定された高さに対応するレイヤを選択する。
このように規定される第8の局面の発明によれば、第2の局面と同等の効果を奏する。
The eighth aspect of the present invention is defined as follows. That is,
In the control method defined in the seventh aspect, the first layer stores first information suitable for a first height, and the second layer includes a second information suitable for a second height. Save information,
In the user state specifying step, the height of the user is specified,
In the layer selection step, a layer corresponding to the specified height is selected.
According to the invention of the eighth aspect defined as described above, the same effect as that of the second aspect can be obtained.

この発明の第9の局面は次のように規定される。即ち、
第8の局面に規定の制御方法において、前記ユーザ状態特定ステップでは、前記ユーザの高さの変化を特定し、
前記レイヤ選択ステップでは、前記特定された高さの変化に応じたレイヤを選択する。
このように規定される第9の局面の発明によれば、第3の局面と同等の効果を奏する。
The ninth aspect of the present invention is defined as follows. That is,
In the control method defined in the eighth aspect, in the user state specifying step, a change in the height of the user is specified,
In the layer selection step, a layer corresponding to the specified change in height is selected.
According to the ninth aspect of the invention thus defined, the same effect as the third aspect can be obtained.

この発明の第10の局面は次のように規定される。即ち、
第9の局面に規定の制御方法において、前記レイヤ選択ステップでは、前記ユーザ状態特定ステップで前記ユーザの高さが上方へ変化していることを特定したとき、前記ユーザの現在高さに対応するレイヤより高い高さに対応するレイヤを選択し、前記ユーザの高さが下方へ変化していることを特定したとき、前記ユーザの現在高さに対応するレイヤより低い高さに対応するレイヤを選択する。
このように規定される第10の局面の発明によれば、第4の局面と同等の効果を奏する。
The tenth aspect of the present invention is defined as follows. That is,
In the control method defined in the ninth aspect, in the layer selection step, when the user state specifying step specifies that the height of the user is changing upward, it corresponds to the current height of the user. When a layer corresponding to a height higher than the layer is selected and it is specified that the height of the user is changing downward, a layer corresponding to a height lower than the layer corresponding to the current height of the user is selected. select.
According to the tenth aspect of the invention thus defined, the same effects as in the fourth aspect can be achieved.

この発明の第11の局面は次のように規定される。即ち、
第7の局面に規定の方法において、前記第1のレイヤは第1の移動速度に適した第1の情報を保存し、前記第2のレイヤは第2の移動速度に適した第2の情報を保存し、
前記ユーザ状態特定ステップでは、前記ユーザの移動速度を特定し、
前記レイヤ選択ステップでは、前記特定された移動速度に対応するレイヤを選択する。
このように規定される第11の局面の発明によれば、第5の局面と同等の効果を奏する。
The eleventh aspect of the present invention is defined as follows. That is,
In the method defined in the seventh aspect, the first layer stores first information suitable for a first moving speed, and the second layer stores second information suitable for a second moving speed. Save the
In the user state specifying step, the moving speed of the user is specified,
In the layer selection step, a layer corresponding to the specified moving speed is selected.
According to the eleventh aspect of the invention thus defined, the same effects as in the fifth aspect can be achieved.

この発明の第12の局面は次のように規定される。即ち、
第8〜第11のいずれかの局面に規定の方法において、前記ユーザ状態特定ステップでは、前記ユーザの視線の仰俯角を特定し、
前記レイヤ選択ステップでは、前記特定された仰俯角に基づいて前記レイヤを選択する。
このように規定される第12の局面の発明によれば、第6の局面と同等の効果を奏する。
The twelfth aspect of the present invention is defined as follows. That is,
In the method defined in any one of the eighth to eleventh aspects, in the user state specifying step, an elevation angle of the user's line of sight is specified,
In the layer selection step, the layer is selected based on the specified elevation angle.
According to the twelfth aspect of the invention thus defined, the same effects as in the sixth aspect are achieved.

更に、この発明の第13の局面は次のように規定される。即ち、
ユーザの視界において実像に重畳してオブジェクトに関する情報を表示するヘッドマウントディスプレイを制御するためのコンピュータプログラムであって、コンピュータを、
前記ユーザが第1の状態のときに、該ヘッドマウントディスプレイの表示画面に表示すべきオブジェクトに関する第1の情報を保存する第1のレイヤと、該ユーザが第2の状態のときに、該表示画面に表示すべきオブジェクトに関する第2の情報を保存する第2のレイヤとを地図データベースに保存する保存手段と、
前記ユーザの状態を特定するユーザ状態特定手段と、
前記特定された状態に基づいて、前記第1のレイヤあるいは前記第2のレイヤのいずれかのレイヤを選択するレイヤ選択手段と、
前記選択されたレイヤに基づいて、前記表示画面への表示を制御する表示制御手段、
として機能させる、コンピュータプログラム。
このように規定される第13の局面の発明によれば、第1の局面と同等の効果を奏する。
Furthermore, the thirteenth aspect of the present invention is defined as follows. That is,
A computer program for controlling a head mounted display that displays information about an object superimposed on a real image in a user's field of view,
A first layer for storing first information relating to an object to be displayed on the display screen of the head mounted display when the user is in the first state; and the display when the user is in the second state. Storage means for storing in a map database a second layer for storing second information relating to an object to be displayed on the screen;
User status specifying means for specifying the status of the user;
Layer selecting means for selecting either the first layer or the second layer based on the specified state;
Display control means for controlling display on the display screen based on the selected layer;
As a computer program.
According to the thirteenth aspect of the invention thus defined, the same effects as those of the first aspect can be achieved.

この発明の第14の局面は次のように規定される。即ち、
第13の局面に規定のコンピュータプログラムにおいて、前記第1のレイヤは第1の高さに適した第1の情報を保存し、前記第2のレイヤは第2の高さに適した第2の情報を保存し、
前記ユーザ状態特定手段は、前記ユーザの高さを特定し、
前記レイヤ選択手段は、前記特定された高さに対応するレイヤを選択する。
このように規定される第14の局面の発明によれば、第2の局面と同等の効果を奏する。
The fourteenth aspect of the present invention is defined as follows. That is,
In the computer program defined in the thirteenth aspect, the first layer stores first information suitable for a first height, and the second layer is a second suitable for a second height. Save information,
The user state specifying means specifies the height of the user,
The layer selection unit selects a layer corresponding to the specified height.
According to the fourteenth aspect of the invention thus defined, the same effects as those of the second aspect can be achieved.

この発明の第15の局面は次のように規定される。即ち、
第14の局面に規定のコンピュータプログラムにおいて、前記ユーザ状態特定手段は、前記ユーザの高さの変化を特定し、
前記レイヤ選択手段は、前記特定された高さの変化に応じたレイヤを選択する。
このように規定される第15の局面の発明によれば、第3の局面と同等の効果を奏する。
The fifteenth aspect of the present invention is defined as follows. That is,
In the computer program defined in the fourteenth aspect, the user state specifying unit specifies a change in the height of the user,
The layer selecting unit selects a layer according to the specified change in height.
According to the fifteenth aspect of the invention thus defined, the same effects as those of the third aspect are achieved.

この発明の第16の局面は次のように規定される。即ち、
第15の局面に規定のコンピュータプログラムにおいて、前記レイヤ選択手段は、前記ユーザ状態特定手段が前記ユーザの高さが上方へ変化していることを特定したとき、前記ユーザの現在高さに対応するレイヤより高い高さに対応するレイヤを選択し、前記ユーザの高さが下方へ変化していることを特定したとき、前記ユーザの現在高さに対応するレイヤより低い高さに対応するレイヤを選択する。
このように規定される第16の局面の発明によれば、第4の局面と同等の効果を奏する。
The sixteenth aspect of the present invention is defined as follows. That is,
In the computer program defined in the fifteenth aspect, the layer selecting means corresponds to the current height of the user when the user state specifying means specifies that the height of the user is changing upward. When a layer corresponding to a height higher than the layer is selected and it is specified that the height of the user is changing downward, a layer corresponding to a height lower than the layer corresponding to the current height of the user is selected. select.
According to the sixteenth aspect of the invention thus defined, the same effects as in the fourth aspect can be achieved.

この発明の第17の局面は次のように規定される。即ち、
第13の局面に規定のコンピュータプログラムにおいて、前記第1のレイヤは第1の移動速度に適した第1の情報を保存し、前記第2のレイヤは第2の移動速度に適した第2の情報を保存し、
前記ユーザ状態特定手段は、前記ユーザの移動速度を特定し、
前記レイヤ選択手段は、前記特定された移動速度に対応するレイヤを選択する。
このように規定される第17の局面の発明によれば、第5の局面と同等の効果を奏する。
The seventeenth aspect of the present invention is defined as follows. That is,
In the computer program defined in the thirteenth aspect, the first layer stores first information suitable for a first moving speed, and the second layer is a second suitable for a second moving speed. Save information,
The user state specifying means specifies the moving speed of the user,
The layer selection unit selects a layer corresponding to the specified moving speed.
According to the seventeenth aspect of the invention thus defined, the same effects as those of the fifth aspect are achieved.

この発明の第18の局面は次のように規定される。即ち、
第14〜第17のいずれかの局面に規定のコンピュータプログラムにおいて、前記ユーザ状態特定手段は、前記ユーザの視線の仰俯角を特定し、
前記レイヤ選択手段は、前記特定された仰俯角に基づいて前記レイヤを選択する。
このように規定される第18の局面の発明によれば、第6の局面と同等の効果を奏する。
The eighteenth aspect of the present invention is defined as follows. That is,
In the computer program defined in any one of the fourteenth to seventeenth aspects, the user state specifying means specifies an elevation angle of the user's line of sight,
The layer selection means selects the layer based on the specified elevation angle.
According to the eighteenth aspect of the invention thus defined, the same effects as in the sixth aspect are achieved.

第13〜第18のいずれかの局面に規定されるコンピュータプログラムを記録する記録媒体が第19の局面として規定される。   A recording medium for recording a computer program defined in any of the thirteenth to eighteenth aspects is defined as a nineteenth aspect.

図1は、本発明の実施の形態のHMD1の構成を示すブロック図である。FIG. 1 is a block diagram showing the configuration of the HMD 1 according to the embodiment of the present invention. 図2は、地図データベース3に保存されるレイヤを説明するための模式図である。FIG. 2 is a schematic diagram for explaining layers stored in the map database 3. 図3は、本発明の実施の形態のHMD1の動作の一例を示すフローチャートである。FIG. 3 is a flowchart illustrating an example of the operation of the HMD 1 according to the embodiment of this invention. 図4は、本発明の他の実施の形態のHMD21の構成を示すブロック図である。FIG. 4 is a block diagram showing the configuration of the HMD 21 according to another embodiment of the present invention. 図5は、本発明の実施例のHMD41の構成を示すブロック図である。FIG. 5 is a block diagram showing the configuration of the HMD 41 according to the embodiment of the present invention. 図6は、本発明の他の実施の形態のHMD51の構成を示すブロック図である。FIG. 6 is a block diagram showing the configuration of the HMD 51 according to another embodiment of the present invention.

この発明の実施の形態のヘッドマウントディスプレイを説明する。
図1に、HMD1の概略構成を示す。
図1に示すように、このHMD1は、地図データベース3、ユーザ高さ特定部5、ユーザ位置特定部7、ユーザ方位特定部9、レイヤ選択部11及び表示制御部13を備えている。
A head mounted display according to an embodiment of the present invention will be described.
FIG. 1 shows a schematic configuration of the HMD 1.
As shown in FIG. 1, the HMD 1 includes a map database 3, a user height specifying unit 5, a user position specifying unit 7, a user orientation specifying unit 9, a layer selecting unit 11, and a display control unit 13.

地図データベース3には、ユーザが第1の高さのときに、該HMDの表示画面に表示すべきオブジェクトに関する第1の情報を保存する第1のレイヤ、該ユーザが第2の高さのときに、該表示画面に表示すべきオブジェクトに関する第2の情報を保存する第2のレイヤ、該ユーザが第3の高さのときに、該表示画面に表示すべきオブジェクトに関する第3の情報を保存する第3のレイヤが保存されている。この例において、当該レイヤは、全国一律に第1〜第3のレイヤが備えられるものとするが、これに限られず、地域毎、メッシュ毎に適宜各レイヤを備えることとしても良い。当該オブジェクトに関する情報が、該オブジェクトのアノテーションとして該オブジェクトに重畳表示される。また、当該保存されるレイヤの数は特に限定されない。   The map database 3 includes a first layer for storing first information about an object to be displayed on the display screen of the HMD when the user is at the first height, and when the user is at the second height. A second layer for storing second information relating to an object to be displayed on the display screen; and storing third information relating to an object to be displayed on the display screen when the user is at a third height. A third layer is stored. In this example, the layer is provided with the first to third layers uniformly throughout the country, but is not limited thereto, and may be appropriately provided with each layer for each region and each mesh. Information about the object is superimposed and displayed on the object as an annotation of the object. Further, the number of layers to be stored is not particularly limited.

図2は、当該第1〜第3のレイヤを模式的に示す図である。第1のレイヤは第1の高さに関連付けられた低層レイヤである。当該低層レイヤには、ユーザが低所に位置する際に表示を所望するオブジェクトに関する情報が位置情報に関連付けて保存されている(同図「×」参照)。当該オブジェクトに関する情報の例としては、スーパーの広告やカフェのクーポン、観光名所等が挙げられる。第2のレイヤは第2の高さに関連付けられた中層レイヤである。当該中層レイヤには、ユーザがある程度高所に位置する際に表示を所望するオブジェクトに関する情報が位置情報に関連付けて保存されている(同図「△」参照)。当該オブジェクトに関する情報の例としては、観光名所や景勝地等の名称や当該名所や景勝地に関する説明コメント等が挙げられる。例えば、オブジェクトが山「富士山」である場合、当該名称と併せて、標高や世界文化遺産である旨の情報が保存されていても良い。当該観光名所や景勝地の知名度に応じて、より知名度の高いオブジェクトに関する情報を第3のレイヤとしての高層レイヤに保存することとできる(同図「●」参照)。オブジェクトのレイヤ分けは、一つ一つのオブジェクトについて手動でレイヤ分けすることもできるし、当該オブジェクトのジャンルに基づいて自動的にレイヤ分けすることもできる。この例において、第1の高さは「10m」、第2の高さは「50m」、第3の高さは「300m」とすることとできる。当該高さは「100〜300m」等幅を有していても良い。   FIG. 2 is a diagram schematically showing the first to third layers. The first layer is a lower layer associated with the first height. In the lower layer, information related to an object that is desired to be displayed when the user is located in a low place is stored in association with the position information (see “X” in the figure). Examples of information related to the object include supermarket advertisements, cafe coupons, tourist attractions, and the like. The second layer is a middle layer associated with the second height. In the middle layer, information related to an object desired to be displayed when the user is located at a certain height is stored in association with the position information (see “Δ” in the figure). Examples of information related to the object include names such as tourist attractions and scenic spots, and explanatory comments regarding the famous spots and scenic spots. For example, when the object is a mountain “Mt. Fuji”, information indicating that it is an altitude or a world cultural heritage may be stored together with the name. In accordance with the famousness of the tourist attraction or scenic spot, information on the object with higher visibility can be stored in the higher layer as the third layer (see “●” in the figure). Object layering can be done manually for each object, or automatically based on the genre of the object. In this example, the first height can be “10 m”, the second height can be “50 m”, and the third height can be “300 m”. The height may have an equal width of “100 to 300 m”.

ユーザ高さ特定部5は、HMD1の高さ情報を特定する。当該ユーザ高さ特定部5は、例えば、上記HMD1に備えられたGPS装置により得られる高さ情報に基づいて、ユーザ高さを特定することとできる。
ユーザ位置特定部7は、HMD1の位置情報を特定する。当該ユーザ位置特定部7は、例えば、上記ユーザ高さと同様、上記GPS装置により得られる位置情報に基づいて、ユーザ位置を特定することとできる。
ユーザ方位特定部9は、HMD1の方位情報を特定する。当該ユーザ方位は、HMD1を装着するユーザの視線が向いている方位の情報(方位情報)である。当該ユーザ方位特定部9は、例えば、上記HMD1が地磁気を検出する磁気センサを備えることにより、該検出される地磁気に基づいて、ユーザ方位を特定することとできる。
The user height specifying unit 5 specifies the height information of the HMD 1. The user height specifying unit 5 can specify the user height based on height information obtained by the GPS device provided in the HMD 1, for example.
The user position specifying unit 7 specifies position information of the HMD 1. For example, the user position specifying unit 7 can specify the user position based on the position information obtained by the GPS device, similarly to the user height.
The user orientation specifying unit 9 specifies orientation information of the HMD 1. The said user azimuth | direction is the information (azimuth | direction information) of the azimuth | direction where the eyes | visual_axis of the user who wears HMD1 has faced. The user orientation specifying unit 9 can specify a user orientation based on the detected geomagnetism, for example, when the HMD 1 includes a magnetic sensor that detects geomagnetism.

レイヤ選択部11は、上記ユーザ高さ特定部5で特定されたユーザ高さに基づいて、上記地図データベース3に保存されるレイヤのうちいずれかのレイヤを選択する。当該選択の方法としては、例えば、特定されたユーザ高さと同等、あるいは最も近いレイヤ高さに関連付けられたレイヤを選択することとできる。
表示制御部13は、上記ユーザ位置、ユーザ方位に基づき、HMD1を装着したユーザの視界に映るオブジェクトを特定し、該視界中のオブジェクトに対して整合する位置に、上記選択されたレイヤを参照して得られたオブジェクトに関する情報をアノテーションとして重畳表示する。
The layer selecting unit 11 selects one of the layers stored in the map database 3 based on the user height specified by the user height specifying unit 5. As the selection method, for example, it is possible to select a layer that is equivalent to or closest to the specified user height.
The display control unit 13 identifies an object appearing in the field of view of the user wearing the HMD 1 based on the user position and user orientation, and refers to the selected layer at a position that matches the object in the field of view. The information about the obtained object is superimposed and displayed as an annotation.

図3を用いて、図1に示すHMD1の動作の一例を説明する。
ステップ1では、ユーザ位置特定部7及びユーザ高さ特定部9は、HMD1を装着したユーザの現在位置及び高さを、該HMD1に備えられたGPS装置等に基づき特定する。
ステップ3では、ユーザ方位特定部9は、ステップ1のユーザの視線が向いている方位を、該HMD1に備えられた磁気センサ等に基づき特定する。
ステップ5では、レイヤ選択部11は、ステップ1で特定されたユーザの高さに基づいて、該高さに対応する高さに関連付けられたレイヤを選択する。例えば、ステップ1で特定されたユーザの高さが70mである場合、上記地図データベース3に保存されるレイヤのうち中層レイヤを選択する。上記中層レイヤに関連付けられた高さ「50m」が、ユーザの高さに最も近いからである。
An example of the operation of the HMD 1 shown in FIG. 1 will be described with reference to FIG.
In step 1, the user position specifying unit 7 and the user height specifying unit 9 specify the current position and height of the user wearing the HMD 1 based on a GPS device or the like provided in the HMD 1.
In step 3, the user orientation specifying unit 9 specifies the orientation in which the user's line of sight is directed in step 1 based on a magnetic sensor or the like provided in the HMD 1.
In step 5, the layer selection unit 11 selects a layer associated with the height corresponding to the height based on the height of the user specified in step 1. For example, when the height of the user specified in step 1 is 70 m, the middle layer is selected from the layers stored in the map database 3. This is because the height “50 m” associated with the middle layer is closest to the height of the user.

ステップ7では、表示制御部13は、ステップ1で特定されたユーザの現在位置及び高さ、ステップ3で特定されたユーザの視線が向いている方位に基づき、HMDユーザの視界に映るオブジェクトを特定する。例えば、当該オブジェクトとして富士山が特定されたものとする。
ステップ9では、表示制御部13は、ステップ5で選択されたレイヤから、ステップ7で特定されたオブジェクトに関する情報を読み出す。例えば、上記選択された中層レイヤから、オブジェクト「富士山」に関する情報を読み出す。
ステップ11では、表示制御部13は、ステップ9で読み出された情報を、ステップ7で特定されたオブジェクトのアノテーションとして、当該オブジェクトの位置に整合する位置に重畳表示する。例えば、ステップ9で読み出された「富士山」の名称を吹き出し等の表示態様で、ユーザの視界に映る富士山に重畳表示する。
In step 7, the display control unit 13 specifies an object appearing in the field of view of the HMD user based on the current position and height of the user specified in step 1 and the direction in which the user's line of sight specified in step 3 is facing. To do. For example, it is assumed that Mt. Fuji is specified as the object.
In step 9, the display control unit 13 reads information related to the object specified in step 7 from the layer selected in step 5. For example, information related to the object “Mt. Fuji” is read from the selected middle layer.
In step 11, the display control unit 13 superimposes and displays the information read in step 9 as an annotation of the object specified in step 7 at a position that matches the position of the object. For example, the name of “Mt. Fuji” read in step 9 is displayed in a superimposed manner on Mt. Fuji in the user's field of view in a display form such as a balloon.

図4を用いて、他の実施の形態のHMD21を示す。図4において、図1と同一の要素には同一の符号を付して、その説明を部分的に省略する。
図4に示すのは、上記ユーザの高さに加えて、当該高さの変化を考慮して、表示に適したアノテーションを表示可能なHMD21である。すなわち、当該HMD21は、図1に示すHMD1において、ユーザ高さ変化特定部23を更に備え、レイヤ選択部11に代えてレイヤ選択部25を備える。
An HMD 21 according to another embodiment is shown with reference to FIG. 4, the same elements as those in FIG. 1 are denoted by the same reference numerals, and the description thereof is partially omitted.
FIG. 4 shows an HMD 21 that can display an annotation suitable for display in consideration of the change in the height in addition to the height of the user. That is, the HMD 21 further includes a user height change specifying unit 23 in the HMD 1 illustrated in FIG. 1, and includes a layer selection unit 25 instead of the layer selection unit 11.

ユーザ高さ変化特定部23は、上記ユーザの高さ変化を特定する。当該高さ変化を特定する方法としては、上記ユーザ高さ特定部5の特定結果を参照して、一定時間内の高さ位置の変化に基づいて、上昇あるいは下降を特定することとできる。例えば、上記ユーザ高さが上方あるいは下方に1m/秒以上変化しているとき、ユーザ高さは上昇あるいは下降していると特定することとできる。
このHMD21において、レイヤ選択部25は、上記ユーザ高さ特定部5及びユーザ高さ変化特定部23とに基づいて、上記地図データベース3からいずれかのレイヤを選択する。すなわち、上記ユーザ高さ変化特定部23において、ユーザの高さが上方へ変化していると特定されたときには、ユーザの現在高さに対応するレイヤより高い高さに対応するレイヤを選択し、該ユーザの高さが下方へ変化していると特定されたときには、ユーザの現在高さに対応するレイヤより低い高さに対応するレイヤを選択する。例えば、上記特定されたユーザ高さが70m、かつ、上昇変化していると特定された場合には、該ユーザ高さに対応する中層レイヤより上方のレイヤである高層レイヤが選択されることとなる。
The user height change specifying unit 23 specifies the height change of the user. As a method for specifying the height change, it is possible to specify an ascent or a descent based on a change in the height position within a predetermined time with reference to the specification result of the user height specifying unit 5. For example, when the user height changes upward or downward by 1 m / second or more, it can be specified that the user height is rising or falling.
In the HMD 21, the layer selection unit 25 selects any layer from the map database 3 based on the user height specifying unit 5 and the user height change specifying unit 23. That is, when the user height change specifying unit 23 specifies that the height of the user is changing upward, a layer corresponding to a height higher than the layer corresponding to the current height of the user is selected, If it is determined that the height of the user is changing downward, a layer corresponding to a height lower than the layer corresponding to the current height of the user is selected. For example, when it is specified that the specified user height is 70 m and is increasing, a higher layer that is a layer above the middle layer corresponding to the user height is selected. Become.

図5に、実施例のHMD41を示す。図5において、図1及び図4と同一の要素には同一の符号を付して、その説明を部分的に省略する。
図5に示すのは、ユーザの視線の仰俯角を考慮して、表示に適したアノテーションを表示可能なHMD41である。すなわち、当該HMD41は、図1に示すHMD1において、制御部141、メモリ部142、入力部143、出力部144、インターフェース部145、ユーザ視線角度特定部146及びレイヤ選択部147を更に備える。
FIG. 5 shows an HMD 41 of the embodiment. In FIG. 5, the same elements as those in FIGS. 1 and 4 are denoted by the same reference numerals, and description thereof is partially omitted.
FIG. 5 shows an HMD 41 capable of displaying an annotation suitable for display in consideration of the elevation angle of the user's line of sight. That is, the HMD 41 further includes a control unit 141, a memory unit 142, an input unit 143, an output unit 144, an interface unit 145, a user line-of-sight angle specifying unit 146, and a layer selecting unit 147 in the HMD 1 shown in FIG.

制御部141はCPU、バッファメモリその他の装置を備えたコンピュータ装置であり、HMD41を構成する他の要素を制御する。この制御部141は、表示制御部13を備えている。
表示制御部13は、地図データベース3に格納されるオブジェクトに関する情報のうち、上記レイヤ選択部11で選択されたレイヤに基づいて、該オブジェクトに対してアノテーションを表示画面に重畳表示するよう制御する。
メモリ部142にはコンピュータプログラムが保存され、このコンピュータプログラムはコンピュータ装置である制御部141に読み込まれて、これを機能させる。このコンピュータプログラムは、HMDの記憶装置としての内蔵ハードディスク又は内蔵メモリ、HMDに差し替え可能な記憶媒体等の汎用的な媒体へ保存できる。
The control unit 141 is a computer device including a CPU, a buffer memory, and other devices, and controls other elements constituting the HMD 41. The control unit 141 includes a display control unit 13.
The display control unit 13 controls the annotation to be superimposed on the display screen based on the layer selected by the layer selection unit 11 among the information about the object stored in the map database 3.
A computer program is stored in the memory unit 142, and this computer program is read into the control unit 141, which is a computer device, and causes it to function. This computer program can be stored in a general-purpose medium such as a built-in hard disk or built-in memory as a storage device of the HMD, or a storage medium replaceable with the HMD.

入力部143は、例えば、ユーザの指令の入力に用いられる。入力部143として、HMD本体に備えられたボタン、タッチセンサ又はマイクロホン等の音声入力装置を用いることとできる。
出力部144は表示画面を含み、入力画面や、上記表示制御部13の制御に基づくアノテーション、その他の情報を表示する。この出力部144は音声発信部を含むこともできる。
インターフェース部145はHMD41を無線ネットワーク等へ連結させる。
The input unit 143 is used for inputting a user command, for example. As the input unit 143, a voice input device such as a button, a touch sensor, or a microphone provided in the HMD main body can be used.
The output unit 144 includes a display screen, and displays an input screen, annotations based on the control of the display control unit 13, and other information. The output unit 144 can also include a voice transmission unit.
The interface unit 145 connects the HMD 41 to a wireless network or the like.

ユーザ視線角度特定部146は、HMD41に備えられる加速度センサ等を用いて、該HMDユーザの視線の仰俯角を特定する。
レイヤ選択部147は、上記ユーザ高さ特定部5及びユーザ視線角度特定部146とに基づいて、上記地図データベース3からいずれかのレイヤを選択する。すなわち、上記ユーザ視線角度特定部146において、ユーザの視線が仰角であると特定されたときには、ユーザの現在高さに対応するレイヤより高い高さに対応するレイヤを選択し、該ユーザの視線が俯角であると特定されたときには、ユーザの現在高さに対応するレイヤより低い高さに対応するレイヤを選択する。当該レイヤ選択部147は、上記ユーザの視線の仰俯角の程度に応じて、さらに高い高さに対応するレイヤを選択する等しても良い。
上記HMD41の構成要素の一部をサーバ装置で実行可能とする表示制御システムとしても良い。当該サーバ装置で実行可能な構成は、特に限定されないが、例えば、地図データベース3及びレイヤ選択部11とすることとできる。
The user line-of-sight angle specifying unit 146 specifies the elevation angle of the line of sight of the HMD user using an acceleration sensor or the like provided in the HMD 41.
The layer selection unit 147 selects one of the layers from the map database 3 based on the user height specifying unit 5 and the user gaze angle specifying unit 146. That is, when the user's line-of-sight angle specifying unit 146 specifies that the user's line of sight is an elevation angle, a layer corresponding to a height higher than the layer corresponding to the user's current height is selected, and the user's line of sight is If the depression angle is specified, a layer corresponding to a height lower than the layer corresponding to the current height of the user is selected. The layer selection unit 147 may select a layer corresponding to a higher height in accordance with the elevation angle of the user's line of sight.
It is good also as a display control system which makes a part of component of the said HMD41 executable by a server apparatus. Although the structure which can be performed with the said server apparatus is not specifically limited, For example, it can be set as the map database 3 and the layer selection part 11. FIG.

図6に、他の実施の形態のHMD51を示す。図6において、図1、図4及び図5と同一の要素には同一の符号を付して、その説明を部分的に省略する。
図6に示すのは、上記ユーザの移動速度を考慮して、表示に適したアノテーションを表示可能なHMD51である。すなわち、当該HMD51は、図1に示すHMD1において、地図データベース3、ユーザ高さ特定部5、レイヤ選択部11及び表示制御部13に代えて、夫々地図データベース53、ユーザ移動速度特定部55、レイヤ選択部57及び表示制御部59を備える。
FIG. 6 shows an HMD 51 according to another embodiment. In FIG. 6, the same elements as those in FIGS. 1, 4, and 5 are denoted by the same reference numerals, and description thereof is partially omitted.
FIG. 6 shows an HMD 51 that can display an annotation suitable for display in consideration of the moving speed of the user. That is, in the HMD 1 shown in FIG. 1, the HMD 51 replaces the map database 3, the user height specifying unit 5, the layer selecting unit 11, and the display control unit 13 with a map database 53, a user moving speed specifying unit 55, and a layer, respectively. A selection unit 57 and a display control unit 59 are provided.

地図データベース53には、ユーザの移動速度に応じて、該HMDの表示画面に表示すべきオブジェクトに関する情報を保存する各レイヤが保存されている。例えば、「50km/時未満−第1のレイヤ」、「50〜200km/時−第2のレイヤ」、「200km/時以上−第3のレイヤ」等が備えられ、夫々のレイヤにオブジェクトに関する情報が任意に紐付けられている。例えば、遅い移動速度に対応する第1のレイヤには施設、店舗、建造物等、第2のレイヤには駅、建造物、景勝地等、速い移動速度に対応する第3のレイヤには駅、景勝地等に関する情報が位置情報とともに紐付けられる。各レイヤに保存されるオブジェクトの一部は同じであっても良い。また、オブジェクトのレイヤ分けは、該オブジェクトの重要度に基づき行うことができる。すなわち、移動速度の速いレイヤにはより重要度の高いオブジェクトが厳選されて仕分けられる。重要度とは、オブジェクト「駅」の場合には、例えば、新幹線のぞみ、新快速電車が停車する駅を重要度の高い駅とし、新幹線こだま、普通電車が停車する駅は重要度が低い駅とする。また、オブジェクト「景勝地」の場合には、例えば、富士山等知名度の高いオブジェクトを重要度が高いオブジェクトとする。上記例において、第3のレイヤには、駅「名古屋」や、景勝地「富士山」が仕分けられ、第2のレイヤには、駅「新富士」や、景勝地「八曽山」が仕分けられる。   In the map database 53, each layer for storing information related to an object to be displayed on the display screen of the HMD is stored according to the moving speed of the user. For example, “less than 50 km / hour—first layer”, “50 to 200 km / hour—second layer”, “200 km / hour or more—third layer”, and the like are provided. Are arbitrarily linked. For example, the first layer corresponding to a slow moving speed has facilities, stores, buildings, etc., the second layer has a station, buildings, scenic spots, etc. The third layer corresponding to a fast moving speed has a station , Information related to scenic spots and the like is associated with the position information. Some of the objects stored in each layer may be the same. Also, object layering can be performed based on the importance of the object. That is, objects with higher importance are carefully selected and sorted in a layer having a high moving speed. In the case of the object “station”, for example, the station where the Shinkansen Nozomi and Shinkansen trains stop is regarded as the station with high importance, and the station where the Shinkansen Kodama and ordinary trains stop is regarded as a station with low importance. To do. In the case of the object “scenic spot”, for example, an object with a high degree of importance such as Mt. In the above example, the station “Nagoya” and the scenic spot “Mt. Fuji” are sorted in the third layer, and the station “Shin Fuji” and the scenic spot “Hachimanyama” are sorted in the second layer.

ユーザ移動速度特定部55は、上記ユーザの移動速度を特定する。当該移動速度の特定は、例えば、上記HMD1に備えられる加速度センサからの加速度情報に基づいて行うこととできる。
レイヤ選択部57及び表示制御部59は、夫々レイヤ選択部11及び表示制御部13と同様に、地図データベース53から、上記特定されたユーザ移動速度に対応する移動速度が関連付けられたレイヤを選択し、該選択されたレイヤに保存されたオブジェクトに関するアノテーションを視界に映るオブジェクトの位置に整合するように重畳表示する。
The user moving speed specifying unit 55 specifies the moving speed of the user. The movement speed can be specified based on, for example, acceleration information from an acceleration sensor provided in the HMD 1.
Similar to the layer selection unit 11 and the display control unit 13, the layer selection unit 57 and the display control unit 59 select, from the map database 53, a layer associated with the movement speed corresponding to the identified user movement speed. The annotation related to the object stored in the selected layer is superimposed and displayed so as to match the position of the object in the field of view.

以上、本発明の実施の形態及び実施例について説明してきたが、これらのうち、2つ以上の実施の形態(実施例)を組み合わせて実施しても構わない。あるいは、これらのうち、1つの実施の形態(実施例)を部分的に実施しても構わない。さらには、これらのうち、2つ以上の実施の形態(実施例)を部分的に組み合わせて実施しても構わない。   Although the embodiments and examples of the present invention have been described above, two or more of the embodiments (examples) may be combined and implemented. Alternatively, one of these embodiments (examples) may be partially implemented. Furthermore, among these, two or more embodiments (examples) may be partially combined.

この発明は、上記発明の実施の形態及び実施例の説明に何ら限定されるものではない。特許請求の範囲の記載を逸脱せず、当業者が容易に想到できる範囲で種々の変形態様もこの発明に含まれる。   The present invention is not limited to the description of the embodiments and examples of the invention described above. Various modifications may be included in the present invention as long as those skilled in the art can easily conceive without departing from the description of the scope of claims.

1 21 41 51 ヘッドマウントディスプレイ(HMD)
3 53 地図データベース(地図DB)
5 ユーザ高さ特定部
7 ユーザ位置特定部
9 ユーザ方位特定部
11 25 147 57レイヤ選択部
13 59表示制御部
23 ユーザ高さ変化特定部
146 ユーザ視線角度特定部
55 ユーザ移動速度特定部
1 21 41 51 Head Mount Display (HMD)
3 53 Map database (Map DB)
5 User height specifying unit 7 User position specifying unit 9 User orientation specifying unit 11 25 147 57 Layer selecting unit 13 59 Display control unit 23 User height change specifying unit 146 User line of sight angle specifying unit 55 User moving speed specifying unit

Claims (7)

ユーザの視界において実像に重畳してオブジェクトに関する情報を表示するヘッドマウントディスプレイであって、
前記ユーザが第1の高さのときに該ヘッドマウントディスプレイの表示画面に表示すべきオブジェクトに関する第1の情報であって、前記第1の高さに適した第1の情報を保存する第1のレイヤと、該ユーザが第2の高さのときに該表示画面に表示すべきオブジェクトに関する第2の情報であって、前記第2の高さに適した第2の情報を保存する第2のレイヤとを保存する地図データベースと、
前記ユーザの高さの変化を特定するユーザ状態特定部と、
前記特定された高さの変化に応じた前記第1のレイヤあるいは前記第2のレイヤのいずれかのレイヤを選択するレイヤ選択部と、
前記選択されたレイヤに基づいて、前記表示画面への表示を制御する表示制御部と、
を備える、ヘッドマウンドディスプレイ。
A head mounted display that displays information about an object superimposed on a real image in a user's field of view,
The first information about the object to be displayed on the display screen of the head mounted display when the user is at the first height, the first information storing the first information suitable for the first height. A second layer that stores second information relating to an object to be displayed on the display screen when the user is at a second height, the second information being suitable for the second height. A map database that stores layers of
A user state specifying unit for specifying a change in the height of the user;
A layer selection unit that selects either the first layer or the second layer according to the change in the specified height;
A display control unit that controls display on the display screen based on the selected layer;
Head mounted display.
前記レイヤ選択部は、前記ユーザ状態特定部が前記ユーザの高さが上方へ変化していることを特定したとき、前記ユーザの現在高さに対応するレイヤより高い高さに対応するレイヤを選択し、前記ユーザの高さが下方へ変化していることを特定したとき、前記ユーザの現在高さに対応するレイヤより低い高さに対応するレイヤを選択する、
請求項1に記載のヘッドマウントディスプレイ。
The layer selection unit selects a layer corresponding to a height higher than a layer corresponding to the current height of the user when the user state specifying unit specifies that the height of the user is changing upward. When the height of the user is changed downward, the layer corresponding to the lower height than the layer corresponding to the current height of the user is selected.
The head mounted display according to claim 1 .
ユーザの視界において実像に重畳してオブジェクトに関する情報を表示するヘッドマウントディスプレイの制御方法であって、
前記ユーザが第1の高さのときに該ヘッドマウントディスプレイの表示画面に表示すべきオブジェクトに関する第1の情報であって、前記第1の高さに適した第1の情報を保存する第1のレイヤと、該ユーザが第2の高さのときに該表示画面に表示すべきオブジェクトに関する第2の情報であって、前記第2の高さに適した第2の情報を保存する第2のレイヤとを地図データベースに保存する保存ステップと、
ユーザの状態特定部が、前記ユーザの高さの変化を特定するユーザ状態特定ステップと、
レイヤ選択部が、前記特定された高さの変化に応じた前記第1のレイヤあるいは前記第2のレイヤのいずれかのレイヤを選択するレイヤ選択ステップと、
表示制御部が、前記選択されたレイヤに基づいて、前記表示画面への表示を制御する表示制御ステップと、
を備える、制御方法。
A method for controlling a head mounted display that displays information about an object superimposed on a real image in a user's field of view,
The first information about the object to be displayed on the display screen of the head mounted display when the user is at the first height, the first information storing the first information suitable for the first height. A second layer that stores second information relating to an object to be displayed on the display screen when the user is at a second height, the second information being suitable for the second height. A step of saving the layers of the image in the map database;
A user state specifying step in which a user state specifying unit specifies a change in the height of the user;
A layer selection step in which a layer selection unit selects either the first layer or the second layer according to the specified height change;
A display control step for controlling display on the display screen based on the selected layer; and
A control method comprising:
前記レイヤ選択ステップでは、前記ユーザ状態特定ステップで前記ユーザの高さが上方へ変化していることを特定したとき、前記ユーザの現在高さに対応するレイヤより高い高さに対応するレイヤを選択し、前記ユーザの高さが下方へ変化していることを特定したとき、前記ユーザの現在高さに対応するレイヤより低い高さに対応するレイヤを選択する、
請求項3に記載の制御方法。
In the layer selection step, when the user state specifying step specifies that the height of the user is changing upward, a layer corresponding to a height higher than the layer corresponding to the current height of the user is selected. When the height of the user is changed downward, the layer corresponding to the lower height than the layer corresponding to the current height of the user is selected.
The control method according to claim 3 .
ユーザの視界において実像に重畳してオブジェクトに関する情報を表示するヘッドマウントディスプレイを制御するためのコンピュータプログラムであって、コンピュータを、
前記ユーザが第1の高さのときに該ヘッドマウントディスプレイの表示画面に表示すべきオブジェクトに関する第1の情報であって、前記第1の高さに適した第1の情報を保存する第1のレイヤと、該ユーザが第2の高さのときに該表示画面に表示すべきオブジェクトに関する第2の情報であって、前記第2の高さに適した第2の情報を保存する第2のレイヤとを地図データベースに保存する保存手段と、
前記ユーザの高さの変化を特定するユーザ状態特定手段と、
前記特定された高さの変化に応じた前記第1のレイヤあるいは前記第2のレイヤのいずれかのレイヤを選択するレイヤ選択手段と、
前記選択されたレイヤに基づいて、前記表示画面への表示を制御する表示制御手段、
として機能させる、コンピュータプログラム。
A computer program for controlling a head mounted display that displays information about an object superimposed on a real image in a user's field of view,
The first information about the object to be displayed on the display screen of the head mounted display when the user is at the first height, the first information storing the first information suitable for the first height. A second layer that stores second information relating to an object to be displayed on the display screen when the user is at a second height, the second information being suitable for the second height. A storage means for storing the layers in the map database;
User status specifying means for specifying a change in the height of the user;
Layer selection means for selecting either the first layer or the second layer according to the change in the specified height;
Display control means for controlling display on the display screen based on the selected layer;
As a computer program.
前記レイヤ選択手段は、前記ユーザ状態特定手段が前記ユーザの高さが上方へ変化していることを特定したとき、前記ユーザの現在高さに対応するレイヤより高い高さに対応するレイヤを選択し、前記ユーザの高さが下方へ変化していることを特定したとき、前記ユーザの現在高さに対応するレイヤより低い高さに対応するレイヤを選択する、
請求項5に記載のコンピュータプログラム。
The layer selection means selects a layer corresponding to a height higher than the layer corresponding to the current height of the user when the user status specifying means specifies that the height of the user is changing upward. When the height of the user is changed downward, the layer corresponding to the lower height than the layer corresponding to the current height of the user is selected.
The computer program according to claim 5 .
請求項5又は6に記載のコンピュータプログラムを記録する記録媒体。 A recording medium for recording the computer program according to claim 5 .
JP2015543631A 2013-10-22 2013-10-22 Head mounted display, control method therefor, and recording medium storing computer program for controlling head mounted display Expired - Fee Related JP6095196B2 (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2013/078607 WO2015059773A1 (en) 2013-10-22 2013-10-22 Head-mounted display, method for controlling same, and recording medium having computer program for controlling head-mounted display recorded therein

Publications (2)

Publication Number Publication Date
JPWO2015059773A1 JPWO2015059773A1 (en) 2017-03-09
JP6095196B2 true JP6095196B2 (en) 2017-03-15

Family

ID=52992412

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015543631A Expired - Fee Related JP6095196B2 (en) 2013-10-22 2013-10-22 Head mounted display, control method therefor, and recording medium storing computer program for controlling head mounted display

Country Status (2)

Country Link
JP (1) JP6095196B2 (en)
WO (1) WO2015059773A1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IL243422B (en) 2015-12-30 2018-04-30 Elbit Systems Ltd Managing displayed information according to user gaze directions

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1186034A (en) * 1997-09-05 1999-03-30 Nippon Telegr & Teleph Corp <Ntt> Human navigati0n device with scenery label and system therefor
JP2006059136A (en) * 2004-08-20 2006-03-02 Seiko Epson Corp Viewer apparatus and its program
JP2006227934A (en) * 2005-02-17 2006-08-31 Yoshitaka Fukumoto Real field of view/space coordinate synchronization system
JP2008108246A (en) * 2006-10-23 2008-05-08 Internatl Business Mach Corp <Ibm> Method, system and computer program for generating virtual image according to position of browsing person
JP2011205358A (en) * 2010-03-25 2011-10-13 Fujifilm Corp Head-mounted display device
WO2011126134A1 (en) * 2010-04-09 2011-10-13 サイバーアイ・エンタテインメント株式会社 Server system for real-time moving image collection, recognition, classification, processing, and delivery
JP2013025220A (en) * 2011-07-25 2013-02-04 Nec Corp Safety securing system, device, method, and program

Also Published As

Publication number Publication date
JPWO2015059773A1 (en) 2017-03-09
WO2015059773A1 (en) 2015-04-30

Similar Documents

Publication Publication Date Title
CN114026831B (en) 3D object camera customization system, method and machine readable medium
US11651563B1 (en) Dockable billboards for labeling objects in a display having a three dimensional perspective of a virtual or real environment
US10521944B2 (en) Repositioning user perspectives in virtual reality environments
US10169923B2 (en) Wearable display system that displays a workout guide
US9501873B2 (en) Indicating out-of-view augmented reality images
JP5732988B2 (en) Image processing apparatus, display control method, and program
CN106468950B (en) Electronic system, portable display device and guiding device
US8745058B1 (en) Dynamic data item searching
JP5324714B2 (en) Method, terminal device, and computer program for providing information on object not included in field of view of terminal device
JP5205557B2 (en) Method for providing different video information according to angle of terminal, terminal, and computer-readable recording medium
JP5383930B2 (en) Method for providing information on object contained in visual field of terminal device, terminal device and computer-readable recording medium
WO2015145544A1 (en) Display control device, control method, program, and storage medium
US20150049086A1 (en) 3D Space Content Visualization System
JPWO2016031358A1 (en) Display control apparatus, display control method, and program
EP3832605B1 (en) Method and device for determining potentially visible set, apparatus, and storage medium
JP2005190470A (en) Gps search device
WO2018131238A1 (en) Information processing device, information processing method, and program
JP2012128779A (en) Virtual object display device
US10984242B1 (en) Virtual proximity compass for navigating artificial reality environments
JP6039525B2 (en) Head mounted display, control method therefor, computer program for controlling head mounted display, and recording medium storing computer program
JP2016110245A (en) Display system, display method, computer program, computer readable recording medium
JP2014110037A (en) Information processing program, display control device, display system and display method
JP6095196B2 (en) Head mounted display, control method therefor, and recording medium storing computer program for controlling head mounted display
Schmalstieg et al. Augmented reality as a medium for cartography
US20220256249A1 (en) Content event mapping

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161024

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170212

R150 Certificate of patent or registration of utility model

Ref document number: 6095196

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees