JP2022164170A - Display device, display method, and display program thereof - Google Patents

Display device, display method, and display program thereof Download PDF

Info

Publication number
JP2022164170A
JP2022164170A JP2021069492A JP2021069492A JP2022164170A JP 2022164170 A JP2022164170 A JP 2022164170A JP 2021069492 A JP2021069492 A JP 2021069492A JP 2021069492 A JP2021069492 A JP 2021069492A JP 2022164170 A JP2022164170 A JP 2022164170A
Authority
JP
Japan
Prior art keywords
display
unit
image
display device
predetermined
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021069492A
Other languages
Japanese (ja)
Other versions
JP6968326B1 (en
Inventor
研 深澤
Ken Fukazawa
俊介 村上
Shunsuke Murakami
綾乃 上村
Ayano Uemura
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
BROADCASTING SYSTEM OF NIIGATA Inc
Tyffon Inc
Original Assignee
BROADCASTING SYSTEM OF NIIGATA Inc
Tyffon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by BROADCASTING SYSTEM OF NIIGATA Inc, Tyffon Inc filed Critical BROADCASTING SYSTEM OF NIIGATA Inc
Priority to JP2021069492A priority Critical patent/JP6968326B1/en
Application granted granted Critical
Publication of JP6968326B1 publication Critical patent/JP6968326B1/en
Publication of JP2022164170A publication Critical patent/JP2022164170A/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

To provide a display device that suppresses the possibility of not being able to visually recognize video due to a display deviation in a display device worn by a user within a predetermined space.SOLUTION: A display device worn by a user includes: a display unit that displays an image; a positional information acquisition unit that acquires a position of its own device; a display control unit that causes the display unit to display a predetermined virtual image so as to be superimposed on a wall surface of a predetermined space; a determination unit that determines whether its own device is located outside a virtual reference line provided inside the virtual image displayed on the wall surface, in the predetermined space; and a correction unit that corrects a display position of the predetermined virtual image when the determination unit determines that the own device is located outside the virtual reference line.SELECTED DRAWING: Figure 8

Description

本発明は、ユーザの位置に応じた画像を表示する表示装置に関する。 The present invention relates to a display device that displays an image according to the user's position.

従来、様々な遊興施設として立体迷路やお化け屋敷などを備える遊園地があり、多数のユーザにより楽しまれている。 2. Description of the Related Art Conventionally, there are amusement parks equipped with three-dimensional mazes, haunted houses, and the like as various amusement facilities, which are enjoyed by many users.

特許文献1には、そのような遊興施設において利用可能な電子機器に関する発明が開示されている。 Patent Literature 1 discloses an invention relating to electronic equipment that can be used in such amusement facilities.

特開2016-048301号公報JP 2016-048301 A

ところで、特許文献1のように、ユーザがウェアラブル端末を装着して、ウェアラブル端末を通じて表示された映像によりエンターテインメントを提供することが考えられる。昨今においては、AR、MRなど、現実と仮想映像との組み合わせによるエンターテインメントが提供される。このようなエンターテインメントにあっては、ユーザの位置に応じた映像提供することが考えられるが、常時正しい位置情報を取得できるとは限らず、エンターテイメントの提供者が意図しない態様の映像が提供される可能性があった。 By the way, as in Patent Literature 1, it is conceivable that a user wears a wearable terminal and provides entertainment by images displayed through the wearable terminal. In recent years, entertainment such as AR and MR is provided by combining reality and virtual images. In such entertainment, it is conceivable to provide images according to the user's position, but it is not always possible to obtain correct position information, and images are provided in a manner not intended by the entertainment provider. It was possible.

そこで、本発明は上記要望に鑑みて成されたものであり、ユーザに対して、視聴して欲しい映像や画像を視認できる表示装置を提供することを目的とする。 SUMMARY OF THE INVENTION Accordingly, the present invention has been made in view of the above demands, and an object of the present invention is to provide a display device that allows a user to visually recognize a video or image that the user wants to view.

上記課題を解決するために、本発明の一態様に係る表示装置は、ユーザが装着する表示装置であって、画像を表示する表示部と、自装置の位置を取得する位置情報取得部と、所定の空間の壁面に対して所定の仮想画像を重畳するように表示部に表示させる表示制御部と、所定の空間において、壁面に対して表示される仮想画像よりも内側に設けられた仮想基準線よりも外側に自装置が位置するか否かを判定する判定部と、判定部が仮想基準線よりも外側に自装置が位置すると判定した場合に、所定の仮想画像の表示位置を補正する補正部と、を備える。 In order to solve the above problems, a display device according to an aspect of the present invention is a display device worn by a user, comprising: a display unit that displays an image; a position information acquisition unit that acquires the position of the own device; A display control unit that causes a display unit to display a predetermined virtual image so as to be superimposed on a wall surface of a predetermined space, and a virtual reference that is provided inside the virtual image displayed on the wall surface in the predetermined space. a determination unit for determining whether or not the device is positioned outside the line, and correcting the display position of the predetermined virtual image when the determination unit determines that the device is positioned outside the virtual reference line. and a correction unit.

上記課題を解決するために、本発明の一態様に係る仮想画像表示方法は、ユーザが装着し画像を表示する表示部を有する表示装置のコンピュータが、自装置の位置を取得する位置情報取得ステップと、所定の空間の壁面に対して所定の仮想画像を重畳して表示部に表示させる表示制御ステップと、所定の空間において、壁面に対して表示される仮想画像よりも内側に設けられた仮想基準線よりも外側に自装置が位置するか否かを判定する判定ステップと、判定ステップにおいて自装置が仮想基準線よりも外側に位置すると判定した場合に、所定の仮想画像の表示位置を補正する補正ステップと、を実行する。 In order to solve the above problems, a virtual image display method according to an aspect of the present invention includes a position information acquisition step in which a computer of a display device that is worn by a user and has a display unit that displays an image acquires the position of the device itself. a display control step of superimposing a predetermined virtual image on a wall surface of a predetermined space and displaying it on a display unit; and a virtual image provided inside the virtual image displayed on the wall surface in the predetermined space. a determination step of determining whether or not the device is positioned outside the reference line; and correction of the display position of a predetermined virtual image when the device is determined to be positioned outside the virtual reference line in the determination step. and a correction step.

上記課題を解決するために、本発明の一態様に係る仮想画像表示プログラムは、ユーザが装着し画像を表示する表示部を有する表示装置のコンピュータに、自装置の位置を取得する位置情報取得機能と、所定の空間の壁面に対して所定の仮想画像を重畳して表示部に表示させる表示制御機能と、所定の空間において、壁面に対して表示される仮想画像よりも内側に設けられた仮想基準線よりも外側に自装置が位置するか否かを判定する判定機能と、判定機能が自装置が仮想基準線よりも外側に位置すると判定した場合に、所定の仮想画像の表示位置を補正する補正機能と、を実現させる。 In order to solve the above problems, a virtual image display program according to an aspect of the present invention provides a computer of a display device that is worn by a user and has a display unit that displays an image. a display control function for superimposing a predetermined virtual image on the wall surface of a predetermined space and displaying it on the display unit; and a virtual image provided inside the virtual image displayed on the wall surface in the predetermined space. A determination function that determines whether or not the device is positioned outside the reference line, and correction of the display position of a predetermined virtual image when the determination function determines that the device is positioned outside the virtual reference line. and a correction function.

上記表示装置において、補正部は、前記判定部が前記仮想基準線よりも外側に自装置が位置すると判定したときに、前記表示装置から相対的に近い前記所定の空間の壁面に表示すべき仮想画像の表示位置を、自装置から遠ざけるように補正することとしてもよい。 In the above display device, the correction unit, when the determination unit determines that the device is positioned outside the virtual reference line, is configured to display a virtual image to be displayed on a wall surface of the predetermined space relatively close to the display device. The display position of the image may be corrected so as to move away from the own device.

上記表示装置において、補正部は、前記判定部が前記仮想基準線よりも外側に自装置が位置すると判定したときに、前記表示装置から相対的に近い前記所定の空間の壁面に表示すべき仮想画像の表示位置を、所定距離だけ自装置から遠い位置に変更するよう補正することとしてもよい。 In the above display device, the correction unit, when the determination unit determines that the device is positioned outside the virtual reference line, is configured to display a virtual image to be displayed on a wall surface of the predetermined space relatively close to the display device. The display position of the image may be corrected by changing it to a position farther from the device by a predetermined distance.

上記表示装置において、前記表示装置は、前記ユーザの視野方向を撮像する撮像部を備え、前記表示制御部は、前記撮像部により撮像される前記所定の空間に含まれる範囲内の所定の仮想画像を前記表示部に表示させることとしてもよい。 In the above-described display device, the display device includes an imaging unit that captures an image of the user's viewing direction, and the display control unit controls a predetermined virtual image within a range included in the predetermined space captured by the imaging unit. may be displayed on the display unit.

上記表示装置において、前記所定の空間の所定の位置には、仮想画像の表示位置を調整するために用いるオブジェクトが配置され、前記表示装置は、前記撮像部により撮像された撮像画像であって前記オブジェクトを含む撮像画像を用いて、前記仮想画像の表示位置を調整するための調整部を備えることとしてもよい。 In the display device, an object used for adjusting the display position of the virtual image is arranged at a predetermined position in the predetermined space, and the display device is a captured image captured by the imaging unit, An adjustment unit may be provided for adjusting the display position of the virtual image using the captured image including the object.

上記表示装置において、所定の空間の所定の位置には、仮想画像の表示位置を調整するために用いるオブジェクトが配置され、表示制御部は、オブジェクトとの位置関係を決定するための所定の画像を表示部に表示させるとともに、オブジェクトと所定の画像についての位置関係を指示するメッセージを表示部に表示させ、表示装置は、オブジェクトと所定の画像が位置関係になったことを示す入力を受け付ける入力部と、入力部からの入力があった場合に、オブジェクトの位置に基づいて、仮想画像の表示位置を調整するための調整部を備えることとしてもよい。 In the above display device, an object used for adjusting the display position of the virtual image is placed at a predetermined position in a predetermined space, and the display control unit displays the predetermined image for determining the positional relationship with the object. An input unit for displaying on the display unit and displaying on the display unit a message instructing the positional relationship between the object and the predetermined image, and for receiving an input indicating that the object and the predetermined image are in the positional relationship. and an adjustment unit for adjusting the display position of the virtual image based on the position of the object when there is an input from the input unit.

上記表示装置において、前記仮想基準線は、前記所定の空間内において矩形状となるように設けられることとしてもよい。 In the display device described above, the virtual reference line may be provided in a rectangular shape within the predetermined space.

本発明の一態様に係る表示装置は、表示装置上で、所定の空間における壁面内に表示対象の画像が表示されてしまうことにより、結果として、提供したい映像をユーザが視認しにくくなる可能性があるところ、仮想基準線により仮想画像が表示されるべき位置からずれていることを検知して、画像の表示位置を補正することにより、ユーザが必ず映像を視認できるようにすることができる。 In the display device according to one aspect of the present invention, an image to be displayed is displayed within a wall surface in a predetermined space on the display device, and as a result, it may become difficult for the user to visually recognize the image to be provided. However, by detecting that the virtual image is shifted from the position where it should be displayed by the virtual reference line and correcting the display position of the image, it is possible to ensure that the user can visually recognize the video.

システムの概要を示す斜視図である。1 is a perspective view showing an outline of a system; FIG. 坑道の構図例を示す平面図である。It is a top view which shows the example of a composition of a tunnel. AR画像を表示するテクスチャの位置の例を示す平面図である。FIG. 10 is a plan view showing an example of positions of textures displaying an AR image; (a)AR画像がない表示例を示す図である。(b)AR画像をある表示例を示す図である。(a) is a diagram showing a display example without an AR image. (b) It is a figure which shows the example of a certain display of an AR image. AR画像がずれることを示す坑道の平面図である。FIG. 11 is a plan view of a tunnel showing that the AR image is shifted; 仮想基準線の例を示す図である。FIG. 4 is a diagram showing an example of a virtual reference line; AR画像の表示位置の補正例を示す図である。FIG. 10 is a diagram showing an example of correction of the display position of an AR image; 情報処理装置の構成例を示すブロック図である。It is a block diagram which shows the structural example of an information processing apparatus. 情報処理装置の動作例を示すフローチャートである。4 is a flowchart showing an operation example of the information processing device; 仮想基準線の他の例を示す図である。FIG. 10 is a diagram showing another example of a virtual reference line; 坑道内のチェックポイントの例を示す図である。FIG. 4 is a diagram showing an example of checkpoints in a tunnel; チェックポイントでのキャリブレーションの例を示す図である。FIG. 4 is a diagram showing an example of calibration at checkpoints; AR画像の表示位置のその他の補正例を示す図である。FIG. 10 is a diagram showing another correction example of the display position of the AR image; AR画像の表示位置のその他の補正例を示す図である。FIG. 10 is a diagram showing another correction example of the display position of the AR image;

以下、本発明の一実施態様に係る表示装置について、図面を参照しながら詳細に説明する。 A display device according to an embodiment of the present invention will be described in detail below with reference to the drawings.

<実施の形態>
<構成>
図1は、実施例に係る表示装置100を利用する場面を説明するための模式的な斜視図である。
<Embodiment>
<Configuration>
FIG. 1 is a schematic perspective view for explaining a situation in which a display device 100 according to an embodiment is used.

図1は、ユーザ10が表示装置100を装着して、所定の空間、一例として、鉱山における坑道や天然洞窟などを含む洞窟20内を探索する様子の一例を示す斜視図である。また、図2は、図1に示す洞窟20の平面図の一例である。 FIG. 1 is a perspective view showing an example of how a user 10 wears a display device 100 and searches a predetermined space, for example, a tunnel in a mine or a cave 20 including a natural cave. Moreover, FIG. 2 is an example of the top view of the cave 20 shown in FIG.

ユーザ10は、表示装置100を装着した状態で、図2の矢印21で示されるように、洞窟20内を移動する。ここで、表示装置100は、洞窟20内の様子に仮想映像を重畳した映像を表示することができる装置であって、例えば、ヘッドマウントディスプレイ、ウェアラブルグラス(眼鏡)などにより実現されるものであってよい。表示装置100は、洞窟20内を探索する際のアトラクションを提供するためのエンターテイメント装置であってよい。 The user 10 wears the display device 100 and moves in the cave 20 as indicated by the arrow 21 in FIG. Here, the display device 100 is a device capable of displaying an image in which a virtual image is superimposed on the inside of the cave 20, and is realized by, for example, a head-mounted display, wearable glasses, or the like. you can The display device 100 may be an entertainment device for providing attractions when exploring the cave 20 .

表示装置100は、洞窟20の壁面に重畳するようにして様々なAR画像を表示することとしてよい。表示装置100は、洞窟20の壁面に重ね合わせるような態様でAR画像を表示することで、より自然な画像をユーザ10に提供することができる。なお、本実施例では表示する画像をAR(Augmented Reality)画像として説明するが、これは、VR(Virtual Reality)画像であってもよいし、MR(Mixed Reality)画像であってもよいし、SR(Substitutional Reality)画像であってもよい。 The display device 100 may display various AR images superimposed on the wall surface of the cave 20 . The display device 100 can provide the user 10 with a more natural image by displaying the AR image in such a manner as to be superimposed on the wall surface of the cave 20 . In this embodiment, the image to be displayed is described as an AR (Augmented Reality) image, but it may be a VR (Virtual Reality) image, an MR (Mixed Reality) image, or It may be an SR (Substitutional Reality) image.

図3は、AR画像と洞窟20の壁面との関係を模式的に示した洞窟20の平面図の一例である。図3において、符号32は、洞窟20の壁面を示し、符号31は、洞窟20の壁面に重畳して表示されるAR画像のテクスチャの表示位置を示す一点鎖線である。図3に示すように、AR画像31は、壁面32にほぼ重畳するように表示されることが望ましい。 FIG. 3 is an example of a plan view of the cave 20 schematically showing the relationship between the AR image and the walls of the cave 20. As shown in FIG. In FIG. 3 , reference numeral 32 indicates the wall surface of the cave 20 , and reference numeral 31 indicates the display position of the AR image texture superimposed on the wall surface of the cave 20 . As shown in FIG. 3, the AR image 31 is desirably displayed so as to be substantially superimposed on the wall surface 32 .

図4(a)と、図4(b)は、表示装置100を通して、洞窟20内の表示例を示す図であり、図4(a)は、AR画像を表示していない状態の洞窟20内の様子を示す図であり、図4(b)は、AR画像を表示した状態の洞窟20内の様子を示す図である。 4(a) and 4(b) are diagrams showing display examples inside the cave 20 through the display device 100, and FIG. FIG. 4B is a diagram showing the inside of the cave 20 with the AR image displayed.

図4(a)は、表示装置100のレンズを通してユーザ10が見た洞窟20内の様子そのままであってもよいし、表示装置100により撮像された洞窟20内の映像を表示したものであってもよいし、表示装置100により生成された洞窟20内の仮想映像を表示したものであってもよい。 FIG. 4(a) may be the inside of the cave 20 as seen by the user 10 through the lens of the display device 100, or the image inside the cave 20 captured by the display device 100. Alternatively, a virtual image inside the cave 20 generated by the display device 100 may be displayed.

図4(b)は、表示装置100の表示部に表示される洞窟20内容の様子に、AR画像を表示した一例を示している。図4(b)に示す例では、洞窟20の壁面32に対して、木や花を示すAR画像や、鉱石や水晶を示すAR画像を表示した例を示している。また、AR画像は、壁面32に対して重畳するように表示するものに限定するものではなく、洞窟20内の所定の場所、あるいは、ユーザ10に対して所定の相対位置関係にある場所に表示されるものであってよく、それは、アトラクションを提供する提供者により生成されたキャラクタであってもよい。 FIG. 4(b) shows an example of displaying an AR image on the contents of the cave 20 displayed on the display unit of the display device 100. FIG. The example shown in FIG. 4B shows an example in which an AR image showing trees and flowers and an AR image showing ores and crystals are displayed on the wall surface 32 of the cave 20 . Moreover, the AR image is not limited to being displayed so as to be superimposed on the wall surface 32, and is displayed at a predetermined location in the cave 20 or at a location having a predetermined relative positional relationship with respect to the user 10. It may be a character generated by the provider of the attraction.

ところで、表示装置100は、ユーザ10、ひいては、自装置の洞窟20内における位置に応じて適切にAR画像を表示する。つまり、ユーザ10は洞窟20内を、自由に動き回るが、その際に、ユーザ10の場所に応じて、洞窟20の壁面等に表示したAR画像は、壁面からずれることなく表示されることがエンターテイメント上望ましい。しかしながら、この制御を実現するには、表示装置100が、表示装置100の洞窟20内における正確な位置情報を取得している必要がある。位置情報を取得する一例としては、GPSを含むGNSSを利用することが考えられるが、これらは、衛星からの信号を利用する都合上、洞窟20内にあっては正確に測定できない可能性がある。 By the way, the display device 100 appropriately displays an AR image according to the position of the user 10 and thus the device itself within the cave 20 . In other words, the user 10 can freely move around in the cave 20, and at that time, the AR image displayed on the wall of the cave 20 or the like is displayed without deviating from the wall according to the location of the user 10. Entertainment highly desirable. However, in order to realize this control, the display device 100 needs to acquire accurate positional information of the display device 100 inside the cave 20 . As an example of acquiring position information, GNSS including GPS may be used, but due to the convenience of using signals from satellites, there is a possibility that accurate measurement cannot be performed inside the cave 20. .

そのため、本来図3の状態で表示されるべきAR画像31の表示装置100における表示位置がずれて、図5に一例を示すように、AR画像31が、洞窟20の壁面内に位置するように制御される可能性がある。この場合、AR画像31は洞窟20内の壁面32内に埋もれるようにして表示されることになるので、エンターテイメントとしてユーザ10に確認してもらうべき情報が確認してもらえないとともに、製作者側が意図したエンターテイメントとしての質が低下するという問題を生じる。 Therefore, the display position of the AR image 31 on the display device 100, which should be displayed in the state shown in FIG. may be controlled. In this case, since the AR image 31 is displayed so as to be buried in the wall surface 32 of the cave 20, the information that should be confirmed by the user 10 cannot be confirmed as entertainment, and the creator side cannot confirm the information. A problem arises in that the quality of the entertainment that is played is degraded.

そこで、本実施形態に係る表示装置100は、図6に示すように、洞窟20内において、仮想基準線61を設定する。仮想基準線61は、洞窟20の壁面32よりも内側に設定される仮想的な境界線であって、表示装置100(ユーザ10)の位置が、この仮想基準線61を超えた場合に、表示装置100がAR画像の表示位置を補正するトリガとするための境界線である。仮想基準線61の位置は、洞窟20の壁面32に重畳するように表示されるべきAR画像31に対応付けられて記憶部140に記憶される。したがって、AR画像31の表示位置が本来表示されることが望まれている位置からずれた場合には、仮想基準線61も共にずれることになる。洞窟20内においては、ユーザ10が行動可能な範囲は予め定められていることが多い。そのような状況下にあって、図7に示すように、仮想基準線61を表示装置100が超えて壁面32寄りに移動した場合には、AR画像31は、壁面32内に表示される可能性がより高くなる。そこで、本実施形態に係る表示装置100は、図7に示すように、AR画像31の表示位置を補正する。具体的には、ユーザ10(表示装置100)が超えた側の仮想基準線61に対応する側のAR画像31、即ち、相対的にユーザ10に近い方のAR画像31をユーザから遠ざけるようにAR画像31の表示位置を補正する。言い換えれば、ユーザ10から遠い側の壁面に対応するAR画像31の表示位置は、ユーザに近づくことになる。即ち、表示装置100は、AR画像31をユーザ10寄りに、即ち、矢印70で示されるように、表示位置をずらす。表示装置100は、AR画像31が正確に表示されていようといまいと表示位置をユーザ10側にずらすが、これは、AR画像31の表示位置が大きくずれると製作者側が意図しない表現となってエンターテイメントとしてマイナスとなる可能性があるからである。 Therefore, the display device 100 according to the present embodiment sets a virtual reference line 61 inside the cave 20 as shown in FIG. The virtual reference line 61 is a virtual boundary line set inside the wall surface 32 of the cave 20, and when the position of the display device 100 (user 10) exceeds this virtual reference line 61, the display It is a boundary line for triggering the device 100 to correct the display position of the AR image. The position of the virtual reference line 61 is stored in the storage unit 140 in association with the AR image 31 to be displayed so as to be superimposed on the wall surface 32 of the cave 20 . Therefore, when the display position of the AR image 31 deviates from the desired display position, the virtual reference line 61 also deviates. Inside the cave 20, the range in which the user 10 can act is often predetermined. Under such circumstances, when the display device 100 moves over the virtual reference line 61 and moves toward the wall surface 32 as shown in FIG. become more sexual. Therefore, the display device 100 according to the present embodiment corrects the display position of the AR image 31 as shown in FIG. Specifically, the AR image 31 on the side corresponding to the virtual reference line 61 crossed by the user 10 (display device 100), that is, the AR image 31 relatively closer to the user 10 is moved away from the user. The display position of the AR image 31 is corrected. In other words, the display position of the AR image 31 corresponding to the wall surface farther from the user 10 is closer to the user. That is, the display device 100 shifts the display position of the AR image 31 toward the user 10 , that is, as indicated by the arrow 70 . The display device 100 shifts the display position to the user 10 side regardless of whether the AR image 31 is displayed accurately or not. This is because there is a possibility that it will be negative as entertainment.

その他の補正例としては、図13、あるいは、図14に示すようにAR画像31の表示位置を補正することとしてよい。 As another correction example, the display position of the AR image 31 may be corrected as shown in FIG. 13 or FIG.

図13の例では、AR画像31は、本来表示されるべき壁面32よりも下側(図13における下側、南側)にずれてしまっている例を示している。そうすると、図13に示すように、ユーザ10(表示装置100)が、下がってきた仮想基準線61を超えることがある。このような場合には、図13の矢印71に示されるように、AR画像31の表示位置を補正する。即ち、ユーザ10(表示装置100)から見て、相対的に近い方のAR画像31をユーザ10から遠ざけるように、その表示位置を補正する。必然的に、ユーザ10(表示装置100)から見て、相対的に遠い方のAR画像31はユーザ10に近づくように表示位置が補正されることになる。 The example of FIG. 13 shows an example in which the AR image 31 is displaced downward (downward and southward in FIG. 13) from the wall surface 32 that should be displayed. Then, as shown in FIG. 13, the user 10 (display device 100) may cross the lowered virtual reference line 61 . In such a case, the display position of the AR image 31 is corrected as indicated by an arrow 71 in FIG. That is, the display position is corrected so that the AR image 31 that is relatively closer to the user 10 (display device 100 ) is moved away from the user 10 . Inevitably, the display position of the AR image 31 that is relatively far from the user 10 (display device 100 ) is corrected so as to approach the user 10 .

図14に示す例では、AR画像31の表示位置が、紙面左斜め上方向にずれている例を示している。そうすると、図14に示すように、ユーザ10(表示装置100)が下側で仮想基準線61を超えることがある。このような場合には、図14の矢印72に示されるように、AR画像31の表示位置を補正する。即ち、ユーザ10(表示装置100)から見て、相対的に近い方のAR画像31をユーザ10から遠ざけるように、その表示位置を補正する。 The example shown in FIG. 14 shows an example in which the display position of the AR image 31 is shifted in the upper left direction of the paper surface. Then, as shown in FIG. 14, the user 10 (display device 100) may cross the virtual reference line 61 on the lower side. In such a case, the display position of the AR image 31 is corrected as indicated by an arrow 72 in FIG. That is, the display position is corrected so that the AR image 31 that is relatively closer to the user 10 (display device 100 ) is moved away from the user 10 .

なお、図6、図13、図14のAR画像31の表示位置の補正の方向であるが、これは、表示装置100の位置情報が、仮想基準線61を超えたと判定されたときの位置情報と、その前に取得された位置情報とから、特定される方向、即ち、前回(前々回やその前のものも含んでもよい)取得した位置情報から今回取得した位置情報に向かう向きを、AR画像31の表示位置をずらす方向としてよい。 The direction of correcting the display position of the AR image 31 in FIGS. And the direction specified from the position information acquired before that, that is, the direction from the position information acquired last time (may include the one before last and the one before that) to the position information acquired this time is displayed in the AR image. 31 may be shifted.

なお、仮想基準線61は、基本的には表示されずユーザ10はその位置を確認できないが、表示できるように構成してもよい。また、ユーザ10の行動範囲は、図6に示される状態の仮想基準線61よりも内側のみであることが望ましい。 Although the virtual reference line 61 is basically not displayed and the user 10 cannot confirm its position, it may be configured so that it can be displayed. Moreover, it is desirable that the range of action of the user 10 is only inside the virtual reference line 61 in the state shown in FIG.

以下、表示装置100について詳細に説明する。 The display device 100 will be described in detail below.

<構成>
図8は、表示装置100の構成例を示すブロック図である。図8に示すように、表示装置100は、表示部110と、位置情報取得部120と、撮像部130と、記憶部140と、制御部150と、入力部170とを備える。表示装置100の各部は、バス160を介して互いに通信可能に接続されてよい。なお、ここでは、表示装置100は撮像部130を備える例を説明するが、撮像部130は必須の構成ではない。
<Configuration>
FIG. 8 is a block diagram showing a configuration example of the display device 100. As shown in FIG. As shown in FIG. 8 , display device 100 includes display unit 110 , position information acquisition unit 120 , imaging unit 130 , storage unit 140 , control unit 150 , and input unit 170 . Each unit of the display device 100 may be communicably connected to each other via the bus 160 . Here, an example in which the display device 100 includes the imaging unit 130 will be described, but the imaging unit 130 is not an essential component.

表示装置100は、ユーザ10により装着されて、画像を表示して提供する装置であり、例えば、ヘッドマウントディスプレイやウェアラブルグラスにより実現される。 The display device 100 is a device worn by the user 10 to display and provide an image, and is realized by, for example, a head-mounted display or wearable glasses.

表示部110は、制御部150により指定される画像を表示する機能を有するモニタである。表示部110は、表示装置100がウェアラブルグラスの場合には、透過型スクリーンにより実現されるものであってもよい。即ち、表示部110は、眼鏡としてのレンズとして機能してもよい。表示部110は、一例として、洞窟20内で洞窟20の壁面32等に重畳するように、あるいは、洞窟20内の指定の場所、あるいは、ユーザ10から見て、定められた距離及び方向に、制御部150から指定されるAR画像を表示する。 Display unit 110 is a monitor having a function of displaying an image designated by control unit 150 . The display unit 110 may be realized by a transmissive screen when the display device 100 is wearable glasses. In other words, the display unit 110 may function as a lens as eyeglasses. As an example, the display unit 110 is superimposed on the wall surface 32 of the cave 20 in the cave 20, or at a specified location in the cave 20, or at a predetermined distance and direction as viewed from the user 10. An AR image specified by the control unit 150 is displayed.

位置情報取得部120は、洞窟20における表示装置100の位置を示す位置情報を取得する。位置情報取得部120は、洞窟20における表示装置100の絶対座標を位置情報として取得することとしてもよいし、洞窟20に対する相対座標による位置情報を取得することとしてもよい。位置情報取得部120は、一例として、GPSを含むGNSS等を利用した測位システムにより、表示装置100の位置情報を取得することとしてよい。また、例えば、位置情報取得部120は、表示装置100に取り付けたカメラや赤外線センサによって周囲の環境をスキャンして位置や姿勢を特定するインサイド・アウト方式や、部屋の天井や壁に設置したカメラや赤外線照射デバイスを用いてマーカーや表示装置100の位置や姿勢を取得するアウトサイド・イン方式を用いて位置を特定することとしてよい。なお、赤外線以外に、例えば、UWB(Ultra Wide Band)帯を用いたRF(Radio Frequency)ベースの通信方式を利用したポジショントラッキングを用いてもよい。あるいは、位置情報取得部120は、洞窟20に設置されたビーコン発生器から発せられたビーコンを受信し、そのビーコンに含まれるビーコン発生器の位置を表示装置の位置情報として取得してもよい。位置情報取得部120は、取得した位置情報を制御部150に伝達する。また、位置情報取得部120は、6軸センサ(3軸の向きと、加速度)を含んでよく、表示装置100の位置とともに、表示装置100の向きや高さの情報を取得し、位置情報に含ませて制御部150に伝達することとしてよい。 The position information acquisition unit 120 acquires position information indicating the position of the display device 100 in the cave 20 . The position information acquisition unit 120 may acquire absolute coordinates of the display device 100 in the cave 20 as position information, or may acquire position information by relative coordinates with respect to the cave 20 . For example, the position information acquisition unit 120 may acquire the position information of the display device 100 using a positioning system using GNSS including GPS. Further, for example, the position information acquisition unit 120 may use a camera or an infrared sensor attached to the display device 100 to scan the surrounding environment and identify the position and orientation using an inside-out method, or a camera installed on the ceiling or wall of the room. The position may be specified using an outside-in method that acquires the position and orientation of the marker or the display device 100 using an infrared irradiation device. In addition to infrared rays, for example, position tracking using an RF (Radio Frequency)-based communication system using a UWB (Ultra Wide Band) band may be used. Alternatively, the position information acquisition unit 120 may receive a beacon emitted from a beacon generator installed in the cave 20 and acquire the position of the beacon generator included in the beacon as the position information of the display device. The position information acquisition unit 120 transmits the acquired position information to the control unit 150 . In addition, the position information acquisition unit 120 may include a 6-axis sensor (3-axis orientation and acceleration), acquires information on the orientation and height of the display device 100 as well as the position of the display device 100, and uses the position information as the position information. It may be transmitted to the control unit 150 while being included.

撮像部130は、表示装置100の正面方向を撮像可能なカメラである。撮像部130は、深度カメラであってもよく、撮像対象までの距離を取得可能なものであってもよく、それによって、表示装置100から撮像対象(例えば、壁面32)までの距離を測定可能なものであってもよい。撮像部130は、撮像により得られた映像(画像)を制御部150に伝達する。 The imaging unit 130 is a camera capable of imaging the front direction of the display device 100 . The imaging unit 130 may be a depth camera, and may be capable of acquiring the distance to the imaging target, thereby measuring the distance from the display device 100 to the imaging target (for example, the wall surface 32). can be anything. The imaging unit 130 transmits a video (image) obtained by imaging to the control unit 150 .

記憶部140は、表示装置100が動作上必要とする各種のプログラム及びデータを記憶する機能を有する記憶媒体である。記憶部140は、例えば、HDD(Hard Disc Drive)、SSD(Solid State Drive)、フラッシュメモリ等により実現することができる。記憶部140は、洞窟20内で表示するAR画像に関する情報を記憶する。また、記憶部140は、仮想基準線61の位置を示す情報を記憶する。 The storage unit 140 is a storage medium having a function of storing various programs and data required for the display device 100 to operate. The storage unit 140 can be implemented by, for example, a HDD (Hard Disc Drive), SSD (Solid State Drive), flash memory, or the like. The storage unit 140 stores information regarding AR images to be displayed inside the cave 20 . The storage unit 140 also stores information indicating the position of the virtual reference line 61 .

制御部150は、記憶部140に記憶されている各種プログラムを実行して、表示装置100の各部を制御する機能を有するプロセッサである。制御部150は、各プログラムを実行することにより、表示制御部151、判定部152、補正部153、調整部154としての機能を実現する。 The control unit 150 is a processor having a function of executing various programs stored in the storage unit 140 and controlling each unit of the display device 100 . The control unit 150 realizes functions as a display control unit 151, a determination unit 152, a correction unit 153, and an adjustment unit 154 by executing each program.

表示制御部151は、表示部110(レンズ)を通して見える範囲内の所定の空間、即ち、洞窟20の壁面に対して所定の仮想画像が重畳されるように、仮想画像を表示部110に表示させる。また、表示制御部151は、撮像部130が撮像した撮像画像に含まれる所定の空間、つまり、洞窟20の壁面に対して所定の仮想画像(AR画像31)を重畳して表示部110に表示させることとしてもよい。表示制御部151は、位置情報取得部120から伝達された表示装置100の位置情報、姿勢情報、高さ情報などの情報に基づき、洞窟20内における表示装置100の位置や姿勢を特定する。そして、表示制御部151は、特定した位置、姿勢の場合にユーザから見えるはずの映像(AR画像)を、記憶部140に記憶されているプログラムやデータを用いて生成し、表示部110に表示させる。 The display control unit 151 causes the display unit 110 to display a virtual image such that the predetermined virtual image is superimposed on a predetermined space within a range visible through the display unit 110 (lens), that is, the wall surface of the cave 20. . In addition, the display control unit 151 superimposes a predetermined virtual image (AR image 31) on a predetermined space included in the captured image captured by the imaging unit 130, that is, the wall surface of the cave 20, and displays the virtual image (AR image 31) on the display unit 110. It is also possible to let The display control unit 151 identifies the position and orientation of the display device 100 inside the cave 20 based on information such as the position information, orientation information, and height information of the display device 100 transmitted from the position information acquisition unit 120 . Then, the display control unit 151 generates an image (AR image) that should be visible to the user in the specified position and posture using the program and data stored in the storage unit 140, and displays the image on the display unit 110. Let

判定部152は、位置情報取得部120から伝達された表示装置100の位置情報に基づいて、所定の空間、即ち、洞窟20内において、その壁面よりも内側に設定されている仮想基準線61よりも外側に表示装置100が位置するか否かを判定する。換言すると、判定部152は、所定の空間における中央側から、壁面に向かう外側に向かって、仮想基準線61を表示装置100が超えたか否かを判定する。判定部152は、仮想基準線61よりも外側に表示装置100が位置すると判定した場合には、その旨を補正部153に伝達する。 Based on the position information of the display device 100 transmitted from the position information acquisition unit 120, the determination unit 152 determines the position of the predetermined space, that is, the inside of the cave 20, relative to the virtual reference line 61 set inside the wall surface. It is determined whether or not the display device 100 is located on the outer side of the In other words, the determination unit 152 determines whether or not the display device 100 has crossed the virtual reference line 61 from the central side of the predetermined space toward the outside toward the wall surface. If the determination unit 152 determines that the display device 100 is positioned outside the virtual reference line 61 , the determination unit 152 notifies the correction unit 153 to that effect.

補正部153は、判定部152から、表示装置100が仮想基準線61よりも外側に表示装置100が位置すると判定したことを通知された場合に、所定の空間の壁面に表示するAR画像の表示位置を補正する。補正部153は、表示装置100が仮想基準線61を超えたときに表示装置100が超えた仮想基準線61に対応する部分のAR画像が相対的に表示装置100から遠ざかるように、AR画像の表示位置を補正する。一例として、補正部153は、AR画像の表示位置として設定された位置(一度以上補正された後の位置である可能性もある)から、ユーザ10から相対的に遠ざかる方向に所定距離(例えば、10cmとしてよいが、これに限定するものではない)だけ移動させた位置を表示位置に補正する。したがって、ユーザ10から見ると、ユーザ10に近い方の壁面32に重畳するように表示されるべきAR画像31がユーザ10から遠ざかるように表示され、ユーザ10に遠い方の壁面32に重畳するように表示されるべきAR画像31はユーザ10に近づくように表示されることになる。なお、表示装置100は、超音波センサ等を備えて、表示装置100から最も近い壁面までの距離を特定し、特定した壁面までの距離に応じて、AR画像を表示する表示位置を変更する距離を特定し、特定した距離だけ移動させることで補正することとしてもよい。 When notified by the determination unit 152 that the display device 100 is positioned outside the virtual reference line 61, the correction unit 153 displays the AR image on the wall surface of the predetermined space. Correct the position. The correction unit 153 corrects the AR image so that the portion of the AR image corresponding to the virtual reference line 61 over which the display device 100 crosses the virtual reference line 61 moves relatively away from the display device 100 when the display device 100 crosses the virtual reference line 61 . Correct the display position. As an example, the correction unit 153 moves a predetermined distance (for example, 10 cm, but not limited to this) is corrected to the display position. Therefore, when viewed from the user 10 , the AR image 31 that should be superimposed on the wall surface 32 closer to the user 10 is displayed away from the user 10 and superimposed on the wall surface 32 farther from the user 10 . The AR image 31 to be displayed in , is displayed so as to approach the user 10 . Note that the display device 100 includes an ultrasonic sensor or the like to specify the distance from the display device 100 to the nearest wall surface, and according to the specified distance to the wall surface, the display position for displaying the AR image is changed. may be specified and corrected by moving by the specified distance.

調整部154は、所定の空間、即ち、洞窟20内に設置された所定の場所、例えば、チェックポイントなどにおいて、ユーザからの入力に基づいて、表示するAR画像の位置を調整するためのキャリブレーションを実行する。調整部154によるキャリブレーションは、補正部153による画像の表示位置の補正と異なり、厳密なAR画像の表示位置の調整を行うものである。 The adjustment unit 154 performs calibration for adjusting the position of the AR image to be displayed based on the input from the user in a predetermined space, that is, a predetermined place installed in the cave 20, such as a checkpoint. to run. Unlike the correction of the image display position by the correction unit 153, the calibration by the adjustment unit 154 performs strict adjustment of the display position of the AR image.

入力部170は、ユーザ10からの入力を受け付ける入力インターフェースである。入力部170は、表示装置100に設けられたハードキー等により実現されることとしてよい。入力部170は、入力された入力内容を制御部150に伝達する。 The input unit 170 is an input interface that receives input from the user 10 . The input unit 170 may be realized by hardware keys or the like provided on the display device 100 . The input unit 170 transmits input contents to the control unit 150 .

以上が、表示装置100の構成例である。 The above is the configuration example of the display device 100 .

<動作>
図9を用いて、表示装置100の動作例を説明する。
<Action>
An operation example of the display device 100 will be described with reference to FIG.

表示装置100の制御部150は、表示装置100がAR画像を表示する上での初期設定を行う(ステップS901)。ここでいう初期設定には、所定の空間としての洞窟20における初期位置とAR画像の表示位置との位置合わせを行うことを含んでよい。なお、初期設定は必須ではない。 The control unit 150 of the display device 100 performs initial settings for displaying an AR image on the display device 100 (step S901). The initial setting here may include aligning the initial position in the cave 20 as a predetermined space with the display position of the AR image. Initial setting is not required.

ユーザ10は、表示装置100を装着して、洞窟20内の探索を開始する(ステップS902)。 The user 10 wears the display device 100 and starts searching inside the cave 20 (step S902).

表示装置100の位置情報取得部120は、逐次、表示装置100の位置を示す位置情報を取得する(ステップS903)。位置情報取得部120は、得られた位置情報及び表示装置100の姿勢や高さを示す情報を、制御部150に伝達する。制御部150の判定部152は、伝達された位置情報と、記憶部140に記憶されている仮想基準線61の位置とに基づいて、仮想基準線61の外側に表示装置100が位置するか否かを判定する(ステップS904)。 The position information acquisition unit 120 of the display device 100 sequentially acquires position information indicating the position of the display device 100 (step S903). The position information acquisition unit 120 transmits the obtained position information and information indicating the orientation and height of the display device 100 to the control unit 150 . Based on the transmitted position information and the position of the virtual reference line 61 stored in the storage unit 140, the determination unit 152 of the control unit 150 determines whether the display device 100 is positioned outside the virtual reference line 61. (step S904).

判定部152は、仮想基準線61の外側に表示装置100が位置すると判定した場合には(ステップS904のYES)、その旨を補正部153に伝達する。補正部153は、判定部152から表示装置100が仮想基準線61よりも外側に位置する旨を伝達された場合には、表示装置100が超えた仮想基準線61に対応するAR画像の表示位置が、相対的にユーザ10(表示装置100)から遠ざかる位置になるように、表示位置の補正を実行する(ステップS905)。表示制御部151は、補正後の表示位置に従って、AR画像を表示部110に表示させる。 If the determination unit 152 determines that the display device 100 is positioned outside the virtual reference line 61 (YES in step S904), the determination unit 152 notifies the correction unit 153 to that effect. When the determination unit 152 notifies the correction unit 153 that the display device 100 is positioned outside the virtual reference line 61, the correction unit 153 adjusts the display position of the AR image corresponding to the virtual reference line 61 over which the display device 100 has crossed. is relatively far away from the user 10 (display device 100) (step S905). The display control unit 151 causes the display unit 110 to display the AR image according to the corrected display position.

表示装置100は、入力部170に対してユーザ10からキャリブレーションの実行入力を受け付けているか否かを判定する(ステップS906)。受け付けていない場合には(ステップS906のNO)、ステップS908の処理に移行する。キャリブレーションの実行入力を受け付けている場合には(ステップS906のYES)、調整部154は、ユーザの位置、即ち、表示装置100の位置と、撮像部130が撮像した撮像画像に基づいて、キャリブレーションを実行し(ステップS907)、ステップS908の処理に移行する。 The display device 100 determines whether or not a calibration execution input is received from the user 10 to the input unit 170 (step S906). If not accepted (NO in step S906), the process proceeds to step S908. If an input to execute calibration has been received (YES in step S906), the adjustment unit 154 performs calibration based on the user's position, that is, the position of the display device 100 and the captured image captured by the imaging unit 130. (step S907), and the process proceeds to step S908.

表示装置100は、ユーザ10からのAR画像の表示の終了入力を受け付けたか否かを判定する(ステップS908)。そして、終了入力を受け付けていない場合には(ステップS908のNO)、ステップS903の処理に戻り、受け付けた場合には(ステップS908のYES)、処理を終了する。 The display device 100 determines whether or not an AR image display end input has been received from the user 10 (step S908). If an end input has not been received (NO in step S908), the process returns to step S903, and if it has been received (YES in step S908), the process ends.

以上が、表示装置100の動作例の説明である。なお、ステップS904、S905の処理と、ステップS906、S907の処理とは、互いに並列に実行されてもよいし、その実行順序が前後してもよい。 The above is the description of the operation example of the display device 100 . Note that the processing of steps S904 and S905 and the processing of steps S906 and S907 may be executed in parallel with each other, or their execution order may be reversed.

<まとめ>
上記実施の形態に示した表示装置100は、所定の空間内の通路等において所定の空間における壁面よりも内側に位置するように設定された仮想基準線を越えて、外側に自装置が位置すると判定した場合に、壁面内に表示される可能性がある仮想画像の表示位置を補正することができる。結果、ユーザが仮想画像を視認できないという可能性を抑制することができる。
<Summary>
The display device 100 shown in the above embodiment crosses a virtual reference line set so as to be positioned inside a wall surface in a predetermined space in a passage or the like in a predetermined space, and when the display device 100 is positioned outside When the determination is made, the display position of the virtual image that may be displayed within the wall surface can be corrected. As a result, it is possible to suppress the possibility that the user cannot visually recognize the virtual image.

<補足>
上記実施の形態に係る表示装置は、上記実施の形態に限定されるものではなく、他の手法により実現されてもよいことは言うまでもない。以下、各種変形例について説明する。
<Supplement>
Needless to say, the display device according to the above embodiment is not limited to the above embodiment, and may be realized by other methods. Various modifications will be described below.

(1) 上記実施形態において、表示装置100が全ての機能を実現する例を示したが、これはその限りではない。表示装置100を含む複数の装置により、上記実施形態に示した機能を実現することとしてもよい。例えば、表示装置100に表示するAR画像を、外部の装置が生成し、外部の装置が生成したAR画像とその表示位置を、通信により表示装置100に送信する。表示装置100は、当該外部の装置と無線により通信を実行する通信部を備えることとしてよい。通信部は、外部の装置が生成したAR画像とその表示位置の情報を受信し、受信したAR画像を指定されている表示位置に表示する。このように、表示装置100の機能は複数の装置により実現されるものであってもよい。 (1) In the above-described embodiment, an example in which the display device 100 implements all the functions was shown, but this is not the only option. A plurality of devices including the display device 100 may realize the functions described in the above embodiments. For example, an external device generates an AR image to be displayed on the display device 100, and the AR image generated by the external device and its display position are transmitted to the display device 100 by communication. The display device 100 may include a communication unit that wirelessly communicates with the external device. The communication unit receives information about an AR image generated by an external device and its display position, and displays the received AR image at the designated display position. Thus, the functions of the display device 100 may be realized by multiple devices.

(2) 上記実施形態において、仮想基準線61を、洞窟20の壁面32の形状に沿う態様で設定する例を説明したが、仮想基準線61は、壁面32よりも内側に設定されていればよく、壁面32の形状に沿う必要はない。図10は、仮想基準線61の他の例を示す図である。図10は、洞窟20を進行方向に向かって見た場合の正面図である。図10の例では、仮想基準線61を図示の通り、矩形状に設定した例を示している。鉱山や洞窟における坑道は、基本的には、人間が通行可能な進行ルートが設定されている。その進行ルートに沿う態様で矩形状の筒状に仮想基準線61を設定するようにしてもよい。また、仮想基準線61の壁面32からの距離は、洞窟20全体を通して一定であってもよいし、一定でなくてもよい。例えば、洞窟20内の通路が狭い場所では壁面32からの距離が短くなるように、洞窟20内の通路が広い場所では壁面32からの距離が長くなるように仮想基準線61の位置を設定することとしてよい。 (2) In the above-described embodiment, the virtual reference line 61 is set along the shape of the wall surface 32 of the cave 20. However, if the virtual reference line 61 is set inside the wall surface 32, Well, it doesn't have to follow the shape of the wall surface 32 . FIG. 10 is a diagram showing another example of the virtual reference line 61. As shown in FIG. FIG. 10 is a front view when the cave 20 is viewed in the direction of travel. The example of FIG. 10 shows an example in which the virtual reference line 61 is set in a rectangular shape as illustrated. The tunnels in mines and caves basically have routes that humans can pass through. The imaginary reference line 61 may be set in a rectangular cylindrical shape along the traveling route. Also, the distance of the virtual reference line 61 from the wall surface 32 may be constant throughout the cave 20, or may not be constant. For example, the position of the virtual reference line 61 is set so that the distance from the wall surface 32 is short where the passage in the cave 20 is narrow, and the distance from the wall surface 32 is long where the passage in the cave 20 is wide. It is good as a thing.

(3) 上記実施形態において、ユーザ10が洞窟20内を行動する例を示したが、ユーザ10が行動する場所は、壁面が存在するような場所であればどこであってよい。例えば、ユーザ10が行動する場所は、一例として、ビルの中などであってもよいし、トンネルの中などであってもよいし、立体迷路などであってもよい。 (3) In the above embodiment, the user 10 acts in the cave 20 as an example, but the user 10 may act anywhere as long as there is a wall. For example, the place where the user 10 acts may be, for example, in a building, in a tunnel, or in a three-dimensional maze.

(4) 上記実施の形態においては、特に記載していなかったが、ユーザは、バーチャル映像世界に影響を与えるためのコントローラを保持してもよい。その場合に、当該コントローラは、所定の空間(洞窟20)内での位置、及び、向きを特定できるようにセンサを備え、仮想映像に影響させてもよい。ここで、影響とは、例えば、コントローラを懐中電灯と見立てて、ユーザが保持しているコントローラの向きに応じて、映像世界内を明るく照らすように映像を加工してもよいし、コントローラを銃に見立てて、映像世界内で、ユーザが引き金を引いたら、コントローラを向けている方向に向けて銃撃を行うように映像を加工してもよい。なお、ここで、コントローラを利用した映像の加工例は一例であり、その他の加工を行ってもよいし、コントローラを別の事物にみたててもよい。 (4) Although not specifically described in the above embodiment, the user may hold a controller for influencing the virtual image world. In that case, the controller may be equipped with a sensor so that the position and orientation within the predetermined space (cave 20) can be specified, and the virtual image may be affected. Here, the influence may be, for example, treating the controller as a flashlight and processing the image so as to brightly illuminate the image world according to the orientation of the controller held by the user, or using the controller as a gun. , the image may be processed so that when the user pulls the trigger in the image world, the gun is shot in the direction the controller is pointed. Note that the example of image processing using the controller is an example, and other processing may be performed, and the controller may be regarded as another thing.

(5) 上記実施の形態に示した調整部154によるキャリブレーションの一例を図11、図12を用いて説明する。 (5) An example of calibration by the adjustment unit 154 shown in the above embodiment will be described with reference to FIGS. 11 and 12. FIG.

洞窟20内においては、キャリブレーションを実行するためのチェックポイントが1以上設定されてもよい。キャリブレーションはAR画像の表示位置の調整を行うことをいう。より具体的には、ここでいうキャリブレーションは、洞窟20内において、予め正確な位置を測定し、その位置において、表示装置100がどのようにAR画像を表示すべきかが定められている場所で、表示装置100から設定されている見え方がされるように表示装置100の位置情報(表示装置100の向き、高さを含む)とAR画像の表示位置との位置合わせを行うことをいう。図11には、洞窟20内に、チェックポイント1101、1102を設けた例を示している。 One or more checkpoints may be set in the cave 20 for performing calibration. Calibration means adjusting the display position of the AR image. More specifically, the calibration here means that the accurate position is measured in advance in the cave 20, and at that position, how the display device 100 should display the AR image is determined. , aligning the position information of the display device 100 (including the orientation and height of the display device 100) with the display position of the AR image so that the display device 100 can be viewed in a set manner. FIG. 11 shows an example in which checkpoints 1101 and 1102 are provided inside the cave 20 .

ユーザ10は、チェックポイント1101、1102に到達するとキャリブレーションを実行するための所定の入力(例えば、表示装置100に設けられた特定のボタンの押下など)を行う。すると、表示制御部151は、図12(a)のメッセージ1204に示すように、ユーザ10にとって欲しい行動を示す文章を表示する。ここでは、表示制御部151は、カーソル1203を表示し、そのカーソル1203が、洞窟20内のチェックポイント1101として設けられたオブジェクトとの位置合わせを行うためのメッセージを表示した場合の例を示している。ユーザ10は、カーソル1203がチェックポイント1101として設けられているオブジェクトと合うように自身の位置や見る方向を調整する。そして、図12(b)に示すように、カーソル1203とオブジェクトとの位置合わせを行い、調整部154は、この時に取得される表示装置100の位置情報と、オブジェクト(チェックポイント1101)の位置とに基づいて、AR画像を表示する表示位置を決定するためのキャリブレーションを行う。このようにして、所定の空間内の各所において、適宜、正確なAR画像の表示位置の位置合わせを行うように構成してもよい。 When the user 10 reaches the checkpoints 1101 and 1102, the user 10 performs a predetermined input (for example, pressing a specific button provided on the display device 100) for executing calibration. Then, the display control unit 151 displays a sentence indicating an action desired for the user 10, as shown in a message 1204 in FIG. 12(a). Here, an example in which the display control unit 151 displays a cursor 1203 and displays a message for aligning the cursor 1203 with an object provided as a checkpoint 1101 in the cave 20 is shown. there is The user 10 adjusts his position and viewing direction so that the cursor 1203 is aligned with the object provided as the checkpoint 1101 . Then, as shown in FIG. 12B, the cursor 1203 is aligned with the object, and the adjustment unit 154 aligns the acquired position information of the display device 100 with the position of the object (checkpoint 1101). calibration for determining the display position for displaying the AR image. In this way, the display positions of the AR images may be appropriately aligned in various places within a predetermined space.

なお、ここでは、撮像部130から撮像された撮像画像に基づいて、カーソル1203が、オブジェクトとの位置合わせができていることを確認できるようにして、キャリブレーションを実行する例を示したが、これはその限りではない。表示部110(レンズ)を通して視認できる視野において、ユーザ10が、カーソル1203が、オブジェクトとの位置合わせができていると確認できたタイミングで、表示装置100の入力部170に対する入力を行うことで、そのときの位置情報に基づいて、キャリブレーションを実行するようにしてもよい。 Here, an example is shown in which calibration is performed by confirming that the cursor 1203 is aligned with the object based on the captured image captured by the imaging unit 130. This is not limited to that. By performing an input to the input unit 170 of the display device 100 at the timing when the user 10 can confirm that the cursor 1203 is aligned with the object in the visual field visible through the display unit 110 (lens), Calibration may be executed based on the position information at that time.

また、ここでは、チェックポイントとして、オブジェクトを用いる例を示したが、これは、所定の画像が洞窟20の壁面等に貼られたものを利用してもよく、その所定の画像は、二次元バーコード等の何らかの情報が盛り込まれた画像であってもよい。二次元バーコードを用いる場合には、ユーザ10から表示装置100に対する入力ではなく、撮像部130が二次元バーコードを読み取ったことをトリガとして、調整部154によるキャリブレーションを開始することとしてもよい。 Also, although an example of using an object as a checkpoint is shown here, a predetermined image pasted on the wall of the cave 20 or the like may be used, and the predetermined image may be a two-dimensional object. It may be an image containing some information such as a bar code. When a two-dimensional barcode is used, calibration by the adjustment unit 154 may be started not by an input from the user 10 to the display device 100 but by the reading of the two-dimensional barcode by the imaging unit 130 as a trigger. .

(6) また、上記実施の形態においては、表示装置100においてユーザの移動に伴う映像を提供する手法として、表示装置のプロセッサが仮想画像表示プログラム等を実行することにより、実現することとしているが、これは装置に集積回路(IC(Integrated Circuit)チップ、LSI(Large Scale Integration))等に形成された論理回路(ハードウェア)や専用回路によって実現してもよい。また、これらの回路は、1または複数の集積回路により実現されてよく、上記実施の形態に示した複数の機能部の機能を1つの集積回路により実現されることとしてもよい。LSIは、集積度の違いにより、VLSI、スーパーLSI、ウルトラLSIなどと呼称されることもある。 (6) In addition, in the above-described embodiment, the method of providing an image accompanying the movement of the user on the display device 100 is implemented by the processor of the display device executing a virtual image display program or the like. This may be realized by a logic circuit (hardware) or a dedicated circuit formed in an integrated circuit (IC (Integrated Circuit) chip, LSI (Large Scale Integration)) or the like in the device. Moreover, these circuits may be realized by one or more integrated circuits, and the functions of the plurality of functional units shown in the above embodiments may be realized by one integrated circuit. LSIs are sometimes called VLSIs, super LSIs, ultra LSIs, etc., depending on the degree of integration.

また、上記仮想画像表示プログラムは、プロセッサが読み取り可能な記録媒体に記録されていてよく、記録媒体としては、「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記仮想画像表示プログラムは、当該仮想画像表示プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記プロセッサに供給されてもよい。本発明は、上記仮想画像表示プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。 The virtual image display program may be recorded on a processor-readable recording medium, and the recording medium may be a "non-temporary tangible medium" such as a tape, disk, card, semiconductor memory, or programmable. A logic circuit or the like can be used. Further, the virtual image display program may be supplied to the processor via any transmission medium (communication network, broadcast wave, etc.) capable of transmitting the virtual image display program. The invention may also be embodied in the form of a data signal embedded in a carrier wave in which the virtual image display program is embodied by electronic transmission.

なお、上記仮想画像表示プログラムは、例えば、ActionScript、JavaScript(登録商標)などのスクリプト言語、Objective-C、Java(登録商標)などのオブジェクト指向プログラミング言語、HTML5などのマークアップ言語などを用いて実装できる。 The virtual image display program is implemented using script languages such as ActionScript and JavaScript (registered trademark), object-oriented programming languages such as Objective-C and Java (registered trademark), and markup languages such as HTML5. can.

(7)上記実施の形態、及び、各補足に示した各種の変形例は、適宜、組み合わせることとしてもよい。 (7) The above-described embodiment and various modifications shown in each supplement may be combined as appropriate.

20 坑道
31 AR画像
32 坑道壁面
61 仮想基準線
100 表示装置
110 表示部
120 位置情報取得部
130 撮像部
140 記憶部
150 制御部
151 表示制御部
152 判定部
153 補正部
154 調整部
20 tunnel 31 AR image 32 tunnel wall 61 virtual reference line 100 display device 110 display unit 120 position information acquisition unit 130 imaging unit 140 storage unit 150 control unit 151 display control unit 152 determination unit 153 correction unit 154 adjustment unit

Claims (9)

画像を表示する表示部と、
自装置の位置を取得する位置情報取得部と、
所定の空間の壁面に対して所定の仮想画像を重畳するように前記表示部に表示させる表示制御部と、
前記所定の空間において、前記壁面に対して表示される仮想画像よりも内側に設けられた仮想基準線よりも外側に自装置が位置するか否かを判定する判定部と、
前記判定部が前記仮想基準線よりも外側に自装置が位置すると判定した場合に、所定の仮想画像の表示位置を補正する補正部と、
を備え、ユーザが装着する表示装置。
a display unit for displaying an image;
a location information acquisition unit that acquires the location of its own device;
a display control unit that causes the display unit to display a predetermined virtual image so as to be superimposed on a wall surface of a predetermined space;
a determination unit that determines whether or not the device is positioned outside a virtual reference line provided inside a virtual image displayed on the wall surface in the predetermined space;
a correction unit that corrects a display position of a predetermined virtual image when the determination unit determines that the device is positioned outside the virtual reference line;
A display device worn by a user.
前記補正部は、前記判定部が前記仮想基準線よりも外側に自装置が位置すると判定したときに、前記表示装置から相対的に近い前記所定の空間の壁面に表示すべき仮想画像の表示位置を、自装置から遠ざけるように補正する
ことを特徴とする請求項1記載の表示装置。
The correction unit determines a display position of the virtual image to be displayed on the wall surface of the predetermined space relatively close to the display device when the determination unit determines that the device is positioned outside the virtual reference line. 2. The display device according to claim 1, wherein the correction is made so as to keep the distance from the display device.
前記補正部は、前記判定部が前記仮想基準線よりも外側に自装置が位置すると判定したときに、前記表示装置から相対的に近い前記所定の空間の壁面に表示すべき仮想画像の表示位置を、所定距離だけ自装置から遠い位置に変更するよう補正する
ことを特徴とする請求項2記載の表示装置。
The correction unit determines a display position of the virtual image to be displayed on the wall surface of the predetermined space relatively close to the display device when the determination unit determines that the device is positioned outside the virtual reference line. 3. The display device according to claim 2, wherein the display device is corrected so as to be moved to a position farther from the device by a predetermined distance.
前記表示装置は、
前記ユーザの視野方向を撮像する撮像部を備え、
前記表示制御部は、前記撮像部により撮像される前記所定の空間に含まれる範囲内の所定の仮想画像を前記表示部に表示させる
ことを特徴とする請求項1~3のいずれか一項に記載の表示装置。
The display device
An imaging unit that captures the viewing direction of the user,
4. The display control unit according to any one of claims 1 to 3, wherein the display control unit causes the display unit to display a predetermined virtual image within a range included in the predetermined space captured by the imaging unit. Display device as described.
前記所定の空間の所定の位置には、仮想画像の表示位置を調整するために用いるオブジェクトが配置され、
前記表示装置は、前記撮像部により撮像された撮像画像であって前記オブジェクトを含む撮像画像を用いて、前記仮想画像の表示位置を調整するための調整部を備える
ことを特徴とする請求項4に記載の表示装置。
an object used for adjusting the display position of the virtual image is arranged at a predetermined position in the predetermined space;
5. The display device includes an adjustment unit for adjusting a display position of the virtual image using a captured image captured by the imaging unit and including the object. The display device according to .
前記所定の空間の所定の位置には、仮想画像の表示位置を調整するために用いるオブジェクトが配置され、
前記表示制御部は、前記オブジェクトとの位置関係を決定するための所定の画像を前記表示部に表示させるとともに、前記オブジェクトと前記所定の画像についての位置関係を指示するメッセージを前記表示部に表示させ、
前記表示装置は、
前記オブジェクトと前記所定の画像が前記位置関係になったことを示す入力を受け付ける入力部と、
前記入力部からの入力があった場合に、前記オブジェクトの前記の位置に基づいて、前記仮想画像の表示位置を調整するための調整部を備える
ことを特徴とする請求項1~3のいずれか一項に記載の表示装置。
an object used for adjusting the display position of the virtual image is arranged at a predetermined position in the predetermined space;
The display control unit causes the display unit to display a predetermined image for determining a positional relationship with the object, and displays a message indicating a positional relationship between the object and the predetermined image on the display unit. let
The display device
an input unit that receives an input indicating that the object and the predetermined image are in the positional relationship;
4. The apparatus according to any one of claims 1 to 3, further comprising an adjustment unit for adjusting a display position of the virtual image based on the position of the object when there is an input from the input unit. 1. The display device according to item 1.
前記仮想基準線は、前記所定の空間内において矩形状となるように設けられる
ことを特徴とする請求項1~6のいずれか一項に記載の表示装置。
The display device according to any one of claims 1 to 6, wherein the virtual reference line is provided in a rectangular shape within the predetermined space.
ユーザが装着し画像を表示する表示部を有する表示装置のコンピュータが、
自装置の位置を取得する位置情報取得ステップと、
所定の空間の壁面に対して所定の仮想画像を重畳して前記表示部に表示させる表示制御ステップと、
前記所定の空間において、前記壁面に対して表示される仮想画像よりも内側に設けられた仮想基準線よりも外側に自装置が位置するか否かを判定する判定ステップと、
前記判定ステップにおいて自装置が前記仮想基準線よりも外側に位置すると判定した場合に、所定の仮想画像の表示位置を補正する補正ステップと、
を実行する仮想画像表示方法。
A display device computer having a display unit worn by a user to display an image,
a position information obtaining step of obtaining the position of the own device;
a display control step of superimposing a predetermined virtual image on a wall surface of a predetermined space and causing the display unit to display the virtual image;
a determination step of determining whether or not the device is positioned outside a virtual reference line provided inside a virtual image displayed on the wall surface in the predetermined space;
a correction step of correcting a display position of a predetermined virtual image when it is determined in the determination step that the device is positioned outside the virtual reference line;
A virtual image display method that performs
ユーザが装着し画像を表示する表示部を有する表示装置のコンピュータに、
自装置の位置を取得する位置情報取得機能と、
所定の空間の壁面に対して所定の仮想画像を重畳して前記表示部に表示させる表示制御機能と、
前記所定の空間において、前記壁面に対して表示される仮想画像よりも内側に設けられた仮想基準線よりも外側に自装置が位置するか否かを判定する判定機能と、
前記判定機能が自装置が前記仮想基準線よりも外側に位置すると判定した場合に、所定の仮想画像の表示位置を補正する補正機能と、
を実現させる仮想画像表示プログラム。
A display device computer having a display unit worn by a user to display an image,
a location information acquisition function for acquiring the location of the device itself;
a display control function for superimposing a predetermined virtual image on a wall surface of a predetermined space and displaying it on the display unit;
a determination function for determining whether or not the device is positioned outside a virtual reference line provided inside a virtual image displayed on the wall surface in the predetermined space;
a correction function for correcting a display position of a predetermined virtual image when the determination function determines that the device is positioned outside the virtual reference line;
A virtual image display program that realizes
JP2021069492A 2021-04-16 2021-04-16 Display device, display method and its display program Active JP6968326B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021069492A JP6968326B1 (en) 2021-04-16 2021-04-16 Display device, display method and its display program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021069492A JP6968326B1 (en) 2021-04-16 2021-04-16 Display device, display method and its display program

Publications (2)

Publication Number Publication Date
JP6968326B1 JP6968326B1 (en) 2021-11-17
JP2022164170A true JP2022164170A (en) 2022-10-27

Family

ID=78509666

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021069492A Active JP6968326B1 (en) 2021-04-16 2021-04-16 Display device, display method and its display program

Country Status (1)

Country Link
JP (1) JP6968326B1 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018005005A (en) * 2016-07-04 2018-01-11 ソニー株式会社 Information processing device, information processing method, and program
WO2019187862A1 (en) * 2018-03-30 2019-10-03 ソニー株式会社 Information processing device, information processing method, and recording medium
JP2020095712A (en) * 2018-12-12 2020-06-18 レノボ・シンガポール・プライベート・リミテッド Information handling method, information handling device, and storage medium

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018005005A (en) * 2016-07-04 2018-01-11 ソニー株式会社 Information processing device, information processing method, and program
WO2019187862A1 (en) * 2018-03-30 2019-10-03 ソニー株式会社 Information processing device, information processing method, and recording medium
JP2020095712A (en) * 2018-12-12 2020-06-18 レノボ・シンガポール・プライベート・リミテッド Information handling method, information handling device, and storage medium

Also Published As

Publication number Publication date
JP6968326B1 (en) 2021-11-17

Similar Documents

Publication Publication Date Title
KR102410802B1 (en) Method, electronic device, and computer readable storage medium for indicating marker point positions
CN111465886B (en) Selective tracking of head mounted displays
EP3413013B1 (en) Information processing device, information processing method, and recording medium
JP6635037B2 (en) Information processing apparatus, information processing method, and program
CN108376424A (en) Method, apparatus, equipment and storage medium for carrying out view angle switch to three-dimensional virtual environment
CN109643014A (en) Head-mounted display tracking
US11365974B2 (en) Navigation system
CN110917616B (en) Orientation prompting method, device, equipment and storage medium in virtual scene
JP2013054661A (en) Information display system, information display method and program for information display
US8952956B2 (en) Computer-readable storage medium having stored therein display control program, display control apparatus, display control system, and display control method
US10140002B2 (en) Information processing apparatus, information processing method, and program
CN109844600A (en) Information processing equipment, information processing method and program
JP6250086B2 (en) Image display application and method for orientation sensitive display device
JP6665402B2 (en) Content display terminal, content providing system, content providing method, and content display program
JP5620719B2 (en) Information processing program, information processing apparatus, information processing system, and map display method
JP2013029921A (en) Pointing system, information processing system, setting method for coordinate system and the like, information processing device, and information processing program
JP6968326B1 (en) Display device, display method and its display program
WO2017212999A1 (en) Video generation device, video generation method, and video generation program
JP2023075236A (en) Locus display device
EP2533188A1 (en) Portable terminal, action history depiction method, and action history depiction system
CN107168521B (en) Film viewing guide method and device and head-mounted display equipment
KR102049924B1 (en) Display control device
JP2022140903A (en) Surveying device and surveying method using the same
CN113143185A (en) Gastroscope system, image display method and device and readable storage medium
ES2800275T3 (en) Control procedure of a calculation device through a mobile element and control system using this procedure

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210520

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210520

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210615

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210713

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210803

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20210902

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210902

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20210902

R150 Certificate of patent or registration of utility model

Ref document number: 6968326

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150