JP2022164170A - Display device, display method, and display program thereof - Google Patents
Display device, display method, and display program thereof Download PDFInfo
- Publication number
- JP2022164170A JP2022164170A JP2021069492A JP2021069492A JP2022164170A JP 2022164170 A JP2022164170 A JP 2022164170A JP 2021069492 A JP2021069492 A JP 2021069492A JP 2021069492 A JP2021069492 A JP 2021069492A JP 2022164170 A JP2022164170 A JP 2022164170A
- Authority
- JP
- Japan
- Prior art keywords
- display
- unit
- image
- display device
- predetermined
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 11
- 238000012937 correction Methods 0.000 claims abstract description 29
- 238000003384 imaging method Methods 0.000 claims description 21
- 238000010586 diagram Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 13
- 238000004891 communication Methods 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 239000011521 glass Substances 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 235000019994 cava Nutrition 0.000 description 1
- 239000013078 crystal Substances 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001568 sexual effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Processing Or Creating Images (AREA)
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
Description
本発明は、ユーザの位置に応じた画像を表示する表示装置に関する。 The present invention relates to a display device that displays an image according to the user's position.
従来、様々な遊興施設として立体迷路やお化け屋敷などを備える遊園地があり、多数のユーザにより楽しまれている。 2. Description of the Related Art Conventionally, there are amusement parks equipped with three-dimensional mazes, haunted houses, and the like as various amusement facilities, which are enjoyed by many users.
特許文献1には、そのような遊興施設において利用可能な電子機器に関する発明が開示されている。 Patent Literature 1 discloses an invention relating to electronic equipment that can be used in such amusement facilities.
ところで、特許文献1のように、ユーザがウェアラブル端末を装着して、ウェアラブル端末を通じて表示された映像によりエンターテインメントを提供することが考えられる。昨今においては、AR、MRなど、現実と仮想映像との組み合わせによるエンターテインメントが提供される。このようなエンターテインメントにあっては、ユーザの位置に応じた映像提供することが考えられるが、常時正しい位置情報を取得できるとは限らず、エンターテイメントの提供者が意図しない態様の映像が提供される可能性があった。 By the way, as in Patent Literature 1, it is conceivable that a user wears a wearable terminal and provides entertainment by images displayed through the wearable terminal. In recent years, entertainment such as AR and MR is provided by combining reality and virtual images. In such entertainment, it is conceivable to provide images according to the user's position, but it is not always possible to obtain correct position information, and images are provided in a manner not intended by the entertainment provider. It was possible.
そこで、本発明は上記要望に鑑みて成されたものであり、ユーザに対して、視聴して欲しい映像や画像を視認できる表示装置を提供することを目的とする。 SUMMARY OF THE INVENTION Accordingly, the present invention has been made in view of the above demands, and an object of the present invention is to provide a display device that allows a user to visually recognize a video or image that the user wants to view.
上記課題を解決するために、本発明の一態様に係る表示装置は、ユーザが装着する表示装置であって、画像を表示する表示部と、自装置の位置を取得する位置情報取得部と、所定の空間の壁面に対して所定の仮想画像を重畳するように表示部に表示させる表示制御部と、所定の空間において、壁面に対して表示される仮想画像よりも内側に設けられた仮想基準線よりも外側に自装置が位置するか否かを判定する判定部と、判定部が仮想基準線よりも外側に自装置が位置すると判定した場合に、所定の仮想画像の表示位置を補正する補正部と、を備える。 In order to solve the above problems, a display device according to an aspect of the present invention is a display device worn by a user, comprising: a display unit that displays an image; a position information acquisition unit that acquires the position of the own device; A display control unit that causes a display unit to display a predetermined virtual image so as to be superimposed on a wall surface of a predetermined space, and a virtual reference that is provided inside the virtual image displayed on the wall surface in the predetermined space. a determination unit for determining whether or not the device is positioned outside the line, and correcting the display position of the predetermined virtual image when the determination unit determines that the device is positioned outside the virtual reference line. and a correction unit.
上記課題を解決するために、本発明の一態様に係る仮想画像表示方法は、ユーザが装着し画像を表示する表示部を有する表示装置のコンピュータが、自装置の位置を取得する位置情報取得ステップと、所定の空間の壁面に対して所定の仮想画像を重畳して表示部に表示させる表示制御ステップと、所定の空間において、壁面に対して表示される仮想画像よりも内側に設けられた仮想基準線よりも外側に自装置が位置するか否かを判定する判定ステップと、判定ステップにおいて自装置が仮想基準線よりも外側に位置すると判定した場合に、所定の仮想画像の表示位置を補正する補正ステップと、を実行する。 In order to solve the above problems, a virtual image display method according to an aspect of the present invention includes a position information acquisition step in which a computer of a display device that is worn by a user and has a display unit that displays an image acquires the position of the device itself. a display control step of superimposing a predetermined virtual image on a wall surface of a predetermined space and displaying it on a display unit; and a virtual image provided inside the virtual image displayed on the wall surface in the predetermined space. a determination step of determining whether or not the device is positioned outside the reference line; and correction of the display position of a predetermined virtual image when the device is determined to be positioned outside the virtual reference line in the determination step. and a correction step.
上記課題を解決するために、本発明の一態様に係る仮想画像表示プログラムは、ユーザが装着し画像を表示する表示部を有する表示装置のコンピュータに、自装置の位置を取得する位置情報取得機能と、所定の空間の壁面に対して所定の仮想画像を重畳して表示部に表示させる表示制御機能と、所定の空間において、壁面に対して表示される仮想画像よりも内側に設けられた仮想基準線よりも外側に自装置が位置するか否かを判定する判定機能と、判定機能が自装置が仮想基準線よりも外側に位置すると判定した場合に、所定の仮想画像の表示位置を補正する補正機能と、を実現させる。 In order to solve the above problems, a virtual image display program according to an aspect of the present invention provides a computer of a display device that is worn by a user and has a display unit that displays an image. a display control function for superimposing a predetermined virtual image on the wall surface of a predetermined space and displaying it on the display unit; and a virtual image provided inside the virtual image displayed on the wall surface in the predetermined space. A determination function that determines whether or not the device is positioned outside the reference line, and correction of the display position of a predetermined virtual image when the determination function determines that the device is positioned outside the virtual reference line. and a correction function.
上記表示装置において、補正部は、前記判定部が前記仮想基準線よりも外側に自装置が位置すると判定したときに、前記表示装置から相対的に近い前記所定の空間の壁面に表示すべき仮想画像の表示位置を、自装置から遠ざけるように補正することとしてもよい。 In the above display device, the correction unit, when the determination unit determines that the device is positioned outside the virtual reference line, is configured to display a virtual image to be displayed on a wall surface of the predetermined space relatively close to the display device. The display position of the image may be corrected so as to move away from the own device.
上記表示装置において、補正部は、前記判定部が前記仮想基準線よりも外側に自装置が位置すると判定したときに、前記表示装置から相対的に近い前記所定の空間の壁面に表示すべき仮想画像の表示位置を、所定距離だけ自装置から遠い位置に変更するよう補正することとしてもよい。 In the above display device, the correction unit, when the determination unit determines that the device is positioned outside the virtual reference line, is configured to display a virtual image to be displayed on a wall surface of the predetermined space relatively close to the display device. The display position of the image may be corrected by changing it to a position farther from the device by a predetermined distance.
上記表示装置において、前記表示装置は、前記ユーザの視野方向を撮像する撮像部を備え、前記表示制御部は、前記撮像部により撮像される前記所定の空間に含まれる範囲内の所定の仮想画像を前記表示部に表示させることとしてもよい。 In the above-described display device, the display device includes an imaging unit that captures an image of the user's viewing direction, and the display control unit controls a predetermined virtual image within a range included in the predetermined space captured by the imaging unit. may be displayed on the display unit.
上記表示装置において、前記所定の空間の所定の位置には、仮想画像の表示位置を調整するために用いるオブジェクトが配置され、前記表示装置は、前記撮像部により撮像された撮像画像であって前記オブジェクトを含む撮像画像を用いて、前記仮想画像の表示位置を調整するための調整部を備えることとしてもよい。 In the display device, an object used for adjusting the display position of the virtual image is arranged at a predetermined position in the predetermined space, and the display device is a captured image captured by the imaging unit, An adjustment unit may be provided for adjusting the display position of the virtual image using the captured image including the object.
上記表示装置において、所定の空間の所定の位置には、仮想画像の表示位置を調整するために用いるオブジェクトが配置され、表示制御部は、オブジェクトとの位置関係を決定するための所定の画像を表示部に表示させるとともに、オブジェクトと所定の画像についての位置関係を指示するメッセージを表示部に表示させ、表示装置は、オブジェクトと所定の画像が位置関係になったことを示す入力を受け付ける入力部と、入力部からの入力があった場合に、オブジェクトの位置に基づいて、仮想画像の表示位置を調整するための調整部を備えることとしてもよい。 In the above display device, an object used for adjusting the display position of the virtual image is placed at a predetermined position in a predetermined space, and the display control unit displays the predetermined image for determining the positional relationship with the object. An input unit for displaying on the display unit and displaying on the display unit a message instructing the positional relationship between the object and the predetermined image, and for receiving an input indicating that the object and the predetermined image are in the positional relationship. and an adjustment unit for adjusting the display position of the virtual image based on the position of the object when there is an input from the input unit.
上記表示装置において、前記仮想基準線は、前記所定の空間内において矩形状となるように設けられることとしてもよい。 In the display device described above, the virtual reference line may be provided in a rectangular shape within the predetermined space.
本発明の一態様に係る表示装置は、表示装置上で、所定の空間における壁面内に表示対象の画像が表示されてしまうことにより、結果として、提供したい映像をユーザが視認しにくくなる可能性があるところ、仮想基準線により仮想画像が表示されるべき位置からずれていることを検知して、画像の表示位置を補正することにより、ユーザが必ず映像を視認できるようにすることができる。 In the display device according to one aspect of the present invention, an image to be displayed is displayed within a wall surface in a predetermined space on the display device, and as a result, it may become difficult for the user to visually recognize the image to be provided. However, by detecting that the virtual image is shifted from the position where it should be displayed by the virtual reference line and correcting the display position of the image, it is possible to ensure that the user can visually recognize the video.
以下、本発明の一実施態様に係る表示装置について、図面を参照しながら詳細に説明する。 A display device according to an embodiment of the present invention will be described in detail below with reference to the drawings.
<実施の形態>
<構成>
図1は、実施例に係る表示装置100を利用する場面を説明するための模式的な斜視図である。
<Embodiment>
<Configuration>
FIG. 1 is a schematic perspective view for explaining a situation in which a
図1は、ユーザ10が表示装置100を装着して、所定の空間、一例として、鉱山における坑道や天然洞窟などを含む洞窟20内を探索する様子の一例を示す斜視図である。また、図2は、図1に示す洞窟20の平面図の一例である。
FIG. 1 is a perspective view showing an example of how a
ユーザ10は、表示装置100を装着した状態で、図2の矢印21で示されるように、洞窟20内を移動する。ここで、表示装置100は、洞窟20内の様子に仮想映像を重畳した映像を表示することができる装置であって、例えば、ヘッドマウントディスプレイ、ウェアラブルグラス(眼鏡)などにより実現されるものであってよい。表示装置100は、洞窟20内を探索する際のアトラクションを提供するためのエンターテイメント装置であってよい。
The
表示装置100は、洞窟20の壁面に重畳するようにして様々なAR画像を表示することとしてよい。表示装置100は、洞窟20の壁面に重ね合わせるような態様でAR画像を表示することで、より自然な画像をユーザ10に提供することができる。なお、本実施例では表示する画像をAR(Augmented Reality)画像として説明するが、これは、VR(Virtual Reality)画像であってもよいし、MR(Mixed Reality)画像であってもよいし、SR(Substitutional Reality)画像であってもよい。
The
図3は、AR画像と洞窟20の壁面との関係を模式的に示した洞窟20の平面図の一例である。図3において、符号32は、洞窟20の壁面を示し、符号31は、洞窟20の壁面に重畳して表示されるAR画像のテクスチャの表示位置を示す一点鎖線である。図3に示すように、AR画像31は、壁面32にほぼ重畳するように表示されることが望ましい。
FIG. 3 is an example of a plan view of the
図4(a)と、図4(b)は、表示装置100を通して、洞窟20内の表示例を示す図であり、図4(a)は、AR画像を表示していない状態の洞窟20内の様子を示す図であり、図4(b)は、AR画像を表示した状態の洞窟20内の様子を示す図である。
4(a) and 4(b) are diagrams showing display examples inside the
図4(a)は、表示装置100のレンズを通してユーザ10が見た洞窟20内の様子そのままであってもよいし、表示装置100により撮像された洞窟20内の映像を表示したものであってもよいし、表示装置100により生成された洞窟20内の仮想映像を表示したものであってもよい。
FIG. 4(a) may be the inside of the
図4(b)は、表示装置100の表示部に表示される洞窟20内容の様子に、AR画像を表示した一例を示している。図4(b)に示す例では、洞窟20の壁面32に対して、木や花を示すAR画像や、鉱石や水晶を示すAR画像を表示した例を示している。また、AR画像は、壁面32に対して重畳するように表示するものに限定するものではなく、洞窟20内の所定の場所、あるいは、ユーザ10に対して所定の相対位置関係にある場所に表示されるものであってよく、それは、アトラクションを提供する提供者により生成されたキャラクタであってもよい。
FIG. 4(b) shows an example of displaying an AR image on the contents of the
ところで、表示装置100は、ユーザ10、ひいては、自装置の洞窟20内における位置に応じて適切にAR画像を表示する。つまり、ユーザ10は洞窟20内を、自由に動き回るが、その際に、ユーザ10の場所に応じて、洞窟20の壁面等に表示したAR画像は、壁面からずれることなく表示されることがエンターテイメント上望ましい。しかしながら、この制御を実現するには、表示装置100が、表示装置100の洞窟20内における正確な位置情報を取得している必要がある。位置情報を取得する一例としては、GPSを含むGNSSを利用することが考えられるが、これらは、衛星からの信号を利用する都合上、洞窟20内にあっては正確に測定できない可能性がある。
By the way, the
そのため、本来図3の状態で表示されるべきAR画像31の表示装置100における表示位置がずれて、図5に一例を示すように、AR画像31が、洞窟20の壁面内に位置するように制御される可能性がある。この場合、AR画像31は洞窟20内の壁面32内に埋もれるようにして表示されることになるので、エンターテイメントとしてユーザ10に確認してもらうべき情報が確認してもらえないとともに、製作者側が意図したエンターテイメントとしての質が低下するという問題を生じる。
Therefore, the display position of the
そこで、本実施形態に係る表示装置100は、図6に示すように、洞窟20内において、仮想基準線61を設定する。仮想基準線61は、洞窟20の壁面32よりも内側に設定される仮想的な境界線であって、表示装置100(ユーザ10)の位置が、この仮想基準線61を超えた場合に、表示装置100がAR画像の表示位置を補正するトリガとするための境界線である。仮想基準線61の位置は、洞窟20の壁面32に重畳するように表示されるべきAR画像31に対応付けられて記憶部140に記憶される。したがって、AR画像31の表示位置が本来表示されることが望まれている位置からずれた場合には、仮想基準線61も共にずれることになる。洞窟20内においては、ユーザ10が行動可能な範囲は予め定められていることが多い。そのような状況下にあって、図7に示すように、仮想基準線61を表示装置100が超えて壁面32寄りに移動した場合には、AR画像31は、壁面32内に表示される可能性がより高くなる。そこで、本実施形態に係る表示装置100は、図7に示すように、AR画像31の表示位置を補正する。具体的には、ユーザ10(表示装置100)が超えた側の仮想基準線61に対応する側のAR画像31、即ち、相対的にユーザ10に近い方のAR画像31をユーザから遠ざけるようにAR画像31の表示位置を補正する。言い換えれば、ユーザ10から遠い側の壁面に対応するAR画像31の表示位置は、ユーザに近づくことになる。即ち、表示装置100は、AR画像31をユーザ10寄りに、即ち、矢印70で示されるように、表示位置をずらす。表示装置100は、AR画像31が正確に表示されていようといまいと表示位置をユーザ10側にずらすが、これは、AR画像31の表示位置が大きくずれると製作者側が意図しない表現となってエンターテイメントとしてマイナスとなる可能性があるからである。
Therefore, the
その他の補正例としては、図13、あるいは、図14に示すようにAR画像31の表示位置を補正することとしてよい。
As another correction example, the display position of the
図13の例では、AR画像31は、本来表示されるべき壁面32よりも下側(図13における下側、南側)にずれてしまっている例を示している。そうすると、図13に示すように、ユーザ10(表示装置100)が、下がってきた仮想基準線61を超えることがある。このような場合には、図13の矢印71に示されるように、AR画像31の表示位置を補正する。即ち、ユーザ10(表示装置100)から見て、相対的に近い方のAR画像31をユーザ10から遠ざけるように、その表示位置を補正する。必然的に、ユーザ10(表示装置100)から見て、相対的に遠い方のAR画像31はユーザ10に近づくように表示位置が補正されることになる。
The example of FIG. 13 shows an example in which the
図14に示す例では、AR画像31の表示位置が、紙面左斜め上方向にずれている例を示している。そうすると、図14に示すように、ユーザ10(表示装置100)が下側で仮想基準線61を超えることがある。このような場合には、図14の矢印72に示されるように、AR画像31の表示位置を補正する。即ち、ユーザ10(表示装置100)から見て、相対的に近い方のAR画像31をユーザ10から遠ざけるように、その表示位置を補正する。
The example shown in FIG. 14 shows an example in which the display position of the
なお、図6、図13、図14のAR画像31の表示位置の補正の方向であるが、これは、表示装置100の位置情報が、仮想基準線61を超えたと判定されたときの位置情報と、その前に取得された位置情報とから、特定される方向、即ち、前回(前々回やその前のものも含んでもよい)取得した位置情報から今回取得した位置情報に向かう向きを、AR画像31の表示位置をずらす方向としてよい。
The direction of correcting the display position of the
なお、仮想基準線61は、基本的には表示されずユーザ10はその位置を確認できないが、表示できるように構成してもよい。また、ユーザ10の行動範囲は、図6に示される状態の仮想基準線61よりも内側のみであることが望ましい。
Although the
以下、表示装置100について詳細に説明する。
The
<構成>
図8は、表示装置100の構成例を示すブロック図である。図8に示すように、表示装置100は、表示部110と、位置情報取得部120と、撮像部130と、記憶部140と、制御部150と、入力部170とを備える。表示装置100の各部は、バス160を介して互いに通信可能に接続されてよい。なお、ここでは、表示装置100は撮像部130を備える例を説明するが、撮像部130は必須の構成ではない。
<Configuration>
FIG. 8 is a block diagram showing a configuration example of the
表示装置100は、ユーザ10により装着されて、画像を表示して提供する装置であり、例えば、ヘッドマウントディスプレイやウェアラブルグラスにより実現される。
The
表示部110は、制御部150により指定される画像を表示する機能を有するモニタである。表示部110は、表示装置100がウェアラブルグラスの場合には、透過型スクリーンにより実現されるものであってもよい。即ち、表示部110は、眼鏡としてのレンズとして機能してもよい。表示部110は、一例として、洞窟20内で洞窟20の壁面32等に重畳するように、あるいは、洞窟20内の指定の場所、あるいは、ユーザ10から見て、定められた距離及び方向に、制御部150から指定されるAR画像を表示する。
位置情報取得部120は、洞窟20における表示装置100の位置を示す位置情報を取得する。位置情報取得部120は、洞窟20における表示装置100の絶対座標を位置情報として取得することとしてもよいし、洞窟20に対する相対座標による位置情報を取得することとしてもよい。位置情報取得部120は、一例として、GPSを含むGNSS等を利用した測位システムにより、表示装置100の位置情報を取得することとしてよい。また、例えば、位置情報取得部120は、表示装置100に取り付けたカメラや赤外線センサによって周囲の環境をスキャンして位置や姿勢を特定するインサイド・アウト方式や、部屋の天井や壁に設置したカメラや赤外線照射デバイスを用いてマーカーや表示装置100の位置や姿勢を取得するアウトサイド・イン方式を用いて位置を特定することとしてよい。なお、赤外線以外に、例えば、UWB(Ultra Wide Band)帯を用いたRF(Radio Frequency)ベースの通信方式を利用したポジショントラッキングを用いてもよい。あるいは、位置情報取得部120は、洞窟20に設置されたビーコン発生器から発せられたビーコンを受信し、そのビーコンに含まれるビーコン発生器の位置を表示装置の位置情報として取得してもよい。位置情報取得部120は、取得した位置情報を制御部150に伝達する。また、位置情報取得部120は、6軸センサ(3軸の向きと、加速度)を含んでよく、表示装置100の位置とともに、表示装置100の向きや高さの情報を取得し、位置情報に含ませて制御部150に伝達することとしてよい。
The position
撮像部130は、表示装置100の正面方向を撮像可能なカメラである。撮像部130は、深度カメラであってもよく、撮像対象までの距離を取得可能なものであってもよく、それによって、表示装置100から撮像対象(例えば、壁面32)までの距離を測定可能なものであってもよい。撮像部130は、撮像により得られた映像(画像)を制御部150に伝達する。
The
記憶部140は、表示装置100が動作上必要とする各種のプログラム及びデータを記憶する機能を有する記憶媒体である。記憶部140は、例えば、HDD(Hard Disc Drive)、SSD(Solid State Drive)、フラッシュメモリ等により実現することができる。記憶部140は、洞窟20内で表示するAR画像に関する情報を記憶する。また、記憶部140は、仮想基準線61の位置を示す情報を記憶する。
The
制御部150は、記憶部140に記憶されている各種プログラムを実行して、表示装置100の各部を制御する機能を有するプロセッサである。制御部150は、各プログラムを実行することにより、表示制御部151、判定部152、補正部153、調整部154としての機能を実現する。
The
表示制御部151は、表示部110(レンズ)を通して見える範囲内の所定の空間、即ち、洞窟20の壁面に対して所定の仮想画像が重畳されるように、仮想画像を表示部110に表示させる。また、表示制御部151は、撮像部130が撮像した撮像画像に含まれる所定の空間、つまり、洞窟20の壁面に対して所定の仮想画像(AR画像31)を重畳して表示部110に表示させることとしてもよい。表示制御部151は、位置情報取得部120から伝達された表示装置100の位置情報、姿勢情報、高さ情報などの情報に基づき、洞窟20内における表示装置100の位置や姿勢を特定する。そして、表示制御部151は、特定した位置、姿勢の場合にユーザから見えるはずの映像(AR画像)を、記憶部140に記憶されているプログラムやデータを用いて生成し、表示部110に表示させる。
The
判定部152は、位置情報取得部120から伝達された表示装置100の位置情報に基づいて、所定の空間、即ち、洞窟20内において、その壁面よりも内側に設定されている仮想基準線61よりも外側に表示装置100が位置するか否かを判定する。換言すると、判定部152は、所定の空間における中央側から、壁面に向かう外側に向かって、仮想基準線61を表示装置100が超えたか否かを判定する。判定部152は、仮想基準線61よりも外側に表示装置100が位置すると判定した場合には、その旨を補正部153に伝達する。
Based on the position information of the
補正部153は、判定部152から、表示装置100が仮想基準線61よりも外側に表示装置100が位置すると判定したことを通知された場合に、所定の空間の壁面に表示するAR画像の表示位置を補正する。補正部153は、表示装置100が仮想基準線61を超えたときに表示装置100が超えた仮想基準線61に対応する部分のAR画像が相対的に表示装置100から遠ざかるように、AR画像の表示位置を補正する。一例として、補正部153は、AR画像の表示位置として設定された位置(一度以上補正された後の位置である可能性もある)から、ユーザ10から相対的に遠ざかる方向に所定距離(例えば、10cmとしてよいが、これに限定するものではない)だけ移動させた位置を表示位置に補正する。したがって、ユーザ10から見ると、ユーザ10に近い方の壁面32に重畳するように表示されるべきAR画像31がユーザ10から遠ざかるように表示され、ユーザ10に遠い方の壁面32に重畳するように表示されるべきAR画像31はユーザ10に近づくように表示されることになる。なお、表示装置100は、超音波センサ等を備えて、表示装置100から最も近い壁面までの距離を特定し、特定した壁面までの距離に応じて、AR画像を表示する表示位置を変更する距離を特定し、特定した距離だけ移動させることで補正することとしてもよい。
When notified by the
調整部154は、所定の空間、即ち、洞窟20内に設置された所定の場所、例えば、チェックポイントなどにおいて、ユーザからの入力に基づいて、表示するAR画像の位置を調整するためのキャリブレーションを実行する。調整部154によるキャリブレーションは、補正部153による画像の表示位置の補正と異なり、厳密なAR画像の表示位置の調整を行うものである。
The
入力部170は、ユーザ10からの入力を受け付ける入力インターフェースである。入力部170は、表示装置100に設けられたハードキー等により実現されることとしてよい。入力部170は、入力された入力内容を制御部150に伝達する。
The
以上が、表示装置100の構成例である。
The above is the configuration example of the
<動作>
図9を用いて、表示装置100の動作例を説明する。
<Action>
An operation example of the
表示装置100の制御部150は、表示装置100がAR画像を表示する上での初期設定を行う(ステップS901)。ここでいう初期設定には、所定の空間としての洞窟20における初期位置とAR画像の表示位置との位置合わせを行うことを含んでよい。なお、初期設定は必須ではない。
The
ユーザ10は、表示装置100を装着して、洞窟20内の探索を開始する(ステップS902)。
The
表示装置100の位置情報取得部120は、逐次、表示装置100の位置を示す位置情報を取得する(ステップS903)。位置情報取得部120は、得られた位置情報及び表示装置100の姿勢や高さを示す情報を、制御部150に伝達する。制御部150の判定部152は、伝達された位置情報と、記憶部140に記憶されている仮想基準線61の位置とに基づいて、仮想基準線61の外側に表示装置100が位置するか否かを判定する(ステップS904)。
The position
判定部152は、仮想基準線61の外側に表示装置100が位置すると判定した場合には(ステップS904のYES)、その旨を補正部153に伝達する。補正部153は、判定部152から表示装置100が仮想基準線61よりも外側に位置する旨を伝達された場合には、表示装置100が超えた仮想基準線61に対応するAR画像の表示位置が、相対的にユーザ10(表示装置100)から遠ざかる位置になるように、表示位置の補正を実行する(ステップS905)。表示制御部151は、補正後の表示位置に従って、AR画像を表示部110に表示させる。
If the
表示装置100は、入力部170に対してユーザ10からキャリブレーションの実行入力を受け付けているか否かを判定する(ステップS906)。受け付けていない場合には(ステップS906のNO)、ステップS908の処理に移行する。キャリブレーションの実行入力を受け付けている場合には(ステップS906のYES)、調整部154は、ユーザの位置、即ち、表示装置100の位置と、撮像部130が撮像した撮像画像に基づいて、キャリブレーションを実行し(ステップS907)、ステップS908の処理に移行する。
The
表示装置100は、ユーザ10からのAR画像の表示の終了入力を受け付けたか否かを判定する(ステップS908)。そして、終了入力を受け付けていない場合には(ステップS908のNO)、ステップS903の処理に戻り、受け付けた場合には(ステップS908のYES)、処理を終了する。
The
以上が、表示装置100の動作例の説明である。なお、ステップS904、S905の処理と、ステップS906、S907の処理とは、互いに並列に実行されてもよいし、その実行順序が前後してもよい。
The above is the description of the operation example of the
<まとめ>
上記実施の形態に示した表示装置100は、所定の空間内の通路等において所定の空間における壁面よりも内側に位置するように設定された仮想基準線を越えて、外側に自装置が位置すると判定した場合に、壁面内に表示される可能性がある仮想画像の表示位置を補正することができる。結果、ユーザが仮想画像を視認できないという可能性を抑制することができる。
<Summary>
The
<補足>
上記実施の形態に係る表示装置は、上記実施の形態に限定されるものではなく、他の手法により実現されてもよいことは言うまでもない。以下、各種変形例について説明する。
<Supplement>
Needless to say, the display device according to the above embodiment is not limited to the above embodiment, and may be realized by other methods. Various modifications will be described below.
(1) 上記実施形態において、表示装置100が全ての機能を実現する例を示したが、これはその限りではない。表示装置100を含む複数の装置により、上記実施形態に示した機能を実現することとしてもよい。例えば、表示装置100に表示するAR画像を、外部の装置が生成し、外部の装置が生成したAR画像とその表示位置を、通信により表示装置100に送信する。表示装置100は、当該外部の装置と無線により通信を実行する通信部を備えることとしてよい。通信部は、外部の装置が生成したAR画像とその表示位置の情報を受信し、受信したAR画像を指定されている表示位置に表示する。このように、表示装置100の機能は複数の装置により実現されるものであってもよい。
(1) In the above-described embodiment, an example in which the
(2) 上記実施形態において、仮想基準線61を、洞窟20の壁面32の形状に沿う態様で設定する例を説明したが、仮想基準線61は、壁面32よりも内側に設定されていればよく、壁面32の形状に沿う必要はない。図10は、仮想基準線61の他の例を示す図である。図10は、洞窟20を進行方向に向かって見た場合の正面図である。図10の例では、仮想基準線61を図示の通り、矩形状に設定した例を示している。鉱山や洞窟における坑道は、基本的には、人間が通行可能な進行ルートが設定されている。その進行ルートに沿う態様で矩形状の筒状に仮想基準線61を設定するようにしてもよい。また、仮想基準線61の壁面32からの距離は、洞窟20全体を通して一定であってもよいし、一定でなくてもよい。例えば、洞窟20内の通路が狭い場所では壁面32からの距離が短くなるように、洞窟20内の通路が広い場所では壁面32からの距離が長くなるように仮想基準線61の位置を設定することとしてよい。
(2) In the above-described embodiment, the
(3) 上記実施形態において、ユーザ10が洞窟20内を行動する例を示したが、ユーザ10が行動する場所は、壁面が存在するような場所であればどこであってよい。例えば、ユーザ10が行動する場所は、一例として、ビルの中などであってもよいし、トンネルの中などであってもよいし、立体迷路などであってもよい。
(3) In the above embodiment, the
(4) 上記実施の形態においては、特に記載していなかったが、ユーザは、バーチャル映像世界に影響を与えるためのコントローラを保持してもよい。その場合に、当該コントローラは、所定の空間(洞窟20)内での位置、及び、向きを特定できるようにセンサを備え、仮想映像に影響させてもよい。ここで、影響とは、例えば、コントローラを懐中電灯と見立てて、ユーザが保持しているコントローラの向きに応じて、映像世界内を明るく照らすように映像を加工してもよいし、コントローラを銃に見立てて、映像世界内で、ユーザが引き金を引いたら、コントローラを向けている方向に向けて銃撃を行うように映像を加工してもよい。なお、ここで、コントローラを利用した映像の加工例は一例であり、その他の加工を行ってもよいし、コントローラを別の事物にみたててもよい。 (4) Although not specifically described in the above embodiment, the user may hold a controller for influencing the virtual image world. In that case, the controller may be equipped with a sensor so that the position and orientation within the predetermined space (cave 20) can be specified, and the virtual image may be affected. Here, the influence may be, for example, treating the controller as a flashlight and processing the image so as to brightly illuminate the image world according to the orientation of the controller held by the user, or using the controller as a gun. , the image may be processed so that when the user pulls the trigger in the image world, the gun is shot in the direction the controller is pointed. Note that the example of image processing using the controller is an example, and other processing may be performed, and the controller may be regarded as another thing.
(5) 上記実施の形態に示した調整部154によるキャリブレーションの一例を図11、図12を用いて説明する。
(5) An example of calibration by the
洞窟20内においては、キャリブレーションを実行するためのチェックポイントが1以上設定されてもよい。キャリブレーションはAR画像の表示位置の調整を行うことをいう。より具体的には、ここでいうキャリブレーションは、洞窟20内において、予め正確な位置を測定し、その位置において、表示装置100がどのようにAR画像を表示すべきかが定められている場所で、表示装置100から設定されている見え方がされるように表示装置100の位置情報(表示装置100の向き、高さを含む)とAR画像の表示位置との位置合わせを行うことをいう。図11には、洞窟20内に、チェックポイント1101、1102を設けた例を示している。
One or more checkpoints may be set in the
ユーザ10は、チェックポイント1101、1102に到達するとキャリブレーションを実行するための所定の入力(例えば、表示装置100に設けられた特定のボタンの押下など)を行う。すると、表示制御部151は、図12(a)のメッセージ1204に示すように、ユーザ10にとって欲しい行動を示す文章を表示する。ここでは、表示制御部151は、カーソル1203を表示し、そのカーソル1203が、洞窟20内のチェックポイント1101として設けられたオブジェクトとの位置合わせを行うためのメッセージを表示した場合の例を示している。ユーザ10は、カーソル1203がチェックポイント1101として設けられているオブジェクトと合うように自身の位置や見る方向を調整する。そして、図12(b)に示すように、カーソル1203とオブジェクトとの位置合わせを行い、調整部154は、この時に取得される表示装置100の位置情報と、オブジェクト(チェックポイント1101)の位置とに基づいて、AR画像を表示する表示位置を決定するためのキャリブレーションを行う。このようにして、所定の空間内の各所において、適宜、正確なAR画像の表示位置の位置合わせを行うように構成してもよい。
When the
なお、ここでは、撮像部130から撮像された撮像画像に基づいて、カーソル1203が、オブジェクトとの位置合わせができていることを確認できるようにして、キャリブレーションを実行する例を示したが、これはその限りではない。表示部110(レンズ)を通して視認できる視野において、ユーザ10が、カーソル1203が、オブジェクトとの位置合わせができていると確認できたタイミングで、表示装置100の入力部170に対する入力を行うことで、そのときの位置情報に基づいて、キャリブレーションを実行するようにしてもよい。
Here, an example is shown in which calibration is performed by confirming that the
また、ここでは、チェックポイントとして、オブジェクトを用いる例を示したが、これは、所定の画像が洞窟20の壁面等に貼られたものを利用してもよく、その所定の画像は、二次元バーコード等の何らかの情報が盛り込まれた画像であってもよい。二次元バーコードを用いる場合には、ユーザ10から表示装置100に対する入力ではなく、撮像部130が二次元バーコードを読み取ったことをトリガとして、調整部154によるキャリブレーションを開始することとしてもよい。
Also, although an example of using an object as a checkpoint is shown here, a predetermined image pasted on the wall of the
(6) また、上記実施の形態においては、表示装置100においてユーザの移動に伴う映像を提供する手法として、表示装置のプロセッサが仮想画像表示プログラム等を実行することにより、実現することとしているが、これは装置に集積回路(IC(Integrated Circuit)チップ、LSI(Large Scale Integration))等に形成された論理回路(ハードウェア)や専用回路によって実現してもよい。また、これらの回路は、1または複数の集積回路により実現されてよく、上記実施の形態に示した複数の機能部の機能を1つの集積回路により実現されることとしてもよい。LSIは、集積度の違いにより、VLSI、スーパーLSI、ウルトラLSIなどと呼称されることもある。
(6) In addition, in the above-described embodiment, the method of providing an image accompanying the movement of the user on the
また、上記仮想画像表示プログラムは、プロセッサが読み取り可能な記録媒体に記録されていてよく、記録媒体としては、「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記仮想画像表示プログラムは、当該仮想画像表示プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記プロセッサに供給されてもよい。本発明は、上記仮想画像表示プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。 The virtual image display program may be recorded on a processor-readable recording medium, and the recording medium may be a "non-temporary tangible medium" such as a tape, disk, card, semiconductor memory, or programmable. A logic circuit or the like can be used. Further, the virtual image display program may be supplied to the processor via any transmission medium (communication network, broadcast wave, etc.) capable of transmitting the virtual image display program. The invention may also be embodied in the form of a data signal embedded in a carrier wave in which the virtual image display program is embodied by electronic transmission.
なお、上記仮想画像表示プログラムは、例えば、ActionScript、JavaScript(登録商標)などのスクリプト言語、Objective-C、Java(登録商標)などのオブジェクト指向プログラミング言語、HTML5などのマークアップ言語などを用いて実装できる。 The virtual image display program is implemented using script languages such as ActionScript and JavaScript (registered trademark), object-oriented programming languages such as Objective-C and Java (registered trademark), and markup languages such as HTML5. can.
(7)上記実施の形態、及び、各補足に示した各種の変形例は、適宜、組み合わせることとしてもよい。 (7) The above-described embodiment and various modifications shown in each supplement may be combined as appropriate.
20 坑道
31 AR画像
32 坑道壁面
61 仮想基準線
100 表示装置
110 表示部
120 位置情報取得部
130 撮像部
140 記憶部
150 制御部
151 表示制御部
152 判定部
153 補正部
154 調整部
20
Claims (9)
自装置の位置を取得する位置情報取得部と、
所定の空間の壁面に対して所定の仮想画像を重畳するように前記表示部に表示させる表示制御部と、
前記所定の空間において、前記壁面に対して表示される仮想画像よりも内側に設けられた仮想基準線よりも外側に自装置が位置するか否かを判定する判定部と、
前記判定部が前記仮想基準線よりも外側に自装置が位置すると判定した場合に、所定の仮想画像の表示位置を補正する補正部と、
を備え、ユーザが装着する表示装置。 a display unit for displaying an image;
a location information acquisition unit that acquires the location of its own device;
a display control unit that causes the display unit to display a predetermined virtual image so as to be superimposed on a wall surface of a predetermined space;
a determination unit that determines whether or not the device is positioned outside a virtual reference line provided inside a virtual image displayed on the wall surface in the predetermined space;
a correction unit that corrects a display position of a predetermined virtual image when the determination unit determines that the device is positioned outside the virtual reference line;
A display device worn by a user.
ことを特徴とする請求項1記載の表示装置。 The correction unit determines a display position of the virtual image to be displayed on the wall surface of the predetermined space relatively close to the display device when the determination unit determines that the device is positioned outside the virtual reference line. 2. The display device according to claim 1, wherein the correction is made so as to keep the distance from the display device.
ことを特徴とする請求項2記載の表示装置。 The correction unit determines a display position of the virtual image to be displayed on the wall surface of the predetermined space relatively close to the display device when the determination unit determines that the device is positioned outside the virtual reference line. 3. The display device according to claim 2, wherein the display device is corrected so as to be moved to a position farther from the device by a predetermined distance.
前記ユーザの視野方向を撮像する撮像部を備え、
前記表示制御部は、前記撮像部により撮像される前記所定の空間に含まれる範囲内の所定の仮想画像を前記表示部に表示させる
ことを特徴とする請求項1~3のいずれか一項に記載の表示装置。 The display device
An imaging unit that captures the viewing direction of the user,
4. The display control unit according to any one of claims 1 to 3, wherein the display control unit causes the display unit to display a predetermined virtual image within a range included in the predetermined space captured by the imaging unit. Display device as described.
前記表示装置は、前記撮像部により撮像された撮像画像であって前記オブジェクトを含む撮像画像を用いて、前記仮想画像の表示位置を調整するための調整部を備える
ことを特徴とする請求項4に記載の表示装置。 an object used for adjusting the display position of the virtual image is arranged at a predetermined position in the predetermined space;
5. The display device includes an adjustment unit for adjusting a display position of the virtual image using a captured image captured by the imaging unit and including the object. The display device according to .
前記表示制御部は、前記オブジェクトとの位置関係を決定するための所定の画像を前記表示部に表示させるとともに、前記オブジェクトと前記所定の画像についての位置関係を指示するメッセージを前記表示部に表示させ、
前記表示装置は、
前記オブジェクトと前記所定の画像が前記位置関係になったことを示す入力を受け付ける入力部と、
前記入力部からの入力があった場合に、前記オブジェクトの前記の位置に基づいて、前記仮想画像の表示位置を調整するための調整部を備える
ことを特徴とする請求項1~3のいずれか一項に記載の表示装置。 an object used for adjusting the display position of the virtual image is arranged at a predetermined position in the predetermined space;
The display control unit causes the display unit to display a predetermined image for determining a positional relationship with the object, and displays a message indicating a positional relationship between the object and the predetermined image on the display unit. let
The display device
an input unit that receives an input indicating that the object and the predetermined image are in the positional relationship;
4. The apparatus according to any one of claims 1 to 3, further comprising an adjustment unit for adjusting a display position of the virtual image based on the position of the object when there is an input from the input unit. 1. The display device according to item 1.
ことを特徴とする請求項1~6のいずれか一項に記載の表示装置。 The display device according to any one of claims 1 to 6, wherein the virtual reference line is provided in a rectangular shape within the predetermined space.
自装置の位置を取得する位置情報取得ステップと、
所定の空間の壁面に対して所定の仮想画像を重畳して前記表示部に表示させる表示制御ステップと、
前記所定の空間において、前記壁面に対して表示される仮想画像よりも内側に設けられた仮想基準線よりも外側に自装置が位置するか否かを判定する判定ステップと、
前記判定ステップにおいて自装置が前記仮想基準線よりも外側に位置すると判定した場合に、所定の仮想画像の表示位置を補正する補正ステップと、
を実行する仮想画像表示方法。 A display device computer having a display unit worn by a user to display an image,
a position information obtaining step of obtaining the position of the own device;
a display control step of superimposing a predetermined virtual image on a wall surface of a predetermined space and causing the display unit to display the virtual image;
a determination step of determining whether or not the device is positioned outside a virtual reference line provided inside a virtual image displayed on the wall surface in the predetermined space;
a correction step of correcting a display position of a predetermined virtual image when it is determined in the determination step that the device is positioned outside the virtual reference line;
A virtual image display method that performs
自装置の位置を取得する位置情報取得機能と、
所定の空間の壁面に対して所定の仮想画像を重畳して前記表示部に表示させる表示制御機能と、
前記所定の空間において、前記壁面に対して表示される仮想画像よりも内側に設けられた仮想基準線よりも外側に自装置が位置するか否かを判定する判定機能と、
前記判定機能が自装置が前記仮想基準線よりも外側に位置すると判定した場合に、所定の仮想画像の表示位置を補正する補正機能と、
を実現させる仮想画像表示プログラム。 A display device computer having a display unit worn by a user to display an image,
a location information acquisition function for acquiring the location of the device itself;
a display control function for superimposing a predetermined virtual image on a wall surface of a predetermined space and displaying it on the display unit;
a determination function for determining whether or not the device is positioned outside a virtual reference line provided inside a virtual image displayed on the wall surface in the predetermined space;
a correction function for correcting a display position of a predetermined virtual image when the determination function determines that the device is positioned outside the virtual reference line;
A virtual image display program that realizes
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021069492A JP6968326B1 (en) | 2021-04-16 | 2021-04-16 | Display device, display method and its display program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021069492A JP6968326B1 (en) | 2021-04-16 | 2021-04-16 | Display device, display method and its display program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6968326B1 JP6968326B1 (en) | 2021-11-17 |
JP2022164170A true JP2022164170A (en) | 2022-10-27 |
Family
ID=78509666
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021069492A Active JP6968326B1 (en) | 2021-04-16 | 2021-04-16 | Display device, display method and its display program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6968326B1 (en) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018005005A (en) * | 2016-07-04 | 2018-01-11 | ソニー株式会社 | Information processing device, information processing method, and program |
WO2019187862A1 (en) * | 2018-03-30 | 2019-10-03 | ソニー株式会社 | Information processing device, information processing method, and recording medium |
JP2020095712A (en) * | 2018-12-12 | 2020-06-18 | レノボ・シンガポール・プライベート・リミテッド | Information handling method, information handling device, and storage medium |
-
2021
- 2021-04-16 JP JP2021069492A patent/JP6968326B1/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018005005A (en) * | 2016-07-04 | 2018-01-11 | ソニー株式会社 | Information processing device, information processing method, and program |
WO2019187862A1 (en) * | 2018-03-30 | 2019-10-03 | ソニー株式会社 | Information processing device, information processing method, and recording medium |
JP2020095712A (en) * | 2018-12-12 | 2020-06-18 | レノボ・シンガポール・プライベート・リミテッド | Information handling method, information handling device, and storage medium |
Also Published As
Publication number | Publication date |
---|---|
JP6968326B1 (en) | 2021-11-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102410802B1 (en) | Method, electronic device, and computer readable storage medium for indicating marker point positions | |
CN111465886B (en) | Selective tracking of head mounted displays | |
EP3413013B1 (en) | Information processing device, information processing method, and recording medium | |
JP6635037B2 (en) | Information processing apparatus, information processing method, and program | |
CN108376424A (en) | Method, apparatus, equipment and storage medium for carrying out view angle switch to three-dimensional virtual environment | |
CN109643014A (en) | Head-mounted display tracking | |
US11365974B2 (en) | Navigation system | |
CN110917616B (en) | Orientation prompting method, device, equipment and storage medium in virtual scene | |
JP2013054661A (en) | Information display system, information display method and program for information display | |
US8952956B2 (en) | Computer-readable storage medium having stored therein display control program, display control apparatus, display control system, and display control method | |
US10140002B2 (en) | Information processing apparatus, information processing method, and program | |
CN109844600A (en) | Information processing equipment, information processing method and program | |
JP6250086B2 (en) | Image display application and method for orientation sensitive display device | |
JP6665402B2 (en) | Content display terminal, content providing system, content providing method, and content display program | |
JP5620719B2 (en) | Information processing program, information processing apparatus, information processing system, and map display method | |
JP2013029921A (en) | Pointing system, information processing system, setting method for coordinate system and the like, information processing device, and information processing program | |
JP6968326B1 (en) | Display device, display method and its display program | |
WO2017212999A1 (en) | Video generation device, video generation method, and video generation program | |
JP2023075236A (en) | Locus display device | |
EP2533188A1 (en) | Portable terminal, action history depiction method, and action history depiction system | |
CN107168521B (en) | Film viewing guide method and device and head-mounted display equipment | |
KR102049924B1 (en) | Display control device | |
JP2022140903A (en) | Surveying device and surveying method using the same | |
CN113143185A (en) | Gastroscope system, image display method and device and readable storage medium | |
ES2800275T3 (en) | Control procedure of a calculation device through a mobile element and control system using this procedure |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210520 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20210520 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210615 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210713 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210803 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20210902 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210902 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20210902 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6968326 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |