JP7409307B2 - ヘッドマウントディスプレイ、およびヘッドマウントディスプレイの制御方法、情報処理装置、表示装置、並びに、プログラム - Google Patents
ヘッドマウントディスプレイ、およびヘッドマウントディスプレイの制御方法、情報処理装置、表示装置、並びに、プログラム Download PDFInfo
- Publication number
- JP7409307B2 JP7409307B2 JP2020531224A JP2020531224A JP7409307B2 JP 7409307 B2 JP7409307 B2 JP 7409307B2 JP 2020531224 A JP2020531224 A JP 2020531224A JP 2020531224 A JP2020531224 A JP 2020531224A JP 7409307 B2 JP7409307 B2 JP 7409307B2
- Authority
- JP
- Japan
- Prior art keywords
- calibration
- image
- display device
- head
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 204
- 230000010365 information processing Effects 0.000 title claims description 85
- 238000012545 processing Methods 0.000 claims description 196
- 238000003384 imaging method Methods 0.000 claims description 191
- 230000008569 process Effects 0.000 claims description 185
- 239000003550 marker Substances 0.000 claims description 50
- 230000006870 function Effects 0.000 claims description 13
- 229920006395 saturated elastomer Polymers 0.000 claims description 3
- 238000004891 communication Methods 0.000 description 70
- 238000012790 confirmation Methods 0.000 description 25
- 238000012986 modification Methods 0.000 description 18
- 230000004048 modification Effects 0.000 description 18
- 238000005259 measurement Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 239000004065 semiconductor Substances 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 8
- 210000003128 head Anatomy 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 238000005401 electroluminescence Methods 0.000 description 4
- 230000004807 localization Effects 0.000 description 4
- 238000013507 mapping Methods 0.000 description 4
- 208000013057 hereditary mucoepithelial dysplasia Diseases 0.000 description 3
- 239000007787 solid Substances 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N17/00—Diagnosis, testing or measuring for television systems or their details
- H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/02—Improving the quality of display appearance
- G09G2320/0261—Improving the quality of display appearance in the context of movement of objects on the screen or movement of the observer relative to the screen
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/06—Adjustment of display parameters
- G09G2320/0693—Calibration of display systems
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2354/00—Aspects of interface with display user
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2356/00—Detection of the display position w.r.t. other display screens
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2360/00—Aspects of the architecture of display systems
- G09G2360/14—Detecting light within display terminals, e.g. using a single or a plurality of photosensors
- G09G2360/145—Detecting light within display terminals, e.g. using a single or a plurality of photosensors the light originating from the display screen
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- General Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Controls And Circuits For Display Device (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Studio Devices (AREA)
Description
1.本開示のキャリブレーションシステムの概要
2.第1の実施の形態
3.第1の変形例
4.第2の変形例
5.第3の変形例
6.第2の実施の形態
7.第3の実施の形態
8.ソフトウェアにより実行させる例
<キャリブレーションシステムの構成例>
図1を参照して、本開示の技術を適用したキャリブレーションシステムの概要について説明する。
HMD31に設けられたカメラ31aは、例えば、HMD31を装着したユーザ21の顔の正面方向を撮像する。したがって、HMD31が、図1で示されるように、ユーザ21の頭部に装着された状態で、表示装置33の方向に顔を向けると、表示装置33を撮像する。
また、例えば、HMD31を装着したユーザ21の顔の正面方向と表示装置33の表示面の正面方向とが正対せず、例えば、HMD31のカメラ31aが、表示装置33の正面方向に対して左右のいずれかの斜め方向から表示装置33を撮像する場合、HMD31の撮像方向と表示装置33との位置関係に応じて、カメラ31aにより撮像される表示装置33に表示されたキャリブレーションパターンに変化が生じる。
<HMDの構成例>
次に、図5を参照して、図1のキャリブレーションシステム11を構成するHMD31の構成例について説明する。
次に、図6を参照して、情報処理装置32の構成例について説明する。
次に、図7を参照して、表示装置33の構成例について説明する。
次に、図8のフローチャートを参照して、第1の実施の形態におけるキャリブレーション処理について説明する。
次に、図9のフローチャートを参照して、キャリブレーションパターン表示状態確認処理について説明する。
以上においては、HMD31と表示装置33との位置関係に基づいて、キャリブレーションパターンを構成するマーカのサイズを適切なサイズに設定して表示サイズを変化させることで、カメラ31a(撮像部53)において、適切にキャリブレーションパターンを撮像できるようにし、キャリブレーションによるカメラパラメータを精度よく推定(測定)させる例について説明してきた。
次に、図11のフローチャートを参照して、第1の変形例におけるキャリブレーションパターン表示状態確認処理について説明する。尚、第1の変形例におけるキャリブレーション処理については、図8のフローチャートを参照して説明した処理と同様であるので、その説明は省略する。
以上においては、HMD31が、表示装置33との位置関係や輝度に応じて、表示装置33の表示部113に表示されるキャリブレーションパターンのサイズや輝度を調整して、適切にカメラ31a(撮像部53)のカメラパラメータを推定(測定)する例について説明してきた。
次に、図13のフローチャートを参照して、第2の変形例のキャリブレーション処理について説明する。尚、この処理においては、HMD31の記憶部55には、キャリブレーションコンテンツと、キャリブレーションコンテンツが再生されるタイミングの情報が予め記憶されており、キャリブレーション処理部71が、適宜読み出して使用することを前提とする。
以上においては、HMD31のカメラ31a(撮像部53)により撮像されたキャリブレーションパターンやキャリブレーションコンテンツとして表示されるマーカ等のサイズや輝度を変化させることによりキャリブレーションに適した画像に調整して、1枚の画像からカメラパラメータを推定(測定)する例について説明してきた。
次に、図15のフローチャートを参照して、第3の変形例におけるキャリブレーションパターン表示状態確認処理について説明する。
以上においては、HMD31における制御部51のキャリブレーション処理部71によりキャリブレーションがなされて、カメラ31a(撮像部53)のカメラパラメータを推定(測定)する例について説明してきたが、HMD31以外の構成により実行されるようにしてもよく、例えば、情報処理装置32により実行されるようにしてもよい。
次に、図17のフローチャートを参照して、第2の実施の形態のキャリブレーション処理について説明する。
以上においては、情報処理装置32のキャリブレーション処理部201によりキャリブレーションがなされて、カメラ31a(撮像部53)のカメラパラメータが推定(測定)される例について説明してきたが、キャリブレーションは表示装置33により実行されるようにしてもよい。
次に、図19のフローチャートを参照して、第3の実施の形態のキャリブレーション処理について説明する。
ところで、上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のコンピュータなどに、記録媒体からインストールされる。
外部を撮像する撮像部と、
キャリブレーションに適したキャリブレーション画像を生成し、外部表示機器に表示させるキャリブレーション処理部とを含む
ヘッドマウントディスプレイ。
<2> 前記キャリブレーション処理部は、前記ヘッドマウントディスプレイと前記外部表示機器との位置関係に基づいて、前記キャリブレーション画像を生成する
<1>に記載のヘッドマウントディスプレイ。
<3> 前記キャリブレーション処理部は、前記ヘッドマウントディスプレイの位置情報と、前記外部表示機器の位置情報とに基づいて、前記キャリブレーション画像を生成する
<2>に記載のヘッドマウントディスプレイ。
<4> 前記キャリブレーション処理部は、前記ヘッドマウントディスプレイと、前記外部表示機器との距離に応じて、前記キャリブレーション画像のサイズを調整し生成する
<3>に記載のヘッドマウントディスプレイ。
<5> 前記キャリブレーション処理部は、前記ヘッドマウントディスプレイと、前記外部表示機器との距離が所定の距離よりも遠いとき、前記キャリブレーション画像のサイズを大きく調整する
<4>に記載のヘッドマウントディスプレイ。
<6> 前記キャリブレーション処理部は、前記ヘッドマウントディスプレイの姿勢情報と、前記外部表示機器の姿勢情報とに基づいて、前記キャリブレーション画像を生成する
<2>に記載のヘッドマウントディスプレイ。
<7> 前記キャリブレーション処理部は、前記撮像部の撮像方向と、前記外部表示機器の表面の方向とのなす角に応じて、前記キャリブレーション画像のサイズを調整し生成する
<6>に記載のヘッドマウントディスプレイ。
<8> 前記キャリブレーション処理部は、前記なす角が構成される方向に対して前記キャリブレーション画像のサイズを調整する
<7>に記載のヘッドマウントディスプレイ。
<9> 前記キャリブレーション処理部は、前記なす角が所定の角度よりも大きいとき、前記なす角が構成される方向に対して、前記キャリブレーション画像のサイズを大きく調整する
<8>に記載のヘッドマウントディスプレイ。
<10> 前記キャリブレーション処理部は、前記撮像部により撮像された、前記外部表示機器により表示された前記キャリブレーション画像を用いて、前記撮像部のカメラパラメータを推定する
<2>に記載のヘッドマウントディスプレイ。
<11> 前記キャリブレーション処理部は、前記撮像部により撮像される、前記外部表示機器に表示された前記キャリブレーション画像の複数の画像に基づいて、前記カメラパラメータを推定する場合、前記複数の画像について、前記外部表示機器の表面の方向に対する、前記撮像部の撮像方向に偏りがあるとき、前記表示部に前記外部表示機器の表面の方向に対する、前記撮像部の撮像方向のうち、前記撮像部により撮像されていない方向から撮像するように、前記ヘッドマウントディスプレイを装着したユーザを誘導する画像を前記表示部に表示させる
<10>に記載のヘッドマウントディスプレイ。
<12> 前記キャリブレーション処理部は、複数の前記ヘッドマウントディスプレイの前記撮像部の前記カメラパラメータを推定する場合、複数の前記撮像部のそれぞれが重なり合うことなく前記外部表示機器に表示された前記キャリブレーション画像を撮像できるように、前記ヘッドマウントディスプレイを装着したユーザを誘導する画像を前記表示部に表示させる
<11>に記載のヘッドマウントディスプレイ。
<13> 前記キャリブレーション処理部は、前記撮像部により撮像された、前記外部表示機器により表示された前記キャリブレーション画像の輝度に基づいて、前記キャリブレーション画像を生成する
<2>に記載のヘッドマウントディスプレイ。
<14> 前記キャリブレーション処理部は、前記撮像部により撮像された、前記外部表示機器により表示された前記キャリブレーション画像のうち、輝度が飽和している画素が所定数よりも多い場合、前記外部表示機器に表示される前記キャリブレーション画像の輝度を低減させ、前記撮像部により撮像された、前記外部表示機器により表示された前記キャリブレーション画像のうち、輝度が最低値の画素が所定数よりも多い場合、前記外部表示機器に表示される前記キャリブレーション画像の輝度を増大させる
<13>に記載のヘッドマウントディスプレイ。
<15> 前記キャリブレーション処理部は、前記撮像部により撮像された画像内に、前記外部表示機器が検出されたタイミング、所定の時間が経過したタイミング、前記ヘッドマウントディスプレイの位置情報に基づいて、前記撮像部のカメラパラメータに基づいて、本来、前記撮像部により撮像されるべき画像と、実際に前記撮像部により撮像される画像との間に齟齬が生じたタイミング、またはユーザが前記キャリブレーションを要求するタイミングにおいて、前記キャリブレーションに適した前記キャリブレーション画像を生成し、前記外部表示機器に表示させる
<1>乃至<14>のいずれかに記載のヘッドマウントディスプレイ。
<16> 前記キャリブレーション画像は、所定形状のマーカからなる画像、または、所定の配色がなされたマーカからなる画像である
<1>乃至<15>のいずれかに記載のヘッドマウントディスプレイ。
<17> 前記キャリブレーション画像は、動画像からなるコンテンツのうちの、所定のタイミングにより表示される画像である
<1>乃至<16>のいずれかに記載のヘッドマウントディスプレイ。
<18> 表示部と、外部を撮像する撮像部とを備えたヘッドマウントディスプレイの制御方法であって、
キャリブレーションに適したキャリブレーション画像を生成し、外部表示機器に表示させるキャリブレーション処理を含む
ヘッドマウントディスプレイの制御方法。
<19> 表示部と、外部を撮像する撮像部とを備えたヘッドマウントディスプレイを制御するコンピュータを、
キャリブレーションに適したキャリブレーション画像を生成し、外部表示機器に表示させるキャリブレーション処理部として機能させる
プログラム。
<20> 表示部と、外部を撮像する撮像部とを備えたヘッドマウントディスプレイにコンテンツを供給する情報処理装置であって、
キャリブレーションに適したキャリブレーション画像を生成し、外部表示機器に表示させるキャリブレーション処理部を含む
情報処理装置。
<21> 表示部と、外部を撮像する撮像部とを備えたヘッドマウントディスプレイの前記撮像部のキャリブレーション画像を表示する表示装置であって、
キャリブレーションに適した前記キャリブレーション画像を生成し、表示させるキャリブレーション処理部を含む
表示装置。
Claims (17)
- 表示部と、
外部を撮像する撮像部と、
キャリブレーションに適したキャリブレーション画像を生成し、外部表示機器に表示させ、前記撮像部によりキャリブレーション画像を撮像させ、前記撮像部により撮像されたキャリブレーション画像に基づいて、前記撮像部のカメラパラメータを推定するキャリブレーション処理部とを含むヘッドマウントディスプレイであって、
前記キャリブレーション処理部は、前記ヘッドマウントディスプレイと前記外部表示機器との位置関係と対応する、前記撮像部の撮像方向と、前記外部表示機器の表面の方向とのなす角に基づいて、前記キャリブレーション画像におけるキャリブレーションパターンを構成するマーカのサイズを調整して生成する
ヘッドマウントディスプレイ。 - 前記キャリブレーション処理部は、前記ヘッドマウントディスプレイと前記外部表示機器との位置関係と対応する、前記ヘッドマウントディスプレイの位置情報と、前記外部表示機器の位置情報とに基づいて、前記キャリブレーション画像を生成する
請求項1に記載のヘッドマウントディスプレイ。 - 前記キャリブレーション処理部は、前記ヘッドマウントディスプレイと、前記外部表示機器との距離に応じて、前記キャリブレーション画像のサイズを調整し生成する
請求項2に記載のヘッドマウントディスプレイ。 - 前記キャリブレーション処理部は、前記ヘッドマウントディスプレイと、前記外部表示機器との距離が所定の距離よりも遠いとき、前記キャリブレーション画像のサイズを大きく調整する
請求項3に記載のヘッドマウントディスプレイ。 - 前記キャリブレーション処理部は、前記ヘッドマウントディスプレイと前記外部表示機器との位置関係と対応する、前記ヘッドマウントディスプレイの姿勢情報と、前記外部表示機器の姿勢情報とに基づいて、前記撮像部の撮像方向と、前記外部表示機器の表面の方向とのなす角に応じて、前記キャリブレーション画像の前記キャリブレーションパターンを構成する前記マーカのサイズを調整して前記キャリブレーション画像を生成する
請求項1に記載のヘッドマウントディスプレイ。 - 前記キャリブレーション処理部は、前記なす角が所定の角度よりも大きいとき、前記なす角が構成される方向に対して、前記キャリブレーション画像のキャリブレーションパターンを構成するマーカのサイズを大きく調整する
請求項5に記載のヘッドマウントディスプレイ。 - 前記キャリブレーション処理部は、前記撮像部により撮像される、前記外部表示機器に表示された前記キャリブレーション画像の複数の画像に基づいて、前記カメラパラメータを推定する場合、前記複数の画像について、前記外部表示機器の表面の方向に対する、前記撮像部の撮像方向に偏りがあるとき、前記表示部に前記外部表示機器の表面の方向に対する、前記撮像部の撮像方向のうち、前記撮像部により撮像されていない方向から撮像するように、前記ヘッドマウントディスプレイを装着したユーザを誘導する画像を前記表示部に表示させる
請求項1に記載のヘッドマウントディスプレイ。 - 前記キャリブレーション処理部は、複数の前記ヘッドマウントディスプレイの前記撮像部の前記カメラパラメータを推定する場合、複数の前記撮像部のそれぞれが重なり合うことなく前記外部表示機器に表示された前記キャリブレーション画像を撮像できるように、前記ヘッドマウントディスプレイを装着したユーザを誘導する画像を前記表示部に表示させる
請求項7に記載のヘッドマウントディスプレイ。 - 前記キャリブレーション処理部は、前記撮像部により撮像された、前記外部表示機器により表示された前記キャリブレーション画像の輝度に基づいて、前記キャリブレーション画像を生成する
請求項1に記載のヘッドマウントディスプレイ。 - 前記キャリブレーション処理部は、前記撮像部により撮像された、前記外部表示機器により表示された前記キャリブレーション画像のうち、輝度が飽和している画素が所定数よりも多い場合、前記外部表示機器に表示される前記キャリブレーション画像の輝度を低減させ、前記撮像部により撮像された、前記外部表示機器により表示された前記キャリブレーション画像のうち、輝度が最低値の画素が所定数よりも多い場合、前記外部表示機器に表示される前記キャリブレーション画像の輝度を増大させる
請求項9に記載のヘッドマウントディスプレイ。 - 前記キャリブレーション処理部は、前記撮像部により撮像された画像内に、前記外部表示機器が検出されたタイミング、所定の時間が経過したタイミング、前記ヘッドマウントディスプレイの位置情報に基づいて、前記撮像部のカメラパラメータに基づいて、本来、前記撮像部により撮像されるべき画像と、実際に前記撮像部により撮像される画像との間に齟齬が生じたタイミング、またはユーザが前記キャリブレーションを要求するタイミングにおいて、前記キャリブレーションに適した前記キャリブレーション画像を生成し、前記外部表示機器に表示させる
請求項1に記載のヘッドマウントディスプレイ。 - 前記キャリブレーション画像は、所定形状のマーカからなる画像、または、所定の配色がなされたマーカからなる画像である
請求項1に記載のヘッドマウントディスプレイ。 - 前記キャリブレーション画像は、動画像からなるコンテンツのうちの、所定のタイミングにより表示される画像である
請求項1に記載のヘッドマウントディスプレイ。 - 表示部と、外部を撮像する撮像部とを備えたヘッドマウントディスプレイの制御方法であって、
キャリブレーションに適したキャリブレーション画像を生成し、外部表示機器に表示させ、前記撮像部によりキャリブレーション画像を撮像させ、前記撮像部により撮像されたキャリブレーション画像に基づいて、前記撮像部のカメラパラメータを推定するキャリブレーション処理を含み、
前記キャリブレーション処理は、前記ヘッドマウントディスプレイと前記外部表示機器との位置関係と対応する、前記撮像部の撮像方向と、前記外部表示機器の表面の方向とのなす角に応じて、前記キャリブレーション画像におけるキャリブレーションパターンを構成するマーカのサイズを調整して生成する
ヘッドマウントディスプレイの制御方法。 - 表示部と、外部を撮像する撮像部とを備えたヘッドマウントディスプレイを制御するコンピュータを、
キャリブレーションに適したキャリブレーション画像を生成し、外部表示機器に表示させ、前記撮像部によりキャリブレーション画像を撮像させ、前記撮像部により撮像されたキャリブレーション画像に基づいて、前記撮像部のカメラパラメータを推定するキャリブレーション処理部として機能させ、
前記キャリブレーション処理部は、前記ヘッドマウントディスプレイと前記外部表示機器との位置関係と対応する、前記撮像部の撮像方向と、前記外部表示機器の表面の方向とのなす角に応じて、前記キャリブレーション画像におけるキャリブレーションパターンを構成するマーカのサイズを調整して生成する
プログラム。 - 表示部と、外部を撮像する撮像部とを備えたヘッドマウントディスプレイにコンテンツを供給する情報処理装置であって、
キャリブレーションに適したキャリブレーション画像を生成し、外部表示機器に表示させ、前記撮像部によりキャリブレーション画像を撮像させ、前記撮像部により撮像されたキャリブレーション画像に基づいて、前記撮像部のカメラパラメータを推定するキャリブレーション処理部とを含み、
前記キャリブレーション処理部は、前記ヘッドマウントディスプレイと前記外部表示機器との位置関係と対応する、前記撮像部の撮像方向と、前記外部表示機器の表面の方向とのなす角に応じて、前記キャリブレーション画像におけるキャリブレーションパターンを構成するマーカのサイズを調整して生成する
情報処理装置。 - 表示部と、外部を撮像する撮像部とを備えたヘッドマウントディスプレイの前記撮像部のキャリブレーション画像を表示する表示装置であって、
キャリブレーションに適したキャリブレーション画像を生成し、外部表示機器に表示させ、前記撮像部によりキャリブレーション画像を撮像させ、前記撮像部により撮像されたキャリブレーション画像に基づいて、前記撮像部のカメラパラメータを推定するキャリブレーション処理部とを含み、
前記キャリブレーション処理部は、前記ヘッドマウントディスプレイと前記外部表示機器との位置関係と対応する、前記撮像部の撮像方向と、前記外部表示機器の表面の方向とのなす角に応じて、前記キャリブレーション画像におけるキャリブレーションパターンを構成するマーカのサイズを調整して生成する
表示装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018133843 | 2018-07-17 | ||
JP2018133843 | 2018-07-17 | ||
PCT/JP2019/026417 WO2020017327A1 (ja) | 2018-07-17 | 2019-07-03 | ヘッドマウントディスプレイ、およびヘッドマウントディスプレイの制御方法、情報処理装置、表示装置、並びに、プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2020017327A1 JPWO2020017327A1 (ja) | 2021-08-02 |
JP7409307B2 true JP7409307B2 (ja) | 2024-01-09 |
Family
ID=69164370
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020531224A Active JP7409307B2 (ja) | 2018-07-17 | 2019-07-03 | ヘッドマウントディスプレイ、およびヘッドマウントディスプレイの制御方法、情報処理装置、表示装置、並びに、プログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US20210124174A1 (ja) |
EP (1) | EP3826290A4 (ja) |
JP (1) | JP7409307B2 (ja) |
CN (1) | CN112385209B (ja) |
WO (1) | WO2020017327A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022186326A (ja) * | 2021-06-04 | 2022-12-15 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置および画像生成方法 |
JP2023076068A (ja) * | 2021-11-22 | 2023-06-01 | トヨタ自動車株式会社 | 画像表示システムおよび画像コントローラ |
CN114900624A (zh) * | 2022-04-25 | 2022-08-12 | 歌尔股份有限公司 | 拍摄校准方法、系统、设备及存储介质 |
EP4390916A2 (en) * | 2022-12-19 | 2024-06-26 | Stereyo BV | Active matrix display, system, and method |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004015205A (ja) | 2002-06-04 | 2004-01-15 | Olympus Corp | マルチプロジェクションシステム及びマルチプロジェクションシステムにおける補正データ取得方法 |
JP2004289548A (ja) | 2003-03-24 | 2004-10-14 | Olympus Corp | 画像調整装置及び頭部装着型表示装置 |
US20130120224A1 (en) | 2011-11-11 | 2013-05-16 | Elmer S. Cajigas | Recalibration of a flexible mixed reality device |
JP2013122663A (ja) | 2011-12-09 | 2013-06-20 | Sharp Corp | 表示システム、較正方法、コンピュータプログラム、及び記録媒体 |
JP2015201707A (ja) | 2014-04-07 | 2015-11-12 | 日本放送協会 | ディスプレイ表示パターン生成装置及びそのプログラム |
JP2016110489A (ja) | 2014-12-09 | 2016-06-20 | コニカミノルタ株式会社 | 表示装置、表示装置のキャリブレーション方法、およびキャリブレーションプログラム |
JP2017037554A (ja) | 2015-08-12 | 2017-02-16 | セイコーエプソン株式会社 | 画像表示装置、コンピュータープログラム、および画像表示システム |
JP2018007254A5 (ja) | 2017-06-28 | 2020-08-06 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4453119B2 (ja) | 1999-06-08 | 2010-04-21 | ソニー株式会社 | カメラ・キャリブレーション装置及び方法、画像処理装置及び方法、プログラム提供媒体、並びに、カメラ |
JP6177006B2 (ja) * | 2013-05-24 | 2017-08-09 | 京セラ株式会社 | カメラ較正装置、およびカメラ較正方法 |
EP3360029B1 (en) * | 2015-10-08 | 2019-11-13 | PCMS Holdings, Inc. | Methods and systems of automatic calibration for dynamic display configurations |
EP3264360A1 (en) | 2016-06-28 | 2018-01-03 | Dassault Systèmes | Dynamical camera calibration |
-
2019
- 2019-07-03 EP EP19838306.9A patent/EP3826290A4/en active Pending
- 2019-07-03 US US17/254,608 patent/US20210124174A1/en not_active Abandoned
- 2019-07-03 CN CN201980046164.9A patent/CN112385209B/zh active Active
- 2019-07-03 WO PCT/JP2019/026417 patent/WO2020017327A1/ja unknown
- 2019-07-03 JP JP2020531224A patent/JP7409307B2/ja active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004015205A (ja) | 2002-06-04 | 2004-01-15 | Olympus Corp | マルチプロジェクションシステム及びマルチプロジェクションシステムにおける補正データ取得方法 |
JP2004289548A (ja) | 2003-03-24 | 2004-10-14 | Olympus Corp | 画像調整装置及び頭部装着型表示装置 |
US20130120224A1 (en) | 2011-11-11 | 2013-05-16 | Elmer S. Cajigas | Recalibration of a flexible mixed reality device |
JP2013122663A (ja) | 2011-12-09 | 2013-06-20 | Sharp Corp | 表示システム、較正方法、コンピュータプログラム、及び記録媒体 |
JP2015201707A (ja) | 2014-04-07 | 2015-11-12 | 日本放送協会 | ディスプレイ表示パターン生成装置及びそのプログラム |
JP2016110489A (ja) | 2014-12-09 | 2016-06-20 | コニカミノルタ株式会社 | 表示装置、表示装置のキャリブレーション方法、およびキャリブレーションプログラム |
JP2017037554A (ja) | 2015-08-12 | 2017-02-16 | セイコーエプソン株式会社 | 画像表示装置、コンピュータープログラム、および画像表示システム |
JP2018007254A5 (ja) | 2017-06-28 | 2020-08-06 |
Also Published As
Publication number | Publication date |
---|---|
EP3826290A1 (en) | 2021-05-26 |
CN112385209A (zh) | 2021-02-19 |
EP3826290A4 (en) | 2021-08-25 |
JPWO2020017327A1 (ja) | 2021-08-02 |
US20210124174A1 (en) | 2021-04-29 |
WO2020017327A1 (ja) | 2020-01-23 |
CN112385209B (zh) | 2023-04-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7409307B2 (ja) | ヘッドマウントディスプレイ、およびヘッドマウントディスプレイの制御方法、情報処理装置、表示装置、並びに、プログラム | |
CN107690649B (zh) | 数字拍摄装置及其操作方法 | |
JP5115139B2 (ja) | 構図判定装置、構図判定方法、プログラム | |
JP5109803B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP5206095B2 (ja) | 構図判定装置、構図判定方法、プログラム | |
US20110254972A1 (en) | Imaging device | |
JP5407640B2 (ja) | 画像対応装置、動作設定方法、プログラム | |
JP2005167517A (ja) | 画像処理装置、画像処理装置のキャリブレーション方法及び画像処理プログラム | |
KR20190012465A (ko) | 복수의 카메라를 이용하여 영상을 획득하기 위한 전자 장치 및 이를 이용한 영상 처리 방법 | |
KR101204888B1 (ko) | 디지털 촬영장치, 그 제어방법 및 이를 실행시키기 위한프로그램을 저장한 기록매체 | |
JP5347802B2 (ja) | 構図制御装置、撮像システム、構図制御方法、プログラム | |
JP5159189B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
US8525913B2 (en) | Digital photographing apparatus, method of controlling the same, and computer-readable storage medium | |
JP2008172342A (ja) | 立体画像記録装置および立体画像記録方法 | |
JP2012019292A (ja) | 3dカメラモジュールの撮像検査装置およびその撮像検査方法、3dカメラモジュールの撮像検査制御プログラム、3dカメラモジュールの撮像補正方法、3dカメラモジュールの撮像補正制御プログラム、可読記録媒体、3dカメラモジュール、電子情報機器 | |
US8194147B2 (en) | Image presentation angle adjustment method and camera device using the same | |
KR20190014959A (ko) | 움직임 정보에 기반하여 동영상을 재생하기 위한 장치 및 그의 동작 방법 | |
JP2009089220A (ja) | 撮像装置 | |
KR20180017591A (ko) | 카메라 장치, 디스플레이 장치 및 그 장치에서 움직임을 보정하는 방법 | |
JPWO2018116824A1 (ja) | 制御装置、制御方法、並びにプログラム | |
JP2004088558A (ja) | モニタリングシステムおよび方法並びにプログラムおよび記録媒体 | |
JP4225040B2 (ja) | モニタリングシステムおよび方法並びにプログラムおよび記録媒体 | |
WO2018084051A1 (ja) | 情報処理装置、ヘッドマウントディスプレイ、情報処理システム、および情報処理方法 | |
JP2003324717A (ja) | モニタリングシステムおよび方法、並びにプログラムおよび記録媒体 | |
JP2018112991A (ja) | 画像処理装置、画像処理システム、画像処理方法、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220513 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230620 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230814 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231121 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231204 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7409307 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |