JP2020178330A - 仮想シーン及び現実シーンをピクチャ・イン・ピクチャモードで表示可能なヘッドマウントディスプレイシステム、関連する方法及び関連する非一時的なコンピュータ可読記憶媒体 - Google Patents
仮想シーン及び現実シーンをピクチャ・イン・ピクチャモードで表示可能なヘッドマウントディスプレイシステム、関連する方法及び関連する非一時的なコンピュータ可読記憶媒体 Download PDFInfo
- Publication number
- JP2020178330A JP2020178330A JP2019089495A JP2019089495A JP2020178330A JP 2020178330 A JP2020178330 A JP 2020178330A JP 2019089495 A JP2019089495 A JP 2019089495A JP 2019089495 A JP2019089495 A JP 2019089495A JP 2020178330 A JP2020178330 A JP 2020178330A
- Authority
- JP
- Japan
- Prior art keywords
- head
- unit
- display system
- mounted display
- user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims description 28
- 238000012545 processing Methods 0.000 claims abstract description 51
- 230000004913 activation Effects 0.000 claims description 26
- 230000004044 response Effects 0.000 claims description 7
- 230000036544 posture Effects 0.000 claims 3
- 230000006378 damage Effects 0.000 abstract description 4
- 238000010586 diagram Methods 0.000 description 17
- 238000004891 communication Methods 0.000 description 11
- 238000005259 measurement Methods 0.000 description 6
- 208000027418 Wounds and injury Diseases 0.000 description 3
- 208000014674 injury Diseases 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 230000003190 augmentative effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000392 somatic effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/20—Input arrangements for video game devices
- A63F13/21—Input arrangements for video game devices characterised by their sensors, purposes or types
- A63F13/212—Input arrangements for video game devices characterised by their sensors, purposes or types using sensors worn by the player, e.g. for measuring heart beat or leg activity
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/20—Input arrangements for video game devices
- A63F13/21—Input arrangements for video game devices characterised by their sensors, purposes or types
- A63F13/213—Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/44—Receiver circuitry for the reception of television signals according to analogue transmission standards
- H04N5/445—Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
- H04N5/45—Picture in picture, e.g. displaying simultaneously another television channel in a region of the screen
Abstract
Description
11,11’,11”,11’’’,11”” 装着可能な本体
12,12’,12”,12’’’,12”” 表示ユニット
13,13’,13”,13’’’,13”” 処理ユニット
14,14’’’,14”” 追跡ユニット
141,141”” 慣性計測装置
142’’’ カメラモジュール
143’’’ 手センサ
144’’’,144”” 下半身センサ
15,15”,15’’’,15”” 画像捕捉ユニット
16’ スイッチユニット
17” リモートコントローラ
18” 通信モジュール
19” 遠隔コンピュータ装置
Claims (10)
- ユーザによって身に付けられるよう構成される装着可能な本体と、
前記装着可能な本体に取り付けられ、現実シーンを捕捉するよう構成される画像捕捉ユニットと、
前記装着可能な本体に取り付けられ、仮想シーン及び前記現実シーンをピクチャ・イン・ピクチャモードで表示するよう構成される表示ユニットと、
前記画像捕捉ユニット及び前記表示ユニットへ結合される処理ユニットと
を有し、
前記表示ユニットは更に、前記仮想シーンをフルスクリーンモードで表示するよう構成され、
前記処理ユニットは、起動コマンドに応答して、前記表示ユニットに前記フルスクリーンモードと前記ピクチャ・イン・ピクチャモードとの間で切り替わるように指示するよう構成される、
ヘッドマウントディスプレイシステム。 - 前記処理ユニットへ結合されるスイッチユニットであり、該スイッチユニットの状態が変化するときに前記起動コマンドを生成する前記スイッチユニット、及び/又は
前記処理ユニットと通信するリモートコントローラであり、該リモートコントローラが操作されるときに前記起動コマンドを生成する前記リモートコントローラ
を更に有する
請求項1に記載のヘッドマウントディスプレイシステム。 - 前記画像捕捉ユニットは更に、前記ユーザの手のジェスチャ、前記ユーザの手の動き、前記ユーザの下半身の動き、当該ヘッドマウントディスプレイシステムの位置、当該ヘッドマウントディスプレイシステムの向き、及び当該ヘッドマウントディスプレイシステムの姿勢、の中の少なくとも1つを追跡するよう構成され、前記起動コマンドは、前記画像捕捉ユニットの追跡結果が所定の条件を満たすときに生成され、あるいは、
当該ヘッドマウントディスプレイシステムは、前記処理ユニットへ結合され、前記ユーザの手のジェスチャ、前記ユーザの手の動き、前記ユーザの下半身の動き、当該ヘッドマウントディスプレイシステムの位置、当該ヘッドマウントディスプレイシステムの向き、及び当該ヘッドマウントディスプレイシステムの姿勢、の中の少なくとも1つを追跡するよう構成される追跡ユニットを更に有し、前記起動コマンドは、前記追跡ユニットの追跡結果が所定の条件を満たすときに生成される、
請求項1に記載のヘッドマウントディスプレイシステム。 - 前記処理ユニットへ結合され、前記ユーザの下半身の動き、当該ヘッドマウントディスプレイシステムの位置、当該ヘッドマウントディスプレイシステムの向き、及び当該ヘッドマウントディスプレイシステムの姿勢、の中の少なくとも1つを追跡するよう構成される追跡ユニットを更に有し、
前記画像捕捉ユニットは、前記ユーザの手のジェスチャ及び手の動きの中の少なくとも1つを追跡するよう構成され、
前記起動コマンドは、前記追跡ユニットの追跡結果及び前記画像捕捉ユニットの追跡結果が夫々第1所定条件及び第2所定条件を満たすときに生成される、
請求項1に記載のヘッドマウントディスプレイシステム。 - 前記画像捕捉ユニットは更に、前記ユーザの手のジェスチャ及び手の動きの中の少なくとも1つを追跡するよう構成され、
前記ピクチャ・イン・ピクチャモードで表示される前記現実シーンのウィンドウのサイズ及び位置の少なくとも一方は、前記画像捕捉ユニットの追跡結果が所定の条件を満たすときに調整される、
請求項1に記載のヘッドマウントディスプレイシステム。 - 仮想シーン及び現実シーンをピクチャ・イン・ピクチャモードで表示するためにヘッドマウントディスプレイシステムを使用する方法であって、
前記仮想シーンをフルスクリーンモードで表示するために前記ヘッドマウントディスプレイシステムの表示ユニットを使用することと、
前記現実シーンを捕捉するために前記ヘッドマウントディスプレイシステムの画像捕捉ユニットを使用することと、
起動コマンドに応答して、前記表示ユニットに、前記フルスクリーンモードと前記ピクチャ・イン・ピクチャモードとの間で切り替わるよう指示するために、前記ヘッドマウントディスプレイシステムの処理ユニットを使用することと、
前記仮想シーン及び前記現実シーンを前記ピクチャ・イン・ピクチャモードで表示するために前記表示ユニットを使用することと
を有する方法。 - スイッチユニットの状態が変化するときに前記起動コマンドを生成するよう前記ヘッドマウントディスプレイシステムの前記スイッチユニットを使用すること、及び/又は
リモートコントローラが操作されるときに前記起動コマンドを生成するよう前記ヘッドマウントディスプレイシステムの前記リモートコントローラを使用すること
を更に有する
請求項6に記載の方法。 - ユーザの手のジェスチャ、前記ユーザの手の動き、前記ユーザの下半身の動き、前記ヘッドマウントディスプレイシステムの位置、前記ヘッドマウントディスプレイシステムの向き、及び前記ヘッドマウントディスプレイシステムの姿勢、の中の少なくとも1つを追跡するために前記画像捕捉ユニットを使用し、前記画像捕捉ユニットの追跡結果が所定の条件を満たすときに前記起動コマンドを生成すること、又は
ユーザの手のジェスチャ、前記ユーザの手の動き、前記ユーザの下半身の動き、前記ヘッドマウントディスプレイシステムの位置、前記ヘッドマウントディスプレイシステムの向き、及び前記ヘッドマウントディスプレイシステムの姿勢、の中の少なくとも1つを追跡するために前記ヘッドマウントディスプレイシステムの追跡ユニットを使用し、前記追跡ユニットの追跡結果が所定の条件を満たすときに前記起動コマンドを生成すること
を更に有する
請求項6に記載の方法。 - ユーザの手のジェスチャ及び前記ユーザの手の動きの中の少なくとも1つを追跡するために前記画像捕捉ユニットを使用することと、
前記ユーザの下半身の動き、前記ヘッドマウントディスプレイシステムの位置、前記ヘッドマウントディスプレイシステムの向き、及び前記ヘッドマウントディスプレイシステムの姿勢、の中の少なくとも1つを追跡するために前記ヘッドマウントディスプレイシステムの追跡ユニットを使用することと、
前記追跡ユニットの追跡結果及び前記画像捕捉ユニットの追跡結果が夫々第1所定条件及び第2所定条件を満たすときに前記起動コマンドを生成することと
を更に有する
請求項6に記載の方法。 - ユーザの手のジェスチャ及び前記ユーザの手の動きの中の少なくとも1つを追跡するために前記画像捕捉ユニットを使用することと、
前記画像捕捉ユニットの追跡結果が所定の条件を満たすときに、前記ピクチャ・イン・ピクチャモードで表示される前記現実シーンのウィンドウのサイズ及び位置の少なくとも一方を調整することと
を更に有する
請求項6に記載の方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/384,914 US10992926B2 (en) | 2019-04-15 | 2019-04-15 | Head mounted display system capable of displaying a virtual scene and a real scene in a picture-in-picture mode, related method and related non-transitory computer readable storage medium |
US16/384,914 | 2019-04-15 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020178330A true JP2020178330A (ja) | 2020-10-29 |
JP6820376B2 JP6820376B2 (ja) | 2021-01-27 |
Family
ID=71134374
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019089495A Active JP6820376B2 (ja) | 2019-04-15 | 2019-05-10 | 仮想シーン及び現実シーンをピクチャ・イン・ピクチャモードで表示可能なヘッドマウントディスプレイシステム、関連する方法及び関連する非一時的なコンピュータ可読記憶媒体 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10992926B2 (ja) |
JP (1) | JP6820376B2 (ja) |
CN (1) | CN111831105A (ja) |
TW (1) | TWI690730B (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10698481B1 (en) * | 2017-09-28 | 2020-06-30 | Apple Inc. | Glint-assisted gaze tracker |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010515876A (ja) * | 2007-01-15 | 2010-05-13 | オプテック ヴェンチャーズ,エルエルシー | 画像方向補正方法およびシステム |
US20160220324A1 (en) * | 2014-12-05 | 2016-08-04 | Camplex, Inc. | Surgical visualizations systems and displays |
JP2016189120A (ja) * | 2015-03-30 | 2016-11-04 | ソニー株式会社 | 情報処理装置、情報処理システム、及び頭部装着ディスプレイ |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9088787B1 (en) * | 2012-08-13 | 2015-07-21 | Lockheed Martin Corporation | System, method and computer software product for providing visual remote assistance through computing systems |
JP6361649B2 (ja) | 2013-03-29 | 2018-07-25 | ソニー株式会社 | 情報処理装置、通知状態制御方法及びプログラム |
US20160049011A1 (en) | 2013-04-04 | 2016-02-18 | Sony Corporation | Display control device, display control method, and program |
US10019057B2 (en) | 2013-06-07 | 2018-07-10 | Sony Interactive Entertainment Inc. | Switching mode of operation in a head mounted display |
US9729864B2 (en) | 2013-09-30 | 2017-08-08 | Sony Interactive Entertainment Inc. | Camera based safety mechanisms for users of head mounted displays |
CN104216520B (zh) * | 2014-09-09 | 2018-07-06 | 联想(北京)有限公司 | 一种信息处理方法及电子设备 |
CN106484085B (zh) * | 2015-08-31 | 2019-07-23 | 北京三星通信技术研究有限公司 | 在头戴式显示器中显示真实物体的方法及其头戴式显示器 |
KR102610120B1 (ko) | 2016-01-20 | 2023-12-06 | 삼성전자주식회사 | Hmd 디바이스 및 그 제어 방법 |
US10217287B2 (en) * | 2016-12-24 | 2019-02-26 | Motorola Solutions, Inc. | Method and apparatus for generating a search pattern for an incident scene |
TWI626851B (zh) | 2017-03-14 | 2018-06-11 | 宏正自動科技股份有限公司 | 影像切換裝置、影像切換系統及影像切換方法 |
US20180288354A1 (en) * | 2017-03-31 | 2018-10-04 | Intel Corporation | Augmented and virtual reality picture-in-picture |
TWM573838U (zh) | 2018-09-17 | 2019-02-01 | 全台晶像股份有限公司 | Head-mounted virtual reality display device |
-
2019
- 2019-04-15 US US16/384,914 patent/US10992926B2/en active Active
- 2019-05-10 JP JP2019089495A patent/JP6820376B2/ja active Active
- 2019-05-21 TW TW108117509A patent/TWI690730B/zh active
- 2019-05-27 CN CN201910443715.7A patent/CN111831105A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010515876A (ja) * | 2007-01-15 | 2010-05-13 | オプテック ヴェンチャーズ,エルエルシー | 画像方向補正方法およびシステム |
US20160220324A1 (en) * | 2014-12-05 | 2016-08-04 | Camplex, Inc. | Surgical visualizations systems and displays |
JP2016189120A (ja) * | 2015-03-30 | 2016-11-04 | ソニー株式会社 | 情報処理装置、情報処理システム、及び頭部装着ディスプレイ |
Also Published As
Publication number | Publication date |
---|---|
US10992926B2 (en) | 2021-04-27 |
TWI690730B (zh) | 2020-04-11 |
TW202040214A (zh) | 2020-11-01 |
US20200329229A1 (en) | 2020-10-15 |
JP6820376B2 (ja) | 2021-01-27 |
CN111831105A (zh) | 2020-10-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10978019B2 (en) | Head mounted display system switchable between a first-person perspective mode and a third-person perspective mode, related method and related non-transitory computer readable storage medium | |
WO2018034319A1 (ja) | 情報処理方法及び当該情報処理方法をコンピュータに実行させるためのプログラム | |
US11601592B2 (en) | Head mounted display having a plurality of display modes | |
JP6434667B1 (ja) | 仮想空間を提供するためのプログラム、システム、及び方法 | |
KR102449439B1 (ko) | Hmd를 이용한 무인기 조종 장치 | |
WO2016163183A1 (ja) | 没入型仮想空間に実空間のユーザの周辺環境を提示するためのヘッドマウント・ディスプレイ・システムおよびコンピュータ・プログラム | |
EP3528024B1 (en) | Information processing device, information processing method, and program | |
US11151804B2 (en) | Information processing device, information processing method, and program | |
CN111937045A (zh) | 信息处理装置、信息处理方法和记录介质 | |
JP2020177608A (ja) | 仮想シーン及び現実環境のマップをピクチャ・イン・ピクチャモードで表示可能なヘッドマウントディスプレイシステム、関連する方法及び関連する非一時的なコンピュータ可読記憶媒体 | |
US11477433B2 (en) | Information processor, information processing method, and program | |
JP6820376B2 (ja) | 仮想シーン及び現実シーンをピクチャ・イン・ピクチャモードで表示可能なヘッドマウントディスプレイシステム、関連する方法及び関連する非一時的なコンピュータ可読記憶媒体 | |
US20220351442A1 (en) | Animation production system | |
GB2582106A (en) | Display device and display device control method | |
WO2021014673A1 (ja) | 映像表示制御装置、方法およびプログラム | |
JP7077132B2 (ja) | 電子機器、電子機器の制御方法、プログラム、及び、記憶媒体 | |
EP3734417A1 (en) | Head mounted display system capable of displaying a virtual scene and a real scene in a picture-in-picture mode, related method and related non-transitory computer readable storage medium | |
EP3734418A1 (en) | Head mounted display system capable of displaying a virtual scene and a map of a real environment in a picture-in-picture mode, related method and related non-transitory computer readable storage medium | |
EP3734415A1 (en) | Head mounted display system switchable between a first-person perspective mode and a third-person perspective mode, related method and related non-transitory computer readable storage medium | |
WO2024064231A1 (en) | Devices, methods, and graphical user interfaces for interacting with three-dimensional environments | |
CN114579074A (zh) | 用于助视器的交互式投屏方法、计算机存储介质及助视器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190510 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200714 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201008 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201215 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210104 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6820376 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |