WO2023234097A1 - ヘッドマウントディスプレイおよびコンテンツ表示システム - Google Patents

ヘッドマウントディスプレイおよびコンテンツ表示システム Download PDF

Info

Publication number
WO2023234097A1
WO2023234097A1 PCT/JP2023/018929 JP2023018929W WO2023234097A1 WO 2023234097 A1 WO2023234097 A1 WO 2023234097A1 JP 2023018929 W JP2023018929 W JP 2023018929W WO 2023234097 A1 WO2023234097 A1 WO 2023234097A1
Authority
WO
WIPO (PCT)
Prior art keywords
function
display
hmd
unit
button
Prior art date
Application number
PCT/JP2023/018929
Other languages
English (en)
French (fr)
Inventor
雅則 野村
泰生 高橋
翔威 米富
ゆりか 村瀬
Original Assignee
株式会社ソニー・インタラクティブエンタテインメント
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社ソニー・インタラクティブエンタテインメント filed Critical 株式会社ソニー・インタラクティブエンタテインメント
Publication of WO2023234097A1 publication Critical patent/WO2023234097A1/ja

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/64Constructional details of receivers, e.g. cabinets or dust covers

Definitions

  • FIG. 1 is a diagram illustrating a configuration example of a content display system in an embodiment. It is a figure showing an example of the external shape of HMD. It is a figure showing an example of the external shape of HMD. It is a diagram showing functional blocks of an HMD.
  • FIG. 2 is a diagram showing functional blocks of an information processing device.
  • 3 is a flowchart showing the operation of the content display system.
  • FIG. 6 is a diagram illustrating an example of a function button setting screen. 3 is a flowchart showing the operation of the content display system.
  • FIG. 3 is a diagram showing an example of a setup screen.
  • FIG. 3 is a diagram showing an example of a setup screen.
  • the output mechanism section 102 includes a casing 108 that is shaped to cover the left and right eyes when the HMD 100 is worn by the user, and includes a display panel that directly faces the eyes when the user wears the HMD 100.
  • the display panel may be a liquid crystal panel, an organic EL panel, or the like.
  • Inside the housing 108 a pair of left and right optical lenses are further provided that are located between the display panel and the user's eyes and expand the user's viewing angle.
  • the HMD 100 may further include a speaker or earphones at a position corresponding to the user's ears, and may be configured to be connected to external headphones.
  • the information processing device 10 includes a computer, and various functions shown in FIG. 5 are realized by the computer executing programs.
  • a computer includes a memory into which a program is loaded, one or more processors (CPU, GPU, etc.) that execute the loaded program, an auxiliary storage device, other LSI, and the like as hardware.
  • a processor is constituted by a plurality of electronic circuits including a semiconductor integrated circuit and an LSI, and the plurality of electronic circuits may be mounted on one chip or on a plurality of chips.
  • the functional blocks shown in FIG. 8 are realized by cooperation of hardware and software, and therefore, it will be understood by those skilled in the art that these functional blocks can be realized in various ways by only hardware, only software, or a combination thereof. It is understood.
  • the photographed image acquisition unit 212 acquires the photographed image data transmitted from the HMD 100 and provides it to the application execution unit 220 and the image generation unit 222.
  • the sensor data acquisition unit 214 acquires sensor data transmitted from the input device 16 and the HMD 100, and provides the sensor data to the application execution unit 220 and the image generation unit 222.
  • the image generation unit 222 and the image output unit 224 function as a display control unit 226 that controls the display of electronic content on the display unit (specifically, at least one of the display panel 130 of the HMD 100 and the display of the output device 15). Specifically, the image generation unit 222 generates display image data (for example, VR image data) is generated. The image output unit 224 transmits the image data for display generated by the image generation unit 222 to the HMD 100 and causes it to be displayed on the display panel 130.
  • display image data for example, VR image data
  • Screen transition control function Specifically, a function that controls screen transitions of content displayed on the display unit.
  • This display unit may be the display of the output device 15 or the display panel 130 of the HMD 100.
  • contents displayed on the display section there are contents that the user wants to proceed without holding the input device 16 in his hand, such as content for learning how to wear the HMD 100.
  • the convenience of the HMD 100 can be improved by easily controlling the content screen transition (for example, forward or backward) by pressing the function button 112 of the HMD 100. For example, if the user wants to control screen transitions of content without holding the input device 16, the user no longer needs to hold the input device 16, which can reduce the burden on the user.
  • the user can suppress audio transmission to the outside by operating the function button at any timing, and the convenience of the head-mounted display can be improved.
  • the plurality of functions include a function of controlling screen transitions of content displayed on the display unit, The head-mounted display according to any one of items 1 to 3. According to this aspect, it is possible to provide the user with various operating means for the content being viewed, and for example, it is possible to suppress a decrease in operability in a situation where the user cannot grasp the input device.
  • the power button and the function button are provided at adjacent positions, The head-mounted display according to any one of items 1 to 4. According to this aspect, operations can be easily completed in a specific area on the housing of the head-mounted display, and operability can be improved.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

ヘッドマウントディスプレイ(HMD)100の筐体108の下方外面には、電源ボタン110および機能ボタン112が配設される。電源ボタン110は、所定の電源からHMD100の各部への電力供給のオン・オフを切り替えるためのボタンである。機能ボタン112は、HMD100の動作に関する複数の機能のうちいずれかの機能を選択的に割当可能なボタンである。

Description

ヘッドマウントディスプレイおよびコンテンツ表示システム
 本発明は、ヘッドマウントディスプレイおよびコンテンツ表示システムに関する。
 ヘッドマウントディスプレイを装着したユーザが対象空間を自由な視点から鑑賞できる画像表示システムが普及している。例えば仮想3次元空間を表示対象とし、ユーザの視線方向に応じた画像がヘッドマウントディスプレイに表示されるようにすることで仮想現実(Virtual Reality:VR)を実現する電子コンテンツ(以下「VRコンテンツ」とも呼ぶ。)が知られている。ヘッドマウントディスプレイを利用することで、映像への没入感を高めたり、ゲーム等のアプリケーションの操作性を向上させたりすることもできる。また、ヘッドマウントディスプレイを装着したユーザが物理的に移動することで、VRコンテンツとして表示された空間内を仮想的に歩き回ることのできるウォークスルーシステムも開発されている。
 ヘッドマウントディスプレイは今後一層の普及が見込まれており、ヘッドマウントディスプレイの利便性を高めることが求められている。本発明の1つの目的は、ヘッドマウントディスプレイの利便性を高める技術を提供することにある。
 上記課題を解決するために、本発明のある態様のヘッドマウントディスプレイは、電源ボタンと、電源ボタンとは異なるボタンであって、本ヘッドマウントディスプレイの動作に関する複数の機能のうちいずれかの機能を選択的に割り当て可能なボタンである機能ボタンとを備える。
 本発明の別の態様は、コンテンツ表示システムである。このコンテンツ表示システムは、ヘッドマウントディスプレイと、表示制御部と、を備える。ヘッドマウントディスプレイは、電源ボタンと、電源ボタンとは異なるボタンであって、本ヘッドマウントディスプレイの動作に関する複数の機能のうちいずれかの機能を選択的に割り当て可能なボタンである機能ボタンとを含む。複数の機能は、表示部に表示されるコンテンツの画面遷移を制御する機能を含む。コンテンツの画面遷移を制御する機能が機能ボタンに割り当てられた場合、機能ボタンを相対的に短時間押下する操作がコンテンツの画面を第1方向に遷移させる操作となり、機能ボタンを相対的に長時間押下する操作がコンテンツの画面を第1方向とは逆の第2方向に遷移させる操作となり、表示制御部は、機能ボタンが押下された状態が継続する場合、機能ボタンが押下された状態が継続中であることを示唆する画像を表示部に表示させる。
 なお、以上の構成要素の任意の組合せ、本発明の表現を方法、コンピュータプログラム、コンピュータプログラムを読み取り可能に記録した記録媒体、データ構造などの間で変換したものもまた、本発明の態様として有効である。
実施例におけるコンテンツ表示システムの構成例を示す図である。 HMDの外観形状の例を示す図である。 HMDの外観形状の例を示す図である。 HMDの機能ブロックを示す図である。 情報処理装置の機能ブロックを示す図である。 コンテンツ表示システムの動作を示すフローチャートである。 機能ボタンの設定画面の例を示す図である。 コンテンツ表示システムの動作を示すフローチャートである。 セットアップ画面の例を示す図である。 セットアップ画面の例を示す図である。
 図1は、実施例におけるコンテンツ表示システム1の構成例を示す。コンテンツ表示システム1は、情報処理装置10と、記録装置11と、ヘッドマウントディスプレイ(HMD)100と、ユーザが持って手指で操作する入力デバイス16と、画像および音声を出力する出力装置15とが連携しつつ動作する情報処理システムである。HMD100は、VRヘッドセットとも言える。出力装置15はテレビであってよい。
 情報処理装置10は、アクセスポイント(AP)17を介して、インターネットなどの外部のネットワーク2に接続される。情報処理装置10は、ネットワーク2経由で、他の情報処理装置やサーバと接続され得る。AP17は無線アクセスポイントおよびルータの機能を有し、情報処理装置10はAP17とケーブルで接続してもよく、既知の無線通信プロトコルで接続してもよい。
 記録装置11は、システムソフトウェアや、ゲームソフトウェアなどのアプリケーションを記録する。情報処理装置10は、コンテンツサーバからネットワーク2経由で、ゲームソフトウェアを記録装置11にダウンロードしてもよい。情報処理装置10はゲームソフトウェア等のアプリケーションを実行して、アプリケーションの画像データおよび音声データをHMD100に供給する。情報処理装置10とHMD100とは既知の無線通信プロトコルで接続されてもよく、またケーブルで接続されてもよい。
 HMD100は、ユーザが頭部に装着することによりその眼前に位置する表示パネル(表示部とも言える)に画像を表示する表示装置である。HMD100は、左目用表示パネルに左目用の画像を、右目用表示パネルに右目用の画像を、それぞれ別個に表示する。これらの画像は左右の視点から見た視差画像を構成し、立体視を実現する。ユーザは光学レンズを通して表示パネルを見るため、情報処理装置10は、レンズによる光学歪みを補正した視差画像データをHMD100に供給する。
 HMD100を装着したユーザにとって出力装置15は必要ないが、出力装置15を用意することで、別のユーザが出力装置15の表示画像を見ることができる。情報処理装置10は、HMD100を装着したユーザが見ている画像と同じ画像を出力装置15に表示させてもよく、別の画像を表示させてもよい。例えば、HMDを装着したユーザと、別のユーザとが一緒にゲームをプレイするような場合、出力装置15からは、当該別のユーザのキャラクタ視点からのゲーム画像が表示されてもよい。また、情報処理装置10は、HMD100の初期設定と、HMD100の正しい装着とを支援する内容のセットアップ画面を出力装置15に表示させてもよい。
 情報処理装置10と入力デバイス16とは既知の無線通信プロトコルで接続されてよく、またケーブルで接続されてもよい。入力デバイス16は操作ボタンなどの複数の操作部材を備え、ユーザは入力デバイス16を把持しながら、手指で操作部材を操作する。入力デバイス16は、情報処理装置10およびHMD100に対するコントローラとして利用される。例えば、情報処理装置10がゲームを実行する際には、入力デバイス16は、ゲームコントローラとして利用される。入力デバイス16は、3軸の加速度センサおよび3軸の角速度センサを含む慣性計測装置(IMU:Inertial Measurement Unit)を備え、所定の周期(たとえば800Hz)でセンサデータを情報処理装置10に送信する。
 HMD100には、複数の撮像部14が搭載される。複数の撮像部14は、それぞれの撮影範囲を足し合わせた全体の撮影範囲がユーザの視野の全てを含むように、HMD100の前面の異なる位置に異なる姿勢で取り付けられる。撮像部14は、CCD(Charge Coupled Device)センサやCMOS(Complementary Metal Oxide Semiconductor)センサなど、一般的なデジタルビデオカメラで利用されている可視光センサを有してもよく、非可視光センサを有してもよい。複数の撮像部14は、同期したタイミングで、ユーザの前方を所定の周期(例えば120フレーム/秒)で撮影し、実空間を撮影した画像データを情報処理装置10に送信する。
 図2は、HMD100の外観形状の例を示す。HMD100は、出力機構部102および装着機構部104から構成される。装着機構部104は、ユーザが被ることにより頭部を一周してHMD100を頭部に固定する装着バンド106を含む。装着バンド106はユーザの頭囲に合わせて長さの調節が可能な素材または構造をもつ。
 出力機構部102は、HMD100をユーザが装着した状態において左右の目を覆う形状の筐体108を含み、内部には装着時に目に正対する表示パネルを備える。表示パネルは液晶パネルや有機ELパネルなどであってよい。筐体108内部にはさらに、表示パネルとユーザの目との間に位置し、ユーザの視野角を拡大する左右一対の光学レンズが備えられる。HMD100はさらに、ユーザの耳に対応する位置にスピーカーやイヤホンを備えてよく、外付けのヘッドホンが接続されるように構成されてもよい。
 筐体108の前方側外面には、撮像部14として、複数の撮像装置14a、14b、14c、14dが備えられる。ユーザの顔正面方向を基準として、撮像装置14aは、カメラ光軸が右斜め上を向くように前方側外面の右上隅に取り付けられ、撮像装置14bは、カメラ光軸が左斜め上を向くように前方側外面の左上隅に取り付けられ、撮像装置14cは、カメラ光軸が右斜め下を向くように前方側外面の右下隅に取り付けられ、撮像装置14dは、カメラ光軸が左斜め下を向くように前方側外面の左下隅に取り付けられる。
 このように複数の撮像部14が設置されることで、それぞれの撮影範囲を足し合わせた全体の撮影範囲がユーザの視野の全てを含む。すなわち、複数の撮像装置14a、14b、14c、14dを含む撮像部14は、HMD100を装着したユーザの正面方向の現実空間を撮像し、言い換えれば、ユーザの視野内の現実空間を撮像する。以下では、HMD100の撮像部14により撮像された画像のデータを「撮影画像データ」とも呼ぶ。
 HMD100は、IMU(慣性計測装置)が検出したセンサデータおよび撮像部14が撮影した画像データを情報処理装置10に送信し、また情報処理装置10で生成されたアプリケーション(ゲーム等)の画像データおよび音声データを受信する。
 図3も、HMD100の外観形状の例を示す。同図は、HMD100を下側から見た場合の形状を示している。筐体108の下方外面には、HMD100を装着したユーザから見て左側から、マイク126、電源ボタン110、機能ボタン112が隣り合う位置に並べて配設される。マイク126は、ユーザが発した音声を電気信号(「音声データ」とも呼ぶ。)に変換する音響機器である。電源ボタン110は、所定の電源(例えば不図示のバッテリー等)からHMD100の各部(例えば後述の制御部120や表示パネル130)への電力供給のオン・オフを切り替えるボタンである。機能ボタン112は、HMD100の動作に関する複数の機能のうちいずれかの機能を選択的に割り当て可能なボタンである。
 図4は、HMD100の機能ブロックを示す。制御部120は、画像データ、音声データ、センサデータなどの各種データや、命令を処理して出力するメインプロセッサである。制御部120は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)を備えてもよい。記憶部122は、制御部120が処理するデータや命令などを一時的に記憶する。IMU124は、HMD100の動きに関するセンサデータを取得する。IMU124は、少なくとも3軸の加速度センサおよび3軸の角速度センサを含んでよい。IMU124は、所定の周期(例えば800Hz)で各軸成分の値(「センサデータ」とも呼ぶ。)を検出する。
 通信制御部128は、ネットワークアダプタまたはアンテナを介して、有線通信または無線通信により、制御部120から出力されるデータを外部の情報処理装置10に送信する。また通信制御部128は、情報処理装置10からデータを受信し、制御部120に出力する。
 制御部120は、各種アプリケーション(ゲーム等)の画像データや音声データを情報処理装置10から受け取ると、画像データを表示パネル130に供給して表示させ、また音声データを音声出力部132(スピーカ等)に供給して音声出力させる。表示パネル130は、左目用表示パネル130aと右目用表示パネル130bを含み、各表示パネルに一対の視差画像が表示される。また、制御部120は、IMU124からのセンサデータ、マイク126からの音声データ、撮像部14からの撮影画像データを、通信制御部128から情報処理装置10に送信させる。
 図5は、情報処理装置10の機能ブロックを示す。情報処理装置10は、処理部200および通信部202を備える。処理部200は、取得部210、アプリケーション実行部220、画像生成部222、画像出力部224、音声出力部228、音声転送部230、機能設定部232を備える。取得部210は、撮影画像取得部212、センサデータ取得部214、音声データ取得部215、操作情報取得部216を備える。
 通信部202は、所定の通信プロトコルにしたがって外部装置と通信する。外部装置は、HMD100、出力装置15、入力デバイス16、不図示のサーバや他の情報処理装置を含む。例えば、通信部202は、入力デバイス16から送信される操作情報およびセンサデータを受信し、取得部210に供給する。また通信部202は、HMD100から送信される撮影画像データおよびセンサデータを受信し、取得部210に供給する。
 情報処理装置10はコンピュータを備え、コンピュータがプログラムを実行することによって、図5に示す様々な機能が実現される。コンピュータは、プログラムがロードされるメモリ、ロードされたプログラムを実行する1つ以上のプロセッサ(CPUやGPU等)、補助記憶装置、その他のLSIなどをハードウェアとして備える。プロセッサは、半導体集積回路やLSIを含む複数の電子回路により構成され、複数の電子回路は、1つのチップ上に搭載されてよく、または複数のチップ上に搭載されてもよい。図8に示す機能ブロックは、ハードウェアとソフトウェアとの連携によって実現され、したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは、当業者には理解されるところである。
 撮影画像取得部212は、HMD100から送信された撮影画像データを取得し、アプリケーション実行部220および画像生成部222に提供する。センサデータ取得部214は、入力デバイス16およびHMD100から送信されたセンサデータを取得し、アプリケーション実行部220および画像生成部222に提供する。
 音声データ取得部215は、外部装置(HMD100以外の装置)から送信され、ネットワーク2を経由して伝送されたリモートのユーザの音声データ(以下「外部音声データ」とも呼ぶ。)を取得し、音声出力部228に提供する。また、音声データ取得部215は、HMD100から送信された、HMD100を装着したユーザの音声データ(以下「ユーザ音声データ」とも呼ぶ。)を取得し、音声転送部230に提供する。
 操作情報取得部216は、入力デバイス16から送信された、入力デバイス16に入力されたユーザの操作を示す操作情報を取得する。また、操作情報取得部216は、HMD100から送信された、HMD100(例えば機能ボタン112)に入力されたユーザの操作を示す操作情報を取得する。操作情報取得部216は、取得した操作情報をHMD100の各部に提供する。
 アプリケーション実行部220は、操作情報取得部216から入力された操作情報や、センサデータ取得部214から入力されたセンサデータ等に基づいて、アプリケーションを実行し、例えば、VRゲームを進行する。
 画像生成部222と画像出力部224は、表示部(具体的には、HMD100の表示パネル130と出力装置15のディスプレイの少なくとも一方)における電子コンテンツの表示を制御する表示制御部226として機能する。具体的には、画像生成部222は、撮影画像取得部212から入力された撮影画像データや、アプリケーション実行部220によるアプリケーションの実行結果等に基づいて、HMD100に表示させる表示用の画像データ(例えばVR画像データ)を生成する。画像出力部224は、画像生成部222により生成された表示用の画像データをHMD100へ送信して、その表示パネル130に表示させる。
 また、画像生成部222は、アプリケーション実行部220によるアプリケーションの実行結果等に基づいて、出力装置15に表示させる表示用の画像データを生成する。この画像データは、例えば、HMD100のセットアップ方法を説明するコンテンツの画像データであってもよい。画像出力部224は、画像生成部222により生成された表示用の画像データを出力装置15へ送信して表示させる。なお、画像出力部224は、HMD100へ送信する画像データをさらに出力装置15へ送信して表示させてもよい。
 音声出力部228は、音声データ取得部215により取得された、リモートのユーザの音声データ(外部音声データ)と、アプリケーションの音声データとをHMD100へ送信することにより、これらの音声データに基づく音声をHMD100で再生させる。
 音声転送部230は、音声データ取得部215により取得された、HMD100を装着したユーザの音声データ(ユーザ音声データ)をネットワーク2を経由して外部装置(例えばリモートのユーザの装置)へ送信することにより、ユーザ音声データに基づく音声を外部装置で再生させる。
 機能設定部232は、HMD100の機能ボタン112に対する特定の機能の割り当てを指示する操作が操作情報取得部216により取得された場合、機能ボタン112に対して割り当てられた機能に応じた設定処理を実行する。
 以上の構成によるコンテンツ表示システム1の動作を説明する。
 図6は、コンテンツ表示システム1の動作を示すフローチャートである。HMD100を装着したユーザは、入力デバイス16を使用して、機能ボタン112に割り当てる機能の設定画面の表示を要求する操作を入力する。入力デバイス16は、設定画面が要求されたことを示す操作情報を情報処理装置10へ送信する。この操作情報が情報処理装置10の操作情報取得部216により取得されると(S10のY)、情報処理装置10の画像生成部222は、機能ボタン112の設定画面のデータを生成する。情報処理装置10の画像出力部224は、機能ボタン112の設定画面のデータをHMD100へ送信する。HMD100の制御部120は、機能ボタン112の設定画面を表示パネル130に表示させる(S11)。
 図7は、機能ボタン112の設定画面の例を示す。設定画面40は、機能ボタン112に割り当て可能な機能として予め定められた複数の機能の中からいずれかの機能をユーザが任意に選択可能なよう構成される。実施例では、機能ボタン112に割り当て可能な複数の機能は、以下の(1)~(3)の機能を含む。
 (1)ビデオシースルー機能。具体的には、撮像部14により撮像されたユーザの正面方向が映る画像を表示パネル130に表示させる機能。
 ユーザは、HMD100を被っていると、即座に外を確認することが難しい。また、外を確認するためにHMD100を一旦頭部から外すと、再度ベストな被り位置に戻すのは大変である。機能ボタン112にビデオシースルー機能を割り当てた場合、ユーザは、HMD100を被った状態で機能ボタン112を押下すれば、HMD100を被ったまま外の様子を確認できる。実施例では、機能ボタン112に割り当て可能な複数の機能のうちビデオシースルー機能がデフォルト機能として定められている。
 (2)マイクミュート機能。具体的には、マイク126へ入力されたユーザの音声を外部へ伝達することを遮断する機能。
 HMD100の機能ボタン112の押下により、マイク126のミュートとミュート解除とを容易に切替可能にすることで、他のユーザとボイスチャットを行うユーザにとってのHMD100の利便性を高めることができる。
 (3)画面遷移制御機能。具体的には、表示部に表示されるコンテンツの画面遷移を制御する機能。この表示部は、出力装置15のディスプレイであってもよく、HMD100の表示パネル130であってもよい。表示部に表示されるコンテンツの中には、HMD100の被り方を学ぶコンテンツ等、ユーザが入力デバイス16を手に持たない状態で進行させたいコンテンツがある。このようなコンテンツの表示時、HMD100の機能ボタン112の押下により、コンテンツの画面遷移(例えば進むまたは戻る)を容易に制御可能にすることで、HMD100の利便性を高めることができる。例えば、入力デバイス16を把持しない状態でコンテンツの画面遷移をユーザが制御したい場合に、ユーザは入力デバイス16を一旦把持する必要がなくなり、ユーザの負担を低減できる。
 図6に戻り、ユーザは、設定画面40において、機能ボタン112に割り当てる所望の機能を選択し、所定の決定操作を入力デバイス16に入力する。例えば、ユーザは、HMD100を装着してVRコンテンツを視聴し、またVRゲームをプレイする場合に、(1)ビデオシースルー機能または(2)マイクミュート機能を選択する。また、ユーザは、複数の画面を切り替えつつストーリーが進行するコンテンツ(例えばHMD100の装着方法を学ぶコンテンツ)を出力装置15で視聴する場合に、(3)画面遷移制御機能を選択する。
 情報処理装置10の操作情報取得部216によりその決定操作が取得されると(S12のY)、情報処理装置10の機能設定部232は、そのとき設定画面40において選択されていた機能を機能ボタン112に割り当てるべき機能として識別する。機能設定部232は、機能ボタン112に割り当てるべき機能に応じた設定処理を実行する(S13)。
 例えば、設定画面40において、ユーザが、機能ボタン112への割当機能としてビデオシースルー機能を選択したとする。この場合、機能設定部232は、撮影画像取得部212により取得された、HMD100の撮像部14による撮影画像データに基づいてHMD100の表示用画像を生成するよう画像生成部222を設定する。ここでのHMD100の表示用画像は、ユーザの正面方向の現実空間が映る画像である。
 別の例として、設定画面40において、ユーザが、機能ボタン112への割当機能としてマイクミュート機能を選択したとする。この場合、機能設定部232は、音声データ取得部215により取得された、HMD100を装着したユーザの音声データを外部装置へ転送しないよう音声転送部230を設定する。変形例として、機能設定部232は、HMD100から送信されたユーザの音声データを取得または出力しないように音声データ取得部215を設定することでミュートを実現してもよい。または、機能設定部232は、外部から入力された音声に基づく電気信号(音声データ)を出力しないようHMD100のマイク126を設定することでミュートを実現してもよい。
 さらに別の例として、設定画面40において、ユーザが、機能ボタン112への割当機能として画面遷移制御機能を選択したとする。この場合、機能設定部232は、機能ボタン112を相対的に短時間押下する操作(以下「短押し操作」とも呼ぶ。)を、コンテンツの画面を第1方向に遷移させる操作として認識するようアプリケーション実行部220、および/または、画像生成部222を設定する。
 また、機能設定部232は、機能ボタン112を相対的に長時間押下する操作(以下「長押し操作」とも呼ぶ。)を、コンテンツの画面を第1方向とは逆の第2方向に遷移させる操作として認識するようアプリケーション実行部220、および/または、画像生成部222を設定する。短押し操作は、機能ボタン112を第1時間(例えば0.5秒)未満押下する操作であってもよい。長押し操作は、機能ボタン112を第1時間より長い第2時間(例えば2秒)以上押下する操作であってもよい。
 実施例での第1方向は、時間経過とともに複数の画面を順次切り替えつつ進行するコンテンツにおける時間経過の方向と言え、時系列に画面を並べた場合の次の画面の方向とも言える。第2方向は、上記コンテンツにおける時間遡行の方向と言え、時系列に画面を並べた場合の前の画面の方向とも言える。すなわち、実施例では、機能ボタン112の短押し操作が次の画面に進むことを指示する操作となり、機能ボタン112の長押し操作が前の画面に戻ることを指示する操作となる。
 設定画面40において機能ボタン112への割当機能を決定する操作が未入力であれば(S12のN)、S13の機能割当処理をスキップする。また、設定画面40の表示が要求されなければ(S10のN)、S11以降の処理をスキップして図6に示す処理を終了する。
 図8も、コンテンツ表示システム1の動作を示すフローチャートである。ユーザは、HMD100の表示パネル130に表示されたコンテンツ、または、出力装置15に表示されたコンテンツの視聴時、機能ボタン112に割り当てた機能を使用する場合に機能ボタン112を押下する。機能ボタン112が押下された場合(S20のY)、HMD100の制御部120は、通信制御部128を介して、機能ボタン112が押下されたことを示す操作情報を情報処理装置10へ送信する。情報処理装置10の操作情報取得部216は、機能ボタン112が押下されたことを示す操作情報を取得し、機能ボタン112が押下されたことを情報処理装置10の各部に通知する。
 機能ボタン112にビデオシースルー機能が割り当てられていた場合(S21のY)、情報処理装置10の処理部200は、今回の機能ボタン112の押下操作を契機に、ビデオシースルー機能のオン・オフを切り替える(S22)。例えば、ビデオシースルー機能がオフの状態で機能ボタン112の押下操作が入力されると、ビデオシースルー機能をオンに切り替える。ビデオシースルー機能がオンの間、画像生成部222は、アプリケーション実行部220によるアプリケーションの実行結果に基づくコンテンツの画像(例えばVRゲーム画像)に代えて、HMD100の撮像部14による撮影画像データに基づく表示用画像であって、すなわち、ユーザの正面方向の現実空間を示す表示用画像を生成する。情報処理装置10の画像出力部224は、ユーザの正面方向の現実空間を示す表示用画像をHMD100の表示パネル130に表示させる。
 一方、ビデオシースルー機能がオンの状態で機能ボタン112の押下操作が入力されると、ビデオシースルー機能をオフに切り替える。ビデオシースルー機能がオフに戻されると、画像生成部222は、アプリケーション実行部220によるアプリケーションの実行結果に基づくコンテンツの画像(例えばVRゲーム画像)の生成を再度開始する。情報処理装置10の画像出力部224は、HMD100の表示パネル130において、アプリケーションの実行結果に基づくコンテンツの画像の表示を再開させる。なお、情報処理装置10は、HMD100の機能ボタン112が押下された場合だけでなく、入力デバイス16において所定の操作(特定のボタンの押下等)が入力された場合にも、ビデオシースルー機能をオンからオフに切り替えてもよい。
 機能ボタン112にマイクミュート機能が割り当てられていた場合(S21のN)(S23のY)、情報処理装置10の処理部200は、今回の機能ボタン112の押下操作を契機に、マイクミュート機能のオン・オフを切り替える(S24)。例えば、マイクミュート機能がオフの状態で機能ボタン112の押下操作が入力されると、マイクミュート機能をオンに切り替える。マイクミュート機能がオンの間、音声転送部230は、音声データ取得部215により取得されたユーザ音声データを、ネットワーク2を介してリモートの外部装置へ送信することを抑制する。
 一方、マイクミュート機能がオンの状態で機能ボタン112の押下操作が入力されると、マイクミュート機能をオフに切り替える。マイクミュート機能がオフに戻されると、音声転送部230は、音声データ取得部215により取得されたユーザ音声データを、ネットワーク2を介してリモートの外部装置へ送信することを再開する。
 機能ボタン112に画面遷移制御機能が割り当てられ(S23のN)、かつ、機能ボタン112の操作が短押し操作である場合(S25のN)、画像生成部222は、現在表示中のコンテンツの画面に対する次の画面を示す画像を生成する。画像出力部224は、次の画面を示す画像を出力装置15に表示させる(S26)。機能ボタン112の操作が長押し操作である場合(S25のY)、画像生成部222は、現在表示中のコンテンツの画面に対する1つ前の画面を示す画像を生成する。画像出力部224は、1つ前の画面を示す画像を出力装置15に表示させる(S27)。機能ボタン112に対する押下操作が未入力であれば(S20のN)、S21以降の処理をスキップして図8の処理を終了する。
 図9は、セットアップ画面42の例を示す。セットアップ画面42は、出力装置15に表示された、HMD100のセットアップ方法(頭部への被り方等)を学ぶコンテンツ内の1つの画面である。ユーザは、出力装置15に表示されたこのコンテンツを視聴しつつ、HMD100の出力機構部102や装着機構部104を手に持って、HMD100の装着を試行する。ここでは、機能ボタン112に画面遷移制御機能が割り当てられていることとする。
 セットアップ画面42の表示中にユーザが機能ボタン112に対する短押し操作を入力すると、セットアップ画面44に遷移する。図10は、セットアップ画面44の例を示す。セットアップ画面44は、上記コンテンツ内の1つの画面であり、時間軸上でセットアップ画面42の次の画面である。
 セットアップ画面44の表示中、ユーザが機能ボタン112を押下した状態を継続すると、画像生成部222は、押下時間インジケータ46を配置したセットアップ画面44を生成し、言い換えれば、セットアップ画面44に押下時間インジケータ46を配置する。押下時間インジケータ46は、機能ボタン112が押下された状態が継続中であることを示唆する画像であり、かつ、機能ボタン112の押下時間の長さを示唆する画像である。画像出力部224は、押下時間インジケータ46を配置したセットアップ画面44を出力装置15に送信して、出力装置15に表示されたセットアップ画面44を更新する。押下時間インジケータ46は、機能ボタン112の押下時間が長押し操作の条件となる時間を満たした場合に円を一周するように更新される。
 セットアップ画面44での機能ボタン112の押下時間が、長押し操作の条件となる所定時間以上(例えば2秒以上)になると、画像生成部222は再びセットアップ画面42を生成し、画像出力部224は、セットアップ画面42をHMD100に再度表示させる。セットアップ画面44での機能ボタン112の押下時間が、短押しの条件となる第1時間以上(例えば0.5秒以上)、かつ、長押し操作の条件となる第2時間未満(例えば2秒未満)の場合、すなわち、長押し操作の条件となる第2時間に達する前に機能ボタン112の押下が終了すると、セットアップ画面42への画面遷移はキャンセルされ、セットアップ画面44の表示が維持される。
 実施例のコンテンツ表示システム1によると、複数の機能の中から、ユーザが視聴するコンテンツの種類や、コンテンツの視聴状況等に適合する機能をHMD100の機能ボタンに割り当てることができ、HMD100の利便性を高めることができる。
 以上、本発明を実施例をもとに説明した。この実施例は例示であり、各構成要素あるいは各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
 実施例では言及していないが、情報処理装置10により実行されるアプリケーションが、機能ボタン112の機能を動的に設定してもよい。言い換えれば、機能ボタン112の機能は、HMD100または出力装置15に表示されるコンテンツに応じて動的に設定されてもよい。例えば、図9や図10に示したHMD100の被り方を学ぶコンテンツ(ここでは「対象コンテンツ」と呼ぶ。)のプログラムは、機能ボタン112に画面遷移制御機能を割り当てるよう実装されてもよい。情報処理装置10の機能設定部232は、対象コンテンツのプログラムにしたがって、機能ボタン112に割り当てられた画面遷移制御機能に応じた設定処理を実行してもよい。これにより、対象コンテンツの再生時に、機能ボタン112に画面遷移制御機能が自動的に割り当てられる。ユーザは、機能ボタン112に画面遷移制御機能を手動で割り当てなくても、対象コンテンツの視聴時、機能ボタン112を操作することにより、対象コンテンツの画面遷移を制御することができる。
 実施例に記載の情報処理装置10の機能は、HMD100に実装されてもよい。言い換えれば、HMD100は、実施例に記載の情報処理装置10の機能を含んでもよい。また、実施例では、撮像部14がHMD100に取り付けられたが、撮像部14は、HMD100以外の別の位置に取り付けられてもよい。
 上述した実施例および変形例の任意の組み合わせもまた本開示の実施の形態として有用である。組み合わせによって生じる新たな実施の形態は、組み合わされる実施例および変形例それぞれの効果をあわせもつ。また、請求項に記載の各構成要件が果たすべき機能は、実施例および変形例において示された各構成要素の単体もしくはそれらの連携によって実現されることも当業者には理解されるところである。
 上記実施例および変形例に記載の技術思想は、以下の各項目に記載の態様のように表現することができる。
[項目1]
 電源ボタンと、
 前記電源ボタンとは異なるボタンであって、本ヘッドマウントディスプレイの動作に関する複数の機能のうちいずれかの機能を選択的に割り当て可能なボタンである機能ボタンと、
 を備えるヘッドマウントディスプレイ。
 このヘッドマウントディスプレイによると、複数の機能の中から、ユーザが視聴するコンテンツの種類や、コンテンツの視聴状況等に適合する機能を機能ボタンに割り当てることができ、ヘッドマウントディスプレイの利便性を高めることができる。
[項目2]
 ヘッドマウントディスプレイを装着したユーザの正面方向を撮像する撮像部と、
 前記ユーザの眼前で画像を表示する表示部と、をさらに備え、
 前記複数の機能は、前記撮像部により撮像された前記ユーザの正面方向が映る画像を前記表示部に表示させる機能を含む、
 項目1に記載のヘッドマウントディスプレイ
 この態様によると、ユーザは、任意のタイミングで機能ボタンを操作して外の様子を確認でき、ヘッドマウントディスプレイの利便性を高めることができる。
[項目3]
 マイクをさらに備え、
 前記複数の機能は、前記マイクに入力される音声のミュート機能を含む、
 項目1または2に記載のヘッドマウントディスプレイ。
 この態様によると、ユーザは、任意のタイミングで機能ボタンを操作して外部への音声伝達を抑制でき、ヘッドマウントディスプレイの利便性を高めることができる。
[項目4]
 前記複数の機能は、表示部に表示されるコンテンツの画面遷移を制御する機能を含む、
 項目1から3のいずれかに記載のヘッドマウントディスプレイ。
 この態様によると、視聴中のコンテンツに対する多様な操作手段をユーザに提供でき、例えば、ユーザが入力デバイスを把持できない状況等における操作性の低下を抑制できる。
[項目5]
 前記電源ボタンと前記機能ボタンとが、隣り合う位置に設けられた、
 項目1から4のいずれかに記載のヘッドマウントディスプレイ。
 この態様によると、ヘッドマウントディスプレイの筐体上の特定の領域で操作が完結しやすくなり、操作性を向上させることができる。
[項目6]
 ヘッドマウントディスプレイと、
 表示制御部と、を備え、
 前記ヘッドマウントディスプレイは、
 電源ボタンと、
 前記電源ボタンとは異なるボタンであって、本ヘッドマウントディスプレイの動作に関する複数の機能のうちいずれかの機能を選択的に割り当て可能なボタンである機能ボタンと、を含み、
 前記複数の機能は、表示部に表示されるコンテンツの画面遷移を制御する機能を含み、
 前記コンテンツの画面遷移を制御する機能が前記機能ボタンに割り当てられた場合、前記機能ボタンを相対的に短時間押下する操作が前記コンテンツの画面を第1方向に遷移させる操作となり、前記機能ボタンを相対的に長時間押下する操作が前記コンテンツの画面を前記第1方向とは逆の第2方向に遷移させる操作となり、
 前記表示制御部は、前記機能ボタンが押下された状態が継続する場合、前記機能ボタンが押下された状態が継続中であることを示唆する画像を表示部に表示させる、
 コンテンツ表示システム。
 このコンテンツ表示システムによると、機能ボタンに対する短押し操作と長押し操作で画面遷移の態様が異なる場合に、操作入力ミスを防止しやすくなり、ユーザの意図に反した画面遷移が生じることを防止しやすくなる。
 本開示の技術は、ヘッドマウントディスプレイや情報処理システム等に適用できる。
 1 コンテンツ表示システム、 10 情報処理装置、 15 出力装置、 100 HMD、 110 電源ボタン、 112 機能ボタン、 126 マイク、 130 表示パネル、 226 表示制御部、 232 機能設定部。

Claims (6)

  1.  電源ボタンと、
     前記電源ボタンとは異なるボタンであって、本ヘッドマウントディスプレイの動作に関する複数の機能のうちいずれかの機能を選択的に割り当て可能なボタンである機能ボタンと、
     を備えるヘッドマウントディスプレイ。
  2.  ヘッドマウントディスプレイを装着したユーザの正面方向を撮像する撮像部と、
     前記ユーザの眼前で画像を表示する表示部と、をさらに備え、
     前記複数の機能は、前記撮像部により撮像された前記ユーザの正面方向が映る画像を前記表示部に表示させる機能を含む、
     請求項1に記載のヘッドマウントディスプレイ。
  3.  マイクをさらに備え、
     前記複数の機能は、前記マイクに入力される音声のミュート機能を含む、
     請求項1に記載のヘッドマウントディスプレイ。
  4.  前記複数の機能は、表示部に表示されるコンテンツの画面遷移を制御する機能を含む、
     請求項1に記載のヘッドマウントディスプレイ。
  5.  前記電源ボタンと前記機能ボタンとが、隣り合う位置に設けられた、
     請求項1に記載のヘッドマウントディスプレイ。
  6.  ヘッドマウントディスプレイと、
     表示制御部と、を備え、
     前記ヘッドマウントディスプレイは、
     電源ボタンと、
     前記電源ボタンとは異なるボタンであって、本ヘッドマウントディスプレイの動作に関する複数の機能のうちいずれかの機能を選択的に割り当て可能なボタンである機能ボタンと、を含み、
     前記複数の機能は、表示部に表示されるコンテンツの画面遷移を制御する機能を含み、
     前記コンテンツの画面遷移を制御する機能が前記機能ボタンに割り当てられた場合、前記機能ボタンを相対的に短時間押下する操作が前記コンテンツの画面を第1方向に遷移させる操作となり、前記機能ボタンを相対的に長時間押下する操作が前記コンテンツの画面を前記第1方向とは逆の第2方向に遷移させる操作となり、
     前記表示制御部は、前記機能ボタンが押下された状態が継続する場合、前記機能ボタンが押下された状態が継続中であることを示唆する画像を表示部に表示させる、
     コンテンツ表示システム。
PCT/JP2023/018929 2022-06-03 2023-05-22 ヘッドマウントディスプレイおよびコンテンツ表示システム WO2023234097A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2022-090927 2022-06-03
JP2022090927A JP2023177951A (ja) 2022-06-03 2022-06-03 ヘッドマウントディスプレイおよびコンテンツ表示システム

Publications (1)

Publication Number Publication Date
WO2023234097A1 true WO2023234097A1 (ja) 2023-12-07

Family

ID=89024768

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2023/018929 WO2023234097A1 (ja) 2022-06-03 2023-05-22 ヘッドマウントディスプレイおよびコンテンツ表示システム

Country Status (2)

Country Link
JP (1) JP2023177951A (ja)
WO (1) WO2023234097A1 (ja)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008070817A (ja) * 2006-09-15 2008-03-27 Brother Ind Ltd ヘッドマウントディスプレイ
JP2008085854A (ja) * 2006-09-28 2008-04-10 Nikon Corp 頭部装着型ディスプレイシステム
JP2011164955A (ja) * 2010-02-10 2011-08-25 Nikon Corp 頭部装着装置
JP2013200325A (ja) * 2012-03-23 2013-10-03 Sony Corp ヘッドマウントディスプレイ
JP2019535156A (ja) * 2016-08-22 2019-12-05 マジック リープ, インコーポレイテッドMagic Leap,Inc. 仮想現実、拡張現実、および複合現実システムおよび方法
JP2020154155A (ja) * 2019-03-20 2020-09-24 キヤノン株式会社 電子機器、電子機器の制御方法、プログラム
JP2020173719A (ja) * 2019-04-12 2020-10-22 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置、画像提供サーバ、画像表示方法、および画像提供方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008070817A (ja) * 2006-09-15 2008-03-27 Brother Ind Ltd ヘッドマウントディスプレイ
JP2008085854A (ja) * 2006-09-28 2008-04-10 Nikon Corp 頭部装着型ディスプレイシステム
JP2011164955A (ja) * 2010-02-10 2011-08-25 Nikon Corp 頭部装着装置
JP2013200325A (ja) * 2012-03-23 2013-10-03 Sony Corp ヘッドマウントディスプレイ
JP2019535156A (ja) * 2016-08-22 2019-12-05 マジック リープ, インコーポレイテッドMagic Leap,Inc. 仮想現実、拡張現実、および複合現実システムおよび方法
JP2020154155A (ja) * 2019-03-20 2020-09-24 キヤノン株式会社 電子機器、電子機器の制御方法、プログラム
JP2020173719A (ja) * 2019-04-12 2020-10-22 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置、画像提供サーバ、画像表示方法、および画像提供方法

Also Published As

Publication number Publication date
JP2023177951A (ja) 2023-12-14

Similar Documents

Publication Publication Date Title
CN110488977B (zh) 虚拟现实显示方法、装置、系统及存储介质
CN109246466B (zh) 视频播放方法、装置及电子设备
US10303244B2 (en) Information processing apparatus, information processing method, and computer program
US9804682B2 (en) Systems and methods for performing multi-touch operations on a head-mountable device
JP7408678B2 (ja) 画像処理方法およびヘッドマウントディスプレイデバイス
JP6346131B2 (ja) 情報処理装置および画像生成方法
WO2017043399A1 (ja) 情報処理装置および画像生成方法
JP7496460B2 (ja) 画像生成装置および画像生成方法
WO2019039378A1 (ja) 情報処理装置および画像表示方法
CN111586431B (zh) 进行直播处理的方法、装置、设备及存储介质
WO2020209088A1 (ja) 複数のマーカを備えたデバイス
CN113509720A (zh) 虚拟对战的回放方法、装置、终端、服务器及存储介质
JP2019046291A (ja) 情報処理装置および画像表示方法
CN111787347A (zh) 直播时长计算方法、直播显示方法、装置及设备
CN111818358A (zh) 音频文件的播放方法、装置、终端及存储介质
JP6556295B2 (ja) 情報処理装置および画像生成方法
CN108184130B (zh) 模拟器系统、直播方法、装置及存储介质
JP6518645B2 (ja) 情報処理装置および画像生成方法
WO2023234097A1 (ja) ヘッドマウントディスプレイおよびコンテンツ表示システム
CN112770149B (zh) 视频处理方法、装置、终端及存储介质
JP6921204B2 (ja) 情報処理装置および画像出力方法
WO2024042929A1 (ja) 情報処理装置および画像生成方法
JP2019220185A (ja) 情報処理装置および画像生成方法
US20240066394A1 (en) Information processing apparatus and image generation method
WO2022255058A1 (ja) 情報処理装置および画像生成方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23815856

Country of ref document: EP

Kind code of ref document: A1