JP7338941B2 - Hmd配信システムおよび方法 - Google Patents

Hmd配信システムおよび方法 Download PDF

Info

Publication number
JP7338941B2
JP7338941B2 JP2019541892A JP2019541892A JP7338941B2 JP 7338941 B2 JP7338941 B2 JP 7338941B2 JP 2019541892 A JP2019541892 A JP 2019541892A JP 2019541892 A JP2019541892 A JP 2019541892A JP 7338941 B2 JP7338941 B2 JP 7338941B2
Authority
JP
Japan
Prior art keywords
image
hmd
delivery system
view
field
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019541892A
Other languages
English (en)
Other versions
JP2020501465A (ja
JP2020501465A5 (ja
Inventor
エル・イマド、ジャミル
オルミーゴ、ヘスース
Original Assignee
ヴァーチャリー ライヴ (スウィッツァランド) ジーエムビーエイチ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ヴァーチャリー ライヴ (スウィッツァランド) ジーエムビーエイチ filed Critical ヴァーチャリー ライヴ (スウィッツァランド) ジーエムビーエイチ
Publication of JP2020501465A publication Critical patent/JP2020501465A/ja
Publication of JP2020501465A5 publication Critical patent/JP2020501465A5/ja
Priority to JP2022003079A priority Critical patent/JP7362796B2/ja
Application granted granted Critical
Publication of JP7338941B2 publication Critical patent/JP7338941B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/194Transmission of image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/156Mixing image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/161Encoding, multiplexing or demultiplexing different image signal components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • H04N21/43072Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen of multiple content streams on the same device
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/65Transmission of management data between client and server
    • H04N21/658Transmission by the client directed to the server
    • H04N21/6587Control parameters, e.g. trick play commands, viewpoint selection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0179Display position adjusting means not related to the information to be displayed
    • G02B2027/0187Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Databases & Information Systems (AREA)
  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、ヘッドマウントディスプレイ、および、コンテンツ、特に仮想現実コンテンツをヘッドマウントディスプレイに配信するためのシステムおよび方法に関する。
典型的な仮想現実設定の構成は、
コンピュータ・グラフィックス、フォトリアリスティック・グラフィックスまたはリアル3Dビデオで、仮想環境の立体3D画像を表示するヘッドマウントディスプレイ(HMD:頭部装着型ディスプレイ)と、
加速度計などを介して実環境におけるHMDの位置および姿勢を決定し、HMDの動きを測定するためのセンサは、HMD上にあるセンサ、およびHMDから離れたリモートセンサであって、例えば、HMDに搭載する加速度計でHMDの動き、位置、および姿勢(ロール、ピッチ、偏揺れ角)を測定し、ハンドレルド(携帯)ユーザインタフェース装置でユーザからコマンドを受け取り、リモートセンサアレイが、仮想環境内でユーザに作成される可視の「安全ゾーン」に、ユーザ上のHMDの位置を追跡可能にする、該センサと、
仮想環境に追加する画像を生成するとともに仮想環境内でのユーザの位置と反応を決定するための強力なプロセッサと、ユーザのHMD上で画像を立体3Dにレンダリングするための最高仕様のグラフィックスカードを備えたコンピュータと、を含む。
電源要件と通信帯域幅要件も存在する。
ヘッドマウントディスプレイ(HMD)は、コンピュータ・グラフィックス、フォトリアリスティック・グラフィックス、またはリアル3Dビデオで仮想環境の立体3D画像を表示する。3D効果は必須ではないため、2D画像が使用可能である。HMDは多数のセンサを有する。
ユーザインタフェースとHMDに、HDMに対するまたはリモートセンサアレイに対する相対位置を決定するためのセンサを組み込み得る。選択ポインタなどのユーザインタフェースは、仮想環境でレンダリングされてもよい。
典型的な仮想現実設定は、主に、ハイスペックなグラフィックスカードで遅れなく高速動画をレンダリングするための処理能力のために、計算集約的となっている。
ヘッドマウントディスプレイ上の画像のレンダリングの遅れは、動揺病を起こしやすく、十分なユーザ体験を提供できない。ユーザがヘッドマウントディスプレイで仮想現実のインタラクションに関っている場合、許容可能な遅れ時間の閾値は20ミリ秒程度である。遅れ時間が20ミリ秒を超えると、吐き気や動揺病が起こりうる。
着用者がヘッドマウントディスプレイで仮想現実のインタラクションに関わらず、単にビデオを見ているだけであれば、遅れ時間は問題にならない。ヘッドマウントディスプレイは、快適な視聴体験を提供するには少なくとも60フレーム/秒(fps)のビデオを配信する必要がある。90fpsを超えるフレームレートが好ましい。従来の仮想現実用ヘッドマウントディスプレイ画像配信システムは、グラフィックカードを備えた高性能、高仕様のコンピュータであるか、高品質で動きの速いグラフィックスのレンダリングができる特別仕様のゲーム機である。
仮想現実コンテンツを視聴するためには、視聴者/参加者が相当量のハードウェア、ソフトウェア、および/または帯域幅へアクセスすることが必要である。本発明の目的は、仮想現実イベントを視聴し、かつ参加を可能にするためのハードウェア、ソフトウェアおよび帯域幅に関する要件を減らすことである。
本発明の一態様は、立体画像をヘッドマウントディスプレイ(HMD)装置に伝達して画像情報を着用者に伝えるように構成されたヘッドマウントディスプレイ画像配信システムであって、前記画像配信システムと前記HMD装置は互いにローカルであり、前記HMDシステムは、視野を表示する1つ以上のディスプレイと、1つ以上のセンサと、前記HMDシステムによる画像処理なしに視野を1つ以上のディスプレイ上に直接表示するための画像データを、前記画像配信システムから受信するように構成された1つ以上の画像入力部と、を含み、前記画像配信システムは、前記センサからセンサデータを受信する1つ以上の入力部と、前記画像配信システムによる画像処理なしに前記1つ以上のディスプレイ上に視野を直接表示するための前処理済み画像データを受信できるように構成された1つ以上の画像入力部と、前記HMDシステムによる画像処理なしに前記1つ以上のディスプレイ上に視野を直接表示するための画像データを配信する1つ以上の画像出力部と、を含む。
本発明の他の態様は、ヘッドマウントディスプレイ(HMD)装置と組み合わせたヘッドマウントディスプレイ画像配信システムを含むシステムであって、前記画像配信システムと前記HMD装置は互いにローカルであり、その組合せはさらに、前記画像配信システムおよび前記HMD装置とはリモートで、かつ通信バスを介して接続される、グラフィックス処理および計算リソースを含み、
前記HMD装置は、
1つ以上のディスプレイと、
前記ディスプレイの動き、位置および姿勢を決定するための1つ以上のセンサと、
前記HMDによる画像処理なしに視野を1つ以上のディスプレイ上に直接表示するための画像データを、前記画像配信システムから受信するように構成された1つ以上の画像入力部と、を含み、
前記画像配信システムは、立体画像を前記HMDシステムに伝達して画像情報を着用者に伝えるように構成されており、その構成は
前記センサからセンサデータを受信する1つ以上の入力部と、
前記画像配信システムによる画像処理なし前記1つ以上のディスプレイ上に視野を直接表示するための前処理済み画像データを、受信するように構成された1つ以上の画像入力部と、
前記HMDシステムによる画像処理なしに前記1つ以上のディスプレイ上に視野を直接表示するための画像データを配信する1つ以上の画像出力部と、を含み、
前記グラフィックス処理および計算リソースは画像配信システムに対しての前記通信バスを介した画像のレンダリングおよび画像処理の大部分を行う機能を含む。
本発明の一態様は、ヘッドマウントディスプレイ(HMD)装置と組み合わせたヘッドマウントディスプレイ画像配信システムであって、前記画像配信システムと前記HMD装置は互いにローカルであり、
■ 前記HMD装置は、1つ以上のディスプレイと、前記ディスプレイの動き、位置および姿勢を決定するための1つ以上のセンサと、前記HMDによる画像処理なしに1つ以上のディスプレイ上に直接表示するための画像データを前記画像配信システムから受信するように構成された1つ以上の画像入力部と、を含み、
■ 前記画像配信システムは、立体画像を前記HMDシステムに伝達して画像情報を着用者に伝えるように構成されており、前記センサからセンサデータを受信する1つ以上の入力部と、前記画像配信システムによる画像処理なしに前記1つ以上のディスプレイ上に視野を直接表示するための前処理済み画像データを受信するように構成された1つ以上の画像入力部と、前記HMDシステムによる画像処理なしに前記視野を1つ以上のディスプレイ上に直接表示するための画像データを配信する1つ以上の画像出力部と、を含む。
本発明の他の態様は、前記ヘッドマウントディスプレイ(HMD)装置と組み合わせた前記ヘッドマウントディスプレイ画像配信システムを提供し、さらにコンピュータリソースを含み、このコンピュータリソースは、前記仮想環境に追加する画像を生成すると共に仮想環境内でのユーザの位置や反応を決定するための強力なプロセッサと、前記画像配信システムを介して前記ユーザの前記HMDに配信するために画像を立体3Dにレンダリングするための最高仕様のグラフィックスカードとを備える。
本発明のさらなる態様は、前記ヘッドマウントディスプレイ装置を含まない、本発明の前記ヘッドマウントディスプレイ画像配信システムを提供する。
本発明の他の態様は、前記ヘッドマウントディスプレイ画像配信システムを備えていない、本発明の前記ヘッドマウントディスプレイ装置を提供する。
本発明のさらなる態様は、ヘッドマウントディスプレイ(HMD)装置に立体画像を伝達するように構成されたヘッドマウントディスプレイ画像配信システムの作動方法を提供する。
外部センサアレイを有するヘッドマウントディスプレイシステムの概略図である。 リモート処理およびグラフィックスリソースと通信する本発明の実施形態の概略図である。 リモート処理およびグラフィックスリソースと通信する本発明の実施形態の概略図であり、ヘッドマウントディスプレイスクリーンの詳細を示す。 本発明の実施形態で使用する画像データのアレイの概略図である。 リモート処理およびグラフィックスリソースと通信する本発明の一実施形態の概略図であり、ヘッドマウントディスプレイスクリーンの詳細を示す。 リモート処理およびグラフィックスリソースと通信する本発明の一実施形態の概略図であり、ヘッドマウントディスプレイスクリーンの詳細を示す。 本発明の実施形態で使用する視野を示す。 本発明の実施形態で使用する視野を示す。 本発明の実施形態で使用する視野の概略図である。 本発明の実施形態で使用する視野の概略図である。 本発明の実施形態で使用する視野の概略図である。 本発明の実施形態で使用する視野の概略図である。
本発明の理解のため、添付の図面を参照し本発明の実施形態を例示により説明する。
図1はヘッドマウントディスプレイシステム1の概略図を示す。該システムは基本構成要素として、1つ以上のディスプレイスクリーン3(図1には示されていない)を含むヘッドマウントディスプレイマスク2と、運動と位置センサ4と、アイトラッカー5と、さらに運動と位置センサ6と、を含む。図1はまた、位置マーカ6のxyz座標系における位置を検出するためのマスク2の外側のセンサアレイ7を示す。図1はまた、ポインタ8のジョイスティックを含むユーザインタフェース装置を示す。ポインタ8は、ヘッドマウントディスプレイマスク2および外部センサアレイ7の両方、または一方に対する位置が決定できるよう、それ自体の位置マーカを組み込んでもよい。
センサ4、5、6のいくつかはマスク2上またはHMD内に取り付けられ、他のセンサ7、8はHMDから離れて配置される。1つのカテゴリのセンサ4、6、7は、加速度計などを介してHMDの実環境における位置および姿勢を決定し、HMDの動きを測定する。例えばHMDに取り付けた加速度計が、HMDの動き、位置、姿勢(ロール、ピッチ、偏揺れ角)を測定する。ポインタ8や他のユーザインターフェースデバイス、例えばジョイスティック、ポインタ、グローブはユーザのコマンドを受け取るために使用する。リモートセンサアレイ7は、仮想環境内でユーザに作成される可視の「安全ゾーン」に、ユーザ上のHMDの位置を追跡可能にする。
ユーザはマスク2を着用し、ディスプレイスクリーン3上の画像にも現れるユーザインタフェース8を保持して、マスク2内の1つ以上のディスプレイスクリーン3上の画像を見る。ディスプレイによって提供される画像は仮想環境の立体画像が好ましい。配信システムは、選択に応じて、画像またはビデオ信号に同期したオーディオ信号を配信するように構成される。好ましくは、配信システムは、HDMI(登録商標)ポートを介して仮想現実体験の一部として同期音声を配信する。
ユーザインタフェース8は、手袋、靴下またはリストバンドのような着用可能要素であっても、またはジョイスティックまたはポインタのような別体要素でもよい。
全てのセンサからのデータは、有線接続および/または無線接続によって、マスク2内の1つ以上のディスプレイスクリーン3への画像データの配信も担当するコンソール10に供給される。
コンソール10は図2に示されるように外部モニタ18に接続されており、ヘッドマウントディスプレイ2の着用者以外の管理者または運用者が、装着されたマスク2に表示されている画像は外部モニタ18で見え得る。
従来のシステムと異なり、コンソール10はヘッドマウントディスプレイ画像配信システム10を有し、このシステムが当該画像配信システム10による処理なしに、1つ以上のディスプレイ3上に視野50を直接表示するための前処理済み画像データを受信するように構成された少なくとも1つの入力部100を有する。本発明を実現するコンソール10は、ヘッドマウントディスプレイ装置1による画像処理なしに、視野50を1つ以上のディスプレイ3上に直接表示するための画像データを配信する。
好ましくは、コンソール10およびヘッドマウントディスプレイマスク2は同じスペースまたは区切られた空間内に存在し、互いにローカルである。より好ましくは同じ無線ネットワーク上にあるか、有線接続で互いに通信可能なこと。好ましくは、画像表示のためのヘッドマウントディスプレイマスク2への接続は、HDMI(登録商標)接続により、またマスクからコンソール10へのデータ接続はUSB接続による。
仮想現実ディスプレイは、有意なグラフィックス処理および計算リソースを必要とする。本発明の実施形態では、グラフィックス処理計算リソース21は、ヘッドマウントディスプレイ1およびコンソール10とはリモートに設けられているが、低遅延通信バス20を介してこれらのローカルの要素に接続されている。グラフィックス処理は、仮想現実クラスタCUDA上に配置されたGPUコンピューティングクラウド経由で行い得る。仮想現実オペレータは、独自のインフラストラクチャ21を提供し、グラフィックス処理および計算リソースを提供するリモート要素へのデータパッケージングおよびデータ分配を,低遅延通信バス20を介して調整する。通信バス20は入力ポート100を通ってコンソール10に接続されている。
グラフィックス処理計算リソース21は、ヘッドマウントディスプレイ1およびコンソール10とはリモートに設けられる。そのためコンソール10は、非常に容易な画像処理が必要であれば、それを提供するだけでよい。グラフィックス処理計算リソース21は、バス20を介してコンソール10に送信するための画像レンダリングおよび画像処理の、全てではないとしても大部分を担う。コンソールは、HMDスクリーン3の設定との互換性のために再フォーマットすることを除き、それ以上の有意な画像処理を行う機能を要求せず、また有していない。リモートのグラフィックス処理計算リソース21は、コンソール10よりも多くの画像処理を行い、好ましくはHMD1で画像処理は行われない。全ての画像レンダリングがリモートのグラフィックス処理計算リソース21で行われてもよい。
ここで図3を参照すると、HMDスクリーン3に表示されている仮想環境は高山パノラマ画像である。装着者/ユーザは、前方を真っ直ぐ、スクリーンのほぼ中央の地平線と水平に見ている。本発明を実現するコンソール10は、通信バス20を介してシーンからレンダリングされる画像を要求し、その画像はレンダリングされて通信バス20を介して画像Iとして返信される。この画像Iは、グラフィックス処理または前処理なしで、可能な限り直接的にコンソールHDMI(登録商標)出力12を介してスクリーン3に直接伝えられ、画像Iの視野50を表示する。
ヘッドマウントディスプレイシステムのセンサ4、5、6および7、8は、次に着用者の視野50に何が表示されるかを確認するため、着用者の動きを監視し、着用者がどこを見ているかを特定している。コンソール10は、ヘッドマウントディスプレイからセンサデータ4、5、6、7、8を受信し、次の視野の画像を要求する。次の画像はその時にはリモートで準備とレンダリングがされ、通信バス20を介したコンソール/画像配信システム10による画像処理なしでコンソール10に送られ、スクリーン3に供給される。コンソール10からヘッドマウントディスプレイシステム1に出力された画像Iは、ヘッドマウントディスプレイ画像配信システム10による画像処理なしで送られる。
グラフィックス処理計算リソース21は低遅延通信バスを介して接続されているので、コンソール10は本質的に計算上必要最小限のものとすることができる。遅れ時間閾値は20マイクロ秒未満にする必要がある。
図4は、スクリーン3に表示される画像の視野(FOV1)50(1)を示す。視野50(1)の外側では、画像は仮想環境内で連続しているが、視野50(1)の外にある画像Iの領域51(2~9)は表示されない。視野(FOV1)の外の領域は、上側の51(2)、下側の51(6)、左側の51(8)、右側の51(4)、角に、右上の51(3)、右下の51(5)、左下の51(7)左上の51(9)が位置する。図4は領域を実質的に長方形として示しているが、領域は異なる形で定義し得る。図9~12を参照されたい。視野(FOV1)50の外の領域51が、図9および10においては楕円形のローブ51として示され、図11では長方形の外周として、また図12ではサイドバーとして示されている。
図5は、本発明のさらなる実施形態を示す。ここではHMDセンサデータ4、5、6、7、8が、リモートのグラフィックス処理および計算リソースセンター21で使用され、バス20を介して視野画像データだけを返すのでなく、少なくとも部分的に視野の外にあってスクリーン3には未表示の画像の画像データも、視野画像データに加えて、返す。図5の例では、HMDセンサデータは、視野をレンダリングするだけでなく、着用者が次に視野の右側を見ることを予測するリモートの計算リソースにおいても利用される。すなわち、リモートの計算リソースは、視野の右側の画像データもレンダリングして、低遅延通信バス20を介してコンソール10に送り返す。着用者が実際に視線を表示視野の右側に移動するとコンソール10が特定した場合、セレクタ17は視野の右側を視野の右側にある画像データの「右」領域と共に表示できるように、視野の修正版を選び得る。
図6は本発明のさらなる実施形態である。HMDセンサデータ4、5、6、7、8のデータをローカルコンソール10内のセレクタ17に直接送信する。この実施形態では、センサデータは、通信バス20を介してリモートのグラフィックス処理または計算リソースに送信されない。センサデータは、ヘッドマウントディスプレイシステムおよびコンソール10に対してローカルのままとなる。
リモートのグラフィックス処理計算リソース21は、視野をレンダリングするほか、視野50(1)を囲む全ての領域51(2~9)を通信バス20により送信し、それらをローカルのコンソール10に提供する。上記領域はコンソールで予め記憶され、セレクタ17によって選択可能になる。セレクタ17は、センサデータの制御下で、センサデータに応答して、着用者の視線が次に視野外のどこに向くかを予測または特定するように動作可能であり、着用者の視線の方向変化に合わせて、セレクタ17は視野外の予め記憶した領域を選択し、その領域のさらなる前処理またはグラフィックス処理なしに、直接ヘッドマウントディスプレイスクリーンに供給する。センサデータおよび予測機能をコンソールおよびヘッドマウントディスプレイに対してローカルに保つことによって、コンソールは、リモートに位置するグラフィックス処理および計算リソースから独立させ得る。
図7は、視野(FOV1)と、FOV1の外の右側領域を示す。この右側領域は、コンソール10でバッファされ(ここで右側領域は受信されるがFOVには表示されない)、着用者の視線がFOV1の右側に向くと即時に送信できる。このバッファリング形式を本明細書では「事前記憶」と呼ぶ。同様に、図8はFOV1の上部外側領域を示し、その領域はヘッドマウントディスプレイスクリーンへの即時送信に備えてコンソール10でバッファ(または事前記憶)される。
システムに利用可能なセンサの種類として、アイトラッカー(視線トラッカ-としても知られている)を備えても良く、ユーザの視線を監視することによって、ユーザが見ている、またはこれから視線が向かうスクリーン部分を特定する。そのようなセンサは光学式で非侵襲的であり、ヘッドセットの内部に取り付けられる。
本明細書および特許請求の範囲で使用されるとき、用語「含む/有する/備える(comprises)および(comprising)」およびそれらの変化形は、特定の特徴、ステップまたは整数値を含む意味で用いられている。その用語が、他の特徴、ステップまたは構成要素の存在を排除する意味であると解釈してはならない。
上記の説明、特許請求の範囲、または添付の図面に開示された特徴、それらの特定の形式でまたは開示された機能を行うための手段、または開示された結果を達成するための方法またはプロセスによって表された特徴は、適宜、別々に、または任意の組み合わせで利用することにより本発明を種々の異なる形態で実現可能である。

Claims (21)

  1. 画像配信システムと組み合わせたヘッドマウントディスプレイ(HMD)であって、前記画像配信システムは、画像情報を前記HMDの装着者に伝えるために前記HMDに三次元画像を伝達するように構成されており、前記画像配信システムと前記HMDは互いにローカルであり、
    前記HMDは、
    視野を表示する1つ以上のディスプレイと、
    センサデータを発生するように動作可能な1つ以上のセンサと、
    前記HMDによる画像処理なしに前記1つ以上のディスプレイ上に前記視野を直接表示するために画像データを前記画像配信システムから受け取るように構成された1つ以上の画像入力部とを含み、
    前記画像配信システムは、
    前記HMDセンサから前記センサデータを受け取るための1つ以上の入力部と、
    前記視野が移動するであろう1つ以上の方向を判定する処理のために処理リソースに前記センサデータを送るための手段と、
    前記画像配信システムによる画像処理なしに前記HMDの前記1つ以上のディスプレイ上に前記視野を直接表示するための前処理済み画像データを受け取るように構成された1つ以上の画像入力部と、
    前記HMDによる画像処理なしに前記視野を前記1つ以上のディスプレイ上に直接表示するための画像データを配信するための1つ以上の画像出力部とを含み、
    前記画像配信システムは、動作時において、前記視野の前記前処理済み画像データに加え、前記ディスプレイに未だ表示されていない画像の追加の前処理済み画像データを受け取るように動作可能であり、前記追加の前処理済み画像データは、前記視野に対して1つ以上の所定の方向において前記視野の外側にある1つ以上の画像に関連しており、
    前記画像配信システムは、前記視野が移動するであろう方向を前記センサデータから判定すると共に、その判定に応じて、その判定された方向において前記視野の外側にある画像領域の前記画像を前記HMDに提供する手段を含む、ことを特徴とする、画像配信システムと組み合わせたHMD。
  2. 前記画像配信システムは、前記画像配信システムによる画像処理なしに、前記1つ以上
    のディスプレイ上に視野を直接表示するための前処理済み画像データを受信するバッファを備えることを特徴とする、請求項1に記載の画像配信システムと組み合わせたHMD
  3. 前記画像配信システムは、画像またはビデオ信号に同期した音声信号を配信するように構成されることを特徴とする、請求項1又は2に記載の画像配信システムと組み合わせたHMD
  4. 前記画像配信システムは処理リソースを有し、前記センサから受信した前記センサデータは、前記視野が移動する1つ以上の方向を決定するため前記画像配信システムによって処理されることを特徴とする、請求項1~3のいずれか一項に記載の画像配信システムと組み合わせたHMD
  5. 前記画像配信システムは、視野画像データのみを記憶することを特徴とする、請求項1~4のいずれか一項に記載の画像配信システムと組み合わせたHMD
  6. 前記画像配信システムは、視野画像データを記憶し、さらに視野外にある1つ以上の画
    像領域の画像データを記憶することを特徴とする、請求項1~4のいずれか一項に記載の画像配信システムと組み合わせたHMD
  7. 前記画像配信システムは、事前記憶された画像データを前記HMDに配信するためのセレクタを有し、視野が移動すると予測される方向に基づいて選択が行われることを特徴とする、請求項1~4、6のいずれか一項に記載の画像配信システムと組み合わせたHMD
  8. ローカルデータループが存在し、そのローカルデータループは、前記画像配信システムがHMDセンサデータを受信して前記視野の方向を決定し、決定方向において視野外にある画像領域の画像を配信することを特徴とする、請求項1~4、6、7のいずれか一項に記載の画像配信システムと組み合わせたHMD
  9. 決定方向は、HMDセンサデータから予測または導出された方向であることを特徴とする、請求項7又は8に記載の画像配信システムと組み合わせたHMD
  10. 前記HMDセンサは、前記HMDの動き、位置、および姿勢の1つ以上を決定することを特徴とする、請求項1~9のいずれか一項に記載の画像配信システムと組み合わせたHMD
  11. センサデータは、前記ディスプレイの動き、位置、姿勢、着用者の目の位置、アイトラッキング、および着用者に見られているディスプレイの領域のうちの少なくとも1つまたは任意の組合せを決定することを特徴とする、請求項1~10のいずれか一項に記載の画像配信システムと組み合わせたHMD
  12. 前記HMDセンサは、アイトラッキングセンサを含むことを特徴とする、請求項1~11のいずれか一項に記載の画像配信システムと組み合わせたHMD
  13. 1つ以上の前記HMDセンサは、前記HMDの上または中に取り付けられていることを特徴とする、請求項1~12のいずれか一項に記載の画像配信システムと組み合わせたHMD
  14. 1つ以上の前記HMDセンサがローカルループ内にあり、どの前処理済み画像データを配信すべきかを知らせるため、少なくとも幾つかのセンサデータがリモート送信されない
    ことを特徴とする、請求項1~13のいずれか一項に記載の画像配信システムと組み合わせたHMD
  15. ハンドヘルドユーザインタフェース装置は、前記HMDユーザからコマンドを受け取ることを特徴とする、請求項1~14のいずれか一項に記載の画像配信システムと組み合わせたHMD
  16. リモートセンサアレイは、仮想環境内でユーザに作成される可視の「安全ゾーン」に、前記ユーザ上の前記HMDの位置を追跡可能にすることを特徴とする、請求項1~15のいずれか一項に記載の画像配信システムと組み合わせたHMD
  17. 前記HMDおよび前記画像配信システムとはリモートにあるコンピュータリソースは、仮想環境に追加する画像を生成するとともに前記仮想環境内でのユーザの位置と反応を決定するためのプロセッサと前記ユーザの前記HMD上で画像を立体3Dにレンダリングするためのグラフィックスカードをさらに備えていることを特徴とする、請求項1~15のいずれか一項に記載の画像配信システムと組み合わせたHMD
  18. 前記コンピュータリソースは、コンピュータファーム、CUDA、および/またはGPUであることを特徴とする、請求項17に記載の画像配信システムと組み合わせたHMD
  19. 1つ以上の前記センサは、前記ディスプレイの動き、位置、および姿勢を決定するように動作可能であることを特徴とする、請求項1~18のいずれか一項に記載の画像配信システムと組み合わせたHMD
  20. 前記HMD装置と前記画像配信システムは、同じネットワーク上で、または近距離無線通信方法によって無線接続で相互に接続されることを特徴とする、請求項19に記載の画像配信システムと組み合わせたHMD
  21. 前記HMD装置と前記画像配信システムとは、有線接続で相互に接続されることを特徴とする、請求項19又は20に記載の画像配信システムと組み合わせたHMD
JP2019541892A 2016-10-18 2017-10-18 Hmd配信システムおよび方法 Active JP7338941B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022003079A JP7362796B2 (ja) 2016-10-18 2022-01-12 Hmd配信システム

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
GB1617595.2 2016-10-18
GB1617595.2A GB2555378B (en) 2016-10-18 2016-10-18 HMD delivery system and method
PCT/GB2017/053149 WO2018073584A1 (en) 2016-10-18 2017-10-18 Hmd delivery system and method

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2022003079A Division JP7362796B2 (ja) 2016-10-18 2022-01-12 Hmd配信システム

Publications (3)

Publication Number Publication Date
JP2020501465A JP2020501465A (ja) 2020-01-16
JP2020501465A5 JP2020501465A5 (ja) 2020-11-19
JP7338941B2 true JP7338941B2 (ja) 2023-09-05

Family

ID=57680911

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019541892A Active JP7338941B2 (ja) 2016-10-18 2017-10-18 Hmd配信システムおよび方法
JP2022003079A Active JP7362796B2 (ja) 2016-10-18 2022-01-12 Hmd配信システム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2022003079A Active JP7362796B2 (ja) 2016-10-18 2022-01-12 Hmd配信システム

Country Status (11)

Country Link
US (1) US10863161B2 (ja)
EP (1) EP3510437B1 (ja)
JP (2) JP7338941B2 (ja)
KR (1) KR102572528B1 (ja)
CN (1) CN109863443B (ja)
AU (1) AU2017346451B2 (ja)
ES (1) ES2881265T3 (ja)
GB (1) GB2555378B (ja)
RU (1) RU2760300C2 (ja)
SG (1) SG11201903245YA (ja)
WO (1) WO2018073584A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10341537B2 (en) 2017-09-29 2019-07-02 Sony Interactive Entertainment America Llc Spectator view into an interactive gaming world showcased in a live event held in a real-world venue
US11055056B1 (en) * 2018-09-25 2021-07-06 Facebook Technologies, Llc Split system for artificial reality
KR102579700B1 (ko) 2019-06-03 2023-09-18 삼성전자주식회사 데이터를 처리하기 위한 방법 및 이를 지원하는 전자 장치
KR20220039113A (ko) * 2020-09-21 2022-03-29 삼성전자주식회사 엣지 컴퓨팅 서비스를 이용한 영상 컨텐츠 전송 방법 및 장치

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014514652A (ja) 2011-03-29 2014-06-19 クアルコム,インコーポレイテッド 骨格追跡を使用した物理的表面上への仮想投影上での選択的な手のオクルージョン
JP2015095045A (ja) 2013-11-11 2015-05-18 株式会社ソニー・コンピュータエンタテインメント 画像生成装置および画像生成方法
US20160189429A1 (en) 2014-12-30 2016-06-30 Sony Computer Entertainment Inc. Scanning display system in head-mounted display for virtual reality
JP2016527536A (ja) 2013-06-07 2016-09-08 株式会社ソニー・インタラクティブエンタテインメント ヘッドマウントディスプレイでユーザーの動きに応答する画像レンダリング
JP2016522463A5 (ja) 2014-03-11 2017-04-13

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5841409A (en) * 1995-04-18 1998-11-24 Minolta Co., Ltd. Image display apparatus
US5703604A (en) * 1995-05-22 1997-12-30 Dodeca Llc Immersive dodecaherdral video viewing system
US8004558B2 (en) * 2005-04-07 2011-08-23 Axis Engineering Technologies, Inc. Stereoscopic wide field of view imaging system
JP5156571B2 (ja) * 2008-10-10 2013-03-06 キヤノン株式会社 画像処理装置、画像処理方法
US9288468B2 (en) * 2011-06-29 2016-03-15 Microsoft Technology Licensing, Llc Viewing windows for video streams
RU2017115669A (ru) 2011-10-28 2019-01-28 Мэджик Лип, Инк. Система и способ для дополненной и виртуальной реальности
EP2786196A4 (en) * 2011-12-02 2015-11-11 Jerry G Aguren 3D STEREO VISION PLATFORM WITH OUTSTANDING VIEW AND DYNAMIC CONTROL OF THE OPERATION OF A DISPLAY UNDER OR ABOUT WATER
US9219901B2 (en) * 2012-06-19 2015-12-22 Qualcomm Incorporated Reactive user interface for head-mounted display
JP5891131B2 (ja) 2012-07-11 2016-03-22 株式会社ソニー・コンピュータエンタテインメント 画像生成装置および画像生成方法
US20150212647A1 (en) * 2012-10-10 2015-07-30 Samsung Electronics Co., Ltd. Head mounted display apparatus and method for displaying a content
CN105188516B (zh) 2013-03-11 2017-12-22 奇跃公司 用于增强和虚拟现实的系统与方法
JP6232763B2 (ja) * 2013-06-12 2017-11-22 セイコーエプソン株式会社 頭部装着型表示装置および頭部装着型表示装置の制御方法
US9699437B2 (en) * 2014-03-03 2017-07-04 Nextvr Inc. Methods and apparatus for streaming content
US20150346812A1 (en) * 2014-05-29 2015-12-03 Nextvr Inc. Methods and apparatus for receiving content and/or playing back content
US10547825B2 (en) * 2014-09-22 2020-01-28 Samsung Electronics Company, Ltd. Transmission of three-dimensional video
CA3193007A1 (en) * 2016-01-12 2017-07-20 Esight Corp. Language element vision augmentation methods and devices
WO2019104413A1 (en) * 2017-12-03 2019-06-06 Frank Jones Enhancing the performance of near-to-eye vision systems
US11232532B2 (en) * 2018-05-30 2022-01-25 Sony Interactive Entertainment LLC Multi-server cloud virtual reality (VR) streaming

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014514652A (ja) 2011-03-29 2014-06-19 クアルコム,インコーポレイテッド 骨格追跡を使用した物理的表面上への仮想投影上での選択的な手のオクルージョン
JP2016527536A (ja) 2013-06-07 2016-09-08 株式会社ソニー・インタラクティブエンタテインメント ヘッドマウントディスプレイでユーザーの動きに応答する画像レンダリング
JP2015095045A (ja) 2013-11-11 2015-05-18 株式会社ソニー・コンピュータエンタテインメント 画像生成装置および画像生成方法
JP2016522463A5 (ja) 2014-03-11 2017-04-13
US20160189429A1 (en) 2014-12-30 2016-06-30 Sony Computer Entertainment Inc. Scanning display system in head-mounted display for virtual reality

Also Published As

Publication number Publication date
RU2019113515A (ru) 2020-11-20
GB201617595D0 (en) 2016-11-30
EP3510437B1 (en) 2021-04-21
GB2555378A (en) 2018-05-02
JP2022062039A (ja) 2022-04-19
CN109863443B (zh) 2022-04-01
WO2018073584A1 (en) 2018-04-26
AU2017346451B2 (en) 2022-03-03
US10863161B2 (en) 2020-12-08
GB2555378B (en) 2021-06-09
US20190253692A1 (en) 2019-08-15
JP2020501465A (ja) 2020-01-16
ES2881265T3 (es) 2021-11-29
AU2017346451A1 (en) 2019-05-02
CN109863443A (zh) 2019-06-07
EP3510437A1 (en) 2019-07-17
RU2019113515A3 (ja) 2021-02-10
RU2760300C2 (ru) 2021-11-23
KR102572528B1 (ko) 2023-08-30
SG11201903245YA (en) 2019-05-30
KR20190065396A (ko) 2019-06-11
JP7362796B2 (ja) 2023-10-17

Similar Documents

Publication Publication Date Title
JP7362796B2 (ja) Hmd配信システム
US10684475B2 (en) Image generation apparatus and image generation method
US10496158B2 (en) Image generation device, image generation method and non-transitory recording medium storing image generation program
US10013812B2 (en) Method and system for controlling a head-mounted display system
US20170228928A1 (en) Method and system for providing an image of a virtual space to a head mounted display
JP6097377B1 (ja) 画像表示方法及びプログラム
EP3588447B1 (en) Image processing device, image processing method, and image system
US8780178B2 (en) Device and method for displaying three-dimensional images using head tracking
WO2017208957A1 (ja) 画像生成装置、画像生成システム、および画像生成方法
US11204502B2 (en) Image generation apparatus, head mounted display, image generation system, image generation method, and program
US20230290081A1 (en) Virtual reality sharing method and system
JP2017142769A (ja) 仮想空間の画像をヘッドマウントディスプレイに提供する方法及びプログラム
JP2017097918A (ja) 画像表示方法及びプログラム
JP2020064534A (ja) 仮想現実空間の提供方法
KR20200114921A (ko) 관전 영상의 자동제어를 이용한 부하 감소 방법 및 이를 이용한 헤드 마운티드 디스플레이

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201012

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201012

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210922

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211012

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220412

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20220707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221007

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230410

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230725

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230822

R150 Certificate of patent or registration of utility model

Ref document number: 7338941

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150