JP2020527300A - ビデオ伝送方法、サーバ、vr再生端末及びコンピュータ読み取り可能な記憶媒体 - Google Patents

ビデオ伝送方法、サーバ、vr再生端末及びコンピュータ読み取り可能な記憶媒体 Download PDF

Info

Publication number
JP2020527300A
JP2020527300A JP2019571954A JP2019571954A JP2020527300A JP 2020527300 A JP2020527300 A JP 2020527300A JP 2019571954 A JP2019571954 A JP 2019571954A JP 2019571954 A JP2019571954 A JP 2019571954A JP 2020527300 A JP2020527300 A JP 2020527300A
Authority
JP
Japan
Prior art keywords
video
position information
playback terminal
server
terminal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019571954A
Other languages
English (en)
Inventor
ジャ フー,
ジャ フー,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ZTE Corp
Original Assignee
ZTE Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ZTE Corp filed Critical ZTE Corp
Publication of JP2020527300A publication Critical patent/JP2020527300A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/2187Live feed
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/239Interfacing the upstream path of the transmission network, e.g. prioritizing client content requests
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/414Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/41407Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance embedded in a portable device, e.g. video client on a mobile phone, PDA, laptop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363Adapting the video or multiplex stream to a specific local network, e.g. a IEEE 1394 or Bluetooth® network
    • H04N21/43637Adapting the video or multiplex stream to a specific local network, e.g. a IEEE 1394 or Bluetooth® network involving a wireless protocol, e.g. Bluetooth, RF or wireless LAN [IEEE 802.11]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213Monitoring of end-user related data
    • H04N21/44218Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras

Abstract

【課題】ビデオ伝送方法、サーバ、VR再生端末及びコンピュータ読み取り可能な記憶媒体の提供。
【解決手段】ビデオ伝送方法、サーバ、VR再生端末及びコンピュータ読み取り可能な記憶媒体であって、当該方法は、取得された仮想現実VR再生端末の第1位置情報に基づいて、VR再生端末の設定時間内における第2位置情報を予測して得て、第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信した場合、VR再生端末が送信した共有指令を受信すると、圧縮ビデオを他のビデオ再生端末に送信し、他のビデオ再生端末に圧縮ビデオを再生させることを含む。VRビデオ及び/又はARビデオの無線伝送を実現し、有線伝送によるケーブルのユーザへの拘束を効果的に回避する。VR再生端末で再生されるVRビデオ及び/又はARビデオを他のビデオ再生端末に共有して再生させることを実現し、ユーザ体験を効果的に向上させる。
【選択図】図1

Description

本発明は、仮想現実の技術分野に関し、特にビデオ伝送方法、サーバ、VR再生端末及びコンピュータ読み取り可能な記憶媒体に関する。
コンピュータグラフィックス、ヒューマンマシンインタフェース技術、マルチメディア技術、センシング技術及びネットワーク技術などの様々な技術の発展に伴い、仮想世界を作成、体験するコンピュータシミュレーションシステムが現れ、そのシミュレーションシステムは、コンピュータによってシミュレーション環境が生成され、マルチソース情報の融合が統合され、そしてユーザがそれに参加可能で、インタラクティブな三次元動的シーン及び実体行為のシステムシミュレーションであり、ユーザをシミュレーション環境に没入させることができる。これはVR(Virtual Reality、仮想現実技術)およびAR(Augmented Reality、拡張現実技術)である。
VR技術には、主にシミュレーション環境、知覚、自然技能及びセンシングデバイスなどの方面が含まれている。その中で、シミュレーション環境とは、コンピュータによって生成された、リアルタイムで動的な三次元立体的なリアルな画像のことを意味する。知覚とは、理想的なVRとしては人間が有する知覚を全部有することを意味し、コンピュータグラフィックス技術によって生成される視覚的な知覚に加えて、聴覚、触覚、力覚及び運動などの知覚、さらに嗅覚や味覚なども含まれ、マルチ知覚とも呼ばれる。自然技能とは、人間の頭部の回動、目、手振り、及び/又は他の人体の行為、動作のことを意味し、コンピュータで参加者の動作に対応するデータを処理し、ユーザの入力に対してリアルタイムに応答し、それぞれユーザの知覚器官にフィードバックする。センシングデバイスとは、三次元インタラクティブデバイスである。
AR技術は、実世界の情報と仮想世界の情報とをシームレスに統合する技術である。AR技術は、本来、現実世界での一定の時間空間範囲内で体験しにくい実体の情報(例えば、視覚情報、音声、味および触覚など)を、コンピュータなどの科学技術を通じてシミュレーションした上で重ね合わせて、仮想的な情報を実世界に適用し、人間の感覚によって知覚されることによって、現実を超えた感覚体験を実現する。実際の環境と仮想的な物体は同じ画面又は空間にリアルタイムに重ね合わせられて同時に存在する。
現在のVR再生デバイスは、一般的に没入型仮想現実体験の製品を主とし、主に、パーソナルコンピュータ、スマートフォン及び/又はゲーム機などのデバイスを計算及び記憶デバイスとして外付けすることが可能な、独立したスクリーンを備えた外付け式ヘッドマウントデバイス;スクリーン、演算及び記憶デバイスを備え、外付けデバイスを必要とせず、独立して実行可能な一体式ヘッドマウントデバイス;携帯端末(例えば、携帯電話)をケースに入れてスクリーン、計算及び記憶デバイスの役割を果たす、眼鏡ケースとも呼ばれるヘッドマウント携帯端末デバイスが含まれる。
現在、VR再生デバイスには、主に以下のような問題がある。
VR再生デバイスは、ユーザにプライベートな空間を与え、外界に邪魔されないようにユーザを守ることができるが、ユーザが視聴するVRビデオ又はARビデオを他のユーザにリアルタイムに共有することはできない。VR再生デバイスは、いずれもケーブルを介して入力デバイスに接続されるもので、ユーザが行動する際にケーブルに絡まったり、躓きやすくなったり、ユーザが移動する際にケーブルを入力デバイスから引き出したりして、ユーザの使用体験に影響を与える。ヘッドマウント携帯端末デバイスにおける携帯端末は発熱によりフレームレートが低下し、ユーザのVRビデオ又はARビデオの視聴体験に影響を与える。
本発明が解決しようとする技術的問題は、ビデオ伝送方法、サーバ、VR再生端末及びコンピュータ読み取り可能な記憶媒体を提供し、従来の技術においてユーザが視聴するVRビデオ又はARビデオを他のユーザにリアルタイムに共有することができないという欠陥を解消することにある。
本発明が採用する技術的手段は、サーバに適用されるビデオ伝送方法であって、前記方法は、
取得された仮想現実VR再生端末の第1位置情報に基づいて、前記VR再生端末の設定時間内における第2位置情報を予測して得て、
前記第2位置情報に対応する視角の圧縮ビデオを前記VR再生端末に送信した場合、前記VR再生端末が送信した共有指令を受信すると、前記圧縮ビデオを他のビデオ再生端末に送信し、前記他のビデオ再生端末に前記圧縮ビデオを再生させることを含む、ビデオ伝送方法である。
例示的な一実施例によれば、前記第2位置情報に対応する視角の圧縮ビデオを前記VR再生端末に送信する前に、前記方法は、
前記第2位置情報に基づいて、プリセットされたビデオソースから、前記第2位置情報に対応する視角のビデオを取得し、
前記圧縮ビデオを伝送する所定の無線伝送ネットワークの伝送速度に基づいて、前記第2位置情報に対応する視角のビデオを圧縮して前記第2位置情報に対応する視角の圧縮ビデオを得ることをさらに含む。
例示的な一実施例によれば、前記第2位置情報に対応する視角のビデオには、前記第2位置情報に対応する視角のVRビデオ、及び/又は前記第2位置情報に対応する視角の拡張現実ARビデオが含まれる。
例示的な一実施例によれば、前記第2位置情報に基づいて、プリセットされたビデオソースから、前記第2位置情報に対応する視角のビデオを取得する前に、前記方法は、
前記第2位置情報に対応する視角のビデオは前記第2位置情報に対応する視角のARビデオである場合、前記ビデオソースに設定視覚情報を重ね合わせることをさらに含む。
例示的な一実施例によれば、前記第1位置情報を取得する方式は、
前記VR再生端末がリアルタイムに送信した第1位置情報を受信するか、
あるいは、前記VR再生端末の周囲にプリセットされた赤外線カメラで前記VR再生端末の赤外光情報を取得するとともに、前記赤外光情報を測位することにより、前記VR再生端末の第1位置情報を得るか、
あるいは、前記VR再生端末の周囲にプリセットされたカメラで前記VR再生端末の画像情報を取得するとともに、前記画像情報を測位することにより、前記VR再生端末の第1位置情報を得ることを含む。
本発明は、VR再生端末に適用されるビデオ伝送方法であって、前記方法は、
サーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信した場合、前記圧縮ビデオを再生し、ユーザがトリガーした共有指令を受信すると、前記共有指令を前記サーバに送信し、前記サーバが前記共有指令の制御下で前記圧縮ビデオを他のビデオ再生端末に送信することを含む、ビデオ伝送方法をさらに提供する。
例示的な一実施例によれば、前記圧縮ビデオを再生することは、
前記VR再生端末にグラフィックスプロセッシングユニットGPUが設けられていない場合には、前記圧縮ビデオを解凍し、第1解凍ビデオを得て、前記第1解凍ビデオを再生することを含む。
例示的な一実施例によれば、前記圧縮ビデオを再生することは、
前記VR再生端末にGPUが設けられている場合には、前記圧縮ビデオを解凍し、第2解凍ビデオを得て、
現在取得された前記VR再生端末の第3位置情報に基づいて、前記GPUにより、プリセットされた視角アルゴリズムに基づいて、前記第2解凍ビデオを前記第3位置情報に対応する視角の第3解凍ビデオに調整し、
前記第3解凍ビデオを再生することを含む。
例示的な一実施例によれば、前記サーバが送信した前記第2位置情報に対応する視角の圧縮ビデオを受信する前に、前記方法は、
リアルタイムに取得された前記VR再生端末の第1位置情報をリアルタイムにサーバに送信することによって、前記サーバは前記第1位置情報に基づいて前記VR再生端末の設定時間内における第2位置情報を予測して得ることをさらに含む。
例示的な一実施例によれば、リアルタイムに取得された前記VR再生端末の第1位置情報をリアルタイムにサーバに送信する前に、前記方法は、
前記VR再生端末の着用ユーザの頭部移動軌跡に基づいて、前記VR再生端末の第1位置情報をリアルタイムに取得することをさらに含む。
本発明は、プロセッサ、メモリ及び通信バスを備えるサーバであって、
前記通信バスは、プロセッサとメモリとの間の接続通信を実現するために用いられ、
前記プロセッサは、メモリに記憶されたビデオ伝送プログラムを実行することによって、上記したビデオ伝送方法のステップを実現するために用いられる、サーバをさらに提供する。
本発明は、プロセッサ、メモリ及び通信バスを備えるVR再生端末であって、
前記通信バスは、プロセッサとメモリとの間の接続通信を実現するために用いられ、
前記プロセッサは、メモリに記憶されたビデオ伝送プログラムを実行することによって、上述したビデオ伝送方法のステップを実現するために用いられる、VR再生端末をさらに提供する。
本発明は、1つ又は複数のプロセッサによって実行されることによって、上述したビデオ伝送方法のステップを実現する1つ又は複数のプログラムを記憶したコンピュータ読み取り可能な記憶媒体をさらに提供する。
上述した技術的手段を採用すると、本発明は少なくとも以下の利点を有する。
本発明に係るビデオ伝送方法、サーバ、VR再生端末及びコンピュータ読み取り可能な記憶媒体によれば、VR再生端末とサーバとの間のVRビデオ及び/又はARビデオの無線伝送を実現し、有線伝送によるケーブルのユーザへの拘束を効果的に回避する。VR再生端末で再生されるVRビデオ及び/又はARビデオを他のビデオ再生端末に共有して再生させることを実現し、ユーザ体験を効果的に向上させる。VR再生端末のGPUがVRビデオ及び/又はARビデオを微調整することにより、VRビデオ及び/又はARビデオの視覚効果を効果的に向上させる。
本発明の第1実施例におけるビデオ伝送方法を示すフローチャート。 本発明の第2実施例におけるビデオ伝送方法を示すフローチャート。 本発明の第3実施例におけるサーバの構成を示す概略図。 本発明の第5実施例におけるビデオ伝送方法を示すフローチャート。 本発明の第6実施例におけるVR再生端末の構成を示す概略図。 本発明の第8実施例におけるサーバはVR再生端末がリアルタイムに送信した第1位置情報を受信することを示す概略図。 本発明の第8実施例におけるサーバは赤外線カメラによってVR再生端末の第1位置情報を取得することを示す概略図。 本発明の第8実施例におけるサーバはカメラによってVR再生端末の第1位置情報を取得することを示す概略図。 本発明の第10実施例における大画面ビデオ再生端末によってVRビデオを共有することを示す概略図。
以下、本発明が所定の目的を達成するために講じられた技術的手段及び効果をさらに説明するために、図面及び好ましい実施例を参照しながら本発明を詳細に説明する。
本発明の第1実施例は、サーバに適用されるビデオ伝送方法である。図1に示すように、当該ビデオ伝送方法は、具体的に、以下のステップを含む。
ステップS101において、取得されたVR再生端末の第1位置情報に基づいて、VR再生端末の設定時間内における第2位置情報を予測して得る。
ここで、VR再生端末は、ユーザの頭部に着用され、VRビデオ及び/又はARビデオを再生する。
好ましくは、ステップS101は、
プリセットされた位置予測モデルに基づいて、取得されたVR再生端末の第1位置情報から、VR再生端末の設定時間内における第2位置情報を予測して得ることを含む。
ここで、位置予測モデルは、カルマンフィルタリング及び/又は測定データ前処理技術に基づいてユーザの頭部の将来の設定時間内における位置を予測するモデルである。
位置予測モデルは、可動目標状態に基づいて推定されたランダム加速度モデルを含むが、それに限定されない。
ユーザの頭部の動きはガウス・マルコフ特性を持つランダムなプロセスであるため、位置予測モデルによってユーザの頭部の将来の設定時間内における位置を予測することによって、ユーザの頭部の将来の設定時間内における位置データを正確に取得し、VRビデオ及び/又はARビデオの圧縮、解凍及び/又は無線伝送による遅延を効果的に克服し、VRビデオ及び/又はARビデオの再生精度を効果的に向上させることができる。
取得された仮想現実VR再生端末の第1位置情報は、
VR再生端末がリアルタイムに送信した第1位置情報を受信するか、
あるいは、VR再生端末の周囲にプリセットされた、ケーブル又は無線伝送ネットワークを介してサーバと接続される1つ又は複数の赤外線カメラでVR再生端末の赤外光情報を取得するとともに、赤外光情報を測位することにより、VR再生端末の第1位置情報を得るか、
あるいは、VR再生端末の周囲にプリセットされた、ケーブル又は無線伝送ネットワークを介してサーバと接続される1つ又は複数のカメラでVR再生端末の画像情報を取得するとともに、画像情報を測位することにより、VR再生端末の第1位置情報を得ることを含むが、それに限定されない。
ステップS102において、第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信した場合、VR再生端末が送信した共有指令を受信すると、圧縮ビデオを他のビデオ再生端末に送信し、他のビデオ再生端末に圧縮ビデオを再生させる。
ここで、他のビデオ再生端末は、少なくとも以下のビデオプレーヤのうちの1つを含む。
他のVR再生端末、平面表示デバイス、曲面表示デバイス、球面表示デバイス及び投影デバイスなどのVRビデオ及び/又はARビデオを再生するためのデバイス。
他のビデオ再生端末の数は1つ又は複数である。
好ましくは、ステップS102は、
無線伝送ネットワークを介して、第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信した場合、VR再生端末が送信した共有指令を受信すると、圧縮ビデオを他のビデオ再生端末に送信し、他のビデオ再生端末に圧縮ビデオを再生させることを含む。
ここで、無線伝送ネットワークを介して、第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信する方式は、少なくとも、
無線伝送ネットワークを介して、DLNA(Digital Living Network Alliance、デジタルリビングネットワークアライアンス)プロトコルで第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信する方式、
または、無線伝送ネットワークを介して、Miracastプロトコルで第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信する方式、
または、無線伝送ネットワークを介して、AirPlayプロトコルで第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信する方式、
または、無線伝送ネットワークを介して、WIDI(Intel Wireless Display、インテルワイヤレスディスプレイ)プロトコルで第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信する方式、
または、無線伝送ネットワークを介して、IGRSプロトコルで第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信する方式、
または、無線伝送ネットワークを介して、ワイヤレスストリーミング処理の方式で第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信する方式のうちの1つを含む。
ここで、AirPlayプロトコルは無線ビデオ伝送プロトコルの一種である。
Miracastプロトコルは無線ビデオ伝送プロトコルの一種である。
圧縮ビデオを他のビデオ再生端末に送信する方式は、
無線伝送ネットワークを介して圧縮ビデオを他のビデオ再生端末に送信し、又は伝送ケーブルを介して圧縮ビデオを他のビデオ再生端末に送信する方式を含むが、それに限定されない。
本発明の第1実施例に記載のビデオ伝送方法によれば、VR再生端末とサーバとの間のVRビデオ及び/又はARビデオの無線伝送を実現し、有線伝送によるケーブルのユーザへの拘束を効果的に回避する。VR再生端末で再生されるVRビデオ及び/又はARビデオを他のビデオ再生端末に共有して再生させることを実現し、ユーザ体験を効果的に向上させる。
本発明の第2実施例は、サーバに適用されるビデオ伝送方法である。図2に示すように、当該ビデオ伝送方法は、具体的に、以下のステップを含む。
ステップS201において、取得された仮想現実VR再生端末の第1位置情報に基づいて、VR再生端末の設定時間内における第2位置情報を予測して得る。
ここで、VR再生端末は、ユーザの頭部に着用され、VRビデオ及び/又はARビデオを再生する。
好ましくは、ステップS201は、
プリセットされた位置予測モデルに基づいて、取得されたVR再生端末の第1位置情報から、VR再生端末の設定時間内における第2位置情報を予測して得ることを含む。
ここで、位置予測モデルは、カルマンフィルタリング及び/又は測定データ前処理技術に基づいてユーザの頭部の将来の設定時間内における位置を予測するモデルである。
位置予測モデルは、可動目標状態に基づいて推定されたランダム加速度モデルを含むが、それに限定されない。
ユーザの頭部の動きはガウス・マルコフ特性を持つランダムなプロセスであるため、位置予測モデルによってユーザの頭部の将来の設定時間内における位置を予測することによって、ユーザの頭部の将来の設定時間内における位置データを正確に取得し、VRビデオ及び/又はARビデオの圧縮、解凍及び/又は無線伝送による遅延を効果的に克服し、VRビデオ及び/又はARビデオの再生精度を効果的に向上させることができる。
取得された仮想現実VR再生端末の第1位置情報は、
VR再生端末がリアルタイムに送信した第1位置情報を受信するか、
あるいは、VR再生端末の周囲にプリセットされた、ケーブル又は無線伝送ネットワークを介してサーバと接続される1つ又は複数の赤外線カメラでVR再生端末の赤外光情報を取得するとともに、赤外光情報を測位することにより、VR再生端末の第1位置情報を得るか、
あるいは、VR再生端末の周囲にプリセットされた、ケーブル又は無線伝送ネットワークを介してサーバと接続される1つ又は複数のカメラでVR再生端末の画像情報を取得するとともに、画像情報を測位することにより、VR再生端末の第1位置情報を得ることを含むが、それに限定されない。
ステップS202において、第2位置情報に基づいて、プリセットされたビデオソースから、第2位置情報に対応する視角のビデオを取得する。
ここで、第2位置情報に対応する視角のビデオには、第2位置情報に対応する視角のVRビデオ、及び/又は第2位置情報に対応する視角の拡張現実ARビデオが含まれる。
好ましくは、ステップS202は、
第2位置情報に基づいて、プリセットされたVRビデオソースから、第2位置情報に対応する視角のビデオを取得することを含む。
好ましくは、ステップS202は、
ビデオソースに設定視覚情報を重ね合わせ、
第2位置情報に基づいて、プリセットされたビデオソースから、第2位置情報に対応する視角のビデオを取得することを含む。
好ましくは、ステップS202は、
ARビデオソースに設定視覚情報を重ね合わせ、
第2位置情報に基づいて、プリセットされたARビデオソースから、第2位置情報に対応する視角のARビデオを取得することを含む。
ここで、ARビデオソースは無線カメラ又はサーバに設置された360°パノラマ収集装置によってビデオ収集を行う。
ステップS203において、圧縮ビデオを伝送する所定の無線伝送ネットワークの伝送速度に基づいて、第2位置情報に対応する視角のビデオを圧縮して、第2位置情報に対応する視角の圧縮ビデオを得る。
ステップS204において、第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信した場合、VR再生端末が送信した共有指令を受信すると、圧縮ビデオを他のビデオ再生端末に送信し、他のビデオ再生端末に圧縮ビデオを再生させる。
好ましくは、ステップS204は、
無線伝送ネットワークを介して、第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信した場合、VR再生端末が送信した共有指令を受信すると、圧縮ビデオを他のビデオ再生端末に送信し、他のビデオ再生端末に圧縮ビデオを再生させることを含む。
ここで、他のビデオ再生端末は、少なくとも以下のビデオプレーヤのうちの1つを含む。
他のVR再生端末、平面表示デバイス、曲面表示デバイス、球面表示デバイス及び投影デバイスなどのVRビデオ及び/又はARビデオを再生するためのデバイス。
他のビデオ再生端末の数は1つ又は複数である。
ここで、無線伝送ネットワークを介して、第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信する方式は、少なくとも、
無線伝送ネットワークを介して、DLNA(Digital Living Network Alliance、デジタルリビングネットワークアライアンス)プロトコルで第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信する方式、
または、無線伝送ネットワークを介して、Miracastプロトコルで第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信する方式、
または、無線伝送ネットワークを介して、AirPlayプロトコルで第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信する方式、
または、無線伝送ネットワークを介して、WIDI(Intel Wireless Display、インテルワイヤレスディスプレイ)プロトコルで第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信する方式、
または、無線伝送ネットワークを介して、IGRSプロトコルで第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信する方式、
または、無線伝送ネットワークを介して、ワイヤレスストリーミング処理の方式で第2位置情報に対応する視角の圧縮ビデオをVR再生端末に送信する方式のうちの1つを含む。
ここで、AirPlayプロトコルは無線ビデオ伝送プロトコルの一種である。
Miracastプロトコルは無線ビデオ伝送プロトコルの一種である。
本発明の第2実施例に記載のビデオ伝送方法によれば、VR再生端末とサーバとの間のVRビデオ及び/又はARビデオの無線伝送を実現し、有線伝送によるケーブルのユーザへの拘束を効果的に回避する。VR再生端末で再生されるVRビデオ及び/又はARビデオを他のビデオ再生端末に共有して再生させることを実現し、ユーザ体験を効果的に向上させる。
本発明の第3実施例は、図3に示すように、プロセッサ110、メモリ109及び通信バス201のような構成要素を備えるサーバである。本発明のいくつかの実施例において、通信バス201は、プロセッサ110とメモリ109との間の接続通信を実現するために用いられる。
プロセッサ110は、汎用プロセッサ、例えば中央処理装置(Central Processing Unit、CPU)であってもよいし、デジタルシグナルプロセッサ(Digital Signal Processor、DSP)、特定用途向け集積回路(Application Specific Integrated Circuit、ASIC)であってもよいし、又は本発明実施例を実施するように配置される1つ又は複数の集積回路であってもよい。ここで、メモリ109は、プロセッサ110が実行可能な指令を記憶するために用いられる。
メモリ109は、プログラムコードを記憶し、そのプログラムコードをプロセッサ110に伝送するために用いられる。メモリ109は、例えばランダムアクセスメモリ(Random Access Memory、RAM)のような揮発性メモリ(Volatile Memory)を含み得る。メモリ109は、例えばリードオンリーメモリ(Read−Only Memory、ROM)、フラッシュメモリ(Flash Memory)、ハードディスクドライブ(Hard Disk Drive、HDD)又はソリッドステートドライブ(Solid−State Drive、SSD)のような不揮発性メモリ(Non−Volatile Memory)をも含み得る。メモリ109は、上述した種類のメモリの組み合わせをも含み得る。
ここで、プロセッサ110は、メモリ109に格納されたビデオ伝送プログラムコードを呼び出し、本発明の第1実施例乃至本発明の第2実施例のいずれかの一部または全部のステップを実行する。
本発明の第3実施例に記載のサーバによれば、VR再生端末とのVRビデオ及び/又はARビデオの無線伝送を実現し、有線伝送によるケーブルのユーザへの拘束を効果的に回避する。VR再生端末で再生されるVRビデオ及び/又はARビデオを他のビデオ再生端末に共有して再生させることを実現し、ユーザ体験を効果的に向上させる。
本発明の第4実施例は、VR再生端末に適用されるビデオ伝送方法である。当該ビデオ伝送方法は、具体的に、以下のステップを含む。
ステップS401において、サーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信した場合、圧縮ビデオを再生し、ユーザがトリガーした共有指令を受信すると、共有指令をサーバに送信し、サーバが共有指令の制御下で圧縮ビデオを他のビデオ再生端末に送信する。
ここで、サーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信する方式は、少なくとも、
無線伝送ネットワークを介して、DLNAプロトコルでサーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信する方式、
または、無線伝送ネットワークを介して、Miracastプロトコルでサーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信する方式、
または、無線伝送ネットワークを介して、AirPlayプロトコルでサーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信する方式、
または、無線伝送ネットワークを介して、WIDIプロトコルでサーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信する方式、
または、無線伝送ネットワークを介して、IGRSプロトコルでサーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信する方式、
または、無線伝送ネットワークを介して、ワイヤレスストリーミング処理の方式でサーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信する方式のうちの1つを含む。
ここで、他のビデオ再生端末は、少なくとも以下のビデオプレーヤのうちの1つを含む。
他のVR再生端末、平面表示デバイス、曲面表示デバイス、球面表示デバイス及び投影デバイスなどのVRビデオ及び/又はARビデオを再生するためのデバイス。
他のビデオ再生端末の数は1つ又は複数である。
本発明の第4実施例に記載のビデオ伝送方法によれば、VR再生端末とサーバとの間のVRビデオ及び/又はARビデオの無線伝送を実現し、有線伝送によるケーブルのユーザへの拘束を効果的に回避する。VR再生端末で再生されるVRビデオ及び/又はARビデオを他のビデオ再生端末に共有して再生させることを実現し、ユーザ体験を効果的に向上させる。
本発明の第5実施例は、VR再生端末に適用されるビデオ伝送方法である。図4に示すように、当該ビデオ伝送方法は、具体的に、以下のステップを含む。
ステップS501において、VR再生端末の着用ユーザの頭部移動軌跡に基づいて、VR再生端末の第1位置情報をリアルタイムに取得する。
VR再生端末の第1位置情報は、現在のユーザの頭部の運動軌跡情報を含むが、これ限定されない。
ステップS502において、リアルタイムに取得されたVR再生端末の第1位置情報をリアルタイムにサーバに送信することによって、サーバは第1位置情報に基づいてVR再生端末の設定時間内における第2位置情報を予測する。
好ましくは、ステップS502は、
無線伝送ネットワークを介して、リアルタイムに取得されたVR再生端末の第1位置情報をリアルタイムにサーバに送信することによって、サーバは第1位置情報に基づいてVR再生端末の設定時間内における第2位置情報を予測することを含む。
ステップS503において、サーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信した場合、圧縮ビデオを再生し、ユーザがトリガーした共有指令を受信すると、共有指令をサーバに送信し、サーバが共有指令の制御下で圧縮ビデオを他のビデオ再生端末に送信する。
ここで、サーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信する方式は、少なくとも、
無線伝送ネットワークを介して、DLNAプロトコルでサーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信する方式、
または、無線伝送ネットワークを介して、Miracastプロトコルでサーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信する方式、
または、無線伝送ネットワークを介して、AirPlayプロトコルでサーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信する方式、
または、無線伝送ネットワークを介して、WIDIプロトコルでサーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信する方式、
または、無線伝送ネットワークを介して、IGRSプロトコルでサーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信する方式、
または、無線伝送ネットワークを介して、ワイヤレスストリーミング処理の方式でサーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信する方式のうちの1つを含む。
ここで、他のビデオ再生端末は、少なくとも以下のビデオプレーヤのうちの1つを含む。
他のVR再生端末、平面表示デバイス、曲面表示デバイス、球面表示デバイス及び投影デバイスなどのVRビデオ及び/又はARビデオを再生するためのデバイス。
他のビデオ再生端末の数は1つ又は複数である。
ここで、圧縮ビデオを再生する方式は方式1、または方式2を含む。
方式1:VR再生端末にGPU(Graphics Processing Unit、グラフィックスプロセッシングユニット)が設けられていない場合には、圧縮ビデオを解凍し、第1解凍ビデオを得て、第1解凍ビデオを再生する。
方式2:VR再生端末にGPUが設けられている場合には、圧縮ビデオを解凍し、第2解凍ビデオを得て、
現在取得されたVR再生端末の第3位置情報に基づいて、GPUを通じて、プリセットされた視角アルゴリズムに基づいて、第2解凍ビデオを第3位置情報に対応する視角の第3解凍ビデオに調整し、
第3解凍ビデオを再生する。
ここで、視角アルゴリズムは、ATW(Asynchronous Timewarp、非同期タイムワープ)等のアルゴリズムを含むが、それに限定されない。
非同期タイムワープアルゴリズムは、1つのスレッド(ATWスレッド)において処理され、このスレッドはレンダリングスレッドと並列(または非同期)で実行され、各同期の前に、ATWスレッドはレンダリングスレッドの最後のフレームに基づいて新しいフレームを生成し、このようにして、現在のフレームが同期されていない場合、前のフレームを使用してレンダリングして遅延を減らすことができる。
本発明の第5実施例に記載のビデオ伝送方法によれば、VR再生端末とサーバとの間のVRビデオ及び/又はARビデオの無線伝送を実現し、有線伝送によるケーブルのユーザへの拘束を効果的に回避する。VR再生端末で再生されるVRビデオ及び/又はARビデオを他のビデオ再生端末に共有して再生させることを実現し、ユーザ体験を効果的に向上させる。VR再生端末のGPUがVRビデオ及び/又はARビデオを微調整することにより、VRビデオ及び/又はARビデオの視覚効果を効果的に向上させる。
本発明の第6実施例は、図5に示すように、プロセッサ210、メモリ209及び通信バス202のような構成要素を備えるVR再生端末である。本発明のいくつかの実施例において、通信バス202は、プロセッサ210とメモリ209との間の接続通信を実現するために用いられる。
プロセッサ210は、汎用プロセッサ、例えば中央処理装置(Central Processing Unit、CPU)であってもよいし、デジタルシグナルプロセッサ(Digital Signal Processor、DSP)、特定用途向け集積回路(Application Specific Integrated Circuit、ASIC)であってもよいし、又は本発明実施例を実施するように配置される1つ又は複数の集積回路であってもよい。ここで、メモリ209は、プロセッサ210が実行可能な指令を記憶するために用いられる。
メモリ209は、プログラムコードを記憶し、そのプログラムコードをプロセッサ210に伝送するために用いられる。メモリ209は、例えばランダムアクセスメモリ(Random Access Memory、RAM)のような揮発性メモリ(Volatile Memory)を含み得る。メモリ209は、例えばリードオンリーメモリ(Read−Only Memory、ROM)、フラッシュメモリ(Flash Memory)、ハードディスクドライブ(Hard Disk Drive、HDD)又はソリッドステートドライブ(Solid−State Drive、SSD)のような不揮発性メモリ(Non−Volatile Memory)をも含み得る。メモリ209は、上述した種類のメモリの組み合わせをも含み得る。
ここで、プロセッサ210は、メモリ209に格納されたビデオ伝送プログラムコードを呼び出し、本発明の第4実施例乃至本発明の第5実施例のいずれかの一部または全部のステップを実行する。
本発明の第6実施例に記載のVR再生端末によれば、VR再生端末とサーバとの間のVRビデオ及び/又はARビデオの無線伝送を実現し、有線伝送によるケーブルのユーザへの拘束を効果的に回避する。VR再生端末で再生されるVRビデオ及び/又はARビデオを他のビデオ再生端末に共有して再生させることを実現し、ユーザ体験を効果的に向上させる。VR再生端末のGPUがVRビデオ及び/又はARビデオを微調整することにより、VRビデオ及び/又はARビデオの視覚効果を効果的に向上させる。
本発明の第7実施例は、コンピュータ読み取り可能な記憶媒体である。
コンピュータ記憶媒体は、RAMメモリ、フラッシュメモリ、ROMメモリ、EPROMメモリ、EEPROMメモリ、レジスタ、ハードディスク、リムーバブルハードディスク、CD−ROM又は本分野の既知の任意の他の形式の記憶媒体であってもよい。
コンピュータ読み取り可能な記憶媒体には1つ又は複数のプログラムが記憶されており、当該1つ又は複数のプログラムは1つ又は複数のプロセッサによって実行されることによって、本発明の第1実施例乃至本発明の第2実施例のいずれかの一部または全部のステップ、又は本発明の第5実施例乃至本発明の第6実施例のいずれかの一部または全部のステップを実行することができる。
本発明の第7実施例に記載のコンピュータ読み取り可能な記憶媒体には、1つ又は複数のプログラムが記憶されており、当該1つ又は複数のプログラムは1つ又は複数のプロセッサによって実行されることによって、VR再生端末とサーバとの間のVRビデオ及び/又はARビデオの無線伝送を実現し、有線伝送によるケーブルのユーザへの拘束を効果的に回避する。VR再生端末で再生されるVRビデオ及び/又はARビデオを他のビデオ再生端末に共有して再生させることを実現し、ユーザ体験を効果的に向上させる。VR再生端末のGPUがVRビデオ及び/又はARビデオを微調整することにより、VRビデオ及び/又はARビデオの視覚効果を効果的に向上させる。
本発明の第8実施例は、上述した実施例に基づいて、VRビデオの伝送方法を例として、図6〜8を参照しながら、本発明の適用例を説明するものである。
ステップS801において、複数人ゲームの場合、サーバは、各VR再生端末の第1位置情報を取得する。
ここで、サーバは各VR再生端末の第1位置情報を取得する方式は、
図6に示すように、無線伝送ネットワークを介して、各VR再生端末がリアルタイムに送信する第1位置情報を受信するか、
あるいは、図7に示すように、VR再生端末の周囲にプリセットされた、ケーブル又は無線伝送ネットワークを介してサーバと接続される1つ又は複数の赤外線カメラで各VR再生端末の赤外光情報を取得するとともに、赤外光情報を測位計算することにより、各VR再生端末の第1位置情報を得るか、
あるいは、図8に示すように、VR再生端末の周囲にプリセットされた、ケーブル又は無線伝送ネットワークを介してサーバと接続される1つ又は複数のカメラで各VR再生端末の画像情報を取得するとともに、画像情報を測位計算することにより、各VR再生端末の第1位置情報を得ることを含むが、これに限定されない。
VR再生端末の数は4個であり、VR再生端末は、第1のVR再生端末、第2のVR再生端末、第3のVR再生端末及び第4のVR再生端末を含む。
ステップS802において、サーバは、第2のVR再生端末、第3のVR再生端末及び第4のVR再生端末を現在のゲームシーンに重ね合わせて、第1のVR再生端末の現在時刻tにおける第1位置情報xに基づいて、第1のVR再生端末の将来のある時刻t+Δtにおける第2位置情報Xを予測する。ただし、Δt=圧縮時間+ネットワーク伝送時間+解凍時間。
ステップS803において、サーバは、入力として第2位置情報Xを使用して、第1のVR再生端末が存在する位置に対応するVRビデオを生成する。
ステップS804において、サーバは、第1のVR再生端末が存在する位置のVRビデオを圧縮した後、Wi−Fi(Wireless−Fidelity、ワイヤレスフィデリティ)によって第1のVR再生端末にストリーミングする。
ステップS805において、第1のVR再生端末は、第1のVR再生端末に対応するユーザの現在の頭部のリアルタイム位置を取得し、ATWアルゴリズムを使用して、第1のVR再生端末にプリセットされたGPUを介して、解凍後のVRビデオを微調整し、第1のVR再生端末に対応するユーザの現在の頭部のリアルタイム位置に調整したVRビデオを再生する。
ステップS806において、第1のVR再生端末はユーザから送信された、第2のVR再生端末、第3のVR再生端末及び第4のVR再生端末にVRビデオを共有する共有指令を受信すると、共有指令をサーバに送信し、サーバは共有指令の制御下で、第1のVR再生端末に対応するユーザの現在の頭部のリアルタイム位置のVRビデオを第2のVR再生端末、第3のVR再生端末及び第4のVR再生端末に送信し、第2のVR再生端末、第3のVR再生端末及び第4のVR再生端末に再生させる。
あるいは、第2のVR再生端末は、ユーザから送信された、第1のVR再生端末に対応するユーザの現在の頭部のリアルタイム位置のVRビデオの共有指令を受信すると、共有指令をサーバに送信し、サーバは共有指令の制御下で、第1のVR再生端末に対応するユーザの現在の頭部のリアルタイム位置のVRビデオを第2のVR再生端末に送信し、第2のVR再生端末に再生させる。
ここで、第1のVR再生端末と第2のVR再生端末とは、同一の無線LANを介してサーバに接続されてもよいし、異なる無線LANを介してサーバに接続されてもよい。
本発明の第8実施例に記載のVRビデオの伝送方法によれば、VR再生端末とサーバとの間のVRビデオの無線伝送を実現し、有線伝送によるケーブルのユーザへの拘束を効果的に回避する。VR再生端末で再生されるVRビデオを他のビデオ再生端末に共有して再生させることを実現し、ユーザ体験を効果的に向上させる。VR再生端末のGPUがVRビデオを微調整することにより、VRビデオの視覚効果を効果的に向上させる。
本発明の第9実施例は、上述した実施例に基づいて、ARビデオの伝送方法を例として、本発明の適用例を説明するものである。
ステップS901において、サーバは、VR再生端末の第1位置情報を取得する。
ここで、サーバは各VR再生端末の第1位置情報を取得する方式は、
無線伝送ネットワークを介して、各VR再生端末がリアルタイムに送信する第1位置情報を受信するか、
あるいは、VR再生端末の周囲にプリセットされた、ケーブル又は無線伝送ネットワークを介してサーバと接続される1つ又は複数の赤外線カメラで各VR再生端末の赤外光情報を取得するとともに、赤外光情報を測位計算することにより、各VR再生端末の第1位置情報を得るか、
あるいは、VR再生端末の周囲にプリセットされた、ケーブル又は無線伝送ネットワークを介してサーバと接続される1つ又は複数のカメラで各VR再生端末の画像情報を取得するとともに、画像情報を測位計算することにより、VR再生端末の第1位置情報を得ることを含むが、これに限定されない。
ステップS902において、サーバは、プリセットされた1つ又は複数の無線カメラによって取得されたビデオから、現実シーンのARビデオを生成する。
ステップS903において、サーバは、現実シーンのARビデオのうちの1つ又は複数の設定対象を認識し、設定対象に対して画像処理を行う。
例えば、サーバは、現実シーンのARビデオのうちの1つ又は複数の設定人物を認識し、設定人物に仮想衣服を着用させる。
ステップS904において、サーバは、VR再生端末の現在時刻tにおける第1位置情報xに基づいて、第1のVR再生端末の将来のある時刻t+Δtにおける第2位置情報Xを予測する。ただし、Δt=圧縮時間+ネットワーク伝送時間+解凍時間。
ステップS905において、サーバは、入力として第2位置情報Xを使用して、VR再生端末が存在する位置に対応するARビデオを生成し、1つ又は複数の設定画像をARビデオに重ね合わせる。
ステップS906において、サーバは、ARビデオを圧縮した後、Wi−FiによってVR再生端末にストリーミングする。
ステップS907において、VR再生端末はARビデオが圧縮された圧縮ビデオを解凍する。
ステップS908において、VR再生端末は、VR再生端末に対応するユーザの現在の頭部のリアルタイム位置を取得し、ATWアルゴリズムを使用して、VR再生端末にプリセットされたGPUを介して、解凍後のARビデオを微調整し、VR再生端末に対応するユーザの現在の頭部のリアルタイム位置に調整したARビデオを再生する。
VR再生端末にGPUがプリセットされていない場合には、解凍後のARビデオを再生する。
ステップS909において、VR再生端末は、ユーザから送信された共有指令を受信すると、共有指令をサーバに送信し、サーバは共有指令の制御下で、VR再生端末にストリーミングされたARビデオを他のビデオ再生端末に送信し、他のビデオ再生端末にARビデオを再生させる。
ここで、VR再生端末と他のVR再生端末とは、同一の無線LANを介してサーバに接続されてもよいし、異なる無線LANを介してサーバに接続されてもよい。
本発明の第9実施例に記載のARビデオの伝送方法によれば、VR再生端末とサーバとの間のARビデオの無線伝送を実現し、有線伝送によるケーブルのユーザへの拘束を効果的に回避する。VR再生端末で再生されるARビデオを他のビデオ再生端末に共有して再生させることを実現し、ユーザ体験を効果的に向上させる。VR再生端末のGPUがARビデオを微調整することにより、ARビデオの視覚効果を効果的に向上させる。
本発明の第10実施例は、上述した実施例に基づいて、VRビデオの伝送方法を例として、図9に示すように、本発明の適用例を説明するものである。
ステップS1001において、ゲームする際に、サーバは、VR再生端末の第1位置情報を取得する。
ここで、サーバはVR再生端末の第1位置情報を取得する方式は、
無線伝送ネットワークを介して、VR再生端末がリアルタイムに送信する第1位置情報を受信するか、
あるいは、VR再生端末の周囲にプリセットされた、ケーブル又は無線伝送ネットワークを介してサーバと接続される1つ又は複数の赤外線カメラでVR再生端末の赤外光情報を取得するとともに、赤外光情報を測位計算することにより、VR再生端末の第1位置情報を得るか、
あるいは、VR再生端末の周囲にプリセットされた、ケーブル又は無線伝送ネットワークを介してサーバと接続される1つ又は複数のカメラでVR再生端末の画像情報を取得するとともに、画像情報を測位計算することにより、VR再生端末の第1位置情報を得ることを含むが、これに限定されない。
ステップS1002において、サーバは、VR再生端末の現在時刻tにおける第1位置情報xに基づいて、VR再生端末の将来のある時刻t+Δtにおける第2位置情報Xを予測する。ただし、Δt=圧縮時間+ネットワーク伝送時間+解凍時間。
ステップS1003において、サーバは、入力として第2位置情報Xを使用して、VR再生端末が存在する位置に対応するVRビデオを生成する。
ステップS1004において、サーバは、VR再生端末が存在する位置のVRビデオを圧縮した後、Wi−FiによってVR再生端末にストリーミングする。
ステップS1005において、VR再生端末はVRビデオが圧縮された圧縮ビデオを解凍する。
ステップS1006において、VR再生端末は、VR再生端末に対応するユーザの現在の頭部のリアルタイム位置を取得し、ATWアルゴリズムを使用して、VR再生端末にプリセットされたGPUを介して、解凍後のVRビデオを微調整し、VR再生端末に対応するユーザの現在の頭部のリアルタイム位置に調整したVRビデオを再生する。
ステップS1007において、図9に示すように、VR再生端末は、ユーザから送信された共有指令を受信すると、共有指令をサーバに送信し、サーバは共有指令の制御下で、VR再生端末にストリーミングされたVRビデオを大画面ビデオ再生端末に送信し、大画面ビデオ再生端末にVRビデオを再生させる。
ここで、大画面ビデオ再生端末は、HDMI(High Definition Multimedia Interface、ハイデフィニション・マルチメディア・インターフェイス)ケーブルを介してサーバに接続される。
HDMIケーブルを介してサーバに接続されることで、ビデオの伝送遅延を大幅に短縮することができる。
本発明の第10実施例に記載のVRビデオの伝送方法によれば、VR再生端末とサーバとの間のVRビデオの無線伝送を実現し、有線伝送によるケーブルのユーザへの拘束を効果的に回避する。VR再生端末で再生されるVRビデオを他のビデオ再生端末に共有して再生させることを実現し、ユーザ体験を効果的に向上させる。VR再生端末のGPUがVRビデオを微調整することにより、VRビデオの視覚効果を効果的に向上させる。
発明を実施するための形態の説明により、所定の目的を達成するためになされた技術的手段及び効果をより深く具体的に理解できるであろうが、図面は単に参考及び説明のためのものであり、本発明を限定するものではない。
本発明は、仮想現実の技術分野に関する。本発明の技術的手段によれば、VR再生端末とサーバとの間のVRビデオ及び/又はARビデオの無線伝送を実現し、有線伝送によるケーブルのユーザへの拘束を効果的に回避する。VR再生端末で再生されるVRビデオ及び/又はARビデオを他のビデオ再生端末に共有して再生させることを実現し、ユーザ体験を効果的に向上させる。VR再生端末のGPUがVRビデオ及び/又はARビデオを微調整することにより、VRビデオ及び/又はARビデオの視覚効果を効果的に向上させる。

Claims (13)

  1. サーバに適用されるビデオ伝送方法であって、前記方法は、
    取得された仮想現実VR再生端末の第1位置情報に基づいて、前記VR再生端末の設定時間内における第2位置情報を予測して得て、
    前記第2位置情報に対応する視角の圧縮ビデオを前記VR再生端末に送信した場合、前記VR再生端末が送信した共有指令を受信すると、前記圧縮ビデオを他のビデオ再生端末に送信し、前記他のビデオ再生端末に前記圧縮ビデオを再生させることを含む、ビデオ伝送方法。
  2. 前記第2位置情報に対応する視角の圧縮ビデオを前記VR再生端末に送信する前に、前記方法は、
    前記第2位置情報に基づいて、プリセットされたビデオソースから、前記第2位置情報に対応する視角のビデオを取得し、
    前記圧縮ビデオを伝送する所定の無線伝送ネットワークの伝送速度に基づいて、前記第2位置情報に対応する視角のビデオを圧縮して前記第2位置情報に対応する視角の圧縮ビデオを得ることをさらに含む、請求項1に記載の方法。
  3. 前記第2位置情報に対応する視角のビデオには、前記第2位置情報に対応する視角のVRビデオ、及び/又は前記第2位置情報に対応する視角の拡張現実ARビデオが含まれる、請求項2に記載の方法。
  4. 前記第2位置情報に基づいて、プリセットされたビデオソースから、前記第2位置情報に対応する視角のビデオを取得する前に、前記方法は、
    前記第2位置情報に対応する視角のビデオは前記第2位置情報に対応する視角のARビデオである場合、前記ビデオソースに設定視覚情報を重ね合わせることをさらに含む、請求項3に記載の方法。
  5. 前記第1位置情報を取得する方式は、
    前記VR再生端末がリアルタイムに送信した第1位置情報を受信するか、
    あるいは、前記VR再生端末の周囲にプリセットされた赤外線カメラで前記VR再生端末の赤外光情報を取得するとともに、前記赤外光情報を測位することにより、前記VR再生端末の第1位置情報を得るか、
    あるいは、前記VR再生端末の周囲にプリセットされたカメラで前記VR再生端末の画像情報を取得するとともに、前記画像情報を測位することにより、前記VR再生端末の第1位置情報を得ることを含む、請求項1〜4のいずれか一項に記載の方法。
  6. VR再生端末に適用されるビデオ伝送方法であって、前記方法は、
    サーバが送信した第2位置情報に対応する視角の圧縮ビデオを受信した場合、前記圧縮ビデオを再生し、ユーザがトリガーした共有指令を受信すると、前記共有指令を前記サーバに送信し、前記サーバが前記共有指令の制御下で前記圧縮ビデオを他のビデオ再生端末に送信することを含む、ビデオ伝送方法。
  7. 前記圧縮ビデオを再生することは、
    前記VR再生端末にグラフィックスプロセッシングユニットGPUが設けられていない場合には、前記圧縮ビデオを解凍し、第1解凍ビデオを得て、前記第1解凍ビデオを再生することを含む、請求項6に記載の方法。
  8. 前記圧縮ビデオを再生することは、
    前記VR再生端末にGPUが設けられている場合には、前記圧縮ビデオを解凍し、第2解凍ビデオを得て、
    現在取得された前記VR再生端末の第3位置情報に基づいて、前記GPUにより、プリセットされた視角アルゴリズムに基づいて、前記第2解凍ビデオを前記第3位置情報に対応する視角の第3解凍ビデオに調整し、
    前記第3解凍ビデオを再生することを含む、請求項6に記載の方法。
  9. 前記サーバが送信した前記第2位置情報に対応する視角の圧縮ビデオを受信する前に、前記方法は、
    リアルタイムに取得された前記VR再生端末の第1位置情報をリアルタイムにサーバに送信することによって、前記サーバは前記第1位置情報に基づいて前記VR再生端末の設定時間内における第2位置情報を予測して得ることをさらに含む、請求項6に記載の方法。
  10. リアルタイムに取得された前記VR再生端末の第1位置情報をリアルタイムにサーバに送信する前に、前記方法は、
    前記VR再生端末の着用ユーザの頭部移動軌跡に基づいて、前記VR再生端末の第1位置情報をリアルタイムに取得することをさらに含む、請求項9に記載の方法。
  11. プロセッサ、メモリ及び通信バスを備えるサーバであって、
    前記通信バスは、プロセッサとメモリとの間の接続通信を実現するように設定され、
    前記プロセッサは、メモリに記憶されたビデオ伝送プログラムを実行することによって、請求項1〜5のいずれか一項に記載のビデオ伝送方法のステップを実現するように設定される、サーバ。
  12. プロセッサ、メモリ及び通信バスを備えるVR再生端末であって、
    前記通信バスは、プロセッサとメモリとの間の接続通信を実現するように設定され、
    前記プロセッサは、メモリに記憶されたビデオ伝送プログラムを実行することによって、請求項6〜10のいずれか一項に記載のビデオ伝送方法のステップを実現するように設定される、VR再生端末。
  13. 1つ又は複数のプロセッサによって実行されることによって、請求項1〜5のいずれか一項に記載のビデオ伝送方法のステップ、又は請求項6〜10のいずれか一項に記載のビデオ伝送方法のステップを実現する1つ又は複数のプログラムを記憶したコンピュータ読み取り可能な記憶媒体。
JP2019571954A 2017-09-25 2018-08-21 ビデオ伝送方法、サーバ、vr再生端末及びコンピュータ読み取り可能な記憶媒体 Pending JP2020527300A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201710874249.9 2017-09-25
CN201710874249.9A CN107613338A (zh) 2017-09-25 2017-09-25 视频传输方法、服务器、vr播放终端及计算机可读存储介质
PCT/CN2018/101574 WO2019056904A1 (zh) 2017-09-25 2018-08-21 视频传输方法、服务器、vr播放终端及计算机可读存储介质

Publications (1)

Publication Number Publication Date
JP2020527300A true JP2020527300A (ja) 2020-09-03

Family

ID=61057855

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019571954A Pending JP2020527300A (ja) 2017-09-25 2018-08-21 ビデオ伝送方法、サーバ、vr再生端末及びコンピュータ読み取り可能な記憶媒体

Country Status (5)

Country Link
US (1) US20200120380A1 (ja)
EP (1) EP3691280B1 (ja)
JP (1) JP2020527300A (ja)
CN (1) CN107613338A (ja)
WO (1) WO2019056904A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107613338A (zh) * 2017-09-25 2018-01-19 中兴通讯股份有限公司 视频传输方法、服务器、vr播放终端及计算机可读存储介质
EP3588470A1 (en) * 2018-06-26 2020-01-01 Siemens Aktiengesellschaft Method and system for sharing automatically procedural knowledge
CN110876080B (zh) * 2018-08-30 2021-07-20 华为技术有限公司 视频投屏方法、装置、计算机设备及存储介质
TWI699103B (zh) * 2019-04-22 2020-07-11 圓展科技股份有限公司 無線攝影機與影像串流方法
CN110798708A (zh) * 2019-10-12 2020-02-14 重庆爱奇艺智能科技有限公司 一种vr设备的显示内容的投屏方法、装置与系统
CN110958325B (zh) * 2019-12-11 2021-08-17 联想(北京)有限公司 一种控制方法、装置、服务器及终端
EP4064712A4 (en) * 2019-12-31 2022-12-07 Huawei Technologies Co., Ltd. COMMUNICATION METHOD AND DEVICE
TW202133118A (zh) * 2020-02-21 2021-09-01 四葉草娛樂有限公司 實境模擬全景系統及其方法
CN113110234B (zh) * 2021-05-11 2023-03-31 武汉灏存科技有限公司 联动控制系统及方法
CN113542849B (zh) * 2021-07-06 2023-06-30 腾讯科技(深圳)有限公司 视频数据处理方法及装置、电子设备、存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015095045A (ja) * 2013-11-11 2015-05-18 株式会社ソニー・コンピュータエンタテインメント 画像生成装置および画像生成方法
WO2016010668A1 (en) * 2014-07-14 2016-01-21 Sony Computer Entertainment Inc. System and method for use in playing back panorama video content
WO2016158001A1 (ja) * 2015-03-30 2016-10-06 ソニー株式会社 情報処理装置、情報処理方法、プログラム及び記録媒体
CN106385587A (zh) * 2016-09-14 2017-02-08 三星电子(中国)研发中心 分享虚拟现实视角的方法、装置及系统
US20170272838A1 (en) * 2016-03-21 2017-09-21 Screenovate Technologies Ltd. Method and a system for using a computerized source device within the virtual environment of a head mounted device
WO2017161276A1 (en) * 2016-03-18 2017-09-21 Sony Interactive Entertainment Inc. Spectator view perspectives in vr environments

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9319741B2 (en) * 2006-09-07 2016-04-19 Rateze Remote Mgmt Llc Finding devices in an entertainment system
US9378582B2 (en) * 2012-07-31 2016-06-28 Siemens Product Lifecycle Management Software Inc. Rendering of design data
US10827230B2 (en) * 2014-07-03 2020-11-03 Sony Corporation Information processing apparatus and information processing method
CN204465755U (zh) * 2015-01-20 2015-07-08 刘宛平 可交互立体混合现实的装置及应用该装置的虚拟现实头盔
KR20170081456A (ko) * 2016-01-04 2017-07-12 한국전자통신연구원 가상현실 기반 개인형 체험요소 공유 시스템 및 그 방법
CN105892683A (zh) * 2016-04-29 2016-08-24 上海乐相科技有限公司 一种显示方法及目标设备
CN107147824A (zh) * 2016-06-22 2017-09-08 深圳市量子视觉科技有限公司 多视角视频的输出方法和装置
CN106534892A (zh) * 2016-11-23 2017-03-22 上海沙塔信息科技有限公司 基于可视角度再编码的虚拟现实直播系统和方法
CN106502427B (zh) * 2016-12-15 2023-12-01 北京国承万通信息科技有限公司 虚拟现实系统及其场景呈现方法
CN106875431B (zh) * 2017-02-10 2020-03-17 成都弥知科技有限公司 具有移动预测的图像追踪方法及扩增实境实现方法
US10979663B2 (en) * 2017-03-30 2021-04-13 Yerba Buena Vr, Inc. Methods and apparatuses for image processing to optimize image resolution and for optimizing video streaming bandwidth for VR videos
CN107024995A (zh) * 2017-06-05 2017-08-08 河北玛雅影视有限公司 多人虚拟现实交互系统及其控制方法
CN107613338A (zh) * 2017-09-25 2018-01-19 中兴通讯股份有限公司 视频传输方法、服务器、vr播放终端及计算机可读存储介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015095045A (ja) * 2013-11-11 2015-05-18 株式会社ソニー・コンピュータエンタテインメント 画像生成装置および画像生成方法
WO2016010668A1 (en) * 2014-07-14 2016-01-21 Sony Computer Entertainment Inc. System and method for use in playing back panorama video content
WO2016158001A1 (ja) * 2015-03-30 2016-10-06 ソニー株式会社 情報処理装置、情報処理方法、プログラム及び記録媒体
WO2017161276A1 (en) * 2016-03-18 2017-09-21 Sony Interactive Entertainment Inc. Spectator view perspectives in vr environments
US20170272838A1 (en) * 2016-03-21 2017-09-21 Screenovate Technologies Ltd. Method and a system for using a computerized source device within the virtual environment of a head mounted device
CN106385587A (zh) * 2016-09-14 2017-02-08 三星电子(中国)研发中心 分享虚拟现实视角的方法、装置及系统

Also Published As

Publication number Publication date
EP3691280B1 (en) 2023-12-13
WO2019056904A1 (zh) 2019-03-28
EP3691280A1 (en) 2020-08-05
CN107613338A (zh) 2018-01-19
US20200120380A1 (en) 2020-04-16
EP3691280A4 (en) 2021-01-27

Similar Documents

Publication Publication Date Title
JP2020527300A (ja) ビデオ伝送方法、サーバ、vr再生端末及びコンピュータ読み取り可能な記憶媒体
JP7132280B2 (ja) Vr観戦のための拡大された視野再レンダリング
US11079999B2 (en) Display screen front panel of HMD for viewing by users viewing the HMD player
US10388071B2 (en) Virtual reality (VR) cadence profile adjustments for navigating VR users in VR environments
JP6724110B2 (ja) 仮想空間中のアバター表示システム、仮想空間中のアバター表示方法、コンピュータプログラム
EP3180911B1 (en) Immersive video
JP7368886B2 (ja) 情報処理システム、情報処理方法、および情報処理プログラム
WO2018086224A1 (zh) 一种虚拟现实场景的生成方法、设备及虚拟现实系统
EP3573026B1 (en) Information processing apparatus, information processing method, and program
JP2022525414A (ja) 分散型ゲームエンジンを使用して状態を予測するシステム及び方法
WO2023045637A1 (zh) 视频数据生成方法、装置、电子设备及可读存储介质
JP5776954B2 (ja) 情報処理装置、制御方法、プログラム、記録媒体及び描画システム
US10536682B2 (en) Method for reproducing an item of audiovisual content having haptic actuator control parameters and device implementing the method
JP6533022B1 (ja) 端末、サーバおよびプログラム
US20180285050A1 (en) Incorporating external guests into a virtual reality environment
KR20210056414A (ko) 혼합 현실 환경들에서 오디오-가능 접속된 디바이스들을 제어하기 위한 시스템
WO2024009653A1 (ja) 情報処理装置、情報処理方法、及び情報処理システム
EP4306192A1 (en) Information processing device, information processing terminal, information processing method, and program
JP2024504884A (ja) 画像認識のためのシステム、方法、及びコンピュータ可読媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210302

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20211005