JP2016105593A - ライブ選択的適応帯域幅 - Google Patents

ライブ選択的適応帯域幅 Download PDF

Info

Publication number
JP2016105593A
JP2016105593A JP2015230239A JP2015230239A JP2016105593A JP 2016105593 A JP2016105593 A JP 2016105593A JP 2015230239 A JP2015230239 A JP 2015230239A JP 2015230239 A JP2015230239 A JP 2015230239A JP 2016105593 A JP2016105593 A JP 2016105593A
Authority
JP
Japan
Prior art keywords
content
resolution
virtual reality
dimensional
degree virtual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015230239A
Other languages
English (en)
Inventor
シルヴァ モーラ ダニーロ
Silva Moura Danilo
シルヴァ モーラ ダニーロ
アンバナンサン プラブー
Anbananthan Prabhu
アンバナンサン プラブー
タンドン プラティーク
Tandon Prateek
タンドン プラティーク
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JP2016105593A publication Critical patent/JP2016105593A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/167Synchronising or controlling image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/189Recording image signals; Reproducing recorded image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/243Image signal generators using stereoscopic image cameras using three or more 2D image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/275Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/39Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability involving multiple description coding [MDC], i.e. with separate layers being structured as independently decodable descriptions of input picture data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4305Synchronising client clock from received content stream, e.g. locking decoder clock with encoder clock, extraction of the PCR packets
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/478Supplemental services, e.g. displaying phone caller identification, shopping application
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/478Supplemental services, e.g. displaying phone caller identification, shopping application
    • H04N21/4781Games
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments

Abstract

【課題】高品質な360度バーチャルリアリティ(VR)ビデオを実現する、ライブ選択的適応帯域幅方法を提供する。【解決手段】コンテンツをスライス処理して様々な解像度のコンテンツを作成し、ユーザに見えているコンテンツを、ユーザに見えていないコンテンツよりも解像度が高くなるようにコンテンツを使用することによって、3次元360度バーチャルリアリティコンテンツの送信を可能にする。また、どの解像度のコンテンツを送信すべきかを決定する上で、利用可能な帯域幅などのネットワーク情報を使用する。【選択図】図6

Description

〔関連出願との相互参照〕
本出願は、2014年11月26日に出願された「ライブ選択的適応帯域幅(LIVE SELECTIVE ADAPTIVE BANDWIDTH)」という名称の米国仮特許出願第62/123,778号の合衆国法典第35編第119条(e)に基づく優先権を主張するものであり、この仮特許出願は、その全体があらゆる目的で引用により本明細書に組み入れられる。
本出願は、ネットワーク帯域幅の分野に関し、より具体的には、選択型適応ネットワーク帯域幅に関する。
Sony社製のProject Morpheus(登録商標)、Samsung社製のGear VR(登録商標)、Facebook社製のOculus Rift(登録商標)などの製品、及びその他の多くの製品は、何百万人もの消費者の手で利用可能になるであろう。ユーザは、ゲームをはじめ、フォトリアリスティックな3D360度ビデオへの没頭を体験することができる。
360度ビデオの生成処理では、複数のカムコーダに、各レンズでフレームをわずかに重ね合わせて全ての方向を記録させておく。ソフトウェアにより、各ビデオカメラストリームを単一のフレームに取り込み(リッピング処理)、完全な正距円筒パノラマを作成するために全ての要素を繋ぎ合わせる(スティッチング処理)。その後、これらのパノラマフレームを取り込みのフレームレートで再現して360度ビデオを生成する。360度の立体効果を生み出すために、片方の眼に1つずつの2つの360度ビデオストリームを使用する。
高品質な360度バーチャルリアリティ(VR)ビデオを実現するために、8192×4096画素の解像度での毎秒60フレームの再生を片方の眼毎に使用する。この再生は、今日のインターネットの平均ブロードバンド速度及び現在の装置の処理能力にとって非常に困難である。この結果、ほとんどのビデオは、品質を制限した1080p又は4K品質で配信されている。
1度角あたり23画素(23PPD)(8K)解像度のストリーミングでは、超高精細画質(4K)の4倍の解像度及び帯域幅が使用されるので、それ自体が困難である。
本明細書で説明する本発明の概要は、例示的な実施形態を提供するものにすぎず、決して限定を意図するものではない。
ライブ選択的適応帯域幅方法は、コンテンツをスライス処理して様々な解像度のコンテンツを利用することにより、3次元360度バーチャルリアリティコンテンツの送信を可能にし、ユーザの可視領域内のコンテンツは、ユーザの非可視領域内のコンテンツよりも解像度が高い。また、どの解像度のコンテンツを送信すべきかを判断する上で、利用可能な帯域幅などのネットワーク情報を使用する。
1つの態様では、装置の非一時的メモリにプログラムされた方法が、高品質成分と、高品質成分よりも低い低品質成分とを含む3次元360度バーチャルリアリティコンテンツを受け取るステップと、この3次元360度バーチャルリアリティコンテンツを表示するステップとを含む。高品質成分及び低品質成分は、各々がコンテンツのスライスを含む。高品質成分は、ユーザが見ているコンテンツを含み、低品質成分は、ユーザが見ていないコンテンツを含む。高品質成分及び低品質成分は、同じタイムコードで同期される。3次元360度バーチャルリアリティコンテンツは、複数のコンテンツ品質を含み、このコンテンツ品質は、可視領域及びネットワーク情報に基づいて選択される。3次元360度バーチャルリアリティコンテンツは、複数のコンテンツ品質を含み、非可視領域のコンテンツ品質は、最も低い品質であり、可視領域のコンテンツ品質は、利用可能な残りのネットワーク帯域幅に基づく。3次元360度バーチャルリアリティコンテンツは、複数の解像度及びビットレートのコンテンツを含む。
別の態様では、装置が、高品質成分と、高品質成分よりも低い低品質成分とを含む3次元360度バーチャルリアリティコンテンツを受け取り、3次元360度バーチャルリアリティコンテンツを表示するためのアプリケーションを記憶する非一時的メモリと、メモリに結合され、アプリケーションを処理するように構成された処理コンポーネントとを備える。高品質成分及び低品質成分は、各々がコンテンツのスライスを含む。高品質成分は、ユーザが見ているコンテンツを含み、低品質成分は、ユーザが見ていないコンテンツを含む。高品質成分及び低品質成分は、同じタイムコードで同期される。3次元360度バーチャルリアリティコンテンツは、複数のコンテンツ品質を含み、このコンテンツ品質は、可視領域及びネットワーク情報に基づいて選択される。3次元360度バーチャルリアリティコンテンツは、複数のコンテンツ品質を含み、非可視領域のコンテンツ品質は、最も低い品質であり、可視領域のコンテンツ品質は、利用可能な残りのネットワーク帯域幅に基づく。3次元360度バーチャルリアリティコンテンツは、複数の解像度及びビットレートのコンテンツを含む。
別の態様では、装置の非一時的メモリにプログラムされた方法が、複数の解像度の3次元360度バーチャルリアリティコンテンツを記憶するステップと、この3次元360度バーチャルリアリティコンテンツを、可視領域、非可視領域及びネットワーク情報に基づいて送信するステップとを含む。複数の解像度の3次元360度バーチャルリアリティコンテンツは、高解像度コンテンツのスライスと、さらに低い低解像度コンテンツのスライスとを含む。高解像度コンテンツ及び低解像度コンテンツは、同じタイムコードで同期される。3次元360度バーチャルリアリティコンテンツを送信するステップは、可視領域のための高解像度コンテンツと、非可視領域のための低解像度コンテンツとを送信するステップを含む。非可視領域のコンテンツの解像度は、最も低い解像度であり、可視領域のコンテンツの解像度は、利用可能な残りのネットワーク帯域幅に基づく。ネットワーク情報は、ネットワーク速度及びネットワークトラフィックを含む。
さらに別の態様では、装置が、複数の解像度の3次元360度バーチャルリアリティコンテンツを記憶し、この3次元360度バーチャルリアリティコンテンツを、可視領域、非可視領域及びネットワーク情報に基づいて送信するためのアプリケーションを記憶する非一時的メモリと、メモリに結合され、アプリケーションを処理するように構成された処理コンポーネントとを備える。複数の解像度の3次元360度バーチャルリアリティコンテンツは、高解像度コンテンツのスライスと、さらに低い低解像度コンテンツのスライスとを含む。高解像度コンテンツ及び低解像度コンテンツは、同じタイムコードで同期される。3次元360度バーチャルリアリティコンテンツを送信するステップは、可視領域のための高解像度コンテンツと、非可視領域のための低解像度のコンテンツとを送信するステップを含む。非可視領域のコンテンツの解像度は、最も低い解像度であり、可視領域のコンテンツの解像度は、利用可能な残りのネットワーク帯域幅に基づく。ネットワーク情報は、ネットワーク速度及びネットワークトラフィックを含む。
平均的な人間の眼の立体/両眼視野を示す図である。 いくつかの実施形態による、4つの1024×2048スライスにスライス処理された4K画像の例を示す図である。 いくつかの実施形態によるHMDを示す図である。 いくつかの実施形態による、ライブ選択的適応帯域幅を用いた体験を示す図である。 いくつかの実施形態による、コンテンツに購入機会を組み込んだ実装を示す図である。 いくつかの実施形態による、ライブ選択的適応帯域幅方法の実施方法のフローチャートである。 いくつかの実施形態による、ライブ選択的適応帯域幅方法を実装するように構成された例示的なコンピュータ装置のブロック図である。 いくつかの実施形態による、ライブ選択的適応帯域幅方法を実装するように構成された装置ネットワークを示す図である。
スポーツ/現実的コンテンツのバーチャルリアリティ(VR)ビデオは60fpsで再生され、60fpsの4K AVCストリーミングは15〜20mbpsを使用し、60fpsの4K AVC 3Dストリーミングは30〜40mbpsを使用し、8K AVCストリーミングは60〜80mbpsを使用し、8K 3D AVCストリーミングは120〜160mbpsを使用する。HEVCは、AVC帯域幅を半分に削減することができる。
Akamai社のインターネットの現状によれば、米国及びカナダにおける平均インターネット速度は、ヘッドマウントディスプレイ(HMD)装置の本来の立体能力をサポートするために使用される4Kのストリームを1つサポートできる可能性があるが、2つはサポートすることができない。
ライブストリームに対するビットレートを考慮すると、2つの8Kファイル(160mbps)は、米国及びカナダで実現可能な平均ビットレートの12倍を上回り、VR HMD用の高品質ライブストリームを配信するために異なる方法が使用されている。
VRのための選択的適応ライブストリーミング規格を使用することができる。
人間の眼の平均的な立体/両眼視野は120度に近く(これより若干広かったり又は狭かったりする)、現在のHMD装置の視野は100度に近く(ただし、上下する場合もある)、従ってユーザは同時に360度のスフィア全体を見ることができない。図1は、人間の眼の平均的な立体/両眼視野を示す図である。
これを、VRの高画素密度及びフレームレート速度要求と組み合わせて考えると、ユーザが見ていないであろう50%よりも多くのデータを送信してレンダリングするために、非常に多くの処理能力、ネットワーク帯域幅、gpuサイクル及びバッテリー寿命を無駄にすることは極めて非効率的である。
本明細書では、ユーザの視点に基づいてヘッドマウントディスプレイによって伝えられる、同じタイムコードで同期された複数レイヤの再生をサポートするために、適応帯域幅規格の拡張について説明し、ビデオプレーヤは、見えているスライスに対する帯域幅及び解像度を優先する。例えば、見えているスライスは、最初に送信されるという意味での優先度及び/又は品質優先度(例えば、より高い品質)のいずれかを有する。
ユーザは、頭を高速で動かした場合、プレーヤが当該レイヤを優先するためにHMDの向きから情報を受け取るまで数秒間にわたって低品質コンテンツ(例えば、画像/ビデオ)を見ることになる。また、素早い頭の動きは、特にVRでは非常に厄介でもある。ユーザの頭の動きが通常の速さの場合には、知覚的品質ロスを伴わずにそのスフィアのわずかなセグメントのみを高品質で表示することにより、良好で鮮明な解像度を維持することができる。
いくつかの実施形態では、音声をビデオスライスと多重化しない。音声は、独自の別個のストリームになる。
現在のHLSマニフェストファイル
同時にダウンロードされて再生されるのは、以下のリストのうちの1つのレイヤのみである。品質は、セグメントのダウンロード速度に応じて向上し、又は低下する。

#EXTM3U
#EXT-X-VERSION:4VR
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=290400,CODECS=“avc1.42000d, mp4a.40.2”,RESOLUTION = 384x216
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/masterhls1.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=1320000,CODECS=“avc1.77.30, mp4a.40.2”,RESOLUTION = 640x360
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/masterhls2.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=1760000,CODECS=“avc1.4d001f, mp4a.40.2”,RESOLUTION = 960x540
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/masterhls3.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=2750000,CODECS=“avc1.4d001f, mp4a.40.2”,RESOLUTION = 1280x720
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/masterhls4.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=5880800,CODECS=“avc1.4d001f, mp4a.40.2”,RESOLUTION = 1920x1080
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/masterhls5.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=10880800,CODECS=“avc1.4d0020, mp4a.40.2”,RESOLUTION = 2048 x1024
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/masterhls6.m3u8
拡張したVR HLSマニフェストファイル
上記の例に示したように、スフィアのスライス毎に、解像度及びビットレートが異なる複数のレイヤを使用する。この品質の変動は、優先順位付けのために、現在のユーザネットワークの速度のみに依存するのではなく、360度のスフィア内におけるHMDの向きにも影響を受ける。この方法は、以下に示すように、1つのオーディオストリームと、2Dコンテンツでは4つの、及び3Dコンテンツでは8つのビデオストリームとを再生できるプレーヤによって実装される。3D再生では、Lが左側スフィアを表し、Rが右側スフィアを表す。
VRマスタHLS定義

#EXTM3U
#EXT-X-VERSION:4VR
#EXT-X-STREAM-INF:PROGRAM-ID=1,CODECS=“mp4a.40.2”
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/VR_Master_Audio.m3u8
//This is the audio-only stream, which is used in sync, but independent from the video

#EXT-X-STREAM-INF:PROGRAM-ID=1,CODECS=“avc1.4200d”,SLICE=1,VISIBLE=YES
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/VRmaster_L_Slice1.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,CODECS=“avc1.4200d”,SLICE=1,VISIBLE=YES
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/VRmaster_R_Slice1.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,CODECS=“avc1.4200d”,SLICE=2,VISIBLE=YES
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/VRmaster_L_Slice2.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,CODECS=“avc1.4200d”,SLICE=2,VISIBLE=YES
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/VRmaster_R_Slice2.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,CODECS=“avc1.4200d”,SLICE=3,VISIBLE=YES
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/VRmaster_L_Slice3.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,CODECS=“avc1.4200d”,SLICE=3,VISIBLE=YES
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/VRmaster_R_Slice3.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,CODECS=“avc1.4200d”,SLICE=4,VISIBLE=YES
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/VRmaster_L_Slice4.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,CODECS=“avc1.4200d”,SLICE=4,VISIBLE=YES
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/VRmaster_R_Slice4.m3u8
上記のスライス処理されたビデオレイヤの各々は、VISIBLE[YES/NO]タグによって優先順位を付けられた独自の適応レイヤを有する。VISIBLE=NOは、これらのレイヤが、利用可能な最も低い帯域幅で再生されることを意味する。

#EXTM3U
#EXT-X-VERSION:4VR
#EXT-X-STREAM-INF:PROGRAM-ID1 ,BANDWIDTH=290400,C0DECS=“avc1.4200”, RESOLUTION=384x216
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/masterhls1.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=1320000,CODECS=“avc1.77.32”, RESOLUTION = 640x360
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/masterhls2.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=1760000,CODECS=“avc1.4d001f”, RESOLUTION = 960x540
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/masterhls3.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=2750000,CODECS=“avc1.4d001f”, RESOLUTION = 1280x720
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/masterhls4.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=5880800,CODECS=“avc1.4d001f”, RESOLUTION = 1920x1080
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/masterhls5.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=10880800,CODECS=“avc1.4d0020”,RESOLUTION = 2048 x1024
http://example.url.akamaidhd.net/hls/live/220453/grc2014hlstest/masterhls6.m3u8
マニフェストファイルの第1のレイヤは、スフィア内に表示されるスライスの量を記述する。効率性のために、メインVRマニフェストファイルでは、少なくとも4つの垂直スライスが記述される。属性:VRHMD visible=yes/noは、HMDによってトリガされるべきである。visible=noとしてトリガされるストリームは、利用可能な最も低い品質のレイヤに強制される。visible=yesとしてトリガされるレイヤは、残りの利用可能なネットワーク帯域幅を取得すべきである。
目に見えるストリームのマニフェストファイルの第2のレイヤは、現在の仕様と同様に挙動し、最も下位の2つのレイヤをプレースホルダとして保持する結果である利用可能なネットワーク速度に応じて適応する。
図2に、いくつかの実施形態による、4つの1024×2048のスライスにスライス処理された4K画像の例を示す。ライブビデオは、HMDの向きに基づいて、MPEG DASH(又はHLS)VRストリーミングに合わせて自動的に最適化され、必要なビデオメモリバッファ割り当て及びネットワーク帯域幅をわずかしか使用せずに、VRヘッドセット又はHMD(例えば、Morpheus)のための高品質8K(23PPD)コンテンツをライブ放送することができる。どのスライスがフル解像度及び高ビットレートを有するべきかを決定するために、メディアプレーヤがいかにしてユーザのHMDのPOVを読み取るかを定めることができる。
図3は、いくつかの実施形態によるHMDを示す図である。HMDは、本明細書で説明するようなコンテンツを表示できるディスプレイを含む。HMDは、本明細書で説明するライブ選択的適応帯域幅を利用するために、他のいずれかのコンポーネントを含むことができる。
図4は、いくつかの実施形態による、ライブ選択的適応帯域幅を用いた体験を示す。映画館及びクラブゲーム環境などでの映画及びテレビ番組のソーシャルビューイングが可能である。HMDを用いて、360度3D VRビデオを含む3D映画及びコンテンツを見ることができる。
図5に、いくつかの実施形態による、コンテンツに購入機会を組み込んだ実装を示す。例えば、アプリケーション、映画、ゲーム又はその他のコンテンツ内にインタラクティブメニューを表示して、追加のコンテンツ/製品の購入又はレンタルを可能にすることができる。例えば、ユーザが映画を観ている最中に、関連するゲームをユーザがレンタルできるようにするインタラクティブVRメニューが表示される。
有名な場所及びビデオゲームの場所のウォークスルーへのアクセスを含む、VRのための排他的でインタラクティブな360度ビデオコンテンツの作成を裏で行うことができる。Crackleに加え、Live From PlayStationチャネルからのコンテンツをTwitch TV及びUstreamからのPS4ライブストリームと組み合わせてソーシャルビューイング体験を生み出すこともできる。この種のVR/ソーシャルビューイング体験は、PlayStation Live Event Viewer又は別のビューアからのライブスポーツイベントを見るためにも使用可能である。PS4 VR環境は、インタラクティブな広告機会の多くの可能性を生み出す。
ステディカム(Steadicam)を備えた360度3Dビデオカメラを使用して、物語風のVR体験ツアーを生成することもできる。いくつかの実施形態では、この体験が、頭部追跡機能を備えた没入型POVと組み合わせたインタラクティブレイヤを含む。このインタラクティブレイヤは、オンラインストア(例えば、PlayStation(登録商標)Store)のDLCページ及び製品ページにリンクする。
ユーザは、スパイダーマンのポスター、ゴーストバスターズカー、ブレイキングバッドのRV、Jeopardy and Wheel of Fortuneのステージなどの関心地点を選択して、映画、TV番組及びゲームの購入/レンタル/視聴を行うことができる。これらのインタラクティブなゴーストバスターズ消防署(Ghostbusters Firehouse)及びメン・イン・ブラック(Men In Black)の本部のVR空間は、オンラインストア内のゲーム及びバーチャル商品へのリンクを含む。
本明細書で説明する方法及び実装は、ディズニーランド(Disneyland(登録商標))などの遊園地及びスポーツイベントで利用することができる。例えば、ユーザは、3D VRでスポーツイベントを見ることができる。これらの方法及び実装をコンサート体験と共に利用して、ユーザにライブコンサートのソーシャルバーチャル体験を与えることもできる。
図6は、いくつかの実施形態による、ライブ選択的適応帯域幅方法の実施方法のフローチャートである。ステップ600において、3D360度VRコンテンツを取得する。例えば、複数の360度カメラ又は特定の360度カメラシステムを用いてコンテンツ(例えば、ビデオ)を取り込む。ステップ602において、3D360度VRコンテンツを、異なる品質のコンテンツに修正及び/又は分離し、この異なる品質のコンテンツを記憶する。例えば、コンテンツは、低品質(例えば標準画質などの低解像度)、中品質(例えば4K超高精細画質などの中間解像度)、及び高品質(例えば8K超高精細画質などの高解像度)(ただしあらゆる数の品質レベルが可能である)に分離される。いくつかの実施形態では、高品質コンテンツを取得し、このコンテンツを中品質及び低品質に圧縮することによってコンテンツを修正する。いくつかの実施形態では、異なる品質のビデオを同時に取得する(例えば、低、中及び高品質コンテンツを全て同時に取得する)。ステップ604において、コンテンツをスライスにスライス処理する。例えば、4Kコンテンツは、4つの1024×2048スライスにスライス処理される。いくつかの実施形態では、各品質レベルのコンテンツをスライスにスライス処理する。例えば、高品質コンテンツと、対応する中品質及び低品質コンテンツとを、対応するスライスに同じようにスライス処理する。ステップ606において、コンテンツスライスをサーバ装置に送信(例えば、アップロード/記憶)する。ステップ608において、適当なコンテンツスライスをサーバ装置からユーザ装置(例えば、HMD)にダウンロードする。コンテンツは、ライブ選択的適応帯域幅方法を用いてダウンロードされる。いくつかの実施形態では、ユーザが見ていないシーンの部分については、最も低い解像度のバージョンがダウンロードされ、見えているシーンの部分については、ネットワーキング/コンピューティング機能/情報(例えば、現在のトラフィック、CPU速度、ネットワーク接続タイプ)を考慮した時にダウンロード可能な最も高い解像度のバージョンがダウンロードされる。例えば、高トラフィック中には、このダウンロード可能な最も高い解像度が、利用可能な3番目に良好な解像度になることもある。いくつかの実施形態では、ユーザが見ている高解像度バージョンのシーン部分、及びユーザが見ていない低解像度バージョンのシーン部分をダウンロードする。ダウンロードするコンテンツ及びダウンロードするコンテンツの解像度は、ユーザが頭を動かした時に、及び/又はシーンが変化した時に変化する。いくつかの実施形態では、HMD又はその他の装置が、(例えば、画像/ビデオ上の座標、センサに基づく現在のHMDの方向、又は他のいずれかの方法を用いて)ユーザがどこを見ているかを特定し、ユーザの視野を満たす1又はそれ以上のスライスをダウンロードして表示する。例えば、ユーザの視野が約120度であり(これには程度の差があり、例えばユーザの視野は、180度又はそれ以上の場合もある)、各スライスが60度の視野範囲であると仮定すると、ユーザの視野内には2つのスライスが存在する。ユーザの視野内の2つのスライスは、高解像度コンテンツである。残りの240度(又は4つのスライス)は、ユーザの視野内に存在せず、従って低解像度コンテンツである。別の例では、ユーザの視野が180度であり、各スライスが60度の視野範囲である場合、ユーザの視野内には3つのスライスが存在し、これら3つのスライスは高解像度コンテンツであるが、残りの3つのスライスは低解像度コンテンツである。いくつかの実施形態では、ユーザの視野内のスライスが高解像度コンテンツであり、ユーザの視野のすぐ外側のスライスが中解像度コンテンツであり、ユーザの背後のスライスが低解像度コンテンツである。例えば、2つのスライス(ユーザの正面)が高解像度であり、2つのスライス(ユーザの両側又は2つの正面スライスの両側)が中解像度であり、2つのスライス(ユーザの背後)が低解像度である。ユーザは、ライブ選択的適応帯域幅方法を利用することによって高解像度(又は現在の状況に基づく最も高い可能/現実的な解像度)のコンテンツを視聴する。ユーザが頭を動かした場合、システムが適応して、その視覚範囲に高解像度コンテンツをダウンロードする。素早い動きでは、一時的に低解像度コンテンツが見られることもあるが、その後に高解像度コンテンツがダウンロードされて表示される。いくつかの実施形態では、ユーザが素早い動きを行った場合に現在見られていない高解像度コンテンツを先にダウンロードするバッファリングが実装される。いくつかの実施形態では、このバッファリングが、ユーザがいつ頭の向きを変えるかを予測する分析(例えば、ユーザ分析、内容分析)を用いて知的に行われる。例えば、ユーザがHMDを用いてフットボールの試合を見ているとした場合、キックオフ中には、ボールがあっという間に約80ヤード動くので、ユーザは比較的素早く頭部を旋回させることが普通であり、従って、(例えば、第1クオータ及び第3クオータの残り15分0秒では)この情報に基づいて、目に見える範囲以上のものを高解像度でダウンロードする。いくつかの実施形態では、より少ない又はさらなるステップが実行される。いくつかの実施形態では、ステップの順序が変更される。
この方法は、様々な異なる装置を用いて実施することができる。例えば、コンテンツの取得はカメラを用いて行われ、コンテンツの分離及び/又はスライスは、分離/スライス処理したコンテンツをオンラインサーバにアップロードする処理装置を用いて行われ(又はオンラインサーバがコンテンツを分離及び/又はスライス処理し)、オンラインサーバが、分離及び/又はスライス処理されたコンテンツをエンドユーザ装置(例えば、ゲーム機、HMD、パーソナルコンピュータ)に送信する。
図7は、いくつかの実施形態による、ライブ選択的適応帯域幅方法を実施するように構成された例示的なコンピュータ装置のブロック図である。コンピュータ装置700は、画像、ビデオ及び音声などの情報を取得し、記憶し、計算し、処理し、通信し、及び/又は表示するために使用することができる。一般に、コンピュータ装置700を実装するのに適したハードウェア構造は、ネットワークインターフェイス702、メモリ704、プロセッサ706、I/O装置708、バス710及び記憶装置712を含む。プロセッサの選択は、十分な速度の好適なプロセッサを選択する限り重要ではない。メモリ704は、当業で周知のいずれかの従来のコンピュータメモリとすることができる。記憶装置712は、ハードドライブ、CDROM、CDRW、DVD、DVDRW、高精細ディスク/ドライブ、ウルトラHDドライブ、フラッシュメモリカード、又はその他のいずれかの記憶装置を含むことができる。コンピュータ装置700は、1又はそれ以上のネットワークインターフェイス702を含むことができる。ネットワークインターフェイスの例としては、イーサネット又は他のタイプのLANに接続されたネットワークカードが挙げられる。(単複の)I/O装置708は、キーボード、マウス、モニタ、画面、プリンタ、モデム、タッチ画面、ボタンインターフェイス、及びその他の装置のうちの1つ又はそれ以上を含むことができる。ライブ選択的適応帯域幅方法を実施するために使用される(単複の)ライブ選択的適応帯域幅アプリケーション730は、記憶装置712及びメモリ704に記憶されて、アプリケーションが通常処理されるように処理される可能性が高い。コンピュータ装置700には、図7に示すものよりも多くの又は少ないコンポーネントを含めることができる。いくつかの実施形態では、ライブ選択的適応帯域幅ハードウェア720が含まれる。図7のコンピュータ装置700は、ライブ選択的適応帯域幅方法のためのアプリケーション730及びハードウェア720を含むが、ライブ選択的適応帯域幅方法は、ハードウェア、ファームウェア、ソフトウェア、又はこれらのあらゆる組み合わせでコンピュータ装置上に実装することもできる。例えば、いくつかの実施形態では、ライブ選択的適応帯域幅アプリケーション730がメモリにプログラムされ、プロセッサを用いて実行される。別の例として、いくつかの実施形態では、ライブ選択的適応帯域幅ハードウェア720が、ライブ選択的適応帯域幅方法を実施するように特別に設計されたゲートを含むプログラムされたハードウェアロジックである。
いくつかの実施形態では、(単複の)ライブ選択的適応帯域幅アプリケーション730が、複数のアプリケーション及び/又はモジュールを含む。いくつかの実施形態では、モジュールが、1又はそれ以上のサブモジュールをさらに含む。いくつかの実施形態では、より少ない又はさらなるモジュールを含めることができる。
好適なコンピュータ装置の例としては、HMD又はその他のVR装置、パーソナルコンピュータ、ラップトップコンピュータ、コンピュータワークステーション、サーバ、メインフレームコンピュータ、ハンドヘルドコンピュータ、携帯情報端末、セルラ/携帯電話機、スマート家電、ゲーム機、デジタルカメラ、デジタルカムコーダ、カメラ付き電話機、スマートフォン、ポータブル音楽プレーヤ、タブレットコンピュータ、モバイル装置、ビデオプレーヤ、ビデオディスクライタ/プレーヤ(DVDライタ/プレーヤ、高精細ディスクライタ/プレーヤ、超高精細ディスクライタ/プレーヤなど)、テレビ、家庭用エンターテイメントシステム、スマートジュエリ(例えば、スマートウォッチ)、玩具(例えば、動物のぬいぐるみ)、又はその他のあらゆる好適なコンピュータ装置が挙げられる。
図8に、いくつかの実施形態による、ライブ選択的適応帯域幅方法を実施するように構成された装置ネットワークを示す。装置ネットワーク800は、以下に限定されるわけではないが、カメラ装置(例えば、360度3Dカメラ)802、サーバ装置804、及びネットワーク808(例えば、インターネット)を介して結合されたVRヘッドセット付きゲーム機806(例えば、HMD)を含むあらゆる数の装置及びあらゆる様々な装置を含むことができる。ネットワーク810は、以下に限定されるわけではないが、インターネット、イントラネット、LAN/WAN/MAN、無線、有線、イーサネット、衛星、ネットワークの組み合わせ、又は他のいずれかの通信実装を含むあらゆるネットワークとすることができる。これらの装置は、ネットワーク810を介して互いに通信することも、又は互いに直接通信することもできる。これらの装置の1つ又はそれ以上は、エンドユーザ装置、企業装置、及び/又は別のエンティティの装置とすることができる。
ユーザは、ライブ選択的適応帯域幅方法を利用するためにVR装置を用いてコンテンツにアクセスし、このコンテンツが、ライブ選択的適応帯域幅方法を用いてユーザに提供され、可能な場合には高解像度で表示されるようになる。
ライブ選択的適応帯域幅方法は、その動作時に、ユーザが3D VR環境を楽しめるようにネットワークを介して大量のデータを送信して正しく表示することができる。
ライブ選択的適応帯域幅のいくつかの実施形態
1.装置の非一時的メモリにプログラムされた方法であって、
a.高品質成分と、高品質成分よりも低い低品質成分とを含む3次元360度バーチャルリアリティコンテンツを受け取るステップと、
b.3次元360度バーチャルリアリティコンテンツを表示するステップと、を含む方法。
2.高品質成分及び低品質成分は、各々がコンテンツのスライスを含む、条項1に記載の方法。
3.高品質成分は、ユーザが見ているコンテンツを含み、低品質成分は、ユーザが見ていないコンテンツを含む、条項1に記載の方法。
4.高品質成分及び低品質成分は、同じタイムコードで同期される、条項1に記載の方法。
5.3次元360度バーチャルリアリティコンテンツは、複数のコンテンツ品質を含み、コンテンツ品質は、可視領域及びネットワーク情報に基づいて選択される、条項1に記載の方法。
6.3次元360度バーチャルリアリティコンテンツは、複数のコンテンツ品質を含み、非可視領域のコンテンツ品質は、最も低い品質であり、可視領域のコンテンツ品質は、利用可能な残りのネットワーク帯域幅に基づく、条項1に記載の方法。
7.3次元360度バーチャルリアリティコンテンツは、複数の解像度及びビットレートのコンテンツを含む、条項1に記載の方法。
8.
a.
i.高品質成分と、高品質成分よりも低い低品質成分とを含む3次元360度バーチャルリアリティコンテンツを受け取り、
ii.3次元360度バーチャルリアリティコンテンツを表示する、
ためのアプリケーションを記憶する非一時的メモリと、
b.メモリに結合され、アプリケーションを処理するように構成された処理コンポーネントと、
を備えた装置。
9.高品質成分及び低品質成分は、各々がコンテンツのスライスを含む、条項8に記載の装置。
10.高品質成分は、ユーザが見ているコンテンツを含み、低品質成分は、ユーザが見ていないコンテンツを含む、条項8に記載の装置。
11.高品質成分及び低品質成分は、同じタイムコードで同期される、条項8に記載の装置。
12.3次元360度バーチャルリアリティコンテンツは、複数のコンテンツ品質を含み、コンテンツ品質は、可視領域及びネットワーク情報に基づいて選択される、条項8に記載の装置。
13.3次元360度バーチャルリアリティコンテンツは、複数のコンテンツ品質を含み、非可視領域のコンテンツ品質は、最も低い品質であり、可視領域のコンテンツ品質は、利用可能な残りのネットワーク帯域幅に基づく、条項8に記載の装置。
14.3次元360度バーチャルリアリティコンテンツは、複数の解像度及びビットレートのコンテンツを含む、条項8に記載の装置。
15.装置の非一時的メモリにプログラムされた方法であって、
a.複数の解像度の3次元360度バーチャルリアリティコンテンツを記憶するステップと、
b.3次元360度バーチャルリアリティコンテンツを、可視領域、非可視領域及びネットワーク情報に基づいて送信するステップと、
を含む方法。
16.複数の解像度の3次元360度バーチャルリアリティコンテンツは、高解像度コンテンツのスライスと、さらに低い低解像度コンテンツのスライスとを含む、条項15に記載の方法。
17.高解像度コンテンツ及び低解像度コンテンツは、同じタイムコードで同期される、条項16に記載の方法。
18.3次元360度バーチャルリアリティコンテンツを送信するステップは、可視領域のための高解像度コンテンツと、非可視領域のための低解像度コンテンツとを送信するステップを含む、条項15に記載の方法。
19.非可視領域のコンテンツの解像度は、最も低い解像度であり、可視領域のコンテンツの解像度は、利用可能な残りのネットワーク帯域幅に基づく、条項15に記載の方法。
20.ネットワーク情報は、ネットワーク速度及びネットワークトラフィックを含む、条項15に記載の方法。
21.
a.
i.複数の解像度の3次元360度バーチャルリアリティコンテンツを記憶し、
ii.3次元360度バーチャルリアリティコンテンツを、可視領域、非可視領域及びネットワーク情報に基づいて送信する、
ためのアプリケーションを記憶する非一時的メモリと、
b.モリに結合され、アプリケーションを処理するように構成された処理コンポーネントと、
を備えた装置。
22.複数の解像度の3次元360度バーチャルリアリティコンテンツは、高解像度コンテンツのスライスと、さらに低い低解像度コンテンツのスライスとを含む、条項21に記載の装置。
23.高解像度コンテンツ及び低解像度コンテンツは、同じタイムコードで同期される、条項22に記載の装置。
24.3次元360度バーチャルリアリティコンテンツを送信するステップは、可視領域のための高解像度コンテンツと、非可視領域のための低解像度コンテンツとを送信するステップを含む、条項21に記載の装置。
25.非可視領域のコンテンツの解像度は、最も低い解像度であり、可視領域のコンテンツの解像度は、利用可能な残りのネットワーク帯域幅に基づく、条項21に記載の装置。
26.ネットワーク情報は、ネットワーク速度及びネットワークトラフィックを含む、条項21に記載の装置。
本発明の構成及び動作の原理を容易に理解できるように、詳細を含む特定の実施形態に関して本発明を説明した。本明細書におけるこのような特定の実施形態及びこれらの実施形態の詳細についての言及は、本明細書に添付する特許請求の範囲を限定することを意図したものではない。当業者には、特許請求の範囲によって定められる本発明の思想及び範囲から逸脱することなく、例示のために選択した実施形態において他の様々な修正を行えることが容易に明らかになるであろう。

Claims (26)

  1. 装置の非一時的メモリにプログラムされた方法であって、
    a.高品質成分と、該高品質成分よりも低い低品質成分とを含む3次元360度バーチャルリアリティコンテンツを受け取るステップと、
    b.前記3次元360度バーチャルリアリティコンテンツを表示するステップと、
    を含むことを特徴とする方法。
  2. 前記高品質成分及び前記低品質成分は、各々が前記コンテンツのスライスを含む、
    請求項1に記載の方法。
  3. 前記高品質成分は、ユーザが見ているコンテンツを含み、前記低品質成分は、前記ユーザが見ていないコンテンツを含む、
    請求項1に記載の方法。
  4. 前記高品質成分及び前記低品質成分は、同じタイムコードで同期される、
    請求項1に記載の方法。
  5. 前記3次元360度バーチャルリアリティコンテンツは、複数のコンテンツ品質を含み、前記コンテンツ品質は、可視領域及びネットワーク情報に基づいて選択される、
    請求項1に記載の方法。
  6. 前記3次元360度バーチャルリアリティコンテンツは、複数のコンテンツ品質を含み、非可視領域の前記コンテンツ品質は、最も低い品質であり、可視領域の前記コンテンツ品質は、利用可能な残りのネットワーク帯域幅に基づく、
    請求項1に記載の方法。
  7. 前記3次元360度バーチャルリアリティコンテンツは、複数の解像度及びビットレートのコンテンツを含む、
    請求項1に記載の方法。
  8. a.
    i.高品質成分と、該高品質成分よりも低い低品質成分とを含む3次元360度バーチャルリアリティコンテンツを受け取り、
    ii.前記3次元360度バーチャルリアリティコンテンツを表示する、
    ためのアプリケーションを記憶する非一時的メモリと、
    b.前記メモリに結合され、前記アプリケーションを処理するように構成された処理コンポーネントと、
    を備えることを特徴とする装置。
  9. 前記高品質成分及び前記低品質成分は、各々が前記コンテンツのスライスを含む、
    請求項8に記載の装置。
  10. 前記高品質成分は、ユーザが見ているコンテンツを含み、前記低品質成分は、前記ユーザが見ていないコンテンツを含む、
    請求項8に記載の装置。
  11. 前記高品質成分及び前記低品質成分は、同じタイムコードで同期される、
    請求項8に記載の装置。
  12. 前記3次元360度バーチャルリアリティコンテンツは、複数のコンテンツ品質を含み、前記コンテンツ品質は、可視領域及びネットワーク情報に基づいて選択される、
    請求項8に記載の装置。
  13. 前記3次元360度バーチャルリアリティコンテンツは、複数のコンテンツ品質を含み、非可視領域の前記コンテンツ品質は、最も低い品質であり、可視領域の前記コンテンツ品質は、利用可能な残りのネットワーク帯域幅に基づく、
    請求項8に記載の装置。
  14. 前記3次元360度バーチャルリアリティコンテンツは、複数の解像度及びビットレートのコンテンツを含む、
    請求項8に記載の装置。
  15. 装置の非一時的メモリにプログラムされた方法であって、
    a.複数の解像度の3次元360度バーチャルリアリティコンテンツを記憶するステップと、
    b.前記3次元360度バーチャルリアリティコンテンツを、可視領域、非可視領域及びネットワーク情報に基づいて送信するステップと、
    を含むことを特徴とする方法。
  16. 前記複数の解像度の前記3次元360度バーチャルリアリティコンテンツは、高解像度コンテンツのスライスと、さらに低い低解像度コンテンツのスライスとを含む、
    請求項15に記載の方法。
  17. 前記高解像度コンテンツ及び前記低解像度コンテンツは、同じタイムコードで同期される、
    請求項16に記載の方法。
  18. 前記3次元360度バーチャルリアリティコンテンツを送信するステップは、前記可視領域のための高解像度コンテンツと、前記非可視領域のための低解像度コンテンツとを送信するステップを含む、
    請求項15に記載の方法。
  19. 前記非可視領域のコンテンツの解像度は、最も低い解像度であり、前記可視領域のコンテンツの解像度は、利用可能な残りのネットワーク帯域幅に基づく、
    請求項15に記載の方法。
  20. 前記ネットワーク情報は、ネットワーク速度及びネットワークトラフィックを含む、
    請求項15に記載の方法。
  21. a.
    i.複数の解像度の3次元360度バーチャルリアリティコンテンツを記憶し、
    ii.前記3次元360度バーチャルリアリティコンテンツを、可視領域、非可視領域及びネットワーク情報に基づいて送信する、
    ためのアプリケーションを記憶する非一時的メモリと、
    b.前記メモリに結合され、前記アプリケーションを処理するように構成された処理コンポーネントと、
    を備えることを特徴とする装置。
  22. 前記複数の解像度の前記3次元360度バーチャルリアリティコンテンツは、高解像度コンテンツのスライスと、さらに低い低解像度コンテンツのスライスとを含む、
    請求項21に記載の装置。
  23. 前記高解像度コンテンツ及び前記低解像度コンテンツは、同じタイムコードで同期される、
    請求項22に記載の装置。
  24. 前記3次元360度バーチャルリアリティコンテンツを送信するステップは、前記可視領域のための高解像度コンテンツと、前記非可視領域のための低解像度コンテンツとを送信するステップを含む、
    請求項21に記載の装置。
  25. 前記非可視領域のコンテンツの解像度は、最も低い解像度であり、前記可視領域のコンテンツの解像度は、利用可能な残りのネットワーク帯域幅に基づく、
    請求項21に記載の装置。
  26. 前記ネットワーク情報は、ネットワーク速度及びネットワークトラフィックを含む、
    請求項21に記載の装置。
JP2015230239A 2014-11-26 2015-11-26 ライブ選択的適応帯域幅 Pending JP2016105593A (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201462123778P 2014-11-26 2014-11-26
US62/123,778 2014-11-26
US14/940,089 2015-11-12
US14/940,089 US20160150212A1 (en) 2014-11-26 2015-11-12 Live selective adaptive bandwidth

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017251038A Division JP6436320B2 (ja) 2014-11-26 2017-12-27 ライブ選択的適応帯域幅

Publications (1)

Publication Number Publication Date
JP2016105593A true JP2016105593A (ja) 2016-06-09

Family

ID=56011517

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2015230239A Pending JP2016105593A (ja) 2014-11-26 2015-11-26 ライブ選択的適応帯域幅
JP2017251038A Active JP6436320B2 (ja) 2014-11-26 2017-12-27 ライブ選択的適応帯域幅

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2017251038A Active JP6436320B2 (ja) 2014-11-26 2017-12-27 ライブ選択的適応帯域幅

Country Status (3)

Country Link
US (1) US20160150212A1 (ja)
JP (2) JP2016105593A (ja)
CN (1) CN106713895A (ja)

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170048137A (ko) * 2016-07-05 2017-05-08 안규태 미디어 컨텐츠 송신 방법, 미디어 컨텐츠 송신 장치, 미디어 컨텐츠 수신 방법, 및 미디어 컨텐츠 수신 장치
KR20180028870A (ko) * 2016-09-09 2018-03-19 주식회사 케이티 고화질의 vr 컨텐츠의 스트리밍 제공 방법, 단말 및 서버
JP6322740B1 (ja) * 2017-03-07 2018-05-09 株式会社ドワンゴ 画像送信装置及び画像送信方法、並びに、画像受信装置及び画像受信方法
JP6342038B1 (ja) * 2017-05-26 2018-06-13 株式会社コロプラ 仮想空間を提供するためのプログラム、当該プログラムを実行するための情報処理装置、および仮想空間を提供するための方法
EP3383036A2 (en) 2017-01-12 2018-10-03 Sony Corporation Information processing device, information processing method, and program
WO2018182161A1 (ko) * 2017-03-28 2018-10-04 삼성전자 주식회사 3차원 이미지에 관한 데이터를 전송하기 위한 방법
WO2018216355A1 (ja) 2017-05-24 2018-11-29 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
KR101964126B1 (ko) * 2017-10-26 2019-04-01 주식회사 이누씨 고화질 동영상의 스트리밍 전송 장치 및 방법
KR20190050817A (ko) 2016-09-20 2019-05-13 캐논 가부시끼가이샤 정보 처리 디바이스 및 이를 제어하는 방법, 및 컴퓨터 프로그램
WO2019078580A3 (ko) * 2017-10-17 2019-06-13 삼성전자 주식회사 실감형 미디어를 전송하는 방법 및 장치
JP2019526994A (ja) * 2016-09-09 2019-09-19 ノキア テクノロジーズ オーユー オーディオビジュアルコンテンツの観察点および観察向きの制御された選択のための方法および装置
KR20190107666A (ko) * 2017-03-29 2019-09-20 엘지전자 주식회사 360 비디오를 전송하는 방법, 360 비디오를 수신하는 방법, 360 비디오 전송 장치, 360 비디오 수신 장치
JP2020522932A (ja) * 2017-06-02 2020-07-30 ヴィド スケール インコーポレイテッド 次世代ネットワークを介した360度ビデオ配信
US10791316B2 (en) 2017-03-28 2020-09-29 Samsung Electronics Co., Ltd. Method for transmitting data about three-dimensional image
US11044289B2 (en) 2017-03-09 2021-06-22 Canon Kabushiki Kaisha Sending device, receiving device, information processing method for sending or receiving content divided into segments using MPEG-DASH protocol
JP2022510193A (ja) * 2018-11-28 2022-01-26 カイ インコーポレイテッド 映像を処理する方法、映像を再生する方法及びその装置
JP7443536B2 (ja) 2020-04-10 2024-03-05 中興通訊股▲ふん▼有限公司 没入型のメディア処理におけるランク情報

Families Citing this family (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11287653B2 (en) 2015-09-09 2022-03-29 Vantrix Corporation Method and system for selective content processing based on a panoramic camera and a virtual-reality headset
US11108670B2 (en) 2015-09-09 2021-08-31 Vantrix Corporation Streaming network adapted to content selection
US10419770B2 (en) 2015-09-09 2019-09-17 Vantrix Corporation Method and system for panoramic multimedia streaming
US10694249B2 (en) * 2015-09-09 2020-06-23 Vantrix Corporation Method and system for selective content processing based on a panoramic camera and a virtual-reality headset
US10412438B2 (en) * 2016-03-14 2019-09-10 The Directv Group, Inc. Method and system for viewing sports content within a virtual reality environment
US9986221B2 (en) 2016-04-08 2018-05-29 Visbit Inc. View-aware 360 degree video streaming
GB201608886D0 (en) * 2016-05-20 2016-07-06 Nokia Technologies Oy Virtual reality display
WO2017205794A1 (en) * 2016-05-26 2017-11-30 Vid Scale, Inc. Methods and apparatus of viewport adaptive 360 degree video delivery
US11375284B2 (en) 2016-07-15 2022-06-28 Koninklijke Kpn N.V. Streaming virtual reality video
WO2018016879A1 (ko) * 2016-07-19 2018-01-25 한국전자통신연구원 360도 가상현실 방송 서비스 제공 방법 및 장치
US10931980B2 (en) * 2016-07-19 2021-02-23 Electronics And Telecommunications Research Institute Method and apparatus for providing 360 degree virtual reality broadcasting service
KR102525575B1 (ko) * 2016-08-12 2023-04-25 삼성전자주식회사 영상 표시 장치 및 그 동작 방법
CN107113404A (zh) * 2016-09-18 2017-08-29 深圳市大疆创新科技有限公司 在可穿戴设备与可移动物体中提供图像的方法和设备
CN106572353A (zh) * 2016-10-21 2017-04-19 上海拆名晃信息科技有限公司 用于虚拟现实的无线传输方法、装置、终端和头显设备
CN106792065A (zh) * 2016-12-14 2017-05-31 暴风集团股份有限公司 基于vr交互的视频直播方法和系统
US10863159B2 (en) * 2017-01-20 2020-12-08 Pcms Holdings, Inc. Field-of-view prediction method based on contextual information for 360-degree VR video
KR20180091381A (ko) 2017-02-06 2018-08-16 삼성전자주식회사 다면체에 기반한 vr 이미지를 제공하는 전자 장치 및 그 이미지의 제공 방법
US10979663B2 (en) * 2017-03-30 2021-04-13 Yerba Buena Vr, Inc. Methods and apparatuses for image processing to optimize image resolution and for optimizing video streaming bandwidth for VR videos
US11182639B2 (en) 2017-04-16 2021-11-23 Facebook, Inc. Systems and methods for provisioning content
EP3389281B1 (en) * 2017-04-16 2020-12-30 Facebook, Inc. Systems and methods for provisioning content
EP3389282B1 (en) * 2017-04-16 2020-05-13 Facebook, Inc. Systems and methods for provisioning content
TWI669657B (zh) * 2017-05-17 2019-08-21 宏碁股份有限公司 具自適性控制之主機、頭戴式顯示裝置、攜帶式裝置、虛擬實境系統及其控制方法
US9998664B1 (en) 2017-06-20 2018-06-12 Sliver VR Technologies, Inc. Methods and systems for non-concentric spherical projection for multi-resolution view
US10945141B2 (en) * 2017-07-25 2021-03-09 Qualcomm Incorporated Systems and methods for improving content presentation
WO2019117569A1 (en) 2017-12-14 2019-06-20 Samsung Electronics Co., Ltd. Method and apparatus for managing immersive data
US10623791B2 (en) 2018-06-01 2020-04-14 At&T Intellectual Property I, L.P. Field of view prediction in live panoramic video streaming
FI12136U1 (fi) * 2018-06-01 2018-09-14 Pauli Kari Musiikkiesitystä jakava järjestelmä
US10812774B2 (en) 2018-06-06 2020-10-20 At&T Intellectual Property I, L.P. Methods and devices for adapting the rate of video content streaming
US10573060B1 (en) * 2018-06-14 2020-02-25 Kilburn Live, Llc Controller binding in virtual domes
US10740957B1 (en) * 2018-06-14 2020-08-11 Kilburn Live, Llc Dynamic split screen
US10616621B2 (en) 2018-06-29 2020-04-07 At&T Intellectual Property I, L.P. Methods and devices for determining multipath routing for panoramic video content
US11019361B2 (en) 2018-08-13 2021-05-25 At&T Intellectual Property I, L.P. Methods, systems and devices for adjusting panoramic view of a camera for capturing video content
US10708494B2 (en) 2018-08-13 2020-07-07 At&T Intellectual Property I, L.P. Methods, systems and devices for adjusting panoramic video content
CN109120912B (zh) * 2018-09-30 2021-01-29 Oppo广东移动通信有限公司 一种数据处理方法、mec服务器、终端设备及装置
US11184461B2 (en) 2018-10-23 2021-11-23 At&T Intellectual Property I, L.P. VR video transmission with layered video by re-using existing network infrastructures
WO2020189817A1 (ko) * 2019-03-19 2020-09-24 전자부품연구원 타일 기반 스트리밍을 위한 분할영상 분산 디코딩 방법 및 시스템
CN110557625A (zh) * 2019-09-17 2019-12-10 北京达佳互联信息技术有限公司 虚拟形象直播方法、终端、计算机设备及存储介质
CN113453046B (zh) * 2020-03-24 2022-07-12 腾讯科技(深圳)有限公司 沉浸式媒体提供方法、获取方法、装置、设备及存储介质
KR102363144B1 (ko) * 2020-07-09 2022-02-14 동국대학교 경주캠퍼스 산학협력단 사용자의 네트워크 상태를 기반으로 가상 3d 객체를 모델링하는 방법 및 장치
US11893698B2 (en) * 2020-11-04 2024-02-06 Samsung Electronics Co., Ltd. Electronic device, AR device and method for controlling data transfer interval thereof
CN112804511B (zh) * 2021-01-04 2022-04-01 烽火通信科技股份有限公司 一种动态渲染全景视频的方法和装置
US11924393B2 (en) * 2021-01-22 2024-03-05 Valeo Comfort And Driving Assistance Shared viewing of video among multiple users
US11653047B2 (en) * 2021-07-29 2023-05-16 International Business Machines Corporation Context based adaptive resolution modulation countering network latency fluctuation
CN116828229B (zh) * 2023-08-30 2023-11-24 湖南马栏山视频先进技术研究院有限公司 一种用于音视频流的传输方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004004363A1 (ja) * 2002-06-28 2004-01-08 Sharp Kabushiki Kaisha 画像符号化装置、画像送信装置および画像撮影装置
JP2005210315A (ja) * 2004-01-21 2005-08-04 Sony Corp 映像配信システム
JP2005341076A (ja) * 2004-05-26 2005-12-08 Nippon Telegr & Teleph Corp <Ntt> 画像通信システム,通信会議システム,階層符号化装置,サーバ装置,画像通信方法,画像通信プログラムおよび画像通信プログラム記録媒体
WO2012039404A1 (ja) * 2010-09-24 2012-03-29 株式会社Gnzo 映像ビットストリームの伝送システム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020089587A1 (en) * 2000-05-18 2002-07-11 Imove Inc. Intelligent buffering and reporting in a multiple camera data streaming video system
US8233026B2 (en) * 2008-12-23 2012-07-31 Apple Inc. Scalable video encoding in a multi-view camera system
CN102263973B (zh) * 2011-06-30 2013-06-19 天津大学 一种基于移动终端的光栅视点自适应显示方法
EP2761877B8 (en) * 2011-09-29 2016-07-13 Dolby Laboratories Licensing Corporation Dual-layer frame-compatible full-resolution stereoscopic 3d video delivery
US9699437B2 (en) * 2014-03-03 2017-07-04 Nextvr Inc. Methods and apparatus for streaming content
CN104767992A (zh) * 2015-04-13 2015-07-08 北京集创北方科技有限公司 头戴式显示系统及影像低频宽传输方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004004363A1 (ja) * 2002-06-28 2004-01-08 Sharp Kabushiki Kaisha 画像符号化装置、画像送信装置および画像撮影装置
JP2005210315A (ja) * 2004-01-21 2005-08-04 Sony Corp 映像配信システム
JP2005341076A (ja) * 2004-05-26 2005-12-08 Nippon Telegr & Teleph Corp <Ntt> 画像通信システム,通信会議システム,階層符号化装置,サーバ装置,画像通信方法,画像通信プログラムおよび画像通信プログラム記録媒体
WO2012039404A1 (ja) * 2010-09-24 2012-03-29 株式会社Gnzo 映像ビットストリームの伝送システム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
井上 雅之 MASAYUKI INOUE: "インタラクティブ・パノラマ映像配信システムにおけるマルチ解像度配信方式の一検討 A Study on Multi-Res", 電子情報通信学会技術研究報告 VOL.110 NO.189 IEICE TECHNICAL REPORT, vol. 第110巻, JPN6016046268, 26 August 2010 (2010-08-26), JP, pages 41 - 46, ISSN: 0003453758 *

Cited By (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170048137A (ko) * 2016-07-05 2017-05-08 안규태 미디어 컨텐츠 송신 방법, 미디어 컨텐츠 송신 장치, 미디어 컨텐츠 수신 방법, 및 미디어 컨텐츠 수신 장치
KR101945082B1 (ko) * 2016-07-05 2019-02-01 안규태 미디어 컨텐츠 송신 방법, 미디어 컨텐츠 송신 장치, 미디어 컨텐츠 수신 방법, 및 미디어 컨텐츠 수신 장치
US11172005B2 (en) 2016-09-09 2021-11-09 Nokia Technologies Oy Method and apparatus for controlled observation point and orientation selection audiovisual content
KR20180028870A (ko) * 2016-09-09 2018-03-19 주식회사 케이티 고화질의 vr 컨텐츠의 스트리밍 제공 방법, 단말 및 서버
KR102228025B1 (ko) * 2016-09-09 2021-03-16 주식회사 케이티 고화질의 vr 컨텐츠의 스트리밍 제공 방법, 단말 및 서버
JP2019526994A (ja) * 2016-09-09 2019-09-19 ノキア テクノロジーズ オーユー オーディオビジュアルコンテンツの観察点および観察向きの制御された選択のための方法および装置
US10636115B2 (en) 2016-09-20 2020-04-28 Canon Kabushiki Kaisha Information processing apparatus, method for controlling the same, and storage medium
KR20190050817A (ko) 2016-09-20 2019-05-13 캐논 가부시끼가이샤 정보 처리 디바이스 및 이를 제어하는 방법, 및 컴퓨터 프로그램
EP3383036A2 (en) 2017-01-12 2018-10-03 Sony Corporation Information processing device, information processing method, and program
JP2018148443A (ja) * 2017-03-07 2018-09-20 株式会社ドワンゴ 画像送信装置及び画像送信方法、並びに、画像受信装置及び画像受信方法
JP6322740B1 (ja) * 2017-03-07 2018-05-09 株式会社ドワンゴ 画像送信装置及び画像送信方法、並びに、画像受信装置及び画像受信方法
US11044289B2 (en) 2017-03-09 2021-06-22 Canon Kabushiki Kaisha Sending device, receiving device, information processing method for sending or receiving content divided into segments using MPEG-DASH protocol
WO2018182161A1 (ko) * 2017-03-28 2018-10-04 삼성전자 주식회사 3차원 이미지에 관한 데이터를 전송하기 위한 방법
US10791316B2 (en) 2017-03-28 2020-09-29 Samsung Electronics Co., Ltd. Method for transmitting data about three-dimensional image
KR102277267B1 (ko) * 2017-03-29 2021-07-14 엘지전자 주식회사 360 비디오를 전송하는 방법, 360 비디오를 수신하는 방법, 360 비디오 전송 장치, 360 비디오 수신 장치
KR20190107666A (ko) * 2017-03-29 2019-09-20 엘지전자 주식회사 360 비디오를 전송하는 방법, 360 비디오를 수신하는 방법, 360 비디오 전송 장치, 360 비디오 수신 장치
US20190373245A1 (en) * 2017-03-29 2019-12-05 Lg Electronics Inc. 360 video transmission method, 360 video reception method, 360 video transmission device, and 360 video reception device
WO2018216355A1 (ja) 2017-05-24 2018-11-29 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
JP2018200557A (ja) * 2017-05-26 2018-12-20 株式会社コロプラ 仮想空間を提供するためのプログラム、当該プログラムを実行するための情報処理装置、および仮想空間を提供するための方法
JP6342038B1 (ja) * 2017-05-26 2018-06-13 株式会社コロプラ 仮想空間を提供するためのプログラム、当該プログラムを実行するための情報処理装置、および仮想空間を提供するための方法
JP7206341B2 (ja) 2017-06-02 2023-01-17 ヴィド スケール インコーポレイテッド 次世代ネットワークを介した360度ビデオ配信
JP2020522932A (ja) * 2017-06-02 2020-07-30 ヴィド スケール インコーポレイテッド 次世代ネットワークを介した360度ビデオ配信
JP7473693B2 (ja) 2017-06-02 2024-04-23 ヴィド スケール インコーポレイテッド 次世代ネットワークを介した360度ビデオ配信
JP2021185713A (ja) * 2017-06-02 2021-12-09 ヴィド スケール インコーポレイテッド 次世代ネットワークを介した360度ビデオ配信
US11770594B2 (en) 2017-06-02 2023-09-26 Vid Scale, Inc. 360-degree video delivery over next generation network
WO2019078580A3 (ko) * 2017-10-17 2019-06-13 삼성전자 주식회사 실감형 미디어를 전송하는 방법 및 장치
US11463673B2 (en) 2017-10-17 2022-10-04 Samsung Electronics Co., Ltd. Method and device for transmitting immersive media
KR101964126B1 (ko) * 2017-10-26 2019-04-01 주식회사 이누씨 고화질 동영상의 스트리밍 전송 장치 및 방법
JP2022510193A (ja) * 2018-11-28 2022-01-26 カイ インコーポレイテッド 映像を処理する方法、映像を再生する方法及びその装置
JP7443536B2 (ja) 2020-04-10 2024-03-05 中興通訊股▲ふん▼有限公司 没入型のメディア処理におけるランク情報

Also Published As

Publication number Publication date
US20160150212A1 (en) 2016-05-26
CN106713895A (zh) 2017-05-24
JP2018067966A (ja) 2018-04-26
JP6436320B2 (ja) 2018-12-12

Similar Documents

Publication Publication Date Title
JP6436320B2 (ja) ライブ選択的適応帯域幅
JP7157099B2 (ja) クライアント側のアセット統合を用いたクラウドゲームストリーミング
US20230403384A1 (en) Methods and apparatus for streaming content
JP6979035B2 (ja) 仮想現実メディアコンテンツのストリーミングを向上させる方法、デバイス及びコンピュータプログラム
US9682313B2 (en) Cloud-based multi-player gameplay video rendering and encoding
US20210354036A1 (en) Apparatus and method of video playback
US20140177905A1 (en) Methods and systems for customizing a plenoptic media asset
US11882188B2 (en) Methods and systems for maintaining smooth frame rate during transmission of streaming video content
US11373380B1 (en) Co-viewing in virtual and augmented reality environments
US11696001B2 (en) Enhanced immersive digital media
Podborski et al. Virtual reality and DASH
US20190075232A1 (en) Shared experiences in panoramic video
KR20210084248A (ko) Vr 컨텐츠 중계 플랫폼 제공 방법 및 그 장치
KR101922970B1 (ko) Vr 콘텐츠에 대한 라이브 스트리밍 방법 및 시스템
KR101915065B1 (ko) Vr 콘텐츠에 대한 라이브 스트리밍 시스템 및 그 시스템의 동작 방법
JP2016509486A (ja) ネットワークを介して送信するためのビデオゲーム画面画像の生成及び符号化を行う方法及びシステム
JP7083361B2 (ja) 画像処理装置およびシステム
US11695488B2 (en) ATSC over-the-air (OTA) broadcast of public volumetric augmented reality (AR)
Chapman et al. WITHDRAWN APPLICATION AS PER THE LATEST USPTO WITHDRAWN LIST
CA2798066A1 (en) Method and system of creating and encoding video game screen images for transmission over a network

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161020

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161205

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20170120

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170403

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20171002