JP6859286B2 - Vr映像配信装置および方法、vr映像再生装置および方法ならびにvr映像システム - Google Patents

Vr映像配信装置および方法、vr映像再生装置および方法ならびにvr映像システム Download PDF

Info

Publication number
JP6859286B2
JP6859286B2 JP2018058532A JP2018058532A JP6859286B2 JP 6859286 B2 JP6859286 B2 JP 6859286B2 JP 2018058532 A JP2018058532 A JP 2018058532A JP 2018058532 A JP2018058532 A JP 2018058532A JP 6859286 B2 JP6859286 B2 JP 6859286B2
Authority
JP
Japan
Prior art keywords
video
image
resolution
visual field
orientation information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018058532A
Other languages
English (en)
Other versions
JP2019169929A (ja
Inventor
福井 啓允
啓允 福井
内藤 整
整 内藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KDDI Corp
Original Assignee
KDDI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KDDI Corp filed Critical KDDI Corp
Priority to JP2018058532A priority Critical patent/JP6859286B2/ja
Publication of JP2019169929A publication Critical patent/JP2019169929A/ja
Application granted granted Critical
Publication of JP6859286B2 publication Critical patent/JP6859286B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、VR映像配信装置および方法、VR映像再生装置および方法ならびにVR映像システムに係り、特に、エンコーダの解像度が限られているなかで、視野移動時の視認性を確保しながら視野内を高解像化できるVR映像配信装置および方法、VR映像再生装置および方法ならびにVR映像システムに関する。
近年、次世代における高臨場感メディアの一つとしてVR映像が注目されている。VR映像とは、一般にHMD(ヘッドマウントディスプレイ、以下、クライアントと表現する場合もある)を装着したユーザに対して、頭の向きに合わせて360度の視野すべてを表示することができる映像形態である。クライアントの形態としては、PCと接続して利用する形態、スタンドアロンの専用端末を用いる形態およびスマートフォンを簡易なゴーグルに装着する形態などがある。
しかしながら、特にスマートフォンを利用する形態では、クライアントで360度コンテンツの高度なレンダリングができないため、サーバから映像を配信することでVR映像を視聴するシステムが検討されている。
VR映像の配信方式として、360度の視野を平面展開した2次元映像(以下、パノラマ映像)を配信する方式がある。パノラマ映像は、360度カメラの映像やCG(コンピュータグラフィクス)のような元となる3次元コンテンツから、特定の3次元視点位置の全周囲のデータを特定の3次元モデルに射影し、平面に展開することによって取得される2次元映像である。全周囲の情報を含むため、ユーザの視聴時の視野以外の情報も含む。
例えば、3次元視点位置を中心とする球面のデータを、Equirectangular projection (ERP、正距円筒図法)という射影形式に従って2次元映像に展開したものが該当する。クライアントは、パノラマ映像をデコードし、各フレームを射影形式に応じて球面に射影変換し、ユーザの向きに応じた視野映像を切り出して表示する。
一般的なクライアントは、二眼のVR映像の形式で表示する。これにより360度の映像表示を可能とする。なお、実際のアプリケーションでは、球面以外にも立方体や正八面体など複数の射影形式が利用されるが、ここでは平面に展開された映像をまとめてパノラマ映像と呼称する。
パノラマ映像を配信する方式は、360度の情報を全て送るため、ユーザが首を振って向きを変えたような場合にも遅延なく視野映像を表示することが可能である。
その一方、上述のような射影方式を用いるパノラマ映像では、ユーザの向きに依らず360度の情報を等しい品質で送るため、効率が悪いという問題がある。つまり、ユーザが見ていない向きの映像も配信され、帯域が不必要に多く消費され、全体の品質が低下する。
このような技術課題に対して、特許文献1では、パノラマ映像を予めスライス分割し、スライスごとに異なる解像度およびビットレートを設定し、ユーザの可視領域の品質を高くする一方、ユーザの非可視領域は低くすることで全体のビットレートを削減している。配信においては、ユーザの向きに基づいて可視・非可視領域を判定し、スライスごとの解像度およびビットレートを決定する。
非特許文献1では、パノラマ映像を予めHEVCにおけるmotion vector constraint付きのタイル分割によりエンコードしておき、さらにそれらを複数の解像度で生成しておく。上記のタイルは並列で配信・デコードが可能であるため、ユーザの向きに応じて必要なタイル部分だけを配信できる。そして、ユーザの視野を覆うタイルは高解像度のパノラマ映像から取得し、それ以外は低解像度のものを取得する。これによりユーザの見ている部分だけを高解像度で配信することが可能である。
特開2016-105593号公報
Robert Skupin, Yago Sanchez, Cornelius Hellge, Thomas Schierl, "Tile Based HEVC Video for Head Mounted Displays", ISM2016
特許文献1および非特許文献1では、パノラマ映像単位でのエンコードを行い、その後、パノラマ映像の一部を抽出する。これは、ユーザの可視領域のみを覆う映像であり、視野映像と呼ばれる。また、予めあらゆるユーザの可視領域に応じた視野映像をエンコードしておくこともできない。そのため、視野映像の解像度を上げるにはパノラマ映像単位で解像度を上げる必要がある。
しかしながら、エンコーダの最大解像度に上限がある場合、パノラマ映像の解像度が上限に達すると、視野映像の解像度をそれ以上に上げることができない。例えば、エンコーダの解像度が4Kまで対応している条件では、4Kパノラマ映像を生成すると2Kの視野映像を抽出できる。
その一方、同条件下で解像度を上げるには、(1) 領域は同じのまま4Kでエンコードする、(2) より狭い視野映像を抽出して2Kでエンコードする、がある。
本発明の目的は、上記の技術課題を解決し、ユーザが注視した領域にエンコード範囲を任意に絞ることで高解像化を実現するVR映像配信装置および方法、VR映像再生装置および方法ならびにVR映像システムを提供することにある。
上記の目的を達成するために、本発明は、以下の構成を具備した点に特徴がある。
(1) 本発明のVR映像配信装置は、三次元コンテンツからパノラマ画像を生成する手段と、パノラマ画像をエンコードして高解像パノラマ映像を生成する第1エンコーダと、パノラマ画像をエンコードして低解像パノラマ映像を生成する第2エンコーダと、VR映像を視聴するユーザの向き情報を取得する手段と、向き情報に基づいて前記高解像パノラマ映像から視野映像を切り出す手段と、前記向き情報に基づいて前記三次元コンテンツをエンコードし、前記視野映像よりも高解像の中心視野映像を生成する第3エンコーダと、前記低解像パノラマ映像ならびに前記視野映像および中心視野映像の少なくとも一方を選択的に配信する手段とを具備した。
(2) 前記選択的に配信する手段は、向き情報の統計値に基づいて映像を選択するようにした。
(3) 前記選択的に配信する手段が、低解像パノラマ映像および視野映像を配信する通常モード、低解像パノラマ映像、視野映像および中心視野映像を配信するハイブリッドモードならびに低解像パノラマ映像および中心視野映像を配信する注視モードを備え、視野の分布および移動速度の分布の少なくとも一方の分散値が小さいほど、モードを通常モードからハイブリッドモードへ切り換え、さらに注視モードへ切り換えるようにした。
(4) 第3エンコーダは、中心視野映像の配信時刻と低解像パノラマ映像の配信時刻とが同期するように、先行して三次元コンテンツをエンコードするようにした。
(5) 配信先の属性情報を取得する手段を更に具備し、前記選択的に配信する手段は、視野の分布および/または移動速度の分布の各分散値に基づいて動作モードを切り替える際の切り換え点を変更するようにした。
(6) 本発明のVR映像再生装置は、VR映像を視聴するユーザの向きを検知して向き情報を発生する手段と、前記向き情報をVR映像配信装置へ通知する手段と、VR映像配信装置が配信した低解像パノラマ映像ならびに視野映像および中心視野映像の少なくとも一方に基づいてVR映像を生成する手段とを具備した。
(7) 本発明のVR映像システムは、VR映像配信装置およびVR映像再生装置を含み、前記VR映像配信装置は、三次元コンテンツからパノラマ画像を生成する手段と、パノラマ画像をエンコードして高解像パノラマ映像を生成する第1エンコーダと、パノラマ画像をエンコードして低解像パノラマ映像を生成する第2エンコーダと、VR映像を視聴するユーザの向き情報を取得する手段と、前記向き情報に基づいて前記高解像パノラマ映像から視野映像を切り出す手段と、前記向き情報に基づいて前記三次元コンテンツをエンコードし、前記視野映像よりも高解像の中心視野映像を生成する第3エンコーダと、前記低解像パノラマ映像ならびに前記視野映像および中心視野映像の少なくとも一方を選択的に配信する手段とを具備した。
また、前記VR映像再生装置は、前記VR映像を視聴するユーザの向きを検知して向き情報を発生する手段と、前記向き情報をVR映像配信装置へ通知する手段と、VR映像配信装置が配信した低解像パノラマ映像ならびに視野映像および中心視野映像の少なくとも一方に基づいてVR映像を生成する手段とを具備した。
本発明によれば、以下のような効果が達成される。
(1) エンコーダの最大解像度でエンコードしたパノラマ映像から切り出した視野映像とは別に、三次元コンテンツから生成した中心視野画像を最大解像度でエンコードした中心視野映像を配信できるので、エンコーダの最大解像度を変更することなく、ユーザの視野に関して従来と同一解像度の視野映像のみならず、これよりも相対的に高解像の中心視野映像を配信できるようになる。
(2) ユーザの視野を代表する向き情報の統計値に基づいて、配信する映像やその組み合わせを切り換えるので、ユーザの向きおよびその変化に応じて最適な映像を配信できるようになる。
(3) リアルタイムでエンコードすることになる中心視野映像に関しては、そのレンダリングやエンコードに要する遅延時間分だけ先行してエンコードが実施されるので、中心視野映像の再生タイミングを視野映像やパノラマ映像の再生タイミングに同期させることができるようになる。
(4) 配信先の属性情報に基づいて、配信する映像やその組み合わせを切り換える際の切り換え点を変更するので、配信先の属性情報に応じた配信が可能になる。
本発明の一実施形態にかかるVR映像配信システムの機能ブロック図である。 視野の移動速度および分布に応じて配信モードが切り換わる例を示した図である。 中心視野映像の投機的配信の例を模式的に示した図である。 本実施形態における各映像の配信方法を模式的に示した図である。 各映像の再生形態を仮想的に示した図である。
以下、図面を参照して本発明の実施の形態について詳細に説明する。図1は、本発明の一実施形態に係るVR映像システムの主要部の構成を示した機能ブロック図であり、ここでは、本発明の説明に不要な構成は図示が省略されている。本発明のVR映像システムは、VR映像を配信するVR映像配信サーバ1と、視聴ユーザに装着されて前記VR映像を受信、再生するHMD等のクライアント2とを、ネットワークで接続して構成される。
VR映像配信サーバ1において、3次元コンテンツサーバ101には、360度カメラの映像やCGのような3次元コンテンツが蓄積されている。パノラマ画像生成部102は、特定の3次元視点位置の全周囲のデータを特定の3次元モデルに射影し、平面に展開することによってパノラマ画像を生成する。
第1エンコーダ103は、前記パノラマ画像を相対的に高解像でエンコードして高解像パノラマ映像VPHを生成する。本実施形態では、HEVCにおけるmotion vector 制約付きタイルで分割されたストリームが生成される。これにより、異なる位置にあるタイル同士で時間的な参照関係を持たないため、特定位置のタイルのみを独立でデコードすることが可能になる。
第2エンコーダ104は、前記パノラマ画像を相対的に低解像でエンコードして低解像パノラマ映像VPLを生成する。第2エンコーダ104では上記のようなタイル分割が不要である。これはクライアント2が向きを変えた場合に表示が遅延しないよう全天球の映像を送る場合があるためである。このように、本実施形態ではパノラマ映像VPに関して、タイル分割された高解像パノラマ映像VPHおよびタイル分割されていない低解像パノラマ映像VPLが生成される。
視野映像切出部105は、クライアント2から通知される、後に詳述する向き情報Idに基づいて、前記高解像パノラマ映像PVHの一部領域を視野映像VMとして切り出す。
中心視野画像生成部108は、クライアント2から通知される向き情報Idを分析し、3次元コンテンツに基づいて中心視野画像をリアルタイムでレンダリングする。第3エンコーダ106は、クライアントから取得した向き情報Idに基づいて、前記中心視野画像をリアルタイムでエンコードして相対的に高解像の中心視野映像VHを生成する。ここで、中心視野映像VHとは、前記視野映像VMと同一またはより狭い範囲を、画素密度がより高くなるようにエンコードして得られる高解像の映像である。
配信制御部107は、クライアント2から通知される向き情報Idの統計値(本実施形態では、視野の2次元分布および移動速度の分布の少なくとも一方)に基づいて、前記低解像パノラマ映像VPL、ならびに前記視野映像VMおよび中心視野映像VHの少なくとも一方を選択的にクライアント2へ配信する。
本実施形態では、配信制御部107が配信モードとして、低解像パノラマ映像VPLおよび視野映像VMを配信する通常モード107a、低解像パノラマ映像VPL、視野映像VMおよび中心視野映像VHを配信するハイブリッドモード107bならびに低解像パノラマ映像VPLおよび中心視野映像VHを配信する注視モード107cを備え、図2に示したように、視野移動速度の分布の分散値D1が小さいほど、および/または視野の分布の分散値D2が小さいほど、その配信モードを通常モード107aからハイブリッドモード107bへ切り換え、さらに注視モード107cへと切り換える。
例えば、前記各分散値D1,D2に関して第1閾値Ref1および第2閾値Ref2(Ref1>Ref1)がそれぞれ用意されており、分散値D1,D2が第1閾値Ref1よりも大きければ、通常モード107aが採用されて低解像パノラマ映像VPLおよび視野映像VMが配信される。また、Ref1≧D1,D2>Ref2であれば、ハイブリッドモード107bが採用されて低解像パノラマ映像VPL、視野映像VMおよび中心視野映像VHが配信される。さらに、Ref2>D1,D2であれば、注視モード107cが採用されて低解像パノラマ映像VPLおよび中心視野映像VHが配信される。
前記第1閾値Ref1および第2閾値Ref2は、ユーザの属性情報に基づいて変化するようにしても良い。例えばVR映像の配信サービスを有料で提供する場合、料金の高い契約をしているユーザに対しては、料金の低い契約をしているユーザよりも、前記第1閾値Ref1および第2閾値Ref2を相対的に高くすることで、ハイブリッドモード107bや注視モード107cの選択確率を高くしても良い。
配信制御部107の投機的配信実行部107dは、後述するクライアント2の遅延計測部204が通知する中心視野映像の配信遅延時間Δtだけ、当該中心視野映像VHのエンコードタイミングを投機的に前倒しする。
図3は、前記投機的配信実行部107dによる中心視野映像VHの投機的配信の例を模式的に示した図であり、予め生成されているパノラマ映像VPL等の配信時刻に対して、中心視野映像VHの配信時刻がΔ3tだけ遅延する場合、投機的配信実行部107dは第3エンコーダ106に対して、前記Δ3tだけ先行してデコードを指示する。すなわち、時刻2tにおいて時刻5tの中心視野画像に対するエンコードを指示する。
このとき、第3エンコーダ106は時刻2tでの向き情報Idに基づいて中心視野を選択するため、時刻5tにおける向きとの間にずれの生じる可能性がある。そこで、本実施形態では配信時刻tにおける向き情報Id_tと前記遅延時間Δ3tだけ前の向き情報Id_Δ3tとを比較し、両者の差分が所定の閾値を超える場合には中心視野映像VHを破棄するようにしている。
クライアント2において、視聴要求部201は、VR映像配信サーバ1へ視点情報又は再生時刻情報の記述された視聴要求を送信してVR映像配信サーバ1に所望のVR映像を配信させる。向き検知部202は、例えばジャイロセンサや加速度センサを備え、クライアント2を装着しているユーザの視線の向きおよび移動速度を検知する。視野情報計算部203は、向き検知部202が検知した向き情報Idの時系列に基づいて、視野の2次元分布および移動速度の2次元分布を計算し、この計算結果をVR映像配信サーバ1へ提供する。
第1映像合成部205は、VR映像配信サーバ1が通常モードで配信する低解像パノラマ映像VPLと視野映像VMとを合成し、その合成映像を出力する。デコーダ206は、前記合成映像および中心視野映像VHをそれぞれデコードする。第2映像合成部207は、前記合成映像および中心視野映像VHのデコード画像を取得すると、前記向き情報Idに応じて、現在のクライアント2の向きと時刻とに合う中心視野画像VHを前記合成映像に更に重畳する。
本実施形態では、第2映像合成部207が2つのフレームバッファを備え、その一方は向き情報Idに応じて前記合成画像を全天球面に射影し、他方は中心視野画像VHを視線正面の平面に射影する。射影は対応座標をOpenGLで記述できる。VR映像再生部208は、合成されたVR映像を再生する。
遅延計算部204は、前記向き情報Idに記述されている時刻情報と、配信サーバ1が配信する中心視野映像VHに記述されている時刻情報とを比較して中心視野映像の遅延時間Δtを計算し、これを配信サーバ1へ通知する。
図4は、本実施形態における各映像の配信方法を模式的に示した図であり、図5は、各映像の再生形態を仮想的に示した図である。ここでは、低解像パノラマ映像VPLとして2K解像度のパノラマ映像、視野映像VMとして2K解像度相当の映像、中心視野映像VHとして2K解像度相当または4K解像度相当の映像が配信される場合を例にして説明する。
通常モードでは、パノラマ画像から低解像エンコードにより生成された2kパノラマ映像と、パノラマ画像から高解像エンコードにより生成された4kパノラマ映像から前記向き情報Idに基づいて切り出された2k視野映像が配信される。したがって、クライアント(HMD)2では図5(a)に示したように、解像度が視野では4kパノラマ相当、視野以外では2Kパノラマ相当のVR映像を視聴できるようになる。
注視モードでは、前記2k視野映像に代えて、前記視野映像VMと同じ範囲を4k解像度でエンコードした4k中心視野映像が配信される。したがって、クライアント2では図5(b)に示したように、解像度が視野では8kパノラマ相当、視野以外では2Kパノラマ相当のVR映像を視聴できるようになる。
ハイブリッドモードでは、前記2Kパノラマ映像および2K視野映像、ならびに前記視野映像VMよりも更に狭い範囲を2k解像度でエンコードした2k中心視野映像が配信される。したがって、クライアント2では図5(c)に示したように、解像度が視野の中心部では8Kパノラマ相当、中心部以外の視野では4Kパノラマ相当、視野以外で2Kパノラマ相当のVR映像を視聴できるようになる。
なお、エンコード範囲が狭くなり、クライアント2の物理的なppiを超える場合にも、内部解像度の増加による解像度感の向上が図れる。
1…VR映像配信サーバ,2…クライアント,101…3次元コンテンツサーバ,102…パノラマ画像生成部,103…第1エンコーダ,104…第2エンコーダ,105…視野映像切出部,106…第3エンコーダ,107…配信制御部,107d…投機的配信実行部,108…中心視野画像生成部,201…視聴要求部,202…向き検知部,203…視野情報計算部,204…遅延計算部,205…第1映像合成部,206…デコーダ,207…第2映像合成部,208…VR映像再生部

Claims (14)

  1. 三次元コンテンツからパノラマ画像を生成する手段と、
    前記パノラマ画像をエンコードして高解像パノラマ映像を生成する第1エンコーダと、
    前記パノラマ画像をエンコードして低解像パノラマ映像を生成する第2エンコーダと、
    映像を視聴するユーザの向き情報を取得する手段と、
    前記向き情報に基づいて前記高解像パノラマ映像から視野映像を切り出す手段と、
    前記向き情報に基づいて前記三次元コンテンツをエンコードし、前記視野映像よりも高解像の中心視野映像を生成する第3エンコーダと、
    前記低解像パノラマ映像ならびに前記視野映像および中心視野映像の少なくとも一方を選択的に配信する手段とを具備したことを特徴とするVR映像配信装置。
  2. 前記選択的に配信する手段は、前記向き情報の統計値に基づいて映像を選択することを特徴とする請求項1に記載のVR映像配信装置。
  3. 前記統計値が、視野の分布および移動速度の分布の少なくとも一方であることを特徴とする請求項2に記載のVR映像配信装置。
  4. 前記選択的に配信する手段が、
    低解像パノラマ映像および視野映像を配信する通常モード、低解像パノラマ映像、視野映像および中心視野映像を配信するハイブリッドモードならびに低解像パノラマ映像および中心視野映像を配信する注視モードを備え、
    前記視野の分布および移動速度の分布の少なくとも一方の分散値が小さいほど、配信モードを通常モードからハイブリッドモードへ切り換え、さらに注視モードへ切り換えることを特徴とする請求項3に記載のVR映像配信装置。
  5. 前記中心視野映像の範囲が、ハイブリッドモードでは注視モードよりも狭いことを特徴とする請求項4に記載のVR映像配信装置。
  6. 前記第3エンコーダは、中心視野映像の配信時刻と低解像パノラマ映像の配信時刻とが同期するように、先行して三次元コンテンツをエンコードすることを特徴とする請求項1ないし5のいずれかに記載のVR映像配信装置。
  7. 前記先行して三次元コンテンツをエンコードした際の向き情報と配信時の向き情報との差が所定の閾値を超えていると当該先行してエンコードした中心視野映像を破棄することを特徴とする請求項6に記載のVR映像配信装置。
  8. 前記選択的に配信する手段は、前記視野の分布および/または移動速度の分布の各分散値に基づいて動作モードを切り替える際の切り換え点を配信先の属性情報に基づいて変更することを特徴とする請求項4に記載のVR映像配信装置。
  9. 配信されたVR映像を再生するVR映像再生装置において、
    VR映像を視聴するユーザの向きを検知して向き情報を発生する手段と、
    前記向き情報をVR映像配信装置へ通知する手段と、
    前記VR映像配信装置が前記向き情報に応じて選択的に配信する、三次元コンテンツのパノラマ画像をエンコードして生成された相対的に低解像の低解像パノラマ映像、三次元コンテンツのパノラマ画像をエンコードして生成された相対的に高解像の高解像パノラマ映像から前記向き情報に基づいて切り出した視野映像および前記向き情報に基づいて三次元コンテンツをエンコードすることで生成されて前記視野映像よりも高解像の中心視野映像を受信する手段と、
    前記低解像パノラマ映像ならびに視野映像および中心視野映像の少なくとも一方に基づいてVR映像を生成する手段とを具備したことを特徴とするVR映像再生装置。
  10. 前記向き情報の時系列に基づいて、ユーザの視野の分布および移動速度の分布の少なくとも一方の分散を計算して前記VR映像配信装置へ通知する手段をさらに具備したことを特徴とする請求項9に記載のVR映像再生装置。
  11. 前記向き情報に記述された時刻情報と前記中心視野映像に記述された時刻情報とに基づいて当該中心視野映像の遅延時間を計算し、前記VR映像配信装置へ通知する手段をさらに具備したことを特徴とする請求項9または10に記載のVR映像再生装置。
  12. VR映像を配信するVR映像配信装置および当該配信されたVR映像を再生するVR映像再生装置を含むVR映像システムにおいて、
    前記VR映像配信装置が、
    三次元コンテンツからパノラマ画像を生成する手段と、
    前記パノラマ画像をエンコードして高解像パノラマ映像を生成する第1エンコーダと、
    前記パノラマ画像をエンコードして低解像パノラマ映像を生成する第2エンコーダと、
    映像を視聴するユーザの向き情報を取得する手段と、
    前記向き情報に基づいて前記高解像パノラマ映像から視野映像を切り出す手段と、
    前記向き情報に基づいて前記三次元コンテンツをエンコードし、前記視野映像よりも高解像の中心視野映像を生成する第3エンコーダと、
    前記低解像パノラマ映像ならびに前記視野映像および中心視野映像の少なくとも一方を選択的に配信する手段とを具備し、
    前記VR映像再生装置が、
    前記VR映像を視聴するユーザの向きを検知して向き情報を発生する手段と、
    前記向き情報をVR映像配信装置へ通知する手段と、
    VR映像配信装置が配信した低解像パノラマ映像ならびに視野映像および中心視野映像の少なくとも一方に基づいてVR映像を生成する手段とを具備したことを特徴とするVR映像システム。
  13. コンピュータがVR映像を配信する方法において、
    三次元コンテンツからパノラマ画像を生成し、
    パノラマ画像をエンコードして高解像パノラマ映像を生成し、
    パノラマ画像をエンコードして低解像パノラマ映像を生成し、
    VR映像を視聴するユーザの向き情報を取得し、
    前記向き情報に基づいて前記高解像パノラマ映像から視野映像を切り出し、
    前記向き情報に基づいて前記三次元コンテンツをエンコードし、前記視野映像よりも高解像の中心視野映像を生成し、
    前記低解像パノラマ映像ならびに前記視野映像および中心視野映像の少なくとも一方を選択的に配信することを特徴とするVR映像配信方法。
  14. コンピュータが配信されたVR映像を再生するVR映像再生方法において、
    VR映像を視聴するユーザの向きを検知して向き情報を発生し、
    前記向き情報をVR映像配信装置へ通知し、
    前記VR映像配信装置が前記向き情報に応じて選択的に配信する、三次元コンテンツのパノラマ画像をエンコードして生成された相対的に低解像の低解像パノラマ映像、三次元コンテンツのパノラマ画像をエンコードして生成された相対的に高解像の高解像パノラマ映像から前記向き情報に基づいて切り出した視野映像および前記向き情報に基づいて三次元コンテンツをエンコードすることで生成されて前記視野映像よりも高解像の中心視野映像を受信し、
    前記低解像パノラマ映像ならびに視野映像および中心視野映像の少なくとも一方に基づいてVR映像を生成することを特徴とするVR映像再生方法。
JP2018058532A 2018-03-26 2018-03-26 Vr映像配信装置および方法、vr映像再生装置および方法ならびにvr映像システム Active JP6859286B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018058532A JP6859286B2 (ja) 2018-03-26 2018-03-26 Vr映像配信装置および方法、vr映像再生装置および方法ならびにvr映像システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018058532A JP6859286B2 (ja) 2018-03-26 2018-03-26 Vr映像配信装置および方法、vr映像再生装置および方法ならびにvr映像システム

Publications (2)

Publication Number Publication Date
JP2019169929A JP2019169929A (ja) 2019-10-03
JP6859286B2 true JP6859286B2 (ja) 2021-04-14

Family

ID=68107612

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018058532A Active JP6859286B2 (ja) 2018-03-26 2018-03-26 Vr映像配信装置および方法、vr映像再生装置および方法ならびにvr映像システム

Country Status (1)

Country Link
JP (1) JP6859286B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111131879A (zh) * 2019-12-30 2020-05-08 歌尔股份有限公司 视频数据播放方法、装置及计算机可读存储介质
US20230300309A1 (en) * 2020-09-23 2023-09-21 Sony Group Corporation Information processing device, information processing method, and information processing system

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6075889B2 (ja) * 2014-06-10 2017-02-08 日本電信電話株式会社 映像配信装置及び映像再生装置
JP7022077B2 (ja) * 2016-05-25 2022-02-17 コニンクリーケ・ケイピーエヌ・ナムローゼ・フェンノートシャップ 空間的にタイリングされた全方位ビデオのストリーミング
JP2019521587A (ja) * 2016-05-26 2019-07-25 ヴィド スケール インコーポレイテッド ビューポート適応360度映像配信の方法および装置
JP2018011198A (ja) * 2016-07-13 2018-01-18 日本電信電話株式会社 映像符号化装置、映像符号化方法及び映像符号化プログラム
JP2018026677A (ja) * 2016-08-09 2018-02-15 日本電信電話株式会社 符号化装置、符号化方法及び符号化プログラム

Also Published As

Publication number Publication date
JP2019169929A (ja) 2019-10-03

Similar Documents

Publication Publication Date Title
JP7029562B2 (ja) コンテンツを提供及び表示するための装置及び方法
US11924394B2 (en) Methods and apparatus for receiving and/or using reduced resolution images
US20210409672A1 (en) Methods and apparatus for receiving and/or playing back content
EP3459252B1 (en) Method and apparatus for spatial enhanced adaptive bitrate live streaming for 360 degree video playback
KR20170008725A (ko) 콘텐트를 스트리밍하기 위한 방법들 및 장치
US11252391B2 (en) Methods and apparatus for packing images into a frame and/or including additional content or graphics
EP3857898B1 (en) Apparatus and method for generating and rendering a video stream
WO2018221211A1 (ja) 画像処理装置および方法、ファイル生成装置および方法、並びにプログラム
JP6859286B2 (ja) Vr映像配信装置および方法、vr映像再生装置および方法ならびにvr映像システム
KR20210072086A (ko) 정보 처리 시스템, 정보 처리 방법, 및 저장 매체
KR20190129865A (ko) 정보 처리 장치 및 정보 처리 방법, 그리고 프로그램
KR101922970B1 (ko) Vr 콘텐츠에 대한 라이브 스트리밍 방법 및 시스템
JPWO2019004073A1 (ja) 画像配置決定装置、表示制御装置、画像配置決定方法、表示制御方法及びプログラム
WO2019142658A1 (ja) 画像処理装置および方法、並びにプログラム
WO2022065040A1 (ja) 情報処理装置、情報処理方法、および情報処理システム
WO2018178510A2 (en) Video streaming
WO2018165223A1 (en) Methods and apparatus for packing images into a frame and/or including additional content or graphics

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201028

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201118

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201224

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210317

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210325

R150 Certificate of patent or registration of utility model

Ref document number: 6859286

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150