JP7223106B2 - 仮想現実メディアコンテンツを適応ストリーミングする方法、デバイス及びコンピュータプログラム - Google Patents

仮想現実メディアコンテンツを適応ストリーミングする方法、デバイス及びコンピュータプログラム Download PDF

Info

Publication number
JP7223106B2
JP7223106B2 JP2021201712A JP2021201712A JP7223106B2 JP 7223106 B2 JP7223106 B2 JP 7223106B2 JP 2021201712 A JP2021201712 A JP 2021201712A JP 2021201712 A JP2021201712 A JP 2021201712A JP 7223106 B2 JP7223106 B2 JP 7223106B2
Authority
JP
Japan
Prior art keywords
media data
media
descriptor
projection
panoramic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021201712A
Other languages
English (en)
Other versions
JP2022031346A (ja
Inventor
ジョナサン タケ
フランク ドゥヌアル
ナエル ウエドラオゴ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Publication of JP2022031346A publication Critical patent/JP2022031346A/ja
Application granted granted Critical
Publication of JP7223106B2 publication Critical patent/JP7223106B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/44029Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display for generating different versions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/23439Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements for generating different versions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/235Processing of additional data, e.g. scrambling of additional data or processing content descriptors
    • H04N21/2353Processing of additional data, e.g. scrambling of additional data or processing content descriptors specifically adapted to content descriptors, e.g. coding, compressing or processing of metadata
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/262Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists
    • H04N21/26258Content or additional data distribution scheduling, e.g. sending additional data at off-peak times, updating software modules, calculating the carousel transmission frequency, delaying a video stream transmission, generating play-lists for generating a list of items to be played back in a given order, e.g. playlist, or scheduling item distribution according to such list
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/435Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream
    • H04N21/4353Processing of additional data, e.g. decrypting of additional data, reconstructing software from modules extracted from the transport stream involving decryption of additional data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/60Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client 
    • H04N21/63Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
    • H04N21/637Control signals issued by the client directed to the server or network components
    • H04N21/6373Control signals issued by the client directed to the server or network components for rate control, e.g. request to the server to modify its transmission rate
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Library & Information Science (AREA)
  • Theoretical Computer Science (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)
  • Processing Or Creating Images (AREA)
  • Studio Devices (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

本発明は、ビデオストリーミングの技術分野に関し、より具体的には、例えばhttpプロトコルを使用するインターネットなどのIPネットワークにおいて、仮想現実メディアコンテンツを適応ストリーミングする方法、デバイス及びコンピュータプログラムに関する。
メディアプレゼンテーションは通常、オーディオ及びビデオなどの幾つかのメディアコンテンツから構成される。これらのメディアコンテンツは、クライアントデバイスによって協働して再生されるようにサーバからクライアントに送信され得る。
ユーザの体験を向上し、特に没入型体験を提供するために、ビデオ、さらにはオーディオも全方向性(又は多方向若しくは多指向性)とされ得る。360度パノラマビデオとして知られるビデオに適用する場合、ユーザは表示されているシーンに置かれているように感じる。
全方向性ビデオは、360度カメラから取得されてもよいし、及び/又は全てのカメラが共通の節点を持つように、例えば特別なリグに取り付けられた幾つかのカメラから取得されたビデオストリームの画像を合成することによって取得されてもよい。このような画像の合成は、イメージスティッチング又はカメラスティッチングとして知られる。
このような全方向性ビデオは、ヘッドマウントディスプレイを介して、又はユーザを囲む湾曲したスクリーンへの投影によってレンダリングされ得る。また、全方向性ビデオにパンニングするナビゲーションメニューをユーザインターフェースに有する従来の2Dスクリーン上に表示されてもよい。これは、ユーザが仮想世界にいるように感じるため、仮想現実(VR)といわれることが多い。仮想オブジェクトが全方向性ビデオに付加される場合、それは拡張現実(AR)といわれる。
図1aに、サーバからクライアントへ全方向性メディアを撮像、送信及びレンダリングするデータフローの一例を示す。
図示のように、このメディアは、カメラシステム100から取得され、サーバ110,クライアント115及びネットワーク120を介してヘッドマウントディスプレイ(HMD)に送信されるビデオコンテンツを有する。
説明のために、使用されるカメラシステムは、立方体の各面に対応付けられた6台の標準カメラのセットに基づく。それは、カメラシステムを囲む現実のシーンを表示する画像を取得するのに使用される。表示125に示すように、この配置によれば、1台のカメラが正面(前面)画像を、1台のカメラが背面(後面)画像を、1台のカメラが左面画像を、1台のカメラが右面画像を、1台のカメラが底面画像を、1台のカメラが上面画像を提供する。
カメラシステム100から取得された画像は、全方向性ビデオストリーム又は仮想現実メディアデータストリームともいわれる360ビデオストリームを作成するようにサーバ110において処理される(ステップ130)。仮想現実メディアデータストリームは、図1cにおけるパノラマ画像ストリーム190のようなパノラマ画像のストリーム、すなわち、360度画像のストリーム又は標準ビデオストリームのストリーム、例えばカメラ100の各カメラから取得されたビデオストリームの1つのストリームであってもよい。
処理のタイプは、作成される仮想現実メディアデータストリームのタイプに依存する。例えば、仮想現実メディアデータストリームがパノラマ画像のストリームの場合にはスティッチングするステップ、仮想現実メディアデータストリームがビデオストリームのストリーム(すなわちスティッチング可能な画像のストリーム)の場合にはマッピングするステップを有する。後者の場合、画像のスティッチングは、画像をレンダリングするクライアント端で行われてもよい。
シーンのワイドビュー、例えば水平及び垂直次元の両方において360度の視野を考慮すると、図1bの符号180に示すように、ワイドビューのパノラマ画像は、1つのイメージセンサ又はイメージセンサのセットによって2D画像上に撮像されたこのワイドビューの投影(撮像投影と記す)に対応する。したがって、撮像投影方式は、各パノラマ画像に関連付けられ、例えば記録されたシーンにおける適切な比率を保持する。特に、使用される撮像投影方式は、現実を反映しなくてもよく、むしろワイドビューの(例えばステレオ投影http://en.wikipedia.orf/wiki/Stereographic_projectionに基づく「小さな惑星」の写真効果のような)芸術的表示であってもよい。
なお、360°の視野は、水平面に沿った360°の視野及び垂直面に沿った360°の視野に対応する実際の360°の視野であってもよいし、例えば水平面に沿った360°の視野及び垂直面に沿った210°以下の視野に対応する疑似360°の視野であってもよい。例えば、水平次元における180°のパノラマも、没入型の体験を作成するために視野が人間の目の視野以上に大きいと直ちにワイドビューとみなすことができる。360°の視野又は360°のビデオという用語は、一般的に、記録されたシーンが実世界のシーケンス又は合成シーケンスのいずれかに対応する場合に使用される。
説明のために、カメラ100から取得された画像は、パノラマ表示135(又は図1cのパノラマ画像ストリーム190)で示すように、連続するパノラマ画像のセットを備える仮想現実メディアデータストリームを作成するように合成される。
仮想現実メディアデータストリームが作成された後、ステップ140でビデオビットストリームに符号化され、ステップ141でファイル又はセグメントファイルにパッケージ化(又はカプセル化)され、クライアント115にネットワーク120を介して、例えばhttp(HyperTextTransferProtocol)プロトコルを使用するインターネットを介して送信される。説明のために、パッケージ化は、ビデオビットストリームのISOBMFFへのカプセル化を含んでいてもよい。得られたファイル又はセグメントファイルは、mp4ファイル又はmp4セグメントであってもよい。パッケージングの間に、ビデオ又はオーディオストリームに情報を提供するメタデータトラックと同様に、オーディオストリームはビデオビットストリームに付加されてもよい。
ここでは、メディアデータストリームに関する記述的メタデータ及びタイミング情報を提供する任意のパッケージング又はカプセル化フォーマットが使用され得る。例えば、これらのフォーマットは、MPEG-2トランスポートストリーム、コモンメディアアプリケーションフォーマット、WebM、及びストリーミングクライアントがメディアデータの最適なバージョンを選択するのに役立つように記述的な情報が抽出可能な任意のフォーマットであればよい。
受信すると、パッケージングされた仮想現実メディアファイル又はメディアセグメントは、ステップ145で復号されるデータストリームを抽出するようにステップ142中にパージングされる。ステップ142でISOBMFFファイル又はセグメントが受信される場合、パージングは、典型的には、記述的メタデータからビデオビットストリーム又はビデオサブビットストリームを抽出できるmp4リーダ又はmp4パーサによって対応される。図示の例によれば、復号されたパノラマ画像のパノラマ表示135’は、パノラマ表示135に対応する。
次に、復号された仮想現実メディアデータストリームはビデオレンダリングのために処理される(ステップ150)。なお、ビデオレンダリングは、ユーザの視点、撮影点、及びパノラマ画像を生成するのに使用された投影のうちの幾つかのパラメータに依存する。レンダリング表示155に示すように、ビデオをレンダリングするステップは、復号されたパノラマ画像を再投影するステップを備える。そのような再投影(レンダリング投影と記す)から取得された画像は、HMD105に表示される。
立体視に対応するために、図1aを参照して説明した処理を複製してもよい。
なお、ここでは幾つかの仮想現実メディアデータストリームの標準が存在し(例えばISO/IEC23000-19)、パノラマ画像を作成するのに使用される投影は、一般的に以下のものである(非限定リストである)。
-球体
-楕円体
-立方体
-円筒体
-角錐体及び
-なし
使用された投影のタイプに依存して、実際のシーンの現実の座標とパノラマ画像の2D座標との間に数学的関係が存在する。実際、そのような投影は、1以上の基準点から(球体、楕円体、立方体、円筒体又は角錐体の形状をとり得る)周囲の表面上に表示されるべきシーンの投影である。シーンが投影されるこの表面は、ビデオレンダリングを単純化するために、例えば符号135で示す正距円筒表示のような中間表示に再マッピングされてもよい。
なお、レンダリング投影は、図1dに示すように、そのシーンが投影される表面におけるシーンのワイドビューの観察方向に対応する視点に依存する。視点は、基準点と共に、基準枠又は基準ビューを定義する。それは(図1eに描写されるように)ヨー値、ピッチ値及びロール値によって定義可能であり、(例えばデフォルトの視点に対応する)絶対基準枠を考慮した基準枠の回転パラメータに対応している。典型的には、HMDシステムにおいては、ヨー角は頭部の左から右又は右から左への回転に対応し、ピッチ角は上から下又は下から上への回転に対応し、ロールは視野方向軸の周りの頭部の回転(傾斜)に対応する。
球体型投影又は楕円体型投影の場合、2Dパノラマ投影の中心点は、典型的には、基準点(例えば図1bの球体180の中心181)に向かって、(例えば(x、y、z)右手座標系におけるz軸に沿う)仰角の向きとして定義される主視点の向きに沿った投影に対応する。また、視点は、球体の極を特定することも可能とする。
同様に、立方体型投影については、視点により空間における立方体の位置が特定でき、それゆえ立方体の正面の位置(典型的には主視点の向きに沿った基準点の投影に対応する中心)並びに立方体の上、底、左、右及び背面が特定できる。
なお、ここでもパノラマ画像は、図1cの符号191に示すようにパノラマ領域から構成されてもよく、各領域は特定の投影に対応する。各領域は、画素の集合である。その形状は矩形であっても矩形でなくてもよい。一部の投影は、画素の不連続マップを生成し得る。例えば、立方体の投影は、立方体の1面に各々対応する6個の投影領域に分割され得る。
図2a、2b及び2cからなる図2は立方体の投影に基づく幾つかの領域を備えるパノラマ表示の一例を示し、各領域は1つの表面の投影に関連付けられる。
図2aに、投影画像を表示する表面が図2bに示すパノラマ表示上にマッピングされる立方体の6面を示す。
パノラマ表示200は、示されるように(1)から(6)で示される6個のパノラマ領域を備え、
-符号(1)は、立方体の正面(前面)における正面図の投影に対応し、
-符号(2)は、立方体の上面における上面図の投影に対応し、
-符号(3)は、立方体の底面における底面図の投影に対応し、
-符号(4)は、立方体の左面における左面図の投影に対応し、
-符号(5)は、立方体の右面における右面図の投影に対応し、
-符号(6)は、立方体の背面(後面)における背面図の投影に対応する。
したがって、この投影によれば、パノラマ画像の各領域は、立方体の1表面に対応するので、正面図、上面図、底面図、左面図、右面図及び背面図の視野のうちの1つのユーザの視野に対応する。
パノラマ画像の2つの特定の領域を使用して、立体視像の各ビューを表示することも可能となり(すなわち、1つの領域は左ビューに対応し、別の領域は別のビューに対応する)、各領域は、異なる基準点に基づく同一の、例えば各目に対して1つのパノラマ投影の結果となる。
図2cに示すように、1以上の領域はサブ領域に分割されて、例えばこれらのサブ領域にアクセスできるように(レンダリング中にこれらのエリアを拡大することを可能とするように)してもよい。説明のために、正面又は領域210を9つのサブ領域又は空間部若しくは部分に分割する。パノラマ画像で提供する空間アクセスの粒度の決定は、コンテンツ作成者又はプロバイダ次第である。
これまでに、UHD(超高精細)ビデオストリームの幾つかの画像を仮想現実メディアデータストリームのパノラマ画像にスティッチングすると、非常に高いビットレート及び非常に高解像度の仮想現実メディアデータストリームが得られることが観察されている。したがって、システムの観点から、帯域幅の浪費を回避し、クライアントプレーヤの処理能力に従った状態とするために、仮想現実メディアデータへのアクセスを最適化する必要がある。
このような仮想現実メディアデータストリームを図1を参照して説明した目的とは別の目的で使用し得る必要性は、さらに重要である。特に、仮想現実メディアデータストリームは、360°のプロジェクタアレイのような特定のディスプレイでの360°画像を表示するために使用することができる。また、特定の視野を表示し、並びに/又は視線、視野及び視点を変更するのにも使用可能である。
本発明は、前述の事項のうちの1以上に対応するために考案されたものである。
これに関連して、例えばhttpプロトコルを使用するインターネットのようなIPネットワークを介する仮想現実メディアコンテンツの適応ストリーミングに関する解決策が提供される。
本発明の第1の目的によれば、シーンのワイドビューの撮像投影を表示するメディアデータをサーバから受信する方法が提供され、受信されたメディアデータは、ワイドビューの少なくとも一部を3D幾何学的表示面にレンダリングすること、又はワイドビューの少なくとも一部を少なくとも2つの異なる視点による表示面にレンダリングすることを可能とし、レンダリングは、ワイドビューの少なくとも一部の撮像投影を表示するメディアデータの少なくとも1つのレンダリング投影を備え、方法はクライアントにおいて実行され、
ワイドビューの撮像投影を表示するメディアデータの情報を備える記述ファイルをサーバから受信するステップであって、その情報はメディアデータを生成するためのワイドビューの撮像に関する記述的情報を備える、ステップ、
記述ファイルに基づいて少なくとも1つのメディアデータストリームを要求するための少なくとも1つの要求メッセージをサーバに送信するステップ、及び、
少なくとも1つの要求メッセージに応じて、少なくとも1つの要求されたメディアデータストリームに対応するメディアデータをサーバから受信するステップ
を備える。
したがって、本発明の方法は、要求されたデータのみ、特に要求するクライアントの特性に対応する品質のメディアデータが送信されるので仮想現実メディアデータの送信を最適化することができ、高解像度の画像に対処できるので品質を向上させることができ、送信されるべきデータの制御がクライアントによって行われるのでサーバ端での拡張性を保持することができる。また、本発明の方法によれば、クライアントは、少ないリソースしか必要としない。
一実施形態では、メディアデータを生成するワイドビューの撮像に関する記述的情報は、撮像投影に関連する。
一実施形態では、記述的情報は、少なくとも部分的に少なくとも1つのディスクリプタ内に提供される。
一実施形態では、ワイドビューの撮像投影を表示するメディアデータは画像を備え、画像のうち少なくとも1つはパノラマ画像であり、パノラマ画像は単一のパノラマ領域若しくは複数のパノラマを有し、又は異なるパノラマ領域の集合である。
一実施形態では、記述的情報は、少なくとも1つの特定のディスクリプタ内に少なくとも部分的に提供され、1つの特定のディスクリプタは1つのパノラマ画像又は1つのパノラマ領域に関連付けられる。
一実施形態では、撮像投影は少なくとも1つの所定のタイプを有する幾何学的投影であり、パノラマ領域は幾何学的投影の少なくとも1つの所定のタイプの関数として特定される。
一実施形態では、記述的情報は、少なくとも1つのディスクリプタ又は特定のディスクリプタ内であって、受信したメディアデータのレンダリングを可能としながら当該ディスクリプタ又は特定のディスクリプタ内の記述的情報に対応するメディアデータがクライアントによって破棄され得るかをシグナリングするシグナリング情報に関連付けられた少なくとも1つのディスクリプタ又は特定のディスクリプタ内に、少なくとも部分的に提供される。
一実施形態では、記述的情報は、メディアデータに関するリソースを識別する情報を備える。
一実施形態では、撮像投影は少なくとも1つの所定のタイプを有し、記述ファイルは少なくとも1つの所定のタイプの撮像投影を備える。
一実施形態では、少なくとも1つの所定のタイプの撮像投影は、球体型、楕円体型、立方体型、円筒型及び角錐型の幾何学的投影の少なくとも1つである。
一実施形態では、記述ファイルは撮像投影のパラメータをさらに備え、撮像投影のパラメータは視点パラメータを備える。
一実施形態では、識別された定義されたディスクリプタ又は特定のディスクリプタに関連付けられたパラメータがメディアデータの異なる部分を記述するのに使用され得るように、識別子は少なくとも1つの定義されたディスクリプタ又は特定のディスクリプタに関連付けられる。
一実施形態では、ワイドビューの撮像投影を表示するメディアデータは画像を備え、少なくとも1つの画像は少なくとも1つの領域を備え、少なくとも1つの領域はディスクリプタの属性として定義される。
一実施形態では、識別情報、投影のタイプ、視点、投影識別子及び領域を備えるリストのうちの少なくとも1つの項目は、ディスクリプタ又は特定のディスクリプタの属性又は要素であり、少なくとも1つの項目は記述的情報の一部である。
一実施形態では、撮像投影は少なくとも1つの所定のタイプを有し、ディスクリプタ又は特定のディスクリプタの属性又は要素の値は撮像投影の少なくとも1つの所定のタイプについて予め決定される。
一実施形態では、記述ファイルは少なくとも1つの空間的関係性の記述をさらに備え、少なくとも1つの空間的関係性の記述はパノラマ画像の少なくとも一部内の関心領域を定義し、又はパノラマ画像の領域を定義する。
一実施形態では、パノラマ画像の第1の領域の第1の撮像投影に関する記述的情報は、少なくとも1つの空間的関係性の記述の関数としてパノラマ画像の第2の領域をレンダリングするために使用される。
一実施形態では、記述的情報は、空間的関係性の記述の関数としてメディアデータに関するリソースを識別するための情報を備える。
一実施形態では、ワイドビューの撮像投影を表示するメディアデータは、スティッチング可能な画像の集合を備え、記述的情報にはいずれの特定のタイプの撮像投影も備えない。
一実施形態では、ワイドビューの撮像投影を表示するメディアデータは画像を備え、少なくとも1つの画像は同一の立体視の2つの画像に対応する少なくとも2つの異なる領域を備える。
一実施形態では、ワイドビューの撮像投影を表示するメディアデータは画像を備え、少なくとも1つの画像は全方向性のパノラマ画像である。
一実施形態では、記述ファイルは、httpプロトコルを介する動的適応ストリーミングのメディアプレゼンテーション記述である。
本発明の第2の目的によれば、シーンのワイドビューの撮像投影を表示するメディアデータをサーバからクライアントにストリーミングする方法が提供され、ストリーミングされるメディアデータは、クライアントがワイドビューの少なくとも一部を3D幾何学的表示面上にレンダリングすること、又はワイドビューの少なくとも一部を少なくとも2つの異なる視点による表示面上にレンダリングすることを可能とし、レンダリングはワイドビューの少なくとも一部の撮像投影を表示するメディアデータの少なくとも1つのレンダリング投影を備え、方法はサーバにおいて実行され、
ワイドビューの撮像投影を表示するメディアデータについての情報を備える記述ファイルをクライアントに送信するステップであって、その情報はメディアデータを生成するためのワイドビューの撮像に関する記述的情報を備える、ステップ、
記述ファイルに基づいて少なくとも1つのメディアデータストリームを要求するための少なくとも1つの要求メッセージをクライアントから受信するステップ、及び、
少なくとも1つの要求メッセージに応じて、少なくとも1つの要求されたメディアデータストリームに対応するメディアデータをクライアントに送信するステップ
を備える。
したがって、本発明の方法は、要求されたデータのみ、特に要求するクライアントの特性に対応する品質のメディアデータが送信されるので仮想現実メディアデータの送信を最適化することができ、高解像度の画像に対処できるので品質を向上させることができ、送信されるべきデータの制御がクライアントによって行われるのでサーバ端での拡張性を保持することができる。また、本発明の方法によれば、クライアントは、少ないリソースしか必要としない。
一実施形態では、メディアデータを生成するワイドビューの撮像に関する記述的情報は、撮像投影に関連する。
一実施形態では、記述的情報は、少なくとも部分的に少なくとも1つのディスクリプタ内に提供される。
一実施形態では、ワイドビューの撮像投影を表示するメディアデータは画像を備え、画像のうち少なくとも1つはパノラマ画像であり、パノラマ画像は単一のパノラマ領域若しくは複数のパノラマ領域を有し、又は異なるパノラマ領域の集合である。
一実施形態では、記述的情報は、少なくとも1つの特定のディスクリプタ内に少なくとも部分的に提供され、1つの特定のディスクリプタは1つのパノラマ画像又は1つのパノラマ領域に関連付けられる。
一実施形態では、撮像投影は少なくとも1つの所定のタイプを有する幾何学的投影であり、パノラマ領域は幾何学的投影の少なくとも1つの所定のタイプの関数として特定される。
一実施形態では、記述的情報は、少なくとも1つのディスクリプタ又は特定のディスクリプタ内であって、受信したメディアデータのレンダリングを可能としながら当該ディスクリプタ又は特定のディスクリプタ内の記述的情報に対応するメディアデータがクライアントによって破棄され得るかをシグナリングするシグナリング情報に関連付けられた少なくとも1つのディスクリプタ又は特定のディスクリプタ内に、少なくとも部分的に提供される。
一実施形態では、記述的情報は、メディアデータに関するリソースを識別する情報を備える。
一実施形態では、撮像投影は少なくとも1つの所定のタイプを有し、記述ファイルは少なくとも1つの所定のタイプの撮像投影を備える。
一実施形態では、少なくとも1つの所定のタイプの撮像投影は、球体型、楕円体型、立方体型、円筒型及び角錐型の幾何学的投影の少なくとも1つである。
一実施形態では、記述ファイルは撮像投影のパラメータをさらに備え、撮像投影のパラメータは視点パラメータを備える。
一実施形態では、識別された定義されたディスクリプタ又は特定のディスクリプタに関連付けられたパラメータがメディアデータの異なる部分を記述するのに使用され得るように、識別子は少なくとも1つの定義されたディスクリプタ又は特定のディスクリプタに関連付けられる。
一実施形態では、ワイドビューの撮像投影を表示するメディアデータは画像を備え、少なくとも1つの画像は少なくとも1つの領域を備え、少なくとも1つの領域はディスクリプタの属性として定義される。
一実施形態では、識別情報、投影のタイプ、視点、投影識別子及び領域を備えるリストのうちの少なくとも1つの項目は、ディスクリプタ又は特定のディスクリプタの属性又は要素であり、少なくとも1つの項目は記述的情報の一部である。
一実施形態では、撮像投影は少なくとも1つの所定のタイプを有し、ディスクリプタ又は特定のディスクリプタの属性又は要素の値は撮像投影の少なくとも1つの所定のタイプについて予め決定される。
一実施形態では、記述ファイルは少なくとも1つの空間的関係性の記述をさらに備え、少なくとも1つの空間的関係性の記述はパノラマ画像の少なくとも一部内の関心領域を定義するか、又はパノラマ画像の領域を定義する。
一実施形態では、パノラマ画像の第1の領域の第1の撮像投影に関する記述的情報は、少なくとも1つの空間的関係性の記述の関数として、パノラマ画像の第2の領域をレンダリングするために使用される。
一実施形態では、記述的情報は、空間的関係性の記述の関数としてメディアデータに関するリソースを識別するための情報を備える。
一実施形態では、ワイドビューの撮像投影を表示するメディアデータは、スティッチング可能な画像の集合を備え、記述的情報にはいずれの特定のタイプの撮像投影も備えない。
一実施形態では、ワイドビューの撮像投影を表示するメディアデータは画像を備え、少なくとも1つの画像は同一の立体視の2つの画像に対応する少なくとも2つの異なる領域を備える。
一実施形態では、ワイドビューの撮像投影を表示するメディアデータは画像を備え、少なくとも1つの画像は全方向性のパノラマ画像である。
一実施形態では、記述ファイルは、httpプロトコルを介する動的適応ストリーミングのメディアプレゼンテーション記述である。
本発明の第3の目的によれば、サーバからシーンのワイドビューの撮像投影を表示するメディアデータをサーバから受信するためのクライアントに対するデバイスが提供され、受信されるメディアデータは、ワイドビューの少なくとも一部を3D幾何学的表示面にレンダリングすること、又はワイドビューの少なくとも一部を少なくとも2つの異なる視点による表示面にレンダリングすることを可能とし、レンダリングはワイドビューの少なくとも一部の撮像投影を表示するメディアデータの少なくとも1つのレンダリング投影を備え、
ワイドビューの撮像投影を表示するメディアデータに関する情報を備える記述ファイルをサーバから受信するステップであって、その情報はメディアデータを生成するためのワイドビューの撮像に関する記述的情報を備える、ステップ、
記述ファイルに基づいて少なくとも1つのメディアデータストリームを要求するための少なくとも1つの要求メッセージをサーバに送信するステップ、及び、
少なくとも1つの要求メッセージに応じて、少なくとも1つの要求されたメディアデータストリームに対応するメディアデータをサーバから受信するステップ
を実行するように構成されたマイクロプロセッサを備える。
したがって、本発明のデバイスは、要求されたデータのみ、特に要求するクライアントの特性に対応する品質のメディアデータが送信されるので仮想現実メディアデータの送信を最適化することができ、高解像度の画像に対応できるので品質を向上させることができ、送信されるべきデータの制御がクライアントによって行われるのでサーバ端での拡張性を保持することができる。また、本発明のデバイスによれば、クライアントは、少ないリソースしか必要としない。
一実施形態では、マイクロプロセッサは、メディアデータを生成するワイドビューの撮像に関する記述的情報が撮像投影に関連するようにさらに構成される。
一実施形態では、マイクロプロセッサは、記述的情報が少なくとも部分的に少なくとも1つのディスクリプタ内に提供されるようにさらに構成される。
一実施形態では、マイクロプロセッサは、ワイドビューの撮像投影を表示するメディアデータが画像を備え、画像のうち少なくとも1つはパノラマ画像であり、パノラマ画像は単一のパノラマ領域若しくは複数のパノラマを有し、又は異なるパノラマ領域の集合となるようにさらに構成される。
一実施形態では、マイクロプロセッサは、記述的情報が少なくとも1つの特定のディスクリプタ内に少なくとも部分的に提供され、1つの特定のディスクリプタは1つのパノラマ画像又は1つのパノラマ領域に関連付けられるようにさらに構成される。
一実施形態では、マイクロプロセッサは、撮像投影が少なくとも1つの所定のタイプを有する幾何学的投影であり、パノラマ領域は幾何学的投影の少なくとも1つの所定のタイプの関数として特定されるようにさらに構成される。
一実施形態では、マイクロプロセッサは、少なくとも1つのディスクリプタ又は特定のディスクリプタ内であって、受信したメディアデータのレンダリングを可能としながら当該ディスクリプタ又は特定のディスクリプタ内の記述的情報に対応するメディアデータがクライアントによって破棄され得るかをシグナリングするシグナリング情報に関連付けられた少なくとも1つのディスクリプタ又は特定のディスクリプタ内に記述的情報が少なくとも部分的に提供されるようにさらに構成される。
一実施形態では、マイクロプロセッサは、記述的情報がメディアデータに関するリソースを識別する情報を備えるようにさらに構成される。
一実施形態では、マイクロプロセッサは、撮像投影が少なくとも1つの所定のタイプを有し、記述ファイルが少なくとも1つの所定のタイプの撮像投影を備えるように、さらに構成される。
一実施形態では、マイクロプロセッサは、少なくとも1つの所定のタイプの撮像投影が球体型、楕円体型、立方体型、円筒型及び角錐型の幾何学的投影の少なくとも1つとなるようにさらに構成される。
一実施形態では、マイクロプロセッサは、記述ファイルが撮像投影のパラメータをさらに備え、撮像投影のパラメータが視点パラメータを備えるようにさらに構成される。
一実施形態では、マイクロプロセッサは、識別子が少なくとも1つの定義されたディスクリプタ又は特定のディスクリプタに関連付けられて、識別された定義されたディスクリプタ又は特定のディスクリプタに関連付けられたパラメータがメディアデータの異なる部分を記述するのに使用され得るように、さらに構成される。
一実施形態では、マイクロプロセッサは、ワイドビューの撮像投影を表示するメディアデータが画像を備え、少なくとも1つの画像が少なくとも1つの領域を備え、少なくとも1つの領域がディスクリプタの属性として定義されるようにさらに構成される。
一実施形態では、マイクロプロセッサは、識別情報、投影のタイプ、視点、投影識別子及び領域を備えるリストのうちの少なくとも1つの項目がディスクリプタ又は特定のディスクリプタの属性又は要素であり、少なくとも1つの項目が記述的情報の一部となるようにさらに構成される。
一実施形態では、マイクロプロセッサは、撮像投影が少なくとも1つの所定のタイプを有し、ディスクリプタ若しくは特定のディスクリプタの属性又は要素の値は撮像投影の少なくとも1つの所定のタイプについて予め決定されるようにさらに構成される。
一実施形態では、マイクロプロセッサは、記述ファイルが少なくとも1つの空間的関係性の記述をさらに備え、少なくとも1つの空間的関係性の記述がパノラマ画像の少なくとも一部内の関心領域を定義し、又はパノラマ画像の領域を定義するようにさらに構成される。
一実施形態では、マイクロプロセッサは、パノラマ画像の第1の領域の第1の撮像投影に関する記述的情報が少なくとも1つの空間的関係性の記述の関数として、パノラマ画像の第2の領域をレンダリングするために使用されるようにさらに構成される。
一実施形態では、マイクロプロセッサは、記述的情報が空間的関係性の記述の関数としてメディアデータに関するリソースを識別するための情報を備えるようにさらに構成される。
一実施形態では、マイクロプロセッサは、ワイドビューの撮像投影を表示するメディアデータがスティッチング可能な画像の集合を備え、記述的情報にはいずれの特定のタイプの撮像投影も備えないようにさらに構成される。
一実施形態では、マイクロプロセッサは、ワイドビューの撮像投影を表示するメディアデータが画像を備え、少なくとも1つの画像が同一の立体視の2つの画像に対応する少なくとも2つの異なる領域を備えるようにさらに構成される。
一実施形態では、マイクロプロセッサは、ワイドビューの撮像投影を表示するメディアデータが画像を備え、少なくとも1つの画像が全方向性のパノラマ画像であるようにさらに構成される。
一実施形態では、マイクロプロセッサは、記述ファイルがhttpプロトコルを介する動的適応ストリーミングのメディアプレゼンテーション記述であるようにさらに構成される。
本発明の第4の目的によれば、シーンのワイドビューの撮像投影を表示するメディアデータをサーバからクライアントへストリーミングするためのサーバに対するデバイスが提供され、ストリーミングされるメディアデータはクライアントがワイドビューの少なくとも一部を3D幾何学的表示面にレンダリングすること又はワイドビューの少なくとも一部を少なくとも2つの異なる視点による表示面にレンダリングすることを可能とし、レンダリングはワイドビューの少なくとも一部の撮像投影を表示するメディアデータの少なくとも1つのレンダリング投影を備え、
ワイドビューの撮像投影を表示するメディアデータの情報を備える記述ファイルをクライアントに送信するステップであって、情報はメディアデータを生成するためのワイドビューの撮像に関する記述的情報を備える、ステップ、
記述ファイルに基づいて少なくとも1つのメディアデータストリームを要求するための少なくとも1つの要求メッセージをクライアントから受信するステップ、及び
少なくとも1つの要求メッセージに応じて、少なくとも1つの要求されたメディアデータストリームに対応するメディアデータをクライアントに送信するステップ
を実行するように構成されたマイクロプロセッサを備える。
したがって、本発明のデバイスは、要求されたデータのみ、特に要求するクライアントの特性に対応する品質のメディアデータが送信されるので仮想現実メディアデータの送信を最適化することができ、高解像度の画像に対応できるので品質を向上させることができ、送信されるべきデータの制御がクライアントによって行われるのでサーバ端での拡張性を保持することができる。また、本発明のデバイスによれば、クライアントは、少ないリソースしか必要としない。
一実施形態では、マイクロプロセッサは、メディアデータを生成するワイドビューの撮像に関する記述的情報が撮像投影に関連するようにさらに構成される。
一実施形態では、記述的情報は、少なくとも部分的に少なくとも1つのディスクリプタ内に提供される。
一実施形態では、マイクロプロセッサは、ワイドビューの撮像投影を表示するメディアデータが画像を備え、画像のうち少なくとも1つはパノラマ画像であり、パノラマ画像は単一のパノラマ領域若しくは複数のパノラマを有し、又は異なるパノラマ領域の集合となるようにさらに構成される。
一実施形態では、マイクロプロセッサは、記述的情報が少なくとも1つの特定のディスクリプタ内に少なくとも部分的に提供され、1つの特定のディスクリプタは1つのパノラマ画像又は1つのパノラマ領域に関連付けられるようにさらに構成される。
一実施形態では、マイクロプロセッサは、撮像投影が少なくとも1つの所定のタイプを有する幾何学的投影であり、パノラマ領域は幾何学的投影の少なくとも1つの所定のタイプの関数として特定されるようにさらに構成される。
一実施形態では、マイクロプロセッサは、少なくとも1つのディスクリプタ又は特定のディスクリプタ内であって、受信したメディアデータのレンダリングを可能としながら当該ディスクリプタ又は特定のディスクリプタ内の記述的情報に対応するメディアデータがクライアントによって破棄され得るかをシグナリングするシグナリング情報に関連付けられた少なくとも1つのディスクリプタ又は特定のディスクリプタ内に記述的情報が少なくとも部分的に提供されるようにさらに構成される。
一実施形態では、マイクロプロセッサは、記述的情報がメディアデータに関するリソースを識別する情報を備えるようにさらに構成される。
一実施形態では、マイクロプロセッサは、撮像投影が少なくとも1つの所定のタイプを有し、記述ファイルが少なくとも1つの所定のタイプの撮像投影を備えるように、さらに構成される。
一実施形態では、マイクロプロセッサは、少なくとも1つの所定のタイプの撮像投影が球体型、楕円体型、立方体型、円筒型及び角錐型の幾何学的投影の少なくとも1つとなるようにさらに構成される。
一実施形態では、マイクロプロセッサは、記述ファイルが撮像投影のパラメータをさらに備え、撮像投影のパラメータが視点パラメータを備えるようにさらに構成される。
一実施形態では、マイクロプロセッサは、識別子が少なくとも1つの定義されたディスクリプタ又は特定のディスクリプタに関連付けられて、識別された定義されたディスクリプタ又は特定のディスクリプタに関連付けられたパラメータがメディアデータの異なる部分を記述するのに使用され得るように、さらに構成される。
一実施形態では、マイクロプロセッサは、ワイドビューの撮像投影を表示するメディアデータが画像を備え、少なくとも1つの画像が少なくとも1つの領域を備え、少なくとも1つの領域がディスクリプタの属性として定義されるようにさらに構成される。
一実施形態では、マイクロプロセッサは、識別情報、投影のタイプ、視点、投影識別子及び領域を備えるリストのうちの少なくとも1つの項目がディスクリプタ又は特定のディスクリプタの属性又は要素であり、少なくとも1つの項目が記述的情報の一部となるようにさらに構成される。
一実施形態では、マイクロプロセッサは、撮像投影が少なくとも1つの所定のタイプを有し、ディスクリプタ又は特定のディスクリプタの属性又は要素の値が撮像投影の少なくとも1つの所定のタイプについて予め決定されるようにさらに構成される。
一実施形態では、マイクロプロセッサは、記述ファイルが少なくとも1つの空間的関係性の記述をさらに備え、少なくとも1つの空間的関係性の記述がパノラマ画像の少なくとも一部内の関心領域を定義し、又はパノラマ画像の領域を定義するようにさらに構成される。
一実施形態では、マイクロプロセッサは、パノラマ画像の第1の領域の第1の撮像投影に関する記述的情報が少なくとも1つの空間的関係性の記述の関数として、パノラマ画像の第2の領域をレンダリングするために使用されるようにさらに構成される。
一実施形態では、マイクロプロセッサは、記述的情報が空間的関係性の記述の関数としてメディアデータに関するリソースを識別するための情報を備えるようにさらに構成される。
一実施形態では、マイクロプロセッサは、ワイドビューの撮像投影を表示するメディアデータがスティッチング可能な画像の集合を備え、記述的情報にはいずれの特定のタイプの撮像投影も備えないようにさらに構成される。
一実施形態では、マイクロプロセッサは、ワイドビューの撮像投影を表示するメディアデータが画像を備え、少なくとも1つの画像が同一の立体視の2つの画像に対応する少なくとも2つの異なる領域を備えるようにさらに構成される。
一実施形態では、マイクロプロセッサは、ワイドビューの撮像投影を表示するメディアデータが画像を備え、少なくとも1つの画像が全方向性のパノラマ画像であるようにさらに構成される。
一実施形態では、マイクロプロセッサは、記述ファイルがhttpプロトコルを介する動的適応ストリーミングのメディアプレゼンテーション記述であるようにさらに構成される。
本発明はソフトウェアで実施され得るので、本発明は、任意の適切な搬送媒体、特に適切な有体搬送媒体又は適切な一時的搬送媒体上でプログラム可能な装置に提供するコンピュータ可読コードとして具現され得る。有体搬送媒体は、フロッピーディスク、CD-ROM、ハードディスクドライブ、磁気テープデバイス又は固体メモリデバイスなどの記憶媒体を含み得る。一時的搬送媒体は、電気信号、電子信号、光信号、音響信号、磁気信号又は電磁信号、例えばマイクロ波若しくはRF信号などの信号を含み得る。
本発明の更なる効果が、図面及び詳細な説明を検討すれば当業者には明らかとなる。任意の追加の効果がここに組み込まれることが意図される。
本発明の実施形態を、例示としてのみ、以下の図面を参照してここに説明する。
図1a、1b、1c、1d及び1eからなる図1は、ワイドビュー、視点、パノラマ画像ストリーム及びパノラマ領域を有するパノラマ画像の例に加えて、サーバからクライアントへの全方向性ビデオの撮影、送信及びレンダリングのデータフローの例を示す。 図2a、2b及び2cからなる図2は、立体型投影に基づき、幾つかの領域を備えるパノラマ表示の例を示し、各領域は、1つの領域がサブ領域又は部分にさらに分割された表面の投影及びパノラマ表示に関連付けられる。 図3は、HTTPを介した適応メディアストリーミングの一般原則の例を説明するブロック図を示す。 図4は、DASH Media Presentation Descriptionストリーミングマニフェストの主要部分を示すブロック図である。 図5は、本発明の1以上の実施形態を具現化するコンピューティングデバイスの概略ブロック図である。
特定の実施形態によれば、ストリーミングマニフェスト又はストリーミング再生リスト、例えばHTTP(DASH)プロトコルを介した動的適応ストリーミングのメディアプレゼンテーションディスクリプション(MPD)が、シーンのワイドビューを表現するメディアデータ、例えばパノラマ画像又はスティッチング可能な画像の集合などの仮想現実メディアデータの特性をシグナリング(すなわち提供)するために使用される。これらの特性は、そのメディアが古典的なメディア又はビデオではないが幾つかのナビゲーションの可能性を提供するということをストリーミングクライアントにまず認識させ、次に受信されるべきデータを選択させることに役立つ、例えばパノラマ画像を作成するのに使用される投影のタイプ、パノラマ画像のパーツへのアクセス可能性及び品質及びビュー方向の指示を備えていてもよく、DASHの場合においては新規に追加される構造要素又はディスクリプタにおいてシグナリングされ得る。第1の点によって、クライアントがコンテンツとインタラクションする適切なユーザインターフェースをセットアップ及び/又は選択することが可能となる。
これらの新規ディスクリプタは、サーバ端でストリーミングするコンテンツを準備する場合に、ストリーミングマニフェスト又はストリーミング再生リストに挿入可能である。DASHの場合、新規のディスクリプタは、DASHサーバ又はDASHパッケージングモジュールによってMPDファイルに挿入され、DASHクライアントにシーンのワイドビューの仮想現実メディアデータ表示が提供されることを示し(又はシグナリングして)、例えば仮想現実メディアデータ内に含まれるパノラマ画像を特徴付ける。したがって、これらの新規ディスクリプタは、パノラマ投影タイプと同時に、パノラマ画像を取得するためにこのパノラマ投影タイプと共に使用される特性及びパラメータを備え得る。典型的には、それらは、パノラマ画像の内部にパノラマ領域がある場合には、それを局在化するための視点及びパラメータを備える。以下VRディスクリプタといわれるこれらの新規ディスクリプタは、XML項目及び/又は属性のような構造化要素であってもよく、JSON(JavaScript(登録商標) Object Notation)を用いて記述されてもよいし、又はキーワード若しくはコメントがこれらのディスクリプタを伝えるように特化したプレーンテキストフォーマットに記述されてもよい。
DASHは、メディアプレゼンテーションのコンテンツのコンパクトな記述とHTTPアドレス(通常はURL)との間の関連付けを作成することを可能とすることが想起され得る。そのような関連付けは、マニフェストファイル又は記述ファイルといわれるファイルに記述される。DASHのコンテクストにおいて、このマニフェストファイルは、(メディアプレゼンテーション記述についての)MPDファイルともいわれるファイルである。
MPDファイルがクライアントに送信される場合、各メディアコンテンツの記述はクライアントによって容易に知得され得る。マニフェストファイルを読むことにより、クライアントはメディアプレゼンテーションに提案されるメディアコンテンツの種類を認識し、関連付けられたメディアコンテンツをダウンロードするためのHTTPアドレスを認識する。したがって、それは、どのメディアコンテンツを(HTTP要求を介して)ダウンロードして再生(メディアデータセグメントを受信した後に復号して再生)するかを決定することができる。
上述の関連付けに加えて、DASH標準は、各メディアコンテンツをセグメントといわれる小さな時間間隔に分割することを可能とする。例えばメディアデコーダをセットアップする初期段階で、初期化セグメント及びメディアデータを搬送するメディアセグメントが存在する。セグメントは、物理ファイルでなくてもよい。単一のファイル、例えばISOBMFFファイルへのバイト範囲であってもよい。時間分解は、MPDファイルに追加される。したがって、HTTPアドレス(又はURL)と各メディアコンテンツの簡潔な記述との間の関連付けを、小さな時間間隔で記述する。
図3に、HTTP上のメディアストリーミングの一般原則の例を説明するブロック図を示す。好ましい実施形態では、DASHプロトコルは、HTTP上のストリーミングプロトコルとみなされる。
さらに、図4は、図3に関連して記載され、MPDファイルの全体的な編成を示す。
図示のように、メディアサーバ300は、異なるメディアプレゼンテーションを含む。メディアプレゼンテーション301の簡潔な例を示す。ここでは、パノラマ画像の時間的なシーケンスなどの仮想現実メディアデータが含まれる。このメディアプレゼンテーションは、時間的及び空間的に独立した小さなセグメント302、302a及び303(又は図4の符号403)に分割されている。これらのセグメントは、個別にアドレッシングされてダウンロードされ得る。メディアコンテンツのダウンロードアドレスは、HTTPアドレス(又はURL)である。仮想現実メディアコンテンツの各セグメントに1つ、関連付けられたHTTPアドレスが存在する。それらは、これらのセグメントの各々についてメディアサーバ300によって設定される。
マニフェストファイル304(又は記述ファイル)は、HTTPアドレスに関するメディアサーバ上で利用可能なメディアプレゼンテーションの編成、解像度、コーデック、ビットレート、メディアタイプに関するコンテンツのバージョンなどを反映する。それは、XMLドキュメント又はHTTPライブストリーミングのようなプレーンテキストファイルであってもよい。例えば、DASH MPD及びスムーズストリーミング用のストリーミングマニフェストは、両方ともXMLを使用する。それは、メディアセグメントのコンテンツ、例えば図4のアダプテーション401で図示されるような、例えば(オーディオ、ビデオ、オーディオビデオ、テキスト、メタデータなどの)メディアのタイプ、セグメントの符号化フォーマット、継続時間を記述する。さらに、記述された各メディアコンテンツのセグメントにURLを関連付ける。
マニフェストファイル304は、クライアント310に送信される。クライアントは、受信されたマニフェストファイル305を読み出すことにより、異なるメディアコンテンツのセグメントとセグメントを指定するHTTPアドレスとの関連付けを知ることができる。また、例えば(図4の表示402のような)ビデオの代替バージョン又は関連するメタデータをメディアストリームに特定することもできる。また、マニフェストファイル305は、メディアプレゼンテーションのコンテンツ(この例では仮想現実メディアデータ)に関する情報を与える。例えば、情報は、解像度及び/又はビットレートを含み得る。ストリーミングマニフェスト又はストリーミング再生リストに提供される全ての情報は、どのセグメントをストリーミングサーバに要求すべきかを決定することのできるアダプテーションロジックモジュール311によって処理される。
したがって、クライアント310は、所望のセグメントをダウンロードするHTTP要求306を発行することができ、これらのセグメントは受信されたマニフェストファイル305に記述されている。
それに応じて、サーバ300は、HTTP応答307において要求されたセグメントを送信する。これらのセグメントは、クライアント310によって復号され、表示されることができる(ステップ308及びステップ309)。
なお、サーバは、以下のステップの1以上を各々実行する別個のサーバ又はデバイスから構成されてもよい。
-メディアコンテンツを生成するステップ
-メディアストリームをファイルフォーマットにカプセル化するステップ
-ストリーミングマニフェスト又は再生リストファイルを生成するステップ
-メディアプレゼンテーションを送信するステップ、及び
-メディアコンテンツをほとんどの場合にコンテンツセグメントとして送信するステップ
したがって、クライアントは、マニフェストの要求を第1のサーバ、例えばアプリケーションサーバに発行してもよく、メディアコンテンツの要求を1以上の他のサーバ、例えばメディアサーバ又はストリーミングサーバに発行してもよい。メディアサンプルを送信するサーバは、例えばメディアがCDN(コンテンツ配信ネットワーク)を通して配信される場合には異なっていてもよい。
付録のテーブル1a及び1bに、仮想現実メディアデータのパノラマ画像に関連付けられた同一の投影をシグナリングするためのメディアプレゼンテーションディスクリプション(MPD)における新規のVRディスクリプタの使用の2つの異なる例を示す。同一の情報がストリーミングマニフェストの他のタイプにおいて並べられてもよく、このマニフェストに使用される構文又は言語(XML、JSON、プレーンテキストなど)への適応だけが必要となる。
テーブル1aに示すように、MPDにおける仮想現実メディアデータ表示のシグナリングは、例えば新規の値「urn:mpeg:dash:VR:2016」に設定される@schemeIdURI属性を有する例えばSupplementalPropertyDASH汎用ディスクリプタ又はEssentialPropertyDASH汎用ディスクリプタのいずれかを使用して行われてもよい。ここでのこの値は、単に例示として与えられる。目的は、@schemeIdUriにおける保持された固有の値(通常はDASH MPDにおけるURN)を有して、ディスクリプタをパノラマの情報を提供する仮想現実又は全方向性メディアに関するディスクリプタとして明白に識別することである。代替の実施形態は、汎用DASHディスクリプタを使用する代わりに、明示的なディスクリプタを、VR及び/又は全方向性情報を搬送するのに予約された要素として、例えばマニフェストがVRコンテンツだけを提供する場合は直接MPDレベルとされ、マニフェストがVR及び非VRコンテンツの両方を提供する場合は幾つかのアダプテーションセット、リプレゼンテーション若しくはサブリプレゼンテーションレベルに入ることになる、MPDスキームにおいてDescriptorTypeから引き継ぐ「ProjectionInfo」要素として定義することにある。テーブル1aの例は、DASH汎用ディスクリプタ「SupplementalProperty」の拡張の例であり、一方ではそれがVRディスクリプタであることを示す新規のschemeIdUriを有し、他方では、投影の識別子、(例中では円筒についての)投影タイプ情報、及び基準点とそれぞれ円筒の上部(例中では+60°)と円筒の下部(例中では-60°)との間、したがって垂直面に120°の視界を与える2つの角度値で表現される垂直視界情報を搬送するための「パノラマ」といわれる新規の要素を有する。テーブル7bは、投影id、投影タイプ及び視野情報の新しい属性が好ましいテーブル1aの代替例である。テーブル7bは、新しい属性を作成する代わりに値属性を使用する他の代替例である。なお、EssentialPropertyディスクリプタ又は明示的なディスクリプタが使用される場合、これらの変形は同様に適用される。最後に、テーブル7cは、視野値が180°及び120°の2つの角度値として表現され、それぞれが水平視野及び垂直視野(基準点から見た角度)を与えることを除き、テーブル7bと同じ例である。
幾つかの代替のパノラマがMPDに記述される幾つかの実施形態によれば、SupplementalPropertyディスクリプタ及び/又はEssentialPropertyディスクリプタの既存の@値属性は、現在のリプレゼンテーション又はアダプテーションセット(又は可能であればサブリプレゼンテーション)によってアドレッシングされる幾つかの代替のパノラマの1つを参照するのに使用されてもよい。
このシグナリングは、好ましくは、アダプテーションセットレベルでのディスクリプタとして用いられ、アダプテーションセットがパノラマデータ、例えばパノラマ画像又はビデオに関するメディアデータを含むことを示す。代替の実施形態では、このディスクリプタは、リプレゼンテーション又はサブリプレゼンテーションレベルで設定され得る。図1cに示すようにパノラマがさらにパノラマ領域に分割されて、パノラマ領域における部分、空間領域又はサブ領域へのアクセスを提供する場合、VRディスクリプタは、ダウンロードするためのサイズ、帯域幅及び対応するセグメントに関してパノラマ領域を記述するリプレゼンテーション又はサブリプレゼンテーションにおいて設定され得る。
VRディスクリプタを解釈できないクライアントに後方互換性を与えるためには、EssentialPropertyディスクリプタを使用するよりも、VRディスクリプタをシグナリングするためのSupplementalPropertyディスクリプタを使用する方がより適応し得る。実際、パノラマ、パノラマ領域又はパノラマサブ領域がマニフェストに宣言される場合、例えば立方体への投影の1つの面に対応するパノラマ領域では、コンテンツ作成者は、VRを意識しないストリーミングクライアントにこのパノラマ、パノラマ領域又はパノラマサブ領域を古典的な2Dビデオとして選択し、ダウンロードし、再生させることができる。逆に、撮像投影がVRを意識しないクライアントにいずれのパノラマ、パノラマ領域又はパノラマ領域も再生させることができない場合、ディスクリプタと関連コンテンツ(ペアレントアダプテーションセット、リプレゼンテーション又はサブリプレゼンテーション)は無視されてMPDから安全に削除されるように、VRディスクリプタはEssentialPropertyディスクリプタに入れられる。
仮想現実メディアデータのリプレゼンテーションをシグナリングするSupplementalPropertyディスクリプタ又はEssentialPropertyディスクリプタは、VR SupplementalProperty又はVR EssentialPropertyといわれることもある。
特定の実施形態では、パノラマ画像に使用される投影のタイプのシグナリングは、新規の要素/属性を用いて行うことができる。例えば、立方体投影の使用をシグナリングするために要素/属性「projection_type=‘cube’」若しくは「projection_type=‘cubical’」を用いてシグナリングすることができ、又は付録のテーブル1aに示すように、円筒体への投影である円筒体型投影の使用をシグナリングするためには「type=‘cylindrical’」又は「type=‘cylider’」を用いてシグナリングすることができる。また、既存の@値属性、例えば角錐体投影の使用をシグナリングするための「value=‘pyramid’」若しくは「value=‘pyramidal’」を使用してシグナリングされてもよいし、又は可能であれば、テーブル1bのメディアプレゼンテーション記述に示すように、例えば(円筒型投影の使用のシグナリングについては)「urn:mpeg:dash:VR:cylinder:2016」のような、投影タイプごとに保存される又は特定のURNの1つである新規の専用の@schemeIdURI属性値を使用してシグナリングされてもよく、それは、(使用中の実際の投影型を示さない一般的な「urn:mpeg:dash:VR:2016」の代わりに)VRメディアデータリプレゼンテーションをシグナリングするのにも使用される。VRディスクリプタにおいてそのような特定のURNを有することは、MPDパージング時間でパノラマ、パノラマ領域又はパノラマサブ領域さえも再生できるか否かをストリーミングクライアントがより迅速に決定するのに役立ち得る。
特定の実施形態では、汎用DASHディスクリプタの既存の@値属性は、カンマ区切りの値のリストとして(例えばテーブル1aの「value=“60,-60”」)、又はVRディスクリプタについての専用schemeIdUriに特定の新規の属性として(例えばテーブル1bの「top_pitch=“60” bottom_pitch=“-60”」)、シグナリングされた投影タイプに特定のパラメータを表すために用いられてもよい。この例では、特定の属性は、円筒型投影の上部の投影及び下部の投影に対応するピッチ角度値である(度で表される)。ロールの最小及び最大角度値と共に、min_yaw(左への最大角度)及びmax_yaw(右への最大角度)の角度などのパラメータを提供するために、追加の属性も提供され得る。なお、角度に関して他の単位を使用することは可能であるが、角度単位を提供する追加の属性(例えばangle_unit=“radian”)が必要となる。このタイプのパラメータは、例えばsquished_sphereのような他の種類の投影にも役立つ。
投影に関する視点の向き(すなわち基準視点)は、ヨー値、ピッチ値及び選択的に例えば回転角度で表すことができるロール値によって定義され得る。説明のために、これらの値は、単一の属性内に実際のヨー値及びピッチ値をそれぞれ定義する「ref_yp=‘180,0’」のような新規の要素/属性を使用してシグナリングされてもよいし、ヨー値のみをシグナリングするための「vp_yaw=‘180’」のように、別個の属性内に定義されて使用されてもよい。1つ又は複数の属性が省略される場合、欠損値は対応するデフォルトの視点となるもの(例えば「0,0,0」)に置き換えられ得る。
投影タイプのシグナリングにより、DASHクライアントは、それが対応できる投影タイプの関数としてRepresentation、AdaptationSet又はSubRepresentationを選択することができる。絶対配向のシグナリングにより、DASHクライアントは、ユーザによって要求された視点に従ってRepresentation、AdaptationSet又はSubRepresentationを選択することができる。例えば、ユーザが専用のユーザインターフェースを介してパノラマ内で頭部を動かすかナビゲートする場合、クライアントのアダプテーションロジック(図3の符号311)は、MPD(図3の符号305)からコンテンツの最適なバージョンを識別することができる。
特定の実施形態では、パノラマディスクリプタは、例えばテーブル1bに示す@projection_id属性を使用する投影識別子を使用できる。これにより、投影の全てのパラメータ(例えば視点及び特定パラメータ)をこの識別子に関連付けることができ、同じ投影を使用するパノラマ領域又はパノラマサブ領域の代替バージョンをクライアントに通知することが可能となる。したがって、これにより撮像投影タイプの反復を回避することが可能となり、投影及び関連するパノラマ表示の参照のみがマニフェストに提供される。
したがって、同一の投影識別子が少なくとも2つのアダプテーションセット内で使用される場合、その投影識別子に関連付けられる投影に関する全てのパラメータは、1つのAdaptationSetに1度だけ宣言され、同一とみなされる別のAdaptationSet(又は別のRepresentation若しくはSubRepresentation)では省略されてもよい。同一の投影及び/又は視点を使用するAdaptationSet、Representation又はSubRepresentationにおいてパラメータが複製される場合、クライアントがそれらを同一のパノラマの一部として明白に関連付けできるように、これら全てのAdaptationSet、Representation又はSubRepresentationにおける投影パラメータ及び/又は視点パラメータについて同一の値を使用することが推奨される。
選択的に、パノラマディスクリプタは、MPDに複数のパノラマが記述される場合、異なるパノラマバージョンを区別できるように、@panorama_id属性を使用してパノラマ識別子と関連付けられることもできる。特に、同一のパノラマ識別子値を共有する2つのリプレゼンテーションは、これらのリプレゼンテーションが相互の代替物であることを明らかにする。さらに選択的に、パノラマディスクリプタは、複数のパノラマ画像が同一のパノラマ内で使用される場合、@panorama_image_idを用いてパノラマ画像インデックスと関連付けられることもできる。後者は特に、没入型環境がワイドビューにおいて所与のナビゲーション経路に沿って提供される場合に適用される。複数のパノラマ画像は、複数の経路位置で生成される。
上述のように、所与のパノラマ画像は、投影タイプに特有の複数の領域を含んでいてもよい。したがって、各パノラマ領域の情報を提供する必要がある。これは、新規のパノラマ領域ディスクリプタを使用することによって行うことができる。
実施形態では、パノラマ領域の記述は、VR SupplementalProperty又はVR EssentialPropertyのいずれかのPanorama要素に含まれるPanoramaRegion要素を使用して行われる。代替の実施形態は、PanoramaRegionに関するこのディスクリプタを特定のディスクリプタ、すなわちパノラマ領域の記述的情報を搬送する専用の特定のMPD要素として宣言することにあり、例えばDescriptorTypeからMPDスキーム内に継承する<PanoramaRegion>は、アダプテーションセット、リプレゼンテーション又はサブリプレゼンテーションレベルのいずれかで宣言される。
実施形態によれば、全てのパノラマ領域は、対応するパノラマ画像の記述を含むAdaptationSet、Representation又はSubRepresentationに記述される。あるいは、パノラマ領域は、パノラマ画像を記述するがそのパノラマ画像のいずれのメディアセグメントも含まない空のAdaptationSet、Representation又はSubRepresentationに記述される。そして、そのようなAdaptationSet、Representation又はSubRepresentationの目的は、利用可能なパノラマ領域の情報を取得するために、メディアセグメントを実際に含む他のAdaptationSet、Representation又はSubRepresentationがそれを参照できるように利用可能な領域のリストを網羅的に宣言することである。
さらに実施形態によれば、完全なパノラマ画像をMPDに記述しているAdaptationSet、Representation又はSubRepresentationがない場合、付録のテーブル4aに示すように、パノラマ領域はさらに、1つ(又はそれ以上の)パノラマ領域を含むビデオのAdaptationSet、Representation又はSubRepresentationの各々の内部に記述され得る。
さらに実施形態によれば、VRディスクリプタ及びパノラマ領域ディスクリプタは、メタデータトラックを記述するAdaptationSet、Representation又はSubRepresentationに記述され、例えばメタデータは全方向性メディアアプリケーションフォーマット(OMAF)を使用する。これには、図1aのコンテンツをパッケージングするステップ141が、OMAFトラックとMPDマニフェストにおける1以上のビデオトラックとの間で宣言された関連を反映することが必要となる。付録のテーブル8に示すように、これは、MPDにおける1以上のビデオトラックのリプレゼンテーションをそれぞれに指す、MPDにおけるOMAFトラックを記述するリプレゼンテーションにおいてassociationId属性及びassociationType属性の両方を宣言することによって行うことができる。associationType属性は、「CDSC」値を取って、MPDにおけるOMAFトラックのメタデータリプレゼンテーションがMPDにおいて宣言される1以上のビデオリプレゼンテーションに関する追加の記述コンテンツを提供することを示してもよい。
メディアをパッケージングするステップ141の間、サーバは、好ましくはメディアファイル用のファイルフォーマット情報を調べ、ポストデコーダ要求情報が存在するかどうかを、例えばストリーミング用にパッケージするビデオトラックのサンプルエントリが「resv」タイプであるかどうかを調べることによって特定する。その場合、メディアパッケージングモジュールは、パノラマを構築するのに使用される撮像投影タイプの情報を提供し得るスキーム情報ボックスをパージングする。そのような情報が(あるOMAFトラックが利用可能な場合として)存在する場合、メディアパッケージングモジュールは、この情報を使用して、パノラマを記述するAdaptationSet、Representation又はSubRepresentationにおけるVRディスクリプタの値を設定する。ここでも、この情報を抽出してストリーミングマニフェストに公開することにより、ストリーミングクライアントが、ビデオAdaptationSet、Representation又はSubRepresentationがダウンロード及び再生の候補であるかどうかを、それらの適応ロジックを介して即時に識別することを可能とする。OMAFメタデータトラックの場合、クライアントは、パノラマ画像の記述を提供するRepresentationを探すためにOMAF RepresentationのassociationIdに従う必要があるので、直接的ではない。
実施形態によれば、パノラマ領域ディスクリプタは、パノラマ記述(アダプテーションセット、リプレゼンテーション又はサブリプレゼンテーション)と同一のレベルでシグナリングされる。あるいは、パノラマ領域ディスクリプタは、パノラマ領域記述(アダプテーションセット、リプレゼンテーション又はサブリプレゼンテーション)と同一のレベルでシグナリングされる。第1の解決策は、クライアントが、単一の要素をパージングする間に各領域サイズ及び領域数を特定できるようにする(すなわち各パノラマ領域記述をパージングする必要がない)という効果を提示する。第2の解決策では、幾つかのパノラマ領域がクライアントによって使用されない場合、より少ないMPDパージング動作しか必要しない。
立体表示の場合、DASHマルチビュースキームを使用して、タイプビデオのContentComponent要素に、又は各ビューが異なるパノラマ画像に(すなわち異なるAdaptationSetに)格納されている場合はAdaptationSet要素に適用されるRoleディスクリプタを用いて、各ビューの役割を直接シグナリングすることができる。RoleディスクリプタをPanoramaRegionに適用して、左目と右目の表示が同一の画像/ビデオコンテンツの2つの部分である場合をサポートすることで、拡張されてもよい。あるいは、PanoramaRegionは、ステレオ情報(例えば「stereo=‘left’」、「stereo=‘none’」[default])を定義するための新規のオプション属性を含んでいてもよい。
付録のテーブル2a、2b、2c及び2dは、VRディスクリプタを使用する4つのAdaptationSetディスクリプタを示す。
テーブル2aにある例によれば、アダプテーションセットレベルで記述されたビデオの領域の空間位置は、パノラマ領域ディスクリプタにおいて、パノラマ画像のビデオの参照における画素に表される4つのパラメータを使用してシグナリングされる。これらのパラメータは、(パノラマビデオ内の)領域の左上角部の(x,y)座標並びに領域の幅及び高さ(又は代替的に領域の右下角部のx、y座標)を備える。これらのパラメータは、テーブル2aに示すように(例えば「position=‘0,200,200,200’」)、カンマ区切りの整数値のリストを使用して、PanoramaRegion要素の新規の@position属性において記述されてもよい。実施形態によれば、領域の空間位置が提供されない場合、それは、領域と宣言されるアダプテーションセットのビデオが領域によって完全にカバーされることを意味している。
選択的に、特定のパノラマ画像がアドレッシングされるべきである場合は、パノラマ画像インデックスを示すために第5のパラメータが使用されてもよい(パノラマが複数のパノラマ画像を含み、第5のパラメータが提供されない場合、それは全てのパノラマ画像が関連していることを意味する)。
各パノラマ領域ディスクリプタは、参照パノラマ画像の投影タイプに依存する領域タイプに関連付けられる。それは、テーブル2aに示すように領域識別子(例えば「前」、「上」、「右」など)についての特定の値によって指定されるか、例えばOMAFに提案される値のリストなどの数値を用いて予め定義された領域インデックスによって指定される。
実施形態によれば、PanoramaRegionディスクリプタは、(テーブル2aに示すように)パノラマディスクリプタの要素として宣言されてもよい。あるいは、PanoramaRegionは、VR SupplementalProperty又はVR EssentialProperty若しくは任意の明示的ディスクリプタ内に直接宣言されてもよい。そのような場合、参照パノラマ画像は、PanoramaRegionに属する属性によって識別される。
テーブル2aに示すように、その識別子を使用することによって(例えば「projection_id=‘1’」)、又は代替的にパノラマの識別子(MPDに2以上のパノラマがある場合)及びパノラマ画像の識別子(そのパノラマについて2以上の画像がある場合)を使用することによって(例えば「Panorama_id=‘1’、panorama_image_id=‘0’」)、パノラマ領域ディスクリプタは、参照パノラマ投影に関連付けられてもよい。あるいは、PanoramaRegionディスクリプタがパノラマの子要素として宣言される場合には、投影識別子は必要でない。そして、パノラマ領域は、例えばテーブル2aに示すように、そのPanoramaの埋め込みを参照する。
実施形態によれば、PanoramaRegionディスクリプタは使用されるが、利用可能なPanoramaのAdaptationSet表示がない場合、テーブル2cに示すように、パノラマ投影タイプは、PanoramaRegionに属する属性によって直接識別されてもよい。テーブル2dに示すように、投影に専用のスキームが使用される場合はこれを必要としない。
同様に、PanoramaRegionディスクリプタが種々のAdaptationSet、Representation又はSubRepresentationに使用されるが、パノラマを記述するAdaptationSet、Representation又はSubRepresentationが利用可能でない場合、projection_idが、例えばテーブル2c及びテーブル2dに示すように、パノラマ領域が同一のパノラマ画像を参照することを示すのにさらに使用される。これにより、これらのパノラマ領域を(利用可能でない場合であっても)同一のパノラマ領域に属しているものとして関係させることが可能となる。テーブル2a、2b及び2cに示す新規のディスクリプタによってもたらされる全ての記述的情報は、選択されたディスクリプタ(DASH汎用のものか又は明示的なもののいずれか)の新規の属性において、又は連結された値のリストとしての既存の「value」属性において伝達されることもできる。例えば、テーブル9に、テーブル2aのものと同一であるが、パノラマ領域に関する新規の属性「region_list」を有する情報を提供する。代替例は「value」属性における記述情報に領域を並べて領域数分のDASHディスクリプタを用いることになるので、ディスクリプタは同等とみなされることはなく、したがってそれらの全て(及びセットにおいて1つだけではない)をプレイヤに処理させる。テーブル9bは、そのような例を与える。
DASH標準は、アダプテーションセット又はサブリプレゼンテーションレベルのいずれかで、MPDのメディアコンテンツコンポーネント間の空間的関係を表す能力を導入する。それは「urn:mpeg:dash:VR:2014」と等しい@schemeIdURIを有するSupplementalProperty又はEssentialPropertyディスクリプタのいずれかを使用することにある。@value属性は、SRD(空間的関係記述)パラメータの値のコンマ区切りのリストで構成され、以下のパラメータを備える。
-source_idは、メディアコンテンツのソースの識別子を提供する。Period内で「source_id値」といわれる同一の値を共有する異なるSRDで使用されるパラメータ(object_x、object_y、object_width、object_height)が比較されて2つの表示が相互に空間的に関連していることを特定し得る。
-object_xは、このSRDディスクリプタによって定義される参照空間において、このディスクリプタを使用してAdaptationSet又はSubRepresentationに記述されるビデオの左上角部の水平位置を提供する。
-object_yは、このSRDディスクリプタによって定義される参照空間において、このディスクリプタを使用してAdaptationSet又はSubRepresentationに記述されるビデオの左上角部の垂直位置を提供する。
-object_widthは、このSRDディスクリプタによって定義される参照空間において、このディスクリプタを使用してAdaptationSet又はSubRepresentationに記述されるビデオの幅を提供する。
-object_heightは、このSRDディスクリプタによって定義される参照空間において、このディスクリプタを使用してAdaptationSet又はSubRepresentationに記述されるビデオの高さを提供する。
-total_widthは、同一のsource_id値を持つSRDを有するAdaptationSet又はSubRepresentationに記述されるビデオのx軸に沿った最大範囲を提供する。この値は、存在しない場合は、同一のsource_id値を持つSRDアノテーションのtotal_width値に設定される。所与のsource_id値について、少なくとも1つのtotal_width値が指定されなければならない。
-total_heightは、同一のsource_id値を持つSRDを有するAdaptationSet又はSubRepresentationに記述されるビデオのy軸に沿った最大範囲を提供する。この値は、存在しない場合は、同一のsource_id値を持つSRDアノテーションのtotal_height値に設定される。所与のsource_id値について、少なくとも1つのtotal_height値が指定されなければならない。
-spatial_set_idは、同一のsource_id値を有するAdaptationSet又はSubRepresentationのグループに関する識別子を提供する。spatial_set_idパラメータは、AdaptationSet又はSubRepresentationのグループが重なりのない若しくは間隙のない連続ビデオのグループを構成しているか、又は同一のスケーラビリティ層の一部であることを示すために使用されることができる。
object_x及びobject_yパラメータ(それぞれobject_width及びobject_height)は、ソースと関連付けられた座標系において関連するAdaptationSet又はSubRepresentationの、source_idパラメータによって識別される2D位置(それぞれ2Dサイズ)を表す。この座標系は、任意の原点を使用し得る。特定の実施形態によれば、x軸は左から右に向けられ、y軸は上から下に向けられる。同一のsource_id値を共有する全てのSRDは、同一の原点及び軸配向を有する。
total_width及びtotal_height値は、この座標系における参照空間を定義する。object_x、object_y、object_width及びobject_heightパラメータ値は、total_width及びtotal_heightパラメータの値に関連している。同一のsource_id値を共有するSRDの位置(object_x、object_y)及びサイズ(object_width、object_height)は、参照空間のサイズを考慮して、すなわち、それぞれのディスクリプタのobject_x及びobject_width値をtotal_width値で除し、object_y及びobject_height値をtotal_height値で除した後に比較されてもよい。
付録のテーブル3に、任意の単位を持つ参照空間内の4つのタイル(AS1からAS4)から構成されるビデオを有するSRDディスクリプタの例を示す。説明のために、タイルAS1及びAS2に関するMPD記述のみを示す。
第1のアダプテーションセットは、タイルAS1に対応する。それは、解像度1920×1080画素の1つのビデオ表示から構成される。(SupplementalPropertyディスクリプタを使用している)SRDディスクリプタは、このビデオが1に等しいsource_idを有するタイルであり、参照空間の左上角部(座標object_x=0及びobject_y=0)に位置することを指定する。ビデオのサイズは、各方向の参照空間の半分を表す(object_width及びobject_heightは、参照空間のtotal_width及びtotal_heightに対する任意の200単位における100をカバーする)。SRDディスクリプタから、参照空間全体が実際には4k2kビデオ(3840×2160画素)を表すものと推測できる。
SRDディスクリプタから、第2のアダプテーションセットがタイルAS2に対応することが推測できる。ここでは、このSRDディスクリプタは、タイルが第1のアダプテーションセット(同一のsource_id=1)よりも同一の参照空間に関係し、x軸の範囲の中央域(値100から200)及びy軸の基部(値0)に位置することを指定するEssentialPropertyディスクリプタを使用して導入される。
SupplementalPropertyとEssentialPropertyディスクリプタとの違いは、SRDが「urn:mpeg:dash:VR:2014」の場合、schemeIdURI属性の値を理解していないクライアントが親要素(AdaptationSet、Representation又はSubRepresentation)を処理する方法にある。実際、EssentialPropertyディスクリプタの場合、クライアントがschemeIdUriを理解していない場合、ディスクリプタを含む親要素だけでなく、それを無視しなくてはならない。SupplementalPropertyの場合、クライアントはディスクリプタ自体を無視すると予想されるが、さらに親要素を使用できる。
したがって、SRDディスクリプタがMPDにおいて使用される場合、空間的関係記述を理解していないクライアントとの後方互換性のために、少なくとも1つのSupplementalPropertyディスクリプタを依拠することが推奨される。
付録のテーブル4に、パノラマディスクリプタ及びパノラマ領域ディスクリプタをMPD内の空間的関係記述(SRD)で合成する方法を示す。図示のように、パノラマ画像(例えば<SupplementalProperty schemeIdUri=“urn:mpeg:dash:srd:2014”value=“1,0,0,2120,1080,2120,1080”/>)又は代替的にパノラマ領域(例えば<SupplementalProperty schemeIdUri=“urn:mpeg:dash:srd:2014”value=“2,0,0,1920,1080,1920,1080”/>)は、関心領域(ROI)に分割することができる。したがって、SRDディスクリプタは、パノラマ画像(例えば<SupplementalProperty schemeIdUri=“urn:mpeg:dash:srd:2014”value=“1,200,0,1920,1080,2120,1080”/>)又は代替的にパノラマ領域(例えば<EssentialProperty schemeIdUri=“urn:mpeg:dash:srd:2014”value=“2,0,0,960,540,1920,1080”/>)におけるROIを指定するのに使用される。なお、VRディスクリプタは、SRDディスクリプタに影響を与えたりSRDディスクリプタを変更したりしないことに留意されたい。両ディスクリプタは、直交しており、良好に結合してパノラマ領域又はパノラマサブ領域に空間アクセスを提供する。テーブル11は、正規化された座標を有する立方体投影からのパノラマ領域の代替の記述である。投影IDは、暗黙的にSRDsource_idである。投影タイプ情報は、VRディスクリプタを介して提供される。
付録のテーブル5a及び5bに、SRDを有するVRディスクリプタの使用の代替例を示す。
テーブル5aに示すように、ネスティングされたSRDの使用は、テーブル4に表されるものと同様に表される。しかしながら、それは、パノラマ内の領域のいずれの宣言も備えない。この例において、projection_idは使用されず、パノラマ領域をパノラマに関係付ける代わりにSRDディスクリプタのsource_idを使用することができる。そのような実施形態において、パノラマは、古典的なSRDに関して、object_width=total_width及びobject_height=total_heightの場合、SRDパラメータ値を介して識別される。この実施形態において、VRディスクリプタ及び古典的SRDディスクリプタは、パノラマ領域(又は部分若しくは空間部)への空間アクセスを提供するために、及びパノラマをそのパノラマ領域に関連付けるためにも結合する。
テーブル5bに示す代替の実施形態において、SRDスキームは、VRコンテンツをサポートするように、例えば「urn:mpeg:dash:srd:2016」と等しい新規の@schemeIdUri値を使用することによって拡張される。この実施形態において、SRDディスクリプタが空間的関係記述及びVR又は全方向性メディアの記述の両方に対応するようにこの新規のスキームが使用され得る。@値属性は、2014SRDスキームと同じ書式設定/パラメータを保存し、(パノラマ領域又はパノラマサブ領域に対応する場合としない場合のある)対象となるパノラマ領域を抽出するのに使用される。パノラマについて記述された同一の投影タイプ属性は、例えば新規の属性としてこの新規のSRDスキームに追加される。この属性がMPDに存在する場合、それはSRDがパノラマ画像に関連しているか、そうでなければSRDが古典的な2Dビデオに関連していることをシグナリングする。実施形態によれば、@projection_id属性は追加されず、代わりにSRDの識別子(@値の第1のパラメータ)が、パノラマを識別するのに使用される。領域はまた、SRD2016スキームを使用するが、どれが投影の関連領域であるのかを指定するのに例えば新規の@region_id属性を使用してシグナリングされる。
付録のテーブル6に、新規のSRDスキームを拡張してパノラマ内の領域の前方宣言を可能とするようにネスティングされたSRD識別子(例えば0.1及び0.2)を使用する方法と、例えばそれがサブ領域記述のためのパノラマにおける絶対座標(例えば<SupplementalProperty schemeIdUri=“urn:mpeg:dash:srd:2016”value=“0.1,320,0,320,270,1920,1080”/>)を用いて又はパノラマ領域に対する座標(<SupplementalProperty schemeIdUri=“urn:mpeg:dash:srd:2016”value=“0.2,0,0,320,270,640,540”/>)を用いて使用される方法を示す。
仮想現実に関するSRDディスクリプタの他の可能な拡張は、テーブル10aの例に示すように、投影ID及び/又は投影タイプ及び/又はパノラマ領域を発見する位置をSRD内に直接記述することである。投影のタイプに依存して、位置は、画素又は(立方体若しくは角錐への投影又は何も使用されない)正規化された画素として、又はテーブル10bの例に示すように、squished_sphere、円筒体についてのyaw_start、yaw_end、pitch_start、pitch_end角度として仮定されるべきである。選択的に、投影タイプに依存して、領域識別情報は、パノラマに対しては「全て」、立方体の面に対しては「前」、「上」又は「下」の最終値として提供されてもよい。
ユーザビュー又はユーザナビゲーションに依存したアクセスに関するPanoramaRegionの記述に関する他の代替例は、SRDの有無に関わらない空間座標(例えば付録のテーブル4の「位置」属性)の代わりに、付録のテーブル10cに示され、(yaw=0、pitch=0及びroll=0角度を有するワイドビューにおける基準点に関して)図1dのような視点を説明するヨー、ピッチ及び選択的にロール角度値として表される範囲値の使用に向けられる。現在の視点は、少なくとも2つの角度で与えられ得る。ヨー及びピッチ角度並びに選択的にロール角度は図1dのグレー領域の中心点の位置を与え、Representationの幅及び高さ属性は図1dのグレー領域の幅及び高さを与える。これは、クライアントに対して、頭部の動きから生じる角度を空間座標へマッピングして適切なパノラマ領域を検索するのに使用することを回避し得る。代わりに、クライアントは、メディアの表示を開始した基準視点からの累積角度を計算し、このディスクリプタによって提供される角度値を、ヨー、ピッチ及び選択的にロール角度値を使用して直接一致させることができる。これらのディスクリプタは、ストリーミング用にメディアを準備する際にOMAFトラックの値をパージングすることにより、メディアパッケージングユニット141によって設定されることができる。
図5は、本発明の1以上の実施形態を実装するコンピューティングデバイス500の概略ブロック図である。コンピューティングデバイス500は、マイクロコンピュータ、ワークステーション又は軽量ポータブルデバイスなどのデバイスであってもよい。コンピューティングデバイス500は、
-マイクロプロセッサなどの中央処理装置(CPU)501、
-本発明の実施形態の方法の実行可能コードを記憶するランダムアクセスメモリ(RAM)502、その他、マニフェストを読み出し、及び書き込み、並びに/又はビデオを符号化し、並びに/又は所与のファイル書式でデータを読み出し、若しくは生成するための方法を実行するのに必要な変数及びパラメータを記録するように適合されたレジスタ、例えばそのメモリ容量が拡張ポートに接続された選択的なRAMによって拡張可能である、
-本発明の実施形態を具現化するコンピュータプログラムを記憶する読出し専用メモリ(ROM)503、
-通常、処理されるべきデジタルデータが送信又は受信される通信ネットワークに順次接続されるネットワークインターフェース504。ネットワークインターフェース504は、単一のネットワークインターフェースであってもよいし、異なるネットワークインターフェースのセット(例えば有線若しくは無線インターフェース、又は異なる種類の有線若しくは無線インターフェース)から構成されてもよい。データは、CPU501において稼働するソフトウェアアプリケーションの制御下で送信用にネットワークインターフェースに書き込まれ、又は受信用にネットワークインターフェースから読み出される。
-ユーザからの入力を受信する又はユーザに情報を表示するユーザインターフェース(UI)505、
-ハードディスク(HD)506、
-ビデオソース又はディスプレイなどの外部デバイスとデータを送受信するためのI/Oモジュール507
に接続された通信バスを備える。
実行可能コードは、読出し専用メモリ503、ハードディスク506、又は例えばディスクなどの取り外し可能デジタル媒体のいずれかに記憶され得る。変形例によれば、プログラムの実行可能コードは、実行される前にハードディスク506などの通信デバイス500の記憶手段の1つに記憶されるために、ネットワークインターフェース504を介して通信ネットワークによって受信され得る。
中央処理装置501は、本発明の実施形態による1つ又は複数のプログラムのソフトウェアコードの命令又は一部の実行を制御及び指示するように適合され、その命令は前述の記憶手段の1つに記憶される。電源投入後、CPU501は、例えばプログラムROM503又はハードディスク(HD)506からそれらの命令がロードされた後のソフトウェアアプリケーションに関連する主RAMメモリ502からの命令を実行することができる。CPU501によって実行される場合、そのようなソフトウェアアプリケーションは、前述の図に示すフロー図のステップを実行する。
この実施形態においては、装置は、ソフトウェアを使用して本発明を実施するプログラム可能な装置である。一方、代替的には、本発明は、(例えば特定用途向け集積回路すなわちASICの形態における)ハードウェアにおいて実施されてもよい。
本発明を特定の実施形態を参照して上で説明したが、本発明は特定の実施形態に限定されるものではなく、本発明の範囲内にある変型例は当業者には明らかになるはずである。
例えば本発明の実施形態は、例えば特定の対象領域を拡大するようにTV又はマルチメディアディスプレイのリモートコントローラとして作用するカメラ、スマートフォン、ヘッドマウントディスプレイ又はタブレットのようなデバイスに組み込まれてもよい。それらはまた、特定の対象エリアを選択することによってマルチメディア表示の個人用の閲覧体験を有するのに同じデバイスから使用され得る。これらのデバイス及び方法からのユーザによる他の使用は、その人の選好するビデオの選択された一部を他の接続デバイスと共有することである。それらはまた、監視カメラが本発明によるデータを提供する方法をサポートするという条件で、スマートフォン又はタブレットと共に使用して、監視下にある建造物の特定エリアで何が起こっているかを監視することができる。
多くのさらなる変更及び変形が、前述の例示された実施形態を参照することにより当業者に示唆され、それらは例としてのみ与えられており、本発明の範囲を限定することを意図したものではなく、その範囲は添付の特許請求の範囲によってのみ特定される。特に、異なる実施形態からの異なる特徴は、適宜入れ替えられてもよい。
付録
テーブル1a
<?xml version="1.0" encoding="UTF-8"?>
<MPD […]>
<Period […]>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016">
<Panorama projection_id="0" type="cylindrical" value="60,-60">
[…]
</Panorama>
</SupplementalProperty>
[…]
</AdaptationSet>
[…]
</Period>
</MPD>

テーブル1b
<?xml version="1.0" encoding="UTF-8"?>
<MPD […]>
<Period […]>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:cylinder:2016">
<Panorama projection_id="0" top_pitch="60" bottom_pitch="-60">
[…]
</Panorama>
</SupplementalProperty>
[…]
</AdaptationSet>
[…]
</Period>
</MPD>

テーブル2a
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016">
<Panorama projection_id="0" type="cylindrical" […]>
<PanoramaRegion region_id="top" position="0,0,200,200"/>
<PanoramaRegion region_id="bottom" position="0,200,200,200"/>
</Panorama>
</SupplementalProperty>
[…]
</AdaptationSet>

テーブル2b
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016">
<Panorama projection_id="0" type="cylindrical" […]/>
<PanoramaRegion region_id="top" projection_id="0"/>
</SupplementalProperty>
[…]
</AdaptationSet>

テーブル2c
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016">
<PanoramaRegion region_id="top" projection_id="0" type="cylindrical"/>
</SupplementalProperty>
[…]
</AdaptationSet>

テーブル2d
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:cylinder:2016">
<PanoramaRegion region_id="top" projection_id="0"/>
</SupplementalProperty>
[…]
</AdaptationSet>

テーブル3
<?xml version="1.0" encoding="UTF-8"?>
<MPD …]>
<Period … > <!-- 4 tiles -->
<!-- Tile AS1 -->
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2014" value="1, 0, 0, 100, 100, 200, 200"/>
<Representation id="1" bandwidth="5000000" width="1920" height="1080">
<BaseURL>tile1.mp4</BaseURL>
</Representation>
</AdaptationSet>
<!-- Tile AS2 -->
<AdaptationSet […]>
<EssentialProperty
schemeIdUri="urn:mpeg:dash:srd:2014" value="1, 100, 0, 100, 100"/>
<Representation id="2" bandwidth="5000000" width="1920" height="1080">
<BaseURL>tile2.mp4</BaseURL>
</Representation>
</AdaptationSet>
<!-- Tile AS3 --> …
<!-- Tile AS4 --> …
</Period>
</MPD>

テーブル4
[…]
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016">
<Panorama projection_id="0" type="cylindrical" […]>
<PanoramaRegion region_id="top" position="0,0,200,200"/>
<PanoramaRegion region_id="bottom" position="0,200,200,200"/>
<PanoramaRegion region_id="side" position="200,0,1920,1080"/>
</Panorama>
</SupplementalProperty>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2014" value="1,0,0,2120,1080,2120,1080"/>
[…]
</AdaptationSet>
<AdaptationSet […]>
<EssentialProperty schemeIdUri="urn:mpeg:dash:VR:2016">
<PanoramaRegion projection_id="0" region_id="side"/>
</EssentialProperty>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2014" value="1,200,0,1920,1080,2120,1080"/>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2014" value="2,0,0,1920,1080,1920,1080"/>
[…]
</AdaptationSet>
<AdaptationSet […]>
<EssentialProperty schemeIdUri="urn:mpeg:dash:VR:2016">
<PanoramaRegion projection_id="0" region_id="side"/>
</EssenetialProperty>
<EssentialProperty schemeIdUri="urn:mpeg:dash:srd:2014" value=“2,0,0,960,540,1920,1080"/>
[…]
</AdaptationSet>
[…]

テーブル5a
[…]
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016" value="cube" />
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2014" value="0,0,0,1920,1080,1920,1080" />
[…]
</AdaptationSet>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016" region_id="front"/>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2014" value="0,0,0,640,540,1920,1080" />
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2014" value="1,0,0,640,540,640,540" />
[…]
</AdaptationSet>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016" region_id="front"/>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2014" value="1,320,0,320,270,640,540"/>
[…]
</AdaptationSet>
[…]

テーブル5b
[…]
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2016" value="0,0,0,1920,1080,1920,1080" type="cube"/>
[…]
</AdaptationSet>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2016" value="0,0,0,640,540,1920,1080" />
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2016" value="1,0,0,640,540,640,540" region_id="front"/>
[…]
</AdaptationSet>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2016" value=“1,320,0,320,270,640,540”/>
[…]
</AdaptationSet>
[…]

テーブル6
[…]
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2016" value="0,0,0,1920,1080,1920,1080" type="cube"/>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2016" value="0.1,0,0,640,540,1920,1080" region_id="front"/>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2016" value="0.2,0,540,640,540,1920,1080" region_id="bottom"/>
[…]
</AdaptationSet>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2016" value="0.1,320,0,320,270,1920,1080"/>
[…]
</AdaptationSet>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2016" value="0.2,0,0,320,270,640,540"/>
[…]
</AdaptationSet>
[…]

テーブル7a
<?xml version="1.0" encoding="UTF-8"?>
<MPD […]>
<Period […]>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016" projection_id="0" type="cylindrical" value="60,-60" />
<Representation ….> … </Representation>
</AdaptationSet>
[…]
</Period>
</MPD>

テーブル7b
<?xml version="1.0" encoding="UTF-8"?>
<MPD […]>
<Period […]>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016" value="0, cylindrical, 60, -60" />
<Representation ….> … </Representation>
</AdaptationSet>
[…]
</Period>
</MPD>

テーブル7c
<?xml version="1.0" encoding="UTF-8"?>
<MPD […]>
<Period […]>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016" value="0, cylindrical, 180, 120" />
<Representation ….> … </Representation>
</AdaptationSet>
[…]
</Period>
</MPD>

テーブル8
<MPD…>

<AdaptationSet mimeType=”video/mp4”… >
<Representation id=”1” … > … </Representation>
</AdaptationSet>
<AdaptationSet mimeType=”registered mimeType for OMAF”… >
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016" value="0, cube" />
<Representation id=”2” associationId=”1” associationType=”cdsc”… >

</Representation>
</AdaptationSet>
[…]
</MPD>

テーブル9a
<MPD …>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016" projection_id="0" type="cylindrical" region_list="top, 0, 0, 200, 200; bottom, 0, 200, 200, 200" />
[…]
</AdaptationSet>
[…]
</MPD>

テーブル9b
<MPD>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016" projection_id="0" type="cylindrical" value="top, 0, 0, 200, 200” />
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016" projection_id="0" type="cylindrical" value="bottom, 0, 200, 200, 200" />
[…]
</AdaptationSet>
</MPD>

テーブル10a
<MPD>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:srd-VR:2016" value=”0, cube, 0, 0, 200, 200, 200, 200, all” />
[…]
</AdaptationSet>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:srd-VR:2016" value=”0, cube, 20, 20, 100, 100, top” />
[…]
</AdaptationSet>
</MPD>

テーブル10b
<MPD>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:srd-VR:2016" value=”0, cylinder, -180, 180, 90, -90, 360, 120” />
[…]
</AdaptationSet>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:srd-VR:2016" value=”0, cylinder, -90, 90, 45, -45, ” />
[…]
</AdaptationSet>
</MPD>

テーブル10c
<MPD>
<AdaptationSet […]>
<SupplementalProperty schemeIdUri="urn:mpeg:srd:2016" value=”0, yaw, pitch, rol” />
<Representation width=”1920” height=”1080”…> … </Representation>
[…]
</AdaptationSet>
</MPD>

テーブル11
<MPD…>
<AdaptationSet […]>
<!-- Full panorama with projection type indication -->
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016" value="cube" />
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2014" value="0, 0, 0, 5, 4, 5, 4" />
<Represention […] >
….
</Representation>
</AdaptationSet>
<AdaptationSet […]>
<!-- Panorama region (top) -->
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016" value="cube" />
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2014" value="0, 0, 0, 2, 1" />
<Represention […] >
….
</Representation>
</AdaptationSet>
<AdaptationSet […]>
<!-- Panorama region (front) -->
<SupplementalProperty schemeIdUri="urn:mpeg:dash:VR:2016" value="cube" />
<SupplementalProperty schemeIdUri="urn:mpeg:dash:srd:2014" value="0, 1, 1, 2, 2 "/>
[…]
</AdaptationSet>

</MPD>

Claims (27)

  1. 全方向性メディアフォーマットに準拠するメディアデータを受信する方法であって、
    サーバから、
    (1)前記メディアデータの1つ以上のセグメントの各々の識別子と、
    (2)前記メディアデータの前記1つ以上のセグメントの各々を記述するメディア情報と、
    (3)前記メディアデータが全方向性メディアフォーマットに従って全方向性データであることを示す記述子と、
    を含むMPEG-DASH規格に準拠したMPDを受信し、
    前記記述子により選択したセグメントを前記識別子に基づいて要求する要求メッセージを前記サーバに送信し、
    前記要求メッセージに従って、前記サーバから前記選択したセグメントを受信する、
    ことを特徴とする方法。
  2. 前記記述子は、@schemeIdUri属性に含まれることを特徴とする請求項1に記載の方法。
  3. 前記記述子は、前記全方向性メディアフォーマットに準拠する前記メディアデータの投影のタイプを示す投影タイプ情報を含むことを特徴とする請求項1又は2に記載の方法。
  4. 前記投影タイプ情報が示すタイプは、立方体、円筒体、角錐体のうちの少なくとも1つを含むことを特徴とする請求項3に記載の方法。
  5. 前記投影タイプ情報は、特定の@schemeIdUri属性を持つEssentialProperty要素に含まれることを特徴とする請求項3又は4に記載の方法。
  6. 前記全方向性メディアフォーマットに準拠する前記メディアデータは、パノラマ画像を含み、該パノラマ画像は、単一のパノラマ領域または複数のパノラマ領域を含むか、または異なるパノラマ領域のセットであることを特徴とする請求項1から5のいずれか一項に記載の方法。
  7. 全方向性メディアフォーマットに準拠するメディアデータを提供する方法であって、
    クライアントに、
    (1)前記メディアデータの1つ以上のセグメントの各々の識別子と、
    (2)前記メディアデータの前記1つ以上のセグメントの各々を記述するメディア情報と、
    (3)前記メディアデータが全方向性メディアフォーマットに従って全方向性データであることを示す記述子と、
    を含むMPEG-DASH規格に準拠したMPDを送信し、
    前記記述子により選択されたセグメントを前記識別子に基づいて要求する要求メッセージを前記クライアントから受信し、
    前記要求メッセージに従って、前記選択されたセグメントを前記クライアントに送信する、
    ことを特徴とする方法。
  8. 前記記述子は、@schemeIdUri属性に含まれることを特徴とする請求項7に記載の方法。
  9. 前記記述子は、前記全方向性メディアフォーマットに準拠する前記メディアデータの投影のタイプを示す投影タイプ情報を含むことを特徴とする請求項7又は8に記載の方法。
  10. 前記投影タイプ情報が示すタイプは、立方体、円筒体、角錐体のうちの少なくとも1つを含むことを特徴とする請求項9に記載の方法。
  11. 前記投影タイプ情報は、特定の@schemeIdUri属性を持つEssentialProperty要素に含まれることを特徴とする請求項9又は10に記載の方法。
  12. 前記全方向性メディアフォーマットに準拠する前記メディアデータは、パノラマ画像を含み、該パノラマ画像は、単一のパノラマ領域または複数のパノラマ領域を含むか、または異なるパノラマ領域のセットであることを特徴とする請求項7から11のいずれか一項に記載の方法。
  13. 全方向性メディアフォーマットに準拠するメディアデータを受信する方法をコンピュータに実行させるためのプログラムを格納した記憶媒体を有する装置であって、前記方法は、
    サーバから、
    (1)前記メディアデータの1つ以上のセグメントの各々の識別子と、
    (2)前記メディアデータの前記1つ以上のセグメントの各々を記述するメディア情報と、
    (3)前記メディアデータが全方向性メディアフォーマットに従って全方向性データであることを示す記述子と、
    を含むMPEG-DASH規格に準拠したMPDを受信し、
    前記記述子により選択したセグメントを前記識別子に基づいて要求する要求メッセージを前記サーバに送信し、
    前記要求メッセージに従って、前記サーバから前記選択したセグメントを受信する、
    ことを特徴とする装置。
  14. 前記記述子は、@schemeIdUri属性に含まれることを特徴とする請求項13に記載の装置。
  15. 前記記述子は、前記全方向性メディアフォーマットに準拠する前記メディアデータの投影のタイプを示す投影タイプ情報を含むことを特徴とする請求項13又は14に記載の装置。
  16. 前記投影タイプ情報が示すタイプは、立方体、円筒体、角錐体のうちの少なくとも1つを含むことを特徴とする請求項15に記載の装置。
  17. 前記投影タイプ情報は、特定の@schemeIdUri属性を持つEssentialProperty要素に含まれることを特徴とする請求項15又は16に記載の装置。
  18. 前記全方向性メディアフォーマットに準拠する前記メディアデータは、パノラマ画像を含み、該パノラマ画像は、単一のパノラマ領域または複数のパノラマ領域を含むか、または異なるパノラマ領域のセットであることを特徴とする請求項13から17のいずれか一項に記載の装置。
  19. 全方向性メディアフォーマットに準拠するメディアデータを送信する方法をコンピュータに実行させるためのプログラムを格納した記憶媒体を有する装置であって、前記方法は、
    クライアントに、
    (1)前記メディアデータの1つ以上のセグメントの各々の識別子と、
    (2)前記メディアデータの前記1つ以上のセグメントの各々を記述するメディア情報と、
    (3)前記メディアデータが全方向性メディアフォーマットに従って全方向性データであることを示す記述子と、
    を含むMPEG-DASH規格に準拠したMPDを送信し、
    前記記述子により選択されたセグメントを前記識別子に基づいて要求する要求メッセージを前記クライアントから受信し、
    前記要求メッセージに従って、前記選択されたセグメントを前記クライアントに送信する、
    ことを特徴とする装置。
  20. 前記記述子は、@schemeIdUri属性に含まれることを特徴とする請求項19に記載の装置。
  21. 前記記述子は、前記全方向性メディアフォーマットに準拠する前記メディアデータの投影のタイプを示す投影タイプ情報を含むことを特徴とする請求項19又は20に記載の装置。
  22. 前記投影タイプ情報が示すタイプは、立方体、円筒体、角錐体のうちの少なくとも1つを含むことを特徴とする請求項21に記載の装置。
  23. 前記投影タイプ情報は、特定の@schemeIdUri属性を持つEssentialProperty要素に含まれることを特徴とする請求項21又は22に記載の装置。
  24. 前記全方向性メディアフォーマットに準拠する前記メディアデータは、パノラマ画像を含み、該パノラマ画像は、単一のパノラマ領域または複数のパノラマ領域を含むか、または異なるパノラマ領域のセットであることを特徴とする請求項19から23のいずれか一項に記載の装置。
  25. 全方向性メディアフォーマットに準拠するメディアデータを受信する方法をコンピュータに実行させるためのプログラムであって、前記方法は、
    サーバから、
    (1)前記メディアデータの1つ以上のセグメントの各々の識別子と、
    (2)前記メディアデータの前記1つ以上のセグメントの各々を記述するメディア情報と、
    (3)前記メディアデータが全方向性メディアフォーマットに従って全方向性データであることを示す記述子と、
    を含むMPEG-DASH規格に準拠したMPDを受信し、
    前記記述子により選択したセグメントを前記識別子に基づいて要求する要求メッセージを前記サーバに送信し、
    前記要求メッセージに従って、前記サーバから前記選択したセグメントを受信する、
    ことを特徴とするプログラム。
  26. 全方向性メディアフォーマットに準拠するメディアデータを送信する方法をコンピュータに実行させるためのプログラムであって、前記方法は、
    クライアントに、
    (1)前記メディアデータの1つ以上のセグメントの各々の識別子と、
    (2)前記メディアデータの前記1つ以上のセグメントの各々を記述するメディア情報と、
    (3)前記メディアデータが全方向性メディアフォーマットに従って全方向性データであることを示す記述子と、
    を含むMPEG-DASH規格に準拠したMPDを送信し、
    前記記述子により選択されたセグメントを前記識別子に基づいて要求する要求メッセージを前記クライアントから受信し、
    前記要求メッセージに従って、前記選択されたセグメントを前記クライアントに送信する、
    ことを特徴とするプログラム。
  27. 請求項25又は26に記載のプログラムを記憶したコンピュータで読み取り可能な記憶媒体。
JP2021201712A 2016-05-23 2021-12-13 仮想現実メディアコンテンツを適応ストリーミングする方法、デバイス及びコンピュータプログラム Active JP7223106B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
GB1609056.5 2016-05-23
GB1609056.5A GB2550587B (en) 2016-05-23 2016-05-23 Method, device, and computer program for adaptive streaming of virtual reality media content
JP2018559980A JP2019519149A (ja) 2016-05-23 2017-05-18 仮想現実メディアコンテンツを適応ストリーミングする方法、デバイス及びコンピュータプログラム
PCT/EP2017/062050 WO2017202699A1 (en) 2016-05-23 2017-05-18 Method, device, and computer program for adaptive streaming of virtual reality media content

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018559980A Division JP2019519149A (ja) 2016-05-23 2017-05-18 仮想現実メディアコンテンツを適応ストリーミングする方法、デバイス及びコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2022031346A JP2022031346A (ja) 2022-02-18
JP7223106B2 true JP7223106B2 (ja) 2023-02-15

Family

ID=56369829

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018559980A Pending JP2019519149A (ja) 2016-05-23 2017-05-18 仮想現実メディアコンテンツを適応ストリーミングする方法、デバイス及びコンピュータプログラム
JP2021201712A Active JP7223106B2 (ja) 2016-05-23 2021-12-13 仮想現実メディアコンテンツを適応ストリーミングする方法、デバイス及びコンピュータプログラム

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018559980A Pending JP2019519149A (ja) 2016-05-23 2017-05-18 仮想現実メディアコンテンツを適応ストリーミングする方法、デバイス及びコンピュータプログラム

Country Status (8)

Country Link
US (1) US20190141359A1 (ja)
EP (1) EP3466093B1 (ja)
JP (2) JP2019519149A (ja)
KR (1) KR102247399B1 (ja)
CN (1) CN109155874B (ja)
GB (3) GB202108749D0 (ja)
RU (1) RU2711591C1 (ja)
WO (1) WO2017202699A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2524531B (en) * 2014-03-25 2018-02-07 Canon Kk Methods, devices, and computer programs for improving streaming of partitioned timed media data
EP3332553A4 (en) * 2015-08-07 2019-03-27 Mediatek Inc. METHOD AND APPARATUS FOR BITSTRING DIRECT ACCESS AND SYNCHRONIZATION FOR MULTIMEDIA APPLICATIONS
EP3466079B1 (en) * 2016-05-24 2023-07-12 Nokia Technologies Oy Method and an apparatus and a computer program for encoding media content
US10587934B2 (en) * 2016-05-24 2020-03-10 Qualcomm Incorporated Virtual reality video signaling in dynamic adaptive streaming over HTTP
WO2018038523A1 (ko) * 2016-08-25 2018-03-01 엘지전자 주식회사 전방향 비디오를 전송하는 방법, 전방향 비디오를 수신하는 방법, 전방향 비디오 전송 장치, 전방향 비디오 수신 장치
US11532128B2 (en) * 2017-03-23 2022-12-20 Qualcomm Incorporated Advanced signaling of regions of interest in omnidirectional visual media
US20190104326A1 (en) * 2017-10-03 2019-04-04 Qualcomm Incorporated Content source description for immersive media data
GB201717011D0 (en) * 2017-10-17 2017-11-29 Nokia Technologies Oy An apparatus a method and a computer program for volumetric video
EP3720136A4 (en) * 2017-11-30 2020-10-07 Sony Corporation TRANSMISSION DEVICE, TRANSMISSION PROCESS, RECEPTION DEVICE AND RECEPTION PROCESS
KR20200107945A (ko) * 2018-01-12 2020-09-16 소니 주식회사 정보 처리 장치 및 방법
EP3777224A1 (en) * 2018-04-05 2021-02-17 VID SCALE, Inc. Viewpoint metadata for omnidirectional video
CN110956583B (zh) * 2018-09-26 2022-05-10 华为技术有限公司 球面图像处理方法、装置及服务器
WO2020063850A1 (zh) * 2018-09-27 2020-04-02 华为技术有限公司 一种处理媒体数据的方法、终端及服务器
CN111263191B (zh) * 2018-11-30 2023-06-27 中兴通讯股份有限公司 视频数据的处理方法、装置、相关设备及存储介质
US11403784B2 (en) * 2019-03-19 2022-08-02 Tencent America LLC Method and apparatus for tree-based point cloud compression (PCC) media stream using moving picture experts group (MPEG)-dynamic adaptive streaming over HTTP (DASH)
GB2585052B (en) * 2019-06-26 2023-07-26 Canon Kk Method and apparatus for encapsulating panorama images in a file
DE112020003766T5 (de) * 2019-08-08 2022-07-07 Intel Corporation Linkleistungsprognose und Medienstreaming-Technologien
WO2021130355A1 (en) * 2019-12-24 2021-07-01 Koninklijke Kpn N.V. Video processing device and manifest file for video streaming
CN113542907B (zh) * 2020-04-16 2022-09-23 上海交通大学 多媒体数据收发方法、系统、处理器和播放器
US11895170B2 (en) * 2021-03-09 2024-02-06 Cisco Technology, Inc. Synchronicity for virtual reality/augmented reality interactive sessions in wireless networks

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102217322A (zh) 2011-05-27 2011-10-12 华为技术有限公司 媒体发送方法、媒体接收方法和客户端及系统
EP2824885A1 (en) 2013-07-12 2015-01-14 Alcatel Lucent A manifest file format supporting panoramic video
WO2015144735A1 (en) 2014-03-25 2015-10-01 Canon Kabushiki Kaisha Methods, devices, and computer programs for improving streaming of partitioned timed media data
WO2015197815A1 (en) 2014-06-27 2015-12-30 Koninklijke Kpn N.V. Determining a region of interest on the basis of a hevc-tiled video stream
WO2015197818A1 (en) 2014-06-27 2015-12-30 Koninklijke Kpn N.V. Hevc-tiled video streaming

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1093711C (zh) * 1998-02-06 2002-10-30 财团法人工业技术研究院 全景图象式虚拟现实播放系统和方法
JP2001285832A (ja) * 2000-01-24 2001-10-12 Matsushita Electric Ind Co Ltd データ受信装置,データ受信方法,データ伝送方法,およびデータ記憶媒体
JP2003141562A (ja) * 2001-10-29 2003-05-16 Sony Corp 非平面画像の画像処理装置及び画像処理方法、記憶媒体、並びにコンピュータ・プログラム
US7149367B2 (en) * 2002-06-28 2006-12-12 Microsoft Corp. User interface for a system and method for head size equalization in 360 degree panoramic images
JP5016541B2 (ja) * 2008-04-01 2012-09-05 富士フイルム株式会社 画像処理装置および方法並びにプログラム
CN102056015B (zh) * 2009-11-04 2012-12-05 沈阳迅景科技有限公司 一种全景虚拟现实漫游中的流媒体应用方法
US9590814B2 (en) * 2011-08-01 2017-03-07 Qualcomm Incorporated Method and apparatus for transport of dynamic adaptive streaming over HTTP (DASH) initialization segment description fragments as user service description fragments
FR3004881B1 (fr) * 2013-04-19 2015-04-17 Kolor Procede de generation d'un flux video de sortie a partir d'un flux video large champ
US20150130814A1 (en) * 2013-11-11 2015-05-14 Amazon Technologies, Inc. Data collection for multiple view generation
EP3103262B1 (en) * 2014-07-01 2019-09-04 Huawei Technologies Co. Ltd. Client behavior control in adaptive streaming
WO2016108188A1 (en) * 2014-12-31 2016-07-07 Nokia Technologies Oy Inter-layer prediction for scalable video coding and decoding

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102217322A (zh) 2011-05-27 2011-10-12 华为技术有限公司 媒体发送方法、媒体接收方法和客户端及系统
EP2824885A1 (en) 2013-07-12 2015-01-14 Alcatel Lucent A manifest file format supporting panoramic video
WO2015144735A1 (en) 2014-03-25 2015-10-01 Canon Kabushiki Kaisha Methods, devices, and computer programs for improving streaming of partitioned timed media data
WO2015197815A1 (en) 2014-06-27 2015-12-30 Koninklijke Kpn N.V. Determining a region of interest on the basis of a hevc-tiled video stream
WO2015197818A1 (en) 2014-06-27 2015-12-30 Koninklijke Kpn N.V. Hevc-tiled video streaming

Also Published As

Publication number Publication date
KR20190008325A (ko) 2019-01-23
EP3466093A1 (en) 2019-04-10
JP2019519149A (ja) 2019-07-04
RU2711591C1 (ru) 2020-01-17
GB2578227A (en) 2020-04-22
CN109155874A (zh) 2019-01-04
GB2550587A (en) 2017-11-29
GB201914981D0 (en) 2019-11-27
GB202108749D0 (en) 2021-08-04
JP2022031346A (ja) 2022-02-18
WO2017202699A1 (en) 2017-11-30
GB201609056D0 (en) 2016-07-06
GB2550587B (en) 2020-05-20
EP3466093B1 (en) 2021-12-01
CN109155874B (zh) 2022-01-11
KR102247399B1 (ko) 2021-05-03
US20190141359A1 (en) 2019-05-09
GB2578227B (en) 2021-09-15

Similar Documents

Publication Publication Date Title
JP7223106B2 (ja) 仮想現実メディアコンテンツを適応ストリーミングする方法、デバイス及びコンピュータプログラム
KR102246002B1 (ko) 가상 현실 미디어 콘텐트의 스트리밍을 개선하는 방법, 디바이스, 및 컴퓨터 프로그램
JP6735415B2 (ja) オーディオビジュアルコンテンツの観察点および観察向きの制御された選択のための方法および装置
JP7472220B2 (ja) 方法、プログラム、及びデバイス
JP7058273B2 (ja) 情報処理方法および装置
US11094130B2 (en) Method, an apparatus and a computer program product for video encoding and video decoding
KR102559862B1 (ko) 미디어 콘텐츠 전송을 위한 방법, 디바이스, 및 컴퓨터 프로그램
US20210250568A1 (en) Video data processing and transmission methods and apparatuses, and video data processing system
JP2020526057A (ja) メディアコンテンツを送信するための方法、装置及びコンピュータプログラム
EP3721636A1 (en) Method for adaptive streaming of media
JP7035088B2 (ja) 魚眼ビデオデータのための高レベルシグナリング
JP2022524871A (ja) メディアコンテンツにおけるレイトバインディングのための方法および装置
US11677978B2 (en) Omnidirectional video processing method and device, related apparatuses and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220105

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20220630

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230203

R151 Written notification of patent or utility model registration

Ref document number: 7223106

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151