JP6466324B2 - ピクチャ方位情報を有するマルチメディア通信のためのデバイスおよび方法 - Google Patents

ピクチャ方位情報を有するマルチメディア通信のためのデバイスおよび方法 Download PDF

Info

Publication number
JP6466324B2
JP6466324B2 JP2015518486A JP2015518486A JP6466324B2 JP 6466324 B2 JP6466324 B2 JP 6466324B2 JP 2015518486 A JP2015518486 A JP 2015518486A JP 2015518486 A JP2015518486 A JP 2015518486A JP 6466324 B2 JP6466324 B2 JP 6466324B2
Authority
JP
Japan
Prior art keywords
picture
information
video
rotation
video information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015518486A
Other languages
English (en)
Other versions
JP2015524235A5 (ja
JP2015524235A (ja
Inventor
ワン、イェ−クイ
レウン、ニコライ・コンラド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2015524235A publication Critical patent/JP2015524235A/ja
Publication of JP2015524235A5 publication Critical patent/JP2015524235A5/ja
Application granted granted Critical
Publication of JP6466324B2 publication Critical patent/JP6466324B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/527Global motion vector estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/23605Creation or processing of packetized elementary streams [PES]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
    • H04N21/258Client or end-user data management, e.g. managing client capabilities, user preferences or demographics, processing of multiple end-users preferences to derive collaborative data
    • H04N21/25808Management of client data
    • H04N21/25825Management of client data involving client display capabilities, e.g. screen resolution of a mobile phone
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/414Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance
    • H04N21/41407Specialised client platforms, e.g. receiver in car or embedded in a mobile appliance embedded in a portable device, e.g. video client on a mobile phone, PDA, laptop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • H04N1/3877Image rotation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Graphics (AREA)
  • General Engineering & Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

[0001] 本発明は、ピクチャデータをキャプチャすることおよびディスプレイすることに関し、より具体的には、ピクチャ方位情報を含むピクチャデータをキャプチャおよびディスプレイすることに関する。
[0002] モバイルデバイス上でビデオを記録する際、記録デバイスが回転すると、ピクチャは異なる方位で記録されることが可能である。いくつかの場合において、モバイルデバイスのカメラによってキャプチャされた長方形のピクチャは、その場面の情報(例えば、風景対ポートレート)をより良くキャプチャするために、特定の方向にカメラを方向付けることを好ましくさせる。しかしながら、ピクチャがキャプチャされる方位についての任意の情報がないと、ディスプレイデバイスは、例えば、ピクチャのプレゼンテーションが不適切に回転されたり、逆さまになったりしうる等、ピクチャを適切にディスプレイすることができない。いくつかのシナリオにおいて、ディスプレイデバイスは、回転されたプレゼンテーションを補正するために、ビューアで物理的に回転させられることができない。例えば、HDTVのような大きな固定されたディスプレイは、物理的に回転させられることができない。また、2ウェイビデオ会議コール(2-way video conferencing calls)の場合には、ディスプレイデバイスが回転すると、デバイス内のカメラもまた回転しうる。これは、他の端末に送信されたビデオ映像を回転させ、キャプチャしている場面にカメラがより良くマッチするように方向付けられるのを妨げるため、望ましくない。ディスプレイデバイス上にピクチャをディスプレイする前に、ディスプレイデバイスが、キャプチャされたピクチャを正しく方向付けることを可能にするための情報を提供する必要がある。
[0003] 本発明のシステム、方法、およびデバイスは、いくつかの態様をそれぞれ有し、これらのうちのいずれも、単独でその望ましい属性を有するものではない。下記の特許請求の範囲によって示される本発明の範囲を限定することなく、いくつかの特徴が簡潔に説明されるだろう。この説明を考慮した後に、また、特に「発明を実施するための形態」と題されたセクションを読んだ後に、当業者であれば、本発明の特徴が、どのようにマルチメディアプレゼンテーション(例えば、ビデオ、連続したピクチャ)に含まれるピクチャに対する回転の量および継続期間の、識別およびアプリケーションを含む利点を提供するかを理解するだろう。
[0004] ある革新的な態様において、メディア情報をディスプレイするための方法が提供される。方法は、ピクチャまたはビデオ情報を取得することを含み、ここで、ピクチャまたはビデオ情報は、少なくとも1つの出力ピクチャおよび少なくとも1つの出力ピクチャのための回転情報を含み、回転情報はピクチャまたはビデオ情報の第1の部分に含まれ、且つ少なくとも1つの出力ピクチャはピクチャまたはビデオ情報の第2の部分に含まれ、第2の部分は符号化され、且つ第1の部分は第2の部分とは異なる。方法は、ピクチャまたはビデオ情報の第2の部分に含まれる少なくとも1つの出力ピクチャを復号することをさらに含む。方法はまた、ビデオ情報のピクチャの第1の部分に含まれる回転情報に基づいて、回転データおよび回転データのための期間を識別することを含む。方法はまた、識別された回転データおよび識別された期間に従って、復号された少なくとも1つの出力ピクチャを回転することを含む。
[0005] 別の革新的な態様において、メディア情報をディスプレイするための装置が提供される。装置は、ピクチャまたはビデオ情報を記憶するように構成されたメモリユニットを含み、ここで、ピクチャまたはビデオ情報は、少なくとも1つの出力ピクチャおよび少なくとも1つの出力ピクチャについての回転情報を含み、回転情報は、ピクチャまたはビデオ情報の第1の部分に含まれ、且つ少なくとも1つの出力ピクチャは、ピクチャまたはビデオ情報の第2の部分に含まれ、第2の部分は符号化され、且つ第1の部分は第2の部分とは異なる。装置は、トランスポートレイヤプロセッサを含む。トランスポートレイヤプロセッサは、第1の部分に含まれる回転情報から回転データおよび回転データについての期間を抽出するように構成される。トランスポートレイヤプロセッサはさらに、第2の部分から少なくとも1つの出力ピクチャを抽出するように構成される。装置はまた、抽出された少なくとも1つの出力ピクチャを復号するように構成されたデコーダを含む。装置はさらに、識別された回転データおよび識別された期間に基づいて、ディスプレイのための、復号された少なくとも1つの出力ピクチャのバージョンを生成するように構成されたプレゼンテーションプロセッサを含む。
[0006] 更なる革新的な態様において、装置のプロセッサによって実行可能な命令を備えたコンピュータ可読記憶媒体が提供される。命令は、装置に、ピクチャまたはビデオ情報を取得させ、ここで、ピクチャまたはビデオ情報は、少なくとも1つの出力ピクチャおよび少なくとも1つの出力ピクチャのための回転情報を含み、回転情報は、ピクチャまたはビデオ情報の第1の部分に含まれ、且つ少なくとも1つの出力ピクチャは、ピクチャまたはビデオ情報の第2の部分に含まれ、第2の部分は、符号化され、且つ第1の部分は、第2の部分とは異なる。命令はまた、装置に、ピクチャまたはビデオ情報の第2の部分に含まれる少なくとも1つの出力ピクチャを復号させる。命令はさらに、装置に、ビデオ情報のピクチャの第1の部分に含まれる回転情報に基づいて、回転データおよび回転データのための期間を識別させる。命令はまた、装置に、識別された回転データおよび識別された期間に従って、復号された少なくとも1つの出力ピクチャを回転させる。
[0007] ディスプレイメディア情報についての別の革新的な装置が提供される。装置は、ピクチャまたはビデオ情報を取得するための手段を含み、ここで、ピクチャまたはビデオ情報は、少なくとも1つの出力ピクチャおよび少なくとも1つの出力ピクチャのための回転情報を含み、回転情報は、ピクチャまたはビデオ情報の第1の部分に含まれ、且つ少なくとも1つの出力ピクチャは、ピクチャまたはビデオ情報の第2の部分に含まれ、第2の部分は、符号化され、且つ第1の部分は、第2の部分とは異なる。装置は、第1の部分に含まれる回転情報から回転データおよび回転データについての期間を抽出し、第2の部分から少なくとも1つの出力ピクチャを抽出するように構成されたトランスポートレイヤ情報を処理するための手段を含む。装置はさらに、抽出された少なくとも1つの出力ピクチャを復号するように構成された復号するための手段を含む。装置はまた、識別された回転データおよび識別された期間に基づいて、ディスプレイのための復号された少なくとも1つの出力ピクチャのバージョンを生成するように構成されたディスプレイを生成するための手段を含む。
[0008] さらに別の革新的な態様において、メディア情報を送信するための方法が提供される。方法は、ピクチャまたはビデオ情報を取得することを含み、ここで、ピクチャまたはビデオ情報は、ピクチャまたはビデオ情報が取得される場合、メディアキャプチャユニットのイメージデータおよび方位情報を含む。方法はさらに、ピクチャまたはビデオ情報を符号化することを含み、ここにおいて、方位情報は、第1の部分に含まれ、且つイメージデータは、第2の部分に含まれ、第2の部分は、符号化され、且つ第1の部分は、第2の部分とは異なる。方法はまた、第1の部分および第2の部分を送信することを含む。
[0009] メディア情報を送信するための装置が、さらに革新的な態様において提供される。装置は、ピクチャまたはビデオ情報を取得するように構成されたメディアキャプチャユニットを含み、ここで、ピクチャまたはビデオ情報は、ピクチャまたはビデオ情報が取得される場合、メディアキャプチャユニットのイメージデータおよび方位情報を含む。装置は、ピクチャまたはビデオ情報を符号化するように構成されたエンコーダを含み、ここにおいて、方位情報は、第1の部分に含まれ、且つイメージデータは、第2の部分に含まれ、第2の部分は、符号化され、且つ第1の部分は、第2の部分とは異なる。装置はさらに、第1の部分および第2の部分を送信するように構成された送信機を含む。
[0010] さらに別の革新的な態様において、装置のプロセッサによって実行可能な命令を備えたコンピュータ可読記憶媒体が提供される。命令は、装置に、ピクチャまたはビデオ情報を取得させ、ここで、ピクチャまたはビデオ情報は、ピクチャまたはビデオ情報が取得される場合、メディアキャプチャユニットのイメージデータおよび方位情報を含む。命令は、装置に、ピクチャまたはビデオ情報を符号化させ、ここにおいて、方位情報は、第1の部分に含まれ、且つイメージデータは、第2の部分に含まれ、第2の部分は、符号化され、且つ第1の部分は、第2の部分とは異なる。命令はまた、装置に、第1の部分および第2の部分を送信させる。
[0011] さらなる革新的な態様において、メディア情報を送信するための装置が提供される。装置は、ピクチャまたはビデオ情報を取得するための手段を含み、ここで、ピクチャまたはビデオ情報は、ピクチャまたはビデオ情報が取得される場合、メディアキャプチャユニットのイメージデータおよび方位情報を含む。装置は、ピクチャまたはビデオ情報を符号化するための手段を含み、ここにおいて、方位情報は、第1の部分に含まれ、且つイメージデータは、第2の部分に含まれ、第2の部分は、符号化され、且つ第1の部分は、第2の部分とは異なる。装置はまた、第1の部分および第2の部分を送信するための手段を含む。
[0012] 本発明に従って、これらのおよび他の実装が、下記の図面に関連して以下でさらに説明される。
[0013] 図1は、例示的なビデオ符号化および復号システムの機能ブロック図を図示する。 [0014] 図2は、例示的なビデオ処理デバイスの機能ブロック図を示す。 [0015] 図3は、例示的な符号化デバイスの機能ブロック図を図示する。 [0016] 図4は、ピクチャ方位情報の例示的な符号化に関するメッセージ図を図示する。 [0017] 図5は、ピクチャ方位情報の別の例示的な符号化に関するメッセージ図を図示する。 [0018] 図6は、ピクチャ方位情報のさらなる例示的な符号化に関するメッセージ図を図示する。 [0019] 図7は、例示的な復号デバイスの機能ブロック図を図示する。 [0020] 図8は、メディア情報を送信する方法に関する処理フロー図を図示する。 [0021] 図9は、メディア情報を送信するための例示的な装置の機能ブロック図を図示する。 [0022] 図10は、メディア情報をディスプレイする方法に関する処理フロー図を図示する。 [0023] 図11は、メディア情報をディスプレイするための例示的な装置の機能ブロック図を図示する。
[0024] これらの図面において、同じまたは類似した機能を有するエレメントは、可能な範囲内で、同じ符号を有している。
[0025] ピクチャに関する方位情報は、ピクチャを適切にディスプレイすることを可能にするようにディスプレイデバイスに提供される。この情報は、ピクチャを符号化するために使用されるコーデックに関係なく、ピクチャに対して利用可能でありうる。使用されるコーデックから独立するという、一般的な解決策が望ましい。複数のメディアストリームまたはピクチャがディスプレイされる場合、異なるストリームまたはピクチャのための回転情報を指示することが必要でありうる。
[0026] 本明細書では、ユーザに対してピクチャをディスプレイする前に適切にそれを方向付けることができるように、ピクチャがキャプチャされた方位を、ディスプレイデバイスが決定することを可能にするピクチャ方位情報を提供するための様々な代替的方法が説明される。ピクチャ方位情報は、推奨回転(recommended rotation)およびその持続期間を含む。推奨回転は、反時計回りの推奨回転(recommended anticlockwise rotation)、または時計回りの推奨回転(recommended clockwise rotation)でありうる。本文書において、下記では、推奨回転が、反時計回りの推奨回転であると仮定する。情報は、帯域内送信、リアルタイムトランスポートプロトコル制御プロトコル(RTCP)、リアルタイムトランスポートプロトコル(RTP)フィールド(例えば、ヘッダ)、セッション記述プロトコル(SDP)、メディアプレゼンテーション記述(MPD)、または、ISOベースメディアファイルフォーマットボックスを使用して、送信側(例えば、第1の固定された、または、モバイルの通信デバイス)から受信側(例えば、第2の固定された、または、モバイルの通信デバイス)へ搬送されうる。ピクチャ方位情報の受信の際、受信側は、ピクチャがディスプレイされる前に、ビデオ復号器からの出力ピクチャを回転させうる。
[0027] 以下の説明において、例に関する完全な理解を提供するために、特定の詳細が与えられる。しかしながら、当業者であれば、その例がこれらの特定の詳細なしで行われうることを理解するだろう。例えば、不要な詳細でこれらの例を不明瞭にしないように、電気コンポーネント/デバイスはブロック図で示されうる。他の事例において、このようなコンポーネント、他の構造および技法が、これらの例をさらに説明するために詳細に示されうる。
[0028] また、これらの例は、処理として説明されることができ、それは、フローチャート、フロー図、有限状態図(finite state diagram)、構造図、またはブロック図として図示されることに留意されたい。フローチャートは、動作を順次的な処理として説明しうるが、これら動作の多くは並列または同時に実行されることができ、また、処理は繰り返されることができる。加えて、動作の順序は並べ替えられることができる。処理は、その動作が完了した場合に終了する。処理は、方法、関数、手順、サブルーチン、サブプログラム等に対応しうる。処理がソフトウェア関数に対応する場合、その終了は、この関数が呼び出し関数または主関数に戻ることに対応する。
[0029] 当業者であれば、情報およびメッセージは、様々な異なる技術および技法のうちの任意のものを用いて表されうることを理解するだろう。例えば、上記の説明を通して参照されうるデータ、命令群、コマンド、情報、信号、ビット、シンボル、およびチップは、電圧、電流、電磁波、磁界または磁気粒子、光学界または光学粒子、あるいはそれらの任意の組み合わせによって表わされうる。
[0030] 添付された特許請求の範囲内で、実施形態の様々な態様が下記に説明される。本明細書で説明される態様は、幅広い種類の形式で具現化され、本明細書で説明されるあらゆる特定の構造および/または機能が例示的なものにすぎないことは明らかであるだろう。本開示に基づいて、当業者は、本明細書で説明される態様が、いずれの他の態様からも独立して実装され、これらの態様のうちの2つ以上が、様々な手法で組み合わされうることを理解すべきである。例えば、本明細書で述べられるあらゆる数の態様を使用して、装置が実装され、および/または、方法が実施されうる。加えて、本明細書で述べられる態様の1つまたは複数に加えて、または態様の1つまたは複数以外の、他の構造および/または機能を使用して、そのような装置が実装されうる、ならびに/あるいはそのような方法が実施されうる。
[0031] 図1は、例示的なビデオ符号化および復号システムの機能ブロック図を図示する。図1に示されるように、システム10は、符号化されたビデオを、通信チャネル15を介して宛先デバイス16へ送信するように構成されうるソースデバイス12を含む。ソースデバイス12および宛先デバイス16は、任意の広範囲のデバイスを備えることができ、それは、モバイルデバイス、または、一般に固定されたデバイスを含む。いくつかの場合おいて、ソースデバイス12および宛先デバイス16は、例えば、ワイヤレスハンドセット、いわゆるセルラまたはサテライト無線電話機、パーソナルデジタルアシスタント(PDA)、モバイルメディアプレイヤ、または通信チャネル15を介してビデオ情報を通信することができる任意のデバイス等といった、ワイヤレス通信デバイスを備え、それらは、ワイヤレスでありうるか、または、ワイヤレスでない可能性がある。しかしながら、本開示の技法は、ピクチャ方位情報に関しており、多くの異なるシステムおよび設定において使用されうる。図1は、単にこのようなシステムの一例にすぎない。
[0032] 図1の例において、ソースデバイス12は、ビデオソース20、ビデオエンコーダ22、変調器/復調器(モデム)23および送信機24を含みうる。宛先デバイス16は、受信機26、モデム27、ビデオデコーダ28、およびディスプレイデバイス30を含みうる。本開示に従って、ソースデバイス12のビデオエンコーダ22は、ピクチャのシーケンスを符号化するように構成されうる。ビデオエンコーダ22は、3Dビデオデータを生成するためのビデオピクチャの各々に適用されることができるパラメータのセットを含む3Dコンバージョン情報のような、ピクチャに関連付けられた追加の情報を符号化するように構成されうる。モデム23および送信機24は、ワイヤレス信号を変調し、宛先デバイス16に送信しうる。この方法において、ソースデバイス12は、任意の追加の関連付けられた情報とともに、符号化されたピクチャのシーケンスを宛先デバイス16に通信する。
[0033] 受信機26およびモデム27は、ソースデバイス12からワイヤレス信号を受信し、受信したワイヤレス信号を復調する。それに応じて、ビデオデコーダ28は、ピクチャのシーケンスを受信しうる。ビデオデコーダ28はまた、符号化されたピクチャのシーケンスを復号するために使用されることができる追加の情報を受信しうる。
[0034] ソースデバイス12および宛先デバイス16は、ソースデバイス12が宛先デバイス16への送信のために符号化されたビデオデータを生成する、このような符号化デバイスの単なる例にすぎない。いくつかの場合おいて、デバイス12、16の各々は、ビデオ符号化および復号コンポーネントを含むように、実質的に対称的な方法で動作しうる。それゆえ、システム10は、例えば、ビデオストリーミング、ビデオ再生、ビデオ放送、またはビデオ電話技術のような、ビデオデバイス12、16間の一方向のまたは双方向のビデオ送信をサポートしうる。
[0035] ソースデバイス12のビデオソース20は、例えば、ビデオカメラ、以前キャプチャされたビデオを含むビデオアーカイブ、またはビデオコンテンツプロバイダからのビデオフィードのような、ビデオキャプチャデバイスを含みうる。さらなる代替例として、ビデオソース20は、ソースビデオとしてのコンピュータグラフィックベースのデータ、または、ライブビデオ、アーカイブビデオ、およびコンピュータによって生成されたビデオの組み合わせを生成しうる。いくつかの場合おいて、ビデオソース20がビデオカメラである場合、ソースデバイス12および宛先デバイス16は、いわゆるカメラ電話、またはビデオ電話を形成しうる。いくつかの場合おいて、キャプチャされた、キャプチャされる前の、またはコンピュータによって生成されたビデオは、ビデオエンコーダ22によって符号化されうる。符号化処理の一部分として、ビデオエンコーダ22は、例えば、ビデオの一部分に関してカメラの方位を識別するピクチャ方位情報を取得すること等の、本明細書において説明される方法のうちの1つまたは複数を実装するように構成されうる。
[0036] 符号化されたビデオ情報は次に、例えば、コード分割多元接続(CDMA)、または別の通信規格等のような通信規格に従って、モデム23によって変調され、また送信機24を介して宛先デバイス16に送信される。符号化されたビデオ情報は、ピクチャ方位情報を含みうる。モデム23は、様々なミキサ、フィルタ、増幅器、または信号変調のために設計された他のコンポーネントを含みうる。送信機24は、増幅器、フィルタ、および1つまたは複数のアンテナを含む、データを送信するために設計された回路を含みうる。
[0037] 宛先デバイス16の受信機26は、チャネル15を介して情報を受信するように構成されうる。モデム27は、情報を復調するように構成されうる。ビデオ符号化処理は、ピクチャ方位情報を含むように、本明細書において説明される技法の1つまたは複数を実装しうる。チャネル15を介して通信された情報は、ビデオエンコーダ22によって定義された情報を含み、それは、本開示に従って、ビデオデコーダ28によって使用されうる。ディスプレイデバイス30は、復号されたビデオデータをユーザに対してディスプレイし、例えば、ブラウン管、液晶ディスプレイ(LCD)、プラズマディスプレイ、有機発光ダイオード(OLED)ディスプレイ、または別のタイプのディスプレイデバイス等のような、任意の様々なディスプレイデバイスを備えうる。
[0038] 図1の例において、通信チャネル15は、例えば、無線周波数(RF)スペクトル、ならびに1つまたは複数の物理送信回線のような、任意のワイヤレスまたはワイヤード通信媒体、あるいはワイヤレスおよびワイヤード媒体の任意の組み合わせを備えうる。それに応じて、モデム23および送信機24は、多くの利用可能なワイヤレスプロトコル、ワイヤードプロトコルまたはワイヤードおよびワイヤレスプロトコルをサポートしうる。通信チャネル15は、ローカルエリアネットワーク(LAN)、ワイドエリアネットワーク(WAN)、または、インターネットのような1つまたは複数のネットワークの相互接続を備えるグローバルネットワークのような、パケットベースのネットワークの一部分を形成しうる。通信チャネル15は、一般に、ソースデバイス12から宛先デバイス16へビデオデータを送信するための、任意の適切な通信媒体、または異なる通信媒体の集合を表す。通信チャネル15は、ルータ、スイッチ、基地局、または、ソースデバイス12から宛先デバイス16への通信を容易にするのに役立ちうる任意の他の機器を含みうる。本開示の技法は、あるデバイスから別のデバイスへの符号化されたデータの通信を必ずしも必要とするわけではなく、また、相互に復号することなく符号化のシナリオに適用されうる。また、本開示の態様は、相互に符号化することなく復号のシナリオにも適用されうる。
[0039] ビデオエンコーダ22およびビデオデコーダ28は、代替的に、MPEG−4,Part 10、およびアドバンスドビデオ符号化(Advanced Video Coding(AVC))、または高効率ビデオ符号化(High Efficiency Video Coding(HEVC))と称される次世代のビデオ符号化規格と言われている、例えばITU−T H.264規格のようなビデオ圧縮規格に従うように動作しうる。しかしながら、本開示の技法は、任意の特定の符号化規格、またはそれらの拡張に限定されない。図1には示されていないが、いくつかの態様において、ビデオエンコーダ22およびビデオデコーダ28は、オーディオエンコーダおよびデコーダと各々統合されることができ、共通のデータストリームまたは別個のデータストリームでオーディオおよびビデオの両方の符号化に対処するための、適切なMUX−DEMUXユニットまたは他のハードウェアおよびソフトウェアを含みうる。適用可能な場合、MUX−DEMUXユニットは、マルチプレクサプロトコル(例えば、ITU H.223)、または、ユーザデータグラムプロトコル(UDP)のような他のプロトコルに準拠しうる。
[0040] ビデオエンコーダ22およびビデオデコーダ28は、1つまたは複数のマイクロプロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、ディスクリート論理回路、マイクロプロセッサ上のソフトウェア実行、または他のプラットフォーム、ハードウェア、ファームウェア、またはそれらの任意の組み合わせとして、各々実装されうる。ビデオエンコーダ22およびビデオデコーダ28の各々は、1つまたは複数のエンコーダまたはデコーダに含まれることができ、それらのどちらかは、それぞれのモバイルデバイス、加入者デバイス、ブロードキャストデバイス、サーバ等において複合エンコーダ/デコーダ(CODEC)の一部分として統合されうる。
[0041] ビデオシーケンスは通常、一連のビデオピクチャを含む。ビデオエンコーダ22およびビデオデコーダ28は、ビデオデータを符号化および復号するために、個々のビデオピクチャ内のビデオブロックで動作しうる。ビデオブロックは、固定された、または可変のサイズを有することができ、指定されたコーディング規格に従ったサイズで異なりうる。各ビデオピクチャは、一連のスライスまたは他の単独で復号可能なユニットを含みうる。各スライスは、例えば、コーディングツリーユニット(coding tree units)のような一連のマクロブロックまたは他のビデオブロックを含むことができ、それらは、サブブロックに配置されうる。例として、ITU−T H.264規格は、輝度成分については16×16、8×8、または4×4、彩度成分については8×8といった様々なブロックサイズでのイントラ予測をサポートし、同様に輝度成分については16×16、16×8、8×16、8×8、8×4、4×8、および4×4、彩度成分については対応するスケーリングされた(scaled)サイズのような、様々なブロックサイズでのインター予測をサポートする。ビデオブロックは、離散コサイン変換または概念的に類似した変換処理等の、例えば、下記の変換処理のような、変換係数のブロック、またはピクセルデータのブロックを備えうる。
[0042] マクロブロック、コーディングツリーユニット、または他のビデオブロックは、例えば、スライス、スライスグループ、タイル、または他の独立したユニットのような、単独で復号可能なユニットにグループ分けされうる。マクロブロック、コーディングツリーユニット、または他のビデオブロックは、例えば、従属スライス(dependent slices)、エントロピースライス、波面並列処理波(wavefront parallel processing waves)または、他の従属ユニットのような、従属的に復号可能なユニットにグループ分けされうる。それぞれのスライスは、ビデオピクチャの単独で復号可能なユニットでありうる。代替的に、ピクチャ自体が復号可能なユニットでありうるか、またはピクチャの他の部分が復号可能なユニットとして定義されうる。本開示において、「符号化されたユニット」という用語は、例えば、ピクチャ全体、ピクチャのスライス、または使用される符号化技法に従って定義された別の単独で復号可能なユニットのような、ビデオピクチャのいずれかの単独で復号可能なユニットを指す。
[0043] 図2は、例示的なビデオ処理デバイスの機能ブロック図を示す。デバイス202は、本明細書で説明される様々な方法を実装するように構成されうるデバイスの例である。例えば、デバイス202は、ソースデバイス12または宛先デバイス16として実装されうる。
[0044] デバイス202は、デバイス202の動作を制御するプロセッサユニット204を含みうる。プロセッサユニット204のうちの1つまたは複数は、中央処理ユニット(CPU)と集合的に呼ばれうる。読み取り専用メモリ(ROM)とランダムアクセスメモリ(RAM)との両方を含みうるメモリ206は、命令およびデータをプロセッサユニット204に提供する。メモリ206は一般に、コンピュータ可読記憶媒体として実装されうる。メモリ206の一部分はまた、不揮発性ランダムアクセスメモリ(NVRAM)を含みうる。プロセッサユニット204は、メモリ206内に記憶されたプログラム命令に基づいて、論理および演算動作を行うように構成されうる。メモリ206における命令は、本明細書で説明される方法を実装するように実行可能でありうる。
[0045] プロセッサユニット204は、汎用マイクロプロセッサ、マイクロコントローラ、デジタル信号プロセッサ(DPS)、フィールドプログラマブルゲートアレイ(FPGA)、プログラマブル論理デバイス(PLD)、コントローラ、ステートマシン、ゲート論理、ディスクリートハードウェアコンポーネント、専用ハードウェア有限ステートマシン、または、計算または情報に関する他の操作を行うことができる、任意の他の適切なエンティティの、任意の組み合わせで実装されうる。ある実装において、プロセッサユニット204がDPSを含む場合、DSPは、送信のためのパケット(例えば、データパケット)を生成するように構成されうる。いくつかの態様において、パケットは、物理レイヤデータユニット(PPDU)を備えうる。
[0046] デバイス202はまた、ソフトウェアを記憶するための機械可読媒体を含みうる。プロセッサユニット204は、ソフトウェアを記憶するための1つまたは複数の非一時的機械可読媒体を備えうる。ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語と呼ばれるか、またはその他のものと呼ばれるか、ソフトウェアは、いずれのタイプの命令も意味するように広く解釈されるべきである。命令は、コード(例えば、ソースコードフォーマット、バイナリコードフォーマット、実行可能コードフォーマット、または任意の他の適切なコードのフォーマット)を含みうる。命令は、プロセッサユニット204によって実行される場合、デバイス202に、本明細書で説明される様々な機能を行わせる。
[0047] デバイス202は、デバイス202と遠隔ロケーションとの間のデータの、送信および受信をそれぞれ可能にするための送信機210および/または受信機212を含みうる。送信機210および受信機212は、トランシーバ214と組み合わせられうる。アンテナ216は、ハウジング208に取り付けられ、またトランシーバ214に電気的に結合されうる。デバイス202はまた、複数の送信機、複数の受信機、複数のトランシーバ、および/または複数のアンテナ(図示されない)を含みうる。
[0048] 送信機210は、パケットおよび/または信号を無線で送信するように構成されうる。例えば、送信機210は、上述されたプロセッサユニット204によって生成された異なるタイプのパケットを送信するように構成されうる。送信されるべきパケットは、送信機201に提供される。例えば、プロセッサユニット204は、メモリ206でパケットを記録し、送信機201は、パケットを取り出すように構成されうる。一旦送信機がパケットを取り出すと、送信機201は、アンテナ216を介してパケットを送信しうる。いくつかの実装において、送信機201は、ネットワーク入力/出力224を介してパケットを送信しうる。
[0049] デバイス202が宛先デバイス16として実装される場合、アンテナ216は、無線で送信されたパケット/信号を検出する。受信機212は、検出されたパケット/信号を処理し、プロセッサユニット204に対してそれらを利用可能にさせるように構成されうる。例えば、受信機212は、メモリ206においてパケットを記録し、プロセッサユニット204は、パケットを取り出すように構成されうる。
[0050] デバイス202はまた、トランシーバ214によって受信した信号のレベルを検出し、定量化しようとするのに使用されうる信号検出器218を含みうる。デバイス202はまた、信号を処理する際に使用するための、デジタル信号プロセッサ(DSP)220を含みうる。DPS220は、送信のためのパケットを生成するように構成されうる。いくつかの態様において、パケットは、物理レイヤデータユニット(PPDU)を備えうる。
[0051] デバイス202は、いくつかの態様において、ユーザインターフェース222をさらに備えうる。ユーザインターフェース222は、キーパッド、マイクロフォン、スピーカ、および/またはディスプレイを含みうる。いくつかの実装において、デバイス202は、ディスプレイに結合されうる。例えば、デバイス202は、ビデオ情報を受信するセットトップボックスとして実装され、ディスプレイのための情報を処理し、またディスプレイのための情報をテレビに送信しうる。ユーザインターフェース222は、情報をデバイス202のユーザに搬送し、および/またはユーザからの入力を受信する、任意のエレメントまたはコンポーネントをさらに含みうる。デバイス202はまた、デバイス202に含まれるコンポーネントのうちの1つまたは複数を包囲するハウジング208を含みうる。
[0052] デバイス202は、方位検出器228を含みうる。ソースデバイス12として実装される場合、方位検出器228は、ビデオ情報がキャプチャされる際に、デバイス220の方位を識別するように構成されうる。方位検出器228は、ビデオ情報(例えば、ビデオに含まれた周知の目印を識別すること)、地理空間測位システム(geospatial positioning system)、レーザ計算(laser reckoning)(例えば、三角測量、水準測量)、および/またはデバイス202に含まれるキャプチャセンサの方位を指示するデバイス202によって生成された信号に基づいて、ジャイロスコープ、磁気計算(magnetic reckoning)(例えば、コンパス)、の使用を通して方位を検出しうる。
[0053] 宛先デバイス16として実装される場合、方位検出器228は、デバイス220の方位を識別するように構成されうる。デバイス220の方位は、ディスプレイのためのビデオ情報を準備するのに使用されうる。例えば、デバイス220が横向きモード(例えば、ディスプレイの高さがディスプレイの幅より短い)の状態である場合、デバイス220は、ビデオディスプレイを強化するためにビデオ情報を調整しうる(例えば、クロッピング、スケーリング、回転)。デバイス220がディスプレイに結合される際の実装において、デバイス202は、結合されたディスプレイデバイスから方位情報を受信しうる。方位情報は、方位決定のための方位検出器228に提供されうる。
[0054] デバイス202は、クロック230を含みうる。クロック230は、ある時点を識別するように構成されうる。クロック230は、絶対的な時点(absolute points in time)を識別しうる(例えば、特定の日付および時間情報)。クロック230は、関連のある時点を識別するように構成されうる(例えば、マルチメディアプレゼンテーションにおけるポイント)。クロック230は、ソースデバイス12に含まれるキャプチャセンサと結合されうる。クロック230は、ビデオキャプチャの様々なポイントにおける時間情報を提供しうる。この時間情報は、宛先デバイス16に送信されたビデオ情報に含まれうる。
[0055] デバイス202の様々なコンポーネントは、バスシステム226によって一緒に結合されうる。バスシステム226は、データバスを含みうるが、データバスに加えて、例えば、電力バス、制御信号バス、およびステータス信号バスも含みうる。当業者は、デバイス202のコンポーネントが、いくつかの他のメカニズムを使用して入力を互いに提供するか、あるいは承認するかまたは一緒に結合されうることを理解するだろう。
[0056] いくつかの別個のコンポーネントが図2で図示されるが、当業者は、これらコンポーネントのうちの1つまたは複数が組み合わせられるか、または一般に実装されうることを理解するだろう。例えば、プロセッサユニット204は、上記のプロセッサユニット204に関して説明される機能を実装するだけでなく、上記の信号検出器218に関して説明された機能を実装するのにもまた使用されうる。加えて、図2で図示されたコンポーネントの各々は、複数の別個のエレメントを使用して実装されうる。
[0057] 図3は、例示的な符号化デバイスの機能ブロック図を図示する。図3で示される符号化デバイス300は、方位情報、時間情報、およびマルチメディア情報の3つの入力を受信する。方位情報は、方位検出器228から受信されうる。方位情報は、キャプチャセンサに関する回転の角度を指示しうる。例えば、16ビット表示において、方位情報は、0から65535の値でありうる。各値は、回転の角度の360/65536のステップを表しうる。いくつかの実装において、8ビットは、方位情報を表すのに使用されうる。このような実装において、回転は、回転の角度の360/256のステップで識別されうる。他のビット数は、本開示の範囲から逸脱することなく方位情報を表すのに使用されうる。
[0058] 符号化デバイス300は、イメージエンコーダ302を含む。示されるイメージエンコーダは、マルチメディアデータを受信し、またマルチメディアデータ/ストリームの符号化されたバージョンを生成する。イメージエンコーダ302はまた、イメージ符号化構成入力を受信しうる。イメージ符号化構成入力は、適用されるべき符号化方式を識別しうる。イメージ符号化構成入力は、全てのマルチメディアストリームに対して一旦提供され、且つ使用されうる。イメージ符号化構成入力は、動的であり、また各マルチメディアストリームに、または、マルチメディアストリームの各部分に提供されうる。動的な構成において、イメージ符号化構成は、マルチメディア情報、ソースデバイス12の1つまたは複数の特性(例えば、電力、処理性能、負荷)、宛先デバイス16の1つまたは複数の特性(例えば、ソースデバイスに結合している、電力、処理性能、負荷)、および/またはソースデバイス12に対して利用可能な他の情報に少なくとも部分的に基づいて選択されうる。
[0059] イメージエンコーダ302は、マルチメディアデータの符号化されたバージョンを生成するために、識別された符号化方式をマルチメディア情報に適用するように構成されうる。いくつかの実装において、イメージエンコーダ302はまた、方位情報および/または時間情報を受信しうる。イメージエンコーダ302は、方位情報および/または時間情報に基づいて、マルチメディアデータを符号化するように構成されうる。いくつかの実装において、マルチメディアデータの符号化されたバージョンは、ソースデバイス12によってさらに処理されうる(例えば、暗号化される、圧縮される)。
[0060] 方位および時間情報は、メッセージエンコーダ304に提供される。符号化されたマルチメディアデータはまた、メッセージエンコーダ304に提供される。メッセージエンコーダ304は、符号化されたマルチメディアデータおよび方位情報を含むマルチメディアメッセージを生成しうる。
[0061] メッセージエンコーダ304は、メッセージ符号化構成を受信しうる。メッセージ符号化構成は、マルチメディアメッセージがどのように生成および/または送信されるべきかを指示しうる。例えば、メッセージ符号化構成は、符号化されたマルチメディアに関するトランスポートプロトコルを指示しうる。この情報に基づいて、メッセージエンコーダ304は、方位情報がマルチメディアメッセージのトランスポートレイヤ部分に含まれ、また符号化されたマルチメディアデータがマルチメディアメッセージの第2の部分に含まれるように、マルチメディアメッセージを生成しうる。
[0062] メッセージ符号化構成入力は、全てのマルチメディアストリームに対して一旦提供され、且つ使用されうる。メッセージ符号化構成入力は、動的であり、各マルチメディアストリームに、またはマルチメディアストリームの各部分に提供されうる。動的な構成において、メッセージ符号化構成は、マルチメディア情報、ソースデバイス12の1つまたは複数の特性(例えば、電力、処理性能、負荷)、宛先デバイス16の1つまたは複数の特性(例えば、ソースデバイスに結合している、電力、処理性能、負荷)、および/またはソースデバイス12に対して利用可能な他の情報に少なくとも部分的に基づいて選択されうる。
[0063] ある実装において、メッセージエンコーダ304の符号化は、第1の部分において方位情報を含み、また第2の部分においてイメージデータを含みうる。例えば、方位情報は、イメージデータペイロードとは異なる転送レイヤヘッダフィールドに含まれうる。これは、方位情報を取得するためにイメージデータを復号する必要なく、方位情報へのより早いアクセスを提供することができる。
[0064] 図4は、ピクチャ方位情報の例示的な符号化に関するメッセージ図を図示する。いくつかの実装において、ピクチャ方位情報は、ビデオデータと共に帯域内に含まれうる。このような実装において、ピクチャ方位情報は、メッセージ400においてビデオデータと一緒に送信される。
[0065] ピクチャ情報(例えば、イメージ)は、メッセージ400に含まれる符号化されたピクチャフィールド406を介して送信されうる。メッセージ400はまた、1つまたは複数のトランスポートヘッダ404を含みうる。トランスポートレイヤヘッダの一例は、方位情報ヘッダ412である。方位情報ヘッダ412は、タイプフィールド420を含みうる。タイプフィールド420は、ヘッダタイプを識別する値を含みうる。方位情報の場合、タイプフィールド420に含まれるタイプの値は、方位情報と関連付けられうる。
[0066] タイプフィールド420に含まれる値に基づいて、メッセージ400を受信するデバイスは、ピクチャ情報を処理するように提供された情報を利用するかどうかを決定しうる。デバイスがピクチャ方位処理を行うように構成されていない場合、タイプが方位情報であると、デバイスは、フィールドを無視しうる。デバイスがピクチャ方位処理を行うように構成されている場合、デバイスは、方位情報ヘッダ412から方位情報を抽出し、それに応じて符号化されたピクチャを処理しうる。
[0067] 図4に示されるように、方位情報ヘッダ412は、2つの追加のフィールドを含みうる。推奨回転フィールド(recommended rotation field)422は、符号化されたピクチャに関する回転を指示する値を提供することを含みうる。上述されたように、これは、符号化されたピクチャに関連付けられた回転の角度を表しうる。推奨回転フィールド422は、実装によって、16ビット、8ビット、4ビット、または32ビットを含みうる。
[0068] 持続期間フィールド424はまた、ピクチャ方位補足強化情報フィールド(picture orientation supplemental enhancement information field)のペイロードに含まれうる。持続期間フィールド424は、ビデオストリームに対する推奨回転についての持続期間を指示する値を含みうる。例えば、値0を含むことは、推奨回転についての持続期間の終了が、復号順序での次のピクチャ、または符号化されたビデオシーケンスの終了に関連付けられたピクチャであることを特定しうる。このような実装において、0より大きい値は、このようなピクチャが存在する場合、推奨回転ついての持続期間の終了が、持続期間フィールド424に提供された値とさらに(plus)現在のピクチャ方位情報に関連付けられたピクチャのピクチャ順序カウント(picture order count)と等しいピクチャ順序カウントを有するピクチャであることを特定しうる。このようなピクチャが存在しない場合、持続期間の終了は、符号化されたビデオシーケンスの終了でありうる。いくつかの実装において、持続期間は、持続期間の開始で始まり、それは、ピクチャ方位情報を含む信号400に関連付けられたピクチャであり、また出力順で、排他的な、持続期間の終了で終わる。
[0069] メッセージ400を介するような、ピクチャ方位情報の帯域内送信は、多くの実装を適用可能にしうるが、メッセージの構文解析は、コーデック固有でありうる。例えば、必要な場合、持続期間の終了を表示することは、ピクチャ順序カウント以外のものに基づきうる。持続期間の終了を表示するための他のベースは、推奨回転が適用される最後のピクチャのピクチャ識別子の値、推奨回転が適用されるピクチャの最後のグループを識別する値等を含みうる。
[0070] 図5は、ピクチャ方位情報の別の例示的な符号化に関するメッセージ図を図示する。メッセージ500のフォーマットは、例えば、RFC 4585に規定されるようなRTCP規格のフィードバックメッセージフレームワークに適合しうる。メッセージ500に含まれるフィードバックは、送信されたビデオのストリームについての情報を指示しうる。メッセージ500は、ピクチャ方位情報の帯域外送信について使用されることができるメッセージの一例である。
[0071] メッセージ500は、バージョンフィールド502を含みうる。バージョンフィールド502は、メッセージ500を生成するのに使用される仕様のバージョンを指示する値を含みうる。受信デバイスは、メッセージ500のための適切な復号方式を決定するためのバージョン情報を使用しうる。
[0072] メッセージ500は、パディングフィールド504を含みうる。パディングフィールド504は、メッセージ500が、例えば末尾において、パディングビットを含むかどうかを指示する値を含みうる。メッセージ500は、フォーマットフィールド506を含みうる。フォーマットフィールド506は、メッセージフォーマットタイプを指示する値を含みうる。メッセージ500は、ペイロードタイプを含みうる。各メッセージフォーマットタイプに関して、1つまたは複数のペイロードタイプが定義されうる。例えば、ペイロードタイプは、レイヤ情報またはペイロード固有情報をトランスポートすることに関連しうる。このような例において、ピクチャ方位情報は、ペイロード固有情報に関連付けられうる。
[0073] メッセージ500は、長さフィールド510を含みうる。長さフィールド510は、メッセージ500の長さを指示する値を含む。長さフィールド510は、ビット数、バイト数、またはメッセージ500に含まれる他の予め定められたデータ容量を識別しうる。
[0074] メッセージ500は、ソース識別子フィールドを含みうる。図5で示されるように、メッセージ500は、パケットソース識別子フィールド512およびメディアソース識別子フィールド514を含む。パケットソース識別子フィールド512は、メッセージ500の発信者の同期ソース識別子を含みうる。メディアソース識別子514は、メッセージ500が関連するメディアソースの同期ソース識別子(synchronization source identifier)を含みうる。
[0075] メッセージ500は、フィードバック制御情報フィールド520を含む。フィードバック制御情報フィールド520は、1つまたは複数のフィードバック制御メッセージを含みうる。図5で示される例において、フィードバック制御情報フィールド520は、1つのフィードバック制御メッセージ、すなわち、ピクチャ方位情報フィードバック制御メッセージを含む。
[0076] 各フィードバック制御メッセージは、ペイロードタイプフィールド525およびフィードバック制御メッセージを含むペイロードを含む。ペイロードは、フィードバック制御情報の1つまたは複数のフィールドを含みうる。図5で示されるように、ピクチャ方位情報は、フィードバック制御情報メッセージのペイロードに含まれうる。制御メッセージは、持続期間終了特定フィールド530(persistency period end specified field 530)を含む。持続期間終了特定フィールド530は、値が推奨回転の終了を識別するメッセージ500に含まれるかどうかを識別する値を含む。
[0077] 制御メッセージは、推奨回転フィールド535を含む。推奨回転フィールド535は、下記で説明されるような持続期間内の各出力ピクチャの推奨回転(例えば、360/2度単位の反時計回りの推奨回転の値、ここで、nは、推奨回転フィールド535に含まれるビット数である)を特定する。出力ピクチャがディスプレイされる前に反時計回りの推奨回転が行われる際、ディスプレイデバイスもまた物理的に正しい向きで方向付けられる場合、ディスプレイは、正しい向きになりうる。
[0078] 制御メッセージはまた、ゼロバイトなどの、予備フィールド540を含みうる。制御メッセージは、持続期間開始フィールド545を含む。持続期間開始フィールド545は、推奨回転についての持続期間の開始を特定する値を含む。例えば、持続期間開始フィールド545は、推奨回転が適用される第1のピクチャを識別する値を含みうる。いくつかの実装において、値は、持続期間における第1のピクチャのRTPタイムスタンプと等しい。RTPパケットがピクチャの符号化されたデータのみを含む場合、ピクチャのためのRTPタイムスタンプは、一般に、RTPパケットのRTPタイムスタンプの値を指す。いくつかの実装において第1のピクチャを識別する値は、ピクチャ順序カウント、ピクチャ識別子の値のオフセット等のような、ピクチャ識別子でありうる。
[0079] 制御メッセージはまた、持続期間終了フィールド550を含みうる。持続期間終了フィールド550は、それが存在する場合、識別された推奨回転についての持続期間の終了を特定する。例えば、持続期間終了フィールド550に含まれる値は、プレゼンテーション順序で、持続期間の後である場合、第1のピクチャのRTPタイムスタンプを識別しうる。プレゼンテーション順序で、持続期間における最後のピクチャがセッション内での最後のピクチャである場合、持続期間終了フィールド550の値は、プレゼンテーション順序で、持続期間における最後のピクチャのRTPタイムスタンプと、さらに(plus)最後のピクチャのプレゼンテーション継続時間と等しくなりうる。ある実装において、このフィールドの値は、推奨回転が適用される最後のピクチャのRTPタイムスタンプと等しくなりうる。
[0080] 図6は、ピクチャ方位情報のさらなる例示的な符号化に関するメッセージ図を図示する。メッセージ600のフォーマットは、例えば、RFC 3550に規定されるようなリアルタイムトランスポートプロトコル規格、および/または、RFC 5285に規定されるようなその拡張等に適合しうる。このように、メッセージ600は、ピクチャ方位情報の帯域外送信のために使用されることができる。
[0081] メッセージ600は、バージョンフィールド602を含みうる。バージョンフィールド602は、メッセージ600を生成するのに使用される仕様のバージョンを指示する値を含みうる。受信デバイスは、メッセージ600のための適切な復号方式を決定するためのバージョン情報を使用しうる。
[0082] メッセージ600は、パディングフィールド604を含みうる。パディングフィールド604は、メッセージ600が、例えば末尾において、パディングビットを含むかどうかを指示する値を含みうる。メッセージ600は、フォーマットフィールド606を含みうる。フォーマットフィールド606は、メッセージフォーマットタイプを指示する値を含みうる。メッセージ600は、ペイロードタイプを含みうる。各メッセージフォーマットタイプに関して、1つまたは複数のペイロードタイプが定義されうる。
[0083] メッセージ600は、シーケンス番号フィールド610を含みうる。シーケンス番号フィールド610は、他のパケットに関してメッセージ600を識別するのに使用されうる。シーケンス番号フィールド610は、パケット損失を検出し、および/または受信したパケットに関する適切な順序を確保するために、受信デバイスによって使用されうる。
[0084] メッセージ600は、タイムスタンプフィールド612を含みうる。タイムスタンプフィールド612は、受信したビデオデータに関連付けられた絶対的または相対的な時点を識別する値を含みうる。図6で示されるメッセージ600は、ソース識別子フィールド614を含む。ソース識別子フィールド614は、メッセージ600に関するソースストリームの同期ソース識別子を識別する値を含みうる。メッセージ600は、1つまたは複数の寄与ソース識別子(contributing source identifiers)618を含みうる。寄与ソース識別子618は、コンテンツおよび/または情報をメッセージ600に関連付けられたストリームに寄与しうるソースを指示する。
[0085] メッセージ600はまた、拡張ヘッダ情報を含む。拡張ヘッダ情報は、1バイトのヘッダ、2バイトのヘッダ、または、他のバイト量のヘッダでありうる。図6で示されるメッセージ600において、各拡張ヘッダ情報エレメントに関して、3つのフィールド、すなわち、拡張ヘッダ識別子フィールド620、拡張ヘッダ長さフィールド622、および拡張ヘッダフィールド624が含まれる。拡張ヘッダ識別子フィールド620は、このエレメントに含まれる拡張ヘッダ情報のタイプを識別する値を含む。拡張ヘッダ識別子は、拡張マップ(例えば、extmap)属性を介するなどの、セッションネゴシエーション中に特定されうる。extmap属性の例は、“urn:ietf:params:rtp-hdrext:pict-orient”である。拡張ヘッダ長さフィールド622は、拡張ヘッダフィールド624に含まれる情報の長さを指示する値を含む。拡張ヘッダフィールド624は、拡張ヘッダ識別子に関連付けられた情報を含む。
[0086] 拡張ヘッダフィールド624は、図6で示されるようなピクチャ方位情報を識別するのに使用されうる。拡張ヘッダフィールド624は、推奨回転を識別する値を含みうる。メッセージ600を受信するデバイスは、推奨回転についての始点を識別するためのタイムスタンプフィールド612を使用しうる。いくつかの実装において、拡張ヘッダフィールド624は、例えば、上記図5に関して説明されるような、推奨回転フィールド、持続開始期間フィールド、持続終了期間フィールド、および/または持続終了特定フィールドを含む、マルチフィールド値を含みうる。
[0087] メッセージ600がピクチャ方位情報を特定する拡張ヘッダを含まない場合、受信デバイスは、ピクチャ方位情報をゼロ回転と解釈しうる。いくつかの実装において、メッセージ600がピクチャ方位情報を特定する拡張ヘッダを含まない場合、受信デバイスは、ピクチャ方位を、このような情報に含まれる、以前に受信したメッセージと同じ推奨回転と解釈しうる。
[0088] いくつかのリアルタイムストリーミングの実装において、メッセージ600を受信する前に、セッションは、送信デバイスと受信デバイスとの間に確立されうる。このような実装において、セッションネゴシエーションメッセージングは、例えば、セッションについてのデフォルト推奨回転のような、ピクチャ方位情報を含みうる。受信デバイスは、他のものが次のメッセージングを介して特定されない場合、デフォルト推奨回転を適用するように構成されうる。
[0089] セッションネゴシエーションは、セッション記述プロトコル(SDP)ファイルを含みうる。SDPファイルは、例えば、SIP、RTSP、HTTP等のようなトランスポートプロトコルを通して送信側から受信側へ搬送されうる。ピクチャ方位情報は、SDPファイルに含まれることができる。例えば、情報は、メディアレベル属性a=picorientationinfo:<picture orientation information>に含まれうる。<picture orientation information>の値は、0から65535(16ビット値に対して)の範囲を含めた、単一の推奨回転の値を含みうる。推奨回転は、現在のSDPファイルが関連付けられる全てのピクチャに適用されうる。
[0090] ピクチャ方位情報は、推奨回転、持続期間開始、および持続期間終了の値の1つまたは複数のセットを含みうる。各セットにおいて、推奨回転、持続期間開始および持続期間終了の3つの値は、カンマ「,」、またはスペース「 」のような周知のデリミタ(delimiter)によって区切られうる。セットはまた、セミコロン「;」のような周知のデリミタによっても区切られうる。持続期間開始は、持続期間内の第1のピクチャのRTPタイムスタンプの値を特定する。持続期間終了は、推奨回転が適用されるプレゼンテーション順序での最後のピクチャの後に、第1のピクチャのRTPタイムスタンプの値を特定する。いくつかの実装において、持続期間終了は、推奨回転が適用されるプレゼンテーション順序での最後のピクチャのRTPタイムスタンプの値を特定する。
[0091] セッション記述プロトコルファイルを介してピクチャ方位情報を特定することは、例えば、記録されたムービーストリーミング等のセッション全体の任意の瞬間について、推奨回転の値がセッションの初めに周知である場合の実装において、望ましい。SDPファイルはまた、回転がセッションの最中に変わる場合のシナリオにおいても使用されうる。この場合、セッションについてのSDPパラメータは、新しい方位を指示するために、再ネゴシエーションされ(re-negotiated)うる。しかしながら、このアプローチは、ピクチャが正しい方位でディスプレイされない場合に、短い期間があり、SDPの再ネゴシエーション処理に関して遅延を招く。
[0092] 説明されたメッセージおよび方法はまた、上記の制約を有するストリーミング、マルチキャストおよびブロードキャストアプリケーションと同様に、RTPベースの従来のアプリケーションにおいても使用されることができる。
[0093] ピクチャ方位情報を送信するさらなる例は、例えば、HTTP(DASH)規格を介するMPEG動的適応ストリーミング(MPEG dynamic adaptive streaming)等のように、メディアプレゼンテーション記述(MPD)におけるピクチャ方位情報を含むものである。DASHは、ビデオストリーミングプロトコルの例である。いくつかのDASHの実装において、MPDは、クライアントが、メディアを識別、取得、およびレンダリングすることを可能にするように公開される。MPDは、メディアプレゼンテーションについての他の情報とともに、ユニフォームリソースロケータ(URL)を含みうる。
[0094] パブリッシャ(publisher)は、MPDにおけるピクチャ方位情報を含み、それは、ファイルまたはファイルの一部分でありうる。例えば、下記の表1の例で示されるような、PictureOrientationInfoエレメントは、MPDレベル(情報がメディアプレゼンテーション(Media Presentation)の全てのビデオストリームに適用される場合)、期間レベル(Period level)(情報が期間(Period)内の全てのビデオに適用される場合)、適応セットレベル(Adaptation Set level)(情報が適応セット(Adaptation Set)内の全てのビデオストリームに適用される場合)、表示レベル(Adaptation Set)(情報が表示(Representation)内の全てのビデオストリームに適用される場合)、またはサブ表示レベル(Sub-Representation level)(情報がサブ表示(Sub-Representation)内の全てのビデオストリームに適用される場合)のいずれかで、MPD内に含まれうる。
[0095] PictureOrientationInfoエレメントは、ピクチャ方位情報を提供する。MPDエレメント、期間エレメント(Period element)、適応セットエレメント(Adaptation Set element)、表示エレメント(Representation element)、または、サブ表示エレメント(Sub-Representation element)でありうるコンテナエレメントは、ゼロまたはより多くのPictureOrientationInfoエレメントを含みうる。各PictureOrientationInfoエレメントは、推奨回転を提供する必須型recommendedRotation属性、持続期間開始を提供する任意型persistencyPeriodStart属性、および持続期間終了を提供する任意型persistencyPeriodEnd属性を含む。
[0096] persistencyPeriodStartまたはpersistencyPeriodEndの値は、MPD内に含まれるタイムスケール属性に基づくユニット内にありうる。いくつかの実装において、持続期間情報は、メディアプレゼンテーションの一部分(例えば、ピクチャのセット、セグメントのセット、またはサブセグメントのセット)を識別しうる。
[0097] いくつかの実装において、コンテナエレメント内のPictureOrientationInfoエレメントのテキスト上の順序(textual order)は、PictureOrientationInfoエレメントが適用されるビデオメディアサンプルの増加するプレゼンテーション時間の順序(increasing presentation time order)とマッチする。
Figure 0006466324
[0098] ピクチャ方位情報を送信するさらなる例は、ISOベースメディアファイルフォーマット(ISO BMFF)等に従って、マルチメディアファイルにおいて、ピクチャ方位情報を含むためのものである。ISO BMFFは、一般に、様々なレベルの精度(例えば、ファイル全体、ピクチャのグループ、特定のピクチャ等)において情報を説明する様々なレベルのデータ構造を有する拡張可能マルチメディアファイルフォーマット(extensible multimedia file format)を説明する。ピクチャ方位情報は、ファイルに識別されたビデオストリームに関するトラック内のサンプル記述エントリに含まれうる。あるサンプル記述エントリは、サンプルのセットに適用されうる。各推奨回転値に関して、持続期間開始および持続期間終了が、明示的に送信される。推奨回転に関する値は、上述されたように特定されうる。推奨回転に関する持続期間開始の値は、プレゼンテーション順序で、推奨回転が適用される第1のサンプルの復号時間に等しいものとして特定され、持続期間終了の値は、プレゼンテーション順序で、推奨回転が適用される最後のサンプルの復号時間に等しいものとして特定されうる。いくつかの実装において、推奨回転に関する持続期間開始の値は、プレゼンテーション順序で、推奨回転が適用される第1のサンプルのプレゼンテーション時間に等しいものとして特定され、持続期間終了の値は、プレゼンテーション順序で、推奨回転が適用される最後のサンプルのプレゼンテーション時間に等しいものとして特定されうる。いくつかの実装において、持続期間終了の値は、プレゼンテーション順序で、推奨回転が適用される最後のサンプルの後に、プレゼンテーション順序で、第1のサンプルのプレゼンテーション時間と等しいものとして特定されうる。いくつかの実装において、持続期間終了の値は、プレゼンテーション順序で、推奨回転が適用される最後のサンプルの後に、プレゼンテーション順序で、第1のサンプルの復号時間と等しいものとして特定されうる。
[0099] ピクチャ方位情報(Picture Orientation Information)はまた、例えば、'poif'と称される新しいタイプのサンプルグループを使用して搬送されうる。推奨回転(Recommended Rotation)の特定の値が適用されるサンプルの各セットは、'poif'タイプの1つのサンプルグループを備える。サンプルグループエントリにおいて、推奨回転の値は、上記で定義されたものと同様に、送信される。ビデオトラックは、グルーピングタイプ(grouping_type)'poif'を有するSampleToGroupBoxのゼロまたは複数のインスタンスを含みうる。各SampleToGroupBoxインスタンスは、'poif'タイプのサンプルグループに対してトラック内のサンプルのセットの割当を表す。'poif'タイプの各サンプルグループは、同じグルーピングタイプを有するSampleGroupDescriptionBoxのインスタンスに含まれる'poif'タイプのサンプルグループ記述エントリに関連付けられる。
[00100] 別の代替的実施形態において、ピクチャ方位情報は、新しいボックスを使用して搬送されうる。ボックスは、ピクチャ方位情報(例えば、‘poif’)としてボックスを識別するタイプを有しうる。ボックスのためのコンテナは、ファイルである。ボックスは、任意のボックスでありうる。ピクチャ方位情報ボックスの1つまたは複数のインスタンスが含まれうる。ピクチャ方位情報ボックスは、ムービーフラグメント(movie fragments)内のサンプル、または、ムービーフラグメントに含まれるファイル(例えば、セグメント等)についてのピクチャ方位情報を供給するのに使用されることができる。
[00101] ピクチャ方位情報ボックスは、ビットストリーム順序(bitstream order)で、それに続く次のムービーフラグメントボックスに関連付けられる。ボックスは、一般に、セグメントにおいて、(もしあれば)セグメントインデックスボックスまたは任意のセグメントタイプに続き、(それが参照される)次のムービーフラグメントボックスの前に発生する。セグメントファイルが任意のピクチャ方位情報ボックスを含む場合、それらのうちの第1のものは、そのセグメント内の第1のムービーフラグメントボックスの前に発生する可能性がある。表2は、ピクチャ方位ボックスを表すのに使用されうるサンプルの構文解析を図示する。
Figure 0006466324
[00102] 図7は、例示的な復号デバイスの機能ブロック図を図示する。復号デバイス700は、宛先デバイス16に含まれうる。復号デバイス700に示されるものは、トランスポート受信機701およびデコーダ702を含む。
[00103] トランスポート受信機701は、図4に示されるような、マルチメディアメッセージを取得するように構成されうる。トランスポート受信機701はさらに、マルチメディアメッセージの第1の部分からの方位情報、およびマルチメディアメッセージの第2の部分からの符号化されたマルチメディアデータを取得するように構成されうる。トランスポート受信機701は、デコーダ702に符号化されたマルチメディアデータを提供しうる。トランスポート受信機701はまた、ディスプレイプロセッサ704に方位情報を提供し、任意で、デコーダ702にも方位情報を提供しうる。
[00104] デコーダ702は、符号化されたマルチメディアデータを受信しうる。符号化されたマルチメディアデータは、上述された方法のうちの1つまたは複数で符号化されうる。デコーダ702は、方位情報を任意で受信しうる。方位情報は、復号処理の一部分として使用されうる。
[00105] デコーダ702はまた、復号構成入力を受信しうる。復号構成入力は、適用されるべき復号方式を識別しうる。復号構成入力は、全てのマルチメディアストリームに対して一旦提供され、且つ使用されうる。復号構成入力は、動的であり、また各符号化されたマルチメディアデータを提供されうる。動的な構成において、復号構成は、受信したマルチメディアデータ、ソースデバイス12の1つまたは複数の特性(例えば、電力、処理性能、負荷)、宛先デバイス16の1つまたは複数の特性(例えば、ソースデバイスに結合している、電力、処理性能、負荷)、および/またはソースデバイス16に対して利用可能な他の情報に少なくとも部分的に基づいて選択されうる。
[00106] デコーダ702は、時間情報およびマルチメディアデータを含みうる復号された情報を出力として提供する。図7に示されるように、出力は、ディスプレイプロセッサ704に提供されうる。ディスプレイプロセッサ704は、方位情報、復号時間情報、および/または復号されたマルチメディアに少なくとも部分的に基づいて、マルチメディアデータの方位を調整するように構成されうる。ディスプレイプロセッサ704はまた、デコーダ702以外を表さない他のモジュールからもピクチャ方位情報を受信しうる。
[00107] ディスプレイプロセッサ704はまた、ディスプレイ構成入力を受信しうる。ディスプレイ構成入力は、例えば、ターゲットディスプレイに関する方位、ターゲットディスプレイの大きさ、回転するかどうかについての選好等の値を含みうる。それにより、ディスプレイプロセッサ704は、ユーザの好み、システム構成、またはディスプレイデバイス自体の方位に依存して、ピクチャがディスプレイされる前に、ビデオデコーダから出力ピクチャを選択的に回転させうる。例えば、送信側が、方位が50度反時計回りに回転されるべきであることを指示し、また、ディスプレイプロセッサ704が、ターゲットディスプレイがすでに40度反時計回りに回転される(垂直線から)ことを検出する場合、ディスプレイプロセッサ704は、ディスプレイする前に、ピクチャを回転する必要がないと決定することができる。追加のディスプレイ処理は、出力ピクチャをターゲットのディスプレイサイズに適合させるための色補正、時間補正、アスペクト補正、スケーリング、および/またはクロッピングを含みうる。
[00108] 図8は、メディア情報を送信する方法に関する処理フロー図を図示する。方法は、本明細書で説明されるデバイスの1つまたは複数において実装されうる。例えば、ソースデバイス12は、示される方法の1つまたは複数の態様を実行するように構成されうる。
[00109] ブロック802において、ピクチャまたはビデオ情報が取得され、ここで、ピクチャまたはビデオ情報は、ピクチャまたはビデオ情報が方位情報とともに取得される場合、メディアキャプチャユニットのイメージデータおよび方位情報を含む。ブロック804において、取得された情報が符号化される。方位情報は、第1の部分に含まれ、イメージデータは、第2の部分に含まれうる。いくつかの実装において、第2の部分は、符号化され、ここで、第1の部分は、第2の部分とは異なる。符号化は、図3で示されるような符号化デバイス300によって行われうる。符号化は、図4−6のような、上述されたメッセージのうちの1つまたは複数を含みうる。ブロック806において、第1および第2の部分が送信される。送信は、ワイヤードまたはワイヤレスでありうる。送信は、宛先デバイスへ直接か、あるいは1つまたは複数の媒介を介するものでありうる。
[00110] 図9は、メディア情報を送信するための例示的な装置の機能ブロック図を図示する。当業者は、メディア情報送信装置が、図9に示される簡略化された装置900よりも多くのコンポーネントを有しうることを理解するだろう。示される装置900は、特許請求の範囲内の実装のうちの、いくつかの突出した特徴を説明するのに役立つそれらのコンポーネントのみを含む。装置900は、キャプチャ回路902、符号化回路904、および送信機906を含む。
[00111] キャプチャ回路902は、ピクチャまたはビデオ情報を取得するように構成され、ここで、ピクチャまたはビデオ情報は、ピクチャまたはビデオ情報が取得される場合、メディアキャプチャユニットの方位情報を含む。キャプチャ回路902は、イメージセンサ、カメラ、マイクロフォン、方位検出器、クロック、プロセッサ、およびメモリのうちの1つまたは複数を含みうる。いくつかの実装において、ピクチャまたはビデオ情報を取得するための方法は、キャプチャ回路902を含みうる。
[00112] 符号化回路904は、キャプチャされたピクチャまたはビデオ情報を符号化するように構成される。方位情報は、第1の部分に含まれ、且つイメージデータは、第2の部分に含まれ、第2の部分は、符号化されることができ、且つ第1の部分は、第2の部分とは異なる。符号化回路904は、上述された技法のうちの1つまたは複数に従って符号化するように構成されうる。符号化回路904は、エンコーダデバイス、比較器、メモリ、プロセッサ、トークナイザ、およびシーケンス生成器のうちの1つまたは複数を含みうる。いくつかの実装において、ピクチャまたはビデオ情報を符号化するための方法は、符号化回路904を含みうる。
[00113] 送信機906は、第1の部分および第2の部分を送信するように構成される。送信機906は、ワイヤードまたはワイヤレス送信機のために構成されうる。送信機906は、アンテナ、信号生成器、電源、増幅器、ネットワークインターフェース、プロセッサ、およびメモリのうちの1つまたは複数を含みうる。いくつかの実装において、符号化されたピクチャまたはビデオ情報を送信するための方法は、送信機906を含みうる。
[00114] 図10は、メディア情報をディスプレイする方法に関する処理フロー図を図示する。方法は、本明細書で説明されるデバイスのうちの1つまたは複数において実装されうる。例えば、宛先デバイス16は、示される方法のうちの1つまたは複数の態様を実行するように構成されうる。
[00115] ブロック1002において、少なくとも1つの出力ピクチャを含むピクチャまたはビデオ情報が取得される。記憶されたピクチャまたはビデオ情報は、ピクチャまたはビデオ情報を含むメッセージのそれぞれの部分において、回転情報および符号化されたイメージデータを含んでおり、上述されたように、符号化されうる。ブロック1004において、取得された符号化イメージデータが復号される。ブロック1006において、回転データおよび回転データのための期間が識別される。ブロック1008において、復号された出力ピクチャのバージョンが識別された回転データおよび識別された期間に基づいて生成される。
[00116] 図11は、メディア情報をディスプレイするための例示的な装置の機能ブロック図を図示する。当業者は、メディア情報ディスプレイ装置が、図11に示される簡略化された装置1100よりも多くのコンポーネントを有しうることを理解するだろう。示される装置1100は、特許請求の範囲内の実装のうちの、いくつかの突出した特徴を説明するのに役立つそれらのコンポーネントのみを含む。装置1100は、受信機1102、メッセージパーサー1104、復号回路1106、およびピクチャ生成回路1108を含む。
[00117] 受信機1102は、ピクチャまたはビデオ情報を取得するように構成され、ここで、ピクチャまたはビデオ情報は、少なくとも1つの出力ピクチャを含む。受信機1102は、メモリ、アンテナ、信号プロセッサ、ネットワークインターフェース、および復調器のうちの1つまたは複数を含みうる。いくつかの実装において、ピクチャまたはビデオ情報を取得するための手段は、受信機1102を含む。
[00118] メッセージパーサー1104は、回転情報から回転データおよび回転データのための期間を抽出し、また、取得されたビデオ情報のピクチャから符号化された出力ピクチャを抽出するように構成される。メッセージパーサー1104は、比較器、メモリ、プロセッサ、および加算器のうちの1つまたは複数を含みうる。いくつかの実装において、回転情報を識別するための方法は、メッセージパーサー1104を含む。
[00119] 復号回路1106は、ピクチャまたはビデオ情報に含まれる符号化された出力ピクチャを復号するように構成される。復号回路1106は、復号デバイス、比較器、メモリ、プロセッサ、およびトークナイザのうちの1つまたは複数を含みうる。いくつかの実装において、出力ピクチャを復号するための手段は、復号回路1106を含む。
[00120] ピクチャ生成回路1108は、識別された回転データおよび識別された期間に基づいて、ディスプレイのために少なくとも1つの出力ピクチャにおいて復号されたバージョンを生成するように構成される。ピクチャ生成回路1108は、比較器、メモリ、プロセッサ、ピクセル生成器、スケーリング回路、クロッピング回路、および加算器のうちの1つまたは複数を含みうる。いくつかの実装において、トランスポートレイヤ情報を処理するための手段は、ピクチャ生成回路1108を含む。
[00121] 本明細書において使用される際、「決定する」又は「決定すること」という用語は、幅広い動作を包含する。例えば、「決定すること」は、算出すること、計算すること、処理すること、導出すること、調査すること、調べること(looking up)(例えば、表、データベース、または、別のデータ構造において調べること)、確認すること等を含みうる。また、「決定すること」は、受信すること(例えば、情報を受信すること)、アクセスすること(例えば、メモリ内のデータにアクセスすること)等を含みうる。また、「決定すること」は、解決すること、選択すること、選ぶこと、確立すること等を含みうる。
[00122] 本明細書において使用される際、「提供する」または「提供すること」という用語は、幅広い動作を包含する。例えば、「提供すること」は、後の検索に関するロケーションにおいて値を記憶すること、値を受信側に直接送信すること、値に対する参照を送信または記憶すること等を含みうる。「提供すること」はまた、符号化すること、復号すること、暗号化すること、暗号解読すること、認証すること、検証すること等を含みうる。
[00123] 本明細書で使用される場合、リストの項目「のうちの少なくとも1つ」を参照するフレーズは、単一のメンバを含む、それらの項目の任意の組み合わせを指す。例として、「a、b、またはcのうちの少なくとも1つ」は、a、b、c、a−b、a−c、b−c、およびa−b−cをカバーすることが意図される。
[00124] 上述された方法の様々な動作は、それらの動作を行うことができる任意の適切な手段、例えば、様々なハードウェアおよび/またはソフトウェアの、コンポーネント、回路、および/またはモジュールによって行われることができる。一般に、図面に図示された任意の動作は、それらの動作を行うことができる対応する機能的手段によって行われうる。
[00125] 本開示に関連して説明された様々な例示的な論理ブロック、モジュール、および回路は、本明細書において説明された機能を実行するように設計された、汎用プロセッサ、デジタル信号プロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)または他のプログラマブル論理デバイス(PLD)、離散ゲートまたはトランジスタ論理、離散ハードウェアコンポーネント、またはそれらの任意の組み合わせを用いて、実装または実行されうる。汎用プロセッサは、マイクロプロセッサでありうるが、代替的に、プロセッサは、任意の市販のプロセッサ、コントローラ、マイクロコントローラ、またはステートマシンでありうる。プロセッサはまた、コンピューティングデバイスの組み合わせ、例えば、DSPと、マイクロプロセッサ、複数のマイクロプロセッサ、DSPコアと結合された1つまたは複数のマイクロプロセッサとの組み合わせ、または任意の他のそのような構成として実装されうる。
[00126] 1つまたは複数の態様において、説明された機能は、ハードウェア、ソフトウェア、ファームウェア、またはこれらの任意の組合せで実装されうる。ソフトウェアで実装される場合には、機能は、コンピュータ可読媒体上で1つまたは複数の命令またはコードとして記憶または送信されうる。コンピュータ可読媒体は、ある場所から別の場所へ、コンピュータプログラムの転送を容易にする任意の媒体を含む通信媒体とコンピュータ記憶媒体との両方を含む。記憶媒体は、コンピュータによってアクセスできる任意の利用可能な媒体でありうる。限定ではなく例として、そのようなコンピュータ可読媒体は、RAM、ROM、EEPROM、CD−ROM、あるいは他の光ディスク記憶装置、磁気ディスク記憶装置、または他の磁気記憶デバイス、あるいは命令またはデータ構造の形態で所望のプログラムコードを搬送または記憶するために使用されることができ、且つコンピュータによってアクセスされることができる、任意の他の媒体を備えることができる。また、任意の接続は、厳密にはコンピュータ可読媒体と呼ばれる。例えば、ソフトウェアがウェブサイト、サーバ、または、同軸ケーブル、光ファイバケーブル、ツイストペア(twisted pair)、デジタル加入者回線(DSL)、あるいは赤外線、無線、およびマイクロ波のようなワイヤレス技術を使用している他の遠隔ソースから送信される場合には、同軸ケーブル、光ファイバケーブル、ツイストペア、DSL、または、赤外線、無線、およびマイクロ波のようなワイヤレス技術は、媒体の定義に含まれている。ディスク(disk)およびディスク(disc)は、本明細書において使用される場合、コンパクトディスク(CD)、レーザーディスク(登録商標)、光ディスク、デジタル多用途ディスク(DVD)、フロッピー(登録商標)ディスク、およびブルーレイ(登録商標)ディスクを含み、ここでディスク(disks)は、通常磁気的にデータを再生し、一方ディスク(discs)は、レーザを用いて光学的にデータを再生する。したがって、いくつかの態様において、コンピュータ可読媒体は、非一時的コンピュータ可読媒体(例えば、有形的媒体)を備えうる。さらに、いくつかの態様においてコンピュータ可読媒体は、一時的なコンピュータ可読媒体(例えば、信号)を備えうる。上記の組み合わせもまた、コンピュータ可読媒体の範囲内に含まれるだろう。
[00127] 本明細書に開示された方法は、説明された方法を達成するための1つまたは複数のステップまたは動作を備える。方法のステップおよび/または動作は、本願の特許請求の範囲から逸脱せずに、互いに交換可能でありうる。すなわち、ステップまたは動作の特定の順序が特定されない限り、特定のステップおよび/または動作の順序および/または使用は、本願の特許請求の範囲から逸脱せずに修正されうる。
[00128] 同様に、上述されたメッセージは、様々な実装において使用されうる1つまたは複数のフィールドを含む。メッセージは、追加のフィールド、少数のフィールド、および/または特許請求の範囲から逸脱しない代替のフィールド配置を含みうる。
[00129] 説明された機能は、ハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の組み合わせにおいて実装されうる。ソフトウェアで実装される場合、機能は、コンピュータ可読媒体で1つ以上の命令として記憶されうる。記憶媒体は、コンピュータによってアクセスされることができる任意の利用可能な媒体でありうる。限定ではなく例として、そのようなコンピュータ可読媒体は、RAM、ROM、EEPROM、CD−ROM、あるいは他の光ディスク記憶装置、磁気ディスク記憶装置、または他の磁気記憶デバイス、あるいは、命令またはデータ構造の形態で所望のプログラムコードを搬送または記憶するために使用されることができ、およびコンピュータによってアクセスされることができる、任意の他の媒体を備えることができる。明細書で使用される場合、ディスク(disk)およびディスク(disc)は、コンパクトディスク(CD)、レーザーディスク(登録商標)、光ディスク、デジタル多用途ディスク(DVD)、フロッピー(登録商標)ディスク、およびブルーレイ(登録商標)ディスクを含み、ここでディスク(disks)は、通常磁気的にデータを再生し、一方ディスク(discs)は、レーザを用いて光学的にデータを再生する。
[00130] したがって、ある特定の態様は、本明細書に提示された動作を行うためのコンピュータプログラム製品を備えうる。例えば、そのようなコンピュータプログラム製品は、命令を記憶(および/または符号化)したコンピュータ可読媒体を備えることができ、それらの命令は、本明細書で説明された動作を行うために1つまたは複数のプロセッサによって実行可能である。特定の態様に関して、コンピュータプログラム製品は、パッケージ材料を含むことができる。
[00131] ソフトウェアまたは命令はまた、送信媒体を介して送信されうる。例えば、ソフトウェアが、同軸ケーブル、光ファイバケーブル、ツイストペア、デジタル加入者回線(DSL)、または赤外線、無線、マイクロ波などのワイヤレス技術を使用して、ウェブサイト、サーバ、または他のリモートソースから送信される場合、同軸ケーブル、光ファイバケーブル、ツイストペア、DSL、または赤外線、無線、マイクロ波などのワイヤレス技術は、送信媒体の定義に含まれる。
[00132] さらに、本明細書で説明された方法および技法を行うためのモジュールおよび/または他の適切な手段が、ダウンロードされうること、および/または、そうでなければ、符号化デバイスおよび/または復号デバイスによって、適用可能に取得されうることが理解されるべきである。例えば、そのようなデバイスは、本明細書で説明された方法を実行するための手段の転送を容易にするために、サーバに結合されることができる。代替的に、本明細書で説明された様々な方法は、デバイスに記憶手段を結合または提供する際に、ユーザ端末および/または基地局が様々な方法を取得できるように、記憶手段(例えば、RAM、ROM、コンパクトディスク(CD)またはフロッピーディスクのような物理記憶媒体等)を介して提供されることができる。さらに、本明細書で説明された方法および技法をデバイスに提供するための任意の他の適切な技法が利用されることができる。
[00133] 特許請求の範囲が、上述された、正確な構成およびコンポーネントに限定されないことが理解されるべきである。様々な修正、交換、および変形が、本願の特許請求の範囲から逸脱せずに、上述された方法および装置の配置、動作、および詳細に対してなされうる。
[00134] 前述の内容は、本開示の態様に向けられているが、本開示の他の態様およびさらなる態様が、その基本的な範囲から逸脱せずに考案されることができ、その範囲は、下記の特許請求の範囲によって決定される。
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[C1]
メディア情報をディスプレイするための方法であって、前記方法は、
ピクチャまたはビデオ情報を取得することと、ここで、前記ピクチャまたはビデオ情報は、少なくとも1つの出力ピクチャおよび前記少なくとも1つの出力ピクチャについての回転情報を含み、前記回転情報は、前記ピクチャまたはビデオ情報の第1の部分に含まれ、且つ前記少なくとも1つの出力ピクチャは、前記ピクチャまたはビデオ情報の第2の部分に含まれ、前記第2の部分は、符号化され、且つ前記第1の部分は、前記第2の部分とは異なる、
前記ピクチャまたはビデオ情報の前記第2の部分に含まれる少なくとも1つの出力ピクチャを復号することと、
ビデオ情報の前記ピクチャの前記第1の部分に含まれる前記回転情報に基づいて、回転データおよび前記回転データのための期間を識別することと、
前記識別された回転データおよび前記識別された期間に従って、前記復号された少なくとも1つの出力ピクチャを回転することと、を備える方法。
[C2]
前記識別された期間は、回転始点および回転終点のうちの少なくとも1つを含む、C1に記載の方法。
[C3]
前記期間は、回転されるべき第1のピクチャを含むパケットのパケットシーケンス番号を識別する、C1に記載の方法。
[C4]
前記期間は、回転されるべき第1のピクチャのプレゼンテーション時間を識別する、C1に記載の方法。
[C5]
前記期間は、前記情報に含まれるピクチャ方位情報エレメントにおいて識別され、前記情報は、リアルタイムトランスポート制御プロトコルメッセージを備える、C1に記載の方法。
[C6]
前記期間は、前記情報に含まれる1つまたは複数の拡張ヘッダにおいて識別され、前記情報は、リアルタイムトランスポートプロトコルメッセージを備える、C1に記載の方法。
[C7]
前記期間は、セッション記述プロトコルファイルに含まれる1つまたは複数の属性において識別され、前記情報は、前記セッション記述プロトコルファイルを備える、C1に記載の方法。
[C8]
前記セッション記述プロトコルファイルは、セッション開始プロトコル、リアルタイムストリーミングプロトコル、およびハイパーテキスト転送プロトコルのうちの1つまたは複数を介して受信される、C7に記載の方法。
[C9]
前記期間は、メディアプレゼンテーション記述において識別され、前記情報は、前記メディアプレゼンテーション記述を備える、C1に記載の方法。
[C10]
前記期間は、前記メディアプレゼンテーション記述に関連付けられたメディアプレゼンテーションのビデオストリームの全てまたはサブグルーピングのために識別される、C9に記載の方法。
[C11]
前記サブグルーピングは、メディアプレゼンテーションレベルグルーピング、期間レベルグルーピング、適応セットレベルグルーピング、表示レベルグルーピング、およびサブ表示レベルグルーピングのうちの少なくとも1つを備える、C10に記載の方法。
[C12]
前記期間は、ISOベースメディアファイル内の1つまたは複数のエントリにおいて識別され、前記情報は、前記ISOベースメディアファイルを備える、C1に記載の方法。
[C13]
前記1つまたは複数のエントリは、前記ピクチャまたはビデオ情報に関連付けられたトラック内にサンプル記述エントリを含む、C12に記載の方法。
[C14]
前記1つまたは複数のエントリは、ピクチャ方位情報サンプルグループエントリを含む、C12に記載の方法。
[C15]
前記1つまたは複数のエントリは、ピクチャ方位情報ボックスエントリを含み、前記ボックスエントリは、前記ピクチャまたはビデオ情報の少なくとも一部分に関連付けられる、C12に記載の方法。
[C16]
送信者デバイスから前記ピクチャまたはビデオ情報を受信することをさらに備える、C1に記載の方法。
[C17]
前記送信者デバイスは、カメラ、ビデオソース、固定されたピクチャキャプチャリングデバイス、およびモバイルデバイスのうちの少なくとも1つを備える、C16に記載の方法。
[C18]
前記少なくとも1つの出力ピクチャを回転することは、前記ピクチャまたはビデオ情報を復号した後に発生する、C16に記載の方法。
[C19]
前記送信者デバイスによって当初にキャプチャされたような前記ピクチャまたはビデオの方位と実質的に同じ方位を有する前記少なくとも1つの出力ピクチャをディスプレイすることをさらに備える、C16に記載の方法。
[C20]
ターゲットディスプレイについての情報に基づいて、前記少なくとも1つの出力ピクチャを回転することをさらに備える、C1に記載の方法。
[C21]
ターゲットディスプレイについての前記情報は、ディスプレイ大きさ情報、ディスプレイ方位情報、ディスプレイ解像度情報、およびディスプレイ識別情報のうちの1つまたは複数を含む、C20に記載の方法。
[C22]
前記ディスプレイ識別情報に少なくとも部分的に基づいて、ターゲットディスプレイについての情報を取得することをさらに備える、C21に記載の方法。
[C23]
プロセッサ は、前記回転データおよび期間に基づいて、前記少なくとも1つの出力ピクチャを修正するようにさらに構成される、C1に記載の方法。
[C24]
前記修正は、色補正、時間補正、アスペクト補正、スケーリング、およびクロッピングのうちの少なくとも1つを含む、C23に記載の方法。
[C25]
メディア情報をディスプレイするための装置であって、前記装置は、
ピクチャまたはビデオ情報を記憶するように構成されたメモリユニットと、ここで、前記ピクチャまたはビデオ情報は、少なくとも1つの出力ピクチャおよび前記少なくとも1つの出力ピクチャについての回転情報を含み、前記回転情報は、前記ピクチャまたはビデオ情報の第1の部分に含まれ、且つ前記少なくとも1つの出力ピクチャは、前記ピクチャまたはビデオ情報の第2の部分に含まれ、前記第2の部分は、符号化され、且つ前記第1の部分は、前記第2の部分とは異なる、
前記第1の部分に含まれる前記回転情報から回転データおよび前記回転データについての期間を抽出し、
前記第2の部分から前記少なくとも1つの出力ピクチャを抽出するように構成されたトランスポートレイヤプロセッサと、
前記抽出された少なくとも1つの出力ピクチャを復号するように構成されたデコーダと、
識別された前記回転データおよび識別された前記期間に基づいて、ディスプレイのための、前記復号された少なくとも1つの出力ピクチャのバージョンを生成するように構成されたプレゼンテーションプロセッサと、
を備える装置。
[C26]
前記識別された期間は、回転始点および回転終点のうちの少なくとも1つを含む、C25に記載の装置。
[C27]
前記期間は、回転されるべき第1のピクチャを含むパケットのパケットシーケンス番号を識別する、C25に記載の装置。
[C28]
前記期間は、回転されるべき第1のピクチャのプレゼンテーション時間を識別する、C25に記載の装置。
[C29]
前記期間は、前記情報に含まれるピクチャ方位情報エレメントにおいて識別され、前記情報は、リアルタイムトランスポート制御プロトコルメッセージを備える、C25に記載の装置。
[C30]
前記期間は、前記情報に含まれる1つまたは複数の拡張ヘッダにおいて識別され、前記情報は、リアルタイムトランスポートプロトコルメッセージを備える、C25に記載の装置。
[C31]
前記期間は、セッション記述プロトコルファイルに含まれる1つまたは複数の属性において識別され、前記情報は、前記セッション記述プロトコルファイルを備える、C25に記載の装置。
[C32]
前記セッション記述プロトコルファイルは、セッション開始プロトコル、リアルタイムストリーミングプロトコル、およびハイパーテキスト転送プロトコルのうちの1つまたは複数を介して受信される、C31に記載の装置。
[C33]
前記期間は、メディアプレゼンテーション記述において識別され、前記情報は、前記メディアプレゼンテーション記述を備える、C25に記載の装置。
[C34]
前記期間は、前記メディアプレゼンテーション記述に関連付けられたメディアプレゼンテーションのビデオストリームの全てまたはサブグルーピングのために識別される、C33に記載の装置。
[C35]
前記サブグルーピングは、メディアプレゼンテーションレベルグルーピング、期間レベルグルーピング、適応セットレベルグルーピング、表示レベルグルーピング、およびサブ表示レベルグルーピングのうちの少なくとも1つを備える、C34に記載の装置。
[C36]
前記期間は、ISOベースメディアファイル内の1つまたは複数のエントリにおいて識別され、前記情報は、前記ISOベースメディアファイルを備える、C25に記載の装置。
[C37]
前記1つまたは複数のエントリは、前記ビデオ情報に関連付けられたトラック内にサンプル記述エントリを含む、C36に記載の装置。
[C38]
前記1つまたは複数のエントリは、ピクチャ方位情報サンプルグループエントリを含む、C36に記載の装置。
[C39]
前記1つまたは複数のエントリは、ピクチャ方位情報ボックスエントリを含み、前記ボックスエントリは、前記ビデオ情報の少なくとも一部分に関連付けられる、C36に記載の装置。
[C40]
送信者デバイスから前記ピクチャまたはビデオ情報を受信するように構成された受信機をさらに備える、C25に記載の装置。
[C41]
前記送信者デバイスは、カメラ、ビデオソース、固定されたピクチャキャプチャリングデバイス、およびモバイルデバイスのうちの少なくとも1つを備える、C40に記載の装置。
[C42]
前記復号された少なくとも1つの出力ピクチャの前記バージョンは、前記送信者デバイスによって当初にキャプチャされたような前記ピクチャまたはビデオと実質的に類似する方位を含む、C40に記載の装置。
[C43]
前記プレゼンテーションプロセッサは、前記復号された少なくとも1つの出力ピクチャに基づいて、前記復号された少なくとも1つの出力ピクチャのバージョンを生成するようにさらに構成される、C25に記載の装置。
[C44]
前記プレゼンテーションプロセッサは、ターゲットディスプレイについての情報に基づいて、前記復号された少なくとも1つの出力ピクチャの回転されたバージョンを生成するようにさらに構成される、C25に記載の装置。
[C45]
ターゲットディスプレイについての前記情報は、ディスプレイ大きさ情報、ディスプレイ方位情報、ディスプレイ解像度情報、およびディスプレイ識別情報のうちの1つまたは複数を含む、C44に記載の装置。
[C46]
前記プレゼンテーションプロセッサは、前記ディスプレイ識別情報に少なくとも部分的に基づいて、前記ターゲットディスプレイについての前記情報を取得するように構成される、C45に記載の装置。
[C47]
前記プレゼンテーションプロセッサは、前記回転データおよび期間に基づいて、前記少なくとも1つの出力ピクチャを修正するようにさらに構成される、C25に記載の装置。
[C48]
前記修正は、色補正、時間補正、アスペクト補正、スケーリング、およびクロッピングのうちの少なくとも1つを含む、C47に記載の装置。
[C49]
装置のプロセッサによって実行可能な命令を備えるコンピュータ可読記憶媒体であって、前記命令は、前記装置に、
ピクチャまたはビデオ情報を取得させ、ここで、前記ピクチャまたはビデオ情報は、少なくとも1つの出力ピクチャおよび前記少なくとも1つの出力ピクチャについての回転情報を含み、前記回転情報は、前記ピクチャまたはビデオ情報の第1の部分に含まれ、且つ前記少なくとも1つの出力ピクチャは、前記ピクチャまたはビデオ情報の第2の部分に含まれ、前記第2の部分は、符号化され、且つ前記第1の部分は、前記第2の部分とは異なる、
前記ピクチャまたはビデオ情報の前記第2の部分に含まれる少なくとも1つの出力ピクチャを復号させ、
ビデオ情報の前記ピクチャの前記第1の部分に含まれる前記回転情報に基づいて、回転データおよび前記回転データについての期間を識別させ、
前記識別された回転データおよび前記識別された期間に従って、前記復号された少なくとも1つの出力ピクチャを回転させる、
コンピュータ可読記憶媒体。
[C50]
メディア情報をディスプレイするための装置であって、前記装置は、
ピクチャまたはビデオ情報を取得するための手段と、ここで、前記ピクチャまたはビデオ情報は、少なくとも1つの出力ピクチャおよび前記少なくとも1つの出力ピクチャについての回転情報を含み、前記回転情報は、前記ピクチャまたはビデオ情報の第1の部分に含まれ、且つ前記少なくとも1つの出力ピクチャは、前記ピクチャまたはビデオ情報の第2の部分に含まれ、前記第2の部分は、符号化され、且つ前記第1の部分は、前記第2の部分とは異なる、
前記第1の部分に含まれる前記回転情報から回転データおよび前記回転データについての期間を抽出し、
前記第2の部分から前記少なくとも1つの出力ピクチャを抽出する
ように構成されたトランスポートレイヤ情報を処理するための手段と、
前記抽出された少なくとも1つの出力ピクチャを復号するように構成された復号するための手段と、
識別された前記回転データおよび識別された前記期間に基づいて、ディスプレイのための前記復号された少なくとも1つの出力ピクチャのバージョンを生成するように構成されたディスプレイを生成するための手段と、
を備える装置。
[C51]
メディア情報を送信するための方法であって、前記方法は、
ピクチャまたはビデオ情報を取得することと、ここで、前記ピクチャまたはビデオ情報は、前記ピクチャまたはビデオ情報が取得される場合、メディアキャプチャユニットのイメージ データおよび方位情報を含む、
前記ピクチャまたはビデオ情報を符号化することと、ここにおいて、前記方位情報は、第1の部分に含まれ、且つ前記イメージデータは、第2の部分に含まれ、前記第2の部分は、符号化され、且つ前記第1の部分は、前記第2の部分とは異なる、
前記第1の部分および前記第2の部分を送信することと、
を備える方法。
[C52]
前記方位情報は、回転値と、前記回転値が適用される間の期間とを含む、C51に記載の方法。
[C53]
前記第1の部分は、前記第2の部分とともに帯域内で送信される、C51に記載の方法。
[C54]
前記第1の部分は、前記第2の部分とともに帯域外で送信される、C51に記載の方法。
[C55]
前記第1の部分は、リアルタイムトランスポートプロトコルメッセージのピクチャ方位情報エレメントを含む、C51に記載の方法。
[C56]
前記第1の部分は、セッション記述プロトコルファイル内に含まれる1つまたは複数の属性を含む、C51に記載の方法。
[C57]
前記第1の部分を送信することは、セッション開始プロトコル、リアルタイムストリーミングプロトコル、およびハイパーテキスト転送プロトコルのうちの1つまたは複数を介して送信することを含む、C56に記載の方法。
[C58]
前記第1の部分は、メディアプレゼンテーション記述内に含まれる、C51に記載の方法。
[C59]
前記第1の部分は、前記メディアプレゼンテーション記述に関連付けられたメディアプレゼンテーションのビデオストリームの全てまたはサブグルーピングのために回転期間を識別する、C58に記載の方法。
[C60]
前記サブグルーピングは、メディアプレゼンテーションレベルグルーピング、期間レベルグルーピング、適応セットレベルグルーピング、表示レベルグルーピング、およびサブ表示レベルグルーピングのうちの少なくとも1つを備える、C59に記載の方法。
[C61]
前記第1の部分は、ISOベースメディアファイルにおいて1つまたは複数のエントリ内に含まれる、C51に記載の方法。
[C62]
前記1つまたは複数のエントリは、前記ピクチャまたはビデオ情報に関連付けられたトラック内にサンプル記述エントリを含む、C61に記載の方法。
[C63]
前記1つまたは複数のエントリは、ピクチャ方位情報サンプルグループエントリを含む、C61に記載の方法。
[C64]
前記1つまたは複数のエントリは、ピクチャ方位情報ボックスエントリを含み、前記ボックスエントリは、前記ピクチャまたはビデオ情報の少なくとも一部分に関連付けられる、C61に記載の方法。
[C65]
前記メディアキャプチャユニットは、メモリ、カメラ、ビデオソース、固定されたピクチャキャプチャリングデバイス、およびモバイルデバイスのうちの少なくとも1つを備える、C51に記載の方法。
[C66]
メディア情報を送信するための装置であって、前記装置は、
ピクチャまたはビデオ情報を取得するように構成されたメディアキャプチャユニットと、ここで、前記ピクチャまたはビデオ情報は、前記ピクチャまたはビデオ情報が取得される場合、メディアキャプチャユニットのイメージデータおよび方位情報を含む、
前記ピクチャまたはビデオ情報を符号化するように構成されたエンコーダと、ここにおいて、前記方位情報は、第1の部分に含まれ、且つ前記イメージデータは、第2の部分に含まれ、前記第2の部分は、符号化され、且つ前記第1の部分は、前記第2の部分とは異なる、
前記第1の部分および前記第2の部分を送信するように構成された送信機と、
を備える装置。
[C67]
前記方位情報は、回転値と、前記回転値が適用される間の期間とを含む、C66に記載の装置。
[C68]
前記第1の部分は、前記第2の部分とともに帯域内で送信される、C66に記載の装置。
[C69]
前記第1の部分は、前記第2の部分とともに帯域外で送信される、C66に記載の装置。
[C70]
前記第1の部分は、リアルタイムトランスポートプロトコルメッセージのピクチャ方位情報エレメントを含む、C66に記載の装置。
[C71]
前記第1の部分は、セッション記述プロトコルファイル内に含まれる1つまたは複数の属性を含む、C66に記載の装置。
[C72]
前記第1の部分を送信することは、セッション開始プロトコル、リアルタイムストリーミングプロトコル、およびハイパーテキスト転送プロトコルのうちの1つまたは複数を介して送信することを含む、C71に記載の装置。
[C73]
前記第1の部分は、メディアプレゼンテーション記述内に含まれる、C66に記載の装置。
[C74]
前記第1の部分は、前記メディアプレゼンテーション記述に関連付けられたメディアプレゼンテーションのビデオストリームの全てまたはサブグルーピングのために回転期間を識別する、C73に記載の装置。
[C75]
前記サブグルーピングは、メディアプレゼンテーションレベルグルーピング、期間レベルグルーピング、適応セットレベルグルーピング、表示レベルグルーピング、およびサブ表示レベルグルーピングのうちの少なくとも1つを備える、C74に記載の装置。
[C76]
前記第1の部分は、ISOベースメディアファイルにおいて1つまたは複数のエントリ内に含まれる、C66に記載の装置。
[C77]
前記1つまたは複数のエントリは、前記ピクチャまたはビデオ情報に関連付けられたトラック内のサンプル記述エントリを含む、C76に記載の装置。
[C78]
前記1つまたは複数のエントリは、ピクチャ方位情報サンプルグループエントリを含む、C76に記載の装置。
[C79]
前記1つまたは複数のエントリは、ピクチャ方位情報ボックスエントリを含み、前記ボックスエントリは、前記ピクチャまたはビデオ情報の少なくとも一部分に関連付けられる、C76に記載の装置。
[C80]
前記メディアキャプチャユニットは、メモリ、カメラ、ビデオソース、固定されたピクチャキャプチャリングデバイス、およびモバイルデバイスのうちの少なくとも1つを備える、C66に記載の装置。
[C81]
装置のプロセッサによって実行可能な命令を備えるコンピュータ可読記憶媒体であって、前記命令は、前記装置に、
ピクチャまたはビデオ情報を取得させ、ここで、前記ピクチャまたはビデオ情報は、前記ピクチャまたはビデオ情報が取得される場合、メディアキャプチャユニットのイメージデータおよび方位情報を含む、
前記ピクチャまたはビデオ情報を符号化させ、ここにおいて、前記方位情報は、第1の部分に含まれ、且つ前記イメージデータは、第2の部分に含まれ、前記第2の部分は、符号化され、且つ前記第1の部分は、前記第2の部分とは異なる、
前記第1の部分および前記第2の部分を送信させる、
コンピュータ可読記憶媒体。
[C82]
メディア情報を送信するための装置であって、前記装置は、
ピクチャまたはビデオ情報を取得するための手段と、ここで、前記ピクチャまたはビデオ情報は、前記ピクチャまたはビデオ情報が取得される場合、メディアキャプチャユニットのイメージデータおよび方位情報を含む、
前記ピクチャまたはビデオ情報を符号化するための手段と、ここにおいて、前記方位情報は、第1の部分に含まれ、且つ前記イメージデータは、第2の部分に含まれ、前記第2の部分は、符号化され、且つ前記第1の部分は、前記第2の部分とは異なる、
前記第1の部分および前記第2の部分を送信するための手段と、
を備える装置。

Claims (13)

  1. メディア情報をディスプレイするための方法であって、前記方法は、
    ピクチャまたはビデオ情報を取得することと、ここで、前記ピクチャまたはビデオ情報は、少なくとも1つの出力ピクチャおよび前記少なくとも1つの出力ピクチャについての回転情報を含み、前記回転情報は、前記ピクチャまたはビデオ情報のヘッダ部分に含まれ、且つ前記少なくとも1つの出力ピクチャは、前記ピクチャまたはビデオ情報のピクチャフィールド部分に含まれ、前記ピクチャフィールド部分は、符号化され、且つ前記ヘッダ部分は、前記ピクチャフィールド部分とは異なる、
    前記ピクチャまたはビデオ情報の前記ピクチャフィールド部分に含まれる少なくとも1つの出力ピクチャを復号することと、
    ビデオ情報の前記ピクチャの前記ヘッダ部分に含まれる前記回転情報に基づいて、回転データおよび前記回転データのための期間を識別することと、ここで、前記回転データのための前記期間は、前記ヘッダ部分に含まれる開始フィールドが有する前記期間の開始を特定する値と前記ヘッダ部分に含まれる終了フィールドが有する前記期間の終了を特定する値に基づいて識別される
    前記識別された回転データおよび前記識別された期間に従って、前記復号された少なくとも1つの出力ピクチャを回転することと、を備える方法。
  2. 前記回転情報は、フィードバック制御情報フィールド内に含まれ、前記ビデオ情報のヘッダ部分のフォーマットは、リアルタイムトランスポート制御プロトコル規格のフィードバックメッセージフレームワークに適合する、請求項1に記載の方法。
  3. 前記回転情報は、前記ピクチャまたはビデオ情報に含まれる1つまたは複数の拡張ヘッダにおいて識別され、前記ビデオ情報のヘッダ部分のフォーマットは、リアルタイムトランスポートプロトコル規格に適合する、請求項1に記載の方法。
  4. 前記期間は、セッション記述プロトコルファイルに含まれる1つまたは複数の属性において識別され、前記ビデオ情報のヘッダ部分は、前記セッション記述プロトコルファイルに含まれ、前記セッション記述プロトコルファイルは、セッション開始プロトコル、リアルタイムストリーミングプロトコル、およびハイパーテキスト転送プロトコルのうちの1つまたは複数を介して受信される、請求項1に記載の方法。
  5. 前記回転情報は、メディアプレゼンテーション記述に含まれる、請求項1に記載の方法。
  6. 前記回転情報は、メディアプレゼンテーションレベル、期間レベル、適応セットレベル、表示レベル、およびサブ表示レベルのうちの少なくとも1つで前記メディアプレゼンテーション記述内に含まれる、または、前記ビデオ情報のヘッダ部分は、ISOベースメディアファイルフォーマットに従い、前記回転情報は、マルチメディアファイルに識別されたビデオストリームに関するトラック内のサンプル記述エントリに含まれる、請求項5に記載の方法。
  7. 送信者デバイスから前記ピクチャまたはビデオ情報を受信することをさらに備え、前記送信者デバイスは、カメラ、ビデオソース、固定されたピクチャキャプチャリングデバイス、およびモバイルデバイスのうちの少なくとも1つを備え、前記少なくとも1つの出力ピクチャを回転することは、前記ピクチャまたはビデオ情報を復号した後に発生し、前記送信者デバイスによって当初にキャプチャされたような前記ピクチャまたはビデオの方位と同じ方位を有する前記少なくとも1つの出力ピクチャをディスプレイすることをさらに備える、請求項1に記載の方法。
  8. ターゲットディスプレイについての情報に基づいて、前記少なくとも1つの出力ピクチャを回転することをさらに備え、ターゲットディスプレイについての前記情報は、ディスプレイ大きさ情報、前記ターゲットディスプレイ自体の方位情報、ディスプレイ解像度情報、およびディスプレイ識別情報のうちの1つまたは複数を含み、前記ディスプレイ識別情報に少なくとも部分的に基づいて、ターゲットディスプレイについての情報を取得することをさらに備える、請求項1に記載の方法。
  9. プロセッサは、前記回転データおよび期間に基づいて、前記少なくとも1つの出力ピクチャを修正するようにさらに構成され、前記修正は、アスペクト補正、スケーリング、およびクロッピングのうちの少なくとも1つを含む、請求項1に記載の方法。
  10. メディア情報をディスプレイするための装置であって、前記装置は、
    ピクチャまたはビデオ情報を取得するための手段と、ここで、前記ピクチャまたはビデオ情報は、少なくとも1つの出力ピクチャおよび前記少なくとも1つの出力ピクチャについての回転情報を含み、前記回転情報は、前記ピクチャまたはビデオ情報のヘッダ部分に含まれ、且つ前記少なくとも1つの出力ピクチャは、前記ピクチャまたはビデオ情報のピクチャフィールド部分に含まれ、前記ピクチャフィールド部分は、符号化され、且つ前記ヘッダ部分は、前記ピクチャフィールド部分とは異なる、
    前記ヘッダ部分に含まれる前記回転情報から回転データおよび前記回転データのための期間を抽出し、ここで、前記回転データのための前記期間は、前記ヘッダ部分に含まれる開始フィールドが有する前記期間の開始を特定する値と前記ヘッダ部分に含まれる終了フィールドが有する前記期間の終了を特定する値に基づいて識別される
    前記ピクチャフィールド部分から前記少なくとも1つの出力ピクチャを抽出する
    ように構成されたトランスポートレイヤ情報を処理するための手段と、
    前記抽出された少なくとも1つの出力ピクチャを復号するように構成された復号するための手段と、
    前記抽出された回転データおよび前記抽出された期間に基づいて、ディスプレイのための前記復号された少なくとも1つの出力ピクチャのバージョンを生成するように構成されたディスプレイを生成するための手段と、
    を備える装置。
  11. メディア情報を送信するための方法であって、前記方法は、
    ピクチャまたはビデオ情報を取得することと、ここで、前記ピクチャまたはビデオ情報は、前記ピクチャまたはビデオ情報が取得される場合、メディアキャプチャユニットのイメージデータおよび方位情報を含み、前記方位情報は、回転データと、前記回転データが適用される間の期間とを含み、前記回転データのための前記期間は、前記ピクチャまたはビデオ情報のヘッダ部分に含まれる開始フィールドが有する前記期間の開始を特定する値と前記ヘッダ部分に含まれる終了フィールドが有する前記期間の終了を特定する値に基づいて識別される
    前記ピクチャまたはビデオ情報を符号化することと、ここにおいて、前記方位情報は、前記ヘッダ部分に含まれ、且つ前記イメージデータは、ピクチャフィールド部分に含まれ、前記ピクチャフィールド部分は、符号化され、且つ前記ヘッダ部分は、前記ピクチャフィールド部分とは異なる、
    前記ヘッダ部分および前記ピクチャフィールド部分を送信することと、
    を備える方法。
  12. メディア情報を送信するための装置であって、前記装置は、
    ピクチャまたはビデオ情報を取得するための手段と、ここで、前記ピクチャまたはビデオ情報は、前記ピクチャまたはビデオ情報が取得される場合、メディアキャプチャユニットのイメージデータおよび方位情報を含み、前記方位情報は、回転データと、前記回転データが適用される間の期間とを含み、前記回転データのための前記期間は、前記ピクチャまたはビデオ情報のヘッダ部分に含まれる開始フィールドが有する前記期間の開始を特定する値と前記ヘッダ部分に含まれる終了フィールドが有する前記期間の終了を特定する値に基づいて識別される
    前記ピクチャまたはビデオ情報を符号化するための手段と、ここにおいて、前記方位情報は、前記ヘッダ部分に含まれ、且つ前記イメージデータは、ピクチャフィールド部分に含まれ、前記ピクチャフィールド部分は、符号化され、且つ前記ヘッダ部分は、前記ピクチャフィールド部分とは異なる、
    前記ヘッダ部分および前記ピクチャフィールド部分を送信するための手段と、
    を備える装置。
  13. 本願請求項1−または11のうちのいずれか一項の方法をプロセッサに行わせるように実行可能な命令を備えるコンピュータプログラム。
JP2015518486A 2012-06-20 2013-06-17 ピクチャ方位情報を有するマルチメディア通信のためのデバイスおよび方法 Active JP6466324B2 (ja)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US201261662314P 2012-06-20 2012-06-20
US61/662,314 2012-06-20
US201261682676P 2012-08-13 2012-08-13
US61/682,676 2012-08-13
US13/918,477 2013-06-14
US13/918,477 US9438818B2 (en) 2012-06-20 2013-06-14 Device and method for multimedia communications with picture orientation information
PCT/US2013/046163 WO2013192103A1 (en) 2012-06-20 2013-06-17 Device and method for multimedia communications with picture orientation information

Publications (3)

Publication Number Publication Date
JP2015524235A JP2015524235A (ja) 2015-08-20
JP2015524235A5 JP2015524235A5 (ja) 2016-07-14
JP6466324B2 true JP6466324B2 (ja) 2019-02-06

Family

ID=48699991

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015518486A Active JP6466324B2 (ja) 2012-06-20 2013-06-17 ピクチャ方位情報を有するマルチメディア通信のためのデバイスおよび方法

Country Status (9)

Country Link
US (2) US9438818B2 (ja)
EP (1) EP2865191B1 (ja)
JP (1) JP6466324B2 (ja)
KR (1) KR102069402B1 (ja)
CN (1) CN104335590B (ja)
ES (1) ES2675594T3 (ja)
HU (1) HUE038185T2 (ja)
TW (1) TWI502485B (ja)
WO (1) WO2013192103A1 (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102217322B (zh) * 2011-05-27 2013-10-09 华为技术有限公司 媒体发送方法、媒体接收方法和客户端及系统
US9438818B2 (en) 2012-06-20 2016-09-06 Qualcomm Incorporated Device and method for multimedia communications with picture orientation information
US8923880B2 (en) * 2012-09-28 2014-12-30 Intel Corporation Selective joinder of user equipment with wireless cell
US9762938B2 (en) * 2012-10-26 2017-09-12 Intel Corporation Multimedia adaptation based on video orientation
CA2880588C (en) * 2012-10-26 2020-03-10 Intel Corporation Streaming with coordination of video orientation
JP2014212456A (ja) * 2013-04-18 2014-11-13 ソニー株式会社 送信装置、メタファイル送信方法、受信装置および受信処理方法
KR102288500B1 (ko) 2013-08-05 2021-08-11 삼성전자주식회사 송신 장치, 수신 장치 및 그 제어 방법
US9641831B2 (en) * 2013-10-28 2017-05-02 Electronics And Telecommunications Research Institute Apparatus and method for transmitting/receiving moving picture experts group (MPEG) media transport (MMT) signaling message for measurement configuration (MC) processing
KR101737849B1 (ko) * 2014-02-24 2017-05-19 엘지전자 주식회사 방송 신호 송신 장치, 방송 신호 수신 장치, 방송 신호 송신 방법, 및 방송 신호 수신 방법
US10447747B2 (en) 2014-03-25 2019-10-15 Qualcomm Incorporated Video orientation negotiation
US20150348325A1 (en) * 2014-05-27 2015-12-03 Thomson Licensing Method and system for stabilization and reframing
EP3375194A1 (en) * 2015-11-09 2018-09-19 Thomson Licensing Method and device for adapting the video content decoded from elementary streams to the characteristics of a display
TWI593286B (zh) * 2016-01-15 2017-07-21 晨星半導體股份有限公司 電視系統與多媒體播放方法
US10587934B2 (en) * 2016-05-24 2020-03-10 Qualcomm Incorporated Virtual reality video signaling in dynamic adaptive streaming over HTTP
US11156375B2 (en) 2016-07-22 2021-10-26 Ademco Inc. Migration of settings from a non-connected building controller to another building controller
CN107948393A (zh) * 2016-10-13 2018-04-20 阿里巴巴集团控股有限公司 基于场景的应用操作方法、装置、终端设备和操作系统
JP7146747B2 (ja) 2016-11-17 2022-10-04 インテル コーポレイション パノラマビデオのための提案されるビューポート指示
WO2018093840A1 (en) * 2016-11-17 2018-05-24 Intel Corporation Spherical rotation for encoding wide view video
CN106973252B (zh) * 2017-03-17 2019-08-20 中煤电气有限公司 一种视频通话方法及系统
BR112023018967A2 (pt) * 2021-04-02 2023-10-17 Qualcomm Inc Orientação de imagem e métricas de qualidade mensagem de informações de aprimoramento suplementar para codificação de vídeo
US11895336B2 (en) 2021-04-02 2024-02-06 Qualcomm Incorporated Picture orientation and quality metrics supplemental enhancement information message for video coding
EP4376426A1 (en) * 2022-11-25 2024-05-29 Beijing Xiaomi Mobile Software Co., Ltd. Signaling encapsulated data representing alignment axes of a video

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6162281A (ja) * 1984-09-04 1986-03-31 Canon Inc 撮像及びデイスプレイ・システム
JPH099197A (ja) * 1995-06-21 1997-01-10 Asia Kosoku Kk 連続ステレオ画像データ記録装置
JP2001197462A (ja) * 2000-01-17 2001-07-19 Nec Corp テレビ電話装置及びそれを備えるテレビ電話システム
US20050281444A1 (en) * 2004-06-22 2005-12-22 Vidar Lundberg Methods and apparatus for defining a protocol for ultrasound imaging
WO2007037531A1 (ja) * 2005-09-30 2007-04-05 Nec Corporation 記録ストリーム再生装置
JP4926533B2 (ja) * 2006-05-02 2012-05-09 キヤノン株式会社 動画像処理装置、動画像処理方法及びプログラム
JP4871357B2 (ja) 2006-06-28 2012-02-08 富士通株式会社 携帯装置及び映像通信システム
JP2008098916A (ja) * 2006-10-11 2008-04-24 Canon Inc 動画表示装置および動画表示方法
US8311530B2 (en) * 2007-01-26 2012-11-13 Research In Motion Limited Touch entry of password on a mobile device
US7956904B2 (en) * 2007-10-23 2011-06-07 Panasonic Corporation Image file reproduction device and image file reproduction method
JP2010067026A (ja) * 2008-09-11 2010-03-25 Nec Corp Icタグの制御方法
US8850489B2 (en) 2008-12-22 2014-09-30 At&T Mobility Ii Llc Cost reduction through bidding and advertising
TW201028018A (en) 2009-01-07 2010-07-16 Ind Tech Res Inst Encoder, decoder, encoding method and decoding method
JP5323579B2 (ja) * 2009-05-01 2013-10-23 三洋電機株式会社 撮影装置、およびこれを備えた映像処理システム
CN102473172A (zh) * 2009-07-24 2012-05-23 数字标记公司 改进的音频/视频方法和系统
US9124804B2 (en) * 2010-03-22 2015-09-01 Microsoft Technology Licensing, Llc Using accelerometer information for determining orientation of pictures and video images
US8451994B2 (en) * 2010-04-07 2013-05-28 Apple Inc. Switching cameras during a video conference of a multi-camera mobile device
US8803999B2 (en) * 2010-10-12 2014-08-12 Blackberry Limited Method and apparatus for image orientation indication and correction
JP5811602B2 (ja) 2010-12-16 2015-11-11 ソニー株式会社 画像生成装置、プログラム、画像表示システム、および画像表示装置
US8838911B1 (en) * 2011-03-09 2014-09-16 Verint Systems Inc. Systems, methods, and software for interleaved data stream storage
US20120230594A1 (en) 2011-03-10 2012-09-13 Jill Boyce Adaptive picture rotation
AU2012226283B2 (en) 2011-03-10 2016-09-15 Vidyo, Inc. Render-orientation information in video bitstream
US9438818B2 (en) 2012-06-20 2016-09-06 Qualcomm Incorporated Device and method for multimedia communications with picture orientation information

Also Published As

Publication number Publication date
KR102069402B1 (ko) 2020-01-22
US20130342762A1 (en) 2013-12-26
WO2013192103A1 (en) 2013-12-27
KR20150023776A (ko) 2015-03-05
US9445125B2 (en) 2016-09-13
JP2015524235A (ja) 2015-08-20
US9438818B2 (en) 2016-09-06
TW201403456A (zh) 2014-01-16
EP2865191A1 (en) 2015-04-29
HUE038185T2 (hu) 2018-09-28
TWI502485B (zh) 2015-10-01
ES2675594T3 (es) 2018-07-11
CN104335590B (zh) 2018-03-06
CN104335590A (zh) 2015-02-04
EP2865191B1 (en) 2018-04-04
US20160227255A1 (en) 2016-08-04

Similar Documents

Publication Publication Date Title
JP6466324B2 (ja) ピクチャ方位情報を有するマルチメディア通信のためのデバイスおよび方法
KR102613593B1 (ko) 필수 및 비필수 비디오 보충 정보의 시그널링
US20230283863A1 (en) Retrieving and accessing segment chunks for media streaming
US9537902B2 (en) Enabling devices without native broadcast capability to access and/or receive broadcast data in an efficient manner
US20160337424A1 (en) Transferring media data using a websocket subprotocol
US9674499B2 (en) Compatible three-dimensional video communications
JP2016521518A (ja) ワイヤレス通信システムにおけるビデオストリーミング
EP2596614A1 (en) Method and apparatus for indicating switching points in a streaming session
US20180176278A1 (en) Detecting and signaling new initialization segments during manifest-file-free media streaming
CN111656791A (zh) 流式传输服务中的信令和报告交互性使用
EP3123714B1 (en) Video orientation negotiation
WO2021195398A1 (en) Determination of availability of chunks of data for network streaming media data
TW201724868A (zh) 顯示部分視訊流方法及系統
WO2024081395A1 (en) Viewport and/or region-of-interest dependent delivery of v3c data using rtp

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160524

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160524

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170518

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170704

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171004

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180320

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180619

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181211

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190109

R150 Certificate of patent or registration of utility model

Ref document number: 6466324

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250