JP2019515578A - ビデオストリームを動的にステッチングするシステム及び方法 - Google Patents

ビデオストリームを動的にステッチングするシステム及び方法 Download PDF

Info

Publication number
JP2019515578A
JP2019515578A JP2018558425A JP2018558425A JP2019515578A JP 2019515578 A JP2019515578 A JP 2019515578A JP 2018558425 A JP2018558425 A JP 2018558425A JP 2018558425 A JP2018558425 A JP 2018558425A JP 2019515578 A JP2019515578 A JP 2019515578A
Authority
JP
Japan
Prior art keywords
encoded
frames
stitching
video frames
video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018558425A
Other languages
English (en)
Inventor
シン キスマット
シン キスマット
ゴピナータ スリニディ カダガター
ゴピナータ スリニディ カダガター
チャン マーク
チャン マーク
デヴァッパ シジハリ ネーラカンス
デヴァッパ シジハリ ネーラカンス
ケイヤー ラクシュミナラヤナ キショー
ケイヤー ラクシュミナラヤナ キショー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ATI Technologies ULC
Advanced Micro Devices Inc
Original Assignee
ATI Technologies ULC
Advanced Micro Devices Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ATI Technologies ULC, Advanced Micro Devices Inc filed Critical ATI Technologies ULC
Priority claimed from PCT/US2017/030503 external-priority patent/WO2017196582A1/en
Publication of JP2019515578A publication Critical patent/JP2019515578A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162User input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/48Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using compressed domain processing techniques other than decoding, e.g. modification of transform coefficients, variable length coding [VLC] data or run-length data

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

ビデオコーデック(100)は、表示用に連結フレームに合成される記憶された符号化ビデオフレーム(119)を選択するよう構成されたステッチングモジュール(110)を含む。ステッチングモジュールは、選択された符号化ビデオフレームを特定のパターンに配置し、配置された符号化ビデオフレームをステッチングしてステッチ符号化フレーム(118)を生成する。次に、ビデオコーデックのデコーダ(115)は、ステッチ符号化フレームを復号化して、表示用のフレームを生成する。復号化の前に符号化ビデオフレームをステッチングすることによって、ビデオコーデックは、デコーダを初期化しなければならない回数を減らす。【選択図】図1

Description

本開示は、概して、ビデオ処理に関し、より具体的には、ビデオ復号化に関する。
ビデオエンコーダ及びデコーダは、圧縮方式でのビデオストリームの記憶及び転送を容易にするために多種多様な用途に利用される。例えば、ビデオストリームは、ビデオストリームを記憶するのに必要なスペースの量を削減するために、メモリに記憶される前に符号化され、その後、表示装置に表示するためのフレームを生成するために復号化される。通常、ビデオストリームを復号化する前には、復号化処理のためにメモリ及び他のシステムリソースを準備するために、デコーダを初期化しなければならない。しかし、デコーダの初期化に必要なオーバーヘッドは、特に、多くの異なるビデオストリームの復号化を必要とするアプリケーションにおいて、復号化処理の効率に重大な影響を及ぼし得る。
添付図面を参照することによって、本開示をより良く理解することができ、本開示の多数の特徴及び利点が当業者に明らかとなるであろう。異なる図面における同じ参照記号の使用は、類似又は同一のアイテムを示す。
いくつかの実施形態による、復号化のためのステッチ符号化フレーム(stitched encoded frame)を生成するために符号化ビデオフレームをステッチングするように構成されたビデオコーデックのブロック図である。 いくつかの実施形態による、符号化ビデオフレームのセットをステッチングして、ステッチ符号化フレームを生成する図1のビデオコーデックの一例を示すブロック図である。 いくつかの実施形態による、符号化ビデオフレームの異なるセットを選択及びステッチングして、異なるステッチ符号化フレームを生成する図1のビデオコーデックの一例を示すブロック図である。 いくつかの実施形態による、符号化ビデオフレームの異なるセットを選択及びステッチングして、重複する符号化ビデオフレームから構成された異なるステッチ符号化フレームを生成する図1のビデオコーデックの一例を示すブロック図である。 いくつかの実施形態による、ステッチ符号化フレームにステッチングされる順序を決定し、他のビデオヘッダを生成するように、符号化ビデオフレームのヘッダを変更する図1のビデオコーデックの一例を示すブロック図である。 いくつかの実施形態による、符号化ビデオフレームをステッチングして、復号化のためのステッチ符号化フレームを生成する方法のフロー図である。
図1〜図6は、符号化ビデオフレームを独立してステッチングして、復号用のステッチ符号化フレームを生成することによって、ビデオコーデックにおける初期化オーバーヘッドを低減する技術を示す図である。ビデオコーデックは、表示用に連結フレームに合成される記憶された符号化ビデオフレームを選択するように構成されたステッチングモジュールを含む。ステッチングモジュールは、選択された符号化ビデオフレームを特定のパターンに配置し、配置された符号化ビデオフレームをステッチングしてステッチ符号化フレームを生成する。次に、ビデオコーデックのデコーダは、ステッチ符号化フレームを復号化して、表示用のフレームを生成する。復号化の前に符号化ビデオフレームをステッチングすることによって、ビデオコーデックは、デコーダを初期化しなければならない回数を減らし、これにより、処理効率を向上させる。
例えば、ビデオフレームを復号化するためには、復号化のためにメモリを割り当てることと、バッファ及び他の記憶要素を準備することと、以前の復号化動作中に記憶されたデータをフラッシュすること等によって、デコーダを初期化しなければならない。デコーダを初期化するのに必要なオーバーヘッド量(本明細書では、「初期化オーバーヘッド」と呼ばれる)は、通常、復号化されるビデオのサイズに依存しない。したがって、多数の独立したビデオフレームから構成された表示フレームを生成するいくつかのタイプの装置に関して、初期化オーバーヘッドは、コーデックリソース及び性能に重大な影響を及ぼし得る。これは、ビデオストリームの解像度が比較的低い場合に特に当てはまる。例えば、カジノゲーム及びパチンコ/パチスロ装置では、各表示フレームが多数の独立したビデオストリームから構成されており、表示されるビデオストリームが経時的に頻繁に変化することがある。従来、異なる独立したビデオストリームは、独立して符号化及び復号化され、次に、表示用のフレームに合成される。この手法では、初期化オーバーヘッドが望ましくない量のシステムリソースを消費するように、独立したビデオフレーム毎及びフレームレベル毎にデコーダを再初期化する必要がある。本明細書で説明する技術を使用すると、ビデオコーデックは、選択された複数の符号化フレームを、復号用の単一のステッチ符号化フレームに動的にステッチングすることができる。これにより、過剰なメモリ又はデコーダ初期化オーバーヘッドを必要とすることなく、多数の可能なビデオフレームの多数の可能な組み合わせの復号化をサポートする。さらに、選択された符号化フレームを復号用のステッチフレームに動的にステッチングすることによって、デコーダの初期化の回数を低減することができる。
図1は、いくつかの実施形態による、電子デバイスで表示されるフレームを生成するために、ビデオストリームを符号化及び復号化するように構成されたビデオコーデック100の一例を示す図である。そのため、ビデオコーデック100を、パーソナルコンピュータ、スマートフォン等の携帯デバイス、ビデオプレーヤ、ビデオゲームコンソール、カジノゲームデバイス等の様々なタイプの装置に使用することができる。本明細書でさらに説明するように、ビデオコーデック100によって符号化されたビデオストリームは、表示装置119で表示するための複数の画像又はピクチャから構成される。各ビデオストリームに記憶された大量の情報は、処理能力及びメモリ等の相当量のコンピューティングリソースを必要とすることがあるので、ビデオコーデック100は、画質を過度に損なうことなくビデオストリームの情報を符号化又は圧縮するために使用される。ビデオコーデックは、表示の前に、ビデオストリーム内の非圧縮画像を、表示装置に表示することができるように復号化する。
ビデオストリームの符号化及び復号化をサポートするために、ビデオコーデック100は、エンコーダ105と、メモリ107と、入力/出力モジュール108と、ステッチングモジュール110と、デコーダ115と、デステッチングモジュール117と、表示装置119と、を備える。エンコーダ105は、VS1 111、VS2 112からN番目のビデオストリームVSN 113までを含むビデオストリーム(VS)を受信するように構成されている。また、エンコーダ105は、受信したビデオストリームの各々を符号化して、符号化フレームに対応するストリーム(例えば、VS1 111に対応する符号化フレームのストリーム(EF)119)を生成するように構成されている。ビデオストリーム111〜113の各々は、異なるビデオフレームのシーケンスを表しており、したがって、任意の様々なビデオコンテンツアイテムを表すことができる。例えば、いくつかの実施形態では、各ビデオストリームは、ビデオスロットマシン又はパチンコ機等のカジノゲームのゲーム要素のアニメーションを表す。いくつかの実施形態では、各ビデオストリームは、異なるテレビ番組、映画、又は、他のビデオエンターテイメントコンテンツを表す。
エンコーダ105は、例えばMPEG(Motion Picture Expert Group)−2パート2、MPEG−4パート2、H.264、H.265(HEVC)、Theora、Dirac、RealVideo RV40、VP8若しくはVP9符号化フォーマット等の多数の圧縮若しくは符号化フォーマット又は規格の何れか1つに従って、受信したビデオストリーム111〜113の各々を符号化して、対応する符号化ビデオストリームを生成するように構成されている。エンコーダは、対応する符号化ビデオフレームEF1、EF2、…、EFNをメモリ107に出力する。これらの符号化フレームは、符号化マクロブロック又は符号化ツリーユニット(CTU)から構成されている。
メモリ107は、通常、符号化ビデオフレームEF1、EF2、…、EFNをエンコーダ105から受信し、ステッチングモジュール110による読み出しのためにこれらのビデオフレームを記憶するように構成された記憶媒体である。したがって、メモリ107は、コンピュータシステムによってアクセス可能な任意の記憶媒体、又は、記憶媒体の組み合わせを含むことができる。このような記憶媒体は、光媒体(例えば、コンパクトディスク(CD)、デジタル多用途ディスク(DVD)、ブルーレイ(登録商標)ディスク)、磁気媒体(例えば、フロッピー(登録商標)ディスク、磁気テープ、磁気ハードドライブ)、揮発性メモリ(例えば、ランダムアクセスメモリ(RAM)、キャッシュ)、不揮発性メモリ(例えば、読み出し専用メモリ(ROM)、フラッシュメモリ)、又は、微小電気機械システム(MEMS)ベースの記憶媒体を含むことができるが、これらに限定されない。メモリ107は、コンピューティングシステムに内蔵され(例えば、システムRAM若しくはROM)、コンピューティングシステムに固定的に取り付けられ(例えば、磁気ハードドライブ)、コンピューティングシステムに着脱可能に取り付けられ(例えば、光学ディスク若しくはユニバーサルシリアルバス(USB)を利用したフラッシュメモリ)、又は、有線若しくは無線ネットワークを介してコンピューティングシステムに接続され(例えば、ネットワークアクセス可能な記憶装置(NAS))てもよい。
入力/出力モジュール108は、通常、例えばタッチスクリーン、キーボード、ボタン又は他の入力のセット、ゲームコントローラ、コンピュータマウス、トラックボール、ポインティングデバイス、パドル、ノブ、視線追跡装置、デジタルカメラ、マイクロフォン、ジョイスティック等の入力装置(図示省略)とのユーザのインタラクションを表す電気信号を生成するように構成されている。説明目的のために、ユーザと入力装置とのインタラクションは、表示用のビデオストリームの選択をもたらすと想定する。いくつかの実施形態では、選択は直接選択とすることができ、これにより、ユーザは、表示用の特定のビデオストリームを選択する。例えば、ユーザは、マウス又はテレビのリモコンを使用して、同時に表示されるビデオクリップの配置を選択することができる。他の実施形態では、選択は、ユーザ入力に応じて生成されたビデオフレームのランダム選択等の間接選択とすることができる。例えば、選択は、ユーザがカジノゲーム機の「スピン」ボタンを押すことに応じて生成されたビデオストリームのランダムな選択とすることができる。
入力/出力モジュール108は、ユーザの選択に基づいて、表示される個別のビデオストリームと、表示されるビデオストリームの配置と、の両方を示すステッチングシーケンス命令109を生成する。例えば、入力/出力モジュール108は、受信したユーザ入力に基づいて、ビデオストリームのランダム又は擬似ランダムな選択、及び、表示されるビデオストリームの配置を描写するステッチングシーケンス命令109を生成するようにプログラムされてもよい。したがって、一シナリオでは、入力/出力モジュール108は、符号化フレームEF2、EF4(図示省略)、EF5(図示省略)及びEF8(図示省略)の選択と、対応するビデオストリームの一次元スタック内での配置(符号化フレームEF2によって表されるビデオストリームが当該スタックの上部に表示され、符号化フレームEF4によって表されるビデオストリームが符号化フレームEF2の下に表示され、符号化フレームEF5によって表されるビデオストリームが符号化フレームEF4の下に表示され、符号化フレームEF8によって表されるビデオストリームが符号化フレームEF5の下であって、当該スタックの下部に表示される)と、を指示するステッチング命令109を生成してもよい。
入力/出力モジュール108は、新たなユーザ入力と、表示されるビデオフレームの新たな対応する選択及び配置と、を反映するように、ステッチング命令109を変更することができることを理解されたい。例えば、カジノゲーム機の場合、入力/出力モジュール108は、スピン又は他のゲームイベントを表す各ユーザ入力に対して新たなステッチング命令109を生成し、これにより、カジノゲームのルールに従ってビデオフレームの新たな選択及び配置を生成することができる。
ステッチングモジュール110は、ステッチングシーケンス命令109を受信し、ステッチングシーケンス命令109に従って、メモリ107に記憶された符号化フレームを選択し、デコーダ115への出力のために符号化フレームをステッチングして、ステッチ符号化フレーム118を生成するように構成されている。独立した符号化フレームの各々は、ステッチ符号化フレーム118の一部となる。いくつかの実施形態では、本明細書でさらに説明するように、ステッチングモジュール110は、選択された符号化フレームの画素ブロックヘッダ(例えば、マクロブロック又はCTUヘッダ)を変更すること(例えば、表示されるフレーム内の対応する画素ブロックの位置を示す画素ブロックヘッダのシーケンス番号を変更すること等)によって、選択された符号化フレームをステッチングする。
デコーダ115は、通常、ステッチングモジュール110から受信したステッチ符号化フレーム118を復号化して、復号化フレーム116を生成するように構成されている。デコーダ115は、いくつかの解凍又は復号のフォーマット又は規格に従って、及び、ビデオストリームがエンコーダ105によって符号化されたフォーマット又は規格に対応して、ステッチ符号化フレーム118を復号化する。次に、デコーダ115は、復号化フレーム116をデステッチングモジュール117に供給する。復号化フレーム116は、ステッチ符号化フレーム118に基づいて生成されるので、個別の表示されたビデオストリームの各々が符号化前に合成された場合に生成されるフレームに対応する。しかし、ビデオコーデック100は、ビデオストリームをこれらの符号化形式でステッチングすることによって、セットアップオーバーヘッドを低減しながら多種多様なビデオストリームの選択及び配置の組み合わせをサポートする。符号化ビデオフレームは、ステッチングモジュール110によって選択され、ステッチ符号化フレームにステッチングされるので、デコーダ115は、符号化ビデオフレーム及びステッチフレーム内のこれらの配置が個々のビデオフレームの符号化後まで決定されなくても、符号化ビデオフレームEF1〜EFn毎に再設定されるのではなく、ステッチ符号化フレーム118を復号化するためにフレーム毎に一度だけ設定される必要がある。
デステッチングモジュール117は、通常、デステッチング命令(図示省略)を受信し、デステッチング命令に従ってステッチ復号化フレーム116をデステッチングして、VS1 111、VS2 112、…、VSN 113に対応する復号化(非圧縮)ビデオストリームを生成するように構成されている。デステッチングモジュール117は、表示装置119で表示される表示フレームを生成するために、表示装置119によって合成された復号化ビデオストリーム(図示省略)を出力する。
例示すると、動作中、エンコーダ105は、ビデオストリーム111〜113を受信し、受信した各ストリームを符号化して対応する符号化ビデオフレームを生成し、符号化ビデオフレームをメモリ107に記憶する。少なくとも1つの実施形態では、ビデオストリームを符号化ビデオフレームに符号化することは、ビデオコーデック100を使用する装置の通常動作の前に行われる。例えば、符号化ビデオフレームは、ユーザによる装置の通常操作中に準備されるように、ビデオコーデック100を使用する装置の製造又はプロビジョニング段階においてエンコーダ105によって生成されてもよい。
ユーザは、入力/出力モジュール108を介して装置とインタラクトし、入力/出力モジュール108は、ユーザのインタラクションに応じて、ステッチングシーケンス命令109を生成する。ステッチングモジュール110は、ステッチングシーケンス命令109に基づいて、メモリ107に記憶されている符号化フレームを選択し、符号化フレームをステッチングして、デコーダ115への出力用のステッチ符号化フレーム118を生成する。デコーダは、受信したステッチ符号化フレーム118を復号化して、デステッチングモジュール117への出力用のステッチ復号化フレーム116を生成する。デステッチングモジュール117は、受信したステッチ復号化フレーム116をデステッチングして、ビデオストリームをユーザに表示する表示装置119への出力用の復号化ビデオストリームを生成する。
図2は、いくつかの実施形態による、ビデオコーデック100がステッチ符号化フレーム212を生成する一例を示す図である。図示した例では、符号化ビデオフレームEF1,EF2,EF3,EF4,EF5,EF6,EF7,EF8がメモリ207(図示省略)に記憶されている。ステッチングモジュール110は、ステッチングシーケンス命令209を受信する。図示した例では、ステッチングシーケンス命令209は、符号化ビデオフレームEF1,EF2,EF3,EF5が一次元スタックに配置され、EF3が当該スタックの最上部に配置され、EF1がEF3の下に配置され、EF5がEF1の下に配置され、EF2がEF5の下であって当該スタックの最下部に配置されるように示していることを想定する。
ステッチングモジュール110は、ステッチングシーケンス命令209の受信に応じて、符号化ビデオフレームEF1,EF2,EF3,EF5をメモリ207から読み出し、これらを、垂直に積み重ねられた4つの符号化ビデオフレーム(EF3がスタックの最上部に配置され、EF1がEF3の下に配置され、EF5がEF1の下に配置され、EF2がEF5の下であってスタックの最下部に配置されている)を有するステッチ符号化ビデオフレーム212にステッチングする。したがって、ステッチングモジュール110は、ステッチングシーケンス209によって示された選択及び配置に一致させる。いくつかの実施形態では、ステッチングモジュール110は、符号化フレームの1つ以上の画素ブロックヘッダを変更すること(これにより、フレーム内の対応する画素ブロックの位置を変更する)によって、選択された符号化フレームを、命令された配置に従って配置する。一例については、図5を参照して後述する。
いくつかの実施形態では、ステッチングモジュール110によって受信されたステッチングシーケンス命令を、ユーザ入力に応じて経時的に変更することができ、これにより、符号化ビデオフレームの異なるステッチ配置を、異なる時点で異なるステッチ符号化フレームに生成することができる。いくつかの実施形態による一例を図3に示す。図示した例では、符号化ビデオフレームEF1,EF2,EF3,EF4,EF5,EF6,EF7,EF8がメモリ107に記憶されている。時間T1において、ステッチングモジュール110は、4つのフレームを有するスタックに符号化ビデオフレームEF1,EF2,EF3,EF5が配置されている(EF3がスタックの最上部に配置され、EF1がEF3の下に配置され、EF5がEF1の下に配置され、EF2がEF5の下であってスタックの最下部に配置されている)ことを示すステッチングシーケンス命令(図示省略)を受信する。ステッチングモジュール110は、受信したステッチングシーケンス命令に従って符号化ビデオフレームEF1,EF2,EF3,EF5を読み出し、これらを、EF3がスタックの再上部に配置され、EF1がEF3の下に配置され、EF5がEF1の下に配置され、EF2がEF5の下であってスタックの最下部に配置される、4つのスタックされたフレームを有する符号化ビデオフレーム312にステッチングする。
ステッチングモジュール110は、時間T1の後の時間T2において、4つのフレームを有するスタックに符号化ビデオフレームEF4,EF6,EF7,EF8が配置されている(EF6がスタックの最上部に配置され、EF4がEF6の下に配置され、EF7がEF4の下に配置され、EF8がEF7の下であってスタックの最下部に配置されている)ことを示す新たなステッチングシーケンス命令(図示省略)を受信する。ステッチングモジュール110は、ステッチングシーケンス命令に従って符号化ビデオフレームEF4,EF6,EF7,EF8を読み出し、これらを、EF6がスタックの最上部に配置され、EF4がEF6の下に配置され、EF7がEF4の下に配置され、EF8がEF7の下であってスタックの最下部に配置される、4つの垂直にスタックされたフレームを有する符号化ビデオフレーム313にステッチングする。このように、図3の例では、ステッチングモジュール103は、ステッチングシーケンス命令の変更に応じて符号化ビデオフレームの選択及び配置を更新し、これにより、表示装置117に表示されるビデオストリームの配置を変更する。
図4は、いくつかの実施形態による、図1のビデオコーデックが、符号化ビデオフレームの異なるセットを選択及びステッチングして、符号化ビデオフレームの重複したセットから構成される異なるステッチ符号化フレームを生成する一例を示す図である。図示した例では、符号化ビデオフレームEF1,EF2,EF3,EF4,EF5,EF6,EF7,EF8がメモリ107に記憶されている。時間T1において、ステッチングモジュール110は、ステッチングシーケンス命令(図示省略)を受信する。ステッチングモジュール110は、受信したステッチングシーケンス命令に従って符号化ビデオフレームEF1,EF2,EF3,EF5を読み出し、これらを、EF3がスタックの最上部に配置され、EF1がEF3の下に配置され、EF5がEF1の下に配置され、EF2がEF5の下であってスタックの最下部に配置される、4つのスタックされたフレームを有する符号化ビデオフレーム412にステッチングする。時間T2において、ステッチングモジュール110は、新たなステッチングシーケンス命令(図示省略)を受信する。ステッチングモジュール110は、受信したステッチングシーケンス命令(図示省略)に従って符号化ビデオフレームEF2,EF3,EF4,EF8を読み出し、これらを、EF3がスタックの最上部に配置され、EF4がEF3の下に配置され、EF8がEF4の下に配置され、EF2がEF8の下であってスタックの最下部に配置される、4つのスタックされたフレームを有する符号化ビデオフレーム413にステッチングする。
図5は、いくつかの実施形態による、図1のビデオコーデックが、ステッチ符号化フレーム559にステッチングされる順序を決定するように、符号化ビデオフレームの画素ブロック識別子(例えば、マクロブロック又はCTUヘッダ)を変更する一例を示す図である。図示した例では、メモリ107は、符号化ビデオフレーム551等の符号化ビデオフレームを記憶する。符号化ビデオフレームの各々は、少なくともヘッダ及びペイロード(例えば、符号化フレーム551のヘッダ552及びペイロード553)から構成されている。ヘッダは、符号化ビデオフレームの特定の画素ブロックに対するアドレス情報を含む。例えば、画素ブロックの左上隅に位置する第1画素ブロックのアドレスを0に指定することができる。ステッチングモジュール110は、画素ブロックヘッダのアドレス情報を変更することによって、ステッチフレーム内の画素ブロックの位置を変更する。例えば、1つのステッチ符号化フレーム当たり4つの画素ブロックが存在し、ステッチ符号化フレームが4つのスタックされた画素ブロックを有する場合を想定すると、ステッチングモジュール110は、画素ブロックヘッダのアドレスを0から2に変更することによって、画素ブロックを2つ下の位置に移動させる。画素ブロックヘッダのアドレスを0から8に変更すると、画素ブロックが8つ下の位置に移動する。
図示した例では、ステッチングシーケンス命令(図示省略)は、符号化ビデオフレームEF3がステッチ符号化フレーム559の最上部にステッチングされ、符号化ビデオフレームEF1が符号化フレームEF3の下にステッチングされ、符号化ビデオフレームEF5が符号化フレームEF1の下にステッチングされ、符号化ビデオフレームEF2が符号化フレームEF5の下であってステッチ符号化フレーム559の最下部にステッチングされることを示している。したがって、ステッチングモジュール110は、符号化ビデオフレームEF3の画素ブロックヘッダアドレスを0からN1に変更し、符号化ビデオフレームEF1の画素ブロックヘッダアドレスを0からN2に変更し、符号化ビデオフレームEF5の画素ブロックヘッダアドレスを0からN3に変更し、符号化ビデオフレームEF2の画素ブロックヘッダアドレスを0からN4に変更する。この例では、ステッチ符号化フレーム559に示された配置を実現するために、アドレスN4がアドレスN3よりも大きく移動し、アドレスN3がアドレスN2よりも大きく移動し、アドレスN2がアドレスN1よりも大きく移動するものと想定する。当業者は、同じ順序を実現するために、他の実施形態において、アドレスの他の相対的移動を使用可能であることを理解することができる。したがって、ステッチングモジュール110は、ステッチ符号化フレーム559について符号化ビデオフレームの各々の画素ブロックの相対位置を変更し、これにより、符号化フレームをステッチ符号化フレーム559に論理的にステッチングする。いくつかの実施形態では、ステッチングモジュール110は、関連するコーデック規格に従って正確な復号化を保証するために、アドレス情報を記憶するビット数を変更することなく、画素ブロックヘッダを変更する。
図6は、いくつかの実施形態による、符号化ビデオフレームをステッチングして、復号化用のステッチ符号化フレームを生成する方法600を示すフロー図である。ブロック610において、ステッチングモジュール110は、入力/出力モジュールからシーケンス命令109を受信する。ブロック620において、ステッチングモジュール110は、受信したステッチング命令109に従って、選択された符号化ビデオフレームをメモリから読み出す。ブロック630において、ステッチングモジュールは、受信したステッチング命令109に従って、選択された符号化ビデオフレームの画素ブロックヘッダアドレスを変更する。ブロック640において、ステッチングモジュール110は、受信したステッチング命令109に従って、符号化ビデオフレームをステッチングして、ステッチ符号化フレームを生成する。ブロック650において、ステッチングモジュール110は、ステッチ符号化フレーム117をデコーダ115に出力する。
いくつかの実施形態では、上述した技術の特定の態様は、ソフトウェアを実行する処理システムの1つ以上のプロセッサによって実装されてもよい。ソフトウェアは、非一時的なコンピュータ可読記憶媒体に記憶され、又は、他の方法により有形に具体化される1つ以上の実行可能命令セットを含む。ソフトウェアは、1つ以上のプロセッサによって実行されると、上述した技術の1つ以上の態様を実行するように1つ以上のプロセッサを操作する命令及び特定のデータを含むことができる。非一時的なコンピュータ可読記憶媒体は、例えば、磁気若しくは光ディスクストレージデバイス、フラッシュメモリ等のソリッドステートストレージデバイス、キャッシュ、ランダムアクセスメモリ(RAM)、又は、他の不揮発性メモリデバイス等を含むことができる。非一時的なコンピュータ可読記憶媒体に記憶される実行可能命令は、ソースコード、アセンブリ言語コード、オブジェクトコード、又は、1つ以上のプロセッサによって解釈若しくは実行可能な他の命令フォーマットであってもよい。
概要的な説明において上述した全てのアクティビティ又は要素が必要とされているわけではなく、特定のアクティビティ又はデバイスの一部が必要とされない場合があること、1つ以上のさらなるアクティビティが実行され、1つ以上のさらなる要素が含まれ得ることに留意されたい。さらに、アクティビティを列挙する順序は、必ずしもそれらが実行される順序ではない。また、概念は、特定の実施形態を参照して説明された。しかしながら、当業者であれば、以下の特許請求の範囲に記載されるように本発明の範囲から逸脱することなく、様々な変更及び変形を行うことが可能であることを理解するであろう。したがって、本明細書及び図面は、限定的な意味ではなく例示的な意味で考慮されるべきであり、かかる変更の全てが本発明の範囲内に含まれることを意図している。
利益、他の利点及び問題に対する解決手段を、特定の実施形態に関して上記のように説明した。しかしながら、利益、利点、問題に対する解決手段、及び、何等かの利益、利点、解決手段を生じさせ又は顕著にし得る機能は、何れか又は全ての請求項の重要な、必須の、不可欠な特徴として解釈されるべきではない。さらに、本明細書の教示の恩恵を受ける当業者は、開示された発明を、異なるが当業者に明らかな同等の方式で変更及び実施することができるので、上述した特定の実施形態は例示に過ぎない。以下の特許請求の範囲に記述されているもの以外に、本明細書に示される構成又は設計の詳細に対する限定を意図していない。したがって、上記に開示された特定の実施形態は変更されてもよいし、修正されてもよく、このような変形形態の全ては、開示された発明の範囲内にあるとみなされることが明らかである。よって、本明細書で求められる保護は、以下の特許請求の範囲に記載のとおりである。

Claims (15)

  1. デコーダ(100)において、受信した第1の複数の符号化ビデオフレーム(119)をステッチングして(640)、組み合わせられた第1の複数の符号化フレーム(118)を生成することと、
    前記組み合わせられた第1の複数の符号化フレームを復号化して(650)、第1の複数の表示フレームを生成することと、を含む、
    方法。
  2. 前記デコーダにおいて、前記第1の複数の符号化ビデオフレームとは異なる、受信した第2の複数の符号化ビデオフレームをステッチングして、組み合わせられた第2の複数の符号化フレーム(212)を生成することと、
    前記組み合わせられた第2の複数の符号化フレームを復号化して、第2の複数の表示フレームを生成することと、を含む、
    請求項1の方法。
  3. 前記第2の複数のビデオフレームは、前記第1の複数のビデオフレームの少なくとも1つのビデオフレームを含む、
    請求項2の方法。
  4. 第1時間において、符号化ビデオフレームの記憶されたセット(107)から前記第1の複数の符号化ビデオフレームを選択することと、
    第2時間において、前記符号化ビデオフレームの記憶されたセットから前記第2の複数の符号化ビデオフレームを選択することと、を含む、
    請求項2の方法。
  5. 前記ステッチングすることは、前記第1の複数のビデオフレームのビデオフレーム(551)のヘッダ(552)内の画素ブロックアドレスを変更することを含む、
    請求項1の方法。
  6. 前記画素ブロックアドレスを変更することは、前記画素ブロックアドレスのビット数を維持することを含む、
    請求項5の方法。
  7. 前記組み合わせられた第1の複数の符号化フレームの全てを復号化するように、前記デコーダを設定すること、を含む、
    請求項1の方法。
  8. 前記ステッチングすることは、第1の複数の符号化ビデオフレームをステッチングすることであって、各符号化ビデオフレームは独立に符号化されている、ことを含む、
    請求項1の方法。
  9. 第1の複数の符号化ビデオフレーム(119)を受信して、組み合わせられた第1の複数の符号化ビデオフレーム(118)を生成するように構成されたステッチングモジュール(110)と、
    前記組み合わせられた第1の複数の符号化ビデオフレームを復号化して、組み合わせられた第1の複数の復号化ビデオフレーム(116)を生成するように構成されたデコーダ(115)と、を備える、
    装置。
  10. ユーザ入力を受信し、受信した前記ユーザ入力に少なくとも部分的に基づいてステッチングシーケンス命令(109)を生成するように構成された入力/出力モジュール(108)を備える、
    請求項9の装置。
  11. 前記ステッチングモジュールは、第2の複数の符号化ビデオフレームを受信するように構成されている、
    請求項10の装置。
  12. 前記ステッチングモジュールは、
    第1時間において、符号化ビデオフレームの記憶されたセット(107)から前記第1の複数の符号化ビデオフレームを選択し、
    第2時間において、前記符号化ビデオフレームの記憶されたセットから前記第2の複数の符号化ビデオフレームを選択する、
    請求項11の装置。
  13. 前記ステッチングモジュールは、
    前記第1の複数のビデオフレームの第1のビデオフレーム(551)のヘッダ(552)内の画素ブロックアドレスを変更することによって、前記第1の複数の符号化ビデオフレームをステッチングするように構成されている、
    請求項9の装置。
  14. 前記ステッチングモジュールは、前記画素ブロックアドレスのビット数を維持することによって、前記画素ブロックアドレスを変更するように構成されている、
    請求項13の装置。
  15. 前記デコーダは、
    前記組み合わせられた複数の符号化フレームの全てを復号化するように、前記デコーダを設定するように構成されている、
    請求項9の装置。
JP2018558425A 2016-05-11 2017-05-02 ビデオストリームを動的にステッチングするシステム及び方法 Pending JP2019515578A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
IN201641016496 2016-05-11
IN201641016496 2016-05-11
US15/170,103 US20170332096A1 (en) 2016-05-11 2016-06-01 System and method for dynamically stitching video streams
US15/170,103 2016-06-01
PCT/US2017/030503 WO2017196582A1 (en) 2016-05-11 2017-05-02 System and method for dynamically stitching video streams

Publications (1)

Publication Number Publication Date
JP2019515578A true JP2019515578A (ja) 2019-06-06

Family

ID=60294961

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018558425A Pending JP2019515578A (ja) 2016-05-11 2017-05-02 ビデオストリームを動的にステッチングするシステム及び方法

Country Status (5)

Country Link
US (1) US20170332096A1 (ja)
EP (1) EP3456048A4 (ja)
JP (1) JP2019515578A (ja)
KR (1) KR20180137510A (ja)
CN (1) CN109565598A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10776992B2 (en) * 2017-07-05 2020-09-15 Qualcomm Incorporated Asynchronous time warp with depth data
CN110677699B (zh) * 2019-10-10 2022-03-08 上海依图网络科技有限公司 视频流和/或图片流数据的共享方法、装置及电子设备

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008136205A (ja) * 2006-11-27 2008-06-12 Samsung Electronics Co Ltd 複数の動画コンテンツの同時再生のためのデータ伝送方法及びその装置、複数の動画コンテンツの同時再生方法及びその装置
WO2012060459A1 (ja) * 2010-11-01 2012-05-10 日本電気株式会社 動画像配信システム、動画像配信方法および動画像配信用プログラム
US20120224641A1 (en) * 2003-11-18 2012-09-06 Visible World, Inc. System and Method for Optimized Encoding and Transmission of a Plurality of Substantially Similar Video Fragments
JP2014110452A (ja) * 2012-11-30 2014-06-12 Mitsubishi Electric Corp 画像復号装置および画像符号化装置
JP2014192564A (ja) * 2013-03-26 2014-10-06 Sony Corp 映像処理装置、映像処理方法及びコンピュータプログラム
WO2015168150A1 (en) * 2014-05-01 2015-11-05 Google Inc. Method and system to combine multiple encoded videos for decoding via a video decoder
JP2017225096A (ja) * 2016-06-17 2017-12-21 株式会社アクセル 画像データ処理方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW529199B (en) * 2001-11-28 2003-04-21 Merck Patent Gmbh Phosphorus-borates with low melting points
EP1670260A3 (en) * 2002-01-23 2010-03-03 Nokia Corporation Grouping of image frames in video coding
US20050008240A1 (en) * 2003-05-02 2005-01-13 Ashish Banerji Stitching of video for continuous presence multipoint video conferencing
US8204133B2 (en) * 2004-10-12 2012-06-19 Electronics And Telecommunications Research Institute Method and apparatus for encoding and decoding multi-view video using image stitching
US7460730B2 (en) * 2005-08-04 2008-12-02 Microsoft Corporation Video registration and image sequence stitching
CN101606389B (zh) * 2007-01-08 2013-06-12 汤姆森特许公司 用于视频流拼接的方法及装置
US8068693B2 (en) * 2007-07-18 2011-11-29 Samsung Electronics Co., Ltd. Method for constructing a composite image
US8509518B2 (en) * 2009-01-08 2013-08-13 Samsung Electronics Co., Ltd. Real-time image collage method and apparatus
CN103489170B (zh) * 2013-09-05 2017-01-11 浙江宇视科技有限公司 一种jpeg图片合成、叠加osd信息方法及装置
CN103795979B (zh) * 2014-01-23 2017-04-19 浙江宇视科技有限公司 一种分布式图像拼接同步的方法和装置
CN104333762B (zh) * 2014-11-24 2017-10-10 成都瑞博慧窗信息技术有限公司 一种视频解码方法
US9992400B2 (en) * 2016-02-23 2018-06-05 VideoStitch Inc. Real-time changes to a spherical field of view

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120224641A1 (en) * 2003-11-18 2012-09-06 Visible World, Inc. System and Method for Optimized Encoding and Transmission of a Plurality of Substantially Similar Video Fragments
JP2008136205A (ja) * 2006-11-27 2008-06-12 Samsung Electronics Co Ltd 複数の動画コンテンツの同時再生のためのデータ伝送方法及びその装置、複数の動画コンテンツの同時再生方法及びその装置
WO2012060459A1 (ja) * 2010-11-01 2012-05-10 日本電気株式会社 動画像配信システム、動画像配信方法および動画像配信用プログラム
JP2014110452A (ja) * 2012-11-30 2014-06-12 Mitsubishi Electric Corp 画像復号装置および画像符号化装置
JP2014192564A (ja) * 2013-03-26 2014-10-06 Sony Corp 映像処理装置、映像処理方法及びコンピュータプログラム
WO2015168150A1 (en) * 2014-05-01 2015-11-05 Google Inc. Method and system to combine multiple encoded videos for decoding via a video decoder
JP2017225096A (ja) * 2016-06-17 2017-12-21 株式会社アクセル 画像データ処理方法

Also Published As

Publication number Publication date
US20170332096A1 (en) 2017-11-16
EP3456048A4 (en) 2019-12-04
EP3456048A1 (en) 2019-03-20
KR20180137510A (ko) 2018-12-27
CN109565598A (zh) 2019-04-02

Similar Documents

Publication Publication Date Title
RU2716156C1 (ru) Способ и устройство для составления всенаправленного изображения в выходной формат макета
JP6410918B2 (ja) パノラマ映像コンテンツの再生に使用するシステム及び方法
EP3261351B1 (en) Multimedia redirection method, device and system
CN100508585C (zh) 用于控制数字视频比特流逆向播放的装置和方法
CN109716766A (zh) 一种滤波360度视频边界的方法及装置
CN103780920B (zh) 处理视频码流的方法及装置
JP5474887B2 (ja) 動画データ生成装置、動画像表示装置、動画データ生成方法、動画像表示方法、および動画像ファイルのデータ構造
CA2551695A1 (en) Storage medium having interactive graphic stream and apparatus for reproducing the same
CN103843353A (zh) 重建数据在分层信号质量层次中的传送
CN107683607A (zh) 信息处理设备和信息处理方法
CN110012290A (zh) 对图像的片段进行排序以用于编码和发送至显示设备
JP2008072336A (ja) 復号装置および復号方法
JP2019515578A (ja) ビデオストリームを動的にステッチングするシステム及び方法
JP2019054416A (ja) 画像処理装置およびファイル生成装置
JP2019054417A (ja) 画像処理装置およびファイル生成装置
WO2017196582A1 (en) System and method for dynamically stitching video streams
JP6468847B2 (ja) 画像復号装置、画像復号方法、及びプログラム
CN105681893A (zh) 流媒体视频数据的解码方法和装置
US20160269735A1 (en) Image encoding method and apparatus, and image decoding method and apparatus
KR102499900B1 (ko) 고해상도 영상의 스트리밍을 위한 영상 전송 장치와 영상 재생 장치 및 그 동작 방법
JP2017117251A (ja) 情報処理装置と情報処理方法およびプログラム
US10803905B2 (en) Video processing apparatus, video processing method thereof and non-transitory computer readable medium
CN114025162B (zh) 熵解码方法、介质、程序产品和电子设备
JP7239029B2 (ja) 画像処理装置およびファイル生成装置
CN111355981B (zh) 视频数据播放方法、装置、存储介质及电子设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200501

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210413

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210427

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210719

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210914

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211210

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220104