JP7282872B2 - ヒストリベースの動きベクトルに基づくインター予測方法及びその装置 - Google Patents

Description

本発明は、映像コーディング技術に関し、より詳しくは、ヒストリベースの動きベクトルに基づくインター予測方法及びその装置に関する。

最近、４Ｋまたは８Ｋ以上のＵＨＤ（Ｕｌｔｒａ Ｈｉｇｈ Ｄｅｆｉｎｉｔｉｏｎ）映像／ビデオのような高解像度、高品質の映像／ビデオに対する需要が多様な分野で増加している。映像／ビデオデータが高解像度、高品質になるほど既存の映像／ビデオデータに比べて相対的に送信される情報量またはビット量が増加するため、既存の有無線広帯域回線のような媒体を利用して映像データを送信し、または既存の格納媒体を利用して映像／ビデオデータを格納する場合、送信費用と格納費用が増加される。

また、最近ＶＲ（Ｖｉｒｔｕａｌ Ｒｅａｌｉｔｙ）、ＡＲ（Ａｒｔｉｆｉｃｉａｌ Ｒｅａｌｔｉｙ）コンテンツやホログラムなどの実感メディア（Ｉｍｍｅｒｓｉｖｅ Ｍｅｄｉａ）に対する関心及び需要が増加しており、ゲーム映像のように現実映像と異なる映像特性を有する映像／ビデオに対する放送が増加している。

それによって、前記のような多様な特性を有する高解像度、高品質の映像／ビデオの情報を効果的に圧縮して送信または格納し、再生するために高効率の映像／ビデオ圧縮技術が要求される。

本発明の技術的課題は、映像コーディング効率を上げる方法及び装置を提供することにある。

本発明の他の技術的課題は、効率的なインター予測方法及び装置を提供することにある。

本発明の他の技術的課題は、ヒストリベースの動きベクトルを導出する方法及び装置を提供することにある。

本発明の他の技術的課題は、ＨＭＶＰ（ｈｉｓｔｏｒｙ－ｂａｓｅｄ ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ）候補を効率的に導出する方法及び装置を提供することにある。

本発明の他の技術的課題は、ＨＭＶＰバッファを効率的に初期化する方法及び装置を提供することにある。

本発明の一実施例によると、デコーディング装置により実行される映像デコーディング方法を提供する。前記方法は、現在ブロックに対するＨＭＶＰ（ｈｉｓｔｏｒｙ－ｂａｓｅｄ ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ）バッファを導出するステップと、前記ＨＭＶＰバッファに含まれているＨＭＶＰ候補に基づいて前記現在ブロックの動き情報を導出するステップと、前記動き情報に基づいて前記現在ブロックに対する予測サンプルを生成するステップと、前記予測サンプルに基づいて復元サンプルを生成し、前記ＨＭＶＰバッファは、前記現在ブロックを含む現在ＣＴＵが位置するＣＴＵ行の１番目のＣＴＵを処理する場合、初期化されることを特徴とする。

本発明の他の一実施例によると、映像デコーディングを実行するデコーディング装置が提供される。前記デコーディング装置は、現在ブロックに対するＨＭＶＰ（ｈｉｓｔｏｒｙ－ｂａｓｅｄ ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ）バッファを導出し、前記ＨＭＶＰバッファに含まれているＨＭＶＰ候補に基づいて前記現在ブロックの動き情報を導出し、前記動き情報に基づいて前記現在ブロックに対する予測サンプルを生成する予測部、及び前記予測サンプルに基づいて復元サンプルを生成する加算部を含み、前記ＨＭＶＰバッファは、前記現在ブロックを含む現在ＣＴＵが位置するＣＴＵ行の１番目のＣＴＵを処理する場合、初期化されることを特徴とする。

本発明の他の一実施例によると、エンコーディング装置により実行される映像エンコーディング方法が提供される。前記方法は、現在ブロックに対するＨＭＶＰ（ｈｉｓｔｏｒｙ－ｂａｓｅｄ ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ）バッファを導出するステップと、前記ＨＭＶＰバッファに含まれているＨＭＶＰ候補に基づいて前記現在ブロックの動き情報を導出するステップと、前記動き情報に基づいて前記現在ブロックに対する予測サンプルを生成するステップと、前記予測サンプルに基づいてレジデュアルサンプルを導出するステップと、前記レジデュアルサンプルに対する情報を含む映像情報をエンコーディングするステップとを含み、前記ＨＭＶＰバッファは、前記現在ブロックを含む現在ＣＴＵが位置するＣＴＵ行の１番目のＣＴＵを処理する場合、初期化されることを特徴とする。

本発明の他の一実施例によると、映像エンコーディングを実行するエンコーディング装置が提供される。前記エンコーディング装置は、現在ブロックに対するＨＭＶＰ（ｈｉｓｔｏｒｙ－ｂａｓｅｄ ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ）バッファを導出し、前記ＨＭＶＰバッファに含まれているＨＭＶＰ候補に基づいて前記現在ブロックの動き情報を導出し、前記動き情報に基づいて前記現在ブロックに対する予測サンプルを生成する予測部と、前記予測サンプルに基づいてレジデュアルサンプルを導出するレジデュアル処理部と、前記レジデュアルサンプルに対する情報を含む映像情報をエンコーディングするエントロピーエンコーディング部とを含み、前記ＨＭＶＰバッファは、前記現在ブロックを含む現在ＣＴＵが位置するＣＴＵ行の１番目のＣＴＵを処理する場合、初期化されることを特徴とする。

本発明の他の一実施例によると、エンコーディング装置により実行された映像エンコーディング方法によって生成されたエンコーディングされた映像情報が含まれている映像データが格納されたデジタル格納媒体を提供する。

本発明の他の一実施例によると、デコーディング装置により前記映像デコーディング方法を実行するようにするエンコーディングされた映像情報が含まれている映像データが格納されたデジタル格納媒体を提供する。

本発明の一実施例によると、全般的な映像／ビデオ圧縮効率を上げることができる。

本発明の一実施例によると、効率的なインター予測を介してレジデュアル処理に必要な送信されるデータ量を減らすことができる。

本発明の一実施例によると、効率的にＨＭＶＰバッファを管理することができる。

本発明の一実施例によると、効率的なＨＭＶＰバッファ管理を介して並列処理をサポートすることができる。

本発明の一実施例によると、インター予測のための動きベクトルを効率的に導出することができる。

本発明が適用されることができるビデオ／映像コーディングシステムの例を概略的に示す。 本発明が適用されることができるビデオ／映像エンコーディング装置の構成を概略的に説明する図面である。 本発明が適用されることができるビデオ／映像デコーディング装置の構成を概略的に説明する図面である。 インター予測ベースのビデオ／映像エンコーディング方法の例を示す。 インター予測ベースのビデオ／映像エンコーディング方法の例を示す。 インター予測手順を例示的に示す。 従来のマージまたはＡＭＶＰモードで動き情報候補導出のために使われた空間的隣接ブロックを例示的に示す。 ＨＭＶＰ候補ベースのデコーディング手順の例を概略的に示す。 ＦＩＦＯ規則によるＨＭＶＰテーブルアップデートを例示的に示し、 制限されたＦＩＦＯ規則によるＨＭＶＰテーブルアップデートを例示的に示す。 並列処理のための技法のうち一つであるＷＰＰ（Ｗａｖｅｆｒｏｎｔ Ｐａｒａｌｌｅｌ Ｐｒｏｃｅｓｓｉｎｇ）を例示的に示す。 並列処理を考慮して一般ＨＭＶＰ方法を適用する時の問題点を例示的に示す。 本発明の一実施例に係るヒストリ管理バッファ（ＨＭＶＰバッファ）の初期化方法を例示的に示す。 本発明の一実施例に係るＨＭＶＰバッファ管理方法を例示的に示す。 本発明の他の一実施例に係るＨＭＶＰバッファ管理方法を例示的に示す。 本発明の他の一実施例に係るＨＭＶＰバッファ管理方法を例示的に示す。 ＨＭＶＰバッファ管理方法を例示的に示す。 本発明の実施例に係るインター予測方法を含むビデオ／映像エンコーディング方法及び関連コンポーネントの一例を概略的に示す。 本発明の実施例に係るインター予測方法を含むビデオ／映像エンコーディング方法及び関連コンポーネントの一例を概略的に示す。 本発明の実施例に係るインター予測方法を含む映像デコーディング方法及び関連コンポーネントの一例を概略的に示す。 本発明の実施例に係るインター予測方法を含む映像デコーディング方法及び関連コンポーネントの一例を概略的に示す。 本文書で開示された発明が適用されることができるコンテンツストリーミングシステムの例を示す。

本発明は、多様な変更を加えることができ、様々な実施例を有することができ、特定の実施例を図面に例示して詳細に説明する。しかし、これは本発明を特定の実施例に限定するものではない。本明細書で使用する用語は、単に特定の実施例を説明するために使われたものであり、本発明の技術的思想を限定しようとする意図で使われるものではない。単数の表現は、文脈上明白に異なる意味ではない限り、複数の表現を含む。本明細書において、“含む”または“有する”などの用語は、明細書上に記載された特徴、数字、ステップ、動作、構成要素、部品またはそれらを組合せたものが存在することを指定するものであり、一つまたはそれ以上の他の特徴や数字、ステップ、動作、構成要素、部品またはそれらを組合せたものの存在または付加の可能性を予め排除しないと理解しなければならない。

一方、本発明で説明される図面上の各構成は、互いに異なる特徴的な機能に対する説明の便宜のために独立して図示されたものであり、各構成が互いに別個のハードウェアや別個のソフトウェアで具現されるということを意味しない。例えば、各構成のうち二つ以上の構成が合わせて一つの構成をなすこともあり、一つの構成が複数の構成に分けられることもある。各構成が統合及び／または分離された実施例も、本発明の本質から外れない限り、本発明の権利範囲に含まれる。

以下、添付図面を参照して、本発明の好ましい実施例をより詳細に説明する。以下、図面上の同じ構成要素に対しては同じ参照符号を使用し、同じ構成要素に対して重複した説明は省略する。

図１は、本発明が適用されることができるビデオ／映像コーディングシステムの例を概略的に示す。

図１を参照すると、ビデオ／映像コーディングシステムは、第１の装置（ソースデバイス）及び第２の装置（受信デバイス）を含むことができる。ソースデバイスは、エンコーディングされたビデオ（ｖｉｄｅｏ）／映像（ｉｍａｇｅ）情報またはデータをファイルまたはストリーミング形態でデジタル格納媒体またはネットワークを介して受信デバイスに伝達できる。

前記ソースデバイスは、ビデオソース、エンコーディング装置、送信部を含むことができる。前記受信デバイスは、受信部、デコーディング装置、及びレンダラを含むことができる。前記エンコーディング装置は、ビデオ／映像エンコーディング装置とも呼ばれ、前記デコーディング装置は、ビデオ／映像デコーディング装置とも呼ばれる。送信機は、エンコーディング装置に含まれることができる。受信機は、デコーディング装置に含まれることができる。レンダラは、ディスプレイ部を含むこともでき、ディスプレイ部は、別個のデバイスまたは外部コンポーネントで構成されることもできる。

ビデオソースは、ビデオ／映像のキャプチャ、合成または生成過程などを介してビデオ／映像を取得することができる。ビデオソースは、ビデオ／映像キャプチャデバイス及び／またはビデオ／映像生成デバイスを含むことができる。ビデオ／映像キャプチャデバイスは、例えば、一つ以上のカメラ、以前にキャプチャされたビデオ／映像を含むビデオ／映像アーカイブなどを含むことができる。ビデオ／映像生成デバイスは、例えば、コンピュータ、タブレット、及びスマートフォンなどを含むことができ、（電子的に）ビデオ／映像を生成することができる。例えば、コンピュータなどを介して仮想のビデオ／映像が生成されることができ、この場合、関連データが生成される過程としてビデオ／映像キャプチャ過程に代える。

エンコーディング装置は、入力ビデオ／映像をエンコーディングすることができる。エンコーディング装置は、圧縮及びコーディング効率のために、予測、変換、量子化など、一連の手順を実行することができる。エンコーディングされたデータ（エンコーディングされたビデオ／映像情報）は、ビットストリーム（ｂｉｔｓｔｒｅａｍ）形態で出力されることができる。

送信部は、ビットストリーム形態で出力されたエンコーディングされたビデオ／映像情報またはデータをファイルまたはストリーミング形態でデジタル格納媒体またはネットワークを介して受信デバイスの受信部に伝達できる。デジタル格納媒体は、ＵＳＢ、ＳＤ、ＣＤ、ＤＶＤ、ブルーレイ、ＨＤＤ、ＳＳＤなど、多様な格納媒体を含むことができる。送信部は、あらかじめ決められたファイルフォーマットを介してメディアファイルを生成するためのエレメントを含むことができ、放送／通信ネットワークを介した送信のためのエレメントを含むことができる。受信部は、前記ビットストリームを受信／抽出してデコーディング装置に伝達できる。

デコーディング装置は、エンコーディング装置の動作に対応する逆量子化、逆変換、予測など、一連の手順を実行してビデオ／映像をデコーディングすることができる。

レンダラは、デコーディングされたビデオ／映像をレンダリングすることができる。レンダリングされたビデオ／映像は、ディスプレイ部を介してディスプレイされることができる。

この文書は、ビデオ／映像コーディングに関する。例えば、この文書で開示された方法／実施例は、ＶＶＣ（ｖｅｒｓａｔｉｌｅ ｖｉｄｅｏ ｃｏｄｉｎｇ）標準、ＥＶＣ（ｅｓｓｅｎｔｉａｌ ｖｉｄｅｏ ｃｏｄｉｎｇ）標準、ＡＶ１（ＡＯＭｅｄｉａ Ｖｉｄｅｏ １）標準、ＡＶＳ２（２ｎｄ ｇｅｎｅｒａｔｉｏｎ ｏｆ ａｕｄｉｏ ｖｉｄｅｏ ｃｏｄｉｎｇ ｓｔａｎｄａｒｄ）または次世代ビデオ／映像コーディング標準（例えば、Ｈ．２６７またはＨ．２６８等）に開示される方法に適用されることができる。

この文書ではビデオ／映像コーディングに対する多様な実施例を提示し、他の言及がない限り、前記実施例は、互いに組み合わせて実行されることもできる。

この文書において、ビデオ（ｖｉｄｅｏ）は、時間の流れによる一連の映像（ｉｍａｇｅ）の集合を意味することができる。ピクチャ（ｐｉｃｔｕｒｅ）は、一般的に特定時間帯の一つの映像を示す単位を意味し、スライス（ｓｌｉｃｅ）／タイル（ｔｉｌｅ）は、コーディングにおいてピクチャの一部を構成する単位である。スライス／タイルは、一つ以上のＣＴＵ（ｃｏｄｉｎｇ ｔｒｅｅ ｕｎｉｔ）を含むことができる。一つのピクチャは、一つ以上のスライス／タイルで構成されることができる。一つのピクチャは、一つ以上のタイルグループで構成されることができる。一つのタイルグループは、一つ以上のタイルを含むことができる。ブリクは、ピクチャ内のタイル以内のＣＴＵ行の長方形領域を示すことができる（ａ ｂｒｉｃｋ ｍａｙ ｒｅｐｒｅｓｅｎｔ ａ ｒｅｃｔａｎｇｕｌａｒ ｒｅｇｉｏｎ ｏｆ ＣＴＵ ｒｏｗｓ ｗｉｔｈｉｎ ａ ｔｉｌｅ ｉｎ ａ ｐｉｃｔｕｒｅ）。タイルは、多数のブリクでパーティショニングされることができ、各ブリクは、前記タイル内の一つ以上のＣＴＵ行で構成されることができる（Ａ ｔｉｌｅ ｍａｙ ｂｅ ｐａｒｔｉｔｉｏｎｅｄ ｉｎｔｏ ｍｕｌｔｉｐｌｅ ｂｒｉｃｋｓ、ｅａｃｈ ｏｆ ｗｈｉｃｈ ｃｏｎｓｉｓｔｉｎｇ ｏｆ ｏｎｅ ｏｒ ｍｏｒｅ ＣＴＵ ｒｏｗｓ ｗｉｔｈｉｎ ｔｈｅ ｔｉｌｅ）。また、多数のブリクでパーティショニングされないタイルは、ブリクとも呼ばれる（Ａ ｔｉｌｅ ｔｈａｔ ｉｓ ｎｏｔ ｐａｒｔｉｔｉｏｎｅｄ ｉｎｔｏ ｍｕｌｔｉｐｌｅ ｂｒｉｃｋｓ ｍａｙ ｂｅ ａｌｓｏ ｒｅｆｅｒｒｅｄ ｔｏ ａｓ ａ ｂｒｉｃｋ）。ブリクスキャンは、ピクチャをパーティショニングするＣＴＵの特定の順次的オーダリングを示すことができ、前記ＣＴＵは、ブリク内でＣＴＵラスタスキャンに整列されることができ、タイル内のブリクは、前記タイルの前記ブリクのラスタスキャンに連続的に整列されることができ、そして、ピクチャ内のタイルは、前記ピクチャの前記タイルのラスタスキャンに連続的に整列されることができる（Ａ ｂｒｉｃｋ ｓｃａｎ ｉｓ ａ ｓｐｅｃｉｆｉｃ ｓｅｑｕｅｎｔｉａｌ ｏｒｄｅｒｉｎｇ ｏｆ ＣＴＵｓ ｐａｒｔｉｔｉｏｎｉｎｇ ａ ｐｉｃｔｕｒｅ ｉｎ ｗｈｉｃｈ ｔｈｅ ＣＴＵｓ ａｒｅ ｏｒｄｅｒｅｄ ｃｏｎｓｅｃｕｔｉｖｅｌｙ ｉｎ ＣＴＵ ｒａｓｔｅｒ ｓｃａｎ ｉｎ ａ ｂｒｉｃｋ、ｂｒｉｃｋｓ ｗｉｔｈｉｎ ａ ｔｉｌｅ ａｒｅ ｏｒｄｅｒｅｄ ｃｏｎｓｅｃｕｔｉｖｅｌｙ ｉｎ ａ ｒａｓｔｅｒ ｓｃａｎ ｏｆ ｔｈｅ ｂｒｉｃｋｓ ｏｆ ｔｈｅ ｔｉｌｅ、ａｎｄ ｔｉｌｅｓ ｉｎ ａ ｐｉｃｔｕｒｅ ａｒｅ ｏｒｄｅｒｅｄ ｃｏｎｓｅｃｕｔｉｖｅｌｙ ｉｎ ａ ｒａｓｔｅｒ ｓｃａｎ ｏｆ ｔｈｅ ｔｉｌｅｓ ｏｆ ｔｈｅ ｐｉｃｔｕｒｅ）。タイルは、特定タイル列及び特定タイル列以内のＣＴＵの長方形領域である（Ａ ｔｉｌｅ ｉｓ ａ ｒｅｃｔａｎｇｕｌａｒ ｒｅｇｉｏｎ ｏｆ ＣＴＵｓ ｗｉｔｈｉｎ ａ ｐａｒｔｉｃｕｌａｒ ｔｉｌｅ ｃｏｌｕｍｎ ａｎｄ ａ ｐａｒｔｉｃｕｌａｒ ｔｉｌｅ ｒｏｗ ｉｎ ａ ｐｉｃｔｕｒｅ）。前記タイル列は、ＣＴＵの長方形領域であり、前記長方形領域は、前記ピクチャの高さと同じ高さを有し、幅は、ピクチャパラメータセット内のシンタックス要素により明示されることができる（Ｔｈｅ ｔｉｌｅ ｃｏｌｕｍｎ ｉｓ ａ ｒｅｃｔａｎｇｕｌａｒ ｒｅｇｉｏｎ ｏｆ ＣＴＵｓ ｈａｖｉｎｇ ａ ｈｅｉｇｈｔ ｅｑｕａｌ ｔｏ ｔｈｅ ｈｅｉｇｈｔ ｏｆ ｔｈｅ ｐｉｃｔｕｒｅ ａｎｄ ａ ｗｉｄｔｈ ｓｐｅｃｉｆｉｅｄ ｂｙ ｓｙｎｔａｘ ｅｌｅｍｅｎｔｓ ｉｎ ｔｈｅ ｐｉｃｔｕｒｅ ｐａｒａｍｅｔｅｒ ｓｅｔ）。前記タイル行は、ＣＴＵの長方形領域であり、前記長方形領域は、ピクチャパラメータセット内のシンタックス要素により明示される幅を有し、高さは、前記ピクチャの高さと同じである（Ｔｈｅ ｔｉｌｅ ｒｏｗ ｉｓ ａ ｒｅｃｔａｎｇｕｌａｒ ｒｅｇｉｏｎ ｏｆ ＣＴＵｓ ｈａｖｉｎｇ ａ ｈｅｉｇｈｔ ｓｐｅｃｉｆｉｅｄ ｂｙ ｓｙｎｔａｘ ｅｌｅｍｅｎｔｓ ｉｎ ｔｈｅ ｐｉｃｔｕｒｅ ｐａｒａｍｅｔｅｒ ｓｅｔ ａｎｄ ａ ｗｉｄｔｈ ｅｑｕａｌ ｔｏ ｔｈｅ ｗｉｄｔｈ ｏｆ ｔｈｅ ｐｉｃｔｕｒｅ）。タイルスキャンは、ピクチャをパーティショニングするＣＴＵの特定順次的オーダリングを示すことができ、前記ＣＴＵは、タイル内のＣＴＵラスタスキャンに連続的に整列されることができ、ピクチャ内のタイルは、前記ピクチャの前記タイルのラスタスキャンに連続的に整列されることができる（Ａ ｔｉｌｅ ｓｃａｎ ｉｓ ａ ｓｐｅｃｉｆｉｃ ｓｅｑｕｅｎｔｉａｌ ｏｒｄｅｒｉｎｇ ｏｆ ＣＴＵｓ ｐａｒｔｉｔｉｏｎｉｎｇ ａ ｐｉｃｔｕｒｅ ｉｎ ｗｈｉｃｈ ｔｈｅ ＣＴＵｓ ａｒｅ ｏｒｄｅｒｅｄ ｃｏｎｓｅｃｕｔｉｖｅｌｙ ｉｎ ＣＴＵ ｒａｓｔｅｒ ｓｃａｎ ｉｎ ａ ｔｉｌｅ ｗｈｅｒｅａｓ ｔｉｌｅｓ ｉｎ ａ ｐｉｃｔｕｒｅ ａｒｅ ｏｒｄｅｒｅｄ ｃｏｎｓｅｃｕｔｉｖｅｌｙ ｉｎ ａ ｒａｓｔｅｒ ｓｃａｎ ｏｆ ｔｈｅ ｔｉｌｅｓ ｏｆ ｔｈｅ ｐｉｃｔｕｒｅ）。スライスは、ピクチャの整数個のブリクを含むことができ、前記整数個のブリクは、一つのＮＡＬユニットに含まれることができる（Ａ ｓｌｉｃｅ ｉｎｃｌｕｄｅｓ ａｎ ｉｎｔｅｇｅｒ ｎｕｍｂｅｒ ｏｆ ｂｒｉｃｋｓ ｏｆ ａ ｐｉｃｔｕｒｅ ｔｈａｔ ｍａｙ ｂｅ ｅｘｃｌｕｓｉｖｅｌｙ ｃｏｎｔａｉｎｅｄ ｉｎ ａ ｓｉｎｇｌｅ ＮＡＬ ｕｎｉｔ）。スライスは、多数の完全なタイルで構成されてもよく、または一つのタイルの完全なブリクの連続的なシーケンスであってもよい（Ａ ｓｌｉｃｅ ｍａｙ ｃｏｎｓｉｓｔｓ ｏｆ ｅｉｔｈｅｒ ａ ｎｕｍｂｅｒ ｏｆ ｃｏｍｐｌｅｔｅ ｔｉｌｅｓ ｏｒ ｏｎｌｙ ａ ｃｏｎｓｅｃｕｔｉｖｅ ｓｅｑｕｅｎｃｅ ｏｆ ｃｏｍｐｌｅｔｅ ｂｒｉｃｋｓ ｏｆ ｏｎｅ ｔｉｌｅ）。この文書でタイルグループとスライスは混用されることができる。例えば、本文書でｔｉｌｅ ｇｒｏｕｐ／ｔｉｌｅ ｇｒｏｕｐ ｈｅａｄｅｒは、ｓｌｉｃｅ／ｓｌｉｃｅ ｈｅａｄｅｒとも呼ばれる。

ピクセル（ｐｉｘｅｌ）またはペル（ｐｅｌ）は、一つのピクチャ（または、映像）を構成する最小の単位を意味することができる。また、ピクセルに対応する用語として「サンプル(ｓａｍｐｌｅ)」が使用されることができる。サンプルは、一般的にピクセルまたはピクセルの値を示し、ルマ（ｌｕｍａ）成分のピクセル／ピクセルの値のみを示してもよく、クロマ（ｃｈｒｏｍａ）成分のピクセル／ピクセルの値のみを示してもよい。

ユニット（ｕｎｉｔ）は、映像処理の基本単位を示すことができる。ユニットは、ピクチャの特定領域及び該当領域に関連した情報のうち少なくとも一つを含むことができる。一つのユニットは、一つのルマブロック及び二つのクロマ（例えば、ｃｂ、ｃｒ）ブロックを含むことができる。ユニットは、場合によって、ブロック（ｂｌｏｃｋ）または領域（ａｒｅａ）などの用語と混用して使われることができる。一般的な場合、Ｍ×Ｎブロックは、Ｍ個の列とＮ個の行からなるサンプル（または、サンプルアレイ）または変換係数（ｔｒａｎｓｆｏｒｍ ｃｏｅｆｆｉｃｉｅｎｔ）の集合（または、アレイ）を含むことができる。

この文書において、“／”と“、”は、“及び／または”と解釈される。例えば、“Ａ／Ｂ”は“Ａ及び／またはＢ”と解釈され、“Ａ、Ｂ”は、“Ａ及び／またはＢ”と解釈される。追加的に、“Ａ／Ｂ／Ｃ”は、“Ａ、Ｂ及び／またはＣのうち少なくとも一つ”を意味する。また、“Ａ、Ｂ、Ｃ”も“Ａ、Ｂ及び／またはＣのうち少なくとも一つ”を意味する。（Ｉｎ ｔｈｉｓ ｄｏｃｕｍｅｎｔ，ｔｈｅ ｔｅｒｍ“／”ａｎｄ“，” ｓｈｏｕｌｄ ｂｅ ｉｎｔｅｒｐｒｅｔｅｄ ｔｏ ｉｎｄｉｃａｔｅ “ａｎｄ／ｏｒ．”Ｆｏｒ ｉｎｓｔａｎｃｅ，ｔｈｅ ｅｘｐｒｅｓｓｉｏｎ “Ａ／Ｂ” ｍａｙ ｍｅａｎ “Ａ ａｎｄ／ｏｒ Ｂ．”Ｆｕｒｔｈｅｒ，“Ａ，Ｂ”ｍａｙ ｍｅａｎ “Ａ ａｎｄ／ｏｒ Ｂ．”Ｆｕｒｔｈｅｒ，“Ａ／Ｂ／Ｃ” ｍａｙ ｍｅａｎ “ａｔ ｌｅａｓｔ ｏｎｅ ｏｆ Ａ，Ｂ，ａｎｄ／ｏｒ Ｃ．”Ａｌｓｏ，“Ａ／Ｂ／Ｃ” ｍａｙ ｍｅａｎ “ａｔ ｌｅａｓｔ ｏｎｅ ｏｆ Ａ，Ｂ，ａｎｄ／ｏｒ Ｃ．”）

追加的に、本文書で“または”は“及び／または”と解釈される。例えば、“ＡまたはＢ”は、１）“Ａ”のみを意味し、２）“Ｂ”のみを意味し、または３）“Ａ及びＢ”を意味することができる。その他の表現として、本文での“または”は“追加的にまたは代替的に（ａｄｄｉｔｉｏｎａｌｌｙ ｏｒ ａｌｔｅｒｎａｔｉｖｅｌｙ）”を意味することができる。（Ｆｕｒｔｈｅｒ，ｉｎ ｔｈｅ ｄｏｃｕｍｅｎｔ，ｔｈｅ ｔｅｒｍ“ｏｒ” ｓｈｏｕｌｄ ｂｅ ｉｎｔｅｒｐｒｅｔｅｄ ｔｏ ｉｎｄｉｃａｔｅ “ａｎｄ／ｏｒ．”Ｆｏｒ ｉｎｓｔａｎｃｅ，ｔｈｅ ｅｘｐｒｅｓｓｉｏｎ “Ａ ｏｒ Ｂ” ｍａｙ ｃｏｍｐｒｉｓｅ １）ｏｎｌｙ Ａ，２）ｏｎｌｙ Ｂ，ａｎｄ／ｏｒ ３）ｂｏｔｈ Ａ ａｎｄ Ｂ．Ｉｎ ｏｔｈｅｒ ｗｏｒｄｓ，ｔｈｅ ｔｅｒｍ “ｏｒ” ｉｎ ｔｈｉｓ ｄｏｃｕｍｅｎｔ ｓｈｏｕｌｄ ｂｅ ｉｎｔｅｒｐｒｅｔｅｄ ｔｏ ｉｎｄｉｃａｔｅ “ａｄｄｉｔｉｏｎａｌｌｙ ｏｒ ａｌｔｅｒｎａｔｉｖｅｌｙ．”）

図２は、本発明が適用されることができるビデオ／映像エンコーディング装置の構成を概略的に説明する図面である。以下、ビデオエンコーディング装置とは、映像エンコーディング装置を含むことができる。

図２を参照すると、エンコーディング装置２００は、映像分割部（ｉｍａｇｅ ｐａｒｔｉｔｉｏｎｅｒ）２１０、予測部（ｐｒｅｄｉｃｔｏｒ）２２０、レジデュアル処理部（ｒｅｓｉｄｕａｌ ｐｒｏｃｅｓｓｏｒ）２３０、エントロピーエンコーディング部（ｅｎｔｒｏｐｙ ｅｎｃｏｄｅｒ）２４０、加算部（ａｄｄｅｒ）２５０、フィルタリング部（ｆｉｌｔｅｒ）２６０、及びメモリ（ｍｅｍｏｒｙ）２７０を含んで構成されることができる。予測部２２０は、インター予測部２２１及びイントラ予測部２２２を含むことができる。レジデュアル処理部２３０は、変換部（ｔｒａｎｓｆｏｒｍｅｒ）２３２、量子化部（ｑｕａｎｔｉｚｅｒ）２３３、逆量子化部（ｄｅｑｕａｎｔｉｚｅｒ）２３４、逆変換部（ｉｎｖｅｒｓｅ ｔｒａｎｓｆｏｒｍｅｒ）２３５を含むことができる。レジデュアル処理部２３０は、減算部（ｓｕｂｔｒａｃｔｏｒ）２３１をさらに含むことができる。加算部２５０は、復元部（ｒｅｃｏｎｓｔｒｕｃｔｏｒ）または復元ブロック生成部（ｒｅｃｏｎｔｒｕｃｔｇｅｄ ｂｌｏｃｋ ｇｅｎｅｒａｔｏｒ）とも呼ばれる。前述した映像分割部２１０、予測部２２０、レジデュアル処理部２３０、エントロピーエンコーディング部２４０、加算部２５０、及びフィルタリング部２６０は、実施例によって一つ以上のハードウェアコンポーネント（例えば、エンコーダチップセットまたはプロセッサ）により構成されることができる。また、メモリ２７０は、ＤＰＢ（ｄｅｃｏｄｅｄ ｐｉｃｔｕｒｅ ｂｕｆｆｅｒ）を含むことができ、デジタル格納媒体により構成されることもできる。前記ハードウェアコンポーネントは、メモリ２７０を内／外部コンポーネントとしてさらに含むこともできる。

映像分割部２１０は、エンコーディング装置２００に入力された入力映像（または、ピクチャ、フレーム）を一つ以上の処理ユニット（ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ）に分割できる。一例として、前記処理ユニットは、コーディングユニット（ｃｏｄｉｎｇ ｕｎｉｔ、ＣＵ）とも呼ばれる。この場合、コーディングユニットは、コーディングツリーユニット（ｃｏｄｉｎｇ ｔｒｅｅ ｕｎｉｔ、ＣＴＵ）または最大コーディングユニット（ｌａｒｇｅｓｔ ｃｏｄｉｎｇ ｕｎｉｔ、ＬＣＵ）からＱＴＢＴＴＴ（Ｑｕａｄ－ｔｒｅｅ ｂｉｎａｒｙ－ｔｒｅｅ ｔｅｒｎａｒｙ－ｔｒｅｅ）構造によって再帰的に（ｒｅｃｕｒｓｉｖｅｌｙ）分割されることができる。例えば、一つのコーディングユニットは、クアッドツリー構造、バイナリツリー構造、及び／またはターナリに基づいて下位（ｄｅｅｐｅｒ）デプスの複数のコーディングユニットに分割されることができる。この場合、例えば、クアッドツリー構造が先に適用され、バイナリツリー構造及び／またはターナリがその後に適用されることができる。または、バイナリツリー構造が先に適用されてもよい。それ以上分割されない最終コーディングユニットに基づいて、本発明によるコーディング手順が実行されることができる。この場合、映像特性によるコーディング効率などに基づいて、最大コーディングユニットが最終コーディングユニットとして使われることができ、または必要によって、コーディングユニットは、再帰的に（ｒｅｃｕｒｓｉｖｅｌｙ）もっと下位デプスのコーディングユニットに分割されて最適のサイズのコーディングユニットが最終コーディングユニットとして使われることができる。ここで、コーディング手順とは、後述する予測、変換、及び復元などの手順を含むことができる。他の例として、前記処理ユニットは、予測ユニット（ＰＵ：Ｐｒｅｄｉｃｔｉｏｎ Ｕｎｉｔ）または変換ユニット（ＴＵ：Ｔｒａｎｓｆｏｒｍ Ｕｎｉｔ）をさらに含むことができる。この場合、前記予測ユニット及び前記変換ユニットは、各々、前述した最終コーディングユニットから分割またはパーティショニングされることができる。前記 予測ユニットは、サンプル予測の単位であり、または前記変換ユニットは、変換係数を誘導する単位及び／または変換係数からレジデュアル信号（ｒｅｓｉｄｕａｌ ｓｉｇｎａｌ）を誘導する単位である。

ユニットは、場合によって、ブロック（ｂｌｏｃｋ）または領域（ａｒｅａ）などの用語と混用して使われることができる。一般的な場合、Ｍ×Ｎブロックは、Ｍ個の列とＮ個の行からなるサンプルまたは変換係数（ｔｒａｎｓｆｏｒｍ ｃｏｅｆｆｉｃｉｅｎｔ）の集合を示すことができる。サンプルは、一般的にピクセルまたはピクセルの値を示すことができ、輝度（ｌｕｍａ）成分のピクセル／ピクセル値のみを示すこともでき、彩度（ｃｈｒｏｍａ）成分のピクセル／ピクセル値のみを示すこともできる。サンプルは、一つのピクチャ（または、映像）をピクセル（ｐｉｘｅｌ）またはペル（ｐｅｌ）に対応する用語として使われることができる。

エンコーディング装置２００は、入力映像信号（原本ブロック、原本サンプルアレイ）でインター予測部２２１またはイントラ予測部２２２から出力された予測信号（予測されたブロック、予測サンプルアレイ）を減算してレジデュアル信号（ｒｅｓｉｄｕａｌ ｓｉｇｎａｌ、残余ブロック、残余サンプルアレイ）を生成することができ、生成されたレジデュアル信号は、変換部２３２に送信される。この場合、図示されたように、エンコーダ２００内で入力映像信号（原本ブロック、原本サンプルアレイ）で予測信号（予測ブロック、予測サンプルアレイ）を減算するユニットは、減算部２３１とも呼ばれる。予測部は、処理対象ブロック（以下、現在ブロックという）に対する予測を実行し、前記現在ブロックに対する予測サンプルを含む予測されたブロック（ｐｒｅｄｉｃｔｅｄ ｂｌｏｃｋ）を生成することができる。予測部は、現在ブロックまたはＣＵ単位でイントラ予測が適用されるかまたはインター予測が適用されるかを決定することができる。予測部は、各予測モードに対する説明で後述するように、予測モード情報など、予測に対する多様な情報を生成してエントロピーエンコーディング部２４０に伝達できる。予測に対する情報は、エントロピーエンコーディング部２４０でエンコーディングされてビットストリーム形態で出力されることができる。

イントラ予測部２２２は、現在ピクチャ内のサンプルを参照して現在ブロックを予測することができる。前記参照されるサンプルは、予測モードによって前記現在ブロックの隣接（ｎｅｉｇｈｂｏｒ）に位置し、または離れて位置することもできる。イントラ予測において、予測モードは、複数の非方向性モードと複数の方向性モードを含むことができる。非方向性モードは、例えば、ＤＣモード及びプラナーモード（Ｐｌａｎａｒモード）を含むことができる。方向性モードは、予測方向の細かさの度合いによって、例えば、３３個の方向性予測モードまたは６５個の方向性予測モードを含むことができる。ただし、これは例示に過ぎず、設定によってそれ以上またはそれ以下の個数の方向性予測モードが使われることができる。イントラ予測部２２２は、隣接ブロックに適用された予測モードを利用し、現在ブロックに適用される予測モードを決定することもできる。

インター予測部２２１は、参照ピクチャ上で動きベクトルにより特定される参照ブロック（参照サンプルアレイ）に基づいて、現在ブロックに対する予測されたブロックを誘導することができる。このとき、インター予測モードで送信される動き情報の量を減らすために、隣接ブロックと現在ブロックとの間の動き情報の相関性に基づいて、動き情報をブロック、サブブロックまたはサンプル単位で予測できる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測方向（Ｌ０予測、Ｌ１予測、Ｂｉ予測等）情報をさらに含むことができる。インター予測の場合、隣接ブロックは、現在ピクチャ内に存在する空間的隣接ブロック（ｓｐａｔｉａｌ ｎｅｉｇｈｂｏｒｉｎｇ ｂｌｏｃｋ）と、参照ピクチャに存在する時間的隣接ブロック（ｔｅｍｐｏｒａｌ ｎｅｉｇｈｂｏｒｉｎｇ ｂｌｏｃｋ）と、を含むことができる。前記参照ブロックを含む参照ピクチャと前記時間的隣接ブロックを含む参照ピクチャは、同じであってもよく、異なってもよい。前記時間的隣接ブロックは、同一位置参照ブロック（ｃｏｌｌｏｃａｔｅｄ ｒｅｆｅｒｅｎｃｅ ｂｌｏｃｋ）、同一位置ＣＵ（ｃｏｌＣＵ）などの名称で呼ばれることもあり、前記時間的隣接ブロックを含む参照ピクチャは、同一位置ピクチャ（ｃｏｌｌｏｃａｔｅｄ ｐｉｃｔｕｒｅ、ｃｏｌＰｉｃ）とも呼ばれる。例えば、インター予測部２２１は、隣接ブロックに基づいて動き情報候補リストを構成し、前記現在ブロックの動きベクトル及び／または参照ピクチャインデックスを導出するためにどの候補が使われるかを指示する情報を生成することができる。多様な予測モードに基づいてインター予測が実行されることができ、例えば、スキップモードとマージモードの場合、インター予測部２２１は、隣接ブロックの動き情報を現在ブロックの動き情報として利用できる。スキップモードの場合、マージモードとは違ってレジデュアル信号が送信されない。動き情報予測（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ、ＭＶＰ）モードの場合、隣接ブロックの動きベクトルを動きベクトル予測子（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｏｒ）として利用し、動きベクトル差分（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｄｉｆｆｅｒｅｎｃｅ）をシグナリングすることで、現在ブロックの動きベクトルを指示することができる。

予測部２２０は、後述する多様な予測方法に基づいて予測信号を生成することができる。例えば、予測部は、一つのブロックに対する予測のためにイントラ予測またはインター予測を適用することができるだけでなく、イントラ予測とインター予測を同時に適用できる。これはｃｏｍｂｉｎｅｄ ｉｎｔｅｒ ａｎｄ ｉｎｔｒａ ｐｒｅｄｉｃｔｉｏｎ（ＣＩＩＰ）とも呼ばれる。また、予測部は、ブロックに対する予測のためにイントラブロックコピー（ｉｎｔｒａ ｂｌｏｃｋ ｃｏｐｙ、ＩＢＣ）予測モードに基づく場合もありまたはパレットモード（ｐａｌｅｔｔｅ ｍｏｄｅ）に基づく場合もある。前記ＩＢＣ予測モードまたはパレットモードは、例えば、ＳＣＣ（ｓｃｒｅｅｎ ｃｏｎｔｅｎｔ ｃｏｄｉｎｇ）などのように、ゲームなどのコンテンツ映像／動映像コーディングのために使われることができる。ＩＢＣは、基本的に現在ピクチャ内で予測を実行するが、現在ピクチャ内で参照ブロックを導出する点でインター予測と類似するように実行されることができる。即ち、ＩＢＣは、本文書で説明されるインター予測技法のうち少なくとも一つを利用することができる。パレットモードは、イントラコーディングまたはイントラ予測の一例と見なすこともできる。パレットモードが適用される場合、パレットテーブル及びパレットインデックスに対する情報に基づいてピクチャ内のサンプル値をシグナリングすることができる。

前記予測部（インター予測部２２１及び／または前記イントラ予測部２２２を含む）を介して生成された予測信号は、復元信号を生成するために利用され、またはレジデュアル信号を生成するために利用されることができる。変換部２３２は、レジデュアル信号に変換技法を適用して変換係数（ｔｒａｎｓｆｏｒｍ ｃｏｅｆｆｉｃｉｅｎｔｓ）を生成することができる。例えば、変換技法は、ＤＣＴ（Ｄｉｓｃｒｅｔｅ Ｃｏｓｉｎｅ Ｔｒａｎｓｆｏｒｍ）、ＤＳＴ（Ｄｉｓｃｒｅｔｅ Ｓｉｎｅ Ｔｒａｎｓｆｏｒｍ）、ＫＬＴ（Ｋａｒｈｕｎｅｎ－Ｌｏeｖｅ Ｔｒａｎｓｆｏｒｍ）、ＧＢＴ（Ｇｒａｐｈ－Ｂａｓｅｄ Ｔｒａｎｓｆｏｒｍ）、またはＣＮＴ（Ｃｏｎｄｉｔｉｏｎａｌｌｙ Ｎｏｎ－ｌｉｎｅａｒ Ｔｒａｎｓｆｏｒｍ）のうち少なくとも一つを含むことができる。ここで、ＧＢＴは、ピクセル間の関係情報をグラフで表現するとする時、このグラフから得られた変換を意味する。ＣＮＴは、以前に復元された全てのピクセル（ａｌｌ ｐｒｅｖｉｏｕｓｌｙ ｒｅｃｏｎｓｔｒｕｃｔｅｄ ｐｉｘｅｌ）を利用して予測信号を生成し、それに基づいて取得される変換を意味する。また、変換過程は、正方形の同じ大きさを有するピクセルブロックに適用されることもでき、正方形でない可変大きさのブロックに適用されることもできる。

量子化部２３３は、変換係数を量子化してエントロピーエンコーディング部２４０に送信し、エントロピーエンコーディング部２４０は、量子化された信号（量子化された変換係数に対する情報）をエンコーディングしてビットストリームで出力できる。前記量子化された変換係数に対する情報は、レジデュアル情報とも呼ばれる。量子化部２３３は、係数スキャン順序（ｓｃａｎ ｏｒｄｅｒ）に基づいて、ブロック形態の量子化された変換係数を１次元ベクトル形態で再整列でき、前記１次元ベクトル形態の量子化された変換係数に基づいて、前記量子化された変換係数に対する情報を生成することもできる。エントロピーエンコーディング部２４０は、例えば、指数ゴロム（ｅｘｐｏｎｅｎｔｉａｌ Ｇｏｌｏｍｂ）、ＣＡＶＬＣ（ｃｏｎｔｅｘｔ－ａｄａｐｔｉｖｅ ｖａｒｉａｂｌｅ ｌｅｎｇｔｈ ｃｏｄｉｎｇ）、ＣＡＢＡＣ（ｃｏｎｔｅｘｔ－ａｄａｐｔｉｖｅ ｂｉｎａｒｙ ａｒｉｔｈｍｅｔｉｃ ｃｏｄｉｎｇ）などのような多様なエンコーディング方法を実行することができる。エントロピーエンコーディング部２４０は、量子化された変換係数外にビデオ／イメージ復元に必要な情報（例えば、シンタックス要素（ｓｙｎｔａｘ ｅｌｅｍｅｎｔｓ）の値等）を共にまたは別途にエンコーディングすることもできる。エンコーディングされた情報（例えば、エンコーディングされたビデオ／映像情報）は、ビットストリーム形態でＮＡＬ（ｎｅｔｗｏｒｋ ａｂｓｔｒａｃｔｉｏｎ ｌａｙｅｒ）ユニット単位で送信または格納されることができる。前記ビデオ／映像情報は、アダプテーションパラメータセット（ＡＰＳ）、ピクチャパラメータセット（ＰＰＳ）、シーケンスパラメータセット（ＳＰＳ）またはビデオパラメータセット（ＶＰＳ）等、多様なパラメータセットに対する情報をさらに含むことができる。また、前記ビデオ／映像情報は、一般制限情報（ｇｅｎｅｒａｌ ｃｏｎｓｔｒａｉｎｔ ｉｎｆｏｒｍａｔｉｏｎ）をさらに含むことができる。本文書において、エンコーディング装置からデコーディング装置に伝達／シグナリングされる情報及び／またはシンタックス要素は、ビデオ／映像情報に含まれることができる。前記ビデオ／映像情報は、前述したエンコーディング手順を介してエンコーディングされて前記ビットストリームに含まれることができる。前記ビットストリームは、ネットワークを介して送信されることができ、またはデジタル格納媒体に格納されることができる。ここで、ネットワークは、放送網及び／または通信網などを含むことができ、デジタル格納媒体は、ＵＳＢ、ＳＤ、ＣＤ、ＤＶＤ、ブルーレイ、ＨＤＤ、ＳＳＤなど、多様な格納媒体を含むことができる。エントロピーエンコーディング部２４０から出力された信号は、送信する送信部（図示せず）及び／または格納する格納部（図示せず）がエンコーディング装置２００の内／外部エレメントとして構成されることができ、または送信部は、エントロピーエンコーディング部２４０に含まれることもできる。

量子化部２３３から出力された量子化された変換係数は、予測信号を生成するために利用されることができる。例えば、量子化された変換係数に逆量子化部２３４及び逆変換部２３５を介して逆量子化及び逆変換を適用することによってレジデュアル信号（レジデュアルブロックまたはレジデュアルサンプル）を復元することができる。加算部２５０は、復元されたレジデュアル信号にインター予測部２２１またはイントラ予測部２２２から出力された予測信号を加えることによって復元（ｒｅｃｏｎｓｔｒｕｃｔｅｄ）信号（復元ピクチャ、復元ブロック、復元サンプルアレイ）が生成されることができる。スキップモードが適用された場合のように処理対象ブロックに対するレジデュアルがない場合、予測されたブロックが復元ブロックとして使われることができる。加算部２５０は、復元部または復元ブロック生成部とも呼ばれる。生成された復元信号は、現在ピクチャ内の次の処理対象ブロックのイントラ予測のために使われることもでき、後述するようにフィルタリングを経て次のピクチャのインター予測のために使われることもできる。

一方、ピクチャエンコーディング及び／または復元過程でＬＭＣＳ（ｌｕｍａ ｍａｐｐｉｎｇ ｗｉｔｈ ｃｈｒｏｍａ ｓｃａｌｉｎｇ）が適用されることもできる。

フィルタリング部２６０は、復元信号にフィルタリングを適用して主観的／客観的画質を向上させることができる。例えば、フィルタリング部２６０は、復元ピクチャに多様なフィルタリング方法を適用して修正された（ｍｏｄｉｆｉｅｄ）復元ピクチャを生成することができ、前記修正された復元ピクチャをメモリ２７０、具体的に、メモリ２７０のＤＰＢに格納することができる。前記多様なフィルタリング方法は、例えば、デブロッキングフィルタリング、サンプル適応的オフセット（ｓａｍｐｌｅ ａｄａｐｔｉｖｅ ｏｆｆｓｅｔ）、適応的ループフィルタ（ａｄａｐｔｉｖｅ ｌｏｏｐ ｆｉｌｔｅｒ）、両方向フィルタ（ｂｉｌａｔｅｒａｌ ｆｉｌｔｅｒ）などを含むことができる。フィルタリング部２６０は、各フィルタリング方法に対する説明で後述するように、フィルタリングに対する多様な情報を生成してエントロピーエンコーディング部２４０に伝達できる。フィルタリングに対する情報は、エントロピーエンコーディング部２４０でエンコーディングされてビットストリーム形態で出力されることができる。

メモリ２７０に送信された修正された復元ピクチャは、インター予測部２２１で参照ピクチャとして使われることができる。エンコーディング装置は、これを介してインター予測が適用される場合、エンコーディング装置２００とデコーディング装置での予測ミスマッチを避けることができ、符号化効率も向上させることができる。

メモリ２７０ＤＰＢは、修正された復元ピクチャをインター予測部２２１での参照ピクチャとして使用するために格納することができる。メモリ２７０は、現在ピクチャ内の動き情報が導出された（または、エンコーディングされた）ブロックの動き情報及び／または既に復元されたピクチャ内のブロックの動き情報を格納することができる。前記格納された動き情報は、空間的隣接ブロックの動き情報または時間的隣接ブロックの動き情報として活用するために、インター予測部２２１に伝達できる。メモリ２７０は、現在ピクチャ内の復元されたブロックの復元サンプルを格納することができ、イントラ予測部２２２に伝達できる。

図３は、本発明が適用されることができるビデオ／映像デコーディング装置の構成を概略的に説明する図面である。

図３を参照すると、デコーディング装置３００は、エントロピーデコーディング部（ｅｎｔｒｏｐｙ ｄｅｃｏｄｅｒ）３１０、レジデュアル処理部（ｒｅｓｉｄｕａｌ ｐｒｏｃｅｓｓｏｒ）３２０、予測部（ｐｒｅｄｉｃｔｏｒ）３３０、加算部（ａｄｄｅｒ）３４０、フィルタリング部（ｆｉｌｔｅｒ）３５０、及びメモリ（ｍｅｍｏｅｒｙ）３６０を含んで構成されることができる。予測部３３０は、インター予測部３３１及びイントラ予測部３３２を含むことができる。レジデュアル処理部３２０は、逆量子化部（ｄｅｑｕａｎｔｉｚｅｒ）３２１及び逆変換部（ｉｎｖｅｒｓｅ ｔｒａｎｓｆｏｒｍｅｒ）３２１を含むことができる。前述したエントロピーデコーディング部３１０、レジデュアル処理部３２０、予測部３３０、加算部３４０、及びフィルタリング部３５０は、実施例によって一つのハードウェアコンポーネント（例えば、デコーダチップセットまたはプロセッサ）により構成されることができる。また、メモリ３６０は、ＤＰＢ（ｄｅｃｏｄｅｄ ｐｉｃｔｕｒｅ ｂｕｆｆｅｒ）を含むことができ、デジタル格納媒体により構成されることもできる。前記ハードウェアコンポーネントは、メモリ３６０を内／外部コンポーネントとしてさらに含むこともできる。

ビデオ／映像情報を含むビットストリームが入力されると、デコーディング装置３００は、図２のエンコーディング装置でビデオ／映像情報が処理されたプロセスに対応して映像を復元することができる。例えば、デコーディング装置３００は、前記ビットストリームから取得したブロック分割関連情報に基づいてユニット／ブロックを導出することができる。デコーディング装置３００は、エンコーディング装置で適用された処理ユニットを利用してデコーディングを実行することができる。したがって、デコーディングの処理ユニットは、例えば、コーディングユニットであり、コーディングユニットは、コーディングツリーユニットまたは最大コーディングユニットからクアッドツリー構造、バイナリツリー構造及び／またはターナリツリー構造に応じて分割されることができる。コーディングユニットから一つ以上の変換ユニットが導出されることができる。そして、デコーディング装置３００を介してデコーディング及び出力された復元映像信号は、再生装置を介して再生されることができる。

デコーディング装置３００は、図２のエンコーディング装置から出力された信号をビットストリーム形態で受信することができ、受信された信号は、エントロピーデコーディング部３１０を介してデコーディングされることができる。例えば、エントロピーデコーディング部３１０は、前記ビットストリームをパーシングして映像復元（または、ピクチャ復元）に必要な情報（例えば、ビデオ／映像情報）を導出することができる。前記ビデオ／映像情報は、アダプテーションパラメータセット（ＡＰＳ）、ピクチャパラメータセット（ＰＰＳ）、シーケンスパラメータセット（ＳＰＳ）またはビデオパラメータセット（ＶＰＳ）等、多様なパラメータセットに対する情報をさらに含むことができる。また、前記ビデオ／映像情報は、一般制限情報（ｇｅｎｅｒａｌ ｃｏｎｓｔｒａｉｎｔ ｉｎｆｏｒｍａｔｉｏｎ）をさらに含むことができる。また、デコーディング装置は、前記パラメータセットに対する情報及び／または前記一般制限情報に基づいてピクチャをデコーディングすることができる。本文書で後述されるシグナリング／受信される情報及び／またはシンタックス要素は、前記デコーディング手順を介してデコーディングされて前記ビットストリームから取得されることができる。例えば、エントロピーデコーディング部３１０は、指数ゴロム符号化、ＣＡＶＬＣまたはＣＡＢＡＣなどのコーディング方法に基づいてビットストリーム内の情報をデコーディングし、映像復元に必要なシンタックスエレメントの値、レジデュアルに対する変換係数の量子化された値を出力することができる。より詳しくは、ＣＡＢＡＣエントロピーデコーディング方法は、ビットストリームで各シンタックス要素に該当するＢＩＮを受信し、デコーディング対象シンタックス要素情報と隣接及びデコーディング対象ブロックのデコーディング情報または以前ステップでデコーディングされたシンボル／ＢＩＮの情報を利用して文脈（ｃｏｎｔｅｘｔ）モデルを決定し、決定された文脈モデルによってＢＩＮの発生確率を予測してＢＩＮの算術デコーディング（ａｒｉｔｈｍｅｔｉｃ ｄｅｃｏｄｉｎｇ）を実行することで、各シンタックス要素の値に該当するシンボルを生成することができる。このとき、ＣＡＢＡＣエントロピーデコーディング方法は、文脈モデル決定後、次のシンボル／ＢＩＮの文脈モデルのためにデコーディングされたシンボル／ＢＩＮの情報を利用して文脈モデルをアップデートすることができる。エントロピーデコーディング部３１０でデコーディングされた情報のうち予測に対する情報は、予測部（インター予測部３３２及びイントラ予測部３３１）に提供され、エントロピーデコーディング部３１０でエントロピーデコーディングが実行されたレジデュアル値、即ち、量子化された変換係数及び関連パラメータ情報は、レジデュアル処理部３２０に入力されることができる。レジデュアル処理部３２０は、レジデュアル信号（レジデュアルブロック、レジデュアルサンプル、レジデュアルサンプルアレイ）を導出することができる。また、エントロピーデコーディング部３１０でデコーディングされた情報のうちフィルタリングに対する情報は、フィルタリング部３５０に提供されることができる。一方、エンコーディング装置から出力された信号を受信する受信部（図示せず）がデコーディング装置３００の内／外部エレメントとしてさらに構成されることができ、または受信部は、エントロピーデコーディング部３１０の構成要素であることもある。一方、本文書によるデコーディング装置は、ビデオ／映像／ピクチャデコーディング装置とも呼ばれ、前記デコーディング装置は、情報デコーダ（ビデオ／映像／ピクチャ情報デコーダ）及びサンプルデコーダ（ビデオ／映像／ピクチャサンプルデコーダ）に区分することもできる。前記情報デコーダは、前記エントロピーデコーディング部３１０を含むことができ、前記サンプルデコーダは、前記逆量子化部３２１、逆変換部３２２、加算部３４０、フィルタリング部３５０、メモリ３６０、インター予測部３３２、及びイントラ予測部３３１のうち少なくとも一つを含むことができる。

逆量子化部３２１では量子化された変換係数を逆量子化して変換係数を出力することができる。逆量子化部３２１は、量子化された変換係数を２次元のブロック形態で再整列できる。この場合、前記再整列は、エンコーディング装置で実行された係数スキャン順序に基づいて再整列を実行することができる。逆量子化部３２１は、量子化パラメータ（例えば、量子化ステップサイズ情報）を利用して量子化された変換係数に対する逆量子化を実行し、変換係数（ｔｒａｎｓｆｏｒｍ ｃｏｅｆｆｉｃｉｅｎｔ）を取得することができる。

逆変換部３２２では変換係数を逆変換してレジデュアル信号（レジデュアルブロック、レジデュアルサンプルアレイ）を取得するようになる。

予測部は、現在ブロックに対する予測を実行し、前記現在ブロックに対する予測サンプルを含む予測されたブロック（ｐｒｅｄｉｃｔｅｄ ｂｌｏｃｋ）を生成することができる。予測部は、エントロピーデコーディング部３１０から出力された前記予測に対する情報に基づいて、前記現在ブロックにイントラ予測が適用されるかまたはインター予測が適用されるかを決定することができ、具体的なイントラ／インター予測モードを決定することができる。

予測部３３０は、後述する多様な予測方法に基づいて予測信号を生成することができる。例えば、予測部は、一つのブロックに対する予測のためにイントラ予測またはインター予測を適用することができるだけでなく、イントラ予測とインター予測を同時に適用できる。これはｃｏｍｂｉｎｅｄ ｉｎｔｅｒ ａｎｄ ｉｎｔｒａ ｐｒｅｄｉｃｔｉｏｎ（ＣＩＩＰ）とも呼ばれる。また、予測部は、ブロックに対する予測のためにイントラブロックコピー（ｉｎｔｒａ ｂｌｏｃｋ ｃｏｐｙ、ＩＢＣ）予測モードに基づく場合もあり、またはパレットモード（ｐａｌｅｔｔｅ ｍｏｄｅ）に基づく場合もある。前記ＩＢＣ予測モードまたはパレットモードは、例えば、ＳＣＣ（ｓｃｒｅｅｎ ｃｏｎｔｅｎｔ ｃｏｄｉｎｇ）などのように、ゲームなどのコンテンツ映像／動映像コーディングのために使われることができる。ＩＢＣは、基本的に現在ピクチャ内で予測を実行するが、現在ピクチャ内で参照ブロックを導出する点でインター予測と類似するように実行されることができる。即ち、ＩＢＣは、本文書で説明されるインター予測技法のうち少なくとも一つを利用することができる。パレットモードは、イントラコーディングまたはイントラ予測の一例と見なすこともできる。パレットモードが適用される場合、パレットテーブル及びパレットインデックスに対する情報が前記ビデオ／映像情報に含まれてシグナリングされることができる。

イントラ予測部３３１は、現在ピクチャ内のサンプルを参照して現在ブロックを予測することができる。前記参照されるサンプルは、予測モードによって前記現在ブロックの隣接（ｎｅｉｇｈｂｏｒ）に位置し、または離れて位置することもできる。イントラ予測において、予測モードは、複数の非方向性モードと複数の方向性モードを含むことができる。イントラ予測部３３１は、隣接ブロックに適用された予測モードを利用し、現在ブロックに適用される予測モードを決定することもできる。

インター予測部３３２は、参照ピクチャ上で動きベクトルにより特定される参照ブロック（参照サンプルアレイ）に基づいて、現在ブロックに対する予測されたブロックを誘導することができる。このとき、インター予測モードで送信される動き情報の量を減らすために、隣接ブロックと現在ブロックとの間の動き情報の相関性に基づいて、動き情報をブロック、サブブロックまたはサンプル単位で予測できる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測方向（Ｌ０予測、Ｌ１予測、Ｂｉ予測等）情報をさらに含むことができる。インター予測の場合、隣接ブロックは、現在ピクチャ内に存在する空間的隣接ブロック（ｓｐａｔｉａｌ ｎｅｉｇｈｂｏｒｉｎｇ ｂｌｏｃｋ）と、参照ピクチャに存在する時間的隣接ブロック（ｔｅｍｐｏｒａｌ ｎｅｉｇｈｂｏｒｉｎｇ ｂｌｏｃｋ）と、を含むことができる。例えば、インター予測部３３２は、隣接ブロックに基づいて動き情報候補リストを構成し、受信した候補選択情報に基づいて前記現在ブロックの動きベクトル及び／または参照ピクチャインデックスを導出することができる。多様な予測モードに基づいてインター予測が実行されることができ、前記予測に対する情報は、前記現在ブロックに対するインター予測のモードを指示する情報を含むことができる。

加算部３４０は、取得されたレジデュアル信号に予測部（インター予測部３３２及び／またはイントラ予測部３３１を含む）から出力された予測信号（予測されたブロック、予測サンプルアレイ）を加えることによって復元信号（復元ピクチャ、復元ブロック、復元サンプルアレイ）を生成することができる。スキップモードが適用された場合のように処理対象ブロックに対するレジデュアルがない場合、予測されたブロックが復元ブロックとして使われることができる。

加算部３４０は、復元部または復元ブロック生成部とも呼ばれる。生成された復元信号は、現在ピクチャ内の次の処理対象ブロックのイントラ予測のために使われることもでき、後述するようにフィルタリングを経て出力されることもでき、または次のピクチャのインター予測のために使われることもできる。

一方、ピクチャデコーディング過程でＬＭＣＳ（ｌｕｍａ ｍａｐｐｉｎｇ ｗｉｔｈ ｃｈｒｏｍａ ｓｃａｌｉｎｇ）が適用されることもできる。

フィルタリング部３５０は、復元信号にフィルタリングを適用して主観的／客観的画質を向上させることができる。例えば、フィルタリング部３５０は、復元ピクチャに多様なフィルタリング方法を適用して修正された（ｍｏｄｉｆｉｅｄ）復元ピクチャを生成することができ、前記修正された復元ピクチャをメモリ３６０、具体的に、メモリ３６０のＤＰＢに送信できる。前記多様なフィルタリング方法は、例えば、デブロッキングフィルタリング、サンプル適応的オフセット（ｓａｍｐｌｅ ａｄａｐｔｉｖｅ ｏｆｆｓｅｔ）、適応的ループフィルタ（ａｄａｐｔｉｖｅ ｌｏｏｐ ｆｉｌｔｅｒ）、両方向フィルタ（ｂｉｌａｔｅｒａｌ ｆｉｌｔｅｒ）などを含むことができる。

メモリ３６０のＤＰＢに格納された（修正された）復元ピクチャは、インター予測部３３２で参照ピクチャとして使われることができる。メモリ３６０は、現在ピクチャ内の動き情報が導出された（または、デコーディングされた）ブロックの動き情報及び／または既に復元されたピクチャ内のブロックの動き情報を格納することができる。前記格納された動き情報は、空間的隣接ブロックの動き情報または時間的隣接ブロックの動き情報として活用するために、インター予測部３３２に伝達できる。メモリ３６０は、現在ピクチャ内の復元されたブロックの復元サンプルを格納することができ、イントラ予測部３３１に伝達できる。

本明細書において、エンコーディング装置２００のフィルタリング部２６０、インター予測部２２１、及びイントラ予測部２２２で説明された実施例は、各々、デコーディング装置３００のフィルタリング部３５０、インター予測部３３２、及びイントラ予測部３３１にも同一または対応されるように適用されることができる。

前述したように、ビデオコーディングを実行するにあたって圧縮効率を上げるために予測を実行する。それによって、コーディング対象ブロックである現在ブロックに対する予測サンプルを含む予測されたブロックを生成することができる。ここで、前記予測されたブロックは、空間ドメイン（または、ピクセルドメイン）での予測サンプルを含む。前記予測されたブロックは、エンコーディング装置及びデコーディング装置で同一に導出され、前記エンコーディング装置は、原本ブロックの原本サンプル値自体でない前記原本ブロックと前記予測されたブロックとの間のレジデュアルに対する情報（レジデュアル情報）をデコーディング装置にシグナリングすることで映像コーディング効率を上げることができる。デコーディング装置は、前記レジデュアル情報に基づいてレジデュアルサンプルを含むレジデュアルブロックを導出し、前記レジデュアルブロックと前記予測されたブロックを合わせて復元サンプルを含む復元ブロックを生成することができ、復元ブロックを含む復元ピクチャを生成することができる。

前記レジデュアル情報は、変換及び量子化手順を介して生成されることができる。例えば、エンコーディング装置は、前記原本ブロックと前記予測されたブロックとの間のレジデュアルブロックを導出し、前記レジデュアルブロックに含まれているレジデュアルサンプル（レジデュアルサンプルアレイ）に変換手順を実行して変換係数を導出し、前記変換係数に量子化手順を実行して量子化された変換係数を導出することで、関連したレジデュアル情報を（ビットストリームを介して）デコーディング装置にシグナリングできる。ここで、前記レジデュアル情報は、前記量子化された変換係数の値情報、位置情報、変換技法、変換カーネル、量子化パラメータなどの情報を含むことができる。デコーディング装置は、前記レジデュアル情報に基づいて、逆量子化／逆変換手順を実行してレジデュアルサンプル（または、レジデュアルブロック）を導出することができる。デコーディング装置は、予測されたブロックと前記レジデュアルブロックに基づいて復元ピクチャを生成することができる。また、エンコーディング装置は、以後ピクチャのインター予測のための参照のために量子化された変換係数を逆量子化／逆変換してレジデュアルブロックを導出し、これに基づいて復元ピクチャを生成することができる。

インター予測が適用される場合、エンコーディング装置／デコーディング装置の予測部は、ブロック単位でインター予測を実行して予測サンプルを導出することができる。インター予測は、現在ピクチャ以外のピクチャ（ら）のデータ要素（例えば、サンプル値、または動き情報等）に依存した方法で導出される予測を示すことができる（Ｉｎｔｅｒ ｐｒｅｄｉｃｔｉｏｎ ｃａｎ ｂｅ ａ ｐｒｅｄｉｃｔｉｏｎ ｄｅｒｉｖｅｄ ｉｎ ａ ｍａｎｎｅｒ ｔｈａｔ ｉｓ ｄｅｐｅｎｄｅｎｔ ｏｎ ｄａｔａ ｅｌｅｍｅｎｔｓ（ｅ．ｇ．，ｓａｍｐｌｅ ｖａｌｕｅｓ ｏｒ ｍｏｔｉｏｎ ｉｎｆｏｒｍａｔｉｏｎ） ｏｆ ｐｉｃｔｕｒｅ（ｓ） ｏｔｈｅｒ ｔｈａｎ ｔｈｅ ｃｕｒｒｅｎｔ ｐｉｃｔｕｒｅ）。現在ブロックにインター予測が適用される場合、参照ピクチャインデックスが指す参照ピクチャ上で動きベクトルにより特定される参照ブロック（参照サンプルアレイ）に基づいて、現在ブロックに対する予測されたブロック（予測サンプルアレイ）を誘導することができる。このとき、インター予測モードで送信される動き情報の量を減らすために、隣接ブロックと現在ブロックとの間の動き情報の相関性に基づいて、現在ブロックの動き情報をブロック、サブブロックまたはサンプル単位で予測できる。前記動き情報は、動きベクトル及び参照ピクチャインデックスを含むことができる。前記動き情報は、インター予測タイプ（Ｌ０予測、Ｌ１予測、Ｂｉ予測等）情報をさらに含むことができる。インター予測が適用される場合、隣接ブロックは、現在ピクチャ内に存在する空間的隣接ブロック（ｓｐａｔｉａｌ ｎｅｉｇｈｂｏｒｉｎｇ ｂｌｏｃｋ）と、参照ピクチャに存在する時間的隣接ブロック（ｔｅｍｐｏｒａｌ ｎｅｉｇｈｂｏｒｉｎｇ ｂｌｏｃｋ）と、を含むことができる。前記参照ブロックを含む参照ピクチャと前記時間的隣接ブロックを含む参照ピクチャは、同じであってもよく、異なってもよい。前記時間的隣接ブロックは、同一位置参照ブロック（ｃｏｌｌｏｃａｔｅｄ ｒｅｆｅｒｅｎｃｅ ｂｌｏｃｋ）、同一位置ＣＵ（ｃｏｌＣＵ）などの名称で呼ばれることもあり、前記時間的隣接ブロックを含む参照ピクチャは、同一位置ピクチャ（ｃｏｌｌｏｃａｔｅｄ ｐｉｃｔｕｒｅ、ｃｏｌＰｉｃ）とも呼ばれる。例えば、現在ブロックの隣接ブロックに基づいて動き情報候補リストが構成されることができ、前記現在ブロックの動きベクトル及び／または参照ピクチャインデックスを導出するためにどの候補が選択（使用）されるかを指示するフラグまたはインデックス情報がシグナリングされることができる。多様な予測モードに基づいてインター予測が実行されることができ、例えば、スキップモードと（ノーマル）マージモードの場合、現在ブロックの動き情報は、選択された隣接ブロックの動き情報と同じである。スキップモードの場合、マージモードとは違って、レジデュアル信号が送信されない。動き情報予測（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ、ＭＶＰ）モードの場合、選択された隣接ブロックの動きベクトルを動きベクトル予測子（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｏｒ）として利用し、動きベクトル差分（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｄｉｆｆｅｒｅｎｃｅ）はシグナリングされることができる。この場合、前記動きベクトル予測子及び動きベクトル差分の和を利用して前記現在ブロックの動きベクトルを導出することができる。

インター予測に基づくビデオ／映像エンコーディング手順は、概略的に、例えば、下記を含むことができる。

図４は、インター予測ベースのビデオ／映像エンコーディング方法の例を示す。

エンコーディング装置は、現在ブロックに対するインター予測を実行する（Ｓ４００）。エンコーディング装置は、現在ブロックのインター予測モード及び動き情報を導出し、前記現在ブロックの予測サンプルを生成することができる。ここで、インター予測モード決定、動き情報導出、及び予測サンプル生成手順は、同時に実行されてもよく、ある一手順が他の手順より以前に実行されてもよい。例えば、エンコーディング装置のインター予測部は、予測モード決定部、動き情報導出部、予測サンプル導出部を含むことができ、予測モード決定部で前記現在ブロックに対する予測モードを決定し、動き情報導出部で前記現在ブロックの動き情報を導出し、予測サンプル導出部で前記現在ブロックの予測サンプルを導出することができる。例えば、エンコーディング装置のインター予測部は、動き推定（ｍｏｔｉｏｎ ｅｓｔｉｍａｔｉｏｎ）を介して参照ピクチャの一定領域（サーチ領域）内で前記現在ブロックと類似したブロックをサーチし、前記現在ブロックとの差が最小または一定基準以下である参照ブロックを導出することができる。これに基づいて前記参照ブロックが位置する参照ピクチャを指す参照ピクチャインデックスを導出し、前記参照ブロックと前記現在ブロックの位置差に基づいて動きベクトルを導出することができる。エンコーディング装置は、多様な予測モードのうち前記現在ブロックに対して適用されるモードを決定することができる。エンコーディング装置は、前記多様な予測モードに対するＲＤ ｃｏｓｔを比較して前記現在ブロックに対する最適の予測モードを決定することができる。

例えば、エンコーディング装置は、前記現在ブロックにスキップモードまたはマージモードが適用される場合、後述するマージ候補リストを構成し、前記マージ候補リストに含まれているマージ候補が指す参照ブロックのうち前記現在ブロックと前記現在ブロックとの差が最小または一定基準以下である参照ブロックを導出することができる。この場合、前記導出された参照ブロックと関連したマージ候補が選択され、前記選択されたマージ候補を指すマージインデックス情報が生成されてデコーディング装置にシグナリングされることができる。前記選択されたマージ候補の動き情報を利用して前記現在ブロックの動き情報が導出されることができる。

他の例として、エンコーディング装置は、前記現在ブロックに（Ａ）ＭＶＰモードが適用される場合、後述する（Ａ）ＭＶＰ候補リストを構成し、前記（Ａ）ＭＶＰ候補リストに含まれているｍｖｐ（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｏｒ）候補の中から選択されたｍｖｐ候補の動きベクトルを前記現在ブロックのｍｖｐとして利用できる。この場合、例えば、前述した動き推定により導出された参照ブロックを指す動きベクトルが前記現在ブロックの動きベクトルとして利用されることができ、前記ｍｖｐ候補のうち、前記現在ブロックの動きベクトルとの差が最も小さい動きベクトルを有するｍｖｐ候補が、前記選択されたｍｖｐ候補になる。前記現在ブロックの動きベクトルから前記ｍｖｐを引いた差分であるＭＶＤ（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｄｉｆｆｅｒｅｎｃｅ）が導出されることができる。この場合、前記ＭＶＤに対する情報がデコーディング装置にシグナリングされることができる。また、（Ａ）ＭＶＰモードが適用される場合、前記参照ピクチャインデックスの値は、参照ピクチャインデックス情報で構成されて別途に前記デコーディング装置にシグナリングされることができる。

エンコーディング装置は、前記予測サンプルに基づいてレジデュアルサンプルを導出することができる（Ｓ４１０）。エンコーディング装置は、前記現在ブロックの原本サンプルと前記予測サンプルの比較を介して前記レジデュアルサンプルを導出することができる。

エンコーディング装置は、予測情報及びレジデュアル情報を含む映像情報をエンコーディングする（Ｓ４２０）。エンコーディング装置は、エンコーディングされた映像情報をビットストリーム形態で出力できる。前記予測情報は、前記予測手順に関連した情報であって、予測モード情報（例えば、ｓｋｉｐ ｆｌａｇ、ｍｅｒｇｅ ｆｌａｇまたはｍｏｄｅ ｉｎｄｅｘ等）及び動き情報に対する情報を含むことができる。前記動き情報に対する情報は、動きベクトルを導出するための情報である候補選択情報（例えば、ｍｅｒｇｅ ｉｎｄｅｘ、ｍｖｐ ｆｌａｇまたはｍｖｐ ｉｎｄｅｘ）を含むことができる。また、前記動き情報に対する情報は、前述したＭＶＤに対する情報及び／または参照ピクチャインデックス情報を含むことができる。また、前記動き情報に対する情報は、Ｌ０予測、Ｌ１予測、または対（ｂｉ）予測が適用されるかどうかを示す情報を含むことができる。前記レジデュアル情報は、前記レジデュアルサンプルに対する情報である。前記レジデュアル情報は、前記レジデュアルサンプルに対する量子化された変換係数に対する情報を含むことができる。

出力されたビットストリームは、（デジタル）格納媒体に格納されてデコーディング装置に伝達されることもでき、またはネットワークを介してデコーディング装置に伝達されることもできる。

一方、前述したように、エンコーディング装置は、前記参照サンプル及び前記レジデュアルサンプルに基づいて復元ピクチャ（復元サンプル及び復元ブロックを含む）を生成することができる。これはデコーディング装置で実行されることと同じ予測結果をエンコーディング装置で導出するためであり、それによって、コーディング効率を上げることができる。したがって、エンコーディング装置は、復元ピクチャ（または、復元サンプル、復元ブロック）をメモリに格納し、インター予測のための参照ピクチャとして活用できる。前記復元ピクチャにインループフィルタリング手順などがさらに適用されることができることは、前述の通りである。

インター予測に基づくビデオ／映像デコーディング手順は、概略的に、例えば、下記を含むことができる。

図５は、インター予測ベースのビデオ／映像デコーディング方法の例を示す。

図５を参照すると、デコーディング装置は、前記エンコーディング装置で実行された動作と対応される動作を実行することができる。デコーディング装置は、受信された予測情報に基づいて現在ブロックに予測を実行して予測サンプルを導出することができる。

具体的に、デコーディング装置は、受信された予測情報に基づいて前記現在ブロックに対する予測モードを決定することができる（Ｓ５００）。デコーディング装置は、前記予測情報内の予測モード情報に基づいて、前記現在ブロックにどのようなインター予測モードが適用されるかを決定することができる。

例えば、前記ｍｅｒｇｅ ｆｌａｇに基づいて、前記現在ブロックに前記マージモードが適用されるかまたは（Ａ）ＭＶＰモードが決定されるかを決定することができる。または、前記ｍｏｄｅ ｉｎｄｅｘに基づいて多様なインター予測モード候補の中から一つを選択することができる。前記インター予測モード候補は、スキップモード、マージモード及び／または（Ａ）ＭＶＰモードを含むことができ、または後述する多様なインター予測モードを含むことができる。

デコーディング装置は、前記決定されたインター予測モードに基づいて前記現在ブロックの動き情報を導出する（Ｓ５１０）。例えば、デコーディング装置は、前記現在ブロックにスキップモードまたはマージモードが適用される場合、後述するマージ候補リストを構成し、前記マージ候補リストに含まれているマージ候補の中から一つのマージ候補を選択することができる。前記選択は、前述した選択情報（ｍｅｒｇｅ ｉｎｄｅｘ）に基づいて実行されることができる。前記選択されたマージ候補の動き情報を利用して前記現在ブロックの動き情報が導出されることができる。前記選択されたマージ候補の動き情報が前記現在ブロックの動き情報として利用されることができる。

他の例として、デコーディング装置は、前記現在ブロックに（Ａ）ＭＶＰモードが適用される場合、後述する（Ａ）ＭＶＰ候補リストを構成し、前記（Ａ）ＭＶＰ候補リストに含まれているｍｖｐ（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｏｒ）候補の中から選択されたｍｖｐ候補の動きベクトルを前記現在ブロックのｍｖｐとして利用できる。前記選択は、前述した選択情報（ｍｖｐ ｆｌａｇ または ｍｖｐ ｉｎｄｅｘ）に基づいて実行されることができる。この場合、前記ＭＶＤに対する情報に基づいて前記現在ブロックのＭＶＤを導出することができ、前記現在ブロックのｍｖｐと前記ＭＶＤに基づいて前記現在ブロックの動きベクトルを導出することができる。また、前記参照ピクチャインデックス情報に基づいて前記現在ブロックの参照ピクチャインデックスを導出することができる。前記現在ブロックに対する参照ピクチャリスト内で前記参照ピクチャインデックスが指すピクチャが、前記現在ブロックのインター予測のために参照される参照ピクチャとして導出されることができる。

一方、後述するように、候補リスト構成なしで前記現在ブロックの動き情報が導出されることができ、この場合、後述する予測モードで開示された手順によって前記現在ブロックの動き情報が導出されることができる。この場合、前述したような候補リスト構成は省略されることができる。

デコーディング装置は、前記現在ブロックの動き情報に基づいて前記現在ブロックに対する予測サンプルを生成することができる（Ｓ５２０）。この場合、前記現在ブロックの参照ピクチャインデックスに基づいて前記参照ピクチャを導出し、前記現在ブロックの動きベクトルが前記参照ピクチャ上で指す参照ブロックのサンプルを利用して前記現在ブロックの予測サンプルを導出することができる。この場合、後述するように、場合によって、前記現在ブロックの予測サンプルのうち全部または一部に対する予測サンプルフィルタリング手順がさらに実行されることができる。

例えば、デコーディング装置のインター予測部は、予測モード決定部、動き情報導出部、予測サンプル導出部を含むことができ、予測モード決定部で受信された予測モード情報に基づいて前記現在ブロックに対する予測モードを決定し、動き情報導出部で受信された動き情報に対する情報に基づいて前記現在ブロックの動き情報（動きベクトル及び／または参照ピクチャインデックス等）を導出し、予測サンプル導出部で前記現在ブロックの予測サンプルを導出することができる。

デコーディング装置は、受信されたレジデュアル情報に基づいて前記現在ブロックに対するレジデュアルサンプルを生成する（Ｓ５３０）。デコーディング装置は、前記予測サンプル及び前記レジデュアルサンプルに基づいて前記現在ブロックに対する復元サンプルを生成し、これに基づいて復元ピクチャを生成することができる。（Ｓ５４０）。以後、前記復元ピクチャにインループフィルタリング手順などがさらに適用されることができることは、前述の通りである。

図６は、インター予測手順を例示的に示す。

図６を参照すると、前述したように、インター予測手順は、インター予測モード決定ステップ、決定された予測モードによる動き情報導出ステップ、導出された動き情報に基づく予測実行（予測サンプル生成）ステップを含むことができる。前記インター予測手順は、前述したように、エンコーディング装置及びデコーディング装置で実行されることができる。本文書において、コーディング装置とは、エンコーディング装置及び／またはデコーディング装置を含むことができる。

図６を参照すると、コーディング装置は、現在ブロックに対するインター予測モードを決定する（Ｓ６００）。ピクチャ内の現在ブロックの予測のために、多様なインター予測モードが使われることができる。例えば、マージモード、スキップモード、ＭＶＰ（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ）モード、アフィン（Ａｆｆｉｎｅ）モード、サブブロックマージモード、ＭＭＶＤ（ｍｅｒｇｅ ｗｉｔｈ ＭＶＤ）モードなど、多様なモードが使われることができる。ＤＭＶＲ（Ｄｅｃｏｄｅｒ ｓｉｄｅ ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｒｅｆｉｎｅｍｅｎｔ）モード、ＡＭＶＲ（ａｄａｐｔｉｖｅ ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｒｅｓｏｌｕｔｉｏｎ）モード、Ｂｉ－ｐｒｅｄｉｃｔｉｏｎ ｗｉｔｈ ＣＵ－ｌｅｖｅｌ ｗｅｉｇｈｔ（ＢＣＷ）、Ｂｉ－ｄｉｒｅｃｔｉｏｎａｌ ｏｐｔｉｃａｌ ｆｌｏｗ（ＢＤＯＦ）などが付随的なモードとして使われまたはその代わりに使われることができる。アフィンモードは、アフィン動き予測（ａｆｆｉｎｅ ｍｏｔｉｏｎ ｐｒｅｄｉｃｔｉｏｎ）モードとも呼ばれる。ＭＶＰモードは、ＡＭＶＰ（ａｄｖａｎｃｅｄ ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ）モードとも呼ばれる。本文書において、一部モード及び／または一部モードにより導出された動き情報候補は、他のモードの動き情報関連候補のうち一つとして含まれることもできる。例えば、ＨＭＶＰ候補は、前記マージ／スキップモードのマージ候補として追加されることもでき、または前記ＭＶＰモードのｍｖｐ候補として追加されることもできる。前記ＨＭＶＰ候補が前記マージモードまたはスキップモードの動き情報候補として使われる場合、前記ＨＭＶＰ候補は、ＨＭＶＰマージ候補とも呼ばれる。

現在ブロックのインター予測モードを指す予測モード情報がエンコーディング装置からデコーディング装置にシグナリングされることができる。前記予測モード情報は、ビットストリームに含まれてデコーディング装置に受信されることができる。前記予測モード情報は、多数の候補モードのうち一つを指示するインデックス情報を含むことができる。または、フラグ情報の階層的シグナリングを介してインター予測モードを指示することもできる。この場合、前記予測モード情報は、一つ以上のフラグを含むことができる。例えば、スキップフラグをシグナリングしてスキップモード適用可否を指示し、スキップモードが適用されない場合にマージフラグをシグナリングしてマージモード適用可否を指示し、マージモードが適用されない場合にＭＶＰモードが適用されることと指示し、または追加的な区分のためのフラグをさらにシグナリングすることもできる。アフィンモードは、独立的なモードでシグナリングされることもでき、またはマージモードまたはＭＶＰモードなどに従属的なモードでシグナリングされることもできる。例えば、アフィンモードは、アフィンマージモード及びアフィンＭＶＰモードを含むことができる。

コーディング装置は、前記現在ブロックに対する動き情報を導出する（Ｓ６１０）。前記動き情報導出は、前記インター予測モードに基づいて導出されることができる。

コーディング装置は、現在ブロックの動き情報を利用してインター予測を実行することができる。エンコーディング装置は、動き推定（ｍｏｔｉｏｎ ｅｓｔｉｍａｔｉｏｎ）手順を介して現在ブロックに対する最適の動き情報を導出することができる。例えば、エンコーディング装置は、現在ブロックに対する原本ピクチャ内の原本ブロックを利用して相関性が高い類似した参照ブロックを参照ピクチャ内の決められた探索範囲内で分数ピクセル単位で探索でき、それによって、動き情報を導出することができる。ブロックの類似性は、位相（ｐｈａｓｅ）ベースのサンプル値の差に基づいて導出することができる。例えば、ブロックの類似性は、現在ブロック（または、現在ブロックのテンプレート）と参照ブロック（または、参照ブロックのテンプレート）との間のＳＡＤに基づいて計算されることができる。この場合、探索領域内のＳＡＤが最も小さい参照ブロックに基づいて動き情報を導出することができる。導出された動き情報は、インター予測モードに基づいて多様な方法によってデコーディング装置にシグナリングされることができる。

コーディング装置は、前記現在ブロックに対する動き情報に基づいてインター予測を実行する（Ｓ６２０）。コーディング装置は、前記動き情報に基づいて前記現在ブロックに対する予測サンプル（ら）を導出することができる。前記予測サンプルを含む現在ブロックは、予測されたブロックとも呼ばれる。

一方、インター予測において、従来のマージまたはＡＭＶＰモードによると、現在ブロックの空間的／時間的に隣接したブロックの動きベクトルを動き情報候補として使用することによって、動き情報量を減らす方法が使われた。例えば、現在ブロックの動き情報候補を導出するために使われる隣接ブロックは、現在ブロックの左下側コーナー隣接ブロック、左側隣接ブロック、右上側コーナー隣接ブロック、上側隣接ブロック、左上側コーナー隣接ブロックを含むことができた。

図７は、従来のマージまたはＡＭＶＰモードで動き情報候補導出のために使われた空間的隣接ブロックを例示的に示す。

基本的に、前記空間的隣接ブロックは、現在ブロックと接しているブロックに制限された。これはハードウェア具現性を高めるためであり、現在ブロックと遠く離れているブロックの情報を誘導するためにはラインバッファ増加などの問題が発生するためであった。しかし、現在ブロックの動き情報候補を導出するために隣接しないブロックの動き情報を使用することは、多様な候補を構成することができるため、性能向上をもたらす。ラインバッファ増加なしで隣接しないブロックの動き情報を使用するためにＨＭＶＰ（Ｈｉｓｔｏｒｙ ｂａｓｅｄ Ｍｏｔｉｏｎ Ｖｅｃｔｏｒ Ｐｒｅｄｉｃｔｉｏｎ）方法が使われることができる。本文書において、ＨＭＶＰは、Ｈｉｓｔｏｒｙ ｂａｓｅｄ Ｍｏｔｉｏｎ Ｖｅｃｔｏｒ ＰｒｅｄｉｃｔｉｏｎまたはＨｉｓｔｏｒｙ ｂａｓｅｄ Ｍｏｔｉｏｎ Ｖｅｃｔｏｒ Ｐｒｅｄｉｃｔｏｒを示すことができる。本発明によると、ＨＭＶＰを利用して効率的にインター予測を実行することができ、並列プロセシングをサポートすることができる。例えば、本発明の実施例では並列化プロセシングのためにヒストリバッファを管理する多様な方法を提案しており、これに基づいて並列プロセシングがサポートされることができる。ただし、並列プロセシングをサポートするとは、並列プロセシングが必修的に実行されるべきであるという意味ではなく、ハードウェア性能やサービス形態を考慮してコーディング装置が並列プロセシングを実行してもよく、実行しなくてもよい。例えば、コーディング装置がマルチコアプロセッサを備えた場合、コーディング装置は、スライス、ブリク及び／またはタイルのうち一部を並列処理することができる。一方、コーディング装置がシングルコアプロセッサを備えた場合またはマルチコアプロセッサを備えた場合も、コーディング装置は、演算及びメモリ負担を減らしながら順次的プロセシングを実行することもできる。

前述したＨＭＶＰ方法によるＨＭＶＰ候補は、以前にコーディングされたブロックの動き情報を含むことができる。例えば、現在ピクチャ内のブロックコーディング順序によって以前にコーディングされたブロックの動き情報は、もし、前記以前にコーディングされたブロックが現在ブロックに隣接しない場合、前記現在ブロックの動き情報として考慮されなかった。しかし、ＨＭＶＰ候補は、前記以前にコーディングされたブロックが現在ブロックに隣接するかどうかを考慮せずに、現在ブロックの動き情報候補（例えば、マージ候補またはＭＶＰ候補）として考慮されることができる。この場合、複数個のＨＭＶＰ候補がバッファに格納されることができる。例えば、現在ブロックにマージモードが適用される場合、ＨＭＶＰ候補（ＨＭＶＰマージ候補）がマージ候補リストに追加されることができる。この場合、前記ＨＭＶＰ候補は、マージ候補リストに含まれる空間的マージ候補及び時間的マージ候補の次に追加されることができる。

ＨＭＶＰ方法によると、以前にコーディングされたブロックの動き情報は、テーブル形態で格納されることができ、現在ブロックの動き情報候補（例えば、マージ候補）として使われることができる。複数のＨＭＶＰ候補を含むテーブル（または、バッファ、リスト）がエンコーディング／デコーディング手順の間に維持されることができる。前記テーブル（または、バッファ、リスト）は、ＨＭＶＰテーブル（または、バッファ、リスト）とも呼ばれる。本発明の一実施例によると、前記テーブル（または、バッファ、リスト）は、新しいスライスを接する（ｅｎｃｏｕｎｔｅｒ）場合に初期化されることができる。または、本発明の一実施例によると、前記テーブル（または、バッファ、リスト）は、新しいＣＴＵ行を接する場合に初期化されることができる。前記テーブルが初期化される場合、前記テーブルに含まれているＨＭＶＰ候補の個数は、０に設定されることができる。前記テーブル（または、バッファ、リスト）のサイズは、特定値（例えば、５等）に固定されることができる。例えば、インターコーディングされたブロックがある場合、関連した動き情報が前記テーブルの最後のエントリで新しいＨＭＶＰ候補として追加されることができる。前記（ＨＭＶＰ）テーブルは、（ＨＭＶＰ）バッファまたは（ＨＭＶＰ）リストとも呼ばれる。

図８は、ＨＭＶＰ候補ベースのデコーディング手順の例を概略的に示す。ここで、ＨＭＶＰ候補ベースのデコーディング手順は、ＨＭＶＰ候補ベースのインター予測手順を含むことができる。

図８を参照すると、デコーディング装置は、ＨＭＶＰ候補（ら）を含むＨＭＶＰテーブルをロードし、前記ＨＭＶＰ候補（ら）のうち少なくとも一つに基づいてブロックをデコーディングする。具体的に、例えば、デコーディング装置は、前記ＨＭＶＰ候補（ら）のうち少なくとも一つに基づいて現在ブロックの動き情報を導出することができ、前記動き情報に基づいて前記現在ブロックに対するインター予測を実行し、予測されたブロック（予測サンプルを含む）を導出することができる。前記予測されたブロックに基づいて復元ブロックが生成されることができることは、前述の通りである。前記現在ブロックの導出された動き情報は、前記テーブルにアップデートされることができる。この場合、前記動き情報が前記テーブルの最後のエントリで新しいＨＭＶＰ候補として追加されることができる。もし、前記テーブルに既存に含まれているＨＭＶＰ候補の個数が前記テーブルのサイズと同じ場合、前記テーブルに最初入った候補が削除され、前記導出された動き情報が前記テーブルの最後のエントリで新しいＨＭＶＰ候補として追加されることができる。

図９は、ＦＩＦＯ規則によるＨＭＶＰテーブルアップデートを例示的に示し、図１０は、制限されたＦＩＦＯ規則によるＨＭＶＰテーブルアップデートを例示的に示す。

前記テーブルにはＦＩＦＯ（ｆｉｒｓｔ－ｉｎ－ｆｉｒｓｔ－ｏｕｔ）規則が適用されることができる。例えば、もし、テーブルサイズＳが１６である場合、これは１６個のＨＭＶＰ候補が前記テーブルに含まれることができることを示す。もし、以前にコーディングされたブロックから１６個より多いＨＭＶＰ候補が発生する場合、ＦＩＦＯ規則が適用されることができ、それによって、前記テーブルは、最新コーディングされた最大１６個の動き情報候補を含むことができる。この場合、前記図９に示すように、ＦＩＦＯ規則が適用されて最古ＨＭＶＰ候補が除去され、新しいＨＭＶＰ候補が追加されることができる。

一方、コーディング効率をより向上させるために、図１０に示すように制限されたＦＩＦＯ規則が適用されることもできる。図１０を参照すると、ＨＭＶＰ候補をテーブルに挿入する時、まず、重複チェック（ｒｅｄｕｎｄａｎｃｙ ｃｈｅｃｋ）が適用されることができる。それによって、同じ動き情報を有するＨＭＶＰ候補が既に前記テーブルに存在するかどうかを判断することができる。もし、前記テーブルに同じ動き情報を有するＨＭＶＰ候補が存在する場合、前記同じ動き情報を有するＨＭＶＰ候補は、前記テーブルから除去され、前記除去されるＨＭＶＰ候補以後のＨＭＶＰ候補は、一間ずつ動いて（即ち、各インデックス－１）、以後新しいＨＭＶＰ候補が挿入されることができる。

前述したように、ＨＭＶＰ候補は、マージ候補リスト構成手順で使われることができる。この場合、例えば、前記テーブル内の最後のエントリから最初のエントリまで挿入可能な全てのＨＭＶＰ候補は、空間的マージ候補及び時間的マージ候補の次に挿入されることができる。この場合、プルーニングチェックがＨＭＶＰ候補に対して適用されることができる。許容される最大マージ候補の個数はシグナリングされることができ、可用マージ候補の全体個数が最大マージ候補の個数に到達する場合、前記マージ候補リスト構成手順は終了されることができる。

同様に、ＨＭＶＰ候補は、（Ａ）ＭＶＰ候補リスト構成手順で使われることもできる。この場合、ＨＭＶＰテーブル内の最後のｋ個のＨＭＶＰ候補の動きベクトルがＭＶＰ候補リストを構成するＴＭＶＰ候補の次に追加されることができる。この場合、例えば、ＭＶＰターゲット参照ピクチャと同じ参照ピクチャを有するＨＭＶＰ候補が前記ＭＶＰ候補リスト構成のために使われることができる。ここで、ＭＶＰターゲット参照ピクチャは、前記ＭＶＰモードが適用された現在ブロックのインター予測のための参照ピクチャを示すことができる。この場合、プルーニングチェックがＨＭＶＰ候補に対して適用されることができる。前記ｋは、例えば、４である。ただし、これは例示に過ぎず、前記ｋは、１、２、３、４等、多様な値を有することができる。

一方、全体マージ候補の個数が１５と同じまたは大きい場合、以下の表１のようにｔｒｕｎｃａｔｅｄ ｕｎａｒｙ ｐｌｕｓ ｆｉｘｅｄ ｌｅｎｇｔｈ（ｗｉｔｈ ３ ｂｉｔｓ）二進化（ｂｉｎａｒｉｚａｔｉｏｎ）方法がマージインデックスコーディングのために適用されることができる。

前記表は、Ｎｍｒｇ＝１５である場合を仮定したし、Ｎｍｒｇは、マージ候補の全体個数を示す。

一方、ビデオコデックを適用したソリューション開発時、具現最適化のために映像／ビデオコーディングにおいて並列処理がサポートされることもできる。

図１１は、並列処理のための技法のうち一つであるＷＰＰ（Ｗａｖｅｆｒｏｎｔ Ｐａｒａｌｌｅｌ Ｐｒｏｃｅｓｓｉｎｇ）を例示的に示す。

図１１を参照すると、ＷＰＰが適用される場合、ＣＴＵ行単位で並列化処理されることができる。この場合、Ｘ表示されたブロックをコーディング（エンコーディング／デコーディング）する場合に矢印が指す位置とディペンデンシーが存在するようになる。したがって、現在コーディングしようとするブロックの右上側ＣＴＵがコーディング完了することを待たなければならない。また、ＷＰＰが適用される場合、ＣＡＢＡＣ（コンテキスト）確率テーブルの初期化は、スライス単位で行われることができ、エントロピーエンコーディング／デコーディングを含んで並列化処理するためには、ＣＴＵ行単位でＣＡＢＡＣ確率テーブルが初期化されなければならない。ＷＰＰは、効率的な初期化位置を定めるために提案された技術と見なすこともできる。

前述したＨＭＶＰ方法は、あらかじめ決められたバッファ（ＨＭＶＰテーブル）大きさほど各ブロックのコーディング手順で導出された動き情報を候補として格納する。この場合、図９で付加条件なしで開示したようにバッファ数ほど候補を満たすこともでき、または新しく追加される候補とバッファ（ＨＭＶＰテーブル）内に存在する候補との重複チェックを介して重複しないように候補を満たすこともできる。それによって、多様な候補を構成することができる。しかし、ビデオコデックを適用したソリューション開発時、ＨＭＶＰ候補がバッファに満たされる時点を一般的に知ることができないため、ＷＰＰを適用して、またはＷＰＰを適用しなくても並列処理可能に具現することが不可能である。

図１２は、並列処理を考慮して一般ＨＭＶＰ方法を適用する時の問題点を例示的に示す。

図１２を参照すると、ＷＰＰのように各ＣＴＵ行単位で並列化する場合、ＨＭＶＰバッファのディペンデンシー問題が発生できる。例えば、Ｎ（Ｎ＞＝１）番目のＣＴＵ行での１番目のＣＴＵのためのＨＭＶＰバッファは、Ｎ－１番目のＣＴＵ行に存在するブロック、例えば、Ｎ－１番目のＣＴＵ行の最後のＣＴＵ内のブロックのコーディング（エンコーディング／デコーディング）が完了しなければ満たされないためである。即ち、現在構造下で並列処理が適用される場合、デコーディング装置は、現在ＨＭＶＰバッファに格納されたＨＭＶＰ候補が現在（対象）ブロックのデコーディングのために使われるＨＭＶＰバッファが合うかどうかを知ることができない。これは順次的処理を適用する場合に現在ブロックのコーディング時点で導出されるＨＭＶＰバッファと並列処理を適用する場合に現在ブロックのコーディング時点で導出されるＨＭＶＰバッファに差が発生するおそれがあるためである。

本発明の一実施例では前記のような問題点を解決するために、ＨＭＶＰを適用する時、ヒストリ管理バッファ（ＨＭＶＰバッファ）を初期化することによって並列処理がサポートされるようにする。

図１３は、本発明の一実施例に係るヒストリ管理バッファ（ＨＭＶＰバッファ）の初期化方法を例示的に示す。

図１３を参照すると、ＣＴＵ行の最初のＣＴＵ毎にＨＭＶＰバッファが初期化されることができる。即ち、ＣＴＵ行の最初のＣＴＵをコーディングする場合、ＨＭＶＰバッファを初期化することで、ＨＭＶＰバッファに含まれているＨＭＶＰ候補の個数が０になるようにすることができる。前記のように、ＣＴＵ行毎にＨＭＶＰバッファを初期化することによって、並列処理がサポートされる場合も制約なしで現在ブロックの左側方向に位置するＣＴＵのコーディング過程で導出されたＨＭＶＰ候補を使用することができる。この場合、例えば、現在ブロックである現在ＣＵがＣＴＵ行の１番目のＣＴＵに位置し、現在ＣＵが前記１番目のＣＴＵの１番目のＣＵに該当する場合、前記ＨＭＶＰバッファに含まれているＨＭＶＰ候補の個数が０である。また、例えば、前記ＣＴＵ行で現在ＣＵより以前にコーディングされたＣＵがインターモードでコーディングされると、前記以前にコーディングされたＣＵの動き情報に基づいてＨＭＶＰ候補が導出されて前記ＨＭＶＰバッファに含まれることができる。

図１４は、本発明の一実施例に係るＨＭＶＰバッファ管理方法を例示的に示す。

図１４を参照すると、スライス単位でＨＭＶＰバッファを初期化することができ、スライス内のＣＴＵに対してもコーディング対象ＣＴＵ（現在ＣＴＵ）が各ＣＴＵ行の１番目のＣＴＵかどうかを判断することができる。図１４では例示として（ｃｔｕ＿ｉｄｘ ％ Ｎｕｍ）が０である場合、１番目のＣＴＵであると判断すると記述した。このとき、Ｎｕｍは、各ＣＴＵ行でのＣＴＵ個数を意味する。他の例として、前述したブリク概念を利用する場合、ｃｔｕ＿ｉｄｘ＿ｉｎ＿ｂｒｉｃｋ ％ ＢｒｉｃｋＷｉｄｔｈ）が０である場合、（該当ブリク内の）ＣＴＵ行の１番目のＣＴＵであると判断できる。ここで、ｃｔｕ＿ｉｄｘ＿ｉｎ＿ｂｒｉｃｋは、前記ブリク内の該当ＣＴＵのインデックスを示し、ＢｒｉｃｋＷｉｄｔｈは、該当ブリクの幅をＣＴＵ単位で表す。即ち、ＢｒｉｃｋＷｉｄｔｈは、該当ブリク内のＣＴＵ列の個数を示すことができる。現在ＣＴＵがＣＴＵ行の１番目のＣＴＵである場合、ＨＭＶＰバッファを初期化（即ち、ＨＭＶＰバッファ内の候補の個数を０に設定）し、そうでない場合、ＨＭＶＰバッファを維持する。以後、該当ＣＴＵ内の各ＣＵ別予測過程（例えば、マージまたはＭＶＰモードベース）を経て、このとき、ＨＭＶＰバッファに格納された候補がマージモードまたはＭＶＰモードの動き情報候補（例えば、マージ候補またはＭＶＰ候補）として含まれることができる。マージモードまたはＭＶＰモードなどに基づくインター予測過程で導出された対象ブロック（現在ブロック）の動き情報は、ＨＭＶＰバッファに新しいＨＭＶＰ候補として格納（アップデート）される。この場合、前述した重複チェック過程がさらに実行されることもできる。以後、ＣＵ及びＣＴＵに対しても前述した手順が繰り返しされることができる。

他の例として、ＨＭＶＰを適用する時、ＣＴＵ毎にＨＭＶＰバッファを初期化することでＣＴＵ単位のディペンデンシーを除去することもできる。この場合、ＣＴＵ単位でＨＭＶＰバッファが初期化されるため、ＣＴＵ内に存在するブロックの動き情報がＨＭＶＰテーブルに格納される。この場合、同一ＣＴＵ内にあるブロック（例えば、ＣＵ）の動き情報に基づいてＨＭＶＰ候補を導出することができ、下記のように現在ＣＴＵが各ＣＴＵ行の１番目のＣＴＵかどうかを判断することなしにＨＭＶＰバッファ初期化が可能になる。

図１５は、本発明の他の一実施例に係るＨＭＶＰバッファ管理方法を例示的に示す。

図１５を参照すると、現在ＣＴＵが各ＣＴＵ行の１番目のＣＴＵかどうかを判断することなしにＣＴＵ毎にＨＭＶＰバッファ初期化を実行することができる。

一方、ＣＴＵ毎にＨＭＶＰバッファ初期化をする場合、該当ＣＴＵ内に存在するブロックの動き情報を導出したＨＭＶＰ候補のみがＨＭＶＰバッファに含まれるため、隣接しないブロックから導出される候補の使用が制限的である。したがって、現在ＣＴＵに隣接した左側ＣＴＵの候補をＨＭＶＰバッファに格納して可能な候補を増やすことができる。

図１６は、本発明の他の一実施例に係るＨＭＶＰバッファ管理方法を例示的に示す。

図１６を参照すると、現在ＣＴＵ（Ｎ－ｔｈ ＣＴＵ）と左側に二つのＣＴＵ、即ち、（Ｎ－１）ｔｈ、（Ｎ－２）ｔｈ ＣＴＵが存在する時、現在ＣＴＵ内に存在するＣＵは、（Ｎ－１）ｔｈ ＣＴＵ内のブロックから導出されたＨＭＶＰ候補（ら）を使用することができる。この場合、（Ｎ－２）ｔｈ ＣＴＵ内のブロックから導出されたＨＭＶＰ候補（ら）は使われることができず、初期化または除去される。

本実施例で提案する方法を適用するためのＨＭＶＰバッファは、下記のように制御または管理されることができる。

図１７は、ＨＭＶＰバッファ管理方法を例示的に示す。

図１７を参照すると、ＨＭＶＰのバッファ大きさがＳ（例えば、１６）である時（ｂｕｆｆｅｒ ｉｎｄｅｘ ０～１５）、各ＣＴＵ内のＣＵは、図１７に示すように格納され、これはブロックインデックスで表すことができる。（Ｎ－１）ｔｈ ＣＴＵコーディングが完了すると、（Ｎ－２）ｔｈ ＣＴＵで導出されたＨＭＶＰ候補は、バッファから除去され、現在ＣＴＵ内のブロックから導出された動き情報がＨＭＶＰ候補としてＨＭＶＰバッファに格納される。バッファ管理のために図面に示したようにＣＴＵインデックスで表したＣＴＵ指示子（ｉｎｄｉｃａｔｏｒ）が存在でき、コーディング装置は、ＣＴＵインデックスに基づいてバッファから除去する対象をさがすことができる。

前述したＨＭＶＰのヒストリ管理バッファ（ＨＭＶＰバッファ）の大きさは、バッファ大きさによる性能増加幅、バッファに存在する候補との重複チェックなどのための計算量などを考慮して決定されることができる。前述した実施例のようにバッファ初期化によって既存ＨＭＶＰと比較して利用可能なＨＭＶＰ候補が減るため、ＨＭＶＰのための管理バッファ大きさがさらに小さくなっても性能の変化がほとんどない。例えば、ＣＴＵ行毎にＨＭＶＰバッファを初期化する実施例や、現在ＣＴＵの隣接した左側ＣＴＵから導出されたＨＭＶＰ候補まで使用する実施例を適用する時、バッファサイズＳを５または６に設定できる。また、例えば、前述したＣＴＵ毎にＨＭＶＰバッファを初期化する実施例を適用する時、バッファサイズＳを４または５に設定でき、この場合、性能低下がほとんどない。また、ヒストリ管理バッファのバッファ大きさを決定する時、ＳＩＭＤ（Ｓｉｎｇｌｅ Ｉｎｓｔｒｕｃｔｉｏｎ Ｍｕｌｔｉｐｌｅ Ｄａｔａ）の適用可否が考慮されることができる。例えば、複数個（例えば、８個）のデータを一度に比較及び計算することが可能な場合、バッファサイズを減らす必要なしでＳＩＭＤを適用することが計算複雑度増加なしで性能を維持することができて効率的である。

図１８及び図１９は、本発明の実施例に係るインター予測方法を含むビデオ／映像エンコーディング方法及び関連コンポーネントの一例を概略的に示す。図１８で開示された方法は、図２で開示されたエンコーディング装置により実行されることができる。具体的に、例えば、図１８のＳ１８００乃至Ｓ１８３０は、前記エンコーディング装置の予測部２２０により実行されることができ、図１８のＳ１８４０は、前記エンコーディング装置のレジデュアル処理部２３０により実行されることができ、図１８のＳ１８５０は、前記エンコーディング装置のエントロピーエンコーディング部２４０により実行されることができる。図１８で開示された方法は、本文書で詳述した実施例を含むことができる。

図１８を参照すると、エンコーディング装置は、現在ブロックに対するＨＭＶＰバッファを導出する（Ｓ１８００）。エンコーディング装置は、本文書の実施例で詳述したＨＭＶＰバッファ管理方法を実行することができる。一例として、前記ＨＭＶＰバッファは、スライス単位で初期化されることができる。

他の例として、前記ＨＭＶＰバッファは、ＣＴＵ行単位で初期化されることができる。エンコーディング装置は、前記現在ＣＴＵが前記ＣＴＵ行の前記１番目のＣＴＵかどうかを判断することができる。この場合、前記ＨＭＶＰバッファは、前記現在ブロックを含む現在ＣＴＵが位置するＣＴＵ行の１番目のＣＴＵで初期化されることができる。即ち、前記ＨＭＶＰバッファは、前記現在ブロックを含む現在ＣＴＵが位置するＣＴＵ行の１番目のＣＴＵを処理する場合に（ｗｈｅｎ ｐｒｏｃｅｓｓｉｎｇ ａ ｆｉｒｓｔ－ｏｒｄｅｒｅｄ ＣＴＵ）初期化されることができる。前記現在ＣＴＵが前記ＣＴＵ行の前記１番目のＣＴＵであると判断された場合、前記ＨＭＶＰバッファは、前記現在ＣＴＵ内で前記現在ブロックより以前にエンコーディングされたブロックの動き情報に基づいて導出されたＨＭＶＰ候補を含むことができる。前記現在ＣＴＵが前記ＣＴＵ行の前記１番目のＣＴＵでないと判断された場合、前記ＨＭＶＰバッファは、前記現在ＣＴＵ内で前記現在ブロックより以前にエンコーディングされたブロックの動き情報に基づいて導出されたＨＭＶＰ候補及び前記ＣＴＵ行の以前ＣＴＵ内で以前にエンコーディングされたブロックの動き情報に基づいて導出されたＨＭＶＰ候補を含むことができる。また、例えば、現在ブロックである現在ＣＵがＣＴＵ行の１番目のＣＴＵに位置し、現在ＣＵが前記１番目のＣＴＵの１番目のＣＵに該当する場合、前記ＨＭＶＰバッファに含まれているＨＭＶＰ候補の個数が０である。また、例えば、前記ＣＴＵ行で現在ＣＵより以前にコーディングされたＣＵ（例えば、現在ＣＴＵで現在ＣＵより以前にコーディングされたＣＵ及び／または現在ＣＴＵ行で現在ＣＴＵより以前にコーディングされたＣＴＵ内のＣＵ）がインターモードでコーディングされると、前記以前にコーディングされたＣＵの動き情報に基づいてＨＭＶＰ候補が導出されて前記ＨＭＶＰバッファに含まれることができる。もし、現在ブロックにマージモードが適用される場合、前記ＨＭＶＰ候補は、前記現在ブロックに対するマージ候補リスト内の可用なマージ候補（例えば、空間的マージ候補及び時間的マージ候補を含む）の個数があらかじめ決定された最大マージ候補個数より小さい場合に前記マージ候補リストに追加されることができる。この場合、前記ＨＭＶＰ候補は、前記マージ候補リスト内で前記空間的候補及び時間的候補の後に挿入されることができる。即ち、前記ＨＭＶＰ候補には前記マージ候補リスト内で前記空間的候補及び時間的候補に割り当てられるインデックスより大きいインデックス値が割り当てられることができる。

他の例として、前記ＨＭＶＰバッファは、ＣＴＵ単位で初期化されることができる。または、前記ＨＭＶＰバッファは、現在ＣＴＵの左側ＣＴＵで導出されたＨＭＶＰ候補まで含むことができる。前記ＨＭＶＰバッファが初期化される場合、前記ＨＭＶＰバッファに含まれるＨＭＶＰ候補の個数は、０に設定されることができる。

エンコーディング装置は、前記ＨＭＶＰバッファに基づいて前記現在ブロックの動き情報を導出する（Ｓ１８１０）。エンコーディング装置は、前記ＨＭＶＰバッファに含まれているＨＭＶＰ候補に基づいて前記現在ブロックの動き情報を導出することができる。例えば、前記現在ブロックにマージモードまたはＭＶＰ（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ）モードが適用される場合、前記ＨＭＶＰバッファに含まれている前記ＨＭＶＰ候補をマージ候補またはＭＶＰ候補として使用することができる。例えば、前記現在ブロックにマージモードが適用される場合、前記ＨＭＶＰバッファに含まれている前記ＨＭＶＰ候補は、マージ候補リストの候補として含まれ、マージインデックスに基づいて前記マージ候補リストに含まれている候補の中で前記ＨＭＶＰ候補を指示することができる。前記マージインデックスは、予測関連情報として後述する映像情報に含まれることができる。この場合、前記ＨＭＶＰ候補は、前記マージ候補リストに含まれる空間的マージ候補及び時間的マージ候補より低い優先順位で前記マージ候補リスト内でインデックスが割り当てられることができる。即ち、前記ＨＭＶＰ候補に割り当てられるインデックス値は、前記空間的マージ候補及び時間的マージ候補のインデックス値より高い値が割り当てられることができる。

エンコーディング装置は、前記導出された動き情報に基づいて前記現在ブロックに対する予測サンプルを生成する（Ｓ１８２０）。エンコーディング装置は、前記動き情報に基づいてインター予測（動き補償）を実行することで、前記動き情報が参照ピクチャ上で指す参照サンプルを利用して予測サンプルを導出することができる。

エンコーディング装置は、前記予測サンプルに基づいてレジデュアルサンプルを生成する（Ｓ１８３０）。エンコーディング装置は、前記現在ブロックに対する原本サンプルと前記現在ブロックに対する予測サンプルに基づいてレジデュアルサンプルを生成することができる。

エンコーディング装置は、前記レジデュアルサンプルに基づいてレジデュアルサンプルに対する情報を導出し、前記レジデュアルサンプルに対する情報を含む映像情報をエンコーディングする（Ｓ１８４０）。前記レジデュアルサンプルに対する情報は、レジデュアル情報とも呼ばれ、量子化された変換係数に対する情報を含むことができる。エンコーディング装置は、前記レジデュアルサンプルに変換／量子化手順を実行することで量子化された変換係数を導出することができる。

エンコーディングされた映像情報は、ビットストリーム形態で出力されることができる。前記ビットストリームは、ネットワークまたは格納媒体を介してデコーディング装置に送信されることができる。映像情報は、予測関連情報をさらに含むことができ、前記予測関連情報は、多様な予測モード（例えば、マージモード、ＭＶＰモード等）に対する情報、ＭＶＤ情報などをさらに含むことができる。

図２０及び図２１は、本発明の実施例に係るインター予測方法を含む映像デコーディング方法及び関連コンポーネントの一例を概略的に示す。図２０で開示された方法は、図３で開示されたデコーディング装置により実行されることができる。具体的に、例えば、図２０のＳ２０００乃至Ｓ２０３０は、前記デコーディング装置の予測部３３０、Ｓ２０４０は、前記デコーディング装置の加算部３４０により実行されることができる。図２０で開示された方法は、本文書で詳述した実施例を含むことができる。

図２０を参照すると、デコーディング装置は、現在ブロックに対するＨＭＶＰバッファを導出する（Ｓ２０００）。デコーディング装置は、本文書の実施例で詳述したＨＭＶＰバッファ管理方法を実行することができる。一例として、前記ＨＭＶＰバッファは、スライス単位で初期化されることができる。

他の例として、前記ＨＭＶＰバッファは、ＣＴＵ行単位で初期化されることができる。デコーディング装置は、前記現在ＣＴＵが前記ＣＴＵ行の前記１番目のＣＴＵかどうかを判断することができる。この場合、前記ＨＭＶＰバッファは、前記現在ブロックを含む現在ＣＴＵが位置するＣＴＵ行の１番目のＣＴＵで初期化されることができる。即ち、前記ＨＭＶＰバッファは、前記現在ブロックを含む現在ＣＴＵが位置するＣＴＵ行の１番目のＣＴＵを処理する場合に（ｗｈｅｎ ｐｒｏｃｅｓｓｉｎｇ ａ ｆｉｒｓｔ－ｏｒｄｅｒｅｄ ＣＴＵ）初期化されることができる。前記現在ＣＴＵが前記ＣＴＵ行の前記１番目のＣＴＵであると判断された場合、前記ＨＭＶＰバッファは、前記現在ＣＴＵ内で前記現在ブロックより以前にデコーディングされたブロックの動き情報に基づいて導出されたＨＭＶＰ候補を含むことができる。前記現在ＣＴＵが前記ＣＴＵ行の前記１番目のＣＴＵでないと判断された場合、前記ＨＭＶＰバッファは、前記現在ＣＴＵ内で前記現在ブロックより以前にデコーディングされたブロックの動き情報に基づいて導出されたＨＭＶＰ候補及び前記ＣＴＵ行の以前ＣＴＵ内で以前にデコーディングされたブロックの動き情報に基づいて導出されたＨＭＶＰ候補を含むことができる。また、例えば、現在ブロックである現在ＣＵがＣＴＵ行の１番目のＣＴＵに位置し、現在ＣＵが前記１番目のＣＴＵの１番目のＣＵに該当する場合、前記ＨＭＶＰバッファに含まれているＨＭＶＰ候補の個数が０である。また、例えば、前記ＣＴＵ行で現在ＣＵより以前にコーディングされたＣＵ（例えば、現在ＣＴＵで現在ＣＵより以前にコーディングされたＣＵ及び／または現在ＣＴＵ行で現在ＣＴＵより以前にコーディングされたＣＴＵ内のＣＵ）がインターモードでコーディングされると、前記以前にコーディングされたＣＵの動き情報に基づいてＨＭＶＰ候補が導出されて前記ＨＭＶＰバッファに含まれることができる。もし、現在ブロックにマージモードが適用される場合、前記ＨＭＶＰ候補は、前記現在ブロックに対するマージ候補リスト内の可用なマージ候補（例えば、空間的マージ候補及び時間的マージ候補を含む）の個数があらかじめ決定された最大マージ候補個数より小さい場合に前記マージ候補リストに追加されることができる。この場合、前記ＨＭＶＰ候補は、前記マージ候補リスト内で前記空間的候補及び時間的候補の後に挿入されることができる。即ち、前記ＨＭＶＰ候補には前記マージ候補リスト内で前記空間的候補及び時間的候補に割り当てられるインデックスより大きいインデックス値が割り当てられることができる。

他の例として、前記ＨＭＶＰバッファは、ＣＴＵ単位で初期化されることができる。または、前記ＨＭＶＰバッファは、現在ＣＴＵの左側ＣＴＵで導出されたＨＭＶＰ候補まで含むことができる。前記ＨＭＶＰバッファが初期化される場合、前記ＨＭＶＰバッファに含まれるＨＭＶＰ候補の個数は、０に設定されることができる。

デコーディング装置は、前記ＨＭＶＰバッファに基づいて前記現在ブロックの動き情報を導出する（Ｓ２０１０）。デコーディング装置は、前記ＨＭＶＰバッファに含まれているＨＭＶＰ候補に基づいて前記現在ブロックの動き情報を導出することができる。例えば、前記現在ブロックにマージモードまたはＭＶＰ（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ）モードが適用される場合、前記ＨＭＶＰバッファに含まれている前記ＨＭＶＰ候補をマージ候補またはＭＶＰ候補として使用することができる。例えば、前記現在ブロックにマージモードが適用される場合、前記ＨＭＶＰバッファに含まれている前記ＨＭＶＰ候補は、マージ候補リストの候補として含まれ、ビットストリームから取得されたマージインデックスに基づいて前記マージ候補リストに含まれている候補の中で前記ＨＭＶＰ候補が指示されることできる。この場合、前記ＨＭＶＰ候補は、前記マージ候補リストに含まれる空間的マージ候補及び時間的マージ候補より低い優先順位で前記マージ候補リスト内でインデックスが割り当てられることができる。即ち、前記ＨＭＶＰ候補に割り当てられるインデックス値は、前記空間的マージ候補及び時間的マージ候補のインデックス値より高い値が割り当てられることができる。

デコーディング装置は、前記導出された動き情報に基づいて前記現在ブロックに対する予測サンプルを生成する（Ｓ２０２０）。デコーディング装置は、前記動き情報に基づいてインター予測（動き補償）を実行することで、前記動き情報が参照ピクチャ上で指す参照サンプルを利用して予測サンプルを導出することができる。前記予測サンプルを含む現在ブロックは、予測されたブロックとも呼ばれる。

デコーディング装置は、前記予測サンプルに基づいて復元サンプルを生成する（Ｓ２０３０）。前記復元サンプルに基づいて復元ブロック／ピクチャが生成されることができることは、前述の通りである。デコーディング装置は、前記ビットストリームからレジデュアル情報（量子化された変換係数に対する情報を含む）を取得することができ、前記レジデュアル情報に基づいてレジデュアルサンプルを導出することができ、前記予測サンプルと前記レジデュアルサンプルに基づいて前記復元サンプルが生成されることができることは、前述の通りである。以後、必要によって、主観的／客観的画質を向上させるために、デブロッキングフィルタリング、ＳＡＯ及び／またはＡＬＦ手順のようなインループフィルタリング手順が前記復元ピクチャに適用されることができることは、前述の通りである。

前述した実施例において、方法は、一連のステップまたはブロックで流れ図に基づいて説明されているが、本発明は、ステップの順序に限定されるものではなく、あるステップは、前述と異なるステップと、異なる順序にまたは同時に発生できる。また、当業者であれば、流れ図に示すステップが排他的でなく、他のステップが含まれ、または流れ図の一つまたはそれ以上のステップが本発明の範囲に影響を及ぼさずに削除可能であることを理解することができる。

前述した本発明による方法は、ソフトウェア形態で具現されることができ、本発明によるエンコーディング装置及び／またはデコーディング装置は、例えば、ＴＶ、コンピュータ、スマートフォン、セットトップボックス、ディスプレイ装置などの映像処理を実行する装置に含まれることができる。

本発明において、実施例がソフトウェアで具現される時、前述した方法は、前述した機能を遂行するモジュール（過程、機能など）で具現されることができる。モジュールは、メモリに格納され、プロセッサにより実行されることができる。メモリは、プロセッサの内部または外部にあり、よく知られた多様な手段でプロセッサと連結されることができる。プロセッサは、ＡＳＩＣ（ａｐｐｌｉｃａｔｉｏｎ－ｓｐｅｃｉｆｉｃ ｉｎｔｅｇｒａｔｅｄ ｃｉｒｃｕｉｔ）、他のチップセット、論理回路及び／またはデータ処理装置を含むことができる。メモリは、ＲＯＭ（ｒｅａｄ－ｏｎｌｙ ｍｅｍｏｒｙ）、ＲＡＭ（ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ）、フラッシュメモリ、メモリカード、格納媒体及び／または他の格納装置を含むことができる。即ち、本発明で説明した実施例は、プロセッサ、マイクロプロセッサ、コントローラまたはチップ上で具現されて実行されることができる。例えば、各図面で示す機能ユニットは、コンピュータ、プロセッサ、マイクロプロセッサ、コントローラまたはチップ上で具現されて実行されることができる。この場合、具現のための情報（例えば、ｉｎｆｏｒｍａｔｉｏｎ ｏｎ ｉｎｓｔｒｕｃｔｉｏｎｓ）またはアルゴリズムがデジタル格納媒体に格納されることができる。

また、本発明が適用されるデコーディング装置及びエンコーディング装置は、マルチメディア放送送受信装置、モバイル通信端末、ホームシネマビデオ装置、デジタルシネマビデオ装置、監視用カメラ、ビデオ対話装置、ビデオ通信のようなリアルタイム通信装置、モバイルストリーミング装置、格納媒体、カムコーダ、注文型ビデオ（ＶｏＤ）サービス提供装置、ＯＴＴビデオ（Ｏｖｅｒ ｔｈｅ ｔｏｐ ｖｉｄｅｏ）装置、インターネットストリーミングサービス提供装置、３次元（３Ｄ）ビデオ装置、ＶＲ（ｖｉｒｔｕａｌ ｒｅａｌｉｔｙ）装置、ＡＲ（ａｒｇｕｍｅｎｔｅ ｒｅａｌｉｔｙ）装置、画像電話ビデオ装置、運送手段端末（例えば、車両（自律走行車両を含む）端末、飛行機端末、船舶端末等）及び医療用ビデオ装置などに含まれることができ、ビデオ信号またはデータ信号を処理するために使われることができる。例えば、ＯＴＴビデオ（Ｏｖｅｒ ｔｈｅ ｔｏｐ ｖｉｄｅｏ）装置として、ゲームコンソール、ブルーレイプレイヤ、インターネット接続ＴＶ、ホームシアターシステム、スマートフォン、タブレットＰＣ、ＤＶＲ（Ｄｉｇｉｔａｌ Ｖｉｄｅｏ Ｒｅｃｏｄｅｒ）などを含むことができる。

また、本発明が適用される処理方法は、コンピュータで実行されるプログラムの形態で生産されることができ、コンピュータが読み取りできる記録媒体に格納されることができる。また、本発明によるデータ構造を有するマルチメディアデータもコンピュータが読み取りできる記録媒体に格納されることができる。前記コンピュータが読み取りできる記録媒体は、コンピュータで読み取ることができるデータが格納される全ての種類の格納装置及び分散格納装置を含む。前記コンピュータが読み取りできる記録媒体は、例えば、ブルーレイディスク（ＢＤ）、汎用直列バス（ＵＳＢ）、ＲＯＭ、ＰＲＯＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、ＲＡＭ、ＣＤ－ＲＯＭ、磁気テープ、フロッピーディスク、及び光学的データ格納装置を含むことができる。また、前記コンピュータが読み取りできる記録媒体は、搬送波（例えば、インターネットを介する送信）の形態で具現されたメディアを含む。また、エンコーディング方法により生成されたビットストリームがコンピュータが読み取りできる記録媒体に格納され、または有無線通信ネットワークを介して送信されることができる。

また、本発明の実施例は、プログラムコードによるコンピュータプログラム製品で具現されることができ、前記プログラムコードは、本発明の実施例によりコンピュータで実行されることができる。前記プログラムコードは、コンピュータにより読み取り可能なキャリア上に格納されることができる。

図２２は、本文書で開示された発明が適用されることができるコンテンツストリーミングシステムの例を示す。

図２２を参照すると、本発明が適用されるコンテンツストリーミングシステムは、大きく、エンコーディングサーバ、ストリーミングサーバ、ウェブサーバ、メディア格納所、ユーザ装置、及びマルチメディア入力装置を含むことができる。

前記エンコーディングサーバは、スマートフォン、カメラ、カムコーダなどのようなマルチメディア入力装置から入力されたコンテンツをデジタルデータで圧縮してビットストリームを生成し、これを前記ストリーミングサーバに送信する役割をする。他の例として、スマートフォン、カメラ、カムコーダなどのようなマルチメディア入力装置がビットストリームを直接生成する場合、前記エンコーディングサーバは省略されることができる。

前記ビットストリームは、本発明が適用されるエンコーディング方法またはビットストリーム生成方法により生成されることができ、前記ストリーミングサーバは、前記ビットストリームを送信または受信する過程で一時的に前記ビットストリームを格納することができる。

前記ストリーミングサーバは、ウェブサーバを介するユーザ要求に基づいてマルチメディアデータをユーザ装置に送信し、前記ウェブサーバは、ユーザにどのようなサービスがあるかを知らせる媒介体役割をする。ユーザが前記ウェブサーバに所望のサービスを要求すると、前記ウェブサーバは、これをストリーミングサーバに伝達し、前記ストリーミングサーバは、ユーザにマルチメディアデータを送信する。このとき、前記コンテンツストリーミングシステムは、別途の制御サーバを含むことができ、この場合、前記制御サーバは、前記コンテンツストリーミングシステム内の各装置間の命令／応答を制御する役割をする。

前記ストリーミングサーバは、メディア格納所及び／またはエンコーディングサーバからコンテンツを受信することができる。例えば、前記エンコーディングサーバからコンテンツを受信するようになる場合、前記コンテンツをリアルタイムで受信することができる。この場合、円滑なストリーミングサービスを提供するために、前記ストリーミングサーバは、前記ビットストリームを一定時間の間に格納することができる。

前記ユーザ装置の例として、携帯電話、スマートフォン（ｓｍａｒｔｐｈｏｎｅ）、ノートブックコンピュータ（ｌａｐｔｏｐ ｃｏｍｐｕｔｅｒ）、デジタル放送用端末、ＰＤＡ（ｐｅｒｓｏｎａｌ ｄｉｇｉｔａｌ ａｓｓｉｓｔａｎｔｓ）、ＰＭＰ（ｐｏｒｔａｂｌｅ ｍｕｌｔｉｍｅｄｉａ ｐｌａｙｅｒ）、ナビゲーション、スレートＰＣ（ｓｌａｔｅ ＰＣ）、タブレットＰＣ（ｔａｂｌｅｔ ＰＣ）、ウルトラブック（ｕｌｔｒａｂｏｏｋ）、ウェアラブルデバイス（ｗｅａｒａｂｌｅ ｄｅｖｉｃｅ、例えば、ウォッチ型端末（ｓｍａｒｔｗａｔｃｈ）、グラス型端末（ｓｍａｒｔ ｇｌａｓｓ）、ＨＭＤ（ｈｅａｄ ｍｏｕｎｔｅｄ ｄｉｓｐｌａｙ））、デジタルＴＶ、デスクトップコンピュータ、デジタルサイニジなどがある。

前記コンテンツストリーミングシステム内の各サーバは、分散サーバとして運営されることができ、この場合、各サーバで受信するデータは分散処理されることができる。

Claims (3)

1. デコーディング装置により実行される映像デコーディング方法において、
   現在ブロックに対するＨＭＶＰ（ｈｉｓｔｏｒｙ－ｂａｓｅｄ ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ）バッファを導出するステップと、
   前記現在ブロックに対するマージ候補リストを構成するためのマージ候補を導出するステップであって、前記マージ候補は空間的候補ブロック（ｓｐａｃｉａｌ ｃａｎｄｉｄａｔｅ ｂｌｏｃｋｓ）に基づいて導出された空間的候補と時間的候補ブロック（ｔｅｍｐｏｒａｌ ｃａｎｄｉｄａｔｅ ｂｌｏｃｋｓ）に基づいて導出された時間的候補とを含み、前記ＨＭＶＰバッファに含まれるＨＭＶＰ候補は前記マージ候補リストのマージ候補として挿入され、前記ＨＭＶＰ候補は前記マージ候補リストにおいて前記時間的候補の後に挿入される、ステップと、
   前記マージ候補リストの中の前記ＨＭＶＰ候補に基づいて前記現在ブロックの動き情報を導出するステップと、
   前記動き情報に基づいて前記現在ブロックに対する予測サンプルを生成するステップと、
   前記予測サンプルに基づいて復元サンプルを生成するステップとを含み、
   前記マージ候補リストに含まれる前記マージ候補の中の前記ＨＭＶＰ候補は、ビットストリームから取得されたマージインデックスに基づいて示され、
   前記現在ブロックは、コーディングトリーユニット（ＣＴＵ）から分離されるコーディングユニット（ＣＵ）と関連し、
   現在ピクチャに含まれるスライスは１つ以上のＣＴＵ行を含み、
   前記ＨＭＶＰバッファは、前記スライスのＣＴＵ行毎の１番目のＣＴＵで初期化される、映像デコーディング方法。
2. エンコーディング装置により実行される映像エンコーディング方法において、
   現在ブロックに対するＨＭＶＰ（ｈｉｓｔｏｒｙ－ｂａｓｅｄ ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ）バッファを導出するステップと、
   前記現在ブロックに対するマージ候補リストを構成するためのマージ候補を導出するステップであって、前記マージ候補は空間的候補ブロック（ｓｐａｃｉａｌ ｃａｎｄｉｄａｔｅ ｂｌｏｃｋｓ）に基づいて導出された空間的候補と時間的候補ブロック（ｔｅｍｐｏｒａｌ ｃａｎｄｉｄａｔｅ ｂｌｏｃｋｓ）に基づいて導出された時間的候補とを含み、前記ＨＭＶＰバッファに含まれるＨＭＶＰ候補は前記マージ候補リストのマージ候補として挿入され、前記ＨＭＶＰ候補は前記マージ候補リストにおいて前記時間的候補の後に挿入される、ステップと、
   前記マージ候補リストの前記ＨＭＶＰ候補に基づいて前記現在ブロックの動き情報を導出するステップと、
   前記動き情報に基づいて前記現在ブロックに対する予測サンプルを生成するステップと、
   前記予測サンプルに基づいてレジデュアルサンプルを導出するステップと、
   前記レジデュアルサンプルについての情報を含む映像情報をエンコーディングするステップとを含み、
   前記映像情報は、前記マージ候補リストに含まれる前記マージ候補の中の前記ＨＭＶＰ候補を示すマージインデックスを含み、
   前記現在ブロックは、コーディングトリーユニット（ＣＴＵ）から分離されるコーディングユニット（ＣＵ）と関連し、
   現在ピクチャに含まれるスライスは１つ以上のＣＴＵ行を含み、
   前記ＨＭＶＰバッファは、前記スライスのＣＴＵ行毎の１番目のＣＴＵで初期化される、映像エンコーディング方法。
3. 映像に対するデータの送信方法であって、
   ビットストリームを取得するステップであって、前記ビットストリームは、現在ブロックに対するＨＭＶＰ（ｈｉｓｔｏｒｙ－ｂａｓｅｄ ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｉｏｎ）バッファを導出し、前記現在ブロックに対するマージ候補リストを構成するためのマージ候補を導出し、前記マージ候補は空間的候補ブロック（ｓｐａｃｉａｌ ｃａｎｄｉｄａｔｅ ｂｌｏｃｋｓ）に基づいて導出された空間的候補と時間的候補ブロック（ｔｅｍｐｏｒａｌ ｃａｎｄｉｄａｔｅ ｂｌｏｃｋｓ）に基づいて導出された時間的候補とを含み、前記ＨＭＶＰバッファに含まれるＨＭＶＰ候補は前記マージ候補リストのマージ候補として挿入され、前記ＨＭＶＰ候補は前記マージ候補リストにおいて前記時間的候補の後に挿入され、前記マージ候補リストの前記ＨＭＶＰ候補に基づいて前記現在ブロックの動き情報を導出し、前記動き情報に基づいて前記現在ブロックに対する予測サンプルを生成し、前記予測サンプルに基づいてレジデュアルサンプルを導出し、前記レジデュアルサンプルについての情報を含む映像情報をエンコーディングすることにより前記ビットストリームを生成することを実行して生成される、ステップと、
   前記ビットストリームを含む前記データを送信するステップとを含み、
   前記映像情報は、前記マージ候補リストに含まれる前記マージ候補の中の前記ＨＭＶＰ候補を示すマージインデックスを含み、
   前記現在ブロックは、コーディングトリーユニット（ＣＴＵ）から分離されるコーディングユニット（ＣＵ）と関連し、
   現在ピクチャに含まれるスライスは１つ以上のＣＴＵ行を含み、
   前記ＨＭＶＰバッファは、前記スライスのＣＴＵ行毎の１番目のＣＴＵで初期化される、送信方法。

Images