JP2018506905A5 - - Google Patents

Claims (15)

1. ビデオデータを復号する方法であって、
   複数の予測モードのうちの1つに従ってコーディングされるビデオブロックに関連する現在の係数ブロックを変換するために複数の変換部分集合を判定するステップであって、前記予測モードは、複数のイントラ予測モードおよび複数のインター予測モードを含み、各部分集合は1つまたは複数の候補変換を識別し、少なくとも1つの変換部分集合は複数の候補変換を識別し、前記複数の変換部分集合を判定するステップは、前記イントラ予測モードのそれぞれに関する前記複数の変換部分集合のうちの第1の同一の変換部分集合または前記インター予測モードのそれぞれに関する前記複数の変換部分集合のうちの第2の同一の変換部分集合のいずれかを判定するステップを含む、判定するステップと、
   前記ビデオデータの前記現在の係数ブロックの左変換に関する第1の変換部分集合を前記判定された複数の変換部分集合から選択するステップと、
   前記ビデオデータの前記現在の係数ブロックの右変換に関する第2の変換部分集合を前記判定された複数の変換部分集合から選択するステップと、
   前記選択された第1の変換部分集合から前記左変換を判定するステップと、
   前記選択された第2の変換部分集合から前記右変換を判定するステップと、
   前記左変換、前記右変換、および前記現在の係数ブロックに基づいて現在の変換ブロックを判定するステップと、
   前記現在の変換ブロックおよび予測ブロックに基づいて前記ビデオブロックを再構成するステップと、
   を含む、方法。
2. 前記第1の変換部分集合または前記第2の変換部分集合のうちの少なくとも1つは、離散コサイン変換(DCT)-II変換および離散サイン変換(DST)-VII変換とは異なる、離散コサイン変換(DCT)または離散サイン変換(DST)を備える変換を含む、
   請求項1に記載の方法。
3. 選択されたイントラ予測モードに基づいて、前記第1の変換部分集合および前記第2の変換部分集合から分離可能な変換の水平変換および垂直変換を選択するステップ
   をさらに備える、請求項1または2に記載の方法。
4. 前記現在の係数ブロックに関連する変換サイズを判定するステップであって、前記変換サイズが所定のサイズよりも大きい場合、前記現在の係数ブロックに関連する係数の変換部分集合にのみエントロピーコーディングする、ステップ
   をさらに備える、請求項1から3のいずれか一項に記載の方法。
5. ビデオデータを符号化する方法であって、
   複数の予測モードのうちの1つに従ってコーディングされるビデオブロックに関連する現在の係数ブロックを変換するために複数の変換部分集合を判定するステップであって、前記予測モードは、複数のイントラ予測モードおよび複数のインター予測モードを含み、各部分集合は1つまたは複数の候補変換を識別し、少なくとも1つの変換部分集合は複数の候補変換を識別し、前記複数の変換部分集合を判定するステップは、前記イントラ予測モードのそれぞれに関する前記複数の変換部分集合のうちの第1の同一の変換部分集合または前記インター予測モードのそれぞれに関する前記複数の変換部分集合のうちの第2の同一の変換部分集合のいずれかを判定するステップを含む、判定するステップと、
   前記ビデオデータの前記ビデオブロックの前記現在の変換ブロックの左変換に関する第1の変換部分集合を前記判定された複数の変換部分集合から選択するステップと、
   前記ビデオデータの前記ビデオブロックの前記現在の変換ブロックの右変換に関する第2の変換部分集合を前記判定された複数の変換部分集合から選択するステップと、
   前記選択された第1の変換部分集合から前記左変換を判定するステップと、
   前記選択された第2の変換部分集合から前記右変換を判定するステップと、
   前記左変換、前記右変換、および前記現在の変換ブロックに基づいて現在の係数ブロックを判定するステップと、
   前記ビデオブロックの再構成に使用される前記現在の係数ブロックの係数を示す情報を含むビデオビットストリームを生成するステップと、
   を含む、方法。
6. 前記ビデオブロックのイントラ予測モードを判定するステップ
   をさらに含み、前記第1の変換部分集合を選択するステップは、前記判定されたイントラ予測モードに基づいて前記第1の変換部分集合を選択するステップを含み、
   前記第2の変換部分集合を選択するステップは、前記判定されたイントラ予測モードに基づいて前記第2の変換部分集合を選択するステップを含む、
   請求項1または5に記載の方法。
7. 前記ビデオブロックがインター予測符号化されることに基づいて前記ビデオブロック内の前記現在の変換ブロックのロケーションを判定するステップ
   をさらに含み、前記第1の変換部分集合を選択するステップは、前記現在の変換ブロックの前記判定されたロケーションに基づいて前記第1の変換部分集合を選択するステップを含み、
   前記第2の変換部分集合を選択するステップは、前記現在の変換ブロックの前記判定されたロケーションに基づいて前記第2の変換部分集合を選択するステップを含む、
   請求項1または5に記載の方法。
8. 前記現在の係数ブロックを判定するのに使用される前記第1の変換部分集合内の変換を識別するために、前記第1の変換部分集合内への第1の変換部分集合インデックスをビデオビットストリーム内で生成するステップと、
   前記現在の係数ブロックを判定するのに使用される前記第2の変換部分集合内の変換を識別するために、前記第2の変換部分集合内への第2の変換部分集合インデックスを前記ビデオビットストリーム内で生成するステップと、をさらに含み、
   前記方法は、好ましくは、
   前記現在の係数ブロック内の非0係数の個数を判定するステップ
   をさらに含み、前記第1の変換部分集合インデックスをシグナリングするステップは、非0係数の前記個数がしきい値より大きいことに基づいて前記第1の変換部分集合インデックスをシグナリングするステップを含み、
   前記第2の変換部分集合インデックスをシグナリングするステップは、非0係数の前記個数が前記しきい値より大きいことに基づいて前記第2の変換部分集合インデックスをシグナリングするステップを含む、
   請求項1または5に記載の方法。
9. 前記第1の変換部分集合または前記第2の変換部分集合のうちの少なくとも1つは、離散コサイン変換(DCT)-II変換および離散サイン変換(DST)-VII変換とは異なる変換を含む、
   請求項1または5に記載の方法。
10. 前記第1の変換部分集合および前記第2の変換部分集合は、異なる変換タイプを含み、かつ／または、
    前記複数の変換部分集合は、3つ以上の変換部分集合を含み、かつ／または、
    前記候補変換は、異なる変換タイプであり、かつ／または、
    前記複数の変換部分集合を判定するステップは、前記ビデオブロックのサイズに基づいて前記複数の変換部分集合を判定するステップを含む、
    請求項1または5に記載の方法。
11. 予測ブロックを判定するステップと、
    前記予測ブロックに基づいて前記ビデオブロックの予測モードを示す情報をビデオビットストリーム内で生成するステップと
    をさらに含み、
    前記予測ブロックは、好ましくは、前記ビデオブロックがイントラ予測されることに基づいて前記ビデオブロックと同一のピクチャ内のブロック、または前記ビデオブロックがインター予測されることに基づいて前記ビデオブロックを含む前記ピクチャとは異なるピクチャ内のブロックである、
    請求項1または5に記載の方法。
12. 前記ビデオブロックと予測ブロックとの間の残差として前記現在の変換ブロックを判定するステップ
    をさらに含む、請求項1または5に記載の方法。
13. ビデオデータを復号するためのデバイスであって、
    複数の予測モードのうちの1つに従ってコーディングされるビデオブロックに関連する現在の係数ブロックを変換するために複数の変換部分集合を判定するための手段であって、前記予測モードは、複数のイントラ予測モードおよび複数のインター予測モードを含み、各部分集合は1つまたは複数の候補変換を識別し、少なくとも1つの変換部分集合は複数の候補変換を識別し、前記複数の変換部分集合を判定するための前記手段は、前記イントラ予測モードのそれぞれに関する前記複数の変換部分集合のうちの第1の同一の変換部分集合または前記インター予測モードのそれぞれに関する前記複数の変換部分集合のうちの第2の同一の変換部分集合のいずれかを判定するための手段を含む、判定するための手段と、
    前記ビデオデータの前記現在の係数ブロックの左変換に関する第1の変換部分集合を前記判定された複数の変換部分集合から選択するための手段と、
    前記ビデオデータの前記現在の係数ブロックの右変換に関する第2の変換部分集合を前記判定された複数の変換部分集合から選択するための手段と、
    前記選択された第1の変換部分集合から前記左変換を判定するための手段と、
    前記選択された第2の変換部分集合から前記右変換を判定するための手段と、
    前記左変換、前記右変換、および前記現在の係数ブロックに基づいて現在の変換ブロックを判定するための手段と、
    前記現在の変換ブロックおよび予測ブロックに基づいてビデオブロックを再構成するための手段と、
    を含む、デバイス。
14. ビデオデータを符号化するためのデバイスであって、
    複数の予測モードのうちの1つに従ってコーディングされるビデオブロックに関連する現在の係数ブロックを変換するために複数の変換部分集合を判定するための手段であって、前記予測モードは、複数のイントラ予測モードおよび複数のインター予測モードを含み、各部分集合は1つまたは複数の候補変換を識別し、少なくとも1つの変換部分集合は複数の候補変換を識別し、前記複数の変換部分集合を判定するための前記手段は、前記イントラ予測モードのそれぞれに関する前記複数の変換部分集合のうちの第1の同一の変換部分集合または前記インター予測モードのそれぞれに関する前記複数の変換部分集合のうちの第2の同一の変換部分集合のいずれかを判定するための手段を含む、判定するための手段と、
    前記ビデオデータの前記ビデオブロックの前記現在の変換ブロックの左変換に関する第1の変換部分集合を前記判定された複数の変換部分集合から選択するための手段と、
    前記ビデオデータの前記ビデオブロックの前記現在の変換ブロックの右変換に関する第2の変換部分集合を前記判定された複数の変換部分集合から選択するための手段と、
    前記選択された第1の変換部分集合から前記左変換を判定するための手段と、
    前記選択された第2の変換部分集合から前記右変換を判定するための手段と、
    前記左変換、前記右変換、および前記現在の変換ブロックに基づいて現在の係数ブロックを判定するための手段と、
    前記ビデオブロックの再構成に使用される前記現在の係数ブロックの係数を示す情報を含むビデオビットストリームを生成するための手段と、
    を含む、デバイス。
15. 実行された時に、ビデオコーダに、請求項1から12のいずれか一項に記載の方法を実行させる命令を記憶した、
    非一時的コンピュータ可読記憶媒体。