JP5969082B2 - 復号化方法及び復号化装置 - Google Patents

復号化方法及び復号化装置 Download PDF

Info

Publication number
JP5969082B2
JP5969082B2 JP2015087008A JP2015087008A JP5969082B2 JP 5969082 B2 JP5969082 B2 JP 5969082B2 JP 2015087008 A JP2015087008 A JP 2015087008A JP 2015087008 A JP2015087008 A JP 2015087008A JP 5969082 B2 JP5969082 B2 JP 5969082B2
Authority
JP
Japan
Prior art keywords
unit
coding
depth
conversion
pattern information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015087008A
Other languages
English (en)
Other versions
JP2015133761A (ja
Inventor
チョン,ミン−ス
ミン,ジョン−ヘ
ジョン,ヘ−ギョン
キム,イル−グ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2015133761A publication Critical patent/JP2015133761A/ja
Application granted granted Critical
Publication of JP5969082B2 publication Critical patent/JP5969082B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/129Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/18Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a set of transform coefficients
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding
    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K999/00PRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS dummy group
    • H05K999/99PRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS dummy group dummy group
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/147Data rate or code amount at the encoder output according to rate distortion criteria

Description

本発明は、ビデオの符号化及び復号化に関する。
高解像度または高画質のビデオコンテンツを再生、保存することができるハードウェアの開発及び普及によって、高解像度または高画質のビデオコンテンツを効果的に符号化したり復号化するビデオコーデックの必要性が増大している。既存のビデオコーデックによれば、ビデオは、所定サイズのマクロブロックに基づいて、制限された符号化方式によって符号化されている。
ビデオコーデックで、ブロックの変換係数が伝送されたか否かを示すために、符号化ブロックパターンが利用される。ブロックのテクスチャは、ブロックが0ではない変換係数を含むか否かということと関連が深い。従って、符号化ブロックパターンは、ブロックのテクスチャに関する特性を示す。
本発明は、階層的構造の符号化単位及びデータ単位を考慮して設定されて読み取られるパターン情報を利用するビデオ符号化及び復号化を提供するものである。
本発明の一実施形態による階層的データ単位のパターン情報を利用するビデオ符号化方法は、ピクチャを符号化するためのデータ単位として、最大サイズの最大符号化単位より小さい符号化単位を含む少なくとも1つの最大符号化単位に、前記ピクチャを分割する段階と、前記符号化単位に対して、前記最大符号化単位が、前記符号化単位に分割される回数を示す前記符号化単位の深度によって、少なくとも1つの深度別符号化単位ごとに、変換単位に基づいた変換及び符号化を行い、前記変換単位のサイズについての情報を含む符号化深度の符号化単位に係わる符号化モードを決定し、前記決定された符号化深度の符号化単位を含むツリー構造による符号化単位を決定する段階と、前記最大符号化単位ごとに、前記符号化モードによる最大符号化単位、符号化単位及び変換単位の階層的構造に基づいてテクスチャ関連情報の符号化いかんを示すパターン情報、前記符号化モードについての情報及び符号化されたビデオデータを出力する段階と、を含む。前記決定された符号化深度及び前記決定された符号化モードの符号化単位で、前記ピクチャの最小符号化誤差が生じる。
本発明の一実施形態によるツリー構造による符号化単位は、現在ピクチャの特性を考慮して決定された最大符号化単位のサイズ及び最大深度を基に、それぞれの最大符号化単位ごとに最適の形態及びサイズの符号化単位を決定することができる。また、それぞれの最大符号化単位ごとに、多様な予測モード、変換方式で符号化することができるので、多様な映像サイズの符号化単位の映像特性を考慮し、最適の符号化モードが決定可能である。
階層的構造のパターン情報が決定されて利用され、符号化単位パターン情報の稠密度に基づいてパターン情報が適用されるデータ単位のレベルが選択的に決定されることによって、ビットストリームの伝送効率が向上しうる。
本発明の一実施形態によるビデオ符号化装置のブロック図である。 本発明の一実施形態によるビデオ復号化装置のブロック図である。 本発明の一実施形態による符号化単位の概念を図示する図面である。 本発明の一実施形態による符号化単位に基づいた映像符号化部のブロック図である。 本発明の一実施形態による符号化単位に基づいた映像復号化部のブロック図である。 本発明の一実施形態による深度別符号化単位及び予測単位を図示する図面である。 本発明の一実施形態による、符号化単位及び変換単位の関係を図示する図面である。 本発明の一実施形態による、深度別符号化情報を図示する図面である。 本発明の一実施形態による深度別符号化単位を図示する図面である。 本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。 本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。 本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示する図面である。 本発明の一実施形態による符号化単位別符号化情報を図示する図面である。 本発明の一実施形態によるビデオ符号化方法のフローチャートである。 本発明の一実施形態によるビデオ復号化方法のフローチャートである。 本発明の一実施形態による、階層的データ単位のパターン情報を利用するビデオ符号化装置を図示する図面である。 本発明の一実施形態による、階層的データ単位のパターン情報を利用するビデオ復号化装置を図示する図面である。 本発明の一実施形態による、最大符号化単位及び符号化深度の符号化単位の階層的構造を図示する図面である。 本発明の実施形態によるグループパターン情報を利用した符号化過程のフローチャートである。 本発明の実施形態によるグループパターン情報を利用した符号化過程のフローチャートである。 本発明の実施形態によるグループパターン情報を利用した符号化過程のフローチャートである。 本発明の実施形態によるグループパターン情報を利用した符号化過程のフローチャートである。 本発明の実施形態によるグループパターン情報を利用した符号化過程のフローチャートである。 本発明の実施形態によるグループパターン情報を利用した符号化過程のフローチャートである。 本発明の実施形態による階層的データ単位パターン情報と単一レベルパターン情報との符号化過程のフローチャートを比較した図面である。 本発明の実施形態による階層的データ単位パターン情報と単一レベルパターン情報との符号化過程のフローチャートを比較した図面である。 一実施形態による反転パターン情報の概念を図示する図面である。 多様な実施形態による稠密パターン情報の符号化過程のフローチャートである。 一実施形態による変換インデックスとパターン情報との復号化過程のフローチャートである。 本発明の一実施形態による、階層的データ単位のパターン情報を利用するビデオ符号化方法のフローチャートである。 本発明の一実施形態による、階層的データ単位のパターン情報を利用するビデオ復号化方法のフローチャートである。
本発明の一実施形態による階層的データ単位のパターン情報を利用するビデオ符号化方法は、ピクチャを符号化するためのデータ単位として、最大サイズの最大符号化単位より小さい符号化単位を含む少なくとも1つの最大符号化単位に、前記ピクチャを分割する段階と、前記符号化単位に対して、前記最大符号化単位が、前記符号化単位に分割される回数を示す前記符号化単位の深度によって、少なくとも1つの深度別符号化単位ごとに、変換単位に基づいた変換及び符号化を行い、前記変換単位のサイズについての情報を含む符号化深度の符号化単位に係わる符号化モードを決定し、前記決定された符号化深度の符号化単位を含むツリー構造による符号化単位を決定する段階と、前記最大符号化単位ごとに、前記符号化モードによる最大符号化単位、符号化単位及び変換単位の階層的構造に基づいてテクスチャ関連情報の符号化いかんを示すパターン情報、前記符号化モードについての情報及び符号化されたビデオデータを出力する段階と、を含む。前記決定された符号化深度及び前記決定された符号化モードの符号化単位で、前記ピクチャの最小符号化誤差が生じる。
一実施形態による前記パターン情報は、現在最大符号化単位の前記符号化深度の符号化単位から少なくとも1つの変換単位まで階層的に、下位変換深度の変換単位に係わるテクスチャ関連情報及び符号化単位パターン情報の符号化いかんを示す階層的符号化単位パターン情報を含んでもよい。
一実施形態による前記パターン情報は、前記最大符号化単位のテクスチャ関連情報の符号化いかんを示す最大符号化単位パターン情報をさらに含んでもよい。
一実施形態によって、前記最大符号化単位パターン情報が、前記最大符号化単位のテクスチャ関連情報を符号化するように設定される場合、前記最大符号化単位の符号化深度の符号化単位に係わる階層的符号化単位パターン情報が設定される。
一実施形態による前記階層的符号化単位パターン情報は、前記現在最大符号化単位の前記少なくとも1つの符号化深度の符号化単位において、それぞれの符号化単位ごとに、少なくとも1つの変換深度の変換単位に達するまで設定される。
本発明の一実施形態によって階層的データ単位のパターン情報を利用するビデオ復号化方法は、符号化されたビデオに係わるビットストリームを受信してパージングする段階と、前記パージングされたビットストリームから、最大符号化単位別に、少なくとも1つの符号化深度の符号化単位に係わる符号化モードについての情報、及び前記最大符号化単位別に、前記符号化モードによる最大符号化単位、符号化単位及び変換単位の階層的構造に基づいて、テクスチャ関連情報の符号化いかんを示すパターン情報を抽出し、前記符号化モードについての情報及びパターン情報に基づいて、前記パージングされたビットストリームから、前記最大符号化単位別に符号化されたビデオデータを抽出する段階と、前記符号化モードについての情報に基づいて、前記少なくとも1つの符号化深度の符号化単位別に符号化されたビデオデータを復号化する段階と、を含む。前記ピクチャは、前記少なくとも1つの最大符号化単位から、前記深度別符号化単位に階層的に分割され、前記符号化単位は、前記符号化深度によって独立して分割される。
一実施形態による前記抽出段階は、前記階層的符号化単位パターン情報に基づいて、現在最大符号化単位の前記符号化深度の符号化単位から少なくとも1つの変換単位まで階層的に、下位変換深度の変換単位に係わるテクスチャ関連情報及び符号化単位パターン情報の抽出いかんを決定する段階を含んでもよい。
一実施形態による前記抽出段階は、前記最大符号化単位パターン情報に基づいて、前記最大符号化単位のテクスチャ関連情報の抽出いかんを決定する段階をさらに含んでもよい。
一実施形態による前記抽出段階は、前記最大符号化単位パターン情報に基づいて、前記最大符号化単位の符号化深度の符号化単位の階層的符号化単位パターン情報の抽出いかんを決定する段階をさらに含んでもよい。
本発明の一実施形態によって、階層的データ単位のパターン情報を利用するビデオ符号化装置は、ピクチャを符号化するためのデータ単位として、最大サイズの最大符号化単位より小さい符号化単位を含む少なくとも1つの最大符号化単位に、前記ピクチャを分割する最大符号化単位分割部と、前記符号化単位に対して、前記最大符号化単位が、前記符号化単位に分割される回数を示す前記符号化単位の深度によって、少なくとも1つの深度別符号化単位ごとに、変換単位に基づいた変換及び符号化を行い、前記変換単位のサイズについての情報を含む符号化深度の符号化単位に係わる符号化モードを決定し、前記決定された符号化深度の符号化単位を含むツリー構造による符号化単位を決定する符号化単位及び符号化モード決定部と、前記最大符号化単位ごとに、前記符号化モードによる最大符号化単位、符号化単位及び変換単位の階層的構造に基づいて、テクスチャ関連情報の符号化いかんを示すパターン情報、前記符号化モードについての情報及び符号化されたビデオデータを出力する出力部と、を含み、前記決定された符号化深度及び前記決定された符号化モードの符号化単位で、前記ピクチャの最小符号化誤差が生じる。
本発明の一実施形態による階層的データ単位のパターン情報を利用するビデオ復号化装置は、符号化されたビデオに係わるビットストリームを受信してパージングする受信部と、前記パージングされたビットストリームから、最大符号化単位別に、少なくとも1つの符号化深度の符号化単位に係わる符号化モードについての情報、及び前記最大符号化単位別に、前記符号化モードによる最大符号化単位、符号化単位及び変換単位の階層的構造に基づいて、テクスチャ関連情報の符号化いかんを示すパターン情報を抽出し、前記符号化モードについての情報及びパターン情報に基づいて、前記パージングされたビットストリームから、前記最大符号化単位別に符号化されたビデオデータを抽出するデータ抽出部と、前記符号化モードについての情報に基づいて、前記少なくとも1つの符号化深度の符号化単位別に符号化されたビデオデータを復号化する復号化部と、を含み、前記ピクチャは、前記少なくとも1つの最大符号化単位から、前記深度別符号化単位に階層的に分割され、前記符号化単位は、前記符号化深度によって独立して分割される。
本発明は、一実施形態によって、階層的データ単位のパターン情報を利用するビデオ符号化方法を具現するためのプログラムが記録されたコンピュータで読み取り可能な記録媒体を含む。また、本発明は、一実施形態によって、階層的データ単位のパターン情報を利用するビデオ復号化方法を具現するためのプログラムが記録されたコンピュータで読み取り可能な記録媒体を含む。
以下、図1ないし図28を参照しつつ、本発明の一実施形態によるビデオ符号化装置及びビデオ復号化装置、ビデオ符号化方法及びビデオ復号化方法について説明する。図1ないし図15を参照し、本発明の一実施形態によって、空間的に階層的なデータ単位に基づいたビデオの符号化及びビデオの復号化について説明し、図16ないし図28を参照し、本発明の一実施形態によって、階層的データ単位のパターン情報を利用するビデオの符号化及びビデオの復号化について説明する。
一実施形態で、「単位」は、文脈上サイズの単位でもあり、そうではないこともある。以下、「符号化単位」は、実施形態によって、符号化端で、映像データを符号化するための符号化するデータ単位であり、復号化端で、符号化された映像データを復号化するための符号化されたデータ単位である。また、「符号化深度」は、符号化単位が符号化された深度を示す。
以下、「映像」は、ビデオの静止映像または動映像、すなわち、ビデオそれ自体を意味することができる。
以下、図1ないし図15を参照しつつ、本発明の一実施形態によるビデオ符号化装置及びビデオ復号化装置、ビデオ符号化方法及びビデオ復号化方法について説明する。
一実施形態によるビデオ符号化装置100は、最大符号化単位分割部110、符号化単位決定部120及び出力部130を含む。
最大符号化単位分割部110は、映像の現在ピクチャのための最大サイズの符号化単位である最大符号化単位に基づいて、現在ピクチャを区画することができる。現在ピクチャが最大符号化単位より大きいならば、現在ピクチャの映像データは、少なくとも1つの最大符号化単位に分割されてもよい。一実施形態による最大符号化単位は、サイズ32x32,64x64,128x128,256x256などのデータ単位であり、縦横サイズが2の二乗である正方形のデータ単位であってもよい。映像データは、少なくとも1つの最大符号化単位別に、符号化単位決定部120に出力されてもよい。
一実施形態による符号化単位は、最大サイズ及び深度で特徴づけられる。深度とは、最大符号化単位から、符号化単位が空間的に分割した回数を示し、深度が深くなるほど、深度別符号化単位は、最大符号化単位から最小符号化単位まで分割される。最大符号化単位の深度が最上位深度であり、最小符号化単位が最下位符号化単位であると定義される。最大符号化単位は、深度が深くなるにつれて、深度別符号化単位のサイズは減少するので、上位深度の符号化単位は、複数個の下位深度の符号化単位を含むことができる。
前述のように、符号化単位の最大サイズによって、現在ピクチャの映像データを最大符号化単位に分割し、それぞれの最大符号化単位は、深度別に分割される符号化単位を含む。一実施形態による最大符号化単位は、深度別に分割されるので、最大符号化単位に含まれた空間領域(spatial domain)の映像データが、深度によって階層的に分類されてもよい。
最大符号化単位の高さ及び幅を、階層的に分割することができる総回数を制限する最大深度及び符号化単位の最大サイズがあらかじめ設定されていてもよい。
符号化単位決定部120は、深度ごとに最大符号化単位の領域が分割された少なくとも1つの分割領域を符号化し、少なくとも1つの分割領域別に、最終符号化結果が出力される深度を決定する。すなわち、符号化単位決定部120は、現在ピクチャの最大符号化単位ごとに、深度別符号化単位で映像データを符号化し、最も小さい符号化誤差が生じる深度を選択し、符号化深度として決定する。決定された符号化深度及び最大符号化単位別映像データは、出力部130に出力される。
最大符号化単位内の映像データは、最大深度以下の少なくとも1つの深度によって、深度別符号化単位に基づいて符号化され、それぞれの深度別符号化単位に基づいた符号化結果が比較される。深度別符号化単位の符号化誤差の比較結果、符号化誤差が最も小さい深度が選択される。それぞれの最大化符号化単位ごとに、少なくとも1つの符号化深度が決定される。
最大符号化単位のサイズは、深度が深くなることにより、符号化単位が階層的に分割され、分割されて符号化単位の個数は増加する。また、1つの最大符号化単位に含まれる同じ深度の符号化単位であるとしても、それぞれのデータに係わる符号化誤差を測定し、下位深度への分割いかんが決定される。従って、1つの最大符号化単位に含まれるデータであるとしても、位置によって、深度別符号化誤差が異なるので、位置によって、符号化深度が異なって決定されもする。従って、1つの最大符号化単位について、符号化深度が一つ以上設定され、最大符号化単位のデータは、一つ以上の符号化深度の符号化単位によって、区画される。
従って、一実施形態による符号化単位決定部120は、現在最大符号化単位に含まれるツリー構造による符号化単位が決定される。一実施形態による「ツリー構造による符号化単位」は、現在最大符号化単位に含まれるあらゆる深度別符号化単位において、符号化深度として決定された深度の符号化単位を含む。符号化深度の符号化単位は、最大符号化単位内で同一領域では、深度によって階層的に決定され、他の領域については、独立して決定されてもよい。同様に、現在領域に係わる符号化深度は、他の領域に係わる符号化深度と独立して決定されもする。
一実施形態による最大深度は、最大符号化単位から最小符号化単位までの分割回数と関連した指標である。一実施形態による第1最大深度は、最大符号化単位から最小符号化単位までの総分割回数を示すことができる。一実施形態による第2最大深度は、最大符号化単位から最小符号化単位までの深度レベルの総個数を示すことができる。例えば、最大符号化単位の深度が0であるとするとき、最大符号化単位が1回分割された符号化単位の深度は、1に設定され、2回分割された符号化単位の深度が2に設定される。この場合、最大符号化単位から4回分割された符号化単位が最小符号化単位であるならば、深度0,1,2,3及び4の深度レベルが存在するので、第1最大深度は、4、第2最大深度は、5に設定されてもよい。
最大符号化単位の予測符号化及び変換が遂行される。予測符号化及び変換も同様に、最大符号化単位ごとに、最大深度以下の深度ごとに、深度別符号化単位を基に遂行される。
最大符号化単位が深度別に分割されるたびに、深度別符号化単位の個数が増加するので、深度が深くなることによって生成されるあらゆる深度別符号化単位に対して、予測符号化及び変換を含んだ符号化が遂行されねばならない。以下、説明の便宜のために、少なくとも1つの最大符号化単位のうち、現在深度の符号化単位を基に、予測符号化及び変換について説明する。
一実施形態によるビデオ符号化装置100は、映像データの符号化のためのデータ単位のサイズまたは形態を多様に選択することができる。映像データの符号化のためには、予測符号化、変換、エントロピ符号化などの段階を経るが、あらゆる段階にわたって、同じデータ単位が使われ、段階別にデータ単位が変更されもする。
例えば、ビデオ符号化装置100は、映像データの符号化のための符号化単位だけではなく、符号化単位の映像データの予測符号化を行うために、符号化単位と異なるデータ単位を選択することができる。
最大符号化単位の予測符号化のためには、一実施形態による符号化深度の符号化単位、すなわち、それ以上分割されない符号化単位を基に、予測符号化が遂行される。以下、予測符号化の基盤になるそれ以上分割されない符号化単位を「予測単位」とする。予測単位が分割されたパーティションは、予測単位、並びに予測単位の高さ及び幅のうち少なくとも一つが分割されたデータ単位を含んでもよい。
例えば、サイズ2Nx2N(ただし、Nは、正の整数)の符号化単位が、それ以上分割されない場合、サイズ2Nx2Nの予測単位になり、パーティションのサイズは、2Nx2N、2NxN、Nx2N、NxNなどであってもよい。一実施形態によるパーティションタイプは、予測単位の高さまたは幅が、対称的比率で分割された対称的パーティションだけではなく、1:nまたはn:1のように、非対称的比率で分割されたパーティション、幾何学的な形態に分割されたパーティション、任意的形態のパーティションなどを選択的に含むこともできる。
予測単位の予測モードは、イントラモード、インターモード及びスキップモードのうち少なくとも一つであってもよい。例えば、イントラモード及びインターモードは、2Nx2N,2NxN,Nx2N,NxNサイズのパーティションに対して遂行される。また、スキップモードは、2Nx2Nサイズのパーティションに対してのみ遂行される。符号化単位以内の1つの予測単位ごとに、独立して符号化が遂行され、符号化誤差が最も小さい予測モードが選択されもする。
また、一実施形態によるビデオ符号化装置100は、映像データの符号化のための符号化単位だけではなく、符号化単位と異なるデータ単位を基に、符号化単位の映像データの変換を遂行することができる。
符号化単位の変換のためには、符号化単位より小さいか、あるいは同じであるサイズのデータ単位を基に、変換が行われる。例えば、変換のためのデータ単位は、イントラモードのためのデータ単位及びインターモードのためのデータ単位を含んでもよい。
以下、変換の基盤になるデータ単位は、「変換単位」とする。一実施形態による変換単位についても、符号化単位の高さ及び幅が分割され、変換単位に至るまでの分割回数を示す変換深度が設定される。例えば、サイズ2Nx2Nの現在符号化単位の変換単位が、現在符号化単位とサイズが同じであるサイズ2Nx2Nの変換単位であるならば、変換深度0に設定され、現在符号化単位の高さ及び幅がそれぞれ半分になり、総4^1個に分割されたサイズNxNの変換単位であるならば、変換深度1に、現在符号化単位の高さ及び幅がそれぞれ四分され、総4^2個に分割されたサイズN/2xN/2の変換単位であるならば、変換深度2に設定される。すなわち、変換深度の階層的性格によって、上位変換深度の変換単位が、4個の下位変換深度の変換単位に分割される階層的ツリー構造による変換単位が設定される。
また、符号化単位と類似した方式で、符号化単位内の変換単位も再帰的に、さらに小さいサイズの変換単位に分割されつつ、領域別に独立して決定されもする。従って、一実施形態による符号化単位内で、符号化単位の残差データは、変換深度によって、ツリー構造による変換単位によって区画されもする。
符号化深度別符号化情報は、符号化深度だけではなく、予測関連情報及び変換関連情報が必要である。従って、符号化単位決定部120は、最小符号化誤差を発生させた符号化深度だけではなく、予測単位をパーティションに分割したパーティションタイプ、予測単位別予測モード、変換のための変換単位のサイズなどを決定することができる。
一実施形態による最大符号化単位のツリー構造による符号化単位及びパーティションの決定方式については、図3ないし12を参照して詳細に後述する。
符号化単位決定部120は、深度別符号化単位の符号化誤差をラグランジュの乗数(Lagrangian multiplier)基盤の率歪曲最適化技法(rate-distortion optimization)を利用して測定することができる。
出力部130は、符号化単位決定部120で決定された少なくとも1つの符号化深度に基づいて符号化された最大符号化単位の映像データ、及び深度別符号化モードについての情報をビットストリーム形態で出力する。
符号化された映像データは、映像の残差データの符号化結果であってもよい。
深度別符号化モードについての情報は、符号化深度情報、予測単位のパーティションタイプ情報、予測モード情報、変換単位のサイズ情報などを含んでもよい。
符号化深度情報は、現在深度で符号化せずに、下位深度の符号化単位で符号化するか否かを示す深度別分割情報を利用して定義される。現在符号化単位の現在深度が、符号化深度であるならば、現在符号化単位は、現在深度の符号化単位で符号化されるので、現在深度の分割情報は、それ以上、下位深度に分割されないように定義される。反対に、現在符号化単位の現在深度が、符号化深度ではないならば、下位深度の符号化単位を利用した符号化を試みなければならないので、現在深度の分割情報は、下位深度の符号化単位に分割されるように定義される。
現在深度が符号化深度ではないならば、下位深度の符号化単位に分割された符号化単位に対して符号化が行われる。現在深度の符号化単位内に、下位深度の符号化単位が一つ以上存在するので、それぞれの下位深度の符号化単位ごとに、反復して符号化が行われ、同じ深度の符号化単位ごとに再帰的(recursive)符号化が行われる。
1つの最大符号化単位内に、ツリー構造の符号化単位が決定され、符号化深度の符号化単位ごとに、少なくとも1つの符号化モードについての情報が決定されねばならないので、1つの最大符号化単位については、少なくとも1つの符号化モードについての情報が決定されもする。また、最大符号化単位のデータは、深度によって階層的に区画され、位置別に符号化深度が異なることが可能であるので、データについて、符号化深度及び符号化モードについての情報が設定される。
従って、一実施形態による出力部130は、最大符号化単位に含まれている符号化単位、予測単位及び最小単位のうち少なくとも一つに対して、当該符号化深度及び符号化モードについての符号化情報を割り当てることができる。
一実施形態による最小単位は、最下位符号化深度の最小符号化単位が4分割されたサイズの正方形のデータ単位である。一実施形態による最小単位は、最大符号化単位に含まれるあらゆる符号化単位、予測単位、パーティション単位及び変換単位の中に含まれる最大サイズの正方形データ単位であってもよい。
例えば、出力部130を介して出力される符号化情報は、深度別符号化単位別符号化情報と予測単位別符号化情報とに分類されてもよい。深度別符号化単位別符号化情報は、予測モード情報、パーティションサイズ情報を含んでもよい。予測単位別に伝送される符号化情報は、インターモードの推定方向についての情報、インターモードの参照映像インデックスについての情報、動きベクトルについての情報、イントラモードのクロマ成分についての情報、イントラモードの補間方式についての情報などを含んでもよい。また、ピクチャ、スライスまたはGOP別に定義される符号化単位の最大サイズについての情報、及び最大深度についての情報は、ビットストリームのヘッダに挿入される。
ビデオ符号化装置100の最も簡単な形態の実施形態によれば、深度別符号化単位は、1階層上位深度の符号化単位の高さ及び幅を半分にしたサイズの符号化単位である。すなわち、現在深度の符号化単位のサイズが2Nx2Nであるならば、下位深度の符号化単位のサイズは、NxNである。また、2Nx2Nサイズの現在符号化単位は、NxNサイズの下位深度符号化単位を最大4個含むことができる。
従って、一実施形態によるビデオ復号化装置100は、現在ピクチャの特性を考慮して決定された最大符号化単位のサイズ及び最大深度を基に、それぞれの最大符号化単位ごとに最適の形態及びサイズの符号化単位を決定し、ツリー構造による符号化単位を構成することができる。また、それぞれの最大符号化単位ごとに、多様な予測モード、変換方式で符号化することができるので、多様な映像サイズの符号化単位の映像特性を考慮し、最適の符号化モードが決定されもする。
従って、映像の解像度が非常に高いか、あるいはデータ量が非常に大きい映像を、既存マクロブロック単位で符号化するならば、ピクチャ当たりマクロブロックの数が過度に多くなる。これにより、マクロブロックごとに生成される圧縮情報も多くなるので、圧縮情報の伝送負担が大きくなり、データ圧縮効率が低下する傾向がある。従って、一実施形態によるビデオ符号化装置は、映像のサイズを考慮して符号化単位の最大サイズを増大させつつ、映像特性を考慮して符号化単位を調節することができるので、映像圧縮効率が上昇する。
図2は、本発明の一実施形態によるビデオ復号化装置のブロック図を図示している。
一実施形態によるビデオ復号化装置200は、受信部210、映像データ及び符号化情報抽出部220及び映像データ復号化部230を含む。一実施形態によるビデオ復号化装置200の各種プロセシングのための符号化単位、深度、予測単位、変換単位、各種符号化モードについての情報などの各種用語の定義は、図1及びビデオ符号化装置100を参照して説明したところと同一である。
受信部210は、符号化されたビデオに係わるビットストリームを受信してパージングする。映像データ及び符号化情報抽出部220は、パージングされたビットストリームから、最大符号化単位別に、ツリー構造による符号化単位によって、符号化単位ごとに符号化された映像データを抽出し、映像データ復号化部230に出力する。映像データ及び符号化情報抽出部220は、現在ピクチャに係わるヘッダから、現在ピクチャの符号化単位の最大サイズについての情報を抽出することができる。
また、映像データ及び符号化情報抽出部220は、パージングされたビットストリームから、最大符号化単位別に、ツリー構造による符号化単位に係わる符号化深度及び符号化モードについての情報を抽出する。抽出された符号化深度及び符号化モードについての情報は、映像データ復号化部230に出力される。すなわち、ビット列の映像データを最大符号化単位に分割し、映像データ復号化部230が最大符号化単位ごとに映像データを復号化する。
最大符号化単位別符号化深度及び符号化モードについての情報は、一つ以上の符号化深度情報について設定することができ、符号化深度別符号化モードについての情報は、当該符号化単位のパーティションタイプ情報、予測モード情報及び変換単位のサイズ情報などを含んでもよい。また、符号化深度情報として、深度別分割情報が抽出されもする。
映像データ及び符号化情報抽出部220が抽出した最大符号化単位別符号化深度及び符号化モードについての情報は、一実施形態によるビデオ符号化装置100のように、符号化端で、最大符号化単位別深度別符号化単位ごとに反復して符号化を遂行し、最小符号化誤差を発生させると決定された符号化深度及び符号化モードについての情報である。従って、ビデオ復号化装置200は、最小符号化誤差を発生させる符号化方式によって、データを復号化して映像を復元することができる。
一実施形態による符号化深度及び符号化モードについての符号化情報は、当該符号化単位、予測単位及び最小単位のうち、所定データ単位に対して割り当てられていので、映像データ及び符号化情報抽出部220は、所定データ単位別に、符号化深度及び符号化モードについての情報を抽出することができる。所定データ単位別に、当該最大符号化単位の符号化深度及び符号化モードについての情報が記録されているならば、同じ符号化深度及び符号化モードについての情報を有している所定データ単位は、同じ最大符号化単位に含まれるデータ単位であると類推することができる。
映像データ復号化部230は、最大符号化単位別符号化深度及び符号化モードについての情報に基づいて、それぞれの最大符号化単位の映像データを復号化し、現在ピクチャを復元する。すなわち、映像データ復号化部230は、最大符号化単位に含まれるツリー構造による符号化単位内でそれぞれの符号化単位ごとに、読み取られたパーティションタイプ、予測モード、変換単位に基づいて、符号化された映像データを復号化することができる。復号化過程は、イントラ予測及び動き補償を含む予測過程、及び逆変換過程を含んでもよい。
映像データ復号化部230は、符号化深度別符号化単位の予測単位のパーティションタイプ情報及び予測モード情報に基づいて、符号化単位ごとにそれぞれのパーティション及び予測モードによって、イントラ予測または動き補償を遂行することができる。
また、映像データ復号化部230は、最大符号化単位別逆変換のために、符号化深度別符号化単位の変換単位のサイズ情報に基づいて、符号化単位ごとに、それぞれの変換単位によって、逆変換を遂行することができる。
映像データ復号化部230は、深度別分割情報を利用し、現在最大符号化単位の符号化深度を決定することができる。もし分割情報が現在深度で、それ以上分割されないということを示しているならば、現在深度が符号化深度である。従って、映像データ復号化部230は、現在最大符号化単位の映像データについて、現在深度の符号化単位を、予測単位のパーティションタイプ、予測モード及び変換単位サイズ情報を利用し、復号化することができる。
すなわち、符号化単位、予測単位及び最小単位のうち、所定データ単位について設定されている符号化情報を観察し、同じ分割情報を含んだ符号化情報を保有しているデータ単位が集まり、映像データ復号化部230によって、同じ符号化モードで復号化する1つのデータ単位と見なされる。
一実施形態によるビデオ復号化装置200は、符号化過程で、最大符号化単位ごとに、再帰的に符号化を行い、最小符号化誤差を発生させた符号化単位に係わる情報を獲得し、現在ピクチャに係わる復号化に利用することができる。すなわち、最大符号化単位ごとに、最適符号化単位として決定されたツリー構造による符号化単位の符号化された映像データの復号化が可能になる。
従って、高い解像度の映像またはデータ量が過度に多い映像でも、符号化端から伝送された最適符号化モードについての情報を利用し、映像の特性に適応的に決定された符号化単位のサイズ及び符号化モードによって、効率的に映像データを復号化して復元することができる。
以下、図3ないし図13を参照し、本発明の一実施形態によるツリー構造による符号化単位、予測単位及び変換単位の決定方式について説明する。
図3は、階層的符号化単位の概念を図示している。
符号化単位の例は、符号化単位のサイズは、幅x高さで表現され、サイズ64x64である符号化単位から、32x32、16x16、8x8を含んでもよい。サイズ64x64の符号化単位は、サイズ64x64,64x32,32x64,32x32のパーティションに分割され、サイズ32x32の符号化単位は、サイズ32x32,32x16,16x32,16x16のパーティションに、サイズ16x16の符号化単位は、サイズ16x16,16x8,8x16,8x8のパーティションに、サイズ8x8の符号化単位は、サイズ8x8,8x4,4x8,4x4のパーティションに分割されてもよい。
ビデオデータ310については、解像度が1920x1080、符号化単位の最大サイズが64、最大深度が2に設定されている。ビデオデータ320については、解像度が1920x1080、符号化単位の最大サイズが64、最大深度が3に設定されている。ビデオデータ330については、解像度が352x288、符号化単位の最大サイズが16、最大深度が1に設定されている。図3に図示された最大深度は、最大符号化単位から最小符号化単位までの総分割回数を示す。
解像度が高かったり、あるいはデータ量が多い場合、符号化効率の向上だけではなく、映像特性を正確に反映するために、符号化サイズの最大サイズが相対的に大きいことが望ましい。従って、ビデオデータ330に比べて、解像度が高いビデオデータ310,320は、符号化サイズの最大サイズが64に選択されてもよい。
ビデオデータ310の最大深度はが2であるから、ビデオデータ310の符号化単位315は、長軸サイズが64である最大符号化単位から、2回分割して深度が2階層深くなり、長軸サイズが32,16である符号化単位まで含んでもよい。一方、ビデオデータ330の最大深度が1であるから、ビデオデータ330の符号化単位335は、長軸サイズが16である符号化単位から、1回分割して深度が1階層深くなり、長軸サイズが8である符号化単位まで含んでもよい。
ビデオデータ320の最大深度が3であるから、ビデオデータ320の符号化単位325は、長軸サイズが64の最大符号化単位から、3回分割して深度が3階層深くなり、長軸サイズが32,16,8である符号化単位まで含んでもよい。深度が深くなるほど、細部情報の表現能力が向上しうる。
図4は、本発明の一実施形態による符号化単位に基づいた映像符号化部のブロック図を図示している。
一実施形態による映像符号化部400は、ビデオ符号化装置100の符号化単位決定部120で、映像データを符号化するのに経る作業を含む。すなわち、イントラ予測部410は、現在フレーム405において、イントラモードの符号化単位に対してイントラ予測を行い、動き推定部420及び動き補償部425は、インターモードの現在フレーム405及び参照フレーム495を利用し、インター推定及び動き補償を遂行する。
イントラ予測部410、動き推定部420及び動き補償部425から出力されたデータは、変換部430及び量子化部440を経て、量子化された変換係数として出力される。量子化された変換係数は、逆量子化部460、逆変換部470を介して、空間領域のデータとして復元され、復元された空間領域のデータは、デブロッキング部480及びループフィルタリング部490を経て後処理され、参照フレーム495として出力される。量子化された変換係数は、エントロピ符号化部450を経て、ビットストリーム455として出力されてもよい。
一実施形態によるビデオ符号化装置100に適用されるためには、映像符号化部400の構成要素であるイントラ予測部410、動き推定部420、動き補償部425、変換部430、量子化部440、エントロピ符号化部450、逆量子化部460、逆変換部470、デブロッキング部480及びループフィルタリング部490が、いずれも最大符号化単位ごとに、最大深度を考慮し、ツリー構造による符号化単位のうち、それぞれの符号化単位に基づいた作業を遂行せねばならない。
特に、イントラ予測部410、動き推定部420及び動き補償部425は、現在最大符号化単位の最大サイズ及び最大深度を考慮し、ツリー構造による符号化単位のうち、それぞれの符号化単位のパーティション及び予測モードを決定し、変換部430は、ツリー構造による符号化単位のうち、それぞれの符号化単位内の変換単位のサイズを決定せねばならない。
図5は、本発明の一実施形態による符号化単位に基づいた映像復号化部のブロック図を図示している。
ビットストリーム505が、パージング部510を経て、復号化対象である符号化された映像データ及び復号化のために必要な符号化についての情報がパージングされる。符号化された映像データは、エントロピ復号化部520及び逆量子化部530を経て、逆量子化されたデータとして出力され、逆変換部540を経て、空間領域の映像データが復元される。
空間領域の映像データについて、イントラ予測部550は、イントラモードの符号化単位に対してイントラ予測を行い、動き補償部560は、参照フレーム585を共に利用し、インターモードの符号化単位に対して動き補償を遂行する。
イントラ予測部550及び動き補償部560を経た空間領域のデータは、デブロッキング部570及びループフィルタリング部580を経て後処理され、復元フレーム595として出力されてもよい。また、デブロッキング部570及びループフィルタリング部580を経て後処理されたデータは、参照フレーム585として出力されてもよい。
ビデオ復号化装置200の映像データ復号化部230で映像データを復号化するために、一実施形態による映像復号化部500のパージング部510後の段階別作業が行われる。
一実施形態によるビデオ復号化装置200に適用されるためには、映像復号化部400の構成要素であるパージング部510、エントロピ復号化部520、逆量子化部530、逆変換部540、イントラ予測部550、動き補償部560、デブロッキング部570及びループフィルタリング部580がいずれも、最大符号化単位ごとに、ツリー構造による符号化単位に基づいて作業を遂行せねばならない。
特に、イントラ予測部550、動き補償部560は、ツリー構造によるそれぞれの符号化単位ごとに、パーティション及び予測モードを決定し、逆変換部540は、符号化単位ごとに、変換単位のサイズを決定せねばならない。
図6は、本発明の一実施形態による深度別符号化単位及びパーティションを図示している。
一実施形態によるビデオ符号化装置100及び一実施形態によるビデオ復号化装置200は、映像特性を考慮するために、階層的な符号化単位を使用する。符号化単位の最大高さ及び幅、最大深度は、映像の特性によって適応的に決定され、ユーザの要求によって、多様に設定されもする。あらかじめ設定された符号化単位の最大サイズによって、深度別符号化単位のサイズが決定されもする。
一実施形態による符号化単位の階層構造600は、符号化単位の最大高さ及び幅が64であり、最大深度が4である場合を図示している。一実施形態による符号化単位の階層構造600の縦軸に沿って深度が深くなるので、深度別符号化単位の高さ及び幅がそれぞれ分割される。また、符号化単位の階層構造600の横軸に沿って、それぞれの深度別符号化単位の予測符号化の基盤になる予測単位及びパーティションが図示されている。
すなわち、符号化単位610は、符号化単位の階層構造600において最大符号化単位であり、深度が0であり、符号化単位のサイズ、すなわち、高さ及び幅が64x64である。縦軸に沿って深度が深くなり、サイズ32x32である深度1の符号化単位620、サイズ16x16である深度2の符号化単位630、サイズ8x8である深度3の符号化単位640、サイズ4x4である深度4の符号化単位650が存在する。サイズ4x4である深度4の符号化単位650は、最小符号化単位である。
それぞれの深度別に横軸に沿って、符号化単位の予測単位及びパーティションが配列される。すなわち、深度0のサイズ64x64の符号化単位610が予測単位であるならば、予測単位は、サイズ64x64の符号化単位610に含まれるサイズ64x64のパーティション610、サイズ64x32のパーティション612、サイズ32x64のパーティション614、サイズ32x32のパーティション616に分割されてもよい。
同様に、深度1のサイズ32x32の符号化単位620の予測単位は、サイズ32x32の符号化単位620に含まれるサイズ32x32のパーティション620、サイズ32x16のパーティション622、サイズ16x32のパーティション624、サイズ16x16のパーティション626に分割されてもよい。
同様に、深度2のサイズ16x16の符号化単位630の予測単位は、サイズ16x16の符号化単位630に含まれるサイズ16x16のパーティション630、サイズ16x8のパーティション632、サイズ8x16のパーティション634、サイズ8x8のパーティション636に分割されてもよい。
同様に、深度3のサイズ8x8の符号化単位640の予測単位は、サイズ8x8の符号化単位640に含まれるサイズ8x8のパーティション640、サイズ8x4のパーティション642、サイズ4x8のパーティション644、サイズ4x4のパーティション646に分割されてもよい。
最後に、深度4のサイズ4x4の符号化単位650は、最小符号化単位であり最下位深度の符号化単位であり、当該予測単位も、サイズ4x4のパーティション650にのみ設定される。
一実施形態によるビデオ符号化装置100の符号化単位決定部120は、最大符号化単位610の符号化深度を決定するために、最大符号化単位610に含まれるそれぞれの深度の符号化単位ごとに符号化を遂行せねばならない。
同じ範囲及びサイズのデータを含むための深度別符号化単位の個数は、深度が深くなるほど、深度別符号化単位の個数も増加する。例えば、深度1の符号化単位1個を含むデータに対し、深度2の符号化単位は、4個が必要である。従って、同じデータの符号化結果を深度別に比較するために、1個の深度1の符号化単位及び4個の深度2の符号化単位を利用してそれぞれ符号化されねばならない。
それぞれの深度別符号化のためには、符号化単位の階層構造600の横軸に沿って、深度別符号化単位の予測単位ごとに符号化を行い、当該深度で、最も小さい符号化誤差である代表符号化誤差が選択される。また、符号化単位の階層構造600の縦軸に沿って深度が深くなり、それぞれの深度ごとに符号化を行い、深度別代表符号化誤差を比較し、最小符号化誤差が検索される。最大符号化単位610において、最小符号化誤差が生じる深度及びパーティションが、最大符号化単位610の符号化深度及びパーティションタイプとして選択されてもよい。
図7は、本発明の一実施形態による、符号化単位及び変換単位の関係を図示している。
一実施形態によるビデオ符号化装置100、または一実施形態によるビデオ復号化装置200は、最大符号化単位ごとに、最大符号化単位より小さいか、あるいは同じであるサイズの符号化単位で、映像を符号化したり復号化する。符号化過程において、変換のための変換単位のサイズは、それぞれの符号化単位より大きくないデータ単位を基に選択されてもよい。
例えば、一実施形態によるビデオ符号化装置100、または一実施形態によるビデオ復号化装置200で、現在符号化単位710が64x64サイズであるとき、32x32サイズの変換単位720を利用して変換が行われる。
また、64x64サイズの符号化単位710のデータを、64x64サイズ以下の32x32,16x16,8x8,4x4サイズの変換単位でそれぞれ変換を行って符号化した後、原本との誤差が最も小さい変換単位が選択されてもよい。
図8は、本発明の一実施形態による深度別符号化情報を図示している。
一実施形態によるビデオ符号化装置100の出力部130は、符号化モードについての情報として、それぞれの符号化深度の符号化単位ごとに、パーティションタイプについての情報800、予測モードについての情報810、変換単位サイズについての情報820を符号化して伝送することができる。
パーティションタイプについての情報800は、現在符号化単位の予測符号化のためのデータ単位として、現在符号化単位の予測単位が分割されたパーティションの形態に係わる情報を示す。例えば、サイズ2Nx2Nの現在符号化単位CU_0は、サイズ2Nx2Nのパーティション802、サイズ2NxNのパーティション804、サイズNx2Nのパーティション806、サイズNxNのパーティション808のうちいずれか1つのタイプに分割されて利用される。その場合、現在符号化単位のパーティションタイプについての情報800は、サイズ2Nx2Nのパーティション802、サイズ2NxNのパーティション804、サイズNx2Nのパーティション806及びサイズNxNのパーティション808のうちいずれか一つを示すように設定される。
予測モードについての情報810は、それぞれのパーティションの予測モードを示す。例えば、予測モードについての情報810を介して、パーティションタイプについての情報800が指し示すパーティションが、イントラモード812、インターモード814及びスキップモード816のうち一つで、予測符号化の遂行いかんが設定される。
また、変換単位サイズについての情報820は、現在符号化単位を、いかなる変換単位を基に変換を行うかを示す。例えば、変換単位は、第1イントラ変換単位サイズ822、第2イントラ変換単位サイズ824、第1インター変換単位サイズ826、第2インター変換単位サイズ828のうち一つであってもよい。
一実施形態によるビデオ復号化装置200の映像データ及び符号化情報抽出部210は、それぞれの深度別符号化単位ごとに、パーティションタイプについての情報800、予測モードについての情報810、変換単位サイズについての情報820を抽出し、復号化に利用することができる。
図9は、本発明の一実施形態による深度別符号化単位を図示している。
深度の変化を示すために分割情報が利用される。分割情報は、現在深度の符号化単位が、下位深度の符号化単位に分割されるか否かを示す。
深度0及び2N_0x2N_0サイズの符号化単位900の予測符号化のための予測単位910は、2N_0x2N_0サイズのパーティションタイプ(912、2N_0xN_0サイズのパーティションタイプ914、N_0x2N_0サイズのパーティションタイプ916、N_0xN_0サイズのパーティションタイプ918を含んでもよい。予測単位が、対称的比率で分割されたパーティション912,914,916,918だけ例示されているが、前述のように、パーティションタイプは、これらに限定されるものではなく、非対称的パーティション、任意的形態のパーティション、幾何学的形態のパーティションなどを含んでもよい。
パーティションタイプごとに、1個の2N_0x2N_0サイズのパーティション、2個の2N_0xN_0サイズのパーティション、2個のN_0x2N_0サイズのパーティション、4個のN_0xN_0サイズのパーティションごとに、反復して予測符号化が遂行されねばならない。サイズ2N_0x2N_0、サイズN_0x2N_0及びサイズ2N_0xN_0及びサイズN_0xN_0のパーティションについては、イントラモード及びインターモードで、予測符号化が行われる。スキップモードは、サイズ2N_0x2N_0のパーティションについてのみ行われる。
サイズ2N_0x2N_0,2N_0xN_0及びN_0x2N_0のパーティションタイプ912,914,916のうち一つによる符号化誤差が最も小さいならば、それ以上、下位深度に分割する必要がない。
サイズN_0xN_0のパーティションタイプ918による符号化誤差が最も小さいならば、深度0を1に変更して分割し(920)、深度2及びサイズN_0xN_0のパーティションタイプの符号化単位930に対して反復して符号化を行い、最小符号化誤差を検索していくことができる。
深度1及びサイズ2N_1x2N_1(=N_0xN_0)の符号化単位930の予測符号化のための予測単位940は、サイズ2N_1x2N_1のパーティションタイプ942、サイズ2N_1xN_1のパーティションタイプ944、サイズN_1x2N_1のパーティションタイプ946、サイズN_1xN_1のパーティションタイプ948を含んでもよい。
また、サイズN_1xN_1サイズのパーティションタイプ948による符号化誤差が最も小さいならば、深度1を深度2に変更して分割し(950)、深度2及びサイズN_2xN_2の符号化単位960に対して反復して符号化を行い、最小符号化誤差を検索していくことができる。
最大深度がdである場合、深度別分割情報は、深度d−1まで設定され、分割情報は、深度d−2まで設定される。すなわち、深度d−2から分割(970)され、深度d−1まで符号化が行われる場合、深度d−1及びサイズ2N_(d−1)x2N_(d−1)の符号化単位980の予測符号化のための予測単位990は、サイズ2N_(d−1)x2N_(d−1)のパーティションタイプ992、サイズ2N_(d−1)xN_(d−1)のパーティションタイプ994、サイズN_(d−1)x2N_(d−1)のパーティションタイプ996、サイズN_(d−1)xN_(d−1)のパーティションタイプ998を含む。
パーティションタイプのうち、1個のサイズ2N_(d−1)x2N_(d−1)のパーティション、2個のサイズ2N_(d−1)xN_(d−1)のパーティション、2個のサイズN_(d−1)x2N_(d−1)のパーティション、4個のサイズN_(d−1)xN_(d−1)のパーティションごとに、反復して予測符号化を介した符号化が行われ、最小符号化誤差が生じるパーティションタイプが検索される。
サイズN_(d−1)xN_(d−1)のパーティションタイプ998による符号化誤差が最も小さいとしても、最大深度がdであるから、深度d−1の符号化単位CU_(d−1は、それ以上、下位深度への分割過程を経ず、現在最大符号化単位900に係わる符号化深度が深度d−1として決定され、パーティションタイプは、N_(d−1)xN_(d−1)として決定されもする。また、最大深度がdであるから、深度d−1の符号化単位952に係わる分割情報は設定されない。
データ単位999は、現在最大符号化単位に係わる「最小単位」とすることができる。一実施形態による最小単位は、最下位符号化深度の最小符号化単位が4分割されたサイズの正方形のデータ単位であってもよい。このような反復的符号化過程を介して、一実施形態によるビデオ符号化装置100は、符号化単位900の深度別符号化誤差を比較し、最も小さい符号化誤差が生じる深度を選択し、符号化深度を決定し、当該パーティションタイプ及び予測モードが符号化深度の符号化モードとして設定される。
かような方法で、深度0,1,…,d−1,dのあらゆる深度別最小符号化誤差を比較し、誤差が最も小さい深度が選択され、符号化深度として決定されてもよい。符号化深度、及び予測単位のパーティションタイプ及び予測モードは、符号化モードについての情報として符号化されて伝送される。また、深度0から符号化深度に至るまで符号化単位が分割されねばならないので、符号化深度の分割情報だけ「0」に設定され、符号化深度を除外した深度別分割情報は、「1」に設定されねばならない。
一実施形態によるビデオ復号化装置200の映像データ及び符号化情報抽出部220は、符号化単位900に係わる符号化深度及び予測単位についての情報を抽出し、符号化単位912を復号化するのに利用することができる。一実施形態によるビデオ復号化装置200は、深度別分割情報を利用し、分割情報が「0」である深度を符号化深度として把握し、当該深度に係わる符号化モードについての情報を利用して復号化に利用することができる。
図10、図11及び図12は、本発明の一実施形態による、符号化単位、予測単位及び変換単位の関係を図示している。
符号化単位1010は、最大符号化単位に対して、一実施形態によるビデオ符号化装置100が決定した符号化深度別符号化単位である。予測単位1060は、符号化単位1010において、それぞれの符号化深度別符号化単位の予測単位のパーティションであり、変換単位1070は、それぞれの符号化深度別符号化単位の変換単位である。
深度別符号化単位1010は、最大符号化単位の深度が0であるとすれば、符号化単位1012,1054は、深度が1、符号化単位1014,1016,1018,1028,1050,1052は、深度が2、符号化単位1020,1022,1024,1026,1030,1032,1048は、深度が3、符号化単位1040,1042,1044,1046は、深度が4である。
予測単位1060において、一部パーティション1014,1016,1022,1032,1048,1050,1052,1054は、符号化単位が分割された形態である。すなわち、パーティション1014,1022,1050,1054は、2NxNのパーティションタイプであり、パーティション1016,1048,1052は、Nx2Nのパーティションタイプ、パーティション1032は、NxNのパーティションタイプである。深度別符号化単位1010の予測単位及びパーティションは、それぞれの符号化単位より小さいか、あるいは同じである。
変換単位1070において、一部の映像データ1052については、符号化単位に比べて小さいサイズのデータ単位で変換または逆変換が行われる。また、変換単位1014,1016,1022,1032,1048,1050,1052,1054は、予測単位1060において、当該予測単位及びパーティションと比較してみれば、互いに異なるサイズまたは形態のデータ単位である。すなわち、一実施形態によるビデオ符号化装置100、及び一実施形態による他のビデオ復号化装置200は、同じ符号化単位に係わるイントラ予測/動き推定/動き補償作業及び変換/逆変換作業であるとしても、それぞれ別個のデータ単位を基に遂行することができる。
一実施形態による変換インデックス情報は、現在符号化単位を変換するのに利用された変換単位の構造についての情報を示すことができる。例えば、一実施形態による変換インデックス情報は、現在符号化単位から最終レベルの変換単位まで分割した回数、変換単位のサイズ及び形態に係わる情報を含んでもよい。一実施形態による符号化モードについての情報、すなわち、符号化情報は、現在符号化単位を符号化するために利用された各種方式についての情報を含み、変換インデックス情報を含んでもよい。
一実施形態による変換インデックス情報は、現在変換単位が、下位レベルの変換単位に分割されるか否かを示すことができる。例えば、一実施形態による変換インデックス情報として、変換単位が下位レベルの変換単位に分割されるか否かを示す1ビットのデータである変換単位分割ビットが利用される。
一実施形態で、変換インデックス情報は、現在符号化単位が均一サイズの変換単位に分割されるか否かを示すことができる。例えば、一実施形態による変換インデックス情報は、現在符号化単位の高さ及び幅が1回ずつ半分になって4個の変換単位に分割されるか、2回ずつ半分になって16個の変換単位に分割されるかを示すことができる。すなわち、一実施形態による変換インデックス情報は、現在符号化単位が分割された同じサイズの変換単位の4の自乗の個数を示すことができる。
他の実施形態による変換インデックス情報は、現在符号化単位が一実施形態によるツリー構造によって、多様なサイズの変換単位に分割されるか否かを示すことができる。例えば、他の実施形態による変換インデックス情報は、現在符号化単位がツリー構造による変換単位に分割されるまで、それぞれのレベルの変換単位の変換単位分割ビットが羅列されたビット列で表現される。他の実施形態による変換単位インデックス情報は、互いに隣接する同一レベルの変換単位の変換単位分割ビットが、それぞれの変換単位のジグザグスキャン順序で羅列されたビット列を含んでもよい。また、所定変換単位が階層的構造の下位レベルの変換単位に分割されてもよい場合、他の実施形態による変換単位インデックス情報は、下位レベルの変換単位の変換単位分割ビットが、それぞれの変換単位のジグザグスキャン順序で羅列されたビット列を含んでもよい。
これにより、最大符号化単位ごとに、領域別に階層的な構造の符号化単位ごとに、再帰的に符号化が行われ、最適符号化単位が決定されることによって、再帰的ツリー構造による符号化単位が構成される。符号化情報は、符号化単位に係わる分割情報、パーティションタイプ情報、予測モード情報、変換単位サイズ情報を含んでもよい。下記表1は、一実施形態によるビデオ符号化装置100及び一実施形態によるビデオ復号化装置200で設定することができる一例を示している。
Figure 0005969082
一実施形態によるビデオ符号化装置100の出力部130は、ツリー構造による符号化単位に係わる符号化情報を出力し、一実施形態によるビデオ復号化装置200の符号化情報抽出部220は、受信されたビットストリームから、ツリー構造による符号化単位に係わる符号化情報を抽出することができる。
分割情報は、現在符号化単位が、下位深度の符号化単位に分割されるか否かを示す。現在深度dの分割情報が0であるならば、現在符号化単位が、下位符号化単位に、それ以上分割されない深度が符号化深度であるから、符号化深度に対して、パーティションタイプ情報、予測モード、変換単位サイズ情報が定義される。分割情報によって、1段階さらに分割されねばならない場合には、分割された4個の下位深度の符号化単位ごとに、独立して符号化が遂行されねばならない。
予測モードは、イントラモード、インターモード及びスキップモードのうち一つで示すことができる。イントラモード及びインターモードは、あらゆるパーティションタイプで定義され、スキップモードは、パーティションタイプ2Nx2Nでのみ定義される。
パーティションタイプ情報は、予測単位の高さまたは幅が、対称的比率で分割された対称的パーティションタイプ2Nx2N,2NxN,Nx2N及びNxNと、非対称的比率で分割された非対称的パーティションタイプ2NxnU,2NxnD,nLx2N,nRx2Nとを示すことができる。非対称的パーティションタイプ2NxnU及び2NxnDは、それぞれ高さが1:3及び3:1に分割された形態であり、非対称的パーティションタイプnLx2N及びnRx2Nは、それぞれ幅が1:3及び3:1に分割された形態を示す。
変換単位サイズは、イントラモードで、2種のサイズ、インターモードで、2種のサイズに設定される。すなわち、変換単位分割情報が0であるならば、変換単位のサイズが現在符号化単位のサイズ2Nx2Nに設定される。変換単位分割情報が1であるならば、現在符号化単位が分割されたサイズの変換単位が設定される。また、サイズ2Nx2Nである現在符号化単位に係わるパーティションタイプが、対称形パーティションタイプであるならば、変換単位のサイズは、NxN、非対称型パーティションタイプであるならば、N/2xN/2に設定される。
一実施形態によるツリー構造による符号化単位の符号化情報は、符号化深度の符号化単位、予測単位及び最小単位のうち、少なくとも一つに対して割り当てられる。符号化深度の符号化単位は、同じ符号化情報を保有している予測単位及び最小単位を一つ以上含んでもよい。
従って、隣接したデータ単位同士それぞれ保有している符号化情報を確認すれば、同じ符号化深度の符号化単位に含まれるか否かが確認されもする。また、データ単位が保有している符号化情報を利用すれば、当該符号化深度の符号化単位を確認することができるので、最大符号化単位内の符号化深度の分布が類推される。
従って、その場合、現在符号化単位が周辺データ単位を参照して予測する場合、現在符号化単位に隣接する深度別符号化単位内のデータ単位の符号化情報が直接参照されて利用される。
また、他の実施形態で、現在符号化単位が周辺符号化単位を参照して予測符号化が行われる場合、隣接する深度別符号化単位の符号化情報を利用し、深度別符号化単位内で、現在符号化単位に隣接するデータが検索されることによって、周辺符号化単位が参照されもする。
図13は、表1の符号化モード情報による符号化単位、予測単位及び変換単位の関係を図示している。
最大符号化単位1300は、符号化深度の符号化単位1302,1304,1306,1312,1314,1316,1318を含む。このうち1つの符号化単位1318は、符号化深度の符号化単位であるから、分割情報が0に設定される。サイズ2Nx2Nの符号化単位1318のパーティションタイプ情報は、パーティションタイプ2Nx2N 1322,2NxN 1324,Nx2N 1326,NxN 1328,2NxnU 1332,2NxnD 1334,nLx2N 1336及びnRx2N 1338のうち一つに設定される。
変換単位分割情報(TU size flag)は、一実施形態による変換インデックスの一種であり、変換インデックスに対応する変換単位のサイズは、符号化単位の予測単位タイプまたはパーティションタイプによって変更される。
例えば、パーティションタイプ情報が、対称形パーティションタイプ2Nx2N 1322,2NxN 1324,Nx2N 1326及びNxN 1328のうち一つに設定される場合、変換単位分割情報(TU size flag))が0であるならば、サイズ2Nx2Nの変換単位1342が設定され、変換単位分割情報が1であるならば、サイズNxNの変換単位1344が設定される。
パーティションタイプ情報が、非対称型パーティションタイプ2NxnU 1332,2NxnD 1334,nLx2N 1336及びnRx2N 1338のうち一つに設定された場合、変換単位分割情報(TU size flag))が0であるならば、サイズ2Nx2Nの変換単位1352が設定され、変換単位分割情報が1であるならば、サイズN/2xN/2の変換単位1354が設定される。
図13を参照して説明した変換単位分割情報(TU size flag)は、0または1の値を有するフラグであるが、一実施形態による変換単位分割情報が、1ビットのフラグに限定されるものではなく、設定によって、0,1,2,3,…などに増加し、変換単位が階層的に分割されもする。
その場合、一実施形態による変換単位分割情報を、変換単位の最大サイズ、変換単位の最小サイズと共に利用すれば、実際に利用された変換単位のサイズが表現される。一実施形態によるビデオ符号化装置100は、最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報を符号化することができる。符号化された最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報は、SPSに挿入される。一実施形態によるビデオ復号化装置200は、最大変換単位サイズ情報、最小変換単位サイズ情報及び最大変換単位分割情報を利用し、ビデオ復号化に利用することができる。
例えば、(a)現在符号化単位がサイズ64x64であり、最大変換単位サイズが32x32であるならば、(a−1)変換単位分割情報が0であるとき、変換単位のサイズが32x32、(a−2)変換単位分割情報が1であるとき、変換単位のサイズが16x16、(a−3)変換単位分割情報が2であるとき、変換単位のサイズが8x8に設定される。
他の例として、(b)現在符号化単位がサイズ32x32であり、最小変換単位サイズが32x32であるならば、(b−1)変換単位分割情報が0であるとき、変換単位のサイズが32x32に設定され、変換単位のサイズが32x32より小さくはないので、それ以上の変換単位分割情報が設定されない。
さらに他の例として、(c)現在符号化単位がサイズ64x64であり、最大変換単位分割情報が1であるならば、変換単位分割情報は、0または1であって、他の変換単位分割情報が設定されない。
従って、最大変換単位分割情報を「MaxTransformSizeIndex」、最小変換単位サイズを「MinTransformSize」、変換単位分割情報が0である場合の変換単位サイズを「RootTuSize」であると定義するとき、現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」は、下記数式(1)のように定義される。
CurrMinTuSize
=max(MinTransformSize,RootTuSize/(2^MaxTransformSizeIndex)) (1)
現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」と比較し、変換単位分割情報が0である場合の変換単位サイズである「RootTuSize」は、システム上採択可能な最大変換単位サイズを示すことができる。すなわち、数式(1)によれば、「RootTuSize/(2^MaxTransformSizeIndex)」は、変換単位分割情報が0である場合の変換単位サイズの「RootTuSize」を最大変換単位分割情報に相応する回数ほど分割した変換単位サイズであり、「MinTransformSize」は、最小変換単位サイズであるから、それらのうち小さい値が現在符号化単位で可能な最小変換単位サイズ「CurrMinTuSize」であってもよい。
一実施形態による最大変換単位サイズ「RootTuSize」は、予測モードによって異なることもある。
例えば、現在予測モードがインターモードであるならば、RootTuSizeは、下記数式(2)によって決定されもする。数式(2)で、「MaxTransformSize」は、最大変換単位サイズ「PUSize」は、現在予測単位サイズを示す。
RootTuSize=min(MaxTransformSize,PUSize) (2)
すなわち、現在予測モードがインターモードであるならば、変換単位分割情報が0である場合の変換単位サイズである「RootTuSize」は、最大変換単位サイズ及び現在予測単位サイズのち小さい値に設定される。
現在パーティション単位の予測モードが予測モードがイントラモードであるならば、「RootTuSize」は、下記数式(3)によって決定されもする。「PartitionSize」は、現在パーティション単位のサイズを示す。
RootTuSize=min(MaxTransformSize,PartitionSize) (3)
すなわち、現在予測モードがイントラモードであるならば、変換単位分割情報が0である場合の変換単位サイズの「RootTuSize」は、最大変換単位サイズ及び現在パーティション単位サイズのうち小さい値に設定される。
ただし、パーティション単位の予測モードによって変動する一実施形態による現在最大変換単位サイズ「RootTuSize」は、一実施形態であるのみ、現在最大変換単位サイズを決定する要因は、これに限定されるものではないということに留意せねばならない。
図14は、本発明の一実施形態によるビデオ符号化方法のフローチャートである。
段階1210で、現在ピクチャは、少なくとも1つの最大符号化単位に分割される。また、可能な総分割回数を示す最大深度があらかじめ設定されもする。
段階1220で、深度ごとに最大符号化単位の領域が分割された少なくとも1つの分割領域別に符号化され、少なくとも1つの分割領域別に、最終符号化結果が出力される深度が決定され、ツリー構造による符号化単位が決定される。
最大符号化単位は、深度が深くなるたびに空間的に分割され、下位深度の符号化単位に分割される。それぞれの符号化単位は、隣接する他の符号化単位と独立し、空間的に分割されつつ、さらに下位深度の符号化単位に分割されてもよい。深度別に符号化単位ごとに、反復して符号化が遂行されねばならない。
また、深度別符号化単位ごとに、符号化誤差が最も小さいパーティションタイプ別変換単位が決定されねばならない。符号化単位の最小符号化誤差を発生させる符号化深度が決定されるために、あらゆる深度別符号化単位ごとに、符号化誤差が測定されて比較される。
段階1230で、最大符号化単位ごとに、少なくとも1つの分割領域別最終符号化結果である映像データと、符号化深度及び符号化モードについての情報とが出力される。符号化モードについての情報は、符号化深度についての情報または分割情報、予測単位のパーティションタイプ情報、予測モード情報及び変換単位サイズ情報などを含んでもよい。符号化された符号化モードについての情報は、符号化された映像データと共に、復号化端に伝送される。
図15は、本発明の一実施形態によるビデオ復号化方法のフローチャートである。
段階1310で、符号化されたビデオに係わるビットストリームが受信されてパージングされる。
段階1320で、パージングされたビットストリームから、最大サイズの最大符号化単位に割り当てられる現在ピクチャの映像データ、並びに最大符号化単位別符号化深度及び符号化モードについての情報が抽出される。最大符号化単位別符号化深度は、現在ピクチャの符号化過程で、最大符号化単位別に、符号化誤差が最も小さい深度として選択された深度である。最大符号化単位別符号化は、最大符号化単位を、深度別に階層的に分割した少なくとも1つのデータ単位に基づいて、映像データが符号化されたものである。
一実施形態による符号化深度及び符号化モードについての情報によれば、最大符号化単位が、ツリー構造による符号化単位に分割されてもよい。ツリー構造による符号化単位による符号化単位は、それぞれ符号化深度の符号化単位である。従って、符号化単位別符号化深度を把握した後、それぞれの映像データを復号化することによって、映像の符号化・復号化の効率性が向上しうる。
段階1330で、最大符号化単位別符号化深度及び符号化モードについての情報に基づいて、それぞれの最大符号化単位の映像データが復号化される。復号化された映像データは、再生装置によって再生されたり、記録媒体に保存されたり、ネットワークを介して伝送される。
図16は、本発明の一実施形態による、階層的データ単位のパターン情報を利用するビデオ符号化装置を図示している。
一実施形態によって、スキップ及び分割順序を考慮した映像符号化装置1400は、最大符号化単位分割部1410、符号化単位及び符号化モード決定部1420及び出力部1430を含む。一実施形態によって、スキップ及び分割順序を考慮した映像符号化装置1400は、一実施形態による映像符号化装置100の具体的な実施形態であり、一実施形態による映像符号化装置100の最大符号化単位分割部110、符号化深度決定部120及び出力部130が、構成要素別に、それぞれ最大符号化単位分割部1410、符号化単位及び符号化モード決定部1420及び出力部1430に対応する。
一実施形態による最大符号化単位分割部1410は、入力映像のピクチャを、所定サイズの最大符号化単位に分割し、最大符号化単位別映像データが、符号化単位及び符号化モード決定部1420に出力される。
一実施形態による符号化単位及び符号化モード決定部1420は、最大符号化単位分割部1410から入力された最大符号化単位の領域を、深度が深くなるにつれて階層的に分割し、階層的に分割されたそれぞれの領域ごとに独立して、分割回数に対応する深度による深度別符号化単位に基づいた符号化を行う。
また、それぞれの深度別符号化単位に基づいた符号化は、深度別符号化単位より小さいか、あるいは同じであるあらゆる形態及びサイズの予測単位に基づいた予測及び深度別符号化単位より小さいか、あるいは同じであるあらゆるサイズの変換単位に基づいた変換を伴う。
これにより、一実施形態による符号化単位及び符号化モード決定部1420は、符号化結果が出力される少なくとも1つの符号化深度、符号化深度の符号化単位のパーティションタイプ、予測モード及び変換単位のサイズなどを決定することができる。かように決定された符号化深度の符号化単位と関連した情報が、符号化モードについての情報として決定されもする。
一実施形態による符号化単位及び符号化モード決定部1420は、最大符号化単位の独立的領域ごとに、符号化結果を出力する符号化深度と、それに関連した符号化モードとを決定するために、それぞれの深度別に、深度別符号化単位に基づいて符号化し、原本映像データとの符号化誤差が最小である符号化深度と、それに関連した符号化モードとを検索することができる。
一実施形態による符号化単位及び符号化モード決定部1420によって決定された符号化深度と、関連した符号化モードとについての情報、及び当該符号化の結果は、出力部1430に出力される。
一実施形態による出力部1430は、最大符号化単位別に、パターン情報、符号化深度及び符号化モードについての情報、並びに符号化されたビデオデータを出力する。一実施形態による出力部1430は、パターン情報に基づいて、符号化単位のテクスチャ関連情報の出力いかんを設定することができる。
一実施形態によるテクスチャ関連情報は、当該データ単位の変換係数に基づいた変換係数、変換単位のインデックス及び量子化パラメータを含む。データ単位が0ではない変換係数を少なくとも一つ有する場合、当該データユニットのテクスチャ関連情報が符号化される。
一実施形態によるパターン情報は、当該変換単位の最大符号化単位、当該符号化単位との階層的構造に基づいて設定された、階層的符号化単位パターン情報、最大符号化単位パターン情報及び符号化単位パターン情報を含んでもよい。
一実施形態による階層的符号化単位パターン情報は、下位変換深度の変換単位に係わるテクスチャ関連情報及び符号化単位パターン情報の符号化いかんを示す。一実施形態による階層的符号化単位パターン情報は、現在最大符号化単位の符号化深度の符号化単位から、符号化モードの最終変換単位まで階層的に設定される。
一実施形態によって、現在変換深度の変換単位は、下位変換深の変換単位を4個含むので、変換深度ごとに、当該階層的符号化単位パターン情報は、再帰的に、4個の下位変換深度の変換テクスチャ関連情報及び符号化単位パターン情報の符号化いかんを決定する。
一実施形態による出力部1430は、現在変換深度の変換単位のテクスチャ関連情報及び符号化単位パターン情報を符号化せずに、下位変換深度の変換単位の符号化単位パターン情報を符号化する場合、現在変換単位の階層的符号化単位パターン情報を1に設定することができる。
ただし、現在変換深度が符号化モードの最終変換深度であり、現在変換単位に基づいたテクスチャ関連情報が存在する場合には、一実施形態による出力部1430は、現在変換単位の階層的符号化単位パターン情報を1に設定することができる。
また、一実施形態による出力部1430は、現在変換深度の変換単位のテクスチャ関連情報及び符号化単位パターン情報を符号化し、下位変換深度の変換単位の符号化単位パターン情報を符号化する必要がない場合、現在変換単位の階層的符号化単位パターン情報を0に設定することができる。
一実施形態による出力部1430は、符号化モードによる最終変換深度の変換単位に係わるテクスチャ関連情報の符号化いかんを示す符号化単位パターン情報を出力することができる。
一実施形態による最大符号化単位パターン情報は、現在最大符号化単位のテクスチャ関連情報の符号化いかんを示す。一実施形態による出力部1430は、最大符号化単位パターン情報を利用し、最大符号化単位の符号化深度の符号化単位の階層的符号化単位パターン情報の出力いかんを設定することができる。
例えば、最大符号化単位内に、テクスチャ情報が存在しないならば、当該最大符号化単位である最大符号化単位パターン情報が0に設定され、その下位深度の符号化単位の符号化単位パターン情報、階層的符号化単位パターン情報及びテクスチャ関連情報は、出力される必要がない。ただし、最大符号化単位に、テクスチャ情報が存在するならば、最大符号化単位パターン情報は、1に設定され、下位深度の符号化単位の符号化単位パターン情報、階層的符号化単位パターン情報及びテクスチャ関連情報などが設定される。
従って、1つの最大符号化単位に係わるパターン情報として、最大符号化単位パターン情報、符号化単位及び変換単位の階層的符号化単位パターン情報、並びに符号化単位パターン情報が出力されてもよい。
一実施形態に係わるパターン情報は、カラー成分別に、予測モード別に符号化されもする。
一実施形態によるグループパターン情報は、カラー成分別係数のためのテクスチャ関連情報が符号化されるか否かを示すように符号化されもする。一実施形態によるグループパターン情報は、カラー成分のうち、少なくとも一つを含むカラー成分組み合わせについて設定されもする。すなわち、カラー成分組み合わせに属し、0ではないかカラー成分の係数が存在するか否かを示すように、グループパターン情報が符号化される。
例えば、一実施形態によるグループパターン情報は、Y成分、Cr成分及びCb成分のうち少なくとも1つの組み合わせに対されるカラー成分別係数のためのテクスチャ関連情報が符号化されるか否かを示すように設定される。具体的には、一実施形態によるグループパターン情報は、LUMA(luminance)成分及びクロマ成分のあらゆるカラー成分に係わるカラー成分別係数のためのテクスチャ関連情報が符号化されるか否かを示すことができる。他の例として、一実施形態によるグループパターン情報がLUMA成分を除外したクロマ成分のカラー成分に係わるカラー成分別係数のためのテクスチャ関連情報について設定されもする。
一実施形態によるグループパターン情報に基づいて、それぞれのカラー成分別パターン情報の符号化いかんが決定されもする。また、カラー成分組み合わせに属するカラー成分を除外したカラー成分に係わるパターン情報が存在するならば、別途に符号化することができる。
一実施形態による変換単位パターン情報の稠密度によって、重複し、あるいは不要なパターン情報を省略するために、稠密パターン情報が符号化されもする。稠密パターン情報の例として、単一レベルパターン情報または反転パターン情報が符号化されもする。
一実施形態による出力部1430は、一実施形態による階層的符号化単位パターン情報、符号化単位パターン情報及び最大符号化単位パターン情報などを利用する階層的データ単位による階層的パターン情報を符号化するか、あるいは他の方式のパターン情報を符号化するか否かを選択的に決定することができる。例えば、一実施形態による出力部1430は、現在符号化単位の符号化深度によって、一実施形態による階層的データ単位による階層的パターン情報、または一実施形態による稠密パターン情報を符号化するか否かを決定することができる。
また、一実施形態による出力部1430は、現在符号化単位の符号化モードによって、一実施形態による階層的データ単位による階層的パターン情報、または一実施形態による稠密パターン情報を符号化するか否かを決定することができる。例えば、現在符号化単位の符号化モードのうち、現在符号化単位の映像データのLUMA成分またはクロマ成分などのカラー成分;量子化パラメータ;インターモードまたはイントラモードなどの予測モード;Iタイプ、PタイプまたはBタイプなどのスライスタイプ;双方向予測または単一方向予測などのインターモードの予測方向のうち少なくとも一つを考慮し、現在符号化単位について、階層的パターン情報、または一実施形態による稠密パターン情報を符号化するか否かが決定される。
一実施形態による出力部1430は、現在符号化単位のパターン情報として、一実施形態による階層的データ単位による階層的パターン情報、または一実施形態による稠密パターン情報が符号化されたか否かを示すパターン情報種類情報を符号化することができる。例えば、一実施形態によるパターン情報種類情報は、階層的パターン情報を利用し、パターン情報の符号化いかんを示すフラグの形態で符号化される。
他の実施形態によるパターン情報種類情報は、階層的パターン情報、カラー成分別グループパターン情報、単一レベルパターン情報、反転パターン情報などのさまざまなパターン情報を指し示すインデックスでもって表現されもする。
従って、一実施形態による出力部1430は、最大符号化単位、符号化単位及び変換単位によって階層的に設定されたパターン情報に基づいて、符号化されたデータのテクスチャ情報を伝送ビットストリームに挿入して出力することができる。
図17は、本発明の一実施形態による、階層的データ単位のパターン情報を利用するビデオ復号化装置を図示している。
一実施形態によって、スキップ及び分割順序を考慮した映像復号化装置1500は、受信部1510、データ抽出部1520及び復号化部1530を含む。一実施形態によって、スキップ及び分割順序を考慮した映像復号化装置1500は、一実施形態による映像復号化装置200の具体的な実施形態であってもよい。一実施形態によるビデオ復号化装置200の受信部210、映像データ及び符号化情報抽出部220及び映像データ復号化部230は、構成要素別に、それぞれ一実施形態による映像復号化装置1500の受信部1510、データ抽出部1520及び復号化部1530に対応しうる。
一実施形態による受信部1510は、符号化されたビデオに係わるビットストリームを受信してパージングする。
一実施形態によるデータ抽出部1520は、受信部1510からパージングされたビットストリームを受信し、ビットストリームから、最大符号化単位別に、符号化深度と、関連符号化モードとについての情報、及び符号化されたビデオデータを抽出する。
特に、一実施形態によるデータ抽出部1520は、受信部1510からパージングされたビットストリームからパターン情報を抽出し、パターン情報に基づいて、符号化されたビデオデータのうち、テクスチャ関連情報を抽出することができる。
一実施形態によるデータ抽出部1520が、パターン情報として、階層的符号化単位パターン情報、符号化単位パターン情報及び最大符号化単位パターン情報を抽出することができる。
まず、一実施形態によるデータ抽出部1520が、符号化単位パターン情報を抽出した場合、符号化単位パターン情報に基づいて、当該変換単位に係わるテクスチャ関連情報の抽出いかんを決定することができる。テクスチャ関連情報は、当該変換単位の変換係数、変換単位のインデックス、量子化パラメータなどを含む。
一実施形態によるデータ抽出部1520が、階層的符号化単位パターン情報を抽出した場合、階層的符号化単位パターン情報に基づいて、階層的には、下位変換深度の変換単位に係わるテクスチャ関連情報及び符号化単位パターン情報の抽出いかんを決定することができる。
また、一実施形態によるデータ抽出部1520が、現在符号化単位から符号化モードによる変換単位に達するまで、再帰的に階層的符号化単位パターン情報に基づいて、下位変換深度の変換単位の符号化単位パターン情報及びテクスチャ関連情報の抽出いかんを決定することができる。
もし階層的符号化単位パターン情報が1であるならば、一実施形態によるデータ抽出部1520は、現在変換深度の変換単位のテクスチャ関連情報及び符号化単位パターン情報を抽出せずに、下位変換深度の変換単位の符号化単位パターン情報を抽出することができる。ただし、現在変換深度が最終変換深度であり、階層的符号化単位パターン情報が1であるならば、一実施形態によるデータ抽出部1520は、現在変換単位に基づいたテクスチャ関連情報を抽出することができる。
もし階層的符号化単位パターン情報が0であるならば、一実施形態によるデータ抽出部1520は、現在変換深度の変換単位のテクスチャ関連情報及び符号化単位パターン情報を抽出し、それ以上、下位変換深度の変換単位の符号化単位パターン情報を抽出する必要がない。
一実施形態によるデータ抽出部1520が、最大符号化単位パターン情報を抽出した場合、最大符号化単位パターン情報に基づいて、最大符号化単位の符号化深度の符号化単位の階層的符号化単位パターン情報の抽出いかんを決定することができる。
例えば、最大符号化単位パターン情報が1である場合、一実施形態によるデータ抽出部1520は、最大符号化単位の符号化深度の符号化単位の階層的符号化単位パターン情報の抽出いかんを決定することができる。最大符号化単位パターン情報が0である場合には、当該最大符号化単位に係わるテクスチャ関連情報が抽出されない。
一実施形態によるデータ抽出部1520は、最上位変換深度0である変換単位のパターン情報が0であるならば、変換インデックス情報を抽出することができない。一実施形態によるデータ抽出部1520は、最上位変換深度0である変換単位のパターン情報が0ではない場合、現在符号化単位に係わる符号化モードについての情報のうち変換インデックス情報を抽出することができ、変換深度ごとに、変換単位パターン情報を抽出することができる。
一実施形態によるデータ抽出部1520は、カラー成分別パターン情報、または予測モード別パターン情報を抽出することもできる。
一実施形態によるデータ抽出部1520は、グループパターン情報から読み取り、現在データ単位のカラー成分別に、0ではない係数が少なくとも一つ存在するか否かを決定し、それぞれのカラー成分別パターン情報の抽出いかんを決定することもできる。一実施形態によるデータ抽出部1520は、グループパターン情報から読み取り、カラー成分組み合わせに属する少なくとも1つのカラー成分別に、0ではない係数が少なくとも一つ存在するか否かを決定し、カラー成分組み合わせに属するそれぞれのカラー成分別パターン情報の抽出いかんを決定することもできる。
例えば、一実施形態によるデータ抽出部1520は、グループパターン情報に基づいて、Y成分、Cr成分及びCb成分のうち少なくとも1つの組み合わせに係わるカラー成分別に、0ではない係数が少なくとも一つ存在するか否かを分析することができる。具体的には、一実施形態によるグループパターン情報に基づいて、LUMA成分及びクロマ成分のあらゆるカラー成分に係わるカラー成分別に、0ではない係数が少なくとも一つ存在するか否かが確認される。他の例として、一実施形態によるグループパターン情報に基づいて、LUMA成分を除外したクロマ成分のカラー成分別に、0ではない係数が少なくとも一つ存在するか否かが読み取られもする。
一実施形態によるデータ抽出部1520は、グループパターン情報に基づいて、カラー成分組み合わせに属するそれぞれのカラー成分別パターン情報の抽出いかんを決定し、カラー成分組み合わせに属するカラー成分を除外したカラー成分が存在するならば、別途に抽出することができる。
一実施形態によるデータ抽出部1520は、変換単位パターン情報の稠密度によって、重複したり、あるいは不要なパターン情報が省略された形態の稠密パターン情報を抽出することもできる。
一実施形態によるデータ抽出部1520は、一実施形態による階層的データ単位による階層的パターン情報、または他の方式のパターン情報を抽出することができる。例えば、一実施形態によるデータ抽出部1520は、現在符号化単位の符号化深度によって、選択的に符号化された一実施形態による階層的パターン情報、または一実施形態による稠密パターン情報を抽出することができる。
一実施形態によるデータ抽出部1520は、現在符号化単位の符号化モードによって選択的に符号化された、一実施形態による階層的データ単位による階層的パターン情報、または一実施形態による稠密パターン情報を抽出することもできる。例えば、現在符号化単位の符号化モードのうち、カラー成分、量子化パラメータ、予測モード、スライスタイプ、インターモードの予測方向のうち少なくとも一つを考慮し、階層的パターン情報または稠密パターン情報に選択的に符号化された現在符号化単位のパターン情報を抽出することができる。
一実施形態によるデータ抽出部1520は、一実施形態による階層的データ単位による階層的パターン情報、または一実施形態による稠密パターン情報が符号化されたか否かを示すパターン情報種類情報を抽出することができる。例えば、一実施形態によるデータ抽出部1520は、現在パターン情報が階層的パターン情報であるか否かを示すフラグ形態のパターン情報種類情報を読み取り、現在符号化単位のパターン情報が、階層的パターン情報及び稠密パターン情報であるか否かを決定することもできる。
または、さまざまなパターン情報を指し示すインデックス形態で表現されたパターン情報の種類情報を読み取り、抽出されたパターン情報が、階層的パターン情報、カラー成分別グループパターン情報、単一レベルパターン情報、反転パターン情報などの多様なパターン情報のうち、いずれか一つであるかを決定することができる。
一実施形態による復号化部1530は、データ抽出部1520から、符号化モードについての情報、及び符号化されたビデオデータを入力され、符号化深度及び符号化モードについての情報に基づいて、符号化されたビデオデータの少なくとも1つの符号化深度の符号化単位別に、符号化されたビデオデータを復号化する。
復号化されて復元されたビデオデータは、再生可能な各種端末に伝送されたり、保存機器に保存されてもよい。
一実施形態による、階層的データ単位のパターン情報を利用するビデオ符号化装置1400、及び一実施形態による、階層的データ単位のパターン情報を利用するビデオ復号化装置1500は、符号化単位パターン情報の稠密度に基づいて、パターン情報を適用するデータ単位を決定することができる。例えば、符号化単位パターン情報が稠密ではないならば、最大符号化単位レベルの最大符号化単位パターン情報を利用することによって、ビットレートを向上させることができる。ただし、符号化単位パターン情報がコンパクトであるならば、最大符号化単位パターン情報を利用しないことが、ビットレート面で有利である。従って、一実施形態によって、パターン情報の適用データ単位を選択的に調節することによって、ビットストリームの伝送効率をさらに向上させることができる。
以下、図18ないし図26を参照し、本発明の多様な実施形態による階層的データ単位のパターン情報が開示する。
図18は、本発明の一実施形態による最大符号化単位及び符号化深度の符号化単位の階層的構造を図示している。
一実施形態によるパターン情報について説明するために、符号化深度である深度1の符号化単位1620,1622,1624,1626を含む最大符号化単位1610を例として挙げる。最大符号化単位パターン情報が利用されない第1実施形態と、最大符号化単位パターン情報が利用される第2実施形態とについて以下で説明する。
まず、最大符号化単位1610に変換係数が全くない場合(以下、「場合1」とする)を想定する。
第1実施形態では、最大符号化単位1610に係わるパターン情報の符号化なしに、符号化単位1620,1622,1624,1626に対してパターン情報が符号化される。すなわち、符号化単位1620,1622,1624,1626に対して、それぞれ変換深度0の変換単位の符号化単位パターン情報が「0」に符号化される。従って、場合1に係わる第1実施形態のパターン情報は、「0000」、総4ビットで出力される。
また、場合1に係わる第2実施形態では、最大符号化単位1610に対して、最大符号化単位パターン情報が「0」に符号化され、符号化単位1620,1622,1624,1626に係わるパターン情報は、設定される必要がない。従って、場合1に係わる第2実施形態のパターン情報は、「0」、総1ビットで出力される。
従って、最大符号化単位1610に変換係数が全くない場合には、最大符号化単位パターン情報が利用されることによって、ビットレート面で有利である。
第二に、最大符号化単位1610に変換係数が存在し、符号化単位1622,1626について変換係数がなく、符号化単位1620,1624の変換深度2の変換単位の変換係数が存在する場合(以下、「場合2」とする)を想定する。
第1実施形態では、最大符号化単位1610に係わるパターン情報の符号化なしに、符号化単位1620,1622,1624,1626に係わるパターン情報として、深度1の符号化単位1620,1622,1624,1626の階層的符号化単位パターン情報「1」;符号化単位1620の変換深度0の変換単位の階層的符号化単位パターン情報「1」、変換深度1の階層的符号化単位パターン情報「1」、及び符号化単位パターン情報「1100」;符号化単位1622の変換深度0の変換単位の階層的符号化単位パターン情報「0」;符号化単位1624の変換深度0の変換単位の階層的符号化単位パターン情報「1」、変換深度1の階層的符号化単位パターン情報「1」及び符号化単位パターン情報「1110」;及び符号化単位1626の変換深度0の変換単位の階層的符号化単位パターン情報「0」が設定される。従って、場合1に係わる第1実施形態のパターン情報は、「1111000111100」、総13ビットで出力される。
第2実施形態では、最大符号化単位1610に対して、最大符号化単位パターン情報が「1」でもって符号化され、以下、符号化単位1620,1622,1624,1626に係わるパターン情報として、深度1の符号化単位1620,1622,1624,1626の階層的符号化単位パターン情報「1」;符号化単位1620の変換深度0の変換単位の階層的符号化単位パターン情報「1」、変換深度1の階層的符号化単位パターン情報「1」及び符号化単位パターン情報「1100」、符号化単位1622の変換深度0の変換単位の階層的符号化単位パターン情報「0」;符号化単位1624の変換深度0の変換単位の階層的符号化単位パターン情報「1」、変換深度1の階層的符号化単位パターン情報「1」及び符号化単位パターン情報「1110」;及び符号化単位1626の変換深度0の変換単位の階層的符号化単位パターン情報「0」が設定される。従って、場合2に係わる第2実施形態のパターン情報は、「11111000111100」、総14ビットで出力される。
従って、最大符号化単位内で、符号化単位パターン情報が稠密である場合には、最大符号化単位パターン情報を使用しない場合が、ビットレート面で有利である。
従って、一実施形態による階層的データ単位のパターン情報を利用するビデオ符号化装置1400は、最大符号化単位の符号化単位パターン情報の稠密度を分析し、パターン情報を適用するデータ単位のレベルを調節することができる。以上、最大符号化単位パターン情報についてのみ説明したが、本発明は、これに限定されるものではなく、最大符号化単位内の所定深度の符号化単位、複数の最大符号化単位グループなど、所定データ単位について応用されもする。
図19、図20A、図20B、図21A、図21B及び図21Cは、多様な実施形態によるグループパターン情報を利用した符号化過程のフローチャートである。
一実施形態によるビデオ符号化装置1400の出力部1430は、ビデオデータのカラー成分別にパターン情報を符号化することができる。例えば、LUMA成分係数のデータ単位に係わるLUMAパターン情報、Cb成分係数のデータ単位に係わるCbパターン情報、Cr成分係数のデータ単位に係わるCrパターン情報が、それぞれ符号化される。
また、一実施形態による出力部1430は、1つのデータ単位のカラー成分別ビデオデータに係わるグループパターン情報を符号化した後、カラー成分別パターン情報を符号化することもできる。
図19によれば、段階1910で、グループパターン情報(グループCBF)が、現在データ単位のLUMA成分、Cb成分及びCr成分のビデオデータについて設定される。段階1910で、グループパターン情報が0に設定されれば、現在データ単位に係わるパターン情報設定動作は終了し、グループパターン情報が1に設定されれば、段階1920,1930及び1940に進み、カラー成分別に、LUMAパターン情報(LUMA CBF、Cbパターン情報(Cb CBF)及びCrパターン情報(Cr CBF)が設定される。
段階1920で、LUMAパターン情報が1に設定されれば、段階1925に進んでLUMA成分の係数が符号化され、0に設定されれば、LUMA成分係数に係わる符号化動作は省略される。同様に、段階1930で、Cbパターン情報が1に設定されれば、段階1935に進んでCb成分の係数が符号化され、0に設定されれば、Cb成分係数に係わる符号化動作は省略される。同様に、段階1940で、Crパターン情報が1に設定されれば、段階1945に進んでCr成分の係数が符号化され、0に設定されれば、Cr成分係数に係わる符号化動作は省略される。
図20A及び図20Bによれば、現在データ単位のLUMA成分係数に係わるLUMAパターン情報は、別途に設定され(フローチャート2000)、グループパターン情報がクロマ成分係数、すなわち、Cb成分係数及びCr成分係数について設定される(フローチャート2020)。
段階2010で、現在データ単位のLUMA成分係数に係わるLUMAパターン情報が1に設定されれば、段階2015に進んでLUMA成分係数が符号化され、0に設定されれば、LUMA成分係数に係わる符号化動作は省略される。
段階2030で、グループパターン情報が、現在データ単位のCb成分及びCr成分のビデオデータについて設定される。段階2030で、グループパターン情報が0に設定されれば、現在データ単位に係わるパターン情報設定動作は終了し、Cb成分係数及びCr成分係数の符号化動作も終了する。段階2030で、グループパターン情報が1に設定されれば、段階2040及び2050に進み、Cbパターン情報及びCrパターン情報が符号化されもする。
段階2040(または段階2050)で、Cbパターン情報(またはCrパターン情報)が1に設定されれば、段階2045(または段階2055)に進んでCb成分係数(またはCr成分係数)が符号化され、Cbパターン情報(またはCrパターン情報)が0に設定されれば、Cb成分係数(またはCr成分係数)に係わる符号化動作は省略される。
図21A、図21B及び図21Cによれば、現在データ単位のLUMAパターン情報は、別途に設定され、LUMAパターン情報の設定値によって、現在データ単位のクロマ成分係数に係わるグループパターン情報が設定されるか否かが決定されもする。
例えば、LUMAパターン情報の設定値が1である場合、カラー成分を考慮したグループパターン情報は、符号化されず(フローチャート2100,2120)、LUMAパターン情報の設定値が0である場合、Cb成分係数及びCr成分係数に係わるグループパターン情報が符号化される(フローチャート2140)。
すなわち、現在データ単位に、0ではないLUMA係数が存在し、LUMAパターン情報が1に設定されれば、段階2110で、0ではないCb成分係数の存在いかんによって、Cbパターン情報が設定され、0ではないCb成分係数は符号化する(段階2115)。同様に、段階2130で、0ではないCr成分係数の存在いかんによって、Crパターン情報が設定され、0ではないCr成分係数は、符号化される(段階2135)。
また、現在データ単位に、0ではないLUMA係数が存在せず、LUMAパターン情報が0に設定されれば、段階2150で、現在データ単位に、0ではないCb成分係数及びCr成分係数の存在いかんによって、グループパターン情報が設定される。段階2150で、0ではないCb成分係数及びCr成分係数がないので、グループパターン情報が0に設定されれば、現在データ単位のCbパターン情報及びCrパターン情報の設定動作と、Cb成分係数及びCr成分係数の符号化動作は、終了する。
段階2150で、現在データ単位に、0ではないCb成分係数及びCr成分係数が存在し、グループパターン情報が1に設定されれば、段階2160及び2170に進み、Cbパターン情報及びCrパターン情報が符号化される。段階2160で、0ではないCb成分係数の存在いかんによって、Cbパターン情報が設定され、0ではないCb成分係数は、符号化される(段階2165)。同様に、段階2170で、0ではないCr成分係数の存在いかんによって、Crパターン情報が設定され、0ではないCr成分係数は、符号化される(段階2175)。
従って、一実施形態によるビデオ復号化装置1500のデータ抽出部1520は、ビデオデータのカラー成分別に、パターン情報を抽出することができる。また、一実施形態によるデータ抽出部1520は、1つのデータ単位のカラー成分別ビデオデータに係わるグループパターン情報を抽出した後、グループパターン情報の判読結果によって、カラー成分別パターン情報を抽出することもできる。
一実施形態によるビデオ符号化装置1400の出力部1430は、階層的データ単位のパターン情報の稠密度を向上させるための形態の稠密パターン情報を出力することができる。
図22及び図23は、多様な実施形態による階層的データ単位パターン情報と、単一レベルパターン情報との符号化過程のフローチャートを比較する
図22及び図23では、説明の便宜のために、変換深度によって、上位変換深度の変換単位は、4個の下位変換深度の変換単位に均等分割される実施形態を仮定する。ただし、本発明の変換単位のパターン情報は、これに限定されるものではなく、上位変換深度の変換単位が、多様な形態の下位変換深度の変換単位に分割される場合に適用されもする。
図22は、一実施形態による階層的データ単位のパターン情報を利用した符号化過程のフローチャートである。変換単位が変換深度nで決定されるならば、変換単位のパターン情報は、変換単位0からnまでのパターン情報がいずれも設定されねばならない。
具体的に説明すれば、段階2210で、変換深度0である変換単位のパターン情報が符号化される。変換深度0である変換単位のパターン情報が0であるならば、変換単位の係数は、符号化されない。段階2210で、変換深度0である変換単位のパターン情報が1に設定されれば、変換深度0である変換単位が分割された、変換深度1の4個の変換単位のパターン情報が符号化される(段階2220,2222,2224,2226)。段階2220,2222,2224及び2226で、それぞれの変換深度1である変換単位のパターン情報の設定値に基づいて、下位変換深度の変換単位のパターン情報を符号化するか否かが決定される。変換深度が増大することによって、0から2^(2n)−1まで最大総2^(2n)個の変換深度nである変換単位に対してパターン情報が符号化される(段階2230,2232,2234,2236)。
図23は、一実施形態による稠密パターン情報のうち、単一レベルパターン情報の符号化過程のフローチャートである。ツリー構造による変換単位が、変換深度nで決定されるならば、単一レベルパターン情報は、変換深度nの変換単位のパターン情報だけで表現される。すなわち、一実施形態による単一レベルパターン情報として、最大総2^(2n)個の変換深度nの変換単位のパターン情報が符号化される(段階2310,2312,2314,2316)。一実施形態による単一レベルパターン情報を利用することによって、現在符号化単位内のツリー構造による変換単位ではない、一般変換深度の変換単位のパターン情報が省略される。
図24は、一実施形態による反転パターン情報の概念を図示している。
一実施形態による反転パターン情報は、イントラモードの符号化単位の変換単位について設定されることが望ましい。一実施形態による反転パターン情報は、現在符号化単位内のツリー構造による変換単位のパターン情報の設定値が、0は1に、1は0に反転された状態について、設定されたビット値を示す。
原本符号化単位2410,2430,2440,2460は、それぞれ変換深度1である変換単位で構成されている。原本符号化単位2410,2430,2440,2460内に記載された数字は、それぞれの変換単位のパターン情報を示す。イントラモードの原本符号化単位2410,2430,2440,2460の変換単位のうちパターン情報は、0ではない傾向がさらに強い。
原本符号化単位2410がパターン情報1,0,1,1の変換単位で構成されているので、変換単位パターン情報が反転された符号化単位2420は、パターン情報0,1,0,0の変換単位で構成される。すなわち、符号化単位2410の原本階層的パターン情報(原本CBF)は、変換深度0で「1」、変換深度1で「1011」に符号化される一方、符号化単位2420の反転パターン情報は、変換深度0で「1」、変換深度1で「0100」に符号化される。
原本符号化単位2430がパターン情報1,1,1,1の変換単位で構成されているので、変換単位パターン情報が反転された符号化単位2440は、パターン情報0,0,0,0の変換単位で構成される。すなわち、符号化単位2430の原本階層的パターン情報は、変換深度0で「1」、変換深度1で「1111」に符号化される一方、符号化単位2440の反転パターン情報は、変換深度0で「0」にのみ符号化される。
原本符号化単位2450がパターン情報1,0,1,1の変換単位で構成された場合、符号化単位2450の原本階層的パターン情報は、変換深度0で「1」、変換深度1で「1100」に符号化される一方、変換単位パターン情報が反転された符号化単位2460の変換単位のパターン情報は、0,1,0,0になりつつ、符号化単位2460の反転パターン情報は、変換深度0で「1」、変換深度1で「0011」に符号化される。
原本符号化単位2470も、パターン情報1,1,1,1の変換単位で構成された場合、符号化単位2470の原本階層的パターン情報(原本CBF)は、変換深度0で「1」、変換深度1で「1111」に符号化される一方、変換単位のパターン情報が反転された符号化単位2480の変換単位のパターン情報は、0,0,0,0になりつつ、符号化単位2480の反転パターン情報は、変換深度0で「0」にのみ符号化される。
図25は、多様な実施形態による稠密パターン情報の符号化過程のフローチャートである。
段階2510で、現在符号化単位に対して所定条件が満足されるとき、段階2530で、一実施形態によるビデオ符号化装置1400の出力部1430は、現在符号化単位に対して稠密パターン情報を符号化することができる。例えば、稠密パターン情報を符号化するための所定条件とは、現在符号化単位の予測モードがイントラモード(またはインターモード)である条件、量子化パラメータが臨界値より小さい条件、クロマ成分係数(またはLUMA成分係数)である条件などを含んでもよい。一実施形態による稠密パターン情報は、単一レベルパターン情報、反転パターン情報などを含んでもよい。
段階2510で、現在符号化単位に対して所定条件が満足されない場合、段階2520で、一実施形態によるビデオ符号化装置1400の出力部1430は、現在符号化単位に対して、一実施形態による階層的データ単位によるパターン情報が符号化される。具体的には、一実施形態による階層的符号化単位パターン情報が符号化され、階層的符号化単位パターン情報に基づいて、階層的には、下位変換深度の変換単位に係わるテクスチャ関連情報及び符号化単位パターン情報の符号化いかんが決定することができる。
イントラモード、LUMA成分係数、量子化パラメータが小さい場合のデータ単位は、0ではない係数が多く、パターン情報の稠密度が高い傾向があるので、一実施形態による稠密パターン情報が有用に利用される。
従って、一実施形態によるビデオ復号化装置1500のデータ抽出部1520は、所定条件によって符号化された稠密パターン情報を抽出することができる。一実施形態による稠密パターン情報は、所定規則によって、パターン情報の表現方式が変形された実施形態であるから、一実施形態によるデータ抽出部1520は、あらかじめ決まった規則によって、稠密パターン情報を正しく判読し、当該データ単位の係数を抽出することができる。
図26は、一実施形態による変換インデックスとパターン情報との復号化過程のフローチャートである。
符号化単位内に、0ではない係数が存在するときにのみ、符号化単位のための変換インデックス情報が有効であるので、一実施形態によるビデオ符号化装置1400の出力部1430は、0ではない係数が存在する符号化単位でのみ変換インデックス情報を符号化することができる。従って、一実施形態によるビデオ復号化装置1500のデータ抽出部1520は、段階2610で、現在符号化単位のパターン情報をパージングし、パターン情報が0であるならば、変換インデックス情報をパージングする必要もなく、現在符号化単位に係わる復号化動作が終了する。段階2610で、現在符号化単位のパターン情報が1であるならば、段階2620で、現在符号化単位の符号化モードについての情報のうち、変換インデックスがパージングされる。
段階2610で、現在符号化単位と同じ変換深度0の変換単位パターン情報をパージングし、パターン情報が0であるならば、現在符号化単位の変換インデックス情報をパージングする必要もなく、現在変換単位に係わる復号化動作が終了する。段階2610で、変換深度0の変換単位パターン情報が1であるならば、段階2620で、変換単位の変換インデックスがパージングされる。
段階2620で、現在符号化単位の変換インデックスが0であるならば、下位変換深度の変換単位に分割される必要なく、現在符号化単位の係数がパージングされる。パージングされた係数は、パージングされた符号化情報に基づいて、復号化されもする。段階2620で、変換インデックスが1以上であるならば、変換深度0の変換単位が、変換深度1の変換単位に分割され、それぞれの変換深度1の変換単位の変換単位パターン情報がパージングされる(段階2640,2642,2644,2646)。
段階2650で、変換インデックスが2より小さければ、すなわち、変換インデックスが1であるならば、段階2660で、変換深度1の変換単位の係数がパージングされる。パージングされた係数は、パージングされた符号化情報に基づいて、復号化される。段階2650で、変換インデックスが2以上であるならば、すなわち、変換単位の変換深度が2以上であるならば、さらに変換深度1の変換単位が変換深度2の変換単位に分割され、それぞれの変換深度2の変換単位の変換単位パターン情報がパージングされる(段階2670,2672,2674,2646)。
変換インデックスによってそれぞれの変換単位が変換深度に達するまで、前記のような過程が反復される。従って、現在符号化単位の変換単位パターン情報のうち、最上位変換深度0の変換単位パターン情報が0ではない場合、変換インデックス情報は、ただ1回パージングされるのに対し(段階2620)、変換単位パターン情報は、変換深度ほど変換深度別に、変換単位パターン情報がパージングすることができる(段階2610,2640,2642,2644,2646,2670,2672,2674,2676)。
図27は、本発明の一実施形態によって、階層的データ単位のパターン情報を利用するビデオ符号化方法のフローチャートである。
段階2710で、ピクチャが、所定最大サイズの符号化単位に分割される。
段階2720で、それぞれの最大符号化単位に対して、深度別に分割されて縮小された領域別に、少なくとも1つの深度別符号化単位ごとに、少なくとも1つの変換単位に基づいた変換を伴う符号化が行われる。符号化結果のうち、最小符号化誤差が発生する少なくとも1つの符号化深度及び変換単位のサイズについての情報を含む符号化深度の符号化単位に係わる符号化モードが選択されてもよい。
段階2730で、最大符号化単位ごとに、パターン情報及び符号化モードについての情報及び符号化されたビデオデータを出力する。符号化されたビデオデータのテクスチャ情報は、パターン情報に基づいて、出力いかんが決定することができる。一実施形態に係わるパターン情報は、符号化モードによる最大符号化単位、符号化単位及び変換単位の階層的構造に基づいて設定され、階層的符号化単位パターン情報、最大符号化単位パターン情報及び符号化単位パターン情報を含んでもよい。
一実施形態に係わるパターン情報は、カラー成分別係数の変換単位に係わるグループパターン情報、パターン情報の稠密度によって表現方式が変形される単一レベルパターン情報、及び反転パターン情報をさらに含んでもよい。
一実施形態による階層的パターン情報、一実施形態によるグループパターン情報、一実施形態による稠密パターン情報などの多様なパターン情報のうち、いずれのパターン情報が符号化されるということは、現在符号化単位の符号化深度、符号化モードなどによって決定される。いずれのパターン情報が符号化されるかを示すパターン情報種類の情報が符号化されもする。
図28は、本発明の一実施形態によって、階層的データ単位のパターン情報を利用するビデオ復号化方法のフローチャートである。
段階2810で、符号化されたビデオに係わるビットストリームが受信されてパージングされる。
段階2820で、パージングされたビットストリームから、最大符号化単位別に、少なくとも1つの符号化深度の符号化単位に係わる符号化モードについての情報、及び最大符号化単位別にテクスチャ関連情報の符号化いかんを示すパターン情報が抽出される。また、符号化モードについての情報及びパターン情報に基づいて、パージングされたビットストリームから、最大符号化単位別に符号化されたビデオデータが抽出される。
特に、パターン情報のうち、最大符号化単位、符号化単位及び変換単位の階層的構造に基づく最大符号化単位パターン情報、階層的符号化単位パターン情報、及び符号化単位パターン情報を利用し、最大符号化単位の符号化深度別符号化単位ごとに、変換単位のテクスチャ情報の抽出いかんが決定することができる。一実施形態で、グループパターン情報に基づいて、カラー成分別係数の変換単位に係わるパターン情報が抽出されもする。一実施形態による単一レベルパターン情報または反転パターン情報は、パターン情報の稠密度によって、表現方式を変更して判読されねばならない。
一実施形態による変換深度0である変換単位パターン情報が0である場合、現在変換単位に係わる変換インデックス情報は、パージングされる必要がない。
抽出されたパターン情報が、一実施形態による階層的パターン情報、一実施形態によるグループパターン情報、一実施形態による稠密パターン情報などの多様なパターン情報のうち、いずれのパターン情報であるかということは、現在符号化単位の符号化深度、符号化モードなどによって決定されもする。いずれのパターン情報が符号化されるかということを示すパターン情報種類の情報が抽出され、パターン情報種類の情報に基づいて、現在符号化単位のパターン情報が読み取られもする。
段階2830で、符号化モードについての情報に基づいて、少なくとも1つの符号化深度の符号化単位別に符号化されたビデオデータが復号化され、ビデオデータが復元されもする。
一実施形態によるビデオ符号化及びビデオ復号化は、大容量データのビデオに係わる映像処理のために、大型データ単位の符号化及び復号化を行う。これにより、広く平坦な領域のデータ単位または空間的に動きのないピクチャのデータ単位については、パターン情報が稠密しなく発生できる。また、Pixcel値が複雑なピクチャについては、パターン情報が稠密に発生しうる。従って、ピクチャのパターン情報の稠密度によって、パターン情報の適用レベルを調節することによって、パターン情報の伝送効率が向上しうる。
一方、前述の本発明の実施形態は、コンピュータで実行されるプログラムで作成可能であり、コンピュータで読み取り可能な記録媒体を利用し、前記プログラムを動作させる汎用デジタル・コンピュータで具現されもする。前記コンピュータで読み取り可能な記録媒体は、マグネチック記録媒体(例えば、ROM(read-only memory)、フロッピー(登録商標)ディスク、ハードディスクなど)、及び光学的判読媒体(例えば、CD−ROM、DVDなど)のような記録媒体を含んでもよい。
以上、本発明について、その望ましい実施形態を中心に説明した。本発明が属する技術分野で当業者であるならば、本発明が本発明の本質的な特性から外れない範囲で変形された形態で具現されもするということを理解することができるであろう。従って、開示された実施形態は、限定的な観点ではなく、説明的な観点から考慮されねばならない。本発明の範囲は、前述の説明ではなく、特許請求の範囲に示されており、それと同等な範囲内にあるあらゆる差異点は、本発明に含まれたものであると解釈されねばならないのである。
以下、本願により教示される手段を例示的に列挙する。
(付記1)
ピクチャを符号化するためのデータ単位として、最大サイズの最大符号化単位より小さい符号化単位を含む少なくとも1つの最大符号化単位に、前記ピクチャを分割する段階と、
前記符号化単位に対して、前記最大符号化単位が、前記符号化単位に分割される回数を示す前記符号化単位の深度によって、少なくとも1つの深度別符号化単位ごとに、変換単位に基づいた変換及び符号化を行い、前記変換単位のサイズについての情報を含む符号化深度の符号化単位に係わる符号化モードを決定し、前記決定された符号化深度の符号化単位を含むツリー構造による符号化単位を決定する段階と、
前記最大符号化単位ごとに、前記符号化モードによる最大符号化単位、符号化単位及び変換単位の階層的構造に基づいて、テクスチャ関連情報の符号化いかんを示すパターン情報、前記符号化モードについての情報及び符号化されたビデオデータを出力する段階と、を含み、
前記決定された符号化深度及び前記決定された符号化モードの符号化単位で、前記ピクチャの最小符号化誤差が生じることを特徴とする階層的データ単位のパターン情報を利用するビデオ符号化方法。
(付記2)
前記パターン情報は、
前記最大符号化単位の前記少なくとも1つの符号化深度の符号化単位において、それぞれの符号化単位ごとに、それぞれの変換単位に基づいたテクスチャ関連情報の符号化いかんを示す符号化単位パターン情報を含み、
前記パターン情報は、前記最大符号化単位のテクスチャ関連情報の符号化いかんを示す最大符号化単位パターン情報をさらに含むことを特徴とする付記1に記載の階層的データ単位のパターン情報を利用するビデオ符号化方法。
(付記3)
前記出力段階は、
前記それぞれの符号化単位ごとに、少なくとも1つの変換単位において、それぞれの変換単位ごとに、下位変換深度の変換単位のテクスチャ関連情報及び符号化単位パターン情報の符号化いかんを示す階層的符号化単位パターン情報をさらに出力することを特徴とする付記2に記載の階層的データ単位のパターン情報を利用するビデオ符号化方法。
(付記4)
前記出力段階は、
前記最大符号化単位の前記少なくとも1つの符号化深度の符号化単位において、それぞれの符号化単位ごとに、カラー成分のうち少なくとも一つを含むカラー成分組み合わせのカラー成分別に、テクスチャ関連情報が符号化されるか否かを示すグループパターン情報を符号化する段階を含み、
前記グループパターン情報に基づいて、前記カラー成分組み合わせのそれぞれのカラー成分別パターン情報の符号化いかんを決定する段階をさらに含むことを特徴とする付記1に記載の階層的データ単位のパターン情報を利用するビデオ符号化方法。
(付記5)
前記出力段階は、
所定条件によって、前記最大符号化単位、符号化深度の符号化単位及び変換深度の変換単位の階層的構造による階層的パターン情報、前記変換深度の変換単位だけのパターン情報を示す単一レベルパターン情報、及び前記変換深度の変換単位のパターン情報のビット値を反転した反転パターン情報のうちいずれか一つを符号化するということを決定する段階をさらに含むことを特徴とする付記1に記載の階層的データ単位のパターン情報を利用するビデオ符号化方法。
(付記6)
符号化されたビデオに係わるビットストリームを受信してパージングする段階と、
前記パージングされたビットストリームから、ピクチャを符号化するための最大サイズのデータ単位の少なくとも1つの最大符号化単位別に、少なくとも1つの符号化深度の符号化単位に係わる符号化モードについての情報、並びに前記最大符号化単位別に、前記符号化モードによる最大符号化単位、符号化単位及び変換単位の階層的構造に基づいて、テクスチャ関連情報の符号化いかんを示すパターン情報を抽出し、前記符号化モードについての情報及びパターン情報に基づいて、前記パージングされたビットストリームから、前記少なくとも1つの最大符号化単位別に符号化されたビデオデータを抽出する段階と、
前記符号化モードについての情報に基づいて、前記少なくとも1つの符号化深度の符号化単位別に符号化されたビデオデータを復号化する段階と、を含み、
前記ピクチャは、前記少なくとも1つの最大符号化単位から、前記深度別符号化単位に階層的に分割され、前記符号化単位は、前記符号化深度によって独立して分割されることを特徴とする階層的データ単位のパターン情報を利用するビデオ復号化方法。
(付記7)
前記抽出段階は、
前記パターン情報に基づいて、前記最大符号化単位の前記少なくとも1つの符号化深度の符号化単位において、それぞれの符号化単位ごとにそれぞれの変換単位に基づいたテクスチャ関連情報の抽出いかんを決定する段階を含むことを特徴とする付記6に記載の階層的データ単位のパターン情報を利用するビデオ復号化方法。
(付記8)
前記抽出段階は、
前記パージングされたビットストリームから階層的符号化単位パターン情報をさらに抽出し、前記階層的符号化単位パターン情報に基づいて、前記それぞれの符号化単位ごとに、少なくとも1つの変換単位において、それぞれの変換単位ごとにテクスチャ関連情報及び符号化単位パターン情報の抽出いかんを決定する段階をさらに含むことを特徴とする付記7に記載の階層的データ単位のパターン情報を利用するビデオ復号化方法。
(付記9)
前記抽出段階は、
前記パージングされたビットストリームから、最大符号化単位パターン情報をさらに抽出し、前記最大符号化単位パターン情報に基づいて、前記最大符号化単位のテクスチャ関連情報の抽出いかんを決定する段階をさらに含むことを特徴とする付記8に記載の階層的データ単位のパターン情報を利用するビデオ復号化方法。
(付記10)
前記抽出段階は、
前記パージングされたビットストリームから、前記最大符号化単位の前記符号化深度の符号化単位ごとに、カラー成分のうち少なくとも一つを含むカラー成分組み合わせのカラー成分別に、テクスチャ関連情報が符号化されるか否かを示すグループパターン情報を抽出する段階を含み、
前記グループパターン情報に基づいて、前記カラー成分組み合わせのそれぞれのカラー成分別パターン情報の抽出いかんを決定する段階をさらに含むことを特徴とする付記6に記載の階層的データ単位のパターン情報を利用するビデオ復号化方法。
(付記11)
前記抽出段階は、
前記抽出されたパターン情報が、所定条件によって、前記最大符号化単位、符号化深度の符号化単位及び変換深度の変換単位の階層的構造による階層的パターン情報、前記変換深度の変換単位だけのパターン情報を示す単一レベルパターン情報、及び前記変換深度の変換単位のパターン情報のビット値を反転した反転パターン情報のうちいずれか一つであるかを決定する段階をさらに含むことを特徴とする付記6に記載の階層的データ単位のパターン情報を利用するビデオ復号化方法。
(付記12)
ピクチャを符号化するためのデータ単位として、最大サイズの最大符号化単位より小さい符号化単位を含む少なくとも1つの最大符号化単位に、前記ピクチャを分割する最大符号化単位分割部と、
前記符号化単位に対して、前記最大符号化単位が、前記符号化単位に分割される回数を示す前記符号化単位の深度によって、少なくとも1つの深度別符号化単位ごとに、変換単位に基づいた変換及び符号化を行い、前記変換単位のサイズについての情報を含む符号化深度の符号化単位に係わる符号化モードを決定し、前記決定された符号化深度の符号化単位を含むツリー構造による符号化単位を決定する符号化単位及び符号化モード決定部と、
前記最大符号化単位ごとに、前記符号化モードによる最大符号化単位、符号化単位及び変換単位の階層的構造に基づいて、テクスチャ関連情報の符号化いかんを示すパターン情報、前記符号化モードについての情報及び符号化されたビデオデータを出力する出力部と、を含み、
前記決定された符号化深度及び前記決定された符号化モードの符号化単位で、前記ピクチャの最小符号化誤差が生じることを特徴とする階層的データ単位のパターン情報を利用するビデオ符号化装置。
(付記13)
符号化されたビデオに係わるビットストリームを受信してパージングする受信部と、
前記パージングされたビットストリームから、最大符号化単位別に、少なくとも1つの符号化深度の符号化単位に係わる符号化モードについての情報、及び前記最大符号化単位別に、前記符号化モードによる最大符号化単位、符号化単位及び変換単位の階層的構造に基づいて、テクスチャ関連情報の符号化いかんを示すパターン情報を抽出し、前記符号化モードについての情報及びパターン情報に基づいて、前記パージングされたビットストリームから、前記最大符号化単位別に符号化されたビデオデータを抽出するデータ抽出部と、
前記符号化モードについての情報に基づいて、前記少なくとも1つの符号化深度の符号化単位別に符号化されたビデオデータを復号化する復号化部と、を含み、
前記ピクチャは、前記少なくとも1つの最大符号化単位から、前記深度別符号化単位に階層的に分割され、前記符号化単位は、前記符号化深度によって独立して分割されることを特徴とする階層的データ単位のパターン情報を利用するビデオ復号化装置。
(付記14)
付記1に記載の階層的データ単位のパターン情報を利用するビデオ符号化方法を具現するためのプログラムが記録されたコンピュータで読み取り可能な記録媒体。
(付記15)
付記6に記載の階層的データ単位のパターン情報を利用するビデオ復号化方法を具現するためのプログラムが記録されたコンピュータで読み取り可能な記録媒体。
特開2008−172599号公報
Jaeil Kim,et.al.,Enlarging MB size for high fidelity video coding beyond HD,ITU-Telecommunications Standardization Sector STUDY GROUP 16 Question 6 ideo Coding Experts Group VCEG-AF21,ST,2008年10月

Claims (2)

  1. ビットストリームから獲得した分割情報を利用して1つ以上の符号化単位を決定する段階と、
    前記1つ以上の符号化単位のうち現在符号化単位が少なくとも1つの0ではない変換係数を含むか否かを示す符号化単位パターン情報を獲得する段階と、
    前記符号化単位パターン情報が 前記現在符号化単位が少なくとも1つの0ではない変換係数を含むことを示す時、前記現在符号化単位に含まれた変換深度0の変換単位が少なくとも1つの0ではない変換係数を含むか否かを示す変換深度0の変換単位パターン情報及び前記変換深度0の変換単位が変換深度1の変換単位で分割されるか否かを示す変換インデックス情報を前記ビットストリームから獲得する段階と、
    前記変換インデックス情報が前記変換深度0の変換単位が前記変換深度1の変換単位で分割されることを示すと、前記変換深度0の変換単位を変換深度1の変換単位で分割変換深度1の変換単位のうち、いずれか1つの変換深度1の変換単位についての変換深度1のパターン情報を獲得する段階とを含み、
    前記変換深度1のパターン情報は前記変換深度1の変換単位少なくとも1つの0でない変換係数を含むか否かを示し、
    前記変換深度1の変換単位は、前記変換深度0の変換単位の高さ及び幅が分割されて決定された正方形の変換単位であり、
    前記変換深度1の変換単位は、前記変換深度0の変換単位よりレベルの低い4つの変換単位であることを特徴とする復号化方法。
  2. 現在符号化単位が少なくとも1つの0ではない変換係数を含むか否かを示す符号化単位パターン情報をビットストリームから獲得し、前記符号化単位パターン情報が前記現在符号化単位が少なくとも1つの0ではない変換係数を含むことを示す時、前記現在符号化単位に含まれた変換深度0の変換単位が少なくとも1つの0ではない変換係数を含むか否かを示す変換深度0の変換単位パターン情報及び前記変換深度0の変換単位が変換深度1の変換単位で分割されるか否かを示す変換インデックス情報を前記ビットストリームから獲得する抽出部と、
    前記変換インデックス情報が前記変換深度0の変換単位が前記変換深度1の変換単位で分割されることを示すと、前記変換深度0の変換単位を変換深度1の変換単位で分割する復号化部とを備え、
    前記抽出部は変換深度1の変換単位のうち、いずれか1つの変換深度1の変換単位についての変換深度1のパターン情報を獲得し、
    前記変換深度1のパターン情報は前記変換深度1の変換単位少なくとも1つの0でない変換係数を含むか否かを示し、
    前記変換深度1の変換単位は、前記変換深度0の変換単位高さ及び幅分割されて決定された正方形の変換単位であり、
    前記変換深度1の変換単位は、前記変換深度0の変換単位よりレベルの低い4つの変換単位であることを特徴とする復号化装置。
JP2015087008A 2010-01-14 2015-04-21 復号化方法及び復号化装置 Active JP5969082B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2010-0003557 2010-01-14
KR1020100003557A KR101703327B1 (ko) 2010-01-14 2010-01-14 계층적 데이터 단위의 패턴 정보를 이용하는 비디오 부호화 방법과 그 장치, 및 비디오 복호화 방법과 그 장치

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2012548888A Division JP5980688B2 (ja) 2010-01-14 2011-01-13 復号化方法及び復号化装置

Publications (2)

Publication Number Publication Date
JP2015133761A JP2015133761A (ja) 2015-07-23
JP5969082B2 true JP5969082B2 (ja) 2016-08-10

Family

ID=44258282

Family Applications (6)

Application Number Title Priority Date Filing Date
JP2012548888A Active JP5980688B2 (ja) 2010-01-14 2011-01-13 復号化方法及び復号化装置
JP2015087008A Active JP5969082B2 (ja) 2010-01-14 2015-04-21 復号化方法及び復号化装置
JP2015087007A Active JP5969081B2 (ja) 2010-01-14 2015-04-21 復号化方法及び復号化装置
JP2016134429A Pending JP2016195433A (ja) 2010-01-14 2016-07-06 ビデオ復号化方法及びビデオ復号化装置
JP2016134430A Pending JP2016195434A (ja) 2010-01-14 2016-07-06 復号化方法及び復号化装置
JP2018117121A Pending JP2018164295A (ja) 2010-01-14 2018-06-20 ビデオ復号化方法、ビデオ復号化装置、符号化方法及び記録媒体

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2012548888A Active JP5980688B2 (ja) 2010-01-14 2011-01-13 復号化方法及び復号化装置

Family Applications After (4)

Application Number Title Priority Date Filing Date
JP2015087007A Active JP5969081B2 (ja) 2010-01-14 2015-04-21 復号化方法及び復号化装置
JP2016134429A Pending JP2016195433A (ja) 2010-01-14 2016-07-06 ビデオ復号化方法及びビデオ復号化装置
JP2016134430A Pending JP2016195434A (ja) 2010-01-14 2016-07-06 復号化方法及び復号化装置
JP2018117121A Pending JP2018164295A (ja) 2010-01-14 2018-06-20 ビデオ復号化方法、ビデオ復号化装置、符号化方法及び記録媒体

Country Status (6)

Country Link
US (7) US20110170012A1 (ja)
EP (3) EP2522138A4 (ja)
JP (6) JP5980688B2 (ja)
KR (1) KR101703327B1 (ja)
CN (6) CN104883574B (ja)
WO (1) WO2011087295A2 (ja)

Families Citing this family (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101624649B1 (ko) 2009-08-14 2016-05-26 삼성전자주식회사 계층적인 부호화 블록 패턴 정보를 이용한 비디오 부호화 방법 및 장치, 비디오 복호화 방법 및 장치
KR101703327B1 (ko) * 2010-01-14 2017-02-06 삼성전자 주식회사 계층적 데이터 단위의 패턴 정보를 이용하는 비디오 부호화 방법과 그 장치, 및 비디오 복호화 방법과 그 장치
KR101675118B1 (ko) 2010-01-14 2016-11-10 삼성전자 주식회사 스킵 및 분할 순서를 고려한 비디오 부호화 방법과 그 장치, 및 비디오 복호화 방법과 그 장치
WO2012057470A2 (ko) 2010-10-26 2012-05-03 한양대학교 산학협력단 부호화/복호화 장치 및 그 방법과 이를 구현하기 위한 프로그램이 기록된 기록매체
US8548057B2 (en) 2011-01-25 2013-10-01 Microsoft Corporation Video coding redundancy reduction
US9438906B2 (en) 2011-03-03 2016-09-06 Sun Patent Trust Method of encoding an image into a coded image, method of decoding a coded image, and apparatuses thereof
US9848197B2 (en) 2011-03-10 2017-12-19 Qualcomm Incorporated Transforms in video coding
US11496760B2 (en) 2011-07-22 2022-11-08 Qualcomm Incorporated Slice header prediction for depth maps in three-dimensional video codecs
US9521418B2 (en) 2011-07-22 2016-12-13 Qualcomm Incorporated Slice header three-dimensional video extension for slice header prediction
US9288505B2 (en) 2011-08-11 2016-03-15 Qualcomm Incorporated Three-dimensional video with asymmetric spatial resolution
WO2013039692A1 (en) * 2011-09-16 2013-03-21 Mediatek Singapore Pte. Ltd. Method and apparatus for prediction mode and partition mode syntax coding for coding units in hevc
AU2015230701B2 (en) * 2011-09-16 2017-02-23 Hfi Innovation Inc. Method and apparatus for prediction mode and partition mode syntax coding for coding units in HEVC
WO2013069993A1 (ko) * 2011-11-08 2013-05-16 삼성전자 주식회사 변환블록 크기에 기초한 양자화 파라미터 결정 방법 및 그 장치
US9485503B2 (en) 2011-11-18 2016-11-01 Qualcomm Incorporated Inside view motion prediction among texture and depth view components
US20130128971A1 (en) * 2011-11-23 2013-05-23 Qualcomm Incorporated Transforms in video coding
CN103947193A (zh) * 2011-11-25 2014-07-23 三菱电机株式会社 摄像装置、影像记录装置、影像显示装置、影像监视装置、影像监视系统以及影像监视方法
WO2013107027A1 (en) 2012-01-19 2013-07-25 Mediatek Singapore Pte. Ltd. Methods and apparatuses of cbf coding in hevc
EP2837186B1 (en) * 2012-04-12 2018-08-22 HFI Innovation Inc. Method and apparatus for block partition of chroma subsampling formats
US9749645B2 (en) 2012-06-22 2017-08-29 Microsoft Technology Licensing, Llc Coded-block-flag coding and derivation
SG11201408336RA (en) * 2012-07-02 2015-02-27 Samsung Electronics Co Ltd Method and apparatus for entropy coding video and method and apparatus for entropy decoding video
RU2608354C2 (ru) * 2012-07-02 2017-01-18 Самсунг Электроникс Ко., Лтд. Способ и устройство для кодирования видео и способ и устройство для декодирования видео, определяющие список опорных изображений внешнего прогнозирования в зависимости от размера блока
US9088770B2 (en) 2012-08-15 2015-07-21 Intel Corporation Size based transform unit context derivation
AU2012232992A1 (en) * 2012-09-28 2014-04-17 Canon Kabushiki Kaisha Method, apparatus and system for encoding and decoding the transform units of a coding unit
CN103327336B (zh) * 2013-06-28 2016-08-31 华为技术有限公司 一种三维编码的方法及设备
US9392272B1 (en) 2014-06-02 2016-07-12 Google Inc. Video coding using adaptive source variance based partitioning
US9578324B1 (en) 2014-06-27 2017-02-21 Google Inc. Video coding using statistical-based spatially differentiated partitioning
CN104125469B (zh) * 2014-07-10 2017-06-06 中山大学 一种用于hevc的快速编码方法
KR20170075746A (ko) * 2014-10-31 2017-07-03 삼성전자주식회사 영상을 부호화 또는 복호화 하는 방법 및 장치
EP4138392A1 (en) * 2016-02-05 2023-02-22 HFI Innovation Inc. Method and apparatus of motion compensation based on bi-directional optical flow techniques for video coding
KR102321394B1 (ko) * 2016-08-01 2021-11-03 한국전자통신연구원 영상 부호화/복호화 방법
US10666937B2 (en) * 2016-12-21 2020-05-26 Qualcomm Incorporated Low-complexity sign prediction for video coding
KR20200120605A (ko) 2018-03-12 2020-10-21 삼성전자주식회사 부호화 방법 및 그 장치, 복호화 방법 및 그 장치
AU2018217336A1 (en) * 2018-08-17 2020-03-05 Canon Kabushiki Kaisha Method, apparatus and system for encoding and decoding a transformed block of video samples
JP7337952B2 (ja) * 2019-04-17 2023-09-04 エルジー エレクトロニクス インコーポレイティド Bdpcmを用いた画像符号化/復号化方法、装置、及びビットストリームを伝送する方法

Family Cites Families (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5021891A (en) * 1990-02-27 1991-06-04 Qualcomm, Inc. Adaptive block size image compression method and system
JP3518897B2 (ja) * 1994-09-05 2004-04-12 オリンパス株式会社 情報再生装置及び情報記録媒体
EP0731614B1 (en) * 1995-03-10 2002-02-06 Kabushiki Kaisha Toshiba Video coding/decoding apparatus
US6625217B1 (en) * 1999-10-15 2003-09-23 Lucent Technologies Inc. Constrained wavelet packet for tree-structured video coders
CN101448162B (zh) * 2001-12-17 2013-01-02 微软公司 处理视频图像的方法
US7596279B2 (en) * 2002-04-26 2009-09-29 Ntt Docomo, Inc. Image encoding device, image decoding device, image encoding method, image decoding method, image encoding program, and image decoding program
ATE428997T1 (de) * 2002-11-15 2009-05-15 Qualcomm Inc Vorrichtung und verfahren zur mehrfachbeschreibungskodierung
US7995849B2 (en) * 2003-03-17 2011-08-09 Qualcomm, Incorporated Method and apparatus for improving video quality of low bit-rate video
US20050251330A1 (en) * 2003-04-17 2005-11-10 Paul Waterhouse Internet package tracking system
HUP0301368A3 (en) * 2003-05-20 2005-09-28 Amt Advanced Multimedia Techno Method and equipment for compressing motion picture data
US7724827B2 (en) * 2003-09-07 2010-05-25 Microsoft Corporation Multi-layer run level encoding and decoding
KR20050045746A (ko) * 2003-11-12 2005-05-17 삼성전자주식회사 계층 구조의 가변 블록 크기를 이용한 움직임 추정 방법및 장치
US8116374B2 (en) * 2004-05-07 2012-02-14 Broadcom Corporation Method and system for generating a transform size syntax element for video decoding
KR100647294B1 (ko) * 2004-11-09 2006-11-23 삼성전자주식회사 화상 데이터 부호화 및 복호화 방법 및 장치
US7660475B2 (en) * 2004-12-22 2010-02-09 Ntt Docomo, Inc. Method and apparatus for coding positions of coefficients
MX2008000906A (es) * 2005-07-21 2008-03-18 Thomson Licensing Metodo y aparato para la prediccion ponderada para la codificacion escalable de video.
KR101088375B1 (ko) * 2005-07-21 2011-12-01 삼성전자주식회사 가변 블록 변환 장치 및 방법 및 이를 이용한 영상부호화/복호화 장치 및 방법
KR100712532B1 (ko) * 2005-09-10 2007-04-30 삼성전자주식회사 단일표현과 다중표현 전환을 이용한 동영상 변환부호화장치 및 방법
EP2011237A1 (en) * 2006-04-21 2009-01-07 Kabushiki Kaisha Toshiba Method and apparatus for entropy coding and decoding
EP2055108B1 (en) * 2006-08-25 2011-04-20 Thomson Licensing Methods and apparatus for reduced resolution partitioning
CN101622878B (zh) * 2007-01-10 2015-01-14 汤姆逊许可公司 用于实现位深度可分级性的视频编解码方法和视频编解码设备
CN101222641B (zh) 2007-01-11 2011-08-24 华为技术有限公司 帧内预测编解码方法及其装置
JP5026092B2 (ja) 2007-01-12 2012-09-12 三菱電機株式会社 動画像復号装置および動画像復号方法
KR100842558B1 (ko) * 2007-01-26 2008-07-01 삼성전자주식회사 동영상 부호화를 위한 블록 모드 결정 방법 및 그 장치
US8145002B2 (en) * 2007-06-28 2012-03-27 Mitsubishi Electric Corporation Image encoding device and image encoding method
US8036471B2 (en) * 2007-10-02 2011-10-11 Cisco Technology, Inc. Joint amplitude and position coding of coefficients for video compression
KR101681443B1 (ko) * 2007-10-16 2016-11-30 톰슨 라이센싱 기하학적으로 분할된 수퍼 블록들의 비디오 인코딩 및 디코딩 방법 및 장치
JP4962400B2 (ja) * 2008-04-30 2012-06-27 ソニー株式会社 算術復号装置
US8179974B2 (en) * 2008-05-02 2012-05-15 Microsoft Corporation Multi-level representation of reordered transform coefficients
KR101511082B1 (ko) * 2008-05-09 2015-04-13 삼성전자주식회사 최하위 비트를 이용한 엔트로피 부호화 방법과 그 장치 및엔트로피 복호화 방법과 그 장치
KR20090129926A (ko) 2008-06-13 2009-12-17 삼성전자주식회사 영상 부호화 방법 및 그 장치, 영상 복호화 방법 및 그 장치
KR101517768B1 (ko) * 2008-07-02 2015-05-06 삼성전자주식회사 영상의 부호화 방법 및 장치, 그 복호화 방법 및 장치
US8503527B2 (en) * 2008-10-03 2013-08-06 Qualcomm Incorporated Video coding with large macroblocks
US8634456B2 (en) * 2008-10-03 2014-01-21 Qualcomm Incorporated Video coding with large macroblocks
US20100086031A1 (en) * 2008-10-03 2010-04-08 Qualcomm Incorporated Video coding with large macroblocks
US8619856B2 (en) * 2008-10-03 2013-12-31 Qualcomm Incorporated Video coding with large macroblocks
CN101572817B (zh) * 2009-05-26 2011-01-05 北京邮电大学 一种用于空间可分级视频编码的编码模式选择方法
WO2010143853A2 (ko) * 2009-06-07 2010-12-16 엘지전자 주식회사 비디오 신호의 디코딩 방법 및 장치
US20110002554A1 (en) * 2009-06-11 2011-01-06 Motorola, Inc. Digital image compression by residual decimation
KR101487686B1 (ko) * 2009-08-14 2015-01-30 삼성전자주식회사 비디오 부호화 방법 및 장치, 비디오 복호화 방법 및 장치
KR101624649B1 (ko) * 2009-08-14 2016-05-26 삼성전자주식회사 계층적인 부호화 블록 패턴 정보를 이용한 비디오 부호화 방법 및 장치, 비디오 복호화 방법 및 장치
KR101785666B1 (ko) * 2010-01-12 2017-10-16 엘지전자 주식회사 비디오 신호의 처리 방법 및 장치
KR101703327B1 (ko) 2010-01-14 2017-02-06 삼성전자 주식회사 계층적 데이터 단위의 패턴 정보를 이용하는 비디오 부호화 방법과 그 장치, 및 비디오 복호화 방법과 그 장치
US9706204B2 (en) * 2010-05-19 2017-07-11 Sk Telecom Co., Ltd. Image encoding/decoding device and method
US9210442B2 (en) * 2011-01-12 2015-12-08 Google Technology Holdings LLC Efficient transform unit representation
US9185405B2 (en) * 2012-03-23 2015-11-10 Qualcomm Incorporated Coded block flag inference in video coding
SG11201408336RA (en) * 2012-07-02 2015-02-27 Samsung Electronics Co Ltd Method and apparatus for entropy coding video and method and apparatus for entropy decoding video

Also Published As

Publication number Publication date
CN104994392A (zh) 2015-10-21
JP2018164295A (ja) 2018-10-18
CN104883574A (zh) 2015-09-02
CN104883575B (zh) 2018-05-11
EP2522138A4 (en) 2016-01-06
EP2930931A1 (en) 2015-10-14
US9628809B2 (en) 2017-04-18
WO2011087295A3 (en) 2011-11-10
US20150237361A1 (en) 2015-08-20
JP5980688B2 (ja) 2016-08-31
JP2016195434A (ja) 2016-11-17
US20150237363A1 (en) 2015-08-20
JP2015133761A (ja) 2015-07-23
US20150237355A1 (en) 2015-08-20
CN104980754B (zh) 2018-12-07
CN104883574B (zh) 2018-05-11
KR101703327B1 (ko) 2017-02-06
US20150237362A1 (en) 2015-08-20
US10194173B2 (en) 2019-01-29
US10015520B2 (en) 2018-07-03
WO2011087295A2 (en) 2011-07-21
JP2016195433A (ja) 2016-11-17
US9628812B2 (en) 2017-04-18
CN104994392B (zh) 2018-07-31
EP2522138A2 (en) 2012-11-14
US20110170012A1 (en) 2011-07-14
KR20110083367A (ko) 2011-07-20
US20170195690A1 (en) 2017-07-06
EP2930932A1 (en) 2015-10-14
CN102804778A (zh) 2012-11-28
US9641855B2 (en) 2017-05-02
CN104980755B (zh) 2018-12-07
JP5969081B2 (ja) 2016-08-10
CN104883575A (zh) 2015-09-02
JP2013517665A (ja) 2013-05-16
JP2015133760A (ja) 2015-07-23
CN104980755A (zh) 2015-10-14
CN104980754A (zh) 2015-10-14
US20180278960A1 (en) 2018-09-27
US9635375B2 (en) 2017-04-25

Similar Documents

Publication Publication Date Title
JP5969082B2 (ja) 復号化方法及び復号化装置
JP6149140B2 (ja) 任意的なパーティションを利用した動き予測によるビデオ符号化方法及びその装置、任意的なパーティションを利用した動き補償によるビデオ復号化方法及びその装置
JP5832519B2 (ja) ツリー構造による符号化単位に基づいたビデオ符号化方法及びその装置、並びにビデオ復号化方法及びその装置
JP5891327B2 (ja) ビデオ復号化方法及び装置
JP5997317B2 (ja) ビデオ復号化方法及びビデオ復号化装置
JP2017212751A (ja) 映像の符号化方法及び装置
JP2014506063A (ja) 双方向予測及び単一方向予測が可能なビデオ予測方法及びその装置、ビデオ符号化方法及びその装置、並びにビデオ復号化方法及びその装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150421

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160502

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160607

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160706

R150 Certificate of patent or registration of utility model

Ref document number: 5969082

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250