JP6609000B2 - 画像復号装置 - Google Patents

画像復号装置 Download PDF

Info

Publication number
JP6609000B2
JP6609000B2 JP2018098455A JP2018098455A JP6609000B2 JP 6609000 B2 JP6609000 B2 JP 6609000B2 JP 2018098455 A JP2018098455 A JP 2018098455A JP 2018098455 A JP2018098455 A JP 2018098455A JP 6609000 B2 JP6609000 B2 JP 6609000B2
Authority
JP
Japan
Prior art keywords
picture
list
information
reference picture
decoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018098455A
Other languages
English (en)
Other versions
JP2018160908A (ja
Inventor
智幸 山本
知宏 猪飼
将伸 八杉
健史 筑波
Original Assignee
ドルビー・インターナショナル・アーベー
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ドルビー・インターナショナル・アーベー filed Critical ドルビー・インターナショナル・アーベー
Publication of JP2018160908A publication Critical patent/JP2018160908A/ja
Application granted granted Critical
Publication of JP6609000B2 publication Critical patent/JP6609000B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding
    • H04N19/52Processing of motion vectors by encoding by predictive encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/537Motion estimation other than block-based
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/573Motion compensation with multiple frame prediction using two or more reference frames in a given prediction direction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/577Motion compensation with bidirectional frame interpolation, i.e. using B-pictures
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/96Tree coding, e.g. quad-tree coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、画像を表す符号化データを復号する画像復号装置、および画像を符号化することによって符号化データを生成する画像符号化装置に関する。
動画像を効率的に伝送または記録するために、動画像を符号化することによって符号化データを生成する動画像符号化装置、および、当該符号化データを復号することによって復号画像を生成する動画像復号装置が用いられている。
具体的な動画像符号化方式としては、例えば、H.264/MPEG−4.AVC、および、その後継コーデックであるHEVC(High-Efficiency Video Coding)にて提案されている方式(非特許文献1)などが挙げられる。
このような動画像符号化方式においては、動画像を構成する画像(ピクチャ)は、画像を分割することにより得られるスライス、スライスを分割することにより得られる符号化単位(コーディングユニット(Coding Unit)と呼ばれることもある)、及び、符号化単位を分割することより得られるブロックおよびパーティションからなる階層構造により管理され、普通、ブロックごとに符号化/復号される。
また、このような動画像符号化方式においては、通常、入力画像を符号化/復号することによって得られる局所復号画像に基づいて予測画像が生成され、当該予測画像を入力画像(原画像)から減算して得られる予測残差(「差分画像」または「残差画像」と呼ぶこともある)が符号化される。また、予測画像の生成方法としては、画面間予測(インター予測)、および、画面内予測(イントラ予測)が挙げられる。
イントラ予測においては、同一フレーム内の局所復号画像に基づいて、当該フレームにおける予測画像が順次生成される。
インター予測においては、参照ピクチャリストに含まれる参照ピクチャに対して動き補償予測を適用して予測画像を生成する。参照ピクチャは、ピクチャバッファに記録されている符号化/復号済フレームに対する局所復号画像の部分集合である。ピクチャバッファ内の何れの局所復号画像が参照ピクチャであるかを示す参照ピクチャ特定情報はヘッダ情報に含まれる。また、参照ピクチャリストに、どのような順序で参照ピクチャが並べられているかを示す参照ピクチャ順序情報もヘッダ情報に含まれる。
「High efficiency video coding (HEVC) text specification draft 8 (JCTVC-J1003_d7)」, Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 11th Meeting: Stockholm, SE, 11-20 July 2012 (2012年7月28日公開)
しかしながら、従来技術による参照ピクチャ特定情報や参照ピクチャ順序情報は最適ではないという問題がある。具体的には、ヘッダ情報に含まれる、参照ピクチャ特定情報や参照ピクチャ順序情報の伝送において、特定のピクチャにおいて利用可能な参照ピクチャの数が考慮されておらず、冗長に情報が送信されるという問題がある。
本発明は、上記問題を鑑みてなされたものであり、その目的は、特定のピクチャにおいて利用可能な参照ピクチャの数を考慮して参照ピクチャ特定情報や参照ピクチャ順序情報を伝送することで、より少ない符号量のヘッダ情報を用いて、動画像を復号できる画像復号装置、または、動画像を符号化できる画像符号化装置を提供することにある。
上記の課題を解決するために、本発明の一態様に係る画像復号装置は、復号ピクチャバッファに記録された1枚以上の参照画像を参照して、動き補償予測により予測画像を生成して画像復号に用いる画像復号装置において、対象ピクチャに適用する参照ピクチャセットを導出する参照ピクチャセット導出手段と、スライスヘッダより復号されるRPL(Reference Picture List:参照ピクチャリスト)修正情報、および、上記参照ピクチャセット導出手段により導出された上記参照ピクチャセットに基づいて、上記対象ピクチャで利用可能な参照ピクチャリストを生成する参照ピクチャリスト生成手段と、上記RPL修正情報に含まれる情報の一部の復号を省略する参照ピクチャ情報復号手段と、を備え、上記RPL修正情報には、少なくとも参照ピクチャリスト並べ替え有無フラグおよび参照リスト並べ替え順序が含まれ、上記参照ピクチャ情報復号手段は、現ピクチャ参照可能ピクチャ数に基づいて、参照ピクチャリスト並べ替え有無フラグ、および、参照リスト並べ替え順序の復号を省略することを特徴としている。
本発明の一態様によれば、現ピクチャ参照可能ピクチャ数に基づいて、参照リスト並べ替え有無フラグ、および、参照リスト並べ替え順序の少なくとも何れか一方の復号を省略する。よって、復号に不要な参照ピクチャの情報を伝送することを防止することができ、より少ない符号量のヘッダ情報で動画像を復号することができるという効果をする。
また、本発明の一態様によれば、現ピクチャ参照可能ピクチャ数に基づいて、参照リスト並べ替え有無フラグ、および、参照リスト並べ替え順序の少なくとも何れか一方の符号化を省略する。よって、復号に不要な参照ピクチャの情報を伝送することを防止することができ、より少ない符号量のヘッダ情報で動画像を復号させるように符号化データを生成することができるという効果を奏する。
本発明の実施形態に係る参照ピクチャリスト構築処理の詳細を示す図である。 本発明の実施形態に係る動画像復号装置の概略的構成を示す機能ブロック図である。 (a)〜(e)は、それぞれ、シーケンスSEQを規定するシーケンスレイヤ、ピクチャPICTを規定するピクチャレイヤ、スライスSを規定するスライスレイヤ、符号化ツリーブロック(Coding Tree block)CTBを規定するCTBレイヤ、符号化ツリーブロックCTBに含まれる符号化単位(Coding Unit;CU)を規定するCUレイヤを示す図である。 参照ピクチャセットと参照ピクチャリストの例を示す図であり、(a)は、動画像を構成するピクチャを表示順に並べた図であり、(b)は、対象ピクチャに適用されるRPS情報の例を示す図であり、(c)は、対象ピクチャのPOCが0の場合に、(b)で例示したRPS情報を適用したときに導出される現RPSの例を示す図であり、(d)および(e)は、現RPSに含まれる参照ピクチャから生成される参照ピクチャリストの例を示す図である。 参照ピクチャリスト修正例を示す図であり、(a)は修正前L0参照リストを示す図であり、(b)はRPL修正情報を示す図であり、(c)は、修正後のL0参照リストを示す図である。 上記動画像復号装置のヘッダ情報復号部および参照ピクチャ情報復号部においてSPS復号時に利用されるSPSシンタックス表の一部を例示する図である。 上記動画像復号装置のヘッダ情報復号部および参照ピクチャ情報復号部におけるSPS復号時、および、スライスヘッダ復号時に利用される短期参照ピクチャセットのシンタックス表を例示する図である。 上記動画像復号装置のヘッダ情報復号部および参照ピクチャ情報復号部においてスライスヘッダ復号時に利用されるスライスヘッダシンタックス表の一部を例示する図である。 上記動画像復号装置のヘッダ情報復号部および参照ピクチャ情報復号部においてスライスヘッダ復号時に利用されるスライスヘッダシンタックス表の一部を例示する図である。 上記動画像復号装置のヘッダ情報復号部および参照ピクチャ情報復号部においてスライスヘッダ復号時に利用される参照リスト並べ替え情報のシンタックス表を例示する図である。 上記動画像復号装置におけるスライスヘッダ復号時に利用される参照リスト並べ替え情報のシンタックス表を例示する図である。 上記動画像復号装置におけるスライスヘッダ復号時に利用される参照リスト並べ替え情報のシンタックス表の別の例を示す図である。 上記動画像復号装置におけるスライスヘッダ復号時に利用される参照リスト並べ替え情報のシンタックス表を例示する図である。 上記動画像復号装置におけるスライスヘッダ復号時に利用される参照リスト並べ替え情報のシンタックス表の別の例を示す図である。 上記動画像復号装置におけるスライスヘッダ復号時に利用される参照リスト並べ替え情報のシンタックス表の別の例を示す図である。 上記動画像復号装置におけるスライスヘッダ復号時に利用される参照リスト並べ替え情報のシンタックス表の別の例を示す図である。 本発明の実施形態に係る動画像符号化装置の概略的構成を示す機能ブロック図である。 上記動画像符号化装置を搭載した送信装置、および、上記動画像復号装置を搭載した受信装置の構成について示した図である。(a)は、動画像符号化装置を搭載した送信装置を示しており、(b)は、動画像復号装置を搭載した受信装置を示している。 上記動画像符号化装置を搭載した記録装置、および、上記動画像復号装置を搭載した再生装置の構成について示した図である。(a)は、動画像符号化装置を搭載した記録装置を示しており、(b)は、動画像復号装置を搭載した再生装置を示している。
本発明の一実施形態について図1〜図17を参照して説明する。まず、図2を参照しながら、動画像復号装置(画像復号装置)1および動画像符号化装置(画像符号化装置)2の概要について説明する。図2は、動画像復号装置1の概略的構成を示す機能ブロック図である。
図2に示す動画像復号装置1および動画像符号化装置2は、H.264/MPEG−4 AVC規格に採用されている技術、および、その後継コーデックであるHEVC(High-Efficiency Video Coding)にて提案されている技術を実装している。
動画像符号化装置2は、これらの動画像符号化方式において、エンコーダからデコーダに伝送されることが規定されているシンタックス(syntax)の値をエントロピー符号化して符号化データ#1を生成する。
動画像復号装置1には、動画像符号化装置2が動画像を符号化した符号化データ#1が入力される。動画像復号装置1は、入力された符号化データ#1を復号して動画像#2を外部に出力する。動画像復号装置1の詳細な説明に先立ち、符号化データ#1の構成を以下に説明する。
〔符号化データの構成〕
図3を用いて、動画像符号化装置2によって生成され、動画像復号装置1によって復号される符号化データ#1の構成例について説明する。符号化データ#1は、例示的に、シーケンス、およびシーケンスを構成する複数のピクチャを含む。
符号化データ#1におけるデータの階層構造を図3に示す。図3の(a)〜(e)は、それぞれ、シーケンスSEQを規定するシーケンスレイヤ、ピクチャPICTを規定するピクチャレイヤ、スライスSを規定するスライスレイヤ、符号化ツリーブロック(Coding Tree block)CTBを規定するCTBレイヤ、符号化ツリーブロックCTBに含まれる符号化単位(Coding Unit;CU)を規定するCUレイヤを示す図である。
(シーケンスレイヤ)
シーケンスレイヤでは、処理対象のシーケンスSEQ(以下、対象シーケンスとも称する)を復号するために動画像復号装置1が参照するデータの集合が規定されている。シーケンスSEQは、図3の(a)に示すように、シーケンスパラメータセットSPS(Sequence Parameter Set)、ピクチャパラメータセットPPS(Picture Parameter Set)、ピクチャPICT〜PICTNP(NPはシーケンスSEQに含まれるピクチャの総数)、及び、付加拡張情報SEI(Supplemental Enhancement Information)を含んでいる。
シーケンスパラメータセットSPSでは、対象シーケンスを復号するために動画像復号装置1が参照する符号化パラメータの集合が規定されている。SPSの詳細については後述する。
ピクチャパラメータセットPPSでは、対象シーケンス内の各ピクチャを復号するために動画像復号装置1が参照する符号化パラメータの集合が規定されている。なお、PPSは複数存在してもよい。その場合、対象シーケンス内の各ピクチャから複数のPPSの何れかを選択する。
(ピクチャレイヤ)
ピクチャレイヤでは、処理対象のピクチャPICT(以下、対象ピクチャとも称する)を復号するために動画像復号装置1が参照するデータの集合が規定されている。ピクチャPICTは、図3の(b)に示すように、複数のスライス、すなわち、スライスS〜SNSから構成される(NSはピクチャPICTに含まれるスライスの総数)。
なお、以下、スライスS〜SNSのそれぞれを区別する必要が無い場合、符号の添え字を省略して記述することがある。また、以下に説明する符号化データ#1に含まれるデータであって、添え字を付している他のデータについても同様である。
(スライスレイヤ)
スライスレイヤでは、処理対象のスライスS(対象スライスとも称する)を復号するために動画像復号装置1が参照するデータの集合が規定されている。スライスSは、図3の(c)に示すように、スライスヘッダSH、及び、符号化ツリーブロックCTB〜CTBNC(NCはスライスSに含まれる符号化ツリーブロックの総数)のシーケンスを含んでいる。
スライスヘッダSHには、対象スライスの復号方法を決定するために動画像復号装置1が参照する符号化パラメータ群が含まれる。スライスタイプを指定するスライスタイプ指定情報(slice_type)は、スライスヘッダSHに含まれる符号化パラメータの一例である。
スライスタイプ指定情報により指定可能なスライスタイプとしては、(1)符号化の際にイントラ予測のみを用いるIスライス、(2)符号化の際に単方向予測、又は、イントラ予測を用いるPスライス、(3)符号化の際に単方向予測、双方向予測、又は、イントラ予測を用いるBスライスなどが挙げられる。
なお、スライスヘッダSHには、上記シーケンスレイヤに含まれる、ピクチャパラメータセットPPSへの参照(pic_parameter_set_id)を含んでいても良い。
(CTBレイヤ)
CTBレイヤでは、処理対象の符号化ツリーブロックCTB(以下、対象CTBとも称する)を復号するために動画像復号装置1が参照するデータの集合が規定されている。なお、CTBは、最大符号化単位(LCU:Largest Cording Unit)、または、ツリーブロックと呼ぶこともある。
符号化ツリーブロックCTBは、CTBヘッダCTBHと、符号化単位情報CU〜CUNL(NLはCTBに含まれる符号化単位情報の総数)とを含む。符号化単位情報CUは、CTBを分割して得られる部分領域である符号化単位と対応付けられている。以下、上記符号化単位をCU(Coding Unit)と呼称する。なお、CUは、符号化ブロック(CB: Coding Block)と呼ばれることもある。
(CTBヘッダ)
CTBヘッダCTBHには、対象CTBの復号方法を決定するために動画像復号装置1が参照する符号化パラメータが含まれる。具体的には、図3の(d)に示すように、対象CTBの各CUへの分割パターンを指定するCTB分割情報SP_CTB、および、量子化ステップの大きさを指定する量子化パラメータ差分Δqp(qp_delta)が含まれる。
CTB分割情報SP_CTBは、CTBを分割するための符号化ツリーを表す情報であり、具体的には、対象CTBに含まれる各CUの形状、サイズ、および、対象CTB内での位置を指定する情報である。
また、量子化パラメータ差分Δqpは、対象CTBにおける量子化パラメータqpと、当該対象CTBの直前に符号化されたCTBにおける量子化パラメータqp’との差分qp−qp’である。
(CUレイヤ)
CUレイヤでは、処理対象のCU(以下、対象CUとも称する)を復号するために動画像復号装置1が参照するデータの集合が規定されている。
ここで、符号化単位情報CUに含まれるデータの具体的な内容の説明をする前に、CUに含まれるデータの木構造について説明する。符号化ノードは、予測ツリー(prediction tree;PT)および変換ツリー(transform tree;TT)のルートのノードとなる。予測ツリーおよび変換ツリーについて説明すると次のとおりである。
予測ツリーにおいては、符号化ノードが1または複数の予測ブロックに分割され、各予測ブロックの位置とサイズとが規定される。別の表現でいえば、予測ブロックは、符号化ノードを構成する1または複数の重複しない領域である。また、予測ツリーは、上述の分割により得られた1または複数の予測ブロックを含む。
予測処理は、この予測ブロックごとに行われる。以下、予測の単位である予測ブロックのことを、予測単位(prediction unit;PU)とも称する。
また、変換ツリーにおいては、符号化ノードが1または複数の変換ブロックに分割され、各変換ブロックの位置とサイズとが規定される。別の表現でいえば、変換ブロックは、符号化ノードを構成する1または複数の重複しない領域のことである。また、変換ツリーは、上述の分割より得られた1または複数の変換ブロックを含む。
変換処理は、この変換ブロックごとに行われる。以下、変換の単位である変換ブロックのことを、変換単位(transform unit;TU)とも称する。
(符号化単位情報のデータ構造)
続いて、図3の(e)を参照しながら符号化単位情報CUに含まれるデータの具体的な内容について説明する。図3の(e)に示すように、符号化単位情報CUは、具体的には、スキップモードフラグSKIP、CU予測タイプ情報Pred_type、PT情報PTI、および、TT情報TTIを含む。
[スキップフラグ]
スキップフラグSKIPは、対象CUについて、スキップモードが適用されているか否かを示すフラグであり、スキップフラグSKIPの値が1の場合、すなわち、対象CUにスキップモードが適用されている場合、その符号化単位情報CUにおけるPT情報PTIは省略される。なお、スキップフラグSKIPは、Iスライスでは省略される。
[CU予測タイプ情報]
CU予測タイプ情報Pred_typeは、CU予測方式情報PredModeおよびPU分割タイプ情報PartModeを含む。
CU予測方式情報PredModeは、対象CUに含まれる各PUについての予測画像生成方法として、イントラ予測(イントラCU)、および、インター予測(インターCU)のいずれを用いるのかを指定するものである。なお、以下では、対象CUにおける、スキップ、イントラ予測、および、インター予測の種別を、CU予測モードと称する。
PU分割タイプ情報PartModeは、対象符号化単位(CU)の各PUへの分割のパターンであるPU分割タイプを指定するものである。以下、このように、PU分割タイプに従って、対象符号化単位(CU)を各PUへ分割することをPU分割と称する。
なお、選択可能なPU分割タイプは、CU予測方式とCUサイズに応じて異なる。また、さらにいえば、選択できるPU分割タイプは、インター予測およびイントラ予測それぞれの場合において異なる。また、PU分割タイプの詳細については後述する。
[PT情報]
PT情報PTIは、対象CUに含まれるPTに関する情報である。言い換えれば、PT情報PTIは、PTに含まれる1または複数のPUそれぞれに関する情報の集合である。上述のとおり予測画像の生成は、PUを単位として行われるので、PT情報PTIは、動画像復号装置1によって予測画像が生成される際に参照される。PT情報PTIは、図3の(e)に示すように、各PUにおける予測情報等を含むPU情報PUI〜PUINP(NPは、対象PTに含まれるPUの総数)を含む。
予測情報PUIは、予測タイプ情報Pred_modeが何れの予測方法を指定するのかに応じて、イントラ予測情報、または、インター予測情報を含む。以下では、イントラ予測が適用されるPUをイントラPUとも呼称し、インター予測が適用されるPUをインターPUとも呼称する。
インター予測情報は、動画像復号装置1が、インター予測によってインター予測画像を生成する際に参照される動き補償パラメータを含む。
動き補償パラメータとしては、例えば、マージフラグ(merge_flag)、マージインデックス(merge_idx)、推定動きベクトルインデックス(mvp_idx)、参照画像インデックス(ref_idx)、インター予測フラグ(inter_pred_flag)、および動きベクトル残差(mvd)が挙げられる。
イントラ予測情報は、動画像復号装置1が、イントラ予測によってイントラ予測画像を生成する際に参照される符号化パラメータを含む。
イントラ予測パラメータとしては、例えば、推定予測モードフラグ、推定予測モードインデックス、および、残余予測モードインデックスが挙げられる。
[TT情報]
TT情報TTIは、CUに含まれるTTに関する情報である。言い換えれば、TT情報TTIは、TTに含まれる1または複数のTUそれぞれに関する情報の集合であり、動画像復号装置1により残差データを復号する際に参照される。なお、以下、TUのことを変換ブロックと称することもある。
TT情報TTIは、図3の(e)に示すように、対象CUの各変換ブロックへの分割パターンを指定するTT分割情報SP_TU、および、TU情報TUI〜TUINT(NTは、対象CUに含まれるブロックの総数)を含んでいる。
TT分割情報SP_TUは、具体的には、対象CUに含まれる各TUの形状、サイズ、および、対象CU内での位置を決定するための情報である。例えば、TT分割情報SP_TUは、対象となるノードの分割を行うのか否かを示す情報(split_transform_flag)と、その分割の深度を示す情報(trafoDepth)とから実現することができる。
また、例えば、CUのサイズが、64×64の場合、分割により得られる各TUは、32×32画素から4×4画素までのサイズを取り得る。
TU情報TUI〜TUINTは、TTに含まれる1または複数のTUそれぞれに関する個別の情報である。例えば、TU情報TUIは、量子化予測残差を含んでいる。
各量子化予測残差は、動画像符号化装置2が以下の処理1〜3を、処理対象のブロックである対象ブロックに施すことによって生成した符号化データである。
処理1:符号化対象画像から予測画像を減算した予測残差をDCT変換(Discrete Cosine Transform)する;
処理2:処理1にて得られた変換係数を量子化する;
処理3:処理2にて量子化された変換係数を可変長符号化する;
なお、上述した量子化パラメータqpは、動画像符号化装置2が変換係数を量子化する際に用いた量子化ステップQPの大きさを表す(QP=2qp/6)。
〔動画像復号装置〕
以下では、本実施形態に係る動画像復号装置1の構成について、図1〜図16を参照して説明する。
(動画像復号装置の概要)
動画像復号装置1は、PU毎に予測画像を生成し、生成された予測画像と、符号化データ#1から復号された予測残差とを加算することによって復号画像#2を生成し、生成された復号画像#2を外部に出力する。
ここで、予測画像の生成は、符号化データ#1を復号することによって得られる符号化パラメータを参照して行われる。符号化パラメータとは、予測画像を生成するために参照されるパラメータのことである。符号化パラメータには、画面間予測において参照される動き情報(例えば、動きベクトル、参照画像、参照画像リスト選択情報、動き補償方法選択情報)や画面内予測において参照される予測モードなどの予測パラメータに加えて、PUのサイズや形状、ブロックのサイズや形状、および、原画像と予測画像との残差データなどが含まれる。
また、以下では、復号の対象となるピクチャ(フレーム)、スライス、CTB、ブロック、および、PUをそれぞれ、対象ピクチャ、対象スライス、対象CTB、対象ブロック、および、対象PUと呼ぶことにする。
(動画像復号装置の構成)
図2を参照して、動画像復号装置1の概略的構成について説明すると次のとおりである。図2は、動画像復号装置1の概略的構成について示した機能ブロック図である。
図2に示すように動画像復号装置1は、ヘッダ復号部10、ピクチャ復号部11、復号ピクチャバッファ12、参照ピクチャセット導出部14、参照ピクチャリスト導出部15を備えている。ヘッダ復号部10は、内部に参照ピクチャ情報復号部13を備えている。
[ヘッダ復号部]
ヘッダ復号部10は、動画像符号化装置2より供給される符号化データ#1からシーケンス単位、ピクチャ単位、またはスライス単位で復号に利用される情報を復号する。復号された情報は、ピクチャ復号部11を含む、動画像復号装置1の構成要素に出力される。
ヘッダ復号部10は、符号化データ#1に含まれるSPSを既定のシンタックス定義に基づいてパースして、シーケンス単位で復号に利用される情報を復号する。例えば、復号画像の画像サイズに関連する情報がSPSから復号される。
また、ヘッダ復号部10は、符号化データ#1に含まれるスライスヘッダを既定のシンタックス定義に基づいてパースして、スライス単位で復号に利用される情報を復号する。例えば、スライスタイプがスライスヘッダから復号される。
[参照ピクチャ情報復号部]
参照ピクチャ情報復号部は、ヘッダ復号部10の構成要素であり、参照ピクチャに関する情報を符号化データ#1から復号する。参照ピクチャに関する情報には、参照ピクチャセット情報(以下、RPS情報)と、参照ピクチャリスト修正情報(以下、RPL修正情報)が含まれる。
参照ピクチャセット(RPS: Reference Picture Set)は、対象ピクチャ、または、復号順で対象ピクチャに後続するピクチャにおいて、参照ピクチャとして利用される可能性のあるピクチャの集合を表す。RPS情報は、SPSやスライスヘッダから復号される情報であり、各ピクチャの復号時に設定される参照ピクチャセットの導出に用いられる情報である。
参照ピクチャリスト(RPL: Reference Picture List)は、動き補償予測を行う際に参照すべき参照ピクチャの候補リストである。参照ピクチャリストは2以上存在してもよい。本実施形態では、L0参照ピクチャリスト(L0参照リスト)とL1参照ピクチャリスト(L1参照リスト)を用いるとする。RPL修正情報は、SPSやスライスヘッダから復号される情報であり、参照ピクチャリスト内の参照ピクチャの順序を示す。
動き補償予測では、参照画像リスト上で参照画像インデックス(refIdx)の位置に記録されている参照ピクチャを利用する。例えば、refIdxの値が0の場合は、参照画像リストの0の位置、すなわち参照画像リストの先頭の参照ピクチャが動き補償予測に用いられる。
なお、参照ピクチャ情報復号部13によるRPS情報およびRPL修正情報の復号処理は、本実施形態における重要な処理であるため、後ほど詳しく説明する。
ここで、参照ピクチャセットと参照ピクチャリストの例を、図4を参照して説明しておく。図4(a)は、動画像を構成するピクチャを表示順に並べて図示したものであり、図中の数字は各ピクチャに対応するPOCを表している。POCは、復号ピクチャバッファの説明で後述するように、出力順で昇順となるよう各ピクチャに割り当てられている。“curr”と示されたPOCが9のピクチャが、現在の復号の対象ピクチャである。
図4(b)は、対象ピクチャに適用されるRPS情報の例を示す。対象ピクチャにおける参照ピクチャセット(現RPS)は、当該RPS情報に基づいて導出される。RPS情報には、長期RPS情報と短期RPS情報とが含まれる。長期RPS情報として、現RPSに含めるピクチャのPOCが直接示されている。図4(b)に示す例では、長期RPS情報は、POC=1のピクチャを現RPSに含めることを示している。短期RPS情報には、現RPSに含めるピクチャが、対象ピクチャのPOCに対する差分で記録されている。図中の「Before, dPOC=1」と示された短期RPS情報は、対象ピクチャのPOCに対して1小さいPOCのピクチャを現RPSに含めることを示している。同様に、図中の「Before, dPOC=4」は4小さいPOCのピクチャを示し、「After, dPOC=1」は1大きいPOCのピクチャを現RPSに含めることを示す。なお、「Before」は、対象ピクチャの前方、つまり、対象ピクチャより表示順の早いピクチャを示す。また、「After」は、対象ピクチャの後方、つまり、対象ピクチャより表示順の遅いピクチャを示す。
図4(c)は、対象ピクチャのPOCが0の場合に、図4(b)で例示したRPS情報を適用したときに導出される現RPSの例を示す。長期RPS情報で示されたPOC=1のピクチャが含まれている。また、短期RPS情報で示された、対象ピクチャ(POC=9)より1小さいPOCを有するピクチャ、すなわちPOC=8のピクチャが含まれている。同様に、短期RPS情報で示された、POC=5とPOC=10のピクチャが含まれている。
図4(d)および(e)は、現RPSに含まれる参照ピクチャから生成される参照ピクチャリストの例を示す。参照ピクチャリストの各要素にはインデックス(参照ピクチャインデックス)が付与されている(図中ではidxと記載)。図4(d)は、L0参照リストの例を示す。L0参照リストには、5、8、10、1のPOCを持つ現RPSに含まれる参照ピクチャが、この順で含まれている。図4(e)は、L1参照リストの例を示す。L1参照リストには、10、5、8のPOCを持つ現RPSに含まれる参照ピクチャが、この順で含まれている。なお、L1参照リストの例で示した通り、参照ピクチャリストには、現RPSに含まれる全ての参照ピクチャ(参照可能ピクチャ)を含める必要はない。しかし、参照ピクチャリストの要素数は、最大でも現RPSに含まれる参照ピクチャの数となる。言い換えると、参照ピクチャリストの長さは、現ピクチャで参照可能なピクチャ数以下である。
次に、参照ピクチャリスト修正の例を、図5を参照して説明しておく。図5は、特定の参照ピクチャリストに(図5(a))に対して、RPL修正情報(図5(b))を適用した場合に得られる修正後の参照ピクチャリスト(図5(c))を例示している。図5(a)に示す修正前L0参照リストは、図4(d)で説明したL0参照リストと同一である。図5(b)に示すRPL修正情報は参照ピクチャインデックスの値を要素とするリストになっており、先頭から順に0、2、1、3の値が格納されている。このRPL修正情報は、修正前参照リストに含まれる0、2、1、3の参照ピクチャインデックスで示される参照ピクチャを、この順で修正後L0参照リストの参照ピクチャとすることを示す。図5(c)は修正後L0参照リストを示し、POCが5、10、8、1のピクチャがこの順で含まれている。
[ピクチャ復号部]
ピクチャ復号部11は、符号化データ#1、ヘッダ復号部10より入力されるヘッダ情報、復号ピクチャバッファ12に記録されている参照ピクチャ、および、参照ピクチャリスト導出部15より入力される参照ピクチャリストに基づいて、各ピクチャの局所復号画像を生成して復号ピクチャバッファ12に記録する。
ピクチャ復号部11における、特定のピクチャ(対象ピクチャ)の復号手順の概略は次のとおりである。
(S101)対象ピクチャを構成するCTBを順次対象CTBに設定する。各CTBに対してS102〜S106の処理を実行する。その後、S107の処理を実行する。
(S102)対象CTBに関するCTB分割情報を符号化データ#1より復号する。
(S103)対象CTBを構成するCUを順次対象CUに設定し、以下のS104〜S1106の処理を実行する。
(S104)対象CUのCU予測タイプ情報およびPU分割情報を復号する。対象CUがインターCUまたはスキップCUである場合、S104a1〜S104a5を実行する。一方、対象CUがイントラCUである場合、S104b1を実行する。
(S104a1)対象CUを構成するPUを順次対象PUに設定し、以下の処理を実行する。
(S104a2)対象PUの動き情報を復号する。
(S104a3)対象PUがL0予測を利用する場合、L0参照リストにおいてL0参照インデックスの示す位置の参照ピクチャを、対象PUの参照ピクチャに設定する。L0動きベクトルの示す当該参照ピクチャの復号画素値に基づいてL0予測画像を生成する。
(S104a4)対象PUがL1予測を利用する場合、L1参照リストにおいてL1参照インデックスの示す位置の参照ピクチャを、対象PUの参照ピクチャに設定する。当該参照ピクチャ上のL1動きベクトルの示す位置の画素値に基づいてL1予測画像を生成する。
(S104a5)対象PUがL0予測のみ利用する場合、L0予測画像を対象PUの予測画像とする。他方、対象PUがL1予測のみ利用する場合、L1予測画像を対象PUの予測画像とする。他方、対象PUがL0予測とL1予測の両方を利用する場合(双予測を利用する場合)、L0予測画像とL1予測画像の加重平均を対象PUの予測画像とする。
(S104b1)対象CUを構成する各PUに対応するイントラ予測モードを復号し、各イントラ予測モードに対応するイントラ予測方法に基づいて予測画像を生成する。
(S105)対象CUのTT情報を復号する。対象CUを構成する各TUにおいて、変換係数を復号する。また、当該変換係数に対して逆量子化および逆変換を適用して予測残差を生成する。
(S106)予測画像に予測残差を加算して、対象CUのフィルタ適用前の局所復号画像を生成する。
(S107)対象ピクチャのフィルタ適用前の局所復号画像に対して、適応オフセットフィルタ、および、デブロッキングフィルタを適用して、対象ピクチャの局所復号画像とする。
[復号ピクチャバッファ]
復号ピクチャバッファ12には、ピクチャ復号部で復号された各ピクチャの局所復号画像が、当該ピクチャのPOC(Picture Order Count、ピクチャ順序情報)と関連付けられて記録されている。復号ピクチャバッファ12は、所定の出力タイミングで、出力対象のPOCを決定する。その後、当該POCに対応する局所復号画像を、復号画像#2を構成するピクチャの一つとして外部に出力する。
[参照ピクチャセット設定部]
参照ピクチャセット設定部14は、参照ピクチャ情報復号部13で復号されたRPS情報、および、復号ピクチャバッファ12に記録されている局所復号画像とPOCの情報に基づいて、参照ピクチャセットRPSを構築して参照ピクチャリスト導出部15に出力する。なお、参照ピクチャセット設定部14の詳細は後述する。
[参照ピクチャリスト導出部]
参照ピクチャリスト導出部15は、参照ピクチャ情報復号部13で復号されたRPL修正情報、および、参照ピクチャセット設定部14から入力された参照ピクチャセットRPSに基づいて参照ピクチャリストRPLを生成して、ピクチャ復号部11に出力する。なお、参照ピクチャリスト導出部15の詳細は後述する。
(動画像復号処理手順)
動画像復号装置1が、入力符号化データ#1から復号画像#2を生成する手順は次のとおりである。
(S11)ヘッダ復号部10は、符号化データ#1からSPSを復号する。
(S12)ヘッダ復号部10は、符号化データ#1からPPSを復号する。
(S13)符号化データ#1の示すピクチャを順次対象ピクチャに設定する。各対象ピクチャに対して、S14〜S17の処理を実行する。
(S14)ヘッダ復号部10は、符号化データ#1から対象ピクチャに含まれる各スライスのスライスヘッダを復号する。ヘッダ復号部10に含まれる参照ピクチャ情報復号部13は、スライスヘッダからRPS情報を復号して参照ピクチャセット設定部14に出力する。また、参照ピクチャ情報復号部13は、スライスヘッダからRPL修正情報を復号して参照ピクチャリスト導出部15に出力する。
(S15)参照ピクチャセット設定部14は、RPS情報と、復号ピクチャバッファ12に記録されている局所復号画像のPOCとメモリ上の位置情報の組み合わせに基づいて、対象ピクチャに適用する参照ピクチャセットRPSを生成して、参照ピクチャリスト導出部15に出力する。
(S16)参照ピクチャリスト導出部15は、参照ピクチャセットRPSと、RPL修正情報に基づいて参照ピクチャリストRPLを生成してピクチャ復号部11に出力する。
(S17)ピクチャ復号部11は、符号化データ#1から対象ピクチャに含まれる各スライスのスライスデータと、参照ピクチャリストRPLに基づいて対象ピクチャの局所復号画像を作成して、対象ピクチャのPOCと関連付けて復号ピクチャバッファに記録する。復号ピクチャバッファに記録された局所復号画像は、POCに基づき決定される適切なタイミングで、外部に復号画像#2として出力される。
(参照ピクチャ情報復号処理の詳細)
上記復号手順におけるS14の処理のうち、RPS情報およびRPL修正情報の復号処理について詳細を説明する。
(RPS情報復号処理)
RPS情報は、参照ピクチャセットを構築するためにSPSまたはスライスヘッダより復号される情報である。RPS情報には以下を含む。
1.SPS短期RPS情報:SPSに含まれる短期参照ピクチャセット情報
2.SPS長期RP情報:SPSに含まれる長期参照ピクチャ情報
3.SH短期RPS情報:スライスヘッダに含まれる短期参照ピクチャセット情報
4.SH長期RP情報:スライスヘッダに含まれる長期参照ピクチャ情報
(1.SPS短期RPS情報)
SPS短期RPS情報は、SPSを参照する各ピクチャから利用され得る複数の短期参照ピクチャセットの情報を含む。なお、短期参照ピクチャセットとは、対象ピクチャに対する相対的な位置(例えば対象ピクチャとのPOC差分)により指定される参照ピクチャ(短期参照ピクチャ)となり得るピクチャの集合である。
SPS短期RPS情報の復号について、図6を参照して説明する。図6は、ヘッダ情報復号部10および参照ピクチャ情報復号部13においてSPS復号時に利用されるSPSシンタックス表の一部を例示している。図6の(A)の部分がSPS短期RPS情報に相当する。SPS短期RPS情報には、SPSに含まれる短期参照ピクチャセットの数(num_short_term_ref_pic_sets)、および、各短期参照ピクチャセットの情報(short_term_ref_pic_set(i))が含まれる。
短期参照ピクチャセット情報について、図7を参照して説明する。図7は、ヘッダ情報復号部10および参照ピクチャ情報復号部13においてSPS復号時、および、スライスヘッダ復号時に利用される短期参照ピクチャセットのシンタックス表を例示している。
短期参照ピクチャセット情報には、対象ピクチャより表示順が早い短期参照ピクチャ数(num_negative_pics)、および、対象ピクチャより表示順が遅い短期参照ピクチャ数(num_positive_pics)が含まれる。なお、以下では、対象ピクチャより表示順が早い短期参照ピクチャを前方短期参照ピクチャ、対象ピクチャより表示順が遅い短期参照ピクチャを後方短期参照ピクチャと呼ぶ。
また、短期参照ピクチャセット情報には、各前方短期参照ピクチャに対して、対象ピクチャに対するPOC差分の絶対値(delta_poc_s0_minus1[i])、および、対象ピクチャの参照ピクチャとして使用される可能性の有無(used_by_curr_pic_s0_flag[i])が含まれる。加えて、各後方短期参照ピクチャに対して、対象ピクチャに対するPOC差分の絶対値(delta_poc_s1_minus1[i])、および、対象ピクチャの参照ピクチャとして使用される可能性の有無(used_by_curr_pic_s1_flag[i])が含まれる。
(2.SPS長期RP情報)
SPS長期RP情報は、SPSを参照する各ピクチャから利用され得る複数の長期参照ピクチャの情報を含む。なお、長期参照ピクチャとは、シーケンス内の絶対的な位置(例えばPOC)により指定されるピクチャである。
SPS長期RP情報の復号について、図6を再び参照して説明する。図6の(B)の部分がSPS長期RP情報に相当する。SPS長期RP情報には、SPSで伝送される長期参照ピクチャの有無を示す情報(long_term_ref_pics_present_flag)、SPSに含まれる長期参照ピクチャの数(num_long_term_ref_pics_sps)、および、各長期参照ピクチャの情報が含まれる。長期参照ピクチャの情報には、参照ピクチャのPOC(lt_ref_pic_poc_lsb_sps[i])、および、対象ピクチャの参照ピクチャとして使用される可能性の有無(used_by_curr_pic_lt_sps_flag[i])が含まれる。
なお、上記参照ピクチャのPOCは、参照ピクチャに関連付けられたPOCの値自体であってもよいし、POCのLSB(Least Significant Bit)、すなわち、POCを既定の2の冪乗の数で割った余りの値を用いてもよい。
(3.SH短期RPS情報)
SH短期RPS情報は、スライスヘッダを参照するピクチャから利用され得る単一の短期参照ピクチャセットの情報を含む。
SPS短期RPS情報の復号について、図8を参照して説明する。図8は、ヘッダ情報復号部10および参照ピクチャ情報復号部13においてスライスヘッダ復号時に利用されるスライスヘッダシンタックス表の一部を例示している。図8の(A)の部分がSH短期RPS情報に相当する。SH短期RPS情報は、短期参照ピクチャセットをSPSで復号済みの短期参照ピクチャセットの中から選択するか、スライスヘッダに明示的に含めるかを示すフラグ(short_term_ref_pic_set_sps_flag)を含む。SPSで復号済の中から選択する場合、復号済の短期参照ピクチャセットを一つ選択する識別子(short_term_ref_pic_set_idx)が含まれる。スライスヘッダに明示的に含める場合は、前述の図7を参照して説明したシンタックス表(short_term_ref_pic_set(idx))に相当する情報が、SPS短期RPS情報に含まれる。
(4.SH長期RP情報)
SH長期RP情報は、スライスヘッダを参照するピクチャから利用され得る長期参照ピクチャの情報を含む。
SH長期RP情報の復号について、図8を再び参照して説明する。図8の(B)の部分がSH長期RP情報に相当する。SH長期RP情報は、対象ピクチャで長期参照ピクチャが利用可能(long_term_ref_pic_present_flag)である場合のみスライスヘッダに含まれる。SPSで1以上の長期参照ピクチャを復号済である場合(num_long_term_ref_pics_sps>0)、SPSで復号済の長期参照ピクチャの中で対象ピクチャで参照され得る参照ピクチャの数(num_long_term_sps)がSH長期RP情報に含まれる。また、スライスヘッダで明示的に伝送される長期参照ピクチャ数(num_long_term_pics)がSH長期RP情報に含まれる。加えて、上記num_long_term_spsの数の長期参照ピクチャをSPSで伝送済の長期参照ピクチャの中から選択する情報(lt_idx_sps[i])がSH長期RP情報に含まれる。さらに、スライスヘッダに明示的に含める長期参照ピクチャの情報として、上記num_long_term_picsの数だけ、参照ピクチャのPOC(poc_lsb_lt [i])、および、対象ピクチャの参照ピクチャとして使用される可能性の有無(used_by_curr_pic_lt_flag[i])が含まれる。
(RPL修正情報復号処理)
RPL修正情報は、参照ピクチャリストRPLを構築するためにSPSまたはスライスヘッダより復号される情報である。RPL修正情報には、SPSリスト修正情報、および、SHリスト修正情報が含まれる。
(SPSリスト修正情報)
SPSリスト修正情報はSPSに含まれる情報であり、参照ピクチャリスト修正の制約に係る情報である。SPSリスト修正情報について、図6を再び参照して説明する。図6の(C)の部分がSPSリスト修正情報に相当する。SPSリスト修正情報には、ピクチャに含まれる前スライスで参照ピクチャリストが共通か否かを示すフラグ(restricted_ref_pic_lists_flag)、および、スライスヘッダ内にリスト並べ替えに関する情報が存在するか否かを示すフラグ(lists_modification_present_flag)が含まれる。
(SHリスト修正情報)
SHリスト修正情報はスライスヘッダに含まれる情報であり、対象ピクチャに適用される参照ピクチャリストの長さ(参照リスト長)の更新情報、および、参照ピクチャリストの並べ替え情報(参照リスト並べ替え情報)が含まれる。SHリスト修正情報について、図9を参照して説明する。図9はヘッダ情報復号部10および参照ピクチャ情報復号部13においてスライスヘッダ復号時に利用されるスライスヘッダシンタックス表の一部を例示している。図9の(C)の部分がSHリスト修正情報に相当する。
参照リスト長更新情報として、リスト長の更新有無を示すフラグ(num_ref_idx_active_override_flag)が含まれる。加えて、L0参照リストの変更後の参照リスト長を表す情報(num_ref_idx_l0_active_minus1)、および、L1参照リストの変更後の参照リスト長を表す情報(num_ref_idx_l1_active_minus1)が含まれる。
参照リスト並べ替え情報としてスライスヘッダに含まれる情報について、図10を参照して説明する。図10はヘッダ情報復号部10および参照ピクチャ情報復号部13においてスライスヘッダ復号時に利用される参照リスト並べ替え情報のシンタックス表を例示している。
参照リスト並べ替え情報には、L0参照リスト並べ替え有無フラグ(ref_pic_list_modification_flag_l0)が含まれる。L0参照リスト並べ替え有無フラグは、L0参照リストに係る参照ピクチャリスト並べ替え有無フラグである。前記フラグの値が1(L0参照リストの並べ替えが有る場合)、かつ、NumPocTotalCurrが2より大きい場合、L0参照リスト並べ替え順序(list_entry_l0[i])が参照リスト並べ替え情報に含まれる。ここで、NumPocTotalCurrは、現ピクチャにおいて利用可能な参照ピクチャの数を表す変数である。したがって、L0参照リストの並べ替えが有る場合であって、かつ、現ピクチャにおいて利用可能な参照ピクチャ数が2より大きい場合にのみ、L0参照リスト並べ替え順序がスライスヘッダに含まれる。
同様に、参照ピクチャがBスライスである場合、つまり、対象ピクチャにおいてL1参照リストが利用可能である場合、L1参照リスト並べ替え有無フラグ(ref_pic_list_modification_flag_l1)が参照リスト並べ替え情報に含まれる。L1参照リスト並べ替え有無フラグは、L1参照リストに係る参照ピクチャリスト並べ替え有無フラグである。前記フラグの値が1、かつ、NumPocTotalCurrが2より大きい場合、L1参照リスト並べ替え順序(list_entry_l1[i])が参照リスト並べ替え情報に含まれる。言い換えると、L1参照リストの並べ替えが有る場合であって、かつ、現ピクチャにおいて利用可能な参照ピクチャ数が2より大きい場合にのみ、L1参照リスト並べ替え順序がスライスヘッダに含まれる。
(参照ピクチャセット導出処理の詳細)
前述の動画像復号手順におけるS15の処理、すなわち、参照ピクチャセット設定部による参照ピクチャセット導出処理の詳細を説明する。
既に説明したとおり、参照ピクチャセット設定部14は、RPS情報と、復号ピクチャバッファ12に記録されている情報に基づいて、対象ピクチャの復号に用いる参照ピクチャセットRPSを生成する。
参照ピクチャセットRPSは、対象ピクチャ、または、対象ピクチャに復号順で後続のピクチャにおいて、復号時に参照画像として利用可能なピクチャ(参照可能ピクチャ)の集合である。参照ピクチャセットは、参照可能ピクチャの種類に応じて次の2つのサブセットに分けられる。
・現ピクチャ参照可能リストListCurr:復号画像バッファ上のピクチャのうち、対象ピクチャにおける参照可能ピクチャのリスト
・後続ピクチャ参照可能リストListFoll:対象ピクチャでは参照されないが、対象ピクチャに復号順で後続のピクチャで参照可能な復号画像バッファ上のピクチャのリスト
なお、現ピクチャ参照可能リストに含まれるピクチャの数を、現ピクチャ参照可能ピクチャ数NumCurrListと呼ぶ。なお、前述の図10を参照して説明したNumPocTotalCurrは、NumCurrListと同一である。
現ピクチャ参照可能リストは、さらに3つの部分リストから構成される。
・現ピクチャ長期参照可能リストListLtCurr:SPS長期RP情報またはSH長期RP情報により指定される現ピクチャ参照可能ピクチャ
・現ピクチャ短期前方参照可能リストListStCurrBefore:SPS短期RPS情報またはSH短期RPS情報により指定される現ピクチャ参照可能ピクチャであって、表示順が対象ピクチャより早いもの
・現ピクチャ短期後方参照可能リストListStCurrAfter:SPS短期RPS情報またはSH短期RPS情報により指定される現ピクチャ参照可能ピクチャであって、表示順が対象ピクチャより早いもの
後続ピクチャ参照可能リストは、さらに2つの部分リストから構成される。
・後続ピクチャ長期参照可能リストListLtFoll:SPS長期RP情報またはSH長期RP情報により指定される後続ピクチャ参照可能ピクチャ
・後続ピクチャ短期参照可能リストListStFoll:SPS短期RPS情報またはSH短期RPS情報により指定される現ピクチャ参照可能ピクチャ
参照ピクチャセット設定部14は、参照ピクチャセットRPS、すなわち、現ピクチャ短期前方参照可能リストListStCurrBefore、現ピクチャ短期後方参照可能リストListStCurrAfter、現ピクチャ長期参照可能リストListLtCurr、後続ピクチャ短期参照可能リストListStFoll、および、後続ピクチャ長期参照可能リストListLtFollを次の手順で生成する。加えて、現ピクチャ参照可能ピクチャ数を表す変数NumPocTotalCurrを導出する。なお、前記各参照可能リストは、以下の処理の開始前に空に設定されているとする。
(S201)SPS短期RPS情報、および、SH短期RPS情報に基づいて、対象ピクチャの復号に用いる単一の短期参照ピクチャセットを特定する。具体的には、SH短期RPS情報に含まれるshort_term_ref_pic_set_spsの値が0である場合、SH短期RPS情報に含まれるスライスヘッダで明示的に伝送された短期RPSを選択する。それ以外(short_term_ref_pic_set_spsの値が1の場合)、SH短期RPS情報に含まれるshort_term_ref_pic_set_idxが示す短期RPSを、SPS短期RPS情報に含まれる複数の短期RPSの中から選択する。
(S202)選択された短期RPSに含まれる参照ピクチャ各々のPOCの値を導出し、復号画像バッファ12上に当該POC値と関連付けられて記録されている局所復号画像の位置を検出して、参照ピクチャの復号画像バッファ上の記録位置として導出する。
参照ピクチャのPOC値は、参照ピクチャが前方短期参照ピクチャの場合、対象ピクチャのPOCの値から「delta_poc_s0_minus1[i]+1」の値を減算して導出する。一方、参照ピクチャが後方短期参照ピクチャの場合、対象ピクチャのPOCの値に「delta_poc_s1_minus1[i]+1」の値を加算して導出する。
(S203)短期RPSに含まれる前方参照ピクチャを伝送された順に確認し、関連付けられているused_by_curr_pic_s0_flag[i]の値が1である場合、当該前方参照ピクチャを現ピクチャ短期前方参照可能リストListStCurrBeforeに追加する。それ以外(used_by_curr_pic_s0_flag[i]の値が0)の場合、当該前方参照ピクチャを後続ピクチャ短期参照可能リストListStFollに追加する。
(S204)短期RPSに含まれる後方参照ピクチャを伝送された順に確認し、関連付けられているused_by_curr_pic_s1_flag[i]の値が1である場合、当該後方参照ピクチャを現ピクチャ短期後方参照可能リストListStCurrAfterに追加する。それ以外(used_by_curr_pic_s1_flag[i]の値が0の場合、当該前方参照ピクチャを後続ピクチャ短期参照可能リストListStFollに追加する。
(S205) SPS長期RP情報、および、SH長期RP情報に基づいて、対象ピクチャの復号に用いる長期参照ピクチャセットを特定する。具体的には、num_long_term_spsの数の参照ピクチャをSPS長期RP情報に含まれる参照ピクチャの中から選択して、順に長期参照ピクチャセットに追加する。選択される参照ピクチャは、lt_idx_sps[i]の示す参照ピクチャである。続いて、num_long_term_picsの数の参照ピクチャをSH長期RP情報に含まれる参照ピクチャを順に長期参照ピクチャセットに追加する。
(S206)長期参照ピクチャセットに含まれる参照ピクチャ各々のPOCの値を導出し、復号画像バッファ12上に当該POC値と関連付けられて記録されている局所復号画像の位置を検出して、参照ピクチャの復号画像バッファ上の記録位置として導出する。
長期参照ピクチャのPOCは、関連付けて復号されたpoc_lst_lt[i]、または、lt_ref_pic_poc_lsb_sps[i]の値から直接導出される。
(S207)長期参照ピクチャセットに含まれる参照ピクチャを順に確認し、関連付けられているused_by_curr_pic_lt_flag[i]、または、used_by_curr_pic_lt_sps_flag[i]の値が1である場合、当該長期参照ピクチャを現ピクチャ長期参照可能リストListLtCurrに追加する。それ以外(used_by_curr_pic_lt_flag[i]、または、used_by_curr_pic_lt_sps_flag[i]の値が0)の場合、当該長期参照ピクチャを後続ピクチャ長期参照可能リストListLtFollに追加する。
(S208)変数NumPocTotalCurrの値を、現ピクチャから参照可能な参照ピクチャの和に設定する。すなわち、変数NumPocTotalCurrの値を、現ピクチャ短期前方参照可能リストListStCurrBefore、現ピクチャ短期後方参照可能リストListStCurrAfter、および、現ピクチャ長期参照可能リストListLtCurrの3つのリストの各要素数の和に設定する。
(参照ピクチャリスト構築処理の詳細)
上記復号手順におけるS16の処理、すなわち、参照ピクチャリスト構築処理の詳細を図1を参照して説明する。既に説明したとおり、参照ピクチャリスト導出部15は、参照ピクチャセットRPSと、RPL修正情報に基づいて参照ピクチャリストRPLを生成する。
参照ピクチャリストはL0参照リストとL1参照リストの2つのリストから構成される。始めに、L0参照リストの構築手順を説明する。L0参照リストは、以下のS301〜S307に示す手順で構築される。
(S301)暫定L0参照リストを生成して、空のリストに初期化する。
(S302)暫定L0参照リストに対し、現ピクチャ短期前方参照可能リストに含まれる参照ピクチャを順に追加する。
(S303)暫定L0参照リストに対し、現ピクチャ短期後方参照可能リストに含まれる参照ピクチャを順に追加する。
(S304)暫定L0参照リストに対し、現ピクチャ長期参照可能リストに含まれる参照ピクチャを順に追加する。
(S305)参照ピクチャリストが修正される場合(RPL修正情報に含まれるlists_modification_present_flagの値が1の場合)、以下のS306a〜S306bの処理を実行する。そうでない場合(lists_modification_present_flagの値が0の場合)、S307の処理を実行する。
(S306a)L0参照ピクチャの修正が有効な場合(RPL修正情報に含まれるref_pic_list_modification_flag_l0の値が1の場合)であって、かつ、現ピクチャ参照可能ピクチャ数NumCurrListが2に等しい場合、S306bを実行する。そうでない場合、S306cを実行する。
(S306b)RPL修正情報に含まれるリスト並べ替え順序list_entry_l0[i]の値を下記の式により設定し、その後、S306cを実行する。
list_entry_l0[0] = 1
list_entry_l0[1] = 0
(S306c)参照リスト並べ替え順序list_entry_l0[i]の値に基づいて、暫定L0参照リストの要素を並べ換えて、L0参照リストとする。参照ピクチャインデックスrIdxに対応するL0参照リストの要素RefPicList0[rIdx]は、次式により導出される。ここで、RefListTemp0[i]は、暫定L0参照リストのi番目の要素を表す。
RefPicList0[ rIdx ] = RefPicListTemp0[ list_entry_l0[ rIdx ] ]
上記の式によれば、参照リスト並べ替え順序list_entry_l0[i]において、参照ピクチャインデックスrIdxの示す位置に記録されている値を参照し、暫定L0参照リストにおいて前記値の位置に記録されている参照ピクチャを、L0参照リストのrIdxの位置の参照ピクチャとして格納する。
(S307)暫定L0参照リストをL0参照リストとする。
次にL1参照リストを構築する。なお、L1参照リストも、上記L0参照リストと同様の手順で構築できる。上記L0参照リストの構築手順(S301〜S307)において、L0参照ピクチャ、L0参照リスト、暫定L0参照リスト、list_entry_l0をそれぞれ、L1参照ピクチャ、L1参照リスト、暫定L1参照リスト、list_entry_l1と置き換えればよい。
(参照リスト修正の妥当性と効果の説明)
上記では、本実施形態の動画像復号装置における参照ピクチャ情報復号処理と参照ピクチャリスト構築処理について、それぞれ記載した。次に、それらの処理により、参照ピクチャの修正が行えること、および、参照ピクチャリスト修正情報の伝送がより少ない符号で伝送可能なことを説明する。
<参照リスト修正の妥当性>
L0参照リスト構築処理におけるS305とS306の処理を参照すると、L0参照リストが修正されない場合、暫定L0参照リストは、そのままL0参照リストとして使用される。このことから、暫定L0参照リストは、並べ替えを行わない場合に用いる標準の(デフォルトの)L0参照リストである。この意味で、暫定L0参照リストは標準L0参照リストとも呼べる。
リスト並べ替え順序の意味をあらためて確認すると、list_entry_l0[0]の値は、並べ替え後のL0参照リストの0番目の要素が、標準L0参照リストの何番目の要素であるかを示す値である。一般的に、list_entry_l0[i]の値は、並べ替え後のL0参照リストのi番目の要素が、標準L0参照リストの何番目の要素であるかを示す値である。
S306aの処理によると、L0参照リストの修正が有効であり、かつ、NumCurrListの値が2の場合、list_entry_l0[0]の値が1に、list_etnry_l0[1]の値が0にそれぞれ設定されている。言い換えると、標準L0参照リストの1番目の要素がL0参照リストの0番目の要素に、標準L0参照リストの0番目の要素がL0参照リストの1番目の要素となるよう参照リストが並べ替えられている。ここで、L0参照リストの要素数は、現ピクチャ参照可能ピクチャの数以下(NumCurrListの値以下)である。したがって、NumCurrListの値が2の場合、L0参照リストの要素数は2以下である。そのため、L0参照リストの並べ替えに利用されるL0参照リスト並べ替え情報は、list_entry_l0の1番目の要素(list_entry_l0[0])と、2番目の要素(list_entry_l0[1])のみであり、3番目以降の要素は利用されない。この場合、参照リストの並べ替えは、(list_entry_l0[0]、list_entry_l0[1])の組み合わせが以下のO1またはO2のいずれかになる。
O1:(L0List[0], L0List[1]) = (TmpList[0], TmpList[1])
O2:(L0List[0], L0List[1]) = (TmpList[1], TmpList[0])
現ピクチャ参照可能ピクチャ数が2であるとき、前述の参照ピクチャリスト修正処理によれば、L0参照リストの修正を行わない場合、上記O1のL0参照リストが利用される。一方、L0参照リストの修正を行う場合、上記O2のL0参照リストが利用される。従って、上記参照ピクチャリスト修正処理によれば、現ピクチャ参照可能ピクチャ数が2の場合に、可能なL0参照リストの並べ替えを全て選択できる。
<参照リスト修正情報の符号量>
L0参照リスト構築処理におけるS306aによると、L0参照リストの修正が有効であり、かつ、NumCurrListの値が2の場合、list_entry_l0[i]の値は、PRL修正情報に含まれる情報(すなわち、スライスヘッダにおいて復号されたシンタックス値)を用いず、直接設定される。さらに、list_entry_l0の3番目以降の要素(list_entry_l0[i] (i>1))の要素は使われていない。従って、L0参照リストの修正が有効であり、かつ、NumCurrListの値が2の場合、スライスヘッダにおいてlist_entry_l0のシンタックス情報を復号する必要はない。実際、図10を参照して説明したRPL修正情報の復号処理では、L0参照ピクチャの修正が有効であり、かつ、NumCurrListの値が2の場合(NumPocTotalCurrが2の場合)、list_entry_l0[i]の伝送を省略すると説明した。言い換えると、現ピクチャ参照可能ピクチャ数が特定の条件を満たす場合(2の場合)、RPL並べ替え情報のシグナルを省略することで、RPS情報の伝送に係る符号量を低減し、それによりスライスヘッダの符号量を減らしている。
以上、説明したとおり、本実施形態における動画像復号装置では、参照ピクチャ情報復号部は、現ピクチャ参照可能ピクチャ数が2の場合に、参照ピクチャ並べ替え情報の復号を省略する。また、参照ピクチャ設定部は、現ピクチャ参照可能ピクチャ数が2の場合であって、かつ、参照リストの修正が必要である場合に、参照ピクチャ並べ替え順序を、標準参照リストの1番目の要素が0番目の要素となり、標準参照リストの0番目の要素が参照リストの1番目の要素となるよう設定している。これにより、本実施形態における動画像復号装置では、参照ピクチャリストを修正する機能を保ちつつ、参照リスト情報に係る符号量を削減している。
(変形例1:現ピクチャ参照可能ピクチャ数が1の場合のRPL修正情報省略)
上記実施形態1では、現ピクチャ参照可能ピクチャ数が2の場合にRPL修正情報を省略する例を記載したが、それに限らない。現ピクチャ参照可能ピクチャ数が1の場合にRPL修正情報を省略してもよい。
具体的には、参照ピクチャ情報復号部13におけるSHリスト修正情報の復号処理において、参照リスト並べ替え情報を図11に示すシンタックス表に基づいてパースする。図11は、スライスヘッダ復号時に利用される参照リスト並べ替え情報のシンタックス表を例示している。
参照リスト並べ替え情報に含まれる、L0参照リスト並べ替え有無フラグ(ref_pic_list_modification_flag_l0)、L1参照リスト並べ替え有無フラグ(ref_pic_list_modification_flag_l1)、L0参照リスト並べ替え順序(list_entry_l0[i])、および、L1参照リスト並べ替え順序(list_entry_l1[i])は、現ピクチャ参照可能ピクチャ数が1より大きい場合のみ復号される。つまり、現ピクチャ参照可能ピクチャ数が1の場合には、参照リスト並べ替え情報は復号されない。
現ピクチャ参照可能ピクチャ数が1の場合、参照リストのリスト長は最大で1であり、従って参照ピクチャリストの並べ替えは不要である。したがって、現ピクチャ参照可能ピクチャ数が1の場合、参照ピクチャリスト並べ替え有無フラグ、および/または、参照リスト並べ替え順序の復号を省略することで、スライスヘッダの符号量を低減できる。
なお、参照リスト並べ替え情報を図11に示すシンタックス表に替える例を説明したが、参照リスト並べ替え情報のシンタックス表として図10のシンタックス表を用いた上で、図12に示すシンタックス表をスライスヘッダの復号に用いてもよい。図12に示すスライスヘッダのシンタックス表では、現ピクチャ参照可能ピクチャ数(NumPocTotalCurr)が1より大きい場合のみ、参照リスト並べ替え情報(ref_pic_list_modification())を復号している。
(変形例2:NumPocTotalCurrの伝送)
上記変形例1では、現ピクチャ参照可能ピクチャ数として、RPS情報に基づき導出される変数NumPocTotalCurrの値を用いる例を説明したが、それに限らない。例えば、現ピクチャ参照可能ピクチャ数に相当する情報を、直接符号化データより復号して用いてもよい。
具体的には、参照ピクチャ情報復号部13におけるSHリスト修正情報の復号処理において、参照リスト並べ替え情報を図13に示すシンタックス表に基づいてパースする。図13は、スライスヘッダ復号時に利用される参照リスト並べ替え情報のシンタックス表を例示している。図10で説明したシンタックス表との違いは、始めにシンタックス値num_poc_total_currを復号する点にある。num_poc_total_currは例えば4ビットの固定長符号により復号される。なお、num_poc_total_currの符号長は必ずしも4ビットである必要はないが、現ピクチャ参照可能ピクチャ数の上限が16である場合には、4ビットの固定長を用いるのが好ましい。また、図10の場合とは異なり、list_entry_l0やlist_enry_l1の伝送有無の判定において、現ピクチャ参照可能ピクチャ数の値が2より大きいかの判定を、シンタックスnum_poc_total_currの値を用いて行っている。
上記変形例によれば、シンタックスnum_poc_total_currの復号が追加で必要となるが、参照ピクチャリスト修正情報(ref_pic_list_modification)の復号時にRPS情報に基づいて導出したNumPocTotalCurrの情報を用いる必要がない。そのため、より少ない処理量で参照ピクチャリスト修正情報を含むスライスヘッダをパースできる。また、RPS情報はスライスヘッダだけではなくSPSにも含まれるため、スライスヘッダのパースにおけるSPSへの依存を低減できる。それによりエラー耐性向上の効果が得られる。
なお、上記の変形例では、現ピクチャ参照可能ピクチャ数に応じた判定を直接シンタックス表の判定式に含める例を記載したが、シンタックスnum_poc_total_currを直接復号することは、それ以外の場合にも有効である。例えば、シンタックス要素list_entry_l0[i]が現ピクチャ参照可能ピクチャ数に基づく可変長符号により符号化されている場合にも有効である。
別の具体例として、参照リスト並べ替え情報を図14に示すシンタックス表に基づいてパースしてもよい。図13で説明したシンタックス表との違いは、参照リストL0と参照リストL1の修正有無を示すフラグを先に復号し、いずれかの参照ピクチャリストで修正を行う場合のみシンタックスnum_poc_total_currの値を復号している。なお、復号されない場合、num_poc_total_currの値は0に設定される。
参照リストの修正を行わない場合、現ピクチャ参照可能ピクチャ数を用いなくても参照リスト並べ替え情報をパースできる。そのため、参照リストの修正を行う場合のみ、シンタックスnum_poc_total_currを復号することで、冗長性を省いて符号量を削減できる。
別の具体例として、参照リスト並べ替え情報を図15に示すシンタックス表に基づいてパースしてもよい。図13で説明したシンタックス表との違いは、シンタックスnum_poc_total_currを復号する代わりに、シンタックスceil_log2_num_poc_total_currを復号し、その値に基づいて参照リスト並べ替え順序の復号有無を判定している点にある。シンタックスceil_log2_num_poc_total_currの値Vは、現ピクチャ参照可能ピクチャ数をNとした場合、次の式で導出できる。
V=ceil(log2(N))
ここで、log2(A)はAの2の対数を表し、ceil(A)は、Aの値を超えない最大の整数値を意味する。シンタックスceil_log2_num_poc_total_currの値は、現ピクチャ参照可能ピクチャ数を2進数で表現した場合の桁数に相当する。
現ピクチャ参照可能ピクチャ数を直接復号せず、参照リスト並べ替え順序のパースに必要な情報のみを復号することで、スライスヘッダの符号量を直接復号する場合に較べてより短くできる。
別の具体例として、参照リスト並べ替え情報を図16に示すシンタックス表に基づいてパースしてもよい。図12で説明したシンタックス表との違いは、先頭でシンタックスnum_poc_total_curr_greater1_flagの値を復号し、変数NumPocTotalCurrの代わりに、その値に基づいて参照リスト修正有無フラグ、および、参照リスト並べ替え順序の復号有無を判定している点にある。ここで、シンタックスnum_poc_total_curr_greater1_flagは、現ピクチャ参照可能ピクチャ数が1より大きいか否かを示す。つまり現ピクチャ参照可能ピクチャ数が2以上の場合に真、1以下の場合に偽となる。
この場合、変数NumPocTotalCurrを用いる場合に較べて、スライスヘッダのパース処理の低減とエラー耐性向上の効果が得られる。また、現ピクチャ参照可能ピクチャ数を直接復号する場合に較べて、スライスヘッダの符号量増加はより少ないという利点がある。
(変形例3:参照ピクチャリスト構築処理の別の例)
上記図1を参照して説明した参照ピクチャリスト構築処理は、L0参照リストの長さが現ピクチャ参照可能ピクチャ数以下となることを仮定した処理となっているが、それに限らない。例えば、参照リスト長更新情報でL0参照リストの長さをシンタックスnum_refidx_l0_active_minus1により直接指定することで、L0参照リストの長さが現ピクチャ参照可能ピクチャ数より大きくなる場合もある。そのような場合、次の手順で参照ピクチャリスト(ここではL0参照リスト)を構築できる。
(S401)L0参照リスト長lenL0の値を、「num_refidx_l0_active_minus1+1」に設定する。
(S402)L0参照可能リストを生成して、空のリストに初期化する。
(S403)L0参照可能リストに対し、現ピクチャ短期前方参照可能リストに含まれる参照ピクチャを順に追加する。
(S404)L0参照可能リストに対し、現ピクチャ短期後方参照可能リストに含まれる参照ピクチャを順に追加する。
(S405)L0参照可能リストに対し、現ピクチャ長期参照可能リストに含まれる参照ピクチャを順に追加する。
(S406)L0参照リストの修正を行う場合(ref_pic_list_modification_flag_l0の値が1)、S407aを実行する。それ以外の場合、S407bを実行する。
(S407a)0以上(lenL0-1)以下の範囲の整数を順次rIdxに設定して、次の式により、L0参照リストの参照インデックスrIdxの位置の要素に対応する参照ピクチャを設定する。
RefPicList0[ rIdx ] = RpsCurrList0[ list_entry_l0[ rIdx ] ]
なお、上記の式において、RefPicList0[A]は、L0参照リストのAの位置の要素値を示す。また、RpsCurrList0[A]は、L0参照可能リストのAで示す位置の要素値を示す。また、L0参照可能リストの要素数は現ピクチャ参照可能ピクチャ数NumPocTotalCurrに等しく、list_entry_l0[rIdx]の取り得る値の範囲は、0以上NumPocTotalCurr未満の範囲の整数値である。
上記の式によれば、参照リスト並べ替え順序list_entry_l0[i]において、参照ピクチャインデックスrIdxの示す位置に記録されている値を参照し、L0参照可能リストにおいて前記値の位置に記録されている参照ピクチャを、L0参照リストのrIdxの位置の参照ピクチャとして格納する。
(S407b)0以上(lenL0-1)以下の範囲の整数を順次rIdxに設定して、次の式により、L0参照リストの参照インデックスrIdxの位置の要素に対応する参照ピクチャを設定する。
RefPicList0[ rIdx ] = RpsCurrList0[ rIdx % NumPocTotalCurr ]
上記の式によれば、L0参照リストにおいてrIdxの位置に対応付ける参照ピクチャは、L0参照可能リストにおいてrIdxを現ピクチャ参照可能ピクチャ数で割った余り、すなわち、参照画像インデックスをL0参照リスト長で割った余り、の位置に記録されているピクチャとなる。
言い換えると、現ピクチャ参照可能ピクチャを既定の優先順位で並べ替えて作成した参照可能リスト(L0参照可能リスト)の要素を参照して、参照ピクチャリストを設定している。S407bにおける、L0参照リストの修正を行わない場合のL0参照リスト(基本L0参照リスト)の生成では、参照インデックスrIdxの値を現ピクチャ参照可能ピクチャ数で割った余りの値により参照している。
なお、上記の例では、L0参照可能リストRpsCurrList0の要素数はNumPocTotalCurrとしたが、代わりに参照可能リストの長さをL0参照リスト長LenL0とすることもできる。しかしながら、スライス単位で更新される可能性のある参照リスト長に依存せずにL0参照可能リストを生成できるため、L0参照可能リストRpsCurrList0の要素数はNumPocTotalCurrとすることが好ましい。
上記の手順でL0参照リストを構築することで、L0参照リストの長さが現ピクチャ参照可能ピクチャ数より大きくなる場合であってもL0参照リストを構築できる。
なお、上記ではL0参照リストについて説明したが、同様の議論はL1参照リストに対しても成立する。
〔動画像符号化装置〕
以下において、本実施形態に係る動画像符号化装置2について、図17を参照して説明する。
(動画像符号化装置の概要)
動画像符号化装置2は、概略的に言えば、入力画像#10を符号化することによって符号化データ#1を生成し、出力する装置である。
(動画像符号化装置の構成)
まず、図17を用いて、動画像符号化装置2の構成例について説明する。図17は、動画像符号化装置2の構成について示す機能ブロック図である。図17に示すように、動画像符号化装置2は、ピクチャ復号部11、復号ピクチャバッファ12、ヘッダ符号化部20、ピクチャ符号化部21、参照ピクチャセット決定部24、および、参照ピクチャリスト決定部25を備える。ヘッダ符号化部20は、内部に参照ピクチャ情報符号化部23を備える。なお、ピクチャ復号部11と復号ピクチャバッファ12は、図2で説明した同じ名称の構成要素と同一であり説明を省略する。
ヘッダ符号化部20は、入力画像#10に基づいてSPS、PPS、および、スライスヘッダを生成し、符号化して出力する。
参照ピクチャ情報符号化部23は、ヘッダ符号化部16に含まれている。そして、参照ピクチャセットRPSおよび参照ピクチャリストRPLに基づいて、参照ピクチャ情報符号化処理を行い、SPSおよびスライスヘッダに含める、RPS情報およびRPL修正情報を生成する。
ピクチャ符号化部21は、入力画像#10、参照ピクチャリストRPLに基づいて、各ピクチャを符号化して出力する。
参照ピクチャセット決定部24は、入力画像#10と復号ピクチャバッファ12に記録されている局所復号画像に基づいて、符号化対象ピクチャの符号化及び局所復号に用いる参照ピクチャセットRPSを決定して出力する。
参照ピクチャリスト決定部25は、入力画像#10と参照ピクチャセットに基づいて、符号化対象ピクチャの符号化及び局所復号に用いる参照ピクチャリストRPLを決定して出力する。
(動画像復号装置との対応関係)
動画像符号化装置2は、動画像復号装置1の各構成と対応する構成を含む。ここで、対応とは、同様の処理、または、逆の処理を行う関係にあるということである。
例えば、動画像復号装置1が備える参照ピクチャ情報復号部13の参照ピクチャ情報復号処理と、動画像符号化装置2が備える参照ピクチャ情報符号化部23の参照ピクチャ情報符号化処理とは、同様である。より詳細には、参照ピクチャ情報復号部13は、SPSやスライスヘッダから復号されるシンタックス値としてRPS情報や修正RPL情報を生成する。それに対し、参照ピクチャ情報符号化部23は、入力されたRPS情報や修正RPL情報を、SPSやスライスヘッダのシンタックス値として符号化する。
例えば、動画像復号装置1において、ビット列から、シンタックス値を復号する処理は、動画像符号化装置2において、シンタックス値から、ビット列を符号化する処理と逆の処理としての対応となっている。
(処理の流れ)
動画像符号化装置2が、入力画像#10から出力符号化データ#1を生成する手順は次のとおりである。
(S21)入力画像#10を構成する各ピクチャ(対象ピクチャ)に対して、以下のS22〜S29の処理を実行する。
(S22)参照ピクチャセット決定部24は入力画像#10内の対象ピクチャと復号ピクチャバッファ12に記録されている局所復号画像に基づいて参照ピクチャセットRPSを決定して、参照ピクチャリスト決定部25に出力する。また、参照ピクチャセットRPSの生成に必要なRPS情報を導出して、参照ピクチャ情報符号化部23に出力する。
(S23)参照ピクチャリスト決定部25は入力画像#10内の対象ピクチャと入力された参照ピクチャセットRPSに基づいて参照ピクチャリストRPLを導出し、ピクチャ符号化部21、および、ピクチャ復号部11に出力する。また、参照ピクチャリストRPLの生成に必要なRPL修正情報を導出して、参照ピクチャ情報符号化部23に出力する。
(S24)参照ピクチャ情報符号化部23は、参照ピクチャセットRPSおよび参照ピクチャリストRPLに基づいて、SPS、または、スライスヘッダに含めるためのRPS情報およびRPL修正情報を生成する。
(S25)ヘッダ符号化部20は、入力画像#10、および、参照ピクチャ符号化部21で生成されたRPS情報およびRPL修正情報に基づいて、対象ピクチャに適用するSPSを生成して出力する。
(S26)ヘッダ符号化部20は、入力画像#10に基づいて、対象ピクチャに適用するPPSを生成して出力する。
(S27)ヘッダ符号化部20は、入力画像#10、および、参照ピクチャ符号化部21で生成されたRPS情報およびRPL修正情報に基づいて、対象ピクチャを構成する各スライスのスライスヘッダを符号化して、符号化データ#1の一部として外部に出力するとともに、ピクチャ復号部11に出力する。
(S28)ピクチャ符号化部21は、入力画像#10に基づいて、対象ピクチャを構成する各スライスのスライスデータを生成して、符号化データ#1の一部として外部に出力するともに、ピクチャ復号部11に出力する。
(S29)ピクチャ復号部11は、符号化データ#1から対象ピクチャに含まれる各スライスのスライスデータと、参照ピクチャリストRPLに基づいて対象ピクチャの局所復号画像を作成して、対象ピクチャのPOCと関連付けて復号ピクチャバッファに記録する。
〔応用例〕
上述した動画像符号化装置2及び動画像復号装置1は、動画像の送信、受信、記録、再生を行う各種装置に搭載して利用することができる。なお、動画像は、カメラ等により撮像された自然動画像であってもよいし、コンピュータ等により生成された人工動画像(CGおよびGUIを含む)であってもよい。
まず、上述した動画像符号化装置2及び動画像復号装置1を、動画像の送信及び受信に利用できることを、図18を参照して説明する。
図18の(a)は、動画像符号化装置2を搭載した送信装置PROD_Aの構成を示したブロック図である。図18の(a)に示すように、送信装置PROD_Aは、動画像を符号化することによって符号化データを得る符号化部PROD_A1と、符号化部PROD_A1が得た符号化データで搬送波を変調することによって変調信号を得る変調部PROD_A2と、変調部PROD_A2が得た変調信号を送信する送信部PROD_A3と、を備えている。上述した動画像符号化装置2は、この符号化部PROD_A1として利用される。
送信装置PROD_Aは、符号化部PROD_A1に入力する動画像の供給源として、動画像を撮像するカメラPROD_A4、動画像を記録した記録媒体PROD_A5、動画像を外部から入力するための入力端子PROD_A6、及び、画像を生成または加工する画像処理部A7を更に備えていてもよい。図18の(a)においては、これら全てを送信装置PROD_Aが備えた構成を例示しているが、一部を省略しても構わない。
なお、記録媒体PROD_A5は、符号化されていない動画像を記録したものであってもよいし、伝送用の符号化方式とは異なる記録用の符号化方式で符号化された動画像を記録したものであってもよい。後者の場合、記録媒体PROD_A5と符号化部PROD_A1との間に、記録媒体PROD_A5から読み出した符号化データを記録用の符号化方式に従って復号する復号部(不図示)を介在させるとよい。
図18の(b)は、動画像復号装置1を搭載した受信装置PROD_Bの構成を示したブロック図である。図18の(b)に示すように、受信装置PROD_Bは、変調信号を受信する受信部PROD_B1と、受信部PROD_B1が受信した変調信号を復調することによって符号化データを得る復調部PROD_B2と、復調部PROD_B2が得た符号化データを復号することによって動画像を得る復号部PROD_B3と、を備えている。上述した動画像復号装置1は、この復号部PROD_B3として利用される。
受信装置PROD_Bは、復号部PROD_B3が出力する動画像の供給先として、動画像を表示するディスプレイPROD_B4、動画像を記録するための記録媒体PROD_B5、及び、動画像を外部に出力するための出力端子PROD_B6を更に備えていてもよい。図18の(b)においては、これら全てを受信装置PROD_Bが備えた構成を例示しているが、一部を省略しても構わない。
なお、記録媒体PROD_B5は、符号化されていない動画像を記録するためのものであってもよいし、伝送用の符号化方式とは異なる記録用の符号化方式で符号化されたものであってもよい。後者の場合、復号部PROD_B3と記録媒体PROD_B5との間に、復号部PROD_B3から取得した動画像を記録用の符号化方式に従って符号化する符号化部(不図示)を介在させるとよい。
なお、変調信号を伝送する伝送媒体は、無線であってもよいし、有線であってもよい。また、変調信号を伝送する伝送態様は、放送(ここでは、送信先が予め特定されていない送信態様を指す)であってもよいし、通信(ここでは、送信先が予め特定されている送信態様を指す)であってもよい。すなわち、変調信号の伝送は、無線放送、有線放送、無線通信、及び有線通信の何れによって実現してもよい。
例えば、地上デジタル放送の放送局(放送設備など)/受信局(テレビジョン受像機など)は、変調信号を無線放送で送受信する送信装置PROD_A/受信装置PROD_Bの一例である。また、ケーブルテレビ放送の放送局(放送設備など)/受信局(テレビジョン受像機など)は、変調信号を有線放送で送受信する送信装置PROD_A/受信装置PROD_Bの一例である。
また、インターネットを用いたVOD(Video On Demand)サービスや動画共有サービスなどのサーバ(ワークステーションなど)/クライアント(テレビジョン受像機、パーソナルコンピュータ、スマートフォンなど)は、変調信号を通信で送受信する送信装置PROD_A/受信装置PROD_Bの一例である(通常、LANにおいては伝送媒体として無線又は有線の何れかが用いられ、WANにおいては伝送媒体として有線が用いられる)。ここで、パーソナルコンピュータには、デスクトップ型PC、ラップトップ型PC、及びタブレット型PCが含まれる。また、スマートフォンには、多機能携帯電話端末も含まれる。
なお、動画共有サービスのクライアントは、サーバからダウンロードした符号化データを復号してディスプレイに表示する機能に加え、カメラで撮像した動画像を符号化してサーバにアップロードする機能を有している。すなわち、動画共有サービスのクライアントは、送信装置PROD_A及び受信装置PROD_Bの双方として機能する。
次に、上述した動画像符号化装置2及び動画像復号装置1を、動画像の記録及び再生に利用できることを、図19を参照して説明する。
図19の(a)は、上述した動画像符号化装置2を搭載した記録装置PROD_Cの構成を示したブロック図である。図19の(a)に示すように、記録装置PROD_Cは、動画像を符号化することによって符号化データを得る符号化部PROD_C1と、符号化部PROD_C1が得た符号化データを記録媒体PROD_Mに書き込む書込部PROD_C2と、を備えている。上述した動画像符号化装置2は、この符号化部PROD_C1として利用される。
なお、記録媒体PROD_Mは、(1)HDD(Hard Disk Drive)やSSD(Solid State Drive)などのように、記録装置PROD_Cに内蔵されるタイプのものであってもよいし、(2)SDメモリカードやUSB(Universal Serial Bus)フラッシュメモリなどのように、記録装置PROD_Cに接続されるタイプのものであってもよいし、(3)DVD(Digital Versatile Disc)やBD(Blu-ray(登録商標) Disc)などのように、記録装置PROD_Cに内蔵されたドライブ装置(不図示)に装填されるものであってもよい。
また、記録装置PROD_Cは、符号化部PROD_C1に入力する動画像の供給源として、動画像を撮像するカメラPROD_C3、動画像を外部から入力するための入力端子PROD_C4、動画像を受信するための受信部PROD_C5、及び、画像を生成または加工する画像処理部C6を更に備えていてもよい。図19の(a)においては、これら全てを記録装置PROD_Cが備えた構成を例示しているが、一部を省略しても構わない。
なお、受信部PROD_C5は、符号化されていない動画像を受信するものであってもよいし、記録用の符号化方式とは異なる伝送用の符号化方式で符号化された符号化データを受信するものであってもよい。後者の場合、受信部PROD_C5と符号化部PROD_C1との間に、伝送用の符号化方式で符号化された符号化データを復号する伝送用復号部(不図示)を介在させるとよい。
このような記録装置PROD_Cとしては、例えば、DVDレコーダ、BDレコーダ、HDD(Hard Disk Drive)レコーダなどが挙げられる(この場合、入力端子PROD_C4又は受信部PROD_C5が動画像の主な供給源となる)。また、カムコーダ(この場合、カメラPROD_C3が動画像の主な供給源となる)、パーソナルコンピュータ(この場合、受信部PROD_C5又は画像処理部C6が動画像の主な供給源となる)、スマートフォン(この場合、カメラPROD_C3又は受信部PROD_C5が動画像の主な供給源となる)なども、このような記録装置PROD_Cの一例である。
図19の(b)は、上述した動画像復号装置1を搭載した再生装置PROD_Dの構成を示したブロックである。図19の(b)に示すように、再生装置PROD_Dは、記録媒体PROD_Mに書き込まれた符号化データを読み出す読出部PROD_D1と、読出部PROD_D1が読み出した符号化データを復号することによって動画像を得る復号部PROD_D2と、を備えている。上述した動画像復号装置1は、この復号部PROD_D2として利用される。
なお、記録媒体PROD_Mは、(1)HDDやSSDなどのように、再生装置PROD_Dに内蔵されるタイプのものであってもよいし、(2)SDメモリカードやUSBフラッシュメモリなどのように、再生装置PROD_Dに接続されるタイプのものであってもよいし、(3)DVDやBDなどのように、再生装置PROD_Dに内蔵されたドライブ装置(不図示)に装填されるものであってもよい。
また、再生装置PROD_Dは、復号部PROD_D2が出力する動画像の供給先として、動画像を表示するディスプレイPROD_D3、動画像を外部に出力するための出力端子PROD_D4、及び、動画像を送信する送信部PROD_D5を更に備えていてもよい。図19の(b)においては、これら全てを再生装置PROD_Dが備えた構成を例示しているが、一部を省略しても構わない。
なお、送信部PROD_D5は、符号化されていない動画像を送信するものであってもよいし、記録用の符号化方式とは異なる伝送用の符号化方式で符号化された符号化データを送信するものであってもよい。後者の場合、復号部PROD_D2と送信部PROD_D5との間に、動画像を伝送用の符号化方式で符号化する符号化部(不図示)を介在させるとよい。
このような再生装置PROD_Dとしては、例えば、DVDプレイヤ、BDプレイヤ、HDDプレイヤなどが挙げられる(この場合、テレビジョン受像機等が接続される出力端子PROD_D4が動画像の主な供給先となる)。また、テレビジョン受像機(この場合、ディスプレイPROD_D3が動画像の主な供給先となる)、デジタルサイネージ(電子看板や電子掲示板等とも称され、ディスプレイPROD_D3又は送信部PROD_D5が動画像の主な供給先となる)、デスクトップ型PC(この場合、出力端子PROD_D4又は送信部PROD_D5が動画像の主な供給先となる)、ラップトップ型又はタブレット型PC(この場合、ディスプレイPROD_D3又は送信部PROD_D5が動画像の主な供給先となる)、スマートフォン(この場合、ディスプレイPROD_D3又は送信部PROD_D5が動画像の主な供給先となる)なども、このような再生装置PROD_Dの一例である。
〔まとめ〕
以上のように、本発明の一態様に係る画像復号装置は、復号ピクチャバッファに記録された1枚以上の参照画像を参照して、動き補償予測により予測画像を生成して画像復号に用いる画像復号装置において、対象ピクチャに適用する参照ピクチャセットを導出する参照ピクチャセット導出手段と、スライスヘッダより復号されるRPL(Reference Picture List:参照ピクチャリスト)修正情報、および、上記参照ピクチャセット導出手段により導出された上記参照ピクチャセットに基づいて、上記対象ピクチャで利用可能な参照ピクチャリストを生成する参照ピクチャリスト生成手段と、現ピクチャ参照可能ピクチャ数に基づいて、上記RPL修正情報に含まれる情報の一部の復号を省略する参照ピクチャ情報復号手段と、を備えている。
また、上記RPL修正情報には、少なくとも参照ピクチャリスト並べ替え有無フラグおよび参照リスト並べ替え順序が含まれ、上記参照ピクチャ情報復号手段は、現ピクチャ参照可能ピクチャ数に基づいて、参照ピクチャリスト並べ替え有無フラグ、および、参照リスト並べ替え順序の少なくとも何れか一方の復号を省略するものであってもよい。
また、上記参照ピクチャ情報復号手段は、現ピクチャ参照可能ピクチャ数が1の場合、上記参照ピクチャリスト並べ替え有無フラグ、および、上記参照リスト並べ替え順序の復号を省略するものであってもよい。
また、上記現ピクチャ参照可能ピクチャ数は、上記参照ピクチャ情報復号手段により復号されるものであってもよい。
また、本発明の一態様に係る画像復号装置は、復号ピクチャバッファに記録された1枚以上の参照画像を参照して、動き補償予測により予測画像を生成して画像復号に用いる画像復号装置において、SPS(Sequence Parameter Set)またはスライスヘッダより復号されるRPS(Reference Picture Set:参照ピクチャセット)情報に基づいて、対象ピクチャに適用する参照ピクチャセットを導出する参照ピクチャセット導出手段と、上記SPSまたは上記スライスヘッダより復号されるRPL(Reference Picture List:参照ピクチャリスト)修正情報、および、上記参照ピクチャセット導出手段により導出された上記参照ピクチャセットに基づいて、上記対象ピクチャで利用可能な参照ピクチャリストを生成する参照ピクチャリスト生成手段と、現ピクチャ参照可能ピクチャ数に基づいて、参照リスト並べ替え有無フラグ(参照ピクチャリスト並べ替え有無フラグとも呼称する)、および、参照リスト並べ替え順序の少なくとも何れか一方の復号を省略する参照ピクチャ情報復号手段と、を備えていることを特徴としている。
上記の構成によれば、現ピクチャ参照可能ピクチャ数に基づいて、参照リスト並べ替え有無フラグ、および、参照リスト並べ替え順序の少なくとも何れか一方の復号を省略する。よって、復号に不要な参照ピクチャの情報を伝送することを防止することができ、より少ない符号量のヘッダ情報で動画像を復号することができる。
本発明に係る画像復号装置では、上記参照ピクチャ情報復号手段は、現ピクチャ参照可能ピクチャ数が2の場合、上記参照リスト並べ替え順序の復号を省略し、上記参照ピクチャリスト生成手段は、現ピクチャ参照可能ピクチャ数が2の場合、並べ替え後の参照ピクチャリストの要素の順序が、標準参照ピクチャリストと異なる順序となる参照リスト並べ替え順序の参照ピクチャリストを生成するものであってもよい。
上記の構成によれば、現ピクチャ参照可能ピクチャ数が2であるとき、適切な参照ピクチャリストを選択することができ、適切な参照ピクチャリストを用いて動画像を復号することができる。
本発明の一態様に係る画像復号装置では、上記参照ピクチャ情報復号手段は、現ピクチャ参照可能ピクチャ数が1の場合、上記参照リスト並べ替え有無フラグ、および、上記参照リスト並べ替え順序の復号を省略するものであってもよい。
現ピクチャ参照可能ピクチャ数が1の場合、参照リストのリスト長は最大で1であり、参照ピクチャリストの並べ替えは不要となる。上記の構成によれば、現ピクチャ参照可能ピクチャ数が1の場合、参照ピクチャリスト並べ替え有無フラグ、および、参照リスト並べ替え順序の復号を省略するので、スライスヘッダの符号量を低減することができる。
本発明の一態様に係る画像復号装置では、上記現ピクチャ参照可能ピクチャ数は、上記参照ピクチャ情報復号手段により復号されるものであってもよい。
上記の構成によれば、少ない処理量で参照ピクチャリスト修正情報を含むスライスヘッダをパースできる。また、スライスヘッダのパースにおけるシーケンスパラメータセットSPSへの依存を低減できる。これにより、エラー耐性向上を図ることができる。
本発明の一態様に係る画像符号化装置は、復号ピクチャバッファに記録された1枚以上の参照画像を参照して、動き補償予測により予測画像を生成して画像符号化に用いる画像符号化装置において、対象ピクチャに適用する参照ピクチャセットおよび参照ピクチャリストを決定する参照ピクチャセット決定手段と、現ピクチャ参照可能ピクチャ数に基づいて、参照リスト並べ替え有無フラグ、および、参照リスト並べ替え順序の少なくとも何れか一方の符号化を省略する参照ピクチャ情報符号化手段と、を備えていることを特徴としている。
上記の構成によれば、現ピクチャ参照可能ピクチャ数に基づいて、参照リスト並べ替え有無フラグ、および、参照リスト並べ替え順序の少なくとも何れか一方の符号化を省略する。よって、復号に不要な参照ピクチャの情報を伝送することを防止することができ、より少ない符号量のヘッダ情報で動画像を復号させるように符号化データを生成することができる。
本発明の一態様に係る画像復号装置は、復号ピクチャバッファに記録された1枚以上の参照画像を参照して、動き補償予測により予測画像を生成して画像復号に用いる画像復号装置において、対象ピクチャに適用する参照ピクチャセットを導出する参照ピクチャセット導出手段と、スライスヘッダより復号されるRPL(Reference Picture List:参照ピクチャリスト)修正情報、および、上記参照ピクチャセット導出手段により導出された上記参照ピクチャセットに基づいて、上記対象ピクチャで利用可能な参照ピクチャリストを生成する参照ピクチャリスト生成手段と、現ピクチャ参照可能ピクチャ数に基づいて、上記RPL修正情報に含まれる情報の一部の復号を省略する参照ピクチャ情報復号手段と、を備えている。
(ハードウェア的実現およびソフトウェア的実現)
また、上述した動画像復号装置1および動画像符号化装置2の各ブロックは、集積回路(ICチップ)上に形成された論理回路によってハードウェア的に実現してもよいし、CPU(Central Processing Unit)を用いてソフトウェア的に実現してもよい。
後者の場合、上記各装置は、各機能を実現するプログラムの命令を実行するCPU、上記プログラムを格納したROM(Read Only Memory)、上記プログラムを展開するRAM(Random Access Memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアである上記各装置の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、上記各装置に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ類、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM(Compact Disc Read-Only Memory)/MOディスク(Magneto-Optical disc)/MD(Mini Disc)/DVD(Digital Versatile Disc)/CD−R(CD Recordable)/ブルーレイディスク(Blu-ray(登録商標) Disc)等の光ディスクを含むディスク類、ICカード(メモリカードを含む)/光カード等のカード類、マスクROM/EPROM(Erasable Programmable Read-Only Memory)/EEPROM(登録商標)(Electrically Erasable and Programmable Read-Only Memory)/フラッシュROM等の半導体メモリ類、あるいはPLD(Programmable logic device)やFPGA(Field Programmable Gate Array)等の論理回路類などを用いることができる。
また、上記各装置を通信ネットワークと接続可能に構成し、上記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークは、プログラムコードを伝送可能であればよく、特に限定されない。例えば、インターネット、イントラネット、エキストラネット、LAN(Local Area Network)、ISDN(Integrated Services Digital Network)、VAN(Value-Added Network)、CATV(Community Antenna television/Cable Television)通信網、仮想専用網(Virtual Private Network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、この通信ネットワークを構成する伝送媒体も、プログラムコードを伝送可能な媒体であればよく、特定の構成または種類のものに限定されない。例えば、IEEE(Institute of Electrical and Electronic Engineers)1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL(Asymmetric Digital Subscriber Line)回線等の有線でも、IrDA(Infrared Data Association)やリモコンのような赤外線、Bluetooth(登録商標)、IEEE802.11無線、HDR(High Data Rate)、NFC(Near Field Communication)、DLNA(登録商標)(Digital Living Network Alliance)、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。さらに、各実施形態にそれぞれ開示された技術的手段を組み合わせることにより、新しい技術的特徴を形成することができる。
本発明は、画像データが符号化された符号化データを復号する画像復号装置、および、画像データが符号化された符号化データを生成する画像符号化装置に好適に適用することができる。また、画像符号化装置によって生成され、画像復号装置によって参照される符号化データのデータ構造に好適に適用することができる。
1 動画像復号装置(画像復号装置)
2 動画像符号化装置(画像符号化装置)
10 ヘッダ復号部
11 ピクチャ復号部
12 復号ピクチャバッファ
13 参照ピクチャ情報復号部(参照ピクチャ情報復号手段)
14 参照ピクチャセット設定部(参照ピクチャセット導出手段)
15 参照ピクチャリスト導出部(参照ピクチャリスト生成手段)
20 ヘッダ符号化部
21 ピクチャ符号化部
23 参照ピクチャ情報符号化部(参照ピクチャ情報符号化手段)
24 参照ピクチャセット決定部(参照ピクチャセット決定手段)
25 参照ピクチャリスト決定部

Claims (2)

  1. 復号ピクチャバッファに記録された1枚以上の参照画像を参照して、動き補償予測により予測画像を生成して画像復号に用いる画像復号装置において、
    対象ピクチャに適用する参照ピクチャセットを導出する参照ピクチャセット導出手段と、
    スライスヘッダより復号されるRPL(Reference Picture List:参照ピクチャリスト)修正情報、および、上記参照ピクチャセット導出手段により導出された上記参照ピクチャセットに基づいて、上記対象ピクチャで利用可能な参照ピクチャリストを生成する参照ピクチャリスト生成手段と、
    上記RPL修正情報に含まれる情報の一部の復号を省略する参照ピクチャ情報復号手段と、を備え、
    上記RPL修正情報には、少なくとも参照ピクチャリスト並べ替え有無フラグおよび参照リスト並べ替え順序が含まれ、
    上記参照ピクチャ情報復号手段は、現ピクチャ参照可能ピクチャ数が1の場合、参照ピクチャリスト並べ替え有無フラグ、および、参照リスト並べ替え順序の復号を省略することを特徴とする画像復号装置。
  2. 上記現ピクチャ参照可能ピクチャ数は、上記参照ピクチャ情報復号手段により復号されることを特徴とする請求項1に記載の画像復号装置。
JP2018098455A 2012-09-28 2018-05-23 画像復号装置 Active JP6609000B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2012218582 2012-09-28
JP2012218582 2012-09-28

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2014538597A Division JP6345594B2 (ja) 2012-09-28 2013-09-26 画像を復号する方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2019193366A Division JP6878549B2 (ja) 2012-09-28 2019-10-24 画像を復号する方法

Publications (2)

Publication Number Publication Date
JP2018160908A JP2018160908A (ja) 2018-10-11
JP6609000B2 true JP6609000B2 (ja) 2019-11-20

Family

ID=50388384

Family Applications (6)

Application Number Title Priority Date Filing Date
JP2014538597A Active JP6345594B2 (ja) 2012-09-28 2013-09-26 画像を復号する方法
JP2018098455A Active JP6609000B2 (ja) 2012-09-28 2018-05-23 画像復号装置
JP2019193366A Active JP6878549B2 (ja) 2012-09-28 2019-10-24 画像を復号する方法
JP2021076175A Active JP7155331B2 (ja) 2012-09-28 2021-04-28 画像を符号化する方法
JP2022160954A Active JP7520934B2 (ja) 2012-09-28 2022-10-05 画像を復号する方法
JP2024110928A Pending JP2024138414A (ja) 2012-09-28 2024-07-10 画像を復号する方法、画像を符号化する方法、および装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2014538597A Active JP6345594B2 (ja) 2012-09-28 2013-09-26 画像を復号する方法

Family Applications After (4)

Application Number Title Priority Date Filing Date
JP2019193366A Active JP6878549B2 (ja) 2012-09-28 2019-10-24 画像を復号する方法
JP2021076175A Active JP7155331B2 (ja) 2012-09-28 2021-04-28 画像を符号化する方法
JP2022160954A Active JP7520934B2 (ja) 2012-09-28 2022-10-05 画像を復号する方法
JP2024110928A Pending JP2024138414A (ja) 2012-09-28 2024-07-10 画像を復号する方法、画像を符号化する方法、および装置

Country Status (5)

Country Link
US (7) US9667984B2 (ja)
JP (6) JP6345594B2 (ja)
CN (5) CN108540812B (ja)
HK (5) HK1256316A1 (ja)
WO (1) WO2014050989A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10003817B2 (en) 2011-11-07 2018-06-19 Microsoft Technology Licensing, Llc Signaling of state information for a decoded picture buffer and reference picture lists
WO2014050989A1 (ja) 2012-09-28 2014-04-03 シャープ株式会社 画像復号装置
US9313500B2 (en) 2012-09-30 2016-04-12 Microsoft Technology Licensing, Llc Conditional signalling of reference picture list modification information
US10212435B2 (en) 2013-10-14 2019-02-19 Qualcomm Incorporated Device and method for scalable coding of video information
US9918154B2 (en) * 2015-07-30 2018-03-13 Skullcandy, Inc. Tactile vibration drivers for use in audio systems, and methods for operating same
US11284076B2 (en) * 2017-03-22 2022-03-22 Electronics And Telecommunications Research Institute Block form-based prediction method and device
US10531085B2 (en) 2017-05-09 2020-01-07 Futurewei Technologies, Inc. Coding chroma samples in video compression
US11463736B2 (en) * 2018-09-21 2022-10-04 Sharp Kabushiki Kaisha Systems and methods for signaling reference pictures in video coding
EP4085620A4 (en) 2020-01-23 2023-03-01 Huawei Technologies Co., Ltd. REFERENCE IMAGE MANAGEMENT METHODS FOR VIDEO CODING

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BRPI0413979A (pt) * 2003-08-26 2006-11-07 Thomson Licensing método e aparelho para minimizar o número de imagens de referência usadas para inter-codificação
EP1806930A1 (en) 2006-01-10 2007-07-11 Thomson Licensing Method and apparatus for constructing reference picture lists for scalable video
CN101379829B (zh) * 2006-02-02 2016-05-18 汤姆逊许可公司 用于运动补偿预测的自适应加权选择的方法和设备
PL2008460T3 (pl) * 2006-03-30 2017-10-31 Lg Electronics Inc Sposób i urządzenie do dekodowania/kodowania sygnału wideo
CN101202923B (zh) * 2006-12-15 2010-09-01 扬智科技股份有限公司 影像解码器的码流错误侦测方法
JP2008154015A (ja) * 2006-12-19 2008-07-03 Hitachi Ltd 復号化方法および符号化方法
KR20090004658A (ko) * 2007-07-02 2009-01-12 엘지전자 주식회사 디지털 방송 시스템 및 데이터 처리 방법
CN101272494B (zh) * 2008-01-25 2011-06-08 浙江大学 利用合成参考帧的视频编解码方法及装置
CN101621685B (zh) * 2008-07-04 2011-06-15 株式会社日立制作所 编码装置和编码方法
WO2010086500A1 (en) * 2009-01-28 2010-08-05 Nokia Corporation Method and apparatus for video coding and decoding
US8693539B2 (en) 2009-03-26 2014-04-08 Panasonic Corporation Coding method, error detecting method, decoding method, coding apparatus, error detecting apparatus, and decoding apparatus
WO2011013257A1 (ja) * 2009-07-29 2011-02-03 パナソニック株式会社 マルチビュービデオ復号装置およびその方法
KR101611437B1 (ko) * 2009-10-28 2016-04-26 삼성전자주식회사 복수의 프레임을 참조하여 영상을 부호화, 복호화하는 방법 및 장치
KR20110050283A (ko) * 2009-11-06 2011-05-13 삼성전자주식회사 다중 참조 영상을 이용한 고속 움직임 추정 방법
TW201121331A (en) * 2009-12-10 2011-06-16 Novatek Microelectronics Corp Picture decoder
WO2011075071A1 (en) * 2009-12-17 2011-06-23 Telefonaktiebolaget Lm Ericsson (Publ) Method and arrangement for video coding
JP5617246B2 (ja) * 2010-01-12 2014-11-05 ソニー株式会社 画像処理装置、物体選択方法及びプログラム
WO2012096176A1 (en) * 2011-01-12 2012-07-19 Panasonic Corporation Methods and apparatuses for encoding and decoding video using multiple reference pictures
TW201246943A (en) * 2011-01-26 2012-11-16 Panasonic Corp Video image encoding method, video image encoding device, video image decoding method, video image decoding device, and video image encoding and decoding device
WO2012108181A1 (en) * 2011-02-08 2012-08-16 Panasonic Corporation Methods and apparatuses for encoding and decoding video using multiple reference pictures
JP2012169763A (ja) * 2011-02-10 2012-09-06 Sony Corp 画像符号化装置と画像符号化方法およびプログラム
CN102438141B (zh) * 2011-10-25 2013-03-27 中国科学技术大学 一种立体视频码流处理方法及装置
WO2014050989A1 (ja) 2012-09-28 2014-04-03 シャープ株式会社 画像復号装置

Also Published As

Publication number Publication date
JPWO2014050989A1 (ja) 2016-08-22
US9866856B2 (en) 2018-01-09
US11924451B2 (en) 2024-03-05
CN108322761B (zh) 2020-08-07
CN108337525B (zh) 2020-08-25
US10194161B2 (en) 2019-01-29
US11284098B2 (en) 2022-03-22
US20240171764A1 (en) 2024-05-23
HK1256317A1 (zh) 2019-09-20
CN108540812A (zh) 2018-09-14
JP7155331B2 (ja) 2022-10-18
US9667984B2 (en) 2017-05-30
CN104604233B (zh) 2018-04-27
JP2021122133A (ja) 2021-08-26
JP6878549B2 (ja) 2021-05-26
JP2020014251A (ja) 2020-01-23
US10708609B2 (en) 2020-07-07
US20190182497A1 (en) 2019-06-13
CN108540813A (zh) 2018-09-14
HK1255073A1 (zh) 2019-08-02
WO2014050989A1 (ja) 2014-04-03
HK1256316A1 (zh) 2019-09-20
US20160165249A1 (en) 2016-06-09
JP2024138414A (ja) 2024-10-08
HK1210345A1 (en) 2016-04-15
CN108337525A (zh) 2018-07-27
US20220286699A1 (en) 2022-09-08
US20180063541A1 (en) 2018-03-01
CN108322761A (zh) 2018-07-24
JP2022180635A (ja) 2022-12-06
JP6345594B2 (ja) 2018-06-20
JP2018160908A (ja) 2018-10-11
HK1255059A1 (zh) 2019-08-02
CN104604233A (zh) 2015-05-06
US20150222914A1 (en) 2015-08-06
US20200366916A1 (en) 2020-11-19
JP7520934B2 (ja) 2024-07-23
CN108540813B (zh) 2021-03-16
CN108540812B (zh) 2020-12-22

Similar Documents

Publication Publication Date Title
JP6609000B2 (ja) 画像復号装置
JP6456535B2 (ja) 画像符号化装置、画像符号化方法および記録媒体
JP6352248B2 (ja) 画像復号装置、および画像符号化装置
WO2015053120A1 (ja) 画像復号装置、画像復号方法、画像符号化装置、及び画像符号化方法
WO2014050597A1 (ja) 画像復号装置
JP2021136460A (ja) 画像復号装置及び画像符号化装置
JP2021150703A (ja) 画像復号装置及び画像符号化装置
JP2013118424A (ja) 画像復号装置、画像符号化装置、および符号化データのデータ構造
JP2013223049A (ja) 画像復号装置、および画像符号化装置
JP2015002495A (ja) 画像復号装置、および画像符号化装置
JP2021136609A (ja) 画像復号装置及び画像符号化装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180523

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190827

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190924

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191024

R150 Certificate of patent or registration of utility model

Ref document number: 6609000

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250