JP7361522B2 - 予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラム - Google Patents

予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラム Download PDF

Info

Publication number
JP7361522B2
JP7361522B2 JP2019143892A JP2019143892A JP7361522B2 JP 7361522 B2 JP7361522 B2 JP 7361522B2 JP 2019143892 A JP2019143892 A JP 2019143892A JP 2019143892 A JP2019143892 A JP 2019143892A JP 7361522 B2 JP7361522 B2 JP 7361522B2
Authority
JP
Japan
Prior art keywords
prediction
block
intra prediction
unit
mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019143892A
Other languages
English (en)
Other versions
JP2021027464A (ja
Inventor
慎平 根本
俊輔 岩村
敦郎 市ヶ谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2019143892A priority Critical patent/JP7361522B2/ja
Publication of JP2021027464A publication Critical patent/JP2021027464A/ja
Priority to JP2023172326A priority patent/JP2023168518A/ja
Application granted granted Critical
Publication of JP7361522B2 publication Critical patent/JP7361522B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラムに関する。
従来から、伝送時や保存時の静止画像や動画像のデータ量を圧縮するため映像符号化方式の研究が行われている。近年、映像符号化技術では8K-SHVに代表されるような超高解像度映像の普及が進んでおり、膨大なデータ量の動画像を伝送するための手法としてAVC/H.264やHEVC/H.265などの符号化方式が知られている。
MPEG及びITUが合同で標準化を行っている次世代符号化方式であるVVCでは、フレーム内の空間的な相関を利用したイントラ予測、及びフレーム間の相関を利用したインター予測が利用されている(例えば、非特許文献1参照)。これらの予測では、画像を分割して得たブロック単位での予測を行う。
また、VVCでは、Combined Inter and Intra Prediction(CIIP)という技術が採用される見込みである。CIIPは、予測対象のブロックをインター予測及びイントラ予測によりそれぞれ予測してインター予測ブロック及びイントラ予測ブロックを生成し、インター予測ブロック及びイントラ予測ブロックを重み付け合成により合成することで予測ブロックを出力する技術である。なお、CIIPにおけるイントラ予測のイントラ予測モードはPlanarモードに固定されている。
CIIPにおける重み付け合成に用いる重み係数の情報は、画像符号化装置から画像復号装置へ送られることはなく、予測対象のブロックの上ブロック及び左ブロックにおいてイントラ予測が適用されているか又はインター予測が適用されているかに応じて暗黙的に決定される。
具体的な重み係数は、イントラ予測ブロックの重みを「Intra」、インター予測ブロックの重みを「Inter」としたとき、
(a)両方でイントラ予測が用いられている場合、Intra:Inter=3:1
(b)どちらか片方でイントラ予測が用いられている場合、Intra:Inter=2:2
(c)両方でインター予測が用いられている場合、Intra:Inter=1:3
となっている。つまり、周辺ブロックでイントラ予測が適用されているときはイントラ予測ブロックの重みが大きく、周辺ブロックでインター予測が適用されているときはインター予測ブロックの重みが大きくなるように設計されている。
JVET-N1001 Versatile Video Coding (Draft 5)
上述のように、CIIPにおける重み係数は、周辺ブロックにイントラ予測が適用されているか否かに応じて決定されている。
しかしながら、周辺ブロックでイントラ予測が適用されていても、周辺ブロックのイントラ予測モードがPlanar予測でない場合には、予測対象のブロックと周辺ブロックとで相関性がなく絵柄やテクスチャが大きく異なる可能性がある。そのような場合、イントラ予測ブロックの重みを大きくすることが逆効果になり、予測対象のブロックに対する予測精度が低くなり得るという課題がある。
そこで、本発明は、CIIPにおける重み係数を適切に決定することで予測精度を改善する予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラムを提供することを目的とする。
第1の態様に係る予測対象ブロック生成装置は、画像を分割して得た予測対象ブロックをインター予測及びイントラ予測によりそれぞれ予測してインター予測ブロック及びイントラ予測ブロックを生成し、前記インター予測ブロック及び前記イントラ予測ブロックを重み付け合成により合成することで前記予測対象ブロックに対する予測ブロックを出力する。前記予測ブロック生成装置は、前記予測対象ブロックの周辺にイントラ予測が適用された周辺ブロックがある場合、前記周辺ブロックに適用されたイントラ予測のイントラ予測モードを特定するモード特定部と、前記モード特定部が特定した前記イントラ予測モードに基づいて、前記重み付け合成に用いる重み係数を決定する重み係数決定部とを備える。
第2の態様に係る画像符号化装置は、第1の態様に係る予測ブロック生成装置を備える。
第3の態様に係る画像復号装置は、第1の態様に係る予測ブロック生成装置を備える。
第4の態様に係るプログラムは、コンピュータを第1の態様に係る予測ブロック生成装置として機能させる。
本発明によれば、CIIPにおける重み係数を適切に決定することで予測精度を改善する予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラムを提供できる。
実施形態に係る画像符号化装置の構成を示す図である。 実施形態に係るイントラ予測モードの候補を示す図である。 イントラ予測のイントラ予測モードとしてのPlanarモードを示す図である。 実施形態に係る画像符号化装置の合成処理部の構成を示す図である。 実施形態に係る上ブロック及び左ブロックを示す図である。 実施形態に係る画像復号装置の構成を示す図である。 実施形態に係る画像復号装置の合成処理部の構成を示す図である。 実施形態に係る画像復号装置における予測ブロック生成の動作フロー例を示す図である。 その他の実施形態に係る合成処理部の構成を示す図である。
図面を参照して、実施形態に係る画像符号化装置及び画像復号装置について説明する。実施形態に係る画像符号化装置及び画像復号装置は、MPEGに代表される動画像の符号化及び復号をそれぞれ行う。以下の図面の記載において、同一又は類似の部分には同一又は類似の符号を付している。
<画像符号化装置の構成>
まず、本実施形態に係る画像符号化装置の構成について説明する。図1は、本実施形態に係る画像符号化装置1の構成を示す図である。
図1に示すように、画像符号化装置1は、ブロック分割部100と、減算部110と、変換・量子化部120と、エントロピー符号化部130と、逆量子化・逆変換部140と、合成部150と、メモリ160と、予測部170とを有する。本実施形態において、予測部170は、画像符号化装置1に設けられる予測ブロック生成装置に相当する。
ブロック分割部100は、動画像を構成するフレーム(或いはピクチャ)単位の入力画像である原画像を複数の画像ブロックに分割し、分割により得た画像ブロックを減算部110に出力する。画像ブロックのサイズは、例えば32×32画素、16×16画素、8×8画素、又は4×4画素等である。画像ブロックの形状は正方形に限らず長方形(非正方形)であってもよい。画像ブロックは、画像符号化装置1が符号化を行う単位(すなわち、符号化対象ブロック)であり、且つ画像復号装置が復号を行う単位(すなわち、復号対象ブロック)である。このような画像ブロックはCU(Coding Unit)と呼ばれることがある。
減算部110は、ブロック分割部100から出力される符号化対象ブロックと、符号化対象ブロックを予測部170が予測して得た予測ブロックとの差分(誤差)を表す予測残差を算出する。具体的には、減算部110は、ブロックの各画素値から予測ブロックの各画素値を減算することにより予測残差を算出し、算出した予測残差を変換・量子化部120に出力する。
変換・量子化部120は、ブロック単位で直交変換処理及び量子化処理を行う。変換・量子化部120は、変換部121と、量子化部122とを有する。
変換部121は、減算部110から出力される予測残差に対して直交変換処理を行って直交変換係数を算出し、算出した直交変換係数を量子化部122に出力する。直交変換とは、例えば、離散コサイン変換(DCT:Discrete Cosine Transform)や離散サイン変換(DST:Discrete Sine Transform)、カルーネンレーブ変換(KLT: Karhunen-Loeve Transform)等をいう。
量子化部122は、変換部121から出力される直交変換係数を量子化パラメータ(Qp)及び量子化行列を用いて量子化し、量子化した直交変換係数をエントロピー符号化部130及び逆量子化・逆変換部140に出力する。なお、量子化パラメータ(Qp)は、ブロック内の各直交変換係数に対して共通して適用されるパラメータであって、量子化の粗さを定めるパラメータである。量子化行列は、各直交変換係数を量子化する際の量子化値を要素として有する行列である。
エントロピー符号化部130は、量子化部122から出力される直交変換係数に対してエントロピー符号化を行い、データ圧縮を行って符号化データ(ビットストリーム)を生成し、符号化データを画像符号化装置1の外部に出力する。エントロピー符号化には、ハフマン符号やCABAC(Context-based Adaptive Binary Arithmetic Coding;コンテキスト適応型2値算術符号)等を用いることができる。なお、エントロピー符号化部130は、予測部170から予測に関する情報が入力され、入力された情報のエントロピー符号化も行う。
逆量子化・逆変換部140は、ブロック単位で逆量子化処理及び逆直交変換処理を行う。逆量子化・逆変換部140は、逆量子化部141と、逆変換部142とを有する。
逆量子化部141は、量子化部122が行う量子化処理に対応する逆量子化処理を行う。具体的には、逆量子化部141は、量子化部122から出力される直交変換係数を、量子化パラメータ(Qp)及び量子化行列を用いて逆量子化することにより直交変換係数を復元し、復元した直交変換係数を逆変換部142に出力する。
逆変換部142は、変換部121が行う直交変換処理に対応する逆直交変換処理を行う。例えば、変換部121が離散コサイン変換を行った場合には、逆変換部142は逆離散コサイン変換を行う。逆変換部142は、逆量子化部141から出力される直交変換係数に対して逆直交変換処理を行って予測残差を復元し、復元した予測残差である復元予測残差を合成部150に出力する。
合成部150は、逆変換部142から出力される復元予測残差を、予測部170から出力される予測ブロックと画素単位で合成する。合成部150は、復元予測残差の各画素値と予測ブロックの各画素値を加算して符号化対象ブロックを復号(再構成)し、復号済みブロックをメモリ160に出力する。なお、復号済みブロックは、再構成ブロックと呼ばれることもある。
メモリ160は、合成部150から出力される復号済みブロックを記憶し、復号済みブロックをフレーム単位で復号済み画像として蓄積する。メモリ160は、記憶している復号済みブロック若しくは復号済み画像を予測部170に出力する。なお、合成部150とメモリ160との間にループフィルタが設けられてもよい。本実施形態において、メモリ160は、各復号済みブロックに適用された予測に関する情報(以下、「ブロック予測情報」と呼ぶ)をさらに記憶する。
予測部170は、ブロック単位で予測を行う。予測部170が取り扱う符号化対象ブロックを「予測対象ブロック」と呼ぶ。予測部170は、イントラ予測部171と、インター予測部172と、合成処理部173と、切替部174とを有する。
イントラ予測部171は、フレーム内の空間的な相関を利用したイントラ予測を行う。具体的には、イントラ予測部171は、メモリ160に記憶された復号済み画像のうち、イントラ予測の予測対象ブロックの周辺にある復号済み画素を参照してイントラ予測ブロックを生成し、生成したイントラ予測ブロックを切替部174に出力する。一般的に、イントラ予測部171は、複数のイントラ予測モードの中から、イントラ予測の予測対象ブロックに適用するイントラ予測モードを選択し、選択したイントラ予測モードを用いて対象ブロックを予測する。イントラ予測部171は、選択したイントラ予測モードに関する情報をエントロピー符号化部130に出力する。
図2は、本実施形態に係るイントラ予測モードの候補を示す図である。図2に示すように、イントラ予測モードの候補は、0から66までの67通りのイントラ予測モードがある。イントラ予測モードのモード「0」はPlanar予測であり、イントラ予測モードのモード「1」はDC予測であり、イントラ予測モードのモード「2」乃至「66」は方向性予測である。方向性予測において、矢印の方向は参照方向を示し、矢印の起点は予測対象の画素の位置を示し、矢印の終点はこの予測対象画素の予測に用いる参照画素の位置を示す。ブロックの右上頂点及び左下頂点を通る対角線に平行な参照方向として、左下方向を参照するイントラ予測モードであるモード「2」と、右上方向を参照するイントラ予測モードであるモード「66」とがあり、モード「2」からモード「66」まで時計回りに所定角度ごとにモード番号が割り振られている。
インター予測部172は、フレーム間の相関を利用したインター予測を行う。具体的には、インター予測部172は、メモリ160に記憶された復号済み画像を参照画像として用いて、ブロックマッチングなどの手法により動きベクトルを算出し、インター予測の予測対象ブロックを予測してインター予測ブロックを生成し、生成したインター予測ブロックを切替部174に出力する。ここで、インター予測部172は、複数の参照画像を用いるインター予測(典型的には、双予測)や、1つの参照画像を用いるインター予測(片方向予測)の中から最適なインター予測方法を選択し、選択したインター予測方法を用いてインター予測を行う。インター予測部172は、インター予測に関する情報(動きベクトル等)をエントロピー符号化部130に出力する。
本実施形態において、予測部170は、CIIPの機能を有する。以下において、CIIPは、インター予測に属する機能であるものとする。予測部170は、予測対象ブロックにCIIPを適用する場合、CIIPの予測対象ブロックをインター予測及びイントラ予測によりそれぞれ予測してインター予測ブロック及びイントラ予測ブロックを生成し、インター予測ブロック及びイントラ予測ブロックを重み付け合成により合成することで予測ブロックを出力する。予測部170は、予測対象ブロックにCIIPを適用する場合、このブロックにCIIPを適用することを示す情報をエントロピー符号化部130に出力する。
具体的には、予測対象ブロックにCIIPを適用する場合、イントラ予測部171及びインター予測部172は、同一の予測対象ブロックに対してイントラ予測及びインター予測をそれぞれ行う。そして、イントラ予測部171がイントラ予測ブロックを合成処理部173に出力するとともに、インター予測部172がインター予測ブロックを合成処理部173に出力する。
CIIPにおいて、イントラ予測部171は、イントラ予測のイントラ予測モードとしてPlanarモードを適用する。図3に示すように、Planar予測は、4つの矢印の始点にある上下左右の4つの参照画素を用いて内挿予測により予測画素値を生成するイントラ予測モードである。或いは、CIIPにおいて、イントラ予測部171は、Planarモード以外のイントラ予測モードを適用してもよい。
合成処理部173は、イントラ予測部171から出力されるイントラ予測ブロック及びインター予測部172から出力されるインター予測ブロックを重み付け合成により合成することで予測ブロックを生成し、生成した予測ブロックを切替部174に出力する。本実施形態において、合成処理部173が出力する予測ブロックは、インター予測ブロックの一種であるものとする。合成処理部173の詳細については後述する。
切替部174は、インター予測部172又は合成処理部173から出力されるインター予測ブロックとイントラ予測部171から出力されるイントラ予測ブロックとを切り替えて、いずれかの予測ブロックを減算部110及び合成部150に出力する。
図4は、本実施形態に係る画像符号化装置1の合成処理部173の構成を示す図である。
図4に示すように、合成処理部173は、モード特定部173aと、重み係数決定部173bと、重み付け合成部173cとを有する。
モード特定部173aは、メモリ160に記憶された各復号済みブロックのブロック予測情報に基づいて、予測対象ブロックの周辺にイントラ予測が適用された周辺ブロック(復号済みブロック)がある場合、当該周辺ブロックに適用されたイントラ予測のイントラ予測モードを特定する。また、モード特定部173aは、予測対象ブロックの周辺にイントラ予測が適用された複数の周辺ブロックがある場合、当該複数の周辺ブロックのそれぞれに適用されたイントラ予測のイントラ予測モードを特定する。
本実施形態において、予測対象ブロックの上にある隣接ブロックである上ブロック及び予測対象ブロックの左にある隣接ブロックである左ブロックを周辺ブロックとして用いる。予測対象ブロック及び周辺ブロックは、ブロック形状やブロックサイズが互いに異なっている場合ある。このため、図5に示すように、上ブロックは、予測対象ブロックの最も右上にある画素の上側に隣接する画素を含む隣接ブロックとする。また、左ブロックは、予測対象ブロックの最も左下にある画素の左側に隣接する画素を含む隣接ブロックとする。
モード特定部173aは、予測対象ブロックのイントラ予測に適用されたイントラ予測モードと、複数の周辺ブロック(上ブロック及び左ブロック)のそれぞれのイントラ予測モードとを比較する。具体的には、モード特定部173aは、複数の周辺ブロックのそれぞれのイントラ予測モードのうち予測対象ブロックのイントラ予測に適用されたイントラ予測モードと一致する数であるモード一致数を特定し、特定したモード一致数を重み係数決定部173bに出力する。
CIIPにおいて予測対象ブロックに適用されるイントラ予測モードがPlanarモードで固定である場合、モード特定部173aは、周辺ブロックのイントラ予測モードの情報をメモリ160から読み出し、周辺ブロックのイントラ予測モードのうちPlanarモードの個数をモード一致数として特定する。本実施形態においては周辺ブロックを上ブロック及び左ブロックとしているため、モード一致数は、0、1、又は2となる。
一方、CIIPにおいて予測対象ブロックに適用されるイントラ予測モードが可変である場合、モード特定部173aは、周辺ブロックのイントラ予測モードの情報をメモリ160から読み出すとともに、予測対象ブロックに適用されるイントラ予測モードの情報をイントラ予測部171から取得する。そして、モード特定部173aは、周辺ブロックのイントラ予測モードのうち、予測対象ブロックに適用されるイントラ予測モードの個数をモード一致数として特定する。本実施形態においては周辺ブロックを上ブロック及び左ブロックとしているため、モード一致数は、0、1、又は2となる。
重み係数決定部173bは、モード特定部173aが特定した周辺ブロックのイントラ予測モードに基づいて、CIIPにおける重み付け合成に用いる重み係数を決定し、決定した重み係数を重み付け合成部173cに出力する。本実施形態において、重み係数決定部173bは、モード特定部173aが出力するモード一致数に基づいて重み係数を決定する。
例えば、重み係数決定部173bは、表1に示すように、モード一致数の増加につれて、インター予測ブロックに対するイントラ予測ブロックの重みの比が大きくなるように、重み係数を決定する。
Figure 0007361522000001
ここでは、イントラ予測ブロックの重み及びインター予測ブロックの重みの合計が4になるようにしている。例えば、重み係数決定部173bは、イントラ予測ブロックの重みを重み係数wtとして重み付け合成部173cに出力する。
重み付け合成部173cは、重み係数決定部173bから出力される重み係数wtに基づいて、イントラ予測部171から出力されるイントラ予測ブロック及びインター予測部172から出力されるインター予測ブロックを重み付け合成により合成することで予測ブロックを生成し、生成した予測ブロックを切替部174に出力する。
具体的には、重み付け合成部173cは、イントラ予測ブロック及びインター予測ブロックを画素単位で重み付け合成により合成する。例えば、イントラ予測ブロックの画素値をPintra、インター予測ブロックの画素値をPinterとした場合、重み付け合成部173cは、予測ブロックの画素値PCIIPを次の式(1)により算出する。
Figure 0007361522000002
<画像復号装置の構成>
次に、本実施形態に係る画像復号装置の構成について説明する。図6は、本実施形態に係る画像復号装置2の構成を示す図である。
図6に示すように、画像復号装置2は、エントロピー復号部200と、逆量子化・逆変換部210と、合成部220と、メモリ230と、予測部240とを有する。本実施形態において、予測部240は、画像復号装置2に設けられる予測ブロック生成装置に相当する。
エントロピー復号部200は、画像符号化装置1により生成された符号化データを復号し、量子化された直交変換係数を逆量子化・逆変換部210に出力する。また、エントロピー復号部200は、予測(イントラ予測及びインター予測)に関する情報を取得し、取得した情報を予測部240に出力する。本実施形態において、エントロピー復号部200は、復号対象ブロックにCIIPが適用されている場合、復号対象ブロックにCIIPが適用されていることを示す情報を取得し、取得した情報を予測部240に出力する。
逆量子化・逆変換部210は、ブロック単位で逆量子化処理及び逆直交変換処理を行う。逆量子化・逆変換部210は、逆量子化部211と、逆変換部212とを有する。
逆量子化部211は、画像符号化装置1の量子化部122が行う量子化処理に対応する逆量子化処理を行う。逆量子化部211は、エントロピー復号部200から出力される量子化直交変換係数を、量子化パラメータ(Qp)及び量子化行列を用いて逆量子化することにより、復号対象ブロックの直交変換係数を復元し、復元した直交変換係数を逆変換部212に出力する。
逆変換部212は、画像符号化装置1の変換部121が行う直交変換処理に対応する逆直交変換処理を行う。逆変換部212は、逆量子化部211から出力される直交変換係数に対して逆直交変換処理を行って予測残差を復元し、復元した予測残差(復元予測残差)を合成部220に出力する。
合成部220は、逆変換部212から出力される予測残差と、予測部240から出力される予測ブロックとを画素単位で合成することにより、元のブロックを復号(再構成)し、復号済みブロックをメモリ230に出力する。
メモリ230は、合成部220から出力される復号済みブロックを記憶し、復号済みブロックをフレーム単位で復号済み画像として蓄積する。メモリ230は、復号済みブロック若しくは復号済み画像を予測部240に出力する。また、メモリ230は、フレーム単位の復号済み画像を画像復号装置2の外部に出力する。なお、合成部220とメモリ230との間にループフィルタが設けられてもよい。本実施形態において、メモリ230は、各復号済みブロックに適用された予測に関するブロック予測情報をさらに記憶する。
予測部240は、ブロック単位で予測を行う。予測部240は、イントラ予測部241と、インター予測部242と、合成処理部243と、切替部244とを有する。
イントラ予測部241は、フレーム内の空間的な相関を利用したイントラ予測を行う。具体的には、イントラ予測部241は、エントロピー復号部200から出力されるイントラ予測に関する情報(例えば、イントラ予測モードの情報)に基づいて、メモリ230に記憶された復号済み画像のうちイントラ予測の予測対象ブロックの周辺にある復号済み画素を参照してイントラ予測ブロックを生成し、生成したイントラ予測ブロックを切替部244に出力する。
インター予測部242は、フレーム間の相関を利用したインター予測を行う。具体的には、インター予測部242は、エントロピー復号部200から出力されるインター予測に関する情報(例えば、動きベクトル情報)に基づいて、メモリ230に記憶された復号済み画像を参照画像として用いてインター予測の予測対象ブロックを予測してインター予測ブロックを生成し、生成したインター予測ブロックを切替部244に出力する。
本実施形態において、予測部240は、CIIPの機能を有する。予測部240は、エントロピー復号部200から出力される情報が予測対象ブロックにCIIPを適用することを示す情報を含む場合、CIIPの予測対象ブロックをインター予測及びイントラ予測によりそれぞれ予測してインター予測ブロック及びイントラ予測ブロックを生成し、インター予測ブロック及びイントラ予測ブロックを重み付け合成により合成することで予測ブロックを出力する。
具体的には、予測対象ブロックにCIIPを適用する場合、イントラ予測部241及びインター予測部242は、同一の予測対象ブロックに対してイントラ予測及びインター予測をそれぞれ行う。そして、イントラ予測部241がイントラ予測ブロックを合成処理部243に出力するとともに、インター予測部242がインター予測ブロックを合成処理部243に出力する。CIIPにおいて、イントラ予測部241は、イントラ予測のイントラ予測モードとしてPlanarモードを適用する。或いは、CIIPにおいて、イントラ予測部241は、Planarモード以外のイントラ予測モードを適用してもよい。
合成処理部243は、イントラ予測部241から出力されるイントラ予測ブロック及びインター予測部242から出力されるインター予測ブロックを重み付け合成により合成することで予測ブロックを生成し、生成した予測ブロックを切替部244に出力する。
切替部244は、インター予測部242又は合成処理部243から出力されるインター予測ブロックとイントラ予測部241から出力されるイントラ予測ブロックとを切り替えて、いずれかの予測ブロックを合成部220に出力する。
図7は、本実施形態に係る画像復号装置2の合成処理部243の構成を示す図である。
図7に示すように、合成処理部243は、モード特定部243aと、重み係数決定部243bと、重み付け合成部243cとを有する。モード特定部243a、重み係数決定部243b、及び重み付け合成部243cは、図4に示すモード特定部173a、重み係数決定部173b、及び重み付け合成部173cとそれぞれ同様な動作を行う。
<予測ブロック生成の動作例>
次に、本実施形態に係る予測ブロック生成の動作フロー例について説明する。画像符号化装置1及び画像復号装置2で予測ブロック生成の動作は同じであるが、ここでは画像復号装置2における予測ブロック生成(予測部240)の動作を説明する。
図8は、本実施形態に係る画像復号装置2における予測ブロック生成(予測部240)の動作フロー例を示す図である。
図8に示すように、ステップS1において、予測部240は、エントロピー復号部200から出力される情報に基づいて、予測対象ブロックにCIIPを適用するか否かを判定する。
予測対象ブロックにCIIPを適用する場合(ステップS1:YES)、ステップS2において、イントラ予測部241及びインター予測部242は、予測対象ブロックをインター予測及びイントラ予測によりそれぞれ予測してインター予測ブロック及びイントラ予測ブロックを生成する。
ステップS3において、モード特定部243aは、予測対象ブロックの周辺にある周辺ブロックに適用されたイントラ予測のイントラ予測モードの情報をメモリ230から取得する。本実施形態において、予測対象ブロックの上にある隣接ブロックである上ブロック及び予測対象ブロックの左にある隣接ブロックである左ブロックを周辺ブロックとして用いる。
ステップS4において、モード特定部243aは、複数の周辺ブロックのそれぞれのイントラ予測モードのうち予測対象ブロックのイントラ予測に適用されたイントラ予測モードと一致する数であるモード一致数を特定する。
上述したように、CIIPにおいて予測対象ブロックに適用されるイントラ予測モードがPlanarモードで固定である場合、モード特定部243aは、周辺ブロックのイントラ予測モードの情報をメモリ230から読み出し、周辺ブロックのイントラ予測モードのうちPlanarモードの個数をモード一致数として特定する。
一方、CIIPにおいて予測対象ブロックに適用されるイントラ予測モードが可変である場合、モード特定部243aは、周辺ブロックのイントラ予測モードの情報をメモリ230から読み出すとともに、予測対象ブロックに適用されるイントラ予測モードの情報をイントラ予測部241から取得する。そして、モード特定部243aは、周辺ブロックのイントラ予測モードのうち、予測対象ブロックに適用されるイントラ予測モードの個数をモード一致数として特定する。
ステップS5において、重み係数決定部243bは、モード特定部243aが出力するモード一致数に基づいて、CIIPにおける重み付け合成に用いる重み係数を表1により決定し、決定した重み係数を重み付け合成部243cに出力する。
ステップS6において、重み付け合成部243cは、重み係数決定部243bから出力される重み係数に基づいて、イントラ予測部241から出力されるイントラ予測ブロック及びインター予測部242から出力されるインター予測ブロックを重み付け合成により合成することで予測ブロックを生成し、生成した予測ブロックを出力する。
<実施形態のまとめ>
上述したように、本実施形態に係る合成処理部173及び合成処理部243は、予測対象ブロックにCIIPを適用する場合、周辺ブロックのイントラ予測モードに基づいてCIIPにおける重み付け合成に用いる重み係数を決定する。
これにより、周辺ブロックでイントラ予測が適用されていても、予測対象ブロックと周辺ブロックとでイントラ予測モードが一致しない場合には、イントラ予測ブロックの重みを大きくしないことで、CIIPにおける予測精度の低下を抑制できる。
また、予測対象ブロックと周辺ブロックとでイントラ予測モードが一致する場合は、予測対象ブロックと周辺ブロックとで相関性が高いといえるため、イントラ予測ブロックの重みを大きくすることで、CIIPにおける予測精度を向上させることができる。
<その他の実施形態>
上述した実施形態において、合成処理部173及び合成処理部243は、予測対象ブロックにCIIPを適用する場合、周辺ブロックのイントラ予測モードに基づいてCIIPにおける重み付け合成に用いる重み係数を決定していた。しかしながら、重み係数の決定にあたり、周辺ブロックのイントラ予測モードだけではなく、周辺ブロックに適用された予測方式がイントラ予測であるか又はインター予測であるかを考慮してもよい。
図9は、その他の実施形態に係る合成処理部173の構成を示す図である。ここでは合成処理部173の構成を例に挙げて説明するが、合成処理部243も同様に構成されるものとする。
図9に示すように、合成処理部173は、周辺ブロックに適用された予測方式がイントラ予測であるか又はインター予測であるかを特定する予測方式特定部173dをさらに有する。例えば、予測方式特定部173dは、上ブロック及び左ブロック(図5参照)のそれぞれについて、適用された予測方式がイントラ予測であるか又はインター予測であるかを示す予測方式情報を取得し、取得した予測方式情報を重み係数決定部173bに出力する。
重み係数決定部173bは、予測方式特定部173dが特定した周辺ブロックの予測方式と、モード特定部173aが特定した周辺ブロックのイントラ予測モードとに基づいて、CIIPにおける重み付け合成に用いる重み係数を決定する。例えば、重み係数決定部173bは、表2に示すように重み係数を決定する。
Figure 0007361522000003
ここでは、イントラ予測ブロックの重み及びインター予測ブロックの重みの合計が8になるようにしている。例えば、重み係数決定部173bは、イントラ予測ブロックの重みを重み係数wtとして重み付け合成部173cに出力する。
なお、画像符号化装置1が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。画像復号装置2が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。プログラムは、コンピュータ読取り可能媒体に記録されていてもよい。コンピュータ読取り可能媒体を用いれば、コンピュータにプログラムをインストールすることが可能である。ここで、プログラムが記録されたコンピュータ読取り可能媒体は、非一過性の記録媒体であってもよい。非一過性の記録媒体は、特に限定されるものではないが、例えば、CD-ROMやDVD-ROM等の記録媒体であってもよい。
画像符号化装置1が行う各処理を実行する回路を集積化し、画像符号化装置1を半導体集積回路(チップセット、SoC)により構成してもよい。画像復号装置2が行う各処理を実行する回路を集積化し、画像復号装置2を半導体集積回路(チップセット、SoC)により構成してもよい。
以上、図面を参照して実施形態について詳しく説明したが、具体的な構成は上述のものに限られることはなく、要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
1 :画像符号化装置
2 :画像復号装置
100 :ブロック分割部
110 :減算部
120 :変換・量子化部
121 :変換部
122 :量子化部
130 :エントロピー符号化部
140 :逆量子化・逆変換部
141 :逆量子化部
142 :逆変換部
150 :合成部
160 :メモリ
170 :予測部
171 :イントラ予測部
172 :インター予測部
173 :合成処理部
173a :モード特定部
173b :重み係数決定部
173c :重み付け合成部
173d :予測方式特定部
174 :切替部
200 :エントロピー復号部
210 :逆量子化・逆変換部
211 :逆量子化部
212 :逆変換部
220 :合成部
230 :メモリ
240 :予測部
241 :イントラ予測部
242 :インター予測部
243 :合成処理部
243a :モード特定部
243b :重み係数決定部
243c :重み付け合成部
243d :予測方式特定部
244 :切替部

Claims (8)

  1. 画像を分割して得た予測対象ブロックをインター予測及びイントラ予測によりそれぞれ予測してインター予測ブロック及びイントラ予測ブロックを生成し、前記インター予測ブロック及び前記イントラ予測ブロックを重み付け合成により合成することで前記予測対象ブロックに対する予測ブロックを出力する予測ブロック生成装置であって、
    前記予測対象ブロックの周辺にイントラ予測が適用された周辺ブロックがある場合、前記周辺ブロックに適用されたイントラ予測のイントラ予測モードを特定するモード特定部と、
    前記モード特定部が特定した前記イントラ予測モードに基づいて、前記重み付け合成に用いる重み係数を決定する重み係数決定部と、を備えることを特徴とする予測ブロック生成装置。
  2. 前記モード特定部は、
    前記予測対象ブロックの周辺にイントラ予測が適用された複数の周辺ブロックがある場合、前記複数の周辺ブロックのそれぞれに適用されたイントラ予測のイントラ予測モードを特定し、
    前記予測対象ブロックのイントラ予測に適用されたイントラ予測モードと、前記複数の周辺ブロックのそれぞれのイントラ予測モードとを比較し、
    前記重み係数決定部は、
    前記比較の結果に基づいて前記重み係数を決定することを特徴とする請求項1に記載の予測ブロック生成装置。
  3. 前記モード特定部は、
    前記複数の周辺ブロックのそれぞれのイントラ予測モードのうち前記予測対象ブロックのイントラ予測に適用されたイントラ予測モードと一致する数であるモード一致数を前記比較により特定し、
    前記重み係数決定部は、
    前記モード一致数に基づいて前記重み係数を決定することを特徴とする請求項2に記載の予測ブロック生成装置。
  4. 前記重み係数決定部は、
    前記モード一致数の増加につれて、前記インター予測ブロックに対する前記イントラ予測ブロックの重みの比が大きくなるように、前記重み係数を決定することを特徴とする請求項3に記載の予測ブロック生成装置。
  5. 前記周辺ブロックに適用された予測方式がイントラ予測であるか又はインター予測であるかを特定する予測方式特定部をさらに備え、
    前記重み係数決定部は、前記予測方式特定部が特定した前記予測方式と、前記モード特定部が特定した前記イントラ予測モードとに基づいて、前記重み係数を決定することを特徴とする請求項1乃至4のいずれか1項に記載の予測ブロック生成装置。
  6. 請求項1乃至5のいずれか1項に記載の予測ブロック生成装置を備えることを特徴とする画像符号化装置。
  7. 請求項1乃至5のいずれか1項に記載の予測ブロック生成装置を備えることを特徴とする画像復号装置。
  8. コンピュータを請求項1乃至5のいずれか1項に記載の予測ブロック生成装置として機能させることを特徴とするプログラム。
JP2019143892A 2019-08-05 2019-08-05 予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラム Active JP7361522B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019143892A JP7361522B2 (ja) 2019-08-05 2019-08-05 予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラム
JP2023172326A JP2023168518A (ja) 2019-08-05 2023-10-03 予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019143892A JP7361522B2 (ja) 2019-08-05 2019-08-05 予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2023172326A Division JP2023168518A (ja) 2019-08-05 2023-10-03 予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラム

Publications (2)

Publication Number Publication Date
JP2021027464A JP2021027464A (ja) 2021-02-22
JP7361522B2 true JP7361522B2 (ja) 2023-10-16

Family

ID=74662541

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019143892A Active JP7361522B2 (ja) 2019-08-05 2019-08-05 予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラム
JP2023172326A Pending JP2023168518A (ja) 2019-08-05 2023-10-03 予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2023172326A Pending JP2023168518A (ja) 2019-08-05 2023-10-03 予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラム

Country Status (1)

Country Link
JP (2) JP7361522B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112887732B (zh) * 2021-04-30 2021-10-01 浙江智慧视频安防创新中心有限公司 一种权值可配置的帧间帧内联合预测编解码的方法及装置
JP2023005868A (ja) * 2021-06-29 2023-01-18 Kddi株式会社 画像復号装置、画像復号方法及びプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020096389A1 (ko) 2018-11-08 2020-05-14 주식회사 엑스리스 영상 신호 부호화/복호화 방법 및 이를 위한 장치
WO2020156537A1 (en) 2019-02-01 2020-08-06 Beijing Bytedance Network Technology Co., Ltd. Extended application of combined intra-inter prediction

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020096389A1 (ko) 2018-11-08 2020-05-14 주식회사 엑스리스 영상 신호 부호화/복호화 방법 및 이를 위한 장치
WO2020156537A1 (en) 2019-02-01 2020-08-06 Beijing Bytedance Network Technology Co., Ltd. Extended application of combined intra-inter prediction

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
VAN, Luong Pham et al.,CE10: CIIP with Position-Independent Weights (Test CE10-1.1),JVET-N0302 (version 1),ITU,2019年03月13日,pp.1-3,[online],[retrieved on 2023-08-23],Retrieved from the Internet: <URL: https://jvet-experts.org/doc_end_user/documents/14_Geneva/wg11/JVET-N0302-v1.zip>,JVET-N0302.docx

Also Published As

Publication number Publication date
JP2021027464A (ja) 2021-02-22
JP2023168518A (ja) 2023-11-24

Similar Documents

Publication Publication Date Title
JP2010135864A (ja) 画像符号化方法及び装置並びに画像復号化方法及び装置
JP2009094828A (ja) 画像符号化装置及び画像符号化方法、画像復号化装置及び画像復号化方法
JP7424982B2 (ja) 画像符号化装置、画像復号装置、及びプログラム
JP2023168518A (ja) 予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラム
US20210014489A1 (en) Intra prediction device, image encoding device, image decoding device and program
JP2007013298A (ja) 画像符号化装置
JP2023138826A (ja) イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム
JP7415067B2 (ja) イントラ予測装置、画像復号装置、及びプログラム
JP2020137119A (ja) イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム
JP7451161B2 (ja) 符号化装置、復号装置、及びプログラム
JP7441638B2 (ja) 符号化装置、復号装置、及びプログラム
CN113056918B (zh) 图像编码装置、图像解码装置及程序
JP4367354B2 (ja) 画像符号化装置
JP7219030B2 (ja) 色差イントラ予測候補生成装置、画像符号化装置、画像復号装置、及びプログラム
JP2007266861A (ja) 画像符号化装置
JP7361498B2 (ja) イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム
JP7396883B2 (ja) 符号化装置、復号装置、及びプログラム
JP7444599B2 (ja) イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム
JP2020053725A (ja) 予測画像補正装置、画像符号化装置、画像復号装置、及びプログラム
JP7483422B2 (ja) イントラ予測装置、画像復号装置、及びプログラム
JP7229413B2 (ja) 画像符号化装置、画像復号装置、及びプログラム
WO2021100450A1 (ja) イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム
KR20110067648A (ko) 영상 부호화/복호화 방법 및 이를 수행하는 장치

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20200529

RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20200612

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220705

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230721

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230905

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231003

R150 Certificate of patent or registration of utility model

Ref document number: 7361522

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150