JP2015005957A - 画像符号化装置及び、画像符号化方法及びプログラム - Google Patents
画像符号化装置及び、画像符号化方法及びプログラム Download PDFInfo
- Publication number
- JP2015005957A JP2015005957A JP2013131668A JP2013131668A JP2015005957A JP 2015005957 A JP2015005957 A JP 2015005957A JP 2013131668 A JP2013131668 A JP 2013131668A JP 2013131668 A JP2013131668 A JP 2013131668A JP 2015005957 A JP2015005957 A JP 2015005957A
- Authority
- JP
- Japan
- Prior art keywords
- color difference
- prediction mode
- luminance
- encoding
- evaluation value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【課題】画素予測モードを含む色差イントラ予測モードの探索において、輝度イントラ予測モードが決定してから色差イントラ予測モードの探索を開始するまでの時間差を短縮させることを可能とする画像符号化装置を提供する。
【解決手段】画像符号化装置に入力された符号化対象ブロックの色差成分の符号化において選択され得る色差予測モードの評価を表す色差の評価値を取得する第1の取得手段と、前記第1の取得手段によって取得された前記色差の評価値に基づいて、前記符号化対象ブロックの色差成分を符号化するために用いる前記色差予測モードを決定する決定手段とを有し、前記第1の取得手段は、前記符号化対象ブロックの色差成分の符号化において選択され得る色差予測モードのうち輝度成分の画素群を用いて予測する画素予測モードの評価値であって、前記符号化対象ブロックの輝度画素群を参照して算出された評価値を取得する。
【選択図】図1
【解決手段】画像符号化装置に入力された符号化対象ブロックの色差成分の符号化において選択され得る色差予測モードの評価を表す色差の評価値を取得する第1の取得手段と、前記第1の取得手段によって取得された前記色差の評価値に基づいて、前記符号化対象ブロックの色差成分を符号化するために用いる前記色差予測モードを決定する決定手段とを有し、前記第1の取得手段は、前記符号化対象ブロックの色差成分の符号化において選択され得る色差予測モードのうち輝度成分の画素群を用いて予測する画素予測モードの評価値であって、前記符号化対象ブロックの輝度画素群を参照して算出された評価値を取得する。
【選択図】図1
Description
本発明は画像符号化装置及び、画像符号化方法、及びプログラムに関する。
動画像の圧縮記録の符号化方式として、H.264/MPEG−4 AVC(以下H.264)が知らされている。
さらに、近年、H.264の後継としてさらに高効率な符号化方式の国際標準化を行う活動が開始され、JCT−VC(Joint Collaborative Team on Video Coding)がISO/IECとITU−Tの間で設立された。このJCT−VCでは、High Efficiency Video Coding符号化方式(以下、HEVC)の標準化が進められている(非特許文献1)。
HEVCにおいては符号化効率を向上させるために、画面内における画素間の相関を利用して画面内予測(以下、イントラ予測と記す)を行い、予測残差を符号化する、イントラ予測符号化が採用されている(非特許文献1の8.4章)。このイントラ予測は、輝度成分のイントラ予測を行う輝度イントラ予測と、Cb成分及びCr成分の各色差成分のイントラ予測を行う色差イントラ予測とから構成される。
HEVCにおいては、イントラ予測の単位である予測ブロックのサイズ(以下、予測ブロックサイズ)として、64×64画素、32×32画素、16×16画素、8×8画素または4×4画素の5種類のうち、いずれかを取り得る。尚、64×64画素は水平方向64画素、垂直方向64画素のブロックを示し、本発明の実施形態においては、これを以下、64×64画素と表記する。また、画素数が変化しても同様である。
さらに、HEVCにおいては、画像の輝度成分のイントラ予測モード(以下、輝度イントラ予測モード)として、各予測ブロックサイズに対して図7に示すように35個のモードが夫々検討されている(非特許文献1の8.4.1節)。そして、HEVCにおいてイントラ予測符号化を行う場合に、当該35個のモードから最適な輝度イントラ予測モードを選択しないと、予測誤差が大きくなり、符号化効率が低下してしまう。
HEVCにおいて、画像の各色差成分(Cb成分、及びCr成分)のイントラ予測モード(以下、色差イントラ予測モード)は、輝度イントラ予測モードの35個のモードに比べて選択可能なモード数が制限されている。即ち、色差イントラ予測モードとして、Planarモード/DCモード/水平モード/垂直モード/輝度参照モード/モード34/画素予測モードの7個のモードが夫々検討されている(非特許文献1の8.4.2節Table8−2)。尚、「輝度参照モード」は、色差イントラ予測において、輝度イントラ予測モードを色差イントラ予測モードとしてそのまま使用するモードである。ここで、色差イントラ予測モードにおける「画素予測モード」は、予測対象である色差成分の画素を、輝度イントラ予測モードで参照される輝度成分の画素群を用いて予測するモードである。
画素予測モードにおいては、復号済みの再構成輝度ブロックから、画像符号化装置に入力された色差サンプルを予測するための参照色差サンプルを生成する。即ち、入力フォーマットが4:2:0である場合、再構成輝度ブロックの水平画素数及び垂直画素数をそれぞれ1/2にしたブロックを参照色差サンプルとする。非特許文献1にも記載されているように、図9(a)のような再構成輝度ブロックに対して、非特許文献1の(8−54)式〜(8−57)式を利用して、再構成輝度ブロックの画素数を1/4に変換(水平画素数及び垂直画素数をそれぞれ1/2)する。そして、画素数を1/4に変換した再構成輝度ブロックに対して、非特許文献1における(8−58)式〜(8−72)式による変換を施し、図9(c)で示した色差成分Cb及びCrの各参照色差サンプルを生成する。
JCT−VC 寄書 JCTVC−I1003_d4.doc インターネット<http://phenix.int−evry.fr/jct/doc_end_user/documents/9_Geneva/wg11/>
このように、画素予測モードにおいては、上述した方法で参照色差サンプルを生成し、色差イントラ予測モードの探索をしていた。このため、この探索は、輝度イントラ予測モードに対応する再構成輝度サンプルを生成してからでないと開始できなかった。即ち、輝度イントラ予測モードの探索を開始してから色差イントラ予測モードの探索を開始するまでの時間に差が生じるという課題があった。
上記のことから、本発明は画素予測モードを含む色差イントラ予測モードの探索において、輝度イントラ予測モードが決定してから色差イントラ予測モードの探索を開始するまでの時間差を短縮させることを可能とする画像符号化装置を提供することを目的とする。
かかる課題を解決するため、本発明の画像符号化装置は、下記の構成を有する。即ち、画像を符号化ブロック単位で符号化する画像符号化装置であって、前記画像符号化装置に入力された符号化対象ブロックの色差成分の符号化において選択され得る色差予測モードの評価を表す色差の評価値を取得する第1の取得手段と、前記第1の取得手段によって取得された前記色差の評価値に基づいて、前記符号化対象ブロックの色差成分を符号化するために用いる前記色差予測モードを決定する決定手段とを有し、前記第1の取得手段は、前記符号化対象ブロックの色差成分の符号化において選択され得る色差予測モードのうち輝度成分の画素群を用いて予測する画素予測モードの評価値であって、前記符号化対象ブロックの輝度画素群を参照して算出された評価値を取得することを特徴とする。
本発明により、画素予測モードを含む色差イントラ予測モードの探索において、輝度イントラ予測モードが決定してから色差イントラ予測モードの探索を開始するまでの時間差を短縮させることが可能である。
<実施形態1>
本実施形態においては、一枚以上の入力画像を32×32画素の符号化ブロックに分割し、当該符号化ブロック単位で符号化が行われる。即ち、本実施形態においては、符号化ブロックサイズは32×32画素とする。また、本実施形態は、画面内予測(イントラ予測)を用いて符号化する、Iスライスのみを符号化対象とすることを前提としており、動きベクトルを伴って画面間予測を用いて符号化する、Pスライス、及びBスライスは符号化対象としないものとする。
本実施形態においては、一枚以上の入力画像を32×32画素の符号化ブロックに分割し、当該符号化ブロック単位で符号化が行われる。即ち、本実施形態においては、符号化ブロックサイズは32×32画素とする。また、本実施形態は、画面内予測(イントラ予測)を用いて符号化する、Iスライスのみを符号化対象とすることを前提としており、動きベクトルを伴って画面間予測を用いて符号化する、Pスライス、及びBスライスは符号化対象としないものとする。
以下、本発明の実施形態1における画像符号化装置の動作について図1を用いて説明する。
全体制御部130は、画像符号化装置内の各処理ブロックの制御、及び各処理ブロック間のパラメータ伝達を行う。尚、図1において、全体制御部130と画像符号化装置内の各処理ブロックとの間の結線を省略している。そして、全体制御部130は画像符号化装置内の各処理ブロックの制御、及び各処理ブロック間のパラメータの読み書きを、パラメータ信号線またはレジスタバスのいずれかを通じて行うことが可能である。また、本実施形態において、図1の全体制御部130は、画像符号化装置内に設置されているが、本発明はこれに限定されない。即ち、全体制御部130は、当該画像符号化装置外に設置され、当該画像符号化装置内の各処理部の制御、及び処理部間のパラメータの読み書きを、パラメータ信号線またはレジスタバスのいずれかを通じて行ってもよい。
ブロックバッファ101には、画像符号化装置内に入力された入力画像の、輝度成分の画素群(輝度サンプルと称す)、及び色差成分の画素群(色差サンプルと称す)から成る1つもしくは複数の符号化ブロックが記録されている。尚、輝度サンプルから成る1つもしくは複数の符号化ブロックを入力輝度ブロックと記し、色差サンプルから成る1つもしくは複数の符号化ブロックを入力色差ブロックと記す。
ブロックサイズ決定部102は、ブロックバッファ101に記録された1つもしくは複数の符号化ブロックから1符号化ブロック毎に符号化対象である符号化対象ブロックを読み込む。そして、ブロックサイズ決定部102は、読み込んだ符号化対象ブロックに対して、予め決定した予測ブロックのサイズ(予測ブロックサイズ)、及び変換ブロックのサイズ(変換ブロックサイズ)を設定する。本実施形態においては、輝度成分の予測ブロックサイズは16×16画素、各色差成分の予測ブロックサイズは8×8画素であるとする。尚、色差成分はCb成分、及びCr成分から成り、本発明の各実施形態において、各色差成分とはCb成分、及びCr成分を示す。
イントラ予測部110は、ブロックバッファ101に記録された、符号化対象ブロックの輝度サンプル及び色差サンプルを読み込む。また、イントラ予測部110は、ブロックサイズ決定部102で設定された、輝度成分、及び各色差成分の予測ブロックサイズを夫々読み込む。そして、イントラ予測部110は、輝度成分のイントラ予測モード(輝度イントラ予測モード)の候補、及び色差成分のイントラ予測モード(色差イントラ予測モード)の候補から、輝度イントラ予測モード、及び色差イントラ予測モードを夫々探索する。
以下、輝度イントラ予測モードの候補、及び色差イントラ予測モードの候補を、輝度予測モード候補、及び色差予測モード候補と称す。尚、本実施形態においてHEVCを用いて符号化する場合、輝度予測モード候補としては、図7に示す35個のモードが定義されている。また、色差予測モード候補としては、輝度イントラ予測モードに基づいて、Planarモード/DCモード/水平モード/垂直モード/輝度参照モード/モード34(図7)/画素予測モードの7個のモードが定義されている。
尚、輝度イントラ予測モードが、Planarモード/DCモード/水平モード/垂直モードのいずれかのモードである場合は、色差イントラ予測モードは以下のモードから選択することができる。即ち、Planarモード/DCモード/水平モード/垂直モード/輝度参照モード/画素予測モードから選択することができる。また、輝度イントラ予測モードが、Planarモード/DCモード/水平モード/垂直モード以外のモードである場合は、色差イントラ予測モードはPlanarモード/DCモード/水平モード/垂直モード/モード34から選択することができる。
イントラ予測部110内の構成要素の動作について、以下に述べる。
輝度予測モード探索部1101(第一のイントラ予測部)は、各輝度予測モード候補に対応して、輝度成分の参照ブロック(参照輝度ブロック)の生成、及び輝度成分の予測残差ブロック(輝度予測残差ブロック)の算出を夫々行う処理部である。尚、符号化対象ブロックに対して、予測残差ブロックを算出する処理を行うことは、予測符号化とも称される。同様に、色差予測モード探索部1103(第二のイントラ予測部)は、各色差予測モード候補に対応して、色差成分の参照ブロック(参照色差ブロック)の生成、及び色差成分の予測残差ブロック(色差予測残差ブロック)の算出を夫々行う処理部である。イントラ予測モードの候補(輝度予測モード候補、及び色差予測モード候補)から、符号化で使用するイントラ予測モード(輝度イントラ予測モード、及び色差イントラ予測モード)を探索するアルゴリズムについては後述する。
まず、輝度予測モード探索部1101は、輝度サンプルバッファ1102に記録されている、イントラ予測に必要な輝度成分の参照画素群(参照輝度サンプルと称す)を入力する。
輝度サンプルバッファ1102に記録されている、イントラ予測に必要な参照輝度サンプルを図2に示す。尚、当該参照輝度サンプルは、輝度イントラ予測部1106で再構成された輝度成分の画素群(以下、輝度画素群と記す)から成る再構成輝度ブロックに基づくが、輝度イントラ予測部1106の処理については後述する。
本実施形態のように、符号化ブロックサイズが32×32画素の場合、符号化対象ブロックに隣接する符号化ブロック(隣接符号化ブロック)内の、以下に記す所定の輝度画素群(図2(a)の網掛け部分201)が参照輝度サンプルとして必要となる。
・符号化対象ブロックの上方及び右斜め上に隣接する、隣接符号化ブロックの下端の64画素(p[0,−1]〜p[63,−1])
・符号化対象ブロックの左方に隣接する、隣接符号化ブロックの右端32画素(p[−1、0]〜p[−1、31])
・符号化対象ブロックの左斜め上の1画素(p[−1、−1])
また、本実施形態のように、符号化対象ブロックの予測ブロックサイズが16×16画素の場合、同一符号化ブロック内の、以下の所定の輝度画素群(図2(b)の網掛けの部分)が参照輝度サンプルとして必要となる。
・符号化対象ブロックの左方に隣接する、隣接符号化ブロックの右端32画素(p[−1、0]〜p[−1、31])
・符号化対象ブロックの左斜め上の1画素(p[−1、−1])
また、本実施形態のように、符号化対象ブロックの予測ブロックサイズが16×16画素の場合、同一符号化ブロック内の、以下の所定の輝度画素群(図2(b)の網掛けの部分)が参照輝度サンプルとして必要となる。
・各予測ブロックの右端の各15画素(r[15、0]〜r[15、14]、r[31、0]〜r[31、14]、r[15、16]〜r[15、30]、r[31、16]〜r[31、30])
・予測ブロックの下端の各15画素(r[0、15]〜r[14、15]、r[16、15]〜r[30、15]、r[0、31]〜r[14、31]、r[16、31]〜r[30、31])
・予測ブロックの右斜め下の1画素(r[15、15]、r[31、15]、r[15、31]、r[31、31])
上述のように、輝度予測モード探索部1101は、隣接する符号化ブロック内の所定の輝度画素群(図2(a))と、符号化対象ブロック内の所定の輝度画素群(図2(b))とを、参照輝度サンプルとして輝度サンプルバッファ1102から入力する。図2は輝度成分におけるイントラ予測に必要である参照輝度サンプルについてのみ図示したが、各色差成分におけるイントラ予測に必要である色差成分の参照画素群(参照色差サンプルと称す)についても同様である。即ち、色差予測モード探索部1103は、当該参照色差サンプルを色差サンプルバッファ1104から入力する。
・予測ブロックの下端の各15画素(r[0、15]〜r[14、15]、r[16、15]〜r[30、15]、r[0、31]〜r[14、31]、r[16、31]〜r[30、31])
・予測ブロックの右斜め下の1画素(r[15、15]、r[31、15]、r[15、31]、r[31、31])
上述のように、輝度予測モード探索部1101は、隣接する符号化ブロック内の所定の輝度画素群(図2(a))と、符号化対象ブロック内の所定の輝度画素群(図2(b))とを、参照輝度サンプルとして輝度サンプルバッファ1102から入力する。図2は輝度成分におけるイントラ予測に必要である参照輝度サンプルについてのみ図示したが、各色差成分におけるイントラ予測に必要である色差成分の参照画素群(参照色差サンプルと称す)についても同様である。即ち、色差予測モード探索部1103は、当該参照色差サンプルを色差サンプルバッファ1104から入力する。
次に、輝度予測モード探索部1101、及び色差予測モード探索部1103において、各輝度予測モード候補、及び各色差予測モード候補に対応して、符号化で使用する輝度イントラ予測モード、及び色差イントラ予測モードを探索するアルゴリズムを説明する。
輝度予測モード探索部1101は、輝度予測モード候補のうちの探索対象のモード(輝度探索対象モード)で使用される参照輝度サンプルを輝度サンプルバッファ1102から読み込み、参照輝度ブロックを生成する。同様に、色差予測モード探索部1103は、色差予測モード候補のうちの探索対象のモード(色差探索対象モード)で使用される参照色差サンプルを色差サンプルバッファ1104から読み込み、参照色差ブロックを生成する。当該参照輝度ブロック、及び当該参照色差ブロックは、非特許文献1においてpredSample[x、y]として記載されている。即ち、35個の各イントラ予測モードに対応する生成アルゴリズムは、非特許文献1の8.4.3.1節に記載されているので記述を省略する。
次に、輝度予測モード探索部1101は、符号化対象ブロック内の各予測ブロックに対して、輝度サンプルバッファ1102に記録された参照輝度サンプルから生成した参照輝度ブロックと、ブロックバッファ101から入力した輝度サンプルとの差分を算出する。これにより、輝度予測モード探索部1101は、符号化対象ブロック内の各予測ブロックに対して、当該参照輝度ブロックと当該輝度サンプルとの差分である輝度予測残差ブロックを生成する。色差予測モード探索部1103は同様に、符号化対象ブロック内の各予測ブロックに対して、色差サンプルバッファ1104に記録された参照色差サンプルから生成した参照色差ブロックと、ブロックバッファ101から入力した色差サンプルとの差分を算出する。これにより、色差予測モード探索部1103は、当該参照色差ブロックと当該色差サンプルとの差分である色差予測残差ブロックを生成する。尚、本実施形態において、輝度予測残差ブロックは16×16画素、色差予測残差ブロックは各色差成分において夫々8×8画素である。
さらに、輝度予測モード探索部1101は、画像の輝度成分について生成した輝度予測残差ブロックを統合予測モード判定部1105に送出する。同様に、色差予測モード探索部1103は、各色差成分について夫々生成した各色差予測残差ブロックを統合予測モード判定部1105に送出する。
統合予測モード判定部1105は、輝度予測モード探索部1101、及び色差予測モード探索部1103から、輝度探索対象モードに対応する輝度予測残差ブロック、及び色差探索対象モードに対応する色差予測残差ブロックを夫々入力する。さらに、統合予測モード判定部1105は、輝度予測モード候補、及び色差予測モード候補に対応する輝度予測残差ブロック、及び色差予測残差ブロックの推定発生符号量に関する評価値を夫々算出する。そして、算出した各評価値に基づいて、符号化で使用する輝度イントラ予測モード、及び色差イントラ予測モードを夫々決定する。評価値の算出方法、及び輝度イントラ予測モード及び色差イントラ予測モードの決定方法については後述する。
輝度イントラ予測部1106は、統合予測モード判定部1105で決定された輝度イントラ予測モードに対応する輝度予測残差ブロックを生成し、直交変換部120へ出力する。同様に、色差イントラ予測部1107は、統合予測モード判定部1105で決定された色差イントラ予測モードに対応する色差予測残差ブロックを生成し、直交変換部120へ出力する。
以下、直交変換部120が輝度イントラ予測部1106から輝度予測残差ブロックを入力した場合の、直交変換部120、量子化部121、エントロピー符号化及び多重化部122、逆量子化部123、及び逆直交変換部124における各処理を説明する。
直交変換部120は、ブロックサイズ決定部102で設定された変換ブロック単位で、輝度イントラ予測部1106で生成された輝度予測残差ブロックを夫々直交変換し、直交変換係数を生成する。さらに、直交変換部120は、生成した直交変換係数を量子化部121に出力する。
量子化部121は、全体制御部130から入力される量子化パラメータに基づいて、直交変換部120から入力された直交変換係数の量子化を行い、量子化した直交変換係数をエントロピー符号化及び多重化部122に送出する。
エントロピー符号化及び多重化部122は、量子化部121で量子化された直交変換係数のエントロピー符号化を行う。また、エントロピー符号化及び多重化部122は、統合予測モード判定部1105で決定された輝度イントラ予測モード等ヘッダ情報のエントロピー符号化も行う。エントロピー符号化及び多重化部122は、エントロピー符号化した直交変換係数とエントロピー符号化したヘッダ情報とを多重化し、多重化したデータを符号化ストリームとして画像符号化装置外へ出力する。
逆量子化部123は、量子化部121で量子化された直交変換係数に対して逆量子化を行う。
逆直交変換部124は、逆量子化部123で逆量子化された直交変換係数に対して、直交変換部120で直交変換する際に用いたものと同一の変換ブロック単位で逆直交変換を施す。さらに、逆直交変換部124は、逆直交変換した直交変換係数を復号し、輝度予測残差ブロックを生成する。逆直交変換部124は、生成した輝度予測残差ブロックを輝度イントラ予測部1106へ送出する。
上述では、各処理部120〜124が、輝度予測残差ブロックに対して施す処理について夫々説明したが、色差予測残差ブロックに対しても同様の処理を行う。即ち、直交変換部120が色差イントラ予測部1107から色差予測残差ブロックを入力した場合、各処理部120〜124は同様に、直交変換、量子化、エントロピー符号化及び多重化、逆量子化、及び逆直交変換の処理を夫々行う。逆直交変換部124は、生成した色差予測残差ブロックを色差イントラ予測部1107へ送出する。
輝度イントラ予測部1106は、逆直交変換部124で生成された復号輝度予測残差ブロックと、輝度イントラ予測部1106で輝度予測残差ブロックの生成時に使用した参照輝度ブロックとを加算し、再構成輝度ブロックを生成する。さらに、輝度イントラ予測部1106は、図2(c)の網掛け部分に示すように、再構成輝度ブロック内の右端の画素群と下端の画素群とを再構成輝度サンプルとして輝度サンプルバッファ1102に記録する。即ち、再構成輝度サンプルは、再構成輝度ブロック内の右端の画素群(r[15、0]〜r[15、15])と下端の画素群(r[0、15]〜r[14、15])とからなる。同様にして、色差イントラ予測部1107は、逆直交変換部124で生成された復号色差予測残差ブロックと、色差イントラ予測部1107で色差予測残差ブロックの生成時に使用した参照色差ブロックとを加算し、再構成色差ブロックを生成する。さらに、色差イントラ予測部1107は、再構成色差ブロック内の右端の画素と下端の画素とを再構成色差サンプルとして色差サンプルバッファ1104に記録する。
輝度予測モード探索部1101、及び色差予測モード探索部1103におけるイントラ予測モードの探索により、統合予測モード判定部1105におけるイントラ予測モードを決定するアルゴリズムについて、以下に説明する。
本実施形態において、輝度予測モード探索部1101、及び色差予測モード探索部1103は、以下の順序で輝度イントラ予測モード、及び色差イントラ予測モードを探索する。以下、非特許文献1の8.4.1節記載の名称を使用して説明する。
#0: Intra_Planar(モード0、Planarモード)
#1: Intra_DC(モード1、DCモード)
#2: Angular_10(モード10、水平モード)
#3: Angular_26(モード26、垂直モード)
#4: Angular_2(モード2)
#5: Angular_3(モード3)
|
(モード10、モード26を除くモード4〜モード34)
|
#34: Angular_34(モード34)
#35: Intra_FromLuma(モード35、画素予測モード)
ただし、Intra_FromLuma(モード35)は色差イントラ予測においてのみ使用可能なモードである。
#1: Intra_DC(モード1、DCモード)
#2: Angular_10(モード10、水平モード)
#3: Angular_26(モード26、垂直モード)
#4: Angular_2(モード2)
#5: Angular_3(モード3)
|
(モード10、モード26を除くモード4〜モード34)
|
#34: Angular_34(モード34)
#35: Intra_FromLuma(モード35、画素予測モード)
ただし、Intra_FromLuma(モード35)は色差イントラ予測においてのみ使用可能なモードである。
尚、上述したイントラ予測モードの括弧内のモード番号は図7のモード番号に対応している。例えば、Angular_10(モード10)は図7における10の方向の画素を予測に用いるモードである。
また、Intra_FromLuma(モード35)は、非特許文献1の8.4.2節記載のchroma_pred_from_luma_enabled_flagが1である場合に適応されるモードである。ここで、chroma_pred_from_luma_enabled_flagは、色差イントラ予測モードの候補としてIntra_FromLuma(モード35)を含める場合には1、含めない場合には0とする。本実施形態においては、chroma_pred_from_luma_enabled_flagが1の(色差イントラ予測モードの候補としてIntra_FromLuma(モード35)を含める)場合を対象とし説明する。
統合予測モード判定部1105は、輝度予測モード探索部1101で生成された輝度予測残差ブロック、及び色差予測モード探索部1103で生成された色差予測残差ブロックに基づいて、式1により評価値IStotal[i]を算出する。尚、統合予測モード判定部1105は、評価値IStotal[i]を、各イントラ予測モードの候補(各輝度予測モード候補、及び各色差予測モード)に対して夫々算出する。
IStotal[i]=
(Wy[i]×ISy[i])+(Wcb[i]×IScb[i])+(Wcr[i]+IScr[i])with i=0、1、2、・・・、35
式1
式1において、iは探索対象のイントラ予測モードの候補を示しており、上記#0〜#35に対応している。例えば、ISy[2]は、輝度イントラ予測モードを水平モード(#2)とした場合の輝度予測残差ブロックに基づく評価値である。
(Wy[i]×ISy[i])+(Wcb[i]×IScb[i])+(Wcr[i]+IScr[i])with i=0、1、2、・・・、35
式1
式1において、iは探索対象のイントラ予測モードの候補を示しており、上記#0〜#35に対応している。例えば、ISy[2]は、輝度イントラ予測モードを水平モード(#2)とした場合の輝度予測残差ブロックに基づく評価値である。
輝度評価値ISy[i]、Cb評価値IScb[i]、及びCr評価値IScr[i]は、輝度予測残差ブロック、Cb成分予測残差ブロック、及びCr成分予測残差ブロックの推定発生符号量を示す評価値である。本実施形態では、評価値を算出する手段(評価値算出手段)として、絶対値化した予測残差を予測残差ブロック内で合計する、SAD(Sum of Absolute Difference)を使用する。また、式1においてWy[i]は輝度成分の重み(重み係数)、Wcb[i]はCb成分の重み、Wcr[i]はCr成分の重みを夫々示している。
式1を実現する統合予測モード判定部1105の構成を図3に示す。図3に示すように、本実施形態における統合予測モード判定部1105は、FIFO301〜303、評価値算出部304、重み付け評価部305、及びイントラ予測モード判定部306を有する。
FIFO301は、輝度予測モード探索部1101から輝度予測残差ブロックを入力し、蓄積する。同様に、FIFO302、及びFIFO303は、色差予測モード探索部1103から各色差予測残差ブロック(Cb予測残差ブロック、及びCr予測残差ブロック)を夫々入力し、蓄積する。各予測残差ブロック(輝度予測残差ブロック、Cb予測残差ブロック、及びCr予測残差ブロック)は、夫々異なるタイミングで生成されることが一般的である。このため、統合予測モード判定部1105は、各予測残差ブロックをFIFO301〜303に蓄積した後に評価値算出部304に送出する構成にすることで、同期を取ることができる。
評価値算出部304は、各FIFO301〜303から、輝度予測残差ブロック、Cb予測残差ブロック、及びCr予測残差ブロックを夫々入力する。そして、評価値算出部304は、入力した輝度予測残差ブロック、Cb予測残差ブロック、及びCr予測残差ブロックの評価値である輝度評価値ISy[i]、Cb評価値IScb[i]、Cr評価値IScr[i]を夫々算出する。評価値算出部304は、輝度評価値ISy[i]、Cb評価値IScb[i]、及びCr評価値IScr[i]を夫々異なるタイミングで算出する。このため、各成分(輝度成分、Cb成分、及びCb成分)で評価値を算出する評価値算出部を夫々用意する必要がなく、評価値算出部304を共有することが可能である。このため、評価値算出部304を有する本実施形態における画像符号化装置は、各成分で独立して評価値を算出する場合と比べて回路規模を削減することが可能である。
重み付け評価部305は、各評価値ISy[i]、IScb[i]、IScr[i]と、各重みWy[i]、Wcb[i]、Wcr[i]とを夫々重み付け(乗算)して加算することにより、評価値IStotal[i]を算出する。評価値IStotal[i]は、各イントラ予測モードの候補(各輝度予測モード候補、及び各色差予測モード候補)において、夫々算出される。
イントラ予測モード判定部306は、重み付け評価部305から各イントラ予測モード候補の評価値である評価値IStotal[i]を夫々入力し、蓄積する。全イントラ予測モード候補の中で評価値IStotal[i]が最少となるモード、即ち符号量が最少となるモードを最適なイントラ予測モードとして、輝度イントラ予測モード、及び色差イントラ予測モードを決定する。尚、イントラ予測モード判定部306は、後述するように、重み付け評価部305で決定された色差イントラ予測モードを出力することも可能である。
以下、重み付け評価部305における各重みWy[i]、Wcb[i]、Wcr[i]の決定方法と、イントラ予測モード判定部306における輝度イントラ予測モード、及び色差イントラ予測モード決定方法とを図4のフローチャートを用いて説明する。
ステップS401において、重み付け評価部305は各重みWy[i]、Wcb[i]、Wcb[i]に対して初期値を設定する。尚、本実施形態において、各重みWy[i]、Wcb[i]、Wcb[i]の初期値は、式2〜式4のように、輝度成分と各色差成分の量子化パラメータの比に基づいた値とする。
Wy[i]=1
式2
Wcb[i]=αcb×qp_luma/(qp_luma+qp_cb_offset)
式3
Wcr[i]=αcr×qp_luma/(qp_luma+qp_cr_offset)
式4
式3、及び式4における各パラメータについて説明する。
式2
Wcb[i]=αcb×qp_luma/(qp_luma+qp_cb_offset)
式3
Wcr[i]=αcr×qp_luma/(qp_luma+qp_cr_offset)
式4
式3、及び式4における各パラメータについて説明する。
まず、qp_lumaは符号化対象ブロックの輝度成分の量子化パラメータである。また、qp_cb_obbset、及びqp_cr_obbsetは、各色差成分(Cb成分、及びCr成分)の量子化パラメータオフセットであり、輝度成分の量子化パラメータからのオフセット(差分値)を示す。また、αcb、及びαcrは、画像符号化装置のユーザー等により任意の値に設定することが可能なパラメータ値であり、画像の内容や用途に基づいてカスタマイズすることができる。尚、重み付け評価部305は、ユーザー等が予め設定したデータ容量に基づくターゲット符号量や、ヘッダ情報の符号量に基づいてαcb、及びαcrを設定することで、各成分の符号量を調整することが可能である。また、式2〜式4に示した、各重みWy[i]、Wcb[i]、Wcb[i]の初期値、及び各パラメータ値αcb、αcrは、図1の全体制御部130によって重み付け評価部305に設定される。
ステップS402において、重み付け評価部305は、後述する色差イントラ予測をPlanarモード/DCモード/水平モード/垂直モードのいずれかのモードに決定するために閾値ThCを設定する。尚、閾値ThCは、ユーザー等により全体制御部130に設定され、さらに、全体制御部130から重み付け評価部305へ入力される。
ステップS403において、重み付け評価部305は、輝度イントラ予測モード及び色差イントラ予測モードにおける所定のモードに対応する各評価値ISy[i]、IScb[i]、IScr[i]、及びIStotal[i]を夫々算出する。尚、本実施形態において、所定のモードとは、Planarモード(#0、i=0)/DCモード(#1、i=1)/水平モード(#2、i=10)/垂直モード(#3、i=26)のことである。尚、色差イントラ予測モードとして、Planarモード/DCモード/水平モード/垂直モードのいずれかを使用する場合には、色差イントラ予測の符号化効率は輝度イントラ予測モードに依存しない。即ち、上述した所定のモード#0〜#3は、輝度イントラ予測モードに依存せずに、色差イントラ予測モードとして選択できるモードである。
ステップS404において、重み付け評価部305は、「輝度成分の画素を用いる色差イントラ予測(画素予測モード)」について、評価値ISy[35]、IScb[35]、IScr[35]、及びIStotal[35]を夫々算出する。尚、IScb[35]、及びIScr[35]は、色差イントラ予測モードを画素予測モード(#35)とした場合の色差予測残差ブロックに基づく評価値である。そして、ISy[35]は、輝度イントラ予測モードを、輝度イントラ予測モード候補(#0〜#34)のうちの輝度評価ISyを最小にするモードとした場合の輝度予測残差ブロックに基づく評価値である。
通常、輝度イントラ予測及び色差イントラ予測においては、符号化対象ブロックの周囲の符号化ブロックにおける再構成輝度サンプル及び再構成色差サンプルを参照する。そして、再構成輝度サンプル及び再構成色差サンプルを生成するためには、符号化装置内部で直交変換・量子化を施した直交変換係数を符号化装置内部で逆直交変換・逆量子化する必要がある。以下、逆直交変換と逆量子化の処理を合わせてローカルデコード(局所復号化)と記す。
即ち、再構成輝度サンプルを参照色差サンプルとして使用する画素予測モードの探索にあたっては、従来、各輝度イントラ予測モードに対応する輝度予測誤差の直交変換・量子化及びローカルデコード(局所復号化)を行う必要があった。
ここで、本実施形態では、色差イントラ予測の画素予測モードの探索にあたっては、再構成輝度サンプルから参照色差サンプルを生成するのではなく、図1のブロックバッファ101に格納している輝度サンプルをそのまま使用する。即ち、本実施形態では、非特許文献1の(8−54)式〜(8−57)式を利用して、入力輝度ブロックの画素数を1/4に変換(水平画素数及び垂直画素数をそれぞれ1/2)する。そして、画素数を1/4に変換した入力輝度ブロックに対して、非特許文献1における(8−58)式〜(8−72)式による変換を施し、図9(c)で示した色差成分Cb及びCrの各参照色差サンプルを生成する。
これにより、従来は画素予測モードの探索に必要であった、ローカルデコード処理を伴う再構成輝度サンプルの生成処理を省略することが可能になり、画素予測モードも含めた色差イントラ予測モードの探索を従来よりも高速に行うことが可能である。
特に、後述するように量子化パラメータが小さく画質劣化が少ない場合、輝度サンプルと再構成輝度サンプルとは近いデータとなり、再構成輝度サンプルの代わりに輝度サンプルを使用することにより弊害は限定的である。一方、量子化パラメータが大きく画質劣化が大きくなる場合には、輝度サンプルを使用することにより画素予測モードの探索に関する信頼性は低下するため、後述するように他の色差イントラ予測モードが選択されやすいようにする。尚、色差イントラ予測モードの探索には画素予測モードの参照色差サンプルとして輝度サンプルを使用するが、実際に色差イントラ予測モードとして画素予測モードを用いると決定した上で色差予測誤差ブロックを生成する際には再構成輝度サンプルを使用する。
次に、ステップS405において、重み付け評価部305は、ステップS403及びステップS404で算出した各所定のモードにおけるCb評価値IScb[i]とCr評価値IScr[i]との和(IScb[i]+IScr[i])の最小値を算出する。尚、本実施形態において、IScb[i]+IScr[i]を色差成分評価値と称す。そして、重み付け評価部305は、算出した当該色差成分評価値の最小値と、ステップS402において設定された閾値ThCとを比較し、当該色差成分評価値の最小値が当該閾値ThC以下であるか否かを判定する。そして、当該色差成分評価値の最小値が当該閾値ThC以下である場合、ステップS406に進み、当該色差成分評価値の最小値が当該閾値ThCより大きい場合、ステップS409に進む。
ステップS405でYES(画素予測モードを含む色差成分評価値(IScb[i]+IScr[i])の最小値が閾値ThC以下である)と判定された場合、重み付け評価部305は、ステップS406の処理を行う。ステップS406において、重み付け評価部305は、所定のモードまたは画素予測モードのうち色差成分評価値IScb[i]+IScr[i]の最小値に対応するモードを、色差成分の符号化において用いる色差イントラ予測モードとして決定する。さらに、重み付け評価部305は、決定した色差イントラ予測モードをイントラ予測モード判定部306に送出する。ステップS405で色差成分評価値の最小値が閾値ThC以下であり十分小さいことから、ステップS406において当該色差成分評価値の最小値に対応するモードを色差イントラ予測モードとして用いることで、色差成分に対して十分な符号化効率を実現できる。
ステップS407において、重み付け評価部305は、各所定のモード#0〜#3及び画素予測モード#35以外の各モード#4〜#34に対応する輝度評価値ISy[i]を算出する。尚、全体制御部130は、重み付け評価部305で使用される色差成分の各重みWcb[i]、Wcb[i]をゼロに設定してもよい。即ち、ステップS407において全体制御部130は、各モード#0〜#34に対応する評価値IStotal[i]をIStotal[i]=ISy[i]と変更し、重み付け評価部305が評価値IStotal[i]を算出するようにしてもよい。ここで、ステップS406で決定された色差イントラ予測モードは、輝度イントラ予測モードがどのモードを使用していても選択可能である。このため、輝度評価値ISy[i]のみを算出する、または色差成分の各重みWcb[i]、Wcb[i]をゼロに設定して評価値IStotal[i]を算出することにより、輝度成分のみを考慮して最適な輝度イントラ予測モードを探索することができる。
ステップS408において、イントラ予測モード判定部306は、輝度予測モード候補である各モード#0〜#34のうち、輝度評価値ISy[i]が最小となるモードを輝度イントラ予測モードとして決定する。尚、ステップS407において全体制御部130が色差成分の各重みWcb[i]、Wcb[i]をゼロに設定し、重み付け評価部305が評価値IStotal[i]を算出した場合は次のような処理を行う。即ち、この場合、イントラ予測モード判定部306は、評価値IStotal[i]が最小となるモードをイントラ予測モードとして決定してもよい。
上述したように、ステップS405〜408の処理により、色差イントラ予測モードとして輝度イントラ予測モードに依存しない所定のモードを使用した場合の評価値に基づいて色差イントラ予測モードを決定する。そして、輝度評価値ISy[i]のみに基づいて輝度イントラ予測モードを決定する。これにより、色差イントラ予測モードとして所定のモードを設定した場合の評価値が閾値ThC以下の場合、全ての色差予測モード候補ついて探索する必要がなく、演算量を減少することができる。また、色差イントラ予測モードとして所定のモードを設定した場合の評価値が閾値ThC以下の場合、色差成分の符号化効率に過剰に影響されることなく輝度イントラ予測モードを選択することが可能になる。
ステップS409において、重み付け評価部305は、各所定のモード#0〜#3及び画素予測モード#35以外の各モード#4〜#34に対応する各評価値ISy[i]、IScb[i]、IScr[i]、及びIStotal[i]を夫々算出する。
ステップS410において、イントラ予測モード判定部306は、輝度予測モード候補である各モード#0〜#34のうち、評価値IStotal[i]が最小となるモードを輝度イントラ予測モードとして決定する。また、ステップS410において、イントラ予測モード判定部306は、色差イントラ予測モードを輝度参照モードに決定する。即ち、ステップS405でNO(色差成分評価値の最小値が閾値ThCより大きい)と判定された場合、イントラ予測モード判定部306は、ステップS410で決定した輝度イントラ予測モードと同じモードを当該色差イントラ予測モードとして決定する。
上述したように、各輝度予測モード候補と各色差予測モード候補とに対応する評価値を重み付けして夫々算出することにより、色差成分の符号化効率を考慮して輝度イントラ予測モード、及び色差イントラ予測モードを決定することができる。
図5に、輝度予測モード探索部1101、色差予測モード探索部1103、及び統合予測モード判定部1105の各動作を時系列で示したタイミングチャートを示す。図5は、図2(a)で示した32×32画素の各符号化ブロックを符号化するタイミングチャートを示しており、16×16画素の予測ブロックを4ブロック分処理する様子を示している。
時刻t1において、輝度予測モード探索部1101は輝度サンプルバッファ1102から読み込んだ参照輝度サンプルに基づいて、Intra_Planar(#0、図5では0と表記)に対応する参照輝度ブロックの生成を行う。そして、輝度予測モード探索部1101は、ブロックバッファ101から読み込んだ予測対象ブロック(図2における予測ブロック1)の輝度サンプルと、生成した参照輝度ブロックの差分である輝度予測残差ブロックを算出する。さらに、輝度予測モード探索部1101は、算出した輝度予測残差ブロックを統合予測モード判定部1105に送出する。続いて、Intra_DC(#1、図5では1と表記)、Angular_10〜Angular_34(#2〜34、図5では2〜34と表記)についても同様に輝度予測残差ブロックを夫々算出し、統合予測モード判定部1105に送出する。このように、輝度予測モード探索部1101は、輝度予測モード候補である全て(35個)のモードについて夫々探索処理を行う。
時刻t2において、色差予測モード探索部1103は色差サンプルバッファ1104から読み込んだ参照色差サンプルに基づいて、各色差成分(Cb成分及びCr成分)のIntra_Planar(#0)に対応する参照色差ブロックの生成を行う。そして、色差予測モード探索部1103は、生成した参照色差ブロックと、ブロックバッファ101から読み込んだ予測対象ブロック(図2における予測ブロック1)の色差サンプルと、の差分である色差予測残差ブロックを算出する。さらに、色差予測モード探索部1103は、算出した色差予測ブロックを統合予測モード判定部1105に送出する。続いて、Intra_DC(#1)、Angular_10〜Angular_34(#2〜#34)、Intra_FromLuma(#35)についても同様に色差予測残差ブロックを夫々算出し、統合予測モード判定部1105に送出する。このように、色差予測モード探索部1103は、色差予測モード候補である全て(36個)のモードについて探索する。
尚、本実施形態において、色差予測モード探索部1103は、1つの色差予測モード候補について、各色差成分(Cb成分及びCr成分)の色差予測残差ブロックを夫々生成してから、次の色差予測モード候補の探索を行う。また、本実施形態において、入力画像フォーマットは4:2:0である。入力画像フォーマットが4:2:0の場合、符号化ブロックに含まれるCb成分の画素サンプル数は輝度成分の画素サンプル数の1/4である。このため、輝度成分の予測残差ブロック生成処理よりも色差成分の予測残差ブロック生成処理は高速に行うことができる。
時刻t3において、統合予測モード判定部1105は、全成分(輝度成分、Cb成分、Cr成分)の予測残差ブロックが、FIFO301〜303において利用可能になっているため、各予測モード候補の評価値の算出を行う。
時刻t4において、イントラ予測モード判定部306は、全ての輝度予測モード候補、及び色差予測モード候補に対応する評価値が算出されているため、輝度イントラ予測モード、及び色差イントラ予測モードを図4で示したフローチャートのように決定する。
上記の処理を、符号化対象ブロック内の全予測ブロック、及び画面内の符号化ブロック数分だけ繰り返すことにより、画面全体を符号化する。
本実施形態の色差イントラ予測モードの探索において、画素予測モードのための参照色差サンプルを生成する際に、再構成輝度サンプルの代わりに入力輝度サンプルを用いる。これにより、再構成輝度サンプルを使用する場合よりも探索を開始する時間を早めることができる。このため、色差イントラ予測モードの探索において高速な処理が可能となる。さらに、処理時間及び消費電力を削減することができる。
尚、本実施形態において予測ブロックサイズは16×16画素であるが、本発明はこれに限定されない。即ち、他の予測ブロックサイズに対しても適用可能である。即ち、HEVCを用いた符号化において、HEVCで取り得る予測ブロックサイズ(64×64画素、32×32画素、16×16画素、8×8画素、4×4画素)のうち、符号化ブロックサイズ以下のサイズのいずれかを使用してもよい。例えば、HEVCを用いた符号化において、符号化ブロックサイズが32×32画素である場合、予測ブロックサイズとしては32×32画素、16×16画素、8×8画素、または4×4画素のいずれかを使用することが可能である。
また、本発明は変換ブロックサイズに限定されない。即ち、HEVCを用いた画像符号化装置において、HEVCにおいて取り得る変換ブロックサイズ(32×32画素、16×16画素、8×8画素、4×4画素)のうち、符号化ブロックサイズ以下のサイズのいずれかを使用してよい。例えば、HEVCを用いた符号化において、符号化ブロックサイズが32×32画素である場合、変換ブロックサイズとしては32×32画素、16×16画素、8×8画素、または4×4画素のいずれかを使用することが可能である。
また、本実施形態においてブロックサイズ決定部102は、符号化対象ブロックのデータを解析した結果に基づいて予め予測ブロックサイズを決定するが、本発明はこれに限定されない。即ち、ブロックサイズ決定部102は、使用可能な全ての予測ブロックサイズについて、イントラ予測部110を夫々動作させ、最適な予測ブロックサイズを探索してもよい。また、ブロックサイズ決定部102は、本実施形態の画像符号化装置の内外で予め決定された、予測ブロックサイズ、及び変換ブロックサイズを読み込んで、夫々設定してもよい。さらに、本発明は予測ブロックサイズの決定方法について、特定のアルゴリズムに依存せず、既存のいかなるアルゴリズムも適用することが可能である。
また、本実施形態においてイントラ予測モードの候補を全て評価するアルゴリズムを使用したが、本発明はこれに限定されない。即ち、高速化のために、一部のイントラ予測モードの候補の評価を省略する等してイントラ予測モードの探索するアルゴリズムについても、同様の方法で適用することができる。また、各イントラ予測モードの候補の探索順序についても上記に限定されず、いかなる順番で探索することも可能である。
また、本実施形態において入力フォーマットとして4:2:0を使用したが、本発明はこれに限定されない。即ち、輝度成分の画素サンプル数(輝度サンプル数)と色差成分のサンプル数(色差サンプル数)の比には依存せず、一般的に使用されている4:2:0、4:2:2、及び4:4:4のいかなる入力フォーマットにおいても使用することが可能である。例えば入力フォーマットが4:4:4である場合には輝度サンプルブロックの画素数を1/4に変換する処理は不要になる。
<実施形態2>
本発明の実施形態2について説明する。本実施形態における画像符号化装置の構成は図1と同一である。尚、本実施形態では、色差イントラ予測モード探索の画素予測モードにおける、図1の統合予測モード判定部1105の内部の構成が、実施形態1における図3とは異なる。即ち、本実施形態では、各イントラ予測モードの候補において評価値IStotal[i]を夫々算出するための重み付け手段として、実施形態1で使用した重み付け評価部305とは異なる手段を使用する。また、本実施形態では、重み付け評価部に対して、ユーザーから量子化パラメータ閾値を設定することが可能な量子化パラメータ設定部が付加されている。
本発明の実施形態2について説明する。本実施形態における画像符号化装置の構成は図1と同一である。尚、本実施形態では、色差イントラ予測モード探索の画素予測モードにおける、図1の統合予測モード判定部1105の内部の構成が、実施形態1における図3とは異なる。即ち、本実施形態では、各イントラ予測モードの候補において評価値IStotal[i]を夫々算出するための重み付け手段として、実施形態1で使用した重み付け評価部305とは異なる手段を使用する。また、本実施形態では、重み付け評価部に対して、ユーザーから量子化パラメータ閾値を設定することが可能な量子化パラメータ設定部が付加されている。
尚、本実施形態において、図5のタイミングチャートについては、実施形態1と同一の図が適用可能であるため、説明は省略する。また、本実施形態において、入力画像フォーマットは4:2:0であると仮定する。
図6は、本実施形態における統合予測モード判定部1105の内部構成を示した図であり、FIFO301、302、303、評価値算出部304、重み付け評価部601、量子化パラメータ取得部602、イントラ予測モード判定部306を有する。尚、図6において図3と同じ処理を行うものは、同じ符号を付与して説明は省略する。
重み付け評価部601は、評価値算出部304から読み込んだ各評価値ISy[i]、IScb[i]、IScr[i]と、各重みWy[i]、Wcb[i]、Wcr[i]とを夫々重み付けして加算することにより、評価値IStotal[i]を算出する。このように、各輝度予測モード候補と各色差予測モード候補とに対応する評価値を重み付けして夫々算出することにより、色差成分の符号化効率を考慮して輝度イントラ予測モード、及び色差イントラ予測モードを決定することができる。
尚、本実施形態の色差イントラ予測モード探索において、重み付け評価部601は、量子化パラメータの値によって以下のように決定された各重みWy[i]、Wcb[i]、Wcb[i]を用いて、評価値IStotal[i]を算出する。また、量子化パラメータの値に対する重み付けの閾値Qthは、ユーザーが量子化パラメータ取得部(不図示)に設定する等して設定が可能であり、以下のように重み付けを適応的に変更することが可能である。以下、量子化パラメータの重み付けの閾値Qthに基づく、重み付けの方法について説明する。
まず、重み付けを適応的に変更させる理由について説明する。前述したように、量子化パラメータの値が重み付けの閾値Qthより小さい場合は、再構成画素と入力画素との差が十分小さくなるため、画素予測モードの評価値と他の色差イントラ予測モードの評価値とを対等に比較しても問題ない。このため、他の色差イントラ予測モードと同じ重み付け、即ち式2〜4を画素予測モードで使用することが可能である。
一方、量子化パラメータの値が重み付けの閾値Qthより大きい場合は、量子化パラメータの値が重み付け閾値Qthより小さい場合と比べて、再構成画素と入力画素との差が大きくなる。即ち、再構成画素の代わりに入力画素を用いて算出した画素予測モードの評価値は信頼性が低下するため、画素予測モードの評価値と他の色差イントラ予測モードの評価値とを単に比較することは相応しくない。このため、本実施形態では、画素予測モードの評価値を算出する場合と他の色差イントラ予測モードの評価値を算出する場合とで重み付けを変化させ、予各色差イントラ予測モードの評価値の比較を行う。これにより、量子化パラメータの値が重み付けの閾値Qthより大きい場合に、色差イントラ予測モードの探索において画素予測モードが不適切に多く選択されることを抑制することが可能となる。
以下、各成分で用いられる量子化パラメータは、非特許文献1に記載されているQP’y、QP’cb及びQP’crである。QP’yは輝度成分の量子化パラメータを表し、QP’cb及びQP’crは色差成分の量子化パラメータを表す。尚、輝度成分の量子化パラメータQP’yが≦Qthである場合、画素予測モード(#35)の評価値を算出するための各重みWy[35]、Wcb[35]、Wcb[35]として式2〜4を用いる。
一方、輝度成分の量子化パラメータQP’yが>Qthである場合、画素予測モード(#35)の評価値を算出するための各重みWy[35]、Wcb[35]、Wcb[35]として式5〜7を用いる。
Wy[35]=1
式5
Wcb[35]=0.8×qp_luma/(qp_luma+qp_cb_offset)
式6
Wcr[35]=0.8×qp_luma/(qp_luma+qp_cr_offset)
式7
上述したように、本実施形態において、輝度成分の量子化パラメータQP’yの大きさに基づいて各重みWy[i]、Wcb[i]、Wcb[i]を適応的に変更することで、適切なIStotal[i]を算出することができる。尚、式6は式3のαcbの値を0.8とした場合(αcb=0.8)の式であり、式7は式4のαcrの値を0.8とした場合(αcr=0.8)の式である。本実施形態において、量子化パラメータの閾値Qthに基づいてαcb及びαcrの値を0.8としたが、本発明はこれに限定されない。即ち、αcb及びαcrの値は、0以上1以下の値であれば構わない。
式5
Wcb[35]=0.8×qp_luma/(qp_luma+qp_cb_offset)
式6
Wcr[35]=0.8×qp_luma/(qp_luma+qp_cr_offset)
式7
上述したように、本実施形態において、輝度成分の量子化パラメータQP’yの大きさに基づいて各重みWy[i]、Wcb[i]、Wcb[i]を適応的に変更することで、適切なIStotal[i]を算出することができる。尚、式6は式3のαcbの値を0.8とした場合(αcb=0.8)の式であり、式7は式4のαcrの値を0.8とした場合(αcr=0.8)の式である。本実施形態において、量子化パラメータの閾値Qthに基づいてαcb及びαcrの値を0.8としたが、本発明はこれに限定されない。即ち、αcb及びαcrの値は、0以上1以下の値であれば構わない。
尚、量子化パラメータの閾値Qthはユーザーによって設定されるものであり、設定された量子化パラメータの閾値Qthに基づいて重み付けの値も適応的に変更されるものである。
また、実施形態1と同様に、本発明は本実施形態において用いた特定の予測ブロックサイズ、変換ブロックサイズ、及び入力フォーマットに限定されない。さらに、ブロックサイズ決定部102における予測ブロックサイズの決定方法や、イントラ予測及び補償部110におけるイントラ予測モード探索アルゴリズムにも限定されない。
以下、本実施形態の重み付け評価部305における各重みWy[i]、Wcb[i]、Wcr[i]の決定方法とイントラ予測モード判定部306における輝度イントラ予測モード及び色差イントラ予測モード決定方法とを図8のフローチャートを用いて説明する。尚、本実施形態における図8の各ステップS401〜S409は、実施形態1における図4のフローチャートと同様である。このため、図8において図4と同じ処理を行うものは、同じ番号を付与して説明を省略する。
ステップS801において、重み付け評価部305はステップS404と同様に、画素予測モードの参照色差サンプルとして輝度サンプルを使用して色差イントラ予測モードの探索を行う。これにより、従来は画素予測モードの探索に必要であった、ローカルデコード処理を伴う再構成輝度サンプルの生成処理を省略することが可能になり、画素予測モードも含めた色差イントラ予測モードの探索を従来よりも高速に行うことが可能である。
また、ステップS801において重み付け評価部305はユーザーによって設定された量子化パラメータの閾値Qthに基づいて所定の重み付けを行い、画素予測モードの評価値IStotal[35]を算出する。即ち、ステップS801において重み付け評価部305は評価値IStotal[35]を算出するために、量子化パラメータの閾値Qthに基づいて、式2〜4を用いて重み付けをするか式5〜7を用いて重み付けをするかを適応的に変更する。尚、ステップS801でユーザーにより量子化パラメータの閾値Qthの設定が行われていない場合は、式2〜4を用いて評価値IStotal[35]を算出し、ステップS405へ進む。
上述のように本実施形態は、色差イントラ予測モードの際における画素予測モードも含めた探索を行うために、再構成輝度サンプルの代わりに入力輝度サンプルを用いることで、再構成輝度サンプルを用いる場合よりも探索を開始する時間を早めることができる。このため、色差イントラ予測モードの探索において高速な処理を可能にする。
また、本実施形態は、量子化パラメータに基づいて画素予測モードの探索における重みを他の色差イントラ予測モードの探索における重み以下の値に変化させる。これにより、画素予測モードが必要以上に選択されてしまうことを抑制して、より適切な色差イントラ予測モードを選択することが可能である。
<実施形態3>
上記実施形態1、及び実施形態2において、其々図1、図3、及び図6に示した各処理部はハードウェアでもって構成しているものとして説明した。しかし、これらの図に示した各処理部で行う処理をコンピュータプログラムで実行しても良い。
上記実施形態1、及び実施形態2において、其々図1、図3、及び図6に示した各処理部はハードウェアでもって構成しているものとして説明した。しかし、これらの図に示した各処理部で行う処理をコンピュータプログラムで実行しても良い。
図10は、上記実施形態1、及び実施形態2に係る画像符号化装置の各処理部が行う処理を実行するコンピュータのハードウェアの構成例を示すブロック図である。
CPU1001は、RAM1002やROM1003に格納されているコンピュータプログラムやデータを用いてコンピュータ全体の制御を行うと共に、上述した実施形態に係る画像符号化装置が行うものとして上述した各処理を実行する。即ち、CPU1001は、図1、図3、及び図6に示した各処理部として機能することになる。
RAM1002は、外部記憶装置1006からロードされたコンピュータプログラムやデータ、I/F(インターフェース)1007を介して、外部から取得したデータ等を一時的に記憶するためのエリアを有する。さらに、RAM1002は、CPU1001が各種の処理を実行する際に用いるワークエリアを有する。即ち、RAM1002は、例えば、フレームメモリとして割り当てたり、その他の各種のエリアを適宜提供したりすることができる。
ROM1003は、本コンピュータの設定データや、ブートプログラム等を格納する。
操作部1004は、キーボードやマウス等により構成されており、本コンピュータのユーザーが操作することで、各種の指示をCPU1001に対して入力することができる。
表示部1005は、CPU1001による処理結果を表示する。また、表示部1005は、例えば液晶ディスプレイで構成される。
外部記憶装置1006は、ハードディスクドライブ装置に代表される、大容量情報記憶装置である。外部記憶装置1006には、オペレーティングシステム(OS)や、図1、図3、及び図6に示した各部の機能をCPU1001に実現させるためのコンピュータプログラムが保存されている。さらには、外部記憶装置1006には、処理対象としての各画像が保存されていても良い。
外部記憶装置1006に保存されているコンピュータプログラムやデータは、CPU1001による制御に従って適宜、RAM1002にロードされ、CPU1001による処理対象となる。
I/F1007には、LANやインターネット等のネットワーク、投影装置や表示装置等の他の機部を接続することができ、本コンピュータはこのI/F1007を介して様々な情報を取得したり、送出したりすることができる。
バス1008は、上述の各部を繋ぐ。
上述の構成における作動は、前述のフローチャートで説明した作動をCPU1001が中心となってその制御を行う。
<その他の実施形態>
前述した実施形態では、輝度成分、及び色差成分のイントラ予測モードに対応する評価値を重み付けして算出することにより、色差成分の符号化効率を考慮して輝度イントラ予測モードを決定したが、本発明はこれに限定されない。即ち、色差成分の符号化効率を考慮して輝度イントラ予測モードを決定する方法であればよく、画像符号化装置に入力された入力画像の輝度成分、及び色差成分の画素から算出される属性情報を使用して、輝度イントラ予測モードを決定する方法を用いてもよい。例えば、入力画像の輝度成分、及び色差成分のエッジ、及びグラデーションの方向を算出し、当該方向に基づいて輝度イントラ予測モードを決定してもよい。
前述した実施形態では、輝度成分、及び色差成分のイントラ予測モードに対応する評価値を重み付けして算出することにより、色差成分の符号化効率を考慮して輝度イントラ予測モードを決定したが、本発明はこれに限定されない。即ち、色差成分の符号化効率を考慮して輝度イントラ予測モードを決定する方法であればよく、画像符号化装置に入力された入力画像の輝度成分、及び色差成分の画素から算出される属性情報を使用して、輝度イントラ予測モードを決定する方法を用いてもよい。例えば、入力画像の輝度成分、及び色差成分のエッジ、及びグラデーションの方向を算出し、当該方向に基づいて輝度イントラ予測モードを決定してもよい。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
Claims (10)
- 画像を符号化ブロック単位で符号化する画像符号化装置であって、
前記画像符号化装置に入力された符号化対象ブロックの色差成分の符号化において選択され得る色差予測モードの評価を表す色差の評価値を取得する第1の取得手段と、
前記第1の取得手段によって取得された前記色差の評価値に基づいて、前記符号化対象ブロックの色差成分を符号化するために用いる前記色差予測モードを決定する決定手段と
を有し、
前記第1の取得手段は、前記符号化対象ブロックの色差成分の符号化において選択され得る色差予測モードのうち輝度成分の画素群を用いて予測する画素予測モードの評価値であって、前記符号化対象ブロックの輝度画素群を参照して算出された評価値を取得することを特徴とする画像符号化装置。 - さらに、前記符号化対象ブロックの輝度成分の符号化において選択され得る輝度予測モードの評価を表す輝度の評価値を取得する第2の取得手段を有し、
前記決定手段は、前記第1の取得手段によって取得された色差の評価値に基づいて前記符号化対象ブロックの色差成分を符号化するために用いる色差予測モードを決定し、前記第2の手段によって取得された輝度の評価値に基づいて、前記符号化対象ブロックの輝度成分を符号化するために用いる輝度予測モードを決定することを特徴とする請求項1に記載の画像符号化装置。 - 前記決定手段は、前記第1の取得手段によって取得された複数の色差の評価値のそれぞれに第1の重み係数を乗算した各値と、前記第2の取得手段によって取得された複数の輝度の評価値のそれぞれに第2の重み係数を乗算した各値とに基づいて、前記色差予測モードを決定することを特徴とする請求項2に記載の画像符号化装置。
- 前記第1の取得手段は、前記決定手段によって決定された前記輝度予測モードを用いて前記符号化対象ブロックの輝度成分の画素群を予測符号化、及び、局所復号して再構成された輝度画素群が生成される前に、前記色差予測モードのうちの前記画素予測モードの評価値を取得することを特徴とする請求項2乃至請求項3のいずれか一項に記載の画像符号化装置。
- 前記第1の重み係数は、前記符号化対象ブロックの前記色差成分の符号化における量子化パラメータに基づいて決定され、前記第2の重み係数は、前記符号化対象ブロックの前記輝度成分の符号化における量子化パラメータに基づいて決定されることを特徴とする請求項3に記載の画像符号化装置。
- 前記決定手段は、前記輝度成分の符号化における量子化パラメータが所定の値より大きい場合の、色差予測モードのうちの画素予測モードの評価を示す色差の評価値に乗算する重み係数を、前記輝度成分の符号化における量子化パラメータが所定の値より小さい場合の、前記画素予測モードの評価を示す色差の評価値に乗算する重み係数よりも大きくなるように重み付けして、前記色差予測モードを決定することを特徴とする請求項1乃至請求項5のいずれか一項に記載の画像符号化装置。
- 前記第1の重み係数は、前記符号化対象ブロックの前記色差成分のサンプル数に基づいて決定され、前記第2の重み係数は、前記符号化対象ブロックの前記輝度成分のサンプル数に基づいて決定されることを特徴とする請求項3に記載の画像符号化装置。
- さらに、前記決定手段によって前記色差予測モードとして前記画素予測モードが決定された場合に、前記符号化対象ブロックの輝度成分の画素群を予測符号化、及び、局所復号化して再構成された輝度画素群を用いて、前記符号化対象ブロックの色差成分の画素群を符号化する符号化手段を有することを特徴とする請求項1乃至請求項7のいずれか一項に記載の画像符号化装置。
- 画像を符号化ブロック単位で符号化する画像符号化方法であって、
入力された符号化対象ブロックの色差成分の符号化において選択され得る色差予測モードの評価を表す色差の評価値を取得する第1の取得工程と、
前記第1の取得工程で取得された前記色差の評価値に基づいて、前記符号化対象ブロックの色差成分を符号化するために用いる前記色差予測モードを決定する決定工程と
を有し、
前記第1の取得工程は、前記符号化対象ブロックの色差成分の符号化において選択され得る色差予測モードのうち輝度成分の画素群を用いて予測する画素予測モードの評価値であって、前記符号化対象ブロックの輝度画素群を参照して算出された評価値を取得することを特徴とする画像符号化方法。 - コンピュータを、請求項1に記載の画像符号化装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013131668A JP2015005957A (ja) | 2013-06-24 | 2013-06-24 | 画像符号化装置及び、画像符号化方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013131668A JP2015005957A (ja) | 2013-06-24 | 2013-06-24 | 画像符号化装置及び、画像符号化方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015005957A true JP2015005957A (ja) | 2015-01-08 |
Family
ID=52301489
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013131668A Pending JP2015005957A (ja) | 2013-06-24 | 2013-06-24 | 画像符号化装置及び、画像符号化方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015005957A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110876061A (zh) * | 2018-09-03 | 2020-03-10 | 华为技术有限公司 | 色度块预测方法及装置 |
-
2013
- 2013-06-24 JP JP2013131668A patent/JP2015005957A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110876061A (zh) * | 2018-09-03 | 2020-03-10 | 华为技术有限公司 | 色度块预测方法及装置 |
CN110876061B (zh) * | 2018-09-03 | 2022-10-11 | 华为技术有限公司 | 色度块预测方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20230232033A1 (en) | Image encoding and decoding method with merge flag and motion vectors | |
KR101684207B1 (ko) | 동화상 복호 장치, 동화상 부호화 장치, 동화상 복호 방법, 및 동화상 부호화 방법 | |
US9392285B2 (en) | Video encoding method with bit depth adjustment for fixed-point conversion and apparatus therefor, and video decoding method and apparatus therefor | |
KR20200128138A (ko) | 비디오 코딩을 위한 방법 및 장치 | |
JP2024012476A (ja) | ビデオデコーディングのための方法、装置、媒体、およびプログラム | |
US20120213278A1 (en) | Moving image coding device, moving image decoding device, moving image coding/decoding system, moving image coding method and moving image decoding method | |
JP6137817B2 (ja) | 画像符号化装置、画像符号化方法及びプログラム | |
US11323700B2 (en) | Encoding video using two-stage intra search | |
US20230232027A1 (en) | Sign coding for one-dimensional transform skip | |
US20140177709A1 (en) | Image encoding apparatus, image encoding method and computer program | |
JP2015005957A (ja) | 画像符号化装置及び、画像符号化方法及びプログラム | |
JP5235813B2 (ja) | 動画像符号化装置、動画像符号化方法及びコンピュータプログラム | |
WO2023140927A1 (en) | Signalling of eob for one dimensional transform skip | |
JP6265705B2 (ja) | 画像符号化装置及び画像符号化方法 |