JP2011199433A - 画像処理装置および画像処理方法 - Google Patents

画像処理装置および画像処理方法 Download PDF

Info

Publication number
JP2011199433A
JP2011199433A JP2010061667A JP2010061667A JP2011199433A JP 2011199433 A JP2011199433 A JP 2011199433A JP 2010061667 A JP2010061667 A JP 2010061667A JP 2010061667 A JP2010061667 A JP 2010061667A JP 2011199433 A JP2011199433 A JP 2011199433A
Authority
JP
Japan
Prior art keywords
pixel
unit
image
prediction
orthogonal transform
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010061667A
Other languages
English (en)
Other versions
JP5299328B2 (ja
Inventor
Akira Nakagawa
章 中川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2010061667A priority Critical patent/JP5299328B2/ja
Priority to US13/048,311 priority patent/US9071836B2/en
Publication of JP2011199433A publication Critical patent/JP2011199433A/ja
Application granted granted Critical
Publication of JP5299328B2 publication Critical patent/JP5299328B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/11Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • H04N19/126Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】イントラ予測の精度および効率を改善すること。
【解決手段】予測残差生成部3により、符号化対象ブロックの画像と符号化対象ブロックの予測画像との予測残差を生成する。重み付け部4により、予測残差に含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値に1よりも大きい定数を乗算して重み付けをする。重み付けされた予測残差に対して直交変換、量子化、逆量子化および逆直交変換を行って逆直交変換データを生成する。予測残差再生部9により、逆直交変換データに含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値を1よりも大きい定数で除算して予測残差を再生する。復号画像生成部10により、再生された予測残差と予測画像とに基づいて復号画像を生成する。
【選択図】図1

Description

この発明は、画像処理装置および画像処理方法に関する。
従来、画像処理の一つである画像符号化処理の国際標準としてMPEG−4(Moving Picture Experts Group phase 4)AVC(Advanced Video Coding)/H.264がある。MPEG−4AVC/H.264では、符号化装置は、入力画像と予測画像とに基づいて予測残差を求め、直交変換、量子化、逆量子化および逆直交変換を行って予測残差を再生する。符号化装置は、再生した予測残差とフレーム内の予測画像(イントラ予測画像)もしくはフレーム間の予測画像(インター予測画像)とに基づいて復号画像を生成する。符号化装置は、復号画像と入力画像とに基づいてフレーム間の予測画像を生成する。符号化装置は、量子化係数を符号化したビットストリームを出力する。復号装置は、ビットストリームを復号し、逆量子化および逆直交変換を行って予測残差を再生する。復号装置は、再生した予測残差とビットストリームの復号により得た予測画像とに基づいて復号画像を生成する。
一方、イントラ予測による符号化処理は、水平16画素×垂直16画素のマクロブロック単位、またはこのマクロブロックを水平4画素×垂直4画素もしくは水平8画素×垂直8画素ごとに分割したブロック単位で実施される。色差については、マクロブロックを水平8画素×垂直8画素ごとに分割したブロック単位でイントラ予測による符号化処理が実施される。一フレームの原画に対して左から右でかつ上から下へ向かって符号化処理が進められていく場合、符号化する対象のブロックまたはマクロブロック(以下、まとめて符号化対象ブロックと表記する)の上、左斜め上、右斜め上および左隣の各ブロックまたは各マクロブロックは既に符号化されている。水平4画素×垂直4画素のブロックまたは水平8画素×垂直8画素のブロック(色差のブロックを除く)の予測画像は、符号化対象ブロックに対してすぐ上および右斜め上の各ブロックの下端に並ぶ画素と、左斜め上のブロックの右下隅の画素と、左隣のブロックの右端に並ぶ画素とに基づいて生成される。マクロブロックまたは色差のブロックの予測画像は、符号化対象ブロックに対してすぐ上のマクロブロックまたはブロックの下端に並ぶ画素と、左斜め上のマクロブロックまたはブロックの右下隅の画素と、左隣のマクロブロックまたはブロックの右端に並ぶ画素とに基づいて生成される。
特開2009−21786号公報 特開2008−227670号公報
しかしながら、従来のイントラ予測による符号化処理では、上述したように符号化対象ブロックの周辺に位置する符号化済みの画素を用いて符号化対象ブロックの予測画像が生成される。そのため、予測画像の生成に使用される画素の符号化誤差が大きいと、得られる予測画像の品質すなわち精度が悪くなり、符号化効率が悪くなるという問題点がある。
イントラ予測の精度および効率を改善することができる画像処理装置および画像処理方法を提供することを目的とする。
この画像処理装置は、予測画像生成部、予測残差生成部、重み付け部、直交変換部、量子化部、逆量子化部、逆直交変換部、予測残差再生部および復号画像生成部を備える。予測画像生成部は、符号化対象ブロックの周囲にある符号化済みのブロックに含まれる画素の画素値に基づいて当該符号化対象ブロックの予測画像を生成する。予測残差生成部は、符号化対象ブロックの画像と予測画像生成部により生成された予測画像とに基づいて予測残差を生成する。重み付け部は、予測残差生成部により生成された予測残差に含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値に1よりも大きい第1の定数を乗算する第1の乗算を行って画素値に重みを付ける。あるいは、重み付け部は、予測残差生成部により生成された予測残差に含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用されない画素の画素値に1よりも小さい第2の定数を乗算する第2の乗算を行って画素値に重みを付けてもよい。また、重み付け部は、第1の乗算および第2の乗算の両方を行って画素値に重みを付けてもよい。直交変換部は、重み付け部による乗算後の予測残差に対して直交変換を行って変換係数を生成する。量子化部は、直交変換部により生成された変換係数に対して量子化を行って量子化係数を生成する。逆量子化部は、量子化部により生成された量子化係数に対して逆量子化を行って逆量子化係数を生成する。逆直交変換部は、逆量子化部により生成された逆量子化係数に対して逆直交変換を行って逆直交変換データを生成する。予測残差再生部は、逆直交変換部により生成された逆直交変換データに含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値を1よりも大きい第3の定数で除算する第1の除算を行って予測残差を再生する。あるいは、予測残差再生部は、逆直交変換部により生成された逆直交変換データに含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用されない画素の画素値を1よりも小さい第4の定数で除算する第2の除算を行って予測残差を再生してもよい。また、予測残差再生部は、第1の除算および第2の除算の両方を行ってもよい。復号画像生成部は、予測残差再生部により再生された予測残差と予測画像生成部により生成された予測画像とに基づいて復号画像を生成する。
この画像処理装置および画像処理方法によれば、イントラ予測の精度および効率を改善することができるという効果を奏する。
実施例1にかかる画像処理装置を示すブロック図である。 実施例1にかかる画像処理方法を示すフローチャートである。 量子化係数への誤差の混入および混入した誤差の均一化について説明する図である。 実施例2にかかる画像処理装置を示すブロック図である。 イントラ4×4モードについて説明する図である。 イントラ8×8モードについて説明する図である。 イントラ16×16モードについて説明する図である。 色差のイントラモードについて説明する図である。 実施例3にかかる画像処理装置を示すブロック図である。 符号化対象ブロックと画面の表示位置との関係を説明する図である。 実施例4にかかる画像処理装置を示すブロック図である。
以下に添付図面を参照して、この画像処理装置および画像処理方法の好適な実施の形態を詳細に説明する。画像処理装置および画像処理方法は、予測残差の中の、予測画像の生成に利用される画素の画素値に重み付けをして直交変換し、逆直交変換後に、重み付けされた画素の画素値に対して重み付けの逆を行うことで、予測画像の生成に利用される画素の符号化誤差を抑圧する。
(実施例1)
・画像処理装置の説明
図1は、実施例1にかかる画像処理装置を示すブロック図である。実施例1にかかる画像処理装置は、入力画像データを符号化する符号化装置である。この符号化装置は、1フレームの画像を複数のブロックに分割し、ブロックごとに画像データを符号化する。図1に示すように、符号化装置(画像処理装置)1は、予測画像生成部2、予測残差生成部3、重み付け部4、直交変換部5、量子化部6、逆量子化部7、逆直交変換部8、予測残差再生部9および復号画像生成部10を備えている。
予測画像生成部2は、符号化対象ブロックの予測画像を生成する。その際、予測画像生成部2は、符号化対象ブロックの周囲にある符号化済みのブロックに含まれる画素の画素値に基づいて予測画像を生成する。予測残差生成部3は、符号化対象ブロックの予測残差を生成する。その際、予測残差生成部3は、符号化対象ブロックの画像と、予測画像生成部2により生成された符号化対象ブロックの予測画像と、の差分を求めることによって予測残差を生成してもよい。
重み付け部4は、予測残差生成部3により生成された予測残差に含まれる画素の画素値に対して重み付けを行う。例えば、重み付け部4は、予測残差に含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値に第1の定数を乗算してもよい(第1の乗算)。この場合、第1の定数は、1よりも大きい。あるいは、重み付け部4は、予測残差に含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用されない画素の画素値に第2の定数を乗算してもよい(第2の乗算)。この場合、第2の定数は、1よりも小さい。また、重み付け部4は、第1の乗算および第2の乗算の両方を行ってもよい。
直交変換部5は、重み付け部4による乗算後の予測残差に対して直交変換を行うことによって変換係数を生成する。量子化部6は、直交変換部5により生成された変換係数に対して量子化を行うことによって量子化係数を生成する。逆量子化部7は、量子化部6により生成された量子化係数に対して逆量子化を行うことによって逆量子化係数を生成する。逆直交変換部8は、逆量子化部7により生成された逆量子化係数に対して逆直交変換を行うことによって逆直交変換データを生成する。
予測残差再生部9は、逆直交変換部8により生成された逆直交変換データに基づいて予測残差を再生する。その際、重み付け部4において上述した第1の乗算を行った場合には、予測残差再生部9は、逆直交変換データに含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値を第3の定数で除算する(第1の除算)。この場合、第3の定数は、1よりも大きい。第3の定数と第1の定数とが同じ値であってよい。重み付け部4において上述した第2の乗算を行った場合には、予測残差再生部9は、逆直交変換データに含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用されない画素の画素値を第4の定数で除算する(第2の除算)。この場合、第4の定数は、1よりも小さい。第4の定数と第2の定数とが同じ値であってよい。重み付け部4において上述した第1の乗算および第2の乗算の両方を行った場合には、予測残差再生部9においても第1の除算および第2の除算の両方を行ってもよい。
復号画像生成部10は、復号画像を生成する。その際、復号画像生成部10は、予測残差再生部9により再生された予測残差と、予測画像生成部2により生成された予測画像と、を加算することによって復号画像を生成してもよい。例えば、符号化装置1は、量子化部6により生成された量子化係数を例えばエントロピー符号化することによってビットストリームを生成して出力する。
・画像処理方法の説明
図2は、実施例1にかかる画像処理方法を示すフローチャートである。実施例1にかかる画像処理方法は、入力画像データを符号化する符号化方法である。この符号化方法は、1フレームの画像を複数のブロックに分割し、ブロックごとに画像データを符号化する。図2に示すように、入力画像データの符号化処理(画像処理)が開始されると、符号化装置1は、まず予測画像生成部2により符号化対象ブロックの予測画像を生成する(ステップS1)。次いで、符号化装置1は、予測残差生成部3により符号化対象ブロックの予測残差を生成する(ステップS2)。
次いで、符号化装置1は、重み付け部4により、予測残差に含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値に重みを付ける(ステップS3)。次いで、符号化装置1は、直交変換部5により重み付け後の予測残差に対して直交変換を行って変換係数を生成する(ステップS4)。次いで、符号化装置1は、量子化部6により変換係数に対して量子化を行って量子化係数を生成する(ステップS5)。量子化の際に、量子化係数の一部に誤差が混入することがある。量子化係数に誤差が混入することについては、後述する。
次いで、符号化装置1は、逆量子化部7により量子化係数に対して逆量子化を行って逆量子化係数を生成する(ステップS6)。次いで、符号化装置1は、逆直交変換部8により逆量子化係数に対して逆直交変換を行って逆直交変換データを生成する(ステップS7)。逆直交変換データにおいては、量子化係数に混入した誤差は一様に広がる。つまり、量子化係数に局在した誤差が逆直交変換によって均一化される。量子化係数に混入した誤差が一様に広がることについては、後述する。
次いで、符号化装置1は、予測残差再生部9により、逆直交変換データに対してステップS3の重み付け処理と逆の処理を行って予測残差を再生する(ステップS8)。再生された予測残差に含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素については、誤差が抑圧されている。直交変換前に重み付け処理を行い、逆直交変換後に重み付け処理の逆の処理を行うことによって、予測画像の生成に利用される画素の画素値に含まれる誤差が小さくなることについては、特開平9−200766号公報の段落番号0083から0087および当該公報の図7に記載されている。
ただし、特開平9−200766号公報においては、重み付け処理は振幅変調と表記されており、重み付け処理の逆の処理は振幅復調と表記されている。また、直交変換は離散コサイン変換と表記されており、逆直交変換は逆離散コサイン変換と表記されている。特開平9−200766号公報の図7を参照すると、予測誤差信号の平坦な部分に対して、直交変換前に振幅変調度として1よりも大きい倍率が設定され(同図(b))、逆直交変換後に振幅復調度として1よりも小さい倍率が設定されている(同図(f))。それによって、振幅復調された予測誤差信号の平坦な部分の誤差および符号化ノイズが抑圧されていることがわかる(同図(g)および(h))。なお、1よりも大きい倍率を設定することは、1よりも大きい係数を乗算することと同じ意味であり、1よりも小さい倍率を設定することは、1よりも大きい係数で除算することと同じ意味である。
次いで、符号化装置1は、復号画像生成部10により、再生された予測残差と符号化対象ブロックの予測画像とに基づいて復号画像を生成する(ステップS9)。そして、一符号化対象ブロックに対する一連の符号化処理を終了する。この一連の符号化処理は、全ての符号化対象ブロックに対して行われる。
・量子化係数への誤差の混入および混入した誤差の均一化に関する説明
図3は、量子化係数への誤差の混入および混入した誤差の均一化について説明する図である。図3に示すように、ここでは単純化のため、水平2画素×垂直2画素の予測誤差信号ブロックを例にして説明する。一例として、直交変換前の予測誤差信号ブロック21において、左上、右上、左下および右下の各画素値が38、17、−2および−23であるとする。直交変換前の予測誤差信号ブロック21は、第一から第四までの直交基底を用いて直交変換される(図3の最上段)。図示例の直交基底は、2行×2列のアダマール変換基底として知られている。図示例では、直交変換前の予測誤差信号ブロック21は、第一基底の15倍と第二基底の21倍と第三基底の40倍と第四基底の0倍との線形和で表されている。各直交基底に乗算されている係数が変換係数である。図示例では、各変換係数は、第一基底側から順に15、21、40および0である。
各変換係数は、例えば10で線形量子化される。変換係数をCi(i=0,1,2,3)とし、量子化係数をQiとすると、Qiは次式で表される。次式においてCiに5が加算されているので、量子化係数Qiは、変換係数Ciを10で除算して小数点以下を四捨五入した値となる。図示例では、各量子化係数は、第一基底側から順に2、2、4および0となる。
Qi=(Ci+5)/10
各量子化係数Qiは、例えば量子化器10で逆量子化される。図示例では、各逆量子化係数C’iは、各量子化係数Ciに10を乗算するので、第一基底側から順に20、20、40および0となる。従って、量子化および逆量子化を行ったことによる量子化誤差は、第一基底側から順に5、−1、0および0となる。この例では、量子化誤差は、第一基底の係数と第二基底の係数とに存在し、第三基底の係数と第四基底の係数には存在しない。逆直交変換では、第一基底側から順に20、20、40および0の各逆量子化係数が対応する第一基底、第二基底、第三基底および第四基底に乗算され、各基底の乗算結果が加算される。図示例では、逆直交変換後の再生された予測誤差信号ブロック22において、左上、右上、左下および右下の各画素値は40、20、0および−20となる(図3の中段)。
符号化誤差は、逆直交変換後の再生された予測誤差信号ブロック22の各画素値から直交変換前の予測誤差信号ブロック21の各画素値を減算することにより得られる。従って、図示例では、符号化誤差信号ブロック23において、左上、右上、左下および右下の各画素値は2、3、2および3となる(図3の最下段)。つまり、第一基底の係数と第二基底の係数とに存在した量子化誤差が符号化誤差信号ブロック23の全画素にほぼ均等に広がったことになる。ここでの説明は一例であるが、各画素値が異なっていても、あるいは予測誤差信号ブロックの画素数が異なっていても、さらには各直交基底の数値が異なっていても、量子化誤差がブロックの全画素に均等に広がることが統計的に知られている。
実施例1によれば、直交変換前に重み付け処理を行い、逆直交変換後に重み付け処理の逆の処理を行うことによって、予測画像の生成に利用される画素の符号化誤差が抑圧される。従って、予測画像の品質が向上し、符号化効率が向上するので、イントラ予測の精度および効率を改善することができる。
(実施例2)
実施例2にかかる画像処理装置は、実施例1にかかる符号化装置によって符号化された符号化データを復号して復号画像を生成する復号装置である。
・画像処理装置の説明
図4は、実施例2にかかる画像処理装置を示すブロック図である。図4に示すように、復号装置(画像処理装置)31は、予測画像生成部32、逆量子化部33、逆直交変換部34、予測残差再生部35および復号画像生成部36を備えている。
予測画像生成部32は、復号対象ブロックの予測画像を生成する。その際、予測画像生成部32は、符号化モードおよび復号対象ブロックの周囲にある復号済みのブロックに含まれる画素の画素値に基づいて予測画像を生成する。符号化モードは、符号化データに含まれており、例えば図示しない復号部で符号化データを復号することによって得られる。
逆量子化部33は、量子化係数に対して逆量子化を行うことによって逆量子化係数を生成する。量子化係数は、符号化データに含まれており、例えば図示しない復号部で符号化データを復号することによって得られる。逆直交変換部34は、逆量子化部33により生成された逆量子化係数に対して逆直交変換を行うことによって逆直交変換データを生成する。
予測残差再生部35は、逆直交変換部34により生成された逆直交変換データに基づいて予測残差を再生する。その際、実施例1にかかる符号化装置1の重み付け部4において上述した第1の乗算を行った場合には、予測残差再生部35は、逆直交変換データに含まれる複数の画素のうち、別の復号対象ブロックの予測画像の生成に利用される画素の画素値を第5の定数で除算する(第1の除算)。第5の定数は、実施例1における第3の定数に相当する。従って、第5の定数は、1よりも大きい。第5の定数と上述した第1の定数とが同じ値であってよい。実施例1にかかる符号化装置1の重み付け部4において上述した第2の乗算を行った場合には、予測残差再生部35は、逆直交変換データに含まれる複数の画素のうち、別の復号対象ブロックの予測画像の生成に利用されない画素の画素値を第6の定数で除算する(第2の除算)。第6の定数は、実施例1における第4の定数に相当する。従って、第6の定数は、1よりも小さい。第6の定数と上述した第2の定数とが同じ値であってよい。実施例1にかかる符号化装置1の重み付け部4において上述した第1の乗算および第2の乗算の両方を行った場合には、予測残差再生部35においても第1の除算および第2の除算の両方を行ってもよい。
復号画像生成部36は、復号画像を生成する。その際、復号画像生成部36は、予測残差再生部35により再生された予測残差と、予測画像生成部32により生成された予測画像と、を加算することによって復号画像を生成してもよい。
・画像処理方法の説明
実施例2にかかる画像処理方法は、符号化データを復号して復号画像を生成する復号方法である。実施例2にかかる復号方法のフローチャートは、図2に示すフローチャートにおいてステップS2からステップS5までを除いたものと同様である。符号化データの復号処理(画像処理)が開始されると、復号装置31は、まず予測画像生成部32により復号対象ブロックの予測画像を生成する。次いで、復号装置31は、逆量子化部33により量子化係数に対して逆量子化を行って逆量子化係数を生成する。量子化係数には、実施例1にかかる符号化方法の量子化の際に混入した誤差が含まれている。次いで、復号装置31は、逆直交変換部34により逆量子化係数に対して逆直交変換を行って逆直交変換データを生成する。逆直交変換データにおいては、量子化係数に含まれている誤差が一様に広がる。
次いで、復号装置31は、予測残差再生部35により、逆直交変換データに対して実施例1にかかる符号化方法の重み付け処理と逆の処理を行って予測残差を再生する。再生された予測残差に含まれる複数の画素のうち、別の復号対象ブロックの予測画像の生成に利用される画素については、実施例1で説明した通り、誤差が抑圧されている。次いで、復号装置31は、復号画像生成部36により、再生された予測残差と復号対象ブロックの予測画像とに基づいて復号画像を生成する。そして、一復号対象ブロックに対する一連の復号処理を終了する。この一連の復号処理は、全ての復号対象ブロックに対して行われる。
実施例2によれば、実施例1にかかる符号化装置および符号化方法によって符号化されたデータを復号して、復号画像を生成することができる。
(実施例3)
実施例3は、実施例1にかかる画像処理装置(符号化装置)をH.264規格の符号化装置に適用したものである。H.264規格では、輝度については水平16画素×垂直16画素のマクロブロック単位(イントラ16×16モード)、水平8画素×垂直8画素のブロック単位(イントラ8×8モード)または水平4画素×垂直4画素のブロック単位(イントラ4×4モード)でイントラ予測による符号化処理が実施される。色差については水平8画素×垂直8画素のブロック単位でイントラ予測による符号化処理が実施される。以下の説明では、一フレームの原画に対して左から右でかつ上から下へ向かって符号化処理が進められていくとする。
・イントラ4×4モードの説明
図5は、イントラ4×4モードについて説明する図である。図5に示すように、符号化対象ブロック41の予測画像は、左隣のブロック42の右端の4個の画素A、左斜め上のブロック43の右下隅の画素B、真上のブロック44の下端に並ぶ画素Cまたは右斜め上のブロック45の下端に並ぶ画素Dに基づいて生成される。左隣のブロック42、左斜め上のブロック43、真上のブロック44および右斜め上のブロック45は、既に符号化されている。イントラ4×4モードには、これら符号化済みの画素(A、B、CおよびD)の画素値を例えば垂直方向や水平方向や斜め方向に外挿して予測する8種類のモードと平均値をとるモードの合計9種類の予測モードがある。符号化対象ブロック41が符号化された後に符号化対象ブロック41の右隣のブロック(図示せず)の予測画像を生成する際には、符号化対象ブロック41の右端に並ぶEとGの画素が使用される。符号化対象ブロック41の右斜め下のブロック(図示せず)の予測画像を生成する際には、符号化対象ブロック41の右下隅の画素Gが使用される。符号化対象ブロック41の真下または左斜め下のブロック(図示せず)の予測画像を生成する際には、符号化対象ブロック41の下端に並ぶFとGの画素が使用される。
・イントラ8×8モードの説明
図6は、イントラ8×8モードについて説明する図である。図6に示すように、イントラ8×8モードは、水平方向および垂直方向の画素数が8画素になるだけで、それ以外のことについてはイントラ4×4モードと同様である。
・イントラ16×16モードの説明
図7は、イントラ16×16モードについて説明する図である。図7に示すように、イントラ16×16モードは、水平方向および垂直方向の画素数が16画素であることと、符号化対象ブロック41の右斜め上のブロックの下端に並ぶ画素を用いないことと、予測モードの種類が4種類であることを除いて、イントラ4×4モードと同様である。
・色差のイントラモードの説明
図8は、色差のイントラモードについて説明する図である。図8に示すように、色差のイントラモードは、水平方向および垂直方向の画素数が8画素になるだけで、それ以外のことについてはイントラ16×16モードと同様である。
・画像処理装置の説明
図9は、実施例3にかかる画像処理装置(符号化装置)を示すブロック図である。図9に示すように、符号化装置51は、予測画像生成部としてのイントラ予測部52、予測残差生成部としての減算部53、重み付け部としての乗算部54、直交変換部55、量子化部56、逆量子化部57、逆直交変換部58、予測残差再生部としての除算部59および復号画像生成部としての加算部60を備えている。符号化装置51は、イントラ予測モード導出部61、フレームメモリ62、動き推定部63、動き補償部64、選択部65、デブロックフィルタ66およびエントロピー符号化部67を備えている。
イントラ予測モード導出部61は、入力画像に対してイントラ予測モードの中で最適なモードを選択する。その際、イントラ予測モード導出部61は、輝度についてはイントラ16×16モードの4種類の予測モード、イントラ8×8モードの9種類の予測モードまたはイントラ4×4モードの9種類の予測モードの中から適当なモードを選択する。イントラ予測モード導出部61は、色差については4種類の予測モードの中から適当なモードを選択する。イントラ予測部52は、イントラ予測モード導出部61により選択されたイントラ予測モードに対応する予測画像(イントラ予測画像)を生成する。
フレームメモリ62は、過去の復号画像を蓄積する。動き推定部63は、フレームメモリ62に蓄積されている過去の復号画像と入力画像とを比較して両者に類似する画像領域を検出する。動き推定部63は、検出した対応する画像領域の相対位置を動きベクトルとして算出する。動き補償部64は、動き推定部63により算出された動きベクトルおよび過去の復号画像に基づいて予測画像(インター予測画像)を生成する。インター予測画像の生成とイントラ予測画像の生成とは並列に行うことができる。選択部65は、ブロックごとにイントラ予測画像およびインター予測画像のいずれか一方を選択する。その際、選択部65は、イントラ予測画像を選択した場合の符号化効率とインター予測画像を選択した場合の符号化効率とを比較し、符号化効率の高い方を最終的な予測画像として選択する。
減算部53は、予測残差として、選択部65により選択された予測画像と入力画像との差分をとる。乗算部54は、減算部53により生成された予測残差に含まれる複数の画素のうち、図5〜図8に示す画素E、画素Fおよび画素Gに対応する画素の各画素値に1よりも大きい定数を乗算する。直交変換部55は、乗算部54によって重み付けされた予測残差に対して直交変換を行い、変換係数を生成する。量子化部56は、直交変換部55により生成された変換係数に対して量子化を行い、量子化係数を生成する。逆量子化部57は、量子化部56により生成された量子化係数に対して逆量子化を行い、逆量子化係数を生成する。逆直交変換部58は、逆量子化部57により生成された逆量子化係数に対して逆直交変換を行い、逆直交変換データを生成する。
除算部59は、逆直交変換部58により生成された逆直交変換データに含まれる複数の画素のうち、図5〜図8に示す画素E、画素Fおよび画素Gに対応する画素の各画素値を1よりも大きい定数で除算し、予測残差を再生する。除算部59における定数の値は、乗算部54における定数の値と同じであってもよい。加算部60は、除算部59により再生された予測残差と予測画像とを加算し、復号画像を生成する。加算部60により生成された復号画像は、イントラ予測部52におけるイントラ予測画像の生成に用いられる。デブロックフィルタ66は、加算部60により生成された復号画像のブロックの境界を平滑化する。デブロックフィルタ66によって、ブロックノイズの発生が抑制される。フレームメモリ62には、デブロックフィルタ66によりブロックの境界が平滑化された復号画像が格納される。
エントロピー符号化部67は、量子化部56により生成された量子化係数、イントラ予測モード導出部61により選択されたイントラ予測モード、および動き推定部63により算出された動きベクトルに基づいてビットストリームを生成する。実施例3にかかる画像処理方法において、イントラ予測が関係する符号化方法は、図2に示すフローチャートおよび実施例1と同様であるので、説明を省略する。
図5〜図8に示す符号化対象ブロック41の右下隅の画素Gは、符号化対象ブロック41の右隣、右斜め下、真下および左斜め下の各ブロック(図示せず)の予測画像を生成する際に使用される。それに対して、符号化対象ブロック41の右端に並ぶ画素Eは、符号化対象ブロック41の右隣のブロック(図示せず)の予測画像を生成する際に使用される。符号化対象ブロック41の下端に並ぶ画素Fは、符号化対象ブロック41の真下および左斜め下の各ブロック(図示せず)の予測画像を生成する際に使用される。つまり、予測画像を生成する際に画素Gが使用される頻度は、画素Eや画素Fが使用される頻度よりも高い。そこで、乗算部54において画素Gの画素値に乗じる値および除算部59において画素Gの画素値を除する値を、画素Eや画素Fに対する値よりも大きくしてもよい。その場合、利用頻度の高い画素の符号化誤差を、そうでない画素よりもより一層抑圧することができるので、イントラ予測の精度が向上する。例えば、画素Eおよび画素Fの各画素値に乗じる値や、画素Eおよび画素Fの各画素値を除する値を1.2とし、画素Gの画素値に乗じる値や、画素Gの画素値を除する値を1.4としてもよい。また、画素Eと画素Fとで、画素値に乗じる値や画素値を除する値を変えてもよい。
図10は、符号化対象ブロックと画面の表示位置との関係を説明する図である。図10に示すように、符号化対象ブロック41の表示位置が画面48の右下隅に位置する場合、当該符号化対象ブロック41の右、右下、真下および左下には、画面48に表示されるブロックが存在しない。従って、画面48の右下隅に位置するブロックは、別のブロックの予測画像を生成する際には使用されない。このように、別のブロックの予測画像を生成する際には使用されないブロックについては、乗算部54における乗算および除算部59における除算を行わないようにしてもよい。別のブロックの予測画像を生成する際に使用されないので乗算部54における乗算および除算部59における除算を行わなくてもよい例として、符号化対象ブロック41の右、右下および真下が画面48の外になる場合、スライス外となる場合、またはイントラ予測モードでない場合(例えば、インター予測モード)などが挙げられる。このようにすれば、符号化効率を改善することができる。
上述したイントラ4×4モードおよびイントラ8×8モードには、図5および図6に示す画素A、画素B、画素Cおよび画素Dの平均値をとる平均値モードというモードがある。イントラ16×16モードおよび色差のイントラモードの平均値モードでは、図7および図8に示す画素A、画素Bおよび画素Cの平均値が用いられる。この平均値モードでは、予測画像が平坦な画像になることがある。平坦な画像に対して乗算部54および除算部59において上述した乗算および除算を行うと、図5〜図8に示す画素E、画素Fおよび画素Gに対応する画素の符号化誤差が小さくなり、図5〜図8に示す画素E、画素Fおよび画素Gを除く画素(アルファベットが付されていない画素)に対応する画素の符号化誤差が大きくなる。そのため、視覚的な劣化が目立つことがある。従って、平均値モードの場合には、乗算部54における乗算および除算部59における除算を行わないようにしてもよい。
減算部53により生成された予測残差は、符号化対象の量子化器の大きさに依存する。例えば量子化器が大きいと予測残差が大きく、量子化器が小さいと予測残差が小さい。従って、乗算部54において画素値に乗じる値および除算部59において画素値を除する値を、量子化器の大きさに応じて適応的に変えるようにしてもよい。例えば、量子化器が大きい場合には、乗算部54において画素値に乗じる値および除算部59において画素値を除する値を大きくし、量子化器が小さい場合には、乗算部54において画素値に乗じる値および除算部59において画素値を除する値を1に近づけるようにしてもよい。
なお、乗算部54は、予測残差に含まれる複数の画素のうち、図5〜図8に示す画素E、画素Fおよび画素Gを除く画素(アルファベットが付されていない画素)に対応する画素の各画素値に1よりも小さい定数を乗算してもよい。その場合には、除算部59は、逆直交変換データに含まれる複数の画素のうち、図5〜図8に示す画素E、画素Fおよび画素Gを除く画素(アルファベットが付されていない画素)に対応する画素の各画素値を1よりも小さい定数で除算する。また、乗算部54は、図5〜図8に示す画素E、画素Fおよび画素Gに対応する画素の各画素値に1よりも大きい定数を乗算し、図5〜図8に示す画素E、画素Fおよび画素Gを除く画素(アルファベットが付されていない画素)に対応する画素の各画素値に1よりも小さい定数を乗算してもよい。その場合には、除算部59は、図5〜図8に示す画素E、画素Fおよび画素Gに対応する画素の各画素値を1よりも大きい定数で除算し、図5〜図8に示す画素E、画素Fおよび画素Gを除く画素(アルファベットが付されていない画素)に対応する画素の各画素値を1よりも小さい定数で除算する。
実施例3によれば、実施例1と同様の効果が得られる。
(実施例4)
実施例4は、実施例2にかかる画像処理装置(復号装置)をH.264規格の復号装置に適用したものである。
・画像処理装置の説明
図11は、実施例4にかかる画像処理装置(復号装置)を示すブロック図である。図11に示すように、復号装置71は、予測画像生成部としてのイントラ予測部72、逆量子化部73、逆直交変換部74、予測残差再生部としての除算部75および復号画像生成部としての加算部76を備えている。復号装置71は、エントロピー復号部77、フレームメモリ78、動き補償部79、選択部80およびデブロックフィルタ81を備えている。
エントロピー復号部77は、例えば実施例3にかかる符号化装置51により符号化されたビットストリームを復号し、量子化係数、動きベクトルおよびイントラ予測モードを得る。イントラ予測部72は、エントロピー復号部77により復号されたイントラ予測モードに基づいて予測画像(イントラ予測画像)を生成する。フレームメモリ78は、過去の復号画像を蓄積する。動き補償部79は、エントロピー復号部77により復号された動きベクトルおよび過去の復号画像に基づいて予測画像(インター予測画像)を生成する。インター予測画像の生成とイントラ予測画像の生成とは並列に行うことができる。選択部80は、ブロックごとにイントラ予測画像およびインター予測画像のいずれか一方を選択する。
逆量子化部73は、エントロピー復号部77により復号された量子化係数に対して逆量子化を行い、逆量子化係数を生成する。逆直交変換部74は、逆量子化部73により生成された逆量子化係数に対して逆直交変換を行い、逆直交変換データを生成する。除算部75は、逆直交変換部74により生成された逆直交変換データに含まれる複数の画素のうち、図5〜図8に示す画素E、画素Fおよび画素Gに対応する画素の各画素値を1よりも大きい定数で除算し、予測残差を再生する。除算部75における定数の値は、例えば実施例3にかかる符号化装置51の乗算部54における定数の値と同じであってもよい。
加算部76は、除算部75により再生された予測残差と予測画像とを加算し、復号画像を生成する。加算部76により生成された復号画像は、イントラ予測部72におけるイントラ予測画像の生成に用いられる。デブロックフィルタ81は、加算部76により生成された復号画像のブロックの境界を平滑化する。デブロックフィルタ81によって、ブロックノイズの発生が抑制される。フレームメモリ78には、デブロックフィルタ81によりブロックの境界が平滑化された復号画像が格納される。また、フレームメモリ78に格納された復号画像は、最終的な復号画像として図示しない表示部などに出力される。
例えば実施例3にかかる符号化装置51の乗算部54において図5〜図8に示す画素E、画素Fおよび画素Gを除く画素(アルファベットが付されていない画素)に対応する画素の各画素値に1よりも小さい定数が乗算される場合がある。その場合には、除算部75は、図5〜図8に示す画素E、画素Fおよび画素Gを除く画素(アルファベットが付されていない画素)に対応する画素の各画素値を1よりも小さい定数で除算する。また、例えば実施例3にかかる符号化装置51の乗算部54において図5〜図8に示す画素E、画素Fおよび画素Gに対応する画素の各画素値に1よりも大きい定数を乗算し、図5〜図8に示す画素E、画素Fおよび画素Gを除く画素(アルファベットが付されていない画素)に対応する画素の各画素値に1よりも小さい定数が乗算される場合がある。その場合には、除算部75は、図5〜図8に示す画素E、画素Fおよび画素Gに対応する画素の各画素値を1よりも大きい定数で除算し、図5〜図8に示す画素E、画素Fおよび画素Gを除く画素(アルファベットが付されていない画素)に対応する画素の各画素値を1よりも小さい定数で除算する。実施例4にかかる画像処理方法において、イントラ予測が関係する復号方法は、実施例2と同様であるので、説明を省略する。
実施例4によれば、実施例3にかかる符号化装置および符号化方法によって符号化されたビットストリームを復号して、復号画像を生成することができる。
なお、本発明は、H.264規格に限らず、符号化済みのブロックに含まれる画素の画素値に基づいて符号化対象ブロックの予測画像を生成することによってイントラ予測を行う動画像符号化規格に適用することができる。
上述した実施例1、2、3および4に関し、さらに以下の付記を開示する。
(付記1)符号化対象ブロックの周囲にある符号化済みのブロックに含まれる画素の画素値に基づいて該符号化対象ブロックの予測画像を生成する予測画像生成部と、前記符号化対象ブロックの画像と前記予測画像生成部により生成された予測画像とに基づいて予測残差を生成する予測残差生成部と、前記予測残差生成部により生成された予測残差に含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値に1よりも大きい第1の定数を乗算する第1の乗算、および別の符号化対象ブロックの予測画像の生成に利用されない画素の画素値に1よりも小さい第2の定数を乗算する第2の乗算、の一方または両方を行って該画素値に重みを付ける重み付け部と、前記重み付け部による乗算後の予測残差に対して直交変換を行って変換係数を生成する直交変換部と、前記直交変換部により生成された変換係数に対して量子化を行って量子化係数を生成する量子化部と、前記量子化部により生成された量子化係数に対して逆量子化を行って逆量子化係数を生成する逆量子化部と、前記逆量子化部により生成された逆量子化係数に対して逆直交変換を行って逆直交変換データを生成する逆直交変換部と、前記逆直交変換部により生成された逆直交変換データに含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値を1よりも大きい第3の定数で除算する第1の除算、および別の符号化対象ブロックの予測画像の生成に利用されない画素の画素値を1よりも小さい第4の定数で除算する第2の除算、の一方または両方を行って予測残差を再生する予測残差再生部と、前記予測残差再生部により再生された予測残差と前記予測画像生成部により生成された予測画像とに基づいて復号画像を生成する復号画像生成部と、を備えることを特徴とする画像処理装置。
(付記2)前記重み付け部は、前記予測残差生成部により生成された予測残差に含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の利用頻度に応じて画素ごとに前記第1の定数の値を変えることを特徴とする付記1に記載の画像処理装置。
(付記3)前記予測残差再生部は、前記逆直交変換部により生成された逆直交変換データに含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の利用頻度に応じて画素ごとに前記第3の定数の値を変えることを特徴とする付記2に記載の画像処理装置。
(付記4)前記第1の定数の値および前記第3の定数の値は、別の符号化対象ブロックの予測画像の生成に利用される頻度が高い画素ほど大きいことを特徴とする付記3に記載の画像処理装置。
(付記5)前記予測残差に含まれる画素および前記逆直交変換データに含まれる画素において対応する画素の前記第1の定数と前記第3の定数とが同じ値であることを特徴とする付記4に記載の画像処理装置。
(付記6)前記第2の定数と前記第4の定数とが同じ値であることを特徴とする付記1〜5のいずれか一つに記載の画像処理装置。
(付記7)前記重み付け部および前記予測残差再生部は、前記予測残差生成部により生成された予測残差に含まれる全ての画素が、別の符号化対象ブロックの予測画像の生成に利用されない場合に前記第1の乗算、前記第2の乗算、前記第1の除算および前記第2の除算を行わないことを特徴とする付記1〜6のいずれか一つに記載の画像処理装置。
(付記8)前記符号化対象ブロックおよび前記符号化済みのブロックの大きさは、水平4画素×垂直4画素、水平8画素×垂直8画素または水平16画素×垂直16画素であることを特徴とする付記1〜7のいずれか一つに記載の画像処理装置。
(付記9)復号対象ブロックの周囲にある復号済みのブロックに含まれる画素の画素値に基づいて該復号対象ブロックの予測画像を生成する予測画像生成部と、符号化データに含まれる量子化係数に対して逆量子化を行って逆量子化係数を生成する逆量子化部と、前記逆量子化部により生成された逆量子化係数に対して逆直交変換を行って逆直交変換データを生成する逆直交変換部と、前記逆直交変換部により生成された逆直交変換データに含まれる複数の画素のうち、別の復号対象ブロックの予測画像の生成に利用される画素の画素値を1よりも大きい第5の定数で除算する第1の除算、および別の復号対象ブロックの予測画像の生成に利用されない画素の画素値を1よりも小さい第6の定数で除算する第2の除算、の一方または両方を行って、前記符号化データが生成されたときの予測残差を再生する予測残差再生部と、前記予測残差再生部により再生された予測残差と前記予測画像生成部により生成された予測画像とに基づいて復号画像を生成する復号画像生成部と、を備えることを特徴とする画像処理装置。
(付記10)符号化対象ブロックの周囲にある符号化済みのブロックに含まれる画素の画素値に基づいて該符号化対象ブロックの予測画像を生成する予測画像生成ステップと、前記符号化対象ブロックの画像と前記予測画像生成ステップにより生成された予測画像とに基づいて予測残差を生成する予測残差生成ステップと、前記予測残差生成ステップにより生成された予測残差に含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値に1よりも大きい第1の定数を乗算する第1の乗算、および別の符号化対象ブロックの予測画像の生成に利用されない画素の画素値に1よりも小さい第2の定数を乗算する第2の乗算、の一方または両方を行って該画素値に重みを付ける重み付けステップと、前記重み付けステップによる乗算後の予測残差に対して直交変換を行って変換係数を生成する直交変換ステップと、前記直交変換ステップにより生成された変換係数に対して量子化を行って量子化係数を生成する量子化ステップと、前記量子化ステップにより生成された量子化係数に対して逆量子化を行って逆量子化係数を生成する逆量子化ステップと、前記逆量子化ステップにより生成された逆量子化係数に対して逆直交変換を行って逆直交変換データを生成する逆直交変換ステップと、前記逆直交変換ステップにより生成された逆直交変換データに含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値を1よりも大きい第3の定数で除算する第1の除算、および別の符号化対象ブロックの予測画像の生成に利用されない画素の画素値を1よりも小さい第4の定数で除算する第2の除算、の一方または両方を行って予測残差を再生する予測残差再生ステップと、前記予測残差再生ステップにより再生された予測残差と前記予測画像生成ステップにより生成された予測画像とに基づいて復号画像を生成する復号画像生成ステップと、を含むことを特徴とする画像処理方法。
(付記11)前記重み付けステップでは、前記予測残差生成ステップにより生成された予測残差に含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の利用頻度に応じて画素ごとに前記第1の定数の値を変えることを特徴とする付記10に記載の画像処理方法。
(付記12)前記予測残差再生ステップでは、前記逆直交変換ステップにより生成された逆直交変換データに含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の利用頻度に応じて画素ごとに前記第3の定数の値を変えることを特徴とする付記11に記載の画像処理方法。
(付記13)前記第1の定数の値および前記第3の定数の値は、別の符号化対象ブロックの予測画像の生成に利用される頻度が高い画素ほど大きいことを特徴とする付記12に記載の画像処理方法。
(付記14)前記予測残差に含まれる画素および前記逆直交変換データに含まれる画素において対応する画素の前記第1の定数と前記第3の定数とが同じ値であることを特徴とする付記13に記載の画像処理方法。
(付記15)前記第2の定数と前記第4の定数とが同じ値であることを特徴とする付記10〜14のいずれか一つに記載の画像処理方法。
(付記16)前記重み付けステップおよび前記予測残差再生ステップでは、前記予測残差生成ステップにより生成された予測残差に含まれる全ての画素が、別の符号化対象ブロックの予測画像の生成に利用されない場合に前記第1の乗算、前記第2の乗算、前記第1の除算および前記第2の除算を行わないことを特徴とする付記10〜15のいずれか一つに記載の画像処理方法。
(付記17)前記符号化対象ブロックおよび前記符号化済みのブロックの大きさは、水平4画素×垂直4画素、水平8画素×垂直8画素または水平16画素×垂直16画素であることを特徴とする付記10〜16のいずれか一つに記載の画像処理方法。
(付記18)復号対象ブロックの周囲にある復号済みのブロックに含まれる画素の画素値に基づいて該復号対象ブロックの予測画像を生成する予測画像生成ステップと、符号化データに含まれる量子化係数に対して逆量子化を行って逆量子化係数を生成する逆量子化ステップと、前記逆量子化ステップにより生成された逆量子化係数に対して逆直交変換を行って逆直交変換データを生成する逆直交変換ステップと、前記逆直交変換ステップにより生成された逆直交変換データに含まれる複数の画素のうち、別の復号対象ブロックの予測画像の生成に利用される画素の画素値を1よりも大きい第5の定数で除算する第1の除算、および別の復号対象ブロックの予測画像の生成に利用されない画素の画素値を1よりも小さい第6の定数で除算する第2の除算、の一方または両方を行って、前記符号化データが生成されたときの予測残差を再生する予測残差再生ステップと、前記予測残差再生ステップにより再生された予測残差と前記予測画像生成ステップにより生成された予測画像とに基づいて復号画像を生成する復号画像生成ステップと、を備えることを特徴とする画像処理方法。
1,51 画像処理装置
2,52 予測画像生成部
3,53 予測残差生成部
4,54 重み付け部
5,55 直交変換部
6,56 量子化部
7,57 逆量子化部
8,58 逆直交変換部
9,59 予測残差再生部
10,60 復号画像生成部
41 符号化対象ブロック
42,43,44,45 符号化済みのブロック

Claims (6)

  1. 符号化対象ブロックの周囲にある符号化済みのブロックに含まれる画素の画素値に基づいて該符号化対象ブロックの予測画像を生成する予測画像生成部と、
    前記符号化対象ブロックの画像と前記予測画像生成部により生成された予測画像とに基づいて予測残差を生成する予測残差生成部と、
    前記予測残差生成部により生成された予測残差に含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値に1よりも大きい第1の定数を乗算する第1の乗算、および別の符号化対象ブロックの予測画像の生成に利用されない画素の画素値に1よりも小さい第2の定数を乗算する第2の乗算、の一方または両方を行って該画素値に重みを付ける重み付け部と、
    前記重み付け部による乗算後の予測残差に対して直交変換を行って変換係数を生成する直交変換部と、
    前記直交変換部により生成された変換係数に対して量子化を行って量子化係数を生成する量子化部と、
    前記量子化部により生成された量子化係数に対して逆量子化を行って逆量子化係数を生成する逆量子化部と、
    前記逆量子化部により生成された逆量子化係数に対して逆直交変換を行って逆直交変換データを生成する逆直交変換部と、
    前記逆直交変換部により生成された逆直交変換データに含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値を1よりも大きい第3の定数で除算する第1の除算、および別の符号化対象ブロックの予測画像の生成に利用されない画素の画素値を1よりも小さい第4の定数で除算する第2の除算、の一方または両方を行って予測残差を再生する予測残差再生部と、
    前記予測残差再生部により再生された予測残差と前記予測画像生成部により生成された予測画像とに基づいて復号画像を生成する復号画像生成部と、
    を備えることを特徴とする画像処理装置。
  2. 前記重み付け部は、前記予測残差生成部により生成された予測残差に含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の利用頻度に応じて画素ごとに前記第1の定数の値を変えることを特徴とする請求項1に記載の画像処理装置。
  3. 前記予測残差再生部は、前記逆直交変換部により生成された逆直交変換データに含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の利用頻度に応じて画素ごとに前記第3の定数の値を変えることを特徴とする請求項2に記載の画像処理装置。
  4. 前記第1の定数の値および前記第3の定数の値は、別の符号化対象ブロックの予測画像の生成に利用される頻度が高い画素ほど大きいことを特徴とする請求項3に記載の画像処理装置。
  5. 前記予測残差に含まれる画素および前記逆直交変換データに含まれる画素において対応する画素の前記第1の定数と前記第3の定数とが同じ値であることを特徴とする請求項4に記載の画像処理装置。
  6. 符号化対象ブロックの周囲にある符号化済みのブロックに含まれる画素の画素値に基づいて該符号化対象ブロックの予測画像を生成する予測画像生成ステップと、
    前記符号化対象ブロックの画像と前記予測画像生成ステップにより生成された予測画像とに基づいて予測残差を生成する予測残差生成ステップと、
    前記予測残差生成ステップにより生成された予測残差に含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値に1よりも大きい第1の定数を乗算する第1の乗算、および別の符号化対象ブロックの予測画像の生成に利用されない画素の画素値に1よりも小さい第2の定数を乗算する第2の乗算、の一方または両方を行って該画素値に重みを付ける重み付けステップと、
    前記重み付けステップによる乗算後の予測残差に対して直交変換を行って変換係数を生成する直交変換ステップと、
    前記直交変換ステップにより生成された変換係数に対して量子化を行って量子化係数を生成する量子化ステップと、
    前記量子化ステップにより生成された量子化係数に対して逆量子化を行って逆量子化係数を生成する逆量子化ステップと、
    前記逆量子化ステップにより生成された逆量子化係数に対して逆直交変換を行って逆直交変換データを生成する逆直交変換ステップと、
    前記逆直交変換ステップにより生成された逆直交変換データに含まれる複数の画素のうち、別の符号化対象ブロックの予測画像の生成に利用される画素の画素値を1よりも大きい第3の定数で除算する第1の除算、および別の符号化対象ブロックの予測画像の生成に利用されない画素の画素値を1よりも小さい第4の定数で除算する第2の除算、の一方または両方を行って予測残差を再生する予測残差再生ステップと、
    前記予測残差再生ステップにより再生された予測残差と前記予測画像生成ステップにより生成された予測画像とに基づいて復号画像を生成する復号画像生成ステップと、
    を含むことを特徴とする画像処理方法。
JP2010061667A 2010-03-17 2010-03-17 画像処理装置および画像処理方法 Expired - Fee Related JP5299328B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010061667A JP5299328B2 (ja) 2010-03-17 2010-03-17 画像処理装置および画像処理方法
US13/048,311 US9071836B2 (en) 2010-03-17 2011-03-15 Image processing apparatus and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010061667A JP5299328B2 (ja) 2010-03-17 2010-03-17 画像処理装置および画像処理方法

Publications (2)

Publication Number Publication Date
JP2011199433A true JP2011199433A (ja) 2011-10-06
JP5299328B2 JP5299328B2 (ja) 2013-09-25

Family

ID=44647236

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010061667A Expired - Fee Related JP5299328B2 (ja) 2010-03-17 2010-03-17 画像処理装置および画像処理方法

Country Status (2)

Country Link
US (1) US9071836B2 (ja)
JP (1) JP5299328B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI535222B (zh) * 2012-06-29 2016-05-21 Sony Corp Image processing apparatus and method
US9503751B2 (en) * 2013-10-17 2016-11-22 Hfi Innovation Inc. Method and apparatus for simplified depth coding with extended prediction modes
US11943478B2 (en) * 2019-09-19 2024-03-26 Telefonaktiebolaget Lm Ericsson (Publ) Allowing a matrix based intra prediction block to have multiple transform blocks

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0774954A (ja) * 1993-09-01 1995-03-17 Nippon Telegr & Teleph Corp <Ntt> 画像情報符号・復号化法
JPH07162862A (ja) * 1993-01-28 1995-06-23 Matsushita Electric Ind Co Ltd 映像符号化装置及び映像復号化装置及び光ディスク
JPH09200766A (ja) * 1996-01-11 1997-07-31 Fujitsu Ltd 動画像符号化装置,動画像復号化装置及び動画像符号化復号化装置
JP2002238053A (ja) * 2001-02-09 2002-08-23 Victor Co Of Japan Ltd 画像エンファシス符号化装置及び画像エンファシス符号化方法
JP2002238052A (ja) * 2001-02-09 2002-08-23 Victor Co Of Japan Ltd 画像ディエンファシス復号化装置及び画像ディエンファシス復号化方法
WO2008132890A1 (ja) * 2007-04-16 2008-11-06 Kabushiki Kaisha Toshiba 画像符号化と画像復号化の方法及び装置
JP2010010768A (ja) * 2008-06-24 2010-01-14 Panasonic Corp 画像符号化装置及び画像符号化方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7437013B2 (en) * 2003-12-23 2008-10-14 General Instrument Corporation Directional spatial video noise reduction
JP2008227670A (ja) 2007-03-09 2008-09-25 Victor Co Of Japan Ltd 画像符号化装置
JP2009021786A (ja) 2007-07-11 2009-01-29 Canon Inc 画像符号化装置及び画像符号化方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07162862A (ja) * 1993-01-28 1995-06-23 Matsushita Electric Ind Co Ltd 映像符号化装置及び映像復号化装置及び光ディスク
JPH0774954A (ja) * 1993-09-01 1995-03-17 Nippon Telegr & Teleph Corp <Ntt> 画像情報符号・復号化法
JPH09200766A (ja) * 1996-01-11 1997-07-31 Fujitsu Ltd 動画像符号化装置,動画像復号化装置及び動画像符号化復号化装置
JP2002238053A (ja) * 2001-02-09 2002-08-23 Victor Co Of Japan Ltd 画像エンファシス符号化装置及び画像エンファシス符号化方法
JP2002238052A (ja) * 2001-02-09 2002-08-23 Victor Co Of Japan Ltd 画像ディエンファシス復号化装置及び画像ディエンファシス復号化方法
WO2008132890A1 (ja) * 2007-04-16 2008-11-06 Kabushiki Kaisha Toshiba 画像符号化と画像復号化の方法及び装置
JP2010010768A (ja) * 2008-06-24 2010-01-14 Panasonic Corp 画像符号化装置及び画像符号化方法

Also Published As

Publication number Publication date
US20110228849A1 (en) 2011-09-22
US9071836B2 (en) 2015-06-30
JP5299328B2 (ja) 2013-09-25

Similar Documents

Publication Publication Date Title
US20210076067A1 (en) Method and apparatus for decoding video signal
JP6490264B2 (ja) 再構成された画像のサンプルのセットのための補償オフセットを復号するための方法および装置
US10939104B2 (en) Method and device for encoding or decoding image
JP6335365B2 (ja) 復号装置
US8111914B2 (en) Method and apparatus for encoding and decoding image by using inter color compensation
KR101759461B1 (ko) 부호화 장치, 복호화 장치, 부호화 방법, 복호화 방법, 및 컴퓨터 판독가능 기억 매체
WO2012087034A2 (ko) 화면 내 예측 방법 및 이러한 방법을 사용하는 장치
JP2014195323A (ja) 残差生成方法及び装置、並びに復元画面生成方法及び装置
US20100118945A1 (en) Method and apparatus for video encoding and decoding
US20080240245A1 (en) Image encoding/decoding method and apparatus
US20130028322A1 (en) Moving image prediction encoder, moving image prediction decoder, moving image prediction encoding method, and moving image prediction decoding method
US20140247890A1 (en) Encoding device, encoding method, decoding device, and decoding method
KR20120006488A (ko) 왜곡 가중
TW202101992A (zh) 以區塊為基礎之預測技術
KR20070085003A (ko) 타입이 일치하지 않는 하위 계층의 정보를 사용하여인터레이스 비디오 신호를 인코딩/디코딩 하는 방법 및장치
JP2014504115A (ja) デブロッキングフィルタリング
US11683502B2 (en) Image encoder and decoder using unidirectional prediction
JP5299328B2 (ja) 画像処理装置および画像処理方法
KR20080065802A (ko) 매크로 블럭이 적응적으로 부호화된 압축영상에 대한축소영상 생성방법 및 이를 적용한 영상기기
JP2012134632A (ja) 画像復号化装置、画像復号化方法およびプログラム
WO2013125171A1 (ja) イントラ予測モード判定装置、方法、プログラム記憶媒体
KR102038818B1 (ko) 화면 내 예측 방법 및 이러한 방법을 사용하는 장치
JP2012156573A (ja) 符号化装置、符号化方法、及び、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130513

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130521

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130603

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees