JP2015062312A - 画像符号化装置、画像符号化方法および画像復号装置 - Google Patents

画像符号化装置、画像符号化方法および画像復号装置 Download PDF

Info

Publication number
JP2015062312A
JP2015062312A JP2014239167A JP2014239167A JP2015062312A JP 2015062312 A JP2015062312 A JP 2015062312A JP 2014239167 A JP2014239167 A JP 2014239167A JP 2014239167 A JP2014239167 A JP 2014239167A JP 2015062312 A JP2015062312 A JP 2015062312A
Authority
JP
Japan
Prior art keywords
image
block
unit
prediction
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014239167A
Other languages
English (en)
Other versions
JP5921651B2 (ja
Inventor
関口 俊一
Shunichi Sekiguchi
俊一 関口
杉本 和夫
Kazuo Sugimoto
和夫 杉本
坂手 寛治
Kanji Sakate
寛治 坂手
村上 篤道
Hiromichi Murakami
篤道 村上
彰 峯澤
Akira Minesawa
彰 峯澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=47423659&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP2015062312(A) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2014239167A priority Critical patent/JP5921651B2/ja
Publication of JP2015062312A publication Critical patent/JP2015062312A/ja
Application granted granted Critical
Publication of JP5921651B2 publication Critical patent/JP5921651B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • H04N19/865Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness with detection of the former encoding block subdivision in decompressed video
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91Entropy coding, e.g. variable length coding [VLC] or arithmetic coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

【課題】使用するメモリ量を削減することができる画像符号化装置及び画像復号装置を得る。
【解決手段】局所復号画像のブロック歪みを除去する際、対象ブロック内の変換ブロック境界と予測ブロック境界を判定し、ブロック境界の判定結果と割り当てられた符号化モードとに応じてブロック境界のブロック歪みを除去するフィルタのフィルタ強度に関するパラメータを算出し、パラメータとパラメータに加算するオフセットとを用いてフィルタの種別を定め、オフセットを符号化して、オフセットの符号化データが多重化されているビットストリームを生成する。
【選択図】図1

Description

この発明は、画像を圧縮符号化して伝送する画像符号化装置及び画像符号化方法と、画像符号化装置により伝送された符号化データから画像を復号する画像復号装置及び画像復号方法とに関するものである。
従来、MPEGやITU−T H.26x等の国際標準映像符号化方式では、入力映像フレームを、16×16画素ブロックからなるマクロブロックの単位に分割して、動き補償予測を実施した後、予測差分信号をブロック単位に直交変換・量子化することによって情報圧縮を行うようにしている。
ただし、圧縮率が高くなると、動き補償予測を実施する際に用いる予測参照画像の品質が低下することに起因して、圧縮効率が妨げられる問題がある。
そのため、MPEG−4 AVC/H.264の符号化方式(非特許文献1を参照)では、ループ内ブロッキングフィルタの処理を実施することで、直交変換係数の量子化に伴って発生する予測参照画像のブロック歪みを除去するようにしている。
ここで、図16は非特許文献1に開示されている画像符号化装置を示す構成図である。
この画像符号化装置では、ブロック分割部101が符号化対象の画像信号を入力すると、その画像信号をマクロブロック単位に分割し、マクロブロック単位の画像信号を分割画像信号として予測部102に出力する。
予測部102は、ブロック分割部101から分割画像信号を受けると、マクロブロック内の各色成分の画像信号をフレーム内又はフレーム間で予測して、予測差分信号を算出する。
特に、フレーム間で動き補償予測を実施する場合、マクロブロック自体、または、マクロブロックをさらに細かく分割したサブブロックの単位で動きベクトルを探索する。
そして、その動きベクトルを用いて、メモリ107により格納されている参照画像信号に対する動き補償予測を実施することで動き補償予測画像を生成し、その動き補償予測画像を示す予測信号と分割画像信号の差分を求めることで予測差分信号を算出する。
また、予測部102は、予測信号を得る際に決定した予測信号生成用パラメータを可変長符号化部108に出力する。
なお、予測信号生成用パラメータには、例えば、フレーム間の動き量を示す動きベクトル等の情報が含まれる。
圧縮部103は、予測部102から予測差分信号を受けると、その予測差分信号に対するDCT(離散コサイン変換)処理を実施することで信号相関を除去した後、量子化することで圧縮データを得る。
局所復号部104は、圧縮部103から圧縮データを受けると、その圧縮データを逆量子化して、逆DCT処理を実施することで、予測部102から出力された予測差分信号に相当する予測差分信号を算出する。
加算器105は、局所復号部104から予測差分信号を受けると、その予測差分信号と予測部102から出力された予測信号を加算して、局所復号画像を生成する。
ループフィルタ106は、加算器105により生成された局所復号画像を示す局所復号画像信号に重畳されているブロック歪みを除去し、歪み除去後の局所復号画像信号を参照画像信号としてメモリ107に格納する。
可変長符号化部108は、圧縮部103から圧縮データを受けると、その圧縮データをエントロピー符号化し、その符号化結果であるビットストリームを出力する。
なお、可変長符号化部108は、ビットストリームを出力する際、予測部102から出力された予測信号生成用パラメータをビットストリームに多重化して出力する。
ここで、非特許文献1に開示されている方式では、ループフィルタ106が、DCTのブロック境界の周辺画素に対して、量子化の粗さ、符号化モード、動きベクトルのばらつき度合い等の情報に基づいて平滑化強度(フィルタ強度)を決定し、局所復号画像に対するフィルタリング処理を実施することで、ブロック境界に発生する歪み(ブロック歪み)の低減を図っている。
これによって、参照画像信号の品質が改善され、以降の符号化における動き補償予測の効率を高めることができる。
MPEG−4 AVC(ISO/IEC 14496−10)/ITU−T H.264規格
従来の画像符号化装置は以上のように構成されているので、ループフィルタ106がブロック歪みを除去する際、当該ブロックの輝度信号成分に対するフィルタの強度については符号化モード等に基づいて決定されるが、当該ブロックの色差信号成分に対するフィルタの強度については、輝度信号成分に対するフィルタの強度を流用するものである。このため、色差信号成分に対するフィルタの強度は必ずしも適正であるとは限らず、画質の改善効果が限定的であるなどの課題があった。
この発明は上記のような課題を解決するためになされたもので、ブロック歪みの除去精度を高めて、符号化画像の品質を改善することができる画像符号化装置及び画像符号化方法を得ることを目的とする。
また、この発明は、ブロック歪みの除去精度を高めて、復号画像の品質を改善することができる画像復号装置及び画像復号方法を得ることを目的とする。
この発明に係る画像符号化装置は、入力画像を符号化処理単位のブロックに分割するブロック分割手段と、ブロック分割手段により分割されるブロックそれぞれに符号化モードを割り当てる符号化モード決定手段と、符号化モード決定手段により割り当てられた符号化モードにしたがって、ブロック分割手段により分割されたブロックに対する予測処理を実施して、予測画像を生成する予測画像生成手段と、ブロック分割手段により分割されたブロックと予測画像生成手段により生成された予測画像との差分画像を生成する差分画像生成手段と、差分画像生成手段により生成された差分画像を圧縮し、差分画像の圧縮データを出力する画像圧縮手段と、画像圧縮手段により生成された圧縮データを伸張し、伸張後の差分画像と予測画像生成手段により生成された予測画像を加算して局所復号画像を生成する局所復号画像生成手段と、局所復号画像生成手段により生成された局所復号画像に対するフィルタリング処理を実施して、局所復号画像のブロック歪みを除去する歪み除去手段と、画像圧縮手段から出力された圧縮データ及び符号化モード決定手段により割り当てられた符号化モードの情報を符号化して、圧縮データ及び符号化モードの情報の符号化データが多重化されているビットストリームを生成する符号化手段とを備え、歪み除去手段は、局所復号画像のブロック歪みを除去する際、対象ブロック内の変換ブロック境界と予測ブロック境界を判定し、ブロック境界の判定結果と符号化モード決定手段により割り当てられた符号化モードとに応じてブロック境界のブロック歪みを除去するフィルタのフィルタ強度に関するパラメータを算出し、パラメータとパラメータに加算するオフセットとを用いてフィルタの種別を定め、符号化手段は、オフセットを符号化して、オフセットの符号化データが多重化されているビットストリームを生成するようにしたものである。
この発明によれば、入力画像を符号化処理単位のブロックに分割するブロック分割手段と、ブロック分割手段により分割されるブロックそれぞれに符号化モードを割り当てる符号化モード決定手段と、符号化モード決定手段により割り当てられた符号化モードにしたがって、ブロック分割手段により分割されたブロックに対する予測処理を実施して、予測画像を生成する予測画像生成手段と、ブロック分割手段により分割されたブロックと予測画像生成手段により生成された予測画像との差分画像を生成する差分画像生成手段と、差分画像生成手段により生成された差分画像を圧縮し、差分画像の圧縮データを出力する画像圧縮手段と、画像圧縮手段により生成された圧縮データを伸張し、伸張後の差分画像と予測画像生成手段により生成された予測画像を加算して局所復号画像を生成する局所復号画像生成手段と、局所復号画像生成手段により生成された局所復号画像に対するフィルタリング処理を実施して、局所復号画像のブロック歪みを除去する歪み除去手段と、画像圧縮手段から出力された圧縮データ及び符号化モード決定手段により割り当てられた符号化モードの情報を符号化して、圧縮データ及び符号化モードの情報の符号化データが多重化されているビットストリームを生成する符号化手段とを備え、歪み除去手段は、局所復号画像のブロック歪みを除去する際、対象ブロック内の変換ブロック境界と予測ブロック境界を判定し、ブロック境界の判定結果と符号化モード決定手段により割り当てられた符号化モードとに応じてブロック境界のブロック歪みを除去するフィルタのフィルタ強度に関するパラメータを算出し、パラメータとパラメータに加算するオフセットとを用いてフィルタの種別を定め、符号化手段は、オフセットを符号化して、オフセットの符号化データが多重化されているビットストリームを生成するように構成したので、ブロック歪みの除去精度を高めて、符号化画像の品質を改善することができる効果がある。
この発明の実施の形態1による画像符号化装置を示す構成図である。 この発明の実施の形態1による画像符号化装置の処理内容を示すフローチャートである。 この発明の実施の形態1による画像復号装置を示す構成図である。 この発明の実施の形態1による画像復号装置の処理内容を示すフローチャートである。 最大サイズの符号化ブロックが階層的に複数の符号化ブロックに分割される様子を示す説明図である。 (a)は分割後のパーティションの分布を示し、(b)は階層分割後のパーティションに符号化モードm(B)が割り当てられる状況を4分木グラフで示す説明図である。 符号化ブロック内のフィルタ適用画素の位置を示す説明図である。 ループフィルタ部11の処理内容を示すフローチャートである。 フィルタ強度の判定方法を示すフローチャートである。 エッジ位置と画素位置の関係を示す説明図である。 垂直エッジに対するフィルタリング処理の単位を示す説明図である。 水平エッジに対するフィルタリング処理の単位を示す説明図である。 Q(輝度のqP値)とパラメータβ,Tcの対応関係を示す説明図である。 可変長符号化部13により生成されるビットストリームを示す説明図である。 符号化ブロックBのサイズがL=kMである例を示す説明図である。 非特許文献1に開示されている画像符号化装置を示す構成図である。
以下、この発明をより詳細に説明するために、この発明を実施するための形態について、添付の図面に従って説明する。
実施の形態1.
この実施の形態1では、映像の各フレーム画像を入力し、近接フレーム間で動き補償予測を実施することで得られる予測差分信号に対して直交変換や量子化による圧縮処理を実施した後に可変長符号化を行ってビットストリームを生成する画像符号化装置と、その画像符号化装置から出力されたビットストリームを復号する画像復号装置について説明する。
この実施の形態1の画像符号化装置は、映像信号の空間・時間方向の局所的な変化に適応して、映像信号を多様なサイズの領域に分割してフレーム内・フレーム間適応符号化を行うことを特徴としている。
一般的に映像信号は、空間・時間的に信号の複雑さが局所的に変化する特性を有している。空間的に見ると、ある特定の映像フレーム上では、空や壁などのような比較的広い画像領域中で均一な信号特性を持つ絵柄もあれば、人物や細かいテクスチャを持った絵画など小さい画像領域内で複雑なテクスチャパターンを持つ絵柄も混在することがある。
時間的に見ても、空や壁は局所的に時間方向の絵柄の変化が小さいが、動く人物や物体はその輪郭が時間的に剛体・非剛体の運動をするため、時間的な変化が大きい。
符号化処理は、時間・空間的な予測によって信号電力やエントロピーの小さい予測差分信号を生成することで、全体の符号量を削減するが、予測のためのパラメータをできるだけ大きな画像信号領域に均一に適用できれば、当該パラメータの符号量を小さくすることができる。
一方、時間的・空間的に変化の大きい画像信号パターンに対して、同一の予測パラメータを適用すると、予測の誤りが増えるため、予測差分信号の符号量を削減することができない。
そこで、時間的・空間的に変化の大きい画像信号パターンに対しては、予測対象の領域を小さくして、予測のためのパラメータのデータ量を増やしても予測差分信号の電力・エントロピーを低減するほうが望ましい。
このような映像信号の一般的な性質に適応した符号化を行うため、この実施の形態1の画像符号化装置では、所定の最大ブロックサイズから階層的に映像信号の領域を分割して、分割領域毎に予測処理や、予測差分の符号化処理を実施するようにしている。
この実施の形態1の画像符号化装置が処理対象とする映像信号は、輝度信号と2つの色差信号からなるYUV信号や、ディジタル撮像素子から出力されるRGB信号等の任意の色空間のカラー映像信号のほか、モノクロ画像信号や赤外線画像信号など、映像フレームが水平・垂直2次元のディジタルサンプル(画素)列から構成される任意の映像信号である。
各画素の階調は8ビットでもよいし、10ビット、12ビットなどの階調であってもよい。
ただし、以下の説明においては、特に断らない限り、入力される映像信号がYUV信号であるものとする。また、2つの色差成分U,Vが輝度成分Yに対して、サブサンプルされた4:2:0フォーマットの信号であるものとする。
なお、映像の各フレームに対応する処理データ単位を「ピクチャ」と称し、この実施の形態1では、「ピクチャ」は順次走査(プログレッシブスキャン)された映像フレームの信号として説明を行う。ただし、映像信号がインタレース信号である場合、「ピクチャ」は映像フレームを構成する単位であるフィールド画像信号であってもよい。また、以降の説明において、空間的に連続する符号化ブロックのグループを「スライス」と記すことがある。
図1はこの発明の実施の形態1による画像符号化装置を示す構成図である。
図1において、符号化制御部1は動き補償予測処理(フレーム間予測処理)又はイントラ予測処理(フレーム内予測処理)が実施される際の処理単位となる符号化ブロックの最大サイズを決定するとともに、最大サイズの符号化ブロックが階層的に分割される際の上限の階層数を決定する処理を実施する。
また、符号化制御部1は利用可能な1以上の符号化モード(1以上のイントラ符号化モード、1以上のインター符号化モード)の中から、階層的に分割される各々の符号化ブロックに適する符号化モードを選択する処理を実施する。なお、符号化制御部1は符号化モード決定手段を構成している。
ブロック分割部2は入力画像を示す映像信号を入力すると、その映像信号が示す入力画像を符号化制御部1により決定された最大サイズの符号化ブロックに分割するとともに、符号化制御部1により決定された上限の階層数に至るまで、その符号化ブロックを階層的に分割する処理を実施する。なお、ブロック分割部2はブロック分割手段を構成している。
切替スイッチ3は符号化制御部1により選択された符号化モードがイントラ符号化モードであれば、ブロック分割部2により分割された符号化ブロックをイントラ予測部4に出力し、符号化制御部1により選択された符号化モードがインター符号化モードであれば、ブロック分割部2により分割された符号化ブロックを動き補償予測部5に出力する処理を実施する。
イントラ予測部4は切替スイッチ3からブロック分割部2により分割された符号化ブロックを受けると、イントラ予測用メモリ10により格納されている符号化済みブロックの局所復号画像(参照画像)を参照しながら、符号化制御部1から出力されたイントラ予測パラメータを用いて、その符号化ブロックに対するイントラ予測処理を実施して、予測画像を生成する処理を実施する。
動き補償予測部5は切替スイッチ3からブロック分割部2により分割された符号化ブロックを受けると、その符号化ブロックと動き補償予測フレームメモリ12により格納されている符号化済みブロックの局所復号画像(参照画像)を比較することで動き探索を実施して動きベクトルを算出し、その動きベクトルと符号化制御部1から出力されたインター予測パラメータを用いて、その符号化ブロックに対するインター予測処理(動き補償予測処理)を実施して予測画像を生成する処理を実施する。
なお、切替スイッチ3、イントラ予測部4及び動き補償予測部5から予測画像生成手段が構成されている。
減算部6はブロック分割部2により分割された符号化ブロックから、イントラ予測部4又は動き補償予測部5により生成された予測画像を減算することで、差分画像(=符号化ブロック−予測画像)を生成する処理を実施する。なお、減算部6は差分画像生成手段を構成している。
変換・量子化部7は符号化制御部1から出力された予測差分符号化パラメータに含まれている変換ブロックサイズ単位で、減算部6により生成された差分画像の変換処理(例えば、DCT(離散コサイン変換)や、予め特定の学習系列に対して基底設計がなされているKL変換等の直交変換処理)を実施するとともに、その予測差分符号化パラメータに含まれている量子化パラメータを用いて、その差分画像の変換係数を量子化することで、量子化後の変換係数を差分画像の圧縮データとして出力する処理を実施する。なお、変換・量子化部7は画像圧縮手段を構成している。
逆量子化・逆変換部8は符号化制御部1から出力された予測差分符号化パラメータに含まれている量子化パラメータを用いて、変換・量子化部7から出力された圧縮データを逆量子化し、その予測差分符号化パラメータに含まれている変換ブロックサイズ単位で、逆量子化後の圧縮データの逆変換処理(例えば、逆DCT(逆離散コサイン変換)や、逆KL変換等の逆変換処理)を実施することで、逆変換処理後の圧縮データを局所復号予測差分信号(伸張後の差分画像を示すデータ)として出力する処理を実施する。
加算部9は逆量子化・逆変換部8から出力された局所復号予測差分信号とイントラ予測部4又は動き補償予測部5により生成された予測画像を示す予測信号を加算することで、局所復号画像を示す局所復号画像信号を生成する処理を実施する。
なお、逆量子化・逆変換部8及び加算部9から局所復号画像が構成されている。
イントラ予測用メモリ10はイントラ予測部4により次回のイントラ予測処理で用いられる画像として、加算部9により生成された局所復号画像信号が示す局所復号画像を格納するRAMなどの記録媒体である。
ループフィルタ部11は加算部9により生成された局所復号画像信号に対するフィルタリング処理(ループフィルタ処理)を実施することで、ブロック境界に発生する歪み(ブロック歪み)を除去する処理を実施する。
ループフィルタ部11は局所復号画像のブロック歪みを除去する際、符号化制御部1により選択された符号化モード(イントラ符号化モード、インター符号化モード)に応じて、ブロック歪みを除去するフィルタの強度を信号成分(輝度信号成分、色差信号成分)別に設定する。
なお、ループフィルタ部11は歪み除去手段を構成している。
動き補償予測フレームメモリ12は動き補償予測部5により次回の動き補償予測処理で用いられる参照画像として、ループフィルタ部11によるフィルタリング処理後の局所復号画像を格納するRAMなどの記録媒体である。
可変長符号化部13は変換・量子化部7から出力された圧縮データと、符号化制御部1から出力された符号化モード及び予測差分符号化パラメータと、イントラ予測部4から出力されたイントラ予測パラメータ又は動き補償予測部5から出力されたインター予測パラメータ(動きベクトルを含む)とを可変長符号化して、その圧縮データ、符号化モード、予測差分符号化パラメータ、イントラ予測パラメータ/インター予測パラメータの符号化データが多重化されているビットストリームを生成する処理を実施する。なお、可変長符号化部13は符号化手段を構成している。
図1では、画像符号化装置の構成要素である符号化制御部1、ブロック分割部2、切替スイッチ3、イントラ予測部4、動き補償予測部5、減算部6、変換・量子化部7、逆量子化・逆変換部8、加算部9、ループフィルタ部11及び可変長符号化部13のそれぞれが専用のハードウェア(例えば、CPUを実装している半導体集積回路、あるいは、ワンチップマイコンなど)で構成されているものを想定しているが、画像符号化装置がコンピュータで構成される場合、符号化制御部1、ブロック分割部2、切替スイッチ3、イントラ予測部4、動き補償予測部5、減算部6、変換・量子化部7、逆量子化・逆変換部8、加算部9、ループフィルタ部11及び可変長符号化部13の処理内容を記述しているプログラムを当該コンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。
図2はこの発明の実施の形態1による画像符号化装置の処理内容を示すフローチャートである。
図3はこの発明の実施の形態1による画像復号装置を示す構成図である。
図3において、可変長復号部21はビットストリームに多重化されている符号化データから階層的に分割されている各々の符号化ブロックに係る圧縮データ、符号化モード、予測差分符号化パラメータ、イントラ予測パラメータ/インター予測パラメータ(動きベクトルを含む)を可変長復号して、その圧縮データ及び予測差分符号化パラメータを逆量子化・逆変換部25に出力するとともに、その符号化モード及びイントラ予測パラメータ/インター予測パラメータを切替スイッチ22に出力し、また、その符号化モードをループフィルタ部28に出力する処理を実施する。なお、可変長復号部21は復号手段を構成している。
切替スイッチ22は可変長復号部21から出力された符号化ブロックに係る符号化モードがイントラ符号化モードである場合、可変長復号部21から出力されたイントラ予測パラメータをイントラ予測部23に出力し、その符号化モードがインター符号化モードである場合、可変長復号部21から出力されたインター予測パラメータを動き補償部24に出力する処理を実施する。
イントラ予測部23はイントラ予測用メモリ27により格納されている復号済みブロックの復号画像(参照画像)を参照しながら、切替スイッチ22から出力されたイントラ予測パラメータを用いて、当該符号化ブロックに対するイントラ予測処理を実施して、予測画像を生成する処理を実施する。
動き補償部24は切替スイッチ22から出力されたインター予測パラメータに含まれている動きベクトルと動き補償予測フレームメモリ29により格納されている復号済みブロックの復号画像(参照画像)を用いて、当該符号化ブロックに対するインター予測処理を実施して、予測画像を生成する処理を実施する。
なお、切替スイッチ22、イントラ予測部23及び動き補償部24から予測画像生成手段が構成されている。
逆量子化・逆変換部25は可変長復号部21から出力された予測差分符号化パラメータに含まれている量子化パラメータを用いて、可変長復号部21から出力された圧縮データを逆量子化し、その予測差分符号化パラメータに含まれている変換ブロックサイズ単位で、逆量子化後の圧縮データの逆変換処理(例えば、逆DCT(逆離散コサイン変換)や、逆KL変換等の逆変換処理)を実施することで、逆変換処理後の圧縮データを復号予測差分信号(圧縮前の差分画像を示す信号)として出力する処理を実施する。なお、逆量子化・逆変換部25は差分画像生成手段を構成している。
加算部26は逆量子化・逆変換部25から出力された復号予測差分信号とイントラ予測部23又は動き補償部24により生成された予測画像を示す予測信号を加算することで、復号画像を示す復号画像信号を生成する処理を実施する。なお、加算部26は復号画像生成手段を構成している。
イントラ予測用メモリ27はイントラ予測部23により次回のイントラ予測処理で用いられる画像として、加算部26により生成された復号画像信号が示す復号画像を格納するRAMなどの記録媒体である。
ループフィルタ部28は加算部26により生成された復号画像信号に対するフィルタリング処理(ループフィルタ処理)を実施することで、ブロック境界に発生する歪み(ブロック歪み)を除去する処理を実施する。
ループフィルタ部28は復号画像のブロック歪みを除去する際、可変長復号部21から出力された符号化モード(イントラ符号化モード、インター符号化モード)に応じて、ブロック歪みを除去するフィルタの強度を信号成分(輝度信号成分、色差信号成分)別に設定する。
なお、ループフィルタ部28は歪み除去手段を構成している。
動き補償予測フレームメモリ29は動き補償部24により次回の動き補償予測処理で用いられる参照画像として、ループフィルタ部28によるフィルタリング処理後の復号画像を格納するRAMなどの記録媒体である。
図3では、画像復号装置の構成要素である可変長復号部21、切替スイッチ22、イントラ予測部23、動き補償部24、逆量子化・逆変換部25、加算部26及びループフィルタ部28のそれぞれが専用のハードウェア(例えば、CPUを実装している半導体集積回路、あるいは、ワンチップマイコンなど)で構成されているものを想定しているが、画像復号装置がコンピュータで構成される場合、可変長復号部21、切替スイッチ22、イントラ予測部23、動き補償部24、逆量子化・逆変換部25、加算部26及びループフィルタ部28の処理内容を記述しているプログラムを当該コンピュータのメモリに格納し、当該コンピュータのCPUが当該メモリに格納されているプログラムを実行するようにしてもよい。
図4はこの発明の実施の形態1による画像復号装置の処理内容を示すフローチャートである。
次に動作について説明する。
最初に、図1の画像符号化装置の処理内容を説明する。
まず、符号化制御部1は、動き補償予測処理(フレーム間予測処理)又はイントラ予測処理(フレーム内予測処理)が実施される際の処理単位となる符号化ブロックの最大サイズを決定するとともに、最大サイズの符号化ブロックが階層的に分割される際の上限の階層数を決定する(図2のステップST1)。
符号化ブロックの最大サイズの決め方として、例えば、全てのピクチャに対して、入力画像の解像度に応じたサイズに決定する方法が考えられる。
また、入力画像の局所的な動きの複雑さの違いをパラメータとして定量化しておき、動きの激しいピクチャでは最大サイズを小さな値に決定し、動きが少ないピクチャでは最大サイズを大きな値に決定する方法などが考えられる。
上限の階層数については、例えば、入力画像の動きが激しい程、階層数を深くして、より細かい動きが検出できるように設定し、入力画像の動きが少なければ、階層数を抑えるように設定する方法が考えられる。
また、符号化制御部1は、利用可能な1以上の符号化モード(M種類のイントラ符号化モード、N種類のインター符号化モード)の中から、階層的に分割される各々の符号化ブロックに適する符号化モードを選択する(ステップST2)。
符号化制御部1による符号化モードの選択方法は公知の技術であるため詳細な説明を省略するが、例えば、利用可能な任意の符号化モードを用いて、符号化ブロックに対する符号化処理を実施して符号化効率を検証し、利用可能な複数の符号化モードの中で、最も符号化効率がよい符号化モードを選択する方法などがある。
ブロック分割部2は、入力画像を示す映像信号を入力すると、その映像信号が示す入力画像を符号化制御部1により決定された最大サイズの符号化ブロックに分割するとともに、符号化制御部1により決定された上限の階層数に至るまで、その符号化ブロックを階層的に分割する(ステップST3)。
ここで、図5は最大サイズの符号化ブロックが階層的に複数の符号化ブロックに分割される様子を示す説明図である。
図5の例では、最大サイズの符号化ブロックは、第0階層の符号化ブロックBであり、輝度成分で(L,M)のサイズを有している。
また、図5の例では、最大サイズの符号化ブロックBを出発点として、4分木構造で、別途定める所定の深さまで階層的に分割を行うことによって、符号化ブロックBを得ている。
深さnにおいては、符号化ブロックBはサイズ(L,M)の画像領域である。
ただし、LとMは同じであってもよいし異なっていてもよいが、図5の例ではL=Mのケースを示している。
以降、符号化ブロックBのサイズは、符号化ブロックBの輝度成分におけるサイズ(L,M)と定義する。
ブロック分割部2は、4分木分割を行うため、常に(Ln+1,Mn+1)=(L/2,M/2)が成立する。
ただし、RGB信号などのように、全ての色成分が同一サンプル数を有するカラー映像信号(4:4:4フォーマット)では、全ての色成分のサイズが(L,M)になるが、4:2:0フォーマットを扱う場合、対応する色差成分の符号化ブロックのサイズは(L/2,M/2)である。
以降、第n階層の符号化ブロックBで選択しうる符号化モードをm(B)と記する。
複数の色成分からなるカラー映像信号の場合、符号化モードm(B)は、各色成分ごとに、それぞれ個別のモードを用いるように構成されてもよいが、以降、特に断らない限り、YUV信号、4:2:0フォーマットの符号化ブロックの輝度成分に対する符号化モードのことを指すものとして説明を行う。
符号化モードm(B)には、1つないし複数のイントラ符号化モード(総称して「INTRA」)、1つないし複数のインター符号化モード(総称して「INTER」)があり、符号化制御部1は、上述したように、当該ピクチャで利用可能な全ての符号化モードないしは、そのサブセットの中から、符号化ブロックBに対して最も符号化効率がよい符号化モードを選択する。
符号化ブロックBは、図5に示すように、更に1つないし複数の予測処理単位(パーティション)に分割される。
以降、符号化ブロックBに属するパーティションをP (i: 第n階層におけるパーティション番号)と表記する。
符号化ブロックBに属するパーティションP の分割がどのようになされているかは符号化モードm(B)の中に情報として含まれる。
パーティションP は、すべて符号化モードm(B)に従って予測処理が行われるが、パーティションP 毎に、個別の予測パラメータを選択することができる。
符号化制御部1は、最大サイズの符号化ブロックに対して、例えば、図6に示すようなブロック分割状態を生成して、符号化ブロックBを特定する。
図6(a)の網がけ部分は分割後のパーティションの分布を示し、また、図6(b)は階層分割後のパーティションに符号化モードm(B)が割り当てられる状況を4分木グラフで示している。
図6(b)において、□で囲まれているノードが、符号化モードm(B)が割り当てられたノード(符号化ブロックB)を示している。
切替スイッチ3は、符号化制御部1が各々の符号化ブロックBのパーティションP に対して最適な符号化モードm(B)を選択すると、その符号化モードm(B)がイントラ符号化モードであれば(ステップST4)、ブロック分割部2により分割された符号化ブロックBのパーティションP をイントラ予測部4に出力する。
一方、その符号化モードm(B)がインター符号化モードであれば(ステップST4)、ブロック分割部2により分割された符号化ブロックBのパーティションP を動き補償予測部5に出力する。
イントラ予測部4は、切替スイッチ3から符号化ブロックBのパーティションP を受けると、イントラ予測用メモリ10により格納されている符号化済みブロックの局所復号画像を参照しながら、符号化制御部1により選択された符号化モードm(B)に対応するイントラ予測パラメータを用いて、その符号化ブロックBのパーティションP に対するイントラ予測処理を実施して、イントラ予測画像P を生成する(ステップST5)。
イントラ予測部4は、イントラ予測画像P を生成すると、そのイントラ予測画像P を減算部6及び加算部9に出力するが、図3の画像復号装置でも同じイントラ予測画像P を生成できるようにするため、そのイントラ予測パラメータを可変長符号化部13に出力する。
なお、イントラ予測部4のイントラ予測処理は、例えば、AVC/H.264規格(ISO/IEC 14496−10)に定められているアルゴリズムに従うが、このアルゴリズムに限定されるものではない。
動き補償予測部5は、切替スイッチ3から符号化ブロックBのパーティションP を受けると、その符号化ブロックBのパーティションP と動き補償予測フレームメモリ12により格納されている符号化済みブロックの局所復号画像を比較することで動き探索を実施して動きベクトルを算出し、その動きベクトルと符号化制御部1から出力されたインター予測パラメータを用いて、その符号化ブロックに対するインター予測処理を実施して、インター予測画像P を生成する(ステップST6)。
動き補償予測部5は、インター予測画像P を生成すると、そのインター予測画像P を減算部6及び加算部9に出力するが、図3の画像復号装置でも同じインター予測画像P を生成できるようにするため、そのインター予測パラメータを可変長符号化部13に出力する。
なお、インター予測パラメータには、下記の情報が含まれている。
(1)符号化ブロックB内のパーティションP の分割状況を記述しているモード情報
(2)パーティションP の動きベクトル
(3)動き補償予測フレームメモリ12により複数の局所復号画像(参照画像)が格納されている場合、いずれの参照画像を用いて、インター予測処理を実施するかを示す参照画像の指示インデックス情報
(4)複数の動きベクトルの予測値候補がある場合、いずれの動きベクトルの予測値を選択して使用するかを示すインデックス情報
(5)複数の動き補償内挿フィルタがある場合、いずれのフィルタを選択して使用するかを示すインデックス情報
(6)パーティションP の動きベクトルが複数の画素精度(半画素、1/4画素、1/8画素など)を示すことが可能な場合、いずれの画素精度を使用するかを示す選択情報
減算部6は、イントラ予測部4又は動き補償予測部5が予測画像(イントラ予測画像P 、インター予測画像P )を生成すると、ブロック分割部2により分割された符号化ブロックBのパーティションP から、イントラ予測部4又は動き補償予測部5により生成された予測画像(イントラ予測画像P 、インター予測画像P )を減算することで差分画像を生成し、その差分画像を示す予測差分信号e を変換・量子化部7に出力する(ステップST7)。
変換・量子化部7は、減算部6から差分画像を示す予測差分信号e を受けると、符号化制御部1から出力された予測差分符号化パラメータに含まれている変換ブロックサイズ単位で、その差分画像の変換処理(例えば、DCT(離散コサイン変換)や、予め特定の学習系列に対して基底設計がなされているKL変換等の直交変換処理)を実施するとともに、その予測差分符号化パラメータに含まれている量子化パラメータを用いて、その差分画像の変換係数を量子化することで、量子化後の変換係数を差分画像の圧縮データとして逆量子化・逆変換部8及び可変長符号化部13に出力する(ステップST8)。
逆量子化・逆変換部8は、変換・量子化部7から差分画像の圧縮データを受けると、符号化制御部1から出力された予測差分符号化パラメータに含まれている量子化パラメータを用いて、その差分画像の圧縮データを逆量子化し、その予測差分符号化パラメータに含まれている変換ブロックサイズ単位で、逆量子化後の圧縮データの逆変換処理(例えば、逆DCT(逆離散コサイン変換)や、逆KL変換等の逆変換処理)を実施することで、逆変換処理後の圧縮データを局所復号予測差分信号として加算部9に出力する(ステップST9)。
加算部9は、逆量子化・逆変換部8から局所復号予測差分信号を受けると、その局所復号予測差分信号と、イントラ予測部4又は動き補償予測部5により生成された予測画像(イントラ予測画像P 、インター予測画像P )を示す予測信号を加算することで、局所復号パーティション画像、ないしは、その集まりとしての局所復号符号化ブロック画像である局所復号画像を生成する(ステップST10)。
加算部9は、局所復号画像を生成すると、その局所復号画像を示す局所復号画像信号をイントラ予測用メモリ10に格納するとともに、その局所復号画像信号をループフィルタ部11に出力する。
ループフィルタ部11は、加算部9から局所復号画像信号を受けると、その局所復号画像信号に対するフィルタリング処理を実施することで、ブロック境界に発生する歪み(ブロック歪み)を除去する(ステップST11)。
ループフィルタ部11における処理内容の詳細は後述するが、局所復号画像のブロック歪みを除去する際、符号化制御部1により選択された符号化モード(イントラ符号化モード、インター符号化モード)に応じて、ブロック歪みを除去するフィルタの強度を信号成分(輝度信号成分、色差信号成分)別に設定する。
なお、ループフィルタ部11によるフィルタリング処理は、加算部9から出力される局所復号画像信号の最大符号化ブロックあるいは個々の符号化ブロック単位で行ってもよいし、1画面分のマクロブロックに相当する局所復号画像信号が出力された後に1画面分まとめて行ってもよい。
ステップST4〜ST10の処理は、階層的に分割された全ての符号化ブロックBに対する処理が完了するまで繰り返し実施され、全ての符号化ブロックBに対する処理が完了するとステップST13の処理に移行する(ステップST12)。
可変長符号化部13は、変換・量子化部7から出力された圧縮データと、符号化制御部1から出力された符号化モード(符号化ブロックの分割状態を示す情報を含む)及び予測差分符号化パラメータと、イントラ予測部4から出力されたイントラ予測パラメータ又は動き補償予測部5から出力されたインター予測パラメータ(動きベクトルを含む)とをエントロピー符号化する。
可変長符号化部13は、エントロピー符号化の符号化結果である圧縮データ、符号化モード、予測差分符号化パラメータ、イントラ予測パラメータ/インター予測パラメータの符号化データを多重化してビットストリームを生成する(ステップST13)。
以下、ループフィルタ部11によるフィルタリング処理を具体的に説明する。
ループフィルタ部11は、上述した予測処理単位であるパーティションと変換ブロックの境界に発生するブロックノイズを低減させる非線形平滑化フィルタである。
図7は符号化ブロック内のフィルタ適用画素の位置を示す説明図である。
図7において、垂直エッジ及び水平エッジと、パーティションまたは変換ブロックのブロック境界が重なる位置がフィルタ処理の対象になる。
図7では、垂直エッジ及び水平エッジがK×K画素グリッドで表されている。Kの値は固定値で定めてもよいし、符号化ブロックの最大サイズやパーティション・変換ブロックの最大サイズ等に応じて設定してもよい。
図8はループフィルタ部11の処理内容を示すフローチャートである。
ループフィルタ部11によるフィルタリング処理は、符号化ブロック毎に実行される。
まず、ループフィルタ部11は、垂直エッジ及び水平エッジが、パーティションまたは変換ブロックの境界と一致するか否かを判定する(ステップST41)。
ループフィルタ部11は、パーティションまたは変換ブロックの境界と一致している垂直エッジ又は水平エッジが存在する場合、境界と一致している箇所のフィルタ強度判定を行う(ステップST42,ST43)。フィルタ強度の判定方法は後述する。
ループフィルタ部11は、フィルタ強度判定を行うと、そのフィルタ強度の判定結果や実際にフィルタリング処理の対象となる画素値の変化量に応じて、最終的なフィルタの強度を変えながらフィルタリング処理を行う(ステップST44,ST45)。フィルタリング処理の方法は後述する。
ループフィルタ部11は、ピクチャ内の全ての符号化ブロックに対する処理が完了するまで、ステップST41〜45の処理を繰り返し実施する(ステップST46)。
なお、スライスヘッダには、スライス内の全ての符号化ブロックに本ループフィルタの処理を行うか否かの識別情報を多重化することとし、画像符号化装置は、状況に応じて同識別情報の値を決定して画像復号装置に伝送するように構成する。
次に、ループフィルタ部11によるフィルタ強度の判定処理を説明する。
図9はフィルタ強度の判定方法を示すフローチャートである。
ループフィルタ部11は、垂直エッジと水平エッジに隣接する全画素に対して、下記の条件でフィルタ強度bSを求める(ステップST51)。
以下の説明では、エッジ近傍の画素をp(i=0,1,2,3),q(j=0,1,2,3)の記号で表しているが、エッジ位置と画素位置の関係は、図10のように定義する。
符号化ブロックの中には、輝度信号成分のブロックと色差信号成分のブロックが含まれるが、ループフィルタ部11では、以下の条件で、フィルタ強度の判定を行う。
(1)フィルタ処理対象の符号化ブロックの符号化モードが、イントラ符号化モードであるか、インター符号化モードであるか
(2)フィルタリング処理を行う信号成分が、輝度信号成分であるか、色差信号成分であるか
(3)フィルタ処理対象の画素を含む変換ブロック内に、非ゼロの変換係数が含まれているか否か
(4)フィルタ処理対象の画素を含むパーティションの中の動きパラメータの状態
ループフィルタ部11は、以下の手順でフィルタ強度の判定を行う。
(手順1)
符号化ブロックの境界に位置するエッジであり、pを含む符号化ブロック、または、qを含む符号化ブロックの符号化モードが「イントラ符号化モード」である場合
処理対象信号成分が輝度信号成分 → bS=2
処理対象信号成分が色差信号成分 → bS=4
に決定する。
(手順2)
手順1での条件に該当しない場合において、
を含む符号化ブロック、または、qを含む符号化ブロックの符号化モードが「イントラ符号化モード」である場合
処理対象信号成分が輝度信号成分 → bS=1
処理対象信号成分が色差信号成分 → bS=3
に決定する。
(手順3)
手順1,2での条件に該当しない場合において、
またはqが非ゼロ直交変換係数を持つ変換ブロックに属する場合
処理対象信号成分が輝度信号成分 → bS=2
処理対象信号成分が色差信号成分 → bS=2
に決定する。
(手順4)
手順1〜3での条件に該当しない場合において、以下のいずれかの条件を満たす場合
処理対象信号成分が輝度信号成分 → bS=1
処理対象信号成分が色差信号成分 → bS=1
に決定する。
[条件]
・pを含むパーティションとqを含むパーティションが、
異なる参照ピクチャを持っているか、または、異なる数の動きベクトルを持ってい

・pを含むパーティションとqを含むパーティションで、
それぞれ1本の動きベクトルが使用され、
双方の動きベクトルの水平成分又は垂直成分の差分絶対値が1/4画素精度で4以
上である
・pを含むパーティションとqを含むパーティションで、
それぞれ2本の動きベクトルが使用され、
同じ参照ピクチャを指す動きベクトルペア(pにおける動きベクトルと、q
おける動きベクトルのペア)の少なくとも1組において、
双方の動きベクトルの水平成分又は垂直成分の差分絶対値が1/4画素精度で4以
上である
(手順5)
手順1〜4での条件に該当しない場合(パーティション/変換ブロックの境界以外のエッジも本条件に該当)
処理対象信号成分が輝度信号成分 → bS=0
処理対象信号成分が色差信号成分 → bS=0
に決定する。
処理対象の符号化ブロックの符号化モードがイントラ符号化モードである場合、インター予測によるフレーム間予測の場合と比べて、輝度信号・色差信号ともに、予測残差電力が大きく、量子化された変換係数の分布が信号成分毎に大きく異なる確率が高くなる。
ブロック歪みの程度は、量子化によって、どれだけ主観的に有効な変換係数がなくなってしまうかに左右されるため、ブロック歪みの程度を測る尺度であるフィルタ強度の値は、特にイントラ符号化において、輝度と色差で調整できることが望ましい。
従来のループフィルタ106(図16を参照)では、色差信号成分のフィルタ強度は、常に、輝度信号成分のフィルタ強度と同じ値に設定されているが、この実施の形態1では、条件に応じて信号成分(輝度信号成分、色差信号成分)別にフィルタ強度を設定しているので、従来よりも画質の改善に寄与するフィルタ強度が得られる。
ループフィルタ部11は、フィルタ強度判定を行うと、フィルタ強度の判定結果に基づいて、垂直エッジ、水平エッジの順にフィルタリング処理を行う。
まず、ループフィルタ部11は、垂直エッジに対して、Kライン毎にフィルタ強度bSの最大値を求め、その最大値をbSVerとする。
ループフィルタ部11は、最大値bSVerに基づいて、当該Kラインのエッジ近傍画素に対するフィルタリング処理を行う。
図11は垂直エッジに対するフィルタリング処理の単位を示す説明図である。垂直エッジを中心とするK×K画素が同一のbSVerになる。各画素に適用される最終的なフィルタ強度bSは、最大値bSVerと各画素位置での画素値の変化量によって決まる。
図12には、水平エッジに対するフィルタリング処理の単位を示している。処理の方向が垂直から水平に変化する以外は垂直エッジと同じである。
以下、処理対象画素に対するフィルタリング処理を説明する。
ループフィルタ部11は、輝度信号成分の垂直エッジ方向に対して、以下の手順でフィルタリング処理を行う。輝度信号成分の水平エッジ方向に対するフィルタリング処理も同じ手順であるが、最大値bSVerの代わりに、水平エッジに対するKライン毎のフィルタ強度bSの最大値bSHorを用いる。
[a]bSVer=0の場合
フィルタリング処理を行わない。
[b]bSVer≦2の場合
(1)図13において、Q=(輝度のqP値)とする場合のパラメータβ,Tc
を求める。
図13はQ(輝度のqP値)とパラメータβ,Tcの対応関係を示す説明図である。
Figure 2015062312
[c]bSVer>2の場合
図13において、Q=(輝度のqP値)とする場合のパラメータβと、Q=(輝度のqP値+4)とする場合のパラメータTcを求める。以降の処理はbSVer≦2の場合と同様である。
ループフィルタ部11は、色差信号成分の垂直エッジ方向に対して、以下の手順でフィルタリング処理を行う。色差信号成分の水平エッジ方向に対するフィルタリング処理も同じ手順であるが、最大値bSVerの代わりに、最大値bSHorを用いる。bSVerとbSVerは、同一ポジションの輝度で算出した値である。
[a]bSVer>2の場合
Figure 2015062312
[b]bSVer≦2の場合
フィルタリング処理を行わない。
画像符号化装置のループフィルタ部11と画像復号装置のループフィルタ部28は、共通の処理を行うが、画像符号化装置のループフィルタ部11が、フィルタ強度の判定に関して、制御用のパラメータを設けるように構成してもよい。
例えば、スライスレベルでフィルタ強度bSの値をシグナリングするか否かを示す識別情報を多重することで、スライス毎に、フィルタ強度bSの設定値を変更できるように構成してもよい。
その際の変更は、輝度信号成分だけとして、色差信号成分は固定にしてもよいし、逆に輝度信号成分は固定として、色差信号成分だけを変更できるように構成してもよい。
設定値のシグナリングは値そのものでもよいし、フィルタ強度bSをデフォルト値とするオフセット値の形式でも構わない。色差信号成分のフィルタ強度を輝度信号成分のフィルタ強度のオフセット値として表現するようにしてもよい。
また、特に符号化モードがイントラ符号化モードである場合のフィルタ強度bSの設定値を値そのもの、ないしは、オフセット値としてシグナリングするように構成することもできる。例えば、ループフィルタ部11は、以下の手順でフィルタ強度の判定を行うように構成できる。
イントラ符号化モードで符号化される符号化ブロックについて、輝度成分に対するフィルタ強度値をbSL、色差成分に対するフィルタ強度値をbSCとし、bSLとbSCとはピクチャレベルのヘッダやスライスヘッダなどのシンタックス情報としてビットストリームに多重化して符号化装置と復号化装置で共有できるようにしておく。このとき、
(手順1)
符号化ブロックの境界に位置するエッジであり、poを含む符号化ブロック、または、qoを含む符号化ブロックの符号化モードが「イントラ符号化モード」である場合
処理対象信号成分が輝度信号成分 → bS=max(4−bSL、0)
処理対象信号成分が色差信号成分 → bS=max(4−bSC、0)
に決定する。ここで、max(A,B)は、AとBのうち大きいほうの値を出力する関数である。
(手順2)
手順1での条件に該当しない場合において、
poを含む符号化ブロック、または、qoを含む符号化ブロックの符号化モードが「イントラ符号化モード」である場合
処理対象信号成分が輝度信号成分 → bS=max(3−bSL、0)
処理対象信号成分が色差信号成分 → bS=max(3−bSC、0)
に決定する。
符号化モードがイントラ符号化モードである場合には、圧縮処理過程で動き予測が有効に機能せずに、やむを得ずイントラ符号化を行う場合と、誤り耐性やランダムアクセスの観点で周期的・意図的にイントラ符号化を発生させる場合がある。
やむを得ずイントラ符号化を行う場合は、符号化の難しさに対応して歪みが重畳されるのに対して、周期的・意図的にイントラ符号化を発生させる場合は、符号化の難しさと直接的に関係なくイントラ符号化が用いられるため、それぞれブロック歪みの発生の仕方に差異が生じる。
従来のループフィルタでは、これらを判別して、フィルタ強度を制御する手段がない。
周期イントラ挿入はスライスやピクチャの単位で実行されるため、これらの単位でフィルタ強度を用途に応じて制御することで、ブロック歪みをより良く抑制することが可能になる。
また、逆に符号化モードがインター符号化モードである場合のフィルタ強度bSの設定値をシグナリングするように構成しても構わない。
ここで、図14は可変長符号化部13により生成されるビットストリームを示す説明図である。
図14の例では、スライス符号化データがスライスヘッダと、それに続くスライス内の個数分の最大符号化ブロック符号化データから構成される様子を示している。
各最大符号化ブロック符号化データは、符号化モードを含んでいる。図示していないが、最大符号化ブロック符号化データには、符号化ブロック毎に、パーティション単位の動きベクトルなどの予測パラメータ、変換ブロックサイズなどの予測差分符号化パラメータ、予測差分符号化データ(量子化済み変換係数)を含んでいる。
スライスヘッダには、スライス内の全ての符号化ブロックに本ループフィルタの処理を行うか否かの識別情報であるループフィルタON/OFFフラグ、フィルタ強度bSの設定値をシグナリングするか否かを示すフラグであるフィルタ強度情報多重化フラグ、フィルタ強度情報多重化フラグが“1”の場合に多重するフィルタ強度情報が含まれている。
フィルタ強度情報多重化フラグ及びフィルタ強度情報は、ピクチャ、シーケンスやGOP(Group Of Pictures)などの単位で定義されるヘッダ情報領域に多重するように構成してもよい。
次に、図3の画像復号装置の処理内容を説明する。
可変長復号部21は、図1の画像符号化装置から出力されたビットストリームを入力すると、そのビットストリームに対する可変長復号処理を実施して(図4のステップST21)、1フレーム以上のピクチャから構成されるシーケンス単位あるいはピクチャ単位にピクチャサイズ(水平画素数・垂直ライン数)を規定する情報を復号する。
可変長復号部21は、図1の符号化制御部1と同様の手順で、動き補償予測処理(フレーム間予測処理)又はイントラ予測処理(フレーム内予測処理)が実施される際の処理単位となる符号化ブロックの最大サイズを決定するとともに、最大サイズの符号化ブロックが階層的に分割される際の上限の階層数を決定する(ステップST22)。
例えば、画像符号化装置において、符号化ブロックの最大サイズが、入力画像の解像度に応じて決定されている場合、先に復号しているフレームサイズに基づいて符号化ブロックの最大サイズを決定する。
なお、符号化ブロックの最大サイズ及び上限の階層数を示す情報がビットストリームに多重化されている場合には、そのビットストリームから復号した情報を参照する。
ビットストリームの構成が図14の構成である場合、可変長復号部21は、最大符号化ブロックレベルの復号に先立ち、スライスヘッダからループフィルタON/OFFフラグを復号する。
ビットストリームに多重化されている最大サイズの符号化ブロックBの符号化モードm(B)には、最大サイズの符号化ブロックBの分割状態を示す情報が含まれているので、可変長復号部21は、ビットストリームに多重化されている最大サイズの符号化ブロックBの符号化モードm(B)を復号して、階層的に分割されている各々の符号化ブロックBを特定する(ステップST23)。
可変長復号部21は、各々の符号化ブロックBを特定すると、その符号化ブロックBの符号化モードm(B)を復号し、その符号化モードm(B)に属しているパーティションP の情報に基づいて、符号化ブロックBに属しているパーティションP を特定する。
可変長復号部21は、符号化ブロックBに属しているパーティションP を特定すると、パーティションP 毎に、圧縮データ、符号化モード、予測差分符号化パラメータ、イントラ予測パラメータ/インター予測パラメータ(動きベクトルを含む)を復号する(ステップST24)。
切替スイッチ22は、可変長復号部21から出力された符号化ブロックBに属しているパーティションP の符号化モードm(B)がイントラ符号化モードである場合(ステップST25)、可変長復号部21から出力されたイントラ予測パラメータをイントラ予測部23に出力する。
一方、パーティションP の符号化モードm(B)がインター符号化モードである場合(ステップST25)、可変長復号部21から出力されたインター予測パラメータを動き補償予測部24に出力する。
イントラ予測部23は、切替スイッチ22からイントラ予測パラメータを受けると、イントラ予測用メモリ27により格納されている復号済みブロックの復号画像(参照画像)を参照しながら、そのイントラ予測パラメータを用いて、その符号化ブロックBのパーティションP に対するイントラ予測処理を実施して、イントラ予測画像P を生成する(ステップST26)。
動き補償部24は、切替スイッチ22から出力されたインター予測パラメータを受けると、そのインター予測パラメータに含まれている動きベクトルと動き補償予測フレームメモリ29により格納されている復号済みブロックの復号画像(参照画像)を用いて、当該符号化ブロックに対するインター予測処理を実施して、イントラ予測画像P を生成する(ステップST27)。
逆量子化・逆変換部25は、可変長復号部21から出力された予測差分符号化パラメータに含まれている量子化パラメータを用いて、可変長復号部21から出力された圧縮データを逆量子化し、その予測差分符号化パラメータに含まれている変換ブロックサイズ単位で、逆量子化後の圧縮データの逆変換処理(例えば、逆DCT(逆離散コサイン変換)や、逆KL変換等の逆変換処理)を実施することで、逆変換処理後の圧縮データを復号予測差分信号(圧縮前の差分画像を示す信号)として加算部26に出力する(ステップST28)。
加算部26は、逆量子化・逆変換部25から復号予測差分信号を受けると、その復号予測差分信号とイントラ予測部23又は動き補償部24により生成された予測画像を示す予測信号を加算することで復号画像を生成して、その復号画像を示す復号画像信号をイントラ予測用メモリ27に格納するとともに、その復号画像信号をループフィルタ部28に出力する(ステップST29)。
ステップST23〜ST29の処理は、階層的に分割された全ての符号化ブロックBに対する処理が完了するまで繰り返し実施される(ステップST30)。
ループフィルタ部28は、加算部26から復号画像信号を受けると、その復号画像信号に対するフィルタリング処理を実施することで、ブロック境界に発生する歪み(ブロック歪み)を除去し、歪み除去後の復号画像信号が示す復号画像を動き補償予測フレームメモリ29に格納する。
ループフィルタ部28におけるフィルタリング処理は、図1のループフィルタ部11におけるフィルタリング処理と同様であり、その復号画像のブロック歪みを除去する際、可変長復号部21から出力された符号化モード(イントラ符号化モード、インター符号化モード)に応じて、ブロック歪みを除去するフィルタの強度を信号成分(輝度信号成分、色差信号成分)別に設定する。
なお、可変長復号部21によりスライスヘッダからフィルタ強度情報多重化フラグ及びフィルタ強度情報が復号されている場合には、そのフィルタ強度情報が示すフィルタ強度bSでフィルタリング処理を実行する。
以上で明らかなように、この実施の形態1によれば、画像復号装置のループフィルタ部28が、復号画像のブロック歪みを除去する際、可変長復号部21から出力された符号化モード(イントラ符号化モード、インター符号化モード)に応じて、ブロック歪みを除去するフィルタの強度を信号成分(輝度信号成分、色差信号成分)別に設定するように構成したので、ブロック歪みの除去精度を高めて、復号画像の品質を改善することができる効果を奏する。
以上の説明では、フレーム間動き補償予測処理(インター予測処理)を実施する画像符号化装置及び画像復号装置の例を示したが、すべてのフレームに対して、フレーム内予測処理(イントラ予測処理)を実施する画像符号化装置及び画像復号装置であっても、ループフィルタ部11,28がブロック歪みを除去するように構成してもよい。
フレーム内予測処理(イントラ予測処理)とフレーム間動き補償予測処理(インター予測処理)を組み合わせて実施する画像符号化装置及び画像復号装置において、すべてのフレームをイントラ予測処理で符号化するように設定したときに、ループフィルタ部11,28の動作を利用しないように制御することも可能である。
この実施の形態1では、図5に示すように、符号化ブロックBのサイズがL=Mであるものを示したが、符号化ブロックBのサイズがL≠Mであってもよい。
例えば、図15に示すように、符号化ブロックBのサイズがL=kMとなる場合が考えられる。
次の分割では、(Ln+1,Mn+1)=(L,M)となり、以降の分割は、図5と同様の分割を行ってもよいし、(Ln+1,Mn+1)=(L/2,M/2)のように分割を行ってもよい。
このような構成により、例えば、M=16とすることにより、MPEG−2(ISO/IEC 13818−2)やMPEG−4 AVC/H.264(ISO/IEC 14496−10)のような16×16画素からなるマクロブロックを横に連結する構成の最大符号化ブロックを定義することができ、既存方式との互換性を維持した画像符号化装置を構成し易いという効果がある。
なお、L=kMではなく、kL=Mのように、縦に連結したものであっても同様の考えで、分割が可能であることは言うまでもない。
なお、本願発明はその発明の範囲内において、実施の形態の任意の構成要素の変形、もしくは実施の形態の任意の構成要素の省略が可能である。
この発明に係る画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法は、符号化モードに応じてフィルタの強度を信号成分別に設定することを備え、ブロック歪みの除去精度を高めて、符号化画像の品質を改善することができるので、MPEGやITU−T H.26x等の国際標準映像符号化方式に適用することができる。
1 符号化制御部(符号化モード決定手段)、2 ブロック分割部(ブロック分割手段)、3 切替スイッチ(予測画像生成手段)、4 イントラ予測部(予測画像生成手段)、5 動き補償予測部(予測画像生成手段)、6 減算部(差分画像生成手段)、7 変換・量子化部(画像圧縮手段)、8 逆量子化・逆変換部(局所復号画像)、9 加算部(局所復号画像)、10 イントラ予測用メモリ、11 ループフィルタ部(歪み除去手段)、12 動き補償予測フレームメモリ、13 可変長符号化部(符号化手段)、21 可変長復号部(復号手段)、22 切替スイッチ(予測画像生成手段)、23 イントラ予測部(予測画像生成手段)、24 動き補償部(予測画像生成手段)、25 逆量子化・逆変換部(差分画像生成手段)、26 加算部(復号画像生成手段)、27 イントラ予測用メモリ、28 ループフィルタ部(歪み除去手段)、29 動き補償予測フレームメモリ、101 ブロック分割部、102 予測部、103 圧縮部、104 局所復号部、105 加算器、106 ループフィルタ、107 メモリ、108 可変長符号化部。

Claims (4)

  1. 入力画像を符号化処理単位のブロックに分割するブロック分割手段と、上記ブロック分割手段により分割されるブロックそれぞれに符号化モードを割り当てる符号化モード決定手段と、上記符号化モード決定手段により割り当てられた符号化モードにしたがって、上記ブロック分割手段により分割されたブロックに対する予測処理を実施して、予測画像を生成する予測画像生成手段と、上記ブロック分割手段により分割されたブロックと上記予測画像生成手段により生成された予測画像との差分画像を生成する差分画像生成手段と、上記差分画像生成手段により生成された差分画像を圧縮し、上記差分画像の圧縮データを出力する画像圧縮手段と、上記画像圧縮手段により生成された圧縮データを伸張し、伸張後の差分画像と上記予測画像生成手段により生成された予測画像を加算して局所復号画像を生成する局所復号画像生成手段と、上記局所復号画像生成手段により生成された局所復号画像に対するフィルタリング処理を実施して、上記局所復号画像のブロック歪みを除去する歪み除去手段と、上記画像圧縮手段から出力された圧縮データ及び上記符号化モード決定手段により割り当てられた符号化モードの情報を符号化して、上記圧縮データ及び上記符号化モードの情報の符号化データが多重化されているビットストリームを生成する符号化手段とを備え、
    上記歪み除去手段は、上記局所復号画像のブロック歪みを除去する際、対象ブロック内の変換ブロック境界と予測ブロック境界を判定し、上記ブロック境界の判定結果と上記符号化モード決定手段により割り当てられた符号化モードとに応じて上記ブロック境界のブロック歪みを除去するフィルタのフィルタ強度に関するパラメータを算出し、上記パラメータと上記パラメータに加算するオフセットとを用いてフィルタの種別を定め、
    上記符号化手段は、上記オフセットを符号化して、上記オフセットの符号化データが多重化されているビットストリームを生成することを特徴とする画像符号化装置。
  2. ブロック分割手段が、入力画像を符号化処理単位となるブロックに分割するブロック分割処理ステップと、符号化モード決定手段が、上記ブロック分割処理ステップで分割されるブロックそれぞれに符号化モードを割り当てる符号化モード決定処理ステップと、予測画像生成手段が、上記符号化モード決定処理ステップで割り当てられた符号化モードにしたがって、上記ブロック分割処理ステップで分割されたブロックに対する予測処理を実施して、予測画像を生成する予測画像生成処理ステップと、差分画像生成手段が、上記ブロック分割処理ステップで分割されたブロックと上記予測画像生成処理ステップで生成された予測画像との差分画像を生成する差分画像生成処理ステップと、画像圧縮手段が、上記差分画像生成処理ステップで生成された差分画像を圧縮し、上記差分画像の圧縮データを出力する画像圧縮処理ステップと、局所復号画像生成手段が、上記画像圧縮処理ステップで生成された圧縮データを伸張し、伸張後の差分画像と上記予測画像生成処理ステップで生成された予測画像を加算して局所復号画像を生成する局所復号画像生成処理ステップと、歪み除去手段が、上記局所復号画像生成処理ステップで生成された局所復号画像に対するフィルタリング処理を実施して、上記局所復号画像のブロック歪みを除去する歪み除去処理ステップと、符号化手段が、上記画像圧縮処理ステップで出力された圧縮データ及び上記符号化モード決定処理ステップで割り当てられた符号化モードの情報を符号化して、上記圧縮データ及び上記符号化モードの情報の符号化データが多重化されているビットストリームを生成する符号化処理ステップとを備え、
    上記歪み除去処理ステップでは、上記局所復号画像のブロック歪みを除去する際、対象ブロック内の変換ブロック境界と予測ブロック境界を判定し、上記ブロック境界の判定結果と上記符号化モード決定処理ステップで割り当てられた符号化モードとに応じて上記ブロック境界のブロック歪みを除去するフィルタのフィルタ強度に関わるパラメータを算出し、上記パラメータと上記パラメータに加算するオフセットとを用いてフィルタの種別を定め、
    上記符号化処理ステップでは、上記オフセットを符号化して、上記オフセットの符号化データが多重化されているビットストリームを生成することを特徴とする画像符号化方法。
  3. 上記ブロック分割手段は、上記ブロック分割手段により分割されるブロックを上記ブロック単位に、1以上の予測ブロックに分割するとともに、1以上の変換ブロックに分割し、
    上記符号化手段は、上記予測ブロックの分割情報を含む上記符号化モードの情報と上記変換ブロックの分割情報の符号化データが多重化されているビットストリームを生成することを特徴とする請求項1記載の画像符号化装置。
  4. 画像をブロック単位に圧縮符号化したビットストリームを入力して復号画像を生成する画像復号装置であって、
    上記ビットストリームから各々のブロックに係る圧縮データ及び符号化モードの情報を復号する復号手段と、上記復号手段により復号された符号化モードの情報にしたがって復号済み画素を参照し、各々のブロックに対する予測画像を生成する予測画像生成手段と、上記復号手段により復号された圧縮データから生成された差分画像と上記予測画像生成手段により生成された予測画像とを加算して復号画像を生成する復号画像生成手段と、上記復号画像生成手段により生成された復号画像に対するフィルタリング処理を実施して、上記復号画像のブロック歪みを除去する歪み除去手段とを備えることを特徴とする画像復号装置。
JP2014239167A 2011-06-30 2014-11-26 画像符号化装置、画像符号化方法および符号化データのデータ構造 Active JP5921651B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014239167A JP5921651B2 (ja) 2011-06-30 2014-11-26 画像符号化装置、画像符号化方法および符号化データのデータ構造

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011145612 2011-06-30
JP2011145612 2011-06-30
JP2014239167A JP5921651B2 (ja) 2011-06-30 2014-11-26 画像符号化装置、画像符号化方法および符号化データのデータ構造

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2013522711A Division JP5709996B2 (ja) 2011-06-30 2012-06-05 画像復号装置及び画像復号方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2016079566A Division JP6632456B2 (ja) 2011-06-30 2016-04-12 画像符号化データ

Publications (2)

Publication Number Publication Date
JP2015062312A true JP2015062312A (ja) 2015-04-02
JP5921651B2 JP5921651B2 (ja) 2016-05-24

Family

ID=47423659

Family Applications (6)

Application Number Title Priority Date Filing Date
JP2013522711A Active JP5709996B2 (ja) 2011-06-30 2012-06-05 画像復号装置及び画像復号方法
JP2014239167A Active JP5921651B2 (ja) 2011-06-30 2014-11-26 画像符号化装置、画像符号化方法および符号化データのデータ構造
JP2016079566A Active JP6632456B2 (ja) 2011-06-30 2016-04-12 画像符号化データ
JP2018007108A Active JP6463521B2 (ja) 2011-06-30 2018-01-19 画像符号化装置、画像符号化方法、画像復号装置および画像復号方法
JP2018247073A Active JP6667609B2 (ja) 2011-06-30 2018-12-28 画像符号化装置、画像符号化方法、画像復号装置および画像復号方法
JP2020029425A Active JP6863669B2 (ja) 2011-06-30 2020-02-25 画像符号化装置、画像符号化方法、画像復号装置および画像復号方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2013522711A Active JP5709996B2 (ja) 2011-06-30 2012-06-05 画像復号装置及び画像復号方法

Family Applications After (4)

Application Number Title Priority Date Filing Date
JP2016079566A Active JP6632456B2 (ja) 2011-06-30 2016-04-12 画像符号化データ
JP2018007108A Active JP6463521B2 (ja) 2011-06-30 2018-01-19 画像符号化装置、画像符号化方法、画像復号装置および画像復号方法
JP2018247073A Active JP6667609B2 (ja) 2011-06-30 2018-12-28 画像符号化装置、画像符号化方法、画像復号装置および画像復号方法
JP2020029425A Active JP6863669B2 (ja) 2011-06-30 2020-02-25 画像符号化装置、画像符号化方法、画像復号装置および画像復号方法

Country Status (7)

Country Link
US (11) US9210426B2 (ja)
EP (1) EP2728877A4 (ja)
JP (6) JP5709996B2 (ja)
KR (6) KR101860606B1 (ja)
CN (6) CN106658014B (ja)
BR (1) BR112013028175B1 (ja)
WO (1) WO2013001727A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011129100A1 (ja) * 2010-04-13 2011-10-20 パナソニック株式会社 画像符号化方法および画像復号化方法
JP5709996B2 (ja) 2011-06-30 2015-04-30 三菱電機株式会社 画像復号装置及び画像復号方法
US9967558B1 (en) * 2013-12-17 2018-05-08 Google Llc Adaptive motion search control for variable block size partitions in video coding
WO2015115645A1 (ja) 2014-02-03 2015-08-06 三菱電機株式会社 動画像符号化装置及び動画像符号化方法
CN105981389B (zh) * 2014-02-03 2019-03-01 三菱电机株式会社 图像编码装置、图像解码装置、编码流变换装置、图像编码方法以及图像解码方法
JP2015173312A (ja) * 2014-03-11 2015-10-01 ソニー株式会社 画像符号化装置および方法、並びに画像復号装置および方法
CN107736027B (zh) * 2015-06-12 2021-06-01 松下知识产权经营株式会社 图像编码方法、图像解码方法、图像编码装置及图像解码装置
US10390026B2 (en) * 2016-03-25 2019-08-20 Google Llc Smart reordering in recursive block partitioning for advanced intra prediction in video coding
CN111373751B (zh) * 2017-08-10 2023-02-28 夏普株式会社 图像滤波装置、图像解码装置以及图像编码装置
JP7330184B2 (ja) 2017-11-29 2023-08-21 エレクトロニクス アンド テレコミュニケーションズ リサーチ インスチチュート 画像復号化方法、画像符号化方法及びビットストリーム伝送方法
CN110062226B (zh) * 2018-01-18 2021-06-11 杭州海康威视数字技术股份有限公司 一种视频编码方法、视频解码方法、装置、系统及介质
CN116634149A (zh) * 2018-03-29 2023-08-22 索尼公司 图像处理装置和图像处理方法
JP7082529B2 (ja) * 2018-06-06 2022-06-08 ルネサスエレクトロニクス株式会社 半導体装置及び半導体装置による処理方法
MX2021004630A (es) * 2018-11-02 2021-09-30 Sony Group Corp Dispositivo de procesamiento de imagen y metodo de procesamiento de imagen.
CN118042172A (zh) * 2018-12-13 2024-05-14 Sk电信有限公司 视频编码设备、视频解码方法和发送设备
KR20200073124A (ko) 2018-12-13 2020-06-23 에스케이텔레콤 주식회사 필터링 방법 및 영상 복호화 장치
JP7026065B2 (ja) * 2019-03-12 2022-02-25 Kddi株式会社 画像復号装置、画像復号方法及びプログラム
JP7267191B2 (ja) * 2019-12-26 2023-05-01 Kddi株式会社 画像復号装置、画像復号方法及びプログラム
MX2022009593A (es) * 2020-02-10 2022-08-25 Panasonic Ip Corp America Codificador, decodificador, metodo de codificacion y metodo de decodificacion.
CN113709504B (zh) * 2021-10-27 2022-02-15 深圳传音控股股份有限公司 图像处理方法、智能终端及可读存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011061880A1 (ja) * 2009-11-19 2011-05-26 三菱電機株式会社 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法

Family Cites Families (83)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5150432A (en) * 1990-03-26 1992-09-22 Kabushiki Kaisha Toshiba Apparatus for encoding/decoding video signals to improve quality of a specific region
JP2806308B2 (ja) * 1995-06-30 1998-09-30 日本電気株式会社 音声復号化装置
US6064776A (en) * 1995-10-27 2000-05-16 Kabushiki Kaisha Toshiba Image processing apparatus
WO2001018413A1 (fr) 1999-09-03 2001-03-15 Sumitomo Electric Industries, Ltd. Palier a pression dynamique et moteur a broche comprenant le palier a pression dynamique
US7929610B2 (en) * 2001-03-26 2011-04-19 Sharp Kabushiki Kaisha Methods and systems for reducing blocking artifacts with reduced complexity for spatially-scalable video coding
US6931063B2 (en) * 2001-03-26 2005-08-16 Sharp Laboratories Of America, Inc. Method and apparatus for controlling loop filtering or post filtering in block based motion compensationed video coding
US7450641B2 (en) * 2001-09-14 2008-11-11 Sharp Laboratories Of America, Inc. Adaptive filtering based upon boundary strength
KR100525785B1 (ko) * 2001-06-15 2005-11-03 엘지전자 주식회사 이미지 화소 필터링 방법
CN1968413B (zh) * 2001-09-12 2012-05-30 松下电器产业株式会社 图像解码方法
US7319415B2 (en) 2002-05-01 2008-01-15 Thomson Licensing Chroma deblocking filter
JP4580626B2 (ja) * 2002-07-11 2010-11-17 パナソニック株式会社 フィルタリング強度の決定方法、動画像符号化方法、および動画像復号化方法
CA2448064C (en) * 2002-07-11 2012-08-07 Matsushita Electric Industrial Co., Ltd. Filtering strength determination method, moving picture coding method and moving picture decoding method
US7292733B2 (en) * 2002-10-16 2007-11-06 Matsushita Electric Industrial Co., Ltd. Image processing apparatus and image processing method
US7227901B2 (en) * 2002-11-21 2007-06-05 Ub Video Inc. Low-complexity deblocking filter
US20040179610A1 (en) * 2003-02-21 2004-09-16 Jiuhuai Lu Apparatus and method employing a configurable reference and loop filter for efficient video coding
US7167522B2 (en) * 2003-02-27 2007-01-23 Texas Instruments Incorporated Video deblocking filter
KR100624429B1 (ko) * 2003-07-16 2006-09-19 삼성전자주식회사 칼라 영상을 위한 비디오 부호화/복호화 장치 및 그 방법
CN100493205C (zh) * 2003-08-19 2009-05-27 松下电器产业株式会社 动态图像编码方法及动态图像解码方法
US7599438B2 (en) 2003-09-07 2009-10-06 Microsoft Corporation Motion vector block pattern coding and decoding
US7486740B2 (en) 2004-04-02 2009-02-03 Qualcomm Incorporated Calibration of transmit and receive chains in a MIMO communication system
NO320048B1 (no) * 2004-06-14 2005-10-17 Tandberg Telecom As Fremgangsmate for chroma de-blokking
US8085846B2 (en) * 2004-08-24 2011-12-27 Thomson Licensing Method and apparatus for decoding hybrid intra-inter coded blocks
EP1646243B1 (en) * 2004-09-30 2009-06-24 Kabushiki Kaisha Toshiba Information processing apparatus and program for use in the same
JP4457346B2 (ja) * 2004-11-12 2010-04-28 ノーリツ鋼機株式会社 画像ノイズ除去方法
KR100843196B1 (ko) 2004-12-17 2008-07-02 삼성전자주식회사 H.264/avc 비디오 디코더의 디블록킹 필터
US7961963B2 (en) * 2005-03-18 2011-06-14 Sharp Laboratories Of America, Inc. Methods and systems for extended spatial scalability with picture-level adaptation
US8149926B2 (en) * 2005-04-11 2012-04-03 Intel Corporation Generating edge masks for a deblocking filter
US8488889B2 (en) * 2005-07-22 2013-07-16 Mitsubishi Electric Corporation Image encoder and image decoder, image encoding method and image decoding method, image encoding program and image decoding program, and computer readable recording medium recorded with image encoding program and computer readable recording medium recorded with image decoding program
US7920628B2 (en) * 2005-07-29 2011-04-05 Broadcom Corporation Noise filter for video compression
KR100678958B1 (ko) * 2005-07-29 2007-02-06 삼성전자주식회사 인트라 bl 모드를 고려한 디블록 필터링 방법, 및 상기방법을 이용하는 다 계층 비디오 인코더/디코더
US8681867B2 (en) * 2005-10-18 2014-03-25 Qualcomm Incorporated Selective deblock filtering techniques for video coding based on motion compensation resulting in a coded block pattern value
JP5044415B2 (ja) * 2005-11-30 2012-10-10 株式会社東芝 画像符号化/画像復号化方法及び画像符号化/画像復号化装置
WO2007081908A1 (en) * 2006-01-09 2007-07-19 Thomson Licensing Method and apparatus for providing reduced resolution update mode for multi-view video coding
JP4643453B2 (ja) * 2006-01-10 2011-03-02 株式会社東芝 情報処理装置及び情報処理装置の動画像復号方法
JP4987322B2 (ja) * 2006-02-28 2012-07-25 株式会社東芝 動画像復号装置及び動画像復号方法
JP4649347B2 (ja) * 2006-02-28 2011-03-09 株式会社東芝 情報処理装置及び情報処理装置の動画像復号方法
JP4769605B2 (ja) * 2006-03-17 2011-09-07 富士通株式会社 動画像符号装置及び方法
JP4360379B2 (ja) * 2006-05-16 2009-11-11 ソニー株式会社 画像処理装置及び画像処理方法、プログラム及び記録媒体
US9001899B2 (en) * 2006-09-15 2015-04-07 Freescale Semiconductor, Inc. Video information processing system with selective chroma deblock filtering
JP5801032B2 (ja) * 2006-11-08 2015-10-28 トムソン ライセンシングThomson Licensing インループのアーチファクト除去フィルタリングのための方法および装置
US9445128B2 (en) * 2006-12-08 2016-09-13 Freescale Semiconductor, Inc. System and method of determining deblocking control flag of scalable video system for indicating presentation of deblocking parameters for multiple layers
KR100922275B1 (ko) * 2006-12-15 2009-10-15 경희대학교 산학협력단 경계 필터링 강도의 결정 방법 및 이를 이용한 디블록킹필터링 방법과 장치
EP2116061A2 (en) 2007-01-04 2009-11-11 Thomson Licensing Methods and apparatus for reducing coding artifacts for illumination compensation and/or color compensation in multi-view coded video
JP5026092B2 (ja) * 2007-01-12 2012-09-12 三菱電機株式会社 動画像復号装置および動画像復号方法
JP2008193627A (ja) * 2007-01-12 2008-08-21 Mitsubishi Electric Corp 画像符号化装置、画像復号装置、および画像符号化方法、画像復号方法
JP5418756B2 (ja) * 2007-01-22 2014-02-19 日本電気株式会社 画像再符号化装置、画像再符号化方法及び画像再符号化プログラム
JP4847890B2 (ja) * 2007-02-16 2011-12-28 パナソニック株式会社 符号化方式変換装置
US8204129B2 (en) * 2007-03-27 2012-06-19 Freescale Semiconductor, Inc. Simplified deblock filtering for reduced memory access and computational complexity
JP2008289134A (ja) * 2007-04-20 2008-11-27 Panasonic Corp 符号化レート変換装置、集積回路、符号化レート変換方法、及びプログラム
CN101321277A (zh) * 2007-06-09 2008-12-10 华为技术有限公司 去块效应的方法及装置
JP2009004920A (ja) 2007-06-19 2009-01-08 Panasonic Corp 画像符号化装置および画像符号化方法
JPWO2009001793A1 (ja) * 2007-06-26 2010-08-26 株式会社東芝 画像符号化と画像復号化の方法及び装置
US8422803B2 (en) * 2007-06-28 2013-04-16 Mitsubishi Electric Corporation Image encoding device, image decoding device, image encoding method and image decoding method
US8619880B2 (en) * 2007-10-10 2013-12-31 Qualcomm Incorporated Universal blockiness correction
CN101212665B (zh) * 2007-12-25 2012-01-25 海信集团有限公司 一种环路滤波方法
WO2009088340A1 (en) * 2008-01-08 2009-07-16 Telefonaktiebolaget Lm Ericsson (Publ) Adaptive filtering
CN101911704A (zh) 2008-01-14 2010-12-08 汤姆森许可贸易公司 使用基于多格稀疏性的滤波来进行去伪像滤波的方法和设备
JP4919231B2 (ja) * 2008-03-24 2012-04-18 株式会社メガチップス 画像処理装置
JP2010028347A (ja) * 2008-07-17 2010-02-04 Ntt Electornics Corp プレフィルタ
TWI386068B (zh) 2008-10-22 2013-02-11 Nippon Telegraph & Telephone 解塊處理方法、解塊處理裝置、解塊處理程式及記錄該程式之可由電腦讀取之記錄媒體
CN101754010A (zh) * 2008-12-18 2010-06-23 北京中星微电子有限公司 视频数据编码的环路滤波方法和滤波器
CN101567964B (zh) * 2009-05-15 2011-11-23 南通大学 一种低码率视频应用中的预处理降噪去块效应方法
JP2010288079A (ja) * 2009-06-11 2010-12-24 Sony Corp 画像処理装置及び画像処理方法
JP2011049740A (ja) 2009-08-26 2011-03-10 Sony Corp 画像処理装置および方法
JP5818800B2 (ja) * 2009-10-05 2015-11-18 トムソン ライセンシングThomson Licensing 符号化方法及び復号化方法
US9185430B2 (en) * 2010-03-15 2015-11-10 Mediatek Singapore Pte. Ltd. Deblocking filtering method and deblocking filter
JP5393573B2 (ja) * 2010-04-08 2014-01-22 株式会社Nttドコモ 動画像予測符号化装置、動画像予測復号装置、動画像予測符号化方法、動画像予測復号方法、動画像予測符号化プログラム、及び動画像予測復号プログラム
US20110261880A1 (en) * 2010-04-27 2011-10-27 Sony Corporation Boundary adaptive intra prediction for improving subjective video quality
CN103563374B (zh) * 2011-05-27 2017-02-08 索尼公司 图像处理设备及方法
JP5709996B2 (ja) * 2011-06-30 2015-04-30 三菱電機株式会社 画像復号装置及び画像復号方法
US20130016769A1 (en) * 2011-07-17 2013-01-17 Qualcomm Incorporated Signaling picture size in video coding
US8396127B1 (en) * 2012-06-27 2013-03-12 Google Inc. Segmentation for video coding using predictive benefit
US9344729B1 (en) * 2012-07-11 2016-05-17 Google Inc. Selective prediction signal filtering
EP2898689B1 (en) * 2012-09-21 2020-05-06 Nokia Technologies Oy Method and apparatus for video coding
WO2014107709A2 (en) * 2013-01-07 2014-07-10 Vid Scale, Inc. Enhanced deblocking filters for video coding
US10708588B2 (en) * 2013-06-19 2020-07-07 Apple Inc. Sample adaptive offset control
US8983569B2 (en) 2013-06-22 2015-03-17 Zinus, Inc. Comfortably securing physiological sensors onto a person during sleep
KR102264679B1 (ko) * 2013-10-14 2021-06-14 삼성전자주식회사 휘도 보상 여부에 따른 뷰 합성 예측 적용 방법 및 장치
CN105981389B (zh) * 2014-02-03 2019-03-01 三菱电机株式会社 图像编码装置、图像解码装置、编码流变换装置、图像编码方法以及图像解码方法
US10306246B2 (en) * 2015-02-13 2019-05-28 Mediatek Inc. Method and apparatus of loop filters for efficient hardware implementation
US20180091812A1 (en) * 2016-09-23 2018-03-29 Apple Inc. Video compression system providing selection of deblocking filters parameters based on bit-depth of video data
US11451773B2 (en) * 2018-06-01 2022-09-20 Qualcomm Incorporated Block-based adaptive loop filter (ALF) design and signaling
US11683487B2 (en) * 2019-03-26 2023-06-20 Qualcomm Incorporated Block-based adaptive loop filter (ALF) with adaptive parameter set (APS) in video coding

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011061880A1 (ja) * 2009-11-19 2011-05-26 三菱電機株式会社 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法

Also Published As

Publication number Publication date
CN106954067A (zh) 2017-07-14
US9654773B2 (en) 2017-05-16
JP2016158283A (ja) 2016-09-01
US20150319463A1 (en) 2015-11-05
US20240048721A1 (en) 2024-02-08
US9210426B2 (en) 2015-12-08
CN103621083A (zh) 2014-03-05
KR102026519B1 (ko) 2019-09-27
KR20170003705A (ko) 2017-01-09
WO2013001727A1 (ja) 2013-01-03
US10863180B2 (en) 2020-12-08
KR20160038070A (ko) 2016-04-06
KR20190110159A (ko) 2019-09-27
CN106658014B (zh) 2021-01-08
JP5921651B2 (ja) 2016-05-24
KR101860606B1 (ko) 2018-05-23
BR112013028175A2 (pt) 2017-01-10
US20210044806A1 (en) 2021-02-11
JP6632456B2 (ja) 2020-01-22
US20230147899A1 (en) 2023-05-11
US20240048722A1 (en) 2024-02-08
EP2728877A4 (en) 2014-12-03
CN106658015A (zh) 2017-05-10
CN106713914A (zh) 2017-05-24
US9906795B2 (en) 2018-02-27
JPWO2013001727A1 (ja) 2015-02-23
US11831881B2 (en) 2023-11-28
KR20140027483A (ko) 2014-03-06
CN106941608A (zh) 2017-07-11
CN106713914B (zh) 2021-06-01
JP2018082498A (ja) 2018-05-24
KR20150009984A (ko) 2015-01-27
KR102024516B1 (ko) 2019-09-24
US20190261002A1 (en) 2019-08-22
KR20180054893A (ko) 2018-05-24
BR112013028175B1 (pt) 2022-05-31
CN106941608B (zh) 2021-01-15
CN106954067B (zh) 2020-08-18
US10334251B2 (en) 2019-06-25
JP2019050637A (ja) 2019-03-28
EP2728877A1 (en) 2014-05-07
CN106658014A (zh) 2017-05-10
KR101607781B1 (ko) 2016-03-30
JP6463521B2 (ja) 2019-02-06
JP6863669B2 (ja) 2021-04-21
JP2020102855A (ja) 2020-07-02
US20240048720A1 (en) 2024-02-08
US11575906B2 (en) 2023-02-07
CN106658015B (zh) 2020-08-18
US20170244971A1 (en) 2017-08-24
US20180139452A1 (en) 2018-05-17
JP6667609B2 (ja) 2020-03-18
JP5709996B2 (ja) 2015-04-30
CN103621083B (zh) 2017-04-12
KR102111917B1 (ko) 2020-05-18
US20240048723A1 (en) 2024-02-08
US20140044369A1 (en) 2014-02-13

Similar Documents

Publication Publication Date Title
JP6463521B2 (ja) 画像符号化装置、画像符号化方法、画像復号装置および画像復号方法
JP6082073B2 (ja) 画像復号装置、画像復号方法、画像符号化装置、画像符号化方法及びビットストリーム
WO2013108882A1 (ja) 動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法
JP2012080212A (ja) 動画像符号化装置、動画像復号装置、動画像符号化方法及び動画像復号方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20141126

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150901

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160219

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160315

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160412

R150 Certificate of patent or registration of utility model

Ref document number: 5921651

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250