JP6634936B2 - 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法、画像復号プログラムおよび画像伝送システム - Google Patents

画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法、画像復号プログラムおよび画像伝送システム Download PDF

Info

Publication number
JP6634936B2
JP6634936B2 JP2016075656A JP2016075656A JP6634936B2 JP 6634936 B2 JP6634936 B2 JP 6634936B2 JP 2016075656 A JP2016075656 A JP 2016075656A JP 2016075656 A JP2016075656 A JP 2016075656A JP 6634936 B2 JP6634936 B2 JP 6634936B2
Authority
JP
Japan
Prior art keywords
operation mode
image
code
signal
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016075656A
Other languages
English (en)
Other versions
JP2017188765A (ja
Inventor
三好 秀誠
秀誠 三好
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2016075656A priority Critical patent/JP6634936B2/ja
Priority to US15/461,975 priority patent/US10097827B2/en
Priority to CN201710213869.8A priority patent/CN107454396B/zh
Publication of JP2017188765A publication Critical patent/JP2017188765A/ja
Application granted granted Critical
Publication of JP6634936B2 publication Critical patent/JP6634936B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/14Coding unit complexity, e.g. amount of activity or edge presence estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • H04N19/463Embedding additional information in the video signal during the compression process by compressing encoding parameters before transmission
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91Entropy coding, e.g. variable length coding [VLC] or arithmetic coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法、画像復号プログラムおよび画像伝送システムに関する。
次世代の動画像符号化規格として、H.265/HEVC(High Efficiency Video Coding)規格(以下、「HEVC規格」と略称する)が注目されている。HEVC規格では、従来のH.264/MPEG−4 AVC(Moving Picture Experts Group-phase 4 Advanced Video Coding)規格と比較して、約2倍の圧縮性能を有する。また、HEVC規格では、SAO(Sample Adaptive Offset)と呼ばれる適応フィルタを用いて、復号画像の画質を改善できるようになっている。
この適応フィルタに関する技術としては、例えば、適応オフセット部からのquad−tree構造と、決定した輝度信号に対するオフセット値を参照して、分割された領域ごとに色差信号に対するオフセット値を算出する画像処理装置が提案されている。
また、HEVC規格での復号技術としては、例えば、色差信号のイントラ予測パラメータに応じて、色差信号に対する方向性予測、または輝度信号と色差信号との相関パラメータに基づいて色差信号の予測画像を生成する画像復号装置が提案されている。
特開2013−12845号公報 国際公開第2014−163200号
上記の適応フィルタについての設定項目は複数存在し、符号化処理の際には、各項目についての設定値が符号化されて符号化データに設定される。このように、動画像の符号化データには、多数の項目についての設定値を符号化した情報が設定される。このことが、符号化データのデータ量を増大させる要因となる。
1つの側面では、本発明は、符号化データのデータ量を削減可能な画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法、画像復号プログラムおよび画像伝送システムを提供することを目的とする。
1つの案では、モード決定部と符号化部とを有する次のような画像符号化装置が提供される。この画像符号化装置において、モード決定部は、入力画像のブロックに対して復号時に使用される適応フィルタについての第1の動作モードおよび第2の動作モードを決定する。このモード決定部は、入力画像の第1の信号に基づいて第1の動作モードを決定し、入力画像の第2の信号に基づいて第2の動作モードを決定する。符号化部は、第2の動作モードと第1の動作モードとの類似性が高いほど、ビット数が小さい符号を第2の動作モードに割り当てることで、第2の動作モードを符号化する。
また、1つの案では、上記の画像符号化装置と同様の処理をコンピュータが実行する画像符号化方法が提供される。
さらに、1つの案では、上記の画像符号化装置と同様の処理をコンピュータに実行させる画像符号化プログラムが提供される。
また、1つの案では、復号部とフィルタ処理部とを有する次のような画像復号装置が提供される。この画像復号装置において、復号部は、入力された符号化動画像データから、適応フィルタについての第1の動作モードおよび第2の動作モードにそれぞれ対応する第1の符号および第2の符号を抽出し、第1の符号に基づいて第1の動作モードを判別し、第2の符号のビット数が小さいほど、第2の動作モードを、判別された第1の動作モードとの類似性が高い動作モードと判別する。フィルタ処理部は、符号化動画像データから復号された復号画像におけるブロックの第1の信号に対して、適応フィルタを用いた処理を判別された第1の動作モードにしたがって実行し、ブロックの第2の信号に対して、適応フィルタを用いた処理を判別された第2の動作モードにしたがって実行する。
また、1つの案では、上記の画像復号装置と同様の処理をコンピュータが実行する画像復号方法が提供される。
また、1つの案では、上記の画像復号装置と同様の処理をコンピュータに実行させる画像復号プログラムが提供される。
また、1つの案では、符号化動画像データを生成する画像符号化装置と、符号化動画像データを復号する画像復号装置とを有する、次のような画像伝送システムが提供される。この画像伝送システムにおいて、画像符号化装置は、モード決定部と符号化部とを有する。モード決定部は、入力画像のブロックに対して復号時に使用される適応フィルタについての第1の動作モードおよび第2の動作モードを決定する。このモード決定部は、入力画像の第1の信号に基づいて第1の動作モードを決定し、入力画像の第2の信号に基づいて第2の動作モードを決定する。符号化部は、第1の動作モードに第1の符号を割り当て、第2の動作モードと第1の動作モードとの類似性が高いほど、ビット数が小さい第2の符号を第2の動作モードに割り当て、第1の符号と第2の符号を符号化動画像データに設定する。また、画像復号装置は、復号部とフィルタ処理部とを有する。復号部は、符号化動画像データから第1の符号と第2の符号を抽出し、第1の符号に基づいて第1の動作モードを判別し、第2の符号のビット数が小さいほど、第2の動作モードを、判別された第1の動作モードとの類似性が高い動作モードと判別する。フィルタ処理部は、符号化動画像データから復号されたブロックの第1の信号に対して、適応フィルタを用いた処理を判別された第1の動作モードにしたがって実行し、符号化動画像データから復号されたブロックの第2の信号に対して、適応フィルタを用いた処理を判別された第2の動作モードにしたがって実行する。
1つの側面では、符号化データのデータ量を削減できる。
第1の実施の形態に係る画像符号化装置の構成例および処理例を示す図である。 第2の実施の形態に係る画像符号化装置の構成例を示す図である。 SAOについて説明するための図である。 輝度信号のフィルタモードにインデックスを割り当てるための割り当てテーブルを示す図である。 輝度信号と色差信号との相関について説明するための図である。 インデックスの割り当てテーブルの例を示す図である。 エントロピー符号化の際のビット記号の割り当てテーブルの例を示す図である。 フィルタモードの符号化処理手順の例を示すフローチャートである。 色差信号のフィルタモードに対するインデックス割り当て処理手順の例を示すフローチャートである。 第2の実施の形態に係る画像復号装置の構成例を示す図である。 画像復号装置におけるフィルタモードの復号およびSAO処理手順の例を示すフローチャートである。 色差信号のフィルタモードの設定処理手順の例を示すフローチャートである。 画像符号化装置がコンピュータとして実現される場合のハードウェア構成例を示す図である。 変形例1の画像符号化装置における、色差信号のフィルタモードに対するインデックス割り当て処理手順の例を示すフローチャートである。 色差信号用の割り当てテーブルの例を示す図である。 変形例1の画像復号装置における、色差信号のフィルタモードの設定処理手順の例を示すフローチャートである。 周囲のブロックの状況に基づくEOクラスの決定処理の例を示す図である。 変形例2の画像符号化装置における、色差信号のフィルタモードに対するインデックス割り当て処理手順の例を示すフローチャートである。 変形例2の画像復号装置における、色差信号のフィルタモードの設定処理手順の例を示すフローチャートである。 第3の実施の形態に係る画像伝送システムの構成例を示す図である。
以下、本発明の実施の形態について図面を参照して説明する。
〔第1の実施の形態〕
図1は、第1の実施の形態に係る画像符号化装置の構成例および処理例を示す図である。画像符号化装置10は、入力画像を符号化して符号化データを生成する装置である。入力画像は、動画像である。以下、入力画像1が入力され、符号化データ2が出力されるものとして説明する。
画像符号化装置10は、モード決定部11と符号化部12を有する。モード決定部11と符号化部12は、例えば、半導体回路として実現される。また、モード決定部11と符号化部12の処理の少なくとも一部は、プロセッサが所定のプログラムを実行することで実現されてもよい。
モード決定部11は、入力画像1における符号化対象のブロック1aに対して復号時に使用される適応フィルタについての第1の動作モードと第2の動作モードを決定する。モード決定部11は、入力画像1の第1の信号に基づいて第1の動作モードを決定し(ステップS1a)、入力画像1の第2の信号に基づいて第2の動作モードを決定する(ステップS1b)。なお、例えば、第1の信号は輝度信号であり、第2の信号は色差信号である。あるいは、第1の信号はG(Green)信号であり、第2の信号はR(Red)信号およびB(Blue)信号に基づく信号であってもよい。
符号化部12は、第1の動作モードおよび第2の動作モードを示す情報を符号化データ2に組み込むために、第1の動作モードおよび第2の動作モードを符号化する(ステップS2a,S2b)。符号化部12は、第2の動作モードと第1の動作モードとの類似性が高いほど、ビット数が小さい符号を第2の動作モードに割り当てることで、第2の動作モードを符号化する。
第1の信号と第2の信号は同じ入力画像1の信号成分なので、第1の信号と第2の信号との間には相関がある。このため、第2の動作モードは第1の動作モードと類似する可能性が高い。例えば、第2の動作モードが第1の動作モードとは異なる可能性より、第2の動作モードが第1の動作モードと同じになる可能性が高い。したがって、上記の処理が入力画像1内の各ブロックについて実行されたとき、各ブロックに対応する第2の動作モードとして、小さいビット数の符号が割り当てられる可能性が高くなる。
例えば、第2の動作モードが第1の動作モードと同じ場合、第2の動作モードに1ビットの符号が割り当てられ、第2の動作モードが第1の動作モードと異なる場合、第2の動作モードに2ビットの符号が割り当てられるとする。この場合、上記のように第2の動作モードは第1の動作モードと同じになる可能性が高いことから、各ブロックに対応する第2の動作モードとして、2ビットの符号より1ビットの符号が割り当てられる可能性が高くなる。
これにより、符号化データ2には、第2の動作モードとして1ビットの符号が設定される確率が高くなる。その結果、符号化データ2のデータ量を削減できる。
なお、上記手順で生成された符号化データ2を受信した画像復号装置(図示せず)は、次のような復号処理を実行することができる。画像復号装置は、受信した符号化データ2から、ブロック1aに対応する第1の動作モードおよび第2の動作モードをそれぞれ示す第1の符号および第2の符号を取得する。画像復号装置は、第1の符号に基づいて第1の動作モードを判別する。また、画像復号装置は、判別された第1の動作モードと、第2の符号とに基づいて、第2の動作モードを判別する。第2の動作モードの判別では、画像復号装置は、第2の符号のビット数が小さいほど、第2の動作モードを、判別された第1の動作モードとの類似性が高い動作モードと判別する。
画像復号装置は、このようにして判別された第1の動作モードおよび第2の動作モードを適用して、復号画像上のブロック1aに対する適応フィルタの処理を実行する。これにより、例えば、入力画像1に対応する復号画像の画質を向上させることができる。
〔第2の実施の形態〕
次に、第2の実施の形態として、HEVC規格にしたがって動画像の符号化および復号をそれぞれ実行する画像符号化装置および画像復号装置について説明する。
図2は、第2の実施の形態に係る画像符号化装置の構成例を示す図である。画像符号化装置100は、予測誤差信号生成部101、直交変換部102、量子化部103、逆量子化部104、逆直交変換部105、復号画像生成部106、デブロッキングフィルタ107、SAO部108、復号画像記憶部109、動き探索部110、動き補償部111、予測画像生成部112およびエントロピー符号化部113を有する。
画像符号化装置100に入力された動画像データの各ピクチャは、ブロックに分割される。予測誤差信号生成部101は、符号化対象ブロックを取得し、取得した符号化対象ブロックと、予測画像生成部112から出力される予測画像との差分を演算することにより、予測誤差信号を生成する。
直交変換部102は、予測誤差信号生成部101から出力された予測誤差信号を直交変換し、水平方向および垂直方向の周波数成分に分離された信号を出力する。量子化部103は、直交変換部102からの出力信号を量子化する。これにより、予測誤差信号の情報量が削減される。
逆量子化部104は、量子化部103から出力された量子化データを逆量子化する。逆直交変換部105は、逆量子化部104からの出力データを逆直交変換する。これにより、符号化前の予測誤差信号に対応する信号が得られる。復号画像生成部106は、予測画像生成部112から出力された予測画像のブロックデータと、逆直交変換部105からの出力信号とを加算する。これにより、符号化対象ブロックを再生した局所復号画像のブロックデータが生成される。
デブロッキングフィルタ107は、復号画像生成部106から出力された局所復号画像のブロックデータに対して、ブロック歪みを低減するためのフィルタ処理を施す。SAO部108は、デブロッキングフィルタ107によって処理された局所復号画像のブロックデータに対して、所定の方法で画素値にオフセットを加算する処理を施す。
復号画像記憶部109は、SAO部108によって処理された局所復号画像のブロックデータを、新たな参照ピクチャのブロックデータとして記憶する。動き探索部110は、ブロックマッチング技術を用いて、符号化対象ブロックと類似する領域を、復号画像記憶部109に記憶された参照ピクチャから判別し、判別した領域を示す動きベクトルを算出する。動き補償部111は、復号画像記憶部109から読み出した参照ピクチャを、動き探索部110によって算出された動きベクトルを用いて動き補償することで、インター予測の予測画像を生成する。予測画像生成部112は、イントラ予測またはインター予測の予測画像を出力する。イントラ予測の予測画像は、復号画像記憶部109に記憶された参照ピクチャにおける符号化済みの周辺ブロックのデータに基づいて生成される。インター予測の予測画像は、動き補償部111から取得される。
エントロピー符号化部113は、量子化部103から出力された量子化データをエントロピー符号化し、動画像ストリームとして出力する。このエントロピー符号化とは、シンボルの出現頻度に応じて可変長の符号を割り当てる符号化方式を指す。
また、画像符号化装置100はさらに、SAOのフィルタモードについてのインデックスを算出するための機能として、インデックス生成部121、インデックス記憶部122およびインデックス生成部123を有する。
インデックス生成部121は、SAO部108によって決定された輝度信号のフィルタモードの入力を受け、そのフィルタモードのインデックスを生成する。インデックス記憶部122は、インデックス生成部121によって生成された、輝度信号のフィルタモードのインデックスを一時的に記憶する。インデックス生成部123は、インデックス記憶部122に記憶された輝度信号のフィルタモードのインデックスと、SAO部108によって決定された色差信号のフィルタモードとに基づいて、色差信号のフィルタモードのインデックスを生成する。エントロピー符号化部113は、エントロピー符号化対象のシンタックスの1つとして、インデックス生成部121,123からそれぞれフィルタモードのインデックスを取得し、取得したインデックスをエントロピー符号化する。
ところで、動画像符号化で用いられる画像フォーマットとして、輝度信号(Y信号)と色差信号(U信号、V信号)とを分離したYUVフォーマットが知られている。なお、色差信号としてCb信号、Cr信号が用いられる場合もある。また、YUVフォーマットにしたがった画像信号のデータ量を削減する方式としては、色差信号の解像度を落とす方式が知られている。
具体的には、色差信号の解像度を落とさない(すなわち、輝度信号と色差信号の解像度が同じ)フォーマットは、「4:4:4」と呼ばれる。また、色差信号についての水平方向の解像度を1/2に間引いたフォーマットは、「4:2:2」と呼ばれる。さらに、色差信号についての水平方向および垂直方向の解像度をともに1/2に間引くことで、色差信号についての全体の解像度を1/4に落としたフォーマットは、「4:2:0」と呼ばれる。本実施の形態の画像符号化装置100は、上記のいずれのフォーマットの画像信号についても符号化が可能である。
また、4:4:4フォーマットでは、YUV信号の代わりにRGB信号が用いられる場合もある。この場合、HEVC規格書Annex Eに記載の通り、G信号、B信号、R信号をそれぞれY信号、U信号、V信号と見なして信号が伝送される。これによって、YUV信号の場合と同様に画像符号化処理が実行可能となる。本実施の形態の画像符号化装置100は、このような画像信号についても符号化が可能である。
次に、図3は、SAOについて説明するための図である。
SAOは、HEVC規格で新たに導入されたループフィルタ技術である。その目的は、動き補償フィルタに起因するリンギングの低減や、デコード画面に発生することがある画素値のずれの補正によって、画質を改善することである。SAOのフィルタ処理では、所定の方法にしたがって画素値にオフセットが加算される。また、SAOのパラメータ(フィルタモード)は、CTU(Coding Tree Unit)ごとに設定される。
図3に示すように、SAOのフィルタ処理タイプ(SAOタイプ)には、エッジオフセット(EO)と、バンドオフセット(BO)と、フィルタ処理を行わないNoneとがある。SAOタイプは、CTU単位で輝度信号、色差信号に対して別々に指定可能である。輝度信号のSAOタイプはsao_type_idx_lumaというシンタックス要素によって指定され、色差信号のSAOタイプはsao_type_idx_chromaというシンタックス要素によって指定されて、符号化器から復号器へ伝送される。
エッジオフセットは、ある画素Cとそれに隣接する隣接画素N0,N1との関係に基づいて、画素値にオフセット値を加算する処理である。一方、バンドオフセットは、画素の階調を32個のバンドに分割し、連続する4個のバンドに対して、バンドごとに設定したオフセット値を加算する処理である。
エッジオフセットについては、隣接画素N0,N1の位置に応じた4つのクラス(以下、「EOクラス」と記載する)が選択される。図3に示すように、EOクラスの違いは隣接画素の配列方向の違いを表しており、これはすなわちエッジの角度の違いを表す。EOクラス0はエッジ角度0°を示し、EOクラス1はエッジ角度90°を示し、EOクラス2はエッジ角度135°を示し、EOクラス3はエッジ角度45°を示す。
EOクラスは、CTU単位で輝度信号、色差信号に対して別々に指定可能である。輝度信号のEOクラスはsao_eo_class_lumaというシンタックス要素によって指定され、色差信号のEOクラスはsao_eo_class_chromaというシンタックス要素によって指定されて、符号化器から復号器へ伝送される。
さらに、選択されたEOクラスに対して、画素Cと隣接画素N0,N1との画素値の相対関係に応じて決まる4種類のカテゴリごとに、オフセットの絶対値が設定される。
ここで、EOクラスの選択処理例について説明する。画素Cと隣接画素N0,N1との関係に基づいて、次の4つのカテゴリが規定される。
カテゴリ1:C<N0かつC<N1
カテゴリ2:C<N0かつC=N1、またはC=N0かつC<N1
カテゴリ3:C>N0かつC=N1、またはC=N0かつC>N1
カテゴリ4:C>N0かつC>N1
SAOは、これらのカテゴリの中で最大の誤差を最小化するためのオフセットを加算するものである。これにより、符号化誤差を小さくすることがSAOの目的である。そこで、画像符号化装置100は、EOクラスごとに各カテゴリの誤差の累積を求める。入力画像(原画像)の画素をO(x,y)、デブロッキングフィルタ107から出力された復号画像の画素をR(x,y)と表すと、EOクラス0(エッジの角度0°)の場合、誤差EはO(x,y)−R(x,y)によって算出される。画素Cをカテゴリに分類したとき、カテゴリnについての誤差累積値E(n)はΣ{O(x,y)−R(x,y)}と表される。また、EOクラス0についてのカテゴリnごとの誤差累積値E(n)のうちの最大誤差絶対値|E(n)|を、E(クラス0)と表す。同様の手順により、EOクラス1〜3のそれぞれについて最大誤差絶対値E(クラス1),E(クラス2),E(クラス3)が算出される。画像符号化装置100は、算出された最大誤差絶対値が最大となるEOクラスを、復号時に適用するEOクラスに決定する。
一方、バンドオフセットについても最大誤差絶対値を求めることが可能である。画像符号化装置100は最終的に、エッジオフセットとバンドオフセットとで最大誤差絶対値が最大となるように、SAOに関する設定値を決定する。これにより、少なくともSAOタイプおよびEOクラスを決定できる。
なお、本実施の形態では、SAOに関するシンタックス要素のうち、上記のsao_type_idx_luma、sao_type_idx_chroma、sao_eo_class_luma、sao_eo_class_chromaを「フィルタモード」と呼ぶ場合がある。
図4は、輝度信号のフィルタモードにインデックスを割り当てるための割り当てテーブルを示す図である。図4に示す割り当てテーブル131a,131bは、例えば、画像符号化装置100が備える記憶部130にあらかじめ格納されて、インデックス生成部121から参照される。なお、記憶部130は、例えば、フラッシュメモリやEEPROM(Electrically Erasable Programmable Read Only Memory)などの不揮発性記録媒体の記憶領域として実装される。
SAO部108によって輝度信号のSAOタイプが決定されると、インデックス生成部121は、割り当てテーブル131aに基づいて、SAOタイプを示すフィルタモード(sao_type_idx_luma)にインデックス(シンタックス要素値)を割り当てる。また、SAO部108によって、輝度信号のSAOタイプがバンドオフセット(BO)に決定され、さらにEOタイプが決定されると、インデックス生成部121は、割り当てテーブル131bに基づいて、EOタイプを示すフィルタモード(sao_eo_class_luma)にインデックスを割り当てる。なお、インデックスの数値が小さいほど、エントロピー符号化の際に割り当てられるビット数が小さくなる。
ここで、従来は、色差信号のフィルタモードについても、図4と同様の対応関係に基づいてインデックスが割り当てられていた。これに対して、本実施の形態では、インデックス生成部123は、輝度信号と色差信号との相関に基づき、色差信号のフィルタモードの設定値のうち、色差信号について決定される可能性の高い設定値に対して小さいインデックスを割り当てる。これにより、エントロピー符号化の際にフィルタモードに対して小さいビット数の符号が割り当てられる可能性が高くなり、その結果、ビデオストリームのデータ容量を削減できる。
図5は、輝度信号と色差信号との相関について説明するための図である。図5では例として、人物161が写った画像を、Y信号に基づく画像Pyと、U信号に基づく画像Puと、V信号に基づく画像Pvとに分解して示している。
Y,U,Vの各信号間では、画素値そのものには相関はないが、エッジの有無やエッジの方向には相関がある。例えば、輝度信号に基づく画像にエッジがあるということは、そのエッジ部分で色味も変化している可能性が高い。図5の例では、Y信号に基づく画像Pyにおける人物161と背景との間のエッジの領域については、U信号、V信号にそれぞれ基づく画像Pu,Pvでもエッジである可能性が高い。
また、色差信号の間引き率が小さいほど、エッジの精細さが維持されるため、輝度信号との間の相関がより高くなる。したがって、4:4:4フォーマット、4:2:2フォーマット、4:2:0フォーマットの順で、輝度信号と色差信号との間の相関が高いと言える。
このように、Y,U,Vの各信号間では、エッジの有無やエッジの方向に相関がある。このため、色差信号のフィルタモードの設定値は、輝度信号のフィルタモードの設定値と同じになる可能性が高い。そこで、インデックス生成部123は、色差信号のフィルタモードについてSAO部108で決定された設定値が、輝度信号のフィルタモードの設定値と類似するほど、色差信号のフィルタモードの設定値に対して小さいインデックスを割り当てる。具体的には、インデックス生成部123は、次の図6に示す変換テーブルに基づいてインデックスを割り当てる。
図6は、インデックスの割り当てテーブルの例を示す図である。図6に示す割り当てテーブル132a〜132cは、例えば、前述の記憶部130にあらかじめ格納されて、インデックス生成部123から参照される。
割り当てテーブル132aは、色差信号のSAOタイプを示すフィルタモード(sao_type_idx_chroma)にインデックスを割り当てるために利用される。割り当てテーブル132aにおいては、輝度信号について決定されたSAOタイプのインデックスと、色差信号について決定されたSAOタイプとの組み合わせごとに、インデックスが対応付けられている。したがって、インデックス生成部123は、SAO部108によって色差信号のSAOタイプが決定されると、色差信号のSAOタイプをSAO部108から取得するとともに、同じブロックについての輝度信号のSAOタイプのインデックスをインデックス記憶部122から取得する。そして、インデックス生成部123は、取得したこれらの情報と割り当てテーブル132aとに基づいて、sao_type_idx_chromaにインデックスを割り当てる。
上記のように、輝度信号と色差信号との間では、エッジの有無や方向に相関がある。このため、割り当てテーブル132aによれば、色差信号のSAOタイプが輝度信号のSAOタイプと同じ場合に、色差信号のSAOタイプに対して最も小さい値のインデックスが割り当てられる。
また、輝度信号と色差信号とで異なるタイプのフィルタ処理が選択される(すなわち、一方のSAOタイプがエッジオフセットで他方のSAOタイプがバンドオフセットとなる)可能性は低い。なぜなら、同じ領域について、輝度信号と色差信号のうち一方にはエッジが存在し、他方はフラットになる可能性は低いからである。このため、割り当てテーブル132aによれば、輝度信号と色差信号のうち、一方のSAOタイプがエッジオフセットで他方のSAOタイプがバンドオフセットの場合に、色差信号のSAOタイプに対して最も大きい値のインデックスが割り当てられる。
また、Noneは、例えば、エッジがある、あるいはフラットであるといった特性がブロックから検出されなかった場合に選択される。Noneとエッジオフセットまたはバンドオフセットとの類似性は、特性が異なるエッジオフセットとバンドオフセットとの類似性より高いと考えられる。このため、割り当てテーブル132aによれば、輝度信号と色差信号のうち、一方のSAOタイプがNoneで他方のSAOタイプがエッジオフセットまたはバンドオフセットの場合に、色差信号のSAOタイプに対して中間的な値のインデックスが割り当てられる。
一方、割り当てテーブル132b,132cは、色差信号のEOクラスを示すフィルタモード(sao_eo_class_chroma)にインデックスを割り当てるために利用される。まず、輝度信号と色差信号の両方ともSAOタイプとしてエッジオフセットが選択された場合、割り当てテーブル132bを用いてsao_eo_class_chromaにインデックスが割り当てられる。
割り当てテーブル132bにおいては、輝度信号について決定されたEOクラスのインデックスと、色差信号について決定されたEOクラスとの組み合わせごとに、インデックスが対応付けられている。したがって、インデックス生成部123は、SAO部108によって色差信号のEOクラスが決定されると、色差信号のEOクラスをSAO部108から取得するとともに、同じブロックについての輝度信号のEOクラスのインデックスをインデックス記憶部122から取得する。そして、インデックス生成部123は、取得したこれらの情報と割り当てテーブル132bとに基づいて、sao_eo_class_chromaにインデックスを割り当てる。
ある領域について、輝度信号にエッジが存在する場合には、色差信号にも同じ角度のエッジが存在する可能性が高い。そこで、割り当てテーブル132bによれば、色差信号のEOクラスが輝度信号のEOクラスと同じ場合(すなわち、エッジの角度が同じ場合)に、色差信号のEOクラスに対して最も小さい値のインデックスが割り当てられる。
逆に、色差信号と輝度信号との間でエッジの角度の差が大きい(すなわち、180°に近い)EOクラスが選択される可能性は低い。エッジの角度の差が大きいほど、EOクラス間の類似度は低いと言える。そこで、割り当てテーブル132bによれば、輝度信号と色差信号との間でのEOクラスの組み合わせが、エッジの角度の差が大きい組み合わせであるほど、色差信号のEOクラスに対して大きい値のインデックスが割り当てられる。例えば、輝度信号と色差信号との間でのEOクラスの組み合わせが、クラス0とクラス1、またはクラス2とクラス3である場合に、色差信号のEOクラスに対して最も大きい値のインデックスが割り当てられる。
以上の割り当てテーブル132a,132cを用いることで、色差信号のフィルタモードの設定値として出現する確率が高いほど、小さい値のインデックスが割り当てられるようになる。
一方、色差信号のSAOタイプとしてエッジオフセットが選択され、輝度信号のSAOタイプとしてそれ以外のタイプが選択された場合には、割り当てテーブル132cを用いてsao_eo_class_chromaにインデックスが割り当てられる。割り当てテーブル132cにおいては、輝度信号についての割り当てテーブル131b(図4参照)と同様に、色差信号についてSAO部108で決定されたSAOタイプに対してインデックスが対応付けられている。したがって、インデックス生成部123は、色差信号のSAOタイプとしてエッジオフセットが選択され、輝度信号のSAOタイプとしてそれ以外のタイプが選択された場合、色差信号についてSAO部108で決定されたSAOタイプだけに基づいて、割り当てテーブル132cにしたがってsao_eo_class_chromaにインデックスを割り当てる。
図7は、エントロピー符号化の際のビット記号の割り当てテーブルの例を示す図である。図7に示す割り当てテーブル133は、例えば、前述の記憶部130にあらかじめ格納されて、エントロピー符号化部113から参照される。
エントロピー符号化部113は、インデックス生成部121によって輝度信号のフィルタモード(sao_type_idx_luma、sao_eo_class_luma)に割り当てられたインデックスに対して、割り当てテーブル133に基づいてビット記号(符号)を割り当てる。また、エントロピー符号化部113は、インデックス生成部123によって色差信号のフィルタモードに割り当てられたインデックス(sao_type_idx_chroma、sao_eo_class_chroma)に対して、割り当てテーブル133に基づいてビット記号(符号)を割り当てる。
図7に示すように、割り当てテーブル133によれば、小さい値のインデックスほどビット数が小さいビット記号が割り当てられる。図5,図6で説明したように、色差信号のフィルタモードについては、輝度信号との相関に基づき、出現確率が高い設定値ほど小さい値のインデックスが割り当てられている。このため、色差信号のフィルタモードの設定値に対しては、出現確率が高いほど、エントロピー符号化の際にビット数が小さいビット記号が割り当てられる。その結果、符号化データのサイズを削減できる。
なお、図7では、シンタックス要素の設定値として取り得るパターン数に応じて、インデックスに割り当てるビット記号の例を複数示している。sao_type_idx_lumaおよびsao_type_idx_chromaは3パターンの設定値を取り得るので、例1に基づいてビット記号が割り当てられる。また、sao_eo_class_lumaおよびsao_eo_class_chromaは4パターンの設定値を取り得るので、例2に基づいてビット記号が割り当てられる。
ここで、4:4:4フォーマットでR,G,Bの各信号が用いられる場合について補足説明する。前述のように、4:4:4フォーマットでは、G信号、B信号、R信号をそれぞれY信号、U信号、V信号と見なして信号が伝送される場合がある。R,G,Bの各信号は、例えば次の式(1−1)〜(1−3)にしたがって、Y,U,Vの各信号から変換される。なお、これらの式(1−1)〜(1−3)は、ITU−R(International Telecommunication Union−Radiocommunications sector) BT.709で規定されている。
R=1.000*Y+0.000*U+1.402*V ・・・(1−1)
G=1.000*Y−0.344*U−0.714*V ・・・(1−2)
B=1.000*Y+1.772*U+0.000*V ・・・(1−3)
式(1−1)〜(1−3)に示すように、R,G,Bの各信号はいずれも輝度信号と色差信号とから計算される。しかも、4:4:4フォーマットでは、水平方向と垂直方向のいずれの方向にも間引きが行われないので、信号成分の間の相関が高い。このため、4:4:4フォーマットでR,G,Bの各信号を用いた場合でも、これらの信号の間ではエッジの有無やエッジの方向に高い相関があると言える。したがって、このような場合でも、図6の割り当てテーブル132a,132bを用いてB信号およびR信号に基づくフィルタモードにインデックスが割り当てられることで、符号化データのサイズを削減できる。
以下の説明では、Y,U,Vの各信号を用いた場合の処理について記載するが、4:4:4フォーマットでR,G,Bの各信号を用いた場合でも、同様の手順で符号化処理および復号処理を実行可能であり、符号化データのサイズ削減という同様の効果が得られる。
次に、画像符号化装置100におけるフィルタモードの符号化処理手順について、フローチャートを用いて説明する。
図8は、フィルタモードの符号化処理手順の例を示すフローチャートである。
[ステップS11]デブロッキングフィルタ107から出力された復号画像の各ブロックについて、ステップS11〜S22のブロックループの処理が実行される。
[ステップS12]符号化対象として選択されたブロックについて、ステップS12〜S21の信号ループの処理が実行される。
[ステップS13]SAO部108は、輝度信号を処理するか、色差信号を処理するかを判定する。輝度信号を処理する場合、ステップS14の処理が実行され、色差信号を処理する場合、ステップS17の処理が実行される。なお、SAO部108は、同じブロックについて、先に輝度信号を処理し、その後に色差信号を処理する。
[ステップS14]SAO部108は、復号画像のブロックおよびその周囲のブロックの輝度信号に基づいて、輝度信号のフィルタモードを決定する。具体的には、SAO部108は、輝度信号のSAOタイプを決定する。また、SAOタイプがエッジオフセットに決定された場合、SAO部108は、輝度信号のEOタイプを決定する。
[ステップS15]インデックス生成部121は、輝度信号用の割り当てテーブル131aに基づいて、輝度信号のSAOタイプを示すsao_type_idx_lumaにインデックスを割り当てる。また、SAOタイプがエッジオフセットの場合、インデックス生成部121は、輝度信号用の割り当てテーブル131bに基づいて、輝度信号のEOクラスを示すsao_eo_class_lumaにインデックスを割り当てる。
[ステップS16]インデックス生成部121は、ステップS15で割り当てたインデックスをインデックス記憶部122に格納する。
[ステップS17]SAO部108は、ブロックおよびその周囲のブロックの色差信号に基づいて、色差信号のフィルタモードを決定する。具体的には、SAO部108は、色差信号のSAOタイプを決定する。また、SAOタイプがエッジオフセットに決定された場合、SAO部108は、色差信号のEOクラスを決定する。
[ステップS18]インデックス生成部123は、インデックス記憶部122から、ステップS16で格納された同じブロックについてのフィルタモードのインデックスを読み出す。
[ステップS19]インデックス生成部123は、色差信号のフィルタモードにインデックスを割り当てる。処理の詳細は、後の図9において説明する。
[ステップS20]エントロピー符号化部113は、ステップS15またはステップS19で割り当てられたインデックスをインデックス生成部121またはインデックス生成部123から取得する。エントロピー符号化部113は、割り当てテーブル133に基づいて、取得したインデックスに符号を割り当て、エントロピー符号化する。
[ステップS21]輝度信号と色差信号の両方について処理が完了すると、信号ループの処理が終了する。
[ステップS22]復号画像の各ブロックについて処理が完了すると、ブロックループの処理が終了する。
図9は、色差信号のフィルタモードに対するインデックス割り当て処理手順の例を示すフローチャートである。この図9の処理は、図8のステップS19の処理に対応する。
[ステップS191]インデックス生成部123は、ステップS18で取得した輝度信号のSAOタイプ(sao_type_idx_luma)のインデックスと、ステップS17で決定された色差信号のSAOタイプとに基づいて、色差信号用の割り当てテーブル132aにしたがって色差信号のSAOタイプを示すsao_type_idx_chromaにインデックスを割り当てる。
ここで、インデックス生成部123は、ステップS17で決定された色差信号のSAOタイプがエッジオフセットである場合には、ステップS192以降の処理を実行する。一方、色差信号のSAOタイプがエッジオフセットでない場合には、ステップS192〜S194の処理はスキップされる。
[ステップS192]インデックス生成部123は、輝度信号のSAOタイプがエッジオフセットかを判定する。エッジオフセットの場合、ステップS193の処理が実行され、エッジオフセットでない場合、ステップS194の処理が実行される。
[ステップS193]インデックス生成部123は、ステップS18で取得した輝度信号のEOクラス(sao_eo_class_luma)のインデックスと、ステップS17で決定された色差信号のEOクラスとに基づいて、色差信号用の割り当てテーブル132bにしたがって色差信号のEOクラスを示すsao_eo_class_chromaにインデックスを割り当てる。
[ステップS194]インデックス生成部123は、ステップS17で決定された色差信号のEOクラスだけに基づいて、色差信号用の割り当てテーブル132cにしたがって色差信号のEOクラスを示すsao_eo_class_chromaにインデックスを割り当てる。
次に、上記の画像符号化装置100によって符号化された動画像ストリームを復号する画像復号装置について説明する。
図10は、第2の実施の形態に係る画像復号装置の構成例を示す図である。画像復号装置200は、エントロピー復号部201、逆量子化部202、逆直交変換部203、復号画像生成部204、デブロッキングフィルタ205、SAO部206、復号画像記憶部207、動き補償部208および予測画像生成部209を有する。さらに、画像復号装置200は、SAO部206にフィルタモードを設定するための機能として、フィルタモード設定部211、フィルタモード記憶部212およびフィルタモード設定部213を有する。
エントロピー復号部201は、入力された動画像ストリームをエントロピー復号し、量子化データを出力する。逆量子化部202は、エントロピー復号部201から出力された量子化データを逆量子化する。逆直交変換部203は、逆量子化部202からの出力データを逆直交変換する。これにより、符号化前の予測誤差信号に対応する信号が得られる。復号画像生成部204は、予測画像生成部209から出力された予測画像のブロックデータと、逆直交変換部203からの出力信号とを加算する。これにより、符号化対象ブロックを再生した復号画像のブロックデータが生成される。
デブロッキングフィルタ205は、復号画像生成部204から出力された復号画像のブロックデータに対して、ブロック歪みを低減するためのフィルタ処理を施す。SAO部206は、フィルタモード設定部211,213から設定されたフィルタモードにしたがって、デブロッキングフィルタ205によって処理された復号画像のブロックデータに対して、画素値にオフセットを加算する処理を施す。SAO部206によって処理された復号画像は、最終的な出力画像として出力される。
復号画像記憶部207は、SAO部206によって処理された復号画像のブロックデータを、参照ピクチャのブロックデータとして記憶する。動き補償部208は、復号画像記憶部207から読み出した参照ピクチャを、復号された動きベクトルを用いて動き補償することで、インター予測の予測画像を生成する。予測画像生成部209は、イントラ予測またはインター予測の予測画像を出力する。イントラ予測の予測画像は、復号画像記憶部207に記憶された参照ピクチャにおける符号化済みの周辺ブロックのデータに基づいて生成される。インター予測の予測画像は、動き補償部208から取得される。
フィルタモード設定部211は、エントロピー復号部201によってエントロピー復号された、輝度信号のフィルタモードのインデックスを取得する。フィルタモード設定部211は、図2のインデックス生成部121と逆の手順により、取得したインデックスに基づいて輝度信号のフィルタモードを判別する。フィルタモード設定部211は、判別したフィルタモードをSAO部206に設定するとともに、フィルタモード記憶部212に格納する。フィルタモード記憶部212は、フィルタモード設定部211によって判別されたフィルタモードを一時的に記憶する。
フィルタモード設定部213は、エントロピー復号部201によってエントロピー復号された、色差信号のフィルタモードのインデックスを取得する。フィルタモード設定部213は、図2のインデックス生成部123とは逆の手順により、フィルタモード記憶部212に記憶された輝度信号のフィルタモードと、エントロピー復号部201から取得した色差信号のフィルタモードのインデックスとに基づいて、色差信号のフィルタモードを判別する。フィルタモード設定部213は、判別した色差信号のフィルタモードをSAO部206に設定する。
図11は、画像復号装置におけるフィルタモードの復号およびSAO処理手順の例を示すフローチャートである。
[ステップS31]入力された動画像ストリームにおける1ピクチャの各ブロックについて、ステップS31〜S42のブロックループの処理が実行される。
[ステップS32]符号化対象として選択されたブロックについて、ステップS32〜S42の信号ループの処理が実行される。
[ステップS33]エントロピー復号部201は、輝度信号を処理するか、色差信号を処理するかを判定する。輝度信号を処理する場合、ステップS34の処理が実行され、色差信号を処理する場合、ステップS37の処理が実行される。なお、エントロピー復号部201は、同じブロックについて、先に輝度信号を処理し、その後に色差信号を処理する。
[ステップS34]エントロピー復号部201は、輝度信号のフィルタモードを示すインデックスを復号する。具体的には、エントロピー復号部201は、動画像ストリームから、輝度信号のSAOタイプを示すsao_type_idx_lumaの符号を抽出する。エントロピー復号部201は、割り当てテーブルに基づいて、抽出した符号をsao_type_idx_lumaのインデックスに変換する。また、SAOタイプがエッジオフセットである場合、エントロピー復号部201は、動画像ストリームから、輝度信号のEOクラスを示すsao_eo_class_lumaの符号を抽出する。エントロピー復号部201は、割り当てテーブルに基づいて、抽出した符号をsao_eo_class_lumaのインデックスに変換する。
なお、これらの割り当てテーブルは、図7の割り当てテーブル133と同等の対応関係を示す情報を保持し、画像復号装置200の記憶部にあらかじめ記憶される。
フィルタモード設定部211は、復号された各インデックスをエントロピー復号部201から取得する。
[ステップS35]フィルタモード設定部211は、ステップS34で取得したフィルタモード(sao_type_idx_luma、sao_eo_class_luma)のインデックスをフィルタモード記憶部212に格納する。
[ステップS36]フィルタモード設定部211は、ステップS34で取得したインデックスに基づいて、輝度信号のフィルタモードを判別する。具体的には、フィルタモード設定部211は、取得したsao_type_idx_lumaのインデックスに基づいて、輝度信号用の割り当てテーブルにしたがって輝度信号のSAOタイプを判別する。この割り当てテーブルは、図4の割り当てテーブル131aと同等の対応関係を示す情報を保持し、画像復号装置200の記憶部にあらかじめ記憶される。また、SAOタイプがエッジオフセットの場合、フィルタモード設定部211は、取得したsao_eo_class_lumaに基づいて、輝度信号用の割り当てテーブルにしたがって輝度信号のEOクラスを判別する。この割り当てテーブルは、図4の割り当てテーブル131bと同等の対応関係を示す情報を保持し、画像復号装置200の記憶部にあらかじめ記憶される。
フィルタモード設定部211は、判別した輝度信号のフィルタモード(SAOタイプおよびEOクラス)をSAO部206に設定する。
[ステップS37]エントロピー復号部201は、色差信号のフィルタモードを示すインデックスを復号する。具体的には、エントロピー復号部201は、動画像ストリームから、色差信号のSAOタイプを示すsao_type_idx_chromaの符号を抽出する。エントロピー復号部201は、割り当てテーブルに基づいて、抽出した符号をsao_type_idx_chromaのインデックスに変換する。また、SAOタイプがエッジオフセットである場合、エントロピー復号部201は、動画像ストリームから、色差信号のEOクラスを示すsao_eo_class_chromaの符号を抽出する。エントロピー復号部201は、割り当てテーブルに基づいて、抽出した符号をsao_eo_class_chromaのインデックスに変換する。
なお、これらの割り当てテーブルは、図7の割り当てテーブル133と同等の対応関係を示す情報を保持し、画像復号装置200の記憶部にあらかじめ記憶される。
フィルタモード設定部213は、復号された各インデックスをエントロピー復号部201から取得する。
[ステップS38]フィルタモード設定部213は、フィルタモード記憶部212から、ステップS35で格納されたフィルタモード(sao_type_idx_luma、sao_eo_class_luma)のインデックスを読み出す。
[ステップS39]フィルタモード設定部213は、色差信号のフィルタモードを判別してSAO部206に設定する。処理の詳細は、後の図12において説明する。
[ステップS40]SAO部206は、ステップS36またはステップS39で設定されたフィルタモードにしたがって、ブロックについての輝度信号または色差信号に対してSAOのフィルタ処理を施す。ステップS36でフィルタモードが設定された場合、輝度信号に対するフィルタ処理が実行され、ステップS39でフィルタモードが設定された場合、色差信号に対するフィルタ処理が実行される。
[ステップS41]輝度信号と色差信号の両方について処理が完了すると、信号ループの処理が終了する。
[ステップS42]1ピクチャ上の各ブロックについて処理が完了すると、ブロックループの処理が終了する。
図12は、色差信号のフィルタモードの設定処理手順の例を示すフローチャートである。この図12の処理は、図11のステップS39の処理に対応する。
[ステップS391]フィルタモード設定部213は、ステップS37で取得したsao_type_idx_chromaのインデックスと、ステップS38で読み出したsao_type_idx_lumaのインデックスとに基づき、割り当てテーブルにしたがって色差信号のSAOタイプを判別する。この割り当てテーブルは、図6の割り当てテーブル132aと同等の対応関係を示す情報を保持し、画像復号装置200の記憶部にあらかじめ記憶される。
ここで、フィルタモード設定部213は、色差信号のSAOタイプがエッジオフセットと判別された場合には、ステップS392以降の処理を実行する。色差信号のSAOタイプがエッジオフセットでない場合、ステップS392〜S394の処理はスキップされる。
[ステップS392]フィルタモード設定部213は、輝度信号のSAOタイプがエッジオフセットかを判定する。エッジオフセットの場合、ステップS393の処理が実行され、エッジオフセットでない場合、ステップS394の処理が実行される。
[ステップS393]フィルタモード設定部213は、ステップS37で取得したsao_eo_class_chromaのインデックスと、ステップS38で読み出したsao_eo_class_lumaのインデックスとに基づき、割り当てテーブルにしたがって色差信号のEOクラスを判別する。この割り当てテーブルは、図6の割り当てテーブル132bと同等の対応関係を示す情報を保持し、画像復号装置200の記憶部にあらかじめ記憶される。
[ステップS394]フィルタモード設定部213は、ステップS38で読み出したsao_eo_class_lumaのインデックスだけに基づき、割り当てテーブルにしたがって色差信号のEOクラスを判別する。この割り当てテーブルは、図6の割り当てテーブル132cと同等の対応関係を示す情報を保持し、画像復号装置200の記憶部にあらかじめ記憶される。
[ステップS395]フィルタモード設定部213は、判別された色差信号のフィルタモード(SAOタイプおよびEOクラス)をSAO部206に設定する。
以上の図11、図12の処理により、画像復号装置200は、画像符号化装置100によって生成された動画像ストリームを正常に復号することができる。
なお、以上の第1の実施の形態では、SAOタイプとEOタイプとが個別のシンタックス要素として設定されていた。しかし、例えば、SAOタイプとEOタイプとを単一のシンタックス要素として設定することもできる。例えば、sao_type_idx_chromaとsao_eo_class_chromaとを、sao_type_idx_chromaに一元化し、sao_type_idx_chromaによってSAOタイプとEOタイプの両方を復号器側に伝送する。
この場合、sao_type_idx_chromaに対するインデックスの割り当ては、例えば、次のように行われる。輝度信号のSAOタイプと色差信号のSAOタイプとが同じで、かつ、輝度信号のEOクラスと色差信号のEOクラスとが同じ場合、sao_type_idx_chromaには最も小さいインデックス「0」が割り当てられる。輝度信号のSAOタイプと色差信号のSAOタイプとが異なり、かつ、輝度信号のEOクラスと色差信号のEOクラスとが異なる場合、sao_type_idx_chromaには比較的大きいインデックスが割り当てられる。そして、例えば、輝度信号のSAOタイプと色差信号のSAOタイプとが同じだが、輝度信号のEOクラスと色差信号のEOクラスとが異なる場合、または、輝度信号のSAOタイプと色差信号のSAOタイプとは異なるが、輝度信号のEOクラスと色差信号のEOクラスとは同じ場合には、sao_type_idx_chromaには中間的なインデックスの値が割り当てられる。
このような割り当て方法により、入力画像全体で見ると、sao_type_idx_chromaに対応する符号としてビット数の小さい符号が動画像ストリームに組み込まれる可能性が高くなる。その結果、動画像ストリームのデータ量を削減できる。
ところで、上記の画像符号化装置100および画像復号装置200は、例えば、SoC(System-on-a-Chip)などの半導体装置として実現される。その場合、図2および図10に示す各処理ブロックは、それぞれ半導体回路などの電気回路として実現される。また、画像符号化装置100および画像復号装置200の少なくとも一方は、次の図13に示すようなコンピュータとして実現されてもよい。
図13は、画像符号化装置がコンピュータとして実現される場合のハードウェア構成例を示す図である。
図13に示す画像符号化装置100は、プロセッサ151によって装置全体が制御されている。プロセッサ151は、マルチプロセッサであってもよい。プロセッサ151は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、またはPLD(Programmable Logic Device)である。またプロセッサ151は、CPU、MPU、DSP、ASIC、PLDのうちの2以上の要素の組み合わせであってもよい。
プロセッサ151には、バス158を介して、RAM(Random Access Memory)152と複数の周辺機器が接続されている。
RAM152は、画像符号化装置100の主記憶装置として使用される。RAM152には、プロセッサ151に実行させるOS(Operating System)プログラムやアプリケーションプログラムの少なくとも一部が一時的に格納される。また、RAM152には、プロセッサ151による処理に必要な各種データが格納される。
バス158に接続されている周辺機器としては、HDD(Hard Disk Drive)153、グラフィック処理装置154、入力インタフェース155、読み取り装置156および通信インタフェース157がある。
HDD153は、画像符号化装置100の補助記憶装置として使用される。HDD153には、OSプログラム、アプリケーションプログラム、および各種データが格納される。なお、補助記憶装置としては、SSD(Solid State Drive)などの他の種類の不揮発性記憶装置を使用することもできる。
グラフィック処理装置154には、表示装置154aが接続されている。グラフィック処理装置154は、プロセッサ151からの命令にしたがって、画像を表示装置154aに表示させる。表示装置154aとしては、液晶ディスプレイや有機EL(Electroluminescence)ディスプレイなどがある。
入力インタフェース155には、入力装置155aが接続されている。入力インタフェース155は、入力装置155aから出力される信号をプロセッサ151に送信する。入力装置155aとしては、キーボードやポインティングデバイスなどがある。ポインティングデバイスとしては、マウス、タッチパネル、タブレット、タッチパッド、トラックボールなどがある。
読み取り装置156には、可搬型記録媒体156aが脱着される。読み取り装置156は、可搬型記録媒体156aに記録されたデータを読み取ってプロセッサ151に送信する。可搬型記録媒体156aとしては、光ディスク、光磁気ディスク、半導体メモリなどがある。
通信インタフェース157は、ネットワーク157aを介して他の装置との間でデータの送受信を行う。
以上のようなハードウェア構成によって、画像符号化装置100の処理機能を実現することができる。また、画像復号装置200の処理機能についても、図13に示すハードウェア構成によって実現することができる。
次に、上記の第2の実施の形態における処理の一部を変更した変形例について説明する。以下の各変形例における画像符号化装置および画像復号装置の基本的な処理機能の構成は、それぞれ図2、図10と同様である。このため、以下の変形例については、図2、図10に記載した符号を用いて説明する。
〔変形例1〕
変形例1では、色差信号のフィルタモードが輝度信号のフィルタモードと同じであるか否かを示すダイレクトフラグが、新たなシンタックス要素として導入される。ダイレクトフラグは、1ビットの符号として符号化され、動画像ストリームに組み込まれる。
ダイレクトフラグが、輝度信号のフィルタモードと同じであることを示す場合、色差信号のフィルタモードを示す情報は動画像ストリームに組み込まれない。一方、ダイレクトフラグが、輝度信号のフィルタモードと異なることを示す場合にのみ、色差信号のフィルタモードのインデックスが作成され、そのインデックスに基づいてフィルタモードを示す情報が動画像ストリームに組み込まれる。輝度信号と色差信号との相関から、色差信号のフィルタモードは輝度信号のフィルタモードと同じになる確率が高い。このため、入力画像全体で見ると、色差信号のフィルタモードを示す情報は動画像ストリームに組み込まれない可能性が高い。また、色差信号のフィルタモードが取り得る設定値の中には、輝度信号のフィルタモードを示す設定値を含める必要がない。このため、色差信号のフィルタモードに割り当てる符号のビット数を、第2の実施の形態の場合より1ケタ小さくすることができる。これらの理由から、動画像ストリームのデータ量をさらに削減できる。
以下、例として、色差信号のSAOタイプが輝度信号のSAOタイプと同じか否かを示すダイレクトフラグが導入された場合の処理について説明する。ダイレクトフラグの値は、色差信号のSAOタイプが輝度信号のSAOタイプと同じ場合に「1」とされ、これらが異なる場合に「0」とされるものとする。
図14は、変形例1の画像符号化装置における、色差信号のフィルタモードに対するインデックス割り当て処理手順の例を示すフローチャートである。変形例1では、図9に示した処理の一部が図14に示すように変形される。具体的には、ステップS191の代わりにステップS191a〜S191dが実行される。
[ステップS191a]インデックス生成部123は、図8のステップS17で決定された色差信号のSAOタイプが、ステップS14で決定された輝度信号のSAOタイプと同じかを判定する。これらが同じ場合、ステップS191bの処理が実行され、これらが異なる場合、ステップS191cの処理が実行される。
[ステップS191b]インデックス生成部123は、ダイレクトフラグに「1」を設定する。また、このケースでは、色差信号のSAOタイプを示すインデックスは生成されない。
[ステップS191c]インデックス生成部123は、ダイレクトフラグに「0」を設定する。
[ステップS191d]インデックス生成部123は、図8のステップS18で取得した輝度信号のSAOタイプ(sao_type_idx_luma)のインデックスと、ステップS17で決定された色差信号のSAOタイプとに基づいて、色差信号用の割り当てテーブルにしたがって色差信号のSAOタイプを示すsao_type_idx_chromaにインデックスを割り当てる。この割り当てテーブルとしては、後の図15に示す割り当てテーブルが利用される。
この後、インデックス生成部123は、ステップS17で決定された色差信号のSAOタイプがエッジオフセットである場合には、ステップS192以降の処理を実行する。一方、色差信号のSAOタイプがエッジオフセットでない場合には、ステップS192〜S194の処理はスキップされる。
また、この後のステップS20では、エントロピー符号化部113は、フィルタタイプのインデックスに加えて、ダイレクトモードも符号化する。
図15は、色差信号用の割り当てテーブルの例を示す図である。画像符号化装置100の記憶部130には、図6に示した割り当てテーブル132aの代わりに、図15に示す割り当てテーブル132a1が記録される。図14のステップS191dでは、インデックス生成部123は、この割り当てテーブル132a1に基づいて、色差信号のSAOタイプとして割り当てるインデックスを算出する。図14に示すように、色差信号のSAOタイプに割り当てられるインデックスは、2パターンの値しか取らない。このため、符号化の際にインデックスに割り当てる符号のビット数を、第2の実施の形態の場合より減らすことができる。
図16は、変形例1の画像復号装置における、色差信号のフィルタモードの設定処理手順の例を示すフローチャートである。変形例1では、図11のステップS37において、画像復号装置200のエントロピー復号部201は、色差信号のフィルタモードを示すインデックスとともに、ダイレクトフラグを復号する。このとき、ダイレクトフラグの値によっては、色差信号のSAOタイプに対応する符号が動画像ストリームに存在せず、この符号に基づくSAOタイプのインデックスが復号されない場合がある。
さらに、変形例1では、図12に示した処理の一部が図16に示すように変形される。具体的には、ステップS391の代わりにステップS391a〜S391cが実行される。
[ステップS391a]フィルタモード設定部213は、エントロピー復号部201からダイレクトフラグを取得し、ダイレクトフラグが「1」であるかを判定する。ダイレクトフラグが「1」である場合、ステップS391bの処理が実行され、「0」である場合、ステップS391cの処理が実行される。
[ステップS391b]フィルタモード設定部213は、図11のステップS36で判別された輝度信号のSAOタイプを、色差信号のSAOタイプと判定する。
[ステップS391c]フィルタモード設定部213は、ステップS37で取得したsao_type_idx_chromaのインデックスと、ステップS38で読み出したsao_type_idx_lumaのインデックスとに基づき、割り当てテーブルにしたがって色差信号のSAOタイプを判別する。この割り当てテーブルは、図15の割り当てテーブル132a1と同等の対応関係を示す情報を保持し、画像復号装置200の記憶部にあらかじめ記憶される。
この後、フィルタモード設定部213は、色差信号のSAOタイプがエッジオフセットと判別された場合には、ステップS392以降の処理を実行する。色差信号のSAOタイプがエッジオフセットでない場合、ステップS392〜S394の処理はスキップされる。
〔変形例2〕
変形例2では、符号化処理の際に、あるブロックのEOクラスをその周囲のブロックのEOクラスに基づいて決定できるように第2の実施の形態が変形される。
例えば、輝度信号のEOクラスが「1」(エッジ角度90°)であった場合、色差信号のEOクラスも「1」である可能性が高い。このため、図6の割り当てテーブル132bでは、EOクラスがこのような組み合わせの場合、色差信号のEOクラスに最も小さいインデックスが割り当てられる。一方、色差信号のEOクラスが、エッジ角度の差が最も大きい「0」(エッジ角度0°)である確率は低い。このため、図6の割り当てテーブル132bでは、EOクラスがこのような組み合わせの場合、色差信号のEOクラスに最も大きいインデックスが割り当てられる。
しかし、色差信号のEOクラスが「2」(エッジ角度135°)になる可能性と「3」(エッジ角度45°)になる可能性のどちらが高いかは、不明である。これらの可能性は、ブロックの絵柄に依存する。そこで、変形例2では、輝度信号と色差信号との間でEOクラスがこのような組み合わせとなった場合には、符号化対象のブロックの周囲に存在する他のブロックの状況に基づいて、符号化対象のブロックのEOクラスに割り当てるインデックスを決定する。
図17は、周囲のブロックの状況に基づくEOクラスの決定処理の例を示す図である。ここでは画像符号化装置100での処理について説明する。なお、図17において、「Luma 1」は、ブロックの輝度信号のEOクラス(sao_type_idx_luma)が「1」であることを示す。また、「Chroma 1」は、ブロックの色差信号のEOクラス(sao_type_idx_chroma)が「1」であることを示す。
図17において、ブロックB0は、現在符号化対象のブロックである。ブロックB0の左上、上、右上、左にそれぞれ隣接するブロックB1〜B4は、ブロックB0が符号化対象であるとき、すでに符号化が完了しているブロックである。したがって、画像符号化装置100は、ブロックB0の符号化処理時に、周囲のブロックB1〜B4についての復号画像データも、これらのブロックB1〜B4について決定された色差信号のEOクラスも取得できる。
変形例2では、画像符号化装置100はまず、図6の割り当てテーブル132bに基づいて色差信号のEOクラスに対してインデックスを仮設定する。このとき、インデックスとして「1」または「2」が仮設定された場合に、画像符号化装置100は、次の第1の処理例〜第3の処理例のいずれかによって、インデックスを再設定する。なお、図17では、符号化対象のブロックB0についての輝度信号のEOクラスが「1」であるので、色差信号のEOクラスが「2」または「3」である場合に、次のような処理が実行される。
ここでは例として、第1〜第3の処理例を記載する。まず、第1、第2の処理例は、符号化対象のブロックの周囲に存在する他のブロックにおけるEOクラスの決定状況に基づいて、符号化対象のブロックのEOクラスに割り当てるインデックスを決定するものである。第1、第2の処理例では、基本的に、決定されたEOクラスがブロックB0と類似する周辺ブロックが存在する場合に、ブロックB0について決定されたEOクラスに対して小さいインデックス(例えば、「1」と「2」のうちの「1」)が割り当てられる。
なお、周囲ブロックについて決定済みのEOクラスは、符号化の際には符号化済みのブロックから参照でき、復号の際にも復号済みのブロックから参照できる。このため、画像符号化装置100と画像復号装置200との間でEOクラスのミスマッチが発生することはない。
まず、第1の処理例では、輝度信号のEOクラスが示すエッジ角度と色差信号のEOクラスが示すエッジ角度とのズレがブロックB0と類似する周辺ブロックが存在する場合に、ブロックB0について決定されたEOクラスに対して小さいインデックスが割り当てられる。具体的には、画像符号化装置100は、周囲のブロックB1〜B4の中に、EOクラスの組み合わせが符号化対象のブロックB0と同じブロックがある場合に、色差信号のEOクラスに対してインデックス「1」を割り当てる。図17において、例えば、ブロックB0についての輝度信号のEOクラスが「1」であり、色差信号のEOクラスが「2」であるとする。この場合、EOクラスの組み合わせがブロックB0と同じブロックB1が存在するため、ブロックB0についての色差信号のEOクラスに対してインデックス「1」が割り当てられる。
次に、第2の処理例では、画像符号化装置100は、周囲のブロックB1〜B4の中から、色差信号のEOクラスが「2」であるブロックの数と「3」であるブロックの数を、それぞれ計数する。そして、画像符号化装置100は、計数値が多かったEOクラスに対して小さいインデックス(ここでは「1」と「2」のうちの「1」)を割り当てる。図17の例では、周囲のブロックB1〜B4のうち、色差信号のEOクラスが「2」であるブロックの数は「1」であり、「3」であるブロックの数は「0」である。このため、画像符号化装置100は、ブロックB0についての色差信号のEOクラスが「2」であれば、インデックス「1」を割り当て、EOクラスが「3」であれば、インデックス「2」を割り当てる。
なお、以上の第2の処理例では、色差信号のEOクラスのみを比較対象としているが、輝度信号のEOクラスと色差信号のEOクラスとの組み合わせが比較対象とされてもよい。具体的には、画像符号化装置100は、周囲のブロックB1〜B4の中から、輝度信号のEOクラスが「1」であり、かつ色差信号のEOクラスが「2」であるブロックの数と、輝度信号のEOクラスが「1」であり、かつ色差信号のEOクラスが「3」であるブロックの数とを、それぞれ計数してもよい。
一方、第3の処理例は、少なくとも符号化済みの周辺ブロックの画素値に基づいて、符号化対象のブロックのEOクラスに割り当てるインデックスを決定するものである。より具体的には、画像符号化装置100は、少なくとも符号化済みの周辺ブロックの色差信号に基づいて、ブロックB0の周辺に存在するエッジの角度(エッジが伸びている方向の角度)を推定する。画像符号化装置100は、推定されたエッジの角度が、ブロックB0について決定されたEOクラスが示すエッジ角度と一致する場合に、そのEOクラスに対してインデックス「1」を割り当てる。
エッジの推定対象とする画素としては、例えば、周辺画素のうちブロックB0に隣接する画素が選択される。これにより、ブロックB0にも存在するエッジを検出できる可能性が高くなる。エッジ角度は、例えば、Sobelフィルタを用いた次のような方法によって算出される。
エッジの推定対象とする入力画素P、垂直エッジ抽出フィルタのフィルタ係数Y、水平エッジ抽出フィルタのフィルタ係数Xは、例えば、それぞれ次の式(2−1),(2−2),(2−3)によって表される。
Figure 0006634936
水平方向についてのSobelフィルタによる処理結果dy、垂直方向についてのSobelフィルタによる処理結果dxは、それぞれ次の式(3−1),(3−2)のようになる。
dy=P*Y=−a−2d−g+c+2f+i ・・・(3−1)
dx=P*X=−a−2d−c+g+2h+i ・・・(3−2)
これらの処理結果dy,dxから、次の式(4−1),(4−2)のようにエッジベクトルの強度Ampとエッジ角度Angが求められる。
Figure 0006634936
次の式(5−1),(5−2)を満たすことで、エッジベクトルが特定の範囲(Angl,Angn)内の角度を指すことがわかる。
Figure 0006634936
以上の第1〜第3の処理例によれば、ブロックB0の色差信号のEOクラスが「2」または「3」の場合に、より可能性の高いEOクラスの設定値に対してインデックス「1」が割り当てられるようになる。これにより、符号化によって出力される符号のビット数を削減でき、その結果、動画像ストリームのデータ量を削減できる。
図18は、変形例2の画像符号化装置における、色差信号のフィルタモードに対するインデックス割り当て処理手順の例を示すフローチャートである。変形例2では、図9に示した処理の一部が図18に示すように変形される。具体的には、ステップS193の代わりにステップS193a〜S193cが実行される。
[ステップS193a]ステップS193と同様の手順で、色差信号のEOクラスを示すsao_eo_class_chromaにインデックスが割り当てられ、このインデックス割り当てが仮設定される。
[ステップS193b]インデックス生成部123は、仮設定されたインデックスが「1」または「2」であるか否かを判定する。インデックスが「1」または「2」である場合、ステップS193cの処理が実行される。一方、インデックスが「0」または「3」の場合には、ステップS193cの処理がスキップされ、ステップS193aでのインデックスの設定がそのまま適用される。
[ステップS193c]インデックス生成部123は、図17に示した第1〜第3の処理例のいずれかの手順にしたがって、符号化対象のブロックの周囲に存在する符号化済みブロックの状況に基づいて、色差信号のEOクラスを示すsao_eo_class_chromaにインデックス「1」または「2」を再度割り当てる。
図19は、変形例2の画像復号装置における、色差信号のフィルタモードの設定処理手順の例を示すフローチャートである。変形例2では、図12に示した処理に対してステップS396a〜S396eが追加される。
まず、図12のステップS392で色差信号のSAOタイプがエッジオフセットと判別された場合には、ステップS396aが実行される。
[ステップS396a]フィルタモード設定部213は、図11のステップS37で取得したsao_eo_class_chromaのインデックスが「1」または「2」であるか否かを判定する。インデックスが「1」または「2」である場合、ステップS396bの処理が実行され、インデックスが「0」または「3」の場合、ステップS393の処理が実行される。
[ステップS396b]フィルタモード設定部213は、ステップS393と同様の手順で、色差信号のEOクラスを仮判定する。
[ステップS396c]フィルタモード設定部213は、復号対象のブロックの周辺に存在する復号済みブロックの状況に基づいて、ステップS396bで仮判定されたEOクラスが正しいかを判定する。この処理では、フィルタモード設定部213は、図17の第1〜第3の処理例のいずれかの手順で、仮判定されたEOクラスに割り当てるべきインデックスを判別する。フィルタモード設定部213は、判別されたインデックスが、図11のステップS37で取得したsao_eo_class_chromaのインデックスと一致した場合に、仮判定されたEOクラスが正しいと判定する。
[ステップS396d]フィルタモード設定部213は、ステップS396cにおいて、仮判定されたEOクラスが正しいと判定された場合には、このEOクラスを正式に判別されたEOクラスと見なして、ステップS395の処理を実行する。一方、フィルタモード設定部213は、ステップS396cにおいて、仮判定されたEOクラスが正しくないと判定された場合には、ステップS396eの処理を実行する。
[ステップS396e]フィルタモード設定部213は、仮判定されたEOクラスを変更する。この処理では、図11のステップS37で取得したsao_eo_class_chromaのインデックスが「1」である場合、インデックスが「2」としてステップS396bを実行することで判定されるEOクラスに変更される。また、図11のステップS37で取得したsao_eo_class_chromaのインデックスが「2」である場合、インデックスが「1」としてステップS396bを実行することで判定されるEOクラスに変更される。
〔第3の実施の形態〕
上記の第2の実施の形態に係る画像符号化装置100および画像復号装置200、またはその変形例1,2は、例えば、次の図20に示すような画像伝送システムに組み込んで実現することができる。
図20は、第3の実施の形態に係る画像伝送システムの構成例を示す図である。画像伝送システムは、動画像ストリームを生成して送信する画像送信システム410と、動画像ストリームを受信して復号する画像受信システム420とを含む。
画像送信システム410は、例えば、画像入力装置411、画像符号化装置412および送信装置413を含む。
画像入力装置411は、動画像のベースバンドデータを画像符号化装置412に供給する。画像入力装置411は、例えば、画像を撮像して出力するカメラであってもよいし、あらかじめ記録媒体に格納された画像データや、電波や有線を介して受信した画像データを画像符号化装置412に出力する装置であってもよい。
画像符号化装置412は、画像入力装置411から供給された動画像のベースバンドデータを圧縮符号化し、動画像ストリームを生成する。第2の実施の形態に係る画像符号化装置100またはその変形例1,2の機能は、画像符号化装置412に実装される。
送信装置413は、画像符号化装置412から受信した動画像ストリームを画像受信システム420に送信する。送信装置413は、例えば、動画像ストリームを、所定の動画像伝送フォーマットや蓄積ファイルフォーマットを用いて送信する。また、動画像ストリームは、例えば、ネットワーク431を介して送信されてもよいし、電波を介して送信されてもよい。あるいは、動画像ストリームは一旦ストレージ432に格納され、ストレージ432から画像受信システム420に転送されてもよい。
受信装置421は、送信装置413から送信された動画像ストリームを、例えばネットワーク431やストレージ432などを介して受信し、画像復号装置422に出力する。受信装置421は、例えば、上記の動画像伝送フォーマットや蓄積ファイルフォーマットを用いて送信装置413から送信されたデータから、動画像ストリームを抽出し、画像復号装置422に出力する。
画像復号装置422は、受信装置421から出力された動画像ストリームを伸張復号して動画像のベースバンドデータに変換し、画像表示装置423に出力する。第2の実施の形態に係る画像復号装置200またはその変形例1,2の機能は、画像復号装置422に実装される。
画像表示装置423は、画像復号装置422から出力された動画像のベースバンドデータに基づいて、動画像を表示する。
なお、上記の各実施の形態に示した装置(例えば、画像符号化装置10,100、画像復号装置200)の処理機能は、コンピュータによって実現することができる。その場合、各装置が有すべき機能の処理内容を記述したプログラムが提供され、そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、磁気記憶装置、光ディスク、光磁気記録媒体、半導体メモリなどがある。磁気記憶装置には、ハードディスク装置(HDD)、フレキシブルディスク(FD)、磁気テープなどがある。光ディスクには、DVD(Digital Versatile Disc)、DVD−RAM、CD−ROM(Compact Disc-Read Only Memory)、CD−R(Recordable)/RW(ReWritable)などがある。光磁気記録媒体には、MO(Magneto-Optical disk)などがある。
プログラムを流通させる場合には、例えば、そのプログラムが記録されたDVD、CD−ROMなどの可搬型記録媒体が販売される。また、プログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。
プログラムを実行するコンピュータは、例えば、可搬型記録媒体に記録されたプログラムまたはサーバコンピュータから転送されたプログラムを、自己の記憶装置に格納する。そして、コンピュータは、自己の記憶装置からプログラムを読み取り、プログラムにしたがった処理を実行する。なお、コンピュータは、可搬型記録媒体から直接プログラムを読み取り、そのプログラムにしたがった処理を実行することもできる。また、コンピュータは、ネットワークを介して接続されたサーバコンピュータからプログラムが転送されるごとに、逐次、受け取ったプログラムにしたがった処理を実行することもできる。
1 入力画像
1a ブロック
2 符号化データ
10 画像符号化装置
11 モード決定部
12 符号化部

Claims (15)

  1. 入力画像のブロックに対して復号時に使用される適応フィルタについての第1の動作モードおよび第2の動作モードを決定するモード決定部であって、前記入力画像の第1の信号に基づいて前記第1の動作モードを決定し、前記入力画像の第2の信号に基づいて前記第2の動作モードを決定する、前記モード決定部と、
    前記第2の動作モードと前記第1の動作モードとの類似性が高いほど、ビット数が小さい符号を前記第2の動作モードに割り当てることで、前記第2の動作モードを符号化する符号化部と、
    を有する画像符号化装置。
  2. 前記符号化部は、前記第2の動作モードが前記第1の動作モードと同じ場合には、異なる場合より小さいビット数の符号を前記第2の動作モードに割り当てる、
    請求項1記載の画像符号化装置。
  3. 前記符号化部は、前記第2の動作モードが前記第1の動作モードとが同じか否かを示すフラグ情報をさらに符号化し、前記入力画像を符号化した符号化データに前記フラグ情報を含め、前記第2の動作モードが前記第1の動作モードと同じ場合には、前記第2の動作モードに対応する符号を生成して前記符号化データに含める処理をスキップする、
    請求項1記載の画像符号化装置。
  4. 前記符号化部は、前記第2の動作モードが前記第1の動作モードと異なる場合、前記ブロックの周囲に存在する符号化済みブロックについて決定された前記第2の動作モードに基づいて、前記ブロックについての前記第2の動作モードに割り当てる符号のビット数を決定する、
    請求項1乃至3のいずれか1項に記載の画像符号化装置。
  5. 前記符号化部は、前記第2の動作モードが前記第1の動作モードと異なる場合、前記ブロックの周囲に存在する符号化済みブロックの画素値に基づいて、前記第2の動作モードに割り当てる符号のビット数を決定する、
    請求項1乃至3のいずれか1項に記載の画像符号化装置。
  6. 前記符号化部による符号化は、前記第2の動作モードにインデックスを割り当てる第1の処理と、前記インデックスの値が小さいほど前記複数の符号のうちビット数が小さい符号を割り当てる第2の処理とを含み、
    前記第1の処理では、前記第2の動作モードと前記第1の動作モードとの類似性が高いほど、前記インデックスとして小さい値を割り当てる、
    請求項1乃至5のいずれか1項に記載の画像符号化装置。
  7. コンピュータが、
    入力画像のブロックに対して復号時に使用される適応フィルタについての第1の動作モードおよび第2の動作モードを決定し、前記決定は、前記入力画像の第1の信号に基づいて前記第1の動作モードを決定する処理と、前記入力画像の第2の信号に基づいて前記第2の動作モードを決定する処理とを含み、
    前記第2の動作モードと前記第1の動作モードとの類似性が高いほど、ビット数が小さい符号を前記第2の動作モードに割り当てることで、前記第2の動作モードを符号化する、
    画像符号化方法。
  8. コンピュータに、
    入力画像のブロックに対して復号時に使用される適応フィルタについての第1の動作モードおよび第2の動作モードを決定し、前記決定は、前記入力画像の第1の信号に基づいて前記第1の動作モードを決定する処理と、前記入力画像の第2の信号に基づいて前記第2の動作モードを決定する処理とを含み、
    前記第2の動作モードと前記第1の動作モードとの類似性が高いほど、ビット数が小さい符号を前記第2の動作モードに割り当てることで、前記第2の動作モードを符号化する、
    処理を実行させる画像符号化プログラム。
  9. 入力された符号化動画像データから、適応フィルタについての第1の動作モードおよび第2の動作モードにそれぞれ対応する第1の符号および第2の符号を抽出し、前記第1の符号に基づいて前記第1の動作モードを判別し、前記第2の符号のビット数が小さいほど、前記第2の動作モードを、判別された前記第1の動作モードとの類似性が高い動作モードと判別する復号部と、
    前記符号化動画像データから復号された復号画像におけるブロックの第1の信号に対して、前記適応フィルタを用いた処理を判別された前記第1の動作モードにしたがって実行し、前記ブロックの第2の信号に対して、前記適応フィルタを用いた処理を判別された前記第2の動作モードにしたがって実行するフィルタ処理部と、
    を有する画像復号装置。
  10. 前記復号部は、前記第2の符号が、所定の複数パターンの符号のうち最小ビット数の符号と一致した場合、前記第2の動作モードを判別された前記第1の動作モードと同一の動作モードと判別する、
    請求項9記載の画像復号装置。
  11. 前記復号部は、判別された前記第2の動作モードが判別された前記第1の動作モードと異なり、かつ、それらの組み合わせが特定の組み合わせである場合には、前記ブロックの周囲に存在する復号済みブロックについて判別された前記第2の動作モードに基づいて、前記ブロックについての前記第2の動作モードを判別し直す、
    請求項9または10記載の画像復号装置。
  12. 前記復号部は、判別された前記第2の動作モードが判別された前記第1の動作モードと異なり、かつ、それらの組み合わせが特定の組み合わせである場合には、前記ブロックの周囲に存在する復号済みブロックの画素値に基づいて、前記ブロックについての前記第2の動作モードを判別し直す、
    請求項9または10記載の画像復号装置。
  13. コンピュータが、
    入力された符号化動画像データから、適応フィルタについての第1の動作モードおよび第2の動作モードにそれぞれ対応する第1の符号および第2の符号を抽出し、
    前記第1の符号に基づいて前記第1の動作モードを判別し、
    前記第2の符号のビット数が小さいほど、前記第2の動作モードを、判別された前記第1の動作モードとの類似性が高い動作モードと判別し、
    前記符号化動画像データから復号された復号画像におけるブロックの第1の信号に対して、前記適応フィルタを用いた処理を判別された前記第1の動作モードにしたがって実行し、
    前記ブロックの第2の信号に対して、前記適応フィルタを用いた処理を判別された前記第2の動作モードにしたがって実行する、
    画像復号方法。
  14. コンピュータに、
    入力された符号化動画像データから、適応フィルタについての第1の動作モードおよび第2の動作モードにそれぞれ対応する第1の符号および第2の符号を抽出し、
    前記第1の符号に基づいて前記第1の動作モードを判別し、
    前記第2の符号のビット数が小さいほど、前記第2の動作モードを、判別された前記第1の動作モードとの類似性が高い動作モードと判別し、
    前記符号化動画像データから復号された復号画像におけるブロックの第1の信号に対して、前記適応フィルタを用いた処理を判別された前記第1の動作モードにしたがって実行し、
    前記ブロックの第2の信号に対して、前記適応フィルタを用いた処理を判別された前記第2の動作モードにしたがって実行する、
    処理を実行させる画像復号プログラム。
  15. 符号化動画像データを生成する画像符号化装置と、前記符号化動画像データを復号する画像復号装置とを有する画像伝送システムであって、
    前記画像符号化装置は、
    入力画像のブロックに対して復号時に使用される適応フィルタについての第1の動作モードおよび第2の動作モードを決定するモード決定部であって、前記入力画像の第1の信号に基づいて前記第1の動作モードを決定し、前記入力画像の第2の信号に基づいて前記第2の動作モードを決定する、前記モード決定部と、
    前記第1の動作モードに第1の符号を割り当て、前記第2の動作モードと前記第1の動作モードとの類似性が高いほど、ビット数が小さい第2の符号を前記第2の動作モードに割り当て、前記第1の符号と前記第2の符号とを前記符号化動画像データに設定する符号化部と、
    を有し、
    前記画像復号装置は、
    前記符号化動画像データから前記第1の符号と前記第2の符号を抽出し、前記第1の符号に基づいて前記第1の動作モードを判別し、前記第2の符号のビット数が小さいほど、前記第2の動作モードを、判別された前記第1の動作モードとの類似性が高い動作モードと判別する復号部と、
    前記符号化動画像データから復号された前記ブロックの第1の信号に対して、前記適応フィルタを用いた処理を判別された前記第1の動作モードにしたがって実行し、前記符号化動画像データから復号された前記ブロックの第2の信号に対して、前記適応フィルタを用いた処理を判別された前記第2の動作モードにしたがって実行するフィルタ処理部と、
    を有する、
    画像伝送システム。
JP2016075656A 2016-04-05 2016-04-05 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法、画像復号プログラムおよび画像伝送システム Active JP6634936B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016075656A JP6634936B2 (ja) 2016-04-05 2016-04-05 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法、画像復号プログラムおよび画像伝送システム
US15/461,975 US10097827B2 (en) 2016-04-05 2017-03-17 Apparatus and method for image encoding, apparatus and method for image decoding, and image transmission system
CN201710213869.8A CN107454396B (zh) 2016-04-05 2017-04-01 图像编码设备和方法、图像解码设备和方法及图像传输系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016075656A JP6634936B2 (ja) 2016-04-05 2016-04-05 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法、画像復号プログラムおよび画像伝送システム

Publications (2)

Publication Number Publication Date
JP2017188765A JP2017188765A (ja) 2017-10-12
JP6634936B2 true JP6634936B2 (ja) 2020-01-22

Family

ID=59962064

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016075656A Active JP6634936B2 (ja) 2016-04-05 2016-04-05 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法、画像復号プログラムおよび画像伝送システム

Country Status (3)

Country Link
US (1) US10097827B2 (ja)
JP (1) JP6634936B2 (ja)
CN (1) CN107454396B (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11284108B2 (en) * 2017-10-24 2022-03-22 Wilus Institute Of Standards And Technology Inc. Video signal processing method and apparatus
US11611765B2 (en) * 2018-06-21 2023-03-21 Interdigital Vc Holdings, Inc. Refinement mode processing in video encoding and decoding
WO2020110224A1 (ja) * 2018-11-28 2020-06-04 Eizo株式会社 情報処理方法及びコンピュータプログラム
KR102642797B1 (ko) * 2019-01-14 2024-03-05 삼성전자주식회사 전자 장치 및 그 제어 방법
US11610340B2 (en) * 2020-04-17 2023-03-21 Tencent America LLC Edge enhancement filter
CN112509070B (zh) * 2020-12-04 2024-04-05 武汉大学 一种隐私保护Canny边缘检测方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5759387B2 (ja) 2010-01-08 2015-08-05 シャープ株式会社 符号化装置および復号装置
JP5988071B2 (ja) * 2011-02-07 2016-09-07 ソニー株式会社 画像処理装置および方法、並びに、プログラム
JP2014099672A (ja) 2011-03-09 2014-05-29 Sharp Corp 復号装置、符号化装置、および、データ構造
JP2012213128A (ja) * 2011-03-24 2012-11-01 Sony Corp 画像処理装置および方法
EP2882190B1 (en) * 2011-04-21 2018-11-14 HFI Innovation Inc. Method and apparatus for improved in-loop filtering
PT2725797T (pt) * 2011-06-23 2018-12-05 Huawei Tech Co Ltd Dispositivo de descodificação de desvios, dispositivo de codificação de desvios, dispositivo de filtro de imagem e estrutura de dados
JP5907367B2 (ja) 2011-06-28 2016-04-26 ソニー株式会社 画像処理装置および方法、プログラム、並びに記録媒体
SG10201912258SA (en) * 2012-01-19 2020-02-27 Mitsubishi Electric Corp Image decoding device, image encoding device, image decoding method, and image encoding method
JP2013236358A (ja) 2012-03-14 2013-11-21 Sharp Corp 画像フィルタ装置、画像復号装置、画像符号化装置、およびデータ構造
MX2013014752A (es) * 2012-06-08 2014-03-06 Panasonic Corp Metodo de codificacion de imagenes, metodo de decodificacion de imagenes, aparato de codificacion de imagenes, aparato de decodificacion de imagenes y aparato de codificacion y decodificacion de imagenes.
KR101749855B1 (ko) 2013-04-05 2017-06-21 미쓰비시덴키 가부시키가이샤 컬러 화상 부호화 장치, 컬러 화상 복호 장치, 컬러 화상 부호화 방법 및 컬러 화상 복호 방법
CN103338374B (zh) * 2013-06-21 2016-07-06 华为技术有限公司 图像处理方法及装置
US9445111B2 (en) * 2014-01-08 2016-09-13 Sony Corporation Image processing apparatus and image processing method
CN104243985B (zh) * 2014-09-29 2018-05-08 北方工业大学 Hevc中的样本自适应补偿
CN104506867B (zh) * 2014-12-01 2017-07-21 北京大学 采样点自适应偏移参数估计方法及装置

Also Published As

Publication number Publication date
CN107454396B (zh) 2020-08-18
US10097827B2 (en) 2018-10-09
US20170289541A1 (en) 2017-10-05
JP2017188765A (ja) 2017-10-12
CN107454396A (zh) 2017-12-08

Similar Documents

Publication Publication Date Title
JP6634936B2 (ja) 画像符号化装置、画像符号化方法、画像符号化プログラム、画像復号装置、画像復号方法、画像復号プログラムおよび画像伝送システム
CN112690000B (zh) 用于进行反量化的装置和方法
US11863779B2 (en) Cross-component adaptive loop filter in video coding
KR102607887B1 (ko) 인트라 예측 방법 및 그 장치
CN111684797A (zh) 用于视频译码的调色板译码
US20220038684A1 (en) Multi-reference line intra prediction and most probable mode
US11811975B2 (en) Method and a device for picture encoding and decoding
JP2022521809A (ja) ビデオコーディングにおける係数領域ブロック差分パルスコード変調
JP2022106961A (ja) 量子化パラメータ導出に基づく映像コーディング装置及び方法
US11277618B2 (en) Increasing decoding throughput of intra-coded blocks
CN112970264A (zh) 基于相邻样本相关参数模型的译码模式的简化
US11671595B2 (en) Reconstruction of blocks of video data using block size restriction
US11418793B2 (en) Adaptive affine motion vector coding
US11228757B2 (en) Method and a device for picture encoding and decoding
US11778177B2 (en) Adaptive loop filter with fixed filters
CN114128298A (zh) 调色板模式下的增量量化参数(qp)信令
JP2024059909A (ja) 画像エンコーディングおよびデコーディングのための方法およびデバイス
CN116783889A (zh) 跨分量样本自适应偏移中的编解码增强
KR20130050902A (ko) 영상 부호화/복호화 방법 및 장치
JP2019528607A (ja) 画像ブロックの符号化および復号の方法および装置
JP2024520401A (ja) 方法、電子装置、コンピュータ可読ストレージ媒体、コンピュータプログラム、およびビットストリーム
CN116368803A (zh) 交叉分量样点自适应偏移中的编解码增强
JP2024508232A (ja) クロスコンポーネントサンプリング適応オフセットにおける彩度符号化復号化の強化
TW202106031A (zh) 使用高階語法元素用信號發送解碼資料之方法及裝置
US20240205386A1 (en) Intra block copy with template matching for video encoding and decoding

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190115

TRDD Decision of grant or rejection written
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191113

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191202

R150 Certificate of patent or registration of utility model

Ref document number: 6634936

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150