JP7357481B2 - デブロッキングフィルタ制御装置及びプログラム - Google Patents

デブロッキングフィルタ制御装置及びプログラム Download PDF

Info

Publication number
JP7357481B2
JP7357481B2 JP2019139313A JP2019139313A JP7357481B2 JP 7357481 B2 JP7357481 B2 JP 7357481B2 JP 2019139313 A JP2019139313 A JP 2019139313A JP 2019139313 A JP2019139313 A JP 2019139313A JP 7357481 B2 JP7357481 B2 JP 7357481B2
Authority
JP
Japan
Prior art keywords
value
control offset
offset
control
filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019139313A
Other languages
English (en)
Other versions
JP2021022887A (ja
Inventor
康孝 松尾
菊文 神田
慎一 境田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2019139313A priority Critical patent/JP7357481B2/ja
Publication of JP2021022887A publication Critical patent/JP2021022887A/ja
Application granted granted Critical
Publication of JP7357481B2 publication Critical patent/JP7357481B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、動画像を符号化または復号する際に用いるデブロッキングフィルタの強度を制御するデブロッキングフィルタ制御装置及びプログラムに関する。
従来、解像度の高い4Kまたは8Kの動画像を対象とした動画圧縮方式の標準規格として、H.265/HEVC(High Efficiency Video Coding)が知られている(例えば非特許文献1を参照)。
このH.265/HEVCの標準規格は、符号化されたフレームを用いて動きを予測し、予測残差の信号を直交変換して符号化する動き補償及び直交変換の技術を基本としている。
H.265/HEVCの標準規格に従った動画像符号化装置は、デブロッキングフィルタ及び画素適応オフセットのフィルタからなるインループフィルタを備えている。このインループフィルタに備えたデブロッキングフィルタを用いることにより、ブロック歪を目立ち難くし、主観画質を向上させることができる。
大久保榮、鈴木輝彦、高村誠之、中條健、「インプレス標準教科書シリーズ H.265/HEVC教科書」、インプレスジャパン
前述のデブロッキングフィルタにおいては、ブロック境界強度Bsの値の決定結果と、PU(Prediction Unit)(またはTU(Transform Unit))境界付近の画素値を閾値βで判定した結果を用いることで、デブロッキングフィルタ処理の適用または非適用の判定、及びその強弱の判定が行われる。
しかしながら、例えば水面のような符号化が困難な動画像が入力された場合、デブロッキングフィルタは、符号化及び復号により発生する強いブロック歪を抑制することができない場合があり、主観画質が大きく損なわれるという問題があった。
そこで、本発明は前記課題を解決するためになされたものであり、その目的は、例えば水面のような符号化が困難な動画像について、ブロック歪みを目立ち難くし、主観画質を向上させることが可能なデブロッキングフィルタ制御装置及びプログラムを提供することにある。
前記課題を解決するために、請求項1のデブロッキングフィルタ制御装置は、動画像の信号にフィルタ処理を施すデブロッキングフィルタのフィルタ強度を制御するデブロッキングフィルタ制御装置において、前記動画像のGOP(Group Of Picture)におけるIピクチャからの符号化順の番号を示す符号化順番号、QP(Quantization Parameter)オフセット値、及び局部復号Iピクチャの空間高周波パワーの各要素のうちの二つの要素に基づいて、制御オフセット値を決定する制御オフセット処理部と、前記制御オフセット処理部により決定された前記制御オフセット値を所定の閾値に加算して新たな閾値を求め、前記動画像のブロックにおける所定位置の画素値及び前記新たな閾値に基づいて、前記新たな閾値が大きいほど前記フィルタ強度が強くなり、前記新たな閾値が小さいほど前記フィルタ強度が弱くなるように、前記フィルタ強度を決定するフィルタ強度処理部と、を備え、前記制御オフセット処理部が、前記二つの要素のそれぞれが大きいほど前記制御オフセット値が大きくなり、前記二つの要素のそれぞれが小さいほど前記制御オフセット値が小さくなるように、前記制御オフセット値を決定する、ことを特徴とする。
また、請求項のデブロッキングフィルタ制御装置は、動画像の信号にフィルタ処理を施すデブロッキングフィルタのフィルタ強度を制御するデブロッキングフィルタ制御装置において、前記動画像のGOP(Group Of Picture)におけるIピクチャからの符号化順の番号を示す符号化順番号、QP(Quantization Parameter)オフセット値、及び局部復号Iピクチャの空間高周波パワーの各要素に基づいて、制御オフセット値を決定する制御オフセット処理部と、前記制御オフセット処理部により決定された前記制御オフセット値を所定の閾値に加算して新たな閾値を求め、前記動画像のブロックにおける所定位置の画素値及び前記新たな閾値に基づいて、前記新たな閾値が大きいほど前記フィルタ強度が強くなり、前記新たな閾値が小さいほど前記フィルタ強度が弱くなるように、前記フィルタ強度を決定するフィルタ強度処理部と、を備え、前記制御オフセット処理部が、前記符号化順番号、前記QPオフセット値及び前記空間高周波パワーの各要素のそれぞれが大きいほど前記制御オフセット値が大きくなり、前記符号化順番号、前記QPオフセット値及び前記空間高周波パワーの各要素のそれぞれが小さいほど前記制御オフセット値が小さくなるように、前記制御オフセット値を決定する、ことを特徴とする。
また、請求項のデブロッキングフィルタ制御装置は、請求項に記載のデブロッキングフィルタ制御装置において、前記制御オフセット処理部が、前記符号化順番号に基づいて、前記符号化順番号が大きいほど第一制御オフセット候補値が大きくなり、前記符号化順番号が小さいほど前記第一制御オフセット候補値が小さくなるように、前記第一制御オフセット候補値を決定する第一制御オフセット候補決定部と、前記QPオフセット値に基づいて、前記QPオフセット値が大きいほど第二制御オフセット候補値が大きくなり、前記QPオフセット値が小さいほど前記第二制御オフセット候補値が小さくなるように、前記第二制御オフセット候補値を決定する第二制御オフセット候補決定部と、前記空間高周波パワーに基づいて、前記空間高周波パワーが大きいほど第三制御オフセット候補値が大きくなり、前記空間高周波パワーが小さいほど前記第三制御オフセット候補値が小さくなるように、前記第三制御オフセット候補値を決定する第三制御オフセット候補決定部と、前記第一制御オフセット候補決定部により決定された前記第一制御オフセット候補値、前記第二制御オフセット候補決定部により決定された前記第二制御オフセット候補値、及び前記第三制御オフセット候補決定部により決定された前記第三制御オフセット候補値に基づいて、前記制御オフセット値を決定する制御オフセット決定部と、を備えたことを特徴とする。
また、請求項のデブロッキングフィルタ制御装置は、請求項1からまでのいずれか一項に記載のデブロッキングフィルタ制御装置において、前記フィルタ強度処理部が、前記デブロッキングフィルタの適用有無を定めるための所定の第一閾値に対し、前記制御オフセット処理部により決定された前記制御オフセット値を加算して第二閾値を求め、前記動画像のブロックにおける所定位置の画素値及び前記第二閾値に基づいて、前記第二閾値が大きいほど、前記デブロッキングフィルタを適用することを示す適用有無情報を生成し、前記第二閾値が小さいほど、前記デブロッキングフィルタを適用しないことを示す前記適用有無情報を生成するフィルタリング適用処理部と、前記フィルタ強度の強弱を定めるための所定の第三閾値に対し、前記制御オフセット処理部により決定された前記制御オフセット値を加算して第四閾値を求め、当該第四閾値を所定数で除算して第五閾値を求め、前記動画像のブロックにおける所定位置の画素値及び前記第五閾値に基づいて、前記第五閾値が大きいほど、前記フィルタ強度が強いことを示すフィルタモードを生成し、前記第五閾値が小さいほど、前記フィルタ強度が弱いことを示す前記フィルタモードを生成するフィルタリング適用処理部と、を備えたことを特徴とする。
また、請求項のプログラムは、コンピュータを、請求項1からまでのいずれか一項に記載のデブロッキングフィルタ制御装置として機能させることを特徴とする。
以上のように、本発明によれば、例えば水面のような符号化が困難な動画像について、ブロック歪みを目立ち難くし、主観画質を向上させることが可能となる。
本発明の実施形態によるデブロッキングフィルタ強度制御部を用いる動画像符号化装置の構成例を示すブロック図である。 インループフィルタの構成例を示すブロック図である。 デブロッキングフィルタ強度制御部の構成例を示すブロック図である。 制御オフセット処理部の構成例を示すブロック図である。 フィルタリング適用処理部の構成例を示すブロック図である。 フィルタモード処理部の構成例を示すブロック図である。 制御オフセット候補値γn,δnを決定する制御オフセット候補決定部が用いる参照ピクチャセット情報及びQPオフセット値の例を説明する図である。 制御オフセット候補値εを決定する制御オフセット候補決定部の処理例を説明する図である。 パラメータQAV1を閾値βに変換するパラメータ変換部の処理例を説明する図である。 フィルタリング適用判定部の処理に用いるブロックP,Qの画素値の位置を説明する図である。 パラメータQAV2を閾値tcに変換するパラメータ変換部の処理例を説明する図である。
以下、本発明を実施するための形態について図面を用いて詳細に説明する。本発明は、動画像の信号にフィルタ処理を施すデブロッキングフィルタに対し、フィルタ強度を制御するデブロッキングフィルタ制御装置において、GOP(Group Of Picture)内のIピクチャからの符号化順番号、QP(Quantization Parameter)オフセット値及び局部復号Iピクチャの空間高周波パワーの各データのうち、1つ以上のデータに基づいて、フィルタ強度を決定することを特徴とする。
これにより、例えば水面のような符号化が困難な動画像について、符号化順番号、QPオフセット値及び空間高周波パワーのうちの1つ以上のデータを反映した制御オフセット値(閾値のオフセット値)が決定され、制御オフセット値が反映された閾値に基づきフィルタリング適用有無情報及びフィルタモードが判定され、フィルタ強度が決定される。
このようにして決定されたフィルタ強度をデブロッキングフィルタに適用することで、ブロック歪みを目立ち難くし、主観画質を向上させることが可能となる。
〔動画像符号化装置〕
まず、本発明の実施形態によるデブロッキングフィルタ強度制御部(デブロッキングフィルタ制御装置)を用いる動画像符号化装置について説明する。図1は、本発明の実施形態によるデブロッキングフィルタ強度制御部を用いる動画像符号化装置の構成例を示すブロック図である。
この動画像符号化装置1は、入力動画像に対し、フレーム毎に符号化処理を行い、符号化信号を生成して出力する装置である。動画像符号化装置1は、減算部110、直交変換部111、量子化部112、逆量子化部113、逆直交変換部114、加算部115、画面内予測部116、画面間予測部117、スイッチ118、エントロピー符号化部120及びインループフィルタ10を備えている。尚、図1には、本発明に関連する構成部のみを示しており、関連しない構成部は省略してある。
減算部110は、入力動画像のフレーム(Iフレーム、Pフレーム及びBフレーム)を入力すると共に、スイッチ118から当該フレームの予測画像を入力する。そして、減算部110は、入力動画像のフレームから予測画像を減算し、減算結果の残差画像を生成し、残差画像を直交変換部111に出力する。
直交変換部111は、減算部110から残差画像を入力し、残差画像に対し直交変換を行い、変換係数列を生成する。そして、直交変換部111は、変換係数列を量子化部112に出力する。
量子化部112は、直交変換部111から変換係数列を入力し、変換係数列に対し量子化を行い、量子化インデックス列を生成する。そして、量子化部112は、量子化インデックス列を逆量子化部113及びエントロピー符号化部120に出力する。
逆量子化部113は、量子化部112から量子化インデックス列を入力し、量子化部112の逆の処理を行うことで、量子化インデックス列を逆量子化し、変換係数列を生成する。そして、逆量子化部113は、変換係数列を逆直交変換部114に出力する。
逆直交変換部114は、逆量子化部113から変換係数列を入力し、直交変換部111の逆の処理を行うことで、変換係数列を逆直交変換し、復号残差画像を生成する。そして、逆直交変換部114は、復号残差画像を加算部115に出力する。
加算部115は、逆直交変換部114から復号残差画像を入力すると共に、スイッチ118から予測画像を入力し、予測画像に復号残差画像を加算する。そして、加算部115は、加算後の画像を局部復号画像として、局部復号画像のうちの局部復号Iピクチャを画面内予測部116に出力する。また、加算部115は、局部復号画像である局部復号I,P,Bピクチャをインループフィルタ10に出力する。
ここで、局部復号Iピクチャは、入力動画像のIフレームに対し、直交変換部111の処理、量子化部112の処理、逆量子化部113の処理及び逆直交変換部114の処理が行われることにより得られた復号画像である。
画面内予測部116は、加算部115から局部復号Iピクチャを入力し、所定領域毎に、局部復号Iピクチャに画面内予測処理を施し、画面内予測結果を生成し、所定領域毎の画面内予測結果をスイッチ118に出力する。
インループフィルタ10は、加算部115から局部復号I,P,Bピクチャを入力し、局部復号I,P,Bピクチャに対し、デブロッキングフィルタによるフィルタ処理及び画素適用オフセットによるフィルタ処理を行う。そして、インループフィルタ10は、フィルタ処理後の局部復号I,P,Bピクチャを画面間予測部117に出力する。インループフィルタ10の詳細については後述する。
本発明の実施形態では、インループフィルタ10は、デブロッキングフィルタによるフィルタ処理を行う際に、当該フィルタを適用するか否かを示す輝度フィルタリング適用有無情報を生成すると共に、当該フィルタのフィルタ強度(強弱)を示すフィルタモードを生成する。
具体的には、インループフィルタ10は、動画像のGOPにおけるIピクチャからの符号化順の番号を示す符号化順番号n、QPオフセット値QPn、及び局部復号Iピクチャの空間高周波パワーPIに基づいて、輝度フィルタリング適用有無情報及びフィルタモードを生成する。そして、インループフィルタ10は、輝度フィルタリング適用有無情報及びフィルタモードに基づいて、デブロッキングフィルタによるフィルタ処理を行う。
ここで、符号化順番号n及びQPオフセット値QPnの値が大きいほど、画像の符号化劣化が大きく、空間高周波パワーPIの値が大きいほど、ぼやけの程度が低くブロック歪みが生じ易いとして、フィルタを適用する「有」を示す輝度適用有無情報、及び強フィルタリングを適用するフィルタモードが生成され易くなる。この場合、強フィルタリングのデブロッキングフィルタ処理が行われる。また、符号化順番号n等の値がさほど大きくなく、かつ小さくもない場合、弱フィルタリングのデブロッキングフィルタ処理が行われる。
一方、符号化順番号n及びQPオフセット値QPnの値が小さいほど、画像の符号化劣化が小さく、空間高周波パワーPIの値が小さいほど、ぼやけの程度が高くブロック歪みが生じ難いとして、フィルタを適用しない「無」を示す輝度適用有無情報、及び弱フィルタリングを適用するフィルタモードが生成され易くなる。この場合、デブロッキングフィルタ処理は行われない。
これにより、例えば水面のような符号化が困難な動画像について、ブロック歪みを目立ち難くし、主観画質を向上させることが可能となる。
画面間予測部117は、インループフィルタ10からフィルタ処理後の局部復号I,P,Bピクチャを入力する。そして、画面間予測部117は、所定領域毎に、現在の局部復号P,Bピクチャである基準ピクチャ及び過去の局部復号I,P,Bピクチャである参照ピクチャを用いて画面間予測を行い、予測画像を求める。画面間予測部117は、所定領域毎の予測画像を、所定領域毎の画面間予測結果としてスイッチ118に出力する。
スイッチ118は、画面内予測部116から所定領域毎の画面内予測結果を入力すると共に、画面間予測部117から所定領域毎の画面間予測結果を入力し、いずれか一方を選択し、予測画像として減算部110及び加算部115に出力する。
エントロピー符号化部120は、量子化部112から量子化インデックス列を入力すると共に、画面間予測部117等からパラメータを入力する。そして、エントロピー符号化部120は、量子化インデックス列及びパラメータに対しエントロピー符号化を行い、符号化信号を生成する。エントロピー符号化部120は、符号化信号を動画像復号装置へ出力する。
〔インループフィルタ10〕
次に、図1に示したインループフィルタ10について詳細に説明する。図2は、インループフィルタ10の構成例を示すブロック図である。このインループフィルタ10は、デブロッキングフィルタ強度制御部(デブロッキングフィルタ制御装置)11及びデブロッキングフィルタ12を備えている。尚、図2には、本発明に関連する構成部のみを示しており、関連しない構成部(画素適用オフセットによるフィルタ処理を行う構成部)は省略してある。
インループフィルタ10は、加算部115から局部復号I,P,Bピクチャを入力し、デブロッキングフィルタによるフィルタ処理等を行い、フィルタ処理後の局部復号I,P,Bピクチャを画面間予測部117に出力する。
デブロッキングフィルタ強度制御部11は、GOP内の最初の局部復号Iピクチャからの符号化順番号n、QPオフセット値QPn、及び局部復号Iピクチャの空間高周波パワーPIに基づいて、輝度フィルタリング適用有無情報及びフィルタモード(強/弱)を生成する。そして、デブロッキングフィルタ強度制御部11は、輝度フィルタリング適用有無情報及びフィルタモードをデブロッキングフィルタ12に出力する。デブロッキングフィルタ強度制御部11の処理の詳細については後述する。
デブロッキングフィルタ12は、デブロッキングフィルタ強度制御部11から輝度フィルタリング適用有無情報及びフィルタモードを入力する。そして、デブロッキングフィルタ12は、輝度フィルタリング適用有無情報が「有」を示し、かつフィルタモードが「強」を示している場合、局部復号I,P,Bピクチャに対し、強フィルタリングのデブロッキングフィルタ処理を行う。
また、デブロッキングフィルタ12は、輝度フィルタリング適用有無情報が「有」を示し、かつフィルタモードが「弱」を示している場合、局部復号I,P,Bピクチャに対し、弱フィルタリングのフィルタ処理を行う。一方、デブロッキングフィルタ12は、輝度フィルタリング適用有無情報が「無」を示している場合、デブロッキングフィルタ処理を行わない。
〔デブロッキングフィルタ強度制御部11〕
次に、図2に示したデブロッキングフィルタ強度制御部11について詳細に説明する。図3は、デブロッキングフィルタ強度制御部11の構成例を示すブロック図である。このデブロッキングフィルタ強度制御部11は、制御オフセット処理部20、ブロック境界強度処理部21及びフィルタ強度処理部24を備えている。フィルタ強度処理部24は、フィルタリング適用処理部22及びフィルタモード処理部23を備えている。
制御オフセット処理部20は、参照ピクチャセット情報、QPオフセット値QPn及び局部復号Iピクチャを入力する。そして、制御オフセット処理部20は、参照ピクチャセット情報、QPオフセット値QPn及び局部復号Iピクチャに基づいて、制御オフセット候補値γn,δn,εをそれぞれ決定する。
制御オフセット処理部20は、制御オフセット候補値γn,δn,εに基づいて制御オフセット値φnを決定し、制御オフセット値φnをフィルタ強度処理部24のフィルタリング適用処理部22及びフィルタモード処理部23に出力する。制御オフセット値φnは、後述する閾値βのオフセット値である。制御オフセット処理部20の詳細については後述する。
ブロック境界強度処理部21は、加算部115から局部復号I,P,Bピクチャ等を入力し、以下に示す(a)~(e)のとおり、ブロックP,Qの境界条件に応じて、ピクチャにおけるブロックP,Qの境界強度値であるブロック境界強度Bsを決定する。そして、ブロック境界強度処理部21は、ブロック境界強度Bsをフィルタモード処理部23に出力する。
(a)ブロックP,Qの境界条件:少なくとも一方のブロックが画面内予測ブロックである。ブロック境界強度Bs=2。
(b)ブロックP,Qの境界条件:少なくとも一方のブロックに非零の直交変換係数が存在し、TU境界である。ブロック境界強度Bs=1。
(c)ブロックP,Qの境界条件:境界を挟む2つのブロックの動きベクトルの差の絶対値が1画素以下である。ブロック境界強度Bs=1。
(d)ブロックP,Qの境界条件:境界を挟む2つのブロックの動き補償の参照画素が異なるか、動きベクトルの数が異なる。ブロック境界強度Bs=1。
(e)ブロックP,Qの境界条件:前記(a)~(d)以外。ブロック境界強度Bs=0。
尚、ブロック境界強度処理部21の処理は既知である。詳細については、前述の非特許文献1を参照されたい。
フィルタ強度処理部24のフィルタリング適用処理部22は、加算部115から局部復号I,P,Bピクチャを入力すると共に、制御オフセット処理部20から制御オフセット値φnを入力する。また、フィルタリング適用処理部22は、ブロックP,Qの量子化パラメータの平均値(量子化パラメータ平均値)Qaverage、及びエンコーダで設定するオフセット値slice_beta_offset_div2を入力する。量子化パラメータ平均値Qaverageは、ビットストリーム内のブロックP,Qの量子化パラメータ値から計算される。また、オフセット値slice_beta_offset_div2は、入力動画像のビットストリーム中のスライス・セグメント・ヘッダに含まれるデータであり、ビットストリーム中のスライス・セグメント・ヘッダから抽出される。
フィルタリング適用処理部22は、量子化パラメータ平均値Qaverageにオフセット値slice_beta_offset_div2を加算する等してパラメータQAV1を求め、パラメータQAV1を閾値βに変換する。
フィルタリング適用処理部22は、局部復号I,P,BピクチャのブロックP,Qの画素値、制御オフセット値φn及び閾値βに基づいて、輝度フィルタリング適用有無情報を生成し、輝度フィルタリング適用有無情報をデブロッキングフィルタ12に出力する。また、フィルタリング適用処理部22は、閾値βをフィルタモード処理部23に出力する。フィルタリング適用処理部22の詳細については後述する。
フィルタ強度処理部24のフィルタモード処理部23は、加算部115から局部復号I,P,Bピクチャを入力すると共に、制御オフセット処理部20から制御オフセット値φnを入力する。また、フィルタモード処理部23は、ブロック境界強度処理部21からブロック境界強度Bsを入力すると共に、フィルタリング適用処理部22から閾値βを入力する。さらに、フィルタモード処理部23は、量子化パラメータ平均値Qaverage及びオフセット値slice_tc_offset_div2を入力する。オフセット値slice_tc_offset_div2は、入力動画像のビットストリーム中のスライス・セグメント・ヘッダに含まれるデータであり、ビットストリーム中のスライス・セグメント・ヘッダから抽出される。
フィルタモード処理部23は、量子化パラメータ平均値Qaverage、オフセット値slice_tc_offset_div2及びブロック境界強度Bsに基づいて、パラメータQAV2を求め、パラメータQAV2を閾値tcに変換する。
フィルタモード処理部23は、局部復号I,P,BピクチャのブロックP,Qの画素値、制御オフセット値φn及び閾値β,tcに基づいて、フィルタモードを生成し、フィルタモードをデブロッキングフィルタ12に出力する。フィルタモード処理部23の詳細については後述する。
〔制御オフセット処理部20〕
次に、図3に示した制御オフセット処理部20について詳細に説明する。図4は、制御オフセット処理部20の構成例を示すブロック図である。この制御オフセット処理部20は、制御オフセット候補決定部30,31,32及び制御オフセット決定部33を備えている。
(符号化順の制御オフセット候補値γn
制御オフセット候補決定部30は、参照ピクチャセット情報を入力し、参照ピクチャセット情報から符号化順番号nを抽出する。符号化順番号nは、GOPにおけるIピクチャを基準(最初)とした被符号化ピクチャの符号化の順番を示す。そして、制御オフセット候補決定部30は、符号化順番号nに応じて、符号化順の制御オフセット候補値γnを決定する。制御オフセット候補決定部30は、符号化順の制御オフセット候補値γnを制御オフセット決定部33に出力する。
具体的には、制御オフセット候補決定部30は、参照ピクチャセット情報から抽出した符号化順番号n、及びイントラピクチャ周期であるIピクチャの周期(符号化順番号nの最大値)nmaxに基づいて、以下の式にて、符号化順の制御オフセット候補値γnを決定する。
[数1]
γn=n/nmax ・・・(1)
つまり、制御オフセット候補決定部30は、符号化順番号nの値が大きいほど(符号化順番号nの被符号化ピクチャがn=0のIピクチャから離れていればいるほど)、画像の符号化劣化が大きいと判断し、符号化順の制御オフセット候補値γnを大きい値に決定する。一方、制御オフセット候補決定部30は、符号化順番号nの値が小さいほど(符号化順番号nの被符号化ピクチャがn=0のIピクチャに近ければ近いほど)、画像の符号化劣化が小さいと判断し、符号化順の制御オフセット候補値γnを小さい値に決定する。
図7は、制御オフセット候補値γn,δnを決定する制御オフセット候補決定部30,31が用いる参照ピクチャセット情報及びQPオフセット値QPnの例を説明する図である。
参照ピクチャセット情報には、入力順番号、符号化順番号n、フレームの種類(I,P,B)及び参照関係の情報が含まれる。
入力順番号は、GOPにおけるIピクチャを基準とした被符号化ピクチャの入力順の番号を示し、符号化順番号nは、Iピクチャを基準とした被符号化ピクチャの符号化順の番号を示す。符号化順番号nが大きいほど、Iフレームから離れており、符号化順番号nが小さいほど、Iフレームに近いことを示している。
QPオフセット値QPnは、ピクチャの画質を表す値であり、ピクチャ毎に設定される。QPオフセット値QPnが大きいほど、画質が悪く、QPオフセット値QPnが小さいほど、画質が良いことを示す。このように、参照ピクチャセット情報及びQPオフセット値QPnは、GOPを構成するピクチャ毎に予め設定される。
例えば、参照ピクチャセット情報において、入力順番号=0及び符号化順番号n=0のピクチャはIピクチャである。このIピクチャは、入力順番号=1,2,4,8,16(符号化順番号n=5,4,3,2,1)のBピクチャに参照されることを示している。このIピクチャのQPオフセット値QPnは、QP0=0である。
また、例えば、入力順番号=4及び符号化順番号n=3のピクチャはBピクチャである。このBピクチャは、入力順番号=0(符号化順番号n=0)のIピクチャ、及び入力順番号=8(符号化順番号n=2)のBピクチャを参照し、入力順番号=2,3,5,6(符号化順番号n=4,6,8,7)のBピクチャに参照されることを示している。このBピクチャのQPオフセット値QPnは、QP3=4である。
(QPオフセットの制御オフセット候補値δn
図4に戻って、制御オフセット候補決定部31は、QPオフセット値QPnを入力し、QPオフセット値QPnに応じて、QPオフセットの制御オフセット候補値δnを決定する。制御オフセット候補決定部31は、QPオフセットの制御オフセット候補値δnを制御オフセット決定部33に出力する。QPオフセット値QPnは、図7に示したとおり、符号化順番号nの被符号化ピクチャのQPオフセット値である。
具体的には、制御オフセット候補決定部31は、QPオフセット値QPn、及びGOP内におけるQPオフセット値QPnの最大値(QPオフセット最大値)QPmaxに基づいて、以下の式にて、QPオフセットの制御オフセット候補値δnを決定する。
[数2]
δn=QPn/QPmax ・・・(2)
つまり、制御オフセット候補決定部31は、QPオフセット値QPnが大きいほど(画質が悪いほど)、画像の符号化劣化が大きいと判断し、QPオフセットの制御オフセット候補値δnを大きい値に決定する。一方、制御オフセット候補決定部31は、QPオフセット値QPnが小さいほど(画質が良いほど)、画像の符号化劣化が小さいと判断し、QPオフセットの制御オフセット候補値δnを小さい値に決定する。
(空間高周波パワーの制御オフセット候補値ε)
制御オフセット候補決定部32は、局部復号Iピクチャを入力し、局部復号Iピクチャの空間高周波パワーPIを算出し、空間高周波パワーの制御オフセット候補値εを決定する。制御オフセット候補決定部32は、空間高周波パワーの制御オフセット候補値εを制御オフセット決定部33に出力する。
図8は、制御オフセット候補値δnを決定する制御オフセット候補決定部32の処理例を説明する図である。制御オフセット候補決定部32は、局部復号Iピクチャを入力し(ステップS801)、局部復号Iピクチャを1階ウェーブレット分解する(ステップS802)。
制御オフセット候補決定部32は、1階ウェーブレット分解後の画像について、水平、垂直及び対角の高周波帯域における全ての位相位置の要素値(画素値)を用いて、RMS(Root Mean Square:二乗平均平方根)値を算出する(ステップS803)。
制御オフセット候補決定部32は、局部復号Iピクチャの高周波帯域のRMS値を正規化し、局部復号Iピクチャの空間高周波パワーPIを求める(ステップS804)。
制御オフセット候補決定部32は、局部復号Iピクチャの空間高周波パワーPIに基づいて、以下の式にて、空間高周波パワーの制御オフセット候補値εを決定する(ステップS805)。
[数3]
ε=PI ・・・(3)
つまり、制御オフセット候補決定部32は、局部復号Iピクチャの空間高周波パワーPIが大きいほど、ぼやけの程度が低くブロック歪みが生じ易いと判断し、空間高周波パワーの制御オフセット候補値εを大きい値に決定する。一方、制御オフセット候補決定部32は、局部復号Iピクチャの空間高周波パワーPIが小さいほど、ぼやけの程度が高くブロック歪みが生じ難いと判断し、空間高周波パワーの制御オフセット候補値εを小さい値に決定する。
(制御オフセット値φn
図4に戻って、制御オフセット決定部33は、制御オフセット候補決定部30から符号化順の制御オフセット候補値γnを入力し、制御オフセット候補決定部31からQPオフセットの制御オフセット候補値δnを入力し、制御オフセット候補決定部32から空間高周波パワーの制御オフセット候補値εを入力する。
制御オフセット決定部33は、符号化順の制御オフセット候補値γn、QPオフセットの制御オフセット候補値δn及び空間高周波パワーの制御オフセット候補値εに基づいて、制御オフセット値φnを決定し、制御オフセット値φnをフィルタリング適用処理部22及びフィルタモード処理部23に出力する。
具体的には、制御オフセット決定部33は、以下の式にて、制御オフセット値φnを決定する。
[数4]
φn=aγn+bδn+cε ・・・(4)
a,b,cは重み定数である。
前記式(4)は、符号化順の制御オフセット候補値γnに重み定数aを乗算し、QPオフセットの制御オフセット候補値δnに重み定数bを乗算し、空間高周波パワーの制御オフセット候補値εに重み定数cを乗算し、それぞれの乗算結果を加算することで制御オフセット値φnを求める式である。
つまり、制御オフセット決定部33は、制御オフセット候補値γn,δnのそれぞれの値が大きいほど、画像の符号化劣化が大きいと判断し、制御オフセット候補値εの値が大きいほど、ぼやけの程度が低くブロック歪みが生じ易いと判断し、重み定数a,b,cに応じて、制御オフセット値φnを大きい値に決定する。
一方、制御オフセット決定部33は、制御オフセット候補値γn,δnのそれぞれの値が小さいほど、画像の符号化劣化が小さいと判断し、制御オフセット候補値εの値が小さいほど、ぼやけの程度が高くブロック歪みが生じ難いと判断し、重み定数a,b,cに応じて、制御オフセット値φnを小さい値に決定する。
〔フィルタリング適用処理部22〕
次に、図3に示したフィルタリング適用処理部22について詳細に説明する。図5は、フィルタリング適用処理部22の構成例を示すブロック図である。このフィルタリング適用処理部22は、パラメータ算出部40、パラメータ変換部41及びフィルタリング適用判定部42を備えている。
(パラメータQAV1
パラメータ算出部40は、量子化パラメータ平均値Qaverageを入力すると共に、オフセット値slice_beta_offset_div2を入力し、量子化パラメータ平均値Qaverage及びオフセット値slice_beta_offset_div2に基づいて、パラメータQAV1を算出する。そして、パラメータ算出部40は、パラメータQAV1をパラメータ変換部41に出力する。
具体的には、パラメータ算出部40は、以下の式のとおり、量子化パラメータ平均値Qaverageにオフセット値slice_beta_offset_div2を加算し、加算結果を21=2倍することで、パラメータQAV1を算出する。
[数5]
AV1=Qaverage+slice_beta_offset_div2<<1 ・・・(5)
ここで、「<<1」は、1ビット算術左シフト演算(2倍演算)を示す。
つまり、パラメータ算出部40は、量子化パラメータ平均値Qaverage及びオフセット値slice_beta_offset_div2のそれぞれの値が大きいほど、パラメータQAV1が大きい値となるように、パラメータQAV1の算出を行う。一方、パラメータ算出部40は、量子化パラメータ平均値Qaverage及びオフセット値slice_beta_offset_div2のそれぞれの値が小さいほど、パラメータQAV1が小さい値となるように、パラメータQAV1の算出を行う。
尚、パラメータ算出部40の処理は既知である。詳細については、前述の非特許文献1を参照されたい。
(閾値β)
パラメータ変換部41は、パラメータ算出部40からパラメータQAV1を入力し、予め設定された変換規則に従い、パラメータQAV1を閾値βに変換する。そして、パラメータ変換部41は、閾値βをフィルタリング適用判定部42に出力すると共に、フィルタモード処理部23に出力する。
図9は、パラメータQAV1を閾値βに変換するパラメータ変換部41の処理例を説明する図である。図9に示すグラフの横軸はパラメータQAV1を示し、縦軸は閾値βを示す。また、丸点を繋げた実線がパラメータQAV1から閾値βへの変換特性を示している。
パラメータ変換部41は、図9に示す変換特性のデータが格納されたテーブルを備えており、当該テーブルから、入力したパラメータQAV1に対応する閾値βを読み出すことで、パラメータQAV1を閾値βに変換する。
尚、パラメータ変換部41は、図9に示す変換特性を表した変換式を用いて、入力したパラメータQAV1に対応する閾値βを算出することで、パラメータQAV1を閾値βに変換するようにしてもよい。
また、図9に示した変換特性は、ユーザにより任意に設定することができる。例えば、パラメータQAV1に対する閾値βを大きい値に設定することにより、図9の矢印Aのとおり、変換特性の実線を上方向(閾値βが大きくなる方向)へ移動させることができ、デブロッキングフィルタ12の処理を効き易くすることができる。
一方、パラメータQAV1に対する閾値βを小さい値に設定することにより、図9の矢印Bのとおり、変換特性の実線を下方向(閾値βが小さくなる方向)へ移動させることができ、デブロッキングフィルタ12の処理を効き難くすることができる。
尚、パラメータ変換部41の処理は既知である。詳細については、前述の非特許文献1を参照されたい。
(輝度フィルタリング適用有無情報)
図5に戻って、フィルタリング適用判定部42は、パラメータ変換部41から閾値βを入力すると共に、加算部115から局部復号I,P,Bピクチャを入力し、さらに制御オフセット処理部20から制御オフセット値φnを入力する。
フィルタリング適用判定部42は、閾値β、制御オフセット値φn、及び局部復号I,P,BピクチャのP,Qブロックにおける所定位置の画素値を所定演算して得られた演算結果に基づいて、デブロッキングフィルタ12を適用するか否かを示す輝度フィルタリング適用有無情報を生成する。そして、フィルタリング適用判定部42は、輝度フィルタリング適用有無情報をデブロッキングフィルタ12に出力する。
具体的には、フィルタリング適用判定部42は、以下の式のとおり、閾値βに制御オフセット値φnを加算し、加算結果の閾値(β+φn)を求める。また、フィルタリング適用判定部42は、局部復号I,P,BピクチャのP,Qブロックにおける所定位置の画素値に基づいて、P,Qブロックのブロック境界の両側(上下または左右)の画素列のアクティビティである画像の変化の度合いを求める。
[数6]
|p20-2×p10+p00|+|p23-2×p13+p03|+
|q20-2×q10+q00|+|q23-2×q13+q03|<(β+φn) ・・・(6)
前記式(6)において、左辺は、P,Qブロックのブロック境界における画像変化の度合いを示し、右辺は、閾値(β+φn)を示す。
図10は、フィルタリング適用判定部42の処理に用いるブロックP,Qの画素値の位置を説明する図である。P,Qブロックの画素単位は8×8である。前記式(6)の左辺は、ブロック境界の画素のうち、図10に示す破線部の画素におけるp20,p10,p00,p23,p13,p03,q20,q10,q00,q23,q13,q03の画素を用いて算出される。
図5に戻って、フィルタリング適用判定部42は、P,Qブロックのブロック境界における画像変化の度合いが閾値(β+φn)よりも小さいと判定した場合、すなわち前記式(6)を満たすと判定した場合、「有」を示す輝度フィルタリング適用有無情報を生成する。
これにより、デブロッキングフィルタ12において、デブロッキング処理が行われる。ブロック境界における画像変化の度合いが小さい場合にデブロッキング処理が行われるのは、このような場合は画像のブロック歪みが生じ易いからである。
一方、フィルタリング適用判定部42は、P,Qブロックのブロック境界における画像変化の度合いが閾値(β+φn)以上であると判定した場合、すなわち前記式(6)を満たさないと判定した場合、「無」を示す輝度フィルタリング適用有無情報を生成する。
これにより、デブロッキングフィルタ12において、デブロッキング処理は行われない。ブロック境界における画像変化の度合いが大きい場合にデブロッキング処理が行われないのは、このような場合は画像のブロック歪みが生じ難いからである。
尚、前述の非特許文献1の標準規格では、ブロック境界強度Bsが0の場合、デブロッキングフィルタ12によるデブロッキング処理は行われない。また、ブロック境界強度Bsが1以上の場合に、前記式(6)の左辺の値が閾値βよりも小さいとき、デブロッキング処理が行われ、前記式(6)の左辺の値が閾値β以上であるとき、デブロッキング処理は行われない。
本発明の実施形態では、前記式(6)に示したとおり、閾値βの代わりに閾値(β+φn)を用いるようにした。これにより、デブロッキングフィルタ12の適用の有無は、閾値βに加え、制御オフセット値φnも含めて判定される。
前述のとおり、制御オフセット値φnは、符号化順の制御オフセット候補値γn、QPオフセットの制御オフセット候補値δn及び空間高周波パワーの制御オフセット候補値εに基づいて決定される。
符号化順番号n、QPオフセット値QPn及び空間高周波パワーPIのそれぞれが大きいほど、制御オフセット値φnが大きくなり、閾値(β+φn)も大きくなる。一方、符号化順番号n、QPオフセット値QPn及び空間高周波パワーPIのそれぞれが小さいほど、制御オフセット値φnが小さくなり、閾値(β+φn)も小さくなる。
したがって、符号化順番号n及びQPオフセット値QPnのそれぞれが大きいほど、画像の符号化劣化が大きいと判断され、空間高周波パワーPIが大きいほど、ぼやけの程度が低くブロック歪みが生じ易いと判断され、閾値(β+φn)も大きくなり、結果として、デブロッキングフィルタ12が適用され易くなる。
一方、符号化順番号n及びQPオフセット値QPnのそれぞれが小さいほど、画像の符号化劣化が小さいと判断され、空間高周波パワーPIが小さいほど、ぼやけの程度が高くブロック歪みが生じ難いと判断され、閾値(β+φn)も小さくなり、結果として、デブロッキングフィルタ12が適用され難くなる。
〔フィルタモード処理部23〕
次に、図3に示したフィルタモード処理部23について詳細に説明する。図6は、フィルタモード処理部23の構成例を示すブロック図である。このフィルタモード処理部23は、パラメータ算出部50、パラメータ変換部51及びフィルタモード判定部52を備えている。
(パラメータQAV2
パラメータ算出部50は、ブロック境界強度処理部21からブロック境界強度Bsを入力すると共に、量子化パラメータ平均値Qaverageを入力し、さらに、オフセット値slice_tc_offset_div2を入力する。そして、パラメータ算出部50は、ブロック境界強度Bs、量子化パラメータ平均値Qaverage及びオフセット値slice_tc_offset_div2に基づいて、パラメータQAV2を算出する。パラメータ算出部50は、パラメータQAV2をパラメータ変換部51に出力する。
具体的には、パラメータ算出部50は、以下の式のとおり、ブロック境界強度Bsから1を減算して2倍する。そして、パラメータ算出部50は、量子化パラメータ平均値Qaverageに、2倍した減算結果及びオフセット値slice_tc_offset_div2を加算し、加算結果を21=2倍することで、パラメータQAV2を算出する。
[数7]
AV2=Qaverage+2×(Bs-1)+slice_tc_offset_div2<<1
・・・(7)
つまり、パラメータ算出部50は、量子化パラメータ平均値Qaverage、ブロック境界強度Bs及びオフセット値slice_tc_offset_div2のそれぞれの値が大きいほど、パラメータQAV2が大きい値となるように、パラメータQAV2の算出を行う。一方、パラメータ算出部50は、量子化パラメータ平均値Qaverage、ブロック境界強度Bs及びオフセット値slice_tc_offset_div2のそれぞれの値が小さいほど、パラメータQAV2が小さい値となるように、パラメータQAV2の算出を行う。
尚、パラメータ算出部50の処理は既知である。詳細については、前述の非特許文献1を参照されたい。
(閾値tc
パラメータ変換部51は、パラメータ算出部50からパラメータQAV2を入力し、予め設定された変換規則に従い、パラメータQAV2を閾値tcに変換する。そして、パラメータ変換部51は、閾値tcをフィルタモード判定部52に出力する。
図11は、パラメータQAV2を閾値tcに変換するパラメータ変換部51の処理例を説明する図である。図11に示すグラフの横軸はパラメータQAV2を示し、縦軸は閾値tcを示す。また、丸点を繋げた実線がパラメータQAV2から閾値tcへの変換特性を示している。
パラメータ変換部51は、図11に示す変換特性のデータが格納されたテーブルを備えており、当該テーブルから、入力したパラメータQAV2に対応する閾値tcを読み出すことで、パラメータQAV2を閾値tcに変換する。
尚、パラメータ変換部51は、図11に示す変換特性を表した変換式を用いて、入力したパラメータQAV2に対応する閾値tcを算出することで、パラメータQAV2を閾値tcに変換するようにしてもよい。
また、図11に示した変換特性は、ユーザにより任意に設定することができる。例えば、パラメータQAV2に対する閾値tcを大きい値に設定することにより、図11の矢印Aのとおり、変換特性の実線を上方向(閾値tcが大きくなる方向)へ移動させることができる。これにより、デブロッキングフィルタ12のフィルタモードは、「強」に設定され易くなる。つまり、デブロッキングフィルタ12のフィルタリング強度を強くすることができる。
一方、パラメータQAV2に対する閾値tcを小さい値に設定することにより、図11の矢印Bのとおり、変換特性の実線を下方向(閾値tcが小さくなる方向)へ移動させることができる。これにより、デブロッキングフィルタ12のフィルタモードは、「弱」に設定され易くなる。つまり、デブロッキングフィルタ12のフィルタリング強度を弱くすることができる。
尚、パラメータ変換部51の処理は既知である。詳細については、前述の非特許文献1を参照されたい。
(フィルタモード)
図6に戻って、フィルタモード判定部52は、パラメータ変換部51から閾値tcを入力すると共に、加算部115から局部復号I,P,Bピクチャを入力し、さらに、フィルタリング適用処理部22から閾値βを入力する。また、フィルタモード判定部52は、制御オフセット処理部20から制御オフセット値φnを入力する。
フィルタモード判定部52は、閾値tc,β、制御オフセット値φn、及び局部復号I,P,BピクチャのP,Qブロックにおける所定位置の画素値を所定演算して得られた演算結果に基づいて、デブロッキングフィルタ12によるデブロッキングフィルタ処理の強弱を示すフィルタモード(強/弱)を生成する。そして、フィルタモード判定部52は、フィルタモードをデブロッキングフィルタ12に出力する。
具体的には、フィルタモード判定部52は、以下の式のとおり、閾値βに制御オフセット値φnを加算し、加算結果を22=4で除算して閾値((β+φn)>>2)を求める(式(8)の(a)(b)の右辺)。また、フィルタモード判定部52は、閾値βに制御オフセット値φnを加算した加算結果を23=8で除算し、閾値((β+φn)>>3)を求める(式(8)の(c)(d)の右辺)。さらに、フィルタモード判定部52は、閾値tcを5倍して1を加算し、加算結果を21=2で除算して閾値((5×tc+1)>>1)を求める(式(8)の(e)(f)の右辺)。
[数8]
(a)2×(|p20-2×p10+p00|+|q20-2×q10+q00|)<((β+φn)>>2)
(b)2×(|p23-2×p13+p03|+|q23-2×q13+q03|)<((β+φn)>>2)
(c)|p30-p00|+|q00-q30|<((β+φn)>>3)
(d)|p33-p03|+|q03-q33|<((β+φn)>>3)
(e)|p00-q00|<((5×tc+1)>>1)
(f)|p03-q03|<((5×tc+1)>>1) ・・・(8)
フィルタモード判定部52は、局部復号I,P,BピクチャのP,Qブロックにおける所定位置の画素値に基づいて、P,Qブロックのブロック境界の両側(上下または左右)の画素列のアクティビティである画像の変化の度合いを求める(前記式(8)の(a)(b)の左辺)。また、フィルタモード判定部52は、ブロック境界の平坦度合いを求め(前記式(8)の(c)(d)の左辺)、ブロック境界に隣接する2つの画素値の差を求める(前記式(8)の(e)(f)の左辺)。
ブロックP,Qの画素値の位置は、図10に示したとおりである。前記式(8)の左辺は、ブロック境界の画素のうち、図10に示す破線部の画素を用いて算出される。
フィルタモード判定部52は、前記式(8)の(a)(b)において、P,Qブロックのブロック境界における画像変化の度合いが閾値((β+φn)>>2)よりも小さく、(c)(d)において、ブロック境界の平坦度合いが閾値((β+φn)>>3)よりも小さく、(e)(f)において、ブロック境界に隣接する2つの画素値の差が閾値((5×tc+1)>>1)よりも小さい場合、すなわち前記式(8)の(a)~(f)の全てを満たすと判定した場合、「強」を示すフィルタモードを生成する。
これにより、フィルタリング適用処理部22により「有」を示す輝度フィルタリング適用有無情報が生成された場合、デブロッキングフィルタ12において、強フィルタリングのデブロッキング処理が行われる。ブロック境界における画像変化の度合い及び平坦度合い、並びにブロック境界の隣接画素値の差が小さい場合に、強フィルタリングのデブロッキング処理が行われるのは、このような場合は画像のブロック歪みが生じ易いからである。
一方、フィルタモード判定部52は、前記式(8)の(a)(b)において、P,Qブロックのブロック境界における画像変化の度合いが閾値((β+φn)>>2)以上である場合、(c)(d)において、ブロック境界の平坦度合いが閾値((β+φn)>>3)以上である場合、(e)(f)において、ブロック境界に隣接する2つの画素値の差が閾値((5×tc+1)>>1)以上である場合、すなわち前記式(8)の(a)~(f)のいずれかを満たさないと判定した場合、「弱」を示すフィルタモードを生成する。
これにより、フィルタリング適用処理部22により「有」を示す輝度フィルタリング適用有無情報が生成された場合、デブロッキングフィルタ12において、弱フィルタリングのデブロッキング処理が行われる。ブロック境界における画像変化の度合い及び平坦度合い、並びにブロック境界の隣接画素値の差が大きい場合に、弱フィルタリングのデブロッキング処理が行われるのは、このような場合は画像のブロック歪みが生じ難いからである。
尚、前述の非特許文献1の標準規格では、前記式(8)の(a)(b)における左辺の値が閾値(β>>2)よりも小さく、(c)(d)における左辺の値が閾値(β>>3)よりも小さく、(e)(f)における左辺の値が同じ閾値((5×tc+1)>>1)よりも小さい場合(全ての条件を満たす場合)に、フィルタリング適用処理部22により「有」を示す輝度フィルタリング適用有無情報が生成されると、強フィルタリングのデブロッキング処理が行われる。
また、前述の全ての条件のうちのいずれかを満たさない場合に、例えば前記式(8)の(a)または(b)における左辺の値が閾値(β>>2)以上である場合、(c)または(d)において、左辺の値が閾値(β>>3)以上である場合、(e)または(f)において、左辺の値が同じ閾値((5×tc+1)>>1)以上である場合に、フィルタリング適用処理部22により「有」を示す輝度フィルタリング適用有無情報が生成されると、弱フィルタリングのデブロッキング処理が行われる。
本発明の実施形態では、前記式(8)の(a)(b)に示したとおり、閾値(β>>2)の代わりに閾値((β+φn)>>2)を用い、また、(c)(d)に示したとおり、閾値(β>>3)の代わりに閾値((β+φn)>>3)を用いるようにした。これにより、デブロッキングフィルタ12の強弱は、閾値βに加え、制御オフセット値φnも含めて判定される。
前述のとおり、制御オフセット値φnは、符号化順の制御オフセット候補値γn、QPオフセットの制御オフセット候補値δn及び空間高周波パワーの制御オフセット候補値εに基づいて決定される。
符号化順番号n、QPオフセット値QPn及び空間高周波パワーPIのそれぞれが大きいほど、制御オフセット値φnが大きくなり、閾値((β+φn)>>2),((β+φn)>>3)も大きくなる。一方、符号化順番号n、QPオフセット値QPn及び空間高周波パワーPIのそれぞれが小さいほど、制御オフセット値φnが小さくなり、閾値((β+φn)>>2),((β+φn)>>3)も小さくなる。
したがって、符号化順番号n及びQPオフセット値QPnのそれぞれが大きいほど、画像の符号化劣化が大きいと判断され、空間高周波パワーPIが大きいほど、ぼやけの程度が低くブロック歪みが生じ易いと判断され、閾値((β+φn)>>2),((β+φn)>>3)も大きくなり、結果として、強フィルタリングのデブロッキングフィルタ12が適用され易くなる。
一方、符号化順番号n及びQPオフセット値QPnのそれぞれが小さいほど、画像の符号化劣化が小さいと判断され、空間高周波パワーPIが小さいほど、ぼやけの程度が高くブロック歪みが生じ難いと判断され、閾値((β+φn)>>2),((β+φn)>>3)も小さくなり、結果として、弱フィルタリングのデブロッキングフィルタ12が適用され易くなる。
以上のように、本発明の実施形態のデブロッキングフィルタ強度制御部11によれば、制御オフセット処理部20は、参照ピクチャセット情報に含まれる符号化順番号nに基づいて、符号化順の制御オフセット候補値γnを決定し、QPオフセット値QPnに基づいて、QPオフセットの制御オフセット候補値δnを決定し、局部復号Iピクチャの空間高周波パワーPIに基づいて、空間高周波パワーの制御オフセット候補値εを決定する。そして、制御オフセット処理部20は、制御オフセット候補値γn,δn,εに基づいて制御オフセット値φnを決定する。
これにより、符号化順番号n及びQPオフセット値QPnのそれぞれが大きいほど、画像の符号化劣化が大きいと判断され、空間高周波パワーPIが大きいほど、ぼやけの程度が低くブロック歪みが生じ易いと判断され、制御オフセット値φnは大きい値に決定される。
一方、符号化順番号n及びQPオフセット値QPnのそれぞれが小さいほど、画像の符号化劣化が小さいと判断され、空間高周波パワーPIが小さいほど、ぼやけの程度が高くブロック歪みが生じ難いと判断され、制御オフセット値φnは小さい値に決定される。
ブロック境界強度処理部21は、局部復号I,P,Bピクチャ等を用いて、前述のブロックP,Qの境界条件に応じたブロック境界強度Bsを決定する。
フィルタリング適用処理部22は、量子化パラメータ平均値Qaverageにオフセット値slice_beta_offset_div2を加算する等してパラメータQAV1を求め、パラメータQAV1を閾値βに変換する。
フィルタリング適用処理部22は、閾値βに制御オフセット値φnを加算して新たな閾値(β+φn)を求め、P,Qブロックのブロック境界における画像変化の度合いが閾値(β+φn)よりも小さい場合、すなわち前記式(6)を満たす場合、「有」を示す輝度フィルタリング適用有無情報を生成する。
一方、フィルタリング適用処理部22は、P,Qブロックのブロック境界における画像変化の度合いが閾値(β+φn)以上である場合、すなわち前記式(6)を満たさない場合、「無」を示す輝度フィルタリング適用有無情報を生成する。
これにより、符号化順番号n及びQPオフセット値QPnのそれぞれが大きいほど、画像の符号化劣化が大きいと判断され、空間高周波パワーPIが大きいほど、ぼやけの程度が低くブロック歪みが生じ易いと判断され、閾値(β+φn)も大きくなり、デブロッキングフィルタ12が適用され易くなる。
一方、符号化順番号n及びQPオフセット値QPnのそれぞれが小さいほど、画像の符号化劣化が小さいと判断され、空間高周波パワーPIが小さいほど、ぼやけの程度が高くブロック歪みが生じ難いと判断され、閾値(β+φn)も小さくなり、デブロッキングフィルタ12が適用され難くなる。
フィルタモード処理部23は、量子化パラメータ平均値Qaverage、オフセット値slice_tc_offset_div2及びブロック境界強度Bsに基づいて、パラメータQAV2を求め、パラメータQAV2を閾値tcに変換する。
フィルタモード処理部23は、閾値βに制御オフセット値φnを加算する等して、新たな閾値((β+φn)>>2),((β+φn)>>3)を求める。そして、フィルタモード処理部23は、P,Qブロックのブロック境界における画像変化の度合いが閾値((β+φn)>>2)よりも小さい等、前記式(8)の(a)~(f)の全てを満たす場合、「強」を示すフィルタモードを生成する。
一方、フィルタモード処理部23は、P,Qブロックのブロック境界における画像変化の度合いが閾値((β+φn)>>2)以上である等、前記式(8)の(a)~(f)のいずれかを満たさない場合、「弱」を示すフィルタモードを生成する。
これにより、符号化順番号n及びQPオフセット値QPnのそれぞれが大きいほど、画像の符号化劣化が大きいと判断され、空間高周波パワーPIが大きいほど、ぼやけの程度が低くブロック歪みが生じ易いと判断され、閾値((β+φn)>>2)等も大きくなり、強フィルタリングのデブロッキングフィルタ12が適用され易くなる。
一方、符号化順番号n及びQPオフセット値QPnのそれぞれが小さいほど、画像の符号化劣化が小さいと判断され、空間高周波パワーPIが小さいほど、ぼやけの程度が高くブロック歪みが生じ難いと判断され、閾値((β+φn)>>2)等も小さくなり、弱フィルタリングのデブロッキングフィルタ12が適用され易くなる。
このように、例えば水面のような符号化が困難な動画像について、符号化順番号n、QPオフセット値QPn及び空間高周波パワーPIを反映した制御オフセット値φnが決定され、制御オフセット値φnが反映されたフィルタリング適用有無情報及びフィルタモードが判定される。
このようにして判定されたフィルタリング適用有無情報及びフィルタモードをデブロッキングフィルタ12に適用することで、ブロック歪みを目立ち難くし、主観画質を向上させることが可能となる。
以上、実施形態を挙げて本発明を説明したが、本発明は前記実施形態に限定されるものではなく、その技術思想を逸脱しない範囲で種々変形可能である。
例えば前記実施形態では、デブロッキングフィルタ強度制御部11の制御オフセット処理部20は、制御オフセット候補決定部30,31,32及び制御オフセット決定部33を備えるようにした。これに対し、制御オフセット処理部20は、制御オフセット候補決定部30,31,32のうちのいずれか一つの決定部または二つの組み合わせの決定部、及び制御オフセット決定部33を備えるようにしてもよい。
例えば、制御オフセット処理部20は、制御オフセット候補決定部30及び制御オフセット決定部33を備える。この場合、制御オフセット決定部33は、制御オフセット候補決定部30から符号化順の制御オフセット候補値γnを入力し、符号化順の制御オフセット候補値γnに重み定数aを乗算し、制御オフセット値φnを決定する。
また、例えば制御オフセット処理部20は、制御オフセット候補決定部30,31及び制御オフセット決定部33を備える。この場合、制御オフセット決定部33は、制御オフセット候補決定部30から符号化順の制御オフセット候補値γnを入力すると共に、制御オフセット候補決定部31からQPオフセットの制御オフセット候補値δnを入力する。そして、制御オフセット決定部33は、符号化順の制御オフセット候補値γnに重み定数aを乗算し、QPオフセットの制御オフセット候補値δnに重み定数bを乗算し、それぞれの乗算結果を加算して制御オフセット値φnを決定する。
これにより、制御オフセット処理部20が制御オフセット候補決定部30、制御オフセット候補決定部31または制御オフセット候補決定部30,31を備え、制御オフセット候補決定部32を備えていない場合、空間高周波パワーの制御オフセット候補値εを決定する必要がないから、処理負荷を低減することができる。これは、負荷の高い空間高周波パワーPIを算出する処理が不要になるからである。
また、前記実施形態では、デブロッキングフィルタ強度制御部11を動画像符号化装置1に適用する例を示したが、デブロッキングフィルタ強度制御部11は、動画像復号装置にも適用がある。
動画像復号装置は、動画像符号化装置1により出力された動画像の符号化信号を入力し、符号化信号に対しエントロピー復号、逆量子化及び逆直交変換を行って復号残差画像を生成する。そして、動画像復号装置は、当該復号残差画像に予測画像を加算して加算後画像を生成し、加算後画像に対し、図2に示したインループフィルタ10のフィルタ処理を施して復号ピクチャを生成することで、元の前記動画像を復元する。動画像復号装置は、復号ピクチャを用いて画面間予測を行い、予測画像を生成する。
尚、本発明の実施形態による動画像符号化装置1及びデブロッキングフィルタ強度制御部11のハードウェア構成としては、通常のコンピュータを使用することができる。動画像符号化装置1及びデブロッキングフィルタ強度制御部11は、CPU、RAM等の揮発性の記憶媒体、ROM等の不揮発性の記憶媒体、及びインターフェース等を備えたコンピュータによって構成される。
動画像符号化装置1に備えた減算部110、直交変換部111、量子化部112、逆量子化部113、逆直交変換部114、加算部115、画面内予測部116、画面間予測部117、スイッチ118、エントロピー符号化部120及びインループフィルタ10の各機能は、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現される。
また、デブロッキングフィルタ強度制御部11に備えた制御オフセット処理部20、ブロック境界強度処理部21、フィルタリング適用処理部22及びフィルタモード処理部23の各機能も、これらの機能を記述したプログラムをCPUに実行させることによりそれぞれ実現される。
これらのプログラムは、前記記憶媒体に格納されており、CPUに読み出されて実行される。また、これらのプログラムは、磁気ディスク(フロッピー(登録商標)ディスク、ハードディスク等)、光ディスク(CD-ROM、DVD等)、半導体メモリ等の記憶媒体に格納して頒布することもでき、ネットワークを介して送受信することもできる。
1 動画像符号化装置
10 インループフィルタ
11 デブロッキングフィルタ強度制御部(デブロッキングフィルタ制御装置)
12 デブロッキングフィルタ
20 制御オフセット処理部
21 ブロック境界強度処理部
22 フィルタリング適用処理部
23 フィルタモード処理部
30,31,32 制御オフセット候補決定部
33 制御オフセット決定部
40,50 パラメータ算出部
41,51 パラメータ変換部
42 フィルタリング適用判定部
52 フィルタモード判定部
110 減算部
111 直交変換部
112 量子化部
113 逆量子化部
114 逆直交変換部
115 加算部
116 画面内予測部
117 画面間予測部
118 スイッチ
120 エントロピー符号化部
φn 制御オフセット値
γn,δn,ε 制御オフセット候補値
s ブロック境界強度
average 量子化パラメータ平均値
slice_beta_offset_div2,slice_tc_offset_div2 オフセット値
β,tc 閾値
AV1,QAV2 パラメータ
n 符号化順番号
I 空間高周波パワー
P,Q ブロック
max イントラピクチャ周期(Iピクチャの周期)
QPn n番目のピクチャのQP値
QPmax QPオフセット最大値
a,b,c 定数

Claims (5)

  1. 動画像の信号にフィルタ処理を施すデブロッキングフィルタのフィルタ強度を制御するデブロッキングフィルタ制御装置において、
    前記動画像のGOP(Group Of Picture)におけるIピクチャからの符号化順の番号を示す符号化順番号、QP(Quantization Parameter)オフセット値、及び局部復号Iピクチャの空間高周波パワーの各要素のうちの二つの要素に基づいて、制御オフセット値を決定する制御オフセット処理部と、
    前記制御オフセット処理部により決定された前記制御オフセット値を所定の閾値に加算して新たな閾値を求め、前記動画像のブロックにおける所定位置の画素値及び前記新たな閾値に基づいて、前記新たな閾値が大きいほど前記フィルタ強度が強くなり、前記新たな閾値が小さいほど前記フィルタ強度が弱くなるように、前記フィルタ強度を決定するフィルタ強度処理部と、を備え、
    前記制御オフセット処理部は、
    前記二つの要素のそれぞれが大きいほど前記制御オフセット値が大きくなり、前記二つの要素のそれぞれが小さいほど前記制御オフセット値が小さくなるように、前記制御オフセット値を決定する、ことを特徴とするデブロッキングフィルタ制御装置。
  2. 動画像の信号にフィルタ処理を施すデブロッキングフィルタのフィルタ強度を制御するデブロッキングフィルタ制御装置において、
    前記動画像のGOP(Group Of Picture)におけるIピクチャからの符号化順の番号を示す符号化順番号、QP(Quantization Parameter)オフセット値、及び局部復号Iピクチャの空間高周波パワーの各要素に基づいて、制御オフセット値を決定する制御オフセット処理部と、
    前記制御オフセット処理部により決定された前記制御オフセット値を所定の閾値に加算して新たな閾値を求め、前記動画像のブロックにおける所定位置の画素値及び前記新たな閾値に基づいて、前記新たな閾値が大きいほど前記フィルタ強度が強くなり、前記新たな閾値が小さいほど前記フィルタ強度が弱くなるように、前記フィルタ強度を決定するフィルタ強度処理部と、を備え、
    前記制御オフセット処理部は、
    前記符号化順番号、前記QPオフセット値及び前記空間高周波パワーの各要素のそれぞれが大きいほど前記制御オフセット値が大きくなり、前記符号化順番号、前記QPオフセット値及び前記空間高周波パワーの各要素のそれぞれが小さいほど前記制御オフセット値が小さくなるように、前記制御オフセット値を決定する、ことを特徴とするデブロッキングフィルタ制御装置。
  3. 請求項に記載のデブロッキングフィルタ制御装置において、
    前記制御オフセット処理部は、
    前記符号化順番号に基づいて、前記符号化順番号が大きいほど第一制御オフセット候補値が大きくなり、前記符号化順番号が小さいほど前記第一制御オフセット候補値が小さくなるように、前記第一制御オフセット候補値を決定する第一制御オフセット候補決定部と、
    前記QPオフセット値に基づいて、前記QPオフセット値が大きいほど第二制御オフセット候補値が大きくなり、前記QPオフセット値が小さいほど前記第二制御オフセット候補値が小さくなるように、前記第二制御オフセット候補値を決定する第二制御オフセット候補決定部と、
    前記空間高周波パワーに基づいて、前記空間高周波パワーが大きいほど第三制御オフセット候補値が大きくなり、前記空間高周波パワーが小さいほど前記第三制御オフセット候補値が小さくなるように、前記第三制御オフセット候補値を決定する第三制御オフセット候補決定部と、
    前記第一制御オフセット候補決定部により決定された前記第一制御オフセット候補値、前記第二制御オフセット候補決定部により決定された前記第二制御オフセット候補値、及び前記第三制御オフセット候補決定部により決定された前記第三制御オフセット候補値に基づいて、前記制御オフセット値を決定する制御オフセット決定部と、を備えたことを特徴とするデブロッキングフィルタ制御装置。
  4. 請求項1からまでのいずれか一項に記載のデブロッキングフィルタ制御装置において、
    前記フィルタ強度処理部は、
    前記デブロッキングフィルタの適用有無を定めるための所定の第一閾値に対し、前記制御オフセット処理部により決定された前記制御オフセット値を加算して第二閾値を求め、前記動画像のブロックにおける所定位置の画素値及び前記第二閾値に基づいて、前記第二閾値が大きいほど、前記デブロッキングフィルタを適用することを示す適用有無情報を生成し、前記第二閾値が小さいほど、前記デブロッキングフィルタを適用しないことを示す前記適用有無情報を生成するフィルタリング適用処理部と、
    前記フィルタ強度の強弱を定めるための所定の第三閾値に対し、前記制御オフセット処理部により決定された前記制御オフセット値を加算して第四閾値を求め、当該第四閾値を所定数で除算して第五閾値を求め、前記動画像のブロックにおける所定位置の画素値及び前記第五閾値に基づいて、前記第五閾値が大きいほど、前記フィルタ強度が強いことを示すフィルタモードを生成し、前記第五閾値が小さいほど、前記フィルタ強度が弱いことを示す前記フィルタモードを生成するフィルタリング適用処理部と、を備えたことを特徴とするデブロッキングフィルタ制御装置。
  5. コンピュータを、請求項1からまでのいずれか一項に記載のデブロッキングフィルタ制御装置として機能させるためのプログラム。
JP2019139313A 2019-07-30 2019-07-30 デブロッキングフィルタ制御装置及びプログラム Active JP7357481B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019139313A JP7357481B2 (ja) 2019-07-30 2019-07-30 デブロッキングフィルタ制御装置及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019139313A JP7357481B2 (ja) 2019-07-30 2019-07-30 デブロッキングフィルタ制御装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2021022887A JP2021022887A (ja) 2021-02-18
JP7357481B2 true JP7357481B2 (ja) 2023-10-06

Family

ID=74575189

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019139313A Active JP7357481B2 (ja) 2019-07-30 2019-07-30 デブロッキングフィルタ制御装置及びプログラム

Country Status (1)

Country Link
JP (1) JP7357481B2 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011160359A (ja) 2010-02-03 2011-08-18 Sharp Corp ブロックノイズ量予測装置、ブロックノイズ量予測方法、画像処理装置、プログラム、及び、記録媒体
WO2013150945A1 (ja) 2012-04-06 2013-10-10 ソニー株式会社 画像処理装置および方法
WO2013154912A1 (en) 2012-04-13 2013-10-17 Qualcomm Incorporated Beta offset control for deblocking filters in video coding
WO2018097299A1 (ja) 2016-11-28 2018-05-31 日本放送協会 符号化装置、復号装置、符号化方法、及び復号方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011160359A (ja) 2010-02-03 2011-08-18 Sharp Corp ブロックノイズ量予測装置、ブロックノイズ量予測方法、画像処理装置、プログラム、及び、記録媒体
WO2013150945A1 (ja) 2012-04-06 2013-10-10 ソニー株式会社 画像処理装置および方法
WO2013154912A1 (en) 2012-04-13 2013-10-17 Qualcomm Incorporated Beta offset control for deblocking filters in video coding
WO2018097299A1 (ja) 2016-11-28 2018-05-31 日本放送協会 符号化装置、復号装置、符号化方法、及び復号方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Andrey Norkin,HEVC-BASED DEBLOCKING FILTER WITH RAMP PRESERVATION PROPERTIES,ICIP 2014,IEEE,2014年,pp.3666-3670

Also Published As

Publication number Publication date
JP2021022887A (ja) 2021-02-18

Similar Documents

Publication Publication Date Title
US10327011B2 (en) Method and device for deblocking-filtering, and method and device for encoding and decoding using same
CN107295341B (zh) 视频编码方法
WO2010001999A1 (ja) 動画像符号化/復号化方法及び装置
WO2009133844A1 (ja) エッジを考慮したフィルタリング機能を備えた動画像符号化/復号化方法及び装置
JP2015146627A (ja) イントラ予測モード復号化方法及び装置
KR101621854B1 (ko) Tsm 율-왜곡 최적화 방법, 그를 이용한 인코딩 방법 및 장치, 그리고 영상 처리 장치
KR20110138098A (ko) 영상 인트라 예측 방법 및 장치 및 그를 적용한 영상 디코딩 방법 및 장치
KR20120010177A (ko) 디블록킹 필터링 방법 및 장치 및 이를 이용한 부호화 및 복호화 방법과 장치
JP4643437B2 (ja) 情報処理装置
US20230122782A1 (en) Image encoding apparatus, image encoding method, image decoding apparatus, image decoding method, and non-transitory computer-readable storage medium
US20230179765A1 (en) Deblocking filter control device and program
JP7357481B2 (ja) デブロッキングフィルタ制御装置及びプログラム
KR101373670B1 (ko) 인트라 예측 방법 및 장치
CA2732218C (en) Method and encoder for constrained soft-decision quantization in data compression
JP5814191B2 (ja) デブロッキング処理方法、デブロッキング処理装置、プログラム、及び記録媒体
JP7069421B2 (ja) 符号化装置、復号装置、及びプログラム
WO2021045059A1 (ja) 符号化装置、復号装置、及びプログラム
JP7483725B2 (ja) 符号化装置、復号装置、及びプログラム
KR20120010097A (ko) 디블록킹 필터링 방법 및 장치 및 이를 이용한 부호화 및 복호화 방법과 장치
WO2021040036A1 (ja) 符号化装置、復号装置、及びプログラム
JP2021052249A (ja) 符号化装置、復号装置、及びプログラム
CN118018731A (en) Encoding device, decoding device, and computer-readable storage medium
Choi et al. Macroblock-level adaptive dynamic resolution conversion technique

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220601

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230525

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230724

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230901

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230926

R150 Certificate of patent or registration of utility model

Ref document number: 7357481

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150