JP2013126056A - 画像処理方法/装置,映像符号化方法/装置,映像復号方法/装置およびそれらのプログラム - Google Patents

画像処理方法/装置,映像符号化方法/装置,映像復号方法/装置およびそれらのプログラム Download PDF

Info

Publication number
JP2013126056A
JP2013126056A JP2011272972A JP2011272972A JP2013126056A JP 2013126056 A JP2013126056 A JP 2013126056A JP 2011272972 A JP2011272972 A JP 2011272972A JP 2011272972 A JP2011272972 A JP 2011272972A JP 2013126056 A JP2013126056 A JP 2013126056A
Authority
JP
Japan
Prior art keywords
template
shape
boundary line
template shape
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011272972A
Other languages
English (en)
Other versions
JP5868157B2 (ja
Inventor
Masaaki Matsumura
誠明 松村
Shohei Matsuo
翔平 松尾
Masayuki Takamura
誠之 高村
Hirohisa Jozawa
裕尚 如澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2011272972A priority Critical patent/JP5868157B2/ja
Publication of JP2013126056A publication Critical patent/JP2013126056A/ja
Application granted granted Critical
Publication of JP5868157B2 publication Critical patent/JP5868157B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】NLMフィルタのテンプレートを構成する画素が指定の境界を越える場合でもテンプレート形状を構成する画素数を維持し,必要となるバッファ用メモリの肥大化を防ぐ。
【解決手段】テンプレート形状設定部203は,所定のテンプレート形状に対して,指定された処理対象画像の境界線をテンプレート形状を構成する画素が越えるとき,境界線を越えた画素数分の画素が境界線の内側に収まるように再配置された形状を有するテンプレート形状を設定する。NLMフィルタ実行部204は,テンプレート形状設定部203によって設定されたテンプレート形状のテンプレートを用いて処理対象画像内のデノイズ対象画素のノイズを除去する。
【選択図】図7

Description

本発明は,画像を符号化する際に画像撮影時のノイズや劣化画像の劣化を軽減する画像処理技術に関するものである。
本明細書において用いる各語句を,以下のように定義する。
・「探索形状」:テンプレートマッチングの対象とする当該画素周辺の各探索点の集合体,また,その集合体が形作る形状。
・「テンプレート形状」:テンプレートマッチングの際に当該画素と各探索点の類似度を計算するときに用いる画素群,また,その画素群が形作る形状。画素群は,当該画素周辺と各探索点周辺で同じ形状を用い,相対位置関係が同じ位置同士の画素値を比較する。
画像処理分野において,画像撮影時のノイズや劣化画像の劣化を軽減する手法として,様々なノイズ除去フィルタが提案されている。中でも,Non-local means 法によるノイズ除去フィルタ(非特許文献1参照) は,高いノイズ除去効果を発揮することが知られている。Non-local means 法によるノイズ除去フィルタを,以下,NLMフィルタという。
図15は,NLMフィルタの説明図である。図15において,正方形の1マスが探索点であり,これらの探索点の集合体が探索形状である。Po はデノイズ対象画素,Ps は探索先における探索点の画素である。To およびTs はテンプレート形状であり,比較元のテンプレート形状To と探索先のテンプレート形状Ts の形状は同一である。
NLMフィルタでは,比較元と探索先の各テンプレート形状To ,Ts 内の対応する各画素同士を比較して,テンプレート類似度を算出する。テンプレート類似度の計算には,一般的にSSD (Sum of Square Difference) やSAD (Sum of Absolute Difference) が用いられる。
NLMフィルタは,次のように各画素についてデノイズ後の画素値を算出する。以下では,テンプレート類似度の計算にSSDを用いた例を説明する。
(1)重み値合計の変数SWを0,画素値合計の変数SPを0に初期化する。
(2)探索形状内のすべての各探索点に対して,以下の処理を繰り返す。
(2−1)テンプレート類似度としてSSDを算出する。
(2−2)重み値W=exp(−SSD/デノイズ係数)
(2−3)重み値合計SW=重み値合計SW+重み値W
(2−4)画素値合計SP=画素値合計SP+重み値W×(探索点の画素値)
(3)探索形状内のすべての探索点について(2)の処理を終えたならば,デノイズ対象画素のデノイズ後の画素値を,次式により求める。
(デノイズ後の画素値)=画素値合計SP/重み値合計SW
また,“MPEG”や“VCEG”にて現在国際標準化活動が行われている次世代映像符号化標準方式の“High Efficiency Video Coding”の雛形(Test Model)である“HM”には,インループフィルタに符号化歪の除去を目的とした3種類のフィルタが搭載されているが(非特許文献2参照),このHMのインループフィルタに対して,符号化効率を高めることを目的として,NLMフィルタの導入が提案されている(非特許文献3,4参照)。
〔映像符号化におけるNLMフィルタ処理部の構成(従来手法)〕
図16は,映像符号化装置における従来手法によるNLMフィルタ処理部の構成例を示す図である。NLMフィルタ処理部500は,最適デノイズ係数算出部501と,デノイズ係数符号化部502と,NLMフィルタ実行部503とを備える。
最適デノイズ係数算出部501は,符号化対象画像とノイズ除去対象の復号画像とを入力し,符号化対象画像とフィルタ後の復号画像間のRDコストが最小となるデノイズ係数を算出し,そのデノイズ係数をデノイズ係数符号化部502とNLMフィルタ実行部503へ送る。デノイズ係数符号化部502は,デノイズ係数の符号化を行い,インループフィルタオーバーヘッドを出力する。NLMフィルタ実行部503は,所定のテンプレート形状を用いてフィルタを適用し,フィルタ後の復号画像を出力する。
〔映像符号化におけるNLMフィルタ処理手順(従来手法)〕
図17は,図16に示す従来の映像符号化装置内のNLMフィルタ処理部500の処理フローチャートである。この処理手順における入力は,符号化対象画像,復号画像であり,出力は,フィルタ後の復号画像,インループフィルタオーバーヘッドである。機能は,最適なデノイズ係数を算出/符号化し,復号画像に対してNLMフィルタを適用することである。
・ステップS501:符号化対象画像と復号画像を読み込む。
・ステップS502:最適なデノイズ係数を算出する。
・ステップS503:デノイズ係数を符号化し,インループフィルタオーバーヘッドを出力する。
・ステップS504:復号画像の各画素にNLMフィルタを適用し,フィルタ後の復号画像を出力する。
〔映像復号におけるNLMフィルタ処理部の構成(従来手法)〕
図18は,映像復号装置における従来手法によるNLMフィルタ処理部の構成例を示す図である。NLMフィルタ処理部600は,デノイズ係数復号部601と,NLMフィルタ実行部602とを備える。
デノイズ係数復号部601は,インループフィルタオーバーヘッドからデノイズ係数の復号を行う。NLMフィルタ実行部602は,図16で説明したNLMフィルタ実行部503と同一の機能を有し,ノイズ除去対象の復号画像に対して所定のテンプレート形状を用いてフィルタを適用し,フィルタ後の復号画像を出力する。
〔映像復号におけるNLMフィルタ処理手順(従来手法)〕
図19は,図18に示す従来の映像復号装置内のNLMフィルタ処理部600の処理フローチャートである。この処理手順における入力は,復号画像,インループフィルタオーバーヘッドであり,出力は,フィルタ後の復号画像である。機能は,デノイズ係数を復号し,復号画像に対してNLMフィルタを適用することである。
・ステップS601:復号画像とインループフィルタオーバーヘッドを読み込む。
・ステップS602:デノイズ係数を復号する。
・ステップS603:復号画像の各画素にNLMフィルタを適用し,フィルタ後の復号画像を出力する。
A. Buades, B. Coll, and J. M. Morel, "A non-local algorithm for image denoising", Proc. IEEE Int. Conf. on Computer Vision and Pattern Recognition, vol. 2, pp. 60-65, June, 2005. Benjamin Bross, Woo-Jin Han, Jens-Rainer Ohm, Gary J. Sullivan, Thomas Wiegand, "WD4:Working Draft 4 of High-Efficiency Video Coding(JCTVC-F803_d2)," ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 6th Meeting: Torino, IT, 14-22 July, 2011. Masaaki Matsumura, Yukihiro Bandoh, Seishi Takamura, Hirohisa Jozawa, "In-loop filter based on non-local means filter (JCTVC-E206)", ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 5th Meeting: Geneva, CH, 16-23 March, 2011. Masaaki Matsumura, Yukihiro Bandoh, Seishi Takamura, Hirohisa Jozawa, "Modifications of in-loop filter based on non-local means filter (JCTVC-F047)", ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 6th Meeting: Torino, IT, 14-22 July, 2011.
前述のように次世代映像符号化標準方式の“High Efficiency Video Coding”の“HM”に上記NLMフィルタを導入すれば,符号化効率の改善が期待できる。
しかし,NLMフィルタは探索形状の各探索点においてそれぞれテンプレート形状を用いたテンプレートマッチングを行うため,対象画素周辺の広い範囲の画素を参照する必要がある。対象画素周辺の広い範囲の画素を参照する機能をハードウェアに実装する場合,より多くのバッファ用メモリが必要となり,回路規模が大きくなる可能性がある。そのため,インループフィルタのSample Adaptive Offset(以下,SAO)では,Largest Coding Unit (以下,LCU)の境界を越えて画素を参照しない機能を導入するなど,様々な工夫が行われている。
しかしながら,NLMフィルタのテンプレート形状を縮小すると,図20から明かなように,符号化効率が低下するという問題がある。図20は,テンプレート形状に応じたNLMフィルタの符号化効率の比較を示す図である。比較対象ソフトウェアは,HM4.0であり,実験条件は,次のとおりである。
・実験条件
符号化対象シーケンス:MPEG標準テストシーケンス
−Class B(1920×1080 5種類)
−Class C(832×480 4種類)
−Class D(416×240 4種類)
−Class E(1280×720 3種類)
フレーム数:シーケンス先頭30フレーム
探索形状:5×5ブロック
テンプレート形状:3×3ブロック(Blk:9画素)
斜め十字 (Crs:5画素)
単一画素 (Pel:1画素)
GOP構造:Low delay P
量子化パラメータ:22,27,32,37
符号化効率計算方法:BD−rate (※数値が低いほど高効率)
図20に示す実験結果によれば,テンプレート形状の大きさに応じて符号化効率が下がる様子が確認できる。そのため,テンプレート形状を構成する画素数は極力大きな形状を維持することが望ましい。
本発明は,以上の課題の解決を図り,NLMフィルタのテンプレートを構成する画素が指定の境界を越える場合でもテンプレート形状を構成する画素数を維持することを目的とする。
本発明は,上記課題を解決するため,指定の境界(画面の上下左右,LCU,スライスなど)をテンプレート形状を構成する画素が越えて参照する場合に,前記テンプレート形状を構成する画素の境界内側への折り返しを行い,対象画素(デノイズ対象画素もしくは探索点)周辺に再配置することによりテンプレート形状を構成する画素数を担保する機構を持つことを特徴とする。
すなわち,テンプレートマッチングによりテンプレート類似度に応じた重みと探索点における画素値の加重和によってデノイズ対象画素のノイズを除去する画像処理において,所定のテンプレート形状に対して,指定された処理対象画像の境界線をテンプレート形状を構成する画素が越えるとき,境界線を越えた画素数分の画素が境界線の内側に収まるように再配置された形状を有するテンプレート形状を設定し,テンプレートマッチングの探索点またはデノイズ対象画素が前記境界線の近くにある場合とそうでない場合とで,前記設定されたテンプレート形状または前記所定のテンプレート形状の異なるテンプレートを用いてテンプレートマッチングを行い,前記デノイズ対象画素のノイズを除去する。前記テンプレート形状の設定において,テンプレート形状を構成する画素は,探索点とデノイズ対象画素それぞれの周辺に形状が等しくなるように再配置される。
なお,本発明は,探索点におけるテンプレート形状が指定の境界線を越える場合(例えば図1,図2参照)にだけ適用してもよいし,デノイズ対象画素におけるテンプレート形状が指定の境界線を越える場合(例えば図3,図4参照)にだけ適用してもよい。また,双方のケースに適用してもよい。
図1ないし図4に,テンプレート形状の再配置の例を示す。例えば,図1(A)に示すような3×3ブロックによるテンプレートや,図2(A)に示すような5画素構成のX形状のテンプレートのように,探索点におけるテンプレート形状Tsを構成する画素が指定の境界を越える場合には,図1(B),図2(B)に示すように,テンプレート形状Ts,Toを,構成画素が境界線の内側に収まり,探索点の画素Psとデノイズ対象画素Poそれぞれの周辺に形状が等しくなるように再配置することで,テンプレートの画素数を維持する。
また,デノイズ対象画素Poが指定の境界周辺に位置する場合も同様に,デノイズ対象画素周辺のテンプレート形状Toを構成する画素と探索点周辺のテンプレート形状Tsを構成する画素のすべてが指定の境界を越えることがないように,再配置したテンプレート形状を設定する。本例による再配置の例を,図3および図4に示す。なお,探索点が指定の境界を越える場合にも同様に,再配置によって画素数を維持できることは容易に想像できるが,本例では指定の境界を越えた探索点は計算しない例を示す。
本発明によれば,映像符号化におけるループフィルタ処理において,NLMフィルタのテンプレート形状を構成する画素が指定の境界(画面の上下左右,LCU,スライスなど)を越えて参照する場合に,前記テンプレート形状を構成する画素を境界線の内側に収まるように,探索点とデノイズ対象画素それぞれの周辺に形状が等しくなるよう再配置することにより,テンプレート形状を構成する画素数を維持する機構を持たせることで,所定のバッファ用メモリに納まる構造をとることができる。したがって,ハードウェアの回路規模の肥大化を防ぐことができる。
テンプレート形状の再配置の例を示す図である。 テンプレート形状の再配置の例を示す図である。 テンプレート形状の再配置の例を示す図である。 テンプレート形状の再配置の例を示す図である。 本発明が適用される映像符号化装置の構成例を示す図である。 映像符号化装置の処理フローチャートである。 映像符号化におけるNLMフィルタ処理部の構成例を示す図である。 映像符号化におけるNLMフィルタ処理部の処理フローチャートである。 本発明が適用される映像復号装置の構成例を示す図である。 映像復号装置の処理フローチャートである。 映像復号におけるNLMフィルタ処理部の構成例を示す図である。 映像復号におけるNLMフィルタ処理部の処理フローチャートである。 映像符号化装置をコンピュータとソフトウェアプログラムとを用いて実現する場合のシステムの構成例を示す図である。 映像復号装置をコンピュータとソフトウェアプログラムとを用いて実現する場合のシステムの構成例を示す図である。 NLMフィルタの説明図である。 従来のNLMフィルタ処理部(符号化)の構成例を示す図である。 従来のNLMフィルタ処理部(符号化)の処理フローチャートである。 従来のNLMフィルタ処理部(復号)の構成例を示す図である。 従来のNLMフィルタ処理部(復号)の処理フローチャートである。 NLMフィルタの説明図である。
以下,図面を用いながら,本発明の実施の形態を説明する。
〔映像符号化装置の構成〕
図5は,本発明が適用される映像符号化装置の構成例を示す図である。本発明は,例えば図5に示すような映像符号化装置に適用されるが,これは一例であり,本発明は必ずしも図5に示すような装置構成のものに限定されるわけではない。本実施形態では,NLMフィルタをSAOとAdaptive Loop Filter(以下,ALF)の間に適用する例を示す。本実施形態は,特にNLMフィルタ処理部1083の部分が従来技術と異なる部分であり,他の部分は従来の一般的な映像符号化装置の構成と同様である。
図5の映像符号化装置は,符号化対象シーケンスを入力し,各フレームをブロックに分割してブロックごとに符号化し,そのビットストリームを符号化ストリームとして出力する。
符号化対象ブロックは,減算器112に入力される。減算器112は,符号化対象ブロックと,イントラ予測部101もしくはインター予測部102の予測ブロックとの差分を求め,それを予測残差信号とする。変換部103は,予測残差信号に対する直交変換(DCT)等を行い,変換係数を出力する。量子化部104は,変換係数を量子化し,量子化後変換係数を出力する。
逆量子化部105では,量子化部104の出力である量子化後変換係数に対して逆量子化が行われ,逆変換部106では,変換部103による変換の逆変換が行われる。逆変換後の値は,加算器113にて前記予測ブロックと加算合成され,復号画像記憶部107に格納される。復号画像記憶部107の画像は,イントラ予測部101にて使用される。
当該フレームの全てのブロックに対して上記処理が終了すると,インループフィルタ処理部108にて復号画像の符号化歪を除去する画像処理フィルタが施され,フィルタ後の復号画像はフレームバッファ109に格納される。ここで,インループフィルタ処理部108は,デブロッキングフィルタ処理部(以下,DF処理部)1081,SAO処理部1082,NLMフィルタ処理部1083,ALF処理部1084を内包しており,それぞれ定められた画像処理フィルタを実行する。フレームバッファ109の画像は,インター予測部102にて使用される。
イントラ予測部101,インター予測部102の予測情報や量子化後変換係数,インループフィルタ処理部108のオーバーヘッドは,エントロピー符号化部110に入力され,エントロピー符号化部110は,それらを符号化して符号化ストリームを出力する。符号化情報記憶部111は,復号装置側でも参照可能な符号化済みの各種ブロックサイズや予測情報,量子化後の係数値,インループフィルタオーバーヘッドなど,各種値を格納する記憶部であり,符号化情報記憶部111の情報は,映像符号化装置内の様々な処理部で引用される。
〔映像符号化の処理手順〕
図6は,図5に示す映像符号化装置の処理フローチャートである。この処理手順における入力は,符号化対象シーケンスであり,出力は,符号化ストリームである。機能は,符号化対象シーケンスを符号化ストリームに変換することである。
・ステップS101:符号化対象シーケンスを符号化対象画像ごとに読み込む。
・ステップS102:符号化対象画像をブロックごとに読み込む。
・ステップS103:読み込んだ符号化対象ブロックと予測ブロックとの差分をとり,差分ブロックを生成する。
・ステップS104:差分ブロックに対して直交変換を適用する。
・ステップS105:直交変換後の係数値を量子化する。
・ステップS106:量子化後の係数値を逆量子化する。
・ステップS107:逆量子化後の係数値を逆直交変換する。
・ステップS108:逆直交変換後の予測残差とステップS103の予測ブロックとを加算合成し,復号画像記憶部107に格納する。
・ステップS109:全てのブロックの処理が終了したかの判定を行い,未処理のブロックがある場合には,ステップS102へ戻り,次のブロックについて同様に処理を繰り返す。
・ステップS110:全てのブロックの処理が終了したならば,復号画像に対してインループフィルタ(DF,SAO,NLMフィルタ,ALF)を適用し,フレームバッファ109に格納する。
・ステップS111:予測情報や量子化後の係数値,インループフィルタオーバーヘッドをエントロピー符号化する。
・ステップS112:全てのフレームの処理が終了したかの判定を行い,未処理のフレームがある場合には,ステップS101へ戻り,次のフレームについて同様に処理を繰り返す。
・ステップS113:符号化ストリームを出力する。
〔映像符号化装置におけるNLMフィルタ処理部の構成(本実施形態)〕
図7は,本発明の実施形態におけるNLMフィルタ処理部の構成例を示す図である。本実施形態では,図5に示すNLMフィルタ処理部1083は,図7に示すように構成される。
最適デノイズ係数算出部201は,符号化対象画像とノイズ除去対象の復号画像とを入力し,符号化対象画像とフィルタ後の復号画像間のRDコストが最小となるデノイズ係数を算出し,そのデノイズ係数をデノイズ係数符号化部202とNLMフィルタ実行部204へ送る。デノイズ係数符号化部202は,デノイズ係数の符号化を行い,インループフィルタオーバーヘッドを出力する。
テンプレート形状設定部203は,図5の符号化情報記憶部111から読み込む所定の境界情報に合わせてNLMフィルタ適用画素の各探索点における所定のテンプレート形状が境界を越えないように,テンプレート形状を構成する画素の境界内側への折り返し/再配置を行う。NLMフィルタ実行部204は,テンプレート形状設定部203によって設定されたテンプレート形状を用いてNLMフィルタを適用し,フィルタ後の復号画像を出力する。
〔映像符号化におけるNLMフィルタ処理手順(本実施形態)〕
図8は,図7に示す本実施形態のNLMフィルタ処理部1083の処理フローチャートである。この処理手順における入力は,符号化対象画像,復号画像および境界情報であり,出力は,フィルタ後の復号画像,インループフィルタオーバーヘッドである。機能は,最適なデノイズ係数を算出/符号化し,復号画像に対しNLMフィルタを適用することである。
・ステップS201:符号化対象画像と復号画像を読み込む。
・ステップS202:最適なデノイズ係数を算出する。
・ステップS203:デノイズ係数を符号化し,インループフィルタオーバーヘッドを出力する。
・ステップS204:符号化情報記憶部111から境界情報を読み込み,NLMフィルタ適用画素の各探索点におけるテンプレート形状を導出する。
・ステップS205:復号画像の各画素に対して,ステップS204で導出したテンプレート形状を用いてNLMフィルタを適用し,フィルタ後の復号画像を出力する。
〔映像復号装置の構成〕
図9は,本発明が適用される復号装置の構成例を示す図である。本発明は,例えば図9に示すような映像復号装置に適用されるが,これは一例であり,本発明は必ずしも図9に示すような装置構成のものに限定されるわけではない。本実施形態では,NLMフィルタをSAOとALFの間に適用する例を示す。本実施形態は,特にNLMフィルタ処理部3073の部分が従来技術と異なる部分であり,他の部分は従来の一般的な映像復号装置の構成と同様である。
図9の映像復号装置は,符号化ストリームを入力する。入力された符号化ストリームから,エントロピー復号部301にてブロックごとの予測情報や量子化後変換係数,インループフィルタオーバーヘッドが復号される。復号された量子化後変換係数は逆量子化部302にて逆量子化が行われ,逆変換部303にて逆直交変換(IDCT)等が行われる。逆変換部303の出力信号は,イントラ予測部304もしくはインター予測部305の予測ブロックと加算合成され,復号画像記憶部306に格納される。復号画像記憶部306の画像はイントラ予測部304にて使用される。
当該フレームの全てのブロックに対して上記処理が終了すると,インループフィルタ処理部307にて復号画像の符号化歪を除去する画像処理フィルタが施され,フィルタ後の復号画像はフレームバッファ308に格納される。ここで,インループフィルタ処理部307は,DF処理部3071,SAO処理部3072,NLMフィルタ処理部3073,ALF処理部3074を内包しており,それぞれ定められた画像処理フィルタを実行する。フレームバッファ308の画像は,インター予測部305にて使用される。符号化情報記憶部309は,各種ブロックサイズや予測情報,量子化後の係数値,インループフィルタオーバーヘッドなど,各種値を格納する記憶部であり,符号化情報記憶部309の情報は映像復号装置内の様々な処理部で引用される。
〔映像復号の処理手順〕
図10は,図9に示す映像復号装置の処理フローチャートである。この処理手順における入力は,符号化ストリームであり,出力は,復号シーケンスである。機能は,入力した符号化ストリームを復号シーケンスに変換することである。
・ステップS301:符号化ストリームを読み込む。
・ステップS302:符号化ストリームをエントロピー復号し,予測情報や量子化後の係数値,インループフィルタオーバーヘッド等の情報を復号する。
・ステップS303:量子化後の係数値を逆量子化する。
・ステップS304:逆量子化後の係数値を逆直交変換する。
・ステップS305:逆直交変換で得られた予測残差と予測ブロックとを加算合成し,復号画像記憶部306に格納する。
・ステップS306:復号画像に対してインループフィルタ(DF,SAO,NLMフィルタ,ALF)を適用し,復号画像をフレームバッファ308に格納する。
・ステップS307:復号シーケンスを出力する。
〔映像復号装置におけるNLMフィルタ処理部の構成(本実施形態)〕
図11は,本発明の実施形態における映像復号装置内のNLMフィルタ処理部の構成例を示す図である。本発明の実施形態では,図9に示すNLMフィルタ処理部3073は,図11に示すように構成される。
デノイズ係数復号部401は,インループフィルタオーバーヘッドからデノイズ係数の復号を行う。テンプレート形状設定部402は,図9の符号化情報記憶部309から読み込む所定の境界情報に合わせてNLMフィルタ適用画素の各探索点における所定のテンプレート形状が境界を越えないように,テンプレート形状を構成する画素の境界内側への折り返し/再配置を行う。NLMフィルタ実行部403は,テンプレート形状設定部402によって設定されたテンプレート形状を用いてNLMフィルタを適用し,フィルタ後の復号画像を出力する。
〔映像復号におけるNLMフィルタ処理手順(本実施形態)〕
図12は,図11に示す本発明の実施形態におけるNLMフィルタ処理部3073の処理フローチャートである。この処理手順における入力は,復号画像,インループフィルタオーバーヘッドおよび境界情報であり,出力は,フィルタ後の復号画像である。機能は,デノイズ係数を復号し,復号画像に対しNLMフィルタを適用することである。
・ステップS401:復号画像とインループフィルタオーバーヘッドを読み込む。
・ステップS402:デノイズ係数を復号する。
・ステップS403:符号化情報記憶部309から境界情報を読み込み,NLMフィルタ適用画素の各探索点におけるテンプレート形状を導出する。
・ステップS404:復号画像の各画素に対して,ステップS403で導出したテンプレート形状を用いてNLMフィルタを適用し,フィルタ後の復号画像を出力する。
以上の処理によって,NLMフィルタのテンプレートを構成する画素が指定の境界(画面の上下左右端,LCU,スライスなど)を越えて参照することがなくなり,所定のバッファ用メモリに納まる構造がとれるため,ハードウェアの回路規模の肥大化を防ぐことができる。
〔ソフトウェアプログラムを用いた場合の構成例〕
以上説明した映像符号化および映像復号の処理は,コンピュータとソフトウェアプログラムとによっても実現することができ,そのプログラムをコンピュータ読み取り可能な記録媒体に記録して提供することも,ネットワークを通して提供することも可能である。
図13に,映像符号化装置をコンピュータとソフトウェアプログラムとによって構成する場合のハードウェア構成例を示す。本システムは,プログラムを実行するCPU50と,CPU50がアクセスするプログラムやデータが格納されるRAM等のメモリ51と,カメラ等からの符号化対象の映像信号を入力する映像信号入力部52(ディスク装置等による映像信号を記憶する記憶部でもよい)と,本手法により入力映像を符号化する処理をCPU50に実行させるソフトウェアプログラムである映像符号化プログラム54が格納されたプログラム記憶装置53と,CPU50がメモリ51にロードされた映像符号化プログラム54を実行することにより生成された符号化データを,例えばネットワークを介して出力する符号化データ出力部55(ディスク装置等による符号化データを記憶する記憶部でもよい)とが,バスで接続された構成になっている。
図14に,映像復号装置をコンピュータとソフトウェアプログラムとによって構成する場合のハードウェア構成例を示す。本システムは,プログラムを実行するCPU60と,CPU60がアクセスするプログラムやデータが格納されるRAM等のメモリ61と,映像符号化装置が本手法により符号化した符号化データを入力する符号化データ入力部62(ディスク装置等による多重化符号化データを記憶する記憶部でもよい)と,本手法により符号化データを復号する処理をCPU60に実行させるソフトウェアプログラムである映像復号プログラム64が格納されたプログラム記憶装置63と,CPU60がメモリ61にロードされた映像復号プログラム64を実行することにより,符号化データを復号して得られた復号映像を,再生装置などに出力する復号映像出力部65とが,バスで接続された構成になっている。
以上,図面を参照して本発明の実施の形態を説明してきたが,上記実施の形態は本発明の例示に過ぎず,本発明が上記実施の形態に限定されるものではないことは明らかである。したがって,本発明の精神および技術的範囲を逸脱しない範囲での構成要素の追加,省略,置換,その他の変更を行ってもよい。
1083,3073 NLMフィルタ処理部
201 最適デノイズ係数算出部
202 デノイズ係数符号化部
203,402 テンプレート形状設定部
204,403 NLMフィルタ実行部
401 デノイズ係数復号部

Claims (9)

  1. テンプレートマッチングによりテンプレート類似度に応じた重みと探索点における画素値の加重和によってデノイズ対象画素のノイズを除去する画像処理方法であって,
    所定のテンプレート形状に対して,指定された処理対象画像の境界線をテンプレート形状を構成する画素が越えるとき,境界線を越えた画素数分の画素が境界線の内側に収まるように再配置された形状を有するテンプレート形状を設定する過程と,
    テンプレートマッチングの探索点またはデノイズ対象画素が前記境界線の近くにある場合とそうでない場合とで,前記設定されたテンプレート形状または前記所定のテンプレート形状の異なるテンプレートを用いてテンプレートマッチングを行い,前記デノイズ対象画素のノイズを除去する過程とを有する
    ことを特徴とする画像処理方法。
  2. テンプレートマッチングによりテンプレート類似度に応じた重みと探索点における画素値の加重和によってデノイズ対象画素のノイズを除去する画像処理装置であって,
    所定のテンプレート形状に対して,指定された処理対象画像の境界線をテンプレート形状を構成する画素が越えるとき,境界線を越えた画素数分の画素が境界線の内側に収まるように再配置された形状を有するテンプレート形状を設定する手段と,
    テンプレートマッチングの探索点またはデノイズ対象画素が前記境界線の近くにある場合とそうでない場合とで,前記設定されたテンプレート形状または前記所定のテンプレート形状の異なるテンプレートを用いてテンプレートマッチングを行い,前記デノイズ対象画素のノイズを除去する手段とを備える
    ことを特徴とする画像処理装置。
  3. ループフィルタとして,テンプレートマッチングによりテンプレート類似度に応じた重みと探索点における画素値の加重和によってデノイズ対象画素のノイズを除去する画像処理フィルタを用いて,予測符号化された画像の復号画像に対するノイズを除去する処理を行う映像符号化方法であって,
    前記画像処理フィルタの所定のテンプレート形状に対して,前記復号画像の境界線をテンプレート形状を構成する画素が越えるとき,境界線を越えた画素数分の画素が境界線の内側に収まるように再配置された形状を有するテンプレート形状を設定する過程と,
    テンプレートマッチングの探索点またはデノイズ対象画素が前記境界線の近くにある場合とそうでない場合とで,前記設定されたテンプレート形状または前記所定のテンプレート形状の異なるテンプレートを用いてテンプレートマッチングを行い,前記デノイズ対象画素のノイズを除去する過程とを有する
    ことを特徴とする映像符号化方法。
  4. ループフィルタとして,テンプレートマッチングによりテンプレート類似度に応じた重みと探索点における画素値の加重和によってデノイズ対象画素のノイズを除去する画像処理フィルタを用いて,予測符号化された画像の復号画像に対するノイズを除去する処理を行う映像符号化装置であって,
    前記画像処理フィルタの所定のテンプレート形状に対して,前記復号画像の境界線をテンプレート形状を構成する画素が越えるとき,境界線を越えた画素数分の画素が境界線の内側に収まるように再配置された形状を有するテンプレート形状を設定する手段と,
    テンプレートマッチングの探索点またはデノイズ対象画素が前記境界線の近くにある場合とそうでない場合とで,前記設定されたテンプレート形状または前記所定のテンプレート形状の異なるテンプレートを用いてテンプレートマッチングを行い,前記デノイズ対象画素のノイズを除去する手段とを備える
    ことを特徴とする映像符号化装置。
  5. ループフィルタとして,テンプレートマッチングによりテンプレート類似度に応じた重みと探索点における画素値の加重和によってデノイズ対象画素のノイズを除去する画像処理フィルタを用いて,予測復号された画像の復号画像に対するノイズを除去する処理を行う映像復号方法であって,
    前記画像処理フィルタの所定のテンプレート形状に対して,前記復号画像の境界線をテンプレート形状を構成する画素が越えるとき,境界線を越えた画素数分の画素が境界線の内側に収まるように再配置された形状を有するテンプレート形状を設定する過程と,
    テンプレートマッチングの探索点またはデノイズ対象画素が前記境界線の近くにある場合とそうでない場合とで,前記設定されたテンプレート形状または前記所定のテンプレート形状の異なるテンプレートを用いてテンプレートマッチングを行い,前記デノイズ対象画素のノイズを除去する過程とを有する
    ことを特徴とする映像復号方法。
  6. ループフィルタとして,テンプレートマッチングによりテンプレート類似度に応じた重みと探索点における画素値の加重和によってデノイズ対象画素のノイズを除去する画像処理フィルタを用いて,予測復号された画像の復号画像に対するノイズを除去する処理を行う映像復号装置であって,
    前記画像処理フィルタの所定のテンプレート形状に対して,前記復号画像の境界線をテンプレート形状を構成する画素が越えるとき,境界線を越えた画素数分の画素が境界線の内側に収まるように再配置された形状を有するテンプレート形状を設定する手段と,
    テンプレートマッチングの探索点またはデノイズ対象画素が前記境界線の近くにある場合とそうでない場合とで,前記設定されたテンプレート形状または前記所定のテンプレート形状の異なるテンプレートを用いてテンプレートマッチングを行い,前記デノイズ対象画素のノイズを除去する手段とを備える
    ことを特徴とする映像復号装置。
  7. 請求項1記載の画像処理方法をコンピュータに実行させるための画像処理プログラム。
  8. 請求項3記載の映像符号化方法をコンピュータに実行させるための映像符号化プログラム。
  9. 請求項5記載の映像復号方法をコンピュータに実行させるための映像復号プログラム。
JP2011272972A 2011-12-14 2011-12-14 画像処理方法/装置,映像符号化方法/装置,映像復号方法/装置およびそれらのプログラム Active JP5868157B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011272972A JP5868157B2 (ja) 2011-12-14 2011-12-14 画像処理方法/装置,映像符号化方法/装置,映像復号方法/装置およびそれらのプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011272972A JP5868157B2 (ja) 2011-12-14 2011-12-14 画像処理方法/装置,映像符号化方法/装置,映像復号方法/装置およびそれらのプログラム

Publications (2)

Publication Number Publication Date
JP2013126056A true JP2013126056A (ja) 2013-06-24
JP5868157B2 JP5868157B2 (ja) 2016-02-24

Family

ID=48777079

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011272972A Active JP5868157B2 (ja) 2011-12-14 2011-12-14 画像処理方法/装置,映像符号化方法/装置,映像復号方法/装置およびそれらのプログラム

Country Status (1)

Country Link
JP (1) JP5868157B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108605143A (zh) * 2016-02-04 2018-09-28 联发科技股份有限公司 视频编码中的非局部自适应环内滤波器的方法和装置
CN108886621A (zh) * 2016-04-14 2018-11-23 联发科技股份有限公司 非本地自适应环路滤波器
CN112135131A (zh) * 2020-01-13 2020-12-25 杭州海康威视数字技术股份有限公司 编码、解码方法、装置及其设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08251583A (ja) * 1995-03-10 1996-09-27 Sharp Corp 画像符号化装置及び画像復号装置
JP2001251632A (ja) * 1999-12-27 2001-09-14 Toshiba Corp 動きベクトル検出方法および装置並びに動きベクトル検出プログラム
JP2006107046A (ja) * 2004-10-04 2006-04-20 Hitachi High-Technologies Corp 画像処理方法、画像処理装置及び半導体検査装置
JP2009230518A (ja) * 2008-03-24 2009-10-08 Hitachi Software Eng Co Ltd 道路地図データ作成システム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08251583A (ja) * 1995-03-10 1996-09-27 Sharp Corp 画像符号化装置及び画像復号装置
JP2001251632A (ja) * 1999-12-27 2001-09-14 Toshiba Corp 動きベクトル検出方法および装置並びに動きベクトル検出プログラム
JP2006107046A (ja) * 2004-10-04 2006-04-20 Hitachi High-Technologies Corp 画像処理方法、画像処理装置及び半導体検査装置
JP2009230518A (ja) * 2008-03-24 2009-10-08 Hitachi Software Eng Co Ltd 道路地図データ作成システム

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
CSNJ201110065020; 松村 誠明,坂東 幸浩,高村 誠之,如澤 裕尚: 'Non-local means フィルタを導入したCodingUnit適応ALFの一検討' 2011年 画像符号化シンポジウム 予稿集 , 20111026, pp.51-52, 電子情報通信学会画像工学研究専門委員会 *
JPN6015010280; 河田 諭志, 田口 安則, 松本 信幸: '高画質なデジタルカメラを実現するランダムノイズ除去技術' 東芝レビュー vol.65/No.9, 20100901, pp.32-pp.35, 東芝ビジネス&ライフサービス株式会社 *
JPN6015010281; Masaaki Matsumura, Yukihiro Bandoh, Seishi Takamura, Hirohisa Jozawa,: '"Modifications of in-loop filter based on non-local means filter (JCTVC-F047)"' ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 6th Meeting: Torino, IT, 14-22 July, 2011 *
JPN6015010284; Antoni Buades,Bartomeu Coll,Jean-Michel Morel: 'A non-local algorithm for image denoising' Computer Vision and Pattern Recognition, 2005. CVPR 2005. IEEE Computer Society Conference on vol.2, 20050101, pp.60-pp.65, IEEE *
JPN6015010286; 松村 誠明,坂東 幸浩,高村 誠之,如澤 裕尚: 'Non-local means フィルタを導入したCodingUnit適応ALFの一検討' 2011年 画像符号化シンポジウム 予稿集 , 20111026, pp.51-52, 電子情報通信学会画像工学研究専門委員会 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108605143A (zh) * 2016-02-04 2018-09-28 联发科技股份有限公司 视频编码中的非局部自适应环内滤波器的方法和装置
CN108886621A (zh) * 2016-04-14 2018-11-23 联发科技股份有限公司 非本地自适应环路滤波器
CN112135131A (zh) * 2020-01-13 2020-12-25 杭州海康威视数字技术股份有限公司 编码、解码方法、装置及其设备
CN112135131B (zh) * 2020-01-13 2022-03-01 杭州海康威视数字技术股份有限公司 编码、解码方法、装置及其设备
US11962768B2 (en) 2020-01-13 2024-04-16 Hangzhou Hikvision Digital Technology Co., Ltd. Encoding method and apparatus, decoding method and apparatus, and devices therefor

Also Published As

Publication number Publication date
JP5868157B2 (ja) 2016-02-24

Similar Documents

Publication Publication Date Title
JP5875979B2 (ja) フィルタ装置、画像復号装置、画像符号化装置、および、フィルタパラメータのデータ構造
EP2755388B1 (en) Method, device, and program for encoding and decoding image
US10306246B2 (en) Method and apparatus of loop filters for efficient hardware implementation
US9363515B2 (en) Image processing method, image processing apparatus, video encoding/decoding methods, video encoding/decoding apparatuses, and non-transitory computer-readable media therefor that perform denoising by means of template matching using search shape that is set in accordance with edge direction of image
US9380319B2 (en) Implicit transform unit representation
JP5383914B2 (ja) デブロッキングフィルタリング装置及び方法
US20220303587A1 (en) Method and Apparatus for Adaptive Loop Filtering at Picture and Sub-Picture Boundary in Video Coding
US11425427B2 (en) Method and apparatus for lossless coding of video data
KR102244315B1 (ko) 영상 부호화 방법 및 장치
JP2015136150A (ja) ビデオ符号化での分割ブロック符号化方法、ビデオ復号化での分割ブロック復号化方法及びこれを実現する記録媒体
JP2008167456A (ja) 画像符号化装置及び画像復号装置
TW201820866A (zh) 用以移除漣漪效應之平滑化濾波方法和裝置
WO2009133367A2 (en) Video edge filtering
JP5770647B2 (ja) 画像符号化方法,画像符号化装置,画像復号方法,画像復号装置およびそれらのプログラム
US20240089440A1 (en) Image decoding device, method, and non-transitory computer-readable storage medium
JP5868157B2 (ja) 画像処理方法/装置,映像符号化方法/装置,映像復号方法/装置およびそれらのプログラム
JP6159225B2 (ja) 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、画像符号化プログラム及び画像復号プログラム
KR102292504B1 (ko) 적응적 밴드 오프셋 구간을 이용한 인-루프 필터링 방법 및 장치, 그리고 적응적 밴드 오프셋 구간을 이용한 부호화 및 복호화 장치
KR20120010097A (ko) 디블록킹 필터링 방법 및 장치 및 이를 이용한 부호화 및 복호화 방법과 장치
US11849114B2 (en) Image encoding apparatus, image decoding apparatus, control methods thereof, and non-transitory computer-readable storage medium
CN114051727B (zh) 编码装置、解码装置和计算机可读存储介质
WO2024012576A1 (en) Adaptive loop filter with virtual boundaries and multiple sample sources
KR20170133026A (ko) 정방형 또는 직방형 블록 분할을 사용하는 비디오 복호화 방법 및 장치
JP6396782B2 (ja) デブロッキング処理方法、デブロッキング処理装置、コンピュータプログラム及び記録媒体
JP2014007713A (ja) デブロッキング処理方法、デブロッキング処理装置、プログラム、及び記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140501

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150317

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160105

R150 Certificate of patent or registration of utility model

Ref document number: 5868157

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150