JP2013168837A - 映像ノイズ低減装置及び映像ノイズ低減方法 - Google Patents

映像ノイズ低減装置及び映像ノイズ低減方法 Download PDF

Info

Publication number
JP2013168837A
JP2013168837A JP2012031560A JP2012031560A JP2013168837A JP 2013168837 A JP2013168837 A JP 2013168837A JP 2012031560 A JP2012031560 A JP 2012031560A JP 2012031560 A JP2012031560 A JP 2012031560A JP 2013168837 A JP2013168837 A JP 2013168837A
Authority
JP
Japan
Prior art keywords
mixing ratio
video signal
output
video
noise reduction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012031560A
Other languages
English (en)
Other versions
JP5794169B2 (ja
Inventor
Shuichi Asahara
周一 朝原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JVCKenwood Corp
Original Assignee
JVCKenwood Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JVCKenwood Corp filed Critical JVCKenwood Corp
Priority to JP2012031560A priority Critical patent/JP5794169B2/ja
Publication of JP2013168837A publication Critical patent/JP2013168837A/ja
Application granted granted Critical
Publication of JP5794169B2 publication Critical patent/JP5794169B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Facsimile Image Signal Circuits (AREA)
  • Image Processing (AREA)
  • Picture Signal Circuits (AREA)

Abstract

【課題】ハードウェア規模を大きくすることなく、映像信号の平坦部分に含まれる映像ノイズを低減しつつ、映像信号のテクスチャ部分の画質劣化を小さくし、また、エンコード情報が得られない映像信号に対しても適切なノイズ低減効果を得る。
【解決手段】2次元HPF13は、入力映像信号の画像内容がテクスチャ部分と一致又はほぼ一致した場合に、相関が最も強いことを示す値の相関検出結果を出力する。混合比計算部14は、2次元HPF13により検出された検出結果に応じた混合比αを出力する。
映像ノイズ低減装置10は、入力映像信号が平坦部分に映像ノイズが乗っている映像部分とみなせるときには解像度よりも映像ノイズ低減効果を優先してLPF11から出力される映像ノイズが低減された低域信号を加算器17から出力するが、入力映像信号がテクスチャ部分とみなせるときには解像度を優先して入力映像信号を加算器17から出力する。
【選択図】図1

Description

本発明は映像ノイズ低減装置及び映像ノイズ低減方法に係り、特に映像のランダムノイズを低減する映像ノイズ低減装置及び映像ノイズ低減方法に関する。
従来より、映像信号に含まれるランダムノイズ(以下、単にノイズ、または映像ノイズと呼ぶことがある)を低減する方法としてノイズコアリングと呼ばれる手法が多く使用されている。この手法を用いた従来の映像ノイズ低減装置では、ローパスフィルタ(LPF)により入力映像信号の所定カットオフ周波数以下の低域信号を取り出し、更に入力映像信号からその低域信号を減算することで入力映像信号の高域信号を取り出す。そして、映像ノイズ低減装置は、その高域信号のうちのレベル(振幅)の小さい信号成分をノイズとみなし、小振幅信号除去手段(以下、これを本明細書では「スライサ」というものとする)で取り除いた後、スライサから出力される小振幅除去後の高域信号とLPFからの低域信号とを加算することで、ノイズの軽減された映像信号を得る。
図22は、上記のスライサの一例の入出力特性を示す。同図に示す入出力特性のスライサは、スライスレベル|S1|以下の小振幅の入力高域信号を除去し、|S1|より大なる振幅の入力高域信号に対しては入力高域信号からスライスレベル|S1|を減算した信号を出力する。
図23は、上記のスライサの他の例の入出力特性を示す。同図に示す入出力特性のスライサは、スライスレベル|S2|以下の小振幅の入力高域信号を除去し、|S2|より大なる振幅の入力高域信号に対しては入力高域信号の振幅を保って出力する。ただし、スライスレベル|S2|付近では入力高域信号の入力レベルよりも若干小レベルとして出力する。この図23に示す入出力特性のスライサは、図22に示した入出力特性のスライサのような入力高域信号の振幅の大きい信号成分も一律に取り除かれることによる解像度劣化を防ぐことができる。
このノイズコアリング方式の映像ノイズ低減装置では、輝度差がノイズレベルと同等の小レベルの模様のような映像部分(以下、テクスチャ部分と呼ぶ)が入力映像信号に含まれる場合にも、振幅の大きさが同程度のノイズとの区別がつかず、テクスチャ部分の高域信号成分を比較的多く取り除いてしまってテクスチャ部分の再現性が悪くなる。これを避けるためにスライサのスライスレベルを小さくすると、テクスチャ部分の再現性は良くなるが、ノイズの低減効果が小さくなるという課題がある。
そこで、従来の映像ノイズ低減装置では、この課題を解決するために、輝度レベルに応じてスライスレベルを適応的に可変する装置が知られている(例えば、特許文献1参照)。また、MPEG(Moving Picture Experts Group)による圧縮映像信号をデコードする際に、エンコード時の量子化レベルに応じてスライスレベルを適応的に可変する映像ノイズ低減装置も知られている(例えば、特許文献2参照)。
特開平5−347723号公報 特開平8−205158号公報
しかしながら、特許文献1記載の従来の映像ノイズ低減装置では、テクスチャ部分を特定できないため、テクスチャ部分の再現性を確保しようとすると所期のノイズ低減効果が期待できない。また、特許文献2記載の従来の映像ノイズ低減装置では、エンコード情報が得られないカメラの撮像映像信号等に対しては、エンコード時の量子化レベルが得られないためスライスレベルの適応的な可変ができず、所期のノイズ低減効果が期待できない。また、民生用の映像ノイズ低減装置では、装置の小型化のため、ハードウェアの規模を大きくしないことが望まれる。
本発明は以上の点に鑑みなされたもので、ハードウェア規模を大きくすることなく、映像信号の平坦部分に含まれる映像ノイズを低減しつつ、映像信号のテクスチャ部分の画質劣化を小さくすることができ、また、エンコード情報が得られない映像信号に対しても適切なノイズ低減効果を得ることができる映像ノイズ低減装置及び映像ノイズ低減方法を提供することを目的とする。
上記目的を達成するため、第1の発明の映像ノイズ低減装置は、入力映像信号中の低域成分を抽出して映像ノイズが抑制された映像信号を出力する低域成分抽出手段と、入力映像信号中の注目画素及びその近傍の一定領域の画像が、ノイズレベルと同等の小レベルの予め設定した所定パターンの映像内容をどの程度の強さで含むかの相関検出結果をフィルタ演算により数値化して求める検出手段と、検出手段の検出結果が所定パターンの映像内容との相関が強いことを示す第1の絶対値以上のときには第1の混合比を出力し、検出結果が所定パターンの映像内容との相関が弱いことを示す第2の絶対値以下のときには第2の混合比を出力し、検出結果が第1の絶対値から第2の絶対値までの範囲内の値のときには検出結果の値に応じて第1の混合比と第2の混合比との範囲内の値の第3の混合比を演算して出力する混合比算出手段と、混合比算出手段から供給される混合比が第1の混合比のときには入力映像信号を出力し、混合比が第2の混合比のときには加算平均手段から出力される映像信号を出力し、混合比が第3の混合比のときにはその第3の混合比の値に応じた混合比で入力映像信号と加算平均手段から出力される映像信号とを加算合成して出力する加算合成手段とを有することを特徴とする。
また、上記の目的を達成するため、第2の発明の映像ノイズ低減装置は、検出手段を、一定領域が2次元マトリクス配置された複数の画素からなる領域であるとき、一定領域の縦横斜めの各方向に相関係数が高く、かつ、簡単な整数で構成され、総和がゼロである、マトリクス配置された複数のフィルタ係数に基づいてフィルタ演算を行う2次元ハイパスフィルタとしたことを特徴とする。
また、上記の目的を達成するため、第3の発明の映像ノイズ低減装置は、検出手段を、一定領域が、現在フレーム及びその前後1以上のフレームからなる複数フレームの各フレームにおいて画素が2次元マトリクス配置された平面領域が3次元配置された領域であるとき、現在フレームの平面領域の複数のフィルタ係数の絶対値の総和が、他のフレームの平面領域の複数のフィルタ係数の絶対値の総和よりも大で、かつ、すべてのフィルタ係数の総和がゼロである3次元配置された領域のフィルタ係数に基づいて、フィルタ演算を行う3次元ハイパスフィルタとしたことを特徴とする。
また、上記の目的を達成するため、第4の発明の映像ノイズ低減装置は、検出手段を、一定領域が、現在フレーム及び過去の1以上のフレームからなる複数フレームの各フレームにおいて画素が2次元マトリクス配置された平面領域が3次元配置された領域であるとき、現在フレームの平面領域の複数のフィルタ係数の絶対値の総和が、他のフレームの平面領域の複数のフィルタ係数の絶対値の総和よりも大で、かつ、すべてのフィルタ係数の総和がゼロである3次元配置された領域のフィルタ係数に基づいて、フィルタ演算を行う3次元ハイパスフィルタとしたことを特徴とする。
また、上記の目的を達成するため、第5の発明の映像ノイズ低減装置は、入力映像信号中の低域成分を抽出して映像ノイズが抑制された映像信号を出力する低域成分抽出手段と、入力映像信号中の注目画素及びその近傍の一定領域の画像が、ノイズレベルと同等の小レベルの予め設定した所定パターンの映像内容をどの程度の強さで含むかの複数の相関検出結果を、感度の高い相関検出方向が互いに異なるフィルタ演算により数値化してそれぞれ求める検出手段と、検出手段の複数の相関検出結果の絶対値を加算する加算手段と、加算手段から出力される加算値が所定パターンの映像内容との相関が強いことを示す第1の絶対値以上のときには第1の混合比を出力し、加算値が所定パターンの映像内容との相関が弱いことを示す第2の絶対値以下のときには第2の混合比を出力し、加算値が第1の絶対値から第2の絶対値までの範囲内の値のときには加算値に応じて第1の混合比と第2の混合比との範囲内の値の第3の混合比を演算して出力する混合比算出手段と、混合比算出手段から供給される混合比が第1の混合比のときには入力映像信号を出力し、混合比が第2の混合比のときには加算平均手段から出力される映像信号を出力し、混合比が第3の混合比のときにはその第3の混合比の値に応じた混合比で入力映像信号と加算平均手段から出力される映像信号とを加算合成して出力する加算合成手段とを有することを特徴とする。
また、上記の目的を達成するため、第6の発明の映像ノイズ低減装置は、第5の発明の検出手段を、一定領域が2次元マトリクス配置された複数の画素からなる領域であるとき、一定領域の縦横斜めの各方向のうち互いに異なる方向に対して相関係数が高く、かつ、簡単な整数で構成され、総和がゼロである、マトリクス配置された複数のフィルタ係数に基づいてフィルタ演算を行う複数の2次元ハイパスフィルタとしたことを特徴とする。
また、上記の目的を達成するため、第7の発明の映像ノイズ低減方法は、入力映像信号中の低域成分を抽出して映像ノイズが抑制された映像信号を出力する低域成分抽出ステップと、入力映像信号中の注目画素及びその近傍の一定領域の画像が、ノイズレベルと同等の小レベルの予め設定した所定パターンの映像内容をどの程度の強さで含むかの相関検出結果をフィルタ演算により数値化して求める検出ステップと、検出ステップの検出結果が所定パターンの映像内容との相関が強いことを示す第1の絶対値以上のときには第1の混合比を出力し、検出結果が所定パターンの映像内容との相関が弱いことを示す第2の絶対値以下のときには第2の混合比を出力し、検出結果が第1の絶対値から第2の絶対値までの範囲内の値のときには検出結果の値に応じて第1の混合比と第2の混合比との範囲内の値の第3の混合比を演算して出力する混合比算出ステップと、混合比算出ステップにより算出された混合比が第1の混合比のときには入力映像信号を出力し、混合比が第2の混合比のときには加算平均ステップで出力される映像信号を出力し、混合比が第3の混合比のときにはその第3の混合比の値に応じた混合比で入力映像信号と加算平均ステップで出力される映像信号とを加算合成して出力する加算合成ステップとを含むことを特徴とする。
また、上記の目的を達成するため、第8の発明の映像ノイズ低減方法は、入力映像信号中の低域成分を抽出して映像ノイズが抑制された映像信号を出力する低域成分抽出ステップと、入力映像信号中の注目画素及びその近傍の一定領域の画像が、ノイズレベルと同等の小レベルの予め設定した所定パターンの映像内容をどの程度の強さで含むかの複数の相関検出結果を互いに異なる特性のフィルタ演算により数値化してそれぞれ求める検出ステップと、検出ステップの複数の相関検出結果の絶対値を加算する加算ステップと、加算ステップで得た加算値が所定パターンの映像内容との相関が強いことを示す第1の絶対値以上のときには第1の混合比を出力し、加算値が所定パターンの映像内容との相関が弱いことを示す第2の絶対値以下のときには第2の混合比を出力し、加算値が第1の絶対値から第2の絶対値までの範囲内の値のときには加算値に応じて第1の混合比と第2の混合比との範囲内の値の第3の混合比を演算して出力する混合比算出ステップと、混合比算出ステップにより算出された混合比が第1の混合比のときには入力映像信号を出力し、混合比が第2の混合比のときには加算平均ステップで出力される映像信号を出力し、混合比が第3の混合比のときにはその第3の混合比の値に応じた混合比で入力映像信号と加算平均ステップで出力される映像信号とを加算合成して出力する加算合成ステップとを含むことを特徴とする。
本発明によれば、ハードウェア規模を大きくすることなく、映像信号の平坦部分に含まれる映像ノイズを低減しつつ、映像信号のテクスチャ部分の画質劣化を小さくすることができる。また、本発明によれば、エンコード情報が得られない映像信号に対しても適切なノイズ低減効果を得ることができる。
本発明の映像ノイズ低減装置の第1の実施の形態のブロック図である。 図1中の2次元HPFのフィルタ係数の一例を示す図である。 図1中の2次元HPFのフィルタ係数の別の例を示す図である。 図1中の2次元HPFのフィルタ係数のさらに別の例を示す図である。 図1中の混合比計算部の入出力特性の一例を示す図である。 図1の映像ノイズ低減装置の第1の実施の形態の入力画像の一例を示す図である。 図6の画像が入力されたときの図1中の混合比計算部の出力画像を示す図である。 本発明の映像ノイズ低減装置の第2の実施の形態のブロック図である。 図8中の3次元HPFのフィルタ係数の一例を示す図である。 本発明の映像ノイズ低減装置の第3の実施の形態のブロック図である。 図10中の3次元HPFのフィルタ係数の一例を示す図である。 本発明の映像ノイズ低減装置の第4の実施の形態のブロック図である。 特定方向のテクスチャ部分を含む原画像と本発明の映像ノイズ低減装置の第1の実施の形態の出力画像の一例を示す図である。 図12中の第1の2次元HPFのフィルタ係数の一例を示す図である。 図12中の第2の2次元HPFのフィルタ係数の一例を示す図である。 図12中の混合比計算部の入出力特性の一例を示す図である。 従来の映像ノイズ低減装置が備えるスライサの入出力特性の一例を示す図である。 従来の映像ノイズ低減装置(比較装置)の構成図である。 (A)は本発明の映像ノイズ低減装置の実施例1と図17に示す入出力特性のスライサを備える従来の映像ノイズ低減装置の入力画像の一例、(B)は本発明の映像ノイズ低減装置の実施例1の出力画像、(C)は図17に示す入出力特性のスライサを備える従来の映像ノイズ低減装置の出力画像を示す図である。 (A)は本発明の映像ノイズ低減装置の実施例2と図1に示す本発明の映像ノイズ低減装置の第1の実施の形態の入力画像の一例、(B)は図1に示す本発明の映像ノイズ低減装置の第1の実施の形態の出力画像、(C)は本発明の映像ノイズ低減装置の実施例2の出力画像を示す図である。 特定方向のテクスチャ部分を含む原画像と本発明の映像ノイズ低減装置の実施例2の出力画像の一例を示す図である。 従来の映像ノイズ低減装置におけるスライサの入出力特性の一例を示す図である。 従来の映像ノイズ低減装置におけるスライサの入出力特性の他の例を示す図である。
次に、本発明の実施の形態について図面と共に詳細に説明する。
本発明の映像ノイズ低減装置は、注目画素及びその近傍領域の画像内容と一般的な模様を代表するパターンとの相関検出をフィルタ演算によって行い、この演算結果の絶対値の大きさに応じた混合比で、入力映像信号をローパスフィルタ(LPF)に通すなどしてノイズ成分を低減した映像信号と元々の入力映像信号とを混合することで、適切なノイズ低減効果を得ることを骨子としており、映像ノイズを低減した映像信号をどのように得るかについては既存の技術のどのようなものを使用してもよい。
なお、以下に記述する実施の形態では、ハードウェア規模及び演算量をできるだけ小さくすることを主眼に、注目画素及びその近傍の一定領域のすべての画素の加算平均で映像ノイズ成分を少なくした映像信号を得る方法を代表的に取り上げるが、例えばガウスフィルタやεフィルタ等を用いても、同様な実施が可能である。
(第1の実施の形態)
図1は、本発明になる映像ノイズ低減装置の第1の実施の形態のブロック図を示す。
同図に示すように、本実施の形態の映像ノイズ低減装置10は、ローパスフィルタ(LPF)11、遅延回路部(DL)12、2次元ハイパスフィルタ(HPF)13、混合比計算部14、乗算器15、乗算器16、及び加算器17より構成される。LPF11、DL12及び2次元HPF13は、入力端子を介して映像ノイズを含む入力映像信号がそれぞれ供給される。上記の入力映像信号は、MPEGなどの符号化方式で圧縮された符号化信号をデコードした信号でもよいし、撮像信号などのエンコード時の量子化レベルが得られない映像信号であってもよい。
LPF11は、入力端子を介して供給される映像信号から注目画素及びその近傍の一定領域の複数の画素の信号を加算平均して、予め設定したカットオフ周波数以下の映像ノイズ成分が抑制された低域信号を周波数選択して出力する。DL12は、入力端子を介して供給される映像信号に対して、LPF11で発生する遅延時間と同じ時間遅延して、LPF11から出力される低域信号と時間合わせされた遅延映像信号を出力する。
2次元HPF13は、入力映像信号中の上記の注目画素及びその近傍の一定領域の画像が、一般的な模様を代表するパターンの映像内容をどの程度の強さで含むかの相関検出結果をフィルタ演算により数値化して求める本発明の検出手段の一例を構成している。ここでは、2次元HPF13は、注目画素及びその近傍の一定領域の複数の画素を、例えば平面領域上の縦方向5画素、横方向5画素の計25画素(所謂5×5画素)とし、その各画素の信号のそれぞれに対して、図2に示す画素対応の25個のフィルタ係数を別々に乗算し、それにより得られる25個の乗算結果を加算して出力するフィルタ構成である。ここで、図2に示す25個の5×5画素対応のフィルタ係数のうち中心位置のフィルタ係数「0」に対応する画素が注目画素である。
2次元HPF13は、入力映像信号の5×5画素の画像内容と一般的な模様を代表するパターンとを相関検出した数値化された検出結果を出力する。ここでは、2次元HPF13は、入力映像信号の5×5画素の画像内容が、画像の輝度差がノイズレベルと同等の小レベルの模様のようなパターンの映像部分(すなわち、テクスチャ部分)と一致又はほぼ一致した場合に、相関が最も強いことを示す値(後述の|TH2|以上の値)の相関検出結果を出力する。
図2に示すフィルタ係数は、できるだけ演算量が小さくなるように簡単な整数で構成されている。フィルタ係数の他の例としては、図3や図4に示すような「1」、「0」、「−1」の3種類の整数のみで構成することも可能である。しかし、図3のフィルタ係数の場合は、斜めの模様に対して相関係数が低く、一方、図4のフィルタ係数の場合は、縦、横方向の模様に対して相関係数が低くなるので、一般的な模様の検出能力が低い。そこで、本実施の形態では、縦横斜めの各方向に相関係数が高く、かつ、簡単な整数で構成され、係数の総和をゼロにするという観点から、図2に示したフィルタ係数を用いる。なお、フィルタ係数の総和がゼロであるので、入力映像信号の5×5画素の画像内容が輝度値が一様な平坦部分で映像ノイズのみ重畳されているときには、2次元HPF13の検出結果の値は「0」又はほぼ「0」となる。
図1に戻り、混合比計算部14は、2次元HPF13により検出された検出結果に応じた混合比αを出力する。図5は、混合比計算部14の入出力特性の一例で、横軸は入力信号の値、縦軸は出力信号の値を示す。図5に示すように、混合比計算部14は、2次元HPF13により検出された検出結果である入力信号の値が−TH1から+TH1の範囲のときには出力値である混合比αとして「0」を出力し、入力信号の値が−TH2(<−TH1)より小、及び+TH2(>+TH1)より大の範囲のときには混合比αとして「1」を出力し、−TH2以上−TH1以下、及び+TH1以上+TH2以下の範囲のときには混合比αとして0から1の範囲を直線状に推移する特性の値を出力する。上記の閾値±TH1及び±TH2は所望のノイズ低減効果が得られるように実験などにより適切に設定される。
乗算器15は、LPF11から供給される映像ノイズが低減された低域信号と係数(1−α)とを乗算する。乗算器16は、DL12から供給される遅延映像信号と係数αとを乗算する。上記のαは混合比計算部14から供給される混合比αであり、乗算器15及び16は、混合比αに応じた乗算係数で乗算を行う。加算器17は、乗算器15及び16からそれぞれ出力される乗算結果を加算し、映像ノイズ低減装置の最終的な出力信号を出力する。
このように、本実施の形態の映像ノイズ低減装置10では、2次元HPF13により検出された検出結果である入力信号の値が相関が最も強いことを示す|TH2|以上のときには、入力映像信号の注目画素近傍の5×5画素領域の画像が映像ノイズではなくテクスチャ部分であるとみなし、混合比計算部14から混合比αとして「1」を出力し、DL12から出力される入力映像信号を遅延させた映像信号をそのまま乗算器16及び加算器17を通して出力する。この時乗算器15から乗算信号は出力されない。
一方、2次元HPF13により検出された検出結果である入力信号の値が相関が最も弱いことを示す|TH1|未満であるときには、入力映像信号の注目画素近傍の5×5画素領域が平坦部分に映像ノイズが乗っている映像部分とみなし、混合比計算部14から混合比αとして「0」を出力し、LPF11から出力される映像ノイズ成分が低減された低域信号をそのまま乗算器15及び加算器17を通して出力する。この時乗算器16から乗算信号は出力されない。
また、2次元HPF13により検出された検出結果である入力信号の値が|TH1|以上|TH2|以下であるときには、検出エラーの場合にも遷移を滑らかにすることで目立ちにくくするために、図5に示したように検出結果に応じて直線で推移する混合比αとし、乗算器15及び乗算器16の各乗算結果を加算器17で加算した信号を映像ノイズ低減処理された映像信号として出力する。
すなわち、本実施の形態の映像ノイズ低減装置10では、入力映像信号の注目画素近傍の5×5画素領域が平坦部分に映像ノイズが乗っている映像部分とみなせるときには解像度よりも映像ノイズ低減効果を優先してLPF11から出力される映像ノイズが低減された低域信号を出力するが、入力映像信号の注目画素近傍の5×5画素領域が映像ノイズではなくテクスチャ部分とみなせるときには解像度を優先して入力映像信号を出力する。
これにより、本実施の形態の映像ノイズ低減装置10によれば、ハードウェア規模を大きくすることなく、映像信号の平坦部分に含まれる映像ノイズを低減しつつ、映像信号のテクスチャ部分の画質劣化を小さくすることができ、また、エンコード情報が得られない映像信号に対しても適切なノイズ低減効果を得ることができる。
本実施の形態によれば、LPF11、DL12及び2次元HPF13にそれぞれ供給される入力映像信号の原画像が、例えば映像のフルスケール値が255(0〜255)である図6に示すような画像であり、また図5に示した閾値TH1=36、TH2=44とした条件でシミュレーションした結果、混合比計算部14により計算された混合比αは図7に示すようになった。図6に示す原画像の緑茶の缶の表面の平坦部分の画像41においては、混合比αは図7に43で示す黒色(α=0)に近い部分となる。一方、原画像の緑茶の間の下の敷物(テクスチャ部分)の画像42においては、2次元HPF13から相関が最も強いことを示す|TH2|以上の相関検出結果が出力されるため、混合比αは図7に44で示す白色(α=1)に近い部分となる。
(第2の実施の形態)
次に、本発明の第2の実施の形態について説明する。図8は、本発明になる映像ノイズ低減装置の第2の実施の形態のブロック図を示す。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。
図8に示すように、本実施の形態の映像ノイズ低減装置20は、第1の実施の形態の映像ノイズ低減装置10におけるLPF11、DL12、2次元HPF13及び混合比計算部14に代えて、LPF21、DL22、3次元HPF23及び混合比計算部24を設け、時間軸方向の近傍領域も対象とした3次元の映像ノイズ低減処理を行う構成である。
図8において、LPF21は注目画素及びその近傍の一定領域の画像として、例えば縦方向5画素、横方向5画素の平面領域の計25画素を現在フレーム及びその前後各2フレームも含めた計5フレームの125画素(すなわち、5×5×5画素)を加算平均した低域信号を出力する。DL22は入力端子を介して供給される映像信号に対して、LPF21で発生する遅延時間と同じ時間遅延して、LPF21から出力される低域信号と時間合わせされた遅延映像信号を出力する。
3次元HPF23は、入力映像信号中の注目画素及びその近傍の一定領域の画像が、一般的な模様を代表するパターンの映像内容をどの程度の強さで含むかの相関検出結果をフィルタ演算により数値化して求める本発明の検出手段の一例を構成している。ここでは、3次元HPF23は、5フレーム分の映像信号を蓄積するメモリを有しており、注目画素及びその近傍の一定領域の画像として、上記5×5×5画素のそれぞれに対して、図9(A)〜(E)に示す画素対応の125個のフィルタ係数を別々に乗算し、それにより得られる125個の乗算結果を加算して出力するフィルタ構成である。これにより、3次元HPF23は、入力映像信号の5×5×5画素の画像内容と一般的な模様を代表するパターンとを相関検出した数値化された検出結果を出力する。
図9に示すフィルタ係数は、できるだけ演算量が小さくなるように簡単な整数で構成されている。図9(C)は現在フレームの5×5画素の平面領域の画像に対するフィルタ係数である。また、図9(B)は現在フレームより1フレーム未来の5×5画素の平面領域の画像に対するフィルタ係数、同図(D)は現在フレームより1フレーム過去の5×5画素の平面領域の画像に対するフィルタ係数であり、これら1フレーム未来と1フレーム過去のフィルタ係数は同じ構成とされている。更に、図9(A)は現在フレームより2フレーム未来の5×5画素の平面領域の画像に対するフィルタ係数、同図(E)は現在フレームより2フレーム過去の5×5画素の平面領域の画像に対するフィルタ係数であり、これら2フレーム未来と2フレーム過去のフィルタ係数は同じ構成とされている。
また、5×5画素の平面領域のうち同じ画素におけるフィルタ係数は現在フレームのフィルタ係数と1フレーム過去及び1フレーム未来のフィルタ係数とで値を異ならせ、また、1フレーム過去及び1フレーム未来のフィルタ係数と2フレーム過去及び2フレーム未来のフィルタ係数とで値を異ならせているので、時間軸方向の画像変化を検出できる。
ここで、例えば信号レベルが「4」と「5」の2値でできているような場合を想定すると、その分布がフィルタ係数の符号と逆位相となった時に、3次元HPF23が最大の値を出力する。この場合の出力値は、フィルタ係数の絶対値の総和となる。従って、フィルタ係数の絶対値の総和が3次元HPF23の感度を示す。因みに、図9(A)に示す2フレーム未来のフィルタ係数の絶対値の総和は「64」、同図(B)に示す1フレーム未来のフィルタ係数の絶対値の総和は「80」、同図(C)に示す現在フレームのフィルタ係数の絶対値の総和は「96」、同図(D)に示す1フレーム過去のフィルタ係数の絶対値の総和は「80」、同図(E)に示す2フレーム過去のフィルタ係数の絶対値の総和は「64」である。従って、3次元HPF23は、現在フレームにおいて最も感度が高く、フレームが現在フレームより遠くなるほど感度が低く設定されている。また、フレーム間のフィルタ係数の絶対値の総和の差は同じ値に設定されている。
このようにして、入力映像信号が画面上移動する物体のような画像の場合は、テクスチャ部分と検出することができる。また、図9(A)〜(E)に示すように125画素分の全フィルタ係数の合計値は「0」であるので、5フレームの間、入力映像信号の注目画素及びその近傍の一定領域の画像が平坦で映像ノイズのみ重畳されている場合や動きの速い画像の場合には、3次元HPF23により検出された検出結果の値は「0」又はほぼ「0」となる。なお、3次元HPF23のフィルタ係数は、実験などにより適切に設定することができ、図9は一例である。
図8の混合比計算部24は、図5と同様の入出力特性に基づき、3次元HPF23により検出された検出結果に応じた混合比αを出力する。ただし、3次元HPF23の全フィルタ係数の絶対値の総和「384」は、2次元HPF13の全フィルタ係数の絶対値の総和である「48」の8倍であるので、混合比計算部24は、閾値|TH1|及び|TH2|の値が混合比計算部14のそれの8倍程度に設定される。
このように、本実施の形態の映像ノイズ低減装置20によれば、入力映像信号の注目画素近傍の5×5×5画素領域が平坦部分に映像ノイズが乗っている映像部分とみなせるときには解像度よりも映像ノイズ低減効果を優先してLPF21から出力される映像ノイズが低減された低域信号を出力するが、入力映像信号の注目画素近傍の5×5×5画素領域が映像ノイズではなくテクスチャ部分とみなせるときには解像度を優先してDL22から出力される映像信号を出力する。
これにより、本実施の形態の映像ノイズ低減装置20によれば、ハードウェア規模を大きくすることなく、映像信号の平坦部分に含まれる映像ノイズを低減しつつ、映像信号のテクスチャ部分の画質劣化を小さくすることができ、また、エンコード情報が得られない映像信号に対しても適切なノイズ低減効果を得ることができる。
(第3の実施の形態)
次に、本発明の第3の実施の形態について説明する。図10は、本発明になる映像ノイズ低減装置の第3の実施の形態のブロック図を示す。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。
図10に示すように、本実施の形態の映像ノイズ低減装置30は、第1の実施の形態の映像ノイズ低減装置10におけるLPF11、DL12、2次元HPF13及び混合比計算部14に代えて、LPF31、DL32、3次元HPF33及び混合比計算部34を設け、時間軸方向の近傍領域も対象とした3次元の映像ノイズ低減処理を行う構成である。
ここで、第2の実施の形態の映像ノイズ低減装置20は、3次元HPF23のフィルタ係数が、図9に示したように、現在フレーム及びその前後各2フレームの計125個のフィルタ係数に設定されており、3次元HPF23において2フレーム未来のフィルタ係数との乗算結果が得られるまで加算器17から出力が得られないため、出力されるノイズ低減処理後の映像信号は現在フレームよりも2フレーム遅延し、用途によってはこの遅延が許容されない場合がある。そこで、本実施の形態の映像ノイズ低減装置30は上記の出力の遅延を回避する構成としたものである。
図10において、LPF31は注目画素及びその近傍の一定領域の画像として、例えば縦方向5画素、横方向5画素の平面領域の計25画素を現在フレーム及び1フレーム〜4フレーム過去の計5フレーム分の計125画素(すなわち、5×5×5画素)を加算平均した低域信号を出力する。DL32は入力端子を介して供給される映像信号に対して、LPF31で発生する遅延時間と同じ時間遅延して、LPF31から出力される低域信号と時間合わせされた遅延映像信号を出力する。
3次元HPF33は、入力映像信号中の注目画素及びその近傍の一定領域の画像が、一般的な模様を代表するパターンの映像内容をどの程度の強さで含むかの相関検出結果をフィルタ演算により数値化して求める本発明の検出手段の一例を構成している。ここでは、3次元HPF33は、5フレーム分の映像信号を蓄積するメモリを有しており、注目画素及びその近傍の一定領域の画像として、上記5×5×5画素のそれぞれに対して、図11(A)〜(E)に示す画素対応の現在フレーム及び過去4フレーム分の計125個のフィルタ係数を別々に乗算し、それにより得られる125個の乗算結果を加算して出力するフィルタ構成である。これにより、3次元HPF33は、入力映像信号の5×5×5画素の画像内容と一般的な模様を代表するパターンとを相関検出した数値化された検出結果を出力する。
図11に示すフィルタ係数は、できるだけ演算量が小さくなるように簡単な整数で構成されている。図11(A)は現在フレームの5×5画素の平面領域の画像に対するフィルタ係数である。また、図11(B)は現在フレームより1フレーム過去の5×5画素の平面領域の画像に対するフィルタ係数、同図(C)は現在フレームより2フレーム過去の5×5画素の平面領域の画像に対するフィルタ係数、同図(D)は現在フレームより3フレーム過去の5×5画素の平面領域の画像に対するフィルタ係数、同図(E)は現在フレームより4フレーム過去の5×5画素の平面領域の画像に対するフィルタ係数である。また、図11(A)〜(E)に示すように5フレームの各フィルタ係数は異ならせているので、時間軸方向の画像変化を検出できる。
また、前述したようにフィルタ係数の絶対値の総和が3次元HPF33の感度を示す。因みに、図11(A)に示す現在フレームのフィルタ係数の絶対値の総和は「96」、同図(B)に示す1フレーム過去のフィルタ係数の絶対値の総和は「80」、同図(C)に示す2フレーム過去のフィルタ係数の絶対値の総和は「64」、同図(D)に示す3フレーム過去のフィルタ係数の絶対値の総和は「32」、同図(E)に示す4フレーム過去のフィルタ係数の絶対値の総和は「16」である。従って、3次元HPF33は、現在フレームにおいて最も感度が高く、フレームが現在フレームより遠くなるほど感度が減衰していくように設定されている。
なお、フレーム間のフィルタ係数の絶対値の総和の差は、小さいほど静止画に対する感度が高く、大きいほど動画に対する感度が高くなる。例えば、入力映像信号が現在フレームと1フレーム過去とで逆相のパターンの画像の信号であり、現在フレームで正の値が出力されるものとすると、1フレーム過去では負の値が出力され、それらが合計されると両者はキャンセル方向に合計される。このとき、フレーム間のフィルタ係数の絶対値の総和の差が小さいと、現在フレームと1フレーム過去の出力の絶対値は近くなり、入力パターンが同相(すなわち静止画)であると合計値はより大きくなり、逆相(すなわち、動画の特別な例)であると合計値はより小さくなる。逆に、フレーム間のフィルタ係数の絶対値の総和の差が大きいと上記の特徴が弱まることになる。図11のフィルタ係数の例では、フレーム間のフィルタ係数の絶対値の総和の差はほぼ均等に設定されている。
このようにして、3次元HPF33は入力映像信号が画面上移動する物体のような画像の場合は、テクスチャ部分と検出することができる。また、図11(A)〜(E)に示すように125画素分の全フィルタ係数の合計値は「0」であるので、5フレームの間、入力映像信号の注目画素及びその近傍の一定領域の画像が平坦で映像ノイズのみ重畳されている場合や動きの速い画像の場合には、3次元HPF33により検出された検出結果の値は「0」又はほぼ「0」となる。なお、3次元HPF33のフィルタ係数は、実験などにより適切に設定することができ、図11は一例である。
図10の混合比計算部34は、図5と同様の入出力特性に基づき、3次元HPF33により検出された検出結果に応じた混合比αを出力する。ただし、3次元HPF33の全フィルタ係数の絶対値の総和「288」は、2次元HPF13の全フィルタ係数の絶対値の総和である「48」の6倍であるので、混合比計算部34は、閾値|TH1|及び|TH2|の値が混合比計算部14のそれの6倍程度に設定される。
このように、本実施の形態の映像ノイズ低減装置30によれば、入力映像信号の注目画素近傍の5×5×5画素領域が平坦部分に映像ノイズが乗っている映像部分とみなせるときには解像度よりも映像ノイズ低減効果を優先してLPF31から出力される映像ノイズが低減された低域信号を出力するが、入力映像信号の注目画素近傍の5×5×5画素領域が映像ノイズではなくテクスチャ部分とみなせるときには解像度を優先してDL32から出力される映像信号を出力する。
これにより、本実施の形態の映像ノイズ低減装置30によれば、ハードウェア規模を大きくすることなく、映像信号の平坦部分に含まれる映像ノイズを低減しつつ、映像信号のテクスチャ部分の画質劣化を小さくすることができ、また、エンコード情報が得られない映像信号に対しても適切なノイズ低減効果を得ることができる。更に、本実施の形態の映像ノイズ低減装置30によれば、注目画素のフレームとその直前の4フレームを近傍領域とすることで、ほぼ性能を維持しつつ遅延を回避することが可能である。
(第4の実施の形態)
次に、本発明の第4の実施の形態について説明する。図12は、本発明になる映像ノイズ低減装置の第4の実施の形態のブロック図を示す。同図中、図1と同一構成部分には同一符号を付し、その説明を省略する。
図12に示すように、本実施の形態の映像ノイズ低減装置60は、第1の実施の形態の映像ノイズ低減装置10における2次元HPF13及び混合比計算部14に代えて、2次元HPF61及び62と、絶対値回路63及び64と、加算器65と、混合比計算部66とを設けた構成である。
ところで、第1の実施の形態の映像ノイズ低減装置10では、注目画素の近傍領域を、注目画素を中心とした5×5画素とした場合、LPF11はノイズ成分を低減した映像信号として、例えば演算量を最小にするため近傍領域の25画素の加算平均値を出力している。また、入力映像信号からテクスチャの強さを算出する2次元HPF13は、その画素対応の25個のフィルタ係数の絶対値の総和が、入力映像信号の5×5画素の画像内容が輝度値が一様な平坦部分で映像ノイズのみ重畳されているときにはゼロに近い値が出力されるようにゼロにした。
上記の2次元HPF13のフィルタ係数は、一般的なテクスチャ成分に対応するため、縦横方向のテクスチャと斜め方向のテクスチャにほぼ均等に感度を持つように、図2に示すように設定されている。このため、第1の実施の形態の映像ノイズ低減装置10では、例えば縦方向だけのテクスチャ部分について検出感度が不足する場合があり、図13(A)に示す原画像に対して処理した画像は図13(B)に示すように擬似ノイズが発生する場合がある。
そこで、本実施の形態の映像ノイズ低減装置60では、上記の擬似ノイズをも低減するため、テクスチャ部分を検出する2次元HPFとして、特性が異なる2つの2次元HPF61及び62を用い、それらの出力信号を絶対値回路63及び64により別々に絶対値化してから加算器65で加算した信号値を、テクスチャの強さを表す値とする。
図12において、第1及び第2の2次元HPF61及び62とLPF11及びDL12とは、入力端子を介して映像ノイズを含む入力映像信号がそれぞれ供給される。上記の入力映像信号は、MPEGなどの符号化方式で圧縮された符号化信号をデコードした信号でもよいし、撮像信号などのエンコード時の量子化レベルが得られない映像信号であってもよい。
図14は、第1の2次元HPF61のフィルタ係数の一例を示す。この図14に示すフィルタ係数は、平面領域上の注目画素を中心とする5×5画素に対応する計25個のフィルタ係数を示し、縦横のテクスチャに対して感度が高く、斜めのテクスチャに対して感度が低い配置とされている。
図15は、第2の2次元HPF62のフィルタ係数の一例を示す。この図15に示すフィルタ係数は、平面領域上の注目画素を中心とする5×5画素に対応する計25個のフィルタ係数を示し、斜めのテクスチャに対して感度が高く、縦横のテクスチャに対して感度が低い配置とされている。
図14及び図15に示すフィルタ係数は、それぞれできるだけ演算量が小さくなるように「1」、「0」、「−1」の3種類の整数のみで構成されており、また、総和がゼロである。図14及び図15に示すフィルタ係数の総和がゼロであるので、入力映像信号の5×5画素の画像内容が輝度値が一様な平坦部分で映像ノイズのみ重畳されているときには、2次元HPF61及び62の検出結果の値は「0」又はほぼ「0」となる。
次に、本実施の形態の動作について説明する。図12において、2次元HPF61及び62は、それぞれ供給される映像信号の5×5画素の画像内容と一般的な模様を代表するパターンとを、感度の高い相関検出方向が互いに異なるフィルタ演算により相関検出した数値化された検出結果を出力する。
ここでは、2次元HPF61は、供給される映像信号の5×5画素の画像内容のうち、図14に示したフィルタ係数を用いたフィルタ演算により、特に縦横方向の画像の輝度差がノイズレベルと同等の小レベルの模様のようなパターンの映像部分(すなわち、テクスチャ部分)と一致又はほぼ一致した場合に、相関が最も強いことを示す値(後述のTH12以上の値)の相関検出結果を出力する。
一方、2次元HPF62は、供給される映像信号の5×5画素の画像内容のうち、図15に示したフィルタ係数を用いたフィルタ演算により、特に斜め方向の画像の輝度差がテクスチャ部分と一致又はほぼ一致した場合に、相関が最も強いことを示す値(後述のTH12以上の値)の相関検出結果を出力する。
絶対値回路63は、2次元HPF61から出力された相関検出結果を示す信号の絶対値をとり、その絶対値信号を加算器65へ出力する。絶対値回路64は、2次元HPF62から出力された相関検出結果を示す信号の絶対値をとり、その絶対値信号を加算器65へ出力する。加算器65は、絶対値回路63から出力された第1の絶対値信号と、絶対値回路64から出力された第2の絶対値信号とを加算し、その加算信号を混合比計算部66へ出力する。
混合比計算部66は、2次元HPF61及び62によりそれぞれ検出された2つの検出結果の加算値に応じた混合比αを出力する。図16は、混合比計算部66の入出力特性の一例で、横軸は入力信号の値、縦軸は出力信号(すなわち混合比α)の値を示す。図16に示すように、混合比計算部66は、2次元HPF61及び62によりそれぞれ検出された2つの検出結果の加算値である加算器65から供給される入力信号の値が「0」からTH11までの範囲では値が「0」の混合比αを出力し、入力信号の値がTH12以上の範囲では値が「1」の混合比αを出力する。また、混合比計算部66は、入力信号の値がTH11以上TH12以下の範囲では、入力信号の値に応じて値が「0」から「1」の範囲を直線状に増加する特性の混合比αを出力する。上記の閾値TH11及びTH12は所望のノイズ低減効果が得られるように実験などにより適切に設定される。混合比計算部66は、図16に示した入出力特性に従って計算した混合比αを乗算器15及び16にそれぞれ供給する。
これにより、本実施の形態の映像ノイズ低減装置60によれば、混合比αが「1」であるときは、入力映像信号の注目画素近傍の5×5画素領域の画像内容がテクスチャ成分主体であるとみなし、解像度を優先してDL12から出力される遅延入力映像信号をそのまま出力する。また、映像ノイズ低減装置60は、混合比αが「0」であるときは、入力映像信号の注目画素近傍の5×5画素領域の画像内容が平坦部分に映像ノイズが乗っている映像部分とみなし、解像度よりも映像ノイズ低減効果を優先してLPF11から出力される映像ノイズが低減された低域信号を出力する。また、映像ノイズ低減装置60は、混合比αが「0」から「1」までの範囲内の値の時は、検出エラーの場合にも遷移を滑らかにすることで目立ちにくくするため、混合比αの値に応じて混合されたLPF11からの低域映像信号とDL12からの遅延映像信号との混合信号を出力する。
このように、本実施の形態の映像ノイズ低減装置60によれば、ハードウェア規模を大きくすることなく、映像信号の平坦部分に含まれる映像ノイズを低減しつつ、映像信号のテクスチャ部分の画質劣化を小さくすることができ、また、エンコード情報が得られない映像信号に対しても適切なノイズ低減効果を得ることができる。更に、本実施の形態の映像ノイズ低減装置60によれば、特定方向だけのテクスチャ部分を含む映像信号に対しても、擬似ノイズを大幅に抑圧した映像ノイズ低減映像信号を出力することができる。
次に、映像ノイズ低減装置10の効果について、図17に示した入出力特性をもつスライサを備える従来の映像ノイズ低減装置(以下、比較装置という)と比較して具体的に説明する。比較装置の一般的な構成図を図18に示す。この比較装置70は、LPF71、乗算器72、加算器73、スライサ74及び加算器75から構成される。比較装置70の各部の説明は省略するが、LPF71としては、映像ノイズ低減装置10のLPF11に、表1に示す5×5画素のフィルタ係数を有するフィルタを用いた映像ノイズ低減装置(以下、実施例1という)とハードウェア規模を同等とするため、表1に示す5×5画素のフィルタ係数を有するガウスフィルタを用いた。
次に、S/N測定用のチャート(S/N=40.0dB)を用意し、実施例1の出力映像信号のS/Nと、比較装置70の出力映像信号のS/Nとがほぼ同等になるように、図18のスライサ74のスライスレベルを設定した。因みに、スライスレベルを「6」にすると、両出力映像信号のS/Nがほぼ同等になった。
S/N測定用に用いたツールについては、「評価対象の画像の各点の値と、その近傍の5×5画素の平均値との差分のRMS(二乗平均平方根)をとり、これをフルレンジ値(255)で割った値を、デシベル表示する」というものを作成して使用した。なお、このS/N測定ツールを用いて測定した値は、S/Nが40dBであるS/N測定用チャートの原画像を実施例1に入力して得られた出力映像信号のS/Nが47.3dB、上記原画像を比較装置70に入力して得られた出力映像信号のS/Nが47.5dBであった。
この状態で、図19(A)に示す画像の映像信号を実施例1及び比較装置70にそれぞれ入力して出力映像信号の画像を比較した。比較する画像部分は図19(A)に示す入力画像の左上部の緑茶の缶の平坦な画像部分51と、下部の敷物の画像部分52とした。平坦な画像部分51は、できるだけノイズが抑制されていることが望ましい画像部分であり、敷物の画像部分52は、細かな編み目のような模様ができるだけ劣化しないことが望ましい画像部分である。
図19(B)は実施例1の出力映像信号の画像を示し、同図(C)は比較装置70の出力映像信号の画像を示す。図19(B)に示す実施例1の出力映像信号の画像の左上部の緑茶の缶の平坦な画像部分53は、同図(C)に示す比較装置70の出力映像信号の画像の左上部の緑茶の缶の平坦な画像部分55に比べてノイズが少ないことが目視にて分かる。また、図19(B)に示す実施例1の出力映像信号の画像の下部の敷物の画像部分54は、同図(C)に示す比較装置70の出力映像信号の画像の下部の敷物の画像部分56に比べてディテイルが保存されていることが目視にて分かる。
更に、実施例1及び比較装置70の出力映像信号の上記の各画像部分について前述のS/N測定ツールを用いて数値化したところ、下記の表2に示す測定結果が得られた。なお、S/N測定ツールは、画像の複雑さを数値化しているので、S/N値が大きいほど、S/Nは良い代わりにディテイルの劣化は大きい、ということになる。
表2に示すように、実施例1の出力映像信号の画像の左上部の緑茶の缶の平坦な画像部分53のS/Nは47.4dBであり、入力画像の左上部の緑茶の缶の平坦な画像部分51のS/N(=40.4dB)よりも+7.0dB改善した。一方、比較装置70の出力映像信号の画像の左上部の緑茶の缶の平坦な画像部分55のS/Nは45.7dBであり、入力画像の左上部の緑茶の缶の平坦な画像部分51のS/N(=40.4dB)よりも+5.3dB改善した。従って、実施例1と比較装置70とでは、ノイズ抑制が望まれる緑茶の缶の平坦な画像部分については、実施例1の方が比較装置70に比べて1.7dB改善したことが分かる。
また、実施例1の出力映像信号の画像の下部の敷物の画像部分54のS/Nは36.8dBであり、入力画像の下部の敷物の画像部分52のS/N(=34.6dB)よりも+2.2dBディテイルが悪化した。一方、比較装置70の出力映像信号の画像の下部の敷物の画像部分56のS/Nは37.9dBであり、入力画像の下部の敷物の画像部分52のS/N(=34.6dB)よりも+3.3dBディテイルが悪化した。従って、実施例1と比較装置70とでは、模様が劣化しないことが望まれる敷物の画像部分については、実施例1の方が比較装置70に比べてディテイルが1.1dB劣化が少なく性能が良いことが分かる。
次に、図12に示した本発明の映像ノイズ低減装置60の実施例(以下、実施例2という)の映像ノイズ低減効果及びテクスチャ部分の保存効果について、図1に示した本発明の映像ノイズ低減装置10の出力画像と比較して説明する。
比較する画像部分は図20(A)に示す入力画像の左上部の緑茶の缶の平坦な画像部分81と、下部の敷物の画像部分82とした。平坦な画像部分81は、できるだけノイズが抑制されていることが望ましい画像部分であり、敷物の画像部分82は、細かな編み目のような模様ができるだけ劣化しないことが望ましい画像部分である。
図20(B)は映像ノイズ低減装置10の出力映像信号の画像を示し、同図(C)は実施例2の出力映像信号の画像を示す。図20(C)に示す実施例2の出力映像信号の画像の左上部の緑茶の缶の平坦な画像部分85のS/Nは47.7dBであり、入力画像の左上部の緑茶の缶の平坦な画像部分81のS/N(=40.4dB)よりも+7.7dB改善し、また、同図(B)に示す映像ノイズ低減装置10の出力映像信号の画像の左上部の緑茶の缶の平坦な画像部分83のS/N(=47.4dB)よりもわずかに良かった。
また、図20(C)に示す実施例2の出力映像信号の画像の下部の敷物の画像部分86のS/Nは36.8dBであり、同図(B)に示す映像ノイズ低減装置10の出力映像信号の画像の下部の敷物の画像部分84のS/N(=36.8dB)と同一である。この敷物の画像部分84及び86のS/Nは値が小さいほどテクスチャ部分をよく保存していることを示すから、実施例2及び映像ノイズ低減装置10はいずれもテクスチャ部分をよく保存していることが分かった。
更に、実施例2では、特定方向だけのテクスチャ部分を含む映像信号として、例えば図21(A)に示す縦方向だけのテクスチャ部分を含む原画像に対して、出力される映像信号の画像は図21(B)に示すようになり、図13(B)に示した映像ノイズ低減装置10の出力画像に比べて擬似ノイズが大幅に改善されていることが分かる。
なお、本発明は以上の実施の形態及び実施例に限定されるものではなく、例えば図5に示した混合比計算部14、24、34の入出力特性において、閾値|TH2|と|TH1|との間の入力範囲に対して出力混合比が図5のような直線状でなく、曲線のような所定の非線形特性を有するようにしてもよい。また、±TH1及び±TH2の近傍付近から徐々に出力が変化するような特性であってもよい。
また、図12に示した映像ノイズ低減装置60では、2次元HPFは61及び62の2つとしたが、感度の高い相関検出方向が互いに異なる3以上の2次元HPFを用いることもできる。更に、図16に示した混合比計算部66の入出力特性の閾値TH11とTH12との間の特性部分は直線状でなく、曲線のような所定の非線形特性を有するようにしてもよい。
また、本発明は図1、図8、図10、図12の映像ノイズ低減装置の各構成の機能を、コンピュータにより実現させるコンピュータプログラムも包含するものである。このコンピュータプログラムは、記録媒体からコンピュータに取り込まれてもよいし、ネットワークを介して配信されてコンピュータにダウンロードするようにしてもよい。
10、20、30、60 映像ノイズ低減装置
11、21、31 ローパスフィルタ(LPF)
12、22、32 遅延回路部(DL)
13、61、62 2次元ハイパスフィルタ(HPF)
14、24、34、66 混合比計算部
15、16 乗算器
17、65 加算器
23、33 3次元ハイパスフィルタ(HPF)
63、64 絶対値回路

Claims (8)

  1. 入力映像信号中の低域成分を抽出して映像ノイズが抑制された映像信号を出力する低域成分抽出手段と、
    前記入力映像信号中の注目画素及びその近傍の一定領域の画像が、ノイズレベルと同等の小レベルの予め設定した所定パターンの映像内容をどの程度の強さで含むかの相関検出結果をフィルタ演算により数値化して求める検出手段と、
    前記検出手段の検出結果が前記所定パターンの映像内容との相関が強いことを示す第1の絶対値以上のときには第1の混合比を出力し、前記検出結果が前記所定パターンの映像内容との相関が弱いことを示す第2の絶対値以下のときには第2の混合比を出力し、前記検出結果が前記第1の絶対値から前記第2の絶対値までの範囲内の値のときには前記検出結果の値に応じて前記第1の混合比と前記第2の混合比との範囲内の値の第3の混合比を演算して出力する混合比算出手段と、
    前記混合比算出手段から供給される混合比が前記第1の混合比のときには前記入力映像信号を出力し、前記混合比が前記第2の混合比のときには前記加算平均手段から出力される映像信号を出力し、前記混合比が前記第3の混合比のときにはその第3の混合比の値に応じた混合比で前記入力映像信号と前記加算平均手段から出力される映像信号とを加算合成して出力する加算合成手段と
    を有することを特徴とする映像ノイズ低減装置。
  2. 前記検出手段は、
    前記一定領域が2次元マトリクス配置された複数の画素からなる領域であるとき、前記一定領域の縦横斜めの各方向に相関係数が高く、かつ、簡単な整数で構成され、総和がゼロである、マトリクス配置された複数のフィルタ係数に基づいてフィルタ演算を行う2次元ハイパスフィルタであることを特徴とする請求項1記載の映像ノイズ低減装置。
  3. 前記検出手段は、
    前記一定領域が、現在フレーム及びその前後1以上のフレームからなる複数フレームの各フレームにおいて画素が2次元マトリクス配置された平面領域が3次元配置された領域であるとき、現在フレームの前記平面領域の複数のフィルタ係数の絶対値の総和が、他のフレームの前記平面領域の複数のフィルタ係数の絶対値の総和よりも大で、かつ、すべてのフィルタ係数の総和がゼロである前記3次元配置された領域のフィルタ係数に基づいて、フィルタ演算を行う3次元ハイパスフィルタであることを特徴とする請求項1記載の映像ノイズ低減装置。
  4. 前記検出手段は、
    前記一定領域が、現在フレーム及び過去の1以上のフレームからなる複数フレームの各フレームにおいて画素が2次元マトリクス配置された平面領域が3次元配置された領域であるとき、現在フレームの前記平面領域の複数のフィルタ係数の絶対値の総和が、他のフレームの前記平面領域の複数のフィルタ係数の絶対値の総和よりも大で、かつ、すべてのフィルタ係数の総和がゼロである前記3次元配置された領域のフィルタ係数に基づいて、フィルタ演算を行う3次元ハイパスフィルタであることを特徴とする請求項1記載の映像ノイズ低減装置。
  5. 入力映像信号中の低域成分を抽出して映像ノイズが抑制された映像信号を出力する低域成分抽出手段と、
    前記入力映像信号中の注目画素及びその近傍の一定領域の画像が、ノイズレベルと同等の小レベルの予め設定した所定パターンの映像内容をどの程度の強さで含むかの複数の相関検出結果を、感度の高い相関検出方向が互いに異なるフィルタ演算により数値化してそれぞれ求める検出手段と、
    前記検出手段の複数の相関検出結果の絶対値を加算する加算手段と、
    前記加算手段から出力される加算値が前記所定パターンの映像内容との相関が強いことを示す第1の絶対値以上のときには第1の混合比を出力し、前記加算値が前記所定パターンの映像内容との相関が弱いことを示す第2の絶対値以下のときには第2の混合比を出力し、前記加算値が前記第1の絶対値から前記第2の絶対値までの範囲内の値のときには前記加算値に応じて前記第1の混合比と前記第2の混合比との範囲内の値の第3の混合比を演算して出力する混合比算出手段と、
    前記混合比算出手段から供給される混合比が前記第1の混合比のときには前記入力映像信号を出力し、前記混合比が前記第2の混合比のときには前記加算平均手段から出力される映像信号を出力し、前記混合比が前記第3の混合比のときにはその第3の混合比の値に応じた混合比で前記入力映像信号と前記加算平均手段から出力される映像信号とを加算合成して出力する加算合成手段と
    を有することを特徴とする映像ノイズ低減装置。
  6. 前記検出手段は、
    前記一定領域が2次元マトリクス配置された複数の画素からなる領域であるとき、前記一定領域の縦横斜めの各方向のうち互いに異なる方向に対して相関係数が高く、かつ、簡単な整数で構成され、総和がゼロである、マトリクス配置された複数のフィルタ係数に基づいてフィルタ演算を行う複数の2次元ハイパスフィルタであることを特徴とする請求項5記載の映像ノイズ低減装置。
  7. 入力映像信号中の低域成分を抽出して映像ノイズが抑制された映像信号を出力する低域成分抽出ステップと、
    前記入力映像信号中の注目画素及びその近傍の一定領域の画像が、ノイズレベルと同等の小レベルの予め設定した所定パターンの映像内容をどの程度の強さで含むかの相関検出結果をフィルタ演算により数値化して求める検出ステップと、
    前記検出ステップの検出結果が前記所定パターンの映像内容との相関が強いことを示す第1の絶対値以上のときには第1の混合比を出力し、前記検出結果が前記所定パターンの映像内容との相関が弱いことを示す第2の絶対値以下のときには第2の混合比を出力し、前記検出結果が前記第1の絶対値から前記第2の絶対値までの範囲内の値のときには前記検出結果の値に応じて前記第1の混合比と前記第2の混合比との範囲内の値の第3の混合比を演算して出力する混合比算出ステップと、
    前記混合比算出ステップにより算出された混合比が前記第1の混合比のときには前記入力映像信号を出力し、前記混合比が前記第2の混合比のときには前記加算平均ステップで出力される映像信号を出力し、前記混合比が前記第3の混合比のときにはその第3の混合比の値に応じた混合比で前記入力映像信号と前記加算平均ステップで出力される映像信号とを加算合成して出力する加算合成ステップと
    を含むことを特徴とする映像ノイズ低減方法。
  8. 入力映像信号中の低域成分を抽出して映像ノイズが抑制された映像信号を出力する低域成分抽出ステップと、
    前記入力映像信号中の注目画素及びその近傍の一定領域の画像が、ノイズレベルと同等の小レベルの予め設定した所定パターンの映像内容をどの程度の強さで含むかの複数の相関検出結果を互いに異なる特性のフィルタ演算により数値化してそれぞれ求める検出ステップと、
    前記検出ステップの複数の相関検出結果の絶対値を加算する加算ステップと、
    前記加算ステップで得た加算値が前記所定パターンの映像内容との相関が強いことを示す第1の絶対値以上のときには第1の混合比を出力し、前記加算値が前記所定パターンの映像内容との相関が弱いことを示す第2の絶対値以下のときには第2の混合比を出力し、前記加算値が前記第1の絶対値から前記第2の絶対値までの範囲内の値のときには前記加算値に応じて前記第1の混合比と前記第2の混合比との範囲内の値の第3の混合比を演算して出力する混合比算出ステップと、
    前記混合比算出ステップにより算出された混合比が前記第1の混合比のときには前記入力映像信号を出力し、前記混合比が前記第2の混合比のときには前記加算平均ステップで出力される映像信号を出力し、前記混合比が前記第3の混合比のときにはその第3の混合比の値に応じた混合比で前記入力映像信号と前記加算平均ステップで出力される映像信号とを加算合成して出力する加算合成ステップと
    を含むことを特徴とする映像ノイズ低減方法。
JP2012031560A 2012-01-19 2012-02-16 映像ノイズ低減装置及び映像ノイズ低減方法 Active JP5794169B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012031560A JP5794169B2 (ja) 2012-01-19 2012-02-16 映像ノイズ低減装置及び映像ノイズ低減方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012009051 2012-01-19
JP2012009051 2012-01-19
JP2012031560A JP5794169B2 (ja) 2012-01-19 2012-02-16 映像ノイズ低減装置及び映像ノイズ低減方法

Publications (2)

Publication Number Publication Date
JP2013168837A true JP2013168837A (ja) 2013-08-29
JP5794169B2 JP5794169B2 (ja) 2015-10-14

Family

ID=49178921

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012031560A Active JP5794169B2 (ja) 2012-01-19 2012-02-16 映像ノイズ低減装置及び映像ノイズ低減方法

Country Status (1)

Country Link
JP (1) JP5794169B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019108933A (ja) * 2017-12-18 2019-07-04 トヨタ自動車株式会社 車両のブリーザ装置

Also Published As

Publication number Publication date
JP5794169B2 (ja) 2015-10-14

Similar Documents

Publication Publication Date Title
JP5979856B2 (ja) イメージにじみ検出器
WO2011033619A1 (ja) 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体
JP4847591B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP2015043595A (ja) ブロックノイズの検出方法
US20140254932A1 (en) Content adaptive edge and detail enhancement for image and video processing
JP5095860B2 (ja) 分離エッジ強調アーキテクチャ
WO2009107197A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
CN102281388A (zh) 适应性滤除影像噪声的方法及装置
JP2011065339A (ja) 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体
JP3240371B2 (ja) 映像信号処理装置
WO2014008329A1 (en) System and method to enhance and process a digital image
JP5652272B2 (ja) 画像処理装置、画像処理プログラム及び画像処理方法
JP5794169B2 (ja) 映像ノイズ低減装置及び映像ノイズ低減方法
JP6256703B2 (ja) 画像処理方法、及び画像処理装置
Ryu et al. No-reference sharpness metric based on inherent sharpness
JP2003087605A (ja) ノイズ低減装置、及びノイズ低減方法、媒体、およびプログラム
JP4104475B2 (ja) 輪郭補正装置
TWI712989B (zh) 影像處理方法及影像處理裝置
JP5807420B2 (ja) 映像ノイズ低減装置及び映像ノイズ低減方法
KR101924915B1 (ko) 신호 정정 방법 및 장치, 그리고 단말기
JP2006251850A (ja) 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体
JPWO2013150824A1 (ja) 画像処理装置及び方法、並びに画像処理プログラム
JP2008066942A (ja) 画像処理装置、および処理方法
CN110072034B (zh) 影像处理方法及影像处理装置
WO2010084380A1 (en) Integrated circuit comprising deflicker unit for filtering image data, and a method therefor

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140731

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150512

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150623

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150714

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150727

R150 Certificate of patent or registration of utility model

Ref document number: 5794169

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150