JP4596496B2 - ノイズ除去装置およびノイズ除去方法 - Google Patents
ノイズ除去装置およびノイズ除去方法 Download PDFInfo
- Publication number
- JP4596496B2 JP4596496B2 JP32807198A JP32807198A JP4596496B2 JP 4596496 B2 JP4596496 B2 JP 4596496B2 JP 32807198 A JP32807198 A JP 32807198A JP 32807198 A JP32807198 A JP 32807198A JP 4596496 B2 JP4596496 B2 JP 4596496B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- difference value
- noise
- frequency band
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Picture Signal Circuits (AREA)
Description
【発明の属する技術分野】
本発明は、ノイズ除去装置およびノイズ除去方法に関し、特に、画像から、より効果的にノイズを除去することができるようにするノイズ除去装置およびノイズ除去方法に関する。
【0002】
【従来の技術】
画像からノイズを除去する方法としては、例えば、特開昭62−290269号公報に開示されているものなどが、従来より知られている。この方法によれば、入力画像と、既に得られている1フレーム前のノイズ除去結果としての出力画像との差分である画像差分値が演算され、その画像差分値が周波数帯域分割される。そして、その結果得られる画像差分値の各周波数帯域成分が、所定の補正係数にしたがって補正され、補正された画像差分値の各周波数帯域成分を用いて、入力画像からノイズが除去される。
【0003】
即ち、特開昭62−290269号公報に開示されている方法によれば、入力画像をXと、1フレーム前の既にノイズが除去された出力画像と入力画像Xとの差分値(画像差分値)をEと、補正係数をKと、入力画像Xのノイズ除去結果(入力画像Xに対する出力画像)をYと、それぞれ表すと、次式にしたがって、Yが求められる。
【0004】
Y=X+KE
=X+ΣKiEi
・・・(1)
但し、式(1)において、Eiは、画像差分値Eを周波数帯域分割して得られる第i周波数帯域成分を表す。また、Kiは、画像差分値Eの第i周波数帯域成分に対する補正係数を表す。さらに、Σは、全周波数帯域成分についてのサメーション(画像差分値Eが、第1周波数帯域成分乃至第N周波数帯域成分のN個の周波数帯域成分に周波数帯域分割されている場合には、iを1からNに変えてのサメーション)を表す。
【0005】
なお、1フレーム前の既にノイズが除去された出力画像をWと表せば、式(1)は、Y=(1−K)X+KWと変形することができ、この式によれば、上述の手法は、入力画像と、1フレーム前の出力画像との重み付け加算値を、その入力画像に対する出力画像としていることと等価である。即ち、例えば、入力画像として、各フレームにランダムなノイズが重畳された、動きのまったくないものを考えると、そのような入力画像については、各フレームを加算平均することで、ノイズが相殺される。特開昭62−290269号公報に記載の手法は、このような原理を利用したものである。
【0006】
【発明が解決しようとする課題】
ところで、従来においては、入力画像についての画像差分値Eの絶対値和を、その入力画像の動き量として、その動き量を一定の閾値と比較し、画像差分値Eが閾値より大きいときには、入力画像Xの動きがある(大きい)とし、補正係数Kを0とする一方、入力画像の動き量が閾値以下のときは、入力画像Xが静止しており(動きがなく(少なく))、1フレーム前との相関が高いとして、補正係数Kに0以外の値を与えて、式(1)の演算を行うようにしている。
【0007】
しかしながら、入力画像についての画像差分値Eの絶対値和は、入力画像の真の動きが小さくても、入力画像に含まれるノイズが大きいときには大きくなることがある。従って、閾値が一定では、入力画像の真の動きが小さく、1フレーム前との相関が高くても、入力画像についての画像差分値Eの絶対値和が閾値より大きくなることがあり、この場合、補正係数Kは0とされるから、式(1)によるノイズ除去は、実質的に行われないことになる。
【0008】
即ち、極端には、入力画像が、動きのないもので、かつ1フレーム前の出力画像に大きなノイズを重畳したものである場合には、補正係数Kを1として、式(1)によるノイズ除去を行うことにより、1フレーム前の出力画像を、そのまま入力画像に対する出力画像とするのが好ましい。しかしながら、この場合、入力画像についての画像差分値Eの絶対値和が閾値より大きくなり、入力画像に動きがあり、1フレーム前の出力画像との相関が低いと判定されることにより、補正係数Kは0とされ、その結果、入力画像がそのまま、その入力画像に対する出力画像として出力され、ノイズ除去が行われないことになる。
【0009】
また、特開昭62−290269号公報に開示されている方法では、入力画像の動き量が閾値以下のときは、画像差分値Eの大きさに応じて、適切な補正係数Kを決定することとされているが、その具体的手法としては、入力画像の動き量を、複数の補正係数それぞれと対応付けられた複数の閾値と比較し、その比較結果に対応した補正係数を決定するようなもの(但し、特開昭62−290269号公報には、ここまで具体的に開示されていない)が考えられる。
【0010】
この場合、上述したノイズ除去の原理から、大きな閾値には小さな補正係数を対応付け、小さな閾値には大きな補正係数を対応付けておくこととなるが、入力画像の動き量とされる画像差分値Eの絶対値和は、上述したように、入力画像の真の動き量が小さくても大きくなることがあり、従って、画像差分値Eの絶対値和が大きくても、ある程度大きい補正係数Kを用いた方が、また、画像差分値Eの絶対値和が小さくても、ある程度小さい補正係数Kを用いた方が、それぞれ効果的にノイズを除去することができる場合がある。
【0011】
即ち、画像差分値Eの絶対値和と複数の閾値との比較結果だけに基づいて、補正係数Kを決定したのでは、効果的にノイズを除去するのが困難な場合がある。
【0012】
本発明は、このような状況に鑑みてなされたものであり、適切な補正係数を設定することにより、画像の特性によらず、ノイズを効果的に除去することができるようにするものである。
【0013】
【課題を解決するための手段】
本発明のノイズ除去装置は、入力画像と、前記入力画像からノイズを除去した結果として既に得られている出力画像との差分である画像差分値を演算する差分値算出手段と、前記画像差分値を周波数帯域分割し、その各周波数帯域成分を出力する帯域分割手段と、前記画像差分値の低周波数成分に基づいて、前記入力画像の動き量を検出する動き検出手段と、前記画像差分値の高周波数成分に基づいて、前記入力画像のノイズに関するノイズ情報を検出するノイズ情報検出手段と、前記画像差分値の各周波数帯域成分と比較する閾値を、前記動き量、および前記ノイズ情報に基づいて決定する閾値決定手段と、前記画像差分値の各周波数帯域成分と、前記閾値とを比較する比較手段と、前記画像差分値の各周波数帯域成分と、当該画像差分値の各周波数成分を補正するための補正係数との関係を表す特性曲線又は直線を、前記閾値に基づいて決定する特性曲線決定手段と、前記画像差分値の各周波数帯域成分のうち、前記閾値よりも大きいものは前記補正係数を0に設定し、前記閾値以下のものは、前記画像差分値の各周波数帯域成分が当該閾値から0まで連続的に変化する前記特性曲線又は直線に基づいてそれぞれの周波数帯域成分に対して前記補正係数を設定する設定手段と、前記画像差分値の各周波数帯域成分と、前記設定手段により設定されたそれぞれの周波数帯域成分に対応する補正係数とを乗算することにより、各周波数帯域成分を補正する補正手段と、補正された前記画像差分値の各周波数帯域成分を積算することにより、前記入力画像からノイズが除去された前記出力画像を出力する除去手段とを備える。
【0014】
本発明のノイズ除去方法は、入力画像と、前記入力画像からノイズを除去した結果として既に得られている出力画像との差分である画像差分値を演算し、前記画像差分値を周波数帯域分割して、その各周波数帯域成分を出力し、前記画像差分値の低周波数成分に基づいて、前記入力画像の動き量を検出し、前記画像差分値の高周波数成分に基づいて、前記入力画像のノイズに関するノイズ情報を検出し、前記画像差分値の各周波数帯域成分と比較する閾値を、前記動き量、および前記ノイズ情報に基づいて決定し、前記画像差分値の各周波数帯域成分と、前記閾値とを比較し、前記画像差分値の各周波数帯域成分と、当該画像差分値の各周波数成分を補正するための補正係数との関係を表す特性曲線又は直線を、前記閾値に基づいて決定し、前記画像差分値の各周波数帯域成分のうち、前記閾値よりも大きいものは前記補正係数を0に設定し、前記閾値以下のものは、前記画像差分値の各周波数帯域成分が当該閾値から0まで連続的に変化する前記特性曲線又は直線に基づいてそれぞれの周波数帯域成分に対して前記補正係数を設定し、前記画像差分値の各周波数帯域成分と、前記設定手段により設定されたそれぞれの周波数帯域成分に対応する補正係数とを乗算することにより、各周波数帯域成分を補正し、補正された前記画像差分値の各周波数帯域成分を積算することにより、前記入力画像からノイズが除去された前記出力画像を出力する。
【0015】
本発明においては、入力画像と、前記入力画像からノイズを除去した結果として既に得られている出力画像との差分である画像差分値が演算され、前記画像差分値が周波数帯域分割されて、その各周波数帯域成分が出力される。また、前記画像差分値の低周波数成分に基づいて、前記入力画像の動き量が検出され、前記画像差分値の高周波数成分に基づいて、前記入力画像のノイズに関するノイズ情報が検出され、前記画像差分値の各周波数帯域成分と比較する閾値が、前記動き量、および前記ノイズ情報に基づいて決定される。さらに、前記画像差分値の各周波数帯域成分と、前記閾値とが比較され、前記画像差分値の各周波数帯域成分と、当該画像差分値の各周波数成分を補正するための補正係数との関係を表す特性曲線又は直線が、前記閾値に基づいて決定される。前記画像差分値の各周波数帯域成分のうち、前記閾値よりも大きいものは前記補正係数が0に設定され、前記閾値以下のものは、前記画像差分値の各周波数帯域成分が当該閾値から0まで連続的に変化する前記特性曲線又は直線に基づいてそれぞれの周波数帯域成分に対して前記補正係数が設定される。前記画像差分値の各周波数帯域成分と、前記設定手段により設定されたそれぞれの周波数帯域成分に対応する補正係数とを乗算することにより、各周波数帯域成分が補正され、補正された前記画像差分値の各周波数帯域成分を積算することにより、前記入力画像からノイズが除去された前記出力画像が出力される。
【0017】
【発明の実施の形態】
【0024】
図1は、本発明を適用したノイズ除去装置の第1の実施の形態の構成例を示している。
【0025】
ノイズを除去する対象の画像(ディジタル画像データ)Xは、例えば、フレーム単位で、入力部1に入力されるようになされており、入力部1は、そこに入力される画像を、演算器3および22に供給するようになされている。
【0026】
ここで、入力部1に入力される画像(入力画像)Xは、例えば、NTSC方式や、PAL方式、SECAM方式等のコンポジット信号であっても、また、RGB等のコンポーネント信号であってもかまわない。さらに、入力部1に入力される画像は、インターレース走査される画像であっても、また、プログレッシブな画像(ノンインターレース走査される画像)であってもかまわない。但し、ここでは、説明を簡単にするために、プログレッシブな画像が入力されるものとする。
【0027】
出力部2には、演算器22が出力する画像が供給されるようになされており、出力部2は、この演算器22が出力する画像を、ノイズ除去後の画像(出力画像)Yとして出力するようになされている。
【0028】
演算器3は、入力部1から供給される画像Xと、フレームメモリ4に記憶された、既にノイズが除去された1フレーム前の画像Wとの差分値(画像差分値)E(=W−X)を演算し、その差分値(以下、適宜、フレーム間差分値という)Eを、フィルタ5乃至8に供給するようになされている。
【0029】
ここで、入力部1に入力される画像が、NTSC方式などのコンポジット信号である場合には、例えば、クロマインバータ等によって、フレームメモリ4に記憶された1フレーム前の画像の色差信号の位相を180度反転させ、色差信号の位相をあわせた後に、演算器3において、入力部1からの画像と、フレームメモリ4に記憶された画像との差分を演算する必要がある。
【0030】
フレームメモリ4は、演算器22が出力する画像をフレーム単位で記憶し、また、記憶した画像のフレームの次のフレームが、入力部1から演算器3に供給されるタイミングで、その記憶した画像を、演算器3に供給するようになされている。
【0031】
フィルタ5乃至8は、例えば、ディジタルフィルタで、演算器3が出力するフレーム間差分値Eを周波数帯域分割する帯域分割フィルタを構成している。即ち、フィルタ5乃至8は、例えば、図2(A)乃至図2(D)にそれぞれ示すような周波数特性を有しており、フレーム間差分値Eから、その低域成分(低周波数成分)E0、中域のやや低い周波数成分E1、中域のやや高い周波数成分E2、高域成分E3を取り出すようになされている(従って、フィルタ5はローパスフィルタ、フィルタ6および7はバンドバスフィルタ、フィルタ8はハイパスフィルタである)。フィルタ5乃至8の出力E0乃至E3は、補正部11乃至14にそれぞれ供給されるとともに、演算器15乃至18にそれぞれ供給されるようになされている。さらに、フィルタ5の出力E0は、動き検出部9にも、フィルタ8の出力E3は、ノイズ検出部10にも、それぞれ供給されるようになされている。
【0032】
ここで、図2に示したような急峻なカットオフ特性を有するフィルタは、多数のタップを必要とし、製作するのも困難であるから、フィルタ5乃至8としては、そのような急峻なカットオフ特性を有するものではなく、滑らかなカットオフ特性を有するものであってもかまわない。但し、フィルタ5乃至8の周波数特性は、それらの出力E0乃至E3を加算した場合に、元のフレーム間差分値Eが得られるようなものとなっているのが望ましい。
【0033】
なお、図1の実施の形態では、フレーム間差分値eを、4つの周波数帯域に分割することとしているが、幾つの周波数帯域に分割するかは特に限定されるものではない。但し、分割数が多いほど、より効果的にノイズを除去することができる。
【0034】
また、本実施の形態では、フィルタ5乃至8は、例えば、7タップで構成され、その7タップに対応する、水平方向に並ぶ7画素のフレーム間差分値を用いた積和演算を行うことにより、その中央に位置する画素(注目画素)のフレーム間差分値の各周波数帯域成分を出力するようになされている。
【0035】
動き検出部9は、フィルタ5の出力E0、即ち、フレーム間差分値の低域成分E0に基づいて、入力部1に入力された画像の動き量を検出し、補正部11乃至14に供給するようになされている。即ち、動き検出部9は、入力部1に入力された画像の画素についてのフレーム間差分値の低域成分E0の、例えば、絶対値和を、入力部1に入力された画像の動き量として求め、補正部11乃至14に供給するようになされている。
【0036】
ノイズ検出部10は、フィルタ8の出力E3、即ち、フレーム間差分値の高域成分E3に基づいて、入力部1に入力された画像のノイズに関するノイズ情報を検出し、補正部11乃至14に供給するようになされている。即ち、ノイズ検出部10は、入力部1に入力された画素についてのフレーム間差分値の高域成分E3の、例えば、絶対値和を、入力部1に入力された画像のノイズとして求め、さらに、最初に入力部1に入力された画像のノイズとの差分を演算する。そして、ノイズ検出部10は、そのノイズの差分(以下、適宜、ノイズ変動量という)を、補正部11乃至14に供給する。
【0037】
補正部11乃至14は、動き検出部9からの動き量、およびノイズ検出部10からのノイズ変動量に基づいて、フィルタ5乃至8の出力E0乃至E3を補正する補正係数K0乃至K3を設定し、演算器15乃至18にそれぞれ供給するようになされている。
【0038】
即ち、補正部11は、フィルタ5が出力するフレーム間差分値の周波数成分E0と比較する閾値thを、動き検出部9からの動き量、およびノイズ検出部10からのノイズ変動量に基づいて決定する。ここで、閾値thの決定方法については、後述する。
【0039】
さらに、補正部11は、決定した閾値thと、フレーム間差分値の周波数成分E0とを比較する。そして、補正部11は、フレーム間差分値の周波数成分E0が閾値thより大きい場合(以上の場合)、フレーム間差分値の周波数成分E0を補正する補正係数K0を0に設定して演算器15に出力する。ここで、演算器15では、後述するように、フィルタ5の出力E0が、それに、補正部11からの補正係数K0が乗算されることにより補正される。従って、補正係数K0が0とされる場合には、演算器15の出力は0となるから、結果として、フィルタ5の出力、即ち、フレーム間差分値の低域成分E0は、入力部1に入力された画像Xのノイズ除去には用いられないことになる。
【0040】
一方、補正部11は、フレーム間差分値の周波数成分E0が閾値th以下の場合(より小さい場合)、フレーム間差分値の周波数成分E0を補正する補正係数K0の特性を決定する。
【0041】
具体的には、補正部11は、例えば、図3(A)に示すように、横軸にフレーム間差分値の周波数成分E0をとり、縦軸に補正係数K0をとった場合に、横軸上の閾値thに対応する点と、縦軸上の1.0に対応する点とを結ぶ直線を、補正係数K0の特性曲線として決定する。ここで、閾値thは、上述したように、動き量、およびノイズ変動量に基づいて決定されるから、その値は動き量やノイズ変動量によって変化し、また、閾値thが変化すれば、図3(A)に点線で示すように、補正係数K0の特性を表す直線(特性曲線)も変化する。このようにして、本実施の形態では、入力部1に入力された画像Xからノイズを除去するのに適切な補正係数K0の特性が求められる。
【0042】
ここで、本実施の形態では、補正係数の特性曲線を、直線で表すようにしたが、補正係数は、2次以上の曲線(非線形な関数によって表されるもの)で表すようにすることも可能である。また、閾値thとの関係で、入力部1に入力された画像Xからノイズを除去するのに最適な補正係数K0の特性曲線をあらかじめ実験等により求めておき、閾値thの決定後に、求めておいた特性曲線の中から、決定された閾値thに対応するものを選択するようにすることも可能である。
【0043】
なお、ここでは、補正係数の最大値を1としてあり、このため、図3(A)においては、縦軸上に、その最大値1.0に対応する点をとっている。但し、補正係数は、1より大きな値を取りうるようにすることも可能である。
【0044】
補正部11は、補正係数K0の特性曲線を求めた後、その特性曲線に基づいて、補正係数K0を設定する。即ち、補正部11は、補正係数K0の特性曲線を求めた後、その特性曲線にしたがい、フィルタ5からのフレーム間差分値の周波数成分E0に対応する値を、その周波数成分E0の補正に用いる補正係数K0として設定する。具体的には、図3(B)に示すような補正係数K0の特性曲線が求められている場合において、フィルタ5からのフレーム間差分値の周波数成分(の、例えば絶対値和)E0が、点Aや点Bで表されるときには、その点Aや点Bに対応する特性曲線上の点である0.7や0.3が、補正係数K0として設定される。
【0045】
図1に戻り、他の補正部12乃至14においても同様にして、フィルタ6乃至8の出力E1乃至E3を補正する補正係数K1乃至K3がそれぞれ設定される。
【0046】
演算器15乃至18は、フィルタ5乃至8の出力E0乃至E3を、補正部11乃至14からの補正係数K0乃至K3によってそれぞれ補正するようになされている。即ち、演算器15乃至18は、フィルタ5乃至8の出力E0乃至E3を、それぞれに対して、補正部11乃至14からの補正係数K0乃至K3を乗算することによって補正するようになされている。フィルタ5の出力E0の補正結果K0E0は、演算器19に、フィルタ6の出力E1の補正結果K1E1は、演算器20に、フィルタ7の出力E2およびフィルタ8の出力E3の補正結果K2E2およびK3E3は、演算器21に、それぞれ出力されるようになされている。
【0047】
演算器19は、フィルタ5の出力の補正結果K0E0と、演算器20の出力とを加算し、演算器22に出力するようになされている。演算器20は、フィルタ6の出力の補正結果K1E1と、演算器21の出力とを加算し、演算器19に出力するようになされている。演算器21は、フィルタ7の出力の補正結果K2E2と、フィルタ8の出力の補正結果K3E3とを加算し、演算器20に出力するようになされている。従って、演算器19から22に対しては、フィルタ5乃至8の出力の補正結果K0E0乃至K3E3の加算値(=K0E0+K1E1+K2E2+K3E3)が供給されるようになされている。
【0048】
演算器22は、入力部1からの画像Xと、演算器19からのフィルタ5乃至8の出力の補正結果K0E0乃至K3E3の加算値とを加算することにより、画像Xからノイズを効果的に除去し、そのノイズの除去された画像Yを出力するようになされている。従って、入力部1に入力された画像Xからノイズの除去された画像Yは、式Y=X+K0E0+K1E1+K2E2+K3E3で表される。この画像Xに対する画像Yは、出力部2およびフレームメモリ4に供給されるようになされている。
【0049】
次に、図4のフローチャートを参照して、図1のノイズ除去装置の動作について説明する。
【0050】
まず最初に、ステップS1では、入力部1に対して、いま処理すべきフレームの画像データXが入力され、入力部1は、その画像データXを、演算器3および22に出力する。演算器3に、画像データXが供給されるタイミングで、フレームメモリ4からは、そこに記憶された1フレーム前のノイズが除去された画像データWが読み出され、演算器3に供給される。演算器3では、ステップS2において、フレームメモリ4からの画像データWと、入力部1からの画像データXとのフレーム間差分値(対応する画素どうしの差分値)E(=W−X)が演算され、フィルタ5乃至8に供給される。
【0051】
フィルタ5乃至8では、ステップS3において、演算器3からのフレーム間差分値Eがフィルタリングされることにより帯域分割され、これにより、フィルタ5乃至8からは、フレーム間差分値Eの低域成分E0、中域のやや低い周波数成分E1、中域のやや高い周波数成分E2、高域成分E3がそれぞれ出力される。フィルタ5乃至8の出力E0乃至E3は、補正部11乃至14にそれぞれ供給されるとともに、演算器15乃至18にそれぞれ供給される。さらに、フィルタ5の出力E0は、動き検出部9にも供給され、フィルタ8の出力E3は、ノイズ検出部10にも供給される。
【0052】
動き検出部9は、フィルタ5の出力E0を受信すると、ステップS4において、その出力E0に基づいて、入力部1に入力された画像Xの動き量を検出し、補正部11乃至14に供給する。また、ノイズ検出部10は、フィルタ8の出力E3を受信すると、ステップS5において、その出力E3に基づいて、入力部1に入力された画像Xのノイズ変動量を検出し、やはり、補正部11乃至14に供給する。
【0053】
補正部11乃至14では、ステップS6において、動き検出部9からの画像Xの動き量と、ノイズ検出部10からの画像Xのノイズ変動量とから、閾値thが決定され、ステップS7に進む。ここで、補正部11乃至14それぞれでは、動き量とノイズ変動量とから、後述する同一の式にしたがって、同一の閾値thが決定される。但し、補正部11乃至14それぞれにおいて、異なる式にしたがって閾値thを決定させるようにすることも可能である(この場合、補正部11乃至14それぞれにおいて決定される閾値が異なる値となることがある)。
【0054】
ステップS7では、補正部11において、フィルタ5の出力E0が、閾値th以上であるかどうか(より大きいかどうか)が判定される。ステップS7において、フィルタ5の出力E0が、閾値th以上であると判定された場合、即ち、フレーム間差分値の低域成分E0が、画像の動きの影響により生じているものであると考えられる場合、ステップS8に進み、補正部11は、補正係数K0を0に設定し、演算器15に供給して、ステップS11に進む。
【0055】
また、ステップS7において、フィルタ5の出力E0が、閾値th以上でないと判定された場合、即ち、フレーム間差分値の低域成分E0が、画像の動きの影響よりも、ノイズの影響により生じているものであると考えられる場合、ステップS9に進み、補正部11は、閾値thに基づいて、補正係数K0の特性を表す特性曲線(図3(A))を決定し、ステップS10に進む。ステップS10では、補正部11において、ステップS9で決定された特性曲線にしたがい、フィルタ5の出力E0に対応する点の値(但し、0より大きく、かつ1以下の範囲の値)が、補正係数K0として設定され(図3(B))、演算器15に供給されて、ステップS11に進む。
【0056】
ここで、ステップS7乃至S10の処理は、他の補正部12乃至14においても並列して行われ、これにより、補正係数K1乃至K3が設定され、演算器16乃至18にそれぞれ供給される。
【0057】
ステップS11では、演算器15乃至18において、フィルタ5乃至8の出力E0乃至E3が、それぞれに対して補正部11乃至14からの補正係数K0乃至K3が乗算されることによって補正される。そして、フィルタ5の出力E0の補正結果K0E0は、演算器19に、フィルタ6の出力E1の補正結果K1E1は、演算器20に、フィルタ7の出力E2およびフィルタ8の出力E3の補正結果K2E2およびK3E3は、演算器21に、それぞれ出力される。
【0058】
さらに、ステップS11では、演算器21において、フィルタ7の出力の補正結果K2E2と、フィルタ8の出力の補正結果K3E3とが加算され、演算器20に出力される。演算器20では、フィルタ6の出力の補正結果K1E1と、演算器21の出力とが加算され、演算器19に出力される。演算器19では、フィルタ5の出力の補正結果K0E0と、演算器20の出力とが加算され、演算器22に出力される。その結果、演算器22には、フィルタ5乃至8の出力の補正結果K0E0乃至K3E3の加算値が供給される。
【0059】
また、ステップS11では、演算器22において、入力部1からの画像Xと、演算器19からのフィルタ5乃至8の出力の補正結果K0E0乃至K3E3の加算値とが加算されることにより、画像Xからノイズが効果的に除去される。そして、ステップS12において、演算器22は、そのノイズが除去された画像Y(=X+K0E0+K1E1+K2E2+K3E3)を、出力部2およびフレームメモリ4に出力する。フレームメモリ4では、演算器22からの画像Yが記憶され、その次のフレームの画像が、入力部1から演算器3に供給されるのを待って読み出されて、演算器3に供給される。
【0060】
その後、ステップS13に進み、次に処理すべき画像(次のフレームの画像)があるかどうかが判定され、あると判定された場合、その次に処理すべき画像が、入力部1に供給されるのを待って、ステップS1に戻る。また、ステップS13において、次に処理すべき画像がないと判定された場合、処理を終了する。
【0061】
次に、図1の補正部11乃至14における閾値thの決定方法について説明する。
【0062】
図5は、補正部11乃至図14において用いられる閾値thを、1,2,・・・,10にそれぞれ固定してシミュレーションを行った場合の出力画像のSNR(Signal to Noise Ratio)を示している。但し、入力画像は、60フレームから構成され、そのSNRが20フレーム単位で変化するものを用いている。即ち、入力画像としては、ガウシアンRFノイズにより33dB,40dB,33dBにSNRが、20フレーム単位で切り替わる画像を用いている。
【0063】
図5においては、SNRが低い入力画像(図5では、SNRが33dBの画像)、即ち、ノイズの多い入力画像については、閾値thが、例えば10などの比較的大きい方(画像の動きがない(少ない)と判定されやすい方)が、効果的にノイズが除去されている。また、SNRが高い入力画像(図5では、SNRが40dBの画像)、即ち、ノイズの少ない画像については、閾値thが、例えば3などの比較的小さい方(画像の動きがある(大きい)と判定されやすい方)が、効果的にノイズが除去されている。従って、入力画像に含まれるノイズに注目した場合には、ノイズが多い入力画像については、閾値thを大きくし、ノイズが少ない入力画像については、閾値thを小さくした方が、ノイズを効果的に除去することができる傾向がある。
【0064】
一方、入力画像の動きに注目すると、図1のノイズ除去装置では、画像の相関を利用し、入力画像と、その1フレーム前の出力画像とのフレーム間差分値を、入力画像に足し込むことで、入力画像からノイズを除去するようになされていることから、入力画像の動きがない(少ない)ときには、補正係数Kを0とせずに、入力画像に、フレーム間差分値を足し込み、入力画像の動きがある(大きい)ときには、補正係数Kを0として、入力画像に、フレーム間差分値を実質的に足し込まないようにするのが望ましい。従って、入力画像の動きに注目した場合には、入力画像の動きがないときには、閾値thを大きくすることにより、画像の動きがなく、1フレーム前の出力画像との相関が高いと判定されやすい方が、また、入力画像の動きがあるときには、閾値thを小さくすることにより、画像の動きがあり、1フレーム前の出力画像との相関が低いと判定されやすい方が、ノイズを効果的に除去することができる傾向がある。
【0065】
以上から、画像のノイズを効果的に除去するための、画像のノイズまたは動き量それぞれと、閾値thとの関係は、図6に示すようになる。
【0066】
即ち、閾値thは、ノイズが大きい場合には大きくし、ノイズが小さい場合には小さくするのが望ましい。また、閾値thは、動きが大きい場合には小さくし、動きが小さい場合には大きくするのが望ましい。
【0067】
一方、フレーム間差分値は、画像のノイズが大きい場合には大きくなり、ノイズが小さい場合には小さくなる。さらに、フレーム間差分値は、画像の動きが大きい場合には大きくなり、動きが小さい場合には小さくなる。即ち、フレーム間差分値は、画像のノイズおよび動き量に比例(線形という意味ではなく、一方が増加すれば他方も増加し、減少すれば減少するといった意味)して増減する。
【0068】
従って、フレーム間差分値が大きい場合には、画像のノイズおよび動き量が両方とも大きいことがあるが、この場合、ノイズに注目すれば、閾値thは大きくする必要があり、動き量に注目すれば、閾値thは小さくする必要がある。また、フレーム間差分値が小さい場合には、画像のノイズおよび動き量が両方とも小さいから、この場合、ノイズに注目すれば、閾値thは小さくする必要があり、動き量に注目すれば、閾値thは大きくする必要がある。
【0069】
以上から、閾値thをどのような値にするかは、ノイズに注目した場合と、動き量に注目した場合とで、相反する関係になっており、閾値thは、例えば、ノイズに比例し、かつ動き量に反比例するように決定する必要がある。
【0070】
そこで、本実施の形態では、例えば、次式にしたがって、閾値thが決定されるようになされている。
【0071】
th=A/|E0|+B×(E3−E3’)
・・・(2)
但し、式(2)において、A,Bは所定の定数である。また、|E0|は、フィルタ5の出力E0の大きさを、E3は、フィルタ8の出力を、それぞれ表す。さらに、E3’は、フィルタ8の最初の入力画像のフレームについての出力を表す。
【0072】
なお、フィルタ5の出力E0の大きさ|E0|は、動き検出部9において、フィルタ5の出力E0から、入力画像の動き量として検出されるものであり、また、E3−E3’は、ノイズ検出部10においてフィルタ8の出力E3から、入力画像のノイズ変動量として検出されるものである。
【0073】
ここで、図7は、図5における入力画像についてのフィルタ5乃至8それぞれの出力E0乃至E3を示している。
【0074】
例えば、自然画においては、画像の動きは、ノイズが現れる周波数より低域側の成分として現れる傾向があり、図7において、フィルタ5の出力E0の微小な変動は、画像の動きに起因している。また、図7では、入力画像の20乃至39フレームの20フレームにおいて、フィルタ5の出力E0が低下しているが、これは、入力画像のノイズに起因している(上述したように、入力画像のSNRは、最初と最後の20フレームにおいて33dBになっており、中間の20フレームにおいて40dBになっている)。式(2)における左辺の第1項A/|E0|は、閾値thに動き量を反映させるためのものであり、従って、第1項A/|E0|に対する入力画像のノイズの影響は極力小さくする必要がある。一方、入力画像のSNRが33dBから40dBに変化した場合のフィルタ5の出力E0は、図7に示すように、約3から2に、1程度変化するだけであり、さらに、第1項は、定数Aを、フィルタ5の出力E0の大きさ|E0|で除算している。従って、第1項A/|E0|に対する入力画像のノイズの影響は小さい。
【0075】
また、上述したように、フィルタ5の出力E0が、画像の動きだけでなく、ノイズの影響を受けるのと同様に、フィルタ8の出力E3も、画像のノイズの他、動きの影響を受けることから、フィルタ8の出力E3から、画像のノイズだけを推定することは困難である。一方、図7では、例えば、フィルタ5の出力E0と、フィルタ8の出力E3とを比較して分かるように、フレーム間差分値の高域成分であるフィルタ8の出力E3は、その低域成分であるフィルタ5の出力E0よりも、画像の動きから受ける影響が少ない(フィルタ8の出力E3は、フィルタ5の出力E0に比較して、微小な変動が少ない)。そこで、ノイズ検出部10において、フィルタ8の出力E3と、その最初の出力(最初の入力画像のフレームについての出力)E3’との差分E3−E3’を、ノイズ変動量として求めるようにし、これを、閾値thの決定に用いている。
【0076】
なお、本件発明者が行った、図1に示した構成のノイズ除去装置によるシミュレーションによれば、式(2)における定数AまたはBを、それぞれ30または20程度とした場合に、ノイズをより効果的に除去することができた。そのシミュレーション結果を、図8に示す。図8から、SNRが、33dBおよび40dBのいずれの画像についても、ノイズが効果的に除去され、適応的なノイズ除去が実現されていることが分かる。
【0077】
ここで、式(2)における定数AまたはBを、それぞれ30または20とした場合、閾値thは、画像の動きよりも、ノイズの影響を強く受けることになる。
即ち、画像の動き量としてのフィルタ5の出力E0が、例えば、3から2に変化しても、式(2)における左辺の第1項A/|E0|は、10から15に変化するだけであるが、画像のノイズ変動量としてのフィルタ8の出力の差分値E3−E3’が、例えば、0から0.5に変化すると、式(2)における左辺の第2項B×(E3−E3’)は、0から10に変化する。従って、画像の動きとノイズとから閾値thを設定して、効果的なノイズ除去を行うには、閾値thは、画像の動きよりも、ノイズの影響を強く受けるように設定した方が良い傾向があることが分かる。
【0078】
次に、図9は、本発明を適用したノイズ除去装置の第2の実施の形態の構成例を示している。なお、図中、図1における場合と対応する部分については、同一の符号を付してある。即ち、図9のノイズ除去装置は、ノイズ検出部10が設けられていない他は、図1における場合と同様に構成されている。
【0079】
従って、図9の実施の形態では、画像の動き量にのみ基づいて、閾値thが決定されることを除けば、図1における場合と同様の処理が行われる。
【0080】
また、図10は、本発明を適用したノイズ除去装置の第3の実施の形態の構成例を示している。なお、図中、図1における場合と対応する部分については、同一の符号を付してある。即ち、図10のノイズ除去装置は、動き検出部9が設けられていない他は、図1における場合と同様に構成されている。
【0081】
従って、図10の実施の形態では、画像のノイズ変動量にのみ基づいて、閾値thが決定されることを除けば、図1における場合と同様の処理が行われる。
【0082】
以上のように、閾値thを、入力画像の動き量やノイズに基づいて決定し、その閾値thに基づいて、補正係数の特性を決定し、その補正係数の特性にしたがって、フレーム間差分値の各周波数帯域成分(フィルタ5乃至8の出力)E0乃至E3を補正する補正係数K0乃至K3を設定するようにしたので、入力画像の特性に応じて、フレーム間差分値の各周波数帯域成分E0乃至E3を適応的に補正し、これを用いて、入力画像のノイズを効果的に除去することが可能となる。
【0083】
なお、本実施の形態では、画像の動き量やノイズ変動量に基づいて、閾値thを決定し、その閾値thに基づいて、補正係数の特性を表す特性曲線を決定するようにしたが、閾値thは、フレーム間差分値の各周波数帯域成分E0乃至E3がその値を超えている場合(以上の場合)に、対応する補正係数K0乃至K3を0とするためのものであるから、補正係数の特性を表す特性曲線に含めて考えることができる(閾値thを越えるフィルタ5乃至8の出力に対する値が0となる特性曲線を考えれば良い)。従って、画像の動き量やノイズ変動量に基づいて、直接、補正係数の特性を表す特性曲線を決定するようにすることも可能である。
【0084】
また、本実施の形態では、動き量を、フィルタ5の出力E0から求めるようにしたが、動き量は、その他、例えば、演算器3が出力するフレーム間差分値や、フィルタ5乃至8のうちのフィルタ5以外の出力を用いて求めるようにすることも可能である。同様に、ノイズ変動量も、フィルタ8の出力E3からではなく、演算器3の出力や、他のフィルタの出力を用いて求めるようにすることが可能である。
【0085】
さらに、本実施の形態では、閾値thの決定に、ノイズ変動量を用いるようにしたが、フィルタの最適設計等によって、画像からノイズそのものを精度良く検出することができる場合には、そのようにして検出されるノイズを用いて、閾値thを決定するようにすることが可能である。
【0086】
また、本実施の形態では、動き量を、動き検出部9において検出するとともに、ノイズ変動量を、ノイズ検出部10において検出するようにしたが、動き量やノイズ変動量は、補正部11乃至14それぞれにおいて求めるようにすることも可能である。
【0087】
さらに、図1や、図9、図10に示したノイズ除去装置は、コンピュータにコンピュータプログラムを実行させることによっても、また、それ専用のハードウェアによっても実現可能である。
【0088】
また、本実施の形態では、プログレッシブな画像を入力画像として、演算器3において、そのフレーム間差分を計算するようにしたが、インターレース走査される画像を入力画像として、演算器3において、そのフィールド間差分(入力画像としてのフィールドと、その2フィールド前の出力画像のフィールドとの差分)を計算するようにすることも可能である。
【0089】
【発明の効果】
以上の如く、本発明のノイズ除去装置およびノイズ除去方法によれば、適切な補正係数が設定され、その結果、画像の特性によらず、ノイズを効果的に除去することが可能となる。
【図面の簡単な説明】
【図1】本発明を適用したノイズ除去装置の第1実施の形態の構成例を示すブロック図である。
【図2】図1のフィルタ5乃至8の特性を示す図である。
【図3】補正係数の特性曲線の決定方法と、補正係数の設定方法を説明するための図である。
【図4】図1のノイズ除去装置の動作を説明するためのフローチャートである。
【図5】閾値thを所定の各値に設定して行ったノイズ除去の結果を示す図である。
【図6】ノイズまたは動き量それぞれと、閾値thとの関係を示す図である。
【図7】図1のフィルタ5乃至8の出力を示す図である。
【図8】図1のノイズ除去装置によるシミュレーション結果を示す図である。
【図9】本発明を適用したノイズ除去装置の第2実施の形態の構成例を示すブロック図である。
【図10】本発明を適用したノイズ除去装置の第3実施の形態の構成例を示すブロック図である。
【符号の説明】
1 入力部, 2 出力部, 3 演算器, 4 フレームメモリ, 5乃至8 フィルタ, 9 動き検出部, 10 ノイズ検出部, 11乃至14 補正部, 15乃至22 演算器
Claims (2)
- 入力画像と、前記入力画像からノイズを除去した結果として既に得られている出力画像との差分である画像差分値を演算する差分値算出手段と、
前記画像差分値を周波数帯域分割し、その各周波数帯域成分を出力する帯域分割手段と、
前記画像差分値の低周波数成分に基づいて、前記入力画像の動き量を検出する動き検出手段と、
前記画像差分値の高周波数成分に基づいて、前記入力画像のノイズに関するノイズ情報を検出するノイズ情報検出手段と、
前記画像差分値の各周波数帯域成分と比較する閾値を、前記動き量、および前記ノイズ情報に基づいて決定する閾値決定手段と、
前記画像差分値の各周波数帯域成分と、前記閾値とを比較する比較手段と、
前記画像差分値の各周波数帯域成分と、当該画像差分値の各周波数成分を補正するための補正係数との関係を表す特性曲線又は直線を、前記閾値に基づいて決定する特性曲線決定手段と、
前記画像差分値の各周波数帯域成分のうち、前記閾値よりも大きいものは前記補正係数を0に設定し、前記閾値以下のものは、前記画像差分値の各周波数帯域成分が当該閾値から0まで連続的に変化する前記特性曲線又は直線に基づいてそれぞれの周波数帯域成分に対して前記補正係数を設定する設定手段と、
前記画像差分値の各周波数帯域成分と、前記設定手段により設定されたそれぞれの周波数帯域成分に対応する補正係数とを乗算することにより、各周波数帯域成分を補正する補正手段と、
補正された前記画像差分値の各周波数帯域成分を積算することにより、前記入力画像からノイズが除去された前記出力画像を出力する除去手段と
を備えるノイズ除去装置。 - 入力画像と、前記入力画像からノイズを除去した結果として既に得られている出力画像との差分である画像差分値を演算し、
前記画像差分値を周波数帯域分割して、その各周波数帯域成分を出力し、
前記画像差分値の低周波数成分に基づいて、前記入力画像の動き量を検出し、
前記画像差分値の高周波数成分に基づいて、前記入力画像のノイズに関するノイズ情報を検出し、
前記画像差分値の各周波数帯域成分と比較する閾値を、前記動き量、および前記ノイズ情報に基づいて決定し、
前記画像差分値の各周波数帯域成分と、前記閾値とを比較し、
前記画像差分値の各周波数帯域成分と、当該画像差分値の各周波数成分を補正するための補正係数との関係を表す特性曲線又は直線を、前記閾値に基づいて決定し、
前記画像差分値の各周波数帯域成分のうち、前記閾値よりも大きいものは前記補正係数を0に設定し、前記閾値以下のものは、前記画像差分値の各周波数帯域成分が当該閾値から0まで連続的に変化する前記特性曲線又は直線に基づいてそれぞれの周波数帯域成分に対して前記補正係数を設定し、
前記画像差分値の各周波数帯域成分と、前記設定手段により設定されたそれぞれの周波数帯域成分に対応する補正係数とを乗算することにより、各周波数帯域成分を補正し、
補正された前記画像差分値の各周波数帯域成分を積算することにより、前記入力画像からノイズが除去された前記出力画像を出力する
ノイズ除去方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP32807198A JP4596496B2 (ja) | 1998-11-18 | 1998-11-18 | ノイズ除去装置およびノイズ除去方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP32807198A JP4596496B2 (ja) | 1998-11-18 | 1998-11-18 | ノイズ除去装置およびノイズ除去方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2000152036A JP2000152036A (ja) | 2000-05-30 |
JP4596496B2 true JP4596496B2 (ja) | 2010-12-08 |
Family
ID=18206197
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP32807198A Expired - Fee Related JP4596496B2 (ja) | 1998-11-18 | 1998-11-18 | ノイズ除去装置およびノイズ除去方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4596496B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4677753B2 (ja) | 2004-10-01 | 2011-04-27 | 株式会社ニコン | 動画像処理装置及び方法 |
JP4842316B2 (ja) | 2006-04-07 | 2011-12-21 | 三菱電機株式会社 | ノイズ除去装置及びノイズ除去方法 |
US8711249B2 (en) * | 2007-03-29 | 2014-04-29 | Sony Corporation | Method of and apparatus for image denoising |
JP2009094784A (ja) * | 2007-10-09 | 2009-04-30 | Sanyo Electric Co Ltd | ノイズ低減処理装置、ノイズ低減処理方法、及び電子機器 |
JP5084804B2 (ja) * | 2009-10-01 | 2012-11-28 | 三菱電機株式会社 | ノイズ除去装置、ノイズ除去方法、および映像信号表示装置 |
-
1998
- 1998-11-18 JP JP32807198A patent/JP4596496B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2000152036A (ja) | 2000-05-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4127638B2 (ja) | イメージセンサ出力データ処理装置及び処理方法 | |
US5111511A (en) | Image motion vector detecting apparatus | |
US20080199101A1 (en) | Image Processing Apparatus and Image Processing Program | |
US7702173B2 (en) | Image processing method, image processing apparatus and image processing program | |
EP1847957A2 (en) | Noise reduction apparatus of frame recursive type | |
WO2005111933A1 (ja) | 画像処理装置、画像処理方法、画像処理方法のプログラム及び画像処理方法のプログラムを記録した記録媒体 | |
WO2005117455A1 (ja) | Rawデ-タから倍率色収差を検出する画像処理装置、画像処理プログラム、および電子カメラ | |
JP3309941B2 (ja) | ノイズ検出回路、ノイズ除去回路及び輪郭強調回路 | |
WO2006041152A1 (ja) | ブロックノイズ低減装置および画像表示装置 | |
US7649557B2 (en) | Apparatus for processing a digital image signal and methods for processing a digital image signal | |
US6999130B2 (en) | Luminance signal/chrominance signal separation device, and luminance signal/chrominance signal separation method | |
JP4596496B2 (ja) | ノイズ除去装置およびノイズ除去方法 | |
US8345163B2 (en) | Image processing device and method and image display device | |
US7573530B2 (en) | Method and system for video noise reduction based on moving content detection | |
JPS6149581A (ja) | ビデオ信号処理装置 | |
JP2009194721A (ja) | 画像信号処理装置、画像信号処理方法、及び撮像装置 | |
JPH07118813B2 (ja) | カラー映像信号エンコード方法 | |
US7457475B2 (en) | Edge detecting apparatus, noise eliminating apparatus, edge detecting method, and noise eliminating method and program | |
US7671925B2 (en) | Circuits, methods, and computer program products for reducing cross-color artifacts in video data | |
JP2507154B2 (ja) | フィルタ装置 | |
US8346021B2 (en) | Content adaptive scaler based on a farrow structure | |
JPH0562876B2 (ja) | ||
JP3379472B2 (ja) | 適応型yc分離のための動き検出回路及びその動き検出方法 | |
JP3429615B2 (ja) | 画像信号のノイズ低減回路 | |
JP3168660B2 (ja) | 走査変換方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050805 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080131 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080204 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080402 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20080424 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080619 |
|
A911 | Transfer of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20080709 |
|
A912 | Removal of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20080808 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20100917 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131001 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |