JP5097140B2 - 領域判別装置、ノイズ低減装置及びノイズ低減プログラム - Google Patents
領域判別装置、ノイズ低減装置及びノイズ低減プログラム Download PDFInfo
- Publication number
- JP5097140B2 JP5097140B2 JP2009011090A JP2009011090A JP5097140B2 JP 5097140 B2 JP5097140 B2 JP 5097140B2 JP 2009011090 A JP2009011090 A JP 2009011090A JP 2009011090 A JP2009011090 A JP 2009011090A JP 5097140 B2 JP5097140 B2 JP 5097140B2
- Authority
- JP
- Japan
- Prior art keywords
- block
- noise level
- noise
- area
- region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Picture Signal Circuits (AREA)
Description
このような領域判別処理として、主としてテレビ電話やテレビ会議システムなどの空間解像度や時間解像度の比較的低い動画像を対象として、動画像であるデジタル映像信号をブロックに分割し、ブロックごとに前フレームに対する動き補償予測によって動きベクトルを検出して、動きベクトルの大きいブロックを動領域と判別する方法がある(例えば、特許文献1(図1、段落0012〜段落0014)参照)。
このため、従来の領域判別処理の手法では、高解像度の動画像に対しては、十分な精度で領域を判別することができなかった。
また、本発明の他の目的は、当該領域判別装置及び領域判別プログラムを用いて動画像に重畳されたノイズを、画像の劣化を抑制しつつ低減するノイズ低減装置及びノイズ低減プログラムを提供することである。
これによって、領域判別装置は、領域判別ブロックを複数通りに分割したサブブロックごとに算出したフレーム間の差分平均を、処理対象となる動画像の画像平面内におけるノイズレベルで正規化して、正規化した差分値の最大値と予め定めた判別閾値とを比較して、領域判別ブロックごとに静領域か動領域かを判別する。
これによって、領域判別装置は、注目画素を含む領域判別ブロックを複数通りに分割したサブブロックごとに算出したフレーム間の差分平均を、処理対象となる動画像の画像平面内におけるノイズレベルで正規化して、正規化した差分値の最大値と予め定めた判別閾値とを比較して、注目画素ごとに静領域か動領域かを判別する。
これによって、領域判別装置は、輝度レベルに応じたノイズレベルで正規化した差分平均と判別閾値とを比較して領域判別する。
これによって、領域判別装置は、フレーム画像の複数の箇所から検出したノイズレベル候補である画素平均の中の最小値を画像平面内におけるノイズレベルとして抽出し、差分平均の正規化のために用いる。
これによって、領域判別装置は、フレーム画像の複数の箇所から検出した輝度別に分類されたノイズレベル候補である画素平均の中の最小値を、それぞれの輝度レベルの画像平面内におけるノイズレベルとして抽出し、差分平均の正規化のために用いる。
これによって、領域判別装置は、フレーム画像から一旦検出した輝度別ノイズレベルから有効でないデータを排除し、有効なデータから輝度別ノイズレベルを再構成する。そして、領域判別装置は、有効な輝度別のノイズレベルに基づいて設定した輝度別ノイズレベルを用いて差分平均の正規化のために用いる。
これによって、ノイズ低減装置は、フレーム画像中の各領域が動領域か静領域かに応じて、それぞれの種別の領域に適したノイズ低減処理を施したフレーム画像を出力する。
これによって、ノイズ低減プログラムは、フレーム画像中の各領域が動領域か静領域かに応じて、それぞれの種別の領域に適したノイズ低減処理を施したフレーム画像を出力する。
[第1実施形態の領域判別装置の構成]
まず、図1を参照して、本発明の第1実施形態における領域判別装置の構成について説明する。
なお、F(tn)及びR(tn―1)は、それぞれ時間tn及び時間tn―1おけるフレーム画像及び領域判別マップを示し、後記するように、フレーム画像F(tn)の入力に対する領域判別マップR(tn)は、1フレーム周期遅れて出力される。
また、ブロック分割手段10は、図3に示したように、時間軸方向に連続する各フレーム画像F(tn−1)、F(tn)、F(tn+1)を順次にブロック分割する際に、それぞれ画像面内の同じ位置に対応するブロックBn−1、Bn、Bn+1が分割されるようにする。
なお、ブロックBの形状は、5×5、4×4、7×7、8×8のように正方形に限定されず、例えば、8×4のように横方向(水平方向)と縦方向(垂直方向)とでサイズを異なるようにしてもよい。
なお、ブロックB1は、時間軸方向に連続する3つのフレームの内の、時間軸上で前のフレーム(前フレーム)におけるブロックを示し、ブロックB2は、時間軸上で中央のフレーム(処理対象となる注目フレーム)におけるブロックを示し、ブロックB3は、時間軸上で後のフレーム(後フレーム)におけるブロックを示すものとする。
また、後フレーム画素記憶手段111は、1フレームの処理が終了すると、不図示のフレーム同期信号に同期して、記憶している画素データを注目フレーム画素記憶手段112に出力する。そして、ブロック分割手段10から入力される次のフレーム画像、すなわち時間tn+1におけるフレーム画像F(tn+1)のブロックBn+1の画素データを、次の後フレームのブロックB3の画素データとして記憶する。
D2(i,j) = B2(i,j) − B3(i,j) …式(1−2)
D3(i,j) = B1(i,j) − B3(i,j) …式(1−3)
例えば、“0”又は“1”の値をとるものであり、設定値SELが“1”の場合は、差分平均算出手段12におけるフレーム間の差分平均として、前フレームと注目フレームとの間、後フレームと注目フレームとの間、及び前フレームと後フレームとの間の3種類の組み合わせによる差分平均を算出する。また、設定値SELが“0”の場合は、差分平均算出手段12におけるフレーム間の差分平均として、前フレームと後フレームとの間の差分平均のみを算出し、計算の簡略化を選択できるようになっている。
G1 = √{ΣD1(i,j)2/N} …式(2−2)
G1 = ΣD1(i,j)2/N …式(2−3)
これによって、動画像ごとに判別閾値THRをチューニングする必要がなくなる。また、判別処理対象の動画像に拘わらず、各動画像に共通の判別閾値THRを調整して動領域の抽出漏れを低減したり、逆に動領域の検出過多を低減したりすることも可能である。
また、差分平均算出手段12が、常に差分平均G3のみ算出するように構成する場合は、最大値抽出手段14は省略することができる。
なお、領域判別結果rは、例えば、動領域と判別したときは“1”の値をとり、静領域と判別したときは“0”の値をとるようにすることができる。
ここで、注目フレーム画像F(tn)に対する領域判別結果rは、1フレーム周期後に入力されるフレーム画像F(tn+1)を参照して出力されるため、フレーム画像F(tn)を入力する期間に出力される領域判別マップは、1フレーム周期前の、時間tn−1におけるフレーム画像F(tn−1)に対する領域判別マップR(tn−1)である。
更にまた、領域の判別結果を利用する装置が、領域判別装置1による領域判別結果rの算出に同期して並行して処理を行うような利用形態の場合は、領域判別装置1は、領域判別マップR(tn)を作成せずに、領域判別手段15が判別した領域判別結果rを順次に当該領域の判別結果を利用する装置に出力するように構成してもよい。
ノイズレベル設定手段18の詳細な構成については後記する。
ノイズレベル設定手段18は、ブロック分割手段(ノイズ検出ブロック分割手段)50と、直流成分除去画像算出手段51と、画素平均算出手段52と、最小値抽出手段53とを備えて構成されている。
なお、プリスキャン時には、画像の高空間周波数成分を抑制するために、わざとフォーカスをぼかして撮影するようにしてもよい。
11の形状のブロックに分割し、これらのブロック中からハッチングを施して示したブロックCを選択して、ノイズレベル検出のために参照するようにしてもよい。図5の(2)に示した例では、水平方向、垂直方向ともに、3ブロックに1ブロックの割合で抽出しているため、フレーム画像F(tn)が、フルハイビジョンサイズの画像の場合では、水平方向に1920/11/3≒58ブロック、垂直方向に1080/11/3≒32ブロックであり、合計で58×32=1856箇所のブロックCを参照することができる。
なお、第1実施形態では、直交変換としてDCTを用いたが、離散フーリエ変換やアダマール変換など他の直交変換を用いるようにすることもできる。
画素平均算出手段52は、各ブロックCに対応する直流成分除去画像C’の画素平均Hを算出し、フレーム画像F(tn)におけるノイズレベルEの候補値として順次に最小値抽出手段53に出力する。
また、画素平均Hは、画素データのRMSの他、画素データの絶対値の平均としてもよく、計算を簡略化するためにRMSの平方根算出を省略した画素データの二乗平均としてもよい。
次に、図9を参照(適宜図1及び図4参照)して、本発明の第1実施形態における領域判別装置1の動作について説明する。
なお、領域判別装置1は、差分計算設定手段17によって予め設定しておいた設定値SELが“0”の場合には、差分算出手段121によって差分D3のみを算出し、以降の処理においては差分D1及び差分D2に関する処理は行わないように制御する。
また、未処理のブロックBがない場合は(ステップS23でNo)、領域判別装置1は、ブロック画素記憶手段11によって、注目フレーム画素記憶手段112に記憶されているフレーム画像F(tn−1)における各ブロックBの画素データを前フレーム画素記憶手段113にシフトするとともに、後フレーム画素記憶手段111に記憶されているフレーム画像F(tn)における各ブロックBの画素データを注目フレーム画素記憶手段112にシフトする(ステップS24)。
次のフレーム画像F(tn+1)の入力がない場合は(ステップS25でNo)、領域判別装置1は処理を終了する。
次に、本発明の第1実施形態の領域判別装置におけるノイズレベル設定手段の変形例について、図11を参照(適宜図4参照)して説明する。
なお、図4に示した第1実施形態におけるノイズレベル設定手段18と同じ構成要素については、同じ符号を付して説明は適宜省略する。
ここで、図12を参照(適宜図11参照)して、第1実施形態の変形例のノイズレベル設定手段18Aで用いるHPF処理について説明する。
C(i,j−1)×(−1/2)
+ C(i,j)×1
+ C(i,j+1)×(−1/2) …式(3)
なお、図12の(3)において、fNyはナイキスト周波数を示す。また、図12の(2)に示したHPFは、水平方向に関してはフィルタ処理をしないため、水平方向の空間周波数成分は変化しない。
また、HPF処理手段51dで用いるHPFのフィルタ係数KHPFは、図12の(2)に示したものに限定されず、少なくとも直流成分を除去し、かつノイズ成分を多く含む高空間周波数の交流成分の少なくとも一部を保存又は強調するものであれば用いることができる。
なお、最小値抽出手段53は、図4に示した第1実施形態におけるノイズレベル設定手段18の最小値抽出手段53と同様であるので、説明は省略する。
次に、図13を参照(適宜図11参照)して、第1実施形態の変形例のノイズレベル設定手段18Aの動作について説明する。
図13に示したステップS51〜ステップS53は、それぞれ図10に示したステップS31〜ステップS33と同様であるので、共通するステップの説明は省略する。
図13に示したステップS55〜ステップS57は、それぞれ図10に示したステップS37〜ステップS39と同様であるので、共通するステップの説明は省略する。
次に、図14を参照(適宜図1及び図4参照)して、第2実施形態における領域判別装置の構成について説明する。
第2実施形態の領域判別装置1Aは、ノイズレベル設定手段18Bによって、正規化手段13Aで差分平均G1、G2、G3を正規化するときに、差分平均G1、G2、G3を算出したブロックB2の輝度レベルに応じて輝度別に設定したノイズレベルである輝度別ノイズレベルE0〜E7を用いる。
正規化手段13Aは、輝度算出手段20から入力したブロックBの輝度Lが属する輝度ランクL0〜L7に対応するノイズレベルを、輝度別ノイズレベルE0〜E7の中から選択して正規化処理に用いる。
ノイズレベル設定手段18Bの詳細については後記する。
なお、第2実施形態における輝度算出手段20は、輝度Lとして、ブロックB2を構成する5×5=25個の画素データの単純平均を用いるが、これに限定されるものではない。例えば、5×5の中心に位置する画素データを用いてもよいし、5×5の中心ほど加重を大きくする加重平均を算出して用いてもよく、5×5の中央値を抽出して用いるようにしてもよい。
図15に示したように、第2実施形態におけるノイズレベル設定手段18Bは、正規化用ノイズレベル検出手段61と、検証用ノイズレベル検出手段62とを備えて構成されている。
また、検証用ノイズレベル検出手段62は、プリスキャンして得たフレーム画像F(tn)からノイズレベルを予め検出し、当該ノイズレベルを、正規化用ノイズレベル検出手段61によって算出した輝度別ノイズレベルE0〜E7の有効性を検証するための検証値であるSIFT値(検証用ノイズレベル)として正規化用ノイズレベル検出手段61のノイズレベル検証手段55に出力するものである。
正規化用ノイズレベル検出手段61は、ブロック分割手段(ノイズ検出ブロック分割手段)50Aと、HPF処理手段51dを備えた直流成分除去画像算出手段51Aと、画素平均算出手段52と、輝度別最小値抽出手段54と、ノイズレベル検証手段55と、補間処理手段56と、輝度算出手段(ノイズ検出ブロック輝度算出手段)57とを備えて構成されている。
なお、正規化用ノイズレベル検出手段61において、図11に示したノイズレベル設定手段18Aと同じ構成要素については、同じ符号を付して説明は適宜省略する。
正規化用ノイズレベル検出手段61のブロック分割手段50Aは、図11に示した第1実施形態の変形例のノイズレベル設定手段18Aのブロック分割手段50と異なり、入力したフレーム画像F(tn)の全領域を隈無く11×11の形状のブロックCに分割し、間引くことなく、すべてのブロックCについて、各ブロックCを構成する画素データをブロックCごとに直流成分除去画像算出手段51AのHPF手段51dに出力する。
これは、輝度別にノイズレベルを検出する際に、輝度ランクによってブロックCの割当数が不足するのを防止するためである。
また、各輝度別ノイズレベルE0〜E7をSIFT値と比較して、所定の範囲内にない場合には、その輝度ランクの輝度別ノイズレベルE0〜E7を有効でないと判断し、その輝度ランクの輝度別ノイズレベルE0〜E7の値に“0”又は有効でないことを示すデータを設定して補間処理手段56に出力する。これによって、輝度別ノイズレベルE0〜E7から不適切なノイズレベルデータを排除することができる。
図16は、ノイズレベル検証手段55から補間処理手段56に出力された輝度別ノイズレベルE0〜E7の様子を模式的に示したものである。横軸は輝度Lを示し、縦軸はノイズレベルの大きさEを示す。
なお、輝度算出手段57から出力される輝度Lは、0〜255の256階調の値を取るものとし、輝度レンジを32階調ずつ均等に、輝度ランクL0(暗)から輝度ランクL7(明)の8ランクに区分している。また、各輝度ランクL0〜L7の輝度の代表値は、各輝度レンジの中央値としている。そして、図16において、●で示した輝度別ノイズレベルE1,E3,E4,E5,E6は、有効であると判断されたデータであり、○で示した輝度ランクL0,L2,L7は、そのデータが有効でないと判断された(又は未検出の)輝度ランクであり、補間処理によって輝度別ノイズレベルE0,E2,E7を算出する必要があるものとする。
このように、両側に参照できる有効なデータがある場合は、有効なデータ間を直線補間して内挿によって輝度別ノイズレベルを算出する。すなわち、最寄りの有効なデータである輝度ランクL1及びL3の輝度別ノイズレベルE1及びE3を参照する。また、各輝度ランクL1及びL3における輝度Lは、それぞれの代表値48及び112とし、輝度ランクL2の代表値80におけるノイズレベルについて輝度別ノイズレベルE2の値を算出する。
このように、低輝度側に参照できるデータがない場合は、高輝度側の有効な互いに隣接する2点のデータを参照し、外挿により輝度別ノイズレベルを算出する。なお、既に補間処理により輝度別ノイズレベルが算出されている輝度ランクのデータは、他の有効でない輝度別ノイズレベルを補間処理によって算出するときには、有効なデータとして参照することができる。すなわち、高輝度側の互いに隣接する有効なデータとして、輝度ランクL1及びL3を参照しても、輝度ランクL1及び既に補間処理によって輝度別ノイズレベルE2が算出された輝度ランクL2を参照するようにしてもよい。以降の説明は、輝度ランクL1及びL2を参照した場合について説明する。
この半直線A01は、点(48,E1)を通り、傾きの大きさが(Emax−Emin)/256であり、傾きの向きが参照する2点(48,E1)及び(80,E2)を結ぶ線分の傾きの向きと同じとする。なお、Emax及びEminは、それぞれ有効な輝度別ノイズレベルE1,E3,E4,E5,E6の内の、最大値及び最小値を示し、図16に示した例では、Emax=E4、Emin=E1である。そして、外挿する際の半直線の傾きの大きさを、有効な輝度別ノイズレベルE1,E3,E4,E5,E6から見積もることができる平均的な勾配とすることで、外挿による補間処理にありがちな異常値の算出を防止することができる。
以上より、輝度ランクL0における輝度別ノイズレベルE0は、式(4−2)のようにして算出することができる。
E1−Sign(E2−E1)×(Emax−Emin)×(48−16)/256
…式(4−2)
このように、高輝度側に参照できるデータがない場合は、前記した低輝度側に算出するデータがない場合と同様に、低輝度側の有効な互いに隣接する2点のデータを参照し、外挿により輝度別ノイズレベルを算出する。
図16に示した例では、輝度ランクL6及びL5における輝度別ノイズレベルE6及びE5を参照して、輝度ランクL7における輝度別ノイズレベルE7を算出する。
この半直線A67は、点(208,E6)を通り、傾きの大きさが(Emax−Emin)/256であり、傾きの向きが参照する2点(176,E5)及び(208,E6)を結ぶ線分の傾きの向きと同じとする。
輝度ランクL7における輝度別ノイズレベルE7は、式(4−3)のようにして算出することができる。
E6−Sign(E5−E6)×(Emax−Emin)×(240−208)/256
…式(4−3)
次に、図17を参照(適宜図14及び図15参照)して、第2実施形態の領域判別装置1Aの動作について説明する。
なお、ステップS86及びステップS87は、それぞれ図9に示した第1実施形態の領域判別装置1の処理におけるステップS15及びステップS16と同様であるので、詳細な説明は省略する。
以上でノイズレベル設定手段18Bは動作を終了する。
次に、図19を参照して、第2実施形態の変形例のノイズレベル設定手段について説明する。
すなわち、第2実施形態のノイズレベル設定手段18Bにおける正規化用ノイズレベル検出手段61は、直流成分除去画像C’を算出するためにHPF処理を用いるのに対し、第2実施形態の変形例のノイズレベル設定手段18Cの正規化用ノイズレベル検出手段61Aは、直流成分除去画像C’を算出するために、DCT処理によって画像を空間周波数成分に変換し、空間周波数成分から少なくとも直流成分を除去した後に、逆DCT処理をすることが異なる。他の構成要素は第2実施形態のノイズレベル設定手段18Bと同じであるから、同じ符号を付して詳細な説明は省略する。
また、前記した第2実施形態の変形例のノイズレベル設定手段18Cの正規化用ノイズレベル検出手段61Aにおける直流成分除去画像算出手段51は、図4に示した第1実施形態のノイズレベル設定手段18における直流成分除去画像算出手段51と同じものを用いることができるため、同じ符号を付して詳細な説明は省略する。
また、第2実施形態の変形例のノイズレベル設定手段18Cの処理におけるステップS128〜ステップS130は、それぞれ図10に示した第1実施形態のノイズレベル設定手段18の処理におけるステップS34〜ステップS36と同様であるので詳細な説明は省略する。
なお、ステップS127に替えて、ステップS128で正規化用ノイズレベル検出手段51のDCT処理手段51aによって算出したDCT係数KDCTの直流成分を、平均輝度LAVEとして輝度別最小値抽出手段54に出力するようにすることもできる。
次に、図21を参照して、第3実施形態における領域判別装置の構成について説明する。
第3実施形態の領域判別装置1Bは、第1実施形態の領域判別装置1と同様に、フレーム画像F(tn)を5×5の形状の(基本)ブロック(領域判別ブロック)Bに分割する。そして、領域判別装置1Bは、当該5×5のブロックBを、更に予め定めた複数の形状のサブブロックに分割し、サブブロックごとに差分平均を算出して、その中の最大値に基づいて当該ブロックBに対する領域判別を行うものである。
なお、図1に示した第1実施形態の領域判別装置1と同じ構成要素については、同じ符号を付して適宜説明を省略する。
図22の(1)〜(18)に示したサブブロックBk(k=1〜18)は、ブロックBの形状が5×5であり、各サブブロックBkは、何れもハッチングを施して示した10個の画素で構成されている。なお、Bkの上付きの添字kはサブブロックの種別を示し、kの値である1〜18は、それぞれ図22の(1)〜(18)に示したサブブロックを指すものとする。また、k=0、すなわちB0は、5×5=25画素で構成される基本ブロックB全体を指すサブブロックの一つであるものとする。
そこで、第3実施形態では、5×5の形状の基本ブロックBに加えて、当該基本ブロックBを更に小さな形状の複数種類のサブブロックBkに分割して、サブブロックBkごとに画像の動き量を示すフレーム間の差分平均を算出する。そして、算出した複数のサブブロックBkにおける画素平均の最大値に基づいて、当該基本ブロックBの領域判別を行うものである。
このように、種々の細かい画像形状に適合する複数種類のサブブロックBkを用いることで、画像の動きをより的確に検出することができる。
また、図22に示した例では、何れも10画素としたが、異なる画素数のサブブロックを用いるようにしてもよく、サブブロックBkの種類は、これより少なくてもよく、更に多くしてもよい。
サブブロック分割手段21は、ブロック分割手段10によってフレーム画像F(tn)から分割された5×5の形状のブロックBを構成する画素データを、図22の(1)〜(18)に示した18種類のサブブロックB1〜B18に分割するとともに、ブロックBの全体をサブブロックB0として、19種類のサブブロックB0〜B18ごとに、各サブブロックB0〜B18を構成する画素データを、サブブロック画素記憶手段22の後フレーム画素記憶手段221に出力する。
また、サブブロック画素記憶手段22を構成する後フレーム画素記憶手段221、注目フレーム画素記憶手段222及び前フレーム画素記憶手段223は、それぞれブロック画素記憶手段11における後フレーム画素記憶手段121、注目フレーム画素記憶手段122及び前フレーム画素記憶手段123に相当し、後フレーム、注目フレーム及び前フレームにおけるブロックB3,B2,B1を構成する画素データに替えて、それぞれ後フレーム、注目フレーム及び前フレームにおけるサブブロックBk 3,Bk 2,Bk 1を構成する画素データを、サブブロックBkごとに差分平均算出手段12の差分算出手段121に出力する。
他の構成要素については、第1実施形態の領域判別装置1における同符号の構成要素と同様であるので説明は省略する。
次に、図23を参照(適宜図21参照)して、第3実施形態の領域判別装置1Bの動作について説明する。
なお、領域判別装置1Bは、差分計算設定手段17によって予め設定しておいた設定値SELが“0”の場合には、差分算出手段121によって差分Dk 3のみを算出し、以降の処理においては差分Dk 1及び差分Dk 2に関する処理は行わないように制御する。
また、未処理のサブブロックBkがない場合は(ステップS151でNo)、領域判別装置1Bは、注目ブロックBから分割された19種類のサブブロックBkにおける全部で57個の正規化差分平均G’0 1、G’0 2、G’0 3、…、G’18 1、G’18 2、G’18 3の内の最大値を抽出し、最大正規化差分平均G’maxとして領域判別手段15に出力する(ステップS152)。
また、未処理のブロックBがない場合は(ステップS155でNo)、領域判別装置1Bは、サブブロック画素記憶手段22によって、注目フレーム画素記憶手段222に記憶されているフレーム画像F(tn−1)における各ブロックBから分割した各サブブロックBkの画素データを前フレーム画素記憶手段223にシフトするとともに、後フレーム画素記憶手段111に記憶されているフレーム画像F(tn−2)における各ブロックBから分割した各サブブロックBkの画素データを注目フレーム画素記憶手段222にシフトする(ステップS156)。
次のフレーム画像F(tn+1)の入力がない場合は(ステップS157でNo)、領域判別装置1Bは処理を終了する。
次に、図24を参照して、第4実施形態における領域判別装置の構成について説明する。
すなわち、第4実施形態の領域判別装置1Cは、図21に示した第3実施形態の領域判別装置1Bと同様に、フレーム画像F(tn)を5×5の形状の(基本)ブロックBに分割し、当該基本ブロックBを更に複数種類のサブブロックBkに分割してサブブロックBkごとに差分平均Gk 1、Gk 2、Gk 3を算出して正規化し、その中の最大値に基づいて当該基本ブロックに対する領域判別を行うものである。
更に、第4実施形態の領域判別装置1Cは、基本ブロックBを更に分割したサブブロックBkから差分平均を算出することで動き成分量の検出をするとともに、輝度別ノイズレベルE0〜E7を用いて、サブブロックBkごとに算出した差分平均Gk 1、Gk 2、Gk 3を正規化するものである。
次に、図25を参照(適宜図24参照)して、第4実施形態の領域判別装置1Cの動作について説明する。
また、第4実施形態の領域判別装置1Cの処理におけるステップS165及びステップS169は、それぞれ図17に示した第2実施形態の領域判別装置1Aの処理におけるステップS85及びステップS88と同様であるので、詳細な説明は省略する。
更に、第4実施形態の領域判別装置1Cの処理におけるステップS172は、ブロックBごとに差分平均G1、G2、G3を正規化するのに替えてサブブロックBkごとに差分平均Gk 1、Gk 2、Gk 3を正規化するほかは、図17に示した第2実施形態の領域判別装置1Aの処理におけるステップS91と同様であるので、詳細な説明は省略する。
次に、図26を参照(適宜図1参照)して、第5実施形態におけるノイズ低減装置の構成について説明する。
前記したように領域判別装置1は、図1に示した第1実施形態の領域判別装置1を用いる。領域判別装置1は、ノイズ低減装置2に入力される動画像Fを構成するフレーム画像F(tn)を順次に入力し、入力したフレーム画像F(tn)を予め定めた形状である5×5のサイズのブロックBごとに、当該ブロックが動領域か静領域かを判別し、その領域判別結果と当該ブロックのフレーム画像F(tn)の画像平面における位置とを対応づけて記憶した領域判別マップR(tn)を作成する。そして、領域判別装置1は、作成した領域判別マップR(tn)を動領域処理手段40、静領域処理手段41及び処理選択手段42に出力する。
画像平面内における高空間周波数成分を低減する処理法としては、コアリング処理や平均化フィルタ処理(ローパスフィルタ処理)を用いることができる。
また、外部からの調整信号(不図示)を入力し、検出したノイズレベルEに調整量(例えば、0.7)を乗じて、コアリングレベルを調整できるように構成してもよい。
{ F(tn)(i,j−1) + F(tn)(i−1,j)
+ F(tn)(i,j) + F(tn)(i+1,j)
+ F(tn)(i,j+1) } / 5 …式(5)
なお、平均化フィルタ処理は、前記した4隣接画素や8隣接画素との単純平均に限定されず、5×5や、更に大きなサイズの画素との平均を算出するようにしてもよく、注目画素に近いほど平均への寄与を大きくした加重平均を算出するようにしてもよい。
{ F(tn−1)(i,j)
+ F(tn )(i,j)
+ F(tn+1)(i,j) } / 3 …式(6−1)
median(
F(tn−1)(i,j),F(tn)(i,j),F(tn+1)(i,j))
…式(6−2)
次に、図27を参照(適宜図26及び図1参照)して、第5実施形態のノイズ低減装置2の動作について説明する。
次に、第5実施形態のノイズ低減装置2の変形例について説明する。
第5実施形態では、フレーム画像における領域判別は、5×5の形状のブロックごとに行い、領域判別結果に従って、当該5×5の形状のブロックごとに動領域処理と静領域処理とを適応的に選択するようにした。
これに対して、第5実施形態の変形例では、フレーム画像における領域判別を画素ごとに行い、画素ごとの領域判別結果に従って、画素ごとに動領域処理と静領域処理とを適応的に選択することとした。
図28は、領域判別の処理対象となる注目画素Bxと、当該注目画素Bxの領域判別を行うために参照するブロックBとの関係を示している。すなわち、ハッチングを施して示した注目画素Bxに対して、注目画素Bxを中心とする5×5の画素からなる領域を参照するブロックBとする。このブロックBに対しては、第1実施形態の領域判別装置1、第2実施形態の領域判別装置1A、第3実施形態の領域判別装置1B、第4実施形態の領域判別装置1Cなどによって領域判別することができる。第5実施形態の変形例では、このブロックBを参照して算出した領域判別結果を、当該ブロックB全体の画素ではなく、注目画素Bxのみに対応づけるものである。そして、例えば、当該注目画素Bxの隣接画素に対する領域判別は、当該隣接画素を新たな注目画素Bxとする5×5のブロックBを参照して、行うことができる。
2 ノイズ低減装置
10 ブロック分割手段(領域判別ブロック分割手段)
11 ブロック画素記憶手段
12 差分平均算出手段
13、13A 正規化手段
14 最大値抽出手段
15 領域判別手段
16 領域判別マップ記憶手段
17 差分計算設定手段
18、18A、18B、18C ノイズレベル設定手段
19 判別閾値設定手段
20 輝度算出手段(領域判別ブロック輝度算出手段)
21 サブブロック分割手段
22 差分算出手段
31、32、33 フレームメモリ
40 動領域処理手段
41 静領域処理手段
42 処理選択手段
43 フレームメモリ
50、50A ブロック分割手段(ノイズ検出ブロック分割手段)
51、51A 直流成分除去画像算出手段
51a DCT処理手段
51b 直流成分除去手段
51c 逆DCT処理手段
51d HPF処理手段
52 画素平均算出手段
53 最小値抽出手段
54 輝度別最小値抽出手段
55 ノイズレベル検証手段
56 補間処理手段
57 輝度算出手段(ノイズ検出ブロック輝度算出手段)
61、61A 正規化用ノイズレベル検出手段
62 検証用ノイズレベル検出手段
111 後フレーム画素記憶手段
112 注目フレーム画素記憶手段
113 前フレーム画素記憶手段
121 差分算出手段
122 平均算出手段
221 後フレーム画素記憶手段
222 注目フレーム画素記憶手段
223 前フレーム画素記憶手段
B ブロック(領域判別ブロック)
B1〜B18、Bk サブブロック
Bx 注目画素
C ブロック(ノイズ検出ブロック)
F(tn) フレーム画像
Claims (8)
- 動画像を構成するフレーム画像の画像平面内の領域が、時間軸方向に前後のフレーム画像に対して変化のある動領域か、変化のない静領域か、の2種類の領域の何れであるかを判別する領域判別装置であって、
前記フレーム画像を複数の画素からなる領域判別用のブロックである領域判別ブロックに分割する領域判別ブロック分割手段と、
前記領域判別ブロック分割手段によって分割された領域判別ブロックを、当該領域判別ブロック中の複数の画素から構成される複数のサブブロックに分割するサブブロック分割手段と、
前記サブブロック分割手段によって分割された複数のサブブロックごとに、前記サブブロックを構成する画素の、フレーム間の差分の大きさの平均値である差分平均を算出する差分平均算出手段と、
前記動画像に含まれる画像平面内のノイズレベルを設定するノイズレベル設定手段と、
前記差分平均算出手段によって算出した差分平均を前記ノイズレベル設定手段によって設定したノイズレベルで除することによって正規化される正規化差分平均を算出する正規化手段と、
前記正規化手段によって算出した前記領域判別ブロックから分割した複数のサブブロックの正規化差分平均の内の最大値を抽出する最大値抽出手段と、
前記最大値抽出手段によって抽出した正規化差分平均の最大値を、予め定められた判別閾値と比較し、前記正規化差分平均の最大値が前記判別閾値よりも大きい場合に、前記領域判別ブロックを動領域と判別し、前記正規化差分平均の最大値が前記判別閾値以下の場合に、前記領域判別ブロックを静領域と判別する領域判別手段と、
を備えることを特徴とする領域判別装置。 - 動画像を構成するフレーム画像の画像平面内の領域が、時間軸方向に前後のフレーム画像に対して変化のある動領域か、変化のない静領域か、の2種類の領域の何れであるかを判別する領域判別装置であって、
前記フレーム画像から、領域判別の対象となる注目画素を含む複数の画素からなる領域判別用のブロックである領域判別ブロックを分割する領域判別ブロック分割手段と、
前記領域判別ブロック分割手段によって分割された領域判別ブロックを、当該領域判別ブロック中の複数の画素から構成される複数のサブブロックに分割するサブブロック分割手段と、
前記サブブロック分割手段によって分割された複数のサブブロックごとに、前記サブブロックを構成する画素の、フレーム間の差分の大きさの平均値である差分平均を算出する差分平均算出手段と、
前記動画像に含まれる画像平面内のノイズレベルを設定するノイズレベル設定手段と、
前記差分平均算出手段によって算出した差分平均を前記ノイズレベル設定手段によって設定したノイズレベルで除することによって正規化される正規化差分平均を算出する正規化手段と、
前記正規化手段によって算出した前記領域判別ブロックから分割した複数のサブブロックの正規化差分平均の内の最大値を抽出する最大値抽出手段と、
前記最大値抽出手段によって抽出した正規化差分平均の最大値を、予め定められた判別閾値と比較し、前記正規化差分平均の最大値が前記判別閾値よりも大きい場合に、前記注目画素を動領域と判別し、前記正規化差分平均の最大値が前記判別閾値以下の場合に、前記注目画素を静領域と判別する領域判別手段と、
を備えることを特徴とする領域判別装置。 - 更に、前記領域判別ブロック分割手段によって分割された領域判別ブロック内の輝度レベルを算出する領域判別ブロック輝度算出手段を備え、
前記ノイズレベル設定手段は、輝度レベルに応じてノイズレベルが定められた輝度別ノイズレベルを設定するとともに、
前記正規化手段は、前記領域判別ブロック輝度算出手段によって算出した輝度レベルに対応する前記ノイズレベル設定手段によって設定された輝度別ノイズレベルで前記差分平均を除することによって正規化することを特徴とする請求項1又は請求項2に記載の領域判別装置。 - 前記ノイズレベル設定手段は、前記正規化手段による正規化のために用いられるノイズレベルを検出する正規化用ノイズレベル検出手段であって、
前記フレーム画像を複数の画素からなるノイズレベル検出用のブロックであるノイズ検出ブロックに分割するノイズ検出ブロック分割手段と、
前記ノイズ検出ブロック分割手段によって分割したノイズ検出ブロックから直流成分を除去した直流成分除去画像を算出する直流成分除去画像算出手段と、
前記直流成分除去画像算出手段によって算出された直流成分除去画像の、前記ノイズ検出ブロック内の画素値の大きさの平均値である画素平均を算出する画素平均算出手段と、
前記フレーム画像中の複数のノイズ検出ブロックに対応する画素平均から最小値を抽出し、抽出した当該画素平均の最小値を前記ノイズレベルとして出力する最小値抽出手段と、
を備えることを特徴とする請求項1又は請求項2に記載の領域判別装置。 - 前記ノイズレベル設定手段は、前記正規化手段による正規化のために用いられるノイズレベルを検出する正規化用ノイズレベル検出手段であって、
前記フレーム画像を複数の画素からなるノイズ検出ブロックに分割するノイズ検出ブロック分割手段と、前記ノイズ検出ブロック分割手段によって分割したノイズ検出ブロックから直流成分を除去した直流成分除去画像を算出する直流成分除去画像算出手段と、
前記直流成分除去画像算出手段によって算出された直流成分除去画像の、前記ノイズ検出ブロック内の画素値の大きさの平均値である画素平均を算出する画素平均算出手段と、
前記ノイズ検出ブロック分割手段によって分割されたノイズ検出ブロック内の輝度レベルを算出するノイズ検出ブロック輝度算出手段と、
前記画素平均算出手段によって算出された画素平均を、前記ノイズ検出ブロック輝度算出手段によって算出された輝度レベルごとに、フレーム画像中の複数のノイズ検出ブロックに対応する画素平均から最小値を抽出して各輝度レベルにおける前記輝度別ノイズレベルとして出力する最小値抽出手段と
を備えることを特徴とする請求項3に記載の領域判別装置。 - 前記ノイズレベル設定手段は、更に、前記正規化用ノイズレベル検出手段によって検出された輝度別ノイズレベルの有効性を検証するための検証用ノイズレベルを、予備撮影によって得られたフレーム画像から検出する検証用ノイズレベル検出手段を備え、
前記正規化用ノイズレベル検出手段は、前記最小値抽出手段によって抽出された各輝度別ノイズレベルの値が前記検証用ノイズレベル検出手段によって検出された検証用ノイズレベルの値に対して、予め定められた所定の範囲内にあるかどうかを検証し、範囲外にあるときに、当該輝度別ノイズレベルのデータを排除するノイズレベル検証手段と、
前記ノイズレベル検証手段によって排除された輝度レベルに対応するノイズレベルのデータを、排除されなかった輝度レベルにおけるノイズレベルのデータから補間処理して算出する補間処理手段と
を備えることを特徴とする請求項5に記載の領域判別装置。 - 動画像に重畳されたノイズを低減させるノイズ低減装置であって、
前記動画像を構成するフレーム画像の画像平面内の領域が、時間軸方向に前後のフレーム画像に対して変化のある動領域か、変化のない静領域か、の2種類の領域の何れであるかを判別する請求項1乃至請求項6の何れか一項に記載の領域判別装置と、
前記領域判別装置によって動領域と判別された前記フレーム画像の領域に対して、画像平面内におけるノイズ低減処理をする動領域処理手段と、
前記領域判別装置によって静領域と判別された前記フレーム画像の領域に対して、フレーム間におけるノイズ低減処理をする静領域処理手段と、
を備えることを特徴とするノイズ低減装置。 - 動画像に重畳されたノイズを低減させるために、コンピュータを、
前記動画像を構成するフレーム画像の画像平面内の領域が、時間軸方向に前後のフレーム画像に対して変化のある動領域か、変化のない静領域か、の2種類の領域の何れであるかを判別する請求項1乃至請求項6の何れか一項に記載の領域判別装置、
前記領域判別装置によって動領域と判別された前記フレーム画像の領域に対して、画像平面内におけるノイズ低減処理をする動領域処理手段、
前記領域判別装置によって静領域と判別された前記フレーム画像の領域に対して、フレーム間におけるノイズ低減処理をする静領域処理手段、
として機能させるためのノイズ低減プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009011090A JP5097140B2 (ja) | 2009-01-21 | 2009-01-21 | 領域判別装置、ノイズ低減装置及びノイズ低減プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009011090A JP5097140B2 (ja) | 2009-01-21 | 2009-01-21 | 領域判別装置、ノイズ低減装置及びノイズ低減プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010171614A JP2010171614A (ja) | 2010-08-05 |
JP5097140B2 true JP5097140B2 (ja) | 2012-12-12 |
Family
ID=42703323
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009011090A Expired - Fee Related JP5097140B2 (ja) | 2009-01-21 | 2009-01-21 | 領域判別装置、ノイズ低減装置及びノイズ低減プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5097140B2 (ja) |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3098239B2 (ja) * | 1987-11-30 | 2000-10-16 | 日本電気株式会社 | 画像信号の雑音除去方法 |
JPH05336497A (ja) * | 1992-05-29 | 1993-12-17 | Sanyo Electric Co Ltd | 動き検出回路 |
JP3291597B2 (ja) * | 1993-06-07 | 2002-06-10 | 日本テキサス・インスツルメンツ株式会社 | 動き検出回路及びノイズ低減回路 |
JPH0832839A (ja) * | 1994-07-19 | 1996-02-02 | Sharp Corp | 雑音除去装置 |
JPH08130664A (ja) * | 1994-10-31 | 1996-05-21 | Nec Eng Ltd | 画像符号化装置の雑音抑圧方式 |
JP4192493B2 (ja) * | 2002-05-13 | 2008-12-10 | 株式会社豊田中央研究所 | 画像ノイズ検出方法及びそれを用いた画像処理装置 |
JP2007228432A (ja) * | 2006-02-24 | 2007-09-06 | Canon Inc | 画像信号処理回路及び画像信号処理方法 |
JP2008017448A (ja) * | 2006-06-06 | 2008-01-24 | Sony Corp | 映像信号処理方法、映像信号処理方法のプログラム、映像信号処理方法のプログラムを記録した記録媒体及び映像信号処理装置 |
-
2009
- 2009-01-21 JP JP2009011090A patent/JP5097140B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2010171614A (ja) | 2010-08-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5052301B2 (ja) | 画像処理装置、画像処理方法 | |
JP5908174B2 (ja) | 画像処理装置及び画像処理方法 | |
EP2413586B1 (en) | Method and device for adaptive noise measurement of a video signal | |
JP5197414B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2012523790A (ja) | ビデオカメラ | |
Liu et al. | Reducing location map in prediction-based difference expansion for reversible image data embedding | |
JPH11505357A (ja) | ピクセルレベルの明度調整のための装置および方法 | |
Coltuc et al. | Context embedding for raster-scan rhombus based reversible watermarking | |
JP2010134700A (ja) | 画像評価装置および画像評価方法 | |
JP5183440B2 (ja) | 階調補正装置および撮像装置 | |
JP5097141B2 (ja) | ノイズ低減装置及びノイズ低減プログラム | |
US20100238354A1 (en) | Method and system for adaptive noise reduction filtering | |
JP5097140B2 (ja) | 領域判別装置、ノイズ低減装置及びノイズ低減プログラム | |
JP5075804B2 (ja) | ノイズ低減装置 | |
JPH1141491A (ja) | 2次元ノイズ低減回路 | |
JP2002208006A (ja) | 画像ノイズ減少方法 | |
JP5039017B2 (ja) | ノイズレベル検出装置 | |
US8351729B2 (en) | Apparatus, method, and program for image correction | |
JP5084755B2 (ja) | ノイズ低減装置及びそのプログラム | |
JP3427354B2 (ja) | 映像2値化法及び2値化画像生成法 | |
KR101854611B1 (ko) | 엔트로피를 이용한 가중치 할당에 기초한 이미지 처리 방법 | |
WO2008023466A1 (en) | Moving vector detecting bdevice | |
JP5091880B2 (ja) | 動画像ノイズ除去装置および動画像ノイズ除去プログラム | |
JP5103436B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP4729127B2 (ja) | 画像評価装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110322 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120522 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120626 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120731 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120828 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120921 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5097140 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150928 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |