本発明は、映像信号処理方法、映像信号処理方法のプログラム、映像信号処理方法のプログラムを記録した記録媒体及び映像信号処理装置に関し、例えば映像信号中のノイズを除去するノイズフィルタに適用することができる。本発明は、ノイズレベルが極端に小さな領域をノイズレベル計測対象から除外してノイズレベルを計測することにより、従来に比して一段と精度良くノイズレベルを計測する。
従来、各種映像信号処理装置では、時間巡回型等のノイズフィルタで映像信号からノイズを除去している。このような時間巡回型等のノイズフィルタは、映像信号から抽出したノイズ信号成分の信号レベルを補正して補正用信号を生成し、この補正用信号を元の映像信号から減算して映像信号からノイズを除去している。
従って補正用信号の信号レベルが大き過ぎると、被写体の境界、テクスチャ領域等でボケが発生する。またこれとは逆に補正用信号の信号レベルが小さ過ぎると、十分にノイズを抑圧できなくなる。
このため従来、各種映像信号処理装置では、この補正用信号の信号レベルをオペレータの操作に応じて可変できるように構成されている。これに対して特開2001−136416号公報等には、ノイズレベルを計測し、ノイズレベル計測結果に基づいて補正用信号の信号レベルを自動的に設定する工夫が提案されている。
しかしながら従来手法にあっては、正確にノイズレベルを計測する点で、実用上未だ不十分な欠点があり、その結果、適切にノイズを除去できない問題があった。
特開2001−136416号公報
本発明は以上の点を考慮してなされたもので、従来に比して一段と精度良くノイズレベルを計測することができる映像信号処理方法、映像信号処理方法のプログラム、映像信号処理方法のプログラムを記録した記録媒体及び映像信号処理装置を提案しようとするものである。
上記の課題を解決するため請求項1の発明は、入力映像信号のノイズレベルを計測する映像信号処理方法に適用して、前記入力映像信号に設定した領域毎に、前記入力映像信号におけるノイズレベルを示す面内の特徴量を検出する面内の特徴量検出のステップと、前記面内の特徴量検出のステップで検出した面内の特徴量をノイズフリー領域用のしきい値で判定し、前記ノイズフリー領域用のしきい値より前記面内の特徴量が少ない領域をノイズレベル計測対象から除外するノイズフリー領域の処理ステップと、前記ノイズフリー領域の処理ステップで除外して残る領域の前記面内の特徴量を統計的に処理してノイズレベル計測結果を出力するノイズレベル計測のステップとを有するようにする。
また請求項18の発明は、入力映像信号のノイズレベルを計測する映像信号処理方法のプログラムに適用して、前記入力映像信号に設定した領域毎に、前記入力映像信号におけるノイズレベルを示す面内の特徴量を検出する面内の特徴量検出のステップと、前記面内の特徴量検出のステップで検出した面内の特徴量をノイズフリー領域用のしきい値で判定し、前記ノイズフリー領域用のしきい値より前記面内の特徴量が少ない領域をノイズレベル計測対象から除外するノイズフリー領域の処理ステップと、前記ノイズフリー領域の処理ステップで除外して残る領域の前記面内の特徴量を統計的に処理してノイズレベル計測結果を出力するノイズレベル計測のステップとを有するようにする。
また請求項19の発明は、入力映像信号のノイズレベルを計測する映像信号処理方法のプログラムを記録した記録媒体に適用して、前記映像信号処理方法のプログラムは、前記入力映像信号に設定した領域毎に、前記入力映像信号におけるノイズレベルを示す面内の特徴量を検出する面内の特徴量検出のステップと、前記面内の特徴量検出のステップで検出した面内の特徴量をノイズフリー領域用のしきい値で判定し、前記ノイズフリー領域用のしきい値より前記面内の特徴量が少ない領域をノイズレベル計測対象から除外するノイズフリー領域の処理ステップと、前記ノイズフリー領域の処理ステップで除外して残る領域の前記面内の特徴量を統計的に処理してノイズレベル計測結果を出力するノイズレベル計測のステップとを有するようにする。
また請求項20の発明は、入力映像信号のノイズレベルを計測する映像信号処理装置に適用して、前記入力映像信号に設定した領域毎に、前記入力映像信号におけるノイズレベルを示す面内の特徴量を検出する面内の特徴量検出部と、前記面内の特徴量検出部で検出した面内の特徴量をノイズフリー領域用のしきい値で判定し、前記ノイズフリー領域用のしきい値より前記面内の特徴量が少ない領域をノイズレベル計測対象から除外するノイズフリー領域の処理部と、前記ノイズフリー領域の処理部で除外して残る領域の前記面内の特徴量を統計的に処理してノイズレベル計測結果を出力するノイズレベル計測部とを有するようにする。
また請求項21の発明は、入力映像信号のノイズレベルを計測する映像信号処理方法に適用して、前記入力映像信号に設定した領域毎に、前記入力映像信号におけるノイズレベルを示す面内の特徴量を検出する面内の特徴量検出のステップと、前記入力映像信号から近傍画素と相関性の高い画素を検出し、検出結果に基づいて、近傍画素との間の相関性の高い画素を多く含む領域をノイズレベル計測対象から除外するノイズフリー領域の処理ステップと、前記ノイズフリー領域の処理ステップで除外して残る領域の前記面内の特徴量を統計的に処理してノイズレベル計測結果を出力するノイズレベル計測のステップとを有するようにする。
また請求項25の発明は、入力映像信号のノイズレベルを計測する映像信号処理方法のプログラムに適用して、前記入力映像信号に設定した領域毎に、前記入力映像信号におけるノイズレベルを示す面内の特徴量を検出する面内の特徴量検出のステップと、前記入力映像信号から近傍画素と相関性の高い画素を検出し、検出結果に基づいて、近傍画素との間の相関性の高い画素を多く含む領域をノイズレベル計測対象から除外するノイズフリー領域の処理ステップと、前記ノイズフリー領域の処理ステップで除外して残る領域の前記面内の特徴量を統計的に処理してノイズレベル計測結果を出力するノイズレベル計測のステップとを有するようにする。
また請求項26の発明は、入力映像信号のノイズレベルを計測する映像信号処理方法のプログラムを記録した記録媒体に適用して、前記映像信号処理方法のプログラムは、前記入力映像信号に設定した領域毎に、前記入力映像信号におけるノイズレベルを示す面内の特徴量を検出する面内の特徴量検出のステップと、前記入力映像信号から近傍画素と相関性の高い画素を検出し、検出結果に基づいて、近傍画素との間の相関性の高い画素を多く含む領域をノイズレベル計測対象から除外するノイズフリー領域の処理ステップと、前記ノイズフリー領域の処理ステップで除外して残る領域の前記面内の特徴量を統計的に処理してノイズレベル計測結果を出力するノイズレベル計測のステップとを有するようにする。
また請求項27の発明は、入力映像信号のノイズレベルを計測する映像信号処理装置に適用して、前記入力映像信号に設定した領域毎に、前記入力映像信号におけるノイズレベルを示す面内の特徴量を検出する面内の特徴量検出部と、前記入力映像信号から近傍画素と相関性の高い画素を検出し、検出結果に基づいて、近傍画素との間の相関性の高い画素を多く含む領域をノイズレベル計測対象から除外するノイズフリー領域の処理部と、前記ノイズフリー領域の処理部で除外して残る領域の前記面内の特徴量を統計的に処理してノイズレベル計測結果を出力するノイズレベル計測部とを有するようにする。
請求項1、請求項18、請求項19又は請求項20の構成によれば、ノイズレベルが極端に小さな領域をノイズレベル計測対象から除外してノイズレベルを計測することができ、テレビジョン受像機、光ディスクレコーダー等のグラフィカルユーザーインターフェースの領域、編集過程で挿入されたキャプション情報等を表示した領域ではノイズレベルを計測しないようにすることができる。従って、本来の映像信号に混入するノイズレベルを正確に測定することができ、従来に比して一段と精度良くノイズレベルを計測することができる。
請求項21、請求項25、請求項26又は請求項27の構成によれば、近傍画素との相関性を有効に利用して、ノイズレベルが極端に小さな領域をノイズレベル計測対象から除外してノイズレベルを計測することができ、テレビジョン受像機、光ディスクレコーダー等のグラフィカルユーザーインターフェースの領域、編集過程で挿入されたキャプション情報等を表示した領域ではノイズレベルを計測しないようにすることができる。従って、本来の映像信号に混入するノイズレベルを正確に測定することができ、従来に比して一段と精度良くノイズレベルを計測することができる。
本発明によれば、従来に比して一段と精度良くノイズレベルを計測することができる。
以下、適宜図面を参照しながら本発明の実施例を詳述する。
(1)実施例の構成
図2は、本発明の映像信号処理装置に適用されるノイズフィルタを示すブロック図である。このノイズフィルタ1は、時間巡回型のノイズフィルタであり、連続するフィールド又はフレーム間の相関を有効に利用して、入力映像信号S1のノイズを除去して出力映像信号S2を出力する。
ここで遅延信号生成部2は、出力映像信号S2を遅延してノイズ成分抽出用の遅延信号S3を出力する。なおここで遅延信号S3は、出力映像信号S2を動き補正して生成するようにしてもよい。減算回路3は、入力映像信号S1から遅延映像信号S3を減算してノイズ信号成分S4を生成する。信号レベル補正回路4は、このノイズ信号成分S4の信号レベルを補正して補正用信号S5を生成し、減算回路5は、この補正用信号S5を入力映像信号S1から減算して出力映像信号S2を生成する。
計測部6は、入力映像信号S1からノイズ信号成分の信号レベルを計測して計測結果S7を出力し、信号レベル補正回路4は、この計測結果S7に応じて補正用信号S5の信号レベルを可変して出力する。
図3は、この計測部6を詳細に示すブロック図である。この計測部6において、参照映像信号生成部11は、入力映像信号S1を1フィールド又は1フレームの期間だけ遅延させて参照用映像信号S11を出力する。より具体的に、参照映像信号生成部11は、入力映像信号S1を動き補正して参照用映像信号S11を生成する。
すなわち図4に示すように、参照映像信号生成部11において、遅延信号生成部12は、入力映像信号S1を1フィールド又は1フレームの期間だけ遅延させて遅延映像信号S12を生成する。動きベクトル検出部13は、この遅延映像信号S12を基準にして入力映像信号S1から動きベクトルMVを検出する。なおここでこの動きベクトルの検出は、ブロックマッチング法、勾配法等、種々の動きベクトル検出手法を適用することができる。また動きベクトルの精度は、整数画素精度、小数画素精度のいずれでもよい。
動き補正映像信号生成部14は、この動きベクトルMVを用いて遅延映像信号S12を動き補正して参照用映像信号S11を出力する。なおここでこの参照映像信号S11は、実用上十分な特性を確保できる場合には、図5に示すように、遅延信号生成部12で、単に、入力映像信号S1を1フィールド又は1フレームの期間だけ遅延させて生成してもよい。
差分信号生成部16は、図6に示すように、減算回路17で、入力映像信号S1から参照用映像信号S11を減算し、フィールド間差分又はフレーム間差分である差分信号S16を出力する。
ノイズ領域検出部18は(図3)、入力映像信号S1による1画面に複数の領域を設定し、領域毎に、画素領域における映像信号の1画面内の特徴量(以下、面内の特徴量と呼ぶ)であり、入力映像信号S1における画素値のばらつきの程度を示す信号(以下、アクティビティと呼ぶ)S1Aを生成して出力する。またこの入力映像信号S1の各領域に対応する領域毎に、参照映像信号S11、差分信号S16についても、それぞれアクティビティS11A、S16Aを生成して出力する。またこれらアクティビティS1A、S11A、S16Aのノイズレベル計測に使用する適不適をそれぞれ判定し、その判定結果に基づいてノイズ計測に適した領域であることを示すノイズ領域識別フラグS1F、S11F、S16Fを出力する。
ここで図1は、ノイズ領域検出部18を詳細に示すブロック図である。このノイズ領域検出部18において、部分領域信号分割部20は、図7に示すように、入力映像信号S1の1画面を水平方向及び垂直方向に複数の領域に分割する。部分領域信号分割部20は、入力映像信号S1、参照映像信号S11、差分信号S16をそれぞれ各領域に振り分け、領域毎に、これら入力映像信号S1、参照映像信号S11、差分信号S16をまとめて出力する。なおこのように各領域に振り分けられて、領域毎に出力される入力映像信号S1、参照映像信号S11、差分信号S16を、それぞれ部分入力映像信号S1P、部分参照映像信号S11P、部分差分信号S16Pと呼ぶ。また図7との対比により図8に示すように、領域の設定は、隣接する領域が部分的に重なり合うようにしてもよい。
画素領域特徴量抽出部21は、部分入力映像信号S1P、部分参照映像信号S11P、部分差分信号S16Pを入力して領域毎に処理し、領域毎に、それぞれ入力映像信号S1、参照映像信号S11、差分信号S16のアクティビティS1A、S11A、S16Aを検出する。なおこのアクティビティS1A、S11A、S16Aの検出は、各領域における信号の分散を計算して求めるようにしてもよく、またこれに代えて画素値の2乗平均、画素値の絶対値平均、画素値の標準偏差等を計算して求めるようにしてもよい。
また画素領域特徴量抽出部21は、領域毎に、それぞれ入力映像信号S1、参照映像信号S11の画素値の平均値S1PAve、S11PAveを計算して出力する。
飽和領域検出部22は、画素領域特徴量抽出部21で計算した入力映像信号S1、参照映像信号S11の画素値の平均値S1PAve、S11PAveを所定のしきい値S min
Th、S max Thで判定することにより、各領域において、入力映像信号S1、参照映像信号S11の画素値がダイナミックレンジの影響を受けてクリッピングしている可能性の有無を示す飽和フラグS1PAveF、S11PAveFを出力する。なおここでクリッピングは、いわゆる白つぶれ、黒つぶれである。またしきい値S min Th、S max Thはそれぞれ黒レベル側及び白レベル側のしきい値である。従って飽和領域検出部22は、S1PAve<S min Th又はS1PAve>S max Thが成立する場合、入力映像信号S1の飽和フラグS1PAveFを立ち上げる。またS11PAve<S min Th又はS11PAve>S
max Thが成立する場合、参照映像信号S11の飽和フラグS11PAveFを立ち上げる。
ここで映像信号の画素値がダイナミックレンジの影響を受けてクリッピングしている場合、この映像信号に重畳されたノイズもクリッピングされていることになる。従ってこのクリッピングされている領域では、ノイズレベルを正しく計測できないことになる。従って飽和領域検出部22は、領域毎に、入力映像信号S1、参照映像信号S11の平均値S1PAve、S11PAveを所定のしきい値S min Th、S max Thで判定することにより、クリッピングによるノイズレベル検出に不適切な領域を検出し、検出結果を飽和フラグS1PAveF、S11PAveFで出力する。
ノイズフリー領域検出部23は、入力映像信号S1、参照映像信号S11、差分信号S16のアクティビティS1A、S11A、S16Aを入力し、それぞれノイズフリー領域を検出してノイズフリー領域検出フラグS1NFF、S11NFF、S16NFFを出力する。ここでノイズフリー領域は、当該領域が、テレビジョン受像機、光ディスクレコーダー等のグラフィカルユーザーインターフェースの領域、編集過程で挿入されたキャプション情報等を表示した領域であると推定され、当該領域では、対象の信号にノイズがほとんど存在しないと見なすことができる領域である。
ノイズフリー領域検出部23は、各領域における入力映像信号S1、参照映像信号S11のアクティビティS1A、S11Aの値Iactを、所定のしきい値INF Thで判定し、Iact< INF Th の関係が成立する場合、それぞれ入力映像信号S1、参照映像信号S11のノイズフリー領域検出フラグS1NFF、S11NFFを立ち上げる。また各領域における差分信号S16のアクティビティS16Aの値Pactを対応するしきい値PNF Thで判定し、Pact<PNF Thの関係が成立する場合、差分信号S16のノイズフリー領域検出フラグS16NFFを立ち上げる。
計測有効判定部24は、飽和フラグS1PAveF、S11PAveF、ノイズフリー領域検出フラグS1NFF、S11NFF、S16NFFを処理して、ノイズ領域識別フラグS1F、S11F、S16Fを出力する。
図9は、この計測有効判定部24を詳細に示すブロック図である。計測有効判定部24において、計測不能領域判定部27は、飽和フラグS1PAveF、S11PAveF、ノイズフリー領域検出フラグS1NFF、S11NFF、S16NFFの各信号S1、S11、S16毎の論理演算処理により、当該領域がノイズの計測に適していない領域であることを示す計測不能領域判定フラグS1NF、S11NF、S16NFを出力する。
具体的に、計測不能領域判定部27は、入力映像信号S1の飽和フラグS1PAveF、ノイズ領域識別フラグS1NFFの何れかが立ち上がっている場合、当該領域における入力映像信号S1の計測不能領域判定フラグS1NFを立ち上げる。また参照映像信号S11の飽和フラグS11PAveF、ノイズ領域識別フラグS11NFFの何れかが立ち上がっている場合、当該領域における参照映像信号S11の計測不能領域判定フラグS11NFを立ち上げる。また差分信号S16のノイズ領域識別フラグS16NFFが立ち上がっている場合、当該領域における差分信号S16の計測不能領域判定フラグS16NFを立ち上げる。
増幅回路28は、入力映像信号S1のアクティビティS1A、参照映像信号S11のアクティビティS11Aに対応するように、差分信号S16のアクティビティS16Aの値を補正して出力する。
最小アクティビティ算出部29は、領域毎に、入力映像信号S1のアクティビティS1A、参照映像信号S11のアクティビティS11A、増幅回路28から出力される差分信号S16のアクティビティS16Aから、対応する計測不能領域判定フラグS1NF、S11NFS、16NFが立ち上がっていないアクティビティS1A、S11A、S16Aを選択する。また領域毎に、選択したアクティビティS1A、S11A、S16Aから最も値の小さなアクティビティを検出し、さらにこの検出した各領域の最小値から1フィールド又は1フレームで最も値の小さなアクティビティを選択する。最小アクティビティ算出部29は、この1フィールド又は1フレームで選択した最も値の小さなアクティビティを最小アクティビティMinActとして出力する。なおこの1フィールド単位又は1フレーム単位の最小アクティビティMinActの検出に代えて、計測不能領域判定フラグS1NF、S11NFS、16NFが立ち上がっていないアクティビティS1A、S11A、S16Aを1フィールド分又は1フレーム分、記録して保持し、この記録して保持したアクティビティS1A、S11A、S16Aから値の小さい側から複数個の平均値を出力するようにしてもよい。
閾値設定部30は、最小アクティビティMinActに基づいて、アクティビティS1A、S11A、S16Aを判定するための上限しきい値Act MaxTh1を計算する。すなわち閾値設定部30は、対応する領域の面積から決まる定数A sdを最小アクティビティMinActと乗算し、上限しきい値Act MaxTh1を計算するための第1の中間計算値EstSD (= MinAct× A sd )を計算する。また同様に対応する領域の面積から決まる定数A meanを最小アクティビティMinActと乗算して上限しきい値Act MaxTh1を計算するための第2の中間計算値EstMean (= MinAct× A mean )を計算する。また第1の中間計算値EstSD に定数ActTh Factor1 を乗算して第2の中間計算値EstMean と加算し、上限しきい値Act MaxTh1(= EstMean
+EstSD×ActTh Factor1 )を計算する。なおここで定数ActTh Factor1 は、ノイズの分布を考慮した定数である。これにより閾値設定部30は、最小アクティビティMinActを基準にして、各領域で検出されたアクティビティS1A、S11A、S16Aがノイズのみによるもので無いと判断される上限しきい値Act MaxTh1を予測する。
有効ノイズ領域・アクティビティ選択部31は、上限しきい値Act MaxTh1、最小アクティビティMinAct、計測不能領域判定フラグS1NF、S11NF、S16NFに基づいて、ノイズ領域識別フラグS1F、S11F、S16Fを設定する。すなわち計測不能領域判定フラグS1NF、S11NF、S16NFが立ち上がっている場合、明らかに対応するアクティビティS1A、S11A、S16Aは、ノイズレベルの計測に適していないと判定できることにより、この場合、有効ノイズ領域・アクティビティ選択部31は、対応する信号S1A、S11A、S16Aのノイズ領域識別フラグS1F、S11F、S16Fを立ち下げる。また計測不能領域判定フラグS1NF、S11NFS、16NFが立ち下がっている場合でも、対応するアクティビティS1A、S11A、S16Aの値が最小アクティビティMinActより小さい場合、又は上限しきい値Act MaxTh1より大きい場合、ノイズレベル計測に使用することの信頼性が低いと言え、従ってこの場合も、ノイズ領域識別フラグS1F、S11F、S16Fを立ち下げる。
ノイズレベル計測部35(図3)は、ノイズ領域識別フラグS1F、S11F、S16F、アクティビティS1A、S11A、S16Aを処理してノイズレベル計測結果S7を出力する。
すなわち図10に示すように、ノイズレベル計測部35において、ノイズ領域統計値算出部37は、ノイズ領域識別フラグS1F、S11F、S16Fが立ち上がっているノイズレベル計測に適した領域のアクティビティS1A、S11A、S16Aを統計的に処理し、アクティビティS1A、S11A、S16Aを代表する代表アクティビティACTを出力する。ここでこの統計的な処理は、ノイズ領域識別フラグS1F、S11F、S16Fが立ち上がっている領域のアクティビティS1A、S11A、S16Aのうちで、最も優位なアクティビティを検出する処理であり、平均値を求める処理、分布の中心値を求める処理、ヒストグラムで最大頻度となる値を求める処理等を適用することができる。ノイズ領域統計値算出部37は、1フィールド単位又は1フレーム単位で、代表アクティビティACTを計算して出力する。なお1フィールド単位又は1フレーム単位に代えて複数フィールド単位又は複数フレーム単位で代表アクティビティACTを計算して出力するようにしてもよい。
またノイズ領域統計値算出部37は、ノイズ領域識別フラグS1F、S11F、S16Fが立ち上がっているアクティビティS1A、S11A、S16Aの数をカウントし、代表アクティビティACTの計算に使用したアクティビティS1A、S11A、S16Aの数nを計算して出力する。
ノイズレベル変換部36は、代表アクティビティACTをノイズレベルに換算して出力する。すなわちノイズレベル変換部36において、増幅回路38は、ノイズ領域統計値算出部37で計算した代表アクティビティACTの値を利得AKで乗算し、平均ノイズレベルAveNに対応する信号レベルに補正して出力する。なおここで利得AKは、定数であり、上限しきい値Act MaxTh1の値に応じて設定される。
計測不能判定部39は、ノイズ領域統計値算出部37で求められた代表アクティビティACTの計算に使用したアクティビティS1A、S11A、S16Aの数nを所定のしきい値で判定し、この数nがしきい値より小さい場合、ノイズレベルの計測が困難であることを示す判定信号NGを出力する。
ノイズレベル時間平滑部40は、判定信号NGに基づいてノイズ領域統計値算出部37で求められた平均ノイズレベルAveNを平滑化し、ノイズレベル計測結果S7を出力する。すなわち図11に示すように、ノイズレベル時間平滑部40は、判定信号NGの立ち下がりによりオン動作するスイッチ回路41を介してフィルタ処理部42に平均ノイズレベルAveNを入力する。ここでフィルタ処理部42は、図12に示すように、入力信号INを順次遅延させる複数段の遅延回路D1〜D4と、入力信号IN、各遅延回路D1〜D4の出力信号をフィルタ係数h0〜h4で重み付けする乗算回路M0〜M4、乗算回路M0〜M4の出力信号を加算する加算回路AD1〜AD4とによるFIR型のローパスフィルタ回路で形成される。フィルタ処理部42は、フィルタ特性制御部44により設定されるフィルタ係数h0〜h4に応じた特性により、スイッチ回路41を介して順次入力される平均ノイズレベルAveNを平滑化する。なおフィルタ処理部42には、図13に示すように、出力信号OUTを遅延回路Dで遅延させ、この遅延回路Dの出力信号と入力信号INとをそれぞれ増幅回路MBA及びMABで増幅して加算回路ADで加算する時間巡回型(IIR)のローパスフィルタを適用することもできる。
ノイズレベル時間平滑部40は、判定信号NGの立ち下がりによりオン動作するスイッチ回路45、判定信号NGに応じて接点を切り換えるスイッチ回路46を介して、フィルタ処理部42の出力信号をノイズレベル計測結果S7として出力する。
ノイズレベル時間平滑部40において、前値記憶部47は、判定信号NGの立ち下がりにより、スイッチ回路45を介して入力されるフィルタ処理部42の出力信号を順次ラッチして出力する。また前値記憶部47は、判定信号NGの立ち上がりにより、ラッチ動作を停止し、これにより判定信号NGが立ち上がるとフィルタ処理部42の出力信号を前値ホールドして出力する。ノイズレベル時間平滑部40は、判定信号NGが立ち上がると、スイッチ回路46の接点をスイッチ回路45側から前値記憶部47側に切り換え、前値ホールドによりノイズレベル計測結果S7を出力する。
減算回路48は、前値記憶部47から出力されるノイズレベル計測結果S7と、順次入力される平均ノイズレベルAveNとの差分値を計算して出力する。
フィルタ特性制御部44は、前値記憶部47から出力されるノイズレベル計測結果を入力し、また減算回路48を介してこのノイズレベル計測結果と平均ノイズレベルAveNをとの差分値を入力し、これら計測結果、差分値に応じてフィルタ処理部42の特性を制御する。具体的にフィルタ特性制御部44は、差分値が大きい場合、ノイズレベル計測結果の変化が激しいことから、フィルタ処理部42による平滑化の処理を強める。また平均ノイズレベルAveNが大きい場合、計測結果もばらついていると考えられることにより、フィルタ処理部42による平滑化の処理を強める。なお平滑化の処理にあっては、ノイズレベル計測結果S7を使用する後段の回路構成に応じて種々に設定することができ、このような平滑化の処理を省略して出力するようにしてもよい。
(2)実施例の動作
以上の構成において、映像信号S1は、ノイズフィルタ1(図2)に順次入力され、減算回路5でノイズ除去用の補正用信号S5が減算されてノイズが抑圧され、出力映像信号S2として出力される。映像信号S1は、この出力映像信号S2が遅延信号生成部2で遅延されて遅延映像信号S3が生成され、減算回路3でこの遅延信号S3が減算されてノイズ信号成分S4が生成される。またこのノイズ信号成分S4の信号レベルが信号レベル補正回路4で補正されて補正用信号S5が生成される。
従って入力映像信号S1は、ノイズレベルに比してこの補正用信号S5の信号レベルが小さい場合には、このノイズフィルタ1によっては十分にノイズを抑圧できなくなり、十分に画質を向上できなくなる。またこれとは逆に、ノイズレベルに比して補正用信号S5の信号レベルが大きい場合には、映像本来の高域成分まで抑圧され、被写体の境界、テクスチャ領域等でボケが発生することになる。
そこで入力映像信号S1は、計測部6でノイズレベルが計測され、このノイズレベル計測結果S7に応じて信号レベル補正回路4の利得が制御され、補正用信号S5の信号レベルが適切な信号レベルに設定される。しかしながら計測部6で正しくノイズレベルを計測できないと、適切に補正用信号S5の信号レベルを設定することが困難になる。
そこで計測部6において、入力映像信号S1は(図3)、ノイズ領域検出部18の部分領域制御分割部20(図1)に入力されて、1画面中に設定された領域毎の信号にまとめられ(図7及び図8)、画素領域特徴量抽出部21において、領域毎に、画素値のばらつきの程度を示すアクティビティS1Aが検出される。
ここでこの入力映像信号S1から検出されるアクティビティS1Aは、ノイズレベルの増大により値が大きくなり、これによりノイズレベルを表していることになる。しかしながら各種の映像機器では、グラフィカルユーザーインターフェース等による各種の映像が入力映像信号S1に介挿されている場合がある。また編集過程でキャプション情報が挿入されている場合がある。このような映像、情報にあっては、入力映像信号S1の他の部分に比してノイズが少なく、画素値のばらつきが小さないわゆる平坦な部分である。従ってこのような部分で検出したノイズレベルに基づいて信号レベル補正回路4の利得を設定したのでは、ノイズを十分に抑圧できなくなる。
そこでこの計測部6において、入力映像信号S1は、続くノイズフリー領域検出部23において、アクティビティS1Aの値Iactが所定のしきい値INF Thで判定されて極端にノイズレベルの小さな領域が検出され、キャプション情報等が挿入された領域が検出される。すなわち入力映像信号S1は、アクティビティS1Aの値Iactが所定のしきい値INF Thより小さい場合、ノイズの計測に適していない領域であるとしてノイズフリー領域検出フラグS1NFFが立ち上げられる。
また例えばこの入力映像信号S1が光ディスクレコーダーから再生されたものである場合、光ディスクレコーダーへの入力時に重畳されていたノイズ成分が、この光ディスクレコーダーの記録再生系のダイナミックレンジで部分的に抑圧されている場合も予測される。このような場合に、この抑圧された部分で検出されるノイズレベルに基づいて信号レベル補正回路4の利得を設定したのでは、ノイズを十分に抑圧できなくなる。
そこで入力映像信号S1は、画素領域特徴量抽出部21において、さらに領域毎に、画素値の平均値S1PAveが求められ、また飽和領域検出部22において、この平均値S1PAveが所定のしきい値S min Th、S max Thで判定され、ノイズが抑圧されている恐れのある白レベル側領域、黒レベル側領域で飽和フラグS1PAveFが立ち上げられる。
入力映像信号S1は、飽和フラグS1PAveF、ノイズフリー領域検出フラグS1NFFが立ち下がっている領域のアクティビティS1Aが、計測有効判定部24、ノイズレベル計測部35で選択的に処理されてノイズレベルが計測される。これにより計測部6は、従来に比してノイズレベルの計測精度を向上することができる。
しかしながら入力映像信号S1から求められるアクティビティS1Aは、ノイズ成分を含んではいるものの、本来の映像信号の高域成分までも含んでいる。従って高域成分の信号レベルが大きい場合には、ノイズレベルの計測に誤差が大きくなる。
そこで入力映像信号S1は、参照映像信号生成部11で遅延、動き補正されて参照用映像信号S11が生成され(図4及び図5)、さらに差分信号生成部16でこの参照用映像信号S11との間の差分信号S16が生成される(図6)。またこの差分信号S16がノイズ領域検出部18の部分領域制御分割部20(図1)において、入力映像信号S1と同様に1画面中に設定された領域毎の信号にまとめられ(図7及び図8)、画素領域特徴量抽出部21において、領域毎にアクティビティS16Aが検出される。またこの差分信号S16の生成に使用した参照用映像信号S11も、入力映像信号S1と同様に処理されて、領域毎にアクティビティS11Aが検出される。
ここでこの差分信号S16のアクティビティS16Aは、差分信号S16が連続するフィールド又はフレーム間の差分信号であることから、正しく動き補正できている場合には、入力映像信号S1に本来含まれる高域成分の影響を受けず、正しくノイズレベルを表していることになる。しかしながら誤って動き補正している場合もあり、この場合にはノイズレベルを誤検出することになり、入力映像信号S1のアクティビティS1Aを用いてノイズレベルを計測した方が正しくノイズレベルを計測できる場合も発生する。
また例えばシーンチェンジ、フラッシュ等で、一時的に画質が変化する場合も予測され、この場合は、参照映像信号S11を使用してノイズレベルを計測した方が、より適切にノイズレベルを計測することができる。
これによりこの計測部6において、入力映像信号S1は、入力映像信号S1のアクティビティS1Aに加えて、参照映像信号S11及び差分信号S16のアクティビティS11A及びS16Aを用いて求められ、これにより従来に比して一段を精度良くノイズレベルを計測することが可能となる。
またこの参照映像信号S11にあっても、入力映像信号S1と同様に、記録再生系等のダイナミックレンジで部分的にノイズが抑圧されている場合があり、さらにキャプション情報等を表示した領域でノイズレベルを誤り検出する恐れがあることにより、入力映像信号S1と同様に飽和領域検出部22、ノイズフリー領域検出部23でそれぞれ処理されて飽和フラグS11PAveF、ノイズフリー領域検出フラグS11NFFが設定され、これによってもノイズレベルの計測精度が向上される。
これに対して差分信号S16は、ノイズフリー領域検出部23でノイズフリー領域検出フラグS16NFFが設定され、これによってもノイズレベルの計測精度が向上される。なお差分信号S16は、平均値をしきい値で判定してノイズが部分的に抑圧されている部分を検出できないことにより、この計測部6では、飽和フラグを設定していないが、差分信号S16の生成元である入力映像信号S1及び又は参照映像信号S11で設定された飽和フラグS1PAveF及び又はS11PAveFを利用して、飽和フラグを設定するようにしてもよい。
計測部6において、入力映像信号S1は、これら飽和フラグS1PAveF、S11PAveF、ノイズフリー領域検出フラグS1NFF、S11NFF、S16NFFに基づいて、3種類のアクティビティS1A、S11A、S16Aが計測有効判定部24、ノイズレベル計測部35で選択的に処理されてノイズレベルが計測される。これにより計測部6は、従来に比してノイズレベルの計測精度を向上することができる。
より具体的に、入力映像信号S1は、計測有効判定部24の計測不能領域判定部27において(図1及び図9)、それぞれ入力映像信号S1、参照映像信号S11毎に、飽和フラグS1PAveF、S11PAveF、ノイズフリー領域検出フラグS1NFF、S11NFFの何れかが立ち上がっている領域が検出され、当該領域がノイズレベルの計測に適していない領域であることを示す計測不能領域判定フラグS1NF、S11NFが立ち上げられる。また差分信号S16については、ノイズ領域識別フラグS16NFFが立ち上がっている領域が検出され、当該領域で計測不能領域判定フラグS16NFが立ち上げられる。
入力映像信号S1は、計測不能領域判定フラグS1NF、S11NF、S16NFが立ち上がっている領域の対応するアクティビティS1A、S11A、S16Aについては、ノイズレベル計測部35において、ノイズレベルの計測対象から除外され、これにより飽和領域検出部22における画素値の平均値を基準にした領域判定結果(フラグS1PAveF、S11PAveFである)、ノイズフリー領域検出部23におけるアクティビティS1A、S11A、S16Aを基準にした領域判定結果(フラグS1NFF、S11NFF、S16NFF)に基づいて、ノイズレベル計測に適していない領域がノイズレベル計測対象から除外され、ノイズレベルの計測精度が向上される。
しかしながらこのように画素値の平均値を基準にした領域判定結果、アクティビティS1A、S11A、S16Aを基準にした領域判定結果によりノイズレベル計測に適していない領域をノイズレベル計測対象から除外した場合でも、入力映像信号S1によっては、ノイズレベルの計測に適していない領域が含まれている場合がある。ここでノイズは、1画面の全面にほぼ均一に重畳されると考えられる。従ってこのように画素値の平均値を基準にした領域判定結果、アクティビティS1A、S11A、S16Aを基準にした領域判定結果によりノイズレベル計測に適していない領域をノイズレベル計測対象から除外して、他の領域で検出されるアクティビティに比して、あまりにかけ離れた値のアクティビティが検出されている領域は、ノイズ以外の高域成分が含まれている可能性が高い。
そこで入力映像信号S1は、さらに最小アクティビティ算出部29において、対応する計測不能領域判定フラグS1NF、S11NF、S16NFが立ち上がっていないアクティビティS1A、S11A、S16Aが選択され、1フィールド単位又は1フレーム単位で、最も値の小さな最小アクティビティMinActが検出される。またこの最小アクティビティMinActを基準にして上限しきい値Act MaxTh1が設定される。
また有効ノイズ領域・アクティビティ選択部31において、入力映像信号S1は、この最小アクティビティMinAct、上限しきい値Act MaxTh1を基準にしてアクティビティS1A、S11A、S16Aが判定され、他の領域で検出されるアクティビティに比して、あまりにかけ離れた値のアクティビティが検出されている領域が検出され、これによりノイズレベルの計測に適していない領域が検出される。入力映像信号S1は、この最小アクティビティMinAct、上限しきい値Act MaxTh1で検出されたノイズレベルの計測に適していない領域もノイズレベル計測対象から除外され、これによっても一段とノイズレベルの計測精度が向上する。
なおこれにより最小アクティビティMinAct、上限しきい値Act MaxTh1は、入力映像信号S1、参照映像信号S11、差分信号S16毎に求めて、対応するアクティビティS1A、S11A、S16Aの判定に使用するようにしてもよい。またアクティビティS1A、S11A、S16Aの分布から、最小アクティビティMinAct、上限しきい値Act MaxTh1を設定するようにしてもよい。なおアクティビティS1A、S11A、S16Aの分布から最小アクティビティMinAct、上限しきい値Act MaxTh1を設定する場合は、例えばノイズによる分布を推定し、このノイズの分布の標準偏差から設定することが考えられる。
入力映像信号S1は、有効ノイズ領域・アクティビティ選択部31において、計測不能領域判定フラグS1NF、S11NF、S16NFによりノイズレベル計測に適していないとされた領域に、この最小アクティビティMinAct、上限しきい値Act MaxTh1で検出されたノイズレベルの計測に適していない領域が加味されて、信号S1、S11、S16毎に、ノイズレベルの計測に適した領域を示すノイズ領域識別フラグS1F、S11F、S16Fが立ち上げられる。
入力映像信号S1は(図10)、ノイズ領域統計値算出部37において、このノイズ領域識別フラグS1F、S11F、S16Fに基づいて、ノイズレベル計測に適した領域の対応するアクティビティS1A、S11A、S16Aが選択的に取得され、この選択したアクティビティS1A、S11A、S16Aが1フィールド単位又は1フレーム単位で統計的に処理されて、代表アクティビティACTが検出される。また代表アクティビティACTを求めるために使用されたアクティビティS1A、S11A、S16Aの個数nが計算される。
入力映像信号S1は(図10及び図11)、この代表アクティビティACTが平均ノイズレベルAveNに変換された後、ノイズレベル時間平滑部40において平滑化処理されてノイズレベル検出結果S7が生成される。しかしながらノイズ領域識別フラグS1F、S11F、S16Fによりあまりにノイズレベル計測に適していない領域が多い1フィールド、1フレームにあっては、そもそもノイズレベルを正確に計測困難な映像であると考えられ、このような1フィールド、1フレームで検出されたノイズレベルは、信頼性が低いと判断することができる。
従って入力映像信号S1は、ノイズレベル変換部36の計測不能判定部39において、代表アクティビティACTを求めるために使用されたアクティビティS1A、S11A、S16Aの個数nが判定され、ノイズレベル計測に適していないフィールド、フレームが検出される。またノイズレベル時間平滑部40において、このノイズレベル計測に適していないフィールド、フレームでは、代表アクティビティACTを平滑化処理対象に加えないようにスイッチ回路41が切り換えられ、また前値ホールドによりノイズレベル検出結果S7を出力するように、スイッチ回路45、46が切り換えられる。これにより実施例では、ノイズフィルタ1によるノイズ除去に好適に、急激な値の変化を防止してノイズレベル検出結果S7が検出される。
またフィルタ特性制御部44により、ノイズレベルが大きく誤差が大きい場合、連続するフィールド、フレームでノイズレベルの変動が大きい場合に、フィルタ処理部42による平滑化の特性が強められ、これによっても測定精度の劣化が防止される。
(3)実施例の効果
以上の構成によれば、面内の特徴量であるアクティビティをノイズフリー領域用のしきい値で判定してノイズレベル計測対象から除外して、ノイズレベルが極端に小さな領域をノイズレベル計測対象から除外したことにより、従来に比して一段と精度良くノイズレベルを計測することができる。すなわちこの場合、テレビジョン受像機、光ディスクレコーダー等のグラフィカルユーザーインターフェースの領域、編集過程で挿入されたキャプション情報等を表示した領域ノイズレベルを計測しないようにすることができ、本来の映像信号に混入するノイズレベルを正確に測定して精度良くノイズレベルを計測することができる。
また参照信号についても同様に処理してノイズレベル計測対象を設定し、参照信号との間の総合的な処理によりノイズレベルを計測することにより、一段と高い精度でノイズレベルを計測することができる。
またフレーム間又はフィールド間の差分信号についても同様に処理してノイズレベル計測対象を設定し、差分信号との間の総合的な処理によりノイズレベルを計測することにより、一段と高い精度でノイズレベルを計測することができる。
また画素値の平均値を平均値用のしきい値で判定してノイズレベル計測対象から除外することにより、ダイナミックレンジの影響を受けてクリッピングしている可能性の高い領域をノイズレベル計測対象から除外してノイズレベルを計測することができ、一段とノイズレベル検出精度を向上することができる。
また特徴量を集計して検出した特徴量の最小値に基づいて上限しきい値を設定し、この上限しきい値により特徴量を判定することにより、正しく動き補正できていないような領域についてはノイズレベル計測対象から除外することができ、これによっても一段とノイズレベルの検出精度を向上することができる。
また計測対象から除外した領域の数をフィールド単位又はフレーム単位で判定して、この領域の数が一定値より大きい場合、前値ホールドによりノイズレベル検出結果を出力することにより、ノイズレベル検出結果をノイズフィルタの処理に適用して、誤ったノイズレベルの抑圧を防止し、さらには急激な画質の変化を防止することができる。
図14は、本発明の実施例2のノイズフィルタに適用されるノイズ領域検出部の構成を示すブロック図である。この実施例2のノイズフィルタは、ノイズ領域検出部18に代えてこのノイズ領域検出部51が適用される点を除いて、実施例1のノイズフィルタと同一に構成される。なお以下において、実施例1と同一の構成は、対応する符号を付して示し、重複した説明は省略する。
このノイズ領域検出部51は、ノイズが抑圧されている恐れのある白レベル側領域、黒レベル側領域をノイズレベル計測対象から除外するようにフラグS1PAveF、S11PAveFを設定する代わりに、抑圧前のノイズレベルを示すようにアクティビティS1A、S11A、S16Aを補正し、これによりこれら領域もノイズレベル計測対象とする。このノイズ領域検出部51は、実施例1において上述したノイズ領域検出部と同一に、部分領域信号分割部20、画素領域特徴量抽出部21で順次入力映像信号S1、参照映像信号S11、差分信号S16を処理してアクティビティS1A、S11A、S16A、入力映像信号S1、参照映像信号S11の画素値の平均値S1PAve、S11PAveを求める。
このノイズ領域検出部51において、飽和補正アクティビティ算出部52は、ノイズが抑圧されている恐れのある白レベル側領域、黒レベル側領域について、抑圧前のノイズレベルを示すようにアクティビティS1A、S11A、S16Aを補正して出力する。すなわち図15に示すように、飽和補正アクティビティ算出部52において、飽和度算出部57は、入力映像信号S1、参照映像信号S11の画素値の平均値S1PAve、S11PAveを入力し、各領域の飽和度S1PS、S11PSを計算する。なおここで飽和度は、画素値の平均値を画素値が取り得る最大値で割り算して求められる。また差分信号S16のアクティビティS16Aについては、入力映像信号S1及び参照映像信号S11の平均値S1PAve及びS11PAveを平均値化し、この平均値から飽和度P16PSを求める。
アクティビティ補正部54は、入力映像信号S1、参照映像信号S11、差分信号S16のアクティビティS1A、S11A、S16Aを、それぞれ対応する飽和度S1PS、S11PS、S16PSに応じた補正量で乗算し、アクティビティS1A、S11A、S16Aの値を補正してアクティビティS1AA、S11AA、S16AAを出力する。なおここで図16は、例えば、白レベル側についてのみアクティビティを補正する場合を示す例であり、この場合、飽和度が白レベル側に近づくに従って補正量が大きくなるように設定される。この実施例では、黒レベル側領域及び白レベル側領域についてアクティビティS1A、S11A、S16Aを補正することから、アクティビティ補正部54は、黒レベルから白レベルに近づくに従って、徐々に値が低下した後、ほぼ一定値となり、その後値が徐々に増大するように補正量が設定される。
ノイズフリー領域検出部53は、この飽和補正アクティビティ算出部52におけるアクティビティS1A、S11A、S16Aの補正に対応するように、しきい値INF Thが設定されている点を除いて、実施例1のノイズフリー領域検出部23と同一に構成され、アクティビティS1AA、S11AA、S16AAをしきい値INF Th、PNF Thで判定して、ノイズフリー領域検出フラグS1NFF、S11NFF、S16NFFを出力する。
計測有効判定部55は、図17に示すように、飽和補正アクティビティ算出部52、ノイズフリー領域検出部53の構成に対応するように、計測不能領域判定部56の構成が異なる点を除いて、実施例1の計測有効判定部24と同一に構成され、飽和補正アクティビティ算出部52、ノイズフリー領域検出部53の処理結果に基づいて、ノイズ領域識別フラグS1F、S11F、S16Fを出力する。従って計測不能領域判定部56は、ノイズフリー領域検出フラグS1NFF、S11NFF、S16NFFの論理値を単に反転させて、ノイズ領域識別フラグS1F、S11F、S16Fを出力する。
なおこれにより有効ノイズ領域・アクティビティ選択部31は、補正前のアクティビティS1A、S11A、S16Aに代えて、補正されたアクティビティS1AA、S11AA、S16AAを処理してフラグS1F、S11F、S16Fを出力する。また後段のノイズレベル計測部35は、補正前のアクティビティS1A、S11A、S16Aに代えて、補正されたアクティビティS1AA、S11AA、S16AAを処理してノイズレベル検出結果S7を出力する。
この実施例のように、ノイズが抑圧されている恐れのある白レベル側領域、黒レベル側領域をノイズレベル計測対象から除外する代わりに、抑圧前のノイズレベルを示すようにアクティビティS1A、S11A、S16Aを補正してノイズレベル計測対象とするようにしても、実施例1と同様の効果を得ることができる。またこの場合、実施例1に比してノイズレベル計測対象の領域数が増大することから、例えば暗闇のシーンが続くような場合でも安定して高い精度でノイズレベルを計測することができる。
ところで実施例1の構成では、入力映像信号S1によっては、殆どの領域でノイズフリー検出フラグS1NFF、S11NFF、S16NFFが立ち上がり、ノイズレベル計測に使用する領域数が極端に少なくなって計測結果の信頼性が劣化する恐れがある。
そこでこの実施例では、ノイズフリー検出フラグS1NFF、S11NFF、S16NFFが立ち上がっている領域の数が増大すると、最小アクティビティMinActによってノイズ計測対象から除外する領域数を低減させる。なお以下において、実施例1、2と同一の構成は、対応する符号を付して示し、重複した説明は省略する。
すなわち図18は、本発明の実施例3のノイズフィルタに適用される計測有効判定部の構成を示すブロック図である。この実施例3のノイズフィルタは、計測有効判定部24に代えてこの計測有効判定部61が適用される点を除いて、実施例1のノイズフィルタと同一に構成される。
この計測有効判定部61において、計測不能領域判定部62は、飽和フラグS1PAveF、S11PAveFをそのまま計測不能領域判定フラグS1NF、S11NFとして出力する。また飽和フラグS1PAveF、S11PAveFの何れかが立ち上がっている場合、計測不能領域判定フラグS16NFを立ち上げる。
最小アクティビティ算出部63は、ノイズフリー検出フラグS1NFF、S11NFF、S16NFFが立ち上がっている領域の数に応じて、最小アクティビティMinActの値を可変して出力する。
すなわち図19は、最小アクティビティ算出部63を示すブロック図である。最小アクティビティ算出部63において、非ノイズフリー最小アクティビティ算出部64は、最小アクティビティ算出部29(図9)と同一にアクティビティS1A、S11A、S16Aを処理して最小アクティビティMinActAを出力する。但し、この実施例では、計測不能領域判定部62により生成される計測不能領域判定フラグS1NF、S11NF、S16NFが、実施例1の場合と異なり、飽和フラグS1PAveF、S11PAveFのみで生成されていることにより、非ノイズフリー最小アクティビティ算出部64は、計測不能領域判定部62から出力される計測不能領域判定フラグS1NF、S11NF、S16NFと、ノイズフリー領域検出フラグS1NFF、S11NFF、S16NFFとを別途処理し、実施例1の最小アクティビティ算出部29と同一領域のアクティビティS1A、S11A、S16Aを選択的に処理して最小アクティビティMinActAを出力する。これによりこの実施例でも、ノイズフリー領域は、ノイズレベル計測に使用しないようにする。
ノイズフリー最小アクティビティ算出部65は、計測不能領域判定フラグS1NF、S11NF、S16NFによって計測可能と判定された領域であって、かつノイズフリー領域検出フラグS1NFF、S11NFF、S16NFFによって計測困難と判定された領域について、非ノイズフリー最小アクティビティ算出部64と同一に対応するアクティビティS1A、S11A、S16Aを選択的に処理して最小アクティビティMinActBを出力する。またこの領域の数Nを、領域の総数で割り算した占有率RateNを計算して出力する。
最小アクティビティ合成部66は、占有率RateNを所定のしきい値RTH1で判定し、図20に示すように、占有率RateNがこのしきい値RTH1以下の場合、すなわちノイズフリー領域検出フラグS1NFF、S11NFF、S16NFFによって計測困難と判定された領域の数が一定値以下の場合、非ノイズフリー最小アクティビティ算出部64で求められた最小アクティビティMinActAの値により最小アクティビティMinActを出力する。
またしきい値RTH1より値の大きな所定のしきい値RTH2で占有率RateNを判定し、占有率RateNがこのしきい値RTH2以上の場合、すなわちノイズフリー領域検出フラグS1NFF、S11NFF、S16NFFによって計測困難と判定された領域の数が一定値以上の場合、ノイズフリー最小アクティビティ算出部65で求められた最小アクティビティMinActBの値により最小アクティビティMinActを出力する。また占有率RateNがこの2つのしきい値RTH1、RTH2の間の値の場合、最小アクティビティMinActA、MinActBを用いた直線補間により最小アクティビティMinActを出力する。これにより図21において矢印Aにより示すように、最小アクティビティ合成部66は、ノイズフリー領域検出フラグS1NFF、S11NFF、S16NFFによって計測困難と判定された領域の数が増大すると、最小アクティビティMinActの値を低減してノイズレベル計測対象の領域数を増大させる。
この実施例によれば、ノイズフリー検出フラグS1NFF、S11NFF、S16NFFが立ち上がっている領域の占有率を検出し、この領域の数が増大すると、最小アクティビティMinActによってノイズ計測対象から除外する領域数を低減させることにより、ノイズレベル計測に使用する領域数が極端に少なくなることによる計測精度の劣化を防止することができ、実施例1の構成に比してさらに一段と高い精度でノイズレベルを計測することができる。
図22は、本発明の実施例4のノイズフィルタに適用される計測有効判定部の構成を示すブロック図である。この実施例4のノイズフィルタは、計測有効判定部55に代えてこの計測有効判定部71が適用される点を除いて、実施例2のノイズフィルタと同一に構成される。従ってこの実施例においても、ノイズが抑圧されている恐れのある白レベル側領域、黒レベル側領域をノイズレベル計測対象から除外する代わりに、抑圧前のノイズレベルを示すようにアクティビティS1A、S11A、S16Aを補正し、その補正結果であるアクティビティS1AA、S11AA、S16AAを用いてノイズレベルを計測する。なお以下において、実施例1〜3と同一の構成は、対応する符号を付して示し、重複した説明は省略する。
この計測有効判定部71は、最小アクティビティMinActの設定によって、最終的にノイズレベル計測対象を設定する。このため計測有効判定部71は、最小アクティビティ算出部72に、抑圧前のノイズレベルを示すように補正されたアクティビティS1AA、S11AA、S16AAを入力する。
ここで図19との対比により図23に示すように、最小アクティビティ算出部72において、非ノイズフリー最小アクティビティ算出部73は、ノイズフリー領域検出フラグS1NFF、S11NFF、S16NFFによりノイズレベル計測可能と判定された領域の対応するアクティビティS1AA、S11AA、S16AAを選択的に処理して最小アクティビティMinActAを出力する。なおこのアクティビティS1AA、S11AA、S16AAの選択的な処理は、実施例1の最小アクティビティ算出部29と同一である。
これに対してノイズフリー最小アクティビティ算出部74は、ノイズフリー領域検出フラグS1NFF、S11NFF、S16NFFによりノイズレベル計測困難と判定された領域の対応するアクティビティS1AA、S11AA、S16AAを選択的に処理して最小アクティビティMinActBを出力する。なおこのアクティビティS1AA、S11AA、S16AAの選択的な処理は、実施例1の最小アクティビティ算出部29と同一である。また最小アクティビティMinActBの計算に使用した領域の占有率RataNを計算して出力する。
最小アクティビティ合成部75は、最小アクティビティ合成部66と同一に、これら最小アクティビティMinActA、MinActBを合成して最小アクティビティMinActを出力する。
有効ノイズ領域・アクティビティ選択部31は、上限しきい値Act MaxTh1、最小アクティビティMinActに基づいて、ノイズ領域識別フラグS1F、S11F、S16Fを設定する。すなわち対応するアクティビティS1AA、S11AA、S16AAの値が最小アクティビティMinActより小さい場合、又は上限しきい値Act MaxTh1より大きい場合、ノイズレベル計測に使用することの信頼性が低いと言え、ノイズ領域識別フラグS1F、S11F、S16Fを立ち下げる。
この実施例によれば、最小アクティビティMinActの設定によって、最終的にノイズレベル計測対象から、キャプション情報等を表示した領域を除外するようにして、ノイズレベル計測対象から除外した領域の占有率に応じて最小アクティビティMinActを可変することにより、実施例1の効果に加えて、暗闇のシーンで、かつノイズが非常に少ないシーンが続いた場合であっても、安定かつ高精度にノイズレベルを計測することができる。
図24は、本発明の実施例5のノイズフィルタに適用される計測部の構成を示すブロック図である。この計測部81において、上述の各実施例と同一の構成は、対応する符号を付して示し、重複した説明は省略する。
この計測部81は、入力映像信号S1と、参照映像信号生成部11から出力される参照映像信号S11とを部分領域信号分割部82に入力し、ここで部分入力映像信号S1P及び部分参照映像信号S11Pを生成する。なお部分領域信号分割部82は、実施例1について上述した部分領域信号分割部20と同一に、部分入力映像信号S1P及び部分参照映像信号S11Pを生成する。
帯域分割部83は、部分入力映像信号S1P及び部分参照映像信号S11Pを入力し、この入力した画素領域の信号をそれぞれ周波数領域上の複数帯域の信号に変換して出力する。ここでこの周波数領域上への変換処理は、例えばHadamard変換、Haar変換、ディスクリートコサイン変換等の直交変換処理、フィルタバンクを利用したwavelet 変換、サブバンド分割等、種々の手法を適用することができる。帯域分割部83は、それぞれこの複数帯域の信号を部分入力映像帯域信号S1PB及び部分参照映像帯域信号S11PBとして出力する。
差分信号生成部84は、部分入力映像信号S1Pから部分参照映像信号S11Pを減算して部分差分信号S16Pを出力する。また差分信号生成部84は、対応する帯域毎に、部分入力映像帯域信号S1PBから部分参照映像帯域信号S11PBを減算し、部分差分帯域信号S16PBを出力する。
ノイズ領域検出部85は、画素領域上の信号である部分入力映像信号S1P、部分参照映像信号S11P、部分差分信号S16Pについては、上述の実施例2のノイズ領域検出部51と同一に処理して、フラグS1F、S11F、S16F、アクティビティS1AA、S11AA、S16AAを出力する。また周波数領域上の信号である部分入力映像帯域信号S1PB、部分参照映像帯域信号S11PB、部分差分帯域信号S16PBについては、それぞれ各帯域における特徴量を検出して出力する。
このため図25に示すように、ノイズ領域検出部85は、画素領域上の信号の処理系については、上述の実施例2のノイズ領域検出部51と同一に構成される。
周波数領域特徴量抽出部86は、周波数領域上の信号S1PB、S11PB、S16PBからそれぞれノイズらしさの程度を示す平坦度S1B、S11B、S16Bをそれぞれ領域毎に検出する。ここで図26に示すように、映像信号は、一般に、特定の周波数にスペクトル分布が偏る。これに対して図27に示すように、ノイズは、広い周波数帯域にスペクトルが分布する。従ってスペクトルの分布が平坦であればある程、当該信号は、ノイズ成分が多く含まれる信号であると言える。なお平坦度S1B、S11B、S16Bには、各帯域のスペクトルのばらつきを示す分散値、スペクトルの最大値と最小値の比等を適用することができる。
計測有効判定部87は、上述した各実施例の計測有効判定部におけるフラグS1F、S11F、S16Fの設定条件に、対応する平坦度S1B、S11B、S16Bを加味してフラグS1F、S11F、S16Fを設定する。このため図28に示すように、計測有効判定部87は、フラグS1F、S11F、S16Fを設定する有効ノイズ領域・アクティビティ選択部88を除いて、上述の実施例4の計測有効判定部71と同一に形成される。
有効ノイズ領域・アクティビティ選択部88は、上述した各実施例の有効ノイズ領域・アクティビティ選択部31におけるフラグS1F、S11F、S16Fの設定条件を満足する場合であって、かつ対応する平坦度S1B、S11B、S16Bをそれぞれ所定のしきい値で判定してスペクトラム分布からノイズ成分が支配的であると判定される領域で、フラグS1F、S11F、S16Fを立ち上げる。これによりこの実施例では周波数領域における映像信号の特徴量であるスペクトラム分布を参考にしてノイズレベル計測対象の領域を設定する。
図29は、ノイズレベル計測部90の構成を示すブロック図である。このノイズレベル計測部90において、ノイズ領域統計値算出部91は、ノイズ領域統計値算出部37と同一に、ノイズ領域識別フラグS1F、S11F、S16Fが立ち上がっている領域のアクティビティS1AA、S11AA、S16AAを統計的に処理し、アクティビティS1AA、S11AA、S16AAを代表する代表アクティビティACTを出力する。
またノイズ領域識別フラグS1F、S11F、S16Fが立ち上がっている領域について、ノイズ領域統計値算出部91は、部分入力映像帯域信号S1PB、部分参照映像帯域信号S11PB、部分差分帯域信号S16PBを選択的に処理し、代表アクティビティACTに対応するノイズ領域側の代表アクティビティACTBを出力する。なおこの場合、ノイズ領域統計値算出部91は、帯域毎に、複数領域におけるスペクトラム値の2乗平均、絶対値平均、標準偏差等を計算して、帯域毎に、代表アクティビティACTBを出力する。
ノイズレベル変換部92は、代表アクティビティACTについては、上述の実施例と同一に処理してノイズレベル検出結果S7を出力する。これに対してノイズ領域側の代表アクティビティACTBについては、帯域毎に、増幅回路93で利得AKを乗算して値を補正した後、ノイズレベル時間平滑部94に入力する。
ノイズレベル時間平滑部94は、帯域毎に、増幅回路93の出力信号を時間平滑化処理し、帯域毎のノイズレベル計測結果S7Bを出力する。
この実施例によれば、周波数領域における平坦度を基準にしてフラグS1F、S11F、S16Fを設定して、各帯域で検出されるスペクトラムの平坦度に応じてノイズレベル計測対象の領域を可変していることから、画素値を基準にしたアクティビティによってはノイズレベル計測対象とするか否か判定困難な場合でも、正しくノイズレベル計測対象を判定することができる。具体的に、コントラストが低いテクスチャ部、画素値の値が小さいフレーム又はフィールドであっても、周波数領域における平坦度を基準にすれば、確実にノイズレベル計測に適した領域か否か判定することができる。従って上述の実施例に比して一段とノイズレベル計測精度を向上することができる。
またこの周波数領域における平坦度を求める構成を有効に利用して、帯域毎にノイズレベル計測結果を出力することにより、映像信号を帯域分割して処理する場合に、種々に対応することができる。具体的に、ノイズフィルタでは、映像信号を帯域分割してノイズを抑圧する際に、各帯域の補正用信号の信号レベルを適切に設定することができる。またエンハンス処理などの高画質化技術にも広く適用することができる。
図30は、本発明の実施例6のノイズフィルタに適用される計測部の構成を示すブロック図である。この計測部101は、入力映像信号S1のみを用いてノイズレベルを計測する。
このため計測部101は、直接、入力映像信号S1をノイズ領域検出部102に入力し、ノイズ領域検出部102の出力をノイズレベル計測部103で処理してノイズレベル計測結果S7を出力する。
ここでノイズ領域検出部102は、図31に示すように、上述した各実施例のノイズ領域検出部における参照映像信号S11、差分信号S16に関する構成が省略されて各部104〜108が形成され、入力映像信号S1のアクティビティS1A、ノイズ領域識別フラグS1Fを出力する。
またノイズレベル計測部103も同様に、上述した各実施例の対応する構成から参照映像信号S11、差分信号S16に関する構成が省略されて形成される。
この実施例のように、入力映像信号のみによりノイズレベルを計測する場合でも、従来に比してノイズレベルの計測精度を向上することができる。
図32は、本発明の実施例7のノイズフィルタに適用される計測部の構成を示すブロック図である。この計測部111は、図24について上述した実施例5の各映像信号を帯域分割してノイズレベルを計測する構成を前提に、入力映像信号S1のみを用いてノイズレベルを計測する。
このため計測部111は、直接、入力映像信号S1を部分領域信号分割部112に入力し、またこの部分領域信号分割部112から出力される部分入力映像信号S1Pを帯域分割部113に入力する。また部分領域信号分割部112、帯域分割部113の出力を順次ノイズ領域検出部114、ノイズレベル計測部115で処理してノイズレベル検出結果S7、S7Bを出力する。
ここでこれら部分領域信号分割部112、帯域分割部113、ノイズ領域検出部114、ノイズレベル計測部115は、上述した実施例5の対応する構成から参照映像信号S11、差分信号S16に関する構成が省略されて形成される。
この実施例のように、映像信号を帯域分割してノイズレベルを計測する構成を前提に、入力映像信号S1のみを用いてノイズレベルを計測する場合でも、従来に比してノイズレベルの計測精度を向上することができる。
図33は、図3との対比により本発明の実施例8のノイズフィルタに適用される計測部の構成を示すブロック図である。この計測部121において、上述の実施例1と同一の構成は、対応する符号を付して示し、重複した説明は省略する。この計測部121において、ノイズ領域検出部122は、差分信号S16についてのみアクティビティS16A、ノイズ領域識別フラグS16Fを生成し、ノイズレベル計測部123は、このアクティビティS16A、ノイズ領域識別フラグS16Fを使用してノイズレベル検出結果S7を出力する。
ここで図34は、ノイズ領域検出部122の構成を示すブロック図である。ノイズ領域検出部122は、入力映像信号S1、参照映像信号S11、差分信号S16を部分領域信号分割部20、画素領域特徴量抽出部21、飽和領域検出部22で順序処理し、飽和フラグS1PAveF、S11PAveFを出力する。
ノイズフリー領域検出部125は、実施例1のノイズフリー領域検出部23から、入力映像信号S1、参照映像信号S11に関する構成が省略されて形成され、差分信号S16についてのみノイズフリー領域検出フラグS16NFFを出力する。計測有効部126は、実施例1の対応する構成から、入力映像信号S1、参照映像信号S11に関する構成が省略されて形成され、差分信号S16についてのみノイズ領域識別フラグS16F、アクティビティS16Aを出力する。
ノイズレベル計測部123は、図35に示すように、ノイズ領域統計値算出部127、ノイズレベル変換部128でノイズ領域識別フラグS16F、アクティビティS16Aを順次処理してノイズレベル計測結果S7を出力する。ここでノイズ領域統計値算出部127、ノイズレベル変換部128は、実施例1の対応する構成から、入力映像信号S1、参照映像信号S11に関する構成が省略されて形成される。
この実施例のように差分信号だけでノイズレベルを計測する場合にも、従来に比してノイズレベルの計測精度を向上することができる。なおこの実施例のように差分信号だけでノイズレベルを計測して得られるノイズレベル計測結果は、原理的に時間変動するノイズ成分のみを計測することになることから、例えば時間巡回型フィルタのように時間変動するノイズを低減する処理に適用して、有効にノイズを低減することができ、その結果、コントラストの低い動物体境界部で尾引きと呼ばれるボケの発生を防止して、確実にノイズを抑圧することができる。
図36は、図24との対比により本発明の実施例9のノイズフィルタに適用される計測部の構成を示すブロック図である。この計測部131において、上述の実施例と同一の構成は、対応する符号を付して示し、重複した説明は省略する。この計測部131は、図24について上述した実施例5の各映像信号を帯域分割してノイズレベルを計測する構成を前提に、差分信号S16についてのみノイズレベルを計測する。計測部131は、初めに差分信号生成部132で部分差分信号S16Pを生成した後、続く帯域分割部133で部分差分帯域信号S16PBを生成する。
この計測部131は、ノイズ領域検出部134、ノイズレベル計測部135で部分差分帯域信号S16PB、入力映像信号S1、参照信号S11、差分信号S16を順次処理し、差分信号S16についてのみノイズレベルを計測してノイズレベル計測結果S7、S7Bを出力する。
この実施例のように、帯域分割してノイズレベルを計測する構成を前提に、差分信号S16についてのみノイズレベルを計測するようにしても、従来に比してノイズレベル計測の精度を向上することができる。
図37は、本発明の実施例10のノイズフィルタを示すブロック図である。このノイズフィルタにおいて、上述の実施例と同一の構成は、対応する符号を付して示し、重複した説明は省略する。このノイズフィルタ141は、計測部142で入力映像信号S1のノイズレベルを計測し、そのノイズレベル計測結果S7を用いてノイズ低減のレベルを可変する。
計測部142は、入力映像信号S1を参照映像信号生成部143に入力して参照映像信号S11を生成し、部分領域信号分割部20で入力映像信号S1、参照映像信号S11を処理して部分入力映像信号S1P、部分参照映像信号S11Pを生成する。また差分信号生成部16で部分入力映像信号S1P、部分参照映像信号S11Pから部分差分信号S16Pを生成する。なお参照映像信号生成部143は、1フレーム前の入力映像信号S1に代えて、このノイズフィルタ141の処理結果である出力映像信号S18を動き補正して参照映像信号S11を生成する。
ノイズ領域検出部144は、部分入力映像信号S1P、部分参照映像信号S11P、部分差分信号S16Pを処理して、入力映像信号S1、参照映像信号S11のアクティビティS1A、S11A、ノイズ領域識別フラグS1F、S11Fを出力する。
ここで図38に示すように、ノイズ領域検出部144は、部分領域信号分割部20が差分信号生成部16の前段に配置されたことに対応して、部分入力映像信号S1P、部分参照映像信号S11P、部分差分信号S16Pを直接、画素領域特徴量抽出部145に入力する。画素領域特徴量抽出部145は、画素領域特徴量抽出部21と同様にして、領域毎に、それぞれ入力映像信号S1、差分信号S16のアクティビティS1A、S16Aを検出する。また入力映像信号S1、参照映像信号S11の平均値S1PAve、S11PAveを検出して出力する。
飽和領域検出部147は、飽和領域検出部22と同様に、この入力映像信号S1、参照映像信号S11の平均値S1PAve、S11PAveを処理して飽和フラグS1PAveF、S11PAveFを出力する。
ノイズフリー領域検出部146は、ノイズフリー領域検出部23と同様にして、入力映像信号S1、差分信号S16のノイズフリー領域検出フラグS1NFF、S16NFFを出力する。
計測有効判定部148は、計測有効判定部24と同様に、入力映像信号S1、差分信号S16のアクティビティS1A、S16A、入力映像信号S1、参照映像信号S11の飽和フラグS1PAveF、S11PAveF、入力映像信号S1、差分信号S16のノイズフリー領域検出フラグS1NFF、S16NFFを処理して、入力映像信号S1、差分信号S16のノイズ領域識別フラグS1F、S16F、入力映像信号S1、差分信号S16のアクティビティS1A、S16Aを出力する。またそれぞれ入力映像信号S1、差分信号S16のノイズ信頼度S1C、A16Cを出力する。なおここでノイズ信頼度S1C、A16Cは、それぞれ入力映像信号S1、差分信号S16のアクティビティS1A、S16Aがノイズレベルを示す信頼度である。
ここで図39は、この計測有効判定部148を詳細に示すブロック図である。計測有効判定部148において、計測不能領域判定部150は、計測不能領域判定部27と同様に、飽和フラグS1PAveF、S11PAveF、ノイズフリー領域検出フラグS1NFF、S16NFFより、入力映像信号S1、差分信号S16の計測不能領域判定フラグS1NF、S16NFを出力する。具体的に、計測不能領域判定部150は、入力映像信号S1の飽和フラグS1PAveF、ノイズ領域識別フラグS1NFFの何れかが立ち上がっている場合、当該領域における入力映像信号S1の計測不能領域判定フラグS1NFを立ち上げる。また何れかの飽和フラグS1PAveF、S11PAveFが立ち上がっている場合、又は差分信号S16のノイズ領域識別フラグS16NFFが立ち上がっている場合、当該領域における差分信号S16の計測不能領域判定フラグS16NFを立ち上げる。
最小アクティビティ算出部29は、入力映像信号S1、差分信号S16のアクティビティS1A、S16Aから最小アクティビティMinActを検出して出力する。
閾値設定部152は、閾値設定部30と同様にして、この最小アクティビティMinActから上限しきい値ActMAXTh1 を計算して出力する。さらに閾値設定部152は、ノイズ信頼度S1C、A16Cを求めるためのしきい値ActMaxTh2 を計算して出力する。ここで閾値設定部152は、上限しきい値ActMAXTh1 の計算に使用した第1の中間計算値EstSD にしきい値ActMaxTh2 計算用の定数ActTh Factor2 を乗算し、その結果得られる乗算値に上限しきい値Act MAX Th1 の計算に使用した第2の中間計算値EstMean を加算してしきい値ActMaxTh2 (= EstMean + EstSD ×ActTh Factor2 )を計算する。なおここで定数ActTh Factor2 は、定数ActTh Factor1 より大きな値である。
有効ノイズ領域・アクティビティ選択部153は、有効ノイズ領域・アクティビティ選択部31と同様にして、入力映像信号S1、差分信号S16のノイズ領域識別フラグS1F、S16Fを出力する。さらに有効ノイズ領域・アクティビティ選択部153は、それぞれ入力映像信号S1、差分信号S16のアクティビティS1A、S16Aを上限しきい値ActMAXTh1 、しきい値ActMaxTh2 で判定し、その判定結果に基づいて図40に示す特性により入力映像信号S1及び差分信号S16のノイズ信頼度S1C及びS16Cを出力する。
より具体的に、有効ノイズ領域・アクティビティ選択部153は、アクティビティS1A、S16Aの値が上限しきい値ActMAXTh1 より小さい場合、値1の一定値によりそれぞれノイズ信頼度S1C及びS16Cを出力する。またアクティビティS1A、S16Aの値がしきい値ActMaxTh2 より大きい場合、値0の一定値によりそれぞれノイズ信頼度S1C及びS16Cを出力する。またアクティビティS1A、S16Aの値が上限しきい値ActMAXTh1 からしきい値ActMaxTh2 の間の値の場合、アクティビティS1A、S16Aの値をパラメータとした直線補間によりノイズ信頼度S1C及びS16Cを出力する。これにより有効ノイズ領域・アクティビティ選択部153は、アクティビティS1A、S16Aの値が一定値を越えて増大すると、値が小さくなるようにノイズ信頼度S1C及びS16Cを設定する。
ノイズレベル計測部155(図37)は、ノイズレベル計測部35と同様に、入力映像信号S1、差分信号S16のノイズ領域識別フラグS1F、S16Fを基準にして入力映像信号S1、差分信号S16のアクティビティS1A、S16Aを処理してノイズレベル計測結果S7を出力する。
ノイズ抽出部157は、部分入力映像信号S1P、部分差分信号S16Pからノイズ信号S19を生成して出力する。このノイズフィルタ141は、このノイズ信号S19を入力映像信号S1(S1P)から減算することにより、入力映像信号S1のノイズを低減する。従ってこのノイズフィルタは、時間巡回型3Dノイズフィルタと、画面内の情報のみでノイズ低減処理を行う2Dノイズフィルタとのハイブリッド型により形成される。
ここで図41は、ノイズ抽出部157を詳細に示すブロック図である。ノイズ抽出部157において、ノイズ抽出ブレンド比設定部158は、部分入力映像信号S1P、部分差分信号S16Pによるノイズ成分のブレンド比BRを計算して出力する。具体的にノイズ抽出ブレンド比設定部158は、図42に示すように、ノイズ信頼度S1C又はS16Cを第1及び第2のしきい値DRTh1 、DRTh2 で判定し、この一方のノイズ信頼度の値が第1のしきい値DRTh1 以下、第2のしきい値DRTh2 以上の場合、それぞれ入力映像信号S1のノイズ成分、又は差分信号S16のノイズ成分のみを選択するように、ブレンド比BRを値0又は1に設定する。またこの一方のノイズ信頼度の値が第1及び第2のしきい値DRTh1 、DRTh2 の間の値の場合、ノイズ信頼度の値に応じた直線補間によりブレンド比BRを設定する。なおこの実施例では、差分信号S16側のノイズ信頼度S16Cを用いて、この図42に示す特性によりブレンド比BRを出力する。なおブレンド比BRの設定方法は、これに限らず、2つのノイズ信頼度S1C、S16Cの双方を使用して設定するようにしてもよい。
非線形特性設定部159は、入力映像信号S1及び差分信号S16のノイズ成分を処理する特性を決定する。ここでこのノイズ抽出部157は、大振幅成分をクリップしてノイズ成分を抽出しており、非線形特性設定部159は、このクリップの処理である非線形特性を決定する。具体的に、ノイズ抽出部157は、図43及び図44に示す入出力特性によりノイズ成分を非線形処理しており、ノイズレベル計測結果S7、対応するノイズ信頼度に基づいて、ノイズレベルが増大するに従って、クリップの処理を開始する信号レベルNth、−Nthが0レベルから遠ざかるように非線形特性を決定する。またノイズ信頼度が減少するに従ってクリップの特性を急峻な特性から滑らかな特性に設定する。非線形特性設定部159は、入力映像信号S1、差分信号S16用に、それぞれ特性設定信号S1T、S16Tを非線形特性処理部160に出力し、非線形特性処理部160における非線形処理の特性をこの決定した特性に設定する。
非線形特性処理部160は、差分信号S16については、非線形特性設定部159で設定された入出力特性で補正し、ノイズ成分S16Nとして出力する。これに対して入力映像信号S1については、所定のハイパスフィルタで高域成分を抽出し、この高域成分を非線形特性設定部159で設定された入出力特性で補正してノイズ成分S1Nとして出力する。
ブレンド処理部161は、この非線形特性処理部160から出力されるノイズ成分S1N、S16Nをブレンド比BRで重み付け加算してノイズ信号S19を出力する。なおブレンド処理部161は、図8について上述したように隣接する領域が部分的に重なり合っている場合、領域が重複している部分については、各領域で求められるノイズ成分を平均値化してノイズ信号S19を出力する。なおこの平均値の処理は、後述する部分領域統合部166で実行してもよい。
ノイズ減算処理部163は、いわゆる貼りつき防止のためにノイズ信号S19の信号レベルを補正して入力映像信号S1のノイズレベルを低減する。ここで貼りつきは、時間巡回型フィルタにおいて帰還率が1近傍のときに発生する現象であり、動きのある部分で著しく画質が劣化して知覚される。そこでノイズ減算処理部163は、図45に示すように、ノイズ信号S19を貼りつき防止部164に入力する。ここで貼りつき防止部164は、図46に示す入出力特性により入力信号補正し、小振幅成分を抑圧して出力する。なおこの特性の補正は、図46との対比により図47に示すように、種々の特性により補正することができる。ノイズ減算処理部163は、続く減算回路165で、この貼りつき防止部164の出力信号を部分入力映像信号S1Pから減算してノイズ成分を抑圧する。
部分領域信号統合部166(図37)は、部分領域信号分割部20とは逆に、このノイズ減算処理部163から領域毎にまとまって出力される部分入力映像信号S1Pをラスタ走査の順序により画素値が連続する映像信号に変換し、この映像信号を出力映像信号S18として出力する。
この実施例によれば、ノイズ計測部の構成を有効に利用して時間巡回型3Dノイズフィルタと2Dノイズフィルタとのハイブリッド型によりノイズフィルタを構成して、従来に比して高い精度でノイズレベルを計測することができ、また計測結果を有効に利用してノイズを低減することができる。
すなわちノイズレベル計測時に、それぞれ入力映像信号及び差分信号のアクティビティにおける信頼度であるノイズ信頼度を検出し、このノイズ信頼度に応じたブレンド比の設定により時間巡回型3Dノイズフィルタによる動作と2Dノイズフィルタによる動作とを適応的に切り換えることができ、これにより種々の入力映像信号に適切に対応してノイズを低減することができる。
すなわち時間巡回型3Dノイズフィルタではノイズ低減効果が不十分な移動物体等の映像については、2Dノイズフィルタによりノイズレベルを低減することができ、これにより従来に比して確実にノイズを低減することができる。
またこれとは逆に2Dノイズフィルタではノイズの低減効果が不十分だったテクスチャ部については、時間巡回型3Dノイズフィルタによりノイズレベルを低減することができ、これにより従来に比して確実にノイズを低減することができる。
またノイズ成分を非線形処理してノイズレベルを低減するようにして、この非線形処理の特性をノイズレベル検出結果、ノイズ信頼度に応じて可変することにより、よりノイズらしい領域ほどノイズの低減効果を強くしつつ、ノイズの低減効果を強くした場合に劣化する恐れのあるテクスチャ部、動き境界部でのボケをできる限り小さくことができる。
またノイズ成分を非線形処理するようにして、ノイズ信頼度に応じて、大振幅を抑圧するようにこの非線形処理の特性を設定することにより、非線形処理の特性を適応的に可変して一段とノイズレベルの抑圧効果を向上することができる。
図48は、図37との対比により本発明の実施例11のノイズフィルタを示すブロック図である。なおこの実施例において、上述の実施例と同一の構成は、対応する符号を付して示し、重複した説明は省略する。
この実施例において、計測部172は、実施例5について上述した計測部81と同様に、入力映像信号、差分信号を帯域分割部173で帯域分割し、周波数領域における平坦度を基準にしてノイズレベルを計測する。なおこの図48の計測部172では、差分信号を生成した後に帯域分割している点が、実施例5の計測部81と異なる。
計測部172は、参照映像信号S11については、各領域をノイズ計測に使用しないように構成される。従って図25との対比により図49にノイズ領域検出部174の構成を示すように、このノイズ領域検出部174の各部175〜179では、この参照映像信号S11に関する構成が異なる点を除いて対応する各部と同一に構成される。なおノイズレベル計測部174は、図50に示す信頼度補正係数により値を補正してノイズ信頼度S1C、S16Cを出力する。なおこの信頼度補正係数は、対応する平坦度S1B、S16Bに応じた係数である。
ノイズレベル計測部180は、ノイズレベル計測部155と同様に、ノイズ領域検出部174の出力に基づいて、ノイズ計測結果S7、S7Bを出力する。
ノイズ抽出部181は、帯域分割部173から帯域分割されて出力される部分入力映像信号S1PB、差分信号S16PBを計測部172の出力により処理してノイズ信号S19を出力する。
図51は、ノイズ抽出部181の構成を詳細に示すブロック図である。このノイズ抽出部181は、実施例10において説明したノイズ抽出部157と同様に、帯域毎にブレンド比BRを設定する。
このノイズ抽出部181において、非線形特性処理部183は、部分入力映像信号S1PB、差分信号S16BPの帯域毎に、非線形処理を実行してノイズ成分S1NB、S16NBを出力する。またこの非線形特性処理部183の構成に対応して、非線形特性設定部184は、帯域毎のノイズレベル検出結果S7Bに基づいて、帯域毎に、非線形特性処理部183の特性を設定する。なお各帯域の特性設定方法は、実施例10について上述した通りである。
ブレンド処理部185は、ブレンド処理部161と同様にして、帯域毎に、ノイズ抽出部181の出力信号を合成して出力する。帯域合成部186、帯域分割部173とは逆に、複数帯域によるブレンド処理部185の出力信号を合成し、ノイズ信号S19を出力する。
この実施例によれば、計測部における帯域毎のノイズレベル計測の構成を有効に利用して、帯域毎にノイズレベルを低減することにより、従来に比して一段と確実にノイズレベルを低減することができる。すなわち動きボケ、テクスチャ部などのボケを抑制しつつ、効果的にノイズを低減することが可能となる。また周波数帯域で偏りをもつようなノイズについて、より効果的にノイズ低減することができる。なおこのような周波数帯域で偏りをもつようなノイズは、例えばいわゆる横引きノイズ(クランプノイズ)、RF系のノイズ、MPEG等の圧縮ノイズである。
またこのとき各帯域で検出される平坦度に応じてノイズ信頼度を補正することによっても、一段とノイズレベル低減効果を得ることができる。
図52は、図48との対比により本発明の実施例12のノイズフィルタを示すブロック図である。なおこの実施例において、上述の実施例と同一の構成は、対応する符号を付して示し、重複した説明は省略する。ノイズフィルタ191は、いわゆる2Dノイズフィルタであり、入力映像信号S1の面内成分のみによりノイズレベルを低減する。従って計測部192は、ノイズ領域検出部193でノイズ信頼度S1Cを生成している点を除いて、実施例7の計測部111と同一に構成される。
ノイズ抽出部194は、帯域分割された部分入力映像信号S1PBを処理してノイズ信号S19を生成する。すなわち図53に示すように、ノイズ抽出部194は、非線形特性設定部195において、ノイズ信頼度S1C、ノイズレベル検出結果S7Bに基づいて、入力映像信号S1のみについて、帯域毎に非線形特性を決定する。またノイズ抽出部194は、非線形特性処理部196において、非線形特性設定部195で決定した非線形特性で部分入力映像信号S1PBの特性を補正し、ノイズ信号S19Bとして出力する。
この実施例によれば、帯域分割してノイズレベルを低減することにより、2Dノイズフィルタにおいて、確実にノイズレベルを低減することができる。
図54は、図48の対比により本発明の実施例13のノイズフィルタを示すブロック図である。なおこの実施例において、上述の実施例と同一の構成は、対応する符号を付して示し、重複した説明は省略する。ノイズフィルタ201は、いわゆる時間巡回型ノイズフィルタであり、入力映像信号S1のフィールド間差分又はフレーム間差分成分のみによりノイズレベルを低減する。従って計測部202は、参照映像信号生成部143の構成が異なる点、ノイズ領域検出部203でノイズ信頼度S16Cを生成している点を除いて、実施例9の計測部131と同一に構成される。
この実施例によれば、帯域分割してノイズレベルを低減することにより、時間巡回型3Dノイズフィルタにおいて、確実にノイズレベルを低減することができる。
図55は、図34との対比により本発明の実施例14のノイズフィルタに適用されるノイズ領域検出部の構成を示すブロック図である。この実施例の計測部は、このノイズ領域検出部210の構成が異なる点を除いて、実施例8の計測部121と同一に構成される。またこのノイズ領域検出部210は、ノイズフリー領域検出部125に代えて、ノイズフリー領域検出部211が設けられ、このノイズフリー領域検出部211に関する構成が異なる点を除いて、図34のノイズ領域検出部122と同一に構成される。
ここで入力映像信号S1等を複数の領域(以下、部分領域と呼ぶ)に分割する場合、図56に示すように、字幕、GUI等が部分的にしか含まれない領域Aが発生する。この場合、上述の実施例のように、アクティビティを単純にしきい値で判定してノイズフリー領域を検出していたのでは、このような領域Aがノイズフリー領域として検出されないことになる。すなわち上述の実施例では、この領域Aは、ノイズレベルの計測に使用するノイズ領域と判定され、これによりノイズ計測結果に誤差が発生する。
そこでこの実施例では、画素単位でノイズの計測に適しているか否か判定し、この判定結果に基づいてノイズフリー領域を設定する。このためノイズフリー領域検出部211は、近傍画素との相関を利用して画素単位でノイズ計測に適していない画素(以下、ノイズフリー画素と呼ぶ)か否か判定する。このためノイズ領域検出部210は、差分信号S16をノイズフリー領域検出部211のノイズフリー画素検出部212に入力する。
図57に示すように、ノイズフリー画素検出部212は、差分信号S16を近傍画素差異度算出部216に入力する。近傍画素差異度算出部216は、図58に示すように、差分信号S16の各画素を順次処理の対象画素に設定し、この対象画素を中心として所定範囲の局所窓を設定する。なお局所窓は、図7について上述した部分領域より小さな領域を囲むように設定される。
また近傍画素差異度算出部216は、この局所窓で囲まれる近傍画素毎に、対象画素との間で、画素値の差異度を検出する。なおこの差異度は、例えば絶対値差分、2乗差分等、近傍画素との間の相関性を示す各種の指標を適用することができる。
類似画素カウンタ部217は、近傍画素差異度算出部216で検出された差異度を所定のしきい値で判定し、差異度がしきい値以下の近傍画素数を対象画素毎にカウントしてカウント値を出力する。これにより類似画素カウンタ部217は、対象画素との間で相関性の高い近傍画素数を対象画素毎に検出する。
しきい値判定部218は、類似画素カウンタ部217のカウント値を所定のしきい値で判定し、対象画素との間で相関性の高い近傍画素数がこのしきい値より大きい対象画素をノイズフリー画素として検出する。しきい値判定部218は、このノイズフリー画素の検出結果をノイズフリー画素識別フラグS16NFPとして出力する。
ノイズフリー混入領域検出部213は(図55)、このノイズフリー画素識別フラグS16NFPに基づいて、近傍画素との間の相関性の高い画素を多く含む領域を検出し、ノイズフリー混入領域識別フラグS16NFFMを出力する。すなわち図59に示すように、ノイズフリー混入領域検出部213において、ノイズフリー画素混入領域検出部220は、ノイズフリー画素識別フラグS16NFPを入力し、部分領域毎に、ノイズフリー画素識別フラグS16NFPをカウントする。またノイズフリー画素混入領域検出部220は、カウント値を所定のしきい値で判定し、これにより図60(A)においてノイズフリー画素混入領域により示す、近傍画素との間の相関性の高い画素を多く含む領域を検出する。ノイズフリー画素混入領域検出部220は、この検出結果をノイズフリー画素混入領域識別フラグにより出力する。
遅延処理部221は、このノイズフリー画素混入領域識別フラグを後段のノイズフリー混入領域判定部222の処理に対応する期間だけ遅延させて出力する。
ノイズフリー混入領域判定部222は、ノイズフリー画素混入領域検出部220、遅延処理部221から出力されるノイズフリー画素混入領域識別フラグに基づいて、処理対象の部分領域のノイズフリー画素混入領域識別フラグが立ち上がっている場合、すなわち近傍画素との間の相関性の高い画素を多く含む領域で、ノイズフリー混入領域識別フラグS16NFFMを立ち上げる。また処理対象の部分領域のノイズフリー画素混入領域識別フラグが立ち上がっていない場合でも、処理対象の部分領域に隣接する部分領域でノイズフリー画素混入領域識別フラグが立ち上がっている場合、すなわち隣接する部分領域が、近傍画素との間の相関性の高い画素を多く含む領域である場合、ノイズフリー混入領域識別フラグS16NFFMを立ち上げる。
これにより図60(A)との対比により図60(B)において隣接ノイズフリー画素混入領域により示すように、ノイズフリー混入領域検出部213は、隣接する部分領域がノイズフリー画素混入領域である場合も含めて、当該部分領域をノイズフリー混入領域と判定し、その判定結果をノイズフリー混入領域識別フラグS16NFFMにより出力する。なおここで図60(B)では、太線による矩形の枠により、処理対象の部分領域において、ノイズフリー画素混入領域識別フラグの判定に供する領域を示す。
計測有効判定部214は、ノイズフリー領域検出フラグS16NFFに代えてノイズフリー混入領域識別フラグS16NFFMを基準にしてアクティビティS16Aを出力する点を除いて、図34の計測有効判定部126と同一に構成される。
この実施例では、近傍画素と相関性の高い画素を検出し、この検出結果に基づいて、近傍画素との間の相関性の高い画素を多く含む領域をノイズレベル計測対象から除外することにより、少しでも疑わしい領域については、ノイズレベルの計測に使用しないようにすることができ、これにより字幕、GUIの影響を一段と有効に回避して確実にノイズレベルを検出することができる。
より具体的に、近傍画素との間の非相関性を示す指標である差異度を画素毎に検出し、この差異度を判定して、部分領域毎に、近傍画素と相関性の高い画素数を検出して判定し、近傍画素との間の相関性の高い画素を多く含む領域を検出することにより、確実にノイズレベルを検出することができる。
また差分信号を使用して差異度を検出することにより、絶対値差分、2乗差分等の簡易な演算処理による指標により差異度を検出することができる。
また対象領域だけでなく、隣接領域が近傍画素との間の相関性の高い画素を多く含む領域である場合にも、当該領域をノイズレベル計測対象から除外することにより、確実に字幕、GUI等の影響を回避して正確にノイズレベルを計測することができる。
図61は、図1及び図55との対比により本発明の実施例15のノイズフィルタに適用されるノイズ領域検出部の構成を示すブロック図である。この実施例の計測部は、この図61に示すノイズ領域検出部230の構成が異なる点を除いて、実施例1の計測部と同一に構成される。またこのノイズ領域検出部230は、ノイズフリー領域検出部23に代えて、ノイズフリー領域検出部231が設けられる点を除いて、図1のノイズ領域検出部18と同一に構成される。
またノイズフリー領域検出部231は、ノイズフリー画素検出部212、ノイズフリー混入領域検出部213に代えて、ノイズフリー画素検出部232、ノイズフリー混入領域検出部233が設けられる点を除いて図55のノイズフリー領域検出部211と同一に構成される。ノイズフリー領域検出部231は、差分信号S16に加えて、入力映像信号S1、参照映像信号S11についても、差分信号S16と同様にしてノイズフリー画素識別フラグS1NFP、S11NFPを生成し、さらにノイズフリー混入領域識別フラグS1NFFM、S11NFFMを生成する点を除いて、ノイズフリー領域検出部211と同一に構成される。計測有効判定部234は、これによりノイズフリー領域検出フラグS1NFF、S11NFF、S16NFFに代えて、ノイズフリー混入領域識別フラグS1NFFM、S11NFFM、S16NFFMを基準にしてアクティビティS1A、S11A、S16Aを出力する点を除いて、図1の計測有効判定部24と同一に構成される。
この実施例のように、差分信号についてだけでなく、入力映像信号、参照映像信号についても、隣接する部分領域をも含めて部分領域毎にノイズの計測に適した部分領域か否か判定することにより、字幕、GUIの影響を一段と有効に回避して確実にノイズレベルを検出することができる。
図62は、図31及び図55との対比により本発明の実施例16のノイズフィルタに適用されるノイズ領域検出部の構成を示すブロック図である。この実施例の計測部は、この図62に示すノイズ領域検出部240の構成が異なる点を除いて、実施例6の計測部と同一に構成される。またこのノイズ領域検出部240は、ノイズフリー領域検出部107に代えて、ノイズフリー領域検出部241が設けられる点を除いて、図31のノイズ領域検出部102と同一に構成される。
またノイズフリー領域検出部241は、ノイズフリー画素検出部212、ノイズフリー混入領域検出部213に代えて、ノイズフリー画素検出部242、ノイズフリー混入領域検出部243が設けられる点を除いて図55のノイズフリー領域検出部211と同一に構成される。ここでノイズフリー画素検出部242、ノイズフリー混入領域検出部243は、差分信号S16に代えて、入力映像信号S1を差分信号S16と同様に処理してノイズフリー画素識別フラグS1NFPを生成し、さらにノイズフリー混入領域識別フラグS1NFFMを生成する点を除いて、ノイズフリー画素検出部212、ノイズフリー混入領域検出部213と同一に構成される。計測有効判定部244は、これによりノイズ領域識別フラグS1NFFに代えてノイズフリー混入領域識別フラグS1NFFMを基準にしてアクティビティS1Aを出力する点を除いて、図31の計測有効判定部108と同一に構成される。
この実施例のように、入力映像信号について、隣接する部分領域をも含めて部分領域毎にノイズの計測に適した部分領域か否か判定するようにしても、実施例13と同一の効果を得ることができる。
なお上述の実施例においては、本発明をノイズフィルタに適用した場合について述べたが、本発明はこれに限らず、種々の映像信号の処理に広く適用することができる。
また上述の実施例においては、ハードウエアによりノイズフィルタを構成する場合について述べたが、本発明はこれに限らず、演算処理手段によりプログラムの実行により構成するようにしてもよい。なおこの場合、このプログラムは、事前にインストールして提供するようにしてもよく、光ディスク、磁気ディスク、メモリカード等の記録媒体に記録して提供するようにしてもよく、さらにはインターネット等のネットワークを介したダウンロードにより提供するようにしてもよい。
本発明は、例えば映像信号中のノイズを除去するノイズフィルタに適用することができる。
本発明の実施例1のノイズフィルタに適用されるノイズ領域検出部を示すブロック図である。
本発明の実施例1のノイズフィルタの構成を示すブロック図である。
図2のノイズフィルタの計測部の構成を示すブロック図である。
図3の計測部における参照映像信号生成部の構成を示すブロック図である。
図4の参照映像信号生成部の他の例の構成を示すブロック図である。
図3の計測部における差分信号生成部の構成を示すブロック図である。
図3の計測部におけるノイズ領域検出部の説明に供する平面図である。
図7の他の例の構成を示す平面図である。
図1のノイズ領域検出部における計測有効判定部の構成を示すブロック図である。
図3の計測部における部分領域信号分割部の構成を示すブロック図である。
図10の部分領域信号分割部におけるノイズレベル時間平滑部の構成を示すブロック図である。
図11のノイズレベル時間平滑部におけるフィルタ処理部の構成を示すブロック図である。
図12の他の例の構成を示すブロック図である。
本発明の実施例1のノイズフィルタに適用されるノイズ領域検出部の構成を示すブロック図である。
図14のノイズ領域検出部における飽和補正アクティビティ算出部の構成を示すブロック図である。
図15の飽和補正アクティビティ算出部の動作の説明に供する特性曲線図である。
図14のノイズ領域検出部における計測有効判定部の構成を示すブロック図である。
本発明の実施例3のノイズフィルタに適用される計測有効判定部の構成を示すブロック図である。
図18の計測有効判定部における最小アクティビティ算出部の構成を示すブロック図である。
図19の最小アクティビティ算出部の動作の説明に供する特性曲線図である。
図19の最小アクティビティ算出部による最小アクティビティの変化を示す特性曲線図である。
本発明の実施例4のノイズフィルタに適用される計測有効判定部の構成を示すブロック図である。
図22の計測有効判定部における最小アクティビティ算出部の構成を示すブロック図である。
本発明の実施例5のノイズフィルタに適用される計測部の構成を示すブロック図である。
図24の計測部におけるノイズ領域検出部の構成を示すブロック図である。
映像信号の一般的な周波数特性を示す特性曲線図である。
ノイズの一般的な周波数特性を示す特性曲線図である。
図25のノイズ領域検出部における計測有効判定部の構成を示すブロック図である。
図24の計測部におけるノイズレベル計測部の構成を示すブロック図である。
本発明の実施例6のノイズフィルタに適用される計測部の構成を示すブロック図である。
図30の計測部におけるノイズレベル計測部の構成を示すブロック図である。
本発明の実施例7のノイズフィルタに適用される計測部の構成を示すブロック図である。
本発明の実施例8のノイズフィルタに適用される計測部の構成を示すブロック図である。
図33の計測部におけるノイズ領域検出部の構成を示すブロック図である。
図33の計測部におけるノイズレベル計測部の構成を示すブロック図である。
本発明の実施例9のノイズフィルタに適用される計測部の構成を示すブロック図である。
本発明の実施例10のノイズフィルタの構成を示すブロック図である。
図37のノイズフィルタにおけるノイズ領域検出部の構成を示すブロック図である。
図38のノイズ領域検出部における計測有効判定部の構成を示すブロック図である。
図39の計測有効判定部の動作の説明に供する特性曲線図である。
図37のノイズフィルタにおけるノイズ抽出部の構成を示すブロック図である。
図41のノイズ抽出部の動作の説明に供する特性曲線図である。
図41のノイズ抽出部における非線形特性設定部の動作の説明に供する特性曲線図である。
図43の他の例を示す特性曲線図である。
図37のノイズフィルタにおけるノイズ減算処理部の構成を示すブロック図である。
図45のノイズ減算処理部の動作の説明に供する特性曲線図である。
図46の他の例を示す特性曲線図である。
本発明の実施例11のノイズフィルタの構成を示すブロック図である。
図48のノイズフィルタにおけるノイズ領域検出部の構成を示すブロック図である。
図49のノイズ領域検出部の動作の説明に供する特性曲線図である。
図48のノイズフィルタにおけるノイズ抽出部の構成を示すブロック図である。
本発明の実施例12のノイズフィルタの構成を示すブロック図である。
図52のノイズフィルタにおけるノイズ抽出部の構成を示すブロック図である。
本発明の実施例13のノイズフィルタの構成を示すブロック図である。
本発明の実施例14のノイズフィルタに適用されるノイズ領域検出部の構成を示すブロック図である。
図55のノイズ領域検出部の動作の説明に供する平面図である。
図55のノイズ領域検出部におけるノイズフリー画素検出部の構成を示すブロック図である。
図57のノイズフリー画素検出部の動作の説明に供する平面図である。
図55のノイズ領域検出部におけるノイズフリー混入領域検出部の構成を示すブロック図である。
図59のノイズフリー混入領域検出部の動作の説明に供する平面図である。
本発明の実施例15のノイズフィルタに適用されるノイズ領域検出部の構成を示すブロック図である。
本発明の実施例16のノイズフィルタに適用されるノイズ領域検出部の構成を示すブロック図である。
符号の説明
1、141、171、191、201……ノイズフィルタ、6、81、101、111、121、131、142、172、192……計測部、11、143、143……参照映像信号生成部、16、132……差分信号生成部、18、51、85、102、114、122、134、144、174、203、210、230、240……ノイズ領域検出部、20、82、104、112……部分領域信号分割部、21、105、145、175……画素領域特徴量抽出部21、106……飽和領域検出部、23、53、107、177……ノイズフリー領域検出部、24、55、61、71、87、108、126、147、179……計測有効判定部、27、56、62、150……計測不能領域判定部、29、63、72……最小アクティビティ算出部、30……閾値設定部、31、88、153……有効ノイズ領域・アクティビティ選択部、35、90、103、115、123、135、155、180……ノイズレベル計測部、37、91、127……ノイズ領域統計値算出部、40……ノイズレベル時間平滑部、42……フィルタ処理部、47……前値記憶部、52、176……飽和補正アクティビティ算出部、83、113、133、173……帯域分割部、83、178……周波数領域特徴量抽出部、157、181、192……ノイズ抽出部、158……ノイズ抽出ブレンド比設定部、159、184、195……非線形特性設定部、160、183、196……非線形処理部、161、185……ブレンド処理部