本発明は、映像信号処理装置、映像信号処理方法、映像信号処理方法のプログラム及び映像信号処理方法のプログラムを記録した記録媒体に関し、例えばMPEG(Moving Picture Experts Group)等によるストリーミングデータをデコードした映像信号の処理に適用することができる。本発明は、入力映像信号に含まれる高域成分量の周期的な時間変動量を検出し、この検出結果に基づいて、この周期的な時間変動を抑圧するように映像信号処理の特性を可変することにより、従来に比して一段と確実にフリッカ劣化を低減することができるようにする。またこのフリッカ劣化の低減手法を利用してフリッカ劣化を定量的に計測する。
従来、モニタ装置等の各種映像機器では、ノイズ低減処理、鮮鋭度強調処理、コントラスト強調処理等の各種映像信号処理により画質を向上している。これらの映像信号処理のうちのコントラスト強調処理に関して、近年、フラットディスプレイ装置等では、入力映像信号を非線型な特性で増幅してコントラストを強調するようにして、入力映像信号の画面内平均輝度レベル、輝度ヒストグラム等に基づいてこの非線型の特性を適応的に変化させ、一段とコントラストを強調して画質を向上している。
また近年、映像信号は、例えばMPEG等の符号化処理によりデータ圧縮して伝送されるものもあり、このようにデータ圧縮して伝送させた映像信号は、いわゆるフリッカ劣化が発生する場合がある(鹿喰喜明、青木勝典、中須英輔「動画像符号化における両方向予測の効果の検証 :画質の評価と分析」、テレビジョン学会誌、Vol.50、No.3、1996、pp.391−398)。
ここでフリッカ劣化は、ピクチャータイプに応じて映像信号の高域成分が周期的に変動する現象であり、Iピクチャー、Pピクチャー、Bピクチャーにおけるデータ圧縮の相違により発生する。フリッカ劣化は、ノイズ低減処理、鮮鋭度強調処理、コントラスト強調処理等の映像信号処理により目立つようになる。具体的に、コントラスト強調処理の場合、フリッカ劣化は、高域成分が目立ち易い低コントラストの暗いシーンに対して、暗部の階調を強調する非線型特性によりコントラスト強調処理した場合に目立つようになる。
このフリッカ劣化を防止する方法として、従来、特開平9−224250号公報、特開2005−260902号公報には、輝度信号をガンマ補正してフレーム間で平均輝度レベル差を検出し、このレベル差を抑圧するように輝度信号の信号レベルを補正する方法が提案されている。
しかしながら単に線型に映像信号を処理する場合には、これら特開平9−224250号公報、特開2005−260902号公報に開示の手法により、ある程度、フリッカ劣化を低減できるものの、これらに開示の手法は、実用上未だ不十分な問題がある。特に、これらに開示の手法では、近年の映像信号処理である、入力映像信号に応じて動的に特性を切り換えて非線型な特性により映像信号処理する場合には、フリッカ劣化を低減できない問題がある。
特開平9−224250号公報
特開2005−260902号公報
鹿喰喜明、青木勝典、中須英輔「動画像符号化における両方向予測の効果の検証 :画質の評価と分析」、テレビジョン学会誌、Vol.50、No.3、1996、pp.391−398
本発明は以上の点を考慮してなされたもので、従来に比して一段と確実にフリッカ劣化を低減することができる映像信号処理装置、映像信号処理方法、映像信号処理方法のプログラム及び映像信号処理方法のプログラムを記録した記録媒体を提案しようとするものである。またこのフリッカ劣化の低減手法を利用してフリッカ劣化を定量的に計測する映像信号処理装置、映像信号処理方法を提案する。
上記の課題を解決するために、ある観点によれば、入力映像信号を映像信号処理して出力映像信号を生成する映像信号処理部と、前記入力映像信号に含まれる高域成分量を検出する高域成分計測部と、前記高域成分量から、前記高域成分量の周期的な時間変動量を示す高域成分変動特徴量を検出する高域成分変動特徴量計測部とを備え、前記映像信号処理部は、前記高域成分変動特徴量に基づいて、前記出力映像信号の高域成分における周期的な変動を抑圧するように、前記映像信号処理の特性を可変し、前記高域成分変動特徴量計測部は、前記高域成分量から、前記入力映像信号に設定されていたピクチャータイプの周期パターンに対応する信号成分を抽出するバンドパス出力処理と、前記高域成分量から、前記バンドパス出力処理による信号成分を含む高域成分を抽出するハイパス出力処理と、前記バンドパス出力処理による信号成分を、前記ハイパス出力処理による高域成分により補正して、前記高域成分変動特徴量を生成する高域成分変動特徴量生成処理とを実行し、前記映像信号処理は、ノイズ低減処理、鮮鋭度強調処理又はコントラスト強調処理を含み、前記映像信号処理部は、前記高域成分変動特徴量により示される前記時間変動量が大きいほど、前記ノイズ低減処理におけるノイズ低減効果を増大させ、又は前記鮮鋭度強調処理における増幅率若しくは前記コントラスト強調処理における非線形性を低下させる、映像信号処理装置が提供される。
別の観点によれば、入力映像信号を映像信号処理して出力映像信号を生成する映像信号処理ステップと、前記入力映像信号に含まれる高域成分量を検出する高域成分計測ステップと、前記高域成分量から、前記高域成分量の周期的な時間変動量を示す高域成分変動特徴量を検出する高域成分変動特徴量計測ステップとを備え、前記映像信号処理ステップは、前記高域成分変動特徴量に基づいて、前記出力映像信号の高域成分における周期的な変動を抑圧するように、前記映像信号処理の特性を可変する特性可変ステップを有し、前記高域成分変動特徴量計測ステップは、前記高域成分量から、前記入力映像信号に設定されていたピクチャータイプの周期パターンに対応する信号成分を抽出するバンドパス出力ステップと、前記高域成分量から、前記バンドパス出力ステップによる信号成分を含む高域成分を抽出するハイパス出力ステップと、前記バンドパス出力ステップによる信号成分を、前記ハイパス出力ステップによる高域成分により補正して、前記高域成分変動特徴量を生成する高域成分変動特徴量生成ステップとを有し、前記映像信号処理は、ノイズ低減処理、鮮鋭度強調処理又はコントラスト強調処理を含み、前記特性可変ステップは、前記高域成分変動特徴量により示される前記時間変動量が大きいほど、前記ノイズ低減処理におけるノイズ低減効果を増大させ、又は前記鮮鋭度強調処理における増幅率若しくは前記コントラスト強調処理における非線形性を低下させる、映像信号処理方法が提供される。
別の観点によれば、入力映像信号を映像信号処理して出力映像信号を生成する映像信号処理ステップと、前記入力映像信号に含まれる高域成分量を検出する高域成分計測ステップと、前記高域成分量から、前記高域成分量の周期的な時間変動量を示す高域成分変動特徴量を検出する高域成分変動特徴量計測ステップとを備え、前記映像信号処理ステップは、前記高域成分変動特徴量に基づいて、前記出力映像信号の高域成分における周期的な変動を抑圧するように、前記映像信号処理の特性を可変する特性可変ステップを有し、前記映像信号処理ステップは、前記入力映像信号に応じて特性を可変して、非線型な特性により前記入力映像信号を増幅することにより、前記入力映像信号のコントラストを強調して前記出力映像信号を生成し、前記高域成分変動特徴量に基づいて、前記非線型な特性を線型な特性に近づけて、前記周期的な変動を抑圧し、前記特性可変ステップは、前記高域成分変動特徴量により示される前記時間変動量が大きいほど、前記映像信号処理ステップにより実行される前記コントラストの強調における非線形性を低下させる、映像信号処理方法が提供される。
別の観点によれば、入力映像信号を映像信号処理して出力映像信号を生成する映像信号処理ステップと、前記入力映像信号に含まれる高域成分量を検出する高域成分計測ステップと、前記高域成分量から、前記高域成分量の周期的な時間変動量を示す高域成分変動特徴量を検出する高域成分変動特徴量計測ステップとを備え、前記映像信号処理ステップは、前記高域成分変動特徴量に基づいて、前記出力映像信号の高域成分における周期的な変動を抑圧するように、前記映像信号処理の特性を可変する特性可変ステップを有し、前記高域成分変動特徴量計測ステップは、前記周期的な時間変動に係る信号成分の信号波形と、前記信号成分の抽出に要するバンドパスフィルタのフィルタ係数の波形との関係により、高域成分量の時間変動成分に対する、前記周期的な時間変動に係る信号成分の大きさを表すバンドパスベクトル位相相関度を検出するバンドパスベクトル位相相関度検出ステップと、前記周期的な時間変動に係る信号成分のエネルギー値を検出する同期バンドパス成分生成ステップと、前記バンドパスベクトル位相相関度により、前記高域成分に対する前記信号成分のエネルギー値の比率を示す変動周期成分占有度を算出する変動周期成分占有度算出ステップと、前記変動周期成分占有度の時間軸方向の安定度を示す変動周期安定度を計算する変動周期安定度算出ステップと、前記同期バンドパス成分生成ステップで求めたエネルギー値を、前記変動周期成分占有度及び前記変動周期安定度で補正して前記高域成分変動特徴量を検出する変動特徴量生成ステップとを有し、前記映像信号処理は、ノイズ低減処理、鮮鋭度強調処理又はコントラスト強調処理を含み、前記特性可変ステップは、前記高域成分変動特徴量により示される前記時間変動量が大きいほど、前記ノイズ低減処理におけるノイズ低減効果を増大させ、又は前記鮮鋭度強調処理における増幅率若しくは前記コントラスト強調処理における非線形性を低下させる、映像信号処理方法が提供される。
別の観点によれば、入力映像信号を映像信号処理して出力映像信号を生成する映像信号処理ステップと、前記入力映像信号に含まれる高域成分量を検出する高域成分計測ステップと、前記高域成分量から、前記高域成分量の周期的な時間変動量を示す高域成分変動特徴量を検出する高域成分変動特徴量計測ステップとを備え、前記映像信号処理ステップは、前記高域成分変動特徴量に基づいて、前記出力映像信号の高域成分における周期的な変動を抑圧するように、前記映像信号処理の特性を可変する特性可変ステップを有し、前記高域成分変動特徴量計測ステップは、前記高域成分量の増減を判定して変動タイプ信号を出力する変動タイプ信号生成ステップと、前記入力映像信号に設定されていたピクチャータイプの周期パターンである、前記高域成分量で想定される周期的な時間変動のパターンに対して、前記変動タイプ信号による時間変動パターンが一致するか否か判定する一致判定ステップと、前記一致判定ステップの判定結果に基づいて、前記一致判定ステップで一致の判定結果が得られた場合に、前記高域成分量を処理して前記高域成分変動特徴量を検出する変動特徴量生成ステップとを有し、前記映像信号処理は、ノイズ低減処理、鮮鋭度強調処理又はコントラスト強調処理を含み、前記特性可変ステップは、前記高域成分変動特徴量により示される前記時間変動量が大きいほど、前記ノイズ低減処理におけるノイズ低減効果を増大させ、又は前記鮮鋭度強調処理における増幅率若しくは前記コントラスト強調処理における非線形性を低下させる、映像信号処理方法が提供される。
別の観点によれば、入力映像信号を映像信号処理して出力映像信号を生成する映像信号処理ステップと、前記入力映像信号に含まれる高域成分量を検出する高域成分計測ステップと、前記高域成分量から、前記高域成分量の周期的な時間変動量を示す高域成分変動特徴量を検出する高域成分変動特徴量計測ステップとを備え、前記映像信号処理ステップは、前記高域成分変動特徴量に基づいて、前記出力映像信号の高域成分における周期的な変動を抑圧するように、前記映像信号処理の特性を可変する特性可変ステップを有し、前記高域成分変動特徴量計測ステップは、前記高域成分量から、前記入力映像信号に設定されていたピクチャータイプの周期パターンに対応する信号成分を抽出するバンドパス出力ステップと、前記高域成分量から、前記バンドパス出力ステップによる信号成分を含む高域成分を抽出するハイパス出力ステップと、前記バンドパス出力ステップによる信号成分を、前記ハイパス出力ステップによる高域成分により補正して、前記高域成分変動特徴量を生成する高域成分変動特徴量生成ステップとを有し、前記映像信号処理は、ノイズ低減処理、鮮鋭度強調処理又はコントラスト強調処理を含み、前記特性可変ステップは、前記高域成分変動特徴量により示される前記時間変動量が大きいほど、前記ノイズ低減処理におけるノイズ低減効果を増大させ、又は前記鮮鋭度強調処理における増幅率若しくは前記コントラスト強調処理における非線形性を低下させる、映像信号処理方法のプログラムが提供される。当該プログラムを記録した記録媒体もまた提供される。
これら構成によれば、入力映像信号に含まれる高域成分量を検出し、この高域成分量から、この高域成分量の周期的な時間変動量を示す高域成分変動特徴量を検出することにより、入力映像信号に含まれるフリッカ劣化に係る信号成分量を計測することができる。これによりこの高域成分変動特徴量に基づいて、出力映像信号の高域成分における周期的な変動を抑圧すれば、入力映像信号に応じて動的に特性を切り換えて非線型な特性により映像信号処理する場合でも、フリッカ劣化を低減することができる。
また、入力映像信号に含まれる高域成分量を検出し、この高域成分量から、この高域成分量の周期的な時間変動量を示す高域成分変動特徴量を検出することにより、入力映像信号に含まれるフリッカ劣化に係る信号成分量を計測し、この高域成分変動特徴量によりフリッカ劣化を低減するように制御することができる。これによりフリッカ劣化の低減手法を利用してフリッカ劣化を定量的に計測することができる。
本発明によれば、従来に比して一段と確実にフリッカ劣化を低減することができる。またフリッカ劣化を定量的に計測することができる。
以下、適宜図面を参照しながら本発明の実施例を詳述する。
(1)実施例の構成
図2は、本発明の実施例1の映像信号処理装置を示すブロック図である。この映像信号処理装置1は、入力映像信号S1を映像信号処理部2でノイズ低減処理、鮮鋭度強調処理、コントラスト強調処理して出力映像信号S2を出力する。映像信号処理装置1は、高域成分計測部3及び高域成分変動特徴量計測部4により、入力映像信号S1に含まれる高域成分量D1及びこの高域成分量D1の周期的な時間変動量を示す高域成分変動特徴量D2をそれぞれ検出する。またこれら高域成分量D1及び高域成分変動特徴量D2により映像信号処理部2における映像信号処理を制御し、これによりフリッカ劣化を低減して入力映像信号S1をノイズ低減処理、鮮鋭度強調処理、コントラスト強調処理する。
この実施例において、映像信号処理装置1は、所定のプログラムの実行により入力映像信号S1を処理するプロセッサにより構成され、この実施例ではこのプログラムが事前にインストールされて提供されるものの、これに代えて光ディスク、磁気ディスク、メモリカード等の記録媒体に記録して提供するようにしてもよく、インターネット等のネットワークを介したダウンロードにより提供するようにしてもよい。
映像信号処理装置1において、高域成分計測部3は、入力映像信号S1から高域成分を分離し、この分離した高域成分の高域成分量D1を検出して出力する。なおここでこの高域成分は、入力映像信号S1の画像空間方向の高域成分としてもよく、また入力映像信号の時間方向の高域成分としてもよい。また高域成分量D1の検出単位は、フィールド単位、フレーム単位の何れとしてもよい。この実施例において、高域成分計測部3は、高域成分量D1の検出単位がフレーム単位に設定され、画像空間方向に高域成分を分離して高域成分量D1を検出する。これにより高域成分計測部3は、例えば2次元のハイパスフィルタにより入力映像信号S1から高域成分を分離した後、フレーム単位で高域成分の絶対値和、2乗和等を求め、高域成分量D1を検出する。またこの2次元のハイパスフィルタの設定により、1種類の特定の性質をもつ高域成分を抽出し、この実施例では、この1種類の特定の性質をもつ高域成分が時間軸方向にランダムに発生する性質を有するランダムノイズ成分に設定される。なお時間軸方向に高域成分を分離する場合には、入力映像信号S1のフィールド間差分、又はフレーム間差分を求めることにより、高域成分を分離することができる。またランダムノイズ成分に代えてテクスチャ、明るさの情報をこの特定の性質に適用するようにしてもよく、テクスチャを適用する場合には、画素値の分散値に応じて検出した高域成分量D1を増減して出力することが考えられる。また明るさの情報を含ませる場合には、検出した高域成分量D1を輝度値により増減して出力することが考えられる。
ここで入力映像信号S1がMPEGにより伝送された映像信号である場合、図3に示すように、高域成分計測部3で検出される高域成分量D1は、入力映像信号S1に設定されていたピクチャータイプに応じて変化することになる。なおここでこの図3では、Iピクチャー、Pピクチャー、Bピクチャーをそれぞれ符号I、P、Bで示す。従ってこの図3では、1GOPを15フレームにより構成し、GOPの先頭ピクチャーをIピクチャーに、先頭から3n+1番目のピクチャーをPピクチャーに設定し、残りをBピクチャーに設定した場合である。但しnは、整数である。
MPEGにより伝送された映像信号では、エンコード時の符号量の割り当て量、両方向予測における内挿予測の選択率の高さ等により、一般的に、Bピクチャーで高域成分量が減少する。またIピクチャーでは、符号割り当て量が多いことにより、相対的に高域成分量が増大し、Pピクチャーでは、高域成分量がIピクチャー及びBピクチャーの中間値となる。なおこのような各ピクチャーにおける高域成分量は、エンコード時のレート制御等によって変化するものの、この高域成分量の時間変動がフリッカ劣化の原因であり、入力映像信号S1に設定されていたピクチャータイプに応じて周期的に発生することになる。
高域成分変動特徴量計測部4は、この高域成分量D1の周期的な時間変動量を検出する。ここで図1は、高域成分変動特徴量計測部4を示すブロック図である。この高域成分変動特徴量計測部4において、バンドパスフィルタ(BPF)部11は、入力映像信号S1に設定されていたピクチャータイプの周期パターンに対応して、入力映像信号S1のBピクチャーと非Bピクチャーの周期性に対応する周波数成分を抽出して出力する。具体的にバンドパスフィルタ部11は、入力映像信号S1のGOP構造が図3に示すGOP構造の場合、図4に示すように、タップ係数が値2、−1、−1による3タップのFIRフィルタにより、I及びPピクチャーの繰り返し周期である3フレーム周期の周期変動成分を高域成分量D1から抽出する。なおこの場合、図4との対比により図5に示すように、タップ数を3タップ以上の例えば6タップとして、バンドパスフィルタ部11をさらに狭帯域化してもよい。また図4及び図5との対比により図6に示すようにタップ係数を設定して、IピクチャーとPピクチャーの高域成分量D1の違いを抽出結果に反映させるようにしてもよい。
ハイパスフィルタ(HPF)部12は、図7に示すように、バンドパスフィルタ部11の通過帯域L11を含む周波数帯域が通過帯域に設定され、高域成分量D1から当該通過帯域の信号成分を抽出して出力信号D4を出力する。ここで図8は、ハイパスフィルタ部12の構成を示すブロック図である。ハイパスフィルタ部12において、平均値フィルタ部14は、バンドパスフィルタ部11と同一のタップ長を有する平均値フィルタであり、高域成分量D1を平均値化して高域成分量D1のDC値を出力する。従って平均値フィルタ部14は、例えばバンドパスフィルタ部11を図5に示す特性により6タップで構成した場合、タップ係数が値1、1、1、1、1、1の平均値フィルタが適用される。
ハイパスフィルタ部12は、この平均値フィルタ部14の出力信号を高域成分量D1から減算して出力信号D4を出力する。なおハイパスフィルタ部12は、この図8に示す構成に限らず、種々の構成を広く適用することができる。
バンドパスフィルタ(BPF)出力遅延部16は、バンドパスフィルタ部11の出力信号D3を1サンプリング周期ずつ順次遅延させて複数系統により出力する。ハイパスフィルタ(HPF)出力遅延部17は、バンドパスフィルタ出力遅延部16と同一に、ハイパスフィルタ部12の出力信号D4を一定時間ずつ順次遅延させて複数系統により出力する。これによりバンドパスフィルタ出力遅延部16、ハイパスフィルタ出力遅延部17は、最大の遅延時間で決まる一定期間内で、バンドパスフィルタ部11、ハイパスフィルタ部12から出力される複数の出力信号D3、出力信号D4をそれぞれ同時並列的に出力する。
バンドパスフィルタ(BPF)出力エネルギー算出部18は、バンドパスフィルタ出力遅延部16から出力される複数系統の出力信号D3、バンドパスフィルタ部11から出力される出力信号D3を入力し、これらの出力信号D3のエネルギー値を算出する。なおこのエネルギーの算出は、例えば2乗和、2乗和の平方根、絶対値和等、種々の算出方法を適用することができる。
ハイパスフィルタ(HPF)出力エネルギー算出部19は、ハイパスフィルタ出力遅延部17から出力される複数系統の出力信号D4、ハイパスフィルタ部12から出力される出力信号D4を入力し、バンドパスフィルタ出力エネルギー算出部18と同様に、これらの出力信号D4のエネルギー値を算出する。
変動周期成分占有度算出部20は、バンドパスフィルタ出力エネルギー算出部18で算出されたエネルギー値D7を、ハイパスフィルタ出力エネルギー算出部19で算出されたエネルギー値D9で割り算し、これにより入力映像信号S1の高域成分に占める周期変動成分の割合である変動周期成分占有度D10を検出する。従ってこの場合、変動周期成分占有度D10の値が大きい程、入力映像信号S1は、ピクチャータイプによる高域成分の周期変動成分の占める割合が大きいことになる。
変動周期安定度算出部21は、変動周期成分占有度算出部20で算出された変動周期成分占有度D10を入力し、図9(A)及び(B)に示すように、この変動周期成分占有度D10の時間軸方向の安定度を示す変動周期安定度D11を計算する。なおここでこの変動周期安定度D11は、変動周期成分占有度D10の分散値、標準偏差、平均偏差等を計算して求めることができる。ここで図9に示す例では、期間Tの間、変動周期成分占有度D10の変化が他の期間に比して小さく、変動周期安定度D11がこの期間Tで増大していることが判る。
変動特徴量生成部23は、バンドパスフィルタ出力エネルギー算出部18で算出されたエネルギー値D7を変動周期成分占有度D10、変動周期安定度D11で補正し、入力映像信号S1に設定されていたピクチャータイプによる高域成分の周期変動成分の大きさを示す変動特徴量D12を出力する。
ここで図10は、変動特徴量生成部23の詳細構成を示すブロック図である。変動特徴量生成部23において、占有度信頼度設定部25は、変動周期成分占有度D10を所定の閾値Rth1、Rth2で判定し、図11に示すように、変動周期成分占有度D10が閾値Rth1以下の場合には値0であり、変動周期成分占有度D10が閾値Rth2以上の場合には値1であり、変動周期成分占有度D10が閾値Rth1以上、閾値Rth2以下の場合には、変動周期成分占有度D10の増大により直線的に値が増大するように、占有度信頼度D13を生成する。ここで占有度信頼度D13は、変動周期成分占有度D10が、ピクチャータイプによる周期変動を反映している確からしさを示すパラメータである。
安定度信頼度設定部26は、変動周期安定度D11を所定の閾値Sth1、Sth2で判定し、図12に示すように、変動周期安定度D11が閾値Sth1以下の場合には値0であり、変動周期安定度D11が閾値Sth2以上の場合には値1であり、変動周期安定度D11が閾値Sth1以上、閾値Sth2以下の場合には、変動周期安定度D11の増大により直線的に値が増大するように、安定度信頼度D14を生成する。ここで安定度信頼度D14は、変動周期安定度D11が、ピクチャータイプによる周期変動を反映している確からしさを示すパラメータである。
変動特徴信頼度設定部27は、占有度信頼度D13と安定度信頼度D14とを乗算し、バンドパスフィルタ出力エネルギー算出部18で算出されたエネルギー値D7がピクチャータイプによる周期変動を反映している確からしさである変動特徴信頼度D15を算出する。
変動特徴量算出部28は、この変動特徴信頼度D15を所定の閾値で判定し、この判定結果に基づいて、変動特徴信頼度D15がこの閾値以上の場合、バンドパスフィルタ出力エネルギー算出部18で算出されたエネルギー値D7をそのまま変動特徴量D12として出力する。これに対して変動特徴信頼度D15がこの閾値より小さい場合、変動特徴量D12を値0に設定して出力する。
これらの処理により高域成分変動特徴量計測部4は、ピクチャータイプによる周期変動に係る特定周波数への集中度とその時間的安定性とを評価して信頼度D13、D14を生成し、この信頼度D13、D14に基づいて、高域成分量D1の周期変動成分の大きさを示す変動特徴量D12を生成する。
変動特徴量時間平滑化部30(図1)は、変動特徴量生成部23で検出した変動特徴量D12を平滑化処理し、高域成分変動特徴量D2を出力する。なお平滑化処理は、IIRフィルタ構成又はFIRフィルタ構成のローパスフィルタ、メディアンフィルタ等を適用することができる。
図13は、映像信号処理部2を示すブロック図である。映像信号処理部2において、ノイズ低減処理部32は、入力映像信号S1に含まれる画像空間方向及び時間軸方向のランダムノイズ成分を抑圧することにより、入力映像信号S1のノイズを抑圧して出力する。鮮鋭度強調処理部33は、このノイズ低減処理部32から出力される映像信号S3の特定周波数成分を強調することにより、入力映像信号S1の鮮鋭度を強調して出力する。続くコントラスト強調処理部34は、この鮮鋭度強調処理部33から出力される映像信号S4の画面内の輝度分布に応じてコントラストを強調して出力する。具体的に、コントラスト強調処理部34は、図14において符号L34で示すように、非線型な特性により入力映像信号S1を増幅してコントラストを強調し、この非線型な特性を画面内平均輝度レベル、輝度ヒストグラム等に基づいて動的に変化させる。なお図14は、中間階調を強調する非線型な特性であり、この場合、入力映像信号S1の信号レベルが高い側及び低い側では増幅率が低下し、その分、中間階調の増幅率が増大するように設定される。コントラスト強調処理部34は、暗部の階調を強調する場合には、入力映像信号S1の信号レベルが低い側で増幅率を増大させ、その分、中間階調及び高階調で増幅率を低下させる。この実施例の映像信号処理装置1は、このコントラスト強調処理部34でコントラストを強調した映像信号を出力映像信号S2により出力する。
なお映像信号の処理にあっては、これらノイズ低減処理、鮮鋭度強調処理、コントラスト強調処理の何れか1つ、又は2つの処理を実行するようにしてもよく、さらには他の処理と組み合わせて実行するようにしてもよい。また処理の順番を入れ代えるようにしてもよく、さらには同時並列的にこれらの処理を実行して、その結果得られる複数系統の映像信号を合成して出力映像信号S2としてもよい。
制御情報生成部35は、高域成分量D1及び高域成分変動特徴量D2に基づいて、ノイズ低減処理部32、鮮鋭度強調処理部33、コントラスト強調処理部34の動作をそれぞれ制御する制御情報D16、D17、D18を出力する。
ここで高域成分計測部3で検出される高域成分量D1は、ランダムノイズの性質を有する成分を検出していることになる。これにより制御情報生成部35は、高域成分量D1の値が増大するに従ってノイズ抑圧効果が増大するようにノイズ低減処理部32を制御し、これにより出力信号S3に含まれるノイズ成分を時間軸方向に均一化して入力映像信号S1のノイズを低減する。またこのノイズ成分の時間軸方向に均一化によりこの実施例では、併せてフリッカ劣化に係る高域成分の時間変動についても時間軸方向に均一化する。
これに対して高域成分変動特徴量D2が大きな値を示している場合、ピクチャータイプによる高域成分量の周期的な時間変動が発生しており、かつ、その変動幅が大きいことを示していることになる。これにより制御情報生成部35は、高域成分変動特徴量D2の値を所定の閾値で判定し、高域成分変動特徴量D2の値がこの閾値より大きい場合、ノイズ低減効果が通常より増大するように、ノイズ低減処理部32を制御する。なおこの閾値以上の場合に、高域成分変動特徴量D2の増大により徐々にノイズ低減効果が増大するように設定してもよく、また高域成分変動特徴量D2の増大により段階的にノイズ低減効果が増大するように設定してもよい。また閾値以上の場合と、閾値未満の場合とで、2段階でノイズ低減効果を切り換えるようにしてもよい。
これにより制御情報生成部35は、高域成分量D1に従って時間軸方向のノイズ成分の変動を抑圧するようにして、高域成分変動特徴量D2によりこの時間軸方向にノイズ成分を抑圧する程度を可変し、フリッカ劣化を低減してノイズ成分を抑圧する。
これに対して鮮鋭度強調処理部33における鮮鋭度強調処理は、特定周波数成分を強調して鮮鋭度を強調する処理であることから、制御情報生成部35は、高域成分量D1の値が増大するに従ってこの鮮鋭度の強調に係る特定周波数帯域の増幅率が低下するように鮮鋭度強調処理部33を制御し、これにより出力信号S4に含まれる高域成分を時間軸方向に均一化する。また制御情報生成部35は、高域成分変動特徴量D2の値を所定の閾値で判定し、高域成分変動特徴量D2の値がこの閾値より大きい場合、この鮮鋭度の強調に係る特定周波数帯域の増幅率が低下するように、鮮鋭度強調処理部33を制御する。なおこの閾値以上の場合に、高域成分変動特徴量D2の増大により徐々に増幅率が低下するように設定してもよく、また高域成分変動特徴量D2の増大により段階的に増幅率が低下するように設定してもよい。また閾値以上の場合と、閾値未満の場合とで、2段階で増幅率を切り換えるようにしてもよい。これにより制御情報生成部35は、鮮鋭度強調処理部33の出力信号S4に含まれる高域成分量の周期的な時間変動の幅を小さくして、フリッカ劣化を低減する。
また制御情報生成部35は、高域成分変動特徴量D2の値を所定の閾値で判定し、高域成分変動特徴量D2の値がこの閾値より大きい場合、高域成分変動特徴量D2の増大に従って、コントラスト強調に係る非線型な特性を弱めて、図14において符号L34Aにより示す線型な特性に近づくように、コントラスト強調処理部34を制御する。なおこの閾値以上の場合にも、高域成分変動特徴量D2の増大により徐々に線型な特性に近づくように設定してもよく、また高域成分変動特徴量D2の増大により段階的に線型な特性に近づくように設定してもよい。また閾値以上の場合と、閾値未満の場合とで、2段階で特性を切り換えるようにしてもよい。これにより制御情報生成部35は、出力映像信号S2におけるフリッカ劣化を低減する。
なおこれによりこの実施例では、ノイズ低減処理部32、鮮鋭度強調処理部33、コントラスト強調処理部34における入力映像信号S1の映像信号処理のうちで、コントラスト強調処理部34におけるコントラスト強調処理のみ、入力映像信号S1に応じて特性を切り換え、さらには非線型な特性で入力映像信号S1を処理する場合について述べたが、本発明はこれに限らず、ノイズ低減処理部32及び鮮鋭度強調処理部33における処理についても、入力映像信号S1に応じて特性を切り換え、さらには非線型な特性で入力映像信号S1を処理する場合に広く適用することができる。なおノイズ低減処理部32等のようにこのように固定した特性で入力映像信号S1を処理する場合にあっても、フリッカ劣化を低減できることは言うまでも無い。
(2)実施例の動作
以上の構成において、入力映像信号S1は(図2)、映像信号処理部2によりノイズ低減処理、鮮鋭度強調処理、コントラスト強調処理されて画質が向上され、出力映像信号S2により出力される。ここでこれらノイズ低減処理、鮮鋭度強調処理、コントラスト強調処理は、入力映像信号S1の高域成分に対する処理であることから、入力映像信号S1がMPEG等によりデータ圧縮されて伝送された映像信号である場合、この入力映像信号S1に設定されていたピクチャータイプによる高域成分の周期的な変動(図3)が出力映像信号S2を表示した際にフリッカ劣化として知覚されるようになる。
そこで映像信号処理装置1において、入力映像信号S1は、高域成分計測部3において、高域成分量D1が検出され、続く高域成分変動特徴量計測部4で高域成分量D1が処理されてこの高域成分量D1の周期的な時間変動量を示す高域成分変動特徴量D2が検出される。またこの高域成分量D1によりノイズ低減処理の時間軸方向の変動を抑圧するようにして、高域成分変動特徴量D2により、出力映像信号S2の高域成分における周期的な変動を抑圧するように、ノイズ低減処理、鮮鋭度強調処理、コントラスト強調処理が可変制御される。これによりこの映像信号処理装置では、フリッカ劣化に係る高域成分の周期的な変動の大きさに応じて映像信号処理の特性を変化させてフリッカ劣化が目立たないようにすることができ、従来に比してフリッカ劣化を低減することができる。また特性の可変により出力映像信号S2の高域成分における周期的な変動を抑圧することにより、映像信号処理の特性を入力映像信号S1に応じて適応的に可変する場合にあっても、確実にフリッカ劣化を低減することができる。
すなわち入力映像信号S1は、高域成分計測部3において、画像空間方向の高域成分及び又は時間方向の高域成分が分離されて高域成分量が検出され、これにより必要に応じて画像空間方向の高域成分及び又は時間方向の高域成分により高域成分量を検出して、確実にフリッカ劣化を低減することができる。またノイズ抑圧処理にこの高域成分量を利用してノイズ抑圧効果を制御することができ、全体構成を簡略化することができる。すなわち画像空間方向の高域成分によれば、例えば高域成分量の検出単位をフレームに設定して、1画面内の各所で高域成分の成分量が変化する場合でも、フリッカ劣化の要因となる高域成分の成分量を確実に検出することができる。また時間方向の高域成分によれば、高域成分の成分量が時間変動する場合でも、フリッカ劣化の要因となる高域成分の成分量を確実に検出することができる。
またさらにこの高域成分計測部3における処理において、時間方向に特定の性質を有する画像空間方向の高域成分を分離して高域成分量を検出することにより、画像空間方向及び時間方向で高域成分量を検出したと同様にして高域成分量を検出することができ、これにより全体構成を簡略化して確実にフリッカ劣化の要因となる高域成分の成分量を検出することができる。またこの時間方向に特定の性質にランダムノイズの性質を適用することにより、ノイズ抑圧処理にこの高域成分量を利用して全体構成を簡略化することができる。
これに対して高域成分変動特徴量計測部4において、入力映像信号S1は、高域成分量D1がバンドパスフィルタ部11に入力され(図1)、ここで入力映像信号S1に設定されていたピクチャータイプの周期パターンに対応する、Bピクチャー及び非Bピクチャーの繰り返し周期成分が抽出される(図4〜図6)。またこの繰り返し周期成分により高域成分変動特徴量D2が生成される。これによりこの映像信号処理装置1では、GOP構造に由来するフリッカ劣化を確実に低減することが可能となる。
より具体的に、入力映像信号S1は、このバンドパスフィルタ部11の通過帯域を含むように通過帯域が設定されたハイパスフィルタ部12により高域成分量D1の高域成分が検出され(図7及び図8)、入力映像信号S1の高域成分に占める周期変動成分の割合を検出することが可能とされる。入力映像信号は、これによりバンドパスフィルタ部11の出力信号に基づいてハイパスフィルタ部12の出力信号により補正するように、これらの出力信号を処理して高域成分変動特徴量D2が生成される。これによりこの映像信号処理装置1では、例えば入力映像信号S1に本来的に含まれる高域成分の多少により、フリッカ劣化の低減処理を誤動作させないようにすることができ、これにより確実にフリッカ劣化を低減することが可能となる。
すなわち映像信号処理装置1では、バンドパスフィルタ部11の出力信号及びハイパスフィルタ部12の出力信号のエネルギー値D7及びD9がそれぞれバンドパスフィルタ出力エネルギー算出部18及びハイパスフィルタ出力エネルギー算出部19で求められ、このエネルギー値D7がエネルギー値D9で割り算されて、入力映像信号S1の高域成分に占める周期変動成分の割合である変動周期成分占有度D10が求められる。またこの変動周期成分占有度D10の時間軸方向の安定度を示す変動周期安定度D11が変動周期安定度算出部21で求められる(図9)。またバンドパスフィルタ部11の出力信号のエネルギー値D7を変動周期成分占有度D10及び変動周期安定度D11で補正して高域成分変動特徴量D2が求められる。
これによりこの映像信号処理装置1では、入力映像信号S1において、ピクチャータイプの周期変動成分と類似した信号レベルの変化が一時的に発生した場合にあっても、さらには入力映像信号S1の高域成分が種々に変化している場合にあっても、フリッカ劣化を確実に抑圧することができる。
すなわち入力映像信号S1は、変動周期成分占有度D10及び変動周期安定度D11がそれぞれ所定の閾値Rth1、Rth2及びSth1、Sth2で判定され(図10、図11、図12)、変動周期成分占有度D10及び変動周期安定度D11がそれぞれ極端に小さい場合には、それぞれ信頼度D13、D14が低いと判定される。また変動周期成分占有度D10及び変動周期安定度D11が増大するに従って信頼度D13、D14が上昇して値1で飽和するように設定される。またこれら信頼度D13、D14の乗算値が求められ、これにより総合の信頼度が求められる。
入力映像信号S1は、この総合の信頼度が一定値以上の場合に、バンドパスフィルタ部11の出力信号のエネルギー値D7が変動特徴量D12として出力され、この変動特徴量D12が平滑化処理されて高域成分変動特徴量D2が求められる。
入力映像信号S1は(図13)、映像信号処理部2のノイズ低減処理部32、鮮鋭度強調処理部33、コントラスト強調処理部34で順次、ノイズ低減処理、鮮鋭度強調処理、コントラスト強調処理されて出力映像信号S2により出力される。またこれらの処理において、コントラスト強調処理では、非線型な特性により増幅されてコントラストが強調され、この非線型な特性が入力映像信号S1の画面内平均輝度レベル、輝度ヒストグラム等に基づいて動的に変化されることにより、入力映像信号S1に応じて非線型な特性を動的に変化させて、入力映像信号S1のコントラストが低減される。
これによりこのコントラスト強調処理部34によるコントラスト強調処理については、単に入力映像信号の輝度信号をガンマ補正してフレーム間で平均輝度レベル差を検出し、このレベル差を抑圧するように入力映像信号S1の信号レベルを補正したのでは、フリッカ劣化を低減することが困難になる。
しかしながらこの実施例のように高域成分の周期変動成分を検出してコントラスト強調に係る特性の変更によりこの周期変動成分を抑圧するように設定すれば、非線型な特性により入力映像信号S1を種々に処理する場合でも、フリッカ劣化を確実に低減することができる。
これによりこの実施例では、高域成分量D1の値が増大するに従ってノイズ抑圧効果が増大するようにノイズ低減処理部32を制御し、これにより出力信号S3に含まれるノイズ成分を時間軸方向に均一化するようにして、入力映像信号S1のノイズを低減し、さらにフリッカ劣化に係る高域成分の時間変動を低減する。これによりこの実施例では、ノイズ低減処理に係るノイズ量の計測を、高域成分計測部3で実行するようにして、ノイズ低減処理部32の構成を簡略化する。また高域成分変動特徴量D2の値を所定の閾値で判定し、高域成分変動特徴量D2の値がこの閾値より大きい場合、ノイズ低減効果を通常より増大させ、これによりノイズ低減処理により知覚可能となるフリッカ劣化を低減する。
また高域成分量D1の値が増大するに従って鮮鋭度の強調に係る特定周波数帯域の増幅率が低下するように鮮鋭度強調処理部33を制御し、これにより出力信号S4に含まれる高域成分を時間軸方向に均一化する。また高域成分変動特徴量D2の値を所定の閾値で判定し、高域成分変動特徴量D2の値がこの閾値より大きい場合、この鮮鋭度の強調に係る特定周波数帯域の増幅率が低下するように、鮮鋭度強調処理を制御し、これにより鮮鋭度強調処理により知覚可能となるフリッカ劣化を低減する。
また高域成分変動特徴量D2の値を所定の閾値で判定し、高域成分変動特徴量D2の値がこの閾値より大きい場合、高域成分変動特徴量D2の増大に従って、コントラスト強調に係る非線型な特性を弱めて線型な特性に近づくように、コントラスト強調処理を制御する(図14)。これによりコントラスト強調処理により知覚可能となるフリッカ劣化を低減する。
(3)実施例の効果
以上の構成によれば、入力映像信号に含まれる高域成分量の周期的な時間変動量を検出し、この検出結果に基づいて、この周期的な時間変動を抑圧するように映像信号処理の特性を可変することにより、従来に比して一段と確実にフリッカ劣化を低減することができる。
またこの入力映像信号から、画像空間方向の高域成分及び又は時間方向の高域成分を分離して高域成分量を検出することにより、確実にフリッカ劣化を低減することができる。
また時間方向に特定の性質を有する画像空間方向の高域成分を分離して高域成分量を検出することにより、画像空間方向及び時間方向で高域成分量を検出したと同様にして高域成分量を検出することができ、これにより全体構成を簡略化して確実にフリッカ劣化の要因となる高域成分の成分量を検出することができる。またこの時間方向に特定の性質にランダムノイズの性質を適用することにより、ノイズ抑圧処理にこの高域成分量を利用して全体構成を簡略化することができる。
また入力映像信号に設定されていたピクチャータイプの周期パターンに対応する高域成分量の周期的な時間変動量を検出することにより、GOP構造に由来するフリッカ劣化を確実に低減することができる。
また高域成分量からこの周期パターンに対応する信号成分を抽出すると共に、この信号成分を含む高域成分を抽出し、この周期パターンに係る信号成分を抽出した高域成分で補正して高域成分変動特徴量を生成することにより、入力映像信号S1に本来的に含まれる高域成分の多少により、フリッカ劣化の低減処理を誤動作させないようにすることができ、これにより確実にフリッカ劣化を低減することが可能となる。
すなわちバンドパス出力及びハイパス出力による信号成分のエネルギーをそれぞれ算出して比率を求め、この比率である変動周期成分占有度の時間軸方向の安定度を示す変動周期安定度を計算し、バンドパス出力のエネルギー値を、変動周期成分占有度及び変動周期安定度で補正して高域成分変動特徴量を検出することにより、ピクチャータイプの周期変動成分と類似した信号レベルの変化が一時的に発生した場合にあっても、さらには入力映像信号の高域成分が種々に変化している場合にあっても、フリッカ劣化を確実に抑圧することができる。
また入力映像信号に応じて特性を可変して、非線型な特性により入力映像信号を増幅してコントラストを強調する場合に、高域成分変動特徴量に基づいて、非線型な特性を線型な特性に近づけて周期的な変動を抑圧することにより、入力映像信号に応じて特性を可変して映像信号のコントラストを強調する場合に、フリッカ劣化を確実に抑圧することができる。
図15は、本発明の実施例2の映像信号処理装置に適用される高域成分変動特徴量計測部の構成を示すブロック図である。この実施例2の映像信号処理装置は、この高域成分変動特徴量計測部44の構成が異なる点を除いて、実施例1の映像信号処理装置1と同一に構成される。また高域成分変動特徴量計測部44は、ハイパスフィルタ部12が省略され、ハイパスフィルタ出力遅延部17、バンドパスフィルタ出力エネルギー算出部18、ハイパスフィルタ出力エネルギー算出部19に代えて高域成分量遅延部46、バンドパスフィルタ(BPF)出力エネルギー算出部48、高域成分エネルギー算出部49が設けられる点を除いて、実施例1の高域成分変動特徴量計測部と同一に構成される。
ここで高域成分量遅延部46は、高域成分量D1を直接入力し、バンドパスフィルタ出力遅延部16と同一に、この高域成分量D1を1サンプリング周期ずつ順次遅延させて複数系統により出力する。
バンドパスフィルタ出力エネルギー算出部48は、バンドパスフィルタ出力遅延部16から出力される複数系統の出力信号D6、バンドパスフィルタ部11から出力される出力信号D3を入力し、最大値の検出により出力信号D3のエネルギー値D7を算出する。
すなわち図16は、バンドパスフィルタ出力エネルギー算出部48を示すブロック図である。このバンドパスフィルタ出力エネルギー算出部48において、最大値検出部51は、バンドパスフィルタ出力遅延部16から出力される複数系統の出力信号D6、バンドパスフィルタ部11から出力される出力信号D3を入力する。最大値検出部51は、これらの出力信号D6、出力信号D3から最大値D22を検出して出力する。またこの最大値D22が出力信号D3から検出されるタイミングを最大値検出同期信号D21として高域成分エネルギー算出部49に出力する。
すなわち図3について上述したGOP構造を前提に、バンドパスフィルタ部11を図5について上述した6タップにより作成した場合、このバンドパスフィルタ部11のフィルタ係数による基底波形は図17に示すように3フレーム周期で立ち上がることになる。従ってバンドパスフィルタ部11の出力信号D3は、入力映像信号S1にピクチャータイプによる周期変動成分が存在する場合、図18に示すように、この基底波形の繰り返しに対応する信号レベルの変化が発生することになる。
ここでバンドパスフィルタ部11の構成に対応してバンドパスフィルタ出力遅延部16から5系統の出力信号D6を出力する場合、バンドパスフィルタ出力エネルギー算出部48は、時点tのサンプリング値B〔t〕が出力信号D3により入力される時点で、バンドパスフィルタ出力遅延部16からこの時点tの直前の、5つのサンプリング時点t−1、t−2、t−3、t−4、t−5のサンプリング値B〔t−1〕、B〔t−2〕、B〔t−3〕、B〔t−4〕、B〔t−5〕が出力信号D6により入力されることになる。これにより最大値検出部51は、この時点tでは、これら6個のサンプリング値B〔t〕〜B〔t−5〕から最大のサンプリング値B〔t〕を検出して最大値D22を出力する。
正規回路エネルギー算出部52は、この最大値検出部51から出力される最大値D22から正規化エネルギー値を検出し、この正規化エネルギー値をバンドパスフィルタ部11から出力される出力信号D3のエネルギー値D7として出力する。ここで正規回路エネルギー算出部52は、バンドパスフィルタ部11のフィルタ係数〔2、−1、−1、2、−1、−1〕による基底ベクトルのノルムで最大値D22を割り算して正規化エネルギー値を計算する。なお基底ベクトルのノルムは、この基底ベクトルの各要素の2乗和の平方根で求められる。
高域成分エネルギー算出部49は、バンドパスフィルタ出力エネルギー算出部48の処理に対応するように、高域成分量遅延部46から出力される複数系統の出力信号D23、高域成分計測部3から出力される高域成分量D1を処理して高域成分のエネルギー値D9を算出する。
ここで図19は、この時間ACエネルギー算出部49の構成を示すブロック図である。時間ACエネルギー算出部49において、同期データ検出部54は、最大値検出同期信号D21を基準にして、バンドパスフィルタ部11の出力信号D3で最大値が検出されるタイミングで、高域成分量遅延部46から出力される複数系統の出力信号D23、高域成分計測部3から出力される高域成分量D1を取得して出力する。これにより同期データ検出部54は、図18(A)の例では、サンプリング値R〔t〕〜R〔t−5〕を出力する。
正規化平均値フィルタ部55は、同期データ検出部54の出力データD24を入力し、この出力データD24に対し、正規化された平均値化を行う。ここで正規化の処理は、同一のフィルタ係数を要素とする基底ベクトルのノルムで出力データD24をそれぞれ割り算して実行される。これによりこの実施例では、6個のサンプリング値R〔t〕〜R〔t−5〕をそれぞれ61/2で割り算して正規化の処理を実行する。正規化平均値フィルタ部55は、この正規化したサンプリング値を合計し、これにより高域成分量D1のDC値を検出して出力する。
高域成分量時間DCエネルギー算出部56は、正規化平均値フィルタ部55の出力データD25の2乗値を求めて出力する。高域成分量時間エネルギー算出部57は、同期データ検出部54の出力データD24(R〔t〕〜R〔t−5〕)の2乗値を計算し、これにより高域成分量D1の時間方向のエネルギー値D27を出力する。
減算回路58は、高域成分量時間エネルギー算出部57の出力データD27から高域成分量時間DCエネルギー算出部56の出力データD26を減算し、高域成分量D1のAC成分のエネルギー値D9を算出する。
これにより高域成分変動特徴量計測部44は、特定期間内におけるバンドパスフィルタから最大値のエネルギーを正規化して検出すると共に、この最大値のタイミングを基準にして高域成分量の時間DCエネルギーを正規化して求め、正規化した最大値の時間DCエネルギーを正規化した高域成分の時間エネルギーから減算して高域成分量の時間AC成分のエネルギー値D9を出力する。
ここで図20に示すように、正規直交座標空間上でこれらのエネルギーを表すこととする。なおここでこの正規直交座標空間は、バンドパスフィルタ部11、正規化平均値フィルタ部55に使用されるフィルタのタップ数が6であることから、6次元空間である。バンドパスフィルタ部11、正規化平均値フィルタ部55の入力である高域成分量D1を、この正規直交座標空間上において、連続する6個のサンプリング値をそれぞれ要素とする6次元のベクトルYで表す。この場合、正規化平均値フィルタ部55の出力信号D25は、このベクトルYをDC軸に投影したベクトルXDCのノルムとなり、この出力信号D25を高域成分量時間DCエネルギー算出部56で処理して得られるエネルギー値D26は、このベクトルXDCのノルムの2乗値に相当することになる。これに対して高域成分量時間エネルギー算出部57から出力されるエネルギー値D27は、6次元のベクトルYのノルムの2乗値に相当することになる。
またバンドパスフィルタ出力エネルギー算出部18で求められるエネルギー値D7は、バンドパスフィルタ部11を構成するフィルタの係数を要素とするベクトル方向の軸に、ベクトルYを射影したベクトルXBPのノルムの2乗値に相当することになる。これに対して高域成分量時間エネルギー算出部57のエネルギー値D27から高域成分量時間DCエネルギー算出部56のエネルギー値D26を減算して得られるエネルギー値D9は、ベクトルXDCに垂直な平面上にベクトルYを射影したベクトルXACのノルムの2乗値に相当することになる。なおここでこの図20におけるベクトルXETC は、ベクトルXBP以外のAC成分を示し、残りのAC成分に相当する4つのベクトルの合成ベクトルとして見なすことができる。
これによりベクトルXBPのノルムとベクトルXACのノルムとの比、又はこの比の2乗値を算出することにより、実施例1と同様に、変動周期成分占有度D10を検出できることが判る。
この映像信号処理装置は、変動周期成分占有度算出部50において、実施例1について上述したと同一に、エネルギー値D7をエネルギー値D9で割り算して変動周期成分占有度D10を検出する。
これによりこの実施例では、高域成分量D1をベクトルにより表現して基底ベクトルにより正規化してエネルギー値を求め、入力映像信号に含まれる高域成分量の周期的な時間変動量を検出することにより、実施例1と同様の効果を得ることができる。
またハイパスフィルタ部12を省略して、高域成分計測部で求められた高域成分量を直接処理して高域成分変動特徴量を検出することにより、簡易な構成で実施例1と同様の効果を得ることができる。
図21は、本発明の実施例3の映像信号処理装置に適用される高域成分変動特徴量計測部の構成を示すブロック図である。この実施例3の映像信号処理装置は、この高域成分変動特徴量計測部64の構成が異なる点を除いて、実施例1の映像信号処理装置1と同一に構成される。
この高域成分変動特徴量計測部64において、AC成分ベクトル成分部65は、高域成分量D1の時間変動成分をベクトル化して出力する。すなわち図22に示すように、AC成分ベクトル生成部65において、高域成分量遅延部66は、高域成分量D1を順次遅延させて、後段の正規化平均値フィルタ部67の入力タップ数より値1だけ少ない複数系統により出力する。
ベクトルデータ生成部68は、高域成分量遅延部66の出力データD23、高域成分量D1を入力し、これら出力データD23、高域成分量D1をそれぞれ要素とするベクトルデータDV1を生成して出力する。従ってこのベクトルデータDV1は、続く正規化平均値フィルタ部67の入力タップ数と同一数の次元を有するベクトルデータであり、高域成分量D1の連続するサンプリング値による信号波形を示すことになる。
正規化平均値フィルタ部67は、全てのフィルタ係数が同一であって、フィルタ係数を要素とするベクトルの大きさが1となるように係数が設定されたフィルタにより、ベクトルデータ生成部68から出力されるベクトルデータDV1を畳み込み演算し、演算結果D25を出力する。なおここで演算結果D25は、ベクトルデータDV1とこの正規化平均値フィルタ部67のフィルタ係数からなるベクトルとの内積演算結果と等価である。これにより正規化平均値フィルタ部67は、高域成分量D1のDC値D25を検出する。
DC成分ベクトル生成部69は、正規化平均値フィルタ部67のフィルタ係数からなるベクトルを、正規化平均値フィルタ部67から出力される演算結果D25でスケーリングし、高域成分量D1のDC値D25をベクトルデータDV1に対応するDC成分ベクトルDV3により出力する。
減算回路70は、ベクトルデータ生成部68から出力されるベクトルデータDV1からDC成分ベクトルDV3を減算し、高域成分量D1の時間変動成分をベクトル化したAC成分ベクトルDV4を出力する。なおここで図20の正規直交座標空間上で、ベクトルデータDV1、DC成分ベクトルDV3、AC成分ベクトルDV4は、それぞれベクトルY、ベクトルXDC、ベクトルXACに対応する。
バンドパスベクトル位相相関度算出部73(図21)は、このAC成分ベクトルDV4を処理して、フリッカ劣化に係る高域成分量D1の周期的な時間変動の大きさを示す正規化バンドパス内積信号D32、高域成分量D1の全時間変動成分に対するこの周期的な時間変動成分の大きさを表すバンドパスベクトル位相相関度D34を検出する。
すなわち図23に示すように、バンドパスベクトル位相相関度算出部73において、正規化バンドパスベクトル内積演算部75は、正規化されたバンドパスベクトルEBPとAC成分ベクトルDV4(XAC)とを内積演算する。ここで正規化されたバンドパスベクトルEBPは、フリッカ劣化に係る高域成分量D1の周期的な時間変動をモデル化して設定されたバンドパスフィルタのフィルタ係数に対して、タップ係数がAC成分ベクトルDV4の次元数と同じで、かつフィルタ係数を要素とするベクトルの大きさが1となるように正規化されたベクトルである。なおこのフリッカ劣化に係る高域成分量D1の周期的な時間変動をモデル化して設定されたバンドパスフィルタは、例えば図1におけるバンドパスフィルタ部11である。これによりバンドパスベクトル位相相関度算出部73は、内積演算により得られる内積値によりフリッカ劣化に係る高域成分量D1の周期的な時間変動の大きさを検出し、正規化バンドパス内積信号D32として出力する。
AC成分ベクトルノルム算出部76では、AC成分ベクトルDV4のノルムD33を算出して出力する。
ベクトル位相相関度算出部77は、次式により示す演算処理により、バンドパスベクトル位相相関度D34(cos θ)を検出する。なおここで<XAC,EBP>は、正規化バンドパス内積信号D32であり、XACの絶対値は、AC成分ベクトルDV4のノルムD33である。
ここで図24に示すように、正規直交座標空間上において、バンドパスベクトルEBPは、EBP=XAC/|XAC|で表されることから、高域成分量D1においてフリッカ劣化に係る周期変動成分が増大して、AC成分ベクトルDV4(XAC)とバンドパスベクトルEBPとの成す角度θが小さくなればなる程、(1)式によるバンドパスベクトル位相相関度D34は値が大きくなる。すなわちバンドパスベクトル位相相関度D34が大きい程、高域成分量D1の時間変動を示しているAC成分ベクトルDV4の向きは、周期的な時間変動を示すバンドパスベクトルと近い方向を指すことになる。なおこの(1)式中の<XAC,EBP>は、|XAC||EBP|cos θ=|XAC|cos θ=|XBP|となり、正規化バンドパス内積信号D32<XAC,EBP>は、図24に示す正規直交空間上において、正規化されたバンドパスベクトルEBPの方向の軸に、ベクトルYを射影したベクトルXBPのノルムであることがわかる。従って、cos θ=|XBP|/|XAC|であり、上述の実施例2で検出した周期変動成分の指標を同様に検出していることが判る。
これによりベクトル位相相関度算出部77は、フリッカ劣化に係る周期変動成分による信号波形と、この周期変動成分を抽出するバンドパスフィルタのフィルタ係数の波形との関係により、高域成分量D1の全時間変動成分に対する、フリッカ劣化に係る周期的な時間変動成分の大きさを表すバンドパスベクトル位相相関度D34を検出する。
変動周期成分占有度算出部78は、バンドパスベクトル位相相関度D34を処理して変動周期成分占有度D10を検出する。すなわち図25に示すように、変動周期成分占有度算出部78において、ベクトル位相相関度遅延信号生成部79は、バンドパスベクトル位相相関度D34を順次遅延させて複数系統により出力する。最大値検出部80は、ベクトル位相相関度遅延信号生成部79から出力される複数系統の出力信号D35、バンドパスベクトル位相相関度D34を入力し、これらの入力値の中から最大値を検出して変動周期成分占有度D10を出力する。またこの最大値がバンドパスベクトル位相相関度D34から検出されたタイミングを最大値検出同期信号D21により同期バンドパス成分生成部81(図21)に通知する。
同期バンドパス成分生成部81は、最大値検出同期信号D21により、バンドパスベクトル位相相関度D34から最大値が検出されたタイミングで、正規化バンドパス内積信号D32を取得して変動特徴量生成部82に出力する。これにより同期バンドパス成分生成部81は、フリッカ劣化に係る時間変動成分のエネルギー値を検出して出力する。
変動特徴量生成部82は、エネルギー値D7に代えて、この同期バンドパス成分生成部81の出力信号D36を基準にして動作する以外、実施例1の変動特徴量生成部23と同一に構成される。
以上の構成によれば、フリッカ劣化に係る周期変動成分による信号波形と、この周期変動成分を抽出するバンドパスフィルタのフィルタ係数の波形との関係により、高域成分量の全時間変動成分に対する、フリッカ劣化に係る周期的な時間変動成分の大きさを表すバンドパスベクトル位相相関度を検出し、このバンドパスベクトル位相相関度を用いて高域成分変動特徴量を求めるようにしても、上述の実施例と同様の効果を得ることができる。
図26は、本発明の実施例4の映像信号処理装置に適用される高域成分変動特徴量計測部の構成を示すブロック図である。この実施例4の映像信号処理装置は、この高域成分変動特徴量計測部94の構成が異なる点を除いて、上述の各実施例の映像信号処理装置と同一に構成される。
ここでこの高域成分変動特徴量計測部94において、高域成分量遅延部95は、少なくとも1フレームの期間の間、高域成分量D1を遅延して出力し、減算回路96は、この高域成分量遅延部95の出力信号D40を高域成分量D1から減算して出力する。変動タイプ信号生成部97は、高域成分量遅延部95の出力信号D40により基準値を設定して減算回路96の出力信号D41を判定し、高域成分量D1の増減の判定結果である変動タイプ信号D42を出力する。
すなわち図27は、変動タイプ信号生成部97を示すブロック図である。この変動タイプ信号生成部97において、閾値生成部99は、高域成分量遅延部95の出力信号D40に値1より小さい正の係数を乗算し、判定用の閾値Th1を生成する。
変動タイプ設定部98は、この閾値Th1により減算回路96の出力信号D41を判定し、変動タイプ信号D42を生成する。具体的に、出力信号D41の値をDiffNLとし、閾値Th1の値をEpsThとして、DiffNL<−EpsThのとき、減少と判定する。またDiffNL>EpsThのとき、増加と判定する。またEpsTh≧DiffNL≧−EpsThのとき、無変動と判定する。変動タイプ設定部98は、これら減少、増加、無変動の判定結果を変動タイプ信号D42により出力する。
増加時変動量算出部101(図26)は、現時点から時間軸を逆上る方向の、出力信号D41の複数のサンプリング周期の期間である一定期間の間で、変動タイプ信号D42が増加を示している出力信号D41の絶対値和を計算し、増加時変動量D43として出力する。なおこの一定期間を以下において処理窓と呼ぶ。これにより図28(A)及び(B)により示すように、出力信号D41の6サンプリング周期の期間に処理窓を設定した場合であって、原時点が時点tである場合、増加時変動量算出部101は、時点t、t−1、t−2、t−3、t−4、t−5でそれぞれ入力される出力信号D41のサンプリング値D〔t〕、D〔t−1〕、D〔t−2〕、D〔t−3〕、D〔t−4〕、D〔t−5〕の中から、時点t、t−3のサンプリング値D〔t〕、D〔t−3〕を選択し、このサンプリング値D〔t〕、D〔t−3〕の絶対値和を増加時変動量D43として出力する。
これに対して減少時変動量算出部102は、増加時変動量算出部101に対応して、処理窓に含まれる出力信号D41の複数のサンプリング値から、変動タイプ信号D42が減少を示している出力信号D41の絶対値和を計算し、減少時変動量D44として出力する。従って図28(B)の例では、時点t−2、t−5のサンプリング値D〔t−2〕、D〔t−5〕の絶対値和を減少時変動量D44として出力する。なお絶対値和に代えて、2乗和、2乗和の平方根等により増加時変動量D43、減少時変動量D44を求めてもよい。
変動周期パターン検出部103は、変動タイプ信号D42、増加時変動量D43、減少時変動量D44より、フリッカ劣化に係る高域成分の周期的変動の有無を示す変動周期パターン検出フラグF3を出力する。
すなわち図29は、変動周期パターン検出部103を示すブロック図である。変動周期パターン検出部103において、パターン完全一致判定部105は、処理窓に含まれる変動タイプ信号D42の判定結果と、高域成分量D1で想定される周期的な時間変動のパターンによる判定結果との論理演算処理により、変動タイプ信号D42により特定される変動パターンと、この想定される周期的な時間変動のパターンとの完全一致、不一致を判定する。すなわち例えば想定される周期的な時間変動のパターンを(減少、無変動、増加、減少、無変動、増加)とすると、図28(A)における時点t、t−1、t−2、t−3、t−4、t−5の判定結果R〔t〕、R〔t−1〕、R〔t−2〕、R〔t−3〕、R〔t−4〕、R〔t−5〕は、想定される周期的な時間変動のパターンに完全に一致することになる。これに対して続くサンプリング時点で得られる時点t+1、t、t−1、t−2、t−3、t−4の判定結果R〔t+1〕、R〔t〕、R〔t−1〕、R〔t−2〕、R〔t−3〕、R〔t−4〕は、(無変動、増加、減少、無変動、増加、減少)となることから、この場合、不一致と判定される。なお想定される周期的な時間変動のパターンは、この例に限られるものではない。
変動パターン対称性判定部106は、処理窓に含まれる増加及び減少と判定されたサンプリング値の対称性を判定し、変動パターン対称性判定フラグF2を出力する。すなわち変動パターン対称性判定部106は、増加時変動量D43と減少時変動量D44との差分値の絶対値を求める。また増加時変動量D43と減少時変動量D44との和を求め、この和の値より所定の閾値を求める。変動パターン対称性判定部106は、この閾値により差分値の絶対値を判定し、判定結果により変動パターン対称性判定フラグF2を設定する。
具体的に、増加時変動量D43をINC、減少時変動量D44をDEC、閾値をVthとすると、Vth=(INC+DEC)×Kvにより閾値Vthを計算する。なおここでKvは1未満の正値の係数である。また|INC−DEC|<Vthの場合、対称性を有していると判定して変動パターン対称性判定フラグF2を設定する。またこれ以外の場合を対称性を有していないと判定して変動パターン対称性判定フラグF2を設定する。これにより変動パターン対称性判定部106は、増加時変動量D43と減少時変動量D44とがほぼ同じ変動量を示している場合に、対称性と判定する。なお対称性の判定の方法は、これに限るものではなく、増加時変動量D43と減少時変動量D44の比等を用いても良い。
一致度判定部107は、パターン完全一致フラグ信号F1及び変動パターン対称性判定フラグF2を論理演算処理し、パターン完全一致判定部105から出力されるパターン完全一致フラグ信号F1が完全一致であり、かつ変動パターン対称性判定フラグF2が対称性ありとなっている場合、想定される周期的な時間変動のパターンであるフリッカ劣化に係る高域成分の周期変動が発生していると判定し、変動周期パターン検出フラグ信号F3を検出ありに設定する。またこの判定結果を得ることができない場合は、変動周期パターン検出フラグ信号F3を検出なしに設定する。
変動特徴量生成部108(図26)は、変動周期パターン検出フラグF3を基準にして増加時変動量D43、減少時変動量D44を処理し、変動特徴量D12を生成する。ここで図30は、変動特徴量生成部108を示すブロック図である。この変動特徴量生成部108において、変動量算出部109は、変動周期パターン検出フラグF3が検出ありに設定されている場合、増加時変動量D43及び減少時変動量D44を加算して高域成分変動量D45を出力する。これに対して変動周期パターン検出フラグF3が検出なしに設定されている場合、高域成分変動量D45を値0に設定して出力する。
変動量遅延部110は、所定の遅延時間特徴量ずつこの高域成分変動量D45を順次遅延して複数系統により出力する。なおこの場合、この複数系統を1系統としてもよい。またこの遅延時間は、上述した処理窓の長さ以上である。
最大値検出部111は、変動量遅延部110の出力信号D46、変動量算出部109から出力される高域成分変動量D45から最大値を検出し、変動特徴量D12として出力する。
この実施例では、高域成分量D1の増減を判定し、この判定結果に基づいて、フリッカ劣化に係る時間変動のパターンに対する高域成分量D1の増減パターンの一致、不一致を判定し、一致の判定結果が得られた場合に選択的に高域成分量D1を処理して高域成分変動特徴量D2を検出することにより、簡易な処理により高域成分変動特徴量D2を算出して上述の実施例と同様の効果を得ることができる。
またこの一致の判定結果が得られた場合の選択的な高域成分量D1の処理において、それぞれ増加時及び減少時の高域成分量の加算値である増加時変動量及び減少時変動量を検出して高域成分量の増減の対称性を判定することにより、確実にフリッカ劣化の発生が予測される場合に、高域成分の時間変動を低減することができる。
図31は、本発明の実施例5の映像信号処理装置に適用される高域成分変動特徴量計測部の構成を示すブロック図である。この実施例5の映像信号処理装置は、この高域成分変動特徴量計測部124の構成が異なる点を除いて、実施例1の映像信号処理装置1と同一に構成される。またこの高域成分変動特徴量計測部124において、上述した各実施例と同一の構成は対応する符号を付して示し、重複した説明は省略する。
高域成分変動特徴量計測部124において、高域成分量遅延部46は、高域成分量D1を順次遅延させ、3n−1系統により出力する。高域成分変動特徴量計測部124は、これによりこの高域成分量遅延部46の出力信号D23と高域成分量D1とによる、連続する3nのサンプリング周期を処理窓として、高域成分量D1を処理する。なおここでnは整数であり、この高域成分変動特徴量計測部124における処理において、図4、図5及び図6の特性を確保する場合、それぞれ3nは、値3、値6、値5に設定される。なお以下においては、この3nが値6に設定されて、6個のサンプリング周期を処理窓として設定した場合について説明する。
分離レベル設定部126は、高域成分量遅延部46の出力信号D23と高域成分量D1とを入力し、所定の処理基準値である分離レベルD53を検出する。ここで図32は、分離レベル設定部126の構成を示すブロック図である。この分離レベル設定部126において、ソーティング処理部127は、いわゆる順序統計フィルタであり、高域成分量遅延部46の出力信号D23と高域成分量D1とによる3n個のサンプリング値を値の大きい順又は値の小さい順にソートする。ここで図33に示すように、現在時点tにおいて、ソーティング処理部127には、時点t、t−1、t−2、t−3、t−4、t−5の高域成分量D1である値R〔t〕、R〔t−1〕、R〔t−2〕、R〔t−3〕、R〔t−4〕、R〔t−5〕のサンプリング値が入力される。これによりこの場合、ソーティング処理部127は、これら値R〔t〕、R〔t−1〕、R〔t−2〕、R〔t−3〕、R〔t−4〕、R〔t−5〕のサンプリング値をソーティングする。
またソーティング処理部127は、ソーティング結果から値の大きい側より2番目と3番目のサンプリング値をそれぞれ大中間レベル信号D51、小中間レベル信号D52として出力する。なおここでこの大中間レベル信号D51、小中間レベル信号D52へのソーティング結果の割り当ては、高域成分量D1の周期的な時間変動が、大中間レベル信号D51、小中間レベル信号D52に対応する大、小の2つの高域成分量を横切る変動であるとの仮定に基づくものである。従って図33の例では、時点t−5、t−3のサンプリング値である値R〔t−5〕、R〔t−3〕がそれぞれ大中間レベル信号D51、小中間レベル信号D52として出力される。
分離レベル算出部128は、大中間レベル信号D51、小中間レベル信号D52から平均値を算出し、この平均値を分離レベルD53として出力する。従って図33の例では、分離レベルD53(SPL〔t〕)は、(R〔t−5〕+R〔t−3〕)/2となる。
大高域成分分析部130(図31)は、この分離レベルD53により所定の閾値を設定し、この閾値により高域成分量遅延部46の出力信号D23と高域成分量D1とを分析し、高域成分量D1が大きい場合の変動量を示す大高域成分変動量D55を検出する。
すなわち図34は、大高域成分分析部130を示すブロック図である。大高域成分分析部130において、閾値設定部131は、分離レベルD53に値1以上の係数を乗算して大高域成分判定閾値Th2(LNTH〔t〕(図33参照))を計算する。
大高域成分判定部132は、この大高域成分判定閾値Th2により、高域成分量遅延部46の出力信号D23と高域成分量D1とによる3n個のサンプリング値を順次判定し、判定結果を大高域成分判定フラグF4により出力する。なお以下において、この大高域成分判定閾値Th2より大きいサンプリング値を大高域成分と呼ぶ。
カウンタ部133は、処理窓毎に、この大高域成分判定フラグF4をカウントすることにより、1つの処理窓に含まれる大高域成分の数をカウントし、カウント値を大高域成分データ数D54として出力する。
大高域成分変動量算出部134は、高域成分量遅延部46の出力信号D23と高域成分量D1とに対して、大高域成分判定フラグF4が大高域成分を示しているサンプリング値で分離レベルD53との差分絶対値和を求め、この差分絶対値和をカウンタ部133のカウント値で割り算し、その結果得られる割り算値を大高域成分変動量D55として出力する。すなわち図33の例では、時刻tにおいて、時点t、t−1、t−2、t−3、t−4、t−5のサンプリング値R〔t〕、R〔t−1〕、R〔t−2〕、R〔t−3〕、R〔t−4〕、R〔t−5〕から値SPL〔t〕の分離レベルD53が求められ、この分離レベルD53を基準にして生成された閾値Th2によるこれらサンプリング値R〔t〕、R〔t−1〕、R〔t−2〕、R〔t−3〕、R〔t−4〕、R〔t−5〕の判定により、時点t−2、t−5のサンプリング値R〔t−2〕、R〔t−5〕が大高域成分と判定される。これによりこの場合、大高域成分変動量算出部134は、次式の演算処理により、これらサンプリング値R〔t−2〕、R〔t−5〕の分離レベルD53との差分絶対値和をカウンタ部133のカウント値(値2)で割り算し、これにより分離レベルD53との差分絶対値の平均値INV〔t〕により大高域成分変動量D55を生成する。
小高域成分分析部135は、大高域成分分析部130と同様にして、分離レベルD53により所定の閾値を設定し、この閾値により高域成分量遅延部46の出力信号D23と高域成分量D1とを分析し、高域成分量D1が小さい場合の変動量を示す小高域成分変動量D57を検出する。
すなわち図35は、小高域成分分析部135を示すブロック図である。小高域成分分析部135において、閾値設定部136は、分離レベルD53に値1以下の係数を乗算して小高域成分判定閾値Th3(SNTH〔t〕(図33参照))を計算する。
小高域成分判定部137は、この小高域成分判定閾値Th3により、高域成分量遅延部46の出力信号D23と高域成分量D1とによる3n個のサンプリング値を順次判定し、判定結果を小高域成分判定フラグF5により出力する。なお以下において、この小高域成分判定閾値Th3より小さいサンプリング値を小高域成分と呼ぶ。
カウンタ部138は、処理窓毎に、この小高域成分判定フラグF5をカウントすることにより、1つの処理窓に含まれる小高域成分の数をカウントし、カウント値を小高域成分データ数D56として出力する。
小高域成分変動量算出部139は、高域成分量遅延部46の出力信号D23と高域成分量D1とに対して、小高域成分判定フラグF5が小高域成分を示しているサンプリング値で分離レベルD53との差分絶対値和を求め、この差分絶対値和をカウンタ部138のカウント値で割り算し、その結果得られる絶対値和の平均値を小高域成分変動量D57として出力する。すなわち図33の例では、時刻tにおいて、時点t、t−1、t−2、t−3、t−4、t−5のサンプリング値R〔t〕、R〔t−1〕、R〔t−2〕、R〔t−3〕、R〔t−4〕、R〔t−5〕から求められた分離レベルD53(SPL〔t〕)から閾値Th3(SNTH〔t〕)が生成され、この閾値Th3によるサンプリング値R〔t〕、R〔t−1〕、R〔t−2〕、R〔t−3〕、R〔t−4〕、R〔t−5〕の判定により、時点t、t−1、t−3、t−4のサンプリング値R〔t〕、R〔t−1〕、R〔t−3〕、R〔t−4〕が小高域成分と判定される。これによりこの場合、小高域成分変動量算出部139は、次式により示すように、これらサンプリング値R〔t〕、R〔t−1〕、R〔t−3〕、R〔t−4〕の分離レベルD53との差分絶対値和をカウンタ部138のカウント値(値4)で割り算し、差分絶対値の平均値SNV〔t〕により小高域成分変動量D57を出力する。なお大高域成分変動量算出部134及び小高域成分変動量算出部139における差分絶対値和による平均値の演算処理に代えて、平均2乗差分、平均2乗差分の平方根等により平均値を求めるようにしてもよい。
変動特徴信頼度設定部140(図31)は、大高域成分データ数D54及び小高域成分データ数D56を処理して、変動特徴信頼度D60を検出する。ここで図36は、変動特徴信頼度設定部140を示すブロック図である。この変動特徴信頼度設定部140において、変動判定部141は、大高域成分データ数D54及び小高域成分データ数D56をの何れかが値0の場合、高域成分量D1の時間変動が小さいことを示す変動なしに変動判定フラグF6を設定する。またこれ以外の場合は、高域成分量D1の時間変動が大きいことを示す変動ありに変動判定フラグF6を設定する。
高域成分構成比算出部142は、変動判定フラグF6が変動ありに設定されている場合に、小高域成分データ数D56と大高域成分データ数D54の比を算出し、この算出した比を高域成分構成比D58として出力する。
変動特徴信頼度算出部143は、変動判定フラグF6が変動なしに設定されている場合、値0により変動特徴信頼度D59を出力する。これに対して変動判定フラグF6が変動ありに設定されている場合、図37に示す特性により、高域成分構成比D58に応じて値を設定して変動特徴信頼度D59を出力する。すなわち変動特徴信頼度算出部143は、高域成分構成比D58を閾値RNTh1、RNTh2で判定し、高域成分構成比D58がこれら閾値RNTh1、RNTh2で決まる範囲内のとき、変動特徴信頼度D59を値1に設定する。また高域成分構成比D58がこれら閾値RNTh1、RNTh2で決まる範囲外のとき、これら閾値RNTh1、RNTh2から値が遠ざかるに従って順次値0に近づくように変動特徴信頼度D59を設定する。なおここで閾値RNTh1、RNTh2は、想定される高域成分量D1の周期的な時間変動の性質によって設定される。
信頼度時間平滑化部144は、変動特徴信頼度D59を平滑化して変動特徴信頼度D60を出力する。なお信頼度時間平滑化部144には、FIRフィルタ、IIRフィルタ、メディアンフィルタ等を適用することができる。
変動特徴量生成部145は、変動特徴信頼度D60が所定の閾値以下の場合、フリッカ劣化に係る高域成分量D1の周期的な時間変動が発生していないものとして、変動特徴量D12を値0に設定する。またこれ以外の場合、大高域成分変動量D55と小高域成分変動量D57の和を変動特徴量D12に設定して出力する。
以上の構成によれば、一定期間で得られる高域成分量を順序統計フィルタにより処理して高域成分量の判定に使用する分離レベルを設定し、この分離レベルにより高域成分を判定して高域成分変動特徴量を生成するようにしても、実施例1と同様の効果を得ることができる。
すなわちこの高域成分変動特徴量を生成する処理において、分離レベルにより高域成分量を判定して、値の大きな高域成分量の分離レベルからの差分の平均値と、値の小さな高域成分量の分離レベルからの差分の平均値を検出する共に、これらの平均値の算出に供したサンプリング数の比率を検出し、値の大きな高域成分量による平均値を、値の小さな高域成分による平均値、この比率で補正して高域成分変動特徴量を検出することにより、ピクチャータイプの周期変動成分と類似した信号レベルの変化が一時的に発生した場合にあっても、さらには入力映像信号の高域成分が種々に変化している場合にあっても、フリッカ劣化を確実に抑圧することができる。
図38は、本発明の実施例6の映像信号処理装置を示すブロック図である。この実施例6の映像信号処理装置151において、図2について上述した映像信号処理装置1と同一の構成は、対応する符号を付して示し、重複した説明は省略する。
ここでこの映像信号処理装置151は、高域成分計測部3から出力される高域成分量D1を複数の高域成分変動特徴量計測部154A〜154Nにより同時並列的に処理してそれぞれ高域成分変動特徴量D2A〜D2Nを検出する。ここでこれら高域成分変動特徴量計測部154A〜154Nは、検出対象の高域成分の周期変動成分が異なる点を除いて、上述の実施例1〜5の高域成分変動特徴量計測部と同一に構成される。これによりこの映像信号処理装置151では、GOP構造の異なる種々の入力映像信号S1を処理する場合にあっても、高域成分変動特徴量計測部154A〜154Nの何れかで正しく高域成分変動特徴量D2A〜D2Nを検出できるように構成される。
変動特徴量選択部155は、これら高域成分変動特徴量計測部154A〜154Nから出力される高域成分変動特徴量D2A〜D2Nから最大値を検出し、この最大値による高域成分変動特徴量D2を映像信号処理部2に出力する。
この実施例によれば、検出対象の高域成分の周期変動成分が異なる複数の高域成分変動特徴量計測部により高域成分変動特徴量を同時並列的に検出し、これらの高域成分変動特徴量から最大値を検出して映像信号処理部を制御することにより、GOP構造の異なる種々の入力映像信号1を処理する場合に、フリッカ劣化を十分に低減することができる。
図39は、本発明の実施例7の映像信号処理装置を示すブロック図である。この映像信号処理装置161において、上述した各実施例の映像信号処理装置と同一の構成は、対応する符号を付して示し、重複した説明は省略する。なお以下においては、実施例1の構成を前提に、この実施例7の映像信号処理装置の構成を示すが、この実施例7の映像信号処理装置は、実施例1以外の他の実施例の構成を前提とする場合にも適用することができる。
この映像信号処理装置161において、部分領域分割部162は、入力映像信号S1を入力し、図40に示すように、この入力映像信号S1による1画面を垂直方向及び水平方向に等分割して設定された領域AR毎に入力映像信号S1を分割して出力する。なおここでこの図40では、水平方向及び垂直方向に1画面をそれぞれ5等分して領域ARが形成された例である。
明るさ分類部163は、この部分領域分割部162から出力される映像信号S7の輝度レベルを領域AR毎に集計し、領域ARの明るさを示す分類する部分領域明るさレベルD71を検出する。なおこの集計には、例えば輝度レベルの平均値、合計値等が適用される。これにより明るさ分類部163は、入力映像信号S1の各領域ARを明るさにより分類する。
テクスチャ分類部164は、部分領域分割部162から出力される映像信号S7の輝度レベルを入力し、領域ARをテクスチャにより分類する。具体的に、テクスチャ分類部164は、図40に示すように、各領域ARをそれぞれ垂直方向及び水平方向に等分割して設定されたサブ領域ARA毎に、部分領域分割部162から出力される映像信号S7の分散SubRVerを計算する。さらにこの分散SubRVerを領域AR毎に平均値化して分散SubRVerの平均AveSubRVarを求める。また領域AR毎に分散SubRVerの分散VarSubRVarを算出する。
テクスチャ分類部164は、これら領域AR毎の平均AveSubRVar、分散VarSubRVarを判定して、各領域ARのテクスチャを分類する。すなわちテクスチャ分類部164は、分散VarSubRVarが、所定の閾値TxrThよりも大きい場合、当該領域ARではサブ領域ARAにおける分散SubRVerが不均一に分布し、当該領域ARは、エッジが存在する場合、異なるテクスチャが混在する場合等であることから、当該領域ARの部分テクスチャ分類情報D72を非テクスチャに設定する。
また分散VarSubRVarが、所定の閾値TxrThより小さい場合、平均AveSubRVarの値が増大するに従って、順次、ノイズタイプ、小振幅テクスチャ、中振幅テクスチャ、大振幅テクスチャに当該領域を分類して部分領域テクスチャ分類情報D72を設定する。
なお分類方法は、これに限るものではなく、周波数解析などを行って、部分入力映像信号S7内でより多くの特徴量を抽出し、さらに細かく分類してもよいし、ノイズ、テクスチャなどのように単に2段階で分類する構成でもよい。これによりテクスチャ分類部164は、明るさ分類部163とは異なる画素値のばらつきを判定基準とした分類手法により入力映像信号S1の各領域ARを分類する。
これらによりこの映像信号処理装置は、入力映像信号S1に設定された領域ARを入力映像信号S1の特徴量により分類する。
高域成分計測部165、高域成分変動特徴量計測部166は、部分領域明るさレベルD71、部分テクスチャ分類情報D72により分類された分類毎に、高域成分量D1、高域成分変動特徴量D2を検出する。従って入力映像信号S1に係る全領域ARが1つの分類に分類された場合には、上述の各実施例と同様に、1画面で高域成分量D1、高域成分変動特徴量D2を検出する。高域成分計測部165、高域成分変動特徴量計測部166は、この高域成分量D1、高域成分変動特徴量D2の検出単位に関する構成が異なる点を除いて、上述の各実施例と同一に構成される。
映像信号処理部167は、図41に示すように、制御情報生成部168において、ノイズ低減処理部32、鮮鋭度強調処理部33、コントラスト強調処理部34を制御する制御情報D16、D17、D18を高域成分量D1、高域成分変動特徴量D2により生成し、これらフリッカ劣化を低減するようにこれら処理部32〜34を制御する。
ここで制御情報生成部168は、部分領域明るさレベルD71、部分テクスチャ分類情報D72により分類された分類毎に、制御情報D16、D17、D18を生成する。なおこのとき各分類の面積、空間周波数、明るさに対する人間の視感度特性、高域成分変動特徴量D2に検出対象である時間変動に対する視感度特性等を考慮して、部分領域明るさレベルD71、部分テクスチャ分類情報D72等により各分類における制御情報D16、D17、D18の設定を可変するようにしてもよい。
具体的に、フリッカ劣化は、暗い部分程目立ち易いことから、部分領域明るさレベルD71により暗い部分程、高域成分変動特徴量D2に対するフリッカ劣化の低減効果が高くなるように制御情報D16、D17、D18を設定することが考えられる。また小面積の部分では、大面積の部分に比してフリッカ劣化が目立ち難いことから、小面積の部分では、高域成分変動特徴量D2に対するフリッカ劣化の低減効果が低くなるように制御情報D16、D17、D18を設定することが考えられる。またフリッカ劣化に係る高域成分を多く含んでいる場合には、この種の高域成分が少ない場合に比してフリッカ劣化が目立ち易いことから、空間周波数が増大するに従って、フリッカ劣化の低減効果が高くなるように制御情報D16、D17、D18を設定することが考えられる。
部分領域統合部169(図39)は、このようにして領域AR毎に処理された映像信号S2を元の入力映像信号S1の順序に並べ直して出力する。
この実施例では、入力映像信号に設定された各領域を種々の特徴量により分類し、分類毎に高域成分量D1、高域成分変動特徴量D2を設定することにより、一段と確実にフリッカ劣化を低減することができる。また出力映像信号の画質を向上することができる。
図42は、本発明の実施例8の映像信号処理装置を示すブロック図である。この映像信号処理装置171は、ディスプレイ上で知覚されるフリッカ劣化の主観的な劣化の大きさを計測する。この映像信号処理装置171は、映像信号処理部167に代えて、フリッカ劣化主観知覚度設定部172が設けられる点を除いて、上述の各実施例と同一に構成されるものの、以下においては、実施例7の構成において、映像信号処理部167に代えて、フリッカ劣化主観知覚度設定部172を設けた構成について説明する。
フリッカ劣化主観知覚度設定部172は、上述した各実施例の映像信号処理部の制御情報生成において、コントラスト強調処理に係る制御情報による制御量を計算する場合と同様にして、フリッカ劣化の主観知覚度を計測し、測定結果D81として出力する。ここでフリッカ劣化の主観知覚度は、ディスプレイで表示して発生するフリッカ劣化の程度を示す指標であり、人間の視感度特性等に依存する。これによりこの実施例において、フリッカ劣化主観知覚度設定部172は、実施例7について上述した制御情報生成部168と同様に、高域成分量D1、高域成分変動特徴量D2、部分領域明るさレベルD71、部分テクスチャ分類情報D72により測定結果D81を出力する。
またさらにフリッカ劣化主観知覚度設定部172は、入力映像信号S1をディスプレイモニタ上で表示するまでの非線型特性情報D80が入力され、この情報により測定結果を補正して出力する。なおここでこの非線型特性情報D80は、撮影装置で施した非線型処理、コントラスト強調の非線型処理、ディスプレイモニタの特性を考慮した非線型処理などの特性情報から構成される。
以上の構成によれば、入力映像信号に含まれる高域成分量の周期的な時間変動量を検出し、この検出結果に基づいてフリッカ劣化の主観知覚度を計測することにより、フリッカ劣化を定量的に計測することができる。
なお上述の実施例においては、映像信号処理装置をプロセッサにより構成する場合について述べたが、本発明はこれに限らず、ハードウエア構成により映像信号処理装置を構成する場合に広く適用することができる。
本発明は、例えばMPEG等によるストリーミングデータをデコードした映像信号の処理に適用することができる。
本発明の実施例1の映像信号処理装置の高域成分変動特徴量計測部を示すブロック図である。
本発明の実施例1の映像信号処理装置を示すブロック図である。
入力映像信号S1のGOP構造の説明に供する特性曲線図である。
バンドパスフィルタ部の説明に供する略線図である。
図4とは異なる例の説明に供する略線図である。
図4及び図5とは異なる例の説明に供する略線図である。
バンドパスフィルタ部とハイパスフィルタ部との関係の説明に供する特性曲線図である。
ハイパスフィルタ部の構成を示すブロック図である。
変動周期成分占有度と変動周期安定度との関係を示す特性曲線図である。
変動特徴量生成部を示すブロック図である。
占有度信頼度を示す特性曲線図である。
安定度信頼度を示す特性曲線図である。
映像信号処理部を示すブロック図である。
コントラスト強調処理部の制御の説明に供する特性曲線図である。
本発明の実施例2の映像信号処理装置に適用される高域成分変動特徴量計測部の構成を示すブロック図である。
バンドパスフィルタ出力エネルギー算出部を示すブロック図である。
バンドパスフィルタの基底波形を示す特性曲線図である。
高域成分量の説明に供する特性曲線図である。
高域成分エネルギー算出部を示すブロック図である。
正規直交座標空間における各成分を示す略線図である。
本発明の実施例3の映像信号処理装置に適用される高域成分変動特徴量計測部を示すブロック図である。
AC成分ベクトル成分部を示すブロック図である。
バンドパスベクトル位相相関度算出部を示すブロック図である。
正規直交座標空間上において各成分を示す略線図である。
変動周期成分占有度算出部を示すブロック図である。
本発明の実施例4の映像信号処理装置に適用される高域成分変動特徴量計測部を示すブロック図である。
変動タイプ信号生成部を示すブロック図である。
高域成分量の増減の判定の説明に供する特性曲線図である。
変動周期パターン検出部を示すブロック図である。
変動特徴量生成部を示すブロック図である。
本発明の実施例5の映像信号処理装置に適用される高域成分変動特徴量計測部を示すブロック図である。
分離レベル設定部を示すブロック図である。
分離レベル設定部の動作の説明に供する特性曲線図である。
大高域成分分析部を示すブロック図である。
小高域成分分析部を示すブロック図である。
変動特徴信頼度設定部を示すブロック図である。
変動特徴信頼度設定部の動作の説明に供する特性曲線図である。
本発明の実施例6の映像信号処理装置を示すブロック図である。
本発明の実施例7の映像信号処理装置を示すブロック図である。
入力映像信号の1画面の分割の説明に供する略線図である。
映像信号処理部を示すブロック図である。
本発明の実施例8の映像信号処理装置を示すブロック図である。
符号の説明
1、151、161、171……映像信号処理装置、2、167……映像信号処理部、3、165……高域成分計測部、4、44、64、94、124、154A〜154N、166……高域成分変動特徴量計測部、11……バンドパスフィルタ部、12……ハイパスフィルタ部、18、48……バンドパス出力エネルギー算出部、19……ハイパス出力エネルギー算出部、20、50、78……変動周期成分占有度算出部、21……変動周期安定度算出部、23、82、108、145……変動特徴量生成部、30……変動特徴量時間平滑化部、35……制御情報生成部、49……時間ACエネルギー算出部、65……AC成分ベクトル成分部、73……バンドパスベクトル位相相関度算出部、81……同期バンドパス成分生成部、97……変動タイプ信号生成部、101……増加時変動量算出部、102……減少時変動量算出部、103……変動周期パターン検出部、126……分離レベル設定部、130……大高域成分分析部、135……小高域成分分析部、140……変動特徴信頼度設定部、155……変動特徴量選択部、163……明るさ分類部、164……テクスチャ分類部、169……部分領域結合部、172……フリッカ劣化主観知覚度設定部