JP2013225728A - 画像処理装置、画像表示装置、シーンチェンジ発生検出方法、コンピュータプログラム及び記録媒体 - Google Patents
画像処理装置、画像表示装置、シーンチェンジ発生検出方法、コンピュータプログラム及び記録媒体 Download PDFInfo
- Publication number
- JP2013225728A JP2013225728A JP2012096047A JP2012096047A JP2013225728A JP 2013225728 A JP2013225728 A JP 2013225728A JP 2012096047 A JP2012096047 A JP 2012096047A JP 2012096047 A JP2012096047 A JP 2012096047A JP 2013225728 A JP2013225728 A JP 2013225728A
- Authority
- JP
- Japan
- Prior art keywords
- scene change
- pixel
- value
- frame image
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Picture Signal Circuits (AREA)
- Processing Of Color Television Signals (AREA)
- Image Analysis (AREA)
Abstract
【課題】シーンチェンジの発生を精度良く簡易に判定する画像処理装置を提供する。
【解決手段】対象フレーム画像の第1画素の色成分の値と、第1画素と位置合わせされた参照フレーム画像の第2画素の色成分の値とから、対象フレーム画像の画素毎のコストを算出する画素単位コスト算出部170と、画素毎のコストに基づく対象フレーム画像全体のコストと所定の閾値とを比較してシーンチェンジの発生を判定するシーンチェンジ検出部171と、を備える。
【選択図】図6
【解決手段】対象フレーム画像の第1画素の色成分の値と、第1画素と位置合わせされた参照フレーム画像の第2画素の色成分の値とから、対象フレーム画像の画素毎のコストを算出する画素単位コスト算出部170と、画素毎のコストに基づく対象フレーム画像全体のコストと所定の閾値とを比較してシーンチェンジの発生を判定するシーンチェンジ検出部171と、を備える。
【選択図】図6
Description
本発明は、動画像におけるシーンチェンジを検出する画像処理装置、画像表示装置、シーンチェンジ発生検出方法、コンピュータプログラム及び記録媒体に関する。
動画像(映像)を構成するフレーム画像(フレーム)に見られるランダムノイズ等のノイズ除去(低減)処理の例として、時間軸方向のフィルタ処理を行う方法が挙げられる。具体的には、複数の連続するフレームから成るフレーム列のうち、ノイズ除去処理の対象となるフレームとその周辺の複数フレームとに対して適切な重み係数を算出して重み付き平均処理を行う方法である。この方法では、予め動き補償処理により位置合わせされた複数フレーム間の対応画素同士において、被写体から得られる信号成分は近い値をとるという仮定の下で、ノイズ成分の除去を行う。
上記ノイズ除去(低減)処理のように、フレーム列に時間軸方向のフィルタ処理を適用する画像処理装置や方法などは、これまで多数提案されてきた。しかしながら、フィルタ処理の対象となるフレーム同士でシーンが異なる、すなわちシーンチェンジが発生している場合、異なるシーンのフレーム同士の重み付き平均を求めることで予期せぬ結果を生じる場合がある。例えば、人物の顔を大きく映したシーンから水中のシーンに切り替わる場合、その両方のシーンのフレームが使用されることで、被写体の人物の肌を構成する画素上に水の青色などの色が現われたり、あるいはその逆の現象が起こったりする場合が考えられる。こうした残像のような現象は画質を劣化させる一因となる。そのため、シーンチェンジを考慮したフィルタ処理を設計する必要がある。
一方で、時間軸方向のフィルタ処理を実行するにあたり、事前にフレーム間の動きを画素毎に検出して位置合わせをする動き補償処理を実行することがある。しかしながら、画像処理装置や画像表示装置に実装されている動き補償処理で検出できる動きの範囲は多くの場合制限されている。また、実装されている動き補償処理の内容や入力される映像の画質によっては、推定誤りが発生することがある。時間軸方向のフィルタ処理では入力フレーム数が減ると効果が低下する恐れもある。そのため、前述したような推定誤りが発生する度にシーンチェンジとして判定することは得策ではない。変化の激しい部分が特定の部分に集中している場合には、シーンチェンジとみなさず、部分的にフィルタの効果を調整する方が現実的である。さらに、残像が発生する期間は、フィルタの大きさにもよるが、数フレームほどである場合が多く、視認されるのは短時間となるため、前述した残像の例のように極端に色あいの異なる残像以外はあまり気にならないと考えられる。
特許文献1には、シーンチェンジを起因とする画像の画質劣化を抑制するための動きベクトルを生成する技術が開示されている。まず、処理対象フレーム内の領域ごとに、シーンチェンジがあるか否かを判定する。シーンチェンジがあると判定された場合、処理対象フレームに含まれる特定方向に連続して並ぶ複数ブロックにおいて、ブロック毎に、ゲイン値(動きベクトルを補正する値)を徐々に減少させるとともに、ゲイン値を1つのブロックに対応する動きベクトルに乗算することで、動画像に含まれる処理対象フレームを補正するための各動きベクトルを生成する。シーンチェンジがあるか否かの判定は、複数に分割されたブロックの相関度合いを示す相関値(SAD値:Sum of Absolute Difference)を求め、1つの領域に対応する複数のSAD値の平均値である領域平均AVと過去平均PAV(処理対象フレームの直前の2枚のフレームにおける同じ位置の領域に対応する領域平均AVの平均値)を比較することによって行う。
しかしながら、特許文献1の技術のように、フレーム間で対応する画素のSAD値を評価値として利用する場合、フレーム内に含まれるノイズの強さに応じてSAD値は大きくなりがちである。例えば時間軸方向のフィルタ処理によってノイズ低減処理を行いたい場合、当然ながら入力される映像にはノイズが含まれている可能性が高いため、ノイズの影響を無視することはできない。また、入力される映像のコントラストの変化に伴い、算出される評価値も変化する。すなわち、コントラストが高い映像では評価値が大きく、コントラストが低い映像では評価値が小さくなる。従って、あらゆる画質の映像に対して柔軟に対応するには様々なパラメータを準備する必要がある。また、評価はフレーム全体に対する評価であり、画素単位でのシーンチェンジの可能性は評価されない。そのため、動きが速いなどの理由から動き補償処理で追跡しきれなかったり、エフェクトや光の入射などが発生したりして、部分的に差異の大きな領域が発生する場合に、その偏りはシーンチェンジの判定に反映されにくい。
そこで、本発明は、上記の問題点に鑑みてなされたものであって、その目的は、シーンチェンジが生じているか否かを精度良く簡易に判定することが可能な画像処理装置、画像形成装置、シーンチェンジ発生検出方法、コンピュータプログラム、並びに記録媒体を提供することにある。
本発明に係る画像処理装置は、上記課題を解決するために、複数のフレーム画像よりなる映像におけるシーンチェンジの発生を検出する画像処理装置であって、隣接する2つのフレーム画像間の移動量を画素毎に推定し、推定した当該移動量に基づいて当該隣接する2つのフレーム画像の位置合わせをする動き補償処理部と、上記隣接する2つのフレーム画像のうち、一方のフレーム画像である対象フレーム画像の注目画素である第1画素の色成分の値と、他方のフレーム画像である参照フレーム画像における上記第1画素と上記位置合わせされた第2画素の色成分の値とから算出される評価値を、上記対象フレーム画像の画素毎に算出する画素単位評価値算出部と、上記対象フレーム画像の画素毎に算出された評価値に基づいて、隣接する2つのフレーム画像が異なるシーンのフレーム画像である可能性の大きさを示す評価量を算出し、算出された当該評価量と予め定められた閾値とを比較することでシーンチェンジが発生しているかを判定するシーンチェンジ検出部と、を備えることを特徴としている。
上記構成によると、隣接する2つのフレーム画像の位置合わせをし、隣接する2つのフレーム画像のうち、一方のフレーム画像である対象フレーム画像の注目画素である第1画素の色成分の値と、他方のフレーム画像である参照フレーム画像における上記第1画素と位置合わせされた第2画素の色成分の値とから算出される評価値を、対象フレーム画像の画素毎に算出する。そして、この評価値に基づいて、隣接する2つのフレーム画像が異なるシーンのフレーム画像である可能性の大きさを示す評価量を算出し、算出された当該評価量と予め定められた閾値とを比較することでシーンチェンジが発生しているかを判定する。
上記のように算出された評価値は、コントラストが低い場合でも比較的色あいの差異を検知しやすく、ノイズの影響を受けにくい。よって、この評価値に基づいて算出された上記評価量を用いることで、シーンチェンジが発生しているか否かを精度よく簡易に判定することができる。そして、上記のように判定されたシーンチェンジの判定結果を考慮して、対象フレームと異なるシーンの参照フレームを使用しないように選択的に、時間軸方向のフィルタ処理(例えば、ノイズ低減処理やスケーラー処理)等の時間軸に沿った複数のフレーム画像を入力とする映像処理(以下、時間軸映像処理と記す)を実行することで、精度のよい適切な時間軸映像処理を実行することができる。
ここで、上記画素単位評価値算出部は、上記第1画素の上記対象フレーム画像の色成分の値を成分とする第1ベクトルと、上記第2画素の色成分の値を成分とする第2ベクトルとを求め、当該第1ベクトルと当該第2ベクトルのなす角の余弦値より、上記評価値を算出してもよい。このように算出することで、算出過程が少ないため、簡易にシーンチェンジが発生しているか否かの判定を行うことができる。
また、シーンチェンジ検出部は、上記評価量を、例えば、対象フレーム画像の全画素数に対する予め定められた閾値を超える上記評価値を有する画素数の割合から算出してもよい。あるいは、上記対象フレーム画像の全画素の上記評価値の平均値から算出してもよい。もちろん、これら以外から上記評価量を求めてもよい。
本発明に係る画像表示装置では、上記構成に加え、上記シーンチェンジ検出部は、上記判定の結果を、上記対象フレーム画像と上記参照フレーム画像とが同じシーンにある状態か、上記対象フレーム画像と上記参照フレーム画像との間でシーンチェンジが発生しているか、あるいは、上記対象フレーム画像と上記参照フレーム画像とがシーンチェンジ発生後の上記評価量が所定値以下になるまでの期間を表わす許容期間にある状態か、のいずれかの状態に分類してもよい。
上記構成によると、シーンチェンジの発生の有無に加え、シーンチェンジの発生が無い場合に、対象フレーム画像と参照フレーム画像とが同じシーンにある状態か、上記対象フレーム画像と上記参照フレーム画像とが上記許容期間にある状態か、の判定を行うことができる。
本発明に係る画像表示装置では、上記構成に加え、上記参照フレーム画像は、上記対象フレーム画像よりも表示順序が前の画像であり、上記シーンチェンジ検出部は、上記参照フレーム画像について既にシーンチェンジの発生を判定した結果である履歴情報を参照し、上記対象フレーム画像の上記評価量と上記予め定められた閾値とを比較してもよい。
隣接した(表示順序が連続する)フレーム画像は、前のフレーム画像の状態に依存する。そのため、上記構成によると、前のフレーム画像である参照フレーム画像のシーンチェンジの発生を判定した結果である履歴情報を参照するため、連続してシーンチェンジの発生が起こらないように精度よく判定することができる。
本発明に係る画像表示装置では、上記構成に加え、上記シーンチェンジ検出部にてシーンチェンジが発生していると判定された場合、上記対象フレーム画像の全ての画素の重み係数を0とし、シーンチェンジが発生していると判定されなかった場合、上記対象フレーム画像と上記参照フレーム画像との差異の大きさに対して負の相関を有する係数を重み係数として設定する、重み係数決定部と、上記重み係数決定部で設定された重み係数を用いて上記対象フレーム画像に対してフィルタ処理を行うノイズ低減フィルタ処理部と、を備えてもよい。
上記構成によると、シーンチェンジが発生しているか否かの判定結果に基づいて重み係数を設定して時間軸方向のフィルタ処理を行うことができる。よって、精度良くノイズを低減することができる。
本発明に係る画像表示装置では、上記構成に加え、上記画素単位評価値算出部は、上記画素毎に求められた余弦値に対して正の相関を有する第2評価値を画素毎に算出するようになっており、上記シーンチェンジ検出部にてシーンチェンジが発生していると判定された場合、上記対象フレーム画像の全ての画素の重み係数を0とし、シーンチェンジが発生していると判定されなかった場合、上記対象フレーム画像と上記参照フレーム画像との差異の大きさに対して負の相関を有する係数に上記第2評価値を乗算して重み係数を設定する、重み係数決定部と、上記重み係数決定部で設定された重み係数を用いて上記対象フレーム画像に対してフィルタ処理を行うノイズ低減フィルタ処理部と、を備えてもよい。
時間軸方向のフィルタ処理において、視認されやすい残像を発生させる原因として画素間の色あいの差異が挙げられ、よく使われる輝度差による重みづけだけでは色あいの大きく異なる画素同士の加算が避けられず画質劣化につながる。上記構成によると、シーンチェンジの発生の判定で用いる上記評価値を流用することで、回路構成の巨大化を抑えながら、残像の原因となる色あいの差異を考慮した時間軸フィルタ処理が可能となる。
ここで、上記対象フレーム画像と上記参照フレーム画像との差異の大きさは、注目画素を中心に切り取った部分画像同士の誤差の標準偏差であってもよいが、これには限定されない。
本発明に係る画像表示装置では、上記構成に加え、上記動き補償処理部は、上記隣接する2つのフレーム画像間の移動量を画素毎に推定するのに、上記隣接する2つのフレーム画像の差分の絶対値の和の最小値である第3評価値を算出するようになっており、記シーンチェンジ検出部は、上記カラー判定部にて上記映像がモノクロであると判定されると、上記評価値の代わりに、上記第3評価値に基づいて、上記対象フレーム画像についての上記評価量を算出し、算出された当該評価量と予め定められた第2閾値とを比較することでシーンチェンジが発生しているかを判定してもよい。
上記構成によると、入力映像がモノクロ(グレースケール)の映像であった場合、上記評価値の代わりに、2つのフレーム画像の差分の絶対値の和の最小値である第3評価値を用いて、この第3評価値に基づいて、上記対象フレーム画像についての上記評価量を算出し、算出された当該評価量と予め定められた第2閾値とを比較することで、シーンチェンジが発生しているか判定する。このことにより、モノクロの映像であっても、シーンチェンジの発生を精度よく判定することができる。
本発明に係る画像表示装置は、上記の課題を解決するために、上記いずれかの画像処理装置を備えることを特徴としている。本発明に係る画像表示装置は、本発明に係る画像処理装置を備えているため、シーンチェンジが発生しているかを精度よく簡易に判定することが可能であり、シーンチェンジの発生の判定結果を反映させて、精度のよい時間軸方向のフィルタ処理を実行することができる。よって、精度のよいノイズ低減処理やスケーラー処理を実行することができる。そのため、高品質な画像を表示することができ、ユーザに快適な視認環境を提供することが可能である。
本発明に係るシーンチェンジ発生検出方法は、上記の課題を解決するために、複数のフレーム画像よりなる映像におけるシーンチェンジの発生を検出するシーンチェンジ発生検出方法であって、隣接する2つのフレーム画像間の移動量を画素毎に推定し、推定した当該移動量に基づいて当該隣接する2つのフレーム画像の位置合わせをする動き補償処理ステップと、上記隣接する2つのフレーム画像のうち、一方のフレーム画像である対象フレーム画像の注目画素である第1画素の色成分の値と、他方のフレーム画像である参照フレーム画像における上記第1画素の位置に位置合わせされた第2画素の色成分の値とから算出される評価値を、上記対象フレーム画像の画素毎に算出する画素単位評価値算出ステップと、上記対象フレーム画像の画素毎に算出された評価値に基づいて、隣接する2つのフレーム画像が異なるシーンのフレーム画像である可能性の大きさを示す評価量を算出し、算出された当該評価量と予め定められた閾値とを比較することでシーンチェンジが発生しているかを判定するシーンチェンジ検出ステップと、を含むことを特徴としている。
上記方法によれば、上記画像処理装置と同様の効果を奏し、シーンチェンジが発生しているか否かを精度よく簡易に判定することが可能なシーンチェンジ発生検出方法を提供することができる。
なお、本発明に係る画像処理装置は、コンピュータによって実現してもよく、この場合には、コンピュータを上記各部として動作させることにより上記画像処理装置をコンピュータにて実現させるプログラム、及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。
本発明の画像処理装置は、以上のように、隣接する2つのフレーム画像間の移動量を画素毎に推定し、推定した当該移動量に基づいて当該隣接する2つのフレーム画像の位置合わせをする動き補償処理部と、上記隣接する2つのフレーム画像のうち、一方のフレーム画像である対象フレーム画像の注目画素である第1画素の色成分の値と、他方のフレーム画像である参照フレーム画像における上記第1画素と上記位置合わせされた第2画素の色成分の値とから算出される評価値を、上記対象フレーム画像の画素毎に算出する画素単位評価値算出部と、上記対象フレーム画像の画素毎に算出された評価値に基づいて、隣接する2つのフレーム画像が異なるシーンのフレーム画像である可能性の大きさを示す評価量を算出し、算出された当該評価量と予め定められた閾値とを比較することでシーンチェンジが発生しているかを判定するシーンチェンジ検出部と、を備える。
上記のように算出された評価値は、コントラストが低い場合でも比較的色あいの差異を検知しやすく、ノイズの影響を受けにくい。よって、この評価値に基づいて算出された上記評価量を用いることで、シーンチェンジが発生しているか否かを精度よく簡易に判定することができる。そして、上記のように判定されたシーンチェンジの判定結果を考慮して、対象フレームと異なるシーンの参照フレームを使用しないように選択的に、時間軸方向のフィルタ処理(例えば、ノイズ低減処理やスケーラー処理)等の時間軸に沿った複数のフレーム画像を入力とする映像処理(以下、時間軸映像処理と記す)を実行することで、精度のよい適切な時間軸映像処理を実行することができる。
本発明をその実施の形態を示す図面に基づき具体的に説明する。以下に記す本実施の形態では、本発明に係る画像表示装置として、テレビ放送受信装置1を例に用いて説明を行う。また、本発明に係る画像処理装置として、テレビ放送受信装置1が有する映像信号処理部42を例に用いて説明する。なお、以下の実施の形態では、映像とは動画像を示すものとする。
(テレビ放送受信装置)
図1は、本実施形態のテレビ放送受信装置(画像表示装置)1の構成を示すブロック図である。テレビ放送受信装置1は、図1に示すように、インタフェース2、チューナー3、制御部4、電源ユニット5、表示部6、音声出力部7、及び、操作部8を備える。
図1は、本実施形態のテレビ放送受信装置(画像表示装置)1の構成を示すブロック図である。テレビ放送受信装置1は、図1に示すように、インタフェース2、チューナー3、制御部4、電源ユニット5、表示部6、音声出力部7、及び、操作部8を備える。
インタフェース2は、TVアンテナ21と、TMDS(Transition Minimized Differential Signaling)方式でシリアル通信するためのDVI(Digital Visual Interface)端子22およびHDMI(High - Definition multimedia Interface)端子23と、TCP(Transmission Control Protocol)またはUDP(User Datagram Protocol)等の通信プロトコルで通信するためのLAN端子24と、を含む。インタフェース2は、統括制御部41からの指示に従って、DVI端子22、HDMI端子23またはLAN端子24に接続された外部の機器との間でデータを送受信する。
チューナー3は、TVアンテナ21と接続されており、TVアンテナ21が受信する放送信号がチューナー3に入力される。放送信号には、映像データ、音声データ等が含まれる。本実施形態では、チューナー3は、地上波デジタルチューナー31及びBS/CSデジタルチューナー32を備えているが、これらに限定されない。
制御部4は、テレビ放送受信装置1が有する各ブロックを統括的に制御する統括制御部41、映像信号処理部42、音声信号処理部43およびパネルコントローラ44を備える。
映像信号処理部42は、インタフェース9を介して入力される映像データに所定の処理を施し、表示部6にて表示するための映像データ(映像信号)を生成する。
音声信号処理部43は、インタフェース9を介して入力される音声データに所定の処理を施し音声信号を生成する。
パネルコントローラ44は、表示部6を制御して、映像信号処理部42が出力する映像データの映像を表示部6に表示する。
電源ユニット5は、外部から供給される電力を制御する。統括制御部41は、操作部8が有する電源スイッチから入力される操作指示に応じて、電源ユニット5に電力を供給させる、または、電力の供給を遮断させる。電源スイッチから入力される操作指示が電源オンに切り替える操作指示である場合、テレビ放送受信装置1の全体に電力が供給され、電源スイッチから入力される操作指示が電源オフに切り替える操作指示である場合、テレビ放送受信装置1に供給される電力が遮断される。
表示部6は、例えば、液晶表示装置(LCD)、プラズマディスプレイパネル等であり、映像信号処理部42が出力する映像データの映像を表示する。
音声出力部7は、音声信号処理部43で生成された音声信号を統括制御部41の指示の下で出力する。
操作部8は、電源スイッチと、切替スイッチとを少なくとも含む。電源スイッチは、テレビ放送受信装置1の電源のオンとオフの切り替えを指示する操作指示を入力するためスイッチである。切替スイッチは、テレビ放送受信装置1で受像する放送チャンネルを指定する操作指示を入力するためのスイッチである。操作部8は、電源スイッチおよび切替スイッチが押下されることに応じて、各スイッチに対応する操作指示を統括制御部41に出力する。
なお、ここでは、テレビ放送受信装置1が備える操作部8が操作される場合を例に説明したが、テレビ放送受信装置1と無線で通信することが可能なリモートコントローラに操作部8を備えるようにして、各スイッチに対応する操作指示をテレビ放送受信装置1に送信するようにしてもよい。この場合、リモートコントローラがテレビ放送受信装置1と通信する通信媒体は、赤外光であってもよいし、電磁波であってもよい。
(映像信号処理部)
図2は、映像信号処理部42の構成を示すブロック図である。図2に示すように、映像信号処理部42は、デコーダ10と、IP変換処理部11と、ノイズ処理部12と、シャープネス処理部13と、カラー調整処理部14と、スケーラー処理部15とを有している。
図2は、映像信号処理部42の構成を示すブロック図である。図2に示すように、映像信号処理部42は、デコーダ10と、IP変換処理部11と、ノイズ処理部12と、シャープネス処理部13と、カラー調整処理部14と、スケーラー処理部15とを有している。
デコーダ10は、圧縮された映像ストリームを復号して映像データを生成し、IP変換処理部11に出力する。IP変換処理部11は、必要に応じて、デコーダ10から入力される映像データをインタレース方式からプログレッシブ方式に変換する。ノイズ処理部12は、IP変換処理部11が出力する映像データに含まれるノイズを低減(抑制)するためのノイズ低減処理を実行する。ノイズ低減処理の詳細については、後段で詳細に説明する。
シャープネス処理部13は、ノイズ処理部12が出力する映像データの映像を鮮鋭化するシャープネス処理を実行する。カラー調整処理部14は、シャープネス処理部13出力する映像データに対して、コントラストや彩度等を調整するカラー処理を実行する。スケーラー処理部15は、カラー調整処理部14が出力する映像データに対して、表示部6の画素数に応じたスケーリング処理を実行する。なお、統括制御部41、図示しない記憶部に、映像信号処理部42により各種の処理が実行される際の映像データを適宣記憶させる。
ここで、映像データを構成する画像データはフレーム単位で構成されており、フレーム単位の画像をフレーム画像と称する。よって、映像は複数のフレーム画像から構成されている。本明細書では、フレーム画像を単にフレームと称する場合もある。
本実施の形態では、映像信号処理部42が有する各処理部のうち、処理対象となる第t番目のフレーム(対象フレーム)と、対象フレームの前後に入力されるフレームを予め対象フレームを基準に位置合わせしたN-1枚の参照フレーム(N>1)と、の合計N枚の複数フレームを入力する映像処理(時間軸映像処理)を実行する処理部、あるいは、時間軸映像処理を実行する処理部を有する処理部に、後述する本実施の形態のシーンチェンジ判定処理を実行するシーンチェンジ判定部17が備えられる。時間軸映像処理を実行する処理部として、後述するノイズ低減フィルタ処理部19や、マルチフレームの超解像処理を実行するスケーラー処理部15などが挙げられる。時間軸映像処理を実行する処理部を有する処理部にシーンチェンジ判定部17が備えられる場合とは、例えば、ノイズ低減フィルタ処理部19を有するノイズ処理部12に、シーンチェンジ処理部17が備えられる場合である。なお、シーンチェンジ判定部17が、時間軸映像処理を実行する処理部、あるいは、時間軸映像処理を実行する処理部を有する処理部に備えられておらず、独立して設けられていてもよい。
シーンチェンジ判定部17は、入力フレーム間で、対象フレームを基準に参照フレームの動き量(移動量)を画素毎に推定し、動き量に従って位置合わせを行う動き補償処理部16の後段に設けられる。例えば、図3に示すノイズ処理部12は、動き補償処理部16により動き補償処理が施された映像データに対してシーンチェンジ判定部17にてシーンチェンジの判定を行い、判定結果(シーンチェンジ判定信号)を重み係数決定部18に出力する構成となっている。ノイズ処理部12における具体例は後述する。
シーンチェンジ判定部17で用いる参照フレームの枚数N-1は、対象とする後段の時間軸映像処理を実行する処理部(ノイズ低減フィルタ処理部19やスケーラー処理部15)で入力されるフレームの枚数と同じ数である。また、対象フレームと参照フレームとで構成される入力フレームは、表示順序が時間的に連続している、つまり隣接しているものとする。
なお、後段の時間軸映像処理を実行する処理部が対象フレームの1枚のみを入力とする場合においても、N-1枚の参照フレームをダミーとして後段の時間軸映像処理を実行する処理部に入力することで、本実施の形態と同様の効果が得ることができる。また、本実施の形態で説明する映像処理は、必ずしもフレーム間の位置合わせを必要としない場合にも適用することができる。ただし、本実施の形態では、シーンチェンジ判定処理部17は参照フレームとして対象フレームを基準に位置合わせされたものを使用するため、事前に位置合わせされたフレームを、シーンチェンジ判定処理部17に入力するものとする。
以下では、N枚の入力フレームのうち、処理対象となる第t番目のフレームをFINと称し、参照フレームである第t−1番目のフレームをFIN-1と記す。入力フレームはいずれも、水平方向にIW個、垂直方向にIH個の、合計IW×IH個の画素を有するものとする。画素は水平成分および垂直成分の2つで表され、i = (x, y)のように表す。ここでxは水平成分を示し0≦x≦IW-1、yは垂直成分を示し0≦y≦IH-1とする。また、フレームFkの画素iにおける階調値ベクトルはfk(i)と表わす。階調値ベクトルfk(i)の形式は入力フレームのフォーマットによって定まり、たとえば、入力フレームのフォーマットがRGB信号である場合、階調値ベクトルはR,G,Bの3つの成分を有しており、YCbCr信号である場合、階調値ベクトルはY, Cb, Crの3つの成分を有する。このように、階調値ベクトルは色空間における特定色を示すためのベクトル表現である。なお、後述の変形例2以降のようにN>2となるケースと、色あいコストの説明などとを共通にするために、参照フレームをIN-1に限定せず、kという変数を用いて表現する。つまりk、参照フレームはFkと記す。
動き補償処理部16では、後段の時間軸映像処理を実行する処理部において処理対象となるフレームFINと、併せて入力されるフレームFkとの間の動きを画素毎に推定する動き補償処理を実行し、推定された動きに従って位置合わせを行うことでフレームFkをフレームFINと一致させる。動きの推定処理として、例えば、差分絶対値の和(Sum of Absolute Difference:SAD値)を用いた方法が挙げられる。動きを求めたい画素をiとするとき、フレームFIN上におけるiを中心に切り取られた部分画像に対して、フレームFk上における画素iからrだけシフトした画素を中心に切り取られた部分画像とのSAD値を算出し、最も小さなSAD値を得るシフト量rをフレームFINとフレームFkとの間の動き量とする。
ここで、本明細書において、フレーム間での(画素単位での)動きを表したものを「動き量」と称し、その動き量を求めるために、部分画像をずらしたときの値を「シフト量」と称するものとする。すなわち、シフト量は動き量を求める段階での候補という位置づけであり、例えば上記のように、SAD値を用いて動き補償処理をする場合は、2つの部分画像の差異を最小とするシフト量が「最適な」シフト量であり、これを「動き量」と推定する。
なお、SAD値は、画素毎に階調値ベクトルの成分から求められた単一のスカラー量を用いて算出される。例えば、画素の輝度成分Yに関してSADを算出する場合、入力フレームがYCbCr信号であればY成分をそのまま使えばよい。また、入力フレームがRGB信号である場合、RGB信号をYCbCr信号に変換すればよい。なお、SAD値の算出に用いられる単一のスカラー量は輝度成分Yである必要は無く、例えば、RGB信号の場合、R、G、B成分のうち1つの色成分の信号(例えば、G信号)を用いるようにしてもよく、R、G、B成分の平均値を用いるようにしてもよい。
ここで、部分画像は、図4(a),(b)に示すように、フレームFINおよびFkにおいて同一の範囲を切り取ることで、フレームFINおよびFkから同一の大きさおよび形状の部分画像が得られる。図4(a)はフレームFINから部分画像を切り取る場合、図4(b)はフレームFkから部分画像を切り取る場合示している。また、図4(c)は、フレームFINから画素iを中心として切り取られた部分画像、図4(d)は、フレームFKから画素i+rを中心として切り取られた部分画像を表わしている。図4(a)〜(d)では、部分画像として切り取る範囲は15×15画素の矩形領域としている。部分画像として切り取る領域は常に一定のものとする。その画素数の例として15×15画素が挙げられるが、この画素数に限定する必要は無い。例えば、回路規模に応じて画素数を削減して実装してもよいし、後述のシフト量探索範囲Rangeの大きさに応じて決定してもよい。
フレームFINから画素iを中心として切り取られた部分画像とフレームFKから画素i+rを中心として切り取られた部分画像とから、これらの差異が最も小さくなるシフト量rを探索する。シフト量rは水平方向へのシフト量rxおよび垂直方向へのシフト量ryに分けることができ、r = (rx, ry)と表わすことができる。シフト量の探索範囲は-Range≦rx, ry≦Rangeの範囲に含まれる整数の組とする。必要であれば、以前の画素や直前のフレームにおける動き推定結果の履歴を複数呼び出し、その組のみを調べるよう簡略化してもよい。Rangeはシフト量の範囲を表わす定数であり、入力フレームの解像度、及び、フレームレートに応じて定める。基本的には処理量対精度のトレードオフ関係にあり、一般的にあるフレームが次のフレームに代わるまでに動く画素数を許容範囲とする。例えば、30fps(frame per second)FHD(Full High Definition)画像であればRange = 8である。
上記では、動き推定処理としてSAD値を最小にする動き量を探索(推測)する方法を挙げたが、本実施の形態ではこの処理に限らず、公知の推定方法を使用することができる。例えば、SAD値のように差異の大きさを表す評価値を用いるケースとして、両フレームの部分画像同士の差分二乗値(Sum of Square Difference:SSD)が最小となるシフト量を探索する方法や、逆に相関の大きさを表す評価値を用いるケースとして、両フレームの部分画像同士の相互相関値(Cross Correlation: CC)や正規化相互相関値(Normalized Cross Correlation:NCC)が最大となるシフト量を探索する方法などが挙げられる。
また、実数精度の位置合わせを必要とする場合、最初から実数精度の動き推定方法を用いると膨大な処理時間がかかると予想される。そのため、初めに整数精度の動き量の推測(動き推定)を行うことで動き量の絞り込みを行い、得られた整数精度の動き量をRとするとき、続いて得られた動き量Rを中心とした水平方向および垂直方向ともに±0.5画素の範囲で実数精度の動き量rを求めるというような、組合せによる動き推定を実行してもよい。
図5(a)〜(c)は、初めに整数精度の動き推定を行い、続いて実数精度の動き推定を行う場合の処理のフローチャートである。図5(a)〜(c)の処理はフレームの各画素に対して実行される。前述したシフト量の探索範囲に含まれるシフト量の候補の集合をRCANDとするとき、RCANDに含まれる全てのシフト量の候補について1つずつ探索を行い、最適な評価値を与えるシフト量を、整数精度の動き量Rとして、Rを中心とした水平方向および垂直方向ともに±0.5画素の範囲で実数精度の動き量rを推定する。図5(a)に示すように、まず初めに、最適な評価値mOPTの初期化を行う(ステップ51、以下ではS51のように略す)。このときの初期化値は、用いる評価値の種類によって異なり、SADやSSDのように値が小さくなるほど差異が小さいとして最適とみなす評価値(以下、差異評価値と称す)の場合はmOPTを+∞に初期化し、CCやNCCのように、値が大きくなるほど相関が大きいとして最適とみなす評価値(以下、相関評価値と称す)の場合は、mOPTを−∞に初期化する。
続いて、RCANDから探索するシフト量を1つ選択し、これをRINTとする(S52)。続いて、シフト量がRINTであるときの評価値m(RINT)を算出する(S53)。続いて、RINTが最適なシフト量か否かの判定を行う。この判定処理は図5(a)において処理Aと示され、用いる評価値が差異評価値の場合、(b)のフローチャートに移動し、相関評価値の場合、(c)のフローチャートに移動する。
まず、差異評価値を用いた場合について説明する。図5(b)に示すように、評価値m(RINT)がmOPTよりも小さいかを判定する(S54b)。評価値m(RINT)がmOPTよりも小さい場合(S54bにてYES)、RINTはその時点で最適なシフト量であるとして、mOPTをm(RINT)に更新し、整数精度の動き量RをRINTに更新する(S55b)。m(RINT)がmOPT以上の場合は(S54bにてNO)、何も行わずに処理Aを終了する。
続いて、相関評価値を用いた場合について説明する。図5(c)に示すように、評価値m(RINT)がmOPTよりも大きいかを判定する(S54c)。評価値m(RINT)がmOPTより大きい場合(S54cにてYES)、RINTはその時点で最適なシフト量であるとして、mOPTをm(RINT)に更新し、整数精度の動き量RをRINTに更新する(S55c)。m(RINT)がmOPT以下の場合は(S54cにてNO)、何も行わずに処理Aを終了する。以上がシフト量の候補RINTに対する探索処理である。
処理Aを終了すると、図5(a)に戻り、RCANDに含まれる全てのシフト量の候補全てについての検索(推測)が終了したかを判定し(S56)、終了していない場合には(S56にてNO)、S52に戻る。つまり、RCANDに含まれる全てのシフト量の候補に対して、S52から処理Aまでの処理を繰り返し実行する。
全てのシフト量の候補に対して上記の探索を終了すると(S56にてYES)、得られた整数精度の動き量Rを中心に、水平方向および垂直方向ともに±0.5画素の範囲で実数精度の動き量r = (rx, ry)を推定する(S57)。実数精度の動き量の推定の方法は、どのようであってもよい。例えば、対象フレームの画素iを中心とした局所領域と、参照フレームの画素i + Rを中心とした同じサイズの局所領域とを用いた特徴点追跡などが挙げられる。
上記の動き補償処理部16での動き補償処理で得られたフレームFkの動き量に従って、フレームFINを基準としてフレームFkの位置合わせを行う。以下では、フレームFkが動き補償処理によって位置合わせされた後のフレームをHkと表わし、フレームHk (k = 1, …, N)の画素iにおける階調値ベクトルはhk(i)と表わす。ここで、FINとHINは同一である。フレームFkの画素iで得られた動き量をr = (rx, ry)とするとき、hk(i)には、フレームFINにおいて画素iから- rだけシフトした位置から参照される階調値ベクトルf (i - r)を与える。動き量rの成分rx, ryが整数値でない場合、フレームFINからそのまま参照することはできない。そのため、座標i - rの近傍画素からの補間値を求める。簡単な例では、座標i - rの近傍の4画素のうち最も距離の近い画素の値を参照する最近傍補間法や、近傍の4画素の有する階調値ベクトルの成分から求められた単一のスカラー量から線形的に求められる線形補間法が挙げられる。
図6は、シーンチェンジ判定部17の構成を示すブロック図である。シーンチェンジ判定部17は、画素単位のコスト(評価値)を算出する画素単位コスト算出部(画素単位評価値算出部)170と、画素単位コスト算出処理部170で算出された画素単位コスト(評価値)からフレーム全体の総合的なコスト(評価量)を算出してシーンチェンジの有無を決定するシーンチェンジ検出部171とを備えている。ここで、コストとは、後段の時間軸映像処理を行うことで、かえって劣化を生じる可能性の大きさを示すもので、コストが大きい程劣化が大きいものとする。ここで言う劣化とは、シーンチェンジの前後や、前段の動き補償処理の精度が十分でない場合に、位置合わせされたフレーム間の対応画素がそれぞれ違う部分を示し、これらの画素同士を、時間軸映像処理を実行する処理部に入力することで、望まない輝度や色相になることを言う。劣化の例として、前述したように、例えば、あるフレームでは人の肌を表わす領域がシーンチェンジにより次のフレームで水中を表わす画像に変化している場合に、肌の色と水の色が合成されて濁ったような色が出力されてしまうケースが挙げられる。よって、上記コストは、隣接する2つのフレーム画像が異なるシーンのフレーム画像である可能性の大きさを示すことができるものと言うことができる。
図7は、本実施の形態の画素単位コスト算出部170の処理過程を示すフローチャートである。画素単位コスト算出部170は、あるフレームと次のフレームにおける対応画素同士の色あいに対応した色あいコストと補助コストとについて、それぞれ、初期化を行い(S71a〜S71m)、それぞれコストを算出し(S73a〜S73m)、コスト毎に適切な重み係数を算出して、画素単位で重み付き平均をとったものを画素単位コストとして出力する(S74)。
ここで、補助コストの算出処理には、公知の方法を用いることができる。例えば、前段の動き補償処理において、SAD値が最小になるシフト量を動き量として算出している場合、画素iのSAD値の最小値をDiとしたときに、Diが大きくなるほどコストが大きくなる関数を補助コストのコスト関数として用いてもよい。ここで、画素iのSAD値の最小値は、動き補償処理部16にて算出した、フレームFINの画素iを中心とした部分画像と、フレームFkの画素i + R(Rは整数精度の動き量)を中心とした部分画像とのSAD値を指す。動き量は画素毎に算出しているため、このSAD値も画素毎に得ることができる。補助コストが複数ある場合、補助コストの数は任意に設定することができ、コスト毎の重み係数は任意に設定することができる。例えば、動き補償処理の精度が十分でないと事前に判っている場合は、動き補償処理と関連する補助コストの重み係数を小さくして重要度を下げることができる。
また、図8に示す表のように、事前に代表的な重み係数の組合せを「モード」として準備しておき、テレビ放送受信装置1の使用者がメニュー選択などによって切り替えることができるように構成されていてもよい。
ただし、映像信号処理部42が入力映像がカラーかグレースケール(モノクロ)かの判定を行うカラー判定部(図示せず)を備えており、入力映像がグレースケール(モノクロ)の映像であると判断された場合、選択される重み係数の値にかかわらず、色あいコスト関数から得られるコストは使用しないように切り替えを行う。すなわち、入力映像がグレースケールの映像であると判断された場合、スイッチSWcolorをoffに切り替え、色あいコストの算出を行わず、0を出力するようにする(図7のS72a,S73a参照)。
入力画像がグレースケールであるかどうかの判定は、公知の判定方法を利用することができる。例えば、画像のフォーマットから色チャネルの数が1であるかどうかを判定したり、色差信号Cb、Crが全ての画素で0の値をとるかを判定したりすることで判定することができる。また、上記判定処理を、シーンチェンジ判定部17より前段のデコーダ10やIP変換処理部11で実施し、これら処理部で判定した結果を記憶部に格納しておき、画素単位コスト算出部170で格納された判定結果を参照するようにして構成されていてもよい。
本実施の形態では、色あいコストを次のようにして算出する。フレームHIN(=FIN)と、Hkとの間において、階調値のRGBベクトルhIN,RGB(i),hk,RGB(i)の間の角度が大きい程色あいの差が大きいものとして、色あいコストを大きくするように色あいコスト関数を設定する。
なお、フレームHの画素iにおける階調値のRGBベクトルは3つの成分を有しており、hRGB(i)=(R, G, B)のように表わす。この成分R,G,Bは順に画素iの有する階調値のR, G, B成分を指し、入力画像のRGB成分が各8ビットのビットマップ画像である場合、R, G, Bは0から255までの整数値を取り、黒の場合はR = G = B = 0とする。入力フレームのフォーマットがRGB方式であればhRGB(i) = h(i)として使用することができる。RGB方式で無い場合、例えば、入力フレームがYCbCr方式の場合、YCbCr信号の成分をY、Cr、Cbとすると、下記の変換式(1)によりRGB信号に変換することができる。
本実施の形態にて適用可能な色あいコスト関数の算出方法を以下に述べる。2つの階調値ベクトルはいずれの成分も負の値を取らないため、ベクトル間角度θが90°を超えることはなく、0°≦θ≦90°の間で余弦値cosθは単調減少することを利用する。ここで、2つの階調値ベクトルhIN,RGB(i)=(RIN, GIN, BIN)とhk,RGB(i) = (Rk, Gk, Bk)とのベクトル間角度をθ (k, i)とするとき、余弦値は下記の式(2)から算出することができる。
なお、画素iにおいて、対象フレームHINおよび参照フレームHkのいずれかが黒である場合のみ、下記の式(4’)のように色あいコスト関数Carg(k, i)を求める。
(色あいコストの別の例)
上記では、色あいコスト関数Carg(k, i)の算出方法について記載したが、より角度に対して敏感な曲線を得るため、下記の式(5)のように変形してもよい。
上記では、色あいコスト関数Carg(k, i)の算出方法について記載したが、より角度に対して敏感な曲線を得るため、下記の式(5)のように変形してもよい。
角度に対して敏感な曲線を得るために単純にsを大きくすると計算量が多くなるが、τ倍することにより比較的容易に所望の曲線を得やすくすることができる。
以上のようにして画素単位の色あいコストおよび補助コストを算出し、それぞれに重み係数を設定して総合的な画素単位コストを算出する。色あいコスト関数をCarg(k, i)、M個からなる補助コスト関数をC1(k, i), C2(k, i), …, CM(k, i)として、色あいコスト関数Carg(k, i)に掛かる重み係数をwarg、補助コスト関数Cm(k, i) (m = 1, 2, …, M)に掛かる重み係数をwmとすると、画素iにおける総合的な画素単位コストは、下記の式(6)から求められる。
式(6)および式(6’)により、各モードの選択状態や、スイッチSWcolorの状態、すなわち、映像がカラーかグレースケールかの状態、が変化しても、取り得る評価値の範囲を一定に収めることで、後段のシーンチェンジ検出部171において同一の構成および閾値を共通で使用できるようにしている。
図10は、シーンチェンジ検出部171の処理を示すフローチャートである。本実施形態では、隣接するフレーム間の関係を示す状態として「同シーン」「シーンチェンジ」および「許容期間」の3通りが用意されており、シーンチェンジ検出部171によっていずれかの状態に分類される。「同シーン」とは、両フレームが同じシーンのフレームであることを意味し、シーンチェンジの発生無しとして判定されたことを示す。「シーンチェンジ」とは、両フレーム間でシーンチェンジが発生したことを意味し、シーンチェンジの発生有りとして判定されたことを示す。「許容期間」とは、シーンチェンジの発生が判定されてからフレーム全体のコストが一定の値以下に低下するまでの期間であることを意味し、実際のシーンチェンジの有無に拘わらず、シーンチェンジ検出処理をスキップして常にシーンチェンジ無しとして判定する。これらの3つの状態はシーンチェンジ検出処理部171で判定された後、履歴情報として入力され、次のフレームのシーンチェンジ検出処理において利用される。
このようにシーンチェンジ検出部171でのシーンチェンジ検出処理の判定結果である履歴情報を記憶部に残し、次のフレームのシーンチェンジ検出処理にて参照することで、連続してシーンチェンジの発生が起こらないように精度よく判定することができる。
以下に、シーンチェンジ検出部171の処理の流れを説明する。初めに、画素単位コストCTotal(k, i)から、フレーム全体のコストCFkを算出する(S101)。フレーム全体のコストの算出方法として、例えば、画像全体の画素数に対する、任意に設定した第3閾値THを超える画素単位コストを有する画素数の割合を使用したり、画素単位コストの画像全体における平均値を使用したりすることができる。またこれら以外にも任意にフレーム全体のコストの算出方法を設定することができる。
続いて、S101で得られたフレーム全体のコストと、レジスタ(記憶部)に格納された履歴情報REG1と、第1閾値T1と第2閾値T2とを用いて、シーンチェンジの有無を判定する。ここで、第1閾値T1はシーンチェンジの発生が有ることを認めるフレーム全体のコストの最小値を意味し、第2閾値T2はスキップにより実行されなかったシーンチェンジ検出処理の再開を認める値である。第1閾値T1および第2閾値T2は任意の定数として設定することができる。例えば、S101において、画像全体の画素数に対する、第3閾値THを超える画素単位コストを有する画素数の割合を用いてフレーム全体のコストを算出する場合、第3閾値THを超える画素数が画像全体の5%以上になったときにシーンチェンジと認め、その後、画像全体の4%以下に低下したときにシーンチェンジ検出処理を再開したい場合はT1=0.05, T2=0.04とすることができる。なお、最初に処理を行う際(t=0)には、レジスタにおける履歴情報REG1を「シーンチェンジ」として事前に更新しておく。これにより、実際には存在しないt=−1枚目と、対象フレームとなるt=0のフレーム間でシーンチェンジが発生したと仮定し、t=0のフレームより前は別シーンとして後段の時間軸方向の映像処理での利用を避ける。
シーンチェンジの有無の判定方法として、初めにレジスタに格納された履歴情報REG1の値を参照し、REG1が「00」であるかを判定する(S102)。REG1が「00」のときは(S102においてYES)、時間t−1における対象フレームと参照フレームとは「同シーン」であったとして、シーンチェンジの有無を判定するため、フレーム全体のコストCFと第1閾値T1との間の比較を行う(S103)。S103において、CF ≦ T1となる場合、対象フレームHINと参照フレームHIN-1との間の関係は「同シーン」であるとして、シーンチェンジ判定信号SC1 = 00を与える(S105a)。S103において、CF> T1となる場合、対象フレームHINと参照フレームHIN-1とは「シーンチェンジ」の関係にあるとして、シーンチェンジ判定信号SC1 = 01を与える(S105b)。S102において、REG1が「00」でないときは(S102においてNO)、時間t−1における対象フレームと参照フレームとの間が「許容期間」の関係にあったとして、シーンチェンジ判定の再開を認めるか否かを決定するため、フレーム全体のコストCFと第2閾値T2との間の比較を行う(S104)。S104において、CF < T2となる場合、対象フレームHINと参照フレームHIN-1との間の関係は「同シーン」であるとして、シーンチェンジ判定信号SC1 = 00を与える(S105c)。S104において、CF1 ≧T1となる場合、対象フレームHINと参照フレームHIN-1とは「許容期間」の関係にあるとして、シーンチェンジ判定信号SC1 = 10を与える(S105d)。S105a〜S105dの後、レジスタの履歴情報REG1の値をSC1に更新する(S106)。以上で、シーンチェンジ検出部17での、時間tにおける対象フレームHINと参照フレームHIN-1との間のシーンチェンジ検出処理を終了する。
(シーンチェンジ判定部の変形例1:参照フレームが前方向に複数ある場合)
上記では、入力フレームの枚数Nを、処理対象となる第t番目のフレームFINと、参照フレームである第t−1番目のフレームをFIN-1とで合計N = 2枚のフレームを用いて説明したが、これ以外にも参照フレームの取り方を変更してシーンチェンジ判定部を構成することができる。
上記では、入力フレームの枚数Nを、処理対象となる第t番目のフレームFINと、参照フレームである第t−1番目のフレームをFIN-1とで合計N = 2枚のフレームを用いて説明したが、これ以外にも参照フレームの取り方を変更してシーンチェンジ判定部を構成することができる。
以下では、処理対象となる第t番目のフレームFINに対して、FINより前の連続するN-1枚のフレームを参照フレームとする場合について説明する。ただし、N = 3(すなわち第t−1番目および第t−2番目のフレームを参照フレームとする場合)またはN = 4(すなわち第t−1番目、第t−2番目および第t−3番目のフレームを参照フレームとする場合)とし、それ以上前のフレームについては考慮しない。N枚のフレームを時間順(表示される順序)に並べたときに、時間の早い順に入力フレームをF1、…、FNと呼び、また処理対象となる第t番目のフレームをFINと称する。INはN以下の自然数である。また、F1, …,FNを動き補償処理によって位置合わせした画像を順にH1,…,HNと称する。更に、フレームFkおよびHk (k = 1, …, N)の画素iにおける階調値ベクトルはそれぞれfk(i)およびhk(i)と表わす。動き補償処理については上記で説明したためここでは説明を省略する。
図11は、変形例1における、シーンチェンジ判定部17aのブロック図である。図6で示したシーンチェンジ判定部17との違いとして、履歴を参照するレジスタ(記憶部)としてREG1のほかにREG2を備えることと、シーンチェンジ判定信号の出力数がN個になっていることとが挙げられる。また、画素単位コスト算出部170aでは、算出する画素単位コストは、対象フレームHINと参照フレームHIN-1との1組のみでよい。
変形例1では、2フレーム離れた参照フレームについては、前回の判定結果を格納したREG1の値を参照し、3フレーム離れた参照フレームについては、前々回の判定結果を格納したREG2の値を参照することで、処理量を減らすことができる。さらに、前回、前々回と今回の間で、ある2枚のフレーム間の関係が変わらないようにすることができる。
図12は、変形例1におけるシーンチェンジ検出部171aの処理過程を示すフローチャートである。S121〜S125(S125a〜S125dをまとめてS125とする)は、対象フレームHINと参照フレームHIN-1との間のシーンチェンジ判定処理を行うステップであり、図10で示される前述のシーンチェンジ検出処理におけるS101〜S105と同様であり、ここでは説明を省略する。変形例1では、S125の後、対象フレームHINと、参照フレームHIN-2もしくはHIN-3との間のシーンチェンジ判定処理(S126a〜s126d)を行う。
図13(a),(b)は、シーンチェンジ判定処理(S126a〜S126d)の詳細な動作を示すフローチャートである。S125の後、シーンチェンジ判定信号SCIN-1の値が「00」(同シーン)または「10」(許容期間)の場合、図13(a)で示される処理1を実行し(S126a、S126cおよびS126d)、シーンチェンジ判定信号SCIN-1の値が「01」の場合、図13(b)で示される処理2を実行する(S126b)。処理1では、初めに参照フレームの枚数(N - 1)を調べ(S131)、参照フレームが3枚の場合、すなわちN = 4の場合、シーンチェンジ判定信号SC1およびSC2に対して、それぞれレジスタに格納された履歴情報REG2およびREG1の値を代入する(S132)。なお、1フレーム前の履歴情報がREG1であり、2フレーム前の履歴情報がREG2である。その後、2フレーム前の履歴情報REG2をSC2にしてレジスタに格納する(S133)。S131において、参照フレームが2枚の場合、すなわちN = 3の場合、シーンチェンジ判定信号SC1に対して、レジスタに格納された履歴情報REG1の値を代入する(S134)。S131において、参照フレームが1枚の場合は何も行わない。以上により、対象フレームHINと、フレームHIN-1より前の参照フレームとの間のシーンチェンジ判定処理を終了し、レジスタに格納する1フレーム前の履歴情報REG1をSCIN-1に更新する(S127)。
続いて、処理2について図13(b)を用いて説明する。初めに参照フレームの枚数(N - 1)を調べ(S135)、参照フレームが3枚の場合、すなわちN = 4の場合、シーンチェンジ判定信号SC1およびSC2に「01」を代入し(S136)する。その後、2フレーム前の履歴情報REG2を「01」にしてレジスタに格納する(S137)。S135において、参照フレームが2枚の場合、すなわちN = 3の場合、シーンチェンジ判定信号SC1に「01」を代入する(S138)。S135において、参照フレームが1枚の場合は何も行わない。以上により、対象フレームHINと、フレームHIN-1より前の参照フレームとの間のシーンチェンジ判定処理を終了し、S127に進む。
以上のようにして、変形例1におけるシーンチェンジ検出部171aのシーンチェンジ判定処理を終了し、N個のシーンチェンジ判定信号SC1, …, SCNを出力する。
変形例1では、処理対象フレームHIN(第t番目)より前のフレームを複数用いる処理に対しても、1フレーム前および2フレーム前の履歴情報を用いる。よって、少ない処理数でフレーム間シーンチェンジ判定を行うことができる。
(シーンチェンジ判定部の変形例2:参照フレームが前だけでなく後ろ方向にも存在する場合)
以下では、処理対象となる第t番目のフレームFINに対して、FINより前および後ろの連続するN-1枚のフレームをまで第t−1番目のフレームを参照フレームとする場合について説明する。ただし、前方向および後ろ方向に対してそれぞれ1から2枚の参照フレームを有する、すなわち参照フレームとして少なくとも第t−1番目および第t+1番目のフレームを有し、更に、場合によって第t−2番目および第t+2番目のフレームを参照フレームとして有するものとする(3≦N≦5)。N枚のフレームを時間順に並べたときに、時間の早い順に入力フレームをF1、…、FNと呼び、処理対象となる第t番目のフレームをFINと称する。INはN以下の自然数である。また、F1, …,FNを動き補償処理により位置合わせした画像を順にH1,…,HNと称する。更に、フレームFkおよびHk (k = 1, …, N)の画素iにおける階調値ベクトルはそれぞれfk(i)およびhk(i)と表わす。動き補償処理については上記で説明しているためここでは説明を省略する。
以下では、処理対象となる第t番目のフレームFINに対して、FINより前および後ろの連続するN-1枚のフレームをまで第t−1番目のフレームを参照フレームとする場合について説明する。ただし、前方向および後ろ方向に対してそれぞれ1から2枚の参照フレームを有する、すなわち参照フレームとして少なくとも第t−1番目および第t+1番目のフレームを有し、更に、場合によって第t−2番目および第t+2番目のフレームを参照フレームとして有するものとする(3≦N≦5)。N枚のフレームを時間順に並べたときに、時間の早い順に入力フレームをF1、…、FNと呼び、処理対象となる第t番目のフレームをFINと称する。INはN以下の自然数である。また、F1, …,FNを動き補償処理により位置合わせした画像を順にH1,…,HNと称する。更に、フレームFkおよびHk (k = 1, …, N)の画素iにおける階調値ベクトルはそれぞれfk(i)およびhk(i)と表わす。動き補償処理については上記で説明しているためここでは説明を省略する。
変形例2では、変形例1と同様のシーンチェンジ判定部の構成を備える。変形例2では、画素単位コスト算出部で算出する画素単位コストは、対象フレームHINと、HINより後の参照フレームHk(IN < k≦N)の1〜2組でよい。
図14は、変形例2におけるシーンチェンジ検出部171の処理過程を示すフローチャートである。変形例2では、対象フレームHINと比べて前フレームとなる参照フレームHk(1≦k < IN)と、後フレームとなる参照フレームHk(IN < k≦N)とで異なる処理を行う。対象フレームHINと、HINより前の参照フレームHkとの間のシーンチェンジ判定(S141a)は、レジスタに格納された履歴情報REG1およびREG2に従う。まず初めに、対象フレームHINより前の参照フレームの枚数(N - 1)を調べ(S142)、2枚ある、すなわちIN = 3の場合、参照フレームH1のシーンチェンジ判定信号SC1には履歴情報REG2の値を代入し、参照フレームH2のシーンチェンジ判定信号SC2には履歴情報REG1の値を代入する(S143)。その後、履歴情報REG2の値の更新を行う(S144)。履歴情報REG1の値が「01」である場合のみ、履歴情報REG2にも「01」を代入してレジスタに格納し、それ以外の値である場合には履歴情報REG2には履歴情報REG1の値を代入してレジスタに格納する。一方,S142において、対象フレームHINより前の参照フレームが1枚のみ、すなわちIN = 2の場合、参照フレームH1のシーンチェンジ判定信号SC1には履歴情報REG1の値を代入する(S145)。以上により、S141aの処理を終了する。
変形例2では、処理対象フレームHIN(第t番目)の前後フレームを参照フレームとして複数用いる処理において、前フレームに対しては過去の履歴を用いることで処理量を減らすとともに、前回の判定結果との齟齬をなくす。S144において、履歴情報REG1が「01」の場合の履歴情報REG2の更新値が異なるのは、「1フレーム前が異なるシーンであるのに2フレーム前が同じシーンである」という状態になることを防ぐためである。
続いて、対象フレームHINと、HINより後の参照フレームHk(IN < k≦N)との間のシーンチェンジ判定(S141b)について説明する。まず初めに、対象フレームHINと参照フレームHkとの間のフレーム全体のコストCFkを、前段の画素単位コスト算出部170aで得られた画素単位コストCtotal(k, i)から算出する(S146)。フレーム全体のコストの算出方法は上記に説明しており、ここでは省略する。続いて、シーンチェンジ判定信号SCINに値を代入する(S147)。ここで、シーンチェンジ判定信号SCINは、実際には参照フレームが対象フレームと同一であることから意味を持たないが、シーンチェンジ判定部内部の処理のためにダミー信号として使用される。S147では、履歴情報REG1が「01」を参照する場合のみSCINに「10」を与え、それ以外の値を参照する場合にはSCINには履歴情報REG1と同じ値を与える。その後、対象フレームHINと、HINより後ろ方向の参照フレームとの間のシーンチェンジ判定信号の出力を行う(S148)。S148では、参照フレームHkについて、kをIN+1からNの間でインクリメントしながら、対象フレームHINとのシーンチェンジ判定処理を順次行っていく(処理3)。
図15は、S148で行われる処理3の詳細な動作を表すフローチャートである。対象フレームHINと参照フレームHkとの間のシーンチェンジ判定処理では、初めにk = IN+1として初期化した(S151)上で、シーンチェンジ判定信号SCk-1の値によって分岐により処理内容を切り替える(S152)。k = IN+1のときSCk-1は、S147で得られたダミーのシーンチェンジ判定信号SCIN、すなわちREG1に格納された履歴情報となり、時間t−1での対象フレーム(第t−1番目)とその1フレーム後(第t番目)の参照フレームとのシーンチェンジ判定信号を指し、k =IN+2のときSCk-1は対象フレームHINと参照フレームHk-1とのシーンチェンジ判定信号SCIN+1を指す。
SCk-1が「00」のときは、上記2フレームが「同シーン」であったとして、シーンチェンジの有無を判定するため、対象フレームHINと参照フレームHk間のフレーム全体のコストCFkと第1閾値T1との間の比較を行う(S153)。S153において、CFk ≦ T1となる場合、対象フレームHINと参照フレームHkとの間の関係は「同シーン」であるとして、シーンチェンジ判定信号SCk = 00を与え(S155a)、CFk > T1となる場合、対象フレームHINと参照フレームHkとは「シーンチェンジ」の関係にあるとして、シーンチェンジ判定信号SCk = 01を与える(S155b)。
S152において、SCk-1が「10」のときは、上記2フレームが「許容期間」の関係にあったとして、シーンチェンジ判定の再開を認めるか否かを決定するため、対象フレームHINと参照フレームHk間のフレーム全体のコストCFkと第2閾値T2との間の比較を行う(S154)。S154において、CFk < T2となる場合、対象フレームHINと参照フレームHkとの間の関係は「同シーン」であるとして、シーンチェンジ判定信号SCk= 00を与え(S155d)、CFk ≧T1となる場合、対象フレームHINと参照フレームHkとは「許容期間」の関係にあるとして、シーンチェンジ判定信号SCk = 10を与える(S155e)。S152において、SCk-1が「01」のときは、上記2フレームが「シーンチェンジ」の関係にあったとして、フレーム全体のコストCFkの値に拘わらず、対象フレームHINと参照フレームHkとは「シーンチェンジ」の関係にあるとして、シーンチェンジ判定信号SCkに「01」を与える(S155c)。S155の後、kをインクリメントし(S156)、k ≦Nを満たすかを判定する(S157)。k ≦ Nを満たさない場合(S157においてNO)、S152に戻って同様の処理を行い、満たす場合(S157においてYES)、処理3を終了する(S157)。
S141a,S141bの終了後、レジスタに格納する1フレーム前の履歴情報REG1をシーンチェンジ判定信号SCIN+1の値に更新する(S149)。
変形例2では、処理対象フレームHIN(第t番目)の前後フレームを参照フレームとして複数用いる処理において、後フレームに対しては、新規に入力されたフレームとの組み合わせであり判定履歴がないため新たに判定を行う。対象フレームと2フレーム離れた参照フレームとの判定信号SCIN+2を履歴情報としてレジスタに残さないのは、2フレームの間に生じた動き量が、動き補償処理で追跡できる動き量の上限を超えている可能性があり、今回の判定結果よりも、次回(第t+1番目を対象フレームとするとき)の判定結果の方が信用できる値となるためである。
以上の方法により、対象フレームと参照フレームとの間のシーンチェンジ検出処理を行い、シーンチェンジ判定信号SCkを出力する。
(シーンチェンジ判定部の変形例3:変形例2のS148に関する変形例)
変形例2において、S148の詳細な動作として、図15に示すように参照フレームそれぞれについて判定を行う方法を説明した。ただし、対象フレームHINより後の参照フレームが2枚存在する、すなわちN - IN = 2である場合に限り、図16に示すフローチャートのように、判定に用いる参照フレームをHIN+1の1枚のみとして、得られるシーンチェンジ判定信号SCIN+1を、対象フレームHINと参照フレームHIN+2との間のシーンチェンジ判定信号SCIN+2にコピーしても良い。図16に示すS161〜S164の処理は、図15におけるステップ152〜155をk = IN+1として実行しているものと同等であり、詳細の説明を省略する。ただし、ダミー信号SCINには「01」の値は格納されないため、S161における分岐先が2つであることに注意する。その後、シーンチェンジ判定信号SCNにシーンチェンジ判定信号SCIN+1の値を代入する(S165)。
変形例2において、S148の詳細な動作として、図15に示すように参照フレームそれぞれについて判定を行う方法を説明した。ただし、対象フレームHINより後の参照フレームが2枚存在する、すなわちN - IN = 2である場合に限り、図16に示すフローチャートのように、判定に用いる参照フレームをHIN+1の1枚のみとして、得られるシーンチェンジ判定信号SCIN+1を、対象フレームHINと参照フレームHIN+2との間のシーンチェンジ判定信号SCIN+2にコピーしても良い。図16に示すS161〜S164の処理は、図15におけるステップ152〜155をk = IN+1として実行しているものと同等であり、詳細の説明を省略する。ただし、ダミー信号SCINには「01」の値は格納されないため、S161における分岐先が2つであることに注意する。その後、シーンチェンジ判定信号SCNにシーンチェンジ判定信号SCIN+1の値を代入する(S165)。
なお、上記変形例に示した方法でシーンチェンジ判定を行う場合、画素単位コストの算出およびフレーム全体のコストの算出は、対象フレームHINと参照フレームHIN+1との1組だけとしても良い。
変形例3では、1枚先のフレームとの判定結果を2枚先にも伝搬することで、処理を簡略化することができる。
(時間軸方向のフィルタ処理との組合せ例)
次に、時間軸方向のフィルタ処理実行するノイズ処理部12にシーンチェンジ判定部17が備えられた場合を例に挙げて説明する。
次に、時間軸方向のフィルタ処理実行するノイズ処理部12にシーンチェンジ判定部17が備えられた場合を例に挙げて説明する。
図3は、本実施の形態のノイズ処理部12の構成を示すブロック図である。ノイズ処理部12は、動き補償処理部16と、シーンチェンジ判定部17と、重み係数決定部18と、ノイズ低減フィルタ部19とを含む。入力映像を構成する複数フレームを受け付けた場合、事前に動き補償処理部16で位置合わせを行い、シーンチェンジ判定部17においてシーンチェンジの有無を判断する。重み係数決定部18でノイズを低減するための時間軸方向の重み付きフィルタを構築して、各フレームに対してノイズ低減フィルタ部19によりランダムノイズやブロックノイズの低減を行う。動き補償処理部16およびシーンチェンジ判定部17については前述したため、説明を省略する。
ノイズ低減フィルタ部19では、ノイズ低減処理の対象となる第t番目のフレームと、その前後のN-1枚のフレームからなる計N枚の参照フレームを入力し、N個の成分を有する重み付きフィルタを適用することにより1枚のフレームを出力する。
図17は、重み係数決定部18の処理過程を示すフローチャートである。重み係数決定部では、後段のノイズ低減フィルタ部19で適用される重み付きフィルタの各成分を決定する。重み付きフィルタに入力するN枚のフレームH1, …, HNに対して、重み付きフィルタはN個の成分から構成され、k番目(k = 1,…, N)の成分ωk (i)は入力フレームHkに対応する。
シーンチェンジ判定部17において、フレームHk、HIN間(ただしk≠IN)でシーンチェンジが有ると判定された場合(図10参照)、すなわちシーンチェンジ判定信号SCkが「01」の場合、全ての画素iにおいて重み係数ωk (i)は0とする。一方、k = INの場合、もしくはフレームHk、HIN間でシーンチェンジが無いと判定された場合、すなわちシーンチェンジ判定信号SCkが「00」もしくは「10」の場合、フレームHk、HIN間の差異の大きさに対して、負の相関を有するような重み係数ωk(i)を設定する。これにより、フレームHINに対する重みが最も大きくなり、フレームHINとの差異が大きいフレームほど重みが小さくなる。差異の大きさを表す評価値として、例えばフレームHnおよびHINから画素iを中心に切り取った部分画像同士の誤差の標準偏差が挙げられる。
図18は、ノイズ低減フィルタ部19の処理過程を示すフローチャートである。ノイズ低減フィルタ部19では、重み係数決定部18で決定された重み付きフィルタωkを、位置合わせ後のフレームHkに対して適用し、下記の式(7)を求めて、ノイズ低減処理画像Tを得る。
以上の処理により、ノイズ低減フィルタ処理の入力フレーム間でシーンチェンジが発生していても、シーンチェンジ特徴を利用して、時間軸方向に適応的にフィルタ処理を施すことにより、ノイズを低減することができる。シーンチェンジの発生を精度よく判定できるため、シーンチェンジが発生しているか否かの判定結果に基づいて時間軸方向のフィルタ処理を行うことができる。よって、精度良くノイズを低減することができる。そのため、テレビ放送受信装置1は、高品質な画像を表示することができ、ユーザに快適な視認環境を提供することが可能である。
なお、上記実施の形態ではノイズ処理部12にシーンチェンジ判定部17を組み合わせた場合について説明したが、他の時間軸方向のフィルタ処理等の時間軸画像処理を実行する処理部にシーンチェンジ判定部を組み合わせて用いてもよい。また、シーンチェンジ判定部より得られたシーンチェンジ判定信号を、他の処理部に入力して、シーンチェンジが発生したことを反映した処理内容に切り替えるようにしてもよい。
〔実施の形態2〕
本実施の形態の映像信号処理部は、図6に示す実施の形態1の映像信号処理部42のシーンチェンジ判定部17が、図19に示すシーンチェンジ判定部17’に置き換わったものである。本実施の形態の映像信号処理部およびテレビ放送受信装置において、シーンチェンジ判定部17’以外の構成は、実施の形態1の映像信号処理部42およびテレビ放送受信装置1と同じである。よって、実施の形態1で説明した構成と同一の構成には同一の符号を付し、実施の形態1で説明した処理については説明を省略し、異なる構成のみ説明する。
本実施の形態の映像信号処理部は、図6に示す実施の形態1の映像信号処理部42のシーンチェンジ判定部17が、図19に示すシーンチェンジ判定部17’に置き換わったものである。本実施の形態の映像信号処理部およびテレビ放送受信装置において、シーンチェンジ判定部17’以外の構成は、実施の形態1の映像信号処理部42およびテレビ放送受信装置1と同じである。よって、実施の形態1で説明した構成と同一の構成には同一の符号を付し、実施の形態1で説明した処理については説明を省略し、異なる構成のみ説明する。
本実施の形態のシーンチェンジ判定部17’は、画素単位コスト算出部170’で得られたフレーム間の対応画素同士の色あいの近さを示す評価値を保存するためのN個のフレームバッファ172を備える。上記の評価値は画素単位コスト算出部170’で算出されたのちフレームバッファ172に保存され、後段の重み係数決定部18に入力される。以下ではN個のフレームバッファ172は、順にBUF-1,…,BUF-Nと称し、BUF-kは入力フレームHkと対応する(k = 1, …, N)。上記評価値は、シーンチェンジ判定部17’に記憶しておく必要はなく、テレビ放送受信装置に備えられる共通のメモリ(記憶部)に格納しておいてもよい。
本実施の形態では、フレーム間の対応画素同士の色あいの近さを示す評価値αkを以下のようにして算出する。画素単位コスト算出部170’において、上記の式(1)のようにして算出される余弦値cosθ (k, i)は小さい程対応画素同士の色あいが近いとして、評価値αkはcos2sθ (k, i)と正の相関を有する関数により求める。ここでsは正の整数であり、上記の式(3)もしくは式(4)により色あいコストCargを算出するときに設定される定数sと同一の値を取る。cos2sθ (k, i)と正の相関を有する関数として、例えばcos2sθ (k, i)をそのまま用いてもよいし、色あいコスト関数の逆数1/Cargを取ってもよい。また、必要に応じて、下限値を決めて、下限値以下の値を取る場合は0を返し、それ以外の値を取る場合は0から1の範囲に正規化された値を返すようにしてもよい。得られた評価値αkは一旦フレームバッファBUF-kに格納され、後段のシーンチェンジ判定部171’で呼び出される。
余弦値が大きいことと、評価値(色あいコスト)が小さいことは同義であり、cos2sθ (k, i)と正の相関を有する値を得ることにより、後段の重み係数決定部18において、色あいコストの小さい画素に大きな重みが与えられるようにすることができる。
ノイズ低減処理の方法は時間軸方向のフィルタ処理であれば特に指定がない場合、輝度差の小さい画素間に大きな重みを与えるものも挙げられる。しかし、輝度情報だけでは、例えばR=127,G=B=0と、R=B=0, G=127の階調値を有する画素同士も輝度は同じ(127)として大きな重みを与えるため、異なる色あいの画素同士が大きく寄与され、残像が発生しがちある。そこで、本実施の形態では、評価値αkを重み付けに反映させることで、視覚的に残像として気づきやすい色あいの差を画素間の相違の大きさとして考慮することが可能となる。このことは、シーンチェンジ判定部17’でのシーンチェンジ判定処理の内容を流用できるという点で回路規模の節約にも繋がる。
次に、図20のフローチャートを参照に、重み係数決定部18での重み係数決定処理を以下に示す。初めに重み係数ωは全ての画素においてゼロに初期化する(S201)。そして、フレームHk、HIN間でシーンチェンジが発生していないか、あるいはK = INであるかを判定する(S202)。フレームHk、HIN間でのシーンチェンジが有ると判定された場合(S202でNO)、すなわちシーンチェンジ判定信号SCkが「01」の場合、全ての画素iにおいて重み係数ωk (i)は0のままとする。一方、フレームHk、HIN間でシーンチェンジが発生していないと判定された場合(S202でYES)、すなわちシーンチェンジ判定信号SCkが「00」もしくは「10」の場合、フレームHk、HIN間の差異の大きさに対して、負の相関を有するような重み係数ωk(i)を算出する(S203)。重み係数ωk (i)は、実施の形態1で説明した方法と同様にして算出する。更に、フレームバッファBUF-kから入力される評価値αk (i)との積により、重み係数ωk (i) =αk (i)×ωk (i)を更新する(S204)。
本実施の形態により、ノイズ低減フィルタ処理部19への入力フレーム間でシーンチェンジが発生していても、シーンチェンジ特徴を利用して、時間軸方向に適応的にフィルタ処理を施すことにより、ノイズを低減することができる。さらに、シーンチェンジではないが画像の一部で大きな差異が見られる場合、その差異の生じている部分のみノイズ低減フィルタの重みを小さくすることで残像の発生を抑制することができる。
なお、本実施の形態で得られたシーンチェンジ判定信号を後段の処理部に入力して、シーンチェンジが発生したことを反映した処理内容に切り替えるようにしてもよい。また、映像信号処理部に、時間軸映像処理を実行する処理部が複数存在する場合(例えば、ノイズ低減フィルタ処理部やスケーラー処理部)、本実施の形態でフレームバッファ172に格納された評価値を、複数の時間軸映像処理を実行する処理部に入力して利用してもよい。
〔実施の形態3〕
上記した実施の形態1および2では、本発明に係る画像処理装置を、チューナー3を有するテレビ放送受信装置1の映像信号処理部42に適用した場合を例に説明した。しかし、本発明に係る画像処理装置を、例えば、チューナー3を有していないモニタ(インフォメーションディスプレイ)の映像信号処理を実行する処理部に適用してもよい。この場合は、モニタが、本発明に係る画像表示装置であり、モニタの概略構成は、例えば、図1に示す構成からチューナー3を除いたものとなる。本発明に係る画像処理装置がモニタの映像信号処理を実行する処理部に適用されているため、モニタにおいて、映像のディテイル感を向上する処理を実行することができる。
上記した実施の形態1および2では、本発明に係る画像処理装置を、チューナー3を有するテレビ放送受信装置1の映像信号処理部42に適用した場合を例に説明した。しかし、本発明に係る画像処理装置を、例えば、チューナー3を有していないモニタ(インフォメーションディスプレイ)の映像信号処理を実行する処理部に適用してもよい。この場合は、モニタが、本発明に係る画像表示装置であり、モニタの概略構成は、例えば、図1に示す構成からチューナー3を除いたものとなる。本発明に係る画像処理装置がモニタの映像信号処理を実行する処理部に適用されているため、モニタにおいて、映像のディテイル感を向上する処理を実行することができる。
また、実施の形態1では、本発明に係る画像処理装置を、表示部6を1つ有する(単体のディスプレイ)テレビ放送受信装置1の映像信号処理部42に適用した場合を例に説明した。しかし、本発明に係る画像処理装置を、例えば図21に示すように表示部6が垂直方向および水平方向に複数台配置されたマルチディスプレイ100の映像信号処理を実行する処理部に適用してもよい。この場合は、マルチディスプレイ100が、本発明に係る画像表示装置である。本発明に係る画像処理装置がマルチディスプレイ100の映像信号処理を実行する処理部に適用されているため、例えば、マルチディスプレイ100にFHD映像を再生するような場合において、映像のディテイル感を向上する処理を実行することができる。
〔実施の形態4〕
実施の形態1または2の映像信号処理部42は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
実施の形態1または2の映像信号処理部42は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
すなわち、映像信号処理部42(または、テレビ放送受信装置1)は、各機能を実現する制御プログラムの命令を実行するCPU(central processing unit)、上記プログラムを格納したROM(read only memory)、上記プログラムを展開するRAM(random access memory)、上記プログラム及び各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアである映像信号処理部42の各制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、映像信号処理部42に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ類、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク類、ICカード(メモリカードを含む)/光カード等のカード類、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ類、PLD(Programmable logic device)等の論理回路類などを用いることができる。
また、映像信号処理部42を通信ネットワークと接続可能に構成し、上記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、IEEE802.11無線、HDR(High Data Rate)、NFC(Near Field Communication)、DLNA(Digital Living Network Alliance)、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
本発明は上述した各実施形態に限定されるものではなく、種々の変更が可能である。すなわち、本発明の要旨を逸脱しない範囲内において適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
本発明は、複数のフレーム画像よりなる映像におけるシーンチェンジの発生を検出する画像処理装置等に利用することができる。
1 テレビ放送受信装置(画像表示装置)
4 制御部
6 表示部
8 操作部
12 ノイズ処理部
16 動き補償処理部
17,17a,17’ シーンチェンジ判定部(画像処理装置)
18 重み係数決定部
19 ノイズ低減フィルタ処理部
42 映像信号処理部(画像処理装置)
100 マルチディスプレイ
170,170a,170’ 画素単位コスト算出部(画素単位評価値算出部)
171,171a,171’ シーンチェンジ検出部
172 フレームバッファ
4 制御部
6 表示部
8 操作部
12 ノイズ処理部
16 動き補償処理部
17,17a,17’ シーンチェンジ判定部(画像処理装置)
18 重み係数決定部
19 ノイズ低減フィルタ処理部
42 映像信号処理部(画像処理装置)
100 マルチディスプレイ
170,170a,170’ 画素単位コスト算出部(画素単位評価値算出部)
171,171a,171’ シーンチェンジ検出部
172 フレームバッファ
Claims (13)
- 複数のフレーム画像よりなる映像におけるシーンチェンジの発生を検出する画像処理装置であって、
隣接する2つのフレーム画像間の移動量を画素毎に推定し、推定した当該移動量に基づいて当該隣接する2つのフレーム画像の位置合わせをする動き補償処理部と、
上記隣接する2つのフレーム画像のうち、一方のフレーム画像である対象フレーム画像の注目画素である第1画素の色成分の値と、他方のフレーム画像である参照フレーム画像における上記第1画素と上記位置合わせされた第2画素の色成分の値とから算出される評価値を、上記対象フレーム画像の画素毎に算出する画素単位評価値算出部と、
上記対象フレーム画像の画素毎に算出された評価値に基づいて、隣接する2つのフレーム画像が異なるシーンのフレーム画像である可能性の大きさを示す評価量を算出し、算出された当該評価量と予め定められた閾値とを比較することでシーンチェンジが発生しているかを判定するシーンチェンジ検出部と、を備えることを特徴とする画像処理装置。 - 上記画素単位評価値算出部は、上記第1画素の上記対象フレーム画像の色成分の値を成分とする第1ベクトルと、上記第2画素の色成分の値を成分とする第2ベクトルとを求め、当該第1ベクトルと当該第2ベクトルのなす角の余弦値より上記評価値を算出することを特徴とする請求項1に記載の画像処理装置。
- 上記シーンチェンジ検出部は、上記判定の結果を、上記対象フレーム画像と上記参照フレーム画像とが同じシーンにある状態か、上記対象フレーム画像と上記参照フレーム画像との間でシーンチェンジが発生している状態か、あるいは、上記対象フレーム画像と上記参照フレーム画像とがシーンチェンジ発生後の上記評価量が所定値以下になるまでの期間を表わす許容期間にある状態か、のいずれかの状態に分類することを特徴とする請求項1または2に記載の画像処理装置。
- シーンチェンジ検出部は、上記評価量を、上記対象フレーム画像の全画素数に対する予め定められた閾値を超える上記評価値を有する画素数の割合から算出する、あるいは、上記対象フレーム画像の全画素の上記評価値の平均値から算出することを特徴とする請求項1から3のいずれか1項に記載の画像処理装置。
- 上記参照フレーム画像は、上記対象フレーム画像よりも表示順序が前の画像であり、
上記シーンチェンジ検出部は、上記参照フレーム画像について既にシーンチェンジの発生を判定した結果である履歴情報を参照し、上記対象フレーム画像の上記評価量と上記予め定められた閾値とを比較することを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。 - 上記シーンチェンジ検出部にてシーンチェンジが発生していると判定された場合、上記対象フレーム画像の全ての画素の重み係数を0とし、シーンチェンジが発生していると判定されなかった場合、上記対象フレーム画像と上記参照フレーム画像との差異の大きさに対して負の相関を有する係数を重み係数として設定する、重み係数決定部と、
上記重み係数決定部で設定された重み係数を用いて上記対象フレーム画像に対してフィルタ処理を行うノイズ低減フィルタ処理部と、を備えることを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。 - 上記画素単位評価値算出部は、上記画素毎に求められた余弦値に対して正の相関を有する第2評価値を画素毎に算出するようになっており、
上記シーンチェンジ検出部にてシーンチェンジが発生していると判定された場合、上記対象フレーム画像の全ての画素の重み係数を0とし、シーンチェンジが発生していると判定されなかった場合、上記対象フレーム画像と上記参照フレーム画像との差異の大きさに対して負の相関を有する係数に上記第2評価値を乗算して重み係数を設定する、重み係数決定部と、
上記重み係数決定部で設定された重み係数を用いて上記対象フレーム画像に対してフィルタ処理を行うノイズ低減フィルタ処理部と、を備えることを特徴とする請求項2に記載の画像処理装置。 - 上記対象フレーム画像と上記参照フレーム画像との差異の大きさは、注目画素を中心に切り取った部分画像同士の誤差の標準偏差であることを特徴とする請求項6または7に記載の画像処理装置。
- 上記映像がカラーかモノクロかの判定を行うカラー判定部をさらに備え、
上記動き補償処理部は、上記隣接する2つのフレーム画像間の移動量を画素毎に推定するのに、上記隣接する2つのフレーム画像の差分の絶対値の和の最小値である第3評価値を算出するようになっており、
上記シーンチェンジ検出部は、上記カラー判定部にて上記映像がモノクロであると判定されると、上記評価値の代わりに、上記第3評価値に基づいて上記評価量を算出し、算出された当該評価量と予め定められた第2閾値とを比較することでシーンチェンジが発生しているかを判定することを特徴とする請求項1から8のいずれか1項に記載の画像処理装置。 - 請求項1から9のいずれか1項に記載の画像処理装置を備えることを特徴とする画像表示装置。
- 複数のフレーム画像よりなる映像におけるシーンチェンジの発生を検出するシーンチェンジ発生検出方法であって、
隣接する2つのフレーム画像間の移動量を画素毎に推定し、推定した当該移動量に基づいて当該隣接する2つのフレーム画像の位置合わせをする動き補償処理ステップと、
上記隣接する2つのフレーム画像のうち、一方のフレーム画像である対象フレーム画像の注目画素である第1画素の色成分の値と、他方のフレーム画像である参照フレーム画像における上記第1画素の位置に位置合わせされた第2画素の色成分の値とから算出される評価値を、上記対象フレーム画像の画素毎に算出する画素単位評価値算出ステップと、
上記対象フレーム画像の画素毎に算出された評価値に基づいて、隣接する2つのフレーム画像が異なるシーンのフレーム画像である可能性の大きさを示す評価量を算出し、算出された当該評価量と予め定められた閾値とを比較することでシーンチェンジが発生しているかを判定するシーンチェンジ検出ステップと、を含むことを特徴とするシーンチェンジ発生検出方法。 - 請求項1から9のいずれか1項に記載の画像処理装置を動作させるプログラムであって、コンピュータを上記の各部として機能させるためのプログラム。
- 請求項12に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012096047A JP2013225728A (ja) | 2012-04-19 | 2012-04-19 | 画像処理装置、画像表示装置、シーンチェンジ発生検出方法、コンピュータプログラム及び記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012096047A JP2013225728A (ja) | 2012-04-19 | 2012-04-19 | 画像処理装置、画像表示装置、シーンチェンジ発生検出方法、コンピュータプログラム及び記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013225728A true JP2013225728A (ja) | 2013-10-31 |
Family
ID=49595533
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012096047A Pending JP2013225728A (ja) | 2012-04-19 | 2012-04-19 | 画像処理装置、画像表示装置、シーンチェンジ発生検出方法、コンピュータプログラム及び記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2013225728A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020063688A1 (zh) * | 2018-09-27 | 2020-04-02 | 苏州科达科技股份有限公司 | 视频场景变化的检测方法、装置及视频采集设备 |
CN113645466A (zh) * | 2021-06-29 | 2021-11-12 | 深圳市迪威码半导体有限公司 | 一种基于随机概率的图像去除块 |
-
2012
- 2012-04-19 JP JP2012096047A patent/JP2013225728A/ja active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020063688A1 (zh) * | 2018-09-27 | 2020-04-02 | 苏州科达科技股份有限公司 | 视频场景变化的检测方法、装置及视频采集设备 |
CN113645466A (zh) * | 2021-06-29 | 2021-11-12 | 深圳市迪威码半导体有限公司 | 一种基于随机概率的图像去除块 |
CN113645466B (zh) * | 2021-06-29 | 2024-03-08 | 深圳市迪威码半导体有限公司 | 一种基于随机概率的图像去块算法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4191241B2 (ja) | 視覚処理装置、視覚処理方法、プログラム、表示装置および集積回路 | |
US10885384B2 (en) | Local tone mapping to reduce bit depth of input images to high-level computer vision tasks | |
US10467735B2 (en) | Inverse tone mapping based on luminance zones | |
JP4157592B2 (ja) | 視覚処理装置、表示装置、視覚処理方法、プログラムおよび集積回路 | |
US9934558B2 (en) | Automatic video quality enhancement with temporal smoothing and user override | |
US7903898B2 (en) | Visual processing apparatus, visual processing method, program, recording medium, display device, and integrated circuit | |
EP1589763A2 (en) | Image processing apparatus, method and program | |
JP4437150B2 (ja) | 視覚処理装置、表示装置、視覚処理方法、プログラムおよび集積回路 | |
US20100128181A1 (en) | Seam Based Scaling of Video Content | |
JP2003526272A (ja) | ビデオ画像のシャープさを改善するシステム及び方法 | |
JP2013041565A (ja) | 画像処理装置、画像表示装置、画像処理方法、コンピュータプログラム及び記憶媒体 | |
JP5781370B2 (ja) | 画像処理装置、画像処理方法、画像処理装置を備える画像表示装置、プログラムおよび記録媒体 | |
US9215353B2 (en) | Image processing device, image processing method, image display device, and image display method | |
JP2013225728A (ja) | 画像処理装置、画像表示装置、シーンチェンジ発生検出方法、コンピュータプログラム及び記録媒体 | |
JP2012032739A (ja) | 画像処理装置及び方法、並びに画像表示装置 | |
JP2013219462A (ja) | 画像処理装置、画像表示装置、画像処理方法、コンピュータプログラム及び記録媒体 | |
KR102121395B1 (ko) | 영상 프레임 보간 장치, 디스플레이 장치 및 그 제어 방법 | |
WO2014034242A1 (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP2012227917A (ja) | 画像処理回路、半導体装置、画像処理装置 | |
JP2011166638A (ja) | 映像処理装置及び映像表示装置 | |
JP2010252117A (ja) | フレームレート変換装置、フレームレート変換方法、動画像表示装置、フレームレート変換プログラムおよび記録媒体 | |
JP2007316630A (ja) | 視覚処理装置、視覚処理方法、プログラム、記録媒体、表示装置および集積回路 | |
US9516389B1 (en) | On screen display detection | |
KR102279495B1 (ko) | 디스플레이장치 및 그 제어 방법 | |
WO2023044653A1 (zh) | 一种显示设备系统及自适应增强画质的方法 |