以下に添付図面を参照しながら、本発明の好適な実施形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
<実施形態>
まず、本発明の好適な実施形態について詳細に説明するに先立ち、当該実施形態に係る技術を適用可能な表示装置(後述する表示装置100、200)のハードウェア構成例について、図1を参照しながら、簡単に説明する。図1は、本発明の一実施形態に係る表示装置(後述する表示装置100、200)のハードウェア構成例を示す説明図である。
図1に示すように、表示装置100、200は、例えば、地上波放送用アンテナ10と、地上波チューナ12と、衛星放送用アンテナ14と、衛星チューナ16と、入力端子18と、入力切替部20と、映像信号処理部22と、表示パネル24と、音声信号処理部26と、音声出力部28とにより構成される。尚、映像信号処理部22は、上記の映像処理装置の一例である。
地上波放送用アンテナ10は、放送局から配信される地上波放送番組を受信するためのアンテナである。地上波放送用アンテナ10により受信された放送信号は、地上波チューナ12に入力される。地上波チューナ12は、地上波放送用アンテナ10により受信された放送信号を復調して時系列画像信号及び音声信号を再生する。地上波チューナ12により再生された時系列画像信号及び音声信号は、入力切替部20に入力される。
衛星放送用アンテナ14は、放送衛星を介して放送局から配信される衛星放送番組を受信するためのアンテナである。衛星放送用アンテナ14により受信された放送信号は、衛星チューナ16に入力される。衛星チューナ16は、衛星放送用アンテナ14により受信された放送信号を復調して時系列画像信号及び音声信号を再生する。衛星チューナ16により再生された時系列画像信号及び音声信号は、入力切替部20に入力される。
入力端子18は、外部に設置された映像再生機器、又は音声再生機器等を接続する端子である。映像再生機器としては、例えば、HDD(Hard Disk Drive)レコーダ、DVD(Digital Versatile Disc)レコーダ、Blu−ray(登録商標)レコーダ、カムコーダ等の録画再生装置や、DVDプレーヤ、Blu−ray(登録商標)プレーヤ等の映像再生装置などが対象に含まれる。
音声入力機器としては、例えば、CDプレーヤ、携帯音楽プレーヤ等の音声再生装置が対象に含まれる。もちろん、パーソナルコンピュータや携帯情報端末等の情報処理機器が接続されてもよいし、或いは、半導体メモリや磁気記録媒体等の記録媒体が接続されてもよい。このように、入力端子18に各種の機器が接続されることで、地上波放送や衛星放送の他にも、メディア等で提供される映像データや音声データを利用できる。
入力切替部20は、地上波チューナ12、衛星チューナ16、又は、入力端子18に接続された機器から入力される時系列画像信号や音声信号を映像信号処理部22又は音声信号処理部26に入力する。このとき、入力切替部20は、利用者による入力操作、又は所定の自動処理により、地上波チューナ12、衛星チューナ16、又は入力端子18からの信号入力を切り替えることができる。つまり、入力切替部20は、映像信号処理部22、及び音声信号処理部26に入力する信号の取得先を選択的に切り替えることができる。
そのため、映像信号処理部22には、異なる種類の時系列画像信号が連続的に入力されることがある。例えば、地上波放送の時系列画像信号に続いて衛星放送の時系列画像信号が入力されたり、地上波放送に続いてDVD映画の時系列画像信号が入力されたりする。同様に、音声信号処理部26に対しても、複数の入力手段からの音声信号が連続して入力されることがある。さらに、同じ地上波番組の時系列画像信号であっても、フィルム映像のものとカメラ映像のものとが混在して入力される場合もある。
映像信号処理部22は、このように連続して入力される時系列画像信号に所定の信号処理を施して表示パネル24に表示させる。所定の信号処理として、例えば、映像信号処理部22は、入力された複数の時系列画像信号から補間画像信号を生成して時間解像度を変換することができる。この変換処理を施すことで、表示パネル24に表示される映像は、入力切替部20から入力された変換前の時系列画像信号ストリームよりも高い時間解像度を有する滑らかな映像となる。このような映像信号処理部22の機能は、後述する映像処理ブロックB11、B21、及び演算処理ブロックB12、B22の機能に相当する。
表示パネル24は、映像信号処理部22により入力された映像信号を表示する表示手段である。表示パネル24としては、例えば、LCD(Liquid Crystal Display)、PDP(Plasma DisplayPanel)、ELD(Electro−Luminescence Display)等のパネルが対象に含まれる。
音声信号処理部26は、入力切替部20から入力された音声信号に所定の信号処理を施して音声出力部28に入力する。所定の信号処理としては、例えば、種々の音声符号化方式で圧縮符号化された音声信号を音声出力部28で再生可能な音声信号に変換する処理が対象に含まれる。このように変換処理された音声信号が入力されると、音声出力部28により音声が出力される。音声出力部28としては、例えば、スピーカやヘッドホン等のオーディオ装置が対象に含まれる。
以上、後述する表示装置100、200の主な装置構成の一例について簡単に説明した。以下で説明する実施形態に係る技術は、上記構成の中でも、主に映像信号処理部22の機能に関するものである。
《第1実施形態》
まず、本発明の第1実施形態について説明する。本実施形態は、連続的に入力される時系列画像信号の間に動きベクトルに基づく補間画像信号を生成して時間解像度を高める映像処理方法に関するものである。特に、本実施形態は、時系列画像信号の特徴変化が検出された際に、補間画像信号の生成時刻を時系列画像信号間で等間隔に設定せず、補間処理の切り替わりを視聴者に検知されにくくする技術に関する。
[表示装置100の機能構成]
まず、図2を参照しながら、本実施形態に係る表示装置100の機能構成について説明する。図2は、本実施形態に係る表示装置100の機能構成を示す説明図である。
図2に示すように、表示装置100は、主に、映像処理ブロックB11と、演算処理ブロックB12と、表示パネル24とにより構成されている。この中で、映像処理ブロックB11、及び演算処理ブロックB12は、上記の映像信号処理部22に相当する。
映像処理ブロックB11は、連続的に入力される時系列画像信号の間の動きベクトルに基づいて当該時系列画像信号のストリームに補間処理を施す処理ブロックである。一方、演算処理ブロックB12は、映像処理ブロックB11で実行される補間処理の方法や補間すべき時刻を決定するための処理ブロックである。
説明の都合上、映像処理ブロックB11と演算処理ブロックB12とを区別しているが、実施の態様に応じて一つの処理手段により構成されていてもよい。また、各処理ブロックにおける処理は、ハードウェア処理であってもよいし、ソフトウェア処理であってもよい。もちろん、これらの組み合わせで実現されてもよい。
また、映像処理ブロックB11が有する機能は、後述するハードウェア構成のうち、例えば、データ信号処理部64、映像信号処理部66、OSD回路68、合成回路70、マイコン72等により実現される。また、演算処理ブロックB12の機能は、主に、マイコン72等により実現される。尚、これらの処理ブロックが有する機能の一部又は全部は、マイコン72を構成するROM724等に記録されたプログラムに基づいてCPU722により実現されてもよい。
(映像処理ブロックB11について)
まず、映像処理ブロックB11の機能構成について説明する。図2に示すように、映像処理ブロックB11は、主に、映像種別判別部102と、デインターレース/プルダウン解除部112と、速度検出部114と、補間処理部116とにより構成される。映像種別判別部102は、特徴変化検出部の一例である。また、補間処理部116は、補間画像信号生成部の一例である。
(映像種別判別部102)
映像種別判別部102は、連続して入力される時系列画像信号の信号種別(映像の種類)を判別する。そして、映像種別判別部102により判別された映像種別の情報(以下、判別結果)は、デインターレース/プルダウン解除部112、補間処理部116、及び演算処理ブロックB12の信頼性判断部104に入力される。
映像種別判別部102は、例えば、入力された時系列画像信号がカメラ映像であるか、フィルム映像であるか、或いは、CG映像であるかを判別する。この判別処理に際し、映像種別判別部102は、入力される複数の時系列画像信号を参照し、それらの時系列画像信号間で検出される特徴又は規則性を抽出することで映像種別を判別する。そのため、この判別処理には、複数の時系列画像信号が用いられる。もちろん、本実施形態はこれに限定されず、単一の時系列画像信号に基づいて映像種別が判別されてもよい。
ここで、一例として、フィルム映像の判別方法について具体的に説明する。フィルム映像は、元々24フレーム/秒の映像を60フィールド/秒にプルダウン処理した状態で入力される。例えば、入力されるフィルム映像は、元のフレームのうち、奇数番目のフレームが2フィールドに変換され、偶数番目のフレームが3フィールドに変換されたものになっている(3−2フィルム映像)。
このように、2フレームが5フィールドに変換されることで、24フレーム/秒が60フィールド/秒に変換されているのである。こうした規則性に基づき、映像種別判別部102は、同じ特徴の時系列画像信号が2フィールド、3フィールド、2フィールド、3フィールド、…と規則的に続けて入力された場合に、その時系列画像信号の映像種別がフィルム映像であると判別している。
尚、映像種別判別部102は、CG映像等の他の映像種別に対しても、その時系列画像信号の特徴変化又は規則性を検出して映像種別を判別することができる。もちろん、ここで示した判別方法は一例に過ぎず、本実施形態は上記の例に限定されず、他の判別方法を利用して映像種別が判別されてもよい。
(デインターレース/プルダウン解除部112)
デインターレース/プルダウン解除部112は、映像種別判別部102から入力される判別結果に応じて、連続して入力される時系列画像信号にデインターレース処理、及び/又はプルダウン処理を施してノンインターレース映像信号を生成する。
例えば、上記のフィルム映像のように、同じフレームから変換された複数のフィールドが連続して入力される場合、そのフィールド間に生成される補間画像信号が参照フィールドと同じ画像になるために時間解像度が向上しない。そのため、プルダウン処理を解除して元々の映像に戻す必要が生じるのである。そこで、デインターレース/プルダウン解除部112は、映像種別判別部102による判別結果がフィルム映像である場合に、入力された時系列画像信号のストリームに対してプルダウン解除の処理を施す。
また、デインターレース/プルダウン解除部112は、映像種別判別部102の判別結果がカメラ映像である場合に、入力されるインターレース映像信号のストリームにデインターレース処理を施してノンインターレース映像信号を生成する。デインターレース/プルダウン解除部112により生成されたノンインターレース映像信号は、速度検出部114、及び補間処理部116に入力される。
但し、ノンインターレース映像信号に変換せず、インターレース映像信号のまま、後段の速度検出部114、及び補間処理部116の処理が施されてもよいため、実施の態様に応じて、デインターレース/プルダウン解除部112の機能構成が変更され得る。もちろん、こうした変形に対しても、本実施形態に係る技術を適用することが可能である。但し、以下の説明では、ノンインターレース映像信号に変換した場合を想定する。
(速度検出部114)
速度検出部114は、デインターレース/プルダウン解除部112によりノンインターレース映像信号に変換された時系列画像信号に基づき、当該時系列画像信号の間の動きベクトルを検出する。速度検出部114は、動きベクトルの検出に際し、例えば、ブロックマッチング法、位相相関法、又はオプティカルフロー法等の種々の動き検出方法を利用することができる。速度検出部114により検出された動きベクトルの情報(動き情報)は補間処理部116に入力される。
(補間処理部116)
補間処理部116は、まず、速度検出部114により検出された動き情報に基づき、ノンインターレース映像信号に変換された後の時系列画像信号間を補間する補間画像信号を生成する。さらに、補間処理部116は、生成した補間画像信号を該当する時系列画像信号間に挿入して高時間解像度の映像信号を生成する。補間処理部116により生成された映像信号は表示パネル24に入力される。
但し、補間画像信号の生成時刻は、演算処理ブロックB12の相対時刻設定部110により設定されるか、或いは、映像種別判別部102から入力された判別結果に基づいて決定される。この相対時刻とは、デインターレース/プルダウン解除部112から入力される時系列画像信号(原画像)の時刻を基準にして相対的に表現された時刻である。一方、判別結果に基づいて決定される生成時刻は、例えば、その映像種別に応じて決定される枚数の補間画像が原画像間に等間隔に配置される時刻に設定される。これらの設定方法に関しては後段において詳述する。
尚、相対時刻を取得する際に、補間処理部116は、補間画像信号の生成時刻の前後に位置する時系列画像信号の時刻(以下、信号時刻)を相対時刻設定部110に入力し、それに対応する相対時刻を取得するように構成されていてもよい。逆に、相対時刻設定部110に対して信号時刻を入力せず、各信号時刻に対応付けられた相対時刻を相対時刻設定部110から取得するように構成されていてもよい。こうした取得処理は、相対時刻の算出/設定等に掛かる遅延を考慮したものであり、その相対時刻と時系列画像信号との間の対応関係を補間処理部116が認識できるようにするように構成されている。もちろん、取得処理の方法についても、これらの例に限定されるものではない。
(具体例)
ここで、図3及び図4を参照しながら、補間画像信号の生成処理方法について、例を挙げて具体的に説明する。図3は、カメラ映像の時系列画像信号ストリームが入力された場合の補間画像信号の生成処理方法を示す説明図である。図4は、フィルム映像の時系列画像信号ストリームが入力された場合の補間画像信号の生成処理方法を示す説明図である。
ここでは、補間処理部116により、例えば、連続する2枚の時系列画像信号(原画像OP1、原画像OP2)の間に1枚以上の補間画像信号が生成される場合を想定する。また、この例では、補間処理部116によって120フレーム/秒の時間解像度に変換される変換処理を想定している。
既に述べた通り、生成される補間画像信号の枚数は、カメラ映像とフィルム映像との間で異なる。時間解像度が60フィールド/秒のカメラ映像が入力される場合(図3)、補間処理部116により生成される補間画像信号の枚数は1枚(補間画像CFC1)である。一方、時間解像度が24フレーム/秒のフィルム映像が入力される場合(図4)、補間処理部116によって4枚の補間画像信号(補間画像CFF1、CFF2、CFF3、CFF4)が生成される。尚、補間処理部116は、原画像OP1と原画像OP2との間の任意の時刻に補間画像信号を生成することができる。但し、最も滑らかな映像にする補間方法は、原画像OP1、OP2の間に補間画像信号を等間隔で均一に配置することである。
図3の例では、原画像OP1の時刻を基準(0秒)にする相対時刻Tc1に、補間画像CFC1が配置されている。上記の通り、最も滑らかな映像にする補間方法を採用する場合、この相対時刻Tc1は、1/120秒となる。この場合、補間処理部116は、まず、原画像OP1と原画像OP2との間の動き情報(動きベクトルMV)に基づき、原画像OP1と補間画像CFC1との間の動き情報を算出する。
原画像OP1と補間画像CFC1との間の動き情報(MV/2)は、補間画像CFC1が配置される相対時刻Tc1に基づいて決定される。Tc1=1/120[秒]の場合、補間処理部116は、原画像OP1、OP2に含まれる移動体(ブロック)の動きベクトルMVを半分にした動きベクトルMV/2を算出し、この動きベクトルMV/2を用いて補間画像CFC1における移動体の位置を決定する。
尚、他の原画像OP3等を参照画像として利用し、この原画像OP3等に対応する動き情報に基づいて補間画像CFC1が生成されてもよい。また、複数の参照画像に基づいて補間画像CFC1が生成されてもよい。
さて、図4の例では、原画像OP1の時刻を基準(0秒)にする相対時刻Tf1、Tf2、Tf3、Tf4に、それぞれ補間画像CFF1、CFF2、CFF3、CFF4が配置されている。最も滑らかな映像にする補間方法の場合、この相対時刻(Tf1、Tf2、Tf3、Tf4)は、(1/120、2/120、3/120、4/120)[秒]となる。
まず、補間処理部116は、原画像OP1と原画像OP2との間の動き情報(動きベクトルMV)に基づいて原画像OP1と補間画像CFF1との間の動き情報を算出する。同様に、補間処理部116は、原画像OP1と補間画像CFF2、CFF3、CFF4との間の動き情報をそれぞれ算出する。その算出方法は、図3の場合と同様である。そして、補間処理部116は、算出した動き情報に基づいて補間画像CFF1、CFF2、CFF3、CFF4を生成する。
但し、補間処理部116は、等間隔に配置された相対時刻Tf1、Tf2、Tf3、Tf4よりも原画像OP1又は原画像OP2に近い相対時刻に補間画像CFF1、CFF2、CFF3、CFF4を生成することもできる。例えば、補間処理部116は、相対時刻(Tf1+ΔTf1)(ΔTf1<0)の補間画像CFF1を生成することができる。
この場合、補間処理部116は、原画像OP1と原画像OP2との間の動きベクトルMVを(Tf1+ΔTf1)[秒]/(1/24)[秒]倍した動きベクトルに基づいて補間画像CFF1を生成する。補間画像CFF2、CFF3、CFF4についても同様である。尚、等間隔に配置された相対時刻Tfk(k=1〜4)からのシフト量ΔTfk(k=1〜4)については後述する。
さて、上記の例では、入力された時系列画像信号(原画像OP1)を相対時刻の基準にしたが、必ずしも時系列画像信号(原画像OP1)の時刻を基準としなくてもよい。例えば、映像種別毎の補間方法が特定されていれば、等間隔に均一に配置された相対時刻Tfk(k=1〜4)(以下、均一時刻)を基準にして相対時刻が表現されていてもよい。この表現によれば、均一時刻からのシフト量ΔTfk(k=1〜4)(即ち、入力された時系列画像信号(原画像OP1又は原画像OP2等)に対する「近づき度合い」)が明確になる。尚、相対時刻の表現はこれらの例に限定されない。
以上、映像処理ブロックB11の機能構成について説明した。次に、演算処理ブロックB12の機能構成について詳細に説明する。
(演算処理ブロックB12について)
再び図2を参照する。演算処理ブロックB12は、信頼性判断部104と、判別結果記憶部106と、補間方法選択部108と、相対時刻設定部110とにより構成される。相対時刻設定部110は、生成時刻設定部の一例である。
(信頼性判断部104、判別結果記憶部106)
信頼性判断部104は、映像種別判別部102から入力された判別結果に対し、その判別結果の信頼性を判断する。信頼性判断部104は、入力された判別結果が信頼できるものであると判断した場合に、その判断結果を補間方法選択部108、及び相対時刻設定部110に入力する。
この判別結果は、例えば、補間方法選択部108、及び相対時刻設定部110に入力される。このとき、判別結果は、例えば、映像種別が切り替わる直前、又は切り替わり直後の時系列画像信号の時刻に対応付けて入力される。このように対応付けされることにより、補間方法選択部108、及び相対時刻設定部110は、どの時点で映像種別が切り替わったか、どの映像種別に切り替わったのかという情報を認識できるようになる。
また、信頼性判断部104は、映像種別判別部102から判別結果が入力された際に、その判別結果を判別結果記憶部106に記録する。そのため、信頼性判断部104は、判別結果記憶部106に蓄積された過去の判別結果を時系列で参照して映像種別判別部102から入力される判別結果の信頼性を判断することができる。
例えば、信頼性判断部104は、映像種別が切り替わる直前の時系列画像信号(原画像OP1)、及び切り替わり直後の時系列画像信号(原画像OP2)に対する判別結果(第1判別結果)を判別結果記憶部106に記録する。さらに、信頼性判断部104は、原画像OP1、及び原画像OP2よりも後の時刻の時系列画像信号(原画像OP3)に対する判別結果(第2判別結果)を映像種別判別部102から取得する。
その上で、信頼性判断部104は、判別結果記憶部106に記録された第1判別結果を読み出し、その第1判別結果と第2判別結果とが一致するか否かを判断する。その結果、第1判別結果と第2判別結果とが一致した場合に、信頼性判断部104は、その判別結果の信頼性が高いと判断する。尚、この例では、2つの判別結果を比較したが、これに限定されず、3以上の判別結果を比較参照して信頼性を判別してもよい。
また、映像種別判別部102が複数設けられている場合、信頼性判断部104は、これらの映像種別判別部102から入力される複数の判別結果を総合して、その判別結果の信頼性を判断することができる。例えば、信頼性判断部104は、複数の判別結果を比較し、それらの判別結果が一致した場合に信頼性が高いと判断してもよい。もちろん、信頼性判断部104は、過去の判別結果も判断材料として参照し、総合的に判断してもよい。
このように、信頼性の判断には、ある程度の精度が要求される場合に、複数の判断結果が利用され、複数の処理工程が必要になる。そのため、この信頼性判断には、ある程度の処理時間が掛かる。尚、さらに信頼性判断の精度を高めるためには、より多くの判別結果を用いる必要がある。その場合、必要な分の時系列画像信号が入力されるまでのフレーム期間分だけ余計に時間が必要になる。従って、映像種別が切り替わった直後に映像種別を即座に判別することは難しい場合が多い。こうした理由から、判別処理の間、補間処理が行われなかったり、或いは、映像種別に適さない補間処理が行われてジャダーが発生してしまうのである。
(補間方法選択部108)
補間方法選択部108は、信頼性判断部104により高い信頼性が確認された判別結果を受けて、その判別結果に対応する補間方法を選択する。例えば、判別結果がカメラ映像である場合、補間方法選択部108は、そのカメラ映像に適した補間画像信号の枚数、及び、それらの生成時刻を選択する。尚、判別結果がフィルム映像やCG映像等の場合についても同様に、補間画像信号の枚数、及びそれらの生成時刻が選択される。
既に述べた通り、最も滑らかな映像を実現するには、時系列画像信号の間に等間隔で補間画像信号を生成するのが好ましい。そこで、補間方法選択部108は、補間処理後に目標とする時間解像度の値に応じて、例えば、等間隔に補間画像信号が配置されるような生成時刻、及び枚数を補間方法として選択する。そして、補間方法選択部108は、選択した補間方法の情報を相対時刻設定部110に入力する。
(相対時刻設定部110)
相対時刻設定部110は、信頼性判断部104から入力された判別結果、及び補間方法選択部108から入力された補間方法の情報に基づき、補間画像信号を生成するための相対時刻を設定する。そして、相対時刻設定部110は、設定した相対時刻を映像処理ブロックB11の補間処理部116に入力する。
尚、相対時刻設定部110は、補間処理部116による設定要求に応じて、指定された信号時刻に対応する相対時刻を補間処理部116に入力してもよいし、補間処理部116による設定要求とは関係無く、各時系列画像信号の時刻に対応付けて該当する相対時刻を補間処理部116に入力してもよい。いずれの方法を採用するにせよ、補間処理部116に対して時系列画像信号毎の相対時刻が正しく通知される。
本実施形態において重要なのは、相対時刻設定部110により設定される相対時刻の設定方法である。そこで、当該設定方法について、以下でより詳細に説明する。
まず、相対時刻設定部110は、信頼性判断部104から入力された判別結果に基づいて映像種別が変化した時刻を認識することができる。そこで、相対時刻設定部110は、映像種別が変化した時刻を基準とする経過時間に基づいて相対時刻を設定する。このとき、相対時刻設定部110は、補間方法選択部108により選択された補間方法に基づき、「最終的に」補間画像信号の等間隔な生成時刻(以下、目標時刻)になるように相対時刻を設定する。
以下で具体的に例示するように、相対時刻設定部110は、映像種別の変化以降に設定される相対時刻を直ちに目標時刻に設定せず、時系列画像信号の垂直同期の周期等を単位として相対時刻が経過時間に応じて徐々に目標時刻に近づくように設定する。この設定方法について、以下に具体例を示す。
(具体例)
一例として、相対時刻が経過時間の一次関数で表現される場合について考える。具体的な例として、図4の場合を想定する。つまり、2枚の原画像OP1、OP2の間に4枚の補間画像CFF1、CFF2、CFF3、CFF4が生成される場合を想定する。但し、原画像OP1は、映像種別が変化した直後の時系列画像信号から、所定時間t(フレーム単位)だけ経過した時刻の時系列画像信号であるとし、相対時刻の基準(0秒)であるとする。また、原画像OP2の相対時刻は1/24秒であるとする。
尚、時間解像度を1/120秒に向上させる補間処理方法について考える。また、相対時刻設定部110には、補間方法選択部108から補間方法の情報として、補間画像CFFk(k=1〜4)の目標時刻Tfk=k/120が入力されているものとする。
このような場合、原画像OP1からの経過時間t(フレーム単位)に対し、例えば、補間画像CFFk(k=1〜4)の相対時刻(Tfk+ΔTfk)は下記の式(1)〜(4)のように設定される。
下記の式(1)〜(4)に示す例の場合、原画像OP1に近い補間画像CFF1、CFF2は、その相対時刻が経過時間tに対して漸増するように設定されている。一方、原画像OP2に近い補間画像CFF3、CFF4は、その相対時刻が経過時刻tに対して漸減するように設定されている。この例では、各補間画像CFFk(k=1〜4)の相対時刻(Tfk+ΔTfk)が目標時刻Tfkに一致するまでに60フレーム期間を要するように設定されている。従って、各相対時刻は、60フレーム後に目標時刻に一致することになる。
また、下記の式(1)及び式(2)を比較すると、補間画像CFF2よりも原画像OP1に近い補間画像CFF1の相対時刻は、経過時間tに対する傾き(A1)が小さくなるように設定されている。この傾き(A1、A2)は、経過時間tの進行に応じて補間画像CFF1、CFF2が原画像OP1から離れていく距離の変化量を表している。つまり、下記の式(1)及び式(2)は、時間の経過に伴って補間画像CFF2の方が原画像OP1からより大きく離れるように相対時刻を設定する設定方法を示すものである。
同様に、下記の式(3)及び式(4)を比較すると、補間画像CFF3よりも原画像OP2に近い補間画像CFF4の相対時刻は、経過時間tに対する傾き(A4)が小さくなるように設定されている。この傾き(A3、A4)は、経過時間tの進行に応じて補間画像CFF3、CFF4が原画像OP2から離れていく距離の変化量を表している。つまり、下記の式(3)及び式(4)は、時間の経過に伴って補間画像CFF3の方が原画像OP2からより大きく離れるように相対時刻を設定する設定方法を示すものである。
上記のように、相対時刻設定部110は、経過時間の一次関数により相対時刻を設定することができる。もちろん、本実施形態は、これに限定されず、例えば、二次以上の高次関数や指数関数等であってもよいし、或いは、任意に設定された関数であってもよい。
上記のAk*t(k=1〜4)を任意の関数fk(t)に一般化する方法も考えられる。このとき、{0<f1(t)≦f2(t);f1(0)=f2(0)=0;f1(60)=1/120[秒]、f2(60)=2/120[秒]}、{f3(t)≦f2(t)<0[秒];f3(0)=f4(0)=0[秒];f3(60)=−2/120[秒]、f4(60)=−1/120[秒]}となるように関数が定義される。
このように、関数形は任意であるが、経過時間t=0の場合に全ての相対時刻がいずれかの原画像の時刻に一致し、経過時間tが所定フレーム期間(t=60)に達した際に全ての相対時刻が目標時刻に一致するように設定される。尚、上記の説明で「関数」と表現した。このように、相対時刻設定部110は、予め設定された関数形に基づいて経過時間の入力に対する相対時刻を演算出力するように構成されていてもよい。しかし、相対時刻設定部110は、この「関数」に相当するテーブルを保持しておき、そのテーブルを参照して所定の相対時刻を設定するように構成されていてもよい。
以上、本実施形態に係る表示装置100の機能構成について説明した。上記の通り、本実施形態に係る表示装置100は、ジャダーが発生しやすい映像種別の切り替わり部分以降について、補間画像を生成する相対時刻を原画像に近づけて設定することができる。さらに、当該表示装置100は、映像種別が変更された原画像の時刻を基準とする経過時間の大きさに応じて徐々に相対時刻を目標時刻に近づけて設定することができる。
そのため、映像種別が切り替わった時点でジャダーが発生しても、補間処理後の滑らかな映像に徐々に変化していくため、補間処理の切り替わり部分を視聴者に知覚されにくくなる。その結果、映像種別が異なる映像間の変化点が視聴者に意識され難くなり、それぞれの映像の滑らかさを最大限に引き出す表示が実現される。
[映像処理方法について]
次に、図5を参照しながら、本実施形態に係る映像処理方法の流れについて説明する。図5は、本実施形態に係る映像処理方法の流れを示す説明図である。但し、表示装置100には、最初の段階でカメラ映像の時系列画像信号が入力されているものとする。
まず、表示装置100に時系列画像信号のストリームが入力されると、映像種別判別部102により、その映像種別が判別される。映像種別判別部102によりカメラ映像が検出された場合、カメラ映像を示す判別結果として、カメラ映像検出信号が演算処理ブロックB12に入力される(S102)。このとき、演算処理ブロックB12は、時系列画像信号の映像種別がカメラ映像のままで変化がないため、映像処理ブロックB11に対して補間方法に関する情報の入力を行わなくてもよい。このように、カメラ映像の時系列画像信号が継続的に入力されている期間(カメラ映像検出区間)は、映像処理ブロックB11による補間方法に変更がない状態にある。
ある時点で、映像種別判別部102によりフィルム映像が検出された場合(フィルム映像検出区間)、フィルム映像を示す判別結果として、フィルム映像検出信号が演算処理ブロックB12に入力される(S104)。フィルム映像検出信号が入力されると、演算処理ブロックB12により判別結果の信頼性が判別される。この信頼性判別処理の間(信頼性判別区間)、演算処理ブロックB12には、複数のフィルム映像検出信号が入力される(S106)。これらのフィルム映像検出信号は、時系列画像信号のフレーム期間単位(1/60[秒])で入力される。
これらのフィルム映像検出信号により、映像種別の判別結果の信頼性が確認されると、演算処理ブロックB12により相対時刻が設定され、その相対時刻情報(F1)が映像処理ブロックB11に送信される(S108)。
相対時刻情報(Fn(n=1〜N))は、映像種別判別部102から継続的にフィルム映像検出信号が入力される度に生成され、映像処理ブロックB11に送信される(S110、S112)。このとき、相対時刻情報(Fn(n=1〜N))が示す相対時刻は、上記の式(1)〜(4)のような関数に基づいて設定される。
所定数Nの相対時刻情報FNが送信された後、演算処理ブロックB12は、相対時刻情報の生成及び送信を終了する。この所定数Nは、相対時刻が目標時刻に一致するまでに要するフレーム数である。従って、上記の式(1)〜(4)に示す例の場合、所定数Nは60になる。送信される相対時刻情報の数が所定数Nに達すると、相対時刻と目標時刻とが一致し、各相対時刻が原画像間に等間隔で均一に配置された状態になる。
つまり、補間画像が生成される時刻がフィルム映像に最も適したものに設定される。そこで、映像処理ブロックB11は、この設定を維持しながら補間処理を継続する。そのため、演算処理ブロックB12は、映像種別判別部102から継続的にフィルム映像検出信号が入力されていても(S114)、相対時刻情報の生成及び送信を行わなくてもよい。
その後、ある時点で、映像種別判別部102によりカメラ映像が再び検出された場合、カメラ映像を示す判別結果として、カメラ映像検出信号が演算処理ブロックB12に入力される(S116)。カメラ映像検出信号が入力されると、演算処理ブロックB12により判別結果の信頼性が判別される。
この信頼性判別処理の間(信頼性判別区間)、演算処理ブロックB12には、複数のカメラ映像検出信号が入力される(S118)。これらのカメラ映像検出信号により、映像種別の判別結果の信頼性が確認されると、演算処理ブロックB12により相対時刻が設定され、その相対時刻情報(C)が映像処理ブロックB11に送信される(S120)。
但し、フィルム映像からカメラ映像に変化した場合に送信される相対時刻情報(C)は、カメラ映像に適した目標時刻の情報である。目標時刻の情報を送信する理由は、時系列画像信号のストリームがカメラ映像の状態で、フィルム映像に適した補間処理が継続されることにより画像間に不自然な動きが発生するのを避けるためである。
つまり、フィルム映像からカメラ映像に変化した後、すぐにカメラ映像に適した補間方法に切り替える方が良いのである。カメラ映像の相対時刻情報(C)が送信されると、映像処理ブロックB11は、カメラ映像検出区間において、カメラ映像に適した補間方法で時系列画像信号のストリームに画像処理を施して出力する。
以上、本実施形態に係る映像処理方法の流れについて説明した。上記の通り、本実施形態に係る映像処理方法によれば、映像種別判別部102で検出された映像種別に応じて演算処理ブロックB12により相対時刻情報が生成され、その相対時刻に基づいて映像処理ブロックB11による補間処理が実行される。
その際、演算処理ブロックB12では、映像種別の切り替えに伴って発生するジャダーのある映像から滑らかな映像に徐々に変化するように相対時刻が設定される。その結果、補間処理の急激な変化に伴って知覚される違和感を緩和させることができる。
以上説明したように、本発明の第1実施形態に係る技術を適用することで、映像種別の変化に伴う補間方法の急激な変化に起因して視聴者に与えてしまう違和感を軽減させることができる。尚、本実施形態では、映像種別の変化に伴う補間方法の変化を対象としたが、ジャダーのある映像から滑らかな映像への切り替えが発生する状況はこれに限らない。例えば、連続する時系列画像信号間の動き量が大きい場合にも、同様の状況が発生し得る。本発明に係る技術は、こうした状況等にも対応することが可能である。そこで、こうした状況に対応する実施形態(第2実施形態)について以下で説明する。
《第2実施形態》
本発明の第2実施形態について説明する。上記の通り、本実施形態は、激しい動きやシーンチェンジ等の発生に起因して補間画像信号に乱れが生じるような状況に対して本発明に係る技術を適用する場合に相当する。こうした状況では、補間処理を一旦停止し、前時刻で表示された時系列画像信号を再び表示する方法が多く用いられる。このとき、突然ジャダーが発生したり、或いは、急激に滑らかな映像に変化することで、視聴者に違和感を与えてしまう。そこで、こうした違和感を軽減することが可能な映像処理方法について以下で詳細に説明する。
[表示装置200の機能構成]
まず、図6を参照しながら、本実施形態に係る表示装置200の機能構成について説明する。図6は、本実施形態に係る表示装置200の機能構成を示す説明図である。但し、上記の第1実施形態に係る表示装置100と実質的に同一の構成要素については同一の符号を付することにより詳細な説明を省略する。
図6に示すように、表示装置200は、主に、映像処理ブロックB21と、演算処理ブロックB22と、表示パネル24とにより構成されている。この中で、映像処理ブロックB21、及び演算処理ブロックB22は、上記の映像信号処理部22に相当する。
説明の都合上、映像処理ブロックB21と演算処理ブロックB22とを区別しているが、実施の態様に応じて一つの処理手段により構成されていてもよい。また、各処理ブロックにおける処理は、ハードウェア処理であってもよいし、ソフトウェア処理であってもよい。もちろん、これらの組み合わせで実現されてもよい。
また、映像処理ブロックB21が有する機能は、後述するハードウェア構成のうち、例えば、データ信号処理部64、映像信号処理部66、OSD回路68、合成回路70、マイコン72等により実現される。また、演算処理ブロックB22の機能は、主に、マイコン72等により実現される。尚、これらの処理ブロックが有する機能の一部又は全部は、マイコン72を構成するROM724等に記録されたプログラムに基づいてCPU722により実現されてもよい。
(映像処理ブロックB21について)
映像処理ブロックB21は、主に、映像種別判別部102と、デインターレース/プルダウン解除部112と、速度検出部214と、補間処理部116とにより構成される。但し、上記の第1実施形態に係る表示装置100との主な相違点は、速度検出部214の機能にある。そこで、速度検出部214の機能構成についてのみ詳細に説明する。速度検出部214は、特徴変化検出部の一例である。
(速度検出部214)
速度検出部214は、デインターレース/プルダウン解除部112によりノンインターレース映像信号に変換された時系列画像信号に基づき、当該時系列画像信号の間の動きベクトルを検出する。速度検出部214は、動きベクトルの検出に際し、例えば、ブロックマッチング法、位相相関法、又はオプティカルフロー法等の種々の動き検出方法を利用することができる。この動きベクトルは動き情報の一例である。
また、速度検出部214は、時系列画像信号の各画素又は所定のブロック毎に算出された動きベクトルの長さの平均値又は中央値等の統計量を算出するように構成されていてもよい。この統計量は、2つの時系列画像信号間の動き量を表すものである。
また、速度検出部214は、時系列画像信号の各画素又は所定のブロック毎に算出された動きベクトルを合成して合成ベクトルを生成し、その合成ベクトルの長さ及び方向を算出するように構成されていてもよい。このとき、速度検出部214は、各動きベクトルに所定の重み付けをして合成ベクトルを生成し、その合成ベクトルの長さを算出するように構成されていてもよい。この合成ベクトルの長さも2つの時系列画像信号間の動き量を表すものである。
上記の方法により動き量が算出されると、速度検出部214は、その動き量が所定の閾値を超えるか否かを判定する。尚、この閾値は、動き検出の精度設定(ブロックの大きさ、サーチエリアの大きさ等)に依存する。この判定処理について、図7を参照しながら具体的に説明する。図7は、本実施形態に係る速度判定処理方法を示す説明図である。
図7には、速度検出部214により検出された動き量のグラフ、及び速度検出部214により算出された速度超過結果が併せて例示されている。
まず、動き量のグラフを参照する。図7の例において、動き量は、絶対時間の経過に伴って増加し、ある時点で所定の閾値を超過する。さらに時間が経過すると、動き量は、ある時点で動き量が減少し、閾値を下回る。このような場合、速度検出部214は、動き量が閾値を超過した時点から閾値を下回る時点までの期間、速度超過であると判定する。
この判定結果を示したのが下段に示した速度超過結果の図である。この図では、動き量が閾値を超過した時点で速度超過結果がH(超過)になっており、動き量が閾値を下回った時点で速度超過結果がL(非超過)になっている。
速度検出部214は、速度超過結果がHになった時点を基準にして経過時間(経過時間1)を測定する。この経過時間1は、速度超過結果がLになった時点で終了する。また、速度検出部214は、速度超過結果がLになった時点を基準にして経過時間(経過時間2)を測定する。そして、速度検出部214により、上記の速度判定結果、及びこれらの経過時間が動き量と共に演算処理ブロックB22の相対時刻設定部210に入力される。
再び図6を参照する。上記の通り、速度検出部214により算出された動き量、及び速度判定結果は、演算処理ブロックB22の相対時刻設定部210に入力される。また、速度検出部214により検出された動き情報は、補間処理部116に入力される。動き量、及び速度判定結果は、速度検出部214により、映像種別の切り替わりが無い場合にも相対時刻設定部210に入力される。
次に、演算処理ブロックB22の機能構成について説明する。
(演算処理ブロックB22について)
演算処理ブロックB22は、信頼性判断部104と、判別結果記憶部106と、補間方法選択部108と、相対時刻設定部210とにより構成される。但し、上記の第1実施形態に係る表示装置100との主な相違点は、相対時刻設定部210の機能にある。そこで、相対時刻設定部210の機能構成についてのみ詳細に説明する。相対時刻設定部210は、生成時刻設定部の一例である。
(相対時刻設定部210)
相対時刻設定部210は、信頼性判断部104から入力された判別結果、補間方法選択部108から入力された補間方法の情報、速度検出部214により算出された動き量及び速度判定結果に基づき、補間画像信号を生成するための相対時刻を設定する。そして、相対時刻設定部210は、設定した相対時刻を映像処理ブロックB21の補間処理部116に入力する。
尚、相対時刻設定部210は、補間処理部116による設定要求に応じて、指定された信号時刻に対応する相対時刻を補間処理部116に入力してもよいし、補間処理部116による設定要求とは関係無く、各時系列画像信号の時刻に対応付けて該当する相対時刻を補間処理部116に入力してもよい。いずれの方法を採用するにせよ、補間処理部116に対して時系列画像信号毎の相対時刻が正しく通知される。
本実施形態において重要なのは、相対時刻設定部210により設定される相対時刻の設定方法である。そこで、当該設定方法について、以下でより詳細に説明する。
まず、相対時刻設定部210は、速度検出部214から入力された速度判定結果、及び動き量に基づいて速度超過した時刻を認識することができる。そこで、相対時刻設定部210は、速度超過した時刻からの経過時間に基づいて相対時刻を設定する。このとき、相対時刻設定部210は、補間方法選択部108により選択された補間方法に基づき、「最終的に」補間画像信号の等間隔な生成時刻(以下、目標時刻)になるように相対時刻を設定する。
以下で具体的に例示するように、相対時刻設定部210は、映像種別が変化以降に設定される相対時刻を直ちに目標時刻に設定せず、時系列画像信号の垂直同期の周期等の単位として経過時間に応じて徐々に目標時刻に近づくように相対時刻を設定する。この設定方法について、以下に具体例を示す。
(具体例1:速度非超過→速度超過)
一例として、相対時刻が速度超過後の経過時間1に対する一次関数で表現される場合について考える。図4に相当する具体的な例として、2枚の原画像OP1、OP2の間に4枚の補間画像CFF1、CFF2、CFF3、CFF4が生成されており、各補間画像が原画像OP1又は原画像OP2に一致して補間処理が停止するまでの処理を想定する。また、動き量の変化として、図7の例を想定する。但し、補間画像CFFk(k=1〜4)の目標時刻は、(Tf1+ΔTf1)=(Tf2+ΔTf2)=0[秒]、相対時刻(Tf3+ΔTf3)=(Tf4+ΔTf4)=1/24[秒]である。
尚、原画像OP1は、速度超過が発生した直後(経過時間1=0)の時系列画像信号から、所定時間t(フレーム単位)だけ経過した時刻の時系列画像信号であるとし、相対時刻の基準(0秒)であるとする。このような場合、原画像OP1からの経過時間t(フレーム単位)に対し、例えば、補間画像CFFk(k=1〜4)の相対時刻(Tfk+ΔTfk)は下記の式(5)〜(8)のように設定される。
尚、下記の式(5)〜(8)において、Bk(k=1〜4)が(経過時間1=0における相対時刻(Tfk+ΔTfk)の値)と定義されているのは、例えば、映像種別の切り替えに伴う相対時刻設定の途中である場合も想定しているためである。この場合には、等間隔で配置された補間画像CFFk(k=1〜4)の時刻Tfkではなく、経過時間1=0における各補間画像の相対時刻(Tfk+ΔTfk)が設定の基準となる。この設定により、他の相対時刻設定処理の途中であっても、相対時刻情報の連続性が維持される。
下記の式(5)及び式(6)を比較参照すると、補間画像CFF2よりも原画像OP1に近い補間画像CFF1の相対時刻は、経過時間tに対する傾き(A1)が小さく設定されている。この傾き(A1、A2)は、経過時間tの進行に応じて補間画像CFF1、CFF2が原画像OP1に近づいていく距離の変化量を表している。つまり、下記の式(5)及び式(6)は、時間の経過に伴って補間画像CFF2の方が原画像OP1により大きく近づくように相対時刻を設定する設定方法を示すものである。
同様に、下記の式(7)及び式(8)を比較すると、補間画像CFF3よりも原画像OP2に近い補間画像CFF4の相対時刻は、経過時間tに対する傾き(A4)が小さく設定されている。この傾き(A3、A4)は、経過時間tの進行に応じて補間画像CFF3、CFF4が原画像OP2に近づく距離の変化量を表している。つまり、下記の式(7)及び式(8)は、時間の経過に伴って補間画像CFF3の方が原画像OP2により大きく近づくように相対時刻を設定する設定方法を示すものである。
上記のように、相対時刻設定部210は、経過時間1の一次関数により相対時刻を設定することができる。もちろん、本実施形態は、これに限定されず、例えば、二次以上の高次関数や指数関数等であってもよいし、或いは、任意に設定された関数であってもよい。尚、上記の式(1)〜(4)の場合と同様に、上記のAk*t(k=1〜4)を任意の関数f’k(t)に一般化する方法も考えられる。
(具体例2:速度超過→速度非超過)
次に、速度超過状態から速度非超過状態に遷移した後の経過時間2に関して相対時刻が一次関数で表現される場合について考える。図4に相当する具体的な例として、2枚の原画像OP1、OP2の間に4枚の補間画像CFF1、CFF2、CFF3、CFF4が生成されており、各補間画像が等間隔で配置されて滑らかな補間処理に移行するまでの処理を想定する。また、動き量の変化として、図7の例を想定する。但し、補間画像CFFk(k=1〜4)の目標時刻はTfk=k/120[秒]である。
尚、原画像OP1は、速度超過の状態から速度非超過の状態に移行した直後(経過時間2=0)の時系列画像信号から、所定時間t(フレーム単位)だけ経過した時刻の時系列画像信号であるとし、相対時刻の基準(0秒)であるとする。このような場合、原画像OP1からの経過時間t(フレーム単位)に対し、例えば、補間画像CFFk(k=1〜4)の相対時刻(Tfk+ΔTfk)は下記の式(9)〜(12)のように設定される。
尚、下記の式(9)〜(12)において、Bk(k=1〜4)が(経過時間2=0における相対時刻(Tfk+ΔTfk)の値)と定義されているのは、例えば、映像種別の切り替えに伴う相対時刻設定の途中である場合も想定しているためである。この場合には、等間隔で配置された場合の補間画像CFFk(k=1〜4)の時刻Tfkではなく、経過時間2=0における各補間画像の相対時刻(Tfk+ΔTfk)が設定の基準となる。この設定により、他の相対時刻設定処理の途中であっても、相対時刻情報の連続性が維持される。
下記の式(9)及び式(10)を比較参照すると、補間画像CFF2よりも原画像OP1に近い補間画像CFF1の相対時刻は、経過時間tに対する傾き(A1)が小さく設定されている。この傾き(A1、A2)は、経過時間tの進行に応じて補間画像CFF1、CFF2が原画像OP1から遠ざかっていく距離の変化量を表している。つまり、下記の式(9)及び式(10)は、時間の経過に伴って補間画像CFF2の方が原画像OP1からより大きく遠ざかるように相対時刻を設定する設定方法を示すものである。
同様に、下記の式(11)及び式(12)を比較すると、補間画像CFF3よりも原画像OP2に近い補間画像CFF4の相対時刻は、経過時間tに対する傾き(A4)が小さく設定されている。この傾き(A3、A4)は、経過時間tの進行に応じて補間画像CFF3、CFF4が原画像OP2から遠ざかっていく距離の変化量を表している。つまり、下記の式(11)及び式(12)は、時間の経過に伴って補間画像CFF3の方が原画像OP2からより大きく遠ざかるように相対時刻を設定する設定方法を示すものである。
上記のように、相対時刻設定部210は、経過時間2の一次関数により相対時刻を設定することができる。もちろん、本実施形態は、これに限定されず、例えば、二次以上の高次関数や指数関数等であってもよいし、或いは、任意に設定された関数であってもよい。尚、上記の式(1)〜(4)の場合と同様に、上記のAk*t(k=1〜4)を任意の関数f”k(t)に一般化する方法も考えられる。
以上、本実施形態に係る表示装置200の機能構成について説明した。上記の通り、本実施形態に係る表示装置200は、時系列画像信号の動き量が所定の閾値を超過した部分以降について、補間画像を生成する相対時刻を原画像に徐々に近づけて設定することができる。同様に、当該表示装置200は、時系列画像信号の動き量が所定の閾値を超過した状態から、非超過の状態に遷移する部分において、原画像から徐々に遠ざかるように相対時刻を設定することができる。
このとき、表示装置200は、速度超過/非超過の切り替わり時点を基準にした経過時間に応じて、徐々に相対時刻を目標時刻に近づけて設定することもできる。そのため、速度超過/非超過の切り替わり時点でジャダーのある映像と補間処理後の滑らかな映像との間の急激な変化が緩和され、補間処理の切り替わり部分を視聴者に知覚されにくくなる。その結果、映像の滑らかさを最大限に引き出す表示が実現される。
[映像処理方法について]
次に、図8を参照しながら、本実施形態に係る映像処理方法の流れについて説明する。図8は、本実施形態に係る映像処理方法の流れを示す説明図である。但し、表示装置200には、最初の段階でカメラ映像の時系列画像信号が入力されているものとする。
まず、表示装置200に時系列画像信号のストリームが入力されると、映像種別判別部102により、その映像種別が判別される。映像種別判別部102によりカメラ映像が検出された場合、カメラ映像を示す判別結果として、カメラ映像検出信号が演算処理ブロックB22に入力される(S202)。このとき、演算処理ブロックB22は、時系列画像信号の映像種別がカメラ映像のままで変化がないため、映像処理ブロックB21に対して補間方法に関する情報の入力を行わなくてもよい。このように、カメラ映像の時系列画像信号が継続的に入力されている期間(カメラ映像検出区間)は、映像処理ブロックB21による補間方法に変更がない状態にある。
ある時点で、映像種別判別部102によりフィルム映像が検出された場合(フィルム映像検出区間)、フィルム映像を示す判別結果として、フィルム映像検出信号が演算処理ブロックB22に入力される(S204)。フィルム映像検出信号が入力されると、演算処理ブロックB22により判別結果の信頼性が判別される。この信頼性判別処理の間(信頼性判別区間)、演算処理ブロックB22には、複数のフィルム映像検出信号が入力される(S206)。これらのフィルム映像検出信号は、時系列画像信号のフレーム期間単位(1/60[秒])で入力される。
これらのフィルム映像検出信号により、映像種別の判別結果の信頼性が確認されると、演算処理ブロックB22により相対時刻が設定され、その相対時刻情報(F1)が映像処理ブロックB21に送信される(S208)。
相対時刻情報(Fn(n=1〜N))は、映像種別判別部102から継続的にフィルム映像検出信号が入力される度に生成され、映像処理ブロックB21に送信される(S210、S214)。このとき、相対時刻情報(Fn(n=1〜N))が示す相対時刻は、上記の式(1)〜(4)に基づいて設定される。
しかし、ある時点で、動き量が所定の閾値を超過したことを示す動き量超過信号が速度検出部214により入力されると(S212)、演算処理ブロックB22は、上記の式(5)〜(8)に基づいて相対時刻を設定しつつ、その相対時刻情報(FA1)を映像処理ブロックB21に送信する(S216)。その後も、上記の式(5)〜(8)に基づいて継続的に相対時刻情報(FAn)(2≦n≦N)が送信され続ける(S218)。
そして、ある時点で、動き量が所定の閾値を下回ったことを示す動き量超過解除信号が速度検出部214から入力されると(S220)、演算処理ブロックB22は、上記の式(9)〜(12)に基づいて相対時刻を設定しつつ、その相対時刻情報(FB1)を映像処理ブロックB21に送信する(S222)。その後も、上記の式(9)〜(12)に基づいて継続的に相対時刻情報(FBn)(2≦n≦N)が送信され続ける(S224)。尚、これらの処理の間、動き量の超過/非超過に関わらず、映像種別判別部102からは、フィルム映像検出信号が入力される(S226)。
また、ある時点で、映像種別判別部102によりカメラ映像が再び検出された場合、カメラ映像を示す判別結果として、カメラ映像検出信号が演算処理ブロックB22に入力される(S228)。カメラ映像検出信号が入力されると、演算処理ブロックB22により判別結果の信頼性が判別される。
この信頼性判別処理の間(信頼性判別区間)、演算処理ブロックB22には、複数のカメラ映像検出信号が入力される(S230)。これらのカメラ映像検出信号により、映像種別の判別結果の信頼性が確認されると、演算処理ブロックB22により相対時刻が設定され、その相対時刻情報(C)が映像処理ブロックB21に送信される(S232)。
但し、フィルム映像からカメラ映像に変化した場合に送信される相対時刻情報(C)は、カメラ映像に適した目標時刻の情報である。目標時刻の情報を送信する理由は、上記の第1実施形態に係る映像処理方法と同様に、時系列画像信号のストリームがカメラ映像の状態で、フィルム映像に適した補間処理が継続されることにより画像間に不自然な動きが発生するのを避けるためである。
つまり、フィルム映像からカメラ映像に変化した後、すぐにカメラ映像に適した補間方法に切り替える方が良いのである。この点は、上記の第1実施形態に係る映像処理方法と同様である。カメラ映像の相対時刻情報(C)が送信されると、映像処理ブロックB21は、カメラ映像検出区間において、カメラ映像に適した補間方法で時系列画像信号のストリームに画像処理を施して出力する。
以上、本実施形態に係る映像処理方法の流れについて説明した。上記の通り、本実施形態に係る映像処理方法によれば、映像種別判別部102で検出された映像種別に応じて演算処理ブロックB22により相対時刻情報が生成されると共に、動き量が所定の閾値を超過した場合、又は閾値を下回った場合に、演算処理ブロックB22により相対時刻情報が設定される。そして、演算処理ブロックB22で設定された相対時刻に基づいて映像処理ブロックB21による補間処理が実行される。
その際、演算処理ブロックB22では、映像種別の切り替えに伴って発生するジャダーのある映像から滑らかな映像に徐々に変化するように相対時刻が設定される。また、動き量の変化に応じて、滑らかな映像からジャダーのある映像に徐々に変化するように相対時刻が設定される。その結果、補間処理の急激な変化に伴って知覚される違和感を緩和させることができる。
《第1変形例》
次に、上記の第2実施形態に係る第1変形例について説明する。本変形例は、入力されたカメラ映像に、激しい動きやシーンチェンジ等が検出された場合の補間処理方法に関する。上記の映像処理方法においては、フィルム映像の入力中に動き量の超過(又は超過解除)が発生した場合に相対時刻を好適に調整する方法であった。しかし、この方法は、カメラ映像に対しても適用可能である。
例えば、速度検出部214により所定の閾値以上の大きな動き量が検出された時点、又は、その速度超過が解除された時点からの経過時間t(フレーム単位)に応じて、下記の式(13)のように補間画像CFC1の相対時刻(Tc1)が設定される(図3を参照)。但し、相対時刻Tc1は、目標とする時間解像度(例えば、1/120[秒])に応じて、0≦Tc1≦1/120[秒]となるように制御される。
上記のように、相対時刻Tc1は、経過時間tの一次関数により設定され得る。もちろん、これに限定されず、例えば、二次以上の高次関数や指数関数等であってもよいし、或いは、任意に設定された関数であってもよい。以上、本実施形態の第1変形例について説明した。この第1変形例のように、カメラ映像に対しても、本実施形態に係る補間処理方法が適用可能である。
《第2変形例》
次に、図9を参照しながら、本実施形態に係る第2変形例について説明する。本変形例は、上記の表示装置200が備える速度検出部214、及び相対時刻設定部210の機能に関し、動き量が所定の閾値を超過した場合に、その超過量に応じて相対時刻の設定値を調整するものである。
これまで説明してきた表示装置200の構成は、速度超過が発生した場合に、補間処理を一時停止する処理を想定していた。しかし、本変形例は、速度超過が発生した場合にも補間処理を停止せず、相対時刻を調整することで映像の乱れを低減させる技術に関する。この技術は、補間画像が原画像に近い時刻に生成されることで、誤った動き情報による悪影響が低減され、結果として映像の乱れが抑制されるという効果を狙ったものである。
(速度検出部214の機能について)
まず、本変形例に係る速度検出部214の機能について説明する。上記の機能を実現するために、速度検出部214は、動き量が所定の閾値を超えた場合に、経過時間の1制御周期(例えば、1フレーム単位)における速度超過量Vの変化量を相対時刻設定部210に入力する。尚、速度検出部214は、速度判定結果等を併せて相対時刻設定部210に入力してもよいが、速度超過量Vのみを入力してもよい。
(相対時刻設定部210の機能について)
相対時刻設定部210は、速度検出部214から入力された速度超過量Vに応じて、補間画像を原画像に近づけるように相対時刻を設定する。例えば、相対時刻設定部210は、速度超過後の経過時刻tにおける速度超過量Vに応じて、下記の式(14)〜(17)に示すように相対時刻の変化量ΔTfk(k=1〜4)を設定する(図4の場合)。但し、V(t)は、経過時刻tにおける速度超過量を表す。
但し、速度超過量の差分(V(t)−V(t−1))が30を超える場合に、1制御周期にて補間画像が原画像と一致するように相対時刻が設定される。
上記のように、相対時刻の変化量ΔTfk(k=1〜4)は、経過時間tにおける動き量Vの変化量に関する一次関数を用いて設定され得る。もちろん、これに限定されず、例えば、二次以上の高次関数や指数関数等であってもよい。
尚、動き量Vが経過時間tの経過に対して一定となる場合、上記の式(5)〜(8)と実質的に同一の変化になる。一方、速度超過が解消され、速度検出部214から速度超過量が入力されなくなった場合、相対時刻設定部210は、速度超過が解消された時点を基準とする経過時刻tに応じて、上記の式(9)〜(12)に基づく相対時刻を設定する。
以上、本実施形態の第2変形例について説明した。この第2変形例に係る技術を適用すると、時系列画像信号間の動き量が所定の閾値を超過した場合であっても、動き検出の精度低下に伴う映像の乱れが低減される。こうした状況で、通常は、補間処理による余計な映像の乱れが発生することを恐れて補間処理を停止する場合が多い。
しかし、本変形例では、映像の乱れが目立たないように調整しながら、補間処理を継続することができるため、激しい動きやシーンチェンジ等が発生しても、比較的滑らかな映像を実現することができる。また、補間処理の急激な変化が抑制され、視聴者に与える違和感をより効果的に低減させることが可能になる。
[映像処理方法について]
ここで、図10を参照しながら、本実施形態の第2変形例に係る映像処理方法の流れについて説明する。図10は、本変形例に係る映像処理方法の流れを示す説明図である。但し、表示装置200には、最初の段階でカメラ映像の時系列画像信号が入力されているものとする。また、この時点では動き量が閾値を超過していないものとする(S250)。
まず、表示装置200に時系列画像信号のストリームが入力されると、映像種別判別部102により、その映像種別が判別される。映像種別判別部102によりカメラ映像が検出された場合、カメラ映像を示す判別結果として、カメラ映像検出信号が演算処理ブロックB22に入力される(S252)。
このとき、演算処理ブロックB22は、時系列画像信号の映像種別がカメラ映像のままで変化がないため、映像処理ブロックB21に対して補間方法に関する情報の入力を行わなくてもよい。このように、カメラ映像の時系列画像信号が継続的に入力されている期間(カメラ映像検出区間)は、映像処理ブロックB21による補間方法に変更がない状態にある。
ある時点で、映像種別判別部102によりフィルム映像が検出された場合(フィルム映像検出区間)、フィルム映像を示す判別結果として、フィルム映像検出信号が演算処理ブロックB22に入力される(S254)。フィルム映像検出信号が入力されると、演算処理ブロックB22により判別結果の信頼性が判別される。この信頼性判別処理の間(信頼性判別区間)、演算処理ブロックB22には、複数のフィルム映像検出信号が入力される(S256)。
これらのフィルム映像検出信号により、映像種別の判別結果の信頼性が確認されると、演算処理ブロックB22により相対時刻が設定され、その相対時刻情報(F1)が映像処理ブロックB21に送信される(S258)。
相対時刻情報(Fn(n=1〜N))は、映像種別判別部102から継続的にフィルム映像検出信号が入力される度に生成され、映像処理ブロックB21に送信される(S260、S264)。このとき、相対時刻情報(Fn(n=1〜N))が示す相対時刻は、上記の式(1)〜(4)に基づいて設定される。
しかし、ある時点で、動き量の速度超過量(超過1)が速度検出部214により入力されると(S266)、演算処理ブロックB22は、上記の式(14)〜(17)に基づいて相対時刻を設定しつつ、その相対時刻情報(FC1)を映像処理ブロックB21に送信する(S268)。その後も、速度検出部214から逐次的に入力される速度超過量(超過2、…、超過n)に応じて(S270、S274)、継続的に相対時刻情報(FC2、…、FCn)が送信され続ける(S272、S276)。
さらに、ある時点で、動き量が超過してないことを示す情報が速度検出部214から入力されると(S278)、演算処理ブロックB22は、上記の式(9)〜(12)に基づいて相対時刻を設定しつつ、その相対時刻情報(FD1)を映像処理ブロックB21に送信する(S280)。
その後も、上記の式(9)〜(12)に基づいて継続的に相対時刻情報(FDn)(2≦n≦N)が送信され続ける(S282)。尚、これらの処理の間、動き量の超過/非超過に関わらず、映像種別判別部102からは、フィルム映像検出信号が入力される(S284)。
また、ある時点で、映像種別判別部102によりカメラ映像が再び検出された場合、カメラ映像を示す判別結果として、カメラ映像検出信号が演算処理ブロックB22に入力される(S286)。カメラ映像検出信号が入力されると、演算処理ブロックB22により判別結果の信頼性が判別される。
この信頼性判別処理の間(信頼性判別区間)、演算処理ブロックB22には、複数のカメラ映像検出信号が入力される(S288)。これらのカメラ映像検出信号により、映像種別の判別結果の信頼性が確認されると、演算処理ブロックB22により相対時刻が設定され、その相対時刻情報(C)が映像処理ブロックB21に送信される(S290)。
以上、本変形例に係る映像処理方法の流れについて説明した。本変形例に係る映像処理方法によれば、映像種別判別部102で検出された映像種別に応じて演算処理ブロックB22により相対時刻情報が生成されると共に、動き量が所定の閾値を超過した場合、又は閾値を下回った場合に、その速度超過量に基づいて相対時刻情報が設定される。
そして、演算処理ブロックB22で設定された相対時刻に基づいて映像処理ブロックB21による補間処理が実行される。その結果、激しい動きやシーンチェンジ等が発生しても、比較的滑らかな映像を実現することができる。また、補間処理の急激な変化が抑制され、視聴者に与える違和感をより効果的に低減させることが可能になる。
[詳細なハードウェア構成例]
上記装置が有する映像信号処理機能は、例えば、図11に示すハードウェア構成の一部又は全部を用いて実現することが可能である。図11は、上記装置の映像信号処理手段が有する機能を実現するためのハードウェア構成の一例を詳細に示す説明図である。
図11に示すように、表示装置100、200は、例えば、表示パネル24、及び本体スタンド50により構成される。表示パネル24としては、例えば、液晶表示パネルや有機ELパネル等が用いられる。有機ELパネルは、自発光型の発光素子(有機EL素子)により形成されており、バックライト等の装置が不要である。そのため、有機ELパネルを採用した表示装置は、バックライト等の装置が別途必要になる液晶表示パネルに比べて薄くて軽く形成される。実際、有機ELパネルの厚さは、約3mm以下にまで抑えることが可能であると言われている。こうした特性を踏まえ、設置の自由度等を高めるといった観点から、表示パネル24には、有機ELパネルも使用されていくものと思われる。
ところで、表示装置100、200の映像処理手段は、例えば、表示パネル24等が載置される本体スタンド50の内部、又は表示パネル24の裏側等に設けられる。本体スタンド50には、例えば、衛星放送(BS,CS)、地上デジタル放送のチューナ、LAN(Local Area Network)、HDMI(High−Definition Multimedia Interface)、USB(Universal Serial Bus)等の各種端子が組み込まれる。また、本体スタンド50には、地上デジタル放送を受信するためのロッドアンテナやパッチアンテナ等の受信用アンテナ(非図示)が設けられる。さらに、本体スタンド50には、音声出力用のスピーカボックスやユーザ操作用の操作ボタン等が組み込まれる。
ここで、本体スタンド50に設けられた映像処理手段の構成について説明する。図11に示すように、本体スタンド50には、例えば、受信回路52、56と、デマルチプレクサ54、60と、デスクランブル回路58と、音声信号処理部62と、データ信号処理部64と、映像信号処理部66と、OSD(On Screen Display)回路68と、合成回路70と、マイコン72とが含まれる。
この例において、本体スタンド50には、2系統の受信回路52、56、及び、それぞれに対応する2つのデマルチプレクサ54、60が設けられている。受信回路52は、例えば、あるチャンネルを通じて配信される付加情報信号の受信回路である。一方、受信回路56は、例えば、そのチャンネルを通じて配信される番組放送信号の受信回路である。この映像処理手段には、電源がオンの状態にある場合に、受信回路52を通じて付加情報信号が受信される。さらに、この映像処理手段には、受信回路56を通じて番組放送信号が受信される。
マイコン72は、本体スタンド50に内蔵された映像処理手段の各構成要素を制御する手段である。マイコン72は、例えば、CPU(Central Processing Unit)722と、ROM(Read Only Memory)724と、RAM(Random Access Memory)726と、EEPROM(Electrically Erasable Programmable ROM)728と、DRAM(Dynamic RAM)730と、バス732とにより構成される。CPU722、ROM724、RAM726、EEPROM728、及びDRAM730は、バス732を介して接続される。
ここで、マイコン72の機能を中心に、映像処理手段による一連の処理について簡単に説明する。マイコン72は、例えば、電源が遮断される直前に受信していた番組放送信号のチャンネル周波数やプログラムIDなどの放送情報をEEPROM728に保持する機能を有する。そして、マイコン72は、電源が再び投入された場合に、前回電源を遮断する直前に受信していた番組放送信号の放送情報をEEPROM728から読み出し、再び選局するための選局制御信号を出力することができる。
この選局制御信号は、バス732を介して接続された受信回路56に入力され、その受信回路56で処理された後、デスクランブル回路58による処理を経てデマルチプレクサ60に入力される。まず、この処理の流れについて説明する。受信回路56を構成するチューナ562は、マイコン72から入力された選局制御信号が示すチャンネル周波数の番組放送信号を受信する。そして、チューナ562により受信された番組放送信号は復調部564に入力される。復調部564は、所定の変調方式で変調されている当該番組放送信号を復調してストリーム信号を生成する。
そして、復調部564により生成されたストリーム信号は誤り訂正部566に入力される。誤り訂正部566は、入力されたストリーム信号に誤り訂正を施してデスクランブル回路58に入力する。このとき、誤り訂正部566は、例えば、リード・ソロモン符号等の符号化方式で符号化されたストリーム信号に対して誤り訂正を施す。デスクランブル回路58は、マイコン72から取得した情報に基づき、誤り訂正後のストリーム信号に施されたスクランブルを解除して番組放送信号を再生する。デスクランブル回路58によりスクランブル解除された番組放送信号はデマルチプレクサ60に入力される。
次に、デマルチプレクサ60に入力された番組放送信号から映像又は音声信号等が出力されるまでの流れについて説明する。デマルチプレクサ60は、バス732を介してマイコン72から入力された選択制御信号に基づいて番組放送信号から放送番組データを抽出する。そして、デマルチプレクサ60は、抽出された放送番組データの種類に応じて、その放送番組データを音声信号処理部62、データ信号処理部64、又は映像信号処理部66に入力する。音声信号処理部62では、入力された放送番組データから音声信号が生成される。データ信号処理部64では、入力された放送番組データから文字又は画像を表示するための映像信号が生成される。映像信号処理部66では、入力された放送番組データから映像又は画像を表示するための映像信号が生成される。
音声信号処理部62により生成された音声信号は音声出力端子(非図示)に出力される。データ信号処理部64により生成された映像信号は合成回路70に入力される。同様に、映像信号処理部66により生成された映像信号は合成回路70に入力される。さらに、合成回路70には、OSD回路68により生成された映像信号も入力される。OSD回路68は、例えば、電子番組案内表や各種のガイダンスメッセージ等を表示するための映像信号を生成する。これらの映像信号が入力されると、合成回路70は、データ信号処理部64、映像信号処理部66、及びOSD回路68から入力された映像信号を合成し、その合成された映像信号を映像出力端子(非図示)に出力する。
次に、付加情報信号が受信回路52により受信されてデマルチプレクサ54に入力されるまでの処理の流れについて簡単に説明する。マイコン72は、選局されたチャンネル信号に多重化された付加情報信号に基づき、そのチャンネル周波数を特定し、そのチャンネル周波数を示す選局制御信号を受信回路52に入力する。受信回路52を構成するチューナ522は、マイコン72から入力された選局制御信号に基づいて付加情報信号を受信する。チューナ522により受信された付加情報信号は復調部524に入力される。復調部524は、チューナ522から入力された付加情報信号を復調して誤り訂正部526に入力する。誤り訂正部526は、復調部524から入力された付加情報信号に誤り訂正を施す。そして、誤り訂正部526により誤り訂正された後の付加情報信号はデマルチプレクサ54に入力される。
デマルチプレクサ54は、マイコン72による制御に応じて、誤り訂正後の付加情報信号から電子番組案内等の付加情報を抽出する。この抽出された付加情報はマイコン72に入力される。マイコン72は、デマルチプレクサ54により抽出された付加情報をDRAM730に一時的に記憶しておき、この付加情報に基づいて電子番組案内等のOSD信号を出力するようにバス732を介してOSD回路68を制御する。
以上、映像処理手段の機能構成を実現するためのハードウェア構成について具体的な例を挙げて説明した。尚、上記構成は、具体的に、本実施形態に係る技術を適用可能な一例として示したものであり、本実施形態は、上記の例に限定されるものではない。
以上、添付図面を参照しながら本発明の好適な実施形態について説明したが、本発明は係る例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。
例えば、上記の実施形態に係る説明において、相対時刻の算出式として、カメラ映像/フィルム映像間の切り替わりや動き量が所定の閾値を超えた場合の例を挙げて説明したが、次の条件の違いに基づいて係数や数式自体を変更してもよい。例えば、画質モード(明るさ、コントラスト、シャープネス等)の切り替えや、フィルム方式(2−2フィルム/3−2フィルム)の違いが検出された場合に相対時刻の算出式をこれらの状況に合わせて変更してもよい。
また、動き量が閾値を超過して補間画像を原画像に近づける場合と、動き量が閾値を下回って補間画像を等間隔の配置にする場合とで異なる算出式を用いてもよい。さらに、カメラ映像の相対時刻に対する算出式と、フィルム映像の相対時刻に対する算出式とで異なる算出式を用いてもよい。そして、速度検出部214による速度超過検出の要因の違い(部分的な速度超過、シーンチェンジ、パン、ズームイン・アウト)に対して異なる算出式を用いてもよい。
上記の例に加え、2つの原画像OP1、OP2の間に生成される複数の補間画像CFFk(k=1〜4)のそれぞれで異なる計算式(関数形)を用いてもよい。もちろん、目標とする時間解像度に応じて生成される補間画像の枚数や目標時刻が異なることは言うまでもない。このように、種々の変形が可能である。