JP2010252117A - フレームレート変換装置、フレームレート変換方法、動画像表示装置、フレームレート変換プログラムおよび記録媒体 - Google Patents

フレームレート変換装置、フレームレート変換方法、動画像表示装置、フレームレート変換プログラムおよび記録媒体 Download PDF

Info

Publication number
JP2010252117A
JP2010252117A JP2009100269A JP2009100269A JP2010252117A JP 2010252117 A JP2010252117 A JP 2010252117A JP 2009100269 A JP2009100269 A JP 2009100269A JP 2009100269 A JP2009100269 A JP 2009100269A JP 2010252117 A JP2010252117 A JP 2010252117A
Authority
JP
Japan
Prior art keywords
frame
interpolation
rate conversion
frame rate
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009100269A
Other languages
English (en)
Inventor
Tomoaki Takeda
倫明 武田
Mitsuru Hashimoto
充 橋本
Naoharu Izumi
直治 和泉
Katsuaki Matsufuji
克明 松藤
Takaaki Noguchi
高明 野口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2009100269A priority Critical patent/JP2010252117A/ja
Publication of JP2010252117A publication Critical patent/JP2010252117A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • Television Systems (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Abstract

【課題】フレームレート変換時に動画像の画質に急激な変化が生じることを抑制するフレームレート変換装置を提供する。
【解決手段】本発明に係るフレームレート変換装置100は、所定の条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルに乗じる動き補償強度を、開始フレームを表示する時刻から内挿フレームを表示する時刻までの経過時間に応じて設定する動き補償強度設定部114を備えている。
【選択図】図1

Description

本発明は、テレビジョン受像機などの映像表示装置において映像信号を変換処理する処理装置に関するものであり、特には、動画像のフレームレートを変換処理するフレームレート変換装置に関する。
入力画像信号のフレーム間に画像を内挿することによりフレームレートを変換する技術は、一般的にFRC(Frame Rate Converter)と呼称されており、液晶表示装置などの動画像表示装置において実用化されている。より具体的には、FRCは、液晶パネルなどのホールド型表示に分類される表示デバイスにおいて生じるような動画ぼやけを改善したり、映画のフィルム映像などのようなフレーム周波数の低い映像における動画のがたつきを改善したりするために利用されている。
フレームレートを変換するための手法としては、単純に同じ画像を内挿画像としてフレーム間に挿入する手法、および、隣接フレーム間の線形補間によって内挿画像を生成して挿入する手法などの様々な手法が提案されている。これらの手法の1つに、動き補償型の内挿画像を生成してフレーム間に挿入する手法がある。この手法では、まず複数のフレームの画像から動きベクトルを求め、この動きベクトルを元に所望の内挿位置の画像を動き補償処理によって生成して挿入する。ここでの内挿位置とは、入力画像信号のフレーム間における時間的な位置を意味するものである。
動き補償処理によって生成される内挿画像は、フレーム間に1枚だけのこともあれば、複数枚であることもある。内挿画像の数は、入力画像信号のフレーム周波数と変換後のフレーム周波数に依存する。
例えば、図7に示すように、フレーム周波数が60Hzの画像信号を、フレーム周波数が120Hzの画像信号に変換する場合には、フレーム間に1枚の内挿画像を挿入することになる。また、図8に示すように、フレーム周波数が24Hzの画像信号を、フレーム周波数が120Hzの画像信号に変換する場合には、フレーム間に4枚の内挿画像を挿入することになる。このとき、図9に示すように、テレビ放送などの60Hzのインターレース信号のような、24Hzのフィルム映像を3−2プルダウン処理した事による重複画像が含まれる場合には、重複画像を取り除いた後に改めて4枚の内挿画像を生成して挿入することになる。図7〜図9は、従来のフレームレート変換手法を模式的に示す図である。
なお、図7〜図9では、入力画像を原画と表し、異なる画像の原画には異なる記号を付与して識別している。すなわち、重複画像の場合には同じ記号が付与されている。また、動き補償により生成される内挿画像を内挿画と表し、動き補償に用いられる原画と同じ記号を用いて示している。すなわち、原画Aと原画Bからの動き補償で生成されて内挿される内挿画は内挿画ABと表している。
しかし、このような動き補償型のフレームレート変換手法において内挿画の生成に用いられる動きベクトルは、常に正しく求められるとは限らない。正しく求められていない動きベクトルに基づいて内挿画を生成した場合には、映像が滑らかな動きとならず、動画像が崩れてしまうという問題がある。
このような問題を解決するための技術としては、例えば、特許文献1に開示されている技術を挙げることができる。特許文献1に記載されている技術では、動きが所定値より大きい場合、すなわち、動きベクトルが正しく求められない場合には、動き補償強度を小さくすることにより、動画像の崩れを抑制している。動き補償強度は、その値が大きいほど、内挿位置に相当する時間に表示されるべき画像に近い内挿画像が生成され、その値が小さいほど原画像に近い内挿画像が生成される。すなわち、動き補償強度が「0」である場合には、原画像と同一の内挿画像が生成されることになる。また、フレームレート変換が通常通り行われている場合、動き補償強度は「1」となる。
このように、特許文献1に記載されている技術では、動きベクトルが正しく求められないような場合には、原画像と同様か、あるいは原画像に近い画像を生成して内挿画像として挿入するため、動画像の崩れを目立たなくすることができる。
特開2008−167399号公報(平成20年7月17日公開)
しかし、特許文献1に記載の技術では、動画像の崩れを十分に抑制するためには、動き補償の強度を「0」あるいは「0」に近い値とする必要がある。したがって、通常通りフレームレート変換を行った範囲の動画像と、動き補償強度を小さくしてフレームレート変換を行った範囲の動画像との間には、映像の滑らかさに大きな違いが生じることになる。
すなわち、通常通りフレームレート変換を行った範囲の動画像の部分から、動き補償強度を小さくしてフレームレート変換を行った範囲の動画像の部分に切り替わるとき、あるいはその逆のときに、映像における動きの滑らかさが大きく変わることになる。そのため、動画像を視聴する視聴者が映像に違和感および不快感が生じやすいという問題を有している。
ここで、動き補償強度が変化することになる場合の例を挙げる。動き補償強度が変化することになるケースとしては、上述したように、フレーム間の動きベクトルを正しく求められないケースがある。動きベクトルが正しく求められない場合としては、フレーム間において物体が高速に移動する場合がある。また、動画像においてシーンが切り替わる直前、直後のフレームにおいても、シーン切替直前のフレームにおける所定のブロックに相当するブロックがシーン切替直後のフレームにおいて存在しないことが多いため、動きベクトルを正しく求めることができない。
動き補償の強度が変化することになる他のケースとしては、テレビ放送などの3−2プルダウン処理された入力画像信号をフレームレート変換するケースがある。3−2プルダウン処理された入力画像信号では、まず入力信号が3−2プルダウン処理されたものであることを検出したのち、図9に示すように、元の24Hz映像を取り出す。そして、取り出した24Hzの映像に所定枚の内挿画像を挿入することにより、所定のフレーム周波数の映像を生成する。しかし、入力画像信号が3−2プルダウン処理されたものであるか否かは、重複画像の出現パターンに基づいて判断する必要がある。そのため、入力画像信号が3−2プルダウン処理されているか否かの判定には一定の時間を要する。
当然のことながら、入力信号が3−2プルダウン処理されていることを検出するまでは、本来の24Hzの映像を取り出すことができないため、図10に示すように、本来の24Hzの映像には存在しない重複画像を原画像として内挿画像を生成して挿入することに
より、フレームレート変換を行わなければならない。図10は、入力画像信号が3−2プルダウン処理されていることを検出する前のフレームレート変換を模式的に示す図である。
図10に示す内挿画像AAは、同一の画像である原画像Aのみに基づいて生成される内挿画像であるため、実際には原画像Aと同一の画像である。したがって、重複画像が表示される時間は、フレームレート変換処理前とフレームレート変換処理後でほとんど変化しないため、フレームレート変換処理前とフレームレート変換処理後で映像の滑らかさにもほどんと変化はない。しかし、入力画像信号が3−2プルダウン処理されていることを検出した後は、図9に示すように本来の24Hzの映像の画像を原画像として内挿画像を生成して挿入するため、動きの滑らかな映像となる。
このように、3−2プルダウン処理された入力画像信号では、入力画像信号が3−2プルダウン処理されたものであるか否かの検出前と検出後で、映像における動きの滑らかさが大きく変化することになるため、映像を視聴する視聴者が映像に違和感および不快感が生じやすい。
本発明は、上記問題点に鑑みてなされたものであり、その主たる目的は、フレームレート変換時に動画像の画質に急激な変化が生じることを抑制するフレームレート変換装置を提供する。
本発明に係るフレームレート変換装置は、上記課題を解決するために、
第1のフレーム上の各ブロックを始点とし、第2のフレーム上のいずれかのブロックを終点とする動きベクトルを検出する動きベクトル検出手段と、
上記動きベクトル検出手段において検出した動きベクトルに第1の係数を乗じて仮内挿ベクトルを検出する仮内挿ベクトル検出手段と、
上記仮内挿ベクトル検出手段において検出した仮内挿ベクトルに第2の係数を乗じて本内挿ベクトルを検出する本内挿ベクトル検出手段と、
上記本内挿ベクトル検出手段において検出した本内挿ベクトルを用いて、ある時刻に表示する内挿フレームを生成する内挿フレーム生成手段と、を備え、
上記本内挿ベクトル検出手段は、予め定められた条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルに乗じる上記第2の係数を、当該開始フレームを表示する時刻から当該内挿フレームを表示する時刻までの経過時間に応じて設定することを特徴としている。
本発明に係るフレームレート変換装置は、予め定められた条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルに乗じる第2の係数を、開始フレームを表示する時刻から内挿フレームを表示するある時刻までの経過時間に応じて設定する。
これによって、本発明に係るフレームレート変換装置では、第2の係数を所定の値に変更する場合であっても、第2の係数を、当該第2の係数の変更を開始する開始フレームを表示する時刻から内挿フレームを表示する時刻までの経過時間に応じて設定することができるため、第2の係数の変更を開始する直前と開始した直後との間で第2の係数が大きく変化することを抑制することができる。すなわち、本発明に係るフレームレート変換装置では、フレームレート変換時において、第2の係数が変更されたときに動画像の画質が急激に変化することを抑制することができる効果を奏する。
そのため、本発明に係るフレームレート変換装置では、動きベクトルに乗じる比率の変
更を開始する直前と直後において、映像の動きの滑らかさが大きく変化することを抑制することができ、視聴者が感じる違和感および不快感を低減することができる。
本発明に係るフレームレート変換装置では、さらに、上記予め定められた条件とは、上記動きベクトル検出手段において検出した動きベクトルの大きさが所定の閾値よりも大きくなる場合であり、上記本内挿ベクトル検出手段は、当該予め定められた条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルに乗じる上記第2の係数を上記経過時間に応じて段階的に小さくすることが好ましい。
上記の構成によれば、動きベクトルの大きさが所定の閾値よりも大きくなることによる動画像の画質の劣化を防ぐために、第2の係数を小さくする場合であっても、第2の係数が急激に小さくなることを抑制することができる。これによって、動き量が大きい映像に切り替わる直後に、動画像の画質が急激に劣化することを抑制することができる効果を奏する。
そのため、本発明に係るフレームレート変換装置では、動き量の大きな映像の場合であっても、映像の動きの滑らかさが急激に悪くなることに起因した視聴者の違和感および不快感を低減することができる。
本発明に係るフレームレート変換装置では、さらに、上記予め定められた条件とは、上記本内挿ベクトル検出手段において上記第2の係数が段階的に小さくされた後に、上記動きベクトル検出手段において検出した動きベクトルの大きさが所定の閾値よりも小さくなる場合であり、上記本内挿ベクトル検出手段は、当該予め定められた条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルに乗じる上記第2の係数を上記経過時間に応じて段階的に大きくすることが好ましい。
上記の構成によれば、動きベクトルの大きさが上記所定の閾値よりも小さくなり、第2の係数の値を本来の値にまで戻す場合であっても、第2の係数が急激に大きくなることを抑制することができる。これによって、動き量が大きい映像から動き量が小さい映像に切り替わる直後に、動画像の画質が急激に良好となることを抑制することができる効果を奏する。
そのため、本発明に係るフレームレート変換装置では、動き量の大きな映像から動き量の小さな映像に戻る場合であっても、映像の動きの滑らかさが急激に良くなることに起因した視聴者が感じる違和感および不快感を低減することができる。
本発明に係るフレームレート変換装置では、さらに、動画像を構成するフレームの重複パターンを検出する検出手段をさらに備えており、上記予め定められた条件とは、上記検出手段において重複パターンを検出した場合であり、上記本内挿ベクトル検出手段は、当該予め定められた条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルに乗じる上記第2の係数を上記経過時間に応じて段階的に大きくすることが好ましい。
上記の構成によれば、本発明に係るフレームレート変換装置に入力されるフレームにおいて重複パターンが検出された直前直後において、第2の係数が急激に変化することを抑制することができる。これによって、動画像を構成するフレームにおける重複パターンが検出された直後に、動きの滑らかさが急激に良好になることを抑制することができる効果を奏する。
そのため、本発明に係るフレームレート変換装置では、映像の動きの滑らかさが急激に
良くなることに起因した視聴者が感じる違和感および不快感を低減することができる。
本発明に係るフレームレート変換装置では、さらに、上記予め定められた条件は、上記第1のフレームにおける各画素の画素値と、上記第2のフレームにおいて当該第1のフレームにおける各画素に対応する位置に配置されている各画素の画素値との差分値の合計値が所定の閾値よりも大きくなるか、または、当該差分値の平均値が所定の閾値よりも大きくなる場合であり、上記本内挿ベクトル検出手段は、当該予め定められた条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルに乗じる上記第2の係数を上記経過時間に応じて段階的に大きくすることが好ましい。
上記の構成によれば、第1のフレームにおける各画素の画素値と、第2のフレームにおいて第1のフレームにおける各画素に対応する位置に配置されている各画素の画素値との差分値の合計値が所定の閾値よりも大きくなるか、または、差分値の平均値が所定の閾値よりも大きくなる場合、すなわち動画像においてシーンチェンジが生じた場合であっても、第2の係数が急激に大きくなることを抑制することができる。これによって、シーンチェンジの直後に、動きの滑らかさが急激に悪化することを抑制することができる効果を奏する。
そのため、本発明に係るフレームレート変換装置では、シーンチェンジが生じる場合であっても、映像の動きの滑らかさが急激に悪化することに起因した視聴者が感じる違和感および不快感を低減することができる。
本発明に係るフレームレート変換装置では、さらに、上記予め定められた条件とは、当該フレームレート変換装置に入力される動画像のフレーム周波数が変更される場合であることが好ましい。
上記の構成によれば、本発明に係るフレームレート変換装置に入力される動画像のフレーム周波数が変更された場合に、第2の係数を開始する開始フレームを表示する時刻から内挿フレームを表示する時刻までの経過時間に応じて設定する。これによって、本発明に係るフレームレート変換装置に入力される動画像のフレーム周波数が変更された直後に、動きの滑らかさが急激に変化することを抑制することができる効果を奏する。
そのため、本発明に係るフレームレート変換装置では、入力される動画像のフレーム周波数が変更された場合であっても、映像の動きの滑らかさが急激に変化することに起因した視聴者が感じる違和感および不快感を低減することができる。
本発明に係るフレームレート変換装置では、さらに、上記本内挿ベクトル検出手段は、基準フレーム周期を単位として表現した上記経過時間と上記第2の係数の値との間の予め定められた対応関係に基づいて上記第2の係数を設定するものであり、入力動画像のフレーム周期を単位として表現した経過時間を上記基準フレーム周期を単位として表現した経過時間に換算したうえで、上記第2の係数の値を、上記基準フレーム周期を単位として表現した経過時間に対応する値に設定することが好ましい。
上記の構成によれば、入力される動画像のフレーム周期を単位とした経過時間を基準フレーム周期を単位として表現した経過時間に換算することができる。
これによって、入力される動画像のフレーム周期が基準フレーム周期と異なる場合であっても、入力される動画像のフレーム周期における第2の係数の値を基準フレーム周期を単位とした予め定められた対応関係に基づいて設定することができる効果を奏する。
本発明に係るフレームレート変換方法では、上記課題を解決するために、
第1のフレーム上の各ブロックを始点とし、第2のフレーム上のいずれかのブロックを終点とする動きベクトルに基づいて生成した内挿フレームを上記第1のフレームと上記第2のフレームとの間に内挿することにより、動画像のフレームレートを変換するフレームレート変換装置におけるフレームレート変換方法であって、
上記動きベクトルに乗じる比率を所定値に変更する場合、上記比率の変更を開始する開始フレームから上記比率を当該所定値とする終了フレームまでの間において、上記比率を上記開始フレームからの経過時間に応じて設定する設定ステップと、
上記開始フレームから上記終了フレームまでの間に内挿される内挿フレームの原フレームとなる第1のフレーム上の各ブロックを始点とする動きベクトルに対して、当該内挿フレームの内挿される位置に対応する上記経過時間に応じて設定された比率を乗じることにより算出した内挿ベクトルに基づいて、内挿フレームを生成する生成ステップと、
を含むことを特徴としている。
上記の構成によれば、本発明に係るフレームレート変換装置と同様の作用効果を奏する。
また、本発明に係るフレームレート変換装置を備えた動画像表示装置も本発明の範疇に含まれる。
さらに、本発明に係るフレームレート変換装置を動作させるためのプログラムであって、コンピュータを上記の各手段として機能させることを特徴とするプログラムおよび該プログラムを記録したコンピュータ読み取り可能な記録媒体も本発明の範疇に含まれる。
以上説明したように、本発明に係るフレームレート変換装置では、予め定められた条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルに乗じる第2の係数を、開始フレームを表示する時刻から内挿フレームを表示するある時刻までの経過時間に応じて設定する。
これによって、本発明に係るフレームレート変換装置では、第2の係数を所定の値に変更する場合であっても、第2の係数を当該第2の係数の変更を開始する開始フレームを表示する時刻から内挿フレームを表示するある時刻までの経過時間に応じて設定することができるため、第2の係数の変更を開始する直前と開始した直後との間で第2の係数が大きく変化することを抑制することができる。すなわち、本発明に係るフレームレート変換装置では、フレームレート変換時において、第2の係数が変更されたときに動画像の画質が急激に変化することを抑制することができる効果を奏する。
本発明に係るフレームレート変換装置の要部構成を示すブロック図である。 内挿画像の生成に用いられる内挿ベクトルを模式的に示した図である。 開始フレームからの経過フレーム数に応じて設定される動き補償強度の設定の一例を示す図である。 動き補償強度設定部が動き補償強度の設定の際に参照するグラフの一例を示す図であり、(a)は比例式を示し、(b)はルックアップテーブルを示す。 動きベクトルの大きさにより動き補償強度を変化させる場合の一例を示す図である。 入力画像における重複画像の出現パターンの検出により動き補償強度を変化させる場合の一例を示す図である。 60Hzの映像を120Hzの映像にフレームレート変換する場合の処理を模式的に示す図である。 24Hzの映像を120Hzの映像にフレームレート変換する場合の処理を模式的に示す図である。 60Hzの3−2プルダウン処理された映像を120Hzの映像にフレームレート変換する場合の処理を模式的に示す図である。 60Hzの3−2プルダウン処理された映像を120Hzの映像にフレームレート変換する場合の処理であって、3−2プルダウンされた映像であることを検出する前の処理を模式的に示す図である。
本発明に係るフレームレート変換装置の一実施形態について、図1〜図6を参照しつつ以下に説明する。なお、本発明は、フィールド信号および内挿フィールド信号ならびにフレーム信号および内挿フレームのいずれに対しても適用することができる。本実施形態では、フレーム信号および内挿フレームを例に挙げて説明するが、本明細書等における「フレーム」については、「フィールド」と読み換えるようにしてもよい。
(フレームレート変換装置100の構成)
まず、本発明に係るフレームレート変換装置の構成について、図1を参照しつつ以下に説明する。図1は、フレームレート変換装置100の要部構成を示すブロック図である。
図1に示すように、フレームレート変換装置100は、前処理部110、動きベクトル検出部111、内挿ベクトル算出部112、画像特徴検出部113、動き補償強度設定部114、内挿画像生成部115、フレームメモリ116、フレームメモリ117および内挿ベクトルメモリ118を備えている。これら各部材の詳細について、以下に説明する。
(前処理部110)
前処理部110は、フレームレート変換装置100に入力される入力画像信号を、後段の処理において処理しやすい形式に変換する。
より具体的には、前処理部110では、入力されたRGB画像を輝度画像にする処理、入力された画像のサイズを縮小する処理、入力された画像に低域通過フィルタを施す処理などを実行する。これらの処理は、後段の処理における負荷低減および各種検出処理における精度向上に寄与する処理である。
(動きベクトル検出部111)
動きベクトル検出部111は、参照フレームnを分割した動きベクトル探索ブロックのうちの任意の動きベクトル探索ブロックを構成する画素集合を、その動きベクトル探索ブロックに対応する参照フレームn+1の探索範囲内において検出し、対応付けを行う。すなわち、参照フレームnにおける動きベクトル探索ブロックのブロック(画素集合)が参照フレームn+1においてどれだけ移動しているかを示す値を検出する。すなわち、動きベクトル検出部111は、参照フレームnと参照フレームn+1との間における動きベク
トルを検出するものであると換言することができる。
なお、動きベクトル検出部111は、対象とする動きベクトルの探索ブロックを左から右へ連続的にずらすと共に、上から下へ連続的にずらすことにより、すなわち、参照フレームnにおける全ての動きベクトル探索ブロックにおいて同様に動きベクトルを検出することにより、参照フレームnと参照フレームn+1との間における1フレーム分の動きベクトルを検出する。
本実施形態では、計算量の軽減のために、ブロック単位で動きベクトルを検出する場合を例に挙げて説明しているが、画素単位で動きベクトルを検出するようにしてもよい。
(内挿ベクトル算出部112)
内挿ベクトル算出部112は、動きベクトル検出部111において検出した動きベクトルから、仮内挿ベクトルを算出する。仮内挿ベクトルは、実際に内挿画像を生成する際に用いる内挿ベクトルの算出に先立って算出されるベクトルである。仮内挿ベクトルは、内挿フレームの時間的位置に応じて算出される。例えば、参照フレームnと参照フレームn+1との間に1枚の内挿フレームを内挿する場合、内挿する内挿フレームの仮内挿ベクトルの大きさは、検出した動きベクトルの半分の大きさとなる。
(画像特徴検出部113)
画像特徴検出部113は、フレームメモリ116に記録されている入力画像とフレームレート変換装置100に入力された入力画像とを比較することにより、シーンチェンジおよび重複画像の特定の出現パターンを検出する。シーンチェンジおよび重複画像の検出のより具体的な方法について、シーンチェンジ、重複画像の出現パターンの検出の順に以下に説明する。
画像特徴検出部113は、参照フレームnと参照フレームn+1とを比べることにより、映像シーンの切り替え(シーンチェンジ)を検出する。シーンチェンジの具体的な検出方法については、特に限定されるものではない。例えば、参照フレームnの各画素の輝度値と参照フレームn+1の各画素の輝度値との差分絶対値を算出し、算出した差分絶対値の合計値が所定の閾値以上である場合にはシーンチェンジがあったと判定するようにすればよい。また、他の方法としては、参照フレームnにおける各画素の輝度値のヒストグラムと参照フレームn+1における各画素の輝度値のヒストグラムを求めるようにしてもよい。この場合には、求めたヒストグラムの階級ごとに輝度値の差分絶対値を算出し、算出した差分絶対値が所定の閾値以上の場合にシーンチェンジがあったと判定するようにすればよい。
画像特徴検出部113は、重複画像の有無の履歴に基づいて、重複画像の出現パターンを検出する。例えば、3−2プルダウン映像の場合、重複画像である場合を「有」、重複画像でない場合を「無」で表現すると、重複画像の出現パターンは「有−有−無−有−無」となる。したがって、画像特徴検出部113は、5枚の参照フレームにおいて「有−有−無−有−無」のパターンで重複画像が出現する場合には、入力画像信号が3−2プルダウン映像であると判定する。また、画像特徴検出部113は、3−2プルダウン映像以外の重複画像を有する映像を判定することもできる。例えば、「有−無−有−無」のパターンで重複画像が出現する場合には、入力画像信号が2−2プルダウン映像であると判定するようにすることもできる。
なお、重複画像であるか否かは、シーンチェンジの場合と同様に、参照フレームnの輝度値と参照フレームn+1の輝度値との差分を算出することにより判定するようにすればよい。もちろん、重複画像であるか否かの判定については、これに限定されるものではな
く、他の手法を用いてもよい。
画像特徴検出部113において検出された検出結果は、動きベクトル検出部111および動き補償設定部114に対して通知される。画像特徴検出部113から重複画像の出現パターンに関する通知を受けた動きベクトル検出部111では、重複画像ではない画像間において動きベクトルの検出を行う。
(動き補償強度設定部114)
動き補償強度設定部114は、内挿ベクトル算出部112において算出した仮内挿ベクトルから、内挿画像の生成に用いる実際の内挿ベクトルを算出するための動き補償強度を設定する。このとき、動き補償強度設定部114は、画像特徴検出部113からの通知を受けて動き補償強度を変化させるか否かを決定する。
動き補償強度設定部114における動き補償強度の設定の詳細については、下記に詳述するため、ここではその説明を省略する。
(内挿画像生成部115)
内挿画像生成部115は、フレームレート変換のために内挿される内挿画像を生成する。そして、画像の出力タイミングに合わせて生成した内挿画像を出力する。また、内挿画像生成部115は、原画像を出力する際には、内挿画像の代わりに、フレームメモリ117から読み出した原画像を出力する。
内挿画像生成部115では、動き補償強度設定部114において設定した動き補償強度を仮内挿ベクトルに乗じることにより算出した内挿ベクトルに基づいて、内挿画像を生成する。例えば、動き補償強度設定部114において設定された動き補償強度が「1.0」である場合、内挿ベクトル算出部112において算出した仮内挿ベクトルに対して「1.0」を乗じたベクトルを内挿ベクトルとするため、ベクトルの大きさは変化しない。
一方、動き補償強度設定部114において設定された動き補償強度が「0.0」である場合、内挿ベクトル算出部112において算出した仮内挿ベクトルに対して「0.0」を乗じるため、内挿ベクトルは、(0,0)となる。すなわち、内挿画像を生成する参照フレーム(原画像)と同一の画像が内挿画像として出力されることになる。
また、動き補償強度設定部114において設定された動き補償強度が「0.5」である場合、内挿ベクトル算出部112において算出された仮内挿ベクトルが(2,−4)であったとすると、内挿ベクトルは(2×0.5,−4×0.5)=(1,−2)となる。この場合、仮内挿ベクトルが(2,−4)であった内挿画像は、内挿ベクトルが(1,−2)である画像として生成される。
このように、本実施形態における「動き補償強度」とは、どの程度原画像に近い画像を生成するのかを示す値と換言することができる。すなわち、動き補償強度が「0.0」である場合には原画像との差異が0%であり、動き補償強度が「1.0」である場合には、本来内挿画像として生成されるべき画像が生成される。本実施形態では、内挿画像生成部115において生成する内挿画像を原画像に近づける場合には動き補償強度を小さくすると表現し、内挿画像生成部115において生成する内挿画像を本来の内挿画像に近づける場合には動き補償強度を大きくするとも表現する。
なお、本実施形態では、動き補償強度を「0.0」から「1.0」の範囲の数値で示すが、後に256で除算することを前提として0から256の整数で表現することもできる。
ここで、本明細書等における「内挿ベクトル」とは、内挿画像の画素を求めるために、原画像のどの領域(ブロック)を用いるかを示す情報を表すベクトルである。より具体的には、内挿ベクトルは、内挿画像中の処理対象の画素もしくは領域と原画像中の参照すべき画素もしくは領域との相対的な位置関係を2次元のベクトルで表した情報である。
内挿ベクトルは、動きベクトルから算出されるベクトルであるため、動きベクトルを検出したブロック毎に求められることになる。
図2には、画素ごとに内挿ベクトルを表現した例を示している。図2では、画素数が縦8画素、横8画素のフレームを例に挙げて示している。また、図2では、フレーム上の画素の位置を(0,0)から(7,7)として表現している。図2に示すように、内挿画像における(3,3)の位置の画素値を求める際に、原画像の(3,3)の位置の画素値を参照することを示す内挿ベクトルは(0,0)となる。また、内挿画像の(5,3)の位置の画素値を求める際に、原画像の(7,2)の位置の画素値を参照することを示す内挿ベクトルは(2,−1)となる。なお、図2では画素ごとに内挿ベクトルを表現する場合を示しているが、ブロック単位で表現する場合であっても同様である。
なお、本実施形態では、内挿画像生成部115における内挿画像の生成時に、実際の内挿画像の生成に用いる内挿ベクトルを算出する場合を例に挙げて説明しているが、もちろんこれに限定されるものではない。例えば、内挿ベクトル算出部112において、動き補償強度設定部114において設定した動き補償強度を仮内挿ベクトルに乗じることにより、内挿画像の生成に実際に用いる内挿ベクトルを算出し、内挿ベクトルメモリ118に記録おくようにしてもよい。
(フレームメモリ116、117)
フレームメモリ116および117は、入力画像信号から得られたフレーム画像を一時的に保持するメモリである。フレームメモリ116および117は、少なくとも1枚のフレーム画像を保持する。
フレームメモリ116に保持されるフレーム画像は、画像特徴検出部113におけるシーンチェンジおよび重複画像の特定の出現パターンを検出に用いられると共に、動きベクトル検出部112における動きベクトルの検出に用いられる。なお、3−2プルダウン映像の検出のためには、フレームメモリ116において5枚のフレーム画像を保持できることが好ましい。
フレームメモリ117に保持されるフレーム画像は、内挿画像生成部115における内挿画像の生成に用いられる。すなわち、内挿画像生成部115では、フレームメモリ117から読み出した原画像および動き補償強度から算出された内挿ベクトルに基づいて内挿画像を生成する。
(内挿ベクトルメモリ118)
内挿ベクトルメモリ118は、内挿ベクトル算出部112において算出した仮内挿ベクトルを保持するためのメモリである。内挿ベクトル算出部112において算出された仮内挿ベクトルは、内挿画像生成部115において内挿画像の生成が行われるタイミングまで、内挿ベクトルメモリ118に保持されることになる。
なお、図1では、フレームメモリ116、117および内挿ベクトルメモリ118をそれぞれ別のメモリとして図示しているが、もちろんこれに限定されるものではない。1つのメモリ上にフレームメモリ116、117および内挿ベクトルメモリ118の機能を有
する領域を確保できる場合には、1つのメモリにより実現するようにしてもよい。
(動き補償強度の設定)
次に、仮内挿ベクトルから内挿ベクトルを算出する際に用いられる動き補償強度の設定の詳細について以下に説明する。
動き補償強度設定部114は、動き補償強度の変更を開始する開始フレームからの経過時間に応じて、動き補償強度を設定する。動き補償強度設定部114における動き補償強度の設定例について図3を参照しつつ以下に説明する。図3は、動き補償強度設定部114における動き補償強度の設定例を示す図である。
図3では、動き補償強度の変更を開始する開始フレームを原画Aとし、9フレームをかけて動き補償強度を1.0から0.0に変更する場合の例を示している。図3に示すように、各内挿フレームを生成するための動き補償強度は、開始フレームである原画Aからの経過時間(すなわち、経過フレーム)に応じて設定される。言い換えれば、原画Aからの経過時間が長くなるほど(すなわち、原画Aからの経過フレーム数が多くなるほど)、動き補償強度が小さくなるように設定される。
図3における経過フレーム数が2である内挿画AB2には、本来であれば(動き補償強度が1.0であれば)、原画Aから0.2msec経過した時点の画像が内挿画像として内挿される。しかし、経過フレーム数が2である内挿画AB2における動き補償強度は「0.8」であるため、内挿画AB2を生成するための内挿ベクトルは、仮内挿ベクトルをさらに0.8倍した大きさになる。すなわち、内挿画AB2として内挿される内挿画像は、原画Aから0.16msec(0.2×0.8=0.16)経過した時点に相当する画像となる。
また、図3における経過フレーム数が4である内挿画AB4には、本来であれば(動き補償強度が1.0であれば)、原画Bの手前0.1msecの時点の画像が内挿画像として内挿される。しかし、経過フレーム数が4である内挿画AB4における動き補償強度は「0.6」であるため、内挿画AB4を生成するための内挿ベクトルは、仮内挿ベクトルをさらに0.6倍した大きさになる。すなわち、内挿画AB4として内挿される内挿画像は、原画Bの手前0.06msec(−0.1×0.6=−0.06)の時点に相当する画像となる。
なお、図3では、連続する2枚の原画像間を超える時間で動き補償強度を変化させる場合を例に挙げて説明しているが、連続する2枚の原画像間に収まる時間で動き補償強度を変化させるようにしても同様である。また、図3では説明上の計算を容易にするため、原画像のフレーム間隔を0.5msec、内挿画像の間隔を0.1msec(つまり原画像間に4枚の内挿画像生成)としているが、もちろんこれに限定されるものではない。すなわち、実際には、入力のフレーム周波数および原画像のフレーム間の内挿枚数によってこれらの時間間隔は異なる値となる。
続いて、動き補償強度として設定する数値の算出方法の詳細について、以下に説明する。動き補償強度として設定する数値は、例えば、図4(a)に示すような比例式に基づいて設定するようにしてもよいし、図4(b)に示すようなルックアップテーブルに基づいて設定するようにしてもよい。図4(a)および(b)は、動き補償強度の設定の際に参照するグラフの一例を示す図であり、(a)は比例式を示し、(b)はルックアップテーブルを示す。
図4(a)に示す比例式では、横軸に開始フレームからの経過時間、縦軸に動き補償強
度をとっている。図4(b)に示すルックアップテーブルでは、図4(a)に示す比例式とは異なり、横軸が開始フレームからの経過フレーム数となっているが、横軸の開始フレームからの経過時間は、開始フレームからの経過フレーム数と同義であるため、図4(b)における横軸は、開始フレームからの経過時間読み換えてもよい。
図4(a)に示すような比例式の場合、動き補償強度として設定される数値は、開始フレームからの経過時間毎に一定値が加算または減算されることになる。
図4(b)に示すようなルックアップテーブルは、開始フレームからの経過時間tにおける動き補償強度をpとした場合の、動き補償強度pを求める任意の関数p=f(t)を表すものである。ここで、上述したように、経過時間は経過フレーム数と読み換えることができるため、図4(b)に示すルックアップテーブルは、経過フレーム数nに対するテーブルを示していることになる。なお、経過フレーム数は、入力フレーム数であってもよいし、出力フレーム数のいずれであってもよい。
ここで、図4(b)に示すルックアップテーブルは、動き補償強度の変更を開始する開始フレーム(経過フレーム数0)からのフレーム数が増加するにつれて、段階的に動き補償強度が小さくなるテーブルである。逆のテーブル、すなわち動き補償強度の値の変更を開始する開始フレーム(経過フレーム数0)からのフレーム数が増加するにつれて、段階的に動き補償強度が大きくなるルックアップテーブルについては、別に用意するようにすればよい。また、図4(b)に示すルックアップテーブルにおける経過フレーム数を逆に読み換えることにより、動き補償強度が小さくなる場合のルックアップテーブルと、動き補償強度が大きくなる場合のルックアップテーブルとを共通化するようにしてもよい。
なお、図4(b)に示すルックアップテーブルは、不図示のメモリに記録しておくようにすればよい。また、フレームメモリ116、117および内挿ベクトルメモリ118を1つのメモリとする場合には、そのメモリに記録するようにしてもよい。
(動き補償強度設定部114における処理)
次に、動き補償強度設定部114における動き補償強度の設定について、図5を参照しつつ以下に説明する。図5は、動きベクトルの大きさにより動き補償強度を変化させる場合の一例を示す図である。なお、本項では、図4(b)に示すようなルックアップテーブルを参照して動き補償強度を設定する場合を例に挙げて説明する。図5では、開始フレームから9フレームをかけて動き補償強度を所定の値(0.0または1.0)とする場合を例に挙げて説明している。
図5における「イ」の時点より前のフレームは、動き補償強度が0.0であり、原画像と同一の画像が内挿画像として内挿されている状態となっているものとする。このとき、図5における「イ」の時点において、動きベクトル検出部111において検出される動きベクトルのベクトル長が所定の閾値よりも小さくなった場合、動き補償強度設定部114は、ルックアップテーブルを参照して、動き補償強度の変更を開始する。すなわち、動きベクトルの検出に用いた参照フレームnを開始フレームとし、参照フレームnから段階的に動き補償強度を大きくする。ここでは、図5に示すように、動き補償強度設定部114は、参照フレームnから数えて10フレーム目のフレーム(終了フレーム)における動き補償強度を1.0とする。
次に、図5における「ロ」の時点において、動きベクトル検出部111において検出される動きベクトルのベクトル長が所定の閾値よりも大きくなった場合、動き補償強度設定部114は、ルックアップテーブルを参照して、動き補償強度の変更を開始する。すなわち、動きベクトルの検出に用いた参照フレームnを開始フレームとし、参照フレームnか
ら段階的に動き補償強度を小さくする。ここでは、図5に示すように、動き補償強度設定部114は、参照フレームnから数えて10フレーム目のフレーム(終了フレーム)における動き補償強度を0.0とする。
この後も、動き補償強度設定部114は、動きベクトル検出部111において検出した動きベクトルの大きさに基づいて、各内挿フレームにおける動き補償強度を変更するようにすればよい。
なお、本明細書等において、動きベクトルのベクトル長が所定の閾値よりも大きい場合には、参照フレームnにおける動きベクトル探索ブロックを構成する画素集合が、その動きベクトル探索ブロックに対応する参照フレームn+1の探索範囲内において検出できない場合も含まれる。
また、図5では、動き補償強度を変更した後、次に動き補償強度を変更するまで、変更した動き補償強度を用いているが、もちろんこれに限定されるものではない。例えば、動き補償強度の変更後には、予め定められた所定の値の動き補償強度を用いるようにしてもよい。
(動き補償強度の変更開始のタイミング)
図5を用いた説明では、動きベクトル検出部111において検出した動きベクトルのベクトル長が所定の閾値よりも大きいか、または小さい場合に、動き補償強度の変更を開始する場合を例に挙げて説明しているが、動き補償強度の変更開始のタイミングはこれに限定されるものではない。動き補償強度の変更開始のタイミングの他の例について以下に説明する。
動き補償強度の変更開始のタイミングの他の例としては、重複画像の出現パターンの検出時を挙げることができる。すなわち、画像特徴検出部113が入力画像に特定の重複画像の出現パターンを検出した時点で、動き補償強度設定部114が動き補償強度の変更を開始するようにしてもよい。画像特徴検出部113が入力画像に特定の重複画像の出現パターンを検出した時点で動き補償強度の変更を開始する場合の例を図6を参照して説明する。
図6における「ハ」の時点において、フレームレート変換装置100に規則的な重複パターンを持つ入力画像信号が入力され始めたとする。上述したように、画像特徴検出部113における入力画像信号に規則的な重複パターンがあるか否かの検出にはタイムラグが生じるため、画像特徴検出部113が入力画像信号に規則的な重複パターンがあることを検出するのは、図6における「ニ」の時点となる。すなわち、図6における「ハ」の時点から「ニ」の時点までの動き補償強度は変更されない。
画像特徴検出部113において入力画像信号に規則的な重複パターンがあることが検出されると(図6における「ニ」の時点)、動き補償強度設定部114は、ルックアップテーブルを参照して、動き補償強度の変更を開始する。すなわち、重複パターンの検出に用いたフレーム画像のうち、最も新しいフレーム画像を開始フレームとし、開始フレームから段階的に動き補償強度を大きくする。ここでは、図6に示すように、動き補償強度設定部114は、開始フレームから数えて10フレーム目のフレーム(終了フレーム)における動き補償強度を1.0とする。
この後も、動き補償強度設定部114は、画像特徴検出部113において入力画像の重複パターンが検出される度に、各内挿フレームにおける動き補償強度を変更するようにすればよい。
動き補償強度の変更開始のタイミングのさらに別の例としては、画像特徴検出部113においてシーンチェンジを検出したときを挙げることができる。
画像特徴検出部113におけるシーンチェンジの具体的な検出手法については、上述したため、ここではその説明を省略する。画像特徴検出部113におけるシーンチェンジの検出をトリガとして動き補償強度の変更を開始する場合、シーンチェンジの検出において用いた参照フレームn+1を開始フレームするようにすればよい。開始フレームからの経過フレーム数の増加に伴って動き補償強度の値を大きくするようにすればよい。
また、動き補償強度の変更開始のタイミングのさらに別の例としては、フレームレート変換装置100に入力されるフレーム周波数(またはフィールド周波数)が変化したことをトリガとして動き補償強度の変更を開始するようにしてもよい。この場合、フレーム周波数の変化は、画像特徴検出部113において検出するようにすればよい。
(ルックアップテーブルの共有化)
本実施形態では、動き補償強度の設定に用いるルックアップテーブルが1つである場合を例に挙げて説明している。しかし、例えば、3−2プルダウン処理された60Hzの映像を120Hzの映像にフレームレート変換する場合には、実際には24Hzの映像を120Hzの映像にフレームレート変換する場合と同等の時間で動き補償強度を変化させることになる。このような場合、60Hzのフレーム周波数のルックアップテーブルおよび24Hzのフレーム周波数のルックアップテーブルの2つのルックアップテーブルを用意する。
フレーム周波数分のルックアップテーブルを用意しない場合には、下記のようにすることにより、ルックアップテーブルの共有化を図ることができる。
例えば、f1Hzのフレーム周波数でのルックアップテーブルにおいて、動き補償強度を所定の値にまで変更させる経過フレーム数がnフレームであったとする。このとき、フレームレート変換装置100に入力されるフレーム周波数がf2Hzに変更された場合、動き補償強度を所定の値にまで変更させる経過フレーム数がmフレームとする必要がある。
このとき、動き補償強度を所定の値とするために要する時間は、フレーム周波数f1Hzの場合は、n/f1であり、フレーム周波数f2Hzの場合は、m/f2となる。すなわち、n/f1=m/f2であるため、m=f2/f1×nとなる。
言い換えれば、フレーム周波数がf2Hzに変更された場合、これまで用いた経過フレーム数としてnの値の代わりに、mの値にf1/f2を乗じた値を用いるにより、動き補償強度の値を設定することができる。これによって、フレームレート変換装置100において基準となるルックアップテーブルを1つ記録させておくことにより、フレーム周波数が変化した場合であっても、当該ルックアップテーブルの経過フレーム数を適宜変更して共有化することができる。
f2/f1は、小数点以下を切り捨て、切り上げあるいは四捨五入するなどして経過フレーム数が整数になるようにすればよい。
(フレームレート変換装置100の利点)
以上説明したように、フレームレート変換装置100では、動き補償強度を所定値に変更する場合、開始フレームから終了フレームまでの間において、開始フレームからの経過
時間に応じて動き補償強度を設定する。そして、開始フレームから終了フレームまでの間に内挿される内挿フレームを生成する際に用いる内挿ベクトルを動き補償強度を用いて算出する。
これによって、フレームレート変換装置100では、動き補償強度を所定値に変更する場合であっても、動き補償強度の変更を開始する開始フレームからの経過時間に応じて動き補償強度を設定することができるため、動き補償強度の変更を開始した直後に動き補償強度が大きく変化することを防止することができる。すなわち、フレームレート変換装置100では、フレームレート変換時において動き補償強度が変化することによる動画像の画質の急激な変化を抑制することができる。
また、フレームレート変換装置100では、動きベクトルの大きさが所定の閾値よりも大きくなることによる動画像の画質の劣化を防ぐために、動き補償強度を小さくする場合であっても、動き補償強度が急激に小さくなることを抑制することができる。これによって、動き量が大きい映像に切り替わった直後に動画像の画質が急激に劣化することを抑制することができる。
また、フレームレート変換装置100では、動きベクトルの大きさが所定の閾値よりも小さくなり、動き補償強度を本来の数値にまで戻す場合であっても、動き補償強度が急激に大きくなることを抑制することができる。これによって、動き量が大きい映像から動き量が小さい映像に切り替わった直後に動画像の画質が急激に良好となることを抑制することができる。
また、フレームレート変換装置100では、入力されるフレームにおいて重複パターンが検出された場合であっても、動き補償強度が急激に大きくなることを抑制することができる。これによって、動画像を構成するフレームにおける重複パターンが検出された直後に動画像の画質が急激に良好になることを抑制することができる。
また、フレームレート変換装置100では、シーンチェンジが生じた直前直後において、動き補償強度が急激に大きくなることを抑制することができる。これによって、シーンチェンジの直後に、動画像の画質が急激に悪化することを抑制することができる。
また、フレームレート変換装置100では、入力される動画像のフレーム周波数が変更された直後の映像における動きの滑らかさが急激に変化することを抑制することができる。
(プログラムおよび記録媒体)
最後に、フレームレート変換装置100に含まれている各ブロックは、ハードウェアロジックによって構成すればよい。または、次のように、CPU(Central Processing Unit)を用いてソフトウェアによって実現してもよい。
すなわち、フレームレート変換装置100は、各機能を実現するプログラムの命令を実行するCPU、このプログラムを格納したROM(Read Only Memory)、上記プログラムを実行可能な形式に展開するRAM(Random Access Memory)、および、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)を備えている。この構成により、本発明の目的は、所定の記録媒体によっても達成できる。
この記録媒体は、上述した機能を実現するソフトウェアであるフレームレート変換装置100のプログラムのプログラムコード(実行形式プログラム、中間コードプログラム、
ソースプログラム)をコンピュータで読み取り可能に記録していればよい。フレームレート変換装置100に、この記録媒体を供給する。これにより、コンピュータとしてのフレームレート変換装置100(またはCPUあるいはMPU)が、供給された記録媒体に記録されているプログラムコードを読み出し、実行すればよい。
プログラムコードをフレームレート変換装置100に供給する記録媒体は、特定の構造または種類のものに限定されない。すなわちこの記録媒体は、たとえば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などとすることができる。
また、フレームレート変換装置100を通信ネットワークと接続可能に構成しても、本発明の目的を達成できる。この場合、上記のプログラムコードを、通信ネットワークを介してフレームレート変換装置100に供給する。この通信ネットワークはフレームレート変換装置100にプログラムコードを供給できるものであればよく、特定の種類または形態に限定されない。たとえばインターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(Virtual Private
Network)、電話回線網、移動体通信網、衛星通信網等であればよい。
この通信ネットワークを構成する伝送媒体も、プログラムコードを伝送可能な任意の媒体であればよく、特定の構成または種類のものに限定されない。たとえばIEEE1394、USB(Universal Serial Bus)、電力線搬送、ケーブルTV回線、電話線、ADSL(Asymmetric Digital Subscriber Line)回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
(付記事項)
なお、本発明に係るフレームレート変換装置は、下記のように表現することもできる。
時刻t1に表示する第1のフレーム上の各ブロックを始点とし、時刻t2に表示する第2のフレーム上のいずれかのブロックを終点とする動きベクトルvを導出する動きベクトル導出手段と、
上記動きベクトル検出手段において検出した動きベクトルvに係数α=t/(t2−t1)を乗じて仮内挿ベクトルw(t)=αvを検出する仮内挿ベクトル検出手段と、
上記仮内挿ベクトル検出手段において検出した仮内挿ベクトルw(t)に係数βを乗じて本内挿ベクトルw’(t)=βw(t)を検出する本内挿ベクトル検出手段と、
上記本内挿ベクトル検出手段において検出した本内挿ベクトルw’(t)を用いて、時刻tに表示する内挿フレームを生成する内挿フレーム生成手段と、を備え、
上記本内挿ベクトル検出手段は、予め定められた条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルw(t)に乗じる係数βを、当該開始フレームを表示する時刻t0から当該内挿フレームを表示する時刻tまでの経過時間t−t0に応じて設定するフレームレート変換装置。
以上、本発明を実施形態に基づいて具体的に説明したが、本発明は、上述した実施形態に限定されるものではなく、請求項に示した範囲において種々の変更が可能であり、実施形態に開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技
術的範囲に含まれる。
本発明に係るフレームレート変換装置は、テレビジョン受像機などの映像表示装置において好適に利用することができる。
100 フレームレート変換装置
110 前処理部
111 動きベクトル検出部(動きベクトル検出手段)
112 内挿ベクトル算出部(仮内挿ベクトル検出手段)
113 画像特徴検出部
114 動き補償強度設定部(本内挿ベクトル検出手段)
115 内挿画像生成部(内挿フレーム生成手段)
116 フレームメモリ
117 フレームメモリ
118 内挿ベクトルメモリ

Claims (11)

  1. 第1のフレーム上の各ブロックを始点とし、第2のフレーム上のいずれかのブロックを終点とする動きベクトルを検出する動きベクトル検出手段と、
    上記動きベクトル検出手段において検出した動きベクトルに第1の係数を乗じて仮内挿ベクトルを検出する仮内挿ベクトル検出手段と、
    上記仮内挿ベクトル検出手段において検出した仮内挿ベクトルに第2の係数を乗じて本内挿ベクトルを検出する本内挿ベクトル検出手段と、
    上記本内挿ベクトル検出手段において検出した本内挿ベクトルを用いて、ある時刻に表示する内挿フレームを生成する内挿フレーム生成手段と、を備え、
    上記本内挿ベクトル検出手段は、予め定められた条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルに乗じる上記第2の係数を、当該開始フレームを表示する時刻から当該内挿フレームを表示する時刻までの経過時間に応じて設定することを特徴とするフレームレート変換装置。
  2. 上記予め定められた条件とは、上記動きベクトル検出手段において検出した動きベクトルの大きさが所定の閾値よりも大きくなる場合であり、
    上記本内挿ベクトル検出手段は、当該予め定められた条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルに乗じる上記第2の係数を上記経過時間に応じて段階的に小さくすることを特徴とする請求項1に記載のフレームレート変換装置。
  3. 上記予め定められた条件とは、上記本内挿ベクトル検出手段において上記第2の係数が段階的に小さくされた後に、上記動きベクトル検出手段において検出した動きベクトルの大きさが所定の閾値よりも小さくなる場合であり、
    上記本内挿ベクトル検出手段は、当該予め定められた条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルに乗じる上記第2の係数を上記経過時間に応じて段階的に大きくすることを特徴とする請求項2に記載のフレームレート変換装置。
  4. 動画像を構成するフレームの重複パターンを検出する検出手段をさらに備えており、
    上記予め定められた条件とは、上記検出手段において重複パターンを検出した場合であり、
    上記本内挿ベクトル検出手段は、当該予め定められた条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルに乗じる上記第2の係数を上記経過時間に応じて段階的に大きくすることを特徴とする請求項1に記載のフレームレート変換装置。
  5. 上記予め定められた条件は、上記第1のフレームにおける各画素の画素値と、上記第2のフレームにおいて当該第1のフレームにおける各画素に対応する位置に配置されている各画素の画素値との差分値の合計値が所定の閾値よりも大きくなるか、または、当該差分値の平均値が所定の閾値よりも大きくなる場合であり、
    上記本内挿ベクトル検出手段は、当該予め定められた条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルに乗じる上記第2の係数を上記経過時間に応じて段階的に大きくすることを特徴とする請求項1に記載のフレームレート変換装置。
  6. 上記予め定められた条件とは、当該フレームレート変換装置に入力される動画像のフレーム周波数が変更される場合であることを特徴とする請求項1に記載のフレームレート変換装置。
  7. 上記本内挿ベクトル検出手段は、基準フレーム周期を単位として表現した上記経過時間と上記第2の係数の値との間の予め定められた対応関係に基づいて上記第2の係数を設定するものであり、入力動画像のフレーム周期を単位として表現した経過時間を上記基準フレーム周期を単位として表現した経過時間に換算したうえで、上記第2の係数の値を、上記基準フレーム周期を単位として表現した経過時間に対応する値に設定することを特徴とする請求項1から6のいずれか1項に記載のフレームレート変換装置。
  8. 第1のフレーム上の各ブロックを始点とし、第2のフレーム上のいずれかのブロックを終点とする動きベクトルを検出する動きベクトル検出ステップと、
    上記動きベクトル検出ステップにおいて検出した動きベクトルに第1の係数を乗じて仮内挿ベクトルを検出する仮内挿ベクトル検出ステップと、
    上記仮内挿ベクトル検出ステップにおいて検出した仮内挿ベクトルに第2の係数を乗じて本内挿ベクトルを検出する本内挿ベクトル検出ステップと、
    上記本内挿ベクトル検出ステップにおいて検出した本内挿ベクトルを用いて、ある時刻に表示する内挿フレームを生成する内挿フレーム生成ステップと、を含み、
    上記本内挿ベクトル検出ステップは、予め定められた条件を満たす開始フレームより後に内挿する内挿フレームに対応する仮内挿ベクトルに乗じる上記第2の係数を、当該開始フレームを表示する時刻から当該内挿フレームを表示する時刻までの経過時間に応じて設定することを特徴とするフレームレート変換方法。
  9. 請求項1から7のいずれか1項に記載のフレームレート変換装置を備えた動画像表示装置。
  10. 請求項1から7のいずれか1項に記載のフレームレート変換装置を動作させるためのプログラムであって、コンピュータを上記の各手段として機能させることを特徴とするプログラム。
  11. 請求項10に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2009100269A 2009-04-16 2009-04-16 フレームレート変換装置、フレームレート変換方法、動画像表示装置、フレームレート変換プログラムおよび記録媒体 Pending JP2010252117A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009100269A JP2010252117A (ja) 2009-04-16 2009-04-16 フレームレート変換装置、フレームレート変換方法、動画像表示装置、フレームレート変換プログラムおよび記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009100269A JP2010252117A (ja) 2009-04-16 2009-04-16 フレームレート変換装置、フレームレート変換方法、動画像表示装置、フレームレート変換プログラムおよび記録媒体

Publications (1)

Publication Number Publication Date
JP2010252117A true JP2010252117A (ja) 2010-11-04

Family

ID=43313937

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009100269A Pending JP2010252117A (ja) 2009-04-16 2009-04-16 フレームレート変換装置、フレームレート変換方法、動画像表示装置、フレームレート変換プログラムおよび記録媒体

Country Status (1)

Country Link
JP (1) JP2010252117A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012137394A1 (ja) * 2011-04-05 2012-10-11 パナソニック株式会社 フレームレート変換方法及びそのフレームレート変換方法を用いた映像処理装置
JP2017194509A (ja) * 2016-04-18 2017-10-26 三菱電機株式会社 表示端末装置、データ処理方法及びデータ処理プログラム
CN112199140A (zh) * 2020-09-09 2021-01-08 Oppo广东移动通信有限公司 应用插帧方法及相关装置

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012137394A1 (ja) * 2011-04-05 2012-10-11 パナソニック株式会社 フレームレート変換方法及びそのフレームレート変換方法を用いた映像処理装置
JPWO2012137394A1 (ja) * 2011-04-05 2014-07-28 パナソニック株式会社 フレームレート変換方法及びそのフレームレート変換方法を用いた映像処理装置
JP2017194509A (ja) * 2016-04-18 2017-10-26 三菱電機株式会社 表示端末装置、データ処理方法及びデータ処理プログラム
CN112199140A (zh) * 2020-09-09 2021-01-08 Oppo广东移动通信有限公司 应用插帧方法及相关装置

Similar Documents

Publication Publication Date Title
JP4586052B2 (ja) 画像処理装置及びその制御方法
TWI354264B (en) Video display device and method for video display
US9204086B2 (en) Method and apparatus for transmitting and using picture descriptive information in a frame rate conversion processor
JP2004312680A (ja) スクロールされるテキストまたはグラフィックデータの検出が可能な動き推定装置および方法
JP2007274299A (ja) 画像処理装置、および画像処理方法、並びにコンピュータ・プログラム
JPWO2008102826A1 (ja) 画像表示装置、映像信号処理装置および映像信号処理方法
JP2008076644A (ja) 画像表示装置、画像表示方法および画像表示プログラム
WO2013175735A1 (ja) 表示制御装置及び表示制御方法
JP5051983B2 (ja) フレームレート制御によるlcdぼけ低減
JP2008517343A (ja) アニメーション・ジャダー補償
TWI455572B (zh) 用於立體顯示之圖框率轉換裝置及方法
US10230920B1 (en) Adjusting interpolation phase for MEMC using image analysis
JPWO2011155258A1 (ja) 画像処理装置および方法、画像表示装置および方法
JP2010028472A (ja) 映像信号処理装置及び映像信号処理方法
JP2010252117A (ja) フレームレート変換装置、フレームレート変換方法、動画像表示装置、フレームレート変換プログラムおよび記録媒体
EP3132608B1 (en) Fallback detection in motion estimation
JP2006310985A (ja) フレームレート変換装置及び表示装置
JP5015089B2 (ja) フレームレート変換装置、フレームレート変換方法、テレビジョン受像機、フレームレート変換プログラムおよび該プログラムを記録した記録媒体
JP2010045758A (ja) 表示装置の駆動方法、及びこれを利用した表示装置の駆動回路
JP2007180765A (ja) 映像処理装置、映像表示装置及び映像処理方法
JP2009135847A (ja) 映像処理装置及びフレームレート変換方法
JP2009239698A (ja) 映像変換装置及び映像変換方法
JP2008139828A (ja) 画像処理装置、画像処理方法、電気光学装置及び電子機器
US20120038646A1 (en) Image processing apparatus and image processing method
JP2010124257A (ja) 映像処理装置、映像表示装置、及びフレームレート変換方法