JPWO2004102963A1 - 動き補正装置及び方法 - Google Patents

動き補正装置及び方法 Download PDF

Info

Publication number
JPWO2004102963A1
JPWO2004102963A1 JP2005506221A JP2005506221A JPWO2004102963A1 JP WO2004102963 A1 JPWO2004102963 A1 JP WO2004102963A1 JP 2005506221 A JP2005506221 A JP 2005506221A JP 2005506221 A JP2005506221 A JP 2005506221A JP WO2004102963 A1 JPWO2004102963 A1 JP WO2004102963A1
Authority
JP
Japan
Prior art keywords
video signal
motion vector
screen
image
motion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005506221A
Other languages
English (en)
Other versions
JP4565339B2 (ja
Inventor
星野 隆也
隆也 星野
西堀 一彦
一彦 西堀
猿楽 寿雄
寿雄 猿楽
益義 黒川
益義 黒川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2004102963A1 publication Critical patent/JPWO2004102963A1/ja
Application granted granted Critical
Publication of JP4565339B2 publication Critical patent/JP4565339B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/253Picture signal generating by scanning motion picture films or slide opaques, e.g. for telecine
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0117Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving conversion of the spatial resolution of the incoming video signal
    • H04N7/012Conversion between an interlaced and a progressive signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
    • H04N7/0132Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter the field or frame frequency of the incoming video signal being multiplied by a positive integer, e.g. for flicker reduction

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Television Systems (AREA)

Abstract

倍速変換された映像信号の動きをより適切に補正し得る動き補正装置を実現する。倍速変換された映像信号における現フィールドの画像と、その1フレーム又は2フレーム後の参照フィールドの画像との間の動きベクトルを検出し、現フィールドの画素を動きベクトルに応じて移動させるとともに、参照フィールドの画素を動きベクトルに応じて逆方向に移動させる。そして、現フィールドの画素と参照フィールドの画素とを単純平均又は移動量に応じた重み付け平均して現フィールドを補正することにより、フィールド間の動きを従来に比して一層滑らかに補正することができる。

Description

本発明は動き補正装置及びその方法に関し、倍速変換された映像信号の動き補正を行う場合に適用して好適なものである。
テレビジョン受像機においては、例えば50フィールド/秒でなるPAL(Phase Alternate Line)信号のような比較的リフレッシュレートの低い画像を表示した場合、画面全体がちらついて見える面フリッカ妨害という現象が発生する。
このためテレビジョン受像機において、そのフィールド周波数を50フィールド/秒から100フィールド/秒へと2倍に変換する(以下、この変換処理をフィールド倍速方式と呼ぶ)ことにより、かかる面フリッカ妨害を抑制するようになされたものがあった。
図7は、上述したフィールド倍速方式を適用したテレビジョン受像機100を示し、例えばPAL信号等の50フィールド/秒でなる入力映像信号S1が、フィールド倍速回路101に入力される。
フィールド倍速回路101の倍速変換部102は、入力映像信号S1の走査方式をインターレース(飛び越し走査)からプログレッシブ(順次走査)に変換して50フレーム/秒でなる中間映像信号S2を生成し、これを画像メモリ103に書き込む。そして倍速変換部102は、画像メモリ103から中間映像信号S2を書き込み時の2倍の速度で読み出すことにより、当該中間映像信号S2のフィールド周波数を2倍の100フィールド/秒に変換し、さらに走査方式をプログレッシブからインターレースに変換し、これを倍速映像信号S3としてCRT(Cathode Ray Tube)104に入力する。
このときCRT104には、100フィールド/秒に対応した水平・垂直鋸状波S4が水平・垂直偏向回路105から供給されており、CRT104は当該水平・垂直鋸状波S4に基づいて倍速映像信号S3を100フィールド/秒で表示する。
図8は、上述したフィールド倍速変換の前後の映像信号における各フィールドと走査線の位置関係を示し、横軸は時間、縦軸は画面の垂直方向に対応しており、各白丸は、それぞれ走査線を表している。また、図8(A)に示す1a、1b、2a、2b、……の符号はそれぞれフィールドの番号を示し、1、2、……の数字はそれぞれフレーム番号を、aはodd field、bはeven fieldを表している。
フィールド倍速回路101の倍速変換部102(図7)は、まず最初に、図8(A)に示すインターレース画像でなる入力映像信号S1のフィールド1aの走査線数を2倍に変換(プログレッシブ変換)することにより、図8(B)に示すフレーム1aを生成する。以下同様に、倍速変換部102は順次入力映像信号S1のフィールド1b、2a、2b、……を順次プログレッシブ変換してフレーム1b、2a、2b、……を生成し、かくして50フレーム/秒でなるプログレッシブ画像の中間映像信号S2を生成する。
そして倍速変換部102は、図8(B)に示すフレーム1aを画像メモリ103に書き込み、これを1走査線おきに読み出す。このとき倍速変換部102は、まずフレーム1aの奇数番目の走査線を読み出して図8(C)に示すフィールド1aを生成し、その1/100秒後に、フレーム1aの偶数番目の走査線を読み出して図8(C)に示すフィールド1a’を生成することにより、倍速変換及びインターレース変換処理を行う。
以下同様に、倍速変換部102は順次中間映像信号S2のフレーム1b、2a、2b、……を順次倍速変換及びインターレース変換してフィールド1b、1b’、2a、2a’、2b、2b’、……を生成し、100フィールド/秒でなるインターレース画像の倍速映像信号S3を生成する。
このようにしてフィールド倍速回路101の倍速変換部102は、入力映像信号S1のフィールド周波数を50フィールド/秒から100フィールド/秒に倍速変換することにより、面フリッカ妨害を抑制するようになされている。
ここで、図8(C)に示す倍速映像信号S3のフィールド1a及び1a’は、共に図8(A)に示す入力映像信号S1のフィールド1aから生成されたフィールドであり、以下同様に倍速映像信号S3のフィールド1b及び1b’、フィールド2a及び2a’、フィールド2b及び2b’、……も、それぞれ入力映像信号S1の同一フィールドから生成されたフィールドである。
このような倍速変換処理された画像の動きを、図9を用いて説明する。図9において、縦軸は時間、横軸は画面の水平方向に対応しており、画像に写った物体110が、時間経過に応じて画面の左側から右側に移動している状態を表している。
図9(A)に示す入力映像信号S1においては、物体110はフィールド間で右方向に滑らかに移動している。これに対して、図9(B)に示す倍速映像信号S3においては、フィールド1aと1a’とは共に同一のフィールドから生成されているため、物体110は同一位置に表示される。そして、次のフィールド1bは異なるフィールドから生成されているため、フィールド1a’からフィールド1bに移る際に、物体110は大きく移動して表示される。
同様に、フィールド1bと1b’、フィールド2aと2a’、フィールド2bと2b’はそれぞれ同一のフィールドから生成されているため、フィールド1b’からフィールド2aに移る際、及びフィールド2a’からフィールド2bに移る際にも、物体110は大きく移動して表示される。
このように、倍速変換処理された倍速映像信号S3においては、動きのある画像を表示した場合、画像の動きが不連続に見えるという問題がある。
ところで、24コマ/秒の静止画で構成される映画フィルムを通常のテレビジョン受像機で表示する場合、いわゆるテレシネ変換と呼ばれる処理によって映画フィルムを映像信号に変換する。
この場合、図10(A)に示すように、映画フィルムをテレシネ変換して生成されたフィルム素材の入力映像信号S1において、フィールド1aと1b、フィールド2aと2b、……はそれぞれフィルムの同一のコマをテレシネ変換して生成されたものである。これにより、当該入力映像信号S1を倍速変換して生成した倍速映像信号S3(図10(B))においては、フィールド1a、1a’、1b及び1b’の4フィールドが同一のコマから生成され、同様にフィールド2a、2a’、2b、及び2b’の4フィールドが同一のコマから生成されることになる。
このため、図10(B)に示す倍速映像信号S3においては、フィールド1a〜1b’の4フィールドの間、物体110は同一位置に表示され、次のフィールド2aに移る際に、物体110は突然大きく移動して表示される。
このように、フィルム素材の入力映像信号S1を倍速変換して生成した倍速映像信号S3においては、動きのある画像を表示した場合、画像の動きが一層不連続に見えるという問題がある。
このような倍速映像信号における動きの不連続を解決するため、画像の動きベクトルを検出し、当該動きベクトルを用いて画像をシフトすることにより、フィールド間の動きを滑らかに補正する動き補正方法が提案されている(例えば、特許文献1参照)。
かかる動き補正方法においては、図11(A)に示す倍速映像信号S3のフィールド1a’とその1フレーム後のフィールド1b’との間で、例えばブロックマッチング法を用いて画像の動きベクトルを画素単位あるいはブロック単位で検出する。このとき検出した動きベクトルをAとする。
そして図11(B)に示すように、フィールド1a’のブロックの動きが検出された画素をA×1/2だけシフトさせる。同様に、フィールド1b’とその1フレーム後のフィールド2a’との間の画像の動きベクトルBを検出し、フィールド1b’のブロックの動きが検出された画素をB×1/2だけ移動させる。このように検出した動きベクトルを用いて画像をシフトすることにより、図11(C)に示すように、各フィールド間における画像の動きを滑らかにすることができる。
また、倍速映像信号S3がテレシネ変換によって生成されたフィルム素材の場合には、図12(A)に示す倍速映像信号S3において、フィールド1aとその2フレーム後のフィールド2aとの間でブロックマッチング法を用いて画像の動きベクトルをブロック単位で検出する。このとき検出した動きベクトルをAとする。
そして図12(B)に示すように、フィールド1a’、1b及び1b’のブロックの動きが検出された画素を、それぞれA×1/4、A×2/4及びA×3/4だけシフトさせる。このように検出した動きベクトルを用いて画像をシフトすることにより、図12(C)に示すように、各フィールド間における画像の動きを滑らかにすることができる。
特表平10−501953号。
ところが実際上、画像は移動しながら輝度や色が変化していく場合が多く、このような場合、上述した動き補正方法では補正後の画像に若干の不自然さが生じるという問題があった。
また、上述したブロックマッチング法で検出される動きベクトルは、常に適切であるとは限らず、実際の画像の動きとは大きく異なる誤った動きベクトルが検出されてしまうこともある。例えば、背景と前景とが反対方向に移動しているようなブロック内に2方向の動きが存在する場合や、画像が回転している場合、あるいは画像がズームしている場合や変形している場合等で、動きベクトルの誤検出が発生しやすい。
そして、上述した動き補正方法においては最大で動きベクトルの3/4もの動き補正を行うため(図12のフィールド1b’及び2b’)、動きベクトルの誤検出が発生した場合、補正後の画像に不自然さが目立ってしまうという問題があった。
さらに、図13に示すように、ブロックマッチング法の探索範囲を越えるような激しい動きが画像に存在した場合にも、正しい動きベクトルを得ることができず、この場合も補正後の画像に不自然さが目立ってしまうという問題があった。
本発明は以上の点を考慮してなされたもので、倍速変換された映像信号の動きをより適切に補正し得る動き補正装置を提案しようとするものである。
かかる課題を解決するため本発明においては、ビデオ信号を倍速変換してなる映像信号における現フィールドの画像情報と当該現フィールドの1フレーム後の参照フィールドの画像情報とから、現フィールドにおける検出画素と参照フィールドにおける検出画素との間の動きベクトルを検出する動きベクトル検出手段と、現フィールドの検出画素を動きベクトルの1/2だけ移動させるとともに、参照フィールドの検出画素を動きベクトルの−1/2だけ移動させる画像移動手段と、画像移動手段によって移動された上記現フィールドの検出画素の画素データと参照フィールドの検出画素の画素データとを重み付けして重ね合わせることにより、現フィールドの上記映像信号を動き補正する平均化手段とを動き補正装置に設けた。
また、フィルムをテレシネ変換した後倍速変換してなる映像信号における現フィールドの画像情報と当該映像信号を2フレーム遅延してなる参照映像信号における参照フィールドの画像情報とから、現フィールドにおける検出画素と参照フィールドにおける検出画素との間の動きベクトルを検出する動きベクトル検出手段と、映像信号における現フィールド以降の3つのフィールドにおける検出画素を、それぞれ動きベクトルの1/4、2/4及び3/4だけ移動させるとともに、参照映像信号における参照フィールド以降の3つのフィールドにおける検出画素を、それぞれ動きベクトルの−3/4、−2/4及び−1/4だけ移動させる画像移動手段と、画像移動手段によって移動された現フィールド以降の3つのフィールドにおける検出画素の画素データと、参照フィールド以降の3つのフィールドにおける検出画素の画素データとをそれぞれ重み付けして重ね合わせることにより、現フィールド以降の3つのフィールドの上記映像信号を動き補正する平均化手段とを動き補正装置に設けた。
これにより、倍速映像信号におけるフィールド間の動きを従来に比して一層滑らかに補正することができる。
さらに平均化手段は、検出画素それぞれに対し、画像移動手段による移動量に反比例した重み付け平均を行うようにした。
画素の移動量に反比例した重み付け平均をすることにより、フィールド間の画像の動きをさらにスムーズに補正することができる。
また本発明においては、映像信号の元画面から生成したN−1個の補間画面を当該元画面とその次の元画面の間に挿入することによりN倍速変換されたN倍速映像信号に対して動き補正を行う動き補正装置において、元画面の画像情報と当該元画面の次の元画面でなる参照画面の画像情報とから、当該元画面における検出画素と当該参照画面における検出画素との間の動きベクトルを検出する動きベクトル検出手段と、元画面における検出画素に対応するm番目の補間画面(1≦m≦N−1)の検出画素を動きベクトルのm/Nだけ移動させるとともに、参照画面における検出画素に対応するm+N番目の補間画面の検出画素を動きベクトルの−(N−m)/Nだけ移動させる画像移動手段と、画像移動手段によって移動されたm番目の補間画面の検出画素における画素データ及びm+N番目の補間画面の検出画素における画素データそれぞれに対して当該画像移動手段による移動量に反比例した値で重み付けをした後重ね合わせたものを、動き補正されたm番目の補間画面として出力する補正手段とを動き補正装置に設けた。
ビデオ信号の元画面とその次の元画面の間に挿入された新たなN−1個の補間画面の画像信号の動きを補正する動き補正装置において、元画面の画像情報と当該元画面の次の元画面でなる参照画面の画像情報とから、元画面における検出画素と参照画面における検出画素との間の動きベクトルを検出する動きベクトル検出手段と、m番目(1≦m≦N−1)の補間画面を補正する場合に、元画面の検出画素に対応する画素データの位置を動きベクトルのm/Nだけ移動させるとともに、参照画面の検出画素に対応する画素データの位置を動きベクトルの−(N−m)/Nだけ移動させる画像移動手段と、画像移動手段によって移動された元画面の検出画素に対応する画素データ及び参照画面の検出画素に対応する画素データを、所定の重み付けをして重ね合わせることにより補間画面の画像信号を補正する補正手段とを動き補正装置に設けた。
これにより、N倍速変換されたN倍速映像信号におけるフィールド間の画像の動きをスムーズに補正することができる。
図1は、本発明による補正装置の構成を示すブロック図である。
図2は、倍速映像信号がフィルム素材でない場合の動きの改善の様子を示す略線図である。
図3は、倍速映像信号がフィルム素材である場合の動きの改善の様子を示す略線図である。
図4は、動きベクトルが探索範囲外の場合を示す略線図である。
図5は、他の実施の形態による動き補正装置の構成を示すブロック図である。
図6は、他の実施の形態による、倍速映像信号がフィルム素材である場合の動きの改善の様子を示す略線図である。
図7は、フィールド倍速回路の構成を示すブロック図である。
図8は、映像信号の倍速化の説明に供する略線図である。
図9は、倍速映像信号がフィルム素材でない場合の動きの説明に供する略線図である。
図10は、倍速映像信号がフィルム素材の場合の動きの説明に供する略線図である。
図11は、倍速映像信号がフィルム素材でない場合の動きの改善の様子を示す略線図である。
図12は、倍速映像信号がフィルム素材である場合の動きの改善の様子を示す略線図である。
図13は、動きベクトルが探索範囲外の場合を示す略線図である。
図14は、映像信号の4倍速化の説明に供する略線図である。
図15は、4倍速映像信号の説明に供する略線図である。
図16は、4倍速映像信号に対する動き補正装置の構成を示すブロック図である。
図17は、4倍速映像信号の動きの改善の様子を示す略線図である。
以下図面について、本発明の一実施の形態を詳述する。
図1において、1は全体として本発明による動き補正装置を示し、前段のフィールド倍速変換回路(図示せず)から供給される、50フィールド/秒のPAL信号を倍速変換してなる100フィールド/秒の倍速映像信号S3を画像メモリ2に入力する。
画像メモリ2は、倍速映像信号S3を1フレーム分遅延して1フレーム遅延倍速映像信号S4を生成し、これを後段の画像メモリ3に入力する。画像メモリ3は、1フレーム遅延倍速映像信号S4をさらに1フレーム分遅延して2フレーム遅延倍速映像信号S5を生成し、これを画像シフト回路4及び動きベクトル検出回路5に入力する。
一方フィルム検出回路6は、倍速映像信号S3と1フレーム遅延倍速映像信号S4との相関に基づいて、入力された倍速映像信号S3がフィルム素材であるか否かを判定する。すなわち、入力された倍速映像信号S3がフィルム素材である場合、当該倍速映像信号S3には同一のコマから生成されたフィールドが4フィールド(2フレーム)連続するため、倍速映像信号S3とその1フレーム前の1フレーム遅延倍速映像信号S4との間に、周期的な相関を検出することができる。
フィルム検出回路6は、倍速映像信号S3及び1フレーム遅延倍速映像信号S4の対応する画素毎の信号レベルの差分値を算出し、当該差分値が1フレームおきに交互に所定の閾値以上/閾値以下の値になる場合、倍速映像信号S3及び1フレーム遅延倍速映像信号S4の相関が高く、倍速映像信号S3がフィルム素材であると判定する。そしてフィルム検出回路6は、この判定結果に応じて選択スイッチ7を制御する。
すなわちフィルム検出回路6は、倍速映像信号S3がフィルム素材ではないと判定した場合、選択スイッチ7を端子7A側に切替え、参照映像信号としての1フレーム遅延倍速映像信号S4を、画像逆シフト回路8及び動きベクトル検出回路5に入力する。
動きベクトル検出回路5は、現フィールドとしての2フレーム遅延倍速映像信号S5のフィールドと、参照フィールドとしての1フレーム遅延倍速映像信号S4のフィールドとの間の、1フレーム間の画像の動きベクトルを各画素単位又はブロック単位で順次検出する。このとき動きベクトル検出回路5は、現フィールドにおいて着目した画素(この画素を検出画素と呼ぶ)が、参照フィールド上でどこに移動したかを各画素単位又はブロック単位で探索し、現フィールドの検出画素から参照フィールドの検出画素への動きベクトルを検出する。
すなわち図2(A)に示すように、現フィールドとしてのフィールド1a’(2フレーム遅延倍速映像信号S5)と、その1フレーム後の参照フィールドとしてのフィールド1b’(1フレーム遅延倍速映像信号S4)との間の動きベクトルはAとなり、現フィールドとしてのフィールド1b’と、その1フレーム後の参照フィールドとしてのフィールド2a’との間の動きベクトルはBとなる。動きベクトル検出回路5は、このようにして検出した各画素単位又はブロック単位のフレーム間の動きベクトルを、動きベクトル情報D1として画像シフト回路4及び画像逆シフト回路8に供給する。また画像シフト回路4及び画像逆シフト回路8には、図示しないフィールド検出回路から、フィールド単位の補正タイミング制御信号D2が供給される。
画像移動手段としての画像シフト回路4及び画像逆シフト回路8は、動きベクトル情報D1及び補正タイミング制御信号D2に従い、それぞれ2フレーム遅延倍速映像信号S5及び参照映像信号としての1フレーム遅延倍速映像信号S4の各画素を、検出した動きベクトルに応じてシフトする。
すなわち図2(B)に示すように、画像シフト回路4は、現フィールドとしての2フレーム遅延倍速映像信号S5のフィールド1a’の各画素を1/2×Aだけシフトし、後段の平均化処理部9に供給する。また画像逆シフト回路8は、参照フィールドとしての1フレーム遅延倍速映像信号S4のフィールド1b’の各画素を−1/2×Aだけシフトし、平均化処理部9に供給する。同様に画像シフト回路4は、現フィールドとしての2フレーム遅延倍速映像信号S5のフィールド1b’の各画素を1/2×Bだけシフトし、後段の平均化処理部9に供給する。また画像逆シフト回路8は、参照フィールドとしての1フレーム遅延倍速映像信号S4のフィールド2a’の各画素を−1/2×Bだけシフトし、平均化処理部9に供給する。この各画素のシフトは、本実施の形態においては画像シフト回路4及び画像逆シフト回路8から平均化処理部9へ各画素データを出力するタイミングを制御することにより行われる。
このようにして画像シフト回路4及び画像逆シフト回路8は、それぞれ2フレーム遅延倍速映像信号S5及び1フレーム遅延倍速映像信号S4の画素を動きベクトル情報D1に応じて順次シフトして平均化処理部9に供給する。
平均化処理部9の第1の重み付け部10は、図2(B)に示すように、2フレーム遅延倍速映像信号S5のフィールド1a’の各画素の画素データを1/2に重み付けして信号合成器12に供給する。また第2の重み付け部11は、1フレーム遅延倍速映像信号S4のフィールド1b’の各画素の信号レベルを1/2に重み付けして信号合成器12に供給する。同様に第1の重み付け部10は、2フレーム遅延倍速映像信号S5のフィールド1b’の各画素の画素データを1/2に重み付けし、信号合成器12に供給する。また第2の重み付け部11は、1フレーム遅延倍速映像信号S4のフィールド2a’の各画素の画素データを1/2に重み付けし、信号合成器12に供給する。
このようにして第1の重み付け部10及び第2の重み付け部11は、それぞれ現フィールドとしての2フレーム遅延倍速映像信号S5及び参照フィールドとしての1フレーム遅延倍速映像信号S4の画素の信号レベルを1/2に重み付けし、信号合成器12に供給する。
信号合成器12は、2フレーム遅延倍速映像信号S5と1フレーム遅延倍速映像信号S4とを合成し、これを補正倍速映像信号S6として図示しないCRT104に出力する。
信号合成器12はシフト後のフィールド1a’及び1フィールド1b’を平均して合成した画像を動き補正後の新たなフィールド1a’とし、同様にシフト後のフィールド1b’及びフィールド2a’とを平均して合成した画像を動き補正後の新たなフィールド1b’として出力する。
一方、フィルム検出回路6は倍速映像信号S3がフィルム素材であると判定した場合、選択スイッチ7を端子7B側に切替え、参照映像信号としての倍速映像信号S3を、画像逆シフト回路8及び動きベクトル検出回路5に入力する。
動きベクトル検出回路5は、現フィールドとしての2フレーム遅延倍速映像信号S5のフィールドと、参照フィールドとしての倍速映像信号S3との間で、2フレーム間の画像の動きベクトルを各画素単位又はブロック単位で順次検出する。すなわち図3(A)に示すように、現フィールドとしてのフィールド1a(2フレーム遅延倍速映像信号S5)と、その2フレーム後の参照フィールドとしてのフィールド2a(倍速映像信号S3)との間の動きベクトルはAとなり、現フィールドとしてのフィールド2aと、その2フレーム後の参照フィールドとしてのフィールド3aとの間の動きベクトルはBとなる。動きベクトル検出回路5は、このようにして検出した各画素単位又はブロック単位の各フレーム間の動きベクトルを、動きベクトル情報D1として画像シフト回路4及び画像逆シフト回路8に供給する。また画像シフト回路4及び画像逆シフト回路8には、図示しないフィールド検出回路から、フィールド単位の補正タイミング制御信号D2が供給される。
画像シフト回路4及び画像逆シフト回路8は動きベクトル情報D1及び補正タイミング制御信号D2に従い、それぞれ2フレーム遅延倍速映像信号S5及び倍速映像信号S3の各画素を、検出した動きベクトルに応じてシフトする。
すなわち図3(B)に示すように、画像シフト回路4は、現フィールドとしての2フレーム遅延倍速映像信号S5のフィールド1a’、1b及び1b’を、それぞれ1/4×A、2/4×A及び3/4×Aだけシフトし、後段の平均化処理部9に供給する。また画像逆シフト回路8は、参照フィールドとしての倍速映像信号S3のフィールド2a’、2b及び2b’を、それぞれ−3/4×A、−2/4×A及び−1/4×Aだけシフトし、後段の平均化処理部9に供給する。
このようにして画像シフト回路4及び画像逆シフト回路8は、それぞれ現フィールドとしての2フレーム遅延倍速映像信号S5及び参照フィールドとしての倍速映像信号S3の画素を動きベクトル情報D1に応じて、時間経過に従って順次シフトして平均化処理部9に供給する。
平均化処理部9の第1の重み付け部10は、図3(B)に示すように、2フレーム遅延倍速映像信号S5のフィールド1a’、1b及び1b’の各画素の画素データを1/2に重み付けして信号合成器12に供給する。また第2の重み付け部11は、倍速映像信号S3のフィールド2a’、2b及び2b’の各画素の画素データを1/2に重み付けして信号合成器12に供給する。
かくして第1の重み付け部10及び第2の重み付け部11は、それぞれ2フレーム遅延倍速映像信号S5及び倍速映像信号S3の画素の画素データを1/2に重み付けし、信号合成器12に供給する。
信号合成器12は、2フレーム遅延倍速映像信号S5と倍速映像信号S3とを合成し、これを補正倍速映像信号S6として図示しないCRT104に出力する。
すなわち図3(B)に示すように、信号合成器12は、重み付け後の2フレーム遅延倍速映像信号S5及び倍速映像信号S3を合成することにより、シフト後のフィールド1a’及びフィールド2a’を平均して合成した画像を、動き補正後の新たなフィールド1a’とし、シフト後のフィールド1b及びフィールド2bを平均して合成した画像を、動き補正後の新たなフィールド1bとし、シフト後のフィールド1b’及びフィールド2b’を平均して合成した画像を、動き補正後の新たなフィールド1b’とする。
このようにして動き補正装置1は、動きベクトル検出回路5で検出したフレーム間の動きベクトルを用いて、現フィールドとその1フレーム後又は2フレーム後の参照フィールドとをそれぞれ逆方向にシフトした後、合成して平均化することにより、連続するフィールド間の画像の動きをスムーズに補正することができる。
以上の構成において、動き補正装置1のフィルム検出回路6は、入力された倍速映像信号S3がフィルム素材であるか否かを判定する。
倍速映像信号S3がフィルム素材ではない場合、動きベクトル検出回路5は、倍速映像信号S3を2フレーム遅延した2フレーム遅延倍速映像信号S5と、当該倍速映像信号S3を1フレーム遅延した1フレーム遅延倍速映像信号S4との間で、1フレーム間の画像の動きベクトルを検出する。
そして動き補正装置1は、2フレーム遅延倍速映像信号S5の各画素を、検出した動きベクトルの1/2だけシフトするとともに、1フレーム遅延倍速映像信号S4の各画素を、検出した動きベクトルの−1/2だけシフトし、さらにこれらを平均化して合成し補正倍速映像信号S6を生成する。
また、倍速映像信号S3がフィルム素材である場合、動きベクトル検出回路5は、倍速映像信号S3を2フレーム遅延した2フレーム遅延倍速映像信号S5と、当該倍速映像信号S3との間で、2フレーム間の画像の動きベクトルを検出する。
そして動き補正装置1は、2フレーム遅延倍速映像信号S5の各フィールドの各画素を、時間経過に応じて、検出した動きベクトルの1/4、2/4及び3/4だけシフトするとともに、倍速映像信号S3の各フィールドの各画素を、時間経過に応じて、検出した動きベクトルの−3/4、−2/4及び−1/4だけシフトし、さらにこれらをそれぞれ平均化して合成し補正倍速映像信号S6を生成する。
以上の構成によれば、現フィールドの画像と、その1フレーム又は2フレーム後の参照フィールドの画像とを、検出したフレーム間の動きベクトルに応じてそれぞれ逆方向にシフトした後、これらを合成して平均化したものを補正後のフィールドの画像とすることにより、フィールド間の動きを従来に比して一層滑らかに補正することができる。
ここで、動きベクトル検出回路5の探索範囲を越えるような激しい動きが画像に存在した場合、図4(A)に示すように、当該動きベクトル検出回路5が検出する動きベクトルA2は、画像の実際の動きベクトルA1よりも小さいベクトルとなる。
このようにして検出された小さい動きベクトルA2を用いて現フィールド及び参照フィールドをシフトした場合、補正後のフィールドは、図4(B)に示すように、フィールド間の画像の動きのほぼ中心位置に2つのずれた画像が重なって表示される。
このため本発明によれば、動きベクトル検出回路5の探索範囲を越えるような激しい動きが画像に存在した場合でも、フィールド間の動きを従来に比して一層滑らかに補正することができる。
なお上述の実施の形態においては、平均化処理部9の第1の重み付け部10が、2フレーム遅延倍速映像信号S5の各画素の信号レベルに対して常に1/2の重み付けを行うとともに、第2の重み付け部11が、1フレーム遅延倍速映像信号S4又は倍速映像信号S3の各画素の画素データに対して常に1/2の重み付けを行うことにより、シフト後の各画素の画素データを常に単純平均して合成するようにしたが、本発明はこれに限らず、各画素のシフト量に応じて、画素データに対する重み付けを変化させるようにしてもよい。
すなわち、図1との対応部分に同一符号を付して示す図5において、20は本発明による他の実施の形態の動き補正装置を示し、平均化処理部13の第1の重み付け部14及び第2の重み付け部15が、各画素の画素データに対し、画素のシフト量に反比例した重み付けを行う点で、図1に示す動き補正装置1と相違する。
ここで、倍速映像信号S3がフィルム素材ではない場合、画素のシフト量は常に検出した動きベクトルの1/2及び−1/2であり、このため第1の重み付け部10及び第2の重み付け部11による重み付けも常に1/2になるので、説明を省略する。
倍速映像信号S3がフィルム素材である場合、動きベクトル検出回路5は、倍速映像信号S3と2フレーム遅延倍速映像信号S5との間で、2フレーム間の画像の動きベクトルを各画素単位又はブロック単位で順次検出する。すなわち図6(A)に示すように、フィールド1a(2フレーム遅延倍速映像信号S5)と、その2フレーム後のフィールド2a(倍速映像信号S3)との間の動きベクトルはAとなり、フィールド2aと、その2フレーム後のフィールド3aとの間の動きベクトルはBとなる。動きベクトル検出回路5は、このようにして検出した各画素単位又はブロック単位の各フレーム間の動きベクトルを、動きベクトル情報D1として画像シフト回路4及び画像逆シフト回路8に供給する。また画像シフト回路4及び画像逆シフト回路8には、図示しないフィールド検出回路から、フィールド単位の補正タイミング制御信号D2が供給される。
画像移動手段としての画像シフト回路4及び画像逆シフト回路8は、動きベクトル情報D1及び補正タイミング制御信号D2に従い、それぞれ2フレーム遅延倍速映像信号S5及び倍速映像信号S3の各画素を、検出した動きベクトルに応じてシフトする。
すなわち図6(B)に示すように、画像シフト回路4は、2フレーム遅延倍速映像信号S5のフィールド1a’、1b及び1b’を、それぞれ1/4×A、2/4×A及び3/4×Aだけシフトし、平均化処理部13に供給する。また画像逆シフト回路8は、倍速映像信号S3のフィールド2a’、2b及び2b’を、それぞれ−3/4×A、−2/4×A及び−1/4×Aだけシフトし、平均化処理部13に供給する。
このようにして画像シフト回路4及び画像逆シフト回路8は、それぞれ2フレーム遅延倍速映像信号S5及び倍速映像信号S3の画素を動きベクトル情報D1に応じて、時間経過に従って順次シフトして平均化処理部13に供給する。
平均化処理部13の第1の重み付け部14は、図6(B)に示すように、2フレーム遅延倍速映像信号S5のフィールド1a’、1b及び1b’の各画素の画素データに対し、それぞれのシフト量に反比例した重み付けを与える。
すなわち第1の重み付け部14は、1/4×Aだけシフトされたフィールド1b’に対して3/4の重み付けを与え、2/4×Aだけシフトされたフィールド1bに対して2/4の重み付けを与え、3/4×Aだけシフトされたフィールド1b’に対して1/4の重み付けを与える。
同様に第2の重み付け部15は、倍速映像信号S3のフィールド2a’、2b及び2b’の各画素の画素データに対し、それぞれのシフト量に反比例した重み付けを与える。
すなわち第2の重み付け部15は、−3/4×Aだけシフトされたフィールド2a’に対して1/4の重み付けを与え、−2/4×Aだけシフトされたフィールド2bに対して2/4の重み付けを与え、−1/4×Aだけシフトされたフィールド2b’に対して3/4の重み付けを与える。
かくして第1の重み付け部14及び第2の重み付け部15は、それぞれ2フレーム遅延倍速映像信号S5及び倍速映像信号S3の画素の画素データに対し、画素のシフト量に反比例した重み付けをした後、信号合成器12に供給する。
信号合成器12は、2フレーム遅延倍速映像信号S5と倍速映像信号S3とを合成し、これを補正倍速映像信号S6として図示しないCRT104に出力する。
すなわち図6(B)に示すように、信号合成器12は、重み付け後の2フレーム遅延倍速映像信号S5及び倍速映像信号S3を合成することにより、シフト後のフィールド1a’及びその2フレーム後のフィールド2a’の平均を動き補正後の新たなフィールド1a’とし、シフト後のフィールド1b及びその2フレーム後のフィールド2bの平均を動き補正後の新たなフィールド1bとし、シフト後のフィールド1b’及びその2フレーム後のフィールド2b’の平均を動き補正後の新たなフィールド1b’とする。
このようにして動き補正装置20は、動きベクトル検出回路5で検出したフレーム間の動きベクトルを用いて、補正対象のフィールドとその2フレーム後のフィールドを互いに逆方向にシフトした後、シフト量に反比例した重み付け平均をして合成することにより、連続するフィールド間の画像の動きをさらにスムーズに補正することができる。
また、動きベクトル検出回路5の探索範囲を越える動きが画像に存在した等の原因によって、誤った動きベクトルを検出した場合や、画像が移動しながら信号レベルが変化するような場合でも、連続するフィールド間の画像の動きを違和感なく補正することができる。
さらに上述の実施の形態においては、50フィールド/秒のPAL信号を倍速変換してなる100フィールド/秒の倍速映像信号に対して動き補正を行う場合について述べたが、本発明はこれに限らず、同じく50フィールド/秒のSECAM(Sequentiel a Memoire)信号を倍速変換してなる100フィールド/秒の倍速映像信号や、60フィールド/秒のNTSC(Na−tional Television System Committe)信号を倍速変換してなる120フィールド/秒の倍速映像信号に対して動き補正を行う場合にも適用することができる。また、NTSC信号において、その画像内容が毎秒30コマのコンピュータグラフィックス画像である時、これを倍速変換してなる120フィールド/秒の倍速映像信号に対して動き補正を行う場合にも適用することができる。
さらに上述の実施の形態においては、2倍速化された倍速映像信号に対して動き補正を行う場合について述べたが、本発明はこれに限らず、種々の倍率でN倍速化(Nは実数)されたN倍速映像信号に対して動き補正を行う場合に広く適用することができる。以下に例として4倍速映像信号に対して動き補正を行う場合を説明する。
まず、映像信号を4倍速化する処理について図14を用いて説明する。図14(A)に示す入力映像信号S1のフィールド1aの走査線数をプログレッシブ変換することにより、図14(B)に示すフレーム1aを生成する。以下同様に、順次入力映像信号S1のフィールド1b、……を順次プログレッシブ変換してフレーム1b、……を生成し、50フレーム/秒でなるプログレッシブ画像の中間映像信号S2を生成する。
そして、図14(B)に示すフレーム1aを画像メモリ(図示せず)に書き込み、これを1/200秒毎に、1走査線おきに4回繰り返して読み出すことにより、当該フレーム1aから4枚のフィールド1a、1a’、1a’’及び1a’’’を生成する。同様に、中間映像信号S2のフレーム1bから4枚のフィールド1b、1b’、1b’’及び1b’’’を生成する。
かくして、200フィールド/秒でなるインターレース画像の4倍速映像信号S23を生成することができる。このことは、入力映像信号S1の元画像(フィールド1a、1b、……)の間に、当該元画像から生成したN−1個の補間画像(フィールド1a’〜1a’’’、1b’〜1b’’’、……)を挿入したことに相当する。
このようにして生成された4倍速映像信号S23の画像の動きを、図15を用いて説明する。図15(A)に示す入力映像信号S1においては、物体110はフィールド間で右方向に滑らかに移動しているのに対し、図15(B)に示す4倍速映像信号S23においては、フィールド1a、1a’、1a’’及び1a’’’はいずれも同一のフィールドから生成されているため、物体110は同一位置に表示される。そして、次のフィールド1bは異なるフィールドから生成されているため、フィールド1a’からフィールド1bに移る際に、物体110は大きく移動して表示される。
図16において、21は全体として4倍速映像信号に対する動き補正装置を示し、50フィールド/秒のPAL信号を4倍速変換してなる200フィールド/秒の4倍速映像信号S23を画像メモリ22に入力する。
画像メモリ22は、4倍速映像信号S23を2フレーム分遅延して2フレーム遅延4倍速映像信号S24を生成し、これを後段の画像メモリ23に入力する。画像メモリ23は、2フレーム遅延4倍速映像信号S24をさらに2フレーム分遅延して4フレーム遅延4倍速映像信号S25を生成し、これを画像シフト回路24及び動きベクトル検出回路25に入力する。
一方フィルム検出回路26は、4倍速映像信号S23と2フレーム遅延4倍速映像信号S24との相関に基づいて、入力された4倍速映像信号S23がフィルム素材であるか否かを判定する。すなわち、入力された4倍速映像信号S23がフィルム素材である場合、当該倍速映像信号S23には同一のコマから生成されたフィールドが8フィールド(4フレーム)連続するため、4倍速映像信号S23とその2フレーム前の2フレーム遅延4倍速映像信号S24との間に、周期的な相関を検出することができる。
フィルム検出回路26は、4倍速映像信号S23及び2フレーム遅延4倍速映像信号S24の対応する画素毎の信号レベルの差分値を算出し、当該差分値が2フレームおきに交互に所定の閾値以上/閾値以下の値になる場合、4倍速映像信号S23及び2フレーム遅延4倍速映像信号S24の相関が高く、4倍速映像信号S23がフィルム素材であると判定する。そしてフィルム検出回路26は、この判定結果に応じて選択スイッチ27を制御する。
すなわちフィルム検出回路26は、4倍速映像信号S23がフィルム素材ではないと判定した場合、選択スイッチ27を端子27A側に切替え、参照映像信号としての2フレーム遅延4倍速映像信号S24を、画像逆シフト回路28及び動きベクトル検出回路25に入力する。
動きベクトル検出回路25は、現フィールド(現画面)としての4フレーム遅延4倍速映像信号S25のフィールドと、参照フィールド(参照画面)としての2フレーム遅延4倍速映像信号S24のフィールドとの間の、2フレーム間(4フィールド)の画像の動きベクトルを各画素単位又はブロック単位で順次検出する。
すなわち図17(A)に示すように、現フィールドとしてのフィールド1a(4フレーム遅延4倍速映像信号S25)と、その2フレーム後の参照フィールドとしてのフィールド1b(2フレーム遅延4倍速映像信号S24)との間の所定の画素またはブロックにおける動きベクトルはAとなり、現フィールドとしてのフィールド1bと、その2フレーム後の参照フィールドとしてのフィールド2aとの間の所定の画素またはブロックにおける動きベクトルはBとなる。動きベクトル検出回路25は、このようにして検出した各画素単位又はブロック単位のフレーム間の動きベクトルを、動きベクトル情報D21として画像シフト回路24及び画像逆シフト回路28に供給する。また画像シフト回路24及び画像逆シフト回路28には、図示しないフィールド検出回路から、フィールド単位の補正タイミング制御信号D22が供給される。
画像移動手段としての画像シフト回路24及び画像逆シフト回路28は、動きベクトル情報D21及び補正タイミング制御信号D22に従い、それぞれ4フレーム遅延4倍速映像信号S25及び参照映像信号としての2フレーム遅延4倍速映像信号S24の動きが検出された各画素を、検出した動きベクトルに応じてシフトする。
すなわち図17(B)に示すように、画像シフト回路24は、現フィールドとしての4フレーム遅延4倍速映像信号S25のフィールド1a’、1a’’及び1a’’’の動きが検出された各画素を、それぞれ1/4×A、2/4×A及び3/4×Aだけシフトし、後段の平均化処理部9に供給する。また画像逆シフト回路28は、参照フィールドとしての2フレーム遅延4倍速映像信号S24のフィールド1b’、1b’’及び1b’’’の動きが検出された各画素を、それぞれ−3/4×A、−2/4×A及び−1/4×Aだけシフトし、後段の平均化処理部29に供給する。
このようにして画像シフト回路24及び画像逆シフト回路28は、それぞれ現フィールドとしての4フレーム遅延4倍速映像信号S25及び参照フィールドとしての2フレーム遅延4倍速映像信号S23の画素を動きベクトル情報D21に応じて、時間経過に従って順次シフトして平均化処理部29に供給する。
補正手段としての平均化処理部29の第1の重み付け部30は、図17(B)に示すように、4フレーム遅延4倍速映像信号S25のフィールド1a、1a’、1a’’及び1a’’’の各画素の画素データを1/2に重み付けして信号合成器32に供給する。また第2の重み付け部31は、2フレーム遅延4倍速映像信号S24のフィールド1b、1b’、1b’’及び1b’’’の各画素の画素データを1/2に重み付けして信号合成器32に供給する。
このようにして第1の重み付け部30及び第2の重み付け部31は、それぞれ現フィールドとしての4フレーム遅延4倍速映像信号S25及び参照フィールドとしての2フレーム遅延4倍速映像信号S24の画素の画素データを1/2に重み付けし、信号合成器32に供給する。
信号合成器32は、4フレーム遅延4倍速映像信号S25と2フレーム遅延4倍速映像信号S24とを合成し、これを補正4倍速映像信号S26として図示しないCRTに出力する。
すなわち図17(B)に示すように、信号合成器32は、重み付け後の4フレーム遅延4倍速映像信号S25及び2フレーム遅延4倍速映像信号S24を合成することにより、シフト後のフィールド1a’及びその2フレーム後のフィールド1b’の画素データの平均を動き補正後の新たなフィールド1a’とし、シフト後のフィールド1a’’及びその2フレーム後のフィールド1b’’の画素データの平均を動き補正後の新たなフィールド1a’’とし、シフト後のフィールド1a’’’及びその2フレーム後のフィールド1b’’’の画素データの平均を動き補正後の新たなフィールド1a’’’とする。
かくして動き補正装置21は、動きベクトル検出回路25で検出した2フレーム間の動きベクトルを用いて、現フィールドとその2フレーム後の参照フィールドとをそれぞれ逆方向にシフトした後重み付けして合成することにより、4倍速映像信号における連続するフィールド間の画像の動きをスムーズに補正することができる。なお、4倍速映像信号S23がフィルム素材である場合の処理についての説明は省略する。
以上は4倍速映像信号に対して動き補正を行う場合について述べたが、同様にしてN倍速映像信号に対する動き補正を行うことができる。すなわち動き補正装置21の動きベクトル検出回路25は、N倍速変換処理によって元画面(すなわちフィールド1a、1b、……)から新たに生成され次の元画面との間に挿入されたN−1個の補間画面(すなわちフィールド1a’〜1a’’’、1b’〜1b’’’、……)を動き補正する際、当該N−1個の補間画面の生成元である元画面とその一つ後の元画面(以下これを参照画面と呼ぶ)との間の動きベクトルを検出する。
画像移動手段としての画像シフト回路24はm番目の補間画面(1≦m≦N−1)を動きベクトルのm/Nだけ移動させ、画像逆シフト回路28はm+N番目の補間画面を動きベクトルの−(N−m)/Nだけ移動させる。これは、補間画面を移動させる際の比率「m/N」が、元画面〜補間画面までの時間/元画面〜参照画面までの時間」に比例し、参照画面を移動させる際の比率「(N−m)/N」が「補間画面〜参照画面までの時間/元画面〜参照画面までの時間」に比例することから、元画面から補間画面までの時間に比例した比率で当該補間画面を移動させるとともに、補間画面から参照画面までの時間に比例した比率で当該参照画像を逆方向に移動させることに対応する。
そして補正手段としての平均化処理部29は、移動後のm番目の補間画像及びm+N番目の補間画像の各画素の画素データをそれぞれ1/2ずつ重み付けして重ね合わせたものを、動き補正後のm番目の補間画像とする。
以上の構成によれば、N倍速映像信号のフィールド間の動きを滑らかに補正することができる。なお、動きベクトルの検出はN画面離れた任意の補間画面間で行うこともできるが、当該補間画面は元画面からN倍速変換処理によって生成されたものであるから、元画面と参照画面との間で検出した動きベクトルの方が精度が高い。また、1/2の重み付けに代えて、検出画素の移動量に反比例した値で重み付けを行うようにすれば、N倍速映像信号のフィールド間の動きをさらに滑らかに補正することができる。
また、N倍速変換処理によって生成されたm番目の補間画面の画素データは元画面の同じ位置の画素データに対応しており、m+N番目の補間画面の画素データは参照画面の同じ位置の画素データに対応している。従って、m番目(1≦m≦N−1)の補間画面を補正する場合に、画像シフト回路24により元画面の対応する画素データの位置を移動させ、画像逆シフト回路28により参照画面の対応する画素データの位置を移動させた信号を平均化処理部29に供給しても同じ結果が得られる。
また上述の実施の形態においては、表示手段としてCRTを用いた場合について述べたが、本発明はこれに限らず、液晶パネル、プラズマディスプレイパネル、有機EL(Electro Luminescence)パネル等の固定画素のデバイスを表示手段として用いた場合にもフィールド間の動きを滑らかに補正することができる。
上述のように本発明によれば、現フィールドの画像と、その1フレーム又は2フレーム後の参照フィールドの画像とを、検出したフレーム間の動きベクトルに応じて互いに逆方向に移動した後、これらを合成して平均化したものを補正後のフィールドの画像とすることにより、フィールド間の動きを従来に比して一層滑らかに補正することができる。
また、画素の移動量に反比例した重み付け平均をすることにより、連続するフィールド間の画像の動きをさらにスムーズに補正することができる。
本発明は、テレビジョン装置等の映像表示装置に適用できる。
符号の説明
1、20、21……動き補正装置、2、3、22、23……画像メモリ、4、24……画像シフト回路、5、25……動きベクトル検出回路、6、26……フィルム検出回路、7、27……選択スイッチ、8、28……画像逆シフト回路、9、13、29……平均化処理部、10、11、14、15、30、31……重み付け部、12、32……信号合成器

Claims (19)

  1. ビデオ信号を倍速変換してなる映像信号における現フィールドの画像情報と当該現フィールドの1フレーム後の参照フィールドの画像情報とから、上記現フィールドにおける検出画素と上記参照フィールドにおける検出画素との間の動きベクトルを検出する動きベクトル検出手段と、
    上記現フィールドの検出画素を上記動きベクトルの1/2だけ移動させるとともに、上記参照フィールドの検出画素を上記動きベクトルの−1/2だけ移動させる画像移動手段と、
    上記画像移動手段によって移動された上記現フィールドの検出画素の画素データと上記参照フィールドの検出画素の画素データとを重み付けして重ね合わせることにより、上記現フィールドの上記映像信号を動き補正する平均化手段と
    を具えることを特徴とする動き補正装置。
  2. 上記平均化手段は、上記検出画素それぞれに対し、上記画像移動手段による移動量に反比例した重み付けをして重ね合わせる
    ことを特徴とする請求の範囲第1項に記載の動き補正装置。
  3. 上記動きベクトル検出手段は、所定の画素数からなるブロック毎に、ブロックマッチング法に基づいて上記動きベクトルを検出する
    ことを特徴とする請求の範囲第1項に記載の動き補正装置。
  4. フィルムをテレシネ変換した後倍速変換してなる映像信号における現フィールドの画像情報と当該映像信号を2フレーム遅延してなる参照映像信号における参照フィールドの画像情報とから、上記現フィールドにおける検出画素と上記参照フィールドにおける検出画素との間の動きベクトルを検出する動きベクトル検出手段と、
    上記映像信号における上記現フィールド以降の3つのフィールドにおける検出画素を、それぞれ上記動きベクトルの1/4、2/4及び3/4だけ移動させるとともに、上記参照映像信号における上記参照フィールド以降の3つのフィールドにおける検出画素を、それぞれ上記動きベクトルの−3/4、−2/4及び−1/4だけ移動させる画像移動手段と、
    上記画像移動手段によって移動された上記現フィールド以降の3つのフィールドにおける検出画素の画素データと、上記参照フィールド以降の3つのフィールドにおける検出画素の画素データとをそれぞれ重み付けして重ね合わせることにより、上記現フィールド以降の3つのフィールドの上記映像信号を動き補正する平均化手段と
    を具えることを特徴とする動き補正装置。
  5. 上記平均化手段は、上記検出画素それぞれに対し、上記画像移動手段による移動量に反比例した重み付け平均を行う
    ことを特徴とする請求の範囲第4項に記載の動き補正装置。
  6. 上記動きベクトル検出手段は、所定の画素数からなるブロック毎に、ブロックマッチング法に基づいて上記動きベクトルを検出する
    ことを特徴とする請求の範囲第4項に記載の動き補正装置。
  7. ビデオ信号を倍速変換してなる映像信号における現フィールドの画像情報と当該現フィールドの1フレーム後の参照フィールドの画像情報とから、上記現フィールドにおける検出画素と上記参照フィールドにおける検出画素との間の動きベクトルを検出する動きベクトル検出ステップと、
    上記現フィールドの検出画素を上記動きベクトルの1/2だけ移動させるとともに、上記参照フィールドの検出画素を上記動きベクトルの−1/2だけ移動させる画像移動ステップと、
    上記画像移動手段によって移動された上記現フィールドの検出画素の画素データと上記参照フィールドの検出画素の画素データとを重み付けして重ね合わせることにより、上記現フィールドの上記映像信号を動き補正する平均化ステップと
    を具えることを特徴とする動き補正方法。
  8. 上記平均化ステップは、上記検出画素それぞれに対し、上記画像移動ステップによる移動量に反比例した重み付け平均を行う
    ことを特徴とする請求の範囲第7項に記載の動き補正方法。
  9. 上記動きベクトル検出ステップは、所定の画素数からなるブロック毎に、ブロックマッチング法に基づいて上記動きベクトルを検出する
    ことを特徴とする請求の範囲第7項に記載の動き補正方法。
  10. フィルムをテレシネ変換した後倍速変換してなる映像信号における現フィールドの画像情報と当該映像信号を2フレーム遅延してなる参照映像信号における参照フィールドの画像情報とから、上記現フィールドにおける検出画素と上記参照フィールドにおける検出画素との間の動きベクトルを検出する動きベクトル検出ステップと、
    上記映像信号における上記現フィールド以降の3つのフィールドにおける検出画素を、それぞれ上記動きベクトルの1/4、2/4及び3/4だけ移動させるとともに、上記参照映像信号における上記参照フィールド以降の3つのフィールドにおける検出画素を、それぞれ上記動きベクトルの−3/4、−2/4及び−1/4だけ移動させる画像移動ステップと、
    上記画像移動手段によって移動された上記現フィールド以降の3つのフィールドにおける検出画素の画素データと、上記参照フィールド以降の3つのフィールドにおける検出画素の画素データとをそれぞれ重み付けして重ね合わせることにより、上記現フィールド以降の3つのフィールドの上記映像信号を動き補正する平均化ステップと
    を具えることを特徴とする動き補正方法。
  11. 上記平均化ステップは、上記検出画素それぞれに対し、上記画像移動手段による移動量に反比例した重み付け平均を行う
    ことを特徴とする請求の範囲第10項に記載の動き補正方法。
  12. 上記動きベクトル検出ステップは、所定の画素数からなるブロック毎に、ブロックマッチング法に基づいて上記動きベクトルを検出する
    ことを特徴とする請求の範囲第10項に記載の動き補正方法。
  13. 映像信号の元画面から生成したN−1個の補間画面を当該元画面とその次の元画面の間に挿入することによりN倍速変換されたN倍速映像信号に対して動き補正を行う動き補正装置において、
    上記元画面の画像情報と当該元画面の次の元画面でなる参照画面の画像情報とから、当該元画面における検出画素と当該参照画面における検出画素との間の動きベクトルを検出する動きベクトル検出手段と、
    上記元画面における検出画素に対応するm番目の補間画面(1≦m≦N−1)の検出画素を上記動きベクトルのm/Nだけ移動させるとともに、上記参照画面における検出画素に対応するm+N番目の補間画面の検出画素を上記動きベクトルの−(N−m)/Nだけ移動させる画像移動手段と、
    上記画像移動手段によって移動された上記m番目の補間画面の検出画素における画素データ及び上記m+N番目の補間画面の検出画素における画素データそれぞれに対して当該画像移動手段による移動量に反比例した値で重み付けをした後重ね合わせたものを、動き補正された上記m番目の補間画面として出力する補正手段と
    を具えることを特徴とする動き補正装置。
  14. 映像信号の元画面から生成したN−1個の補間画面を当該元画面とその次の元画面の間に挿入することによりN倍速変換されたN倍速映像信号に対して動き補正を行う動き補正方法において、
    を行う動き補正方法において、
    上記元画面の画像情報と当該元画面の次の元画面でなる参照画面の画像情報とから、当該元画面における検出画素と当該参照画面における検出画素との間の動きベクトルを検出する動きベクトル検出ステップと、
    上記元画面における検出画素に対応するm番目の補間画面(1≦m≦N−1)の検出画素を上記動きベクトルのm/Nだけ移動させるとともに、上記参照画面における検出画素に対応するm+N番目の補間画面の検出画素を上記動きベクトルの−(N−m)/Nだけ移動させる画像移動ステップと、
    上記画像移動ステップによって移動された上記m番目の補間画面の検出画素における画素データ及び上記m+N番目の補間画面の検出画素における画素データそれぞれに対して当該画像移動ステップによる移動量に反比例した値で重み付けをした後重ね合わせたものを、動き補正された上記m番目の補間画面として出力する補正ステップと
    を具えることを特徴とする動き補正方法。
  15. ビデオ信号の元画面とその次の元画面の間に挿入された新たなN−1個の補間画面の画像信号の動きを補正する動き補正装置において、
    上記元画面の画像情報と当該元画面の次の元画面でなる参照画面の画像情報とから、上記元画面における検出画素と上記参照画面における検出画素との間の動きベクトルを検出する動きベクトル検出手段と、
    m番目(1≦m≦N−1)の上記補間画面を補正する場合に、上記元画面の検出画素に対応する画素データの位置を上記動きベクトルのm/Nだけ移動させるとともに、上記参照画面の検出画素に対応する画素データの位置を上記動きベクトルの−(N−m)/Nだけ移動させる画像移動手段と、
    上記画像移動手段によって移動された上記元画面の検出画素に対応する画素データ及び上記参照画面の検出画素に対応する画素データを、所定の重み付けをして重ね合わせることにより上記補間画面の画像信号を補正する補正手段と
    を具えることを特徴とする動き補正装置。
  16. 上記補正手段は、上記元画面及び上記参照画面の検出画素に対応する画素データの位置の移動量に基づき、上記所定の重み付けをして重ね合わせる
    ことを特徴とする請求の範囲第15項に記載の動き補正装置。
  17. 上記補正手段は、上記元画面及び上記参照画面の検出画素に対応する画素データに対し、上記画像移動手段による移動量に反比例した重み付けを行う
    ことを特徴とする請求の範囲第16項に記載の動き補正装置。
  18. 上記補正手段は、上記元画面の検出画素に対応する画素データに対し(N−m)/Nの重みで、上記参照画面の検出画素に対応する画素データに対しm/Nの重みで重み付けを行う
    ことを特徴とする請求の範囲第16項に記載の動き補正装置。
  19. ビデオ信号の元画面とその次の元画面の間に挿入された新たなN−1個の補間画面の画像信号の動きを補正する動き補正方法において、
    上記元画面の画像情報と当該元画面の次の元画面でなる参照画面の画像情報とから、上記元画面における検出画素と上記参照画面における検出画素との間の動きベクトルを検出する動きベクトル検出ステップと、
    m番目(1≦m≦N−1)の上記補間画面を補正する場合に、上記元画面の検出画素に対応する画素データの位置を上記動きベクトルのm/Nだけ移動させるとともに、上記参照画面の検出画素に対応する画素データの位置を上記動きベクトルの−(N−m)/Nだけ移動させる画像移動ステップと、
    上記画像移動ステップによって移動された上記元画面の検出画素に対応する画素データ及び上記参照画面の検出画素に対応する画素データを、所定の重み付けをして重ね合わせることにより上記補間画面の画像信号を補正する補正ステップと
    を具えることを特徴とする動き補正方法。
JP2005506221A 2003-05-16 2004-05-12 動き補正装置及び方法 Expired - Lifetime JP4565339B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2003139124 2003-05-16
JP2003139124 2003-05-16
PCT/JP2004/006691 WO2004102963A1 (ja) 2003-05-16 2004-05-12 動き補正装置及び方法

Publications (2)

Publication Number Publication Date
JPWO2004102963A1 true JPWO2004102963A1 (ja) 2006-07-20
JP4565339B2 JP4565339B2 (ja) 2010-10-20

Family

ID=33447323

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005506221A Expired - Lifetime JP4565339B2 (ja) 2003-05-16 2004-05-12 動き補正装置及び方法

Country Status (7)

Country Link
US (1) US7425990B2 (ja)
EP (1) EP1513344A4 (ja)
JP (1) JP4565339B2 (ja)
KR (1) KR101016493B1 (ja)
CN (1) CN100401763C (ja)
TW (1) TWI246332B (ja)
WO (1) WO2004102963A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3596520B2 (ja) * 2001-12-13 2004-12-02 ソニー株式会社 画像信号処理装置及び方法
JP3596521B2 (ja) * 2001-12-13 2004-12-02 ソニー株式会社 画像信号処理装置及び方法
KR20040093708A (ko) * 2002-02-06 2004-11-08 코닌클리케 필립스 일렉트로닉스 엔.브이. 세그먼테이션용 유닛 및 방법
JP4371950B2 (ja) * 2004-08-24 2009-11-25 キヤノン株式会社 撮像装置及び信号処理装置
US8115726B2 (en) * 2007-10-26 2012-02-14 Hewlett-Packard Development Company, L.P. Liquid crystal display image presentation
JP4374057B2 (ja) * 2008-02-29 2009-12-02 株式会社東芝 映像信号処理装置及び処理方法
JP4513913B2 (ja) 2008-08-07 2010-07-28 ソニー株式会社 画像信号処理装置および方法
US7911505B2 (en) * 2008-08-20 2011-03-22 Eastman Kodak Company Detecting illuminant flicker
JP4626779B2 (ja) * 2008-08-26 2011-02-09 ソニー株式会社 映像信号処理装置、画像表示装置および映像信号処理方法
JP4960463B2 (ja) * 2010-01-28 2012-06-27 株式会社東芝 映像信号処理装置及び映像信号処理方法
CN102811332B (zh) * 2011-05-31 2015-04-15 Jvc建伍株式会社 影像信号处理装置以及方法
CN102629460B (zh) * 2011-10-27 2014-05-07 北京京东方光电科技有限公司 液晶显示器帧频控制方法和装置
CN112565753B (zh) * 2020-12-06 2022-08-16 浙江大华技术股份有限公司 运动矢量差的确定方法和装置、存储介质及电子装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62213392A (ja) * 1986-03-08 1987-09-19 ア−・エヌ・テ−・ナツハリヒテンテヒニ−ク・ゲゼルシヤフト・ミツト・ベシユレンクテル・ハフツング フイ−ルド補間方法
JPH05137122A (ja) * 1991-11-14 1993-06-01 Hitachi Ltd 映像信号の信号処理方法及び回路
JPH06500910A (ja) * 1991-06-27 1994-01-27 トムソン コンシュメ エレクトロニクス 動画像のシーケンスのタイミングの変換方法
JPH0884293A (ja) * 1994-03-30 1996-03-26 Thomson Consumer Electron Sa 変換アーチファクトの減少方法及び装置
JPH10501953A (ja) * 1995-04-11 1998-02-17 フィリップス エレクトロニクス ネムローゼ フェンノートシャップ 動き補償されたフィールドレート変換
JPH11168703A (ja) * 1997-04-24 1999-06-22 St Microelectron Srl ビデオ用動き予測兼補償フィールドレートアップ変換方法およびこの方法を作動させる装置
JPH11298861A (ja) * 1998-04-14 1999-10-29 Hitachi Ltd 画像信号のフレーム数変換方法および装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0675643B1 (en) * 1994-03-30 1999-07-21 THOMSON multimedia Method and apparatus for reducing conversion artefacts
WO1995027362A2 (en) 1994-04-05 1995-10-12 Philips Electronics Nv Interlaced-to-sequential scan conversion
EP0735746B1 (en) * 1995-03-31 1999-09-08 THOMSON multimedia Method and apparatus for motion compensated frame rate upconversion
JP4083265B2 (ja) * 1997-10-07 2008-04-30 株式会社日立製作所 画像信号の方式変換方法および装置
US6532265B1 (en) 1999-03-25 2003-03-11 Imec Vzw Method and system for video compression
US6473460B1 (en) * 2000-03-31 2002-10-29 Matsushita Electric Industrial Co., Ltd. Method and apparatus for calculating motion vectors
CA2406459C (en) 2000-04-07 2006-06-06 Demografx Enhanced temporal and resolution layering in advanced television
US7116372B2 (en) * 2000-10-20 2006-10-03 Matsushita Electric Industrial Co., Ltd. Method and apparatus for deinterlacing
US7221043B1 (en) * 2000-10-20 2007-05-22 Silverbrook Research Pty Ltd Integrated circuit carrier with recesses
JP3855761B2 (ja) 2001-10-09 2006-12-13 ソニー株式会社 画像信号処理装置及び方法
US7110612B1 (en) * 2001-10-11 2006-09-19 Pixelworks, Inc. Weighted absolute difference based noise reduction method and apparatus
JP3596521B2 (ja) * 2001-12-13 2004-12-02 ソニー株式会社 画像信号処理装置及び方法
JP3596519B2 (ja) * 2001-12-13 2004-12-02 ソニー株式会社 画像信号処理装置及び方法
JP4090764B2 (ja) * 2002-03-18 2008-05-28 パイオニア株式会社 映像信号処理装置
US7154556B1 (en) * 2002-03-21 2006-12-26 Pixelworks, Inc. Weighted absolute difference based deinterlace method and apparatus
JP2003339029A (ja) * 2002-05-20 2003-11-28 Sony Corp 動きベクトル補正回路及び方法
KR100553893B1 (ko) * 2003-10-14 2006-02-24 삼성전자주식회사 타임 시프트와 움직임 보상을 이용한 프레임 레이트 변환장치 및 그 방법

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62213392A (ja) * 1986-03-08 1987-09-19 ア−・エヌ・テ−・ナツハリヒテンテヒニ−ク・ゲゼルシヤフト・ミツト・ベシユレンクテル・ハフツング フイ−ルド補間方法
JPH06500910A (ja) * 1991-06-27 1994-01-27 トムソン コンシュメ エレクトロニクス 動画像のシーケンスのタイミングの変換方法
JPH05137122A (ja) * 1991-11-14 1993-06-01 Hitachi Ltd 映像信号の信号処理方法及び回路
JPH0884293A (ja) * 1994-03-30 1996-03-26 Thomson Consumer Electron Sa 変換アーチファクトの減少方法及び装置
JPH10501953A (ja) * 1995-04-11 1998-02-17 フィリップス エレクトロニクス ネムローゼ フェンノートシャップ 動き補償されたフィールドレート変換
JPH11168703A (ja) * 1997-04-24 1999-06-22 St Microelectron Srl ビデオ用動き予測兼補償フィールドレートアップ変換方法およびこの方法を作動させる装置
JPH11298861A (ja) * 1998-04-14 1999-10-29 Hitachi Ltd 画像信号のフレーム数変換方法および装置

Also Published As

Publication number Publication date
KR20060008271A (ko) 2006-01-26
JP4565339B2 (ja) 2010-10-20
EP1513344A4 (en) 2009-10-28
WO2004102963A1 (ja) 2004-11-25
US7425990B2 (en) 2008-09-16
CN100401763C (zh) 2008-07-09
TWI246332B (en) 2005-12-21
US20050264692A1 (en) 2005-12-01
TW200501748A (en) 2005-01-01
KR101016493B1 (ko) 2011-02-24
EP1513344A1 (en) 2005-03-09
CN1698373A (zh) 2005-11-16

Similar Documents

Publication Publication Date Title
JP4396496B2 (ja) フレームレート変換装置、及び映像表示装置、並びにフレームレート変換方法
JP4513913B2 (ja) 画像信号処理装置および方法
JP5177828B2 (ja) 画像レート変換方法及び画像レート変換装置
JP4565339B2 (ja) 動き補正装置及び方法
JP2003189257A (ja) 画像信号処理装置及び方法
JP3596521B2 (ja) 画像信号処理装置及び方法
JP2000253365A (ja) 解像度変換方法および解像度変換装置
JP3596520B2 (ja) 画像信号処理装置及び方法
JP2007274411A (ja) プルダウン信号検出装置およびプルダウン信号検出方法並びに順次走査変換装置および順次走査変換方法
JP3596519B2 (ja) 画像信号処理装置及び方法
JP4090764B2 (ja) 映像信号処理装置
JP2011019037A (ja) 画像処理回路および画像処理方法
JP5077037B2 (ja) 画像処理装置
JP3500854B2 (ja) 副画面映像信号垂直圧縮回路
JP2007288483A (ja) 画像変換装置
JP2007104652A (ja) 画像信号処理装置、画像信号処理方法、およびプログラム
JP4230903B2 (ja) 映像信号処理装置及び映像信号処理方法
JP2001067042A (ja) インターレース駆動パネル用スキャンコンバータ
JP2010178321A (ja) 動きベクトル補間方法および動きベクトル補間装置
JP2001272962A (ja) 画像表示装置
JP2004173182A (ja) 画像表示装置及び走査線変換表示方法
JP2004165828A (ja) グラフィックスデータの処理装置
JP2003199055A (ja) 順次走査変換装置と順次走査変換方法及びテレビジョン装置
JP2012010040A (ja) 画像処理装置および画像処理方法
JP2013031195A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100708

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100721

R151 Written notification of patent or utility model registration

Ref document number: 4565339

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130813

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250