JP2004023673A - Motion vector detecting apparatus and method therefor movement compensation and method therefor - Google Patents

Motion vector detecting apparatus and method therefor movement compensation and method therefor Download PDF

Info

Publication number
JP2004023673A
JP2004023673A JP2002179049A JP2002179049A JP2004023673A JP 2004023673 A JP2004023673 A JP 2004023673A JP 2002179049 A JP2002179049 A JP 2002179049A JP 2002179049 A JP2002179049 A JP 2002179049A JP 2004023673 A JP2004023673 A JP 2004023673A
Authority
JP
Japan
Prior art keywords
pixel
field
vector
motion
block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2002179049A
Other languages
Japanese (ja)
Inventor
Takanari Hoshino
星野 隆也
Toshio Sarugaku
猿楽 寿雄
Makoto Kondo
近藤 真
Kazuhiko Nishibori
西堀 一彦
Koji Aoyama
青山 幸治
Yukihiko Mogi
茂木 幸彦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2002179049A priority Critical patent/JP2004023673A/en
Priority to PCT/JP2003/007438 priority patent/WO2004002148A1/en
Publication of JP2004023673A publication Critical patent/JP2004023673A/en
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter
    • H04N7/0132Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter the field or frame frequency of the incoming video signal being multiplied by a positive integer, e.g. for flicker reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors

Abstract

<P>PROBLEM TO BE SOLVED: To reduce a calculation volume and reduce circuit size maintaining required precision of a motion vector. <P>SOLUTION: The motion vector is specified between a pixel position of a searching block 53 where calculated difference absolute value sum is minimum and a pixel position of a standard pixel 58, by calculating in sequence the difference absolute value sum of the pixel value between a standard block 51 which makes the standard pixel 58 in a standard field 30 before 1 frame or 2 frames from a reference field 40 inputted as an original point and the searching block 53 moved the reference field 40 at least every other one pixel in vertical direction or/and at least every other one pixel in horizontal direction. <P>COPYRIGHT: (C)2004,JPO

Description

【0001】
【発明の属する技術分野】
本発明は、画質に与える影響を軽減しつつ、回路規模を縮小できる動きベクトル検出装置及び方法、動き補正装置及び方法に関する。
【0002】
【従来の技術】
テレビ放送の走査方式としては、従来から水平走査線を1本おきに飛越して走査するインタレース走査方式が最も広く採用されている。このインタレース走査方式では、奇数番目の走査線から構成されるフィールド画像と、偶数番目の走査線から構成されるフィールド画像により1枚のフレーム画像を形成し、画面全体がちらついて見える面フリッカ妨害を抑え、画面品質の劣化を防止する。
【0003】
また、このインタレース走査方式は、世界各国のテレビジョン標準方式として採用されており、このうち例えば欧州のテレビジョン放送におけるPAL(PhaseAlternation by Line)方式では、フィールド周波数が50〔Hz〕(フレーム画像が25フレーム/秒、フィールド画像が50フィールド/秒)で構成される。
【0004】
特にこのPAL方式では、更なる面フリッカ妨害の抑制を期すべく、入力画像信号へ内挿等の処理を施すことにより、フィールド周波数を50Hzから2倍の100Hzの画像信号に変換する、フィールド周波数倍速方式が従来より採用されている。
【0005】
図14は、このフィールド周波数倍速方式を適用したフィールド倍速変換回路5のブロック構成例を示している。このフィールド倍速変換回路5は、入力端子61と、CRT63と、水平垂直偏向回路62とを備えるテレビジョン受像機6に集積化される。このフィールド倍速変換回路5は、倍速変換部51と、フレームメモリ52とを備える。
【0006】
倍速変換部51は、入力端子61から入力された、例えばPAL方式の50フィールド/秒の画像信号を、フレームメモリ52へ書き込む。また、この倍速変換部51は、フレームメモリ52へ書き込んだ画像信号を、書込み時の2倍の速度で読み出す。これにより、50フィールド/秒の画像信号の周波数を2倍に変換し、100フィールド/秒の画像信号を生成することができる。
【0007】
倍速変換部51は、倍速変換した画像信号をCRT63へ出力する。CRT63は、入力された画像信号を画面上に表示する。なお、CRT63における画像信号の水平、垂直の偏向は、水平垂直偏向回路62において生成された、入力画像信号の2倍の周波数の水平垂直鋸歯状波に基づいて制御する。
【0008】
図15は、倍速変換前後の各画像信号における各フィールドと画素位置との関係を示している。ここで横軸は時間、縦軸は画素の垂直方向の位置を示す。また、図15(a)の白丸で示した画像信号は、倍速変換前の50フィールド/秒のインタレース画像信号であり、図15(b)の黒丸で示した画像信号は、倍速変換した100フィールド/秒のインタレース画像信号である。
【0009】
図15(a)に示す画像信号において、フィールドf1とフィールドf2は、フィルムの同一のコマから作成された信号となり、以下同様にフィールドf3とフィールドf4も同一のコマを構成する。これらの画像信号は、インタレース画像信号であるため、隣り合うフィールド間で垂直方向の画素位置が異なる。このため、インタレース性を保ちつつ、各フィールド間に1個ずつのフィールドを新規に生成することはできない。
【0010】
そこで、図15(b)に示すように、フィールドf1とフィールドf2の間に、新規に2枚のフィールドf´2、f´1を生成する。そして、フィールドf2とフィールドf3の間では、フィールドの生成を行わず、フィールドf3とフィールドf4の間に、新規に2枚のフィールドf´4、f´3を生成する。すなわち4フィールド、2フレームで1つのコマを形成する。
【0011】
この新規に生成したフィールドf´1、f´2、・・・は、それぞれの画素値を、各画素の周囲3画素の中間値として、メディアン・フィルタ等を用いて求める場合もある。また、この新規に生成したフィールドf´1、f´2、・・・は、それぞれフィールドf1、f2、・・と同じ内容となる。
【0012】
すなわち、フィールド倍速変換回路5は、倍速変換前の画像信号のフィールド間に2枚のフィールドを新規に生成する部分と全く生成しない部分とを交互に配置することで、単位時間当たりの画面枚数を増やすことができ、上述の面フリッカ妨害を抑えることが可能となる。
【0013】
ところで、24コマ/秒の静止画で構成される映画のフィルムを通常のテレビで見るためには、インターレースのTV信号にするために、テレビシネマ変換(以下、テレシネ変換と称する)を行う。このテレシネ変換後の画像信号において、水平方向へ画像が移動する場合における各フィールドと画像位置の関係を図16に示す。ここで横軸は画像の水平方向における位置、縦軸は時間を示している。図16(a)に示す倍速変換前の画像信号において、フィールドf1、f2は、同一のコマを構成するため、同じ位置に画像が表示される。この画像は、フィールドf3に移行すると水平方向(右方向)へ移動する。フィールドf4は、フィールドf3と同一のコマを構成するため、フィールドf3と同一の位置に表示される。
【0014】
この図16(a)に示すテレシネ変換後の画像信号をフィールド周波数倍速方式により倍速変換すると、図16(b)に示すように、同一のコマを構成するフィールドf1、f´2、f´1、f2で、同一位置に同一の画像が表示される。同様に、同一のコマを構成するフィールドf3、f´4、f´3、f4で同一位置に同一の画像が表示される。
【0015】
また、倍速変換前のテレビジョン信号(以下、TV信号という)において、水平方向へ画像が移動する場合における各フィールドと画像位置の関係を図17(a)に示す。この図17(a)において、フィールドf1、f2、f3・・・は、それぞれ独立したコマを形成するため、別の位置に画像が表示される。この画像は、フィールドf1から、f2、f3・・・と移行する毎に、水平方向(右方向)へ移動する。
【0016】
この図17(a)に示すTV信号の画像信号をフィールド周波数倍速方式により倍速変換すると、図17(b)に示すように、同一のコマを構成するフィールドf1、f´2において、同一位置に同一の画像が表示される。同様に、同一のコマを構成するフィールドf´1、f2において、同一位置に同一の画像が表示される。
【0017】
ところで、図16(b)に示すように、テレシネ変換後、倍速変換した画像信号において、画像はフィールドf1〜f2まで同じ位置に表示される一方、f2〜f3に移行する場合に大きく水平方向へ移動する。同様にTV信号を倍速変換した画像信号についても、図17(b)に示すように、画像はフィールドf1〜f´2まで同じ位置に表示される一方、f´2〜f´1に移行する場合に大きく水平方向へ移動する。特に出力画像信号は、1/100秒の周期で規則的に各フィールドを構成しているため、画像の動作する時間帯が画像の静止する時間帯と比較して短く、実際にCRTを介して番組を視聴すると画像の動きが不連続に見えるという問題があった。
【0018】
このため従来では、かかる動きの不連続性を解消するため、例えばブロックマッチング法に基づき、画面を所定の画素からなるブロックに分割し、各ブロック単位で近似度を評価することにより動きベクトルを求め、当該求めた動きベクトルに応じて各ブロック毎に画素位置をシフトさせて動き補正していた。
【0019】
ちなみにこのブロックマッチング法は、図18に示すように、基準フィールドを複数の基準ブロック101に分割し、基準フィールド80における基準ブロック101と最も高い近似度を示すブロックを、参照フィールド90における探索範囲104内を移動する探索ブロック103から検出する。そして当該検出された探索ブロック103と基準ブロック101間の位置のずれ(移動の方向と大きさ)を動きベクトルとする。
【0020】
上述の近似度の判定は、先ず探索ブロック103の各画素値について、基準ブロック101の対応する画素値との差分をとり、その差によって示される評価値、例えば差分絶対値和を求める。次に、上述の判定操作を全ての探索ブロック103について行い、それぞれ求めた評価値和、すなわち各差分絶対値和から最小のものを求める。この最小の差分絶対値和を与える探索ブロック103を、基準ブロック101と最も高い近似度を示すブロックとし、かかるブロックの画素位置に応じて動きベクトルを特定する。
【0021】
このようにして求められた動きベクトルのベクトル方向へ、補正量が上記ベクトル量の範囲内となるように、上述の倍速変換した画像信号の各画素を動き補正することにより、上述した画像の動きの不連続性を解消することができる。
【0022】
図19(a)は、図16(b)に示すテレシネ変換後倍速変換した画像信号の各画素について動き補正する場合を示した図であり、図19(b)は、図17(b)に示すTV信号を倍速変換した画像信号の各画素について動き補正する場合を示した図である。
【0023】
図19(a)の場合には、フィールドf1とフィールドf3間で動きベクトルa11を求め、この求めた動きベクトルa11のベクトル方向へ、かつベクトル量の範囲内で、フィールドf´2〜フィールドf2の各画素を徐々にシフトさせる。
【0024】
図19(b)の場合には、フィールドf1とフィールドf´1間で動きベクトルb11を求め、この求めた動きベクトルb11のベクトル方向へ、かつベクトル量の範囲内で、フィールドf´2の画素をシフトさせる。同様に、フィールドf´1とフィールドf3間で動きベクトルb12を求め、この求めた動きベクトルb12のベクトル方向へ、かつベクトル量の範囲内で、フィールドf2の画素をシフトさせる。
【0025】
これにより、コマを構成するフィールドの各画素は、点線に示す位置までシフトさせることができ、全体としてスムーズな動きを実現することができることから上述した画像の動きの不連続性を改善することが可能となる。
【0026】
【発明が解決しようとする課題】
しかしながら、上述した基準ブロック101及び探索ブロック103は、単に画面を所定の画素数の集合に分割されてなり、これらのブロック101、103内は、画素が間隙なく敷き詰められて構成されている。このような基準ブロック101及び探索ブロック103との間で上述の近似度を判定する場合には、各ブロック101、103を構成する全ての画素につき差分絶対値を求め、該差分絶対値の総和を演算しなければならず、回路規模が著しく増大してしまう。
【0027】
また、テレシネ変換後倍速変換して生成した画像信号は、1コマ4フィールドで構成されているため、TV信号を倍速変換した1コマ2フィールドで構成されている画像信号と比較して、求められる動きベクトルのベクトル量は大きい(図19のa11、b11、b12参照)。このためテレシネ変換後の画像信号を動き補正する場合には、TV信号の場合と比較して探索範囲104を広く設定して探索ブロック103を順次移動させなければならず、膨大な差分絶対値の演算量により回路規模はさらに増大してしまう。
【0028】
更に、テレシネ変換後の画像信号とTV信号とが双方とも入力される場合においても、上述した画像の動きの不連続性を効率よく解消する必要があるが、実装されるテレビジョン受像機の仕様を満たすべく、いずれの信号が入力された場合にも、TV信号が入力された場合の演算量と同等とすることで回路規模の統一化を図る必要がある。
【0029】
そこで本発明は上述した問題点に鑑みて提案されたものであり、画質に与える影響を軽減しつつ、差分絶対値の演算量を軽減させることにより回路規模を縮小できる動きベクトル検出装置及び方法、並びに動き補正装置及び方法を提供することを目的とする。
【0030】
【課題を解決するための手段】
本発明者は、上述した課題を解決するために、入力される参照フィールドから1フレーム或いは2フレーム前の基準フィールドにおける基準画素を原点とする基準ブロックと、上記参照フィールドを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、演算された差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定することにより、求められる動きベクトルの精度を維持しつつ演算量を軽減することができ、ひいては回路規模を縮小することができる動きベクトル検出装置及び方法を発明した。
【0031】
すなわち、本発明に係る動きベクトル検出装置は、上述の課題を解決するために、入力される参照フィールドから1フレーム或いは2フレーム前の基準フィールドの各画素につき、ブロックマッチング法により動きベクトルを検出する動きベクトル検出装置において、上記基準フィールドにおける基準画素を原点とする基準ブロックを切り出し、また上記参照フィールドにおける探索ブロックを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動させて切り出すブロック切出手段と、上記ブロック切出手段より切り出した基準ブロック及び探索ブロックとの間で画素値の差分絶対値和を順次演算するベクトル演算手段と、上記ベクトル演算手段により演算された差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定するベクトル特定手段とを備えることを特徴とする。
【0032】
また、本発明に係る動きベクトル検出方法は、上述の課題を解決するために、入力される参照フィールドから1フレーム或いは2フレーム前の基準フィールドの各画素につき、ブロックマッチング法により動きベクトルを検出する動きベクトル検出方法において、上記基準フィールドにおける基準画素を原点とする基準ブロックを切り出し、また上記参照フィールドにおける探索ブロックを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動させて切り出し、上記切り出した基準ブロック及び探索ブロックとの間で画素値の差分絶対値和を順次演算し、上記演算した差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定することを特徴とする。
【0033】
また本発明者は、上述した課題を解決するために、入力される参照フィールドから1フレーム或いは2フレーム前の基準フィールドにおける基準画素を原点とする基準ブロックと、参照フィールドを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算することにより動きベクトルを検出し、当該動きベクトルに基づき基準フィールドにおける基準画素の位置をシフトさせる動き補正装置及び方法を発明した。
【0034】
すなわち、本発明に係る動き補正装置は、上述した課題を解決するために、入力される参照フィールドから2フレーム前の基準フィールドの各画素につき動き補正する動き補正装置において、上記基準フィールドにおける基準画素を原点とする基準ブロックと、上記参照フィールドを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、演算された差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定するベクトル特定手段と、上記ベクトル特定手段により特定された上記動きベクトルのベクトル方向へシフト量が上記ベクトル量の範囲内となるように、上記基準フィールドにおける基準画素の位置をシフトさせる画素シフト手段とを備えることを特徴とする。
【0035】
また本発明に係る動き補正装置は、上述した課題を解決するために、入力される参照フィールドから1フレーム前の基準フィールドの各画素につき動き補正する動き補正装置において、上記基準フィールドにおける基準画素を原点とする基準ブロックと、上記参照フィールドを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、演算された差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定するベクトル特定手段と、上記ベクトル特定手段により特定された上記動きベクトルのベクトル方向へ、シフト量が上記ベクトル量の範囲内となるように、上記基準フィールドにおける基準画素の位置をシフトさせる画素シフト手段とを備えることを特徴とする。
【0036】
また本発明に係る動き補正装置は、上述した課題を解決するために、入力される参照フィールドから1フレーム前或いは2フレーム前の基準フィールドの各画素につき動き補正する動き補正装置において、入力される上記1フレーム前或いは2フレーム前の基準フィールドを切り換える切換手段と、上記切換手段により切り換えられた基準フィールドにおける基準画素を原点とする基準ブロックと上記参照フィールドを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、演算された差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定するベクトル特定手段と、上記ベクトル特定手段により特定された上記動きベクトルのベクトル方向へ、シフト量が上記ベクトル量の範囲内となるように、上記基準フィールドにおける基準画素の位置をシフトさせる画素シフト手段とを備えることを特徴とする。
【0037】
すなわち、本発明に係る動き補正方法は、上述した課題を解決するために、入力される参照フィールドから2フレーム前の基準フィールドの各画素につき動き補正する動き補正方法において、上記基準フィールドにおける基準画素を原点とする基準ブロックと、上記参照フィールドを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、演算した差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定し、上記特定した上記動きベクトルのベクトル方向へ、シフト量が上記ベクトル量の範囲内となるように、上記基準フィールドにおける基準画素の位置をシフトさせる画素シフト手段とを備えることを特徴とする。
【0038】
また本発明に係る動き補正方法は、上述した課題を解決するために、入力される参照フィールドから1フレーム前の基準フィールドの各画素につき動き補正する動き補正方法において、上記基準フィールドから基準画素を原点とする基準ブロックと上記参照フィールドを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、演算した差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定し、上記特定した上記動きベクトルのベクトル方向へ、シフト量が上記ベクトル量の範囲内となるように、上記基準フィールドにおける基準画素の位置をシフトさせることを特徴とする。
【0039】
また本発明に係る動き補正方法は、上述した課題を解決するために、入力される参照フィールドから1フレーム前或いは2フレーム前の基準フィールドの各画素につき、動き補正する動き補正方法において、入力される上記1フレーム前或いは2フレーム前の基準フィールドを切り換え、上記切り換えた基準フィールドにおける基準画素を原点とする基準ブロックと上記参照フィールドを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、演算したされた差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定し、上記特定した上記動きベクトルのベクトル方向へ、シフト量が上記ベクトル量の範囲内となるように、上記基準フィールドにおける基準画素の位置をシフトさせることを特徴とする。
【0040】
【発明の実施の形態】
以下、本発明を適用した動き補正装置及び方法、並びに動きベクトル検出装置及び方法について図面を参照して詳細に説明する。
【0041】
図1は、本発明の第1の実施の形態における動き補正装置1のブロック構成図である。動き補正装置1は、例えばPAL(Phase Alternation by Line)方式によるテレビジョン受像機に内蔵され、図1に示すように、第1の画像メモリ11と、第2の画像メモリ12と、スイッチ13と、動きベクトル検出部14と、画像シフト部15とを備えている。
【0042】
第1の画像メモリ11は、テレビジョン信号を倍速変換することにより生成された1コマが2フィールドで構成されたインタレース画像信号(以下TV信号と称する)や、テレシネ変換した画像を倍速変換することにより生成された1コマが4フィールドで構成されたインタレース画像信号(以下テレシネ変換信号と称する)が順次供給される。
【0043】
第1の画像メモリ11は、供給された画像信号を各フィールド単位で1フレーム分格納する。すなわち第1の画像メモリ11から出力される画像信号は、この第1の画像メモリ11に供給される画像信号より1フレーム前になる。
【0044】
第2の画像メモリ12は、第1の画像メモリ11と同様の内部構成を有し、第1の画像メモリ11から供給された画像信号を、各フィールド単位で、1フレーム分格納する。すなわち、第2の画像メモリ12から出力される画像信号は、この第2の画像メモリ12に供給される画像信号より1フレーム前になり、第1の画像メモリ11に供給される画像信号より2フレーム前になる。この第2の画像メモリ12に格納された画像信号は、画像シフト部15並びに動きベクトル検出部14に供給される。以下、第2の画像メモリ12から動きベクトル検出部14へ送信される画像信号を基準フィールド30と称する。
【0045】
スイッチ13は、第1の画像メモリ11に供給される画像信号と、第1の画像メモリ11から出力される画像信号を順次切り換え、これを動きベクトル検出部14へ送信する。以下、このスイッチ13から動きベクトル検出部14へ送信される画像信号を参照フィールド40と称する。このスイッチ13は、TV信号が入力された場合には、図1中”ノーマル”側に切り換えられ、動きベクトル検出部14へ送信される参照フィールド40は、基準フィールド30よりも1フレーム後となる。一方、このスイッチ部13は、テレシネ変換信号が入力された場合に図1中”フィルム”側に切り換えられ、動きベクトル検出部14へ送信される参照フィールド40は、基準フィールド30よりも2フレーム後となる。
【0046】
動きベクトル検出部14は、供給される基準フィールド30と参照フィールド40に基づいて動きベクトルをブロック毎或いは画素毎に検出し、検出した動きベクトル或いは当該動きベクトルに基づくシフト量、シフト方向に関する情報を画像シフト部15へ出力する。
【0047】
画像シフト部15は、動きベクトル検出部14が検出した動きベクトル或いは、当該動きベクトルに基づくシフト量等の情報を各ブロック毎或いは各画素毎に受信する。また画像シフト部15は、第2の画像メモリ12から供給された画像信号における各画素位置或いは各ブロックを、受信した動きベクトルのベクトル量の範囲内でベクトル方向へシフトさせる。なおこの画像シフト部15は、ベクトル方向へシフトさせた画像信号をCRT2へ出力する。CRT2は、入力された画像信号を画面上に表示する。CRT2における画像信号の水平、垂直方向の偏向は、図示しない水平垂直偏向回路に基づき制御される場合もある。
【0048】
なお動き補正装置1には、画像信号のフィールド周波数を倍速変換するフィールド倍速変換回路3が集積される場合もある。フィールド倍速変換回路3は、解像度を向上させることにより、面フリッカ妨害を防止すべく集積されるものであり、例えばPAL方式において補間等の処理を行うことにより、フィールド周波数が50Hzの画像信号を2倍の100Hzの画像信号に変換する。
【0049】
フィールド周波数変換回路3は、図1に示すように、テレビジョン受像機に接続された入力端子31と、倍速変換部32と、フレームメモリ33とを備える。
【0050】
倍速変換部32は、テレビジョン受像機から入力端子31を介して入力された、テレシネ変換後の画像信号を、フレームメモリ33へ書き込む。また、この倍速変換部32は、フレームメモリ33へ書き込んだ画像信号を、書込み時の2倍の速度で読み出す。これにより、例えば、PAL方式の50フィールド/秒の画像信号の周波数を2倍に変換し、100フィールド/秒の画像信号を生成することができる。倍速変換部32は、この倍速変換した画像信号を動き補正装置1へ供給する。
【0051】
図2は、このフィールド倍速変換回路3における倍速変換前後の各フィールドと画素位置の関係を示している。ここで横軸は時間、縦軸は画素の垂直方向の位置を示す。
【0052】
倍速変換前の画像信号は、PAL方式の50フィールド/秒のインタレース画像信号であり、図2(a)に示すように、2フィールドで1つのコマを形成する。
【0053】
一方、倍速変換後の画像信号は、100フィールド/秒のインタレース画像信号であるため、図2(b)に示すように、フィールドt1とフィールドt2の間に、新規に2枚のフィールドt´2、t´1を生成する。そして、フィールドt2とフィールドt3の間では、フィールドの生成を行わず、フィールドt3とフィールドt4の間に、新規に2枚のフィールドt´4、t´3を生成する。すなわち、画像信号は、例えばテレシネ変換信号の場合、4フィールドで1つのコマを形成することとなる。
【0054】
この新規に生成したフィールドt´1、t´2、・・・は、それぞれの画素値を、各画素の周囲3画素の中間値として求めてもよい。また、この新規に生成したフィールドt´1、t´2、・・・は、それぞれフィールドt1、t2、・・と同じ内容となる。これにより、例えばテレシネ変換信号の場合、4フィールドで1つのコマを形成することとなり、単位時間当たりの画面枚数を増やすことで解像度を向上させることができ、面フリッカ妨害を抑制することが可能となる。
【0055】
次に、本発明を適用した動き補正装置1の動作について、先ずTV信号が入力された場合を例にとり説明をする。
【0056】
動き補正装置1は、フィールド倍速変換回路3から、テレビジョン信号を倍速変換することにより生成された1コマが2フィールドで構成されたTV信号が順次供給される。このTV信号の水平方向へ画像が移動する場合における各フィールドと画像位置の関係を図3に示す。この図3において、横軸は画像の水平方向における位置、縦軸は時間を示している。フィールド周波数倍速方式により倍速変換されたTV信号は、同一のコマを構成するフィールドt1、t´2において、同一位置に同一の画像が表示される。同様に、同一のコマを構成するフィールドt´1、t2において、同一位置に同一の画像が表示される。
【0057】
スイッチ13は、かかるTV信号を受けて、図1中”ノーマル”側に切り換えられ、基準フィールド30と、当該基準フィールド30より1フレーム後の参照フィールド40が動きベクトル検出部14へ供給される。
【0058】
動きベクトル検出部14は、基準フィールド30と参照フィールド40との間で、例えばブロックマッチング法に基づき、各画素又は各ブロック単位で動きベクトルを検出する。
【0059】
動きベクトル検出部14は、図4(a)に示すように基準フィールド30を、基準画素58を中心としたm×n画素からなる基準ブロック51に分割し、当該基準ブロック51と最も高い近似度を示すブロックを、図4(b)に示す参照フィールド40における探索範囲54内を移動する探索ブロック53から検出する。探索ブロック53は、中心画素59を中心とし、基準ブロック51と同じサイズであるm×n画素からなり、この探索ブロック53が移動する探索範囲54は、M×N画素からなる。動きベクトル検出部14は、基準ブロック51と最も高い近似度を示す探索ブロック53の中心画素59との間で動きベクトルを特定する。
【0060】
上述の近似度の判定は、先ず探索ブロック53の各画素値について、基準ブロック51の対応する画素値との差分をとり、その差によって示される評価値、例えば差分絶対値和を求める。次に、上述の判定操作を全ての探索ブロック53について行い、それぞれ求めた評価値、すなわち各差分絶対値和から最小のものを求める。この最小の差分絶対値和を与える探索ブロック53を、基準ブロック51と最も高い近似度を示すブロックとし、かかるブロックの画素位置に応じて動きベクトルを特定する。
【0061】
ちなみに、探索ブロック53は、中心画素59が図4(b)に示される探索範囲54を構成する画素全て走査するように移動する。換言すれば、探索ブロック53は、探索範囲54を1画素ずつずれるようにして移動していく。これにより、求められる動きベクトルの精度を高めることができる。
【0062】
図3に示す例の場合には、動きベクトルのベクトル方向は、基準フィールド30を基準としたとき右方向となり、参照フィールドがt´1のときにベクトル量はCとなる。同様に、参照フィールドがt3の場合には、基準フィールドは、t´1となり、動きベクトルのベクトル量はDとなる。この手順を繰り返すことにより、基準フィールド30を基準とした動きベクトルのベクトル方向とベクトル量を順次求めることができる。動きベクトル検出部14は、この求めた動きベクトルのベクトル量とベクトル方向とを画像シフト部15へ順次送信する。
【0063】
画像シフト部15は、第1の画像メモリ12から供給される画像信号を、各フィールドの前後関係に基づき、検出画素の位置をベクトル方向へシフトさせる。ここでコマを構成する2フィールドのうち、最初に入力されるフィールドを第1のフィールドとし、第1のフィールドの次に入力されるフィールドを第2のフィールドとしたときに、各フィールドのシフト量は、図5に示すように、第1のフィールド<第2のフィールド、となるように順次増大させる。なお、各フィールドが第1のフィールド又は第2のフィールドのいずれに該当するか判別するためには、2フィールド単位でのシーケンスを検出する必要があるが、フィールド倍速変換回路3により倍速変換する際に該当するフィールドは判明するため、このようなシーケンス検出の必要性は無い。
【0064】
また、上述のように画像をシフトさせると、図5の点線で示すことができるが、画像をシフトさせる前と比べて、第2のフィールドから第1のフィールドへ移行する際に画像を大きく移動させることなく、画像の動きをスムーズにすることができる。
【0065】
このような構成からなる動き補正装置1に、フィールド倍速変換回路3を集積化してテレビジョン受像機に内蔵することにより、TV信号を倍速変換した画像において、動きの不連続感を解消することができる。すなわち、フィールド倍速変換回路3により解像度を向上させ、面フリッカ妨害を抑制した各画像の動きを、更にスムーズにすることにより、相乗的に画質を向上させることができる。
【0066】
従って、この動き補正装置1は、単独で実施する場合のみならず、フィールド倍速変換回路3と一体で実施することで顕著な効果が得られる。またフィールド倍速変換回路が既に集積化されているテレビジョン受像機に対しても、後からこの動き補正装置1を内蔵することにより、バージョンアップを容易に実現することができる。
【0067】
なお、画像シフト部15における画像のシフト量は、例えば図6に示すように、第1のフィールドのシフト量を0とし、第2のフィールドのシフト量を検出した動きベクトルのベクトル量の1/2倍にすることも可能である。図6の場合には、第1のフィールドのシフト量を0とし、ベクトル量がCの場合には、第2のフィールドをC×1/2だけシフトさせる。また、ベクトル量がDの場合には、第2のフィールドをD×1/2だけシフトさせる。1コマが2フィールドで構成されているため、ベクトル量の1/2倍ずつ増加させることにより、シフト量を時間に対して線形に増加させることが可能となり、画像の動きを更にスムーズにすることができる。
【0068】
次に、本発明を適用した動き補正装置1の動作について、テレシネ変換信号が入力された場合を例にとり説明をする。
【0069】
動き補正装置1は、フィールド倍速変換回路3から、テレシネ変換した画像を倍速変換することにより生成された1コマが4フィールドで構成されるテレシネ変換信号が順次供給される。このテレシネ変換信号の水平方向へ画像が移動する場合における各フィールドと画像位置の関係を図7に示す。この図7において、横軸は画像の水平方向における位置、縦軸は時間を示している。フィールド周波数変換方式により倍速変換されたテレシネ変換信号は、フィールドt1、t´2、t´1、t2の順で、一定の時間間隔で第1の画像メモリ11に供給され、画像は全て同一の位置に表示される。またフィールドt3に移行すると画像が水平方向(右方向)に移り、フィールドt3、t´4、t´3、t4の順で第1の画像メモリ11に供給される。
【0070】
スイッチ13は、かかるテレシネ変換信号を受けて、図1中”フィルム”側に切り換わり、基準フィールド30と、当該基準フィールド30より2フレーム後の参照フィールド40が動きベクトル検出部14へ供給される。
【0071】
動きベクトル検出部14は、基準フィールド30と参照フィールド40との間で、例えばブロックマッチング法に基づき、各画素又は各ブロック単位で動きベクトルを検出する。
【0072】
動きベクトル検出部14は、図8(a)に示すように基準フィールド30を、基準画素58を中心としたm×n画素からなる基準ブロック51に分割し、当該基準ブロック51と最も高い近似度を示すブロックを、図8(b)に示す参照フィールド40における探索範囲54内を移動する探索ブロック53から検出する。探索ブロック53は、中心画素59を中心とし、基準ブロック51と同じサイズであるm×n画素からなり、またこの探索ブロック53が移動する探索範囲54は、2M×2N画素からなり、TV信号の探索範囲54と比較して縦横2倍、面積は4倍とする。
【0073】
すなわち、テレシネ変換信号は、1コマ4フィールドで構成されているため、1コマ2フィールドで構成されているTV信号と比較して、求められる動きベクトルのベクトル量は大きい。例えばTV信号における画像の動き速度と、テレシネ変換信号の画像の動き速度が同一である場合には、テレシネ変換信号の探索範囲を上述の如く縦横2倍の大きさに設定する必要がある。ちなみに、この探索範囲は、TV信号の探索範囲54の縦横2倍に限定されることなく、いかなるサイズで構成してもよい。
【0074】
動きベクトル検出部14は、基準ブロック51と最も高い近似度を示す探索ブロック53の中心画素59との間で動きベクトルを特定する。
【0075】
なお、この探索ブロック53は、中心画素59が図8(b)に示される探索範囲54を構成する画素を縦横1画素おきに、色付画素上のみ走査するように移動する。換言すれば、探索ブロック53は、探索範囲54を縦横1画素おきにずれるようにして移動していく。探索範囲54は、テレシネ変換信号の場合に、2M×2N画素からなり、TV信号の探索範囲54と比較して縦横2倍(面積は4倍)となるが、探索範囲54を縦横1画素おきに間引いて探索することにより、差分絶対値の計算量がTV信号のM×N画素からなる探索範囲54と等しくすることができる。
【0076】
すなわち本発明は、テレシネ変換信号が入力された場合に、探索範囲54をTV信号の探索範囲と比較して4倍とすることで、真の動きベクトルを求めることができ、また、探索ブロック53を縦横1画素おきに走査させていくことにより、差分絶対和の演算量を抑えることができ、回路規模の縮小を図ることが可能となる。
【0077】
また、テレシネ変換後の画像信号とTV信号を順次切り換えて動き補正する動き補正装置1では、特に差分絶対値和の演算量が膨大となるテレシネ変換信号において、TV信号が入力された場合と同等の演算量とすることで回路規模の統一化を図ることができ、ひいてはテレビジョン受像機の仕様を満たすことができる。
【0078】
図7に示す例の場合において、この動きベクトル検出部14により求められる動きベクトルのベクトル方向は、基準フィールド30を基準としたとき右方向となり、参照フィールドがt3のときにベクトル量はAとなる。同様に、参照フィールドがt5の場合には、基準フィールドはt3となり、動きベクトルのベクトル量はBとなる。この手順を繰り返すことにより、基準フィールド30を基準とした動きベクトルのベクトル方向とベクトル量を順次求めることができる。動きベクトル検出部14は、この求めた動きベクトルのベクトル量とベクトル方向とを画像シフト部15へ順次送信する。
【0079】
画像シフト部15は、第2の画像メモリ12から供給される画像信号を、各フィールドの前後関係に基づき、検出画素の位置をベクトル方向へシフトさせる。ここでコマを構成する4フィールドのうち、最初に入力されるフィールドを第1のフィールドとし、第1のフィールドの次に入力されるフィールドを第2のフィールド、以降第3、第4とフィールドが続くときに、各フィールドのシフト量は、図9に示すように、第1のフィールド<第2のフィールド<第3のフィールド<第4のフィールドとなるように順次増大させる。
【0080】
上述のように画像をシフトさせると、図10に示されるように、画像をシフトさせる前と比べて、第4のフィールドから第1のフィールドへ移行する際に画像を大きく移動させることなく、画像の動きをスムーズにすることができる。
【0081】
このような構成からなる動き補正装置1に、フィールド倍速変換回路3を集積化してテレビジョン受像機に内蔵することにより、テレシネ変換信号が入力された場合においても、回路規模をTV信号と同程度まで抑え込みつつ、動きの不連続感を解消することができる。すなわち、フィールド倍速変換回路3により解像度を向上させ、面フリッカ妨害を抑制した各画像の動きを、更にスムーズにすることにより、相乗的に画質を向上させることができる。
【0082】
この動き補正装置1は、単独で実施する場合のみならず、フィールド倍速変換回路3と一体で実施することで顕著な効果が得られる。また、フィールド倍速変換回路が既に集積化されているテレビジョン受像機に対しても、後からこの動き補正装置1を内蔵することにより、バージョンアップを容易に実現することができる。
【0083】
なお、画像シフト部15における画像のシフト量は、例えば図11に示すように第1のフィールドのシフト量を0とし、第2のフィールドのシフト量を検出した動きベクトルのベクトル量の1/4倍とし、以降1/4倍ずつ増加させていくことも可能である。このとき、第1のフィールドのシフト量を0とし、ベクトル量がAの場合には、第2のフィールドをA×1/4だけシフトさせ、第3のフィールドをA×2/4だけシフトさせ、第4のフィールドをA×3/4だけシフトさせることにより、シフト量を時間に対して線形に増加させることが可能となり、画像の動きを更にスムーズにすることができる。
【0084】
ちなみに、テレシネ変換信号は、探索範囲54を縦横1画素おきに間引いて探索するため、求められる動きベクトルは、1画素分の誤差が生じる可能性がある。しかしながら、この画像シフト部15において、求めた動きベクトルを4で除した数だけ画素をシフトさせることため、かかる1画素分の誤差についても4で除されることとなり、かかる画素による視覚上の不都合は殆ど解消されることとなる。また、1コマ4フィールドで構成されるテレシネ変換信号は、動き補正を施さない場合に不連続な動きによる画質劣化が著しいが、本発明に係る動き補正装置1により動き補正することにより、画質を格段に向上させることができるため、求められる動きベクトルの精度が少々低くても視覚上の影響は殆ど生じない。
【0085】
また本発明は、テレシネ変換信号が入力された場合に、動きベクトル検出部14において動きベクトルを特定する前に予め図示しないローパスフィルタ(LPF)を掛けることもできる。このLPFの帯域を最適化することにより、動きベクトル検出部14が縦横1画素おきに探索範囲54を探索する際に、真の動きベクトルが間引かれた画素位置に存在する場合でも、全く異なる動きベクトルが求められるのを防止することができる。
【0086】
なお、テレシネ変換信号が入力された場合における動きベクトルの検出例は、上述した実施の形態に限定されるものではなく、例えば以下の方法により動きベクトルを検出しても良い。
【0087】
動きベクトル検出部14は、図12(a)に示すように基準フィールド30を、基準画素58を中心とした2m×2n画素からなる基準ブロック61に分割し、当該基準ブロック61と最も高い近似度を示すブロックを、図12(b)に示す参照フィールド40における探索範囲64内を移動する探索ブロック63から検出する。
【0088】
この基準ブロック61は、上述したm×n画素からなる基準ブロック51と比較して縦横2倍、面積は4倍である。またこの基準ブロック61は、夫々縦横1画素おきに間引かれて構成されているため、基準ブロック61を構成する画素数は、基準ブロック51を構成する画素数と同一となる。探索ブロック63は、中心画素59を中心とし、基準ブロック61と同じサイズである2m×2n画素からなり、縦横1画素おきに間引かれて構成される。この探索ブロック63が移動する探索範囲64は、2M×2N画素からなり、TV信号の探索範囲54と比較して縦横2倍、面積は4倍とする。動きベクトル検出部14は、基準ブロック51と最も高い近似度を示す探索ブロック63の中心画素59との間で動きベクトルを特定する。なお、これらの各ブロック61、63並びに探索範囲64のサイズは、上述に限定されることなくいかなるサイズであっても良い。
【0089】
探索ブロック53は、中心画素59が図9(b)に示される探索範囲54を構成する画素を縦横1画素おきに、色付画素上のみ走査するように移動する。換言すれば、探索ブロック63は、図12(b)に示される探索範囲64を縦横1画素おきにずれるようにして移動していく。探索範囲64は、テレシネ変換信号の場合に、2M×2N画素からなり、TV信号の探索範囲64と比較して縦横2倍(面積は4倍)となるが、探索範囲64を縦横1画素おきに間引いて探索することにより、差分絶対値の計算量がTV信号のM×N画素からなる探索範囲54と等しくすることができる。
【0090】
なお、動きベクトル検出部14は、テレシネ変換信号が入力された場合に、図8(b)、図12(b)に示されるように、探索範囲54、64上を、中心画素59が色付画素上を走査していくように、換言すれば探索ブロック53、63が縦横1画素おきにずれていくように探索を行うが、かかる場合に限定されるものではない。例えば図13(a)に示すように、横のみ1画素おきにずらして探索し、縦は1画素おきにずらさないで探索しても良い。同様に縦のみ1画素おきにずらして探索し、横は1画素おきにずらさないで探索しても良い。また、画素をずらす間隔も1画素に限定されるものではなく、例えば2画素おき或いは3画素おき等のように、少なくとも1画素おきであれば足りる。図13(b)は、縦を1画素おきに、また横を3画素おきにずらして探索する例を示している。すなわち、本発明では、探索ブロックを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきにずらして探索すればいかなる探索方法であっても良い。これにより探索範囲54、64を広範囲としつつ、回路規模を減縮させることが可能となる。
【0091】
また、図12に示される基準ブロック61、探索ブロック63は、縦横1画素おきに間引かれる場合のみならず、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに間引かれれば足りる。このため、例えば2画素おき或いは3画素おきに間引かれた基準ブロック61、探索ブロック63を用いてブロックマッチングを行っても良いことは勿論である。
【0092】
またこの動きベクトル検出部14は、テレシネ変換信号が入力された場合のみならず、TV信号が入力された場合に、上述した図8(b)、図12(b)の如く縦横1画素おきに探索ブロック53を移動させることより探索を行っても良い。また、上述した図13の如く少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに探索ブロック53を移動させることより探索を行っても良い。これにより、TV信号が入力された場合に、さらに演算量を軽減させることができ、また図示しないローパスフィルタ(LPF)の帯域を最適化することにより、求められる動きベクトルの精度を維持することも可能となる。
【0093】
なお本発明を適用した動き補正装置1は、上述した実施の形態に限定されるものではなく、例えば図1において、スイッチ13を常時”ノーマル”側に切り換えておくことも可能である。これにより動きベクトル検出部14へ送信される参照フィールド40は、基準フィールド30よりも常に1フレーム後となるため、かかる構成を採用する動き補正装置1は、TV信号のみ動き補正することができる動き補正回路を構成することとなる。この場合、動きベクトル検出部14は、入力されるTV信号に対してテレシネ変換信号の場合と同様、図8(b)、図12(b)に示されるように縦横1画素おきに探索ブロック53を走査させることにより探索を行う。これにより、入力されたTV信号につき少ない演算量で動きベクトルを求めることができ、回路規模を縮小することができる。
【0094】
また本発明を適用した動き補正装置1は、上述した実施の形態に限定されるものではなく、例えば図1において、スイッチ13を常時”フィルム”側に切り換えておくことも可能である。これにより動きベクトル検出部14へ送信される参照フィールド40は、基準フィールド30よりも常に2フレーム後となるため、かかる構成を採用する動き補正装置1は、テレシネ変換信号のみ動き補正することができる動き補正回路を構成することとなる。これにより、TV信号と比較してより広範な探索範囲54を必要とするテレシネ変換信号につき、差分絶対値の演算量を減らすことができ、回路規模を縮小することができる。
【0095】
なお、本発明は、PAL方式によるテレビジョン受像機に対して適用される場合に限定されることはなく、例えば、NTSC(National TV System Committee)方式の60フィールド秒(30コマ/秒)のインタレース画像信号が入力されるテレビジョン受像機に対しても適用可能である。また、SECAM方式によるテレビジョン受像機に対しても適用可能である。
【0096】
また、本発明は、テレビジョン受像機に内蔵される場合のみならず、テレビジョン受像機に接続する信号変換器へも内蔵可能である。
【0097】
また、本発明は、インターネットで伝送されるような画像信号をPCなどで表示する場合や、メディアや画像フォーマットを変換するケースにも応用することができる。
【0098】
更に、本発明は、回路等、ハードウェアで実現する形で説明しているが、プロセッサ上でのソフトウェアとしても実現可能であることは勿論である。
【0099】
【発明の効果】
以上詳細に説明したように、本発明に係る動きベクトル検出装置及び方法は、入力される参照フィールドから1フレーム或いは2フレーム前の基準フィールドにおける基準画素を原点とする基準ブロックと、参照フィールドにおける探索範囲内を少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動する探索ブロックとの間で画素値の差分絶対値和を順次演算し、演算された差分絶対値和が最小となる探索ブロックの画素位置と基準画素の画素位置との間で動きベクトルを特定する。これにより、本発明に係る動きベクトル検出装置及び方法は、求める動きベクトルの精度を維持しつつ演算量を軽減することができ、ひいては回路規模を縮小することができる。
【0100】
以上詳細に説明したように、本発明に係る動き補正装置及び方法は、入力される参照フィールドから1フレーム或いは2フレーム前の基準フィールドにおける基準画素を原点とする基準ブロックと、参照フィールドにおける探索範囲内を少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動する探索ブロックとの間で画素値の差分絶対値和を順次演算することにより動きベクトルを検出し、当該動きベクトルに基づき、基準フィールドにおける基準画素の位置をシフトさせる。これにより本発明に係る動き検出装置は、演算量を減らすことにより回路規模を縮小しつつ、動きの不連続感を解消させることができる。
【図面の簡単な説明】
【図1】本発明を適用した動き補正装置のブロック構成を示した図である。
【図2】フィールド倍速変換回路における倍速変換前後の各フィールドと画素位置の関係を示した図である。
【図3】TV信号において水平方向へ画像が移動する場合における各フィールドと画像位置の関係を示した図である。
【図4】動きベクトル検出部において、TV信号が入力された場合の動作を説明するための図である。
【図5】画像シフト部において、入力されたTV信号につき画素位置をシフトさせる例を示した図である。
【図6】画像シフト部において、第1のフィールドのシフト量を0とし、第2のフィールドのシフト量を検出した動きベクトルのベクトル量の1/2倍とした例を示した図である。
【図7】テレシネ変換信号において水平方向へ画像が移動する場合における各フィールドと画像位置の関係を示した図である。
【図8】動きベクトル検出部において、テレシネ変換信号が入力された場合の動作を説明するための図である。
【図9】画像シフト部において、入力されたテレシネ変換信号につき画素位置をシフトさせる例を示した図である。
【図10】画像シフト部において画素位置をシフトさせた結果、画像の動きをスムーズにさせた例を示した図である。
【図11】画像シフト部において、第1のフィールドのシフト量を0とし、以降動きベクトルのベクトル量の1/4倍ずつ増加させる例を示した図である。
【図12】夫々縦横1画素おきに間引いて構成した各ブロックに基づき動きベクトルを検出する例を示した図である。
【図13】少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに探索ブロック53を移動させる例を示した図である。
【図14】フィールド周波数倍速方式を適用したフィールド倍速変換回路のブロック構成図である。
【図15】倍速変換前後の各フィールドと画素位置の関係を示した図である。
【図16】テレシネ変換信号が入力される場合において、水平方向へ画像が移動する場合における各フィールドと画像位置の関係を示した図である。
【図17】TV信号が入力される場合において、水平方向へ画像が移動するときの各フィールドと画像位置の関係を示した図である。
【図18】従来のブロックマッチング法について説明するための図である。
【図19】テレシネ変換信号及びTV信号につき動きベクトルを求める例を示した図である。
【符号の説明】
1 動き補正装置、2 CRT、3 フィールド倍速変換回路、11 第1の画像メモリ、12 第2の画像メモリ、13 スイッチ、14 動きベクトル検出部、15 画像シフト部、31 入力端子、32 倍速変換部、33 フレームメモリ
[0001]
TECHNICAL FIELD OF THE INVENTION
The present invention relates to a motion vector detection device and method, and a motion correction device and method that can reduce the circuit scale while reducing the effect on image quality.
[0002]
[Prior art]
As a scanning method of television broadcasting, an interlaced scanning method of skipping every other horizontal scanning line and scanning has been most widely used. In this interlaced scanning method, one frame image is formed by a field image composed of odd-numbered scanning lines and a field image composed of even-numbered scanning lines, so that the entire screen appears flickering. And prevent deterioration of screen quality.
[0003]
This interlaced scanning system is adopted as a television standard system in various countries around the world. Among them, for example, in a PAL (Phase Alternation by Line) system in European television broadcasting, a field frequency is 50 [Hz] (frame image). Is 25 frames / sec, and the field image is 50 fields / sec).
[0004]
In particular, in this PAL system, in order to further suppress surface flicker interference, the input image signal is subjected to processing such as interpolation to convert the field frequency from 50 Hz to a doubled 100 Hz image signal. The method has been adopted conventionally.
[0005]
FIG. 14 shows a block configuration example of the field double speed conversion circuit 5 to which the field frequency double system is applied. The field double speed conversion circuit 5 is integrated in a television receiver 6 including an input terminal 61, a CRT 63, and a horizontal / vertical deflection circuit 62. The field double speed conversion circuit 5 includes a double speed conversion unit 51 and a frame memory 52.
[0006]
The double speed conversion unit 51 writes, for example, an image signal of 50 fields / second in the PAL system, input from the input terminal 61, to the frame memory 52. Further, the double speed conversion unit 51 reads out the image signal written in the frame memory 52 at twice the speed at the time of writing. As a result, the frequency of the image signal of 50 fields / second is doubled, and an image signal of 100 fields / second can be generated.
[0007]
The double speed conversion unit 51 outputs the double speed converted image signal to the CRT 63. The CRT 63 displays the input image signal on a screen. The horizontal and vertical deflection of the image signal in the CRT 63 is controlled based on a horizontal and vertical sawtooth wave generated by the horizontal and vertical deflection circuit 62 and having a frequency twice that of the input image signal.
[0008]
FIG. 15 shows the relationship between each field and the pixel position in each image signal before and after the double speed conversion. Here, the horizontal axis indicates time, and the vertical axis indicates the vertical position of the pixel. The image signal indicated by a white circle in FIG. 15A is an interlaced image signal of 50 fields / sec before double-speed conversion, and the image signal indicated by a black circle in FIG. This is an interlaced image signal of field / second.
[0009]
In the image signal shown in FIG. 15A, the field f1 and the field f2 are signals generated from the same frame of the film, and similarly, the field f3 and the field f4 also form the same frame. Since these image signals are interlaced image signals, pixel positions in the vertical direction differ between adjacent fields. For this reason, it is not possible to newly generate one field between each field while maintaining the interlace property.
[0010]
Therefore, as shown in FIG. 15B, two new fields f′2 and f′1 are generated between the field f1 and the field f2. Then, no field is generated between the field f2 and the field f3, and two new fields f'4 and f'3 are generated between the field f3 and the field f4. That is, one frame is formed by four fields and two frames.
[0011]
In each of the newly generated fields f′1, f′2,..., A pixel value may be obtained using a median filter or the like as an intermediate value of three pixels surrounding each pixel. The newly generated fields f′1, f′2,... Have the same contents as the fields f1, f2,.
[0012]
That is, the field double-speed conversion circuit 5 alternately arranges a part for newly generating two fields and a part for no generation between the fields of the image signal before the double-speed conversion, thereby reducing the number of screens per unit time. It is possible to suppress the above-mentioned surface flicker disturbance.
[0013]
By the way, in order to watch a movie film composed of 24 frames / second still images on a normal television, a television cinema conversion (hereinafter referred to as a telecine conversion) is performed in order to make an interlaced TV signal. FIG. 16 shows the relationship between each field and the image position when the image moves in the horizontal direction in the image signal after the telecine conversion. Here, the horizontal axis represents the position of the image in the horizontal direction, and the vertical axis represents time. In the image signal before the double-speed conversion shown in FIG. 16A, the fields f1 and f2 constitute the same frame, so that the image is displayed at the same position. This image moves in the horizontal direction (rightward) when shifting to the field f3. The field f4 is displayed at the same position as the field f3 because it constitutes the same frame as the field f3.
[0014]
When the image signal after the telecine conversion shown in FIG. 16A is double-speed-converted by the field frequency double method, as shown in FIG. 16B, the fields f1, f'2, and f'1 constituting the same frame , F2, the same image is displayed at the same position. Similarly, the same image is displayed at the same position in the fields f3, f'4, f'3, and f4 constituting the same frame.
[0015]
FIG. 17A shows a relationship between each field and an image position when an image moves in the horizontal direction in a television signal (hereinafter, referred to as a TV signal) before double-speed conversion. In FIG. 17A, since the fields f1, f2, f3,... Form independent frames, images are displayed at different positions. This image moves in the horizontal direction (rightward) every time the image f1 shifts from the field f1 to f2, f3.
[0016]
When the image signal of the TV signal shown in FIG. 17A is double-speed-converted by the field frequency double speed method, as shown in FIG. 17B, in the fields f1 and f'2 constituting the same frame, The same image is displayed. Similarly, the same image is displayed at the same position in the fields f'1 and f2 constituting the same frame.
[0017]
By the way, as shown in FIG. 16B, in the image signal subjected to the double speed conversion after the telecine conversion, the image is displayed at the same position in the fields f1 to f2, but largely in the horizontal direction when shifting to f2 to f3. Moving. Similarly, as for the image signal obtained by converting the TV signal at double speed, as shown in FIG. 17B, the image is displayed at the same position in the fields f1 to f′2, and shifts to f′2 to f′1. If you move heavily horizontally. In particular, since the output image signal regularly configures each field with a period of 1/100 second, the time zone in which the image operates is shorter than the time zone in which the image is stationary, and the output image signal is actually transmitted via the CRT. There has been a problem that when watching a program, the movement of the image looks discontinuous.
[0018]
For this reason, conventionally, in order to eliminate such a discontinuity of motion, a screen is divided into blocks of predetermined pixels based on, for example, a block matching method, and a motion vector is obtained by evaluating an approximation degree for each block. In addition, the motion is corrected by shifting the pixel position for each block according to the obtained motion vector.
[0019]
In this block matching method, as shown in FIG. 18, the reference field is divided into a plurality of reference blocks 101, and a block having the highest similarity with the reference block 101 in the reference field 80 is searched for in the search range 104 in the reference field 90. It is detected from the search block 103 moving inside. Then, the detected position shift (direction and magnitude of movement) between the search block 103 and the reference block 101 is used as a motion vector.
[0020]
In the above-described determination of the degree of approximation, first, a difference between each pixel value of the search block 103 and a corresponding pixel value of the reference block 101 is obtained, and an evaluation value indicated by the difference, for example, a sum of absolute difference values is obtained. Next, the above-described determination operation is performed on all the search blocks 103, and the minimum evaluation value is obtained from the obtained evaluation value sums, that is, the difference absolute value sums. The search block 103 giving the minimum sum of absolute differences is a block showing the highest similarity to the reference block 101, and a motion vector is specified according to the pixel position of the block.
[0021]
By performing motion correction on each pixel of the above-described double-speed-converted image signal so that the correction amount is within the range of the vector amount in the vector direction of the motion vector obtained in this manner, the above-described motion of the image is performed. Can be eliminated.
[0022]
FIG. 19A is a diagram showing a case where motion correction is performed for each pixel of the image signal subjected to the double speed conversion after the telecine conversion shown in FIG. 16B, and FIG. FIG. 9 is a diagram illustrating a case where motion correction is performed for each pixel of an image signal obtained by performing double-speed conversion on the TV signal shown.
[0023]
In the case of FIG. 19A, the motion vector a11 is obtained between the field f1 and the field f3, and the motion vector a11 is obtained in the vector direction of the obtained motion vector a11 and within the range of the vector amount. Each pixel is gradually shifted.
[0024]
In the case of FIG. 19B, a motion vector b11 is obtained between the field f1 and the field f′1, and the pixel of the field f′2 is set in the vector direction of the obtained motion vector b11 and within the range of the vector amount. Shift. Similarly, the motion vector b12 is obtained between the field f'1 and the field f3, and the pixels of the field f2 are shifted in the vector direction of the obtained motion vector b12 and within the range of the vector amount.
[0025]
As a result, each pixel of the field constituting the frame can be shifted to the position shown by the dotted line, and smooth motion can be realized as a whole. Therefore, the above-described discontinuity of the motion of the image can be improved. It becomes possible.
[0026]
[Problems to be solved by the invention]
However, the above-described reference block 101 and search block 103 are simply obtained by dividing the screen into a set of a predetermined number of pixels, and the blocks 101 and 103 are configured such that pixels are spread without gaps. When determining the above-described degree of similarity between the reference block 101 and the search block 103, the absolute difference values are obtained for all the pixels constituting each of the blocks 101 and 103, and the sum of the absolute difference values is calculated. Operation must be performed, and the circuit scale is significantly increased.
[0027]
Further, since the image signal generated by the double speed conversion after the telecine conversion is composed of four fields per frame, it is obtained by comparing with the image signal composed of two fields per frame obtained by double-converting the TV signal. The vector amount of the motion vector is large (see a11, b11, b12 in FIG. 19). For this reason, when motion-correcting the image signal after the telecine conversion, the search block 104 must be set wider and the search block 103 must be sequentially moved as compared with the case of the TV signal. The amount of calculation further increases the circuit scale.
[0028]
Further, even when both the image signal and the TV signal after the telecine conversion are input, it is necessary to efficiently eliminate the discontinuity of the image movement described above. In order to satisfy the above, it is necessary to unify the circuit scale by making the amount of operation equal to that when a TV signal is input, regardless of which signal is input.
[0029]
Therefore, the present invention has been proposed in view of the above-described problems, and a motion vector detection device and method capable of reducing the circuit size by reducing the amount of calculation of the absolute value of the difference while reducing the influence on the image quality. And a motion compensation device and method.
[0030]
[Means for Solving the Problems]
In order to solve the above-described problem, the present inventor has set a reference block whose origin is a reference pixel in a reference field one frame or two frames before an input reference field, and sets the reference field at least every other vertical pixel. And / or sequentially calculate the sum of absolute differences of pixel values between the search block shifted at least every other horizontal pixel, and the pixel position of the search block in which the calculated sum of absolute differences is minimum and the reference pixel A motion vector detecting apparatus and method capable of reducing the amount of calculation while maintaining the accuracy of the required motion vector by specifying the motion vector between the pixel positions of the motion vector and the circuit size. Invented.
[0031]
That is, in order to solve the above-described problem, the motion vector detection device according to the present invention detects a motion vector by a block matching method for each pixel of a reference field one frame or two frames before an input reference field. In the motion vector detecting device, a reference block having a reference pixel in the reference field as an origin is cut out, and a search block in the reference field is moved at least every vertical pixel and / or at least every horizontal pixel to cut out a block. Output means, vector calculating means for sequentially calculating the sum of absolute differences of pixel values between the reference block and the search block cut out by the block extracting means, and the sum of absolute differences calculated by the vector calculating means. Pixel position of minimum search block and the above reference Characterized in that it comprises a vector specifying means for specifying a motion vector between a pixel position of the element.
[0032]
In addition, in order to solve the above-mentioned problem, the motion vector detection method according to the present invention detects a motion vector by a block matching method for each pixel of a reference field one frame or two frames before an input reference field. In the motion vector detecting method, a reference block having a reference pixel as an origin in the reference field is cut out, and a search block in the reference field is cut out by moving at least every vertical pixel or / and at least every horizontal pixel. The difference absolute value sum of the pixel values is sequentially calculated between the cut-out reference block and the search block, and the sum of the calculated difference absolute value sum is minimized between the pixel position of the search block and the pixel position of the reference pixel. It is characterized in that a motion vector is specified.
[0033]
In addition, in order to solve the above-described problem, the inventor sets a reference block whose origin is a reference pixel in a reference field one frame or two frames before an input reference field, and sets a reference field at least every other vertical pixel. And / or sequentially calculating the sum of absolute differences of pixel values between the search block and the search block moved at least every other horizontal pixel to detect a motion vector, and determine the position of the reference pixel in the reference field based on the motion vector. We have invented a device and method for shifting motion compensation.
[0034]
That is, in order to solve the above-described problem, the motion compensation device according to the present invention includes a motion compensation device that performs motion compensation for each pixel of the reference field two frames before the input reference field. , And a search block in which the reference field is moved at least every other vertical pixel and / or at least every other horizontal pixel, to sequentially calculate the sum of absolute differences of pixel values. Vector specifying means for specifying a motion vector between the pixel position of the search block and the pixel position of the reference pixel in which the sum of absolute differences is minimized, and in the vector direction of the motion vector specified by the vector specifying means. The position of the reference pixel in the reference field is shifted so that the shift amount is within the range of the vector amount. Characterized in that it comprises a pixel shifting means for.
[0035]
Further, in order to solve the above-described problem, the motion compensation apparatus according to the present invention includes a motion compensation apparatus that performs motion compensation for each pixel of a reference field one frame before a reference field to be input. The sum of absolute differences of pixel values is sequentially calculated between the reference block that is the origin and the search block in which the reference field is moved at least every other pixel and / or at least every other pixel, and the calculated sum is calculated. A vector specifying unit that specifies a motion vector between the pixel position of the search block in which the sum of absolute differences is the minimum and the pixel position of the reference pixel, and a vector direction of the motion vector specified by the vector specifying unit. The position of the reference pixel in the reference field is shifted so that the shift amount is within the range of the vector amount. Characterized in that it comprises a pixel shift unit that.
[0036]
In addition, in order to solve the above-described problem, the motion compensation device according to the present invention is configured such that motion compensation is performed for each pixel of a reference field one frame before or two frames before an input reference field. Switching means for switching the reference field one frame before or two frames before; a reference block whose origin is a reference pixel in the reference field switched by the switching means; and the reference field at least every other vertical pixel and / or The difference absolute value sum of the pixel values is sequentially calculated between the search block shifted every other horizontal pixel and the pixel position of the search block in which the calculated difference absolute value sum is the minimum and the pixel position of the reference pixel. Vector specifying means for specifying a motion vector between The vector direction of a motion vector, shift amount to be within a range of the vector quantity, characterized in that it comprises a pixel shifting means for shifting the position of the reference pixel in the reference field.
[0037]
That is, in order to solve the above-described problem, the motion compensation method according to the present invention provides a motion compensation method for performing motion compensation for each pixel of the reference field two frames before the input reference field. , And a search block in which the reference field is moved at least every other pixel vertically and / or at least every other horizontal pixel, and sequentially calculates the sum of absolute differences of pixel values. A motion vector is specified between the pixel position of the search block in which the sum of absolute differences is the minimum and the pixel position of the reference pixel, and the shift amount is within the range of the vector amount in the vector direction of the specified motion vector. Pixel shift means for shifting the position of a reference pixel in the reference field. That.
[0038]
In order to solve the above-mentioned problem, the motion compensation method according to the present invention is a motion compensation method for performing motion compensation for each pixel of a reference field one frame before a reference field to be input. The difference absolute value sum of pixel values is sequentially calculated between the reference block as the origin and the search block in which the reference field is moved at least every other pixel and / or at least every other pixel, and the calculated difference absolute value is calculated. A motion vector is specified between the pixel position of the search block where the sum of the values is minimum and the pixel position of the reference pixel, and the shift amount in the vector direction of the specified motion vector is within the range of the vector amount. As described above, the position of the reference pixel in the reference field is shifted.
[0039]
Further, in order to solve the above-mentioned problem, the motion compensation method according to the present invention provides a motion compensation method for performing motion compensation for each pixel of a reference field one frame before or two frames before an input reference field. The reference field one frame before or two frames before is switched, and the reference block having the reference pixel as the origin in the switched reference field and the reference field are moved at least every other vertical pixel and / or at least every other horizontal pixel. The sum of the absolute values of the pixel values is sequentially calculated between the search block and the search block, and the motion vector is calculated between the pixel position of the search block where the calculated sum of the absolute differences is minimum and the pixel position of the reference pixel. And the shift amount in the vector direction of the specified motion vector is within the range of the vector amount. As, characterized in that shifting the position of the reference pixel in the reference field.
[0040]
BEST MODE FOR CARRYING OUT THE INVENTION
Hereinafter, a motion compensation device and method and a motion vector detection device and method to which the present invention is applied will be described in detail with reference to the drawings.
[0041]
FIG. 1 is a block diagram of a motion compensation device 1 according to the first embodiment of the present invention. The motion compensation device 1 is built in a television receiver of, for example, a PAL (Phase Alternation by Line) system, and includes a first image memory 11, a second image memory 12, a switch 13 as shown in FIG. , A motion vector detecting unit 14 and an image shifting unit 15.
[0042]
The first image memory 11 performs double-speed conversion on an interlaced image signal (hereinafter referred to as a TV signal) in which one frame is composed of two fields generated by performing double-speed conversion on a television signal, or an image obtained by performing telecine conversion. Thus, an interlaced image signal (hereinafter, referred to as a telecine conversion signal) in which one frame is composed of four fields is sequentially supplied.
[0043]
The first image memory 11 stores the supplied image signal for one frame for each field. That is, the image signal output from the first image memory 11 is one frame before the image signal supplied to the first image memory 11.
[0044]
The second image memory 12 has the same internal configuration as the first image memory 11, and stores one frame of the image signal supplied from the first image memory 11 in units of fields. That is, the image signal output from the second image memory 12 is one frame before the image signal supplied to the second image memory 12 and is two frames ahead of the image signal supplied to the first image memory 11. Before the frame. The image signal stored in the second image memory 12 is supplied to the image shift unit 15 and the motion vector detection unit 14. Hereinafter, the image signal transmitted from the second image memory 12 to the motion vector detection unit 14 is referred to as a reference field 30.
[0045]
The switch 13 sequentially switches an image signal supplied to the first image memory 11 and an image signal output from the first image memory 11, and transmits this to the motion vector detection unit 14. Hereinafter, the image signal transmitted from the switch 13 to the motion vector detecting unit 14 is referred to as a reference field 40. When a TV signal is input, the switch 13 is switched to the “normal” side in FIG. 1, and the reference field 40 transmitted to the motion vector detection unit 14 is one frame after the reference field 30. . On the other hand, when the telecine conversion signal is input, the switch unit 13 is switched to the “film” side in FIG. 1, and the reference field 40 transmitted to the motion vector detection unit 14 is two frames after the reference field 30. It becomes.
[0046]
The motion vector detection unit 14 detects a motion vector for each block or pixel based on the supplied reference field 30 and reference field 40, and outputs information on the detected motion vector or a shift amount and a shift direction based on the motion vector. Output to the image shift unit 15.
[0047]
The image shift unit 15 receives a motion vector detected by the motion vector detection unit 14 or information such as a shift amount based on the motion vector for each block or each pixel. Further, the image shift unit 15 shifts each pixel position or each block in the image signal supplied from the second image memory 12 in the vector direction within the range of the vector amount of the received motion vector. Note that the image shift unit 15 outputs the image signal shifted in the vector direction to the CRT 2. The CRT 2 displays the input image signal on a screen. The horizontal and vertical deflection of the image signal in the CRT 2 may be controlled based on a horizontal / vertical deflection circuit (not shown).
[0048]
In some cases, the motion correction device 1 is integrated with a field double speed conversion circuit 3 that doubles the field frequency of the image signal. The field double speed conversion circuit 3 is integrated so as to prevent surface flicker interference by improving the resolution. The image signal is converted into a double 100 Hz image signal.
[0049]
As shown in FIG. 1, the field frequency conversion circuit 3 includes an input terminal 31 connected to a television receiver, a double speed conversion unit 32, and a frame memory 33.
[0050]
The double-speed converter 32 writes the telecine-converted image signal input from the television receiver via the input terminal 31 to the frame memory 33. Further, the double speed conversion unit 32 reads out the image signal written in the frame memory 33 at twice the speed at the time of writing. Thus, for example, the frequency of an image signal of 50 fields / second in the PAL system can be doubled to generate an image signal of 100 fields / second. The double speed conversion unit 32 supplies the double speed converted image signal to the motion correction device 1.
[0051]
FIG. 2 shows the relationship between each field and the pixel position before and after the double speed conversion in the field double speed conversion circuit 3. Here, the horizontal axis indicates time, and the vertical axis indicates the vertical position of the pixel.
[0052]
The image signal before double-speed conversion is an interlaced image signal of 50 fields / second in the PAL system, and one frame is formed by two fields as shown in FIG.
[0053]
On the other hand, since the image signal after the double speed conversion is an interlaced image signal of 100 fields / second, as shown in FIG. 2B, two fields t 'are newly added between the fields t1 and t2. 2. Generate t′1. Then, no field is generated between the fields t2 and t3, and two new fields t'4 and t'3 are generated between the fields t3 and t4. That is, in the case of an image signal, for example, a telecine conversion signal, one frame is formed in four fields.
[0054]
In each of the newly generated fields t′1, t′2,..., Each pixel value may be obtained as an intermediate value of three pixels around each pixel. The newly generated fields t'1, t'2, ... have the same contents as the fields t1, t2, ..., respectively. As a result, for example, in the case of a telecine conversion signal, one frame is formed in four fields, the resolution can be improved by increasing the number of screens per unit time, and it is possible to suppress surface flicker interference. Become.
[0055]
Next, the operation of the motion compensating apparatus 1 to which the present invention is applied will be described by taking a case where a TV signal is input as an example.
[0056]
The motion compensation device 1 is supplied with a TV signal composed of two fields, one frame generated by performing a double speed conversion of a television signal, from the field double speed conversion circuit 3 sequentially. FIG. 3 shows the relationship between each field and the image position when the image moves in the horizontal direction of the TV signal. In FIG. 3, the horizontal axis represents the position of the image in the horizontal direction, and the vertical axis represents time. The same image is displayed at the same position in the fields t1 and t'2 constituting the same frame in the TV signal which has been double-speed converted by the field frequency double speed method. Similarly, the same image is displayed at the same position in the fields t'1 and t2 constituting the same frame.
[0057]
The switch 13 is switched to the “normal” side in FIG. 1 in response to the TV signal, and the reference field 30 and the reference field 40 one frame after the reference field 30 are supplied to the motion vector detection unit 14.
[0058]
The motion vector detection unit 14 detects a motion vector between the reference field 30 and the reference field 40 for each pixel or each block based on, for example, a block matching method.
[0059]
The motion vector detecting unit 14 divides the reference field 30 into a reference block 51 composed of m × n pixels centered on the reference pixel 58 as shown in FIG. Is detected from the search block 53 moving within the search range 54 in the reference field 40 shown in FIG. 4B. The search block 53 is composed of m × n pixels having the same size as the reference block 51 with the center pixel 59 at the center, and the search range 54 in which the search block 53 moves is composed of M × N pixels. The motion vector detection unit 14 specifies a motion vector between the reference block 51 and the center pixel 59 of the search block 53 having the highest similarity.
[0060]
In the above-described determination of the degree of similarity, first, a difference between each pixel value of the search block 53 and a corresponding pixel value of the reference block 51 is obtained, and an evaluation value indicated by the difference, for example, a sum of absolute differences is obtained. Next, the above-described determination operation is performed for all the search blocks 53, and the smallest evaluation value is obtained from the obtained evaluation values, that is, the sums of the difference absolute values. The search block 53 that gives the minimum sum of absolute differences is a block showing the highest similarity to the reference block 51, and a motion vector is specified according to the pixel position of the block.
[0061]
Incidentally, the search block 53 moves so that the center pixel 59 scans all the pixels constituting the search range 54 shown in FIG. 4B. In other words, the search block 53 moves so as to shift the search range 54 by one pixel. Thereby, the accuracy of the required motion vector can be improved.
[0062]
In the case of the example shown in FIG. 3, the vector direction of the motion vector is rightward with respect to the reference field 30, and the vector amount is C when the reference field is t'1. Similarly, when the reference field is t3, the reference field is t'1, and the vector amount of the motion vector is D. By repeating this procedure, the vector direction and vector amount of the motion vector based on the reference field 30 can be sequentially obtained. The motion vector detection unit 14 sequentially transmits the obtained vector amount and vector direction of the motion vector to the image shift unit 15.
[0063]
The image shift unit 15 shifts the position of the detection pixel in the vector direction of the image signal supplied from the first image memory 12 based on the context of each field. Here, of the two fields composing the frame, when the first input field is the first field and the second input field after the first field is the second field, the shift amount of each field is set. Are sequentially increased so that the first field <the second field, as shown in FIG. In order to determine whether each field corresponds to the first field or the second field, it is necessary to detect a sequence in units of two fields. Since the field corresponding to is determined, there is no need for such sequence detection.
[0064]
Also, when the image is shifted as described above, it can be indicated by a dotted line in FIG. 5, but the image is largely moved when shifting from the second field to the first field as compared with before the image is shifted. It is possible to smooth the movement of the image without causing the image to move.
[0065]
By integrating the field double speed conversion circuit 3 in the motion correction device 1 having such a configuration and incorporating it in the television receiver, it is possible to eliminate the sense of discontinuity of motion in the image obtained by double-speed converting the TV signal. it can. In other words, the image quality can be synergistically improved by improving the resolution by the field double speed conversion circuit 3 and further smoothing the movement of each image in which the flicker interference is suppressed.
[0066]
Therefore, not only the case where the motion compensating device 1 is implemented alone but also a remarkable effect can be obtained by implementing the motion compensating device 1 integrally with the field double speed conversion circuit 3. Further, even for a television receiver in which a field double speed conversion circuit is already integrated, it is possible to easily upgrade the version by incorporating the motion compensation device 1 later.
[0067]
The shift amount of the image in the image shift unit 15 is, for example, as shown in FIG. 6, the shift amount of the first field is set to 0, and the shift amount of the second field is 1 / the amount of the motion vector obtained by detecting the shift amount of the second field. It can be doubled. In the case of FIG. 6, the shift amount of the first field is set to 0, and when the vector amount is C, the second field is shifted by C × 1 /. When the vector amount is D, the second field is shifted by D × 1 /. Since one frame is composed of two fields, it is possible to increase the shift amount linearly with respect to time by increasing the vector amount by 倍 times, thereby further smoothing the motion of the image. Can be.
[0068]
Next, the operation of the motion compensating apparatus 1 to which the present invention is applied will be described using a case where a telecine conversion signal is input as an example.
[0069]
The motion correction device 1 is sequentially supplied from the field double speed conversion circuit 3 with a telecine conversion signal in which one frame generated by performing a double speed conversion of the telecine-converted image is composed of four fields. FIG. 7 shows the relationship between each field and the image position when the image moves in the horizontal direction of the telecine conversion signal. In FIG. 7, the horizontal axis represents the position of the image in the horizontal direction, and the vertical axis represents time. The telecine conversion signal double-speed converted by the field frequency conversion method is supplied to the first image memory 11 at fixed time intervals in the order of the fields t1, t'2, t'1, and t2, and the images are all the same. Displayed at the location. When the image shifts to the field t3, the image shifts in the horizontal direction (rightward), and is supplied to the first image memory 11 in the order of the fields t3, t'4, t'3, and t4.
[0070]
The switch 13 receives the telecine conversion signal and switches to the “film” side in FIG. 1. The reference field 30 and the reference field 40 two frames after the reference field 30 are supplied to the motion vector detection unit 14. .
[0071]
The motion vector detection unit 14 detects a motion vector between the reference field 30 and the reference field 40 for each pixel or each block based on, for example, a block matching method.
[0072]
The motion vector detection unit 14 divides the reference field 30 into reference blocks 51 each including m × n pixels centered on a reference pixel 58 as shown in FIG. Is detected from the search block 53 moving within the search range 54 in the reference field 40 shown in FIG. 8B. The search block 53 is composed of m × n pixels having the same size as the reference block 51 with the center pixel 59 at the center. The search range 54 in which the search block 53 moves is composed of 2M × 2N pixels, and Compared to the search range 54, the length and width are twice and the area is four times.
[0073]
That is, since the telecine conversion signal is composed of four fields per frame, the vector amount of the motion vector required is larger than that of a TV signal composed of two fields per frame. For example, when the moving speed of the image in the TV signal is the same as the moving speed of the image of the telecine conversion signal, it is necessary to set the search range of the telecine conversion signal to twice as large in the vertical and horizontal directions as described above. Incidentally, this search range is not limited to twice the length and width of the TV signal search range 54, and may be configured in any size.
[0074]
The motion vector detection unit 14 specifies a motion vector between the reference block 51 and the center pixel 59 of the search block 53 having the highest similarity.
[0075]
Note that the search block 53 moves so that the center pixel 59 scans only the pixels that constitute the search range 54 shown in FIG. In other words, the search block 53 moves so that the search range 54 is shifted every vertical and horizontal pixels. The search range 54 is composed of 2M × 2N pixels in the case of a telecine-converted signal, and is twice as long and wide (the area is four times) as compared with the search range 54 for TV signals. , The amount of calculation of the absolute difference value can be made equal to the search range 54 composed of M × N pixels of the TV signal.
[0076]
That is, according to the present invention, when a telecine-converted signal is input, a true motion vector can be obtained by making the search range 54 four times as large as the search range of the TV signal. Is scanned every other pixel in the vertical and horizontal directions, the amount of calculation of the absolute difference sum can be suppressed, and the circuit scale can be reduced.
[0077]
Further, in the motion compensating apparatus 1 that sequentially switches the image signal and the TV signal after the telecine conversion to perform the motion correction, particularly in the case of the telecine conversion signal in which the operation amount of the sum of absolute difference is enormous, the same as when the TV signal is input. By using the above calculation amount, the circuit scale can be unified, and the specifications of the television receiver can be satisfied.
[0078]
In the case of the example shown in FIG. 7, the vector direction of the motion vector obtained by the motion vector detecting unit 14 is rightward with respect to the reference field 30, and the vector amount is A when the reference field is t3. . Similarly, when the reference field is t5, the reference field is t3, and the vector amount of the motion vector is B. By repeating this procedure, the vector direction and vector amount of the motion vector based on the reference field 30 can be sequentially obtained. The motion vector detection unit 14 sequentially transmits the obtained vector amount and vector direction of the motion vector to the image shift unit 15.
[0079]
The image shift unit 15 shifts the position of the detection pixel in the vector direction in the image signal supplied from the second image memory 12 based on the context of each field. Here, of the four fields constituting the frame, the first field to be input is the first field, the field to be input next to the first field is the second field, and the third and fourth fields are the following fields. Subsequently, as shown in FIG. 9, the shift amount of each field is sequentially increased such that first field <second field <third field <fourth field.
[0080]
When the image is shifted as described above, as shown in FIG. 10, the image is not greatly moved when shifting from the fourth field to the first field as compared with before the image is shifted. Movement can be smooth.
[0081]
By integrating the field double speed conversion circuit 3 into the motion compensation device 1 having such a configuration and incorporating it in the television receiver, the circuit scale is almost the same as that of the TV signal even when a telecine conversion signal is input. It is possible to eliminate the sense of discontinuity in movement while suppressing the movement. In other words, the image quality can be synergistically improved by improving the resolution by the field double speed conversion circuit 3 and further smoothing the movement of each image in which the flicker interference is suppressed.
[0082]
This motion compensator 1 has a remarkable effect not only when implemented alone, but also when implemented integrally with the field double speed conversion circuit 3. In addition, the television receiver in which the field double speed conversion circuit is already integrated can easily be upgraded by incorporating the motion compensation device 1 later.
[0083]
The shift amount of the image in the image shift unit 15 is, for example, as shown in FIG. 11, the shift amount of the first field is set to 0, and the shift amount of the second field is 1 / of the vector amount of the motion vector detected. It is also possible to increase the number by 1/4 times thereafter. At this time, the shift amount of the first field is set to 0, and when the vector amount is A, the second field is shifted by A × 1 / and the third field is shifted by A ××. By shifting the fourth field by A × 3/4, the shift amount can be linearly increased with respect to time, and the motion of the image can be further smoothed.
[0084]
Incidentally, since the telecine conversion signal is searched by thinning out the search range 54 at every other pixel in the vertical and horizontal directions, there is a possibility that an error of one pixel is generated in the obtained motion vector. However, since the image shift unit 15 shifts the pixels by the number obtained by dividing the obtained motion vector by 4, such an error of one pixel is also divided by 4, which causes a visual inconvenience due to such pixels. Is almost completely eliminated. In the case of a telecine conversion signal composed of four fields per frame, image quality is significantly degraded due to discontinuous motion when no motion correction is performed. Since the motion vector can be greatly improved, even if the required accuracy of the motion vector is slightly low, there is almost no visual influence.
[0085]
Further, according to the present invention, when a telecine-converted signal is input, a low-pass filter (LPF) (not shown) can be applied in advance before the motion vector detecting unit 14 specifies a motion vector. By optimizing the LPF band, when the motion vector detection unit 14 searches the search range 54 every other pixel in the vertical and horizontal directions, even if the true motion vector exists at the pixel position where the motion vector is thinned out, it is completely different. It is possible to prevent a motion vector from being obtained.
[0086]
The example of detecting a motion vector when a telecine conversion signal is input is not limited to the above-described embodiment. For example, a motion vector may be detected by the following method.
[0087]
The motion vector detection unit 14 divides the reference field 30 into reference blocks 61 each having 2m × 2n pixels centered on the reference pixel 58 as shown in FIG. Is detected from the search block 63 moving within the search range 64 in the reference field 40 shown in FIG.
[0088]
The reference block 61 is twice as large in length and width and four times as large as the reference block 51 including m × n pixels. Further, since the reference block 61 is formed by thinning out every vertical and horizontal pixels, the number of pixels constituting the reference block 61 is the same as the number of pixels constituting the reference block 51. The search block 63 is composed of 2m × 2n pixels having the same size as the reference block 61, centered on the center pixel 59, and is thinned out every other pixel in the vertical and horizontal directions. The search range 64 in which the search block 63 moves is composed of 2M × 2N pixels. The search range 64 is twice as large as the search range 54 of the TV signal and the area is four times. The motion vector detection unit 14 specifies a motion vector between the reference block 51 and the center pixel 59 of the search block 63 having the highest similarity. The size of each of the blocks 61 and 63 and the search range 64 is not limited to the above, and may be any size.
[0089]
The search block 53 moves so that the center pixel 59 scans only the colored pixels every other vertical and horizontal pixels constituting the search range 54 shown in FIG. 9B. In other words, the search block 63 moves so as to shift the search range 64 shown in FIG. The search range 64 is composed of 2M × 2N pixels in the case of a telecine-converted signal, and is twice as large in the vertical and horizontal directions (the area is four times) as compared with the search range 64 for the TV signal. , The amount of calculation of the absolute difference value can be made equal to the search range 54 composed of M × N pixels of the TV signal.
[0090]
Note that, when the telecine-converted signal is input, the motion vector detection unit 14 sets the center pixel 59 over the search ranges 54 and 64 as shown in FIGS. 8B and 12B. The search is performed so as to scan over the pixels, in other words, the search blocks 53 and 63 are shifted every other pixel in the vertical and horizontal directions. However, the present invention is not limited to such a case. For example, as shown in FIG. 13 (a), the search may be performed by shifting only every horizontal pixel every other pixel, and may be performed without shifting every vertical pixel. Similarly, only the vertical search may be performed by shifting every other pixel, and the horizontal search may be performed without shifting by every other pixel. Further, the interval at which the pixels are shifted is not limited to one pixel, and it is sufficient that the pixels are shifted at least every one pixel, for example, every two pixels or every three pixels. FIG. 13B shows an example in which the search is performed by shifting the vertical by every other pixel and the horizontal by every three pixels. That is, in the present invention, any search method may be used as long as the search block is searched while being shifted at least every other pixel vertically and / or at least every other pixel horizontally. This makes it possible to reduce the circuit scale while making the search ranges 54 and 64 wide.
[0091]
The reference block 61 and the search block 63 shown in FIG. 12 need only be thinned out every other pixel in the vertical and horizontal directions, but need only be thinned out in every vertical and / or every other pixel. For this reason, it goes without saying that block matching may be performed using the reference block 61 and the search block 63 thinned out, for example, every two or three pixels.
[0092]
Further, the motion vector detecting section 14 is provided not only when a telecine conversion signal is input but also every other pixel in the vertical and horizontal directions as shown in FIGS. 8B and 12B when a TV signal is input. The search may be performed by moving the search block 53. The search may be performed by moving the search block 53 at least every other pixel vertically and / or at least every other horizontal pixel as shown in FIG. This makes it possible to further reduce the amount of calculation when a TV signal is input, and to maintain the accuracy of the required motion vector by optimizing the band of a low-pass filter (LPF) (not shown). It becomes possible.
[0093]
The motion correction device 1 to which the present invention is applied is not limited to the above-described embodiment. For example, in FIG. 1, the switch 13 can be constantly switched to the “normal” side. As a result, the reference field 40 transmitted to the motion vector detection unit 14 is always one frame later than the reference field 30. Therefore, the motion compensation device 1 employing such a configuration can perform motion compensation for only the TV signal. This constitutes a correction circuit. In this case, as in the case of the telecine conversion signal, the motion vector detection unit 14 searches the input TV signal every other pixel in the vertical and horizontal directions as shown in FIGS. 8B and 12B. Is searched by scanning. As a result, a motion vector can be obtained with a small amount of operation for the input TV signal, and the circuit scale can be reduced.
[0094]
Further, the motion compensating apparatus 1 to which the present invention is applied is not limited to the above-described embodiment. For example, in FIG. 1, the switch 13 can be constantly switched to the “film” side. As a result, the reference field 40 transmitted to the motion vector detection unit 14 is always two frames later than the reference field 30. Therefore, the motion compensation device 1 adopting such a configuration can perform motion compensation only on the telecine conversion signal. This constitutes a motion correction circuit. Thus, for a telecine conversion signal requiring a wider search range 54 than a TV signal, the amount of calculation of the absolute difference value can be reduced, and the circuit scale can be reduced.
[0095]
The present invention is not limited to the case where the present invention is applied to a television receiver based on the PAL system. For example, an interface of 60 field seconds (30 frames / second) of the NTSC (National TV System Committee) system is used. The present invention is also applicable to a television receiver to which a race image signal is input. Further, the present invention is also applicable to a television receiver based on the SECAM system.
[0096]
Further, the present invention can be incorporated not only in the case where the television receiver is built in, but also in a signal converter connected to the television receiver.
[0097]
The present invention can also be applied to a case where an image signal transmitted on the Internet is displayed on a PC or the like, or a case where a medium or an image format is converted.
[0098]
Further, although the present invention has been described in the form of being realized by hardware such as a circuit, it is needless to say that the present invention can also be realized by software on a processor.
[0099]
【The invention's effect】
As described in detail above, the apparatus and method for detecting a motion vector according to the present invention include a reference block whose origin is a reference pixel in a reference field one frame or two frames before an input reference field, and a search in a reference field. The sum of absolute differences of pixel values is sequentially calculated with a search block that moves within the range at least every vertical pixel and / or at least every horizontal pixel, and a search in which the calculated sum of differential absolute values is minimized. A motion vector is specified between the pixel position of the block and the pixel position of the reference pixel. As a result, the motion vector detection device and method according to the present invention can reduce the amount of calculation while maintaining the accuracy of the motion vector to be obtained, and can reduce the circuit scale.
[0100]
As described above in detail, the motion compensation apparatus and method according to the present invention provide a reference block having an origin at a reference pixel in a reference field one frame or two frames before an input reference field, and a search range in the reference field. The motion vector is detected by sequentially calculating the sum of absolute differences of the pixel values between the search block and the search block moving at least every other vertical pixel or / and at least every other horizontal pixel, and based on the motion vector, The position of the reference pixel in the reference field is shifted. Thus, the motion detection device according to the present invention can eliminate the discontinuity of motion while reducing the circuit size by reducing the amount of calculation.
[Brief description of the drawings]
FIG. 1 is a diagram illustrating a block configuration of a motion compensation device to which the present invention has been applied.
FIG. 2 is a diagram showing a relationship between each field and a pixel position before and after double-speed conversion in a field double-speed conversion circuit.
FIG. 3 is a diagram illustrating a relationship between each field and an image position when an image moves in a horizontal direction in a TV signal.
FIG. 4 is a diagram illustrating an operation when a TV signal is input in a motion vector detection unit.
FIG. 5 is a diagram illustrating an example in which a pixel position is shifted with respect to an input TV signal in an image shift unit.
FIG. 6 is a diagram illustrating an example in which the image shift unit sets the shift amount of the first field to 0 and sets the shift amount of the second field to 倍 times the vector amount of the detected motion vector.
FIG. 7 is a diagram showing a relationship between each field and an image position when an image moves in a horizontal direction in a telecine conversion signal.
FIG. 8 is a diagram for explaining an operation when a telecine conversion signal is input in a motion vector detection unit.
FIG. 9 is a diagram illustrating an example in which a pixel position is shifted with respect to an input telecine conversion signal in an image shift unit.
FIG. 10 is a diagram illustrating an example in which the movement of an image is smoothed as a result of shifting a pixel position in an image shift unit.
FIG. 11 is a diagram illustrating an example in which the shift amount of the first field is set to 0 in the image shift unit, and thereafter, the shift amount is increased by 1 / times the vector amount of the motion vector.
FIG. 12 is a diagram showing an example in which a motion vector is detected based on each block formed by thinning out every other pixel in the vertical and horizontal directions.
FIG. 13 is a diagram showing an example in which a search block 53 is moved at least every other pixel vertically and / or at least every other horizontal pixel.
FIG. 14 is a block diagram of a field double speed conversion circuit to which a field frequency double speed system is applied.
FIG. 15 is a diagram showing a relationship between each field and a pixel position before and after double-speed conversion.
FIG. 16 is a diagram illustrating a relationship between each field and an image position when an image moves in a horizontal direction when a telecine conversion signal is input.
FIG. 17 is a diagram illustrating a relationship between each field and an image position when an image moves in a horizontal direction when a TV signal is input.
FIG. 18 is a diagram for describing a conventional block matching method.
FIG. 19 is a diagram illustrating an example of obtaining a motion vector for a telecine conversion signal and a TV signal.
[Explanation of symbols]
REFERENCE SIGNS LIST 1 motion compensation device, 2 CRT, 3 field double speed conversion circuit, 11 first image memory, 12 second image memory, 13 switch, 14 motion vector detection unit, 15 image shift unit, 31 input terminal, 32 double speed conversion unit , 33 frame memory

Claims (26)

入力される参照フィールドから1フレーム或いは2フレーム前の基準フィールドの各画素につき、ブロックマッチング法により動きベクトルを検出する動きベクトル検出装置において、
上記基準フィールドにおける基準画素を原点とする基準ブロックを切り出し、また上記参照フィールドにおける探索ブロックを、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに、移動させて切り出すブロック切出手段と、上記ブロック切出手段より切り出した基準ブロック及び探索ブロックとの間で画素値の差分絶対値和を順次演算するベクトル演算手段と、
上記ベクトル演算手段により演算された差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定するベクトル特定手段とを備えること
を特徴とする動きベクトル検出装置。
In a motion vector detecting device for detecting a motion vector by a block matching method for each pixel of a reference field one frame or two frames before an input reference field,
Block extracting means for extracting a reference block having a reference pixel as an origin in the reference field and moving and extracting a search block in the reference field at least every other pixel and / or at least every other horizontal pixel; Vector calculating means for sequentially calculating the sum of absolute differences of pixel values between the reference block and the search block cut by the block cutting means,
A motion vector comprising: a vector specifying unit that specifies a motion vector between a pixel position of a search block in which the sum of absolute differences calculated by the vector calculating unit is minimum and a pixel position of the reference pixel. Detection device.
上記ブロック切出手段は、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる上記基準ブロックと、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる上記探索ブロックとを切り出すこと
を特徴とする請求項1記載の動きベクトル検出装置。
The block extracting means includes the reference block including pixels arranged at least every other pixel or / and at least every other pixel, and arranged at least every other pixel or / and at least every other pixel. 2. The motion vector detecting apparatus according to claim 1, wherein the search block including the searched pixels is cut out.
上記ブロック切出手段は、テレシネ変換した画像を倍速変換することにより生成され1コマが4フィールドで構成される各フィールド、或いはテレビジョン信号を倍速変換することにより生成され1コマが2フィールドで構成される各フィールドから、上記基準フィールド及び上記参照フィールドを特定し、当該特定した基準フィールドにおける基準画素を原点とする基準ブロックを切り出し、また当該特定した参照フィールドにおける探索ブロックを、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに、移動させて切り出すこと
を特徴とする請求項1記載の動きベクトル検出装置。
The above-mentioned block extracting means is formed by converting a telecine-converted image to double speed, and each frame is composed of four fields, or one frame is generated by performing double speed conversion of a television signal, and one frame is composed of two fields. From each field, the reference field and the reference field are specified, a reference block having the reference pixel in the specified reference field as an origin is cut out, and a search block in the specified reference field is placed at least every other vertical pixel. The motion vector detecting device according to claim 1, wherein the motion vector is extracted by moving and / or at least every other horizontal pixel.
入力される参照フィールドから1フレーム或いは2フレーム前の基準フィールドの各画素につき、ブロックマッチング法により動きベクトルを検出する動きベクトル検出方法において、
上記基準フィールドにおける基準画素を原点とする基準ブロックを切り出し、また上記参照フィールドにおける探索ブロックを、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに、移動させて切り出し、
上記切り出した基準ブロック及び探索ブロックとの間で画素値の差分絶対値和を順次演算し、
上記演算した差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定すること
を特徴とする動きベクトル検出方法。
In a motion vector detection method for detecting a motion vector by a block matching method for each pixel of a reference field one frame or two frames before an input reference field,
Cutting out a reference block having the reference pixel as the origin in the reference field, and moving and cutting out the search block in the reference field at least every other vertical pixel and / or at least every other horizontal pixel;
The sum of the absolute values of the pixel values is sequentially calculated between the cut-out reference block and the search block,
A motion vector detection method comprising: specifying a motion vector between a pixel position of a search block in which the calculated sum of absolute differences is minimum and a pixel position of the reference pixel.
少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる上記基準ブロックと、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる上記探索ブロックとを切り出すこと
を特徴とする請求項4記載の動きベクトル検出方法。
The reference block composed of pixels arranged at least every other pixel and / or at least every other pixel and the search block composed of pixels arranged at least every other pixel and / or at least every other pixel 5. The motion vector detecting method according to claim 4, wherein
テレシネ変換した画像を倍速変換することにより生成され1コマが4フィールドで構成される各フィールド、或いはテレビジョン信号を倍速変換することにより生成され1コマが2フィールドで構成される各フィールドから、上記基準フィールド及び上記参照フィールドを特定し、当該特定した基準フィールドにおける基準画素を原点とする基準ブロックを切り出し、また当該特定した参照フィールドにおける探索ブロックを、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに、移動させて切り出すこと
を特徴とする請求項4記載の動きベクトル検出方法。
From each field generated by converting the telecine-converted image at double speed and one frame consisting of four fields, or from each field generated by performing double speed conversion of a television signal and one frame consisting of two fields, The reference field and the reference field are specified, a reference block having the reference pixel in the specified reference field as an origin is cut out, and the search block in the specified reference field is arranged at least every other vertical pixel or / and at least horizontally 1. 5. The motion vector detecting method according to claim 4, wherein the moving vector is extracted by moving every pixel.
入力される参照フィールドから2フレーム前の基準フィールドの各画素につき動き補正する動き補正装置において、
上記基準フィールドにおける基準画素を原点とする基準ブロックと、上記参照フィールドを、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに、移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、演算された差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定するベクトル特定手段と、
上記ベクトル特定手段により特定された上記動きベクトルのベクトル方向へ、シフト量が上記ベクトル量の範囲内となるように、上記基準フィールドにおける基準画素の位置をシフトさせる画素シフト手段とを備えること
を特徴とする動き補正装置。
In a motion compensator for motion compensating each pixel of a reference field two frames before an input reference field,
The absolute value of the pixel value difference between the reference block having the reference pixel in the reference field as the origin and the search block moved at least every other vertical pixel and / or at least every horizontal pixel. Vector calculation means for sequentially calculating the sum, and specifying a motion vector between the pixel position of the search block and the pixel position of the reference pixel where the calculated sum of absolute differences is minimum,
Pixel shift means for shifting the position of a reference pixel in the reference field so that the shift amount is within the range of the vector amount in the vector direction of the motion vector specified by the vector specifying means. Motion correction device.
上記ベクトル特定手段は、テレシネ変換した画像を倍速変換することにより生成され1コマが4フィールドで構成される各フィールドが入力されること
を特徴とする請求項7記載の動き補正装置。
8. The motion compensating apparatus according to claim 7, wherein said vector specifying means receives each field generated by converting the telecine-converted image at a double speed and having one frame composed of four fields.
上記画素シフト手段は、上記コマにおける上記基準フィールドの配置される位置に応じて上記基準画素のシフト量を変化させること
を特徴とする請求項8記載の動き補正装置。
9. The motion compensating apparatus according to claim 8, wherein said pixel shift means changes a shift amount of said reference pixel in accordance with a position of said reference field in said frame.
上記ベクトル特定手段は、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる上記基準ブロックと、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる上記探索ブロックとの間で画素値の差分絶対値和を順次演算し、演算された差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定すること
を特徴とする請求項7記載の動き補正装置。
The vector specifying unit is configured such that the reference block including pixels arranged at least every other pixel or / and at least every other pixel, and arranged at least every other pixel or / and at least every other pixel. The difference absolute value sum of the pixel values is sequentially calculated with the search block composed of pixels, and the motion between the pixel position of the search block and the pixel position of the reference pixel where the calculated difference absolute value sum is minimum is calculated. The motion compensator according to claim 7, wherein the vector is specified.
入力される参照フィールドから1フレーム前の基準フィールドの各画素につき動き補正する動き補正装置において、
上記基準フィールドにおける基準画素を原点とする基準ブロックと、上記参照フィールドを、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに、移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、演算された差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定するベクトル特定手段と、
上記ベクトル特定手段により特定された上記動きベクトルのベクトル方向へ、シフト量が上記ベクトル量の範囲内となるように、上記基準フィールドにおける基準画素の位置をシフトさせる画素シフト手段とを備えること
を特徴とする動き補正装置。
In a motion compensator for performing motion compensation for each pixel of a reference field one frame before the input reference field,
The absolute value of the pixel value difference between the reference block having the reference pixel in the reference field as the origin and the search block moved at least every other vertical pixel and / or at least every horizontal pixel. Vector calculation means for sequentially calculating the sum, and specifying a motion vector between the pixel position of the search block and the pixel position of the reference pixel where the calculated sum of absolute differences is minimum,
Pixel shift means for shifting the position of a reference pixel in the reference field so that the shift amount is within the range of the vector amount in the vector direction of the motion vector specified by the vector specifying means. Motion correction device.
上記ベクトル特定手段は、テレビジョン信号を倍速変換することにより生成され1コマが2フィールドで構成される各フィールドが入力されること
を特徴とする請求項11記載の動き補正装置。
12. The motion compensating apparatus according to claim 11, wherein said vector specifying means inputs each field generated by converting a television signal at double speed and one frame is composed of two fields.
上記画素シフト手段は、上記コマにおける上記基準フィールドの配置される位置に応じて上記基準画素のシフト量を変化させること
を特徴とする請求項12記載の動き補正装置。
13. The motion compensator according to claim 12, wherein the pixel shift means changes a shift amount of the reference pixel in accordance with a position of the reference field in the frame.
上記ベクトル特定手段は、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる基準ブロックと、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる探索ブロックとの間で画素値の差分絶対値和を順次演算し、演算された差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定すること
を特徴とする請求項11記載の動き補正装置。
The vector specifying means includes a reference block including pixels arranged at least every other pixel or / and at least every other pixel, and a pixel arranged at least every other pixel or / and at least every other pixel. Between the search block and the search block consisting of, the motion vector is calculated between the pixel position of the search block and the pixel position of the reference pixel where the calculated sum of the difference absolute values is the minimum. The motion compensator according to claim 11, wherein the motion compensator is specified.
入力される参照フィールドから1フレーム前或いは2フレーム前の基準フィールドの各画素につき動き補正する動き補正装置において、
入力される上記1フレーム前或いは2フレーム前の基準フィールドを切り換える切換手段と、
上記切換手段により切り換えられた基準フィールドにおける基準画素を原点とする基準ブロックと、上記参照フィールドを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、演算された差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定するベクトル特定手段と、
上記ベクトル特定手段により特定された上記動きベクトルのベクトル方向へ、シフト量が上記ベクトル量の範囲内となるように、上記基準フィールドにおける基準画素の位置をシフトさせる画素シフト手段とを備えること
を特徴とする動き補正装置。
In a motion compensator for performing motion compensation for each pixel of a reference field one frame before or two frames before an input reference field,
Switching means for switching the input reference field one frame before or two frames before;
A pixel value between a reference block whose origin is a reference pixel in the reference field switched by the switching means and a search block in which the reference field is moved at least every other vertical pixel and / or at least every other horizontal pixel. Vector calculation means for sequentially calculating the sum of absolute differences, and specifying a motion vector between the pixel position of the search block where the calculated sum of absolute differences is the minimum and the pixel position of the reference pixel,
Pixel shift means for shifting the position of a reference pixel in the reference field so that the shift amount is within the range of the vector amount in the vector direction of the motion vector specified by the vector specifying means. Motion correction device.
上記ベクトル特定手段は、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる上記基準ブロックと、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる上記探索ブロックとの間で画素値の差分絶対値和を順次演算し、演算された差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定すること
を特徴とする請求項15記載の動き補正装置。
The vector specifying unit is configured such that the reference block including pixels arranged at least every other pixel or / and at least every other pixel, and arranged at least every other pixel or / and at least every other pixel. The difference absolute value sum of the pixel values is sequentially calculated with the search block composed of pixels, and the motion between the pixel position of the search block and the pixel position of the reference pixel where the calculated difference absolute value sum is minimum is calculated. 16. The motion compensator according to claim 15, wherein the vector is specified.
入力される参照フィールドから2フレーム前の基準フィールドの各画素につき動き補正する動き補正方法において、
上記基準フィールドにおける基準画素を原点とする基準ブロックと、上記参照フィールドを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、
演算した差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定し、
上記特定した上記動きベクトルのベクトル方向へ、シフト量が上記ベクトル量の範囲内となるように、上記基準フィールドにおける基準画素の位置をシフトさせる画素シフト手段とを備えること
を特徴とする動き補正方法。
In a motion correction method for performing motion correction for each pixel of a reference field two frames before an input reference field,
The sum of absolute differences of pixel values between a reference block whose origin is a reference pixel in the reference field and a search block in which the reference field is moved at least every other vertical pixel and / or at least every horizontal pixel is calculated. Operate sequentially,
Identify a motion vector between the pixel position of the search block where the calculated sum of absolute differences is the minimum and the pixel position of the reference pixel,
A pixel shift unit that shifts the position of a reference pixel in the reference field so that the shift amount is within the range of the vector amount in the vector direction of the specified motion vector. .
テレシネ変換した画像を倍速変換することにより生成され1コマが4フィールドで構成される各フィールドにつき上記動きベクトルを特定すること
を特徴とする請求項17記載の動き補正方法。
18. The motion correction method according to claim 17, wherein the motion vector is specified for each field, which is generated by performing double-speed conversion on the telecine-converted image and one frame includes four fields.
上記コマにおける上記基準フィールドの配置される位置に応じて上記基準画素のシフト量を変化させること
を特徴とする請求項18記載の動き補正方法。
19. The motion correction method according to claim 18, wherein a shift amount of the reference pixel is changed according to a position of the reference field in the frame.
少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる上記基準ブロックと、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる上記探索ブロックとの間で画素値の差分絶対値和を順次演算し、
演算した差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定すること
を特徴とする請求項17記載の動き補正方法。
The reference block composed of pixels arranged at least every other pixel and / or at least every other pixel and the search block composed of pixels arranged at least every other pixel and / or at least every other pixel And sequentially calculate the sum of absolute differences of pixel values between
18. The motion correction method according to claim 17, wherein a motion vector is specified between the pixel position of the search block in which the calculated sum of absolute differences is the minimum and the pixel position of the reference pixel.
入力される参照フィールドから1フレーム前の基準フィールドの各画素につき動き補正する動き補正方法において、
上記基準フィールドから基準画素を原点とする基準ブロックと、上記参照フィールドを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、
演算した差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定し、
上記特定した上記動きベクトルのベクトル方向へ、シフト量が上記ベクトル量の範囲内となるように、上記基準フィールドにおける基準画素の位置をシフトさせること
を特徴とする動き補正方法。
In a motion compensation method for performing motion compensation for each pixel of a reference field one frame before the input reference field,
The sum of absolute differences of pixel values between a reference block whose origin is a reference pixel from the reference field and a search block in which the reference field is moved at least every other pixel and / or at least every other horizontal pixel. Operate sequentially,
Identify a motion vector between the pixel position of the search block where the calculated sum of absolute differences is the minimum and the pixel position of the reference pixel,
A motion correction method, wherein a position of a reference pixel in the reference field is shifted in a vector direction of the specified motion vector such that a shift amount is within a range of the vector amount.
テレビジョン信号を倍速変換することにより生成され1コマが2フィールドで構成される各フィールドにつき上記動きベクトルを特定すること
を特徴とする請求項21記載の動き補正方法。
22. The motion compensation method according to claim 21, wherein the motion vector is specified for each field in which one frame is generated by converting a television signal at double speed and one frame is composed of two fields.
上記コマにおける上記基準フィールドの配置される位置に応じて上記基準画素のシフト量を変化させること
を特徴とする請求項22記載の動き補正方法。
23. The motion correction method according to claim 22, wherein a shift amount of the reference pixel is changed according to a position of the reference field in the frame.
少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる基準ブロックと、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる探索ブロックとの間で画素値の差分絶対値和を順次演算し、
演算した差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定すること
を特徴とする請求項21記載の動き補正方法。
A reference block consisting of pixels arranged at least every other pixel and / or at least every other pixel and a search block consisting of pixels arranged at least every other pixel and / or at least every other pixel Calculate the sum of absolute differences of pixel values between
22. The motion correction method according to claim 21, wherein a motion vector is specified between a pixel position of a search block in which the calculated sum of absolute differences is minimum and a pixel position of the reference pixel.
入力される参照フィールドから1フレーム前或いは2フレーム前の基準フィールドの各画素につき、動き補正する動き補正方法において、
入力される上記1フレーム前或いは2フレーム前の基準フィールドを切り換え、
上記切り換えた基準フィールドにおける基準画素を原点とする基準ブロックと、上記参照フィールドを少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに移動させた探索ブロックとの間で画素値の差分絶対値和を順次演算し、
演算したされた差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定し、
上記特定した上記動きベクトルのベクトル方向へ、シフト量が上記ベクトル量の範囲内となるように、上記基準フィールドにおける基準画素の位置をシフトさせること
を特徴とする動き補正方法。
In the motion compensation method for performing motion compensation for each pixel of the reference field one frame before or two frames before the input reference field,
Switching the input reference field one frame before or two frames before,
The absolute value of the pixel value difference between a reference block whose origin is the reference pixel in the switched reference field and a search block in which the reference field is moved at least every other pixel vertically and / or at least every other pixel horizontally. Calculate the sum sequentially,
A motion vector is specified between the pixel position of the search block in which the calculated sum of absolute differences is the minimum and the pixel position of the reference pixel,
A motion correction method, wherein a position of a reference pixel in the reference field is shifted in a vector direction of the specified motion vector such that a shift amount is within a range of the vector amount.
少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる上記基準ブロックと、少なくとも縦1画素おきに又は/及び少なくとも横1画素おきに配列された画素からなる上記探索ブロックとの間で画素値の差分絶対値和を順次演算し、
演算した差分絶対値和が最小となる探索ブロックの画素位置と上記基準画素の画素位置との間で動きベクトルを特定すること
を特徴とする請求項25記載の動き補正方法。
The reference block composed of pixels arranged at least every other pixel and / or at least every other pixel and the search block composed of pixels arranged at least every other pixel and / or at least every other pixel And sequentially calculate the sum of absolute differences of pixel values between
26. The motion correction method according to claim 25, wherein a motion vector is specified between a pixel position of the search block in which the calculated sum of absolute differences is minimum and a pixel position of the reference pixel.
JP2002179049A 2002-06-19 2002-06-19 Motion vector detecting apparatus and method therefor movement compensation and method therefor Pending JP2004023673A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2002179049A JP2004023673A (en) 2002-06-19 2002-06-19 Motion vector detecting apparatus and method therefor movement compensation and method therefor
PCT/JP2003/007438 WO2004002148A1 (en) 2002-06-19 2003-06-11 Motion vector detection device, detection method, motion compensation device, and motion compensation method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002179049A JP2004023673A (en) 2002-06-19 2002-06-19 Motion vector detecting apparatus and method therefor movement compensation and method therefor

Publications (1)

Publication Number Publication Date
JP2004023673A true JP2004023673A (en) 2004-01-22

Family

ID=29996550

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002179049A Pending JP2004023673A (en) 2002-06-19 2002-06-19 Motion vector detecting apparatus and method therefor movement compensation and method therefor

Country Status (2)

Country Link
JP (1) JP2004023673A (en)
WO (1) WO2004002148A1 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005318576A (en) * 2004-04-30 2005-11-10 Matsushita Electric Ind Co Ltd Motion detection employing adaptive spatial update vector
WO2008136116A1 (en) * 2007-04-26 2008-11-13 Pioneer Corporation Interpolation frame generation controller, frame rate converter, display apparatus, method for controlling generation of interpolation frame, program for the same, and recording medium storing the program
JP2010041538A (en) * 2008-08-07 2010-02-18 Sony Corp Device and method for processing image signal
WO2010046989A1 (en) * 2008-10-23 2010-04-29 パイオニア株式会社 Frame rate converting device, image processing device, display, frame rate converting method, its program, and recording medium where the program is recorded
WO2010046990A1 (en) * 2008-10-23 2010-04-29 パイオニア株式会社 Interpolation frame generating device, frame rate converting device, display, interpolation frame generating method, its program, and recording medium where its program is recorded
US8797458B2 (en) 2007-08-31 2014-08-05 Sony Corporation Image display apparatus and image processing apparatus

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2678464A1 (en) * 1991-06-27 1992-12-31 Thomson Csf METHOD FOR CONVERTING THE TEMPORAL RHYTHM OF A SEQUENCE OF ANIMATED IMAGES
JPH05137122A (en) * 1991-11-14 1993-06-01 Hitachi Ltd Signal processing method for video signal and circuit therefor
JPH05260460A (en) * 1992-03-09 1993-10-08 Matsushita Electric Ind Co Ltd Motion detector
JP2934146B2 (en) * 1994-02-07 1999-08-16 株式会社グラフィックス・コミュニケーション・ラボラトリーズ Block matching method and apparatus in video compression
DE69510851T2 (en) * 1994-03-30 1999-12-02 Thomson Multimedia Sa Method and device for reducing conversion artifacts
JP2897655B2 (en) * 1994-09-22 1999-05-31 日本ビクター株式会社 Motion vector detection device
JPH08223578A (en) * 1995-02-13 1996-08-30 Nippon Telegr & Teleph Corp <Ntt> Method for searching motion vector and device therefor
DE69609028T2 (en) * 1995-04-11 2001-02-22 Koninkl Philips Electronics Nv MOTION COMPENSATED IMAGE FREQUENCY CONVERSION
JPH0918882A (en) * 1995-07-03 1997-01-17 Matsushita Electric Ind Co Ltd Motion vector retrieval method and device
JP3189655B2 (en) * 1995-12-14 2001-07-16 松下電器産業株式会社 Apparatus and method for detecting motion vector
JP2000023163A (en) * 1998-06-30 2000-01-21 Sharp Corp Notion vector detection circuit
JP2000102015A (en) * 1998-09-22 2000-04-07 Sharp Corp Motion vector detector and motion vector detection method

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005318576A (en) * 2004-04-30 2005-11-10 Matsushita Electric Ind Co Ltd Motion detection employing adaptive spatial update vector
JP4528662B2 (en) * 2004-04-30 2010-08-18 パナソニック株式会社 Motion detection using adaptive space latest vector
WO2008136116A1 (en) * 2007-04-26 2008-11-13 Pioneer Corporation Interpolation frame generation controller, frame rate converter, display apparatus, method for controlling generation of interpolation frame, program for the same, and recording medium storing the program
US8797458B2 (en) 2007-08-31 2014-08-05 Sony Corporation Image display apparatus and image processing apparatus
JP2010041538A (en) * 2008-08-07 2010-02-18 Sony Corp Device and method for processing image signal
JP4513913B2 (en) * 2008-08-07 2010-07-28 ソニー株式会社 Image signal processing apparatus and method
WO2010046989A1 (en) * 2008-10-23 2010-04-29 パイオニア株式会社 Frame rate converting device, image processing device, display, frame rate converting method, its program, and recording medium where the program is recorded
WO2010046990A1 (en) * 2008-10-23 2010-04-29 パイオニア株式会社 Interpolation frame generating device, frame rate converting device, display, interpolation frame generating method, its program, and recording medium where its program is recorded

Also Published As

Publication number Publication date
WO2004002148A1 (en) 2003-12-31

Similar Documents

Publication Publication Date Title
US7667773B2 (en) Apparatus and method of motion-compensation adaptive deinterlacing
JP3855761B2 (en) Image signal processing apparatus and method
JP2001054075A (en) Motion compensation scanning conversion circuit for image signal
US7050108B2 (en) Motion vector correction circuit and method
KR100930759B1 (en) Image signal processing device and processing method
JP4510874B2 (en) Composite image detector
KR20060047635A (en) Reverse film mode extrapolation
EP1460847B1 (en) Image signal processing apparatus and processing method
US7327397B2 (en) Image processing with pixel interpolation
JP2004023673A (en) Motion vector detecting apparatus and method therefor movement compensation and method therefor
JP4339237B2 (en) Sequential scan converter
JP2010055001A (en) Video signal processing apparatus and video signal processing method
US7796189B2 (en) 2-2 pulldown signal detection device and a 2-2 pulldown signal detection method
US7944504B2 (en) Apparatus for interpolating scanning lines
KR100324752B1 (en) Format variation circuit for lcd television according to image type
JP4337302B2 (en) Motion compensation circuit and method
KR20030037345A (en) Method and circuit for converting interlaced scanning signal to progressive scanning signal using motion compensation
KR20030067158A (en) Method for reproducing partial interlaced image and apparatus thereof
KR20010072232A (en) Method for doubling the vertical refresh rate of an image sequence generated in an interlaced scanning process
JP2001103433A (en) Scanning double-speed signal output method
KR20020022197A (en) A apparatus for preventing vertical scroll shake

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040428

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060704

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060904

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070327