JP3287864B2 - 映像信号のフィールド又はフレーム間の動きを表す運動ベクトルを導出する方法及びこれを使用する映像方式変換装置 - Google Patents

映像信号のフィールド又はフレーム間の動きを表す運動ベクトルを導出する方法及びこれを使用する映像方式変換装置

Info

Publication number
JP3287864B2
JP3287864B2 JP24915291A JP24915291A JP3287864B2 JP 3287864 B2 JP3287864 B2 JP 3287864B2 JP 24915291 A JP24915291 A JP 24915291A JP 24915291 A JP24915291 A JP 24915291A JP 3287864 B2 JP3287864 B2 JP 3287864B2
Authority
JP
Japan
Prior art keywords
motion vector
motion
video signal
search
motion vectors
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP24915291A
Other languages
English (en)
Other versions
JPH0614305A (ja
Inventor
スティーブン・マーク・キーティング
サリー・グリフィス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Europe BV United Kingdom Branch
Original Assignee
Sony United Kingdom Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony United Kingdom Ltd filed Critical Sony United Kingdom Ltd
Publication of JPH0614305A publication Critical patent/JPH0614305A/ja
Application granted granted Critical
Publication of JP3287864B2 publication Critical patent/JP3287864B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/01Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Television Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、動きに合わせ(適応さ
せ)た映像信号の処理に関するものである。もっと詳し
くいえば、本発明は、映像信号のフィールド又はフレー
ム間の動きを表す運動ベクトルを導出する方法、及びこ
の方法を使用する映像方式変換装置に関するものであ
る。なおもっと詳しくいえば、本発明は、一般にダウン
コンバータとして知られるタイプの映像方式変換装置に
関するものであるが、これに限られるわけではない。
【0002】
【従来の技術】1つの映像方式から他の方式への、例え
ばフレーム当たり625ライン、毎秒50フィールド方
式からフレーム当たり525ライン、毎秒60フィール
ド方式への映像信号変換に用いる映像方式変換装置は、
周知である。映像方式変換は、映像信号のなかに時間的
及び垂直方向のエイリアス(重複歪み)が存在するの
で、簡単な線形補間技法で得られる画像には不所望の雑
音を生じ、特に、画像が垂直方向で不鮮明になり、時間
的に激しく揺れる。
【0003】これらの問題を軽減するため、入力映像信
号が表す画像における動きの度合いに応じて、線形補間
のパラメータ(変数)を切替える適応技法を映像方式変
換装置に使用することが提案された。
【0004】また、例えば映像信号処理におけるデータ
を減らす目的で、入力映像信号からブロック(区画)・
マッチング技法により運動ベクトルを発生することも提
案された。ブロック・マッチング技法は、1フィールド
又はフレームにおけるサーチ(検査)ブロックの内容
を、次のフィールド又はフレームにおけるサーチ区域に
含まれる複数のサーチ・ブロックの各内容と比較し、比
較した内容間の最小差、したがって原サーチ・ブロック
の内容の運動方向と距離(もし在る場合)を決定するも
のである。
【0005】我々の欧州特許出願第90303970.
9号(英国特許出願第8909646.5号に対応す
る。)明細書は、映像信号の連続するフィールド又はフ
レーム間の動きを表す運動ベクトルを導出する方法、特
に、出力フィールド又はフレームの各画素に適する運動
ベクトルを選択する方法を開示している。この出願はま
た、かかる方法を使用する映像方式変換装置、特に、フ
レーム当たり1125ライン、毎秒60フィールドの高
解像度映像信号(HDVS)から毎秒24フレームの3
5mmフィルムへの変換(ただし、これに限らない。)
に使用しようとするものを開示している。
【0006】
【発明が解決しようとする課題】本発明は、運動ベクト
ルの選択に用いるアルゴリズムを所要のハードウエアの
量が減少するように修正し、且つまた、この方法を使用
しうる実時間で動作するダウンコンバータを含む映像方
式変換装置の範囲を広げようとするものである。
【0007】
【課題を解決するための手段】本発明による映像信号の
フィールド又はフレーム間の動きを表す運動ベクトルを
導出する方法は、動きを補正する補間により入力映像信
号から方式変換された出力映像信号を導出しようとする
もので、次のような段階を含む。 (イ)上記出力映像信号の各フィールド又はフレームの
各画素に対する複数の運動ベクトルを導出すること。 (ロ)上記入力映像信号の、時間的に上記出力映像信号
のフィールド又はフレームに最も近い2つのフィールド
又はフレームにおける画素ブロックの対応する画素の絶
対的輝度差の和を導出することにより上記各運動ベクト
ルをテストすること(ただし、上記ブロックはテストさ
れる運動ベクトルにより位置が示されるものであ
る。)。 (ハ)上記テスト中の運動ベクトルの大きさが所定値よ
り小さい場合、上記絶対的輝度差の和を中心加重(cent
re-weigting )すること、 (ニ)上記複数の運動ベクトルから上記絶対的輝度差の
和が最小となる運動ベクトルを選択すること。
【0008】本発明による動きを補正した映像方式変換
装置は、動きを補正する補間により入力映像信号から方
式変換された出力映像信号を導出しようとするもので、
次のような構成要素より成る。 (イ)方式変換さた出力映像信号の各フィールド又はフ
レームの各画素に対する、入力映像信号の連続するフィ
ールド又はフレーム間の動きを表す複数の運動ベクトル
を導出する手段、(ロ)上記入力映像信号の、時間的に
上記出力映像信号のフィールド又はフレームに最も近い
2つのフィールド又はフレームにおける画素ブロックの
対応する画素の絶対的輝度差の和を導出することにより
上記各運動ベクトルをテストする手段(ただし、上記ブ
ロックは、テストされる運動ベクトルにより位置が示さ
れるものである。)、(ハ)上記テスト中の運動ベクト
ルの大きさが所定値より小さい場合、上記の絶対的輝度
差の和を中心加重する手段、(ニ)上記複数の運動ベク
トルから上記絶対的輝度差の和が最小になる運動ベクト
ルを選択する手段。
【0009】
【実施例】以下、図面により本発明を具体的に説明す
る。これから述べる本発明の動きを補正した映像方式変
換装置は、特に、フレーム当たり1125ライン、毎秒
60フィールドの高解像度映像信号(HDVS)をフレ
ーム当たり625ライン、毎秒50フィールドの標準P
ALテレビジョン信号へ変換するためのダウンコンバー
タとして使用することを意図したものである。しかし、
本発明は、これに限定されることなく、他の方式間の変
換にも適用しうるものである。
【0010】図1は、本発明方式変換装置の実施例の概
略を示すブロック図である。図1において、1は入力映
像信号が供給される入力端子である。入力端子1はプロ
グレッシブ(順次又は連続)走査変換器2に接続され、
そこで入力映像フィールドは映像フレームに変換されて
直接ブロック突合せ器3に供給され、そこで相関面が作
られる。これらの相関面は運動ベクトル推定器4により
解析され、そこで運動ベクトルが導出されて運動ベクト
ル減少器5に供給される。該減少器において、各画素に
対する運動ベクトルの数が減らされ、次いで運動ベクト
ル選択器6に供給される。該選択器には、プログレッシ
ブ走査変換器2の出力も加えられる。運動ベクトル選択
器6により選択された運動ベクトルに異常なものがある
と、これは運動ベクトルあと処理器7で除去され、そこ
で処理された運動ベクトルは、補間器8に供給されこれ
を制御する。該補間器にはまた、プログレッシブ走査変
換器2の出力も加えられる。補間器8の出力は、方式変
換され動きが補正された映像信号で、出力端子9に供給
される。上述の方式変換装置の各部分及びその動作につ
いて、以下詳細に述べる。
【0011】図2は、プログレッシブ走査変換の説明図
である。同図は、一連の連続フィールドにおける一連の
連続ラインを示し、X印は入力フィールドに存在するラ
インを表し、□印は補間されたラインを示す。プログレ
ッシブ走査変換器2は、入力フィールドと同じレート
(速度)で出力フレームを発生する。したがって、各出
力フレームは、図2に示すように入力フィールドのライ
ン数の2倍を含み、これらのライン群は、入力映像信号
からのラインと、後述する方法の1つにより補間された
ラインとが交互に並んだものとなっている。補間された
ライン群は、入力フィールドと反対の極性であるが時間
的位置が同じ1つの補間フィールドであると見なすこと
ができる。プログレッシブ走査変換は、2つの主な理由
により行うのがよいものである。第1は、次の直接ブロ
ック突合せ(マッチング)処理を容易にするためであ
り、第2は、最終出力の映像フォーマットを考慮してで
ある。直接ブロック突合せは、後述のように2つの連続
する映像フィールド間における水平及び垂直方向の運動
を正確に推定するために行うものである。しかし、プロ
グレッシブ走査変換を行わなければ、インタレース(飛
越し)映像信号を用いて直接ブロック突合せを行うとき
に問題を生じることが分かるであろう。
【0012】最終出力映像フォーマットを考慮というの
は、動きを補正した方式変換が受入れられない結果を生
じると考えられる場合、例えば動きが余りに多様で十分
に解析できない場合又はシーン(場面)の変わり目にプ
ログレッシブ走査変換されたフレームを代用することが
できるからである。かような場合、最も近いプログレッ
シブ走査変換されたフレームを所要の出力フレームとし
て使用すると、無理なく受入れられる結果が得られる。
【0013】プログレッシブ走査変換は、色々な方法で
行うことができる。例えば、先行フィールドの代用、3
つの空間的に連続するラインを調べる中間(median)濾
波処理(これら3つのラインは、時間的には2つの連続
フィールドからのものである。)、或いは、多方向線形
補間に続いて多勾配運動検出を用いる運動補正技法など
がある。しかし、本実施例では、動きに合せた(motion
adaptive )プログレッシブ走査変換方法を使用するの
がよい。図3は、その方法の段階を示すブロック図であ
る。その概念は、全く静止した画像区域では、できる限
り多くの垂直情報を保持するためのフィールド間補間を
使用し、かなりの動きがある場合にフィールド内補間を
使用することである。これはまた、運動の滑らかな描写
を助ける。動きがこれら2つの極端の中間にある場面
(シーン)では、画像内にある局部的な動きを推定し、
フィールド間及びフィールド内補間を異なる比率で一緒
に混合するのにこれを使用する。これは、上述の欧州特
許出願明細書にもっと詳しく記載されている。
【0014】図1に戻り、プログレッシブ走査変換器2
により作成された映像フレームは、運動ベクトルを導出
するのに使用する。運動ベクトルの導出(推定)は、2
つの段階より成る。まず、連続するフレームからサーチ
(検査)ブロックの相関関係を示す相関面を作る。これ
らの相関面を得たのち、これを調べて相関関係が最も大
きい位置(1つ又はそれ以上)を決定しなければならな
い。相関面を得るには幾つかの方法があるが、本実施例
では、直接ブロック突合せ法を採用した。
【0015】直接ブロック突合せ器3の動作は、次のと
おりである。プロレッシブ走査変換された映像信号の連
続フレームから矩形状の画素アレイをそれぞれ含む2つ
のブロックを取り、その相関関係に基いて運動ベクトル
導出用の相関面を発生する。
【0016】図4は、サーチ・ブロック及びサーチ区域
の例を示す説明図である。まず、同図に示すように、フ
レームNから32画素×23ラインの大きさのサーチ・
ブロックと呼ぶ小さなブロック(区画)を取る。そし
て、次のフレーム(N+1)から128画素×69ライ
ンの大きさのサーチ区域と呼ぶもっと大きなブロックを
取る。図5は、サーチ・ブロックとサーチ区域の関係を
示す説明図である。同図に示すようにサーチ・ブロック
(SB)をサーチ区域(SA)内の考えられる各位置に
おき、その各位置に対し、2ブロック間の画素輝度レベ
ルの絶対差の和を計算する。この値は、その点において
導出する相関面の高さとして使用する。その高さは、サ
ーチ区域内のサーチ・ブロックの考えられる各位置に対
し他の同様に導出した値と共に、相関面を作るのに使用
する。図6に、相関面の一般例を示す。分かり易くする
ため、同図の相関面は反対にして示してあり、実際に必
要なのは最小点であるから、図6で必要な点は一番高い
所(ピーク)である。
【0017】サーチ・ブロックの大きさは、動きの補正
に必要な対象物の一番小さい大きさを調べて選定する。
フレーム当たり625ライン、毎秒50フィールドのP
AL信号に対しては、対象物内でなくサーチ・ブロック
内に周りの情報があっても、それが小さい対象物の追跡
に影響を与えないようにするためには、16画素×8ラ
インの大きさのサーチ・ブロックが適当であることが分
かった。したがって、本実施例ではこれに近いものを採
用した。ただし、PAL625/50方式に比べてライ
ン当たりの能動画素数、フレーム当たりの能動ライン
数、HDVSの縦横比が異なる点を考慮に入れて修正を
加えた。HDVSを先にしてこれと比較した値を書く
と、次のとおりである。ライン当たり能動画素数192
0(720)、フレーム当たり能動ライン数1035
(575)、縦横比9:16(3:4)。
【0018】大きい対象物を追跡できるため、もっと大
きいサーチ・ブロックの使用に対する賛成論があること
を付け加えねばならない。他方、大きな対象物又は背景
区域の影響によって小さな対象物の影が薄くなるため、
もっと小さいサーチ・ブロックの使用に賛成する論もあ
る。また、小さいサーチ・ブロックの場合、各ブロック
から1つより多い運動ベクトルを導出する必要がないと
いう利点がある。ただ1つの運動ベクトルを導く方法が
1つより多くの運動ベクトルを導くより遙かに容易であ
るから、本実施例では、上述のように小さいサーチ・ブ
ロックで始め、十分な結果が得られない場合にサーチ・
ブロックを大きくすることにした。これは、小さいブロ
ックと大きいブロックの両方の利点を併有する。結果が
十分がどうかの判断基準は、あとで詳述する運動ベクト
ル推定器4(図1)に設定されており、そこで与えられ
た相関面から運動ベクトルを決定する。
【0019】サーチ・ブロックを大きくしてゆくこの技
法は、大きい対象物を追跡するのに好都合であるばかり
でなく、周期性の規則的な形をもつ対象物の動きの追跡
を助けることもできる。
【0020】サーチ・ブロックとサーチ区域は、相関面
が示唆する場合、ともに水平又は垂直方向に、或いは両
方向に大きくすることができる。
【0021】次に、図1に戻り、運動ベクトル推定器4
について説明する。運動ベクトル推定器4は、1つのフ
レームの各サーチ・ブロックに対して発生した相関面
(図6)から、サーチ・ブロックとそれに対応するサー
チ区域との間のありそうなフレーム間運動を推定する。
分かり易いように、相関面に関する図面は全て逆に、す
なわち最小点をピークとして示してあることをもう1度
述べておく。
【0022】運動ベクトル推定器4は、運動ベクトル決
定アルゴリズムを用いて各相関面における最小点を検出
する。これは、サーチ・ブロック及びサーチ区域間の最
大相関点を表し、したがって両者の間に起こりそうな動
きを示す。相関面上のこの最小点の原点、この場合は相
関面の中心に対する変位は、動きをフレーム当たりの画
素で直接表したものである。相関面がただ1つの明瞭な
最小点を有する最も簡単な場合、相関面上の最小点を検
出するだけで十分正確にサーチ・ブロック及びサーチ区
域間の動きを決定できる。上述のように、小さいサーチ
・ブロックを使用すると、動きの検出及び運動推定の正
確度は改善されるが、小さな1つのサーチ・ブロックで
は後述する幾つかの状況において動きを検出することが
できない。
【0023】図7は、3つのサーチ・ブロックに跨る運
動体を示す説明図である。同図は、フレーム(t)にお
ける3つのサーチ・ブロック1A,2A,3Aに跨る運
動ベクトル(5,0)をもつ物体(対象物)を示す。サ
ーチ・ブロック1A及び3Aをそれぞれ次のフレーム
(t+1)におけるサーチ区域1B及び3Bと対応させ
ると、その相関面は図8のような(5,0)に最小点を
もつものとなる。(これは、無雑音映像源を想定してい
る。)しかし、サーチ・ブロック2Aをそのサーチ区域
2Bと対応させると、その相関面は図9のようになる。
すなわち、サーチ・ブロック2Aは、サーチ区域2Bと
y軸方向のあらゆる点で大きな相関関係をもつ。したが
って、相関面に最小点がただ1つではなくなり、サーチ
・ブロック2Aとサーチ区域2B間の動きを決定できな
い。
【0024】しかし、いまサーチ・ブロック2Aを最初
の3つのサーチ・ブロック1A,2A,3Aの全部を含
むように大きくした場合を考える。大きくしたサーチ・
ブロック2Aを最初の3サーチ区域1B,2B,3Bを
含むサーチ区域と対応させると、得られる相関面は図1
0のようになる。これには、最初のサーチ・ブロック2
Aの正確な動きを示すただ1つの最小点(5,0)が見
られる。この例は、動きを正確に検出するためには原映
像に或る特有の特徴をもたせる必要があることを示して
いる。すなわち、サーチ・ブロック1A及び3Aは共
に、特有な垂直及び水平方向の特徴、すなわち対象物の
端縁を有し、これにより動きを決定できる。これに対
し、サーチ・ブロック2Aは特有な垂直方向の特徴を有
するが、水平方向には何も特有な特徴がなく、したがっ
て水平方向の動きが決定できない。しかし、サーチ・ブ
ロックをそれが水平及び垂直両方向に特有の特徴を包含
するようになるまで拡大すれば、そのサーチ・ブロック
に対する動きを完全に決定することができる。また、サ
ーチ・ブロックの拡大は、原映像に雑音が考えられる場
合にも有益である。
【0025】次に、図11に示すような別の例を考え
る。これは、運動ベクトルが(5,3)であるサーチ・
ブロックに対する相関面を示す。しかし、サーチ・ブロ
ックとサーチ区域の間に生じた多くの他の相関関係によ
り、本当の動きを検出するのが困難である。かような相
関面を生じる可能性のある原映像の例としては、風と共
に動いているコントラストの低い木が挙げられる。い
ま、サーチ・ブロックとサーチ区域を拡大することを考
える。拡大は、前の例のように水平方向に行っても、或
いは垂直方向でも、更に両方向に行ってもよい。隣接し
たサーチ・ブロックが同じ動きを有するものとすれば、
得られる相関面は平均化効果を受けて、(5,3)にお
ける最小点の大きさが他の相関ピークの大きさより大き
な比率で増加する。これを図12に示す。これより、正
確な運動ベクトルの検出がより容易となることが分かる
であろう。
【0026】次に、図7を参照して更にサーチ・ブロッ
クの拡大の仕方を考える。前は、サーチ・ブロック2A
の面積をサーチ・ブロック1A及び3Aを包含するよう
に拡大して、図10に示したような相関面を得た。実際
上、得られた相関面は、サーチ・ブロック1A,2A,
3Aに対応する3つの相関面を直接加え合せて生じてい
る。各相関面を点の大きさのマトリックス(行列)と考
えると、拡大したサーチ・ブロック2Aの相関面は、最
初のサーチ・ブロック1A,2A,3Aの相関面のマト
リックスを加えたものである。
【0027】サーチ・ブロック2Aの面積は、その上下
のサーチ・ブロックの相関面を加えることにより垂直方
向に拡大することもできるが、サーチ・ブロック2Aを
水平及び垂直の両方向に拡大しようとすれば、横と斜め
の4つの相関面をも同様に加えなければならない。これ
より、実際にサーチ・ブロックを隣接サーチ・ブロック
を包含するよう拡大する仕方は比較的容易であることが
分かるであろうが、難しいのはいつ拡大すべきか、また
どの隣接サーチ・ブロックを含めるべきかを決めること
である。基本的な答えは、良好な最小点すなわち良好な
運動ベクトルが検出されるまでサーチ・ブロックの面積
を拡大すべきである、ということである。したがって、
運動ベクトルをいつ良好な運動ベクトルと考えるかを決
める必要があり、これは、実際には上述の例から推定す
ることができる。
【0028】図7〜10の上述した例では、対象物の水
平方向に特有な特徴を包含させてただ1つの最小点を得
るためにサーチ・ブロックを水平方向に拡大する必要が
あった。この状態は、図9の相関面における同じ最小点
の列と図10の相関面におけるただ1つの最小点とでよ
く表されている。これより、良好な最小点に対する第1
の判断基準が得られる。すなわち、良好な最小点は、相
関面上における大きさが最小の点で、その点の大きさと
その次に小さい点の大きさとの差が一定値を越えるもの
である。この一定値は閾(しきい)値として知られてお
り、したがって、以後このテストを閾テストと呼ぶこと
にする。
【0029】次の最小(次に小さい)点は、後述のリン
グテストと呼ぶもう1つのテストの範囲内で生じないよ
うにされる。3つのリングを用いるリングテストの場
合、次の最小点は、その点の3画素以内の所から生じな
いようにされる。図7〜10の例では、図9の相関面は
閾テストに合格せず、したがってサーチ・ブロック2A
を拡大して適当な閾値を与えると、図10の相関面は閾
テストに合格することになる。
【0030】閾テストはまた、上述した図11及び図1
2の例においてサーチ・ブロックを拡大させるのに使用
することもできる。サーチ・ブロックを拡大する前は、
周りの点の大きさが非常に似ているため、正確な最小点
は検出不能である。すなわち、適当な閾値を与えると、
その相関面は閾テストに合格しないであろう。そこで、
サーチ・ブロックを拡大させるのである。その結果、他
の類似点の中にある最小点を検出することが可能となる
であろう。
【0031】閾値を用いるテストは主観的なものである
が、テストされる相関面に対する正しい閾は、これを相
関面内の大きさの幅(限度)に対する比として規準化す
ることにより選択することができる。これはまた、例え
ば映像源のコントラストの効果をも教えてくれる。
【0032】前に簡単に述べたリングテストについて、
更に説明する。リングテストは、良好な最小(又は最
大)点はその周りに大きさが増加(又は減少)する点が
あるという考えに基いている。図13はこの考えを示す
もので、周りの3つのリングの点の平均の大きさが減少
している所(0,0)に最小点がある。図14に示す相
関面は、リング、特に内側から2番目のリングが減少す
る平均の大きさを有しない点でこれと異なっている。
【0033】この場合、リングテストによって決まる良
好な最小点に対する判断基準は、平均勾配が単調なこと
である。したがって、該最小点の周りの点の予め定めた
数のリングについて、各リングの(点の)平均の大きさ
は、一番内側のリングから外側にゆくに従って前のリン
グの大きさより大きくならなければならない。再び図7
〜10の例に戻ると、図9及び10から、図9の相関面
はリングテストに合格しないが、図10の相関面はリン
グテストに合格することが分かるであろう。リングテス
トは、個々の大きさでなく平均の大きさを比較するの
で、閾テストより主観的ではない。リングテストでの唯
一の変数は、考えられるリングの数だけである。
【0034】サーチ・ブロック拡大の手法について既に
述べたが、次に、相関面の形を調べることにより、サー
チ・ブロックを拡大すべき最も効果的な方向を決定する
方法を考える。
【0035】再び図9に戻ると、この相関面は、垂直方
向に特有な特徴があるが、水平方向に特有な特徴がない
場合に生じるものである。このため、相関面において、
水平方向に多くの相関関係があることにより最小点が相
関面を横切って水平方向に延びる結果となる。これよ
り、サーチ・ブロックを水平方向に拡大すべきことが推
論できる。逆に、相関関係の多い線が垂直方向に伸びる
ときは、サーチ・ブロックを垂直方向に拡大する必要が
あることを示し、相関関係の多い所が円形に集合してい
るときは、サーチ・ブロックを水平及び垂直の両方向に
拡大する必要があることを示す。
【0036】この判断基準を用いてサーチ・ブロックを
どの方向に拡大すべきかを決めるため、相関面の形状を
量的に測る必要がある。この測定は、次のようにして行
う。最初に、閾(しきい)を決める。相関面においてこ
の閾より低い点を考える。この閾は、閾テストで用いた
ものと同様、相関面内の大きさの限度に対する比として
規準化する。この閾を使用し、相関面上の点を4つの特
別な段階で順に調べる。各段階で、相関面値が閾より下
になる点に注意する。図15は、サーチ・ブロックの拡
大方向を決める方法を示す説明図で、これら4つの段階
を示している。上,下,左及び右の番号1,2,3及び
4は、これら4段階を指し、陰影区域は閾より下の点を
示す。
【0037】段階1 相関面の上部から下方へ閾より下の点Aを探す。 段階2 相関面の下部から上方へ閾より下の点Cを探す。 段階3 相関面の左から右へ閾より下の点Dを探す。 段階4 相関面の左から右へ閾より下の点Dを探す。
【0038】こうして得られた4つの点A,B,C,D
の位置を用い、図15に示す2つの寸法X,Yを計算す
る。これらの寸法X,Yは、上記閾値より下の点を包含
する陰影区域の大きさを示す。よって、寸法X,Yよ
り、形状がy方向よりx方向に長いか又はその逆である
か、或いは形状が円に近いかどうかを推定することがで
きる。形状の推定においては、最小限の差を例えば10
%とする。すなわち、形状がx方向に長いとするには、
寸法Xが寸法Yより最小限10%大きくなければならな
い。y方向についても、同様である。寸法X,Yの差が
互いに10%内である場合、形状を円と考え、サーチ・
ブロックを両方向に拡大する。図15の例では、寸法X
が寸法Yより大きく、したがってサーチ・ブロックはx
すなわち水平方向に拡大される。
【0039】サーチ・ブロックの拡大は、1つ以上の拡
大限界に達するまで続けられる。これらの限界とは、相
関面における最小点が閾テスト及びリングテストの両方
に合格すること、映像フレームの端縁に達すること、又
はサーチ・ブロックが既に水平及び垂直方向に所定回数
拡大されたことである。この最後の限界は、ハードウエ
アによって決まる。すなわち、使用できる時間内で行え
る処理量によって制限される。本発明による実施例で
は、この限界は水平方向が2回、垂直方向が1回に設定
された。
【0040】相関面における最小点が閾テスト及びリン
グテストの両方に合格すると、良好な運動ベクトルが決
定されたと見なして運動ベクトル減少器5(図1)に送
ることができる。しかし、映像フレームの端縁に達する
か、又はサーチ・ブロックが既に水平及び垂直方向に所
定回数拡大された場合は、その特定のサーチ・ブロック
では良好な運動ベクトルが決定されなかったと見なし、
良好な運動ベクトルを決定しようとせずに加重(重み付
け)により最も役に立つ(best available)運動ベクト
ルを決定する。
【0041】相関面の加重は、静止すなわち中心運動ベ
クトルに向かって最も役に立つ運動ベクトルが選択され
るように行われる。これは、2つの理由からである。第
1は、サーチ・ブロックが拡大後も原映像の大きな平凡
な区域の一部である場合、良好な運動ベクトルを検出で
きないであろうということである。しかし、原映像が平
凡な区域であれば、静止運動ベクトルは、あとの処理に
おいて正確な結果を導くことになる。第2に、加重は、
非常に間違った運動ベクトルが運動ベクトル減少器5
(図1)に送られる可能性を減じるよう設計されること
である。これは、良好な運動ベクトルを決定できないと
き、大きな不正確な運動ベクトルより小さな不正確な運
動ベクトルの方がよいという理由から行われる。
【0042】図16は、相関面の加重方法の例を示す説
明図である。この例では、相関面上の与えられた点に加
える重みは、静止の中心運動ベクトルからその点までの
距離に正比例する。相関面上のその点の大きさには、加
重係数が乗ぜられる。例えば、その加重作用の勾配は、
中心の静止運動ベクトルからプラス又はマイナス32画
素の点が3の係数を乗ぜられるようなものがよい。いい
かえると、図16に示すように、中心の静止運動ベクト
ルを黒い円で示すとき、その加重作用は中心の静止運動
ベクトルを中心とする逆円錐形になる。
【0043】相関面に加重を施したのち、これを再び閾
テスト及びリングテストにかける。これらのテストに合
格する最小点が決まると、それを良好な運動ベクトルと
見なし、それに良好な運動ベクトルであるが加重を用い
たことを示す標識を付ける。この標識は、運動ベクトル
と共に運動ベクトル減少器5(図1)に送られる。他
方、良好な運動ベクトルも、最も役に立つ運動ベクトル
を加重後も決定できない場合、このサーチ・ブロックに
対し運動ベクトル減少器5に送られる運動ベクトルはど
れも不良運動ベクトルであることを示す標識を付ける。
これは、不良運動ベクトルを運動ベクトル減少処理に使
用してはならず、後述のように代わりを用いなければな
らないために行うものである。
【0044】要約すると、運動ベクトル推定器4(図
1)の作用は、直接ブロック突合せ器3(図1)により
発生された相関面より最も相関関係がある点、すなわち
最小点を導出することである。それから、この最小点を
閾テスト及びリングテストにかける。これら2つのテス
トは、サーチ・ブロックの動きを表すとするために最小
点が合格しなければならないものである。閾テスト及び
リングテストに用いる閾は、絶対値又は比率値のいずれ
でもよい。その最小点がどちらかのテストに不合格の場
合、そのサーチ・ブロックを拡大し、新しい最小点を決
定し、再び閾テスト及びリングテストを行う。相関面の
形状から、サーチ・ブロックを拡大すべき最も効果的な
方向を決定する。
【0045】次に、図1に戻り、運動ベクトル減少器5
について説明する。運動ベクトル減少器5は運動ベクト
ル減少処理を行う。HDVSを使用し、各サーチ・ブロ
ックを32画素×23ラインと想定すると、運動ベクト
ルが最大2451個に達することが考えられる。サーチ
・ブロックの大きさは、解像度の維持とハードウエアの
余剰回避との両要求に妥協して選択する。仮に、これら
すべての運動ベクトルが運動ベクトル選択器6に送られ
るとすると、運動ベクトル選択の仕事は、処理量が多す
ぎて実行できないであろう。この問題を克服するため、
運動ベクトル推定器4及び運動ベクトル選択器6間に運
動ベクトル減少器5を設ける。運動ベクトル減少器5
は、運動ベクトル推定器4により当該フレームに対して
発生される全運動ベクトルのうち、該フレームの各サー
チ・ブロックに対し、境界部分にあるものを含めて、例
えば4つの運動ベクトルだけを取り出して運動ベクトル
選択器6に与える。この作用は、2つある。1つは、正
確な運動ベクトルの選択が容易になることである。それ
は、運動ベクトル選択器6に送られる4つの運動ベクト
ルの中から選べばよいからである。しかし、2つ目は、
その4つのうちの1つとして正確な運動ベクトルが送ら
れない場合、運動ベクトル選択器6は正しい運動ベクト
ルを選択できないことである。したがって、運動ベクト
ル減少器5は、運動ベクトル選択器6に送るものの中に
正確な運動ベクトルが含まれることを確認する必要があ
る。また、運動ベクトル減少器5により4つの運動ベク
トルが運動ベクトル選択器6に送られるものの、これら
の3つのみが実際に動きを表し、4番目の運動ベクトル
は常に静止運動ベクトルである。これは、運動ベクトル
選択器6が動きを表す運動ベクトルを静止画素に適用す
ることを強制されないように、含めるものである。他の
数の運動ベクトルを運動ベクトル選択器6に送ってもよ
く、例えば、動きを表す4つの運動ベクトルと静止運動
ベクトルとを送ってもよい。
【0046】以後「サンプル・ブロック」の用語は、各
画素が運動ベクトル減少器5による4つの運動ベクトル
を有する映像フレームにおけるブロックを指すものとす
る。したがって、サンプル・ブロックは、拡大される前
のサーチ・ブロックと同じであり、映像フレームにおい
てサンプル・ブロックとサーチ・ブロックの最初の位置
は同じである。
【0047】運動ベクトル減少器5(図1)は、運動ベ
クトル推定器4(図1)より運動ベクトル及び標識を受
け、標識を調べることによりその運動ベクトルの質を決
める。運動ベクトルが不明瞭な面から導出されたもので
ない、すなわち高度の確実性がある場合、良好な運動ベ
クトルとされ、若干の不明瞭性があると、その運動ベク
トルは不良運動ベクトルとされる。運動ベクトル減少処
理において、不良運動ベクトルとされた運動ベクトルは
すべて無視される。それは、不正確な運動ベクトルが運
動ベクトル選択器6(図1)に送られ、そのため不良運
動ベクトルが選択されてはならないからである。かよう
な選択が行われると、一般に最終画面に偽(にせ)の点
を生じ、これは非常に目障りになる。
【0048】運動ベクトル減少器5に供給される各運動
ベクトルは、特定のサーチ・ブロックしたがって特定の
サンプル・ブロックから得られたもので、それらの位置
は運動ベクトルと共に示されている。不良運動ベクトル
に分類された運動ベクトルはどれも無視されるので、す
べてのサンプル・ブロックが必ずしもその位置にあるサ
ーチ・ブロックから導出される運動ベクトルを有するわ
けではない。良好な運動ベクトルに分類され、特定のサ
ーチ・ブロックしたがって特定のサンプル・ブロックに
関する運動ベクトルは、局部運動ベクトルと呼ぶ。それ
らは、サンプル・ブロックが得られた区域において導出
したものであるからである。これに加え、もう1つの運
動ベクトル減少処理において、良好運動ベクトルを導出
するのに用いたサーチ・ブロックの実際の位置を考える
ことなく、各良好運動ベクトルが発生する頻度を計数す
る。これらの運動ベクトルは、頻度が減少する順に格付
けして共通運動ベクトルと呼ぶ。3つの共通運動ベクト
ルしか使用できない最悪の場合、これらを静止運動ベク
トルと組み合わせて4つの運動ベクトルを作り、運動ベ
クトル選択器6(図1)に送る。しかし、3つより多く
の共通運動ベクトルがあることが多いので、その数を減
らして全体的(global)運動ベクトルと呼ぶ共通運動ベ
クトルの組を作る。
【0049】共通運動ベクトルの数を減らす簡単な方法
は、最も頻度が高い3つの共通運動ベクトルを使用し、
残りを無視することである。しかし、3つの最も頻度の
高い共通運動ベクトルは、最初互いに垂直及び(又は)
水平方向のプラス又はマイナス1画素運動以内にあった
3つの運動ベクトルであることが多い。いいかえると、
これら共通運動ベクトルはすべて僅かな差の同じ動きを
追うものであり、無視された他の共通運動ベクトルは他
の異なる動きを追うものである。
【0050】1つの場面における動きの全部又は大部分
を表す共通運動ベクトルを選択するためには、同じ動き
を表す全体的運動ベクトルを選択することを避ける必要
がある。したがって、実際に採用する方策は、まず最も
頻繁に生じる3つの共通運動ベクトルを取り、それの中
で最も頻度の少ないものが、他の2つの共通運動ベクト
ルのどちらかのプラス又はマイナス1画素の垂直運動及
び(又は)プラス又はマイナス1画素の水平運動以内に
あるかどうかを調べることである。そうである場合はそ
れを退け、その代わりに次に最も頻繁に生じる共通運動
ベクトルを選ぶ。この処理は、最も頻繁に生じる共通運
動ベクトルの全部に対し、互いに類似しない3つの共通
運動ベクトルが存在するか、或いは3つ以下の共通運動
ベクトルが残されるまで続ける。しかし、なお3つより
多くの共通運動ベクトルが残っている場合、今度は、そ
れらの中で最も頻度の少ないものが他のプラス又はマイ
ナス2画素の垂直運動及び(又は)プラス又はマイナス
2画素の水平運動以内にあるかどうかを調べながら、そ
の処理を繰返す。そして、必要に応じ距離を増してこれ
を続ける。これら3つの共通運動ベクトルは所要の全体
的運動ベクトルであり、これらが頻度の順になお格付け
されている点は、重要なことである。
【0051】運動ベクトル減少処理及び映像フレームの
サンプル・ブロックを考える場合、3つの異なるタイプ
のサンプル・ブロックに目を向ける必要がある。これら
のタイプは、映像フレームにおけるそれらの実際の位置
に関係しており、図17に領域として示す。領域Aは、
全体が他のサンプル・ブロックにより囲まれ画像の境界
に近くないサンプル・ブロックより成る。領域Bは、部
分的に他のサンプル・ブロックに囲まれ画像の境界に近
くないサンプル・ブロックを包含する。領域Cは、画像
の境界に近いサンプル・ブロックを包含する。これらの
各領域に対して使用する運動ベクトル減少アルゴリズム
は、それぞれ異なる。これらのアルゴリズムをこれより
述べるが、まず第1にその映像フレームにおける幾つか
のサンプル・ブロックに対し良好な運動ベクトルが存在
することを繰返しておく。そして、補助的に、その場面
における主な動きを表す3つの全体的(global)運動ベ
クトルがある。これらの運動ベクトルを選択し、各サン
プル・ブロックに対し静止運動ベクトルと共に3つの運
動ベクトルを送るのに使用する。
【0052】図18は、領域Aにおける運動ベクトルの
減少を示す説明図である。これは、調べるべき運動ベク
トルの数が最も多いので、取扱いが一番複雑である。図
18には、他のサンプル・ブロックa〜hにより囲まれ
陰影を施した中心サンプル・ブロックを示す。最初に、
局部的に導出された運動ベクトルについて、それが良好
な運動ベクトルに分類されたかどうかを調べる。そうで
あり、且つ静止運動ベクトルと同じでない場合、それは
合格となる。しかし、これらのテストのどちらかに不合
格であれば、それは無視される。次に、サンプル・ブロ
ックdに対応する運動ベクトルについて、それが良好な
運動ベクトルとして分類されたかどうかを調べる。そう
であり、且つ既に選択された運動ベクトルと同じでな
く、静止運動ベクトルとも同じでないならば、それも合
格となる。これらのテストのどれかに不合格ならば、そ
れも無視される。この処理は、e,b,g,a,h,
c,fの順に同様に続けられる。静止運動ベクトルを含
まない3つの運動ベクトルが得られると、直ちにアルゴ
リズムは停止する。それは、そのサンプル・ブロックに
対する所要の運動ベクトル選択が終わるからである。し
かし、これらのチェックを全部行っても3つの良好な運
動ベクトルが得られないことがある。その場合、残りの
空白を全体的運動ベクトルで埋めるが、より頻度の高い
全体的運動ベクトルに優先権が与えられる。
【0053】図19は、領域Bにおける運動ベクトルの
減少を示す。領域Bにおけるサンプル・ブロックは、領
域Aにおけるものと同じであるが、他のサンプル・ブロ
ックで周りを全部囲まれていない点が異なる。したがっ
て、これらのサンプル・ブロックに加える処理は、領域
Aにおける場合と全く同じである。ただ、周りのすべて
のサンプル・ブロックにおいて探すことができない点が
異なる。したがって、図22に示すように、サンプル・
ブロックa〜eに対する運動ベクトルのチェックができ
るだけであり、運動ベクトルに対し空白が残っておれ
ば、前と同様に全体的運動ベクトルで埋める。同様に、
図19における陰影付きサンプル・ブロックが2位置だ
け左に移動すると、全体的運動ベクトルに頼る前に3つ
の隣接する周りのブロックのみチェックすればよいこと
が分かるであろう。
【0054】図20は、領域Cにおける運動ベクトルの
減少を示す。これは、サンプル・ブロックが局部的に導
出された運動ベクトルをもたず、周りにその運動ベクト
ルを使用できる多くのサンプル・ブロックもないので、
最も取扱いが難しい。この問題を取扱う最も簡単な方法
は、単に、領域Cのサンプル・ブロックに静止運動ベク
トルと共に全体的運動ベクトルを与えることである。し
かし、そうすると、領域Bの隣接サンプル・ブロックと
比べ領域Cのサンプル・ブロックに与えられる運動ベク
トルが急激に変わるため、得られる画像にブロック状
(a block-like)の影響が出ることに気付いた。したが
って、好ましい方策は、この急激な変化を避けるため、
領域Cのサンプル・ブロックに対し、領域Bのサンプル
・ブロックに用いたものと同じ運動ベクトルを用いるこ
とである。領域Cの各サンプル・ブロックに、物理的に
最も近い領域Bのサンプル・ブロックと同じ運動ベクト
ルを割当てるのがよい。したがって、図20の例におい
ては、領域Cの陰影付き各サンプル・ブロックに領域B
のサンプル・ブロックと同じ運動ベクトルを与える。こ
うすると、よい結果が得られることが分かった。
【0055】次に、図1に戻り、運動ベクトル選択器6
について説明する。運動ベクトル選択器6の目的は、こ
れに供給される4つの運動ベクトルの1つをサンプル・
ブロック内の各画素に割り当てることである。こうし
て、運動ベクトルは、対象物の外形に正確にマッピング
される。この割り当て方法は、特に微細部の周りの背景
が正確な運動ベクトルにより生じるものよりよくマッチ
する(よく合う)ことがないように行われる。
【0056】図21は、本発明による運動ベクトル選択
方法を示す説明図である。同図に示すように、運動ベク
トルの選択には2フレームの運動ベクトルを使用する。
1つの運動ベクトル・フレーム(入力フレーム1)を基
準フレームとし、これに続くフレーム(入力フレーム
2)を使用する。出力フレームの位置は、運動ベクトル
の2入力フレームの間のどこかになる。この出力フレー
ムにおける各出力画素位置に対して、考えられる4つの
運動ベクトルをテストする。テストされる運動ベクトル
の角度で出力画素位置を通って引かれる線は、入力フレ
ーム1における1つの位置と入力フレーム2における1
つの位置とを指示する。
【0057】考えられる最大の大きさ(本実施例では、
これは16画素の長さである。)までのあらゆる大きさ
の運動ベクトルに対し、入力フレーム1及び入力フレー
ム2の上にそれぞれ指示された位置を中心とする16画
素(水平方向)×8画素(垂直方向)の2つのブロック
を求め、比較を行う。これを、図21に、大きさを15
画素長と仮定したベクトル1を例にとって示す。比較
は、2つのブロックにおける対応位置の画素の輝度値の
差を取り、これらの差を加算して2ブロック間の絶対差
の和を得ることにより、行う。これを4つの運動ベクト
ルの各々に対して繰返す。これらの各運動ベクトルは、
勿論入力フレーム1及び2上の異なる2位置を指示す
る。したがって、比較するブロックは異なるものとな
る。こうして導出した4つの絶対差の和が最も小さいも
のが、4つの運動ベクトルのうちどれが出力画素位置に
最も正確な結果を与えるかを示す。そして、その運動ベ
クトルを運動ベクトルあと処理器7(図1)に前送りす
る。これは、運動ベクトルに1〜4の番号を付け、これ
らをその番号で識別して行うのが便利である。ただし、
それらを実際に使用しようとする場合は除く。
【0058】或る選択値までのすべての大きさの運動ベ
クトルに対してこの方法を用いる場合は、修正を加え
る。これについて簡単に述べる。本実施例では、この選
択値を8画素長とする。これはたまたま考えられる最大
の大きさの半分であるが、他の異なる値を選択すること
もできる。
【0059】修正の目的は、大きい(16画素×8画
素)ブロックを使用することにより、特に動きが小さい
ときに微小な細部が失われることを防ぐためであり、こ
の修正は、運動ベクトルの大きさが比較的小さい場合に
重みを加える(加重)作用をする。
【0060】これを達成するため、8画素長までのすべ
ての運動ベクトルに対し、入力フレーム1及び入力フレ
ーム2の上でそれぞれ指示された位置を中心とする4画
素(水平方向)×4画素(垂直方向)のブロックを、上
述の16画素×8画素ブロックの外に、比較のために求
める。これを、図21に、大きさを5画素長と仮定した
ベクトル2を例として示す。これらの運動ベクトルの場
合、上記絶対差の和は、小さいブロック(4×4)に対
する絶対差の和及び大きいブロック(16×8)に対す
る絶対差の和として導出し、その絶対差の総和を規準化
(16×8を乗じ、16×8+4×4で割る。)して、
最初に述べた大きいブロック(16×8)のみを用いて
導出した絶対差の和のどれともレベルを比較できるよう
にする。これを中心加重と呼ぶことにする。
【0061】上記ブロックの大きさ(16×8及び4×
4)は、勿論臨界的なものではなく、特定の方式変換又
は変換しようとする特定の内容に適するように変えるこ
とができる。
【0062】次に、図22により運動ベクトル選択器6
(図1)の例を詳述する。ハードウエアの構成の都合と
所要の動作速度(本例では実時間)を達成するため、図
22に示す回路は24回の反復を行う。すなわち、各フ
レームを処理のために12のセグメント(画像部分)に
分割し、フレーム繰返し率を毎秒25とする。そうする
と、毎秒50フレームを処理するのに必要な反復回数は
2×12回となる。
【0063】図22の回路は、基準読出しアドレス発生
器20、アドレス・シフト回路21、マッピング・メモ
リ22、画像部分メモリ23及び24、ブロック突合せ
器25及び26、加算器27、規準化器28、選択器2
9、記憶・比較器30を有し、これらは、図示のように
相互接続され、次のような動作をする。
【0064】まず、入力フレーム1及び入力フレーム2
の対応する画像部分をそれぞれ画像部分メモリ23及び
24に入れる。各画像部分は、該フレームのライン数の
1/12より十分に多いラインを含め、ブロックの処理
に必要な重複部分を設けるようにする。画像部分が記憶
されると、ブロック突合せ器25及び26は、マッピン
グ・メモリ22に記憶されている4つの運動ベクトルの
各々に対して、直ちに上述のような絶対差の和を導出し
始める。動作の便宜上、両方の絶対差の和を運動ベクト
ルのすべての大きさから導出する。ブロック突合せ器2
5により導出された絶対差の和は、直接選択器29に供
給し、ブロック突合せ器25及び26により導出された
絶対差の和は、加算器27により加算し、規準化器28
により規準化して選択器29に供給する。選択器29
は、マッピング・メモリ22から供給される制御信号に
従い、記憶・比較器30に供給すべき絶対差の和を選択
する。この制御信号は、当該運動ベクトルが選択値より
上か下かを指示するものである。
【0065】4つの運動ベクトルの各群に対し、記憶・
比較器30は、第1の運動ベクトルに対応する絶対差の
和を記憶する。第2の運動ベクトルに対応する絶対差の
和を受けると、記憶・比較器30は、両者を比較して小
さい方を記憶し、これを第4の運動ベクトルに対応する
絶対差の和まで続ける。そして、4つのうち最小のもの
を、絶対差の和の最小値が導出された運動ベクトルの番
号の形で、出力として供給する。この出力は、運動ベク
トルあと処理器7(図1)に供給する。
【0066】運動ベクトル選択のあと、殆ど確実にどの
実際の画像状態においても幾つかの画素に対応する偽の
運動ベクトルが若干残る。かかる偽の信号ベクトルは、
ただ1つの画素が周りの画素の全部と異なる運動ベクト
ルをもつ場合特異点に、水平線上の3つの画素が周りの
画素と異なる運動ベクトルをもつ場合水平運動ベクトル
・インパルスに、垂直線上の3つの画素が周りの画素と
異なる運動ベクトルをもつ場合垂直運動ベクトル・イン
パルスに、対角線上の3つの画素が周りの画素と異なる
運動ベクトルをもつ場合対角線運動ベクトル・インパル
スに、直立十字形に配置された5つの画素が周りのすべ
ての画素と異なる運動ベクトルをもつ場合水平プラス垂
直運動ベクトル・インパルスに、斜め十字形に配置され
た5つの画素が周りのすべての画素と異なる運動ベクト
ルをもつ場合2対角線運動ベクトル・インパルスに存在
すると考えられる。
【0067】上記6つの部類に該当する画素運動ベクト
ルは、実際に本当の画像には属せず、不正確な運動ベク
トルを選択した結果生じたものである。かような運動ベ
クトルを補間過程で使用すると、最終出力画像に点を生
じることがあり、したがって、かような運動ベクトルを
識別して除去するのがよい。これは、上述の運動ベクト
ル群をすべて検出し標識を付けるアルゴリズムを用いて
行う。
【0068】不良運動ベクトルを識別すると、それらを
修復する必要があり、これは、運動ベクトルあと処理器
7(図1)によって行われる。補間や大多数の代用など
種々の方法を使用しうるが、実際には簡単な置換により
好結果が得られることが分かった。
【0069】再び図1に戻り、各画素に対し最終的に選
択された運動ベクトルは、運動ベクトルあと処理器7を
介して補間器8に供給され、該補間器にはまた、プログ
レッシブ走査変換器2よりプログレッシブ走査変換され
た毎秒60フレームの映像フレームが供給される。補間
器8は、図31に示すように、2つのプログレッシブ走
査変換されたフレームのみを用いる比較的簡単なもので
ある。連続する入力フレーム、フレーム1及び2に対す
る出力フレームの時間的位置と、出力フレームにおける
画素に対する運動ベクトルとを用い、補間器8は、公知
のように、正確な出力画素値を作るため第1フレームの
どの部分を第2フレームのどの部分とどんな重みを付け
て組合せるかを決定する。いいかえると、補間器8は、
運動ベクトルに従う運動方向に沿って適当な補間を行
い、毎秒24フレームに対応する動きが補正されたプロ
グレッシブ走査フレームを作成する。運動ベクトルは画
素の輝度値のみを用いて導出されたものであるが、同じ
運動ベクトルを所要の出力画素の色(クロミナンス)値
を導出するのに使用する。所要の出力を生ずるのに、各
フレームから8×8画素アレイを用いる。したがって、
補間器8は、2次元的垂直及び水平方向補間器であり、
補間器8で使用する計数は、レメズ(Remez )交換アル
ゴリズムを用いて導出できる。このアルゴリズムについ
ては、プレンティス−ホール・インコーポレイテッド社
発行ローレンス・アール・ラビナー及びバーナード・ゴ
ールド著「ディジタル信号処理の理論と応用」136〜
140頁及び227頁に詳述されている。
【0070】図23は、補間器8の動作を示す説明図
で、3つの異なる場合の補間動作が示されている。左側
の第1の場合は非遮蔽又は遮蔽の面がない場合であり、
中央の第2の場合は遮蔽面がある場合、右側の第3の場
合は非遮蔽面がある場合である。遮蔽面の場合、補間に
はフレーム1のみを用いるが、非遮蔽面の場合、補間に
はフレーム2のみを用いる。
【0071】補間器8に、動きを補正しない補間に省略
時(default )を与えることができる。その場合、時間
的に最も近いプログレッシブ走査変換されたフレームが
用いられる。
【0072】
【発明の効果】本発明によれば、ハードウエアの量を減
少させると共に装置を実時間で動作させることができ
る。
【図面の簡単な説明】
【図1】本発明方式変換装置の実施例の概略を示すブロ
ック図である。
【図2】プログレッシブ走査変換の説明図である。
【図3】動きに合せたプログレッシブ走査変換の段階例
を示すブロック図である。
【図4】サーチ・ブロック及びサーチ区域の例を示す説
明図である。
【図5】サーチ・ブロックとサーチ区域の関係を示す説
明図である。
【図6】相関面の一般例を示す斜視図である。
【図7】3つのサーチ・ブロックに跨る運動体を示す説
明図である。
【図8】図7から得られる相関面の第1例を示す斜視図
である。
【図9】図7から得られる相関面の第2例を示す斜視図
である。
【図10】図7から得られる相関面の第3例を示す斜視
図である。
【図11】相関面の特殊な例を示す斜視図である。
【図12】改善後の図11の相関面を示す斜視図であ
る。
【図13】リングテスト説明用相関面の第1例を示す斜
視図である。
【図14】リングテスト説明用相関面の第2例を示す斜
視図である。
【図15】サーチ・ブロックの拡大方向の決め方を示す
説明図である。
【図16】相関面の加重方法を示す説明図である。
【図17】映像フレームにおける運動ベクトル領域を示
す説明図である。
【図18】映像フレームのA領域における運動ベクトル
減少説明図である。
【図19】映像フレームのB領域における運動ベクトル
減少説明図である。
【図20】映像フレームのC領域における運動ベクトル
減少説明図である。
【図21】本発明による運動ベクトル選択方法を示す説
明図である。
【図22】本発明に用いる運動ベクトル選択器の例を示
すブロック図である。
【図23】補間器の動作を示す説明図である。
【符号の説明】
3 運動ベクトル導出手段 25 テスト手段 26〜28 中心加重手段 29,30 運動ベクトル選択手段
フロントページの続き (72)発明者 サリー・グリフィス イギリス連合王国 ハンプシャー,フッ ク,ミードハッチゲート 32 (58)調査した分野(Int.Cl.7,DB名) H04N 7/01

Claims (2)

    (57)【特許請求の範囲】
  1. 【請求項1】入力映像信号の連続するフィールド又はフ
    レーム間の動きを表す運動ベクトルを導出する方法であ
    って、動きを補正する補間により上記入力映像信号から
    方式変換された出力映像信号を導出しようとするものに
    おいて、 上記出力映像信号の各フィールド又は各フレームの各画
    素に対する運動ベクトルを複数個導出するステップと、 上記複数個の運動ベクトルの各々において、上記出力映
    像信号のフィールド又はフレームに時間的に最も近い上
    記入力映像信号の2つのフィールド又はフレームの中で
    上記運動ベクトルにより位置が表示される対応する2つ
    の画素ブロックの中で、該画素ブロックを構成する画素
    夫々について対応する画素の絶対的輝度差を取り、且つ
    該画素ブロック全体の該絶対的輝度差の和を導出する処
    理ステップと、 上記複数の運動ベクトルから上記絶対値輝度差の和が最
    小になる運動ベクトルを選択するステップを含み、 上記処理ステップは、上記運動ベクトルの大きさが所定
    値より小さい場合、上記絶対値輝度差の和を中心加重す
    るステップを有することを特徴とする映像信号のフィー
    ルド又はフレーム間の動きを表す運動ベクトルを導出す
    る方法。
  2. 【請求項2】動きを補正する補間により入力映像信号か
    ら方式変換された出力映像信号を導出する動きを補正し
    た映像方式変換装置であって、 上記出力映像信号の各フィールド又は各フレームの各画
    素に対する運動ベクトルを複数個導出する手段と、 上記複数個の運動ベクトルの各々について、上記出力映
    像信号のフィールド又はフレームに時間的に最も近い上
    記入力映像信号の2つのフィールド又はフレームの中で
    上記運動ベクトルにより位置が示される対応する2つの
    画素ブロックの中で該画素ブロックを構成する画素それ
    ぞれについて対応する画素の絶対的輝度差を取り、且つ
    該画素ブロック全体の該絶対的輝度差の和を導出する処
    理手段と、 上記複数の運動ベクトルから上記絶対値輝度差の和が最
    小になる運動ベクトルを選択する手段とを備え、 上記処理手段は、上記運動ベクトルの大きさが所定値よ
    り小さい場合、上記絶対値輝度差の和を中心加重する手
    段を有することを特徴とする動きを補正した映像方式変
    換装置。
JP24915291A 1990-09-28 1991-09-27 映像信号のフィールド又はフレーム間の動きを表す運動ベクトルを導出する方法及びこれを使用する映像方式変換装置 Expired - Fee Related JP3287864B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
GB90211541 1990-09-28
GB9021154A GB2248361B (en) 1990-09-28 1990-09-28 Motion dependent video signal processing

Publications (2)

Publication Number Publication Date
JPH0614305A JPH0614305A (ja) 1994-01-21
JP3287864B2 true JP3287864B2 (ja) 2002-06-04

Family

ID=10682914

Family Applications (1)

Application Number Title Priority Date Filing Date
JP24915291A Expired - Fee Related JP3287864B2 (ja) 1990-09-28 1991-09-27 映像信号のフィールド又はフレーム間の動きを表す運動ベクトルを導出する方法及びこれを使用する映像方式変換装置

Country Status (5)

Country Link
US (1) US5162907A (ja)
EP (1) EP0478217B1 (ja)
JP (1) JP3287864B2 (ja)
DE (1) DE69132475T2 (ja)
GB (1) GB2248361B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8432495B2 (en) 2006-09-15 2013-04-30 Panasonic Corporation Video processor and video processing method

Families Citing this family (68)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE4111980A1 (de) * 1991-04-12 1992-10-15 Thomson Brandt Gmbh Verfahren zur codierung
HU9300005D0 (en) * 1991-05-24 1993-04-28 British Broadcasting Corp Method for processing video picture
US5742345A (en) * 1991-07-05 1998-04-21 Samsung Electronics Co., Ltd. System for transmitting and receiving video signals using interpolation of adaptive factor
WO1993002529A1 (en) * 1991-07-23 1993-02-04 British Telecommunications Public Limited Company Method and device for frame interpolation of a moving image
FR2680619B1 (fr) * 1991-08-21 1993-12-24 Sgs Thomson Microelectronics Sa Predicteur d'image.
EP0533195A2 (en) * 1991-09-20 1993-03-24 Sony Corporation Picture signal encoding and/or decoding apparatus
US5369449A (en) * 1991-11-08 1994-11-29 Matsushita Electric Industrial Co., Ltd. Method for predicting move compensation
USRE39279E1 (en) * 1991-11-08 2006-09-12 Matsushita Electric Industrial Co., Ltd. Method for determining motion compensation
USRE39276E1 (en) * 1991-11-08 2006-09-12 Matsushita Electric Industrial Co., Ltd. Method for determining motion compensation
JP3064598B2 (ja) * 1991-12-02 2000-07-12 松下電器産業株式会社 相関検出補間方法および装置
GB2266023B (en) * 1992-03-31 1995-09-06 Sony Broadcast & Communication Motion dependent video signal processing
EP0574068B1 (en) * 1992-06-11 1999-02-24 Koninklijke Philips Electronics N.V. Apparatus for motion-compensated picture signal interpolation
GB9214218D0 (en) * 1992-07-03 1992-08-12 Snell & Wilcox Ltd Motion compensated video processing
DE4226128A1 (de) * 1992-08-07 1994-02-10 Philips Patentverwaltung Verfahren zur Ermittlung von Bewegungsvektoren
GB2272596B (en) * 1992-11-10 1997-06-11 Sony Broadcast & Communication Motion compensated video signal processing
US5398079A (en) * 1993-01-27 1995-03-14 General Instrument Corporation Half-pixel interpolation for a motion compensated digital video system
US5508744A (en) * 1993-03-12 1996-04-16 Thomson Consumer Electronics, Inc. Video signal compression with removal of non-correlated motion vectors
GB2309350B (en) * 1993-04-08 1998-01-07 Sony Uk Ltd Motion compensated video signal processing
EP0624032B1 (en) * 1993-05-07 2000-07-26 Lg Electronics Inc. Video format conversion apparatus and method
US5440350A (en) * 1993-05-28 1995-08-08 Intel Corporation Method and apparatus for encoding selected blocks of a residual image signal
GB2313515B (en) * 1993-08-03 1998-02-25 Sony Uk Ltd Motion compensated video signal processing
WO1995007591A1 (en) * 1993-09-08 1995-03-16 Thomson Multimedia S.A. Method and apparatus for motion estimation using block matching
EP0648052B1 (en) * 1993-09-08 2000-03-01 THOMSON multimedia Method and apparatus for motion estimation using block matching
DE69423166T2 (de) 1993-09-08 2000-07-06 Thomson Consumer Electronics Verfahren und Vorrichtung zur Bewegungsauswertung mit Blockübereinstimmung
GB2283385B (en) * 1993-10-26 1998-04-01 Sony Uk Ltd Motion compensated video signal processing
US5453787A (en) * 1993-12-10 1995-09-26 International Business Machines Corporation Variable spatial frequency chrominance encoding in software motion video compression
US5465118A (en) * 1993-12-17 1995-11-07 International Business Machines Corporation Luminance transition coding method for software motion video compression/decompression
KR950024600A (ko) * 1994-01-31 1995-08-21 김광호 휘도신호적응 움직임 평가방법
JP3319133B2 (ja) * 1994-03-29 2002-08-26 ソニー株式会社 画像プリンタ装置
US5506622A (en) * 1994-05-02 1996-04-09 Daewoo Electronics Co., Ltd. Block matching type motion vector determination using correlation between error signals
KR100349883B1 (ko) * 1994-07-27 2002-12-16 소니 가부시끼 가이샤 동작벡터검출및화상신호부호화방법및장치
EP0697788A3 (en) * 1994-08-19 1997-03-26 Eastman Kodak Co Adaptive and global motion compensated cancellation of the interlacing of successive video images with post-processing
US5500689A (en) * 1994-10-26 1996-03-19 Thomson Consumer Electronics, Inc. System for detecting a video signal image intensity gradient
US5561477A (en) * 1994-10-26 1996-10-01 Thomson Consumer Electronics, Inc. System for coding a video signal in the presence of an image intensity gradient
US5638128A (en) * 1994-11-08 1997-06-10 General Instrument Corporation Of Delaware Pixel interpolation filters for video decompression processor
US5757670A (en) * 1995-07-28 1998-05-26 S3, Incorporated Frame reconstruction for video data compression
US5682209A (en) * 1995-11-13 1997-10-28 Tektronix, Inc. Motion estimation using limited-time early exit with prequalification matrices and a predicted search center
US6456337B1 (en) * 1997-03-06 2002-09-24 Fujitsu General Limited Moving image correcting circuit for display device
US6184899B1 (en) 1997-03-31 2001-02-06 Treyarch Invention, L.L.C. Articulated figure animation using virtual actuators to simulate solutions for differential equations to display more realistic movements
JP4119092B2 (ja) * 1998-06-25 2008-07-16 株式会社日立製作所 画像信号のフレーム数変換方法および装置
US6081209A (en) * 1998-11-12 2000-06-27 Hewlett-Packard Company Search system for use in compression
US7139019B2 (en) * 2001-06-05 2006-11-21 Sony Corporation Image processing device
WO2003017649A1 (en) * 2001-08-20 2003-02-27 Koninklijke Philips Electronics N.V. Image size extension
CN100553339C (zh) 2002-07-15 2009-10-21 株式会社日立制作所 动态图像解码方法
US7480010B2 (en) * 2002-09-04 2009-01-20 Denace Enterprise Co., L.L.C. Customizable ASIC with substantially non-customizable portion that supplies pixel data to a mask-programmable portion in multiple color space formats
US7136108B2 (en) * 2002-09-04 2006-11-14 Darien K. Wallace Segment buffer loading in a deinterlacer
US7782398B2 (en) * 2002-09-04 2010-08-24 Chan Thomas M Display processor integrated circuit with on-chip programmable logic for implementing custom enhancement functions
US7218355B2 (en) * 2002-09-04 2007-05-15 Darien K. Wallace Deinterlacer using block-based motion detection
US7202908B2 (en) * 2002-09-04 2007-04-10 Darien K. Wallace Deinterlacer using both low angle and high angle spatial interpolation
CN100438609C (zh) * 2002-10-22 2008-11-26 皇家飞利浦电子股份有限公司 带有降质的图像处理单元
JP3770271B2 (ja) * 2002-12-26 2006-04-26 三菱電機株式会社 画像処理装置
US7408989B2 (en) * 2003-01-16 2008-08-05 Vix5 Systems Inc Method of video encoding using windows and system thereof
KR100565066B1 (ko) * 2004-02-11 2006-03-30 삼성전자주식회사 중첩된 블록 기반 움직임 추정에 의한 움직임 보상 보간방법 및 그를 적용한 프레임 레이트 변환 장치
GB2431805A (en) * 2005-10-31 2007-05-02 Sony Uk Ltd Video motion detection
JP4529874B2 (ja) * 2005-11-07 2010-08-25 ソニー株式会社 記録再生装置および記録再生方法、記録装置および記録方法、再生装置および再生方法、並びにプログラム
EP2011342B1 (en) * 2006-04-14 2017-06-28 Nxp B.V. Motion estimation at image borders
JP4753104B2 (ja) * 2006-05-31 2011-08-24 国立大学法人 千葉大学 3次元画像構築装置及び方法並びにプログラム
TWI383666B (zh) * 2007-08-21 2013-01-21 Sony Taiwan Ltd 多重鏡頭相機系統之先進式動態接圖方法
WO2009034486A2 (en) * 2007-09-10 2009-03-19 Nxp B.V. Method and apparatus for line-based motion estimation in video image data
US20090207314A1 (en) * 2008-02-14 2009-08-20 Brian Heng Method and system for motion vector estimation using a pivotal pixel search
EP2106136A1 (en) * 2008-03-28 2009-09-30 Sony Corporation Motion compensated temporal interpolation for frame rate conversion of video signals
GB2503833B (en) * 2008-12-09 2014-04-30 Snell Ltd Motion image rendering system
US9654792B2 (en) 2009-07-03 2017-05-16 Intel Corporation Methods and systems for motion vector derivation at a video decoder
US8917769B2 (en) 2009-07-03 2014-12-23 Intel Corporation Methods and systems to estimate motion based on reconstructed reference frames at a video decoder
US20110001882A1 (en) * 2009-07-06 2011-01-06 Sony Corporation Method and system for determining motion vectors for flat regions
US9509995B2 (en) 2010-12-21 2016-11-29 Intel Corporation System and method for enhanced DMVD processing
EP3481066B1 (en) 2011-06-28 2021-05-19 LG Electronics Inc. Method for deriving a motion vector predictor
CN104883623B (zh) * 2015-04-30 2018-12-18 北京小鸟看看科技有限公司 一种头戴显示器视频控制方法和电路

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4663665A (en) * 1985-01-07 1987-05-05 Nippon Hoso Kyokai TV system conversion apparatus
ATE74219T1 (de) * 1987-06-02 1992-04-15 Siemens Ag Verfahren zur ermittlung von bewegungsvektorfeldern aus digitalen bildsequenzen.
EP0294961B1 (en) * 1987-06-09 1994-10-12 Sony Corporation Motion vector selection in television images
GB8713455D0 (en) * 1987-06-09 1987-07-15 Sony Corp Television standards converters
DE3850709T2 (de) * 1987-06-09 1994-11-24 Sony Corp Reduzierung der Bewegungsvektoren in Fernsehbildern.
JP2578859B2 (ja) * 1987-12-25 1997-02-05 日本電気株式会社 テレビジョン信号方式変換装置
GB2222500A (en) * 1988-09-05 1990-03-07 Philips Electronic Associated Picture motion measurement
GB2231227B (en) * 1989-04-27 1993-09-29 Sony Corp Motion dependent video signal processing
GB2231748B (en) * 1989-04-27 1993-08-18 Sony Corp Motion dependent video signal processing

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8432495B2 (en) 2006-09-15 2013-04-30 Panasonic Corporation Video processor and video processing method

Also Published As

Publication number Publication date
EP0478217A3 (en) 1993-05-19
GB2248361A (en) 1992-04-01
DE69132475D1 (de) 2000-12-28
US5162907A (en) 1992-11-10
GB2248361B (en) 1994-06-01
GB9021154D0 (en) 1990-11-14
DE69132475T2 (de) 2001-05-03
JPH0614305A (ja) 1994-01-21
EP0478217B1 (en) 2000-11-22
EP0478217A2 (en) 1992-04-01

Similar Documents

Publication Publication Date Title
JP3287864B2 (ja) 映像信号のフィールド又はフレーム間の動きを表す運動ベクトルを導出する方法及びこれを使用する映像方式変換装置
JP3154255B2 (ja) 動きベクトル導出方法
EP0395271B1 (en) Motion dependent video signal processing
EP0395274B1 (en) Motion dependent video signal processing
EP0468628B1 (en) Motion dependent video signal processing
US4663665A (en) TV system conversion apparatus
US5012337A (en) Motion dependent video signal processing
EP0395267B1 (en) Motion dependent video signal processing
US4998168A (en) Motion dependent video signal processing
EP0395268B1 (en) Motion dependent video signal processing
EP0395266B1 (en) Motion dependent video signal processing
EP0395272B1 (en) Motion dependent video signal processing
EP0395270B1 (en) Motion dependent video signal processing
EP0395269B1 (en) Motion dependent video signal processing

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080315

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090315

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100315

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100315

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110315

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees