JPH07184167A - 動き補正ビデオ信号処理方式 - Google Patents
動き補正ビデオ信号処理方式Info
- Publication number
- JPH07184167A JPH07184167A JP6260607A JP26060794A JPH07184167A JP H07184167 A JPH07184167 A JP H07184167A JP 6260607 A JP6260607 A JP 6260607A JP 26060794 A JP26060794 A JP 26060794A JP H07184167 A JPH07184167 A JP H07184167A
- Authority
- JP
- Japan
- Prior art keywords
- block
- motion vector
- motion
- video
- vector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
- H04N7/014—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
- H04N5/145—Movement estimation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Television Systems (AREA)
Abstract
力フィールドの一部分を正確に補間するのに必要な動き
ベクトルが、ベクトル減数処理によって使用できなくな
ることを防ぐ。 【構成】 入力映像のサーチブロックの、入力映像対間
の動き表す複数の局部動きベクトルを発生し、各局部動
きベクトルにより指示される出力映像のブロックを検出
し、出力映像の各ブロックに動きベクトルのグルーブを
割当て、当該ブロックに割当てられたグルーブから1つ
の動きベクトルを用いて入力映像対から出力映像の各ブ
ロックのピクセルを補間する。
Description
理方式に関するものである。
ン標準方式変換やビデオ対フィルム変換の如きビデオ処
理の分野で使用されている。以前に提案された動き補正
ビデオ処理装置の一例が英国公開特許出願GB−A−
2,231,749号に記載されており、これは、入力
デジタルビデオ信号の時間的に隣接する映像(フィール
ド又はフレーム)の対を処理して対応する動きベクトル
の組を発生するものである。この処理は映像の別々のブ
ロックについて行われるので、各動きベクトルは夫々の
ブロックの内容の映像間の動きを表す。該動きベクトル
の組は、更に処理されたあと動き補正補間器に供給さ
れ、該補間器は、入力映像間の動きを考えに入れなが
ら、入力映像の対から出力映像を補間している。
にして発生される。第1段階で、時間的に所要の出力映
像の前を行く入力映像内の個々のサーチブロックを、時
間的に当該出力映像の後に続く入力映像のサーチ区域内
の複数のかようなブロックと比較する。各比較毎に、時
間的に前後する入力映像の夫々のブロック内の対応する
位置にあるピクセル間の絶対輝度差の計算を含む相関テ
ストを行う。これらの絶対輝度差を合計して、比較した
2つのブロック間の相関を示す相関値を発生する。時間
的に後の映像のサーチ区域内のブロックで相関値が最も
低いものは、時間的に前の映像のサーチブロックと相関
があると考えられ、該サーチブロックからサーチ区域内
の当該ブロックへの映像の動きを表す動きベクトルが発
生される。
補正ビデオ信号処理装置に起こりうる問題点を、これよ
り図1〜5を参照して説明する。
ールド(f0,f1)間を速度Vで動く物体10の1次
元図である。上述のように、入力フィールドf0は、任
意にサーチブロックの格子(例えば、図1のブロック2
0,30)に分割され、各サーチブロックが入力フィー
ルドf1内の、複数のかようなブロックを含む夫々のサ
ーチ区域40と比較される。動きベクトル50は、サー
チブロック20と最高の相関(即ち、最小の差)をもつ
サーチ区域40内の位置に応じて発生される。
チブロックから発生した動きベクトルのアレイを示す。
本例では、動きベクトルVは、入力フィールドf0,f
1間の物体10の動きを表すために、サーチブロック2
0から発生されている。入力フィールドf0における周
りのサーチブロックは動く物体を含まないので、それら
のサーチブロックからはゼロ動きベクトルが発生され
る。
(位置が入力フィールドf0の各サーチブロックに対応
する)に或るグループの動きベクトルを割当てるため
に、ベクトル減数処理を用いる。この動きベクトルのグ
ループは、次のものから次の優先順序で選択される。 1.ゼロ動きベクトル、 2.入力フィールドf0の対応するサーチブロックから
発生される動きベクトル(「局部」動きベクトル)、 3.入力フィールドf0の周囲のサーチブロックから発
生される動きベクトル(「近隣」動きベクトル)、 4.入力フィールドf0全体において最も頻繁に現れる
所定数の異なる動きベクトル(「広域」動きベクト
ル)。
は、出力フィールドの当該ブロックに割当てられた動き
ベクトルのグループの中から1つの動きベクトルを用い
て、2入力フィールドから補間される。
ル減数処理により出力映像の各ブロックに4つの動きベ
クトルのグループが割当てられている。あとの説明を簡
単にするため、2つの動きベクトルのグルーブが出力映
像のブロックに割当てられる場合を図3に示す。ブロッ
ク60(位置が入力フィールドf0のサーチブロック2
0に対応する)には、動きベクトルV及びゼロが割当て
られる。動きベクトルVはまた、出力映像の直ぐ隣りの
ブロック70,80にも(「近隣」動きベクトルとし
て)割当てられる。出力映像の残りのブロックには、動
きベクトルVは割当てられない。
ールドf0及びf1間の3/10にあるときの出力映像
の補間を示す。即ち、入力フィールドf0がt=0の時
間に発生し、入力フィールドf1がt=1の時間に発生
すると考えたとき、出力フィールドがt=0.3の時間
に発生する場合である。
は出力フィールドの位置90にて補間されるべきであ
る。位置90は、ベクトル減数時に動きベクトルVが割
当てられた、出力フィールドのブロック80の中にあ
る。したがって、物体10は、動きベクトルVを用いて
正確に補間することができる。
における出力フィールドの補間を示す。この場合、物体
10が補間されるべき位置100は、動きベクトルVが
割当てられなかった、出力フィールドのブロック110
の中にある。したがって、動きベクトルVを補間に使用
できないので、物体10を出力フィールドで正確に補間
することができない。
のブロックからもっと適当な動きベクトルを「借りる」
ことができるベクトル減数を用いるにも拘らず、出力フ
ィールドの一部分を正確に補間するのに必要な動きベク
トルが、ベクトル減数によって使用できなくなる(図5
に示したような)事態が起こりうる。これは、2連続フ
ィールド間を物体が急速に動き、その動きを表す動きベ
クトルがサーチブロックの大きさより著しく大きい場合
に、特に問題となる。したがって、本発明の課題は、か
ような問題を解決することである。
ビデオ信号の時間的に隣接する入力映像の対応する対か
ら出力ビデオ信号の出力映像を補間する、次の如き動き
補正ビデオ信号処理装置を提供する。即ち、このビデオ
信号処理装置は、入力映像対の一方の夫々のサーチブロ
ックの当該映像及び上記対の他方の映像間の映像の動き
を表す複数の局部動きベクトルを発生する手段と、各局
部動きベクトルによって指し示される、出力映像のブロ
ックを検出する手段と、動きベクトルのグループを出力
映像の各ブロックに割当てる手段であって、該ベクトル
のグルーブは、少なくとも出力映像の当該ブロックを指
し示す局部動きベクトルを含む1組の動きベクトルから
選択されたものである、上記割当て手段と、当該ブロッ
クに割当てられた動きベクトルのグルーブから1つの動
きベクトルを用いて、入力映像対から出力映像の各ブロ
ックのピクセルを補間する動き補正補間器とを具える。
動きベクトルによって指し示される、出力映像のブロッ
クに割当てられる。こうすれば、適正な動きベクトルを
該動きベクトルが関係する映像部分の補間に使用するこ
とができなかった上述の問題が回避される。
え、特定のブロックを指し示す動きベクトルがないとい
う事態に備えるために、出力映像の各ブロックに対する
動きベクトルの組は、対応するサーチブロックに対する
局部動きベクトルを含むのがよい。
各ブロックに割当てるために、上記割当て手段は、出力
映像の各ブロックに対し、動きベクトルの夫々の組にお
ける各動きベクトルの、当該ブロックのピクセルの補間
の使用に対する適性を示す公算値を導出する手段と、出
力映像の各ブロックに対する動きベクトルの夫々の組か
ら、最高の公算値をもつ所定数の動きベクトルを検出す
る手段とを有するのがよい。
るサーチブロックに対する局部動きベクトルは、所定の
一定値に等しい公算値を有するのがよい。好適な具体構
成では、出力映像の各ブロックについて、当該ブロック
を指し示す局部動きベクトルに対する公算値は、当該ブ
ロックと、当該動きベクトルの方向に投影された当該動
きベクトルに対応するサーチブロックとの間の交差面積
に比例する。
重なる場合に適当な動きベクトルを与えるため、出力映
像の各ブロックに対する動きベクトルの組は、出力映像
の当該ブロックに隣接する複数ブロックを指し示す複数
の局部動きベクトルを含むのがよい。
て、出力映像の隣接するブロックを指し示す局部動きベ
クトルに対する公算値は、出力映像の先に述べたブロッ
クと、該動きベクトルの方向に投影された該動きベクト
ルに対応するサーチブロックとの間の交差面積に比例す
るのがよい。
の隣接するブロックを指し示す局部動きベクトルに対す
る公算値は、該動きベクトルの方向によって決まるのが
よい。
最も共通するものから選択された複数の異なる動きベク
トルを含む広域動きベクトルを導出する手段を具えるの
がよい。この場合、広域動きベクトルを補間処理に関与
させるため、出力映像の各ブロックに対する動きベクト
ルの組は広域動きベクトルを含むのがよい。
ない出力映像部分を表すブロックに広域動きベクトルが
割当てられるのを避けるため、本装置は、各広域動きベ
クトルに対し、対応するサーチブロックが当該広域動き
ベクトルの所定の許容誤差内の局部動きベクトルを有す
る出力映像のブロックであることを示す、広域ベクトル
・マスクを導出する手段を具えるのがよい。また、出力
映像の各ブロックについて、各広域動きベクトルに対す
る公算値は夫々の広域ベクトル・マスクによって決まる
のがよい。
の広域動きベクトルが少なくとも局部動きベクトルの所
定比率にほぼ等しいかどうかを検出することにより、入
力映像のパンされる(上下左右の)動きを検出する手段
を具えるのがよい。この場合、割当て処理において一層
大きな重みを広域動きベクトルに与えてもよい。詳しく
は、出力映像の各ブロックについて、各広域動きベクト
ルに対する公算値を、入力映像のパン運動が検出される
かどうかによって決めるのがよい。
択範囲を増すために、割当て手段は、出力映像の各ブロ
ックにゼロ動きベクトルを割当てる動作をするのがよ
い。これは、他に適当な動きベクトルが見付からないと
き、本装置の動作が非動き補正装置の動作より悪くはな
らないことを意味する。
用いる動きベクトルを選択する手段であって、当該出力
映像に割当てられた上記グルーブにおける各動きベクト
ルによって指し示される入力映像のテストブロック間の
相関度を検出する手段と、夫々のテストブロック間で最
高相関度をもつ動きベクトルのグルーブから1つの動き
ベクトルを選択する手段とを含む、上記選択手段を具え
るのがよい。
出力ビデオ信号に適用できるが、入力映像は、入力飛越
しビデオ信号の連続するフィールドを含むものがよい。
また、出力映像は、出力飛越しビデオ信号のフィールド
を含むのがよい。
換装置に用いて好適である。
号の出力映像を入力ビデオ信号の時間的に隣接する入力
映像の対応する対から補間する動き補正ビデオ信号処理
方法を提供する。その方法は、入力映像対の一方の夫々
のサーチブロックの、当該映像及び上記対の他方の映像
間の映像の動きを表す複数の局部動きベクトルを発生す
るステップと、各局部動きベクトルによって指し示され
る出力映像のブロックを検出するステップと、出力映像
の各ブロックに動きベクトルのグルーブを割当てるステ
ップであって、該ベクトルのグルーブは、少なくとも出
力映像の当該ブロックを指し示す局部動きベクトルを含
む1組の動きベクトルから選択されるものである、上記
割当てステップと、当該ブロックに割当てられたグルー
ブから1つの動きベクトルを用いて、入力映像の対から
出力映像の各ブロックのピクセルを補間するステップと
を含む。
る。図6は、本発明を用いうる動き補正テレビジョン
(標準)方式変換装置を示すブロック図である。本装置
は、入力飛越しデジタルビデオ信号250(例えば、1
125/60、2:1高精細度ビデオ信号(HDV
S))を受信し、出力飛越しデジタルビデオ信号260
(例えば、1250/50、2:1信号)を発生するも
のである。
ッカー310に供給される。通常精細度入力信号の場
合、入力バッファ・パッカー310は、映像データを高
精細度(16:9縦横比)フォーマットに変え、必要に
応じ黒ピクセルを詰める。HDVS入力の場合、入力バ
ッファ・パッカー310は、単にデータを一時記憶する
だけである。
からマトリクス回路320に送られ、該回路では(必要
に応じ)入力ビデオ信号の測色法を標準の「CCIR
勧告601」(Y,Cr,Cb)測色法に変換する。
からタイムベース変換(TBC)及びディレー(遅延)
回路330に、またサブサンプラー370を介してサブ
サンプルされたTBC及びディレー回路380に送られ
る。TBC及びディレー回路330は、出力ビデオ信号
の各フィールドの時間位置を決め、出力フィールドの補
間に用いるため、当該出力フィールドに時間的に最も近
い2フィールドの入力ビデオ信号を選択する。出力ビデ
オ信号の各フィールドのために、上記TBC回路で選択
された2入力フィールドは、当該出力フィールドを補間
する補間器340に送る前に適正に遅らされる。制御信
号tは、各出力フィールドの選択された2入力フィール
ドに対する時間位置を指示するもので、タイムベース変
換(TBC)及びディレー回路330から補間器340
に供給される。
路380も、同様な動作をするが、サブサンプラー37
0により供給される空間的にサブ(ダウン)サンプルさ
れたビデオを使用する点が異なる。上記TBC回路33
0で選択されたフィールド対に対応するフィールド対
が、サブサンプルされたTBC及びディレー回路380
によりサブサンプルされたビデオから選択され、動きベ
クトルの発生に使用される。
オ信号、出力ビデオ信号又はその双方に関連した同期信
号に従って動作することができる。ただ1つの同期信号
しか供給されない場合、上記2ビデオ信号の他方のフィ
ールドのタイミングは、TBC回路330,380で決
定論的に発生することができる。
路380によって選択された、サブサンプルされた入力
ビデオ信号のフィールド対は、ブロック突合せ器39
0、相関面処理器400、動きベクトル推定器410、
動きベクトル減数器420、動きベクトル選択器430
及び動きベクトルあと処理器440より成る動き処理装
置385に供給される。上記入力フィールド対はまずブ
ロック突合せ器390に送られ、そこで、選択された2
入力フィールドのうち時間的に早いものにおけるサーチ
ブロックと、上記2入力フィールドのうち時間的に遅い
ものにおける(より大きい)サーチ区域との間の空間的
相関を表す相関面を計算する。
390より出力された相関面から多数の補間された相関
面を発生し、これらは動きベクトル推定器410に送ら
れる。動きベクトル推定器410は、補間された相関面
における最大相関点を検出する。(元の相関面は実際上
2入力フィールドのブロック間の差を表すので、最大相
関点は相関面では最小点になる。よって、以下「最小
点」という。)最小点を検出するために、相関面に点を
補足して補間し、相関面発生のためにサブサンプルされ
たビデオを用いたことにより生じる解像度のロスを或る
程度補償する。動きベクトル推定器410は、検出した
各相関面における最小点から動きベクトルを発生し、こ
れを動きベクトル減数器420に送る。
た各動きベクトルについて確認(信頼)テストを行い、
当該動きベクトルが平均データレベルよりかなり上にあ
るかをどうかを確かめ、確認テストの結果を示す確認フ
ラグを各動きベクトルに付ける。確認テストは、「閾
値」テストとして知られ、前記GB−A−2,231,
749号に(図6の装置の幾つかの他の特色と共に)記
載されている。
トルが偽物であるかどうかを検出するテストも行う。こ
のテストでは、相関面(検出した最小点の周りの除外域
は除く。)を調べて次の最小点を検出する。この2番目
の最小点が除外域のエッジ(端縁)にない場合、最初の
最小点から導出された動きベクトルは、偽物の可能性が
あるものとしてフラグが付けられる。
ルドの各ピクセルについて可能性のある動きベクトルの
選択幅を減らしてから、動きベクトルを動きベクトル選
択器430に送る。出力フィールドは、概念的に複数の
ピクセルブロックに分割される。それら各ブロックは、
出力フィールド内に上記選択された入力フィールドのう
ち早いものにおけるサーチブロックと対応する位置を有
する。動きベクトル減数器は、4つの動きベクトルのグ
ループを出力フィールドの各ブロックに対応させ、当該
ブロック内の各ピクセルは、当該グループの4動きベク
トルの選択された1つを用いて補間される。
ルは、すぐ近くのブロックにおけるフラグの付かないベ
クトルと同一である場合、ベクトル減数時に再適格化さ
れる。
一部として、「適正な」動きベクトル(即ち、確認テス
ト及び偽物テストに合格した動きベクトル、又は偽物で
ないと再適格化されたもの)の発生頻度を、それらの動
きベクトルを得るのに用いた入力フィールドのブロック
の位置を考慮することなくカウントする。適正な動きベ
クトルをそれから、頻度が減少する順に格付けする。互
いにかなり異なる適正動きベクトルのうち最も共通する
ものを、「広域」動きベクトルとして分類する。確認テ
ストに合格した3つの動きベクトルがそれから、出力ピ
クセルの各ブロックに対して選択され、ゼロ動きベクト
ルと共に、動きベクトル選択器430に送られ更に処理
される。出力フィールドの各ブロックに対する3つの動
きベクトルの選び方は、あとで詳しく述べる。
ルされたTBC及びディレー回路380によって選択さ
れ、動きベクトルの計算に使用された2入力フィールド
をも入力として受信する。これらのフィールドは、適当
に遅延されて、動きベクトル選択器430にこれらのフ
ィールドから導出されたベクトルと同時に供給される。
動きベクトル選択器430は、出力フィールドのピクセ
ル当たり1つの動きベクトルを含む出力を供給する。こ
の動きベクトルは、動きベクトル減数器420によって
供給される当該ブロックに対する4つの動きベクトルか
ら選択される。
トされている)動きベクトルによって指し示される2つ
の入力フィールドのテストブロック間の相関度の検出を
含んでいる。テストブロック間の最大相関度をもつ動き
ベクトルが、出力ピクセルの補間に使用するために選択
される。ベクトル選択器はまた、「動きフラグ」を発生
する。このフラグは、ゼロ動きベクトルによって指し示
されるブロック間の相関度がプリセットされた閾値より
大きい場合、「静止」(動きなし)にセットされる。
ル選択器430により選択された動きベクトルのフォー
マットを、画像の垂直又は水平のスケーリングがある場
合これを表すように改め、このフォーマットを変えたベ
クトルを補間器340に供給する。補間器340は、動
きベクトルを用いて、TBC及びディレー回路330に
より選択された対応する2つの(サブサンプルされな
い)飛越し入力フィールドから出力フィールドを補間す
る。この場合、現在補間器340に供給されている動き
ベクトルによって示されるいかなる映像の動きをも考慮
しながら補間を行う。
の動き部分内に在ることを示す場合、補間器に供給され
る2つの選択されたフィールドからのピクセルが、出力
フィールドの上記2入力フィールドに対する時間位置
(制御信号tで示される如き)に応じて、相対的比率で
結合される。即ち、より近い入力フィールドがより大き
な比率で結合される。動きフラグが「静止」にセットさ
れている場合、時間的加重(重み付け)は各入力フィー
ルドの50%に固定される。補間器340の出力は、出
力バッファ350に送られ高精細度出力信号として出力
されると共に、通常精細度変換器(ダウンコンバータ)
360にも送られ通常精細度出力信号365として出力
される。
(例えば、高精細度ビデオ信号)の表示を従来精細度の
装置を用いてモニタしたり、送信したり、又は記録した
りすることを可能とする。これは、従来精細度記録機器
が高精細度機器よりかなり安価で、遙かに広く普及して
いるので、有益である。例えば、夫々地上及び衛星チャ
ンネルによって送信するには、通常及び高精細度ビデオ
の同時出力が必要であろう。
0より受信した入力ビデオフィールドを水平及び垂直方
向に空間的にサブ(ダウン)サンプリングしてから、そ
れらの入力フィールドをタイムベース変換(TBC)及
びディレー回路380に供給する。水平サブサンプリン
グは、入力フィールドがまず半帯域幅ローパスフィルタ
(2:1水平デシメーション(間引き)の本例の場合)
により予めフィルタリング(ろ波)され、各ビデオライ
ンに沿ってビデオサンプルが1つおきに捨てられ、これ
によって、各ビデオラインに沿うサンプルの数が半分に
減るという点において、容易な動作である。
は、本例では、入力ビデオ信号250が飛越し走査され
ているため、複雑である。これは、各飛越しフィールド
におけるビデオサンプルの連続するラインが実効的に2
つのビデオラインに分かれ、各フィールドにおけるライ
ンが前後のフィールドのラインより完全フレームの1ビ
デオラインだけ垂直にずれていることを意味する。
ログレッシブ(連続又は順次)走査変換を行い(各々が
1125ラインをもつ連続するブログレッシブ走査され
たビデオフレームを発生し)、該プログレッシブ走査さ
れたフレームを2の率でサブサンプルして、垂直サブサ
ンプルを行うことであろう。しかし、効率のよいプログ
レッシブ走査変換は、或る程度の動き補正処理を必要と
し、その処理が動き処理装置385の動作に悪い影響を
与えることがある。更に、高精細度ビデオ信号の実時間
プログレッシブ走査変換は、特別に強力で複雑な処理装
置を必要とすることであろう。
方法は、図7に示すように、入力フィールドをまず垂直
方向にローパスろ波し(潜在的エイリアシングを減らす
ため)、次いで、各ピクセルを垂直方向にビデオライン
の1/2だけ下方(偶数フィールドの場合)又は上方
(奇数フィールドの場合)に実効的にずらす如きろ波を
行うことである。その結果得られるずれたフィールド
は、2の率で垂直方向にサブサンプルされたプログレッ
シブ走査フレームとほぼ均等である。
ンプリング動作の結果、動き処理装置385は、水平及
び垂直方向に2の率で空間的にサブサンプルされた入力
フィールド対について動作することになる。これによ
り、動きベクトル推定に要する処理が1/4に減少す
る。
作を説明する。動きベクトル減数器420では、動きベ
クトルをそれらのベクトル方向に沿って投影して出力フ
ィールドに交差させ、これらのベクトルを投影された位
置でのベクトル選択に供する。このプロセスの例を図8
に示す。図8では、動きベクトルVが出力映像のブロッ
ク110に投影されている。よって、ブロック110の
ピクセルを入力フィールドf0及びf1間における物体
10の動きを表すために補間するとき、正しい動きベク
トル(V)を補間に使用することができる。
トル投影の結果、出力フィールドの特定ブロックに対し
て1以上の動きベクトルが使用可能となる場合を示す。
図9において、物体500がこれに対応する動きベクト
ルVaを有し、物体510がこれに対応する動きベクト
ルVbを有する。動きベクトルVa及びVbを夫々のベ
クトル方向に沿って投影すると、出力フィールドのブロ
ック520に動きベクトルVa,Vbの両方が割当てら
れることになる。そのとき、当該ブロックの各ピクセル
の補間に用いて適切な動きベクトルは、ベクトル選択器
によって決められる。
のブロック530から出力フィールドのブロック540
(このブロックは、ブロック530と対応する位置にあ
る。)へのゼロ動きベクトルの投影をも示す。ブロック
550の如き出力フィールドのブロックは、このブロッ
ク位置に投影される動きベクトルがない。ブロック55
0のようなブロックに1以上の動きベクトルを割当てる
ために、修正したベクトル減数処理により、出力フィー
ルドの近隣ブロックに投影される動きベクトルを割当て
ることができる。
処理を次に述べる。図10は、最も共通する動きベクト
ル、即ち広域動きベクトルを検出する動きベクトル減数
器420の一部を示す。図10において、入力フィール
ドの個々の対から発生された動きベクトルはすべて、ま
ず頻度アレイ600に送られる。頻度アレイ600は、
各々が頻度値を記憶するメモリ位置のアレイを含む。各
メモリ位置のアドレスは、動きベクトルの考えられる値
の夫々の水平及び垂直成分に等しい。各動きベクトルを
受信するに従い、対応するメモリ位置における頻度値が
インクリメントされる。
00に記憶され終わると、頻度アレイはアレイ走査器6
10によって走査される。アレイ走査器610は、フィ
ールドの当該特定の対に対して発生された動きベクトル
の全体から、少なくとも所定量だけ異なる8つの最もよ
く現れる動きベクトルを検出する。これら8つの最もよ
く現れる動きベクトルは、「広域」動きベクトルと呼ば
れ、図10の装置から出力され更に処理される。
部をなす広域ベクトルマスク発生器を示すブロック図で
ある。図11において、夫々のサーチブロックから発生
された局部動きベクトル及び関連する確認フラグは、ベ
クトルアレイメモリ680に記憶される。各局部ベクト
ルは、該ベクトルが導出された入力フィールド対の先行
するフィールドにおけるサーチブロックの位置に対応す
る、ベクトルアレイメモリ680内の位置に記憶され
る。
り導出された8つの広域ベクトルの各々は、681で全
体的に示した8つの比較器の夫々1つの一方の入力に供
給される。(実際には、8つの広域ベクトルの各々を夫
々の広域ベクトルメモリに記憶し、その内容を繰返して
読出し、必要に応じて対応する比較器681の入力に供
給するようにしてもよい。)
動きベクトルをベクトルアレイメモリ680の連続する
位置から次々に読出し、各局部ベクトルを読出しながら
8つの比較器681の各々の他方の入力683に供給す
る。比較器681はそれから、局部動きベクトルと、比
較器の一方の入力に供給された8つの広域動きベクトル
の各々とを同時に比較する。
発生器682によりアドレスされる、対応するマスクア
レイメモリ684を制御する。各比較器681におい
て、広域動きベクトルが、現在比較器に供給されている
局部動きベクトルの所定の許容誤差685の範囲内にあ
れば、比較器681は、ベクトルアレイメモリ680に
おける局部動きベクトルの位置に対応するマスクアレイ
メモリ684内の位置にあるマスクビットを「1」にセ
ットする。広域ベクトルが、局部動きベクトルの所定許
容誤差685の範囲内になければ、比較器681は上記
マスクビットを「0」にセットする。比較器681に供
給される許容誤差685の代表的な値は、例えば、水平
及び垂直方向に±1ピクセルであろう。
トルアレイメモリ680から読出されるにつれ、各マス
クアレイメモリ684に、当該局部動きベクトルが、各
マスクアレイメモリ684が対応する広域動きベクトル
と同一又は類似かどうかを示すマスクビットがセットさ
れる。与えられた局部動きベクトルと比較の結果セット
されるマスクビットの位置は、ベクトルアレイメモリ6
80内の当該ベクトルの位置、即ち、該局部ベクトルが
対応するブロックの原入力映像における位置に対応す
る。入力映像に対するすべての局部ベクトルについてこ
れが繰返され、広域マスクアレイ又はビットフィールド
が各々マスクアレイメモリ684に作り上げられる。各
広域マスクアレイは、広域動きベクトル及び原入力映像
のブロック間の結びつき、即ち対応を示す。
体(車710)を含む映像の一部を示す図である。車7
10の動きを表す動きベクトルの広域マスクアレイを図
13に示す。
は、図12に示す原入力映像に対応するものである。図
示の広域マスクアレイ720は、図12の車の動きに対
応する広域動きベクトルと、映像全体にわたって導出さ
れた局部動きベクトルとの比較によって得られたもので
ある。黒い正方形は、「セットされた」マスクビット、
即ち、広域動きベクトルと入力映像内の対応位置にある
ブロックとのつながりを示す、「1」にセットされたマ
スクビット、又はアレイエントリを示す。したがって、
予想されるように、図12の動く車の部分を含むブロッ
クに対応する殆どのマスクビットは、マスクアレイ72
0においてセットされている。
よって生じるエラーのため、動く車の体内のブロックに
対応する幾つかのマスクビットがセットされていないこ
とに気が付くであろう。同じく、広域マスクアレイ72
0は、入力映像の静止部分に対応する幾つかのマスクビ
ットがセットされることを示している。広域マスクにお
けるかようなエラーをなくすため、図11のマスクアレ
イメモリ684に記憶された各広域マスクに多段マスク
調整処理操作を施す。この操作は、実効的に、各々が対
応するマスクアレイメモリ684に接続された夫々の多
段フィルタ686によって行われる多段フィルタリング
(ろ波)操作である。このろ波処理の第1段階で行われ
る操作を、これより図14を参照して説明する。
20の如き広域マスクアレイの一部拡大図である。同図
において、黒い正方形はセットされたマスクビット(値
「1」)を表し、白い正方形はセットされないマスクビ
ット(値「0」)を表す。フィルタ686によるろ波操
作の第1段階で、各マスクビットを、テストされている
(被テスト)マスクビット(中心マスクビット)の周囲
の3×3のマスクビット・グルーブの中の8つのマスク
ビットと一緒に考える。各3×3グルーブについて、セ
ットされたマスクビットの数を決定し、これを所定の第
1段階閾値と比較する(本例では、この第1段階閾値
は、例えば4又は5に設定してよい。)。セットされた
マスクビットの数が第1段階閾値を越え、且つ中心マス
クビットがセットされていない場合(図14に示すよう
な場合)、中心マスクビットがセットされる。
ットの周りの十分な数のマスクビットがセットされてお
れば、セットされないマスクビットを、セットされたマ
スクビットを示す「1」にセットする。3×3グルーブ
内のセットされたマスクビットの総数が第1段階閾値を
越えず、且つ中心マスクビットがセットされていなけれ
ば、中心マスクビットはそのままである。
スクの総数が第1段階閾値を越えないのに、中心マスク
ビットがセットされておれば、中心マスクビットは、セ
ットされないマスクビットを示す「0」にリセットされ
る。3×3グルーブ内のセットされたマスクビットの総
数が第1段階閾値を越え、且つ中心マスクビットがセッ
トされておれば、中心マスクビットはそのままである。
も、その段階における残りのろ波操作には影響しない。
これは、例えば、未ろ波マスクビットが読出されている
メモリアレイとは別のメモリにろ波済みマスクビットを
記憶させることにより、達せられる。ただし、この場
合、未ろ波マスクビットの読出しと既ろ波マスクビット
の出力との間に十分な遅れがあって、或るマスクビット
がリセットされたことが当該段階の残りのろ波操作時に
考慮されないように、フィルタを配置する。
の第1段階ろ波操作は、図13に示す如き広域マスクア
レイに対し、図12の車に対応するマスクアレイ720
の範囲における偽(にせ)のギャップを「埋め」、同じ
く図12の映像の静止部分に対応する偽のセットされた
マスクビットを消すという効果を与えることになる。即
ち、第1段階ろ波操作の効果は、元の広域マスクアレイ
における偽のエラーをなくすことである。
車に対応するセットされたマスクビットのグループの全
体の面積を「縮める」という副作用がある。これは、車
の外縁に対応するセットされたマスクビットについて
は、その端縁から向こうのブロックに対するマスクビッ
トがセットされず、且つ、これらが十分な数に達する
と、車の端縁に対応する、最初にセットされたマスクビ
ットが「0」にリセットされるからである。この作用に
対抗するため、ろ波操作のあとの段階で閾値を減らし
て、ろ波操作を繰返す。例えば、第1段階後、第1段階
ろ波操作で生じた広域マスクを、2又は3に設定した所
定の閾値で再びフィルタ686に加えればよい。これ
は、広域マスクアレイにおいてセットされたマスクビッ
トの面積を、最初の未ろ波マスクアレイにおける面積と
ほぼ同じになるように「広げる」(勿論、偽のエラーな
しに)効果を有する。
い閾値で)或る回数繰返し、最初の未ろ波マスクと比べ
て、広域マスクにおけるセットされたマスクビットの面
積が全体的にやや広がるようにするのがよい。本例で
は、ろ波操作を、高い閾値での第1段階ろ波操作のあと
3又は4回もっと低い閾値で繰返す。これは、与えられ
た広域ベクトルの適用を広域ベクトルが局部ベクトルの
許容誤差685の範囲内にあったブロックの近隣ブロッ
クをほんの少し越えるブロックまで拡大する効果を有す
る。即ち、ろ波操作に十分な段階を追加することによ
り、広域ベクトルの適用を、未ろ波広域マスクにおいて
対応するマスクビットがセットされたブロックに隣接す
るブロックを越えて拡大するのである。
20について、最終的なろ波された広域マスクアレイ7
30を図15に例示する。同図から、セットされたマス
クビットが、図12の車に対応する広域動きベクトル
と、映像内の車の面積との間の対応関係を遙かに正確に
示していることが判るであろう。
限インパルス応答)3×3フィルタを用いてもよく、そ
の場合、係数をすべて1に設定し、出力が比較器への入
力となる加算器に9個のタップを接続する。該比較器の
他方の入力に関連する閾値を供給する。該比較器の出力
は、ろ波された広域マスクアレイを形成し、必要に応じ
て調整した閾値と共に再び次の段階のフィルタ入力に加
えることができる。
るろ波済み広域マスクアレイは、各広域ベクトルに対し
1つずつ、広域ベクトル制限器684によって出力され
る。
当てるべき3つの動きベクトルを選択する作用をする、
動きベクトル減数器420の更に他の部分を示すブロッ
ク図である。図16には、入力ベクトルメモリ800、
位置発生器810、隣接オフセット加算器820、ベク
トル投影加算器830、乗算器840、出力ベクトルメ
モリ850、公算メモリ860、公算処理器870、比
較器880,890及びラッチ900が示されている。
リ(番号1,2,3を付す)に常時ゼロ動きベクトルを
保持する1つのメモリを加えたものと考えられる。同様
に、公算メモリ860も、実際には3つの公算メモリ
(同じ番号1,2,3を付す)を含む。
7を参照して説明する。しかし、図16の装置(特に公
算処理器870)の基本動作は、夫々の「公算」(見込
み、確率)を出力フィルタの各ブロックに対する各広域
ベクトル、各局部ベクトル及び各投影(された)局部ベ
クトルに割当てることである。この処理の間、各ブロッ
クに対し現在最も高い3つの公算を公算メモリ860に
記憶させ、それらの公算値に対応する動きベクトルを出
力ベクトル850に記憶させる。
る考えられるすべてのブロックアドレスを循環するアド
レスカウンタを発生する(各アドレスに対し、動きベク
トルが入力ベクトルメモリに記憶されている。)。
40は、各動きベクトルに、出力フィールドの時間位置
(図6のタイムベース変換器から得られる)を1ブロッ
クにおけるピクセル数(ブロックサイズ)で割ったもの
を乗じる。これは、ベクトル投影加算器830によっ
て、位置発生器810が出力する現在のアドレス及び隣
接オフセット(i,j)に加算される。ベクトル投影加
算器830は、ベクトル方向に沿って投影された架空の
サーチブロックの左下隅による、交差されるブロックの
整数アドレスFと、投影されたブロック位置の小数部を
表す小数アドレスf(ただし、0≦f<1)とを出力す
る。
れた)局部ベクトルのすべてに対する公算値を考慮し終
わったとき、出力ベクトルメモリ850は、出力フィー
ルドの各ブロックに対する3つの最も選ばれる見込みが
あるベクトルを含有すると考えられる。これら3つの最
も見込みがある動きベクトルは、ゼロ動きベクトルと一
緒に出力ベクトルメモリ850から出力され、ベクトル
選択器430に供給される。この基本動作を図17のフ
ローチャートに示す。同図は、個々の出力映像の各ブロ
ックに4つの動きベクトルを割当てるために図16の装
置が行うステップを示している。
で、出力ベクトルメモリ850及び公算メモリ860が
リセット信号855によりリセットされる。これに伴
い、出力ベクトルメモリ850に記憶された動きベクト
ルがゼロ動きベクトルに設定され、公算メモリ860に
記憶された全公算値がゼロに設定される。
する公算値が決定され、公算メモリ860に記憶され
る。このプロセスは、あとで図18を参照して説明す
る。ステップ920で、広域動きベクトルに対する公算
値が決定され、記憶される。このプロセスは、図19及
び20を参照してあとで説明する。ステップ930で、
投影動きベクトルに対する公算値が決定され、記憶され
る。このプロセスは、図21〜27を参照してあとで説
明する。
ル、広域動きベクトル及び投影動きベクトル全部に対す
る公算値が考慮される。そうすれば、出力ベクトルメモ
リ850は、出力フィールドの各ブロックに対する3つ
の最も選ばれる見込みのあるベクトルを含有すると考え
られる。したがって、図17の最終ステップ940で、
出力フィールドの各ブロックに対し、出力ベクトルメモ
リ850に記憶されたそれら3つの動きベクトル(これ
にゼロ動きベクトルを加えたもの)がベクトル選択器4
30に供給される。
算値を設定する図17のステップ910を詳細に示すフ
ローチャートである。これらの公算値は、入力フィール
ドf0における個々のサーチブロックから発生された動
きベクトルが、当該サーチブロックと位置が対応する出
力フィールドのブロックのピクセルの補間のための使用
に適するという概念的な公算(可能性)を表すものであ
る。
00に記憶された動きベクトルは、入力フィールドf0
内の対応サーチブロックの水平及び垂直位置を表す夫々
の水平及び垂直座標によってアドレスされるものとす
る。図18において、ステップ1000で、出力ベクト
ルメモリ850及び公算メモリ860における位置のア
ドレスを表すアドレスカウンタが(0,0)に設定され
る。制御は、ステップ1010,1020,1030及
び1040を含むループに回される。
ちLlocal に設定される。ステップ1020で、公算値
及び現在の局部ベクトルの公算メモリ860及び出力ベ
クトルメモリ850への書込みを制御する書込みイネー
ブル(許可)信号W1,W2及びW3が導出される。こ
れら3つの書込みイネーブル信号の導出は、次のBoole
an方程式によって決められる。
次のとおりである。 W1,W2,W3:3出力ベクトルメモリ850及び3
公算メモリ860の夫々1つに対する書込みイネーブル
信号 L1 ,L2 ,L3 :公算メモリ860の夫々1つに記憶
された公算値 C1 ,C2 ,C3 :比較器880によって発生され、現
在の動きベクトルが3出力ベクトルメモリ850の夫々
1つに記憶された動きベクトルの1つに等しいかどうか
を示す変数 Z :比較器890によって発生され、現在の動き
ベクトルがゼロ動きベクトルに等しいかどうかを示す変
数 Llocal :上述のステップ1010で各局部動きベ
クトルに割当てられた一定公算値
W1(これは、公算メモリ及び出力ベクトルメモリの最
初の1つへの現在の動きベクトルの書込みを制御す
る。)は、次の条件がすべて満たされると、セットされ
る。(i) 現在公算メモリ1に保持されている公算値が
Llocal より小さくなければならないこと、及び(ii)
公算メモリ1に保持されている公算値が、他の2つのど
ちらの公算メモリに保持されている公算値より小さい
か、又は、現在考えている動きベクトルが現在出力ベク
トルメモリ1に記憶されている動きベクトルと等しいこ
と、及び(iii) 現在の動きベクトルがゼロでないこと、
及び(iv) 現在の動きベクトルが、他の2つの出力ベク
トルメモリに現在記憶されている動きベクトルのどちら
とも等しくないこと。
も同様にして導出するが、上述の条件が2以上の書込み
イネーブルに当てはまるとき、W1がW2に優先してセ
ットされ、W2がW3に優先してセットされるように考
慮する。
850及び公算メモリ860がリセットされ終わると
(ステップ900)直ちに行われるので、W1は常にス
テップ1020でセットされることが明らかである。し
たがって、ステップ1020は、簡単な「W1をセット
せよ」のステップで置換えてもよいことになる。しか
し、本例では、ステップ1020での処理と類似の処理
を、広域及び投影ベクトルに対する公算を設定するとき
にも使用する。3つの処理に類似の処理方法を用いる
と、装置が簡単になる。
800の現在のアドレスにある動きベクトルが、書込み
イネーブルW1,W2及びW3の制御の下に出力ベクト
ルメモリ850の1つに書込まれる。同時に、ステップ
1010で設定された公算(値)が、公算メモリ860
の対応する1つの同じ位置に(同じく書込みイネーブル
W1,W2及びW3の制御の下で)書込まれる。
リメントされる。アドレス値がその時(max−x,m
ax−y)、即ち、全アドレスを考え終わったことを示
す、x及びy方向における最高値に達すると、処理は終
了する。最大x及びy値に達しなければ、制御は新しい
アドレス値と共にステップ1010に回される。
ップ920、即ち広域ベクトルに対する公算値の設定に
含まれるステップを示す。図19に示す処理ステップ
は、8つの広域動きベクトルを考えるために、次のステ
ップに進む前に1つ1つ8回繰返される。或いは、図1
9全体のプロセスを8回繰返してもよい。
0及び公算メモリ860内の位置のアドレスを表すアド
レスカウンタが、ステップ1100で(0,0)に設定
される。制御はそれから、ステップ1110,112
0,1130及び1140を含むループへと進む。
より指定される現アドレスにある各広域(動き)ベクト
ルに対し、公算値が発生される。この公算値は、次式に
より導出される。 公算=gmask(ベクトル、アドレス)・Lg 上式においてgmask(ベクトル、アドレス)は、当
該位置の当該広域ベクトルに対する広域ベクトルマスク
(例えば、図15に示したマスク)の状態を表すもので
あり、値Lg は定数である。
する現アドレス位置に広域ベクトルマスクがセットされ
ていれば、当該位置において当該ベクトルに公算値Lg
が割当てられ、広域ベクトルマスクビットがセットされ
ていなければ、公算値はゼロに設定されることになる。
込みイネーブル信号W1,W2及びW3が導出される。
実際に使用される式は、次のとおりである
800内の現アドレスにある動きベクトルが、書込みイ
ネーブルW1,W2及びW3の制御の下に出力ベクトル
メモリ850の1つに書込まれる。同時に、ステップ1
110で設定された公算が、公算メモリ860の対応す
る1つにおける同じ位置に(同じく書込みイネーブルW
1,W2及びW3の制御の下で)書込まれる。
リメントされる。アドレス値が(max−x,max−
y)、即ち、全アドレスが考慮され終わったことを示
す、x及びy方向における最大値に達すると、処理は終
了する。最大x及びy値に達しなければ、制御は新しい
アドレス値と共にステップ1110に回される。
当てられた広域ベクトル公算は、当該位置における広域
ベクトルマスクビットの状態と定数Lg とのみによって
決定された。他の具体構成では、値Lg も変数である。
この方法を次に図20を参照して説明する。この図は、
図10の頻度アレイ600の一部を示すものである。
位置に記憶された頻度値Nは、アレイ内の当該頻度値の
x及びyアドレスに対応する水平及び垂直成分をもつ動
きベクトルの発生頻度(入力フィールド対全体にわた
る)を表す。実際には、前述のように、夫々動きベクト
ルが所定量以上異なる8つの最高頻度値を頻度アレイ6
00の中で検出することにより、8つの広域動きベクト
ルを導出する。
する動きの検出にも用いられる。この具体構成では、該
検出を、広域ベクトルの1つの発生頻度を表す頻度値N
1 の周りの3×3グリッドを形成する9つの頻度値N1
〜N9 を合算することによって行う。いい換えると、8
つの広域ベクトルを導出するために上述のように8つの
最高頻度値を検出し、それから、それら8つの値の各々
の周りの3×3グリッドにおける頻度値を合算する。
×3グリッドの頻度値の和が、映像対全体にわたって検
出された有効な動きベクトルの数の所定比率(例えば、
1/4)を越えると、これは、映像の大部分がほぼ同じ
動きをしている(例えば、カメラのパンが行われてい
る。)ことを示す。このことは、ベクトル減数処理でも
っと大きな重みを広域ベクトルに与えてよいことを意味
する。
がセットされる。 パンフラグがセットされると、、これは、広域動きベク
トルに対する公算値を増すべきであることを示す。これ
は、パンフラグがセットされたとき、値Lg を増すこと
によって行うことができる。
ち、投影局部動きベクトルに対する公算値の設定を行う
のに必要なステップを詳細に示すフローチャートであ
る。図21において、出力ベクトルメモリ850及び公
算メモリ860における位置のアドレスを表すアドレス
カウンタが、ステップ1200で(0,0)に設定され
る。制御はステップ1210に進み、そこで、2つのオ
フセットカウンタi及びjが夫々(0,0)の値にセッ
トされる。制御はそれから、ステップ1220,123
0,1240及び1250を含むループに進む。
より指定される現アドレス、ベクトルの大きさと方向、
及びオフセットカウンタによって決まる投影(された)
アドレスにある各局部動きベクトルに対し、公算値が発
生される。
値は次式より導出される。 g(f,0,0)=(1−fX )・(1−fy ) ただし、fX はベクトル投影加算器830(図16)に
よって発生される水平アドレス成分の小数部分、fy は
ベクトル投影加算器830によって発生される垂直アド
レス成分の小数部分を示す。
トルに沿って投影された、入力フィールドの架空のサー
チブロックと、ベクトル投影加算器830の出力の整数
部分によって指定されるアドレスにおける出力映像のブ
ロックとの間の交差面積を表す。該面積は、サーチブロ
ックの面積の一部分として表すことができる。この概念
を図22に図式的に示す。同図において、陰影を付した
面積1300は、現動きベクトルに沿って投影されたサ
ーチブロック1310と、ベクトル投影加算器830の
出力の整数部分に対応するアドレス、即ちFX ,Fy に
ある出力映像のブロック1320との交差面積を表す。
図22にはまた、その小数値fX 及びf y をも示す。同
図より、面積1300は、ブロック1320の面積の一
部分(1−fX )・(1−fy )に等しいことが明らか
である。
ールドの2×2アレイの4つのブロックと交差する。こ
れらの交差されるブロックの投影アドレスに対する位置
は、オフセットカウンタ(i,j)によって指定され
る。図23は、投影サーチブロック1310と、(0,
1)だけ、即ち水平に0ブロック、垂直に1ブロックだ
けオフセットした(ずれた)ブロックとの間の交差面積
1330を示す。図24は、投影サーチブロック131
0と、(1,0)だけ、即ち水平に1ブロック、垂直に
0ブロックずれたブロックとの間の交差面積1340を
示す。図25は、投影サーチブロック1310と、
(1,1)だけ、即ち水平に1ブロック、垂直に1ブロ
ックずれたブロックとの間の交差面積1350を示す。
値は、夫々の交差面積を1ブロックの面積の一部分とし
て計算することによって決定される。ただし、投影サー
チブロックが出力映像のブロックと正確に重なる(一方
又は両方の方向において)特殊な場合には、上記近隣ブ
ロックに対する公算値を、交差されるブロックに対する
公算値の或る比率として計算する必要がある。
て次のようになる。 g(f,0,1)=(1−fX )・fy (1−fX )・fy >0のとき =g(f,0,0)・T (1−fX )・fy =0のとき g(f,1,0)=fX ・(1−fy ) fX ・(1−fy )>0のとき =g(f,0,0)・T fX ・(1−fy )=0のとき g(f,1,1)=fX ・fy fX ・fy >0のとき =g(f,0,0)・T fX ・fy =0のとき 上式において、Tは定数(1より小さい)である。
×2アレイのブロックを囲む12の近隣ブロック140
0への公算(値)の割当てを示す。図26の各ブロック
は、ブロック(1320)に対する夫々のオフセット値
(i,j)と共に示してある。各ブロック1400につ
いて、矢印は、当該ブロック1400に対する公算を得
るため、公算値をどのブロックから修正したかを示す。
詳しくは、公算値をブロック1400に割当てるための
計算に、次の式を使用する。 g(f,−1,−1)=g(f,0,0)・T g(f,−1,0)=g(f,0,0)・T g(f,−1,1)=g(f,0,1)・T g(f,−1,2)=g(f,0,1)・T g(f,0,−1)=g(f,0,0)・T g(f,0,2)=g(f,0,1)・T g(f,1,−1)=g(f,1,0)・T g(f,1,2)=g(f,1,1)・T g(f,2,−1)=g(f,1,0)・T g(f,2,0)=g(f,1,0)・T g(f,2,1)=g(f,1,1)・T g(f,2,2)=g(f,1,1)・T これらの式において、Tは定数(1より小)である。
みイーネブル信号が、現在の投影アドレス及び現オフセ
ット値(i,j)にある現在の投影動きベクトルに対し
て導出される。書込みイネーブル信号の導出式は、次の
とおりである。
に応答して、現在のベクトルが出力ベクトルメモリ85
0に書込まれ、公算は公算メモリ860に書込まれる
が、そのアドレスは、ベクトル投影加算器830の現出
力の整数部分、即ち、現ベクトルの投影アドレスにオフ
セット値(i,j)を加えたものに等しい。
j)の次の組が選択され、制御はステップ1220に戻
る。上述の計算の相互依存性により、ステップ1220
で上述の式の全部を計算するために、ステップ1250
で、オフセットカウンタi及びjを簡単に(−1,−
1)から(2,2)へインクリメントできない。その代
わりに、ステップ1250では、(i,j)の値を次の
順序で(0,0)からスタートして(2,2)で終わる
ように変えている。 (0,0) (0,1) (1,0)
(1,1) (−1,−1) (−1,0) (−1,1)
(−1,2) (0,−1) (0,2) (1,−1) (1,2) (2,−1) (2,0) (2,1)
(2,2)
し終わると、制御はステップ1260に進み、そこでア
ドレスカウンタがインクリメントされる。制御は再びス
テップ1210に戻り、考えられる全アドレス値が考慮
され終わるまで続けられる(そのとき、プロセスは終了
する。)。
ベクトルに対する公算値の設定)を行う図16の装置の
動作の考えられる他のモードを示す図である。図17の
残りのステップは、既に述べたように行うことができ
る。
0及びf1間での物体1500の動きは、動きベクトル
1510で表されている。動きベクトル1510の投影
は、図16に示したのと同じ方法で決定され、動きベク
トル1510によって交差される出力フィールドのブロ
ック1520が特定される。
ば)3の公算(値)でブロック1520に割当てられ、
動きベクトルの方向によって変わる一層低い公算で隣接
(近隣)ブロックに割当てられる。詳しくは、交差ブロ
ック1520に対して右上及び左下の位置にある近隣ブ
ロックには、他の近隣ブロックより高い公算が割当てら
れる。
と、動きベクトルの方向におおむね沿ってブロック15
40に、動きベクトルの方向に沿っていないブロック1
550より高い公算が当該動きベクトルに対して与えら
れる。ブロックが動きベクトルの方向に沿っているかど
うかは、次のようにして決める。 a)動きベクトルが正の水平成分及び正の垂直成分をも
つ場合、交差ブロックと左下及び右上の位置に隣接する
ブロックに、より高い公算値を与える。 b)動きベクトルが正の水平成分及び負の垂直成分をも
つ場合、交差ブロックと右下及び左上位置に隣接するブ
ロックに、より高い公算値を与える。 c)動きベクトルが非ゼロ水平成分及びほぼゼロの垂直
成分をもつ場合、交差ブロックと水平方向に隣接するブ
ロックに、より高い公算値を与える。 d)動きベクトルが非ゼロ垂直成分及びほぼゼロの水平
成分をもつ場合、交差ブロックと垂直方向に隣接するブ
ロックに、より高い公算値を与える。
の成分を有するかどうかは、動きベクトル発生時の無作
為(ランダム)ノイズの影響を補償するように、或る範
囲の値を用いて決定することができる。例えば、±5ピ
クセルまでの成分をもつ動きベクトルは、当該方向にゼ
ロ成分を有すると考えてよいであろう。
以前に提案された動き補正ビデオ信号処理方式におい
て、出力フィールドの一部分を正確に補間するのに必要
な動きベクトルが、ベクトル減数処理によって使用でき
なくなる事態が発生するのを回避することができる。
体の1次元図である。
トルのアレイを示す図である。
グループの割当てを示す図である。
出力フィールドの補間を示す図である。
出力フィールドの補間を示す図である。
換装置のブロック図である。
単な例を示す図である。
きベクトルとが交差する場合の、動きベクトルの投影の
例を示す図である。
ルを検出する部分を示す図である。
発生器を示す図である。
図である。
イを示す図である。
である。
である。
各ブロックに3つの動きベクトルを割当てる部分を示す
ブロック図である。
トである。
チャートである。
チャートである。
ある。
チャートである。
ある。
ある。
ある。
ある。
示す説明図である。
(本発明の第2実施例の動作)を示す説明図である。
(公算値導出手段及び最高の公算値をもつ所定数の動き
ベクトルを検出する手段) 600,610 広域ベクトル導出手段 681,684 広域ベクトルマスク導出手段 340 動き補正補間器 430 ベクトル選択器(動きベクトル選択手段)
Claims (20)
- 【請求項1】 入力ビデオ信号の時間的に隣接する入力
映像の対応する対から出力ビデオ信号の出力映像を補間
する動き補正ビデオ信号処理装置であって、 上記対の一方の入力映像の夫々のサーチブロックの、当
該映像及び上記対の他方の映像間の映像の動きを表す複
数の局部動きベクトルを発生する手段と、 各局部動きベクトルによって指し示される出力映像のブ
ロックを検出する手段と、 動きベクトルのグループを出力映像の各ブロックに割当
てる手段であって、該ベクトルのグループは、少なくと
も出力映像の当該ブロックを指し示す局部動きベクトル
を含む1組の動きベクトルから選択されたものである、
上記割当て手段と、 当該ブロックに割当てられた動きベクトルのグループか
ら1つの動きベクトルを用いて、入力映像対から出力映
像の各ブロックのピクセルを補間する動き補正補間器と
を具えた動き補正ビデオ信号処理装置。 - 【請求項2】 出力映像の各ブロックに対する動きベク
トルの組は、対応するサーチブロックに対する局部動き
ベクトルを含む請求項1の装置。 - 【請求項3】 上記割当て手段は、 出力映像の各ブロックに対し、動きベクトルの夫々の組
における各動きベクトルの、当該ブロックのピクセルの
補間の使用に対する適性を示す公算値を導出する手段
と、 出力映像の各ブロックに対する動きベクトルの夫々の組
から、最高の公算値をもつ所定数の動きベクトルを検出
する手段とを有する請求項1又は2の装置。 - 【請求項4】 出力映像の各ブロックについて、対応す
るサーチブロックに対する局部動きベクトルが所定の一
定値に等しい公算値を有する請求項3の装置。 - 【請求項5】 出力映像の各ブロックについて、当該ブ
ロックを指し示す局部動きベクトルに対する公算値は、
当該ブロックと、当該動きベクトルの方向に投影された
当該動きベクトルに対応するサーチブロックとの間の交
差面積に比例する請求項3又は4の装置。 - 【請求項6】 出力映像の各ブロックに対する動きベク
トルの組は、出力映像の当該ブロックに隣接する複数ブ
ロックを指し示す複数の局部動きベクトルを含む請求項
1〜5のいずれか1項の装置。 - 【請求項7】 出力映像の各ブロックについて、出力映
像の隣接するブロックを指し示す局部動きベクトルに対
する公算値は、出力映像の先に述べたブロックと、該動
きベクトルの方向に投影された該動きベクトルに対応す
るサーチブロックとの間の交差面積に比例する請求項3
及び6の装置。 - 【請求項8】 出力映像の各ブロックについて、出力映
像の隣接するブロックを指し示す局部動きベクトルに対
する公算値は、該動きベクトルの方向によって決まる請
求項3及び6の装置。 - 【請求項9】 複数の局部動きベクトルのうち最も共通
するものから選択された複数の異なる動きベクトルを含
む広域動きベクトルを導出する手段を具えた請求項1〜
8のいずれか1項の装置。 - 【請求項10】 出力映像の各ブロックに対する動きベ
クトルの組は広域動きベクトルを含む請求項8の装置。 - 【請求項11】 各広域動きベクトルに対し、対応する
サーチブロックが当該広域動きベクトルの所定の許容誤
差内の局部動きベクトルを有する出力映像のブロックで
あることを示す広域ベクトル・マスクを導出する手段を
具える請求項9又は10の装置。 - 【請求項12】 出力映像の各ブロックについて、各広
域動きベクトルに対する公算値は、夫々の広域ベクトル
・マスクによって決まる請求項3及び11の装置。 - 【請求項13】 1つ以上の広域動きベクトルが少なく
とも局部動きベクトルの所定比率にほぼ等しいかどうか
を検出することにより、入力映像のパンされる動きを検
出する手段を具える請求項9〜12のいずれか1項の装
置。 - 【請求項14】 出力映像の各ブロックについて、各広
域動きベクトルに対する公算値は、入力映像のパン運動
が検出されるかどうかによって決まる請求項3及び13
の装置。 - 【請求項15】 上記割当て手段は、出力映像の各ブロ
ックにゼロ動きベクトルを割当てる動作をする請求項1
〜14のいずれか1項の装置。 - 【請求項16】 出力映像の各ピクセルの補間に用いる
動きベクトルを選択する手段であって、当該出力映像に
割当てられた上記グループにおける各動きベクトルによ
って指し示される入力映像のテストブロック間の相関度
を検出する手段と、夫々のテストブロック間で最高相関
度をもつ動きベクトルのグループから1つの動きベクト
ルを選択する手段とを含む、上記選択手段を具える請求
項1〜15のいずれか1項の装置。 - 【請求項17】 入力映像が入力飛越しビデオ信号の連
続するフィールドを含む請求項1〜16のいずれか1項
の装置。 - 【請求項18】 出力映像が出力飛越しビデオ信号のフ
ィールドを含む請求項1〜17のいずれか1項の装置。 - 【請求項19】 請求項1〜18のいずれか1項の装置
を含むテレビジョン標準方式変換装置。 - 【請求項20】 出力ビデオ信号の出力映像を入力ビデ
オ信号の時間的に隣接する入力映像の対応する対から補
間する動き補正ビデオ信号処理方法であって、 上記対の一方の入力映像の夫々のサーチブロックの、当
該映像及び上記対の他方の映像間の映像の動きを表す複
数の局部動きベクトルを発生するステップと、 各局部動きベクトルによって指し示される出力映像のブ
ロックを検出するステップと、 出力映像の各ブロックに動きベクトルのグループを割当
てるステップであって、該ベクトルのグループは、少な
くとも出力映像の当該ブロックを指し示す局部動きベク
トルを含む1組の動きベクトルから選択されるものであ
る、上記割当てステップと、 当該ブロックに割当てられたグループから1つの動きベ
クトルを用いて、入力映像対から出力映像の各ブロック
のピクセルを補間するステップとを含む動き補正ビデオ
信号処理方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
GB9322052:3 | 1993-10-26 | ||
GB9322052A GB2283385B (en) | 1993-10-26 | 1993-10-26 | Motion compensated video signal processing |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH07184167A true JPH07184167A (ja) | 1995-07-21 |
JP3845456B2 JP3845456B2 (ja) | 2006-11-15 |
Family
ID=10744131
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP26060794A Expired - Fee Related JP3845456B2 (ja) | 1993-10-26 | 1994-10-25 | 動き補正ビデオ信号処理方式 |
Country Status (3)
Country | Link |
---|---|
US (1) | US5526053A (ja) |
JP (1) | JP3845456B2 (ja) |
GB (1) | GB2283385B (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007074588A (ja) * | 2005-09-09 | 2007-03-22 | Sony Corp | 画像処理装置および方法、プログラム並びに記録媒体 |
Families Citing this family (26)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP0717905B1 (en) * | 1993-09-08 | 1998-04-22 | THOMSON multimedia | Method and apparatus for motion estimation using block matching |
JP3319133B2 (ja) * | 1994-03-29 | 2002-08-26 | ソニー株式会社 | 画像プリンタ装置 |
GB2301971B (en) * | 1995-06-06 | 1999-10-06 | Sony Uk Ltd | Video compression |
JPH11259662A (ja) * | 1998-01-09 | 1999-09-24 | Hewlett Packard Co <Hp> | 画像フレ―ムの移動検出方法および装置 |
WO2000022833A1 (en) * | 1998-10-13 | 2000-04-20 | Stmicroelectronics Asia Pacific Pte Ltd | Motion vector detection with local motion estimator |
US6330032B1 (en) * | 1999-09-30 | 2001-12-11 | Focus Enhancements, Inc. | Motion adaptive de-interlace filter |
KR100708091B1 (ko) * | 2000-06-13 | 2007-04-16 | 삼성전자주식회사 | 양방향 움직임 벡터를 이용한 프레임 레이트 변환 장치 및그 방법 |
US6870945B2 (en) * | 2001-06-04 | 2005-03-22 | University Of Washington | Video object tracking by estimating and subtracting background |
JP3596520B2 (ja) * | 2001-12-13 | 2004-12-02 | ソニー株式会社 | 画像信号処理装置及び方法 |
DE10236207A1 (de) * | 2002-08-07 | 2004-02-26 | Micronas Gmbh | Verfahren zur bewegungsvektorgestützten Interpolation eines Bildpunktes eines Zwischenbildes einer Bildfolge |
US7362374B2 (en) * | 2002-08-30 | 2008-04-22 | Altera Corporation | Video interlacing using object motion estimation |
US7620254B2 (en) * | 2003-08-07 | 2009-11-17 | Trident Microsystems (Far East) Ltd. | Apparatus and method for motion-vector-aided interpolation of a pixel of an intermediate image of an image sequence |
KR100584597B1 (ko) * | 2004-05-10 | 2006-05-30 | 삼성전자주식회사 | 적응적 가중치를 적용한 움직임 추정 방법 및 그를 적용한프레임 레이트 변환 장치 |
GB0519698D0 (en) * | 2005-09-28 | 2005-11-02 | Univ Dundee | Apparatus and method for movement analysis |
GB2431798A (en) * | 2005-10-31 | 2007-05-02 | Sony Uk Ltd | Motion vector selection based on integrity |
GB2431795A (en) * | 2005-10-31 | 2007-05-02 | Sony Uk Ltd | Motion vector selection based on integrity |
GB2431801A (en) * | 2005-10-31 | 2007-05-02 | Sony Uk Ltd | Interpolation using motion vectors |
US20080018788A1 (en) * | 2006-07-20 | 2008-01-24 | Samsung Electronics Co., Ltd. | Methods and systems of deinterlacing using super resolution technology |
DE102007015002A1 (de) | 2007-03-28 | 2008-10-02 | Micronas Gmbh | Iteratives Verfahren zur Interpolation von Bildinformationswerten |
EP2106136A1 (en) * | 2008-03-28 | 2009-09-30 | Sony Corporation | Motion compensated temporal interpolation for frame rate conversion of video signals |
US20110038553A1 (en) * | 2009-08-17 | 2011-02-17 | Chien-Tang Tseng | Picture image file transmission system and method thereof |
JP2012186593A (ja) * | 2011-03-04 | 2012-09-27 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
EP2979449B1 (en) * | 2013-03-25 | 2018-09-26 | Imax Corporation | Enhancing motion pictures with accurate motion information |
GB2569555B (en) * | 2017-12-19 | 2022-01-12 | Canon Kk | Method and apparatus for detecting deviation from a motion pattern in a video |
GB2569556B (en) | 2017-12-19 | 2022-01-12 | Canon Kk | Method and apparatus for detecting motion deviation in a video sequence |
GB2569557B (en) | 2017-12-19 | 2022-01-12 | Canon Kk | Method and apparatus for detecting motion deviation in a video |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2630842B1 (fr) * | 1988-04-29 | 1994-04-08 | Labo Electronique Physique Appli | Dispositif pour interpoler des images par estimation et compensation de mouvement et systeme convertisseur de standards de television constitue a partir d'un tel dispositif |
GB2231749B (en) * | 1989-04-27 | 1993-09-29 | Sony Corp | Motion dependent video signal processing |
GB2248361B (en) * | 1990-09-28 | 1994-06-01 | Sony Broadcast & Communication | Motion dependent video signal processing |
GB2263601B (en) * | 1992-01-24 | 1995-05-24 | Sony Broadcast & Communication | Motion compensated video signal processing |
GB2265065B (en) * | 1992-03-02 | 1995-08-16 | Sony Broadcast & Communication | Motion compensated image processing |
-
1993
- 1993-10-26 GB GB9322052A patent/GB2283385B/en not_active Expired - Fee Related
-
1994
- 1994-10-04 US US08/317,485 patent/US5526053A/en not_active Expired - Lifetime
- 1994-10-25 JP JP26060794A patent/JP3845456B2/ja not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007074588A (ja) * | 2005-09-09 | 2007-03-22 | Sony Corp | 画像処理装置および方法、プログラム並びに記録媒体 |
Also Published As
Publication number | Publication date |
---|---|
GB2283385A (en) | 1995-05-03 |
US5526053A (en) | 1996-06-11 |
GB9322052D0 (en) | 1993-12-15 |
GB2283385B (en) | 1998-04-01 |
JP3845456B2 (ja) | 2006-11-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3845456B2 (ja) | 動き補正ビデオ信号処理方式 | |
US5070403A (en) | Video signal interpolation | |
US6005639A (en) | Vector assignment for video image motion compensation | |
EP1164792A2 (en) | Format converter using bidirectional motion vector and method thereof | |
EP0852096B1 (en) | Motion compensated interpolation | |
JP2528103B2 (ja) | フイ−ルド補間方法 | |
US4862267A (en) | Motion compensated interpolation of digital television images | |
JP3047429B2 (ja) | 動き補償映像信号フォーマット変換装置 | |
JP4153480B2 (ja) | ノイズ減衰装置及び順次走査変換装置 | |
JP4103073B2 (ja) | ビデオ信号を変換する方法および装置 | |
GB2231749A (en) | Motion dependent video signal processing | |
JP3619530B2 (ja) | 画像処理方法及び画像処理装置及びテレビジョン標準変換器 | |
JPS63313981A (ja) | ディジタルテレビジョン画像の動きベクトル処理装置 | |
GB2231226A (en) | Motion dependent video signal processing | |
JP4092778B2 (ja) | 画像信号の方式変換装置及びテレビジョン受像機 | |
JPH02290384A (ja) | 動き補正付きテレビジョン信号方式変換器 | |
EP0395268B1 (en) | Motion dependent video signal processing | |
US5012336A (en) | Motion dependent video signal processing | |
GB2231225A (en) | Motion dependent video signal processing | |
JP3619542B2 (ja) | 動き補正ビデオ信号処理装置及び方法 | |
KR20060135742A (ko) | 영화 모드 적응을 갖춘 움직임 보상된 디-인터레이싱 | |
GB2231748A (en) | Motion compensated video signal processing | |
GB2231750A (en) | Motion dependent video signal processing | |
EP0395269B1 (en) | Motion dependent video signal processing | |
Braun et al. | Motion-compensating real-time format converter for video on multimedia displays |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050210 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050308 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050506 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20060418 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060712 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060808 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060821 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |